Ayr United Football Club powstał w wyniku połączenia klubów Ayr Parkhouse F.C. i Ayr F.C. w 1910. W 1913 Ayr po raz pierwszy awansował do szkockiej ekstraklasy. Ayr występował w I lidze do 1925, najwyższe miejsce zajmując w 1916. Do I ligi Ayr powrócił w 1928 i występował w niej do 1936. W następnych latach klub kilka razy wracał do Division One, lecz szybko z niej spadał.
Na dobre klub powrócił do I ligi w 1969 i występował w niej do 1978. Od tamtej pory Ayr United występuje głównie w drugiej i trzeciej lidze. W 2002 Ayr osiągnął największy sukces w swojej historii w postaci finału Pucharu Ligi Szkockiej, w którym uległ Rangers F.C. 0-4.
