El Yeovil Football Club va ser fundat el 1890. Cinc anys més tard fou anomenat Yeovil Casuals FC i començà a jugar al Pen Mill Athletic Ground. El 1907 adoptà el nom Yeovil Town FC, i amb la fusió amb el club Petters United esdevingué Yeovil and Petters United.[1] El nom retornà a Yeovil Town anteriorment a la temporada 1946-47.
El club ha jugat durant més d'un segle fora de la Football League. El club començà a ser conegut quan durant la FA Cup de la temporada 1948-49[2] eliminà equips com el Sunderland 2-1 a la quarta ronda, però fou vençut pel Manchester United per 8-0 a la següent.[3] Entre 1955 i 1973 es proclamà tres cops campió de la Southern Football League.[4] L'any 1979 fou membre fundador de la Football Conference. L'any 1985 descendí a la Isthmian League. El club es proclamà campió el 1988 i retornà a la Conference. L'any 2002 es proclamà campió del FA Trophy.[4] Finalment es proclamà campió de la Football Conference el 2003 i assolí l'ascens a la Football League per la temporada següent. El 2004-05 es proclamà campió de la League Two. La temporada 2012-13 finalitzà quart a la League One, i disputà les eliminatòries d'ascens, en les quals després de derrotar el Sheffield United i el Brentford FC assolí l'ascens a la Segona Categoria anglesa.