Urodził się w żydowskiej rodzinie w Nowym Jorku. Po tym jak jego matka wyszła drugi raz za mąż, przyjął nazwisko ojczyma[2]. Studiował na University of Cincinnati, gdzie grał w koszykówkę. W 1954 wstąpił do uniwersyteckiej drużyny baseballowej, gdzie był obserwowany przez skautówBrooklyn DodgersBilla Zinsera oraz Ala Campanisa[3]. 14 grudnia 1954 roku w wieku niespełna 19 lat podpisał kontrakt z Dodgers[4]. W MLB zadebiutował w czerwcu 1955; 27 sierpnia tego roku w meczu przeciwko Cincinnati Reds zaliczył swoje pierwsze zwycięstwo[5]. W ciągu pierwszych sześciu sezonów Koufax nie występował regularnie i w 1960 roku poprosił generalnego menadżera „Dodgersów” Buzziego Bavasiego o transfer. Ostatecznie zdecydował się pozostać na kolejny sezon[6].
W sezonie 1965 pomimo kontuzji ramienia zdobył ponownie Triple Crown (26 zwycięstw, 382 strikeouts, 2,04 ERA), po raz czwarty w karierze zwyciężył w World Series, otrzymał nagrodę Cy Young Award, a także po raz drugi Babe Ruth Award. 9 września 1965 w meczu przeciwko Chicago Cubs rozegrał perfect game, był to zarazem jego czwarty no-hitter w karierze[6] i 8. perfect game w historii Major League Baseball[10]. W 1966 roku, w którym po raz trzeci sięgnął po Potrójną Koronę (27 zwycięstw, 317 strikeouts, 1,73 ERA), z powodu nasilającej się kontuzji ramienia postanowił przedwcześnie zakończyć karierę[6]. W 1972 został członkiem Galerii Sław Baseballu[11].