A Hongria jugà pels clubs Ferencváros TC, on guanyà la seva primera lliga hongaresa el 1949, i Budapest Honvéd després de ser enrolat a l'exèrcit. Allí fou tres nous cops campió hongarès (1952, 1954 i 1955) i tres cops màxim golejador de la lliga (1951, 1952 i 1954, marcant 30, 36 i 33 gols respectivament). Amb aquest club fou dos cops bota d'or europeu els anys 1952 i 1954.
Debutà a la selecció de futbol d'Hongria l'any 1948 amb la qual jugà fins al 1956. Marcà sis gols als Jocs Olímpics de Hèlsinki on fou campió. També guanyà el Campionat d'Europa Central del 1953 i fou finalista de la Copa del Món de 1954, on fou el màxim golejador amb 11 gols. Només Just Fontaine ha marcat més gols en una única Copa del Món. En total disputà 68 partits per Hongria, on marcà l'extraordinària xifra de 75 gols, inclosos set hat tricks.
L'any 1956 esclatà la revolució hongaresa i alguns jugadors marxaren a l'Europa Occidental. Kocsis ingressà al Young Fellows Zürich abans de fitxar pel FC Barcelona, persuadit per Ladislau Kubala, juntament amb el seu company Zoltán Czibor. Al Barça formà un part del llegendari equip de finals dels 50 i principis dels 60 amb el qual guanyà el doblet (lliga i copa) el 1959 i un nou doblet (lliga i Copa de Fires) el 1960. L'any següent arribà a la final de la Copa d'Europa però perdé la final davant el SL Benfica. Guanyà una darrera copa el 1963. L'estiu del 1961 va jugar cedit amb el València CF amb motiu del Trofeu Taronja, que guanyà l'equip local.[2] Va marcar gol en els dos partits que jugà com a valencianista, derrotant el Botafogo i al seu equip, el Barça.
El 1966 es retirà com a futbolista i obrí un restaurant a Barcelona anomenat Tete D'Or. També treballà com a entrenador al club i dirigí l'Hèrcules CF entre 1972 i 1974. La seva carrera com a entrenador, però, es veié estroncada quan li fou diagnosticada una leucèmia. Va morir a Barcelona el 22 de juliol de 1979 en caure (o llançar-se) del quart pis de l'hospital on estava ingressat per un càncer.