Després de despuntar al Lledón, va ser captat pel Sevilla FC, on va anar pujant pels diversos equips inferiors. Al 5 de març de 1997 debutava amb els sevillistes a primera divisió, en partit contra el Rayo Vallecano.[1] Eixe any va jugar 21 partits i va marcar 7 gols, sent una de les sorpreses del campionat, la qual cosa li va obrir les portes de l'Atlètic de Madrid.[2]
Al conjunt matalasser, va marcar 18 gols en les seues dues primeres campanyes.[2] A més a més, va quallar destacades actuacions contra el rival de la ciutat, el Reial Madrid. El gener del 2000 fitxa per l'AC Milà,[3] la qual cosa li equival quedar-se fora de l'equip roig-i-blanc fins al final de temporada.[2] Després, durant la seua tercera campanya a Itàlia, retornaria al Manzanares com a cedit.[4]
José Mari va ser 4 vegades internacional per la selecció espanyola, tot marcant un gol.[11] Amb la selecció olímpica va acudir als Jocs Olímpics de Sydney 2000, tot guanyant-hi la medalla d'argent.[12][13]