Han tiltrakk seg snart oppmerksomhet fra europeiske speidere og ble i 1997 kjøpt av den spanske klubben Real Valladolid. Heinze forlot hjemlandet i ung alder uten å ha vært involvert i landslaget. Den tøftspillende, venstrefotede forsvarsspilleren var knapt kjent i sitt hjemland. Han ble lånt ut til det portugisiske laget Sporting Lisboa foran 1998/99-sesongen.
Paris Saint Germain
Da han etter endt låneperiode returnerte til Spania utviklet han seg til stjerne i Valladolid-laget. Han fikk rykte på seg for å være en sterk venstreback og en god hodespiller. Det førte til en overgang til Paris Saint Germain i 2001, der han fortsatte å imponere. Mellom 2003 og 2004 mottok han vinnermedalje i Coupe de France og sølvmedalje i Ligue 1.
Manchester United
Mens forsvarsspilleren forberedte seg til Argentinas VM-kvalifiseringskamper i mai ble han linket til Manchester United. Et par uker senere signerte han en femårskontrakt på Old Trafford.
Heinze har fått rykte på seg for å være en sterk, kompromissløs forsvarsspiller. Han er også kjent for sin stahet og sine lederegenskaper. I tillegg er han kjent for å være svært sterk i lufta. Han ankom England med rykte på seg for å være en "hardman". En avis i Frankrike hadde en undersøkelse for å finne ut hvilken forsvarsspiller fansen mente var tøffest i spillestilen i fransk fotball – Heinze vant overlegent. Kjøpet av argentineren gjorde at Sir Alex Ferguson og Manchester United, etter lengre tids leting, fikk en venstreback i verdensklasse.
Han fikk en knalldebut for United i september 2004 med et mål i 2-2-kampen mot Bolton Wanderers og etablerte seg umiddelbart som Uniteds førstevalg på venstrebacken med flere svært imponerende opptredener. Manchester United-fansen trykket argentineren til sitt bryst for sin eksemplariske innsats og sin glimrende besluttsomhet på banen. Heinzes imponerende spill ble ofte hyllet av United-fansen på tribunen med tilropet "Ar-gen-tina!" Heinze ble kåret til årets spiller av United-fansen etter 2004-05-sesongen. Han slo dermed klubbens toppscorer Wayne Rooney, og ble i tillegg første søramerikaner til å vinne prisen. I august 2005 ble han kåret til Den beste forsvareren i Paris St Germains historie.
Heinze ble skadet i Mesterliga-kampen mot Villarreal den 13. september og var ute av spill resten av sesongen. United fikk et stort hull å tette i Heinzes fravær, noe som forsterket inntrykket av hvor viktig argentineren var for Manchester-klubben. Kieran Richardson, John O'Shea og Patrice Evra hadde alle spilt på Heinzes venstrebackposisjon med svært varierende suksess. Ferguson uttalte at laget hans savner Heinzes rutine og lederegenskaper.
Overgangskonflikten sommeren 2007
Lag som Liverpool FC, Juventus, Newcastle United og Real Madrid var interessert i en overgang for Heinze sommeren 2007.[6] Etterhvert bekreftet Alex Ferguson at Heinze ønsket å forlate klubben.[7] Ferguson ønsket imidlertid ikke å la Heinze gå til erkerivalene Liverpool, noe som fikk Heinze til å true med å gå til rettssak.[8] Heinze krevde etterhvert fast plass eller lov til å gå til Merseyside-laget.[9] I møte mellom Henize og Alex Ferguson skal Heinze ha uttalt at Manchester United har brutt sitt løfte til han.[10] Det ble etterhvert også meldt at Premier League ville se nærmere på saken[11], og en høring i saken ble bestemt.[12] Ettersom konflikten dro ut i tid tilbydde Manchester United Heinze til de spanske storklubbene Barcelona og Real Madrid, mens hovedpersonen selv ville til Anfield. 22.08.07 skrev Heinze under en fireårskontrakt med Real Madrid.[13]
Real Madrid
22. august2007 gikk Heinze til den spanske storklubben etter å ha signert en 4-årskontrakt. Heinze skal ha kostet £8 millioner.[14] Han debuterte 2. september 2007 mot Villarreal da han kom innpå som innbytter.
Marseille
Heinze meldte overgang til Olympique de Marseille den 30. juli 2009 og skrev under på en toårsavtale.
Landslagsspill
Heinze spilte for det argentinske fotballandslaget som vant gull i Sommer-OL 2004. Gabriel var del av nok et sterkt defensivt lag da Argentina gikk gjennom turneringen uten å slippe inn mål. Heinze blir på landslaget vanligvis brukt på venstresiden i en forsvarstreer, og blir dermed ikke så offensiv som han blir når han spiller på venstrebacken på klubbnivå.
Heinze har italiensk pass, men valgte å spille for fødelandet Argentina. Han var fortsatt en ukjent back i Argentina da han fikk sin femte landskamp, mot Ecuador. Han måtte bli introdusert for fansen i pressen hjemme. Hans prestasjoner i PSG gav ham en plass i Argentinas tropp foran kvalifiseringen til Fotball-VM 2006.
Han ble også tatt ut i Argnetinas tropp til VM i fotball 2010. Han scoret Argentinas eneste mål i første kamp mot Nigeria.