Gaines syntyi Oklahomassa. Hän aloitti kitaransoiton nähtyään teini-ikäisenä The Beatlesin esiintymisen. Hänen ensimmäinen yhtyeensä oli The Ravens. Lynyrd Skynyrdin jäsen hänestä tuli 1976.
Gaines joutui lokakuussa 1977 lento-onnettomuuteen, jossa hänen lisäkseen kuolivat yhtyetoverit Ronnie Van Zant ja Cassie Gaines, manageri Dean Kilpatrick sekä pilotit Walter McCleary ja William Gray. Vain hieman aiemmin oli julkaistu albumi Street Survivors.
MCA Records julkaisi vuonna 1988 postuumisti Gainesin sooloalbumin One in the Sun.