Aux origines du rock, le Sud des États-Unis est omniprésent, d'Elvis Presley à Jerry Lee Lewis, en passant par Little Richard. Les années 1960 changent la donne avec la vague britannique puis la montée en puissance du folk et du rock psychédélique qui mettent en avant des villes comme New York, Los Angeles ou San Francisco.
Originaire de Géorgie, The Allman Brothers Band, qui débute avec son blues rock en 1969, tente de remonter aux racines du blues en l'agrémentant de longs solos et de parties de guitares harmonisées (souvent en tierce ou en quinte) entre Dickey Betts et Duane Allman, à la manière des jams de jazz. Ils introduisent également dans leur musique de la country et du folk et l'omniprésence de la guitare slide et peuvent-être donc être considérés comme les précurseurs du rock sudiste[1].
Mais c'est avec l'apparition de Lynyrd Skynyrd que ce mouvement musical va être reconnu véritablement comme tel, notamment du fait que le groupe, sur le conseil de sa maison de disques, va s'afficher sur scène devant le drapeau confédéré. Lynyrd Skynyrd est également la première formation de rock sudiste à injecter du rock anglais (influences de Free, Yardbirds, Cream) dans un style à la base marqué uniquement par les divers versants de la musique américaine (blues, country, rhythm and blues, jazz). Lynyrd Skynyrd sera également le premier groupe de rock sudiste à présenter de front trois guitaristes solistes (Gary Rossington, Allen Collins, Ed King puis Steve Gaines à partir de 1976), formule qui sera reprise par d'autres formations sudistes par la suite (Molly Hatchet, Outlaws, etc.), mais jamais avec une telle réussite.
À partir des années 1970, de nombreux groupes vont utiliser les bases posées par ces deux formations pour générer une musique souvent dominée par d'omniprésentes chevauchées de guitares et interprétée par des formations en général assez importantes où les instruments sont régulièrement doublés, voire triplés (notamment les guitares) permettant ainsi d'augmenter les possibilités harmoniques et les dialogues entre les instruments. Les groupes de rock sudiste se caractérisent également en général par un affichage marqué de leur identité culturelle, en référence au dixieland, avec une image parfois rurale en complète contradiction avec les origines souvent urbaines des musiciens, le mythe du cow-boy restant encore porteur au vingtième siècle. Les autres formations les plus célèbres du genre sont ou ont été The Marshall Tucker Band, Charlie Daniels Band, Wet Willie, Grinderswitch, The Outlaws, Atlanta Rhythm Section, .38 Special, Blackfoot, Molly Hatchet, Point Blank, Black Oak Arkansas, Rossington Collins Band et Dickey Betts, Sea Level plus jazz rock que les autres, notamment.
ZZ Top, trio texan dont les membres sont fiers de leurs images de cowboys du Rio Grande, a été parfois assimilé à ce mouvement musical sudiste, mais doit en être distingué tant sur un plan culturel (les influences latino-américaines propres au Texas sont omniprésentes notamment dans les premiers albums) que musical (la formule du power trio ne correspond pas vraiment aux archétypes du rock sudiste). Le leader du groupe, Billy Gibbons, avait d'ailleurs mis les choses au point en ce sens lors d'une interview à un journal français au début des années 1980. Aujourd'hui[Quand ?], quelques groupes comme Georgia Satellites, The Black Crowes, Gov't Mule ou encore le Derek Trucks Band perpétuent par certains aspects le « son sudiste » sans toutefois se reconnaître de ce mouvement musical.