Brown begann seine musikalische Karriere während des Zweiten Weltkrieges als Schlagzeuger. Als Gitarrist fand er 1947 Beachtung, als er kurzfristig in einem Club in Houston für T-Bone Walker einsprang. Daraus ergaben sich Tourneen im Süden und Südwesten der Staaten und ein Plattenvertrag mit Peacock Records. Zu den Hits aus dieser Anfangszeit zählen u. a. Gatemouth Boogie, Okie Dokie Stomp, Boogie Rambler und Dirty Works At The Crossroad.
1960 nahm Brown in Nashville an einer Fernsehshow teil. Bei dieser Gelegenheit machte er eine Reihe von Country-Aufnahmen. Ende der 1960er-Jahre zog er sich jedoch aus dem Musikgeschäft zurück, zog nach New Mexico und arbeitete als Deputy Sheriff.
Im Rahmen des Blues- und Folk-Revivals in den 1970er-Jahren wurde auch Brown als Blues-Musiker wiederentdeckt. Zwölfmal ging er in Europa auf Tour und nahm neun Alben auf. Im Auftrag des US-Außenministeriums war er als Botschafter der amerikanischen Musik auf Tour, u. a. in Ostafrika.
In den 1980er-Jahren wurde Brown auch in den Staaten wieder populärer. Er hatte im Schnitt 250 bis 300 Auftritte pro Jahr. 1983 wurde er mit einem Grammy für das Album Alright Again! ausgezeichnet und war für fünf weitere nominiert. Zudem erhielt er acht Handy Awards.
1999 wurde Clarence Gatemouth Brown in die Blues Hall of Fame aufgenommen. Im September 2004 wurde bei Brown Lungenkrebs diagnostiziert. Brown, der zuletzt in New Orleans gelebt hatte, verließ die Stadt im September 2005 vor dem nahenden Hurrikan Katrina. Wenig später verstarb der herzkranke Musiker in seinem texanischen Heimatort Orange.