Cavallo nacque a Washington; suo padre Bob Cavallo lavorava nell'industria discografica come band manager con artisti come Prince e Little Feat. Quando Rob aveva più o meno dieci anni la sua famiglia si trasferì a Los Angeles. In quegli anni Cavallo suonò in piccole band locali, e dopo aver terminato gli studi iniziò a lavorare come ingegnere del suono. Dalla metà alla fine degli anni '80 Cavallo lavorò con molte band hair metal di Hollywood e dintorni come produttore. Continuò questo lavoro anche durante i primi anni '90; tuttavia, quando il movimento grunge causò il declino dell'hair metal Cavallo cominciò a lavorare con band alternative rock. Al momento vive in California con la moglie Amy e ha due figlie, Emily Jackson e Estelle-Deseraie.
Cavallo ha prodotto anche il terzo album dei My Chemical RomanceThe Black Parade, pubblicato il 24 ottobre 2006 negli Stati Uniti e il 23 ottobre 2006 in tutto il mondo[1].
Spesso Cavallo suona anche il pianoforte negli album che produce, per esempio nella traccia Cancer di The Black Parade.
Il 6 marzo 2008 è stato annunciato che Cavallo ha registrato l'ultimo album della Dave Matthews Band, Big Whiskey and the Groogrux King[2].[3][4]
Inoltre è stato scelto per produrre il prossimo album di Meat Loaf, programmato per il 2010[5].