Durant son adolescence, il s'est investi dans la production de groupes vocaux locaux tels que les Embers (pas d'enregistrements sortis, uniquement des démos réalisées au studio Adlphi de New York)[réf. nécessaire].
La mort de sa sœur d'une leucémie[14],[11] le fait tomber en dépression et dans l'addiction à la drogue, le contraignant à quitter les plateaux de tournages. Francis Ford Coppola le sort de sa léthargie et le fait revenir au cinéma en lui offrant le premier rôle dans son film Jardins de pierre, sorti en 1987. James Caan y incarne un vétéran de la guerre du Viêt Nam[12]. Grâce à ce film, il reprend goût à la vie et au cinéma.
Sa filmographie s'illustre ensuite entre autres du huis clos Misery (1990), adaptation du roman de Stephen King où il incarne un romancier séquestré par une admiratrice psychotique interprétée par Kathy Bates mais aussi L'Effaceur (1996), où il affronte Arnold Schwarzenegger[13],[12]. Il joue le rôle de l'escroc excentrique Monsieur Henry dans le premier film de Wes Anderson, Bottle Rocket sorti en 1996.
En parallèle, il prête sa voix de manière sporadique dans plusieurs œuvres. Il fait une apparition en 2004 dans Les Simpson, dans le deuxième épisode de la saison seize, où il participe à la surprise-party de Bart[18]. Lorsque, à la fin de l'épisode, il part avec la femme de Cletus, il se fait descendre au péage, parodiant ainsi son personnage de Sonny Corleone[18]. Avant d'agoniser, il dit « La prochaine fois, je prendrai l'avion ! ». En 2006, il reprend de manière inattendue le rôle de Santino « Sonny » Corleone dans l'adaptation vidéoludique du film Le Parrain développée par EA Redwood Shore[19]. En 2009, il prête de nouveau sa voix pour jouer une version fictive de lui-même, apparaissant ainsi dans Something, Something, Something, Dark Side(en), un épisode de la série d'animation Family Guy sorti directement en DVD[20]. Il est également la voix du père du protagoniste du film d'animation Tempête de boulettes géantes, du duo Phil Lord et Chris Miller[21]. Il reprend le personnage dans la suite sortie en 2013[22].
En 2013, il participe à la brève aventure américaine de Guillaume Canet, tournant dans son film Blood Ties, reprise du film français Les Liens du sang de Jacques Maillot[24]. Il retrouve également un rôle récurrent à la télévision en intégrant la seconde saison de la série Magic City, qui le voit jouer un mafieux[25].
Après Lelouch et Canet, James Caan tourne avec la réalisatrice française Amanda Sthers dans le film Holy Lands en 2019, adaptation sur grand écran de son livre Les terres saintes publié en 2010[26].
James Caan a été marié avec l’actrice Dee Jay Mathis, de 1961 à 1966, de cette union est née une fille Tara A, née le 5 novembre 1964. Il se remarie le avec l'actrice Sheila Ryan. Ils divorceront le . Ils ont eu un fils, Scott, né le 23 août 1976. Il épouse Ingrid Hajek en 1990. Ils auront un fils, Alexander James, né le 10 avril 1991. Ils divorcent en 1995. Il sera marié à Linda Stokes, de 1995 à 2009, sans avoir signé de contrat de mariage. Deux enfants sont nés de cette union : James Arthur Caan (né en 1995) et Jacob Nicholas Caan (en 1998).
Il est également sixième dan de karaté et cavalier accompli[réf. nécessaire].
Mort
James Caan meurt dans la soirée du à Los Angeles, à l'âge de 82 ans, comme l'annoncent sa famille et son manager Matt DelPiano, le lendemain[13]. Selon son certificat de décès publié par le site TMZ[27], l'acteur est décédé d'une crise cardiaque à la suite d'une maladie coronarienne, mais il souffrait également d'une maladie pulmonaire obstructive chronique et d'insuffisance cardiaque congestive.
James Caan a été inhumé au cimetière israélite du parc mémoriel d’Éden de Los Angeles.