Un couple, Marcel et Odette, prend la gérance d'un hôtel situé au pied du viaduc de Garabit, face au lac du barrage de Grandval, dans le Cantal. Plus tard, Marcel, dévoré par la jalousie, attache Odette à un lit. Il se remémore les années passées, tout en soumettant sa femme à la torture, ses fantasmes se mêlant à la réalité[2].
Selon l'assistant réalisateur d'alors, Costa-Gavras (qui quitta le tournage durant la préproduction pour Compartiment tueurs), c'est en découvrant le film Huit et demi, de Federico Fellini, que le réalisateur Henri-Georges Clouzot eut l'envie de rompre avec le format plus classique de ses précédents films, pour tourner une œuvre d'un genre nouveau[3].
Selon l'assistant chef opérateur, William Lubtchansky, Clouzot s'est vu promettre un budget « illimité » pour ce film par les responsables de la Columbia, fortement impressionnés après avoir visionné les premiers essais et effets visuels, avant l'arrivée des acteurs[3].
Le film doit s'articuler en deux parties, l'une classique, de l'histoire du couple, en noir et blanc, et l'autre qui représente les fantasmes et hallucinations mentales de Marcel Prieur à chaque crise de jalousie ou du passage du train dans le viaduc, des « images-choc » qui déforment la perception visuelle et sonore. La folie est croissante dans le film jusqu'à atteindre une emprise « monstrueuse ». Clouzot s'inspire de l'art cinétique, de l'op art et de la musique électroacoustique, en vogue alors. Les essais expérimentaux, souvent improvisés, furent tournés avec les principaux acteurs pendant plusieurs mois en 1964 aux studios de Boulogne[3].
Après les essais expérimentaux, le tournage à l'extérieur est prévu pour un mois et commence en juillet 1964. Le tournage en studio aurait lieu après. L'action se déroule autour d'un hôtel situé à proximité du viaduc de Garabit. Le cinéaste d'ailleurs ne voulait tourner que dans cet hôtel. Le problème étant que le lac de Grandval doit être asséché dans une vingtaine de jours par EDF, ce qui empêchera les raccords. Prévoyant cela, Clouzot plannifie en amont des scènes et plans à tourner et engage 150 techniciens pour trois équipes techniques. Le tournage connaît bon nombre de péripéties digne d'un « film maudit ». Les exigences de Clouzot ainsi que les remaniements techniques font que le calendrier et le budget sont bien vite dépassés. Les expérimentations visuelles sont pour certaines assez complexes avant le traitement en laboratoire ; dans certaines images, la pellicule est directement en négatif avec seulement une partie du décor ayant une couleur anormale ou hallucinogène (le lac rouge par exemple) ; pour obtenir ce résultat, les acteurs sont habillés et maquillés dans les couleurs complémentaires pour obtenir un résultat normal après traitement. Le perfectionnisme de Clouzot fait que Serge Reggiani quitta le tournage pour dépression en prétextant une fièvre de Malte. Il fut remplacé par Jean-Louis Trintignant qui ne tourna aucune scène. Finalement, le réalisateur eut un infarctus après trois semaines de tournages, interrompant la production[4],[5],[3].
En , Henri-Georges Clouzot explique : « Mon film L'Enfer est dans le pourquoi ? Parce que je suis tombé malade. Pourquoi ? Parce que la journée de tournage de L’Enfer coûtait si cher que j’étais obligé, pour couvrir les frais, de travailler à deux équipes au minimum seize heures par jour. Je ne vois pas bien qui aurait résisté. »[6]
Le film fut inachevé, ne laissant que 185 bobines contenant 13 heures de rushes, qui restèrent inédites jusqu'en 2009[5].
