Michael Igor Peschkowsky[2] naît le à Berlin[3]. Il est le fils d'émigrés russesjuifs, qui fuient l'Allemagne nazie au début de la Seconde Guerre mondiale. Son père, Pavel Nikolaevich Peschkowsky, change alors son nom pour Paul Nichols. Michael « Mike » Nichols arrive ainsi aux États-Unis à l'âge de sept ans et passe sa jeunesse à New York.
Ses études à Chicago l'amènent à rencontrer Elaine May avec qui il crée, en 1957, le célèbre duo comique Nichols et May. Lorsqu'ils se séparent en 1961, Mike Nichols persévère avec succès dans le théâtre, principalement dans la mise en scène.
Après ces débuts fracassants, le cinéaste peine à confirmer. Dans les années 1970, le thriller Le Jour du dauphin ou les comédies Catch 22, Ce plaisir qu'on dit charnel et La Bonne Fortune rencontrent un accueil modeste, mais les deux derniers films cités lui permettent de commencer sa collaboration avec Jack Nicholson, qui deviendra l'un de ses acteurs fétiches.
En 1976, il travaille comme producteur exécutif pour créer la série télévisée Family(en) pour le réseau ABC, série qui a duré jusqu'en 1980.
Après huit ans de silence cinéma, Mike Nichols revient en 1983 avec l'étouffant Le Mystère Silkwood, avec Meryl Streep, qui le relance. Il enchaîne avec La Brûlure puis retrouve le succès public en 1986 avec Working Girl, ou la turbulente ascension professionnelle vécue par Melanie Griffith.
Mike Nichols a été marié quatre fois. En , il épouse Patricia Scott, dont il divorce trois ans plus tard en 1960, puis, en 1963, il se marie à Margo Callas, considérée comme la « muse » du poète britannique Robert Graves ; leur union prend fin en 1974, après la naissance de leur fille Daisy. En , Mike Nichols épouse l'écrivaine irlandaise Annabel Davis-Goff(en), avec qui il a deux enfants, prénommés Max et Jenny. Le couple se sépare, puis divorce en . Le , Mike Nichols épouse sa dernière compagne, la célèbre journaliste Diane Sawyer, présentatrice de l'émission d'information ABC World News. Ils resteront mariés jusqu'à la mort du réalisateur, en 2014.