Fils du travailleur des chemins de fer, Mikhaïl Roujnikov naît à Varsovie, dans le Royaume du Congrès, alors sous Empire russe. À la fin des études secondaires au gymnasium no 12 de Moscou, il fait les études à la faculté juridique de l'Université d'État de Moscou. Il joue également sur scène du théâtre amateur et prend les cours privés d'art dramatique auprès de l'actrice du Théâtre Maly Matveïeva et dans le studio d’Alexandre Heuroth(ru). En 1919-1921, il devient comptable et responsable de la section du commerce alimentaire de Khamovniki. Parallèlement, en 1920-1922, il est élève du studio de Fédor Chaliapine, dont l'un des professeurs, Leonid Leonidov, influencera fortement son style.
Sa carrière d'acteur commence en 1922, sur scène de la Maison de la presse de Moscou. Après de multiples changements de théâtre, l'essentiel de sa carrière se déroulera au Théâtre Vakhtangov (1945-1965).
Le prix Staline lui est décerné en 1951, pour le rôle de capitaine Robert Scott dans le film Ils ont une Patrie (1949) d'Alexandre Feinzimmer.
