Martin va néixer al costat del llac de Constança; els seus pares regentaven una fonda a Wasserburg i Walser va estudiar en una escola secundària de Lindau. Va descriure l'ambient de la seva infància en la novel·la Ein springender Brunnen.
Va interrompre els seus estudis de filosofia i lletres per lluitar en una unitat antiaèria durant els últims dies de la Segona Guerra Mundial; els va reprendre després i va fer el batxillerat ("Abitur") el 1946; es va casar el 1950 i es va doctorar el 1951 amb una tesi sobre Franz Kafka. Va treballar com a realitzador televisiu i a la ràdio.
Atret pel compromís social, va formar part del moviment literari Grup 47 des de 1953 i va començar a fer-se conèixer en 1955 amb la col·lecció de nou relats "Un avió sobre la casa", alemany: Ein Flugzeug über dem Haus (1955). Es tracta de contes kafkians en què tracta sobre tot el tema del poder paralitzant i alienador i el conflicte entre l'un i els altres, i on es verifica que el llenguatge del poder és indesxifrable i no sembla regir-se per la raó davant l'individu que el pateix.
Les seves peces dramàtiques tracten sobre temes polítics o relacions conjugals, com "Roure i angora: una crònica alemanya", alemany: Eiche und Angora. Eine deutsche Chronik, "La casa del cigne" alemany: Das Schwanenhaus, "El cigne negre" alemany: Der Schwarze Schwan i "La guerra dels Fink" alemany: Finks Krieg.
