Han deltok som frivillig på finsk side i vinterkrigen 1939–1940. Han deltok deretter i kampene i Norge. Kayser forlot Norge ombord på MK «Leda» 1. september 1941 og ankom Lerwick 4. september [3]. Der sluttet han seg til Kompani Linge, og deltok i Lofotenraidet i 1941.
Kayser var en av de ni fra Kompani Linge som gjennomførte den vellykkede sprengningen av Norsk Hydros fabrikk på Rjukan under Vemorkaksjonen. Han tok seg deretter velberget ut av Norge og returnerte til Storbritannia, hvor han ble forfremmet til løytnant. Der påtok han seg i 1944 oppdraget med å være nestkommanderende for geriljaavdelingen Bjørn West som skulle bygges opp i Matrefjellene nord for Bergen, i påvente av en eventuell alliert invasjon av Norge. 15. oktober1944 kom Kayser til Masfjorden sjøveien sammen med sersjant Severin Synnes. Sjefen for den planlagte avdelingen, kaptein Harald Risnes, sluttet seg snart til dem. Sammen med ytterligere noen ankomne nordmenn fra Kompani Linge organiserte og trente de opp en styrke som til slutt talte 250 mann, og som i april–mai 1945 havnet i aktive kamper med den tyske okkupasjonsmakten.
Etter krigen
Han ønsket ikke å fortsette i hæren etter freden, men søkte i stedet en karriere i næringslivet. Han var også aktiv i Foreningen Bjørn West, en forening av veteraner fra Bjørn West-basen.[4]
