Bekannt wurde Montgomery für seine Lösung von Hilberts 5. Problem 1952 mit Leo Zippin („Small subgroups of finite dimensional groups“. Annals of Mathematics, Band 56, 1952, S. 213),[1] der Frage, ob jede lokal euklidische topologische Gruppe eine Lie-Gruppe ist (also mit differenzierbarer Gruppenwirkung). Ab Ende der 1960er Jahre studierte er mit C. T. Yang die Gruppenwirkungen auf homotopen 7-Sphären (mit verschiedenen Differentialstrukturen).
mit Leo Zippin: Topological Transformation Groups. Interscience, 1955.
mit C. T. Yang: Free Differentiable Actions on homotopy spheres. In: Proceedings Conference on Transformation Groups. New Orleans 1967, S. 175, Springer-Verlag 1968.
mit C. T. Yang: Differentiable pseudo-free circle actions on homotopic 7-spheres. In: Proceedings Conference on Transformation Groups. University of Massachusetts, 1971, Springer-Verlag.
Literatur
Benjamin H. Yandell: The honors class. Hilbert’s problems and their solvers. AK Peters, Natick MA 2001