En tant que joueur, il commença sa carrière en 1979. Il remporta un seul tournoi en simple (tournoi de La Quinta en 1985) et 3 en double, et fut classé 35e mondial.
Mais c'est en tant qu'entraîneur qu'il est surtout renommé : il fut en effet le mentor de John McEnroe, Tim Henman, Marcelo Ríos, et Ievgueni Kafelnikov, ces 2 derniers atteignant la place de no 1 mondial sous son office. Il était entraîneur de Fernando González jusqu'à fin 2008 et lui a permis d'atteindre son meilleur classement (5e). Larry a ensuite entraîné Andy Roddick. En 2009 Larry Stefanki lui permet de retrouver son meilleur niveau lui permettant d'atteindre à nouveau une finale en Grand Chelem à Wimbledon. À noter que Larry Stefanki a emmené Fernando González et Andy Roddick tous deux en finale d'un Grand Chelem, respectivement l'Open d'Australie 2007 et Wimbledon 2009, et qu'ils ont tous deux perdus face à Roger Federer.