Olivier Krumbholz évolue pendant dix saisons en championnat de France de Nationale 1A avec le Stade messin étudiants club (SMEC)[2] où il joue notamment avec ses frères Jean-Paul et Pierre. En 1983, il est sélectionné à 9 reprises en équipe de France[1]. Le professionnalisme n'existant alors pas au handball, il est comme beaucoup d'autres joueurs professeur d'EPS[3].
En 1986, à seulement 28 ans, il renonce à sa carrière de joueur pour devenir l'entraîneur de l'équipe féminine de l'ASPTT Metz[4], club dirigé par son Promu en Nationale 1A, il conduit le club messin en finale de la Coupe de France en 1987 puis fait de l'ASPTT Metz le meilleur club français du tournant des années 1990 avec cinq Championnats de France remportés entre 1989 et 1995 ainsi que deux Coupes de France glanées en 1990 et 1994. Il quitte le club en 1995.
Il revient entraîner les Bleues en , succédant à Alain Portes, remercié par la fédération[5]. Il permet ainsi aux Françaises de remporter leur première médaille olympique, l'argent, aux Jeux olympiques de 2016. Les Bleues, sont ensuite médaillées de bronze au championnat d'Europe 2016, puis sont sacrées
championnes du monde 2017, un deuxième titre planétaire à quatorze années d'écart pour Olivier Krumbholz. En 2018, il mène l'équipe de France à la victoire du championnat d'Europe 2018, qui se déroulent en France. Les Bleues sont ainsi directement qualifiées pour les Jeux olympiques de 2020, sans devoir en passer par le tournoi qualificatif.
L'équipe de France est sacrée championne olympique le 8 août 2021[6].
En novembre 2022, à l'occasion de la demi-finale de l'Euro qui oppose ses joueuses à la Norvège, Olivier Krumbholz dispute son 500e match à la tête de l'équipe de France[7].
En 2023, il remporte son troisième titre mondial en tant que coach de l'équipe de France. Après avoir annoncé qu'il « arrêterait après les Jeux de Paris », sa prolongation jusqu'à l'Euro prévu en décembre 2024 n'est pas exclue[8].