Karl Geiger prend part à sa première compétition officielle de la FIS en 2008 et obtient son premier podium international en 2012 à la Coupe OPA à Chaux-Neuve, avant de monter sur deux podiums dans la Coupe continentale estivale.
Il fait ses premiers pas dans la Coupe du monde en à lillehammer, marquant ses premiers points (21e). Le mois suivant, il termine sixième lors du concours pré-olympique de Sotchi. Durant la saison 2013-2014, il s'offre son premier podium de Coupe du monde à l'occasion du concours par équipes de Klingenthal où les Allemands prennent la deuxième place.
Il est sélectionné par Werner Schuster pour sa première Tournée des quatre tremplins en 2014-2015 et de nouveau en 2015-2016.
En , il monte sur son premier podium individuel en terminant deuxième à Lahti. S'il se classe trentième dans la Coupe du monde en 2016, c'est dans la Coupe continentale qu'il s'exprime le plus, terminant deuxième du classement général derrière Clemens Aigner, gagnant trois manches.
Aux Jeux olympiques d'hiver de 2018, Karl Geiger fait partie de l'équipe allemande après avoir loupé la sélection il y a quatre ans. Il y est dixième et septième en individuel, puis remporte la médaille d'argent au concours par équipes avec Richard Freitag, Stephan Leyhe et Andreas Wellinger.
À l'été 2018, il se classe deuxième du classement général du Grand Prix d'été de saut à ski, avec deux victoires en concours à la clé. Il confirme sa bonne forme en remportant deux succès d'étape sur la Coupe du monde 2018-2019 à Engelberg et Willingen. Il est alors choisi pour participer à ses premiers championnats du monde à Seefeld, où il remporte la médaille d'argent sur le grand tremplin derrière son compatriote Markus Eisenbichler, qui remporte sa première victoire ici[1]. Il est également actif dans les deux titres mondiaux par équipes (masculin et mixte) de l'Allemagne. Sur la compétition en petit tremplin, il est dix-huitième, alors qu'il était deuxième dans la première manche, subissant les conditions neigeuses et changeantes[2].
Il continue son ascension en 2019-2020, où il ajoute quatre succès en Coupe du monde à son palmarès, dont deux dans le même week-end à Val di Fiemme et il est troisième de la Tournée des quatre tremplins, son premier podium dans cette compétition, grâce à trois deuxièmes places sur des manches. Au total, il monte sur onze podiums individuels cet hiver, ce qui le propulse au deuxième rang du classement général derrière Stefan Kraft, mais avec plus de 300 points d'avance sur le troisième Ryoyu Kobayashi[3].
En décembre 2020, alors qu'il revient de maladie (il a contracté la Covid-19)[4] et vient de devenir père, sur les Championnats du monde de vol à ski, il remporte la médaille d'or individuel devant la révélation de l'année Halvor Egner Granerud avec une marge minimale de 0,5 point[5], soit son premier titre international et aussi la médaille d'argent par équipes.
Il est ensuite de nouveau vainqueur à Oberstdorf dans le cadre de la Tournée des quatre tremplins 2020-2021. Bien placé, il se loupe à Innsbruck, la troisième étape, où il n'est que seizième[6] et laisse échapper la victoire finale qui appartient au Polonais Kamil Stoch, Geiger prenant la position de deuxième. Sur les compétitions suivantes, il est plus en retrait finissant hors des points à plusieurs reprises.