La primera vez que entró en contacto con el boxeo fue cuando, aun siendo un adolescente, su padre lo llevó a ver la película de la pelea por el Campeonato de los Pesos Pesados entre Jack Dempsey y Georges Carpentier. Impresionado con el desempeño de Dempsey en esa pelea, Schmeling tomó la determinación de imitar a su nuevo héroe.
Comenzó a boxear en concursos de aficionados y, en 1924, ganó el título nacional aficionado de Alemania en la división de Peso Ligero. Poco después se convirtió en profesional. Irónicamente, a pesar de que su ídolo Dempsey tenía un estilo bravo de pelea, Schmeling desarrolló un estilo más cuidadoso y técnico que se prestaba más al contragolpe. Gracias al uso de este estilo alcanzó un impresionante - aunque apenas sin reconocimiento - récord al ganar diecisiete de sus primeros veintitrés peleas, trece por k.o. En 1925 tuvo la alegría de estar en el ring junto a su ídolo Dempsey, que entonces era todavía Campeón Mundial de Peso Pesado, y se encontraba de gira por Europa. Dempsey peleó dos asaltos con el aún desconocido boxeador alemán y, según una historia contada por Schmeling más tarde, Dempsey quedó muy impresionado. El 24 de agosto de 1926, Schmeling demostró que las alabanzas de Dempsey eran acertadas al ganar el Campeonato Alemán de Peso Semipesado tras derrotar con un nocaut en el primer asalto a Diekmann Max, quien lo había derrotado previamente en 1924. Al año siguiente, Schmeling ganó el Campeonato de Europa al derrotar al belga Fernand DeLarge por nocaut en el 14° asalto. Después de defender ambos títulos contra Hein Domgoergen ese mismo año y, en 1928, retuvo el título europeo de los semipesados con un nocaut en el primer asalto sobre Michele Bonaglia. Retuvo el título de Campeón Semipesado de Alemania con una victoria por puntos ante Franz Diener, y decidió perseguir grandes luchas y grandes bolsas en los Estados Unidos.
Al llegar a Nueva York por primera vez en 1928, Schmeling apenas se hizo notar en los círculos de lucha estadounidenses. Considerado como un luchador rígido europeo que había rellenado su récord contra mediocres peleadores alemanes y europeos, le dieron pocas oportunidades de probarse a sí mismo hasta que se enganchó con el estadounidense, Joe Jacobs, un hombre con los talentos adecuados y conexiones para llevar la carrera de Schmeling hacia buen puerto. El debut de Schmeling en los Estados Unidos se llevó a cabo en el Madison Square Garden con un nocaut en el octavo asalto ante Joe Monte, que no era un gran luchador, aunque era un joven que había participado en peleas duras. Dos victorias más lo llevaron a una pelea con Johnny Risko, uno de los grandes nombres de la división. El 1 de febrero de 1929, Schmeling tumbó a Risko cuatro veces con la mano derecha antes de que el árbitro detuviera el combate en el noveno asalto para salvar Risko de un castigo adicional. Ésta fue la única derrota por nocaut técnico de Risko en toda su carrera. La multitud presente quedó sorprendida y la revista The Ring posteriormente reconoció la victoria de Schmeling como la "Pelea del Año".
El 12 de junio de 1930 se proclama campeón del mundo al vencer a Jack Sharkey, por descalificación de éste en el cuarto asalto, por propinar un golpe bajo. El 21 de junio de 1932, en el Madison Square Garden de Nueva York, Sharkey derrotó en quince asaltos a Schmeling en la revancha, perdiendo el título de campeón mundial en una decisión no unánime muy polémica.
El 8 de junio de 1933, Schmeling recibió una feroz paliza de Max Baer, quien le propinó un nocaut técnico en el décimo asalto. Esta derrota hizo pensar a muchos que ya había pasado el mejor momento de Schmeling.
Volvió a Alemania, y el 6 de julio de 1933 se casó con la actriz cinematográfica Anny Ondra, con quien actuó en el film Knock-out (1935). El matrimonio duró hasta el fallecimiento de ella en Hollenstedt, Alemania.
En 1936 viajó nuevamente a Estados Unidos con el fin de retar a la estrella en ascenso Joe Louis. El combate se celebró el 19 de junio de 1936, y Schmeling vence contra todo pronóstico por nocaut en el 12.º asalto, convirtiéndose en el contendiente número uno para el título que ostentaba James J. Braddock, pero fue Louis quien consiguió la pelea. Tras esta victoria Schmeling fue usado como propaganda nazi de la superioridad aria. Incluso fue fotografiado en una comida con Adolf Hitler, y desde entonces cargaría con sambenito de ser nazi, pese a que nunca quiso afiliarse al partido, y además de demostrar posteriormente su independencia al no quererse separar, pese a las presiones, de Joe Jacobs, judío norteamericano que era su mánager en Estados Unidos
Cuando Louis ganó el título mundial en 1937 declaró que no se consideraría realmente campeón mundial hasta que no venciera a Schmeling. Schmeling finalmente tuvo la oportunidad de recuperar su título en la revancha contra Joe Louis. El combate se realizó el 22 de junio de 1938 en el Yankee Stadium. La pelea fue aprovechada políticamente para convertirla en un enfrentamiento entre Estados Unidos y la Alemania nazi. El combate fue vibrante, aunque Louis noqueó a Schmeling en el primer asalto. Schmeling acabó con dos costillas rotas. Esta derrota le hizo caer en desgracia en Alemania, mientras en Estados Unidos lo acusaban de nazi, en su país no era bien visto por su derrota.
Tras la Noche de los cristales rotos, Schmeling logra sacar del país a su mánager Joe Jacobs y a su mujer Anny Ondra, que eran judíos y enviarlos a Estados Unidos.
Durante la Segunda Guerra Mundial, Schmeling sirvió con la Fuerza Aérea alemana (Luftwaffe) como un paracaidista de élite (Fallschirmjäger). Llegando a combatir en la Batalla de Creta. Debido a los saltos, se llegó a romper los tobillos, lo que le causó el abandono profesional del boxeo. Mucho tiempo después de la Segunda Guerra Mundial, surgió cierta evidencia de que Schmeling había arriesgado su propia vida para salvar la vida de dos niños judíos en 1938. Después de la guerra, Schmeling trató de regresar al boxeo, pero se retiró definitivamente en 1948.
Después de retirarse del boxeo, a Schmeling le ofrecieron la representación de Coca-Cola en Alemania, que aceptó, lo que le hizo rico, y un hombre de gran influencia.
Schmeling se hizo muy amigo de Joe Louis, y su amistad duró hasta la muerte de éste en 1981. Durante la vida de Louis, Schmeling demostró su buen corazón ayudando a su adversario más encarnizado, que se había empobrecido. Posteriormente pagó los gastos de su enfermedad y hasta su entierro.
En 2003, Schmeling fue clasificado en el puesto 55 en la lista de la revista The Ring de los 100 boxeadores más grandes de todos los tiempos.
Hasta su muerte, el 2 de febrero de 2005 a la edad de 99 años, continuó con sus negocios, y fue muy querido por sus compatriotas y recordado en el mundo del boxeo.
En octubre del 2010, el director alemán Uwe Boll estrena una película sobre su vida.
Honores
• Campeón Alemán Semipesado 1926-1928 • Campeón Europeo Semipesado 1927-1928 • Campeón Alemán de Peso Pesado de 1928 • Campeón Mundial de Peso Pesado 1930-1932 • Campeón Europeo de Peso Pesado 1939-1943
Ganó los títulos de EBU y BDB de Alemania de Peso Pesado. Esta ha sido la pelea de mayor audiencia en la historia del boxeo alemán con 70.000 personas.
Walker cayó una vez en el primer asalto y 2 veces más en el octavo asalto. Jack Kearns, el manejador de Walker, le señaló al árbitro Denning que parara el combate.