Désigné bourgmestre de sa ville natale en 1957, il est nommé, en 1963, ministre de l'Économie du Land de Hesse, puis ministre des Finances l'année suivante. En 1969, il devient vice-ministre-président, avant d'être investi, quelques mois plus tard, ministre-président.
Il perd, aux élections de 1970, la majorité absolue au Landtag et forme une coalition avec les libéraux. Il est contraint de démissionner six ans plus tard, en 1976, à cause d'un scandale datant de sa vie professionnelle.
À l'occasion de la formation du quatrième gouvernement de Georg August Zinn, le , il est nommé ministre de l'Économie et des Transports du Land, abandonnant alors la mairie de sa ville natale. Devenu ministre régional des Finances lors du remaniement ministériel du , il est élu président du SPD en Hesse-du-Sud en 1967.
Il est promu vice-ministre-président le , dans le cabinet Zinn V.
Ministre-président de Hesse
Le successeur de Zinn
Le , Zinn, au pouvoir depuis dix-neuf ans, annonce sa démission. Le Parlement régional, où les sociaux-démocrates disposent d'une nette majorité absolue, le remplace, le même jour, par Albert Osswald. Il forme son premier gouvernement, qui compte deux vice-ministre-présidents, vingt jours plus tard.
Il succède ensuite à Zinn comme président de la fédération SPD de Hesse.
Coalition forcée avec les libéraux
Aux élections régionales du , le parti remporte 45,9 % des voix, son plus mauvais résultat en seize ans, et perd sa majorité absolue avec seulement 53 députés sur 110 au Landtag. Osswald parvient cependant à se maintenir au pouvoir en formant une coalition sociale-libérale, avec le Parti libéral-démocrate (FDP), qui réunit 64 sièges.
De nouveau candidat à sa propre succession lors des élections du , il voit, pour la première fois de l'histoire régionale, l'Union chrétienne-démocrate d'Allemagne (CDU) arriver en tête avec 47,3 % des suffrages et 53 élus, contre 43,2 % et 49 sièges au SPD. Toutefois, il maintient son alliance avec le FDP, s'assurant une majorité de 57 députés au Landtag.
En sa qualité de chef de gouvernement régional, il prend, le , la présidence tournante du Conseil fédéral, pour un mandat de douze mois.
Fin de parcours
Il remet sa démission le , le jour des élections fédérales, après avoir été mis en cause dans de graves erreurs de gestion de la banque Helaba qui ont conduit le Land à intervenir pour sauver l'établissement de la faillite. Pour le remplacer, le comité directeur régional du SPD choisit le député fédéral Holger Börner.
Retiré de la vie politique en 1977, il est mis hors de cause dans le scandale Helaba l'année suivante. Il meurt lors de ses vacances, en 1996.