Il retourne dans sa ville natale dès 1954 pour pratiquer le métier de chiropraticien tout en s'impliquant dans le domaine de l'éducation. C'est dans ce contexte que Jean-Robert Gauthier - qui est d'ailleurs le petit-fils du député de GaspéLouis-Philipe Gauthier - entame sa longue carrière politique[1]. Au niveau municipal, il occupe le poste de membre puis de président (entre 1963 et 1966) du Conseil scolaire de Gloucester, puis celui de membre et de vice-président du Conseil scolaire d'Ottawa (entre 1971 et 1972) avant de se présenter aux élections fédérales de 1972 sous la bannière du Parti libéral du Canada[2].
Il est ainsi élu député dans la circonscription d'Ottawa-Est, puis réélu dans la nouvelle circonscription d'Ottawa—Vanier en 1974, 1979, 1980, 1984, 1988 et 1993[1]. Pendant cette période, il préside divers comités et exerce une variété de rôle, dont celui de whip des Libéraux et de l'Opposition officielle de 1984 à 1990, puis celui de chef de l'opposition officielle entre 1988 et 1990[2]. Lors de la victoire libérale en 1993, il se présente pour devenir Président de la Chambre des communes, mais fut défait par Gilbert Parent qui recueillit un vote de plus que lui. Il démissionne de son poste de député en 1994 pour accepter celui de sénateur dans la division de l'Ontario. Nommé sénateur d'Ottawa—Vanier en 2001, il occupe ce poste jusqu'à sa retraite.
Considéré tout au long de sa carrière politique comme un grand défenseur des droits des Franco-Ontariens et du dossier des langues officielles (engagements qui lui valent de nombreuses distinctions), il s'implique aussi au sein de l'Assemblée internationale des parlementaires de langue française. Jean-Robert Gauthier prend sa retraite en 2004 à l'âge de 75 ans[3].