Fils de boucher, Legendre est dix ans matelot, avant de s'établir comme maître boucher à Paris.
Son nom est mêlé à toutes les journées de la Révolution. Le , il fait partie des Parisiens qui promènent par les rues les bustes de Necker et du duc d’Orléans. Le lendemain, il entraîne les habitants de son quartier aux Invalides, afin d'y récupérer les armes entreposées, et figure dans les premiers rangs des combattants de la Bastille. Il figure avec Danton et Desmoulins parmi les fondateurs du club des Cordeliers, en 1790.
Dès cette époque, il est déjà fameux comme chef populaire et comme l'une des notabilités révolutionnaires du district des Cordeliers. Il protège Marat contre les persécutions de la police, le cachant à plusieurs reprises pour le soustraire aux poursuites. Le 5 octobre, il prend part à la marche sur Versailles, dans les rangs de la garde nationale. En juin 1791, il signe la pétition du Champ de Mars, pour la déchéance du roi, et doit s'enfuir, après cette journée, comme nombre de patriotes menacés d'arrestation. Il reparaît à la suite de l'amnistie décrétée lors de la ratification de la constitution, est désigné plusieurs fois comme orateur de sa section pour présenter des pétitions à la barre de l'Assemblée législative, contribue à l'envahissement des Tuileries, le , et à la journée du 10 août, qui consomme la chute de la royauté.
Il est exclu du club des Cordeliers pour avoir critiqué les mesures terroristes d’Hébert. Puis, envoyé en mission à Rouen, il agit avec modération contre les royalistes et les fédéralistes. À son retour, avec Danton, il attaque les hébertistes et applaudit à leur proscription, en mars 1794. Il proteste contre l'arrestation des dantonistes et demande que les inculpés soient entendus à la tribune de la Convention. Robespierre combat vivement la motion.
Lors de la séance du 9 thermidor, Legendre, ou Garnier de l'Aube, aurait hurlé à l'adresse de Robespierre, momentanément incapable de parler : « C'est le sang de Danton qui t'étouffe ! ». Robespierre aurait rétorqué : « Ah, c’est Danton que vous voulez venger ? Les lâches, pourquoi ne l'avez-vous pas défendu ? ». Il joue un rôle central dans l'élimination des robespierristes et dans la fermeture du Club des Jacobins.
Après la ratification de la constitution de l'an III, il fait son entrée au conseil des Anciens, où il ne joue qu'un rôle effacé mais y demeure jusqu'à sa mort, en 1797. Dans son testament, il lègue son corps à l'école de chirurgie, « afin d'être encore utile aux hommes après sa mort ».
