Élève de l'École nationale des chartes, il obtient en 1946 le diplôme d'archiviste paléographe, avec une thèse intitulée Un commentateur des Sentences au XIVe siècle, Jean de Mirecourt[2].
Il est d'abord conservateur au département des Manuscrits de la Bibliothèque nationale de France, puis à partir de 1967 maître de recherches au CNRS[3] où il termine sa carrière comme directeur de recherches.
Le , il obtient le titre de docteur ès lettres[4].
Ses travaux scientifiques ont apporté un éclairage fondamental sur la vie intellectuelle en France du Nord au Moyen Âge tardif, notamment en ce qui concerne les rapports franco-italiens et les premiers ferments du mouvement humaniste (Jean de Montreuil, Jean Gerson, Pierre d'Ailly). Il est également un excellent connaisseur des manuscrits de l'époque et s'est attelé avec succès à la reconstitution de bibliothèques importantes, ainsi que de scriptoria d'auteurs dont il avait identifié par ailleurs plusieurs témoins autographes.
Gilbert Ouy, Le recueil épistolaire autographe de Pierre d’Ailly et les notes d’Italie de Jean de Montreuil, Amsterdam, 1966, in-fol., XLII-190 pp.(« Umbræ Codicum Occidentalium », vol. IX)
Le catalogue de la bibliothèque de l’abbaye de Saint-Victor de Paris de Claude de Grandrue 1514. Présentation, texte et index par V. Gerz-von Büren en collaboration avec R. Hübschmidt et C. Régnier ; historique de la bibliothèque et concordances par G. Ouy, Paris, 1983, lxiii-734 pp.
Danièle Calvot et Gilbert Ouy, L'œuvre de Gerson à Saint-Victor de Paris : catalogue des manuscrits, Paris, CNRS Éditions, 1990, 268 p.-[1] f. de pl.-|6] p. de pl.
Gilbert Ouy, Les manuscrits de l’abbaye de Saint-Victor : catalogue établi sur la base du répertoire de Claude de Grandrue (1514),Paris-Turnhout, 1999, 2 vol. 395 et 636 pp., 8 pl. h.-t. (« Bibliotheca Victorina » X)
Gilbert Ouy, La librairie des frères captifs :les manuscrits de Charles d’Orléans et Jean d’Angoulême, Turnhout, 2007, 185 pp., 8 fig. (« Texte, Codex & Contexte » 4)
Jean de Montreuil, Opera, éd. Ezio Ornato, Nicole Grévy-Pons et Gilbert Ouy, Torino : G. Giappichelli, 1963-1981, 3 vol.