Gilbert en Walter Dray verbeterden in 1907 en 1908 een aantal maal het officieuze wereldrecord polsstokhoogspringen. Dray verbeterde het record eerst tweemaal via 3,79 m naar 3,82. Vervolgens sprong Gilbert 3,855 en 3,86. Ten slotte was Dray de laatst lachende met 3,90.
Op de Olympische Spelen van 1908 in Londen was Gilbert als wereldrecordhouder de grote favoriet bij het polsstokhoogspringen. Zijn grote rivaal Dray ging niet van start op deze Spelen. De hoge verwachtingen maakte hij waar door met zijn landgenoot Edward Cook een gouden medaille te veroveren. Beiden sprongen over een hoogte van 3,71 en verbeterden hiermee het olympische record. Het brons werd gedeeld door drie atleten die 3,58 sprongen: Ed Archibald (CAN), Charles Jacobs (USA) en Bruno Söderström (SWE). Hij nam ook deel aan het verspringen, waarop hij met 6,97 een vierde plaats behaalde.
Na zijn studie medicijnen aan de Yale-universiteit werd Alfred Gilbert geen arts. In plaats hiervan richtte hij een speelgoedfabriek op, genaamd AC. Gilbert Company. Hij vond de Erector Set uit, een soort van Meccano. In totaal bezat hij 150 patenten op zijn speelgoed en in 1935 was het meer dan 30 miljoen keer verkocht. Later voegde hij scheikundesets, microscopen en ander educatief speelgoed toe aan zijn productielijn. In 1954 gaf hij het bedrijf door aan zijn zoon.
In zijn geboortestad Salem is een museum aan Gilbert gewijd.
