Grande organizzatore e stratega militare, assunse nel 1939 la carica di capo di stato maggiore dell'Esercito degli Stati Uniti, mantenendo l'incarico per tutta la seconda guerra mondiale e divenendo il principale consigliere militare del presidente Franklin Delano Roosevelt, che riponeva piena fiducia nelle sue capacità.
Pur non assumendo mai comandi operativi sul campo, Marshall, personalità austera e autorevole che godeva di grande prestigio all'interno delle forze armate, diresse dagli Stati Uniti lo sforzo bellico globale del paese e svolse un ruolo decisivo per il potenziamento dell'esercito americano che si trasformò nel corso del conflitto in una potente ed efficiente macchina da guerra completamente motorizzata in grado di vincere sia in Europa che sul fronte del Pacifico.
In questa carica riorganizzò profondamente le forze armate statunitensi nella prospettiva della guerra, ed esercitò una grande influenza sulla condotta delle operazioni in tutti gli scacchieri bellici del mondo.
Nel 1941 entrò a far parte della massoneria come membro "a vista" (cioè senza cerimonia rituale d'iniziazione) per intervento del Gran Maestro della Gran Loggia del District of Columbia[1].
Partecipò anche alle conferenze interalleate di Casablanca, Jalta e Potsdam, in cui vennero decise le grandi linee strategico-politiche della guerra. Dopo la vittoria tentò, senza successo, una mediazione tra Mao Zedong e Chiang Kai-shek per evitare la guerra civile in Cina.
Nel 1947 fu chiamato dal presidenteHarry Truman alla segreteria di Stato, e fu allora che, in un discorso all'Università Harvard, offrì agli Stati europei il finanziamento di quel programma di ricostruzione economica che passò alla storia come piano Marshall. Il piano fu accettato solo dai paesi dell'Europa occidentale, che contribuirono a formularlo nei dettagli.