La costruzione della A 2 è stata decisa tra gli anni 1933 e 1934. Il progetto era unitario tra l'inizio dell'autostrada e Hannover, mentre per il tratto tra Hannover e Berlino c'erano tre possibilità: la prima, passante per Stendal venne scartata per via della scarsa densità abitativa della zona; la seconda venne scartata per lo stesso motivo e per la presenza di zone paludose lungo il tracciato; si decise quindi per la terza ipotesi, quella più a sud, passante per Brandeburgo.
Venne decisa la costruzione di due corsie di 3,75 metri per carreggiata, con uno spazio tra le carreggiate di 4,2 metri.
Il primo tratto ad essere inaugurato, lungo 32 km, fu nel 1936 quello tra le città di Braunschweig e di Lehrte; nella fine dello stesso anno aprirono i tratti tra Hannover e Lehrte, lungo 15 km circa, tra Braunschweig ed Helmstedt, lungo 43 km, ed infine tra il Berliner Ring e la città di Burg (quest'ultimo tratto lungo ben 85 km). Quindi alla fine del 1936 i km aperti al traffico erano 175.
Nel 1937, con l'apertura del tratto tra Helmstedt e Burg, Hannover era definitivamente collegata a Berlino. Alla fine dello stesso anno vennero aperto anche il primo tratto ad Ovest, tra Düsseldorf e Recklinghausen.
Nel 1938 si aprirono i tratti tra Recklinghausen e Gütersloh, tra Gutersloh ed Herford e tra Bad Nenndorf ed Hannover, oltre all'intersezione con l'autostrada BAB1 a Kamen. Pertanto alla fine del 1938, mancava solo il tratto tra Bad Nenndorf ed Herford per il completamento dell'autostrada.
Nel 1939 venne iniziata la costruzione di tale tratto, ma i lavori vennero decisamente rallentati dallo scoppio della Seconda guerra mondiale.
Nel 1940 l'autostrada era praticamente completa, salvo la costruzione di alcuni manufatti, che vennero completati dopo la guerra.
In origine l'Autostrada BAB 2 aveva origine a Venlo, ovvero al confine con i Paesi Bassi, poi, dal 1992, il tratto tra Venlo ed il Kreuz Kaiserberg fu assegnato all'Autostrada BAB 40, mentre il tratto tra il Kreuz Kaiserberg ed Oberhausen, che in origine aveva doppia numerazione BAB 2/3 venne assegnato all'Autostrada BAB 3.
Al km 3,1, provenendo da Oberhausen vi è un cambio nella progressiva chilometrica. Si passa infatti nel conteggio da 3,1 a 470,0.