Da Bakke var 22 år fikk han jobb ved Arendal Smelteverk på Eydehavn. Samtidig kjøpte han seg tomt på Stranda på Eydehavn. To år etter ble han formann i arbeiderforeningen på smelteverket. Etter hvert ble han stadig mer aktiv i Eydehavn Arbeiderparti. I 1922 ble han valgt inn i Stokken herredstyre.
Bakke ble varaordfører i 1925 og var ordfører fra 1928 til 1931. Bakke hadde et sterkt religiøst engasjement ved siden av politikken og var troende baptist.
