Slovo is in Obeliai in Litaue in 'n Joodse familie gebore. Hy emigreer in 1933 na Johannesburg in Suid-Afrika, waar Slovo al op 'n jeugdige leeftyd (in 1941) 'n lid van 'n landelike vakbond word. In 1942 sluit hy by die SAKP aan, maar tydens die oorlogsjare (1942–1945) was hy meer aktief as 'n militêre vrywilliger.
Tussen 1984 en 1991 was Slovo die Sekretaris-Generaal van die SAKP. Vanaf April 1994 tot met sy dood funksioneer hy as Minister van Behuising in die Kabinet van Nelson Mandela.