Hon publicerade sin första roman 1905 men började sedan arbeta som skådespelerska. I Aachen träffade hon Klein-Rogge. Hon skrev sitt första filmmanus, Das Indische Grabmal 1920 tillsammans med Fritz Lang och de gifte sig 1922. Hon skrev bland annat Metropolis baserat på en roman 1926. Förutom till Langs filmer skrev hon även manus bland annat till ett par filmer av F.W. Murnau.
Hon gick med i nazistiska Nationalsocialistiska tyska arbetarepartiet (NSDAP) 1932. Lang delade inte hennes politiska övertygelse och de skilde sig 1933. Året efter flyttade Lang till USA. Efter skilsmässan var hon i hemlighet gift med den indiske journalisten Ayi Tendulkar. Förhållandet hölls hemligt på grund av den nazistiska regimens rasistiska människosyn. Under nazitiden fortsatte hon att skriva manus, bland annat till Veit Harlans propagandafilm Der Herrscher (1937). Hon regisserade också själv två filmer, Elisabeth und der Narr och Hanneles Himmelfahrt (båda 1934).
Eftersom von Harbou varit medlem i nazistpartiet internerades hon efter andra världskriget i ett brittiskt fångläger, från juli till oktober 1945. 1945 och 1946 arbetade hon som "Trümmerfrau" (ruinkvinna).
