Harolde wurde als Sohn der Deutschamerikaner William und Margaret Wigger geboren. Nach seinem Highschool-Abschluss arbeitete er zunächst für kurze Zeit als Bankangestellter und Sekretär, ehe der theaterbegeisterte junge Mann im Jahr 1917 seine erste professionelle Bühnenrolle für 15 Dollar die Woche erhielt. Im Rahmen des Ersten Weltkrieges wurde er in die Armee eingezogen, allerdings aufgrund des Kriegsendes nicht mehr nach Europa in den Kampf gesendet. In den 1920er-Jahren arbeitete er hauptsächlich als Theaterschauspieler, kam aber zugleich zu ersten Filmrollen.[1] Sein Filmdebüt machte er 1920 in Headin’ Home, einem Stummfilm mit und über die Baseball-Ikone Babe Ruth. Erst mit Anbeginn des Tonfilms Ende der 1920er-Jahre verlegte sich Harolde dauerhaft auf das Filmgeschäft.
Insbesondere während der Pre-Code-Ära im Hollywood der 1930er-Jahre verkörperte Harolde oft zwielichtige und verkommene Charaktere, die aber zugleich auch ein gewisses Charisma ausstrahlen konnten.[2] Zu seinen ersten Tonfilmrollen zählt die eines gentlemanhaften Schurken in Dixiana (1930) an der Seite von Bebe Daniels.[3] Eine seiner prägnantesten Rollen war die des Lebemannes Piet Van Saal in William A. Wellmans Filmdrama Safe in Hell von 1931, der die von Dorothy Mackaill gespielte Hauptfigur gleich mehrfach in ihr Unglück stürzt. Ebenfalls 1931 verkörperte er in Leichtes Geld den Trickbetrüger Sleepy Sam an der Seite von James Cagney, zwei Jahre später war er in Ich bin kein Engel (1933) als Taschendieb und früherer Lebensgefährte von Mae Wests Hauptcharakter zu sehen.
Die Qualität und Größe von Haroldes Kinoauftritten ließ nach den 1930er-Jahren nach, zu seinen späteren Filmrollen gehört unter anderem ein krimineller Arzt im Film noirMurder, My Sweet (1944). Möglicherweise waren dafür ein Autounfall 1937 und Gerüchte um eine versuchte Kindesentführung 1938 mitverantwortlich.[4][5] In den 1960er-Jahren klang seine Karriere mit Fernseh-Gastrollen und einem kleinen Auftritt im Film Eine neue Art von Liebe aus. Sein filmisches Schaffen umfasst annähernd 100 Filme sowie einige Fernsehproduktionen. Harolde, der mehrfach verheiratet war, starb im November 1974 im Alter von 75 Jahren.