Han spillede godsejeren, hvis svaghed koster ham alt i filmatiseringen af Gustav Wieds "Fædrene æde Druer": Sort høst fra 1993.
I de populære Olsen-banden-film spillede Ole Ernst rollen som den grønne politiassistent Henning Holm, der hele tiden får forklaret sagernes rette sammenhæng af den rutinerede kriminalassistent Jensen (Axel Strøbye). En af Holms standardreplikker er "Jamen, det er jo ulovligt".
I slutningen af 90'erne blev han berømt som 'vismanden i tårnet' i tv-programmet Fangerne på Fortet.
Ole Ernst var hans kunstnernavn; oprindeligt hed han også Pedersen. Han kom fra et arbejdermiljø på Vesterbro, som gennem hele hans karriere gav ham et sprudlende sprog og en mimik, gestik og et kropssprog, som var enestående i dansk teater og film.