Lazar Berman werd geboren in een joods gezin en was een muzikaal wonderkind. Zijn moeder, zelf pianiste, gaf haar eigen carrière op om de ontwikkeling van haar zoon te kunnen begeleiden vanaf zijn tweede jaar. Toen hij negen was, verhuisde zijn familie naar Moskou om hem te laten studeren aan het Conservatorium bij onder meer Alexander Goldenweiser en Svjatoslav Richter. Hij gaf een jaar later zijn eerste openbare concert met het Filharmonisch Orkest van Moskou in het pianoconcert KV 503 van Wolfgang Amadeus Mozart.
In 1956 was hij een laureaat van de Koningin Elisabethwedstrijd in België (dat jaar gewonnen door Vladimir Asjkenazi). In de daaropvolgende jaren verhinderden de Sovjet-Russische autoriteiten hem echter om buitenlandse reizen te ondernemen en moesten de muziekliefhebbers in het Westen het stellen met zijn plaatopnamen op het Russische Melodiya-label, onder meer met werken van Franz Liszt.
In 1975 mocht hij toch een tournee doorheen de Verenigde Staten maken en dit leidde in de daaropvolgende jaren tot een aantal concerten en plaatopnamen, onder meer met Herbert von Karajan in het eerste pianoconcerto van Tsjaikovski. Ook nam hij Liszts complete Années de pèlerinage op.
Na 1980 werd zijn bewegingsvrijheid echter opnieuw beperkt, omdat er in zijn bagage verboden Westerse boeken waren gevonden. In 1990, bij het begin van het uiteenvallen van de Sovjet-Unie, verhuisde hij naar Italië en vestigde hij zich in 1994 in Florence, waar hij in 2005 overleed.
Tijdens de laatste jaren van zijn leven legde hij zich meer toe op kamermuziek, vooral met zijn zoon, violist Pavel Berman.