Hij begon zijn carrière als saxofonist, maar schakelde later over op de piano. Zijn manier van spelen was sterk beïnvloed door de stijl van Bud Powell. Hij werd in een club in Hartford, Connecticut, door de saxofonist Stan Getz ontdekt en met Getz nam hij ook zijn debuutalbum op. Hij verhuisde naar New York, waar hij samen met Art Blakey een band begon.
In 1952 en 1953 nam hij drie sessies op met zijn eigen trio, dat naast hemzelf bestond uit Art Blakey op drums en achtereenvolgens Gene Ramey, Curly Russell en Percy Heath op contrabas. De alliantie Silver-Blakey hield vier jaar stand. Gedurende deze periode werden opnamen gemaakt in onder andere Birdland (A Night at Birdland, met Clifford Brown en Lou Donaldson), het Bohemia (met Kenny Dorham en Hank Mobley), en in verschillende studio's. Vanaf dit moment maakte Silver opnames voor het label Blue Note. Hij raakte bevriend met labelbaas Alfred Lion, die hem voor die tijd bijzonder veel inspraak gaf in de productie van zijn albums.
Gedurende de samenwerking met Blakey nam Silver zelden op als bandleider, maar na de split in 1956 vormde hij zijn eigen hardbop-quintet. Deze band had in het begin dezelfde line-up als Blakey's Jazz Messengers, zij het dan met de 18-jarige Louis Hayes als vervanging voor Blakey. In de tweede line-up maakten ook Blue Mitchell en Junior Cook deel uit van de band.
In 1963 vormde Silver een nieuwe band met Joe Henderson op tenorsaxofoon en Carmell Jones op trompet. Met deze band nam Silver het grootste deel van zijn bekendste album Song for My Father op. Toen Jones de groep verliet om zich in Europa te vestigen, werd hij vervangen door Woody Shaw. Tyrone Washington kwam in de plaats van Henderson.
De composities van Silver, catchy en zeer harmonieus, werden populairder, terwijl zijn band geleidelijk aan meer overschakelde naar funk en soul. Deze koerswijziging werd de band niet in dank afgenomen door vele fans van het eerste uur. Ook over de kwaliteit van de albums uit deze periode zijn de meningen onder de fans verdeeld.
Op veel van deze latere albums speelden interessante muzikanten mee. Silver was de laatste muzikant die in de jaren 70 bij Blue Note tekende, voor het label zijn activiteiten opschortte. In 1981 richtte hij zijn eigen label Silveto op, dat echter maar een kort leven was beschoren.
Discografie
Als leider
Horace Silver Trio (Blue Note, 1952/1953)
Horace Silver and the Jazz Messengers (Blue Note, 1955)
Silver's Blue (Columbia, 1956)
Six Pieces of Silver (Blue Note, 1956)
The Stylings of Silver (Blue Note, 1957)
Further Explorations by The Horace Silver Quintet (Blue Note, 1958)
Finger Poppin' with The Horace Silver Quintet (Blue Note, 1959)
Blowin' the Blues Away (Blue Note, 1959)
Horace-Scope (Blue Note, 1960)
Doin' the Thing, The Horace Silver Quintet at The Village Gate (Blue Note, 1961)
The Tokyo Blues (Blue Note, 1962)
Silver's Serenade (Blue Note, 1963)
Song for My Father (Blue Note, 1964)
The Cape Verdean Blues (Blue Note, 1965)
The Jody Grind (Blue Note, 1966)
Serenade to a Soul Sister (Blue Note, 1968)
You Gotta Take A Little Love (Blue Note, 1969)
The United States of Mind Phase I : That Healin' Feelin' (Blue Note, 1970)
The United States of Mind Phase II : Total Response (Blue Note, 1971)
The United States of Mind Phase III : All (Blue Note, 1972)
In Pursuit of the 27th Man (Blue Note, 1972)
Silver 'N Brass (Blue Note, 1975)
Silver 'N Wood (Blue Note, 1976)
Silver 'N Voices (Blue Note, 1977)
Silver 'N Percussion (Blue Note, 1978)
Silver 'N Strings Play The Music Of The Spheres (Blue Note, 1979)
