Phillips detiene il record del maggior numero di gol segnati con la maglia del Sunderland dal dopoguerra ad oggi, dopo aver superato il precedente record di Gary Rowell. Phillips, inoltre, ha giocato nel Watford, nel Southampton e nell'Aston Villa. Il suo ruolo preferito è quello di attaccante centrale al fianco di un realizzatore, ruolo che fu la base dei suoi successi al Sunderland, pur avendo comunque trovato successo al fianco di attaccanti di diverso tipo.
Phillips è famoso per i suoi exploit nelle realizzazioni, ma ha cominciato la carriera al Baldock Town come difensore destro, dopo essere stato scartato dal Southampton all'epoca delle giovanili, perché ritenuto troppo gracile fisicamente.
Nella stagione 1999-2000 Phillips, segnando 30 reti, ha vinto il titolo di capocannoniere della Premier League e la Scarpa d'Oro come miglior realizzatore europeo della stagione, succedendo a Mário Jardel.
Nell'estate 2011 passa al Blackpool. Segna i suoi primi due gol con i Tangerines nella vittoria per 2-1 contro il Peterborough. Nel gennaio 2013 viene ceduto in prestito al Crystal Palace, con cui centra la finale playoff di Championship contro il Watford, decisa per altro da un suo rigore nei tempi supplementari.