Balkenende opiskeli Amsterdamin Vrije Universiteitilla lakia ja historiaa ja työskenteli myöhemmin yliopiston professorina. Hänen ensimmäisessä hallituksessaan olivat kristillisdemokraattien lisäksi liberaali VVD sekä populistinen LPF eli Pim Fortuynin lista. Ennenaikaisissa vaaleissa tammikuussa 2003 Balkenende sai jatkaa pääministerinä ja muodosti toisen hallituksensa. Hallituskoalition pienin puolue Demokraatit 66 kuitenkin lähti hallituksesta kesäkuussa 2006 menetettyään luottamuksensa liberaalien pakolaisministeri Rita Verdonkin toimintaan Ayaan Hirsi Alin tapauksessa. Balkenende jätti tämän jälkeen eroanomuksensa 30. kesäkuuta.[1] Hallituksen ero hyväksyttiin, minkä jälkeen Balkenende sai tehtäväkseen muodostaa uuden hallituksen. Balkenenden III hallitus astui virkaansa 7. heinäkuuta 2006.
Balkenenden kolmannesta hallituksesta tuli väliaikainen, sillä kesän hallituskriisin jälkeen hän määräsi parlamenttivaalit pidettäviksi ennenaikaisesti. Marraskuussa 2006 pidettyjen vaalien jälkeen alkaneet hallitusneuvottelut kestivät kolme kuukautta. Lopulta kristillisdemokraattinen CDA muodosti hallituksen aiemmin oppositiossa olleen työväenpuolueen (PvdA) sekä kristillisen unionin (CU) kanssa, ja Jan Peter Balkenende jatkoi pääministerinä. Balkenenden neljäs hallitus astui virkaansa 22. helmikuuta 2007. Hallitus kaatui 20. helmikuuta 2010, kun se ei päässyt sopimukseen Afganistanissa olevien alankomaalaisten joukkojen kohtalosta.[2]