Matip speelde in de jeugd van SC Weitmar 45 tot hij in 1997 werd opgenomen in de jeugdopleiding van VfL Bochum. Die verruilde hij drie jaar later voor die van Schalke 04. Matip maakte op 7 november 2009 zijn debuut in het betaald voetbal toen hij met het eerste elftal van Schalke 04 een wedstrijd in de Bundesliga speelde tegen Bayern München. Die wedstrijd eindigde in 1–1, na een doelpunt van Daniel Van Buyten na 34 minuten en een doelpunt van Matip in de 43ste minuut. In zijn debuutseizoen kwam hij tot twintig competitieoptredens. Op 2 maart 2010 ondertekende Matip een 3,5-jarig contract bij Schalke 04.[1]
Tijdens de seizoenen 2011/12, 2012/13 en 2013/14 speelde hij telkens meer dan dertig competitieduels mee, waarin hij steevast mocht rekenen op een basisplaats. Door blessures speelde hij in het seizoen 2014/15 wat minder wedstrijden. Daarentegen miste hij gedurende het competitieseizoen 2015/16 geen enkele minuut.
Liverpool
Matip tekende in februari 2016 na 6,5 jaar bij Schalke een contract bij Liverpool. Dat ging in op 1 juli 2016, zodat de Engelse club hem transfervrij in kon lijven.[2] Op 23 augustus 2016 debuteerde Matip voor zijn nieuwe club tegen Burton Albion in de EFL Cup. Vier dagen later speelde hij voor het eerst in de Premier League, bij een 1–1 gelijkspel tegen Tottenham Hotspur. Tegen Crystal Palace op 29 oktober 2016 was Matip voor het eerst trefzeker in het shirt van Liverpool. In zijn debuutseizoen voor de club speelde Matip 29 competitiewedstrijden.
Matip speelde weinig in de eerste seizoenshelft van het seizoen 2018/19, maar was in de tweede seizoenshelft een basisspeler. In de UEFA Champions League-finale van 2018/19 tegen Tottenham Hotspur op 1 juni 2019 gaf Matip de assist bij het doelpunt van Divock Origi. Deze wedstrijd werd door Liverpool met 2–0 gewonnen, waardoor de club voor een zesde keer in de clubgeschiedenis de Europacup I/UEFA Champions League won.
Matip scoorde tegen Manchester City in de FA Community Shield op 4 augustus 2019, maar Liverpool verloor die wedstrijd na een strafschoppenreeks. Op 14 augustus 2019 speelde hij de volledige wedstrijd om de UEFA Super Cup, die door Liverpool na een strafschoppenserie wel werd gewonnen van UEFA Europa League-winnaar Chelsea. In oktober 2019 verlengde de verdediger zijn contract bij The Reds tot medio 2024.[4] Matip kwam in het seizoen 2019/20 vanaf oktober nauwelijks in actie wegens blessures en de voorkeur die Joe Gomez kreeg. In dat seizoen werd Liverpool na een onderbreking wegens de coronapandemie voor het eerst in dertig jaar landskampioen.
In het seizoen 2020/21 speelde Gomez, evenals teamgenoten op zijn positie Van Dijk en Gomez, ook minder wedstrijden door meerdere blessures, waaronder een blessure vanaf eind januari tot het einde van het seizoen.[5] In zijn zesde seizoen bij Liverpool kwam Matip tot 43 wedstrijden in alle competities, zijn hoogste aantal sinds zijn komst. Hij speelde in dat seizoen in beide Engelse bekerfinales, die Liverpool allebei op strafschoppen won van Chelsea. Hij zat op de bank tijdens de Champions League-finale, die opnieuw verloren ging aan Real Madrid.
Vanaf het seizoen 2022/23 werd hij niet alleen geplaagd door blessureleed, hij moest ook zijn meerdere herkennen in Van Dijk en Ibrahima Konaté.
Matip werd op 23 december 2009 voor het eerst opgeroepen voor het nationaal elftal van Kameroen, voor het Afrikaans kampioenschap, maar hij weigerde de uitnodiging. Hij accepteerde wel de oproep voor de wedstrijden in maart 2010, nadat hij had besloten niet voor Duitsland, maar voor Kameroen uit te komen.[1] Zijn eerste wedstrijd voor Kameroen was een oefeninterland tegen Italië op 3 maart 2010. Bij de rust van het doelpuntloze wedstrijd verving hij Dorge Kouemaha. Enkele maanden later maakte hij deel uit van de selectie op het WK 2010 in Zuid-Afrika.[10] Kameroen verloor alle wedstrijden. Matip kwam enkel in actie in de eerste wedstrijd, tegen Japan, waarin hij na 63 minuten vervangen werd door Achille Emana. Dat was Matips vijfde interland en zijn eerste basisplaats voor Kameroen. Vier jaar later nam hij met Kameroen ook deel aan het WK 2014 in Brazilië.[11] Opnieuw verloor Kameroen alle wedstrijden. Matip bleef op de bank in de eerste wedstrijd tegen Mexico, maar speelde de volledige wedstrijd tegen Kroatië en het gastland. In de wedstrijd tegen Brazilië verzorgde Matip het enige doelpunt van het toernooi van Kameroen.
Na het WK 2014 miste Matip het Afrikaans kampioenschap 2015 en speelde hij voor Kameroen enkel de Afrikaans kampioenschap-kwalificatiewedstrijd tegen Gambia in september 2015, omdat hij in die wedstrijd slechte ervaringen met de technische staf gehad zou hebben.[12] Hij weigerde een oproep voor het Afrikaans kampioenschap 2017, het toernooi dat uiteindelijk gewonnen zou worden door Kameroen.[13] De Kameroense voetbalbond kon niet bevestigen of Matip gedurende het toernooi in actie kon komen voor zijn club Liverpool, omdat hij geen brief zou hebben gestuurd waarin hij liet weten zijn interlandcarrière te beëindigen.[14][15] Hierdoor miste Matip in clubverband wedstrijden tegen Manchester United en Plymouth Argyle.[16] Voorafgaand aan het Afrikaans kampioenschap 2019 werd door Kameroen een poging gedaan Matip te overtuigen om weer interlandwedstrijden te spelen.[17]
Matip is de zoon van een Duitse moeder en een Kameroens voormalig voetballer, Jean Matip. Hij is de broer van Marvin Matip, die eveneens voetbalt. Hij is de neef van 52-voudig Kameroens international Joseph-Désiré Job.