Karimi begann seine Profikarriere in der Saison 1998/99 bei Persepolis Teheran, nachdem Ali Parvin, der damalige Trainer des Teams, bei einem Hallenturnier auf ihn aufmerksam wurde. Für eine Ablösesumme von umgerechnet 15.000 US-Dollar verpflichtete Parvin den noch jungen Karimi vom damaligen Zweitligisten Fath Teheran. Schon nach wenigen Spielen avancierte er zum Publikumsliebling. Er wurde in zwei aufeinanderfolgenden Spielzeiten (1998/99 und 1999/2000) mit dem iranischen Spitzenclub Persepolis Teheran Iranischer Meister. In der Saison 1999/2000 gewann er mit seinem Verein auch den Iranischen Pokal. Er erzielte in 68 Ligaspielen für Persepolis Teheran 13 Tore.
Zur Saison 2001/02 wechselte Karimi in die Vereinigten Arabischen Emirate zu Al-Ahli. Auch dort wurde er in sehr kurzer Zeit aufgrund seiner Tore, Vorlagen und spektakulären Dribblings zum Publikumsliebling. In der Saison 2003/04 wurde er mit Al-Ahli Pokalsieger. Nach insgesamt vier Jahren, 85 Spielen und 49 Toren und der Wahl zu Asiens Fußballer des Jahres verließ Karimi zur Saison 2005/06 die VAE und heuerte beim FC Bayern München in der deutschen Fußball-Bundesliga an. Karimi begann sehr stark bei seinem neuen Verein und wusste die meisten Kritiker zu überzeugen. In seiner ersten Saison wurde er mit dem deutschen Rekordmeister FC Bayern München sowohl Deutscher Meister als auch Pokalsieger.
Aufgrund einer Verletzung am Fußgelenk im Frühjahr 2006 und einem enttäuschenden Auftritt mit der iranischen Auswahl bei der WM 2006 konnte er nicht mehr zu alter Form finden und seine starken Leistungen zu Beginn seiner Verpflichtung wiederholen. Für den deutschen Rekordmeister erzielte Karimi in 42 Pflichtspielen vier Tore und gab vier Torvorlagen.
Im Juli 2007 wechselte er zum Qatar SC, den er zum Saisonende nach 27 Spielen und 5 Toren jedoch wieder verließ. 2008/09 und 2009/10 zunächst für Al-Sailiya vorgesehen,[2] entschied er sich jedoch für eine Rückkehr zu seinem Lieblingsklub, dem iranischen Rekordmeister Persepolis Teheran.[3] Zum 1. Juli 2009 wechselte Karimi zu Steel Azin FC und erzielte in seiner ersten Saison 14 Tore in 28 Spielen. Am 15. August 2010 wurde er, nachdem er beim öffentlichen Training Wasser getrunken hatte und somit „die Regeln des heiligen Monats Ramadan nicht respektiert habe“, von seinem Verein entlassen.
Felix Magath verpflichtete Karimi am 31. Januar 2011 kurz vor Ende der Transferperiode für den FC Schalke 04 und stattete ihn mit einem Vertrag bis Saisonende aus.[4] Karimi, der seit mehreren Monaten ohne Spielpraxis war, erhielt bei den Königsblauen die Rückennummer 10 und kam nur zu einem Kurzeinsatz, als er am 5. April im Champions-League-Spiel bei Inter Mailand eingewechselt wurde. In der Bundesliga spielte er ebenfalls nur einmal, am 23. April 2011 gegen den 1. FC Kaiserslautern.
Zur Saison 2011/12 kehrte Karimi in den Iran zurück und schloss sich erneut dem Hauptstadtverein Persepolis Teheran an. Nach starken Leistungen in der Liga sowie in der AFC Champions League wurde Karimi für die Wahl zu Asiens Fußballer des Jahres 2012 nominiert und belegte letztendlich den 2. Platz. Nach Ende der Saison 2013/14, als er noch eine Spielzeit beim ErstligistenTractor Sazi Täbris aktiv war, beendete er seine aktive Fußballerkarriere.
Karimi war einer von sechs Spielern, die im WM-Qualifikationsspiel nach den iranischen Präsidentschaftswahlen 2009 gegen Südkorea in Seoul mit grünen Armbändern aufliefen. Dies wurde im Iran als Parteinahme für die Opposition gewertet.[5]
Ali Karimi drückte seine Solidarität für die Menschenrechtsproteste im Iran (2022) aus. Dafür droht ihm im Iran eine Haftstrafe, der er durch einen Aufenthalt im Ausland entging.[6][7] Karimi gab an, Morddrohungen erhalten zu haben, nachdem er sich mit den Protestierenden solidarisierte.[8]
↑FC Bayern München sorgt sich um Ali Daei und andere Ex-Spieler aus Iran. In: Der Spiegel. 5. November 2022, ISSN2195-1349 (spiegel.de [abgerufen am 25. November 2022]).
↑Iranischer Ex-FC-Bayern-Profi Karimi: «Habe Morddrohungen erhalten». In: Der Spiegel. 25. April 2023, ISSN2195-1349 (spiegel.de [abgerufen am 25. April 2023]).