Seine politische Laufbahn begann er in der Kommunalpolitik, als er 1976 zum Nachfolger von Lucien Boissin von den DVG als Vertreter des Kanton Longué-Jumelles in den Generalrat des Département Maine-et-Loire gewählt wurde. Dem Generalrat gehörte er 32 Jahre lang bis zu seiner Ablösung durch Michel Ruault von der UMP 2008 an. Im März 1977 wurde er zudem als Nachfolger von Robert Châtel zum Bürgermeister der Kleinstadt Longué-Jumelles bei Saumur (Département Maine-et-Loire) gewählt wurde. Dieses Amt bekleidete er 31 Jahre lang bis zu seiner Ablösung durch Frédéric Mortier von den Divers droite (DVD) im März 2008.
Bei den Wahlen vom 19. März 1978 wurde Alphandéry für die Union pour la démocratie française (UDF) erstmals zum Mitglied der Nationalversammlung gewählt und vertrat in dieser bis zum 1. Mai 1993 die Interessen des Département Maine-et-Loire. In der Legislaturperiode 1988–1993 gehörte Alphandéry zur FraktionUnion du Centre (UDC), die in einzelnen Abstimmungen mit den linken Regierungen des Präsidenten François Mitterrand kooperierte. Nach der Wahl 1993 schlossen sich UDF und UDC wieder zur Union pour la démocratie française et du centre zusammen. Am 1. Mai 1993 legte Alphandéry sein Mandat nach dem Eintritt in die Regierung nieder.
Am 29. März 1993 wurde Alphandéry als Wirtschaftsminister(Ministre de l’économie) in das Kabinett Balladur berufen und übte dieses Ministeramt bis zum 18. Mai 1995 aus.[1] Außerdem war er als Nachfolger von Jean Sauvage zwischen 1994 und seiner Ablösung durch André Lardeux 1995 Präsident des Generalrates des Département Maine-et-Loire.