Allison Janney est née à Boston, Massachusetts et a grandi à Dayton, Ohio. Elle est la fille de Mary Brooks (née Putman), actrice de formation et mère au foyer, et de Jervis Spencer Janney musicien de jazz.
Elle suivit des cours au Kenyon College où elle rencontra Paul Newman, ancien élève de l'établissement, qui la dirigera plus tard dans une pièce de théâtre pour l'inauguration du nouveau Bolton Theater. Ensuite, elle ira étudier le théâtre au Neighborhood Playhouse à New York, puis à la Royal Academy of Dramatic Art de Londres.
Cependant, le rôle qui la révèle et reste le plus marquant est celui de l'attachée de presse C.J. Cregg dans la série politique à succès À la Maison-Blanche avec entre autres Martin Sheen, Stockard Channing, Richard Schiff et Bradley Whitford. Saluée unanimement par la critique, son interprétation d'une femme de pouvoir toujours sous les projecteurs lui vaut notamment quatre Primetime Emmy Awards (deux en tant que second rôle en 2000 et 2001, et deux en tant que rôle principal en 2002 et 2004) ainsi que deux autres nominations en 2003 et 2006 et quatre nominations (de 2001 à 2004) aux Golden Globes.
À la fin de la série en 2006, Allison Janney tourne principalement pour le cinéma, dans Hairspray ou encore dans Juno (2007) et La Couleur des Sentiments (2011).
Depuis 2013, l'actrice opère un retour acclamé sur le petit écran. Tout d'abord avec le rôle de Margaret Scully dans la série dramatique Masters of Sex qui lui vaut d'être nommée trois années consécutives, de 2014 à 2016, pour le Primetime Emmy Awards de la meilleure actrice invitée dans une série ; elle obtient ce prix en 2014. Ensuite et surtout avec le rôle de Bonnie Plunkett dans la sitcom à succès Mom, qui lui apporte à nouveau la reconnaissance critique avec une nomination au Golden Globe du meilleur second rôle et 4 nominations aux Primetime Emmy Awards en 2014, 2015, 2016 et 2017. Elle obtient le prix du meilleur second rôle dans une série comique en 2014 et 2015.