Bei den Kongresswahlen des Jahres 1980 wurde Dymally im 31. Wahlbezirk von Kalifornien in das US-Repräsentantenhaus in Washington, D.C. gewählt, wo er am 3. Januar 1981 die Nachfolge von Charles H. Wilson antrat. Nach fünf Wiederwahlen konnte er bis zum 3. Januar 1993 sechs Legislaturperioden im Kongress absolvieren. Während dieser Zeit war er von 1987 bis 1989 als Nachfolger von Mickey Leland Vorsitzender des Congressional Black Caucus. Im Jahr 1992 verzichtete er auf eine erneute Kandidatur. Nach dem Ende seiner Zeit im US-Repräsentantenhaus zog sich Dymally vorübergehend aus der Politik zurück. Im Jahr 2002 wurde er erneut in die State Assembly von Kalifornien gewählt. Dieses Mandat übte er bis 2008 aus.