המועדון הוקם במקור בשנת 1937, תחת השם "טולוז מועדון כדורגל", אך מכר את כל שחקניו ואת מקומו בליגה הצרפתית המקצוענית הראשונה למועדון הכוכב האדום פאריס בשנת 1967. בשנת 1957, הצליחה הקבוצה לזכות בגביע הצרפתי.
אגודת הכדורגל בטולוז הוקמה מחדש ב-25 במאי 1970, תחת השם "יוניון ספורטיב טולוז", ועל מנת להרכיב סגל שחקנים לקחה את שחקני הנוער משתי קבוצות אזוריות קטנות, גסקון ומרמוז-בונפואה. הקבוצה החלה לשחק בליגה הצרפתית השנייה בעונת 1970–1971, כאשר שיחקה בצבעיםאדום ולבן. ב-1977, הקבוצה החזירה לעצמה מחדש את שמה המקורי, ואימצה צבעי מדים חדשים - סגול ולבן. תוך זמן קצר, המועדון הצליח להתבסס כמועדון טוב, ובשנת 1982, העפיל לליגה הצרפתית הראשונה. בעונת 1986–1987 טולוז העפילה לראשונה לגביע אופ"א ואפילו רשמה הצלחה אדירה לאחר שגברה בדו-קרב בעיטות עונשין על נאפולי החזקה, בה שיחק דייגו מראדונה בסיבוב הראשון. טולוז הפסידה בסיבוב השני לספרטק מוסקבה והודחה מהטורניר. בעונת 1986–1987, הקבוצה השיגה את הישג השיא שלה, מקום שלישי בליגה הצרפתית הראשונה. בעונה שלאחר מכן טולוז השתתפה שוב בגביע אופ"א. בסיבוב הראשון טולוז ניצחה את פאניוניוס ובסיבוב השני טולוז הפסידה לבאייר לברקוזן.
ב-1994, ירדה טולוז לליגה הצרפתית השנייה. במהלך שנות ה-90, המועדון עלה וירד לסירוגין מהליגה הראשונה לשנייה בצרפת וסבל מקשיים כלכליים. מצבה הכלכלי הקשה של הקבוצה הביא לכך שבשנת 2001, הקבוצה הורדה ליגה בכח על ידי התאחדות הכדורגל הצרפתית, ואף כמעט שנשלל ממנה מעמדה המקצועני. אחרי שתי עונות בלבד בליגת המשנה, שבה טולוז לליגה הבכירה בצרפת. בעונות הראשונות לאחר שובה לליגת העל הצרפתית, הציגה יכולת לא טובה. בסוף העשור הראשון של המאה ה-21, טולוז הצליחה להתברג מספר פעמים בצמרת הליגה, והעפילה לגביעי אירופה השונים. בשנת 2009 הקבוצה הגיעה לחצי גמר הגביע הצרפתי והפסידה לגנגאן.
בעונת 2020/21 סיימה הקבוצה במקום השלישי שמוביל לפלייאוף העלייה לליגה הבכירה, בגמר הפלייאוף הפסידה לנאנט (כדורגל) בסיכום שני המשחקים ונשארה בליגה השנייה. בעונה שלאחר מכן הקבוצה העפילה חזרה לליגה לאחר שנתיים של היעדרות.
בשנת 2023 זכתה בפעם הראשונה בתולדותיה בגביע הצרפתי לאחר שניצחה 5–1 את נאנט במשחק הגמר.
