Klub powstał 4 marca 1946 r. jako BSG Pneumatik Aue i był sponsorowany przez lokalną firmę budowlaną. Z powodu zmiany głównego sponsora w 1949 klub zmienił nazwę na Zentra Wismut Aue, a w 1951 na SC Wismut Aue. Po przeniesieniu siedziby klubu do Chemnitz, w 1954 roku, klub znów zmienił nazwę. Brzmiała ona Karl Marx Stadt, a potem SC Wismut Karl Marx Stadt. W 1955 klub zdobył Puchar NRD, a w 1956, 1957 i 1959 mistrzostwo tego kraju. W 1959 SC Wismut także zagrał w finale pucharu Niemieckiej Republiki Demokratycznej, lecz uległ w drugim meczu drużynie Dynamo Berlin 2:3, podczas gdy w pierwszym meczu padł bezbramkowy remis. W 1963 siedzibę klubu przeniesiono z powrotem do Aue, a klub przyjął nazwę BSG Wismut Aue. W 1985 klub zakwalifikował się do Pucharu UEFA, jednak został wyeliminowany przez Dnipro Dniepropetrowsk już w pierwszej rundzie przegrywając 1:3 i 1:2. Po zjednoczeniu Niemiec klub zmienił nazwę na obecną, czyli FC Erzgebirge Aue. Nazwa Erzgebirge pochodzi od nazwy pasma górskiego Rudawy (niem.Erzgebirge), które rozciąga się w pobliżu Aue.
Q – runda eliminacyjna, 1/16, 1/8, 1/4, 1/2 – odpowiednia faza rozgrywek, Grupa – runda grupowa, 1r gr – pierwsza runda grupowa, 2r gr – druga runda grupowa, F – finał, R – runda, PO – play-off
k. – rzuty karne, los. – losowanie, Dogr. – dogrywka, w. – zasada bramek strzelonych na wyjeździe
↑Wismut Karl Marx Stadt awansował do 1. rundy, dzięki rzutowi monetą, po trzecim spotkaniu z Gwardią Warszawa, który został przerwany po 100 minutach z powodu awarii oświetlenia.
↑W latach 1974–1978 rozgrywkami 3. poziomu było 15. grup Amateurligi: dwie grupy Amateur-Oberligi (Nord i Berlin) oraz 13. grup Amateurligi (pozostałe regiony Niemiec).