Основателем «Annihilator» является гитарист Джефф Уотерс. Сначала он играл в «Trojan hammer», но эта команда просуществовала недолго, и он основал свой проект «Jeff Waters project», постепенно трансформировавшийся в «Annihilator». В первый состав группы также вошли Майк Лейн (ударные), Джон Перинбам (вокал) и Кевин Янгом (бас). Последнего вскоре заменил Эндрю Штейнке. И Лейн, и Штейнке, в итоге, тоже были уволены.
Вместо них в коллективе появились вокалист Джон Бэйтс, басист Дейв Скотт и ударник Роб Лэнг. Последний вскоре был заменён Полом Малеком. Эта конфигурация записала демо «Welcome То Your Death» в 1985 году. Этот состав распался в апреле следующего года, когда Бэйтс и Скотт ушли из-за творческих разногласий.
Остался только Малек, и вместе с Уотерсом он записал ещё одну демо-запись, «Phantasmagoria», благодаря которой им удалось заполучить контракт с «Roadrunner records».
Тем временем состав ещё несколько раз перетасовался, и к 1987 году новыми членами коллектива стали Энтони Гринэм (гитара), Уэйн Дарли (бас) и Рэй Хартманн (ударные, экс-«Assault»).
На роль вокалиста сначала был принят Деннис Дюбо. Однако тот вскоре был заменён бывшим басистом довольно известной панк-рок команды D.O.A. Рэндалл Десмонд Арчибальд, наиболее известный как Рэнди Рэмпейдж. Но Дюбо по-прежнему можно услышать в бридже к песне «Alison Hell».
Когда в 1989 году появился дебютник «Alice In Hell», он как раз попал в полосу трэшевого бума, и, соответственно, получил хорошие обзоры в прессе. Немалая заслуга в этом была и самого Уотерса, виртуозно владевшего гитарой, а также записавшего практически в одиночку все остальные партии. В том же году «Annihilator» первый раз посетили Европу. Перед началом тура Джефф уволил Рэмпейджа, взяв на его место бывшего участника Коберна Фарра.
Гринэм же решил не дожидаться своего увольнения, а уступил место Дейву Скотту Дэвису. Это произошло накануне сессий для второго диска, «Never Neverland». Пластинка сумела повторить успех первого альбома, поскольку голос Фарра больше подходил для музыки, которую играли «Annihilator».
Уотерса же теперь признавали не только в Канаде, но и за рубежом. Примером тому может служить приглашение Джеффа Дэйвом Мастейном в «Megadeth». Однако альянс не состоялся, и Уотерс со своей командой отправился разогревать «Judas priest» во время их британского тура.
Запись третьего альбома началась при участии нового второго гитариста, Нила Голдберга и нового барабанщика Майка Манджини. По ходу сессий Джефф Уотерс разругался с Кобурном, и тот уволился. Заменой ему стал Аарон Рэндалл Вайнштейн, но его стиль вокала не подходил "Annihilator", в результате чего «Set The World On Fire» провалился. Эта неудача, а также дальнейшие разногласия в составе привели к разрыву контракта с «Roadrunner». В 1994-м в «Annihilator» кроме Уотерса и вернувшегося Дэйвиса входили ещё басист Кэм Диксон и барабанщик Рэнди Блэк, однако к 1996-му группа была сокращена до двух человек (Уотерс и Блэк). А альбом 1997 года, «Remains», Джефф снова записывал практически в одиночку. Через пару лет он все-таки решил вновь собрать «Annihilator» в составе: Рэмпэйдж, Хартман, Дэйвис и Расс Бергквист (ударные).
В 2000-м году место уволенного в очередной раз Рэмпэйджа занял Джо Комю из «Overkill». А на следующий год на своё место вернулся Рэнди Блэк[англ.]. Примерно в это же время к команде примкнули Дэйв Скотт и Каррэн Мерфи, при участии которых была записана новая пластинка, «Waking The Fury». В 2003 году в группу пришел вокалист Дэйв Падден, а позже он взял на себя и обязанности второго гитариста.
14-й студийный альбом получил название Feast. Он вышел в августе 2013 года на лейбле UDR. Диск содержит девять новых треков, а подарочное издание в формате «ECO-book» дополнено бонус-CD с новыми версиями 15 классических песен ANNIHILATOR, а также обложкой в 3D.
В 2014 году Падден покидает коллектив в связи с усталостью от гастролей.
К апрелю 2015 года Annihilator начал работу над своим пятнадцатым студийным альбомом. Уотерс заявил, что музыкальное направление альбома будет «чем-то совсем другим». Альбом, названный Suicide Society, был выпущен 18 сентября 2015 года. На этом альбоме все вокальные партии исполнил сам Джефф.
Альбом For the Demented, 16-й по счету, выпущен 3 ноября 2017 года. Музыкальное видео «Twisted Lobotomy» было выпущено 12 сентября 2017 года.
