Créé en Suède en juillet 1996, le groupe death/thrash metal The Haunted a été formé par Jensen (ex Seance) qui désirait trouver des membres pour son nouveau projet. Le 27 juillet, les frères Björler, Anders et Jonas, ont décidé de quitter At The Gates. Le batteur de ATG, Adrian Erlandsson, était un bon ami de Jensen et ils ont commencé à jouer ensemble à l'ancienne salle de ATG.

Peu après, John Zwetsloot (ex Dissection, Cardinal Sin) a joint ces derniers. Jonas Björler a également joint le groupe comme bassiste et ils ont continué l'écriture de nouvelles pièces. Quelques semaines plus tard, Anders Björler a remplacé John puisque son style n'allait pas dans la même direction musicale que le groupe.

Ils ont approché quelques chanteurs, Rogga (Merciless), Oscar (In A Pigs Eye), Tony (Satanic Slaughter, Witchery) et Peter Dolving (Mary Beats Jane). Au début de 1997, Adrian a commencé à jouer avec un autre groupe nommé Hyperhug. Il n'avait pas réellement d'ambition dans The Haunted, puisqu'il n'avait toujours pas trouvé de chanteur. Il a décidé de quitter, mais ils ont eu de la difficulté à trouver un autre batteur. Ils ont approché plusieurs personnes, comme Anders Jivarp (Dark Tranquility), Hans Nilsson (Liers In Wait, Diabolique), Snowy Shaw (ex King Diamond) et Ole Öhman (ex Dissection, Opthalamia). Ole a pratiqué quelques temps avec eux, mais il n'y avait rien de très sérieux. Lors de l'été 1997, Hyperhug a fait un spectacle, mais le chanteur a été blessé et les membres se sont séparés. Adrian voulait revenir pour jouer de la musique plus agressive et il a joint à nouveau The Haunted pour remplacer Ole.

Earache Records démontrait de l'intérêt pour le groupe et ils leur ont offert une place sur la compilation "Earplugged 2". Ils ont accepté, mais le groupe n'avait pas encore de chanteur. L'enregistrement devait avoir lieu une semaine et demi plus tard, Adrian a suggéré Peter Dolving (Mary Beats Jane) qui avait fait les vocaux sur les pièces "Undead" et "Shattered" enregistrées au Studio Fredman à Gothenburg. C'était donc décidé que Dolving allait devenir leur chanteur.

The Haunted a complété le matériel pour un premier album et ce disque éponyme a été enregistré au Studio Fredman. L'album a été très bien reçu par la presse à la fin de l'automne 1998 et ils ont fait une courte tournée au Royaume-Uni avec Napalm Death. Revenant à la maison après la tournée, Peter a quitté puisqu'il avait des problèmes avec la compagnie et il voulait se concentrer sur un groupe nommé Zen-Monkey qui s'est séparé plus tard. À l'été 1999, ils ont trouvé le chanteur Marco Aro (Face Down) qui avait presque abandonné sa carrière de chanteur, mais il était content de joindre la formation. Ils ont fait quelques festivals, dont le Dynamo Open Air et Hultsfred.

À l'été 1999, Testament voulait que The Haunted accompagne le groupe en tournée aux États-Unis. Cependant, au milieu des planifications, Adrian a quitté encore une fois, cette fois pour Cradle Of Filth puisqu'il n'était pas satisfait de la façon que la compagnie travaillait avec eux. Jensen a tenté de se mettre en contact avec un batteur danois nommé Per Möller Jensen (Invocator) qui venait de joindre le groupe Konkhra. Per était tout de même intéressé à participer à la tournée américaine, alors il est allé à Gothenburg au milieu de juillet pour travailler avec eux.

Dès leur retour, ils ont débuté le travail du nouvel album. Per est devenu le batteur permanent du groupe. Leur second album, "The Haunted Made Me Do It", a été mis en vente en octobre 2000 via Earache Records. L'album live "Live Rounds in Tokyo" est apparu sur le marché en 2001 en duo avec une nouvelle édition de l'album "Made Me Do It".

En 2002, leur premier DVD, "The Haunted - Caught On Tape", est mis en vente et contient deux spectacles. En 2003, ils mettent sur le marché leur troisième opus, "One Kill Wonder". Il s'agit du dernier album avec Aro au vocal, puisque Peter Dolving est revenu dans le groupe comme chanteur. Après avoir signé une entente avec Century Media, le groupe met en vente les albums "rEVOLVEr" en 2004 et "The Dead Eye" en 2006.

En mars 2007, le groupe joue avec Dark Tranquility et Into Eternity au Medley à Montréal. En septembre 2008, le sixième album, "Versus", est disponible via Century Media. En mars 2009, la compilation "Warning Shots" (Earache Records) propose deux disques, dont plusieurs pièces démos, live, exclusives.