Formé en 1998 comme projet de Philip Labonte et du guitariste Oli Herbert, le groupe All That Remains navigue depuis ces débuts entre le metalcore et le death metal mélodique. Suite à une démo de trois pièces en 1999, ils ont signé avec Metal Blade Records en 2002 pour mettre en vente leur premier album, "Behind Silence and Solitude". À l'époque, en plus de Philip et Oli, le groupe était complété par Dan Egen à la basse, Chris Bartlett à la guitare et Mike Bartlett à la batterie. Cependant, cette association aura durée qu'un album, puisqu'en 2003, ils ont été remplacé par le guitariste Mike Martin et le bassiste Matt Deis.
En 2004, ils mettent en vente leur second opus, "This Darkened Heart" via Prosthetic Records, il a été produit par Adam Dutkiewitz de Killswitch Engage. Avec les excellentes réactions qu'ils ont obtenu, ils ont pu faire des spectacles et des tournées avec Gwar, The Crown, Arch Enemy, Darkest Hour, Shadows Fall, Lamb of God, et Slipknot, mais ils ont pris un repos à la fin de 2005 pour composer du nouveau matériel. Pour ce nouveau disque, All That Remains a décidé de mélanger encore plus les influences death metal mélodique à travers les riffs aux guitares, en plus du répertoire vocal de Labonte qui continuait de s'élargir.
Avec le producteur Adam Dutkiewicz (Killswitch Engage) et Peter Wichers (ex-Soilwork) derrière eux, en plus de l'artiste Travis Smith (Iced Earth, Opeth, Soilwork), All That Remains a mis en vente leur troisième album en 2006, "The Fall of Ideals". Il continue de faire des spectacles, dont un voyage en Europe et le Ozzfest, et ils seront de passage à Montréal en février 2007.