À l'origine, le groupe portait le nom de Purgatory et il a été créé par le guitariste Jon Schaffer en 1984 en Floride aux États-Unis. Ils ont rapidement combiné leur son thrash metal des années 80 avec une approche classique à la Iron Maiden. Leur premier démo, "Enter the Realm", en 1988, a été très aimé des critiques et ils ont mis sur leur marché leur premier album, éponyme, ayant changé leur nom pour Iced Earth en 1990. Sur ce disque, nous y retrouvons les guitaristes Jon Schaffer et Randall Sawver, le chanteur Gene Adams, le bassiste Dave Abell, et le batteur Mike McGill.
Après quelques changements, nous avons pu voir l'arrivée du chanteur John Greely et du batteur Richey Secchiari pour l'album "Night of the Stormrider" en 1991. Malheureusement, Greely a décidé de quitter le groupe, mais Iced Earth est revenu en 1995 avec "Burnt Offerings", mis en vente via Century Media Records, et mettant en vedette le chanteur Matthew Barlow et le batteur Rodney Beasley. Barlow a été le premier chanteur stable dans la formation et ils ont pu mettre en vente l'album "The Dark Saga" l'année suivante. Malgré l'arrivée du bassiste Keith Menser et du batteur Mark Prator, le disque possède une grande qualité avec l'écriture de Schaffer et Sawver.
En 1997, ils retournent en studio pour réenregistrer l'ancien matériel cette fois Barlow au vocal, qui a mis a résulté la mise sur le marché de "Days of Purgatory". Schaffer a décidé de relocaliser Iced Earth à Indiania pour des raisons stratégiques, puisqu'il y a également eu le départ de Sawver avant la première session d'enregistrement de l'album "Something Wicked This Way Comes" en 1998. L'album a connu un très bon succès et avec la venue du nouveau guitariste Larry Tarnowski et du nouveau bassiste James MacDonough, ils ont pu débuter leur plus grande tournée américaine, avec également une tournée mondiale. Leur performance en Grèce a pu donnée vie à l'album live double "Live in Athens" en 1999. Ils ont mis sur le marché leur sixième album, "Horror Show", en 2001. En 2002, ils produisent l'album "Tribute To The Gods" où Iced Earth font des reprises de plusieurs vieux groupes rock et metal. En 2003, une grande nouvelle se fait annoncer, l'arrivée du chanteur Tim "Ripper" Owens (ex: Judas Priest) au sein de Iced Earth. Ils ont pu mettre en vente l'album "The Glorious Burden" en 2004. La même année, il y a eu plusieurs changements dans le groupe avec le départ du batteur Richard Christy, qui a été remplacé par Bobby Jarzombek, le départ du guitariste Ralph Santolla et du bassiste James MacDonough.
Au début 2006, la formation américaine est composée du chanteur Tim "Ripper" Owens, du guitariste Jon Schaffer et du batteur Bobby Jarzombek. En septembre 2007, l'album "Framing Armageddon (Something Wicked - Part 1)
CD" est mis en vente.
En janvier 2008, Tim Owens, tandis que Matt Barlow fait un retour dans Iced Earth. Le groupe est composé, en plus de Barlow, de Troy Seele (guitare), Jon Schaffer (guitare/clavier), Brent Smedley (batterie). En mai 2008, l'album "Revelation Abomination (Something Wicked - Part 2)" voit le jour.