Le groupe gothic metal symphonique The Sins Of Thy Beloved a été créé en novembre 1996 en Norvège par Stig, Glenn Morten et Arild. Peu après le groupe a contacté Ola, Anita et Ingfrid. À ce moment, le groupe portait le nom de Purgatory, mais il a changé de nom avant la sortie du EP "All Alone". La principale raison était qu'il y avait plusieurs groupes qui portaient le même nom, Purgatory, dont trois aux États-Unis. Après trois mois, le groupe est entré en studio au mois de février 1997 pour enregistrer quelques pièces démos. L'enregistrement a été produit par Gulleiv Wee, le bassiste de September When. À partir de ces séances, TSOTB a mis en vente le EP "All Alone" sur l'étiquette italienne Nocturnal Music. En septembre 1997, le groupe ajoute la claviériste Anders Thue.
En janvier 1998, The Sins Of Thy Beloved enregistre "Silent Pain" au Sound Suite Studio avec le producteur Terje Refsnes. C'est également la première fois que Pete est intégré sur un enregistrement. Napalm Records a signé le groupe en mars 1998. En août 1998, le groupe retourne au même studio pour enregistrer son premier album, "Lake Of Sorrow". Deux pièces du EP, "All Alone" et "Worthy of You", ont été réarrangées en studio, grâce à une meilleure production que sur l'enregistrement original. Les photos dans le livret ont été prises par Petter Hegre, tandis que le graphisme a été réalisé par Tor Soreide.
Le titre de l'album, "Lake of Sorrow", devait rester simple, mais tout de même représenter la facette sombre et romantique de leur musique gothique. Petit fait à noter, TSOTB a fait inclure seulement des extraits des paroles de l'album dans le livret pour laisser place à l'imagination et la concentration de l'auditeur.
En 1998, le EP "Silent Pain" est mis en vente. Il faut attendre en 2000 pour avoir leur nouvel album studio, "Perpetual Desolation", et en 2001 pour le DVD "Perpetual Desolation Live". Malheureusement, un grand changement survient en 2001 avec le départ de Anita Auglend (vocal), Ingfrid Stensland (clavier/piano), Anders Thue (clavier/piano) et de Pete Johansen (violon). La majorité des membres ne sont pas partis pour des différences musicales, mais plutôt par le dédain de faire des tournées. Depuis 2002, The Sins Of Thy Beloved est demeuré assez discret, tandis que Maiken Olaisen (clavier) s'est ajouté en 2005 et le retour de Anita Auglend (vocal) en 2007.
