Le groupe a été formé lors de l'été 1994 par le bassiste Torsten Plorin et par le guitariste Matthias Mineur. Le batteyr, Arved Mannott, et le chanteur, Klaus Dirks, ont été rapidement recruté et ils ont commencé à jouer avec Crossroads, C.I.T.A. et Pink Cream 69. En 1996, Oliver Fuhlhage est devenu le deuxième guitariste du groupe. En fait, son son allait parfaitement avec le sens mélodique de Mob Rules. Lors de l'automne de la même année, ils ont produit un EP, qui a pu attiré l'attention des amateurs et des compagnies. Lors de l'été 1998, ils ont signé avec Limb Music et ils ont pu faire leur premier album, Savage Land, qui a été mis en vente en mars 1999 autour du globe. Ils ont reçu de bonnes critiques et ils ont pu faire des tournées avec des groupes de la même compagnie qu'eux, comme Ivory Tower.
Ils ont été invité à jouer avec The Scorpions et Overkill. En octobre 1999, ils ont commencé à travailler sur le deuxième album, Temple Of Two Suns. L'écriture était terminé en avril 2000 et ils ont pu débuter la pré-production en juillet. Il y a pause lors de l'enregistrement pour qu'ils puissent jouer au Headbangers Ballroom et au Wacken 2000 Open Air. Ils ont pu faire des chansons qui allaient être sur le prochain album. Ils ont enregistré le nouvel album au Gates Studio de Wolfsburg, en Allemagne, sous la supervision de Sascha Paeth (Rhapsody, Angra, Kamelot). L'album contient plusieurs variations de styles. De plus, Thomas Rettke (Heaven's Gate) a été un chanteur invité et Susanne Mohle (Heavens Gate, Hyper Child) a fait un duo avec Dirks sur la chanson Hold On. Le concept de l'album est basé sur un vaste monde mythique, qui mène à une vallée mystérieuse, le coeur des ruines d'un temple Aztec. C'est Eric Philippe qui a fait la couverture de l'album, qui a déjà travaillé pour les pochettes de Rhapsody il y a quelques années.
En 2002, ils reviennent en force avec leur troisième album, Hollowed be Thy Name. En 2004, la formation est composée de Klaus Dirks (vocale), Oliver Fuhlhage (guitare), Matthias Mineur (guitare), Thorsten Plorin (bass), Arved Mannott (batterie) et de Sascha Onnen (clavier). Ils mettent également en vente leur quatrième album, Among The Gods.
6 Octobre 2004: Le groupe MOB RULES a annoncé qu'ils ont trouvé un nouveau guitariste, puisque Oliver Fuhlhage a quitté la formation pour des raisons personnelles et professionnelles. Après huit ans au sein de Mob Rules, le groupe lui souhaitent bonne chance pour son avenir. Il sera remplacé par Sven Lüdge. Sven était avec Murder One et ils ont fait des spectacles ensemble il y a quelques années. C'est à ce moment qu'ils ont pu voir son talent comme guitariste et qu'ils ont développé une amitié. Selon eux, il était le seul qui pouvait remplacer Oliver. À la fin Octobre, ils seront en concert en France, d'autres dates vont s'ajouter. L'Été terminé, ils ont commencé à réunir le matériel pour un DVD. Ils ont pu saisir toute l'émotion en concert et en coulisse avec un total de neuf caméras. Le tout a commencé à Pumpwerk en juin dernier. Ils désirent faire un DVD assez diversifié et ils vont commencer à tout mettre en place à la fin du mois d'Octobre, en plus des concerts et des entrevues. La sortie du DVD devrait avoir lieue en Mars ou Avril 2005, puisqu'ils vont devoir régler quelques détails avec la compagnie de disques avant de donner une confirmation sur la date.
