Fin 2003...Arno, Mike et Seb, tous issus de formations Metal et Hardcore locales, commencent à se retrouver une fois par semaine dans leur salle de repet. Greg rejoint le groupe à la basse en été 2004. Après quelques mois passés à peaufiner ses premières compos, le groupe va trouver son nom et son style. Inspirée par des groupes tels que The Hope Conspiracy, Snapcase ou encore Converge, la musique de Joey Jeremiah est un Hardcore puissant, intense et mélodique, dans lequel s'enchaînent titres courts, directes et efficaces.
Le groupe va se produire dans les bars et les salles de concert de la de l'est de la France, aux côtés de (entres autres) Flying Donuts, I'm Afraid, Diego Pallavas,... Il acquiert de plus en plus d'aisance sur scène, et se fait petit à petit connaitre du publique PunkRock local.
Le premier EP "UNEXPECTED HATE" sort en Novembre 2006 sous forme de maxi 6 titres sur le label José Records...A suivre
Arno, Mike, Seb et Greg