Réformé du service militaire Joseph Hostenbock avait été condamné à Bruxelles en 1890 à 26 francs d’amende pour « ivresse ». Il aurait quitté Bruxelles en août 1893, serait allé d’abord à Lille, puis à Paris où il serait arrivé début octobre, aurait demeuré dans un hôtel avant d’emménager avec sa compagne Hortense Geilens et leur bébé âgé de 16 mois rue des Laiteries à Vincennes en novembre. Il n’avait pas fait de déclaration d’étranger.

Soupçonné d’avoir participé en 1893 ou 1894 à des attentats à Barcelone, il avait été l’objet le 24 février 1894 d’un mandat d’amener pour « association de malfaiteurs ». Le lendemain matin il fut l’objet d’une perquisition qui ne donna aucun résultat. Lors de son interrogatoire il nia être anarchiste et par conséquent faire partie d’une association de malfaiteurs et nia avoir voyagé en Espagne. Incarcéré à Mazas, il fut remis en liberté provisoire le 2 mars avant d’être expulsé de France par arrêté en date du 8 mars 1894. L’arrêté lui fut notifié le 14 mars, jour où il fut transféré en voiture cellulaire à la frontière belge. La police le considérait comme « un voleur professionnel ».
En 1894 il demeurait 20 rue du Moniteur à Bruxelles où il fut arrêté et poursuivi pour « vol » le 2 septembre 1894. En 1894 il figurait sur une liste d’anarchistes établie par la police des chemins de fer en vue de « surveillance aux frontières ». En juin 1895 il bénéficiera d’un non-lieu.

Au mois de février 1925, Joseph Hostenbock fut arrêté à Paris avec 8 autres complices pour avoir dérobé en France et en Belgique pour plus de trois millions de valeurs qu’ils avaient en partie négociées.