Hippolyte Gay aurait été mobilisé au 5e dépôt des Équipages de la Flotte d’août 1914 à juin 1919.
Le 1er novembre 1920 il était employé comme valet de chambre à la Clinique Médicale de Paris où il était connu pour ses idées libertaires. A cette époque il était en relation avec De Valois, du groupe anarchiste des 17e et 18e arrondissements, qui travaillait lui aussi à la Clinique. Il rencontra sa compagne, qui travaillait à la Clinique également, en décembre 1920. Mais le 23 mai 1922 elle le quitta, découvrant ses opinions anarchistes — d’après la police.
Le 26 mai 1922 il fut arrêté pour vol de draps de serviettes et de verrerie commis au préjudice de la clinique. Cela lui valut une condamnation le 30 juin 1922 à 4 mois de prison avec sursis. Il fut remis en liberté le même jour. Une fois libre, il retrouva un travail de valet de chambre dans une pension de famille. Mais parce qu’il recevait Le Libertaire au domicile de ses employeurs, il fut congédié le 25 juillet 1922.
Début 1923 il était employé à demeure comme plongeur à l’école des Hautes Études Commerciales à Paris. Résidant à des endroits différents dans Paris il se peut qu’il ait demeuré à Orléans la première moitié de 1923. Il fréquentait, début 1923, les locaux du Libertaire ainsi que les réunions, meetings et les manifestations organisées par l’UA. Il rencontra Georges Vidal* dès l’arrivée de celui-ci à Paris.
En 1945, Hippolyte Gay était le trésorier du groupe d’Avignon de la Fédération Anarchiste. L’année suivante, il fut signalé comme étant le trésorier du syndicat unique des employés d’Avignon, affilié à la CNT.