Découvrant le football en pupilles à l'AS Muret, puis à Lons, Hervé Gandolfi rejoignit ensuite les rangs des Cigognes de Tarbes où il fut sélectionné en équipe de France minimes. Repéré par les recruteurs bordelais alors qu'il était en sport-études à Toulouse, il intégra la section de Mérignac et les Girondins en cadets. Il continua à fréquenter les sélections de jeunes et gravit les échelons au sein du club.

Il commença à apparaître de temps en temps sur le banc de l'équipe première, au début des années 80, profitant des absences de joueurs cadres bordelais, comme Fernandez ou Trésor. Mais dans un club qui montait en puissance et qui allait s'affirmer comme une des principales écuries de D1, il savait que son temps de jeu serait réduit.

Après un faux départ durant l'été 1983 vers le Stade Français (D2), il préféra quitter le club bordelais l'été suivant, déçu de ne pas avoir joué en équipe première lors de la saison 1983-1984. Il poursuivit sa carrière du côté du Puy (D2), de Périgueux et de Villenave d'Ornon (D3).