Après des débuts au Perpignan FC puis au FC Canet, Hervé Alicarte rejoignit le centre de formation du club de son grand frère Bruno, le Montpellier HSC. Il y accomplit toute sa formation avant de signer en juillet 2008 aux Girondins. 

Désireux de franchir un pallier, il réussit dès la première saison à décrocher le titre de champion de France sous les ordres d'Elie Baup. Associé à Nisa Saveljic, il disputa 29 matches en championnat. Sans le savoir, il venait de vivre le meilleur avec les Girondins.

Le reste de son séjour au Haillan fut moins radieux. Avec l'émergence de Kodjo Afanou, il supporta mal la concurrence, même si la blessure de Bonnissel lui permit de gratter du temps de jeu dans le couloir gauche de la défense. Une revalorisation salariale le poussa à rester en Gironde. Mais, quelques mois plus tard, il entra en conflit avec Elie Baup qui l'envoya dans un "loft". Alors il partit sous forme de prêt à Toulouse, puis à Ajaccio. À son retour, il ne retrouva pas son poste de titulaire, jouant les utilités. Il quitta définitivement Bordeaux en 2004 pour signer en Suisse.

Mais à cause de problèmes de paiement de salaire, il quitta le Servette Genève trois mois après son arrivée et retourna dans la région de Montpellier. Après une opération du genou, il retrouva Jean-Christophe Rouvière, son ami et ancien bordelais, à Nîmes en janvier 2006. Il y évolua en National et y termina sa carrière professionnelle.

Il retourna alors dans son tout premier club, le Perpignan Canet Football Club, club de division d'Honneur dont il devint entraîneur-joueur en octobre 2008. Il occupa ce poste jusqu'au printemps 2010. La boucle était bouclée...