Découvrant le football à Mutzig où il évoluait comme libéro ou milieu de terrain, Albert Gemmrich rejoignit les rangs du RC Strasbourg en 1973. Deuxième meilleur buteur de l'histoire du RC Strasbourg (derrière Oskar Rohr, oncle de Gernot), il était un finisseur régulier, puisqu'il marquait sa dizaine de buts par saison. Fraîchement sacré champion de France en 1979 (meilleur buteur strasbourgeois de la saison), il choisit de relever un nouveau défi, celui proposé par les Girondins.

Durant sa première saison girondine, il s'imposa comme titulaire aux côtés de Bernard Lacombe et marqua 12 buts mais tira également 9 fois sur les poteaux. La saison suivante, il fut mis en concurrence avec Gérard Soler mais trouva le chemin des filets à 14 reprises.

Opéré d'une pubalgie à la fin de la saison 1980-1981, il souffrit pour retrouver son niveau. Un peu moins en réussite lors de sa troisième saison (9 buts en D1), relégué sur le banc plus souvent qu'à son tour, il fut l'auteur de quelques gestes d'humeur. Ainsi, en octobre 1981, lors d'un Bordeaux-Hambourg en Coupe d'Europe, il fut remplacé à l'heure de jeu par Gérard Soler. Estimant avoir accompli un bon match, il jeta violemment à terre la veste d'entraînement que lui tendait son coéquipier Delachet.

Arrivé en fin de contrat en juin 1982, il quitta les Girondins malgré le souhait de Jacquet de le conserver. L'entraîneur bordelais ne pouvait néanmoins lui garantir une place de titulaire, avec les arrivées de Müller et de Memering. Claude Bez lui donna un mois pour réfléchir mais au bout de deux jours, l'Alsacien annonça son départ pour le LOSC. Quelques années plus tard, il reconnut avoir fait une erreur de ne pas renouveler son contrat à Bordeaux.

Malheureux dans le Nord, il n'y resta qu'une seule saison, n'inscrivant aucun but et retourna à Strasbourg en juillet 1983. Il termina sa carrière par un ultime challenge avec l'OGC Nice.