El grupo fue fundado en Múnich por los productores y compositores Sylvester Levay y Michael Kunze. "Silver" es, de hecho, el apodo de Sylvester Levay. Usando cantantes rentadas para sus primeras grabaciones, lanzaron una canción exitosa en el Reino Unido en 1974 con la canción "Save Me". Fue entonces cuando se dieron cuenta que necesitarían encontrar una cara pública para lo que era entonces un grupo de estudio.

Reclutaron a las vocalistas Linda Thompson (nombre real Linda Überlherr, quién aparecía en sus discos de solista como Linda G. Thompson), Penny McLean (nombre real Gertrude Wirschinger) y Ramona Wulf (nombre real Ramona Kraft).

Como "Silver Convention" tuvieron dos éxitos en los Estados Unidos. "Fly, Robin, Fly", de la cual la letra completa consistía de sólo seis palabras, pasó tres semanas en el #1 en 1975, y le valió al grupo un Premio Grammy. Inicialmente la canción se llamaba Run, Rabbit, Run. Sin embargo, momentos antes de la grabación, los escritores la cambiaron a lo que hoy conocemos como "Fly, Robin, Fly". Su siguiente éxito, "Get Up and Boogie" pasó tres semanas en el #2 en 1976. Su siguiente sencillo, "No No Joe", sólo alcanzó el #60 en septiembre de 1976. Los siguientes sencillos lanzados por el trío intentaron duplicar el sonido que los había hecho brevemente exitosos, pero fueron sólo éxitos menores.

свернуть