En 1888, sur la proposition de Monsieur Puchat-Jakoubovska, un groupe d'amis - Antoine Gini, Alfred Eggenberg, Edouard Maier, Joseph Folliet, Henri Brochet et Gottfried Schwartzel - décide de créer une société de gymnastique qui recevra le nom de "Société fédérale de gymnastique Section des Grottes", puis de "Société fédérale de gymnastique Genève-Grottes". A cette époque, les fondateurs disposant de moyens modestes s'entraînent sur un terrain vague situé à la rue du Parc à l'angle de Fort-Barreau. Après la vente de ce terrain, l'accès aux salles de gymnastique des écoles de la rue Necker, puis de la Prairie leur est accordé. La "Section Genève-Grottes" peut ainsi organiser des leçons régulièrement, ce qui favorise le recrutement de nouveaux membres. La société met sur pied diverses fêtes dont les bénéfices lui permettent d'envoyer des gymnastes aux concours nationaux ou à l'étranger.
En 1893, une classe de pupilles est créée sur la propostion d'un de ses membres. En 1943, la Section féminine est fondée sous l'impulsion d'Emile Charvier - président de la société de 1926 à 1939 - et de Charles Mermod. C'est également à cette époque que la société forme une équipe de handball. Dans les années 1950, la société atteint son apogée grâce à quelques gymnastes à l'artistique. Individuellement, un gymnaste de la Section Genève-Grottes, André Bruhlmann, participe en 1960 aux Jeux Olympiques de Rome et deux plus tard au Championnat du monde de Dortmund. A partir des années 1970, la société doit faire face à une baisse de ses effectifs. En 1985, après la démission du président de la Section féminine, les sections sont fusionnées et regroupées sous la présidence d'une seule personne. Par ailleurs, après avoir utilisé diverses salles de gymnastique, la société obtient l'autorisation d'utiliser celle des Grottes.
Dès sa fondation, la Section Genève-Grottes est affiliée à l'Association cantonale genevoise de gymnastique (ACGG), qui existe depuis 1873 et qui compte déjà une dizaine de sections, ainsi qu'à la Société fédérale de gymnastique (SFG) fondée en 1832. La Section Genève-Grottes est également affiliée à différentes associations qui sont créées : en 1923, l'Union cantonale genevoise des gymnastes à l'artistique (UCGGA) et l'Association cantonale genevoise de gymnastique féminine ainsi qu'en 1932, l'association Gyms-athlètes-genevois (GAG) qui devient en 1951 l'Association genevoise d'athlétisme léger (AGAL), puis l'Association genevoise d'athlétisme (AGA) en 1969. La Section Genève-Grottes participe aux différentes manifestations sportives organisées par ces associations - Fêtes fédérales, Fêtes romandes, Journées cantonales de jeux, Réunions cantonales des pupilles et pupillettes, Courses à travers les ponts, Championnats de handball, etc. Dans le cadre de son centième anniversaire, elle organise le Championnat genevois de gymnastique de section aux agrès.