Cette locution a pour origine le jeu de paume. Ce dernier remonte à la plus haute Antiquité puisque Homère le mentionne dans l'Odyssée. C'était aussi l'amusement favori des Romains sur le Champ de Mars et dans les thermes.
Ce jeu n'apparut en France qu'au XVe siècle et, au début, la balle d'étoupe était envoyée avec la paume de la main. Les joueurs mirent ensuite un gant pour se protéger et, sous Henri IV, apparut une batte de bois puis une raquette. Les balles étaient lancées contre un mur dans une vaste salle.
Le long de celle-ci courait un couloir couvert et protégé de grillages, derrière lequel se tenaient les spectateurs. Ce couloir s'appelait la galerie et les joueurs s'efforçaient non seulement de vaincre leur adversaire, mais aussi de le faire avec art et humour, multipliant sauts acrobatiques et pirouettes dans le but d'épater la galerie.