Le jeu de boules est aussi ancien que la civilisation des loisirs, passant d'Égypte en Grèce et aurait été introduit en Gaule par les Romains. Les boules ont d'abord été en argile, en pierre, puis en bois et enfin en acier. Mais, après les "bouleurs" du Moyen âge, l'âge d'or des boules en tous genres fut certainement la Renaissance où la noblesse s'empare du jeu au même titre que le bilboquet et le jeu de paume (qui deviendra le tennis). Pour des raisons obscures, il semblerait que le jeu de boules ait été interdit au peuple de 1629 à la Révolution.
Dès le début du XIXe siècle, le jeu de boules (dont l'interdiction n'a d'ailleurs jamais été tout à fait respectée) est répandu du nord au sud de la France. Dans Ferragus (1833), Honoré de Balzac décrit les parties de boules du faubourg Saint-Marceau aujourd'hui Faubourg Saint-Marcel : "Cette esplanade, d'où l'on domine Paris, a été conquise par les joueurs de boules, vieilles figures grises, pleines de bonhomie, braves gens qui continuent nos ancêtres, et dont les physionomies ne peuvent être comparées qu'à celles de leur public. L'homme devenu depuis quelques jours l'habitant de ce quartier désert assistait assidûment aux parties de boules (...). Ce nouveau venu marchait sympathiquement avec le cochonnet, petite boule qui sert de point de mire, et constitue l'intérêt de la partie ; il s'appuyait contre un arbre quand le cochonnet s'arrêtait ; puis, avec la même attention qu'un chien en prête aux gestes de son maître, il regardait les boules volant dans l'air ou roulant à terre. Vous l'eussiez pris pour le génie fantastique du cochonnet. Il ne disait rien, et les joueurs de boules, les hommes les plus fanatiques qui se soient rencontrés parmi les sectaires de quelque religion que ce soit, ne lui avaient jamais demandé compte de ce silence obstiné (...)".
En 1850, la première société officielle, "le Clos Jouve", fut fondée dans la région de Lyon puis, en 1906, la Fédération lyonnaise et régionale ouvre la voie en 1933 à la Fédération nationale des boules qui deviendra Fédération française de boules (FFB) en 1942. Bien que regroupant nombre de jeux de boules ("boule des berges", "boule en bois", "jeu provençal"), la FFB fut dominée par le jeu de boule lyonnaise (128 000 joueurs en 1945), jusqu'au début du XXe siècle.
Au XIXe siècle, alors que chaque région, ou presque, introduit une variante d'usage, les méridionaux se passionnent pour la longue ou jeu provençal avec des règles simplifiées, le libre choix du terrain, mais où les tireurs font trois pas de course pour prendre leur élan. C'est ce jeu que Marcel Pagnol décrit dans ses souvenirs d'enfance (Le temps des amours) et qui fut intégré dans le film Le château de ma mère.
En 1904, un Alsacien du nom de Félix Rofritsch entreprit la fabrication des premières « boules cloutées » (en bois recouvert d'une carapace de métal, formée de clous) dans son atelier à Marseille, sous le label de "La Boule Bleue".
Le jeu provençal donnera naissance en 1907 à la pétanque, lors de la partie historique à La Ciotat où un champion de jeu provençal, Jules Hugues dit "Lenoir", ne pouvant plus jouer à son jeu préféré à cause de ses rhumatismes, s’est mis un jour, à tracer un rond, envoyer le but à 5-6 m, et, les "pieds tanqués", à jouer ses boules pour se rapprocher du cochonnet. Ceci se passait sur le terrain de boules d’un café "La boule étoilée" dont les propriétaires s'appelaient Ernest et Joseph Pitiot. Les deux frères comprirent vite l'intérêt de ce sport, s'appliquant à en finaliser les règles. La pétanque était née !
Il faudra néanmoins attendre le premier concours officiel à La Ciotat en 1910 pour que le mot soit officialisé. Le terme vient des mots de l'occitan provençal pè "pied" et tanca "pieu", donnant en français régional l'expression "jouer à pétanque" ou encore "pés tanqués", c’est-à-dire avec les pieds joints et ancrés sur le sol, par opposition au jeu provençal où le joueur peut prendre de l'élan. Les innovations sont les suivantes : le jeu se pratique sur un terrain plus court, le joueur lance sa boule sans élan les pieds joints, à partir d'un cercle tracé au sol.
La première boule en acier aurait été fabriquée en 1927 à Saint-Bonnet-le-Château, qui abrite à présent le Musée international pétanque et boules. La même année, les règles de la pétanque furent codifiées, mais ce n'est qu'en 1930 que les traditionnelles boules en bois cloutées furent remplacées par celles en acier. C'est à Jean Blanc que l'on doit cette évolution.
La Fédération française de pétanque et de jeu provençal (FFPJP) voit le jour le 31 juillet 1945 quand, forte de ses 10 000 membres, elle peut enfin quitter la section provençale de la FFB.