Il nome Carillon è un temine francese che a partire dal Medioevo definiva un insieme di campane che venivano suonate grazie all'uso di una tastiera, i cui tasti collegati con delle funi alle campane emettevano il suono ogni qual volta venivano pigiati i tasti.

Pur essendo un termine di origini francesi, il carillon in quella lingua viene chiamato boite à musique (scatola musicale), e la sua storia ci porta nel lontano Medioevo, quando le campane erano poste nei campanili o sulle torri civiche, un maggiore sviluppo di tale strumento si ebbe qualche secolo dopo, nel 1400, quando presero piede in Belgio e Olanda, tra i carillon più illustri ci sono quelli di Malines, Bruges e Douai.

Con il passare dei secoli il sistema musicale delle torri campanarie si sviluppò sempre di più, essendo guidato da un meccanismo automatico a cilindro collegato all'orologio della torre.

Nel gennaio del 1796 Antoine Favre, orologiaio svizzero, diede vita al cosiddetto 'carillon sans timbre ni marteau', ossia carillon senza campane né martelli, un prototipo del carillon ora conosciuto, ossiaun piccolo meccanismo che faceva suonare una serie di piccole lame.

Questa invenzione venne subito apprezzata e vennero costruiti molti di questi meccanismi, che presero poi posto all'interno di oggetti, tra cui gli orologi.

La loro popolarità non ebbe mai fine e con il tempo vennero ampliate le melodie e i modi d'uso.