La vielle à roue apparaît au Moyen Age, dès le IXè siècle. À la fin du XVIIè siècle, l'aspect de la vielle est encore simple et rustique, d'une forme à peu près carrée. C'est seulement à la fin du siècle qu'un luthier de Versailles commence à monter des mécanismes de vielle sur des corps de guitare ou de luth.
Au cours du XVIIIè siècle, des instruments construits avec beaucoup de soin et richement ornés font leur entrée à la cour. Les luthiers Guersan, Lambert, Louvet, Varquin et Salomont étaient les plus performants vers le milieu du siècle. Au XIXè siècle, elle tombe en désuétude avant que le Berry, en quête d’identité, ne s’empare de l’instrument ainsi que de la cornemuse pour en faire ses emblèmes.
Au XXè siècle, dans les années 1960 et 1970, le mouvement « folk » se l’approprie de nouveau et les groupes dits « folkloriques » se constituent. Depuis, l’instrument est en constante évolution : on l’électrifie et la vielle électroacoustique apparaît.
Aujourd’hui, l’instrument continue à évoluer : on affine toujours et encore la qualité de la vielle et les luthiers sont en quête d’un son pur et précis.