A palavra joalharia é derivada da antiga palavra francesa jouel, que foi também anglicanizada por volta do século XIII. Procurando em tempos mais antigos encontramos também a palavra jocale que significa objecto de brincar.

A joalharia aparece em todos os períodos da História, desde o alvorecer do Homem. Recentemente foram encontradas conchas com 100.000 anos que foram transformadas em contas, sendo assim a peça mais antiga de joalharia conhecida. Apesar de nos primórdios as peças de joalharia serem criadas para usos mais práticos, como prender peças de roupa juntas, nos tempos mais recentes é usada maioritariamente para decoração.

As primeira peças de joalharia eram feitas de materiais naturais como ossos e dentes de animais, conchas, madeira e pedras esculpidas. Nesta altura a joalharia era feita sobretudo para pessoas com uma alta importância para demonstrar estatuto social e eram na maioria das vezes enterradas com elas.