A legrégebbi fennmaradt hárfa az i.e. 3. évezredből származik, és Ur városában találtak rá, a Sumér Birodalom területén. Jelenleg a British Museumban, Londonban található. Arany bikafej és intarzia díszíti.
A görög mitológia szerint Hermész alkotta meg a hárfa ősét, a lyrát, egy teknős páncéljából, majd Apollónnak adta, hogy kiengesztelje, amiért elhajtotta a barmait.
A föníciai kereskedők közvetítésével jutott el a hárfa Európába, Írországba. Írországban igen nagy becsben tartották – nem véletlen, hogy az ország címerében ma is megtalálható.
Írországból Walesbe is eljutott a hárfa, ahol a kelta bárdok hangszere lett. A bárdok költők, énekmondók voltak, akiknek fő kötelességei közé tartozott, hogy a tudományokat műveljék, az erkölcsöt védelmezzék és megénekeljék a kiválóságok hőstetteit. Wales királya 1100-ban összehívta a bárdokat, és velük együtt alkotta meg a Zene 24 törvényét.
Kimondták, hogy zene- és hárfatanításra csak az a bárd vállalkozhat, aki hosszas tanulmányok során elnyerte a „mesterdalnok” címet. Azt is kimondták, hogy nem szabad zenészt halálra ítélni, továbbá hogy még a bíróságnak sincs joga walesi polgár lakásán lefoglalni könyvet, kardot és hárfát.
300 évvel később I. Edward Wales meghódításával véget vetett a bárdok előjogainak, akik akkoriban már komoly politikai hatalmat is képviseltek. Az üldöztetés hosszú időszaka következett: Erzsébet, Anglia királynője vérdíjat tűzött ki a bárdok fejére. A kelta hárfások utódai az európai kontinensen szóródtak szét: egy 13. századi francia krónika hírül adja, hogy „hárfások érkeztek Angliából”. A hangszer előkelő rangja tovább élt: a trubadúrok elválaszthatatlan társa lett.