元来、苅屋・濱田・黒崎・釜屋の四ヶ村は、賀茂庄として栄え、貴布禰宮の氏子であった。 永和年間に、赤松光則が武山城を築くにあたり武山八幡宮を建立し、黒崎、釜屋の氏子は重複する事となった。 その後、濱田村・龍門寺の開祖「盤珪禅師」と回船問屋「灘屋」が富嶋の地に、相殿に齋奉り神殿を創建、 寛文4年に合祀された。