大峰山脈の北端部に当たり、吉野川南岸の六田付近から青根ヶ峯までを吉野山と呼び、尾根上に道が走り、この道に沿って両側に社寺や旅館・土産物店などが建ち並び門前町を形作っている。周辺の尾根や斜面には、役行者が本尊を彫刻したという伝承にちなみ献木するという宗教行為によって植え続けられてきた桜が広範囲に分布し、わが国でも他に例をみない文化的景観をみせている。

古代の分水嶺に対する信仰を祭祀の起源とする神社で、俗に子守神社とも呼ばれている。古くは青根ヶ峯に祀られていたといわれ、12世紀には神仏習合によって祭神が地蔵菩薩の垂迹とされ重視された。
社殿は本殿・拝殿・幣殿・楼門・回廊からなり、豊臣秀吉の意志を継いだ秀頼が慶長10年(1605)に再建したものである。

金峯山(吉野山から山上ヶ岳までの山々の総称)の地主神である金山毘古(金精明神)を祭神とし、吉野水分神社とともに「吉野」が信仰の山となる端緒となった神社である。修験道の隆盛に伴い峯入の際に行者が通過すべき四つの門が定められたが、当社の社前には第二の「修行門」にあたる鳥居が建てられていた。

修験道の霊場である吉野の中心的伽藍として、また山岳信仰の霊地として平安時代中期以降信仰を集めてきた寺院である。山上ヶ岳の大峰山寺の本堂を「山上蔵王堂」と呼ぶのに対して金峯山寺の本堂は「山下蔵王堂」と呼ばれた。境内には蔵王堂を中心として本堂の北に北面して建つ二重門の二王門、修行に先立ち意志を固めるための「発心門」である銅鳥居などが建ち並ぶ。

明治初年の神仏分離令及び修験道廃止令により神社となったが、もとは吉水院と称した金峯山寺の一院であった。源義経が吉野潜伏の折りこの寺に起居したと伝えられ、後醍醐天皇が一時期行在所としたことでも知られる。

古代から信仰を集めた山上ヶ岳頂上にある修験道の寺院で、役行者の誓願に応じて蔵王権現が出現したと伝えられる霊地に建ち、修験道の聖地の中でも最も重要な場所とされている。本堂は元禄４年(1691)に完成し、さらに同16年に現在の規模に拡張されたとされる。柱は太いが建ち低く、高山に建てられた他に類をみない建造物である。