海と山に囲まれた日本列島では、先史時代以来自然物に対する崇拝があった。なかでも水田稲作農耕が登場する弥生時代以降、農耕儀礼を中心とする農民社会の祭祀が主流を占めるようになった。農耕に欠くことのできない水を与えてくれる湧水源として、山の信仰は原始信仰の出発点となった。山中の洞穴などに豊玉姫（龍神＝水神）が祭られているのも、このようなことに由来している。やがて仏教が伝来してくると、山は僧侶の修業の場となり、在来の山岳信仰に仏教が導入されて、のちの修験道（しゅげんどう）の前身ともみられる山岳信仰（＝原始修験）が形成されていった。
　わが国の山岳信仰の対象となった霊山には、その山容から大別して二つのタイプがあった。一つは集落近くに在る小形の山や岳で、大和の三輪（みわ）山や畝傍（うねび）山・耳成（みみなし）山・香具山の三山などに代表されるものである。古典に“神奈備山（かんなびやま）”（神のこもる山の意）と呼ばれる霊山で、いずれも三輪山式の笠形の景観を呈し、これを背景として古社が鎮座する場合も少くない。もう一つは、高山大岳に属し雲上に高くそびえたものである。このなかには当時噴火していた火山もある。富士山（浅間山）をはじめ、赤城山（群馬県）・鳥海山（山形県）・阿蘇山（熊本県）などに代表されるもので、山頂が円錐形や笠形を呈するコニーデ形火山に属するものが多い。神道考古学の立場から以上二つのタイプを設定した大場磐雄（おおばいわを）氏は、前者を「神奈備（かんなび）式霊山」、後者を「浅間（あさま）式霊山」と称している。また、後者は洞穴などが生成されやすいところから、仏教徙が修業のために入山する場合が多かった。