開山・開基は不詳ですが、かつては東勝寺と称し、現在の東勝庵の地にあったと言われます。永禄12年（1569）の滝山合戦の際に焼失し、慶長8年（1603）に再建、寺号を観音寺と改めています。山号の大上山（訓では「おおがみ」）は、大神村の村名由来という説もあります（『新編武蔵風土記稿』）。

現本堂は近年再建されたもので、薬師堂・鐘楼などが境内にあります。なお、明治期には成隣小学校の前身「執中学舎」や組合村役場も置かれたことがありました。