目蒲線の開通と大震災により、大崎町の花ケ谷、谷山、谷戸付近に住宅が立ちならび、いちじるしい発展を見せたので、小学校を新設する必要が生じ、大正十四年に第四日野小学校が不動前の駅の近くに設けられた。この学校敷地は湿地で、カヤやヨシが生えており、古くは「二つ池」と呼ばれる池があったところといわれ、また校地の端の方はかつての馬すて場で、馬頭観音がまつってあり、整地の際、馬の骨が多量に出るという寂しいところであった。

　開校はその年の九月であるが、多くの生徒が第一日野校からの転校生で、その数四〇二名、九人の職員で開校された。

　また、大正十五年には引き続き第五日野小学校が下大崎（五反田駅の東方）に設けられ、第二日野・芳水小学校の生徒の一部を移して九月に開校した。この位置は現在の第二日野小学校となっているところで、第五日野校は戦後閉校となってしまった。