明治二〇年代は、「小学校令」の公布と「教育勅語」の渙発により国民教育制度が確立していく時期であった。初代文部大臣森有礼（もりありのり）のもとで学校制度全般に関する改革が着手され、明治一九年（一八八六）三月に勅令第三号「帝国大学令」、その翌月には勅令第一三号「師範学校令」、勅令第一五号「中学校令」とともに勅令第一四号「小学校令」が公布された。小学校令では、小学校は尋常、高等の二科に分けられ（修業年限各四年）、尋常小学校四年間の就学義務が明確にされた。土地の情況によっては三年の小学簡易科（授業料無償）を設けて尋常小学校に代用することができると規定されていたが、小学簡易科の設置維持費のほぼ全額が区町村費負担とされた。そのため東京府には公立の小学簡易科は一校しかなく、港区域の各区も公立の小学簡易科を設置しない方針をとった。また、小学校経費については、区町村費をもって主要財源としてきた従来の方針を改め、主として授業料と寄付金によることとし、不足する分を区町村費で補助することとなった。
　その後、市制・町村制や府県制郡制によって地方自治制度が整備されたことに伴い、明治二三年一〇月に小学校令が改正された。この第二次小学校令では、第一条において「児童身体ノ発達ニ留意シテ道徳教育及国民教育ノ基礎並其生活ニ必須ナル普通ノ知識技能ヲ授クルヲ以テ本旨トス」と小学校の目的が規定され、この約一か月後に出された教育勅語が「道徳教育及国民教育」の基本とされた。また、旧令で認めていた小学簡易科を廃し、尋常小学校の修業年限は三年または四年として、就学義務を少なくとも三年と定めた。高等小学校は、地域の実情に適応させるために二年、三年、または四年というように弾力性をもたせたが、芝、麻布、赤坂の三区は尋常小学校、高等小学校ともに四年と定め、教育の充実に努力した。
　さらに、この改正により代用私立小学校の制度が整備されたことにも大きな意味があった。学校の設置については、各市町村はその市町村内の学齢児童を就学させる尋常小学校を設置する義務があるとする一方で、市内に私立小学校があるときは公立小学校の設置を猶予し、私立小学校をもって代用することができるとした。東京府においては、財政的な事情により公立小学校の増設が困難であったため、小学校令改正を受けて、明治二四年一〇月から代用私立小学校制度を実施し、一定の内容や施設をもつ私立小学校との契約というかたちで公立小学校の不足を補った。
　明治二七年時点で代用指定された私立小学校は、芝区で一九校（共栄、聖阪、小南、和田、北川、松野、成立、丸橋、里見、南風、飯田、黒沢、小野、穂高、浜田、荒川、龍和、鳳生、貞操）、麻布区では九校（宮下、小暮、庭訓、辻、山本、三台、谷、培根、慈育）、赤坂区では六校（氷川、溜池、関、丹後町、育英、協愛）であった。代用期間は明治三〇年（一八九七）三月末までとされたが、各区会は代用を継続すべきことを決議し、その後も一年ごとに契約を継続していくことになった。その間、明治三二年八月に勅令第三五九号「私立学校令」が出され、劣悪な私立学校に対する取り締まりが強化された。　　
　『東京市学事年報』によれば、明治三三年度の港区域の公立小学校は一六校（芝区八、麻布区三、赤坂区三・分教場二）、代用私立小学校は三〇校（芝区一九、麻布区七、赤坂区四）、私立小学校は九校（芝区三、麻布区六）であったのに対し、明治四三年度（一九一〇）には公立小学校二八校（芝区一三、麻布区八、赤坂区五・分教場二、単置制の高等小学校を除く）、私立小学校一一校（芝区一〇、麻布区一）となっている。明治三〇年代以降の公立小学校の整備に伴い、代用私立小学校は漸次契約を解除し、明治四〇年三月の小学校令改正において代用私立小学校の制度が廃止されたことにより、私立小学校も急速に衰退していった。