明治2年（1869）2月5日、明治政府は「府県施政順序」を布告した。この中に「専ラ書学素読（ソドク）算術ヲ習ハシメ」る「小学校ヲ設クル事」という一項が示されている。しかし、廃藩置県と文部省設置をみるまでは、全国的に教育を統轄するには至らず、また、政府においても、新しい教育のあり方を模索していた時期でもあった。
　政府は明治3年2月に「大学規則」「中小学規則」を定めた。この規則は全国に実施されなかったが、小学は中学を経て大学に進むという、大学の専門科目を学ぶための予科段階として計画されたものであった。
　「学制」以前の小学校は、右に見られるように庶民に読み書き算盤（そろばん）を教えるものと、指導層を養成する中学・大学への予科的なものの、二つの類型が考えられていた。
　明治4年に文部省が新設され、廃藩後の中央集権体制のもとに全国統一の新学校制度を実施するために、翌5年に全文109章にわたる「学制」が公布された。その際示された太政官（だじょうかん）布告には、「学問ハ身ヲ立ルノ財本共云ヘキ者ニシテ人タルモノ誰カ学ハスシテ可ナランヤ」（「学制序文」「被仰出書」［注釈7］）と、立身・治産・昌業のためとする学問観をもとに、「自今以後一般ノ人民［華士族農工商及婦女子］必ス邑ニ不学ノ戸ナク家ニ不学ノ人ナカラシメン」とする国民皆学の理念がかかげられている。そして、「学制」第21章は、「小学校ハ教育ノ初級ニシテ人民一般必ス学ハスンハアルヘカラサルモノトス」とした、上等・下等各4年の構成であった（旧『港区教育史』下巻675ページ資料参照）。
　政府の学校普及の努力と、地方官が学事奨励に努めた結果、「学制」の実施の効果をあげた地方も出てきたが、一方では、学校運営や維持に対する地方の経費の負担が重く、政府の政策に対する不満も強くなり、暴動にまで発展するところも出て、就学は全国的に低調であった。加えて、自由民権の思想と運動が盛んになってくるなどの動きもあったので、当時の時勢に即応させるため、文部省は明治12年9月、「学制」を廃止して「教育令」を公布した。
　「教育令」は、就学期間を学制と同じ8カ年としながらも4カ年の短縮を認め、学校に入学しなくても家庭などで普通教育を受ける方法があれば就学とみなし、また私立小学校での代用や資力に乏しい地方での巡回教員による方法を認めるなど、就学義務や学校設置についてきわめて自由な方針を示した。
　しかし、アメリカの教育制度を模範としたといわれた「教育令」は、かえって小学校教育の後退をもたらした。地方によっては就学率が減少し、経費節減のための廃校などの事態も生じ、改正をせまられる状態をもひき起こしていた。文部省は、国家の統制、管理の強化を基本とした改正の準備を進め、明治13年12月に「教育令」を改正し、小学校教育の振興を企図した。この「教育令」改正は、教科の初めに修身を置き道徳教育を重視し、府知事・県令の権限を強め、学校設置や就学の義務の規定を強化したものに修正されている。
　しかし、この間、全国的な災害や経済的な不況に見舞われ、国庫補助金の廃止で、地方では教育費の支出に苦しみ、明治18年には再び改正せざるをえなかった。再改正の「教育令」は、地方の教育費負担の軽減をねらい、地方の実情にそった簡易な教育を認めたものであった。
　一方このような情勢の中で、政府内においては徳育問題をめぐって論議が行われ、明治12年「教学ノ要ハ仁義忠孝ヲ明ラカニシテ知識ヤ才芸ヲ究メ、人ノ人タル道ヲ完ウスル」［注釈8］という、教学の根本方針をかかげる「教学大旨」が示された。文部省は、徳育を徹底させるため、「小学校教員心得」を公布して教員の思想・態度を改めて教育の向上を図るとともに、修身を重視した国体主義の教育を進めることとした。