一八八五年、太政官制を廃して内閣制度が発足し、総理大臣に伊藤博文、文部大臣に森有礼が任命された。教育行政においては、時代の進展に即した改革が必要となり、翌八六年四月勅令をもって「小学校令」を公布した。これを受けて、文部省は翌月「小学校の学科及其程度」を布達して学科課程の基準を示し、全国的統一をはかった。
　この法令によって、
(一)　小学校を尋常小学校と高等小学校に分け、修業年限を各四カ年とし、尋常小学校の教育を義務教育とした。
　このときから従来の六カ月ごとの進級制が廃され、学年制に改められた。
(二)　地域の状況によっては、修業年限三カ年の小学簡易科を設けて、尋常小学校に代用することを認めた。
(三)　教科書は文部大臣の検定したものに限定し、教科書に対する統制を強化した。
　維新以来、わが国の教育をめぐって、旧来の儒教思想と新しい欧米の実学思想の流れがあり、思想的・道徳的な混乱が著しくなった。さらに自由民権運動の高揚を経て、大日本帝国憲法制定の翌九〇年十月、「教育ニ関スル勅語」(教育勅語)が宣布され、わが国の歴史性に立って国民の遵守すべき徳目を明示し、道徳・生活上の指針を与えた。以後、儒教思想を基本とする教育・国民道徳が強調されることになった。
　文部省は、これを受けて全国の官公立学校に勅語謄本を下付し、さらに翌年六月に「小学校祝日大祭日儀式規定」を通達し、紀元節・天長節・元始祭・神嘗祭・新嘗祭の日には校長、教職員・児童生徒が登校して、天皇、皇后の御真影奉拝・教育勅語の奉読・国歌君が代・式歌の斉唱を行い、忠君愛国の志気を涵養するよう指示した。その後教育勅語は一九四五年(昭和二十)の終戦まで、国民道徳・国民教育の根幹として実践が進められた。
　一八九〇年(明治二十三)十月、近代国家体制の充実に伴い国民教育に再検討が加えられ、小学校令の全面的改正が、以下のように行われた。
(一)　小学校は「道徳教育及び国民教育の基礎並びにその生活に必須なる普通の知識技能を授くるを以て本旨とす」としてその目的を明確にした。
(二)　尋常小学校の修業年限は三カ年または四カ年、高等小学校の修業年限は二カ年から四カ年までと改め、簡易科は廃止する。
(三)　尋常小学校と高等小学校を一校に併せ尋常高等小学校とする。
(四)　尋常小学校・高等小学校に補習科を、また高等小学校には実業科目を課した専修科を置くことができる。
(五)　教育費は市町村制の施行に伴って市町村の負担とし、教育費の財源確立をはかる。
　さらに一九〇〇年(明治三十三)八月、再び「小学校令を改正し、①尋常小学校の修業年限を四カ年に復し、高等小学校の修業年限は従前どおりとした。②小学校の就学不振の原因になっていた授業料については、公立小学校の授業科を徴収することを禁じ、原則的に義務教育は無償とする方針を明らかにした。他方、この四月から「市町村立学校教育費国庫補助法」が施行され、小学校教育費を補助する国庫補助金が復活して、毎年、市町村に交付されることになった。
　一九〇三年、小学校令の一部改正を行い、これまでの小学校教科用図書の検定の制度を廃止して、文部省が著作権を有する教科用図書を使用することに改めた。この国定教科書制度によって、全国の児童は一律に同じ教材によって学習することになり、教育内容の統制が強まる半面、教科書が安価に提供される利便もあった。
　ついで、一九〇七年には、小学校令をさらに改正し、義務教育を二カ年延長して尋常小学校の修業年限を六カ年と定め、また高等科の修業年限は二カ年とし、三カ年に延長することも認めた。
　学制施行以来の懸案であった小学校児童の就学も官民一体の努力によって逐年向上し、とくに明治中期以後急速な伸展を示し、一九〇六年には全国平均男子九八・一六パーセント、女子九四・八三パーセント、平均九六・四九パーセントに達した。このたびの改正は、このような国民の向学心にこたえ、かつ日露戦争の勝利によってもたらされた国際的地位の高まりや国力・産業の発展に対応する国民資質の一層の向上を推進するためのものであった。学制施行以来、しばしば変更された初等教育制度もここに至ってようやく定着した。