大区小区制の導入後も、人びとの日常生活の基盤は旧村にあり、行政組織としては複数の旧村からなる小区が基礎となっていたため、日常生活と行政の間にはズレが生じることになった。神奈川県ではこのズレを、代議人を増員し、さらに村用掛の選任も代議人の選挙として、村民の意向を吸収しやすくすることで解消しようとした。代議人制度はやがて村会設立へとつながっていくことになる。
　明治政府は、一八七八（明治一一）年七月、郡区町村編制法を公布した。この法令は、これまでの方針を一八〇度転換するもので、旧町村を行政組織として復活させたうえで大区・小区を廃止し、府県と町村との間に「郡」という行政単位を置くものであった。郡は近世の国郡制の範囲を基礎とするが、郡が広範囲におよぶ場合、分割することが認められた。神奈川県下の多摩郡では、このとき北・西・南の三多摩郡が置かれ、小平は北多摩郡の管轄となった。「三多摩」「北多摩」の呼称が生まれたのはこのときである。北多摩郡役所は府中（現府中市）に置かれ、郡長には砂川村（現立川市）元名主の砂川源五右衛門（げんごえもん）が任じられた。大区・小区は廃止されたため、各村は府中に置かれた北多摩郡役所が直接管轄することになった。各村の村政の責任者は戸長となり、戸長の選任にあたっては「戸長選挙規則」が定められ、満二〇歳以上の男子による公選制となった。