明治二年（一八六九）の版籍奉還ののち、政府は藩を廃止して中央集権体制の確立を企図していたが、旧大名や諸藩の抵抗などを懸念し、廃藩への動きは停滞していた。しかし、明治四年七月四日、近代陸軍整備の観点から兵制の統一を模索していた山縣有朋はこうした状況に危機感を抱き、鳥尾小弥太（とりおこやた）、野村靖（やすし）とともに廃藩置県の即時断行を掲げて木戸孝允や西郷隆盛ら政府首脳を説得した。
　これに先立ち、政府軍の実態が諸藩兵の連合であることを憂慮し、明治三年一二月に西郷に対して、薩摩・長州・土佐の三藩からの拠出兵力によって政府直轄軍を御親兵として設置すべきことを提案していた。
　戊辰戦争などにおいて政府軍の中核となっていたこれらの諸藩は、戊辰戦争終結後、その兵力の維持にかかる多額の費用の捻出によって財政が圧迫されていた。加えて、戊辰戦争の凱旋兵たちが藩内における地位の向上や藩政への参画などを要求したこともあり、藩内の政情が不安定となるといった問題も生じていた。
　山縣の提案を受けた西郷は明治四年二月に上京し、薩長土三藩からの拠出兵力をもとに天皇直轄の親衛部隊として御親兵を新設した。御親兵には、薩摩藩より歩兵四大隊と砲兵四隊、長州藩より歩兵三大隊、土佐藩より歩兵二大隊と騎兵二小隊、砲兵二隊がそれぞれ献兵として拠出され、約八〇〇〇名の兵力が政府直轄軍となった。御親兵の設置により諸藩の兵力を圧倒することが可能となった政府は、廃藩置県を断行する。
　なお、御親兵創設直前の明治四年一月の段階では、岡山・広島・名古屋・熊本の各藩から一大隊ずつの兵力を拠出させて東京府、とくに皇居の防衛に充てることが企図されていた。その際には、「上野近傍」、「芝辺」、「四谷新宿辺」、「本所辺」の四か所を駐屯地とする予定であり、「芝辺」は増上寺境内が想定されていた（『太政類典』一〇八）。
　また、御親兵創設に続く明治四年七月に、海軍も水卒屯所、すなわち水兵の駐屯地を芝新銭座町の江川太郎左衛門屋敷跡（東新橋一丁目付近）に設置している。同地は、天保一二年（一八四一）に江川英龍（坦庵）によって高島流洋式砲術の塾が開かれ、多くの人材の育成にあたったことで知られている。海軍による水卒屯所設置にあたっては、用地確保のために周辺の町地の買収も行われている。武家地であり、すでに政府が上地していた江川邸とは異なり、町地では住民が生活しているため、工部省による鉄道用地買収と同様の基準でそれぞれの地価に応じて土地の買収を行い、また、賃借人に対する立退料の支払いを行うことなどが必要であった（『太政類典』一〇七）。