麻布地域では、明治初期から市兵衛町、鳥居坂、飯倉などを中心に皇族・華族、政財官界の有力者などの邸宅地が集まっていたが、複雑な地形で街道筋から外れており、市区改正事業での道路改良は小規模なものに留まり、三等道路以下のみが指定されていた。このため麻布の道路網は江戸時代からあまり変わらず、中規模な大名屋敷の土地形状、地割が維持された形で住宅地が形成された。その例として、麻布区霞町(現在の西麻布交差点付近)の棚倉藩阿部家下屋敷が挙げられる。
阿部家本家の旧福山藩主・阿部正桓(まさたけ)は、帝国大学に近く「学者町」と称された本郷西片町で貸家貸地経営を行ったが、分家の棚倉藩阿部家も、麻布区霞町の下屋敷跡地で同じく貸家貸地経営を営んだ。棚倉藩阿部家下屋敷は明治維新後も阿部家私邸であったが、明治五年(一八七二)の武家地・町人地区分の廃止に伴い、霞山稲荷にちなんで麻布霞町と命名された。明治二〇年代初頭から屋敷跡の敷地内に小路を開設、井戸や排水施設が整備され、阿部家所有の貸地・貸家からなる住宅地に変化した。
市区改正事業により、屋敷跡西側の笄川沿いの低地が整備され、南北に通る道路が拡幅された(現在の外苑西通り。四等道路、幅員八間)。明治三九年には市街電車が開通した(品川駅前~天現寺~青山一丁目の区間、後の都電第七系統・品川駅前~四谷三丁目の一部)。屋敷跡付近には霞町停車場が設置され、交通至便となった霞町周辺は繁栄期を迎えた。明治末の阿部屋敷跡には、平均一七坪程度の建坪に木造平屋建て三六五戸が建ち並び、阿部家は華族のうちで六番目の大土地所有者となった。
また周辺の人口増加に伴って明治四三年に霞町分署の昇格により霞町警察署が設置され、麻布区は麻布警察署、霞町警察署の二警察署体制となった。さらに大正三年(一九一四)に飯倉から渋谷方面への六本木通りも整備され東京市電の新路線が開通し(六本木~霞町~青山六丁目の区間、後の都電第六系統・新橋~渋谷駅前の一部)、材木町停車場、高樹町停車場などが設置された。なお霞町警察署は大正四年末に材木町に移転、六本木警察署と改称された(麻布鳥居坂警察署編 一九三一)。
その後の霞町地域は関東大震災の被害を免れ、阿部家による土地所有と住宅地経営は戦後昭和二一年(一九四六)の財産税法施行でその大部分が物納されるまで続いた。昭和以降の霞町地域の土地所有や建物は大きく変化し、昭和三〇年代の六本木通りの再拡幅、首都高開通や都電廃止などで地域の景観は大きく変化したが、街区形状や敷地割など市街地の構造、とりわけ道路網の基本的構造は、大名屋敷地の時代から受け継がれている(加藤 一九九一および加藤 一九九五)。