ほぼ台地上にあって、ごくゆるやかな北方への傾きがみられる。
【青山の由来】　青山の地名の起こり範囲が決まったのは、天正十八年(一五九〇)と伝える青山忠成への家康の給地以来と考えられる。
　『天正日記』の「青山宿取立」の記事は信頼しがたく、一方、近世に、町名に青山を冠するのは青山家の上げ地跡のためとか、青山家隣接地のためといい、青山邸と青山を冠称する土地との関係が不可分であること、中世から存在している渋谷村、原宿村に割ってはいった形で青山の地域があること、高木主水正邸地などに青山の地名が及ぶのは近世であること、長者丸の地名起原に青山長者といういい方はなく、渋谷長者・黄金長者などというなど、それ以前に青山の用例がないことなどをあげることができる。
【大山街道】　大永四年(一五二四)の江戸城攻撃に、小田原北条軍が渋谷から一ッ木方向へ抜けて虚をつき成功しているが、当然今日の青山通りの路線であろう。以後、大山街道となる気運ができたといえるかもしれない。家康が譜代の功臣青山忠成を布置したのも、西方への固めを考えたからに違いなく、のち青山邸が南北にわかれてから、青山通りは大山街道として本格化したらしい。それ以前は西麻布筓橋が西方への通行路であったとの推測も可能である。青山通りは南北青山二丁目の西部で屈曲しているが、湧水地点があって南方へ青山台地が浸蝕されたその先端をたどった結果であろう。
【青山原宿村】　集落は、現三丁目一番の北端から北方へ原宿と称していたもので、鎌倉から奥州への宿駅であったとの伝承がある。天正十九年(一五九一)に伊賀者への一括給地があり、元文三年(一七三八)八月から町方支配となって青山原宿町と唱えた。これ以前に天正七年(一五七九)開創という高徳寺があるが、中興の開基が甲賀組の八人となっており、やはり近世の下級幕臣によって維持されたことがわかる。忠成邸地は本町域では、一丁目と二丁目一～八番を含み、天正十九年には二丁目七・八番間の道路両側が伊賀者の一括給地になった。元和九年(一六二三)青山家は忠成の子忠俊が将軍家光の怒りにあい、邸地所領を没収され、忠成四男の幸成がその屋敷を受けた。江戸城警護の百人組与力同心も忠俊から受けついだが、寛永九年(一六三二)ようやく忠俊は許され、その子の宗俊が邸地北半をえて中屋敷とした。南北青山はこのときからわけられる素地ができたが、このいい方となるのは明治五年以後である。
【町屋の拡大】　その二年後、安永十一年(一六三四)に実相寺(二丁目一二番)が、明暦六年(一六五五)には持法寺(二丁目一二番)が開創。同四年に現二丁目一部が龍野藩脇坂邸となり、延宝六年(一六七八)には百人組同心に現三丁目一～四番が一括給地されて、青山百人町の里俗地名が生じた。これは邸地で収入のための町屋ではない。天和三年(一六八三)には、前年の火事で召しあげられた代地として、本郷から若松町(現一丁目二番あたり)、お茶の水から御炉路町(現外苑いちょう並木道北部)、お茶の水苗木山から浅河町(若松町の北に隣接)、湯島天神前とお茶の水台から五十人町(浅河町西隣、現二丁目三・四番からその北方へかけて)、本所南横堀から六軒町(一丁目西北端)などが移転してきた。いずれも御作事方定普請同心などの下級幕臣が収益のために支給されていた町屋であった。この地域が大山街道ぞいの町屋となった始めで、江戸の拡大と火災が周辺への展開を助長したとみられる。
　なお、青山御炉路町の北端ごく僅かの部分に麻布今井町の飛地があったが、その由来は不詳で、本町の起原からして万治(一六五八～)以前からの存在とも考えられる。
【武家地と寺社】　貞享四年(一六八七)になると、現一丁目の青山邸北部が姫路藩本田家、同南西部が山野邸となり、前者は元禄二年(一六八九)に相互交換で横山内記邸となり、後者は同十二年結城藩山野邸と変わって、いずれも幕末まで続いた。この前年の元禄十一年には小普請組の町屋若松町(先の若松町を元若松町、これを新若松町という)が現一丁目四番あたりにできている。なお、貞享のころ(一六八四～)現地に神田から移転してきた定普請同心組屋敷鎮守という三河稲荷が現二丁目四番にあった。
【秋葉稲荷】　宝永三年(一七〇五)善光寺(三丁目五番)が谷中から来転、先に百人組同心一括給地の場所が紀州家徳川綱教の弟の徳川内蔵頭主税の邸地となってそれが上げ地となっていたところの一部で、その翌年には門前町屋もその表通りへ旧地から移ってきた。この境内地には渋谷金王八幡境外末社で文政十年(一八二七)創立の稲荷社(秋葉様ともいう)があった(現三丁目五番)。この上げ地のほかは、同年に一ノ関藩田村邸、鯖江藩間部邸となり、御先手組与力や馬場先御用屋敷同心の一括給地もあった。大名邸は時に主を変えるものもあって、幕末には、安芸・母里両藩の上屋敷と、南部藩をはじめ五藩の下屋敷があった。
　あとは元文三年(一七三八)に伊賀組一括給地が町屋となって青山久保町(現二丁目一・七・九・一二番)ができた程度で、近世半ばには町況が安定した。文政(一八一八～)以後、光覚寺(二丁目七番)が来転したのは例外的な変化だった。
　近世の里俗地名も多いが、とくに現一丁目北部で、道が六つにわかれていたという六道の辻は、弘化二年(一八四五)の出火場所として名が知られた。ほかに地軸に達する石があったという六道の辻南の立石、幕末に腕切り事件が二度あった羅生門横丁などが知られる。
　百人町名物の星燈籠は、盆供養の行事で、浅河町には宮地芝居や青山六ヵ町持ちの半鐘、久保町には青果市場があって幕府へも納入し、青山が郊外との接点で、いわば流通センターをもっていたとみられる。
【明治以降の移り変わり】　維新後、御炉路町の御を省き、明治二年(一八六九)二月三日には、善光寺門前を善光寺町に、炉路町・五十人町を青山相生町に改称、同三年には、また青山若松町、同浅河町、同相生町が青山和泉町に、麻布今井町飛地が青山北和泉町となっている。明治五年に至って、武家地・寺社地に町名を及ぼし、現町域は青山北町一～六丁目と、新設された青山三筋町一・二丁目、青山六軒町(その一部は現元赤坂二丁目)となった。
　商店は現青山通りに徐々にできたが、現一・二丁目裏には明治十九年(一八八六)日比谷練兵場の廃止で青山練兵場が出現、青山三筋町はその実を失い、六軒町も僅かな存在となった。同二十四年には、一丁目一番に陸軍大学校が設けられるとともに、近衛歩兵第四連隊が霞が関から現二丁目一〇番から北方へかけての敷地に移ってきた。同連隊は、明治三十年から二年間、千葉県佐倉にあったが、同三十二年に再びこの地にもどった。
　同三十三年、府立師範が現三丁目へ移ってきて青山師範と改称、同四十四年青原寺が去って電話局青山分局が開設。大正九年(一九二〇)に現三丁目の表参道が完成、青山練兵場跡の外苑は、大正十五年まで建設が続いた。大正七年その一角(現二丁目八番)には学習院女子部が移転してきて、まもなく女子学習院となっている。昭和十三年(一九三八)青山師範が去った跡は、新設の府立中等学校の諸校がおかれた。
　戦災後の復興で、区立青山中、都営アパート、秩父宮ラグビー場、日本最初のボーリング場などができた。青山通りは、立体換地で面目を一新、高層化して、各種のスーパーストアや、赤坂、六本木と並称される先端的な市街を構成することになり、さらにビルの巨大化も進んでいる。
　住居表示による現町名町域への変化は、昭和四十一年(一九六六)十月であった。
　なお、この住居表示のさい、渋谷区原宿一丁目の全部を二丁目八番の北部東辺に編入した。大正以後、唯一の区境変更である。この原宿一丁目は四十年に渋谷区が神宮前二丁目を設定した残余の部分であった。