淀橋面頂部の平坦な丘陵へ、古川支谷の笄谷が、南方から深浅六つにわかれて入っている。それぞれが規模に応じた泉頭をもっていたようである。
【青山墓地内遺跡】　青山霊園では、縄文時代早・中・後期の土器のほか弥生式土器も発見された。黒耀石の破片や石鏃の半成品は、加工技術があったため、遠く信州などから原石が運ばれたことを意味し、先進的な技能集団の存在をうかがわせる。縄文期には海岸に遠からず、地形的にも見張り、防御、陽当たり、水はけにすぐれ、生活生産の好適地であった。
　この集落は相当長期にわたり連続あるいは断続したであろうが、先史時代以後は海退とともに絶えたらしく、ようやく南北朝時代に至って、長者伝説の塚がみられることになる。
【長者丸】　四丁目の里俗名である長者丸は、応永年間(一三九四～一四二八)のころまで栄えたという渋谷の長者(白金の長者に対し黄金の長者とも)の居住地で墓跡もあったという。渋谷氏・金王丸の家系との関係は明らかではないが、この付近も中世以前は西部が渋谷村のうちであった。東部は一ッ木村との間に原宿村となっていた。青山成立後も幕末まで南部に原宿村飛地が残ったのは、青山の地名が村の間に割りこんだ証拠であろう。
　白金長者の息子と、渋谷の長者の娘の恋愛成就を目黒不動が助けるという笄橋利生譚、八朔に長者の祭りをする伝承、松前家の塚を掘ればたたりがあるという伝承などがある。麻布朝日稲荷の神体や麻布桜田専称寺の観音が長者丸でえられたというのは、何か宗教的な意味をもつ場所でもあろうか。
【大名青山氏】　近世にはいって、まず大名青山氏の邸ができ、地名の起原となる(北青山の項参照)。青山邸、すなわち青山の地域は、現在の南北青山よりも東方へ広がりがあり、地域称となってから西部へ広がったらしい。青山邸とほとんど同時に高木邸ができたと推定され、高木町または主水町(高木氏は代々主水正)の里俗称ができた。
　慶長九年(一六〇四)には、教学院が現二丁目二七番から三丁目一番へかけて寺地をえた。元和九年(一六二二)には、青山忠俊から弟幸成に屋敷の主が変わり、寛永九年(一六三二)以後、忠俊の子宗俊が、幸成の屋敷の青山通り以北を分与されている。
【百人町】　青山氏は配下に与力二五騎と同心一〇〇人を統率し、邸内に置いたので百人町の俗称が生じた。のち与力が二〇騎となって二十騎町ともいった。延宝六年以後上地して与力・同心に改めて支給された。三丁目の二～四番を除く全部、四丁目一七番～二二番(一七番はのちに足(た)シ地として加えられ足シ山といい、のち立山となまった)、五丁目のほぼ全部に当たる。
　寛永二十年(一六四三)には、青山幸成を邸内で火葬し、跡に梅窓院(二丁目二六番)を建てた。寛文八年(一六六八)二本松藩丹羽氏が秋田淡路守と邸地を交換し、その一部は宝永六年(一七〇九)に松平伊豆守の下屋敷となった。三丁目から四丁目へかかったあたりで、ほかに大名屋敷は山形藩水野家、高鍋藩秋月家など四藩の下屋敷があった。高木邸は元禄十五年(一七〇二)一万坪を幕臣への給地のため上地した。にもかかわらず、毎日七〇駄もの薪が切り出せたという。
【最初の町屋】　町屋の最初は天和三年(一六八三)で、本所から幕府手大工二五人の一括拝領の町屋が移り、同時に江戸城内紅葉山の霊廟掃除の者の拝領町屋も本町からここに移り、六軒町といった(一丁目四番とその先道路と、二丁目七番東北部の二ヵ所。これは近代の北青山に新設の六軒町とは異なる)。また、やはり同年御手大工町の南の一部に接し青山五十人町の拝領町屋がきたが、これは現北青山二丁目にあった町の飛地でお茶の水と湯島天神前から移されたものだった。この三ブロック三町が近世を通じ南青山の町屋の全部であった。この天和三年ごろには現二丁目一～三〇番(二一番の南部墓地の部分を除く)が青山邸のうちから幕臣への一括給地になり分給されていく。このほか、上地による分給などで青山邸はだいたい現一丁目と二丁目三二～三五番(ほぼ青山霊園の所)になって、以後近世を通じその形勢を保った。なお、最後まで原宿村であったのは、宅地化しえない現二～四丁目間その他の沢筋であった。
　なお、現一丁目一・二番あたりは青山家邸地から寛政四年(一七九二)幕臣邸地になり、天保六年(一八三五)には防火空地となって紀州家が管理した。宮方御門前というのは、紀伊家二代目光貞に安宮が嫁せられて朱の門があったための里俗称で広小路ともいった。その空地に隣接して同じころから西の丸書院同心の一括給地(新屋敷、足軽町という)もあった。寛政十年(一七九八)には梅窓院東隣に鳳閣寺が移ってきたが、これは諸国修験の元締だったという。
　神社としては稲荷が二社あり、一つは渋谷長者勧請で長者稲荷、付近の滝のために船充稲荷ともいい、霧島明神ともされた(現三丁目四番)。いま一つは、大きな松の根方に天保十年(一八三九)祀ったという稲荷社(現五丁目一番)で、二社とも宮司兼務の小祠である。
　維新を迎え青山御手大工町の御を削り、明治二年(一八六九)青山六軒町と手大工町は青山大和町、青山五十人町飛地は、青山相生町と改称、同三年には、両町合して青山和泉町となった。大和、和泉の由来は不詳で、合併とはいえ離れた町の町名の統一だった。同五年に、原宿村飛地を除外して、青山南町一～七丁目と青山高樹町とした。南町とは幹線大山街道の南の意で、高樹町は里俗称の文字をかえたものだった。なお、現七丁目には、同年に武家地・寺地に新設された麻布笄町の町域を住居表示で若干加えている。
　明治二十二年(一八八九)五月一日東京市制施行のとき、青山南町七丁目を渋谷村へ移し、原宿村飛地の一部は、赤坂区へ編入、翌年十月二十二日飛地を南町五丁目にいれた。
【明治の町況　青山霊園】　明治の町況をみると、現青山通り側に住宅などを残し、背後は幕臣の静岡移住などで桑茶などの畑となった。大名下屋敷跡も原野めいたものであったと想像される。現一丁目には邸宅も住宅もできたが明治二十四年以後南の大部分は陸軍射撃場(俗に鉄砲山)となった。このほか麻布連隊区司令部などがあり、昭和にはいって東京逓信局施設ができるなどやや特殊な町況だった。現二丁目の町域は南の大半であった青山家跡を明治五年(一八七二)十一月神式の墓地とし、七年七月神仏共葬としたが神葬地横丁の名ができた。東京府から市へ管理を受けつぎ、正式には昭和十年(一九三五)五月から青山霊園という。歴代首相一〇人をはじめ近代日本を代表する人物が多数葬られている。墓地東側の青山葬儀所は疋田運猷創設で明治三十四年(一九〇一)開業、大正十四年(一九二五)寄付で市営となった。青山斎場の名で知られる。明治十年代には玉窓寺、竜泉寺、竜谷寺が現元赤坂二丁目で仮皇居用地にとられて移転してきた。また、鳳閣寺跡に青物川魚市場ができた明治二十年代は、北部の宅地化が進んだ。現三丁目も北辺から商店などができたが宅地化は二十年代からのようである。現四丁目の立山墓地は明治五年(一八七二)七月に共葬地となった。広閑院(四丁目一七番)は明治三十五年に水田の埋立て跡地に建立されたといい、その翌年には青山脳病院(四丁目一七番南半)もできた。五丁目は近世に親不知といわれたほど暗く、牧場や種苗場もあって都市化はやや遅れたらしい。のち、華族・軍人の邸宅が多くなった。現六丁目は旧高樹町で、宅地化してからはやはり華族・軍人・官吏の住宅が多く、近世主水町といわれたところに、多少の商店ができた。すぐれた庭園を今日に残す根津美術館は、昭和十五年(一九四〇)の設立である。現七丁目もおおむね叢林から大規模の邸宅街となったところである。
　戦後の復興は中小住宅を主として行なわれたが、オリンピック前に拡幅整備された青山通りは、世界のファッション、装飾品などを中心に商店が集まるようになり、キラー通りやその上にかかる青山橋が完成し、背後にマンション群が加わって、新しい感覚の町況を構成するようになってきている。