東海寺は北品川にあった大寺で、万松山と号し、寛永十五年（一六三八）に将軍家光の信任をうけていた沢庵のために、家光が建立した寺である。臨済宗に属し京都大徳寺の末として朱印寺領五〇〇石を領し、歴代の将軍や諸大名の帰依をうけていた。

　沢庵はかつて大徳寺にあったとき、幕府が寺院統制の一環としておこなった寺院法度の制定に批判的であった。大徳寺・妙心寺法度の制定によって朝廷や寺院のもっていた各種の権限が幕府に吸収されることになり、朝廷から賜わった紫衣（しい）が幕府の命によって没収されるという事件が生じ、これに抗議した大徳寺の沢庵や玉室は流罪に処せられた。これは紫衣事件と呼ばれ、朝廷の権威の失墜をなげく者もあった。沢庵は出羽国（山形県）上ノ山（かみのやま）の藩主土岐山城守頼行に預けられることになり、寛永六年（一六二九）七月二十五日に江戸を発（た）ち、八月十五日上ノ山に着いた。土岐頼行は沢庵を厚く処遇したが、三年後の寛永九年（一六三二）に赦されて京都へ帰った。これには前将軍秀忠の薨去による大赦や、幕閣の同情、天海の斡旋などが大きな力として働いたものであることが考えられる。

　沢庵は赦されて京都に帰ってのち、天海や柳生但馬守宗矩（たじまのかみむねのり）らのすすめによって、寛永十一年（一六三四）上洛した将軍家光に謁した。家光はこのころから沢庵に心を寄せ、寛永十二年（一六三五）には沢庵に江戸に住居を定めることをすすめ、江戸に呼び寄せた。沢庵は柳生家の別邸に止宿していたが、寛永十四年（一六三七）に家光は、品川は景色もよいし、自分もときどき鷹野に行く場所であるから、ここによき地を選んで沢庵の住居を建てるようにすすめ、この年、長徳寺ほか三ヵ寺の境内地全部と、北品川稲荷社の境内の一部を幕府に接収し、その跡地約四万七〇〇〇坪を沢庵にあらためて下付した。

　寛永十五年（一六三八）新寺が完成した。造営の奉行は八木勘十郎である。この新寺は沢庵屋敷とも呼ばれ、はじめは寺というより、山門も本堂もない屋敷づくりであった。同年十一月、完成した新寺に沢庵は入寺した。

　翌寛永十六年（一六三九）五月、沢庵はこの新寺を東海寺と命名した。

　東海寺の造立後、その広大な境内は空地のままになっていたが、寛永十六年（一六三九）に境内の一郭に、時の老中堀田加賀守正盛（佐倉藩主）が塔頭臨川院（たっちゅうりんせんいん）を建立した。臨川院はのち玄性院と改称した。この後帰依している大名らによって、境内に塔頭の建立がつぎつぎとおこなわれ、寛永二十年（一六四三）細川光尚（熊本藩主）が妙解院（みょうげいん）を建立し、同じく寛永年間（一六二四～一六四四）に小出吉親（丹波園部藩主）が雲竜院を、正保元年（一六四四）に沢庵を預かった土岐頼行が春雨庵を、慶安二年（一六四九）には旗本の座光寺清左衛門が清光院を、元禄十五年（一七〇二）には有馬頼光（久留米藩主）が高源院を造立した。このほか五代将軍綱吉の母桂昌院が長松院、幕府の医員武田氏が慈雲庵、細川氏がさらに少林院を創建し、次第に山内が整備され、諸院・諸堂が軒を並べるようになった。もっとも山門や本堂が建立されたのは、東海寺が元禄七年（一六九四）三月二十七日に火災で焼失したあとのことで、元禄の火災以降、総門・中門・山門・南門・仏殿・客殿・北の門・御成書院・法宝堂・釣玄室・浴室等の堂宇が整備されたのである。

　沢庵の死後、大徳寺派では紫衣以上の高僧を一年ずつ当寺に配して輪番とし、併せて同派の関東触頭を委任され、関東の同派寺院を管掌した。

　また寛永十六年（一六三九）以降、品川領・六郷領・馬込領・世田ケ谷領の各村から毎日九人ずつが徴集され、毎夜境内四ヵ所の番屋に詰めて警備にあたらせる制度があって、明治維新までこの制度はつづいた。これを俗に沢庵番と呼んでいる。

　明治維新になって当寺は品川県の県庁の所在地に指定されて、その堂宇がこわされたほか、将軍や諸大名の庇護を失って衰退し、諸堂や塔頭はつぎつぎに廃滅し、広大な敷地は他の用地に転じて、現在その中央に環状六号線が通じている。現在の東海寺は、もとの塔頭玄性院が引き継いだもので、そのほかに塔頭として残っているのは、春雨庵（現在の春雨寺）・清光院・高源院（現在世田谷区烏山に移転している）の四ヵ院のみである。