江戸城下町の建設と整備にとって、上下水道の敷設とその維持・管理は重要な都市施設・事業であった。江戸は開府以来、台地を削り、堀を築き、入江を埋め立て城下町の造成を行ったが、新たに成立した市街地では井戸に潮気や鉄気があって飲料水を得ることは難しかった。このため井の頭池を主水源として神田上水が整備され、神田・日本橋方面へ配水された。建設時期は諸説あるが、遅くとも寛永六年（一六二九）には、関口（現在の東京都文京区関口）の大洗堰（おおあらいのせき）も整備され完成している。さらに、武家と町人の人口増加と集中に伴って、飲料水の確保が必要となり、承応三年（一六五四）には多摩川の羽村（現在の東京都羽村市）を取水源にして玉川上水が開設される。その給水域は、江戸城内をはじめ四谷、麴町、赤坂の台地や京橋方面の市街南西部一帯である。
　こうして、ほぼ京橋川を境にその以北が神田上水、以南が玉川上水として給水され、基本的な江戸の二系統の基幹上水が整備された。後に一七世紀末までには、玉川上水から分水して、三田・千川・青山の諸上水ができ、また本所・深川方面へは元荒川から本所上水が整備され、四上水が加わった（図1－2－3－1）。

図1－2－3－1　『東京市史稿　上水篇』一、綴図
『東京市史稿　上水篇』一から転載

　玉川上水は、『武州豊嶋郡江戸庄図』（寛永九年〈一六三二〉）の溜池部分に「江戸すいとうノみなかみ」と記される（図1－1－1－2⑩）ことから、従前より玉川上水以前の上水道の存在が指摘されていた。文献上で寛永期（一六二四～一六四四）の上水修復の記事や、埋蔵文化財の調査によって承応三年（一六五四）以前の上水遺構も確認され、溜池を水源とした先行の上水道の存在が報告されている（溜池については二章四節一項も参照）。