玉川上水堤には、上水開削（かいさく）当初より樹木が植えられていたといわれている。元禄期からは松木のほか、いばら、桑、楮（こうぞ）などが植えられていたことがわかる（史料集二三）。これらは、玉川上水に架かる橋の普請用の材木とすること、材木や下草の販売による百姓の助成、百姓地と土手堤の境界を明確にすること、下草を肥料として活用することを目的としたものであった。小川村地先には、桜の植樹後も土手堤に松木などが植え付けられており、明治期まで松木の伐採とそれに対する草野銭としての年貢が幕府に上納されていた。
　玉川上水堤を訪れた文人らは、「北岸は樹疎（きまば）らに、叢竹（そうちく）有りて其の闕（けつ）を弥縫（びほう）せり（上水北岸は桜木が疎らで、その間に竹が生えている）」（文化三年『愛日楼文詩（あいじつろうぶんし）』）などと記録している。また、嘉永六年（一八五三）正月に出された桜苗木の障りになる雑木打ち払いを指示した触書をみると、栗や楢の木が桜樹の間に生えていたことがわかる。
　享和三年（一八〇三）には、玉川上水堤に「広太の御益（こうだいのおんえき）」のため、土地相応の木品、油の採れる実がなる木を植えることや、夏場に上水の水が干上がるのを防ぐため、落葉の吹き散らない柏や月桂の類の樹木を植えることが建言されている（「玉川上水起元并野火留分水口之訳書」東京都立中央図書館蔵）。