多摩丘陵は関東山地東麓から東南に向かって延びる長さ約三八キロメートル、南北幅約五キロメートルから一五キロメートルの広大な丘陵である。標高は二三〇メートルから七〇メートルで、高尾を起点として横浜市まで徐々に低くなる。北側は多摩川とこれに合流する浅川を隔てて武蔵野台地と接し、南側は東京都と神奈川県の境界でもある境川によって相模野台地と画されている。丘陵内には大栗川、三沢川、恩田川などの多摩川・鶴見川水系の中河川と、これらに合流する多数の小河川の浸食作用によって樹枝状の開析が進み、谷の入り組んだ「谷戸(やと)」と呼ばれる複雑な地形が多摩丘陵独特の景観を造りだしている。このため、概して平坦地に乏しい起伏に富んだ地形である。
多摩市には最北に多摩川が東流し、その南側に八王子市南部の鑓水(やりみず)・御殿峠に端を発する全長約一六キロメートルの大栗川と、町田市上小山田地区に端を発し市域をほぼ南北に分断して流れる乞田川の二本の中河川がある。これらの流域に沿って細長い帯状の沖積低地(氾濫原(はんらんげん))が存在し、大小の谷戸が形成されている。また、市域の北側部分の一ノ宮・関戸地区には多摩川によって形成された広い沖積低地が存在している。さらに、大栗川流域の和田・百草地区には比較的標高の低い広大な台地状地形があるが、市内の大部分は丘陵地形である。一方、乞田川流域では樹枝状の開析が顕著で、平坦面の狭い尾根状の地形が主体を占めている。この乞田川南の最奥部、通称尾根幹線が通っている南野地区付近が南側の分水嶺となっている。こうした独特な谷戸地形が丘陵部の地域性を生み出し、さらに丘陵縁辺部という地域性が多摩市を特色付ける大きな自然的要因である。