武蔵国をふくむ東国地方は蝦夷征服の兵站(へいたん)をになっており、人びとは過酷な負担を強いられてきた。そのため、九世紀の後半以降、律令国家に服属した蝦夷である俘囚(ふしゅう)に加え、当時の言葉で「群盗(ぐんとう)」と称された東国民衆が、律令政府の過酷な支配に対する抵抗運動を展開した。こうした運動を鎮圧し、治安を回復するために関東に土着したのが桓武平氏(かんむへいし)だった。その子孫に、関東を勢力下に置き、自ら「新皇」と称して朝廷・律令政府に反乱を起こした平将門(たいらのまさかど)がいた。将門の反乱は、関東における中世、武士社会の幕開けを告げる事件だった。
当時、関東に土着し武士化した者はほかにもいたが、平将門の乱後、武蔵国に勢力を広げていたのは、やはり桓武平氏で、そのなかから登場したのが、ともに同族関係にあった秩父氏(ちちぶし)と豊島氏(としまし)だった。両氏のうち、秩父氏からはさらに河越氏(かわごえし)(本拠地は現埼玉県川越市)・畠山氏(はたけやまし)(同埼玉県大里郡川本町)・小山田氏(おやまだし)(同町田市)・江戸氏(えどし)(同千代田区)が、また豊島氏からは葛西氏(かさいし)(同葛飾区)が分立し、両氏の一族の勢力が、武蔵国全体をほぼ覆うような状況となっていった。
秩父氏や葛西氏のような大武士団の活動がみられた頃、「武蔵七党(むさししちとう)」と称される中小武士団も登場した。武蔵七党とは、平安時代末から室町時代にかけて、武蔵国に存在した同族的武士団の総称だが、当時の呼称ではなく後世に定着したもののようである。そのためか、武蔵七党の構成については史料によって若干の違いがみられるが、「武蔵七党系図」では、野与(のよ)・村山(むらやま)・横山(よこやま)・猪俣(いのまた)・児玉(こだま)・丹(たん)・西(にし)の七党とする。これらのうち、現在の小平市域に比較的近い場所を勢力範囲としていたのは、村山(狭山丘陵周辺から現埼玉県川越市周辺)・横山(現八王子市の南側)・西(現府中市西側、立川市にかけての多摩川流域一帯)の三党であった。
以上のように、武蔵国では大小の武士団が生まれ、活動していたが、治承四年(一一八〇)五月に平氏を打倒すべく挙兵した源頼朝(みなものとのよりとも)が進軍してくると、これに帰属した。頼朝は相模国鎌倉を本拠地に定め、鎌倉幕府(かまくらばくふ)を創設するが、鎌倉の背後に位置する武蔵国の支配は重視されたようであり、頼朝にとって身近な人物である平賀義信(ひらがよしのぶ)(自分の乳母比企局(めのとひきのつぼね)の娘婿にあたる)を武蔵国司に配置している。なお、幕府は武蔵野の開発にも着手したが、実施場所や結果など、その詳細は不明である。