平安末期貴族は華美にふけって政治をかえりみず、地方の政治はいよいよ乱れて、社会不安をかもし、生活に困窮する農民は浮浪人となって他国をさまようようになった。やがてかれらは徒党を組み、群盗は各所に出没し、民家をおそって掠奪(りゃくだつ)をほしいままにした。
一方、治安にあたるべき兵制は行きづまりをきたし、実際には規定のように行なわれなくなっていた。とくにこの制度は、兵士の糧食および弓矢・刀剣などの武器すべてが自己負担であり、「一戸一人の兵士を出せばその家は亡ぶ」とまでいわれた。
桓武天皇延暦十一年(七九二)に至って、辺要の国を除くほかは、いっさい諸国の兵士を廃し、これに代るに郡司の子弟から採用した健児(こんでい)をもってした。
しかし、その数はいたって少なく、これをもって一国の治安を維持することはたいへん困難であった。そこで国司は、実力に富んだ部内の地方豪族を物色して、検非違使(けびいし)または押領使(おうりょうし)・追捕使(ついぶし)に任じ、警察権の一部をこれにゆだねることにした。これらの職は、その名称を異にしているが、同じく部内の治安警察に任ずるもので、かれらは平素多数の家の子、郎党を擁(よう)し、これを率いてその職務を執行していたのである。家の子、郎党は、すなわちかれらの私兵であって、その主人にしたがって公務にあたるもので、直接官に属して、官の給与を受けるものではなかった。
元来、東国地方の住民は血気に富み、おのずから勇武の気風があった。聖武天皇の神亀五年(七二八)に東国人をもって、中衛府の兵を組織し、太刀を授けて御身の近き守りとしていたが、その兵士は東舎人と呼ばれていた。神護景雲三年(七六九)称徳天皇の詔の中にも「この東人は、常に白(いわ)く、額に矢は立つとも背には立たじと言ひて、君を一つ心に護るものぞ云々」とあってその勇猛ぶりが知られている。
さて、これら豪族の発生は、荘園と呼ばれる私有地に根ざしていた。大化の改新における重要な改革は、土地の公有制度を行なったことで、「大宝律令」によって白雉三年(六五二)法文化された班田収授法がそれであった。しかし、人口の増加に伴う耕地増加の必要から、地方未開拓地の開墾を奨励し、その開墾地の私有を許したことなどからこの公有制度は破れていった。
ことに聖武天皇天平十五年(七四三)、墾田制度における永久私有の特例は各所に荘園の増加を促した。貴族や社寺の私有荘園地が多く生じ、その持ち主である貴族や社寺は、都に住むまま地方に目代を派遣して、ひたすら税物を取りたてることにだけ熱心であった。
そこで、地方豪族も自分の荘園を貴族や社寺に寄進してその名をとらせ、自分は荘司として実質的な権力をとるという風が生まれた。ここに発生したのがすなわち土着の武士階級である。
なかでも東国では、牧場が多く設けられていたことが、早くから有力な武士団の勃興(ぼっこう)する大きな原因となった。
牧の現地の管理者は主当といわれ、武蔵国では貞観年間(八五九-八七六)、すでに牧の主当一人が置かれていた。
「延喜式」ではこの主当が別当と改められている。また同式によれば、武蔵は信濃、上野、甲斐と同じく、左馬寮の牧が置かれ、各牧からは毎年一定数の馬を、同寮に貢上する規定となっていた。
牧の別当は主としてその牧場の開発にあたった現地の豪族がこれにあたり、のちに武蔵七党とよばれる豪族やその子孫がこれに任ぜられた。<横山党の党首資隆は長保六年(一〇〇四)ごろ小野牧の別当であった。>
もとより牧は馬を飼うための広漠たる原野であったが、時代の進むにつれてしだいに開墾され、ついにその多くは荘園に変じた。すなわち牧の中に多くの人を養い、何十か村という多数の村ができても、朝廷の方には牧の名目になっているので、年々一定の馬を貢上すれば税務がすみ、その別当は部下を養い、多分の収入をえて勢力を加えていった。
武蔵武士の勢力拡大の前提となったものは、土地私有制としての荘園であり、牧であった。とくにこの牧を背景としたところに武蔵武士の特異性があり、馬を巧みに生かしたところに武蔵武士の機動性があった。
さて、関東の武士が、その実力を発揮し、かつその勢力を確立する機会となったのは、天慶二年(九三九)平将門の乱であった。将門は桓武天皇五代の孫で、下総の国豊田郡に住み、常陸、下総、武蔵の諸国に勢力があった。当時武蔵国では、権守興世王および介源経基と、足立郡司で武蔵判官代である武芝との間に争いが起こった。それは興世王および経基が、新たに国司に任じて後、国府に入府しようとしたが、武芝はこれまで正任の太守が到着しない以前に入府を行なった例はないといって、これを拒んだのに端を発し、ついに興世王および経基は入府を強行し、国府の家屋をはじめ、付近の民家をおそい、恣(ほしいまま)に資材雑物を掠奪した。武芝はその返還賠償を要求したが、応じないで、さかんに戦備を整えた。かくて平将門がその調停を試みようとしたが失敗し、かえって武芝は興世王と将門が相謀って、自分を殺そうとしたものと思い、京都に上って興世王および将門の謀反(むほん)を朝廷に奏上した。
将門はことの意外に驚き、弁明につとめたがいれられず、ついに興世王のすすめにしたがって、下野、上野の両国を侵し、ついで自ら新皇と称し、王城の経営を議した。朝廷ではこの報をえて驚き、天慶三年(九四〇)二月、藤原忠文を征東大将軍に任じて東国に発進させたが、忠文が到着しない以前に、平国香の子貞盛と藤原秀郷によって将門は滅された。その後地方はいよいよ乱れ、国田は欠乏し、田園は荒廃した。かくて自らの地を自らの力によって守らんとし、各地の豪族はいよいよ武備を固めていった。