頼朝挙兵の当時、常陸の佐竹氏、上総の上総氏、下総の千葉氏、相模の三浦氏、下野の小山氏など惣領制的結合をもつ大武士団は、頼朝の意のままに動かせる存在ではなかった。彼らは介(すけ)や大介として現地不在の遥任国司に代わって各国の国衙在庁官人の頂点に位置しており、頼朝死後ではあるが、小山氏の当主朝政などは、「先祖藤原秀郷以来十三代数百年にわたって下野一国の検断を朝廷から預かってきた」(『吾妻鏡』)と北条義時に向かって高言するほどで、源頼朝からのご恩以前から下野国の軍事警察権を朝廷から委ねられ支配してきたことを由緒として誇っているのである。このような幕府成立以前からの大豪族層には、自己の所領の保全と拡大という強い欲求があり、頼朝を主といただくうえでその点は自らの利益を優先した行動原理となるのはやむを得ないことであった。
武蔵には、平安時代後期から武蔵七党という武士団が成立して、頼朝挙兵に際して当初敵対したものもあったが、やがて多くが鎌倉幕府御家人となっていった。武蔵七党の出自は、たとえば、横山党では小野篁(たかむら)子孫孝泰が武蔵守となり、その子義孝が武蔵権守(ごんのかみ)となって土着したように、受領(ずりょう)の子孫が土着し、また国衙在庁官人の出身の武士も多いとみられる。武蔵七党の根拠地は、当初は武蔵の北部地域であったが、次第に南部に勢力を広げてきたと考えられている。武蔵七党とは、必ずしも確定した七つの党という意味ではなく、数え方もいくつかあって定まっていない。横山党・猪俣党・村山党・野与(のよ)党・児玉党・丹(丹治)党・西(西野)党の七党にさらに綴(つづき)党と私市(きさい)党を加えて、武蔵七党とする。『吾妻鏡』には武蔵七党の記載がみられないことから、一揆として結合した武士団が多くみられるようになる南北朝期以降の名称とする意見もあるが、すでに源師時の日記『長秋記(ちょうしゅうき)』天永四年(一一一三)三月四日条に横山党に関する記載があることから、平安時代から京都でも武蔵の武士団としての党が認識されていたことは疑いがない。
関東の武士たちは、平忠常の乱(一〇二八年)で源頼信に従い、その子頼義に従軍して前九年の役(一〇 五一~一〇六二年)で長く苦しい戦役を戦い、次いで源義家に従って後三年の役(一〇八三~一〇八七年)を源氏の郎党(ろうどう)として戦って、活躍したものが多く現れた。とくに後三年の役では、朝廷が源義家の私闘として勧賞(かんしょう)(恩賞)を与えなかったため、義家が私財を従軍した武士たちに与えたとされ、源氏と関東の武士たちとの結びつきは深まった。保元の乱(一一五六年)と平治の乱(一一五九年)では、『保元物語』『平治物語』に多くの武蔵の武士が活躍したことが記されている。横山党の横山悪二・平山六二・熊谷直実、児玉党の児玉庄太郎・岡次郎・秩父武者所(むしゃどころ)、猪俣党の岡部六弥太忠澄、村山党の金子十郎家忠・河越氏のほか、豊嶋四郎・足立遠元・中条(なかじょう)氏・成田太郎・長井斎藤別当実盛などの武士が武蔵国から源義朝に従って戦った。