このような不安な状勢の中から、武士が登場してくるのである。
国司(地方長官)の中には任地に赴かず、たとえ地方に赴任した国司でも、その中には莫大な私腹を肥やす者も出、売官も行われ、中央・地方を問わず治安は悪化し、盗賊が横行したが、これを取り締まることが出来なかった。
特に地方の治安は極めて悪かったので、荘園を持つ在地の有力者は、家の子と呼ばれる一族や、郎党等の従者を率い、武装して自衛したりして互いに闘争した。彼等は連合して武士団を組織したが、その首長は中央から下って、地方に地盤を築いた貴族出身の子孫が多かった。中でも桓武平氏と清和源氏は、大きな武士団の棟梁に成長し、常総地方にその勢力を振るった。十世紀の中頃、常総地方における平将門の出現は、天下を武家社会へと変ぼうさせる、大きなきっかけをつくったものであった。