九・十世紀以来進展してきた国司の受領化は、一方で国衙の行政機構の再編成をともなうものであった。受領化の進展は、国の行政責任の受領個人への集中を意味するが、他方で受領以外の国司（任用国司）は国務から排除されることとなった。しかし、多岐にわたる国衙行政の実務を受領一人で運営することは不可能であるから、従来の任用国司に代わり、受領に直結するかたちで各種の国衙行政に従事する実務職員が必要となる。このため、国内に生活基盤・経済基盤を有する有力者からなる現地官人が、国衙の構成員として登用された。
　こうした国衙の現地構成員は、十世紀には国衙の雑色人（ぞうしきにん）と呼ばれ、国内の有位者や、中央諸官司の下級職員ないし院宮王臣家の家人といった肩書をもつ国内の有勢者からなり、かつての郡司層なども含まれていた。これら雑色人の国衙行政への関与は当初は臨時的なものであったが、徐々に体制的に整備され、国衙機構の再編が進められた。国衙の中には、国務を分掌して執行する「所（ところ）」と呼ばれる組織（田所（たどころ）・調所（ずしょ）・税所（さいしょ）等）が形成され、雑色人は「判官代（ほうがんだい）」などの職名で「所」の業務に従事した。
　十一世紀半ばごろになると、こうした国衙の現地官人の地位は一応の安定を見せ、また受領に任命された者が任国に赴任しない国司遥任の風潮が一般化したことともあいまって、現地官人の行政上の機能は一層重要となった。この頃になると、彼らは在庁官人という名称で総称されるようになり、国守とは別の行政機関として国務を遂行する形態が確立された。受領は京にとどまったまま代官として目代を任国に派遣し、目代が、在庁官人らによって構成される現地行政機関である留守所（るすどころ）を指揮・統括した。こうした体制においては、在京国守の命令は庁宣（ちょうせん）という形で下達され、留守所は留守所下文（くだしぶみ）を発して国内に命令を伝達した。また、在庁官人らは、在庁官人解（げ）というかたちで、国守とは別個の組織としての上申文書を提出した。在庁官人制の成立によって、国衙は彼ら国内有力者の共同の支配機構へと改編されていくのである。
　この時期の武蔵国における国衙機構の改編の状況を示す史料は少ないが、武蔵国の税所が嘉応元年（一一六九）分の税目の既納・未納について名（みょう）ごとに整理した注進状（資一―569）が伝存しており、武蔵においても在庁官人制が成立していたことが確かめられる。ただ、「所」の存在や、在庁官人や留守所の成立がいつまでさかのぼるものかは不明である。東国諸国では、在庁官人の肩書として千葉介・三浦介といったように、地名に「介（すけ）」などの職名を付して称する場合が多い。これらの「介」などの呼称は、かつての任用国司の職名に由来するが、任用国司として朝廷から正式に任じられたことを意味するものではなく、在庁官人としての地位や序列に応じて呼称され、一族に世襲される職であったことを示している。中世以降の史料や日奉（ひまつり）氏系図、小野氏系図などによると、平安時代末ころの多磨郡では、小野氏が横山権守（介）、日奉氏系統の小河氏が多西介（たさいのすけ）を称し、在庁官人の地位にあったらしい。武蔵国内では、秩父郡の秩父氏、豊島郡の豊島氏、埼玉郡・足立郡の大田氏、大里郡の久下（くげ）氏、児玉郡の庄氏などが権守を称している。また、在庁官人の首位と思われる地位に武蔵国惣検校職（そうけんぎょうしき）があり、秩父権守重綱・畠山重忠・河越重員（かわごえしげかず）が就任している。東国諸国の中では、武蔵国の在庁官人は比較的多数の氏族によって構成されているといえよう。