国の下部機構としての郡は、大化二年（六四六）の改新詔で定められたが、武蔵国内の郡は同時期に置かれたのでなく、地域の開発事情に応じて漸次設置されたと思われ、天平宝字二年（七五八）の新羅郡設置で完了した。現在埼玉県に属している北葛飾郡のほとんどは、当初下総国葛飾郡であったが、国境線をなしていた旧利根川本流の河身の変瀬によって、その西側部分が近世初頭頃武蔵国へ編入されたといわれている。

　平安初頭に成立した律令体制の重要記録である『延喜式』によると、武蔵国には久良・都筑・多麻・橘樹・荏原・豊島・足立・新座・入間・高麗・比企・横見・埼玉・大里・男衾・幡羅・榛沢・那珂・児玉・賀美・秩父の二一郡が置かれ、陸奥国三五郡に次ぐ全国二位の郡数となっていて、名実共に大国であったことを示している。下総国は印幡・埴生・香取・匝瑳・海上・千葉・葛飾・猿島・結城・豊田・相馬の十一郡から成っていた。下総と武蔵の境界は旧利根川本流（近世以降は庄内古川・江戸川が境界となる）で画され、越谷が属していた埼玉郡は、武蔵国の東端として上野国邑楽郡、下総国葛飾郡と国境を接し、西は旧荒川（元荒川）、綾瀬川によって足立郡に対する南北に細長い郡であった。

　埼玉郡の文献上の初見は『続日本紀』天平五年（七三三）六月丁酉条の「武蔵国埼玉郡の新羅人、徳師等男女五十三人を、請に依って金姓と為す」の記事で、八世紀初頭には設置されていたことがわかる。古くはサキタマと訓じたらしく万葉集には「佐吉多万」と誌されており、『延喜式神名帳』には郡名にゆかりのある前玉神社の名が挙げられているが、その後サイタマの称が行われたらしく、十世紀初め成立の『倭名類聚抄』には「佐伊太末」と記している。語義は「幸魂」の転訛とする説もあるが明らかでない。中世以降私称として崎西・崎東の郡名が行われ、越谷は崎西郡に属した。現在のように南北二郡に分離したのは明治十二年の郡区町村編制法施行以後のことである。なお、県内には武蔵国二一郡中一五郡が置かれていたので、古代の武蔵は北武蔵に中心があったといえよう。

　ところで、郡は、郡内の郷数によって規模が画定され、大化二年の改新詔では「凡そ郡は、四十里を以って大郡となし、三十里以下四里以上を中郡となし、三里を小郡となす」とあって、大・中・小の三段階であったが、八世紀初めの令制では、大（二十里以下十六里以上）、上（十二里以上）、中（八里以上）、下（四里以上）、小（二里以上）の五段階とされていた。このように改新詔と令とでは一郡に含まれる里数に差のあるのは、改新断行時点で不均衡だったクニを郡制に移行する時にかなりの巾が必要だったのに対し、地方制度の整備された八世紀には組織だった行政体系が要求されたためであろう。武蔵国には大・上郡がなく、中郡七、下郡十一、小郡三となっており、その規模によって上掲の第10表のように郡司の定員が定められていた。

　これによると郡司は、大領・少領・主政・主帳の四等官よりなり、時には大・少領のみが郡司と呼ばれた。大・上・中郡は四等官を完備するが、下郡は主政を欠き、小郡は領一人、主帳一人にすぎなかった。これでは郡の事務を処理し切れるはずがなく、下役に当る郡書生が別に置かれていたと思われる。

　郡司の職掌は職員令に規定され、郡内の民政と治安全般を掌り、国司と異なる点は、その国内の人びとから任用され、譜代性を重視されかつ終身官だった点にあり、多くは旧来の国造層から選ばれた。朝廷では延暦十七年（七九八）世襲制の弊害を正そうとして譜代性を廃止し、芸業著聞の者を採用することにしたが成功せず、弘仁二年（八一一）再び世襲制に復している。また中央出身の国司には下馬の礼をとるなど、身分上明確な差がつけられていた。しかし、郡司は大化前代以来の伝統的名望家であり、在地に扶殖していた勢力も大きかったので、部内住民に隠然たる勢力を有していた。埼玉郡は五郷を有していたので下郡となり、郡衙の地は埼玉郷（行田市埼玉）であろうといわれている。郡司については史料がなく不明である。

　地方制度の末端単位となる里（さと）は郷戸五〇戸をもって編成され、その長は里長（霊亀元年以降は郷長）と呼ばれていて、里の住民の中の清正強幹な者が任命された。里長の任務は律令制の末端機関として里内の戸口の按検、勧農と徴税、非違の検察、賦役の催駈に当り、里内の収税吏と駐在警察官の二つの機能を果たしていたと伝える。里は霊亀元年（七一五）以降郷と改称され、郷の下に「こざと」としての「里」が置かれ、国郡郷里制となった。武総地方においても郷里制の施行は見られ、例えば次の例を挙げることができる。

　（1）下総国葛飾郡大嶋郷甲和里、仲村里、嶋俣里（養老五年、葛飾郡大嶋郷戸籍）

　（2）武蔵国男衾郡鵜倉郷□原里（天平六年調庸綾〓布墨書銘）

　郷里制の構成単位である郷戸は、戸内に単婚家族に近い小単位の房戸一～四戸を有していて、郷戸主が戸を代表して民政・徴税の基礎単位となり、その他の構成員は戸口となった。九世紀頃の埼玉県域には七五の郷があり、一戸の平均人数が二五人前後とされるから、推定人口はおよそ九万人となろう。郷内には近隣五戸の戸主で構成される五保の制が定められていたというが史料がなく不明である。