アジア・太平洋戦争後、ポツダム宣言に基づき、マッカーサーを総司令官とするアメリカを主体とする占領軍の主導により、日本を非軍事化・民主化するための政治、経済、社会全般にわたる一連の改革、諸制度の民主化が行われた。国民主権、地方自治の確立などを柱とする新憲法が制定され、治安維持に関しては、従来の特別高等警察の廃止、内務省解体、治安維持法など弾圧法規の撤廃などが行われた。
アジア・太平洋戦争後の警察制度の基本法として、昭和二二年（一九四七）に公布、翌二三年に施行された旧「警察法」により、日本警察の「民主化」および「地方分権化」が図られた。歴史的に地方分権を重視し自治体警察を中心とするアメリカの影響により、ＧＨＱは戦前の内務省を頂点とする中央集権的な国家警察制度を「ファシズム体制の元凶」と見なして徹底的な解体を図った。市および人口五〇〇〇人以上の「市街的町村」に自治体警察（市町村警察）が設けられることになり、東京都特別区の警視庁を含む全国約一六〇〇単位の自治体警察が、国家の指揮監督を受けることなく独立し、自己の経費をもって維持する警察組織として発足した。これらは市町村長所轄の市町村公安委員会の管理のもと、その区域内において法律執行、秩序維持にあたった。一方、市町村警察をもたない村落地の自治体については、国家地方警察が治安維持を担う「二本立て」体制となり、それぞれ都道府県市町村公安委員会、国家公安委員会の管理運営に委ねられた。
その後、アメリカとソ連の二大陣営間での冷戦の激化とともに、アメリカ政府の対日占領政策は転換され、占領初期の「急進的」改革の方向転換を図るいわゆる「逆コース」現象が表面化した。軍国主義者の追放解除、独占禁止法の緩和、朝鮮戦争勃発を契機とするレッドパージなどが行われた。
占領初期に制定された旧警察法は、前述のように警察組織の地方分権化、民主的管理、政治的中立性確保などの点で画期的な意義を有するものであった。しかし、警察行政機構が多数の自治体警察に細分化されたため、市町村の範囲を超える広域犯罪への対応能力、国家地方警察との併存による組織重複、自治体警察の設置運営に要する経費負担の有無が自治体により異なる不合理（非市街的町村は国家地方警察の管轄のため、警察に関する費用負担がないのに対して、自治体警察を設置する市町村はその設置運営に関わる経費全額を負担）などの課題があった。また、国の行政権を統括する内閣が治安責任を負うことができないという問題点もあり、昭和二七年の占領終了後、警察制度改革の見直しが日本政府によって進められた。昭和二八年、都道府県警察の設置、国家公安委員会廃止などを内容とする警察法改正案が国会に提出されたがこれには批判が大きく、国会解散で廃案となった。翌二九年に国家公安委員会を存置してその委員長を国務大臣とし、首相が警察庁長官と警視総監の任免を行うなどとした新たな警察法改正案が提出され、警察庁長官、警視総監、道府県警察本部長の任命権者を国家公安委員会とし、大都市警察に関する特例を設けるなどの修正を経て成立、同年七月に施行された。これが現行の警察法である。
旧警察法下の自治体警察はすべて廃止され、国家地方警察と一本化されて都道府県警察となり、国家公安委員会・警察庁を頂点とする「能率的」体制へと移行した。都道府県単位に知事の所轄する公安委員会が置かれ、その管理のもとに警視庁および道府県警察本部を置き、さらに、これを指揮監督する中央機関として国家公安委員会、警察庁および警察庁の地方機関としての七つの管区警察局が設けられた。東京都については、都内を管轄する警察本部として新しい警視庁が発足した。道府県警察本部長の場合は、国家公安委員会が道府県公安委員会の同意を得て任免するのに対して、都警察の執行の長としての警視総監は、首都警察の特殊性から国家公安委員会が都公安委員会の同意を得たうえで内閣総理大臣の承認を得て任免することとなった。