警察制度が他の諸制度から区別して認識され、独自の制度をもつに至るのは明治以降のことに属する。しかし、警察に類する権力作用は人間が社会を形成して以来存するといえるのであって、概言すれば、日本の警察制度も明治に至るまで軍事や司法の諸制度と不可分の関係にあった。
　古代、大化以前のことは詳らかでないが、中央では物部・大伴・久米・佐伯の諸氏が軍事とともに警察のことも掌った。大化以後は隋・唐の法制を継受して百官の例を設け、警察のこともこれに倣った。令制によれば、京師には左右京職が置かれ、弾正台や五衛府（左右兵衛、左右衛士および衛門、のちに衛門府は左右近衛府となり六衛府となる）とともに帝都の治安に任じた。弾正台は唐の御史台に当り、弾劾官であるとともに風俗および司法警察の任をもち、巡察弾正は宮城の内外を巡回し、犯人を追捕し、京職あるいは刑部省に送った。
　弘仁（八一〇～八二三）年中より令外の官たる検非違使が常置され、糺断・追捕より裁判の権までを掌握し、京中の警察権はほとんどその手に帰した。地方にあっては国司・郡司・里長が部内の警察の任を有した。捕亡令によれば、盗賊および傷殺あれば随近の官司防里に告し、告あれば官司防里は随近の兵士および人夫をもって追捕した。軍団の兵士は平時における地方の警備でもあった。なお、京師および地方の行政の末端には五戸をもって編成する五保なる組合があり、連帯して警察の任にあたった。軍団の制が廃されると健児その他の武人制度が起り、警察の任もこれに移った。
　平安時代中期以後、地方にも検非違使が置かれたが、早くより濫補され、地方の警察制度は極めて弛緩し、地方の豪族より押領使・追捕使などを特命して警備の任にあたらせるようになった。
　中世　源頼朝は文治元年（一一八五）、義経追捕のため朝廷より六六カ国総追捕使に補され、ついで総守護職・総地頭職に補されて全国の警察権を獲得するに至った。鎌倉に幕府が開かれると軍事機関である侍所や全国の守護は同時に警察の機関であり、軍事制度と警察制度は分離していない。侍所は当初和田義盛を別当、梶原景時を所司としたが、和田氏が滅されてから執権がこれを兼ね、所司も北条氏の被官より任ぜられた。鎌倉市中の警察は初め侍所が行なったが、のちに政所に属する保検断奉行が掌った。
　京都には京都守護あり、のちに六波羅探題を置いた。地方では各国の守護が警察事務にあたり、地頭もこれに関与した。室町幕府では侍所が京都の、守護が地方の警察の任に当った。
　近世　戦国時代の分国には目付横目などの監察の役があり、かかる分国の諸制度は徳川氏にうけつがれる。犯人捜査には密告が奨励された。秀吉は盗賊などの予防に古代の五保にあたる五人組を設けた。
　江戸幕府は封建的社会秩序の維持のために周到な配慮をなし、著しく完備した警察制度をもった。中央においては老中に属する大目付が大名および老中以下の諸役人を監察糺弾し、また宗門改も掌った。目付は若年寄の配下に属し旗本御家人を監察した。江戸においては町奉行が行政司法を掌り、南北両町奉行輩下には与力・同心があった。同心は市中を回行し（定時回・臨時回・隠密回を合せて三回と称した）、犯罪の捜査、犯人の追捕に当った。同心の下には目明・岡引などとよばれる手下が用いられた。なお江戸町には町奉行の管轄外に火付盗賊改（火役）があり、市中や近辺を巡回し放火人・盗賊などを逮捕した。
　地方では京都に所司代、大坂・駿府には城代、重要なる都市港湾には奉行を置き、その他幕府の直轄地では郡代・代官が管内の警察のことをも掌った。幕末には関東取締出役（八州回）が設けられた。
　幕府はとくにキリスト教を警戒し、その取り締りの副産物として宗旨人別帳なる戸籍制度ができた。宗旨改とともに毎年鉄砲改を行ない、これを厳に取り締った。この他徒党を禁じ、火付・盗賊をいましめ、風俗に関しては賭博と密淫売を取り締り、出版にも干渉を加えた。なお町村には自警組織があり、五人組は広く警察に関する自治的な役割を課せられた。
　明治以降　明治四年十月東京府下の取り締りのため邏卒三、〇〇〇人を置いたが全国各地の警察制度は雑多であった。翌年兵部省管下の邏卒を司法省に移し、司法省中に警保寮を新設し、警察事務を管掌させた。明治七年警保寮をさらに内務省に移し、東京警視庁が創設され、邏卒は巡査と改称された。同年制定の司法警察規則によれば「司法警察ハ行政警察予防ノ力及ハスシテ法律ニ背ク者アルトキ其犯人ヲ探索シテ之ヲ逮捕スルモノトス、司法警察ノ職務ト行政警察ノ職務トハ互ニ相牽連スルヲ以テ一人ニテ其ノ二個ノ職ヲ行フ者アリト雖其本務ニ於テハ判然区別アリ」とし、翌年には行政警察規則が制定され、両者は明らかに区別された。各府県における警察官庁もさまざまであったが、明治十三年一斉に警察本部の名称で統一され、その後若干の推移を経て、警察部となった。政府は早くより高等（政治）警察に意を用い、自由民権運動に対し新聞条例や集会条例をもって弾圧を加え、明治二十年には保安条例を公布（明治三十一年に廃止）し、自由民権論者を帝都の外三里外に三年以上駆逐した。さらに社会主義運動が盛んになると明治三十三年には治安警察法、大正十四年には治安維持法が設けられた。
　日華事変以来戦時態勢の強化とともに多くの法令が出され、国民の自由をほとんど奪い去り、警察国家を現出した。ポツダム宣言の受諾に伴い、国民の権利と自由に不当な弾圧を加えた根拠法規はほとんど排除された。
　昭和二十三年の警察法により従来の警察制度に一大改革が加えられ、警察の責務に厳格な範囲が設けられ、自治体警察と国家地方警察の二本建とし、いろいろの点ではなはだしく民主化されたが、その運営には若干の困難もあり、そののち二十六年、二十九年に改正が加えられ現在の制度となった。すなわち、中央に国家公安委員会があってその管理下に警察庁が設置され、地方は都道府県公安委員会の管理下に都道府県警察が置かれ、それぞれの警察事務が執行されているのであるが、国の所管事項に関しては、都道府県警察は、警察庁長官の指揮監督を受けることとなっている。