1910年(明治43年)、明治天皇の暗殺を計画したとして、大逆罪の容疑で多くの社会主義者、無政府主義者が逮捕・処刑された(大逆事件)。これを受け、翌1911年(明治44年)に、それまで高等警察事務の一部であった危険思想取締りのため、内務省が枢要地に特に専任警部を配置することを勅令で決定し、同年8月21日に警視庁の官房内に従来より存在した政治運動対象の高等課が分課されて、社会運動対象の特別高等課が設置された。
1922年に日本共産党が結成されると、1922年から1926年にかけて、北海道・神奈川・愛知・京都・兵庫・山口・福岡・長崎・長野など主要府県の警察部にも特別高等課が設けられ、1925年には治安維持法が制定され取締まりの法的根拠が整備された。
三・一五事件をうけ、1928年には「赤化への恐怖」を理由に全府県に特別高等課が設けられ、また、主な警察署には「特別高等係」が配置され、全国的な組織網が確立された。1932年6月に警視庁の特別高等課は「特別高等部」に昇格した。
1932年に岩田義道、1933年には小林多喜二に過酷な尋問を行なって死亡させるなど、当初は、共産主義者や共産党員を取締りの対象としているが、後に日本が戦時色を強めるにつれ、挙国一致体制を維持するため、その障害となりうる反戦運動や類似宗教など、反政府的とみなした団体・活動に対する監視や取締りが行われるようになった。第二次世界大戦中には「鵜の目鷹の目」の監視網を張り巡らせたほか、横浜事件など言論弾圧といわれる事件をひきおこした。
敗戦後は進駐軍の不法行為の監視を行った。当初、内務省は陸海軍の解体・廃止に伴う治安情勢の悪化に対応するために、特高警察を拡充するつもりでいたが、第二次世界大戦終戦直後の1945年10月4日、連合国軍最高司令官総司令部(GHQ)の人権指令により、治安維持法と共に廃止された。しかしながら、内務省上層部は、日本共産党などの反政府的動静に対処するためにも、全国の特高警察網を温存させる必要があると考えており、1945年12月19日、特高警察に「代わるべき組織」として、内務省警保局に公安課が設置され、各都道府県警察部にも警備課が設置された(公安警察)。
その後、GHQの占領政策の転換に伴う公職追放者の処分解除(逆コース)により、1951年9月以降、旧自治省・警察庁・警視庁公安部・公安調査庁・厚生省・労働省・旧防衛庁・宮内庁・文部省・日本育英会・住宅金融公庫・年金福祉事業団・日本住宅公団・首都高速道路公団・阪神高速道路公団・日本観光協会などの上級幹部職に復職していった。