在原始的，以血缘关系为基础的氏族社会里，酋长出自群众，实行民主的选举或禅让制，人们共同劳动，平均分配，道德高尚，没有盗窃，很少犯罪，没有必要设置警察。
私有制出现后，氏族瓦解，社会分裂，产生了国家，同时也就有了警察。在封建社会和中央集权社会中，军警不分，警政合一。警察的职能由军队、审批机关、行政机关分别掌管。警察的定义和作用相当混乱。——在我们中国，在距今两千五百多年的西周，国家就设立了负责捕盗、刑狱纠察事务的司稽、司寇等官职。秦始皇统一中国后，在县乡两级创设了我国历史上最早的专门治安机构——亭，专司缉捕盗贼和维护治安。据专家们说，曾担任过鲁国大司寇的孔子和担任过泗水亭长的汉高祖刘邦，都可以算是警察出身。
近代警察发端于西欧，乃是社会生产力迅速发展和社会分工日益细化的必然结果。人人平等与法制观念的形成，私刑和人身强制的废除，大城市的兴起和社会生活的复杂化，使建立集中的、统一的、强大的国家警察力量成了历史的内在要求。
1789年法国大革命推翻了国王路易十六的统治，建立了革命政权，根据制宪会议的决定，法国在每个县设置了保安官，负责辖区的治安秩序，这就是共和国警察制度的滥觞。此时，警察不但与军队有了区别，而且与审判机关也有了区别。1790年法国根据《人权宣言》正式建立了市政警察。1801年拿破仑执政，建立了巴黎警察总局。
英国在中世纪就设有治安法官，这一称谓首次出现在1361年。在都铎王朝时代（亨利七世于1485年入主英国，他所开创的王朝，统治英国直到1603年），治安法官的发展进入了巅峰时刻。
针对阶级矛盾的日益尖锐和治安问题的严重化，并根据英国自己的经验。1829年，英国通过了《警察法》。英国首相威宁顿公爵说：“一个政权要依靠军队来维护国内秩序是很危险的，应组建一支不同于军队的、集中的、有力的警察队伍。”1856年，为维持治安，英国议会通过了治安法，决定在伦敦等地创立警察，要求每个郡都建立警察队伍，警察的最高领导是内政部长（英国警察实行分散制，在52个郡设立了警察局）。
此后，西方国家纷纷实行警察制度。美国仿效英国，日本仿效法国，都建立了本国的近代警察制度。——世界各国受英法两国警察制度的影响，形成了两种不同的警政管理体制：地方自治制和中央集权制。地方自治制以英国为代表的，警察受地方政府领导，中央政府只起监督作用;中央集权制则以法国为代表的，警察由中央政府统一领导。
中国的近代警察是帝国主义入侵中国的产物。鸦片战争后，欧洲和日本的“警察行政”思想开始传入中国。19世纪末期，许多地方开始试办警政。1898年，湖南巡抚陈宝箴在长沙成立“湖南保卫局”，这是中国历史上最早的专职警察机构。此后，清政府先后在保定、天津等地创办“巡警局”、“警务学堂”、“巡警学校”。
义和团运动后，八国联军侵占天津，逼迫清政府签订《辛丑条约》，明确规定清政府不得在天津驻军，理由是天津作为港口，要保护各国商人利益。袁世凯曾训练过新军，对西方的军警制度有一定的了解。于是在接收天津前，从自己的军队中选拔3000名士兵，进行短期的警察训练，使之熟谙警察的职能，然后脱下军装，换上警察制服，号称“中国警察”，并在天津城中开设“警署”，一来维持社会治安，二来负责军事戒备。
由于有专门警察维持社会秩序，天津市社会治安一改过去的混乱局面，时人称“有六个月不见窃盗者，西人亦叹服”。于是慈禧太后颁下一道懿旨，要求全国各地都要效仿袁世凯建立警察制度并推广。1905年10月8日，清政府设立巡警部，统管全国警察事务。巡警部尚书（相当于现在的部长）是袁世凯的挚友徐世昌担任，巡警部侍郎（相当于现在的副部长）是由袁世凯的老部下赵秉钧担任。——至此，中国才有了真正意义上的现代警察制度。
1912年中华民国成立后，南京临时政府将“巡捕”和“巡警”改为警察。1927年，蒋介石为了镇压革命，维护统治，不惜耗资扩充警察机构，设立“内政部警政司”，把各省、市、县的警察机关改为“公安局”。1946年，设立“内政部警察总署”，各省、市、县警察机关改为“警察局”。——旧中国近代警察的历史，就是军、警、特结合在一起，镇压革命、迫害人民的历史。