沦陷时期，天津有两个日本机关，一个是日本宪兵队，一个是日本警察署。宪兵队是纯军队装束，身着黄色军服，他们与军队的官兵不同之处是头上戴的帽子上有一道红箍；警察署的署员，着深蓝色警服，他们与军队的官兵不同之处是头上戴的帽子上有一道白箍。由于这两个机构从成立租界起到日本投降止，干尽了坏事，杀害了无数的中国人，罪恶累累，罄竹难书。在张狂的时候，随时可以用各种借口搜索中国人的住宅商店，逮捕他们认为有嫌疑的人，他们的这些罪行，天津老百姓时而有闻。由于他们帽子上那道箍特别显眼，所以人们在提起他们时，都冠以红帽衙门和白帽衙门。这种叫法实际上是对他们的贬称。
先说宪兵队。宪兵队是军队中负责整肃军纪、稽查军人违纪违法的执行机构。世界上各个国家的军队都有这种机构，可是，在沦陷时期，虽然表面上是隶属于华北派遣军司令部领导，兼受地方驻屯军司令部的指挥，可是他们却干着与自己职责背道而驰的勾当。宪兵队的巢穴在今和平区多伦道与新华路交口（原福岛街与荣街交口），是一座三层楼房，下设地下室（施刑场所）。这里是宪兵总队，尚有几个分队，分别设在河东、河北、南开等处，他们不仅在市政府的各机要部门安排特务人员监视汪记国民党的人员对日效忠程度，还派遣特务深入各阶层收集情报，发现“不良”及“抗日”分子立即逮捕审讯。即便是没有“不良”及抗日行为，他们也会以各种借口，如破坏强化治安、私运违禁物品或破坏大东亚秩序等的莫须有罪名把人弄进宪兵队，这种做法大多数是对那些有钱的富人及商贸企业家进行敲诈。宪兵队，人们把他们叫做衙门，实际上就是现实生活中的一座阎罗殿，刑具多样，施刑残酷，进宪兵队的人多数死于那残酷的刑具之下。当时天津市流传着一种说法，那就是：
宪兵队，阎罗殿，各种刑具上百件，
皮鞭子抽电棒子电，辣椒水来鼻子里灌，
冬天扔在水牢里泡，夏天拽到沙地里站，
叫你活着也要扒层皮，把你整死那是狼狗一顿饭！
再说警察署。日本强行在中国建起租界后，当时由于日本侨民少，一切事物由领事馆办理，后来日本侨民多了，租界也形成了规模，才开始建立警察署。开始只是负责租界内的民事与刑事案件，在1931年“九一八事变”后，天津发生了“便衣队暴乱”，才扩大了警察署的编制及职能。“便衣队暴乱”是发生在1931年11月8日和11月26日的两次暴乱。这两次暴乱是日本帝国主义招募了两千多名中国民族的败类，经日本军部培训，发给枪支弹药，在11月8日和11月26日，两次从日租界出发，向中国警察署、电话局、电报局、省政府等部门发动攻击，并有日本军队发炮助威。暴徒们冲击的地点多达十几处，如金钢桥、东浮桥、城里、西门里、南市、西广开等。由于暴乱前我方情报人员掌握了暴徒的行动时间与地点，我方保安队奋力反击，所以，两次暴乱都没得逞。暴乱被平息，暴徒被击毙，首恶分子被枪决，日本帝国主义并没得到多大好处。这就是历史上的“天津事变”。又因为这伙暴徒是乌合之众，不穿军装，没有番号，历史上又称“便衣队暴乱”。
日本帝国主义组织这次暴乱有着极其阴险的目的。因为，当时刚发生过“九一八事变”，日本在国际上受到舆论压力，发动这次暴乱，一是转移国际上的视线，二是试探性地进行一次鲸吞华北的尝试。但是，结果使他们大失所望。由于这次尝试的失败，知道局势对日本不利，于是改弦更张。之后，实施了两大举措，一个是对日租界采取了封闭措施，二个是扩大日本警察署的编制及职能。
提起封闭措施，凡是现今七八十岁、沦陷时期或以前在天津居住过的老人都会记得那些铁门。具体来说，就是日租界，除了通向东马路、劝业场、海河、南市牌坊、南门外大街以及墙子河的各个繁华路口及桥梁之外，从日租界通往南市的平安大街、首善大街、富贵大街、建物大街、治安大街、荣安大街、福安大街、华安大街、清和大街以及日租界与法租界交界的路口都安装有大铁门，每晚10点关闭，早晨6点开放。
日本警察署有警察总署和几个分署，被人们称为“白帽衙门”的是警察署第一分署，座落在南市官沟大街口上的旭街（今和平路）。这是一座三层楼房，楼顶上设有一个瞭望台，三层楼的女儿墙上有多处射击孔。瞭望台上架有一小钢炮，门前有警员站岗。可别小看这第一分署。当时天津的老百姓谈起它来无不谈虎色变。人们咬牙切齿地谴责他们的罪恶勾当，可只能在背地里议论。为什么人们有这样看法呢？因为1931年“便衣队暴乱”时，这里是暴徒出击退缩的一个据点，而那时的“便衣队”又被这个警察分署继承了下来。怎样继承的呢？简单略叙如下：
自“便衣队暴乱”之后，日本对警察署重新作了部署。日本政府从财务省调出几十名高级官员作为派往天津警察署的高级警官。从那时起，警察署就不只是负责租界内的交通、民事与刑事案件的管理了，而是集司法、保安、督查为一体的特务机关，并且网罗了上千名中国民族败类，以外勤或特勤的身份从事特务活动。这时的警察署，不光负责租界内的事务，对整个天津市的工商企业、机关学校、港口码头、工厂街道甚至对中国的文化活动、新闻出版、财政、金融、经济、政治以及物资管制等都横加干涉，尤其在“七七事变”后更加嚣张。由于政治上的需要，在雇佣的中国人中挑选那些忠于日本的败类，放在外勤与特勤的岗位上从事特务活动，这些人也仿效“便衣队暴乱”中暴徒的形象，不穿制服不佩带胸章，完全着便衣。所以，天津的老百姓又管他们叫白帽衙门里的“便衣队”。
俗语讲得好：善有善报，恶有恶报，不是不报，时辰未到。在这两个魔窟从事杀人勾当的刽子手，终究未逃脱历史的惩罚。1945年8月15日日本投降之后，他们彻底完蛋了。这些杀人恶魔有的受到了国际审判，有的在国内受到了惩罚。
