但是明太祖總是不信任那些幫助他建國的人。他建立了壹個名為“錦衣衛”的特務機構來監視和刺探部長的活動。他確切地知道部長在外面或家裏做什麽。任何被發現有嫌疑的人都有被監禁甚至斬首的危險。
明太祖對待官員非常嚴厲。當大臣上朝時，他激怒了他。他在法庭上被打趴在地上，被稱為“張婷”，其中壹些人當場被打死。這種做法讓壹些大臣感到緊張，當他們每天去法院時，他們會以悲傷的方式與親人告別。如果這壹天安然無恙，當他回家時，他的親戚會很高興他又多活了壹天。
1380年，宰相胡被指控犯有叛國和叛亂罪，立即將胡帶上了門，並調查了他的同夥。這項調查牽涉到15，000多名文職和軍事官員。明太祖很殘忍，殺死了所有涉嫌胡剛的人。
宋濂，學士，明初與劉基壹起受明太祖重用。後來，他做了王子的老師。宋濂很謹慎，但明太祖對他不放心。有壹次，宋濂邀請壹些朋友來家裏喝酒。第二天，明太宗問他昨天是否喝了酒，邀請了哪些客人，準備了什麽菜肴。宋濂壹壹如實回答。明太祖笑著說:“妳沒有騙我。”原來，宋濂的家人那天治療他時，明太祖曾秘密派人監視。後來，明太祖在朝廷上稱贊宋濂說:“宋濂為我服務了十九年，從來沒有說過壹句謊言或說過別人的壞話。真是聖人啊！”宋濂六十八歲退休時，明太祖還送了他壹幅錦緞，上面寫道:
“留著它，32年後，做壹件百年禮服。”
胡案發生後，宋濂的孫子也被揭發是胡黨，於是他去找宋濂。明太祖派錦衣衛將宋濂從金華老家帶到北京處死。
這件事讓馬皇後知道了。馬皇後建議明太祖說:“人們的家庭為他們的孩子聘請老師，但他們仍然尊重和友好，更不用說皇帝家庭的老師了。此外，宋先生壹直住在鄉下。他怎麽會知道他孫子的事？”
明太祖很生氣，不會原諒宋濂。當天，馬皇後陪明太祖共進晚餐。她坐在桌旁，從不喝酒也不吃肉。明太祖很驚訝，問她是不是不舒服。馬皇後悲傷地說:“宋先生犯了死罪，我感到非常難過。我在為宋先生祈禱。”
年輕時，馬皇後和毛澤東是壹對難兄難弟。明太祖通常尊重她。聽她這麽壹說，她也有點感動。她下令赦免宋濂的極刑，年過七旬的宋濂被貶到茂州（今四川省茂縣），難以承受打擊。再加上路上的勞累，他還沒到茅州就去世了。
十年後，據報道，李善長與胡聯系密切，知道胡沒有揭露叛亂並采取觀望態度，因此犯下了叛國罪。李善長是第壹位開國功臣和明太祖的親家。明太祖封功臣時，曾給李善長兩張免死鐵券。這壹年，李善長已經77歲了，但當明太祖背叛他時，他把李善長和他的全家都處死了。
接著，胡黨再次遭到追捕，超過1.5萬人被處決。
自從胡事件發生後，覺得把軍政大權交給大臣不放心，於是取消了宰相壹職，由皇帝直接管轄吏部、戶部、兵部、刑部、工部的大臣（官名、部首）。還廢除了掌管軍權的總督署，設立了左、右、中、前、後五個總督署，分別訓練士兵。當需要戰鬥時，皇帝直接發布命令。這樣，明朝皇帝的權力被大大集中了。
事情並沒有到此結束。三年後，錦衣衛報告了藍玉將軍的叛亂。明太祖殺死了藍玉，追查到了同夥，超過15000名文武官員被集體殺害。
這兩起大案幾乎奪去了朝廷中的壹些英雄，明太祖的暴虐和殘忍聞名於世。