朱元璋建国之后，手下的功臣们分为淮西集团和浙东集团两大集团，他们为了争权夺利，进行了你死我活的大争斗，结果落得个两败俱伤的场景。对此，朱元璋没有直冷眼观旁，而是马上从“标本兼治”上入手，撤销了权力争取的中心点——丞相这个职务，同时成立了一个新组织——-锦衣卫。
锦衣卫的前身其实是“拱卫司”。到了洪武二年时(公元1369年)，“拱卫司”有了一个新的名字——亲军都尉府，有了自己的挂靠机构——仪銮司(负责皇帝仪仗的)。洪武十五年(公元1382年)，朱元璋在亲军都尉府的基础上，改成了锦衣卫这个令天下人闻风丧胆的恐怖组织。
朱元璋成立锦衣卫主要有两个原因：一方面是为了打压和消灭功臣。另一方面是担心自己死后，下一代皇帝驾驭不了文武功臣。
锦衣卫拥有秘密调查和刺探情报的权力，相当于皇帝的大内侦探。他们平日或明或暗地监视着大臣们，稍有风吹草动便在第一时间报告给皇帝，正如南镇抚司《明史·职官志》所说：“盗贼奸宄，街涂沟洫，密缉而时省之”。
另一方面锦衣卫拥有是缉捕、刑狱的权力，相当于皇帝的私人警察。锦衣卫后来还成立了南洋负责侦缉刑事的机构——镇抚司，专理皇帝钦定的案件，拥有自己的监狱(诏狱)，可以自行逮捕、刑讯、处决，不必经过一般司法机构，主宰着生杀大权。
锦衣卫因为其特殊性，很快成为炙手可热的香悖悖，就如我们现在的公务员一样，尽管门槛高，但每年参考大军还是排山倒海。同样的道理，锦衣卫入选的资格当然也是相当严格，大致有以下三点：
一是出身好。出身贫富倒是没有很大关系，但要求家庭政治背景没有不良记录，都属于良民。
二是身材好。要求长的牛高马大、虎背熊腰、孔武有力、威严之极。同时说话还要中气十足、声音洪亮。
三是本领好。要有高强的本领，十八般武艺精通者优先，能草上飞、水里漂、飞檐走壁的更为优先。
现在一提到“锦衣卫”三字，很多人脑子里会立即映出流行影视作品中塑造的锦衣卫官员标准形象：身着飞鱼服，腰佩绣春刀，飞檐走壁，武艺高强。
“飞鱼”就是尾巴像鱼尾的四爪龙，主要是以大红为底色，以云缎、闪缎、云绢、纱、罗等为底料，采用织金、妆花等复杂工艺，胸前为龙头和龙爪，龙身绕过肩膀，龙尾甩到身后。当然飞鱼服不是每个锦衣卫都有资格穿的，而是要有一定品级，大抵是属于锦衣卫大小头领才允许穿着飞鱼服。
“绣春刀”如今并没有确凿的实物传世，但据史学家考证，认为绣春刀刀鞘上面有鞘裙，裙底织有排穗，刀身比一般的腰刀要短小些，刀的全身有弧度，便于拔出和守刀。
锦衣卫从事着保卫皇帝、暗护忠良、刺探倭寇、保国卫民等神圣而又高端大气上档次的工作，堪比古代的007。锦衣卫拥有自己的诏狱——锦衣狱。被捕者一旦走进诏狱大门，十分之九便无生还之理。锦衣卫执行侦察和缉拿等任务的部队则称为缇骑。缇骑的数量，最少时为1000，最多时多达6万之众。
《明史·刑法志》记载：“胡惟庸、蓝玉两案，株连且四万。”足见其酷烈程度。作俑之始，就是皇帝心术不正的产物，所以其后遗症也特别严重。
洪武二十年(1387年)，朱元璋下令焚毁锦衣卫刑具，所押囚犯转交刑部审理;同时下令内外狱全部归三法司审理，将锦衣卫废除。
但是明成祖朱棣夺得皇位后，为了巩固统治，又恢复锦衣卫。明初两代皇帝重用锦衣卫，后来又有了东厂、西厂、外行厂，直到明朝末年，四大恐怖组织才解散，从此彻底消失。