生成式AI正被滥用于制造高度逼真的虚假威胁与暴力模拟，对个体带来深重心理创伤，并普遍侵蚀社会信任。文章深入分析了合成媒体的恶意滥用原理、其对社会和伦理的深层冲击，并审视了全球范围内的法律与治理框架，强调需通过多方协同、技术创新与行业自律，共同构建一个在创新与规制之间平衡的数字信任生态。