Anthropic最近大手笔招聘“AI精神病学”专家，年薪超200万，旨在深入剖析AI的“人格”、动机和情境意识，探究其产生“诡异”或“失控”行为的原因，以确保大模型的安全性和可控性。这项前沿研究不仅是科技巨头们争夺顶尖人才的缩影，也预示着AI安全与可解释性将成为行业未来发展的关键方向。

随着AI在关键领域广泛应用，理解其“黑箱”决策过程变得至关重要。本文深入探讨了大型语言模型推理与“涌现”的本质，并揭示了AI解释可能不忠实于其真实思考的“忠诚度困境”。为了构建可信赖的AI，研究人员正积极开发内部监控、鲁棒训练等技术方案，同时呼吁通过独立审计、行业标准和政府监管，以多维度保障AI的安全部署和透明运行。