洞察 Insights
Anthropic 工程师都在用的“神装”,被 OpenAI “强娶”了!23 人的草台班子如何靠“搞破坏”逆袭?
OpenAI 官宣收购深受 Anthropic 等竞品工程师喜爱的开源安全神器 Promptfoo,旨在强化其 Frontier 平台的 AI 智能体安全防护。这个由 23 人团队利用业余时间打造的项目,已成为全球 35 万开发者对抗“AI 越狱”和提示词注入的标配。
阅读全文
洞察 Insights
OpenAI为“龙虾”紧急买保险:这家23人的小公司,凭什么成了智能体的“防弹衣”?
OpenAI紧急收购了仅有23人的AI安全公司Promptfoo,旨在解决智能体(龙虾)因权限过高带来的安全隐患。Promptfoo将通过自动化评测和红队演练,为OpenAI的智能体生态系统打造坚实的安全基建。
阅读全文