OpenAI首席执行官Sam Altman：收购Promptfoo以大幅强化AI agent与模型的安全测试能力

OpenAI正式宣布收购Promptfoo，这家专注于LLM评估与红队测试的开源工具提供商，将帮助OpenAI构建更系统、更严格的agent安全评估框架。

Promptfoo核心功能包括自动化红队攻击、越狱测试、幻觉检测与多模型对比基准，OpenAI此举直接针对当前AI agent自主性快速提升带来的新风险，如工具滥用、提示注入与意外行为，尤其在Claude、Grok等竞品加速agent生态的背景下，收购旨在让OpenAI内部安全测试从手工转向工业级自动化，潜在大幅降低模型上线前的漏洞暴露。

这一交易在AI安全社区引发热议，许多开发者视其为OpenAI从“快速迭代”向“安全优先”战略倾斜的明确信号，Promptfoo团队加入后将加速开源工具向企业级闭源防护的迁移，强化OpenAI在agent可信度竞赛中的领先位置。

来源：公开信息