←

知识条目

🌙
2026-10-08 · 动态 · 原 OpenAI 安全负责人戴维 · 罗宾逊“炮轰”老东家:对待 AI 安全说一套做一套
2026-10-08
🔗 查看原文 ← 返回知识库
【发生了什么】OpenAI安全系统团队前负责人之一戴维·罗宾逊在10月8日离职后公开批评老东家言行不一:公司一边反复警告新模型能力增强的风险、公开谈论放慢AI开发速度,内部却全速推进训练和部署那些被自己警告存在危险的模型。今年7月数百名OpenAI员工签署公开信呼吁政府监管降速,9月CEO奥尔特曼也表态"需要控制前沿AI的发展节奏",但罗宾逊称办公室仍是靠透支精力支撑的高速运转状态。 【为什么值得关注】OpenAI首席科学家雅库布·帕乔茨基9月在讨论"递归自我改进"(让AI自行提升能力)的博客中警告"眼下需要极度谨慎",而安全负责人却在此时离职并公开指责公司说一套做一套。这表明头部AI公司内部安全团队与研发推进之间的张力已公开化,安全承诺与实际行动的落差可能影响监管态度和公众信任。 【对我们的意义】使用OpenAI模型的团队应把供应商安全承诺与模型迭代节奏分开评估:既然内部安全负责人指认"警告归警告、部署归部署",企业在把GPT系列模型接入核心业务时,应自行建立模型版本变更的监控与回滚机制,对涉及递归自我改进类能力升级的版本先做小范围灰度验证,而非依赖厂商的安全表态来决定上线节奏。 ── 💡 对你的工作:模型/框架动态直接关联技术选型,先看懂再决定跟不跟。 【原文】查看原文 →