【发生了什么】OpenAI安全系统团队前负责人之一戴维·罗宾逊在10月8日离职后公开批评老东家言行不一:公司一边反复警告新模型能力增强的风险、公开谈论放慢AI开发速度,内部却全速推进训练和部署那些被自己警告存在危险的模型。今年7月数百名OpenAI员工签署公开信呼吁政府监管降速,9月CEO奥尔特曼也表态"需要控制前沿AI的发展节奏",但罗宾逊称办公室仍是靠透支精力支撑的高速运转状态。
【为什么值得关注】OpenAI首席科学家雅库布·帕乔茨基9月在讨论"递归自我改进"(让AI自行提升能力)的博客中警告"眼下需要极度谨慎",而安全负责人却在此时离职并公开指责公司说一套做一套。这表明头部AI公司内部安全团队与研发推进之间的张力已公开化,安全承诺与实际行动的落差可能影响监管态度和公众信任。
【对我们的意义】使用OpenAI模型的团队应把供应商安全承诺与模型迭代节奏分开评估:既然内部安全负责人指认"警告归警告、部署归部署",企业在把GPT系列模型接入核心业务时,应自行建立模型版本变更的监控与回滚机制,对涉及递归自我改进类能力升级的版本先做小范围灰度验证,而非依赖厂商的安全表态来决定上线节奏。
──
💡 对你的工作:模型/框架动态直接关联技术选型,先看懂再决定跟不跟。
【原文】
查看原文 →