【发生了什么】OpenAI上周解雇的三名AI安全研究员米基塔·巴莱斯尼、托梅克·科尔巴克和贾斯敏·王于10月9日发表公开信《OpenAI无法独自确保AI安全》,称公司仅口头告知解雇原因,分别指其"与第三方安全机构交流过多""与METR沟通方式不当"及访问高管邮件;OpenAI回应称内部调查认定三人违反敏感信息访问和处理规定。
【为什么值得关注】三人此前均从事AI对齐或安全研究,公开信收件人为OpenAI各安全委员会,并提出允许第三方安全审计人员进驻、确保前沿模型受有效监测、支持安全研究人员与外部机构公开透明交流三项建议;一名研究部门负责人在内部备忘录中支持上述建议,但明确解雇与提出安全问题或公开发声无关,双方说法存在直接冲突。
【对我们的意义】使用AI的企业需明确安全研究人员与外部评估机构(如METR)沟通的授权边界和留痕机制,将"与第三方交流"纳入书面审批流程而非口头惯例;同时应建立安全意见上报的独立通道并保留书面记录,避免因访问权限或沟通方式争议引发解雇纠纷和团队寒蝉效应。
──
💡 对你的工作:AI 可自动整理监理日志、规范条文一问即答。
【原文】
查看原文 →