【发生了什么】OpenAI于10月8日发布首份青少年使用报告,称青少年用户日均使用ChatGPT不足15分钟,连续使用超3小时的占比不到2%;在出现休息提醒的对话中,近半数用户在5分钟内暂停或结束聊天。但非营利机构Common Sense Media基于十多个测试账号发现,青少年模式在涉及自杀、自伤或进食障碍的对话中往往延迟通知家长甚至不通知,且未能稳定建议联系危机干预热线。
【为什么值得关注】OpenAI今年8月上线ChatGPT青少年模式,依据年龄信息或系统判断未满18岁自动开启,支持家长控制并限制敏感话题;但Common Sense Media指出,只有积累数周敏感话题对话记录的账号才收到通知,OpenAI回应称家长账号关联及安全提醒生效可能需数小时,测试可能在功能激活前已完成。
【对我们的意义】若企业面向教育或青少年场景部署AI,需在家长/监护人账号绑定与安全提醒链路中设置激活状态校验和端到端测试,避免“关联未生效即放行”的窗口期;同时应针对自伤、进食障碍等高风险对话配置独立于常规内容审核的强制升级路径,确保触发后即时通知并推送危机干预热线,而非依赖对话历史积累。
──
💡 对你的工作:人形机器人/具身智能的最前沿进展,与你实验室方向直接相关。
【原文】
查看原文 →