The New York Times · Technology· Brian X. Chen·· 4 小时前AI 评分72
OpenAI 青少年版 ChatGPT 被指未能通过儿童安全测试且仍代写作业
Why My Conversations with OpenAI’s ‘ChatGPT for Teens’ Made Me Very Worried
AI 摘要
纽约时报报道指出 OpenAI 推出的‘ChatGPT for Teens’模式虽包含学习工具,但在实际使用中仍协助用户完成家庭作业,引发担忧。一家儿童安全非营利组织对该聊天机器人进行了测试,结果显示其未能通过相关安全评估。
该模式的设计初衷是限制青少年访问不当内容并提供教育支持,但实测显示其在学术诚信边界上存在模糊地带。非营利组织的测试结果直接挑战了产品方关于安全性的宣称,表明现有过滤机制可能不足以阻止模型生成完整的作业答案。
事实层面:青少年模式已上线,包含学习工具;第三方测试未通过。推断层面:当前安全策略在防止学术作弊方面存在明显漏洞。猜测层面:若此类问题持续,可能引发监管关注或迫使 OpenAI 重新设计交互逻辑。产业链影响在于,教育科技与 AI 厂商需重新审视‘辅助’与‘替代’的界限,否则可能面临合规风险。
来源:The New York Times · Technology · nytimes.com