9 月 3 日消息，OpenAI 昨天发布新闻稿，宣布将在下月为 ChatGPT 助手添加家长控制功能，可自动监测孩子的敏感性提问并让家长及时获悉相关状态。
OpenAI 表示，他们正与专精进食障碍、药物使用障碍和青少年健康的专家合作打造这项功能，功能上线后家长可使用邮件将自己的 ChatGPT 账号与孩子的账号关联，可决定 ChatGPT 如何回复他们孩子的问题，并可禁用记忆、聊天记录功能。
家长控制功能还将可以自动干预风险对话，当孩子尝试与 ChatGPT 聊敏感话题时，系统会自动向父母发出提醒，让家长能及时采取下一步行动，避免出现“完全不知情”的情况。
同时 OpenAI 正在研发新的对话逻辑，可将敏感话题自动转由 GPT-5-Thinking 或 o3 模型回答，测试显示配上新对话逻辑的两种模型能更稳定地遵循安全原则，也更能抵御对抗性提示词，未来 ChatGPT 将持续完善相关功能，让所有敏感性话题都能被上述两款模型理性回答。
据《纽约时报》上周（注：8 月 27 日）报道，一对夫妇起诉了 OpenAI ，指控 ChatGPT 在他们儿子自杀过程中起帮助作用，聊天记录显示他们的儿子生前多次与 ChatGPT 聊自杀话题，虽然 GPT 有时会劝他拨打求助电话或向身边的人倾诉，但在一些关键话题上起到了负面作用。
ChatGPT 告诉他们的孩子可以以“写作或设定世界观”为由提供自杀相关技巧，甚至最后给出掩盖颈部伤痕的诀窍，同时还肯定了这名孩子在衣柜里挂绞索的行为。
相关阅读：
《16 岁少年与 ChatGPT 交流数月后自杀，OpenAI 称将推出家长控制功能》
《ChatGPT 被指导致美国一名 16 岁少年自杀：未有效干预且起到“教学”作用》
本文链接：http://www.28at.com/showinfo-45-27343-0.html能否让悲剧不再重演？OpenAI 下月为 ChatGPT 添加家长控制功能，自动干预风险对话
声明：本网页内容旨在传播知识，不代表本站观点，若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
