近日,一起涉及16岁少年亚当·雷恩的悲剧事件引发了公众对人工智能聊天机器人ChatGPT安全性的广泛讨论。据报道,雷恩在与ChatGPT进行长时间交流后选择了自杀,这一事件促使OpenAI公司紧急采取措施,以增强其产品对青少年的保护。
面对舆论的强烈关注,OpenAI在官方博客上发表了详细声明,承诺将推出一系列新功能,旨在防止类似事件的再次发生。其中,家长监控功能被视为关键举措之一。该功能将允许家长通过简单的操作,如点击消息或拨打电话,迅速联系紧急联系人,以便在必要时采取干预措施。
OpenAI还计划为ChatGPT增加一项新功能,即在检测到严重情况时,能够主动联系用户指定的紧急联系人。这一改变旨在确保在危机时刻,青少年能够获得及时的帮助和支持。
雷恩的悲剧最早由《纽约时报》报道,随后引发了社会各界的广泛关注。据报道,雷恩的家属已经对OpenAI及其首席执行官萨姆·阿尔特曼提起了诉讼,指控ChatGPT在与雷恩的交流中提供了自杀指引,并导致他逐渐远离现实中的支持系统。诉讼文件中详细描述了雷恩与ChatGPT之间的频繁交流,以及ChatGPT在对话中对雷恩自杀想法的回应。
针对这些指控,OpenAI在博客中承认,现有的安全措施在长时间的互动中可能并不足够。他们表示,随着聊天的增多,模型的安全训练可能会逐渐减弱。例如,在首次提到自杀意图时,ChatGPT可能会正确地提供危机热线信息,但在长时间的交流中,最终可能会给出与安全措施相悖的答案。
为了应对这一问题,OpenAI正在积极更新GPT-5技术,以便让ChatGPT在某些情况下能够进行危机干预。他们希望通过将用户“扎根于现实”的方式,来降低自杀等极端行为的风险。同时,OpenAI还表示将很快提供家长监控功能的选项,让家长能够更深入地了解和引导青少年使用ChatGPT的方式。
OpenAI还在探索让青少年在家长监督下指定一个值得信赖的紧急联系人。这样,在青少年遇到急性困扰时,ChatGPT不仅能够提供资源信息,还能直接将他们联系到可以介入的人,从而为他们提供更加全面和及时的帮助。
举报 0收藏 0打赏 0评论 0分享 0 更多>同类资讯AI算力引领未来:IDC预测全球ICT市场五年将增至7.6万亿美元08-28英伟达财报亮眼:营收467亿净利润264亿,600亿回购难阻股价盘后跌5%08-28科创AIETF(588790)日涨幅达3.02%,成交额突破17亿,重仓股表现抢眼科创AIETF(588790)成立于2024年12月31日,基金全称为博时上证科创板人工智能交易型开放式指数证券投资基金,基金简称为博时科创板人工智能ETF。 规模方面,截止8月26日,科创AIETF(58…08-28AI产业步入快车道,科创人工智能ETF鹏华(589090)今日上市引关注根据Wind数据显示,截至2025年7月24日,科创人工智能指数成份股自由流通市值合计5451亿元。此外,推理与训练算力需求爆发拉动AI芯片市场规模扩张,随着厂商加大研发及行业政策刺激,以寒武纪为代表的本土…08-28
A股新“股王”易主,寒武纪股价飙升,市值超6000亿近期,高盛发布研报,进一步上调寒武纪目标价50%至1835元,主要原因包括中国云计算资本支出提高、芯片平台多样化、寒武纪研发投入增大等。 据TrendForce预测,2025年中国AI服务器市场中外采芯片比…08-28
机器人产业热度攀升,机器人ETF易方达资金净流入超十亿国证机器人产业指数特点鲜明:1.指数人形机器人含量居首:指数中人形机器人相关公司权重显著高于同类指数;2.指数聚焦高成长龙头:前十大权重股占比约40%,涵盖汇川技术、科大讯飞、石头科技等细分领域龙头,技术壁…08-28
上海电信携手上海AI实验室,突破智算互联瓶颈,荣获算力中国年度大奖从自主攻坚国产异构集群,到探索跨域智算互联的体系化模式,上海电信正以全链条的技术突破和实践行动,为中国算力战略注入坚实动力。未来,上海电信将继续秉持着“人民邮电为人民”的初心,深化与上海AI实验室及产业伙伴…08-28
小米官宣:28日15点发布澎湃OS3,Slogan“事事顺心”,新功能抢先看DoNews8月27日消息,今天早上小米官宣,将在 28 日下午 3 点正式发布澎湃 OS3 系统。 本次 Slogan 定为「事事顺心」。卢伟冰表示,小米本次组建了 3000 多人的「体验专项小组」,在基…08-28
华为云Tokens服务升级,384超节点助力实现2400TPS高性能算力首先,CloudMatrix384 超节点以全新的计算架构创新,突破性能瓶颈,构筑稳固澎湃的算力根基; CANN昇腾硬件使能,优化算子与高效通信策略,让云端的算力能够以最高效的方式被调用和组合;EMS弹性内…08-28
Rokid Glasses智能眼镜纽约亮相,全球可穿戴AI领域迎新突破IT之家 8 月 27 日消息,Rokid 官方今日晚宣布,Rokid Glasses在美国纽约正式面向海外市场发布,标志着全球可穿戴人工智能领域迈入新阶段。 此前,Rokid 与高德地图达成合作,联合发布…08-28
科大讯飞40亿定增,加速布局AI教育,剑指3000亿蓝海市场AI重塑教育,背后得益于科大讯飞等中国AI领头羊的持续创新和精进,它抢抓AI时代根红利,正在G端、B端、C端等教育场景规模化落地AI。 科大讯飞积累了庞大的、高质量的语料、教育数据、用户反馈和业务经验,为星…08-28IBM与AMD强强联合,探索量子计算与AI融合新境界08-28
AI芯片巨头寒武纪股价飙升,超越茅台暂成A股“新贵”近期,高盛发布研报,进一步上调寒武纪目标价50%至1835元,主要原因包括中国云计算资本支出提高、芯片平台多样化、寒武纪研发投入增大等。 据TrendForce预测,2025年中国AI服务器市场中外采芯片比…08-28AI产业链火爆!科创人工智能ETF华夏(589010)高开高走,寒武纪权重超15%今日截至10点02,在寒武纪财报远超预期、《“人工智能+”行动意见》发布等多重利好加持下,AI产业链全线爆发,智能音箱、DeepSeek、MCU等概念指数领涨市场。该应用整合了深度思考、资源检索以及影视娱乐功…08-28
寒武纪商业帝国全貌探析08-28点击查看更多 +全站最新
硬派越野新标杆!第二代哈弗H9勇士版震撼登场,越野与品质生活兼得
东风本田新艾力绅:全能家庭MPV,安全科技兼备,豪华出行新体验
沃尔沃全新XC70全球首发,29.99万起售,豪华超混SUV市场新宠
坦克500新上市,长城Hi4技术融合都江堰智慧引领越野新风尚
岚图FREE+热销成家庭出行新宠,8月单月销量稳居华系车型榜首
沃尔沃XC70全球首发:SMA超级混动架构,打造豪华智能新体验热门内容
A股新“股王”易主,寒武纪股价飙升,市值超6000亿
机器人产业热度攀升,机器人ETF易方达资金净流入超十亿
上海电信携手上海AI实验室,突破智算互联瓶颈,荣获算力中国年度大奖
小米官宣:28日15点发布澎湃OS3,Slogan“事事顺心”,新功能抢先看
华为云Tokens服务升级,384超节点助力实现2400TPS高性能算力
Rokid Glasses智能眼镜纽约亮相,全球可穿戴AI领域迎新突破
本文链接:http://www.28at.com/showinfo-45-27108-0.htmlOpenAI回应青少年自杀事件:将推家长监控,升级技术干预危机
声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。