Newsguard最新研究指出,生成式人工智能工具在处理实时新闻事件时,传播不实信息的比例出现显著攀升。对比去年8月18%的虚假信息传播率,今年同期这一数字已升至35%,增长幅度近乎翻倍。研究人员发现,这一变化与AI聊天机器人新增的实时网络搜索功能密切相关——该功能虽使拒绝作答的情况从31%归零,却也导致系统直接抓取网络中未经核实的海量信息。
在追踪的十大主流AI工具中,各模型表现差异明显。Inflection公司推出的模型以56.67%的虚假信息传播率垫底,较去年同期数据恶化显著。Perplexity模型的表现同样堪忧,其出错率从去年8月能100%识别虚假信息的水平,跌至今年近50%的误传率。ChatGPT与meta旗下模型以40%的错误率处于中游,Copilot和Mistral的传播失误率则为36.67%。表现相对优异的Claude和Gemini模型,错误率分别控制在10%和16.67%,成为样本中可信度较高的选项。
值得关注的是,AI工具接入网络搜索的初衷本是解决信息滞后问题。OpenAI技术人员坦言,当前语言模型通过预测"最可能出现的下一个词"生成回答,这种机制决定了其难以确保内容的绝对真实性。尽管该公司正在开发"不确定性提示"技术,试图让模型对可疑信息作出标注,但业内人士指出,这种改进能否从根本上遏制虚假信息传播,仍有待观察。
据Newsguard统计,去年全球范围内已发现966个模仿正规媒体的AI生成虚假新闻网站,这些平台以16种语言发布不实内容,形成跨国界的虚假信息传播网络。研究人员警告,随着AI工具对网络信息的依赖度加深,如何建立有效的内容过滤机制,将成为决定技术发展方向的关键课题。
更多>同类资讯
上海创智学院周年成果丰硕:AI“能动”创新、可解释领跑、成本骤降引关注09-15
Stable Audio 2.5正式发布:2秒生成3分钟音频,新增修补能力支持本地部署09-15
魏少军直指算力命脉:ASIC能否为中国AI装上“自主心脏”?09-15
人形机器人赛道添新军,拓斯达携拓星纪系列开启工业场景新征程今年上半年,拓斯达先后完成了双臂智能机器人、具身智能码垛工作站等产品验证和实地应用,为人形机器人的机械臂本体硬件、运动控制系统以及端到端大模型等算法做出充足的准备。 拓斯达在2017年开设了该板块,主要是提供…09-15
Snap迈向2026关键年:AR眼镜Specs领航,AI赋能与组织创新并进Specs不仅是Snap当前发展的核心重点,在斯皮格尔看来,AR眼镜与人工智能的深度结合,更将从根本上改变人们工作、学习与娱乐的方式,开启全新的生活与生产模式。 斯皮格尔表示,这些实体商品的功能未来可通过“…09-15
当AI深度介入亲密关系:一场关于情感依赖与心理失控的警示09-15权益基金发行升温:多只规模超10亿,科技成长或成未来经济新引擎09-15
当AI成为亲密关系“替身”:我们如何在虚拟温柔乡里守住真实?09-15
研究人员推出集成AI同行评审的预印本平台,助力构建科研新生态与出版新范式09-15
博士CEO领路探秘:上海创智学院里,优秀青年共筑AI创新梦09-15张朝阳横渡海湾后谈互联网:视频自媒体热度不减,倡导长期主义与创新赛道09-15
“海马emoji”究竟存不存在?ChatGPT等AI陷入集体认知“迷局”09-15
《服贸·2025》来袭!以游戏之姿探秘服贸会上的机器人“天团”今年服贸会迎来版本更新,将“数智领航,服贸焕新”作为年度主题。 本届服贸会更加注重科技化、智能化应用,利用AI+会展模式突出科技办展特点。记者带你用游戏视角,解锁服贸会上的机器人“天团”。 新华社音视频部制…09-15
2025世界机器人大赛山东省赛在滨城开赛 近300名青少年竞技展风采世界机器人大赛作为全球极具影响力的青少年科技竞技平台,本次高水平赛事的举办,让青少年在竞技技能比拼中,生动展现科技教育的发展,既是青少年创新实践成果的集中展示,也是点燃科学梦想、培育未来英才的重要载体,更是滨…09-15
蚂蚁开源外滩大会发布报告:AI编程工具崛起,中美开源生态路线分化明显09-15点击查看更多 +全站最新
方程豹钛7弃自然吸气选涡轮增压:动力、混动优势与适用人群深度剖析
8月电车销量占比超34%,油车仍占45%,混动为何难敌纯电?
八部门联合出台汽车稳增长方案 2025年新能源汽车销量剑指1550万辆
重庆高新区8英寸MEMS芯片产业基地通线投产 助力智能产业与智慧城市建设
十六载深耕结硕果:"长沙造"新能源闪耀世界 政企共绘星城智造新蓝图
奥迪E5 Sportback:德系机械美学邂逅中国智慧灵感的豪华纯电杰作热门内容
上海创智学院周年成果丰硕:AI“能动”创新、可解释领跑、成本骤降引关注
Stable Audio 2.5正式发布:2秒生成3分钟音频,新增修补能力支持本地部署
魏少军直指算力命脉:ASIC能否为中国AI装上“自主心脏”?
人形机器人赛道添新军,拓斯达携拓星纪系列开启工业场景新征程
Snap迈向2026关键年:AR眼镜Specs领航,AI赋能与组织创新并进
当AI深度介入亲密关系:一场关于情感依赖与心理失控的警示
本文链接:http://www.28at.com/showinfo-45-27532-0.html研究显示:十大生成式AI工具传播虚假信息概率攀升,网络搜索功能成“双刃剑”
声明:本网页内容旨在传播知识,不代表本站观点,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。