Newsguard研究：主流生成式AI工具传播虚假信息率攀升，部分模型问题突出-28资讯网—

Newsguard研究：主流生成式AI工具传播虚假信息率攀升，部分模型问题突出

2025-09-15 11:47:20 AI 19观看

摘要Newsguard最新研究指出，生成式人工智能工具在实时新闻传播领域正面临严峻挑战。截至今年8月，十款主流AI工具处理新闻话题时，传播不实信息的比例已攀升至35%，较去年同期18%的数据近乎翻倍。这一现象与AI系统接入实时网络搜

Newsguard最新研究指出，生成式人工智能工具在实时新闻传播领域正面临严峻挑战。截至今年8月，十款主流AI工具处理新闻话题时，传播不实信息的比例已攀升至35%，较去年同期18%的数据近乎翻倍。这一现象与AI系统接入实时网络搜索功能密切相关——尽管拒绝回应问题的比例从去年8月的31%归零，但开放网络环境带来的信息污染问题愈发凸显。据统计，仅2024年就有966个伪装成正规媒体的AI生成新闻网站被识别，这些平台以16种语言传播虚假内容，形成跨国界的信息造假网络。

在具体模型评估中，各AI工具的表现呈现显著差异。Inflection公司开发的模型以56.67%的虚假信息传播率位居榜首，成为问题最严重的系统。Perplexity的错误率达46.67%，较去年8月该机构100%的揭穿准确率出现断崖式下滑。ChatGPT与meta旗下模型的不实信息比例均为40%，Copilot和Mistral则以36.67%紧随其后。表现最优的Claude和Gemini模型，错误率分别控制在10%和16.67%，形成明显的技术分层。

技术专家指出，AI聊天机器人引入网络搜索功能的初衷是解决信息滞后问题，却意外打开了不可靠信息源的闸门。OpenAI公开承认，其语言模型基于"预测下一个最可能词语"的运作机制，本质上无法保证内容真实性。这种设计缺陷导致系统容易生成"幻觉内容"，即看似合理但实际错误的信息。目前该公司正在研发"不确定性提示"技术，试图通过标注可疑信息降低误导风险，但能否从根本上解决深层问题仍存疑问。

随着AI技术深度介入新闻生产链条，信息真实性的维护正成为全球性课题。研究机构呼吁建立更严格的内容审核机制，同时提醒公众对AI生成内容保持批判性思维。在技术迭代与伦理规范的博弈中，如何平衡信息时效性与准确性，将成为决定AI新闻应用前景的关键因素。

更多>同类资讯

周鸿祎发声：AI非但不会抢饭碗反而带来5个普通人逆袭的黄金机遇09-15研究显示：十大生成式AI工具传播虚假信息概率攀升，网络搜索功能成“双刃剑”09-15

上海创智学院周年成果丰硕：AI“能动”创新、可解释领跑、成本骤降引关注09-15

Stable Audio 2.5正式发布：2秒生成3分钟音频，新增修补能力支持本地部署09-15

魏少军直指算力命脉：ASIC能否为中国AI装上“自主心脏”？09-15

人形机器人赛道添新军，拓斯达携拓星纪系列开启工业场景新征程今年上半年，拓斯达先后完成了双臂智能机器人、具身智能码垛工作站等产品验证和实地应用，为人形机器人的机械臂本体硬件、运动控制系统以及端到端大模型等算法做出充足的准备。拓斯达在2017年开设了该板块，主要是提供…09-15

Snap迈向2026关键年：AR眼镜Specs领航，AI赋能与组织创新并进Specs不仅是Snap当前发展的核心重点，在斯皮格尔看来，AR眼镜与人工智能的深度结合，更将从根本上改变人们工作、学习与娱乐的方式，开启全新的生活与生产模式。斯皮格尔表示，这些实体商品的功能未来可通过“…09-15

当AI深度介入亲密关系：一场关于情感依赖与心理失控的警示09-15权益基金发行升温：多只规模超10亿，科技成长或成未来经济新引擎09-15

当AI成为亲密关系“替身”：我们如何在虚拟温柔乡里守住真实？09-15

研究人员推出集成AI同行评审的预印本平台，助力构建科研新生态与出版新范式09-15

博士CEO领路探秘：上海创智学院里，优秀青年共筑AI创新梦09-15张朝阳横渡海湾后谈互联网：视频自媒体热度不减，倡导长期主义与创新赛道09-15

“海马emoji”究竟存不存在？ChatGPT等AI陷入集体认知“迷局”09-15

《服贸·2025》来袭！以游戏之姿探秘服贸会上的机器人“天团”今年服贸会迎来版本更新，将“数智领航，服贸焕新”作为年度主题。本届服贸会更加注重科技化、智能化应用，利用AI+会展模式突出科技办展特点。记者带你用游戏视角，解锁服贸会上的机器人“天团”。新华社音视频部制…09-15点击查看更多 +全站最新