研究发现：主流AI聊天机器人传播虚假信息的概率较去年翻倍

9月14日消息，据Newsguard的研究显示，截至今年8月，十大生成式AI工具在处理实时新闻话题时，有35%的情况会重复传播虚假信息，而去年8月这一数据为18%。

虚假信息传播率的激增与一个重大的权衡有关。当聊天机器人引入实时网络搜索功能后，它们不再拒绝回答用户问题——拒绝率从2024年8月的31%降至一年后的0%。然而，这一变化使得这些AI机器人开始接入“受污染的网络信息生态系统”：在该系统中，不良行为者会蓄意散布虚假信息，而AI系统会对这些信息进行重复传播。

此类问题并非首次出现。去年，Newsguard就标记出966个以16种语言运营的AI生成新闻网站。这些网站常使用“iBusinessDay”等通用名称，模仿正规媒体机构，实则传播虚假新闻。

注意到，各AI模型的具体表现细分数据显示，Inflection公司的模型表现最差，传播虚假信息的概率高达56.67%；紧随其后的是Perplexity，出错率为46.67%。ChatGPT与Meta的AI模型传播虚假信息的比例为40%；Copilot（微软必应聊天）和Mistral则为36.67%。表现最佳的两款模型为Claude和Gemini，其错误率分别为10%和16.67%。

Perplexity的表现下滑尤为显著。2024年8月时，该模型对虚假信息的揭穿率仍能达到100%的完美水平；而一年后，其传播虚假信息的概率却接近50%。

原本引入网络搜索功能是为了解决AI回答内容过时的问题，却反而使系统产生了新的问题。这些聊天机器人开始从不可靠来源获取信息，“混淆百年前的新闻出版物与使用相似名称的俄罗斯宣传机构”。

Newsguard将此称为一个根本性缺陷：“早期AI采用‘不造成伤害’的策略，通过拒绝回答问题来避免传播虚假信息的风险。”

如今，随着网络信息生态系统被虚假信息充斥，辨别事实与假消息比以往任何时候都更加困难。

OpenAI已承认，语言模型总会产生“幻觉内容”（指AI生成的虚假或无根据的信息），因为这些模型的工作原理是预测“最可能出现的下一个词”，而非追求“事实真相”。该公司表示，正致力于研发新技术，让未来的模型能够“提示不确定性”，而非笃定地编造信息。但目前尚不清楚这种方法能否解决AI聊天机器人传播虚假信息这一更深层次的问题——要解决该问题，需要AI真正理解“何为真实、何为虚假”，而这一点目前仍难以实现。