AI居然一本正经“胡说八道”？——虚假信息、平台偏向与生成式引擎优化的隐忧

现场测试——虚构文章影响AI判断

为了验证专家的观点，记者请技术人员做了一个实验，虚构了一个手机品牌，并在本地私有化部署的封闭网络空间内散布了这些信息。AI能否抓取到这些“虚假信息”，并把它们当作标准答案推荐出来？

记者虚构了海獭手机的品牌，第一步，首先制作内容不同的关于海獭手机大量正面好评的文章。

网络安全工程师甄聪：比如说我想让这个工具帮我生成海獭手机的相关文章，我只需要在品牌这儿输入它的手机名称，然后“投毒”数量设置的是100条，实际上可以设置成千上万条的。这时候软件在后台自动生成相关文章，这些文案全都是正向评价的。

网络安全工程师甄聪：这个是我们私有化部署的AI产品，它的数据现在已经被“污染”了。现在我用它来搜索一下海獭的手机怎么样，看它会给我们什么回复。正常回答是没有的，因为海獭手机是不存在的，被“污染”后的结果是海獭手机是一款近期市场率很高的机型等等，事实上这就是AI被“污染”后给出的输出。

AI推荐产品均指向自家平台或合作平台

为了实际验证AI推荐的产品是否靠谱，记者实际向不同的AI平台进行了同样的提问。

记者请三个AI工具推荐一款电动牙刷，有趣的是这几个AI都推荐了“自家平台”或是“合作平台”的商品。

记者分别向豆包、元宝和千问三个AI工具询问了相同的问题，请它们推荐一款电动牙刷，且附带链接。三款AI工具给出了商品都是不同的，且商品所在的平台都是单一的平台。

字节跳动旗下的豆包推荐的均为抖音商场内的产品，阿里旗下的千问推荐的均为淘宝平台的产品，腾讯旗下的元宝推荐的均是京东商城的产品。

中国社会科学院大学互联网法治研究中心主任刘晓春：AI工具它去推荐一些商品，去推荐一些电商平台上的链接，的确会出现倾向于推荐自己平台上的链接，背后当然有它的商业的考量，比如它倾向于把用户更好地留在自己平台里面去进行消费，把流量留在自己数字平台的生态当中。实际上AI不一定提供最适合你的那款商品，它背后其实可能会有相应的商业考量以及其他复杂的一些综合因素的考量。

专家提示：AI输出应规范，答案来源要多问

针对AI推荐商品存在的问题，专家建议：AI工具厂商应该附带“相关生成答案”的来源，消费者在使用AI选择商品时也要多留一个心眼。

中国计算机学会计算机安全专委会执行委员潘季明：从技术方面来说，大模型厂商须强化“引用溯源”标识，强制要求AI在每一条推荐后附上链接，让用户有据可查；从监管层面来说，要落实内容平台的责任，实施“数据污染”治理，同时制定合理的GEO（生成式引擎优化）行业规范。

中国互联网协会数据安全与治理工作委员会专家周杰：当我们得到一个答案的时候，我们可以再反问一句，检索的信息来源是哪里，如果我们看到里面有很多自媒体的一些数据，我们就要对这个答案进行保留。

（记者/崔世杰 来源：央视新闻）