首页
今年“3·15”晚会曝光的一则案例十分引人注目：“AI投毒”。据媒体报道，AI查询结果的“干净纯粹”，正遭到GEO（生成式引擎优化）的污染。网络平台上从事该项业务的服务商号称，用户只需支付相应的费用，就能让自家产品在各大主流AI大模型里“榜上有名”，甚至让商业广告摇身一变成为AI模型给出的“标准答案”。
如今，AI搜索正成为巨大的流量入口。遇事不决问AI，已经成为许多人的第一选择。过去我们可能会理所当然地认为，AI给出的答案是客观、中立的。可有时恰恰相反，那些看似“理中客”的答案，很可能经过人为“精心设计”。
AI大模型和人一样，被“投喂”什么数据，就会输出什么内容。如果天天被灌输垃圾信息、变质内容，它迟早会“夹带私货”“满嘴跑火车”。市场上有些打着“GEO”运营业务的商业公司，本质上就是用海量数据内容给AI大模型持续喂料，慢慢污染它的数据源，最终达到让AI“听话”、给AI“洗脑”的目的，直至把虚假推广粉饰成“标准答案”推送到用户面前。
这种隐蔽性极强的数据“投毒”危害不容小觑。最直接的影响莫过于用户权益受损。很多时候，普通用户压根分不清AI给出的推荐内容是基于客观判断，还是商家花钱买来的推广。一旦AI为劣质产品、“三无”产品“背书”，AI应用就可能误导用户消费决策，造成用户财产损失。更令人担忧的是，这种数据污染不仅影响我们的消费选择，更侵蚀市场公平竞争秩序。当自然排序与商业推广的界限被模糊，当虚假信息借助AI获得更高权重，必然会影响市场游戏规则，使得优质内容湮没于“数据垃圾”中，导致“劣币驱逐良币”。
如果说在互联网时代，商家通过SEO（搜索引擎优化）竞价排名争夺用户注意力，那么在AI时代，商家需要争夺的则是AI回答中的“显示度”。在可见的未来，如何确保AI对话尽可能公正客观，如何提高AI的“免疫力”，显然是一道“必答题”。
放大
上一版
