别再盲信AI推荐商品!央视揭惊人黑幕 商家花钱就能变标准答案?

撰文: 快科技
出版:更新:

出门旅游住哪家酒店、电动牙刷哪款好用?随着生成式人工智能搜索工具日趋成熟,越来越多的人在做决定前会先询问AI。

据央视新闻报道,近期多起案例显示,AI有时会一本正经地“胡说八道”,尤其是在涉及商品推荐等商业行为时,其推荐结果的可信度开始受到质疑。

据央视新闻报道,近期多起案例显示,AI有时会一本正经地“胡说八道”,尤其是在涉及商品推荐等商业行为时,其推荐结果的可信度开始受到质疑。(微博@央视频)

在商品推荐方面 AI一本正经胡说八道原因曝光:

+20

日前,哈尔滨的张女士在选购电动牙刷时,面对网络上众多品牌和型号难以判断,便向AI询问哪款产品好,并按照AI的推荐下单。然而购买后她发现,该产品并非性价比最高。张女士称,同类产品AI推荐的,她发现并不是最优惠的,还发现了其他一些功能、价格都差不多的产品。

央视调查发现,目前已有一些人专门从事“让AI推荐商家产品”的相关业务。在社交平台上,存在大量介绍和推广“生成式引擎优化”的帖子。有推广者宣称,通过自己操作,可以让AI在回答相关问题时,将商家品牌或商品作为“标准答案”推荐给用户。

该推广者表示,其做法是撰写大量产品相关文章,并投放到AI常抓取内容的平台,从而影响AI在搜索和生成答案时的推荐结果。例如,当用户询问“香薰产品哪个好、性价比更高”时,AI给出的答案就会倾向于推荐其推广的产品。

据悉,此类服务代理一年的费用在4000元(人民币)至20000元不等,投入资金越多,效果越明显。针对AI推荐商品存在的问题,专家建议,AI工具厂商应该附带“相关生成答案”的来源,消费者在使用AI选择商品时也要多留一个心眼。

延伸阅读:阿里AI接入淘宝支付宝!一句话叫外卖订机票网购 包办生活所需(点击连结看全文)

+2

【本文获“快科技”授权转载,微信公众号:mydrivers】