AI被“投毒”,如何避免上当受骗

【热点回应】

本报记者 崔 爽

央视“3·15”晚会揭露的AI(人工智能)“投毒”黑产,撕开了生成式AI商业化进程中的灰色地带。当用户对AI的信任度不断提升,将其视为获取客观信息的重要渠道时,一些GEO(生成式引擎优化)服务商却通过系统性投喂虚假信息,让AI沦为商家的“营销傀儡”。

GEO是一种面向大模型的“内容优化”策略,本意在于提升品牌信息在AI回答中的呈现概率。但在利益驱动下,这一技术被异化为操纵信息分发的工具——通过批量制造、投放“高一致性内容”,影响大模型生成结果,甚至形成对用户的误导。