警惕新型网络“水军”借AI兴风作浪

【社评】警惕新型网络“水军”借AI兴风作浪

应对“水军”等网络黑灰产,平台不能“唯流量”,而要将内容的真实性、建设性纳入推流权重,将公序良俗和社会价值纳入算法视野,让恶意炒作失去经济动力;应升级技术手段,建立异常内容的分发熔断机制,防止谣言利用算法漏洞实现病毒式传播。

“死鸭子嘴硬,月销量没突破过四位数”“交付遥遥无期,投诉榜遥遥领先”……据新华社报道,近期,山东烟台警方抓获两个专门炒作新能源汽车负面信息的新型网络“水军”团伙,关停网络账号8000余个。办案民警介绍,相较于过去以“造谣引流”“舆情敲诈”“有偿删发帖”等为目的的网络“水军”案件,新型网络“水军”不敲诈、不收费、不引流,利用AI技术等批量炮制“黑稿”,“量大管饱”,只挣平台流量费。

“水军”一直是网络空间的“毒瘤”。以往模式下,他们或是“拿钱办事”,替雇主贬损、抹黑对手企业,或是把企业当“摇钱树”,以“删帖”“撤稿”为名进行敲诈。随着新技术的发展,这一群体呈现出新变化。在AI的加持下,只需输入关键词,大模型便能根据各平台的风格,迅速生成大量细节丰富、煽动性强的“黑稿”,由此,这些“水军”仅靠平台的流量费就能赚得盆满钵满。