国家安全机关提示:谨防深度伪造魔改陷阱

谨防深度伪造魔改陷阱

生成式人工智能技术的突破性进展,正推动AI视频制作加速普及,在提升创作效率、活化历史记忆等方面展现出巨大潜能,成为数字时代的内容生产利器。但技术若被恶意用于金融欺诈、政治渗透、谣言制造、间谍窃密等非法活动,将侵害公民合法权益,甚至扰乱社会秩序、危害国家安全。

深伪魔改暗藏“雷区”

——伪造权威,动摇公信力。境外间谍情报机关、各种敌对势力可能利用深度伪造技术,捏造虚假言论、伪造公务人员不当视频、炮制虚假政策画面,以此制造社会恐慌、撕裂舆论、抹黑国家形象,冲击政治安全与制度安全。