虚假信息的“投毒者”,关键信息的“窃密者”,意识形态的“挑拨者”……近日,国家安全部发文提醒,“AI工具若被不法分子利用,会对我关键数据、基础设施、社会秩序造成损害,成为威胁国家安全的‘隐形武器’。”

这一提醒颇具现实针对性。AI技术改变了信息生产传播流程:一键上传照片,就能生成以假乱真的影像;写下几句描述,就能拼出有头有尾的文章……这些功能确实方便有趣,可一旦技术与恶意交织,就可能走向违法犯罪的边缘。据不完全统计,仅去年搜索热度较高的50个国内AI风险相关舆情案例中,超1/5与AI造谣有关。国家安全机关在工作中发现,某境外反华敌对势力通过深度伪造技术生成虚假视频,企图向境内传播。耸人听闻的“恶性事件”、煞有介事的“官方公告”大行其道,不仅会误导舆论、制造恐慌,更是在破坏全社会的信任基石。

除了直接批量制造数字谎言,AI在“攻心”方面的手段同样不容小觑。AI算法具有学习能力,但所谓自主其实离不开人的投喂与操纵,算法黑箱、数据偏见等弊病一直存在。随着智能化程度越来越高,AI能根据使用者的输入习惯推算出其行为特征,进而再去分析、引导使用者的价值观念。过去,某些境外势力带节奏、搅浑水尚需雇佣卒子,而眼下通过AI分析通信数据、社交媒体等就能快速识别群体、带歪舆论、激化矛盾、制造对立。特别是在社会热点事件前期,情况尚不明朗、公众情绪累积之时,利用技术设置话题、刷屏控评,很可能就带偏了舆情走势,导致大量错误思潮得到广泛而隐秘的传播。

今天,“网络谍影”不仅是情报战,更是舆论战、认知战。美国《战略安全》杂志就曾刊文摊明,“认知操作可以是扩张的工具,甚至可以通过改变目标群体的观点、价值观和利益来实现特定的殖民化。”AI正改变着舆论战的性质、手段、打法,对此,相关部门和平台要加强网络空间治理,建立起更可靠的防火墙。以更大视野看,不断提高数字素养,识别众声喧哗中的价值偏见与认知谬误,已成为这个时代每个普通人的必修课。

暗流涌动、谍影重重并非说说而已,技术带来的意识形态风险已成为不可回避的课题。提高警惕意识,增强辨别能力,合理使用工具,方能共同筑牢维护国家安全的人民防线。