◇从认知战的视角来看,近年来东南亚、中东、中亚等地频发的“颜色革命”中,某域外政治势力利用社交网络平台大量发布虚假信息,编造政治事件,抹黑、造谣他国政府以扰乱其国内政局及其与邻国间的政治关系,对他国民众进行认知误导,加剧了地区紧张态势
◇人工智能聊天机器人与社交媒体机器人联网对接后,可以将原有的人工控制的水军系统转变为认知战机器系统,这对一些国家来说是极大的技术诱惑,对另一些国家则是极大的安全威胁
◇认知战会不会继续升级,亦取决于脑科学、神经科学等认知技术会不会“武器化”,会不会直接和更加广泛地应用于认知影响与控制。倘若答案是肯定的,认知战将变为一种被新兴技术赋能的、由诸多能力支撑的新型混合战争
在美国华盛顿,一名工程师将电脑接入网络(资料照片)
人类的认知来源于人们出生以后所经历的事物,包括人们的感觉器官刻画在大脑当中的体验、人与人之间的交流、人们接触到的多媒体内容、人们主动检索的知识等。
过去,人们获取信息的渠道通常是人际传播、书籍,以及报刊、广播、电视等传统媒体,但科技的进步改变了一切。当前,移动互联网已经在世界范围内大面积普及,各国民众每天与手机为伴,看着弹窗推送的新闻,通过App检索知识,在社交网络中与人交流……
信息技术的突飞猛进及其对人类行为习惯的塑造,不仅改变了人们的认知渠道,也为不受传统战争规则和地理边界限制的、可以在非战争状态下进行常态化对抗的认知作战提供了新的可能。
在一些重大敏感时刻,网络水军、政治机器人等魅影频现,通过投放话题、推波助澜进行着社会面的热点覆盖和认知引领,影响了不少国家的稳定;在日常生活中,通过电子知识库、算法、人工智能等新技术进行认知诱导等行为也屡见不鲜,一些国家企图潜移默化地令竞争对手从认知量变转变为认知质变,最终左右其发展决策和社会行为。
可以说,基于新一代信息技术的网络传播力已成为“软权力”的重要组成部分,随着全球化的不断深化,它的重要性将更加凸显——谁掌握了网络权力,谁就可以通过议题设置获取话语权,对他国施加影响,从而在全球范围内“炮制认同”。
某域外势力认知战的典型操作分析
过去数年来,在多个国家和地区发生的示威、暴乱常呈现出一些共同特点:很多参与人员有免费的饮水、食品、防护用品,有统一的服装,甚至还有统一的手势和标志性动作。其实,这些都是复制的东欧、中亚“颜色革命”中的经验。利用开源情报工具分析后还发现,这些参与游行示威的人表面上看起来似乎是无组织的自由组合,但都离不开网络社交和即时通讯工具,甚至还会使用网络加密通讯工具进行相互勾连或与活动上级组织者联络,一些重点骨干还参加了相关特务机构培训。
从认知战的视角来看,近年来东南亚、中东、中亚等地频发的“颜色革命”中,某域外政治势力利用社交网络平台大量发布虚假信息,编造政治事件,抹黑、造谣他国政府以扰乱其国内政局及其与邻国间的政治关系,对他国民众进行认知误导,加剧了地区紧张态势。
情报分析师通过查阅相关新闻、网站、百科等信息,利用开源情报收集整理了与该政治势力有关的6个相关重点话题,并利用社交网络分析系统进行关联分析,挖掘出了在相关事件中处于关键传播节点的数十个推特账号及其相互关系。通过对关键的26个个人推特账号和47个组织推特账号进行追踪和梳理分析,得出了以下结论:
一是该政治势力的反政府宣传事先进行了周密策划。
比如,某重点账号是2020年1月注册的,直到4月才发布第1条推文,即账号注册时间比启动该账号发布虚假信息的时间要早3个月,这一特征表明该政治势力是早有预谋的,在相关事件发酵前就已经提前注册了和话题密切相关的社交网络账号。进一步分析发现,转发该账号推文最多的是一些经常发布反政府言论的个人和非政府组织的账号,甚至是某些极端组织和人物的活跃账号,可见各种政治势力之间有着频繁且密切的联系。
二是域外势力统一操控着社交网络账号。
其统一操控社交网络账号的步骤和方法是:首先,按照计划在关键时间节点由某一个社交网络账号率先发帖,编造虚假信息,假借正义之名号召成立政治同盟组织;然后,另一个账号表示积极响应,给予支持并大量转发推文来扩大宣传;接下来,随着同盟组织的影响力不断提升,吸引了更多不明真相的账号加入并且大量转发推文;最终,发展成为社交网络反政府同盟组织。
通过对参加同盟组织的社交网络账号注册时间和发帖内容进行深度分析后发现,其网络行为具有明显的一致性和规律性,因此可以认为这是由政治势力统一操控的有计划、有组织的认知战。
三是域外势力使用了大量的政治机器人账号用于虚假宣传。
通过对推特上大量账号和发帖进行机器自动扫描,发现如下与该域外政治势力有关的重点账号符合政治机器人特征:
重点账号1:原创推文较少,仅有大量转推和引用其他用户的帖子,且无回复互动。
重点账号2:于2019年9月注册,关注和转发某国反政府虚假宣传相关文章较多。另有数个与其关系密切的账号于同一时间注册,为了吸引粉丝而选择转发某T恤主题。这些账号发帖时间过于均衡,都是通过网页客户端发送。
重点账号3:推文全部是网页端发送,只是发帖,没有任何内容回复,从来不与其他账号互动。
重点账号4:仅白天发帖,发帖时间分布均匀,主要是网页端发送推文且无回复,符合使用自动化程序控制发帖的特征。
重点账号5:使用多国多语种发布推文,发帖时间非常固定,推文内容中包含较多网页链接(URL),且无回复。
重点账号6:于2008年5月注册,2020年6月26日后开始发推文,明显是新启用的僵尸账号。此账号发推时间较集中,平均每天发帖数量过多,通过推文内容判断与域外势力关系密切。
重点账号7:于2014年1月注册,2020年才开始启用,且每天发帖数量在1000条以上,相当于几乎每分钟都在发帖,完全不符合人类行为特征。
重点账号8:于2009年2月注册,仅在2016年1~2月和2019年8月以后发推文,存在与其他多个账号集中同时发布相同或相似推文内容的情况。
通过对与该域外势力相关联的其他账号进行全面分析研究后发现,很多账号都具有明显的政治机器人操纵特征。比如,有的账号转推和点赞很有规律;有的账号会用多种语言发送推文,其中甚至包含人类用户通常不会发布的字符;有的账号没有头像、冒用他人头像或者使用卡通、风景、名人头像,具有匿名化特征;还有的账号使用的ID是由算法生成的数字字母组合等。
该域外政治势力不仅通过社交网络将各国“民主运动人士”组群,利用政治机器人等科技手段发布反政府内容、造谣抹黑,还妄图利用互联网和青年亚文化对发展中国家进行认知作战,开展分裂民众的活动。
一是选取青少年普遍感兴趣的饮食、漫画等作为切入点,进行大量“二次元”风格的宣传创作,恶意迎合部分群体的趣味和喜好。
二是以符号化图案设计了大量海报和插画,在社交网络上晒图打卡,引诱大量不明真相的青少年关注并参与非法游行示威等政治活动。
三是利用全职专业摄影师日夜捕捉堪比好莱坞大片构图和光影的示威游行照片,美化暴力和破坏行为,进一步误导青少年。
四是以跨媒介的方式在动漫、游戏和网络歌曲、网络电台等青少年聚集的媒介形态中支持特殊圈层的亚文化议题,以障眼法的方式浑水摸鱼、扭曲认知。
脑科学研究或被应用于认知影响与控制
“去中心化”的挑战
除了社交网络,算法推荐、互联网知识库、人工智能等“去中心化”的新技术也给认知作战带来了新变量,对国家和社会管理形成了新挑战。
一是严重依赖计算机系统和平台算法的信息读取和发布已经影响了受众认知和意识形态安全。
首先,平台经过对不同用户喜好的评估,会推送与其喜好最为相关的信息给用户,这也让不同喜好用户的阅读内容愈发专向化,甚至会逐渐通过多重信息的叠加而出现极端化倾向;其次,“去中心化”的内容发布模式使信息的真实性愈发难以辨别,谣言和虚假信息很可能被植入看似个性或具有一定独创性的认知导向类文字和多媒体作品之中,这些内容都可能被推送给具有极端倾向的用户,成为某个事件的诱因;最终,随着用户分化的不断加深,主流声音很难再进入非主流观点用户人群,导致出现主流意识形态难以覆盖的孤岛。
二是互联网知识库建设的混乱局面问题同样严重。
人类知识库是指人类所积累的所有知识、信息和经验。它们来源于多种途径,包括书籍、报刊、报告、论文、艺术作品、口述传统等,涵盖了科学、技术、历史、文化、哲学、宗教、艺术等诸多领域。随着技术的发展,当前互联网上存储的资料和信息已经超过了人类所有的纸质档案系统。谷歌搜索、维基百科等搜索工具和线上数字化知识系统的大规模应用,使人类获取知识更加便捷。然而,“去中心化”“开放式”的互联网知识库建设,允许人们经过简单的身份包装就可以参与知识的提供和修订工作,这导致知识库中信息的专业性和准确性存在极大问题。对于想要获取知识的终端用户来说,简易便捷的检索方式常常会使其抛弃知识获取过程当中本应秉持的多样性原则,大量不权威不准确的信息也会使其认知扭曲和认知错误现象广泛存在。
最近的一个案例是,7月3日,美国最高法院推翻了支持以种族因素差别招生的法案(Affirmative Action),意味着平均成绩更好的白人和亚裔在理论上更容易考上大学。Affirmative Action在中国被普遍译作“平权法案”,但这个翻译是完全错误的,最精准的翻译应该是“肯定性行动”。
为什么会出现这种错误翻译,它又是如何引入国内的呢?“平权法案”被植入中国的话语体系并不是一个无心之失,而是有人有目的地选择了这个错误的翻译,并将其引进中国。这是一场有组织、有目的、有预谋的移花接木。
其中最典型的做法,就是在阅读率最高的百科平台上篡改英文原条目的中文翻译。如在维基百科上搜索Affirmative Action,出现的中文对应是“肯定性行动”。然而,其所属的主条目,则被改为了“美国平权运动”。美国时间7月2日,有人刻意将查阅率/浏览率最高、被视为最权威的主条目改成了“平权运动”,并扩大了这个错误译名的影响力。而后,在中国国内的一些互联网知识库中搜索Affirmative Action,其条目也已被改为“平权法案”,其来源一栏直接照抄了维基百科中被篡改的中文主条目。
这个改动的推动者,正是部分美国中文媒体和西方媒体的中文版面。其目的是向一些缺乏系统性知识、对西方政治话术不敏感的网民灌输美国的“进步主义叙事”,利用“话语陷阱”对美国的竞争对手进行政治攻击。这种篡改的一个附带结果是,在一些国外社交媒体上,如果用中文搜索“肯定性行动”,不会搜到任何对于此次最高法院判决的报道;如果搜索“平权法案”,看到的则是大量反华媒体的报道。
三是高级自然语言处理技术和人工智能工具也可以在认知战中被应用,影响信息的传播和接收。
首先,人工智能工具和大数据技术可以被用来大规模地收集信息,进行“战场侦察”,探明目标对象的认知需求。其次,人工智能工具可以自动生成或篡改内容向特定群体传播特定信息,操纵其认知。比如,可以深度伪造逼真的虚假图片、音频和视频,用来误导目标群体或破坏个人、组织的信誉。再次,人工智能聊天机器人与社交媒体机器人联网对接后,可以将原有的人工控制的水军系统转变为认知战机器系统,这对一些国家来说是极大的技术诱惑,对另一些国家则是极大的安全威胁。
综上,随着信息技术的变革,社会公众的信息获取媒介已发生巨大的变化,纸质媒体和广播电视对公众的影响已被彻底弱化,移动互联网已变为最重要的意识形态来源。人们获取的信息及心态被其左右的同时,基于新一代信息技术的认知战已经贯穿于当今互联网的各个角落,给意识形态安全带来了不同于以往任何时期的全新挑战。
展望未来,尤其需要关注的是,认知战会不会继续升级,亦取决于脑科学、神经科学等认知技术会不会“武器化”,会不会直接和更加广泛地应用于认知影响与控制。倘若答案是肯定的,认知战将变为一种被新兴技术赋能的、由诸多能力支撑的新型混合战争。 (文∣赵盛烨 本文作者曾在国防科技大学从事博士后研究工作)
(《瞭望》2023年第39期 )