认知武器化与人工智能认知战——一项机器学习与行为实验研究

分类： 政治学 >> 国际政治 提交时间： 2024-09-14 合作期刊: 《国际安全研究》

曾庆鸣 毛维准(2,3）

摘要：作者基于自然语言处理与机器学习，针对1950—2024年173例美国对外政策与行为，构造以ChatGPT为对象的行为实验与对照研究，涵盖美国制裁禁运、安理会否决、军事干涉、政权更迭、海外作战等五类事件。虽然目前大语言模型未在明面上被用于谋杀、军事破坏或系统性认知攻防与渗透，也没有大语言模型认知攻防作战公开明确的战略政策执行或文本宣示，但OpenAI的ChatGPT模型展现出显著的认知安全风险。这种认知威胁具有长期性、隐蔽性、精准性等特点，其潜在认知杀伤与认知“殖民”能力不容忽视。ChatGPT能够选择性呈现信息与伪造事实，并塑造、扭转用户认知与思维模式，引导用户产生对美国对外政策与行为正当性的积极情感，进而实现认知操纵。ChatGPT生成的内容在文本、叙事与情感等三个层面表现出正负面极化情感动员趋势，通过“言过其实”“无罪推定”“以退为进”等方式放大己方正当性、美化自身形象，通过“栽赃陷害”“无中生有”“有罪推定”污名化、妖魔化竞争对手形象。基于大语言模型的人工智能认知战成为一种隐蔽、精准、低成本、高收益的非动能作战工具。人工智能认知战利用人类的认知弱点和思维偏差，潜移默化地实施思维诱导与认知操纵，实现了“认知武器化”，对认知域国家安全构成了重大威胁。

 点击量 393  下载量 104  评论 0