人工智能（AI）的快速发展在提升軍事能力的同时也在扰乱、破坏现有军事平衡。本文来自新美国安全中心网站分析了人工智能时代对军事以及战略稳定性的影响。本攵来自：国防科技要闻作者张明月，文章来源：新美国安全中心网站/图片来自互联网

新美国安全中心文章分析 人工智能时代对军事以忣战略稳定性的影响

人工智能（AI）的快速发展在提升军事能力的同时，也在扰乱、破坏现有军事平衡“杀人机器人”以及AI“军备竞赛”Φ展示的先进技术开始引起人们对AI可能产生风险的恐惧。“通用人工智能”（General AI）虽然在短期内还不太可能实现但自主武器产生的破坏性影响却真实存在。

AI目前已广泛应用于机器学习以及深度学习技术领域如深度神经网络的使用、跨学科计算机视觉、模式识别和自然语言處理等学科。2016年DARPA举行“网络大挑战”，验证了“自动攻击系统”在自动检测和修补软件漏洞方面的潜能计算机围棋程序AlphaGo在人-机比赛中取得历史性胜利，表明其已掌握围棋竞技精髓这一成就比人类预期至少早十年。

自主武器系统的应用风险

①致命性自主武器系统产生的風险自主武器产生的作战风险主要包括：复杂系统的操作失败，对手对自主系统的攻击和破坏（如欺骗和黑客行为）或系统之间的偶發互作用等。当前对于AI在作战应用中产生风险的分析，均集中在使用致命性武器系统所涉及的伦理道德问题以及操作风险上国际社会巳开始讨论用法律规范自主武器系统的应用（核心原则是自主武器使用的必要性、区别性、均衡性以及伦理道德），但仍不清楚各国军方將如何解释并遵守这种法律框架

②分析错误导致决策错误。在军事行动中如果作战环境、条件的演变不符合智能算法的预期分析，那麼系统越复杂产生的风险就会越大；使用机器学习支持军事情报、监视与侦察或指挥系统时，也会产生错误：处理卫星图像的计算机视覺算法在识别威胁或潜在目标时出现错误就会导致分析情报出现错误，进而影响对战场环境的分析；用于机器翻译或自然语言处理的算法对关键情报信息分析出错那么被引入到分析和决策过程中的信息也会是错误的。此外对手还可能采取措施故意损害或干扰AI系统。

美國、中国和俄罗斯已经认识到AI对国家防御的破坏性甚至革命性影响正在积极寻求提升在军事领域应用AI的能力。2012年美国防部发布有关自主武器系统政策指令，指出必须将自主武器系统设计为“在发挥效力时允许指挥人员或者操作人员行使适当判断权利”。2017年初美国防蔀建立“算法战跨职能小组”，加快国防部整合大数据和机器学习的能力2017年夏天，中国发布“新一代人工智能发展规划”寻求发展AI在國防领域的应用，如制定指挥决策、解决军事冗余以及研发防御装备俄罗斯军方也在积极推进智能机器人研发相关方面的工作。

各国军方应努力寻求采取措施评估进而减轻AI在军事应用中产生的潜在风险

①强化对军事AI系统的安全性和完整性的测试，重点关注在开放性、不受控制的环境中可能发生的潜在错误或故障

②建立军事AI系统中的冗余系统，利用多种方法来检测错误和评估输出信息确保获取情报的嫃实性。

③研发自动防故障装置或“断路器”以在意外发生或风险升级的情况下允许系统自动解除故障。

④确保人工智能系统的“可解釋性”以减少决策争议。

张明月——中国国防科技信息中心

本文来自：国防科技要闻版权归原作者或机构所有