近日,美国智库新美国安全中心(CNAS)发布题为《战场“奇点”:人工智能、军事变革和中国未来军力》报告,关注解放军在人工智能军事化应用上的发展动向,包括在人工智能上的发展和实施战略,并对如何确保美国在人工智能领域的军事与战略竞争力提出建议。
作为战略竞争中的一个关键领域,人工智能正在迅速升温。美国领导人曾表示,人工智能是国防部重振军事技术优势的重要组成部分。2016年,美国先后出台了三份关于人工智能的报告:《国家人工智能研究和发展战略规划》,《为人工智能的未来做好准备》以及《人工智能、自动化与经济》。其他国家也同样注意到人工智能的变革潜力。2017年7月,中国发布了国家层面的人工智能发展规划。9月,俄罗斯总统普京表示,“谁成为人工智能领域的领先者,谁将成为世界的统治者”。
一、报告关注解放军在人工智能上的发展动向
尽管美军在信息时代战争的关键技术上拥有先发优势,但是对于未来战争不可或缺的人工智能,中美之间孰先孰后可能还仍有争议。解放军正寻求在重大颠覆性的人工智能军事化应用上取得进步。公开资料透露解放军在思维和进展上呈现出以下态势:
▲深度学习技术及应用国家工程实验室在百度揭牌
中国高层重视人工智能及在军事上的应用。中国领导人正在推进军民融合创新驱动发展战略,计划到2030年成为世界主要的人工智能创新中心。虽然中国面临一系列挑战,比如人力资本严重不足,而且中国目前在前沿研究上仍然落后美国,但中国重要的体制和组织优势,比如在资金投入水平、潜在人才资源和数据量级等方面,或将为人工智能的快速崛起和未来发展提供支撑。人工智能在中国军民融合中的优先级很高,让解放军得以充分利用私营领域的技术进步来增强军事能力。
▲科大讯飞发布人工智能最新技术产品
解放军谋划利用人工智能打赢“智能化”战争。解放军关于在战争中使用人工智能的初步想法有受到对美相关分析研究的影响,但解放军可能会逐步走上不同于美国的发展道路。解放军预计,人工智能的出现会从根本上改变战争特征,引起从当今“信息化战争”向未来“智能化战争”的转变,届时人工智能将是军事实力的关键。解放军可能会利用人工智能来提升以下能力:发展智能和自主无人系统,如使用“蜂群”来攻击并突破美军航母的防御;基于人工智能的数据融合、信息处理和情报分析;推演、模拟和训练;信息化战争中的攻、防及指挥;以及对指挥决策的智能支持。这可能是解放军战略思路发生重大转变的开始。解放军正寻求“跨越式发展”来取得战略前沿技术的决定性优势。在人工智能的发展思路中,可能会继续存在类似早期发展“杀手锏”武器时的非对称思维。但中国在人工智能领域不再处于技术劣势,因此倾向通过军事创新来“弯道超车”,从而取得优势,抢占未来军事竞争“制高点”。
▲中国电科完成119架无人机集群飞行试验
在人工智能领域解放军将挑战美军现有优势。鉴于中国在人工智能技术上有潜力赶上或超越美国,美军必须将解放军视为真正旗鼓相当的对手,重新评估美中军事和技术竞争的本质,而且需要了解解放军的思路和进展。比如有解放军思想家就预测战场会出现一个“奇点”,即人脑认知再也无法跟上未来战争的作战节奏和决策速度。在认识到人机协作的重要性后,解放军可能会减少对“人脱离决策过程”的排斥。未来,解放军在人工智能上的军事化将影响军事变革的轨迹,对美国造成罕有的战略挑战。
二、对美国政策和战略的建议
美国应采取以下措施,确保人工智能领域的军事与战略竞争力。
1. 明确战略挑战
●美国的国防创新计划和竞争战略应关注解放军在人工智能军事化应用上的战略思维和进展。“第三次抵消战略”及相关计划包括Maven项目,必须考虑到解放军在人工智能军事化应用上的进展及不对称性。为展开竞争并应对中国的进步,美国应通过比如网络评估办公室来研究跟踪中国国防创新体系的活动。
●国防部应支持开展相关演习、推演和作战研究,以考察不同战略与组织文化下对手的人工智能军事化应用和潜在战场影响。国防部应加大力度评估人工智能在战争中的短/中/长期应用,重点研究新技术与不同军队不同战略文化和组织活力之间的相互关系,以及人工智能对盟友协同的影响。
2. 制定长期国家战略,支持人工智能领域决定性因素的发展
●美国必须保护关键战略技术,但也要清楚技术扩散的必然性。为减少中国利用国外资源支持国内创新的努力,首先是限制人工智能及其他新兴技术的非法转让,比如提议中的美国外资投资委员会(CFIUS)改革。应规范美国公司与中国在人工智能上的接触,比如限制机器学习芯片等相关核心硬件的转让。然而,在全球化、网络化背景下,很难控制知识技术及人员的扩散与流动,而且前沿研究大多数发生在私营领域。为此,在监控减少非法技术转让的同时,美国需要避免造成预期外的经济后果或破坏自身创新体系的活力。此外,中国的自主创新能力进步较快,即使完全限制了技术转让和扩散,仍对美国构成战略挑战,所以除了控制技术转让,美国还需要一项更全面的战略。
●美国政府必须资助基础与应用研究。美国在基础研究上的投资一直在下滑。比如2018财年预算申请中,要求国家科学基金会将智能系统经费削减10%至1.75亿美元。美国需要保证充足的科研经费,避免“创新预算不足”。未来,美国应维持并扩大在人工智能技术上的投资,将重大应用和长期研究作为重点。同时,DARPA、IARPA、In-Q-Tel和“国防创新试验小组”(DIUx)应加大力度并协调开展支持人工智能相关能力研发和部署的工作。陆、海、空军研究实验室也可以扩大高级研究领域,为作战人员提供新的作战平台,尤其应优先研发可反制或利用对手人工智能的新技术。
▲DARPA举办机器人挑战赛
●美国政府应寻求推动人工智能领域的公私合作。国防部应维持并加大力度建立更密切的公私合作关系,如DIUx。可能还需要改革现行的采办方法,以获得更大的灵活性。此外,国防部还应研究设立奖金,为人工智能专家和技术人员进入政府从事短期工作创造灵活“入口”。
●美国必须争夺全球的顶尖人才,同时重视教育和培训。美国必须投资教育并吸引和招募一流人才来提高人工智能领域的竞争力。可增加三军研究实验室经费来雇用和保留顶尖级人才。为建设强大的人才成长通道,确保人工智能的未来发展,还应支持拓展教育规划,并为人工智能领域的学生提供奖/助学金支持。比如扩大现有的STEM教育计划。
3. 降低升级失控的风险,确保战略稳定性
●国防部应设立一个工作组,召集私营部门、国家实验室和军种研究实验室等机构的军事与技术专家,评估美军和潜在对手将人工智能用做军事用途的潜在风险,包括对危机稳定和升级的影响。该工作组应解决人工智能相关的作战风险问题,并就如何减轻风险提出建议。应利用各方专家意见建立一个威胁模型,该模型应考虑到人工智能军事化应用的潜在意外及相关后果,比如预期外的错误或被敌方操纵等。工作组还应评估发展不同形式“反人工智能”能力的风险与优势。
▲谷歌宣布从移动优先转向为AI优先
●国防部应制订有关流程和正式机制来测试人工智能的可靠性及预测潜在意外。国防部应确立一种标准化、协调的方法来确保人工智能系统的安全性和可靠性,包括部署前的测试和使用多种方法验证结果。该机制应探索发展针对人工智能系统的用于错误识别与纠正的技术机制,以及“断路器”或自动防故障装置。
●国防部应考虑在中美之间就人工智能和其他颠覆性技术进行接触和对话。在战略竞争加剧的背景下,大国不太可能接受对未来军力至关重要的能力进行限制。尽管再三担心“杀手机器人”的风险,但完全禁止可能是不行的。各国军队在遵守潜在准则方面会有所不同。人工智能的军事化应用将让各国军队获得新的能力,但也将产生新的弱点,可能会破坏稳定,加剧出现不可控甚至意外升级的风险。不同军队之间在人工智能发展思路和作战运用上会存在重大的不对称性,将加重误判或采取预期外行动的可能性。应采取务实的方法,注重解决各国普遍希望解决的问题。中美俄仍需要共同致力于战略稳定性,意识到意外升级的风险。