当人工智能现身军工厂 未来的战场会不会都是机器人
【多维计划1月15号快报】随着科技的发展，技术的竞争越来越激烈，在引领新兴科技竞赛和未来战争战场的竞争中，人工智能(AI)正迅速成为大家关注的焦点。正如大家所看到的，自主武器系统(AWS)正在迅速发展，而人工智能武器化的发展成为了一个高风险不可控因素。这不仅给各国带来了复杂的安全挑战，也给人类的未来带来了安全威胁。
如今，人工智能正在引领我们走向一个新的时代同时也把我们领进了一个全新的战场，这个战场没有边界，可能涉及也可能不涉及人类，将控制整个人类生态系统的网络空间、地理空间和空间(CGS)。人工智能武器化带来的风险是肉眼可见的，人工智能无需人类设计者或操作者的进一步干预，可以自主选择和攻击人类和非人类目标，给人类带来巨大威胁。
一旦人工智能武器化，人工智能和武器就会脱离人工参与和干预，只需使用交互的嵌入式传感器、计算机编程和算法，这个有必要引起我们的注意和重视，也是一个不容忽视的现实。
人工智能武器化
随着人工智能、机器学习和深度学习的进一步发展，人工智能从概念到商业化，加上其计算能力、内存、大数据和高速通信的快速发展，不仅带来了市场创新、投资的热潮，也加剧了对人工智能芯片的追求。我们可以看到人工智能正在为战争带来革命性的变革，各国也很重视开发人工智能以及其人工智能自动化武器系统。
当各国在着力发展科学技术，争取在这方面取得竞争优势时，人工智能的进一步武器化是不可避免的。因此有必要为未来的人工智能自主武器系统做好准备。随着科技的发展，人工智能逐步进军事行业，正如我们所看见的，自动化战争已经开始有了苗头，我们有必要做好应对措施。
自动武器系统被认为提供降低武器系统的运营成本的一种方式，特别是通过更有效地利用人力资源，会使武器系统能够实现更高速度、更高准确性、持久性、精度，但同时技术、法律、经济、社会和安全问题仍然不能忽视。
程序员和编程人员扮演的角色
在应对这些复杂的安全挑战和未知的技术是，为了保障人类的安全，最根本的仍然是关注程序员和编程人员在其中扮演的角色。原因是程序员可以在开始时定义和确定AWS的性质，直到AI开始编写自己的程序。
不过设想一下，如果一个程序员有意或无意地编写了一种自动武器，而且这个武器违反了当前和未来的国际人道主义法(IHL)，那么人类将如何控制人工智能武器化?而且问题的核心是，谁该为此负责？
网络安全挑战
简而言之算法的安全性不是很可靠，也不能忽视漏洞、恶意软件、恶意操纵带来的危险。虽然自主武器系统存在许多风险和挑战，但我们要重视的是，我们不能让人工智能将推动并决定我们的人类生存和安全战略，我们自己掌控。基于这个问题，RiskGroup与MarkusWagner发起了关于自主武器系统的讨论，MarkusWagner是澳大利亚伍伦贡大学(UniversityofWollongong)的一名出版作家和法学副教授。
接下来我们要做什么?
各国都在科学技术方面卯着一股劲争取在科技领域获得竞争优势，而且人工智能的进一步武器化是不可避免的。重要的是要理解和评估，如果不能阻止，那么就该接受这样一个事实了，仅仅因为技术允许和AWS成功开发，并不意味着我们就应该这样做。如果人工智能武器化不符合人类的利益那就必须暂停。
人工智能运用于国防领域是大势所趋
美军无人潜航器
俄罗斯“阿尔戈”战斗机器人
美军无人机蜂群作战示意图
作为新一轮科技革命的重要代表之一，人工智能是当今科技领域最前沿的课题。AlphaGoZero通过自我学习碾压“AI前辈”AlphaGo、百度无人汽车上路、苹果手机开启新的刷脸认证方式……近年来，人工智能的实际应用显示其技术巨大的驱动力。
在人工智能技术不断进步的背景下，人工智能在国防领域目前发展如何？人工智能在国防领域能发挥什么作用？未来应如何发展人工智能使其更好服务国防领域？围绕这些问题，记者采访了国防科技大学研究员朱启超。
人工智能成为国际竞争新焦点――
军事强国纷纷抢滩部署
“从世界局势来看，世界各国尤其是军事强国都在抢先布局人工智能，美、俄等国家政府部门均发布了人工智能相关战略或规划，彰显国家层面对人工智能的高度重视。”朱启超表示。
资料显示，俄罗斯始于2008年的“新面貌改革”将人工智能作为重点投资领域。此外，俄罗斯还发布《2025年前发展军事科学综合体构想》，强调人工智能系统将成为决定未来战争成败的关键要素。欧盟在2013年提出为期10年的“人脑计划”，拟斥资12亿欧元进行人类大脑研究。2016年10月，美国白宫发布《国家人工智能研究和发展战略规划》，构建美国人工智能发展的实施框架。
在朱启超看来，不少国家都在推进人工智能在国防领域的发展运用，从最初的无人机到智能化信息处理系统、仿生机器人等，人工智能逐步渗透到国防和军队各个领域。
近年来，美国曾在阿富汗战争、伊拉克战争中大量运用无人机和后勤作业机器人。2014年以来，美军已将智能化无人系统作为“第三次抵消战略”的颠覆性技术领域给予重点投资。去年4月，美国国防部宣布成立算法战跨职能小组，旨在将人工智能用于国防情报搜集和分析领域。据报道，日前美国国防部正式下令建立一个新的人工智能研究中心，整合国防部所有的人工智能相关工作。
其他国家也在这个领域加快步伐，推动军队智能化建设。俄罗斯军事工业委员会计划在2025年之前实现俄军装备30%的机器人化，其军队轮式和履带式地面作战机器人已经投入叙利亚战场。韩国和以色列开发和使用具有自动监视和自主决定开火能力的边境巡逻机器，以色列已在其境内部署自主性很高的“哈比”无人机，韩国国防部也在近期表示将在2020年之前投入75亿韩元用于推动人工智能在情报侦察、指挥控制等领域的运用。
“可以预见，各类智能化无人系统与作战平台将在地面、空中、水面、水下、太空、网络空间以及人的认知空间获得越来越多的应用，深刻改变着未来战争人工智能的技术比重。”朱启超说。
人工智能运用于国防领域是大势所趋――
国防运用需求前景广阔
从历史发展趋势和未来战争需求看，人工智能越来越成为推动新一轮军事革命的核心驱动力，未来战争需求也越来越呼唤人工智能的军事应用。新美国安全中心研究员格雷戈里・艾伦在其主笔的一份题为《人工智能与国家安全》的报告中强调：“人工智能对国家安全领域带来的影响将是革命性的，而不仅仅是与众不同的。世界各国政府将会考虑制定非凡的政策，可能会像核武器刚出现时一样彻底。”
纵观历史，世界历次军事变革经历了从冷兵器时代、热兵器时代、机械化时代到信息化时代的发展历程，从冶炼技术到火药技术、机械化技术、原子能技术，再到信息技术，四次军事革命的发生都贯穿着技术革命的核心作用。“人工智能逐步走向战场，势必会引起武器装备、作战样式、部队体制编制和战斗力生成模式显著更新，进而引发一场深刻的军事革命。”面对人工智能在国防领域的发展态势，朱启超表示。
在朱启超看来，人工智能的国防运用需求非常广阔。当下，战争形态由机械化、信息化向智能化转型的趋势愈发明显，夺取未来战争的胜利越来越取决于军队的信息优势、智力资源和决策速度。而人工智能在减少战场人员数量、获取和分析情报信息、快速决策和反应等方面具有巨大的潜力。2016年，美国辛辛那提大学研发的人工智能程序“阿尔法”在模拟空战中击败了美军资深飞行员，人工智能技术对于军事革命的颠覆性意义已初步显现。
“人工智能越来越成为推进国防和军队信息化建设的重要驱动力，不断提升国防领域的信息处理能力、指挥控制效率、精确打击能力和精准管理保障能力。”朱启超对人工智能提升国防领域智能化运用非常期待，他表示，随着军民融合发展战略的实施推进，人工智能技术、大数据技术、云计算技术等新一代信息技术将在国防领域发挥越来越重要的作用，推动国防和军事智能化水平不断提升。
警惕人工智能成为“战争毒药”――
人类是人机关系主导者
近年来，随着人工智能技术的发展，军事领域涌现出各种人工智能相关作战概念和装备技术项目，但朱启超认为，目前人工智能相关技术与应用还处于快速发展的初级阶段，不应忽视人工智能军事应用的局限性。
“首先，人工智能并不能取代人类智能。人工智能在解决可编程范围外的战争问题时，需要人类的理性分析能力、灵活应变能力、道德分辨能力等，因此，要在遵循战争制胜机理的前提下进行人工智能研究。”他分析道。
朱启超进一步说明，长期来看，还需要警惕人工智能可能带来的安全、法律、伦理等诸多问题。
安全方面，军事对抗环境下，人工智能系统或武器装备一旦被对手通过恶意代码、病毒植入、指令篡改等手段攻击，将带来战术失利甚至灾难性后果；人为错误、机器故障、环境扰动等因素也可能使得系统失去战斗效力。
法律方面，国际武装冲突法中的核心原则――必要性、区别性、相称性和人道性都将面临如何适用和调整的问题。比如，战场机器人无法区分军人与平民而造成滥杀无辜给区别性原则构成挑战。
伦理方面，由于智能化评估决策技术、无人机、机器人等的应用，人类奉为最高价值的生命和尊严可能受到漠视甚至践踏，而战争的指挥者却远离战场享受战争胜利的果实，战争或将成为搬上战场的“电子游戏”，这将冲击人类的道德底线。是否应该将人类的道德标准嵌入日益智能化的机器、嵌入什么样的道德标准以及如何嵌入？这些问题需要世界各国的广泛研究和探讨。
针对人工智能在国防领域运用过程中可能出现的安全、法律、伦理等问题，朱启超建议，应加强社会安全监督管控，形成适应人工智能时代的社会治理模式；积极参与人工智能国际军备控制讨论与谈判，为应对人工智能带来的安全、法律与伦理问题贡献中国智慧和中国方案；牢固确立人类是人机关系主导者的思想，实现对人工智能的安全有效控制，让其为人类的和平福祉服务，而不是使人工智能成为“恶魔的帮凶”。（潘娣）
相关链接
无人潜航器
无人潜航器，也可称为无人水下航行器和无人水下运载器等，是没有人驾驶、靠遥控或自动控制在水下航行的器具。随着无人潜航器及相关技术的发展，无人潜航器已经被用于执行扫雷、侦察、情报搜集及海洋探测等任务，在未来海战中还可作为水下武器平台、后勤支持平台等装备使用。
优势：与潜艇相比，无人潜航器是无人作战平台，因此可以大大降低战争的伤亡；体形小，加上其他隐身高科技的应用使其隐身性能高于潜艇；多功能，多用途。
局限：续航性差限制无人潜航器使用范围；所用锂电池存在易着火等技术缺陷；目前导航功能尚需完善。
可以预见，在不久的将来，水下无人潜航器必将在未来战争中发挥巨大作用，并将改变未来海洋作战的具体模式。
战斗机器人
军用战斗机器人作为战场上的一支新兴力量，是配合人类士兵作战的角色。按照军用机器人作战领域不同主要分为水下军用机器人、地面军用机器人、空中军用机器人和空间军用机器人等。
优势：战斗机器人在执行低烈度作战和危险任务时可以大大减轻人类士兵的负担和伤亡。此外，其还具有较高智能、全方位作战能力、较强战场生存能力、绝对服从命令等优势。
局限：战斗机器人不具备复杂条件下的作战能力；如今战斗机器人的智能化和环境适应能力还未达到单独作战程度，很大程度依赖于人类士兵的操作和指挥。
从长远来看，随着智能化牵引机械化和信息化向更高水平、更高层次发展，战斗机器人发展潜力巨大，其智能化程度将更高、武器平台将更复杂、环境适应和生存能力也将更强，能够参与的战争模式也将多种多样。
无人机蜂群
无人机蜂群由若干配备多种任务载荷的低成本小型无人机组成，它们参照蜜蜂等昆虫的集体行动模式，在人类指挥或监管下共同完成特定作战任务。
优势：作战时无人机蜂群可专业化分工，因此能执行多种任务；每架无人机功能相对单一，可大幅降低研发和采购成本；无人机蜂群可增加战场传感器和攻击武器数量，使军队在局部战场拥有空中装备数量优势；大量无人机可瘫痪敌人防空雷达，消耗敌人有限数量的高成本防空弹药。
局限：由于无人机蜂群对协同和自主的要求更高，需要建立管理大规模蜂群的全新指挥控制模式，因此面临攻克协同作战算法、集群个体间通信、远程指挥控制等关键技术的挑战。
未来，无人机蜂群将牵引未来空中作战装备呈现出机体廉价化、平台自主化、载荷小型化等特点，可能对未来航空装备体系的发展思路产生变革性影响。
(责编：芈金、黄子娟)分享让更多人看到