近年来,以无人机为代表的智能武器系统获得了长足的发展,日渐成为战场上一支不可忽视的重要力量。但随着无人化兵器数量的增多和人工智能技术应用的不断深入,相关的伦理和法律问题也随之而来。我们究竟应该如何面对这种变化,自主武器系统会否造成灾难,机器的失误又应该由谁来埋单?今年年初,一架如同普通民航客机大小的无人飞机从美国加利福尼亚州沙漠中悄然跃起,迅速消失在天际。这款名为“全球观察者”的无人侦察机是全球最大无人机生产商美国航空环境公司研发的最新产品。其最大飞行高度可达19800米,超过目前大部分防空导弹的观测范围和射程;侦察范围高达72.5万平方公里,能轻松获得整个阿富汗全境图像;一次飞行留空时间可长达一周,能直接充当部队间的通讯中转站,功能足以媲美卫星。
虽然有消息称,4月该机在美国加利福尼亚州的爱德华兹空军基地发生坠毁,但却丝毫没有动摇美国推进无人化兵器和机器人武器的步伐。据报道,目前被美军列入研制计划的智能化军用机器人已超过100种,到2015年前后,无人化兵器在其作战平台中的比例将达到三分之一。英国、法国、俄罗斯等主要发达国家也有类似的计划,项目总数也有数十种之多。随着信息化技术和人工智能技术的发展,武器系统的无人化和智能化已形成一种趋势。
“机器战士”的崛起
“长眼睛”的杀戮武器
——“密集阵”系统与自动机枪
由美国研发的“密集阵”系统(Phalanx system)和以色列研发的机枪塔(IDF)便是初级智能武器系统的代表。
目前“密集阵”近防系统已成为包括美国在内的多国海军舰载防御系统的重要组成部分之一,它能够实现自动搜索、探测、评估、跟踪、锁定和攻击威胁目标(如反舰导弹、水面水雷、小型飞行器等)。而以色列的机枪塔则曾部署在与巴勒斯坦交界的加沙地带,这种自动机枪可以在无人值守的情况下自动识别目标并开火。据称韩国2009年也公布了类似的自动武器,能够在3公里开外侦测人形物体,并完成自动瞄准和射击。
但这样的自动射击武器还算不上足够智能。一名以色列指挥官在接受美国《防务新闻》杂志采访时表示,这种机枪的部署仍处于最初阶段,是否开火仍需操作人员下达命令。
六轮式无人战车——“粉碎者”
相对于上面的几种自动火器,下面要介绍的战车则要先进的多。由美国陆军与国防部高级研究计划局出资,卡耐基梅隆大学机器人研究所负责研制的这种六轮式无人战车用时5年,耗资3500万美元。你也可以将其看作是一种轮式机器人,它能够自己选择穿过战场的道路。这种名为“粉碎者”的战车重约6吨,每个轮子中都安装有电动机,采用混合动力系统。在靠电池动力执行任务时,车辆悄无声息,不易暴露。其最新的原型,被称为自行行动平台(APD),载重高达9吨,最高时速可达80公里每小时。
APD能够自行运动的关键在于一种自我导航的装置。首先,它会从服务器中下载一个诸如谷歌地图那样的卫星地图作为基本参照。启动之后,它所具备的3D摄像机会立即建立周围环境的三维图像,从而可以计划出一条更为详细的线路,以绕开障碍物。而对于附近的地形,车厢会通过激光精确测试,从而对路线进行微量调整。其有效荷载主要包括侦查系统和武器系统。可深入到不便人类前去的危险地带。
美国APD技术主要研发人员,迪米·阿波斯托洛斯说:“这听起来可能会比较奇怪,但是我们相信机器人技术将改变整个战争形态,这点毫无疑问,将有无数的人因此远离艰苦的战场环境。并且我认为这对战争双方都是好事情。”
四足全地形机器人——“大狗”
“大狗”——顾名思义,是一个从外形上看起来与一只大型犬类似的机器人。这项研究同样是由美国国防部高级研究计划局资助的,而负责研制的则是波士顿动力学工程公司。
与“粉碎者”不同,“大狗”主要靠四肢移动和行走。其四条腿完全模仿动物的四肢设计,内部安装有传感器和特制的减震装置,能够让其自动保持平衡。机器人的长度为1米,高70厘米,重量为75千克,动力来自一部带有液压系统的汽油发动机。“大狗”的内部还安装有一台计算机,可根据环境的变化不断调整行进姿态,操作人员也能够实时地跟踪“大狗”的位置并监测其系统状况。
该机器人的行进速度可达到7千米/小时,能够攀越35度的斜坡,可携带重量超过150公斤的武器或其他物资。它即可以自行沿着预先设定的简单路线行进,也可以进行远程控制。
“大狗”特殊的体形和行进方式,能使其在战场上发挥重要的作用:在交通不便的地区为士兵运送弹药、食物和其他物品;它不但能够行走和奔跑,而且还可跨越一定高度的障碍物。研究人员形容它能够“像只无头山羊一样在崎岖的山路上一路小跑”。
速度超过人类的奔跑机器——“非洲猎豹”
这款名为“非洲猎豹”的机器人普遍被认为是“大狗”的升级版。据英国《每日邮报》报道,由波士顿动力学工程公司为美国军方研制的这款专门以奔跑为目的的机器人,奔跑时候的时速可达113公里。这种四足机器人拥有灵活的颈椎和头部,能够完成疾速奔跑、急转弯、折返跑等动作,能适应各种复杂地形的作业。和“大狗”一样它同样能够在战场上承担为士兵运送弹药、食物和其他物品的任务。研究人员称,其最初的模型将在20个月内问世,奔跑速度将超过人类。
能“自作主张”的智能武器
对于空战中的飞行员来说,如正面遭遇敌机,无需任何思考最明智的举措就是发起攻击。但是2002年12月,一架美国“掠食者”无人机在成功瞄准一架伊拉克的米格战斗机时却没有任何反应,最终被对方击中,坠落在了伊拉克南部的沙漠里。这一事件已被认为是无人机(UVA)与传统载人战斗机空战的一个典型案例。那么“掠食者”无人机为什么会“愣神”呢?原来,美英的无人机大都由数千公里之外,远在本土的地面控制人员遥控。信号由地球这一端传到另一端时往往都存在信号延迟的问题。这个时间一般有四分之一秒甚至更长。这意味着在那个瞬间,避开导弹几乎是完全不可能的,除非无人机自己做出判断。无人机外,其他遥控类无人武器其实也存在着类似的情况。
这就为研究人员提出了一个问题——为什么不让机器人自己照顾自己?
上面提到的几种武器系统和机器人虽然都是智能化、自动化系统,但仍然不能满足这个要求,算不上自治系统。它们就如同自动售卖机一样:只有在你投币并按下选择按钮后,机器才会送出相应的饮料。“密集阵”系统和自动机枪也是类似的,当雷达或是其他探测器上出现制定的目标时就会激活系统,之后实现自动瞄准射击。
自治系统则是另一个概念,这种系统能够执行更为复杂的任务,能够从数以千计的环境信息中识别出自己需要的信息。它的输入状态是近似于无限的,而最终结果由特定的计算机程序做出。有科学家认为这几乎与人类做决定程序没有什么区别。
而在目前的智能机器人和武器系统中,真正能担此重任的似乎只有英国研制的下一代无人机Taranis。由于严格的保密措施,其具体实现方式目前还不得而知。但从早先公布的消息中,我们能够知道的是它安装有最新的隐形设备和高度自主的人工智能系统。
该无人机由BAE系统公司与劳斯莱斯公司和GE Aviation等公司联合研制,前后共花了4年的时间。成本高达1.43亿英镑(2.33亿美元)。该无人机无需地面指示也能自行运作,可深入敌方领土收集情报或投放各种弹药,此外还能防卫自身受其他有人和无人敌机的攻击。专家表示这款飞机的设计代表了世界科技的最前沿,以Taranis为原型的相关研究,将助推智能无人机系统更快的发展。曾在2005—2007年间担任英国国防采购大臣的罗德·雷森称,Taranis“几乎不需要操作人员输入指令”。
Taranis只是一个大型自我防卫系统的一个例子:这些武器可以不依赖任何来自人类的输入而自行做出决定,这或许会完全改变目前的战争形势。由于其高效率、低伤亡(甚至无人员伤亡)的特性,以英美为主要代表的发达国家正在大力对其进行发展。
但是在这些自制武器系统炫目的技术之后却隐藏了巨大的伦理和法律问题。大部分的国家都受到战争法的约束,这些法规约束了战争中国家战斗员的行动。在战争法的规章下,无人战斗航空载具的研发引起了广泛的问题,因无人战斗航空载具一旦投入战争,没有任何现有法律可向其所进行的攻击追讨责任,它们只按照程式行动,不是由人类直接操纵,在此问题上各国一直没有共识。美国五角大楼还曾发表一份未来战争的报告认为,未来战争的“主角”将是具有人类思维水平的机器人部队。
目前的消息是,英国皇家空军装备了5架“死神”无人机,并另外订购了5架。而美军则更为超前,五角大楼计划进一步增加由“死神”和“捕食者”以及其他多用途无人机的数量,到2020年,这一机群的数量将从目前的300架增加到800架。此外,美军还把阿富汗作为无人机的试验场,用新式无人机来收集阿富汗邻国的导弹试射数据,并同时测试新式无人机的作战效能。
谁为机器的失误埋单
美国联军司令部的戈登·詹森对军事机器人有句名言:“它们不会饥饿,不会害怕,但会牢牢记住自己的使命。”
这句话很容易让人联想起1986年上映的电影《霹雳5号》中那位制造霹雳5号的科学家的话——“它不会感到恐惧,没有欢乐,也不会伤心,它只按程序运行。”但在那部电影中,霹雳五号却选择了擅离职守。
如果在现实中,军事机器人发生故障或出错会怎样?虽然现在的机器人距离科幻小说中所描述的复杂机器人还有很长一段的路要走,但军方已经在考虑如何面对潜在的风险。
2010年6月,美国空军首席科学家沃纳·达姆发布了《“技术地平线”报告》,在该报告中,他表示拥有自治系统的无人飞行器在未来的空战中作用已经显现,但其必须经过验证与确认(V&V认证)以确保其可靠性。自阿波罗计划后,军事系统的认证方法从未改变。这也就是达姆所说的“极限测试”。即需要对系统中每一个可能出现的极限状态进行测试,直至获得百分之百的确认。目前,美国一半以上现代战斗机仍然需要通过软件进行这样的模拟测试。
不过当面对具有无限输入可能的高度自治机器人时,V&V认证几乎是不可能的。虽然借助先进的计算机模拟技术可以让V&V认证更加容易,但最终无论如何也无法实现100%的认证。但为了将其投入使用,你又不得不让其以99.99%或者更低的认证成绩通过。这就为今后的事故问责埋下了伏笔。
系统工程师以及律师克里斯·埃利奥特说,如果一台机器在执行任务的时候自行攻击了一辆救护车而非坦克,这算谁的过错,应该向谁兴师问罪?
谢菲尔德大学人工智能教授诺埃尔·夏基说,目前的自主机器人还无法准确区分平民和战斗人员,但这是国际法和国际人道主义的基石。他还强调,即便是具有人工智能的机器人,也会缺乏人类所拥有的一种微妙的判断和拿捏能力——如何在获得军事优势的前提下最大限度的避免平民伤亡。因为,即便是在战争中,不必要的杀戮也是可耻的。
据此,英国国防部的一位发言人称,在可以预见的未来里,英国还是会保留经过适当训练的操作人员直接参与无人机的操作任务。达姆相信,美国空军也有着类似的看法,虽然在最新的无人机计划中并没有提及这一点。他说,其实并非人类一定要直接操控机器人,而是需要有人参与进来对整个任务过程进行监控,并在关键时刻保留决定权。因为,随着AI(人工智能)技术的发展,甚至可以将一定的战斗决定权交给机器人而无需人类的输入。至于是否授权采用致命打击则取决于政治或军事领导人对法律和伦理问题的理解。
美国海军研究办公室2008年的一份文件也承认,在自治机器人上有伦理和法律障碍。这份文件中称,“明智的做法”是为自主机器人编入至少与人类士兵一样的伦理程序,虽然即使这样“意外也有可能发生”。但这至少将其纳入了法律范畴。这份报告还指出,或许某一天这些自主机器人也会和未成年儿童一样被指派一位“法定监护人”。
纽约大学计算机学科学家罗布·亚历山大则表达了不同的看法,他说:“这一步或许有些太远。一台机器无论如何也无法承担法律或道德责任,在可以预见的未来里都是如此,我们不是在谈论电影《星际迷航》里面的机器人。这些责任必须由操作者或设计者来承担。”
真正的风险仍在于人
除了智能机器人可能犯下的错误外,另外还需要注意到的一点是:这些高科技武器的出现和发展不但改变了现代战争的局面也提供了一种新的“低成本、低消耗”的战争方式。
英国谢菲尔德大学的人工智能与机器人技术教授诺伊尔·萨基说,这可能会降低战争的门槛。此前对战争发起者而言压力最大,也是在抑制战争上非常重要的一个因素就是死亡人数,但在无需人员直接前往前线的机器人战争中,这一切将变的不再重要。
进入二十一世纪以来,当无人机的机腹被挂上导弹和其他武器后,无人机的主要任务也由侦查转向了攻击。这让发动战争变的更加容易,因为相对于昂贵的载人战斗机,无人机有效而且相对便宜。有机构统计显示,有关无人机的国防支出已经成为世界航空工业最有活力的部分。根据2011的市场研究估计,未来十年内全球有关无人机的支出或将实现翻番,达到940亿美元。南加州大学法学院教授玛丽·杜齐亚克称,无人机计划在技术层面上,使美国人不愿寻求和平解决方法,而更易沉迷于战争,并最终陷入无尽的战争漩涡之中。对于其他无人化武器系统而言,上述两点同样适用。
英国杜伦大学人类地理学专家史蒂芬·格雷厄姆在《被围攻的城市:新军事城市》一书中说,而真正的危险在于,自助式机器人将减少发动战争的政治成本,从而使其不再成为最后的手段。此外,说这些自主机器人将让现代战争的战场进一步由旷野转移到城镇,因为那里有更多的建筑可供藏身。
近年来,无人机计划在美国的应用也证明了这一点。2008年美国时任总统布什秘密授权美国中央情局在巴基斯坦境内使用无人机捕杀恐怖嫌疑人。从而违反了1976年由福特总统签署的美国情报部门不得从事暗杀活动的行政命令。此后,华盛顿有越来越多的政客倾向于支持无人机作战,并宣称与其派遣大量的军队前往阿富汗等热点地区,还不如利用高科技手段、采用外科手术式定点清除基地首领及其盟友。奥巴马上台后,无人机在巴基斯坦的攻击频率变的越来越高,相对于2008年的25次,在奥巴马上台后的2009年袭击次数增加了3倍,而死亡人数也从不足200人上升到700人。今年年初以来,美军无人机就在巴基斯坦境内发动袭击43次,打死400多人。而死亡者中只有不到2%的人能够被有效证实为基地组织或相关团体的头目,其余更多的只是小喽啰和平民。
达姆说,即便如此自主系统在军事领域还是具有很多迫在眉睫用途,在这些领域中它们比人类更仔细、更勤劳、也更精确。卫星就是一个很好的例子,具有自治程序的卫星能够在无需人们监管的情况下自动寻找和识别目标,并将其图像及时传回地面。事实上,目前在军事指挥系统中已经采用了很多具有自治因素的软件系统,例如在组织和部署军需品问题上。这样的程序能够完成不少繁重、又要求精度高的任务。随着时间的推移和的技术的逐步完善,今后战争最初阶段的战术决策也有可能交由电脑程序控制。
不少人的自然反应或许是,这为科幻片中所描述的具有自主意识的机器人统治世界铺平了道路。但这些人或许并没有看到这一点:在这个世界里,最应该让人担心的应该是那些血肉之躯,而非这些金属和回路。夏基说,总之我不认为我们会走上终结者式的世界,那些机器人被描写的太过聪明了。