自主机器人杀手——未来武器系统的军事与道义内涵

这种武器系统如果有朝一日得到部署或使用在实际作战领域，它在道义层面所产生的冲击和效应可以说将令人“不寒而栗”。

自主机器人杀手(lethal autonomous robots, LARs)指的是一种机器人武器系统，一经启动，即可在无需人类操作员进一步干预的情况下选择和打击目标。有能力生产自主机器人杀手的政府在正式声明中表示目前不考虑在武装冲突或其它场合使用这一系统。然而，这种武器系统如果有朝一日得到部署或使用在实际作战领域，它在道义层面所产生的冲击和效应可以说将令人“不寒而栗”。为此，联合国法外处决、即决处决或任意处决问题特别报告员克里斯托夫·海恩斯(Christof Heyns)在向人权理事会提交的最新一期报告中着重地论述了自主机器人杀手在未来战争与和平时期所构成的军事和道义方面的挑战。请听联合国电台记者李茂奇的报道。

机器人往往被称为建立在感知-思考-行动模式上的机器：它们具有传感器，使之具有一定程度的情景意识；有处理器或人工智能，对特定刺激“决定”如何反应；有效应器，实施上述“决定”。处理器赋予机器人的自主程度可以视为一个连续统一体，一方面有显著的人为干预，另一方面又有充分的自主权。

机器人的进化被称为军事方面的下一场伟大革命，与火药和核弹的出现相当。自主机器人杀手这种武器系统一旦启动，就可以无需人力干预而选择和打击目标。这种武器系统引发了人们对于战争与和平时期保护生命的严重关切，包括在多大程度上可为其制订符合国际人道主义法律和国际人权法下保护生命标准的程序。联合国法外处决、即决处决或任意处决问题特别报告员海恩斯5月30日在向人权理事会呈交其有关自主机器人杀手的报告时表示，人们在考量这一革命性的武器系统时，需要时刻从生命权的角度去进行思考。

海恩斯：“没有国家目前正在使用这种可以被归类为‘自主机器人杀手’的、能够完全‘自主操控’的自动武器，但是相关技术已经存在，或者说很快就能成熟使用。尽管一些在该领域极为活跃的国家已经承诺不会在可预见的未来使用此类机器人，但非常强大的力量、包括科技和预算，却在朝着相反的方向将其向前推进。”

虽然具有充分自主杀伤力的机器人的研发绝大多数是保密的，这种机器人也尚未得到部署。不过，具有不同自主程度和杀伤力的机器人系统目前已经投入使用，包括：美国的“宙斯盾”巡洋舰的“方阵”系统自动发现、跟踪和打击反舰导弹和飞机等防空作战威胁；以色列的“哈比”自主武器系统，用来探测、攻击并摧毁雷达发射器；英国雷神喷气式无人战斗机样机可以自主地对敌人进行搜索、识别和定位，但只有在得到任务指挥官授权时才能攻击目标；三星Techwin 监控及保安机器人部署在朝鲜和韩国之间的非军事区，它通过红外传感器探测目标，目前是由人类操纵的，但它有一个“自主模式”。

海恩斯指出，尽管有能力生产自主机器人杀手的政府表示目前不会考虑在武装冲突或其它场合使用这一系统，但人们不应当忘记，飞机和无人机最初在武装冲突期间使用时也只是用于侦察目的，不考虑为进攻性目的使用。后来的经验表明，一旦相关技术日臻完善，最初的考虑和保证往往被抛掷脑后。他表示，这种武器系统令人望而生畏的一点是，似乎无法为其制订充分的法律问责体系，此外机器人将可以操纵人的生死这一点也给人们的道德观念带来了冲击。他指出，全自动机器人能够行使对人类的生杀大权这一前景引发了人们的各种额外关切。

海恩斯：“自主机器人杀手的可能引入对战争与和平时期保护生命的问题提出了意义深远的关切。这包括机器人是否将使国家更容易介入战争以及在多大程度上机器人可以设定程序，使其遵守国际人道主义法的要求，特别是区分战斗人员和平民以及如何根据对称原则做出回击。自主机器人杀手还可以被那些具有压制性的政府用于压制国内的反对派人士。”

海恩斯在提交给人权理事会的报告中指出，由于武器库中拥有自主机器人杀手的国家在武装冲突中的人力成本较低或降低，随着时间的演变，国家政策可能越来越超脱，将使用武力的决定作为一个主要是该国财政或外交上的问题，导致武装冲突的“正常化”。这样一来，自主机器人杀手就会降低国家开战或使用致命武力的门槛，使武装冲突不再是最后的选择手段。

海恩斯同时指出，在谈到自主机器人杀手时，常常会使用“无风险战争”或“无伤亡战争”等说法。这似乎是说，只有拥有技术的那些人的生命才算是命，这就使人们对部署这一技术产生深层次的关切，即没有技术一方者的权利和命运受到了忽视。自主机器人杀手代表着终极不对称状况，即在有些情况下，有可能让机器人杀手与敌方的普通士兵对抗，换句话说，自主机器人杀手有可能将武装冲突的风险转移到敌人和敌对方的平民身上。

海恩斯指出，在当前设想的情景下，人至少仍会是提供决策的一部分：由人将最终目标设计到机器人系统中，并决定启动或在必要时加以拆除，而自动化武器将把这些目标翻译成任务，并在无需进一步人力干预的情况下加以执行。他指出，有监督的自主意味着“人在发挥作用”，由人进行监督，并可推翻机器人的决定。但是，这种推翻的力量在现实中可能是有限的，因为机器人的决策程序往往以毫微秒计，而监管者可能不一定掌握据以作出这些决定的资讯事实。在这种情况下，人事实上处于决策之外，这样一来，机器在事实上就成为自主机器人杀手。然而，“人为”因素在许多情形下却是一种有利条件。

海恩斯：“拥有自主机器人杀手技术的国家发现将人拿出‘决策之外’非常有吸引力，因为人的决定过程往往比机器人要慢得多。在一些情况下，人会处于恐惧而犯错误，或是迫使去采取一些报复或是残忍的行动。但与此同时，人在一些情况下，与机器人不同的是，还会出于同情或恩典采取行动。人可以根据他们对事物更深层次意义的理解，了解到在特定的情形下，如当一个士兵已经投降，他应该采取更加宽容的办法。”

海恩斯指出，实践证明，使用具有绝对优势的武力会起到反作用。自主机器人杀手这种不知疲倦的战争机器，随时一按按钮就可以投入使用，会带来武装冲突永久化的危险，并杜绝战后重建的机会。他指出，拥有自主机器人杀手国家相对于它国的优势也不一定是永久性的。这类系统有可能扩散，不仅是扩散到首先使用国予以转让和出售的那些国家。其它国家也有可能开发自己的自主机器人杀手技术。他指出，自主机器人杀手还可能被挪用、被黑客攻击并被欺骗，有可能被犯罪组织或私人个人等非国家行为者截获，并针对国家或其它非国家行为者包括平民使用；它还有可能发生故障，带来灾难性后果。此外，相关技术的发现还可能会刺激新的技术产生，可能开启更大的“潘多拉之盒”。海恩斯表示，人权理事会应呼吁全体国家宣布并在国内至少暂停测试、生产、组装、转让、采购、部署和使用自主机器人杀手，直到建立一个关于自主机器人杀手未来的国际商定的框架。