自主機器人殺手——未來武器系統的軍事與道義內涵

這種武器系統如果有朝一日得到部署或使用在實際作戰領域，它在道義層面所產生的衝擊和效應可以說將令人「不寒而慄」。

自主機器人殺手(lethal autonomous robots, LARs)指的是一種機器人武器系統，一經啟動，即可在無需人類操作員進一步干預的情況下選擇和打擊目標。有能力生產自主機器人殺手的政府在正式聲明中表示目前不考慮在武裝衝突或其他場合使用這一系統。然而，這種武器系統如果有朝一日得到部署或使用在實際作戰領域，它在道義層面所產生的衝擊和效應可以說將令人“不寒而慄”。為此，聯合國法外處決、即決處決或任意處決問題特別報告員克裏斯托夫·海恩斯(Christof Heyns)在向人權理事會提交的最新一期報告中著重地論述了自主機器人殺手在未來戰爭與和平時期所構成的軍事和道義方面的挑戰。請聽聯合國電臺記者李茂奇的報導。

機器人往往被稱為建立在感知-思考-行動模式上的機器：它們具有感測器，使之具有一定程度的情景意識；有處理器或人工智慧，對特定刺激“決定”如何反應；有效應器，實施上述“決定”。處理器賦予機器人的自主程度可以視為一個連續統一體，一方面有顯著的人為干預，另一方面又有充分的自主權。

機器人的進化被稱為軍事方面的下一場偉大革命，與火藥和核彈的出現相當。自主機器人殺手這種武器系統一旦啟動，就可以無需人力干預而選擇和打擊目標。這種武器系統引發了人們對於戰爭與和平時期保護生命的嚴重關切，包括在多大程度上可為其制訂符合國際人道主義法律和國際人權法下保護生命標準的程式。聯合國法外處決、即決處決或任意處決問題特別報告員海恩斯5月30日在向人權理事會呈交其有關自主機器人殺手的報告時表示，人們在考量這一革命性的武器系統時，需要時刻從生命權的角度去進行思考。

海恩斯：“沒有國家目前正在使用這種可以被歸類為‘自主機器人殺手’的、能夠完全‘自主操控’的自動武器，但是相關技術已經存在，或者說很快就能成熟使用。儘管一些在該領域極為活躍的國家已經承諾不會在可預見的未來使用此類機器人，但非常強大的力量、包括科技和預算，卻在朝著相反的方向將其向前推進。”

雖然具有充分自主殺傷力的機器人的研發絕大多數是保密的，這種機器人也尚未得到部署。不過，具有不同自主程度和殺傷力的機器人系統目前已經投入使用，包括：美國的“宙斯盾”巡洋艦的“方陣”系統自動發現、跟蹤和打擊反艦導彈和飛機等防空作戰威脅；以色列的“哈比”自主武器系統，用來探測、攻擊並摧毀雷達發射器；英國雷神噴氣式無人戰鬥機樣機可以自主地對敵人進行搜索、識別和定位，但只有在得到任務指揮官授權時才能攻擊目標；三星Techwin 監控及保安機器人部署在朝鮮和韓國之間的非軍事區，它通過紅外感測器探測目標，目前是由人類操縱的，但它有一個“自主模式”。

海恩斯指出，儘管有能力生產自主機器人殺手的政府表示目前不會考慮在武裝衝突或其他場合使用這一系統，但人們不應當忘記，飛機和無人機最初在武裝衝突期間使用時也只是用於偵察目的，不考慮為進攻性目的使用。後來的經驗表明，一旦相關技術日臻完善，最初的考慮和保證往往被拋擲腦後。他表示，這種武器系統令人望而生畏的一點是，似乎無法為其制訂充分的法律問責體系，此外機器人將可以操縱人的生死這一點也給人們的道德觀念帶來了衝擊。他指出，全自動機器人能夠行使對人類的生殺大權這一前景引發了人們的各種額外關切。

海恩斯：“自主機器人殺手的可能引入對戰爭與和平時期保護生命的問題提出了意義深遠的關切。這包括機器人是否將使國家更容易介入戰爭以及在多大程度上機器人可以設定程式，使其遵守國際人道主義法的要求，特別是區分戰鬥人員和平民以及如何根據對稱原則做出回擊。自主機器人殺手還可以被那些具有壓制性的政府用於壓制國內的反對派人士。”

海恩斯在提交給人權理事會的報告中指出，由於武器庫中擁有自主機器人殺手的國家在武裝衝突中的人力成本較低或降低，隨著時間的演變，國家政策可能越來越超脫，將使用武力的決定作為一個主要是該國財政或外交上的問題，導致武裝衝突的“正常化”。這樣一來，自主機器人殺手就會降低國家開戰或使用致命武力的門檻，使武裝衝突不再是最後的選擇手段。

海恩斯同時指出，在談到自主機器人殺手時，常常會使用“無風險戰爭”或“無傷亡戰爭”等說法。這似乎是說，只有擁有技術的那些人的生命才算是命，這就使人們對部署這一技術產生深層次的關切，即沒有技術一方者的權利和命運受到了忽視。自主機器人殺手代表著終極不對稱狀況，即在有些情況下，有可能讓機器人殺手與敵方的普通士兵對抗，換句話說，自主機器人殺手有可能將武裝衝突的風險轉移到敵人和敵對方的平民身上。

海恩斯指出，在當前設想的情景下，人至少仍會是提供決策的一部分：由人將最終目標設計到機器人系統中，並決定啟動或在必要時加以拆除，而自動化武器將把這些目標翻譯成任務，並在無需進一步人力干預的情況下加以執行。他指出，有監督的自主意味著“人在發揮作用”，由人進行監督，並可推翻機器人的決定。但是，這種推翻的力量在現實中可能是有限的，因為機器人的決策程式往往以毫微秒計，而監管者可能不一定掌握據以作出這些決定的資訊事實。在這種情況下，人事實上處於決策之外，這樣一來，機器在事實上就成為自主機器人殺手。然而，“人為”因素在許多情形下卻是一種有利條件。

海恩斯：“擁有自主機器人殺手技術的國家發現將人拿出‘決策之外’非常有吸引力，因為人的決定過程往往比機器人要慢得多。在一些情況下，人會處於恐懼而犯錯誤，或是迫使去採取一些報復或是殘忍的行動。但與此同時，人在一些情況下，與機器人不同的是，還會出於同情或恩典採取行動。人可以根據他們對事物更深層次意義的理解，瞭解到在特定的情形下，如當一個士兵已經投降，他應該採取更加寬容的辦法。”

海恩斯指出，實踐證明，使用具有絕對優勢的武力會起到反作用。自主機器人殺手這種不知疲倦的戰爭機器，隨時一按按鈕就可以投入使用，會帶來武裝衝突永久化的危險，並杜絕戰後重建的機會。他指出，擁有自主機器人殺手國家相對于它國的優勢也不一定是永久性的。這類系統有可能擴散，不僅是擴散到首先使用國予以轉讓和出售的那些國家。其他國家也有可能開發自己的自主機器人殺手技術。他指出，自主機器人殺手還可能被挪用、被駭客攻擊並被欺騙，有可能被犯罪組織或私人個人等非國家行為者截獲，並針對國家或其他非國家行為者包括平民使用；它還有可能發生故障，帶來災難性後果。此外，相關技術的發現還可能會刺激新的技術產生，可能開啟更大的“潘朵拉之盒”。海恩斯表示，人權理事會應呼籲全體國家宣佈並在國內至少暫停測試、生產、組裝、轉讓、採購、部署和使用自主機器人殺手，直到建立一個關於自主機器人殺手未來的國際商定的框架。