科幻電影《終結(jié)者》的鏡頭：專家認(rèn)為未來科幻領(lǐng)域中的全自動(dòng)化武器“機(jī)器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實(shí)。

一些國家正在利用無人駕駛設(shè)備執(zhí)行戰(zhàn)場任務(wù)，比如“死神”無人機(jī)。但是，攻擊目標(biāo)的選擇如果沒有人類的決策，那世界將會(huì)變成一個(gè)極其危險(xiǎn)的世界。

北京時(shí)間6月21日消息，據(jù)國外媒體報(bào)道，隨著人工智能技術(shù)的飛速發(fā)展，機(jī)器人的“智商”越來越高，功能越來越強(qiáng)大。在人類享受機(jī)器人所帶來的各種便利的同時(shí)，機(jī)器人對(duì)人類的威脅也越來越大。專家認(rèn)為，機(jī)器人的威脅性將遠(yuǎn)大于其便利性，未來科幻領(lǐng)域中的全自動(dòng)化武器“機(jī)器人殺手”或?qū)⒑芸斐蔀楝F(xiàn)實(shí)。2017年，人類必須要啟動(dòng)關(guān)于禁止“致命性自動(dòng)武器系統(tǒng)”的磋商程序。

這些全自動(dòng)化武器可能將徹底改變武裝沖突和法律執(zhí)行的過程。支持者認(rèn)為，這些機(jī)器人殺手是必需的，因?yàn)楝F(xiàn)代戰(zhàn)爭需要速度，機(jī)器人可以讓士兵和警察遠(yuǎn)離傷害。但是，更多的人認(rèn)為，機(jī)器人所帶來的威脅要遠(yuǎn)大于其在軍事行動(dòng)和執(zhí)法過程中的好處，即弊大于利。攻擊目標(biāo)的選擇如果沒有人類的決策，那世界將會(huì)變成一個(gè)極其危險(xiǎn)的世界，機(jī)器人將在無人控制的情況下做出生死決斷，平民被誤傷的風(fēng)險(xiǎn)和幾率將大幅提升，而且沒有任何人需要對(duì)此負(fù)責(zé)。

考慮到全自動(dòng)化武器所帶來的道德、法律、人身等方面的風(fēng)險(xiǎn)，人類必須要先發(fā)制人，阻止其發(fā)展、生產(chǎn)和使用，已刻不容緩。處理這種威脅的最佳方式就是制定一系列具有法律效力的國際性武器禁令，這里的武器主要是指沒有人類意識(shí)控制的全自動(dòng)化武器。至少已有20個(gè)國家在聯(lián)合國會(huì)議上提出了這種倡議，即人類應(yīng)該控制攻擊目標(biāo)的選擇和交戰(zhàn)與否的決定。四月份，人權(quán)觀察組織和哈佛法學(xué)院國際人權(quán)研究中心發(fā)表一份最新報(bào)告，提出了許多關(guān)于禁令的建議。這兩個(gè)組織一直在致力于禁止全自動(dòng)化武器的研發(fā)與生產(chǎn)。

無生命的機(jī)器人，它們根本無法真正理解生命的價(jià)值與意義。這些福斯特-米勒“魔爪”機(jī)器人裝備了多種武器。專家認(rèn)為，如果這樣的系統(tǒng)被制造成全自動(dòng)化，它們有可能攻擊錯(cuò)誤的目標(biāo)。

這款“死神”無人機(jī)攜帶有GBU-12鋪路Ⅱ激光制導(dǎo)炸彈。

人類對(duì)武器保持控制也是一種道德的必要，因?yàn)槿祟愑袗烹[之心，在傷害其他個(gè)體時(shí)他們會(huì)有情感上的壓力。對(duì)人類尊嚴(yán)的尊重，可以也是應(yīng)該作為對(duì)殺戮的抑制。相反，機(jī)器人沒有真正的情感，它們根本沒有方向和限度。此外，無生命的機(jī)器人，它們根本無法真正理解生命的價(jià)值與意義。

人為控制也可以推動(dòng)人類對(duì)國際法的遵守，因?yàn)閲H法也是為了保護(hù)平民和士兵。人類可以根據(jù)以往的經(jīng)驗(yàn)和道德考量做出自己的判斷，可以根據(jù)不同的實(shí)際情況做出不同的決定。然而，全自動(dòng)化武器則幾乎不可能有此判斷力，它們所執(zhí)行的程序也不可能考慮到所有的情節(jié)。因此，這些武器不可能成為一名“理性的指揮官”，擁有傳統(tǒng)的處置復(fù)雜、不可預(yù)見局面的能力。此外，失去人類控制將可能威脅目標(biāo)的一種權(quán)利，即不能任意剝奪別人的生命權(quán)。在任何的執(zhí)法環(huán)節(jié)和軍事行動(dòng)中，保證這一基本權(quán)利也是一種責(zé)任。在評(píng)估攻擊的必要性時(shí)，必須要做出此判斷，而做出合理的判斷，人類的能力要強(qiáng)于機(jī)器人。

現(xiàn)在，要想找到可以負(fù)法律責(zé)任的全自動(dòng)化武器研發(fā)者和生產(chǎn)商仍然存在不少障礙。在美國，政府為大多數(shù)武器生產(chǎn)商制訂了豁免政策。當(dāng)然，美國檢測武器產(chǎn)品質(zhì)量的標(biāo)準(zhǔn)也非常高，這樣也可以促使武器生產(chǎn)商更具法律責(zé)任感。在4月份在日內(nèi)瓦召開的一次聯(lián)合國會(huì)議上，94個(gè)國家倡議啟動(dòng)關(guān)于“致命性自動(dòng)武器系統(tǒng)”的磋商。這些國家將共同商討常規(guī)武器公約是否能夠限制“致命性自動(dòng)武器系統(tǒng)”的生產(chǎn)。12月，加入這一公約的國家將召開會(huì)議，制定未來工作的日程表。最為關(guān)鍵的是，各成員國應(yīng)該商定于2017年正式啟動(dòng)關(guān)于“致命性自動(dòng)武器系統(tǒng)”的磋商程序。

在不久的將來，《鋼鐵俠2》中的軍用機(jī)器人或?qū)⒆哌M(jìn)現(xiàn)實(shí)。

裁軍首先需要人類對(duì)武器的控制。比如，國際社會(huì)已經(jīng)制定了得到廣泛認(rèn)可的公約，用來禁止生物武器、化學(xué)武器和地雷等。因此，各國現(xiàn)在也應(yīng)該禁止“致命性自動(dòng)武器系統(tǒng)”。專家建議，在12月的會(huì)議上，各個(gè)已加入常規(guī)武器公約的國家也應(yīng)該齊心一致向這一目標(biāo)努力。他們首先要通過談判達(dá)成一個(gè)新的國際性協(xié)定來定義“致命性自動(dòng)武器”。其次，在2017年，各國還需要花費(fèi)足夠的時(shí)間進(jìn)行深入研究?？紤]到國際法律的制定過程漫長，各國可以先快速地定義“致命性自動(dòng)武器”的威脅。專家最后還建議，各國應(yīng)該抓住這次會(huì)議的最佳機(jī)遇，因?yàn)閯e無選擇，不能因?yàn)榭萍汲酵饨欢o人類帶來可怕的后果。(彬彬)