機(jī)器伺機(jī)殺人

明明

機(jī)器人能否獲得殺人執(zhí)照、它們是否會(huì)遵守《日內(nèi)瓦公約》，這些科幻小說(shuō)中的問(wèn)題已經(jīng)成為現(xiàn)實(shí)難題 。今年11月，聯(lián)合國(guó)在日內(nèi)瓦《特定常規(guī)武器公約》會(huì)議上再次討論了這一問(wèn)題。

目前世界上至少有6個(gè)國(guó)家正在研究可以自主行動(dòng)的戰(zhàn)場(chǎng)機(jī)器人，盡管真正的殺人機(jī)器人尚未問(wèn)世，但具有致命性的自主機(jī)器人已經(jīng)被納入到聯(lián)合國(guó)的討論范疇。

“人權(quán)觀(guān)察”組織武器項(xiàng)目負(fù)責(zé)人史蒂夫·格羅斯表示，這個(gè)問(wèn)題之所以引起聯(lián)合國(guó)的關(guān)注，是因?yàn)閲?guó)際社會(huì)已經(jīng)意識(shí)到，殺人機(jī)器人不再是單純的新式武器，而是能夠改變戰(zhàn)爭(zhēng)的武器。

英國(guó)舍菲爾德大學(xué)人工智能問(wèn)題專(zhuān)家諾埃爾·夏基指出，殺人機(jī)器人尚未問(wèn)世，但相關(guān)技術(shù)已經(jīng)成熟。

夏基說(shuō)：“有關(guān)這個(gè)問(wèn)題的討論主要集中在自主機(jī)器人的研究到底能走多遠(yuǎn)。我們的目標(biāo)是禁止殺人機(jī)器人的存在，不能把生殺大權(quán)交給一個(gè)機(jī)器人。”

對(duì)機(jī)器人有朝一日變成殺人武器的擔(dān)心，在各種科幻電影中都有過(guò)展現(xiàn)，比如《終結(jié)者》和《機(jī)器戰(zhàn)警》等。格羅斯指出，盡管需要極其尖端復(fù)雜的人工智能技術(shù)，但在機(jī)器人自主能力研究方面，我們已經(jīng)走得太遠(yuǎn)了。聯(lián)合國(guó)裁軍事務(wù)高級(jí)代表安杰拉·卡內(nèi)說(shuō)：“任何戰(zhàn)爭(zhēng)武器都是可怕的，如果這種武器可以不需要人的操控那就更可怕了。對(duì)自動(dòng)化戰(zhàn)爭(zhēng)的討論越來(lái)越多，我們離完全的自動(dòng)化也越來(lái)越近了。”

技術(shù)是戰(zhàn)爭(zhēng)的一部分，自動(dòng)化是最合乎邏輯的發(fā)展。夏基指出，各種攔截導(dǎo)彈的技術(shù)已經(jīng)存在，比如以色列的“鐵穹”反火箭彈系統(tǒng)。這一系統(tǒng)之所以有效，就要?dú)w功于自動(dòng)化。無(wú)人機(jī)也是技術(shù)革命的代表之作。

現(xiàn)在很多國(guó)家都在研發(fā)具備自主行動(dòng)能力的機(jī)器人，有些還取得了非常大的進(jìn)展。但是它們都還未經(jīng)過(guò)真正戰(zhàn)場(chǎng)的洗禮。

“停止殺人機(jī)器人”運(yùn)動(dòng)的目標(biāo)，是永久性地禁止開(kāi)發(fā)具備獨(dú)立殺人決策權(quán)的武器系統(tǒng)。但國(guó)際社會(huì)到目前為止還沒(méi)有對(duì)此達(dá)成一致意見(jiàn)。支持者認(rèn)為，戰(zhàn)場(chǎng)機(jī)器人如果使用得當(dāng)可以有效降低傷亡率。但科學(xué)界的普遍看法是，戰(zhàn)場(chǎng)機(jī)器人是一種危險(xiǎn)，不單單是其自主能力，而是其掌握的生殺大權(quán)。W

責(zé)編/劉明燁

lmy@lnddgr.cn