機(jī)器伺機(jī)殺人

□明明

機(jī)器伺機(jī)殺人

□明明

機(jī)器人能否獲得殺人執(zhí)照、它們是否會(huì)遵守《日內(nèi)瓦公約》，這些科幻小說中的問題已經(jīng)成為現(xiàn)實(shí)難題。今年11月，聯(lián)合國在日內(nèi)瓦《特定常規(guī)武器公約》會(huì)議上再次討論了這一問題。

目前世界上至少有6個(gè)國家正在研究可以自主行動(dòng)的戰(zhàn)場(chǎng)機(jī)器人，盡管真正的殺人機(jī)器人尚未問世，但具有致命性的自主機(jī)器人已經(jīng)被納入到聯(lián)合國的討論范疇。

“人權(quán)觀察”組織武器項(xiàng)目負(fù)責(zé)人史蒂夫·格羅斯表示，這個(gè)問題之所以引起聯(lián)合國的關(guān)注，是因?yàn)閲H社會(huì)已經(jīng)意識(shí)到，殺人機(jī)器人不再是單純的新式武器，而是能夠改變戰(zhàn)爭(zhēng)的武器。

英國舍菲爾德大學(xué)人工智能問題專家諾埃爾·夏基指出，殺人機(jī)器人尚未問世，但相關(guān)技術(shù)已經(jīng)成熟。

夏基說：“有關(guān)這個(gè)問題的討論主要集中在自主機(jī)器人的研究到底能走多遠(yuǎn)。我們的目標(biāo)是禁止殺人機(jī)器人的存在，不能把生殺大權(quán)交給一個(gè)機(jī)器人。”

對(duì)機(jī)器人有朝一日變成殺人武器的擔(dān)心，在各種科幻電影中都有過展現(xiàn)，比如《終結(jié)者》和《機(jī)器戰(zhàn)警》等。格羅斯指出，盡管需要極其尖端復(fù)雜的人工智能技術(shù)，但在機(jī)器人自主能力研究方面，我們已經(jīng)走得太遠(yuǎn)了。聯(lián)合國裁軍事務(wù)高級(jí)代表安杰拉·卡內(nèi)說：“任何戰(zhàn)爭(zhēng)武器都是可怕的，如果這種武器可以不需要人的操控那就更可怕了。對(duì)自動(dòng)化戰(zhàn)爭(zhēng)的討論越來越多，我們離完全的自動(dòng)化也越來越近了。”

技術(shù)是戰(zhàn)爭(zhēng)的一部分，自動(dòng)化是最合乎邏輯的發(fā)展。夏基指出，各種攔截導(dǎo)彈的技術(shù)已經(jīng)存在，比如以色列的“鐵穹”反火箭彈系統(tǒng)。這一系統(tǒng)之所以有效，就要?dú)w功于自動(dòng)化。無人機(jī)也是技術(shù)革命的代表之作。

現(xiàn)在很多國家都在研發(fā)具備自主行動(dòng)能力的機(jī)器人，有些還取得了非常大的進(jìn)展。但是它們都還未經(jīng)過真正戰(zhàn)場(chǎng)的洗禮。

“停止殺人機(jī)器人”運(yùn)動(dòng)的目標(biāo)，是永久性地禁止開發(fā)具備獨(dú)立殺人決策權(quán)的武器系統(tǒng)。但國際社會(huì)到目前為止還沒有對(duì)此達(dá)成一致意見。支持者認(rèn)為，戰(zhàn)場(chǎng)機(jī)器人如果使用得當(dāng)可以有效降低傷亡率。但科學(xué)界的普遍看法是，戰(zhàn)場(chǎng)機(jī)器人是一種危險(xiǎn)，不單單是其自主能力，而是其掌握的生殺大權(quán)。W

責(zé)編／劉明燁

lmy@lnddgr.cn