作戰(zhàn)機(jī)器人也會(huì)“內(nèi)疚”

作戰(zhàn)機(jī)器人正在走向戰(zhàn)場(chǎng)，在一般人看來，它們沒有情感、臨危不懼，接到命令后會(huì)毫不猶豫地毀滅敵人。但是美國(guó)《陸軍時(shí)報(bào)》28日?qǐng)?bào)道，在美國(guó)陸軍研究辦事處支持下，佐治亞州理工學(xué)院正在研究讓作戰(zhàn)機(jī)器人產(chǎn)生“道德意識(shí)”，確保在作戰(zhàn)時(shí)遵守國(guó)際法和交戰(zhàn)規(guī)則。

負(fù)責(zé)這項(xiàng)研究的羅納德·阿金博士稱，作戰(zhàn)機(jī)器人目前的最大特點(diǎn)就是沒有人類的情感缺陷，不會(huì)因情緒失控而影響判斷，也不會(huì)向上司表達(dá)憤怒和不滿。但是，最近的研究正在試圖讓機(jī)器人更有人情味。阿金開發(fā)了一種被稱為“潛在行動(dòng)多維數(shù)學(xué)決策”的軟件。這套融合了人類悔恨、同情和內(nèi)疚等情緒的軟件安裝到作戰(zhàn)機(jī)器人后就能扮演“道德調(diào)節(jié)器”的角色，可根據(jù)傳感器接收到的數(shù)據(jù)和情報(bào)，為機(jī)器人所有潛在的行動(dòng)劃分道德等級(jí)，并根據(jù)該等級(jí)選擇相應(yīng)的武器系統(tǒng)。

阿金舉了一個(gè)例子稱，美軍打擊恐怖分子時(shí)常用的無人機(jī)攜帶有GBU系列精確制導(dǎo)炸彈、“地獄火”激光制導(dǎo)導(dǎo)彈和鏈?zhǔn)綑C(jī)槍，當(dāng)無人機(jī)準(zhǔn)備動(dòng)用GBU炸彈打擊某個(gè)目標(biāo)時(shí)，其“道德調(diào)節(jié)器”如果覺察到動(dòng)用GBU炸彈可能導(dǎo)致平民傷亡，便會(huì)及時(shí)“感到內(nèi)疚”，GBU武器會(huì)被停用，而如果無人機(jī)下一步仍計(jì)劃發(fā)射威力更大的“地獄火”導(dǎo)彈時(shí)，“道德調(diào)節(jié)器”將發(fā)出更強(qiáng)烈的“內(nèi)疚”提示，此時(shí)由于“內(nèi)疚”提示達(dá)到最大允許量，無人機(jī)的整個(gè)武器系統(tǒng)將會(huì)失效。

美軍目前在伊拉克、阿富汗和巴基斯坦頻繁使用無人機(jī)，造成大量平民傷亡，已經(jīng)引起了國(guó)際社會(huì)批評(píng)。阿金稱，有人情味的機(jī)器人將更好地適應(yīng)戰(zhàn)場(chǎng)環(huán)境，并可以監(jiān)視同一個(gè)戰(zhàn)斗單位中的人類士兵是否有不道德的戰(zhàn)場(chǎng)行為，預(yù)計(jì)這種機(jī)器人將在10至20年內(nèi)大規(guī)模裝備美軍。但是，也有不少美國(guó)軍方人士持不同意見。他們認(rèn)為，機(jī)器人程序已經(jīng)足夠復(fù)雜，如果將尚未成熟的技術(shù)投入應(yīng)用，機(jī)器人的人工智能可能會(huì)超出人類的控制范圍，屆時(shí)，擁有自主意識(shí)的機(jī)器人可能會(huì)讓戰(zhàn)爭(zhēng)更易爆發(fā)。▲（韓 偉）