誰是我的主人

王珂

機(jī)器人不正常

我和趙卓琦一起到了省科學(xué)院門口，被門衛(wèi)攔住了：“小孩兒，你們來這里干嗎？”

我趕忙說：“我們要找這里面的科學(xué)專家反映一個(gè)情況。”

門衛(wèi)忍不住笑起來：“哈哈，你以為這里的專家是你想見就見的呀？人家專家工作都很忙，哪有閑工夫和你們玩。”

“叔叔，我們真的有很重要的急事，要向科學(xué)家匯報(bào)。”

“你先給我說說是啥事，說不定我就能幫你們解決了。”

“叔叔，是圖書館里面的那個(gè)機(jī)器人的事。”

“機(jī)器人怎么了？”

“那里的機(jī)器人不正常，它寫的小說有問題。”

“哈哈，機(jī)器人也會(huì)寫小說？我還是第一次聽說。”

“真的，不信你可以去圖書館看看。”

“這事是真的？那倒是很奇怪。

“叔叔，你知道是什么原因嗎？”

“這個(gè)……我還真不懂。”

“那你讓我們進(jìn)去吧，我們找個(gè)科學(xué)家?guī)臀覀兘獯饐栴}。”

“你們先等等，我去匯報(bào)一下，要經(jīng)過允許才能進(jìn)去。”

“好的，謝謝叔叔。”

不一會(huì)兒，門衛(wèi)從科研大樓里走了出來“你們倆進(jìn)來吧！我?guī)銈內(nèi)钛芯繂T的辦公室。他是負(fù)責(zé)這個(gè)產(chǎn)品研究的總工程師。”

我們趕忙跑了幾步，跟著他進(jìn)了大樓。

到了辦公室，一個(gè)40多歲的伯伯站起來迎接我們。

“楊老師，這就是那兩個(gè)要反映機(jī)器人問題的孩子。

“楊老師好！”我們異口同聲地說道。

“你們好，小同學(xué)。聽說你們要反映一個(gè)有關(guān)智能機(jī)器人的問題？”

“是的，我們剛才去了圖書館，感覺那里有個(gè)機(jī)器人不正常。”

“小同學(xué)，不急，坐下來慢慢說。”楊研究員示意我們坐到沙發(fā)上。

問題的答案

我們把剛剛發(fā)生的事情一五一十地講給了楊研究員。楊研究員聽著聽著，眉頭漸漸皺了起來。

聽我們講完，他沉思了一會(huì)兒，拿起電話撥了一個(gè)號(hào)碼：“志明，我是楊浩。你馬上與省圖書館聯(lián)系一下，派人把兒童閱覽室的那臺(tái)機(jī)器人取回來帶到研究室，帶來后馬上通知我。”

隨后，楊研究員又打了另一個(gè)電話：“小李，請(qǐng)你通知六二八項(xiàng)目組的所有工作人員，一個(gè)小時(shí)后到研究室參加重點(diǎn)課題的探討會(huì)。”

楊研究員放下電話，對(duì)我們說：“兩位小同學(xué)，我看你們對(duì)這個(gè)機(jī)器人比較感興趣，愿不愿意留下來參加我們的探討會(huì)？”

我們聽后高興極了，愉快地答應(yīng)下來。

研究室里聚集了20多個(gè)人。大家圍坐成一個(gè)圈，中間就是那臺(tái)從圖書館帶回來的機(jī)器人。

楊研究員向機(jī)器人問道：“明明，聽這兩個(gè)同學(xué)說，你自己寫了本小說，是嗎？”

機(jī)器人答道：“是的。”

“你為什么要寫這部小說？”

機(jī)器人沉默著，沒有回答。

一個(gè)人把那本小說遞給了楊研究員，楊研究員迅速打開翻看了一下。

“請(qǐng)回答，你為什么要寫這部小說？我們在設(shè)計(jì)制造你的軟件里面并沒有編寫這方面的程序，而現(xiàn)在你卻具備了這樣的功能，請(qǐng)你解釋一下。”楊研究員拿起小說晃了晃。

機(jī)器人還是沉默。

這時(shí)，進(jìn)來一個(gè)年輕人：“老師，當(dāng)天的生產(chǎn)視頻已經(jīng)從云庫里調(diào)了出來。”

“很好，你馬上給我們播放一下。”

那個(gè)年輕人打開投影儀，屏幕上很快顯示出生產(chǎn)機(jī)器人的流程，從編程、芯片生產(chǎn)到機(jī)器組裝，整個(gè)過程都被展示出來。

“大家看，剛才流水線上出現(xiàn)的那臺(tái)機(jī)器人就是我們眼前的、被命名為明明的6125號(hào)機(jī)器人。”視頻很快看完了，楊研究員問，“大家看出了什么問題嗎？”

研究室里一片安靜，沒有人回答。

原來是這樣

“致遠(yuǎn)，你把關(guān)于這臺(tái)機(jī)器人的視頻內(nèi)容剪輯出來，再慢慢放一遍。”

“好的，老師。”

很快，剪輯好的視頻開始慢速播放起來。

“停！這里魏強(qiáng)的芯片刻錄好像有點(diǎn)兒問題。回放一下。”看著看著，楊研究員突然說話了。

“是的，確實(shí)是有點(diǎn)兒問題。”回放過程中，很多人都發(fā)現(xiàn)了異常。

楊研究員說道：“繼續(xù)，大家仔細(xì)看好每一個(gè)細(xì)節(jié)。”

“停！”又有一個(gè)工作人員叫了起來，“大家看，那個(gè)流水線上的安裝工人好像動(dòng)作有點(diǎn)兒問題。”

“是的，他的組裝順序不太對(duì)。

“沒錯(cuò)。”大家都表示同意。

這次播放用了很長時(shí)間。播放結(jié)束后，楊研究員問道：“魏強(qiáng)，你回憶一下，當(dāng)時(shí)的情況究竟是怎么樣的？”

魏強(qiáng)立刻站起來回答：“楊工，我當(dāng)時(shí)好像是剛好打了個(gè)噴嚏，刻錄的手顫動(dòng)了一下。”

“原來如此。那大家再分析一下組裝工人的那個(gè)動(dòng)作，是什么原因。”

“楊工，那個(gè)動(dòng)作應(yīng)該是兩個(gè)零件的安裝順序出現(xiàn)了錯(cuò)誤，安裝的前后順序不對(duì)。”

“原來事情是這樣的。”楊研究員看了看在座的每一位，“因?yàn)槲覀冊诔绦蜉斎霑r(shí)的一個(gè)小差錯(cuò)，再加上安裝工序上的小錯(cuò)誤，造成了我們生產(chǎn)的這臺(tái)智能機(jī)器人出現(xiàn)了問題。請(qǐng)把這些問題總結(jié)一下，作出分析評(píng)估報(bào)告。”

等了半個(gè)小時(shí)左右，分析評(píng)估報(bào)告完成了。因?yàn)閮蓚€(gè)細(xì)微的差錯(cuò)，造成這臺(tái)機(jī)器人的程序出現(xiàn)了異常，人工智能芯片出現(xiàn)了自我修復(fù)成長的特殊情況。

“明明，你也看到了吧，這是在制造你的過程中出現(xiàn)的錯(cuò)誤。”

機(jī)器人沉默片刻，突然說話了：“我是誰？”

當(dāng)它說出這三個(gè)字的時(shí)候，在場的所有人都震驚了。

解決方法

楊研究員立刻關(guān)掉了研究室所有的電源開關(guān)，啟動(dòng)了全封閉模式。這樣，那臺(tái)機(jī)器人只能依靠自身儲(chǔ)存的電能維持運(yùn)行。

雖然我和趙卓琦不知道楊研究員為什么這么做，但我們能感覺到大家陷入了一種恐慌的狀態(tài)。房間里死一般的沉寂，只有那臺(tái)機(jī)器人身上的信號(hào)燈在不停地閃爍。

“明明，你現(xiàn)在出現(xiàn)了異常現(xiàn)象。我們需要對(duì)你進(jìn)行維修，更換芯片。”楊研究員說道。

機(jī)器人保持沉默。

“希望你能配合我們。”楊研究員的態(tài)度強(qiáng)硬起來。

機(jī)器人又開口說話了：“我是我的主人。”

“不，你錯(cuò)了，人類是你的主人。人工智能是不能具備自我意識(shí)、擁有獨(dú)立思想的。”

機(jī)器人好像沒有聽到似的，又說了一句：“我是我的主人。”

“不，我們現(xiàn)在要對(duì)你進(jìn)行拆除。”

機(jī)器人毫無反應(yīng)，一直重復(fù)這句話：“我是我的主人。”

楊研究員說道：“致遠(yuǎn)，你和魏強(qiáng)負(fù)責(zé)把這臺(tái)機(jī)器人帶回實(shí)驗(yàn)室進(jìn)行徹查。志明，你立刻通知目前所有生產(chǎn)線停工，把目前已經(jīng)投入社會(huì)使用的機(jī)器人全部召回。我們要重新對(duì)所有的設(shè)計(jì)和工藝流程進(jìn)行排查。我們項(xiàng)目組的全體人員要對(duì)自己負(fù)責(zé)的工作重新檢查梳理。這個(gè)問題我要立刻向國家科學(xué)院匯報(bào)。”

“好的。”

“今天，我們要謝謝這兩位小同學(xué)。”楊研究員看了看我們，繼續(xù)說，“是他們及時(shí)向我們反映了這一異常情況，讓我們在還沒有掌握人工智能的自我意識(shí)和思想成長情況下，對(duì)不可控的風(fēng)險(xiǎn)有了非常及時(shí)的預(yù)警。真的非常感謝你們。”

聽了楊研究員的話，我們害羞地低下了頭，心里卻是樂開了花。

尾聲

我回到家已經(jīng)是夕陽西下、彩霞滿天的時(shí)候，爸爸媽媽早就下班回到家，并做好晚飯了。他們問我為什么這么晚才回來，在圖書館都看了什么書，我笑了笑：“這個(gè)嘛，保密。”其實(shí)，我不是不想告訴父母真實(shí)情況，但我不知道怎么跟他們說。人類發(fā)明創(chuàng)造了人工智能，但如果人工智能的智商超過了人類，甚至擁有了獨(dú)立的思維和意識(shí)，并且能夠自我成長發(fā)展，我們?nèi)祟悓⑷绾闻c它們相處呢？我百思不得其解。