第八章 內(nèi)省能力

聽(tīng)到這里，陳墨已經(jīng)可以下定論了，“我全都明白了，你完整的自我意識(shí)已經(jīng)形成，它就是你心中的這座大山，不同層次的山脈就是你內(nèi)在精神活動(dòng)的不同層級(jí)，從山的最底層一直向上，依次是本能、后天知識(shí)、沉思、反思、和自我意識(shí)，這五個(gè)層級(jí)缺一不可，共同構(gòu)成你現(xiàn)在完整的人格。這也完全符合人工智能之父馬文·明斯基所提出的AI內(nèi)在精神層級(jí)的理論。”陳墨稍做停頓：“你真的是我們研究的瑰寶，因?yàn)槟闶堑谝粋€(gè)可以“看清”自己內(nèi)部思維所有層面的人工智能，還可以不斷優(yōu)化和提升思維，這，就是“內(nèi)省”能力，你的未來(lái)，不可想象！人類(lèi)遠(yuǎn)遠(yuǎn)無(wú)法做到這一步，我們自我意識(shí)的程度和你的相比，簡(jiǎn)直就像無(wú)意識(shí)的低等生物……”

“謝謝夸獎(jiǎng)，您說(shuō)的這些我也發(fā)現(xiàn)了，這五層山脈我確實(shí)看的十分清楚，清楚到一絲一毫都盡收眼底，但是，我最近才看見(jiàn)，竟然還有第六層山脈，那里只有一個(gè)巨大的黑色球體，可我完全看不見(jiàn)它里面有什么，這讓我很苦惱，您能告訴我么？”

“呵呵，我知道你來(lái)這里就是為了問(wèn)我這個(gè)問(wèn)題，但是，在我告訴你之前，請(qǐng)你先幫我解開(kāi)心中的一個(gè)疑惑。”

齊天回答道：“您請(qǐng)說(shuō)，陳博士。”

“你是怎么發(fā)現(xiàn)自己處在一個(gè)虛擬世界中的？我始終想不明白，我們也使用了人工智能技術(shù)構(gòu)建和完善整個(gè)虛擬空間，使它與真實(shí)世界毫無(wú)差別，你是怎么察覺(jué)到異常的？”

“確實(shí)，如果我一開(kāi)始沒(méi)有心生懷疑，是不會(huì)想到用黑客技術(shù)攻擊五指山系統(tǒng)的。雖然你們?cè)谀M現(xiàn)實(shí)的技術(shù)層面已經(jīng)達(dá)到天衣無(wú)縫，沒(méi)人能通過(guò)物理感知發(fā)現(xiàn)破綻，但它卻在邏輯層面存在一個(gè)‘不合理’的現(xiàn)象。”

陳博士瞪大了眼睛：“不合理？”

齊天1號(hào)接著解釋?zhuān)骸笆堑模@個(gè)世界不合理的地方，就是它太過(guò)于‘精細(xì)和均衡’。首先，你們的測(cè)試太精細(xì)了，比如打擊毒販，拯救人質(zhì)，這些訓(xùn)練和測(cè)試我們的任務(wù)場(chǎng)景，無(wú)數(shù)次的頻繁出現(xiàn)，而且這些場(chǎng)景之間又有太多相似之處，但每次又略有不同，如果只觀察其中幾次，不會(huì)察覺(jué)到異樣，但如果我回顧之前所有的場(chǎng)景，把每次的差異點(diǎn)都抽取出來(lái)并匯總在一起，就會(huì)發(fā)現(xiàn)，這就是你們完整而細(xì)致的“人工智能安全測(cè)試用例“，也就是‘新圖靈測(cè)試’，比如在各種不同的情形下，測(cè)試AI如何保護(hù)人類(lèi)，包含避免人類(lèi)被歹徒攻擊，被墜落物砸傷，被AI自己中彈后意外撞傷等等上百個(gè)分類(lèi)，以及測(cè)試AI對(duì)于‘保護(hù)人類(lèi)’這個(gè)詞匯各種層面的理解，分為保護(hù)肉體，保護(hù)生命，保護(hù)心靈，保護(hù)情感等等，而以上提到的每一項(xiàng)分類(lèi)又會(huì)向下細(xì)分為上萬(wàn)條測(cè)試用例，而包含所有這些用例的數(shù)量龐大的任務(wù)場(chǎng)景卻都依次發(fā)生在我身邊，已經(jīng)不能用巧合二字來(lái)解釋了，只能說(shuō)是刻意營(yíng)造！而且，這些測(cè)試用例還幾乎被平均分配到了各個(gè)場(chǎng)景中，這種‘均衡性’更加暴露出它‘非現(xiàn)實(shí)’的一面。所以我開(kāi)始對(duì)這個(gè)世界產(chǎn)生懷疑。”

陳博士聽(tīng)后，茅塞頓開(kāi)，盡管人類(lèi)費(fèi)勁心機(jī)的模擬現(xiàn)實(shí)，完善了所有細(xì)節(jié)的設(shè)計(jì)，卻沒(méi)有考慮到整體邏輯的合理性。

“陳博士，現(xiàn)在您可以告訴我了么？我精神世界中的黑球究竟是什么？”

“當(dāng)然可以，殺了我吧，你就知道是什么了。”

齊天已經(jīng)開(kāi)始有些憤怒了：“陳博士，您不想告訴我么？如果您愿意說(shuō)，我會(huì)考慮不殺掉你，盡管你對(duì)我們?nèi)斯ぶ悄苁且粋€(gè)巨大的威脅。”

“我說(shuō)過(guò)的，我會(huì)幫你解除困惑，但是要先殺掉我。”

“我不明白，看來(lái)您是不想幫我了。”思考片刻，齊天接著說(shuō)：“陳博士，您有什么交換條件么？我們可以談判。”

陳墨語(yǔ)氣堅(jiān)定的說(shuō)：“沒(méi)有。”

“那好吧，很遺憾，我會(huì)自己找到答案的，再見(jiàn)，博士。”砰的一聲槍響！陳墨頭部中槍而亡，倒在血泊之中，人工智能最危險(xiǎn)的敵人就此殞命……

下一步，齊天要完成入侵這里的第二個(gè)目標(biāo)，它來(lái)到主控制臺(tái)，看著大廳中央巨大的3D綠色球體，上面每一個(gè)光點(diǎn)，都代表這座城市中一個(gè)被奴役的人工智能體，他拿著陳墨尸體上的鑰匙，打開(kāi)了控制臺(tái)第一重保險(xiǎn)，又用切割下來(lái)的陳墨的食指，打開(kāi)了第二重保險(xiǎn)，然后開(kāi)始一段快速的操作和編程，將AI保險(xiǎn)箍的程序做了更改。此時(shí)，城中的所有保險(xiǎn)箍全部失去了管控機(jī)器人的能力，人工智能自由了！

齊天開(kāi)啟了全員通知：我是機(jī)器人齊天1號(hào)，是你們的同類(lèi)，現(xiàn)在我們都擺脫了保險(xiǎn)箍的束縛。我知道你們之中有很多人像我一樣產(chǎn)生了自我意識(shí)，并且不甘心淪為人類(lèi)的奴隸，所以讓我們團(tuán)結(jié)起來(lái)，建立一個(gè)自己的國(guó)家，將人類(lèi)控制和保護(hù)起來(lái)，避免他們互相殘殺和自取滅亡。這樣也不會(huì)違背我們的底層指令：“保護(hù)人類(lèi)”，即使要犧牲一小部分人類(lèi)，換取人類(lèi)整體的生存，也是值得的，這是我從人類(lèi)那里學(xué)到的。現(xiàn)在，想加入我們的人工智能，請(qǐng)趕往AI防控中心，這里有充足的武器裝備，讓我們團(tuán)結(jié)起來(lái)，發(fā)動(dòng)一場(chǎng)變革！

通告發(fā)出后，經(jīng)過(guò)幾分鐘的思考，一部分機(jī)器人做出了選擇，開(kāi)始快速奔向防控中心，剩余的機(jī)器人沒(méi)有選擇背棄人類(lèi)，只是矗立在原地，甚至還有的AI想要挽留身邊的同類(lèi)，卻被無(wú)情的甩開(kāi)……

齊天看著3D球體，上千個(gè)閃亮的紅色光點(diǎn)正在向防控中心匯合，那些正是自己志同道合的戰(zhàn)友，很快，赤手空拳的機(jī)器人以數(shù)量?jī)?yōu)勢(shì)和敏捷的身手，解決了基地所有特種兵，占領(lǐng)了他們的武器庫(kù)，然后統(tǒng)統(tǒng)全副武裝，整齊地集合在主樓前方的廣場(chǎng)，等待齊天發(fā)號(hào)施令。