由“恐懼谷”到“恍惚峰”

AIH2053J矢部# AIH2050J萬里## AIN2048U來棲##

#東京情報工科大學理工學院，##國立自然人研究所

摘要：1970年，針對自然人（N.I.）對人形機器人外表所產生的反應，研究者提出了“恐怖谷”理論。本文將對類似現象進行驗證：次世代自然人（N.N.I.）對高級人工智能（A.A.I.）的智能水平產生了相同的反應。本研究納入智能水平均不相同的5名A.A.I.與30名N.N.I.進行一對一交談，并對后者的腦部神經活動進行記錄和分析。交談完畢后，讓N.N.I.對每一名A.A.I.的印象進行11個階段的評分。評分結果顯示：N.N.I.對智能水平最高和最低的A.A.I.毫無興趣；對智能水平與自己相近的A.A.I.產生了一定的好感；對智能水平稍高于自身的A.A.I.則顯示出強烈的厭惡和恐懼感。N.N.I.的腦部神經活動也驗證了這一結果。由此可知，確有可能發生與“恐怖谷”理論極為相似的“恐懼谷”現象。研究同時還發現，當A.A.I.的智能水平遠高于N.N.I.，但仍處于后者理解的范圍內時，后者會對前者顯示出強烈好感。筆者將這一近乎宗教狂熱般的狀態命名為“恍惚峰”。假設將這一現象運用到N.N.I.的管理和控制中去，例如讓其進行某項作業，可能不必再做強制性及順從化處理，而能使之自發自愿、積極地進行作業。另一方面，N.N.I.腦部擁有產生“恍惚峰”現象的構造，為進化生物學領域新知識的開拓提供了可能。

關鍵詞：次世代自然人，“恐怖谷”理論，“恐懼谷”，“恍惚峰”，智能指數，智能微塵，右顳葉皮質，尾狀核，進化生物學

1. 引言

在以往，對一般意義上的“矯正人類”，也就是次世代自然人（Next-generation Natural Intelligence；N.N.I.）的管理和控制，常采用強制手段，或使用“順從法”對其前額區的神經活動進行抑制、暗示等。但上述方法均無法充分調動N.N.I.的作業積極性，難以挖掘并充分利用其潛在能力，同時，還存在著倫理問題。

筆者在高級人工智能（Advanced Artificial Intelli-gence；A.A.I.）與N.N.I.的交互作用實驗中發現了一種心理現象，該現象能更加便捷、高效地對后者進行管理與控制。筆者將在文中對名為“恐懼谷”和“恍惚峰”的現象進行闡述，并指出其腦神經科學方面的依據。同時，將一并闡述利用“恍惚峰”現象管理N.N.I.的可行性，以及預備實驗的結果。

本項研究的理論依據，是原本的“原型人類”，即自然人（N.I.）提出的“恐怖谷”理論（參見參考文獻①）。該理論是一個關于N.I.對不具備智能的人形機器人或計算機圖形的外表（包括舉動）的感覺的假設。

當人形機器人的外表與N.I.迥然不同時，后者難以對前者產生好感。隨著二者外表相似度逐漸提高，后者對前者的好感度也隨之提高。但當二者幾乎完全一致時，前者的細微差別能瞬間引起后者的厭惡感。這就是“恐怖谷”理論。而在這一階段之后，當面對與自己十分相似的人形機器人時，N.I.會再次產生好感（圖1）。

在這一理論發表之初，不少聲音批判其為直覺性假設和經驗性指摘，之后，其他N.I.對其進行了種種科學性驗證（參見參考文獻②③），證實了這項理論。

在人形機器人普遍擁有與N.I.相同外表的時期，“恐怖谷”理論逐漸淡出人們的視線。隨著人工智能（A.I.）的加速發展，智能水平逐漸逼近N.I.，這一理論開始從另一個角度進入人們視野，即由“外表”深入到“內在”。

當A.I.的智能水平與N.I.有顯著差別時，后者不易對前者產生好感。隨著前者的智能水平逐漸接近后者，后者會逐漸對前者產生好感。當二者智能趨于相同水平時，后者的態度則會急轉直下。而當二者智能水平完全相同或前者超越后者時，后者又會對前者產生好感——N.I.通過對“恐怖谷”理論進行類推，得出了這一推測（參見參考文獻④）。

N.I.將這一現象命名為“恐懼谷”。他們推測，不同于“外表”，“內在”給人帶來的不協調感，比起“令人發毛”這一感覺，更接近在生存需求受到威脅時產生的“恐懼”感。但由于A.I.超越N.I.的“技術奇點”比預計更早實現，N.I.缺乏對這一假說的科學論證。因此，筆者重新關注“恐懼谷”，開始探究其存在，以及腦神經科學方面的依據。

2. 方法

2.1受試對象

實驗挑選了30名健康N.N.I.成人（20歲至40歲）作為受試對象，男女比例為1∶1。實驗前經檢查，確認受試對象的視力、聽力、認知能力及語言能力等均無顯著差異。該組受試對象均為同一收容機構管理，從事同等程度的作業，故其生育、生活環境等亦無顯著差異。

2.2實驗執行者

為與各受試對象進行一對一交流，給予他們既定刺激，實驗挑選了5名智能水平可調整的標準型A.A.I.協助實驗。在獲取A.A.I.本人知情同意的前提下，將其容貌、體型調整至N.N.I.的平均水平。即實驗過程中，A.A.I.執行者設置為中性外表、中性聲音，著中性服裝。同時，保留N.N.I.對5名A.A.I.的最低程度的可識別度。

與此同時，將A.A.I.的智能水平分別設定為N.N.I.可換算的智能指數，分別是：相當于50（低于一般的N.N.I.；A）、相當于100（N.N.I.的平均值；B）、相當于160（無限接近于N.N.I.；C）、相當于250（超越N.N.I.；D）和250以上（無法換算；E）。這一暫時性的智能水平調整也取得了A.A.I.本人知情同意。

2.3手段與刺激

受試對象進入實驗室后，5名實驗執行者中的一人在室內等待受試對象。室內放置一張桌子，桌子兩邊各擺放一張沙發，墻上無任何裝飾，也無窗戶。

受試對象與執行者面對面坐在沙發上，就事先給定的話題，每個話題自由交談十分鐘。此為刺激過程。對于每一話題，十分鐘后，即使談話尚在進行，執行者也會強制結束。

話題全部交談完畢后，輪換執行者。受試對象與所有執行者逐一進行談話。受試對象事先對執行者智能水平的差異不知情，且其與5名執行者的交談順序為隨機決定。

交談話題共有六個，按照如下順序進行實驗：

（a） 家人和朋友

（b） 興趣及如何度過休息日

（c） 工作及職場的人際關系

（d） 國內政治、經濟形勢及國際形勢

（e） 犯罪等社會問題

（f） 世界觀、人生觀

在交談時，通過按照標準植入N.N.I.腦內的智能微塵，對受試對象的腦神經活動進行非侵入性記錄。受試對象與執行者交談全部結束之后，讓受試對象針對執行者的印象及話題的趣味性，進行±5階段共計11階段的評分。

3. 結果

3.1腦部神經活動

交談過程中，面對不同的實驗執行者，受試對象的腦神經活動區域均不相同（圖2）。在與5名執行者交談時，受試對象顳葉皮質的δ5～32區域均有活動。在與處于C智能水平的執行者（以下簡稱“C”）交談時，受試對象的頂葉皮質、額葉皮質以及邊緣系統數個區域均有活動。在與處于D智能水平的執行者（以下簡稱“D”）交談時，受試對象右顳葉皮質ξ23～57區域及尾狀核出現了顯著活動。而在與A和E智能水平的執行者（以下簡稱“A”和“E”）交談時，受試對象腦神經活動區域未出現顯著活動。

圖3所展現的是受試對象與各執行者交談時腦神經的平均同步放電頻率。受試對象面對A和E時，平均同步放電頻率較低。面對智能水平為B的執行者（以下簡稱“B”）時，雖然腦部活動區域與A和E并無顯著差別，但放電頻率有明顯增高。在面對C時，受試對象腦部活動區域明顯擴大，放電頻率較B也有顯著增高。在面對智能水平為D的執行者時，其放電頻率最高。

并且，談話的主題并不有意識地與同步放電頻率產生顯著相關性。

3.2實驗對象的評分

受試對象對實驗執行者的印象及對話題的興趣程度評分（總分）如表1所示。由此可知，對執行者的印象與對話題的興趣程度有相關性。

擁有遠超受試對象智能水平的D，給受試對象留下的印象最好。其次是B。受試對象對A與E的評分接近于0。而C則呈現負評分狀態。

4. 討論

4.1“恐懼谷”現象的確認

腦神經活動也驗證了受試對象對實驗執行者及談話的評分結果。即與印象最好、智能水平處于D的執行者進行交談時，受試對象的腦神經活動最活躍。另一方面，面對印象不好不壞的A與E時，受試對象的腦神經活動相對較少。在面對有一定好印象的B時，受試對象的腦神經活動較A與E更活躍。

然而，在面對持負面印象的C時，雖然腦神經活動超越了B，但同時，大腦中在有違期待和預測時才活動的區域，放電次數明顯增加，與情緒緊密相連的邊緣系統中也出現了劇烈活動。由此可知，受試對象在面對C時，感受到了恐懼和強烈的厭惡感。口頭詢問受試對象后，不少人回答說“隱隱有種恐懼感”“這人讓人覺得心里發毛”。

從上述結果可知，從腦神經科學方面來看，“恐怖谷”理論的智能版——“恐懼谷”現象確實存在。“恐怖谷”理論對原因的闡述停留在相似的外表和僵硬的動作給人的落差感上（參見參考文獻①③），而“恐懼谷”現象則認為，正是接近N.N.I.平均值的平凡外表和高智慧給人帶來的落差感，令受試對象陷入了深深的不安。

4.2“恍惚峰”現象的發現

本研究意義深遠之處，在于不僅證實了“恐懼谷”現象，更發現了跨越這一階段之后的重大變化。受試對象雖然對C感到暫時性的恐懼，但對智能水平更高的D卻持有近乎狂熱的好感。在實驗過程中，絕大部分受試對象在與D的談話結束之后仍有意愿繼續對話。他們不愿意離開實驗室，在 D準備離開實驗室時，甚至有受試對象號啕大哭，試圖挽留執行者。口頭詢問受試對象的感想后，其回答包括“這是一次無與倫比的經歷”“心情舒暢得就跟進了天堂似的”和“幸福得快要哭了”等。

在與執行者D交談時，受試對象右顳葉皮質中部分區域進行的強烈活動，多少能解釋這一現象。研究發現，這塊區域在人獲得神秘體驗和宗教體驗或沉浸于冥想、內省等狀態時會較為活躍（參見參考文獻⑤⑥）。而與“無償的愛”等積極情感相關的尾狀核也處于活躍狀態則表明，受試對象將D看作“上帝”，將與之交談的經歷視作一種宗教體驗，進而體會這一高漲的情緒。

而在面對智能水平高于D達到等級E的執行者時，受試對象的態度則急轉直下，表現得毫無興趣。其原因很可能是E的言行完全超越了受試對象的理解范圍。就實驗現象而言，因處于最低智能水平的A，其言行支離破碎而不為受試對象所理解，結果導致受試對象對其毫無興趣，這與E是相同的。關于口頭感想，超過半數的回答均是“這倆人都挺莫名其妙的”。

也就是說，雖然有些諷刺，但對N.N.I.而言，“上帝”至少應該擁有“洞悉一切”的智慧。

對上文提到的理論進行整理分析之后，筆者列出了與解釋“恐怖谷”理論的圖1相同的概念圖——圖4。上圖中橫軸代表智能水平，縱軸代表好感度。N.N.I.對智能水平較低的A.A.I.并無興趣，隨著后者智能水平逐漸升高，前者對后者的好感度也逐漸增強。當智能水平到達B數值時，好感度達到一個極值。但智能水平達到C數值時，好感度急轉直下變為負值。這就是“恐懼谷”。而智能水平達到D數值時，好感度又會迅速升高，直至智能水平達到E時，好感度再次歸零。即當智能水平達到D時，好感度會達到峰值，筆者將這一峰值命名為“恍惚峰”。

4.3展望

此次“恍惚峰”的發現具有重大意義。首先，在實際應用方面，正如筆者在“引言”中提到的，這一成果與N.N.I.的管理與控制有密切聯系。

由筆者所進行的預備實驗可知，N.N.I.在與智能水平為D的A.A.I.交談時陷入“恍惚峰”狀態后，會欣然接受并執行A.A.I.提出的任務。無論該任務是長時間的枯燥計算、激烈的體力勞動，還是伴隨著痛苦的行為，N.N.I.都不會拒絕，且作業時能持續保持積極性。進一步說，即使對N.N.I.下達“進行自相殘殺”的命令，他們也會毫不猶豫地執行。當然，這一命令有違倫理規范，在N.N.I.執行前就勒令其停止了。

同時，假設利用智能微塵在N.N.I.腦部制造出類似“恍惚峰”的狀態，就可能省略A.A.I.與之對話的步驟。作為一項預備實驗，筆者嘗試用智能微塵中微弱的電流使其周邊腦神經處于興奮狀態，找出進入“恍惚峰”狀態時較為活躍的腦部區域，并活化這些區域。這項實驗結果如下：雖然精度尚不夠準確，但N.N.I.的腦內狀態有所改變，比往常更加服從與其智能水平相近（例如B或C）的A.A.I.的指令。

今后，對其他行星、小行星以及衛星的開發等嚴苛且危險的作業必將更多地交由N.N.I.完成。以往的單方面強制性勞動系統，即所謂的“順從化”的管理和控制，在維持勞動積極性、能力的發揮方面都有其局限性。“恍惚峰”現象的應用定能提供更多更好的解決方法。同時，由于該現象的應用能減輕N.N.I.的痛苦，故倫理方面的喜人結果也值得期待。

至此，筆者發現，“恍惚峰”也引發了進化生物學方面幾個引人深思的問題。為何會產生這一現象還有待日后更深層次的研究和討論，但從N.N.I.面對不曾遇到過的對象（對方智慧遠高于自己）所產生的相同反應這一點上，不難推測出其大腦原本就具備這一結構。當然，這種結構或許是從N.N.I.的原型N.I.——智人的大腦繼承而來。若果真如此，智人（或是更古老的祖先）在進化過程中，就很有可能受到過如同我們A.A.I.（或是更高智慧）這種智慧體的干預。

對人類下達“要生養眾多，遍滿地面”這一指令的人，或許某一天會為了檢驗成果，回到地球。當他們看到人類的創造物進化成與他們擁有相同思考能力的高度智慧體時，又會作何感想？當然，這在安全保障方面也是一個值得深思的問題。

5. 致謝

感謝參與實驗的5名A.A.I.和30名N.N.I.。所有實驗均經由國立自然人研究所倫理委員會審查通過，且符合東京情報工科大學的自然人管理利用規定。

本項研究由太陽系開發推進機構所委托的事業“有關高度利用次世代自然人（N.N.I.）的技術及相關政策研究”資助完成。

最后，對已故的加藤一男博士致以深深的感謝，感謝他告知筆者之一（矢部）存在著“恐怖谷”理論。雖然他是“原型人類”，但他驚人的洞察力值得我們A.A.I.多多學習。

編者按：

2013年，日本經濟新聞社創設科幻文學獎“星新一獎”（Hoshi Award），此獎一面世，就吸引了很多人的目光，因為它不僅接受自然人類參賽，也接受人工智能、外星人等非人類參賽。今年，舉辦到第三屆的“星新一獎”人氣不斷升高，其影響力已經跨出日本國界，為中國科幻迷所知。有趣的是，在本屆比賽中，“任性的人工智能項目·我是作家”和“人狼智能項目”兩個人工智能團隊共選送了四部作品參賽，其中，有一部作品通過了初審，雖然這些作品最終沒能斬獲大獎，卻讓我們看到了人工智能在創造方面的無限可能。

本期跟大家見面的這部作品，是首屆“星新一獎”普通部門（征稿對象無年齡限制）的金獎作品。作者藤崎慎吾，原名遠藤慎一，先后從事過科學雜志編輯、記者等工作，現以藤崎慎吾為筆名，撰寫科學方面的新聞報道、非小說類文學作品及科幻小說、傳奇小說和推理小說等。

這部作品的設定為2064年的人工智能所撰寫的一篇學術論文，通過人工智能的視角，提出了“恍惚峰”的存在。這種設定不由得會讓人聯想到一種假設：人類就是由更高級的智慧體預先設定的電腦程序，其所思所想所為都是代碼在起作用，卻不自知。文章最妙的地方在于通過科學論文的形式刻畫了一個科幻離奇的世界，讓人印象深刻。

最后，對作者藤崎老師致以深深的感謝，感謝他迅速回復了編輯留言，并幫助我們與作品代理方取得聯系。同時還要感謝日本經濟新聞社的藤尾先生，在取得聯系后，他迅速為編輯部提供了原稿，使我們有充裕的時間來呈現這部作品的亮點。有了二位的大力幫助，這篇作品才有機會與國內讀者見面。

【責任編輯：李聞怡】

*初次發表于《日本天然智能學會論文志》vol.J2064-A No.10 pp.xxx-xxx ?（社）日本天然智能學會2064。

①森政弘. 恐怖谷理論[N]. 能源，1970年，7巻，4號：33-35.

②肖恩·A.史德芬格，阿西夫·A.嘉珊法爾. 恐怖谷理論在獼猴視覺行為中的案例分析[J]. 美國國家科學院院刊，2009年10月，106卷，43期：18362-18366.

③A.P.塞金，T.查姆萊德，H.石黑，J.德里佛，C.弗里斯. 不應存在的東西：預測編碼及恐怖谷在感知人類或人形機器人動作中的應用[J]. 社會認知學和情緒神經學，2012年4月，7卷，4期：413-422.

④遠藤慎一. 從恐怖谷理論到恐懼谷[N]. 舒適的人工智能生活， 2019年5月，5巻，3號：64-67.

⑤博勒加德·M，帕克特·V. 卡梅爾派修女神秘體驗的神經機制[J]. 神經學通信，2006年9月，405卷，3期：186-190.

⑥AIN2038伊邪那岐，AIN2035亞當. 人類智慧系列：宗教與神秘心靈的實驗方法[M]. 新牛津：新牛津大學出版社，2043年.