柳下解答李德毅院士通用人工智能十疑問

柳下弈

（柳下哲學院）

[編者按]2020年，李德毅院士在中國人工智能學會微信公眾號上發表了《通用人工智能十問》，提出了人工智能發展進程中繞不開的十個疑問，在業內產生巨大反響，引發了人工智能研究者的深入思考和探討。本文為柳下弈先生(文中簡稱柳下)從哲學和神經科學視角對“十問”的探究與回答，旨在拋磚引玉、交流學術、碰撞思想。

李德毅：智能是學習的能力，以及解釋、解決問題的能力；人工智能是脫離生命體的智能，是人類智能的體外延伸；通用人工智能通過不斷學習，積累本領，進化成長，能夠面向不同的情境，解釋、解決普遍性的智力問題。

在此共識基礎上，我們提出如下質疑：

質疑一意識、情感、智慧和智能，它們是包含關系還是關聯關系？是智能里面含有意識和情感，還是意識里面含有智能？是智慧里面有智能，還是智能里面有智慧？大凡意識、情感，都是內省的、自知的、排他的，怎么可以用他人的、人工的來代替呢？所以非生命體不可能有意識？

柳下：意識即認知，不同種感覺之間相互確定為意識原理，意識是兩種以上感覺神經同時興奮的主體實現，孤單一種感覺不實現意識；情感即感覺，相應于主體實現結構，其中快感和痛感是利害(價值)依據及活動驅動，意識主體是以感覺對存在建立屬性的，屬性是意識主體存在而不是客體存在，離開感覺實現，意識主體對存在給不出任何形式或屬性；智能是利益(價值)驅動下通過感覺、認知、籌劃和指令以設定和達成目標或任務，其中籌劃材料概念都是認知；智慧指智能中降低成本或提高質量以設定和達成目標或任務的認知和籌劃成分，智能主體不都是智慧主體。

人是進化而來的高級通用智能物，其可以設定任務，制造機器，構造程序或運行路徑，令機器獲取內外環境信息并作出反應以達成目標。目前機器還只是馮·諾依曼范式，不存在不同感覺之間相互確定的認知，只有對人類認知結果的承襲。柳下已經提出人工多元感覺神經連接組合并行計算通用智能機概念，該概念機是仿生和非馮·諾依曼范式的，既可構造主體自主價值驅動，也可被賦予人類主體價值或任務驅動，但前者違背柳下提出的人工智能第一倫理(不得賦予人工智能物主體價值驅動或人格地位以使其永為人類工具)，所以我們只能考慮后者。感覺相應于主體實現結構，人工智能物感覺實現與人類感覺實現差別很大，但不影響兩者之間的語言交流和任務達成。柳下概念機可以實現意識。

質疑二如何理解通用智能？我們應該不應該把通用智能理解為“全知全能”或者單向超強智能？盡管今天的計算機已經可以解決很多復雜的、專門的智力問題(如圍棋智能)，我們仍常常覺得它們缺乏人類思維的某些本質特征。這里的差別主要不是在算法、算力、數據量方面，不是在速度和容量方面，而是在智能的一般性、通用性、普遍性、靈活性、缺省性、容錯性、可習得性、不確定性、適應性、常識性、開放性、創造性、自主性等方面。遺憾的是發展60多年的人工智能沒有能夠更靠近人的原始的智能。

柳下：通用智能并非全知全會全能，人是通用智能物，但人也不是全知全會全能。柳下概念機即通用智能機，我們可以把通用智能機構造為人類嬰兒腦神經網絡智能狀態，也可以賦予某些先驗知識(先驗是相對于機器而言，其實是人類經驗知識)，還可以把通用智能機構造為低等動物腦神經網絡智能狀態，當然還可以連接或使用馮·諾依曼計算機及互聯網，我們因應任務目標而為之。通用人工智能可以被做得簡精專，也可以做得博深兼。柳下人工多元感覺神經連接組合并行計算通用智能概念機有著完備的徹底的毫無更深層、斷層和死角的概念和邏輯體系支撐，是人類目前完全具備制造能力的可以隨心所欲因應任務設計構造的完全成熟的概念機，可以應用于自動化生產、家政服務、社會管理、科研教育、藝術醫療和公安國防等，完全可以替代工人、秘書、廚師、駕駛員、醫生、工程師、公務員、律師、警察、消防員、士兵，甚至物理學家、生物學家、數學家、哲學家、藝術家、法官、作戰指揮員，而且可以做得更好。

質疑三目前所有的人工智能的成就都是在計算機上表現出來，是基于馮架構的計算機智能或者計算智能，人工智能是計算機的一個應用而已。而人腦不是馮諾依曼架構的，存在不存在宏觀上更類似腦的非馮諾依曼架構呢？例如，對人的智能而言，記憶力是真正的智力，超強記憶力就是超強智能，記憶比計算機重要，記憶的提取要比復雜的推理快得多，非馮架構如何在結構上體現人腦的不同記憶區和記憶力呢？如何體現環境和知識的雙驅動？

柳下：生物(包括人)腦是多元感覺神經連接組合并行計算通用智能機，不同種感覺神經同時興奮建立連接，并因連接而引發興奮，兩種以上感覺神經同時興奮的主體實現即意識，快感和痛感為腦神經網絡驅動，此為柳下在赫伯學習法則基礎上明確不同種感覺神經才能直接連接而給出的腦神經核心工作機制模型(也可以涵蓋神經電感應連接和體液連接)。如若同種感覺神經可以直接連接，則整個腦全部神經會建立飽和直接連接而喪失邏輯陷于混沌，只有不同種感覺神經才能建立直接連接的網絡才能給出邏輯。生物腦神經網絡與馮架構最大區別一是記憶和計算一體，不存在專門儲存器，二是神經連接公用而可以組合為主體實現集，這給出腦神經并行計算。柳下腦神經核心工作機制模型給出全部主要生物腦智能現象解釋，包括生物腦的高速、節能。

質疑四非生命體不會有七情六欲，機器人是非生命體，還會有學習的原動力嗎？如果沒有學習的原動力，沒有接受教育的自發性，還會有學習的目標嗎？目標從哪產生？機器人能否自己提出問題？

柳下：人工智能物(包括機器人)必需被建構主體價值驅動或任務驅動才會實現學習、思考和工作。

質疑五人的注意力選擇源于記憶，源于記憶的偏好依附性，偏好如何產生的？偏好依附是否只能與交互認知的頻度和時間的遠近相關？人的偏好依附不是這樣的，人的恐懼性以及滿足感會讓一些發生頻度很低、或者很久遠的事記憶特別深刻。

柳下：利益(價值)驅動！價值(利益)驅動！(利益驅動與利害驅動同義)

質疑六自然語言是人類思維活動的載體，如果自然語言是第一語言，數學語言是第二語言，計算機語言是第三語言，后一個比前一個常常更嚴格，后一個比前一個常常更狹義，根據哥德爾不完全定理，數學自身難以完全自洽。數學的形式化要借助于自然語言，計算機語言的形式化要借助于數學語言。因此，人工智能怎么可以反過來要用數學語言或者計算機語言去形式化人類的自然語言呢？

柳下：若語音聽覺或字形視覺與某概念體興奮同時實現，建立連接，則語義實現了，一旦再聽見該語音或看到該字形，即相應聽覺或視覺神經實現興奮，則引發連接的概念體興奮，意識主體中相應事物的形象、質感等同時實現。此為自然語言實現，自然語言為人類平添一套感覺神經連接路徑和交流、建構工具，數學語言與此類似，只是連接數量概念和預設了數量關系，是意識主體存在不是獨立存在。計算機語言是更專門運行程序構造工具。一切語言都可還原為感覺及其連接，意識的多元感覺神經連接組合主體實現集合形式可以形式化任何現象，可以運行實現于馮·諾依曼機，柳下提出單元實現感覺全同及進化分化來的感覺相應于主體(若干實現的單元)實現結構更給出終極形式化可能，也揭示感覺的存在而非數學能夠獨立完備實現。而柳下概念機不需形式化自然語言，因為它是人工感覺神經連接實現，是仿生的，人腦就是這樣的。

質疑七人腦是個小宇宙，其中的智能是多情境、多公理兼容并包的，在不同情境里有不同應對，不完全收斂，不完全自洽，不整體統一，不存在非公理的統一的數學推理，當然也不必一定要腦裂。

柳下：作為實現的存在即(廣義)主體，“有實現就有主體，有什么實現就有什么主體，實現在哪里主體就在哪里，實現確定主體存在的內容和邊界，主體與實現嚴格同一。主體的新定義強調實現者主體確定及其親身不可替代地位。實現即主體確定，為已不依賴于外在的主體當下既然確定?自在屬性。主體存在因實現結構不同而多元，它們之間可建構交集、并集、子集等集合關系。

質疑八一個機器或者系統是否有智能，不在于某一個時刻它能解決什么實際的智力問題，而在于它有沒有學習的能力？智能，即提供的問題解決方案，是否依賴于有限的認知資源？是否需要進一步交互認知？是否可以有選項？是否可以進化和成長？這才是最重要的。

柳下：柳下人工多元感覺神經連接組合并行計算主體實現集通用智能機依照生物腦神經機制給出聯想、“知識遷移”、記憶、邏輯、可塑等在有限的資源下知識拓展、成長的智能。

質疑九 在一個非馮諾依曼架構的機器人腦中，組成記憶、交互和計算的基本元件最少有哪幾種？各元件中的信息的產生機制與存在形式是什么樣的？他們之間的信息傳遞機制是什么樣的？

柳下：柳下機至少包括兩種以上感應器、感應器時空分辨率下的導線、實現導線同時導電而連接的集成電路板，感應器與輸出器可以合一。不同種感覺神經元同時興奮由突觸建立連接，并因連接引發連鎖興奮，這就是智能機核心工作原理，就這么簡單，當然可以實現。

質疑十 通用智能后天的習得靠教育，智能植根于教育，文明是智能的生態。設有通用架構的機器嬰兒10臺，可視為帶有基因的硬件加基礎軟件，讓10位母親分別在各自的情境去教育10名機器嬰兒，僅僅通過語音交互，1個月后這樣的機器嬰兒腦中留下的三個記憶區里都會有些什么？以后，機器嬰兒的基礎軟件(含記憶、交互、計算軟件)要不要不斷擴充？硬件要不要不斷擴充？機器嬰兒腦有沒有形成自己軟件的能力？

柳下：意識主體以感覺經驗對存在建立屬性和現象，并在神經網絡中實現繼續連接分析整合，建構現象之間關系，對概念體分解或重組，建立新概念新邏輯，實現新認識或發明創作。對存在的探究即科學，對科學成果的利用即技術，科學、技術成果即文明，主體利用科學、技術成果對自身活動方式的改造即文化。

通用智能機器嬰兒在一個月內主要形成各自環境場景下的基礎經驗感覺神經連接和語言名詞與同步感覺的神經連接，建立基礎認知概念和簡單行為能力。通用智能機器必定有任務或價值構造連接，機器會不斷經驗進步適應環境或任務。基本語言(語音或字形)連接形成后，可以通過語言交流引發相關神經同時興奮建立連接而獲得教導。機器感應器或神經線路可以也應該根據任務而擴充。機器動作或行為可以通過神經連接在環境中實現價值或任務選擇優化，形成高效程式。