對人工智能法學研究“偽批判”的回應

文/劉憲權

學術探討中觀點的交融和碰撞發生的前提應是對研究課題所涉及的相關概念進行全面了解，并總結、歸納前人的相關研究成果，從理性、客觀的視角出發，提出自己的觀點和見解，并盡力在論述時充分理解其他學者觀點基礎上實現邏輯自洽、自圓其說、言之成理。任何為了批判而進行的所謂“批判”，即使辭藻再華麗、言語再犀利、論證再巧妙，也終究會陷入固步自封、只能“自說其圓”的“偽批判”泥潭。筆者認為，人工智能時代是一個全新的時代，這一時代的產生、存在和發展已經并還將繼續會對傳統法學乃至刑法學研究形成巨大的影響和沖擊。法學研究者應有必要的心理準備，學會去蕪存菁，認真研讀和思考對于學術研究真正有價值的不同觀點和意見并與之進行商討；拒絕并剔除概念不清、張冠李戴、自相矛盾的觀點和論述。只有這樣，才能繼續保持（而不是扼殺）人工智能時代刑法學研究的良好態勢，修正人工智能法學研究的發展方向。依筆者之見，時下，我們應嚴格區分人工智能刑法學研究中的“批判”和“偽批判”。本文著重對學界存在的人工智能刑法學研究的“偽批判”進行回應。

對混淆概念型“偽批判”的回應

混淆概念型“偽批判”的主要特征是混淆了“人工智能”與“機械自動化”的概念。批判者從“人工智能”與“機械自動化”的非本質區別出發，將“機器是否具有自主性”作為區分二者的標準，將“人工智能”的范圍大大縮小，將“機械自動化”的范圍大大增加，進而否定當前人工智能法學研究的成果。筆者認為，從普通智能機器人到弱智能機器人再到強智能機器人的“進化”史，也即人工智能時代產生和發展的歷史就是一部智能機器人的智能從無到有、從少到多的歷史；而因為只有自然人才具有智能，所以我們又可將人工智能時代中的智能機器人的發展稱之為是一部“機器”的因素逐步弱化而“人”的因素漸進增強的歷史；同時也因為智能與人的意識、意志直接相關，所以我們還可將人工智能時代中的智能機器人的發展稱之為是一部智能機器人的“智能”逐漸增強并對自己“行為”的影響和作用逐步達到“自控”的歷史。進而言之，我們完全可以說，隨著智能機器人的不斷進化，自然人與智能機器人在對“行為”的控制與決定能力上存在著此消彼長的關系。具體而言，“智能”本來是人所特有的，人工智能技術便是人類創造了本來只有自然人才具有的“智能”的技術。將本來只有自然人才具有的智能賦予“機器”，從而使傳統意義上“機器”能夠在很大程度上，從簡單地替代自然人的手腳等身體功能而發展到逐漸替代自然人的大腦功能，以開展相關活動。而此時的“機器”便不同于以往任何時代的“機器”，也即此時的“機器”實際上已經演變成了“智能機器人”。這也就是為什么會有“智能機器人”這一概念出現的根本原因。由此可見，“人工智能”技術與“機械自動化”技術的本質區別就在于是否能夠替代自然人大腦的功能。能替代自然人大腦功能的技術是“人工智能”技術，不能替代自然人大腦功能而只能替代自然人手腳等身體功能的技術則是“機械自動化”技術。

對移花接木型“偽批判”的回應

批判者提出，人工智能法學研究者的研究對象是基于夸張、炒作、娛樂為前提而制造、放大的“假問題”。批判者提出，人工智能法學研究者“鼓吹”未來必然會出現具有自我意志的強智能機器人，智能機器人可能會取代人類，引發的風險足以對人類產生毀滅性的打擊。這種以尚未出現的風險作為前提的“居安思危”“未雨綢繆”的研究，只不過是“用別人的噱頭嚇唬自己”。另外，智能機器人就像石器時代的石頭一樣，始終是人類的工具，即使其表現出了一定的自主行為的能力，也與黑猩猩等動物沒有任何區別。

上述批判者的觀點將普通智能機器人、弱智能機器人、強智能機器人（抑或普通智能機器人時代、弱人工智能時代、強人工智能時代）等概念糅合在一起，同時將人工智能法學研究者針對不同類型的智能機器人（或人工智能技術的不同發展階段）所進行的分門別類的研究和探討予以雜糅，并采用了“移花接木”的“技巧”予以“批判”。應該看到，這些建立在沒有全面了解“批判”對象觀點基礎上提出的“批判”，似乎是文不對題、答非所問的。對此，筆者從以下三個方面予以回應。

第一，即使在當今的弱人工智能時代，刑事風險也是實實在在存在的。例如，在2019年8月底推出的“爆紅”社交網絡的AI換臉軟件引發了嚴重的隱私爭議；而在2019年8月初，“3D人頭模型還破解了刷臉支付，成功購買過火車票”；在前幾年，就有人利用AI換臉技術制作淫穢視頻。弱人工智能時代人工智能技術中一個常見的分支——人臉識別技術——就引發了如此多的刑事風險，給公民的人身安全和財產安全帶來如此巨大的威脅，對此我們難道可以視而不見嗎？類似上述事例的案例不勝枚舉，筆者在此不再一一列舉。可見，人工智能技術帶來的刑事風險并非是法學研究者“依靠無數假想拼湊起來的幻影”；相反，認為人工智能技術沒有帶來刑事風險似乎才是批判者閉目塞聽所造成的“幻覺”。

第二，智能機器人“具有工具屬性”這一命題的成立與否要分情況討論。其一，普通智能機器人與弱智能機器人仍具有工具屬性，但其與傳統意義上的工具有質的區別；其二，強智能機器人產生了自主意識和意志，其行為可能不再受人類設計和編制的程序控制。顯然，強智能機器人可能不完全符合“工具”的特征，不應再被簡單地認定為“工具”。

第三，批判者提出的“強智能機器人無法理解自己行為的外部意義或社會價值”的論斷無法得到證明。批判者在論述這一觀點時，提出“從人類哲學的角度論證‘何為智能’‘何為思考’更貼近問題的本質”，并用塞爾的“中文房間實驗”作為論據，得出“‘智能’一詞本來就是專屬于人類的一種能力”，而強智能機器人不具有人類所特有的“智能”，也就無法理解自己行為的外部意義或社會價值的結論。筆者認為，這一論證過程存在缺陷。

首先，批判者意圖通過描述“中文房間實驗”的場景，來說明強智能機器人不具有自由意志，進而否認強智能機器人成為刑事責任主體的可能性。筆者認為，從哲學角度，強智能機器人具有自由意志完全能夠得以證明。具體而言，其一，人的自由意志具有擬制特點。當歷史背景發生變化時，具有自由意志的主體范圍也有可能會發生改變。其二，上述擬制的前提是在人工智能時代來臨之前，只有人可以發揮主觀能動性并作出實施或者不實施某種行為的抉擇。其三，上述擬制成立的基礎在人工智能時代發生了動搖。具有自由意志的主體并非一成不變的，隨著科技的發展和時代的更迭，具有自由意志的主體范圍可能會得以拓展與擴張。如果強智能機器人可以脫離人類設計和編制的程序控制自主實施行為，則我們沒有任何理由否認強智能機器人具有自由意志的判斷。

其次，“中文房間實驗”這個論據不能支撐批判者所提出的論點。“中文房間實驗”中的“我”的原型并非智能機器人，而是自然人。與自然人依靠語言同外界進行溝通交流不同，智能機器人與外部世界溝通交流的媒介是程序和算法。智能機器人對外部世界信息的接收過程即是將外部世界的信息轉化為自己能夠“理解”的編碼，而其向外部世界釋放信息的過程即是將自己能夠“理解”的編碼轉化成自然人可以理解的信息。批判者在所提供論據中的主體與所要論證對象存在上述差異的情況下，運用“中文房間實驗”，似乎只能證明智能機器人“不一定能”理解自己行為的外部意義或社會價值，但是，不能證明智能機器人“一定不能”理解自己行為的外部意義或社會價值。

對自相矛盾型“偽批判”的回應

除主張智能機器人的核心要素是“溝通交流能力”和“自主性”這一觀點外，也有批判者提出，智能機器人具有“像人一樣思考”和“機器”兩個核心要素，即智能機器人就如能夠像人一樣思考的機器。該批判者認為，智能機器人的外觀是機器設備，內核是電子程序，即使它比人類更聰明，也永遠擺脫不了“機器”這一核心要素。并且，人工智能不是“天然的”智能，而是“人造的”智能，就如同“真牛皮與人造牛皮”的關系一般直白，“兩者始終是異質體”，因此，智能機器人就是“為了方便人的生活、為了豐富人的娛樂活動而研發的一件‘機器’或‘玩具’”。筆者認為，批判者的上述論述是完全自相矛盾的，應被列入“偽批判”的范疇之中。筆者從以下幾個方面對上述“偽批判”進行回應。

第一，“像人一樣思考”與“機器”是互相矛盾的兩個要素，不可能同時出現在同一個事物中。筆者認為，批判者所提出的智能機器人的兩個核心要素，其實是互相矛盾的。按照批判者的邏輯來分析，自然人就是“會思考”的“肉身”，即自然人的兩個核心要素是“會思考”和“肉身”。“肉身”并非人類所特有的，而是自然界中的動物都具備的。因此，人區別于其他所有動物的關鍵在于“會思考”，也即自然人的外形不是人類智能的表現，“會思考”才是。而按照該批判者的說法，智能機器人是“像人一樣思考”的“機器”，那么，既然智能機器人具備與人類相同的“會思考”的核心要素，又怎會完全等同于“機器”或“玩具”？可見，批判者對智能機器人核心要素的總結不僅不能證明自己論點的正確性，反而是“以己之矛攻己之盾”，揭示了自己論點當中的自相矛盾之處，相當于足球運動員踢了一腳“進了自家球門的烏龍球”。

第二，“人造牛皮論”與“法人的人工類人格”相抵牾。該批判者承認，“法人的人格其實也是一種人工類人格”，這與其在論述中提及的人工智能相當于“人造牛皮”從而只能作為人類的“玩具”的說法相沖突。具體而言，其一，如果批判者提出“人造牛皮論”的目的在于說明，“天然的”相對于“人造的”而言具有優勢，即“天然智能”一定比“人造智能”有優勢，這就犯了常識性的錯誤。眾所周知，“人造的”超越“天然的”可謂比比皆是、不勝枚舉（“阿爾法狗”戰勝中日韓圍棋國手就是范例）。其二，如果批判者提出“人造牛皮論”的目的在于說明，人造的事物只能是人的工具，永遠不能成為主體，則與批判者所承認的法人具有人工類人格的說法相悖。法人概念確實是人類創造出來的產物，并非天然存在的。但是法人因擁有法律上的人格，而可以或者已經成為法律上的主體。可見，非天然的事物也有可能成為法律上的主體，而并非只能是工具。由此，我們不能簡單地認為，人造智能的承載物——智能機器人——永遠只能是自然人的工具，從而當然不可能成為法律上的主體。

另外，筆者在此需要說明的是，批判者在突出持智能機器人刑事責任主體資格肯定說的學者所犯的自相矛盾的謬誤時提出，承認人工智能的刑事責任主體地位將會面臨以下悖論，筆者對此分別作出分析與回應。

其一，在“技術失控——技術可控”之悖論中，批判者提出，既然刑罰能夠有效限制智能機器人的犯罪能力，為何還會出現智能機器人超出人類設計和編制的程序控制的情形？按照批判者的這一質疑，我們似乎也可以說，既然刑罰具有改造罪犯、預防犯罪的功能，為何從古至今還會出現犯罪分子屢禁不止實施違反刑法規定的犯罪行為呢？由于現時提出如此顯而易見謬誤的質疑之人恐怕不會太多，因此，對批判者提出我們可能面臨這一悖論的質疑，筆者應該沒有必要再作更多的回應了。

其二，在“特殊預防無效——特殊預防有效”之悖論中，批判者提出，人類為何不直接在智能機器人的程序中消除犯罪條件，非要等到其犯罪之后再介入？按照批判者的論調，我們似乎可以提出這樣的疑問：與其現在對犯罪者進行刑罰懲罰，為何不在幼時就徹底消除他的犯罪思想或犯罪條件，而非要等到其犯罪之后再對其處以刑罰？監獄對犯罪人進行教育改造的目的是使其“洗心革面，重新做人”，為何還會出現累犯？批判者這一觀點究竟是想說明我們對幼兒的教育或監獄對犯罪人的教育改造無效，還是想說明我國的刑罰體系沒有存在的必要？另外，需要指出的是，前文筆者曾提出強智能機器人之所以可能成為刑事責任主體主要是因為其可能脫離人類設計和編制的程序控制而產生自主意識和意志，并具有獨立的辨認能力和控制能力，可能會自主實施犯罪行為。如果這種情況確實會出現或存在，試想人類又怎么可能“直接在強智能機器人的程序中消除犯罪條件”呢？

其三，在“刑罰設計——非刑罰性”之悖論中，批判者提出，刪除數據、修改程序、永久銷毀等專門為強智能機器人設計的刑罰種類實際上是非刑罰措施。應當看到，某一項措施是否應該設置為刑罰種類，主要應該根據對新類型的犯罪有無設置的針對性以及對懲罰與改造新類型犯罪主體有無必要性等因素加以決定。最后均應該由刑法加以明確規定，并不會因為行政法規或其他法律中已有規定而一律排除在刑罰種類之外。以罰金（款）為例，其既可以是一項行政處罰措施，也可以是刑罰體系當中的附加刑。與之類似，刪除數據、修改程序、永久銷毀等舉措可以是機器“檢修指南”當中所規定的措施（如批判者所言），但當強智能機器人可以成為刑事責任主體時，刑法則完全可能同時在條文中規定與此責任相對應的新刑罰種類。此時，這種機器“檢修指南”中所規定的措施性質就可能成為刑罰種類。需要指出的是，筆者所提出的刑法應適時將刪除數據、修改程序、永久銷毀等設置為刑罰種類，設置這些刑罰種類的想法也僅僅只是針對現時我們所能預想到會出現的強智能機器人（即可能脫離人類設計和編制的程序控制而產生自主意識和意志的強智能機器人）的犯罪行為設計的。如果在未來科學家一旦將包括類腦技術等生命科學技術、神經科學技術與人工智能技術結合的話，其產生的強智能機器人可能不僅在智能上會超越自然人，甚至在智能產生根據及物理外觀等方面也會有很大的突破和超越。假定將來這種并非遙不可及的現象真的出現，不僅會讓批判者從“智能機器人因具有機器的外觀而只能是機器而不可能是人”的疑惑中解脫出來，而且我們完全有理由相信，筆者建議設置的上述刑罰種類似乎會遠遠不足以應對犯罪的新類型強智能機器人，而需要進一步增加。

其四，在“消減風險（追求責任體系嚴密化）—加劇風險（轉移人類責任）”之悖論中，批判者提出，當智能機器人致人損害而自負責任時，便為智能機器人的研發者或使用者推卸刑事責任提供了絕佳的借口。應當看到，當普通智能機器人或弱智能機器人致人損害時，承擔刑事責任的只能是智能機器人的研發者或使用者，此處不存在推卸刑事責任的可能性。當強智能機器人在自主意識和意志的支配下實施了嚴重危害社會的行為時，如果研發者或使用者對于強智能機器人的“失控”存在故意或過失，則應承擔相應的刑事責任；如果研發者或使用者對于強智能機器人的“失控”既無故意也無過失，則強智能機器人的“失控”對研發者或使用者而言就是意外事件。此處更不存在推卸刑事責任的可能性。

綜上所述，批判者所謂“承認人工智能的犯罪主體地位將會面臨幾大悖論”的問題并不成立，其實沒有一個悖論實際存在，批判者“無法解決”的擔心似乎是多余的。