淺談基于人工智能的機器行為學

高敬瑜

摘? 要：最近剛剛誕生的新學科——機器行為學，由MIT媒體實驗室領銜，哈佛、耶魯等于2019年4月，在Nature發綜述提出，是以考查人工智能體入手，模仿考查生物及其群體的行為、生態及與人類之間的關系，將機器和人類的關系作為研究對象，來研究人工智能的倫理問題、發展問題、進化問題。該文嘗試著發表對它的見解。

關鍵詞：人工智能? 社會倫理? 人機關系? 算法

中圖分類號：TP181 ? ?文獻標識碼：A 文章編號：1672-3791（2019）11（c）-0007-02

機器行為學（Machine behaviour），主要研究智能機器所表現出的行為。現在，人們提出和解決了大量人機倫理問題。科學家基于研究人類和動物行為作為參照、模仿和起點，正在嘗試研究智能機器和智能機器群體在其存在環境中的宏觀行為規律和可能對人類和社會產生的結果。

人工智能已經和正在成為人類現實和將來社會生活的很耀眼的組成部分，機器行為學分為5個部分：（1）研究機人工智能器行為的動機;（2）人工智能機器行為學的跨學科研究;（3）研究對象與研究問題;（4）3種研究范圍：個體、群集與人機交互;（5）展望：人工智能機器行為學未來發展？

1? 對各個部分的理解

基于人工智能的機器正日益深入地建立或者代替我們與網絡媒體和其他組織、個人關于社會、文化、經濟、政治、科技為內容的互動，甚至幫助我們決策、判斷、推理。在廣泛推廣人工智能機器應用的同時，充分把握人工智能系統的基本原理和行為是極其必要和必須的。因此把原屬于計算機學科內的機器行為學（Machine behaviour）擴展開來，融合更多學科的見解。同時我們也深知這個學科同樣受到技術、法律和制度的限制。

基于計算機和機器人學科誕生的機器行為學，與前兩者有很強關聯性，但它們又相互獨立。以類比的思考方法，首先基于經驗也只能在開始基于經驗去解釋智能機器的行為，模仿生命內部本身具有的特質（生理和生化的特質）與外部環境塑造的特質（生態與進化的特質）的行為生態學和動物行為學研究，這種思路也許賦予學科更為深遠的研究視野和范圍，但基于科學和技術的人工智能畢竟和生命體本質上是迥異的，因此，我們研究的近期結果只能是探索性的和初步的，因為我們在關于生命科學的研究上也僅僅是以發現人的疾病和治愈疾病來宣布成果，關于基因和克隆的研究和使用受到技術和倫理的限制。報道上說，動物的行為和人類的行為，不是孤立的和完全自主的，而是與周圍環境的相互作用的結果。因此，人們在考察人工智能機器的執行過程即行為時，不但需要考慮算法本身，也需要考慮算法應用的硬件環境、地理環境和社會環境。

現在，人工智能體（Artificial Intelligence （AI） Agents）包括虛擬載體或者嵌入式的物理實體。研究他們行為的科學家，主要是通過算法設置他們需要的功能，用來解決他們想要解決的問題。

例如，在功能實現上，數據挖掘智能算法應當能夠確定在社交媒體中該鎖定哪幾個目標，玩游戲的智能算法應當能夠過關斬將，擊敗一系列人類和機器對手，在信息分類、人臉識別、視覺識別領域的智能算法，應當達到一個標準的精度，自動駕駛算法應當在不同非晴朗天氣情況下確保成功導航，這些例子只是相關領域的一小部分。

人工智能正不斷地融入我們的社會中的各個方面。例如，無人機作戰、網上約會、自動駕駛、城市交通疏通、個人信用網上評估、物流運輸、治安監控，不同領域的專家學者正從神經科學、教育認知、人機交互、人類行為學、自然科學、工程技術、社會科學、網絡安全、社交安全等不同領域思考人工智能算法的超出創造者預期的行為和后果，既有正面的也有負面的，值得引起我們注意。

1.1 研究機器行為的動機

現在從3個方面來研究機器行為學的研究動機。

第一，手機或其他袖珍移動設備的APP及其算法在社會生活、經濟、生產中正起到越來越重要的作用。

第二，不單單是APP及其算法，還有APP和算法運行的硬件環境、操作系統、通信網絡、服務器和網絡所處社會環境的復雜性，完全了解它們的行為，僅依靠人工和軟件工具等分析手段是很難做到的。

第三，由于人工智能和APP算法的廣泛存在和復雜性，預測它們對社會和個人潛在的好與壞的影響是極其困難的。

如今，在手機和其他人工智能設備中，應用了許多算法和APP;廣告和新聞排名算法和社交媒體信息智能投很大程度上決定了人們看到和聽到的信息。購物網站使用的信用評分算法會計算個人信用評分和給金融機構提供貸款評估和決策依據。依據銷量和購買力及偏好等屬性的在線定價算法給不同的用戶定價，各種在線支付算法交易軟件使得交易變得迅速快捷。依據警務事物變化和市區地理分布變化、人口密度等屬性的智能算法能快速重構警務調度的派遣和空間格局，依據法律條文和審判案例數據庫等屬性的審判算法會協助法院判案和基本確定刑事系統中犯人的服刑時間。智能自動駕駛裝置和算法會使駕駛更方便和幫助老年人降低駕駛疲勞和事故發生;城市智能交通算法會明顯改變傳統車輛的堵車現象，使交通管理和指揮顯著有效。家庭機器人會自動記錄家庭平面和立體空間，對家庭成員口頭命令做出反應，執行常規的家務。家庭機器人有可能代替人們照顧老人和小孩。

在線約會網站所提供的信息和服務中，算法會依據個人信息有效匹配約會對象，促成浪漫的相會。綜合以上枚舉的正在使用的算法，我們認為，以算法為基礎和核心的人工智能自治體正引導著人類的集體行為（Collectivebehaviours），從群體層面的配合行為到共享行為。

人工智能帶來了人們生活的便利，也帶來了管理上的困惑。可以想象，人工智能為發展自動武器提供了技術上的可能，雖然它被嚴格禁止，但總有人嘗試犯罪，一旦智能武器用于沖突和戰爭，人們的生死將由它們決定而不是人類決定。

現在，可商用的和將要使用單個人工智能體已經很復雜，復雜度不斷提升。當初可以用簡單的代碼和訓練模型架構人工智能自治體，但是隨著訓練的深入，成熟后的模型就會變得極其復雜，這經常導致“黑箱（Blackboxes）”的產生。人工智能體也和以前的機器類似，是一個輸入輸出系統，雖然有了許多所謂“可解釋性（Interpretability）”的應用場景，但是人工智能體實際產生這些輸出的過程，對架構它們的科學家來說，也是解釋不清的。

知識產權為應用次數最高的源代碼、模型、數據集添加商業保密和法律保護。許多情況下，我們只能觀察到AI系統的輸入和輸出。

即使開源AI中的程序代碼和數學模型，筆者要精確判斷出系統的輸出也是很困難的。有的AI系統在和相鄰其他智能單元相互作用時會有“特立獨行”的表現，即可能讓人不可理解。即使建構數學模型的數學函數是有解的，那這個解也會因為其復雜性而難以理解。人們越來越難以評估和推算更加復雜的算法對個人和社會帶來的影響、人工智能體對塑造人類的行為和社會結果在意料之中還是意料之外。

AI系統增加了人-機混合系統的復雜度，面對這樣情況，人們很難在正確和偏見之間進行選擇，是相信自己還是服從機器？還有，婚戀網站的算法是否改變人們傳統戀愛行為進而影響婚姻制度;個體與AI提供的虛擬愛人之間的戀愛婚姻算法是否讓人逃避現實生活中的婚姻和生殖、是否會顛覆性地影響人類進化和發展進程。人類-機器混合系統越來越復雜，人類個體和機器行為也更加復雜，產生的管理和指導問題也越來越復雜。機器行為學家必須站立起來，面對挑戰，盡力提供見解和指導，預測AI執行過程，預測執行結果，幫助人類在自己和機器之間合理評估和平衡偏頗。

1.2 機器行為學的跨學科研究

現在的智能系統整體結構是接受信息，輸出結果和行為，它內部的算法相當于一個“黑箱”，要更準確地了解和把握智能系統對周圍環境和社會的影響，需要跨學科知識，跨學科德爾專家參與進來。

我們知道，最近研究行為的科學家大多是智能系統的設計者，它們有計算機方面的專業知識或者數學方面的知識，但他們不了解行為學，幾乎不接觸實驗方面的方法論，基于群體的抽樣訓練，或者基于觀察的因果推理，更少得懂神經科學、集體行為學或者社會理論。

恰恰不同的是，盡管行為學家在對人性、人的個體行為和集體行為與周邊環境、社會大環境的關系的理解上卓有建樹，但是，他們不是計算機專家，不了解程序代碼，不能確定人工智能在全社會環境考慮上，它的性能和行為結果的正當性。因此，將社會行為學家和計算機專家組合在一起形成一個共同團隊很有必要，只有這樣，人們在設計智能系統時，會不僅僅關注智能系統的特定功能，還會考慮社會倫理和周圍環境。

在很多實際問題上，人工智能取得了眾多成果，手機APP語言翻譯系統、實時語音翻譯，各種棋類比賽（西洋棋、國際象棋、圍棋）和撲克游戲、電競游戲等，自動駕駛和機器人足球比賽，尤其AlphaGo戰勝韓國和中國頂尖高手，引起全球計算機行業和其他行業震撼。

單單從計算機學科來考查智能系統的性能，標準單一，還需要考慮社會行為學家設計的各種指標。就是要求社會學家將人工智能系統放到社會、政治等背景下，定義和考察智能系統對社會產生的宏觀或者微觀結果來確定智能系統在不同的環境中如何運行、智能體和人類互動對社會的影響評價。

隨機實驗、觀察推斷和基于群體的統計學方法經常用在定量行為學研究中，現在說的機器行為學就是參照這樣的研究方法。有計算機背景的智能系統設計者和社會行為學家都可以提供自己的研究方法、研究工具、多種可選的概念性框架，同時參與研究人工智能系統對經濟、社會和政治的潛在和現實影響。

2? 結語

先對以上兩部分了解一下，以后再將剩下三部分提出見解。

參考文獻

[1] 新智元.“機器行為學”正式誕生！MIT、哈佛等23位作者Nature長文綜述[EB/OL].https：//baijiahao.baidu.com/s？id=1633404102085188762&wfr=spider&for=pc.