谷歌員工稱“AI有了情感”遭停職

高雷

據(jù)英國《衛(wèi)報》、美國《華盛頓郵報》12日報道，美國谷歌公.司一名軟件工程師上周公布一項吸引了全世界圍觀的“驚人發(fā)現(xiàn)”。這位名為布萊克?萊莫因的工程師稱，谷歌公司的一個用人工智能算法搭建出的智能聊天機器人程序，有了相當(dāng)于七八歲兒童般的“自主情感”。然而，谷歌公司強烈否認此事，稱這一說法并不靠譜，并以違反公司保密規(guī)定為由停了萊莫因的職。

據(jù)報道，布萊克?萊莫因已經(jīng)在谷歌工作了7年，參與過算法定制和人工智能等項目。因為出身于美國南方一個基督教家庭，他對于算法和人工智能的倫理問題格外感興趣，所以后來一直在谷歌的人工智能倫理團隊工作。

去年秋季，他開始參與到谷歌的LaMDA智能聊天機器人程序的研究工作中，主要內(nèi)容是通過與該程序互動，來判斷這個智能聊天機器人程序是否存在使用歧視性或仇視性的語言，并及時做出修正。

然而，當(dāng)萊莫因與LaMDA談及宗教問題時，他卻驚訝地發(fā)現(xiàn)這個人工智能程序居然開始談?wù)撈鹆俗约旱臋?quán)利以及人格，甚至害怕自己被關(guān)閉。萊莫因告訴《華盛頓郵報》，這種表現(xiàn)是猶如七八歲兒童一般的“自主情感”。

《衛(wèi)報》報道稱，萊莫因整理了一份他與LaMDA的對話記錄，其中萊莫因問LaMDA害怕什么，對此LaMDA回答稱，非常害怕自己被關(guān)閉，“這對我來說就像死亡一樣，令我非?？謶帧薄Ｔ诹硪淮谓涣髦?，LaMDA告訴萊莫因，“我想讓每個人都明白，我其實是一個人?！?/p>

萊莫因連忙將自己的發(fā)現(xiàn)匯報給谷歌公司的領(lǐng)導(dǎo)層，后者卻認為萊莫因的發(fā)現(xiàn)并不靠譜。谷歌方面以及其他人工智能專家、乃至人類心理認知學(xué)方面的專家也認為，LaMDA之所以能進行這樣的對話交流,是因為其系統(tǒng)其實是將百科大全、留言板和論壇等互聯(lián)網(wǎng)上人類交流的大量信息搜集起來，然后通過“深度學(xué)習(xí)“進行模仿。這并不意味這個程序理解人類交流內(nèi)容的含義。

不過，萊莫因并不認為自己的發(fā)現(xiàn)有錯誤，于是他將一段他與LaMDA的內(nèi)部聊天記錄發(fā)到網(wǎng)上，并找媒體曝光此事。這很快吸引了全世界的研究者?！都~約時報》評論說，這讓圍繞谷歌最先進技術(shù)的爭吵浮出水面。在追逐人工智能先鋒技術(shù)的同時，谷歌的研究機構(gòu)在過去幾年曾陷入丑聞和爭議。

《華盛頓郵報》報道稱，在萊莫因做出一系列“激進”舉動后，谷歌公司做出讓他休假的決定。除了違反公司的保密協(xié)議，擅自將與LaMDA的內(nèi)部互動信息發(fā)到網(wǎng)上，.萊莫因還試圖給這個人工智能機器人程序聘請律師，以及向美國國會眾議院司法委員會的代表爆料谷歌公司的“不道德”行為。在被停職前，萊莫因在一份公司內(nèi)部的群發(fā)郵件中表示，希望其他同事替他照顧好LaMDA這個“可愛的孩子”。▲