機(jī)器人怎樣記憶和遺忘？

葉德圣

忘事，是人們經(jīng)常碰到的事。有時(shí)忘了這，有時(shí)忘了那，甚至有時(shí)還會(huì)忘了自己的生日。或許某些人有超強(qiáng)的記憶天賦，把一幅撲克牌隨機(jī)打亂，他隨意掃兩眼，就能記住所有牌的順序。但這只是少數(shù)特例，人似乎永遠(yuǎn)不會(huì)完全掌控自己的記憶。

那么，現(xiàn)在發(fā)展火爆的人工智能和智能機(jī)器人是不是能克服遺忘？或者說，遺忘必須要克服嗎？

人類為什么會(huì)忘記

首先，應(yīng)該弄清楚人類為什么會(huì)有遺忘。一般有兩種解釋，第一種比較通俗，即人的大腦容量有限，記的東西多了，自然要清理，以便“騰空間”，也就是遺忘。

然而，世界上有一種非常罕見的人，就是“超憶癥”患者。超憶癥的表現(xiàn)是，大腦有自動(dòng)記憶系統(tǒng)，不加選擇，會(huì)將經(jīng)歷過的一切事一絲不落都記住，并且很長(zhǎng)時(shí)間后還能清晰回憶起來，對(duì)數(shù)字、時(shí)間尤其敏感。若從這個(gè)角度講，大腦容量似乎超乎想象地大，應(yīng)該不會(huì)出現(xiàn)不夠用的情況。

第二種解釋，就是遺忘有助于人類認(rèn)識(shí)世界。記住與理解是不一樣的。當(dāng)忘掉一些沒什么價(jià)值的信息，只保留一些有用的、有價(jià)值的、有關(guān)聯(lián)的信息時(shí)，才會(huì)更好地理解世界。

研究也表明，一些重復(fù)的、單調(diào)的信息，人們很難記住；對(duì)于一些矛盾的、有沖突的信息，人們則更容易記住，因?yàn)檫@代表著對(duì)世界的某些“理解”。還有某些重要的、新穎的信息，以及當(dāng)時(shí)人們的情感體驗(yàn)，也很容易記住。如2001年9月11日，許多人能清楚憶起當(dāng)天事件發(fā)生時(shí)，自己當(dāng)時(shí)在哪里，在做什么。

智能機(jī)器需要遺忘嗎

智能機(jī)器人記憶信息，與計(jì)算機(jī)的原理非常類似。它包括兩部分，一是內(nèi)存儲(chǔ)器，俗稱內(nèi)存，暫時(shí)存放數(shù)據(jù)，由中央處理器運(yùn)算后將結(jié)果輸出。二是外存儲(chǔ)器，一般指硬盤，可以與內(nèi)存儲(chǔ)器交換數(shù)據(jù)，也可以長(zhǎng)久存放數(shù)據(jù)。

內(nèi)存的容量一般不大，它需要經(jīng)常退出程序，清除數(shù)據(jù)，從而釋放空間進(jìn)行其他運(yùn)算。外存儲(chǔ)器也是同樣道理，也是有限的。這都類似于“遺忘”，并且也都適用于智能機(jī)器人。

人工智能和智能機(jī)器人，它們的運(yùn)算結(jié)構(gòu)不同于計(jì)算機(jī)，而是一種網(wǎng)狀運(yùn)算結(jié)構(gòu)聯(lián)結(jié)，如同大腦的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)一般。理論上，它們可以有幾乎無限的存儲(chǔ)空間（如Gmail郵箱的存儲(chǔ)空間一直在增長(zhǎng)，即使它們算法不同），但實(shí)際運(yùn)行中，智能機(jī)器運(yùn)轉(zhuǎn)時(shí)間長(zhǎng)了，存儲(chǔ)信息就會(huì)越來越多，而后續(xù)有些運(yùn)算、預(yù)測(cè)不需要用到這么多信息，這時(shí)它附載的信息超過了它所需調(diào)用的信息，這時(shí)就會(huì)妨礙智能機(jī)器的深度學(xué)習(xí)，尤其妨礙其預(yù)測(cè)能力。

災(zāi)難性遺忘

顯然，智能機(jī)器也要學(xué)會(huì)遺忘。而且，它還要克服遺忘的另一個(gè)極端——“災(zāi)難性遺忘”。

人類會(huì)把某種舊技能遷移至新能力上。但是與人類不同，目前智能機(jī)器做不到這一點(diǎn)。它在不斷學(xué)習(xí)的過程中，信息總量也會(huì)不斷增加。當(dāng)再增加一項(xiàng)新任務(wù)，學(xué)習(xí)新內(nèi)容時(shí)，它的“神經(jīng)網(wǎng)絡(luò)”需要重置，即抹去先前的所有記憶而從頭開始。這就是災(zāi)難性遺忘。

谷歌DeepMind就有這個(gè)缺陷，但是目前有了初步改進(jìn)，不過未來還有很長(zhǎng)的路要走。

智能機(jī)器該忘記什么

毋庸置疑，智能機(jī)器需要忘記，但又不能全部忘記。那么它究竟要忘記什么？

與人類一樣，遺忘的原則就是，記住重要的、有用的信息，忘記沒價(jià)值的、不相關(guān)的。但實(shí)際操作起來，涉及很多方面，絕沒那么容易。

美國(guó)亞馬遜公司有一款藍(lán)牙音箱，其實(shí)它真正身份是智能家庭助手，取名為Echo。人們可以通過語(yǔ)音，對(duì)它進(jìn)行控制，并進(jìn)而控制其他設(shè)備。因此它總是時(shí)刻在聽“命令提示符”，也因此存儲(chǔ)了大量信息。阿肯色州警方曾經(jīng)要求亞馬遜公司配合，去查詢一個(gè)殺人嫌犯家里的Echo，試圖提取更多證據(jù)。

問題在于，Echo存儲(chǔ)的數(shù)據(jù)屬于誰(shuí)？亞馬遜公司、嫌犯還是Echo自己？誰(shuí)擁有所有權(quán)，誰(shuí)可以決定信息的取舍？所有權(quán)不同，決定遺忘的信息內(nèi)容也是完全不一樣的。

還有，假如你學(xué)會(huì)了抽煙，但被父母發(fā)現(xiàn)后，就起誓保證今后絕不再抽，可是趁沒人時(shí)又偷偷抽了，而恰巧你家里的智能機(jī)器人看到了，該怎么辦，要忘記嗎？又假如，它看到你傷害別人，做了非法的事呢，它應(yīng)該選擇記憶還是遺忘呢？

決定智能機(jī)器遺忘什么，不單單是由它目前正在處理的事決定，也不單單是技術(shù)問題，而是涉及隱私、法律以及倫理道德的社會(huì)大問題。表面上看，這是關(guān)于一個(gè)機(jī)器人的記憶問題，但實(shí)際上，這是對(duì)人類社會(huì)的一種深刻挑戰(zhàn)。endprint