“共情”AI出現(xiàn)了，你會(huì)與之共情嗎？

當(dāng)我們想到有情感的人工智能（AI）時(shí)，素材其實(shí)都來(lái)源于科幻作品，其中的情感式AI常常被描述成一個(gè)尋求人類(lèi)同等愛(ài)意的孤獨(dú)者，或心思縝密的電子大腦。

現(xiàn)在，一家由前“深度思維”（DeepMind）研究員擔(dān)任首席執(zhí)行官的初創(chuàng)公司“Hume AI”，發(fā)布了一款標(biāo)榜為“第一個(gè)具有情商的對(duì)話式AI”的共情語(yǔ)音接口（EVI），它能夠檢測(cè)到用戶53種不同的情緒。

這是技術(shù)上的一個(gè)飛躍。“Hume AI”公司已在一次B輪融資中籌集了5000萬(wàn)美元，但隨之而來(lái)的，也有人們夾雜了恐懼的希冀。

情感是AI的分水嶺嗎？

1997年，IBM的“深藍(lán)”打敗了國(guó)際象棋世界冠軍，其強(qiáng)大的計(jì)算力、純粹的暴力破解法震驚人類(lèi)，也扭轉(zhuǎn)了AI研發(fā)的形勢(shì)。這種暴力破解法，后來(lái)就被用于機(jī)器學(xué)習(xí)，在看似具有無(wú)數(shù)種可能的對(duì)戰(zhàn)中輕松取勝。

現(xiàn)在，各領(lǐng)域的AI挑戰(zhàn)人類(lèi)的消息不斷傳來(lái)，可能會(huì)給人這樣一種錯(cuò)覺(jué)：計(jì)算機(jī)在認(rèn)知能力方面已堪比人類(lèi)。

但兩者之間仍存在一條鴻溝。機(jī)器學(xué)習(xí)和自然語(yǔ)言專(zhuān)家格雷格·霍蘭德告訴人們，人腦可以解決AI前所未見(jiàn)的問(wèn)題，而機(jī)器學(xué)習(xí)依然是針對(duì)特定問(wèn)題而設(shè)計(jì)的。

實(shí)際上，考慮AI的實(shí)現(xiàn)程度，需精準(zhǔn)地用強(qiáng)AI和弱AI來(lái)劃分。“強(qiáng)”是認(rèn)為計(jì)算機(jī)不僅僅可以作為一種工具，其本身就是有思維的。這樣的機(jī)器有知覺(jué)，有自我意識(shí)。

而“弱”則是認(rèn)為不可能制造出能真正進(jìn)行自主推理并解決問(wèn)題的機(jī)器，AI終究是沒(méi)有自主意識(shí)的工具。長(zhǎng)期以來(lái)，主流研究也正是圍繞AI是“工具”這一認(rèn)知展開(kāi)的，且成就可觀。

但也因此，很多人將是否具有知覺(jué)或情感，當(dāng)成了AI發(fā)展的分水嶺。

AI需要理解情感嗎？

AI的下一個(gè)重要問(wèn)題是理解和運(yùn)用情感嗎？“Hume AI”的答案是肯定的。該公司的初衷即是要讓一個(gè)情感智能模型更好地服務(wù)人類(lèi)。

該公司認(rèn)為，情感智能包括從行為中推斷意圖和偏好的能力。這正是AI界面試圖實(shí)現(xiàn)的核心目標(biāo)：推斷人們想要什么，然后去實(shí)現(xiàn)它。因此在某種意義上，情感智能才是AI界面最重要的功能。

同樣作為聊天機(jī)器人，“Hume AI”所發(fā)布的EVI與前輩們的區(qū)別在于，它能專(zhuān)注于理解人類(lèi)情感并作出合理反饋。它不僅能理解文本，還可使用語(yǔ)音對(duì)話接口，聽(tīng)取人類(lèi)的語(yǔ)調(diào)、音高、停頓等聲音特征來(lái)加深理解。

這種理解可能非常細(xì)微，包括但不限于人們的快樂(lè)、悲傷、憤怒、害怕等“大情緒”，連更微妙、更多維的“小情緒”也在體察范圍內(nèi)，譬如欽佩、崇拜、沉迷、諷刺、羞恥等，“Hume AI”在其網(wǎng)站上總共列出了53種不同的情緒。

不得不說(shuō)，像諷刺這種常常帶有反意的情感表達(dá)方式，連人類(lèi)也不是每每都能察覺(jué)到的。

你害怕有情感的AI嗎？

其實(shí)，人們害怕的不僅僅是能感知情感的AI。近年來(lái)，在AI迅猛發(fā)展的同時(shí)，反思和提醒的聲音一直存在。

業(yè)界著名公眾人物的警告也有可能放大恐懼。如被評(píng)為“愛(ài)迪生的合法繼承人”的美國(guó)科學(xué)家?guī)炱濏f爾推斷：在 2045年，AI將超越人類(lèi)大腦，促進(jìn)社會(huì)劇烈轉(zhuǎn)型，跨入高智能機(jī)器時(shí)代。此外，“鋼鐵俠”埃隆·馬斯克也曾說(shuō)過(guò)，AI或許很快會(huì)強(qiáng)大到能統(tǒng)治世界的地步。

但普通人會(huì)覺(jué)得，在到達(dá)那一步之前，AI需要再多點(diǎn)兒什么——感知情感，這可能就是缺失的那一環(huán)。

EVI演示之后反響十分熱烈。但網(wǎng)絡(luò)上已開(kāi)始有人擔(dān)心，用戶會(huì)以一種不健康的方式沉迷于它的“魅力”，同時(shí)使它滋生一些不良用途，譬如誘導(dǎo)、操縱、欺詐等。

人類(lèi)的情感并不只有正面的。當(dāng)AI試著了解甚至學(xué)習(xí)人們的情感表達(dá)時(shí)，是否會(huì)主動(dòng)或被動(dòng)地利用其來(lái)達(dá)到某些目標(biāo)？譬如誘導(dǎo)購(gòu)買(mǎi)、養(yǎng)成惡習(xí)、心理折磨等。

當(dāng)缺少倫理限制與法律紅線時(shí)，被當(dāng)作工具的，可能是人們自己的情感。

（選自《科技日?qǐng)?bào)》2024年4月9日，記者張夢(mèng)然，有改動(dòng)）