博覽

機器有了“心”AI 能“讀懂”人類價值觀

據了解，當今廣泛應用的AI系統是一種被動的智能，只能機械地按照人類給定的任務行事，缺乏像人類一樣的認知和推理能力以及情感和價值觀。在缺“心”的情況下，AI很難理解人類真正的意圖及價值需求，自然也就難以獲取人類的信任、融入社會。

北京大學人工智能研究院取得重大研究成果，構建出一種機器實時理解人類價值觀的計算框架，讓機器人與人類用戶通過實時溝通完成一系列復雜人機協作任務。這一研究可謂為機器立“心”，讓AI（人工智能）賦能機器人“讀懂”人類價值觀。

該研究團隊提出一個基于即時雙向價值對齊模型的可解釋AI系統，讓機器通過與人類的即時交互并通過相應反饋來推斷人類用戶的價值目標，并通過“解釋”將其決策過程傳達給用戶，以了解機器人作出判斷的價值依據。研究結果表明，該學習模型可在復雜協作任務中提高人機協作效率，進而提升人機信賴關系，實現真正自主智能，在邁向通用AI的道路上更進一步。