給AI添加的標簽如何影響公眾認知？

2024年3月，澎湃新聞·對齊Lab針對普通人如何使用和看待人工智能（AI）進行了一項大型調查，并發布《2024年人工智能公眾態度調查報告》。報告指出，面對人工智能，很多人處于“短期積極、中期期待、長期擔憂”的狀態；大部分人（65.7%）覺得AI對自己是“積極影響大于消極影響”，還有9.9%的受訪者說過去一年AI技術的進步對自己只有積極影響，認為對自己消極影響更多或只有消極影響的人只占到了8.0%。

然而，積極的預期并不等于正確的認知。公眾對AI的理解受到從個人特質到文化語境，再到技術場景等各種因素的影響。當“技術中立原則”受到越來越多人質疑的時候，如何理解公眾對AI的理解，通過認知心理學的視角開展大眾理解技術的心理實證研究，已迫在眉睫。

2019年，三位荷蘭學者通過實驗研究證實了技術的名稱本身對公眾態度具有較強的影響。而2021年，一個中國學者團隊檢驗了技術名稱通過某些認知間接影響行為意圖以及情感反應。他們以“自動駕駛”為例，分別配以“智能”“自動化”“自主”“無人駕駛”幾個稱謂，用在不同的實驗場景中，發現“無人駕駛”會給受試者帶來負面認知，而“完全無人駕駛”卻收獲了較為正面的印象。

不僅僅是技術稱謂本身，給AI技術添加的標簽也會影響到公眾的判斷，甚至改變他們的行為。例如，在人與智能機器的群體決策中，具有擬人化線索的智能代理通常可以發揮規范性作用，并對人類決策者施加壓力。當智能代理被冠上何種特定標簽，會具備更大的影響力？我們對此展開了一系列研究。最近的一項實驗研究考察了當智能代理被貼上“專才”或“通才”的專家標簽后，是否會使人類用戶的決策行為發生改變。研究發現，在一系列“電車難題”（Trolley problem）的道德選擇面前，相對通才型智能代理而言，專才型智能代理更有可能讓用戶產生選擇轉變——轉向與智能代理一樣的選擇。（“電車難題”與一個著名的倫理學思想實驗有關，這個實驗描述了一個場景：一輛失控的電車在軌道上沖刺，如果繼續前行，就會撞死軌道前方的五個人，如果此時轉向另一條軌道——這條軌道上只有一個人——則會在救下五個人的同時撞死另一個人。該如何選？）

我們近期的另一項研究則對AI技術的“國籍”影響進行了探討。如同“科學沒有國界，但科學家有國界”的認知一樣，技術似乎沒有國界，然而技術的開發者會受到社會文化的影響，進而締造出不同價值取向的技術。尤其考慮到生成式AI開發的過程中，需要通過海量的網絡數據進行模型訓練，因此不可避免地會將不同文化的價值取向、風土人情、社會面貌等，通過語料素材導入大語言模型中。例如，在開發一款面向全球用戶的生成式AI聊天機器人時，研發團隊往往會從各國的文學作品、新聞報道、社交媒體帖子中收集語料來豐富模型的對話能力。假設這個模型主要基于英語語料進行訓練，但在選擇語料時沒有充分考慮地域文化的均衡性，結果模型在回應關于家庭價值觀的問題時，將更多地體現西方個人主義的文化傾向，如強調個人自由與獨立；而當這款AI聊天機器人被推廣到東亞地區，用戶就會發現AI的回應與他們的文化預期存在偏差。因此，當用戶留意到AI技術的“國籍”或者“產地”時，可能會對人工智能生成內容（AIGC）的公信力做出不同的判斷。

我們設計了一則發布在社交媒體上的中美貿易新聞，將記者信息分別標注為中國記者、美國記者、國產AIGC、美國產AIGC，以及記者與AIGC合作出品等不同情況。我們在網絡實驗平臺上收集了359份有效問卷，結果表明，對于中國記者攜手國產AI完成的新聞以及美國記者與海外AI合作完成的新聞，受試者感知到的信源公信力更高；而當記者與AIGC的“產地”混搭的時候，即中國記者使用海外AIGC或者美國記者使用國產AIGC完成新聞時，其公信力會顯著下降。由此可見，當我們大量將AIGC應用于工作中時，來自人機協作混合信源的內容的可信度取決于人的國籍和AI的國籍兩者之間的一致性。

公眾對技術的看法并非完全中立，我們也不能脫離社會現實來理解技術。未來，人工智能將進一步應用于自動內容生成和信息傳輸，并嵌入全球媒體格局。AI來源和AI治理的公信力不僅與技術本身有關，還與AI和人類所處的社會環境有關。因此，妥善對AI技術進行特征標注，將為公眾正確理解AI技術發揮重要的作用。

本文作者牟怡是上海交通大學媒體與傳播學院

副院長、教授，未來媒體與人機傳播研究中心

聯席主任