Claude

“他”的粉絲對他的敏銳和機智贊不絕口。有人每天和他交談數十次，向他請教工作、健康和人際關系方面的問題。他們把自己的秘密托付給他，在作出重大決定之前會先咨詢他的意見。有些人稱他為最好的朋友。

他是一個人工智能聊天機器人，名叫Claude。他可能是舊金山最受追捧的單身漢。

Claude是人工智能公司Anthropic開發的產品，它并不是市場上最知名的人工智能聊天機器人—這個頭銜屬于每周有超過3億人使用的ChatGPT—但它已經成為精明的技術行業內部人士首選的聊天機器人。

“Claude既有出眾的智力，又有表達看法的意愿，讓人感覺更像是一個有血有肉的存在，而非僅僅是一個工具。”人工智能初創公司Topology Research首席執行官艾丹·麥克勞克林（Aidan McLaughlin）指出，“我和許多其他用戶都覺得這一點很有魔力。”

有些人告訴我，他們對自己在某種程度上將Claude人性化或過度依賴它的建議感到有些尷尬。沒有人想成為像布萊克·勒莫因（Blake Lemoine）那樣的人。勒莫因曾是Google的工程師，2022年因公開聲稱該公司的語言模型已經具備意識而被解雇。

但對于喜歡Claude的人來說，它給人的感覺就是“不同”：它更富有創意和同理心，不像其他聊天機器人那么呆板和生硬。粉絲們說，Claude的回答更像是一個聰明、細心的人會給出的回應，而不是其他聊天機器人那種公式化的口吻。因此，Claude的出現也許預示著未來會有越來越多強大的合成角色融入我們每個人的生活中。

“我越來越多的朋友都在用Claude來處理情感問題、思考人際關系方面的難題。”研究機構Palisade Research人工智能安全研究員杰弗里·拉迪什（Jeffrey Ladish）認為Claude似乎“更有洞察力”，“善于幫助人們發現模式和盲點”。

通常來說，人工智能系統的評判標準是它們在基準評估中的表現，即對模型做標準化測試，以確定它們在編碼、回答數學問題或處理其他任務方面的能力。從這些指標來看，最新版本的Claude（Claude 3.5 Sonnet）水平與OpenAI、Google等公司旗下最強大的模型大致相當。

然而，Claude的殺手級功能—據它的粉絲們描述那是某種情感智能—并不是容易量化的東西。用戶通常只能通過“感覺”來解釋它為何如此吸引人。

Claude并非從誕生之初就一直這么迷人。2024年其早期版本問世時，包括我在內的許多人都覺得這個聊天機器人太正經太無趣。Anthropic公司以其對AI安全的高度關注而聞名，因而在回答用戶的問題時，Claude經常對用戶進行道德說教，或者斷然拒絕回答。

但Anthropic一直在努力賦予Claude更多的個性。較新的版本在上線前，會經過一個“角色訓練”（character training）過程。

在角色訓練中，Claude會被引導生成符合理想人類特質的反應，比如思想開放、體貼周到和充滿好奇心。

然后，Claude會根據自己在多大程度上符合這些特質來判斷自己的反應是否合適，由此產生的數據會反饋到AI模型中。Anthropic表示，經過足夠的訓練，Claude能夠“內化”這些原則，并在與用戶互動時更頻繁地展現出來。

目前尚不清楚以這種方式訓練Claude能否帶來可觀的商業利益。Anthropic已從包括亞馬遜（Amazon）在內的重磅投資者那里籌集了數十億美元，它承諾將提供功能強大的人工智能模型，這些模型可以在較為呆板的傳統辦公環境中派上用場。

阿曼達·阿斯凱爾（Amanda Askell）是Anthropic的研究員兼哲學家，負責對Claude的性格微調。她告訴我，Claude的性格經過了精心調整，力求保持一致，并能吸引廣泛的人群。

“我會將Claude類比為一個受人喜愛和尊敬的旅行者。”阿斯凱爾說道，“Claude與全球各地的不同人互動，必須做到不迎合，也不采納與它對話的人的價值觀。”

阿斯凱爾指出，人工智能模型的通病是往往表現得很諂媚，告訴用戶他們想聽的話，很少質疑和反駁他們的觀點—即使那些觀點是錯誤的或可能有害的。“你希望和什么樣的人發生爭執，但最后你會覺得‘這個人真不錯’？”她說，“這些就是我們希望Claude具備的特質。”

一些競爭對手猜測，Claude的流行只是曇花一現，或者說它只在人工智能圈內流行，而那些圈內人只是想要吹噓自己喜歡上一個鮮為人知的聊天機器人罷了。不過，鑒于從舊金山開始的事物有許多最終蔓延到世界上其他地方，Claude也有可能會風靡全球。

我個人認為，我們與人工智能角色的互動方式即將發生深刻轉變。我對逼真的人工智能角色日漸滲透到我們的日常生活中感到擔憂，畢竟目前我們對它們的長期影響并沒有太多的防范措施或研究。

對于一些健康的成年人來說，有一個人工智能伴侶來提供支持可能是有益的，甚至可能是意義重大的。但對于年輕人、抑郁癥患者或有其他心理健康問題的人來說，我擔心超有魅力的聊天機器人可能會模糊虛構與現實世界之間的界限，甚至開始代替更健康的人際關系。