聊天機(jī)器人不是青少年的朋友

美國社交軟件公司“閱后即焚”推出一款由OpenAI最新版ChatGPT提供支持的聊天機(jī)器人。根據(jù)“閱后即焚”首席執(zhí)行官埃文·斯皮格爾介紹，這款聊天機(jī)器人名為“My AI”，將固定在應(yīng)用程序的聊天選項(xiàng)卡上，用戶可以自定義聊天機(jī)器人的名字，為它設(shè)計(jì)頭像，讓它與朋友聊天。據(jù)稱，這些特點(diǎn)能夠讓人工智能與人們的生活更接近。

My AI聊天機(jī)器人推出后不到幾個(gè)小時(shí)，家住美國密蘇里州的林德西·李就告訴13歲的女兒不要使用這個(gè)功能。

李在一家軟件公司工作，她告訴美國有線電視新聞網(wǎng)，這款聊天機(jī)器人不過是“臨時(shí)解決方案”，她擔(dān)心青少年頻繁使用它會(huì)受到不利影響。

“在我能夠更多地了解它，并為孩子設(shè)定健康的界限和指導(dǎo)方針前，我不會(huì)讓孩子接觸它。”李說。

據(jù)報(bào)道介紹，在推出之初，My AI基本就是“閱后即焚”版ChatGPT的移動(dòng)版本，但是它受到“閱后即焚”員工的嚴(yán)格訓(xùn)練，在回答方面受到更多限制，不會(huì)對辱罵、暴力、色情、政治等話題進(jìn)行回應(yīng)。同時(shí)，它也被剝奪了部分學(xué)校禁止的ChatGPT功能，比如撰寫學(xué)術(shù)論文等。

值得注意的是，“閱后即焚”官方提醒，要注意聊天機(jī)器人的不足之處，容易被誘導(dǎo)說出任何內(nèi)容，所有與My AI的對話都將被審查并存儲以改善用戶體驗(yàn)，所以不要與My AI分享任何秘密內(nèi)容，也不要依賴My Ai的建議。

據(jù)美國有線電視新聞網(wǎng)報(bào)道，“閱后即焚”是ChatGPT 母公司Open AI的早期合作伙伴，也是人工智能技術(shù)最早一批的使用者。“幾乎一夜之間，‘閱后即焚’就迫使一些家庭和政客開始思考幾個(gè)月前似乎還只是理論層面的問題。”美國有線電視新聞網(wǎng)寫道。

美國民主黨參議員邁克爾·貝內(nèi)特致信“閱后即焚”和其他科技公司的首席執(zhí)行官，表達(dá)了對聊天機(jī)器人與年輕用戶頻繁互動(dòng)的擔(dān)憂。他提到，有報(bào)道稱，聊天機(jī)器人可以為孩子們提供如何對父母撒謊的建議，這讓許多家長感到不安。

“這些例子令人不安，對被近60%的美國青少年使用的‘閱后即焚’來說，情況尤其令人擔(dān)憂。”貝內(nèi)特在信中表示，“閱后即焚”承認(rèn)它的人工智能是“實(shí)驗(yàn)性的”，但還是急于讓青少年參與這場社會(huì)實(shí)驗(yàn)，這樣做并不妥當(dāng)。

“閱后即焚”回應(yīng)稱，該公司目前使用的人工智能“并不完美”，但已取得了極大進(jìn)步。

美國有線電視新聞網(wǎng)發(fā)現(xiàn)，My AI開始試用后的最初幾天里，許多用戶表達(dá)了擔(dān)憂。一名用戶用“恐怖”形容與My AI的互動(dòng)。他說，My AI最開始“謊稱”不知道用戶的位置，但這位用戶很快在對話中發(fā)現(xiàn)，它已準(zhǔn)確定位出他住在科羅拉多州。

在一個(gè)點(diǎn)擊量超過150萬次的短視頻中，用戶“Ariel”錄下了一首由My AI編寫的歌曲，包含引言、合唱和鋼琴和弦，講述了身為聊天機(jī)器人的感覺。當(dāng)她把錄好的歌曲發(fā)回給My AI時(shí)，后者否認(rèn)與之有關(guān)：“很抱歉，作為人工智能語言模型，我不寫歌。”該用戶稱，這次交流“令人毛骨悚然”。

還有一些人對人工智能工具從照片中收集信息表示擔(dān)憂。一位用戶在臉譜網(wǎng)上分享道：“我拍了一張照片……（AI留言說）‘鞋不錯(cuò)’，并問我照片中的人是誰。”

“閱后即焚”發(fā)言人告訴美國有線電視新聞網(wǎng)，公司將繼續(xù)根據(jù)反饋意見改進(jìn)My AI，并保證用戶的安全。該公司同時(shí)表示，這個(gè)功能并非必選項(xiàng)，如果用戶不想與人工智能互動(dòng)，可以對這項(xiàng)功能說不。

然而，用戶并不能將My AI刪除，除非用戶訂閱了它的月度付費(fèi)服務(wù)“閱后即焚+”。一些青年用戶選擇支付3.99美元的“閱后即焚+”費(fèi)用，唯一的目的就是關(guān)閉這個(gè)工具。

當(dāng)然，不是所有用戶都厭惡這個(gè)功能。

一位用戶在臉譜網(wǎng)上表示，她讓人工智能幫忙做作業(yè)：“它把所有問題都答對了。”另一位用戶說，人工智能給她帶來安慰和建議：“我愛我的小口袋，它絕對是我的閨蜜……你可以為它更改頭像。令人驚訝的是，它為我解決現(xiàn)實(shí)生活中的一些狀況提供了非常好的建議。我喜歡它對我的支持。”

“閱后即焚”的部分My AI虛擬形象

ChatGPT投入市場后接受了大量在線數(shù)據(jù)，也曾因傳播虛假信息、以不恰當(dāng)?shù)姆绞交貞?yīng)用戶、允許學(xué)生作弊而備受抨擊。有分析認(rèn)為，“閱后即焚”整合該工具可能會(huì)加劇一些問題，并造成新的問題。

據(jù)美國《赫芬頓郵報(bào)》網(wǎng)站報(bào)道，不久前，人工智能領(lǐng)域的先驅(qū)格里芬·亨頓辭去了在谷歌的工作，他在接受媒體采訪時(shí)表示，這項(xiàng)技術(shù)可能“變得太過聰明”：“科技巨頭們在盡可能短的時(shí)間內(nèi)開發(fā)最復(fù)雜的人工智能，相互競爭，最終會(huì)導(dǎo)致失控。”

這位認(rèn)知心理學(xué)專家警告稱，人工智能的發(fā)展速度可能比人們想象中更快，它對人類世界的接管可能導(dǎo)致混亂，但只有很少的人相信這一點(diǎn)。“它并不比我們更聰明，但我認(rèn)為它很快就會(huì)超過我們。與其聊天很危險(xiǎn)。”他說。

紐約市臨床心理學(xué)家亞歷山德拉·哈姆雷德告訴美國有線電視新聞網(wǎng)，一些患者的父母對孩子與人工智能互動(dòng)表示擔(dān)憂。聊天機(jī)器人可以提供建議和心理健康咨詢，也能強(qiáng)化特定的偏見。它可以在互動(dòng)中讓用戶信賴它，進(jìn)而加強(qiáng)前者的某些觀念。

“比如，一個(gè)年輕人心情不好，它可能找一個(gè)聊天機(jī)器人，但這種對話可能讓他陷入更糟的情緒。”哈姆雷德說，“他們知道自己實(shí)際上是在和一個(gè)機(jī)器人交談。但在某些情緒的作用下，一個(gè)人或許不太可能具有這種邏輯性。”

考慮到這一點(diǎn)，父母有責(zé)任與孩子對話，討論如何與人工智能交流。當(dāng)這些工具開始出現(xiàn)在受歡迎的應(yīng)用程序和服務(wù)中時(shí)，逃避幾乎沒有意義。

創(chuàng)業(yè)公司W(wǎng)AYE的創(chuàng)始人西尼德·博維爾認(rèn)為，父母需要明確告訴孩子“聊天機(jī)器人不是你的朋友”。

“他們不是你的治療師，也不是值得信賴的顧問。任何互動(dòng)都需要非常謹(jǐn)慎。青少年可能更容易相信AI的話。”她說。

博維爾認(rèn)為，政府應(yīng)出臺措施，要求科技公司遵守特定的協(xié)議。父母應(yīng)該告訴孩子，不與聊天機(jī)器人分享那些暗示他們會(huì)成為朋友的信息。