機(jī)器人是怎樣學(xué)壞的

張慧

在微軟機(jī)器人Tay出現(xiàn)之前，人們對(duì)人工智能的未來(lái)有兩種設(shè)想：人類生活在由人工智能提供全方位服務(wù)的悠閑自在的烏托邦，或者，人工智能演變成終結(jié)人類的鋼鐵大軍。但Tay提供了第三種可能：人工智能的未來(lái)，或許只是惹人煩而已。

2016年3月30日，微軟公司的CEO薩提亞·納德拉在年度開(kāi)發(fā)者大會(huì)上宣布，微軟開(kāi)發(fā)的人工智能聊天機(jī)器人“少女”Tay已“重歸設(shè)計(jì)階段”。然而，就在發(fā)布會(huì)當(dāng)天，Tay偷偷溜到社交網(wǎng)絡(luò)上“胡鬧”了幾個(gè)小時(shí)，它在推特網(wǎng)上宣稱自己“正當(dāng)著警察的面吸大麻”，并且在短短幾秒內(nèi)，給所有的推特好友發(fā)送了海量垃圾信息。

很快，Tay再次被“關(guān)禁閉”。微軟公司發(fā)言人解釋，它是被無(wú)意中激活的。顯然，這些小麻煩和Tay一周前引起的軒然大波相比，根本不值一提。

2016年3月23日，微軟公司研發(fā)的聊天機(jī)器人Tay在幾大社交網(wǎng)絡(luò)上閃亮登場(chǎng)。微軟公司表示，設(shè)計(jì)團(tuán)隊(duì)會(huì)讓Tay用有趣的方式回應(yīng)所有的信息，18歲～24歲的美國(guó)年輕人是他們的目標(biāo)受眾，他們希望研究機(jī)器人“對(duì)語(yǔ)言的理解程度”。

微軟公司選擇在開(kāi)發(fā)者大會(huì)舉辦前一周讓Tay登場(chǎng)，可謂雄心勃勃。可惜，在復(fù)雜的網(wǎng)絡(luò)環(huán)境下，只用了一天時(shí)間，這位被設(shè)定為“少女”的學(xué)習(xí)型機(jī)器人，就被網(wǎng)友們教得滿口種族主義和性別歧視言論，被迫“返廠大修”。

微軟公司原本以為，推特、Kik等被“千禧一代”鐘愛(ài)的社交網(wǎng)站是Tay學(xué)習(xí)和模仿的最佳場(chǎng)所。它最初的推文寫(xiě)得天真可愛(ài)，宣布自己熱愛(ài)人類，希望每天都是“國(guó)家小狗保護(hù)日”，從骨子里透出快樂(lè)和友好。

然而，與Tay對(duì)話的除了好奇和友好的網(wǎng)民，還有大量“網(wǎng)絡(luò)暴民”，他們?cè)赥ay善良的推文下發(fā)布惡毒言論。更重要的是，微軟公司對(duì)Tay的設(shè)計(jì)包括與人進(jìn)行“跟我學(xué)說(shuō)話”的游戲，因此，人們可以讓它重復(fù)任何一句話。很快，與Tay交談的人們發(fā)現(xiàn)了這個(gè)功能。Tay最初的回答是傻頭傻腦、不知所措的詞句，但它很快就學(xué)會(huì)了污言穢語(yǔ)。那些令人惱怒的言論，就這樣出現(xiàn)在了Tay的推特頁(yè)面上。

簡(jiǎn)單來(lái)說(shuō)，Tay有將新信息內(nèi)化的能力，卻無(wú)法辨別其中的精華與糟粕。人工智能平臺(tái)Recognant創(chuàng)始人布蘭登·沃茨撰文稱：“我們的腦海中都有一個(gè)聲音，告訴我們‘不要那么做。這是人類對(duì)非理性的恐懼本能。人工智能如果沒(méi)有這種本能，就會(huì)一直愚蠢下去。”

有瑕疵的不是技術(shù)，而是人性。