智能的背面是智“否”

周云龍

智能時代，智能技術(shù)的邊界在哪里？當(dāng)人們剛剛出發(fā)起跑的時候，也許就要“心里有底”“腳下有數(shù)”，否則走得越遠(yuǎn)，方向越偏。最近看一檔青年創(chuàng)業(yè)服務(wù)類節(jié)目《創(chuàng)投合伙人》，某自動化科技公司董事長的講述，引人入勝。其中談及團(tuán)隊創(chuàng)業(yè)初期刻骨銘心的一段插曲，有點意思。

浙江一家企業(yè)，生產(chǎn)鵝肝，銷往世界各地。據(jù)介紹，在中國，這種奢侈食材，一年大概有300億元的市場份額。那個企業(yè)老板，試圖從“流程再造”切入搶占市場，他想新上一套智能化設(shè)備，專門給鵝喂食。所謂的智能化，就是把鵝分別關(guān)到一排緊身的籠子里，不給騰挪的空間，然后有設(shè)備瞄準(zhǔn)鵝的嘴部，自動填飼。老板四處打聽，找到了這位董事長，邀請他們團(tuán)隊定向研發(fā)一種新型填飼機(jī)。董事長應(yīng)約而去，但在了解用戶訴求之后，他們給出明確的答復(fù)：技術(shù)上，肯定可以做，而且可以實行智能控制，但是，從倫理上來說，從動物福利的角度，不能做，“這么粗的一根管子，抓著個鵝頭直接插進(jìn)去，然后食物嘩嘩嘩往里面打，那太殘忍了。”（荔枝新聞 2019-03-03）

再一次理解了那個網(wǎng)絡(luò)金句的現(xiàn)實意義：善良比聰明更難得。聰明是一種天賦，而善良是一種選擇。那位自動化科技公司董事長，給我們提供了一種反向思考的路徑：“智否”。在智力所及的領(lǐng)域，能力所及的地步，不是都可以研發(fā)，也不是都可以制造，更不是什么都可以應(yīng)用，有些事“能”，有些事“否”，即使事關(guān)低人一等的動物之痛癢。

人工智能，是引領(lǐng)未來產(chǎn)業(yè)變革的顛覆性技術(shù)。現(xiàn)在，全世界每天有數(shù)以百萬計的人在使用文本自動翻譯工具;計算機(jī)比人更善于識別人臉;無人駕駛汽車即將問世，未來10年將奔馳在每一條大路上……不過，專家也因此表示遠(yuǎn)慮，越是強(qiáng)大的技術(shù)，實際應(yīng)用過程中，就越表現(xiàn)出極其明顯的工具屬性：它既可以大大提高社會生產(chǎn)力，為人類社會帶來福祉，又可能被不當(dāng)利用，給社會管理帶來新挑戰(zhàn)。

如何看待人工智能的威脅？要采取行動控制人工智能嗎？是否要像對待核能和其他潛在危險的技術(shù)一樣，制定法律甚至是國際條約來控制人工智能的發(fā)展？當(dāng)下，人工智能的應(yīng)用場景日新月異，制造、倉儲、交通、汽車、教育、醫(yī)療、金融、家居、陪護(hù)、娛樂、服務(wù)等各行各業(yè)都可看到人工智能的身影。剛剛結(jié)束的全國兩會上，也有代表、委員呼吁，通過立法對智能應(yīng)用進(jìn)行規(guī)范，十分必要。

路上車多了，路況復(fù)雜了，就需要制定并且不斷調(diào)整交通規(guī)則。而最根本的是，交通參與者要具備基本的素質(zhì)，要樹立現(xiàn)代交通意識。負(fù)責(zé)和道德地使用人工智能，不能單純地依靠個體的自覺。浙江那家鵝肝生產(chǎn)企業(yè)，你不給他研發(fā)“填飼機(jī)”，但可能并不影響其他人趨之若鶩。

鵝肝，可能是不可多得的美味，但是，鵝的生存世界，應(yīng)該有“曲項向天歌”的優(yōu)哉游哉，可以有“白毛浮綠水，紅掌撥清波”的自由自在。所以，在人工智能立法之前，還是先列出一份“智否”清單（智能所不可觸及的領(lǐng)地），提醒有理性有良知的人們，閱讀理解，自覺參照。這些都是常識，不過，在知識迭代，技術(shù)迭代加劇的背景下，常識也要常提，也需回歸。

當(dāng)理論自覺轉(zhuǎn)化為實踐自覺，上升到價值自覺、個體的自覺，往往可以匯聚成推動社會進(jìn)步的強(qiáng)大力量。

（作者單位：江蘇電視臺教育頻道）