“警惕人工智能”，我們能做些什么

方少芹等

最近讀謝熊貓君翻譯的《為什么最近有很多名人，如比爾·蓋茨、馬斯克、霍金等，讓人們警惕人工智能？》一文，心情非常復雜，一方面期待人工智能為生活帶來更多的便利，另一方面又擔憂人工智能可能帶來的生存危機。

為何人工智能專家、未來學家、思想家、科學家們要提醒人們警惕人工智能呢？如文章開篇所言——我們正站在變革的邊緣，而這次變革將和人類的出現一般意義重大。“變革的邊緣”指的是人工智能實力可能出現的變化。人工智能按實力可分為三大類：弱人工智能、強人工智能和超人工智能。

目前，弱人工智能在生活中隨處可見，強人工智能尚未實現，而引發眾大家焦慮的是未來可能實現的超人工智能。當超人工智能出現時，人工智能系統的智能瞬間可達到普通人類的17萬倍，這個級別的智能不是人類能夠理解的，“就好像蜜蜂不會理解凱恩斯經濟學一樣”。那么，超人工智能可能在什么時候實現呢？全世界的人工智能專家推測2060年將可能達成超人工智能。對人工智能的未來最有發言權的Ray Kurzweil甚至提出：“到了2045年，我們不但會有超人工智能，還會有一個完全不同的世界——奇點時代。”

Kurzweil的奇點時代是生物技術、納米技術和人工智能技術的共同革命造成的。當我們擁有了超級智能和超級智能所能創造的技術，超人工智能便可以解決人類世界的所有問題，從而幫助我們達到永生，當然也可能使我們出現生存危機。也就是說，當超人工智能降臨時，掌握它的人將決定人類是永生還是滅絕。Kurzweil預言：“超人工智能正從多方的努力中出現，它將深深融入到我們文明的基建中。它會親密地被捆綁在我們的身體和大腦中，反映我們的價值，因為它就是我們。”然而，霍金、比爾·蓋茨、馬斯克以及許多專家則擔心超人工智能是對人類最大的威脅，因為超人工智能會改變所有的事情，而我們對那個領域無法操控。

讀完這篇文章，我發現自己對強人工智能和超人工智能從最初的期盼變成深深的擔憂。這些年無論是在信息技術教學上還是在信息技術課外活動的開展上，我都一直在盡自己小小的力量推動著人工智能在本地區中小學的普及。現在，我該怎么做呢？目前，我能想到的是和伙伴們一起把這篇文章介紹給學生，讓他們及早了解人工智能潛在的危險以便在未來做出積極的反應。同時，我們要通過“生存危機”來引導有志于人工智能的學生樹立制造友善的超人工智能的價值觀，并在信息技術課上加大對學生計算思維培養的力度，從而讓學生擁有行走在智能社會的基本思想方法和程序設計能力。

（本文摘編自方少芹老師博客）