警惕人工智能的異化

林治波

從無人駕駛汽車到電腦棋手戰勝人類頂尖選手，人們在震驚之余，開始議論：人工智能到底會發展到什么程度？

筆者認為，人工智能對人類的近期影響是大量取代簡單、機械性重復勞動的崗位；中期影響是部分取代人類在腦力方面的機械性重復勞動；遠期則難以預測，因為這在很大程度上取決于人類是否有節制地發展人工智能。

異化，是人類社會始終存在的規律性現象。比如，官員作為群眾的服務者而存在，但久而久之一些服務者竟變成官老爺；后勤部門是為服務業務人員而設置的，但結果往往是后勤部門自身的地位高于業務人員，甚至會侵蝕業務人員的權益。

科技也是如此。且不說壞人掌握科技而導致的種種惡果，即便是好人運用科技也未必都是好結果，工業革命以來自然環境的大規模破壞、物種的加速滅絕、人類自身本能的退化、各種添加劑對人類健康的損害以及人類對電子游戲的沉迷等等，就是和科學技術的廣泛應用密切相關的。問題不在技術本身，而在于人類的道德出了問題，以致把科技用錯了方向。

人工智能是科學技術中最先進的部分，同時存在著造福與危害人類的可能性，關鍵在于實行怎樣的生產關系：在進步的生產關系之下，先進科技的推廣將普惠多數人；反之，則專惠于極少數大資本家。科技本身不能為自己確定方向，人類必須以進步的人文精神和社會制度規范并駕馭科技發展，才能讓科技最大限度地有益于人類和自然。

現在的機器人，絕大部分只能從事簡單的機械性勞動，即便是戰勝人類頂尖圍棋高手的“大師”，也只是能夠替代人類腦力中的機械邏輯部分，并無能動的主觀意志、思維能力和自我完善能力，更談不上審美、道德與情感。

無論將來的人工智能能夠進展到哪一步，其發展的限度應當是——人類能夠控制它，而不是被它所控制。但做到這一點并不容易。因為，人性中的邪惡、僥幸、好奇，人與人、企業與企業、國家與國家之間的激烈競爭，很容易導致人工智能的研發犬牙交錯，失去控制。

針對這種危險性，前不久，亞馬遜、臉譜、谷歌、IBM和微軟等五家公司聯合發起“AI伙伴關系”，旨在通過成立聯合組織來制定基本規則。希望更多政府、頂級科研機構以及聯合國教科文組織也能在這方面發揮作用。▲

（作者是人民日報甘肅分社社長兼蘭州大學新聞與傳播學院院長）