人工智能的倫理關切

周劍銘++柳渝

2017年1月在美國加州阿西洛馬（Asilomar）召開的“阿西洛馬會議”（the 2017 Asilomar Conference）上，包括844名人工智能和機器人領域的專家們基于對人工智能和機器人（AI和Robot）迅猛發展的深切關注，聯合簽署了《阿西洛馬人工智能原則》（Asilomar AI Principles），呼吁全世界的人工智能領域的工作者遵守這些原則，共同保障人類未來的利益和安全。

對AI和Robot的發展所產生的對人類自身的地位和價值影響的擔憂由來已久。稍早，在2014年，由Skype聯合創始人Jaan Tallinn、麻省理工學院教授Max Tegmark、物理學家史蒂芬·霍金、SpaceX和Tesla Motors創始人埃隆·馬斯克、牛津大學未來人類研究所（Future of Humanity Institute）主任Nick Bostrom等有關的專家教授，以志愿者的身份創立了未來生命研究所（Future of Life Institute，FLI）。2015年1月11日，他們發表了一封公開信：題目是《為穩健性和利益性的人工智能而進行研究》，提出“我們的人工智能必須只做我們要它們做的”，即“有益的人工智能”（Beneficial AI）的口號，而對這樣的問題的高度關注，此前已經引起了業內外的廣泛注意和嚴肅討論并有所行動。更早的時候，在實體機器人出現之前的上世紀四十年代，科幻小說家阿西莫夫著名的《機器人學三大法則》及其之后的多種補充原則，被廣泛地引用和爭論。

《阿西洛馬人工智能原則》實際上是所有對AI和Robot的發展而產生的對人類難以估量的影響的長期觀察、思考的一次集中性表達，在更深遠的意義上，可以看作是科學家頂替缺位的哲學家、人類學家、倫理學家對人類自身的性質、地位和價值的一次嚴肅思考。（柳渝為法國亞眠大學計算機系副教授）