美國國防部出臺人工智能倫理準則

徐能武?龍坤

2021年8月2日，美國參聯會主席馬克·米利發表演講稱，人工智能、無人系統等技術是未來作戰必須具備的新興能力，將從根本上改變未來戰爭的作戰樣式。由于人工智能在美軍中越來越受重視，因此制定和實施人工智能倫理規范就成為美軍推進人工智能軍事應用的重要一環。從2019年關于人工智能的五項原則和十二條建議，到2020年人工智能領域五項道德原則，再到今年6月“負責任地使用人工智能”六項原則，美國國防部接連出臺和完善人工智能倫理準則，其主要考慮如下：

一是維持美軍科技優勢和軍事霸權。美軍認為只有制定了人工智能軍事應用的倫理準則，才能以可靠和保證問責清晰的方式推進人工智能的軍事應用，從而推進“第三次抵消戰略”，維持美軍的科技優勢與軍事霸權。而如果不盡快制定倫理準則，會面臨兩方面的重大風險。一方面是競爭對手進行“技術突襲”、損害美軍技術優勢和國家安全的風險;另一方面是人工智能應用中可能發生事故、危害美國國家安全的風險。具體而言，美國認為一些競爭對手正在利用人工智能和機器學習技術進行情報搜集和數據分析。而人工智能引發事故風險則主要包括算法偏見、不可解釋性、復雜戰場環境的不適應性、人工智能系統行為與意圖不符、系統交互所帶來的非預期事故等內部可靠性問題，以及人工智能系統容易遭受訓練數據投毒、對抗性欺騙攻擊、黑客攻擊等外部風險。

二是彌合美國軍方與科技企業間的理念分歧。美國國防部出臺人工智能軍事應用倫理準則的直接誘因是美軍與科技企業的文化沖突。近年來，面對美軍推動人工智能軍事應用這一問題，美國內存在很多質疑的聲音，尤其是一些科技企業不贊成將人工智能技術軍事化、制造戰爭武器。這種理念沖突使得推進人工智能軍事應用面臨重大阻礙。據報道，2018年，由于擔心人工智能技術被用于戰爭目的和可能侵犯用戶隱私、有悖于公司“不作惡”的價值觀，逾百名學者和科學家上書，要求谷歌承諾不參與也不支持自主武器的開發、制造、貿易或使用。2019年，又有數十名微軟員工簽署聯名信，反對公司為軍方提供增強現實技術支持，并要求立刻停止發展任何武器技術。在此背景下，美國國防部試圖通過制定人工智能倫理準則的方式，向外界表明美軍會以符合倫理和負責任的方式推動人工智能的軍事應用。

三是搶占世界軍事人工智能倫理準則制定的先機，以有利于美國利益的方式塑造國際規范。當前，人工智能的倫理問題成為世界上的熱點議題，算法偏見、安全性、可靠性、責任缺失等問題使得制定人工智能倫理準則的必要性日益凸顯。在此背景下，美國國防部意識到“引領軍事人工智能倫理和安全標準制定”成為美軍人工智能戰略的五大支柱之一。美國國防部強調，“闡明以合法和合乎道德的方式使用人工智能的愿景和指導原則，以推廣我們的價值觀。”

四是借機強化與私營企業、學術界及盟友伙伴國的合作關系，搶抓國際上軍事人工智能倫理規則制定權。美軍出臺人工智能軍事倫理準則還有強化與私營企業、學術界、全球盟友以及伙伴國合作關系的考量。美軍認為，國防部歷史上與學術和商業部門保持著緊密聯系，這對于促進科技創新和突破性技術應用于軍事領域至關重要。然而，這種模式在過去30年里已經搖搖欲墜。為了解決這一問題，美軍認為必須更新其研究、資金、獲取、培訓和參與策略，改革國防部采購模式，通過軟件特種作戰創新樞紐（SOFWERX）、空軍創新樞紐（AFWERX）和國防創新單元等為不熟悉國防部的企業家提供接觸和合作機會，并與學術界和私營部門就其目標和意圖進行透明和持續的公開討論。同時，希望通過制定符合美國理念和利益的軍事人工智能倫理準則，塑造外界對于美國國防部在軍事人工智能領域的信心和信任。