TTC框架下歐盟和美國人工智能標準化合作重點分析

文/張笑雪 戴宇欣

自2021年歐盟和美國成立歐美貿易技術理事會（TTC）以來，人工智能已經成為其在新興技術領域尋求標準突破的重點領域。本文分析了歐盟和美國在TTC框架下共同開展人工智能標準化工作的主要行動、趨勢和特點，為我國推動人工智能等新興技術領域標準化發展提供參考與借鑒。

一、主要行動

人工智能是TTC技術標準工作組的重點工作領域，其標準化工作的主要行動包括以下5個方面。

1.統一歐盟和美國標準路線和共識

TTC以可信賴和風險評估為核心，建立了歐盟和美國共同的標準路線圖和實施計劃，提出短期和長期目標。短期目標注重建立合作渠道，分析歐盟、美國和國際標準中的術語和分類，確定重點標準，開發評估工具等；長期目標是對短期目標的深化，包括促進國際標準的參與和領導，加強對術語和分類標準的統一理解，深化標準、工具和合作，監測、識別和預判新的風險。

在實施上，歐盟和美國吸收各方經驗，廣泛收集國際和民間標準組織、經濟合作與發展組織（OECD）的意見，分析美國《人工智能風險管控框架》《人工智能權利法案藍圖》和歐盟《歐盟人工智能法案》等政策文件，以平衡各方需求，力求最大程度地獲得共識。

2.推進關鍵標準制定

目前，TTC重點聚焦兩類標準：一類是術語和分類，另一類是風險測量。

① 術語和分類

2023年5月，TTC發布了《歐盟—美國人工智能術語和分類法》（第一版），對人工智能生命周期、測量、技術系統屬性、治理、可信賴等術語進行定義，并完成了對該術語清單的首輪意見征集。

② 風險測量

圍繞人工智能可信度、風險測量指標和方法等，歐盟和美國共同開展了評估方法標準研究，啟動搭建包含人工智能可信度測量指標、風險管理方法等工具的線上公開數據庫，對人工智能風險進行互操作性測試和評估。

3.規范人工智能企業行為

針對人工智能企業行為規范方面的立法空白，歐盟和美國在TTC合作框架的推動下向七國集團（G7）提交了關于人工智能行為準則的跨大西洋聯合提案，制定了適用于人工智能企業行為的技術指導標準。

2023年10月，G7發布了《開發先進人工智能系統組織的國際指導原則》和《開發先進人工智能系統組織的國際行為準則》，針對人工智能隱私和安全風險等提出行為準則，指導各類組織開發先進的人工智能基礎模型、系統和技術標準。

4.加強前瞻性聯合研究

歐盟和美國在TTC框架下建立了“聯合技術競爭政策對話”機制，拓展歐盟聯合研究中心和美國國家標準與技術研究院（NIST）的合作領域，并聯合標準制定組織、企業、學術界、政府等相關方共同開展人工智能標準化預研究合作，鞏固標準制定的技術和科學基礎。

5.開展產業應用研究

針對人工智能技術在具體產業領域的應用，TTC啟動了在健康醫療領域應用隱私增強技術的試點項目，明確在氣候變化、應急管理、醫療健康、電網優化和農業優化等5個領域開展人工智能和計算研究項目。

二、發展趨勢

根據TTC標準路線圖的實施計劃以及歐盟和美國近期在人工智能領域的行動，本文預計歐盟和美國下一階段將加強以下3個方面的工作。

1.進一步加強對人工智能安全的研究與投入

美國參議院已經要求對美國人工智能安全研究所（USAISI）增加撥款1 000萬美元，將資助與歐盟等研究伙伴的合作研究，加快測試環境的工作，評估網絡安全協議，并成立聯合研究中心來集成新的人工智能技術和系統。從目前趨勢來看，隱私增強技術、人工智能攻擊模擬、人工智能模型開放風險等將是近期重點。

2.不斷深化人工智能基礎性和前瞻性研究

大模型和生成式人工智能將是歐盟和美國重點攻關的人工智能技術領域。在大模型方面，歐盟和美國已開展對人工智能大模型的研討和調查，下一步將在調研基礎上匯集各方專家做深化研究。在生成式人工智能方面，歐盟和美國將在術語、內容風險和標注等方面開展合作。

3.持續擴大歐盟和美國人工智能標準的國際應用

一方面，TTC技術標準工作組已經成立了數字身份小組，將在2024年完成歐盟和美國大西洋數字身份共享術語，支撐歐盟和美國加強跨境互操作性；另一方面，從2023年中期起，歐盟和美國不斷加強與印度、印度尼西亞、新加坡、越南等國家的人工智能合作，并明確提出將吸納更多國家參與其人工智能標準化研究與應用。

三、特點分析

歐盟與美國在TTC框架下持續推進人工智能標準化工作，具有加強系統謀劃、注重基礎和安全標準、強化技術與標準協同、加強企業行為指導等鮮明特點。

1.加強系統謀劃，著力重點領域分步突破

歐盟和美國并未以完整的人工智能標準體系來指導未來的標準化工作，而是通過分階段實現的實施路徑來突出重點，逐步深化各項措施，促進預期目標的實現。TTC目前已經開展和將要開展的一系列人工智能標準化工作，均體現出其聚焦重點、逐步擴大國際共識、預判未知風險等循序漸進的基本思路。

2.注重基礎和安全標準，力求以國際協同主導發展方向

TTC將推動可信和風險管理作為人工智能標準化工作的共識和愿景，高度重視術語定義、分類、測試評估等基礎共性標準，在研制路徑上注重與國際標準的協同，并通過建立可信測量數據庫、發布企業行為指導準則、推進隱私安全研究等一系列“基于風險的方法”，以建立國際共識為目標開展標準化活動。這些做法，一方面可以使其人工智能標準框架體系更加完善，另一方面有助于塑造其安全可靠的技術形象，鞏固人工智能倫理道德領域的國際標準話語權。

3.強化技術與標準協同，推動技術廣泛應用

歐盟和美國人工智能標準化合作遵循新興技術標準研究的特點，充分利用標準預研究、技術調查、應用試點等工具和方法，強化技術與標準協同發展。在應用領域，歐盟和美國則關注氣候變化、應急管理、醫療、電網等可持續發展和基礎設施領域，推動其人工智能技術的更廣泛使用，謀求在國際范圍內的推廣。

4.加強企業行為指導，謀求以標準填補立法空白

人工智能具有技術更新速度快、涉及范圍廣、不確定性強的特點，傳統的法律監管很難跟上技術發展節奏。在歐盟和美國雙方尚無成熟和一致的監管法律情況下，TTC通過制定關于人工智能行為準則作為過渡性措施，為企業開發和使用人工智能技術、制定人工智能標準提供指導，并協調歐盟和美國雙方的監管差異，高效應對人工智能快速發展帶來的挑戰。

四、展望

我國人工智能市場規模巨大，產業和標準化發展成果顯著，在圖像識別、智能語音等領域達到全球領先水平，并在國際標準化組織/國際電工委員會第一聯合技術委員會（ISO/IEC JTC 1）中發揮著重要作用。但是，我國國家人工智能標準化總體組發布的《人工智能標準化白皮書》顯示，目前我國人工智能標準化發展仍存在一定的不足，如：人工智能工具完整性、融合程度、效率等沒有統一的衡量標準；人工智能測試體系不夠完善，尚未形成成熟的功能、性能測試基準，人工智能測試標準體系還未形成；行業發展不均衡突出，在與實體經濟融合方面存在結構性失衡，目前主要用于金融、安防、物流等領域，亟待在制造、零售等領域有所創新與突破。

從上海市層面來看，近年的調查顯示，上海市人工智能企業主要集中在技術層（技術開發與輸出）和應用層（解決方案），在產業應用層具有明顯規模優勢，相關企業占比超過90%，且其中70%以上集中于智慧城市領域，主要應用于城市公共服務，如醫療、環保、政務等。調查同時顯示出當前存在的一些不足，如：應用賦能還不深入，應用場景相對單調，人工智能在制造業的應用較為分散，與智慧生產和智能生活的融合較少；對人工智能系統及軟件風險的認識不高；缺少權威評定和測試服務機構，對良性競爭產生負面影響；強調促進技術進步和產業應用，但缺乏對倫理道德安全的研究和監管，與國際趨勢不夠接軌等。

我國與美國對于人工智能標準化治理的理念相近，傾向于用政策引領人工智能標準的發展（歐盟相對更為保守，傾向于用標準和法律加強對人工智能的監管）。美國在TTC中具有主導地位，它提出的建立人工智能風險監測和風險評估機制與標準、開發人工智能風險管理標準和工具包、建立人工智能標準預研究的國際合作體系、注重可持續發展和基礎設施領域的人工智能應用標準等具體措施，對于我們改進當前的薄弱環節、以標準引領人工智能產業發展、加強應用落地、完善產業生態等具有一定的借鑒意義。