歐盟研究：AI讓自動駕駛汽車易受到攻擊

歐盟網絡安全機構（ENISA）和聯合研究中心（JRC）對自動駕駛車輛中的人工智能進行研究，發現其存在網絡相關的風險，并提供了緩解這風險的建議。歐盟網絡安全機構執行董事Juhan Lepassaar提到，當自動駕駛汽車越過歐盟成員國的邊界時，同時也帶來了自動駕駛汽車的弱點，因此安全性必須是自動駕駛汽車可否上路的優先考量重點。

研究提到，自動駕駛汽車由于消除了發生交通事故最主要的成因——人，因此有望減少交通事故和死亡人數，但是卻可能對駕駛員、乘客和行人帶來完全不同的風險。自動駕駛汽車使用人工智能系統，通過機器學習技術來收集、分析和傳輸資料，執行人類駕駛汽車所會執行的決策，但這些系統和其他IT系統一樣，容易受到攻擊，威脅車輛的正常功能。

自動駕駛汽車的AI系統，能夠識別交通與道路標志，偵測車輛及其他道路物體的移動，進而規劃行進的路線，除了像是突然故障的意外，研究報告指出，人工智能系統還很脆弱，難以抵御刻意的攻擊，不只人工智能系統被干擾，重要的安全功能也會受到破壞。

像是在道路上的涂鴉，可能誤導車輛導航功能，或是在停止標志上粘貼貼紙，阻止人工智能系統的識別，這些行為都可能導致人工智能判斷錯誤，進而采取危險的行為，影響乘客或是行人的安全。

為了提高自動駕駛汽車人工智能的安全性，研究報告建議，人工智能組件應該定期進行安全評估，對人工智能模型和資料執行系統性驗證，以確保車輛在遇到意外情況或是惡意攻擊時，總是能正確地做出反應。報告還建議在連續風險評估流程中應用威脅情報（Threat Intelligence），用來識別自動駕駛汽車中，潛在的人工智能風險以及新興威脅。