天津人工智能技術風險與對策研究

文/趙繪存

一、天津人工智能產業發展現狀

人工智能技術已經成為天津城市發展的重要技術載體。在基礎設施建設層面，2020年6月底，天津移動第6000個5G基站順利建成，率先實現天津行政區域5G信號全覆蓋。在產業層面，天津形成以人工智能為核心、以新一代信息技術為引領、以智能制造為主攻方向、以新型智能基礎設施為關鍵支撐、各領域深度融合發展的產業格局。在應用層面，目前，天津在智能制造、智慧城市、智慧教育、智慧醫療、智慧媒體等垂直行業的應用發展已形成80個5G應用場景（40個實施中、40個待實施）。在智能制造層面，兩年來，天津共支持了4批911個智能化改造項目，安排財政資金36.2億元，打造高質量、多領域的智能工廠、數字化車間，推動產業轉型升級。人工智能產業的快速發展，產業技術深度覆蓋的同時，不可避免地將技術所帶來的安全風險擴散到社會的各個領域。

二、天津人工智能技術發展的潛在風險識別

（一）社會輿情風險

一是虛假新聞問題。通過人工智能技術，能夠虛構物體或是人物的運動軌跡，比如非法的視頻剪輯制作，可能導致謠言快速地擴散，對天津城市建設產生不良的影響。二是數據的非法使用問題。如當前大數據分析應用的持續拓展，使得獲取數據的過程變得更加的輕松和容易，更多的人群可以通過抓取網絡數據進行數據分析，有可能因為個人的偏好造成數據偏頗的分析結果，從而對社會形成非常不良的影響。

（二）公眾信息風險

一是數據泄漏引發的隱私安全。個人數據的采集與利用過程中，不可避免地造成信息的傳播或泄露，由此引發信息泄露、侵犯隱私的風險。如當前我們正進入一個APP大規模應用的時代，各種各樣的APP都會根據需要獲取個人信息，但每個APP背后的信息保護程度千差萬別，個人信息泄露時有發生。二是數據偽造引發的隱私安全。人工智能圖像識別、語音合成技術的發展，使人工合成一個人的聲音和外貌成為可能，將會產生非常大的影響，比如利用上述技術通過網絡進行詐騙活動，將會對天津居民的人身財產產生威脅。三是數據偏好應用誘發社會治理風險。人工智能技術對于個人偏好的數據化處理，在購物網站，通過捕捉消費者瀏覽網頁的習慣來獲取消費者購買特定商品的意愿，進而有針對性地進行廣告的營銷和宣傳，非常容易誘發過度消費，而過度消費對于經濟條件尚不成熟的人群（如大學生和剛剛就業的人群）容易引發背后的社會犯罪行為，形成社會治理的隱患。

（三）生產安全風險

人工智能在生產安全上的雙刃劍效應之一就是技術不合理應用以及新技術發展所誘發的深度網絡安全風險。一是政府管理服務方面，據有關數據統計，地方政府網站正成為黑客攻擊的“重災區”，一旦遭受攻擊，將造成重大數據的損失，甚至會在政府網站上發布不實消息，引發輿論風險。二是工業生產智能化網絡設備被劫持誘發的安全風險。截至2019年底，全市智能工廠和數字車間數量分別達到60家和100家，智能制造類企業占規上企業數量近乎1/5。同時，天津納入統計的數據中心機架數已達42615個，在建數據中心機架61000個。工廠內部生產管理數據、生產操作數據以及工廠外部數據等各類數據一旦遭網絡劫持，將給企業帶來嚴重的安全問題，輕則停產停業，重則會造成安全事故。三是社會民生領域智能化網絡失常誘發的風險。如智能網聯車正開始進入大規模示范和應用階段。2020年6月底，上海首批智能網聯汽車率先在滴滴APP上開放服務，天津也計劃在部分地區開始測試，如果車輛發生網絡劫持，或車輛本身計算問題，將產生重大的安全事故。在智慧醫療方面，天津大力發展互聯網醫院和線上醫療，一旦發生醫患糾紛，就會存在責任主體無法明確的問題。

（四）結構性失業風險

在人工智能與實體經濟融合步伐逐漸加快的背景下，部分職業將被取代已經成為必然趨勢，傳統“飯碗”的破碎將伴隨新產業革命和經濟結構調整，在這種程度上講，個別可替代性強的產業的失業風險將加劇。如住建部同意深圳市開展建筑工程人工智能審圖試點工作，以住宅工程作為試點工作切入點，探索人工智能在審圖方面的應用，在節省人力成本的同時，提高相應工作的效率和質量，為行業的改革與發展提供可復制、可推廣經驗。

（五）招商引資風險

一是部分人工智能技術重復投資過剩的風險。我國人工智能企業發展呈現出不均衡性的特點，重點表現在底層技術領域創新創業企業數量少，應用領域企業數量多，同質化競爭激烈，企業存活率低。過度注重引進處于應用層面的企業很可能因為同質化競爭，造成后期投資的損失。二是人工智能技術知識產權不清晰的風險。一種是項目和團隊的人工智能產品和技術的知識產權存在嚴重的不清晰、不明確現象，給政府投資帶來極大的發展隱患。如天津某人工智能芯片企業，因與美國存在技術和知識產權糾紛，導致企業停滯發展的案例。三是偽人工智能企業的風險。項目團隊借助人工智能招牌，從事非法的經營活動，比如說在金融領域，利用人工智能和區塊鏈等技術從事非法集資。

三、天津人工智能技術風險防范的思路與對策建議

人工智能產業風險的防范要秉承“技術”+“制度”雙向發力的原則，以加快產業的發展來解決當前存在的問題。通過人工智能新技術的開發來解決技術發展的問題；通過人工智能新技術的發展來增加新的社會就業問題；通過制度的約束來解決技術發展過程中參與者的合法合規問題；通過制度的評價和治理來研判和預防技術發展過程中的風險點問題。

（一）加快人工智能技術的前瞻性研究

一是強化科技智庫對人工智能技術的支撐。充分發揮天津市智能科技產業專家咨詢委員會、天津市信息技術應用創新工作委員會等專家力量，強化對新興人工智能技術，如區塊鏈技術、數字孿生技術、C-VX2通信技術等的安全性和潛在風險進行安全等級評估，形成技術風險等級與安全防護對應的方案清單，有力保障技術應用過程中的安全性、有序性。

二是探索建設安全前瞻性研究天津實驗室。利用“技術制約技術”的理念，以技術發展解決技術問題，通過人工智能先進技術的應用，解決當前人工智能技術存在的問題，發揮天津信息安全產業優勢，整合高校、科研院所資源，探索成立具有國家戰略高度的人工智能風險防控系統與實體研究機構，組建天津市安全領域的天津實驗室，加強人工智能技術安全性研究。

（二）強化人工智能技術的法制化建設

一是加快探索人工智能產業技術法律規章制度建設，充分發揮天津市國家新一代人工智能試驗區建設優勢，先行先試，聚焦人工智能技術，如云計算、大數據、區塊鏈等，加快開展人工智能社會實驗，推動上述技術的立法工作，從約束技術的研發與使用等多個環節的參與者、明確人工智能應用過程中重大責任權屬劃分（如智能網聯車傷人事故責任劃分）等多方面入手，構建技術良性發展的法制化環境。

二是探索人工智能產業和技術的“雙負面清單”制度，強化底線思維，加大對高度不確定性領域的行政性監管力度，加大對產業、科研闖紅區行為的執法力度，立法從嚴，執法從嚴，特別是強化對網絡入侵、網絡竊密、制作和傳播網絡病毒、高技術污染等技術型犯罪的治理。

（三）強化人工智能技術的全流程與重點領域監管

一是強化人工智能全流程技術管控，加快開發面向人工智能技術全流程監管的體制機制，重點面向人工智能行業數據采集以及人工智能行業重點領域應用兩大環節，推進行業安全標準和行業應用安全預案的部署，保障技術安全、產品安全、數據安全和應用安全。

二是高度重視網絡安全監控，加快天津360態勢感知與安全運營平臺建設，打造集網絡安全態勢感知、風險評估、通報預警、應急處置和聯動指揮為一體的新型網絡安全運營服務平臺。

三是強化工業互聯網網絡接入安全管理，聚焦天津智能制造重點領域，發揮天津建設信創產業的先發優勢，推動信創產業重大創新應用與工業互聯網平臺建設深度融合，試點推行工業互聯網接入產品的安全評測和等級認證制度，打造一批示范性的工程，形成自主可控的工業互聯網解決方案，形成“天津樣本”。

（四）強化人工智能技術誘發風險的主動疏導

一是建立風險疏導機制。形成重點領域系統的風險解決方案（如研究制定在線教育信息安全整體方案），并建立動態的解決方案更新機制和相應的處置聯動機制，確保在突發事件發生時能夠第一時間處置。打造多層次、全方位的發聲陣地，建立權威信息發布制度，在突發事件發生時，有效引導輿情。

二是建立風險應對機制。一方面，以技術發展解決職業問題，推動天津人力資源有關部門對“互聯網營銷師”“在線學習服務師”等人工智能新職業開展宣傳和技術培訓，鼓勵符合條件的再就業人員向新職業轉型，擴大社會就業機會。另一方面，針對新一代人工智能可能引發的在重點領域和重點人群的結構性失業等風險，形成風險級別目錄，根據優先順序，有計劃地推動重點領域和人群的在職培訓和再就業培訓，打好勞動力轉型的主動仗。

（五）強化人工智能產業引育過程中的精準識別

一是強化招商引資工作隊伍的人工智能技術知識培訓。鼓勵天津市各個園區根據發展實際，制定人工智能技術重點培訓計劃，提升招商人才隊伍對人工智能技術發展趨勢、動態的了解，提升對人工智能項目的甄別判斷能力。

二是強化人工智能企業引育過程中的調研與研判。鼓勵引入第三方機制，在重大人工智能項目引進過程中，做好企業的背景調查工作，特別要關注人工智能企業本身的技術場景應用情況、財務狀況和知識產權情況。

三是強化對人工智能產業引進過程的決策咨詢管理。鼓勵天津人工智能產業聚集園區充分發揮人工智能專家的人力資源優勢，在項目引進和分析評判過程中，鼓勵企業家參與項目引進過程，為項目的引進提供建議。