重磅發布 2024人工智能十大前沿技術

人工智能（AI）技術的廣泛應用，正影響著人類生活的方方面面。在“人工智能治理創新為培育科技治理生態構建國際信任基礎”主題會議上，世界機器人合作組織理事長、中國科學院院士喬紅發布了“2024人工智能（AI）十大前沿技術趨勢展望”，包括AI共性技術領域的小數據與優質數據、人機對齊、AI使用邊界和倫理監督模型、可解釋性模型，大規模預訓練模型領域的規模定律、全模態大模型、AI驅動的科學研究、具身小腦模型、實體人工智能系統，以及生成式人工智能領域的世界模擬器，共10項技術。

大量無效數據的存在，不僅消耗了計算資源，也對模型可靠性訓練帶來極大挑戰，而小數據更注重數據的精度和相關性，優質數據通過嚴格的篩選、清洗和標注工具剔除了噪聲和不相關信息，從本質上減少人工智能算法對數據的依賴和不確定性，增強網絡可靠性。建設多樣性的數據集，不僅能夠從理論基礎上支撐不同技術路線的AI發展，還為解決通用人工智能的瓶頸問題提供新的可能。

除了輸入的訓練數據集質量，AI系統的可靠性還體現在輸出結果的可執行性上。喬紅表示，僅依靠數據和算法不足以實現人機對齊，需要將人類的價值觀和倫理道德轉化為強化學習獎勵函數。這意味著在設計獎勵機制時，不僅要考慮任務的效率、效益和效果，還需要考慮行為是否符合人類的倫理標準。

中國工程院院士、北京郵電大學教授張平建議，構建通用人工智能理論框架，奠定AI技術安全可控發展的科學技術；同時，研發超級對齊技術，從內生機制上確保人工智能輸出觀點決策與人類對齊。此外，通過構建可解釋、自動化的AI評估方法，確保AI向善。

構建AI使用邊界和倫理監督模型，也體現了業界對AI倫理治理的思考。喬紅表示，當前AI系統的合規性、安全性和倫理問題愈發突出，建立AI監督模型框架尤為必要，其作用類似于AI憲法，其主要曰的是通過制定明確的標準和規范，確保所有AI系統在開發和使用過程中遵循既定原則，從而減少AI被過度使用帶來的風險。

“在訓練具身大模型時，一個重要的工作是教其倫理道德，就像教孩子遵守道德一樣。我相信，人類既然能創造AI，就一定有能力抑制這項技術的濫用。”中國工程院外籍院士、德國國家工程院院士張建偉說。