加強(qiáng)信息算法服務(wù)綜合治理，促進(jìn)算法健康有序繁榮發(fā)展

◎《網(wǎng)信軍民融合》編輯部 整理

習(xí)近平總書記在談關(guān)于媒體融合發(fā)展時曾提出，我們要增強(qiáng)緊迫感和使命感，推動關(guān)鍵核心技術(shù)自主創(chuàng)新不斷實現(xiàn)突破，探索將人工智能運用在新聞采集、生產(chǎn)、分發(fā)、接收、反饋中，用主流價值導(dǎo)向駕馭“算法”，全面提高輿論引導(dǎo)能力。隨著大數(shù)據(jù)和人工智能技術(shù)的快速發(fā)展，算法推薦技術(shù)被廣泛應(yīng)用于信息分發(fā)和媒體傳播中，它可以為用戶提個性化、精準(zhǔn)化和智能化信息服務(wù)，但在它為我們帶來便利的同時，其不合理應(yīng)用也帶來了“大數(shù)據(jù)殺熟”“信息繭房”“算法歧視”等問題，給維護(hù)意識形態(tài)安全、社會公平公正和網(wǎng)民合法權(quán)益等帶來諸多挑戰(zhàn)。

為規(guī)范互聯(lián)網(wǎng)信息服務(wù)算法應(yīng)用生態(tài)，2021 年12 月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合工業(yè)和信息化部、公安部、市場監(jiān)管總局發(fā)布《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》（下文簡稱《規(guī)定》），并將于2022 年3 月1 日起施行。這是我國第一部聚焦算法推薦服務(wù)來亂象問題象的部門規(guī)章，對我國構(gòu)建算法安全體系，有效防范互聯(lián)網(wǎng)信息服務(wù)算法推薦活動，具有重要意義。

（一）完善算法規(guī)范體系，促進(jìn)數(shù)據(jù)信息安全落地

作為一部由國家網(wǎng)信辦、工業(yè)和信息化部、公安部、市場監(jiān)管總局聯(lián)合制定發(fā)布的部門規(guī)章，《規(guī)定》作為貫徹落實《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》的重要舉措，既體現(xiàn)出了數(shù)據(jù)信息活動的特征，同時也是具有可操作性的行動指南。

一是，在違法和不良信息監(jiān)管方面，《網(wǎng)絡(luò)安全法》第四十七條規(guī)定了網(wǎng)絡(luò)運營者應(yīng)當(dāng)加強(qiáng)對違法信息的管理，《規(guī)定》第九條第二款承接細(xì)化，規(guī)定“發(fā)現(xiàn)違法信息的，應(yīng)當(dāng)立即停止傳輸，采取消除等處置措施，防止信息擴(kuò)散，保存有關(guān)記錄，并向網(wǎng)信部門和有關(guān)部門報告”，并進(jìn)一步要求“發(fā)現(xiàn)不良信息的，應(yīng)當(dāng)按照網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理有關(guān)規(guī)定予以處置”。

二是，在數(shù)據(jù)安全保護(hù)義務(wù)方面，《規(guī)定》的第七條明確落實了《數(shù)據(jù)安全法》的第二十七條規(guī)定，明確了算法推薦服務(wù)提供者的算法安全主體責(zé)任，對建立健全數(shù)據(jù)安全和個人信息保護(hù)等的管理制度和技術(shù)措施、制定相關(guān)規(guī)則、配套相應(yīng)人員和技術(shù)支撐等作出了要求。

三是，在自動化決策方面，《規(guī)定》第十七條第一款承接《個人信息保護(hù)法》第二十四條第二款和《電子商務(wù)法》第十八條第一款，規(guī)定用戶選擇關(guān)閉算法推薦服務(wù)的，算法推薦服務(wù)提供者應(yīng)當(dāng)“立即停止”提供相關(guān)服務(wù)；《規(guī)定》第十七條第二款承接落實了《個人信息保護(hù)法》中個人信息主體所享有的選擇、刪除等權(quán)利，第三款明確提出了算法推薦服務(wù)提供者應(yīng)用算法對用戶權(quán)益造成重大影響的，應(yīng)當(dāng)依法予以說明并承擔(dān)相應(yīng)責(zé)任。

四是，在特定領(lǐng)域的應(yīng)用方面，按照《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》第五條要求，《規(guī)定》第十三條明確要求“算法推薦服務(wù)提供者提供互聯(lián)網(wǎng)新聞信息服務(wù)的，應(yīng)當(dāng)依法取得互聯(lián)網(wǎng)新聞信息服務(wù)許可”。

五是，在未成年人網(wǎng)絡(luò)保護(hù)方面，《未成年人保護(hù)法》第七十四條第一款規(guī)定網(wǎng)絡(luò)產(chǎn)品和服務(wù)提供者不得向未成年人提供誘導(dǎo)其沉迷的產(chǎn)品和服務(wù)，《規(guī)定》第八條和第十八條作了進(jìn)一步細(xì)化，提出了“不得設(shè)置誘導(dǎo)用戶沉迷”的要求，并設(shè)置了保護(hù)未成年人的專門條款。

（二）引導(dǎo)算法合理使用，打造算法推薦治理方案

聚焦算法所帶來的種種亂象，《規(guī)定》提供了指引和規(guī)范。一是，算法推薦服務(wù)提供者在開展新聞信息推送、熱點榜單、信息發(fā)布等活動時，存在傳播違法和不良信息的亂象：一是利用生成合成類算法自動合成新聞、帖子等，未作顯著標(biāo)識造成虛假信息夸大傳播；二是采用定向推送類算法在首頁首屏、彈窗等，扎堆推送惡性案件、災(zāi)難事故等負(fù)面信息誘發(fā)社會恐慌；三是利用排序精選類算法生成熱搜、榜單等，片面追求流量，大肆炒作娛樂八卦、低俗惡俗等有悖社會主義核心價值觀內(nèi)容。基于以上亂象，《規(guī)定》明確了算法推薦服務(wù)向上向善的原則，要求算法推薦服務(wù)提供者應(yīng)當(dāng)堅持主流價值導(dǎo)向，積極傳播正能量，不得利用算法推薦服務(wù)從事違法活動或者傳播違法信息，應(yīng)當(dāng)采取措施防范和抵制傳播不良信息等。

二是，算法推薦服務(wù)提供者在開展調(diào)度決策、個性化推薦等活動時，存在侵害用戶權(quán)益的亂象：一是大數(shù)據(jù)殺熟問題，即根據(jù)消費者的偏好、交易習(xí)慣等特征，在交易價格等交易條件上實行不合理的差別待遇；二是誘導(dǎo)沉迷網(wǎng)絡(luò)問題，即設(shè)置誘導(dǎo)用戶沉迷、過度消費的算法模型，尤其是利用算法推薦誘導(dǎo)未成年人沉迷網(wǎng)絡(luò)；三是勞動權(quán)益保障問題，采用調(diào)度決策類算法進(jìn)行工作調(diào)度時，未保障平臺內(nèi)勞動就業(yè)者（如網(wǎng)約配送員、網(wǎng)約車駕駛員等）在勞務(wù)報酬、休息休假等方面的勞動權(quán)益；四是偏見歧視問題，將違法和不良信息關(guān)鍵詞記入用戶興趣點，或者設(shè)置歧視性、偏見性用戶標(biāo)簽來推送信息內(nèi)容；五是未成年人和老年人權(quán)益保障問題，向未成年人推送可能影響身心健康的信息，未充分考慮老年人適老化需求等。基于以上亂象，《規(guī)定》明確算法推薦服務(wù)公正公平的原則，建立健全用戶注冊、信息發(fā)布審核、數(shù)據(jù)安全和個人信息保護(hù)、安全事件應(yīng)急處置等管理制度和技術(shù)措施，定期審核、評估、驗證算法機(jī)制機(jī)理、模型、數(shù)據(jù)和應(yīng)用結(jié)果等。

三是，算法推薦服務(wù)提供者在開展個性化推薦、熱點榜單、信息發(fā)布等活動時，存在操縱社會輿論亂象：一是采用個性化推薦算法按照用戶偏好頻繁推薦感興趣的內(nèi)容，久而久之形成用戶意見極化的“信息繭房”；二是利用算法注冊虛假賬號、雇傭網(wǎng)絡(luò)水軍，實施虛假點贊、轉(zhuǎn)發(fā)等流量造假，或者鼓動“飯圈”粉絲互撕謾罵、刷量控評等飯圈亂象；三是利用算法屏蔽信息、過度推薦，操縱干預(yù)熱搜、榜單或檢索結(jié)果排序；四是實施自我優(yōu)待，影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)管，如惡意屏蔽其他企業(yè)的網(wǎng)址鏈接等。基于以上亂象，《規(guī)定》明確算法推薦服務(wù)公開透明的原則，加強(qiáng)算法推薦服務(wù)版面頁面生態(tài)管理，建立完善人工干預(yù)和用戶自主選擇機(jī)制，在重點環(huán)節(jié)積極呈現(xiàn)符合主流價值導(dǎo)向的信息；規(guī)范開展互聯(lián)網(wǎng)新聞信息服務(wù)，不得生成合成虛假新聞信息或者傳播非國家規(guī)定范圍內(nèi)的單位發(fā)布的新聞信息；不得利用算法實施影響網(wǎng)絡(luò)輿論、規(guī)避監(jiān)督管理以及壟斷和不正當(dāng)競爭行為等。

（三）健全算法治理監(jiān)管體系，促進(jìn)算法健康發(fā)展

《規(guī)定》建立了涵蓋算法分級分類、算法備案管理、算法安全評估、算法風(fēng)險監(jiān)測等舉措的健全科學(xué)的監(jiān)管體系，形成了算法治理長效機(jī)制。

一是力求標(biāo)本兼職的算法安全評估。《規(guī)定》要求算法推薦服務(wù)提供者履行安全評估和配合監(jiān)督檢查義務(wù)。算法推薦服務(wù)提供者應(yīng)依法留存網(wǎng)絡(luò)日志，配合網(wǎng)信部門和電信、公安、市場監(jiān)管等有關(guān)部門開展安全評估和監(jiān)督檢查工作，并提供必要的技術(shù)、數(shù)據(jù)等支持和協(xié)助。

二是有章可循的備案制度。《規(guī)定》明確了具有答：《規(guī)定》明確，具有輿論屬性或者社會動員能力的算法推薦服務(wù)提供者應(yīng)當(dāng)在提供服務(wù)之日起十個工作日內(nèi)通過互聯(lián)網(wǎng)信息服務(wù)算法備案系統(tǒng)填報服務(wù)提供者的名稱、服務(wù)形式、應(yīng)用領(lǐng)域、算法類型等備案信息，履行備案手續(xù)。同時，明確了備案編號標(biāo)注、備案信息變更、備案注銷等相關(guān)事宜。