算法治理背景下關于個性化推薦優化的研究

盧毅俊

（中國南方航空，廣東 廣州 510000）

《互聯網信息服務算法推薦管理規定》（以下簡稱算法推薦管理規定或管理規定）2021 年11 月16 日經國家互聯網信息辦公室2021 年第20 次室務會議審議通過，并經工業和信息化部、公安部、國家市場監督管理總局同意聯合發布，自2022 年3 月1 日起正式實施[1]。《算法推薦管理規定》的出臺，可以進一步規范這些互聯網信息服務推薦類的活動，切實維護人民的權利，保護人民的利益，也為促進國家社會安全利益提供了有利的基礎，促進互聯網的健康發展。

1 算法推薦管理規定主要關鍵點

本次《算法推薦管理規定》內容主要分為六章，其中第二章“信息服務規范”及第三章“用戶權益保護”涉及了互聯網算法推薦的相關具體規定。本次管理規定也對算法推薦給了一個較明確的范圍，主要包括生成合成類、個性化推送類、排序精選類、檢索過濾類、調度決策類等算法，本文主要針對個性化推送這一類展開分析。對于個性化推薦，根據學者孫魯平等（2016）的定義，個性化推薦是電商平臺根據用戶的特點如用戶評分、瀏覽歷史、購物行為、社交關系等信息，綜合分析消費的需求偏好產品，并在用戶訪問平臺時將對應的產品推送給他們[2]。個性化推薦系統主要由智能推薦系統執行，整個過程主要涉及了數據輸入、推薦算法、推薦輸出這幾個步驟[3]，因此，算法推薦也是電商個性化推薦的關鍵核心之一，評估個性化推薦系統的好壞可以通過對其算法進行評估[4]，總體來看，個性化推薦算法可以分為協同過濾推薦、基于內容的推薦及混合型推薦三種模式[5]，其根本的邏輯都是基于用戶的個人基礎信息或行為數據進行計算，在此次規定中，包含對算法推薦、個人信息管理等相關治理方面，對于企業電商個性化推薦服務有著重要的影響。

1.1 關于算法推薦的正向積極性

《算法推薦管理規定》第二章第六、七、八條從推薦內容的規范性、價值性、合理性等作出了要求，明確要求推薦內容要符合國家安全利益，遵守法律法規，要注重信息安全，切實做好用戶信息等網絡安全保護，推薦的內容也要考慮好正向價值和積極能量的傳播，不得對社會造成負面影響。可以看到，管理規定從一開始就明確了算法推薦服務的方向，強調推薦服務應該往正確的方向去進行，要符合國家人民利益，保證安全，倡導價值正向理念。

1.2 關于用戶模型及信息標簽的管理

《算法推薦管理規定》第二章第九、十條規定了算法服務的信息要符合信息安全、規范信息傳播、對不良信息進行治理等要求。算法服務的提供者需要完善用戶興趣模型及用戶標簽的管理規則，避免將違法不良信息作為用戶的興趣或標簽而進行推送。個性化推薦服務基于用戶信息，企業很多情況下會將用戶信息分成不同的標簽進行管理，以往企業可能對于用戶的標簽信息好壞并不會作嚴格的區分，只要是涉及用戶的屬性特點，個性化推薦系統都會作為其中一個參考點，但管理規定要求個性化服務需要嚴格甄別這類不良信息，如果是涉及負面影響的違法不良隱私，個性化推薦算法一定要進行過濾，以杜絕不良信息的推送。

1.3 關于推薦信息的真實客觀性

管理規定第二章第十三、十四、十五條主要規定了推薦服務需要保證信息的真實性，避免虛假內容，禁止不合理限制其他互聯網服務的真實正當信息。算法推薦的原則應該遵循公平公正公開，個性化推薦服務不僅僅是按照企業的目標利益去執行，保證信息的真實性是開展推薦服務的前提，如果僅僅為了迎合用戶的喜好或者為了展現自己產品的好處，就制造了一些不屬實或過于夸張的信息去吸引研究，就會違背這個原則。過度推薦也是個性化服務讓用戶煩惱的一個現象，企業為了加大產品的銷售，而無節制地給用戶提送產品信息，給用戶造成了不少的困擾，規定將會進一步限制這方面的行為，督促企業做好算法推薦的優化，真正做到為用戶考慮。

1.4 關于提供推薦服務的說明

管理規定第三章第十六條規定算法推薦服務要用明顯的方式告訴用戶關于算法推薦的情況，包括算法的原理、目的、運行機制等。以往個性化推薦服務主要是以最終的一個輸出結果給到用戶，用戶對于個性化推薦最明顯的感知就是收到對應的產品或信息推送，但對于其中涉及的算法邏輯，推送目的等用戶會一無所知或者很模糊，只能被動地接受服務。此條規定增加了推薦服務的透明性，用戶作為接受服務的主題，有權知道算法的推薦邏輯和背景，只有知道了這些用戶才能結合實際情況去決定是否要使用這個推薦服務，如此一來，電商個性化推薦不僅僅是企業主動產生的行為，企業在執行之前也要先盡到告知的義務。

1.5 關于用戶對于個性化服務使用的決定權

管理規定第三章第十七條規定算法服務需要提供一個方便清晰的關閉算法服務的選項，關閉后不再對用戶提供算法推薦服務。以往大多數情況是電商應用默認給用戶提供個性化推薦服務，雖然在應用打開時有請求用戶能否收集相關信息，但用戶如果拒絕往往就不能使用應用的任何服務了，此規定明確了算法服務的獨立性，必須是用戶同意后才能提供，用戶能自行選擇是否需要推薦服務。關閉算法服務到底要做到什么程度，也需要后續相關規定進一步明確，所以關于個性化服務的關閉整治后續還有一段路要走。

1.6 關于對特殊用戶群體的服務個性化

管理規定第三章第十八、十九條規定了算法服務向未成年人或老人群體提供服務時應當根據其群體特點做好對群體的保護，對于未成年人要加強其身心健康的引導，對于老年群體要關愛好他們的使用體驗，在方便他們使用的同時也要保護他們免受網絡詐騙。這里強調個性化推薦服務要更注重關懷性，不能只為了盈利而只去服務經常使用或懂得使用網絡的群體，個性化推薦服務也不能用一套模式一勞永逸，需要考慮到不同群體的特點去制定不同的服務內容，保證各個群體都能受益，保護好他們的權益。

1.7 關于個性化服務的公平性

管理規定第三章第二十一條規定了算法服務要保護用戶的交易公平性，不得利用消費者的偏好信息實施不合理的對待。此規定對于電商購物中如“大數據殺熟”這種現象給了一個明確的禁止規定。在零售市場中，價格歧視是企業根據不同的市場、地域、消費群體采取的價格區分定位的一種手段，在以前互聯網電商還不是很發達的情況下，企業并不能利用很隱蔽的手段去實行，用戶還能比較明顯地看到這種價格差別，如果用戶想要獲得更低價，他只需要多付出一些努力就能享受到這種低價。但在大數據的時代，企業可以利用算法來隨時給用戶進行定價，在網站產品信息瞬息萬變的情況下，可能一個算法調整就能讓消費能力更強的人看到價格更貴的產品，價格敏感的人看到低價產品，而且是在大家都對低價產品有需求的情況下，消費能力強的人就因此失去了購買低價的機會，這就嚴重造成了不公平的現象，所以個性化服務不能僅根據用戶的特點提供有差別的價格，更多應該是從產品的特性上去區分價格，然后推送給不同的用戶，當然也不能剝奪高價值用戶看到低價產品的權利。

1.8 關于個性化服務的用戶反饋

管理規定第三章第二十二條規定了算法服務需要提供一個方便的渠道給用戶反饋問題及投訴，企業應該能有效處理這些反饋。這條強調了個性化推薦服務的反饋重要性，再次說明了推薦服務不僅是企業的主動行為，用戶不再只是主動接受服務，用戶不僅有接受選擇的主動權，也有提供意見的權利，個性化推薦服務應當要保證反饋的通暢性。

2 電商個性化推薦的改善建議

2.1 保護用戶對于個性化推薦服務的決定權，加強用戶互動性

電商個性化推薦服務的產生都是基于用戶的信息進行輸出，用戶的個人隱私信息是個性化推薦服務的基礎，從隱私的關注維度上看，Malhotra 等（2004）認為隱私關注可以分為隱私收集、隱私控制、隱私認知，其中控制包含了用戶對個人信息的自主權，用戶有權決定自己的信息如何被使用，同時也要掌握自己的個人信息利用[6]。因此，企業首先應該給用戶提供一個顯著的是否使用個性化服務的選項，如果用戶關閉了服務，則不再主動地給用戶提供信息，也不能再利用用戶的個人信息進行算法計算。如果用戶使用個性化推薦服務，則在服務開始前，應明確告知用戶需要收集哪些信息，這些信息會用在那些服務場景，同時應當采用簡潔明了的形式告知推薦算法的應用邏輯，大致的算法規則，能達到讓用戶理解自己會接收到怎么樣的推薦產品的程度就行。另外建議增加推薦服務的反饋機制，給用戶提供一個可以對推薦服務反饋意見的渠道，可以是一個簡潔的反饋頁面，對于用戶提供的意見需要及時地反饋，讓用戶感覺到自己被重視。同時，企業應該主動給用戶反饋推薦服務的情況，在推薦過程中也可以隨時詢問用戶的感受，如用戶在收到推薦信息時可以在底下反饋是否喜歡這個推薦等。

2.2 重視產品的公平性與真實性，保護用戶的合法利益，加強算法的優化

“大數據殺熟”等現象讓用戶痛恨，企業不能為了一時的利益而流失掉用戶，信任永遠是企業的立足之本，企業在提供服務時應該隨時考慮算法的公平性，相同的產品不應該以不同的價格提供給用戶，應該著重在對產品質量的打磨，根據不同的用戶特點提供不同特點，有差異的產品，這才是個性化精準營銷的基礎，首先需要有個性化的差異產品，而不單單是差異化的價格。同時推薦的產品應該是基于用戶的真實需求，個性化推薦就是為了匹配用戶的特點為其推送最合適的產品，應該是根據用戶的實際情況去進行匹配，避免為了沖銷量而給用戶推薦不合適的產品。

2.3 注重推薦信息的合理性，倡導正向價值觀

算法需要為用戶帶來符合需求的個性化服務，也需要倡導正向的內容，引領積極的方向。首先，算法推薦服務雖然是給用戶推薦合適的產品，但并不是無節制地推薦，因為算法在根據用戶興趣愛好推薦的同時，也會不可避免地引起信息成癮的問題，不斷地迎合用戶需求，不斷地根據用戶愛好推薦容易讓用戶形成單一的信息，如果不加制止，也會容易讓用戶陷入泛娛樂化的陷阱，使其沉浸在虛擬世界中[7]。如果用戶本身有涉及不良的習慣，或者社會上傳播的一些不良思想也自動加入算法中，會容易帶偏社會的正向價值觀。企業在做推薦服務的同時，也可以多加入一些社會主流正向價值觀的內容，即符合用戶產品需要，也能引導人們積極向上，構建健康的消費理念。算法本身沒有判斷好壞的屬性，一切在于人為的控制與優化[8]，所以，任何企業在做個性化推薦服務的時候，都應該避免這種負向的信息，多考慮好算法所產生的意外結果，從而去及時進行規范。

2.4 建立一套完善的推薦算法管理機制

算法推薦需要國家層面出臺法律規定進行治理，同理企業也應該遵循規定去給自己制定關于算法的內部管理機制。在大數據盛行、電商購物行為普遍的背景下，每天都會產生大量的數據，即涉及了用戶的購物行為，也會涉及很多個人甚至國家層面的敏感數據，如何對這些數據進行管理，如何保護這些數據，需要企業完善信息技術，也需要企業內部形成嚴格的信息保護條款，做好數據脫敏，規范內部的數據使用規定。另外，在人工智能時代，推薦算法也逐漸趨向于智能化和自動化，算法能自動進行學習，不斷地優化從而能做出更有效符合用戶需求的推薦，但智能化的算法畢竟無法對所有情況進行判斷，涉及一些倫理性或價值是否判斷的內容智能算法可能沒有辦法很好地處理，企業不能任由算法去執行推薦服務，應該要定期檢查算法推薦的內容是否符合相關規范，可以成立專門的算法推薦服務體驗小組，定期進行個性化推薦服務體驗，及時提出算法優化建議。利用技術手段及時規制算法出現的不確定情況，如果發現個性化推薦產生了不良的內容，要有相應的系統自動阻斷機制。

3 結語

《互聯網信息服務算法推薦管理規定》無疑是給電商個性化推薦提出了更多的要求，也進一步為規范算法推薦服務市場提供了有力的方向。算法推薦不再僅僅強調推薦效果的精準性和有效性，也應該給社會帶來更多方面的價值。希望更多企業能遵循規定，致力于為用戶提供更有效、更安全、更公平、更積極向上的推薦服務，共同打造一個健康的電商消費環境。