掌控還是被掌控

張銘皓

摘? 要? 大數據時代對于算法分發的運用已經十分普遍，對用戶來說算法分發對于個性化偏好的精準預測，提高了獲取有效信息的效率。但同時也不可避免地存在著諸如易引發社會隔閡，加深偏見，泄露信息等各種問題。在普通用戶面臨著被算法操縱而帶來一系列不利影響的情況下，及時對算法的不足之處做出預判有助于在利用算法技術為人類提供便利之時，有效規避可能帶來的風險。

關鍵詞? 個性化推薦;算法偏見;人文主義;價值觀

大數據時代信息冗雜，算法應運而生，“數據+算法”的推薦模式被廣泛應用于多元化場景，為什么淘寶界面的猜你喜歡每次都能猜中，網易云首頁的每日推薦剛好就是你愛聽的風格，而抖音短視頻一刷就停不下來，算法的每次行動必能一擊即中。人類已經進入了一個算法比你更懂自己的時代，你自己都不清楚的穿衣風格算法卻能給出最準確的搭配方式，所謂的個性化在龐大的數據面前，是否只是一個樣本？在互聯網時代對于算法的依賴是一種便利還是機器的變相控制？

1? 算法分發的機制及效應

算法最初指解決問題的方法，后來在不同領域的借用中演變為一種復雜的社會技術系統，再后來因為算法決策服務被人們熟知。算法分發以大數據運算為依托，涉及人工智能、知識發現、互聯網信息檢索、數據庫以及數據挖掘和分析等技術。算法能在掌握用戶的社會屬性、興趣愛好、短期行為等個人信息的前提下進行相關性分析，完成對用戶的多角度描述性標簽屬性即用戶畫像，從而實現精準的信息推薦。運用到電商領域，算法就像是用戶過去的消費動態與未來的消費行為之間的預測者，以用戶在互聯網留下的各種數據為線索保障預測行為的圓滿完成。

以電商平臺淘寶為例，2019年天貓“雙十一”狂歡節最終成交總額達到2684億元，其中的營銷策略離不開以算法為依托的智能推薦。淘寶網對于數據和算法的應用開始于2011年的“母嬰檔案”項目，這是淘寶為了滿足年輕媽媽的需求而利用算法進行的第一次嘗試。2013年左右，隨著平臺上商品品類的不斷增加，用戶進行選購的時間成本不斷上升，為了打破用戶對淘寶低價爆款的固有印象，避免在新型競爭者不斷涌出的激烈競爭中受到鉗制，淘寶做了一次至關重要的嘗試——在聚劃算上測試個性化推薦的效果，聚劃算的商品成交額在淘寶推出個性化推薦后很快上升了一倍①。此舉改變了以往以同一套算法應對所有用戶的“千人一面”局面。目前淘寶平臺的推薦邏輯還在不斷擴展，它的訴求不僅僅是“千人千面”，力爭從用戶生活的方方面面洞悉需求，達到“千人萬面”。從搜索一只馬克杯開始，藝術玻璃器皿、復古鄉村書櫥置物架等相關家居推薦將會慢慢出現在你的淘寶首頁，從推薦物品到推薦服務，再到推薦場景，算法分發的野心已經開始為你設定根據數據總結得出的優質生活方式。

2? 基于算法個性化推薦的隱性憂患

2.1? “畫地為牢”與共識缺乏

基于算法技術的個性化推薦能夠幫助用戶從海量的信息中打撈對他們來說最有價值的內容，在用戶感嘆某個軟件推送的內容或商品正巧符合自己興趣的同時，也是把自己封在了算法精確界定出的圈子里。久而久之必然會難以接受圈子之外的新鮮事物。重復接受同樣的思想或觀點使得固化思維產生，人們的某些觀點和立場進一步固化導致個人視野的窄化和個人立場的極端化。算法先通過例如身份、經濟狀況等信息把個體劃分到不同的層級，再系統地為不同層級分發不同內容和質量的信息，當用戶把享用算法“量身定做”的信息當成習慣，原本就有所區分的層級之間的溝壑只會越來越寬，當處在同一個社會環境中的個體都帶著算法智能分發的有色眼鏡看待問題，彼此的分歧越大則社會聚合力越小。然而，在這樣一個用數據說話的時代，數據分析得出的結論往往是多數人眼中的真相，在各種主體都在努力地尋求用數據分析和算法的力量來制造契合自己需要的信息環境與意見格局時，那些曾經被互聯網交互打破的高墻又重新筑起來了。科技進步不僅讓社會中的人與人連接，還讓整合的社會狀態分裂，當數據和算法成為權力博弈的武器，我們期待的“共同視角”或“共識”的形成必將面臨更大的阻力[1]。

2.2? 來自機器的念念不忘

智能推薦一邊為用戶帶來便利，一邊收集、處理、控制著用戶的個人信息，人類在互聯網上的一切活動都會留下記錄著個人的特征、位置、狀態的數據痕跡，它會以一種隱秘的方式向算法透漏你的偏好，并為后臺數據庫精準地為你打上標簽提供素材。在此情況下不得不時刻警惕數據收集、數據利用、數據泄露等隱私風險，完整的數字化記憶將人囚禁在透明的時空監獄中，即使“刪除權”與“更正權”正在幫我們行使被遺忘的權利，個體也將面臨比過去更多的隱私風險。少注冊幾個應用程序，不允許該網頁訪問你的設備或許是人們自認為的可以減少風險的方法，但在算法通過若干點贊就可以判斷用戶的興趣，傳感器可以隨時隨地捕捉關于人的任何數據的大數據時代，記憶仍會是常態[1]。

2.3? 人文主義與數據主義的較量

我們從什么時候開始相信算法基于數據做出的判斷比人們坐在桌前開會討論出的結果更值得信賴，在智能扶貧項目中，弱勢公民的真實需求變成了數字，這份曾經屬于社會工作者的工作現在由機器來執行。這是一個福利國家的人文要素逐漸被稀釋的過程，福利受濟者的命運將由算法宣判。算法似乎是無所不能的，它在以上帝視角洞悉著一切，對于數據的處理平等而理性，甚至分不清在龐大的數據庫中，人究竟是鮮活的生命還是一串待處理的數字。

此外，算法還繼承了技術人員的初始偏見，并隨著數據的積累不斷放大，比如算法傾向于向黑人推送查詢犯罪記錄的廣告以及女性在瀏覽網頁時很難看到高管培訓的廣告。如果我們堅信的算法，是在種族和階級的現有扭曲中孕育而生，那么它只會讓的不同階級間的鴻溝更大更深[2]。

不過，在人性自身達不到完美時也不必對數據過分苛責，人文主義與數據主義的較量不過是人們期望看到的自己與現實人性之間的博弈，數據在本質上是人類觀察世界的表征形式，不過是對人類行為的歸納與整理，人類文化是存在偏見的，作為與人類社會同構的大數據，也必然包含著根深蒂固的偏見。而大數據算法僅僅是把這種歧視文化歸納出來而已[3]。由此看來，算法符合我們固有的成見并不稀奇，在我們承認人性的陰暗面時也該想到機器也會有學壞的一天。

3? 總結與建議

應該承認，機器在幫助我們提高各種各樣的機械能力的方面，較人類更勝一籌。在未來，算法仍然會應用到更多的領域，利用相關性分析幫我們預測更遠的未來。但是，今天之所以還會不斷地探討算法分發帶來的種種憂患，是因為即便是發現了機械的算法分發會引發影響到用戶個體、傳媒行業乃至整個網絡文化與社會文化的一系列問題，我們仍然相信人類的力量會在算法和人類共棲共生的關系中占據上風，問題不會憑空消失但局面仍然可以通過種種舉措來緩和。

3.1? 確定人在內容分發中的主導地位

在這樣一個算法無處不在，算法推送的爭議無處不在的世界，處理人與信息的基本關系，是解決各種問題的前提。今天我們在比較的是人文主義和數據主義，其實也是在對算法對于內容分發的主導權產生質疑。其一，人的心理和行為具有復雜性，并非每一次的消費行為都具備縝密的邏輯，人們在某些情景下做出的選擇很有可能是連自己也無法解釋的“無意識”“不確定”的，并非單一的標準可以衡量。其二，信息的價值觀是由人賦予的，人工可以介入到分發模式的各個環節對畸形的思維模式進行調整，人工的介入并非貼標簽般的簡化處理，而應該是一套完備的經過檢測的系統化操作流程②。在價值判斷上，人的社會閱歷和思考能力能對問題進行多維度考量，勝過了機器的程式化解決模式，由人來主導內容分發，對算法來說也是一種精簡和優化的過程。

3.2? 提高從業者素質

當我們在擔心使用算法帶來的后果時其實也是在警惕算法這項技術的不成熟，但與其因為恐懼算法而減少使用，不如從根源上提高算法分發的效用。使一套機器語言適應所有人的心理需要，并同時滿足社會效益的最大化可行性不高，畢竟算法是由一群技術人員而非心理學家設計的，今天用于處理幾百萬個樣本數據的程序可能已經附著了技術人員的個人價值觀，盡管算法被應用前已經經過了多次檢驗，但未來算法的編制仍然需要在經驗與程式化、感性與精準之間尋找平衡。未來的內容從業者，既需要掌握一定的數據采集、分析與加工的能力，也需要足夠的人文的視野與素養，擅長數據與算法的技術人員與具有人文情懷的內容生產者的協作，也會成為常態[4]。

3.3? 加強信息倫理規范的約束

算法發展到今天，對于用戶來說還是完全封閉的，用戶在選擇算法的同時將自己的私人信息無償交給技術后臺，換來的卻有可能的是以利益為目標的誤導和欺騙。用戶無法看到源代碼，也就不明白其中的具體規則[5]。這種不透明性導致用戶完全處于被動接受算法推薦結果的狀態，一旦算法設計者在其中裝入某種不公正因素，這將擾亂公正的市場秩序，消費者的利益也會因此遭到侵蝕。但是對于大多數商家來說，算法程序可能涉及商業機密，廣泛公開有失商業道德。因此，政府有必要通過完善相關法律，成立監察機構來還算法以清白，懲治無良平臺對于算法的利用。

注釋

①孫然：“搜索和推薦”算法工程師 一個大有前途的職業，https：//www.ynhouse.com/news/view-203740.html，2018.10/2020.2。

②喻國明，曲慧：《“信息繭房”的誤讀與算法推送的必要——兼論內容分發中社會倫理困境的解決之道》，新疆師范大學學報（哲學社會科學版），https：//doi.org/10.14100/j.cnki.65-1039/g4.20190826.001。

參考文獻

[1]彭蘭.假象、算法囚徒與權力讓渡 數據與算法時代的新風險[J].西北師大學報，2018，55（5）：20-29.

[2]沈律君.如果AI和算法無罪，那么誰在殺死窮人？[EB/OL].http：//www.sohu.com/a/352140479_563941，2019.11/2020.2.

[3]張玉宏，秦志光，肖樂.大數據算法的歧視本質[J].自然辯證法研究，2017（5）：81-86.

[4]彭蘭.增強與克制：智媒時代的新生產力[J].湖南師范大學社會科學學報，2019（4）：132-142.

[5]何順民.網購平臺個性化推薦算法的倫理困境及規制 以移動電商淘寶為例[J].城市學刊，2019，40（3）：1-6.