局內的外人:新聞傳播領域算法工程師的倫理責任考察*

■ 嚴三九 袁 帆

近些年人工智能深入新聞業(yè)態(tài),促成了新聞傳播領域的算法轉向。在此轉向中,傳統(tǒng)新聞資訊生產(chǎn)、傳播方式被突破,自動化、個性化特征日益凸顯。但需要注意的是,算法并沒有同新聞傳播生態(tài)完成有機結合,它導致了諸如信息繭房、價值觀異化、權益侵犯等諸多問題。面對這些問題,已經(jīng)有學者開始從倫理視角予以解讀和應對。譬如邁克·安妮(Mike Ananny)和泰斯·斯洛特(Thijs Slot)著重從算法倫理角度對這些問題予以規(guī)制；尼古拉斯·迪亞科普洛斯(Nicholas Diakopoulos)等則是采取構建算法透明機制予以應對?？烧缋账?，任何技術潛力都是由人來實現(xiàn)的,①算法引發(fā)的各種問題最終都是由人造成的。由此,想要真正解決算法在新聞傳播領域引發(fā)的倫理問題,不能僅以亡羊補牢的方式從問題“下游”著手,而是得從“上游”出發(fā),從人出發(fā)。于是,算法的直接設計者——算法工程師便是不可忽略的研究對象。目前新聞傳播領域中,針對算法工程師的研究較為有限,更多的是將目光聚焦于算法平臺。而本文選擇將算法工程師作為研究對象,以期能夠了解算法工程師在承擔倫理責任時的自我定位,通過促動算法工程師主動承擔倫理責任來規(guī)范其相關行為,繼而預防新聞傳播領域中算法引發(fā)的諸多倫理失范問題,達到算法技術同新聞傳播生態(tài)間更有效的結合。

一、算法工程師:算法的關鍵責任人

1.算法:非中立的技術

在麥克盧漢看來，媒介技術是人身體的延伸,而電磁技術則是人中樞神經(jīng)的延伸。無論是以深度學習為基礎的自動化生產(chǎn),如聯(lián)社的Wordsmith、騰訊的Dreamwriter,還是以推薦算法為主流的內容分發(fā),如News Republic、今日頭條,它們實質上都是對人在生產(chǎn)、獲取、分發(fā)信息過程中各環(huán)節(jié)思維方式的模擬。對于這種算法模擬,諸如臉書、今日頭條都曾以“技術中立”為其辯護,聲稱其并無價值負載。那么，算法真的是中立的嗎？

媒介生態(tài)學者蘭斯·斯塔拉特(Lance Strate)認為,如果技術導致變化,只要該變化不是中立的,該技術也就不是中立的。②算法亦是如此。自從算法被大規(guī)模應用以來,新聞傳播領域出現(xiàn)了兩個質的變化:一方面,機器協(xié)作下的資訊生產(chǎn)、分發(fā)模式成為一大主流；另一方面,新型資訊聚合平臺成為后起之秀。在前一個變化過程中,算法雖推動了信息生產(chǎn)、傳播的速度,卻也常常與偏見、歧視、侵權等一系列帶有負面價值的詞匯聯(lián)系在一起；在后一個變化過程中,平臺享受著技術帶來的盈利,卻未能對算法可能造成的負面影響進行提前規(guī)避。由此看來,在算法帶來的變化中,正、負影響并不是能夠相互抵消,進而保持絕對均衡發(fā)展的。與此同時,技術本身又是存在偏向的。如同槍支,無論如何使用,它都具有暴力偏向。類似的，在大數(shù)據(jù)時代,算法無論如何應用,在其被設計出來的那一刻起,就已經(jīng)具備了控制偏向。這種控制偏向表現(xiàn)為算法沒有向用戶提供無限的選擇而是標記了必然,它窄化了什么是可以選擇的這一問題的答案。由此,算法可能在本體論意義上是具有中立性與客觀性的,但是在大眾傳播系統(tǒng)中的絕對中立性卻是一個偽命題。③

2.算法工程師:關鍵的責任主體

那么,對于非中立的算法技術,誰能夠影響它并決定它的價值走向呢？以往,我們普遍認為平臺和產(chǎn)品經(jīng)理對算法提出了要求,因此算法的價值走向取決于平臺所需。于是每當算法及平臺出現(xiàn)負面事件,如今日頭條因爬蟲侵權屢次被訴時,臉書泄密門事件被曝光時,平臺及負責人作為代表成為了被告或者道歉者。但透過平臺往背后追溯,有一個群體是不能被忽略的,那就是算法工程師。他們作為當下算法資訊平臺中掌握關鍵技術的群體,卻在諸多事件中處于失聲狀態(tài),在人們的視線中處于隱匿狀態(tài),成為了最神秘的那撥人。

實際上,由于“專業(yè)鴻溝”的存在,一開始就已經(jīng)劃分出有能力解讀算法的人和無能力解讀算法的人。有能力的人即算法工程師，他們有著不同的價值觀念,在實現(xiàn)目標功能的過程中,會選擇不同的算法來解決問題。也正是在這個過程中,算法工程師自身的價值偏向會有意識、無意識地被輸入到算法之中。譬如2016年一場AI網(wǎng)絡選美大賽中,最終獲獎者大部分為白人；再譬如谷歌曾給黑人程序員的自拍照打上了“大猩猩”標簽。這些算法偏見主要來源于兩點:一是人的偏見,二是訓練數(shù)據(jù)中固有偏見。但即便算法工程師盡可能地避免自身偏見的載入,對訓練數(shù)據(jù)中的偏見無甄別、無糾正,在某種程度上就是對偏見不敏感或者說默許偏見發(fā)生的表現(xiàn)。因此,正如楊保軍在界定智能新聞倫理責任主體時所認為的那樣,軟件的開發(fā)者和使用者是首要責任主體。④然而,大多數(shù)情況下,算法工程師是兼具開發(fā)者、使用者兩種角色。這種雙重角色雖然沒有賦予算法工程師像醫(yī)生或者律師那樣的社會地位,但是隨著信息技術施用領域的拓展,他們經(jīng)常發(fā)現(xiàn)自己確實有著高于老板、客戶、工作人員和大眾的權力,這種權力很容易被那些無所顧忌或易受誘惑的人所濫用。⑤所以算法工程師才是直接有能力使用算法、調整算法、預設算法未來走向的人。

介于以上各點,面對算法在新聞傳播領域中引發(fā)的諸多倫理問題,算法工程師自然不能置身于事外,需要承擔起自己應盡的義務與責任。這些義務與責任包括但不僅限于:了解自身所設計算法引發(fā)的倫理問題，增強對可能產(chǎn)生問題的敏感性，積極主動地參與到算法優(yōu)化任務之中等。由此,本研究將目光聚焦于新聞傳播領域中的算法工程師,考察不同的算法工程師如何認識算法所引發(fā)的倫理問題,以何種態(tài)度對待該些問題,又是否愿意承擔起改善這些倫理問題的責任與義務。

二、研究假設與研究對象

為了回答以上問題,本研究通過問卷調查和訪談法對算法工程師進行測量與分析。本文假設新聞傳播領域中的算法工程師對算法引發(fā)的倫理問題有著不同的觀點與態(tài)度。在以往的研究中個體差異,如年齡等會直接影響人們對事物的認知。并且在一般情況下,對一個問題越是了解,越能明確知曉其危害性。此外,對風險事件的感知又會影響到個體的態(tài)度與行為。⑥也就是說,對算法倫理問題的了解程度某種程度上會影響算法工程師會如何繼續(xù)對待這些問題,是傾向于改進還是傾向于保持現(xiàn)狀、不做改變。由此,本文提出如下假設:

假設一:資深算法工程師比年輕算法工程師對算法倫理問題的了解程度更深。

假設二:對算法倫理問題了解越多的工程師其所感受到的威脅性更為強烈。

假設三:對算法倫理問題了解越多的工程師更有意愿去改進該些問題。

為了驗證以上假設,本次研究采用問卷調查為主,深度訪問為輔的方式。在進行問卷設計、發(fā)放之前,作者對前期接觸的后端算法工程師進行了25-35分鐘不等的線上或線下訪問。然后根據(jù)深訪結合文獻,此次調查問卷由四個部分構成:一是對算法引發(fā)倫理問題的了解程度；二是對算法倫理問題威脅性感受程度；三是對改善算法引發(fā)倫理問題的意愿傾向；四是受訪者人口統(tǒng)計學變量,包括性別、年齡、受教育程度、從業(yè)時長及任職時長等。⑦為方便統(tǒng)計,問卷統(tǒng)一采取五級量表形式。

需要強調的是此次研究目的不在于進行深入的實證研究,僅限于一種探針式考察。調查于2019年1月11日至4月27日進行,經(jīng)前期接觸及深訪對象以滾雪球抽樣方式采集數(shù)據(jù)。通過互聯(lián)網(wǎng)向百度、字節(jié)跳動、快手科技三家主要互聯(lián)網(wǎng)企業(yè)中推薦算法等相關后端算法工程師發(fā)放問卷。此次樣本企業(yè)的選擇考慮到以下因素:首先,集中在北京是由于其本就是互聯(lián)網(wǎng)企業(yè)集中城市,在北京的互聯(lián)網(wǎng)企業(yè)數(shù)量占了我國互聯(lián)網(wǎng)企業(yè)數(shù)量的半壁江山；其次,百度、字節(jié)跳動、快手科技旗下都有算法產(chǎn)品引發(fā)過負面事件,也是算法倫理批判的主要平臺。此次調查共發(fā)放250份,排除無效問卷后最終有效問卷206份,回收率為82.4%。經(jīng)統(tǒng)計,參與此次調查的研究對象基本特征如下:

本次調查對象男性達192人占比約為93.20%,女性14人，占比約為6.80%,性別比約為14∶1。根據(jù)程序員客棧2019年中國程序員調查顯示2019年我國程序員群體男女比例為93.3%∶6.1%,接近15∶1。⑧由此,此次調查比較符合目前算法工程師群體以男性為主,女性占極少數(shù)的現(xiàn)實狀況。年齡普遍在21-35歲,平均年齡在27歲左右,符合現(xiàn)階段程序年齡分布實際。從教育水平來看,研究生占比57.1%,本科生占比35.8%,大專及以下占比7.1%；在從業(yè)時長上,1年以下占28.42%比,1-5年占比43.47%,6-10年占比17.70%,11年及以上占比10.41%；任職時長上,1年以下占比36.46%,1-2年占比47.92%,3-4年13.54%,5年及以上2.08%。整體來說,本研究的調查對象基本符合目前算法工程師群體的人口特征和社會特征。

三、對算法倫理問題的了解

在深訪階段,筆者列舉了“算法不透明”“算法歧視與不公”“算法黑箱”“算法侵權”“信息繭房”“過濾氣泡”“回音室效應”“群體極化”“娛樂至死”“算法霸權”十個關鍵詞匯來了解受訪者對算法倫理問題的基本認知情況。讓人意外的是,受訪對象大部分都表示并不是十分了解該些詞匯,甚至有算法工程師使用了“聞所未聞”一詞來進行回答。而當問及是否知曉“魏則西事件”時,大部分受訪者表示知曉。因此,在對算法工程師進行考察時,除了以上列舉的十個關鍵,問卷還設置了5個熱點事件包括“‘魏則西’事件”“今日頭條侵權被訴”“人民網(wǎng)三評算法推薦”“Facebook偏見門”“快手、抖音等短視頻整改”。

經(jīng)統(tǒng)計,算法工程師對新聞傳播領域有關算法倫理詞匯的了解程度一般,整體均值為3.02。其中有五項均值在中值3以下,分別為“信息繭房”(M=2.47,SD=0.72)、“過濾氣泡”(M=2.74,SD=0.93)、“回音室效應”(M=2.69,SD=0.84)、“娛樂至死”(M=2.79,SD=0.81)、“算法霸權”(M=2.76,SD=1.12),基本可以歸納為被訪者對此些詞匯不了解。均值高于3的五項有“算法透明”(M=3.69,SD=0.97)、“算法黑箱”(M=3.65,SD=1.01)、“算法侵權”(M=3.15,SD=0.93)、“算法歧視”(M=3.14,SD=1.02)、“群體極化”(M=3.07,SD=1.13)。其中“信息繭房”一項,無論是均值還是標準差都是最小,說明算法工程師整體對這一詞匯都處于不太了解的狀態(tài)。此外,受訪者對算法引發(fā)的熱點事件的了解程度整體均值為3.75。以中值3為標準,只有“人民網(wǎng)三評算法推薦”(M=2.73,SD=0.86)均值低于3。其余四項均值高于3,其中“‘魏則西’事件”(M=4.21,SD=0.81)、“今日頭條侵權被訴”(M=4.10,SD=0.84)兩項均值高于4；“臉書偏見門”(M=3.82,SD=0.96),“快手、抖音整改”(M=3.87,SD=0.85)。從標準差看,五件熱點事件標準差均在1以下,說明算法工程師內部對該五項事件的了解程度較為一致。

可見,算法工程師對算法倫理的了解僅停留于表層。僅留意了一些“事件性”信息,而對于一些“專業(yè)性”信息則不知曉。尤其研究中“信息繭房”“信息窄化”等專業(yè)術語作為新聞傳播領域對算法倫理問題批判中最常提及的話題,在算法工程師眼里卻是最陌生的詞匯,說明被訪者與新聞傳播領域間存在相對較大的隔閡,來自新聞傳播領域的算法倫理批判并沒有對算法工程師產(chǎn)生切實影響。

另外,研究以從業(yè)時間和任職時間來界定算法工程師的資歷,通過算法工程師的從業(yè)時長、任職時長與算法倫理問題了解間進行交叉分析。將倫理問題了解程度的均值區(qū)間設置為1.00-1.99,2.00-2.99,3.00-3.99,4.00-4.99以方便考察(見表1、2)。

表1 從業(yè)時長與倫理問題了解的交叉分析

表2 任職時長與倫理問題了解的交叉分析

由表1、表2可知,從業(yè)時長在1年以下的算法工程師對算法倫理問題的認知均值集中在3.00-3.99；從業(yè)大于1年的算法工程師一半以上集中在3.00以下。任職時長1年以下的算法程師對算法倫理問題的認知均值集中在1.00-1.99,但隨著在同一企業(yè)任職時間的增長,認知均值逐漸集中于3.00-3.99之間。此外,研究通過皮爾森簡單相關系數(shù)驗證了算法工程師的從業(yè)時長與倫理問題認識(r=-0.344,p<0.01)、任職時長與倫理問題認識(r=0.628,p<0.01)均成顯著相關。

綜上,本研究假設一需要調整為“在同一新聞傳播領域相關企業(yè)中任職時間越長的算法工程師會比任職時間短的算法工程師更了解算法在新聞傳播領域中引發(fā)的倫理問題”。

四、對算法倫理問題威脅性的評估

瑪利亞·莉瑪曾指出技術越是發(fā)展,風險感知越低,⑨言外之意表達了現(xiàn)代技術所含倫理問題的隱匿性。為了驗證此點,研究從上述十項詞匯出發(fā),測量在算法工程師眼里該些詞匯所涉及的算法倫理問題威脅性如何。

根據(jù)統(tǒng)計,在算法工程師看來新聞傳播領域中算法所引發(fā)的倫理問題并不具有強烈威脅性,整體均值為3.26。其中“信息繭房”(M=2.71,SD=0.69)的均值在中值3以下,說明在新聞傳播領域算法工程師眼中信息繭房是最沒有社會威脅性的,這與學界對“信息繭房”的強烈批判態(tài)度產(chǎn)生了分歧。“算法歧視”(M=4.01,SD=0.83)的均值在4.00以上,說明對社會可能產(chǎn)生強烈威脅的是算法自身內含的歧視問題,在此點上算法工程師同學界研究態(tài)度達成了一致。其余項均值在3.00-4.00之間,即在算法工程師對該些問題的威脅性一般。

此外，交叉分析顯示,當算法工程師的倫理問題認識均值在3.00以下時,其對算法倫理問題的威脅性評估大部分處于較低水平。而當均值在3.00以上時,其威脅性評估明顯趨于強烈,集中在3.00-3.99之間(見表3)。

表3 倫理問題了解與倫理問題威脅性評估的交叉分析

同時相關性分析也顯示倫理問題認識同威脅性評估之間呈顯著相關(r=0.270,p<0.01)。由此本文的假設二“對算法倫理問題了解越多的工程師其所感受到的威脅性更為強烈”是成立的。

五、對算法倫理問題的改善傾向

深訪中,筆者向受訪者提問,其是否有意愿對算法倫理問題做進一步了解,并改善現(xiàn)階段算法引發(fā)的倫理問題。一位入職字節(jié)跳動1年的推薦算法工程師說道:

“學者們批判的信息繭房這些倫理問題,不是作為技術人員的我主要考慮的,這些問題應該是管理者們事先要考慮的。如果他們認為產(chǎn)品有什么問題或應該調整某個變量的權重,我可以朝這個方向去調整代碼?！雹?/p>

另一位在百度工作兩年的后端工程師同樣指出:

“我是負責后端開發(fā)的,在產(chǎn)品測試過程中我們會發(fā)現(xiàn)一些問題,這些問題有涉及到倫理方面的但主要還是關于產(chǎn)品效果的。如果有涉及倫理的問題出現(xiàn),主要看領導給個什么解決方向,然后我們團隊再一起商量技術上能不能達到這個解決效果”。

不難發(fā)現(xiàn),算法工程師在倫理問題改善的自我定位中處于被動狀態(tài)。他們主要的任務是實現(xiàn)領導所要求的算法功能,當問題出現(xiàn)后也是根據(jù)企業(yè)要求從技術上調整算法。那么,算法工程師的主觀能動性到底如何？為此問卷考察了受訪者對待解決算法引發(fā)倫理問題時的態(tài)度,具體包括“改進算法,緩減信息繭房加劇現(xiàn)象”“了解收集、使用數(shù)據(jù)時相關的權利和責任”“對程序可能產(chǎn)生的問題進行預見并匯報”等十個題項。

面對算法在新聞傳播領域引發(fā)的倫理問題,算法工程師整體改進意愿不非常高,均值為3.50。以中值3為標準,其中“改進算法,緩減信息繭房加劇現(xiàn)象”(M=2.73,SD=0.74)、“向公眾分享算法相關知識、培養(yǎng)計算意識”(M=2.93,SD=1.07)兩項均值在3以下,說明算法工程師對此兩項的改進意愿非常低?！耙苊庵T如民族、性別等方面的歧視與偏見”(M=4.01,SD=0.99)、“考慮信息弱勢群體的需求”(M=4.01,SD=1.03)兩項均值高于4,說明算法工程師更有意愿在此兩項上做出改變。其余題項:“進一步了解算法倫理問題相關知識”(M=3.76,SD=0.81)、“對程序可能產(chǎn)生的問題進行預見并匯報”(M=3.68,SD=0.83)、“以正確價值觀引導算法”(M=3.63,SD=0.82)、“改進算法,提高推薦內容質量”(M=3.59,SD=0.87)、“要建立透明的政策和程序,使個人能夠了解正在收集的是什么數(shù)據(jù)及其使用方式”(M=3.45,SD=1.10)、“了解收集、使用數(shù)據(jù)時相關的權利和責任”(M=3.31,SD=0.84)。

此外,根據(jù)交叉分析,當算法工程師對算法倫理問題的了解均值在3.00以下時,其對倫理問題的改善意愿同樣處于低值；當倫理問題了解均值在3.00以上時,大部分算法工程師的倫理問題改善意愿處于3.00-4.99之間,說明他們更有意愿去改善算法倫理問題(見表4)。

表4 倫理問題了解與倫理問題改善傾向的交叉分析

此外,相關性分析也顯示倫理問題認識與倫理問題改善傾向間顯著相關(r=0.861,p<0.01)。由此，本文假設三“對算法倫理問題了解越多的工程師更有意愿去改善算法倫理問題”也是成立的。

六、結論與討論

1.研究啟示

通過本項研究發(fā)現(xiàn),作為引領算法價值走向的關鍵人物,算法工程師并沒有對算法在新聞傳播領域引發(fā)的倫理問題有太多深入了解。并且在面對這些問題的時候,沒有表現(xiàn)出非常高的積極性進行算法倫理問題改進。他們更多的是不認為現(xiàn)階段的算法引發(fā)了嚴重的倫理道德問題,這與當下各界對算法的激烈批判氛圍不相符?？梢哉f,雖然算法工程師已經(jīng)進入到了新聞傳播領域之中,成為促動新聞傳媒業(yè)改革的關鍵人物,但是卻未能進行準確的自我定位,職業(yè)角色上仍游離于新聞傳播領域。因此,可以將其稱為外“局內的外人”。那么對于算法工程師倫理責任意識不明確的現(xiàn)狀,該如何進行改變使其能盡快融入新聞業(yè),主動承擔起自我倫理責任呢？筆者認為可以通過三方面入手解決該問題:

第一,開展行業(yè)間、部門間對話與交流,提升算法工程師對算法倫理問題的了解。算法工程師的工作性質與工作環(huán)境使得這個職業(yè)群體內閉性較高,除了負責人以外,很少有機會同來自新聞傳播領域的其他人員進行接觸。因此,對其所設計的算法引發(fā)的倫理問題也就不甚了解。想要打破算法工程師“局內外人”的尷尬角色,最直接、有效的方式就是展開部門間、行業(yè)的對話與交流。通過跨部門、跨領域的對話,讓算法工程師切實了解當下算法引發(fā)的倫理問題嚴重性。促使算法工程師在進行算法設計之前就意識到其頭頂懸掛著一把“達摩克利斯之劍”,從而在算法設計過程中時刻保持謹慎,盡量減少算法引發(fā)倫理問題的可能。

第二,明確新聞傳播領域算法倫理原則、建立新聞傳播領域算法工程師職業(yè)道德規(guī)范?，F(xiàn)階段，無論是在我國新聞傳播領域內,還是整個計算機行業(yè)內都還沒有形成一套被廣泛認可的倫理道德規(guī)范體系,對算法工程師的職業(yè)道德也缺少規(guī)制。某種程度上,這直接使得算法工程師沒有內在原動力去承擔本屬于自己的倫理責任。而對比西方,2018年12月歐盟通過的《可信賴人工智能道德草案》(Draft Ethics Guidelines for Trustworthy AI)中提出算法必須遵守仁慈、非傷害、自治(尊重自我決定和個人選擇)、正義、可解釋原則(透明)等原則。美國計算機協(xié)會的《道德與職業(yè)行為準則》(Code of Ethics and Professional Conduct)則是目前國際接受度最高的職業(yè)道德規(guī)范,它包含一般道德準則、職業(yè)責任、專業(yè)領導原則和遵守《準則》四大方面,共25條。它們可以讓算法工程師從精神到行為上都受到約束,是具體領域中道德實現(xiàn)的最佳方式。因此,新聞傳播領域應盡快明確算法倫理原則以及算法工程師職業(yè)道德規(guī)范,帶頭從“上游”開始降低算法引發(fā)倫理問題的可能。

第三,通過入職倫理培訓加強算法工程師責任意識。在調查中,同企業(yè)共同成長的算法工程師會對算法引發(fā)的倫理問題會更為了解,而了解程度又影響其對該些問題的敏感性與改進意識?？墒浅绦騿T群體是高跳槽率群體,其中有58.5%的人跳槽1-3次,并且跳槽次數(shù)會隨著工作年限的增加而增加。這意味著想通過留職率來提升算法工程師的倫理責任感是比較困難的,最有效的方式是在入職企業(yè)伊始就開始有意識的進行倫理責任培育。但企業(yè)往往錯過了這個倫理培育的最佳時機,通過深訪得知，目前算法工程師們所接受的企業(yè)入職培訓主要為技術培訓、部門培訓和企業(yè)文化培訓三大類,但專門針對算法倫理問題的培訓內容涉及比較少。加之當下算法與新聞傳播領域的深度結合,引發(fā)的問題類型層出不窮,抓住入職伊始這一關鍵時期進行算法工程師倫理培育就顯得急切又必要。

2.不足與展望

此次調查的目的在于初步了解新聞傳播領域算法工程師在面對算法倫理問題時的責任與態(tài)度意識。雖然采用了深訪和問卷結合的方式,但問卷的題項設置仍不全面。加之,以滾雪球方式抽樣,不可避免的會存在一些偏差。由此,筆者希望在日后能進一步完善問卷,同時采用更為科學的抽樣方式,使數(shù)據(jù)結果能夠更接近算法工程師的倫理責任現(xiàn)狀。

注釋:

① [德]弗里德里?！だ?《技術哲學導論》,劉武譯,遼寧科學技術出版社1986版,第123頁。

② Lance S.IfIt'sNeutral,It'sNotTechnology.Educational Technology,vol.52,no.1,2012.pp.6-9.

③ 李林容:《網(wǎng)絡智能推薦算法的“偽中立性”解析》,《現(xiàn)代傳播》,2018年第8期。

④ 楊保軍、杜輝:《智能新聞:倫理風險·倫理主體·倫理原則》,《西北師大學報(社會科學版)》,2019年第1期。

⑤ [澳]湯姆·福雷斯特:《計算機倫理學——計算機學中的警示與倫理困境》,陸成譯,北京大學出版社2006年版,第15頁。

⑥ 謝曉非、鄭蕊:《風險溝通與公共理性》,《心理科學進展》,2003年第11期。

⑦ 從業(yè)時長指的是算法工程師開始進入該行業(yè)的時長，任職時長指的是算法工程師在現(xiàn)就任企業(yè)所任職的時長。

⑨ Maria L,Julie B,Jorge V.RiskPerceptionandTechnologicalDevelopmentatASocietalLevel. Risk Analysis,vol.25,no.5,2005.pp.1229-1239.