高校算法倫理培育現狀及強化路徑研究

袁 帆,范 怡

(上海理工大學網絡新媒體系,上海,200093)

一、引言

智能媒體的廣泛使用增加了大眾可接受信息的數量,促成了“算法注入社會”(algorithmically infused societies)的形成。[1]大眾在享受新媒體帶來的技術便利的同時,也逐步感受到信息繭房、隱私侵犯等一系列算法倫理風險。實質上,技術向來不是中立的,有關技術的決定是一種以價值為基礎的決定,它不僅反映特定的社會價值觀,而且會將其具象化,算法技術也不例外。[2]隨著信息技術使用領域的不斷拓展,算法平臺從業者通過掌握算法技術,對算法施以控制力和影響力。而這種權力很容易被那些無所顧忌或易受誘惑的人濫用。[3]這些人可以憑借對算法技術的掌握,影響技術結果的價值走向。在算法平臺上,還有一部分人同樣是算法倫理風險的重要責任人,也就是平臺的潛在從業者,即相關專業的大學生。他們在高校中接受的算法倫理教育深度對其從業后的工作行為與狀態有著重要影響。高校是開展算法倫理教育的關鍵角色,本研究重點關注高校在算法倫理培育方面存在的局限性,基于實證調查了解現階段算法倫理相關培育課程的真實情況,獲取高校相關專業學生對于算法倫理培育的一手反饋信息,探尋高校算法倫理教育的未來發展空間。

二、高校算法倫理培育的局限

早期,與算法相關的倫理課程主要由計算機科學與技術專業開設,學習算法技術是此類專業的重點學習內容。伴隨著工文融合、交叉學科建設的推進,諸如社會學、新聞傳播學等專業也開始涉及一些算法課程,且或多或少都添加了算法倫理內容。具體而言,這些與算法相關的倫理課程主要從三方面展開。一是公共基礎課程中的思想道德修養與法律基礎課程,作為必修課程針對全校學生開設,主要落腳于社會主義核心價值觀等宏觀倫理道德的培育,其中可能會基于社會信息化的背景,涉及一些算法倫理問題。二是多數理工科會開設的工程倫理課程。此課程的主要內容是工程相關從業者的倫理責任意識,其專業范圍涉及眾多,包括土木、化工、信息、環境工程等。三是人文社會學科開設的專業倫理法規課程,例如新聞傳播學相關專業開設的新聞倫理與法規課程,這是針對某一特定專業或職業的倫理道德教育。

高校的倫理培育課程體系較為豐富,但聚焦到算法倫理這種微觀倫理層面培育時卻存在諸多局限。首先,一般的思想道德修養與法律基礎課程較少專門講解算法倫理。作為大學生的必修課程,思想道德修養與法律基礎課程雖然能夠在宏觀層面向較為龐大的學生群體傳達整體倫理責任意識,但無法細致覆蓋到具體的算法知識內容、倫理困境和解決路徑。其次,高校對工程倫理課程的重視程度有限。以清華大學信息科學技術學院為例,2016年計算機科學與技術系碩士研究生培養方案中,必修環節提供了創業機會識別和商業計劃、科研規范、工程倫理、知識產權法律及實務、研究生學術與職業素養、文獻綜述與選題報告、學術活動這7門課程,每門課程賦分1—2分,但培養方案對必修環節的達標要求是不少于3分。[4]也就是說并非所有學生都會學習工程倫理知識。不僅是計算機專業的倫理教育受到的重視不足,教育機構和教育者對專業倫理教育在整個大學教育體系中的地位也缺乏認識和重視,大部分學校沒有開設專業倫理課程。[5]最后,人文社科的專業倫理課程對交叉學科倫理內容的設置占比有限。人文社科類專業倫理偏重其本學科、本行業的職業道德及倫理規范,對于算法倫理的涉及內容不多。以新聞傳播學專業為例,其主要倫理培育依靠的是新聞倫理與法規課程,其中可能涉及討論算法倫理的內容主要集中在網絡新聞傳播過程中發生的低俗新聞、隱私侵犯等方面,可見涉及算法倫理的內容十分有限。

總之,算法行業的蓬勃發展使其吸納了越來越多不同專業的大學生,針對大學生的算法倫理培育范疇與深度理應逐步擴展,這樣才能提升個體的算法倫理水平,繼而保障整個算法行業的發展走向更加積極健康。但一項調查顯示,大學生的算法素養還有提升空間,特別是針對算法知識、技能以及批判性思維的提升。[6]在算法批判性思維方面,大學生普遍存在思維沉默、妥協、順從、固著的現象,個體的思維基礎能力較弱。[7]

三、高校算法倫理培育現狀訪談

(一)訪談設計

本研究采用深度訪談的研究方法探討高校算法倫理培育現狀。訪談時間集中在2023年8月,訪談形式包括線下實地訪談和線上微信語音電話訪談,訪談時間均不少于25分鐘,共計20名訪談對象。訪談提綱如表1所示,先詢問訪談對象的基本情況,再圍繞對算法技術的了解、對算法風險的感知、作為潛在從業者對算法倫理學習的認知等方面展開交流。

表1 訪談提綱

(二)訪談對象基本情況

訪談對象基本情況如表2所示,將20位訪談對象編碼為P01—P20,訪談對象的專業涉及新聞傳播學、計算機、社會學和管理學,年齡分布在18—26歲之間,研究對象現居地分布在北京、上海、合肥、南京等城市,受教育程度包含大學本科和碩士研究生。

表2 訪談對象基本情況

四、結果與分析

第一,智媒平臺的使用以興趣為主導,社交屬性明顯。大多數訪談對象對智能媒體的使用主要集中在微博、小紅書、抖音等App上,其中,微博的主要吸引力源自其具有追星社區文化和熱搜榜功能,這是訪談對象認為微博不同于其他智能媒體的獨特優勢。P01說:“我最開始用微博主要是為了追星。”抖音則是刷小視頻的休閑娛樂屬性突出。P02說:“微博會經常會用,因為微博算是一個小的社交場所。”P11說:“我無聊的時候就刷抖音來消磨時光。”

在智媒時代,諸如小紅書、微博等智能媒體成為人們獲取公共信息和私人信息的重要方式,平臺算法作為一種隱性中介控制著信息的可見與不可見,悄然影響著傳播效果流[8],進而影響使用者對平臺的功能定位。此次訪談中的大部分對象對智媒平臺已經有了一定程度的依賴性,在潛移默化中受到各平臺算法機制的影響,養成了一些較為固定的使用習慣。

第二,潛在從業者能明顯感知到自己受到智媒平臺算法的影響,但對算法背后的技術邏輯了解存在差異。當算法開始影響或控制人的想法或行為時,就從單純的技術轉化為一種實質意義上的權力,即算法權力。[9]本次研究的訪談對象均為媒介素養較高的大學生,他們都不約而同地感受到了智能媒體背后的算法技術作用,即能夠察覺到自己很容易掉入信息繭房中,只關注自己感興趣的內容,并且容易長時間沉浸在信息流中而忽視了現實世界的時間流逝。

同時,有訪談對象會積極利用算法規律。如P04談道,淘寶的算法會向用戶反復推薦相同或類似的商品,用戶可以利用這一點來尋找價格更低的商品。但算法透明不等同于算法可知[10],只有計算機專業的訪談對象可以具體闡述智能媒體背后的技術支撐,P10和P14是計算機專業的學生,他們在談及算法推薦時,會較為深入地談論一些知識理論問題。P10說:“抖音即便在網絡不好的情況下也能收到視頻推送。這是因其算法會根據地理位置信息選擇對應位置最近的數據基站或服務器,推送其中的視頻內容。”P14說:“以興趣推薦算法背后涉及基于行為的協同過濾、基于內容的推薦、基于關聯規則的推薦等算法技術,這并不是某種算法代碼就能夠單獨實現的。”非計算機專業的訪談對象對算法推薦的感知大于對算法工作原理的認知。他們對算法背后的邏輯了解不多,對算法負面影響的認識停留在信息繭房方面,而對更為隱匿的算法偏見、算法歧視等問題鮮少提及。

第三,高校開設的倫理培育課程較為寬泛,對算法倫理風險應對效果有限。在調研過程中,大部分訪談對象表示學校并沒有開展過算法相關倫理課程的學習,或反映了存在相關課程的內容設置已經與現實情況脫節的現象。如在新聞傳播學相關專業中,新聞傳播倫理與法規課程是很多高校本科或者碩士研究生培養的必修課,但在此次調研中,新聞傳播學專業的訪談對象對這一課程并沒有留下深刻印象,沒有掌握應對智能媒體或者算法傳播的知識與技能。新聞傳播學專業的學生P01說:“沒有涉及過相關道德規范,雖然我是新傳專業,但是說實話它真的沒有涉及倫理的課程。媒介社會學課程涉及一些,但是主要是質化研究時的倫理問題,而不是專門討論AI倫理方面。”其他專業學生也給出了相似的回答,認為本專業并沒有提供較好的算法倫理培育課程,P09、P14、P15是計算機專業的學生,P09說:“有思修課,但不能解決具體問題,還是希望能有一些實踐性的案例,或者請相關行業人員來講解。”P14說:“相關課程應該更聚焦于當下現實問題,很多案例在現在已經沒有借鑒性了。”P15說:“思政課、工程倫理課都會講一點技術和價值觀方面的內容,但若想真正運用這些知識來解決實際問題,感覺課堂上的知識有點泛化,不是很實用。”早在2002年,清華大學出版的《中國計算機科學與技術學科教程》中已經正式將“計算機技術的社會與職業問題”納入了計算機學科14門核心課程之一。但根據訪談對象的回應可以發現,我國計算機專業人員的倫理培育仍較薄弱。

第四,“轉碼”成為非計算機專業學生就業的新選擇,尚無法明晰這對行業未來的整體倫理發展趨向會產生怎樣的影響。互聯網行業迅速發展,越來越多非計算機專業的學生開始學習Python這樣的編程類課程,主動迎接智能技術的挑戰。P05、P06是新聞傳播學專業的學生,P05說:“人工智能是大趨勢,沒辦法逃避。我們有數據庫、Python課程,我想以后從事數據處理方面的工作。”P06說:“從個人興趣出發,我想去游戲公司,但新媒體運營不太想過多涉及了。”P17、P18是社會學專業的學生,P17說:“AI、ChatGPT雖然學習起來有挑戰,但如果有機會還是想去平臺試一下這方面的實習和工作。”P18說:“深度學習神經網絡這種人工智能是特別有前景的,但我的容量上限就在那兒,我想畢業以后去大廠‘卷’一兩年。”可見,其他專業有意向為學生提供信息技術的相關課程,擴充了算法潛在從業者的后備軍力量。越來越多非計算機專業的學生主動加入智媒平臺從業者行列,但他們幾乎從未接觸過工程倫理類的相關課程,這可能會降低智媒行業的整體倫理水平,但也有可能會因為本專業具備比計算機專業更為嚴苛的倫理要求而提升智媒行業的整體倫理水平。

第五,現有倫理課程并沒有完全激發潛在從業者的社會責任感,這一問題在理工科表現得更為明顯。算法作為一項技術手段,能夠起到重構公眾環境、規范人的行為的作用[11],掌握算法的人就間接成了制定規則的人。潛在從業者對算法承載的價值和責任認識不足。在此次采訪中,不少訪談對象對算法的價值偏向并沒有明確意識。P14說:“算法就像槍支,本身是沒有善惡的。我以后能做的就是更積極地進行人機交互,促進數據優化,做到高召回、高精確。”P15說:“我覺得算法是沒有價值觀的,它僅僅是一個參數,算法只是對我投入參數的回答。”P07說:“算法本質上只是一種解決問題的方案,不具有主觀性。我們無法給一個方法、一個沒有自主思考能力的東西賦予價值觀。”P20說:“開源的算法可以復刻結果,源代碼可以看出是否中立,不開源的就不能保證了。”

可見,算法終究是被少數人開發、控制和利用的技術。[12]訪談對象的態度在某種程度上說明現階段的高校算法倫理培育還未能使其意識到技術權力的龐大與壟斷。

五、高校強化算法倫理培育的路徑

此次訪談結果反映出高校有關算法的專業倫理培育效果仍有較大的提升空間。因此,高校需要系統性地強化算法倫理培育。

首先,高校要構建一套適用于算法時代的倫理培育方案。一個理性的倫理行為必然是在專業理念指導之下發生的。[13]目前高校的潛在從業者在承擔倫理責任時缺乏主動性,因而需要一套科學的算法倫理培育方案對其加以引導。科學的算法倫理培育方案一是要明確算法對當下社會的影響,調整高校算法倫理培育課程的占比和考核方式;二是要適應我國整體社會和教育現實,確定相關倫理培育課程的學科范疇設置,以適應算法類技術課程學科范疇的擴張;三是應以社會主義核心價值觀為導向,重點在于加強準算法相關行業尤其是互聯網、智能媒體行業相關潛在從業者的算法倫理批判性思維。算法倫理培育方案的培育目標是使潛在從業者在掌握算法技術的基礎上,辯證地看待算法結果和影響,有意識地規范自我算法行為,主動承擔算法責任義務。此外,算法倫理培育方案要銜接高校潛在從業者與已從業者,協助作為潛在從業者的學生在畢業到就業的過程中,能夠快速實現身份轉變,在從算法的接受者轉向算法設計者時,同步提高自己作為倫理主體的責任意識。

其次,高校要發揮主觀能動性,提高對算法倫理培育課程的重視程度,加強算法倫理培育課程的內容建設。人工智能技術發展迅速,給高校帶來了諸多研究機會,但技術進步引發的新技術倫理問題也不容忽視。高校不能只注重技術研究,而忽略技術背后的道德建設。高校需要搭建細化的分層倫理培育,將籠統的工程倫理課程細化為不同方向和類型的倫理進階課程,給不同年級、不同學科的學生提供更多的選修內容,讓學生能夠更加完整全面地認識算法、理解算法、負責算法。此外,高校應充分肯定并重視通識教育的作用,豐富有關算法倫理的精品課程。[14]在通識教育中,適當地、適時地加入以上專業課程內容,在校園范圍內普及算法倫理常識。

最后,高校要引入跨學科和跨行業力量,突破壁壘,提升算法倫理培育的多元性和實踐性。一般而言,人文社科類專業的學生能夠通過自身具備的人文關懷,更加真切地感受到算法帶來的倫理風險,進而理解個體因掌握算法技術而承載的重大社會責任,但整體上缺乏深厚的技術知識,雖然能夠在概念邏輯上理解算法技術運行的大致規則,但是不能完全理解算法技術的內在運算機制、預判運行結果,這使得他們很難將自身的人文關懷轉化到可應用的算法技術之中。自身專業學習較多涉及算法技術相關知識的專業多為理工科專業,這些專業的學生對算法風險和算法責任的感知敏感度可能偏低,如計算機專業的學生對其所生產的算法將會用到什么程度,算法收集、生產的數據又會用到什么程度,以及算法受到資本的干預會引發的問題等缺乏考慮。因此,高校有必要促進這些不同專業的潛在從業者之間的溝通和交流,積極貫徹文理融合。與此同時,高校需要在社會上同相關行業組織尋求合作。例如,一些計算機協會和電氣與電子工程師協會等行業團體,很早就構建出了一套針對工程師倫理教育的課程,并伴隨著技術發展適時更新內容。這些課程內容囊括了哲學思辨、法律問題、實踐問題等。相比高校,專門的學術團體和行業團體集結了相關領域中最優秀的學者,一定程度上代表著行業發展的前沿,他們有設計倫理教育內容的天然優勢,能夠幫助高校搭建倫理教育體系,推動高校有效開展倫理教育,為高校提供寶貴的倫理實踐經驗。

六、結語

現階段的高校算法倫理培育尚不完備,倫理課程開設及傳授過程中的問題較為突出,并不能對相關專業的潛在從業者算法行為進行有效規范,繼而無法應對算法行業、產業未來的發展趨勢。高校要想從源頭上解決隱私侵犯、數據歧視等一系列算法倫理問題,需要設計一套符合我國高校實情和社會發展現狀的新算法倫理培育方案。只有如此,才能從潛在從業者出發,借助他們帶動未來算法社會的有序、健康發展。