加強(qiáng)科技倫理教育，讓教育更有溫度和力度

邢曉鳳

人工智能、基因編輯、ChatGPT、輔助生殖技術(shù)……科技創(chuàng)新的快速發(fā)展，使人類在越來越多的前沿探索闖入“無人區(qū)”，面臨的科技倫理挑戰(zhàn)也日益增多。很多人把科學(xué)技術(shù)比喻為雙刃劍和“潘多拉魔盒”，這些新技術(shù)在釋放技術(shù)紅利、造福人類的同時(shí)，也催生了新的科技倫理風(fēng)險(xiǎn)和科技治理挑戰(zhàn)。

偉大的科技，還要有偉大的倫理?？萍紕?chuàng)新應(yīng)守好倫理“大門”，我們要堅(jiān)持“科技倫理先行”，塑造科技向善的文化理念和保障機(jī)制，讓科技創(chuàng)新更有溫度和力度。把科技向善的文化理念融入我們的教育中，從小培養(yǎng)孩子“科技發(fā)展為人類服務(wù)”的價(jià)值取向，以人為本，做負(fù)責(zé)任、有誠(chéng)信、有道德的科研，培養(yǎng)有使命感的科技后備人才。科技倫理視域下，道德成為一種能力要求，科技倫理教育成為一項(xiàng)復(fù)雜、緊迫、艱巨的任務(wù)。如何在學(xué)校加強(qiáng)科技倫理教育？《教育家》雜志邀請(qǐng)多位資深專家進(jìn)行研討——

議題一：如何在中小學(xué)階段開啟科技倫理啟蒙？

王湘蓉：當(dāng)下，已進(jìn)入“深度科技時(shí)代”，如何在中小學(xué)階段開啟科技倫理啟蒙？科技倫理教育的本質(zhì)在于培養(yǎng)科技倫理觀，培養(yǎng)以人為本和科技向善的觀念是科技倫理教育的核心目的。那么，科技倫理教育的培養(yǎng)路徑有哪些？如何建立整體的科技倫理教育體系？

涂善東：科技倫理的概念要放在科技時(shí)代的角度來考慮。作為工科教師，我們積極倡導(dǎo)工程倫理教育，其價(jià)值取向與科技倫理是一樣的。工程科技的初心是造福人類，工程實(shí)踐確實(shí)改變了世界，但用得好就是正向的改變，用不好就是負(fù)面的改變，這就涉及工程倫理的教育問題，作為“全面工程教育”不可缺少的部分，需要嵌入教育的各個(gè)階段。

建議在中、小學(xué)階段做更多的正面引導(dǎo)。可以分三個(gè)層次設(shè)置相應(yīng)的活動(dòng)，一是鼓勵(lì)學(xué)生積極參與公益志愿活動(dòng)，培養(yǎng)對(duì)殘疾人、老人、病人、弱者的同情心，提升對(duì)社會(huì)需求的認(rèn)知；二是支持學(xué)生組織面向弱勢(shì)群體的社團(tuán)乃至面向未來技術(shù)的研發(fā)機(jī)構(gòu)展開活動(dòng)；三是鼓勵(lì)學(xué)生開發(fā)技術(shù)，幫助有困難的群體（比如開發(fā)智能拐杖、機(jī)器人助手、自動(dòng)洗澡、醫(yī)工結(jié)合產(chǎn)品等），特別重視幫助窮人的技術(shù)，如：便宜的衣、食、住、行、交流的方式和工具，進(jìn)而可望實(shí)現(xiàn)低碳生活方式。通過這些活動(dòng)，讓學(xué)生們從小就知道科學(xué)技術(shù)的根本目的是以人為本、是為了創(chuàng)造人類更加美好的生活。

在大學(xué)層面，除了繼續(xù)中小學(xué)的正面教育，還要強(qiáng)調(diào)工程風(fēng)險(xiǎn)的案例教學(xué)，建立可接受風(fēng)險(xiǎn)和不可接受風(fēng)險(xiǎn)的概念，從而理解工程科技倫理的重要性；應(yīng)將工程科技倫理嵌入教學(xué)和相關(guān)科技活動(dòng)中。我上工程導(dǎo)論課時(shí)，常常給學(xué)生強(qiáng)調(diào)，作為一個(gè)工程師，不僅要懂得工程有好的一面，還要懂得工程有可能出現(xiàn)的風(fēng)險(xiǎn)。所以工程師不能單純談技術(shù)實(shí)現(xiàn)，比技術(shù)更重要的是道德底線和職業(yè)操守。工程所系，社會(huì)福祉，人民安康，進(jìn)入工程及其相關(guān)領(lǐng)域，都要恪守工程倫理和職業(yè)道德?！肮姲踩?，永在首位；履職專業(yè)，精益求精；言行如一，惟誠(chéng)惟信；進(jìn)取不懈，矢志創(chuàng)新。”這是我在2015年提出的“工科畢業(yè)生誓言”，我很高興看到，近年來在畢業(yè)季到來的時(shí)候，許多大學(xué)都組織畢業(yè)生們以此進(jìn)行宣誓。

同時(shí)，社會(huì)公眾倫理水準(zhǔn)的提高，直接影響我們的科技倫理教育。因?yàn)榻逃粌H僅是在學(xué)校，家庭教育也非常重要，社會(huì)環(huán)境對(duì)孩子潛移默化的影響也無法回避。

王惠敏：學(xué)術(shù)不端也屬于科研倫理的范疇。學(xué)術(shù)不端行為發(fā)生的主要原因是他們沒有基本的學(xué)術(shù)誠(chéng)信或科研誠(chéng)信的概念。比如有學(xué)生投稿，遲遲沒得到答復(fù)，未經(jīng)咨詢就默認(rèn)為期刊拒稿，于是另投了一家期刊，結(jié)果兩個(gè)期刊同時(shí)刊發(fā)了出來，造成重復(fù)投稿。我們學(xué)校開設(shè)科研倫理課程，就是要告訴學(xué)生應(yīng)該如何避免這種情況。現(xiàn)在很多學(xué)校是用懲罰的手段來處理學(xué)術(shù)或科研不端行為。其實(shí)，我們更應(yīng)該引導(dǎo)學(xué)生怎樣做，保證朝著正確的方向，避免去觸碰一些紅線。目前在學(xué)校里，90%以上的學(xué)生沒有接觸過這方面的教育。一定要告訴學(xué)生如何才能避免在寫作中發(fā)生類似錯(cuò)誤，而不是只靠查重界定。孟子曾提出，誠(chéng)者天之道也，誠(chéng)之者人之道也。中小學(xué)教育就要給學(xué)生灌輸學(xué)術(shù)誠(chéng)信的觀念，讓學(xué)生形成一種習(xí)慣。在講學(xué)術(shù)誠(chéng)信時(shí)，要把學(xué)術(shù)或科研誠(chéng)信的核心價(jià)值觀傳遞給學(xué)生，包括誠(chéng)實(shí)、開放性、公平性、可靠性等。不僅要對(duì)學(xué)生進(jìn)行科技倫理教育，我們的老師和校長(zhǎng)也要補(bǔ)上這一課。

彭耀進(jìn)：目前，大多數(shù)教育從業(yè)者尚未將科技倫理納入科技研發(fā)和教育過程中，其中一個(gè)重要問題是沒有為科研人員提供科技倫理教育。如果一個(gè)實(shí)驗(yàn)室的負(fù)責(zé)人高度重視科技倫理，那么實(shí)驗(yàn)室的其他工作人員和學(xué)生也會(huì)重視。倫理爭(zhēng)議是科研過程中固有且不可避免的。我們需要認(rèn)識(shí)到科技的雙重性，在推動(dòng)人類社會(huì)發(fā)展的同時(shí)，也可能引發(fā)潛在的倫理爭(zhēng)議、社會(huì)風(fēng)險(xiǎn)和法律沖突。

將科技倫理教育融入科研和知識(shí)教育過程中，需要我們不斷反思潛在的社會(huì)影響和倫理問題，而非提供絕對(duì)標(biāo)準(zhǔn)的答案。通過教育，我們可以培養(yǎng)學(xué)生的批判性思維和信息素養(yǎng)，鼓勵(lì)他們參與現(xiàn)實(shí)世界中可能涉及倫理和政策討論的話題。

因此，我們需要?jiǎng)?chuàng)造一個(gè)良好的環(huán)境氛圍。一方面，應(yīng)當(dāng)加大對(duì)于有違倫理的科研行為的懲罰力度，以表明對(duì)倫理準(zhǔn)則的嚴(yán)肅態(tài)度。另一方面，應(yīng)加強(qiáng)對(duì)負(fù)責(zé)任創(chuàng)新的科學(xué)家的鼓勵(lì)和保護(hù)。我們應(yīng)該總結(jié)那些在科技倫理方面樹立了典范的科學(xué)家經(jīng)驗(yàn)，同時(shí)推動(dòng)我國(guó)科技倫理教育機(jī)制和環(huán)境的完善。只有這樣，我們才能夠?qū)崿F(xiàn)科技與倫理的和諧發(fā)展，并確保科技創(chuàng)新為社會(huì)帶來更大的利益。

議題二：當(dāng)前科技倫理教育的困境有哪些，如何突破？

王湘蓉：培養(yǎng)學(xué)生的科技倫理觀念是一項(xiàng)重要、緊迫、艱巨的教育任務(wù)，在教學(xué)中，如何培養(yǎng)學(xué)生的科技倫理素養(yǎng)？當(dāng)前科技倫理教育的困境有哪些，如何突破？

王惠敏：歐美非常強(qiáng)調(diào)公眾參與，在社會(huì)層面上要加強(qiáng)科技倫理教育的宣傳或者科普工作，可以利用一些媒體、博物館、展覽館等讓公眾有更多的了解。我們國(guó)家現(xiàn)在有一些比較大的項(xiàng)目，像腦計(jì)劃或者新藥開發(fā)的大項(xiàng)目可以多跟公眾介紹，也更容易得到公眾的理解和支持，對(duì)一些新的科學(xué)技術(shù)的開發(fā)都能夠得到大家的支持，同時(shí)把倫理概念傳輸給老百姓。技術(shù)不可避免地會(huì)帶來個(gè)人隱私泄露的問題，以及人的身份認(rèn)識(shí)，科技倫理并不僅僅是為科技發(fā)展保駕護(hù)航，還應(yīng)該跟科技同時(shí)發(fā)展、同時(shí)進(jìn)步。科學(xué)技術(shù)發(fā)展所涉及的倫理問題，應(yīng)該是倫理學(xué)家、科學(xué)家、法律學(xué)家一起去做研究，我們的很多教育，還要基于我們把最新的研究成果跟最新的科學(xué)進(jìn)步同時(shí)傳授給所有相關(guān)人員。

龐建新：很多人問，人工智能，未來會(huì)不會(huì)取代人？會(huì)不會(huì)造成嚴(yán)重的失業(yè)問題？我們?cè)谧鋈斯ぶ悄芙逃龝r(shí)，應(yīng)該樹立什么樣的價(jià)值觀或者基本準(zhǔn)則。一是讓大家了解人工智能或者機(jī)器人技術(shù)發(fā)展的歷史，對(duì)人類帶來了正向的作用；二是要懂得去判別人工智能，給大家?guī)淼暮锰幣c壞處；三是要懂得如何應(yīng)用人工智能技術(shù)去解決生活中的各種問題；四是要鼓勵(lì)或者倡導(dǎo)用人工智能的技術(shù)和機(jī)器人技術(shù)為我們的美好生活做貢獻(xiàn)。

現(xiàn)在對(duì)于人工智能新技術(shù)，有一些負(fù)面的口徑。我們?cè)谧黾夹g(shù)時(shí)，面臨很多挑戰(zhàn)?，F(xiàn)實(shí)生活中有很多人工智能將超越人類、人工智能會(huì)使人失業(yè)、機(jī)器人未來要?dú)⑷说蓉?fù)面宣傳，電影、電視中大量的宣傳，比如星球大戰(zhàn)、終結(jié)者等，無限放大機(jī)器人的能力，這種影響已深入人心，使很多企業(yè)在市場(chǎng)宣傳推廣時(shí)遇到很多困難，在市場(chǎng)宣傳教育上花費(fèi)的精力也會(huì)更多。人工智能技術(shù)給人類帶來的正面影響很多，比如給人類社會(huì)帶來進(jìn)步、給大家生活帶來便捷。同時(shí)，可能引起風(fēng)險(xiǎn)的部分，可以通過技術(shù)的進(jìn)步、規(guī)范使用流程和法律手段去抑制。

科技倫理的發(fā)展進(jìn)度跟技術(shù)發(fā)展是有落差的。現(xiàn)在技術(shù)發(fā)展的速度超過了法律、倫理道德，以及人們的認(rèn)知，很容易失控。要解決這個(gè)問題，只能依賴于行業(yè)的自律、從業(yè)者的自律，這就對(duì)教育提出了很大的挑戰(zhàn)。

議題三：我們應(yīng)該教育學(xué)生堅(jiān)守什么樣的倫理價(jià)值？

王湘蓉：面對(duì)科技產(chǎn)品的各種不確定性，我們?cè)撊绾谓鉀Q科技倫理教育的問題？在這樣的實(shí)踐背景下，我們應(yīng)該教育學(xué)生堅(jiān)守什么樣的倫理價(jià)值？人工智能在各領(lǐng)域，尤其是教育領(lǐng)域應(yīng)該如何合理運(yùn)用？評(píng)判的標(biāo)準(zhǔn)是什么？

龐建新：大家提到機(jī)器人，我們突出人的屬性，但實(shí)際上是中文翻譯的問題。機(jī)器人（Robot）是一種能夠半自主或全自主工作的智能機(jī)器。我們做機(jī)器人的時(shí)候，也會(huì)有很多倫理上的挑戰(zhàn)。比如美國(guó)一個(gè)老太太因?yàn)楣陋?dú)把亞馬遜的智能音箱作為自己的伴侶。日本一些年輕人跟機(jī)器人結(jié)婚。大家就會(huì)思考這個(gè)問題，AI機(jī)器人跟人的關(guān)系是什么？現(xiàn)在出生率本身就很低，大家結(jié)婚的意愿也很低，未來大家不愿意跟人結(jié)婚了，跟機(jī)器結(jié)婚，是不是會(huì)對(duì)人類文明產(chǎn)生巨大沖擊，所以需要從更高維度去理解，就是人類跟人工智能的關(guān)系到底是什么？是應(yīng)該授予它權(quán)利，還是只授予它義務(wù)？對(duì)行業(yè)的發(fā)展會(huì)帶來什么影響？我們希望把機(jī)器人當(dāng)成我們的家人嗎？20世紀(jì)80年代比爾·蓋茨提出要讓家家戶戶都有機(jī)器人，讓機(jī)器人成為家庭成員、家庭的管家，機(jī)器人是人們忠實(shí)的伙伴。那么從這個(gè)意義上說，機(jī)器人一旦被確認(rèn)是人，就要給他權(quán)利與義務(wù)，賦予他充分的信任。作為企業(yè)來說，科技倫理是讓我們的科技創(chuàng)新能夠?yàn)槿祟惿鐣?huì)服務(wù)，創(chuàng)造更多正面的價(jià)值，非常重要的就是要自我約束。技術(shù)的發(fā)展肯定會(huì)超過規(guī)則、法律的發(fā)展，很多時(shí)候要靠自我約束。

孫茂松：近幾年國(guó)際上高度重視人工智能倫理規(guī)范。人工智能可能會(huì)導(dǎo)致人類文明形態(tài)發(fā)生變化，這就必然會(huì)產(chǎn)生倫理問題。2012年以來，人工智能在一些比較專用的領(lǐng)域取得了成功，比如人臉識(shí)別等，引發(fā)了關(guān)于科技倫理的初步討論。而2022年橫空出世的ChatGPT代表了通用人工智能的新發(fā)展，機(jī)器已經(jīng)掌握了相當(dāng)高的人類語(yǔ)言能力，更是把人工智能倫理推到了迫在眉睫的地步。形勢(shì)逼人，我們必須有所動(dòng)作。如要盡快把國(guó)際上和國(guó)內(nèi)已經(jīng)形成的人工智能倫理的若干共識(shí)審視、凝練并發(fā)布出來，加強(qiáng)宣傳。再如應(yīng)在大學(xué)本科教育、研究生教育中開設(shè)科技倫理課程，向?qū)W生講授人工智能倫理的基本原則，加強(qiáng)引導(dǎo)。

目前在人工智能倫理具體問題的界定上，還是不太明確。這方面需要搜集、整理一批典型案例，由人工智能專家和倫理專家一起界定出在人工智能各類具體實(shí)踐和應(yīng)用場(chǎng)景中，哪些做法是適當(dāng)?shù)模男┯质怯羞`科技倫理的，從而把科技倫理的基本原則具體化，增加其可操作性。比如，通用人工智能對(duì)數(shù)字經(jīng)濟(jì)帶來的巨大助推作用將是十分顯著的，但其可能帶來的負(fù)面影響也特別明顯，是一把鋒利的雙刃劍。這其實(shí)是智能工具所具有的本質(zhì)屬性，它能在智力層面幫助人類，但同時(shí)也可能以一種不恰當(dāng)?shù)姆绞浇槿肴祟惿鐣?huì)，這就需要我們努力發(fā)揮它的長(zhǎng)處、謹(jǐn)慎規(guī)避它的短處。

對(duì)智能工具，應(yīng)該教育學(xué)生樹立正確的使用觀念，而不能簡(jiǎn)單地禁用。我們討論科技倫理問題，目的是讓科技更好地為人類服務(wù)。特別是人工智能，作為人的智力延伸，更好地造福于人類，在這個(gè)過程中，我們需要規(guī)范好人和機(jī)器之間的關(guān)系。

彭耀進(jìn)：我們絕大部分的科研其實(shí)是有一定的底線共識(shí)的，但是有一些很難去明確劃分界限。在一些具有倫理爭(zhēng)議性的科技領(lǐng)域，在進(jìn)行科研時(shí)，我們就需要遵守一系列程序性規(guī)范，其中包括法律法規(guī)及標(biāo)準(zhǔn)。我們?cè)谧隹蒲袝r(shí)，許多方面都涉及程序性倫理問題，例如在研究開始之前獲取生物材料時(shí)需要知情同意和倫理審查，在研究過程中要遵守什么規(guī)范、原則、做到什么程度應(yīng)該把實(shí)驗(yàn)停下來，國(guó)內(nèi)、國(guó)際合作時(shí)，當(dāng)注意什么，都涉及程序性的倫理問題。

另一個(gè)重要原則是公平公正。在科研初期，就應(yīng)考慮所開發(fā)的技術(shù)或產(chǎn)品是否能夠造福更廣泛的人群。2023年3月，在倫敦舉行的第三屆人類基因組編輯國(guó)際峰會(huì)上，公平公正獲取的問題是討論最多的話題之一。例如，在基因治療領(lǐng)域，癌癥的基因治療方法非常昂貴，如何解決高昂的費(fèi)用問題成為人們關(guān)注的焦點(diǎn)。解決這個(gè)問題可以從技術(shù)層面著手。

此外，還需要平衡收益和風(fēng)險(xiǎn)，進(jìn)行風(fēng)險(xiǎn)控制。新興科技的特點(diǎn)之一就是不確定性和風(fēng)險(xiǎn)。面對(duì)各種不確定性，我們應(yīng)以負(fù)責(zé)任的態(tài)度推動(dòng)科技的發(fā)展。同時(shí)，科學(xué)家、倫理學(xué)家、法學(xué)家以及公共政策制定者等不同主體應(yīng)共同參與和協(xié)同治理，這是一種非常重要的理念性改變。科技倫理教育的核心在于向公眾或社會(huì)群體傳授兩類知識(shí)，一是科學(xué)知識(shí)，二是與科技倫理相關(guān)的知識(shí)，以提高整個(gè)社會(huì)的科技倫理意識(shí)，推動(dòng)高質(zhì)量和可持續(xù)的科技發(fā)展，最終增進(jìn)人類福祉。

王湘蓉：今天我們談了科技倫理教育的問題，各位老師都對(duì)科技倫理教育表達(dá)了自己獨(dú)到的觀點(diǎn)，包括一些共識(shí)性的觀點(diǎn)。科技倫理問題已經(jīng)引起了各界的重視，從小在孩子的心中種下正確的價(jià)值觀，未來我們的科技倫理治理體系會(huì)更加規(guī)范、完善，從而實(shí)現(xiàn)科技向善，讓科技更好地為人類服務(wù)。