人工智能技術發展中倫理問題的思考

楊會軍 程啟華

摘要：人工智能是人類第四次工業革命進程中的關鍵技術，將會深刻影響人類社會的發展進程。人工智能技術的發展伴隨著一系列倫理問題，例如安全隱患、隱私泄露，以及自主選擇權的放棄等。通過對人工智能技術及其倫理問題的分析，可以得出人工智能技術和倫理之間的辯證關系，并提出應對人工智能技術倫理問題的若干策略。堅持“以人為本”的科學發展精神，使得人工智能能夠始終走在向善、為人類福祉服務的發展道路上。

關鍵詞：人工智能，技術倫理，對策

人工智能是人類第四次工業革命進程中的關鍵技術，通過模擬人類智能和學習能力，計算機系統完成類似人類智能的任務和活動。當今社會受人工智能技術影響較深，主要表現在以下方面：

第一，對產業結構的影響?？茖W技術是第一生產力，人工智能技術作為新一代科技革命的代表，將極大地推動已有產業結構的變革。高附加值崗位，如以“復雜智力”為代表的職位，逐漸取代了以“簡單體力”為代表的低附加值崗位。

第二，對供需關系的影響。人工智能和人類生產和生活緊密結合，社會生產力的發展導致供需關系產生變化，從而培育出新的價值增長點。

人工智能技術一方面提高了生產效率，方便了人們的生活；另一方面，如果不加以引導，技術發展可能帶來適得其反的不良后果，并引發大量倫理問題。因此，人工智能的倫理規范至關重要。包括為智能機器人預設道德準則、設定人工智能技術研發及應用標準、建立人工智能產品本身的道德指引，以及規范科研人員的倫理行為[1]。本文針對人工智能技術發展過程中所伴生的倫理問題，從技術和倫理兩個角度進行研究，分析技術倫理和人工智能之間的辯證關系，并提出解決人工智能倫理問題的若干對策。

一、人工智能技術及其倫理問題

（一）人工智能技術及其存在的問題

1956年的達特茅斯會議上首次提出了人工智能的概念，隨后相關技術取得了突破性進展，其發展日新月異。

人工智能的本質是對人類思維的模擬。這種模擬可以通過結構模擬和功能模擬來實現[2]。采用類比的方法來仿真人腦的組織結構，創造出類似人腦的機器；功能模擬對人腦進行抽象分析，將人腦分解為若干功能模塊，在功能上模擬人類思維過程。相較于結構模擬，功能模擬更為簡化。隨著人類對人腦研究深入，基于結構模擬的人工智能產品將具備更多人類智慧，也給人類帶來更大的挑戰。

在人工智能發展的早期階段，人類通過簡單的程序來控制機器設備，機器設備是執行者，按照指令完成工作，本身沒有自學習能力。但隨著以機器學習、深度學習為代表的人工智能技術的進步，機器設備通過模擬人類的神經網絡結構獲得了自學習能力。機器的智力水平和學習效果與其所接觸的樣本數量有關。再加上機器學習的速度遠超人類的學習速度，可以預見，人工智能將對人類智能帶來挑戰。

科學技術是一把“雙刃劍”，既可以造福人類，也可能帶來災難[3]。同樣，人工智能也存在著一些潛在的風險和倫理問題，需要人們在其發展過程中加以重視和規范，確保其積極影響人類社會。

1.便利與危險并存

在新型冠狀病毒肆虐的疫情期間中，人工智能起到了重要作用。新型冠狀病毒傳染性極強，為了切斷傳播路徑，國家實行動態清零的抗疫政策。并利用人工智能技術分析與感染人員（區域）有交叉的相關人員的時空數據。及時通知并做好備案篩查工作，使得疫情能夠及時得到控制。同時，利用融合了人工智能技術的措施，如疫情防控健康碼和核酸檢測數據的實時更新，也起到了良好的抗疫效果。另一方面，在疫情防控期間，有些不法分子在社交平臺上有目的地散布虛假信息，制造恐慌和混亂。人工智能技術也起到了很好的作用，通過自動化的文本分析和情感識別技術，快速識別和篩查出不實信息。此外，人工智能還可以幫助監測大數據中的信息流動，及時發現和追蹤病例的傳播路徑，從而更有效地進行疫情控制?？傮w而言，人工智能在新冠疫情期間發揮了重要作用，為防控工作提供了有力支持。

無人駕駛技術是指在無需人類干預的情況下，實現車輛自主控制與操作，從而實現汽車駕駛自動化技術。無人駕駛可以將人類從單調乏味的駕駛過程中解放出來，讓人們專注于風景或工作，大大提高了駕駛的舒適度。然而，機器的智能化控制是由“智能芯片+驅動模塊”組成的，代表了電子產品的可靠性問題。例如，程序控制中可能出現的“程序跑飛”現象。雖然這種情況發生的概率很低，但人們對將自己的生命完全交給“智能芯片+驅動模塊”需要有很大的勇氣。在2023年4月，谷歌旗下自動駕駛公司Waymo的無人駕駛車輛在接送乘客過程中遇到了交通管制。交警示意車輛靠邊停車，但無人駕駛車沒有立即做出反應，而乘客也無法使汽車按照交警的手勢行駛。而在2018年3月，美國亞利桑那州一名女子不幸被一輛處于自動駕駛模式的Uber汽車撞傷，后來不幸身亡。因此，目前來看，人工智能系統存在系統漏洞和能力缺陷。

2.數據的消費者與隱私的失控

大數據被譽為“未來的新石油”，是人工智能學習和判斷的基礎。因此，人工智能需要不斷地從物理世界中獲取數據、分析數據、挖掘數據，從而為人們提供實時精準的服務。

每個人既是數據的貢獻者，也是數據的消費者。這些數據既包括公共數據，也包括私有數據。如果私有數據被不法分子濫用的話，將會帶來隱私的失控，給個人帶來傷害。在萬物互聯的時代，人們享受到了高效、便捷的生活，但個人的性格特點、興趣愛好、意識形態、行蹤軌跡等都被系統記錄下來且無法消除。這些交織在一起的數據信息在毫無防備的情況下不受控地流向何方，人們根本無從所知。未來的人工智能依靠這些汲取的信息不斷地進化迭代出新一代的智能體，因此很難說是人掌控著塑造出來的人工智能，還是人被人工智能所掌控？

3.被動的“多”和主動的“少”

在20世紀，人們主要通過查閱書刊和積累經驗來獲取信息。然而，在當今的信息時代，人們可以通過百度、谷歌等搜索工具快速獲取未知領域的信息。人工智能能夠根據搜索關鍵詞分析用戶的興趣點，并定期推送相關主題的信息，大大提高了信息獲取的效率。導航軟件如百度地圖和高德地圖可以根據實時路況信息為人們規劃不同的路徑選擇。旅游類APP如攜程和同程旅游能夠為人們提供交通、飲食、住宿、導游等一條龍服務。網上購物平臺可以根據人們的瀏覽記錄推送相關商品選擇。從用戶的角度來看，人們在被動地選擇，有時甚至不需要選擇，系統已經給出了答案。這有可能造成人們自身主動性的逐漸喪失，把它交給了人工智能，讓人工智能來做選擇，這很可能會使人們陷入“信息繭房”[4]的困境。

當人們信賴人工智能時，其實是無條件接受了人工智能背后的規則。而這些規則對人們就像一個“黑箱”，但又并不能準確地分析和描述“黑箱”背后的工作流程以及“黑箱”操作背后的規則。由于個體的差異，這些規則并不能適合于每一個人。只是被動地接受人工智能提供的若干選項，將自身的主動權和決策權交給了自己并不了解的人工智能。而人工智能提供給人們的信息是根據開發者制定的規則和依據篩選出來的，因此，人們所獲得的信息是不完整的，這又嚴重局限了人們的思維，只能在有限的信息空間內思考問題。

4.表面的“得到”與背后的“失去”

人工智能技術的應用使得人們的生活日益便捷，享受著高科技帶來的無憂生活。通過對天氣的預測，人們可以決定是否添加衣物或外出；通過對景區人流的動態監測，人們可以規劃自己的旅行目的地；通過對實時路況信息的獲取，人們可以提前規劃行程，避開擁堵地段，提高效率；通過美食的建議和推送，人們可以選擇享受美食的地點；全球互聯網技術大大降低了信息獲取的成本，人工智能基于網絡數據為用戶提供個性化服務，人們的衣食住行更加便捷，享受到了像保姆般的貼心服務，促進了社會的繁榮。

在日常生活中，無論是否愿意，每個人都直接或間接成為數據的貢獻者。人工智能正在融入并改變著人們的生活，但人工智能所帶來的結構性失業、算法歧視、隱私泄露等問題讓人們喪失了自主性、獨立性和創造性。笛卡爾曾說過“我思故我在”，人的價值體現在于主觀的能動性、獨立性和創造性。沒有了主動思考能力的人類將面臨更大的失去。如果沒有技術倫理的限制，人類終有一天會被自己的技術產品所取代。

（二）人工智能技術和倫理之間的關系

在萬物互聯的時代，人和物本質上都是數據的貢獻者和消費者。人工智能技術通過對人的思維過程，賦予智能體學習能力，但這也帶來了復雜的倫理、法律和安全問題。人工智能技術倫理的目標是從道德角度規范科技開發人員的活動，確?？萍蓟顒硬粫p害人類的生存條件和健康，保障人類切身利益，實現可持續發展[5]。

人工智能技術和其伴生的技術倫理問題之間存在著辯證關系。一方面，技術與倫理之間存在矛盾。技術追求的是改變、先進和效率，而倫理強調的是規范和秩序。通常情況下，倫理問題滯后于技術發展，因此面對新技術的浪潮，倫理上往往會產生巨大的恐慌。然而，機遇與挑戰并存，絕對禁止這些新技術，一味地保守可能使人類和新技術的發展失去平衡。另一方面，技術與倫理之間又是統一的。歷史上可以看到，開放包容會帶來科技文化的巨大發展，而閉關鎖國則會導致科技文化走向衰落。開放包容并不意味著盲目接受，而是有選擇地進行揚棄。技術倫理也是如此，其初衷是為了使技術獲得更好的發展，通過挖掘優勢、舍棄劣勢，讓人工智能始終走在道德善良、造福人類的發展道路上。技術和技術倫理可以看作問題的兩個方面，可讓人們能更全面地看待新技術，在對立統一中實現人工智能技術的良性發展。

二、應對人工智能技術倫理問題的策略

每位科技工作者都應該承擔起時代的責任和擔當，并主動將自己的工作融入人類時代發展的大潮之中，為社會的進步貢獻自己的力量。人工智能作為一種新技術，是一個客觀的存在，技術本身并不包含社會文化和道德層面的因素，但是該技術的研究方法、研究過程、研究成果及其應用卻具有社會文化和倫理道德的影響因素。因此，人工智能技術的發展需要受到技術倫理的道德引導。針對人工智能技術的倫理問題，可以從以下幾個方面入手。

第一，鼓勵公眾參與?？萍汲晒苿由a力的進步，并最終影響到公眾的生活。因此，公眾應該擁有更多的知情權。在制定決策前，廣泛且深入地討論人工智能可能存在的倫理問題，采集公眾的建議，并公之于眾，形成諸多成果。在新技術的良性發展中，公眾的態度和意見將提供重要參考，“兼聽則明，偏信則暗”。

第二，開展大學生工程倫理教育。大學生是未來人工智能技術研究的主力軍。因此，在大學工科教育階段，要及時對相關專業的大學生進行工程倫理教育。使其在學習專業技術的同時，充分了解工程倫理的概念和內涵，能辯證地看待技術和倫理之間的關系。牢固樹立“以人為本”的科學發展精神。目前，國內高校都在開展工程教育認證工作，畢業要求第六節明確要求評價“工程方案對社會、健康、安全、法律以及文化的影響，并理解應承擔的責任”。在理工科大學教育中全面推進工程倫理教育已成為工程界、教育界和政府相關部門的共識。

第三，提高科研人員的人文素養。科研人員在工作過程中，企業應主動承擔科研人員的人文素養教育。在開展科技研究的過程中，要將技術能力和職業道德并舉，企業效益和社會責任兩手抓，兩手都要硬。在科技管理中，加強科研人員的職業素養教育，提高科研人員遵紀守法、追求真理、誠實守信、杜絕弄虛作假等職業道德，弘揚風清氣正的科研環境。

第四，發揮政府的指導性作用。政府針對人工智能發展中存在的社會問題進行研究，出臺相關行政規章制度，并設立專門的機構進行規范和監督，除了禁止與人性倫理道德完全相違背的技術及其應用外，對于大多數具有一般性倫理問題的新技術，可以引入一種倫理“軟著陸”的機制[6]。在剛性規則不成熟的情況下，政府和企業可以聯合出臺指導性的行業規約，對技術的研究和應用進行約束，并周期性評估執行過程中的規約，實現倫理在科技應用中的“軟著陸”。

第五，進行同行評議。號召不同區域、不同單位的專家學者對人工智能技術及其倫理問題進行評議和審核，同行具有比外行更專業的知識結構，相互之間的評議更有說服力。此外，專家學者之間還存在知識結構互補，同行評議方式可以對他人的研究成果進行監督和規范。

第六，開展跨學科專業論壇。組織召開跨學科專業論壇，參與者可以是利益相關者，擁有廣泛的視角和經驗。包括人工智能技術專家、生物醫學家、社會學家、倫理學家、決策者、管理者、研究資助者、公共利益的擁護者、行業代表和公眾成員等。從不同的角度看待以人工智能為代表的專業技術，了解不同學科的需求和關切，收集廣泛的意見和建議，最終達成共識。

三、結束語

人工智能技術的快速發展必然帶來一系列倫理問題。在人工智能技術產業發展過程中，需要充分考慮人工智能技術倫理問題對產業發展的影響。這意味著社會在肯定人工智能推動人類社會進步的同時，也要及時發現技術存在的不足之處，使人工智能的倫理研究能夠走在技術發展的前面。針對人工智能技術及其存在的問題，本文提出了應對人工智能技術倫理問題的若干策略，以保證人工智能的發展受到道德倫理的約束。

作者單位：楊會軍 南京工程學院信息與通信工程學院

程啟華 南京工程學院工業中心

參? 考? 文? 獻

[1]吳漢東.人工智能時代的制度安排與法律規制[J]. 法律科學（西北政法大學學報）， 2017， 35 （05）： 128-136.

[2]朱欣文. 5G+人工智能時代辦公室工作模式與應對策略[J]. 秘書之友， 2020 （02）： 4-7.

[3]張全潔. 人工智能的倫理準則研究[D]. 蘇州大學， 2020.

[4]王紹源， 趙君. “物倫理學”視閾下機器人的倫理設計——兼論機器人倫理學的勃興[J]. 道德與文明， 2013 （3）： 133-138.

[5]王蒲生，雷毅.技術的報復——科技倫理與科技人員的倫理責任[J]. 科學中國人， 2002（05）： 42-44.

[6]劉大椿. 在真與善之間——科技時代的倫理問題與道德抉擇[M]. 北京： 中國社會科學出版社， 2000.

基金項目：江蘇省教育廳高校哲學社會科學研究項目資助（2022SJYB0449）。

楊會軍（1979.10-），男，漢族，河南長葛，博士，高級工程師，研究方向：電磁信息數據及應用；

程啟華（1979.07-），女，漢族，四川成都，博士，副教授，研究方向：智能測控系統。