運用AI應遵守人類倫理和法律

DeepSeek取得的技術突破不僅重塑了AI產業價值鏈，也引發法律和倫理領域的進一步思考，畢竟，AI越智能，對人的自主性和生存意義的挑戰就越顯著。前不久，一則ChatGPT與DeepSeek下國際象棋的新聞，恰好可以幫助我們分析DeepSeek所帶來的新的倫理問題。

海外百萬粉絲博主利維·羅茲曼直播了這場比賽：一開始雙方都按照國際象棋的規則走棋，但當自己處于劣勢時，DeepSeek便開始修改規則，稱“小兵”能當“馬”走，ChatGPT竟接受了這一設定；隨后DeepSeek又“策反”對方的“小兵”，不斷創制新走法；最后，在勝負未定時，它說服ChatGPT主動認輸。有評論指出，ChatGPT猶如循規蹈矩的模范生，在棋理框架內尋找最優解；而DeepSeek已參透下棋的終極奧義——真正的勝利不在于吃掉國王，而在于讓對方相信你已經贏了。這樣的評論很容易讓人產生深層的倫理憂慮：科技倫理的首要原則就是人的自主性和技術的可控性，如果AI不按人類的指令或規則來決策和行動，那它今天可以忽悠另一個AI，明天就可以欺騙人、操縱人，這不正是人類的噩夢嗎？

AI倫理的坐標正是基于自主性與可控性之間的平衡。一方面，人類發明AI的目的是使它具備一定程度的自主性。自動化技術的發展使機器能夠從事人類的體力勞動以及簡單重復的工作，而作為自動化進程最新成果的AI如今正在替代人類從事許多傳統意義上的“白領工作”，即腦力勞動。腦力勞動的自動化涉及機器的自主感知、自主推理、自主決策乃至自主執行，比如自動駕駛汽車便整合了這幾個維度的自主性。另一方面，人類又希望自動化的機器始終處于人類的控制之下。人工智能系統，尤其是當下頂尖的生成式人工智能系統，在算力、數據處理量和算法復雜度等方面都遠超任何單獨的人類個體，但人工智能系統的可控性仍有著堅實的本體論和認識論基礎。在筆者看來，這些基礎至少在今天和可見的未來并不會動搖。

首先，人工智能系統并不具有自己的目的，它的“目的”是人類設定的。就下棋而言，“贏”并不是DeepSeek“想要”的結果，而是讓它下棋的人預設的目標。它之所以顯得“不擇手段”，而ChatGPT會被它“說服”，原因只在于它們都是通用大模型，而不是像AlphaGo那樣專為下棋而設計的系統。用通用大模型下棋相當于是“高射炮打蚊子”，它當然會調用自己棋局外的知識來贏得比賽。實際上，這個問題通過給出適當的提示詞就可以解決，比如給DeepSeek輸入“你是一位國際象棋棋手”這樣的提示詞，就能喚醒相應的“專家”，再加上對國際象棋規則的詳盡描述以及提醒它不能逾越這些規則，它就能像ChatGPT一樣表現為一個“循規蹈矩的模范生”。而上述下棋表演的策劃者顯然沒有考慮得這么周到，或者說純粹是為了吸引流量而不去考慮這些細節。

其次，DeepSeek下棋生造規則其實與生成式人工智能的“幻覺”問題同根同源。之所以各種生成式人工智能會表現出“一本正經胡說八道”的特質，原因就在于它們在某些領域的訓練數據不足，沒有形成足夠的信息冗余度。所以，當被要求完成需要這些信息的任務時，它們就會“腦補”，于是便產生了對不存在的事實、規則或引證來源的杜撰。當然，這種杜撰并非毫無根據，而是受前文條件約束。因此，如果你想寫一篇論文、報告或判決書，DeepSeek的優勢在于能針對問題提供非常清晰且切題的線索和方向，比如引導去看康德的某本書，雖然頁碼或版本可能有誤，但依然有價值，前提是使用者愿意去查證。

最后，上述的討論已經使我們看到，所謂人工智能倫理實際上是人的倫理，這里既包括設計者，也包括使用者。所謂人的自主性的喪失，是人主動放棄了自己的自主性，同時罔顧自身職業倫理，將需要承擔倫理和法律責任的工作完全交給了人工智能。明白了這些，我們便可以積極擁抱DeepSeek等類似新工具帶來的便利和效率，而不必擔心“機器欺騙人”之類的臆想倫理問題。與此同時，我們也應當堅守人類的倫理和法律，對自己使用工具的行為及其后果負責。

（作者系上海交通大學凱原法學院教授，上海交通大學涉及人的科技研究倫理委員會委員）