對“腦機接口”應該潑一點冷水

美逸君

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數據公式，任何人不過是無數代碼里的1和0而已。“腦機接口”在豬身上實驗成功了，如果有一天，用在人身上呢？

日前，Elon Musk發布了Neu-ralink“腦機接口”研發的最新進展：在豬身上實驗成功，下一步將植入人腦。

看完后，想到：科技發展從來都是雙刃劍……上古進入鐵器時代，人類開始了王國戰爭、帝國爭霸；近代，火藥發明，戰亂的破壞力指數級上升；而現代，隨著人類分裂原子核，終于擁有了能毀滅人類文明與人類物種自身的手段……那么，AI發展，是否沒有任何副作用、反作用？不需付出任何代價？如果存在副作用、反作用，會作用在哪里，代價由誰來承擔？

沒想到，僅僅一天之后，AI的副作用就砸到我自己頭上……社交軟件的紅包功能被凍結了。原因是：在單位時間內接收紅包數量超過了限額。

這種限制，主要是為防止洗錢，譬如：銀行對每個賬戶、每張銀行卡每日取現額度有限制，且多筆小額分拆取現，會引發報警。社交軟件的AI設計，效仿銀行限定了“每日收取紅包限額”，卻不顧紅包總金額：幾十筆十幾元的紅包，總共千把元錢，就觸碰了它的預警參數……“咔”把你的功能鎖定了。

在網上查解決辦法，怎么試都不成。打客服電話，接聽的是AI語音，電腦錄音播放了很久，主要是新業務推薦，忽悠在他們那里投資理財等等，關于問題的解答就幾秒時間，還沒聽明白就掛了。只好鍥而不舍反反復復打，非要擠進人工服務不可。在活人引導下，提交了申請和驗證文件，最終問題得以解決。

類似案例，僅在朋友身上就發生過多起，因數額較少，進行司法訴訟劃不來，絕大多數人都自認倒霉。

事實證明，至少現價段大部分所謂“AI”不但沒有人性，而且真的不夠聰明。到目前為止，所有大規模應用的AI，是通過天量統計數據（“大數據”）來編織監控網絡，來測算人們行為的概率。

而問題是：這些天量統計數據的獲得途徑，是否合法？“科技巨擘”們根本不予解釋，我們的生活信息成了他們的“商業機密”，但誰授權他們隨時監控我們的生活呢？

譬如：人們想去吃湘菜，僅僅因為想吃，不需其它理由，這是人的欲望與自由選擇；而AI很可能會猜到你今晚有6成概率去吃湘菜，然后對你進行廣告推送。

這并非因電腦具有人類的性靈，而是因其偷偷監控了你的生活規律、消費習慣、支付情況。甚至偷偷入侵了你的手機、銀行賬戶、各種支付手段……長時間的監控和數據收集，描繪出你的生活圖譜，因此AI對你的行為進行概率推測。

這不但不智能，反而存在道德隱患，甚至可能涉嫌違法犯罪：公民隱私受到法律保護是通例，是誰給了那些社交軟件、購物軟件，甚至輸入法等等窺探、收集、監控、利用公民隱私進行牟利的權利？

而“科技巨擘”們，在利用我們的信息和隱私、獲取超額利潤同時，所提供的“AI”服務，往往是即無人工，也不智能，它只是極復雜的程序，大量的數據收集。編程者設定其“一定時限轉賬超過限額就凍結賬號”，AI就執行指令，編程者未設定轉賬金額多少，AI當然不會思考為何要執行指令。

如果有人每天轉賬30筆，每筆50萬，確有洗錢嫌疑，當然應介入調查。但社交軟件的編程者就給AI設置數據：每天收賬若干紅包，也不管總金額多少，就觸及警報線、凍結賬號……于是，升斗小民做個小本生意、一天收了幾十個紅包，每個十幾元，“咔”被凍結。

而升斗小民的投訴過程，是何其艱辛！　面對一道一道又一道機器墻，冰冷的電腦界面、手機界面、AI錄音，而且這些所謂“AI”都被做成“不是專家不會用”的程度，每個問題每拖延一天解決，那些資金的一天利潤，就都進入“科技巨擘”的豪賬，積少成多、聚沙成塔！

在“科技巨擘”眼中：世界是抽象的，可以被描繪成數據公式，任何人不過是無數代碼里的1和0而已。在“科技巨擘”眼中，只有自己的錢，才是真實的、具象的、不可侵犯的；為自己的利益，任何其它事物，甚至他人的生命都可以被犧牲……減少真人客服，而用“AI”將非專家級用戶投訴屏蔽在外，甚至迫使維權者“知難而退”放棄小額資金追討，這些錢就成了他們的錢了。

如今，Elon Musk又打開了另一個潘多拉魔盒，“腦機接口”在豬身上實驗成功了，如果有一天，用在人身上呢？

如果能向人類大腦寫入程序，也就可以刪除某些記憶、盜取某些信息。那么，掌控人的大腦，就等于掌控了一切。未來世界，會不會發展到：社會管理權+執法權+財產權=AI=“科技巨擘”的意志？　當普通公民的權益受到侵害后，甚至連投訴的意愿都沒有，因為AI通過“腦機接口”刪除或修改了大腦某個扇區的記憶信息與功能。

這聽起來似乎科幻，但回想過去幾十年：手機、網購、面對“AI”進行投訴、投訴被“AI”拒之門外、腦機接口……不都是聽起來挺科幻的？　不都實現了嗎？

毫無疑問，科技當然要發展，大集團當然要獲取超額利潤，“科技巨擘”們當然是大象，那么我們怎樣避免成為螞蟻的命運呢？

AI發展，是標志性的，其代表著科技發展與法治的博弈。科技發展意味著進步和利潤，而法治代表著公正。利益與公正，是人類文明幾千年博弈不休的主題，如今，輪到AI在前臺、“科技巨擘”在其身后唱雙簧演出這場戲，而我們每個人都應該好好想想這一命題。

（作者系歷史、軍事學者）