售前，航空母艦，交付，皮劃艇：銀行的AI模型上線有多難？

譚婧

江湖里有了人工智能是喜事一樁。

人工智能（AI）模型上了線，大家都說，銀行可以變“聰明”，而銀行的普遍狀態(tài)是，變“迷糊”。

AI模型“上班”，帶著“想干翻銀行”的勇氣出門。AI模型“下班”，被銀行干得服服的。AI模型也有情緒，它只是不會發(fā)朋友圈罷了。

本文的AI模型上線是指，在IT開發(fā)環(huán)境用歷史數(shù)據(jù)做模型（訓(xùn)練），然后把模型拿到生產(chǎn)進(jìn)行上線（推理）。其他情況，暫不討論。

更正式的說法是，通常的AI模型生產(chǎn)過程是，在訓(xùn)練端做模型開發(fā)，也就是模型訓(xùn)練或者叫線下開發(fā)。

然后把訓(xùn)練好的模型推送到推理端進(jìn)行部署，然后進(jìn)行模型服務(wù)也就是模型上線部署、發(fā)布與服務(wù)。

當(dāng)走到AI模型上線這一步，金主爸爸對AI有一定認(rèn)知，但是對“AI模型上線”這件事的復(fù)雜性認(rèn)識不足，思想守舊。

故事的大部分素材，來源于采（吐）訪（槽）。

采訪人說，如果實名，就拉黑本文作者，名字是化名，資深售前張喵。

故事一開始，是這樣的。

扯淡的AI技術(shù)？

一般來說，客（金）戶（主）的財力和吼聲的音量成正比，財力特別雄厚，那么吼聲，也會特別大，比如，銀行。

其實，銀行也會根據(jù)資產(chǎn)規(guī)模分個大中小。

第一梯隊，工農(nóng)中交建。第二梯隊，股份商業(yè)銀行。第三梯隊，城市商業(yè)銀行。

銀行在落地人工智能項目的時候，往往有這么個鏡頭，客戶爸爸拍桌一聲怒吼：“就AI項目幺蛾子多，還能不能干？什么時候干好，什么時候給錢！再干不好就卷鋪蓋走人，錢也不給！”

客戶一聲怒吼，道出了AI科技公司的幾種慘狀。

作為炙手可熱的“新技術(shù)”，為啥會這樣？不僅如此，很多知名的AI明星公司（技術(shù)提供廠商）扎緊褲腰帶，精打細(xì)算，開始考核銷售團(tuán)隊利潤率。

張喵售前坦言：“金額100萬的項目，預(yù)付款只有10萬，軟件驗收條款一大堆。干著干著項目就超期了，干著干著，利潤就見底了?！便y行考核乙方技術(shù)團(tuán)隊，那是相當(dāng)有一套的。

AI公司，干著干著就虧本了。

不少IPO中止的AI明星公司，雖然不是只服務(wù)銀行，但對此也應(yīng)該深有體會。AI模型落地早期，小白銀行（沒有任何懂AI的技術(shù)團(tuán)隊）能接受“不確定性”這個新鮮事物，但是，這個“不確定”是有條件的。

一般說來，客戶會根據(jù)業(yè)務(wù)實際情況建立一個“基線”，然后擬定一個提升所要達(dá)到的標(biāo)準(zhǔn)，比如準(zhǔn)確率達(dá)到多少，覆蓋率達(dá)到多少，“達(dá)到”即滿意，也就是可以“驗收”。

這里的“基線”可能是百分比，也可能是數(shù)字，根據(jù)業(yè)務(wù)情況不同而不同。但畢竟，新技術(shù)是有空子可鉆的。比如有些公司把AI模型做得很漂亮，但是，智能化大生產(chǎn)的時候達(dá)不到事先承諾的“成績”，再和客戶扯皮。

這里，我揭秘一下AI廠商騷操作，也就是扯皮的重（下）要（作）手段：拉低客戶預(yù)期。2021年，不是AI廠商出門做生意的第一年。

很多情況下，“AI廠商”是知道結(jié)果的，但并不會和客戶說清楚。舉個最最淺顯的例子，某AI廠商做AI模型在歷史數(shù)據(jù)下做得很好，但AI模型本身泛化性不好，導(dǎo)致上線后效果急劇下降。一場悲劇，即將發(fā)生。責(zé)任心強(qiáng)的AI廠商會積極投入，調(diào)整模型，為達(dá)到要求而努力。

反之，無責(zé)任心的AI廠商就開始扯皮，逼迫客戶降低預(yù)期。

最后，客戶妥協(xié)。這種流氓AI廠商會活得好嗎？一時不會都死光。

但是，這種騷操作可以拿到訂單，客戶受損，凄凄涼涼。老實廠商，越來越難生存，吹牛廠商，糊弄，收錢，割韭菜，跑路。

長此以往，AI技術(shù)信用破產(chǎn)。相信有的銀行已經(jīng)經(jīng)歷過那種“說的效果和實際效果完全不是一回事兒”的悲劇，一邊看本文，一邊默默地擦眼淚。的確，漏屋偏逢連夜雨，數(shù)據(jù)中臺、數(shù)智平臺、智慧大腦等營銷術(shù)語，徒然增加了溝通成本。

數(shù)據(jù)科學(xué)、統(tǒng)計學(xué)、機(jī)器學(xué)習(xí)、非結(jié)構(gòu)化數(shù)據(jù)等富有知識感的詞匯，也來搗亂。更有遷移學(xué)、強(qiáng)化學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)等包涵“學(xué)術(shù)背景”“專家風(fēng)范”的用語，讓人產(chǎn)生權(quán)威畏懼。

一時四下混沌，對技術(shù)路線的選擇，不是“真假難辨“，而是是無從下手、無從選擇?？蛻粽`以為他們能做到航空母艦，最后，交付了一只皮劃艇。

這種是真假難辨。總是有好有壞。

可悲的是，客戶不懂AI產(chǎn)品，不學(xué)AI，更別提深入研究了。

可嘆的是，金主對新技術(shù)沒有敬畏心，還以為自己老一套玩得轉(zhuǎn)。無知者無畏的結(jié)果是，聽信一些“虛假宣傳”，走極端，要么認(rèn)為人工智能無所不能，要么誤認(rèn)為人工智能是智障。

張喵售前工作經(jīng)驗十來年，作為企業(yè)級軟件產(chǎn)品解決方案的售前人員，練就了一身本事，對此也壓力山大。畢竟，這是人的問題，技術(shù)解決不了。

有一次，在某沿海城市，合作伙伴幫張喵售前約見到一位城商行領(lǐng)導(dǎo)?？上?，聽完大概介紹，張喵售前心里涼了半截，需求不匹配。在電梯里，實心兒的張喵售前嘴巴跑得比腦子還快，脫口而出：“這項目估計干不了?！焙献骰锇橐宦牐查g翻臉，立刻口吐芬芳，場面失控。要不是電梯里空間狹小，腿腳伸展不開，搏擊賽即將上演。

張喵售前反省：“合作伙伴對銀行爸爸也是跪式服務(wù)，可能受了不知多少的委屈，才有了見面的機(jī)會。一聽機(jī)會沒了，心態(tài)當(dāng)場崩了。”客戶無法辨“忠奸”，一不小心把“說實話”的公司排除在外，其結(jié)果就是成單之后，這些“虛假宣傳”的公司無法實現(xiàn)承諾，甚至有的AI大品牌“店大欺客“，晾著客戶，項目遲遲無法交付，最后爛尾。很多銀行對起訴是謹(jǐn)慎，因為執(zhí)法的過程會曝光銀行的“商業(yè)秘密”。

以前，甲方驗收一個項目，達(dá)到“驗收標(biāo)準(zhǔn)”，就交差。銀行交易系統(tǒng)，轉(zhuǎn)賬成功了，收工。銀行流程自動化，實現(xiàn)了，收工。甚至，到了大數(shù)據(jù)那一波，把銀行的數(shù)據(jù)集中起來，存好，算好，收工。

但是，到了AI就扯淡了。

丑陋的銀行客戶？

落后的觀念、守舊的思想，傲慢的團(tuán)隊……對此，AI都無能為力。

這句話該寫在教科書里。整體看銀行這類客戶，要齊刷刷理解AI技術(shù)，可能還需要2到3年左右。

有些銀行客戶走在前列，有的則起步較晚，表現(xiàn)的問題也各不相同，但即便是那些AI探索多年的銀行，也面臨著諸多問題。以前用算盤，現(xiàn)在用鍵盤。銀行數(shù)字化轉(zhuǎn)型和智能化演進(jìn)有自己的節(jié)奏，智能最終是“標(biāo)配“，誰也躲不了。在沒有AI之前，IT系統(tǒng)好多年了，有不少“奇葩”的歷史遺留問題。

甚至，有人說IT系統(tǒng)就是：“能跑起來不出問題就行，別動，別改”。銀行是個傳統(tǒng)生意，銀行IT系統(tǒng)都是階段性建設(shè)的，新的，舊的，各時期的技術(shù)剪裁拼接湊也是常見的。銀行的基礎(chǔ)的技術(shù)支撐類系統(tǒng)復(fù)雜到讓人一言難盡，更別說AI上線所需要的線上服務(wù)器環(huán)境、離線訓(xùn)練環(huán)境、數(shù)據(jù)庫、存儲系統(tǒng)，它們之間都有非常緊密的關(guān)系。

牽一發(fā)，而動全身。比如，現(xiàn)如今，機(jī)器學(xué)習(xí)平臺產(chǎn)品在銀行有較好的落地場景，距離Gartner首次定義數(shù)據(jù)科學(xué)和機(jī)器學(xué)習(xí)平臺（2017年2月），已經(jīng)過去了好幾年。

這個說法，有點像《辭海》的風(fēng)格，聽上去挺萬能的。但是，沒有說“什么萬萬不能”。有時候知道“不能干什么”，比知道“能干什么”，更重要。“集成”牽出來了平臺型AI軟件大大有別于“傳統(tǒng)IT軟件”的一點：

它是個大組件，需要和銀行現(xiàn)有系統(tǒng)有效融合，也就是上下游都得搞得定。上游全面對接上游各式各樣的數(shù)據(jù)和系統(tǒng)，下游為各種業(yè)務(wù)系統(tǒng)以及周邊基礎(chǔ)設(shè)施以及產(chǎn)品提供良好的AI服務(wù)。左右逢源，你懂吧。所以，AI模型上線“玩（策）法（略）”就五花八門了，一刀切的想法“很天真”。

通常，我們把和AI模型上線有關(guān)的環(huán)境，稱之為AI的生產(chǎn)環(huán)境。

不同的生產(chǎn)環(huán)境，想大規(guī)模復(fù)現(xiàn)模型，并有相同的效果，是非常漫長的任務(wù)，甚至?xí)馁M(fèi)數(shù)月，半年時間。模型上線，一方面得符合所有IT運(yùn)維的要求，高可用，災(zāi)備、穩(wěn)定性，性能等等。

另一方面，AI自己不要面子的嗎？要符合AI流程的一些東西。銀行，這種在數(shù)智化里跑得快的行業(yè)。對于AI模型上線，一直存在無數(shù)問題。

你別不信，有些銀行真的就是這樣。

客氣一點的說，就是每家銀行所處的“時代”業(yè)不一樣。

有的在秦朝吃土味燒烤，有的在宋朝吃東坡肘子。那些被銀行虐多了的AI廠商會說，AI模型部署有三種可能：可能是集中部署統(tǒng)一提供服務(wù)，可能是遠(yuǎn)端部署，可能是邊緣部署。

集中部署統(tǒng)一提供模型服務(wù)，那可能會出現(xiàn)一個模型真正觸達(dá)要服務(wù)的業(yè)務(wù)端，流轉(zhuǎn)好幾個系統(tǒng)和網(wǎng)關(guān)，中間就會產(chǎn)生特別多的“麻煩”。

僅靠遠(yuǎn)端，僅靠邊緣部署，靈活性又不夠，比如模型調(diào)整和優(yōu)化就沒辦法有效實施。銀行高管吐槽：我一看到AI的項目，就往后排期。

執(zhí)行團(tuán)隊瑟瑟發(fā)抖，雷公雷母隨機(jī)抽取一個幸運(yùn)觀眾，最好別是自己。但是，有的節(jié)奏慢，場景罕見、長尾場景、、費(fèi)用有限、試錯成本不能高、領(lǐng)導(dǎo)忍耐力有限。能不能避免踩雷，坐等AI產(chǎn)品徹底成熟？醒一醒吧。AI模型“輕松”上線僅僅是一個技術(shù)問題嗎？顯然不是。

AI模型從實驗室走出來，邁著六親不認(rèn)的步伐。但是，到了企業(yè)里，生產(chǎn)中，尊嚴(yán)被按在地上摩擦。AI模型上線，這是一個成熟的AI平臺公司面臨的問題.

有些機(jī)器學(xué)習(xí)平臺產(chǎn)品，沒有人用，就快掛掉了，“死前”還沒有遇到這個痛點：AI模型上線和數(shù)據(jù)、工具、流程等關(guān)鍵點，同時迭代創(chuàng)新難不難？AI模型承載業(yè)務(wù)，銀行業(yè)務(wù)是一個飽含創(chuàng)造力的事情。業(yè)務(wù)創(chuàng)新難不難？所以，別妄想AI模型上線的產(chǎn)品100%成熟了，一切就省力了，創(chuàng)造力“永不休眠”。

正道的光

初期，家家銀行都會面臨模型落地生產(chǎn)困難的問題，誰也逃不掉。

AI模型手工上線過程十分復(fù)雜，你別不信，我給你再列幾個，每個都讓人渾身難受。開發(fā)過程單一，算法、環(huán)境、模型、版本等管理混亂，無法協(xié)作開發(fā)，上線模型無法有效監(jiān)控，軟硬件資源管控缺失，上線模型模型效果衰減后的優(yōu)化升級工作困難等等。因此，“老三樣”建模手段已經(jīng)無法有效支撐建模和模型上線和運(yùn)維。

哪三樣？第一，傳統(tǒng)的作坊式的手工建模。第二，早期BI系統(tǒng)提供的簡單建模。第三，不考慮系統(tǒng)，孤立建模。勞資錢多，花錢砸團(tuán)隊AI科學(xué)家團(tuán)隊的規(guī)模能“鏟除”問題嗎？

恭喜你，答案是，不能。一是成本奇高，讓人力資源負(fù)責(zé)人給你拿一份人工智能科學(xué)家薪酬報告，看看年薪中位數(shù)，清醒一下。二是原有的人才得不到良好的發(fā)展，滋生團(tuán)隊內(nèi)部消極學(xué)習(xí)的風(fēng)氣。某些銀行，完全不懂?dāng)?shù)字化轉(zhuǎn)型是啥，還蜜汁自信：“我不懂你說的機(jī)器人在學(xué)習(xí)是什么，也不想懂”。

不要譏諷別人的無能，因為這不能取代我們對自身的反思。當(dāng)然，這類型的客戶的數(shù)量也在日益變少，尤其是進(jìn)入銀行科技規(guī)劃的預(yù)算項目，招標(biāo)的時候指名道姓“機(jī)器學(xué)習(xí)”“人工智能”“深度學(xué)習(xí)”。

銀行軟件開發(fā)部門的領(lǐng)導(dǎo)，表面上，工作經(jīng)驗二十幾年，手握重金，底氣十足。私下里，焦慮得要死，每年投入以億計，數(shù)智化結(jié)果在哪？

銀行是和數(shù)（金）字（錢）打交道的生意，剛需就是要對數(shù)據(jù)多分析，才能賺更多錢，分析數(shù)據(jù)也意味著消耗更多人力資源。愛情不是獨角戲，用好新技術(shù)，需要雙方的努力。

真正努力的銀行應(yīng)該怎么做？想通了，就會將新老人才組織在一起工作（開發(fā)作業(yè)），把數(shù)據(jù)工程師和銀行業(yè)務(wù)人員迅速轉(zhuǎn)化為專家。

真正努力的AI技術(shù)提供商應(yīng)該怎么做？狠狠心，玩命打磨產(chǎn)品，市面上所有要求的格式全套提供，所有的硬件和技術(shù)架構(gòu)上做開放性支持。

為什么這么做才是正途？因為產(chǎn)品化降低工程施工成本。否則，就是永無寧日的量身剪裁，跪式服務(wù)。

在To B服務(wù)里，偏場景的定制化開發(fā)是避免不了的。但是，沒有產(chǎn)品化，AI公司就是個裝修施工隊，哪里施工哪里去。AI公司商業(yè)模式就是吹牛皮，哪里韭菜多，哪里去。本質(zhì)更像人力外包公司，高端人才的人力外包。

只有西紅柿首富會說：“這個項目，我王多魚，投了?！币晃籄I大神曾當(dāng)面告訴我：“早期，我們對于AI的激動，激動于AI算法改變了世界。這肯定有對的成分，但AI落地也不那么容易。很多人都把AI的落地看成一件算法改變世界的事情，而今，我把它看成一個架構(gòu)升級的事情?！?/p>