基于循環(huán)神經(jīng)網(wǎng)絡(luò)的專利價格自動評估

劉子辰，李小娟，韋 偉

（中國科學院計算技術(shù)研究所，北京 100190）

（*通信作者電子郵箱lixiaojuan@ict.ac.cn）

0 引言

知識產(chǎn)權(quán)保護在我國經(jīng)濟發(fā)展過程中的地位不斷提高。圍繞知識產(chǎn)權(quán)的交易已經(jīng)成為知識產(chǎn)權(quán)保護與服務(wù)的重要組成部分。而作為知識產(chǎn)權(quán)的交易核心，專利交易在知識產(chǎn)權(quán)保護的大背景下，它對經(jīng)濟活動的作用也必將更加突出。但是，專利交易過程中的一個突出的核心矛盾是如何保證專利的交易價格能夠?qū)嶋H地反映專利的價值。這其中要解決的首要難點問題是專利交易價格的評估問題。

使用計算技術(shù)對專利價格進行自動評估被認為是解決上述問題的可行路徑之一，在近年來獲得了大量關(guān)注。Lanjouw等［1］使用七個技術(shù)領(lǐng)域的專利詳細信息來開發(fā)專利質(zhì)量指數(shù)，基于四個專利特征構(gòu)建最小方差指數(shù)，結(jié)果表明使用多個指標可以大大降低質(zhì)量的測量差異。龔婭等［2］基于對專利權(quán)價值影響因素的分析，指出了目前專利權(quán)價值評估方法存在一定的局限性，構(gòu)建了專利權(quán)價值評價指標體系，在此基礎(chǔ)上運用層次分析法（Analytic Hierarchy Process，AHP）和模糊綜合評價法建立了專利權(quán)價值評估模型，用于對傳統(tǒng)評估方法所得的評估結(jié)果進行糾偏。Danish 等［3］通過經(jīng)驗模型分析了555 項專利，將專利權(quán)人的續(xù)約決定模型化為有序的概率，使用變量（例如專利家族規(guī)模、技術(shù)范圍、發(fā)明人數(shù)量和授予滯后）在相應(yīng)回歸中用作解釋變量，將專利權(quán)人的續(xù)約決定以及專利的特征和續(xù)約成本表結(jié)合在一起，以估算專利價值分配。Gu等［4］基于專利技術(shù)的視角，將專利分為三種類型：基本型專利、技術(shù)專利和實用型專利，根據(jù)三種專利的特點，進一步分析不同的專利質(zhì)量評價標準，從實證研究的角度出發(fā)，構(gòu)建科學合理的評價指標體系。李玉等［5］針對專利價值的不確定性和影響因素的復雜性，以及評估工作中缺乏可操作性等問題，對價值評估指標體系進行分析，使用隨機森林算法選擇最有效的指標集，同時基于具有噪聲的基于密度的聚類（Densitybased Spatial Clustering of Applications with Noise，DBSCAN）方法選擇高精度且一致性低的決策樹子森林，改進傳統(tǒng)隨機森林算法，實現(xiàn)專利價值評估。謝文靜等［6］在對影響專利價值評估因素進行分析基礎(chǔ)上，加入了發(fā)明人特征指標建立專利價值評估指標體系，運用粗糙集理論構(gòu)建專利價值評估模型。Liu 等［7］旨在解決使用迄今收到的被引用信息進行專利估價的局限性，通過設(shè)計基于點過程的專利引用類型感知（自引用和非自引用）預測模型，該模型結(jié)合了專利的各種信息，為進行預測性專利評估提供了可能性。資智洪等［8］根據(jù)專利價值分布特點，分析專利價值的影響因素和專利價值評估的關(guān)鍵指標，提出了一種“二級分類評估”的專利評估方法，該方法結(jié)合了定量指標和專家評估，用該方法分別計算出專利的定量指標（Ps）值和定性指標（Qs）值，然后將Ps和Qs相加得出專利值（Patent Value，PV），并反映專利價值。Liu 等［9］假設(shè)專利估價的實現(xiàn)始于專利的價值路徑：辯護、實施或轉(zhuǎn)讓，探索基于貝葉斯神經(jīng)網(wǎng)絡(luò)的模型，以預測實現(xiàn)專利估價的途徑，并提出了一種基于功能效果的專利表示，并從中提取了一些技術(shù)特征，給定專利特征，使用貝葉斯神經(jīng)網(wǎng)絡(luò)進行專利估價。Ma 等［10］針對特定領(lǐng)域的技術(shù)特點，建立了一套包括指標體系、指標權(quán)重計算、評分標準確定、專家評分計算在內(nèi)的專利價值評價體系，基于價值獲取理論模型有效地將成本法和收益法結(jié)合了傳統(tǒng)的評估方法，避免了獲取市場法所需的專利交易數(shù)據(jù)的問題。

由于人工智能相關(guān)技術(shù)的不斷成熟，其在工程領(lǐng)域的應(yīng)用更加廣泛，也有研究者采用人工智能的相關(guān)技術(shù)實現(xiàn)專利價格的自動評估。壽向晨［11］基于專利價值評估時的影響因素、參考文獻和專家意見，設(shè)計了比較合理的專利價值評估的指標體系，并對指標體系進行計量經(jīng)濟學量化，同時針對專利數(shù)據(jù)屬性的特點，對深度置信網(wǎng)絡(luò)算法進行多角度優(yōu)化，設(shè)計出了適用于專利價值評估的改進的深度置信網(wǎng)絡(luò)算法模型。呂霽［12］針對專利技術(shù)產(chǎn)業(yè)化過程中的價值評估問題，構(gòu)建專利價值評估指標體系和樣本體系，結(jié)合專利價值理論及逆向傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)理論，構(gòu)建了專利價值評估神經(jīng)網(wǎng)絡(luò)模型，完成專利價值評估。Trappey等［13］開發(fā)了用于物聯(lián)網(wǎng)專利質(zhì)量評估的機器學習實施方案，在開發(fā)深度神經(jīng)網(wǎng)絡(luò)模型進行專利質(zhì)量評估之前，采用主成分分析來簡化專利指標，實現(xiàn)工業(yè)物聯(lián)網(wǎng)專利申請過程中的專利價值發(fā)現(xiàn)。趙蘊華等［14］從機器學習技術(shù)的角度出發(fā)，首先對專利價值評估指標進行分析和選擇，其次采用機器學習方法中決策樹、支持向量機和神經(jīng)網(wǎng)絡(luò)三種算法對樣本進行訓練并測試，最后對測試結(jié)果進行了分析。Lin 等［15］提出了一種基于深度學習的專利質(zhì)量評估模型，該模型可以整合專利文本材料和許多其他有用的屬性信息來評估專利質(zhì)量，模型包括屬性網(wǎng)絡(luò)嵌入和基于注意力的卷積神經(jīng)網(wǎng)絡(luò)，分別實現(xiàn)從引用網(wǎng)絡(luò)和屬性中學習專利嵌入和從專利文本材料中提取語義表示，然后將它們的輸出連接起來，以預測新專利的質(zhì)量。林弘杰［16］設(shè)計了一種利用專利多項信息的基于深度學習的專利價值評估模型，該模型可以充分利用上述專利信息來預測評估專利的價值，模型由基于專利引用網(wǎng)絡(luò)的屬性網(wǎng)絡(luò)表征模型和基于注意力機制的卷積神經(jīng)網(wǎng)絡(luò)模型組成，將兩種模型的輸出表征向量連接起來預測評估專利的價值。Hasan 等［17-18］提出了一種利用文本抽取的，基于關(guān)鍵字進行價值專利評估的方法，該方法針對專利的核心關(guān)鍵詞與其價值建立關(guān)聯(lián)關(guān)系，形成針對關(guān)鍵詞的專利價值數(shù)據(jù)庫，用來對之后的專利進行評估。Hu等［19］在進一步在關(guān)鍵字抽取的基礎(chǔ)上，通過對專利涉及主題進行了建模，構(gòu)建了以主題為基準的專利技術(shù)強度評估方法。Hido 等［20］則提出了基于專利審查結(jié)果作為訓練集對專利進行創(chuàng)新性價值評估的方法，采用類似的思路，Jin等［21］則采用了專利維護數(shù)據(jù)，即專利是否及時繳納了維護費用等，作為數(shù)據(jù)來源建立專利評估的模型；Liu 等［22］則基于法庭判決結(jié)果為數(shù)據(jù)集，采用圖數(shù)據(jù)結(jié)構(gòu)構(gòu)建了針對不同專利的評估模型，判斷不同專利在進行法律訴訟時勝訴的可能性。

上述文獻在進行專利價格評估時均采用了自動化的處理方法，但是，在實際操作中，專利的實際價格評估過程還包含市場、法律、技術(shù)等多方面的多個維度。不同的評價方法對不同維度的考量也不盡相同。但是上述文獻評估專利價格時均沒有考慮專利的市場、法律、技術(shù)維度對專利價格的影響，而專利的市場因素對專利價格評估起到關(guān)鍵作用。專利價格評估的市場法指利用市場上同樣或類似知識產(chǎn)權(quán)的近期交易價格，經(jīng)過直接比較或類比分析（包括對交易時間、交易因素、交易目的、資金成本、經(jīng)濟壽命等因素的分析、修正）來估測專利資產(chǎn)價格的評估方法。市場法進行價格評估的流程與機器學習的流程非常類似，即通過已有的經(jīng)驗數(shù)據(jù)訓練評估模型。同時，人工智能的深度學習技術(shù)在各個工程領(lǐng)域已經(jīng)得到廣泛的應(yīng)用，尤其是針對普遍評估方面的應(yīng)用也取得了較好的效果。為此，本文提出了基于循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Network，RNN）的專利價格自動評估方法，該方法以市場法為基礎(chǔ)，通過對其他各種因素的綜合考慮，利用門控循環(huán)單元（Gated Recurrent Unit，GRU）構(gòu)建RNN的方法，實現(xiàn)對專利價格的自動評估。

1 專利價格評估方法設(shè)計

1.1 專利價格評估架構(gòu)

本文所提出的專利價格評估模型如圖1 所示，模型包含四大部分：市場要素、專利組合要素、法律要素與技術(shù)要素，分別記為M、G、L、T。首先，由市場要素經(jīng)神經(jīng)網(wǎng)絡(luò)評估出基礎(chǔ)價格，此基礎(chǔ)價格用于后期修正；然后使用專利組合要素、法律要素、技術(shù)要素分別經(jīng)GRU 神經(jīng)網(wǎng)絡(luò)得到相應(yīng)的評估值；最后，使用將所有的評估值經(jīng)過GRU 神經(jīng)網(wǎng)絡(luò)得到修正后的專利價格。

圖1 本文專利價格評估模型Fig.1 Patent price evaluation model in the paper

對于任意專利p，上述各要素的組成包括市場要素評估、專利組合要素評估、專利法律因素評估、專利技術(shù)要素評估。

1.2 市場組合要素

對于市場要素的評估，主要考慮的因素為：專利p所對應(yīng)領(lǐng)域近5 年來的專利交易數(shù)量nt、申請數(shù)量na、交易價格Vx。交易價格是一個專利在本領(lǐng)域的綜合交易價格加權(quán)平均，如式（1）所示：

其中：si代表專利p所在領(lǐng)域中的除專利p外的其他專利（以下簡稱其他專利）與專利p的相似性。相似性計算采用基于領(lǐng)域關(guān)鍵詞的文本相似性給出，文本相似性計算可用現(xiàn)有文本相似性方法進行計算，具體為采用WMD（Word Mover’s Distance）算法［23］。D(p)代表專利p所在領(lǐng)域的其他所有專利所構(gòu)成的集合。對于D(p)的求解可以根據(jù)p的國際專利分類表（International Patent Classification，IPC）三級分類號獲得。進一步對專利交易數(shù)量與專利申請數(shù)量進行歸一化處理，處理方法如式（2）～（3）所示：

其中：Nt和Na為近5 年內(nèi)所有專利的總交易數(shù)量和總申請數(shù)量。對于上述因素，綜合為基礎(chǔ)價格因素M，計算公式如式（4）所示：

式（4）的計算過程為計算神經(jīng)網(wǎng)絡(luò)內(nèi)部參數(shù)值的過程，需要計算的參數(shù)在1.6 節(jié)進行詳細說明，參數(shù)的初始值為隨機值，采用神經(jīng)網(wǎng)絡(luò)遞歸訓練不斷更新參數(shù)值，直到使專利評估結(jié)果的相對準確度（Relative Accuracy，RA）值最大時停止更新參數(shù)值。

1.3 專利組合要素評估

對于專利組合要素考慮以下兩方面因素：第一個因素為專利p申請者（或申請單位）在專利p領(lǐng)域所擁有專利的數(shù)量在該領(lǐng)域中所占比例Bpa，定義為式（5）：

其中：Npa代表專利p的申請者（或申請單位）在專利p所在領(lǐng)域中持有的專利的數(shù)量。專利組合因素考慮的第二個方面為專利p的依賴關(guān)系含義為依賴于專利p的其他專利的數(shù)量。該數(shù)量關(guān)系可以通過專利申請時的前置專利信息獲取。綜合以上，專利組合要素G表述為式（6）：

其中：G2 為循環(huán)神經(jīng)網(wǎng)絡(luò)，其輸入數(shù)據(jù)分別為Bpa、Dp，最原始數(shù)據(jù)為團隊積累的科技成果轉(zhuǎn)化情況組建的專利庫數(shù)據(jù)和參考國家知識產(chǎn)權(quán)局得到的相關(guān)數(shù)據(jù)。式（6）的計算過程同式（4），不同點在于計算得到的神經(jīng)網(wǎng)絡(luò)參數(shù)不同。

1.4 專利法律因素評估

專利法律因素考慮以下幾個方面的因素：1）專利剩余有效期Yp。2）專利授權(quán)國家數(shù)量Cp。3）專利訴訟情況。對于專利訴訟情況，考慮以下幾個方面：a）專利p申請者（或申請單位）作為原告涉及訴訟數(shù)量La；b）專利p申請者（或申請單位）作為被告設(shè)計訴訟數(shù)量Lb。對于法律因素L表述為式（7）：

其中：G3為循環(huán)神經(jīng)網(wǎng)絡(luò)，其輸入數(shù)據(jù)分別為Yp、Cp、La、Lb，最原始數(shù)據(jù)為團隊積累的科技成果轉(zhuǎn)化情況組建的專利庫數(shù)據(jù)和參考國家知識產(chǎn)權(quán)局得到的相關(guān)數(shù)據(jù)。式（7）的計算過程同式（4）。

1.5 專利法律因素評估

專利技術(shù)評估方法的具體步驟如下：

1）對于專利p獲得相關(guān)的論文集合，獲取方法為：首先搜索與目標專利具有相同作者或者是同一單位的論文，獲得集合Pa；其次，根據(jù)專利p對應(yīng)的關(guān)鍵字集合Kt，對任意k∈Kt，獲得非目標專利作者的其他論文，所得到的論文集合為Pna。

其中：Si表示第i篇論文得分分數(shù)，若該篇論文為成功發(fā)表的論文，則得分分數(shù)為1；否則得分分數(shù)為0。式（8）的實際意義表示作者已成功發(fā)表論文的數(shù)量的總和。同時，對于，計算與p之間的相似性，得到。由此，得到論文的表征向量

4）針對步驟1）中獲得的論文集合Pa和Pna。對于∈Pa，采用式（9）所示的循環(huán)神經(jīng)網(wǎng)絡(luò)進行計算：

式（9）代表論文與p之間的評價關(guān)系，反映的是利用論文來對p進行質(zhì)量評估時的計算結(jié)果。其中：G4 表示循環(huán)神經(jīng)網(wǎng)絡(luò)，其輸入分別為t、r、a、，其含義與步驟2）中的含義相同。Ma(p，)的值域為（0，100］，取值越高代表專利技術(shù)質(zhì)量評價越高。

G4 和G5 這兩個神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與式（4）相同，即每個輸入輸入至一個GRU 入口，形成循環(huán)神經(jīng)網(wǎng)絡(luò)，具體闡述詳見1.6節(jié)。

5）利用如下模型計算專利的技術(shù)質(zhì)量因子：

綜合上述因素，最終對于專利p的價格評估模型為：

G6為循環(huán)神經(jīng)網(wǎng)絡(luò)，其輸入分別為M、G、L、T，式（12）的計算過程同式（4）。

1.6 神經(jīng)網(wǎng)絡(luò)

對于1.2～1.5節(jié)模型的訓練，本文采用如圖2所示的神經(jīng)網(wǎng)絡(luò)進行訓練。本文所用的專利價格評估共使用6個GRU循環(huán)神經(jīng)網(wǎng)絡(luò)，每個神經(jīng)網(wǎng)絡(luò)評估的值如1.2～1.5 節(jié)所述，所有GRU 循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)相同，但是內(nèi)部參數(shù)不同，GRU 循環(huán)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖3所示。

圖2 專利價格評估模型的訓練網(wǎng)絡(luò)Fig.2 Training network for patent price evaluation model

圖3 GRU循環(huán)神經(jīng)網(wǎng)絡(luò)Fig.3 GRU recurrent neural network

GRU內(nèi)部的前向轉(zhuǎn)播過程如式（13）～（16）所示。

經(jīng)過神經(jīng)網(wǎng)絡(luò)訓練后得到6 個神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)參數(shù)，網(wǎng)絡(luò)參數(shù)的具體計算過程是由神經(jīng)網(wǎng)絡(luò)訓練過程中不斷調(diào)節(jié)得到，每個神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù)如1.2～1.5 節(jié)所述，由于每個神經(jīng)網(wǎng)絡(luò)的參數(shù)不同，因此本節(jié)需要構(gòu)建6個GRU神經(jīng)網(wǎng)絡(luò)。

2 實驗與結(jié)果分析

2.1 實驗參數(shù)設(shè)置

以團隊積累的科技成果轉(zhuǎn)化情況組建專利庫，專利庫中共2 022條專利數(shù)據(jù)，同時參考國家知識產(chǎn)權(quán)局檢索到的專利數(shù)據(jù)和中國知網(wǎng)檢索到的論文數(shù)據(jù)，專利庫中每條專利數(shù)據(jù)包含的數(shù)據(jù)內(nèi)容如表1所示，同時表1中列出了相應(yīng)數(shù)據(jù)內(nèi)容的數(shù)據(jù)說明，專利數(shù)據(jù)用于本文所提專利價格評估模型的訓練，其中，60%的專利數(shù)據(jù)用于模型的訓練，20%的專利數(shù)據(jù)用于訓練時的模型驗證，20%的數(shù)據(jù)用于專利價格評估模型的測試，使用專家定性評估的方法得到專利的真實價格評估值。

表1 專利數(shù)據(jù)Tab.1 Patent data

6 個GRU 循環(huán)神經(jīng)網(wǎng)絡(luò)采用相同的網(wǎng)絡(luò)結(jié)構(gòu)，每個GRU循環(huán)神經(jīng)網(wǎng)絡(luò)由4 層GRU 層組成，每個GRU 層由32 個GRU組成。模型訓練時的初始學習率為0.1，學習率的遞減率為0.99，用于在模型訓練時不斷調(diào)整學習率。使用Tensorflow實現(xiàn)模型。模型訓練時的損失函數(shù)使用均方誤差損失函數(shù)，即均方誤差（Mean Square Error，MSE）值。使用相對準確度體現(xiàn)專利價格評估模型的性能，定義如式（17）所示：

2.2 實驗結(jié)果

為了驗證所提專利價格評估方法的有效性，將404 個測試專利隨機分成4 組對本文方法進行測試，專利價格評估結(jié)果如表2 和圖4 所示。圖4 中的相對準確度（RA）是本文方法的評估結(jié)果與專家定性評估結(jié)果進行比較的數(shù)值。

從表2 和圖4 可以看出，與專家定性評估結(jié)果相比，所提出的專利價格評估方法評估結(jié)果的RA 值基本維持在0.85，說明本文所提專利價格自動評估方法具有一定的自學習能力，所提方法是有效的。本文方法的評估結(jié)果與專家定性評估結(jié)果最相近的是測試組3 中的一篇專利，RA 值為0.93；評估結(jié)果與專家定性評估結(jié)果相差較遠的是測試組2 中的一篇專利，RA 值僅為0.77。對相應(yīng)的專利進行查看，訓練專利中存在多篇與測試組3 中RA 值最高專利的專利內(nèi)容同類的專利，而訓練專利中與測試組2中RA 較低專利的專利內(nèi)容同類的專利較少，導致出現(xiàn)上述現(xiàn)象。因此，為了能夠有效避免上述現(xiàn)象的發(fā)生，在設(shè)置模型訓練庫時需要保證具有大量同類型專利數(shù)，而本文使用專利數(shù)量有限，并不能有效避免這個問題。

表2 專利價格評估結(jié)果Tab.2 Patent price evaluation results

圖4 專利價格評估結(jié)果值Fig.4 Patent price evaluation value

進一步，分別采用測試組1～4 中的專利，使用本文方法與采用基于AHP、粗糙集理論方法和BP神經(jīng)網(wǎng)絡(luò)方法的評估結(jié)果進行比較，所得到的RA均值分別0.85、0.82、0.81和0.83，與對比方法相比，本文方法RA 值分別提升了3.66%、4.94%和2.41%。從如圖5 所示的對比結(jié)果中可看出：本文方法使用本文所用數(shù)據(jù)集能夠取得優(yōu)于對比方法的性能。此外，相對與其他方法，雖然粗糙集理論方法的總體性能相對較差，但是對于測試組2 的專利的評估性能是所有方法中最優(yōu)的，但在其他測試組的評估性能則表現(xiàn)不佳。AHP 和BP 神經(jīng)網(wǎng)絡(luò)方法在測試過程中，性能表現(xiàn)則基本一致。

圖5 專利價格評估方法的相對準確度對比Fig.5 Comparison of relative accuracy of different patent price evaluation methods

2.3 應(yīng)用案例分析

為了進一步驗證本文所提基于循環(huán)神經(jīng)網(wǎng)絡(luò)的專利價格自動評估方法的實際應(yīng)用效果，對國內(nèi)某高技術(shù)企業(yè)的所有芯片相關(guān)專利價格進行評估，待評估的專利數(shù)量為15，同時也對待評估的專利進行專家價格評估，評估結(jié)果如表3所示。

本文方法以市場法為基礎(chǔ)，通過對其他各種因素的綜合考慮，利用GRU 神經(jīng)網(wǎng)絡(luò)的方法實現(xiàn)對專利價格的自動評估，從表3 可以看出，與專家評估結(jié)果相比，本文方法能夠得到較一致的結(jié)果，最低RA 值為0.74，最高RA 值為0.90，平均RA 值為0.84。使用本文方法最終為客戶進行了特定領(lǐng)域的專利價格評估，且評估結(jié)果在一定程度上得到客戶認可。

表3 本文方法在應(yīng)用案例中專利價格評估結(jié)果Tab.3 Patent price evaluation results of application cases with proposed method

3 結(jié)語

本文通過研究國內(nèi)外先進專利價格評估方法，分析現(xiàn)有評估方法的優(yōu)勢及缺點，現(xiàn)有方法在進行專利價格評估時沒有有效地考慮專利的市場、法律、技術(shù)維度對專利價格的影響，而專利的市場因素對專利價格評估起到關(guān)鍵作用，同時，人工智能、深度學習技術(shù)在工程領(lǐng)域不斷成熟，使用深度學習技術(shù)可實現(xiàn)專利價格的自動評估，即提出了基于循環(huán)神經(jīng)網(wǎng)絡(luò)的專利價格自動評估方法。該方法以市場法為基礎(chǔ)，通過對其他各種因素的綜合考慮，利用GRU 神經(jīng)網(wǎng)絡(luò)的方法實現(xiàn)對專利價格的自動評估，并通過對比實驗驗證本文所設(shè)計方法的有效性。

由于本文所用專利數(shù)據(jù)集的有限，并不能發(fā)揮出所提模型的最佳性能，因此，隨著后續(xù)專利數(shù)量和類型的不斷積累，將進一步優(yōu)化所提專利價值自動評估模型，設(shè)計更優(yōu)的評估模型。