豆洪青 賀偉


摘 要 研究基于多源數據多維指標融合學術評價理論,圖書館查收查引業務工作的新拓展,克服工作過程中過于依賴SCI收錄與引用數量等問題,探索多源多維度反映學術論文影響力的評價工作方法。通過梳理查收查引工作內容變化以及影響力相關學術評價理論,對面向計量評價的數字基礎設施各類型評價指標進行梳理,對單篇學術論文及學者根據“即插即用”的工作要求進行應用分析。研究認為,查收查引工作應充分利用現有的計量學評價理論研究成果及數字基礎設施,適應我國學術評價時代特征與環境不斷拓展工作內容,多源、多維度、多指標融合地進行學術成果的綜合評價。
關鍵詞 查收查引;學術評價;即插即用;科技評價
分類號 G252
DOI 10.16810/j.cnki.1672-514X.2024.05.008
On the Paper Index and Citation Retrieve Service From the Integrated Evaluation
Dou Hongqing, He Wei
Abstract Based on the academic evaluation theory of integrating multi-source data and multi-dimensional indicators, this paper explores the new developments in library checking and citation work. It aims to overcome the over-reliance on the number of SCI entries and citations in the work process, and instead, it seeks to explore multi-source and multi-dimensional evaluation methods that accurately reflect the influence of academic papers. By examining changes in the content of checking and citing work as well as its impact, this paper organizes various types of evaluation indicators for digital infrastructure oriented towards quantitative evaluation. It also analyzes how a single academic paper and scholars can be applied according to the “plug-and-play” requirements of the work. In conclusion, it is suggested that checking and citing work should fully utilize existing theoretical research results on metrological evaluation and digital infrastructure. Additionally, it should adapt to China's current academic evaluation environment by conducting comprehensive evaluations of academic achievements using multiple sources, dimensions, and indicators.
Keywords Collection and citation. Academic evaluation. Plug and play. Scientific and technological evaluation.
0 引言
隨著我國在“破四唯”領域對以唯“論文”為代表的不良導向不斷深化改革[1],學術界也進一步完善相關評價體系,相繼發布《醫學學術評價規范建議》[2]、《計算機學科學術評價規范建議》[3]等,認為學術論文應注重其在基礎研究方面的影響力。2022年發布的《關于開展科技人才評價改革試點的工作方案》指出,基礎研究類人才評價要體現學術影響力[4]。從以上政策文件來看,“破四唯”的本質是對現有的學術評價標準進行全面的反思,克服“重數量輕質量”等頑疾,注重學術影響力評價,進而形成更加科學合理的評價體系。
作為學術評價重要輔助單位之一的高校圖書館,以包括論文發表和引文信息的數量統計為主的查收查引報告,一直是各類評價的重要素材之一。但在實踐過程中,存在所應用的指標規范化不夠、評價指標過于簡單、過于依賴SCI收錄與引用等問題。在不“唯SCI”論文要求下,查引查引需要綜合考量多個方面的指標數據,采用多源數據多維指標融合作為工作內容,應是查引查引這一學術評價工作演進的方向。因此,本研究基于現有查收查引依托的數字基礎設施——引文類文獻數據庫相關指標數據,探討多源多維度反映學術論文影響力的評價指標體系,指導查收查引工作在“破四唯”的學術評價中,創造獨特的價值,提供有力的支持,成為第三方評價中堅力量。
1 圖書館查收查引工作現狀
1.1 查收查引工作定位與內容
查收查引工作是我國圖書情報界特有的一種工作形態,是根據科技管理部門相關科技成果管理辦法與登記要求,提供基礎理論研究成果發表后的被引證明[5],為科技成果管理提供支撐。從國內業務發展研究來看,較早的研究成果發表在2003年《利用Dialog系統進行SCI收錄和引文檢索的研究》[6]一文中,分享SCI收錄與引文檢索過程中的一些技巧,用以節省檢索費用。隨著查收查引業務在成果管理中更多的應用于學術評價支撐,其學術評價功能已越來越受到業界關注。梁紅妮等人[7]認為,收錄引用情況是衡量相關人員科研成果的一項重要的評價指標,是以證明其科研能力和水平而開展的信息咨詢服務[8],朱玉奴[9]進一步提出,查收查引服務是以支持學術科研評價為目的的一項咨詢服務工作。
查收查引從其表現形式上來說,證明報告是查收查引工作內容的形式體現,具有客觀性、中立性、依附性、動態性、可操作性、權威性等特點,但其格式與內容目前業界還未建立統一標準。根據“985工程”高校圖書館查收查引服務項目的網上調研,其服務內容主要提供WOS數據庫系列子庫、SCOPUS數據庫、中國引文數據庫等的收錄與引用證明,以及期刊影響因子、期刊分區證明,ESI高被引、熱點論文證明等[10]。國外圖書館類似服務是基于文獻計量的科研成果影響力的咨詢服務,用以支持研究評估,監測研究成果[11]。
從查收查引業務研究與實踐發展來看,其工作內涵逐漸豐富,由原來單純的檢索工作向定量評價工作轉型在業內逐漸成為共識,成為一種根據學術論文內在要素及外在特征開展的輔助評價服務工作。
1.2 面向“質量”評價的查收查引工作新要求
“破四唯”下的學術評價是不“唯論文”“唯數量”,要構建從“唯”到“不唯”,從“唯”到“多維”的影響力評價體系。索傳軍認為引文影響力可作為判斷論文質量或影響力的輔助指標[12],王少[13]將論文作為多元評價的標準之一,既看數量,又看質量,還要看其實際價值;楊曉剛提出建立健全以創新能力、高質量、貢獻、影響力為導向的科學評價標準[14]。從雙一流監測數據來看,學術論文依然是其重要的監測點,包括D0401科學研究標志性成果,D040104 教師在國內重要期刊發表的代表性論文等內容[15]。第五輪學科評估中提出采用“計量評價與專家評價相結合”“中國期刊與國外期刊相結合”的“代表作評價”方法[16]。這些均表明關于學術論文的定量評價仍然是“破四唯”下的學術評價的重要內容之一。
在上述學術評價需求動態變化的背景下,作為一項依據文獻數據開展的第三方評價工作,查收查引服務機構更加要明確自己的定位和作用,適應時代發展要求。目前大部分查收查引機構將單個評價指標證明報告作為最基本的類型,對“質量”維度的評價更多的局限于論文數量、被引次數、影響因子等數據的佐證材料。因此,在評價功能定位上,需要把收錄、引用與期刊影響因子評價應回歸作為論文成果質量評價的組成部分,而不再僅是論文與被引“數量”這一指標,應綜合考慮學術論文評價的各類指標的綜合運用,提高學者影響力評價的全面性與系統性,回歸以數據分析為評價支撐的本質,生產出價值含量高、方便用戶利用的信息產品[17],2014年,美國學者西格斯(Diana Hicks)等人在“萊頓宣言”中,提出合理利用科學評價指標的原則[18]。適應“破四唯”下學術評價發展的需要,多源、多維度、多指標融合地進行學術成果的綜合評價,規范化行業標準,使查收查引工作系統化、正規化和便捷化,不斷豐富自己業務內涵。個別科技查新工作站已開展代表性論文影響力分析服務,對代表性論文成果進行綜合評價。
因此,適應不“唯”與多“維”的要求,查收查引工作如何基于融合評價的理念,融合多維指標,測度學術論文多方面的不同特征值,全面反映其“質量”,構建合理的評價指標體系,從而引導學術的卓越發展、為決策部門提供更多的評價支撐信息,是目前查收查引工作迫切需要研究和解決的問題。
2 查收查引工作相關評價性文獻計量學理論基礎
查收查引工作是基于文獻計量學理論體系而開展的,長期以來,文獻計量學逐漸形成被引頻次、影響因子、H指數等一系列核心計量指標,用以表征論文、期刊、學者等評價對象的學術影響力。從歐洲科研人員調查來看,定量評價依然得到廣泛的認可[19],評價性文獻計量學已成為可接受但存爭議的實踐。被引頻次等指標的使用在注重成果的質量、貢獻、影響的破“四唯”要求下正面臨嚴峻挑戰,學界也在不斷完善相關理論與方法,如構建學術評價價值尺度[20]、“全評價體系”[21],這為查收查引工作提供了不斷發展與完善的理論基礎指導。
學術影響力是指在學術方面產生的影響,包括原生影響力(如發表時間、作者、機構基金等),以及次生影響力(如期刊影響因子、被引頻次、使用次數等等),次生影響因素是學術論文影響力水大小的體現[22]。查收查引工作一般基于文獻數據庫,反映學術實體或科學研究在時間、空間上的影響程度,以成果被文獻數據庫收錄與引用證明為服務產品的影響力評價工作,為體現其被同行關注、認可程度提供佐證材料。一般來說,以論文為代表的科技成果被同行認可、關注程度分兩個階段,一是發表前的同行評議,決定論文在什么樣的期刊上發表,雖然說不能以刊評文,但論文在期刊上的發表層次,本身代表了被同行認可的結果,期刊影響因子、超越指數等,從側面上可以反映論文的質量,體現其影響力情況,這是查收工作的基礎。二是發表后的同行下載與引用情況,也就是論文被關注程度,論文的多樣化的引證指標可多維度反映出研究人員對于論文價值的客觀認可表現,是查引工作的基礎。
2.1 學術影響力評價相關指標研究
以引文分析為代表的學術影響力評價,一般包括對論文集群及單篇論文的引用評價,其類型有引文數量分析、引用鏈、引文主題分析等。
針對學術論文集群的影響力評價,一般是針對學者在某一個階段所取得的研究成果集進行的綜合評價。評價指標以H指數為代表,還有G指數、Z指數、F指數等衍生指數,主要用于評估研究人員的學術產出數量與學術產出水平,如John P. A. Ioannidis團隊根據論文發表數量及被引數量等指標篩選出全球前2%頂尖科學家[23]。從實踐來看,H指數取決于職業生涯的長度與學科,不適合對不同學術生涯的學者個體進行比較。學術產出數量集評價,還可根據其產出時間變化情況,進行趨勢性評價,如活躍趨勢、引用貢獻趨勢、學科變化情況、研究主題變化情況等。
面向單篇論文的影響力評價,主要有引文標準化及影響力測度兩類。通過引文標準化處理實現不同學科、不同年份之間論文影響力比較,如何春建、曹進軍等采用比均值法反映發表年差異對引用的影響[24-25],伍軍紅等提出被引頻次標準化指數[26]。在學術影響力測度方面,葉鷹[27]介紹了均值測度、高影響特征測度兩類,進而提出基于學術跡影響力整體綜合測度方法,學者們還根據學術論文的傳播速度、深度及廣度,發展了P指數、絕對顛覆性指數等評價學術論文質量。
2.2 面向計量評價的數字基礎設施相關影響力指標
查收查引工作,不但需要理論指導,其付諸實踐還需要面向文獻計量評價的數字基礎設施支持。在21世紀初,電子資源的持續增加和知識組織研究成果的發展,推動了新的數據聚合與使用,促進了各種數字基礎分析工具的改進和完善,如《科學引文索引》 (美國)、《中國引文數據庫》、SCIval等對于學術表現提供了更多更好地客觀評價新成果。同時,查收查引工作已從《科學引文索引》、EngineeringVillage(EI Compendex)等數據庫的收錄引證查詢,擴展到更多數據庫平臺,應用更多指標綜合體現論文的影響力。
這些數字基礎設施在影響力標準化方面也付諸了實踐探索,如為了消除時間因素和學科差異對于不同文獻的影響,國外文獻數據庫Web of Science和Scopus都分別提供了采用比均值法進行標準化的學科規范化論文影響力指標[28],愛思唯爾SciVal中表述為Field-Weighted Citation Impact,FWCI)的概念,在科睿唯安在其InCites數據庫中的命名為Category Nor-malized Citation Impact(CNCI),用以直接反映學術論文相對于總體或平均學科水平的差異;Web of Science還通過射束圖(beam-plot)將每篇文章與相應年度本學科的參考數據集進行比較,對被引次數按平均值進行規范化,并轉換為百分位數,用以衡量論文的學術表現。
每一個數字基礎設施中的各類指標數據,并不是單獨存在的,每一個被過度簡化或誤用的指標都有更好的替代選項,館員需要深入學習了解各個文獻數據庫的各種指標,通過多個互補的維度,將數據置于更廣泛的背景下,提高第三方評價機構專業服務能力。
3 “破四唯”下的查收查引工作拓展
隨著學術評價理論的深入,以及面向計量評價的數字基礎設施相關指標的不斷豐富[29],查收查引工作也應適應科研評價支持服務需求,拓展服務內容。
3.1 查收查引業務應多源多維全面展現評價對象
查收查引工作中的多源是指同一指標數據來源于不同的數字基礎設施,以及不同的對比源。可利用不同文獻數據庫平臺數據,以及不同檢索條件下不同結果對比源,對同一評價對象在客觀數據展示上采取結構性證據鏈,充分運用“融合評價”,多源展現評價對象。科睿唯安發布全球研究報告 《全面畫像,而非簡單指標》[30],提出是全面畫像,而不是單一指標,但這只是基于單一平臺數據的畫像。以論文被引頻次為例,可以通過WOS(Web of Science)、SCOPUS、中國引文數據庫等多個數字基礎設施查找其被引情況,也可以利用WOS平臺下不同的檢索途徑,獲取不同的參考指標,如通過學者檢索獲得論文的引用百分位,檢索結果導入Incite平臺后還可以進一步獲得學科規范化引文影響力等。多源數據的融合,避免了單個數據源結果的片面性,促進了成果的全方位立體展現。
查收查引工作不但需要多源數據,其評價維度也需要更加多元化,將“唯”轉變為“維”,為全面評價提供更科學、客觀的參考。文獻數據庫中各類指標數據都是文獻計量評價研究成果的體現與應用,查收查引工作應充分、綜合利用各指標進行關聯,展現成果價值,如針對論文被引情況,不但可以從數量上體現其影響力,還可以從論文發表后首次被引到峰值的時間,引文的級聯次數,被其它學科、國家、地區、機構、期刊、學者引用等多個維度體現影響力傳遞速度、廣度與深度。具體如表1所示。
各指標的應用都是為了解決某一方面的問題而出現的,需要根據評價目的來選擇不同的指標組合。查收查引過程中,同一指標的證明報告可以應用于不同檢索目的,而不同檢索目的可能涉及不同數據源的指標應用或各種指標的組合應用,因此,查引查引工作不能簡單地依賴某單個數據源或指標,需從不同角度判斷,綜合看待和利用好各工具和指標。在不唯“SCI”論文的情況下,查收查引工作者應準確理解下載次數、引證文獻、發文主題分析等各類相關指標,僅是對科研成果進行客觀描述的一種而不是唯一表現形式評價工作[31]。
隨著學術評價理論與數字基礎設施建設的的不斷發展,為查收查引工作工作在學術評價方面提供新的方法和范式參考,工作中所應用的評價指標必定會隨之發展和豐富,因此,充分利用科學可靠、多源多維的全面指標,而非機械地采用單一數據來源與指標,對于查收查引工作的可持續發展具有重要意義。
3.2 查收查引應體現“即插即用”工作方法
客觀性與易操作性是查收查引工作的特點,與目前圖書館開展的其它學術評價服務工作的不同之處,在于采用“即插即用”方法,直接利用數字基礎設施平臺提供的工具進行數據獲取與分析,其依賴于數據的可獲取性與可用性,不受工作人員主觀切入角度的影響。
客觀性體現在查收查引工作過程中,在依據現有數字基礎設施開展,在其使用的各類指標數據體現“即插即用”的實踐和態度,保證所有評價數據直接來源于數字基礎設施,通過規范化服務獲取相應的資源,保證數據的原始性與客觀性,以便于工作的標準化,具有高度相關性和公正的特點。多維度詳細、準確地對指標進行描述,避免過度分析與解讀,消除相關指標濫用的現象。在數據成為生產要素的情境下,從客觀性角度考慮數據要素供給,是查收查引工作保持權威地位的必要前提。
在易操作性方面,“即插即用”的工作方法可簡化查收查引工作流程,縮短操作時間,降低成本,保證質量,方便用戶使用。現有數字基礎設施是本身具有模塊化、標準化等特征,可幫助查收查引評價數據的模塊化與標準化處理,提供“即插即用”的按需服務。同時,基于數字基礎設施的各類指標在工作中的“即插即用”,可保障查收查引工作在不同文獻數據庫中的數據互操作,以便查收查引工作中需要利用的各類指標根據實際需求動態組合,實現評價中的多源數據融合與多維指標評價。查收查引多源數據來源及指標,也導致數據彼此相對獨立,需要館員根據用戶需要,對同類型指標進行關聯比較。如圖1所示,學者Carolyn R. Bertozzi分別在中國引文數據庫、Scopus數據庫、Web of Science數據庫檢索其某一篇代表作所能得到的指標,可進行多源指標分析評價。
4 結語
查收查引作為高校圖書館科研評價工作的一項重要體現形式,長期以來形成了論文收錄和被引“指標-量化”式的信息產品,越來越不適應破“四唯”的需求。就查收查引工作現狀來看,并未完全利用好各類數字基礎設施“即插即用”的多維評價指標,在微觀層面的“指標-量化”模式未能體現專業第三方評價服務的深度與廣度,應適應社會學術評價體系變化需求進行調整,綜合運用前沿技術理論及文獻數據庫平臺功能,重新審視查收查引輔助評價方法與模式,與社會發展同頻共振,充分融合各類數據庫各種計量指標,打破唯“SCI”論文與數量的狀況,對科研成果進行全面定量評價,推動科研評價更加準確、透明、負責任,這也是圖書館服務至上理念的不斷踐行。
數據是計量評價的基本要素,館員需具備豐富的計量評價理論知識,以及對數據的高度洞察力、數據甄別能力、數據處理能力等,激活數據潛能,賦能查收查引工作的價值實現。同時,學術評價作為一項復雜評價,館員需要廣泛宣傳相關知識,提高研究人員和科研管理者的文獻計量素養,讓更多用戶了解各項指標的內容和意義,而不是片面理解為論文發表與被引數量,幫助學者或機構關注并獲得自己在評價中的競爭優勢,并通過查收查引服務輔助科研發展。
*本文系寧波市軟科學研究項目“寧波加強科技評價破‘四唯對策研究—構建基于價值導向的人才評價體系” (項目編號:2022R049)系列成果。
①Web of Science數據庫已有部分論文的引證文獻類型進行標引。
①數據來源:https://www.webofscience.com/wos/author/record/19703329。Carolyn R. Bertozzi為2022年諾貝爾化學獎得主。為更好的進行分析比較,選擇Carolyn R. Bertozzi H指數(112)對應的論文為代表作進行分析。Gabriela, de Almeida, Ellen,等. Thiacycloalkynes for Copper‐Free Click Chemistry[J]. Angewandte Chemie International Edition, 2012.51(10):2443-2447。
參考文獻:
Dou Hongqing, He Wei : On the Paper Index and Citation Retrieve Service From the Integrated Evaluation
豆洪青 賀 偉:融合評價視角下的查收查引工作發展與探索
中華人民共和國科學技術部.科技部印發《關
于破除科技評價中“唯論文”不良導向的若干
措施(試行)》的通知[EB/OL].[2022-12-03].
https://www.most.gov.cn/xxgk/xinxifenlei/fdzdgknr/
fgzc/gfxwj/gfxwj2020/202002/t20200223_151781.html.
中華醫學會.中華醫學會關于發布《醫學學術
評價規范建議》及《醫學科研活動行為規范建
議》的通知[EB/OL].[2022-12-03].https://www.cma.org.cn/art/2022/4/24/art_42_44557.html.
中國計算機學會.CCF關于發布《計算機學科
科研活動行為規范建議》和《計算機學科學術評
價規范建議》的通告[EB/OL].[2022-12-03].https://
test2.ccf.org.cn/Focus/2022-05-05/761604.shtml.
中華人民共和國科學技術部.科技部等八部門印發《關于開展科技人才評價改革試點的工作方案》的通知[EB/OL].[2022-12-03].https://www.most.gov.cn/xxgk/xinxifenlei/fdzdgknr/qtwj/qtwj2022/202211/t20221109_183356.html.
中華人民共和國科學技術部.關于印發《科技
成果登記辦法》的通知[EB/OL].[2022-12-03].
http://www.gov.cn/gongbao/content/2001/content_
61051.htm.
顧震宇,唐鵑.利用Dialog系統進行SCI收錄
和引文檢索的研究[J].圖書情報工作,2003(9):
88-93.
梁紅妮,胡小飛.論文查收查引服務的分析與探討[J].情報理論與實踐,2009,32(4):96-99.
劉艷民,祝忠明,張旺強.基于機構知識庫的查收查引功能設計與實現[J].圖書情報工作,2018,62(12):91-97.
朱玉奴.面向可持續發展的查收查引服務規范化研究[J].圖書館學研究,2021(20):82-90.
蘇秋俠.智慧圖書館背景下查收查引服務探析:基于“985工程”高校圖書館網站的調查[J].圖書館學研究,2019(24):61-68.
GUMPENBERGER C, WIELAND M, GORRAIZ J. Bibliometric practices and activities at the University of Vienna[J].Library Management,2012,33(3):174-183.
索傳軍,蓋雙雙.基于引文的論文質量與影響力探析[J].情報理論與實踐,2018,41(5):11-15.
王少.評價標準怎么立?破“五唯”后的思考[J].天津師范大學學報(社會科學版),2021(4):82-87.
楊曉剛.破“四唯”之后科學評價體系的構建研究:基于扎根理論的視角[J].南通大學學報(社會科學版),2021,37(5):126-132.
湘潭大學科技處.關于開展2021年度“雙一流”監測數據集中填報工作的通知[EB/OL].[2022-12-03].https://kjc.xtu.edu.cn/info/1050/4193.html.
中華人民共和國教育部.第五輪學科評估工作
方案[EB/OL].[2022-12-03].http://www.moe.gov.
cn/jyb_xwfb/moe_1946/fj_2020/202011/t20201102_497819.html.
倪曉建. 信息加工研究[M]. 北京:北京圖書館出版社, 1998.
HICKS D, WOUTERS P, WALTMAN L, et al.
Bibliometrics: the Leiden Manifesto for research metrics[J]. Nature, 2015(520):429-431.
諶中偉.歐洲大學的科研評價現狀與啟示[J].圖書館論壇2022, 42(9):
153-159.
索傳軍.論學術評價的價值尺度:兼談“唯論
文”問題的根源[J].中國社會科學評價,2021(1):
122-131,160.
葉繼元.學術“全評價”體系與中國特色哲學社會科學學術評價體系的構建與完善[J].社會科學文摘,2021(7):4-6.
趙蓉英. 學術影響力[M].武漢:武漢大學出版社, 2021.
JOHN P A I. September 2022 data-update for “Updated science-wide author databases of standardized citation indicators”[EB/OL].[2022-09-21].https://elsevier.digitalcommonsdata.com/datasets/btchxktzyw/4.
何春建.單篇論文學術影響力評價指標構建[J].圖書情報工作,2017,61(4):98-107.
曹進軍.基于Total-Top論文引用均值的非線性
分段評價體系研究[J].情報雜志,2017, 36(4):
189-195,201.
伍軍紅,肖宏,任美亞,等.PCSI:一種單篇論文
被引頻次標準化方法[J].圖書情報工作, 2020,
64(23):22-30.
葉鷹.國際學術評價指標研究現狀及發展綜述[J].情報學報,2014,33(2):215-224.
PRATHAP G. Is there a place for a mock h-index?
[J].Scientometrics,2010,84(1):153-165.
夏翠娟.面向人文研究的“數據基礎設施”建設:試論圖書館學對數字人文的方法論貢獻[J].中國圖書館學報,2020,46(3):24-37.
ADAMS J, MCVEIGH M, PENDLEBURY D, et al.
全面畫像 而非簡單指標[J].科學觀察,2019,14
(4):58-65.
教育部 科技部印發《關于規范高等學校SCI論
文相關指標使用 樹立正確評價導向的若干意見》的通知[EB/OL].[2022-09-21].http://www.
moe.gov.cn/srcsite/A16/moe_784/202002/t202002
23_423334.html.