【摘要】目的:評估臨床技能多站式考核應用在某獨立學院康復治療學專業學生畢業技能考核的合理性。方法:以138名同學的成績為研究對象,應用教育測量學參數,分析考核質量指標。結果:該學院畢業技能考核的平均難度為0.74,各站點區分度均大于0.40,總體信度為0.808,效度較好。結論:考核難度適宜,具有較好的區分度、信度和效度。
【關鍵詞】多站式考核;康復治療學;畢業考核
[中圖分類號]R-4;G642 [文獻標識碼]A [文章編號]2096-5249(2021)11-0174-03
“以培養高素質應用型人才為主”的質量定位系統構建落實到獨立學院的人才培養,就是人才培養目標必須堅持“以培養高素質應用型人才”為核心,教學過程以培養學生動手能力、應用能力為突破口,把“重實踐,強能力”的理念落實到各個教學環節當中[1]。如今開設康復治療學專業的本科院校數量日漸龐大[2],培養質量參差不齊,關于培養質量、畢業“出口”把控的研究數量一直較少。近兩年,教育部多次發文均提及本科教育的質量控制問題,在《關于一流本科課程建設的實施意見》中再次強調要切實提高畢業論文(設計)質量[3]。而諸多醫學相關專業都未設置畢業論文考核項目,而是用綜合性考試來評估學生是否具備學位授予資格。為了嚴格把控本科院校出口質量,需構建更為客觀、科學的畢業考核評價體系。
OSCE (Objective Structured Clinical Examination)作為國際醫學考試通行的方法,在歐美等發達國家的醫學院校應用較為普遍,是近年來備受醫學界推崇的客觀、實用的,能全面反映學生臨床綜合能力的考核方法[3]。但目前OSCE法在康復治療學專業考試中應用較少,尚未形成完善的標準、規范。多站式模式可以廣泛的考察學生對不同科目、不同疾病類別的掌握情況,使他們的畢業操作考核成績在評價學生的綜合實踐能力方面更具代表性。根據醫學技術類教育質量國家標準的要求,參照OSCE考核方法,結合康復治療師職業資格考試大綱和專業本科階段主要課程大綱構建了康復技能多站式考核方案,并在2019年康復治療學專業畢業考核中取得了一定的成果,現報告如下。
1 資料與方法
1.1一般資料 2019年學院的康復治療學專業學生共計138例,其中,男生62例、女生76例。
1.2方法 考核以康復診療流程為主線,涉及問診、交談、康復評定、康復計劃和目標的制定、康復治療的實施等考核要點??己朔謩e從康復常見疾病、康復診療流程、康復醫學手段三個維度對學生進行綜合評估,考核內容具有廣泛代表性。考核結合各課程學分分布情況給各站點賦分,將康復評定和運動療法部分分別調整為2個站點,各站點賦分15分,其余各站點分值均為10分??己嗣空军c時長為10 min,考生各站點考核總時長為80 min。
1.3評定標準 考核根據全國衛生專業技術資格考試-康復醫學與治療技術大綱和學生本科階段專業主要課程大綱確定考核范圍。并由有多年教學經驗的老師編制考核試題和評分標準??己私Y束后以不記名問卷的形式對硬件設施和主觀難度感受情況展開調查。
1.3統計學方法 考核后收集的問卷和考試成績的各項數據均應用SPSS 23.0和GraphPad Prism 8.3.0軟件分析,并根據教育測量學理論分別計算考核的難度和區分度[5]。根據教育量化評價方法統計考核的信度與效度[6]。
2 結果
2.1問卷調查 共收集132份有效問卷,對考試場地、考試設施、考試服務滿意的數量分別占68%,69%,67%,可見大多數考生對考核硬件條件比較滿意,認為考核難度適中。除物理因子療法和作業療法兩個站點外,其余各站點學生對試題的主觀難度感受與實際得分較為相似。
2.2考核成績 依據參照標準的不同,可將教育測驗分為常模參照測驗和標準參照測驗兩類,畢業考核屬于標準參照性考核,關注的重點應是被試是否達到專業畢業時應具備的標準,強調被試對測驗目標或內容的掌握程度。按照內容參照分數中掌握分數類別判斷時,通常以可以做出80%~90%的正確反映為最低標準[5]。按照站點總分的60%為達標線時,除病史采集站點的正確反映程度偏離較大外,其余站點均與掌握分數標準相當。
通過各站點考核分數分析圖表可以看出各站點分數較符合正態分布。通過對比總分與隨機生成的正態分布數據(=73.6,s=7.82)的正態曲線,可以發現考生的總分分布情況與正態分布的隨機數據分布擬合度較好,可以判定這次的總分成績的正態分布表現是讓人滿意的。
2.3考核質量 根據教育測量學理論分別計算考核的難度和區分度[5]。根據教育量化評價方法統計考核的信度與效度[6]。
2.3.1難度 各站點評分占總分的占比與考核設計時賦分情況一致性較高,表現優良。各站點的試題難度水平較為均衡,主要試題難度集中在0.6~0.9,考慮到畢業考核的目的是了解學生的技能水平是否達標,所以各站點試題均是滿足條件的。

2.3.2區分度 根據《教育測量學》相關理論,采用積差相關法(皮爾遜相關)計算各站點的區分度情況。以考核總分為效標,統計各站點的區分度情況??梢奡P、考官有三位老師的區分度低于0.40水平,其余各位評分者的區分情況均較高。綜合站點的平均成績后,各站點的區分度均達0.40水平,根據美國測量學家伊貝爾(Ebel,L.)提出的從鑒別指數上評價試題的標準,可判定考核區分度是非常優良的。
2.3.3信度 以考生所有得分源為自變量計算時,描述考核信度的克隆巴赫Alpha系數為0.808。以考核各站點平均成績計算時,克隆巴赫系數為0.653,故以增加考官數量來增加考核的整體信度的措施頗有成效。在表1中刪除項后的克隆巴赫指數表現里可以發現,各項刪除后的整體的克隆巴赫指數均有下降,可見各站點對總體的信度均起到了正向促進作用。
2.3.4效度 效度是指測量的有效性,即一個測量對它所要測量的特質準確測量的程度。測量結果與測量內容吻合度越高,效度就越高。使用SPSS分析考核的效度情況,得出考核KMO(Kaiser-Meyer-Olkin)值為0.738。0.7~0.8表明適合做因子分析,即說明各站點考核所得到的結果較適合反映最終結果。對成績進行Bartlett 的球形度檢驗,顯著性小于0.0001。兩項數據均表明各站點成績合適作為效度分析的因子。進一步因子分析時發現,從8個站點成績變量中提取3個因子時可以解釋總成績的57.34%,提取7個因子時可以解釋總成績的93.68%,可見各站點成績在中最終成績的表現里均有重要的占比。
3 討論
3.1多站式考核的意義 畢業技能考核內容與專業準入標準和職業準入標準緊密結合,既能夠較真實地反映學生的實踐綜合能力。考核后將評分結果公開,便于學生定位自身技能水平,便于及時查漏補缺,盡快將本科階段的知識和技能轉化為職業能力。與傳統OSCE考核對比 [8][9] ,此次研究的信度亦處于較高水平。更多的OSCE考核的研究中并未對考核的信度、效度和區分度進行分析,而是采用問卷評估結果替代對考核質量指標的分析,可見目前OSCE的考核模式仍處于本土化適應階段。
3.2考核誤差控制 考題編制完成后,隨機分組,極大減少了試題外泄導致的測量誤差。考核之前,給每位考生編制考核序號,并預先隨機好各站點題號,此舉不僅確保了試題的隨機分布,還提升了考官、SP老師審題效率,亦便于此后開展圍繞試題的分析。
畢業考核之前對所有考生進行培訓,確保每位考生都熟識考試流程和要求。減少因不熟悉場地、流程等原因導致的測量誤差??己耸褂玫臉藴驶∪薙P(Standardized Patients)均為康復治療師,熟識康復常見疾病表現。考核之前對所有考官展開標準化評分的培訓以減少考官評分的誤差。
3.3成本與時效 傳統OSCE考核程序復雜,費用昂貴,這也在一定程度上限定了OSCE的推廣[10]。在本場考試在降低成本和提高時效上做了不少努力。對考核內容打亂重組,在保證考核內容多元化、多維度的基礎上,減少知識點的重復考核。并且統一了考核時間,提高了學生的換點效率。在場次安排上,不同組別審題和作答交替進行,站點考核結束后即進入下一站點的審題,這樣一來就減少了學生進考場之后審題時間,提高了考核的效率。
3.4后續研究改進 伴隨研究的不斷深入,對試題和評分標準的理解越發清晰,后續研究中考慮將使用命題雙向細目表描述考核內容和考核目標,進一步提升考核材料的覆蓋面。在試題編制時,編寫各題的標準化評分表,提供具體操作指標,減少不同評分者之間的評分誤差,提升試題的標準化水平,最終形成康復專業畢業技能考核的案例庫。
利用智能化、信息化手段做好學生的畢業技能考核工作,提升考場的信息化水平,引入電子評分系統,提升分數統計的效率和準確性;增設錄播設備,便于將來進行更深入的研究工作,以期形成信息化、多元化的科學評價體系。
參考文獻
[1] 劉濤. 獨立學院人才培養質量體系的構建[J]. 大學教育科學, 2009, 3(3): 43-46.
[2] 勵建安. 辭舊迎新, 繼往開來[J]. 中國康復醫學雜志, 2019, 34(1): 1-3.
[3] 教高[2019]8號, 教育部關于一流本科課程建設的實施意見[EB/ OL], 中華人民共和國教育部, 2019. 10. 31 http: //www. moe. gov. cn/srcsite/A08/s7056/201910/t20191031_406269. html
[4] 呂智海, 姜志梅, 張偉, 等. 康復治療學本科臨床技能多站式考試模式的評價[J]. 中國康復理論與實踐, 2012, 18(3): 296-298.
[5] 姜志梅, 呂智海, 張偉, 等. 康復治療學本科專業臨床技能多站式考核的研究與應用[J]. 中國高等醫學教育, 2012, 26(9): 52-54.
[6] 張敏強. 教育測量學[M]. 北京: 人民教育出版社, 2014. 4, 35-44, 80-97
[7] 涂艷國. 教育評價[M]. 北京: 高等教育出版社, 2007. 3, 130-144
[8] 王娜, 龐曉麗. 助產專業OSCE技能考核體系的創新和應用[J].中國高等醫學教育, 2019, 33(7): 66-67.
[9] 吳潔, 趙琳, 李艷紅, 等. 客觀結構化臨床考試OSCE在MBBS留學生兒科學期末考核中的應用和成績分析[J]. 醫學教育研究與實踐, 2017, 25(5): 709-711, 715.
[10] 劉亮. 對OSCE的不足及改進措施的探討[J]. 醫學理論與實踐, 2013, 26(10): 1394-1395.
基金項目:南京醫科大學康達學院2018年度教育研究課題“臨床客觀結構化考核應用于康復治療學專業學生畢業技能操作考試的研究”(編號:KD2018JYYJYB005)
作者簡介:王舒婧(1991.06-),女,漢族,江蘇連云港人,碩士在讀,實驗師,主要研究方向為康復教育。