馬善恒 夏建華 王后雄



摘要: 采用文本分析法、德爾菲法、內容效度檢驗法、層次分析法,構建中學化學實驗學習能力評價指標,包含實驗目標、實驗設計、實驗實施、實驗效果、實驗反思等5項一級指標及15項二級指標和33項三級指標。該指標體系信效度檢驗良好,權重分配較為合理,為有效開展中學化學實驗學習能力的評價提供科學測評依據和循證基礎。
關鍵詞: 化學實驗學習能力; 評價指標; 權重賦值; 問卷調查法; 層次分析法
文章編號: 10056629(2022)04001407
中圖分類號: G633.8
文獻標識碼: B
1 問題提出
創造是人的最大驕傲,究竟什么是創造?尼采認為,“評價就是創造……評價本身就是被評價之物的財富和珍寶。評價然后才有價值;沒有評價,生命之果是空的”[1]。
化學是一門以實驗為基礎的學科,實驗教學是中學化學學科教學中的重要一環,實驗教學利于學生創新能力和綜合素養的提升。當下,中學生化學實驗學習能力評價只注重實驗操作評價,忽視實驗目標、實驗設計、實驗效果、實驗反思等實驗諸環節的評價,不利于充分發揮實驗的教育功能[2];體現出中學生化學實驗學習能力評價體系不夠健全,需進一步完善實驗學習能力評價機制,把實驗教學情況納入教育質量評價監測體系,這既是新時代我國人才培養需求戰略性、全局性的判斷,又是深化教學評價體制改革的必然選擇[3]。
2 研究思路及方法
本研究試圖構建中學生化學實驗學習能力評價指標體系,研究思路如下: 第一,使用文本分析法,初步構建中學生化學實驗學習能力評價指標;第二,使用德爾菲法,對所構建評價指標進行內容效度指標檢驗;第三,使用德爾菲法和層次分析法,確定所構建評價指標體系的權重。
2.1 文本分析法
文本分析法貫穿研究始終。不管是對國內外中學生化學實驗學習能力測評的相關文獻梳理,還是對評價指標內容效度指標檢驗中的實證訪談數據分析,均使用文本分析法[4]。
2.2 德爾菲法
在內容效度指標檢驗和評價指標的權重構建兩處使用到德爾菲法。利薩(K. Reza)和瓦西里斯(S.M. Vassilis)認為德爾菲法樣本量10~15位足以支撐研究成果的科學性,此觀點已得到學界的認可[5~10]。本研究中,內容效度指標檢驗樣本量為10份,指標權重樣本量為16份,兩項所請專家部分重合,均符合研究的科學性要求。
2.3 內容效度指標檢驗
內容效度指標(content validity index, CVI)只涉及評價者之間均認為量表項目與相應內容維度相關的一致性,而不是常用的評價者間全部的一致性。CVI除可用于內容效度的評價外,還可為量表項目的替換、刪除或修改提供信息[11,12]。
2.4 層次分析法
指標權重的確立直接影響中學生化學實驗學習能力評價指標體系的科學性及公正性。層次分析法(Analytic Hierarchy Process, AHP)是一種將定量與定性結合起來的分析模式。因其在處理復雜決策問題上的有效性,已成為使用范圍較廣的一種量化方法。層次分析法將復雜問題分解成各組成要素,將這些要素按照其內在邏輯排成有序的遞進層次結構,并通過兩兩比較的方式確定各要素的相對重要程度,然后綜合集體的判斷以形成各因素相對重要性的總的順序[13~16]。使用該方法的基本步驟可概括如下:
第一,構造判斷矩陣。以A表示目標,ui、 uj(i, j=1, 2, …, n)表示因素。uij表示ui對uj的相對重要性數值。并由uij組成AU判斷矩陣P。
P=u11u12…u1n
u21u22…u2n
un1un2…unn
指標間重要程度指數采用1~9標度法確定,指標間重要程度指數及其含義見表1。
本研究采取群決策的方法,邀請16名化學學科專家進行問卷打分,此人數的選擇足以支撐研究成果的科學性[17~22]。與專家逐一交流填寫的技術性問題,發放問卷16份,回收16份。通過對相關數據的整理分析,可確定各層指標可靠的判斷矩陣。
第二,重要性排序計算。運用判斷矩陣計算出其λmax(最大特征根)所對應的w(特征向量),計算公式為Pw=λmax·w。求得的w(特征向量)經歸一化處理,為權重分配,即各評價因素的重要性排序。
第三,一致性檢驗。為檢驗上述方式所求權重分配的合理性,需進行判斷矩陣的一致性檢驗,計算公式: CR=CIRI。其中,CR表示判斷矩陣的隨機一致性比率,CI表示判斷矩陣的一致性指標,計算公式: CI=λmax-nn-1。式中,n為判斷矩陣A的階數,RI是n階判斷矩陣的平均隨機一致性指標,此項指標可通過查表獲得,具體見表2。
當判斷矩陣P的CR<0.1時或λmax=n, CI=0時,即為P的一致性通過,否則需要調整P中元素至達到滿意的一致性。
第四,層次總排序檢驗。為得到層次結構中某一層元素對總體目標組合權重及其與上層元素的相互影響,需利用該層全部層次單排序的結果,進而算出該層元素的組合權重,該過程即為層次總排序。本研究中,按照從上至下的次序,依次計算出一級指標、二級指標權重,最終得到最底層元素(即三級指標)的權重。層次總排序是基于層次單排序形成的,其形成過程與層次單排序的過程基本相同[23,24]。
CR=wi1CI1+wi2CI2+Λ+wimCImwi1RI1+wi2RI2+Λ+wimRIm
若總排序一致性CR<0.1,則表示總排序一致性檢驗通過,否則需調整模型或重構一致性比率CR較大的判斷矩陣。
第五,得到權重計算結果。
3 文獻分析
關于中學生的學習能力評價有較多的相關研究,如王磊構建的基于學習理解、應用實踐和遷移創新導向的多維整合模型,構建學科能力的3×3要素[25];王祖浩等將學生的化學實驗認知能力劃分為4個水平,依次為實驗儀器及操作的識別和描述、化學實驗事實的加工和處理、化學實驗原理的理解和運用、化學實驗方案的設計和評價[26];義務教育課程標準對科學探究過程與情感表現構建了評價表,對教學活動的以下環節進行評價打分——提出問題、猜想與假設、制定計劃、進行實驗、收集證據、解釋與結論、反思與評價、表達與交流[27];鄭長龍構建了學生實驗課常規項目的評價標準,設定的評價項目及分值為: 實驗預習情況(10分)、課堂紀律情況(5分)、實驗觀察與思維習慣(5分)、愛惜節約藥品(5分)、保護實驗儀器(5分)、清潔整潔的實驗習慣(5分)[28];美國私立學校聯盟(Mastery Transcript Consortium)構建的新評價體系A New Model,包括8種能力體系,共計61項具體能力的評價指標[29]。上述研究對中學生化學實驗學習能力評價指標構建,具有較強的借鑒價值,但存在有的指標從學生的整體發展角度,評價過于宏觀,不具有針對性;有的只從實驗操作層面進行考量,缺少實驗目標設定、實驗反思等維度,未能完整地測評學生實驗的全過程或缺少發展性地看待學生實驗的眼光,均具有一定的片面性或不科學性。
整合已有研究,筆者認為中學生化學實驗學習能力測評應包括目標設定、實驗設計和實施、實驗效果及反思等所有環節。有效學習始于準確把控需達到的目標,實驗目標是有效學習的前提與關鍵,它支配著實驗學習的全過程,并規定著實驗研究的方向,可以依托布魯姆目標分類學及核心素養相關理論,從認知領域、動作技能領域和情感領域開展實驗目標的劃分。實驗設計是達成實驗目標的具體路徑及方法,實驗研究源自于對問題的解答,有效提出問題并設計實驗方案驗證猜想便顯得尤為重要。實驗實施是完成目標的行為體現,實驗實施包括結合實驗設計的實驗準備、實驗操作、實驗結果記錄、展示討論,以及為優化實驗方案和提升實驗效率而進行的實驗調控。實驗效果是實驗目標完成度的有效檢驗,檢驗維度與實驗目標相呼應,同樣圍繞認知領域、動作技能領域和情感領域開展。實驗反思是提升知識自我意識性教育價值實現的重要方式,是深度學習的重要品質,在實驗反思進程中,增強對知識的理解,促進學生認知的發展,實現自我的超越提升[30~33]。
基于以上思考,將中學生化學實驗學習能力評價體系的一級指標界定為實驗目標(objective)、實驗設計(design)、實驗實施(implementation)、實驗效果(effect)、實驗反思(reflection),即ODIER評價模型。
4 專家論證
多次與化學教材編寫人員、化學學科教學論教授或省級教研員舉行專家指標論證,進一步完善二、三級評價指標及具體描述。初步構建的中學生化學實驗學習能力評價模型由5個一級指標、15個二級指標、33個三級指標和具體描述組成。為進一步檢視所構建ODIER評價模型的內容效度,采用內容效度指標檢驗法,并使用量化和質性2種分析方法。在量化方面,使用專家打分,結合相關公式計算調整出的Kappa值;在質性方面,整理分析專家提出的建議文本[34,35]。
CVI檢驗步驟為: 第一,選定專家。選擇10位專家打分,所有專家一直從事化學教學工作、教齡均超過20年、均在核心期刊發表多篇化學實驗研究論文、專業能力均得到業內認可,每位專家形成一份樣本;第二,設置4點量表供專家勾選“4=高度相關、3=強相關、2=有點相關、1=不相關”,對每個條目和所屬維度間的相關性進行打分,計算打分4或3的專家人數所占比例,即為CVI檢驗的數值。為避免專家對選項的隨機選擇導致影響CVI檢驗的判斷,通過Kappa值的計算對隨機一致性進行校正,調整后的Kappa用K*表示,當K*>0.74時為優秀,0.60≤K*≤0.74時為良好,0.40≤K*≤0.59時為一般。專家間的一致性越高,則CVI值越大,Kappa也會越大[36,37]。限于篇幅,本文只呈現ODIER評價模型一級指標的CVI檢驗專家打分表,見表3。
從表3可以看出,10位專家對ODIER評價模型一級指標內容效度的各項評價指標及評價結果。從結果可知,大部分評價結果為優秀,“實驗效果”指標為“良好”等級。針對專家提出的建議進行修訂,剔除或修訂低分值指標,完善指標的具體描述方式。將修訂后的問卷重新發給專家,專家一致認為,問卷所涉及的指標及具體描述清晰完整、邏輯嚴密。
經過3輪專家咨詢后,專家對中學生化學實驗學習能力評價的指標及描述的認同程度大致相同,內容效度評價符合要求,各項指標體系基本確定。中學生化學實驗學習能力評價指標體系包含5項一級指標、15項二級指標和33項三級指標及具體描述(見表4)。
5 評價指標的權重
針對中學生化學實驗學習能力評價指標,構建指標權重問卷量表,基于問卷的分析整理,形成《中學生化學實驗學習能力評價指標權重》。具體過程如下。
使用層次分析軟件,根據其實施步驟,首先構建出中學生化學實驗學習能力評價指標結構模型,見圖1。
根據專家問卷的調查數據,構造出各層指標的判斷矩陣,使用公式計算出最大特征值λmax、一致性CR值、CI值。如表5為1號專家填寫的一級指標重要程度的判斷矩陣。
此矩陣維度n=5,對表5進行列歸一化處理,得到表6。
進而計算出實驗目標、實驗設計、實驗實施、實驗效果、實驗反思的權重分別為: 0.0317、 0.2071、 0.5719、 0.1248、 0.0645;過程行列式Aw為0.1713、 1.1112、 3.0972、 0.6602、 0.3338。
一致性CR求解: λmax=∑(Aw/w)/n=5.33; RI=1.12; n=5; CI=(λmax-n)/(n-1)=(5.33-5)/(5-1)=0.0825; CR=CI/RI=0.0825/1.12=0.0737。
從表5中分析數據可得最大特征值λmax=5.33,CI=0.0825,一致性CR=0.0737,CR<0.1,一致性檢驗通過;最終可得到1號專家一級指標的初始權重值。
通過這種方式計算出1號專家二級指標和三級指標的權重,其他專家亦用此方式計算。經計算,所有專家的CR值均小于0.1,一致性檢驗通過,采用算術平均值的方法計算出群決策權重,最終得到中學生化學實驗學習能力評價指標權重,見表7。
化學實驗是對化學理論知識學習的印證過程,對學生創新意識和實踐能力培養具有不可替代的作用。從表7中可以看出,實驗目標為0.1805、實驗設計為0.139、實驗實施為0.3879、實驗效果為0.1857、實驗反思為0.1069,這其中實驗實施權重最大;在二級指標中,實驗操作占比最大(0.1211),這與初、高中化學實
驗中注重實驗操作考核是相匹配的,但實驗操作僅是15項二級指標中的一項,由此呈現出當下中學化學實驗考核的缺陷,這種缺陷在紙筆考試中有所彌補,但因紙筆考核與實驗操作考核的內容錯位導致實驗考核的全面性、科學性、公平性受到了挑戰,該學生化學實驗評價體系的構建為解決此問題提供了有利的理論支撐[38~40]。
6 結論與啟示
中學生化學實驗學習能力評價體系與新時代人才培養目標息息相關,關乎能否培養學生綜合能力、落實學科核心素養、建設人力資源強國等諸多功能。從質和量維度規劃中學生化學實驗學習能力評價指標體系,在評價指標設定、評價常模研制、實驗質量監測報告等核心環節的學生化學實驗質量監測上形成突破[41~43]。目前各地中學化學實驗教學開展現狀不盡如人意,根源是對化學實驗學習質量評價特征及機制研究不足,導致評價標準不同、缺失規范、監測缺位,嚴重地影響人才的培養。扭轉這種局面的重要條件之一,就是切實加強中學生化學實驗學習質量監測體系研究,促進實驗教學培養主動適應社會對多樣化高素質人才的需求[44~47]。
該評價指標體系提醒化學教師對實驗教學的關注,不應只集中在實驗操作層面,而應關注實驗探究的全過程。對問題的解答是一切教學實踐的起源,教師是問題情境的創設者,是學生問題意識的發展者和指導者,教師在教學中應創設情境引導學生更好地找出問題、分解問題,并構思如何設計實驗方案解答相關問題。現行的中學化學教材實驗多數已設計好實驗步驟,只需教師講解原理、學生按要求操作完成即可,這一情況在初中化學實驗教學中尤為明顯,這種重實驗講授、重驗證實驗現象、重實驗技能培養,而輕實驗設計、輕實驗討論、輕實驗反思的現象,嚴重忽視了學生思維特點的傾向,不利于學生綜合素養的提升[48~50]。中學生化學實驗學習能力評價體系的構建,為中學化學教師實驗教學中應關注的諸環節提供科學依據和循證基礎。
參考文獻:
[1]周國平. 尼采: 在世紀的轉折點上[M]. 北京: 東方出版社, 2017: 89.
[2]黃恭福, 鄒海龍. 學科核心素養視域下的中學化學實驗教學研究綜述[J]. 化學教學, 2020, (2): 24~28+50.
[3]魏燕. 推進實驗教學改革, 構建實驗探究能力評價體系[J]. 高等工程教育研究, 2019, (S1): 206~208.
[4]
[5]
[11]
[17]
[34]
[36]LEcuyer, Kristine M, Subramaniam, Divya S, Reangsing, Chuntana. Development of the Preceptor SelfAssessment Tool and Use of the Content Validity Index [J]. JOURNAL OF CONTINUING EDUCATION IN NURSING, 2020, (51): 469~476.
[6]
[12]
[18]
[35]
[37]
史靜琤, 莫顯昆, 孫振球. 量表編制中內容效度指數的應用[J]. 中南大學學報(醫學版), 2012, 37(02): 49~52.
[7]
[13]
[19]
張萬朋, 柯樂樂. 基于德爾菲法和層次分析法的研究生學習成果評價研究——以教育經濟與管理專業為例[J]. 現代大學教育, 2018, (1): 93~99.
[8]
[14]
[20]
Yin, Q.. An AHP model for the evaluation of college experimental teaching quality [J]. Journal of Technology and Science Education, 2013. 3(2): 59~65.
[9]
[15]
[21]
田夏. 基于層次分析法——熵權法的教學實驗室評價體系構建[J]. 實驗室研究與探索, 2020, 39(7): 264~269.
[10]
[16]
[22]劉大偉, 周洪宇, 陳俊. 中國教育智庫評價指標體系構建——一項基于德爾菲法與層次分析法的研究[J]. 教育學術月刊, 2019, (2): 29~35.
[23]
[28]
[49]鄭長龍等. 化學實驗教學論[M]. 北京: 高等教育出版社, 2003: 74.
[24]
[29]
[50]Mastery Transcript Consortium [EB/OL]. [20211110]. https://mastery.org/.
[25]王磊. 學科能力構成及其表現研究——基于學習理解、應用實踐與遷移創新導向的多維整合模型[J]. 教育研究, 2016, 37(9): 83~92+125.
[26]王祖浩, 楊玉琴. 基于Rasch模型的“化學實驗認知能力”測驗工具編制及測評研究[J]. 化學教育, 2012, 33(9): 95~102+108.
[27]
[48]中華人民共和國教育部制定. 全日制義務教育化學課程標準(實驗版)[S]. 北京: 北京師范大學出版社, 2002: 13.
[30]
[38]
余澄, 王后雄. 我國高考科目設置的發展歷程及其改革價值取向[J]. 教育理論與實踐, 2015, 35(35): 22~25.
[31]
[39]余澄, 王后雄. 高考改革試點方案的定位、分類及結構分析[J]. 高等教育研究, 2015, 36(10): 49~55.
[32]
[40]馬善恒, 王后雄. 國內數字化實驗的研究現狀及發展趨勢——基于CiteSpace的可視化分析[J]. 化學教學, 2021, (3): 19~23.
[33]
[41]李勉. 基礎教育評估監測: 教育督導體系建設的新領域和新挑戰[J]. 中國考試, 2021, (5): 48~55.
[42]崔允漷, 王少非. 學校課程實施過程中的評價監測初探[J]. 教育研究, 2020, 41(1): 43~49.
[43]席小明. 中國教育考試的前景與發展途徑[J]. 中國考試, 2021, (1): 23~28.
[44]裴傳友, 馬善恒, 楊芹. 中學化學數字化實驗的發展與應用[J]. 化學教學, 2020, (2): 56~60.
[45]馬善恒, 夏建華, 盛恩宏. 利用數學建模促進對化學知識的深度學習——以水溶液中離子濃度關系考查為例[J]. 化學教學, 2019, (3): 79~81+85.
[46]馬善恒, 夏建華, 姚如富. 運用數字實驗探究氯水中化學平衡的存在[J]. 化學教學, 2017, (7): 71~73.
[47]孫妍, 王后雄. 高中化學“證據推理”素養水平測評研究——以“常見的無機物及其應用”內容主題為例[J]. 化學教學, 2021, (6): 83~88+97.