環境監測數據的數值修約規則探討

羅 燁

遵義生態環境監測中心,貴州 遵義 563000

環境監測數據是客觀評價環境質量狀況、反映污染治理成效、實施環境管理與決策的基本依據。環境監測數據質量是環境監測工作的“生命線”。監測活動出具的每一個數據都會涉及數值修約問題,對數據進行科學合理的數值修約是保證監測數據質量的重要手段,因而對待數值修約應當科學嚴謹。雖然相關標準對某些監測數據的修約作了一些規定,大家也早已將“四舍六入五成雙”的舍入規則爛熟于心,但在現實的監測報告或者科研論文的數據記錄過程中,往往會出現各種各樣的修約問題。比如,某研究測定的大氣顆粒物PM2.5樣品中的12種全氟化合物的日均總濃度為131.63～578.53 pg/m3[1],某研究統計的某經濟技術開發區2021年2—4月的VOCs體積濃度為(146±40.1)×10-9[2],某方法在線監測環境空氣中的甲醛的檢出限為0.045 4×10-9[3],某方法測定水中雙酚A的檢出限為2.0 ng/L[4],某方法測定水中30種農藥的相對標準偏差為4.4%～21.2%[5],某檢測水中低濃度氨氮方法測定實際樣品的回收率為102.5%～115.0%[6],某監測報告記錄的分光光度法測總氮的校準曲線為y=0.001 1x+0.03(r=1.000 0)等。上述數據均存在不合理的數值修約問題。筆者認為,造成各種監測報告及科研論文中的數據記錄和填報不規范的原因主要有兩點：一是分析人員主觀上對數值修約不夠重視,很少花時間和精力學習及理解數值修約規則;二是現在并沒有專門、完整的標準規范對環境監測所涉及的各種數據的數值修約方式作統一指導。基于此,本文旨在探析數值修約的內涵和原則,并總結環境監測工作中常用數據的數值修約規則。

1 數值修約的內涵

數值修約是指通過省略原數值的最后若干位數字,調整所保留的末位數字,使最后得到的值最接近原數值的過程[7]。筆者認為,數值修約其實包含了兩方面的內容：一是修,是保留幾位的問題;二是約,是如何舍入的問題。

1.1 保留幾位

數據處理過程面臨的首要問題往往是數值到底應該保留幾位數字。如果一個數值只是參與中間計算過程而不需要記錄,那就不需要對其進行修約。一般的測定結果(尤其是儀器分析的測定數據)往往位數較多,如果需要對該數值進行記錄或者填報,那就必須要考慮如何確定數值有效位數的問題。

1.2 如何舍入

談到數值的舍入規則,一般大家都只知道“四舍六入五成雙”,但在實際的監測數據記錄、計算和填報工作中,并不是所有數值都是采取“四舍六入五成雙”的方式,比如校準曲線的相關系數采用的是“只舍不入”,而分析方法檢出限采用的是“只入不舍”。因而針對不同類型的數據,不可一概而論。

2 數值修約的原則

通常,對數值的修約要使得最后得到的值最接近原數值,也就是說要以準確性原則為準。但是在實際工作中,還會遇到大量的質控性數據,如相關系數、分析方法檢出限、相對偏差、相對標準偏差、相對誤差、不確定度等。一般對于這類數據,并不是一定要求其測得多么準確,而是要采取合適的修約方式,以不降低數據的置信度為準。從某種意義上來說,就是要保證數據在最不利情況下的可靠性。鑒于上述分析,筆者總結了數值修約的兩條基本原則：一是準確性原則,二是保守性原則。

2.1 準確性原則

準確性是監測數據的“五性”之一,也是數值修約的第一原則。監測數據的修約不能影響到最終測定結果的準確性。

數值的舍入規則對于保證數據的準確性非常重要?！八纳嵛迦搿笔俏覀冞^去熟知的舍入規則,而現在大家更加認可的是“四舍六入五成雙”[7],尤其是在需要對大量數據進行統計處理時,相比于“四舍五入”,“四舍六入五成雙”不會造成正誤差的累積,進而避免了系統誤差的產生[8]?！八纳崃胛宄呻p”的舍入規則目前已被包括環境監測行業在內的各行各業采用。因為該舍入規則已為大家所熟知和掌握,所以本文不再贅述。

一般來講,數值的有效位數越多,數值就越準確。但是從科學嚴謹的角度來看,也要考慮構成數值的每個數字是否真的有意義。在現實的樣品監測報告或者科研論文中,經常會發現很多指標的測定結果保留了4位以上的有效數字,但其實很多都是不嚴謹的。例如,在對水體或者土壤中的污染物含量進行分析時,即使一個分析方法的準確度很高,在采樣、運輸、保存或者分析過程中都會引入一定的誤差,造成測定結果的不確定性。如果一個樣品的測定結果的相對不確定度是1%,那么就可以認為這個分析結果是相對準確的。在測定結果的相對不確定度為1%的情況下,測定結果一般最多保留3位有效數字,這其實已經考慮到了第3位數字的可疑性。如果測定結果保留4位以上有效數字,那么就要保證分析結果的相對不確定度低于0.1%才有意義。另外,檢出限的修約也是一個容易被忽視的問題。很多科研論文甚至很多現行標準中的方法檢出限保留了2位以上的有效數字。我們都知道,一個在檢出限附近的值是測不準的,其實檢出限本身也是不準確的。檢出限保留太多位的有效數字不僅不能使監測結果更加準確,甚至還會給實際的分析工作帶來一些困擾。

一些特殊的中間計算參數,如校準曲線的斜率、平均相對響應因子等,其數值的有效位數會對最終測定結果的準確性產生影響,因為這類數值的有效位數可能會決定最終測定結果的有效位數。一般環境監測指標的測定結果要求最多保留3位有效數字,因此,這些中間計算參數的有效數字不能少于3位,多取1位有效數字(保留4位)較為合適。以斜率b為例,其對測定結果的影響很大。現有校準曲線y=0.010 43x+0.001,測得某樣品的吸光度值為0.401,則應算得樣品濃度x=38.4 mg/L。但如果取y=0.010x+0.001,則算得x=40 mg/L。過度修約導致最終的計算結果增加了4.2%的誤差,而這本來是完全可以避免的,卻因為不合理的修約導致最終結果出現偏離。

2.2 保守性原則

為了使監測獲得的數據具有更高的置信度,對于某些能體現分析方法穩定性或監測人員技術水平的質控性數據,如校準曲線相關系數、分析方法檢出限、相對偏差、相對標準偏差、相對誤差、不確定度等,應采取保守性原則進行修約。這種保守性是指站在監測人員的角度對數據進行審視時,應對測得的數據保持足夠的懷疑,從而在數值修約時通過合適的舍入方式使數據更加可信。

例如,參照《環境監測分析方法標準制訂技術導則》(HJ 168—2020)附錄A對某分析方法進行方法驗證,在測定方法檢出限時采用的公式為MDL=t(n-1,0.99)×S[9],則可以理解為計算出來的檢出限的置信度為99%。在對計算出來的檢出限進行修約時,并沒有采用“四舍六入五成雙”的舍入方式,而是采用“只入不舍”的修約方式[9]。這其實就是保守性原則的體現,通過這樣的舍入方式保證最后得到的檢出限的置信度不低于99%。又如,某個指標分析方法的檢出限計算結果為0.012 34 mg/L,按照“四舍六入五成雙”的修約方式修約得到方法檢出限為0.01 mg/L。如果樣品的測得結果剛好為0.01 mg/L,那么事實上其檢出限的置信度是小于99%的。如果按照“只入不舍”的修約方式修約得到的檢出限為0.02 mg/L,則當樣品測得結果為0.02 mg/L時,就可以保證其檢出限的置信度不低于99%。因此,檢出限修約采用“只入不舍”的方式其實就是保守性原則的體現,這種方式相比于“四舍六入五成雙”更加科學合理。

同理,相對偏差、相對標準偏差、相對誤差和不確定度等數據也應該采取“只入不舍”的修約方式,而校準曲線的相關系數則應采用“只舍不入”的修約方式。

3 常用數據的數值修約規則

環境監測及科研工作涉及多種數據的數值修約,目前使用的數值修約標準主要是《數值修約規則與極限數值的表示和判定》(GB/T 8170—2008)。該標準規定了各種測定結果的修約規則,但并不適用于所有類型數據。在實際工作中還會遇到各種質控性數據,這類數據的修約規定只是零散地分布在一些環境監測標準中,如HJ 168—2020、《生活飲用水標準檢驗方法 水質分析質量控制》(GB/T 5750.3—2006,第二次修訂版已于2023年3月17日發布)等。截至目前,并沒有專門、完整的標準規范對環境監測涉及的各種數據的數值修約方式作統一規定。

筆者秉持準確性原則和保守性原則,分別從數值修約的兩個方面,即保留幾位和如何舍入,來探討各種數據的數值修約規則,并總結了環境監測常用數據的數值修約規則(見表1)。

表1 環境監測常用數據的數值修約規則

3.1 校準曲線相關數據

對于校準曲線的相關系數r、截距a和斜率b的數值保留位數問題,GB/T 5750.3—2006[10]中已有相應的規定。另外,有很多環境監測標準方法利用的是平均相對響應因子來計算測定結果。與斜率b一樣,平均相對響應因子的有效位數會直接影響測定結果的有效位數,因此,平均相對響應因子的有效數字也不能少于3位,多取1位有效數字(保留4位)較為合適。

截距a和斜率b對于最終測定結果的準確性有直接影響,因而其末位數字的修約均應采用“四舍六入五成雙”的舍入方式。相關系數r則應采用“只舍不入”的修約方式。

3.2 檢出限

HJ 168—2020附錄A規定,檢出限一般保留1位有效數字,且只入不舍,必要時采用科學記數法進行表達。前文已經分析了檢出限修約規則的確定原理,因而此處不再贅述。

3.3 重復性限和再現性限

HJ 168—2020附錄A規定：“重復性限r和再現性限R小數位數應與檢出限保持一致,但一般不超過2位有效數字?！绷硗?對于重復性限和再現性限末位數字的修約,也應參照檢出限以“只入不舍”的方式來處理。

3.4 測定結果和平均值

一般環境監測指標的測定結果要求數值最后一位和檢出限取齊,且最多保留3位有效數字。特殊指標如pH、質量等與儀器精度有關。另外,物理性指標及生物性指標等有特殊規定的除外。為了保證測定結果的準確性,應采用“四舍六入五成雙”的舍入方式對測定結果的末位數字進行修約處理。

平均值用于預測測定結果的期望值,其末位數字應與測定結果取齊。另外,應以準確性原則對平均值進行修約,即對平均值末位數字的修約應采用“四舍六入五成雙”的舍入方式。

3.5 標準偏差

HJ 168—2020附錄A規定,標準偏差一般保留2位有效數字。但筆者認為,更為嚴謹的表述應該是：標準偏差的末位數字與測定結果取齊,且最多保留2位有效數字。

標準偏差是表征測定結果分散程度的一種度量,可以認為是在一定置信水平下的置信區間的半寬度。筆者認為,應以保守性原則對標準偏差數值進行“只入不舍”的修約處理,因為適當擴大置信區間可以提高測定結果的置信水平。如果采用“四舍六入五成雙”的修約方式,在某些情況下會造成測定結果的置信度降低。例如,某樣品測定結果平均值為1.25 mg/L,計算出的標準偏差為0.012 3 mg/L,那么測定結果區間1.25 mg/L±0.012 3 mg/L有一定概率(68.25%)覆蓋了結果真值。由于標準偏差需要修約至末位與平均值取齊,如果按照“四舍六入五成雙”的修約方式將結果修約為1.25 mg/L±0.01 mg/L,那么其覆蓋真值的概率肯定低于68.25%。因而只能采用“只入不舍”修約方式將標準偏差修約為0.02 mg/L,這樣就可使得測定結果(1.25 mg/L±0.02 mg/L)覆蓋真值的概率不低于68.25%。

3.6 相對標準偏差

HJ 168—2020附錄A規定,相對標準偏差一般保留2位有效數字。相對標準偏差用于表征測定結果的精密度,保留2位有效數字已足夠用于判斷測定結果的精密性。類似于標準偏差,相對標準偏差修約也應該采取“只入不舍”的方式。

3.7 相對誤差和加標回收率

HJ 168—2020附錄A規定：“相對誤差一般保留2位有效數字,加標回收率保留3位有效數字。”

相對誤差和加標回收率都是表征測定結果正確度的參數,同時也是體現分析方法穩定性或監測人員技術水平的質控性數據。筆者認為,應該采取保守性的原則來對這兩種數據進行修約處理。相對誤差參照相對標準偏差采用“只入不舍”的方式修約。對于加標回收率,為了保證數據的可靠性,從保守性角度分析：如果加標回收率超過100%,應采用“只入不舍”的修約方式;如果低于100%,則應采用“只舍不入”的修約方式。

3.8 標準不確定度和擴展不確定度

標準不確定度u即標準偏差,其修約方式同標準偏差。

擴展不確定度U=ku,一般k取2或3(置信水平分別為95%和99%)。《測量不確定度的要求》(CNAS-CL01-G003—2021)規定,擴展不確定度的數值不應該超過2位有效數字,且最終測定結果的末位數字應與擴展不確定度的末位數字對齊[11]。與標準偏差一樣,擴展不確定度末位數字修約也應該采取“只入不舍”的方式。

3.9 相對不確定度與合成相對不確定度

相對不確定度與合成相對不確定度參考相對標準偏差的修約方式,一般保留2位有效數字,且末位數字采取“只入不舍”的方式修約。

4 結語

一份科學嚴謹的監測報告或者科研論文不僅要保證每個數據經得起推敲,而且要保證構成數據的每個數字都有意義。在監測數據的記錄、計算和填報過程中,會遇到不同類型的數據,需要采取不同的數值修約方式來處理數據。把握好準確性和保守性兩條原則,才能對數據做出科學合理的修約處理。