不同實驗方法對測定葉綠素a的結果分析對比相關關系探討

殷麗萍，孫 洋

（1.云南省環境監測中心站，云南昆明650034；2.云南方源環保科技有限公司，云南昆明650000）

不同實驗方法對測定葉綠素a的結果分析對比相關關系探討

殷麗萍1，孫 洋2

（1.云南省環境監測中心站，云南昆明650034；2.云南方源環保科技有限公司，云南昆明650000）

2009年1～8月于滇池外海水體隨機取樣20組，監測葉綠素a項目，采用兩種不同監測分析方法，對其監測結果，應用線性函數Y＝a＋b x的形式，進行了一元線性回歸相關關系 （r）值的顯著性檢驗，驗證了兩種監測方法之間的相關關系。

葉綠素a；監測數據；結果對比；相關關系

葉綠素是藻類重要的組成成分之一，也是評價富營養化水環境質量的重要指標。常規監測中，水和廢水監測分析方法第四版 （國標方法）和湖泊生態調查觀測與分析方法中 （湖泊生態調查方法），兩種監測方法在前處理、低溫干燥時間、比色等方面有所不同。國標方法采用低溫干燥時間6～8h，進行4個波長直接比色，比色過程簡單。而湖泊生態調查方法，采用低溫干燥時間為10～12h，雖然只有2個波長，但比色過程中要進行酸化前、酸化后處理，操作相對麻煩。為獲取富營養化水體中葉綠素a監測結果的準確性、可靠性，我們在時間上進行了長達8個月，上百組數據兩種方法的比較實驗。現隨機抽取20組數據進行相關關系的研究討論。

1 監測方法

（1）《水和廢水監測方法》第四版。簡稱：國標方法。

（2）湖泊生態調查觀測與分析方法。簡稱：湖泊生態調查方法。

2 數據來源

2009年1～8月滇外海水質隨機取樣20組，用國標方法和湖泊生態調查方法對比實驗監測結果。

3 兩者數據之間的檢驗方法

依據中國環境監測總站編寫組編寫的 《環境水質監測質量保證手冊》中數據處理和常用統計方法進行檢驗。

4 兩種方法監測數據的直觀對比

圖1和表1是20組兩種不同監測方法的結果，可直觀看出湖泊生態調查方法的監測結果除了編號10高出國標法0.017倍外，其他監測結果均低于國標方法，監測結果之間的差值最小的是編號8，絕對偏差為0.39 mg／m3、相對偏差為0.23%。差值最大的是編號19，絕對偏差為10.27mg／m3、相對偏差為3.67%。目前在生物監測質量控制手冊中，對葉綠素a的監測結果質控要求，沒有明確的評價標準。我們可以通過數理統計學手段，對兩種監測數據之間的關系，做進一步的對比驗證。

5 相關關系顯著性檢驗

主要采用2009年1～8月滇池外海葉綠素a項目，20組國標方法和湖泊生態調查方法的對比實驗監測數據，隨機抽樣，使n≥20，進行了相關關系檢驗。

（1）相關關系的確定方法：對樣本X－Y進行線性回歸，檢驗X－Y相關關系是否線性化，求得回歸方程。

回歸方程：Y＝a＋bx

式中：a＝y－bx，b＝Lxy／Lxx。

相關系數：

式中：

r值的大小通過與由樣本n所測量次數及確定顯著水平a查表所得值進行比較，當︱r︱≥ra時，檢驗回歸直線方程兩個變量間的關系才有意義。

回歸方程的顯著性檢驗：計算T值，

比較T值與t（a／2，n－2）的大小，當T＞t（a／2，n－2）時，認為回歸的效果是顯著的，回歸方程合理。否則認為回歸效果不顯著。

（2）回歸方程的確定：對20組國標方法和湖泊生態調查方法的監測數據進行一元線性回歸，建立回歸方程如下：

Y＝33.88＋0.9339x

式中：Y：湖泊生態調查方法，X：國標方法。

相關系數r為0.9736。自由度n－2＝18和a為0.01時查檢驗表得相關系數的取碼值r為0.5614。由此可見︱r︱＝0.9736，＞0.5614，認為葉綠素a監測數據在國標方法和湖泊生態調查方法之間線性關系是有意義的。

顯著性檢驗：T＝7.61

取顯著性水平a＝0.05，查t（0.05／2，18）結果為2.504，T為7.61＞2.504，因此國標方法和湖泊生態調查方法兩方法之間的回歸效果顯著。

6 回歸方程的精密度

已知自變量X，通過回歸方程可估計因變量的平均值，但不能準確地知道Y的值，測量值Y與估計值的差別反映了回歸直線的精密度。在一元線性回歸中，可以用剩余標準差S來描述回歸直線的精密度。

即：Y′＝bx＋a＋2s

Y″＝bx＋a－2s

國標方法和湖泊生態調查方法之間回歸方程的精密度：根據上述公式計算，剩余標準差S＝0.95，即回歸方程的精密度為Y＝33.88＋0.9339x ±2×0.95。

7 結論

（1）兩種不同的監測方法分析實驗結果，通過函數一元線性回歸、T檢驗、精密度分析后，國標方法和湖泊生態調查方法的監測數據之間線性關系顯著，其線性相關關系r為：0.9736，遠大于取碼值0.5614。顯著性T檢驗：T為7.61＞2.504，回歸方程的精密度Y值均落在95.4%以內。

（2）兩種監測方法均能測定出可靠的理想值，建議在富營養化水體監測中，應選擇操作簡便的國標方法進行測定，既節省了化學試劑又提高了工作效率，而且數據準確可靠。

［1］中國環境監測總站.環境水質監測質量保證手冊 ［M］.北京：化學工業出版社，1984.

［2］國家環境保護總局.水和廢水監測分析方法 （第四版）［M］.北京：中國環境科學出版社，2002.

［3］黃祥飛.湖泊生態調查觀測與分析 ［M］.北京：中國環境科學出版社，2005.

Analysis，Comparison and Correlation of Different Experimental Methods in Chlorophyll－a Test

YIN Li-ping1，SUN Yang2
（Yunnan Provincial Environmental Monitoring Center，Kunming Yunnan 650034 China）

From January to August of 2009，20 sets of samples were taken from the outer Dianchi Lake to monitor Chlorophyll a.Two different methods were applied for the monitoring and analysis.Based on their monitoring results，the correlation of the two methods are testified by the significance test of the correlation value（r）through simple linear regression with the function of Y＝a＋b x.

chlorophyll－a；monitoring data；result comparison；correlation

X83

：A

：1673－9655（2013）02－0129－02

?8月國標方法與湖泊生態調查方法監測結果 （mg／m3）

2012－11－09

編號1＃ 2＃ 3＃ 4＃ 5＃ 6＃ 7＃ 8＃ 9＃ 10＃國標 35.47 31.64 92.14 124.91 126.75 168.95 159.23169.25 199.0 196.55湖泊 28.47 25.28 90.32 115.36 119.65 149.98 155.96 170.03 195.62 200.03編號11＃ 12＃ 13＃ 14＃ 15＃ 16＃ 17＃ 18＃ 19＃ 20＃國標 199.06 200.45 212.50 196.53 230.23 239.42 253.88 272.33 290.31 295.96湖泊 180.13 190.37 198.62 188.69 215.73 229.92 236.59 270.09 269.78 288.89