林澤榕, 張子明, 徐常青
(蘇州科技大學 數理學院,江蘇 蘇州215009)
18 世紀初,de Moivre 首次提出正態分布,隨后Laplace 和Gauss 對正態分布的性質進行了研究,并將其應用于天文學。 19 世紀初,Robert Adrian 定義了二元正態分布,隨后Laplace 和Gauss 分別給出了二元正態分布的密度函數。19 世紀末,Francis Galton 提出并研究了二元正態隨機變量相關性;Karl Pearson 在20 世紀初進一步研究了二元正態隨機變量的相關性(包括多元相關性)和回歸分析。 之后,Yule 等人將二元正態隨機變量的相關性推廣至列聯表中,從而開始了統計數據的多元發展。
多元隨機分析研究多個隨機變量的總體分布屬性,而隨機向量是指元素為隨機變量的一類向量,它廣泛應用于投資組合理論[1]、回歸模型[2]、時間序列[3]等。 正態隨機向量是其中應用最為廣泛的一類隨機向量,它是研究隨機矩陣、隨機過程等的基礎。 關于正態隨機向量的研究已有很長的歷史,20 世紀初,Cosset 為小樣本分布做出了開創性的工作,這也為Fisher 提出多重相關系數的分布提供了理論條件。 1928 年,Wishart[4]推導出了小樣本情況下多元正態分布的樣本方差和協方差的聯合分布。 1958 年,Roy[5]等人的研究涉及多元問題中某些特征根和向量的分布,尤其是典型相關和多元方差分析。 而隨機矩陣是指元素為隨機變量的一類矩陣,它在物理學、數理統計、數值分析、數論等中都有廣泛應用[6-8],1928 年,Wishart[4]首次運用隨機矩陣對樣本協方差進行了估計。 1947 年,John von Neumann 和Herman Goldstine[9]將隨機矩陣運用到數值分析中。 目前,關于隨機矩陣研究最多的是高斯隨機矩陣[10-11],而 Wishart 矩陣[4]和半圓定律[12]等均為高斯隨機矩陣分布的推廣形式。
二次型的研究始于18 世紀,它起源于對二次曲線和二次曲面分類問題的討論。18 世紀初,Gauss 首次引入了二次型正定、負定、半正定、半負定等術語。 18 世紀中葉,為了解決同時將兩個二次型化成平方和的問題,Weierstras 給出了一個一般的方法,比較系統地完善了二次型理論。
為了引入隨機張量的概念,先來介紹張量理論的發展。19 世紀,Gaussi、Riemann、Christoffel[13]等人在發展微分幾何過程中引入張量。 1887—1901 年,Ricci 和Levi Givita[14]創立了張量分析的基本框架。 1916 年,愛因斯坦用張量分析作為工具引入廣義相對論,極大地推動了張量分析的發展。 張量分析也開始被重視起來,成為強有力的數學工具,在分析力學、彈性力學、幾何學等方面發揮了重要作用。
1927 年,Hitchcock[15]首次提出了張量分解,后來由 Cattelin[16]于 1944 年和 Tucker[17]于 1966 年進行拓展,而這些概念和方法得到廣泛關注是在Carroll 和Chang[18]提出典型分解(CANDECOMP),以及1970 年Harsh-man[19-21]提出了一個稱為PARAFAC 的等價模型之后。 現在,高階張量分解已被應用于心理測量學、化學計量學、圖像分析、圖形分析、信號處理、大數據(統計)分析[22]等領域。
筆者將二次型變量的部分結論推廣到三階齊次多項式變量中,運用對稱張量的對稱分解,得出三階齊次多項式變量的數學期望。 在此基礎上,得到該多項式變量與隨機變量的協方差,并給出了三階齊次多項式變量與隨機變量相互獨立的充要條件。
在這一部分,將給出二次型變量的定義及基本性質。
定義 1[23]給定隨機向量 y~(S)Nn(μ,∑)和對稱常數矩陣 A∈Rn×n,稱變量 q=y′Ay 為高斯二次型變量。
注意到,若隨機向量y 的分量為iid(獨立同分布)且服從標準正態分布,即yi~N(0,1),那么當矩陣A 為單位矩陣時,q 服從卡方分布。 因此,二次型變量為卡方變量的推廣。
性質 1[23]若隨機向量 y~(S)Nn(μy,∑),rank(∑)=n1≤n,給定常數矩陣 A=A′∈Rn×n,滿足 0<rank(A)=n1≤n,則存在相互獨立的隨機變量 x1,x2,…,xn2,滿足

證明對∑進行分解,有∑=ΦΦ′,其中 Φ∈Rn×n1列向量為正交向量組,rank(Φ)=n1,令μy=Φμz,則 y=Φ(z+μz),μz=Φ+μy,故

令 B=Φ′AΦ∈Rn1×n1,設 rank(B)=n2≤n1,對 B 進行譜分解,有

式中 V=[v1,v2,…,vn2]∈Rn1×n2為正交矩陣,Dg(λ)=diag(λ1,λ2,…,λn2)是由 B 的 n2個非零特征值構成的對角矩陣,則

令向量 u=V′(z+μz)∈Rn2,則故元素 uk,k=1,2,…,n2相互獨立,且 uk~那么

性質1 將二次型與卡方分布結合,由此可借助卡方分布得出二次型隨機變量的有關性質。 下面給出卡方分布的數學期望和方差。
性質 2[24]若 Z~χ2(v,ω),其中 v 為自由度,ω 為非中心參數,則 Z 的數學期望和方差為

特別,若 ω=0,則 Z 服從中心卡方分布,自由度為 v,記作 Z~χ2(v),此時,Z 的數學期望和方差分別為 E(Z)=v,Var(Z)=2v。
推論1[23]給定性質1 中的條件,二次型變量q=y′Ay 的數學期望和方差為


性質 3[23]若隨機向量 y~Nn(μy,∑),rank(∑)=n,給定常數矩陣 A=A′∈Rn×n,B∈Rm×n,則

特別,若 y 服從標準正態分布,即 y~Nn(0,In),則 Cov(By,y′Ay)=0。
性質 4[24]若隨機向量 y~Nn(0,∑),rank(∑)=n1≤n,給定常數矩陣 A=A′∈Rn×n,常數向量 a,b∈Rn,則:
(1)y′Ay 與 b′y 獨立?∑A∑b=0;
(2)a′y 與 b′y 獨立?a′∑b=0。
性質 5[23]若隨機向量 y~Nn(μ,∑),rank(∑)=n1≤n,給定常數矩陣 A=A′∈Rn×n,B∈Rm×n,則 y′Ay 與 By獨立?B∑A∑=0,B∑Aμ=0。
下面將二次型變量中的部分結果推廣至一般高次(包括二次)齊次多項式變量的情形。
定義 2[26]設 A=(ai1i2…im)為 m 階 n 維實張量,若將元素 ai1i2…im,ij=1,2,…,n,j=1,2,…,m 的下標進行任意置換后,仍與原來的元素相等,則稱A 為對稱張量。
定義 3[27]張量與向量a∈RIn沿模-n 方向上的乘積記為

式中, y 的元素為

故張量 g∈RI1×I2×…×IN在其每個方向上與向量 an∈RIn,n=1,2,…,N 相乘的乘積為

若給定張量 g∈Rm,n和向量 a,b∈Rn,j,k 表示兩個不同的方向,則

式(10)說明張量在不同方向上與向量相乘,相乘的順序是可以交換的。
下面給出m 階齊次多項式變量的定義。
定義4給定張量A∈Sm,n和向量x∈Rn,定義m 階齊次多項式變量為

引理1[28]若張量X∈Sm,n,則X 的對稱分解為

稱最小的 R 為 X 的對稱秩,記作 ranks(X)=R。
定理 1若張量 X∈Sm,n,則 X 可以分解為 X=I ×1A×2A×…×mA,其中 I =(Ii1i2…im)∈Sm,R,且

證明由引理1 知令 y=I ×A×A×…×A,則
下面運用對稱張量分解得出多項式變量的部分性質,以三階齊次多項式變量fA(x)=Ax3來展開討論。
定理 2若張量 A∈S3,n,隨機向量 x~Nn(μ,∑),其中 rank(∑)=n,則三階齊次多項式變量 fA(x)=Ax3的數學期望為

證明對∑進行分解,有∑=ΦΦ′,rank(Φ)=n,令 z~Nn(0,In),μz=Φ-1μ,則 x=(μz+z),故

令 A×1Φ′×2Φ′×3Φ′=B,而 B 可以分解為 B=I ×B×B×B,則

令 y=B′(μz+z)~NR(B′μz,B′B),則其中故因此

式中

所以,E[fA(x)]=Aμ3+3tr(Aμ∑)。
定理 3若隨機向量 x~Nn(μ,In),給定常數矩陣 B∈Rm×n,設 fA(x)=Ax3,則

證明

令 y=x-μ,則 y~Nn(0,In),元素 yl~N(0,1),l=1,2,…,n

下面分情況進行討論:



定理 4若隨機向量 x~Nn(μ,∑),其中 rank(∑)=n,給定常數矩陣 B∈Rm×n,設 fA(x)=Ax3,則

證明

式中 E[(x-μ)·A(x-μ)3]=Cov[(x-μ),A(x-μ)3],對∑進行分解,有∑=ΦΦ′,其中 rank(Φ)=n,令 z~Nn(0,In),則 x-μ=Φz,故

定理 5若隨機向量 x~Nn(μ,In),給定常數向量 b∈Rn,則對?μ,b′x 與 fA(x)=Ax3獨立?A×b=0,m′b=0,其中 m=[tr(Ae(1)) tr(Ae(2)) …tr(Ae(n))]′。
證明(?)由定理 4 可知
下面分情況進行討論:

所以

故,若 A×b=0,m′b=0,則 Cov[b′x,Ax3]=0,b′x 與 Ax3獨立。
定理 6若隨機向量 x~Nn(0,∑),其中 rank(∑)=n1≤n,給定常數向量 b∈Rn,則 b′x 與 fA(x)=Ax3獨立?∑(A∑b)∑=0,tr(∑?Ab∑)=0。
證明對∑進行分解,有∑=ΦΦ′,其中Φ∈Rn×n1,rank(Φ)=n1,令 z~Nn1(0,I),則 x=Φz,由定理 5 知,

定理 7若隨機向量 x~Nn(μ,∑),其中 rank(∑)=n1≤n,給定常數向量 B∈Rn,則 b′x 與 fA(x)=Ax3獨立?(Aμ2)′∑b=0, ∑(Aμ)∑b=0, ∑(A∑b)∑=0, tr(A∑b∑)=0。
證明對∑進行分解,有∑=ΦΦ′,其中Φ∈Rn×n1,rank(Φ)=n1,令 z~Nn1(0,I),則

由性質4 知

由定理6 知

且

即∑A∑b∑=0。
將二次型變量的部分結果推廣到一般高次齊次多項式變量的情形,主要對三階齊次多項式變量fA(x)=Ax3進行了研究。 首先,給出一般齊次多項式變量的定義;接著,以三階齊次多項式變量展開討論,利用對稱張量的對稱分解得出fA(x)的數學期望,進而得出fA(x)與隨機向量的協方差;最后,給出fA(x)與隨機變量相互獨立的充要條件。