2.4 内积空间中的正交性
Inner Product Spaces and Orthogonality
在三维空间中,如右图1所示任取一平面M ,空间中的每一个矢量x 必能分解成两个直交的向量和,其中一个向量x 0在平面M 上,另一个向量z 与平面M 垂直,即x =x 0+z ,
x 0⊥z .这种向量的分解形式,在一般的内积空间是否成立?
图2.4.1 三维空间向量的分解,向量x =x 0+z ,其中x 0⊥z
2.4.1 正交分解
定义2.4.1 正交
设X 是内积空间,x , y ∈X ,如果(x , y ) =0,则称x 与y 正交或垂直,记为x ⊥y .如果X 的子集A 中的每一个向量都与子集B 中的每一个向量正交,则称A 与B 正交,记为A ⊥B .特别记x ⊥A ,即向量x 与A 中的每一个向量垂直.
定理2.4.1 勾股定理
设X 是内积空间,x , y ∈X ,若x ⊥y ,则x +y =x +y . 证明 x +y =(x +y , x +y )
=(x , x ) +(x , y ) +(y , x ) +(y , y )
2
2
2
2
=(x , x ) +(y , y )
=x +y .□
22
注1: 在内积空间中,是否存在x +y =x +y ⇒x ⊥y ?显然由
x +y
2
222
=(x , x ) +(x , y ) +(x , y ) +(y , y ) =x +y +2Re(x , y ) ,
2
2
2
22
可知在实内积空间中x +y =x +y ⇒x ⊥y 成立.
定义2.4.2 正交补Orthogonal complement
设X 是内积空间,M ⊂X ,记M ⊥={x |x ⊥M , x ∈X },则称M ⊥为子集M 的正交补.显然有X ⊥={0},{0}⊥=X 以及M ⊥ M ={0}.
性质2.4.1 设X 是内积空间,M ⊂X ,则M ⊥是X 的闭线性子空间. 证明 (1) M ⊥是X 的线性子空间
∀x , y ∈M ⊥,α, β∈K ,∀z ∈M ,有
(αx +βy , z ) =(αx , z ) +(βy , z ) =α(x , z ) +β(y , z ) =0,
于是αx +βy ∈M ⊥,因此M ⊥是X 的线性子空间.
(2) M ⊥是X 的闭子空间
设{x n }⊂M ⊥,且依范数x n →x 0(n →∞) ,于是∀z ∈M ,有
(x 0, z ) =(limx n , z ) =lim(x n , z ) =0.
n →∞
n →∞
因此x 0∈M ⊥,即M ⊥是X 的闭子空间.□
注2: 由于完备度量空间中的子空间完备的充要条件是子空间闭,因此在Hilbert 空间中(完备的内积空间) ,任意子集M 的正交补M ⊥是完备的子空间,即Hilbert 空间的正交补M ⊥也是Hilbert 空间.
定义2.4.3 正交分解
设M 是内积空间X 的子空间,x ∈X ,如果存在x 0∈M , z ∈M ⊥,使得x =x 0+z ,则称x 0
为x 在M 上的正交投影或正交分解.
引理2.4.1 设X 是内积空间,M 是X 的线性子空间,x ∈X ,若存在y ∈M ,使得x -y =d (x , M ) ,那么x -y ⊥M .
证明 令z =x -y ,若z 不垂直于M ,则存在y 1∈M ,使得(z , y 1) ≠0,显然y 1≠0. 因为∀α∈K ,有
z -αy 1
2
=(z -αy 1, z -αy 1)
=z -α(y 1, z ) -(z , y 1) +(y 1, y 1) =z -(z , y 1) -α[(y 1, z ) -(y 1, y 1)]
22
特别取=
(y 1, z )
,则可得 (y 1, y 1)
2
z -αy 1
2
=z -(z , y 1) =z -
22
(y 1, z )
(y 1, y 1)
≤z
2
=x -y
2
=d 2(x , M ) ,
即知z -αy 1
z -αy 1=x -y -αy 1=x -(y +αy 1) ≥d (x , M ) .
产生矛盾,故x -y ⊥M .□
定理2.4.1 投影定理
设M 是Hilbert 空间H 的闭线性子空间,则H 中的元素x 在M 中存在唯一的正交投影,即∀x ∈H ,x =x 0+z ,其中x 0∈M , z ∈M ⊥.(或表示为H =M ⊕M ⊥)
证明 (1) 寻找x 0进行分解.
∀x ∈H ,设d (x , M ) =inf{x -y =a >0,则存在{y n }⊂M ,使得
y ∈M
y n -x →a (n →∞) ,
首先证{y n }是M 中的基本列,因为∀m , n ∈N 有
y m -y n
2
=(y m -x ) +(x -y n ) =2y m -x +2x -y n
=2y m -x +2x -y n
2
2
22
-(y m -x ) -(x -y n )
1
-4(y m +y n ) -x
2
2
2
2
11
因为y m , y n ∈M 及M 是子空间,知(y m +y n ) ∈M ,所以(y m +y n ) -x ≥a ,于是
22
y m -y n
2
≤2y m -x +2x -y n
22
-4a 2→0(m , n →∞)
故{y n }是M 中的基本列,又因M 是闭子空间,即为完备空间,所以{y n }是M 中的收敛列.不妨设y n →x 0(n →∞) ,则有
a =x -x 0=d (x , M ) .
令z =x -x 0,因此有x =x 0+z ,其中x 0∈M ,且根据前面引理知z ∈M ⊥.
(2) 分解的唯一性.假设还存在x 1∈M ,z 1∈M ⊥使得x =x 1+z 1,那么有
0=(x 0-x 1) +(z -z 1) ,z -z 1∈M ⊥,
于是只需0的分解具有唯一性.若0=y' +z' ,y' ∈M ,z' ∈M ⊥,则
2
0=(0,y' ) =(y' +z' , y' ) =(y' , y' ) +(z' , y' ) =y'
可见y' =0及z' =0,即0的分解具有唯一性.□
例2.4.1 证明在内积空间上,x ⊥y 的充要条件是∀α∈K 有x +αy ≥x .
证明 必要性⇒ 若x ⊥y ,则有(x , y ) =0,∀α∈K 有(x , αy ) =(x , y ) =0,于是由勾股定理得:x +αy =x +y ≥x .
充分性⇐若∀α∈K 有x +αy ≥x ,且y ≠0时,
0≤x +αy -x
=(x +αy , x +αy ) -(x , x )
=(x , x ) +α(y , x ) +(x , y ) +(y , y ) -(x , x ) =α(y , x ) +x , y ) +α(y , y )]
2
2
2
2
2
2
特别取α=-
(x , y )
,于是, (y , y )
(x , y ) (x , y )
(y , x ) =-≤0 0≤x +αy -x =-2
(y , y ) y
2
2
2
故(x , y ) =0,即x ⊥y .□
2.4.2 标准正交系
在三维空间中,任何一向量α可写成α=a 1e 1+a 2e 2+a 3e 3,其中
e 1=(1,0,0),e 2=(0,1,0),e 3=(0,0,1),a 1=(α, e 1) ,a 2=(α, e 2) ,a 3=(α, e 3) ,
1.可见α=(α, e 1) e 1+(α, e 2) e 2+(α, e 3) e 3,那么在有限维内积显然当i ≠j 时,e i ⊥e j ,而(e i , e i ) =
空间中是否具有同样的结论呢?
定义2.4.4 标准正交系
设X 是内积空间,{e n }是X 中的点列,若满足
⎧1i =j
(e i , e j ) =⎨.
⎩0i ≠j
则称{e n }为X 中的标准正交系.
例2.4.2 在n 维内积空间R n 中,向量组
e 1=(1,0, ,0) ,e 2=(0,1,0, ,0) , ,e n =(0, ,0,1) ,
是R n 的一个标准正交系.□
n =1, 2, ) ,则{e n }是l 2的一个标准正交例2.4.3 在l 2中,向量e n =(0, ,0,1,0, ,0, ) (
n
系.□
例2.4.4 在L 2[-π, π]中,对于f , g ∈L 2[-π, π],定义内积为
(f , g ) =
1
π
⎰πf (t ) ⋅g (t ) dt
-
π
则下列三组向量均是L 2[-π, π]的标准正交系,
{e n }={e n e n =cos nx , n =1,2, };
{e ' n }={e ' n e ' n =sin nx , n =1,2, };
*
{e n }={e 0, e n , e ' n e 0=
e n =cos nx , e ' n =sin nx , n =1, 2, }.□
注3: 如果线性空间上中的点列{e n }的任意有限个元素线性独立,则称{e n }为线性独立系.可验证标准正交系是线性独立系.设{e n , e n , , e n }是标准正交系{e n }的一个有限子集,如
1
2
k
果存在α1, α2, , αk ∈K 使得
α1e n +α2e n + +αk e n =0,
1
2
k
那么对于任意的αj (1≤j ≤k )
αj =αj (e n , e n ) =(αj e n , e n ) =∑(αt e n , e n ) =(∑αt e n , e n ) =(0,e n ) =0.
j
j
j
j
k k
t =1
t j
t =1
t j j
反过来,任何一个线性独立系经过正交化后为标准正交系.
定理2.4.2 设{e n }为内积空间X 的标准正交系,{e n , e n , , e n }⊂{e n },记
1
2
k
M =span {e n 1, e n 2, , e n k },
那么∀x ∈X ,x 0=∑(x , e n i ) e n i 是x 在M 上的正交投影.即x 0∈M ,x =x 0+z ,(x -x 0) ⊥M .
i =1
k
证明 显然x 0∈M ,∀y ∈M ,由于存在α1, α2, , αk ∈K ,使得y =∑αi e n i , 于是
i =1
k
(x -x 0, y ) =(x -∑(x , e n i ) e n i , ∑αi e n i )
i =1k
i =1
k k
=(x , ∑αi e n i ) -(∑(x , e n i ) e n i , ∑αi e n i )
i =1
i =1
i =1
k k
=∑i (x , e n i ) -∑i (x , e n i )(e n i , e n i ) =0.□
i =1
i =1
k k
注4: 上述定理中的M 为k 维闭子空间,作为内积空间M 与R k 同构,M 也是完备的子
空间,根据投影定理,x 在M 上的正交投影x 0唯一存在.
定理2.4.3 设{x n }为内积空间X 中任意的一组线性独立系,则可将{x n }用格拉姆-施密特(Gram-Schmidt)方法化为标准正交系{e n },且对任何自然数n ,有αk (n ) , βk (n ) ∈K
x n =∑αe ,e n =∑βk (n ) x k ,
(n ) k k k =1
k =1
n
n
同时span {e 1, e 2, , e n }=span {x 1, x 2, , x n }.
证明 令e 1=
x 1
,则有e 1=1.记M 1=span {e 1},根据上述定理可将x 2在M 1上做正交分x 1
解x 2=(x 2, e 1) e 1+v 2,即v 2⊥e 1,v 2∈M 1⊥,得v 2=x 2-(x 2, e 1) e 1.
令e 2=
v 2
,则有e 2=1,e 2⊥e 1,且有 v 2
e 2=
(x , e ) 1
x 2-21x 1,x 2=(x 2, e 1) e 1+v 2e 2. v 2v 2x 1
v 3
,从而治x 3是e 1, e 2, e 3的线性组合,e 3是v 3
v n
,显然e n =1,v n
记M 2=span {e 1, e 2},将x 3在M 2上做正交分解x 3=(x 3, e 1) e 1+(x 3, e 2) e 2+v 3,则v 3≠0及
v 3∈M 2⊥,得v 3=x 3-(x 3, e 1) e 1-(x 3, e 2) e 2,可令e 3=x 1, x 2, x 3的线性组合.
以此类推,可令v n =x n -∑(x n , e i ) e i ,且有e 1, e 2, , e n -1正交,进而令e n =
i =1
n -1
于是
x n =v n +∑(x n , e i ) e i =v n e n +∑(x n , e i ) e i =∑αi (n ) e i .
i =1
i =1
i =1
n -1
n -1
n
同时可得e n 是x 1, x 2, , x n 的线性组合.□
线性与非线性泛函◇
2.4 内积空间中的正交性
Inner Product Spaces and Orthogonality
在三维空间中,如右图1所示任取一平面M ,空间中的每一个矢量x 必能分解成两个直交的向量和,其中一个向量x 0在平面M 上,另一个向量z 与平面M 垂直,即x =x 0+z ,
x 0⊥z .这种向量的分解形式,在一般的内积空间是否成立?
图2.4.1 三维空间向量的分解,向量x =x 0+z ,其中x 0⊥z
2.4.1 正交分解
定义2.4.1 正交
设X 是内积空间,x , y ∈X ,如果(x , y ) =0,则称x 与y 正交或垂直,记为x ⊥y .如果X 的子集A 中的每一个向量都与子集B 中的每一个向量正交,则称A 与B 正交,记为A ⊥B .特别记x ⊥A ,即向量x 与A 中的每一个向量垂直.
定理2.4.1 勾股定理
设X 是内积空间,x , y ∈X ,若x ⊥y ,则x +y =x +y . 证明 x +y =(x +y , x +y )
=(x , x ) +(x , y ) +(y , x ) +(y , y )
2
2
2
2
=(x , x ) +(y , y )
=x +y .□
22
注1: 在内积空间中,是否存在x +y =x +y ⇒x ⊥y ?显然由
x +y
2
222
=(x , x ) +(x , y ) +(x , y ) +(y , y ) =x +y +2Re(x , y ) ,
2
2
2
22
可知在实内积空间中x +y =x +y ⇒x ⊥y 成立.
定义2.4.2 正交补Orthogonal complement
设X 是内积空间,M ⊂X ,记M ⊥={x |x ⊥M , x ∈X },则称M ⊥为子集M 的正交补.显然有X ⊥={0},{0}⊥=X 以及M ⊥ M ={0}.
性质2.4.1 设X 是内积空间,M ⊂X ,则M ⊥是X 的闭线性子空间. 证明 (1) M ⊥是X 的线性子空间
∀x , y ∈M ⊥,α, β∈K ,∀z ∈M ,有
(αx +βy , z ) =(αx , z ) +(βy , z ) =α(x , z ) +β(y , z ) =0,
于是αx +βy ∈M ⊥,因此M ⊥是X 的线性子空间.
(2) M ⊥是X 的闭子空间
设{x n }⊂M ⊥,且依范数x n →x 0(n →∞) ,于是∀z ∈M ,有
(x 0, z ) =(limx n , z ) =lim(x n , z ) =0.
n →∞
n →∞
因此x 0∈M ⊥,即M ⊥是X 的闭子空间.□
注2: 由于完备度量空间中的子空间完备的充要条件是子空间闭,因此在Hilbert 空间中(完备的内积空间) ,任意子集M 的正交补M ⊥是完备的子空间,即Hilbert 空间的正交补M ⊥也是Hilbert 空间.
定义2.4.3 正交分解
设M 是内积空间X 的子空间,x ∈X ,如果存在x 0∈M , z ∈M ⊥,使得x =x 0+z ,则称x 0
为x 在M 上的正交投影或正交分解.
引理2.4.1 设X 是内积空间,M 是X 的线性子空间,x ∈X ,若存在y ∈M ,使得x -y =d (x , M ) ,那么x -y ⊥M .
证明 令z =x -y ,若z 不垂直于M ,则存在y 1∈M ,使得(z , y 1) ≠0,显然y 1≠0. 因为∀α∈K ,有
z -αy 1
2
=(z -αy 1, z -αy 1)
=z -α(y 1, z ) -(z , y 1) +(y 1, y 1) =z -(z , y 1) -α[(y 1, z ) -(y 1, y 1)]
22
特别取=
(y 1, z )
,则可得 (y 1, y 1)
2
z -αy 1
2
=z -(z , y 1) =z -
22
(y 1, z )
(y 1, y 1)
≤z
2
=x -y
2
=d 2(x , M ) ,
即知z -αy 1
z -αy 1=x -y -αy 1=x -(y +αy 1) ≥d (x , M ) .
产生矛盾,故x -y ⊥M .□
定理2.4.1 投影定理
设M 是Hilbert 空间H 的闭线性子空间,则H 中的元素x 在M 中存在唯一的正交投影,即∀x ∈H ,x =x 0+z ,其中x 0∈M , z ∈M ⊥.(或表示为H =M ⊕M ⊥)
证明 (1) 寻找x 0进行分解.
∀x ∈H ,设d (x , M ) =inf{x -y =a >0,则存在{y n }⊂M ,使得
y ∈M
y n -x →a (n →∞) ,
首先证{y n }是M 中的基本列,因为∀m , n ∈N 有
y m -y n
2
=(y m -x ) +(x -y n ) =2y m -x +2x -y n
=2y m -x +2x -y n
2
2
22
-(y m -x ) -(x -y n )
1
-4(y m +y n ) -x
2
2
2
2
11
因为y m , y n ∈M 及M 是子空间,知(y m +y n ) ∈M ,所以(y m +y n ) -x ≥a ,于是
22
y m -y n
2
≤2y m -x +2x -y n
22
-4a 2→0(m , n →∞)
故{y n }是M 中的基本列,又因M 是闭子空间,即为完备空间,所以{y n }是M 中的收敛列.不妨设y n →x 0(n →∞) ,则有
a =x -x 0=d (x , M ) .
令z =x -x 0,因此有x =x 0+z ,其中x 0∈M ,且根据前面引理知z ∈M ⊥.
(2) 分解的唯一性.假设还存在x 1∈M ,z 1∈M ⊥使得x =x 1+z 1,那么有
0=(x 0-x 1) +(z -z 1) ,z -z 1∈M ⊥,
于是只需0的分解具有唯一性.若0=y' +z' ,y' ∈M ,z' ∈M ⊥,则
2
0=(0,y' ) =(y' +z' , y' ) =(y' , y' ) +(z' , y' ) =y'
可见y' =0及z' =0,即0的分解具有唯一性.□
例2.4.1 证明在内积空间上,x ⊥y 的充要条件是∀α∈K 有x +αy ≥x .
证明 必要性⇒ 若x ⊥y ,则有(x , y ) =0,∀α∈K 有(x , αy ) =(x , y ) =0,于是由勾股定理得:x +αy =x +y ≥x .
充分性⇐若∀α∈K 有x +αy ≥x ,且y ≠0时,
0≤x +αy -x
=(x +αy , x +αy ) -(x , x )
=(x , x ) +α(y , x ) +(x , y ) +(y , y ) -(x , x ) =α(y , x ) +x , y ) +α(y , y )]
2
2
2
2
2
2
特别取α=-
(x , y )
,于是, (y , y )
(x , y ) (x , y )
(y , x ) =-≤0 0≤x +αy -x =-2
(y , y ) y
2
2
2
故(x , y ) =0,即x ⊥y .□
2.4.2 标准正交系
在三维空间中,任何一向量α可写成α=a 1e 1+a 2e 2+a 3e 3,其中
e 1=(1,0,0),e 2=(0,1,0),e 3=(0,0,1),a 1=(α, e 1) ,a 2=(α, e 2) ,a 3=(α, e 3) ,
1.可见α=(α, e 1) e 1+(α, e 2) e 2+(α, e 3) e 3,那么在有限维内积显然当i ≠j 时,e i ⊥e j ,而(e i , e i ) =
空间中是否具有同样的结论呢?
定义2.4.4 标准正交系
设X 是内积空间,{e n }是X 中的点列,若满足
⎧1i =j
(e i , e j ) =⎨.
⎩0i ≠j
则称{e n }为X 中的标准正交系.
例2.4.2 在n 维内积空间R n 中,向量组
e 1=(1,0, ,0) ,e 2=(0,1,0, ,0) , ,e n =(0, ,0,1) ,
是R n 的一个标准正交系.□
n =1, 2, ) ,则{e n }是l 2的一个标准正交例2.4.3 在l 2中,向量e n =(0, ,0,1,0, ,0, ) (
n
系.□
例2.4.4 在L 2[-π, π]中,对于f , g ∈L 2[-π, π],定义内积为
(f , g ) =
1
π
⎰πf (t ) ⋅g (t ) dt
-
π
则下列三组向量均是L 2[-π, π]的标准正交系,
{e n }={e n e n =cos nx , n =1,2, };
{e ' n }={e ' n e ' n =sin nx , n =1,2, };
*
{e n }={e 0, e n , e ' n e 0=
e n =cos nx , e ' n =sin nx , n =1, 2, }.□
注3: 如果线性空间上中的点列{e n }的任意有限个元素线性独立,则称{e n }为线性独立系.可验证标准正交系是线性独立系.设{e n , e n , , e n }是标准正交系{e n }的一个有限子集,如
1
2
k
果存在α1, α2, , αk ∈K 使得
α1e n +α2e n + +αk e n =0,
1
2
k
那么对于任意的αj (1≤j ≤k )
αj =αj (e n , e n ) =(αj e n , e n ) =∑(αt e n , e n ) =(∑αt e n , e n ) =(0,e n ) =0.
j
j
j
j
k k
t =1
t j
t =1
t j j
反过来,任何一个线性独立系经过正交化后为标准正交系.
定理2.4.2 设{e n }为内积空间X 的标准正交系,{e n , e n , , e n }⊂{e n },记
1
2
k
M =span {e n 1, e n 2, , e n k },
那么∀x ∈X ,x 0=∑(x , e n i ) e n i 是x 在M 上的正交投影.即x 0∈M ,x =x 0+z ,(x -x 0) ⊥M .
i =1
k
证明 显然x 0∈M ,∀y ∈M ,由于存在α1, α2, , αk ∈K ,使得y =∑αi e n i , 于是
i =1
k
(x -x 0, y ) =(x -∑(x , e n i ) e n i , ∑αi e n i )
i =1k
i =1
k k
=(x , ∑αi e n i ) -(∑(x , e n i ) e n i , ∑αi e n i )
i =1
i =1
i =1
k k
=∑i (x , e n i ) -∑i (x , e n i )(e n i , e n i ) =0.□
i =1
i =1
k k
注4: 上述定理中的M 为k 维闭子空间,作为内积空间M 与R k 同构,M 也是完备的子
空间,根据投影定理,x 在M 上的正交投影x 0唯一存在.
定理2.4.3 设{x n }为内积空间X 中任意的一组线性独立系,则可将{x n }用格拉姆-施密特(Gram-Schmidt)方法化为标准正交系{e n },且对任何自然数n ,有αk (n ) , βk (n ) ∈K
x n =∑αe ,e n =∑βk (n ) x k ,
(n ) k k k =1
k =1
n
n
同时span {e 1, e 2, , e n }=span {x 1, x 2, , x n }.
证明 令e 1=
x 1
,则有e 1=1.记M 1=span {e 1},根据上述定理可将x 2在M 1上做正交分x 1
解x 2=(x 2, e 1) e 1+v 2,即v 2⊥e 1,v 2∈M 1⊥,得v 2=x 2-(x 2, e 1) e 1.
令e 2=
v 2
,则有e 2=1,e 2⊥e 1,且有 v 2
e 2=
(x , e ) 1
x 2-21x 1,x 2=(x 2, e 1) e 1+v 2e 2. v 2v 2x 1
v 3
,从而治x 3是e 1, e 2, e 3的线性组合,e 3是v 3
v n
,显然e n =1,v n
记M 2=span {e 1, e 2},将x 3在M 2上做正交分解x 3=(x 3, e 1) e 1+(x 3, e 2) e 2+v 3,则v 3≠0及
v 3∈M 2⊥,得v 3=x 3-(x 3, e 1) e 1-(x 3, e 2) e 2,可令e 3=x 1, x 2, x 3的线性组合.
以此类推,可令v n =x n -∑(x n , e i ) e i ,且有e 1, e 2, , e n -1正交,进而令e n =
i =1
n -1
于是
x n =v n +∑(x n , e i ) e i =v n e n +∑(x n , e i ) e i =∑αi (n ) e i .
i =1
i =1
i =1
n -1
n -1
n
同时可得e n 是x 1, x 2, , x n 的线性组合.□
线性与非线性泛函◇