矩阵范数详解docx.docx
- 文档编号:16612725
- 上传时间:2023-07-15
- 格式:DOCX
- 页数:17
- 大小:84.84KB
矩阵范数详解docx.docx
《矩阵范数详解docx.docx》由会员分享,可在线阅读,更多相关《矩阵范数详解docx.docx(17页珍藏版)》请在冰点文库上搜索。
矩阵范数详解docx
《周国标师生交流讲席010》
向量和矩阵的范数的若干难点导引
(二)
一.矩阵范数的定义
引入矩阵范数的原因与向量范数的理由是相似的,在许多场合需要“测量”矩阵的“大
小”,比如矩阵序列的收敛,解线性方程组时的误差分析等,具体的情况在这里不再复述。
最容易想到的矩阵范数,是把矩阵ACmn可以视为一个mn维的向量(采用所谓“拉
直”的变换),所以,直观上可用Cmn上的向量范数来作为ACmn的矩阵范数。
比如
mn1
在∣1-范数意义下,IIAl1;二IaijI=tr(AHA)2;(1.1)
1
ZlmnA2
在I2-范数意义下,∣∣a∣∣f=∑∑同|2,(1.2)
IyjAJ
注意这里为了避免与以后的记号混淆,下标用“F”,这样一个矩阵范数,称为Frobenius
范数,或F-范数。
可以验证它们都满足向量范数的3个条件。
那么是否矩阵范数就这样解决了?
因为数学上的任一定义都要与其对象的运算联系起来,矩阵之间有乘法运算,它在定义范数时应予以体现,也即估计AB的“大小”相对于A与B
的“大小”关系。
定义1设ACmn,对每一个A,如果对应着一个实函数N(A),记为IlAll,它满足以下条件:
(1)非负性:
||A||_0;
(1a)正定性:
A=Omn=IIAII=0
(2)齐次性:
||〉A||=||||A||,•C;
(3)三角不等式:
||A||AB||—||A||||B||,-BCmn
则称N(A)=||A||为A的广义矩阵范数。
进一步,若对Cmn,Cn1Cml上的同类广义矩阵
范数||||,有
(4)(矩阵相乘的)相容性:
||A||AB||_||A||||B||,BCni,则称N(A)=||A||为A的矩阵范数。
我们现在来验证前面(1.1)和(1.2)定义的矩阵范数是否合法?
我们这里只考虑(1.2),
把较容易的(1.1)的验证留给同学们,
三角不等式的验证。
按列分块,记A=√a1,a2,…,an),B=√b1,b2,…,bn)。
||ABIIF=Igbj,®b2),,(a.bn)||F
*1UII2IIa2b2||2Hang||2
22兰(IIa1II2+IIdIb)+…+(IIanIb+||bn||2)
二険||2IIanII;2||qII2IId||2…IIanII2IIbn||2IIdII2IIbnII2
对上式中第2个括号内的诸项,应用CaUChy不等式,则有
IIA+BIIF≤IIAIIF+2||A||f||B||f+IIBII2=(IIAIF+IIBIIf)2(1.3)
于是,两边开方,即得三角不等式。
再验证矩阵乘法相容性。
虽然这仅是一个反例,但是数学的定义是不可以有例外的。
由此,我们必须认识到,
不能随便套用向量范数的形式来构造矩阵范数。
为此,我们仅给出矩阵范数的定义是不够
的,还需要研究如何构成具体的矩阵范数的方法。
当然,你也可以不去考虑构成方法,一个
函数一个函数去试,只要满足条件就行。
不过这样做的工作量太大,也很盲目。
第二,在实际计算时,往往矩阵与向量出现在同一个计算问题中,所以在考虑构造矩阵
范数时,应该使它与向量范数相容。
比如要考虑AX的“大小”,AX是一个向量,但它由A
与X相乘而得的,它与A的“大小”和X的“大小”的关系如何?
这提出了两类范数相容
的概念。
定义2对于Cmn上的矩阵范数∣∣∙∣∣m和Cm,Cn上的同类向量范数∣∣∙∣v,如果成立
IIAxIIv≤lla∣∣mIlxIV,^ACmn,-xCn(1.5)
则称矩阵范数Il*∣∣m与向量范数II-IV是相容的。
1
'mnX21
例1.1可以证明∣∣A∣∣f=∑∑IaijI2=(tr(AHA)F是与向量范数IW相容。
Iimg丿
事实上,在(1。
2)中,取B=X∙Cn1,那么
∣∣Ax∣∣2=IIab∣∣√≤∣∣AIIfIIb∣∣f=∣∣a∣∣f∣∣x∣∣2
二.矩阵算子范数
现在给出一种构造矩阵范数的一般方法,它可以使构造出的矩阵范数与向量范数相容,当然,它也满足定义1规定的4个条件。
定义3设Cm,Cn上的同类向量范数为∣∣∙∣∣v,ACmn,定义在Cmn空间上的矩阵A的由向量范数∣∣∙∣v诱导给出的矩阵范数为
I∣A∣V=max
X共
IlAXIV
IlXIL
(2.1)
可以验证,这样定义出的矩阵范数IlAlV满足定义1规定的4个条件,同时又满足矩阵范数与向量范数相容性要求(定义2)。
由于有什么样的向量范数IIJV,就有什么样的矩阵范数,所以,这样的矩阵范数称为由向量范数诱导出的,简称诱导范数;又因为(2.1)实际上规
定了一个函数(或算子),故又称为算子范数。
(2.1)给定的范数实际是寻求一个最优化问题的最优值,求目标函数山AX也的最大
Xllv
取得最大值。
如果直接考虑这样一个优化问题方式定义,使问题的处理简单。
IIAIIv
=max
X=0
IIAxIV
IIxIIv
max
IIXVT
IIAxIV
IIxIV
还是有困难的.可以证明,它可以下列等价
弋鴛宀儿(2.2)
事实上,分母上的IIxIIV是一个正数(XHO),
那么根据向量范数的齐次性有
值,约束条件是x=0,也就在Cn空间中除原点外的点中”个n维向量X,使ILAXiVV
X
上面第3个等号成立是因为向量Z为一个单位向量。
xIV
下面我们从理论上证明这样的矩阵范数IIAIV满足定义1规定的4个条件,同时又满足
矩阵范数与向量范数相容性要求。
定理2。
1由(2.1)或(2.2)给定的Cm浦上的矩阵范数满足矩阵范数定义1的4个
条件,且与相应的向量范数相容。
证明:
首先,矩阵范数与向量范数的相容性是不难证明的,事实上,对IIxIV=1,
IIAIVIIXIVHIAIV=maxIIAzIV-IIAxh,因此,矩阵范数与向量范数的相容性条件
IIzIVT
(1.5)成立。
我们下面来验证(2.1)或(2.2)满足矩阵范数的4个条件。
这4个条件中,前2个也容易验证,因此这里只来考察第3,4个条件。
三角不等式的验证:
对于任一^Cmn
IIABII=maxII(AB)XI^maxIIAxBxIkmaxIIAIIIIBII
II刈#IIxIUIIxIIT
=maxIIAxIImaxIIBxI^IIAIIIIBII
IIxII1II刈T1
矩阵相乘相容性的验证:
由(1.5),不难有
IIABxIV勻IAIVIIBxIVWIAIbIIBIbIIxIV
当X=O时,iiAbXiv判AIIvIIBIV
IIxIV
所以IlABIlv=ma0xllABXIV引A∣VI∣BIV
XR||x|V
至此,证实了用算子范数确能给出满足矩阵范数定义和矩阵范数与向量范数的相容性的矩阵范数。
推论1对于Cnn上的任一种向量诱导范数,都有Illll=maxIlIx11=1(2。
3)
Il刈11
但是要注意的是,对一般的矩阵范数,对任一向量X三Cn,有
I∣x∣I=II∣x∣凶l∣llllxll
故有IlIll_1。
比如,IIAIF不是诱导矩阵范数,所以IllIk-I。
几个常用的诱导矩阵范数
上面的论述表明,诱导矩阵范数与向量范数密切相关,有何种向量范数,就有什么样的
例3.1设ACmn,由向量h-范数诱导而来的
m
IIAI^nτjax∑冋I
1沁V
证明:
按列分块,记A=(a∣,a2,…,an),则由(
IlAlh=maxIIajIl
1g鱼
设X=(X1,X2,,Xn)nCn,且有IlXI1=1
最大列和诱导矩阵范数
3.1)和向量Ii-范数的定义可知
(3.1)
诱导矩阵范数。
下面就来具体地构造几个常用的诱导矩阵范数。
设ACmn。
m
n
mn
n/mΛ
∣∣Ax∣∣1=Σ
为aijXj
≤ΣΣIa
IijIlXj∣=∑∣XjI∣∑Iaj|
id:
j壬
yjλ
jIimJ
n
≤maxIajI'TXjIm.maxIajI
j=1
m
(+)
AIL=maxIIAXI1込max'Iaj
1IIXIl1吕1jiJ
另一方面,选取k,使得
m
7l4kI=max',IajI
idji=1
令Xo为第k的单位向量e1.=(0,…0,1,0,…,0)t,那么Ax^a^(a1k,a2k/,arυk)τ
mm
IIAI=nnaxIIAxIgAX011=迟lajkl=max∑&I(++)
Xl1=1i=Ijy
综合(+)与(++)可知,由向量l1-范数诱导出的矩阵范数既是IIAI1的上界,又是其下界,因
此必有(3.1).
例3.2设A^Cm"n,矩阵谱范数由l2-范数诱导得出的矩阵范数,定义为
IlAIl2=max{丸I扎是AHA的特征值}=JhmaX(AHA)=σ1(3.2)
其中S为A的最大奇异值,当时,lIAI〔2=J扎max(ATA)(3.3)
证明:
首先由线性代数,AHA是半正定矩阵,事实上,对任一Cn,有
(x,AHAX)=XHAHAX=(AX)H(AX)=∣∣Ax∣∣-0
因此,AA的特征值都为非负实数,记为2V≥⅛≥0,而且AA具有n个相互正交的,∣2-范数等于1(即标准化了的)特征向量X(I),x⑵,…,x(n),它们分别对应于特征值
'1_'2〉■:
「n_0。
故这组特征向量构成了一组标准正交基,用它们可表示任一个范数∣∣x∣∣2
n
XfM⑴
i4
n
而且,由∣∣χ∣2=l,可得到=1。
∖=X
nnn
这样,AHAX=AHAa:
∙ix⑴八冷(AHAX(i))八>i∙iχ(i)。
i4i=Ii=I
由此
(n.n.、
IlAXIl2=(x,AhAx)-'「X⑴,”亡i,ix⑴
Iyy丿
/n、
=^I|:
'1I22h2I2川…川也nNnf'1岸「j「器,
Ii=J
也就是∣∣Ax∣∣2
由X的任意性和算子范数的定义
IlAIl2=^maxIlAx||2—∙1
2IXll2121
另一方面,由∣∣x∣∣2=1,并且取∙1对应的特征向量X(I),考虑
AX(I)Il2=(X(I),AHAX(I))=(X(I),IX(I))「(X(I),x(I))「1IlX(I)II2「所以
IIAI"ma刘Ax∣∣2≥1∣AX(I)Il2=λ1
综合(*)和(**),由∣2-范数诱导得出的矩阵范数应为
IlAll2=厂I=max{‘I■是AHA的特征值}'max(AHA)=F。
例3.3设ACmn,L:
-范数诱导得出的矩阵范数
n
了max'Iaj
Sjd
证明:
设X=(^,x2√,Xn)T,且W",即平乂以十仁
1的向量X:
(*)
(**)
(3.4)
n
IlAxIh=maxΣaiixi
11心1心.,ijj
一j:
1
nn
^max'IaijXjl=max'IaijIlxjI
ij壬ijT
nn
WmaX瓦(lajI(maxIXjl))Mmpx迟Ia0I
ij壬jij=1
由算子范数,
n
IlAllFmaxlIlAxIFma^IajI
--j=A
另一方面,选取k,使得
(*)
nn
XIakjFmiaX、&IjTijd
1,ifakj=O
令y=(yι,y2,Iyn)T)其中yj二亦∣
ifakj≠0akj
则Ilyll孑m?
xIyjμι,从而有
n
Ay=Σ|akjl
j二
由算子范数
(**)
I|A||:
:
=maXlIAx|I:
」IAy||:
:
_'Iakj|=max'|ajI。
l|x|Qj二Ijm
综合(*)和(**),便得
n
“僅:
二啊'®l°
--j吕
除了上述3种常用的矩阵范数外,Frobenius范数虽然不是算子范数,但也经常所用,
在讨论序列收敛等问题上是等价的。
(1-2\
例3.4设A=,求其各种矩阵范数。
1-34J
解:
llAu=最大列和=6;
llAll:
:
-最大行和=7;
llA∣∣f=√∣2223242〉30:
5.477;
llAll2=¥152215.4650
四.由矩阵范数推出的向量范数
矩阵范数可由向量范数诱导,反过来,向量范数有时也可从矩阵范数推出。
例4.1设∣∣∙∣∣m是Cnn上的矩阵范数,任取Cn中的非零向量y,则函数
IlxllV=IIXyH∣∣m,PXECn(4。
1)
是Cn上的向量范数,且矩阵范数∣∣∙∣∣m与向量范数Il∙IV相容。
证明:
欲证∣∣x∣L是一个向量范数,只须验证它满足向量范数得个条件。
非负性:
当X=O时,由于y非零,故IIxIL=IIXyH∣∣M0,-χCn;
当X=O时,XyH=OnxI,故∣∣X∣V=IIXyHIlM=O。
齐次性:
对任一常数c∙C,有
IICXIV=IlCXyHIh=IeIIlXyHIh=ICIIlXIV。
三角不等式:
对任意的x,z∙Cn,有
IIxzIV=II(Xz)yHIIMTIXyHXZHIIm即XyHIMIIXZHIIM
=iixH∕iizHm。
因此由向量范数的定义知,I∣X∣V是一个向量范数。
下面再证两种范数的相容性。
如果A三cnn,X三Cn,那么
AxIV=II(AX)yH|Im=IIA(XyH)∣∣M即A∣∣m∣∣XyH∣∣m=∣∣A∣∣m∣∣x∣V。
可见,矩阵范数II∙∣∣M与向量范数II∙∣V相容。
五.范数的若干应用
范数的应用很广泛,这里只举2例。
1.矩阵奇异性的条件
对于矩阵ACnn,能否根据其范数的大小,来判别(I-A)的奇异性?
判别一个矩阵的奇异性,并不方便(比如计算A的行列式的值是否非零,判断A的诸列是否线性无关等,均不大容易),但矩阵的范数的计算,如||A∣∣1,||A∣|:
-,还是方便的。
定理5.1(Banach引理)设矩阵A^Cn>n,且对矩阵Cn妙上的某种矩阵范数∣∣∙∣∣,有
∣∣(∣-A)叩
IIiII
1T∣A∣∣
(5.1)
||A||:
:
:
1,则矩阵(I-A)非奇异,且有
证明:
假设矩阵范数∣∣A∣∣与向量范数∣∣x∣∣相容。
欲证矩阵(I_A)非奇异,可通过
det(l一A)=O。
用反证法。
假设det(l_A)=0,则齐次线性方程组(l_A)x=0有非零解x0,即
(1一A)Xo=0,Xo=0
于是,
两边取范数
Xo=Ax°。
I∣x0∣∣v-∣∣Ax0∣V^I∣A∣II∣X0IV
其中最后一个不等号是由于||A||:
:
:
1。
但上式是矛盾的,假设det(l_A)=0不成立,从
而矩阵(I_A)非奇异,故有逆。
再由两边取范数,再移项,有
(I_A)」(I_A)=I可得(I-A)J=^(^A)JA得II(I-A)JI=IIIZ(I-A)JA∣μ∣∣I||∣∣(^A)-1∣∣∣∣A∣∣∣∣(I—A)'||(1-||AIr||1||
从而
∣∣(I-A)JI^∣∣i∣∣
1τ∣A∣∣
这正是我们要想证明的。
在推演分析Ax=b的直接法的误差分析时起重要的作用。
请同学们自行证明下面类似的结果。
定理5.2
设矩阵ACnn,且对矩阵Cnn上的某种矩阵范数∣Z∣∣,有∣∣A*1,则
2.近似逆矩阵的误差一一逆矩阵的摄动
在数值计算中,误差无处不在,考虑由于这些误差存在而带来的后果,是一项重要的
课题。
设矩阵ACnn的元素Qj带有误差;.aij,(i,j=1,2-,n),则矩阵的真实的值应为AJA,其中A=Caij)称为误差矩阵,又叫摄动矩阵。
若A为非奇异,其逆阵为AJ。
问题是:
(A∙j.A)j与Aj的近似程度如何呢?
或者说,(A.:
.A)J与AJ的"距离”大小为多少?
下面是回答上述问题的摄动定理。
定理5.3设矩阵ACnn非奇异,B∙Cnn,且对Cnn上的某种矩阵范数∣∣∙∣∣,有||AJB||:
:
1,则
(1)AB非奇异;
(2)记F=I-(IA」B)」,那么IlF卜11ABll;仁11ABll
(3)||A」—(A+B)」|J||A,B||
llAAII一1—||A」B||°
证明:
由于||AjLB|卜:
1,所以||-A」B||:
:
:
1。
由定理5。
1,(IAJB)非奇异,故AB=A(IAJB)非奇异。
在定理5。
2中,将A换成_A」B,即得
(2)。
又因为AJ-(AB)J=(I-(IAJB)JL)AJL,
两边取范数,并利用
(2)的结论,可得
1
」」||AB||J
||AJ-(AB)J||J||A」||,
1T|AB||
即可得到(3)。
□
3∙矩阵谱半径及其性质
矩阵谱半径是一个重要的概念,在特征值估计,广义逆矩阵,数值计算(特别在数值线
性代数)等理论中,都占有极其重要的地位。
定义4设矩阵ACnn的n个特征值为含重根),称max「i|为矩阵A的谱半径,记为T(A)。
关于矩阵谱半径的最证明也是最重要的结论是,矩阵A的谱半径不超过其任一种矩阵
范数。
这个结果已经在课堂上证明过了。
∣1-i3)
作为练习,请同学们对A=I验证这个结论。
U1+i丿
关于矩阵谱半径的第2个重要结论是,如果矩阵A为Hermite矩阵,则||A||2=(A)。
证明留给大家。
虽然Hermite矩阵的谱半径与其谱范数相等,但是,一般矩阵的谱半径与其谱范数可能相差很大。
下面关于矩阵谱半径的第3个重要结论,刻画了谱半径与矩阵范数之间的另一种
定理5。
4设矩阵ACnn,对任意正数;,存在一种矩阵范数∣∏∣∣m,使得
llA∣∣a∣∣m^'(A);
证明:
根据Jordan标准型,对ACnn,存在非奇异的PCnn,使
-4
PAP=J
如果记-■-=diag(,1,2,,,n)和
■0
2
0:
-3
0
则Jordan标准型
0」
=I,其中∙1,,2,…,'n为A的特征值。
(PD)JA(PD^DJPJAP^DJJ^^I=
又记D=diag(1,e,e2,…,列亠),则有
记S=PD,那么S为非奇异,且有
IlSJLASIlI引上;IIllET(A);。
另一方面,容易验证,∣∣A∣∣m=IISdASIL是Cnn上的矩阵范数,所以
∣∣A∣∣M=IIS」ASI1「YA);。
5.向量和矩阵范数在求解Ax=b的直接法的误差分析中应用这一内容我在课堂上讲的比较仔细,这里就略去了。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 矩阵 范数 详解 docx