第24卷 第1期 陕西师范大学学报(自然科学版) V o l.24 N o.1
1996年3月J o urnal o f Shaanxi No r ma l U niv er sity (N atural Science Editio n)M ar.1996
广义迭代Tikhonov 正则化方法的参数选取*
陈 宏1
侯宗义
2
(1武汉大学数学系,武汉430072;2复旦大学数学系,上海200433;第一作者,男,35岁,博士后)
摘 要 在模型具有误差的情况下,讨论了求第一类算子方程解的含闭算子的迭代Tikho nov 正则化方法.运用谱理论建立使正则化逼近解具有最优收敛阶的选取正则参数的方法,得到收敛性及收敛阶估计定理.
关键词 算子方程;迭代Tikhonov 正则化;不适定问题;收敛阶估计分类号 O 174.5
考虑线性算子方程 Tx =y ,
(1)
在这里,x ,y 是希尔伯特空间X ,Y 中的元素,T 是具有非闭值域的线性有界算子.T +表示Moo re-Penr ro se 广义逆.但方程(1)的极小平方解T
+
y 不连续地依赖于方程的右端项y .而
且,仅当y ∈R (T ) R (T )⊥
时,方程(1)才可解.在这里R (T )表示T 的值域.因此,求解方程(1)是一个不适定的问题.一个典型的例子是第一类Fredho lm 积分方程
∫
1
0K (t ,s )x (s )d s =y (t ),t ∈〔0,1〕的求解问题.在这里,x ,y ∈L 2
〔0,1〕,K (t ,s )∈L 2
(〔0,1〕2
)是非蜕化核.求解这类不适定问题,广泛采用的处理方法是正则化方法.其中最著名的正则化方法是Tikho nov 正则化方法
〔1〕
.这种方法的核心思想是使用泛函F T (x )=‖Tx -y W ‖2+T ‖x ‖2
(T >0)的
唯一极小元x T ,W 逼近精确解T +
y .此处,y W 是y 的近似值‖y -y W ‖≤W ,T 是待定参数.已知结果表明:如果选择正则参数T 为误差W 的函数T =T (W ),使得lim W →0W 2
T (W )-1
=0,lim W →0
T (W )=0,那么有lim W →0
x T ,W =T +
y 〔2〕
.一般而言,x T ,W 收敛于T +
y 的速度可以任意慢〔3〕
.通常,在精确解具有
某种光滑性的假设条件下,譬如,假设T +y ∈R (T *T ),可以得到x T ,W 的收敛阶估计.C.W.
Gro etsch 的一个饱和定理表明,x T ,W 的最优收敛阶是O (W 23
)〔3〕
.较高的收敛阶可以借助“迭代方
法”获得.迭代正则化逼近解可按如下方式定义:x (0)T ,W =0,x (j )T ,W =(T I +T *T )-1〔T *
y W +T
x (j -1)
T ,W 〕,j =1,2,….它的最优收敛阶为O (W 2j
2j +1)〔4〕
.文〔5〕首次提出含微分算子的正则化方法.即用泛函F T (x )=‖Tx -y ‖2+T ‖x ″‖2的唯一极小元作为逼近解.J.Locker 和P.M.Prenter 将这一思想推广到闭算子的情形〔6〕.
在正则化理论中,正则参数的选择是重要问题.具有代表性的参数选取方法有三种,它们分别是Mo rozov 方法、Arca ngeli 方法以及修正的Arcang eli 方法〔7,8〕.上述所有方法及结果都是在算子T 精确已知而y 近似已知的条件下给出的.专著〔9〕、〔10〕中讨论了T 近似已知时普
收稿日期:1995—08—24
*博士后科学基金与国家自然科学基金资助项目
通Tikhonov 正则化方法的收敛性,未涉及参数的选取与收敛阶的估计.有关这方面的工作,还可参考文〔11〕、〔12〕.
在算子与右端都近似已知的条件下,本文运用谱分析的方法考查了含闭算子的迭代正则化方法.给出参数的选择方法,收敛性定理及收敛阶估计.我们的工作分为两个步骤.第一步建立同时依赖于T 及T h (‖T -T
h ‖≤h )的正则化方法.利用第一步的结果,第二步建立仅依赖于T 的近似算子T h 的正则化方法.本文进行的是第一步的工作.
1 记号与空间
用(X ,‖ ‖x ,〈 , 〉x )表示一个范数为‖ ‖x ,内积为〈 , 〉x 的内积空间.假设(X ,‖ ‖x ,〈 , 〉x )与(Y ,‖ ‖y ,〈 , 〉y )都是希尔伯特空间.对任意实数h >0,设T ,T h :(X ,‖ ‖x ,〈 , 〉x ) (Y ,‖ ‖y ,〈 , 〉y )都是有界线性算子,满足
‖T -T h ‖≤h .(2)
令D ( ),R ( ),N ( )分别表示算子的定义域、值域、零空间,假设算子D :
D (D ) (Y ,
‖ ‖y ,〈 , 〉y )是闭的线性算子,满足
(D 1)D (D )是(X ,‖ ‖x ,〈 , 〉x )中的稠密线性子空间,R (D )是(Y ,‖ ‖y ,〈 , 〉y )中的闭集.
(D 2)存在常数k >0,使得当x ∈N (D )时,有‖Tx ‖y ≥k ‖x ‖
x
.满足上述条件的闭算子D 是存在的〔1〕
.对任意给定的实数W >0,设y ∈R (T ),y W
∈(Y ,‖
‖y ,〈 , 〉y )满足
不等式
‖y -y W ‖≤W (3)及 T *
y ≠0,T *
y W ≠0.
(4)
在这里,T *
表示T 的共轭.构造方程(1)的正则化逼近解u (j )
T ,W ,h 如下(定义u (j )
T ,W ,h 的合理性可
参见后面内容中的注1):
u (0)T ,W ,h =0,u (1)T ,W ,h =(T *h T h +T T *T +T D *D )-1T *h y W ,
u (j )T ,W ,h =(T *h T h +T T *T +T D *D )-1〔T *h y W +T (T *T +D *D )u (j -1)
T ,W ,h 〕,j =1,2, (5)
本文的后面内容就是要证明:适当选取正则参数T j =T j (W ,h ),当偏差(W ,h )趋于零时,u (j )T j ,W ,h 必趋向于方程(1)的某个极小平方解.为此,在D (D )上引入两种运算
〈x 1,x 2〉0=〈Tx 1,Tx 2〉y +〈Dx 1,Dx 2〉y ,‖x ‖2
0=〈x ,x 〉0.
根据文〔6〕有
引理1 运算〈 , 〉0及‖ ‖0分别是D (D )上的内积运算和范数.(D (D ),〈 , 〉0,‖ ‖0)是希尔伯特空间.对任意T >0,T *T +T D *D 有有界逆.注1 引理1与条件(2)式保证,当h 小于某个常数h 0后,(5)式中出现的逆算子存在且有界.
令算子T ,T h :(D (D ),‖ ‖0,〈 , 〉0) (Y ,‖ ‖y ,〈 , 〉y )分别表示算子T ,T h 在
D (D )上的限制,T
=T |D (D ),T
h
=T h |D (D ).不难推算
u
(j )
T ,W ,h =
∑j
i =1
T i -1
(T *
h
T
h
+T I )-i T
*
h
y W .(6)
在这里,I 表示单位算子.
5
第1期
陈 宏等:广义迭代Tikhonov 正则化方法的参数选取
2 参数选取
N 表示自然数构成的集合.且令d j (T )=‖T h u (j )
T ,W ,h -y W ‖2y .为确定正则参数,需证明下面
的引理.
引理2 (1)对每个j ∈N ,有lim T →0
+d j (T )=0,lim T →+∞
d j (T )=‖y W ‖2
;(2)对每个j ∈N,d j (T )是正半轴上的严格递增的非负连续函数.证明 令{E λ}表示算子T
h
T
*h
的谱系.根据(6)式及谱分解定理推知
d j (T )=∫
∞0T T +λ
2j
d ‖E λy W ‖2y ,j ∈N.
(7)
根据(7)式不难证明引理 2.引理2证毕.
对任意正实数p ,q ,s ,引理2保证了方程 T q
d j (T )=W p
+h s
(j =1,2,…)
(8)
有唯一的正实根T -
j ≡T -j (W ,h ).令r =W 2
+h 2
,m =min{p ,s }.下面讨论T —
j (W ,h )的性质.
引理3 对任意j ∈N,lim r →0
T -j (W ,h )=0,且有T -j (W ,h )≥T -j -1(W ,h ).此处,记T -
0=0.证明 根据(6)、(7)和(8)三式,不难证明T -j 具有下述两条性质:(i)当r 趋于零时,T -
j 是有界的;(ii)如果存在数列r n =
W 2n +h 2
n →0(n →∞),使得极限lim n →∞
T -
j (W n ,h n )存在,那么,必有lim n →∞T -j (W n ,h n )=0.假设lim r →0T -j (
W ,h )≠0,根据极限的定义及性质(i)可知,存在常数X 0>0及数列r n =
W 2
n
+h 2n
→0(n →∞),使得极限lim n →∞T -j (W n ,h n )存在且满足lim n →∞T -
j (W n ,h n )≥X O >0.这个结果与T -j 的性质(ii)相矛盾.因此,反证法假设lim r →0T -j (W ,h )≠0不成立.所以必有lim r →0
T -
j (W ,h )=0.引理3中的第二条结论是引理2及方程(8)的直接推论.引理4 设p ,q ,s ,W ,h 都是正实数.(i)取2q >m -2,则有lim r →0
r 〔T -j (W ,h )〕-1
2
=0;(ii)
假设T
+
y ∈
R ((T
*
T
)
j -
12
),且取q >(m -2)j ,那么,存在正常数M 1,M 2,使得M 1≤
r m
〔T -
j (W ,h )〕
-g -2j
≤M 2.
证明 (i)根据y ∈R
(T ),不妨设y =T (T +
y ).于是对任意实数T >0都有d 1(T )≤O (r +
T ),在这里,O ( )表示同阶.根据方程(8)便得
r 〔T -
1(W ,h )〕-q
m ≤O
r +(T -1(W ,h ))
1
2
2m
.
(9)
如果q m ≥12,不妨设T -1<1,上述不等式与引理3一起蕴含lim r →0
r 〔T -1(W ,h )〕-1
2
=0.现在假设
q m <12.令k 0=0,k n =q m ∑n -1
i =02m
i
,n ∈N.数列{k n }是非负严格递增的数列.根据(9)式,并
使用数学归纳法可以证明r 〔T -
1(W ,h )〕-k
n +1
≤O ({r 〔T -
1(W ,h )〕
-k
n
+〔T -
1(W ,h )〕12-k n }2
m ),n =1,
2,….据此,并应用引理3及归纳法,不难推算,当k n <12
时,定有lim r →0r 〔T -1(W ,h )〕-k n +1=0,n =6
陕西师大学报(自然科学版)第24卷
0,1,2….这个关系式蕴含当q m <12时,也有lim r →0r 〔T -1(W ,h )〕-12
=0.根据引理3便证得结论:
(i)lim r →0
r 〔T -j (W ,h )〕-1
2
=0;(ii)设T
+
y =(T
*
T
)j -1
2x 0.根据d j (T )的定义,可以推出,
d j (T )≤O (r +T j
).应用方程(8)又得
r 〔T -
j (W ,h )〕
-
q m
≤O ((r +〔T -
j (W ,h )〕j )2
m ),
(10)根据这个不等式又可以证明
lim r →0
r 〔T -
j (W ,h )〕-j
=0.(11)
上述(10)、(11)两式蕴含:存在常数M 2>0,使得r m
〔T -j (W ,h )〕
-q -2j
≤M 2.另一方面有
(T j )
-
j d j (T )≥|‖(T
h
T
h
*
+T I )-j (y -y W )+a j x 0‖
y
-‖(T
T *
+T
I )-j
T (T
*
T
)
j -12
x 0‖y |,在这里,a j =〔(T
h
T
h
*
+T I )
-
j -(T T
*
+T I )
-j
〕T (T *
T )j -1
2
,j =
1,2,….所以,根据(11)式又得lim r →0
〔T j (W ,h )〕-j
d j (T -
j )≥‖x 0‖0>0.这个下极限不等式与
方程(8)一起蕴含:存在常数M 1>0,当r 充分小后有r m
〔T -j (W ,h )〕-q -zj
≥M 1>0.引理4证毕.
3 收敛性及收敛阶的估计
引理5 假设(2)、(3)及(4)式成立.那么,(i)有不等式‖u (j )T ,W ,h -u (j )T ,s ‖0≤O (r 2T -1
+
r T -
正则化回归算法1
2)及‖u (j )
T ,W ,h -
T
+
y ‖0≤O (r 2T -1+r T -
1
2+‖u (j )T ,W -
T
+
y ‖0)成立;(ii)当T
+
y ∈R ((T
*
T
)j -1+ν),ν∈(0,1〕时,有不等式‖u (j )
T ,W ,h -
T
+
y ‖0≤O (r 2T -1+r T
-1
2+T j -1+ν
)成
立.这里u (j )
T ,W 是用T 代替(5)式中的T h 而得到的结果.
证明 令b j =(T
*
h
T
h
+T I )-j T
*
h
-(T
*
T +T I )-j T
*
,j =1,2,…;Z j =u (j )
T ,W ,h -u (j )T ,W ,j =1,2,….根据定义不难推出Z j =T j -1b j (y W -y )+T j -1b j
T (T
+
y )+Z j -1.应用数学
归纳法可以证明‖b j ‖≤O (r T -j
),‖b j T ‖≤O (r T -j +
12
);从而有‖Z j ‖0≤O (r 2T
1
2+r T -1
2
),j =1,2,….使用这个递推关系式,并注意到文〔8〕中的(1.7)式‖u (j )
T ,W -T
+
y ‖0≤
O (r T -1
2+T j -1+ν
),不难得到本引理中的结果(i)和(ii).
最后,给出收敛性定理及阶的估计.
定理 假设p ,q ,s ,W ,h 都是正实数;条件(2),(3)及(4)成立;u
(j )
T ,W ,h
由(5)式定义;T -
j (W ,h )
是方程(8)的根.(i)取2q >m -2,那么有lim r →0
‖u (j )
T -j ,W ,h -T
+
y ‖0=0;(ii)设T
+
y ∈
R ((T *
T
)
j -1+ν
),ν∈(
12
,1〕.取2q =(2j -1+2ν)m -4j ,那么有‖u (j )
T -j ,W ,h -T +
y ‖0≤
O (r 2j +2ν-2
2j +
2ν-1
),r →0.
证明 (i)根据引理3、引理4—(i)、引理5—(i)以及已知的结果lim r →0
‖u (j )T -j ,W -T
+
y ‖0=
0,立刻推出lim r →0
‖u (i )T -j ,W ,h -T
+
y ‖0=0.(ii)根据引理4—(ii)及引理5—(ii),经简单计算推
知,T -j (W ,h )=O (r m
q +
2j
)及‖u (j )T -
j ,W ,h -
T
+
y ‖0≤O (r 2j +2ν-2
2j +
2ν-1
).定理证毕.
7
第1期
陈 宏等:广义迭代Tikhonov 正则化方法的参数选取
8陕西师大学报(自然科学版)第24卷
上述定理—(ii)中的结果是最优的〔8〕.特别,当j=ν=1,D=I时,除相差一个常数因子外,u(j)T-
,W,h就是通常的Tikho nov正则化逼近解.而它的收敛阶正是Groetsch所指出的最优阶j
O(r23).
参 考 文 献
1 Gr oetsch C W.The theo ry of Tikh onov requla ri zatio n fo r Fredho lm equations of the first kind.Bo sto n: M A.Pitamn,1984
2 Eng l H W.N ecessa ry and sufficient co nditions fo r conv erg ence o f reg ula rization methods fo r solving lin-ea r opear ato r equa tions of the first kind.N umer.Funct.Anal.O ptim.,1981,3:201~222
3 Scho ck E.O n the asy mpto tic order o f accur acy o f Tikhonov r egula riza tion.Jour n.O ptim.T h.
Appl., 1984,44(1):95~104
4 King J T,Chilling w or th D.Appr ox ima tio n o f g enerali zed inv erses by iter ated requlariza tio n.Numer.
Funct.Anal.O ptim,1979,2:449~513
5 Phillips D L.A technique fo r the numerical solutio n o f cer tain integ ral equatio ns o f th e first kind.J o urn.
Asso.Comput.M ach.,1962,9:84~97
6 Lo cke r J,Prenter P M.Reg ula rization w ith differ ential o pe rato rs I:ge ner al theo ry.J o urn.M a th.Anal.
Appl.,1980,74:504~529
7 M o ro zov A.On the so lution o f functio na l equatio ns by the metho d of reqularizatio n.Sov iet M a th.
Do kl.,1966,7:414~417
8 Eng l H W.O n th e choice o f the requla ri zatio n pa rameter for iter ated T ikho nov r equla rization of ill po sed pr oblems.Jour n.Appro x.Th.,1987,49:55~63
9 M or o zov V A.M etho ds fo r solving inco rr ec tly po sed pro blems.New Y or k:Spring er,1984
10Tikho nov A N,A rsenin V Ya.Solutio ns of ill-po sed pro blems.W ashing to n:D C.W insto n,1977
11N eubauer A.A po steriori pa ramete r choice fo r Tikho nov x eg ulariza tio n in the pr esence o f modeling err or.
Appl.N umer.M ath.,1988,4:507~519
12Li H N,Hou Z Y.Estimatio n o f the asy mptotic o rder o f Tikhonov reg ular so lutio ns to opera tor equa tio ns of the first kind with appr oxima tely g iv en opera tor s a nd righ tha nd sides.Chinese Anna ls o f M ath.,Ser.
A,1993,14(4):458~463
〔责任编辑 张惠民〕
A parameter choice for generaliged
iterated Tikhonov regularigation
Chen Hong1,Ho u Zong yi2
(1Department of M athematics,Wuhan Univ.,430072,Wuhan,PRC;
2Department of Ma thematics,Fudan Univ.,200433,Sha nghai,PRC)
Abstract The paper presents an inv estigation of iterated Tikho nov reg ulariza tion w ith closed o perato rs fo r sloving linea r o perator equatio ns o f the first kind in the presence of mod-eling and data erro r.By mea ns of the spectral theory,a param eter selectio n method that leads to optima l co nv erg ence rates is deriv ed.The result of conv erg ence and the ra te o f con-verg ence to wa rd som e least squa re solutio n of the equa tion are giv en.
Key words opera to r equa tions;itera ted Tikho nov reg ulariza tion;ill-posed problems;con-verg ence rates
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论