基于辅助模型正交匹配追踪的多输入系统迭代辨识算法
摘要：针对含有未知时滞的多输入输出误差系统的时滞与参数辨识问题，提出一种基于辅助模型的正交匹配追踪迭代算法.首先，由于各输入通道的时滞未知，通过设定输入回归长度，对系统模型进行过参数化，得到一个高维的辨识模型，且辨识模型中参数向量为稀疏向量；然后，基于辅助模型思想和正交匹配追踪算法，在每次迭代过程中，对参数向量和辅助模型的输出进行交互估计，即利用正交匹配追踪算法获得参数向量的估计，再利用参数估计值计算辅助模型的输出，并用辅助模型的输出值代替信息向量中的不可测信息项以更新参数估计；最后，根据参数向量的稀疏特征，获得系统的时滞估计.所提出算法可以利用少量的采样数据信息同时获得系统参数和时滞的估计值.仿真结果表明了所提出算法的有效性.
关键词：多变量系统；参数辨识；时滞估计；正交匹配追踪算法；辅助模型；最小二乘迭代算法
Iterative identification for multiple-input systems based on auxiliary model-orthogonal matching pursuit
Abstract:For the identification of the multiple-input output-error systems with unknown time-delays,an orthogonal matching pursuit iterative algorithm based on the auxiliary model is proposed.Due to the unknown time-delays of each input channel,a highly dimensional identification model with a sparse parameter vector is derived by setting an input regression length and using the overparameterization.Then,based on the auxiliary model idea and the orthogonal matching pursuit(OMP)
algorithm,the parameter vector and the output of the auxiliary model are interactively estimated in each iteration,that is,the OMP algorithm is applied to obtain the estimation of the parameter vector,the auxiliary model output is computed by using the estimated parameters,and then the parameter estimation updated by the information vector where the unmeasurable information items are repaced by the auxiliary model outputs.Finally,the time-delays are estimated according to the sparse characteristic of the parameter vector.The proposed method can simultaneously estimate the parameters and time-delays from a few sampled data.A simulation example is used to illustrate the effectiveness of the proposed algorithm.
Keywords:multivariate system；parameter identification；time-delay estimation；orthogonal matching pursuit algorithm；auxiliary model；least squares iterative algorithm
0引
许多工业过程，如蒸馏塔、热交换器和反应堆等，都可以用多变量时滞系统建模.时滞的存在使得系统的输出不能及时响应，且稳定性变差.设计系统控制器时对时滞参数的精度要求较高，因此，时滞的估计和系统参数估计都是系统辨识的重要内容.近年来，时滞与参数的联合估计方法不断涌现.文献[1]利用一种自适应滤波方法辨识系统参数和时滞；文献[2]根据系统的阶跃响应，使用直接辨识方法实现系统参数与
时滞联合估计；文献[3]利用递阶辨识原理，分别采用牛顿方法和梯度方法对时滞参数和系统参数进行递阶交互估计.文献[1-3]辨识的是单输入单
输出系统，其方法推广至多变量系统时，由于系统参数的增加，且每个通道的时滞不一样，算法的复杂性和计算量都将增大.因此，多变量系统的时滞与参数的联合估计是一个具有挑战性的课题.
多变量系统可以分解为多个多输入单输出系统.对于具有未知时滞的多输入单输出系统，若采用过参数化方法，则辨识模型中参数向量的维数将扩大且包含许多零元，即参数向量是稀疏的[4-5].辨识高维模型时，常规的辨识方法需要大量的观测数据，使得辨识的成本增加.考虑到向量的稀疏特性，可利用贪婪算法进行稀疏向量的估计[6].贪婪算法包括正交匹配追踪(OMP)算法[7]、梯度追踪算法[8]和压缩采样匹配追踪(CoSaMP)算法[9]等，其特点是重构速度快且易于实现.近年来，贪婪算法用于多输入系统的参数与时滞辨识已有一些成果.文献[10-11]对OMP算法进行改进，分别辨识含有未知时滞的多输入单输出有限脉冲响应(MISO-FIR)系统和多输入单输出受控自回归系统；文献[12]针对时滞MISO-FIR系统，结合梯度搜索和匹配追踪的思想，提出一种梯度追踪算法以获得系统参数和时滞联合估计；文献[13]利用辅助变量方法改进CoSaMP算法，结合模型等价原理实现一类闭环系统辨识.这类改进的贪婪算法仅需少量的采样数据便能达到辨识效果，因而减少了辨识成本.
输出误差模型，即系统的理想脉冲传递函数加上观测噪声，是常用的系统模型表达形式.其辨识的难点在
于，系统的输出相对于系统特征多项式的系数是非线性的.本文基于辅助模型思想[14-16]和OMP算法，将最小二乘迭代方法加以改进，研究多输入单输出输出误差(MISO-OE)系统的时滞与参数联合估计.
1问题描述
考虑图1所示的MISO-OE系统.
图1MISO-OE系统框图
y(t)=
r
∑
i=1
z−d i
B i(z)
A i(z)
u i(t)+v(t).(1)
其中:u i(t)是系统第i个通道的输入;y(t)是系统的输出;v(t)是均值为零、方差为σ2的白噪声;d i是第i个输入通道的时滞;A i(z)、B i(z)是单位后移算子z−,u(t)z−1=u(t−1)]的常系数时不变多项式，即
A i(z):=1+a i1z−1+a i2z−2+···+a in
ai
z−n ai,
B i(z):=b i1z−1+b i2z−2+···+b in
bi
z−n bi,
阶次n ai、n bi已知，参数a ij、b ij以及输入通道时滞d i
未知.不失一般性，假设当t⩽0时,y(t)=0,u i(t)= 0,v(t)=0.
辨识目标是根据测量得到的系统的输入输出数据估计系统的参数和时滞.对于系统(1)，若直接利用最小二乘法进行辨识，可将式(1)两边进行通分(两边最多同乘以公分母A1(z)A2(z)···A r(z))，这样会大大增加系统的参数数量，辨识计算量也将增大.为了提高辨识效率，可采用辅助模型辨识思想[14]，即定义中间变量
x i(t)=z−d i
B i(z)
A i(z)
u i(t)=
[1−A i(z)]x i(t)+z−d i B i(z)u i(t).(2)由于输入通道时滞d i未知，采用过参数化方法，即令l为输入数据回归
长度,l的取值应不小于各子系统时滞d i与阶次n bi之和的最大值，即l⩾max(d i+ n bi)[11].定义子系统信息向量φi(t)和参数向量θi如下:
φi(t):=[−x i(t−1),···,−x i(t−n ai),u i(t−1),···, u i(t−d i),u i(t−d i−1),···,
u i(t−d i−n bi),···,u i(t−l)]T∈R n ai+l,
θi:=[a i1,a i2,···,a in
ai
,0,···,0
d i
,b i1,b i2,···,b in
bi
,
0,···,0
l−d i−n bi
]T∈R n ai+l,(3)则式(2)可改写为
x i(t)=φT i(t)θi.(4)定义系统信息向量φ(t)和参数向量θ如下:
φ(t):=[φT1(t),φT2(t),···,φT r(t)]T∈R N,
N=
r
∑
i=1
(n ai+l),
θ:=[θT1,θT2,···,θT r]T∈R N,(5)则系统(1)可写为
y(t)=
r
∑
i=1
x i(t)+v(t)=φT(t)θ+v(t).(6)当有m组采样数据时，定义堆积向量和矩阵为Y:=[y(1),y(2),···,y(m)]T∈R m,
Φ:=[φ(1),φ(2),···,φ(m)]T∈R m×N,
V:=[v(1),v(2),···,v(m)]T∈R m,(7)则式(6)可改写为以下堆积形式:
Y:=Φθ+V.(8)由式(3)和(5)可知，参数向量θ中有大量的零参数，因此是稀疏向量，系统(8)为稀疏系统且稀疏度K:= r
∑
i=1
(n ai+n bi).由于稀疏模型(8)维数较高，辨识计算量和难度相应增大.
2辨识算法
2.1辅助模型最小二乘迭代算法
假设系统模型(1)中各输入通道的时滞d i已知，则可采用基于辅助模型的最小二乘迭代(AM-LSI)算法估计系统参数.基于辅助模型辨识思想，在第k次迭代时，未知项x i(t)用前一次迭代的辅助模型输出
估计值ˆx i
k−1
(t)代替，可得AM-LSI算法[17]如下:
ˆθ
k
=[ˆΨT kˆΨk]−1ˆΨT k Y,k=1,2,···;
Y=[y(1),y(2),···,y(m)]T;
ˆΨ
k
=[ˆψk(1),ˆψk(2),···,ˆψk(m)]T∈R m×M;
M=
r
∑
i=1
(n ai+n bi);
ˆψk (t)=[ˆψT1
k
(t),ˆψT2
k
(t),···,ˆψT r
k
(t)]T∈R M;
ˆψi k (t)=[−ˆx i
k−1
(t−1),−ˆx i
k−1
(t−2),···,−ˆx i k−1(t−n ai),u i(t−d i−1),···,
u i(t−d i−n bi)]T∈R n ai+n bi;
ˆx1
k (t)=ˆψT1
k
(t)ˆθk(1:n a1+n b1);
ˆx i
k (t)=ˆψT i
k
(t)ˆθk
[
1+
i−1
∑
j=1
(n aj+n bj):
i
∑
j=1
(n aj+n bj)
]
,i=2,3,···,r.
若时滞未知，则该算法在过参数化条件下，需要花费大量的时间和精力才能获得足够的测量数据.针对稀疏模型(8)，为了提高辨识效率，可考虑采用基于OMP算法的辨识方法进行参数和时滞估计[10-11].然而，由于信息矩阵中含有未知的中间变量，利用OMP算法无法直接得到系统参数的有效估计[18].本文基于辅助模型辨识思想，结合OMP算法，提出一种基于辅助模型的正交匹配追踪迭代算法. 2.2辅助模型正交匹配追踪迭代算法
假设系统模型(1)中各输入通道的时滞d i未知.根据压缩感知重构理论[6]，系统(8)的辨识问题可描述为
ˆθ=arg min∥θ∥
;s.t.∥Φθ−Y∥<ε.(9)其中:∥θ∥0表示θ的零范数,∥θ∥0=K,ε>0为设定
的允许误差.
式(9)可以采用OMP算法求解.然而，由于中间变量x i(t)未知，考虑结合AM-LSI算法中的辅助模型辨识思想，将OMP算法嵌套于迭代算法，即通过内部OMP算法迭代得到参数估计，并刷新中间变量x i(t).
令k=1,2,···为外部迭代变量，定义
ˆφi
k
(t):=[−ˆx i
k−1
(t−1),−ˆx i
k−1
(t−2),···,
−ˆx i k−1(t−n ai),u i(t−1),···,
u i(t−d i),···,u i(t−d i−n bi),···,
u i(t−l)]T∈R n ai+l,(10)
ˆφk(t):=[ˆφT
1k
(t),ˆφT2
k
(t),···,ˆφT r
k
(t)]T∈R N,(11)
ˆΦ
k
:=[ˆφk(1),···,ˆφk(m)]T∈R m×N.(12)在第k次迭代时，用ˆΦk代替式(8)中的Φ，令ˆϕk,j表示信息矩阵估计ˆΦk的第j列,θj表示参数向量θ的第j 个参数，则式(8)可改写为以下形式:
Y=ˆϕk,1θ1+···+ˆϕk,jθj+···+ˆϕk,NθN+V.
令q=1,2,···为内部迭代变量,λk,q为第q次迭代选出ˆϕk,j的索引，索引集Λk,q是前q次迭代选出的索引的集合，即Λk,q={λk,1,λk,2,···,λk,q},ˆΦΛk,q为λk,q指示的ˆϕk,j所构成的子信息矩阵,ˆθk,q表示第q 次迭代得到的参数估计,r k,q表示第q次迭代的残差，初始残差设为r k,0=Y,r k,q可由下式计算:
r k,q=Y−ˆΦΛ
k,q
ˆθ
k,q
.(13)定义准则函数
ε(j)=∥ˆϕk,jθj−r k,q−1∥2,j=1,2,···,N.
使ε(j)最小的θj即为第q次迭代选出的非零项.将ε(j)对θj求导并令其为零，可得
∂ε(j)
∂θj
=2ˆϕT k,j(ˆϕk,jθj−r k,q−1)=0,
θj=
ˆϕT
k,j
r k,q−1
∥ˆϕk,j∥2
.
将θj代入ε(j)中，可得
ε(j)=min
θj
∥ˆϕk,jθj−r k,q−1∥2=
ˆϕT
k,j
r k,q−1
∥ˆϕk,j∥2
ˆϕ
k,j−r k,q−1
2=
∥r k,q−1∥2−2
(ˆϕT
k,j
r k,q−1)2
∥ˆϕk,j∥2
+
(ˆϕT
k,j
r k,q−1)2
∥ˆϕk,j∥2
=
∥r k,q −1∥2
−(ˆϕT
k,j
∥ˆϕ
k,j ∥r k,q −1)2.
由上式可知，若要ε(j )最小，则残差r k,q −1与
ˆϕ
k,j ∥ˆϕ
k,j ∥的内积需最大.因此，第q 次迭代选择ˆϕk,j 的索引λk,q 由下式确定:
λk,q =arg max j ∈{1,2,···,N } ⟨r k,q −1,ˆϕk,j ∥ˆϕ
k,j ∥⟩
.
(14)将λk,q 选出的ˆϕ
k,j 用ˆϕλk,q
表示.由λk,q 和ˆϕλk,q
分别
更新索引集Λk,q 和子信息矩阵ˆΦΛk,q
，即Λk,q :=Λk,q −1∪
λk,q ,
(15)ˆΦΛk,q
:=ˆΦΛk,q −1∪ˆϕλk,q .(16)
定义准则函数
J (θk,q )=∥Y −ˆΦΛk,q
θk,q ∥2，将J (θk,q )对θk,q 求导并令其为零，可得
∂J (θk,q )∂θk,q =−2ˆΦT Λk,q (Y −ˆΦΛk,q θk,q )=0,(17)
从而得到第q 次迭代的参数估计
ˆθk,q =[ˆΦT Λk,q ˆΦΛk,q ]
−1ˆΦT Λk,q Y .(18)
用ˆθ
k,q 代替式(17)中的θk,q ，将式(13)代入(17)，有−ˆΦT Λk,q (Y −ˆΦΛk,q ˆθk,q
)=ˆΦT Λk,q r k,q =0，上式说明第q 次迭代的残差r k,q 与ˆΦΛk,q
中所有的列均正交，因此在第q +1次迭代时，只需计算r k,q 与ˆΦk 中除去ˆΦΛk,q
的各列的内积[11].于是式(14)可改写为λk,q =arg max j ∈Ω\Λk,q −1
⟨r k,q −1,ˆϕk,j ∥ˆϕ
k,j ∥⟩ ,
(19)Ω={1,2,···,N }.
当内部迭代次数q =K 时，按照Λk,q 的指示将
ˆθ
k,q 恢复为N 维的参数向量ˆϑk ，即为外部第k 次迭代的参数估计.令ˆθ
i k
为第i 个通道第k 次迭代的参数估计，由于ˆϑk ={ˆθ1k ,ˆθ2k ,···,ˆθr k
}，如果用ˆφi k (t )和ˆϑ
k 分别代替式(4)中的φi (t )和θi ，则可以用下式刷新每个输入通道的辅助变量输出值ˆx i k (t ):ˆx 1k (t )=ˆφT 1k (t )ˆϑk (1:n a 1+l ),ˆx i k (t )=
ˆφT i k (t )ˆϑk
[
1+
i −1∑j =1
(n aj +l ):i ∑j =1
(n aj
+l )]
,i =2,3,···,r.
(20)
若∥ˆϑk −ˆϑk −1∥>ε0(ε0>0)，则由式(20)刷新ˆx i k (t )，令k :=k +1，继续外部迭代；否则，算法终止，得到参
数估计ˆϑ
.式(7)、(10)∼(13)和(15)∼(20)构成辨识MISO-OE 系统的辅助模型正交匹配追踪迭代(AM-OMPI)
算法，具体实施步骤如下.
Step 1：确定l ，收集有限的输入输出数据{u i (t ),y (t ):i =1,2,···,r ;t =1,2,···,m }，设定参数估计精度ε0.
Step 2：由式(7)构造堆积输出向量Y .
Step 3：初始化外部迭代，令k =1,ˆx i 0(t )=随机
数.
Step 4：由式(10)∼(12)分别构造ˆφi k (t )、ˆφk (t )和ˆΦ
k .Step 5：初始化内部迭代，令q =1,r k,0=Y ,
Λk,0=∅,ˆΦΛk,0=∅,ˆϑ0=0.Step 6：由式(19)确定索引λk,q ，并由式(15)和
(16)更新索引集Λk,q 和子信息矩阵ˆΦ
Λk,q
.Step 7：由式(18)计算第q 次迭代的参数估计向量ˆθ
k,q .Step 8：由式(13)更新第q 次迭代的残差r k,q .
Step 9：若q <K ，则令q =q +1，回到Step 6继续内部迭代；否则内部迭代停止，按照Λk,q 的指示将
ˆθ
k,q 恢复为N 维的ˆϑk .Step 10：比较ˆϑ
k 和ˆϑk −1：若∥ˆϑk −ˆϑk −1∥>ε0，则由式(20)更新计算辅助模型输出x i k (t )，令k =k +1，回到Step 4继续外部迭代；否则迭代停止，获得参数估
计向量ˆϑ
.根据得到的参数向量估计ˆϑ
∈R N 中各零元素块的位置以及零元素的数目，可以估计出系统未知时
滞.由式(3)和(5)可知,ˆϑ
中共有2r 个零元素块，令零元素块中零元的个数为n j (j =1,2,···,2r )，则输入通道的时滞估计为
d i =n 2i −1,i =1,2,···,r.
(21)
3计算量分析
AM-OMPI 算法完成一次外部迭代的计算量为N 1，如表1所示.与AM-LSI 算法相比,AM-OMPI 算法用内部迭代OMP 算法代替一次完成最小二乘算法，因此,AM-LSI 算法完成一次迭代的计算量为
N 2=2N 3+2mN 2+4mN −2N +r ∑
i =1
(2n ai +2l −1).由于维数N 很大，显然N 1≪N 2.
4仿真实验
考虑如下时滞MISO-OE 系统:
y (t )=3∑i =1
z −d i
B i (z )
A i (z )u i (t )+v (t );A 1(z )=1−0.2z −1+0.6z −2,
B 1(z )=2.1z −1+1.1z −2,
表1AM-OMPI算法的计算量分析
变量计算步骤乘法计算量加法计算量
ˆθ
k,q T k,q:=ˆΦT
Λk,q
ˆΦ
Λk,q
q2m q2(m−1)
T′
k,q
:
=T−1
k,q
q3q3−q2
W k,q:=ˆΦT
Λk,q
Y qm q(m−1)
ˆθ
k,q
=T′
k,q
W k,q q2q(q−1)
r k,q r k,q=Y−ˆΦΛ
k,q ˆθ
k,q
qm qm
ˆx i
k (t)
ˆx1
k
(t)=ˆφT
1k
(t)ˆϑk(1:n a1+l)
n ai+l n ai+l−1ˆx i
k
(t)=ˆφT
i k
(t)ˆϑk
[
1+
i−1
∑
j=1
(n aj+l):
i
∑
j=1
(n aj+l)
]
i=2,3,···,r
计算量N1
K
∑
q=1
(2q3+2mq2+4mq−2q)+
r
∑
i=1
(2n ai+2l−1)
A2(z)=1−0.3z−1+0.5z−2,
正则化正交匹配追踪B2(z)=0.9z−1+0.6z−2,
A3(z)=1−0.1z−1+0.4z−2,
B3(z)=0.5z−1+2z−2.
各输入通道的时滞分别为d1=20,d2=10,d3= 30.取数据回归长度l=50，则有
θ=[−0.2,0.6,020,2.1,1.1,028,−0.3,0.5,010,0.9,
0.6,038,−0.1,0.4,030,0.5,2,018]T∈R N.
其中:N=
3
∑
i=1
(n ai+l)=156,0i表示由i个零元素
构成的零元素块，稀疏度K=
3
∑
i=1
(n ai+n bi)=12.
仿真时，输入{u i(t)}采用随机不相关的零均值单位方差信号，噪声{v(t)}采用零均值方差为σ2的白噪声序
列，定义参数估计误差δ:=∥θ−ˆϑk∥/∥θ∥，分别用AM-OMPI算法和AM-LSI算法辨识系统参数.当噪声方差σ2=0.102时，不同采样数据长度下，两种算法的参数估计误差如表2所示.由表2可以看出,AM-OMPI算法的参数估计误差远小于AM-LSI算法.
表2不同采样数据长度下两种算法的参数估计误差
m305090140230 AM-OMPI74.04538.2850.38880.85720.6184
AM-LSI90.83689.14565.34443.92635.672
当采样数据长度m=140，噪声方差σ2=0.102时，两种算法的参数估计误差δ随迭代次数k的变化如图2所示.由图2可以看出，采样数据有限(m<N)时,AM-LSI算法辨识精度较低，而AM-OMPI算法只需少量的迭代便可获得良好的参数估计.另外，根据表1，当m=140时,AM-OMPI算法和AM-LSI算法每次迭代的计算量分别为N1=238001和N2= 14494269，可见,AM-OMPI算法具有计算量小的优势
.
20
40
60
k
δ
图2两种算法参数估计误差δ随迭代次数k的变化曲线当采样数据长度m=230，噪声方差分别为σ2= 0.102、σ2=0.502和σ2=0.802时,AM-OMPI算法的参数估计误差δ随迭代次数k的变化如图3所示.经过15次迭代，参数估计误差分别为δ=0.6184%,δ=3.0893%和δ=8.4653%，可见,AM-OMPI算法对噪声敏感，当噪声方差较小时可以获得较高的参数估计精度.
k
δ
图3不同噪声方差下AM-OMPI的参数估计
误差δ随迭代次数k的变化曲线
当采样数据长度m=90，噪声方差σ2=0.102，迭代次数k=15时,AM-OMPI算法的参数估计误差δ=0.3888%，辨识得到的参数估计为
ˆϑ=[−0.2001,0.5964,0
20
,2.0984,1.0958,028,
版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。
发表评论