最小二乘辨识方法的优劣比较
摘  要:本文系统的探讨了三种最小二乘类辨识方法的原理和性能,并对各种方法在各种不同的环境下进行了MATLAB仿真,仿真结果证明:最小二乘法不适合实时处理,在同等情况下,递推最小二乘的辨识速度较快,但在有噪声干扰下效果不理想,广义最小二乘法的辨识效果最好,且不受噪声是否有的影响,但是费时最多。
关键词:最小二乘  辨识速度    MATLAB仿真 
1 引言
系统辨识是一门介于现代控制理论和系统理论的边缘学科.它将现代控制论的平滑、滤波、预测和参数估计理论,以及系统论的系统分析方法和建模思想应用于自然科学、社会科学和工程实践中的各个领域,与各个领域的专业知识相给合,形成了一个个新的交叉学科分支。
关于系统辨识的含义,早在1962年Zacleh曾作如下定义:“根据系统的输入和输出,在指定的一类系统中确定一个相被辨识系统等价的系统”。根据这个定义,在系统辨识中必须确定三方面的问题;第一,必须指定一类系统.即根据先验信息确定系统模型的类型。第二,必须
规定一类插入信号。例如正弦信号、阶跃信号、脉冲信号、白噪声随机信号等。而且这些信号从时域考虑,必须能持续地激励系统的所有状态;考虑入信号的频带能覆盖系统的频带宽度。第三,必须规定“系统等价”的含义及其度量准则。
2 线性系统的辨识
2.1 问题描述
考虑如下线性系统:
    (1)
其中,u(k)为系统激励信号,y(k)为系统输出,e(k)为模型噪声。其系统模型如图1所示:
图1 SISO的系统模型结构图
其中G(z-1)是系统函数模型,N(z-1)为有噪声系统模型,e(k)为白噪声v(k)经过系统函数为N(z-1)的系统后的输出。通常
                                (2)
式中:                        (3)
                                      (4)
则系统可表示为:                      (5)
设样本和参数集为:
  (6)
h(k)为可观测的量, 差分方程可写为最小二乘形式
                                      (7)
如何系统噪声e(k)存在的情况下从该方程中正确的解出,即是系统辨识的任务。
为了求出,我们面临三大问题:一是输入信号的选择,二是判决准则的选取,三是辨识算法的选择,下面一一探讨。
2.2 选择输入
    为了准确辨识系统参数,我们对输入信号有两大要求,一是信号要能持续的激励系统所有状态,二是信号频带能覆盖系统的频带宽度。除此之外还要求信号有可重复性,不能是不可重复的随机噪声,因此我们通常选择M序列或逆M序列作为输入。
2.3 准则函数
因为本文主要探讨最小二乘类辨识方法,在此选取准则函数
                        (8)
normrnd函数用法使准则函数估计值记做,称作参数的最小二乘估计值。
在式(7)中,令k=1,2,3,……L,可构成线性方程组:
                                              (9)
式中 
          (10)
准则函数相应变为:
    (11)
极小化,求得参数的估计值,将使模型更好的预报系统的输出。
2.4 辨识算法
常用的最小二乘类辨识方法有下列三种:最小二乘法,递推最小二乘法和广义最小二乘法。
2.4.1  最小二乘法
使得,则有
                      (12)
展开上式,并根据以下两个向量微分公式:
                        (13)
得正则方程:                                     (14)
为正则阵时,有                          (15)
且有,所以满足式(15)的唯一使得,这种通过极小化式(11)计算的方法称作最小二乘法。而且可以证明,当噪声e(k)是均值为0的高斯白噪声时,可实现无偏估计。
2.4.2 递推最小二乘算法
为了减少计算量,减少数据在计算机中占用的存,并实时辨识出系统动态特性,我们常利用最小二乘法的递推形式。下面我们来推导递推最小二乘算法的原理。
首先,将式(11)的最小二乘一次完成算法写为
                              (16)
定义
                          (17)
式中 
                          (18)
式中,h(i)是一个列向量,也就是HL的第i行的倒置,P(k)是一个方阵,他的维数取决于未知参数的个数,假设未知参数的个数是n,则P(k)的维数是n×n.。
由式17可得P(k)的递推关系为:
                              (19)
                                (20)
                                (21)
由此可得:                            (22)
由式19和22可得
              (23)
引进增益矩阵K(k),定义                              (24)
式(23)可以进一步写为        (25)
接下来可以进一步把式(20)写为
                                    (26)
利用矩阵反演公式
将式(26)演变成
      (27)
将上式代入式(24),整理后可得
                        (28)
综合式25、27和28可得最小二乘递推参数估计算法RLS
                          (29)
2.4.3 广义最小二乘法
设SISO系统采用如下模型:
                                (30)

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。