正则方程矩阵理论
所有矩阵经过初等行变换以后都能变成分块矩阵,其中一块是一个I矩阵,其他是0的分块矩阵,这样的分块矩阵叫做正则矩阵
在环中,“正则”和“可逆”是两个概念。但在方阵环中,“正则”和“可逆”等价。由于中国大学一般只学一点线性代数,所以“正则”一般不讲。
我们常见的实数矩阵和复数矩阵中,正则矩阵=可逆矩阵。
正则化一个5 5随机矩阵我们还是先思考一个问题,为什么会出现正则化这个名词。我们在讲解最小二乘法的时候,会遇到过拟合(又叫“高方差”)的现象。简单说过拟合现象,使用高维函数进行数据拟合时,为了使误差达到最下,拟合后的函数对当前训练数据误差比较小。但是当新的数据加入的时候,拟合的函数性能表现很差。在这里说到过拟合,就不得不说一下欠拟合(又叫“高偏差”)。欠拟合其实就是我们假设的函数模型是低维,在根据数据进行拟合的时候,不能很好得到数据本质特性。
那么我们如何解决过拟合这个现象呢,主要有两种方法:尽量减少选取变量的数量;加入正则
化。其中减少选取变量的数量,说白了就是我们人为经过对数据进行分析,将一些对判定结果不重要的特征信息去除,来达到减少变量数量目的。但是这样也会造成模型假设的不精确,例如,我们要拟合一下每天进出北京车的数量,由于出现过拟合,我们可能认为河北、天津等北京周边信息对解决该问题的意义不是很大,而删除该特征信息。但是有的时候确实会存在,周边地区政策或者其它原因,导致进出北京车辆的数目增加。因此,删除该特征信息,会造成降低模型的精确度。

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。