正则化网络9.520 第17课,2003年
Tomaso Poggio
计划z径向基函数及其扩展
z加性模型
z正则化网络
z对偶核
z结论
关于这堂课
我们基于径向核K即所谓的RBFs描述了一系列的正则化技术。我们介绍RBF扩展(如超基函数)并且指明它们和其他技术(包括MLPs和样条)的关系。
径向基函数
像MLPs 一样,径向基函数也具有通用逼近特性。
定理:设K 是一个径向基函数,i I 是n 维立方体[0,1]n
。则具有如下形式
1
()()N
i
i
i f x c K x x ==
−∑
正则化的回归分析的有限和在[]i C I 中是稠密的。换句话说,给定函数[]i h C I ∈且0ε>,存在具有上述形式的
和f(x),使得:
()()f x h x ε−< 对于所有的n x I ∈成立
注意RBF对应于定义在无限域上的RKHS。同时请注意通常情况下RKHS并没有相同的逼近特
L中是稠密的,尽管它们可以被嵌性:由具有无限可数个严格正特征值的K所生成的RKHS在
2
入到C(X),但在C(X)中却不必要稠密。
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论