9.520:第20课
Bayesian解释Tomaso Poggio 和 Sayan Mukherjee
计 划 •正则化的Bayesian解释
•正则化因子的Bayesian解释
•二次型损失的Bayesian解释
•SVM损失的Bayesian解释
•MAP的一致性检查和对于二次型损失的平均解•从数据合成核:bayesian基础
•选择(被称为“对齐”)可看作核综合的特例
正则化可以理解为一种什么法RN,SVM,以及回归中的BPD的Bayesian解释
考虑
我们将会证明存在一个RN的Bayesian解释,其数据项(具有损失函数)是一个噪声模型。而稳定化子是函数f的假设空间上的先验知识。
定义
1.
{(,)}l i i D x y =,1,...,i l =是训练样本的集合
2. 给定样本g ,[|]l P f D 是函数f 的条件概率
3. 给定f ,[|]l P D f 是g 的条件概率,即,噪声模型
4. []P f 是随机场f 的先验概率
后验概率P f g可以通过应用如下Bayes规则计算。后验分布[|]
P D f为如果噪声是方差为σ的正态分布,则概率[|]
l
Z是归一化常数。
式中
l
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论