Change Dir

先知cd——热爱生活是一切艺术的开始

统计

留言簿(18)

积分与排名

“牛”们的博客

各个公司技术

我的链接

淘宝技术

阅读排行榜

评论排行榜

贝叶斯决策——总结笔记

        贝叶斯决策论的基本思想非常简单。为最小化总风险,总是选择那些能够最小化条件风险R(a|x)的行为。尤其是,为了最小化分类问题中的误差概率,总是选择那些使后验概率P(wj|x)最大的类别。贝叶斯公式允许我们通过先验概率P(wj)和条件密度p(x|wj)来计算后验概率。如果对在模式wj中所做的误分的惩罚与模式wj的不同,那么在做出判决行为之前,必须先根据该惩罚函数对后验概率加权。
        如果内在分布为多元的高斯分布,判决边界将是超二次型,其形状和位置取决于先验概率、该分布的均值和协方差。实际的期望误差率的上界可由Chernoff界和计算上较简单的Bhattacharyya界来确定。如果其输入测试模式具有丢失或遭到破坏的特征量,必须通过在这些特征量上积分来形成边缘分布,然后将贝叶斯决策过程用于其所得分布上。
        而实际操作中,我们得到的多是包含各种属性的特征数据,从中定义风险函数、先验概率和条件概率往往是重要的前提操作。这样在给定了有限数据的情况下,这些概率的获取就是统计的事情了。下一步问题就是获取这些概率,那么常用的方法就是最大似然估计和贝叶斯参数估计了。

posted on 2010-09-15 11:23 changedi 阅读(981) 评论(0)  编辑  收藏 所属分类: 机器学习


只有注册用户登录后才能发表评论。


网站导航: