贝叶斯分类器


贝叶斯分类是统计学的一个分类方法,基于贝叶斯定理。首先贝叶斯分类的一个核心如果是一个属性值对给定类的影响独立于其它属性的值(类条件独立)


先来看下条件概率:


AB是两个事件,且P(B)>0,则称为在事件B发生的条件下,事件A的条件概率。


再来看一下贝叶斯定理:。


当中:

X是类标识未知的数据样本(或数据元组)

如:35岁收入$4000的顾客


H是数据样本X属于某特定类C的某种假定。

如:如果顾客将购买计算机


P(H/X):条件XH的后验概率

如:知道顾客年龄与收入时,顾客将购买计算机的概率


P(H):H的先验概率,即在我们观察不论什么样本前的初始概率,它反应了背景知识。

如:随意给定的顾客将购买计算机的概率。


P(X):被观察的样本数据的概率

如:顾客中年龄35岁收入$4000的概率


P(X|H):条件H下。X的后验概率

如:已知顾客购买计算机。该顾客为35岁收入$4000的概率

朴素贝叶斯分类器


因为PX)对于不论什么一个类别H而言,其值都是固定的,因此在计算PH|X)时不须要考虑。


上面已经提到了朴素贝叶斯分类的核心如果是X向量中的每个參数xixj之间都是相互独立的(类条件独立)。因此有以下计算P(X|H)的公式:

可将Ci看成为H


对未知样本X分类,也就是对每一个类Ci。计算p(X|Ci)*p(Ci)


样本X被指派到类Ci,当且仅当p(Ci|X)>p(Cj|X),1jm,ji,换言之,X被指派到p(X|Ci)*p(Ci)最大的类。


有了上面的知识,朴素贝叶斯分类器就变成了简单的概率计算了。基于训练集的数据。事先计算出每一个类别的概率PCi),再计算出每一个类别下每一个參数的概率Pxi|Ci)。当面临一个新样本时,利用上面简化的贝叶斯公式计算出P(Ci|X),值最大的Ci记为分类结果。为了防止出现零概率现象,能够在保存的每一个概率的分子分母都+1


以下看一个样例:

watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQvZXBsdWd1bw==/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center" alt="">

优质内容筛选与推荐>>
1、iOS开发常见问题
2、通过判断浏览器的userAgent,用正则来判断是否是ios和Android客户端
3、poj 3278 Catch That Cow bfs
4、javascript控制图片如何在Word中显示
5、多浏览器pre自动换行


长按二维码向我转账

受苹果公司新规定影响,微信 iOS 版的赞赏功能被关闭,可通过二维码转账支持公众号。

    阅读
    好看
    已推荐到看一看
    你的朋友可以在“发现”-“看一看”看到你认为好看的文章。
    已取消,“好看”想法已同步删除
    已推荐到看一看 和朋友分享想法
    最多200字,当前共 发送

    已发送

    朋友将在看一看看到

    确定
    分享你的想法...
    取消

    分享想法到看一看

    确定
    最多200字,当前共

    发送中

    网络异常,请稍后重试

    微信扫一扫
    关注该公众号