使用 NaiveBayes 实现期望最大化算法

Question

我已经实现了具有良好文本过滤的朴素贝叶斯文档分类，并且我已经接受了具有良好准确性的统计结果，我需要使用 EM 算法来增强我的结果。

但我不知道我是否可以将 EM 算法与朴素贝叶斯结果一起应用，或者将算法应用于数据并重新开始，因此我可以比较结果

在这两种情况下我都需要 >理解这个问题上的EM算法，因为它真的让我很困惑

任何解释清楚的文档将不胜感激

Answer 1

EM 通常可以帮助您处理未标记的数据。如果你有一些未标记的数据，你基本上会在这样的循环中使用它。

estimate some initial parameters, perhaps even randomly
while not converged:
  relabel data using estimates
  update estimates using new labels

如果你正在进行监督学习，重新标记步骤会破坏你的标签，并且可能会使你的分类变得更糟。

另一方面，这个是关于用于文本分类的半监督朴素贝叶斯的一个很好的、详细的教程 。如果您有一些小型标记文档集和大量未标记文档，则可以使用它们来估计初始参数，然后对未标记数据执行迭代步骤，最终得到更好的分类器。