使用特征频率训练分类器（朴素贝叶斯）的 Python NLTK 代码片段

Question

我想知道是否有人可以帮助我通过一段代码片段来演示如何使用特征频率方法而不是特征存在来训练朴素贝叶斯分类器。

我认为以下内容如第 6 章所示 链接文本是指使用功能存在（FP）创建功能集 -

def document_features(document): 
    document_words = set(document) 

    features = {}
    for word in word_features:
        features['contains(%s)' % word] = (word in document_words)

    return features

请建议

Answer 1

在您发送的链接中，它说这个函数是特征提取器，它只是检查这些单词中的每一个是否存在于给定文档中。

下面是整个代码，每行都有编号：

1     all_words = nltk.FreqDist(w.lower() for w in movie_reviews.words())
2     word_features = all_words.keys()[:2000] 

3     def document_features(document): 
4          document_words = set(document) 
5          features = {}
6          for word in word_features:
7               features['contains(%s)' % word] = (word in document_words)
8          return features

在第 1 行中，它创建了所有单词的列表。

第 2 行采用最常见的 2000 个单词。

3 函数的定义

4 转换文档列表（我认为一定是列表），将列表转换为集合。

5 声明一个字典

6 迭代所有最常见的 2000 个单词

7 创建一个字典，其中键为“contains(theword)”，值为 true 或 false。如果文档中存在该单词，则为 true，否则为 false

8 返回字典，该字典显示文档是否包含最常见的 2000 个单词。

这能回答你的问题吗？

Answer 2

对于训练，创建适当的 FreqDists，您可以使用它来创建 ProbDists，然后可以将其传递到 NaiveBayesClassifier。但分类实际上适用于特征集，它使用布尔值，而不是频率。因此，如果您想基于 FreqDist 进行分类，则必须实现自己的分类器，该分类器不使用 NLTK 功能集。

Answer 3

这是一个可以帮助您的方法：

''' Returns the frequency of letters '''
def get_freq_letters(words):
    fdist = nltk.FreqDist([char.lower() for word in words for char in word if char.isalpha()])
    freq_letters = {}
    for key,value in fdist.iteritems():
        freq_letters[key] = value
    return freq_letters