如何检测Lucene索引中是否已经存储了相似的文档

Question

我需要排除数据库中的重复项。问题是重复的文档不被视为完全匹配，而是被视为相似的文档。为此，我决定使用 FuzzyQuery，如下所示：

var fuzzyQuery = new global::Lucene.Net.Search.FuzzyQuery(
                     new Term("text", queryText),
                     0.8f,
                     0);
 hits = _searcher.Search(query);

这个想法是将最小相似度设置为 0.8（我认为足够高），这样只会找到相似的文档，排除那些不够相似的文档。

为了测试这段代码，我决定看看它是否找到已经存在的文档。为变量 queryText 分配了一个存储在索引中的值。上面的代码什么也没发现，换句话说，它甚至没有检测到完全匹配。

索引是通过以下代码构建的：

 doc.Add(new global::Lucene.Net.Documents.Field(
            "text",
            text,
            global::Lucene.Net.Documents.Field.Store.YES,
            global::Lucene.Net.Documents.Field.Index.TOKENIZED,
            global::Lucene.Net.Documents.Field.TermVector.WITH_POSITIONS_OFFSETS));

我遵循了下面的建议，结果是： TermQuery 不返回任何结果。 构造的查询

 var _analyzer = new RussianAnalyzer();
 var parser = new global::Lucene.Net.QueryParsers
                .QueryParser("text", _analyzer);
 var query = parser.Parse(queryText);
 var _searcher = new IndexSearcher
       (Settings.General.Default.LuceneIndexDirectoryPath);
 var hits = _searcher.Search(query);

返回具有完全匹配的文档和其他具有相似内容的文档的最高分数的多个结果。

Answer 1

查看索引内部可能会有所帮助 - 将清楚地显示您正在查询的数据以及 Lucene 如何“查看”您的数据。您可以使用 Luke 来实现此目的。它与 Lucent.NET 存在一些已知的兼容性问题，但总比没有好得多反正。

Answer 2

我赞同对卢克的建议。其他一些要尝试的事情：

1. 首先尝试精确查询，例如针对术语“文本”的 TermQuery。如果这不起作用，则模糊查询将不起作用。
2. 使用 Explain() 查看得分情况（前提是您获得其他命中）。
3. 请遵循调试相关性问题中的建议搜索。

Answer 3

尝试 MoreLikeThis 类在 Lucene 中...它有一些很棒的启发式编码，可以帮助您识别“相似”文档。