如何检测具有一定模糊性的重复文本

发布于 2024-07-08 01:15:47 字数 486 浏览 15 评论 0原文

不久前,我写了小脚本 使用 Text::DeDupe 删除博客文章的重复项,然后我必须我的目光落在他们身上。

阅读网络句法聚类论文后实现是基于的,我希望能够找到重叠的文档(例如博客片段而不是全文,也许还有引用)。

您是否知道我可以在编写自己的 C、C++ 或 Perl 实现之前尝试其他任何实现?

Some thing ago, I write small script using Text::DeDupe to remove duplicates of blog posts before I have to lay my eyes on them.

After reading Syntactic Clustering of the Web paper on which implementation is based, I would love to have ability to find overlapping documents (e.g. snippets of blogs as opposed to full text, maybe also quotes).

Do you know of any other implementation in C, C++ or perl which I can try out before writing my own?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文