nutch

nutch

文章 73 浏览 79

在 Nutch 中分析 Lucene

我正在尝试使用 VisualVM 分析 Nutch。 Lucene 是 Nutch 核心的一部分,负责生成 url 索引并根据某些查询搜索这些索引。我通过 Apache Tomcat 运行 Nu…

桜花祭 2024-10-01 04:11:34 7 0

nutch 和 sitemap.xml

apache-nutch 支持站点地图吗? 或者我如何自己实现它?我如何使用优先字段,是否应该将其乘以增强字段?…

拿命拼未来 2024-09-28 12:06:16 10 0

nutch 爬虫 - 如何设置每个主机的最大内链数

如何设置每个主机索引的最大页数? 我不想索引网站的所有百万个页面,我只想索引前 100000 个找到的页面。…

岁月苍老的讽刺 2024-09-25 23:20:03 8 0

nutch爬虫相对url问题

有没有人遇到过标准 html 解析器插件处理相对 URL 的问题?有一个网站 - http://xxxx/asp/list_books.asp?id_f=11327 当浏览其 href 设置为的链接时 '…

断桥再见 2024-09-25 12:42:01 5 0

找不到段* 文件

我需要访问 lucene 索引(通过使用 Nutch 抓取多个网页创建),但它给出了上面显示的错误: java.io.FileNotFoundException: no segments* file found…

梦里泪两行 2024-09-24 21:27:04 9 0

在 apache solr (trunk) 中集成 apache nutch (版本 1.2) 时出现的问题 - 出现 solr 异常

我已经配置了 solrindex-mapping.xml (nutch) 并配置了我的 solr schema.xml 和 solrconfig.xml 。两者在单次运行中都运行良好,但如果我使用 bin/nut…

权谋诡计 2024-09-18 17:05:22 7 0

solrindex 将 nutch 模式映射到 solr 的方法

我们有几个自定义的 nutch 字段供爬虫抓取并建立索引。通过 solrindex (使用映射文件)将其传输到 solr 效果很好。日志显示一切正常,但是 solr 环境…

眉黛浅 2024-09-16 20:59:15 4 0

MapReduce Nutch 教程

有人能给我指点一下教程,解释如何在 Nutch 中编写 MapReduce 程序吗? 谢谢。…

递刀给你 2024-09-15 10:32:54 10 0

Nutch:获取插件中当前的爬行深度

我想为 nutch 编写自己的 HTML 解析器插件。 我正在通过生成仅落在特定 xpath 中的外链来进行集中爬行。 在我的用例中,我想根据当前爬行的深度从 htm…

旧人 2024-09-14 21:13:20 8 0

使用 nutch+solr 识别文档中的字符串?

我正在研究一种搜索解决方案,该解决方案将识别字符串(公司名称)并使用这些字符串在 Solr 中进行搜索和构面。 我是 Nutch 和 Solr 的新手,所以我想…

青衫负雪 2024-09-14 10:30:19 8 0

solr 搜索引擎的 3 个服务器架构

我准备在solr上搭建一个搜索引擎,用nutch作为爬虫。我必须索引大约 1300 万份文档。 我有 3 台服务器用于这项工作: 4 核 Xeon 3Ghz、20Gb 内存、1.5…

娇妻 2024-09-13 20:13:59 6 0

绕过本地主机身份验证以在 Etherpad 中实现搜索

我正在尝试将基于 Nutch + Solr 的搜索引擎实现到我的 Etherpad 安装中。我遇到的主要问题是 Nutch 不支持 POST 身份验证。 Etherpad 和 Nutch 安装在…

悲凉≈ 2024-09-13 08:16:19 13 0

如何添加“您是说”吗?在 nutch-lucene 搜索引擎中

我在向我的孟加拉搜索引擎实施此建议时遇到问题。 有人可以帮我吗?…

泪意 2024-09-12 04:16:05 9 0

比较 Nutch 与 Heritrix

我想选择上述之一来为特定网站构建爬行框架。这不是互联网范围内的抓取。我不是在构建搜索索引,而是对从网站上抓取特定页面感兴趣。 有人可以详细说…

苦行僧 2024-09-10 11:10:44 7 0

nutch 1.1 schema.xml

我最近下载了最新版本的 nutch。 (nutch-1.1) 在查看其代码时,我注意到有一个conf/schema.xml 文件,它定义了与nutch 捆绑在一起的solr 部分的模式。…

笑红尘 2024-09-10 03:34:11 2 0
更多

推荐作者

十二

文章 0 评论 0

飞烟轻若梦

文章 0 评论 0

OPleyuhuo

文章 0 评论 0

wxb0109

文章 0 评论 0

旧城空念

文章 0 评论 0

-小熊_

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文