MapReduce

MapReduce

文章 106 浏览 158

使用mapred或mapreduce包来创建Hadoop作业更好吗?

要创建 MapReduce 作业,您可以使用旧的 org.apache.hadoop.mapred 包或较新的 org.apache.hadoop.mapreduce 包来处理 Mappers 和 Reducers、作业。 .…

維他命╮ 2024-12-07 05:32:15 1 0

为什么Mapreduce中完成的任务数量减少了?

在运行 hadoop 作业时,我注意到有时已完成的任务数量会减少,而取消的任务数量会增加。 这怎么可能?为什么会发生这种情况?…

橘和柠 2024-12-06 21:05:28 1 0

使用简单的map-reduce列出存储桶中的所有键与bucket.get_keys()?

根据 Riak 的文档(使用 Python 绑定), get_keys () 非常昂贵,不适合生产。我的问题是非常简单的地图查询是否合适。例如,仅使用带有以下函数的映…

相守太难 2024-12-06 19:46:20 1 0

Mapreduce值列表顺序问题

正如我们所知,Hadoop 按每个键对值进行分组,并将它们发送到相同的reduce 任务。 假设我在 hdfs 上的文件中有下一行。 第1行 第2行 3号线 .... 亚麻…

戴着白色围巾的女孩 2024-12-06 18:07:44 1 0

是否可以添加“组合”进入 Amazon Elastic MapReduce 工作流程?

我指的是 Hadoop wiki 上提到的合并步骤。我无法在 AWS 文档中找到对此的参考,我想利用此步骤。…

忆离笙 2024-12-06 17:41:31 1 0

Hadoop java映射器作业在从节点上执行,目录问题

作为 Java 映射器的一部分,我有一个命令在本地从属节点上执行一些独立代码。当我运行代码时,它执行得很好,除非它尝试访问某些本地文件,在这种情况…

染柒℉ 2024-12-06 17:36:27 1 0

RavenDB 嵌套属性索引查询

sss我目前有一个名为 SchoolMetrics 的索引,它聚合了 School 字段上的多个字段作为键并生成如下文档: { School: { SchoolId: 1234 Name: "asdf" } S…

雾里花 2024-12-06 17:29:24 1 0

Hadoop java映射器-copyFromLocal堆大小错误

作为 Java 映射器的一部分,我有一个命令在本地节点上执行一些代码并将本地输出文件复制到 hadoop fs。不幸的是我得到以下输出: VM初始化期间发生错…

沙与沫 2024-12-06 15:29:25 1 0

如何在hadoop的新api中设置setMaxMapTaskFailuresPercent?

以前,您可以使用以下命令设置最大失败百分比: JobConf.setMaxMapTaskFailuresPercent(int) 但现在,这已经过时了。 job.getConfiguration().set("ma…

赠佳期 2024-12-06 15:05:10 1 0

如何告诉 hadoop 为单个映射器作业分配多少内存?

我创建了一个 Elastic MapReduce 作业,并且正在尝试优化其性能。 目前我正在尝试增加每个实例的映射器数量。我通过 mapred.tasktracker.map.tasks.ma…

勿忘初心 2024-12-06 10:58:54 1 0

hadoop:支持MapReduce作业的多个输出

似乎 Hadoop 支持它(参考),但我不知道如何使用它。 我想: a.) Map - Read a huge XML file and load the relevant data and pass on to reduce b.…

秋叶绚丽 2024-12-06 06:25:04 1 0

mongodb:如何在 mongodb shell 上调试 map/reduce

我是 MongoDB 新手,我正在使用 map/reduce。 有人可以告诉我如何在使用 Map/Reduce 时进行调试吗?我使用了“print()”函数,但在 MongoDB shell 上…

屌丝范 2024-12-06 01:23:56 1 0

hadoop 0.20中如何设置map任务的数量?

我正在尝试设置要在 hadoop 0.20 环境中运行的映射任务的数量。 我正在使用旧的 api。 以下是我到目前为止尝试过的选项: conf.set("mapred.tasktrack…

他夏了夏天 2024-12-05 23:05:51 1 0

RavenDB:如何使用多映射/Reduce 索引

我有非常简单的模型: public class PhraseMeta: { public int Id { get; set; } public string ModuleName { get; set; } public string Description…

遗忘曾经 2024-12-05 19:35:07 1 0

Java中MongoDB的MapReduce函数返回null

我的 MongoDB 中有一些测试数据: > db.test2.find() { "_id" : ObjectId("4e76ad8e9d7dc2438ab63dbb"), "name" : "John", "number" : 2 } { "_id" : …

笑忘罢 2024-12-05 15:25:04 2 0
更多

推荐作者

已经忘了多久

文章 0 评论 0

15867725375

文章 0 评论 0

LonelySnow

文章 0 评论 0

走过海棠暮

文章 0 评论 0

轻许诺言

文章 0 评论 0

信馬由缰

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文