Amazon MapReduce 没有减速器作业

发布于 2024-08-16 16:17:49 字数 209 浏览 2 评论 0原文

我正在尝试通过 AWS 创建一个仅映射器作业(流作业)。 reducer 字段是必需的,因此我提供了一个虚拟可执行文件,并将 -jobconf mapred.map.tasks=0 添加到 Extra Args 框中。在我安装的 hadoop 环境(版本 0.20)中,不会启动任何减速器作业,但在 AWS 中,虚拟可执行文件启动并失败。

如何在 AWS 中运行仅无减速器/映射器的作业?

I am trying to create a mapper only job via AWS (a streaming job).
The reducer field is required, so I am giving a dummy executable, and adding -jobconf mapred.map.tasks=0 to the Extra Args box. In the hadoop environment (version 0.20) I've installed, no reducer jobs will launch, but in AWS the dummy executable launches and fails.

How can run a no reducer/ mapper only jobs in AWS?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

柒夜笙歌凉 2024-08-23 16:17:49

您还可以使用 cat 或 NONE 作为减速器参数。

you can also use cat or NONE as reducer argument.

清秋悲枫 2024-08-23 16:17:49

无法在亚马逊 M/R 中创建仅映射器作业。
我正在使用身份减速器(org.apache.hadoop.mapred.lib.IdentityReducer)。

There is no way to create a mapper only job in amazon M/R.
I am using the Identity reducer (org.apache.hadoop.mapred.lib.IdentityReducer) instead.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文