hadoop:四核机器上映射/减少作业的最佳数量

发布于 2024-12-08 12:12:52 字数 263 浏览 0 评论 0原文

我试图通过谷歌找到答案,但没有找到好的参考资料,

- I have a Quad-core Ubuntu box running a map-reduce job.  
- running default 2 maps and taking lot of time  
- what be a good number of map/reduce job for a machine of such config?  

请提出建议
TIA

I tried to find out over the google but no good reference that I found

- I have a Quad-core Ubuntu box running a map-reduce job.  
- running default 2 maps and taking lot of time  
- what be a good number of map/reduce job for a machine of such config?  

Please advice
TIA

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

奢望 2024-12-15 12:12:52

看起来像是一个经验问题。从 1 开始,然后逐步提高一段时间。绘制一条曲线,看看它的结果如何。我希望您可能会在可用核心数量或可用硬件线程数量(您的机器上可能相同)中找到最佳点。然而,进行实际实验是找出答案的最佳方法。

Seems like an empirical problem. Start at 1 and work your way up for awhile. Plot a curve, see how it ends up. I'd expect you'll probably find the sweet spot at either the number of cores available or the number of hardware threads available (may be the same on your box). However, doing the actual experiment is the best way to find out.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文