刚接触hadoop,关于完全分布式环境下数据处理的问题。
是这样的,在hadoop完全分布式环境下,有一个主节点和两个从节点,我想处理一个很大的数据文件,因为我们有两个从节点,可以通过mapreduce编写程序把数据分成两部分然后分别让每个节点去处理,最后在输出数据?
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
是这样的,在hadoop完全分布式环境下,有一个主节点和两个从节点,我想处理一个很大的数据文件,因为我们有两个从节点,可以通过mapreduce编写程序把数据分成两部分然后分别让每个节点去处理,最后在输出数据?
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
接受
或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
发布评论
评论(1)
那样就失去大数据组件的意义了,你只需要直接把数据上传,hadoop自己会决定由谁来执行计算,不需要人为写代码。