spark standalone 模式下 怎么配置hadoop

发布于 2022-09-02 11:11:14 字数 253 浏览 15 评论 0

spark standalone 模式已经跑起来了一个集群,一台master 两台slave

图片描述

这个时候怎么配置hadoop,看了一下官网都是hadoop-yarn模式配置,求指教,是说hadoop也要配置为standalone模式么?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

段念尘 2022-09-09 11:11:14

如果你这里的hadoop指的是hdfs,zookeeper等基础的话,直接配就行了,装好hdfs,zookeeper即可,不明白你说的配置hadoop具体指的是什么

ま柒月 2022-09-09 11:11:14

Hadoop2.x其实就是yarn,资源管理平台了。spark on yarn是将spark运行在yarn上,资源分配回收由yarn自动管理。我想你所说的用Hadoop指的只是用hdfs,Hadoop和spark各自集群搭好,可以用zk进行ha。spark直接操作hdfs就可以了。

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文