文章来源于网络收集而来,版权归原创者所有,如有侵权请及时联系!
3.3 Hadoop Cluster 集群配置
3.3.1 Hadoop 组件的版本配置
表格 11 Hadoop 系列版本配置
程序 | stable 版本 | 2017stable 版本 | 简介 | 下载 |
---|---|---|---|---|
JDK | 8.0_45 | 9.0 | java 基础 | |
Hadoop | 2.6.4 | 2.9.0 | Hadoop common 包括 MapReduce 和 HDFS. | http://mirrors.cnnic.cn/apache/Hadoop/common |
ZooKeeper | 3.4.6 | 分布式监控 | http://zookper.apache.org/ | |
HBase™ : | 1.2.4 | 1.3.0 | 分布式、按列存储数据库 | http://hbase.apache.org/ |
Hive | 1.2.1 | 分布式、按列存储的数据仓库 | http://Hive.apache.org/ | |
sqoop | 1.99.7 | Hadoop(Hive) 与其它数据库之间转换 | http://sqoop.apache.org/ | |
MapReduce | ||||
spark | 1.6.2 | UC Berkeley AMP lab (加州大学伯克利分校的 AMP 实验室) 所开源的类 Hadoop MapReduce 的通用并行框架 | http://spark.apache.org/ | |
storm | 0.9.7 | 实时计算 | http://storm.apache.org/ | |
表格 12 Hadoop 节点规划
节点 | 安装软件 | 进程 |
---|---|---|
hsm01 | jdk, Hadoop, zookeeper, hbase, Hive, sqoop, spark | NameNode, ResourceManager, JournalNode, QuorumPeerMain, DFSZKFailoverController, HMaster, Worker, Master |
hss01 | jdk, Hadoop, zookeeper, hbase, spark | NameNode, ResourceManager(需单独启动), JournalNode, QuorumPeerMain, DataNode, NodeManager, DFSZKFailoverController, Worker |
hss02 | jdk, Hadoop, zookeeper, hbase, mysql, spark | DataNode, NodeManager, JournalNode, QuorumPeerMain, Worker |
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论