返回介绍

3.1 Hadoop 集群开放端口

发布于 2024-09-23 22:13:01 字数 1951 浏览 0 评论 0 收藏 0

HDFS 对外提供了可供访问的 http server,开放了很多端口,下面介绍常用的几个端口。

表格 16 haddop 集群管理的 WEB 缺省端口

模板端口进程用途配置参数
HDFS50070NameNode core-default.xml dfs.http.address
 50075DataNode hdfs-default.xml dfs.datanode.http.address
 50090SecondaryNameNode mapred-default.xml,指向监听端口 9000
MR50030JobTracker mapred-default.xml mpared.job.tracker.http.address
 50060TaskTracker mapred-default.xml mpared.task.tracker.http.address
 8088 Hadoop cluster 集群管理, YARNResourceManager, apllications
 8042 Hadoop cluster node 
Spark4040 Spark 集群管理页面spark 当前运行模式(如 pyspark/spark-shell)的管理页面,包括 jobs, stage, storage, environment, executors.
 8081MasterSpark master8080+1, 缺省 8080,若端口被占用,顺延
 8082WorkerSpark worker8080+2, 指向 master 7077,cluster 6066
Hive    
HBase60010 HBase 查看 HBase 集群 

备注:1. 可用 lsof -i 或者 netstat -npl 或 jps 查看端口及对应服务进程。

  1. Hadoop 守护进程向用户提供的 HTTP 地址有以下几种:
  • /loglevel 日志级别
  • /statcks:显示当前所有线程的堆栈情况,主要用于调试
  • /metrics:显示所有 metrics 信息。
  • /logs:显示所有日志文件

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文