hdfs资源同步问题

发布于 2021-11-30 23:05:28 字数 232 浏览 852 评论 2

场景如下:

1.2个集群互不通信,只有2台主机可以通过sftp命令连接。

2.主机1上有个磁盘约50G,需要先从集群A上hdfs fs -get文件,然后通过sftp命令拉回到主机2上,由于hdfs文件约400G,所以需要分批执行

3.在主机2上使用hadoop -put命令上传到集群2


这样的自动化脚本应该怎么写,需要每周都执行一次

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

怎言笑 2021-12-01 15:08:27

两个集群是不通的,我解决了,通过expect脚本来弄的

眼眸里的那抹悲凉 2021-12-01 11:08:34

hadoop distcp 命令在copy

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文