Hadoop 每个文件块大小

发布于 2025-01-02 17:53:35 字数 176 浏览 0 评论 0原文

在 Hadoop 书中,我们可以在创建文件时指定每个文件的块大小。

“增加分割大小的最自然的方法是通过设置 dfs.block.size 或在文件构建时基于每个文件在 HDFS 中拥有更大的块。”

知道如何在文件构建时执行此操作。我希望通过将其设置为 value = file-size ,文件不会被分割

In Hadoop book it is said that we can specify per-file block size at the time of creation of file.

"The most natural way to increase the split size is to have larger blocks in HDFS, by setting dfs.block.size, or on a per-file basis at file construction time."

Any idea how to do this at file construction time. I hope by setting this to value = file-size, the file will not be split

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

吲‖鸣 2025-01-09 17:53:35

您可以使用CLI:

hadoop fs -D dfs.block.size=file-size -put local_name remote_location

或者当您想要创建或复制文件时,您可以使用Java API来指定dfs.block.size。

Configuration conf = new Configuration();
conf.setInt("dfs.block.size",file-size);

you can use CLI:

hadoop fs -D dfs.block.size=file-size -put local_name remote_location

or you can use Java API to specify the dfs.block.size when you want to create or copy files.

Configuration conf = new Configuration();
conf.setInt("dfs.block.size",file-size);
~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文