Hadoop 流最大行长度

发布于 2024-09-07 13:06:28 字数 141 浏览 2 评论 0原文

我正在为 Amazon Elastic MapReduce 开发 Hadoop 流式工作流程,它涉及序列化一些二进制对象并将其流式传输到 Hadoop 中。 Hadoop 对于流输入有最大行长度吗?

我开始用越来越大的线进行测试,但我想我会先在这里问。

I'm working on a Hadoop streaming workflow for Amazon Elastic Map Reduce and it involves serializing some binary objects and streaming those into Hadoop. Does Hadoop have a maximum line length for streaming input?

I started to just test with larger and larger lines but figured I would ask here first.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

念﹏祤嫣 2024-09-14 13:06:28

线路长度似乎没有强加的限制。自从提出这个问题以来,我一直在编写代码来序列化二进制对象,将它们编码为 Base64,然后将它们放入流中进行处理。结果,有些线路很长。 Hadoop 运行正常,没有任何抱怨。

There appears to be no imposed limits on line length. Since asking the question I have been writing code that serializes binary objects, encodes them in base64, then puts them in a stream for processing. As a result, some of the lines are quite long. Hadoop chews right along with no complaints.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文