如何让 Hive 与 bz2 一起工作?

发布于 2024-12-11 18:51:14 字数 429 浏览 0 评论 0原文

由于 bz2 是可拆分的并且节省空间,因此我计划以 bzip2 格式存储表数据。 但它似乎无法识别压缩格式。 gzip 格式没问题。 我使用的代码如下所示:

CREATE TABLE IF NOT EXISTS image_bzip (
    image_id STRING,
    image_feature STRING, 
    other_stuff STRING)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE LOCATION '/hivestore/bzip';

LOAD DATA LOCAL INPATH '/nfs/directory/*.bz2' OVERWRITE INTO TABLE image_bzip;

有人能指出我缺少什么吗?

谢谢。

Since bz2 is splittable and saves space, I'm planning to store the table data in bzip2 format.
However it seems it's not recognizing the compressed format. It was fine with gzip format.
The code I used looks like this:

CREATE TABLE IF NOT EXISTS image_bzip (
    image_id STRING,
    image_feature STRING, 
    other_stuff STRING)
ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE LOCATION '/hivestore/bzip';

LOAD DATA LOCAL INPATH '/nfs/directory/*.bz2' OVERWRITE INTO TABLE image_bzip;

Can somebody point me what I'm missing ?

Thanks.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(2

番薯 2024-12-18 18:51:15

如果我们正确设置压缩编解码器,它自然会起作用。

if we set the compression codec correctly, it works naturally.

薄荷→糖丶微凉 2024-12-18 18:51:15

为什么不尝试在 HDFS 上使用 bz2 压缩文件创建外部表?

why don't you try creating external table with bz2 compressed files on HDFS?

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文