apache-pig

apache-pig

文章 4 浏览 66

使用 Apache Pig Latin 对数据进行条件求和

我正在尝试使用 Apache Pig Latin 进行一些日志处理,我想知道是否有更简单的方法来执行此操作:( filtered_logs = FOREACH logs GENERATE numDay, r…

夕嗳→ 2024-11-27 12:27:52 2 0

迭代连接集后出现 PIG 错误 1066。

尝试将月份中的天数与年月键上的数据集连接起来。在我加入并尝试对集合执行 FOREACH 后,我收到错误:1066 ...后端错误:标量在输出中有多于一行。 这…

挥剑断情 2024-11-27 06:57:48 1 0

Pig Hadoop 流帮助

我在运行 Pig Streaming 时遇到问题。当我启动一个交互式猪实例时(仅供参考,我通过 SSH/Putty 在交互式猪 AWS EMR 实例的主节点上执行此操作),仅…

失去的东西太少 2024-11-26 19:56:45 2 0

顺序运行多个 Pig 脚本的方法有哪些?

我需要在 Hadoop 中顺序运行一些 Pig 脚本。它们必须单独运行。有什么建议吗? 更新 只是一个快速更新,我们正在努力从一个 Java 类运行 Pig 脚本。 O…

我很坚强 2024-11-25 14:37:20 2 0

如何从 PIG 调用 perl 脚本..?

任何人都知道如何从pig脚本调用perl脚本..我也想知道如何从perl调用pig.. 请帮助我。 谢谢, 兰吉斯…

晚雾 2024-11-25 12:37:07 1 0

无法使用单节点hadoop服务器运行pig

我已经用 ubuntu 设置了虚拟机。它作为单个节点运行 hadoop。后来我在上面安装了apache pig。 apache pig 在本地模式下运行得很好,但它总是出现错误 …

多彩岁月 2024-11-25 10:42:15 2 0

Pig:更改输出文件NAME的格式

我正在运行一个弹性 MapReduce 管道,该管道使用多个 Pig 脚本的输出。本质上,pig 脚本的输出存储在 S3 上的某个位置,由于数据量巨大,因此创建的输…

九公里浅绿 2024-11-24 14:30:03 1 0

如何使用 Hive 对大数据进行高效排序(order by)?

我想有效地对大数据集进行排序(即使用自定义分区器,如下所述:MapReduce排序算法是如何工作的?),但我想用hive来实现。 然而,Hive手册指出“orde…

无风消散 2024-11-19 21:20:54 1 0

在hadoop上运行pig找不到结果

我在hadoop集群上运行了一个pig脚本,它成功通过了,但我找不到结果文件,它是这样说的: Output(s): Successfully stored 2 records (122 bytes) in:…

若无相欠,怎会相见 2024-11-19 07:09:03 3 0

使用 Pig 和 Python

如果这个问题措辞不好,我深表歉意:我正在着手一个大规模的机器学习项目,但我不喜欢用 Java 编程。我喜欢用 Python 编写程序。我听说过有关猪的好消…

从此见与不见 2024-11-18 23:15:04 2 0

Apache PIG 问题

我对运行 Pig 脚本/ Map-Reduce 作业有几个问题。 我知道pig在真正开始执行map/reduce作业之前会创建逻辑计划、物理计划以及执行计划;我可以使用命令…

离笑几人歌 2024-11-18 05:15:21 3 0

Pig脚本函数问题

从下面的 Pig 代码中可以看出,我为 Attr1 和 Attr2 重复了一组语句。有没有办法在函数中将其提取出来?代码示例确实很有帮助。 Attr1ValidRecs = FIL…

辞旧 2024-11-18 00:39:44 2 0

将 Hadoop Pig 输出作为 JSON 数据发布到 URL?

我有一个 Pig 作业,它分析日志文件并将摘要输出写入 S3。我不想将输出写入 S3,而是希望将其转换为 JSON 负载并将其 POST 到 URL。 一些注意事项: …

别闹i 2024-11-17 07:11:53 3 0

除了 apache.org 教程之外,还有关于 Pig UDF 的任何有用的教程吗?

我花了几个小时来适应,但我想找到一些其他的练习方法。…

青瓷清茶倾城歌 2024-11-14 11:58:29 1 0

是否可以定义我们自己的比较器类以在 Pig 中使用 order by ?

我想使用我自己的比较器类来订购元组。 如果我运行一个查询,比如“ B = ORDER A by $0,$1 ” 然后应该根据我的比较器进行排序。 请回复... 谢谢…

烟凡古楼 2024-11-14 09:34:03 2 0
更多

推荐作者

胡图图

文章 0 评论 0

zt006

文章 0 评论 0

z祗昰~

文章 0 评论 0

冰葑

文章 0 评论 0

野の

文章 0 评论 0

天空

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文