返回介绍

Pig GROUP 运算符

发布于 2024-06-23 16:54:49 字数 6860 浏览 0 评论 0 收藏 0

GROUP 运算符

GROUP运算符用于组中的数据的一个或多个关系。它收集具有相同key的数据。
语法
下面给出的是组运算符的语法。

  1. grunt> Group_data = GROUP Relation_name BY age;

假设我们在HDFS目录/pig_data/中有一个名为student_details.txt的文件,如下所示。

  1. 001,Rajiv,Reddy,21,9848022337,Hyderabad
  2. 002,siddarth,Battacharya,22,9848022338,Kolkata
  3. 003,Rajesh,Khanna,22,9848022339,Delhi
  4. 004,Preethi,Agarwal,21,9848022330,Pune
  5. 005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
  6. 006,Archana,Mishra,23,9848022335,Chennai
  7. 007,Komal,Nayak,24,9848022334,trivendram
  8. 008,Bharathi,Nambiayar,24,9848022333,Chennai

并且我们已将这个文件以关系名称Student_details加载到Apache Pig中,如下所示。

  1. grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
  2. as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);

现在,让我们按age对关系中的记录/元组进行分组,如下所示。

  1. grunt> group_data = GROUP student_details by age;

验证
如下所示,使用DUMP运算符验证关系group_data。

  1. grunt> Dump group_data;

然后,您将获得输出,显示名为group_data的关系的内容,如下所示。在这里您可以观察到生成的模式有两列-
一个是age,通过它我们将关系分组。
另一个是一个bag,其中包含元组,带有相应年龄的学生记录。

  1. (21,{(4,Preethi,Agarwal,21,9848022330,Pune),(1,Rajiv,Reddy,21,9848022337,Hydera bad)})
  2. (22,{(3,Rajesh,Khanna,22,9848022339,Delhi),(2,siddarth,Battacharya,22,984802233 8,Kolkata)})
  3. (23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)})
  4. (24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)})

使用describe命令对数据进行分组后,可以看到表的架构,如下所示。

  1. grunt> Describe group_data;
  2. group_data: {group: int,student_details: {(id: int,firstname: chararray,lastname: chararray,age: int,phone: chararray,city: chararray)}}

以同样的方式,您可以使用Illustra命令获得该模式的样本插图,如下所示。

  1. $ Illustrate group_data;

它将产生以下输出:

  1. -------------------------------------------------------------------------------------------------
  2. |group_data| group:int | student_details:bag{:tuple(id:int,firstname:chararray,lastname:chararray,age:int,phone:chararray,city:chararray)}|
  3. -------------------------------------------------------------------------------------------------
  4. | | 21 | { 4, Preethi, Agarwal, 21, 9848022330, Pune), (1, Rajiv, Reddy, 21, 9848022337, Hyderabad)}|
  5. | | 2 | {(2,siddarth,Battacharya,22,9848022338,Kolkata),(003,Rajesh,Khanna,22,9848022339,Delhi)}|
  6. -------------------------------------------------------------------------------------------------

按多列分组

让我们按age和city分组关系,如下所示。

  1. grunt> group_multiple = GROUP student_details by (age, city);

您可以使用Dump运算符验证名为group_multiple的关系的内容,如下所示。

  1. grunt> Dump group_multiple;
  2. ((21,Pune),{(4,Preethi,Agarwal,21,9848022330,Pune)})
  3. ((21,Hyderabad),{(1,Rajiv,Reddy,21,9848022337,Hyderabad)})
  4. ((22,Delhi),{(3,Rajesh,Khanna,22,9848022339,Delhi)})
  5. ((22,Kolkata),{(2,siddarth,Battacharya,22,9848022338,Kolkata)})
  6. ((23,Chennai),{(6,Archana,Mishra,23,9848022335,Chennai)})
  7. ((23,Bhuwaneshwar),{(5,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar)})
  8. ((24,Chennai),{(8,Bharathi,Nambiayar,24,9848022333,Chennai)})
  9. (24,trivendram),{(7,Komal,Nayak,24,9848022334,trivendram)})

全部分组

您可以按如下所示的所有列对关系进行分组。

  1. grunt> group_all = GROUP student_details All;

现在,验证关系group_all的内容,如下所示。

  1. grunt> Dump group_all;
  2. (all,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334 ,trivendram),
  3. (6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336,Bhuw aneshwar),
  4. (4,Preethi,Agarwal,21,9848022330,Pune),(3,Rajesh,Khanna,22,9848022339,Delhi),
  5. (2,siddarth,Battacharya,22,9848022338,Kolkata),(1,Rajiv,Reddy,21,9848022337,Hyd erabad)})

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文