返回介绍

Pig Cogroup 运算符

发布于 2024-06-23 16:54:49 字数 3882 浏览 0 评论 0 收藏 0

Cogroup操作符或多或少以group同样的方式工作。这两个运算符之间的唯一区别是,group运算符通常与一个关系一起使用,而cogroup运算符用于涉及两个或多个关系的语句中。

使用Cogroup对两个关系进行分组

假设我们在HDFS目录/pig_data/中有两个文件,即student_details.txt和employee_details.txt,如下所示。

  1. 001,Rajiv,Reddy,21,9848022337,Hyderabad
  2. 002,siddarth,Battacharya,22,9848022338,Kolkata
  3. 003,Rajesh,Khanna,22,9848022339,Delhi
  4. 004,Preethi,Agarwal,21,9848022330,Pune
  5. 005,Trupthi,Mohanthy,23,9848022336,Bhuwaneshwar
  6. 006,Archana,Mishra,23,9848022335,Chennai
  7. 007,Komal,Nayak,24,9848022334,trivendram
  8. 008,Bharathi,Nambiayar,24,9848022333,Chennai
  1. 001,Robin,22,newyork
  2. 002,BOB,23,Kolkata
  3. 003,Maya,23,Tokyo
  4. 004,Sara,25,London
  5. 005,David,23,Bhuwaneshwar
  6. 006,Maggy,22,Chennai

并且我们已将这些文件分别以关系名称student_details和employee_details加载到Pig中,如下所示。

  1. grunt> student_details = LOAD 'hdfs://localhost:9000/pig_data/student_details.txt' USING PigStorage(',')
  2. as (id:int, firstname:chararray, lastname:chararray, age:int, phone:chararray, city:chararray);
  3. grunt> employee_details = LOAD 'hdfs://localhost:9000/pig_data/employee_details.txt' USING PigStorage(',')
  4. as (id:int, name:chararray, age:int, city:chararray);

现在,让我们将student_details和employee_details关系的记录/元组与按age进行分组,如下所示。

  1. grunt> cogroup_data = COGROUP student_details by age, employee_details by age;

验证
如下所示,使用DUMP运算符验证关系group_data。

  1. grunt> Dump group_data;

它将产生以下输出,显示名为cogroup_data的关系的内容,如下所示。

  1. (21,{(4,Preethi,Agarwal,21,9848022330,Pune), (1,Rajiv,Reddy,21,9848022337,Hyderabad)},
  2. { })
  3. (22,{ (3,Rajesh,Khanna,22,9848022339,Delhi), (2,siddarth,Battacharya,22,9848022338,Kolkata) },
  4. { (6,Maggy,22,Chennai),(1,Robin,22,newyork) })
  5. (23,{(6,Archana,Mishra,23,9848022335,Chennai),(5,Trupthi,Mohanthy,23,9848022336 ,Bhuwaneshwar)},
  6. {(5,David,23,Bhuwaneshwar),(3,Maya,23,Tokyo),(2,BOB,23,Kolkata)})
  7. (24,{(8,Bharathi,Nambiayar,24,9848022333,Chennai),(7,Komal,Nayak,24,9848022334, trivendram)},
  8. { })
  9. (25,{ },
  10. {(4,Sara,25,London)})

COGROUP 运算符根据年龄对每个关系中的元组进行分组,其中每个组都描述特定的age值。
例如,如果我们考虑结果的第一个元组,则将其按年龄21分组。它包含两个bag:

  • 第一个bag中有第一个关系中所有元组(在这种情况下,student_details)的年龄为21岁,并且
  • 第二个bag包含第二个关系中所有年龄为21岁的元组(在本例中为employee_details)。

如果某个关系中没有age值为21的元组,它将返回一个空包。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文