spark core 有没有类似连表查询的操作
问题是这样的
val list= List((1,2),(3,5),(6,9))
val list2= List((3,4),(5,9),(9,12))
这两个list我写入rdd,然后想让list每一个元素的value查找list2的key进行合并,像这样
(3,5)(5,9)=> (5,9)
请问如何可以做到
解决方法:
val list= List((1,2),(3,5),(6,9))
val list2= List((5,4),(5,9),(9,12))
val spark = new SparkContext(conf)
val rdd1 = spark.parallelize(list).map(x=>(x._2,x._1))
val rdd2 = spark.parallelize(list2)
val union3=rdd1.join(rdd2).values
union3.collect().foreach(x=>println(x+" "))
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论
评论(1)
把list的key value调换然后和list2进行join就可以了
如果用SparkSQL更简单~