云基础架构上的apache火花

发布于 2025-02-12 07:49:15 字数 82 浏览 3 评论 0原文

如何使用云基础架构上的Apache Spark作为服务(IAAS)平台有效地处理给定数据?我有一个超过6000万个数据的数据集,需要有效地运行数据集。

How can I process the given data efficiently using Apache Spark on a cloud Infrastructure as a Service (IaaS) platform? I have a dataset of over 60 million data that I need to run the dataset effectively.

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

晚风撩人 2025-02-19 07:49:15

有很多选择要做。
在Azure中,您可以使用Synapse/Azure数据工厂。
在GCS中,您可以将DataProc群集与Cloud Composer一起使用。提供答案

There are many options to do the same.
In Azure you can use Synapse/Azure Data Factory.
In GCS,you can use Dataproc cluster with Cloud Composer.It would be great if you can mention the whole scenario what is your exact source(csv/RDBMS table/IOT) and what would be the target/sink then it would be easier to provide answer

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文