distributed-computing

distributed-computing

文章 0 浏览 7

flink中的子任务数量与资源使用情况之间的关系

我有以下在flink上的工作流程,在3台机器的集群上运行,每个机器上都有4个内核。 HDFS-Scan -> Filter -> Aggregate 我最初将这些运算符的并行性设置…

眉目亦如画i 2025-01-22 19:12:25 2 0

在火花中,有很多小工人或几个大工人更好

火花群集由将任务分配给多个工人节点的驱动程序组成。每个工人都可以承担等于可用核心数量的许多任务。因此,我认为任务完成的速度取决于可用的核心。…

冷…雨湿花 2025-01-22 06:50:22 2 0

并行使用Allgather的另一个嵌套循环的环路

我正在尝试使用Allgather在此处平行于嵌套的循环 for (int i=0; i

雨的味道风的声音 2025-01-20 22:04:40 4 0

如何将作品分发给计算机池

我有一些数据需要处理。数据是一棵树。处理过程是这样的:取一个节点 N。检查它的所有子节点是否都已被处理。如果没有,请先处理它们。如果是,则处理…

老子叫无熙 2025-01-20 21:51:47 2 0

筏如何保证可以始终选出领导者?

Raft 论文 说: Raft 使用投票过程来阻止候选人赢得选举 选举,除非其日志包含所有已提交的条目。候选人 必须联系集群的大多数才能当选,这 意味着每…

静若繁花 2025-01-20 05:32:50 4 0

Apache Beam - 在另一个聚合中使用一个聚合的输出

我是Apache Beam的新手,来自Pyspark的DataFrame API。我在另一个梁计算中使用一个梁计算的输出遇到了麻烦。基本上,我想执行一个聚合,该聚合产生一…

海未深 2025-01-19 11:56:04 5 0

如何监控并报告异步调用并发 lambda 的失败?

我有这个lambda,其中首先调用自己30-40次以同时处理数据。使用异步火灾发生调用,忘记事件调用类型。一个实例显然在调用完成后死亡。 我希望第一个la…

穿越时光隧道 2025-01-18 20:25:19 3 0

为什么平等分区的数据工作速度更快?

repartition()用新的分区重新分布了不同节点之间的数据,并且 cocece 做同样的事情,但它可以使某些原始分区保持不混乱并在其中添加其他分区。 为…

可遇━不可求 2025-01-18 10:23:59 1 0

在 Matlab 中通过多个 GPU 处理大型密集矩阵

只是矩阵 A 乘以矩阵 B(以及其他简单的运算),但每个矩阵(A 或 B)对于单个 GPU 来说都很大,无法存储。 A = rand(10000,10000) A = distributed(A…

你的笑 2025-01-17 11:10:26 2 0

可以水平扩展的服务上的分布式操作序列

我有一个微服务分布式操作序列。服务 A 需要告诉服务 B 做某事,一旦完成,它将告诉服务 C。顺序很重要,所以我使用 saga 模式,如您所见。 我的问题…

z祗昰~ 2025-01-15 03:47:05 5 0

Erlang - 创建整数(分布式 pid 表示的一部分)实际上是如何创建的?

在分布式 Erlang 系统中,pid 可以有两种不同的表示形式: i) 内部; ii) 外部。 内部表示具有以下形状: 外部表示(例如当消息必须穿过不同节点时使…

明媚如初 2025-01-15 02:59:14 5 0

有没有办法在AWS上用Python执行分布式代码?

我用 Python 创建了一个用于浏览网站的爬虫。它拉取许多链接,然后它必须访问每个链接拉取数据并解析和存储结果。 是否有一种简单的方法来运行分布在…

誰認得朕 2025-01-13 14:52:59 3 0

如何在 kademlia 中找到给定键的值?

Kademlia 有 4 条 RPC 消息: ping store find_node find_value Kademlia 节点如何查找给定键的值?给定一个 id,很明显,对于 $n$ 大小的网络中的节…

莫相离 2025-01-11 20:26:50 5 0

Dask:任务停滞?

我有一个 dask 批量推理工作负载,它对 50 万行特征应用机器学习预测。我在 AWS 上的 EMR 实例上使用 dask-yarn。似乎有一些掉队的人阻碍了达斯克,我…

梅倚清风 2025-01-10 14:24:06 4 0

通过 JNDI 客户端访问企业资源

在大型java 企业基础设施中,我体验到了一种如何从多个JNDI 服务器访问资源的模式,例如不同的应用程序服务器,每个服务器都服务于一个企业bean 模块…

鸢与 2025-01-08 19:14:16 6 0
更多

推荐作者

梦断已成空

文章 0 评论 0

瞎闹

文章 0 评论 0

寄意

文章 0 评论 0

似梦非梦

文章 0 评论 0

更多

友情链接

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文