R作业作业排队/工作负载管理

发布于 2024-11-08 01:29:43 字数 443 浏览 0 评论 0原文

我花了一些时间在 Google 上寻找 R 的排队/负载均衡器包。

我想要实现的目标:

  • 从远程前端执行多个相互独立的 R 函数
  • 2 个双核服务器作为 R 后端,

利用 :

  • 每个函数通常平均每 5 分钟处理一次
  • (但可以同时),一组 8-15 个要执行的函数被发送到后端(排队等待处理:首先先入先出)。 5分钟是平均值,可以同时发送多组,并且
  • 2x2 R实例已经在运行,加载了所需的包,它们总是相同的,因此不需要一直重新加载它们
  • 传输的输入数据量非常低:最大 50k

这里没有代码并行化主题(snow、snowfall foreach、condor 和其他传统集群解决方案)

您知道为 R 设计的一个好的包/工具可以提供帮助吗?

多谢 !

I have been spending some time on Google looking for a queuing / load balancer package for R.

What I am trying to achieve:

  • executing multiple independant from eachother R functions from remote front ends
  • taking advantage of 2 dual-core servers as R backend

Knowing that:

  • each functions is usually processed in 10 to 30 seconds
  • every 5 min on average (but it can at the same time) a set of 8-15 functions to be executed is being sent to the backend (queued for processing: first in first out). The 5 min is an average, several sets can be sent at the same time as well
  • the 2x2 R instance would already be running, with the required packages loaded, they are always the same, so no need to re-load them all the time
  • input amount of data being transfered is very low: 50k max

There is no code parallelization subject here (snow, snowfall foreach, condor and other traditionnal cluster solutions)

Would you know a good package/tool designed for R which could help ?

Thanks a lot !

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

话少心凉 2024-11-15 01:29:43

这听起来像是使用 RApache 的合理上下文,它可以实例化多个 R 实例和必要的包。

This sounds like a reasonable context for using RApache, which can instantiate several R instances and necessary packages.

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文