如何把自己的算法迁移到spark平台

发布于 2022-09-05 09:30:41 字数 437 浏览 25 评论 0

刚接触spark平台没多久,最近在spark上面练手的时候,发现spark把一些函数私有化了,导致在自己的项目中不能使用,比如:

import org.apache.spark.mllib.linalg.BLAS

会报错:

symbol BLAS is inaccessible in this place

我google了一下发现是因为源码中,mllib把重写的BLAS私有化了:

private[spark] object BLAS ...

除此之外,还包括了fromBreeze,toBreeze函数等等

那么,如果要把自己的算法迁移至spark平台,其中涉及线性代数的计算,你们都是怎么解决的?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。

评论(1

听,心雨的声音 2022-09-12 09:30:41

你好,这个问题解决啦没有?我也遇到同样的问题。

~没有更多了~
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文