Spark 的 executor memory 不影响系统的执行效率
我自己搭建了一个 Spark 开发测试环境。配置是 2 CPU，8G 内存，单机 standalone 模式部署。我运行了三次我的ALS程序（数据集每次都一样的），三次运行的 executor 内存大小均不同。但是三次运行的耗时都是一样的，有点想不通。为什么内存大了不会影响系统的执行效率。
如果你对这篇内容有疑问，欢迎到本站社区发帖提问 参与讨论，获取更多帮助，或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱，如果其他用户或者作者回复了您的评论，将不能在第一时间通知您！
发布评论
评论（1）
内存足够用的情况下，再怎么增加executor的内存都不会加快执行速度，应该设置并行度