返回介绍

加速案例

发布于 2024-06-23 17:58:49 字数 1961 浏览 0 评论 0 收藏 0

https://www.wenjiangs.com/wp-content/uploads/2024/docimg5/poster.png这个教程展示了如何通过并行修饰符 @parl.remote_class ,使用python的 多线程 也能够实现并行计算。 众所周知,python 的多线程并发性能并不好,很难达到传统的编程语言比如C++或者JAVA这种加速效果,主要的原因是python 有全局锁(GIL)的限制,使得其最多只能运用单核来记性运算。

下面我们通过一个简单的例子来看下GIL对于python的影响。首先,我们跑下这段代码:

class A(object):
    def run(self):
        ans = 0
        for i in range(100000000):
            ans += i
a = A()
for _ in range(5):
    a.run()
这段代码需要 17.46秒 的时间来计算5次的从1累加到1亿。 接下来我们通过python的原生多线程库改造下上面的代码,让它可以多线程跑起来。
import threading

class A(object):
    def run(self):
        ans = 0
        for i in range(100000000):
            ans += i
threads = []
for _ in range(5):
    a = A()
    th = threading.Thread(target=a.run)
    th.start()
    threads.append(th)
for th in threads:
    th.join()
运行这段代码之后,居然需要 41.35秒 ,比刚才的串行运算速度更慢。主要的原因是GIL限制了python只能单核运算,使用了多线程运算之后,触发了多线程竞争CPU的问题,反而延长了计算时间。 最后,我们尝试使用PARL:
import threading
import parl

@parl.remote_class
class A(object):
    def run(self):
        ans = 0
        for i in range(100000000):
            ans += i
threads = []
parl.connect("localhost:6006")
for _ in range(5):
    a = A()
    th = threading.Thread(target=a.run)
    th.start()
    threads.append(th)
for th in threads:
    th.join()
https://www.wenjiangs.com/wp-content/uploads/2024/docimg5/elapsed_time.jpg这段代码只需要 4.3秒 就能跑完!PARL在这里做的改动只有两行代码,但是我们却看到了运算速度的极大提升,具体的效果对比可以看下图。 在我们下一个教程中,我们将会展示如何在不使用多线程的情况下实现并行计算。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文