- 内容提要
- 前言
- 作者简介
- 封面简介
- 第1章 理解高性能 Python
- 第2章 通过性能分析找到瓶颈
- 2.1 高效地分析性能
- 2.2 Julia 集合的介绍
- 2.3 计算完整的 Julia 集合
- 2.4 计时的简单方法——打印和修饰
- 2.5 用 UNIX 的 time 命令进行简单的计时
- 2.6 使用 cProfile 模块
- 2.7 用 runsnakerun 对 cProfile 的输出进行可视化
- 2.8 用 line_profiler 进行逐行分析
- 2.9 用 memory_profiler 诊断内存的用量
- 2.10 用 heapy 调查堆上的对象
- 2.11 用 dowser 实时画出变量的实例
- 2.12 用 dis 模块检查 CPython 字节码
- 2.13 在优化期间进行单元测试保持代码的正确性
- 2.14 确保性能分析成功的策略
- 2.15 小结
- 第3章 列表和元组
- 第4章 字典和集合
- 第5章 迭代器和生成器
- 第6章 矩阵和矢量计算
- 第7章 编译成 C
- 第8章 并发
- 第9章 multiprocessing 模块
- 第10章 集群和工作队列
- 第11章 使用更少的 RAM
- 第12章 现场教训
文章来源于网络收集而来,版权归原创者所有,如有侵权请及时联系!
5.3 小结
通过使用迭代器组织我们的异常检测算法,我们能处理的数据就远远超过了内存的限制。另外,使用迭代器的性能也好于使用列表,因为我们避免了昂贵的append操作。
因为迭代器是Python的原始类型,我们应该始终使用这个方法来减少应用程序的内存足迹。这么做带来的好处是结果可以被延迟估值,你只需要处理必需的数据,而内存就会被节省下来,因为我们不需要保存之前的结果,除非我们明确知道需要它们。在第11章,我们会讨论其他一些适用于更独特的问题的方法并介绍一些新的思路来解决内存问题。
我们将在第9章和第10章看到,使用迭代器来解决问题的另一个好处是它让你的代码能够适用于多CPU或多计算机的场合。我们在5.1节中讨论过,使用迭代器必须预先考虑算法所需的各种状态变量。只要你封装好了这些算法运行时必需的状态变量,算法跑在什么数据上就变得无关紧要了。比如我们在使用multiprocessing和ipython模块时就可以看到这种示范,它们都使用了一个类似于map的函数来启动并发任务。
[1] 我们使用Knuth的在线平均数算法。这让我们能够使用一个临时变量同时计算出平均数和一阶矩(也就是标准差)。我们还可以稍稍修改公式并添加更多的状态变量来计算高阶矩的值(每个阶一个变量)。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论