- 本书赞誉
- 前言
- 目标读者
- 不适合阅读本书的读者
- 本书结构
- 什么是数据处理
- 遇到困难怎么办
- 排版约定
- 使用代码示例
- 致谢
- 第 1 章 Python 简介
- 第 2 章 Python 基础
- 第 3 章 供机器读取的数据
- 第 4 章 处理 Excel 文件
- 第 5 章 处理 PDF 文件 以及用 Python 解决问题
- 第 6 章 数据获取与存储
- 第 7 章 数据清洗:研究、匹配与格式化
- 第 8 章 数据清洗:标准化和脚本化
- 第 9 章 数据探索和分析
- 第 10 章 展示数据
- 第 11 章 网页抓取:获取并存储网络数据
- 第 12 章 高级网页抓取:屏幕抓取器与爬虫
- 第 13 章 应用编程接口
- 第 14 章 自动化和规模化
- 第 15 章 结论
- 附录 A 编程语言对比
- 附录 B 初学者的 Python 学习资源
- 附录 C 学习命令行
- 附录 D 高级 Python 设置
- 附录 E Python 陷阱
- 附录 F IPython 指南
- 附录 G 使用亚马逊网络服务
- 关于作者
- 关于封面
文章来源于网络收集而来,版权归原创者所有,如有侵权请及时联系!
8.3 找到适合项目的数据清洗方法
根据数据的可靠性,以及你分析数据的频率,你可以选择一种完全不同的数据清洗方式。如果你要处理的数据是非常杂乱的,或者有许多不同的来源,你可能无法准确地将清洗过程脚本化。
你需要分析将数据清洗完全脚本化所要付出的时间和精力,然后判断数据清洗自动化能否真正节省时间。
如果清洗过程特别繁琐,有很多步骤,你可能需要创建一个包含许多辅助脚本的仓库。这样即使你没有一个按顺序完成所有步骤的脚本,这个仓库也会为你提供许多函数,在整个数据处理过程中均可使用,还可以让你处理新数据时速度更快。举个例子,你有一些在列表或矩阵中搜索重复值的脚本,还有一些函数,可以从 CSV 导入或导出数据,或者格式化字符串和日期。对于这种方法,你可以随时导入这些函数并使用,可以在 IPython 或 Jupyter 中导入使用(我们会在第 10 章中学到),也可以在当前仓库的其他文件中导入使用。
如果你的清洗代码有固定的规律,不太可能发生变化,那么可以将整个清洗过程脚本化。
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
发布评论