返回介绍

8.3 找到适合项目的数据清洗方法

发布于 2024-01-27 21:43:11 字数 568 浏览 0 评论 0 收藏 0

根据数据的可靠性,以及你分析数据的频率,你可以选择一种完全不同的数据清洗方式。如果你要处理的数据是非常杂乱的,或者有许多不同的来源,你可能无法准确地将清洗过程脚本化。

 你需要分析将数据清洗完全脚本化所要付出的时间和精力,然后判断数据清洗自动化能否真正节省时间。

如果清洗过程特别繁琐,有很多步骤,你可能需要创建一个包含许多辅助脚本的仓库。这样即使你没有一个按顺序完成所有步骤的脚本,这个仓库也会为你提供许多函数,在整个数据处理过程中均可使用,还可以让你处理新数据时速度更快。举个例子,你有一些在列表或矩阵中搜索重复值的脚本,还有一些函数,可以从 CSV 导入或导出数据,或者格式化字符串和日期。对于这种方法,你可以随时导入这些函数并使用,可以在 IPython 或 Jupyter 中导入使用(我们会在第 10 章中学到),也可以在当前仓库的其他文件中导入使用。

如果你的清洗代码有固定的规律,不太可能发生变化,那么可以将整个清洗过程脚本化。

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文