巨大的期望:如何在GE中的检查点参考中添加雅典娜外部表中的分区(列分区)?

发布于 2025-01-28 18:21:14 字数 436 浏览 2 评论 0原文

该设置为GE V3,我将AWS Athena用作数据源。但是,我找不到一种方法来告诉“期望”,表格中的表实际用S3中的相对路径分区,例如's3:// path_to_to_bucket/path_to_to_to_to_to_to_to_to_to_table/版本= 2022-02-02-01'。

我正在寻找一种运行Expect_column_values_to_be_unique的方法,但是当它采用下一个选择's3:// path_to_to_bucket/path_to_to_to_to_to_table/path_to_table/version = 20222-02-02'时,它会返回失败。

但是,仅此而已,因为它同时使用“版本= 2022-02-02”和“版本= 2022-02-01”,以验证表主要键的唯一性。

我的问题是:如何将版本作为参数传递给期望 /检查点?

The setup is GE v3 and I am using AWS Athena as a Data Source. However, I couldn't find a way to tell the "expectation" that the table in actually partitioned with a relative path in S3 like 's3://path_to_bucket/path_to_db/path_to_table/version=2022-02-01'.

I am looking for a way to run a expect_column_values_to_be_unique but when it takes the next parition 's3://path_to_bucket/path_to_db/path_to_table/version=2022-02-02', it returns a fail.

However, it only happens because it takes both 'version=2022-02-02' and 'version=2022-02-01' to verify the uniqueness on the table's primary key.

My question is: how can I pass version as an argument to the expectation / checkpoint?

如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。

扫码二维码加入Web技术交流群

发布评论

需要 登录 才能够评论, 你可以免费 注册 一个本站的账号。
列表为空,暂无数据
我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
原文