google-cloud-composer

google-cloud-composer

文章 0 浏览 0

作曲家不使用导入变量

我导入一个 json 文件,该文件定义了作曲家要使用的变量。 我使用了 gcloud beta Composer 环境存储数据导入 命令,我可以看到文件已正确导入到 /data…

千纸鹤带着心事 2025-01-10 21:52:29 0 0

使用 Paramiko 的 GCP 上的 SSH 连接超时

我正在尝试使用 Cloud Composer 中的 paramiko 通过 SFTP 将文件从 GCP 推送到外部服务器。下面是代码示例: import paramiko host, port = "hostname…

忘年祭陌 2025-01-10 13:42:02 1 0

GCStoGCSOperator 跨项目 Composer/Airflow 移动选项

因此,我利用 GCStoGCSOperator 从报告 API 获取报告,然后对项目中的报告进行一些更新,但当我尝试将该文件移动到项目 2 时,它会抛出错误说明该存储…

面犯桃花 2025-01-09 20:08:35 1 0

Google Cloud Composer 获取默认服务帐户私钥

我正在使用 pymongo (来自气流挂钩)连接到 mongo 实例,该实例使用 google kms 作为密钥实现 FLE(字段级加密)。我们有一个具有服务帐户文件的虚拟…

初见终念 2025-01-09 19:11:58 1 0

dataproc 上的组件网关激活不适用于composer(airflow)操作符airflow.providers.google.cloud.operators.dataproc

我正在尝试执行下面这个指令。 创建 dataproc 集群的操作员似乎没有启用可选组件来启用 jupyter notebook 和 anaconda。 我在这里找到了这段代码:Air…

寻找我们的幸福 2025-01-09 11:14:18 1 0

Google Composer 升级后 Airflow 调度程序无法启动

早上好, 将 Google Composer 升级到版本 1.18,将 Apache Airflow 升级到版本 1.10.15(使用 Composer 的自动升级)后,调度程序似乎无法启动。 气流…

星軌x 2025-01-09 08:57:08 1 0

Google Cloud Composer:如何从本地开发计算机触发 DAG 运行?

背景 我有一个在 GCP 上运行的 Google Cloud Composer 1 环境。 我编写了一个Google Cloud Function,当在云中运行时,它可以在我的 Composer 环境中…

落叶缤纷 2025-01-09 00:18:25 1 0

Composer DAG 触发 Dataflow 作业并成功运行,但最终文件未出现在输出桶中

我已经设置了一个运行数据流作业的 DAG。 Dag 触发它正常,并且它运行成功,但输出文件没有出现在输出位置。输出位置是另一个项目中的存储桶,并且正…

很糊涂小朋友 2025-01-09 00:14:54 1 0
更多

推荐作者

微信用户

文章 0 评论 0

小情绪

文章 0 评论 0

ゞ记忆︶ㄣ

文章 0 评论 0

笨死的猪

文章 0 评论 0

彭明超

文章 0 评论 0

    我们使用 Cookies 和其他技术来定制您的体验包括您的登录状态等。通过阅读我们的 隐私政策 了解更多相关信息。 单击 接受 或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
    原文