使用 Paramiko 的 GCP 上的 SSH 连接超时
我正在尝试使用 Cloud Composer 中的 paramiko 通过 SFTP 将文件从 GCP 推送到外部服务器。下面是代码示例: import paramiko host, port = "hostname…
GCStoGCSOperator 跨项目 Composer/Airflow 移动选项
因此,我利用 GCStoGCSOperator 从报告 API 获取报告,然后对项目中的报告进行一些更新,但当我尝试将该文件移动到项目 2 时,它会抛出错误说明该存储…
Google Cloud Composer 获取默认服务帐户私钥
我正在使用 pymongo (来自气流挂钩)连接到 mongo 实例,该实例使用 google kms 作为密钥实现 FLE(字段级加密)。我们有一个具有服务帐户文件的虚拟…
dataproc 上的组件网关激活不适用于composer(airflow)操作符airflow.providers.google.cloud.operators.dataproc
我正在尝试执行下面这个指令。 创建 dataproc 集群的操作员似乎没有启用可选组件来启用 jupyter notebook 和 anaconda。 我在这里找到了这段代码:Air…
Google Composer 升级后 Airflow 调度程序无法启动
早上好, 将 Google Composer 升级到版本 1.18,将 Apache Airflow 升级到版本 1.10.15(使用 Composer 的自动升级)后,调度程序似乎无法启动。 气流…
Google Cloud Composer:如何从本地开发计算机触发 DAG 运行?
背景 我有一个在 GCP 上运行的 Google Cloud Composer 1 环境。 我编写了一个Google Cloud Function,当在云中运行时,它可以在我的 Composer 环境中…
Composer DAG 触发 Dataflow 作业并成功运行,但最终文件未出现在输出桶中
我已经设置了一个运行数据流作业的 DAG。 Dag 触发它正常,并且它运行成功,但输出文件没有出现在输出位置。输出位置是另一个项目中的存储桶,并且正…
- 共 1 页
- 1