Google Cloud Composer BigQuery运算子-Get Jobs API HTTPError 404

Google Cloud Composer BigQuery运算子-Get Jobs API HTTPError 404,第1张

Google Cloud Composer BigQuery运算子-Get Jobs API HTTPError 404

由于您的BigQuery数据集位于asia-southeast1中,因此默认情况下,BigQuery在相同的位置(asia-
southeast1)创建了一个作业。但是,您的Composer环境中的Airflow试图获取作业的状态而未指定位置字段。

参考:https
:
//cloud.google.com/bigquery/docs/reference/rest/v2/jobs/get

此问题已由我的PR修复,并已合并到master,并将在v2.0.0中发布。但是,Composer的最新Airflow版本是v1.10.2,因此您需要解决一些问题才能使其正常工作。

要解决此问题,您可以扩展BigQueryCursor并使用位置支持覆盖run_with_configuration()函数。请参考:https :
//github.com/apache/airflow/pull/4695/files#diff-
ee06f8fcbc476ea65446a30160c2a2b2R1213并检查如何打补丁。



欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/zaji/5667429.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-17

发表评论

登录后才能评论

评论列表(0条)

保存