如何从Google Dataflow的PCollection中获取元素列表并在管道中使用它来循环执行Write Transforms?

如何从Google Dataflow的PCollection中获取元素列表并在管道中使用它来循环执行Write Transforms?,第1张

如何从Google Dataflow的PCollection中获取元素列表并在管道中使用它来循环执行Write Transforms?

无法直接获取内容

PCollection
-Apache
Beam或Dataflow管道更像是一个查询计划,该查询计划应进行哪些处理,并且
PCollection
是计划中的逻辑中间节点,而不是包含数据。主程序组装计划(管道)并将其启动。

但是,最终您尝试将数据写入按日期分片的BigQuery表中。当前仅在Java
SDK中
支持此用例,并且仅对流管道支持。

有关根据数据将数据写入多个目标的更一般处理,请遵循BEAM-92。

另请参阅通过Google Cloud Dataflow创建/写入Parititoned
BigQuery表



欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/zaji/5673777.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-16
下一篇 2022-12-16

发表评论

登录后才能评论

评论列表(0条)

保存