【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null,第1张

【Flink】FLink checkpoint 某个 subtask 特别耗时 DisconnectException: null

文章目录
  • 1.概述

1.概述

遇到有遇到过这种情况的么?某个subtask的ck时间总是比其他的subtask久很多,检查各个subtask的消费,也没有数据倾斜,好几次ck超时都是被这个subtask拖垮的


日志开始报org.apache.kafka.common.errors.DisconnectException: null,调整request.timeout.ms后就不怎么报了。

TM的PS_Scavenge次数较大,但是3个TM都较大,唯独每次都是同一个subtask的ck时间较突出。

作业背压在kafka source端,下游数据处理也没有背压啊。

我觉得调大request.timeout,虽然kafka不超时了,但是拖得时间

欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/zaji/5688186.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2022-12-17
下一篇 2022-12-17

发表评论

登录后才能评论

评论列表(0条)

保存