Flink在同一个任务中,创建了多个mysql cdc源表,这些源表会复用同一个连接池嘛?-[阿里云_云淘科技]

Flink在同一个任务中,创建了多个mysql cdc源表,这些源表会复用同一个连接池嘛?

以下为热心网友提供的参考意见

在Apache Flink中,当您在一个任务中创建了多个MySQL CDC源表时,通常情况下,这些源表会共享同一个数据库连接池。这是因为Flink的CDC Connectors(如MySQL CDC Connector)通常会为每个任务配置一个单独的数据库连接池。

默认情况下,Flink SQL CDC Connectors使用HikariCP作为其JDBC连接池实现。HikariCP是一个高性能的JDBC连接池库,它允许您在应用程序中设置连接池参数以优化性能和资源利用。

在实践中,如果您的任务中有多个MySQL CDC源表,它们将共享相同的连接池。这可以提高资源利用率并减少数据库服务器上的开销。然而,共享连接池也意味着不同的源表可能会竞争数据库连接,这可能会影响性能。

为了优化性能,您可以考虑以下策略:

  • 调整连接池大小:根据您的系统资源和数据吞吐量调整连接池的最小和最大连接数。
  • 使用多任务:如果您发现单个任务中的多个源表之间的并发需求很高,可以考虑将它们拆分为多个独立的任务,每个任务只包含一部分源表。
  • 分区和负载均衡:通过分区和负载均衡策略来平衡不同源表的数据处理需求。

以下为热心网友提供的参考意见

是,参考https://help.aliyun.com/zh/flink/developer-reference/mysql-connector?spm=a2c4g.11186623.0.0.77f470a4PAN1YF#section-mxk-9ip-5kv 此回答整理自钉群“实时计算Flink产品交流群”

本文来自投稿,不代表新手站长_郑州云淘科技有限公司立场,如若转载,请注明出处:http://www.cnzhanzhang.com/12394.html

(0)
匿名
上一篇 2023年12月13日 下午6:05
下一篇 2023年12月13日

相关推荐

新手站长从“心”出发,感谢16年您始终不离不弃。