目前只用了 kettle ,但是部署的前置机很多,每个库每个项目都需要部署一台前置机进行采集,而且无法监控采集结果,服务停了都不知道,导致数据断层严重。
校验系统需要配置字段校验规则。
目前主流 ETL 流程大概什么样子,有相应工具推荐吗,对多节点可能没有要求,这块不太清楚具体业务逻辑。有没有可以自定义校验规则或转换规则的开源系统。
有相关运维经验的麻烦给大概说说,尽量开源的,不尽感激!
目前听过的 flinkCDC ,airflow+dbt ,海豚调度,kettle 等。主语言 java ,哪个更适合以上业务呢。