DataLeap 的 Catalog 系统近实时消息同步能力优化
出处:
mp.weixin.qq.com
作者:
洪剑、大滨
字节数据中台 DataLeap 的 Data Catalog 系统通过接收 MQ 中的近实时消息来同步部分元数据。Apache Atlas 对于实时消息的消费处理不满足性能要求,内部使用 Flink 任务的处理方案在 ToB 场景中也存在诸多限制,所以团队自研了轻量级异步消息处理框架,很好的支持了字节内部和火山引擎上同步元数据的诉求。本文定义了需求场景,并详细介绍框架的设计与实现。
查看原文
64
技术
lddgo
分享于
2022-11-01