全网唯一标准王
文库搜索
切换导航
文件分类
频道
文件分类
批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211134325.X (22)申请日 2022.09.19 (71)申请人 平安银行股份有限公司 地址 518000 广东省深圳市罗湖区深南 东 路5047号 (72)发明人 黄芳 (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 专利代理师 姚大雷 (51)Int.Cl. G06F 16/27(2019.01) G06F 16/242(2019.01) G06F 16/215(2019.01) (54)发明名称 数据库数据实时同步方法、 系统、 计算机终 端及存储介质 (57)摘要 本发明属于数据处理技术领域, 尤其涉及一 种数据库数据实时同步方法、 系统、 计算机终端 及存储介质, 该方法包括: 监听并读取当前数据 库的日志数据, 并将所述日志数据存入kafka集 群的消息集合中; 通过数据读取插件获取所述消 息集合中的日志数据, 并对所述日志数据进行数 据清洗; 根据下游数据库的类型, 将经过数据清 洗得到的日志数据解析成对应的格式, 并写入所 述下游数据库。 通过利用kafka集群获取数据库 的日志数据, 人后对日志数据的处理, 获取对下 游数据库进行同步的数据格式, 进行数据库数据 同步。 权利要求书2页 说明书8页 附图4页 CN 115203336 A 2022.10.18 CN 115203336 A 1.一种数据库数据实时同步方法, 应用于分布式数据库集群中的数据同步, 其特征在 于, 包括: 监听并读取当前 数据库的日志数据, 并将所述日志数据存 入kafka集群的消息集 合中; 通过数据读取插件获取所述消息集合中的日志数据, 并对所述日志数据进行数据清 洗; 根据下游数据库的类型, 将经过数据清洗得到的日志数据解析成对应的格式, 并写入 所述下游数据库。 2.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述根据下游数据库 的类型, 将经 过数据清洗得到的日志数据解析成对应的格式, 包括: 若所述下游数据库的类型为关系型 数据库, 则将所述日志数据解析成SQ L语句; 若所述下游数据库的类型为非关系型数据库, 则将所述日志数据解析成POJO对象, 并 进行序列化处 理。 3.根据权利要求1或2所述的数据库数据实时同步方法, 其特征在于, 所述写入所述下 游数据库, 包括: 写入所述下游数据库的数据池或数据仓库中; 所述写入所述下游数据库之后, 还 包括: 更新所述消息集合中的补偿信 息, 所述补偿信 息用于对出现异常故障的组件进行数据 恢复。 4.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述监 听并读取当前 数据库的日志数据, 并将所述日志数据存 入kafka集群的消息集 合中, 包括: 通过kafka ‑connector ‑oracle插件监听并获取所述日志数据, 将所述日志数据转换成 预设格式, 存放到消息集 合中; 所述日志数据包括重做日志和回滚日志。 5.据权利要求4所述的数据库数据实时同步方法, 其特征在于, 所述预设格 式为JSON格 式。 6.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述通过数据读取插 件获取所述消息集 合中的日志数据, 包括: 通过kafka ‑oracle‑sink插件监听多个所述消息集 合, 实时获取 所述日志数据。 7.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述对所述日志数据 进行数据清洗, 包括: 通过sync ‑factory插件对所述日志数据进行清洗和格式化加工, 并解析所述日志数 据, 形成摘要数据或宽表数据, 所述摘要数据或宽表数据用于写入所述下游数据库。 8.一种数据实时同步系统, 其特征在于, 包括: 核心数据库、 kafka集群和若干个下游数 据库, 所述核心数据库设置 于核心系统内; 当需要进行数据同步时, 所述kafka集群用于监听并读取所述核心数据库的日志数据, 并将所述日志数据存 入所述kafka集群的消息集 合中; 所述kafka集群通过数据读取插件, 获取所述消息集合中的日志数据, 并对所述日志数 据进行数据清洗; 所述kafka集群根据各个所述下游数据库的类型, 将经过数据清洗得到的日志数据解权 利 要 求 书 1/2 页 2 CN 115203336 A 2析成对应的格式, 并写入各个所述下游数据库中。 9.一种计算机终端, 其特征在于, 包括处理器和存储器, 所述存储器存储有计算机程 序, 所述计算机程序在所述处理器上运行时执行权利要求 1至7中任一项 所述的数据库数据 实时同步方法。 10.一种可读存储介质, 其特征在于, 其存储有计算机程序, 所述计算机程序在处理器 上运行时执 行权利要求1至7中任一项所述的数据库数据实时同步方法。权 利 要 求 书 2/2 页 3 CN 115203336 A 3
专利 数据库数据实时同步方法、系统、计算机终端及存储介质
文档预览
中文文档
15 页
50 下载
1000 浏览
0 评论
309 收藏
3.0分
赞助2元下载(无需注册)
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
下载文档到电脑,方便使用
赞助2元下载
本文档由 人生无常 于
2024-03-18 00:50:35
上传分享
举报
下载
原文档
(484.4 KB)
分享
友情链接
ISO 26082-1 2019 Leather — Physical and mechanical test methods for the determination of soiling — Part 1 Rubbing (Martindale) method.pdf
ISO 25178-606 2015 Geometrical product specification (GPS) — Surface texture Areal — Part 606 Nominal characteristics of non-contact (focus variation).pdf
ISO 8319-2-1986Orthopaedic instruments. Drive connections. Part 2_Screwdrivers for single slot head.pdf
ISO 3691-2 2023 Industrial trucks — Safety requirements and verification — Part 2 Self-propelled variable-reach trucks.pdf
ISO IEC 5218 2022 Information technology — Codes for the representation of human sexes.pdf
ISO 4904 2023 Traditional Chinese medicine — Inner pack of decoction pieces.pdf
ISO 6919 2024 Measurement of refrigerated hydrocarbon and non-petroleum based liquefied gaseous fuels Dynamic measurement of liquefied natural gas (LNG) as marine fuel Truck-to-ship (TTS) bunkering..pdf
ISO 16420 2013 Cork — Cork stoppers for still wines — Mechanical and physical specifications.pdf
ISO ASTM 52925 2022 Additive manufacturing of polymers — Feedstock materials — Qualification of materials for laser-based powder bed fusion of parts.pdf
ISO 8581 1994 Photography — Electronic flash equipment — Connectors to synchro-cord.pdf
GB-T 43610-2023 微束分析 分析电子显微术 线状晶体表观生长方向的透射电子显微术测定方法.pdf
GB-T 2674-2017 内六角花形半沉头螺钉.pdf
GB-T 32070-2022 土方机械 物体监测系统及其可视辅助装置 性能要求和试验.pdf
GB-T 454-2020 纸 耐破度的测定.pdf
GB-T 24031-2021 环境管理 环境绩效评价 指南.pdf
GB-T 18222-2000 木工机床 宽带磨光机 术语.pdf
GB-T 2679.1-2020 纸 透明度的测定 漫反射法.pdf
GB-T 21495-2008 动植物油脂 具有顺,顺1,4-二烯结构的多不饱和脂肪酸的测定.pdf
GB-T 29334-2012 用于非石油基液压制动液的汽车液压制动缸用的弹性体皮碗和密封圈.pdf
GB-T 23602-2009 钛及钛合金表面除鳞和清洁方法.pdf
1
/
3
15
评价文档
赞助2元 点击下载(484.4 KB)
回到顶部
×
微信扫码支付
2
元 自动下载
官方客服微信:siduwenku
支付 完成后 如未跳转 点击这里 下载
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们
微信(点击查看客服)
,我们将及时删除相关资源。