案例⼁⼈⼤⾦仓完成新疆农村信⽤社数据仓库国产化
随着国家“新基建”战略的推进,国产软硬件迎来跨越式发展,在⾦融、政务、电信等核⼼领域均具备不斐实践。作为我国信息化程度最⾼的⾏业之⼀,⾦融⾏业是我国信息化建设的重点领域。近年来,随着全球化逆流加剧,⾦融⾏业IT建设国产化进⼊加速期。
近⽇,在新疆农村信⽤社(以下简称“新疆农信”)数据仓库国产化替代项⽬中,⼈⼤⾦仓顺利完成由IBM Netezza数据库到⾦仓分布式分析型数据库系统KingbaseAnalyticsDB(以下简称“KADB”)的迁移,迁移后,客户的数据库使⽤及服务成本节省10倍,数据库加载速度与分析性能显著提升。
01
项⽬背景
新疆农信ODS业务核⼼数仓接⼊其 “核⼼”、“⽹银”、“财管”、“银联”、“信贷”、“前置”和农信银等重要业务系统;
每天⾼密度、结构化数据的批量加载、处理、分析:数仓存储数据量压缩后近20TB,每⽇运⾏批量加⼯过程500+,每⽇⼊库量30GB+,全天数据加⼯处理流程时间<3⼩时(清洗/装载、汇总、报表);
流⽔型业务场景:整个过程需要通过集中控制平台以定时任务的形式将每⽇增量数据导⼊到数据库中,并通过多层模型清洗转换基础数据,每⼀层需依赖上层转化好的数据,最终完成所有业务操作后将最终结果上报到总⾏。
原数据库性能及服务⽆法满⾜需求:原有数据库为基于⼀体机架构体系下的数据分析和数据存储平台。采⽤Netezza构建ODS,随着数据量的增⼤,Netezza在性能及各⽅⾯表现⽇趋下降,已不能满⾜新疆农村信⽤社使⽤需求。2019年,IBM停⽌Netezza的服务⽀持,新疆农信ODS业务陷⼊⽆数据库原⼚提供服务保障的困境。
02
客户痛点
安全风险:原数据库IBM Netezza采⽤的是基于⼀体机架构体系下的数据分析和数据存储平台,整体从硬件到软件都由IBM提供,对硬件要求⾮常⾼,整体架构不适⽤于⽬前场景;且系统相对封闭,产品代码层⾯不可控。
业务运⾏风险:压缩后约20TB的数据库历史存量,每⽇30GB+数据增量,导致数据库负载压⼒巨⼤,数据库性能提升刻不容缓。
原⼚服务保障风险:银⾏系统对于响应的要求近乎苛刻,需要时刻保证数据库安全稳定运⾏,数据库⼚商最好能够提供7*24⼩时本地化服务。
03
⾦仓⽅案
⼈⼤⾦仓采⽤分布式可扩展架构对客户原来的⼀体机架构进⾏替换,经过KADB国产化替代后,架构如下:
原Netezza数据仓库体系架构如下:常见mpp数据库
04
⾦仓价值
开放架构:采⽤shared-nothing架构的MPP技术路线,⾦仓分析型数据库系统KingbaseAnalyticsDB产品特性助⼒,在满⾜⾼性能、⾼扩展性、低成本的基础上,同时满⾜⾦融架构的⾼可⽤、低风险、强管控要求;
数据库迁移:通过⾦仓数据库迁移⼯具,完成600多个控制任务、200多张拉链及增量表、近20TB存量数据的⾃动化迁移,节省了⼤量的时间及⼈⼒成本。
性能优化提升:通过分布式架构的并⾏计算能⼒,将数据分布在所有节点上,减轻了单台服务器的存储压⼒,通过⾼度并⾏的计算框架,加速每个节点的计算效率,完成数据库集整体性能提升。最优化的I/O处理能⼒:⽆共享MPP架构,能够满⾜所有节点同时进⾏并⾏处理,⽆I/O冲突;
极速数据加载能⼒,智能加载,⽆需通过冗余节点,性能极⾼;
⾼效数据存储能⼒:⽀持主流⾼效率压缩算法,压缩⽐可达1:20,协助⽤户获得最佳存储效率;
⼤规模并⾏能⼒:集⽀持将计算任务分发给各个主机并⾏执⾏,可最⼤程度利⽤集中的计算资源完成任务;
数据库加载速度与分析性能较Netezza显著提升。
近⽇,该项⽬已正式上线且运⾏稳定,本次项⽬实现了新疆维吾尔族⾃治区银⾏类业务国产化替代由0到1的飞跃,为新疆农村信⽤社将来全⾯实现国产化替代注⼊了⼀剂强⼼针,为更多⾦融信息安全领域企业使⽤国产数据库奠定了信⼼!
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198,我们将在24小时内删除。
发表评论