ECOS 工商银行信息系统全分布式转型实践
中国工商银行软件开发中心专家  鲁金彪
随着新一轮科技和金融的加速融合，各家银行纷纷探索利用新技术加快创新，工商银行以智慧银行生态建设工程（ECOS）为契机率先启动核心银行信息系统架构转型工作，应用分布式、云计算等新技术推动金融基础设施发展，2018
年同业首家建设了技术领先、体系完
中国工商银行软件开发中心专家  鲁金彪
备、自主可控的分布式技术体系，实现大型商业银行信息系统从传统集中式架构向全分布式转型突破，在大型银行中率先通过分布式架构承载主要业务系统运行，打造了银行业科技高水平自立自强标杆。经过七年建设和大规模生产实践，工商银行分布式体系已趋于成熟，形成面向应用分布式转型的研发、运行、运维等全方位企业级能力，全面支撑主机业务下移，为构建开放平台核心银行系统打造了坚实的技术底座。
一、科技驱动，建设行业领先的“云+分布式”技术底座
围绕ECOS 工程建设目标，工商银行以企业级架构方法为指导，按照“基础工作先行、产品应用逐步迁移”的策略，基于云计算与分布式技术打造开放平台核心银行系统，实施主机业务向“云+分布式”的开放架构转型（如图1所示）。
1.搭建行业体系最全、应用最广的分布式技术体系
工商银行分布式技术体系基于相关30余项业界主流开源技术，围绕银行业务高可用、高安全的金融需求，
对分布式服务、分布式事务等关键技术进行了深度定制，全面涵盖研发、运行、运维等多个环节，为交易型信息
系统实现从业务接入、应用逻辑处理到数据库存储的全栈分布式转型提供完整的技术支撑。
面向研发环节，工商银行建设了统一的Java 研发平台，提供开发支持、资产共享和研发协同能力，为开发人员提供一站式解决方案，支持联机、批量等各类业务
ECOS 工程
ECOS Project
图1  工商银行分布式技术体系视图
交易型数据库缓存
对象存储
批量
文件存储
服务
事务
消息
集成软负载均衡
处理平台
开发支持
应用平台云PaaS 基础设施云IaaS
全息监控
…
…
……系统的快速开发；建设标准服务市场，积累1.3万个标准服务，构建113个业务组件，通过可视化的服务组合编排支持敏捷研发，标准服务年复用逾18万次；打造前后端协作平台，规范前后端协作机制，实现前后端并行解耦，提升研发效率。
面向生产运行环节，工商银行建设了软负载均衡、分布式服务、分布式事务、分布式消息、分布式批量、分布式缓存、分布式数据库、分布式对象存储、分布式文件存储等九大运行支撑平台，实现公共技术能力的集约建设与运营。
面向运维环节，工商银行建设了配置中心、日志中心、全链路监控、流量调度等一系列运维支持平台，实现可监控、可追溯、易定位、可隔离、可限流等能力，以适应分布式架构的高效运维。
工商银行分布式技术体系通过多园区多活部署、万级集架构、多样化运行监控等技术手段，可实现秒级自愈，已媲美大型主机的性能容量，并超越99.999%的高可用水平。
2.打造行业规模最大的企业级云计算平台
工商银行采用“开源结合自研”模式，攻克主机下移一系列“卡脖子”技术难题，建设了符合业务发展需
要的金融级云平台，涵盖基础设施云IaaS、应用平台云PaaS、金融生态云SaaS 等，为全行IT 系统提供标准化、自动化的基础设施和公共技术服务。
基础设施云方面，云平台实现计算、存储、网络的灵活高效供应，提供超大规模资源池化管理，全面兼容从上游芯片、中游服务器硬件到下游云服务软件的多种开放架构生态，确保了技术路线的安全可靠，支持面向多层级故障的快速隔离恢复，保证业务连续性。
应用平台云方面，具备完全自主知识产权的核心技术优势，具有秒级弹性伸缩、万级集支撑、全流程快速交付、自动化智能化运维、微服务等技术特点，可端到端支撑各类应用节点部署；同业首家实现数据库容器化部署，提供资源秒级弹性伸缩，有效支撑高并发业务场景，轻松应对购物节大促、纪念币秒杀等业务洪峰。
金融生态云方面，以SaaS 软件为纽带，围绕连接工商银行、合作方和用户，建立优势互补、互利共赢、业态丰富的金融服务生态圈，有效提升“获客、活客、黏客”能力。目前，工商银行已上线教育云、物业云、党建云、宗教云、财资云等20多款SaaS 产品。
工商银行金融云顺利向“一云多芯”的信创云技术架构转型，具备“多芯兼容、交叉复用、灵活调度、全
ECOS
栈部署”的关键技术特点，已成功进行规模化生产部署运行，生产部署超过4800台物理机。存储、网络、中间件、数据库、大数据等资源基于多芯构建，通过云平台统一封装标准化接口，屏蔽CPU架构细节；多芯计算资源通过云管形成标准化的云服务，融入工商银行云服务体系，内建生命周期管理、隔离、自愈、监控等服务；容器计算资源通过工商银行自主研发的PaaS平台实现统一调度，以容器的方式大幅降低应用对芯片指令集架构的感知，灵活支持信创计算资源的部署推广。
二、价值创造，实现行业最大规模分布式应用
依托分布式技术体系和金融级云平台，工商银行全面建成业务基础服务、核心账户体系、重点产品服务等体系完整的开放平台核心银行系统（如图2所示），实现网银、账户、基础服务及重点产品等核心应用100%云上部署，广泛覆盖了金融行业的不同类型场景，为账务等具备数据强一致性要求的业务场景提供高性能、一致性的事务保障，业务系统交易性能指标不断突破开放平台的诸多历史极限，为快捷支付等高频交易场景提供高并发、高可靠的弹性支撑，有效支持了主机核心业务向分布式的架构转型。
工商银行分布式技术体系和金融级云平台在历年“双十一”、春节红包、纪念币预约等业务高峰时点运行平稳，经受了大规模生产环境的实战检验，可从容应对购物节大促每秒2万笔快捷支付、纪念币秒杀每秒20万次预约等业务洪峰，相较主机峰值交易率每秒1.7万笔性能容量显著提升，为秒杀等高并发场景
提供快速的用户体验。以2021年牛年贺岁纪念币发行为例，生产系统在30分钟内完成8000多个节点扩容及对外服务，稳定支撑纪念币抢购，每秒钟达到30万笔以上的交易高峰；秒杀抢购完成后，10分钟内完成所有节点资源回收。
截至2021年底，工商银行95%以上的应用系统运行在“云+分布式”开放平台，完成250余个应用分布式转型，实现“应转尽转”，入云节点超9.2万个，服务数量超3万个，服务日均调用量超120亿次，日均消息处理量达3500亿次，可支撑日均千亿指标实时聚合、百亿链路信息实时分析。
三、攻坚克难，突破大规模企业级场景技术壁垒
在分布式架构转型过程中，工商银行多次遇到业界技术难题及瓶颈，且没有可参考借鉴的业界方案。通过组建攻坚克难团队，工商银行攻破一个个技术难关，不断解决行业难题，共提出了10项行业标准提案，累计
图2  工商银行开放平台核心银行系统
借记卡客户信息
身份认证
会计核算
柜员管理
机构管理
资金账户
（个人II/III类账户等）
交易账户
（贵金属份额账户等）
权益账户
（客户积分、电子券等）
快捷支付
账户外汇
工银e钱包
贵金属积存金
分期付款
…………
java技术专家……
业务产品核心账户体系业务基础服务
柜面
自助终端
融e行
融e联
融e购
API开放平台……
ECOS工程ECOS Project
申报国家发明专利100余项。围绕应用分布式改造过程中的百余个共性问题、难点领域形成金融级专项解决方案，为同业提供了最佳实践。
1.突破分布式服务性能容量瓶颈
工商银行分布式服务平台基于Dubbo、Zookeeper 等业界主流开源技术，结合银行高可靠、高安全等特需求，进行了深度定制和大规模自主研发，在功能、性能和稳定性方面得到全面提升。基于“两地三中心”架构，创新了多点多活、双园区并行服务、数据分片路由等工商银行特技术架构，实现了注册中心同城实时接管、服务就近接入、故障无损接管的多活能力。注册中心作为分布式服务平台的核心，为接入系统提供透明化的注册和发现能力，工商银行通过自主研发，精简服务注册及合并推送机制，实现了网络推送数据量93%的压降，大幅提升了系统处理效率；构建业界创新的智能会话展期和按节点注册模型，提升5倍开源产品极限注册量，稳定支撑至少10万服务、10万连接、千万注册节点数、日均千亿次调用量。工商银行将服务化转型过程中总结的经验和方案主动贡献给开源社区，并获得开源社区的认可，通过技术反哺，推动了开源社区的健康发展。
2.建设全场景事务解决方案
事务一致性一直是分布式架构转型的核心难题，工商银行分布式事务平台对标业界领先的分布式案例，面对多样化的金融业务场景，提供了多种模型支撑方案，包括冲正补偿交易的SAGA模型、二阶段提交的TCC 模型和异步提交的消息模型；通过园区多点接入、多租户隔离设计、动态水平伸缩、同/异库灵活部署模式，提供极致容量的企业级服务能力；建立了事务调用链路回溯、异常事件报警、日终运行报表、人工介入处理、运行策略管理等运维监控体系，以及准入审核、白名单控制和规范巡检等管控机制，有效保障了事务的最终一致性。
经过5年的打磨与实践验证，形成了成熟的分布式事务解决方案，并将其广泛用于账户、借贷、客户、介质等关键业务场景，支撑日均百亿次跨库事务的一致性处理，应对极端苛刻场景的运行条件，实现事务交易秒级闭环率99.9999%，以及重点场景1分钟内明确事务终态。
3.打造金融级分布式数据库
工商银行自2016年开始基于开源MySQL成熟生态，建设与“云+分布式”体系相适配的金融级分布式数据库，满足金融核心系统横向扩展和便捷运维等需求，有效降低应用转型成本。同时，积极探索金融科技融合创新模式，以联合创新等方式加强与头部科技企业合作，聚焦传统数据库与应用耦合度高的难点进行突破，推动数据库产业生态发展。自2019年以来，工商银行已完成多套商用分布式数据库产品在20多个业务系统试点上线，试点范围覆盖了关键业务系统、一般业务系统和办公系统，形成了一
套高效可控、低成本的数据库转型技术方案及配套工具，确保系统服务的连续性、数据迁移的完整性、业务切流的安全性，为金融行业分布式数据库转型提供参考案例。
四、未来展望
随着业界分布式技术逐渐走向成熟，金融机构全面向开放架构转型已是大势所趋。工商银行经过多年的技术攻关与创新实践，充分验证了分布式架构可满足大型银行开放化、高并发、大流量、高安全的金融业务处理需求，为大型商业银行核心银行系统自主可控转型走出了宽阔的道路，并通过产品化输出等方式支持金融同业开展分布式转型。
未来，工商银行将持续依托大型金融机构分布式转型最佳实践，通过将自身的转型实践经验体系化，识别行业共性需求，打造金融行业分布式技术平台标准解决方案，借助产品服务能力输出的方式为金融同业提供转型的良好示范，助力中小金融机构加快自身数字化转型进程，共建金融科技新生态，推动金融业实现高水平科技自立自强。
栏目编辑：张志 pubsh@fcc

版权声明：本站内容均来自互联网，仅供演示用，请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系QQ:729038198，我们将在24小时内删除。