交易系统之数据库弱依赖解决方案

京东云开发者
• 阅读 81

作者:京东科技 杜晓玉

前言

数据库,交易系统中最核心依赖,数据持久化属于最核心服务。

随着互联网的普及,大流量高并发的场景越来越多,7*24的交易系统对高可用要求越来越高,同时在“数据为王”大环境下,交易数据最终通过数据库进行持久化存储,数据库成为整个系统最终重要服务,不能出一点问题,尤其核心P0系统哪怕瞬间的DB操作异常可能造成大量异常交易,可能产生致命的问题,所以核心系统弱依赖数据库都是必须考虑的。

数据库弱依赖的整体思路:将最可靠链路再增加上备用链路替换,解决方案主要通过其他存储介质+补偿机制替换同步的DB操作,预期效果:数据库出现故障期间也能保证系统运行正常不影响线上业务开展。

本期介绍下实践过的三种解决方案:DB灾备机制方案、DB高并发替换方案、财富系统弱依赖DB方案。

一、DB灾备机制方案

日常引发数据库操作出现异常的常见情况:网络链路异常、执行工单导致数据库性能下降、慢SQL导致数据库异常等,并且从发现问题到解决往往时间不短,尤其核心交易链路都已无法容忍短时间的异常故障,所以首先考虑增加灾备机制,出现异常时间段内也要保证交易成功率,哪怕可以损失一点性能要求。DB灾备机制方案是2016年接触到并实施第一版弱依赖数据库方案。方案主要思路:DB操作故障时间段内,通过其他存储介质临时存储数据,并通过MQ异步补偿还原DB操作,达到最终数据一致性。

交易系统之数据库弱依赖解决方案

图1 DB灾备流程

具体改造点:

1.DB操作增加灾备处理逻辑,出现异常时将数据存储到缓存,并发送MQ,再通过消费MQ异步还原DB数据操作;

2.数据查询链路,必须支持先查缓存再查数据库,并且减少外部查询请求;

3.数据库的DB操作性能非常好(毫秒级),灾备处理链路同步操作入缓存+MQ发送,整体性能耗时变高了,需合理设置MQ发送超时时间,当时接入团队内部MQSender组件,处理发送失败后异步自动重发,提升灾备处理链路的成功率,同时保障了MQ消息无丢失。

二、DB高并发替换方案

数据库的连接数是宝贵且有限,凡是连接数据库的系统,不可能无限进行机器扩容支持流量的增长,同时数据库支持TPS也是有上限,例如Mysql5.6.x版本建议最大500~1000之间,尤其对高性能和高并发的系统来说,在高要求的性能指标下,数据库吞吐量成为支撑大流量的瓶颈,如果通过增加数据库服务器,成本往往也是无法承担。

2018年有幸参与到P0核心交易系统的高可用升级项目,目标将交易系统tps提升至2w以上,当时20台数据库物理机(单机单实例,Mysql版本5.6.x),在高性能指标要求下,系统压测tps峰值最高可达到1~1.5w。为达成目标,同时考虑资源成本,项目升级改造方案思路:通过缓存+MQ组合将数据库操作完全异步化,同时利用MQ消费批量拉取策略,批量拉取数据进行DB批量操作,减少数据库操作次数提升效率。中间件选择上充分利用缓存组件的高性能、高吞吐、支持连接数更大的优势,保证了高性能同时也解决应用扩容问题。同时考虑到MQ平台上部署其他应用topic影响发送性能,搭建单独独享MQ集群,保证MQ发送的性能要求,多次大促期间MQ发送耗时tp999都小于50ms。中间件达到高性能要求后,将DB操作替换成同步入缓存+发送MQ,提升交易链路吞吐量,压测结果也达到tps>2w+目标。

交易系统之数据库弱依赖解决方案

图2 DB高并发替换

具体改造点:

1.交易链路中DB操作全为insert,无update,满足了异步化后DB操作可进行批处理;

2.搭建单独MQ平台,保证了MQ发送性能,同时接入团队内部MQSender组件,处理发送失败的异步自动重发,保证整体链路的成功率;

3.缓存组件,本身具备高吞吐量并且可快速扩容,异步化后交易链路吞吐量大幅提升。同时缓存接入R2M、JIMDB双缓存,针对不同机房设置主从操作,例如金融机房同步主操作R2M,异步操作JIMDB,性能最优。双缓存机制防止单个缓存组件出现故障后可快速切换,保证整体链路成功率;

4.异步化后通过MQ消费还原DB操作,通过合理设置MQ拉取策略,批量进行DB操作,减少DB操作提升效率;同时增加异步化延迟的UMP监控,监控从交易发起到异步入库完整链路耗时,可直观异步化后MQ消费能力,便于动态调整;

5.减少外部系统的查询诉求,统一以交易完成消息进行触达扭转,必要查询请求全部查缓存,上游要具备查询异常时重试机制。

三、财富系统弱依赖DB方案

财富交易系统参考以上两版方案,并结合自身交易场景多、交易链路长、数据状态多情况。基于此设计出一版以流水数据驱动交易数据扭转的方案,大概思路:交易链路少变动,交易数据的DB操作不变动,增加中转层将交易链路DB操作转换为逐笔流水数据的持久化操作,再异步消费MQ还原交易数据的DB操作,通过将新增中转层做到弱依赖DB,达到整个交易链路弱依赖DB。结合系统的流量现状,查询流量大交易流量TPS未达上万,当下主要目标加强交易链路的健壮性。

流水数据持久化的操作:并行执行DB入库、入缓存,二者其一操作成功则直接返回成功,并异步发送补偿操作的MQ,如果DB出现故障期间缓存操作正常也可保证系统运行正常,不影响线上业务开展。例如消费场景的弱依赖DB改造,正常收到交易请求后,首先业务校验+防重幂等>创建订单>扣减用户份额>更新订单状态,将创建订单、更新订单状态的操作改造为创建两笔流水数据的操作,交易链路不进行大的改造前提下,通过将流水数据持久化做到弱依赖DB,这样交易过程中即使DB出现故障时只要缓存组件正常运行即可保障消费交易正常完成,再通过异步消费MQ还原创建订单、更新订单的操作。方案落地后得到了很好的验证,曾经历过数据库因执行大的变更工单导致数据库出现性能故障,消费交易链路不受影响,保证业务正常运行和用户体验。

交易系统之数据库弱依赖解决方案

图3 财富系统弱依赖DB方案

具体改造点:

1.中转层流水数据持久化核心操作:并行执行DB的insert操作、入缓存,二者其一操作成功则直接返回成功,并异步发送补偿操作的MQ;

2.消费MQ异步还原交易库的DB操作时,通过数据中状态位保证MQ消费的顺序执行;

3.流水库和缓存的双向同步,如果流水库或缓存出现故障时,异步进行相互补偿存储,目前流水库存储全量流水数据。

4.交易链路主要改造两点:一、防重幂等以流水数据为准,流水数据查询是合并缓存和DB数据后返回;二、交易数据调用DB操作切换到创建流水数据的操作;

总结

以上数据库弱依赖的技术方案更适用于数据偏流水式的交易系统,随技术迭代和业务发展,技术方案也层出不穷并不断迭代创新,欢迎大家跟我们研发团队交流沟通,共同进步。

点赞
收藏
评论区
推荐文章
blmius blmius
1年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Stella981 Stella981
1年前
Linux应急响应(三):挖矿病毒
0x00前言随着虚拟货币的疯狂炒作,利用挖矿脚本来实现流量变现,使得挖矿病毒成为不法分子利用最为频繁的攻击方式。新的挖矿攻击展现出了类似蠕虫的行为,并结合了高级攻击技术,以增加对目标服务器感染的成功率,通过利用永恒之蓝(EternalBlue)、web攻击多种漏洞(如Tomcat弱口令攻击、WeblogicWLS组件漏洞、Jboss
Stella981 Stella981
1年前
Kerberos无约束委派的攻击和防御
 0x00前言简介当ActiveDirectory首次与Windows2000Server一起发布时,Microsoft就提供了一种简单的机制来支持用户通过Kerberos对Web服务器进行身份验证并需要授权用户更新后端数据库服务器上的记录的方案。这通常被称为Kerberosdoublehopissue(双跃点问题),
Wesley13 Wesley13
1年前
FLV文件格式
1.        FLV文件对齐方式FLV文件以大端对齐方式存放多字节整型。如存放数字无符号16位的数字300(0x012C),那么在FLV文件中存放的顺序是:|0x01|0x2C|。如果是无符号32位数字300(0x0000012C),那么在FLV文件中的存放顺序是:|0x00|0x00|0x00|0x01|0x2C。2.  
Easter79 Easter79
1年前
tcp_tw_recycle参数引发的数据库连接异常
【问题描述】开发反馈有个应用在后端数据库某次计划性重启后经常会出现数据库连接异常问题,通过监控系统的埋点数据,发现应用连接数据库异常有两类表现:  其一:连接超时  <spanstyle"backgroundcolor:FFFF00"131148.00msTomcatConnectionPool</span  其二:连接耗时过
Wesley13 Wesley13
1年前
Java日期时间API系列36
  十二时辰,古代劳动人民把一昼夜划分成十二个时段,每一个时段叫一个时辰。二十四小时和十二时辰对照表:时辰时间24时制子时深夜11:00凌晨01:0023:0001:00丑时上午01:00上午03:0001:0003:00寅时上午03:00上午0
Wesley13 Wesley13
1年前
mysql查询每个学生的各科成绩,以及总分和平均分
今天看一个mysql教程,看到一个例子,感觉里面的解决方案不是很合理。问题如下:有学生表:!在这里插入图片描述(https://oscimg.oschina.net/oscnet/07b001b0c6cb7e0038a9299e768fc00a0d3.png)成绩表:!在这里插入图片描述(https://oscimg.o
Wesley13 Wesley13
1年前
NEO从源码分析看网络通信
_0x00前言_NEO被称为中国版的Ethereum,支持C和java开发,并且在社区的努力下已经把SDK拓展到了js,python等编程环境,所以进行NEO开发的话是没有太大语言障碍的。比特币在解决拜占庭错误这个问题时除了引入了区块链这个重要的概念之外,还引入了工作量证明(PoW)这个机智的解决方案,通过数学意义上的难题来保证每个
Wesley13 Wesley13
1年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Easter79 Easter79
1年前
sql注入
反引号是个比较特别的字符,下面记录下怎么利用0x00SQL注入反引号可利用在分隔符及注释作用,不过使用范围只于表名、数据库名、字段名、起别名这些场景,下面具体说下1)表名payload:select\from\users\whereuser\_id1limit0,1;!(https://o