首页 > 新车性能 > 新车性能 > 京东到家订单交易架构演化

京东到家订单交易架构演化

发布时间:2024-07-08 16:08:07来源: 15210273549

背景
交易系统可能不是技术难度最深的,但是业务复杂度最高的,一个订单从提交到最后真正生产成功要经历几十个系统,涉及的接口交互,MQ等可能达上百个。任何一个环节出问题都会导致这一单的异常,而且交易不像单纯的资讯门户可以靠静态化或者缓存抗住大并发,交易系统里面涉及到大量的资源(库存,优惠券,优惠码等)消费,订单生成等需要写入持久化的操作不是单纯的异步或者缓存化可以解决的,而且对库存等敏感信息不能出现并发扣减等。

细节的设计非常多,下面挑出比较典型的一些方面,给大家介绍下京东到家交易系统的架构设计和关键问题的处理方案。

历程
系统Set化
初期的订单系统和首页,单品页,购物车业务逻辑层等都是在一个大项目里。非常适合初期人员少,业务复杂度低,快速迭代,不断探索试错的过程,但是随着业务的发展,出现了以下问题:

系统的流量和业务复杂度也越来越大,大家共用一个大项目进行开发部署,相互影响,协调成本变高;
不同的业务模块,流量和重要级别不同需要的部署策略和容灾降级限流等措施也不一样,要分而治之;

解决方案
项目Set化,这个过程中要注意Set化的边界问题,粒度太大了效果不好,太小了设计过度了,反而会增加维护和开发成本;


分库分表
问题
随着订单的并发量的不断攀升,特别是在双十一,618等大促的时候,单组DB(一主多从)存在着明显的压力,单个主库的连接数是有限的。大单量,大并发的时候,数据库越来越成为了我们的瓶颈。

解决方案
针对接单数据库我们采取的常规做法分库,根据订单号进行Hash分布到不同的多个数据库中,代码方面我们是继承了Spring的AbstractRoutingDataSource,实现了determineCurrentLookupKey方法。对业务代码只有很少的耦合。

另外下发到个人中心数据库的订单信息,每天不断的累计到DB中,存在以下风险:

MySQL的单表容量超过单机限制
穿透缓存到达DB的数据查询也是非常有问题的。
目前我们采取对个人中心的表按照pin进行分库分表。
但是对于后端生产系统对于订单数据的查询操作,特别是涉及到多条件组合的情况,由于数据量大,多个表数据的关联,无论分不分表或者读写分离对这个场景都不能很好的解决。

这种场景下我们采用了ES,在写入DB的时候同步写入ES。你可能会问ES失败了,数据不一致怎么办,ES失败了DB回滚,Worker标识状态,重新迎接下一次轮询。

前端下单和后端生产分离
问题
ToC端和ToB端的业务场景不同,前端对互联网用户的更多的是快速响应,抗住流量压力,而后端的场景需要稳定的全量的数据,要在接单的数据库基础上进行补全数据;两个端职责不同,不能互相影响;

解决方案
ToC和ToB分离,前端App或者H5用户下单和后端订单真正的生产相分离;前端订单系统挂掉了,不影响后端的生产;后端的生产挂了,对用户的下单也是无感知的。只是对配送的时效体验上会有影响,不是阻断性的。

我们ToC的订单系统和ToB的是两个不同的独立数据库,互不影响;订单管道的Woker都是基于TBSchedule的分布式管理,多个Woker并行处理,下发时机都在毫秒级;


并行控制提升效率
问题
交易的流程依赖的系统非常多,拿提单按钮来举例,结算页的”提单”按钮,点一次就会触发20+个接口。随着业务复杂度的提升,单纯的串行执行效率越来越低,前端用户的体验越来越差。我们要求TP999在500ms以内的响应速度。

解决方案
我们梳理了服务的依赖关系等,对没有前后依赖的接口进行放到线程池里面异步执行,类似:查询库存,查询商品信息,查询促销信息等都并行执行。此步执行的时间,是并行接口里面最长的一个执行的时间。这样一来整个提单的操作提升了几百毫秒。

另外资源(库存,优惠券,优惠码,促销等)的消费和回滚,我们也采用了并行的方式,每一种资源类都实现消费和回滚的接口。如下图:


每个资源类都是一个Task的成员变量,Task实现了Callable接口。这样一来,不但整个提单大接口的效率提升了,对于资源消费和回滚环节,程序和业务的扩展性提升了很多。比如新增一种资源,这时候只需实现消费和回滚接口,然后扔到线程池里面就完成了。


异步
在服务端可能需要针对提单请求做一些附属的事情,这些事情其实用户并不关心或者用户不需要立即拿到这些事情的处理结果,这种情况就比较适合用异步的方式处理这些事情,思路就是将订单交易的业务整理出来,哪些是不影响主流程的,例如:发短信,保存最近使用地址,清除购物车商品,下发订单给个人中心等等。这些都是在提单之后的异步线程去做。对于下发给个人中心的操作,如果失败,我们会有Woker补偿机制;

我们这里使用的是线程池的模式进行异步处理的,处理过程中有几个问题需要注意下:

线程池的队列不建议使用无界队列,它的默认大小是整数的最大值,这样在突发流量的时候会导致内存暴涨,影响服务;建议使用ArrayBlockingQueue
不推荐使用CallerRunsPolicy,即在线程和队列都达到max的时候,退回此请求到主线程。这样在突发流量或者接口提供方性能下降的时候导致主线程数暴增,影响整体服务。可以直接使用拒绝的策略,后续的Woker可以对异常单就行补偿;
依赖治理
订单交易上百个接口,几十个系统交互。各服务直接的依赖关系如何治理是一个很重要的问题。如下图:


问题
一个服务依赖这么多服务,每个服务除自身的原因外,还受到网络原因等其他外部因素的影响,高并发情况下任何一个依赖的服务的波动都会造成整个大服务的阻塞,进而导致系统“雪崩”。

解决方案
那这些服务特别是不是阻断流程的服务,我们可以采用降级的处理,例如调用超时了给设定默认值,调用量比较大,所依赖的服务严重超时并影响整个调用方时,可以通过配置直接提供有损服务,不调用此服务。

我们解决此类问题是使用自己开发的基于Zookeeper的“鲁班系统”,其原理就是Zookeeper相应的Znode节点下的数据做为对接口的开关或者降级情况的配置等。当相应的节点的数据发生变化的时候,对此节点监听的所有服务器都会受到通知,并将此变更同步到本地的缓存中;本地缓存我们使用的ConcurrentHashMap。当然也可以使用Guava Cache等开源组件,注意并发的场景就可以了;


然后再结合我们的UMP监控系统对系统的可用率,调用量等情况进行降级时机的判定,对Zookeeper相应节点的数据做动态配置;

 


履约
问题
针对订单履约的过程清晰可追溯,我们自己开发了UDP上报系统,对一次提单中操作的所有接口,几十个系统的交互进行了详细记录;

解决方案
出参入参,是否异常,IP等信息均做了上报。通过Spring的AOP方式,开发了一个自定义注解,对添加了注解的方法UDP方式写入到ES集群中;而且我们实现了工具化,任何项目引入我们的Jar包,做简单配置就可以向我们的UDP服务端上报信息了。随着现在的信息量变大,我们正在考虑升级架构,UDP Client端发送信息到Kafka,然后Storm实时在线分析形成最终需要的数据落地到ES集群中;

此系统大大提升了我们定位解决问题的效率。

 

新车性能更多>>

一汽丰田双车探野版上市:不到10万就能拿下丰田SUV,等等党赢麻了! 比亚迪洽谈收购大众德国“透明工厂”!曾经生产辉腾! 领克900大五座真正回到用户生活场景、解决真实痛点的产品,才能穿越周期,成为经典 丰田海狮SUPER HOBBY的这款H50从九州展开始便引起比较多的关注 凭体系实力摘得月销四连冠!上汽即将迎来全球第一亿位车主 北京车展发布魔方技术平台,问界产品巅峰再进化 宝马将基于2027款7系打造最新防弹安全车 理想i6月销量突破2万辆,逐渐和特斯拉Model Y并驾齐驱? 连续4个月夺冠的上汽集团,到底有多少含金量? 金标大众如何诠释智能电动时代的“金标准” 销量持续火爆!宝马在欧洲举办新世代iX3大型试驾活动 德国汽车管理中心(CAM)发布《2026年汽车创新报告》,中国车企比亚迪以157分的成绩强势夺魁 汉EV闪充版上市:比亚迪打响中大型轿车“闪充普及战” 2026年北京国际车展的展馆内,当享界S9与S9T两款旗舰车型身披璀璨华彩,以焕然一新的姿态缓缓驶入众人视野时,瞬间点燃了全场的热情。现场的喧嚣与热度,不仅是对这两款重磅新车的聚焦,更是对一个正在悄然改写的豪华车时代的深情见证。 “国家队出线” 岚图央企造车转型案例可圈可点 二代哈弗H9 2026款上市,不是所有越野车都叫“一家人的越野车” “五界”协同发展,为高端智能车发展打了个样 越野驾控升级,二代哈弗 H9 2026款限时17.49万起 左握温暖科技右持卓越品质,传祺要做“家庭美好出行的守护者” 星光730尊享型:8.78万起标配双电门,人民的MPV 向“尚”而行 体系制胜 尚界破局智能电动车下半场 15.49万元起,别克至境E7用42项标配重划家用SUV的价值底线 全链减碳,新世代BMW iX3长轴距版诠释“可持续的豪华” 东风汽车发布“东方风起2030”战略 焕新出发 广汽发布五大核心技术:昊铂GT攀登版5月上市,全车1004颗芯片100%国产 五座新王已就位,岚图泰山X8重新立下大五座的规矩 42.8万元起 坦克700正式上市 主打全域豪华与双动力越野 深蓝 L06 增程版上市,以高性价比破局同级新能源市场 老外开比亚迪车,实用语音控制,被强制学会中文了 奇瑞新燃油战略重磅落子!新瑞虎9上市,限时14.69万元起