营销权益平台春晚技术探究| 京东云技术团队

news/2024/10/6 4:08:39

一、引言

在当前快速发展的互联网环境中,许多企业和服务都面临着高并发场景的挑战。随着用户规模不断增长,对于同一时间内大量用户请求的处理能力、系统性能、稳定性和容错性的要求也日益提高。高并发场景对系统架构设计、数据库设计、缓存策略、自动化运维、安全防护、成本、效率等方面提出了重大挑战,需要综合考虑各项因素并采取有效的措施。本次分享将结合春晚案例,剖析如何应对高并发问题,以确保系统的稳定性和可扩展性。

二、背景

营销权益平台在2024春晚期间,主要承接抽奖场景支付券的投放和裂变互动场景主态、客态钱包余额的发放。为晚会活动提供科技券权益验资、权益领取、权益查询能力。

 


 

1、权益验资流程

验资的主要功能是判定用户是否可以领取指定权益,当用户点击“开始刮奖”时零售UMC会调用验资接口,批量获取当前用户可领的权益。该过程会对运营投放的每个活动进行基础信息的校验、库存校验、领取规则校验、资格校验、风控校验等,最后返回用户可领的权益集合,具体流程如下:

 


 

2、权益发放流程

验资流程结束后,零售umc会拿到用户可领的所有权益,包含支付券、红包、东券、实物等,umc会根据策略下发本次抽奖用户具体命中的权益给SOA,SOA发起权益的领取操作,如命中支付券,此时会调用权益发放接口,权益发放接口会对当前要领取的活动进行基础校验、规则校验、风控校验、完成以上校验后,进行活动库存扣减、用户资格扣减、权益入账(写库),并返回最终的领取结果。

 


 

三、挑战

1、成本与服务

既要考虑成本,又要考虑服务质量,还要考虑业务创新,在这种复杂的情况下,成本与服务的平衡成为架构设计中最大的挑战。

2、三高保障

同时满足高性能、高并发、高可用要求,中间件、数据等依赖服务达到瓶颈,加机器也不能解决的问题,如何破局?

四、实现

1、限流

合理的限流对系统稳定性和资源投入起到至关重要的作用,限流值的评估直接影响到系统复杂度、成本效率、业务达成、以及用户体验。

限流评估优先级原则:用户体验>业务目标>系统压力(系统复杂度、成本效率)

1)基于业务需求分析

明确业务玩法:C端视角的交互流程,主要考虑限流发生时对用户体验的影响。
明确业务目标:春晚期间业务计划发放的券总数。
活动流量特点:口播轮次及时间的确认,对于峰值的趋势预测,考虑舍弃峰值流量对目标达成的影响。

2)基于历史数据分析

以数据驱动,参考营销日常、大促、跨晚、会场活动等发放数据情况,结合业务目标,评估合理的限流值。

 


 

2、重缓存

使用缓存可以显著提高系统性能,降低数据源压力,改善用户体验,是保障系统高性能的有效方式。营销系统大量使用本地及redis缓存,缓存架构如下:

 


 

本地缓存的构建的两种方式:

一级缓存:本地+mysql+推模式更新。
两级缓存:本地+r2m+mysql+推模式更新。

两种模式的选取,需要考虑集群规模、数据大小、数据库性能、等因素(空间和时间的权衡)。

3、合并

合理的业务流程设计,将能够并行处理的逻辑通过多线程进行并行处理,通过批量请求的方式降低网络开销减少IO操作,保障系统性能的同时能有有效保护下游系统。

 


 

4、拆分

拆分是比较常用的解决方案,是一种空间换时间的思想。库存热点问题在本次春晚活动中尤为明显,通过合理的拆分得到解决。以下介绍营销系统使用的库存管理方案:

1)传统方式(日常领券链路)

读链路使用get命令,写链路使用lua实现库存控制,理论可支持(读+写)共4w/s。流量小,一致性要求高的场景推荐使用。

优点:简单、性能有保障、强一致性。

缺点:单节点并发瓶颈。

 


 

2)本地库存方式(收银台链路)

读链路预取库存在本地进行库存扣减,写链路使用lua实现库存控制,写最高2w,读理论无上限。一致性要求强,库存量级大、读多写少场景使用。

优点:读链路可实现横向扩展、强一致性。

缺点:库存较少时可能会产生单节点瓶颈。

 


 

3)分片库存(春晚版本)

读链路通过本地库存标识判断是否库存充足,写链路按照pin对库存进行分片,通过hashtag访问库存,弱一致性,库存量级大、读多写多场景使用。

优点:读写高并发。

缺点:弱一致性,少卖,库存和流量的量级要求要达标。

 


 

5、隔离

隔离在架构设计中能够提高系统的安全性、故障隔离能力、性能保护、管理便捷性,是设计健壮系统架构的重要手段。

同机房调用:jsf、jmq、r2m尽可能做同机房调用。春晚期间jmq跨零售和金融机房,与Jmq运维在金融机房搭建服务,降低跨机房耗时。
数据隔离:对用户数据、系统数据进行隔离、营销系统将用户资格数据、用户权益记录、用户领取记录分别存储,同时针对春晚券状态单独存储。
读写分离:对核心r2m、cds做读写分离,以降低主节点压力,提升系统性能。
业务隔离:对异步落库消息实现业务隔离,避免春晚期间券发放消息积压导致线上其他活动券到账延时。

 

 

 

五、总结

高并发场景下的解决方案往往需要综合考虑系统架构、技术选型、性能优化和容量规划等方面的问题,需要对业务和系统的整体情况有较深入的理解和把握。另外,高并发下的系统设计不是一成不变的,需要不断地根据业务发展和系统性能进行优化和调整,以适应不断变化的需求。同时,高并发场景下的系统设计需要注重容错和安全性,充分考虑异常情况下的应对措施,保障系统的稳定性和可靠性。综上所述,高并发场景下的系统设计需要综合考虑技术、业务和运维等多方面因素,是一个具有挑战性但又充满乐趣的工作。

 

作者:京东科技 谢凌东

来源:京东云开发者社区

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.ryyt.cn/news/28552.html

如若内容造成侵权/违法违规/事实不符,请联系我们进行投诉反馈,一经查实,立即删除!

相关文章

企业IT架构治理之道| 京东云技术团队

一、什么是架构和治理 1.1 架构的起源 开篇还是要说说大家理解的架构,何为架构,架构跟我们的工作和生活有什么关系。 英文Architecture本源来自于拉丁语,最早起源于建筑领域,建筑是文明社会一个重要的标志,同时也是人类社会最早形成完善理论和经验的领域。人民在长期的生产…

Linux文件路径(各目录标准)

原文链接:https://blog.csdn.net/m0_49864110/article/details/129097231 目录 Linux的根目录/usr目录(存放系统/用户安装的应用程序相关文件)/opt目录(存放第三方软件)/bin目录(存放系统预装的命令-所有人都可以使用)/sbin目录(存放系统预装的命令-存放管理员才可以使…

docker网络配置:bridge模式、host模式、container模式、none模式

在docker平台里有四种网络模式,今天继续分享一下它们的常用知识,进一步加深对docker技术的理解。1、docker网络模式分类 docker run创建Docker容器时,可以用--net选项指定容器的网络模式,Docker主要有以下4种网络模式。bridge模式:--net=bridge 如果不指定的话默认设置。 …

C#中面向对象的一些基础概念

案例所创建的.cs如下:OOP --Object Oriented Programming实例化类baseclass bc = new baseclass(); subclass sc = new subclass(); bc.Func(); sc.Func();里氏转换子类对象可以直接赋值给父类变量 子类可以调用父类对象,但是父类只有调用自己 父类中如果是子类对象,则可以…

c++17 推断指南(deduction guide)

namespace _nmsp2 {template<typename T>struct A{A(T val1, T val2){cout << "A::A(T val1,T val2)执行了!" << endl;}A(T val){cout << "A::A(T val)执行了!" << endl;}};template<typename T>A(T)->A<T>;…

为什么不建议使用Executors来创建线程池

不建议使用`Executors`类的静态方法(如`newFixedThreadPool`, `newSingleThreadExecutor`, `newCachedThreadPool`等)来创建线程池,主要基于以下几个原因: 1. 隐藏关键配置参数:`Executors`提供的便捷方法通常会隐藏线程池的重要配置参数,比如线程池的大小、工作队列类型…

hmac:Python密码消息签名

前言 HMAC算法可以用于验证信息的完整性,这些信息可能在应用之间传递,或者存储在一个可能有安全威胁的地方。 其基本思路:生成实际数据的一个密码散列,并提供一个共享的秘密密钥。然后使用得到的散列检查所传输或存储的信息,以确定一个信任级别,而不传输秘密密钥。 消息签…

socket:Python网络通信套接字

Socket网络通信套接字 socket库提供了一个底层C API,可以使用BSD套接字接口实现网络通信。它包括socket类,用于处理具体的数据通道,还包括用来完成网络相关任务的函数,如将一个服务器名转换为一个地址以及格式化数据以便在网络上发送。 什么是套接字? 套接字是程序在本地或…