IT虾米网

高并发秒杀系统分析详解

admin 2018年06月08日 程序员 611 0

本文是学习了immoc网视频之后的个人理解和知识汇总
项目源码:https://github.com/jeff-leo/SpikeSystem,希望大家能star和fork

一、秒杀系统中存在高并发的点

这里写图片描述

  一个秒杀系统的基本流程基本如上所示
  用户请求详情页,系统时间,请求秒杀接口,执行秒杀操作都是位于服务端,都会被大量访问,那么我们优化系统高并发就是从这四点着手

1. 请求详情页的优化

  详情页是属于静态济源,例如css,js等,对于这些静态资源,如果全部放在服务端主机中,势必对服务主机造成很大的压力,并发量也得不到支持,我们可以使用CDN来进行优化
  这里写图片描述

  什么是CDN?

  使用CDN会极大地简化网站的系统维护工作量,网站维护人员只需将网站内容注入CDN的系统,通过CDN部署在各个物理位置的服务器进行全网分发,就可以实现跨运营商、跨地域的用户覆盖。由于CDN将内容推送到网络边缘,大量的用户访问被分散在网络边缘,不再构成网站出口、互联互通点的资源挤占,也不再需要跨越长距离IP路由了

  传统的B/S架构:
  B/S架构,即Browser-Server(浏览器 服务器)架构,是对传统C/S架构的一种变化或者改进架构。在这种架构下,用户只需使用通用浏览器,主要业务逻辑在服务器端实现。B/S架构,主要是利用了不断成熟的WWW浏览器技术,结合浏览器的多种Script语言(VBScript、JavaScript等)和ActiveX等技术,在通用浏览器上实现了C/S架构下需要复杂的软件才能实现的强大功能。
  这里写图片描述
  
  ①用户在自己的浏览器中输入要访问的网站域名。
  ②浏览器向本地DNS服务器请求对该域名的解析。
  ③本地DNS服务器中如果缓存有这个域名的解析结果,则直接响应用户的解析请求。
  ④本地DNS服务器中如果没有关于这个域名的解析结果的缓存,则以递归方式向整个DNS系统请求解析,获得应答后将结果反馈给浏览器。
  ⑤浏览器得到域名解析结果,就是该域名相应的服务设备的IP地址。
  ⑥浏览器向服务器请求内容。
  ⑦服务器将用户请求内容传送给浏览器

  加入cdn后:
  在网站和用户之间加入CDN以后,用户不会有任何与原来不同的感觉。最简单的CDN网络有一个DNS服务器和几台缓存服务器就可以运行了。一个典型的CDN用户访问调度流程
  这里写图片描述
  
  ①当用户点击网站页面上的内容URL,经过本地DNS系统解析,DNS系统会最终将域名的解析权交给CNAME指向的CDN专用DNS服务器。
  ②CDN的DNS服务器将CDN的全局负载均衡设备IP地址返回用户。
  ③用户向CDN的全局负载均衡设备发起内容URL访问请求。
  ④CDN全局负载均衡设备根据用户IP地址,以及用户请求的内容URL,选择一台用户所属区域的区域负载均衡设备,告诉用户向这台设备发起请求。
  ⑤区域负载均衡设备会为用户选择一台合适的缓存服务器提供服务,选择的依据包括:根据用户IP地址,判断哪一台服务器距用户最近;根据用户所请求的URL中携带的内容名称,判断哪一台服务器上有用户所需内容;查询各个服务器当前的负载情况,判断哪一台服务器尚有服务能力。基于以上这些条件的综合分析之后,区域负载均衡设备会向全局负载均衡设备返回一台缓存服务器的IP地址。
  ⑥全局负载均衡设备把服务器的IP地址返回给用户。
  ⑦用户向缓存服务器发起请求,缓存服务器响应用户请求,将用户所需内容传送到用户终端。如果这台缓存服务器上并没有用户想要的内容,而区域均衡设备依然将它分配给了用户,那么这台服务器就要向它的上一级缓存服务器请求内容,直至追溯到网站的源服务器将内容拉到本地。

  DNS服务器根据用户IP地址,将域名解析成相应节点的缓存服务器IP地址,实现用户就近访问。使用CDN服务的网站,只需将其域名解析权交给CDN的GSLB设备,将需要分发的内容注入CDN,就可以实现内容加速了。

2. 获取系统时间操作的优化

  获取系统时间的操作不用优化,java访问一次内存大概10ns,1,000,000,000 纳秒 = 1秒 ,也就是说1s中可以访问1,000,000,00次内存,所以根本不需要我们去优化!

3. 秒杀地址接口获取的优化

  cdn适合存放不变的内容,例如css,js等静态内存,所以它不适合放在cdn中缓存,但是适合在服务端缓存,例如redis,甚至可以做redis集群。
  这里写图片描述

4. 秒杀操作高并发的问题(重点)

  1. 这个也是不能使用cdn缓存的,但是能不能使用redis做缓存呢?秒杀首先会在数据库中减库存,那我们能在redis缓存中做减库存操作吗?肯定不可以,因为这会导致数据一致性的问题,凡是需要进行写操作的数据都不适合做缓存。
  2. 高并发的点还在于,热点商品竞争上。当多个用户在秒杀同一个商品时,由于mysql的事务机制和行级锁,一个用户在获取该商品额行级锁进行减库存操作时,其它的用户只能等待,这就变成了串行的操作,这就是秒杀操作高并发中最困难的优化点
  这里写图片描述
  

二、如何优化秒杀操作

第一个方案:

这里写图片描述
  首先,可以用NoSQL例如redis作为一个原子计数器,记录商品的库存,当用户秒杀该商品时,该计数器便减1,当计数器为0时,则隐藏秒杀接口,用户就不能秒杀操作了;
  然后记录哪个用户秒杀了该商品,作为一个消息,存储到分布式mq中(例如alibaba的rocketMQ和apache的ActiveMq),然后用户立即返回提示(例如:正在秒杀,请等待)
  最后由接着由消息队列的消费者进程异步取出数据,再让服务端的服务去执行数据库的update操作。

这个方案有什么问题呢?

  1. 运维和不稳定性,NoSQL不如MySQL稳定,所以需要高水平的运维团队
  2. 重发秒杀的问题。在记录行为信息中,分布式MQ只知道记录哪个用户在秒杀该商品,但是不知道该用户是否已经重复秒杀过该商品,因此还需要另外维护一个NoSQL,来记录哪些用户已经秒杀了哪些商品,加大了成本

第二个方案:在mysql上优化

  我们之所以考虑第一个方案,就是因为MySQL低效,为什么低效
  我们来看看mysql执行一条update的并发量:
  这里写图片描述
  可以看到,mysql可以抗住大约4wQPS,那么MySQL本身是不低效的,但是是什么地方使得它低效呢?

我们分析一下瓶颈所在:

  这里写图片描述
  服务端的程序和数据库一般放在不同的主机上,当服务端进行减库存操作时,会发送update的sql语句到数据库中,这里会存在一个网络延迟和gc,同样insert语句记录秒杀明细也会存在网络延迟和gc,假如一次的网络延迟和gc加起来的总延迟是2ms,那么1s就只能进行500次的秒杀操作
  同城机房:
  这里写图片描述
  
  异地机房:
  这里写图片描述

优化:把服务器的执行逻辑放在mysql服务端,避免网络延迟和gc延迟

  两种方案:
  1. 定制sql方案:update /* + [auto_commit] + */,需要修改mysql源码(太困难)
  2. 使用存储过程,在mysql中去完成整个秒杀操作的事务(即把下面这个操作放到存储过程中),虽然存储过程在互联网中很少用,但是在
  这里写图片描述

  因此,在项目中我们会使用到存储过程来实现秒杀操作

三、使用存储过程来优化秒杀操作

 <!-- mybatis 调用存储过程--> 
    <select id="seckillByProduce" statementType="CALLABLE"> 
        CALL excuteSeckill( 
          #{ seckillId , jdbcType = BIGINT , mode= IN }, 
          #{ phone ,jdbcType = BIGINT , mode= IN }, 
          #{ killTime , jdbcType = TIMESTAMP , mode= IN }, 
          #{ result , jdbcType = BIGINT , mode= OUT } 
        ) 
    </select>
    public SeckillExecution executeSeckillByProducure(long seckillId, long userPhone, String md5) { 
        if(md5 == null || !md5.equals(getMd5(seckillId))){//数据篡改 
            return new SeckillExecution(seckillId, SeckillStatEnum.DATE_REWRITE); 
        } 
        Date now = new Date(); 
        Map params = new HashMap(); 
        params.put("seckillId", seckillId); 
        params.put("phone", userPhone); 
        params.put("killTime", now); 
        params.put("result", null); 
        try { 
            seckillMapper.seckillByProduce(params); 
            Integer result = MapUtils.getInteger(params, "result", -3); 
            if(result == 1){//成功 
                SuccessKilled successKilled = successKilledMapper.queryByIdWithSeckill(seckillId, userPhone); 
                return new SeckillExecution(seckillId, SeckillStatEnum.SUCCESS, successKilled); 
            }else{//如果失败,把错误状态-1或者-2等返回 
                return new SeckillExecution(seckillId, SeckillStatEnum.stateOf(result)); 
            } 
        } catch (Exception e){//出现异常也要返回 
            logger.error(e.getMessage(), e); 
            return new SeckillExecution(seckillId, SeckillStatEnum.INNER_ERROR); 
        } 
    }

参考:
CDN的基本工作过程
imooc

更多关于系统架构和分布式的了解:
分布式架构的演进

发布评论

分享到:

IT虾米网

微信公众号号:IT虾米 (左侧二维码扫一扫)欢迎添加!

idea + Maven + Spring + myBatis的单元测试详解
你是第一个吃螃蟹的人
发表评论

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。