【专项测试系列】-缓存击穿、穿透、雪崩专项测试

京东云开发者
• 阅读 78

作者:刘须华

一、背景概述: R2M 缓存的使用,极大的提升了应用程序的性能和效率,特别是数据查询方面。而缓存最常见的问题是缓存穿透、击穿和雪崩,在高并发下这三种情况都会有大量请求落到数据库,导致数据库资源占满,引起数据库故障。平时对缓存测试时除了关注增删修改查询等基本功能,应该要重点关注缓存穿透、击穿和雪崩三种异常场景的测试覆盖,避免出现线上事故。

二、基本概念说明

1、缓存击穿: 是指在超级热点数据突然过期,导致针对超级热点的数据请求在过期期间直接打到数据库,这样数据库服务器会因为某一超热数据导致压力过大而崩掉。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



2、缓存穿透: 是指查找的数据在缓存和数据库中都不存在,导致每一次请求数据从缓存中都获取不到,而将请求打到数据库服务器,但数据库中也没有对应的数据,最后每一次请求都到数据库;如果在高并发场景或有人恶意攻击,就会导致后台数据库服务器压力增大,最终系统可能崩掉。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



3、缓存雪崩: 是指突然缓存层不可用,导致大量请求直接打到数据库,最终由于数据库压力过大可能导致系统崩掉。缓存层不可用指以下两方面:缓存服务器宕机,系统将请求打到数据库; 缓存数据突然大范围集中过期失效,导致大量请求打到数据库重新加载数据,与缓存击穿的区别在于这里针对很多 key 缓存,前者则是某一个 key。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



三、测试工具 (非必须)

1、使用 Titan 压测平台进行并发请求测试

2、使用 jmeter 工具模拟并发请求

四、测试方法举例说明 (非必须)

环境:测试环境

工具:jmeter

(1)缓存穿透场景

测试方法:查询一个根本不存在的数据,缓存层和存储层都不会命中。

查询接口相关代码实现:

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



通过 JMETER 模拟多次重复调用:单线程重复调用

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



查看日志结果:从日志可以看出:执行并发请求后, 所有请求每次都走向了数据库。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



预防方案:

当数据库查询为空时,将缓存赋值默认值,后续查询都走缓存,减少数据库压力。

上述接口,增加赋值为 empty,则第一次查询到数据库为空,后续查询都查询到缓存中,缓存值为 empty。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



再次执行并发测试:从日志可以看出,可以看出每个 ID 都只执行了一次数据库查询并设置缓存,之后请求都命中了缓存,有效防止了缓存穿透问题。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



(2)缓存击穿场景

测试方法:对某个 Key 有大量的并发请求,这时从缓存中删除这个 key。模拟热 key 过期失效的场景。这个时候大并发的请求可能会瞬间把后端 DB 压垮。

接口相关部分代码实现:

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



操作步骤:

1、查询 pin 为 liuxuhua 的请求,这时 pin 为 liuxuhua 的数据会加载到缓存

2、再次查询 pin 为 liuxuhua 的请求,命中缓存

3、50 并发请求 pin 为 liuxuhua 的数据,这个时候请求全部命中缓存

4、将 pin 为 liuxuhua 的缓存手动删除,模拟缓存失效

5、50 并发请求 pin 为 liuxuhua 的数据,这个时候大量请求走向数据库,pin 为 liuxuhua 的缓存被击穿

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



查看日志结果:

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



预防方案:

在设置默认缓存值的基础上,进行加锁处理。只有拿到锁的第一个线程去请求数据库,然后插入缓存,当然每次拿到锁的时候都要去查询一下缓存有没有。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



从日志记录可以看到只有一个请求执行了数据库查询并设置缓存,其他请求都命中了缓存, 有效防止了缓存的击穿。

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



(3)缓存雪崩

测试方法:对多个使用到缓存的接口进行并发调用,设置这些缓存时间已过期(即删除缓存),调用时这些接口查询缓存时无数据,去查询数据库,这些请求都指向数据库,数据库压力增大,耗时增加。

模拟接口:

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



【专项测试系列】-缓存击穿、穿透、雪崩专项测试



通过 JMETER 模拟多次重复调用:单线程多接口重复调用

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



查看日志结果:可以看出大量请求到达数据库,并且同一个 pin 或 id 执行了多次数据库查询

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



预防方案:

增加限流操作,即接口频繁调用时,增加一个缓存,设置时间为 3s,3s 内处理一定次数的请求,超过限制次数的请求直接返回结果,不做处理。

接口:3s 内处理 6 次请求,超过则不处理;

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



从日志可以看出:可以看到每个都只查询了一次数据库并设置缓存,之后的请求都命中了缓存

【专项测试系列】-缓存击穿、穿透、雪崩专项测试



五、测试指标:(或者叫通过标准,包括关注点以及意义)

1、模拟缓存穿透场景测试,每个不存在的数据都只执行了一次数据库查询并设置缓存,之后请求都命中了缓存,有效防止了缓存穿透问题。

2、模拟缓存雪崩场景测试,每个缓存失效的数据都只执行了一次数据库查询并设置缓存,之后请求都命中了缓存。

3、模拟缓存击穿场景测试,缓存失效的那个数据只有一个请求执行了数据库查询并设置缓存,其他请求都命中了缓存。

六、适用业务场景:

1、秒杀活动

2、热门营销活动

3、618 和双 11 大促

七、研发侧常见解决方案(参考):

1、缓存穿透解决方案:

1、缓存空值 之所以发生穿透,是因为缓存中没有存储这些数据的 key,从而每次都查询数据库 我们可以为这些 key 在缓存中设置对应的值为 null,后面查询这个 key 的时候就不用查询数据库了 当然为了健壮性,我们要对这些 key 设置过期时间,以防止真的有数据

2、BloomFilter BloomFilter 类似于一个 hbase set 用来判断某个元素(key)是否存在于某个集合中 我们把有数据的 key 都放到 BloomFilter 中,每次查询的时候都先去 BloomFilter 判断,如果没有就直接返回 null 注意 BloomFilter 没有删除操作,对于删除的 key,查询就会经过 BloomFilter 然后查询缓存再查询数据库,所以 BloomFilter 可以结合缓存空值用,对于删除的 key,可以在缓存中缓存 null 缓存击穿

2、缓存击穿解决方案:

采用分布式锁,只有拿到锁的第一个线程去请求数据库,然后插入缓存,当然每次拿到锁的时候都要去查询一下缓存有没有

3、缓存雪崩解决方案:

1、采用集群,降低服务宕机的概率

2、ehcache 本地缓存 + 限流 & 降级

3、均匀过期,通常可以为有效期增加随机值

点赞
收藏
评论区
推荐文章
Stella981 Stella981
1年前
Redis 击穿、穿透、雪崩的解决方案
Redis击穿、穿透、雪崩的解决方案击穿和穿透场景:指的是单个key在缓存中查不到,去数据库查询(透过redis去查db叫击穿)区别:击穿:数据在数据库中真实存在,缓存丢失,大量请求击穿数据库穿透:数据在缓存中没有,数据库中也没有
Wesley13 Wesley13
1年前
cobol学习之十数据库的增删改查模板
这次连接数据库使用的是ODBC连接access数据库,里面主要是一个增删改查的模板备份,方便以后查询。000001IDENTIFICATIONDIVISION.000002PROGRAMID.SAMPLEDB2.00
Stella981 Stella981
1年前
Redis 总结精讲
本文围绕以下几点进行阐述1、为什么使用redis2、使用redis有什么缺点3、单线程的redis为什么这么快4、redis的数据类型,以及每种数据类型的使用场景5、redis的过期策略以及内存淘汰机制6、redis和数据库双写一致性问题7、如何应对缓存穿透和缓存雪崩问题8、如何解决redis的并发竞争问题
Stella981 Stella981
1年前
Guava的两种本地缓存策略
Guava的两种缓存策略缓存在很多场景下都需要使用,如果电商网站的商品类别的查询,订单查询,用户基本信息的查询等等,针对这种读多写少的业务,都可以考虑使用到缓存。在一般的缓存系统中,除了分布式缓存,还会有多级缓存,在提升一定性能的前提下,可以在一定程度上避免缓存击穿或缓存雪崩,也能降低分布式缓存的负载。Guav
Stella981 Stella981
1年前
Redis 缓存穿透、缓存雪崩的概念及其预防
缓存穿透【什么是缓存穿透】频繁查询不在缓存中的数据,给原本被缓存保护的系统过大压力。【为什么会发生缓存穿透】1\.程序没写好;2\.恶意攻击。【怎样防止缓存穿透】1\.在对key进行查询之前,先做初步判断,如果key一定不存在(例如,对某表的缓存,key一定由数字组成,那么包含非数字的key一定是不存在的
Stella981 Stella981
1年前
Redis之缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级
\TOC\Redis之缓存雪崩、缓存穿透、缓存预热、缓存更新、缓存降级1、缓存雪崩  发生场景:当Redis服务器重启或者大量缓存在同一时期失效时,此时大量的流量会全部冲击到数据库上面,数据库有可能会因为承受不住而宕机  解决办法:    1)随机均匀设置失效
Wesley13 Wesley13
1年前
mysql基础之查询缓存、存储引擎
一、查询缓存    “查询缓存”,就是将查询的结果缓存下载,如果查询语句完全相同,则直接返回缓存中的结果。  如果应用程序在某个场景中,需要经常执行大量的相同的查询,而且查询出的数据不会经常被更新,那么,使用查询缓存会有一定的性能提升。查看当前服务是否开启了查询缓存功能:!复制代码(https://oscimg.oschina.n
Wesley13 Wesley13
1年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
Stella981 Stella981
1年前
ELK学习笔记之ElasticSearch的索引详解
0x00ElasticSearch的索引和MySQL的索引方式对比Elasticsearch是通过Lucene的倒排索引技术实现比关系型数据库更快的过滤。特别是它对多条件的过滤支持非常好,比如年龄在18和30之间,性别为女性这样的组合查询。倒排索引很多地方都有介绍,但是其比关系型
Stella981 Stella981
1年前
Redis 缓存问题及解决方案
【相关概念】缓存击穿:指的是一些热点数据过期,由于热点数据存在并发量大的特性,所以短时间内对数据库的造成很大的冲击,导致系统瘫痪。常见于例如微博系统中明星结婚或出轨时微博瘫痪的情况。缓存雪崩:指的是大量数据或全部数据集中过期失效的情况,这种情况是由于大量数据设置了相同的过期时间而导致的。【使用缓存的流程】