首页 > 手机 > 配件 > 的缓存异常处理,缓存雪崩

的缓存异常处理,缓存雪崩

来源:整理 时间:2022-04-07 19:06:30 编辑:华为40 手机版

缓存雪崩:缓存雪崩我们可以简单的理解为:由于原有缓存失效,新缓存未到期间(例如:我们设置缓存时采用了相同的过期时间,在同一时刻出现大面积的缓存过期),所有原本应该访问缓存的请求都去查询数据库了,而对数据库CPU和内存造成巨大压力,严重的会造成数据库宕机。

如何解决微服务架构中的雪崩问题?

如何解决微服务架构中的雪崩问题

在分布式系统都存在这样一个问题,由于网络的不稳定性,任何一个服务的可用性都无法做到100% 。当网络不稳定时,作为服务的提供者,自身可能会被拖死,导致服务调用者阻塞,最终可能引发雪崩效应。1 雪崩问题的本质我们先来看一个分布式系统中常见的简化模型。Web服务器中的容器启动时后台初始化一个调度线程,这个线程主要负责处理Http请求,调度线程从线程池中取出一个工作者线程来处理该请求,从而实现并发控制的目的。

Servlet Container是我们的容器,如Tomcat、Netty等。一个用户请求有可能依赖其它多个外部服务。考虑到应用容器的线程数基本都是固定的(比如Tomcat的线程池默认200),那么在高并发场景下,如果某一个依赖的外部服务超时阻塞,就有可能使得整个主线程池打满,增加内存消耗。更进一步,如果线程池被占满,那么整个服务将不可用,继而会重复产生上述问题。

整个系统就像雪崩一样,最终崩掉。2 雪崩效应产生的几种场景流量激增:比如异常流量、用户重试导致系统负载升高;缓存刷新:假设A为客户端,B为服务器端,我们假设A的请求都流向B,如果请求超出了B的负载,就会造成B系统崩溃;程序有Bug:代码循环调用的逻辑问题,资源未释放引起的内存泄漏等问题;硬件故障:比如宕机,机房断电,光纤被挖断等;线程同步等待:系统间经常采用同步服务调用模式,核心服务和非核心服务共用一个线程池和消息队列。

如果一个核心业务线程调用非核心线程,这个非核心线程交由第三方系统完成,当第三方系统本身出现问题,导致核心线程阻塞,一直处于等待状态,而进程间的调用是有超时限制的,最终这条线程将断掉,也可能引发雪崩。3 雪崩效应的常见解决方案针对上述雪崩情景,有很多对应的解决方案,但没有一个万能的模式能够应对所有场景。

什么是缓存击穿,它和缓存雪崩有什么区别么?

什么是缓存击穿,它和缓存雪崩有什么区别么

缓存击穿和缓存雪崩的区别在于:雪崩针对很多 key,而击穿只针对于某一个热点 key。缓存雪崩的实现方案有不少,有一些能够解决缓存击穿,有一些却不能,例如:设置缓存永不过期,这个方法虽然很暴力,但是确实能解决大部分的问题,当然,大部分场景也不太适用;设置随机过期时间,这个方案对于缓存击穿来说就不太适用了,因为击穿只针对一个热点 key,只要它一失效,大量的访问就会击垮数据库;其余的方案比如使用互斥锁、双缓存机制,也都可以解决缓存击穿的问题,让我们看看这些方案的具体实现。

主动刷新缓存缓存设置成永不过期,在更新或删除 DB 中的数据时,也主动地把缓存中的数据更新或删除掉。这个方案很容易理解,但是实现起来却很复杂,但凡需要使用缓存的数据,都需要增加双写数据库和缓存的代码,并且双写过程中,还需要保持数据一致性。检查更新缓存依然保持设置过期时间,每次 get 缓存的时候,都和数据的过期时间和当前时间进行一下对比,当间隔时间小于一个阈值的时候,主动更新缓存。

比如(缓存过期时间 - 当前系统时间)小于 5 分钟,那么就刷新一次缓存,并且重置缓存过期时间;不过这个方法也有个致命的问题:如果一个数据,恰好在缓存失效前五分钟,一次访问都没有,那么就不会触发检查更新,当缓存失效后有大量请求访问,那么也会造成缓存击穿。使用锁在缓存失效后,通过互斥锁或者队列,控制读数据库和写缓存的线程数量。

第一种方法:整个方法是 synchronized 的,这样做虽然可以防止大量请求落到 DB 上,但是就算是缓存没有失效,需要从 DB 中查询数据也需要排队,无疑是降低了系统的吞吐量。第二种方法:当缓存失效时,只对查询数据库的操作进行加锁,这样对于缓存没有失效的情况也非常友好,但是查询操作这里加锁,也只是会阻塞掉住其他调用,第一其他线程要等待,对调用方不友好,第二这些请求被阻塞的请求最终还是会落到 DB 上的。

第三种方法:使用互斥锁,抢到锁的话读数据库并写入缓存,抢不到锁的话也不阻塞,而是直接去读缓存,如果缓存中依然读不到数据(抢到锁的可能还没有将缓存写入成功),就等一会再试试读缓存。双缓存设置一级缓存和二级缓存,一级缓存过期时间短,二级缓存过期时间长或者不过期,一级缓存失效后访问二级缓存,同时刷新一级缓存和二级缓存。

双缓存的方式,说白了就是不能将一级缓存和二级缓存中数据同时变成失效,当一级缓存失效后,有多个请求访问,彼此之间依然是竞争锁,抢到锁的线程查询数据库并刷新缓存,而其他没有抢到锁的线程,直接访问二级缓存(代码可以参考上文中的互斥锁),如图:我将持续分享Java开发、架构设计、程序员职业发展等方面的见解,希望能得到你的关注;关注我后,可私信发送数字【1】,获取学习资料。

Java高并发下缓存问题的现象及本质原因是什么?

Java高并发下缓存问题的现象及本质原因是什么

缓存击穿缓存击穿是指缓存没有用户请求的数据但是数据库中有用户请求的数据,这时如果并发用户很多又无法通过缓存来得到数据只能从数据库取数据进而导致数据库压力瞬间增大,系统访问缓慢。缓存雪崩缓存雪崩指的是同一时间有大量的缓存数据过期,这时候有大量的访问进而导致数据库压力剧增进而宕机。缓存雪崩和缓存击穿的差别是,缓存雪崩指的是大量的数据到期,缓存击穿指的是单个缓存数据到期本质原因是系统在进行设计时对缓存体系设计不合理对于热点数据可以考虑设置为永不过期,通过手工的方式来处理热点数据对于缓存数据的过期时间设置为随机避免同一时间有大量的缓存数据失效可以考虑通过分布式的方式来配置缓存。

如何解决Redis缓存雪崩、缓存穿透、缓存并发等问题?

缓存穿透很多项目在使用Redis或其他缓存框架的时候,都是先查询缓存,查询不的话再查询数据库,查到之后再放到内存中;如果一个key值本身就不存在,那么每一次都会查询数据库,也就是常说的【缓存穿透】。应对方法:如果在Redis中查询不到,并且查询数据库也没有结果,那么就将这个key写入到Redis中,value=空,并设置一个超时过期时间,例如五分钟,那么五分钟以内的对这个可以的所有查询就可以拦截下来,如果数据库有key对应的数据了,那么五分钟后Redis中的缓存过期,会访问数据库并加载缓存;但是如果被恶意攻击,每次请求的key都不相同且不存在,那么依然会穿透到数据库;布隆过滤器:将可能存在的数据Hash到一个足够大的bitmap上,它可以告诉你 “某个key一定不存在或者可能存在”,一个一定不存在的数据会被bitmap拦截。

缓存雪崩很多时候,Redis中的缓存是要设置过期时间的,假如Redis中的数据,过期时间都设置成一样的,那么到了时间之后,全部缓存过期失效,下一秒所有的请求都会访问数据库,那么数据库可能因为访问量多大导致“崩溃”,这就是缓存雪崩。应对方法:最暴力的解决办法,缓存不设置自动过期时间,只要缓存不崩,数据库就不会崩。

另外一个办法,就是让缓存过期时间不那么一致,比如一批缓存数据24小时后过期,那么就在这个基础上,每条缓存的过期时间前后随机1-6000秒(1-10分钟)。缓存并发大多数时候,我们的程序访问Redis都不可能是单线程,那么当多个Client并发对Redis进行set key操作的时候,可能会产生一些问题;其实Redis本身是单线程的,这种时候会按照先后顺序进行操作;或者把操作放在队列中,按顺序执行;但比如这种情况:token过期,有两个线程都去重新获取token;线程1获取token1;线程2获取到token2,此时token1过期;线程1把token1放到Redis,再拿着token1去调用服务,发现过期了,继续去请求token3,此时token2过期;线程2把token2放到Redis,再拿着token2去调用服务,发现过期了,继续去请求token4,此时token3过期;... ...这就需要我们在更新缓存的时候,做一些控制了。

阿里Java研发岗如何面试:数据结构 MySQL 缓存雪崩 高并发等?

面试题如下一面(主要是jvm,并发,锁,数据结构等基础)1.自我介绍(说说自己的擅长及拿手的技术)2.自我介绍(说说自己的擅长及拿手的技术)说说treemap和HashMap的区别?HashMap和ConcurrentHashMap的区别?3.HashMap底层如何实现(JDK1.8有所改动)?4.说说Hash的一致算法?5.你知道的GC算法和回收策略有哪些?GC的机制是什么?6.垃圾回收器的基本原理?是否可以立即回收内存?怎么样主动的通知JVM进行垃圾回收?7.双亲委派模型机制8.线程池创建的几个核心构造参数是什么?9.乐观锁和悲观锁?可重入锁和Synchronized?10.他们都是可重入锁吗?哪个效率更高?11.CountDownLaunch和Cylicbarrior的区别以及分别是在哪样场景下使用的?12.Http和Https的区别以及Https加密的方式?13.以后的职业规划和想法二面(主要是数据库,协议,Spring等)1.自我介绍,聊下自己认为做得很好的项目!2.InnoDB支持的四种事务隔离级别名称是什么? 之间的区别是什么?MySQL隔离级别是什么?3.说说事务的特性?讲讲对慢查询的分析?4.你理解的BTree机制?5.有哪些MySQL常用的优化方法?6.Http请求过程,DNS解析的过程?7.三次握手和四次握手的过程?8.B 树索引和Hash索引之间的区别?9.Spring IOC如何管理Bean之间的依赖关系,怎么样避免循环依赖?10.SpringBean创建过程中的设计模式?11.说说AOP的实现原理?12.Tomcat的基本架构是什么?三面(主要是缓存,高并发,分布式)1.自己项目中的总结的并发经验2.说说MySQL的锁并发?加锁的机制是什么?3.高并发场景下如何防止死锁,保证数据的一致性?4.集群和负载均衡的算法与实现?5.说说分库与分表设计?6.分库分表带来的分布式困境与对应之策有哪些?7.Redis和Setnx命令使如何实现分布式锁的?使用Redis怎么进行异步队列?会有什么缺点?8.缓存击穿的概念和解决方案?9.Redis的数据结构? 线程模型? Redis的数据淘汰机制10.Redis的数据一致性问题11.MQ底层原理的实现?12.阻塞队列不用Java提供的该怎么实现?13.讲讲负载均衡的原理?14.如何实现高并发环境下的削峰、限流?四面(主要项目入手)1.讲讲项目中用到的中间件(Dubbo/MQ/Zookeeper/Redis/Kafka)?2.什么情况下会造成雪崩?该怎么避免这种情况?3.高并发架构的设计思路?4.以前的项目中遇到的问题和解决策略?5.生活中遇到过哪些挫折?最后怎么解决的?--------------------- 。

文章TAG:缓存雪崩异常

最近更新