京东面试:系统突然涌入百万请求，如何防止缓存雪崩导致崩溃?

off999 2025-04-01 21:23 34 浏览 0 评论

在系统突然面临百万级并发请求时，防止缓存雪崩导致崩溃需要多层次的防御策略，结合以下措施可有效应对：

1. 分散缓存过期时间为缓存数据设置基础过期时间+随机偏移值（如基础TTL + 随机0-300秒），避免大量Key同时失效。例如，秒杀商品缓存可按商品ID尾号添加不同偏移量，分散失效时间。

2. 多级缓存架构本地缓存+分布式缓存：使用Caffeine或Ehcache作为应用层本地缓存（一级），Redis作为分布式缓存（二级）。即使Redis部分节点故障，本地缓存仍可支撑部分请求。热点数据预加载：在活动开始前（如零点秒杀），提前将商品数据加载至Redis和本地缓存，避免瞬时压力。

3. 限流与熔断机制限流：通过Nginx或API网关（如Spring Cloud Gateway）限制QPS，例如将请求峰值限制在系统可承受的1万QPS内。熔断：当Redis或数据库压力超过阈值时，触发熔断机制，暂时拒绝部分请求并返回降级内容（如默认提示页），避免级联崩溃。

4. 并发控制与锁机制分布式锁：当缓存失效时，使用Redis分布式锁（如Redisson）保证仅一个线程查询数据库并更新缓存，其他线程阻塞等待或重试。双重检查锁：在本地缓存中结合双重检查，减少锁竞争。

5. 异步更新与降级策略消息队列异步更新：缓存失效后，将更新操作通过消息队列（如Kafka）异步处理，避免瞬时数据库压力。降级策略：直接返回兜底数据（如活动结束提示），或通过Hystrix等框架实现服务降级。

6. 高可用架构与灾备Redis集群化：采用主从复制+哨兵模式或Cluster集群，避免单点故障。灾备切换：部署备用缓存集群，主集群故障时自动切换。

7. 热点数据特殊处理永不过期策略：对核心热点数据（如秒杀商品）不设置TTL，通过后台定时更新或监听DB变更主动刷新缓存。HotKey探测：通过流计算实时识别热点Key，自动分散至多节点或本地缓存。

8. 缓存穿透防护布隆过滤器：在缓存层前置布隆过滤器，拦截不存在Key的请求，避免无效查询穿透至数据库。空值缓存：对查询结果为空的Key，缓存短时占位符（如-999），减少重复穿透。

总结应对百万级请求的核心思路是：分散压力、分层防御、快速熔断。通过多级缓存分散请求，限流熔断保护关键服务，锁机制避免击穿，异步更新降低瞬时负载。例如，京东秒杀场景可结合预加载、本地缓存、Redis集群与限流策略，同时在代码层实现分布式锁和异步更新，最终保障系统高可用

相关推荐