博客
关于我
老大让我复盘上次Redis缓存雪崩事故
阅读量:360 次
发布时间:2019-03-04

本文共 863 字,大约阅读时间需要 2 分钟。

抢购活动线上事故复盘:缓存雪崩的教训

事故背景

近期公司推出了一个商品抢购活动,由于后台操作失误,导致活动效果不佳,引发了用户和代理商的投诉。老大让我与同事一起复盘这次线上事故。

什么原因造成的?

抢购活动原本计划在0点准时开始,22点运营人员通过后台将商品上线。23点后台小哥已经将商品导入缓存中,提前预热。

抢购开始时流量非常大,预计Redis将承担大部分用户查询请求,避免所有请求都落在数据库上。

预期与现实

根据预期,大部分请求应该命中缓存。然而,后台小哥在预热缓存时,将所有商品的缓存时间设置为2小时过期。结果,在同一时间点,所有商品的缓存同时失效,所有请求都落到了数据库上,导致数据库无法承受压力,崩溃,用户请求全部超时报错。

当前发现

凌晨1:02,SRE收到系统告警,登录运维管理系统发现数据库节点CPU和内存飙升超过阈值,迅速联系后台开发人员定位排查。

为什么没有早点发现?

缓存设置过期时间是2小时,凌晨1点前缓存可以命中大部分请求,数据库服务处于正常状态。

发现时采取的措施

后台小哥通过日志定位排查问题后,采取了以下措施:

  • 通过API Gateway限制大部分流量
  • 宕机的数据库服务重启
  • 重新预热缓存
  • 确认缓存和数据库服务正常后,将网关流量正常放开
  • 抢购活动恢复正常,大约01:30
  • 如何避免下次出现?

    这次事故的根本原因是缓存雪崩,查询数据量巨大,请求直接落到数据库上,导致数据库压力过大宕机。

    业界解决缓存雪崩的方法有以下几种:

    方法一:均匀过期

    设置不同的过期时间,失效时间点尽量均匀。通常为有效期增加随机值或统一规划有效期。

    方法二:加互斥锁

    跟缓存击穿解决思路一致,同一时间只让一个线程构建缓存,其他线程阻塞排队。

    方法三:缓存永不过期

    跟缓存击穿解决思路一致,缓存在物理上永远不过期,用一个异步的线程更新缓存。

    复盘总结

    通过与同事复盘这次线上事故,大家对缓存雪崩有了更深刻的理解。为了避免类似问题,我们讨论了多个解决方案:

    • 均匀过期
    • 加互斥锁
    • 缓存永不过期

    希望技术人能够敬畏每一行代码!

    转载地址:http://dlbr.baihongyu.com/

    你可能感兴趣的文章
    OpenCV与AI深度学习 | 实战 | OpenCV传统方法实现密集圆形分割与计数(详细步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战 | OpenCV实现扫描文本矫正应用与实现详解(附源码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 使用OpenCV和Streamlit搭建虚拟化妆应用程序(附源码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 使用OpenCV确定对象的方向(附源码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 使用YOLOv8 Pose实现瑜伽姿势识别
    查看>>
    OpenCV与AI深度学习 | 实战 | 使用YoloV8实例分割识别猪的姿态(含数据集)
    查看>>
    OpenCV与AI深度学习 | 实战 | 使用姿态估计算法构建简单的健身训练辅助应用程序
    查看>>
    OpenCV与AI深度学习 | 实战 | 基于OpenCV和K-Means聚类实现颜色分割(步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 基于YoloV5和Mask RCNN实现汽车表面划痕检测(步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 基于YOLOv9+SAM实现动态目标检测和分割(步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 基于YOLOv9和OpenCV实现车辆跟踪计数(步骤 + 源码)
    查看>>
    OpenCV与AI深度学习 | 实战 | 文本图片去水印--同时保持文本原始色彩(附源码)
    查看>>
    OpenCV与AI深度学习 | 实战—使用YOLOv8图像分割实现路面坑洞检测(步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战篇——基于YOLOv8和OpenCV实现车速检测(详细步骤 + 代码)
    查看>>
    OpenCV与AI深度学习 | 实战|OpenCV实时弯道检测(详细步骤+源码)
    查看>>
    OpenCV与AI深度学习 | 实践教程|旋转目标检测模型-TensorRT 部署(C++)
    查看>>
    OpenCV与AI深度学习 | 工业缺陷检测中数据标注需要注意的几个事项
    查看>>
    OpenCV与AI深度学习 | 干货 | 深度学习模型训练和部署的基本步骤
    查看>>
    OpenCV与AI深度学习 | 手把手教你用Python和OpenCV搭建一个半自动标注工具(详细步骤 + 源码)
    查看>>
    OpenCV与AI深度学习 | 水下检测+扩散模型:或成明年CVPR最大惊喜!
    查看>>