智汇 IT
城启新篇

缓存策略藏在一次凌晨告警里

凌晨1:47,我正打算关电脑。企业微信弹出一条告警:商品详情页接口超时率冲到23%。Redis命中率从98%掉到61%。这不是第一次了,但每次都能把人从床上拽起来。

值班的小伙子说,缓存全过期了。我问他,是同一个时间点吗。他说,差不多,整点前后。嗯。经典。TTL设成固定3600秒,批量写入,批量过期,然后数据库被瞬间打穿。你说这算缓存策略吗?算,但只算半截。

电商大促商品详情页Redis缓存命中率监控面板
电商大促商品详情页Redis缓存命中率监控面板

缓存不是加速器 它更像一层临时谎言

缓存不是加速器 它更像一层临时谎言
缓存不是加速器 它更像一层临时谎言

很多人把缓存当性能银弹。数据库慢,加Redis。接口慢,加本地缓存。CDN贵?不,CDN其实挺香。但缓存本质是啥?是用一份可能过期的数据,换更短的响应时间和更低的数据库压力。注意“可能过期”四个字。它不保证正确。它只承诺在某个时间窗口内,大概率正确。

所以缓存策略的第一步,不是选Redis还是Memcached。是问自己:这个业务能接受多旧的数据?商品标题晚更新5分钟,问题不大。库存扣减晚5分钟,等着超卖吧。支付状态晚5秒,客服电话会被打爆。对吧。

我见过一个团队,所有缓存统一TTL 30分钟。理由是“简单”。后来优惠券领取状态也走这套。用户领完券刷新没显示,再领一次,系统说已领取。用户懵了,客服也懵。技术方案没有对错,只有边界。边界没画,后面全是坑。

最容易被忽略的不是击穿 是过期时间撞车

缓存穿透、击穿、雪崩,面试题背得滚瓜烂熟。真到了线上,最常见的还是雪崩的土味版本:大量key在同一秒过期。你甚至没改代码,只是运营跑了个批量任务,把几万个商品缓存一起刷了。

怎么破?TTL加随机抖动。别再用3600,改成3000到4200之间的随机值。听起来很土。但真管用。还有,热点key逻辑过期,不物理过期。后台异步刷新,前端先拿旧值顶着。用户体验略旧,但服务活着。

缓存雪崩时Redis键过期时间随机抖动设置示意图
缓存雪崩时Redis键过期时间随机抖动设置示意图

穿透呢?查一个数据库里根本不存在的ID,缓存永远不命中,每次都打到DB。空值缓存能挡一阵,但要是攻击者换ID呢?布隆过滤器上。别怕误判,它说“可能存在”你就查,说“一定不存在”你就直接返回。代价是内存和一点点维护成本。

击穿更恶心,单个热点key过期,几千个请求同时回源。互斥锁或者单飞。但锁粒度要小心,别把整个商品详情页锁住。我见过用分布式锁锁商品ID的,还行。用锁锁“详情页”的,流量一大,排队排到怀疑人生。

把缓存策略拆成三张纸再动手

我后来带团队,不太爱一上来画架构图。先拿三张纸。第一张写数据分类:哪些能缓存,哪些不能,哪些只能缓存极短时间。第二张写失效方式:TTL、主动删除、事件驱动、版本号。第三张写回源保护:限流、降级、熔断、队列。

这三张纸不用很漂亮。但要逼着业务、开发、运维一起看。运营说优惠券状态必须实时,可以,那就不走缓存,或者只缓存1秒。产品说首页推荐可以旧一点,行,10分钟。技术不是许愿池,缓存策略是取舍合同。

后端服务多级缓存本地缓存与Redis调用链路图
后端服务多级缓存本地缓存与Redis调用链路图

再说多级缓存。本地缓存快得离谱,Caffeine、Guava,纳秒级。但它有两个问题:容量小,以及多实例之间不一致。你更新了一台机器的本地缓存,另外九台还抱着旧数据。怎么办?消息广播失效,或者干脆本地缓存只放极短TTL的基础数据。

Redis做分布式缓存,别把它当数据库用。大key、热key、慢查询,一个都别放过。大key拆分,热key本地副本加限流。Redis集群模式下的批量操作,能少用就少用。跨slot的mget,性能未必有你想象中好。

一致性这事没有银弹 只有业务能接受的脏读窗口

先更新数据库还是先删缓存?经典问题。我的答案很欠揍:看情况。Cache Aside模式下,通常先更新DB再删缓存。但删缓存失败呢?延迟双删?binlog订阅?都行,也都有代价。

我更愿意先问:这个数据脏5秒会死人吗?会,那就别缓存,或者用版本号强校验。不会,就接受最终一致。别为了理论上的强一致,把系统搞得像航天飞机。大多数业务,用户刷新两次就自愈了。

还有个坑:缓存和数据库的序列化格式。JSON、Protobuf、Java序列化,选一个团队能维护的。别今天JSON明天Hessian,缓存里全是历史包袱。版本号加进key,比如item:123:v2,升级格式时直接切新key,旧key等TTL自然死。简单,但有效。

收尾前给一份能落地的缓存检查清单

收尾前给一份能落地的缓存检查清单
收尾前给一份能落地的缓存检查清单
  • 每个缓存key都要有明确TTL,除非你非常确定它为什么永不过期。
  • TTL加随机抖动,避免整点雪崩。热点key考虑逻辑过期。
  • 空值缓存和布隆过滤器,按业务选择,别为了技术而技术。
  • 回源路径必须有超时、重试上限和熔断。重试不是免费的。
  • 监控命中率、回源QPS、大key、热key、慢查询。没有监控的缓存就是盲盒。
  • 缓存格式带版本号,升级时不慌。
  • 一致性策略写进文档,让产品和运营知道脏读窗口有多长。

缓存策略不是一次设计完就完事。它更像养鱼。水浑了换水,鱼多了加氧。业务在变,流量在变,过期时间也得变。别指望一个配置文件管三年。

凌晨那次告警,我们收工前做了两件事:给TTL加抖动,把详情页缓存改成逻辑过期。没用什么高深技术。但之后三个月,再没因为缓存雪崩被叫醒。挺好。真的。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:缓存策略藏在一次凌晨告警里
文章链接:https://m.itcdj.com/news/864.html