凌晨两点,告警响了。一个函数,平时 80 毫秒。这会儿 4.2 秒。
值班的人第一反应是下游挂了。查日志,下游好得很。再看一眼,请求量从每小时两百涨到三千。就这么简单——新实例还在起来的路上,用户在门口排队。
这就是冷启动。它不复杂,但它很讨厌。热的时候什么毛病没有,一冷,什么毛病都来了。
而且很多人第一次做 Serverless 冷启动优化就踩坑:看了篇文章说“把依赖包减小就行”,吭哧吭哧砍了两百兆,P99 只掉了三十毫秒。为什么?因为冷启动压根不只是一个环节。
先把那几秒拆开看
一次冷启动,从函数被调用的那一瞬间算起,大概要走这么几段路。
调度。平台的调度器得找到一台还有空闲容量的机器。如果这台机器上压根没有你的代码,那接下来就是拉取——从对象存储里把代码包或者镜像拽下来。这一步在镜像场景下格外明显,一个几百兆的镜像,光拉取就够你喝一壶。
然后是创建沙箱。这块是平台的事,各家实现不一样。有的用容器,有的用 microVM,Firecracker 那一套,有的在中间塞了 gVisor 做隔离。这部分开销通常比较固定,几十到几百毫秒,你改不了。
接着是运行时启动。Node 把进程拉起来,Python 初始化解释器,Java……Java 就麻烦了。JVM 本身要启动,类要加载,JIT 要预热,框架还要把注解扫一遍。Spring Boot 在这一段吃掉一两秒,太正常了。
最后才轮到你的代码。所有写在 handler 外面的初始化逻辑,连接池、配置加载、SDK 客户端、缓存预热,全在这一段跑。
真正能让你动手的,其实只有后面两段。前面那几段,你能做的主要是选厂商、换运行时、把包弄小。

依赖和运行时先从这里切

同一份逻辑,写在不同语言里,冷启动差距能有十倍。
Go 是编译型,二进制拖起来就跑,通常几十毫秒。Node 和 Python 冷起来也还好,但如果 node_modules 里躺着一整棵依赖树,那就不一样了——require 是同步的,一个个文件读下去,慢得很有耐心。
Java 是重灾区,这个没什么好遮掩的。类加载、JIT、反射扫描,它天生就不是为“用完就扔”设计的。不过这几年生态也在补课,AppCDS、GraalVM native image、CRaC,路子不少,只是每条路都有代价。native image 快是快,构建时间翻好几倍,反射和动态代理还得写配置,碰到重量级框架就头疼。
不管什么语言,最先砍的基本都是依赖。这话听着像废话,可很多人砍错了地方。
关键在区分“加载慢”和“初始化慢”。一个库文件大,不一定启动慢;一个库文件小,但它在 import 的时候去连了下游、读了远程配置,那它完全能把整个冷启动拖垮。
所以别只盯包体积,去看初始化时间线。
另一个常识是把初始化放到 handler 外面,让实例复用的时候只做一次。这条大家都知道。麻烦在于有些团队把该懒加载的东西也提前了——比如一个只在 5% 请求里用到的图片处理库,为了“复用”在启动时就加载,结果另外 95% 的请求白白多等两百毫秒。
这里没有标准答案。得看你的调用结构长什么样。
快照恢复这条路到底值不值
这几年让人眼前一亮的东西,是内存快照。
思路直白:既然冷启动慢在“初始化”,那我初始化一次,把内存状态拍个快照存起来。下次冷启动,不重新跑了,直接把快照灌回去。
Lambda 的 SnapStart 走的就是这条路,Java 上效果格外明显,秒级能压到几百毫秒以内。CRIU 那一套原理类似,Firecracker 的微虚拟机快照也属于同一类思路。
听起来完美。但它有不少反直觉的坑。
快照是某一刻的内存镜像,那一刻的世界被冻住了。随机数种子冻住了,时间戳冻住了,网络连接冻住了,临时凭证也冻住了。恢复之后,如果你的代码在初始化阶段生成过 UUID,那所有恢复出来的实例可能拿着同一个 ID 出门。
所以用快照必须配一个恢复后的钩子,把该重新拉的东西重新拉一遍。凭证、连接、随机源、时钟,一个都不能漏。
还有构建流程。快照通常在镜像构建阶段生成,意味着你的 CI 得专门为它加一步。这层复杂度,很多团队是上线之后才意识到的。

预置并发不是万能药

说到冷启动,绕不开预置并发。阿里云叫预留实例,腾讯云也有对应的东西,本质都一样:花钱养一批已经初始化好的实例,保证随时有热的能接单。
它管用。真的管用。延迟敏感的在线业务,这是很直接的办法。
但有两个地方很容易被想歪。
一个是它挡不住突发。你预置了 20 个实例,流量从 20 冲到 2000,后面那 1980 个还是得冷启动。预置并发解决的是稳态有底,不是峰值无忧。
另一个是钱。预置实例按时间计费,闲着也收。我见过有团队为了把 P99 压下去,直接按峰值配预置量,结果账单涨了好几倍,最后又把配置收回来,改成只覆盖核心链路。
所以正确的顺序可能是反的:先量化冷启动请求占总请求的比例,再决定要不要买。如果冷启动只占千分之三,那这笔钱花在别处,回报可能更高。
有些团队干脆不跟它较劲
还有一种思路是承认冷启动消不掉,那就让它发生在不重要的地方。
把链路拆开。强交互的部分,用户点一下要立刻看到反馈的,放到常驻服务或者边缘节点上。异步的、批量的、能容忍几秒延迟的,交给函数去跑。
代价是架构变复杂了,两套东西要维护,部署流程也不一样。但如果业务确实是登录页必须秒开,那这个复杂度可能值得。
还有一些土办法,比如用定时触发器每分钟打一下,让实例保持温热。它有用,但只对已有实例有用——流量上来扩容出来的新实例,照样是冷的。而且是 24 小时不间断地花钱。
说到底,Serverless 冷启动优化不是一场能打赢的战争,更像是一次次取舍。观测先做,P99 和冷启动率一起看,别只盯平均值。然后挑便宜的那一刀切下去,切完再量。
至于那些号称零冷启动的方案——听听就好。物理规律摆在那儿,进程不会凭空出现。