凌晨两点,手机在床头柜上震。不是电话,是钉钉机器人。订单消息积压九万条。那一瞬间,我脑子里只有一句话:当初谁拍板上消息队列的。
但话说回来,这锅真不能全让 MQ 背。消息队列是个好东西。异步、解耦、削峰,三件套谁都能背。问题在于,很多人只记住了甜头,没算代价。
先别急着上消息队列
我见过一个内部后台,日订单量几千。就为了“以后可能扛不住”,硬塞了个 Kafka。结果呢?运维多了一套集群,本地调试还得起 Docker。开发同学改个字段,还得先同步 schema。运维成本高得离谱。说白了,消息队列不是免费的。它把同步调用的问题,换成了异步链路的问题。你以为解耦了,其实是把依赖藏进了主题里。
什么时候该用?写操作比读操作多,峰值和均值差得远,上下游故障不该相互拖死。比如注册送积分,创建订单发短信,这些可以异步。但你要是做个后台查询,非要绕一圈消息队列,那就是给自己找事。

还有一点。很多团队上来就选 Kafka,觉得吞吐大。可你如果没有流式场景,没有分区消费需求,RabbitMQ 或者 Redis Stream 可能更省事。选型这事,得看手里的牌。
丢消息这件事比你想的复杂
“消息队列会丢消息吗?” 这问题问出来,就说明你还没踩过坑。会。而且丢的方式五花八门。
生产者发了,Broker 没收到。Broker 收到了,没落盘。落盘了,消费者没拉到。消费者拉到了,业务处理失败了,却先把 offset 提交了。每一个环节,都可能把消息弄丢。你要做的,是端到端的确认和幂等。注意,是端到端,不是单点。
我见过有人只用自动提交 offset,消费逻辑里抛异常,消息就没了。也见过生产者用异步发送,不处理回调,Broker 挂了都不知道。麻烦在于,这些配置默认值往往不是给钱袋子业务用的。你得自己调,自己测,自己兜底。

再说重复消费。消息队列通常保证 at least once。你不想丢,就可能重复。所以消费端必须幂等。用唯一键去重,或者状态机判断。别指望 MQ 帮你做 exactly once。那玩意有,但代价大,限制多。多数时候,幂等才是老实人的选择。
顺序性是个奢侈品
只要上了分区,顺序性就得打折。Kafka 只保证分区内有序。你要是把同一订单的消息打到不同分区,消费端就可能乱序。怎么解决?按业务键 hash 到固定分区。比如订单号。可这样又带来新问题:热点分区。大客户订单全挤在一个分区,消费速度上不去。
还有并发消费。为了吞吐,你开了十个消费者。顺序性?没了。想有序,就得单分区单消费者。那吞吐又下来了。这就是取舍。没有既快又稳还便宜的方案。业务能接受最终一致,就别死磕强顺序。不能接受,就老老实实串行,或者用状态机补偿。
有人问,RabbitMQ 不是有单队列顺序吗?对。但单队列就是一个消费者,吞吐天花板很低。你可以用多个队列,但那就变成多个顺序流,不是全局顺序。全局顺序在分布式系统里,基本等于性能杀手。想清楚你要的是哪种顺序。
积压不是容量问题而是消费能力问题

回到凌晨两点那个告警。九万条积压,看着吓人。其实磁盘还有空间。真正的问题是消费速度跟不上生产速度。
先看消费者。是不是卡在某个下游接口?是不是数据库慢查询?是不是锁竞争?有时候不是 MQ 慢,是业务代码慢。你扩消费者,结果数据库先扛不住。所以扩容之前,先看链路。别一股脑加机器,最后把 DB 打挂。
再看生产端。有没有突发流量?秒杀、推送、定时任务撞在一起。削峰不是靠 MQ 自动完成的。你前面得有限流,后面得有降级。MQ 只是个缓冲池。池子再大,进水口一直猛灌,出水口堵着,早晚溢出。
监控也得跟上。积压量、消费延迟、消费成功率、重试次数。这些指标要能告警。别等用户投诉了才发现。我见过最离谱的,消费者挂了三天,没人知道。因为没告警。消息在队列里躺着,业务方以为发了。
选型没有标准答案

Kafka、RabbitMQ、RocketMQ、Pulsar,还有云上的 SQS、SNS。每个都有脾气。Kafka 吞吐高,生态好,适合流处理和日志。但运维复杂,分区再平衡能把你搞疯。RabbitMQ 路由灵活,消息可靠,适合业务解耦。但吞吐一般,堆积能力有限。RocketMQ 事务消息和顺序消息做得不错,国内资料多。Pulsar 存算分离,听起来很美,运维门槛也不低。
别问哪个最好。问你的场景。日消息量多少?能接受多长延迟?消息重要还是吞吐重要?团队有没有运维能力?这些问题不回答,选什么都是赌。
还有云服务。小团队直接用云 MQ,省心。但成本要算清楚。量大了,云账单能吓死人。自建呢?省了钱,费了人。这事没那么玄。就是权衡。
消息队列不是银弹。它是一把刀。切菜还是砍手,看你怎么握。用之前,先想清楚丢消息怎么办,重复怎么办,顺序怎么办,积压怎么办。想不清楚,就先别上。
凌晨两点那个告警,后来解决了。不是 MQ 的问题,是下游接口超时。扩了两个消费者,加了缓存,压回去了。但那天之后,我们把所有 topic 的积压告警阈值都重新调了一遍。有些学费,交一次就够了。