AIOps告警降噪与根因定位 一线落地的真实体感

上周跟某银行运维团队的老陈蹲了三个夜班,就盯着告警大屏跳。屏幕闪得人眼晕,一晚上弹了1200多条告警,真正影响核心交易的,就3条。剩下的全是关联触发的噪音。老陈揉着眼睛骂,说之前上的所谓智能降噪,合着就是把告警按级别筛了一遍,连个重复的都合并不了。

别把降噪当成“关告警开关”

很多团队一开始对AIOps告警降噪的理解完全走偏。说白了,就是把高频告警的阈值往上拉,拉到最后,真出问题的时候,告警直接被埋在阈值下面,连个响都听不到。我见过最离谱的,某互联网团队为了把告警量砍下来70%,直接把磁盘使用率的告警阈值从80%调到95%,结果某台数据库服务器磁盘写满,业务停了40分钟,事后复盘才发现,那条触发在95%阈值下的告警,被自动归档到了“低优先级待处理”的文件夹里,根本没人看。

AIOps告警规则配置后台界面
AIOps告警规则配置后台界面

真正的降噪,根本不是砍告警量。是把同一故障链路下,前后触发的所有关联告警,聚合成一个事件组。比如交换机端口丢包,会连带触发服务器网卡异常、中间件连接超时、应用接口报错、前端用户访问失败这一串告警。传统的告警系统,是每条单独弹,运维要从5、6条告警里自己拼出来根因是端口问题。而AIOps要做的,是把这一串直接捏成一个事件,标清楚传播路径,省得人在那翻聊天记录找关联。

这事没那么玄。麻烦在于,很多团队一开始做的关联规则,全是靠人写的硬编码。今天发现端口丢包会触发网卡告警,就加一条规则;明天发现缓存节点挂了会触发数据库慢查询,再加一条。规则攒到最后上千条,新业务一上线,规则全失效。毕竟业务架构天天变,谁能把所有可能的关联路径全写死?

根因定位不是“猜答案游戏”

很多厂商宣传的时候,说自己的根因定位准确率能到90%,实际落地的时候,全是错的。为什么?因为训练模型的历史数据,全是之前人工标注的故障记录,很多老的故障记录,当时的根因判断本身就是错的。我之前翻某团队的历史故障库,看到半年前有次交易延迟的故障,标注的根因是“应用代码bug”,结果找当时值班的工程师聊,人家说那时候根本没查出来原因,只是临时扩容之后故障消了,为了填工单随便写的。模型拿这种数据训练,能准才怪。

AIOps根因分析链路拓扑可视化界面
AIOps根因分析链路拓扑可视化界面

靠谱的根因定位,从来不是直接甩给你一个“根因是XX”的结论。是把沿着告警链路,从最上游的基础设施层,到网络层,到中间件,到应用层,所有可能关联的指标异常点,按异常贡献度排序列出来。比如刚才说的交换机端口丢包的故障,系统列出来的排序是:第一,交换机端口丢包率12%;第二,对应服务器网卡收包错误率8%;第三,中间件连接超时率5%;第四,应用接口响应时长上涨120%。运维顺着这个排序查,5分钟就能定位到是端口的问题,根本不用在那瞎猜。

别信那种说一键定位根因的鬼话。很多团队踩的坑,就是为了追求那个“一键出结论”的效果,硬把模型的输出阈值拉得很高,结果经常把不相关的指标当成根因推出来,运维最后根本不敢信,转头还是按老办法一个个查,那之前花的钱全打了水漂。

落地的代价从来不是买个系统

之前跟一个做了5年AIOps落地的工程师聊,他说很多团队一开始对这事的预算,全算在买软件授权上了,根本没算后面的运维成本。比如你要让模型能准确识别关联告警,得先把所有监控系统的指标、日志、链路追踪的数据,全打通到同一个平台上吧?很多团队的监控数据,散落在10多个不同的系统里,有开源的,有商业的,数据格式都不统一,光清洗数据、做标准化,就得花小半年。

模型上线之后,不是扔那就不管了。每次有新的故障发生,运维得把实际的根因、关联的告警路径,手动给模型做标注,让模型慢慢适配合适自己家的业务架构。这个过程至少要跑6个月,模型的准确率才能到能实际用的程度。很多团队买了系统,上线两周就觉得效果不好,说厂商是骗子,其实是根本没给模型留适应的时间。

太急了。我见过最顺的一个落地案例,就是某电商团队,一开始没追求什么炫酷的功能,先从最简单的告警聚合开始做。先把过去3个月的所有告警数据拉出来,把明显重复的、同一故障触发的告警,先手动聚成200多个事件组,喂给模型做训练。上线之后第一个月,告警量直接降了60%,值班的人不用再盯着满屏的告警跳了,省下来的精力,才慢慢开始做根因定位的优化。

上周老陈给我发消息,说他们现在的告警量,已经从一晚上1200多条降到150多条,每次出故障,系统能把关联的告警全聚到一起,顺着链路找异常点,基本10分钟内就能定位到问题。他说之前总觉得AIOps告警降噪与根因定位是啥高大上的技术,落地了才发现,根本不是什么黑科技,就是把运维之前要手动做的那些重复活,交给机器干而已。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:AIOps告警降噪与根因定位 一线落地的真实体感
文章链接:https://m.itcdj.com/it/226.html