CODING DevOps 系列第六课:IT 运维之智能化告警实践

Stella981
• 阅读 645

IT 运维告警现状

目前 IT 运维领域保证服务运行正常的主要方法是对相关运维指标进行实时监控,并根据经验设定一些规则,通过将实时监控的数据与规则进行对比,当某个指标监控值不符合设定的规则时,则判定为异常的状况,这样的话就会发送对应的告警到告警平台。告警平台收到通知后,会分配给对应的运维人员进行处理,运维人员去根据告警信息来排查,最终定位故障的根本原因,并对故障进行修复。从这个流程可以看出,整个过程是以告警为中心,所以告警的质量是至关重要的。

但在实际运维过程中,我们可以发现这个过程中其实存在很多问题。首先,监控系统的规则难以设定。因为规则是基于专家经验设定的,随着系统规模变大,复杂度提高,监控覆盖的完善,监控指标数量指数性增加,指标形态千变万化,基于专家经验的规则设定力不从心,误报率、漏报率居高不下。运维人员可能会遭遇告警风暴,每天被数千个告警轰炸,难以应付。故障发生后,对若干个告警逐一排查找故障根因,效率极低,大大增加故障的恢复时间。故障有可能无法预知,有些本来可以避免的故障还是发生了。

智能化告警的理念和相关技术

为了解决上述问题,在智能运维领域,智能化告警的概念出现了。智能化告警主要解决 4 个问题:一、精准告警,拒绝告警风暴;二、快速故障定位;三、进行故障预测,避免故障发生;四、规则设置自动化,不再通过人工经验来设置规则。

智能异常检测的核心理念是利用机器学习算法,对历史数据的规律自动学习,从而实现规则设置自动化。这样的话,就不再需要人工设置大量的规则,绝大部分情况下自动学习的规则会更加准确合理,大大提高告警产生的质量。

智能异常检测的技术有指标异常检测、日志异常检测、根因分析和故障预测。指标异常检测一般分为单指标异常检测和多指标异常检测。单指标异常检测即时间序列异常检测,算法分为基于统计的算法、无监督学习算法和有监督分类算法三类。基于统计的算法非常简单和容易实现,但只能处理简单场景。常用的无监督学习算法有 IForest 孤立森林、LOF 局部异常因子、One-Class-SVM、Autoencoder 自编码器等,这类算法无需打标数据,准确度比较高,但特征选取难。有监督分类的常用算法有 XGBoost、GBDT、决策树、支持向量机,这类算法非常准确,但是打标数据难以得到。多指标异常检测即综合多个指标判断异常,需要先将数据降维,再使用有监督分类和无监督学习这两类检测算法。

日志是系统中信息颇为丰富的半结构化数据,采用日志异常检测,可以识别系统实时日志中的异常,有利于问题发现和定位。日志检测使用的方法有自然语言处理和日志模式识别。自然语言处理时文本向量化+深度学习,理解日志中的文本信息,可识别潜在异常,结合人工反馈、标注,不断进行模型完善和优化。日志模式识别是对正常日志的模式进行提取,对有别于正常模式的日志进行发现,结合特征工程,对模式匹配结果不断进行自学习和调整。

根因分析的核心理念是利用数据挖掘算法挖掘出指标之间的相互影响关系,当有关联的指标同时产生告警,则认为影响告警侧的告警为根因告警,被影响的告警为衍生告警,运维人员收到的告警只是根因告警,这样只需排查根因告警就可以确定故障的根因,极大提高故障根因定位的效率。根因分析可以极大缩短故障根因定位时间和故障恢复时间,减少故障带来的损失。

根因分析可以分析指标间的影响关系。利用 Pearson correlation,Spearman correlation,Kendall correlation,J-measure,Two-sample test 算法,可以进行联动分析,判断多个指标是否经常一起波动或增长。利用 FP-Growth,Apriori 算法,关联历史上经常一起发生的事件,进行频繁项分析。下钻分析,利用关联关系匹配,寻找根因。

故障预测的核心理念是利用算法学习指标历史的变化规律,并根据规律预测指标将来的变化趋势,对有可能发生故障的情况提前发出告警。对未来的故障进行预测,运维人员可以提前介入,避免故障的发生,减少不必要的损失。

故障预测的方法有很多种,但主要分为三类:传统统计方法、机器学习算法和深度学习算法。传统统计方法有 ARIMA、Holt-Winters、Prophet 等,适用于预测稳态或差分稳态指标。机器学习算法有 XGBoost、GBDT 等,采用特征工程根据场景构造输入特征,适用于预测多变量指标。深度学习算法有 RNN 循环神经网络、LSTM 长短期记忆网络等,采用历史数据滑窗方式,将预测问题转化为监督学习问题,使用神经网络提取特征,这类算法在绝大多数指标上都表现的非常好,准确率很高,但因为计算量大,对资源要求相对比较高,性能较差。

智能化告警实践

基于以上智能告警的理念和相关方法,结合过往的实践,我们将介绍一下在单指标异常检测、根因分析和故障预测方面的实战方案。

CODING DevOps 系列第六课:IT 运维之智能化告警实践

这张图片展示的是单指标异常检测的整体框架图,主要包括离线模块和在线模块两个方面。离线模块主要是对历史数据的学习和分析。我们在大量的实验过程中发现,难以找到一种就是万能的异常检测算法对所有指标都表现的比较好,某种算法通常只对特定形态的指标表现较好,所以我们首先对指标进行分类操作。分类之后,我们可以确定每个指标分别对应使用的算法。接下来就可以进行算法模型参数的训练,将样本库的数据作为测试数据,对模型进行评估。离线模块是一个定时任务,可以定时对某个指标重新进行分类和模型训练,保证模型的时效性和准确性。

在线模块主要是利用离线模块训练好的模型,对实时产生的监控数据进行检测。判断指标的健康状况期,主要步骤就是以实时监控数据为模型输入,判断指标是否异常,如果异常的话就进行相应的告警。此外,对模型输出的异常提供了一个人工审核的过程,这样的话审核的结果就保存到样本库中。

我们对大量的指标进行具体分析后,发现所有的指标都可以近似分为三大类。第一类是周期分量,这类指标有明显的波动周期。第二类是趋势分量,变化比较平缓,一般缓缓升高或降低,比如磁盘使用量这种指标。第三类是稳定分量,往往只在一个区间波动,比如服务详细时间这种指标。数据分解也是将数据分解成这三个分量。

受此启发,我们首先对时序数据进行了分解,之后可以把一个指标分解成趋势分量、周期分量以及稳定分量。然后分别计算这三个分量与原始曲线的一个皮尔逊相关系数,系数最大的哪个分量就是指标的类别。

CODING DevOps 系列第六课:IT 运维之智能化告警实践

完成分类指标后,就可以确定用什么算法进行检测。为了保证可靠性,我们给每种类型的指标都提供了两种算法,并进行投票决策。对于周期性指标我们提供同比算法和基于预测的异常检测算法;对于趋势性指标我们使用环比算法和孤立森林算法;对于稳定性指标我们使用 3-sigma 算法和四分位数算法。算法参数训练使用指标过去 7 天的历史数据,模型参数的选取采用网络搜索方式确定。

CODING DevOps 系列第六课:IT 运维之智能化告警实践

这张图展示的是根因分析的主要流程。在关联关系分析方面,我们提供了三种方式:强关联分析、频繁项挖掘和相关性分析。通过这三种方法得到指标的关联关系,有的指标关联关键后,就可以对告警进行根因分析。首先将各个监控系统的告警统一接入到我们系统中,并做格式统一处理。利用高级压缩的一些方法,将一些无效的告警过滤掉,有效的告警进入根因分析环节,得出根因分析报告,运维人员根据这个报告定位问题。

离线部分的数据来源是指标的历史数据,输出为模型;在线部分根据模型进行计算后得到预测数据,作为故障预测的数据基础。由于 LSTM(长短期记忆网络)能很好抓住实践序列上下文可能存在的联系的特性,在绝大部分情况下效果都很好,因此算法选择方面,我们选择 LSTM 算法作为预测模型。

这是一个故障预测的效果图,指标是一个 Web 系统的访问量,蓝线代表实际值,黄线代表预测者。红点是我们预测 Web 访问量在这个时间点可能会达到系统所能承载的最大的访问量。因此,我们可以提前发出通知,这样运维人员可以提前进行资源增加或扩容等操作,来防止访问量太大导致的服务质量下降。

总结

发现故障是整个告警质量的决定性环节,所以智能异常检测要引入更多更优的算法,将误报率和漏报率控制在 1% 以内。在故障定位环节,如何根据已有的数据分析出更加全面的关联关系是重点,结合多维下钻分析,给出更精确的故障根因。解决故障环节可以引入故障自愈,实现定位到问题后,自动修复,进一步提高运维自动化。

点击观看完整课程视频

点赞
收藏
评论区
推荐文章
blmius blmius
2年前
MySQL:[Err] 1292 - Incorrect datetime value: ‘0000-00-00 00:00:00‘ for column ‘CREATE_TIME‘ at row 1
文章目录问题用navicat导入数据时,报错:原因这是因为当前的MySQL不支持datetime为0的情况。解决修改sql\mode:sql\mode:SQLMode定义了MySQL应支持的SQL语法、数据校验等,这样可以更容易地在不同的环境中使用MySQL。全局s
Jacquelyn38 Jacquelyn38
3年前
2020年前端实用代码段,为你的工作保驾护航
有空的时候,自己总结了几个代码段,在开发中也经常使用,谢谢。1、使用解构获取json数据let jsonData  id: 1,status: "OK",data: 'a', 'b';let  id, status, data: number   jsonData;console.log(id, status, number )
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Stella981 Stella981
2年前
DOIS 2019 DevOps国际峰会北京站来袭~
DevOps国际峰会是国内唯一的国际性DevOps技术峰会,由OSCAR 联盟指导、DevOps时代社区与高效运维社区联合主办,共邀全球80余名顶级专家畅谈DevOps体系与方法、过程与实践、工具与技术。会议召开时间:2019070508:00至2019070618:00结束会议召开地点:北京主办单位:DevOps
Wesley13 Wesley13
2年前
00:Java简单了解
浅谈Java之概述Java是SUN(StanfordUniversityNetwork),斯坦福大学网络公司)1995年推出的一门高级编程语言。Java是一种面向Internet的编程语言。随着Java技术在web方面的不断成熟,已经成为Web应用程序的首选开发语言。Java是简单易学,完全面向对象,安全可靠,与平台无关的编程语言。
Stella981 Stella981
2年前
Django中Admin中的一些参数配置
设置在列表中显示的字段,id为django模型默认的主键list_display('id','name','sex','profession','email','qq','phone','status','create_time')设置在列表可编辑字段list_editable
Wesley13 Wesley13
2年前
MySQL部分从库上面因为大量的临时表tmp_table造成慢查询
背景描述Time:20190124T00:08:14.70572408:00User@Host:@Id:Schema:sentrymetaLast_errno:0Killed:0Query_time:0.315758Lock_
API 小达人 API 小达人
7个月前
实用干货丨Eolink Apikit 配置和告警规则的各种用法
API在运行过程中可能会遇到各种异常情况,如响应时间过长、调用频率过高、请求参数错误等,这些异常会对系统的稳定性和性能产生严重影响。因此,对API进行异常监控和告警是非常必要的。本文将介绍EolinkApikit中使用的告警规则,帮助开发者和运维人员更好地监控和管理API。
Python进阶者 Python进阶者
5个月前
Excel中这日期老是出来00:00:00,怎么用Pandas把这个去除
大家好,我是皮皮。一、前言前几天在Python白银交流群【上海新年人】问了一个Pandas数据筛选的问题。问题如下:这日期老是出来00:00:00,怎么把这个去除。二、实现过程后来【论草莓如何成为冻干莓】给了一个思路和代码如下:pd.toexcel之前把这
云监控告警2.0:革新传统告警机制,引领智能化监控新时代
云监控告警机制是云监控体系的核心组成部分,它负责在云服务出现异常或故障时,及时发出告警通知,以便运维人员迅速采取措施解决问题。传统的云监控告警机制虽然能够在一定程度上实现告警功能,但在告警准确性、实时性、智能化等方面存在诸多不足。云监控告警2.0则通过引入先进的技术和算法,对传统告警机制进行了全面升级,大大提高了告警的效率和准确性。