CN104022903A - 一站式自动化运维系统 - Google Patents

Abstract

本发明提供了一种一站式自动化运维系统，所述系统包括信息收集模块、监控预警模块、报警消息识别模块、报警消息处理操作存储模块以及用户界面管理模块。本发明通过整合自动故障诊断、文档管理、自动监控预警、负载/日志自动采集、网页报表、报警消息展示和分类识别功能，减轻了一线运维人员的操作负担，大大提高了数据中心的管理效率和运维水平。

Description

一站式自动化运维系统

技术领域

本发明涉及设备管理技术领域，尤其涉及一种一站式自动化运维系统。

背景技术

随着业务的发展，企业数据中心的规模日益庞大，日常运维中出现了许多新的问题，比如：

a.多厂商不同类型的设备千差万别，由于历史或技术的原因，往往不能统一获取设备的运行时信息；

b.故障时手工按流程进行操作和排查，增加了故障处理的时间；

c.日常巡检依赖手工执行，效率低且容易出错；

d.流程、资料、案例、报警、事件等大量IT元素分散在各处，形成多个信息孤岛，缺少统一和有效的管理；

e.目前已有的商业运维软件，往往存在各自的缺点，比如：NetIQ的AppManager，软件实现了针对服务器的监控管理功能，但其C/S架构实现依赖于在各服务器上安装代理程序，增加了被管设备的开销，在业务高峰期可能引入不必要的业务风险；其次，只针对服务器进行监控管理，若同时需要管理其他设备，需引入第三方插件，可能会带来兼容性问题；再次，软件局限于Windows平台，无法跨平台部署。IBM Tivoli Enterprise console软件实现了对网管报警消息的展示/弹框告警，但其C/S架构增加了维护成本，另一方面产品难以定制和二次开发，缺乏一定的业务灵活性，例如不针对报警消息进行分类识别、不提供针对报警消息的处理操作建议等。

上述问题都是影响数据中心服务水平继续提升的重要因素。

发明内容

有鉴于此，本发明提供了一种一站式自动化运维系统，通过整合自动故障诊断、文档管理、自动监控预警、负载/日志自动采集、网页报表、报警消息展示和分类识别、提供针对报警消息的处理操作建议等功能，减轻了一线操作负担，大大提高了数据中心的管理效率和运维水平。

本发明提供的一站式自动化运维系统，包括信息收集模块、监控预警模块、报警消息识别模块、报警消息处理操作存储模块以及用户界面管理模块，其中，

所述信息收集模块，用于获取被监控设备的状态信息；

所述监控预警模块，用于获取所述信息收集模块得到的被监控设备的状态信息，并对所述被监控设备的状态信息进行分析，并根据分析结果生成报警消息；

所述报警消息处理操作存储模块，用于分类存储报警消息、和针对不同类型报警消息的处理操作建议；

所述报警消息识别模块，用于基于所述报警消息处理操作存储模块对所述监控预警模块发出的报警消息进行分类识别，并获取对应所述报警消息的处理操作建议；

所述用户界面管理模块，用于提供接口，供用户对系统功能进行修改以及增删操作。

所述信息收集模块，通过访问被监控设备，执行相应运维脚本，根据所述运维脚本的执行结果和相应的运维要求进行结果分析，从而获取被监控设备的状态信息。

所述监控预警模块对所述被监控设备的状态信息按照设定的业务规则进行比对判断，当比对判断结果为状态异常时，生成报警消息，其中所述状态异常包括被监控设备状态异常、被监控设备负载超出设定阈值时。

所述被监控设备状态异常包括被监控设备无法ping通、访问被监控设备指定端口失败。

所述报警消息处理操作存储模块，还存储有对应报警消息的采用正则表达式描述的报警消息的类型特征。

所述报警消息识别模块针对一条具体的报警消息，利用报警消息处理操作存储模块的正则引擎对报警消息处理操作存储模块中正则表达式(即：消息特征字段)进行匹配搜索，获得报警消息处理操作存储模块中与报警消息匹配的正则表达式，并提取与获得的正则表达式对应的处理操作建议。

当所述报警消息识别模块获得多条与报警消息匹配的正则表达式，则提取与获得的第一条正则表达式对应的处理操作建议。

所述用户界面管理模块提供了系统管理接口，供用户自定义系统功能，将用户界面的树状菜单映射为关系数据库的表；在用户界面加载时，通过Ajax请求以标准JSON格式返回所述关系数据库的表的所有信息，动态生成树状菜单；在用户界面加载完成后，将用户给出的所述树状菜单的每个节点的增删改操作相应映射为对所述关系数据库的表的单条记录的增删改操作。

所述系统还包括报警消息存储模块和报警消息展示模块，其中，所述报警消息存储模块用于存储监控预警模块发出的报警消息；所述报警消息展示模块用于定时自动获取所述报警消息存储模块中的增量报警消息，并插入到展示界面的定长消息存储队列头部并在展示界面上弹出消息框告警。

当展示界面消息总数超出所述消息存储队列的定长时，删除所述消息存储队列尾部的报警消息。

所述系统还包括数据分析和网页报表模块，用于根据用户指定的筛选条件，获取信息收集模块采集的相应的被监控设备的状态信息的数据集，并生成网页报表。

所述数据分析和网页报表模块，还用于对获取的数据集中的数据按照设定的数据清洗规则和出错处理机制进行过滤，再进行网页报表的生成，以保证数据的准确度。

所述系统还包括报警模块，用于采用邮件报警、短信报警或发报警消息到网管的方式对监控预警模块生成的报警消息进行发送。

所述系统还包括日志监控模块，用于对系统运行日志进行增量自监控，在系统运行日志出现异常时，调用报警模块向管理员发送邮件或短信报警。

所述系统还包括缓存模块，用于在系统第一次启动时加载指定路径下的数据资料到redis进行缓存的初始化，并基于redis的持久化功能定期进行缓存数据到硬盘的数据同步。

所述系统还包括文档管理模块，用于对数据资料进行文档管理，并支持多用户上传/下载/废除/查看/更新，自动分类，关键字搜索，按分类浏览，用户权限管理，文档查看次数统计。

所述文档管理模块还用于在用户通过其进行数据资料更新时自动触发刷新所述缓存模块的内容。

综上所述，针对已有运维管理体系中存在的缺陷，包括：运维环节存在多个信息孤岛、已部署运维软件无法统一管理、缺少有效手段集中获取设备的运行时信息、故障处理/日常巡检效率低等等，本发明提出的一站式自动化运维系统，很好地解决了上述问题。与一般的运维管理软件相比，本发明的一站式自动化运维系统具有跨平台，通过多种标准协议接口支持不同厂商的多种类型设备，B/S架构零部署、易升级，一站式维护管理方便等诸多优点。

首先，针对故障处理/设备监控操作进行分类整理、提炼使之标准化，形成自定义脚本，由系统通过统一的网站平台进行调用，实现对各种业务的故障诊断操作和日常监控操作的图形化和一键化；并通过文档管理模块整合相关拓扑图、流程、资料和案例等多种IT元素。

其次，系统运行不依赖在被管设备上安装代理程序，有效减轻了被管设备业务高峰期负载。

再次，系统跨平台运行并通过各种标准接口协议支持多种设备/操作系统，为数据中心各类设备的监控管理提供完美支持。

此外，系统利用正则表达式进行报警消息内容正文的匹配，构建了一个轻量级、灵活、易扩展的报警消息分类识别系统，并基于此系统为各类报警消息提供预先定义好的处理操作建议。

附图说明

为了更清楚地说明本发明实施例或现有技术中的方案，下面将对实施例中所需要使用的附图作一简单地介绍，显而易见地，下面描述中的附图是本发明的一些实施例，对于本领域普通技术人员而言，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1为本发明一实施例提供的一站式自动化运维系统的结构示意图；

图2为为本发明一实施例提供的一站式自动化运维系统中信息收集模块的工作流程示意图；

图3给出了报警消息处理操作存储模块的数据库表结构；

图4给出了数据分析和网页报表模块的工作流程示意图；

图5给出了报警消息展示模块的工作流程示意图。

具体实施方式

为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整的描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

本发明的一站式自动化运维系统的后台基于UbuntuOS+TOMCAT+SPRING+JDK1.7开发,通过多种标准协议接口支持不同厂商的多种类型设备,提取设备的运行时状态,并以Web方式进行展示；另外可管理流程、资料、脚本、设备、报警、日志、报表等多种复杂的IT元素，一站式的管理运维中的各个环节。

图1为本发明一实施例提供的一站式自动化运维系统的结构示意图，如图1所示，本实施例的一站式自动化运维系统，包括信息收集模块、监控预警模块、报警消息识别模块、报警消息处理操作存储模块以及用户界面管理模块，其中，

所述信息收集模块，用于获取被监控设备的状态信息；具体地，所述信息收集模块通过访问被监控设备，执行相应运维脚本，根据所述运维脚本的执行结果和相应的运维要求进行结果分析，从而获取被监控设备的状态信息。

如图2所示，所述信息收集模块通过ssh/telnet、smaba、icmp、wmi、snmp、http(s)、web-service等标准访问接口，监控管理Cisco路由器/交换机、Cisco ONS15540DWDM、Unisys ES7K one/540服务器、IBM eserver xSeries 346服务器、IBM X3850服务器、HP DL580 G3服务器、DELL PE6650服务器、HPDL 580G5服务器、Brocade SAN交换机、负载均衡设备F5、Sun Fire^TM V490/SPARCEnterprise小型机等多种设备，执行事先定义的运维脚本(包括shell脚本、python脚本、java脚本等)，根据脚本执行结果和需求进行结果分析，获取所需状态信息。

所述监控预警模块，用于获取所述信息收集模块得到的被监控设备的状态信息，并对所述被监控设备的状态信息进行分析，并根据分析结果生成报警消息；具体地，所述监控预警模块对所述被监控设备的状态信息按照设定的业务规则进行比对判断，当比对判断结果为状态异常时，生成报警消息，其中所述状态异常包括被监控设备状态异常(包括被监控设备无法ping通、访问被监控设备指定端口失败)以及被监控设备负载超出设定阈值。

所述报警消息处理操作存储模块，用于分类存储报警消息、和针对不同类型报警消息的处理操作建议；图3给出了报警消息处理操作存储模块的数据库表结构，该表结构的第一列字段为消息类型特征字段，以正则表达式描述一类报警消息的特征；该表结构的第二列-报警消息字段-为该类型报警消息中一条典型的报警消息；该表结构的第三列字段，给出了该类型报警消息所对应的处理操作建议。通常，该表结构的第二列字段，在消息识别过程中是用不到的，该字段的主要功能是在后期增加新的消息类型时，将新的消息类型插入表之前，供交叉验证使用，以避免不同的消息类型对应的消息特征发生冲突。

进一步地，所述报警消息处理操作存储模块，还存储有对应报警消息的采用正则表达式描述的报警消息的类型特征。

所述报警消息识别模块，用于基于所述报警消息处理操作存储模块对所述监控预警模块发出的报警消息进行分类识别，并获取对应所述报警消息的处理操作建议

可选地，所述报警消息识别模块针对一条具体的报警消息，利用报警消息处理操作存储模块的正则引擎对报警消息处理操作存储模块中正则表达式(即：消息特征字段)进行匹配搜索，获得报警消息处理操作存储模块中与报警消息匹配的正则表达式，并提取与获得的正则表达式对应的处理操作建议。例如，当报警消息为“Host ABC is down”，利用报警消息处理操作存储模块的正则引擎，搜索报警消息处理操作存储模块(如图3所示)，获得匹配的正则表达式“Host.+is down”，进而得到该正则表达式对应的处理操作建议：操作A。

进一步地，当所述报警消息识别模块获得多条与报警消息匹配的正则表达式，则提取与获得的第一条正则表达式对应的处理操作建议。

所述用户界面管理模块，用于提供接口，供用户对系统功能进行修改以及增删操作。

可选地，所述用户界面管理模块提供了系统管理接口，供用户自定义系统功能，将用户界面的树状菜单映射为关系数据库的表；在用户界面加载时，通过Ajax请求以标准JSON格式返回所述关系数据库的表的所有信息，动态生成树状菜单；在用户界面加载完成后，将用户给出的所述树状菜单的每个节点的增删改操作相应映射为对所述关系数据库的表的单条记录的增删改操作。

用户界面管理模块，实现了树型结构数据的关系数据库存储，并利用Web页面可编辑表格，对数据库表进行CRUD(增删改查)操作。首先，表格针对用户输入设置了字段校验/出错提示；其次，在多用户同时编辑表格的情况下，使用数据版本记录机制实现乐观锁，保证数据一致性和防止冲突。具体实现方式为：数据库表增加一个Int类型的”token”字段(默认值为0)，读取表内容时，token字段的值被一同读出；数据的每次更新，都对token字段的值加一。当用户提交更新的时候，判断数据库表对应记录的当前token值(版本号)与用户读取的token值(版本号)是否一致，一致则予以更新，否则认为是版本冲突不予更新。数据库表更新完毕，用户刷新主界面，通过Ajax请求以标准JSON格式返回最新的表内容，经过jQuery EasyUI组件解析后，即可得到最新的树状菜单。

进一步地，所述系统还包括报警消息存储模块，用于存储监控预警模块发出的报警消息。

进一步地，所述系统还包括报警消息展示模块，用于定时自动获取报警消息存储模块中的增量报警消息，并插入到展示界面的定长消息存储队列头部并在展示界面上弹出消息框告警。可选地，当展示界面消息总数超出所述消息存储队列的定长时，删除所述消息存储队列尾部的报警消息。图5给出了报警消息展示模块的工作流程示意图。

进一步地，所述系统还包括数据分析和网页报表模块，用于根据用户指定的筛选条件，获取信息收集模块采集的相应的被监控设备的状态信息的数据集，并生成网页报表。图4给出了上述数据分析和网页报表模块的工作流程示意图。

进一步地，所述数据分析和网页报表模块，还用于对获取的数据集中的数据按照设定的数据清洗规则和出错处理机制进行过滤，再进行网页报表的生成，以保证数据的准确度。

所述数据分析和网页报表模块的具体工作流程如下：

a.信息收集模块由后台计时器触发定期调度运行，多线程同时访问多个被管设备获取所需运行时信息，汇总后通过JDBC存入MySql数据库

b.对于Windows服务器，使用微软WMI技术远程访问；对于类Unix服务器(包括路由器/交换机等设备)，使用标准SNMP Get方式访问；对于负载均衡设备F5，通过设备提供的Web-Service接口访问

c.数据在使用前，先由数据分析模块针对数据中存在的不一致性(或瑕疵)按制定的数据清洗规则和出错处理机制进行过滤，以保证数据的准确度

d.用户通过页面指定筛选条件，获取标准JSON格式(JavaScript ObjectNotation，是一种轻量级的数据交换语言，以文字为基础，且易于让人阅读)的数据集，通过HighCharts(一种JavaScript组件)渲染生成网页报表

e.用户界面实现了仿Google搜索的自动下拉框，在用户指定筛选条件时提供友好的智能提示，减轻了用户的输入负担

f.通过HighCharts实现了报表打印和以PDF/PNG/JPEG格式导出报表功能。

进一步地，所述系统还包括报警模块，用于采用邮件报警、短信报警或发报警消息到网管的方式对监控预警模块生成的报警消息进行发送。

进一步地，所述系统还包括日志监控模块，用于对系统运行日志进行增量自监控，在系统运行日志出现异常时，调用报警模块向管理员发送邮件或短信报警。具体地，所述日志监控模块在系统启动后立即开始运行，用于实时监控系统自身的运行情况。利用JDK1.7提供的Watch Service和Java多线程，捕获XML配置文件里指定的多个系统日志文件的ENTRY_MODIFY事件，并通过系统数据库记录每个被监控日志文件的大小。当每个日志文件对应的ENTRY_MODIFY事件发生时，立即通过系统数据库中记录的日志文件大小和当前日志文件大小进行比对，扫描当前日志文件中的增量内容，查找是否出现指定的异常关键字，如出现则调用报警模块向管理员发送邮件/短信报警。这种日志实时监控方式，避免了定期轮询日志方式在日志文件较多时，需要扫描的量太大、响应不是非常及时，依赖于扫描间隔时间等缺点。在同时针对多个日志文件进行监控时，能有效地节省对宝贵系统资源的占用。

进一步地，所述系统还包括缓存模块，用于在系统第一次启动时加载指定路径下的数据资料到redis进行缓存的初始化，并基于redis的持久化功能定期进行缓存数据到硬盘的数据同步。

进一步地，所述系统还包括文档管理模块，用于对数据资料进行文档管理，并支持多用户上传/下载/废除/查看/更新，自动分类，关键字搜索，按分类浏览，用户权限管理，文档查看次数统计。

进一步地，所述文档管理模块还用于在用户通过其进行数据资料更新时自动触发刷新所述缓存模块的内容。

所述文档管理模块实现了一个轻量级的文档管理系统。以JDBC访问系统数据库、JXL访问本地Excel文件两种方式，提取相关数据资料，通过网页加以展现，为故障处理提供一站式运维支持。另外,文档管理系统后台基于apache-commons-fileupload模块实现了拓扑图、流程、资料和案例等文件的多用户上传、下载等管理功能，还支持文档的废除、关键字搜索、按分类浏览、用户访问权限管理、查看次数统计等。另外针对不同浏览器差异，后台利用浏览器识别的方式实现了文件下载时中文文件名的正确编码。

综上所述，本发明的优点在于：

基于Java开发，跨平台；B/S架构零部署、易升级，无须在被管设备安装代理，低设备负载占用；

将复杂低效的故障处理/日常巡检以脚本的方式自动化执行，节省了大量人力成本，提升了用户体验；

通过多种标准协议接口支持不同厂商的多种类型设备,及时准确地掌握设备的运行时信息，通过网页报表模块，运维人员能够更密切的监视计算机系统的活动；

通过文档管理模块和报警消息展示/识别模块，整合了包括流程、资料、案例、报警、事件等大量孤立、分散的IT元素，一站式的管理覆盖了运维中的各个环节，提升企业数据中心的运营效率。

最后应说明的是：以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换，而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (17)

1.一种一站式自动化运维系统，其特征在于，所述系统包括信息收集模块、监控预警模块、报警消息识别模块、报警消息处理操作存储模块以及用户界面管理模块，其中，

所述信息收集模块，用于获取被监控设备的状态信息；

所述监控预警模块，用于获取所述信息收集模块得到的被监控设备的状态信息，并对所述被监控设备的状态信息进行分析，并根据分析结果生成报警消息；

所述报警消息处理操作存储模块，用于分类存储报警消息、和针对不同类型报警消息的处理操作建议；

所述报警消息识别模块，用于基于所述报警消息处理操作存储模块对所述监控预警模块发出的报警消息进行分类识别，并获取对应所述报警消息的处理操作建议；

所述用户界面管理模块，用于提供接口，供用户对系统功能进行修改以及增删操作。

2.根据权利要求1所述的一站式自动化运维系统，其特征在于，所述信息收集模块，通过访问被监控设备，执行相应运维脚本，根据所述运维脚本的执行结果和相应的运维要求进行结果分析，从而获取被监控设备的状态信息。

3.根据权利要求1所述的一站式自动化运维系统，其特征在于，所述监控预警模块对所述被监控设备的状态信息按照设定的业务规则进行比对判断，当比对判断结果为状态异常时，生成报警消息，其中所述状态异常包括被监控设备状态异常、被监控设备负载超出设定阈值时。

4.根据权利要求3所述的一站式自动化运维系统，其特征在于，所述被监控设备状态异常包括被监控设备无法ping通、访问被监控设备指定端口失败。

5.根据权利要求1所述的一站式自动化运维系统，其特征在于，所述报警消息处理操作存储模块，还存储有对应报警消息的采用正则表达式描述的报警消息的类型特征。

6.根据权利要求5所述的一站式自动化运维系统，其特征在于，所述报警消息识别模块针对一条具体的报警消息，利用报警消息处理操作存储模块的正则引擎对报警消息处理操作存储模块中正则表达式，即：消息特征字段进行匹配搜索，获得报警消息处理操作存储模块中与报警消息匹配的正则表达式，并提取与获得的正则表达式对应的处理操作建议。

7.根据权利要求6所述的一站式自动化运维系统，其特征在于，当所述报警消息识别模块获得多条与报警消息匹配的正则表达式，则提取与获得的第一条正则表达式对应的处理操作建议。

8.根据权利要求7所述的一站式自动化运维系统，其特征在于，所述用户界面管理模块提供了系统管理接口，供用户自定义系统功能，将用户界面的树状菜单映射为关系数据库的表；在用户界面加载时，通过Ajax请求以标准JSON格式返回所述关系数据库的表的所有信息，动态生成树状菜单；在用户界面加载完成后，将用户给出的所述树状菜单的每个节点的增删改操作相应映射为对所述关系数据库的表的单条记录的增删改操作。

9.根据权利要求1-8之一所述的一站式自动化运维系统，其特征在于，所述系统还包括报警消息存储模块和报警消息展示模块，其中，所述报警消息存储模块用于存储监控预警模块发出的报警消息；所述报警消息展示模块用于定时自动获取所述报警消息存储模块中的增量报警消息，并插入到展示界面的定长消息存储队列头部并在展示界面上弹出消息框告警。

10.根据权利要求9所述的一站式自动化运维系统，其特征在于，当展示界面的消息总数超出所述消息存储队列的定长时，删除所述消息存储队列尾部的报警消息。

11.根据权利要求10所述的一站式自动化运维系统，其特征在于，所述系统还包括数据分析和网页报表模块，用于根据用户指定的筛选条件，获取信息收集模块采集的相应的被监控设备的状态信息的数据集，并生成网页报表。

12.根据权利要求11所述的一站式自动化运维系统，其特征在于，所述数据分析和网页报表模块，还用于对获取的数据集中的数据按照设定的数据清洗规则和出错处理机制进行过滤，再进行网页报表的生成，以保证数据的准确度。

13.根据权利要求12所述的一站式自动化运维系统，其特征在于，所述系统还包括报警模块，用于采用邮件报警、短信报警或发报警消息到网管的方式对监控预警模块生成的报警消息进行发送。

14.根据权利要求13所述的一站式自动化运维系统，其特征在于，所述系统还包括日志监控模块，用于对系统运行日志进行增量自监控，在系统运行日志出现异常时，调用报警模块向管理员发送邮件或短信报警。

15.根据权利要求14所述的一站式自动化运维系统，其特征在于，所述系统还包括缓存模块，用于在系统第一次启动时加载指定路径下的数据资料到redis进行缓存的初始化，并基于redis的持久化功能定期进行缓存数据到硬盘的数据同步。

16.根据权利要求15所述的一站式自动化运维系统，其特征在于，所述系统还包括文档管理模块，用于对数据资料进行文档管理，并支持多用户上传/下载/废除/查看/更新，自动分类，关键字搜索，按分类浏览，用户权限管理，文档查看次数统计。

17.根据权利要求16所述的一站式自动化运维系统，其特征在于，所述文档管理模块还用于在用户通过其进行数据资料更新时自动触发刷新所述缓存模块的内容。