CN116166505B - 金融行业双态it架构的监控平台、方法、存储介质及设备 - Google Patents
金融行业双态it架构的监控平台、方法、存储介质及设备 Download PDFInfo
- Publication number
- CN116166505B CN116166505B CN202310191734.1A CN202310191734A CN116166505B CN 116166505 B CN116166505 B CN 116166505B CN 202310191734 A CN202310191734 A CN 202310191734A CN 116166505 B CN116166505 B CN 116166505B
- Authority
- CN
- China
- Prior art keywords
- data
- service
- architecture
- alarm
- monitoring
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012544 monitoring process Methods 0.000 title claims abstract description 77
- 238000000034 method Methods 0.000 title claims description 37
- 238000003860 storage Methods 0.000 title claims description 20
- 238000012545 processing Methods 0.000 claims abstract description 24
- 235000010425 Sorbus domestica Nutrition 0.000 claims abstract description 20
- 240000005332 Sorbus domestica Species 0.000 claims abstract description 20
- 238000004458 analytical method Methods 0.000 claims abstract description 16
- 238000004364 calculation method Methods 0.000 claims abstract description 16
- 230000004931 aggregating effect Effects 0.000 claims abstract description 7
- 238000010276 construction Methods 0.000 claims abstract description 7
- 238000004422 calculation algorithm Methods 0.000 claims description 28
- 238000010586 diagram Methods 0.000 claims description 21
- 230000002776 aggregation Effects 0.000 claims description 12
- 238000004220 aggregation Methods 0.000 claims description 12
- 238000012806 monitoring device Methods 0.000 claims description 9
- 230000010354 integration Effects 0.000 claims description 8
- 238000005192 partition Methods 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 5
- 230000008859 change Effects 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 4
- 238000004891 communication Methods 0.000 claims description 4
- 238000005096 rolling process Methods 0.000 claims description 3
- PCHJSUWPFVWCPO-UHFFFAOYSA-N gold Chemical compound [Au] PCHJSUWPFVWCPO-UHFFFAOYSA-N 0.000 abstract description 4
- 239000010931 gold Substances 0.000 abstract description 4
- 229910052737 gold Inorganic materials 0.000 abstract description 4
- 230000002902 bimodal effect Effects 0.000 abstract 1
- 230000008569 process Effects 0.000 description 9
- 238000012423 maintenance Methods 0.000 description 4
- 230000006978 adaptation Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 239000003795 chemical substances by application Substances 0.000 description 2
- 238000013480 data collection Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000013307 optical fiber Substances 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000003252 repetitive effect Effects 0.000 description 1
- 231100000279 safety data Toxicity 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000011425 standardization method Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/0677—Localisation of faults
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Mathematical Physics (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Environmental & Geological Engineering (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开一种金融行业双态IT架构的监控平台,所述监控平台包括:数据采集模块,用于通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码;链路构建模块,用于以业务的业务码建立业务树;数据处理模块,基于流式计算对数据采集模块的数据进行处理;监控告警模块,用于聚合告警数据,定位故障告警的发生位置;根因定位模块,根因定位模块用于利用CMDB的配置数据通过配置数据与监控数据的结合,自动定位故障根源。本发明面向金融行业双态IT架构的提供可观测能力,将敏态和稳态系统的监控结合,统一数据体系;提升告警准确性,降低故障率,实现精确的业务流动态黄金指标监控,实现故障的根因的自动化分析,减少后续监控问题。
Description
技术领域
本发明涉及数据处理技术领域,尤其涉及一种金融行业双态IT架构的监控平台、方法、存储介质及设备。
背景技术
在当今信息时代,随着互联网的迅速发展,应用系统越来越复杂,而应用架构设计也变得越来越重要。金融行业IT应用系统是典型“稳态+敏态”双态架构,稳态核心业务系统,采用主机架构,敏态偏前端,微服务架构。两种应用系统的监控方式差别巨大,传统的应用系统以BPC(business performance center)模式监控为主,主要是以NPM(NetworkPerformance Monitor)为手段,敏态系统以微服务分布式链路监控为手段。主机架构是传统的应用架构,它以单个主机为中心,应用程序与操作系统在主机上运行,可以集中管理和维护,但随着应用系统的不断扩展,主机架构的扩展能力受限,难以应对高并发和大规模访问的需求。微服务架构是一种新兴的应用架构,它以服务为中心,将应用程序拆分成多个小型服务,可以独立部署、扩展和维护,但微服务架构对分布式系统的支持要求较高,开发和运维成本较高。
目前市面上大量的开源或商用监控产品,大多数的产品都只是聚焦在基础链路、服务器性能、应用性能、日志分析、或是业务运行质量中的某一个特定的环节,虽然这些产品在各自的监控领域能够很好的覆盖各种场景,但对于现实中的异常和故障往往都是非常的复杂和综合的,大部分情况并无法只是简单的通过检测某个单一指标来实现。以及:
敏态和稳态监控手段差异很大,系统分散,需要构建统一数据体系;复杂的微服务系统架构,再结合封闭的后端稳态IT系统,现有技术无法透视化整个业务流请求过程;故障的根因分析在以往中没有好的快速溯源方案;应用的多维评估,比如说容量、性能和可用性等等,都需要深度依赖一份细粒度的应用访问数据。
发明内容
鉴于以上技术问题,本发明提供了一种金融行业双态IT架构的监控平台、方法、存储介质及设备。
本公开的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本公开的实践而习得。
根据本发明的一方面,提出了一种金融行业双态IT架构的监控平台,所述监控平台包括:数据采集模块,所述数据采集模块用于通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通;链路构建模块,所述链路构建模块用于以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;数据处理模块,所述数据处理模块基于流式计算对所述数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;监控告警模块,所述监控告警模块用于在故障告警发生时,聚合告警数据,定位故障告警的发生位置;根因定位模块,所述根因定位模块用于利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
进一步的,在所述数据处理模块中,基于基于流式计算对所述数据采集模块的数据进行处理,具体包括:实时将原始日志以流的形式输入,所述原始日志至少包括主机日志、网络设备日志和应用日志;将输入的所述原始日志按预设时间窗口分成分区,在平台中的不同节点上进行并行计算;实时将不同分区的所述原始日志分成一系列数据块,每个所述数据块为一个弹性分布式数据集;将所述弹性分布式数据集进行自定义函数转换;将转换后的数据进行入库。
进一步的,所述数据处理模块在将转换后的数据入库后,实时生成多维统计数据,所述多维统计数据包括请求量、时延、错误量、成功率。
进一步的,所述数据处理模块在将转换后的数据入库的同时,还基于离线计算引擎可对数据进行离线分析,自动构建分析出所述调用链路拓扑图。
进一步的,所述监控告警模块由动态基线智能算法库、故障树告警根源推理算法库和事件窗口告警聚合算法库构成。
进一步的,基于所述动态基线智能算法库、所述故障树告警根源推理算法库和所述事件窗口告警聚合算法库,所述监控告警模块执行以下操作:基于所述业务树的收敛逻辑,对业务调用链路与应用调用路径链进行所述告警数据的聚合和根因分析,定位故障告警的初始发生位置;通过多时间窗口滚动聚合计算,生成告警基线;调度各个告警算法,结合基线比较算法、动态阈值算法,生成告警逻辑。
进一步的,在所述根因定位模块中,所述自动定位故障根源包括:获取故障告警发生的应用所关联所述业务码的拓扑图,把拓扑图中故障告警服务的下游服务的关联告警按所述业务码取出,并对每个所述关联告警判断时间关联性,若所述关联告警发生在故障告警的第一时间范围内,并且第二时间内没有发生过,则认为所述关联告警与发生的故障告警关联,所述第二时间大于所述第一时间;根据所述配置数据与所述监控数据的结合,若故障告警在发生前存在变更,则认定故障告警由所述变更导致。
根据本公开的第二方面,提供一种金融行业双态IT架构的监控方法,所述方法包括:通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通;以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;基于流式计算对所述数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;在故障告警发生时,聚合告警数据,定位故障告警的发生位置;利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
根据本公开的第三方面,提供一种计算机可读存储介质,存储有计算机程序,所述计算机程序被处理器执行时实现如上述的金融行业双态IT架构的监控方法。
根据本公开的第四方面,提供一种金融行业双态IT架构的监控设备,包括:控制器;所述控制器包括上述的存储有计算机程序的计算机可读存储介质,所述计算机程序被处理器执行时实现上述的金融行业双态IT架构的监控方法;或/和,所述控制器包括上述的所述的金融行业双态IT架构的监控平台。
本公开的技术方案具有以下有益效果:
与现有技术相比,本发明面向金融行业双态IT架构的提供可观测能力,将敏态和稳态系统的监控结合,统一数据体系;提升告警准确性,降低故障率,实现精确的业务流动态黄金指标监控,在用户运营方面提供决策分析依据;实现故障的根因的自动化分析,减少后续监控问题。
附图说明
图1为本说明书实施例中的一种金融行业双态IT架构的监控平台的示意图;
图2为本说明书实施例中的一种金融行业双态IT架构的监控方法的流程图;
图3为本说明书实施例中一种安装有实现金融行业双态IT架构的监控平台的终端设备;
图4为本说明书实施例中一种储存有金融行业双态IT架构的监控平台的计算机可读存储介质。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本公开将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。在下面的描述中,提供许多具体细节从而给出对本公开的实施方式的充分理解。然而,本领域技术人员将意识到,可以实践本公开的技术方案而省略所述特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知技术方案以避免喧宾夺主而使得本公开的各方面变得模糊。
此外,附图仅为本公开的示意性图解。图中相同的附图标记表示相同或类似的部分,因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体,不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
如图1所示,本说明书实施例提供一种金融行业双态IT架构的监控平台,包括数据采集模块101、链路构建模块102、数据处理模块103、监控告警模块104、根因定位模块105。
在数据采集模块101中,所述数据采集模块101用于通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通。
其中,基于旁路抓包和日志采集技术,旨在解决传统架构和微服务应用架构之间链路追踪的可行性问题,并通过研发改造日志规范的模式,解决了日志实时采集的问题,最终实现了主机与开放平台的链路打通。
具体地,本发明提出的数据管理体系首先对包括HTTP协议、TCP+XML协议、TCP+JSON协议、主机203协议等在传统架构中常见的协议进行了适应性改造,使得这些协议能够适用于微服务应用架构,从而实现了传统架构和微服务应用架构间链路追踪的可行性。在此基础上。示范性的,HTTP协议的适应性改造,可以使用HTTP头部传递链路信息,即在HTTP请求头中添加链路追踪信息的标识,从而实现链路追踪,同时,对于HTTP协议的响应,也需要在响应头中返回链路追踪信息。TCP+XML协议的适应性改造,可以在XML的数据结构中添加链路追踪信息,即将链路追踪信息作为XML的一部分传递,从而实现链路追踪;TCP+JSON协议的适应性改造可以在JSON数据结构中添加链路追踪信息,即将链路追踪信息作为JSON的一部分传递,从而实现链路追踪;主机203协议的适应性改造,可以在协议的数据包中添加链路追踪信息,从而实现链路追踪。在获得链路追踪信息后,需要对传统主机架构和微服务架构应用间的链路追踪信息进行统一管理和分析。可以通过构建应用地图、调用链路拓扑图和系统架构图等方式,实现对链路追踪信息的可视化展示和分析,从而快速定位和解决故障问题,从而提高系统的稳定性和可靠性。
另外,为了解决日志实时采集的问题,本发明采用了研发改造日志规范的模式,通过fluentd采集日志,并将其标准化、分类、存储。在采集和处理日志数据的过程中,本发明提出了一种高效的日志规范化方法,使得日志能够被快速识别和解析,从而实现了日志的实时采集和分析。
为了解决主机上CPU、IO、存储的瓶颈问题,本发明采用了网络旁路报文解码的方式,即通过在网络层抓取数据包,解析其中的数据,具体可以包括链路数据、应用信息、性能数据、安全数据,从而实现了主机与开放平台的链路打通。这种方式不需要对业务系统进行任何改造,也不会对系统性能造成影响,同时能够实时捕捉业务数据,提高了数据的准确性和时效性。
最后,该数据采集模块101具体可以是融合多种数据采集手段的数据采集器,从数据类型来说,可以包括metric、log、tracing和event,从采集通道来说,可以是PrometheusExporter、Zabbix Agent以及EasyOps Agen。
在链路构建模块102中,所述链路构建模块102用于以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链。
具体来说,链路构建模块102使用BusinessID作为业务标识,在平台中建立一棵业务树。树的最底层是业务URL的调用关系链,也就是业务调用的具体执行路径。通过在业务树上不同层级的节点上添加不同的BusinessID标识,可以将这些业务调用的调用关系划分到不同的业务维度中。示范性的,将同属于某一业务模块的调用路径标记为相同的BusinessID,将不同模块之间的调用路径标记为不同的BusinessID。
通过对这些业务调用路径的采集和分析,可以生成对应的调用关系图和黄金指标数据。调用关系图展示了不同业务模块之间的调用关系,帮助开发人员或者运维人员理解系统的架构和运行状况。黄金指标统计数据则可以帮助业务方快速了解每个业务模块的访问量、成功率、响应时间和错误码等重要指标,从而更好地评估业务状况和进行优化。
在数据处理模块103中,所述数据处理模块103基于流式计算对所述数据采集模块101的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图。
其中,基于基于流式计算对所述数据采集模块101的数据进行处理,具体包括:实时将原始日志以流的形式输入,所述原始日志至少包括主机日志、网络设备日志和应用日志;将输入的所述原始日志按预设时间窗口分成分区,在平台中的不同节点上进行并行计算;实时将不同分区的所述原始日志分成一系列数据块,每个所述数据块为一个弹性分布式数据集;将所述弹性分布式数据集进行自定义函数转换;将转换后的数据进行入库。
流式计算可以是Spark Streaming框架,数据转换的过程,具体是map、filter、reduce等操作。
在得到数据的同时,便可以实时统计多维统计数据,所述多维统计数据包括请求量、时延、错误量、成功率。
所述数据处理模块103在将转换后的数据入库的同时,还基于Spark构建的离线计算引擎可对数据进行离线分析,自动构建分析出链路调用的拓扑结构。
在监控告警模块104中,所述监控告警模块104用于在故障告警发生时,聚合告警数据,定位故障告警的发生位置;根因定位模块105,所述根因定位模块105用于利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
具体的,所述监控告警模块104由动态基线智能算法库、故障树告警根源推理算法库和事件窗口告警聚合算法库构成。且基于所述动态基线智能算法库、所述故障树告警根源推理算法库和所述事件窗口告警聚合算法库,所述监控告警模块104执行以下操作:
监控告警收敛与根因分析:基于所述业务树的收敛逻辑,对业务调用链路与应用调用路径链进行所述告警数据的聚合和根因分析,定位故障告警的初始发生位置;
海量实时监控:通过多时间窗口滚动聚合计算,生成告警基线;
监控告警判断算法的智能优化:调度各个告警算法,结合基线比较算法、动态阈值算法,生成告警逻辑。
在根因定位模块105中,所述根因定位模块105用于利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
具体的,CMDB是指配置管理数据库,可以将整个系统中的各种资源(例如服务器、数据库、应用程序等)信息都记录在内,建立起一个资源的图谱。应用地图是在此基础上,以应用为维度,将资源之间的关联关系进行可视化展示,方便运维人员快速定位和解决问题。链路追踪平台则是在实时监测全链路运行情况的基础上,通过对各个环节的调用关系进行可视化展示,构建了一个业务导航,帮助业务人员更好地理解整个系统的运行情况。通过这种方式,可以快速了解系统的运行状况,对问题进行快速定位和解决。
具体的,所述自动定位故障根源包括:获取故障告警发生的应用所关联所述业务码的拓扑图,把拓扑图中故障告警服务的下游服务的关联告警按所述业务码取出,并对每个所述关联告警判断时间关联性,若所述关联告警发生在故障告警的第一时间范围内,并且第二时间内没有发生过,则认为所述关联告警与发生的故障告警关联,所述第二时间大于所述第一时间;根据所述配置数据与所述监控数据的结合,若故障告警在发生前存在变更,则认定故障告警由所述变更导致。当中,一个应用的告警,会导致调用链的上层调用都会引发告警,所以一个请求中,故障源是链路中出错的最深一次调用相同业务码下,一个服务告警很有可能是该业务码的拓扑图下,时间相近告警的其他服务引起的,告警触发前的变更是最常见的故障原因。
基于相同的思路,本说明实施例还提供一种金融行业双态IT架构的监控方法,所述方法包括步骤S21-S25:
在步骤S21中,通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通;
在步骤S22中,以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;
在步骤S23中,基于流式计算对所述数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;
在步骤S24中,在故障告警发生时,聚合告警数据,定位故障告警的发生位置;
在步骤S25中,利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
上述平台中各模块/单元的具体细节在方法部分实施方式中已经详细说明,未披露的细节内容可以参见方法部分的实施方式内容,因而不再赘述。
基于同样的思路,本说明书实施例还提供一种金融行业双态IT架构的监控设备,如图3所示。
金融行业双态IT架构的监控设备可以为上述实施例提供的终端设备或服务器。
金融行业双态IT架构的监控设备可因配置或性能不同而产生比较大的差异,可以包括一个或一个以上的处理器301和存储器302,存储器302中可以存储有一个或一个以上存储应用程序或数据。其中,存储器302可以包括易失性存储单元形式的可读介质,例如随机存取存储单元(RAM)和/或高速缓存存储单元,还可以进一步包括只读存储单元。存储在存储器302的应用程序可以包括一个或一个以上程序模块(图示未示出),这样的程序模块包括但不限于:操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。更进一步地,处理器301可以设置为与存储器302通信,在金融行业双态IT架构的监控设备上执行存储器302中的一系列计算机可执行指令。金融行业双态IT架构的监控设备还可以包括一个或一个以上电源303,一个或一个以上有线或无线网络接口304,一个或一个以上I/O接口(输入输出接口)305,一个或多个外部设备306(例如键盘、手绘板、蓝牙设备等)通信,还可与一个或一个以上使得用户能与该设备交互的设备通信,和/或与使得该设备能与一个或一个以上其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过I/O接口305进行。并且,设备还可以通过有线或无线接口304与一个或一个以上网络(例如局域网(LAN)通讯。
具体在本实施例中,金融行业双态IT架构的监控设备包括有存储器,以及一个或一个以上的程序,其中一个或者一个以上程序存储于存储器中,且一个或者一个以上程序可以包括一个或一个以上模块,且每个模块可以包括对金融行业双态IT架构的监控设备中的一系列计算机可执行指令,且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令:
通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通;以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;基于流式计算对所述数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;在故障告警发生时,聚合告警数据,定位故障告警的发生位置;利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
基于同样的思路,本公开的示例性实施方式还提供了一种计算机可读存储介质,其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中,本公开的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当程序产品在终端设备上运行时,程序代码用于使终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。
参考图4所示,描述了根据本公开的示例性实施方式的用于实现上述方法的程序产品700,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本公开的程序产品不限于此,在本文件中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了可读程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质,该可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于无线、有线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码,程序设计语言包括面向对象的程序设计语言一诸如Java、C++等,还包括常规的过程式程序设计语言一诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本公开实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开示例性实施方式的方法。
此外,上述附图仅是根据本公开示例性实施方式的方法所包括的处理的示意性说明,而不是限制目的。易于理解,上述附图所示的处理并不表明或限制这些处理的时间顺序。另外,也易于理解,这些处理可以是例如在多个模块中同步或异步执行的。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的示例性实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其他实施方式。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施方式仅被视为示例性的,本公开的真正范围和精神由权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (10)
1.一种金融行业双态IT架构的监控平台,其特征在于,所述监控平台包括:
数据采集模块,所述数据采集模块用于通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通,当中,在连通前对协议集合进行适应性改造,所述协议集合包括HTTP协议、TCP+XML协议、TCP+JSON协议、主机203协议,改造后的所述协议集合作用于所述微服务架构;
链路构建模块,所述链路构建模块用于以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;
数据处理模块,所述数据处理模块基于流式计算对所述数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;
监控告警模块,所述监控告警模块用于在故障告警发生时,聚合告警数据,定位故障告警的发生位置;
根因定位模块,所述根因定位模块用于利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
2.根据权利要求1所述的金融行业双态IT架构的监控平台,其特征在于,在所述数据处理模块中,基于基于流式计算对所述数据采集模块的数据进行处理,具体包括:
实时将原始日志以流的形式输入,所述原始日志至少包括主机日志、网络设备日志和应用日志;
将输入的所述原始日志按预设时间窗口分成分区,在平台中的不同节点上进行并行计算;
实时将不同分区的所述原始日志分成一系列数据块,每个所述数据块为一个弹性分布式数据集;
将所述弹性分布式数据集进行自定义函数转换;
将转换后的数据进行入库。
3.根据权利要求2所述的金融行业双态IT架构的监控平台,其特征在于,所述数据处理模块在将转换后的数据入库后,实时生成多维统计数据,所述多维统计数据包括请求量、时延、错误量、成功率。
4.根据权利要求2所述的金融行业双态IT架构的监控平台,其特征在于,所述数据处理模块在将转换后的数据入库的同时,还基于离线计算引擎可对数据进行离线分析,自动构建分析出所述调用链路拓扑图。
5.根据权利要求1所述的金融行业双态IT架构的监控平台,其特征在于,所述监控告警模块由动态基线智能算法库、故障树告警根源推理算法库和事件窗口告警聚合算法库构成。
6.根据权利要求5所述的金融行业双态IT架构的监控平台,其特征在于,基于所述动态基线智能算法库、所述 故障树告警根源推理算法库和所述事件窗口告警聚合算法库,所述监控告警模块执行以下操作:
基于所述业务树的收敛逻辑,对业务调用链路与应用调用路径链进行所述告警数据的聚合和根因分析,定位故障告警的初始发生位置;
通过多时间窗口滚动聚合计算,生成告警基线;
调度各个告警算法,结合基线比较算法、动态阈值算法,生成告警逻辑。
7.根据权利要求1所述的金融行业双态IT架构的监控平台,其特征在于,在所述根因定位模块中,所述自动定位故障根源包括:
获取故障告警发生的应用所关联所述业务码的拓扑图,把拓扑图中故障告警服务的下游服务的关联告警按所述业务码取出,并对每个所述关联告警判断时间关联性,若所述关联告警发生在故障告警的第一时间范围内,并且第二时间内没有发生过,则认为所述关联告警与发生的故障告警关联,所述第二时间大于所述第一时间;
根据所述配置数据与所述监控数据的结合,若故障告警在发生前存在变更,则认定故障告警由所述变更导致。
8.一种金融行业双态IT架构的监控方法,其特征在于,所述方法包括:
通过fluentd采集微服务架构的日志,以及通过对主机架构进行网络旁路报文解码,以使得所述主机架构与所述微服务架构的链路连通,当中,在连通前对协议集合进行适应性改造,所述协议集合包括HTTP协议、TCP+XML协议、TCP+JSON协议、主机203协议,改造后的所述协议集合作用于所述微服务架构;
以业务的业务码建立业务树,其中,位于所述业务树最底层的所述业务码对应于所述业务的URL的调用关系链;
基于流式计算对数据采集模块的数据进行处理,并构建应用调用链,根据所述应用调用链及访问层级的数据,将所述微服务架构节点分类后在前端图上连线绘制,形成应用调用链路拓扑图和系统架构图;
在故障告警发生时,聚合告警数据,定位故障告警的发生位置;
利用CMDB的配置数据建立资源图谱,以构建应用地图,以及基于对全链路的运行情况所得的监控数据,构建业务导航,以及基于对所述CMDB的配置数据的关联关系整合,通过配置数据与监控数据的结合,自动定位故障根源。
9.一种计算机可读存储介质,存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求8所述的金融行业双态IT架构的监控方法。
10.一种金融行业双态IT架构的监控设备,其特征在于,包括:控制器;
所述控制器包括权利要求9所述的存储有计算机程序的计算机可读存储介质,所述计算机程序被处理器执行时实现权利要求8所述的金融行业双态IT架构的监控方法;或/和,所述控制器包括权利要求1至7中任一项所述的金融行业双态IT架构的监控平台。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310191734.1A CN116166505B (zh) | 2023-02-22 | 2023-02-22 | 金融行业双态it架构的监控平台、方法、存储介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310191734.1A CN116166505B (zh) | 2023-02-22 | 2023-02-22 | 金融行业双态it架构的监控平台、方法、存储介质及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN116166505A CN116166505A (zh) | 2023-05-26 |
CN116166505B true CN116166505B (zh) | 2023-09-26 |
Family
ID=86421800
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310191734.1A Active CN116166505B (zh) | 2023-02-22 | 2023-02-22 | 金融行业双态it架构的监控平台、方法、存储介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116166505B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116915463B (zh) * | 2023-07-17 | 2024-03-08 | 北京优特捷信息技术有限公司 | 一种调用链数据安全分析方法、装置、设备及存储介质 |
KR102669784B1 (ko) * | 2023-09-27 | 2024-05-28 | 오케스트로 주식회사 | 이종 가상화 환경에서의 근본원인 분석 시스템 및 근본원인 분석 방법 |
CN117201292B (zh) * | 2023-10-30 | 2024-02-23 | 智业软件股份有限公司 | 能准确定位微服务间请求调用异常的方法 |
KR102676497B1 (ko) * | 2023-12-28 | 2024-06-19 | 오케스트로 주식회사 | 시뮬레이션을 이용한 근본원인 분석 시스템 및 근본원인 분석 방법 |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108810107A (zh) * | 2018-05-24 | 2018-11-13 | 深圳市康拓普信息技术有限公司 | 一种双态it业务的云管平台以及服务方法 |
CN110048883A (zh) * | 2019-04-03 | 2019-07-23 | 国网福建省电力有限公司 | 一种基于微服务云架构实现综合网络管理的方法 |
CN110717132A (zh) * | 2019-09-05 | 2020-01-21 | 深圳平安通信科技有限公司 | 全链路监控系统数据收集方法、推送方法及相关设备 |
CN111124430A (zh) * | 2019-12-31 | 2020-05-08 | 苏州浪潮智能科技有限公司 | 一种混合架构的微服务部署方法和装置 |
US10657019B1 (en) * | 2017-05-30 | 2020-05-19 | EMC IP Holding Company LLC | Method and system for multi-node monitoring services |
US10756959B1 (en) * | 2019-04-11 | 2020-08-25 | Elasticsearch B.V. | Integration of application performance monitoring with logs and infrastructure |
US10754750B1 (en) * | 2017-05-30 | 2020-08-25 | EMC IP Holding Company LLC | Method and system for collecting monitoring information and providing visual representation of same |
CN112380086A (zh) * | 2019-09-29 | 2021-02-19 | 北京城建设计发展集团股份有限公司 | 分布式微服务架构数据中心智能感知控制系统及方法 |
CN112559285A (zh) * | 2020-12-08 | 2021-03-26 | 中国联合网络通信集团有限公司 | 基于分布式服务架构的微服务监控方法及相关装置 |
CN113946497A (zh) * | 2021-09-03 | 2022-01-18 | 李济伟 | 一种适用于多云平台资源统一智能监控告警的方法 |
CN114116398A (zh) * | 2021-11-29 | 2022-03-01 | 重庆富民银行股份有限公司 | 一种可视化监控预警方法、系统、存储介质及设备 |
CN114201314A (zh) * | 2021-12-10 | 2022-03-18 | 优维科技(深圳)有限公司 | 一种基于契约的实现服务依赖发现和服务访问的路由方法 |
CN114338441A (zh) * | 2021-12-28 | 2022-04-12 | 腾云悦智科技(深圳)有限责任公司 | 一种基于业务流量智能识别业务链路的分析方法 |
CN115344533A (zh) * | 2022-08-22 | 2022-11-15 | 中国平安人寿保险股份有限公司 | 微服务日志检索方法、系统、控制装置及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014071367A2 (en) * | 2012-11-05 | 2014-05-08 | Rodney Aiglstorfer | Systems and methods for providing financial service extensions |
US11847642B2 (en) * | 2020-04-24 | 2023-12-19 | Salesforce, Inc. | Secure communication of data during transactions across multiple transaction entities in database systems |
-
2023
- 2023-02-22 CN CN202310191734.1A patent/CN116166505B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10657019B1 (en) * | 2017-05-30 | 2020-05-19 | EMC IP Holding Company LLC | Method and system for multi-node monitoring services |
US10754750B1 (en) * | 2017-05-30 | 2020-08-25 | EMC IP Holding Company LLC | Method and system for collecting monitoring information and providing visual representation of same |
CN108810107A (zh) * | 2018-05-24 | 2018-11-13 | 深圳市康拓普信息技术有限公司 | 一种双态it业务的云管平台以及服务方法 |
CN110048883A (zh) * | 2019-04-03 | 2019-07-23 | 国网福建省电力有限公司 | 一种基于微服务云架构实现综合网络管理的方法 |
US10756959B1 (en) * | 2019-04-11 | 2020-08-25 | Elasticsearch B.V. | Integration of application performance monitoring with logs and infrastructure |
CN110717132A (zh) * | 2019-09-05 | 2020-01-21 | 深圳平安通信科技有限公司 | 全链路监控系统数据收集方法、推送方法及相关设备 |
CN112380086A (zh) * | 2019-09-29 | 2021-02-19 | 北京城建设计发展集团股份有限公司 | 分布式微服务架构数据中心智能感知控制系统及方法 |
CN111124430A (zh) * | 2019-12-31 | 2020-05-08 | 苏州浪潮智能科技有限公司 | 一种混合架构的微服务部署方法和装置 |
CN112559285A (zh) * | 2020-12-08 | 2021-03-26 | 中国联合网络通信集团有限公司 | 基于分布式服务架构的微服务监控方法及相关装置 |
CN113946497A (zh) * | 2021-09-03 | 2022-01-18 | 李济伟 | 一种适用于多云平台资源统一智能监控告警的方法 |
CN114116398A (zh) * | 2021-11-29 | 2022-03-01 | 重庆富民银行股份有限公司 | 一种可视化监控预警方法、系统、存储介质及设备 |
CN114201314A (zh) * | 2021-12-10 | 2022-03-18 | 优维科技(深圳)有限公司 | 一种基于契约的实现服务依赖发现和服务访问的路由方法 |
CN114338441A (zh) * | 2021-12-28 | 2022-04-12 | 腾云悦智科技(深圳)有限责任公司 | 一种基于业务流量智能识别业务链路的分析方法 |
CN115344533A (zh) * | 2022-08-22 | 2022-11-15 | 中国平安人寿保险股份有限公司 | 微服务日志检索方法、系统、控制装置及存储介质 |
Non-Patent Citations (2)
Title |
---|
云原生背景下的运维监控体系建设;博睿数据;《https://m.www.163.com/dy/article/HTP63LPF05383FMA.html》;全文 * |
新 IT 框架概述和双态 IT;互联互通社区;《https://www.163.com/dy/article/GUM8FRRF0531WA1P.html》;全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN116166505A (zh) | 2023-05-26 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116166505B (zh) | 金融行业双态it架构的监控平台、方法、存储介质及设备 | |
CN111526060B (zh) | 业务日志的处理方法及系统 | |
KR102483025B1 (ko) | 운영 유지 시스템 및 방법 | |
Aktas et al. | Provenance aware run‐time verification of things for self‐healing Internet of Things applications | |
CN101945009B (zh) | 基于案例和模式匹配的电力通信网故障定位方法及装置 | |
CN114268640B (zh) | 云边协同的工业物联网智能路由系统 | |
US20160212023A1 (en) | Apparatus and method for processing data streams in a communication network | |
CN111339175B (zh) | 数据处理方法、装置、电子设备及可读存储介质 | |
CN111259073A (zh) | 基于日志、流量和业务访问的业务系统运行状态智能研判系统 | |
CN112749153B (zh) | 一种工业网络数据管理系统 | |
CN102385552A (zh) | 样本剖析报告的动态计算 | |
CN116192621A (zh) | 基于Opentracing链路追踪业务调用链的方法 | |
CN113268399A (zh) | 一种告警处理方法、装置和电子设备 | |
CN114528175A (zh) | 一种微服务应用系统根因定位方法、装置、介质及设备 | |
Scrocca et al. | The kaiju project: enabling event-driven observability | |
Solmaz et al. | ALACA: A platform for dynamic alarm collection and alert notification in network management systems | |
CN111934793A (zh) | 一种互联网架构全链路监控方法及装置 | |
Xu et al. | An improved SMURF scheme for cleaning RFID data | |
CN116662127A (zh) | 一种设备告警信息分类并预警的方法、系统、设备和介质 | |
Yu et al. | CMDiagnostor: An Ambiguity-Aware Root Cause Localization Approach Based on Call Metric Data | |
CN115883328A (zh) | 大数据集群故障分析方法、装置、设备、介质及产品 | |
CN113010483A (zh) | 一种海量日志管理方法和系统 | |
da Silva Rocha et al. | Aggregating data center measurements for availability analysis | |
Tochner et al. | Gen-T: Reduce Distributed Tracing Operational Costs Using Generative Models | |
WO2024021603A1 (zh) | 故障处理方法、设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |