CN116561635A - 微服务架构下故障检测模型的训练方法、装置及设备 - Google Patents

微服务架构下故障检测模型的训练方法、装置及设备 Download PDF

Info

Publication number
CN116561635A
CN116561635A CN202310541514.7A CN202310541514A CN116561635A CN 116561635 A CN116561635 A CN 116561635A CN 202310541514 A CN202310541514 A CN 202310541514A CN 116561635 A CN116561635 A CN 116561635A
Authority
CN
China
Prior art keywords
training
fault detection
transaction log
micro
transaction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202310541514.7A
Other languages
English (en)
Inventor
程鹏
蒋忆成
王鹏培
张杭俊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Industrial and Commercial Bank of China Ltd ICBC
Original Assignee
Industrial and Commercial Bank of China Ltd ICBC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Industrial and Commercial Bank of China Ltd ICBC filed Critical Industrial and Commercial Bank of China Ltd ICBC
Priority to CN202310541514.7A priority Critical patent/CN116561635A/zh
Publication of CN116561635A publication Critical patent/CN116561635A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
    • G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/23—Clustering techniques
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00—Machine learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/088—Non-supervised learning, e.g. competitive learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/01—Dynamic search techniques; Heuristics; Dynamic trees; Branch-and-bound
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q40/00—Finance; Insurance; Tax strategies; Processing of corporate or income taxes
    • G06Q40/04—Trading; Exchange, e.g. stocks, commodities, derivatives or currency exchange

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Mathematical Physics (AREA)
  • Business, Economics & Management (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Economics (AREA)
  • General Business, Economics & Management (AREA)
  • Technology Law (AREA)
  • Strategic Management (AREA)
  • Marketing (AREA)
  • Development Economics (AREA)
  • Medical Informatics (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本公开提供了一种微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品，可以应用于人工智能及金融领域。该训练方法包括：从数据库调用微服务架构下全链路的历史交易日志，历史交易日志具有表征意义的特征字段；采用孤立森林算法模型对历史交易日志进行预处理，根据孤立森林算法模型的输出结果生成训练样本数据集，其中，利用孤立森林算法对历史交易日志进行无监督训练以剔除异常值；利用逻辑回归算法对训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。解决了相关技术中对于微服务架构下的故障检测也更为困难、不能够准确的定位出现故障的具体节点位置的技术问题，实现了提高故障检测和定界的精度的技术效果。

Description

微服务架构下故障检测模型的训练方法、装置及设备
技术领域
本公开涉及人工智能及金融领域，尤其涉及一种微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品。
背景技术
随着互联网技术和金融科技的发展，网上交易越来越频繁，交易的金额也在不断增大，网上交易给人民带来便利的同时，伴随而来的交易问题也越来越多。而一些细小的错误可能导致较大的交易问题，因此对交易异常进行诊断显得尤为重要，而微服务架构下的系统，由于链路比较复杂，因此对于微服务架构下的故障检测也更为困难，不能够准确的定位出现故障的具体节点位置。
当前应用的问题诊断依赖于固定阈值的报警，固定阈值一方面容易误报和漏报，导致问题的诊断精度低下，另一方面可能造成报警风暴，使得真实报警信息掩盖在大量的虚假报警信息之下，严重影响问题分析定位的效率。
发明内容
鉴于上述问题，本公开提供了微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品。
根据本公开的第一个方面，提供了一种微服务架构下故障检测模型的训练方法，包括：
从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段；
采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集，其中，利用孤立森林算法对所述历史交易日志进行无监督训练以剔除异常值；
利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。
根据本公开的一些实施例，所述训练样本集中包括链路调用耗时、调用成功与否标识以及是否故障的标签信息。
根据本公开的一些实施例，所述采用孤立森林算法模型对所述历史交易日志进行预处理之前还包括：
对所述历史交易日志进行特征提取得到模板化的交易日志，其中，具有相同表征特征字段的不同交易链路的交易日志为同一模板。
根据本公开的一些实施例，所述采用孤立森林算法模型对所述历史交易日志进行预处理之后还包括：
采用聚类算法对模板化后的交易日志进行聚类分析得到多个节点类型，将是否故障的标签信息作为所述节点类型的标签。
根据本公开的一些实施例，所述特征字段包括每秒平均交易量、每秒交易平均耗时、每秒交易成功率。
根据本公开的一些实施例，所述利用逻辑回归算法对所述训练样本数据集进行训练包括：
利用携带节点类型标签的模板化日志对分类器进行有监督的训练，得到各个特征字段对应的权重系数以构建所述故障检测模型。
根据本公开的一些实施例，所述分类器为CATBOOST分类器。
根据本公开的一些实施例，所述从数据库调用微服务架构下全链路的历史交易日志包括：
本公开的另一方面提供了一种微服务架构下故障检测方法，包括：
从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据；以及
将所述交易日志数据输入到故障检测模型中，输出交易链路中存在故障的节点信息；
其中，所述故障检测模型由如上所述微服务架构下故障检测模型的训练方法训练获得。
根据本公开的一些实施例，所述输出交易链路中存在故障的节点信息之后还包括：
将存在故障的节点的交易日志与模式库内预存的模板化日志进行比对，根据比对结果判断故障类型；
其中，所述模式库通过所述训练方法对数据库内存储的全链路的历史交易日志进行分析后按照故障类型存储建立的。
根据本公开的一些实施例，构建所述模式库包括：
从数据库调用微服务架构下全链路的历史交易日志数据，其中，所述历史交易日志数据包括交易日志的链路调用耗时、调用成功与否标识、节点类型信息、是否故障的标签信息以及故障类型信息；
按照节点类型对历史交易日志进行分类，并计算各类型故障的交易日志在所有链路模板中所占的概率值；以及
利用所述概率值和所述历史交易日志数据构建所述模式库。
本公开的第三方面提供了一种微服务架构下故障检测模型的训练装置，包括：
数据调用模块，适用于从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段；
样本生成模块，适用于采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集；以及
训练模块，适用于利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。
本公开的第四方面提供了一种微服务架构下故障检测模型的训练装置，包括：
交易日志获取模块，适用于从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据；以及
故障检测模型模块，由上述的训练方法训练获得，所述故障检测模型适用于判断交易链路中存在故障的节点信息。
本公开的第五方面提供了一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行上述的训练方法。
本公开的第六方面还提供了一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行上述的训练方法。
本公开的第七方面还提供了一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现上述的训练方法。
根据本公开提供的微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品，通过对服务器各链路的历史交易日志进行分析和处理，提取历史交易日志具有表征意义的特征字段，先采用孤立森林算法模型对历史交易日志进行无监督学习做一遍筛选，然后将孤立森林算法的输出作为逻辑回归的输入进行训练得到能够鉴别交易链路异常的故障检测模型，因此，至少部分解决了相关技术中对于微服务架构下的故障检测也更为困难、不能够准确的定位出现故障的具体节点位置的技术问题，实现了提高故障检测和定界的精度的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述，本公开的上述内容以及其他目的、特征和优点将更为清楚，在附图中：
图1示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品的应用场景图；
图2示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练方法的流程图；
图3示意性示出了根据本公开实施例的微服务架构下故障检测方法的流程图；
图4示意性示出了根据本公开另一实施例的微服务架构下故障检测方法的流程图；
图5示意性示出了根据本公开实施例的微服务架构下故障检测方法的流程框图；
图6示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练装置的结构框图；
图7示意性示出了根据本公开另一实施例的微服务架构下故障检测模型的训练装置的结构框图；以及
图8示意性示出了根据本公开实施例的适于实现微服务架构下故障检测模型的训练方法的电子设备的方框图。
具体实施方式
以下，将参照附图来描述本公开的实施例。但是应该理解，这些描述只是示例性的，而并非要限制本公开的范围。在下面的详细描述中，为便于解释，阐述了许多具体的细节以提供对本公开实施例的全面理解。然而，明显地，一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外，在以下说明中，省略了对公知结构和技术的描述，以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例，而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在，但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义，除非另外定义。应注意，这里使用的术语应解释为具有与本说明书的上下文相一致的含义，而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下，一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如，“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中，所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理，均符合相关法律法规的规定，采取了必要保密措施，且不违背公序良俗。
本公开的实施例提供了一种微服务架构下故障检测模型的训练方法、装置、设备、介质和程序产品。
图1示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练方法的应用场景图。
如图1所示，根据该实施例的应用场景100可以包括互联网、局域网、电商平台等。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用第一终端设备101、第二终端设备102、第三终端设备103中的至少一个通过网络104与服务器105交互，以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器，例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理，并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是，本公开实施例所提供的微服务架构下故障检测模型的训练方法、微服务架构下故障检测方法一般均可以由服务器105执行。相应地，本公开实施例所提供的微服务架构下故障检测模型的训练装置一般可以设置于服务器105中。本公开实施例所提供的微服务架构下故障检测模型的训练方法、微服务架构下故障检测方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地，本公开实施例所提供的微服务架构下故障检测模型的训练装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。
应该理解，图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
以下将基于图1描述的场景，通过图2对公开实施例的微服务架构下故障检测模型的训练方法进行详细描述。
图2示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练方法的流程图。
如图2所示，该实施例的微服务架构下故障检测模型的训练方法包括操作S201～操作S203。
在操作S201中，从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段。
在操作S202中，采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集，其中，利用孤立森林算法对历史交易日志进行无监督训练以剔除异常值。
在操作S203中，利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。
在本实施例中，通过对服务器各链路的历史交易日志进行分析和处理，提取历史交易日志具有表征意义的特征字段，先采用孤立森林算法模型对历史交易日志进行无监督学习做一遍筛选，然后将孤立森林算法的输出作为逻辑回归的输入进行训练得到能够鉴别交易链路异常的故障检测模型。因此，至少部分解决了相关技术中对于微服务架构下的故障检测也更为困难、不能够准确的定位出现故障的具体节点位置的技术问题，实现了提高故障检测和定界的精度的技术效果。
根据本公开的一些实施例，所述训练样本集中包括链路调用耗时、调用成功与否标识以及是否故障的标签信息。
根据本公开的一些实施例，是否故障的标签包括超时链路，例如，获取各链路应用日志的起始时间和结束时间，得到所述链路的交易时长，将该交易时长于预设阈值比对，根据比对结果判断该链路的交易日志是否为超时链路并标记结果。
根据本公开的一些实施例，所述采用孤立森林算法模型对所述历史交易日志进行预处理之前还包括：对所述历史交易日志进行特征提取得到模板化的交易日志，其中，具有相同表征特征字段的不同交易链路的交易日志为同一模板。
根据本公开可选的一些实施例，获取一段时间内所有链路的历史交易日志，例如，获取1～3周的交易日志数据，从该些数据中筛选出多个特征字段(例如3、4、5或6个字段)，将具有该些特征字段且特征字段值相同的交易日志划为同一模板化日志，从而简化后续的数据分析、处理过程。
根据本公开的一些实施例，所述采用孤立森林算法模型对所述历史交易日志进行预处理之后还包括：采用聚类算法对模板化后的交易日志进行聚类分析得到多个节点类型，将是否故障的标签信息作为所述节点类型的标签。
根据本公开的一些实施例，所述特征字段包括每秒平均交易量、每秒交易平均耗时、每秒交易成功率。
根据本公开的一些实施例，所述利用逻辑回归算法对所述训练样本数据集进行训练包括：利用携带节点类型标签的模板化日志对分类器进行有监督的训练，得到各个特征字段对应的权重系数，以构建故障检测模型。
根据本公开的一些实施例，所述分类器为CATBOOST分类器。
以下将基于图1描述的场景，通过图3～图5对公开实施例的微服务架构下故障检测方法进行详细描述
图3示意性示出了根据本公开实施例的微服务架构下故障检测方法的流程图。
如图3所示，该实施例的微服务架构下故障检测方法包括操作S301～操作S302。
在操作S301中，从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据。
在操作S302中，将所述交易日志数据输入到故障检测模型中，输出交易链路中存在故障的节点信息。其中，故障检测模型由如上所述的微服务架构下故障检测模型的训练方法训练获得。
根据本公开的一些实施例，所述输出交易链路中存在故障的节点信息之后还包括：将存在故障的节点的交易日志与模式库内预存的模板化日志进行比对，根据比对结果判断故障类型(故障节点位置)。其中，所述模式库通过所述训练方法对数据库内存储的全链路的历史交易日志进行分析后按照故障类型存储建立的。
图4示意性示出了根据本公开另一实施例的微服务架构下故障检测方法的流程图。
如图4所示，另一实施例的微服务架构下故障检测方法包括操作S301～操作S303。
在操作S301中，从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据。
在操作S302中，将所述交易日志数据输入到故障检测模型中，输出交易链路中存在故障的节点信息。其中，故障检测模型由如上所述的微服务架构下故障检测模型的训练方法训练获得。
在操作S303中，将存在故障的节点的交易日志与模式库内预存的模板化日志进行比对，根据比对结果判断故障类型；其中，所述模式库通过所述训练方法对数据库内存储的全链路的历史交易日志进行分析后按照故障类型存储建立的。
根据本公开的一些实施例，构建所述模式库包括：子操作S401～子操作S403。
在子操作S401中，从数据库调用微服务架构下全链路的历史交易日志数据，其中，所述历史交易日志数据包括交易日志的链路调用耗时、调用成功与否标识、节点类型信息、是否故障的标签信息以及故障类型信息。
在子操作S402中，按照节点类型对历史交易日志进行分类，并计算各类型故障的交易日志在所有链路模板中所占的概率值。
在子操作S402中，利用所述概率值和所述历史交易日志数据构建所述模式库。
根据本公开的一些实施例，获取待检测交易的日志文本，对该日志文本进行预处理，将预处理后的结果输入到故障检测模型内判断该交易是否存在异常。当判断结果表示该交易存在异常的情况下，将该预处理后的结果与模式库内数据进行匹配，根据匹配结果判断具体是那个节点出现的异常，并输出结果。例如，实际故障监测时，先执行操作S302，检测交易是否异常，如果交易异常，则再基于操作S402建立的模式库，将该时间段内的交易链路日志模板化后与模式库进行匹配，如果为匹配到或者匹配概率低于预设阈值，例如低于0.6，则表示该日志所标识的交易有异常，并得到具体哪个链路出现了异常，并结合链路指标的检测，实现链路节点级别的故障定界。
图5示意性示出了根据本公开实施例的微服务架构下故障检测方法的流程框图。
如图5所示，本申请的技术方案包括两条并行的支路(可同时，也可不同时)，第一支路为模型的训练以及算法库、模式库(Mysql，Redis)的建立，通过调用历史数据进行训练，可选的，训练过程可采用离线的方式进行训练，不占用带宽，灵活性更高。第二支路为实时获取当前的交易日志进行在线诊断，获取日志文本后，进行流处理(Spark Stream)，包括数据的预处理和日志特征的提取，实时监测当前交易是否存在故障以及判断故障出现的具体节点位置，并将结果进行存储(Elastic Search)。
基于上述微服务架构下故障检测模型的训练方法，本公开还提供了一种微服务架构下故障检测模型的训练装置。以下将结合图6对该装置进行详细描述。
图6示意性示出了根据本公开实施例的微服务架构下故障检测模型的训练装置的结构框图。
如图6所示，该实施例的微服务架构下故障检测模型的训练装置置600包括：数据调用模块601、样本生成模块602和训练模块603。
数据调用模块601用于从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段。在一实施例中，数据调用模块601可以用于执行前文描述的操作S201，在此不再赘述。
样本生成模块602用于采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集。在一实施例中，样本生成模块602可以用于执行前文描述的操作S202，在此不再赘述。
训练模块603用于利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。在一实施例中，训练模块603可以用于执行前文描述的操作S203，在此不再赘述。
根据本公开的一些实施例，数据调用模块601调用的历史交易日志的特征字段包括每秒平均交易量、每秒交易平均耗时和每秒交易成功率。
根据本公开的一些实施例，样本生成模块602生成的训练样本集中包括链路调用耗时、调用成功与否标识以及是否故障的标签信息。
根据本公开的一些实施例，样本生成模块602生成的训练样本集中的是否故障的标签包括超时链路，例如，获取各链路应用日志的起始时间和结束时间，得到所述链路的交易时长，将交易时长于预设阈值比对，根据比对结果判断该链路的交易日志是否为超时链路并标记。
根据本公开的一些实施例，样本生成模块602在采用孤立森林算法模型对历史交易日志进行预处理之前还包括：对历史交易日志进行特征提取得到模板化的交易日志，其中，具有相同表征特征字段的不同交易链路的交易日志为同一模板。
根据本公开可选的一些实施例，样本生成模块602获取一段时间内所有链路的历史交易日志，例如，获取1～3周的交易日志数据，从该些数据中筛选出多个特征字段(例如3个字段)，将具有改写特征字段且特征字段值相同的交易日志划为同一模板化日志，从而简化后续的分析过程。
根据本公开的一些实施例，样本生成模块602在采用孤立森林算法模型对历史交易日志进行预处理之后还包括：采用聚类算法对模板化后的交易日志进行聚类分析得到多个节点类型，将是否故障的标签信息作为所述节点类型的标签。
根据本公开的一些实施例，训练模块603利用逻辑回归算法对所述训练样本数据集进行训练包括：利用携带节点类型标签的模板化日志对分类器进行有监督的训练，得到各个特征字段对应的权重系数。
根据本公开的一些实施例，训练模块603训练的分类器为CATBOOST分类器。
训练模块603主要是基于历史交易日志进行模式库的提取和模型的训练。通过提取历史交易日志的特征字段，将每条交易日志模板化，利用密度聚类算法-DBSCAN对模板化的交易日志进行聚类，将聚类结果和模板化的日志存入Redis作为在线诊断的模式库，然后将聚类结果作为分类算法-CatBoost算法的训练数据进行分类模型的训练，并将训练好的分类算法存入MySql。通过将测试环境中Redis和MySql中的模式库和算法数据导出到数据文件，利用脚本将数据文件导入到生产数据库中完成离线训练模式库和模型的迁移。
根据本公开的一些实施例，微服务架构下故障检测模型的训练装置还包括数据发送模块和数据缓冲模块，其中，数据发送模块利用Fluentd将数据打散发送到数据缓冲模块(Kafka)，然后数据缓冲模块通过Kafka订阅方式进行数据的分发。可选的，数据发送模块使用Fluentd将数据打散发送到数据缓冲模块(Kafka)，该数据为交易的日志数据，包括整个交易各链路日志。数据缓冲模块使用Kafka集群用于数据缓冲。
根据本公开可选的一些实施例，微服务架构下故障检测模型的训练装置还包括数据消费和在线实时诊断模块，数据消费和在线实时诊断模块通过Spark实时从Kafka获取日志数据，并基于离线训练好的模型和模式库进行在线实时模式诊断，并将诊断结果存放在ElasticSearch中。可选的，数据消费和在线实时诊断模块使用Spark Streaming架构，做为Kafka集群的消费者从Kafka集群订阅Topic，实时获取交易日志数据，并对数据做在线实时处理。通过匹配给定交易的最相似日志序列类型，识别该交易是否出现异常。如果出现异常，根据异常的判定依据对异常进行分类，并提供辅助问题诊断的信息。该模块包括Spark流处理集群、日志实时诊断。Spark从Kafka实时订阅数据，将数据发送到在线实时诊断模块，实时诊断模块从MySql数据库中获取离线训练好的模型，并从Redis中获取离线建立的模式库，通过模型的诊断识别有问题的交易，并给出交易链路中出问题的交易步骤，最后将诊断结果存到ES集群中。
根据本公开可选的一些实施例，微服务架构下故障检测模型的训练装置还包括结果展示模块，结果展示模块通过规则查询从ElasticSearch中获取相应的结果数据进行展示。
根据本公开可选的一些实施例，微服务架构下故障检测模型的训练装置还包括数据存储模块，日志模式诊断结果按天建立索引存储在ElasticSearch集群中，存储预设时长的结果数据，例如1周，存放超过1周的数据将通过预设指令进行删除，例如自动化脚本。
根据本公开的实施例，数据调用模块601、样本生成模块602和训练模块603中的任意多个模块可以合并在一个模块中实现，或者其中的任意一个模块可以被拆分成多个模块。或者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合，并在一个模块中实现。根据本公开的实施例，数据调用模块601、样本生成模块602和训练模块603中的至少一个可以至少被部分地实现为硬件电路，例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC)，或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现，或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者，数据调用模块601、样本生成模块602和训练模块603中的至少一个可以至少被部分地实现为计算机程序模块，当该计算机程序模块被运行时，可以执行相应的功能。
图7示意性示出了根据本公开另一实施例的微服务架构下故障检测模型的训练装置的结构框图。
如图7所示，该另一实施例的微服务架构下故障检测模型的训练装置置700包括交易日志获取模块701和故障检测模型模块702。
交易日志获取模块，适用于从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据。故障检测模型，由上述的训练方法训练获得，故障检测模型适用于判断交易链路中存在故障的节点信息。
图8示意性示出了根据本公开实施例的适于实现微服务架构下故障检测模型的训练方法的电子设备的方框图。
如图8所示，根据本公开实施例的电子设备800包括处理器801，其可以根据存储在只读存储器(ROM)802中的程序或者从存储部分808加载到随机访问存储器(RAM)803中的程序而执行各种适当的动作和处理。处理器801例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如，专用集成电路(ASIC))等等。处理器801还可以包括用于缓存用途的板载存储器。处理器801可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 803中，存储有电子设备800操作所需的各种程序和数据。处理器801、ROM802以及RAM 803通过总线804彼此相连。处理器801通过执行ROM 802和/或RAM 803中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意，所述程序也可以存储在除ROM 802和RAM 803以外的一个或多个存储器中。处理器801也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例，电子设备800还可以包括输入/输出(I/O)接口805，输入/输出(I/O)接口805也连接至总线804。电子设备800还可以包括连接至输入/输出(I/O)接口805的以下部件中的一项或多项：包括键盘、鼠标等的输入部分806；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分808；包括硬盘等的存储部分808；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分809。通信部分809经由诸如因特网的网络执行通信处理。驱动器810也根据需要连接至输入/输出(I/O)接口805。可拆卸介质811，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器810上，以便于从其上读出的计算机程序根据需要被安装入存储部分808。
本公开还提供了一种计算机可读存储介质，该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的；也可以是单独存在，而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序，当上述一个或者多个程序被执行时，实现根据本公开实施例的方法。
根据本公开的实施例，计算机可读存储介质可以是非易失性的计算机可读存储介质，例如可以包括但不限于：便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM 802和/或RAM 803和/或ROM 802和RAM 803以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品，其包括计算机程序，该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。
在该计算机程序被处理器801执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例，上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中，该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中，该计算机程序也可以在网络介质上以信号的形式进行传输、分发，并通过通信部分809被下载和安装，和/或从可拆卸介质811被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输，包括但不限于：无线、有线等等，或者上述的任意合适的组合。
在这样的实施例中，该计算机程序可以通过通信部分809从网络上被下载和安装，和/或从可拆卸介质811被安装。在该计算机程序被处理器801执行时，执行本公开实施例的系统中限定的上述功能。根据本公开的实施例，上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例，可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码，具体地，可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java，C++，python，“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图，图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合，即使这样的组合或结合没有明确记载于本公开中。特别地，在不脱离本公开精神和教导的情况下，本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是，这些实施例仅仅是为了说明的目的，而并非为了限制本公开的范围。尽管在以上分别描述了各实施例，但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围，本领域技术人员可以做出多种替代和修改，这些替代和修改都应落在本公开的范围之内。

Claims (15)

1.一种微服务架构下故障检测模型的训练方法，其特征在于，包括：
从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段；
采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集，其中，利用孤立森林算法对所述历史交易日志进行无监督训练以剔除异常值；以及
利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。
2.根据权利要求1所述的训练方法，其特征在于，所述训练样本集中包括链路调用耗时、调用成功与否标识以及是否故障的标签信息。
3.根据权利要求2所述的训练方法，其特征在于，所述采用孤立森林算法模型对所述历史交易日志进行预处理之前还包括：
对所述历史交易日志进行特征提取得到模板化的交易日志，其中，具有相同表征特征字段的不同交易链路的交易日志为同一模板。
4.根据权利要求3所述的训练方法，其特征在于，所述采用孤立森林算法模型对所述历史交易日志进行预处理之后还包括：
采用聚类算法对模板化后的交易日志进行聚类分析得到多个节点类型，将是否故障的标签信息作为所述节点类型的标签。
5.根据权利要求1所述的训练方法，其特征在于，所述特征字段包括每秒平均交易量、每秒交易平均耗时和每秒交易成功率。
6.根据权利要求4所述的训练方法，其特征在于，所述利用逻辑回归算法对所述训练样本数据集进行训练包括：
利用携带节点类型标签的模板化日志对分类器进行有监督的训练，得到各个特征字段对应的权重系数以构建所述故障检测模型。
7.根据权利要求6所述的训练方法，其特征在于，所述分类器为CATBOOST分类器。
8.一种微服务架构下故障检测方法，其特征在于，包括：
从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据；以及
将所述交易日志数据输入到故障检测模型中，输出交易链路中存在故障的节点信息；
其中，所述故障检测模型由权利要求1至7任一项所述的训练方法训练获得。
9.根据权利要求8所述的故障检测方法，其特征在于，所述输出交易链路中存在故障的节点信息之后还包括：
将存在故障的节点的交易日志与模式库内预存的模板化日志进行比对，根据比对结果判断故障类型；
其中，所述模式库通过所述训练方法对数据库内存储的全链路的历史交易日志进行分析后按照故障类型存储建立的。
10.根据权利要求9所述的故障检测方法，其特征在于，构建所述模式库包括：
从数据库调用微服务架构下全链路的历史交易日志数据，其中，所述历史交易日志数据包括交易日志的链路调用耗时、调用成功与否标识、节点类型信息、是否故障的标签信息以及故障类型信息；
按照节点类型对历史交易日志进行分类，并计算各类型故障的交易日志在所有链路模板中所占的概率值；以及
利用所述概率值和所述历史交易日志数据构建所述模式库。
11.一种微服务架构下故障检测模型的训练装置，其特征在于，包括：
数据调用模块，适用于从数据库调用微服务架构下全链路的历史交易日志，所述历史交易日志具有表征意义的特征字段；
样本生成模块，适用于采用孤立森林算法模型对所述历史交易日志进行预处理，根据所述孤立森林算法模型的输出结果生成训练样本数据集；以及
训练模块，适用于利用逻辑回归算法对所述训练样本数据集进行训练，得到用于鉴别交易链路异常的故障检测模型。
12.一种微服务架构下故障检测模型的训练装置，其特征在于，包括：
交易日志获取模块，适用于从微服务架构下信息管理系统中存储的日志动态信息表中读取多个节点的交易日志数据；以及
故障检测模型模块，由权利要求1至7任一项所述的训练方法训练获得，所述故障检测模型适用于判断交易链路中存在故障的节点信息。
13.一种电子设备，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
其中，当所述一个或多个程序被所述一个或多个处理器执行时，使得所述一个或多个处理器执行根据权利要求1～10中任一项所述的方法。
14.一种计算机可读存储介质，其上存储有可执行指令，该指令被处理器执行时使处理器执行根据权利要求1～10中任一项所述的方法。
15.一种计算机程序产品，包括计算机程序，所述计算机程序被处理器执行时实现根据权利要求1～10中任一项所述的方法。
CN202310541514.7A 2023-05-15 2023-05-15 微服务架构下故障检测模型的训练方法、装置及设备 Pending CN116561635A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202310541514.7A CN116561635A (zh) 2023-05-15 2023-05-15 微服务架构下故障检测模型的训练方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202310541514.7A CN116561635A (zh) 2023-05-15 2023-05-15 微服务架构下故障检测模型的训练方法、装置及设备

Publications (1)

Publication Number Publication Date
CN116561635A true CN116561635A (zh) 2023-08-08

Family

ID=87485753

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202310541514.7A Pending CN116561635A (zh) 2023-05-15 2023-05-15 微服务架构下故障检测模型的训练方法、装置及设备

Country Status (1)

Country Link
CN (1) CN116561635A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118656741A (zh) * 2024-08-14 2024-09-17 南开大学 一种基于时序数据的智能运维方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN118656741A (zh) * 2024-08-14 2024-09-17 南开大学 一种基于时序数据的智能运维方法

Similar Documents

Publication Publication Date Title
CN111708938B (zh) 用于信息处理的方法、装置、电子设备和存储介质
CN114358147B (zh) 异常账户识别模型的训练方法、识别方法、装置及设备
CN114205216B (zh) 微服务故障的根因定位方法、装置、电子设备和介质
CN112348321A (zh) 风险用户的识别方法、装置及电子设备
CN111178687A (zh) 金融风险分类方法、装置及电子设备
CN116561635A (zh) 微服务架构下故障检测模型的训练方法、装置及设备
CN111191677B (zh) 用户特征数据生成方法、装置及电子设备
Zheng et al. iFeedback: Exploiting user feedback for real-time issue detection in large-scale online service systems
CN116560963A (zh) 异常检测方法、装置、设备和介质
Munger et al. The use of domain knowledge models for effective data mining of unstructured customer service data in engineering applications
CN116304910A (zh) 运维数据的异常检测方法、装置、设备及存储介质
CN114416422A (zh) 问题定位方法、装置、设备、介质和程序产品
CN113052509B (zh) 模型评估方法、模型评估装置、电子设备和存储介质
CN115147195A (zh) 一种招标采购风险监控方法、装置、设备及介质
CN113961441A (zh) 告警事件处理方法、审计方法、装置、设备、介质和产品
CN114693116A (zh) 代码评审有效性的检测方法及装置、电子设备
CN114723548A (zh) 数据处理方法、装置、设备、介质和程序产品
CN114301713A (zh) 风险访问检测模型的训练方法、风险访问检测方法及装置
CN114358024A (zh) 日志分析方法、装置、设备、介质和程序产品
CN113127362A (zh) 对象测试方法、对象测试装置、电子设备及可读存储介质
CN113110984A (zh) 报告处理方法、装置、计算机系统及可读存储介质
CN112579429A (zh) 一种问题定位方法和装置
CN117172632B (zh) 一种企业异常行为检测方法、装置、设备及存储介质
CN115499292B (zh) 一种告警方法、装置、设备及存储介质
CN118069933B (zh) 一种基于机器智能的应用系统集成方法及系统

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination