CN117130887A - 数据处理方法、数据处理装置、电子设备及存储介质 - Google Patents

数据处理方法、数据处理装置、电子设备及存储介质 Download PDF

Info

Publication number
CN117130887A
CN117130887A CN202311109803.6A CN202311109803A CN117130887A CN 117130887 A CN117130887 A CN 117130887A CN 202311109803 A CN202311109803 A CN 202311109803A CN 117130887 A CN117130887 A CN 117130887A
Authority
CN
China
Prior art keywords
access
time period
data
average value
service availability
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202311109803.6A
Other languages
English (en)
Inventor
邱步云
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
CCB Finetech Co Ltd
Original Assignee
CCB Finetech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by CCB Finetech Co Ltd filed Critical CCB Finetech Co Ltd
Priority to CN202311109803.6A priority Critical patent/CN117130887A/zh
Publication of CN117130887A publication Critical patent/CN117130887A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3409Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/32Monitoring with visual or acoustical indication of the functioning of the machine
    • G06F11/324Display of status information
    • G06F11/327Alarm or error message display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/30Monitoring
    • G06F11/34Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
    • G06F11/3452Performance evaluation by statistical analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F17/00Digital computing or data processing equipment or methods, specially adapted for specific functions
    • G06F17/10Complex mathematical operations
    • G06F17/18Complex mathematical operations for evaluating statistical data, e.g. average values, frequency distributions, probability functions, regression analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Computational Mathematics (AREA)
  • Mathematical Optimization (AREA)
  • Mathematical Physics (AREA)
  • Pure & Applied Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Probability & Statistics with Applications (AREA)
  • Mathematical Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Operations Research (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Algebra (AREA)
  • Artificial Intelligence (AREA)
  • Databases & Information Systems (AREA)
  • Software Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本公开提供了一种数据处理方法、数据处理装置、电子设备及存储介质,可以应用于金融和运维技术领域。该方法包括:获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据;针对每个访问设备,根据与访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与第二时间段对应的第二服务可用率;利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值;根据第一距离均值和第二距离均值确定数据库的服务状态。

Description

数据处理方法、数据处理装置、电子设备及存储介质
技术领域
本公开涉及运维技术领域,尤其涉及一种数据处理方法、数据处理装置、设备、介质和程序产品。
背景技术
目前数据库的规模和架构日益复杂和庞大,使得需要进行监控的指标数量剧增,因此需要实时监控数据库的运行状态和发现运行故障,以维持系统的稳定运行。
相关技术中对于指标的监控通常是手工设置静态指标阈值,判断指标数据是否超出设置好的阈值,如果超出,则发出告警。然而很多指标往往呈现出以小时、天、周为周期的“季节性”特征。这些指标本身就起伏不定,导致以静态阈值判别数据库的服务状态的方式会产生大量的误告警。
发明内容
鉴于上述问题,本公开提供了一种数据处理方法、数据处理装置、设备、介质和程序产品。
根据本公开的第一个方面,提供了一种数据处理方法,包括:
获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,上述第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,上述访问成功数据表征上述访问设备成功接收由数据库响应于上述访问设备的访问请求完成向上述访问设备发送的访问数据;
针对每个上述访问设备,根据与上述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与上述第二时间段对应的第二服务可用率,其中,上述第一时间段包括时序上的多个上述第一子时间段;
利用预设分类算法处理多个上述第一服务可用率和多个第二服务可用率,分别得到与上述第一时间段对应的第一距离均值和与上述第二时间段对应的第二距离均值;
根据上述第一距离均值和上述第二距离均值确定上述数据库的服务状态。
根据本公开的实施例,上述利用预设分类算法处理多个上述第一服务可用率和多个第二服务可用率,分别得到与上述第一时间段对应的第一距离均值和与上述第二时间段对应的第二距离均值,包括:
针对上述第一时间段,利用上述预设分类算法处理多个上述第一服务可用率,得到上述第一距离均值;
针对上述第二时间段,利用上述预设分类算法处理多个上述第一服务可用率和多个上述第二服务可用率,得到上述第二距离均值。
根据本公开的实施例,上述利用上述预设分类算法处理多个上述第一服务可用率,得到上述第一距离均值,包括:
针对每个上述第一子时间段,对与上述第一子时间段对应的多个上述第一服务可用率进行聚合处理,得到与上述第一子时间段对应的第一聚合区域;
针对每个第一子时间段的第一聚合区域,基于预设距离计算公式根据与第一子时间段下每个上述访问设备对应的上述多个第一服务可用率生成与上述第一子时间段对应的第一初始距离值;
基于预设挑选规则从多个上述第一初始距离值中挑选出预设数量的第一目标距离值;
对上述预设数量的第一目标距离值进行算术平均处理,得到上述第一距离均值。
根据本公开的实施例,上述基于预设挑选规则从多个上述初始距离值中挑选出预设数量的目标距离值,包括:
对多个上述初始距离值进行升序排列处理,得到排序后的多个过渡距离值;
基于距离最大原则,从多个上述过渡距离值中挑选出预设数量的目标距离值。
根据本公开的实施例,上述利用上述预设分类算法处理多个上述第一服务可用率和多个上述第二服务可用率,得到上述第二距离均值,包括:
根据所述第一时间段和上述第二时间段,生成第三时间段;
针对上述第三时间段中的每个第三子时间段,对与上述第三子时间段对应的多个上述第一服务可用率进行聚合处理,得到与上述第三子时间段对应的第二聚合区域;
针对每个第三子时间段的第二聚合区域,基于预设距离计算公式根据与上述时间间隔下每个上述访问设备对应的上述多个第一服务可用率和生成与上述第三子时间段对应的第二初始距离值;
基于预设挑选规则从多个上述第二初始距离值中挑选出预设数量的第二目标距离值;
对上述预设数量的第二目标距离值进行算术平均处理,得到上述第二距离均值。
根据本公开的实施例,根据与上述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与上述第二时间段对应的第二服务可用率,包括:
针对上述第一子时间段,根据上述第一时间段内访问结果数据的数据总量和上述访问成功数据的数据量,生成上述访问设备在上述第一子时间段下的第一服务可用率;
针对上述第二时间段,根据上述第二时间段内访问结果数据的数据总量和上述访问成功数据的数据量,生成上述访问设备在上述第二时间段下的上述第二服务可用率。
根据本公开的实施例,上述根据上述第一距离均值和上述第二距离均值确定上述数据库的服务状态,包括:
在上述第二距离均值小于或等于上述第一距离均值的情况下,确定上述数据库的服务状态处于正常服务,且上述第二访问结果数据为访问成功数据。
根据本公开的实施例,上述根据上述第一距离均值和上述第二距离均值确定上述数据库的服务状态,还包括:
在上述第二距离均值大于上述第一距离均值的情况下,确定上述数据库的服务状态处于异常服务,且上述第二访问结果数据为访问失败数据。
根据本公开的实施例,数据处理方法还包括:
将上述第二时间段的第二访问结果数据确定为上述第一时间段内的第一访问结果数据,以根据第四时间段的访问数据确定上述数据库的服务状态。
本公开的第二方面提供了一种数据处理装置,包括:
获取模块,用于获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,上述第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,上述访问成功数据表征上述访问设备成功接收由数据库响应于上述访问设备的访问请求完成向上述访问设备发送的访问数据;
第一确定模块,用于针对每个上述访问设备,根据与上述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与上述第二时间段对应的第二服务可用率,其中,上述第一时间段包括时序上的多个上述第一子时间段;
得到模块,用于利用预设分类算法处理多个上述第一服务可用率和多个第二服务可用率,分别得到与上述第一时间段对应的第一距离均值和与上述第二时间段对应的第二距离均值;
第二确定模块,用于根据上述第一距离均值和上述第二距离均值确定上述数据库的服务状态。
本公开的第三方面提供了一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得一个或多个处理器执行上述方法。
本公开的第四方面还提供了一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行上述方法。
本公开的第五方面还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现上述方法。
根据本公开提供的数据处理方法、数据处理装置、电子设备、存储介质和程序产品,通过对历史的第一时间段内的第一访问结果数据生成每个访问设备在历史时段的第一服务可用率,利用预设分类算法根据多个确定历史时段的第一距离均值,利用第二时间段的第二访问结果数据生成的第二距离均值与第一距离均值进行判断即可确定数据库的服务状态。本公开通过历史时段的访问结果数据实时动态地调整用于判断数据库是否可用的第一距离均值,利用该动态调整的第一距离均值作为告警阈值,从而无需人工设定静态阈值,有效减少了被误认为数据库服务异常的次数。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述内容以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的数据处理方法的应用场景图;
图2示意性示出了根据本公开实施例的数据处理方法的流程图;
图3示意性示出了根据本公开实施例的第一距离均值的计算流程图;
图4示意性示出了根据本公开实施例的第二距离均值的计算流程图;
图5示意性示出了根据本公开实施例的数据处理装置的结构框图;以及
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。
在本公开的技术方案中,所涉及的数据(如包括但不限于用户个人信息)的收集、存储、使用、加工、传输、提供、公开和应用等处理,均符合相关法律法规的规定,采取了必要保密措施,且不违背公序良俗。
本公开的实施例提供了一种数据处理方法、数据处理装置、电子设备及存储介质,该方法包括:获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,访问成功数据表征访问设备成功接收由数据库响应于访问设备的访问请求完成向访问设备发送的访问数据;针对每个访问设备,根据与访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与第二时间段对应的第二服务可用率,其中,第一时间段包括时序上的多个第一子时间段;利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值;根据第一距离均值和第二距离均值确定数据库的服务状态。
图1示意性示出了根据本公开实施例的数据处理方法的应用场景图。
如图1所示,根据该实施例的应用场景100可以包括银行等提供互联网服务的机构。网络104用以在第一终端设备101、第二终端设备102、第三终端设备103等访问设备和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用第一终端设备101、第二终端设备102、第三终端设备103中的至少一个通过网络104与服务器105交互,以接收或发送消息等。第一终端设备101、第二终端设备102、第三终端设备103上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
第一终端设备101、第二终端设备102、第三终端设备103可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器,例如对用户利用第一终端设备101、第二终端设备102、第三终端设备103所浏览的网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的用户请求等数据进行分析等处理,并将处理结果(例如根据用户请求获取或生成的网页、信息、或数据等)反馈给终端设备。
需要说明的是,本公开实施例所提供的数据处理方法一般可以由服务器105执行。相应地,本公开实施例所提供的数据处理装置一般可以设置于服务器105中。本公开实施例所提供的数据处理方法也可以由不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群执行。相应地,本公开实施例所提供的数据处理装置也可以设置于不同于服务器105且能够与第一终端设备101、第二终端设备102、第三终端设备103和/或服务器105通信的服务器或服务器集群中。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
图2示意性示出了根据本公开实施例的数据处理方法的流程图。
如图2所示,该实施例的数据处理方法包括操作S210~操作S240。
在操作S210,获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,访问成功数据表征访问设备成功接收由数据库响应于访问设备的访问请求完成向访问设备发送的访问数据;
在操作S220,针对每个访问设备,根据与访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与第二时间段对应的第二服务可用率,其中,第一时间段包括时序上的多个第一子时间段;
在操作S230,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值;
在操作S240,根据第一距离均值和第二距离均值确定数据库的服务状态。
根据本公开的实施例,多个访问设备可以位于不同地域,例如,5个访问设备位于城市A,3个访问设备位于城市B等等。第一时间段可以指历史时间内的一个时间周期,例如当天之前的一个月内,一个月内的每天可以为一个第一子时间段。第二时间段可以指当天。访问设备在访问数据库中的数据时,数据库的服务器节点或者接口等响应于访问设备的访问请求向访问设备发送对应的访问数据,若访问设备成功接收该访问数据,则定义此次为访问成功数据,否则为访问失败数据。
根据本公开的实施例,对于第一时间段内的第一访问数据,针对每个设备在每个第一子时间段内的多个访问成功数据和多个访问失败数据,确定该访问设备在该第一子时间段内的第一服务可用率,同理,根据每个设备在每个第二时间段内的多个访问成功数据和多个访问失败数据,确定该访问设备在该第二时间段内的第二服务可用率。
根据本公开的实施例,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值,最后判断第二距离均值与第一距离均值之间的大小关系,即可确定该数据库的服务状态是否处于异常。
根据本公开的实施例,通过对历史的第一时间段内的第一访问结果数据生成每个访问设备在历史时段的第一服务可用率,利用预设分类算法根据多个确定历史时段的第一距离均值,利用第二时间段的第二访问结果数据生成的第二距离均值与第一距离均值进行判断即可确定数据库的服务状态。本公开通过历史时段的访问结果数据实时动态地调整用于判断数据库是否可用的第一距离均值,利用该动态调整的第一距离均值作为告警阈值,从而无需人工设定静态阈值,有效减少了被误认为数据库服务异常的次数。
根据本公开的实施例,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值,包括:
针对第一时间段,利用预设分类算法处理多个第一服务可用率,得到第一距离均值;
针对第二时间段,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,得到第二距离均值。
根据本公开的实施例,预设分类算法可以是对k-最近邻算法等分类算法进行合理地修改所得到的。
根据本公开的实施例,首先利用预设分类算法处理多个第一服务可用率,得到与第一时间段对应的第一距离均值,其后利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,得到与第二时间段对应的第二距离均值。在得到第一距离均值和第二距离均值之后,即可判断第二距离均值与第一距离均值之间的大小关系,从而判断该数据库的服务状态是否处于异常。
图3示意性示出了根据本公开实施例的第一距离均值的计算流程图。
如图3所示,利用预设分类算法处理多个第一服务可用率,得到第一距离均值,包括操作S310~操作S340:
在操作S310,针对每个第一子时间段,对与第一子时间段对应的多个第一服务可用率进行聚合处理,得到与第一子时间段对应的第一聚合区域;
在操作S320,针对每个第一子时间段的第一聚合区域,基于预设距离计算公式根据与第一子时间段下每个访问设备对应的多个第一服务可用率生成与第一子时间段对应的第一初始距离值;
在操作S330,基于预设挑选规则从多个第一初始距离值中挑选出预设数量的第一目标距离值;
在操作S340,对预设数量的第一目标距离值进行算术平均处理,得到第一距离均值。
根据本公开的实施例,不同访问设备在第一时间段内的第一服务可用率如表1所示。
表1
其中,Xnm等于设备N在第M天内访问成功数据的数量与访问失败数据的数量之间的比值。
根据本公开的实施例,针对每个第一子时间段(即表1中的每一天),对与第一子时间段对应的多个第一服务可用率进行聚合处理,得到与第一子时间段对应的第一聚合区域。对于每个第一聚合区域,基于公式(1)所示的预设距离计算公式根据与第一子时间段下每个访问设备对应的多个第一服务可用率生成与第一子时间段对应的第一初始距离值。
其中,m大于等于2。
根据本公开的实施例,在得到对应于不同第一子时间段的第一初始距离值之后,基于预设挑选规则从多个第一初始距离值中挑选出预设数量的第一目标距离值,其中,预设数量k可以根据实际需求具体设定,例如首先设定k=5,此时可以基于k=5计算第一目标距离值,假设此时第一目标距离值为是0.5,然后在设定k=6时假设第一目标距离值为0.6,再次设定k=7时假设第一目标距离值为0.55,则可以设定k的数值可以为6。
根据本公开的实施例,对预设数量的第一目标距离值进行算术平均处理,得到第一距离均值dx,如公式(2)所示:
根据本公开的实施例,通过从多个基于聚合得到的第一初始距离值中挑选出预设数量的第一目标距离值,基于多个第一目标距离值确定的第一距离均值可以作为告警阈值进行判断数据库的服务状态。由于第一距离均值是通过聚合再挑选具有代表性的第一初始距离值所生成的,因此能够避免波动较大的数据对最终的第一距离均值造成较大的影响,从而准确判别数据库的服务状态。
根据本公开的实施例,基于预设挑选规则从多个初始距离值中挑选出预设数量的目标距离值,包括:
对多个第一初始距离值进行升序排列处理,得到排序后的多个过渡距离值;
基于距离最大原则,从多个过渡距离值中挑选出预设数量的目标距离值。
根据本公开的实施例,在得到多个第一初始距离值之后,可以对其进行从大到小或者从小到大进行排序,基于排序结果从排序后的多个过渡距离值中挑选出数值较大的k个过渡距离值作为目标距离值。
图4示意性示出了根据本公开实施例的第二距离均值的计算流程图。
如图4所示,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,得到第二距离均值,包括操作S410~操作S450:
在操作S410,根据第一时间段和第二时间段,生成第三时间段;
在操作S420,针对第三时间段中的每个第三子时间段,对与第三子时间段对应的多个第一服务可用率进行聚合处理,得到与第三子时间段对应的第二聚合区域;
在操作S430,针对每个第三子时间段的第二聚合区域,基于预设距离计算公式根据与时间间隔下每个访问设备对应的多个第一服务可用率和生成与第三子时间段对应的第二初始距离值;
在操作S440,基于预设挑选规则从多个第二初始距离值中挑选出预设数量的第二目标距离值;
在操作S450,对预设数量的第二目标距离值进行算术平均处理,得到第二距离均值。
根据本公开的实施例,在计算第二距离均值时,首先将第一时间段和第二时间段合并并记为第三时间段,对于第三时间段内的第二距离均值,可以按照第一距离均值的计算方式进行计算,在此不进行赘述。在确定第一距离均值和第二距离均值之后,通过比较第一距离均值和第二距离均值的大小,从而判断当前第二时间段内的数据库的服务状态是否异常。
根据本公开的实施例,根据与访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与第二时间段对应的第二服务可用率,包括:
针对第一子时间段,根据第一时间段内访问结果数据的数据总量和访问成功数据的数据量,生成访问设备在第一子时间段下的第一服务可用率;
针对第二时间段,根据第二时间段内访问结果数据的数据总量和访问成功数据的数据量,生成访问设备在第二时间段下的第二服务可用率。
根据本公开的实施例,对于第一子时间段或第二时间段内的访问结果数据,假设某个访问设备的总的访问结果数据的数量为M,其中,访问成功数据的数量为T,则该访问设备的第一服务可用率或第二服务可用率Xnm=T/M。
根据本公开的实施例,根据第一距离均值和第二距离均值确定数据库的服务状态,包括:
在第二距离均值小于或等于第一距离均值的情况下,确定数据库的服务状态处于正常服务,且第二访问结果数据为访问成功数据。
在第二距离均值大于第一距离均值的情况下,确定数据库的服务状态处于异常服务,且第二访问结果数据为访问失败数据。
根据本公开的实施例,若第二距离均值小于或等于第一距离均值,则说明第二时间段的多个第二访问结果数据的波动比上一时刻的数据的平均波动量小,符合预期,则判定当前服务是可用的;否则,判定当前服务是不可用的,并将当前数据标记为异常的访问失败数据。
根据本公开的实施例,在确定数据库的服务状态处于异常服务的情况下,可以通过显示装置、语音装置等向运维人员发送告警信息。
根据本公开的实施例,数据处理方法还包括:
将第二时间段的第二访问结果数据确定为第一时间段内的第一访问结果数据,以根据第四时间段的访问数据确定数据库的服务状态。
根据本公开的实施例,将第二时间段的第二访问结果数据(优选地可以剔除访问失败数据)确定为第一时间段内的第一访问结果数据,从而得到最新的第一距离均值,完善学习数据及能力,经过不断的训练学习,将动态更新表征告警阈值的第一距离均值。从而根据第二时间段的下一时间段(即第四时间段)访问数据确定这个时间段内数据库的服务状态是否异常。
根据本公开的实施例,通过迭代地将当前时间段内的访问结果数据列为历史时间段的数据,以包含最新的访问结果数据生成用于判断下一时间段数据库的服务状态是否异常的第一距离均值,从而实现动态调整第一距离均值,从而实现了降低数据库服务状态的误报警次数,提高了数据库服务状态的准确识别。
图5示意性示出了根据本公开实施例的数据处理装置的结构框图。
如图5所示,该实施例的数据处理装置500包括获取模块510、第一确定模块520、得到模块530、第二确定模块540。
获取模块510,用于获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,访问成功数据表征访问设备成功接收由数据库响应于访问设备的访问请求完成向访问设备发送的访问数据;
第一确定模块520,用于针对每个访问设备,根据与访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与第二时间段对应的第二服务可用率,其中,第一时间段包括时序上的多个第一子时间段;
得到模块530,用于利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,分别得到与第一时间段对应的第一距离均值和与第二时间段对应的第二距离均值;
第二确定模块540,用于根据第一距离均值和第二距离均值确定数据库的服务状态。
根据本公开的实施例,通过对历史的第一时间段内的第一访问结果数据生成每个访问设备在历史时段的第一服务可用率,利用预设分类算法根据多个确定历史时段的第一距离均值,利用第二时间段的第二访问结果数据生成的第二距离均值与第一距离均值进行判断即可确定数据库的服务状态。本公开通过历史时段的访问结果数据实时动态地调整用于判断数据库是否可用的第一距离均值,利用该动态调整的第一距离均值作为告警阈值,从而无需人工设定静态阈值,有效减少了被误认为数据库服务异常的次数。
根据本公开的实施例,得到模块530包括第一得到子模块、第二得到子模块。
第一得到子模块,用于针对第一时间段,利用预设分类算法处理多个第一服务可用率,得到第一距离均值;
第二得到子模块,用于针对第二时间段,利用预设分类算法处理多个第一服务可用率和多个第二服务可用率,得到第二距离均值。
根据本公开的实施例,第一得到子模块包括第一聚合单元、第一生成单元、第一挑选单元、第一得到单元。
第一聚合单元,用于针对每个第一子时间段,对与第一子时间段对应的多个第一服务可用率进行聚合处理,得到与第一子时间段对应的第一聚合区域;
第一生成单元,用于针对每个第一子时间段的第一聚合区域,基于预设距离计算公式根据与第一子时间段下每个访问设备对应的多个第一服务可用率生成与第一子时间段对应的第一初始距离值;
第一挑选单元,用于基于预设挑选规则从多个第一初始距离值中挑选出预设数量的第一目标距离值;
第一得到单元,用于对预设数量的第一目标距离值进行算术平均处理,得到第一距离均值。
根据本公开的实施例,第一挑选单元包括排序子单元、挑选子单元。
排序子单元,用于对多个初始距离值进行升序排列处理,得到排序后的多个过渡距离值;
挑选子单元,用于基于距离最大原则,从多个过渡距离值中挑选出预设数量的目标距离值。
根据本公开的实施例,第二得到子模块包括第二生成单元、第二聚合单元、第三生成单元、第二挑选单元、第二得到单元。
第二生成单元,用于根据第一时间段和第二时间段,生成第三时间段;
第二聚合单元,用于针对第三时间段中的每个第三子时间段,对与第三子时间段对应的多个第一服务可用率进行聚合处理,得到与第三子时间段对应的第二聚合区域;
第三生成单元,用于针对每个第三子时间段的第二聚合区域,基于预设距离计算公式根据与时间间隔下每个访问设备对应的多个第一服务可用率和生成与第三子时间段对应的第二初始距离值;
第二挑选单元,用于基于预设挑选规则从多个第二初始距离值中挑选出预设数量的第二目标距离值;
第二得到单元,用于对预设数量的第二目标距离值进行算术平均处理,得到第二距离均值。
根据本公开的实施例,第一确定模块520包括第一生成子模块、第二生成子模块。
第一生成子模块,用于针对第一子时间段,根据第一时间段内访问结果数据的数据总量和访问成功数据的数据量,生成访问设备在第一子时间段下的第一服务可用率;
第二生成子模块,用于针对第二时间段,根据第二时间段内访问结果数据的数据总量和访问成功数据的数据量,生成访问设备在第二时间段下的第二服务可用率。
根据本公开的实施例,第二确定模块540包括第一确定子模块、第二确定子模块。
第一确定子模块,用于在第二距离均值小于或等于第一距离均值的情况下,确定数据库的服务状态处于正常服务,且第二访问结果数据为访问成功数据。
第二确定子模块,用于在第二距离均值大于第一距离均值的情况下,确定数据库的服务状态处于异常服务,且第二访问结果数据为访问失败数据。
根据本公开的实施例,数据处理装置500还包括第三确定模块。
第三确定模块,用于将第二时间段的第二访问结果数据确定为第一时间段内的第一访问结果数据,以根据第四时间段的访问数据确定数据库的服务状态。
根据本公开的实施例,获取模块510、第一确定模块520、得到模块530、第二确定模块540中的任意多个模块可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取模块510、第一确定模块520、得到模块530、第二确定模块540中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取模块510、第一确定模块520、得到模块530、第二确定模块540中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图6示意性示出了根据本公开实施例的适于实现数据处理方法的电子设备的方框图。
如图6所示,根据本公开实施例的电子设备600包括处理器601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。处理器601例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC))等等。处理器601还可以包括用于缓存用途的板载存储器。处理器601可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 603中,存储有电子设备600操作所需的各种程序和数据。处理器601、ROM602以及RAM 603通过总线604彼此相连。处理器601通过执行ROM 602和/或RAM 603中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 602和RAM 603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,电子设备600还可以包括输入/输出(I/O)接口605,输入/输出(I/O)接口605也连接至总线604。电子设备600还可以包括连接至输入/输出(I/O)接口605的以下部件中的一项或多项:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至输入/输出(I/O)接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
本公开还提供了一种计算机可读存储介质,该计算机可读存储介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读存储介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读存储介质可以是非易失性的计算机可读存储介质,例如可以包括但不限于:便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如,根据本公开的实施例,计算机可读存储介质可以包括上文描述的ROM 602和/或RAM 603和/或ROM 602和RAM 603以外的一个或多个存储器。
本公开的实施例还包括一种计算机程序产品,其包括计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时,该程序代码用于使计算机系统实现本公开实施例所提供的物品推荐方法。
在该计算机程序被处理器601执行时执行本公开实施例的系统/装置中限定的上述功能。根据本公开的实施例,上文描述的系统、装置、模块、单元等可以通过计算机程序模块来实现。
在一种实施例中,该计算机程序可以依托于光存储器件、磁存储器件等有形存储介质。在另一种实施例中,该计算机程序也可以在网络介质上以信号的形式进行传输、分发,并通过通信部分609被下载和安装,和/或从可拆卸介质611被安装。该计算机程序包含的程序代码可以用任何适当的网络介质传输,包括但不限于:无线、有线等等,或者上述的任意合适的组合。
在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被处理器601执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
根据本公开的实施例,可以以一种或多种程序设计语言的任意组合来编写用于执行本公开实施例提供的计算机程序的程序代码,具体地,可以利用高级过程和/或面向对象的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如Java,C++,python,“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中,远程计算设备可以通过任意种类的网络,包括局域网(LAN)或广域网(WAN),连接到用户计算设备,或者,可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。

Claims (13)

1.一种数据处理方法,包括:
获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,所述第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,所述访问成功数据表征所述访问设备成功接收由数据库响应于所述访问设备的访问请求完成向所述访问设备发送的访问数据;
针对每个所述访问设备,根据与所述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与所述第二时间段对应的第二服务可用率,其中,所述第一时间段包括时序上的多个所述第一子时间段;
利用预设分类算法处理多个所述第一服务可用率和多个第二服务可用率,分别得到与所述第一时间段对应的第一距离均值和与所述第二时间段对应的第二距离均值;
根据所述第一距离均值和所述第二距离均值确定所述数据库的服务状态。
2.根据权利要求1所述的方法,其中,所述利用预设分类算法处理多个所述第一服务可用率和多个第二服务可用率,分别得到与所述第一时间段对应的第一距离均值和与所述第二时间段对应的第二距离均值,包括:
针对所述第一时间段,利用所述预设分类算法处理多个所述第一服务可用率,得到所述第一距离均值;
针对所述第二时间段,利用所述预设分类算法处理多个所述第一服务可用率和多个所述第二服务可用率,得到所述第二距离均值。
3.根据权利要求2所述的方法,其中,所述利用所述预设分类算法处理多个所述第一服务可用率,得到所述第一距离均值,包括:
针对每个所述第一子时间段,对与所述第一子时间段对应的多个所述第一服务可用率进行聚合处理,得到与所述第一子时间段对应的第一聚合区域;
针对每个第一子时间段的第一聚合区域,基于预设距离计算公式根据与第一子时间段下每个所述访问设备对应的所述多个第一服务可用率生成与所述第一子时间段对应的第一初始距离值;
基于预设挑选规则从多个所述第一初始距离值中挑选出预设数量的第一目标距离值;
对所述预设数量的第一目标距离值进行算术平均处理,得到所述第一距离均值。
4.根据权利要求3所述的方法,其中,所述基于预设挑选规则从多个所述初始距离值中挑选出预设数量的目标距离值,包括:
对多个所述第一初始距离值进行升序排列处理,得到排序后的多个过渡距离值;
基于距离最大原则,从多个所述过渡距离值中挑选出预设数量的目标距离值。
5.根据权利要求2所述的方法,其中,所述利用所述预设分类算法处理多个所述第一服务可用率和多个所述第二服务可用率,得到所述第二距离均值,包括:
根据所述第一时间段和所述第二时间段,生成第三时间段;
针对所述第三时间段中的每个第三子时间段,对与所述第三子时间段对应的多个所述第一服务可用率进行聚合处理,得到与所述第三子时间段对应的第二聚合区域;
针对每个第三子时间段的第二聚合区域,基于预设距离计算公式根据与所述时间间隔下每个所述访问设备对应的所述多个第一服务可用率和生成与所述第三子时间段对应的第二初始距离值;
基于预设挑选规则从多个所述第二初始距离值中挑选出预设数量的第二目标距离值;
对所述预设数量的第二目标距离值进行算术平均处理,得到所述第二距离均值。
6.根据权利要求1所述的方法,其中,根据与所述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与所述第二时间段对应的第二服务可用率,包括:
针对所述第一子时间段,根据所述第一时间段内访问结果数据的数据总量和所述访问成功数据的数据量,生成所述访问设备在所述第一子时间段下的第一服务可用率;
针对所述第二时间段,根据所述第二时间段内访问结果数据的数据总量和所述访问成功数据的数据量,生成所述访问设备在所述第二时间段下的所述第二服务可用率。
7.根据权利要求1所述的方法,其中,所述根据所述第一距离均值和所述第二距离均值确定所述数据库的服务状态,包括:
在所述第二距离均值小于或等于所述第一距离均值的情况下,确定所述数据库的服务状态处于正常服务,且所述第二访问结果数据为访问成功数据。
8.根据权利要求7所述的方法,其中,所述根据所述第一距离均值和所述第二距离均值确定所述数据库的服务状态,还包括:
在所述第二距离均值大于所述第一距离均值的情况下,确定所述数据库的服务状态处于异常服务,且所述第二访问结果数据为访问失败数据。
9.根据权利要求1所述的方法,还包括:
将所述第二时间段的第二访问结果数据确定为所述第一时间段内的第一访问结果数据,以根据第四时间段的访问数据确定所述数据库的服务状态。
10.一种数据处理装置,包括:
获取模块,用于获取n个访问设备在第一时间段内的多个第一访问结果数据和第二时间段的多个第二访问结果数据,其中,所述第一访问结果数据和第二访问结果数据均包括访问成功数据和访问失败数据,所述访问成功数据表征所述访问设备成功接收由数据库响应于所述访问设备的访问请求完成向所述访问设备发送的访问数据;
第一确定模块,用于针对每个所述访问设备,根据与所述访问设备对应的第一访问结果数据和第二访问结果数据确定与每个第一子时间段对应的第一服务可用率以及与所述第二时间段对应的第二服务可用率,其中,所述第一时间段包括时序上的多个所述第一子时间段;
得到模块,用于利用预设分类算法处理多个所述第一服务可用率和多个第二服务可用率,分别得到与所述第一时间段对应的第一距离均值和与所述第二时间段对应的第二距离均值;
第二确定模块,用于根据所述第一距离均值和所述第二距离均值确定所述数据库的服务状态。
11.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求1~9中任一项所述的方法。
12.一种计算机可读存储介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行根据权利要求1~9中任一项所述的方法。
13.一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现根据权利要求1~9中任一项所述的方法。
CN202311109803.6A 2023-08-30 2023-08-30 数据处理方法、数据处理装置、电子设备及存储介质 Pending CN117130887A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202311109803.6A CN117130887A (zh) 2023-08-30 2023-08-30 数据处理方法、数据处理装置、电子设备及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202311109803.6A CN117130887A (zh) 2023-08-30 2023-08-30 数据处理方法、数据处理装置、电子设备及存储介质

Publications (1)

Publication Number Publication Date
CN117130887A true CN117130887A (zh) 2023-11-28

Family

ID=88856098

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202311109803.6A Pending CN117130887A (zh) 2023-08-30 2023-08-30 数据处理方法、数据处理装置、电子设备及存储介质

Country Status (1)

Country Link
CN (1) CN117130887A (zh)

Similar Documents

Publication Publication Date Title
CN109471783B (zh) 预测任务运行参数的方法和装置
CN110298615B (zh) 用于选择仓库中的货品的方法、装置、介质和计算设备
CN115174353B (zh) 故障根因确定方法、装置、设备及介质
CN114500318B (zh) 一种批量作业监控方法及装置、设备及介质
CN110245684B (zh) 数据处理方法、电子设备和介质
CN114218283A (zh) 异常检测方法、装置、设备、介质
CN117608974A (zh) 基于人工智能的服务器故障检测方法、装置、设备及介质
CN114710397B (zh) 服务链路的故障根因定位方法、装置、电子设备及介质
CN116155628B (zh) 网络安全检测方法、训练方法、装置、电子设备和介质
CN116304910A (zh) 运维数据的异常检测方法、装置、设备及存储介质
CN116701123A (zh) 任务预警方法、装置、设备、介质及程序产品
CN117130887A (zh) 数据处理方法、数据处理装置、电子设备及存储介质
CN115827122A (zh) 操作引导方法、装置、电子设备及存储介质
CN115187364A (zh) 银行分布式场景下保证金风险监控的方法及装置
CN114676020A (zh) 缓存系统的性能监控方法、装置、电子设备及存储介质
CN113986671A (zh) 运维数据异常检测方法、装置、设备及介质
CN113052509A (zh) 模型评估方法、模型评估装置、电子设备和存储介质
CN114844810B (zh) 心跳数据处理方法、装置、设备及介质
CN115312208B (zh) 接诊数据展示方法、装置、设备、介质
CN116010952A (zh) 动态基线确定方法、交易数据检测方法、装置和电子设备
CN109240878B (zh) 数据处理方法和装置
CN115499292B (zh) 一种告警方法、装置、设备及存储介质
CN116450465B (zh) 数据处理方法、装置、设备及介质
CN117372043A (zh) 数据异常确定方法、装置、设备及介质
CN114240381A (zh) 应急管理方法、装置、设备、介质和程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination