CN114710562A - 基于大数据的设备应用日志关联分析系统及方法 - Google Patents

基于大数据的设备应用日志关联分析系统及方法 Download PDF

Info

Publication number
CN114710562A
CN114710562A CN202210335445.XA CN202210335445A CN114710562A CN 114710562 A CN114710562 A CN 114710562A CN 202210335445 A CN202210335445 A CN 202210335445A CN 114710562 A CN114710562 A CN 114710562A
Authority
CN
China
Prior art keywords
calling
service request
equipment
gateway
response
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202210335445.XA
Other languages
English (en)
Other versions
CN114710562B (zh
Inventor
刘智勇
段海宁
钟海维
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhuhai Hongrui Information Technology Co Ltd
Original Assignee
Zhuhai Hongrui Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhuhai Hongrui Information Technology Co Ltd filed Critical Zhuhai Hongrui Information Technology Co Ltd
Priority to CN202210335445.XA priority Critical patent/CN114710562B/zh
Publication of CN114710562A publication Critical patent/CN114710562A/zh
Application granted granted Critical
Publication of CN114710562B publication Critical patent/CN114710562B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/48Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806Task transfer initiation or dispatching
    • G06F9/4843Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L41/00Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
    • H04L41/06Management of faults, events, alarms or notifications
    • H04L41/069Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications

Landscapes

  • Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Telephonic Communication Services (AREA)

Abstract

本发明公开了基于大数据的设备应用日志关联分析系统及方法,包括步骤S100:提取不同设备的历史应用日志,对每一调用记录进行调用条的提取;分别对调用条集合进行划分处理得到若干子调用条集合;步骤S200:对若干子调用条集合内进行调用条信息的整合和标识处理;步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。

Description

基于大数据的设备应用日志关联分析系统及方法
技术领域
本发明涉及物联网大数据技术领域,具体为基于大数据的设备应用日志关联分析系统及方法。
背景技术
在物联网中,海量不同的终端节点设备之间想要实现彼此间的互通,需要利用物联网网关实现协议转换,将目标设备产生的信息传送至远端需要这些数据信息的设备,使得信息数据在不同的网络实体之间传输。
目标设备在实际运行过程中需要执行不同的业务,并且与不同业务请求的相对应的是不同的响应设备;因传输的协议不同需要的网关设备也是不同的;同时目标设备在实际运行过程中需要执行业务在流程上是具有先后关系的,但是也有一些业务是不具有先后关系的,这也意味着当不具有先后关系的业务同时开展的时候,在网关设备的调用上,响应设备上的调用上是会出现重合的情况;且当同时开展的业务数量大的时候,就容易造成网关负载和响应设备负载大的情况,而在这种情况下,这些网关和响应设备就需要额外关注他们运行情况以防出现因负载过大受到实际运行时其他因素的加成影响导致运行故障。
发明内容
本发明的目的在于提供基于大数据的设备应用日志关联分析系统及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:基于大数据的设备应用日志关联分析方法,分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。
进一步的,步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同;
上述步骤通过对调用记录进行调用条的提取方法是为了清晰的体现每一次调用记录涉及的业务请求的执行情况;对执行相同业务请求的调用条进行整合,可以看出对应相同的业务请求有多少种网关设备和响应设备的搭配情况,这也能查看出对于一种业务请求是否存在多个网关设备可以执行以及是否有多个响应设备可以执行响应。
进一步的,步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为
Figure BDA0003574227720000021
其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若响应协调集
Figure BDA0003574227720000022
内包含的响应设备种类数为1,将
Figure BDA0003574227720000023
标记属于pi的唯一标识;其中,
Figure BDA0003574227720000031
表示与Gk对应的响应设备;若响应协调集
Figure BDA0003574227720000032
内包含的响应设备种类数大于等于2,将
Figure BDA0003574227720000033
内出现的所有响应设备进行汇集得到响应设备集
Figure BDA0003574227720000034
其中
Figure BDA0003574227720000035
分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将
Figure BDA0003574227720000036
标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况;
上述进行唯一标识的处理和协同标识的处理是为了对不同调用条的执行情况进行区别;具有唯一标识的调用条,代表这种调用条对应执行一种业务请求且在选用具有唯一标识的网关设备时对应只有唯一的响应设备,在业务请求量多的时候,不存在其他响应设备进行替换以保证业务的正常执行;具有协同标识的调用条,代表这种调用条对应执行一种业务请求且在选用具有协同标识的网关设备时存在多个响应设备,在业务请求量多的时候,存在多个响应设备可以进行替换以保证业务的正常执行;上述基于各业务请求的网关设备分配以及响应设备分配进行标识处理是为了后续当监测到业务请求量多时重点监测网关和响应设备的锁定;有利于对业务请求的执行情况实现精确的把控。
进一步的,步骤S300包括:
步骤S301:在不同设备的应用日志中获取不同业务请求的发起时间,以及响应业务请求的设备响应时间;记业务请求a的发起时间发生在业务请求b得到设备响应之后的关联记录为一次业务关联事件
Figure BDA0003574227720000037
步骤S302:计算业务关联事件
Figure BDA0003574227720000038
的重复率
Figure BDA0003574227720000039
其中,
Figure BDA00035742277200000310
表示业务关联事件
Figure BDA00035742277200000311
发生的总次数;M1表示业务请求a的总发起次数,M2表示业务请求b得到响应的总次数;当重复率大于重复率阈值时,判定业务请求a与业务请求b之间存在业务关联;
上述是对同一设备不同业务请求之间在时间前后上的关联性进行识别;将存在执行前后规律的业务请求识别出来,是因为这些业务请求在执行时间上都不是并行执行的,存在错开的时间查,类似于一个业务请求执行完毕是下一个业务请求执行开始的标记;所以这类业务请求若在同一时间线上存在发起执行指令时,对整体的运行造成堵塞和大负载的可能性小,上述步骤是为了后续对整体运行负载情况的分析和计算提供技术铺垫,减少计算负担,实现精准分析。
进一步的,步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率
Figure BDA0003574227720000041
其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
步骤S403:在总体网关匹配集H内分别计算匹配网关hi对应的响应协调匹配集hi=D1∩D2∩…∩Dq2;其中,hi∈H;D1、D2、…、Dq2分别表示目标业务请求集中第一个、第二个、…、第q2个含有匹配网关h的对应响应协调集;计算总体响应协调匹配率:
Figure BDA0003574227720000042
其中,h1、h2、…、hq3分别表示总体网关匹配集H内的第一个、第二个、…、第q3个匹配网关,q3等于总体网关匹配集H内的总匹配网关数;d表示目标业务请求集中所有业务请求的响应设备总种类数集;计算总体请求重合率W=w1×w2
上述总体网关匹配集得到的各匹配网关都是不同业务请求存在交叉的网关,说明这些网关可以分别在执行不同业务请求时都被调用,总体网关匹配率越高代表着当这些业务请求同时发起调用服务时,存在选中相同网关的几率越高,即代表着造成运行网关负载大的可能性也越高;同样,总体响应协调匹配率越高代表着当这些业务请求同时发起调用服务时,存在选中相同响应设备的几率越高,即代表着造成运行响应设备负载大的可能性也越高;总体请求重合率即代表着这些业务请求同时发起调用服务时造成运行高负载高重合度的几率。
进一步的,步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
为更好的实现上述方法还提出了基于大数据的设备应用日志关联分析系统,系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
预警提示模块,用于接收业务请求监测模块中的数据,基于数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
进一步的,调用条信息整合标识模块包括:信息处理单元、标识处理单元;
信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
标识处理单元,用于接收信息处理单元中的数据,完成对所有调用条的标记识别和处理。
进一步的,业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
第一计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
第二计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
第三计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
与现有技术相比,本发明所达到的有益效果是:本发明可解决实际设备在执行不同业务请求的运行过程中,对因运行负载过大导致受实际运行时其他因素的加成影响导致运行出现故障的情况进行监测预警;在分析的过程中兼顾了对有些业务请求的执行在流程上具备先后规律的考量,在大量不具先后规律的业务同时开展的情况下,对执行过程中网关设备的重合调用和响应设备的重合调用情况进行计算分析得到精确的负载预警信息并对其进行重点设备的精准锁定监测,提高监测效率的同时减少劳动力。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明基于大数据的设备应用日志关联分析方法的流程示意图;
图2是本发明基于大数据的设备应用日志关联分析系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1-图2,本发明提供技术方案:基于大数据的设备应用日志关联分析方法,其特征在于,分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
其中,步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同;
例如说,设备A存在任务1的调用条:任务1→网关1→响应1;任务1→网关1→响应2;任务1→网关2→响应2;任务2→网关1→响应1;任务1→网关2→响应2;任务1→网关3→响应2;任务2→网关1→响应2;
则设备1的调用条可以得到业务请求同为任务1的子调用条集合{任务1→网关1→响应1;任务1→网关3→响应2;任务1→网关2→响应2;任务1→网关3→响应2;任务1→网关1→响应2};可以得到业务请求同为任务2的子调用条集合{任务2→网关1→响应1;任务2→网关1→响应2};
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
其中,步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为
Figure BDA0003574227720000071
其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若响应协调集
Figure BDA0003574227720000072
内包含的响应设备种类数为1,将
Figure BDA0003574227720000073
标记属于pi的唯一标识;其中,
Figure BDA0003574227720000074
表示与Gk对应的响应设备;若响应协调集
Figure BDA0003574227720000075
内包含的响应设备种类数大于等于2,将
Figure BDA0003574227720000076
内出现的所有响应设备进行汇集得到响应设备集
Figure BDA0003574227720000077
其中
Figure BDA0003574227720000078
分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将
Figure BDA0003574227720000079
标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况;
例如说,设备1的调用条有业务请求同为任务1的子调用条集合{任务1→网关1→响应1;任务1→网关3→响应2;任务1→网关2→响应2;任务1→网关1→响应2};有业务请求同为任务2的子调用条集合{任务2→网关1→响应1;任务2→网关1→响应2};
得到对应任务1的协同响应协调集{网关1→响应1;网关3→响应2;网关2→响应2;网关1→响应2},得到对应网关1的协同响应设备为响应1和响应2;且对于网关3来说只具有唯一的响应2,对于网关2来说指具有唯一的响应2;
所以对任务1→网关3→响应2,任务1→网关2→响应2都进行唯一标识的标记;对任务1→网关1→响应1,任务1→网关1→响应2都进行协同标识的标记;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
其中,步骤S300包括:
步骤S301:在不同设备的应用日志中获取不同业务请求的发起时间,以及响应业务请求的设备响应时间;记业务请求a的发起时间发生在业务请求b得到设备响应之后的关联记录为一次业务关联事件
Figure BDA0003574227720000081
步骤S302:计算业务关联事件
Figure BDA0003574227720000082
的重复率
Figure BDA0003574227720000083
其中,
Figure BDA0003574227720000084
表示业务关联事件
Figure BDA0003574227720000085
发生的总次数;M1表示业务请求a的总发起次数,M2表示业务请求b得到响应的总次数;当重复率大于重复率阈值时,判定业务请求a与业务请求b之间存在业务关联;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
其中,步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率
Figure BDA0003574227720000091
其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
步骤S403:在总体网关匹配集H内分别计算匹配网关hi对应的响应协调匹配集hi=D1∩D2∩…∩Dq2;其中,hi∈H;D1、D2、…、Dq2分别表示目标业务请求集中第一个、第二个、…、第q2个含有匹配网关h的对应响应协调集;计算总体响应协调匹配率:
Figure BDA0003574227720000092
其中,h1、h2、…、hq3分别表示总体网关匹配集H内的第一个、第二个、…、第q3个匹配网关,q3等于总体网关匹配集H内的总匹配网关数;d表示目标业务请求集中所有业务请求的响应设备总种类数集;计算总体请求重合率W=w1×w2
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警;
例如说,存在业务请求1、业务请求2、业务请求3、业务请求4、业务请求5;业务请求2和业务请求3之间存在业务关联性,所以将业务请求1、业务请求4、业务请求5汇成的集合作为目标业务请求集;
业务请求1对应的网关设备种类集合为{网关1,网关2,网关3,网关4};业务请求4对应的网关设备种类集合为{网关1,网关3,网关5,网关7};业务请求5对应的网关设备种类集合为{网关1,网关3,网关5,网关6};
则网关设备总种类数集为{网关1,网关2,网关3,网关4,网关5,网关6,网关7};
则总体网关匹配集H={网关1,网关2,网关3,网关4}∩{网关1,网关3,网关5,网关7}∩{网关1,网关3,网关5,网关6}={网关1,网关3};
总体网关匹配率
Figure BDA0003574227720000093
例如说,网关1在对应业务请求1时的响应协调匹配集为:
{响应设备1,响应设备2,响应设备3};
网关1在对应业务请求2时的响应协调匹配集为:
{响应设备2,响应设备3,响应设备4};
h1
{响应设备1,响应设备2,响应设备3}∩
{响应设备2,响应设备3,响应设备4}={响应设备2,响应设备3};
则响应设备总种类数集为{响应设备1,响应设备2,响应设备3,响应设备4}
总体响应协调匹配率:
Figure BDA0003574227720000101
其中,步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
为更好的实现上述方法还提出了基于大数据的设备应用日志关联分析系统,系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
预警提示模块,用于接收业务请求监测模块中的数据,基于数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
其中,调用条信息整合标识模块包括:信息处理单元、标识处理单元;
信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
标识处理单元,用于接收信息处理单元中的数据,完成对所有调用条的标记识别和处理。
其中,业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
第一计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
第二计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
第三计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (9)

1.基于大数据的设备应用日志关联分析方法,其特征在于,所述分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的所述调用条集合进行划分处理得到若干子调用条集合;
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成所述总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。
2.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与所述业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同。
3.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为
Figure FDA0003574227710000021
其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若所述响应协调集
Figure FDA0003574227710000022
内包含的响应设备种类数为1,将
Figure FDA0003574227710000023
标记属于pi的唯一标识;其中,
Figure FDA0003574227710000024
表示与Gk对应的响应设备;若所述响应协调集
Figure FDA0003574227710000025
内包含的响应设备种类数大于等于2,将
Figure FDA0003574227710000026
内出现的所有响应设备进行汇集得到响应设备集
Figure FDA0003574227710000027
其中
Figure FDA0003574227710000028
分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将
Figure FDA0003574227710000029
标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况。
4.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S300包括:
步骤S301:在不同设备的应用日志中获取不同业务请求的发起时间,以及响应业务请求的设备响应时间;记业务请求a的发起时间发生在业务请求b得到设备响应之后的记录为一次业务关联事件
Figure FDA00035742277100000210
步骤S302:计算业务关联事件
Figure FDA00035742277100000211
的重复率
Figure FDA00035742277100000212
其中,
Figure FDA00035742277100000213
表示业务关联事件
Figure FDA00035742277100000214
发生的总次数;M1表示业务请求a的总发起次数,M2表示业务请求b得到响应的总次数;当重复率大于重复率阈值时,判定业务请求a与业务请求b之间存在业务关联。
5.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在所述若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将所述目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率
Figure FDA0003574227710000031
其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
步骤S403:在总体网关匹配集H内分别计算匹配网关hi对应的响应协调匹配集hi=D1∩D2∩…∩Dq2;其中,hi∈H;D1、D2、…、Dq2分别表示目标业务请求集中第一个、第二个、…、第q2个含有匹配网关h的对应响应协调集;计算总体响应协调匹配率:
Figure FDA0003574227710000032
其中,h1、h2、…、hq3分别表示总体网关匹配集H内的第一个、第二个、…、第q3个匹配网关,q3等于总体网关匹配集H内的总匹配网关数;d表示目标业务请求集中所有业务请求的响应设备总种类数集;计算总体请求重合率W=w1×w2
6.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对所述唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
7.应用于权利要求书1-6中任一项的基于大数据的设备应用日志关联分析方法的基于大数据的设备应用日志关联分析系统,其特征在于,所述系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
所述调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的所述调用条集合进行划分处理得到若干子调用条集合;
所述调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
所述业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
所述业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
所述预警提示模块,用于接收所述业务请求监测模块中的数据,基于所述数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
8.根据权利要求7所述的基于大数据的设备应用日志关联分析系统,其特征在于,所述调用条信息整合标识模块包括:信息处理单元、标识处理单元;
所述信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
所述标识处理单元,用于接收所述信息处理单元中的数据,完成对所有调用条的标记识别和处理。
9.根据权利要求7所述的基于大数据的设备应用日志关联分析系统,其特征在于,所述所述业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
所述业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
所述第一计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
所述第二计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
所述第三计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
CN202210335445.XA 2022-03-31 2022-03-31 基于大数据的设备应用日志关联分析系统及方法 Active CN114710562B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202210335445.XA CN114710562B (zh) 2022-03-31 2022-03-31 基于大数据的设备应用日志关联分析系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202210335445.XA CN114710562B (zh) 2022-03-31 2022-03-31 基于大数据的设备应用日志关联分析系统及方法

Publications (2)

Publication Number Publication Date
CN114710562A true CN114710562A (zh) 2022-07-05
CN114710562B CN114710562B (zh) 2022-11-08

Family

ID=82171306

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210335445.XA Active CN114710562B (zh) 2022-03-31 2022-03-31 基于大数据的设备应用日志关联分析系统及方法

Country Status (1)

Country Link
CN (1) CN114710562B (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115567412A (zh) * 2022-10-17 2023-01-03 上海识装信息科技有限公司 流量去重方法、装置、电子设备及存储介质
CN115776415A (zh) * 2023-02-13 2023-03-10 珠海市鸿瑞信息技术股份有限公司 一种基于工业协议的网闸设备智能管理系统及方法
CN117041089A (zh) * 2023-08-21 2023-11-10 江苏臻云技术有限公司 一种面向异地数据中心的设备监控系统及方法

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150012641A1 (en) * 2013-07-03 2015-01-08 TrueLite Trace, Inc. Chronically-Problematic Response Alert System for Service Request and Fulfillment Between a Service Requester and a Service Performer
US20160148141A1 (en) * 2014-11-22 2016-05-26 TrueLite Trace, Inc. Revenue and Productivity Optimization System With Environmental Sensor-Connected Smart Bell
CN106533796A (zh) * 2016-12-15 2017-03-22 北京邮电大学 基于分组业务流社团结构的服务质量波动传播控制方法
CN106961358A (zh) * 2017-05-11 2017-07-18 国网山东省电力公司信息通信公司 基于日志的Web应用系统集群运行状态监测方法及其系统
CN108572907A (zh) * 2018-01-25 2018-09-25 北京金山云网络技术有限公司 一种告警方法、装置、电子设备及计算机可读存储介质
CN108847989A (zh) * 2018-06-29 2018-11-20 杭州安恒信息技术股份有限公司 基于微服务架构的日志处理方法、业务服务系统以及电子设备
WO2019089827A1 (en) * 2017-11-02 2019-05-09 Uber Technologies, Inc. Computing system to implement network delivery service
US20190250995A1 (en) * 2017-08-07 2019-08-15 Datto, Inc. Source Volume Backup with Predictive and Lookahead Optimizations Apparatuses, Methods and Systems
CN110471916A (zh) * 2019-07-03 2019-11-19 平安科技(深圳)有限公司 数据库的查询方法、装置、服务器及介质

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150012641A1 (en) * 2013-07-03 2015-01-08 TrueLite Trace, Inc. Chronically-Problematic Response Alert System for Service Request and Fulfillment Between a Service Requester and a Service Performer
US20160148141A1 (en) * 2014-11-22 2016-05-26 TrueLite Trace, Inc. Revenue and Productivity Optimization System With Environmental Sensor-Connected Smart Bell
CN106533796A (zh) * 2016-12-15 2017-03-22 北京邮电大学 基于分组业务流社团结构的服务质量波动传播控制方法
CN106961358A (zh) * 2017-05-11 2017-07-18 国网山东省电力公司信息通信公司 基于日志的Web应用系统集群运行状态监测方法及其系统
US20190250995A1 (en) * 2017-08-07 2019-08-15 Datto, Inc. Source Volume Backup with Predictive and Lookahead Optimizations Apparatuses, Methods and Systems
WO2019089827A1 (en) * 2017-11-02 2019-05-09 Uber Technologies, Inc. Computing system to implement network delivery service
CN108572907A (zh) * 2018-01-25 2018-09-25 北京金山云网络技术有限公司 一种告警方法、装置、电子设备及计算机可读存储介质
CN108847989A (zh) * 2018-06-29 2018-11-20 杭州安恒信息技术股份有限公司 基于微服务架构的日志处理方法、业务服务系统以及电子设备
CN110471916A (zh) * 2019-07-03 2019-11-19 平安科技(深圳)有限公司 数据库的查询方法、装置、服务器及介质

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115567412A (zh) * 2022-10-17 2023-01-03 上海识装信息科技有限公司 流量去重方法、装置、电子设备及存储介质
CN115776415A (zh) * 2023-02-13 2023-03-10 珠海市鸿瑞信息技术股份有限公司 一种基于工业协议的网闸设备智能管理系统及方法
CN117041089A (zh) * 2023-08-21 2023-11-10 江苏臻云技术有限公司 一种面向异地数据中心的设备监控系统及方法
CN117041089B (zh) * 2023-08-21 2024-01-23 江苏臻云技术有限公司 一种面向异地数据中心的设备监控系统及方法

Also Published As

Publication number Publication date
CN114710562B (zh) 2022-11-08

Similar Documents

Publication Publication Date Title
CN114710562B (zh) 基于大数据的设备应用日志关联分析系统及方法
JP2022160405A (ja) アラームログ圧縮方法、装置、およびシステム、並びに記憶媒体
US20060188085A1 (en) Call center study method and system
CN112787860B (zh) 一种根告警分析识别方法及装置
WO2007143943A1 (fr) Procédé, système et dispositif réseau de maintenance centralisée de dispositifs multiples
CN110246033B (zh) 信贷风险监测方法、装置、设备及存储介质
CN114584404B (zh) 一种基于云存储技术的数据安全防护系统及方法
CN113704018A (zh) 应用运维数据处理方法、装置、计算机设备及存储介质
CN108390793A (zh) 一种分析系统稳定性的方法及装置
CN112463772A (zh) 日志处理方法、装置、日志服务器及存储介质
CN114022151A (zh) 区块链数据可视化方法、系统、电子设备和存储介质
CN115357418A (zh) 微服务故障检测方法、装置、存储介质及计算机设备
CN114706827A (zh) 一种交易链路拓扑自动生成方法及装置
CN114430413A (zh) 一种基于区块链的IIoT智慧运维管理方法
CN111741007B (zh) 一种基于网络层报文解析的金融业务实时监控系统及方法
CN110941536B (zh) 监控方法及系统、第一服务器集群
CN116302652A (zh) 系统报警信息的处理方法、装置及电子设备
CN115641945A (zh) 一种自动化运营方法、系统、电子设备及存储介质
CN116264541A (zh) 一种基于多维度的数据库容灾方法及装置
CN111224823B (zh) 一种基于异网日志分析的方法
CN109685662A (zh) 投资数据处理方法、装置、计算机设备及其存储介质
CN112765010A (zh) 业务参数集中管理方法、装置、设备及存储介质
CN114819981A (zh) 客服问题处理方法、装置、设备以及存储介质
CN117555501B (zh) 基于边缘计算的云打印机运维数据处理方法以及相关装置
JP5380386B2 (ja) 機器情報管理システム及び方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant