CN114710562A - 基于大数据的设备应用日志关联分析系统及方法 - Google Patents
基于大数据的设备应用日志关联分析系统及方法 Download PDFInfo
- Publication number
- CN114710562A CN114710562A CN202210335445.XA CN202210335445A CN114710562A CN 114710562 A CN114710562 A CN 114710562A CN 202210335445 A CN202210335445 A CN 202210335445A CN 114710562 A CN114710562 A CN 114710562A
- Authority
- CN
- China
- Prior art keywords
- calling
- service request
- equipment
- gateway
- response
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000010219 correlation analysis Methods 0.000 title claims abstract description 29
- 238000000034 method Methods 0.000 title claims abstract description 29
- 230000004044 response Effects 0.000 claims abstract description 140
- 238000012544 monitoring process Methods 0.000 claims abstract description 48
- 230000010365 information processing Effects 0.000 claims description 9
- 230000010354 integration Effects 0.000 claims description 9
- 230000000977 initiatory effect Effects 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 230000008569 process Effects 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/06—Management of faults, events, alarms or notifications
- H04L41/069—Management of faults, events, alarms or notifications using logs of notifications; Post-processing of notifications
Landscapes
- Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Telephonic Communication Services (AREA)
Abstract
本发明公开了基于大数据的设备应用日志关联分析系统及方法,包括步骤S100:提取不同设备的历史应用日志,对每一调用记录进行调用条的提取;分别对调用条集合进行划分处理得到若干子调用条集合;步骤S200:对若干子调用条集合内进行调用条信息的整合和标识处理;步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。
Description
技术领域
本发明涉及物联网大数据技术领域,具体为基于大数据的设备应用日志关联分析系统及方法。
背景技术
在物联网中,海量不同的终端节点设备之间想要实现彼此间的互通,需要利用物联网网关实现协议转换,将目标设备产生的信息传送至远端需要这些数据信息的设备,使得信息数据在不同的网络实体之间传输。
目标设备在实际运行过程中需要执行不同的业务,并且与不同业务请求的相对应的是不同的响应设备;因传输的协议不同需要的网关设备也是不同的;同时目标设备在实际运行过程中需要执行业务在流程上是具有先后关系的,但是也有一些业务是不具有先后关系的,这也意味着当不具有先后关系的业务同时开展的时候,在网关设备的调用上,响应设备上的调用上是会出现重合的情况;且当同时开展的业务数量大的时候,就容易造成网关负载和响应设备负载大的情况,而在这种情况下,这些网关和响应设备就需要额外关注他们运行情况以防出现因负载过大受到实际运行时其他因素的加成影响导致运行故障。
发明内容
本发明的目的在于提供基于大数据的设备应用日志关联分析系统及方法,以解决上述背景技术中提出的问题。
为了解决上述技术问题,本发明提供如下技术方案:基于大数据的设备应用日志关联分析方法,分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。
进一步的,步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同;
上述步骤通过对调用记录进行调用条的提取方法是为了清晰的体现每一次调用记录涉及的业务请求的执行情况;对执行相同业务请求的调用条进行整合,可以看出对应相同的业务请求有多少种网关设备和响应设备的搭配情况,这也能查看出对于一种业务请求是否存在多个网关设备可以执行以及是否有多个响应设备可以执行响应。
进一步的,步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若响应协调集内包含的响应设备种类数为1,将标记属于pi的唯一标识;其中,表示与Gk对应的响应设备;若响应协调集内包含的响应设备种类数大于等于2,将内出现的所有响应设备进行汇集得到响应设备集其中分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况;
上述进行唯一标识的处理和协同标识的处理是为了对不同调用条的执行情况进行区别;具有唯一标识的调用条,代表这种调用条对应执行一种业务请求且在选用具有唯一标识的网关设备时对应只有唯一的响应设备,在业务请求量多的时候,不存在其他响应设备进行替换以保证业务的正常执行;具有协同标识的调用条,代表这种调用条对应执行一种业务请求且在选用具有协同标识的网关设备时存在多个响应设备,在业务请求量多的时候,存在多个响应设备可以进行替换以保证业务的正常执行;上述基于各业务请求的网关设备分配以及响应设备分配进行标识处理是为了后续当监测到业务请求量多时重点监测网关和响应设备的锁定;有利于对业务请求的执行情况实现精确的把控。
进一步的,步骤S300包括:
步骤S302:计算业务关联事件的重复率其中,表示业务关联事件发生的总次数;M1表示业务请求a的总发起次数,M2表示业务请求b得到响应的总次数;当重复率大于重复率阈值时,判定业务请求a与业务请求b之间存在业务关联;
上述是对同一设备不同业务请求之间在时间前后上的关联性进行识别;将存在执行前后规律的业务请求识别出来,是因为这些业务请求在执行时间上都不是并行执行的,存在错开的时间查,类似于一个业务请求执行完毕是下一个业务请求执行开始的标记;所以这类业务请求若在同一时间线上存在发起执行指令时,对整体的运行造成堵塞和大负载的可能性小,上述步骤是为了后续对整体运行负载情况的分析和计算提供技术铺垫,减少计算负担,实现精准分析。
进一步的,步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
步骤S403:在总体网关匹配集H内分别计算匹配网关hi对应的响应协调匹配集hi=D1∩D2∩…∩Dq2;其中,hi∈H;D1、D2、…、Dq2分别表示目标业务请求集中第一个、第二个、…、第q2个含有匹配网关h的对应响应协调集;计算总体响应协调匹配率:其中,h1、h2、…、hq3分别表示总体网关匹配集H内的第一个、第二个、…、第q3个匹配网关,q3等于总体网关匹配集H内的总匹配网关数;d表示目标业务请求集中所有业务请求的响应设备总种类数集;计算总体请求重合率W=w1×w2;
上述总体网关匹配集得到的各匹配网关都是不同业务请求存在交叉的网关,说明这些网关可以分别在执行不同业务请求时都被调用,总体网关匹配率越高代表着当这些业务请求同时发起调用服务时,存在选中相同网关的几率越高,即代表着造成运行网关负载大的可能性也越高;同样,总体响应协调匹配率越高代表着当这些业务请求同时发起调用服务时,存在选中相同响应设备的几率越高,即代表着造成运行响应设备负载大的可能性也越高;总体请求重合率即代表着这些业务请求同时发起调用服务时造成运行高负载高重合度的几率。
进一步的,步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
为更好的实现上述方法还提出了基于大数据的设备应用日志关联分析系统,系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
预警提示模块,用于接收业务请求监测模块中的数据,基于数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
进一步的,调用条信息整合标识模块包括:信息处理单元、标识处理单元;
信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
标识处理单元,用于接收信息处理单元中的数据,完成对所有调用条的标记识别和处理。
进一步的,业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
第一计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
第二计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
第三计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
与现有技术相比,本发明所达到的有益效果是:本发明可解决实际设备在执行不同业务请求的运行过程中,对因运行负载过大导致受实际运行时其他因素的加成影响导致运行出现故障的情况进行监测预警;在分析的过程中兼顾了对有些业务请求的执行在流程上具备先后规律的考量,在大量不具先后规律的业务同时开展的情况下,对执行过程中网关设备的重合调用和响应设备的重合调用情况进行计算分析得到精确的负载预警信息并对其进行重点设备的精准锁定监测,提高监测效率的同时减少劳动力。
附图说明
附图用来提供对本发明的进一步理解,并且构成说明书的一部分,与本发明的实施例一起用于解释本发明,并不构成对本发明的限制。在附图中:
图1是本发明基于大数据的设备应用日志关联分析方法的流程示意图;
图2是本发明基于大数据的设备应用日志关联分析系统的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
请参阅图1-图2,本发明提供技术方案:基于大数据的设备应用日志关联分析方法,其特征在于,分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
其中,步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同;
例如说,设备A存在任务1的调用条:任务1→网关1→响应1;任务1→网关1→响应2;任务1→网关2→响应2;任务2→网关1→响应1;任务1→网关2→响应2;任务1→网关3→响应2;任务2→网关1→响应2;
则设备1的调用条可以得到业务请求同为任务1的子调用条集合{任务1→网关1→响应1;任务1→网关3→响应2;任务1→网关2→响应2;任务1→网关3→响应2;任务1→网关1→响应2};可以得到业务请求同为任务2的子调用条集合{任务2→网关1→响应1;任务2→网关1→响应2};
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
其中,步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若响应协调集内包含的响应设备种类数为1,将标记属于pi的唯一标识;其中,表示与Gk对应的响应设备;若响应协调集内包含的响应设备种类数大于等于2,将内出现的所有响应设备进行汇集得到响应设备集其中分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况;
例如说,设备1的调用条有业务请求同为任务1的子调用条集合{任务1→网关1→响应1;任务1→网关3→响应2;任务1→网关2→响应2;任务1→网关1→响应2};有业务请求同为任务2的子调用条集合{任务2→网关1→响应1;任务2→网关1→响应2};
得到对应任务1的协同响应协调集{网关1→响应1;网关3→响应2;网关2→响应2;网关1→响应2},得到对应网关1的协同响应设备为响应1和响应2;且对于网关3来说只具有唯一的响应2,对于网关2来说指具有唯一的响应2;
所以对任务1→网关3→响应2,任务1→网关2→响应2都进行唯一标识的标记;对任务1→网关1→响应1,任务1→网关1→响应2都进行协同标识的标记;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
其中,步骤S300包括:
步骤S302:计算业务关联事件的重复率其中,表示业务关联事件发生的总次数;M1表示业务请求a的总发起次数,M2表示业务请求b得到响应的总次数;当重复率大于重复率阈值时,判定业务请求a与业务请求b之间存在业务关联;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
其中,步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
步骤S403:在总体网关匹配集H内分别计算匹配网关hi对应的响应协调匹配集hi=D1∩D2∩…∩Dq2;其中,hi∈H;D1、D2、…、Dq2分别表示目标业务请求集中第一个、第二个、…、第q2个含有匹配网关h的对应响应协调集;计算总体响应协调匹配率:其中,h1、h2、…、hq3分别表示总体网关匹配集H内的第一个、第二个、…、第q3个匹配网关,q3等于总体网关匹配集H内的总匹配网关数;d表示目标业务请求集中所有业务请求的响应设备总种类数集;计算总体请求重合率W=w1×w2;
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警;
例如说,存在业务请求1、业务请求2、业务请求3、业务请求4、业务请求5;业务请求2和业务请求3之间存在业务关联性,所以将业务请求1、业务请求4、业务请求5汇成的集合作为目标业务请求集;
业务请求1对应的网关设备种类集合为{网关1,网关2,网关3,网关4};业务请求4对应的网关设备种类集合为{网关1,网关3,网关5,网关7};业务请求5对应的网关设备种类集合为{网关1,网关3,网关5,网关6};
则网关设备总种类数集为{网关1,网关2,网关3,网关4,网关5,网关6,网关7};
则总体网关匹配集H={网关1,网关2,网关3,网关4}∩{网关1,网关3,网关5,网关7}∩{网关1,网关3,网关5,网关6}={网关1,网关3};
例如说,网关1在对应业务请求1时的响应协调匹配集为:
{响应设备1,响应设备2,响应设备3};
网关1在对应业务请求2时的响应协调匹配集为:
{响应设备2,响应设备3,响应设备4};
h1=
{响应设备1,响应设备2,响应设备3}∩
{响应设备2,响应设备3,响应设备4}={响应设备2,响应设备3};
则响应设备总种类数集为{响应设备1,响应设备2,响应设备3,响应设备4}
其中,步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
为更好的实现上述方法还提出了基于大数据的设备应用日志关联分析系统,系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的调用条集合进行划分处理得到若干子调用条集合;
调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
预警提示模块,用于接收业务请求监测模块中的数据,基于数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
其中,调用条信息整合标识模块包括:信息处理单元、标识处理单元;
信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
标识处理单元,用于接收信息处理单元中的数据,完成对所有调用条的标记识别和处理。
其中,业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
第一计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
第二计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
第三计算单元,用于接收业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。
最后应说明的是:以上所述仅为本发明的优选实施例而已,并不用于限制本发明,尽管参照前述实施例对本发明进行了详细的说明,对于本领域的技术人员来说,其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (9)
1.基于大数据的设备应用日志关联分析方法,其特征在于,所述分析方法包括:
步骤S100:基于大数据分别提取不同设备的历史应用日志,对不同设备历史应用日志中的每一调用记录进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的所述调用条集合进行划分处理得到若干子调用条集合;
步骤S200:分别在不同设备的若干子调用条集合内进行调用条信息的整合和标识处理;得到不同设备中所有业务请求对应的标识情况;
步骤S300:分别在不同设备的所有业务请求中进行业务关联性的识别和判断;
步骤S400:系统分别对不同设备中各业务请求的运行情况进行实时监测,对总体请求的重合率进行计算;
步骤S500:当总体请求重合率大于重合率阈值时,提示系统向造成所述总体请求重合率的相关网关设备和相关响应设备进行运行线程的监测预警。
2.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S100包括:
步骤S101:从不同设备的历史应用日志中提取每一次用户调用服务调用接口发起业务请求时的调用记录;分别从每一次调用记录中提取执行对应业务请求时的网关设备、与所述业务请求对应的响应设备得到不同设备每一次调用记录的调用条P→G→R;其中,P表示业务请求,G表示执行P时的网关设备,R表示与G对应的响应设备;
步骤S102:分别将不同设备的所有调用记录进行整理汇集成对应的调用条集合,一台设备对应一个调用条集合;记存在设备A对应的调用条集合为PA,将设备A对应的调用条集合PA内具有相同业务请求P的所有调用条进行合并得到若干子调用条集合,即PA包括的子调用条集合有{Ap1,Ap2,…,Apn},其中,Ap1、Ap2、…、Apn分别表示在调用条集合PA内业务请求同为p1的所有调用条组成的子调用条集合、业务请求同为p2的所有调用条组成的子调用条集合、…、业务请求同为pn的所有调用条组成的子调用条集合;其中,p1、p2、…、pn之间互不相同。
3.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S200包括:
步骤S201:记设备A对应的调用条集合PA内存在子调用条集合Api,Api∈{Ap1,Ap2,…,Apn};对Api内各调用条基于网关设备的不同进行划分归类得到对应不同网关设备的不同响应协调集,记Api内存在的与同种网关设备Gk相对应的响应协调集为其中,Gk表示在Api内存在的第k种网关设备,k表示自然数;
步骤S202:若所述响应协调集内包含的响应设备种类数为1,将标记属于pi的唯一标识;其中,表示与Gk对应的响应设备;若所述响应协调集内包含的响应设备种类数大于等于2,将内出现的所有响应设备进行汇集得到响应设备集其中分别表示与Gk对应的第一种、第二种、…、第v种响应设备,将标记属于pi的协同标识;
步骤S203:将不同设备的所有响应协调集均进行标识处理分别得到不同设备中所有业务请求对应的标识情况。
5.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S400包括:
步骤S401:实时提取用户调用了服务调用接口对应的若干业务请求,在所述若干业务请求中将存在业务关联性的业务请求进行标记;
步骤S402:将剩余没有标记的业务请求作为目标业务请求集,将所述目标业务请求集中所有业务请求基于网关设备计算总体网关匹配集H=L1∩L2∩…∩Lq1;其中,L1、L2、…、Lq1分别表示目标业务请求集中第一个、第二个、…、第q1个业务请求对应的网关设备种类集合;q1为自然数;计算总体网关匹配率其中,Q表示目标业务请求集中所有业务请求的网关设备总种类数集;
6.根据权利要求1所述的基于大数据的设备应用日志关联分析方法,其特征在于,所述步骤S500包括:
步骤S501:当总体请求重合率大于重合率阈值时,提取总体网关匹配集内各匹配网关的标识;当总体网关匹配集内出现一匹配网关的标识中同时具有唯一标识和协同标识,监测具有协同标识的业务请求的网关设备和响应设备的具体调用情况;
步骤S502:当出现具有协同标识的业务请求的调用情况同唯一标识对应的业务请求的调用情况相同,且符合该种调用情况的业务请求个数大于个数阈值,对系统进行预警提示,对所述唯一标识对应的业务请求调用的网关设备和响应设备进行运行线程的重点监测。
7.应用于权利要求书1-6中任一项的基于大数据的设备应用日志关联分析方法的基于大数据的设备应用日志关联分析系统,其特征在于,所述系统包括:调用条提取处理模块、调用条信息整合标识模块、业务关联性分析模块、业务请求监测模块、预警提示模块;
所述调用条提取处理模块,用于提取不同设备的历史应用日志,对不同设备历史应用日志进行调用条的提取得到每一设备对应的调用条集合;分别对不同设备对应的所述调用条集合进行划分处理得到若干子调用条集合;
所述调用条信息整合标识模块,用于对不同设备的若干子调用条集合内的调用条信息进行整合,对不同设备的若干子调用条集合内的调用条进行唯一标识和协同标识的处理;
所述业务关联性分析模块,用于分别对不同设备的所有业务请求之间进行业务关联性的识别和判断;
所述业务请求监测模块,用于分别对不同设备中各业务请求的运行情况进行实时监测,对总体运行请求进行总体网关匹配率、总体响应协调匹配率、总体请求重合率的计算;
所述预警提示模块,用于接收所述业务请求监测模块中的数据,基于所述数据提示系统向相关网关设备和相关响应设备进行运行线程的监测预警。
8.根据权利要求7所述的基于大数据的设备应用日志关联分析系统,其特征在于,所述调用条信息整合标识模块包括:信息处理单元、标识处理单元;
所述信息处理单元,用于分别在不同设备的若干子调用条集合内基于网关设备的不同进行划分归类处理;
所述标识处理单元,用于接收所述信息处理单元中的数据,完成对所有调用条的标记识别和处理。
9.根据权利要求7所述的基于大数据的设备应用日志关联分析系统,其特征在于,所述所述业务请求监测模块包括业务请求监测获取单元、第一计算单元、第二计算单元、第三计算单元;
所述业务请求监测获取单元,用于分别对不同设备中各业务请求的运行情况进行实时监测和获取;
所述第一计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体网关匹配率的计算;
所述第二计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体响应协调匹配率的计算;
所述第三计算单元,用于接收所述业务请求监测获取单元中的信息,对总体运行请求进行总体请求重合率的计算。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210335445.XA CN114710562B (zh) | 2022-03-31 | 2022-03-31 | 基于大数据的设备应用日志关联分析系统及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210335445.XA CN114710562B (zh) | 2022-03-31 | 2022-03-31 | 基于大数据的设备应用日志关联分析系统及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114710562A true CN114710562A (zh) | 2022-07-05 |
CN114710562B CN114710562B (zh) | 2022-11-08 |
Family
ID=82171306
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210335445.XA Active CN114710562B (zh) | 2022-03-31 | 2022-03-31 | 基于大数据的设备应用日志关联分析系统及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114710562B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115567412A (zh) * | 2022-10-17 | 2023-01-03 | 上海识装信息科技有限公司 | 流量去重方法、装置、电子设备及存储介质 |
CN115776415A (zh) * | 2023-02-13 | 2023-03-10 | 珠海市鸿瑞信息技术股份有限公司 | 一种基于工业协议的网闸设备智能管理系统及方法 |
CN117041089A (zh) * | 2023-08-21 | 2023-11-10 | 江苏臻云技术有限公司 | 一种面向异地数据中心的设备监控系统及方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150012641A1 (en) * | 2013-07-03 | 2015-01-08 | TrueLite Trace, Inc. | Chronically-Problematic Response Alert System for Service Request and Fulfillment Between a Service Requester and a Service Performer |
US20160148141A1 (en) * | 2014-11-22 | 2016-05-26 | TrueLite Trace, Inc. | Revenue and Productivity Optimization System With Environmental Sensor-Connected Smart Bell |
CN106533796A (zh) * | 2016-12-15 | 2017-03-22 | 北京邮电大学 | 基于分组业务流社团结构的服务质量波动传播控制方法 |
CN106961358A (zh) * | 2017-05-11 | 2017-07-18 | 国网山东省电力公司信息通信公司 | 基于日志的Web应用系统集群运行状态监测方法及其系统 |
CN108572907A (zh) * | 2018-01-25 | 2018-09-25 | 北京金山云网络技术有限公司 | 一种告警方法、装置、电子设备及计算机可读存储介质 |
CN108847989A (zh) * | 2018-06-29 | 2018-11-20 | 杭州安恒信息技术股份有限公司 | 基于微服务架构的日志处理方法、业务服务系统以及电子设备 |
WO2019089827A1 (en) * | 2017-11-02 | 2019-05-09 | Uber Technologies, Inc. | Computing system to implement network delivery service |
US20190250995A1 (en) * | 2017-08-07 | 2019-08-15 | Datto, Inc. | Source Volume Backup with Predictive and Lookahead Optimizations Apparatuses, Methods and Systems |
CN110471916A (zh) * | 2019-07-03 | 2019-11-19 | 平安科技(深圳)有限公司 | 数据库的查询方法、装置、服务器及介质 |
-
2022
- 2022-03-31 CN CN202210335445.XA patent/CN114710562B/zh active Active
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150012641A1 (en) * | 2013-07-03 | 2015-01-08 | TrueLite Trace, Inc. | Chronically-Problematic Response Alert System for Service Request and Fulfillment Between a Service Requester and a Service Performer |
US20160148141A1 (en) * | 2014-11-22 | 2016-05-26 | TrueLite Trace, Inc. | Revenue and Productivity Optimization System With Environmental Sensor-Connected Smart Bell |
CN106533796A (zh) * | 2016-12-15 | 2017-03-22 | 北京邮电大学 | 基于分组业务流社团结构的服务质量波动传播控制方法 |
CN106961358A (zh) * | 2017-05-11 | 2017-07-18 | 国网山东省电力公司信息通信公司 | 基于日志的Web应用系统集群运行状态监测方法及其系统 |
US20190250995A1 (en) * | 2017-08-07 | 2019-08-15 | Datto, Inc. | Source Volume Backup with Predictive and Lookahead Optimizations Apparatuses, Methods and Systems |
WO2019089827A1 (en) * | 2017-11-02 | 2019-05-09 | Uber Technologies, Inc. | Computing system to implement network delivery service |
CN108572907A (zh) * | 2018-01-25 | 2018-09-25 | 北京金山云网络技术有限公司 | 一种告警方法、装置、电子设备及计算机可读存储介质 |
CN108847989A (zh) * | 2018-06-29 | 2018-11-20 | 杭州安恒信息技术股份有限公司 | 基于微服务架构的日志处理方法、业务服务系统以及电子设备 |
CN110471916A (zh) * | 2019-07-03 | 2019-11-19 | 平安科技(深圳)有限公司 | 数据库的查询方法、装置、服务器及介质 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115567412A (zh) * | 2022-10-17 | 2023-01-03 | 上海识装信息科技有限公司 | 流量去重方法、装置、电子设备及存储介质 |
CN115776415A (zh) * | 2023-02-13 | 2023-03-10 | 珠海市鸿瑞信息技术股份有限公司 | 一种基于工业协议的网闸设备智能管理系统及方法 |
CN117041089A (zh) * | 2023-08-21 | 2023-11-10 | 江苏臻云技术有限公司 | 一种面向异地数据中心的设备监控系统及方法 |
CN117041089B (zh) * | 2023-08-21 | 2024-01-23 | 江苏臻云技术有限公司 | 一种面向异地数据中心的设备监控系统及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN114710562B (zh) | 2022-11-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114710562B (zh) | 基于大数据的设备应用日志关联分析系统及方法 | |
JP2022160405A (ja) | アラームログ圧縮方法、装置、およびシステム、並びに記憶媒体 | |
US20060188085A1 (en) | Call center study method and system | |
CN112787860B (zh) | 一种根告警分析识别方法及装置 | |
WO2007143943A1 (fr) | Procédé, système et dispositif réseau de maintenance centralisée de dispositifs multiples | |
CN110246033B (zh) | 信贷风险监测方法、装置、设备及存储介质 | |
CN114584404B (zh) | 一种基于云存储技术的数据安全防护系统及方法 | |
CN113704018A (zh) | 应用运维数据处理方法、装置、计算机设备及存储介质 | |
CN108390793A (zh) | 一种分析系统稳定性的方法及装置 | |
CN112463772A (zh) | 日志处理方法、装置、日志服务器及存储介质 | |
CN114022151A (zh) | 区块链数据可视化方法、系统、电子设备和存储介质 | |
CN115357418A (zh) | 微服务故障检测方法、装置、存储介质及计算机设备 | |
CN114706827A (zh) | 一种交易链路拓扑自动生成方法及装置 | |
CN114430413A (zh) | 一种基于区块链的IIoT智慧运维管理方法 | |
CN111741007B (zh) | 一种基于网络层报文解析的金融业务实时监控系统及方法 | |
CN110941536B (zh) | 监控方法及系统、第一服务器集群 | |
CN116302652A (zh) | 系统报警信息的处理方法、装置及电子设备 | |
CN115641945A (zh) | 一种自动化运营方法、系统、电子设备及存储介质 | |
CN116264541A (zh) | 一种基于多维度的数据库容灾方法及装置 | |
CN111224823B (zh) | 一种基于异网日志分析的方法 | |
CN109685662A (zh) | 投资数据处理方法、装置、计算机设备及其存储介质 | |
CN112765010A (zh) | 业务参数集中管理方法、装置、设备及存储介质 | |
CN114819981A (zh) | 客服问题处理方法、装置、设备以及存储介质 | |
CN117555501B (zh) | 基于边缘计算的云打印机运维数据处理方法以及相关装置 | |
JP5380386B2 (ja) | 機器情報管理システム及び方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |