CN109039826A - 数据采集方法、装置及电子设备 - Google Patents
数据采集方法、装置及电子设备 Download PDFInfo
- Publication number
- CN109039826A CN109039826A CN201811002119.7A CN201811002119A CN109039826A CN 109039826 A CN109039826 A CN 109039826A CN 201811002119 A CN201811002119 A CN 201811002119A CN 109039826 A CN109039826 A CN 109039826A
- Authority
- CN
- China
- Prior art keywords
- network element
- data acquisition
- parameter value
- memory block
- load
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/08—Monitoring or testing based on specific metrics, e.g. QoS, energy consumption or environmental parameters
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L43/00—Arrangements for monitoring or testing data switching networks
- H04L43/16—Threshold monitoring
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L47/00—Traffic control in data switching networks
- H04L47/10—Flow control; Congestion control
- H04L47/12—Avoiding congestion; Recovering from congestion
- H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Environmental & Geological Engineering (AREA)
- Computer And Data Communications (AREA)
Abstract
本发明提供了一种数据采集方法、装置及电子设备,涉及采集技术领域,该方法包括接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;如果是,根据数据采集指令对目标网元中的数据进行数据采集操作。本发明提供的上述方式能够有效提升数据采集的可持续性和数据的完整性。
Description
技术领域
本发明涉及采集技术领域,尤其是涉及一种数据采集方法、装置及电子设备。
背景技术
目前针对数据统一采集的平台,更多的是考虑平台自身的负载均衡,保障平台自身运行的稳定性和强壮性。但是针对采集对象,诸如网元的安全性和负载能力的考虑比较欠缺,容易发生由于采集平台的高并发采集动作而导致采集对象异常或者挂机的情况。
这样的情况会严重影响采集对象自身承载运行的业务,使采集对象不能够稳定运行,难以保证数据采集的可持续性以及数据的完整性。
发明内容
有鉴于此,本发明的目的在于提供一种数据采集方法、装置及电子设备,以提升数据采集的可持续性以及数据的完整性。
第一方面,本发明实施例提供了一种数据采集方法,该方法应用于网元采集系统,包括:接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;如果是,根据数据采集指令对目标网元中的数据进行数据采集操作。
结合第一方面,本发明实施例提供了第一方面的第一种可能的实施方式,其中,上述网元采集系统上搭建有spark计算引擎;通过以下方式获取多个网元的负荷状态的参数值:按照预设优先级顺序,获取多个网元在当前时刻的多种负荷指标的数值;将多个网元的多种负荷指标的数值存入第二预设存储区中,以使spark计算引擎根据从第二预设存储区提取出的多个网元的多种负荷指标的数值,以实时流式计算方式分别计算得到每个网元在当前时刻的负荷分数;基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第二种可能的实施方式,其中,在将多个网元的多种负荷指标的数值存入第二预设存储区中之后,上述方法还包括:分别为第二预设存储区中的每种负荷指标设置失效时长;当达到失效时长时,更新失效时长对应的负荷指标的数值。
结合第一方面的第一种可能的实施方式,本发明实施例提供了第一方面的第三种可能的实施方式,其中,上述第一预设存储区是基于K-V库结构所建立的;连线状态的参数值和负荷状态的参数值的取值均为0或1。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第四种可能的实施方式,其中,上述基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值的步骤,包括:逐一判断每个网元在当前时刻的负荷分数是否大于第一预设阈值;如果是,确定网元在第一预设存储区中的负荷状态的参数值为0;如果否,确定网元在第一预设存储区中的负荷状态的参数值为1。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的第五种可能的实施方式,其中,上述方法还包括:监测每个网元的工作状态,当工作状态为在线时,确定网元在第一预设存储区中的连线状态的参数值为1;当工作状态为离线时,确定网元在第一预设存储区中的连线状态的参数值为0。
结合第一方面的第三种可能的实施方式,本发明实施例提供了第一方面的六种可能的实施方式,其中,上述预设数据采集标准包括:连线状态的参数值为1,且,负荷状态的参数值为1,且剩余负载量大于第二预设阈值。
第二方面,本发明实施例提供了一种数据采集装置,其中,该装置设置于网元采集系统,包括:目标网元确定模块,用于接收来自指令中心的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令携带有网元的标识;当前状态信息查询模块,用于根据目标网元的标识,在预设的第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;判断模块,用于判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;采集操作模块,用于当目标网元的当前状态信息符合预设数据采集标准时,根据数据采集指令对目标网元中的数据进行数据采集操作。
第三方面,本发明实施例提供了一种电子设备,包括存储器和处理器,存储器中存储有可在处理器上运行的计算机程序,处理器执行计算机程序时实现第一方面至第一方面的第六种可能的实施方式中任一项所述的方法的步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,计算机程序被处理器运行时执行第一方面至第一方面的第六种可能的实施方式中任一项所述的方法的步骤。
本发明实施例带来了以下有益效果:
本发明实施例提供了一种数据采集方法、装置及电子设备,首先通过接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;然后根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;进而判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;当目标网元的当前状态信息的参数值符合预设数据采集标准时,根据数据采集指令对目标网元中的数据进行数据采集操作。本发明实施例提供的上述方式在对网元采集数据时,先对网元的当前状态信息进行分析,经确定可以采集后再对该网元中的数据进行数据采集操作,相较于现有技术中直接对网元中的数据进行采集操作的方式,能够保障网元的安全与稳定的运行,从而有效地提升数据采集的可持续性和数据的完整性。
本发明的其他特征和优点将在随后的说明书中阐述,并且,部分地从说明书中变得显而易见,或者通过实施本发明而了解。本发明的目的和其他优点在说明书、权利要求书以及附图中所特别指出的结构来实现和获得。
为使本发明的上述目的、特征和优点能更明显易懂,下文特举较佳实施例,并配合所附附图,作详细说明如下。
附图说明
为了更清楚地说明本发明具体实施方式或现有技术中的技术方案,下面将对具体实施方式或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施方式,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种数据采集方法的流程图;
图2为本发明实施例提供的一种第一预设存储空间的结构示意图;
图3为本发明实施例提供的一种第二预设存储空间的结构示意图;
图4为本发明实施例提供的一种数据采集业务流程图;
图5为本发明实施例提供的一种数据采集装置的结构框图;
图6为本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合附图对本发明的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
目前针对数据统一采集的平台,更多的是考虑平台自身的负载均衡,保障平台自身运行的稳定性和强壮性。但是针对采集对象进行数据的采集,对于采集对象自身而言存在额外的性能消耗,如果不能控制好采集的频率和采集的方法,会导致采集对象自身的性能消耗过高,容易发生由于采集平台的高并发采集动作而导致采集对象异常,诸如采集的数据返回存在延时,或者采集对象挂机的情况。
这样的情况会严重影响采集对象自身承载运行的业务,使采集对象不能够稳定运行,难以保证数据采集的可持续性以及数据的完整性。
基于此,本发明实施例提供了一种数据采集方法、装置以及电子设备,能够有效地提升数据采集的可持续性和数据的完整性。
为便于对本实施例进行理解,首先对本发明实施例所公开的一种数据采集方法进行详细介绍,参见图1所示的一种数据采集方法的流程图,该方法应用于网元采集系统,其中,网元采集系统分别与多个网元和指令中心通信连接,该方法包括:
步骤S102,接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识。
步骤S104,根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量。
步骤S106,判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;如果是,执行步骤S108;如果否,执行步骤S110。
其中,预设数据采集标准可以依据网元安全稳定运行时状态信息的参数值所设定,根据预设数据采集标准针对目标网元的当前状态信息的参数值进行分析,确定网元当前是否有能力允许被进行数据采集操作,能够有效规避采集平台对于网元无限制的并发采集。
步骤S108,根据数据采集指令对目标网元中的数据进行数据采集操作。
步骤S110,结束,并将判断结果发送至指令中心。
本发明实施例提供的上述方法,首先通过接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;然后根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;进而判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;当目标网元的当前状态信息的参数值符合预设数据采集标准时,根据数据采集指令对目标网元中的数据进行数据采集操作。本发明实施例提供的上述方式在对网元采集数据时,先对网元的当前状态信息进行分析,经确定可以采集后再对该网元中的数据进行数据采集操作,相较于现有技术中直接对网元中的数据进行采集操作的方式,能够保障网元的安全与稳定的运行,从而有效地提升数据采集的可持续性和数据的完整性。
进一步,当上述网元采集系统上搭建有spark计算引擎时,可通过以下方式获取多个网元的负荷状态的参数值:
(1)按照预设优先级顺序,获取多个网元在当前时刻的多种负荷指标的数值;其中,优先级顺序可以依据多种负荷指标对于判定网元运作性能的重要程度所设定,重要程度强的负荷指标的优先级别越高,应用时优先获取诸如CPU利用率、内存占用率等一些重要程度较强的负荷指标的数值。
(2)将多个网元的多种负荷指标的数值存入第二预设存储区中,以使spark计算引擎根据从第二预设存储区提取出的多个网元的多种负荷指标的数值,以实时流式计算方式分别计算得到每个网元在当前时刻的负荷分数。
具体的,实际应用时,可以按照优先级顺序,选取网元中的部分优先级别高的负荷指标存入第二预设存储区中,以使spark计算引擎根据第二预设存储区中的这些优先级别高的负荷指标计算对应网元在当前时刻的负荷分数,以判断对应网元在当前时刻的运作性能,如果前述负荷分数大于预设的判定阈值,则表示对应网元在当前时刻的运作性能较差,结束计算;如果前述负荷分数小于预设的判定阈值,则通过spark计算引擎获取网元中更多的负荷指标的参数值并结合前述部分优先级别高的负荷指标的参数值,重新计算得到对应网元的负荷分数。通过这样的方式,相较于同时获取存储网元中的所有负荷指标,可以减少第二预设存储区的占用空间,减轻对第二预设存储区维护的工作量,更为智能化,同时采用spark计算引擎实时计算每个网元在当前时刻的负荷分数,能够有效地提升计算的效率。
(3)基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值。
进一步,考虑到实际应用时,网元中的一些负荷指短时间内不会产生变化,为提升网元采集系统的工作效率,在将多个网元的多种负荷指标的数值存入第二预设存储区中之后,上述方法还包括:分别为第二预设存储区中的每种负荷指标设置失效时长;其中,不同的负荷指标对应的失效时长不同,例如,为正常变化的负荷指标设置的失效时长可以为5分钟;为不常变化的负荷指标设置的失效时长可以为60分钟;当达到失效时长时,更新失效时长对应的负荷指标的数值。本发明实施例提供的上述方式,根据失效时长的设定,定期更新第二预设存储区中每个网元的多种负荷指标的参数值,可以规避对同一网元内的同一指标短时间内重复获取相同的数值,从而有效地提升了网元采集系统的工作效率。
为便于实施,本发明实施例还提供了一种第一预设存储区的具体结构该第一预设存储区基于K-V库结构建立,具体的,可以采用Redis数据库作为载体。其中,K为每个网元的标识,V为该网元的当前状态信息,当前状态信息包括连线状态、负荷状态和剩余负载量。参见图2所示的一种第一预设存储区的结构示意图,在图2中示出了网元能力池(也即,前述第一存储区);网元能力池中包含4个字段,分别为网元标识、网元可管(也即,前述连线状态)、网元负荷(也即,前述负荷状态)和引用数(也即,前述剩余负载量)。其中,连线状态的参数值和负荷状态的参数值的取值均为0或1;剩余负载量的参数值的取值为网元所支持的最大负载量与在当前时刻所承担的负载量的差值,网元每增加一个负载,网元在第二存储区中对应的剩余负载量的参数值就自动减1;实际应用时,不同的网元支持的最大负载量不同。
上述连线状态的参数值通过以下方式确定:监测每个网元的工作状态,当工作状态为在线时,确定网元在第一预设存储区中的连线状态的参数值为1;当工作状态为离线时,确定网元在第一预设存储区中的连线状态的参数值为0。上述负荷状态的参数值通过前述获取负荷指标并计算负荷分数所确定。
具体的,上述基于每个网元在当前时刻的负荷分数,确定多个网元在第一预设存储区中的负荷状态的参数值的步骤,包括:逐一判断每个网元在当前时刻的负荷分数是否大于第一预设阈值;其中,上述第一预设阈值可根据区分网元负荷性能优差的实际经验值所设定。如果是,确定网元在第一预设存储区中的负荷状态的参数值为0,也即表示网元当前的负荷性能较优;如果否,确定网元在第一预设存储区中的负荷状态的参数值为1,也即表示网元当前的负荷性能较差。
基于图2所示的第一预设存储区的结构,上述预设数据采集标准包括:连线状态的参数值为1,且,负荷状态的参数值为1,且剩余负载量大于第二预设阈值。其中,第二预设阈值的设定与网元所支持的最大负载量有关,实际应用时,可以取网元所支持的最大负载量的三分之一值作为第二预设阈值。便于理解该预设数据采集标准,在图2中还示意出了两条数据,分别为网元标识CD-1278对应的网元可管(也即,连线状态)的参数值为1,网元负荷(也即,负荷状态)的参数值为1,引用数(也即,剩余负载量)为8-1,该数据表示网元CD-1278在线、负荷性能较优且剩余负载量大于第二预设阈值,符合上述预设数据采集标准,网元CD-1278可以被采集。而另一条数据:网元标识CD-2467对应的网元可管(也即,连线状态)的参数值为0,网元负荷(也即,负荷状态)的参数值为0,引用数(也即,剩余负载量)为5-1,表示网元CD-2467离线、负荷性能较差,虽然剩余负载量大于第二预设阈值,但不符合上述预设数据采集标准,网元CD-2467不能够被采集。
上述第二预设存储区可以是一种数据流动过程中的缓冲池,缓冲池作为临时文件交换区,可以将后续准备使用的磁盘数据暂时性的保存起来以供读取,能够提高数据的存取效率。本发明实施例提供了一种第二预设存储区的结构示意图,该第二预设存储区以设置字段的列表方式存储多个网元的负荷指标的参数值,具体的,如图3所示,结果缓冲池(也即,前述第二预设存储区)中的列表设置有网元标识、负荷指标、失效时间和获取结果(也即,负荷指标的参数值)4个字段,为便于理解前述字段间的关系,在图3中还示意出了两条数据,表示网元CD-1278的当前CPU利用率的参数值为34%,失效时间为5分钟;网元CD-2467的当前内存利用率的参数值为56%,失效时间为5分钟。
本发明通过构建采集对象(也即,前述网元)的结果缓冲池,对结果缓冲池中的负荷指标进行实时性的计算更新,构建采集对象的网元能力池对采集对象的连线状态、负荷性能消耗和采集通道(也即,前述引用数或剩余负载量)进行综合管理,为数据的采集提供指导性的能力输出。从而充分的保护了采集对象的稳定性和承载业务运行的不间断性,有效提升了数据采集的可持续性以及数据的完整性。
此外,为便于理解数据采集的实际业务流程,本发明实施例提供了一种数据采集业务流程图,参见图4,在实际应用时,首先通过采集平台中的业务调度中心向指令中心传达业务,指令中心根据该业务确定所要采集的目标网元,并对网元采集系统发送携带有网元标识的数据采集指令,在通过网元采集系统对目标网元的当前状态进行分析确定目标网元有能力被采集后,指令中心按照相关的通信协议(也即,图中示出的驱动包)在多个网元中查找到目标网元并对目标网元中的数据进行采集。本发明实施例提供的上述数据采集的业务流程,在对网元采集数据时,先对网元的当前状态信息进行分析,经确定可以采集后再对该网元中的数据进行数据采集操作,相较于现有技术中直接对网元中的数据进行采集操作的方式,能够保障网元的安全与稳定的运行,从而有效地提升数据采集的可持续性和数据的完整性。
对应上述方法,本发明实施例提供了一种数据采集装置,该装置设置于网元采集系统,参见图5,该装置包括:
目标网元确定模块502,用于接收来自指令中心的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令携带有网元的标识;
当前状态信息查询模块504,用于根据目标网元的标识,在预设的第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;
判断模块506,用于判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;
采集操作模块508,用于当目标网元的当前状态信息符合预设数据采集标准时,根据数据采集指令对目标网元中的数据进行数据采集操作。
本发明实施例提供的上述装置,首先通过接收指令中心发送的数据采集指令,确定数据采集指令对应的目标网元;其中,数据采集指令中携带有目标网元的标识;然后根据目标网元的标识,在第一预设存储区中查询目标网元的当前状态信息的参数值;其中,第一预设存储区中存储有多个网元的当前状态信息的参数值;当前状态信息包括连线状态、负荷状态和剩余负载量;进而判断目标网元的当前状态信息的参数值是否符合预设数据采集标准;当目标网元的当前状态信息的参数值符合预设数据采集标准时,根据数据采集指令对目标网元中的数据进行数据采集操作。上述装置在对网元采集数据时,先对网元的当前状态信息进行分析,经确定可以采集后再对该网元中的数据进行数据采集操作,相较于现有技术中直接对网元中的数据进行采集操作的方式,能够保障网元的安全与稳定的运行,从而有效地提升数据采集的可持续性和数据的完整性。
本实施例所提供的装置,其实现原理及产生的技术效果和前述实施例相同,为简要描述,装置实施例部分未提及之处,可参考前述方法实施例中相应内容。
进一步,本实施例还提供了一种电子设备,包括存储器和处理器,存储器中存储有可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述数据采集方法的步骤。
参见图6所示的一种电子设备的结构示意图,示出了电子设备600,包括:处理器60,存储器61,总线62和通信接口63,处理器60、通信接口63和存储器61通过总线62连接;处理器60用于执行存61中存储的可执行模块,例如计算机程序。
其中,存储器61可能包含高速随机存取存储器(RAM,Random Access Memory),也可能还包括非不稳定的存储器(non-volatile memory),例如至少一个磁盘存储器。通过至少一个通信接口63(可以是有线或者无线)实现该系统网元与至少一个其他网元之间的通信连接,可以使用互联网,广域网,本地网,城域网等。
总线62可以是ISA总线、PCI总线或EISA总线等。总线可以分为地址总线、数据总线、控制总线等。为便于表示,图6中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
其中,存储器61用于存储程序601,处理器60在接收到执行指令后,执行程序601,前述本发明实施例任一实施例揭示的流过程定义的装置所执行的方法可以应用于处理器60中,或者由处理器60实现。
处理器60可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器60中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器60可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital SignalProcessing,简称DSP)、专用集成电路(Application Specific Integrated Circuit,简称ASIC)、现成可编程门阵列(Field-Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本发明实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器61,处理器60读取存储器61中的信息,结合其硬件完成上述方法的步骤。
进一步,本发明实施例还提供了一种计算机可读存储介质,计算机可读存储介质上存储有计算机程序,该计算机程序被处理器运行时执行上述任一项数据采集方法的步骤。具体实现可参见方法实施例,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,又例如,多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些通信接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个处理器可执行的非易失的计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
最后应说明的是:以上所述实施例,仅为本发明的具体实施方式,用以说明本发明的技术方案,而非对其限制,本发明的保护范围并不局限于此,尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化,或者对其中部分技术特征进行等同替换;而这些修改、变化或者替换,并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应所述以权利要求的保护范围为准。
Claims (10)
1.一种数据采集方法,其特征在于,所述方法应用于网元采集系统,包括:
接收指令中心发送的数据采集指令,确定所述数据采集指令对应的目标网元;其中,所述数据采集指令中携带有所述目标网元的标识;
根据所述目标网元的标识,在第一预设存储区中查询所述目标网元的当前状态信息的参数值;其中,所述第一预设存储区中存储有多个所述网元的当前状态信息的参数值;所述当前状态信息包括连线状态、负荷状态和剩余负载量;
判断所述目标网元的当前状态信息的参数值是否符合预设数据采集标准;
如果是,根据所述数据采集指令对所述目标网元中的数据进行数据采集操作。
2.根据权利要求1所述的方法,其特征在于,所述网元采集系统上搭建有spark计算引擎;通过以下方式获取多个所述网元的所述负荷状态的参数值:
按照预设优先级顺序,获取多个所述网元在当前时刻的多种负荷指标的数值;
将多个所述网元的多种所述负荷指标的数值存入第二预设存储区中,以使所述spark计算引擎根据从所述第二预设存储区提取出的多个所述网元的多种所述负荷指标的数值,以实时流式计算方式分别计算得到每个所述网元在当前时刻的负荷分数;
基于每个所述网元在当前时刻的负荷分数,确定多个所述网元在所述第一预设存储区中的所述负荷状态的参数值。
3.根据权利要求2所述的方法,其特征在于,在将多个所述网元的多种所述负荷指标的数值存入第二预设存储区中之后,所述方法还包括:
分别为所述第二预设存储区中的每种所述负荷指标设置失效时长;
当达到所述失效时长时,更新所述失效时长对应的所述负荷指标的数值。
4.根据权利要求2所述的方法,其特征在于,所述第一预设存储区是基于K-V库结构所建立的;所述连线状态的参数值和所述负荷状态的参数值的取值均为0或1。
5.根据权利要求4所述的方法,其特征在于,所述基于每个所述网元在当前时刻的负荷分数,确定多个所述网元在所述第一预设存储区中的所述负荷状态的参数值的步骤,包括:
逐一判断每个所述网元在当前时刻的负荷分数是否大于第一预设阈值;
如果是,确定所述网元在所述第一预设存储区中的所述负荷状态的参数值为0;
如果否,确定所述网元在所述第一预设存储区中的所述负荷状态的参数值为1。
6.根据权利要求4所述的方法,其特征在于,所述方法还包括:
监测每个所述网元的工作状态,当所述工作状态为在线时,确定所述网元在第一预设存储区中的所述连线状态的参数值为1;当所述工作状态为离线时,确定所述网元在第一预设存储区中的所述连线状态的参数值为0。
7.根据权利要求4所述的方法,其特征在于,所述预设数据采集标准包括:
所述连线状态的参数值为1,且,所述负荷状态的参数值为1,且所述剩余负载量大于第二预设阈值。
8.一种数据采集装置,其特征在于,所述装置设置于网元采集系统,包括:
目标网元确定模块,用于接收来自指令中心的数据采集指令,确定所述数据采集指令对应的目标网元;其中,所述数据采集指令携带有网元的标识;
当前状态信息查询模块,用于根据所述目标网元的标识,在预设的第一预设存储区中查询所述目标网元的当前状态信息的参数值;其中,所述第一预设存储区中存储有多个所述网元的当前状态信息的参数值;所述当前状态信息包括连线状态、负荷状态和剩余负载量;
判断模块,用于判断所述目标网元的当前状态信息的参数值是否符合预设数据采集标准;
采集操作模块,用于当所述目标网元的当前状态信息符合预设数据采集标准时,根据所述数据采集指令对所述目标网元中的数据进行数据采集操作。
9.一种电子设备,其特征在于,包括存储器和处理器,所述存储器中存储有可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述权利要求1至7任一项所述的方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质上存储有计算机程序,其特征在于,所述计算机程序被处理器运行时执行上述权利要求1至7任一项所述的方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811002119.7A CN109039826B (zh) | 2018-08-29 | 2018-08-29 | 数据采集方法、装置及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811002119.7A CN109039826B (zh) | 2018-08-29 | 2018-08-29 | 数据采集方法、装置及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109039826A true CN109039826A (zh) | 2018-12-18 |
CN109039826B CN109039826B (zh) | 2019-06-25 |
Family
ID=64625579
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811002119.7A Active CN109039826B (zh) | 2018-08-29 | 2018-08-29 | 数据采集方法、装置及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109039826B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110381140A (zh) * | 2019-07-19 | 2019-10-25 | 潍柴动力股份有限公司 | 事件配置的方法及装置 |
CN111194055A (zh) * | 2019-12-30 | 2020-05-22 | 广东博智林机器人有限公司 | 数据存储频率处理方法、装置、电子设备以及存储介质 |
CN111405644A (zh) * | 2020-03-07 | 2020-07-10 | 广州爱浦路网络技术有限公司 | 一种中心控制的5g通信网元智能节能网及节能方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101304366A (zh) * | 2007-05-08 | 2008-11-12 | 华为技术有限公司 | 一种分组网络中实现负载均衡的方法、装置和系统 |
CN103902745A (zh) * | 2012-12-26 | 2014-07-02 | 中国电信股份有限公司 | 数据采集方法、装置和系统 |
CN105592485A (zh) * | 2016-03-28 | 2016-05-18 | 浪潮通信信息系统有限公司 | 一种基于snmp网管协议实时采集并处理消息的方法 |
CN106657367A (zh) * | 2016-12-30 | 2017-05-10 | 北京三快在线科技有限公司 | 一种业务数据获取方法、装置及系统 |
US20170373923A1 (en) * | 2016-06-24 | 2017-12-28 | AO Kaspersky Lab | System and method for determining and forming a list of update agents |
CN107889126A (zh) * | 2016-09-30 | 2018-04-06 | 中国电信股份有限公司 | 网络状态的识别方法、dpi监测分析设备和网络系统 |
-
2018
- 2018-08-29 CN CN201811002119.7A patent/CN109039826B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101304366A (zh) * | 2007-05-08 | 2008-11-12 | 华为技术有限公司 | 一种分组网络中实现负载均衡的方法、装置和系统 |
CN103902745A (zh) * | 2012-12-26 | 2014-07-02 | 中国电信股份有限公司 | 数据采集方法、装置和系统 |
CN105592485A (zh) * | 2016-03-28 | 2016-05-18 | 浪潮通信信息系统有限公司 | 一种基于snmp网管协议实时采集并处理消息的方法 |
US20170373923A1 (en) * | 2016-06-24 | 2017-12-28 | AO Kaspersky Lab | System and method for determining and forming a list of update agents |
CN107889126A (zh) * | 2016-09-30 | 2018-04-06 | 中国电信股份有限公司 | 网络状态的识别方法、dpi监测分析设备和网络系统 |
CN106657367A (zh) * | 2016-12-30 | 2017-05-10 | 北京三快在线科技有限公司 | 一种业务数据获取方法、装置及系统 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110381140A (zh) * | 2019-07-19 | 2019-10-25 | 潍柴动力股份有限公司 | 事件配置的方法及装置 |
CN110381140B (zh) * | 2019-07-19 | 2022-01-28 | 潍柴动力股份有限公司 | 事件配置的方法及装置 |
CN111194055A (zh) * | 2019-12-30 | 2020-05-22 | 广东博智林机器人有限公司 | 数据存储频率处理方法、装置、电子设备以及存储介质 |
CN111194055B (zh) * | 2019-12-30 | 2022-09-09 | 广东博智林机器人有限公司 | 数据存储频率处理方法、装置、电子设备以及存储介质 |
CN111405644A (zh) * | 2020-03-07 | 2020-07-10 | 广州爱浦路网络技术有限公司 | 一种中心控制的5g通信网元智能节能网及节能方法 |
CN111405644B (zh) * | 2020-03-07 | 2021-06-18 | 广州爱浦路网络技术有限公司 | 一种中心控制的5g通信网元智能节能网及节能方法 |
Also Published As
Publication number | Publication date |
---|---|
CN109039826B (zh) | 2019-06-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109039826B (zh) | 数据采集方法、装置及电子设备 | |
CN109343965A (zh) | 资源调整方法、装置、云平台和服务器 | |
CN112272203B (zh) | 一种集群业务节点选择方法、系统、终端及存储介质 | |
CN103763130B (zh) | 大规模集群的管理方法、装置和系统 | |
US20080086731A1 (en) | Method and system for managing resources in a data center | |
CN104038540A (zh) | 一种应用代理服务器自动选择方法及系统 | |
CN113038538B (zh) | 智能配电网WSNs通信数据传输带宽的优化分配方法及装置 | |
CN105721354B (zh) | 片上网络互联方法及装置 | |
CN115421930B (zh) | 任务处理方法、系统、装置、设备及计算机可读存储介质 | |
CN109492394A (zh) | 异常业务请求的识别方法及终端设备 | |
CN103699443B (zh) | 任务分发方法及扫描器 | |
CN109901921A (zh) | 任务队列执行时间预测方法、装置及实现装置 | |
CN109451540A (zh) | 一种网络切片的资源分配方法和设备 | |
Kalim et al. | Henge: Intent-driven multi-tenant stream processing | |
CN109587072A (zh) | 分布式系统全局限速系统及方法 | |
CN105488134A (zh) | 大数据处理方法及大数据处理装置 | |
CN108810109B (zh) | 一种基于能耗优化的虚拟数据中心放置方法 | |
CN107181616A (zh) | 一种监控存储系统性能数据的方法及系统 | |
CN108683528A (zh) | 一种数据传输方法、中心服务器、服务器及数据传输系统 | |
CN114780244A (zh) | 容器云资源弹性分配方法、装置、计算机设备及介质 | |
CN117762591B (zh) | 任务控制方法、任务控制装置、计算机设备和存储介质 | |
CN106161276A (zh) | 一种调整网络流量的方法和装置 | |
CN105357026B (zh) | 一种资源信息收集方法和计算节点 | |
CN109375146A (zh) | 一种用电数据的补采方法、系统及终端设备 | |
CN105049475B (zh) | 大规模社区的数据高效存储优化方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |