CN114513553A - 一种数据处理方法、装置、电子设备及存储介质 - Google Patents
一种数据处理方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114513553A CN114513553A CN202210141572.6A CN202210141572A CN114513553A CN 114513553 A CN114513553 A CN 114513553A CN 202210141572 A CN202210141572 A CN 202210141572A CN 114513553 A CN114513553 A CN 114513553A
- Authority
- CN
- China
- Prior art keywords
- data
- task
- target
- processed
- management platform
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Data Exchanges In Wide-Area Networks (AREA)
Abstract
本发明公开了一种数据处理方法、装置、电子设备及存储介质,其中,该方法包括:接收目标数据管理平台发送的至少一个待处理任务请求,获取与所述各待处理任务请求相对应的待处理任务数据;根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定数据处理代理层中数据解析包的目标解析函数,确定相应的待处理任务数据的待转换任务数据;对待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;根据目标数据管理平台的平台状态,基于目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使目标数据管理平台对接收到的目标任务数据进行统一管理。实现了对不同类型设备所对应的数据信息的统一监控和管理。
Description
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种数据处理方法、装置、电子设备及存储介质。
背景技术
近些年,随着各类靶场平台在网络安全攻防对抗中的大量应用,移动通信靶场逐步呈现规模大、结构复杂的趋势,对移动通信网络靶场的各种不同类型设备对象的统一数据采集与管理的重要意义变得日益突出。
目前,由于移动通信网络靶场中的各类设备数据以及网络流量数据的系统类型、通信接口以及接口协议等存在较大差异,存在各类数据之间相互独立,无法集中管理的缺点,导致对各类设备数据以及网络流量数据的管理造成了很大的困难和挑战,不利于对多站点设备的统一管理以及对网络靶场资源的合理分配,
为了方便对各类数据的管理,需要对各类设备数据以及网络流量数据的管理方式进行改进。
发明内容
本发明提供一种数据处理方法、装置、电子设备及存储介质,以实现对不同类型设备所对应的数据信息的统一监控和管理。
第一方面,本发明实施例提供了一种数据处理方法,包括:
接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
第二方面,本发明实施例还提供了一种数据处理装置,包括:
待处理任务请求接收模块,用于接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
待转换任务数据确定模块,用于根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
目标任务数据确定模块,用于对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
目标任务数据发送模块,用于根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
第三方面,本发明实施例还提供了一种电子设备,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如本发明实施例任一所述的数据处理方法。
第四方面,本发明实施例还提供了一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行如本发明实施例任一所述的数据处理方法。
本实施例的技术方案,接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,根据目标数据管理平台发送的各待处理任务生成相应的待处理任务请求,并基于各待处理任务请求,从与数据处理代理层相连接的各数据传输接口所对应的目标数据库中获取与各待处理任务请求相对应的待处理任务数据。根据各待处理任务数据待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据,根据各数据传输接口与各设备之间的对应的关系,可以确定从各数据传输接口获取的待处理任务数据的数据类型,进而基于目标解析函数对待处理任务数据所对应的数据包进行解析,得到待转换任务数据。对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,以将各待处理任务数据以目标数据格式发送给目标数据管理平台,以便目标数据管理平台对各设备所对应的数据信息进行统一监控和管理。根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。解决了目标数据管理平台无法对不同类型的设备所对应的数据信息进行统一监控和管理的问题,实现了对不同类型设备所对应的数据信息的统一监控和管理。
附图说明
为了更加清楚地说明本发明示例性实施例的技术方案,下面对描述实施例中所需要用到的附图做一简单介绍。显然,所介绍的附图只是本发明所要描述的一部分实施例的附图,而不是全部的附图,对于本领域普通技术人员,在不付出创造性劳动的前提下,还可以根据这些附图得到其他的附图。
图1为本发明实施例一所提供的一种数据处理方法的流程示意图;
图2为本发明实施例二所提供的一种数据处理方法的流程示意图;
图3为本发明实施例三所提供的一种数据处理代理层的结构示意图;
图4为本发明实施例三所提供的一种数据处理代理层的部署环境的示意图;
图5为本发明实施例四所提供的一种数据处理装置的结构示意图;
图6为本发明实施例五所提供的一种电子设备的结构示意图。
具体实施方式
下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而非对本发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
在对本技术方案进行详细阐述之前,首先对本技术方案的应用场景进行介绍,以更加清楚的理解本技术方案。由于当前移动通信网络靶场中的各类基站设备以及网络传输设备的设备类型、通信接口以及通信协议等存在较大的差异性,对各设备的管理与监控通常采用分别管理的方式,但是这样的管理方式对网络靶场的统一监控与管理造成了较大的困难。因此,为了方便对各设备的统一监控与管理,本技术方案在网络靶场平台与各基站设备以及网络传输设备之间添加了数据处理代理层,基于数据处理代理层采集各基站设备以及网络传输设备的数据信息,然后通过数据处理代理层对采集的数据信息的数据格式转换为结构化数据、半结构化数据或非结构化数据中的至少一种,并将处理后的数据信息发送给网络靶场平台,以实现网络靶场平台对各基站设备以及网络传输设备的数据信息进行统一监控与管理。
图1为本发明实施例一所提供的一种数据处理方法流程示意图,本实施例可适用于在对不同设备所对应的数据信息进行统一化监控与管理的情况,该方法可以由数据处理装置来执行,该装置可以通过软件和/或硬件的形式实现,硬件可以是电子设备,如,移动终端或PC端等。
如图1所示,该方法包括:
S110、接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据。
其中,目标数据管理平台可以理解为对数据进行监控和管理的平台或服务器,如,可以为网络靶场平台,用于对各系统设备、基站设备、网络传输设备业务流程以及运行状态和运行环境的监控和管理。待处理任务请求可以理解为目标数据管理平台需要获取某个设备的数据信息时,基于各设备的属性信息或标识信息等生成的任务请求,目标数据管理平台通过向数据处理代理层发送相应的待处理任务请求,以使数据处理代理层基于各待处理任务请求向各设备获取相应的数据信息。需要说明的是,在待处理任务请求中包括于各待处理任务相对应的任务类型、任务名称、任务标识、任务执行时间以及与待处理任务相对应的数据接口中的至少一个信息。数据处理代理层可以理解为一个代理插件,用于获取各设备的数据信息并对获取的数据信息进行处理,然后将处理后的数据信息以特定的数据格式发送给目标数据管理平台。待处理任务数据可以理解为数据处理代理层通过与各设备之间的数据接口,获取的与各设备相关的数据信息。目标数据库可以理解为用于存储各基站设备或网络传输设备等设备的数据库,目标数据可以为一个,用于存储所有的设备所对应的数据信息,也可以为多个,与各设备相对应,用于存储与该设备相对应的数据信息。
在本技术方案中包括三个部分,分别为目标数据管理平台、数据处理代理层以及基站设备、网络传输设备或系统设备等所对应的设备层。数据处理代理层应用于目标数据管理平台和设备层之间,通过数据传输通道与目标数据管理平台相连接,通过与各设备相对应的数据接口与相应的基站设备或网络传输设备等设备进行连接。
具体的,当目标数据管理平台需要获取某个设备所对应的数据信息时,可以生成相应的待处理任务,并将各待处理任务发送给数据处理代理层,并基于数据处理代理层生成与各待处理任务相对应的待处理任务请求,在待处理任务请求中包括与任务类型、任务名称、任务标识、任务执行时间、待处理任务所对应的设备名称以及与待处理任务所对应的数据接口等信息。然后将生成的至少一个待处理任务请求通过与数据处理代理层相连接的数据传输通道,将各待处理任务请求发送给数据处理代理层。数据处理代理层在接收到各待处理任务请求后,基于各待处理任务请求中携带的任务信息,从目标数据库中获取与各待处理任务请求相对应的待处理任务数据。其中,数据传输通道可以理解为用于传输数据信息的通道,通过数据传输通道,目标数据管理平台可以将待处理任务请求发送给数据处理代理层。
可选的,所述接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,包括:基于与所述目标数据管理平台之间的数据传输通道,接收所述目标数据管理平台发送的至少一个待处理任务;根据所述至少一个待处理任务,生成与各待处理任务相对应的待处理任务请求;从目标数据库中获取与各待处理任务请求相对应的待处理任务数据。
其中,待处理任务可以理解为当目标数据管理平台需要获取设备信息时,基于设备信息生成的任务信息。如,待处理任务可以为目标数据管理平台需要对设备A的数据信息进行获取、查看或管理所对应的任务。
具体的,当目标数据管理平台需要对某个设备的数据信息进行获取、查看、监控或管理等操作时,基于该设备所对应的设备信息可以生成与该设备相对应的待处理任务。在待处理任务中包括与该设备相对应的设备属性信息或标识信息等,可以用于确定相应的设备。得到待处理任务后,目标数据管理平台可以基于与数据处理代理层之间连接的数据传输通道,将待处理任务发送给数据处理代理层,其中,待处理任务可以为一个,也可以为多个。在数据处理代理层接收到各待处理任务后,生成与各待处理任务相对应的待处理任务请求,进而根据各待处理任务请求中携带的数据接口信息,确定与各待处理任务相对应的数据接口,然后从各数据借口中获取与各设备相对应的待处理任务数据。
可选的,所述从目标数据库中获取与各待处理任务请求相对应的待处理任务数据,包括:基于所述各待处理任务请求中的任务标识,生成与各任务标识相对应的任务查询指令;将各任务查询指令发送给所述目标数据库,并从所述目标数据库中获取与所述各任务查询指令相对应的待处理任务数据,作为与所述各待处理任务请求相对应的待处理任务数据。
其中,任务标识可以理解为与各待处理任务相对应的标识性信息,可以用于基于任务标识确定相对应的待处理任务。在目标数据库中可能存在多个数据信息,任务查询指令可以理解为与各待处理任务的任务标识相对应的数据信息。
具体的,在基于各待处理任务请求从目标数据库中获取相对应的数据信息时,可以基于各待处理任务请求中的任务标识生成相应的任务查询指令,并基于各任务查询指令从目标数据库中获取与任务查询指令相对应的待处理任务数据,用于确保获取的数据信息为与待处理任务请求相对应的数据信息,并将获取的数据信息作为与各待处理任务请求相对应的待处理任务数据。
S120、根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据。
其中,数据处理待处理层通过不同的数据接口可以与不同类型的基站设备、网络传输设备以及系统设备等进行对应连接,由于各设备所对应的数据信息的数据类型可能是不同的,因此,在获取各设备相应的数据信息时,需要根据不同的数据类型采用不同的数据获取方式。如,数据类型可以包括设备运行状态、设备属性信息、移动网基站设备数据、移动网模拟基站设备数据、核心网网元设备数据、移动网络核心路由器设备数据以及核心交换机设备数据中的至少一种;还可以包括网络流量数据信息,如移动网用户面数据和移动网信令面数据中的至少一种。设备类型可以理解为与不同的数据类型相对应的待处理任务所对应的设备的类型。需要说明的是,数据处理代理层从各数据接口中获取的与各设备相对应的数据信息时,所获得的数据信息是以数据包的信息发送给数据处理代理层的,也就是说,数据处理代理层获取的是与各设备相对应的数据包,数据解析包可以理解为用于获取的数据包进行解析的包文件。在数据解析包中可以包含多个目标解析函数,用于对不同的数据类型进行解析。在对数据包进行解析后,得到与各待处理任务请求相对应的待处理任务数据,进一步的,还需要将各待处理任务数据进行数据格式的转换,待转换任务数据可以理解为需要进行格式转换的待处理任务数据。
具体的,在对各设备所对应的待处理任务数据进行处理时,根据各待处理任务数据所对应的数据类型的不同,需要采用不同的处理方式。首先,确定给待处理任务数据所对应的数据类型,并将该数据类型确定为与各待处理任务数据相对应的设备的类型,如,基站设备类型或者网络流量传输设备类型等。然后针对不同的设备类型,从数据处理代理层中的数据解析包中确定相应的目标解析函数,并基于目标解析函数对各设备类型所对应的待处理任务数据进行处理,以得到对应的待转换任务数据。
S130、对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据。
其中,目标任务数据可以理解为对各待转换任务数据进行转换后,与目标数据格式相对应的任务数据。
具体的,目标数据管理平台在对各设备的数据信息进行管理时,所有的设备所对应的数据信息必须与目标数据格式相对应,其中,目标数据格式包括结构化数据、半结构化数据或非结构化数据。因此,需要对待转换任务数据的数据格式进行转换,得到与目标数据格式相对应的目标任务数据。
可选的,所述对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,包括:基于数据格式转换器对所述待转换任务数据的数据格式进行转换,得到目标数据格式;生成与所述目标数据格式相对应的目标任务数据。
其中,数据格式转换器可以理解为用于进行数据格式转换的软件或插件,可以将各种数据格式转换为目标数据格式。
具体的,为了方便目标数据管理平台对各设备所对应的数据信息进行统一的监控和管理,数据处理代理层在将各待处理任务数据发送给目标数据管理平台之前,需要对各待处理任务数据的数据格式转换为目标数据格式,并将与目标数据格式相对应的待转换任务数据发送给目标数据管理平台。在对待转换任务数据进行数据格式转换时,可以数据格式转换器,将各种数据格式转换为目标数据格式,即,结构化数据、半结构化数据或者非结构化数据。
S140、根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
其中,目标数据管理平台的平台状态可以理解为当前时刻目标数据管理平台是否处于执行任务的状态,可以包括空闲状态和忙碌状态。目标数据发送方式可以理解为根据目标数据管理平台的平台状态确定相应的数据发送方式。
具体的,目标数据管理平台的平台状态可以包括空闲状态和忙碌状态,为了不影响目标数据管理平台的正常运行,可以根据目标数据管理平台当前时刻所对应的平台状态确定相应的目标数据发送方式,并基于目标发送方式将目标任务数据发送给目标数据管理平台,以使目标数据管理平台对接收到的目标任务数据进行统一管理。
可选的,所述基于目标发送方式将所述目标任务数据发送给目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理,包括:根据预设数据传输时段与所述目标数据管理平台的平台状态的对应关系,确定所述目标数据管理平台的平台状态;其中,所述目标数据管理平台的平台状态包括空闲状态和忙碌状态。
其中,为了不影响目标数据管理平台的正常运行,可以在目标数据平台处于空闲状态时进行数据传输,预设数据传输时段可以理解为预先设置的用于数据传输的时间段,如,可以在每晚8点之后进行数据传输,也可以是根据对目标数据管理平台的平台状态进行检测,当目标数据管理平台处于空闲状态时,将空闲状态所对应的时间作为预设数据传输时段。
通常情况下,目标数据管理平台的平台状态分为空闲状态和忙碌状态,也就是说,当目标数据平台正处于执行任务的状态时,所对应的平台状态为忙碌状态;反之,当目标数据平台,根据目标数据管理平台未执行任务时,所对应的平台状态为空闲状态。确定目标数据管理平台的平台状态的方法分为两种,一种是预先设置一定的时间段作为数据传输时段,另一种方式可以为根据目标数据管理平台当前是否正在执行任务确定目标管理平台所对应的平台状态,并将目标数据管理平台未执行任务的时段作为数据传输时段。进一步的,根据预设数据传输时段与平台状态的对应关系,确定目标数据管理平台的平台状态为空闲状态。
可选的,若所述目标数据管理平台处于空闲状态,将所述目标任务数据直接发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理;若所述目标数据管理平台处于忙碌状态,将所述目标任务数据存储至目标存储区域,在当前时刻处于预设数据传输时段时,将所述目标任务数据发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
具体的,若目标数据管理平台的平台状态为空闲状态,即目标数据管理平台未处于执行任务阶段,此时数据处理代理层可以将目标任务数据直接发送给目标数据管理平台,以使目标数据管理平台对接收到的目标任务数据进行统一监控和管理。反之,若目标数据管理平台的平台状态为忙碌状态,若此时向目标数据管理平台发送目标任务数据可能会影响目标数据管理平台的正常运行,因此,需要将目标任务数据先存储在数据处理代理层中的目标存储区域,然后在目标数据管理平台处于预设数据传输时段时,再将目标任务数据发送给目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
本实施例的技术方案,接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,根据目标数据管理平台发送的各待处理任务生成相应的待处理任务请求,并基于各待处理任务请求,从与数据处理代理层相连接的各数据传输接口所对应的目标数据库中获取与各待处理任务请求相对应的待处理任务数据。根据各待处理任务数据待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据,根据各数据传输接口与各设备之间的对应的关系,可以确定从各数据传输接口获取的待处理任务数据的数据类型,进而基于目标解析函数对待处理任务数据所对应的数据包进行解析,得到待转换任务数据。对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,以将各待处理任务数据以目标数据格式发送给目标数据管理平台,以便目标数据管理平台对各设备所对应的数据信息进行统一监控和管理。根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。解决了目标数据管理平台无法对不同类型的设备所对应的数据信息进行统一监控和管理的问题,实现了对不同类型设备所对应的数据信息的统一监控和管理。
实施例二
作为上述实施例的一可选实施例,图2为本发明实施例二所提供的一种数据处理方法的流程示意图,可选的,对所述根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据进行细化。
如图2所示,该方法包括:
S210、接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据。
S220、根据所述各待处理任务数据所对应的数据传输接口,以及各数据传输接口与各设备类型的对应关系,确定与所述待处理任务数据相对应的设备类型。
其中,数据传输接口可以理解为用于传输待处理任务数据的接口,设置在各基站设备或网络传输设备与数据处理代理层之间。
具体的,不同的基站设备或网络传输设备的设备类型、通信接口以及通信协议等存在较大的差异性,对不同的设备所对应的待处理任务数据需要采用不同的数据处理方式。为了确定对各待处理任务数据的所对应的数据类型,进一步的根据数据类型确定各待处理任务请求相对应的设备类型,可以预先确定各设备所连接的数据传输接口与各数据类型之间的对应关系。然后数据处理代理层通过获取待处理任务数据所对应的数据接口可以确定与待处理任务数据相对应的设备类型,以便采用数据处理代理层中与设备类型相对应的目标解析函数对待处理任务数据进行解析。
示例性地,若数据传输接口A连接的是基站设备,数据传输接口B连接的是网络传输设备,当数据处理代理层从数据接口A中获取与基站设备相对应的待处理任务数据时,采用数据处理代理层中的用于解析基站设备数据的解析函数对获取的待处理任务数据进行解析。当数据处理代理层从数据接口B中获取与网络设备相对应的待处理任务数据时,采用数据处理代理层中的用于解析网络流量数据的解析函数对获取的待处理任务数据进行解析。
S230、从数据解析包中调取与所述设备类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据。
具体的,确定待处理任务数据所对应的数据类型后,基于确定的数据类型,从数据解析包中调用相应的目标解析函数对待处理任务数据进行解析,以得到待转换任务数据。
可选的,所述目标解析函数包括基站设备数据解析函数和网络流量数据解析函数,所述从数据解析包中调取与所述设备类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据,包括:若所述待处理任务数据的待处理任务所对应的设备类型为基站设备类型,则基于基站设备数据解析函数对所述基站设备的数据包进行解析,得到与各基站设备类型相对应的基站设备数据;若所述待处理任务数据的待处理任务所对应的设备类型为网络传输设备类型,则基于网络流量数据解析函数对所述网络传输设备的数据包进行解析,得到与各网络传输类型相对应的网络流量数据。
其中,基站设备数据解析函数可以理解为用于解析与基站设备相对应的待处理任务数据的函数,如可以是一个程序代码,也可以是一个网络管理协议,如可以采用简单网络网络协议,即SNMP管理协议,用于对基站设备相关的待处理任务数据进行解析、查看或监管等。基站设备数据可以包括移动网基站设备数据、移动网模拟基站设备数据、核心网网元设备数据、移动网络核心路由器设备数据以及核心交换机设备数据等数据。网络流量数据解析函数可以理解为用于对网络传输设备所对应的网络流量传输过程中的网络流量数据进行解析的函数,网络流量数据包括移动网用户面数据和移动网信令面数据中的至少一种。
具体的,若待处理任务数据所对应的待处理任务相匹配的设备类型为基站设备,则数据处理代理层通过数据传输接口获取的与各基站设备相对应的数据包中的待处理任务数据的数据类型为基站设备数据,从数据处理代理层中调取与基站设备数据相对应的基站设备数据解析函数对获取的数据包进行解析,以得到与各基站设备相对应的待转换任务数据。若待处理任务数据所对应的待处理任务相匹配的设备类型为网络传输设备,则数据处理代理层通过数据传输接口获取的与各网络传输设备相对应的数据包中的待处理任务数据的数据类型为网络流量数据,则基于网络流量数据解析函数对获取的与网络传输设备相对应的数据包进行解析,得到与各网络传输类型相对应的网络流量数据,并将得到的网络流量数据作为待转换任务数据。
S240、对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据。
S250、根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
本实施例的技术方案,根据所述各待处理任务数据所对应的数据传输接口,以及各数据传输接口与各数据类型的对应关系,确定与所述待处理任务数据相对应的数据类型,根据数据传输接口所对应的数据类型,可以确定获取的待处理任务数据所对应的数据类型,进而基于数据类型确定对获取的数据包所对应的目标解析函数。从数据解析包中调取与所述数据类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据,通过对不同数据类型的待处理任务数据采用不同的解析函数进行解析后,得到待转换任务数据以基于对待转换任务数据的数据格式进行转换,得到与目标数据格式相对应的目标任务数据。解决了无法对不同的数据类型的待处理任务数据所对应的数据包进行解析的问题,实现了基于不同的解析函数对不同的数据类型所对应的数据包进行解析,以得到与各设备相对应的待处理任务数据的效果。
实施例三
在一个具体的例子中,以目标数据管理平台为网络靶场平台,各基站设备为4G/5G移动网基站设备、4G/5G移动网模拟基站设备、4G/5G核心网网元设备、移动网络核心路由器设备、核心交换机设备,网络数据传输设备为4G/5G移动网网络流量传输设备为例,在目标数据管理网络平台和各基站设备以及网络数据传输设备之间设备数据处理代理层,然后基于数据处理代理层接收目标数据管理平台发送的任务(即,待处理任务),并基于待处理任务生成相应的待处理任务请求,基于各待处理任务请求,获取与各基站设备和网络数据传输设备相对应的待处理任务数据,并对得到的待处理任务数据进行处理得到目标任务数据,将目标任务数据反馈给目标数据管理平台。
需要说明的是,如图3所示,数据处理代理层通过数据传输通道与目标数据管理平台相连接,通过与各种数据类型相对应的数据接口与各基站设备和网络传输设备相连接。数据处理代理层在待处理任务数据进行采集时,可以对采集对象层中的各设备所对应的待处理任务数据进行采集,采集对象层包括4G/5G移动网基站设备、4G/5G移动网模拟基站设备、4G/5G核心网网元设备、移动网络核心路由器设备以及核心交换机设备,以及4G/5G移动网网络流量传输设备。数据处理代理层主要包括任务解析层、数据存储层以及数据采集解析层,其中,数据采集解析层又可以分为数据采集层和数据解析层,其中数据采集主要对网管协议、4G/5G移动网用户面数据采集及4G/5G移动网信令面数据采集;数据解析层负责对采集到的流量的解析与管理,包括基本功能、协议解析以及各类流量的原始报文捕获。数据存储层负责将采集解析层生成的各类结构化数据、半结构化数据以及非结构化类数据进行存储,支持本地代理数据库存储以及反馈给目标数据管理平台进行存储。任务解析层负责对各类待处理任务进行解析并且通过调用上述6类采集对象的数据采集与各设备相连接的数据传输通道完成任务的下发。
其中,需要说明的是,4G/5G移动网基站设备所对应的待处理任务数据包括基本信息、小区信息、BBU信息、AAU/RRU信息、铁塔信息以及频谱信息等。4G/5G移动网模拟基站设备所对应的待处理任务数据包括模拟基站设备的虚拟信息、基站的基本信息、小区信息、BBU信息、AAU/RRU信息、铁塔信息以及频谱信息等。4G/5G核心网网元设备所对应的待处理任务数据包括4G/5G移动通信核心网网元设备运行状态数据、设备的TRAP告警信息以及设备SYSLOG信息等。移动网络核心路由器设备所对应的待处理任务数据包括移动网络核心路由协议版本号以及路由配置信息等。核心交换机设备所对应的待处理任务数据包括移动网络核心交换机版本号和配置信息等。4G/5G移动网目标网络流量所对应的待处理任务数据包括4G/5G移动网目标网络各端口的应用层流量信息、网络层流量信息等,也可计算分析目标网络传输丢包率、流量时延以及流量抖动等数据信息。
在数据处理代理层获取与各基站设备以及网络数据传输设备相对应的数据包后,基于各待处理任务数据所对应的数据类型,采用不同的目标解析函数对获得的数据包进行解析,得到与各设备相对应的待转换任务数据,然后对各待转换任务数据进行数据格式的转换,得到与目标数据格式相对应的目标任务数据,并将目标任务数据反馈为目标数据管理平台,以使目标数据管理平台对各设备所对应的数据信息进行统一监控与管理。其中,目标数据格式包括结构化数据、半结构化数据以及非结构化数据。
需要说明的是,数据处理代理层可以部署在满足特定硬件条件要求的服务器上。针对不同的基站设备或网络传输设备进行数据采集,:4G/5G移动网基站设备、4G/5G移动网模拟基站设备、4G/5G核心网网元设备、移动网络核心路由器设备、核心交换机设备以及4G/5G移动网网络流量传输设备。数据处理代理层在目标数据管理平台和各设备之间的部署环境如图4所示,目标数据管理平台通过调用数据处理代理层进行待处理任务的下发与响应。如,待处理任务可以为对4G/5G移动网基站设备、4G/5G移动网模拟基站设备、4G/5G核心网网元设备、移动网络核心路由器设备以及核心交换机设备的设备数据进行采集。数据处理代理层通过与目标数据管理平台相连接数数据传输通道,获取各待处理任务。然后基于各待处理任务生成相应的待处理任务请求,基于各待处理任务请求获取与各基站设备以及网络数据传输设备相对应的待处理任务数据。需要说明的是,4G/5G移动网的网络流量又可以分为移动通信网络用户面流量与信令面流量,需要对目标网络内的多链路数据首先进行汇聚分流,然后通过汇聚分流设备接入数据采集代理,进行流量的分析、处理、入库、响应等后续处理。
本实施例的技术方案,接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,根据目标数据管理平台发送的各待处理任务生成相应的待处理任务请求,并基于各待处理任务请求,从与数据处理代理层相连接的各数据传输接口所对应的目标数据库中获取与各待处理任务请求相对应的待处理任务数据。根据各待处理任务数据待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据,根据各数据传输接口与各设备之间的对应的关系,可以确定从各数据传输接口获取的待处理任务数据的数据类型,进而基于目标解析函数对待处理任务数据所对应的数据包进行解析,得到待转换任务数据。对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,以将各待处理任务数据以目标数据格式发送给目标数据管理平台,以便目标数据管理平台对各设备所对应的数据信息进行统一监控和管理。根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。解决了目标数据管理平台无法对不同类型的设备所对应的数据信息进行统一监控和管理的问题,实现了对不同类型设备所对应的数据信息的统一监控和管理。
实施例四
图5为本发明实施例四提供的一种数据处理装置,该装置包括:待处理任务请求接收模块310、待转换任务数据确定模块320、目标任务数据确定模块330和目标任务数据发送模块340。
其中,待处理任务请求接收模块310,用于接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
待转换任务数据确定模块320,用于根据各待处理任务数据所对应的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
目标任务数据确定模块330,用于对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
目标任务数据发送模块340,用于根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
本实施例的技术方案,接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,根据目标数据管理平台发送的各待处理任务生成相应的待处理任务请求,并基于各待处理任务请求,从与数据处理代理层相连接的各数据传输接口所对应的目标数据库中获取与各待处理任务请求相对应的待处理任务数据。根据各待处理任务数据待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据,根据各数据传输接口与各设备之间的对应的关系,可以确定从各数据传输接口获取的待处理任务数据的数据类型,进而基于目标解析函数对待处理任务数据所对应的数据包进行解析,得到待转换任务数据。对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,以将各待处理任务数据以目标数据格式发送给目标数据管理平台,以便目标数据管理平台对各设备所对应的数据信息进行统一监控和管理。根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。解决了目标数据管理平台无法对不同类型的设备所对应的数据信息进行统一监控和管理的问题,实现了对不同类型设备所对应的数据信息的统一监控和管理。
在本发明实施例中任一可选技术方案的基础上,可选地,所述待处理任务请求接收模块,包括:
待处理任务接收子模块,用于基于与所述目标数据管理平台之间的数据传输通道,接收所述目标数据管理平台发送的至少一个待处理任务;
待处理任务请求生成子模块,用于根据所述至少一个待处理任务,生成与各待处理任务相对应的待处理任务请求;
待处理任务数据获取子模块,用于从目标数据库中获取与各待处理任务请求相对应的待处理任务数据。
在本发明实施例中任一可选技术方案的基础上,可选地,所述待处理任务数据获取子模块,包括
任务查询指令生成单元,用于基于所述各待处理任务请求中的任务标识,生成与各任务标识相对应的任务查询指令;
待处理任务数据确定单元,用于将各任务查询指令发送给所述目标数据库,并从所述目标数据库中获取与所述各任务查询指令相对应的待处理任务数据,作为与所述各待处理任务请求相对应的待处理任务数据。
在本发明实施例中任一可选技术方案的基础上,可选地,所述待转换任务数据确定模块,包括:
设备类型确定子模块,用于根据所述各待处理任务数据所对应的数据传输接口,以及各数据传输接口与各设备类型的对应关系,确定与所述待处理任务数据相对应的设备类型;
待转换任务数据确定子模块,用于从数据解析包中调取与所述设备类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据。
在本发明实施例中任一可选技术方案的基础上,可选地,所述待转换任务数据确定子模块,包括:
基站设备数据解析单元,用于若所述待处理任务数据的待处理任务所对应的设备类型为基站设备类型,则基于基站设备数据解析函数对所述基站设备的数据包进行解析,得到与各基站设备类型相对应的基站设备数据;其中,所述基站设备数据包括移动网基站设备数据、移动网模拟基站设备数据、核心网网元设备数据、移动网络核心路由器设备数据以及核心交换机设备数据中的至少一种;
网络流量数据解析单元,用于若所述待处理任务数据的待处理任务所对应的设备类型为网络传输设备类型,则基于网络流量数据解析函数对所述网络传输设备的数据包进行解析,得到与各网络传输类型相对应的网络流量数据;其中,所述网络流量数据包括移动网用户面数据和移动网信令面数据中的至少一种。
在本发明实施例中任一可选技术方案的基础上,可选地,所述目标任务数据确定模块,包括:
目标数据格式确定子模块,用于基于数据格式转换器对所述待转换任务数据的数据格式进行转换,得到目标数据格式;
目标任务数据生成子模块,用于生成与所述目标数据格式相对应的目标任务数据。
在本发明实施例中任一可选技术方案的基础上,可选地,所述目标任务数据发送模块,包括:
平台状态确定子模块,用于根据预设数据传输时段与所述目标数据管理平台的平台状态的对应关系,确定所述目标数据管理平台的平台状态;其中,所述目标数据管理平台的平台状态包括空闲状态和忙碌状态;
第一目标任务数据发送子模块,用于若所述目标数据管理平台处于空闲状态,将所述目标任务数据直接发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理;
第二目标任务数据发送子模块,用于若所述目标数据管理平台处于忙碌状态,将所述目标任务数据存储至目标存储区域,在当前时刻处于预设数据传输时段时,将所述目标任务数据发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
本发明实施例所提供的数据处理装置可执行本发明任意实施例所提供的数据处理方法,具备执行方法相应的功能模块和有益效果。
值得注意的是,上述装置所包括的各个单元和模块只是按照功能逻辑进行划分的,但并不局限于上述的划分,只要能够实现相应的功能即可;另外,各功能单元的具体名称也只是为了便于相互区分,并不用于限制本发明实施例的保护范围。
实施例五
图6为本发明实施例五提供的一种电子设备的结构示意图。图6示出了适于用来实现本发明实施例实施方式的示例性电子设备40的框图。图6显示的电子设备40仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,电子设备40以通用计算设备的形式表现。电子设备40的组件可以包括但不限于:一个或者多个处理器或者处理单元401,系统存储器402,连接不同系统组件(包括系统存储器402和处理单元401)的总线403。
总线403表示几类总线结构中的一种或多种,包括存储器总线或者存储器控制器,外围总线,图形加速端口,处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说,这些体系结构包括但不限于工业标准体系结构(ISA)总线,微通道体系结构(MAC)总线,增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。
电子设备40典型地包括多种计算机系统可读介质。这些介质可以是任何能够被电子设备40访问的可用介质,包括易失性和非易失性介质,可移动的和不可移动的介质。
系统存储器402可以包括易失性存储器形式的计算机系统可读介质,例如随机存取存储器(RAM)404和/或高速缓存存储器405。电子设备40可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例,存储系统406可以用于读写不可移动的、非易失性磁介质(图6未显示,通常称为“硬盘驱动器”)。尽管图6中未示出,可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器,以及对可移动非易失性光盘(例如CD-ROM,DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下,每个驱动器可以通过一个或者多个数据介质接口与总线403相连。存储器402可以包括至少一个程序产品,该程序产品具有一组(例如至少一个)程序模块,这些程序模块被配置以执行本发明各实施例的功能。
具有一组(至少一个)程序模块407的程序/实用工具408,可以存储在例如存储器402中,这样的程序模块407包括但不限于操作系统、一个或者多个应用程序、其它程序模块以及程序数据,这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块407通常执行本发明所描述的实施例中的功能和/或方法。
电子设备40也可以与一个或多个外部设备409(例如键盘、指向设备、显示器410等)通信,还可与一个或者多个使得用户能与该电子设备40交互的设备通信,和/或与使得该电子设备40能与一个或多个其它计算设备进行通信的任何设备(例如网卡,调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口411进行。并且,电子设备40还可以通过网络适配器412与一个或者多个网络(例如局域网(LAN),广域网(WAN)和/或公共网络,例如因特网)通信。如图所示,网络适配器412通过总线403与电子设备40的其它模块通信。应当明白,尽管图6中未示出,可以结合电子设备40使用其它硬件和/或软件模块,包括但不限于:微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。
处理单元401通过运行存储在系统存储器402中的程序,从而执行各种功能应用以及数据处理,例如实现本发明实施例所提供的数据处理方法。
实施例六
本发明实施例六还提供一种包含计算机可执行指令的存储介质,所述计算机可执行指令在由计算机处理器执行时用于执行数据处理方法,该方法包括:
接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
根据各待处理任务数据所对应的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
本发明实施例的计算机存储介质,可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。
计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。
计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括——但不限于无线、电线、光缆、RF等等,或者上述的任意合适的组合。
可以以一种或多种程序设计语言或其组合来编写用于执行本发明实施例操作的计算机程序代码,所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言——诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
注意,上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解,本发明不限于这里所述的特定实施例,对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此,虽然通过以上实施例对本发明进行了较为详细的说明,但是本发明不仅仅限于以上实施例,在不脱离本发明构思的情况下,还可以包括更多其他等效实施例,而本发明的范围由所附的权利要求范围决定。
Claims (10)
1.一种数据处理方法,其特征在于,包括数据处理代理层,包括:
接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
2.根据权利要求1所述的方法,其特征在于,所述接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据,包括:
基于与所述目标数据管理平台之间的数据传输通道,接收所述目标数据管理平台发送的至少一个待处理任务;
根据所述至少一个待处理任务,生成与各待处理任务相对应的待处理任务请求;
从目标数据库中获取与各待处理任务请求相对应的待处理任务数据。
3.根据权利要求2所述的方法,其特征在于,所述从目标数据库中获取与各待处理任务请求相对应的待处理任务数据,包括:
基于所述各待处理任务请求中的任务标识,生成与各任务标识相对应的任务查询指令;
将各任务查询指令发送给所述目标数据库,并从所述目标数据库中获取与所述各任务查询指令相对应的待处理任务数据,作为与所述各待处理任务请求相对应的待处理任务数据。
4.根据权利要求1所述的方法,其特征在于,所述根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据,包括:
根据所述各待处理任务数据所对应的数据传输接口,以及各数据传输接口与各设备类型的对应关系,确定与所述待处理任务数据相对应的设备类型;
从数据解析包中调取与所述设备类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据。
5.根据权利要求4所述的方法,其特征在于,所述目标解析函数包括基站设备数据解析函数和网络流量数据解析函数,所述从数据解析包中调取与所述设备类型相对应的目标解析函数,对所述待处理任务数据进行解析,得到待转换任务数据,包括:
若所述待处理任务数据的待处理任务所对应的设备类型为基站设备类型,则基于基站设备数据解析函数对所述基站设备的数据包进行解析,得到与各基站设备类型相对应的基站设备数据;其中,所述基站设备数据包括移动网基站设备数据、移动网模拟基站设备数据、核心网网元设备数据、移动网络核心路由器设备数据以及核心交换机设备数据中的至少一种;
若所述待处理任务数据的待处理任务所对应的设备类型为网络传输设备类型,则基于网络流量数据解析函数对所述网络传输设备的数据包进行解析,得到与各网络传输类型相对应的网络流量数据;其中,所述网络流量数据包括移动网用户面数据和移动网信令面数据中的至少一种。
6.根据权利要求1所述的方法,其特征在于,所述对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据,包括:
基于数据格式转换器对所述待转换任务数据的数据格式进行转换,得到目标数据格式;
生成与所述目标数据格式相对应的目标任务数据。
7.根据权利要求1所述的方法,其特征在于,所述根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理,包括:
根据预设数据传输时段与所述目标数据管理平台的平台状态的对应关系,确定所述目标数据管理平台的平台状态;其中,所述目标数据管理平台的平台状态包括空闲状态和忙碌状态;
若所述目标数据管理平台处于空闲状态,将所述目标任务数据直接发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理;
若所述目标数据管理平台处于忙碌状态,将所述目标任务数据存储至目标存储区域,在当前时刻处于预设数据传输时段时,将所述目标任务数据发送给所述目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
8.一种数据处理装置,其特征在于,包括:
待处理任务请求接收模块,用于接收目标数据管理平台发送的至少一个待处理任务请求,并基于各待处理任务请求从目标数据库中获取与所述各待处理任务请求相对应的待处理任务数据;其中,所述待处理任务请求中包括任务类型、任务名称、任务标识、任务执行时间以及与所述待处理任务相对应的数据接口中的至少一个信息;
待转换任务数据确定模块,用于根据各待处理任务数据所对应的待处理任务相匹配的设备类型,确定所述数据处理代理层中数据解析包的目标解析函数,以基于所述目标解析函数确定相应待处理任务数据的待转换任务数据;
目标任务数据确定模块,用于对所述待转换任务数据的数据格式进行,得到与目标数据格式相对应的目标任务数据;其中,所述待处理任务数据包括基站设备数据和流量数据中的至少一种,目标数据格式包括结构化数据、半结构化数据和非结构化数据中的至少一种;
目标任务数据发送模块,用于根据所述目标数据管理平台的平台状态,确定目标数据发送方式,以基于所述目标数据发送方式将所述目标任务数据发送至目标数据管理平台,以使所述目标数据管理平台对接收到的目标任务数据进行统一管理。
9.一种电子设备,其特征在于,所述电子设备包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的数据处理方法。
10.一种包含计算机可执行指令的存储介质,其特征在于,所述计算机可执行指令在由计算机处理器执行时用于执行如权利要求1-7中任一所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210141572.6A CN114513553A (zh) | 2022-02-16 | 2022-02-16 | 一种数据处理方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210141572.6A CN114513553A (zh) | 2022-02-16 | 2022-02-16 | 一种数据处理方法、装置、电子设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114513553A true CN114513553A (zh) | 2022-05-17 |
Family
ID=81551076
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210141572.6A Pending CN114513553A (zh) | 2022-02-16 | 2022-02-16 | 一种数据处理方法、装置、电子设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114513553A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117118868A (zh) * | 2023-07-03 | 2023-11-24 | 合肥拓扑信息科技有限公司 | 一种分布式移动自组网靶标监控评估系统和方法 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108259371A (zh) * | 2016-12-28 | 2018-07-06 | 亿阳信通股份有限公司 | 一种基于流处理的网络流量数据解析方法和装置 |
CN108964971A (zh) * | 2018-05-23 | 2018-12-07 | 国政通科技股份有限公司 | 一种数据交换平台 |
CN109714327A (zh) * | 2018-12-21 | 2019-05-03 | 深圳市元征科技股份有限公司 | 数据处理方法、装置、终端、系统及服务器 |
CN109885610A (zh) * | 2019-02-13 | 2019-06-14 | 北京百度网讯科技有限公司 | 一种结构化数据的抽取方法、装置、电子设备及存储介质 |
CN111416845A (zh) * | 2020-03-12 | 2020-07-14 | 腾讯云计算(北京)有限责任公司 | 一种配置边缘设备的方法、装置及存储介质 |
CN111459944A (zh) * | 2020-04-07 | 2020-07-28 | 北京红山信息科技研究院有限公司 | 一种mr数据存储方法、装置、服务器及存储介质 |
CN112860798A (zh) * | 2021-02-10 | 2021-05-28 | 挂号网(杭州)科技有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN113766026A (zh) * | 2021-09-09 | 2021-12-07 | 国网电子商务有限公司 | 一种应用于能源工业网的数据处理方法及系统 |
CN113840292A (zh) * | 2020-06-04 | 2021-12-24 | 中国移动通信集团福建有限公司 | 一种基于微服务的基站开通系统、方法、装置及设备 |
-
2022
- 2022-02-16 CN CN202210141572.6A patent/CN114513553A/zh active Pending
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108259371A (zh) * | 2016-12-28 | 2018-07-06 | 亿阳信通股份有限公司 | 一种基于流处理的网络流量数据解析方法和装置 |
CN108964971A (zh) * | 2018-05-23 | 2018-12-07 | 国政通科技股份有限公司 | 一种数据交换平台 |
CN109714327A (zh) * | 2018-12-21 | 2019-05-03 | 深圳市元征科技股份有限公司 | 数据处理方法、装置、终端、系统及服务器 |
CN109885610A (zh) * | 2019-02-13 | 2019-06-14 | 北京百度网讯科技有限公司 | 一种结构化数据的抽取方法、装置、电子设备及存储介质 |
CN111416845A (zh) * | 2020-03-12 | 2020-07-14 | 腾讯云计算(北京)有限责任公司 | 一种配置边缘设备的方法、装置及存储介质 |
CN111459944A (zh) * | 2020-04-07 | 2020-07-28 | 北京红山信息科技研究院有限公司 | 一种mr数据存储方法、装置、服务器及存储介质 |
CN113840292A (zh) * | 2020-06-04 | 2021-12-24 | 中国移动通信集团福建有限公司 | 一种基于微服务的基站开通系统、方法、装置及设备 |
CN112860798A (zh) * | 2021-02-10 | 2021-05-28 | 挂号网(杭州)科技有限公司 | 数据处理方法、装置、电子设备及存储介质 |
CN113766026A (zh) * | 2021-09-09 | 2021-12-07 | 国网电子商务有限公司 | 一种应用于能源工业网的数据处理方法及系统 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117118868A (zh) * | 2023-07-03 | 2023-11-24 | 合肥拓扑信息科技有限公司 | 一种分布式移动自组网靶标监控评估系统和方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN101997925A (zh) | 具有预警功能的服务器监控方法及其系统 | |
CN110069358A (zh) | 调用链跟踪分析方法、装置、电子设备及存储介质 | |
CN112511218B (zh) | 一种基于微服务的卫星地面站监控系统 | |
CN110177300B (zh) | 程序运行状态的监控方法、装置、电子设备和存储介质 | |
CN112965879A (zh) | 数据处理方法、装置、电子设备及可读存储介质 | |
CN113225339B (zh) | 网络安全监测方法、装置、计算机设备及存储介质 | |
CN114513553A (zh) | 一种数据处理方法、装置、电子设备及存储介质 | |
CN112417016B (zh) | 一种数据交换方法、系统、设备及存储介质 | |
CN117176802B (zh) | 一种业务请求的全链路监控方法、装置、电子设备及介质 | |
CN111935177B (zh) | 一种业务控制方法及装置 | |
CN113760562A (zh) | 链路追踪方法、装置、系统、服务器和存储介质 | |
CN111274104B (zh) | 数据处理方法、装置、电子设备及计算机可读存储介质 | |
JPH10320362A (ja) | 通知サービスを含むネットワークにおける通知伝送方法とこれを利用するためのネットワーク | |
WO2023273539A1 (zh) | 航班查询系统业务监控方法、装置、设备及存储介质 | |
CN112367296B (zh) | 一种业务控制方法及装置 | |
CN114756301A (zh) | 日志处理方法、装置和系统 | |
CN112367297A (zh) | 一种业务控制方法及装置 | |
CN113794719B (zh) | 一种基于Elasticsearch技术网络异常流量分析方法、装置和电子设备 | |
CN112367298B (zh) | 一种业务控制方法及装置 | |
CN112291209B (zh) | 一种前端设备目录获取方法及装置 | |
CN117097635B (zh) | 调用链路采样方法、装置、存储介质及设备 | |
CN112291207B (zh) | 一种前端设备目录获取方法及装置 | |
CN216904929U (zh) | 网络集成系统 | |
CN112291210B (zh) | 一种前端设备目录获取方法及装置 | |
CN207833509U (zh) | 一种mooc平台的信息整合框架 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |