CN115643257A - 一种数据处理方法、系统和相关装置 - Google Patents
一种数据处理方法、系统和相关装置 Download PDFInfo
- Publication number
- CN115643257A CN115643257A CN202211329447.4A CN202211329447A CN115643257A CN 115643257 A CN115643257 A CN 115643257A CN 202211329447 A CN202211329447 A CN 202211329447A CN 115643257 A CN115643257 A CN 115643257A
- Authority
- CN
- China
- Prior art keywords
- target
- side system
- file
- model
- address
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本申请公开了一种数据处理方法、系统和相关装置,通过云侧系统向边缘侧系统发送包括目标文件的文件地址和目标模型的模型地址的目标处理任务,通过边缘侧系统根据文件地址获取目标文件及根据模型地址获取目标模型,以便边缘侧系统利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。其中,云侧系统用于向边缘侧系统下发目标处理任务,边缘侧系统用于完成目标处理任务,由于边缘侧系统接收到目标处理任务后,是先根据文件地址获取目标文件及根据模型地址获取目标模型,再利用目标模型对目标文件进行处理以完成目标处理任务,基于此,边缘侧系统无需存储目标文件及目标模型,由此能够降低对边缘侧系统的硬件资源的要求,从而降低成本。
Description
技术领域
本申请涉及数据处理技术领域,特别是涉及一种数据处理方法、系统和相关装置。
背景技术
随着人工智能技术的发展,出现了大量的远程监控、远程维护等应用。比如在智慧交通领域的应用,通过安装在道路上的监控设备实现远程监控。
这些应用在运行时的数据处理过程由于具有高并发等特点,通常面临宽带和处理时延的问题,为此,可以通过在边缘侧系统部署边缘设备,由于边缘设备靠近端侧,能够大大降低宽度并提高实时性。具体的,边缘侧系统中的边缘设备与云侧系统,基于云边协同以实时进行这些应用在运行时的数据处理。
相关技术中,基于云边协同的处理方式对边缘设备的硬件资源要求较高,导致成本较高等问题。
发明内容
为了解决上述技术问题,本申请提供了一种数据处理方法、系统和相关装置,能够降低对边缘侧系统的硬件资源的要求以及降低成本。
本申请实施例公开了如下技术方案:
一方面,本申请实施例提供了一种数据处理方法,所述方法包括:
通过云侧系统向边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
通过所述边缘侧系统根据所述文件地址获取所述目标文件,通过所述边缘侧系统根据所述模型地址获取所述目标模型;
通过所述边缘侧系统利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
另一方面,本申请实施例提供了一种数据处理系统,所述系统包括云侧系统和边缘侧系统:
所述云侧系统,用于向所述边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述边缘侧系统,用于根据所述文件地址获取所述目标文件,根据所述模型地址获取所述目标模型;
所述边缘侧系统,还用于利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
又一方面,本申请实施例提供了一种数据处理装置,所述装置包括发送单元、获取单元和处理单元:
所述发送单元,用于通过云侧系统向边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述获取单元,用于通过所述边缘侧系统根据所述文件地址获取所述目标文件,通过所述边缘侧系统根据所述模型地址获取所述目标模型;
所述处理单元,用于通过所述边缘侧系统利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
又一方面,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质用于存储计算机程序,所述计算机程序用于执行以上方面所述的数据处理方法。
由上述技术方案可以看出,可以通过云侧系统向边缘侧系统发送包括目标文件的文件地址和目标模型的模型地址的目标处理任务,其中,目标模型用于对目标文件进行处理,进而可以通过边缘侧系统根据文件地址获取目标文件以及根据模型地址获取目标模型,以便于边缘侧系统利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。可见,提供了一种基于云侧系统和边缘侧系统协同的数据处理方法,其中,云侧系统用于向边缘侧系统下发目标处理任务,边缘侧系统用于完成目标处理任务,由于目标处理任务中包括目标文件的文件地址和目标模型的模型地址,边缘侧系统接收到目标处理任务之后,是先根据文件地址获取目标文件以及根据模型地址获取目标模型,再利用目标模型对目标文件进行处理以完成目标处理任务,基于此,边缘侧系统无需存储目标文件以及目标模型,由此能够降低对边缘侧系统的硬件资源的要求,从而降低成本。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种数据处理方法的流程图;
图2为本申请实施例提供的一种数据处理系统的示意图;
图3为本申请实施例提供的一种数据处理装置的结构图。
具体实施方式
为了使本技术领域的人员更好地理解本申请方案,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
随着人工智能技术的发展,出现了大量的远程监控、远程维护等应用。比如在智慧交通领域的应用,通过安装在道路上的监控设备实现远程监控。这些应用在运行时的数据处理过程由于具有高并发等特点,通常面临宽带和处理时延的问题,为此,可以通过在边缘侧系统部署边缘设备,由于边缘设备靠近端侧,能够大大降低宽度并提高实时性。具体的,边缘侧系统中的边缘设备与云侧系统,基于云边协同以实时进行这些应用在运行时的数据处理。
相关技术中,基于云边协同的处理方式中,边缘设备集计算、存储及管理于一体。由于边缘设备属于低功耗、低资源的硬件设备,因此相关技术中集计算、存储及管理于一体的方式使得对边缘设备的硬件资源的要求大大提高,增加成本,同时,增加了对边缘设备运维管理的复杂度,尤其在边缘侧系统中部署的边缘设备数量众多时,运维成本较高。
为此,本申请提供了本申请提供了一种数据处理方法、系统和相关装置,能够降低对边缘侧系统的硬件资源的要求以及降低成本。
本申请实施例所提供的数据处理方法可以通过计算机设备实施,该计算机设备可以是终端设备或服务器,其中,服务器可以是独立的物理服务器,也可以是多个物理服务器构成的服务器集群或者分布式系统,还可以是提供云计算服务的云服务器。终端设备包括但不限于手机、电脑、智能语音交互设备、智能家电、车载终端等。终端设备以及服务器可以通过有线或无线通信方式进行直接或间接地连接,本申请对此不做任何限制。
具体通过如下实施例进行说明:
图1为本申请实施例提供的一种数据处理方法的流程图,以服务器作为前述计算机设备为例进行说明,所述方法包括S101-S103:
S101:通过云侧系统向边缘侧系统发送目标处理任务。
在数据处理过程中,可以通过云侧系统向边缘侧系统发送目标处理任务,该目标处理任务中包括目标文件的文件地址和目标模型的模型地址,其中,目标文件是指目标处理任务中待处理的文件,目标文件的文件地址用于标识该目标文件的存储位置,目标模型是根据目标处理任务的需求确定的、用于对目标文件进行处理,目标模型的模型地址用于标识该目标模型的存储位置。比如,当目标处理任务是对目标文件进行内容识别时,目标模型可以是内容识别模型。具体的,比如内容识别是指对目标文件中的人脸特征进行识别,则可以选择人脸识别模型作为内容识别模型;又如内容识别是指对目标文件中的文本进行识别,则可以选择文本识别模型作为内容识别模型。
需要说明的是,对于目标文件的类型,本申请对此不做任何限定。比如,目标文件可以是视频文件、音频文件等。同样的,对于文件地址以及模型地址的类型,本申请不做任何限定,比如,文件地址以及模型地址可以是URL(Uniform Resoure Locator,统一资源定位器)地址。
S102:通过边缘侧系统根据文件地址获取目标文件,通过边缘侧系统根据模型地址获取目标模型。
当边缘侧系统接收到云侧系统发送的目标处理任务后,可以根据目标处理任务中携带的文件地址获取目标文件、以及根据模型地址获取目标模型,以便于边缘侧系统能够利用目标模型对目标文件进行处理,以完成目标处理任务。
一般的,在边缘侧系统中部署有边缘设备,基于边缘设备进行数据处理,因此在一种可能的实现方式中,当边缘侧系统接收到目标处理任务之后,可以通过边缘侧系统中的边缘设备根据文件地址从端侧系统下载目标文件,通过边缘设备根据模型地址从云侧下载目标模型。基于此,边缘侧系统中的边缘设备可以获取到此次待处理的目标处理任务对应的目标文件和目标模型,以便进行后续的处理步骤。
基于此,提供了一种边缘设备的配置方式,通过边缘设备与云侧系统建立连接,进而将有关存储、管理维护的任务配置在云侧系统,使得边缘设备仅负责对云侧系统分发的处理任务进行处理。也就是说,边缘设备可以只负责数据计算,无需在本地存储目标文件和目标模型,相应也就无需对其进行管理维护。相较于相关技术中边缘设备集计算、存储及管理于一体的配置方式,能够使得边缘设备的硬件资源主要用于数据计算,从而提高数据计算效率。同时,由于在实际应用中通常是运维工程师对边缘设备以及对存储于边缘设备上的模型等进行管理维护,是一种人工的运维方式,运维成本较高,采用本申请提供的配置方式,能够有效降低运维成本。可见,边缘设备进行数据处理的过程是在从云侧系统接收到处理任务之后触发的。可以理解的是,云侧系统向边缘设备下发处理任务需要一定的传输时间,相应的,边缘设备在处理完成一个处理任务之后,还需等待下一个处理任务。为了提高边缘设备计算资源的利用率,在一种可能的实现方式中,还可以获取边缘设备的剩余计算资源,剩余计算资源是指边缘设备当前空闲的计算资源,能够反映该边缘设备空闲的算力,进而根据剩余计算资源,通过云侧系统生成待处理任务,并将该待处理任务推送至边缘设备的任务队列。基于此,实现了云侧系统根据边缘设备空闲的计算资源实时生成待处理任务作为边缘设备的下一个处理任务,是一种云侧系统基于边缘设备算力的动态化生成待处理任务的方式,且云侧系统在生成待处理任务之后将待处理任务推送至边缘设备的任务队列,由此,边缘设备可以直接从任务队列中获取待处理任务以对待处理任务进行处理,无需等待任务传输时间,从而提高边缘设备计算资源的利用率。
在相关技术中边缘设备集计算、存储及管理于一体的配置方式下,文件与模型的绑定属于一种硬绑定,且绑定在边缘设备本地,灵活性差。而基于本申请对边缘设备的配置方式,能够实现云侧动态绑定,具体的,可以通过云侧系统基于边缘设备算力,动态绑定待处理文件与待处理模型得到待处理任务。比如,当边缘设备算力不足时,云侧系统可以不进行绑定生成待处理任务,当边缘设备算力充足时,云侧系统可以进行绑定生成待处理任务,从而通过动态绑定的方式使得任务调度更加灵活。
在实际应用中,为了进一步优化任务调度过程,还可以设置计算资源阈值,计算资源阈值可以表示边缘设备处理一个任务所需的最小计算资源。进而在获取到边缘设备的剩余计算资源之后,可以先将剩余计算资源与计算资源阈值进行比较。进一步,当剩余计算资源大于或等于计算资源阈值时,表明边缘设备当前可能具有处理下一个任务的算力,此时可以通过云侧系统执行动态绑定以生成待处理任务,当剩余计算资源小于计算资源阈值时,表明边缘设备当前不具有处理下一个任务的算力,此时云侧系统可以不执行动态绑定。基于此,能够使得任务调度更加灵活。
相应的,还可以通过边缘设备从任务队列获取待处理任务,以便边缘设备对待处理任务进行处理。具体的,可以通过边缘设备对待处理任务进行解析,得到该待处理任务对应的待处理文件的文件地址以及待处理模型的模型地址,其中,待处理模型用于对待处理文件进行处理;进而可以通过边缘设备根据待处理文件的文件地址从端侧系统下载得到待处理文件、以及根据待处理模型的模型地址从云侧系统下载得到待处理模型,以便边缘设备利用待处理模型对待处理文件进行处理,得到待处理文件的结构化数据。基于此,边缘设备完成对待处理任务的处理。
需要说明的是,对于边缘设备从任务队列获取待处理任务的时机,本申请不做任何限定。比如,边缘设备可以是在完成目标处理任务之后,从任务队列获取待处理任务,基于此,可以依次完成对云侧系统下发的处理任务的处理。又如,边缘设备可以根据自身的计算资源,在处理目标处理任务的同时,从任务队列获取待处理任务,基于此,可以实现对云侧系统下发的处理任务的并发处理,提高对待处理任务的处理效率。
S103:通过边缘侧系统利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。
当边缘系统获取到目标文件以及目标模型之后,可以利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。其中,结构化数据是基于此次目标处理任务的任务要求,利用目标模型对原始的目标文件进行处理得到的,相较于原始的目标文件,其数据体量较小、便于存储,同时能够表征目标文件中符合任务要求的数据特征,后续可以直接调用该结构化数据进行相关应用。
在一种可能的实现方式中,在边缘设备完成目标处理任务之后,可以通过边缘系统将结构化数据推送至云侧系统,进而通过云侧系统存储结构化数据。基于此,边缘侧系统只需进行数据处理,无需存储数据处理得到的结构化数据,而将结构化数据通过推送至云侧系统的方式,利用云侧系统存储,由此,边缘侧系统可以只负责计算功能,而将存储功能部署在云侧系统,从而降低对边缘设备的硬件资源要求以及降低运维管理的复杂度。相应的,在需要利用该结构化数据时,可以从云侧系统调用该结构化数据。
当目标文件为目标视频文件时,为了能够实现对目标视频文件的处理,还可以通过云侧系统管理该目标视频文件对应的视频采集设备的设备信息,其中,视频采集设备用于视频采集以生成目标视频文件。在通过云侧系统管理视频采集设备的设备信息的过程中,可以响应于管理请求,对管理视频采集设备的设备信息进行修改,通过云侧系统实现对视频采集设备的动态化管理。比如,响应于新的视频采集设备A的注册管理请求,将视频采集设备A及其设备信息增加至云侧系统。又如,响应于已管理视频采集设备B的删除管理请求,可以从云侧系统删除该视频采集设备B。
由于视频采集设备的设备信息用于标识该视频采集设备的基本信息,比如设备信息可以包括视频采集设备的唯一设备编号、视频采集设备的地址以及视频采集设备采集生成的视频文件的存储地址等,基于此,可以响应于任务处理请求,通过云侧系统根据视频采集设备的设备信息确定目标视频文件的视频地址。同时,可以通过云侧系统从待定模型中确定目标模型,以便于云侧系统根据视频地址以及目标模型的模型地址配置生成目标处理任务。其中,待定模型存储于云侧系统,即云侧系统存储并管理待定模型。
为了便于理解,本申请基于智慧交通场景,进行说明如下:
在智慧交通场景下,视频采集设备可以是部署在交通道路中的监控摄像机,监控摄像机的设备信息是通过云侧系统进行管理的,目标视频文件可以是该监控摄像机采集到的交通路况视频文件。以任务处理请求为对目标视频文件进行人脸识别处理为例,可以响应于该任务处理请求,通过云侧系统根据监控摄像机的设备信息确定交通路况视频文件的存储地址,以及通过云侧系统从存储的待定模型中选择图像识别模型作为目标模型,进而云侧系统可以根据交通路况视频文件的存储地址以及图像识别模型的存储地址配置生成目标处理任务,并将目标处理任务下发至边缘侧系统。
在边缘侧系统接收到目标处理任务之后,可以利用部署在边缘侧系统中的边缘设备对目标处理任务进行解析以获得交通路况视频文件的存储地址以及图像识别模型的存储地址,进而通过边缘设备根据交通路况视频文件的存储地址从端侧系统下载该交通路况视频文件,根据图像识别模型的存储地址从云侧系统下载该图像识别模型,最后,边缘设备利用图像识别模型对交通路况视频文件进行人脸识别处理,提取交通路况视频文件中的人脸信息以生成交通路况视频文件对应的人脸信息结构化数据。此外,还可以通过边缘侧系统将人脸信息结构化数据推送至云端系统进行存储,在需要调用查看此路段中的人物情况时,可以从云端系统调用人脸信息结构化数据,以对此路段中的人物情况进行查看。
由上述技术方案可以看出,可以通过云侧系统向边缘侧系统发送包括目标文件的文件地址和目标模型的模型地址的目标处理任务,其中,目标模型用于对目标文件进行处理,进而可以通过边缘侧系统根据文件地址获取目标文件以及根据模型地址获取目标模型,以便于边缘侧系统利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。可见,提供了一种基于云侧系统和边缘侧系统协同的数据处理方法,其中,云侧系统用于向边缘侧系统下发目标处理任务,边缘侧系统用于完成目标处理任务,由于目标处理任务中包括目标文件的文件地址和目标模型的模型地址,边缘侧系统接收到目标处理任务之后,是先根据文件地址获取目标文件以及根据模型地址获取目标模型,再利用目标模型对目标文件进行处理以完成目标处理任务,基于此,边缘侧系统无需存储目标文件以及目标模型,由此能够降低对边缘侧系统的硬件资源的要求,从而降低成本。
图2为本申请实施例提供的一种数据处理系统的示意图,包括云侧系统201和边缘侧系统202:
所述云侧系统201,用于向所述边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述边缘侧系统202,用于根据所述文件地址获取所述目标文件,根据所述模型地址获取所述目标模型;
所述边缘侧系统202,还用于利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
在实际应用中,云侧系统201包括视频采集设备管理模块、处理任务配置模块以及模型管理模块,具体的,云侧系统可以通过视频采集设备管理模块管理注册在云侧系统中的视频采集设备及其设备信息,通过模型管理模块管理待定模型,响应于任务处理请求,处理任务配置模块从视频采集设备管理模块获取目标文件的文件地址、从模型管理模型获取目标模型的模型地址,进而处理任务配置模块根据文件地址和模型地址配置生成目标处理任务。最后,通过云侧系统201将目标处理任务发送至边缘侧系统202,实现向边缘侧系统下发处理任务的目的。
相应的,边缘侧系统202包括处理任务解析模块、模型推理模块以及数据推送模块,具体的,边缘侧系统可以利用处理任务解析模块对接收到的目标处理任务进行解析,得到目标处理任务对应的目标文件的文件地址以及目标模型的模型地址,以便于边缘侧系统能够根据文件地址进行拉流下载目标文件,根据模型地址从云侧系统下载目标模型;进而,边缘侧系统可以基于模型推理模块利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据;最后,边缘侧系统可以利用数据推送模块将结构化数据推送至云侧系统,以便通过云侧系统存储结构化数据。
可以理解的是,其基本对应于方法实施例,所以相关之处可以参见方法实施例的部分说明。
图3为本申请实施例提供的一种数据处理装置的结构图,所述装置包括发送单元301、获取单元302和处理单元303:
所述发送单元301,用于通过云侧系统向边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述获取单元302,用于通过所述边缘侧系统根据所述文件地址获取所述目标文件,通过所述边缘侧系统根据所述模型地址获取所述目标模型;
所述处理单元303,用于通过所述边缘侧系统利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
在一种可能的实现方式中,所述获取单元还用于:
通过所述边缘侧系统中的边缘设备根据所述文件地址从端侧系统下载所述目标文件;
通过所述边缘设备根据所述模型地址从所述云侧系统下载目标模型。
在一种可能的实现方式中,所述装置还包括第一推送单元,所述第一推送单元用于:
获取所述边缘设备的剩余计算资源;
根据所述剩余计算资源,通过所述云侧系统生成待处理任务;
通过所述云侧系统将所述待处理任务推送至所述边缘设备的任务队列。
在一种可能的实现方式中,所述装置还包括解析单元,所述解析单元用于:
通过所述边缘设备从所述任务队列获取所述待处理任务;
通过所述边缘设备对所述待处理任务进行解析,得到所述待处理任务对应的待处理文件的文件地址和待处理模型的模型地址;
所述获取单元,还用于通过所述边缘设备根据所述待处理文件的文件地址从所述端侧系统下载所述待处理文件,通过所述边缘设备根据所述待处理模型的模型地址从所述云侧系统下载所述待处理模型;
所述处理单元,还用于通过所述边缘设备利用所述待处理模型对所述待处理文件进行处理,得到所述待处理文件的结构化数据。
在一种可能的实现方式中,所述目标文件为目标视频文件,所述装置还包括管理单元:
所述管理单元,用于通过所述云侧系统管理所述目标视频文件对应的视频采集设备的设备信息。
在一种可能的实现方式中,所述装置还包括确定单元和生成单元:
所述确定单元,用于响应于任务处理请求,通过所述云侧系统根据所述视频采集设备的设备信息确定所述目标视频文件的视频地址,通过所述云侧系统从待定模型中确定所述目标模型;所述待定模型存储于所述云侧系统;
所述生成单元,用于通过所述云侧系统根据所述视频地址和所述模型地址配置生成所述目标处理任务。
在一种可能的实现方式中,所述装置还包括第二推送单元和存储单元:
所述第二推送单元,用于通过所述边缘侧系统将所述结构化数据推送至所述云侧系统;
所述存储单元,用于通过所述云侧系统存储所述结构化数据。
由上述技术方案可以看出,可以通过云侧系统向边缘侧系统发送包括目标文件的文件地址和目标模型的模型地址的目标处理任务,其中,目标模型用于对目标文件进行处理,进而可以通过边缘侧系统根据文件地址获取目标文件以及根据模型地址获取目标模型,以便于边缘侧系统利用目标模型对目标文件进行处理,得到目标文件对应的结构化数据。可见,提供了一种基于云侧系统和边缘侧系统协同的数据处理方法,其中,云侧系统用于向边缘侧系统下发目标处理任务,边缘侧系统用于完成目标处理任务,由于目标处理任务中包括目标文件的文件地址和目标模型的模型地址,边缘侧系统接收到目标处理任务之后,是先根据文件地址获取目标文件以及根据模型地址获取目标模型,再利用目标模型对目标文件进行处理以完成目标处理任务,基于此,边缘侧系统无需存储目标文件以及目标模型,由此能够降低对边缘侧系统的硬件资源的要求,从而降低成本。
又一方面,本申请实施例还提供了一种存储介质,所述存储介质用于存储计算机程序,所述计算机程序用于执行上述实施例提供的数据处理方法。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述程序可以存储于一计算机可读取存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质可以是下述介质中的至少一种:只读存储器(英文:Read-only Memory,缩写:ROM)、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
对于装置实施例而言,由于其基本对应于方法实施例,所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性劳动的情况下,即可以理解并实施。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上对本申请实施例提供的一种数据处理方法、系统和相关装置进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法。同时,对于本领域的一般技术人员,依据本申请的方法,在具体实施方式及应用范围上均会有改变之处。
综上所述,本说明书内容不应理解为对本申请的限制,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到的变化或替换,都应涵盖在本申请的保护范围之内。而且本申请在上述各方面提供的实现方式的基础上,还可以进行进一步组合以提供更多实现方式。
Claims (10)
1.一种数据处理方法,其特征在于,所述方法包括:
通过云侧系统向边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
通过所述边缘侧系统根据所述文件地址获取所述目标文件,通过所述边缘侧系统根据所述模型地址获取所述目标模型;
通过所述边缘侧系统利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
2.根据权利要求1所述的方法,其特征在于,所述通过所述边缘侧系统根据所述文件地址获取所述目标文件,包括:
通过所述边缘侧系统中的边缘设备根据所述文件地址从端侧系统下载所述目标文件;
所述通过所述边缘侧系统根据所述模型地址获取所述目标模型,包括:
通过所述边缘设备根据所述模型地址从所述云侧系统下载目标模型。
3.根据权利要求2所述的方法,其特征在于,所述方法还包括:
获取所述边缘设备的剩余计算资源;
根据所述剩余计算资源,通过所述云侧系统生成待处理任务;
通过所述云侧系统将所述待处理任务推送至所述边缘设备的任务队列。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
通过所述边缘设备从所述任务队列获取所述待处理任务;
通过所述边缘设备对所述待处理任务进行解析,得到所述待处理任务对应的待处理文件的文件地址和待处理模型的模型地址;
通过所述边缘设备根据所述待处理文件的文件地址从所述端侧系统下载所述待处理文件,通过所述边缘设备根据所述待处理模型的模型地址从所述云侧系统下载所述待处理模型;
通过所述边缘设备利用所述待处理模型对所述待处理文件进行处理,得到所述待处理文件的结构化数据。
5.根据权利要求1中任意一项所述的方法,其特征在于,所述目标文件为目标视频文件,所述方法还包括:
通过所述云侧系统管理所述目标视频文件对应的视频采集设备的设备信息。
6.根据权利要求5所述的方法,其特征在于,在所述通过云侧系统向边缘侧系统发送目标处理任务之前,所述方法还包括:
响应于任务处理请求,通过所述云侧系统根据所述视频采集设备的设备信息确定所述目标视频文件的视频地址,通过所述云侧系统从待定模型中确定所述目标模型;所述待定模型存储于所述云侧系统;
通过所述云侧系统根据所述视频地址和所述模型地址配置生成所述目标处理任务。
7.根据权利要求1-6中任意一项所述方法,其特征在于,所述方法还包括:
通过所述边缘侧系统将所述结构化数据推送至所述云侧系统;
通过所述云侧系统存储所述结构化数据。
8.一种数据处理系统,其特征在于,所述系统包括云侧系统和边缘侧系统:
所述云侧系统,用于向所述边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述边缘侧系统,用于根据所述文件地址获取所述目标文件,根据所述模型地址获取所述目标模型;
所述边缘侧系统,还用于利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
9.一种数据处理装置,其特征在于,所述装置包括发送单元、获取单元和处理单元:
所述发送单元,用于通过云侧系统向边缘侧系统发送目标处理任务;所述目标处理任务包括目标文件的文件地址和目标模型的模型地址,所述目标模型用于对所述目标文件进行处理;
所述获取单元,用于通过所述边缘侧系统根据所述文件地址获取所述目标文件,通过所述边缘侧系统根据所述模型地址获取所述目标模型;
所述处理单元,用于通过所述边缘侧系统利用所述目标模型对所述目标文件进行处理,得到所述目标文件对应的结构化数据。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质用于存储计算机程序,所述计算机程序用于执行权利要求1-7中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211329447.4A CN115643257A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理方法、系统和相关装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211329447.4A CN115643257A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理方法、系统和相关装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115643257A true CN115643257A (zh) | 2023-01-24 |
Family
ID=84947400
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211329447.4A Pending CN115643257A (zh) | 2022-10-27 | 2022-10-27 | 一种数据处理方法、系统和相关装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115643257A (zh) |
-
2022
- 2022-10-27 CN CN202211329447.4A patent/CN115643257A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109951538B (zh) | 数据处理方法、装置、系统、电子设备及存储介质 | |
CN109542865B (zh) | 分布式集群系统配置文件同步方法、装置、系统及介质 | |
CN108471366A (zh) | 一种面向云原生应用的立体监控系统 | |
CN104899325A (zh) | 一种app采集数据的收集方法、终端、服务器及系统 | |
CN109858607A (zh) | 一种模型应用方法、管理方法、系统及服务器 | |
CN110719332B (zh) | 数据传输方法、装置、系统、计算机设备和存储介质 | |
CN107146623B (zh) | 基于人工智能的语音识别方法、装置和系统 | |
CN106453572B (zh) | 基于云服务器同步图像的方法及系统 | |
CN111597388B (zh) | 基于分布式系统的样本采集方法、装置、设备及介质 | |
CN103312544A (zh) | 一种控制终端上报日志文件的方法、设备和系统 | |
CN111935663B (zh) | 传感器数据流的处理方法、装置、介质及电子设备 | |
WO2022001941A1 (zh) | 网元管理方法、网管系统、独立计算节点、计算机设备、存储介质 | |
CN105260190A (zh) | 基于安卓系统分发技术的安卓应用的运行方法和系统 | |
CN116755844B (zh) | 一种仿真引擎的数据处理方法、装置、设备及存储介质 | |
CN107181825B (zh) | 终端设备数据的在线处理方法 | |
CN110781058A (zh) | 一种移动端应用性能数据采集方法、装置、设备及介质 | |
CN111813529B (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN110457132A (zh) | 一种功能对象的创建方法、装置和终端设备 | |
CN112559124A (zh) | 一种模型管理系统以及目标操作指令的处理方法和装置 | |
CN115643257A (zh) | 一种数据处理方法、系统和相关装置 | |
CN111539281A (zh) | 分布式人脸识别方法及系统 | |
CN103685491A (zh) | 一种应用服务提供方法、系统及相关设备 | |
CN117082477A (zh) | 任务处理方法和装置、系统、存储介质及电子设备 | |
CN113992493B (zh) | 视频处理方法、系统、设备及存储介质 | |
CN114722071A (zh) | 考勤数据处理方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |