CN114710485A - 处理方法和处理装置 - Google Patents
处理方法和处理装置 Download PDFInfo
- Publication number
- CN114710485A CN114710485A CN202210158930.4A CN202210158930A CN114710485A CN 114710485 A CN114710485 A CN 114710485A CN 202210158930 A CN202210158930 A CN 202210158930A CN 114710485 A CN114710485 A CN 114710485A
- Authority
- CN
- China
- Prior art keywords
- target
- electronic device
- node
- information
- network
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012545 processing Methods 0.000 title claims abstract description 71
- 238000003672 processing method Methods 0.000 title abstract description 23
- 238000000034 method Methods 0.000 claims abstract description 76
- 238000013500 data storage Methods 0.000 claims description 25
- 230000003993 interaction Effects 0.000 claims description 19
- 238000002372 labelling Methods 0.000 claims description 14
- 238000004422 calculation algorithm Methods 0.000 claims description 12
- 230000002159 abnormal effect Effects 0.000 claims description 11
- 230000000007 visual effect Effects 0.000 claims description 9
- 230000000977 initiatory effect Effects 0.000 claims description 6
- 238000013507 mapping Methods 0.000 claims description 6
- 238000011084 recovery Methods 0.000 claims description 6
- 230000004044 response Effects 0.000 claims description 5
- 230000008569 process Effects 0.000 description 22
- 238000004891 communication Methods 0.000 description 11
- 230000006870 function Effects 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 230000005856 abnormality Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 5
- 239000003795 chemical substances by application Substances 0.000 description 4
- 239000003999 initiator Substances 0.000 description 4
- 241001465754 Metazoa Species 0.000 description 3
- 230000009471 action Effects 0.000 description 3
- 230000007547 defect Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000001960 triggered effect Effects 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 230000002452 interceptive effect Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 241000412611 Consul Species 0.000 description 1
- 230000008878 coupling Effects 0.000 description 1
- 238000010168 coupling process Methods 0.000 description 1
- 238000005859 coupling reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 235000021110 pickles Nutrition 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Exchanges In Wide-Area Networks (AREA)
- Computer And Data Communications (AREA)
Abstract
本申请公开一种处理方法和处理装置,该方法及装置响应于目标网络中的第一电子设备获得第一目标任务,获取目标网络中的第二电子设备具有的节点服务的信息(目标网络由第一电子设备和多个第二电子设备组成,且目标网络分布在预置空间内),至少基于获得的节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,其中,第一目标子任务是第一目标任务的一部分,第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
Description
技术领域
本申请属于数据协作技术领域,尤其涉及一种处理方法和处理装置。
背景技术
数据协作场景中,传统方案一般基于集中式方法进行任务分发与计算/存储,并将任务分发给集中的云服务器,该方式使得任务分发处理的延迟较高,同时集中式的数据存储使得在服务器崩溃情况下难以保证数据安全。
因此,提供一种任务协作的优化解决方案对于本领域来说非常重要。
发明内容
为此,本申请公开如下技术方案:
一种处理方法,包括:
响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,所述目标网络由所述第一电子设备和多个所述第二电子设备组成,所述目标网络分布在预置空间内;
至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,所述第一目标子任务是所述第一目标任务的一部分;
其中,所述第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
可选的,所述响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,包括:
响应于所述第一电子设备的网关服务获得来自操作体和/或第三电子设备的交互输入,确定获得所述第一目标任务,将所述第一电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取所述多个第二电子设备具有的节点服务的信息,其中,所述第三电子设备包括或不包括所述第二电子设备。
可选的,所述至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,包括:
至少基于所述节点服务的信息确定目标分配策略,所述目标分配策略至少用于将所述第一目标任务分为多个第一目标子任务;
通过所述第一电子设备的网关服务将所述多个第一目标子任务对应分发至所述多个第二电子设备、以及通过所述网关服务接收对应的执行结果。
可选的,至少基于所述节点服务的信息确定目标分配策略,包括:
由所述第一电子设备发起博弈算法,基于所述节点服务的信息计算不同分配策略的评分,基于所述评分确定所述目标分配策略,所述博弈算法用于计算不同分配策略下各节点服务的负载均衡情况。
可选的,所述的方法,还包括:
通过所述第一电子设备的网关服务获得每一第二电子设备针对所述第一目标子任务的执行结果;
至少基于所述第一目标子任务的信息对所述执行结果进行拼接处理,得到所述第一目标任务的处理结果;且/或,
卸载所述第一电子设备中的第一目标任务,以及通知对应的第二电子设备卸载对应的第一目标子任务。
可选的,多个第二电子设备基于多备份方式进行数据存储;所述方法还包括:
如果监测到所述目标网络中存在第二电子设备退出所述目标网络,调整所述目标网络的网络拓扑结构信息,根据调整后的网络拓扑结构信息触发对所述第二电子设备所存储数据的重备份处理;
和/或,如果监测到所述目标网络中存在数据存储异常的第二电子设备,触发对所述数据存储异常的第二电子设备的数据重备份处理,以实现数据恢复;
其中,所述重备份处理为基于纠删码的备份处理。
可选的,所述目标网络中的电子设备基于虚拟节点划分规则被划分为多个虚拟节点,并通过所述虚拟节点进行第一目标子任务处理,和/或,至少存储接收到的第一目标子任务和/或所述执行结果;
所述网关服务对应存储有所述目标网络中电子设备与虚拟节点的映射关系。
可选的,所述的方法,还包括:
响应于所述第二电子设备中的至少之一的网关服务获得来自操作体和/或第三电子设备的交互输入,将获得所述交互输入的第二电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取目标网络下其他电子设备具有的节点服务的信息,其中,所述第三电子设备包括目标网络下的所述其他电子设备。
可选的,接收的所述执行结果包括目标识别结果,所述方法还包括以下至少之一:
通过所述网关服务基于所接收执行结果中的目标识别结果进行目标标注处理,并通过可视化界面展示目标标注结果。
通过所述网关服务输出第一目标任务对应的日志信息;
通过所述网关服务对关键信息进行存储,所述关键信息为与所述第一目标任务相关的信息。
一种处理装置,包括:
获取模块,用于响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,所述目标网络由所述第一电子设备和所述多个第二电子设备组成,所述目标网络分布在预置空间内;
分发与接收模块,用于至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,所述第一目标子任务是所述第一目标任务的一部分;
其中,所述第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
另外,本申请实施例还提供一种第一电子设备,包括:
存储器,用于存放计算机指令集;
处理器,用于通过执行计算机指令集,实现如上文任项所述的处理方法。
本申请实施例还公开一种存储介质,所述存储介质上至少存储有一组计算机指令集,计算机指令集在运行时用于实现如上文任一项公开的处理方法。
由以上方案可知,本申请公开的处理方法和处理装置,响应于目标网络中的第一电子设备获得第一目标任务,获取目标网络中的第二电子设备具有的节点服务的信息(目标网络由第一电子设备和多个第二电子设备组成,且目标网络分布在预置空间内),至少基于获得的节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,其中,第一目标子任务是第一目标任务的一部分,第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
本申请向分布在预置空间内的目标网络引入中心节点概念,通过将目标网络中获得第一目标任务的第一电子设备作为目标网络的中心节点,在目标网络的多个第二电子设备间进行任务分发,实现了对任务的协作分发,至少克服了传统基于集中式方法进行任务分发(如任务发起方设备或网关设备或服务器等基于集中式方法向目标网络的多个设备进行任务分发)所存在的高延迟缺陷,提升了任务分发效率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1是本申请提供的处理方法的一种流程示意图;
图2是本申请提供的根据目标网络的网络拓扑结构信息动态选取目标网络的中心节点的实现过程图;
图3是本申请提供的向多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果的实现过程图;
图4是本申请提供的处理方法的另一种流程示意图;
图5是本申请提供的处理方法的又一种流程示意图;
图6是本申请提供的处理方法的再一种流程示意图;
图7是本申请提供的处理方法的再一种流程示意图;
图8是本申请提供的本申请方法一应用场景的场景架构图;
图9是本申请提供的基于中心节点的网关服务进行任务协作分发的示意图;
图10是本申请提供的处理装置的组成结构图;
图11是本申请提供的第一电子设备的组成结构图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
本申请公开一种处理方法和处理装置,用于克服传统基于集中式方法进行任务分发与计算/存储的方案所存在的任务分发延迟高、数据存储安全性低等问题。该处理方法可应用于第一电子设备,第一电子设备可以是但不限于众多通用或专用的计算装置环境或配置下的设备,例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、手机、电子手表、AR/VR 设备、多处理器装置、各种嵌入式设备等等。
本申请方法的一典型应用场景是,利用第一电子设备在目标网络中进行协作式任务分发,其中,目标网络分布在预置空间内,目标网络由上述第一电子设备和多个第二电子设备组成,第一电子设备具体在目标网络中协助任务发起方设备或网关设备或服务器(如云端服务器)等设备在目标网络的多个第二电子设备间进行任务分发,基于第一电子设备对任务分发的协作,避免集中式的任务分发。
可选的,目标网络为边缘网络,本申请公开的技术方案主要应用于边缘网络场景或某一具体的空间内,如家庭空间、办公区域、学校、教室、甚至会议室等不同空间范围的具体空间内,所述具体空间内具有多个能够组成边缘网络的电子设备。
边缘网络就近利用周边的一些小算力终端(如,笔记本电脑、手机、平板、VR、AR、MR、XR、服务器、工作站等)作为边缘设备,来提供高质量的计算服务。边缘网络中的边缘设备/边缘节点相应为构成边缘网络的各个小算力终端。所述边缘设备具有相同或不同的硬件平台和/或操作系统。
本申请实施例公开的处理方法的实现过程如图1所示,具体包括:
步骤101、响应于目标网络中的第一电子设备获得第一目标任务,获取目标网络中的第二电子设备具有的节点服务的信息。
本申请实施例中,目标网络中的至少部分设备(如第一电子设备及至少部分第二电子设备)上部署有网关服务,网关服务是微服务架构中的API (ApplicationProgramming Interface,应用程序接口)网关,用于但不限于提供以下服务中的至少部分服务:统一目标网络中各设备(如边缘网络中各边缘设备)的输入输出,目标网络中心节点动态选举,基于目标网络的中心节点角色参与任务的协作分发,数据分布管理,缓存管理,相关基础服务。
同时,目标网络的各设备上还分别部署有节点服务,网关服务的数据来自各节点服务的支持,节点服务提供的服务包括但不限于任务协作,数据分布式存储、资源自动发现等一系列服务。
本步骤101中,具体的,响应于第一电子设备的网关服务获得来自操作体和/或第三电子设备的交互输入,确定获得上述第一目标任务,并基于第一电子设备获得第一目标任务这一事件,将第一电子设备确定为目标网络的中心节点,以目标网络为边缘网络等预置空间内的网络为例,传统技术中,边缘网络等预置空间内的网络是去中心化的,不具有中心节点,本申请实施例向边缘网络引入中心节点的概念,通过在边缘网络各设备中部署网关服务,并基于网关服务将网络中获得第一目标任务的设备(即第一电子设备)作为边缘网络的中心节点,以用于基于中心节点角色负责后续的任务分发协作等所需处理。
响应于第一电子设备获得第一目标任务,作为中心节点的第一电子设备通过部署的网关服务,获取目标网络中多个第二电子设备具有的节点服务的信息。申请人发现,边缘设备间形成的自组织网络拓扑结构是不断变化且不可预测的,使得数据/任务分发方案设计的难度增加,针对该问题,本实施例中,网关服务通过监测用户终端在边缘网络等目标网络的加入或退出,动态、实时维护目标网络的网络拓扑结构信息,并基于最新维护的目标网络的网络拓扑结构信息,获取目标网络中多个第二电子设备具有的节点服务的信息。
其中,第一电子设备的网关服务获得的来自操作体的交互输入,包括但不限于作用于第一电子设备前端UI(User Interface,用户界面)或设备硬件(如摄像头、麦克风等)的输入。第一电子设备的网关服务获得的来自第三电子设备的交互输入,包括但不限于:通过后端对应的服务器或网关设备获得的通信数据输入,或通过目标网络中的第二电子设备(如第二电子设备为任务发起设备)获得的输入,对此不作限制。也就是说,上述第三电子设备包括或不包括目标网络中的第二电子设备。
进一步,可选的,除了包括第一电子设备和多个第二电子设备,目标网络还可以包括至少一第三电子设备,第三电子设备可以是与第一第二电子设备处于同一级别的设备,也可以是不同等级(节点)的设备。
第一电子设备通过网关服务获取的多个第二电子设备具有的节点服务的信息(也可称为“节点服务信息”),至少包括节点服务的使用情况。节点服务的使用情况包括但不限于节点是否被占用、占用的比例、节点服务对应的资源类型、资源标识和能反映各类型资源使用情况的设备运行时参数等信息。
其中,节点服务对应的资源类型包括但不限于处理器资源、磁盘资源、内存资源、寄存器资源等多种与算力/存储能力相关的资源类型;资源标识包括但不限于硬盘型号、处理器型号等相关标识信息;能反映各类型资源使用情况的设备运行时参数,包括但不限于第二电子设备当前各类型资源的占用率、设备上运行的线程数/进程数、任务数、可用带宽、数据流流量、数据传输速率、拥塞情况信息、历史任务执行成功率、执行时间等中的部分或全部信息。
在其他实施方式中,第一电子设备通过网关服务获取的多个第二电子设备具有的节点服务的信息,还可以包括第二电子设备的网络信息,也即第二电子设备在所属的目标网络如边缘网络中对应的网络信息。其中,第二电子设备的网络信息,包括但不限于第二电子设备自身网络状况信息如网络拥塞情况,以及第二电子设备在所属的目标如边缘网络中对应的网络环境信息。
第二电子设备的网络环境信息包括:第二电子设备在所属的目标网络中对应的各个相邻电子设备的设备标识,以及各个相邻设备的节点服务信息(如负载,网络拥塞情况等)。
在上述实施方式中,可选的,第二电子设备在所属目标网络中对应的各个相邻电子设备的设备标识,由第二电子设备基于获取的该目标网络如边缘网络的网络拓扑结构信息确定;第二设备在该目标网络中对应的各个相邻电子设备的节点服务信息,由第二电子设备基于确定的各个相邻电子设备的设备标识,通过对各个相邻电子设备进行节点服务信息请求获取,以此使得在第二电子设备得到其对应的网络信息,并将对应的网络信息结合自身节点服务的使用情况作为第二电子设备的节点服务信息,反馈至第一电子设备。
需要说明的是,在其他实施方式中,网关服务还可以基于监测并维护的目标网络的网络拓扑结构信息,动态选取目标网络的中心节点。
该实施方式中,可以在具备向目标网络的不同设备进行任务分发的任务分发需求(例如云服务器请求任务协作)时,临时选举中心节点,并基于选取的中心节点至少完成当前任务的协作处理(任务分发、执行结果的拼接等);或者,也可以是在动态选举策略中设置一个中心节点有效时间,有效时间内中心节点有效,这样在需进行任务分发时只要现有中心节点未失效,则直接采用现有中心节点进行任务分发。
可选的,参见图2,该实施方式中,动态选取目标网络的中心节点的过程具体可实现为:
步骤201、基于目标网络的网络拓扑结构信息,获取目标网络中各电子设备的节点服务的信息。
目标网络中各电子设备的节点服务的信息,至少包括电子设备的节点服务的使用情况,除此之外,还可以包括电子设备在目标网络中对应的网络信息,关于节点服务的使用情况信息和对应的网络信息,具体可参见上文的说明,这里不再赘述。
步骤202、基于预设的动态选举策略,从目标网络中选举节点服务信息满足预设条件的边缘设备作为目标网络的中心节点。
在获取目标网络中各电子设备的节点服务的信息后,基于各电子设备的节点服务的信息确定各电子设备的服务情况、负载状况以及在网络中的布局位置、网络环境等信息,在此基础上,基于动态选举策略,从目标网络中选举节点服务的信息满足预设条件的边缘设备作为目标网络的中心节点。
其中,上述动态选举策略至少能用于使目标网络中的不同电子设备被选举为中心节点的概率满足均衡条件。预设条件可以是但不限于与电子设备的位置、负载、能提供的服务等相关的一个条件或一组条件。
针对上述动态选举策略及预设条件,示例性的,以第一电子设备通过服务器或网关设备等第三电子设备获得第一目标任务为例,可先从目标网络中选取几个距离服务器或网关设备较近即满足距离条件的节点作为候选中心节点,再进一步从候选中心节点中选择负载较小即满足负载条件的节点作为中心节点,同时还可以结合公平性原则,优先将满足上述距离条件和负载条件的节点中最近预设时间内未作为中心节点的相应节点选取为中心节点,以避免长时间/频繁地将目标网络中某节点作为中心节点,而导致长时间/频繁地提升该节点的额外开销。
步骤102、至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果。
其中,第一目标子任务是第一目标任务的一部分。第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
参见图3,至少基于获得的节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,具体可实现为:
步骤301、至少基于获得节点服务的信息确定目标分配策略,目标分配策略至少用于将第一目标任务分为多个第一目标子任务。
在目标网络中,如边缘设备形成的边缘网络中,各节点为平级节点,在完成中心节点的动态选举后,由中心节点发起博弈算法,即具体由第一电子设备发起博弈算法,在发起的博弈算法中基于节点服务的信息计算不同分配策略的评分,并基于评分结果确定目标分配策略。
其中,博弈算法至少用于计算不同分配策略下各节点服务的负载均衡情况。
具体的,在博弈算法中,第一电子设备可基于各个第二电子设备的节点服务的信息,如节点是否被占用、占用的比例、节点服务对应的资源类型、资源标识和能反映各类型资源使用情况的设备运行时参数以及第二电子设备对应的网络信息等一系列信息,通过各个第二电子设备的可利用空间、存储/ 处理能力、与第一电子设备的距离等相关参数,从负载均衡、距离就近、存储/处理效率、能够满足所需的备份数量等多个维度,实现对不同分配策略进行评分,并按各个分配策略分别对应的评分值,确定对第一目标任务的目标分配策略。
确定的目标分配策略,包括但不限于:将第一目标任务拆分成几个第一目标子任务,各个第一目标子任务分别对应怎样的任务量,采用目标网络中的哪些第二电子设备参与任务分发与协作、哪些第二电子设备不采用,分别将每一第一目标子任务对应分发给哪个第二电子设备等中的任意一项或多项。
步骤302、通过第一电子设备的网关服务将多个第一目标子任务对应分发至所述多个第二电子设备、以及通过网关服务接收对应的执行结果。
在确定出目标分配策略之后,第一电子设备按目标分配策略将第一目标任务拆分为多个第一目标子任务,并按目标分配策略通过其网关服务将多个第一目标子任务对应分发至多个第二电子设备。
针对第一目标任务为数据存储任务的情况,第一目标任务的任务分发相应包括待存储数据的数据分发。
在一实施方式中,可选的,为了提高系统负载均衡,为目标网络的每个电子设备如边缘网络的每个边缘设备引入虚拟节点,并具体根据设定的虚拟节点划分规则将每个电子设备划分成多个虚拟节点,每个虚拟节点用于进行对应的子任务处理,或存储接收到的第一目标子任务和/或第一目标子任务的执行结果。具体的,如,利用虚拟节点存储基于数据编码生成的条带内容等。
网关服务存储并维护有目标网络中各电子设备与虚拟节点的映射关系,例如,具体存储并维护边缘网络中每一边缘设备的IP地址与边缘设备各虚拟节点的编号的对应关系。
上述的虚拟节点划分规则,可以是但不限于,基于目标网络中不同电子设备的可用资源量和/或服务能力,将电子设备划分为对应数量的虚拟节点,其中,电子设备的可用资源量和/或服务能力越高,对应划分的虚拟节点数量越多。
该实施方式中,在对第一目标任务进行分发处理时,具体可基于各个第二电子设备中虚拟节点的使用情况,如虚拟节点是否被占用、占用比例,或进一步结合各个第二电子设备的网络信息,将第一目标任务的各个第一目标子任务分发至多个第二电子设备的各个虚拟节点,以提高目标网络的系统负载均衡。
以第一目标任务为数据存储任务为例,具体可基于目标分配策略将待存储数据拆分成多个数据块,每个数据块视为第一目标任务的一个第一目标子任务,对于每个数据块,可选的,本申请实施例基于随机分发方式,将数据块按设定的备份数量分发至目标网络多个第二电子设备对应的各个未被占用的虚拟节点,基于虚拟节点以及统计学中的随机思想使得目标网络中多个第二电子设备的负载均衡。
多个第二电子设备分别接收对应的第一目标子任务,并基于其提供的节点服务处理接收的第一目标子任务。
第一目标子任务可以是但不限于数据存储或数据计算任务,第二电子设备相应通过对应的数据存储或计算,完成对所接收的第一目标子任务的处理,并将任务处理所得的执行结果反馈至第一电子设备,第一电子设备通过其网关服务接收各第二电子设备反馈的执行结果,以便于后续基于各第二电子设备反馈的执行结果,得到第一目标任务的执行结果。
可选的,本申请实施例中,第一电子设备通过远程过程调用机制对第一目标任务的各个第一目标子任务执行数据序列化,并按照目标分配策略将完成序列化的各个第一目标子任务传输给对应的第二电子设备,以在第二电子设备执行数据反序列化和以对应服务处理第一目标子任务后,接收第二电子设备反馈的执行结果。
远程过程调用基于网络套接字(Socket)以动态代理模式的方式实现,具体在第一电子设备及第二电子设备端封装有基于RPC代理类实现的RPC代理,和RPC代理类所依赖的socket组件,通过RPC代理实现远程过程调用。RPC代理包括socket连接管理、序列化和发送/接收等子模块,其中,socket连接管理子模块利用socket组件完成不同设备间或同一设备不同进程间的通信,序列化子模块负责对数据的序列化工作,如利用Pickle在数据传输前完成对数据的序列化工作等,发送/接收子模块负责数据的收发。
且具体的,RPC代理分为客户端和服务端两个模块,其中,客户端提供任务分发/任务协作发起设备(如第一电子设备)端功能,服务端提供协作设备 (如第二电子设备)端功能,以支持电子设备既可以基于客户端身份进行任务分发(如,计算任务或数据存储任务的分发),又可以基于服务端身份接收任务(如接收分配的第一目标子任务)。其中,客户端通过RPC代理将数据序列化后通过socket传输给服务端,服务端通过RPC代理反序列化数据并对数据进行所需处理(如对第一目标子任务的任务处理)后再以同样的方式返回给客户端,即,基于RPC代理将数据序列化后通过socket返回给客户端。
由以上方案可知,本实施例的方法,向分布在预置空间内的目标网络引入中心节点概念,通过将目标网络中获得第一目标任务的第一电子设备作为目标网络的中心节点,在目标网络的多个第二电子设备间进行任务分发,实现了对任务的协作分发,至少克服了传统基于集中式方法进行任务分发(如任务发起方设备或网关设备或服务器等基于集中式方法向目标网络的多个设备进行任务分发)所存在的高延迟缺陷,提升了任务分发效率。
另外,本实施例通过为目标网络的每个电子设备引入虚拟节点,根据相应的虚拟节点划分规则将每个电子设备划分成多个虚拟节点,并在第二电子设备以虚拟节点为单位(而非整个第二电子设备)提供子任务处理功能,进一步提升了目标网络的系统负载均衡度,同时提升了在目标网络进行任务分发、协作时任务分配的合理性。
在一实施例中,参见图4提供的处理方法流程图,本申请公开的处理方法在步骤102之后,还可以包括:
步骤103、通过第一电子设备的网关服务获得每一第二电子设备针对对应的第一目标子任务的执行结果。
具体的,网关服务通过第一电子设备上的RPC代理类,调用所依赖的 socket组件与各参与任务协作的第二电子设备进行设备间通信,通过设备间通信接收各第二电子设备反馈的相应第一目标子任务的执行结果,并对其反序列化。
步骤104、至少基于第一目标子任务的信息对各执行结果进行拼接处理,得到第一目标任务的处理结果。
第一电子设备接收到各第二电子设备的执行结果并完成反序列后,至少基于第一目标子任务的信息对反序列化后的执行结果进行拼接处理。
示例性的,第一目标任务为串流数据,相应可按各个第一目标子任务的时序对各个第一目标子任务的执行结果进行拼接处理,得到第一目标任务的处理结果。
在其他实施方式中,第一目标任务为非串流数据,该实施方式中,按各个执行结果所对应的第一目标子任务的任务标识/标签,对各个执行结果进行拼接处理,得到第一目标任务的处理结果。其中,各个执行结果所对应的第一目标子任务的任务标识/标签之间的关联,表征不同第一目标子任务之间的逻辑关联,如,序号相邻的标签表征对应的两个第一目标子任务在第一目标任务中为逻辑上耦合的两个任务块。通过对各个第一目标子任务的拼接处理得到第一目标任务的处理结果。
除了第一目标子任务的信息,可选的,还可以但不限于基于设备信息、时间信息、任务信息等任意一种或多种其他信息,对各执行结果进行拼接处理,对此不做限制。
需要说明的是,第一电子设备可以参与或不参与对第一目标任务的协作处理,对此不作限制,可视实际情况而定,如果第一电子设备在第一目标任务执行过程中参与任务协作,则第一电子设备对对应第一目标子任务的执行结果同样参与拼接处理,如按其对应的时序参与拼接,或按其对应的任务标识/标签参与拼接等。
由于本申请向分布在预置空间内的目标网络如边缘网络引入中心节点概念,通过中心节点进行数据协作分发,从而可有效克服传统基于集中式方法进行任务分发(如任务发起方设备或网关设备或服务器等基于集中式方法向目标网络的多个设备进行任务分发)所存在的高延迟缺陷,提升了任务分发效率。
在一实施例中,参见图5提供的处理方法流程图,本申请公开的处理方法,在步骤104之后,还可以包括:
步骤105、卸载第一电子设备中的第一目标任务,以及通知对应的第二电子设备卸载对应的第一目标子任务。
可选的,在得到第一目标任务的执行结果后,第一电子设备进一步执行对第一目标任务的卸载操作,包括但不限于从待执行列表中删除任务,以及释放第一目标任务对应的资源,如释放第一目标任务的相关任务数据、中间数据所占用的CPU等计算资源,和/或磁盘/内存/寄存器等存储资源。
除此之外,第一电子设备还向参与任务协作的各个第二电子设备发送通知信息,各个第二电子设备基于接收的通知信息卸载对应的第一目标子任务,包括但不限于从待执行列表中删除对应的第一目标子任务,以及释放第一目标子任务对应的资源。
本实施例在通过拼接子任务执行结果得到任务的执行结果后,及时在参与协作的各个电子设备上对已协作完成的任务进行卸载,尽可能节省了对各个电子设备的资源占用。
在一实施例中,多个第二电子设备基于多备份方式进行数据存储,基于多备份方式所存储的数据,可以是第一目标子任务的任务数据(如数据存储任务中对应的用户数据),或者对相应第一目标子任务处理后所得的执行结果数据,对此不作限制。
该实施例中,参见图6提供的处理方法流程图,本申请公开的处理方法还可以包括以下处理中的至少一种:
步骤106、如果监测到目标网络中存在第二电子设备退出目标网络,调整目标网络的网络拓扑结构信息,根据调整后的网络拓扑结构信息触发对所述第二电子设备所存储数据的重备份处理。
可选的,网关服务基于心跳机制监控目标网络如边缘网络中各设备的运行情况,当检测到一定时间某设备/节点没有活动(未收到心跳包),则表示该设备/节点退出目标网络,如电子设备关机或关闭其节点服务等,并基于设备/节点退出事件,适应性调整目标网络的网络拓扑结构信息。
在此基础上,根据调整后的网络拓扑结构信息触发对退出目标网络的第二电子设备所存储数据(基于节点服务所存储的数据)的重备份处理,例如,将退出目标网络的该第二电子设备上存储的数据(基于节点服务)转存至目标网络中能提供在线节点服务的其他一个或多个电子设备等。
实施中,具体可在网关服务记录与维护每一电子设备与其所提供的服务的对应关系,包括但不限于记录各电子设备分别存储的数据的数据标识,分别所处理任务的任务标识等,当监测到存在第二电子设备退出目标网络时,网关服务从上述对应关系中查询退出目标网络的第二电子设备所存储数据的标识,并根据数据标识从其他未退出网络的相应设备/节点获取数据,将获取的数据存储至网络中的其他相应设备/节点,以满足数据的多备份要求。
步骤107、如果监测到目标网络中存在数据存储异常的第二电子设备,触发对数据存储异常的第二电子设备的数据重备份处理,以实现数据恢复。
另外,在目标网络基于多备份方式进行数据存储过程中,还可以对目标网络的各个设备/节点的存储数据进行出错检测,如检测物理介质是否损坏、是否存在程序恶意修改等,一旦检测到存在数据存储异常的第二电子设备,自动触发对数据存储异常的第二电子设备的数据重备份处理(如,基于节点服务所存储的全部数据的重备份或仅存储异常的数据的重备份等),以实现数据恢复。
具体的,结合多备份思想,网关服务根据存储异常的数据的标识,从记录与维护的目标网络中电子设备与所提供服务的对应关系信息中,查询该标识在目标网络中对应的未发生存储异常的存储设备/节点,并从查询的设备/ 节点中获取该标识对应的正常数据用于数据恢复,以实现该对存储异常的数据的重备份处理。其中,具体可通过重备份将数据恢复至该存储异常的第二电子设备(如,发生存储异常的第二电子设备的硬盘未损坏)或恢复至目标网络中的其他设备(如,发生存储异常的第二电子设备的硬盘损坏),对此同样不作限制。
其中,步骤106和/或步骤107中的重备份处理,可以为基于纠删码的备份处理。
申请人发现,边缘网络中,移动的终端设备可能随时加入或离开边缘网络,容易造成关键数据的丢失,难以保证数据存储的安全性,并对边缘设备间的任务协作造成影响,本实施例通过在网关服务对节点退出和/或数据存储异常事件进行监测,并在监测到节点退出和/或数据存储异常事件时,自动触发对相关数据的重备份处理,实现了数据的分布式安全存储和备份,克服了集中式的数据存储中在中心服务器崩溃情况下难以保证数据安全的缺陷,同时避免了因关键数据丢失,对边缘设备间的任务协作造成影响。
在一实施例中,第一目标任务为目标识别任务,目标识别任务中的待识别目标可以根据实际需求设定,具体可以但不限于为待识别人像、动物(如从一张或多张图像中识别某类别动物)或某一行使的车辆等等。相应的,第二电子设备对第一子目标任务的执行结果包括目标识别结果。
该实施例中,参见图7提供的处理方法流程图,本申请公开的处理方法,在步骤102之后,还可以包括以下处理中的任意一种或多种:
步骤108、通过第一电子设备的网关服务基于所接收执行结果中的目标识别结果进行目标标注处理,并通过可视化界面展示目标标注结果。
具体的,第一电子设备的网关服务在接收到多个第二电子设备的执行结果后,根据每一第二电子设备执行结果中包含的对目标的识别结果,进行目标标注,例如,根据每一第二电子设备在对某目标图像的相应图像区域进行目标识别所得的目标位置信息,在目标图像的该区域的相应位置添加对应的标记,实现目标的实时标注,最终得到包含一个或多个标记(代表目标)的标记结果信息,并提供标记结果信息的可视化界面展示服务,如展示图像中标记的一个或多个动物,或在地图界面实时展示识别的目标等。
其中,具体可在第一电子设备或任务发起设备等任一需查看目标识别结果的设备上,基于浏览器方式展示标记结果信息的可视化界面,对此不作限制。
步骤109、通过第一电子设备的网关服务输出第一目标任务对应的日志信息。
步骤110、通过第一电子设备的网关服务对关键信息进行存储,所述关键信息为与所述第一目标任务相关的信息。
另外,还可以在网关服务提供的控制台界面中实时输出第一目标任务对应的日志信息,包括但不限于任务的执行时间、运行情况等任务运行日志。同时,还可以基于网关服务进行关键信息的存储,关键信息包括但不限于基于重要度、优先级等因素确定的关键用户数据或任务执行过程中生成的关键中间数据。
可选的,对于网关服务维护的关键数据,系统用户可以有选择性的周期性进行备份,并采用基于纠删码的数据分布方法自动启动备份任务,以将其分布式存储在目标网络的多个设备如多个边缘设备上。
本实施例通过基于网关服务提供目标标注结果等的可视化展示服务,以及提供基于控制台界面的日志信息输出服务,和/或关键数据存储服务,进一步改善了网关服务的功能,为目标网络系统用户的任务协作提供了方便。
以下以目标的实时识别和标注为例,提供本申请处理方法的一个应用示例。
该示例中,目标网络为边缘网络,边缘网络的所有边缘设备(边缘节点) 都有一定的存储空间,能用于存储网关服务分发的数据或任务处理中的相关中间数据/执行结果数据,以实现数据的分布式安全存储和备份。参见图8,边缘网络的中心节点(图8中的网关节点)负责提供与云端(云端主要部署管理平台,提供给用户操作和演示)交互的功能、向云端反馈边缘网络所有设备的信息以供用户查看的功能、以及数据的智能分发等功能,中心节点相当于边缘网络中所有设备的“领导”角色,所有的数据分发/任务分发、数据备份等工作都是由中心节点安排,同时还承载着整个管理平台的前端页面功能。
边缘网络的各个边缘设备部署有网关服务和节点服务。进一步,该示例中,网关服务用于给用户提供可视化界面以及一些系统功能服务,包括但不限于目标实时标注、中心节点动态选举、数据分布管理、缓存管理、基础服务等等,网关服务的数据来自各节点服务的支持。节点服务提供的服务包括但不限于数据协作/任务协作、数据分布管理、资源自动发现、分布式目标识别等等。
其中,网关服务中的数据协作服务,用于由中心节点通过博弈方法进行数据/任务协作分发,来达到全局数据/任务的均衡。在边缘节点形成的边缘网络中,各节点为平级节点,在完成中心节点的动态选举后,由中心节点发起博弈算法。虚拟节点是指,为了提高系统负载均衡,为每个边缘节点引入虚拟节点,将每个边缘节点根据设定的划分规则划分成多个虚拟节点,用于存储数据编码生成的条带内容。
可选的,基于微服务的设计思想,将每个独立的服务部署在各节点上,通过该轻量级、松耦合的方式,使得系统的结构更加清晰,便于各模块独立测试、升级维护。
中心节点维护着边缘网络中物理节点与虚拟节点的映射关系。中心节点,用于各边缘节点或边缘网络之外的其他设备(如云端服务器或用户终端)在资源受限情况下,对任务进行分布式管理,基于任务分发实现在多个边缘设备对任务如目标识别任务的协同处理。并获得各边缘设备回传的目标识别结果,在网关服务的平台界面上进行目标的实时标注,以及在网关服务的控制台界面中实时输出日志信息,并进行关键信息的存储。对于网关节点维护的关键数据,系统用户可以有选择性的周期性进行备份,具体可采用基于纠删码的数据分布方法自动启动备份任务,以将其分布式存储在各边缘节点上。
同时,网关服务还提供服务注册中心功能,每一服务开启后均注册到服务注册中心Consul中,通过JWT等认证方式进行安全认证及鉴权,除此之外,可选的,网关服务还支持消息中间件Kafka、zookeeper,以及其他基础组件如 Ribbon、Zuul、Hystrix等。
该示例中,结合参见图9,用户基于浏览器发起任务,如目标的识别与标注任务,借助云端通过前后端的交互,将任务提供给边缘网络中心节点的网关服务,网关服务对任务按策略拆分后,数据分布管理启动对任务的协作分发,将任务分发给边缘网络中的多个边缘节点进行协作处理及相关数据(如执行结果数据或任务数据等)的多备份存储,达到数据的安全备份目的,并将执行结果反馈至网关服务,由网关服务基于多个边缘设备的执行结果提供实时目标标注及基于浏览器的可视化展示等功能。
在一实施例中,本申请公开的处理方法,还可以包括以下处理:
响应于第二电子设备中的至少之一的网关服务获得来自操作体和/或第三电子设备的交互输入,将获得所述交互输入的第二电子设备确定为目标网络的中心节点,以及通过所述网关服务获取目标网络下其他电子设备具有的节点服务的信息,。
本实施例中第三电子设备包括目标网络下的所述其他电子设备。
具体的,第二电子设备与第一电子设备为平级设备/节点,同样部署有网关服务,并可基于部署的网关服务获得来自操作体和/或第三电子设备的交互输入。
其中,一旦多个第二电子设备中的至少之一的网关服务获得来自操作体和/或第三电子设备的交互输入,则将获得交互输入的该第二电子设备动态确定为目标网络的中心节点,即,将目标网络的中心节点从之前的第一电子设备替换为该获得交互输入的第二电子设备,该获得交互输入的第二电子设备相应成为新的第一电子设备,可通过执行上述任一方法实施例的处理过程,实现在目标网络进行任务分发及此基础上的相关处理。
本实施例通过将目标网络如边缘网络中的各个电子设备配置为平级设备/ 节点,使得可基于不同设备的交互输入获得情况,在目标网络进行中心节点的动态切换,有效避免了在同一电子设备长时间提供中心节点功能导致长时间地提升其额外开销,使得边缘网络等目标网络的中心节点的选取及服务更为合理、均衡。
对应于上述的方法,本申请实施例还公开一种处理装置,该装置的组成结构如图10所示,具体包括:
获取模块1101,用于响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,所述目标网络由所述第一电子设备和所述多个第二电子设备组成,所述目标网络分布在预置空间内;
分发与接收模块1102,用于至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,所述第一目标子任务是所述第一目标任务的一部分;
其中,所述第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
在一实施方式中,获取模块1101,具体用于:
响应于所述第一电子设备的网关服务获得来自操作体和/或第三电子设备的交互输入,确定获得所述第一目标任务,将所述第一电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取所述多个第二电子设备具有的节点服务的信息,其中,所述第三电子设备包括或不包括所述第二电子设备。
在一实施方式中,分发与接收模块1102,具体用于:
至少基于所述节点服务的信息确定目标分配策略,所述目标分配策略至少用于将所述第一目标任务分为多个第一目标子任务;
通过所述第一电子设备的网关服务将所述多个第一目标子任务对应分发至所述多个第二电子设备、以及通过所述网关服务接收对应的执行结果。
在一实施方式中,分发与接收模块1102在至少基于所述节点服务的信息确定目标分配策略时,具体用于:
由所述第一电子设备发起博弈算法,基于所述节点服务的信息计算不同分配策略的评分,基于所述评分确定所述目标分配策略,所述博弈算法用于计算不同分配策略下各节点服务的负载均衡情况。
在一实施方式中,上述处理装置还包括:
拼接模块,用于通过所述第一电子设备的网关服务获得每一第二电子设备针对所述第一目标子任务的执行结果,至少基于所述第一目标子任务的信息对所述执行结果进行拼接处理,得到所述第一目标任务的处理结果;且/或,
卸载模块,用于卸载所述第一电子设备中的第一目标任务,以及通知对应的第二电子设备卸载对应的第一目标子任务。
在一实施方式中,多个第二电子设备基于多备份方式进行数据存储;上述处理装置还包括:
重备份处理模块,用于:
如果监测到所述目标网络中存在第二电子设备退出所述目标网络,调整所述目标网络的网络拓扑结构信息,根据调整后的网络拓扑结构信息触发对所述第二电子设备基于节点服务所存储数据的重备份处理;
和/或,如果监测到所述目标网络中存在数据存储异常的第二电子设备,触发对所述数据存储异常的第二电子设备的数据重备份处理,以实现数据恢复;
其中,所述重备份处理为基于纠删码的备份处理。
在一实施方式中,目标网络中的电子设备基于虚拟节点划分规则被划分为多个虚拟节点,并通过所述虚拟节点进行第一目标子任务处理,和/或,至少存储接收到的第一目标子任务和/或所述执行结果;
网关服务对应存储有目标网络中电子设备与虚拟节点的映射关系。
在一实施方式中,上述装置还包括:
确定模块,用于响应于所述第二电子设备中的至少之一的网关服务获得来自操作体和/或第三电子设备的交互输入,将获得所述交互输入的第二电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取目标网络下其他电子设备具有的节点服务的信息,其中,所述第三电子设备包括目标网络下的所述其他电子设备。
在一实施方式中,上述装置还包括管理模块,用于执行以下处理中的至少之一:
通过所述网关服务基于所接收执行结果中的目标识别结果进行目标标注处理,并通过可视化界面展示目标标注结果。
通过所述网关服务输出第一目标任务对应的日志信息;
通过所述网关服务对关键信息进行存储,所述关键信息为与所述第一目标任务相关的信息。
对于本申请实施例公开的处理装置而言,由于其与上文方法实施例公开的处理方法相对应,所以描述的比较简单,相关相似之处请参见上文方法实施例的说明即可,此处不再详述。
另外,本申请实施例还公开一种第一电子设备,可以是但不限于众多通用或专用的计算装置环境或配置下的设备,例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器装置等等。
第一电子设备的组成结构,如图11所示,至少包括:
存储器10,用于存放计算机指令集;
计算机指令集可以通过计算机程序的形式实现。
处理器20,用于通过执行计算机指令集,实现如上文任一方法实施例公开的处理方法。
处理器20可以为中央处理器(Central Processing Unit,CPU),特定应用集成电路(application-specific integrated circuit,ASIC),数字信号处理器 (DSP)、专用集成电路(ASIC)、现场可编程门阵列(FPGA)或者其他可编程逻辑器件等。
除此之外,第一电子设备还可以包括通信接口、通信总线等组成部分。存储器、处理器和通信接口通过通信总线完成相互间的通信。
通信接口用于电子设备与其他设备之间的通信。通信总线可以是外设部件互连标准(Peripheral Component Interconnect,PCI)总线或扩展工业标准结构(ExtendedIndustry Standard Architecture,EISA)总线等,该通信总线可以分为地址总线、数据总线、控制总线等。
本申请实施例还公开一种存储介质,所述存储介质上至少存储有一组计算机指令集,计算机指令集可以通过计算机程序的形式实现,计算机指令集在运行时用于实现如上文任一方法实施例公开的处理方法。
需要说明的是,本说明书中的各个实施例均采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似的部分互相参见即可。
为了描述的方便,描述以上系统或装置时以功能分为各种模块或单元分别描述。当然,在实施本申请时可以把各单元的功能在同一个或多个软件和/ 或硬件中实现。
通过以上的实施方式的描述可知,本领域的技术人员可以清楚地了解到本申请可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本申请各个实施例或者实施例的某些部分所述的方法。
最后,还需要说明的是,在本文中,诸如第一、第二、第三和第四等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
以上所述仅是本申请的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本申请原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本申请的保护范围。
Claims (10)
1.一种处理方法,包括:
响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,所述目标网络由所述第一电子设备和多个所述第二电子设备组成,所述目标网络分布在预置空间内;
至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,所述第一目标子任务是所述第一目标任务的一部分;
其中,所述第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
2.根据权利要求1所述的方法,所述响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,包括:
响应于所述第一电子设备的网关服务获得来自操作体和/或第三电子设备的交互输入,确定获得所述第一目标任务,将所述第一电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取所述多个第二电子设备具有的节点服务的信息,其中,所述第三电子设备包括或不包括所述第二电子设备。
3.根据权利要求1或2所述的方法,所述至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,包括:
至少基于所述节点服务的信息确定目标分配策略,所述目标分配策略至少用于将所述第一目标任务分为多个第一目标子任务;
通过所述第一电子设备的网关服务将所述多个第一目标子任务对应分发至所述多个第二电子设备、以及通过所述网关服务接收对应的执行结果。
4.根据权利要求3所述的方法,其中,至少基于所述节点服务的信息确定目标分配策略,包括:
由所述第一电子设备发起博弈算法,基于所述节点服务的信息计算不同分配策略的评分,基于所述评分确定所述目标分配策略,所述博弈算法用于计算不同分配策略下各节点服务的负载均衡情况。
5.根据权利要求1、2或4任一项所述的方法,还包括:
通过所述第一电子设备的网关服务获得每一第二电子设备针对所述第一目标子任务的执行结果;
至少基于所述第一目标子任务的信息对所述执行结果进行拼接处理,得到所述第一目标任务的处理结果;且/或,
卸载所述第一电子设备中的第一目标任务,以及通知对应的第二电子设备卸载对应的第一目标子任务。
6.根据权利要求1、2或4任一项所述的方法,其中,多个第二电子设备基于多备份方式进行数据存储;所述方法还包括:
如果监测到所述目标网络中存在第二电子设备退出所述目标网络,调整所述目标网络的网络拓扑结构信息,根据调整后的网络拓扑结构信息触发对所述第二电子设备所存储数据的重备份处理;
和/或,如果监测到所述目标网络中存在数据存储异常的第二电子设备,触发对所述数据存储异常的第二电子设备的数据重备份处理,以实现数据恢复;
其中,所述重备份处理为基于纠删码的备份处理。
7.根据权利要求2所述的方法,所述目标网络中的电子设备基于虚拟节点划分规则被划分为多个虚拟节点,并通过所述虚拟节点进行第一目标子任务处理,和/或,至少存储接收到的第一目标子任务和/或所述执行结果;
所述网关服务对应存储有所述目标网络中电子设备与虚拟节点的映射关系。
8.根据权利要求2所述的方法,还包括:
响应于所述第二电子设备中的至少之一的网关服务获得来自操作体和/或第三电子设备的交互输入,将获得所述交互输入的第二电子设备确定为所述目标网络的中心节点,以及通过所述网关服务获取目标网络下其他电子设备具有的节点服务的信息,其中,所述第三电子设备包括目标网络下的所述其他电子设备。
9.根据权利要求1所述的方法,其中,接收的所述执行结果包括目标识别结果,所述方法还包括以下至少之一:
通过所述网关服务基于所接收执行结果中的目标识别结果进行目标标注处理,并通过可视化界面展示目标标注结果;
通过所述网关服务输出第一目标任务对应的日志信息;
通过所述网关服务对关键信息进行存储,所述关键信息为与所述第一目标任务相关的信息。
10.一种处理装置,包括:
获取模块,用于响应于目标网络中的第一电子设备获得第一目标任务,获取所述目标网络中的第二电子设备具有的节点服务的信息,所述目标网络由所述第一电子设备和所述多个第二电子设备组成,所述目标网络分布在预置空间内;
分发与接收模块,用于至少基于所述节点服务的信息向所述多个第二电子设备分发对应的第一目标子任务、以及接收对应的执行结果,所述第一目标子任务是所述第一目标任务的一部分;
其中,所述第二电子设备至少存储接收到的第一目标子任务和/或所述执行结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210158930.4A CN114710485B (zh) | 2022-02-21 | 2022-02-21 | 处理方法和处理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210158930.4A CN114710485B (zh) | 2022-02-21 | 2022-02-21 | 处理方法和处理装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114710485A true CN114710485A (zh) | 2022-07-05 |
CN114710485B CN114710485B (zh) | 2023-10-27 |
Family
ID=82166957
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210158930.4A Active CN114710485B (zh) | 2022-02-21 | 2022-02-21 | 处理方法和处理装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114710485B (zh) |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020059274A1 (en) * | 2000-03-03 | 2002-05-16 | Hartsell Neal D. | Systems and methods for configuration of information management systems |
CN103685416A (zh) * | 2012-09-20 | 2014-03-26 | 联想(北京)有限公司 | 分布式任务分配与认领方法以及电子设备 |
CN110209496A (zh) * | 2019-05-20 | 2019-09-06 | 中国平安财产保险股份有限公司 | 基于数据处理的任务分片方法、装置及分片服务器 |
CN112241316A (zh) * | 2020-09-18 | 2021-01-19 | 武汉迎风聚智科技有限公司 | 一种分布式调度应用的方法以及装置 |
CN112540841A (zh) * | 2020-12-28 | 2021-03-23 | 智慧神州(北京)科技有限公司 | 任务调度的方法、装置、处理器与电子设备 |
CN112835703A (zh) * | 2021-02-26 | 2021-05-25 | 大众问问(北京)信息科技有限公司 | 任务处理方法、装置、设备及存储介质 |
WO2021148014A1 (zh) * | 2020-01-23 | 2021-07-29 | 飞诺门阵(北京)科技有限公司 | 一种任务处理方法、装置及电子设备 |
CN113391824A (zh) * | 2021-06-29 | 2021-09-14 | 中国农业银行股份有限公司 | 计算卸载方法、电子设备、存储介质以及计算机程序产品 |
CN113722077A (zh) * | 2021-11-02 | 2021-11-30 | 腾讯科技(深圳)有限公司 | 数据处理方法、系统、相关设备、存储介质及产品 |
CN113886089A (zh) * | 2021-10-21 | 2022-01-04 | 上海勃池信息技术有限公司 | 一种任务处理方法、装置、系统、设备及介质 |
CN113946431A (zh) * | 2021-12-22 | 2022-01-18 | 北京瑞莱智慧科技有限公司 | 一种资源调度方法、系统、介质及计算设备 |
-
2022
- 2022-02-21 CN CN202210158930.4A patent/CN114710485B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020059274A1 (en) * | 2000-03-03 | 2002-05-16 | Hartsell Neal D. | Systems and methods for configuration of information management systems |
CN103685416A (zh) * | 2012-09-20 | 2014-03-26 | 联想(北京)有限公司 | 分布式任务分配与认领方法以及电子设备 |
CN110209496A (zh) * | 2019-05-20 | 2019-09-06 | 中国平安财产保险股份有限公司 | 基于数据处理的任务分片方法、装置及分片服务器 |
WO2021148014A1 (zh) * | 2020-01-23 | 2021-07-29 | 飞诺门阵(北京)科技有限公司 | 一种任务处理方法、装置及电子设备 |
CN112241316A (zh) * | 2020-09-18 | 2021-01-19 | 武汉迎风聚智科技有限公司 | 一种分布式调度应用的方法以及装置 |
CN112540841A (zh) * | 2020-12-28 | 2021-03-23 | 智慧神州(北京)科技有限公司 | 任务调度的方法、装置、处理器与电子设备 |
CN112835703A (zh) * | 2021-02-26 | 2021-05-25 | 大众问问(北京)信息科技有限公司 | 任务处理方法、装置、设备及存储介质 |
CN113391824A (zh) * | 2021-06-29 | 2021-09-14 | 中国农业银行股份有限公司 | 计算卸载方法、电子设备、存储介质以及计算机程序产品 |
CN113886089A (zh) * | 2021-10-21 | 2022-01-04 | 上海勃池信息技术有限公司 | 一种任务处理方法、装置、系统、设备及介质 |
CN113722077A (zh) * | 2021-11-02 | 2021-11-30 | 腾讯科技(深圳)有限公司 | 数据处理方法、系统、相关设备、存储介质及产品 |
CN113946431A (zh) * | 2021-12-22 | 2022-01-18 | 北京瑞莱智慧科技有限公司 | 一种资源调度方法、系统、介质及计算设备 |
Also Published As
Publication number | Publication date |
---|---|
CN114710485B (zh) | 2023-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8032780B2 (en) | Virtualization based high availability cluster system and method for managing failure in virtualization based high availability cluster system | |
CN112671882B (zh) | 一种基于微服务的同城双活系统和方法 | |
CN109802986B (zh) | 设备管理方法、系统、装置及服务器 | |
CN111614748B (zh) | 用于可扩展的对等匹配的设备及方法 | |
CN111698315B (zh) | 针对区块的数据处理方法、数据处理装置及计算机设备 | |
CN111163130B (zh) | 一种网络服务系统及其数据传输方法 | |
US20180227139A1 (en) | Method of Terminal-Based Conference Load-Balancing, and Device and System Utilizing Same | |
US9104488B2 (en) | Support server for redirecting task results to a wake-up server | |
CN111432158B (zh) | 媒体节点的负载均衡方法及装置、存储介质、电子装置 | |
CN112953982B (zh) | 一种服务处理的方法、服务配置的方法以及相关装置 | |
CN111176803A (zh) | 业务处理方法、装置、服务器及存储介质 | |
US8832215B2 (en) | Load-balancing in replication engine of directory server | |
CN114338650A (zh) | 文件传输方法、装置、电子设备及可读存储介质 | |
CN113206877A (zh) | 一种会话保持方法及装置 | |
CN111200606A (zh) | 深度学习模型任务处理方法、系统、服务器及存储介质 | |
EP3813335B1 (en) | Service processing methods and systems based on a consortium blockchain network | |
CN116366652A (zh) | 分布式应用运维方法、系统、装置、服务器及网关设备 | |
CN111835797A (zh) | 一种数据处理方法、装置及设备 | |
CN111835809B (zh) | 工单消息分配方法、装置、服务器及存储介质 | |
US10637748B2 (en) | Method and apparatus for establishing interface between VNFMS, and system | |
CN113326100A (zh) | 一种集群管理方法、装置、设备及计算机存储介质 | |
CN115550354A (zh) | 一种数据处理方法、装置及计算机可读存储介质 | |
CN112631756A (zh) | 一种应用于航天测控软件的分布式调控方法及装置 | |
CN104731660A (zh) | 数据分配方法、装置和系统 | |
CN114710485B (zh) | 处理方法和处理装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |