CN112631759A - 数据处理方法、装置和系统 - Google Patents
数据处理方法、装置和系统 Download PDFInfo
- Publication number
- CN112631759A CN112631759A CN202011626439.7A CN202011626439A CN112631759A CN 112631759 A CN112631759 A CN 112631759A CN 202011626439 A CN202011626439 A CN 202011626439A CN 112631759 A CN112631759 A CN 112631759A
- Authority
- CN
- China
- Prior art keywords
- edge computing
- data
- task
- aerial survey
- executed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 32
- 238000000034 method Methods 0.000 claims abstract description 136
- 238000012545 processing Methods 0.000 claims abstract description 123
- 230000008569 process Effects 0.000 claims abstract description 111
- 230000002159 abnormal effect Effects 0.000 claims description 9
- 230000008859 change Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 2
- 238000001514 detection method Methods 0.000 description 13
- 238000007726 management method Methods 0.000 description 11
- 238000010586 diagram Methods 0.000 description 7
- 238000013507 mapping Methods 0.000 description 7
- 238000012544 monitoring process Methods 0.000 description 7
- 230000005012 migration Effects 0.000 description 6
- 238000013508 migration Methods 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 230000008878 coupling Effects 0.000 description 4
- 238000010168 coupling process Methods 0.000 description 4
- 238000005859 coupling reaction Methods 0.000 description 4
- 230000006378 damage Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000005034 decoration Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000012550 audit Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000013468 resource allocation Methods 0.000 description 1
- 239000000725 suspension Substances 0.000 description 1
- 238000012384 transportation and delivery Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/48—Program initiating; Program switching, e.g. by interrupt
- G06F9/4806—Task transfer initiation or dispatching
- G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
- G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
- G06F9/5038—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals considering the execution order of a plurality of tasks, e.g. taking priority or time dependency constraints into consideration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5061—Partitioning or combining of resources
- G06F9/5072—Grid computing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/542—Event management; Broadcasting; Multicasting; Notifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/546—Message passing systems or structures, e.g. queues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/547—Remote procedure calls [RPC]; Web services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/48—Indexing scheme relating to G06F9/48
- G06F2209/484—Precedence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/50—Indexing scheme relating to G06F9/50
- G06F2209/5021—Priority
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2209/00—Indexing scheme relating to G06F9/00
- G06F2209/54—Indexing scheme relating to G06F9/54
- G06F2209/548—Queue
Abstract
本发明公开了一种数据处理方法、装置和系统。其中,该方法包括:边缘计算设备获取无人机设备采集到的航测数据;边缘计算设备根据航测数据生成处理航测数据的待执行任务;边缘计算设备创建与待执行任务对应的解算容器进程;边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。本发明解决了现有的数据处理方法存在处理效率低的技术问题。
Description
技术领域
本发明涉及数据处理领域,具体而言,涉及一种数据处理方法、装置和系统。
背景技术
无人机是利用无线电遥控设备和自备的程序控制装置操纵的飞行器,其可应用于航拍、测绘等领域。当前无人机航测的数据处理作业流程如图1所示,由图1可知,该过程包括数据采集、数据处理、数据分析以及数据分享等步骤,行业为内业航测数据处理提供了大量的基于航空测绘地图、建模的软件,包括移动端、桌面端和云端,对外业无人机收集的图像数据进行三维点云、正射影像、空间计算等处理。
然而,无人机测绘内业的数据处理比较复杂,很多航测工作者可能对数据处理软件的安装和使用十分困难,导致数据处理的效率低。此外,基于航空测绘地图、建模的软件需运行在高配置的工作电脑上,给野外用户工作者带来不便。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种数据处理方法、装置和系统,以至少解决现有的数据处理方法存在处理效率低的技术问题。
根据本发明实施例的一个方面,提供了一种数据处理方法,包括:边缘计算设备获取无人机设备采集到的航测数据;边缘计算设备根据航测数据生成处理航测数据的待执行任务;边缘计算设备创建与待执行任务对应的解算容器进程;边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
进一步地,数据处理方法还包括:在边缘计算设备获取无人机设备采集到的航测数据之后,边缘计算设备检测串行接口是否接收到新的航测数据;在串行接口未接收到新的航测数据的情况下,监测串行接口的数据变化状态;在串行接口接收到新的航测数据的情况下,生成控制指令。
进一步地,数据处理方法还包括:边缘计算设备检测是否有外部设备接入;在检测到有外部设备接入的情况下,检测串行接口是否接收到数据;在接收到数据的情况下,检测数据与预设数据是否存在差异;在数据与预设数据存在差异的情况下,确定串行接口接收到新的航测数据;在数据与预设数据不存在差异的情况下,确定串行接口未接收到新的航测数据。
进一步地,数据处理方法还包括:边缘计算设备根据控制指令向任务调度模块进行任务注册;在完成任务注册的情况下,确定与航测数据对应的待执行任务。
进一步地,数据处理方法还包括:在边缘计算设备根据航测数据生成处理航测数据的待执行任务之后,边缘计算设备将待执行任务划分为多个子任务;将多个子任务存入等待队列中;确定多个子任务中的每个子任务所对应的优先级;按照优先级将多个子任务存入待执行队列中。
进一步地,数据处理方法还包括:边缘计算设备获取待执行任务所对应的数据量;根据待执行任务所对应的数据量确定执行待执行任务所需要的系统资源;根据系统资源创建解算容器进程。
进一步地,数据处理方法还包括:边缘计算设备检测解算容器进程是否从待执行队列中获取到当前子任务对应的数据流;在解算容器进程获取到当前子任务对应的数据流的情况下,对当前子任务对应的数据流进行处理,得到处理结果。
进一步地,数据处理方法还包括:在解算容器进程未获取到数据流的情况下,边缘计算设备将当前子任务存入任务解算失败队列中。
进一步地,数据处理方法还包括:在基于解算容器进程对待执行任务对应的航测数据进行处理的过程中,边缘计算设备检测解算容器进程是否出现异常;在解算容器进程出现异常的情况下,边缘计算设备将当前子任务的优先级设置为最高优先级,并将当前子任务存入待执行队列中。
根据本发明实施例的另一方面,还提供了一种数据处理系统,包括:无人机设备,用于采集航测数据;边缘计算设备,用于获取航测数据,并根据航测数据生成处理航测数据的待执行任务,创建与待执行任务对应的解算容器进程,基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果,并将处理结果上传至云端服务器;云端服务器,用于对处理结果进行管理。
根据本发明实施例的另一方面,还提供了一种数据处理装置,包括:获取模块,用于控制边缘计算设备获取无人机设备采集到的航测数据;生成模块,用于控制边缘计算设备根据航测数据生成处理航测数据的待执行任务;创建模块,用于控制边缘计算设备创建与待执行任务对应的解算容器进程;处理模块,用于控制边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
根据本发明实施例的另一方面,还提供了一种非易失性存储介质,该非易失性存储介质中存储有计算机程序,其中,计算机程序被设置为运行时执行上述的数据处理方法。
根据本发明实施例的另一方面,还提供了一种处理器,该处理器用于运行程序,其中,程序被设置为运行时执行上述的数据处理方法。
在本发明实施例中,采用基于解算容器进程对航测数据进行处理的方式,在获取到无人机设备采集到的航测数据之后,边缘计算设备根据航测数据生成处理航测数据的待执行任务,创建与待执行任务对应的解算容器进程,最后,基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
在上述过程中,解算容器进程在对航测数据进行处理的过程中,对系统性能的消耗较小,不依赖于任何语言或框架,降低了业务应用过分对操作系统的依赖性和迁移的复杂性,应用启动迅速、销毁即时,满足应用的高频版本迭代需求,提高了数据处理效率。
由此可见,本申请所提供的方案达到了对航测数据进行处理的目的,从而实现了提高数据处理效率的技术效果,进而解决了现有的数据处理方法存在处理效率低的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据现有技术的一种当前无人机航测的数据处理作业流程图;
图2是根据本发明实施例的一种数据处理方法的流程图;
图3是根据本发明实施例的一种可选的数据处理方法的流程图;
图4是根据本发明实施例的一种数据处理系统的示意图;
图5是根据本发明实施例的一种可选的数据处理系统的构架示意图;
图6是根据本发明实施例的一种数据处理装置的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
根据本发明实施例,提供了一种数据处理方法的实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机系统中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
图2是根据本发明实施例的数据处理方法的流程图,如图2所示,该方法包括如下步骤:
步骤S202,边缘计算设备获取无人机设备采集到的航测数据。
在步骤S202中,边缘计算设备为向企业或服务提供商核心网提供入口点的设备,例如,路由器、路由交换机、集成接入设备、多路复用器以及各种城域网和广域网接入设备等。
在本申请中,边缘计算设备可以为Xstation边缘设备,其中,Xstation边缘设备是小型基于X86硬件架构的小型数据处理终端,具有快速处理数据、轻量小型方便携带的特点,能够在野外给用户提供点云切图、影像合成等离线轻量级的数据处理服务,从而解决了现有的基于航空测绘地图、建模的软件需运行在高配置的工作电脑上,给野外用户工作者带来不便的问题。
可选的,用户可将无人机设备采集到的航测数据存储到存储设备上,然后在将存储设备中的航测数据导入到边缘计算设备上。另外,边缘计算设备还可与无人机设备直接进行通信来获取无人机设备所采集到的航测数据。
步骤S204,边缘计算设备根据航测数据生成处理航测数据的待执行任务。
在一种可选的实施例中,边缘计算设备具有任务调度模块,其可根据航测数据生成待执行任务,以实现对航测数据的处理。例如,任务调度模块可根据航测数据所包含的数据的数据类型、数据量等信息来生成一个或多个待执行任务。
步骤S206,边缘计算设备创建与待执行任务对应的解算容器进程。
需要说明的是,上述解算容器进程可以为docker容器进程,边缘计算设备的内部应用服务封装成镜像,运行在docker容器进程的载体之上,统一开发和发布环境,降低了业务应用过分对操作系统的依赖性和迁移的复杂性,应用启动迅速、销毁即时,满足应用的高频版本迭代需求。
步骤S208,边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
需要说明的是,由于docker容器进程是一个开源的应用容器引擎,其可使开发者以统一的方式打包应用以及依赖包到一个可移植的容器中,然后发布到任何安装了docker引擎的服务器上,docker容器进程几乎没有性能开销,可以很容易地在机器和数据中心中运行,而且不依赖于任何语言、框架和系统。因此,边缘计算设备基于解算容器进程对航测数据进行处理,不仅能够提高数据处理的效率,还能够降低系统开销。
基于上述步骤S202至步骤S208所限定的方案,可以获知,在本发明实施例中,采用基于解算容器进程对航测数据进行处理的方式,在获取到无人机设备采集到的航测数据之后,边缘计算设备根据航测数据生成处理航测数据的待执行任务,创建与待执行任务对应的解算容器进程,最后,基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
容易注意到的是,在上述过程中,解算容器进程在对航测数据进行处理的过程中,对系统性能的消耗较小,不依赖于任何语言或框架,降低了业务应用过分对操作系统的依赖性和迁移的复杂性,应用启动迅速、销毁即时,满足应用的高频版本迭代需求,提高了数据处理效率。
由此可见,本申请所提供的方案达到了对航测数据进行处理的目的,从而实现了提高数据处理效率的技术效果,进而解决了现有的数据处理方法存在处理效率低的技术问题。
在一种可选的实施例中,在获取无人机设备采集到的航测数据之后,边缘计算设备检测串行接口是否接收到新的航测数据,并在串行接口未接收到新的航测数据的情况下,边缘计算设备监测串行接口的数据变化状态;在串行接口接收到新的航测数据的情况下,边缘计算设备生成控制指令。其中,边缘计算设备首先检测是否有外部设备接入,并在检测到有外部设备接入的情况下,检测串行接口是否接收到数据;在接收到数据的情况下,边缘计算设备检测数据与预设数据是否存在差异;在数据与预设数据存在差异的情况下,边缘计算设备确定串行接口接收到新的航测数据;在数据与预设数据不存在差异的情况下,边缘计算设备确定串行接口未接收到新的航测数据。
可选的,图3示出了一种可选的数据处理方法的流程图,由图3可知,用户可直接将存储无人机航测数据的SD卡(即外部设备)插入Xstation边缘计算设备上,边缘计算设备的上位机巡检程序监控到USB串口(即串行接口)有新的数据和模型(即航测数据),触发消息通知模块,通过GRPC通信协议通知边缘网关控制器,如果上位机巡检程序未检测到数据和模型的载入,则继续监测串口接口的数据变化状态。
需要说明的是,上述航测数据的数据格式可在无人机设备上按照约定的格式和文件进行设定。
在一种可选的实施例中,在获取航测数据之后,边缘计算设备根据航测数据生成处理航测数据的待执行任务。具体的,边缘计算设备根据控制指令向任务调度模块进行任务注册,并在完成任务注册的情况下,确定与航测数据对应的待执行任务。例如,在图3中,边缘网关控制器在接收到消息通知(即控制指令)的情况下,向任务调度模块注册单次数据处理服务,并解析本次数据处理服务所对应的待执行任务的任务信息。
可选的,在边缘计算设备根据航测数据生成处理航测数据的待执行任务之后,边缘计算设备将待执行任务划分为多个子任务,并将多个子任务存入等待队列中,然后确定多个子任务中的每个子任务所对应的优先级,最后,边缘计算设备按照优先级将多个子任务存入待执行队列中。例如,在图3中,以架次为单元切分成多个子任务,并将多个子任务批量插入至等待队列中,然后,可按照执行子任务的执行对象的不同,为不同的子任务设置不同优先级的标签,任务调度模块再按照标签的不同通过程序设置好的策略控制,批量将子任务存入待执行队列中,例如,按照优先级的顺序将多个子任务批量存入待执行队列中。
进一步的,在生成待执行任务之后,边缘计算设备创建与待执行任务对应的解算容器进程。具体的,边缘计算设备获取待执行任务所对应的数据量,根据待执行任务所对应的数据量确定执行待执行任务所需要的系统资源,并根据系统资源创建解算容器进程。例如,在图3中,调度任务模块根据本次数据的大小向网关申请合适系统资源,然后,再创建一个与系统资源对应的解算容器进程,其中,上述系统资源为动态资源,系统资源包括但不限于CPU核心数、内存大小、存储空间等。
更进一步的,在创建解算容器进程之后,边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。具体的,边缘计算设备检测解算容器进程是否从待执行队列中获取到当前子任务对应的数据流,其中,在解算容器进程获取到当前子任务对应的数据流的情况下,边缘计算设备对当前子任务对应的数据流进行处理,得到处理结果;在解算容器进程未获取到数据流的情况下,边缘计算设备将当前子任务存入任务解算失败队列中。例如,在图3中,解算容器进程向数据总线请求获取实时数据流,如果解算容器进程本次获取数据流不成功,则将当前子任务存入任务解算失败队列中,否则,对当前子任务对应的数据进行解算。
需要说明的是,在对航测数据进行解算的过程中,可通过对航测数据大小进行预估来申请系统资源,并动态调度解算资源,以达到对资源弹性利用的效果。
此外,还需要说明的是,在完成对航测数据的解算之后,边缘计算设备自动生成处理结果,并保存在边缘计算设备的本地,用户可通过局域网的WEB界面或APP查看处理结果。
另外,航测数据在解算容器进程中进行解算的过程中,由于系统中断或某种情况发生处理中止异常,则将当前子任务对应的优先级标签标志优先级最高,由边缘计算设备的策略控制器再次重返任务等待队列,保证任务异常中断时可重试。例如,在图3中,在基于解算容器进程对待执行任务对应的航测数据进行处理的过程中,边缘计算设备检测解算容器进程是否出现异常;在解算容器进程出现异常的情况下,边缘计算设备将当前子任务的优先级设置为最高优先级,并将当前子任务存入待执行队列中。
由上述内容可知,本实施例所提供的数据处理方法能够实现快速处理数据,轻量小型方便携带以及动态管理边缘算力的效果,降低了业务应用过分对操作系统的依赖性和迁移的复杂性,提高了数据处理效率。
实施例2
根据本发明实施例,还提供了一种数据处理系统的实施例,其中,图4是根据本发明实施例的数据处理系统的示意图,如图4所示,该系统包括:无人机设备401、边缘计算设备403以及云端服务器405。
其中,无人机设备401,用于采集航测数据;边缘计算设备403,用于获取航测数据,并根据航测数据生成处理航测数据的待执行任务,创建与待执行任务对应的解算容器进程,基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果,并将处理结果上传至云端服务器;云端服务器405,用于对处理结果进行管理。
由上可知,在本发明实施例中,采用基于解算容器进程对航测数据进行处理的方式,在获取到无人机设备采集到的航测数据之后,边缘计算设备根据航测数据生成处理航测数据的待执行任务,创建与待执行任务对应的解算容器进程,最后,基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
容易注意到的是,在上述过程中,解算容器进程在对航测数据进行处理的过程中,对系统性能的消耗较小,不依赖于任何语言或框架,降低了业务应用过分对操作系统的依赖性和迁移的复杂性,应用启动迅速、销毁即时,满足应用的高频版本迭代需求,提高了数据处理效率。
由此可见,本申请所提供的方案达到了对航测数据进行处理的目的,从而实现了提高数据处理效率的技术效果,进而解决了现有的数据处理方法存在处理效率低的技术问题。
在一种可选的实施例中,图5示出了一种可选的数据处理系统的构架示意图,在图5中,开发者完成代码开发,提交到gitlab(分支管理)上,触发jenkins的自动化构建服务器,代码对应的程序将镜像版本打包好并推送到阿里云镜像托管仓库。其中,自动化构建和可持续集成所有步骤都是可追踪历史操作、验证、审计后方可发布新版本,以免人为操作引起的线上灾难。上述过程中,jenkins为开源的、提供友好操作姐买你的持续集成工具。
需要说明的是,由图5可知,手机APP、其他设备、七牛云、阿里云等位于公网或局域网中,并于边缘计算设备进行通信。通过CDN(Content Delivery Network,内容分发网络)对边缘计算设备进行部署,其中,边缘计算设备通过网关于公网或局域网进行通信。
在本申请中,边缘计算设备可以为Xstation边缘计算设备,其中,Xstation边缘计算设备是小型基于X86硬件架构的小型数据处理终端,其具有快速处理数据、轻量小型方便携带的特点,能够在野外给用户提供点云切图、影像合成等离线轻量级的数据处理服务。
可选的,由图5可知,边缘计算设备包括:网关,用于将边缘计算设备注册到云端服务器中,并与云端服务器保持连接心跳。其中,网关可以为X-gateway网关,其中,X-gateway网关作为边缘计算设备Xstation的核心模块,是所有数据链路和内部服务交互的核心枢纽,负责和云端服务器、内部服务器以及其它硬件设备的数据通信和业务应用协同处理。
可选的,网关能够实现与云端服务器的交互。具体的,网关将边缘计算设备注册到云端服务器,并和云端服务器保持长连接心跳。当边缘计算设备联网时,网关能够监听云端服务器所发布的新应用、应用升级、配置分发、模型更新等动态变更,通过HTTP协议拉取云端服务器的配置文件或镜像至边缘计算设备的本地,并将不同功能交付给控制器执行相应的操作。
可选的,网关能够实现服务编排。具体的,网关能够将内部应用服务封装成镜像,运行在docker容器进程的载体之上,统一开发和发布环境,从而降低了业务应用过分对操作系统的依赖性和迁移的复杂性,应用启动迅速、销毁即时,满足应用的高频版本迭代需求。另外,多应用的编排采用docker-compose脚本声明资源分配,合理弹性规划终端设备的CPU和内存资源。
可选的,网关能够实现内部服务与服务之间的相互调用。具体的,边缘计算设备内部应用繁多、开发技术栈不一,业务应用采用轻量、可移植的微服务框架,服务与服务之间相互调用采用GRPC通信协议,从而能够排除业务应用之间的耦合性、运行开发环境的同一性、应用版本管理、以及资源编排和管理的问题。
可选的,网关能够实现任务调度。具体的,外业收集的航测数据以SD卡的形式插入外接USB接口,边缘计算设备自动将航测数据拷贝到指定的目录,并通过GRPC通知给网关的任务调度模块,任务自动以队列的形式调用解算引擎生成相应的结果。
可选的,网关能够实现日志监控。具体的,Xstation边缘计算设备本地定时任务采集系统日志、应用日志,并以文件的形式保存,在边缘计算设备联网时,将系统日志和应用日志上传至云端服务器。资源监控抓取采集终端设备的各种运行指标,例如,CPU使用率、内存使用率、系统负载、磁盘使用量、网络流量等,保存到时间序列的本地数据库,并以APP、WEB等形式可视化展示。
对于云端服务器,器提供了基于kubernetes集群的设备注册、配置中心、任务管理、日志管理、设备管理、存储管理、监控管理等功能。
可选的,在边缘计算设备出厂后,在初始化的过程中,边缘计算设备携带设备密钥向云端服务器请求设备入云,云端服务器对设备密钥进行资产编码验证,实时监控边缘计算设备的当前状态。
可选的,云端服务器可向边缘计算设备批量或局部分发应用配置文件,边缘计算设备在接收到配置文件后,由边缘网关路由指定给相应的应用服务执行应用变更操作。
可选的,边缘计算设备将处理数据的历史任务和处理结果上传至云端服务器,云端服务器对边缘计算设备的任务进行集中化管理,方便设备售后维护。
可选的,云端服务器提供对边缘计算设备的日志文件的管理,通过分析日志文件检索出有问题的设备,方便排查异常问题。
需要说明的是,本实施例中的边缘计算设备可执行实施例1中的数据处理方法,相关内容已在实施例1中进行说明,在此不再赘述。
实施例3
根据本发明实施例,还提供了一种数据处理装置的实施例,其中,图6是根据本发明实施例的数据处理装置的示意图,如图6所示,该装置包括:获取模块601、生成模块603、创建模块605以及处理模块607。
其中,获取模块601,用于控制边缘计算设备获取无人机设备采集到的航测数据;生成模块603,用于控制边缘计算设备根据航测数据生成处理航测数据的待执行任务;创建模块605,用于控制边缘计算设备创建与待执行任务对应的解算容器进程;处理模块607,用于控制边缘计算设备基于解算容器进程对待执行任务对应的航测数据进行处理,得到处理结果。
需要说明的是,上述获取模块601、生成模块603、创建模块605以及处理模块607对应于上述实施例1中的步骤S202至步骤S208,四个模块与对应的步骤所实现的示例和应用场景相同,但不限于上述实施例1所公开的内容。
可选的,数据处理装置还包括:检测模块、监测模块以及第一生成模块。其中,检测模块,用于在边缘计算设备获取无人机设备采集到的航测数据之后,检测串行接口是否接收到新的航测数据;监测模块,用于在串行接口未接收到新的航测数据的情况下,监测串行接口的数据变化状态;第一生成模块,用于在串行接口接收到新的航测数据的情况下,生成控制指令。
可选的,检测模块包括:第一检测模块、第二检测模块、第三检测模块、第一确定模块以及第二确定模块。其中,第一检测模块,用于检测是否有外部设备接入;第二检测模块,用于在检测到有外部设备接入的情况下,检测串行接口是否接收到数据;第三检测模块,用于在接收到数据的情况下,检测数据与预设数据是否存在差异;第一确定模块,用于在数据与预设数据存在差异的情况下,确定串行接口接收到新的航测数据;第二确定模块,用于在数据与预设数据不存在差异的情况下,确定串行接口未接收到新的航测数据。
可选的,生成模块包括:注册模块以及第三确定模块。其中,注册模块,用于根据控制指令向任务调度模块进行任务注册;第三确定模块,用于在完成任务注册的情况下,确定与航测数据对应的待执行任务。
可选的,数据处理装置还包括:划分模块、第一存储模块、第四确定模块以及第二存储模块。其中,划分模块,用于在边缘计算设备根据航测数据生成处理航测数据的待执行任务之后,将待执行任务划分为多个子任务;第一存储模块,用于将多个子任务存入等待队列中;第四确定模块,用于确定多个子任务中的每个子任务所对应的优先级;第二存储模块,用于按照优先级将多个子任务存入待执行队列中。
可选的,创建模块包括:第一获取模块、第五确定模块以及第一创建模块。其中,第一获取模块,用于获取待执行任务所对应的数据量;第五确定模块,用于根据待执行任务所对应的数据量确定执行待执行任务所需要的系统资源;第一创建模块,用于根据系统资源创建解算容器进程。
可选的,处理模块包括:第四检测模块、第一处理模块以及第三存储模块。其中,第四检测模块,用于检测解算容器进程是否从待执行队列中获取到当前子任务对应的数据流;第一处理模块,用于在解算容器进程获取到当前子任务对应的数据流的情况下,对当前子任务对应的数据流进行处理,得到处理结果;第三存储模块,用于在解算容器进程未获取到数据流的情况下,将当前子任务存入任务解算失败队列中。
可选的,数据处理装置还包括:第五检测模块以及第四存储模块。其中,第五检测模块,用于在基于解算容器进程对待执行任务对应的航测数据进行处理的过程中,检测解算容器进程是否出现异常;第四存储模块,用于在解算容器进程出现异常的情况下,将当前子任务的优先级设置为最高优先级,并将当前子任务存入待执行队列中。
实施例4
根据本发明实施例的另一方面,还提供了一种非易失性存储介质,该非易失性存储介质中存储有计算机程序,其中,计算机程序被设置为运行时执行上述实施例1中的数据处理方法。
实施例5
根据本发明实施例的另一方面,还提供了一种处理器,该处理器用于运行程序,其中,程序被设置为运行时执行上述实施例1中的数据处理方法。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,可以为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (14)
1.一种数据处理方法,其特征在于,包括:
边缘计算设备获取无人机设备采集到的航测数据;
所述边缘计算设备根据所述航测数据生成处理所述航测数据的待执行任务;
所述边缘计算设备创建与所述待执行任务对应的解算容器进程;
所述边缘计算设备基于所述解算容器进程对所述待执行任务对应的航测数据进行处理,得到处理结果。
2.根据权利要求1所述的方法,其特征在于,在所述边缘计算设备获取无人机设备采集到的航测数据之后,所述方法还包括:
所述边缘计算设备检测串行接口是否接收到新的航测数据;
在所述串行接口未接收到所述新的航测数据的情况下,所述边缘计算设备监测所述串行接口的数据变化状态;
在所述串行接口接收到所述新的航测数据的情况下,所述边缘计算设备生成控制指令。
3.根据权利要求2所述的方法,其特征在于,所述边缘计算设备检测串行接口是否接收到新的航测数据,包括:
所述边缘计算设备检测是否有外部设备接入;
在检测到有外部设备接入的情况下,所述边缘计算设备检测所述串行接口是否接收到数据;
在接收到所述数据的情况下,所述边缘计算设备检测所述数据与预设数据是否存在差异;
在所述数据与所述预设数据存在差异的情况下,所述边缘计算设备确定所述串行接口接收到所述新的航测数据;
在所述数据与所述预设数据不存在差异的情况下,所述边缘计算设备确定所述串行接口未接收到所述新的航测数据。
4.根据权利要求2所述的方法,其特征在于,所述边缘计算设备根据所述航测数据生成处理所述航测数据的待执行任务,包括:
所述边缘计算设备根据所述控制指令向任务调度模块进行任务注册;
在完成所述任务注册的情况下,所述边缘计算设备确定与所述航测数据对应的待执行任务。
5.根据权利要求4所述的方法,其特征在于,在所述边缘计算设备根据所述航测数据生成处理所述航测数据的待执行任务之后,所述方法还包括:
所述边缘计算设备将所述待执行任务划分为多个子任务;
所述边缘计算设备将所述多个子任务存入等待队列中;
所述边缘计算设备确定所述多个子任务中的每个子任务所对应的优先级;
所述边缘计算设备按照所述优先级将所述多个子任务存入待执行队列中。
6.根据权利要求5所述的方法,其特征在于,所述边缘计算设备创建与所述待执行任务对应的解算容器进程,包括:
所述边缘计算设备获取所述待执行任务所对应的数据量;
所述边缘计算设备根据所述待执行任务所对应的数据量确定执行所述待执行任务所需要的系统资源;
所述边缘计算设备根据所述系统资源创建所述解算容器进程。
7.根据权利要求6所述的方法,其特征在于,所述边缘计算设备基于所述解算容器进程对所述待执行任务对应的航测数据进行处理,得到处理结果,包括:
所述边缘计算设备检测所述解算容器进程是否从所述待执行队列中获取到当前子任务对应的数据流;
在所述解算容器进程获取到所述当前子任务对应的数据流的情况下,所述边缘计算设备对所述当前子任务对应的数据流进行处理,得到所述处理结果。
8.根据权利要求7所述的方法,其特征在于,在所述解算容器进程未获取到所述数据流的情况下,所述边缘计算设备将所述当前子任务存入任务解算失败队列中。
9.根据权利要求7所述的方法,其特征在于,所述方法还包括:
在基于所述解算容器进程对所述待执行任务对应的航测数据进行处理的过程中,所述边缘计算设备检测所述解算容器进程是否出现异常;
在所述解算容器进程出现异常的情况下,所述边缘计算设备将所述当前子任务的优先级设置为最高优先级,并将所述当前子任务存入所述待执行队列中。
10.一种数据处理系统,其特征在于,包括:
无人机设备,用于采集航测数据;
边缘计算设备,用于获取所述航测数据,并根据所述航测数据生成处理所述航测数据的待执行任务,创建与所述待执行任务对应的解算容器进程,基于所述解算容器进程对所述待执行任务对应的航测数据进行处理,得到处理结果,并将所述处理结果上传至云端服务器;
云端服务器,用于对所述处理结果进行管理。
11.根据权利要求10所述的系统,其特征在于,所述边缘计算设备包括:
网关,用于将所述边缘计算设备注册到所述云端服务器中,并与所述云端服务器保持连接心跳。
12.一种数据处理装置,其特征在于,包括:
获取模块,用于控制边缘计算设备获取无人机设备采集到的航测数据;
生成模块,用于控制所述边缘计算设备根据所述航测数据生成处理所述航测数据的待执行任务;
创建模块,用于控制所述边缘计算设备创建与所述待执行任务对应的解算容器进程;
处理模块,用于控制所述边缘计算设备基于所述解算容器进程对所述待执行任务对应的航测数据进行处理,得到处理结果。
13.一种非易失性存储介质,其特征在于,所述非易失性存储介质中存储有计算机程序,其中,所述计算机程序被设置为运行时执行所述权利要求1至9任一项中所述的数据处理方法。
14.一种处理器,其特征在于,所述处理器用于运行程序,其中,所述程序被设置为运行时执行所述权利要求1至9任一项中所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011626439.7A CN112631759A (zh) | 2020-12-30 | 2020-12-30 | 数据处理方法、装置和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011626439.7A CN112631759A (zh) | 2020-12-30 | 2020-12-30 | 数据处理方法、装置和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112631759A true CN112631759A (zh) | 2021-04-09 |
Family
ID=75290053
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011626439.7A Pending CN112631759A (zh) | 2020-12-30 | 2020-12-30 | 数据处理方法、装置和系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112631759A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114448998A (zh) * | 2021-12-17 | 2022-05-06 | 广州极飞科技股份有限公司 | 网络请求处理方法、装置、设备及存储介质 |
WO2023193609A1 (en) * | 2022-04-06 | 2023-10-12 | International Business Machines Corporation | Selective privileged container augmentation |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111163002A (zh) * | 2019-12-31 | 2020-05-15 | 广州智光电气股份有限公司 | 一种基于容器的边缘网关系统和能源数据处理方法 |
CN111459605A (zh) * | 2020-02-26 | 2020-07-28 | 浙江工业大学 | 一种基于Docker的边缘计算网关虚拟化方法 |
CN111782387A (zh) * | 2020-03-23 | 2020-10-16 | 韶鼎人工智能科技有限公司 | 融合边缘计算的私有云多终端智能相册管理系统和方法 |
CN111866084A (zh) * | 2020-06-24 | 2020-10-30 | 北京智芯微电子科技有限公司 | 基于容器的边缘物联代理装置 |
-
2020
- 2020-12-30 CN CN202011626439.7A patent/CN112631759A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111163002A (zh) * | 2019-12-31 | 2020-05-15 | 广州智光电气股份有限公司 | 一种基于容器的边缘网关系统和能源数据处理方法 |
CN111459605A (zh) * | 2020-02-26 | 2020-07-28 | 浙江工业大学 | 一种基于Docker的边缘计算网关虚拟化方法 |
CN111782387A (zh) * | 2020-03-23 | 2020-10-16 | 韶鼎人工智能科技有限公司 | 融合边缘计算的私有云多终端智能相册管理系统和方法 |
CN111866084A (zh) * | 2020-06-24 | 2020-10-30 | 北京智芯微电子科技有限公司 | 基于容器的边缘物联代理装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114448998A (zh) * | 2021-12-17 | 2022-05-06 | 广州极飞科技股份有限公司 | 网络请求处理方法、装置、设备及存储介质 |
CN114448998B (zh) * | 2021-12-17 | 2024-03-01 | 广州极飞科技股份有限公司 | 网络请求处理方法、装置、设备及存储介质 |
WO2023193609A1 (en) * | 2022-04-06 | 2023-10-12 | International Business Machines Corporation | Selective privileged container augmentation |
US11953972B2 (en) | 2022-04-06 | 2024-04-09 | International Business Machines Corporation | Selective privileged container augmentation |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10719367B1 (en) | Management of workers executing program code functions | |
US20200177673A1 (en) | Minimizing overhead of applications deployed in multi-clouds | |
US10498857B2 (en) | System interaction monitoring and component scaling | |
US9684502B2 (en) | Apparatus, systems, and methods for distributed application orchestration and deployment | |
US9851989B2 (en) | Methods and apparatus to manage virtual machines | |
US8862933B2 (en) | Apparatus, systems and methods for deployment and management of distributed computing systems and applications | |
US9430213B2 (en) | Apparatus, systems and methods for cross-cloud software migration and deployment | |
US20150186129A1 (en) | Method and system for deploying a program module | |
US20140245319A1 (en) | Method for enabling an application to run on a cloud computing system | |
US20130227116A1 (en) | Determining optimal component location in a networked computing environment | |
CN105049268A (zh) | 分布式计算资源分配系统和任务处理方法 | |
US9591094B2 (en) | Caching of machine images | |
US20160034292A1 (en) | Monitoring and dynamically reconfiguring virtual machine patterns | |
US11757977B2 (en) | Rule-based action triggering in a provider network | |
US9729610B2 (en) | Method for intercepting an instruction produced by an application on a computer | |
US9959157B1 (en) | Computing instance migration | |
US20190212995A1 (en) | Risk Aware Application Placement Modeling and Optimization in High Turnover DevOps Environments | |
EP3901773A1 (en) | Dynamically allocated cloud worker management system and method therefor | |
CN112631759A (zh) | 数据处理方法、装置和系统 | |
US20190377596A1 (en) | Flexible batch job scheduling in virtualization environments | |
US11068487B2 (en) | Event-stream searching using compiled rule patterns | |
CN114489985A (zh) | 数据处理方法、设备及存储介质 | |
US20200089542A1 (en) | Dependency layer deployment optimization in a workload node cluster | |
US20130145004A1 (en) | Provisioning using presence detection | |
CN117859309A (zh) | 自动选择在其上执行任务的节点 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 510000 Block C, 115 Gaopu Road, Tianhe District, Guangzhou City, Guangdong Province Applicant after: Guangzhou Jifei Technology Co.,Ltd. Address before: 510000 Block C, 115 Gaopu Road, Tianhe District, Guangzhou City, Guangdong Province Applicant before: Guangzhou Xaircraft Technology Co.,Ltd. |
|
CB02 | Change of applicant information |