CN114419293A - 一种增强现实的数据处理方法、装置及设备 - Google Patents

Abstract

本发明涉及一种增强现实的数据处理方法、装置及设备，该方法步骤包括：通过摄像设备实时获取目标区域的现实图像数据；对现实图像数据进行虚实融合处理，得到虚实融合的叠加场景；将虚实融合的叠加场景通过显示设备进行展示。该增强现实的数据处理方法通过摄像设备获取现实救援或训练现场的数据，对现实图像数据进行虚拟融合处理，得到虚拟融合的叠加场景，并将叠加场景通过显示设备显示，实现AR展示救援或训练场地的现场虚实融合环境，便于用户看到的是真实世界上叠加了虚拟内容的综合场景，解决了现有训练业务中训练场景覆盖率不足、训练效率低下、指挥手段单一以及模拟真实场景成本过高等问题。

Description

一种增强现实的数据处理方法、装置及设备

技术领域

本发明涉及训练以及救援技术领域，尤其涉及一种增强现实的数据处理方法、装置及设备。

背景技术

训练业务在各领域作为一种常态工作任务，如部队的军事训练、应急的救援训练等。随着时代的进步，科技的发展，利用现代化高科技手段辅助训练管理，提高训练质量和效率成为必然趋势。

随着科学的进步，数字信息化被广泛应用，构建应急训练智能化管理平台，实现救援训练管理信息的互联互通，为模拟训练、救援实战提供科学依据，成为加快智能应急救援训练信息化发展建设的重要手段。目前应急救援队伍的技术含量不高，应急救援信息保障技术不足，对应急救援体系的建设更加重视，提升日常应急训练质量、确保应急救援工作顺利进行。实现各级应急管理单位充分利用先进的信息化手段，积极探索救护队伍信息化救援训练方式，及时、准确、有效地为救护队提供可供训练和救援的参考方案，初步构建以物联网为基础的各类设备相集成的各种系统，不同程度实现了较完善的智能信息化训练和指挥管理平台，提高了日常训练和救援实战效率。

当前的各种应急训练或救援系统基本都在数据管理和应急指挥协同上较好的解决了应急预案库管理、演练计划与方案设计模块、演练过程跟踪与协作和演练效果评估分析及报告等方面的问题，利用信息化手段为应急训练赋能。但是此类训练或救援系统的远程指挥训练人员主要是通过对讲机实现沟通，对讲机的覆盖范围有限，造成远程指挥效率低；且该训练或救援系统获取训练或救援场地环境通过摄像设备采集的，该采集的图像展示训练或救援场地环境的能见度低，无法看清训练或救援场地的实际周边环境，为训练或救援带来一定危险。

发明内容

本发明实施例提供了一种增强现实的数据处理方法、装置及设备，用于解决解决了现有训练业务中训练场景覆盖率不足、训练效率低下、指挥手段单一以及模拟真实场景成本过高等的技术问题。

为了实现上述目的，本发明实施例提供如下技术方案：

一种增强现实的数据处理方法，应用于训练或救援系统上，包括以下步骤：

通过摄像设备实时获取目标区域的现实图像数据；

对所述现实图像数据进行虚实融合处理，得到虚实融合的叠加场景；

将虚实融合的叠加场景通过显示设备进行展示。

优选地，对所述现实图像数据进行虚实融合处理，得到虚实融合的叠加场景的步骤包括：

获取目标区域的虚拟场景模型，以及采用ARToolKit对所述现实图像数据的目标区域进行识别，得到与所述现实图像数据对应的真实目标模型；

通过ARToolKit将所述真实目标模型与所述虚拟场景模型进行配准，得到虚实融合的叠加场景；

将所述叠加场景转换为视频流传送至所述显示设备进行展示；

其中，所述显示数据包括图像和视频。

优选地，所述虚拟场景模型包括文字、图像、语音和/或3D模型。

本发明还提供一种增强现实的数据处理装置，应用于训练或救援系统上，包括：摄像设备、虚拟融合控制设备和显示设备；

所述摄像设备，用于实时采集目标区域的现实图像数据并传送至所述虚拟融合控制设备；

所述虚拟融合控制设备，用于按照上述所述的增强现实的数据处理方法执行，得到虚实融合的叠加场景，并将得到虚实融合的叠加场景传送至所述显示设备；

所述显示设备，设置在用户的移动终端上并用于显示叠加场景。

优选地，该增强现实的数据处理装置包括无线通讯模块，所述无线通讯模块用于将所述摄像设备采集的现实图像数据传送至所述虚拟融合控制设备。

优选地，所述虚拟融合控制设备包括数据处理子模块、融合处理子模块和传送子模块；

所述数据处理子模块，用于获取目标区域的虚拟场景模型，以及采用ARToolKit对所述现实图像数据的目标区域进行识别，得到与所述现实图像数据对应的真实目标模型；

所述融合处理子模块，用于通过ARToolKit将所述真实目标模型与所述虚拟场景模型进行配准，得到虚实融合的叠加场景；

所述传送子模块，用于将所述叠加场景转换为视频流传送至显示设备进行展示；

其中，所述显示数据包括图像和视频。

优选地，该增强现实的数据处理装置包括：佩戴在所述用户上的防护设备，所述显示设备和所述摄像设备均设置在所述防护设备上。

优选地，所述显示设备为显示屏或具有显示功能的移动终端。

优选地，所述摄像设备为105°超大视场角的双目3D相机或摄像头。

本发明还提供一种增强现实的数据处理设备，应用于训练或救援系统上，包括处理器以及存储器；

所述存储器，用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器，用于根据所述程序代码中的指令执行上述所述的增强现实的数据处理方法。

从以上技术方案可以看出，本发明实施例具有以下优点：该增强现实的数据处理方法、装置及设备，该方法步骤包括：通过摄像设备实时获取目标区域的现实图像数据；对现实图像数据进行虚实融合处理，得到虚实融合的叠加场景；将虚实融合的叠加场景通过显示设备进行展示。该增强现实的数据处理方法通过摄像设备获取现实救援或训练现场的数据，对现实图像数据进行虚拟融合处理，得到虚拟融合的叠加场景，并将叠加场景通过显示设备显示，实现AR展示救援或训练场地的现场虚实融合环境，便于用户看到的是真实世界上叠加了虚拟内容的综合场景，解决了现有训练业务中训练场景覆盖率不足、训练效率低下、指挥手段单一以及模拟真实场景成本过高等问题。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其它的附图。

图1为本发明实施例所述的增强现实的数据处理方法的步骤流程图；

图2为本发明实施例所述的增强现实的数据处理装置的框架图。

具体实施方式

为使得本发明的发明目的、特征、优点能够更加的明显和易懂，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，下面所描述的实施例仅仅是本发明一部分实施例，而非全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其它实施例，都属于本发明保护的范围。

本申请实施例提供了一种增强现实的数据处理方法、装置及设备，用于解决了现有训练业务中训练场景覆盖率不足、训练效率低下、指挥手段单一以及模拟真实场景成本过高等问题。

实施例一：

图1为本发明实施例所述的增强现实的数据处理方法的步骤流程图。

如图1所示，本发明实施例提供了一种增强现实的数据处理方法，应用于训练或救援系统上，包括以下步骤：

S1.通过摄像设备实时获取目标区域的现实图像数据。

需要说明的是，目标区域指的是训练场地或需要救援场景。现实图像数据指的是通过摄像设备采集目标区域的图像和/或视频。在本实施例中，训练场地可以为室外或室内大型训练场地；救援场景可以为火灾场景、水灾场景等。其中，摄像设备可以为105°超大视场角的双目3D相机或摄像头，也可以为具有摄像功能的设备。

S2.对现实图像数据进行虚实融合处理，得到虚实融合的叠加场景。

需要说明的是，在步骤S2中主要是对步骤S1获取目标区域的现实图像数据进行虚实融合处理，得到融合后的叠加场景，便于用户看到的是真实世界上叠加了虚拟内容的综合场景，达到身临其境的真实感觉。

S3.将虚实融合的叠加场景通过显示设备进行展示。

需要说明的是，主要是通过显示设备呈现虚实融合的叠加场景，便于用户看到的是真实世界上叠加了虚拟内容的综合场景，达到身临其境的真实感觉。该增强现实的数据处理方法通过摄像设备获取现实救援或训练现场的数据，对现实图像数据进行虚拟融合处理，得到虚拟融合的叠加场景，并将叠加场景通过显示设备显示，实现AR展示救援或训练场地的现场虚实融合环境，便于用户能够真实地感受来自虚拟救援(如受灾)或训练现场的事物。例如在救援场地中，可以在任意真实世界环境中模拟所有可能发生的各种不同等级的灾害场景，能让用户(如救灾人员)提前亲身经历未来可能发生的各种灾害，增强心理素质，在应急救援实战任务中更加从容，提高救援效率，降低社会财产损失。

本发明提供的一种增强现实的数据处理方法，步骤包括：通过摄像设备实时获取目标区域的现实图像数据；对现实图像数据进行虚实融合处理，得到虚实融合的叠加场景；将虚实融合的叠加场景通过显示设备进行展示。该增强现实的数据处理方法通过摄像设备获取现实救援或训练现场的数据，对现实图像数据进行虚拟融合处理，得到虚拟融合的叠加场景，并将叠加场景通过显示设备显示，实现AR展示救援或训练场地的现场虚实融合环境，便于用户看到的是真实世界上叠加了虚拟内容的综合场景，解决了现有训练业务中训练场景覆盖率不足、训练效率低下、指挥手段单一以及模拟真实场景成本过高等问题。

在本发明的一个实施例中，对现实图像数据进行虚实融合处理，得到虚实融合的叠加场景的步骤包括：

获取目标区域的虚拟场景模型，以及采用ARToolKit对现实图像数据的目标区域进行识别，得到与现实图像数据对应的真实目标模型；

通过ARToolKit将真实目标模型与虚拟场景模型进行配准，得到虚实融合的叠加场景；

将叠加场景转换为视频流传送至显示设备进行展示。

在本发明实施例中，在ARToolKit增强现实软件上根据用户需求虚拟设置一个虚拟场景模型，之后通过ARToolKit增强现实软件对真实数据中的图像或视频进行目标识别，得到真实目标模型，对现实目标模型和虚拟场景模型进行虚实融合处理即是将真实目标模型与虚拟场景模型通过ARToolKit增强现实软件进行配准，实现虚实融合后，并将虚拟融合的叠加场景输出合成视频流传送至显示设备上。

需要说明的是，ARToolKit增强现实软件是比较成熟技术，ARToolKit增强现实软件的工作原理不做详述。

在本发明实施例中，虚拟场景模型可以根据需求，自行设置的虚拟模型，虚拟场景模型包括但不限于文字、图像、语音和/或3D模型，例如火灾现场、坍塌现场、水灾现场、建筑物模型、救援工具等。

需要说明的是，该增强现实的数据处理方法通过摄像设备负责采集目标区域的现实视频或图形，将视频图像实时传输到有安装增强现实软件ARToolKit的虚拟融合控制设备上进行虚实融合处理，ARToolKit内置的注册算法将虚拟信息和真实环境进行配准，实现虚实融合，最后在显示设备上呈现出来，用户人眼看到的是真实世界上叠加了虚拟内容的综合场景，达到身临其境的真实感觉。

在本发明实施例中，该增强现实的数据处理方法通过训练实战作为案例进行说明且该增强现实的数据处理方法应用在防护设备上，防护设备可以为应急救援帽，具体为：用户戴上应急救援帽进入无灾害的救援现场，应急救援帽上的摄像设备将现场虚实融合环境视频画面通过随身无线网络实时传输到虚实融合控制设备上，通过对采集的现实图像数据的处理，得到叠加场景，后方用户根据叠加场景制定各种相应的指挥处置行为，包括但不限：通过对讲机与现场的战斗人员进行实时语音沟通，也可以通过无线网络实时将救援现场虚拟融合后的叠加场景传输到现场战斗人员随身携带的移动终端上，最后显示在应急救援帽的屏幕上。战斗人员通过屏幕看到AR合成的救援现场虚实融合环境，如身临真实的救援场景中，利用AR的人机交互技术，使用手势选择不同的救援工具进行模拟救援工作。如该增强现实的数据处理方法通过应急训练作为案例说明，可以根据获取现实救援现场的真实数据，通过ARToolKit增强现实软件快速识别真实数据中视频或图像的现实事物后与虚拟场景模型进行实时合成，实现虚拟信息和真实信息均能反馈，从而为用户提供一个虚实融合的增强环境，让用户能够真实地感受来自虚拟受灾现场的事物。

实施例二：

图2为本发明实施例所述的增强现实的数据处理装置的框架图。

如图2所示，本发明实施例还提供一种增强现实的数据处理装置，应用于训练或救援系统上，包括：摄像设备10、虚拟融合控制设备20和显示设备30；

摄像设备10，用于实时采集目标区域的现实图像数据并传送至虚拟融合控制设备20；

虚拟融合控制设备20，用于按照上述的增强现实的数据处理方法执行，得到虚实融合的叠加场景，并将得到虚实融合的叠加场景传送至显示设备30；

显示设备30，设置在用户的移动终端上并用于显示叠加场景。

需要说明的是，实施例二装置中增强现实的数据处理方法的内容已在实施例一方法中详细阐述了，在此实施例二中不再对装置中增强现实的数据处理方法的内容进行详细阐述。

在本发明实施例中，该增强现实的数据处理装置包括无线通讯模块40，无线通讯模块40用于将摄像设备10采集的现实图像数据传送至虚拟融合控制设备20。

需要说明的是，无线通讯模块40可以为4G、5G、WIFI、微波等无线通信方式，无线通讯模块40主要用于实现摄像设备10与虚拟融合控制设备20之间的实时数据传输。

在本发明实施例中，摄像设备10可以为105°超大视场角的双目3D相机或摄像头，也可以为具有摄像功能的设备。其中，摄像设备10采集目标区域的真实数据通过视频流传送至虚拟融合控制设备20中，摄像设备10与虚拟融合控制设备20之间的数据通讯可以采用无线通信模块，也可以采用WiFi等无线通信方式。

在本发明实施例中，虚拟融合控制设备20包括数据处理子模块、融合处理子模块和传送子模块；

数据处理子模块，用于获取目标区域的虚拟场景模型，以及采用ARToolKit对现实图像数据的目标区域进行识别，得到与现实图像数据对应的真实目标模型；

融合处理子模块，用于通过ARToolKit将真实目标模型与虚拟场景模型进行配准，得到虚实融合的叠加场景；

传送子模块，用于将叠加场景转换为视频流传送至显示设备30进行展示；

其中，所述显示数据包括图像和视频。

需要说明的是，实施例二装置中虚拟融合控制设备子模块的内容对应于实施例一方法中步骤S2的内容，实施例一方法的步骤S2的内已在实施例一方法中详细阐述了，在此实施例二中不再对装置中虚拟融合控制设备子模块的内容进行详细阐述。

在本发明实施例中，显示设备30主要用于显示真实数据。其中，显示设备30与虚拟融合控制设备20之间的数据通信可以通过5G通信模块传送。

需要说明的是，显示设备30可以为显示屏或具有显示功能的移动终端。

在本发明的实施例中，该增强现实的数据处理装置包括：佩戴在用户上的防护设备，显示设备30和摄像设备40均设置在防护设备上。

需要说明的是，防护设备可以为应急救援帽。在本实施例中，在现有普通救援帽的基础上增加AR深度摄像头、显示屏和随身携带的移动终。防护设备主要是用于佩戴在用户身上的智能穿戴装备，例如智能手表。

在本发明实施例中，该增强现实的数据处理装置通过虚拟融合控制设备的增强现实AR技术具备远程控制、实时成像反馈，设备和通讯轻便等特点，在现代应急训练和救援工作中可发挥积极的效能，对于提升救援工作的时效性、安全性等都能提供重要的支撑作用；解决目前应急训练系统中的缺点和不足、丰富应急训练的场景，提高救援场景的模拟覆盖度、提升应急训练的质量。

实施例三：

本发明实施例提供了一种增强现实的数据处理设备，包括处理器以及存储器；

存储器，用于存储程序代码，并将程序代码传输给处理器；

处理器，用于根据程序代码中的指令执行上述的增强现实的数据处理方法。

需要说明的是，处理器用于根据所程序代码中的指令执行上述的一种增强现实的数据处理方法实施例中的步骤。或者，处理器执行计算机程序时实现上述各系统/装置实施例中各模块/单元的功能。

示例性的，计算机程序可以被分割成一个或多个模块/单元，一个或者多个模块/单元被存储在存储器中，并由处理器执行，以完成本申请。一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述计算机程序在终端设备中的执行过程。

终端设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。终端设备可包括，但不仅限于，处理器、存储器。本领域技术人员可以理解，并不构成对终端设备的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如终端设备还可以包括输入输出设备、网络接入设备、总线等。

所称处理器可以是中央处理单元(Central Processing Unit，CPU)，还可以是其他通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现成可编程门阵列(Field-Programmable Gate Array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

存储器可以是终端设备的内部存储单元，例如终端设备的硬盘或内存。存储器也可以是终端设备的外部存储设备，例如终端设备上配备的插接式硬盘，智能存储卡(SmartMedia Card，SMC)，安全数字(Secure Digital，SD)卡，闪存卡(Flash Card)等。进一步地，存储器还可以既包括终端设备的内部存储单元也包括外部存储设备。存储器用于存储计算机程序以及终端设备所需的其他程序和数据。存储器还可以用于暂时地存储已经输出或者将要输出的数据。

所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的系统，装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。

在本申请所提供的几个实施例中，应该理解到，所揭露的系统，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个系统，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。

所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。

另外，在本发明各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。

所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-OnlyMemory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。

以上所述，以上实施例仅用以说明本发明的技术方案，而非对其限制；尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (10)

1.一种增强现实的数据处理方法，应用于训练或救援系统上，其特征在于，包括以下步骤：

通过摄像设备实时获取目标区域的现实图像数据；

对所述现实图像数据进行虚实融合处理，得到虚实融合的叠加场景；

将虚实融合的叠加场景通过显示设备进行展示。

2.根据权利要求1所述的增强现实的数据处理方法，其特征在于，对所述现实图像数据进行虚实融合处理，得到虚实融合的叠加场景的步骤包括：

获取目标区域的虚拟场景模型，以及采用ARToolKit对所述现实图像数据的目标区域进行识别，得到与所述现实图像数据对应的真实目标模型；

通过ARToolKit将所述真实目标模型与所述虚拟场景模型进行配准，得到虚实融合的叠加场景；

将所述叠加场景转换为视频流传送至所述显示设备进行展示；

其中，所述显示数据包括图像和视频。

3.根据权利要求2所述的增强现实的数据处理方法，其特征在于，所述虚拟场景模型包括文字、图像、语音和/或3D模型。

4.一种增强现实的数据处理装置，应用于训练或救援系统上，其特征在于，包括：摄像设备、虚拟融合控制设备和显示设备；

所述摄像设备，用于实时采集目标区域的现实图像数据并传送至所述虚拟融合控制设备；

所述虚拟融合控制设备，用于按照如权利要求1-3任意一项所述的增强现实的数据处理方法执行，得到虚实融合的叠加场景，并将得到虚实融合的叠加场景传送至所述显示设备；

所述显示设备，设置在用户的移动终端上并用于显示叠加场景。

5.根据权利要求4所述的增强现实的数据处理装置，其特征在于，包括无线通讯模块，所述无线通讯模块用于将所述摄像设备采集的现实图像数据传送至所述虚拟融合控制设备。

6.根据权利要求4所述的增强现实的数据处理装置，其特征在于，所述虚拟融合控制设备包括数据处理子模块、融合处理子模块和传送子模块；

所述数据处理子模块，用于获取目标区域的虚拟场景模型，以及采用ARToolKit对所述现实图像数据的目标区域进行识别，得到与所述现实图像数据对应的真实目标模型；

所述融合处理子模块，用于通过ARToolKit将所述真实目标模型与所述虚拟场景模型进行配准，得到虚实融合的叠加场景；

所述传送子模块，用于将所述叠加场景转换为视频流传送至显示设备进行展示；

其中，所述显示数据包括图像和视频。

7.根据权利要求4所述的增强现实的数据处理装置，其特征在于，包括：佩戴在所述用户上的防护设备，所述显示设备和所述摄像设备均设置在所述防护设备上。

8.根据权利要求4所述的增强现实的数据处理装置，其特征在于，所述显示设备为显示屏或具有显示功能的移动终端。

9.根据权利要求4所述的增强现实的数据处理装置，其特征在于，所述摄像设备为105°超大视场角的双目3D相机或摄像头。

10.一种增强现实的数据处理设备，应用于训练或救援系统上，其特征在于，包括处理器以及存储器；

所述存储器，用于存储程序代码，并将所述程序代码传输给所述处理器；

所述处理器，用于根据所述程序代码中的指令执行如权利要求1-3任意一项所述的增强现实的数据处理方法。

Images