CN115951806B - 一种基于ar技术的施工场景识别方法及终端 - Google Patents
一种基于ar技术的施工场景识别方法及终端 Download PDFInfo
- Publication number
- CN115951806B CN115951806B CN202211357669.7A CN202211357669A CN115951806B CN 115951806 B CN115951806 B CN 115951806B CN 202211357669 A CN202211357669 A CN 202211357669A CN 115951806 B CN115951806 B CN 115951806B
- Authority
- CN
- China
- Prior art keywords
- scene
- construction
- real
- sub
- virtual object
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000010276 construction Methods 0.000 title claims abstract description 483
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000005516 engineering process Methods 0.000 title claims abstract description 26
- 230000009466 transformation Effects 0.000 claims description 22
- 238000013507 mapping Methods 0.000 claims description 20
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 14
- 239000011159 matrix material Substances 0.000 claims description 14
- 230000008569 process Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 8
- 230000000694 effects Effects 0.000 abstract description 11
- 230000005540 biological transmission Effects 0.000 description 14
- 230000003993 interaction Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 230000003190 augmentative effect Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000012795 verification Methods 0.000 description 1
Landscapes
- Processing Or Creating Images (AREA)
Abstract
本发明公开一种基于AR技术的施工场景识别方法及终端,方法包括:S1、获取待识别的施工场景对应的真实场景信息;S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象;能够很好地实现理论与实际施工的结合,提高了庞杂的施工工程的培训效果和施工效果。
Description
技术领域
本发明涉及AR技术领域,尤其涉及一种基于AR技术的施工场景识别方法及终端。
背景技术
在目前的工程作业或施工现场中,很多工器具的使用与安装都具有标准化的流程。对于新入行的从业人员来说,各类工器具以及施工方式的学习都面临着上手慢、核实难、学习成本高的问题,工作过程中常常因为缺乏经验,而无法对其进行准确的判断,且在找寻资料的过程中,难以高效的找到所需目标,学习所需时间长,加大了学习成本,增加了上岗难度。
随着AR(Augmented Reality,增强现实)技术在各个行业的广泛应用,为了解决上述问题,现有技术中出现了借助AR技术来对工器具的使用与安装进行引导说明的解决方式。
然而,上述解决方式通常所呈现的AR场景都是固定不变的,也缺乏与施工人员的互动,只适用于简单的应用场景。而现实中的施工现场往往比较庞杂,这些施工场景通常是需要不同班组、不同岗位人员相互配合完成的,施工现场不断变化,现有的AR呈现方式并不能很好地适用于这些比较庞杂的施工现场。
发明内容
本发明所要解决的技术问题是:提供一种基于AR技术的施工场景识别方法及终端,能够提高庞杂的施工工程的培训效果和施工效果。
为了解决上述技术问题,本发明采用的一种技术方案为:
一种基于AR技术的施工场景识别方法,包括步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象。
为了解决上述技术问题,本发明采用的另一种技术方案为:
一种基于AR技术的施工场景识别终端,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如下步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象。
本发明的有益效果在于:将施工场景进一步细分为施工子场景,先基于接收的施工场景对象确定其对应的施工子场景,再根据确定出的施工子场景获取对应的虚拟对象,然后再将虚拟对象叠加到施工场景对象所在的真实施工子场景中并显示,待现场施工人员对该施工场景对象进行操作后,会根据其操作结果对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新,一方面,实现了对施工场景的细分,保证所获取的虚拟对象的针对性,另一方面,对于包括多个施工子场景的施工场景来说,在施工人员执行对应的操作后,能够基于操作结果对其所在的施工子场景及其对应的虚拟对象进行同步更新,实现了AR场景下的人机互动以及真实场景和虚拟场景的实时更新,从而在庞杂的施工工程的培训和施工过程中,能够很好地实现理论与实际施工的结合,能够满足不同班组人员分时协作配合,实现不同班组、不同岗位人员在同一大场景下的配合作业,提高了比较庞杂的施工工程的培训效果和施工效果。
附图说明
图1为本发明实施例的一种基于AR技术的施工场景识别方法的步骤流程图;
图2为本发明实施例的一种基于AR技术的施工场景识别终端的结构示意图。
具体实施方式
为详细说明本发明的技术内容、所实现目的及效果,以下结合实施方式并配合附图予以说明。
请参照图1,一种基于AR技术的施工场景识别方法,包括步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象。
由上述描述可知,本发明的有益效果在于:将施工场景进一步细分为施工子场景,先基于接收的施工场景对象确定其对应的施工子场景,再根据确定出的施工子场景获取对应的虚拟对象,然后再将虚拟对象叠加到施工场景对象所在的真实施工子场景中并显示,待现场施工人员对该施工场景对象进行操作后,会根据其操作结果对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新,一方面,实现了对施工场景的细分,保证所获取的虚拟对象的针对性,另一方面,对于包括多个施工子场景的施工场景来说,在施工人员执行对应的操作后,能够基于操作结果对其所在的施工子场景及其对应的虚拟对象进行同步更新,实现了AR场景下的人机互动以及真实场景和虚拟场景的实时更新,从而在庞杂的施工工程的培训和施工过程中,能够很好地实现理论与实际施工的结合,能够满足不同班组人员分时协作配合,实现不同班组、不同岗位人员在同一大场景下的配合作业,提高了比较庞杂的施工工程的培训效果和施工效果。
进一步地,所述真实场景信息包括所述施工场景对应的标识;
所述步骤S2包括:
分析所述真实场景信息,确定所述施工场景对应的标识,根据所述标识搜索所述施工场景对应的映射关系,根据所述映射关系确定所述施工场景包含的施工子场景。
由上述描述可知,不同施工场景具有对应的起到识别作用的标识,当施工人员在施工现场时,先通过客户端将对应的施工场景标识进行发送,则服务端能够根据施工场景对应的标识搜索所述施工场景对应的映射关系,所述映射关系包含该施工场景对应的标识与其包含的施工子场景之间的关联关系,根据所述映射关系即能够快速确定施工场景包含的施工子场景。
进一步地,每一个施工子场景包含对应的识别特征,属于同一个施工场景的各个施工子场景存储在同一个识别特征库中,所述识别特征库与对应的施工场景关联;
所述根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景包括:
提取所述施工场景对象对应的特征信息,根据所述特征信息在其对应的识别特征库中进行搜索,确定与其匹配的目标识别特征;
根据所述目标识别特征确定所述施工场景对象对应的目标施工子场景。
由上述描述可知,针对每一种施工场景构建对应的识别特征库,该识别特征库中包含该施工场景包含的各个施工子场景对应的特征信息,则在确定施工者所在的施工子场景时,先提取客户端提交的施工场景对象的特征信息,再根据所述特征信息在其对应的识别特征库中进行搜索,确定匹配的目标识别特征,最后根据匹配出来的目标识别特征确定对应的目标施工子场景,保证了所确定出的目标施工子场景的准确性。
进一步地,所述真实场景信息包括设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
所述将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中包括:
分析所述真实场景信息,确定设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
根据所述位置信息和所述定位标记计算虚拟对象坐标到相机视平面的仿射变换矩阵,根据所述仿射变换矩阵在相机视平面上绘制所述目标施工子场景对应的虚拟对象;
将绘制了所述虚拟对象的相机视平面与通过所述相机拍摄的所述施工场景对象所在的真实施工子场景合并。
由上述描述可知,先确定虚拟对象坐标到相机视平面的仿射变换矩阵,再根据所述仿射变换矩阵在相机视平面上绘制目标施工子场景对应的虚拟对象,最后将绘制了虚拟对象相机视平面与通过相机拍摄的施工场景对象所在的真实施工子场景进行合并,实现了将虚拟对象准确叠加到施工场景对象所在的真实施工子场景中。
进一步地,所述步骤S4之后还包括步骤:
确定并存储所述施工场景中现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系;
接收视频显示请求;
根据所述视频显示请求以视频形式显示所述施工场景,在显示过程中根据所述空间对应关系对所述施工场景中现实对象和虚拟对象的显示进行实时变化。
由上述描述可知,在对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新后,对施工场景中的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系进行确定并存储,则在用户请求视频显示时,由于假设在施工场景现场的相机通常位置是固定的,因此各个子场景的背景都是固定不变的,因此,当在传输视频时,可以进行选择性地传输,对于固定不变的背景,可以只需传输一次即可,而对于其中可能有变化的设置在所述固定不变的背景中的现实对象和虚拟对象,则可以通过它们之间的空间对应关系,在已有被对应的一现实对象的基础上,只需要传输另一现实对象或虚拟对象以及它们之间的对应关系即可呈现下一帧图像,减少数据量的传输,高效实现视频中现实对象和虚拟对象的实时变化。
请参照图2,一种基于AR技术的施工场景识别终端,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如下步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象。
由上述描述可知,本发明的有益效果在于:将施工场景进一步细分为施工子场景,先基于接收的施工场景对象确定其对应的施工子场景,再根据确定出的施工子场景获取对应的虚拟对象,然后再将虚拟对象叠加到施工场景对象所在的真实施工子场景中并显示,待现场施工人员对该施工场景对象进行操作后,会根据其操作结果对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新,一方面,实现了对施工场景的细分,保证所获取的虚拟对象的针对性,另一方面,对于包括多个施工子场景的施工场景来说,在施工人员执行对应的操作后,能够基于操作结果对其所在的施工子场景及其对应的虚拟对象进行同步更新,实现了AR场景下的人机互动以及真实场景和虚拟场景的实时更新,从而在庞杂的施工工程的培训和施工过程中,能够很好地实现理论与实际施工的结合,能够满足不同班组人员分时协作配合,实现不同班组、不同岗位人员在同一大场景下的配合作业,提高了比较庞杂的施工工程的培训效果和施工效果。
进一步地,所述真实场景信息包括所述施工场景对应的标识;
所述步骤S2包括:
分析所述真实场景信息,确定所述施工场景对应的标识,根据所述标识搜索所述施工场景对应的映射关系,根据所述映射关系确定所述施工场景包含的施工子场景。
由上述描述可知,不同施工场景具有对应的起到识别作用的标识,当施工人员在施工现场时,先通过客户端将对应的施工场景标识进行发送,则服务端能够根据施工场景对应的标识搜索所述施工场景对应的映射关系,所述映射关系包含该施工场景对应的标识与其包含的施工子场景之间的关联关系,根据所述映射关系即能够快速确定施工场景包含的施工子场景。
进一步地,每一个施工子场景包含对应的识别特征,属于同一个施工场景的各个施工子场景存储在同一个识别特征库中,所述识别特征库与对应的施工场景关联;
所述根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景包括:
提取所述施工场景对象对应的特征信息,根据所述特征信息在其对应的识别特征库中进行搜索,确定与其匹配的目标识别特征;
根据所述目标识别特征确定所述施工场景对象对应的目标施工子场景。
由上述描述可知,针对每一种施工场景构建对应的识别特征库,该识别特征库中包含该施工场景包含的各个施工子场景对应的特征信息,则在确定施工者所在的施工子场景时,先提取客户端提交的施工场景对象的特征信息,再根据所述特征信息在其对应的识别特征库中进行搜索,确定匹配的目标识别特征,最后根据匹配出来的目标识别特征确定对应的目标施工子场景,保证了所确定出的目标施工子场景的准确性。
进一步地,所述真实场景信息包括设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
所述将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中包括:
分析所述真实场景信息,确定设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
根据所述位置信息和所述定位标记计算虚拟对象坐标到相机视平面的仿射变换矩阵,根据所述仿射变换矩阵在相机视平面上绘制所述目标施工子场景对应的虚拟对象;
将绘制了所述虚拟对象的相机视平面与通过所述相机拍摄的所述施工场景对象所在的真实施工子场景合并。
由上述描述可知,先确定虚拟对象坐标到相机视平面的仿射变换矩阵,再根据所述仿射变换矩阵在相机视平面上绘制目标施工子场景对应的虚拟对象,最后将绘制了虚拟对象相机视平面与通过相机拍摄的施工场景对象所在的真实施工子场景进行合并,实现了将虚拟对象准确叠加到施工场景对象所在的真实施工子场景中。
进一步地,所述步骤S4之后还包括步骤:
确定并存储所述施工场景中的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系;
接收视频显示请求;
根据所述视频显示请求以视频形式显示所述施工场景,在显示过程中根据所述空间对应关系对所述施工场景中现实对象和虚拟对象的显示进行实时变化。
由上述描述可知,在对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新后,对施工场景中的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系进行确定并存储,则在用户请求视频显示时,由于假设在施工场景现场的相机通常位置是固定的,因此各个子场景的背景都是固定不变的,因此,当在传输视频时,可以进行选择性地传输,对于固定不变的背景,可以只需传输一次即可,而对于其中可能有变化的设置在所述固定不变的背景中的现实对象和虚拟对象,则可以通过它们之间的空间对应关系,在已有被对应的一现实对象的基础上,只需要传输另一现实对象或虚拟对象以及它们之间的对应关系即可呈现下一帧图像,减少数据量的传输,高效实现视频中现实对象和虚拟对象的实时变化。
本申请上述基于AR技术的施工场景识别方法及终端能够适用于各种施工场景中,比如输变电工程场景、建筑工程施工场景等,以下通过具体的实施方式进行说明:
实施例一
本实施例以输变电工程场景作为例进行说明,请参照图1,一种基于AR技术的施工场景识别方法,包括步骤:
S1、获取待识别的施工场景对应的真实场景信息;
其中,真实场景信息包括所述施工场景对应的标识,本实施例基于C/S架构,整体分为客户端和服务端两个部分,施工人员或者工作人员到达施工现场后,可以通过客户端将施工现场对应的标识发送给服务端;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
具体的,服务端分析所述真实场景信息,确定所述施工场景对应的标识,根据所述标识搜索所述施工场景对应的映射关系,根据所述映射关系确定所述施工场景包含的施工子场景;
预先会设置好各个施工场景包含的施工子场景,每个施工场景对应一个包含其所有施工子场景的施工子场景集合,并且将每一个施工子场景集合与其对应的施工场景标识进行绑定,形成映射关系,并保存所述映射关系;
比如,本实施例为输变电工程场景,输变电工程场景包括变电土建子场景、变电电气子场景、线路土建子场景、线路电气子场景和电力电缆子场景,则设置集合A={变电土建子场景,变电电气子场景,线路土建子场景,线路电气子场景,电力电缆子场景},并将其与输变电工程场景的标识E进行绑定,保存E和A之间的映射关系;
当服务端分析出当前要识别的施工场景的标识为E时,则根据E搜索到E和A之间的映射关系,从而确定E包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
其中,在一个可选的实施方式中,施工人员可以通过客户端的摄像头对待识别的施工场景对象进行拍照,然后将照片传输给服务端;
在另一个可选的实施方式中,可以事先为每一个待识别的施工场景对象设置二维码,施工人员通过客户端扫描待识别的施工场景对象的二维码进行扫描并传输给服务端;
每一个施工子场景包含对应的识别特征,属于同一个施工场景的各个施工子场景存储在同一个识别特征库中,所述识别特征库与对应的施工场景关联;
所述根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景包括:
提取所述施工场景对象对应的特征信息,根据所述特征信息在其对应的识别特征库中进行搜索,确定与其匹配的目标识别特征;
根据所述目标识别特征确定所述施工场景对象对应的目标施工子场景;
具体的,可以通过机器学习算法来确定所述施工场景对象对应的特征信息,首先,进行模型训练,通过CNN对数据集进行训练,建立特征识别模型;接着,采用训练好的特征识别模型读取所述施工场景对象,提取所述施工场景对象对应的特征信息;
在确定出施工场景对象对应的特征信息后,就可以基于所述特征信息在其所在的施工场景对应的识别数据库中进行搜索,确定与其匹配的目标识别特征,然后根据目标识别特征确定施工场景对象对应的目标施工子场景;
由于现在的工程施工都是标准化作业,各个施工子场景都有标准化的操作和流程,最终呈现出来的也都是标准化的施工效果,因此,可以通过机器学习提前对各个施工子场景未施工之前的场景进行学习,让机器能够准确识别出对应子场景下待识别对象的特征点,这些特征点可以是能够与其它子场景区分的特征点,比如拐点、空洞或事先放置的标志点,标志点可以采用平面标志物体作为定位基准,比如长方形、圆环、五边形、条形码等;
在一个可选的实施方式中,特征信息包括施工场景对象的类型,直接基于机器判断出的类型确定哪个施工子场景具有该类型的对象,即可以快速准确地确定出其所在的施工子场景,该实施方式适用于不同的施工子场景具有不同类型的施工场景对象,可以直接基于包括的场景对象类型来判断;
其中,所述真实场景信息包括设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
所述将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中包括:
分析所述真实场景信息,确定设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
根据所述位置信息和所述定位标记计算虚拟对象坐标到相机视平面的仿射变换矩阵,根据所述仿射变换矩阵在相机视平面上绘制所述目标施工子场景对应的虚拟对象;
将绘制了所述虚拟对象的相机视平面与通过所述相机拍摄的所述施工场景对象所在的真实施工子场景合并;
其中,虚拟对象可以是所述目标施工子场景的具体操作流程步骤,可以以视频的形式进行呈现,也可以是目标施工子场景中某个具体的操作对象,即某个操作器具对应的名称以及操作方法,可以以图片、文字、语音或视频等形式进行呈现;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象;
在一个可选的实施方式中,如果虚拟对象呈现的是某个目标施工子场景的具体操作流程步骤并且以视频呈现,则在施工人员看完视频,了解具体的操作流程后,当操作完成,则可以通过客户端发送操作完成指令给服务端,服务端在接收到客户端发送的操作完成指令后,即通过设置在现场的相机拍取施工完成后的照片,更新当前场景为新的施工子场景,并识别出新的施工子场景中的特征信息,根据识别出的特征信息生成对应的虚拟对象,待下一施工子场景的施工人员到达后使用;
在另一个可选的实施方式中,如果虚拟对象呈现的是某个目标施工子场景中某个工器具的操作方法,则可以待该目标施工子场景中所有工器具的操作均完成后,再执行下一施工子场景及对应的虚拟对象的生成的操作。
本实施例特别适用于包括多个先后执行顺序的施工子场景的施工场景的施工,能够根据实际的工程进度实时的对施工子场景及其对应的虚拟对象更新,从而实现各个不同施工队伍的配合协作,并且也特别适用于施工培训,能够充分利用同一个大施工场景。
实施例二
本实施例进一步限定了:
所述步骤S4之后还包括步骤:
确定并存储所述施工场景中现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系;
接收视频显示请求;
根据所述视频显示请求以视频形式显示所述施工场景,在显示过程中根据所述空间对应关系对所述施工场景中现实对象和虚拟对象的显示进行实时变化;
由于在施工现场所设置的相机位置都是固定的,因此其拍摄出来的图片背景都是相同的,而在现场施工过程中,所不同的通常是需要进行操作的施工场景对象以及随着施工场景对象的不同而不同的虚拟对象,因此,当客户端请求以视频形式进行显示时,为了避免传输视频导致的传输流量大的问题,对于相同的背景,比如是属于同一个施工子场景的,背景可以只传输一次,然后根据不同图片帧之间的不同,只传输不同之处即可,在接收端,只需要知道前后两帧图片发生不同的对象以及发生不同的对象之间的相互位置关系,即现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系即可,这样基于第一帧图片、两帧图像中发生变化的对象和两帧图片中发生变化的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系就能够对很好地呈现第二帧图片,从而就能够方便、快捷地以视频形式呈现包括虚拟对象的真实施工场景,并且该真实施工场景中显示对象和虚拟对象能够进行实时变化。
实施例三
请参照图2,一种基于AR技术的施工场景识别终端,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现实施例一或实施例二所述的一种基于AR技术的施工场景识别方法中的各个步骤。
综上所述,本发明提供的一种基于AR技术的施工场景识别方法及终端,将施工场景进一步细分为施工子场景,先基于接收的施工场景对象确定其对应的施工子场景,再根据确定出的施工子场景获取对应的虚拟对象,然后再将虚拟对象叠加到施工场景对象所在的真实施工子场景中并显示,待现场施工人员对该施工场景对象进行操作后,会根据其操作结果对施工场景对象所在的真实施工子场景及其对应的虚拟对象进行同步更新,一方面,实现了对施工场景的细分,保证所获取的虚拟对象的针对性,另一方面,对于包括多个施工子场景的施工场景来说,在施工人员执行对应的操作后,能够基于操作结果对其所在的施工子场景及其对应的虚拟对象进行同步更新,实现了AR场景下的人机互动以及真实场景和虚拟场景的实时更新,从而在庞杂的施工工程的培训和施工过程中,能够很好地实现理论与实际施工的结合,能够满足不同班组人员分时协作配合,实现不同班组、不同岗位人员在同一大场景下的配合作业,提高了比较庞杂的施工工程的培训效果和施工效果,同时还能够以视频形式对施工场景进行呈现,在视频传输过程中,根据施工场景中相机位置较为固定的特点,能够基于不同图片帧的不同进行传输,减少传输数据量,在视频显示过程中,能够根据现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系对相应施工场景中的现实对象和虚拟对象进行实时变化。
以上所述仅为本发明的实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等同变换,或直接或间接运用在相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (8)
1.一种基于AR技术的施工场景识别方法,其特征在于,包括步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象;
如果虚拟对象呈现的是某个目标施工子场景的具体操作流程步骤并且以视频呈现,则在施工人员看完视频,了解具体的操作流程后,当操作完成,则可以通过客户端发送操作完成指令给服务端,服务端在接收到客户端发送的操作完成指令后,即通过设置在现场的相机拍取施工完成后的照片,更新当前场景为新的施工子场景,并识别出新的施工子场景中的特征信息,根据识别出的特征信息生成对应的虚拟对象,待下一施工子场景的施工人员到达后使用;
如果虚拟对象呈现的是某个目标施工子场景中某个工器具的操作方法,则可以待该目标施工子场景中所有工器具的操作均完成后,再执行下一施工子场景及对应的虚拟对象的生成的操作;
所述步骤S4之后还包括步骤:
确定并存储所述施工场景中现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系;
接收视频显示请求;
根据所述视频显示请求以视频形式显示所述施工场景,在显示过程中根据所述空间对应关系对所述施工场景中现实对象和虚拟对象的显示进行实时变化;
属于同一个施工子场景的,背景可以只传输一次,然后根据不同图片帧之间的不同,只传输不同之处即可,在接收端,只需要知道前后两帧图片发生不同的对象以及发生不同的对象之间的相互位置关系,即现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系即可,这样基于第一帧图片、两帧图像中发生变化的对象和两帧图片中发生变化的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系就能够很好地呈现第二帧图片。
2.根据权利要求1所述的一种基于AR技术的施工场景识别方法,其特征在于,所述真实场景信息包括所述施工场景对应的标识;
所述步骤S2包括:
分析所述真实场景信息,确定所述施工场景对应的标识,根据所述标识搜索所述施工场景对应的映射关系,根据所述映射关系确定所述施工场景包含的施工子场景。
3.根据权利要求1所述的一种基于AR技术的施工场景识别方法,其特征在于,每一个施工子场景包含对应的识别特征,属于同一个施工场景的各个施工子场景存储在同一个识别特征库中,所述识别特征库与对应的施工场景关联;
所述根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景包括:
提取所述施工场景对象对应的特征信息,根据所述特征信息在其对应的识别特征库中进行搜索,确定与其匹配的目标识别特征;
根据所述目标识别特征确定所述施工场景对象对应的目标施工子场景。
4.根据权利要求1至3中任一项所述的一种基于AR技术的施工场景识别方法,其特征在于,所述真实场景信息包括设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
所述将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中包括:
分析所述真实场景信息,确定设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
根据所述位置信息和所述定位标记计算虚拟对象坐标到相机视平面的仿射变换矩阵,根据所述仿射变换矩阵在相机视平面上绘制所述目标施工子场景对应的虚拟对象;
将绘制了所述虚拟对象的相机视平面与通过所述相机拍摄的所述施工场景对象所在的真实施工子场景合并。
5.一种基于AR技术的施工场景识别终端,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如下步骤:
S1、获取待识别的施工场景对应的真实场景信息;
S2、分析所述真实场景信息,确定所述施工场景包含的施工子场景;
S3、接收待识别的施工场景对象,根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景,根据所述目标施工子场景获取对应的虚拟对象,将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中并显示;
S4、接收根据所述显示执行的针对所述施工场景对象的操作,根据所述操作结果同步更新所述施工场景对象所在的真实施工子场景及其对应的虚拟对象;
如果虚拟对象呈现的是某个目标施工子场景的具体操作流程步骤并且以视频呈现,则在施工人员看完视频,了解具体的操作流程后,当操作完成,则可以通过客户端发送操作完成指令给服务端,服务端在接收到客户端发送的操作完成指令后,即通过设置在现场的相机拍取施工完成后的照片,更新当前场景为新的施工子场景,并识别出新的施工子场景中的特征信息,根据识别出的特征信息生成对应的虚拟对象,待下一施工子场景的施工人员到达后使用;
如果虚拟对象呈现的是某个目标施工子场景中某个工器具的操作方法,则可以待该目标施工子场景中所有工器具的操作均完成后,再执行下一施工子场景及对应的虚拟对象的生成的操作;
所述步骤S4之后还包括步骤:
确定并存储所述施工场景中现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系;
接收视频显示请求;
根据所述视频显示请求以视频形式显示所述施工场景,在显示过程中根据所述空间对应关系对所述施工场景中现实对象和虚拟对象的显示进行实时变化;
属于同一个施工子场景的,背景可以只传输一次,然后根据不同图片帧之间的不同,只传输不同之处即可,在接收端,只需要知道前后两帧图片发生不同的对象以及发生不同的对象之间的相互位置关系,即现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系即可,这样基于第一帧图片、两帧图像中发生变化的对象和两帧图片中发生变化的现实对象与现实对象之间、现实对象与虚拟对象之间以及虚拟对象与虚拟对象之间的空间对应关系就能够很好地呈现第二帧图片。
6.根据权利要求5所述的一种基于AR技术的施工场景识别终端,其特征在于,所述真实场景信息包括所述施工场景对应的标识;
所述步骤S2包括:
分析所述真实场景信息,确定所述施工场景对应的标识,根据所述标识搜索所述施工场景对应的映射关系,根据所述映射关系确定所述施工场景包含的施工子场景。
7.根据权利要求5所述的一种基于AR技术的施工场景识别终端,其特征在于,每一个施工子场景包含对应的识别特征,属于同一个施工场景的各个施工子场景存储在同一个识别特征库中,所述识别特征库与对应的施工场景关联;
所述根据所述施工场景对象确定所述施工场景对象对应的目标施工子场景包括:
提取所述施工场景对象对应的特征信息,根据所述特征信息在其对应的识别特征库中进行搜索,确定与其匹配的目标识别特征;
根据所述目标识别特征确定所述施工场景对象对应的目标施工子场景。
8.根据权利要求5至7中任一项所述的一种基于AR技术的施工场景识别终端,其特征在于,所述真实场景信息包括设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
所述将所述目标施工子场景对应的虚拟对象叠加在所述施工场景对象所在的真实施工子场景中包括:
分析所述真实场景信息,确定设置在所述真实场景的相机的位置信息以及所述真实场景中的定位标记;
根据所述位置信息和所述定位标记计算虚拟对象坐标到相机视平面的仿射变换矩阵,根据所述仿射变换矩阵在相机视平面上绘制所述目标施工子场景对应的虚拟对象;
将绘制了所述虚拟对象的相机视平面与通过所述相机拍摄的所述施工场景对象所在的真实施工子场景合并。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211357669.7A CN115951806B (zh) | 2022-11-01 | 2022-11-01 | 一种基于ar技术的施工场景识别方法及终端 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211357669.7A CN115951806B (zh) | 2022-11-01 | 2022-11-01 | 一种基于ar技术的施工场景识别方法及终端 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115951806A CN115951806A (zh) | 2023-04-11 |
CN115951806B true CN115951806B (zh) | 2024-06-07 |
Family
ID=87296043
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211357669.7A Active CN115951806B (zh) | 2022-11-01 | 2022-11-01 | 一种基于ar技术的施工场景识别方法及终端 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115951806B (zh) |
Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001338311A (ja) * | 2000-03-21 | 2001-12-07 | Dainippon Printing Co Ltd | 仮想現実空間移動制御装置 |
CN101976463A (zh) * | 2010-11-03 | 2011-02-16 | 北京师范大学 | 一种虚实融合的交互式立体图书制作方法 |
CN107729609A (zh) * | 2017-09-14 | 2018-02-23 | 北京致臻智造科技有限公司 | 一种建筑装饰技术交底的显示方法及系统 |
CN109685905A (zh) * | 2017-10-18 | 2019-04-26 | 深圳市掌网科技股份有限公司 | 基于增强现实的小区规划方法和系统 |
CN109840949A (zh) * | 2017-11-29 | 2019-06-04 | 深圳市掌网科技股份有限公司 | 基于光学定位的增强现实图像处理方法和装置 |
CN110299038A (zh) * | 2019-07-08 | 2019-10-01 | 广州中石科技有限公司 | 施工场景培训系统 |
CN111091609A (zh) * | 2019-12-11 | 2020-05-01 | 云南电网有限责任公司保山供电局 | 一种基于三维动态建模的变电站现场作业管控系统和方法 |
CN111242574A (zh) * | 2020-01-08 | 2020-06-05 | 中国建筑第二工程局有限公司西南分公司 | 一种基于gps技术的智慧工地现场巡检管理系统及方法 |
CN111381679A (zh) * | 2020-03-19 | 2020-07-07 | 三一筑工科技有限公司 | 一种基于ar的装配式建筑施工培训方法、装置及计算设备 |
WO2021073292A1 (zh) * | 2019-10-15 | 2021-04-22 | 北京市商汤科技开发有限公司 | 一种ar场景图像处理方法、装置、电子设备及存储介质 |
CN112991514A (zh) * | 2021-02-26 | 2021-06-18 | 北京市商汤科技开发有限公司 | Ar数据展示方法、装置、电子设备及存储介质 |
CN113128716A (zh) * | 2021-04-25 | 2021-07-16 | 中国科学院计算机网络信息中心 | 作业指导交互方法及系统 |
CN113378844A (zh) * | 2021-05-28 | 2021-09-10 | 上海商汤智能科技有限公司 | 工程垃圾堆放的分割方法、装置、设备及计算机存储介质 |
CN114220308A (zh) * | 2021-11-13 | 2022-03-22 | 国网辽宁省电力有限公司葫芦岛供电公司 | 基于虚拟现实的装表接电操作方法 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CA3000969C (en) * | 2012-11-28 | 2021-08-10 | Vrsim, Inc. | Simulator for skill-oriented training |
KR20140082266A (ko) * | 2012-12-24 | 2014-07-02 | 한국전자통신연구원 | 혼합현실 콘텐츠 시뮬레이션 시스템 |
US20220248176A1 (en) * | 2019-06-13 | 2022-08-04 | Lg Electronics Inc. | Method for terminal to transmit and receive signal in wireless communication system |
-
2022
- 2022-11-01 CN CN202211357669.7A patent/CN115951806B/zh active Active
Patent Citations (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001338311A (ja) * | 2000-03-21 | 2001-12-07 | Dainippon Printing Co Ltd | 仮想現実空間移動制御装置 |
CN101976463A (zh) * | 2010-11-03 | 2011-02-16 | 北京师范大学 | 一种虚实融合的交互式立体图书制作方法 |
CN107729609A (zh) * | 2017-09-14 | 2018-02-23 | 北京致臻智造科技有限公司 | 一种建筑装饰技术交底的显示方法及系统 |
CN109685905A (zh) * | 2017-10-18 | 2019-04-26 | 深圳市掌网科技股份有限公司 | 基于增强现实的小区规划方法和系统 |
CN109840949A (zh) * | 2017-11-29 | 2019-06-04 | 深圳市掌网科技股份有限公司 | 基于光学定位的增强现实图像处理方法和装置 |
CN110299038A (zh) * | 2019-07-08 | 2019-10-01 | 广州中石科技有限公司 | 施工场景培训系统 |
WO2021073292A1 (zh) * | 2019-10-15 | 2021-04-22 | 北京市商汤科技开发有限公司 | 一种ar场景图像处理方法、装置、电子设备及存储介质 |
CN111091609A (zh) * | 2019-12-11 | 2020-05-01 | 云南电网有限责任公司保山供电局 | 一种基于三维动态建模的变电站现场作业管控系统和方法 |
CN111242574A (zh) * | 2020-01-08 | 2020-06-05 | 中国建筑第二工程局有限公司西南分公司 | 一种基于gps技术的智慧工地现场巡检管理系统及方法 |
CN111381679A (zh) * | 2020-03-19 | 2020-07-07 | 三一筑工科技有限公司 | 一种基于ar的装配式建筑施工培训方法、装置及计算设备 |
CN112991514A (zh) * | 2021-02-26 | 2021-06-18 | 北京市商汤科技开发有限公司 | Ar数据展示方法、装置、电子设备及存储介质 |
CN113128716A (zh) * | 2021-04-25 | 2021-07-16 | 中国科学院计算机网络信息中心 | 作业指导交互方法及系统 |
CN113378844A (zh) * | 2021-05-28 | 2021-09-10 | 上海商汤智能科技有限公司 | 工程垃圾堆放的分割方法、装置、设备及计算机存储介质 |
CN114220308A (zh) * | 2021-11-13 | 2022-03-22 | 国网辽宁省电力有限公司葫芦岛供电公司 | 基于虚拟现实的装表接电操作方法 |
Non-Patent Citations (2)
Title |
---|
基于增强现实的复杂产品智能装配辅助系统研究;杨庆;吴晓彬;卢阿丽;张建德;屠立忠;林忠;;机械设计与制造工程;20171115(第11期);33-37 * |
基于增强现实的心墙堆石坝施工进度可视化仿真;钟登华 等;天津大学学报(自然科学与工程技术版);20181015(第10期);1072-1085 * |
Also Published As
Publication number | Publication date |
---|---|
CN115951806A (zh) | 2023-04-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11762475B2 (en) | AR scenario-based gesture interaction method, storage medium, and communication terminal | |
CN111174799B (zh) | 地图构建方法及装置、计算机可读介质、终端设备 | |
CN110457414B (zh) | 离线地图处理、虚拟对象显示方法、装置、介质和设备 | |
US8751969B2 (en) | Information processor, processing method and program for displaying a virtual image | |
US8390534B2 (en) | Method and device for generating tracking configurations for augmented reality applications | |
Zollmann et al. | Interactive 4D overview and detail visualization in augmented reality | |
WO2023093217A1 (zh) | 数据标注方法、装置、计算机设备、存储介质和程序 | |
US20200167568A1 (en) | Image processing method, device, and storage medium | |
CN110109535A (zh) | 增强现实生成方法及装置 | |
US20110109628A1 (en) | Method for producing an effect on virtual objects | |
CN113744394B (zh) | 鞋楦三维建模方法、装置、设备及存储介质 | |
US20040174386A1 (en) | Information processing method and image reproduction apparatus | |
CN112561786A (zh) | 基于图像卡通化的在线直播方法、装置和电子设备 | |
US11395102B2 (en) | Field cooperation system and management device | |
KR102464271B1 (ko) | 포즈 획득 방법, 장치, 전자 기기, 저장 매체 및 프로그램 | |
CN115951806B (zh) | 一种基于ar技术的施工场景识别方法及终端 | |
CN111414508A (zh) | 一种在设计模型中搜索并实现可视化的方法及终端 | |
CN114565849B (zh) | 一种基于数字孪生的资产ai识别与定位方法和系统 | |
CN115982824A (zh) | 施工现场工人空间管理方法、装置、电子设备及存储介质 | |
CN113672143B (zh) | 图像标注方法、系统、设备和存储介质 | |
Liu et al. | AR-Driven Industrial Metaverse for the Auxiliary Maintenance of Machine Tools in IoT-Enabled Manufacturing Workshop | |
Gimeno et al. | An easy-to-use AR authoring tool for industrial applications | |
US11562549B2 (en) | System and method for user interaction in complex web 3D scenes | |
CN113989462A (zh) | 一种基于增强现实的铁路信号室内设备维护系统 | |
CN112330820A (zh) | 信息展示方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant |