CN111193857A - 一种采用slam算法的增强现实拍摄方法和系统 - Google Patents
一种采用slam算法的增强现实拍摄方法和系统 Download PDFInfo
- Publication number
- CN111193857A CN111193857A CN201811353391.XA CN201811353391A CN111193857A CN 111193857 A CN111193857 A CN 111193857A CN 201811353391 A CN201811353391 A CN 201811353391A CN 111193857 A CN111193857 A CN 111193857A
- Authority
- CN
- China
- Prior art keywords
- module
- image
- augmented reality
- processor
- superposed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000003190 augmentative effect Effects 0.000 title claims abstract description 104
- 238000000034 method Methods 0.000 title claims abstract description 55
- 238000012545 processing Methods 0.000 claims abstract description 51
- 230000000007 visual effect Effects 0.000 claims abstract description 32
- 238000005457 optimization Methods 0.000 claims abstract description 28
- 238000001514 detection method Methods 0.000 claims abstract description 23
- 230000003287 optical effect Effects 0.000 claims description 27
- 238000013507 mapping Methods 0.000 claims description 15
- 238000012805 post-processing Methods 0.000 claims description 12
- 238000005259 measurement Methods 0.000 claims description 10
- 230000005540 biological transmission Effects 0.000 claims description 4
- 230000000694 effects Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 description 11
- 238000011160 research Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000005265 energy consumption Methods 0.000 description 4
- 238000003706 image smoothing Methods 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 238000011161 development Methods 0.000 description 3
- 230000001360 synchronised effect Effects 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000013523 data management Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Processing Or Creating Images (AREA)
- Studio Devices (AREA)
Abstract
本发明涉及了一种采用SLAM算法的增强现实拍摄方法，包括以下步骤：增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过AR显示系统对环境图像和叠加图像进行显示；其中，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像。从而能够将虚拟的叠加图像应用到真实环境的图像中，实现增强现实的效果。本发明还提供了采用SLAM算法的增强现实拍摄系统。
Description
技术领域
本发明涉及增强现实技术领域，尤其涉及一种采用SLAM算法的增强现实拍摄方法和系统。
背景技术
增强现实技术(Augmented Reality，简称AR)是虚拟现实技术的进一步发展，增强现实通过电脑技术，将虚拟的信息应用到真实世界，真实的环境和虚拟的物体实时地叠加到了同一个画面或空间同时存在；这种增强现实技术能够把虚拟信息(物体、图片、视频、声音等)融合在现实环境中，将现实世界丰富起来，构建一个更加全面、更加美好的世界。增强现实技术，不仅展现了真实世界的信息，而且将虚拟的信息同时显示出来，两种信息相互补充、叠加。在视觉化的增强现实中，用户利用头盔显示器，把真实世界与电脑图形多重合成在一起，便可以看到真实的世界围绕着它。增强现实技术包含了多媒体、三维建模、实时视频显示及控制、多传感器融合、实时跟踪及注册、场景融合等新技术与新手段。
目前国内局限于虚拟现实技术的研究，对于增强现实技术的研究较少。
发明内容
本项目针对目前国内的局限于虚拟现实技术的研究，对于增强现实技术的研究较少；并且相关系统和方法的研究较为薄弱的缺陷；研发一种能够实现采用SLAM算法的增强现实拍摄方法和系统。
本发明解决其技术问题所采用的技术方案是：本发明构造一种采用SLAM算法的增强现实拍摄方法，包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过AR显示系统对环境图像和叠加图像进行显示；其中，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像。
本发明还构造一种采用SLAM算法的增强现实拍摄方法，包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像；
S30.增强现实处理器通过上传模块将所拍摄的环境图像发送至所述云服务器，光机模组将用户所需的叠加图像发送至所述云服务器，所述云服务器对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像；
S40.光机模组通过获取模块从所述云服务器获取全景图像并通过AR显示系统进行显示。
优选地，在步骤S20中，所述移动处理器采用SLAM算法，实现光机模组在移动过程中根据位置估计和地图进行自身定位，同时建造叠加图像。
优选地，所述SLAM算法的实现采用VIO SLAM，采用TOF摄像机和惯性测量单元相结合的方式，采用图优化的VIO算法，所述VIO SLAM的工作过程包括：传感器数据采集、前端视觉里程计、后端优化、建图以及闭环检测。
进一步地，本发明构造一种采用SLAM算法的增强现实拍摄系统，包括：
光机模组；增强现实处理器，与光机模组电连接；
其中，所述增强现实处理器包括：拍摄模块，用于拍摄环境图像；
处理模块，用于对拍摄模块获取的环境图像进行处理；
所述光机模组包括：移动处理器，所述移动处理器为采用SLAM算法的移动处理器，用于生成用户所需的叠加图像；所述移动处理器包括传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块以及回环检测模块；
AR显示系统，用于对环境图像和叠加图像进行显示。
本发明还构造一种采用SLAM算法的增强现实拍摄系统，包括：
光机模组；
增强现实处理器，与光机模组电连接，
云服务器，与增强现实处理器和光机模组电连接，用于对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像；
其中，所述增强现实处理器包括：拍摄模块，用于拍摄环境图像；
处理模块，用于对拍摄模块获取的环境图像进行处理；
所述光机模组包括：移动处理器，所述移动处理器为采用SLAM算法的移动处理器，用于生成用户所需的叠加图像；所述移动处理器包括传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块以及回环检测模块；AR显示系统，用于对环境图像和叠加图像拼接成的全景图像进行显示。
优选地，所述增强现实处理器还包括：上传模块，用于将所拍摄的环境图像发送至所述云服务器。
优选地，所述光机模组还包括：传送模块，用于将用户所需的叠加图像发送至所述云服务器；获取模块，用于从所述云服务器获取全景图像。
优选地，所述移动处理器采用用于实现SLAM算法的VIO SLAM传感器。
优选地，所述传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块依次连接，所述回环检测模块与后端非线性优化模块连接。
实施本发明的技术方案，采用SLAM算法的增强现实拍摄方法包括以下步骤：增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过AR显示系统对环境图像和叠加图像进行显示。每个用户可通过增强现实处理器的拍摄模块进行图像拍摄，通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过处理模块对环境图像和叠加图像进行后处理及拼接后，便可通过AR显示系统对环境图像和叠加图像进行显示，从而能够将虚拟的叠加图像应用到真实环境的图像中，真实的环境和虚拟的图像实时地叠加到了同一个画面同时存在，从而实现增强现实的效果。另外，本发明的移动处理器包括传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块以及回环检测模块；成本低、重量轻。并且VIO SLAM算法的计算时间的功耗低，运行速度快，根据功耗，最低可以0.1S(即10HZ)更新一次，不仅适用于PC系统，还可以适用于移动处理器系统，因而可结合本项目的超小型光机模组使得增强现实系统小型化并且低能耗。本发明进行增强现实技术领域的关键性的问题研究，将在一定程度上有助于增强现实技术领域的技术发展。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。附图中：
图1是本发明采用SLAM算法的增强现实拍摄方法实施例一的流程图；
图2是本发明采用SLAM算法的增强现实拍摄方法实施例二的流程图；
图3是本发明采用SLAM算法的增强现实拍摄系统实施例一的逻辑结构图；
图4是本发明采用SLAM算法的增强现实拍摄系统实施例二的逻辑结构图。
图5是本发明采用SLAM算法的增强现实拍摄系统的移动处理器的结构示意图。
具体实施方式
在图1示出的本发明采用SLAM算法的增强现实拍摄方法实施例一的流程图，该实施例的采用SLAM算法的增强现实拍摄方法包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
在该步骤中，所述环境图像为用户所处的真实环境中的实时呈现的图像，该处理包括反畸变处理、色彩补偿处理、图像平滑处理、去噪处理。当用户使用拍摄模块可安装二个或者多个摄像头进行拍摄时，可拍摄到后方180度视场角甚至超过180度视场角范围内的图像，以及可拍摄到前方180度视场角甚至超过180度视场角范围内的图像。由于拍摄模块拍摄图像时使用了鱼眼镜头，所以所获得的图像带有桶形畸变，用以夸张其变形效果，拍出的画面除了中心部位以外，其它所有的直线都会变成弯曲的弧线，此时，需要进行反畸变处理，通过修补及叠加，还原图像本质。另外，对拍摄所获得的图像还可进行色彩补偿处理，以对图像的亮度、颜色进行优化和改善色彩还原以及色彩表现。除反畸变处理及色彩补偿处理之外，该后处理还包括有图形平滑处理、去噪处理等。当对所拍摄的图像进行后处理后，可将摄像头分别拍摄的图像进行拼接，这样便可获取360度视角范围内的环境图像。另外，还需说明的是，图像的处理及拼接可在增强现实处理器上的APP上进行，也可发送至云服务器上进行。
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过AR显示系统对环境图像和叠加图像进行显示；其中，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像。
在该步骤中，所述AR显示系统包括图像源和光学系统，图像源采用LCOS模组，光学系统采用自由曲面棱镜。所述叠加图像为用户想要叠加到真实环境中的图像；所述全景图像为将虚拟的图像叠加到真实图像中得到的真实和虚拟同时呈现的图像。
在本步骤中，所述移动处理器采用SLAM算法，实现光机模组在移动过程中根据位置估计和地图进行自身定位，同时建造叠加图像。所述SLAM算法的实现采用VIO SLAM，所述VIO SLAM的工作过程包括：传感器数据采集、视觉里程计、后端优化、建图以及闭环检测；具体来说，视觉里程计根据图像，用于估算相机的帧间运动以及估计特征点(路标点)的大致空间位置。后端优化接受不同时刻视觉里程计测量的传感器位置，计算最大后验概率估计。回环检测判断光机模组是否曾经到达过先前的位置。建图根据光机模组的拍摄轨迹和图像，建立与任务要求对应的地图。
实施实施例一的技术方案，每个用户可通过增强现实处理器的拍摄模块进行图像拍摄，通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过处理模块对环境图像和叠加图像进行后处理及拼接后，便可通过光机AR显示系统对环境图像和叠加图像进行显示，能够将虚拟的叠加图像应用到真实环境的图像中，真实的环境和虚拟的图像实时地叠加到了同一个画面同时存在。
在图1示出的本发明采用SLAM算法的增强现实拍摄方法实施例二的流程图，增加了云服务器，通过云服务器与增强现实处理器以及光机模组同时工作，以便于进行更快的图像生成和实时数据管理。该实施例的采用SLAM算法的增强现实拍摄方法包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像；
S30.增强现实处理器通过上传模块将所拍摄的环境图像发送至所述云服务器，光机模组将用户所需的叠加图像发送至所述云服务器，所述云服务器对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像；
S40.光机模组通过获取模块从所述云服务器获取全景图像并通过AR显示系统进行显示。
当用户想要通过光机模组的AR显示系统观看图像时，可先获取想要看的图像，例如，增强现实处理器拍摄、处理及拼接后的图像可直接用于观看，也可通过增强现实处理器从云服务器获取经云服务器后处理的全景图像，当然，光机模组也可直接从云服务器获取别人所拍摄的全景图像。
本发明的增强现实拍摄及现实的方法的主要改进在于基于移动处理器的SLAM(同步定位与地图绘制)算法研究及优化，对现有的SLAM算法进行研究和优化，采用基于TOF摄像机和惯性测量单元的visual inertial odometry SLAM(以下简称VIO SLAM)，将视觉传感器和惯性测量单元结合使用，对VIO SLAM的主要构架和算法进行了改进，VIO SLAM的主要构架：传感器数据采集、视觉里程计、后端优化、建图(Mapping)、闭环检测，成本低、重量轻。并且VIO SLAM算法的计算时间的功耗低，运行速度快，根据功耗，最低可以0.1S(即10HZ)更新一次，不仅适用于PC系统，还可以适用于移动处理器系统，因而可结合本项目的超小型光机模组使得增强现实系统小型化并且低能耗。
本发明基于移动处理器的SLAM(同步定位与地图绘制)算法并进行算法的优化，同时研究三维位置的实时重构，这部分的主要创新在于采用TOF摄像机和惯性测量单元相结合的方式，采用图优化的VIO算法，做到SLAM算法的低功耗和低运算量，能够较好地应用于移动处理器；能够较好地实现SLAM高精度输出，实现AR系统在移动过程中根据位置估计和地图进行自身定位，同时在自身定位的基础上建造增量式地图，从而实现AR系统的自主定位和导航。
图3是本发明采用SLAM算法的增强现实拍摄系统实施例一的逻辑结构图，该实施例的采用SLAM算法的增强现实拍摄方法包括增强现实处理器10、光机模组20。其中，增强现实处理器10包括拍摄模块11和处理模块12，而且，拍摄模块11用于拍摄环境图像；处理模块12用于对拍摄模块获取的环境图像进行处理，拼接成360度视角范围内的环境图像，所述环境图像为用户所处的真实环境中的实时呈现的图像，该处理包括反畸变处理、色彩补偿处理、图像平滑处理、去噪处理。
光机模组20包括移动处理器21、AR现实系统22，移动处理器21用于生成用户所需的叠加图像；AR显示系统22用于对环境图像和叠加图像拼接成的全景图像进行显示。所述叠加图像为用户想要叠加到真实环境中的图像；所述全景图像为将虚拟的图像叠加到真实图像中得到的真实和虚拟同时呈现的图像。通过实施例一的方案能够将虚拟的叠加图像应用到真实环境的图像中，真实的环境和虚拟的图像实时地叠加到了同一个画面同时存在。
参阅图5，所述移动处理器21采用SLAM算法的移动处理器，包括传感器数据采集模块211、前端视觉里程计模块212、后端非线性优化模块213、建图模块214以及回环检测模块215；前端视觉里程计模块根据传感器数据采集模块采集到图像数据，用于估算相机的帧间运动以及估计特征点(路标点)的大致空间位置。后端非线性优化模块接受不同时刻视觉里程计测量的相机位姿，计算最大后验概率估计。建图模块根据相机轨迹和图像，建立与任务要求对应的地图。回环检测模块判断光机模组是否曾经到达过先前的位置。在本实施例中，所述传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块依次连接，所述回环检测模块与后端非线性优化模块连接。
本发明优选实施例的采用基于SLAM的移动处理器，并且进行SLAM(同步定位与地图绘制)算法研究及优化，采用基于TOF摄像机和惯性测量单元的visual inertialodometry SLAM(以下简称VIO SLAM)，将视觉传感器和惯性测量单元结合使用，对VIO SLAM的主要构架和算法进行了改进，VIO SLAM的主要构架：传感器数据采集、视觉里程计、后端优化、建图(Mapping)、闭环检测，成本低、重量轻。并且VIO SLAM算法的计算时间的功耗低，运行速度快，根据功耗，最低可以0.1S(即10HZ)更新一次，不仅适用于PC系统，还可以适用于移动处理器系统，因而可结合本项目的超小型光机模组使得增强现实系统小型化并且低能耗。
图4是本发明采用SLAM算法的增强现实拍摄系统实施例二的逻辑结构图，第二实施例的采用SLAM算法的增强现实拍摄方法增加云服务器的设置，以便于进行更快的图像生成和实时数据管理。所述采用SLAM算法的增强现实拍摄方法包括增强现实处理器10、光机模组20和云服务器40，云服务器，与增强现实处理器10和光机模组20电连接，用于对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像以及实时的图像数据传输和管理。
其中，增强现实处理器10包括拍摄模块11、处理模块12和上传模块13，上传模块13用于将所拍摄的环境图像发送至云服务器40；处理模块14也用于从云服务器40获取环境图像，可以是在线获取图像，也可下载获取图像。
光机模组20包括移动处理器21、AR显示系统22、传送模块23、以及获取模块24，传送模块23，用于将用户所需的叠加图像发送至所述云服务器；获取模块24，用于从所述云服务器获取全景图像。AR显示系统用于对云服务器处理后的环境图像和叠加图像拼接成的全景图像进行显示。云服务器40用于对增强现实处理器所发送的环境图像进行处理，并将处理后的环境图像和叠加图像拼接成360度视角范围内的全景图像；且能够对用户进行实时图像和数据管理，其中，对图像的后处理包括反畸变处理、色彩补偿处理、图像平滑处理、去噪处理；对用户的管理包括：将用户与其上传的图像进行关联，用户与用户之间可加关注、取消关注、推荐用户等，另外，图像还可带有类别标签及实时时间标签，类别标签例如包括有风景、人物等。在视觉化的采用SLAM算法的增强现实拍摄方法中，用户佩戴安装有光机模组的增强现实眼镜，并通过增强现实处理器和云服务器的工作，能够把真实世界与虚拟图像相融合，构建虚实相接的世界。
在本发明的优选实施例中，进一步的改进在于，所述AR显示系统包括图像源和光学系统，图像源采用LCOS模组，光学系统采用自由曲面棱镜。所述自由曲面棱镜采用自由曲面光学镜片，所述自由曲面光学镜片为超小型大视场角的自由曲面光学镜片，光学镜片的直径0.5mm～10mm，光学镜片的FOV大于60度。采用上述的自由曲面光学镜片能够有助于所述光机模组的物理分辨率大于等于1920×1080P，功耗低于300mW；从而实现小型化、低能耗的光机模组。光机模组具有通过电光转换完成图像显示、光路投射到人眼视网膜的功能，由于采用超小型大视场角的自由曲面光学镜片并进行软件和硬件的优化，能够较好地实现小型化、低功耗的采用SLAM算法的增强现实拍摄方法。
在本发明的优选实施例中，进一步的改进在于，所述光机模组还包括图像传感器视频输入模块和LVDS输入接口电路模块；所述移动处理器采用用于实现SLAM算法的VIOSLAM传感器。用于通过VIO SLAM传感器实现SLAM算法。本发明对现有的传感器进行研究，确定在此基础上采用TOF Camera和惯性测量单元的visual inertial odometry(视觉惯性测距)SLAM(以下简称VIO SLAM)，将TOF Camera和惯性测量单元结合使用，成本低、重量轻，适合做穿戴设备，并且基于这种传感器的SLAM算法的计算时间根据功耗，最低可以0.1S(即10HZ)更新一次，适用于增加现实系统。
实施本发明的技术方案，采用SLAM算法的增强现实拍摄系统包括光机模组、与光机模组电连接的增强现实处理器并实现量产化，能够较好地实现小型化、低功耗的采用SLAM算法的增强现实拍摄方法。进一步地，研发用于自由曲面光学镜片，这种光学镜片用于采用SLAM算法的增强现实拍摄系统，有助于解决现有采用SLAM算法的增强现实拍摄方法的视野太窄的技术问题；并且，采用VIO SLAM传感器实现SLAM算法，适宜于实现采用SLAM算法的增强现实拍摄方法。本项目进行增强现实技术领域的关键性的问题研究，将在一定程度上有助于增强现实技术领域的技术发展。
以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何纂改、等同替换、改进等，均应包含在本发明的权利要求范围之内。
Claims (10)
1.一种采用SLAM算法的增强现实拍摄方法，其特征在于，包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，再通过AR显示系统对环境图像和叠加图像进行显示；其中，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像。
2.根据权利要求1所述的采用SLAM算法的增强现实拍摄方法，其特征在于，包括以下步骤：
S10.增强现实处理器通过拍摄模块拍摄环境图像，并通过处理模块对拍摄模块获取的环境图像进行处理；
S20.光机模组通过移动处理器生成用户所需在环境图像上叠加的叠加图像，所述移动处理器通过传感器数据采集、前端视觉里程计、后端优化、建图以及回环检测处理生成在环境图像上叠加的叠加图像；
S30.增强现实处理器通过上传模块将所拍摄的环境图像发送至所述云服务器，光机模组将用户所需的叠加图像发送至所述云服务器，所述云服务器对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像；
S40.光机模组通过获取模块从所述云服务器获取全景图像并通过AR显示系统进行显示。
3.根据权利要求1所述的采用SLAM算法的增强现实拍摄方法，其特征在于，在步骤S20中，所述移动处理器采用SLAM算法，实现光机模组在移动过程中根据位置估计和地图进行自身定位，同时建造叠加图像。
4.根据权利要求1所述的采用SLAM算法的增强现实拍摄方法，其特征在于，所述SLAM算法的实现采用VIO SLAM，采用TOF摄像机和惯性测量单元相结合的方式，采用图优化的VIO算法，所述VIO SLAM的工作过程包括：传感器数据采集、前端视觉里程计、后端优化、建图以及闭环检测。
5.一种采用SLAM算法的增强现实拍摄系统，其特征在于，用于实现权利要求1～4任意一项所述的方法，包括：
光机模组；
增强现实处理器，与光机模组电连接；
其中，
所述增强现实处理器包括：
拍摄模块，用于拍摄环境图像；
处理模块，用于对拍摄模块获取的环境图像进行处理；
所述光机模组包括：
移动处理器，所述移动处理器为采用SLAM算法的移动处理器，用于生成用户所需的叠加图像；所述移动处理器包括传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块以及回环检测模块；
AR显示系统，用于对环境图像和叠加图像进行显示。
6.一种采用SLAM算法的增强现实拍摄系统，其特征在于，用于实现权利要求1～4任意一项所述的方法，包括：
光机模组；
增强现实处理器，与光机模组电连接，
云服务器，与增强现实处理器和光机模组电连接，用于对增强现实处理器和移动处理器所发送的图像进行后处理，并将处理后的图像拼接成全景图像以及实时的图像数据传输和管理；
其中，
所述增强现实处理器包括：
拍摄模块，用于拍摄环境图像；
处理模块，用于对拍摄模块获取的环境图像进行处理；
所述光机模组包括：
移动处理器，所述移动处理器为采用SLAM算法的移动处理器，用于生成用户所需的叠加图像；所述移动处理器包括传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块以及回环检测模块；
AR显示系统，用于对环境图像和叠加图像拼接成的全景图像进行显示。
7.根据权利要求5或6所述的采用SLAM算法的增强现实拍摄系统，其特征在于，
所述增强现实处理器还包括：上传模块，用于将所拍摄的环境图像发送至所述云服务器。
8.根据权利要求5或6所述的采用SLAM算法的增强现实拍摄系统，其特征在于，所述光机模组还包括：
传送模块，用于将用户所需的叠加图像发送至所述云服务器；
获取模块，用于从所述云服务器获取全景图像。
9.根据权利要求5或6所述的采用SLAM算法的增强现实拍摄系统，其特征在于，所述移动处理器采用用于实现SLAM算法的VIO SLAM传感器。
10.根据权利要求5或6所述的采用SLAM算法的增强现实拍摄系统，其特征在于，所述传感器数据采集模块、前端视觉里程计模块、后端非线性优化模块、建图模块依次连接，所述回环检测模块与后端非线性优化模块连接。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811353391.XA CN111193857A (zh) | 2018-11-14 | 2018-11-14 | 一种采用slam算法的增强现实拍摄方法和系统 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201811353391.XA CN111193857A (zh) | 2018-11-14 | 2018-11-14 | 一种采用slam算法的增强现实拍摄方法和系统 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN111193857A true CN111193857A (zh) | 2020-05-22 |
Family
ID=70708963
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201811353391.XA Withdrawn CN111193857A (zh) | 2018-11-14 | 2018-11-14 | 一种采用slam算法的增强现实拍摄方法和系统 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN111193857A (zh) |
-
2018
- 2018-11-14 CN CN201811353391.XA patent/CN111193857A/zh not_active Withdrawn
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10643394B2 (en) | Augmented reality | |
| JP6860488B2 (ja) | 複合現実システム | |
| US20200366897A1 (en) | Reprojecting holographic video to enhance streaming bandwidth/quality | |
| US20170053445A1 (en) | Augmented Reality | |
| US20150049001A1 (en) | Enabling remote screen sharing in optical see-through head mounted display with augmented reality | |
| KR20170031733A (ko) | 디스플레이를 위한 캡처된 이미지의 시각을 조정하는 기술들 | |
| CN104995583A (zh) | 用于混合现实环境的直接交互系统 | |
| CN108616752B (zh) | 支持增强现实交互的头戴设备及控制方法 | |
| JP2015521419A (ja) | コンピュータ生成された３次元オブジェクトとフィルムカメラからの映像フィードとをリアルタイムに混合または合成するシステム | |
| CN102591449A (zh) | 虚拟内容和现实内容的低等待时间的融合 | |
| EP3899870B1 (en) | Cloud-based camera calibration | |
| CN103500446A (zh) | 基于计算机视觉的测距方法及其在hmd上的应用 | |
| CN109840946B (zh) | 虚拟对象显示方法及装置 | |
| JP2007034628A (ja) | 画像処理方法及び装置 | |
| CN112669469B (zh) | 基于无人机和全景相机的发电厂虚拟漫游系统及方法 | |
| CN103517060A (zh) | 一种终端设备的显示控制方法及装置 | |
| CN111175972A (zh) | 一种头戴式显示器及其场景显示方法和存储介质 | |
| US11521297B2 (en) | Method and device for presenting AR information based on video communication technology | |
| CN117319790A (zh) | 基于虚拟现实空间的拍摄方法、装置、设备及介质 | |
| Zhang et al. | Virtual reality aided high-quality 3D reconstruction by remote drones | |
| CN212231547U (zh) | 混合现实虚拟预演拍摄系统 | |
| CN111193858A (zh) | 一种增强现实拍摄及显示的方法和系统 | |
| Santos et al. | Improve: An innovative application for collaborative mobile mixed reality design review | |
| CN111193857A (zh) | 一种采用slam算法的增强现实拍摄方法和系统 | |
| CN111193841A (zh) | 一种增强现实系统 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WW01 | Invention patent application withdrawn after publication | ||
| WW01 | Invention patent application withdrawn after publication |
Application publication date: 20200522 |