CN109427102A - 基于增强现实的教程演示方法和装置 - Google Patents
基于增强现实的教程演示方法和装置 Download PDFInfo
- Publication number
- CN109427102A CN109427102A CN201710759559.6A CN201710759559A CN109427102A CN 109427102 A CN109427102 A CN 109427102A CN 201710759559 A CN201710759559 A CN 201710759559A CN 109427102 A CN109427102 A CN 109427102A
- Authority
- CN
- China
- Prior art keywords
- target
- study course
- entity object
- augmented reality
- target entity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B5/00—Electrically-operated educational appliances
- G09B5/02—Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B9/00—Simulators for teaching or training purposes
Abstract
本发明实施例公开了一种基于增强现实的教程演示方法和装置。该教程演示方法,通过获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象,然后根据识别到的实体对象,从教程数据库中提取相应的候选教程,并从所识别到的实体对象中确定当前用户所操作的目标实体对象,基于目标实体对象从候选教程中选取目标教程,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。该方案基于增强现实技术,识别实际操作的对象,并与相应的目标教程进行画面合成,形成增强现实画面进行演示,更加突出了操作主体,提升了系统拆卸或组装等操作的准确性,同时加快了处理速度,更具智能化。
Description
技术领域
本发明涉及增强现实技术领域,尤其涉及一种基于增强现实的教程演示方法和装置。
背景技术
AR(Augmented Reality,增强现实)是一种将真实世界信息和虚拟世界信息“无缝”集成的新技术,是把原本在现实世界的一定时间空间范围内很难体验到的实体信息(视觉信息、声音、味道、触觉等)通过电脑等科学技术,模拟仿真后,把真实的环境和虚拟的物体实时地叠加到了同一个画面或空间同时存在,将虚拟的信息应用到真实世界,被人类感官所感知,从而达到超越现实的感官体验。增强现实技术,不仅展现了真实世界的信息,而且将虚拟的信息同时显示出来,两种信息相互补充、叠加。在视觉化的增强现实中,用户利用头盔显示器,把真实世界与电脑图形多重合成在一起,便可以看到真实的世界围绕着它。AR是人们通过计算机对复杂数据进行可视化操作与交互的一种全新方式,与传统的人机界面以及流行的视窗操作相比,AR在技术思想上有了质的飞跃。
随着AR技术的快速发展,AR在各领域的应用越来越广泛。一般地,在涉及系统拆卸或组装的过程中,存在较多对配件、工具等操作的步骤。由于系统拆卸或组装的步骤繁多,加上对系统本身的组成配件以及需使用到的工具不熟悉,使得容易出现操作失误,对任何一个零件操作失误都可能导致整个系统的瘫痪。因此,如何将增强现实技术与系统拆卸或组装过程结合有待解决。
发明内容
本发明实施例提供一种基于增强现实的教程演示方法和装置,可以提升拆卸或组装操作的准确性,同时加快了处理速度,更具智能化。
本发明实施例提供了一种基于增强现实的教程演示方法,包括:
获取真实场景的图像信息,并从所述图像信息中识别一个或多个实体对象;
根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面;
从所识别到的实体对象中确定当前用户所操作的目标实体对象;
基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
相应地,本发明实施例还提供一种基于增强现实的教程演示装置,包括:
获取模块,用于获取真实场景的图像信息,并从所述图像信息中识别一个或多个实体对象;
提取模块,用于根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面;
确定模块,用于从所识别到的实体对象中确定当前用户所操作的目标实体对象;
处理模块,用于基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
本发明实施例提供的基于增强现实的教程演示方法和装置,通过获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象,然后根据识别到的实体对象,从教程数据库中提取相应的候选教程,并从所识别到的实体对象中确定当前用户所操作的目标实体对象,基于目标实体对象从候选教程中选取目标教程,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。该方案基于增强现实技术,识别实际操作的对象,并与相应的目标教程进行画面合成,形成增强现实画面进行演示,更加突出了操作主体,提升了系统拆卸或组装等操作的准确性,同时加快了处理速度,更具智能化。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的基于增强现实的教程演示方法的一种流程示意图。
图2是本发明实施例提供的基于增强现实的教程演示方法的另一种流程示意图。
图3是本发明实施例提供的基于增强现实的教程演示系统的一种应用场景示意图。
图4是本发明实施例提供的基于增强现实的教程演示装置的一种结构示意图。
图5是本发明实施例提供的基于增强现实的教程演示装置的另一种结构示意图。
图6是本发明实施例提供的基于增强现实的教程演示装置的又一种结构示意图。
图7是本发明实施例提供的电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述。显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供一种基于增强现实的教程演示方法和装置。以下将分别进行详细说明。
在一优选实施例中,提供一种基于增强现实的教程演示方法,如图1所示,流程可以如下:
101、获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象。
具体地,可以通过摄像头对真实场景进行监控,以获取真实场景的图像信息。本发明实施例中可设置一个摄像系统,该摄像系统可包括有一个或多个摄像头,以从多个不同角度对现实场景中的画面进行捕捉。
在一些实施例中,该摄像系统可包括可见光摄像机(例如RGB摄像机)、立体声或阵列摄像机系统和/或深度摄像机(例如飞行时间和/或结构化光深度摄像机)。由深度摄像机捕获的深度图像可指示由每个像素成像的表面的深度,以便提供关于场景的一个或多个特征的信息。本发明实施例中,一个或多个摄像头可集成在移动设备(如智能手机、平板电脑等)中,且在现实场景中内是可移动的。
在获取图像信息后,可基于机器的图像识别功能对所获取的图像信息进行识别,以确定所包含的实体对象。其中,实体对象可实实在在存在于现实空间中,且在视觉上可见可触摸的物体,比如终端设备,起子、镊子等工具,电池等配件等等。
102、根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面。
在一些实施方式中,需预先建立教程数据库。其中,教程数据库中可包括诸如系统拆卸、系统组装、工具箱使用等的操作规则以及操作画面,并可以教学视频、幻灯片教学和/或文字教学等形式进行演示。比如,对一台计算机设备进行拆卸的教学视频。
在一个候选教程中可涉及到针对多个实体对象的操作,而每一候选教中至少包括有一个针对所识别到的实体对象的操作。
103、从所识别到的实体对象中确定当前用户所操作的目标实体对象。
具体地,可从当前的真实场景画面中,识别出用户正在使用的实体对象。在一些实施例中,可基于用户动作确定所使用的实体对象,也即步骤“从所识别到的实体对象中确定当前用户所操作的目标实体对象”可以包括以下流程:
识别当前真实场景中目标人物的动作;
确定目标人物的动作对应的操作对象,以作为目标实体对象。
实际应用中,在教程演示开始前便可对目标人物可进行锁定。比如,可以基于人脸识别算法,在系统中输入目标人物的人脸信息,基于所述人脸信息实时捕捉真实场景中的人物图像,以对目标人物可进行锁定。
具体地,在确定目标人物的动作对应的操作对象时,可将目标人物所握持、按压、接触或间接接触的实体对象作为目标人物的动作对应的操作对象,也即目标实体对象。
104、基于目标实体对象从候选教程中选取目标教程,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
具体地,可根据所确定的目标实体对象,从候选教程中选取包含针对所述目标实体对象操作规则以及操作画面的候选教程,再依据相应的选择策略从中选取出目标教程。
在一些实施例中,可选取与目标实体对象相关度最大的候选教程,以作为目标教程,然后,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
具体实施时,可确定真实场景中与目标实体对象相关(如存在互动或相互接触)的相关实体对象,从候选教程中选取同时包含目标实体对象、以及目标实体对象相关的相关实体对象且所包含相关实体对象数量最多的候选教程,以作为与目标实体对象相关度最大的候选教程。
由上可知,本发明实施例提供了一种基于增强现实的教程演示方法,通过获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象,然后根据识别到的实体对象,从教程数据库中提取相应的候选教程,并从所识别到的实体对象中确定当前用户所操作的目标实体对象,基于目标实体对象从候选教程中选取目标教程,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。该方案基于增强现实技术,识别实际操作的对象,并与相应的目标教程进行画面合成,形成增强现实画面进行演示,更加突出了操作主体,提升了系统拆卸或组装等操作的准确性,同时加快了处理速度,更具智能化。
在本发明又一实施例中,还提供另一基于增强现实的教程演示方法。如图2所示,流程可以如下:
201、获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象。
具体地,可以通过摄像头对真实场景进行监控,以获取真实场景的图像信息。本发明实施例中可设置一个摄像系统,该摄像系统可包括有一个或多个摄像头,以从多个不同角度对现实场景中的画面进行捕捉。
本实施例中,所采用的摄像头可为数字摄像头。数字摄像头可以将采集图像而产生的模型信号转换成数字信号,进而将其储存在平板电脑、计算机等带有存储介质的智能终端中。数字摄像头可以直接捕捉影像,然后通过串、并口或者USB接口传到计算机里。
在一些实施例中,为了提升获取到真实场景的图像信息的质量,可采用模拟摄像头。模拟摄像头可和视频采集卡或者USB视频采集卡配套使用,很方便的跟电脑连接使用。
在获取图像信息后,可基于机器的图像识别功能对所获取的图像信息进行识别,以确定所包含的实体对象。其中,实体对象可实实在在存在于现实空间中,且在视觉上可见可触摸的物体,比如终端设备,起子、镊子等工具,电池等配件等等。
202、根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面。
在一些实施方式中,需预先建立教程数据库。其中,教程数据库中可包括诸如系统拆卸、系统组装、工具箱使用等的操作规则以及操作画面,并可以教学视频、幻灯片教学和/或文字教学等形式进行演示。比如,对一台计算机设备进行拆卸的教学视频。
在一个候选教程中可涉及到针对多个实体对象的操作,而每一候选教中至少包括有一个针对所识别到的实体对象的操作。
203、从所识别到的实体对象中确定当前用户所操作的目标实体对象。
实际应用中,在教程演示开始前便可对目标人物可进行锁定。比如,可以基于人脸识别算法,在系统中输入目标人物的人脸信息,基于所述人脸信息实时捕捉真实场景中的人物图像,以对目标人物可进行锁定。
具体地,可从当前的真实场景画面中,识别出用户正在使用的实体对象。在一些实施例中,可基于用户动作确定所使用的实体对象。比如,在确定目标人物的动作对应的操作对象时,可将目标人物所握持、按压、接触或间接接触的实体对象作为目标人物的动作对应的操作对象,也即目标实体对象。
例如,真实场景中存在有目标人物、工具箱、一电器设备,工具箱中存在有多个可供使用工具,若目标人物手持起子,用起子去拧电器设备中的一个螺丝,则起子作为目标实体对象。
204、对目标实体对象进行三维建模,以构建目标实体对象的三维模型。
具体地,可获取目标实体对象的色彩图像和深度图像,然后基于获取的色彩图像和深度图像构建此目标实体对象的三维模型。
205、从目标教程中识别与目标实体对象匹配的目标虚拟对象,以及与目标虚拟对象相关的相关虚拟对象。
具体地,可基于图像识别算法,将目标实体对象的三维模型作为输入数据,从目标教程中匹配出对应的目标虚拟对象,其中,目标实体对象的三维模型与目标虚拟对象的相似度最大。比如,目标实体对象为杯子且呈圆柱体,而目标教程中存在有一呈长方体状杯子和一呈圆柱体的杯子,则将目标教程中呈圆柱体的杯子作为与目标实体对象匹配的目标虚拟对象。
另外,参考上述真实场景中的例子,若目标教程中存在有虚拟工具箱、一虚拟电器设备,虚拟工具箱中存在有多个可供使用的虚拟工具。假设起子为目标虚拟对象,若显示虚拟人物手持起子,用起子去拧电器设备中的一个螺丝,则螺丝将作为目标虚拟对象相关的相关虚拟对象。
206、将目标虚拟对象替换成目标实体对象的三维模型,以将三维模型与相关虚拟对象实时合成,形成增强现实画面并演示。
具体地,在目标教程演开始演示时刻起,实时获取目标虚拟对象在目标虚拟教程中的位置,并将目标实体对象的三维模型实时融合到目标教程中,以覆盖该目标虚拟对象在目标教程中的位置,从而将将目标实体对象的三维模型与相关虚拟对象实时合成,形成增强现实画面。把真实场景中的对象反映到虚拟教程中,使用户可一眼认准所操作的实体对象,增强了画面感,提升了操作效率。
207、获取目标人物对真实场景中目标实体对象的操作画面,并与增强现实画面进行比较,以获取操作差异信息。
在一些实施例中,在将目标虚拟对象替换成目标实体对象的三维模型,以将三维模型与相关虚拟对象实时合成,形成增强现实画面并演示之后,还可实时监控真实场景中目标人物对目标实体对象的操作画面,并与目标教程中的增强现实画面进行比较,获取在有效操作上的差异信息。
208、根据操作差异信息生成并输出相应的指示信息,该指示信息包括:对真实场景中不符合目标教程中操作规则的操作进行纠正的提示信息。
比如,目标教程的增强现实画面中显示目标是对象的三维模型(假设为起子)为逆时针旋转,而真实场景中目标实体对象(即起子)为顺时针旋转,则将通增强现实显示设备中自带的语音设备,或真实场景中独立设置的语音设备进行语音提醒用户(即目标人物):当前操作有误,需将起子逆时针旋转。
由上可知,本发明实施例提供了一种基于增强现实的教程演示方法,通过获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象,然后根据识别到的实体对象,从教程数据库中提取相应的候选教程,并从所识别到的实体对象中确定当前用户所操作的目标实体对象,对目标实体对象进行三维建模,以构建目标实体对象的三维模型,从目标教程中识别与目标实体对象匹配的目标虚拟对象,以及与目标虚拟对象相关的相关虚拟对象,将目标虚拟对象替换成目标实体对象的三维模型,以将三维模型与相关虚拟对象实时合成,形成增强现实画面并演示。之后可以对真实场景中目标人物针对目标实体对象的操作画面进行监控,并与增强现实画面进行比较,以获取操作差异信息,根据操作差异信息生成并输出对真实场景中不符合目标教程中操作规则的操作进行纠正的提示信息。该方案基于增强现实技术,识别实际操作的对象,并与相应的目标教程进行画面合成,形成增强现实画面进行演示,更加突出了操作主体,提升了系统拆卸或组装等操作的准确性,同时加快了处理速度,更具智能化。
参考图3,图3为本发明实施例提供的基于增强现实的教程演示系统的一种应用场景示意图。
启动摄像装置35,识别当前真实场景中的实体对象:笔记本电脑32、工具331、工具332、工具333、以及桌子34。根据所识别到的实体对象从教程数据库中选取候选教程,然后监控目标人物31的动作,从真实场景中确定识别目标人物31所操作的目标实体对象(如图所示工具333),基于目标实体对象从候选教程中选取相应的目标教程进行演示。演示开始时刻,摄像头35获取工具333的深度图像和色彩图像,以根据获取的深度图像和色彩图像构建工具333的三维模型。然后,将所构建的三维模型与目标教程进行融合,以得到增强现实画面显示在显示设备36中进行演示,期间可附加文字或语音说明,以辅助教程演示。通过摄像头35监控目标人物操作工具333的操作画面,并与增强现实画面进行比较。当存在操作出入时,通语音播放设备37进行语音提醒目标人物31:当前操作有误,请按教程纠正。
在本发明又一实施例中,还提供一种基于增强现实的教程演示装置。如图4所示,该基于增强现实的教程演示装置4000可以包括获取模块401、提取模块402、确定模块403、以及处理模块404,其中:
获取模块401,用于获取真实场景的图像信息,并从所述图像信息中识别一个或多个实体对象;
提取模块402,用于根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面;
确定模块403,用于从所识别到的实体对象中确定当前用户所操作的目标实体对象;
处理模块404,用于基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
在一些实施例中,参考图5,所述处理模块404包括:
选取子模块4041,用于从候选教程中选取与所述目标实体对象相关度最大的候选教程,以作为目标教程;
合成子模块4042,用于将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
在一些实施例中,所述合成子模块4042用于:
对所述目标实体对象进行三维建模,以构建目标实体对象的三维模型;
从所述目标教程中识别与所述目标实体对象匹配的目标虚拟对象,以及与所述目标虚拟对象相关的相关虚拟对象;
将所述目标虚拟对象替换成所述目标实体对象的三维模型,以将所述三维模型与所述相关虚拟对象实时合成,形成增强现实画面。
在一些实施例中,所述确定模块403用于:
识别当前真实场景中目标人物的动作;
确定所述目标人物的动作对应的操作对象,以作为目标实体对象。
在一些实施例中,参考图6,所述教程演示装置4000还包括:
比较模块405,用于在基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到增强现实画面并演示之后,获取目标人物对真实场景中目标实体对象的操作画面,并与所述增强现实画面进行比较,以获取操作差异信息;
指示模块406,用于根据所述操作差异信息生成并输出相应的指示信息,所述指示信息包括:对真实场景中不符合目标教程中操作规则的操作进行纠正的提示信息。
由上可知,本发明实施例提供了一种基于增强现实的教程演示装置,通过获取真实场景的图像信息,并从图像信息中识别一个或多个实体对象,然后根据识别到的实体对象,从教程数据库中提取相应的候选教程,并从所识别到的实体对象中确定当前用户所操作的目标实体对象,基于目标实体对象从候选教程中选取目标教程,将目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。该方案基于增强现实技术,识别实际操作的对象,并与相应的目标教程进行画面合成,形成增强现实画面进行演示,更加突出了操作主体,提升了系统拆卸或组装等操作的准确性,同时加快了处理速度,更具智能化。
相应地,本发明实施例还提供一种电子设备500,该电子设备500具体可以是智能手机、平板电脑等终端设备。如图7所示,该电子设备500可以包括一个或者一个以上处理核心的处理器501、一个或一个以上计算机可读存储介质的存储器502、通讯单元503、电源504、输入单元505、以及显示单元506等部件。本领域技术人员可以理解,图7中示出的电子设备结构并不构成对电子设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器501是该电子设备500的控制中心,利用各种接口和线路连接整个电子设备500的各个部分,通过运行或执行存储在存储器502内的软件程序和/或模块,以及调用存储在存储器502内的数据,执行电子设备500的各种功能和处理数据,从而对电子设备500进行整体监控。可选的,处理器501可包括一个或多个处理核心;优选的,处理器501可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器501中。
存储器502可用于存储软件程序以及模块。处理器501通过运行存储在存储器502的软件程序以及模块,从而执行各种功能应用以及数据处理。本实施例中,存储单元502可用于存储待阅读的目标文档。
通讯单元503可用于收发信息过程中,信号的接收和发送,特别地,通讯单元503接收终端发送的信号,并将该数据获取请求交由一个或者一个以上处理器501处理。同时,通讯单元503将处理器501发出的反馈信号发送给服务器。
电子设备500还包括给各个部件供电的电源504(比如电池)。优选的,电源可以通过电源管理系统与处理器501逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源504还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该电子设备500还可包括输入单元505,该输入单元505可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
该电子设备500还可包括显示单元506,该显示单元506可用于显示由用户输入的信息或提供给用户的信息以及电子设备500的各种图形用户接口,这些图形用户接口可以由图形、文本、图标、视频和其任意组合来构成。显示单元508可包括显示面板,可选的,可以采用液晶显示器(LCD,Liquid Crystal Display)、有机发光二极管(OLED,Organic Light-Emitting Diode)等形式来配置显示面板。
具体实施时,以上各个模块可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个模块的具体实施可参见前面的方法实施例,在此不再赘述。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,RandomAccess Memory)、磁盘或光盘等
在描述本发明的概念的过程中使用了术语“一”和“所述”以及类似的词语(尤其是在所附的权利要求书中),应该将这些术语解释为既涵盖单数又涵盖复数。此外,除非本文中另有说明,否则在本文中叙述数值范围时仅仅是通过快捷方法来指代属于相关范围的每个独立的值,而每个独立的值都并入本说明书中,就像这些值在本文中单独进行了陈述一样。另外,除非本文中另有指明或上下文有明确的相反提示,否则本文中所述的所有方法的步骤都可以按任何适当次序加以执行。本发明的改变并不限于描述的步骤顺序。除非另外主张,否则使用本文中所提供的任何以及所有实例或示例性语言(例如,“例如”)都仅仅为了更好地说明本发明的概念,而并非对本发明的概念的范围加以限制。
以上对本发明实施例所提供的一种基于增强现实的教程演示方法和装置进行了详细介绍。应理解,本文所述的示例性实施方式应仅被认为是描述性的,用于帮助理解本发明的方法及其核心思想,而并不用于限制本发明。在每个示例性实施方式中对特征或方面的描述通常应被视作适用于其他示例性实施例中的类似特征或方面。尽管参考示例性实施例描述了本发明,但可建议所属领域的技术人员进行各种变化和更改。本发明意图涵盖所附权利要求书的范围内的这些变化和更改。
Claims (10)
1.一种基于增强现实的教程演示方法,其特征在于,包括:
获取真实场景的图像信息,并从所述图像信息中识别一个或多个实体对象;
根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面;
从所识别到的实体对象中确定当前用户所操作的目标实体对象;
基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
2.如权利要求1所述的基于增强现实的教程演示方法,其特征在于,基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面的步骤,包括:
从候选教程中选取与所述目标实体对象相关度最大的候选教程,以作为目标教程;
将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
3.如权利要求2所述的基于增强现实的教程演示方法,其特征在于,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示的步骤,包括:
对所述目标实体对象进行三维建模,以构建目标实体对象的三维模型;
从所述目标教程中识别与所述目标实体对象匹配的目标虚拟对象,以及与所述目标虚拟对象相关的相关虚拟对象;
将所述目标虚拟对象替换成所述目标实体对象的三维模型,以将所述三维模型与所述相关虚拟对象实时合成,形成增强现实画面并演示。
4.如权利要求1所述的基于增强现实的教程演示方法,其特征在于,从所识别到的实体对象中确定当前用户所操作的目标实体对象的步骤,包括:
识别当前真实场景中目标人物的动作;
确定所述目标人物的动作对应的操作对象,以作为目标实体对象。
5.如权利要求1所述的基于增强现实的教程演示方法,其特征在于,在基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到增强现实画面并演示之后,所述方法还包括:
获取目标人物对真实场景中目标实体对象的操作画面,并与所述增强现实画面进行比较,以获取操作差异信息;
根据所述操作差异信息生成并输出相应的指示信息,所述指示信息包括:对真实场景中不符合目标教程中操作规则的操作进行纠正的提示信息。
6.一种基于增强现实的教程演示装置,其特征在于,包括:
获取模块,用于获取真实场景的图像信息,并从所述图像信息中识别一个或多个实体对象;
提取模块,用于根据识别到的实体对象,从教程数据库中提取相应的候选教程,候选教程包括对所识别到的实体对象的操作规则以及操作画面;
确定模块,用于从所识别到的实体对象中确定当前用户所操作的目标实体对象;
处理模块,用于基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
7.如权利要求6所述的基于增强现实的教程演示装置,其特征在于,所述处理模块包括:
选取子模块,用于从候选教程中选取与所述目标实体对象相关度最大的候选教程,以作为目标教程;
合成子模块,用于将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到相应的增强现实画面并演示。
8.如权利要求7所述的基于增强现实的教程演示装置,其特征在于,所述合成子模块用于:
对所述目标实体对象进行三维建模,以构建目标实体对象的三维模型;
从所述目标教程中识别与所述目标实体对象匹配的目标虚拟对象,以及与所述目标虚拟对象相关的相关虚拟对象;
将所述目标虚拟对象替换成所述目标实体对象的三维模型,以将所述三维模型与所述相关虚拟对象实时合成,形成增强现实画面。
9.如权利要求6所述的基于增强现实的教程演示装置,其特征在于,所述确定模块用于:
识别当前真实场景中目标人物的动作;
确定所述目标人物的动作对应的操作对象,以作为目标实体对象。
10.如权利要求6所述的基于增强现实的教程演示装置,其特征在于,所述装置还包括:
比较模块,用于在基于所述目标实体对象从候选教程中选取目标教程,将所述目标实体对象的图像与目标教程中的操作画面实时合成,以得到增强现实画面并演示之后,获取目标人物对真实场景中目标实体对象的操作画面,并与所述增强现实画面进行比较,以获取操作差异信息;
指示模块,用于根据所述操作差异信息生成并输出相应的指示信息,所述指示信息包括:对真实场景中不符合目标教程中操作规则的操作进行纠正的提示信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710759559.6A CN109427102B (zh) | 2017-08-30 | 2017-08-30 | 基于增强现实的教程演示方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710759559.6A CN109427102B (zh) | 2017-08-30 | 2017-08-30 | 基于增强现实的教程演示方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109427102A true CN109427102A (zh) | 2019-03-05 |
CN109427102B CN109427102B (zh) | 2023-04-28 |
Family
ID=65503695
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710759559.6A Active CN109427102B (zh) | 2017-08-30 | 2017-08-30 | 基于增强现实的教程演示方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109427102B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110196580A (zh) * | 2019-05-29 | 2019-09-03 | 中国第一汽车股份有限公司 | 装配指导方法、系统、服务器及存储介质 |
CN114510173A (zh) * | 2022-01-21 | 2022-05-17 | 上海维智卓新信息科技有限公司 | 基于增强现实的施工作业方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160180590A1 (en) * | 2014-12-23 | 2016-06-23 | Lntel Corporation | Systems and methods for contextually augmented video creation and sharing |
CN106251752A (zh) * | 2016-10-25 | 2016-12-21 | 深圳市科创数字显示技术有限公司 | Ar和vr相结合的医学培训系统 |
CN106504629A (zh) * | 2016-11-04 | 2017-03-15 | 大连文森特软件科技有限公司 | 一种基于增强现实技术的汽车组装演示记忆系统 |
CN106530410A (zh) * | 2016-11-04 | 2017-03-22 | 大连文森特软件科技有限公司 | 一种基于增强现实技术的汽车组装演示系统 |
CN106548008A (zh) * | 2016-10-11 | 2017-03-29 | 上海大学 | 基于智能搜索的ar中医治疗演示方法 |
-
2017
- 2017-08-30 CN CN201710759559.6A patent/CN109427102B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20160180590A1 (en) * | 2014-12-23 | 2016-06-23 | Lntel Corporation | Systems and methods for contextually augmented video creation and sharing |
CN106548008A (zh) * | 2016-10-11 | 2017-03-29 | 上海大学 | 基于智能搜索的ar中医治疗演示方法 |
CN106251752A (zh) * | 2016-10-25 | 2016-12-21 | 深圳市科创数字显示技术有限公司 | Ar和vr相结合的医学培训系统 |
CN106504629A (zh) * | 2016-11-04 | 2017-03-15 | 大连文森特软件科技有限公司 | 一种基于增强现实技术的汽车组装演示记忆系统 |
CN106530410A (zh) * | 2016-11-04 | 2017-03-22 | 大连文森特软件科技有限公司 | 一种基于增强现实技术的汽车组装演示系统 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110196580A (zh) * | 2019-05-29 | 2019-09-03 | 中国第一汽车股份有限公司 | 装配指导方法、系统、服务器及存储介质 |
CN110196580B (zh) * | 2019-05-29 | 2020-12-15 | 中国第一汽车股份有限公司 | 装配指导方法、系统、服务器及存储介质 |
CN114510173A (zh) * | 2022-01-21 | 2022-05-17 | 上海维智卓新信息科技有限公司 | 基于增强现实的施工作业方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109427102B (zh) | 2023-04-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106254848B (zh) | 一种基于增强现实的学习方法及终端 | |
CN109420336A (zh) | 基于增强现实的游戏实现方法和装置 | |
Paelke | Augmented reality in the smart factory: Supporting workers in an industry 4.0. environment | |
CN107066082B (zh) | 显示方法和装置 | |
US11893702B2 (en) | Virtual object processing method and apparatus, and storage medium and electronic device | |
CN108520552A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN106355153A (zh) | 一种基于增强现实的虚拟对象显示方法、装置以及系统 | |
CN111311756B (zh) | 增强现实ar显示方法及相关装置 | |
CN108525305A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
JP2021192294A (ja) | 人体3dキー点検出方法、モデル訓練方法及び関連装置 | |
CN112017300A (zh) | 混合现实图像的处理方法、装置及设备 | |
Issartel et al. | A tangible volume for portable 3D interaction | |
CN109685905A (zh) | 基于增强现实的小区规划方法和系统 | |
CN108109209A (zh) | 一种基于增强现实的视频处理方法及其装置 | |
CN111339737B (zh) | 实体链接方法、装置、设备及存储介质 | |
US20150317058A1 (en) | Computer-implemented methods and systems for organizing information in three-dimensional concept maps | |
CN109427102A (zh) | 基于增强现实的教程演示方法和装置 | |
CN108537878A (zh) | 环境模型生成方法、装置、存储介质及电子设备 | |
CN108537149B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN112365607A (zh) | 一种增强现实ar交互的方法、装置、设备及存储介质 | |
CN111918114A (zh) | 图像显示方法、装置、显示设备及计算机可读存储介质 | |
CN112884906A (zh) | 一种实现多人混合虚拟和增强现实交互的系统及方法 | |
CN112911266A (zh) | 基于增强现实技术的物联网实训系统的实现方法及系统 | |
CN111898489A (zh) | 用于标注手掌位姿的方法、装置、电子设备及存储介质 | |
Hempe et al. | A semantics-based, active render framework to realize complex eRobotics applications with realistic virtual testing environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |