CN105701863B - 图像处理的方法和装置 - Google Patents

图像处理的方法和装置 Download PDF

Info

Publication number
CN105701863B
CN105701863B CN201610017079.8A CN201610017079A CN105701863B CN 105701863 B CN105701863 B CN 105701863B CN 201610017079 A CN201610017079 A CN 201610017079A CN 105701863 B CN105701863 B CN 105701863B
Authority
CN
China
Prior art keywords
threedimensional model
current object
image
augmented reality
server
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610017079.8A
Other languages
English (en)
Other versions
CN105701863A (zh
Inventor
孙喆
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Priority to CN201610017079.8A priority Critical patent/CN105701863B/zh
Publication of CN105701863A publication Critical patent/CN105701863A/zh
Application granted granted Critical
Publication of CN105701863B publication Critical patent/CN105701863B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality

Abstract

本发明实施例提供了一种图像处理的方法和装置,能够改善用户体验。该方法包括:增强现实设备在第一时段,通过该摄像头对当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像,获取该当前物体的特征数据;当该摄像头停止对该当前物体的拍摄时,该增强现实设备向该服务器发送丢失指令,该丢失指令携带该当前物体的特征数据;该增强现实设备接收该服务器发送的第一三维模型;该增强现实设备获取用户的输入信息,该输入信息用于指示虚拟图像以及该虚拟图像与该第一三维模型的相对位置;该增强现实设备根据该输入信息,对该虚拟图像和该第一三维模型进行叠加显示。

Description

图像处理的方法和装置
技术领域
本发明涉及图像领域,并且更具体地,涉及图像处理的方法和装置。
背景技术
增强现实(Augmented Reality,AR)是一种将真实世界信息和虚拟世界信息“无缝”集成的新技术。用户通过增强现实设备,可以将虚拟的信息叠加到真实世界,使得真实世界和虚拟的信息在同一个画面或空间同时存在,从而达到超越现实的感官体验。
目前,基于增强现实技术的增强现实设备主要有手持式和头戴式两种。如图1所示,使用手持式增强现实设备时,用户需要长时间对准目标物体进行交互操作,易于疲劳,用户体验不好。又如图2所示,使用头戴式增强现实设备时,用户的身体朝向与视野必须是面向目标物体的,用户的行为受到约束,不能自由行动,用户体验也比较差。
发明内容
本发明实施例提供一种处理图像的方法和装置,能够改善用户体验。
第一方面,提供了一种图像处理的方法,应用于包括增强现实设备和服务器的系统中,该增强现实设备包括摄像头,该服务器中存储有三维模型数据库和映射信息,该三维模型数据库中预存有与多个物体一一对应的多个三维模型,该映射信息用于指示该多个三维模型与该多个物体的特征数据之间的映射关系,该方法包括:该增强现实设备在第一时段,通过该摄像头对当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像,获取该当前物体的特征数据;当该摄像头停止对该当前物体的拍摄时,该增强现实设备向该服务器发送丢失指令,该丢失指令携带该当前物体的特征数据;该增强现实设备接收该服务器发送的第一三维模型,该第一三维模型是该服务器根据该当前物体的特征数据和该映射信息从该三维模型数据库中确定的;该增强现实设备获取用户的输入信息,该输入信息用于指示虚拟图像以及该虚拟图像与该第一三维模型的相对位置;该增强现实设备根据该输入信息,对该虚拟图像和该第一三维模型进行叠加显示。
结合第一方面,在第一方面的第一种实现方式中,如果该三维模型图像数据库中未保存该第一三维模型图像,则该方法还包括:该增强现实设备接收该服务器发送的重建指示信息,该重建指示信息是该服务器在确定该三维模型数据库中未保存该第一三维模型后发送的;该增强现实设备根据该重建指示信息,在第二时段,通过该摄像头对该当前物体进行拍摄,以获取该当前物体的第二图像,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;该增强现实设备根据该第二图像,生成该第一三维模型;该增强现实设备将该第一三维模型发送给该服务器。
结合第一方面,在第一方面的第二种实现方式中,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,该方法还包括:该增强现实设备接收该服务器发送的该当前物体的状态数据,该当前物体的状态数据是该服务器从该数据传感器获取的;该增强现实设备对该虚拟图像和该第一三维模型进行叠加显示,包括:该增强现实设备该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
结合第一方面,在第一方面的第三种实现方式中,该增强现实设备获取用户的输入信息之后,该方法还包括:该增强现实设备在第三时段,通过该摄像头对当前物体进行拍摄,以获取该当前物体的第三图像;该增强现实设备根据叠加显示后的该虚拟图像与该第一三维模型的相对位置,将该虚拟图像叠加显示在该第三图像上。
第二方面,提供了一种处理图像的方法,应用于包括增强现实设备和服务器的系统中,该服务器中存储有三维模型数据库和映射信息,该三维模型数据库中预存有与多个物体一一对应的多个三维模型,该映射信息用于指示该多个三维模型与该多个物体的特征数据之间的映射关系,该方法包括:该服务器接收该增强现实设备发送的丢失指令,该丢失指令携带该当前物体的特征数据,该当前物体的特征数据是该增强现实设备在第一时段,通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像获取的;该服务器根据该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的第一三维模型;该服务器将该第一三维模型发送给该增强现实设备,以便于该增强现实设备根据用户指示的虚拟图像与该第一三维模型的相对位置,对该虚拟图像和该第一三维模型进行叠加显示。
结合第二方面,在第二方面的第一种实现方式中,如果该三维模型图像数据库中未保存该第一三维模型,则该方法还包括:该服务器根据该映射信息,确定该三维模型数据库中未保存该第一三维模型;该服务器向该增强现实设备发送重建指示信息,该重建指示信息用于指示该增强现实设备重建该第一三维模型;该服务器接收该增强现实设备发送的该第一三维模型,该第一三维模型是该增强现实设备根据该重建指示信息,在第二时段通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第二图像生成的,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;该服务器保存该第一三维模型图像。
结合第二方面,在第二方面的第二种实现方式中,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,该方法还包括:该服务器从该数据传感器获取该当前物体的状态数据;该服务器将该当前物体的状态数据发送给该增强现实设备,以便于该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
结合第二方面,在第二方面的第三种实现方式中,该服务器上存储有物体标识数据库,该物体标识数据库中存储有多个物体标识,该多个物体标识与该多个三维模型之间一一对应,该多个物体的特征数据与该多个物体标识之间一一对应,该服务器根据该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的该第一三维模型图像,包括:该服务器根据特征数据与物体标识之间的对应关系,确定与该当前物体的特征数据对应的第一物体标识;该服务器根据物体标识与三维模型之间的对应关系,确定与该第一物体标识对应的该第一三维模型。
第三方面,提供了一种图像处理的装置,该装置包括存储器和与该存储器连接的处理器,该存储器用于存储指令,该处理器用于执行该存储器的指令,当该处理器执行该存储器中存储的指令时,该处理器具体用于执行第一方面中的方法。
第四方面,提供了一种图像处理的装置,该装置包括存储器和与该存储器连接的处理器,该存储器用于存储指令,该处理器用于执行该存储器的指令,当该处理器执行该存储器中存储的指令时,该处理器具体用于执行第二方面中的方法。
根据本发明实施例的图像处理的方法和装置,通过在系统的服务器上预先存储多个物体的三维模型和三维模型与特征数据之间的映射信息,使得用户在对当前物体进行增强现实处理时,只需要使用增强现实设备拍摄得到当前物体的图像,再从当前物体的图像上获取到当前物体的特征数据,并将该特征数据发送至服务器。服务器根据映射信息,获取与当前物体的特征数据对应的当前物体的三维模型,并将该当前物体的三维模型发送给增强现实设备进行显示。其后,用户就可以在该当前物体的三维模型上进行编辑操作,以实现对当前物体的增强现实处理。因此,用户无需一直保持增强现实设备朝向当前物体进行操作,交互过程更加自由,能够改善用户体验。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是现有技术中手持式增强现实设备的使用示意图。
图2是现有技术中头戴式增强现实设备的使用示意图。
图3是根据本发明一实施例的图像处理的方法的示意性流程图。
图4是根据本发明另一实施例的图像处理的方法的示意性流程图。
图5是根据本发明一实施例的图像处理的装置的示意性框图。
图6是根据本发明另一实施例的图像处理的装置的示意性框图。
图7是根据本发明一实施例的图像处理的设备的示意性结构图。
图8是根据本发明另一实施例的图像处理的设备的示意性结构图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
为了便于理解和说明,作为示例而非限定,以增强现实设备包括图形计算机总成、机器视觉模块和图像显示模块以实现增强现实设备的相应功能为例,对根据本发明实施例的图像处理的方法进行详细说明。
A.增强现实设备
根据本发明实施例的增强现实设备的硬件构成,可以包括图形计算机系统总成、机器视觉模块和图像显示模块三个部分。
A01.图形计算机系统总成
用于高速图像计算的电子计算装置,可以具有数值计算、逻辑计算、图形图像渲染运算和存储记忆的能力,可以由硬件装置和软件系统组成。
A02.机器视觉模块
主要用于获取物体的图像,可以包括机器视觉图像摄取装置、深度信息摄取装置和摄像头等。
A03.图像显示模块
主要用于实现图形计算机系统总成下发的图像,并提供与用户的交互界面、实时反馈用户的操作结果。
包括各类的手持式设备所采用的显示装置,例如液晶显示屏、触摸液晶显示屏等,也可以包括头戴式显示设备所使用的基于光学原理的穿透式投影显示屏和基于视频合成技术的透射式显示技术的显示装置。
B.服务器
也可以称为伺服器,是提供计算服务的设备,服务器的构成包括处理器,硬盘,内存,系统总线,软件操作系统等。
在本发明实施例中,服务器上存储有三维模型数据库和映射信息,其中,三维模型数据库中预先保存有与多个物体一一对应的多个三维模型,映射信息用于指示该多个三维模型与多个特征数据之间的映射关系,其中,该多个特征数据与该多个物体一一对应。
C.当前物体
用户当前需要通过增强现实技术进行查看与操作的物体(也或者称为,目标物体),包括各类物理实物,显示设备中呈现的数据图像等。
D.数据传感器
预先配置在物体的内部或表面,一方面,可以通过网络或电路与物体进行通信,从而可以实时获取物体的状态数据,例如,温度、亮度和压力等。另一方面,可以通过有线或无线的方式,将获取的物体的状态数据发送至系统服务器。
图3示出了根据本发明实施例的图像处理的方法100的示意性流程图。该方法在至少包括增强现实设备和服务器的系统中执行,其中,该增强现实设备包括摄像头,该服务器中存储有三维模型数据库和映射信息,该三维模型数据库中预存有与多个物体一一对应的多个三维模型,该映射信息用于指示该多个三维模型与多个物体的特征数据之间的映射关系。如图3所示,该方法100包括:
S110,增强现实设备在第一时段,通过该摄像头对当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像,获取该当前物体的特征数据;
S120,当该摄像头停止对该当前物体的拍摄时,该增强现实设备向该服务器发送丢失指令,该丢失指令携带该当前物体的特征数据;
S130,该增强现实设备接收该服务器发送的第一三维模型,该第一三维模型是该服务器根据该当前物体的特征数据和该映射信息从该三维模型数据库中确定的;
S140,该增强现实设备获取用户的输入信息,该输入信息用于指示虚拟图像以及该虚拟图像与该第一三维模型的相对位置;
S150,该增强现实设备根据该输入信息,对该虚拟图像和该第一三维模型进行叠加显示。
在本发明实施例中,由于系统服务器上预先存储有多个物体的三维模型,增强现实设备只需要对准目标物体,获取到目标物体的图像,其后,增强现实设备从目标物体的图像上提取目标物体的特征数据,并将该目标物体的特征数据发送给服务器。服务器根据预先存储的三维模型与特征数据之间的一一映射关系,获取与目标物体的特征数据对应的目标物体的三维模型,并将该当前物体的三维模型发送给增强现实设备进行显示,其后,用户就可以在该当前物体的三维模型上进行编辑操作,以实现对当前物体的增强现实处理。
可见,用户只需要使用增强现实设备获取一次目标物体的图像,就可以使得增强现实设备通过与服务器的通信,从服务器获取到目标物体的三维模型供用户编辑操作。操作过程中,用户没有操作行为上的约束,人机交互的过程更加自由,能够改善用户体验。
为了便于理解和说明,以下,将根据本发明实施例的图像处理的方法分为三个过程进行详细描述。
过程1
摄像头(或者,机器视觉模块)对目标物体进行拍摄,得到当前物体的图像A(即,第一图像的一例),并对图像A进行特征提取,得到目标物体的特征数据。
应理解,本发明实施例中的第一图像可以为当前物体的特征图像。
应理解,特征图像可以包括目标物体上的图形、文字和铭牌等,也可以为目标物体自身通过机器视觉模块的图像识别技术检索发现,并在服务器的特征数据库中可以匹配到模型的特征。
过程2
摄像头停止对目标物体的拍摄,也或者说,目标物体不在机器视觉模块的视觉范围内。此时,计算机系统总成向服务器发送丢失指令,该丢失指令中携带目标物体的特征数据(为了便于区别,记作特征数据#1)。服务器接收到该丢失指令之后,根据特征数据与三维模型之间的映射关系,确定与特征数据#1所对应的三维模型(即,第一三维模型),并将该第一三维模型发送给图形计算机系统总成,图形计算机系统总成将该第一三维模型发送给图像显示模块进行显示。其后,图像显示模块可以获取到用户的输入信息,该输入信息用于指示需要叠加在该第一三维模型上的虚拟图像以及该虚拟图像与该第一三维模型的相对位置。
作为使用增强现实设备的用户而言,此时,在增强现实设备的图形显示模块(例如,显示屏)上就可以看到目标物体的三维模型(即,第一三维模型)。之后,用户就可以在该第一三维模型上进行编辑和操作。也或者说,通过本发明实施例提供的图像处理的方法,可以将目标物体“拿”到个人终端(例如,增强现实设备)上,从而可以使用低头查看的自然阅读与交互体验,通过这种方法,就无需一直对准目标物体查看信息,只需要对目标物体进行拍摄,并通过拍摄到的图像(即,第一图像)获取到目标物体的特征数据以后,用户就可以其它姿势操作,用户体验更好。
应理解,输入信息可以包括需要与第一三维模型进行叠加显示的虚拟图像,以及虚拟图像与第一三维模型之间的相对位置。输入信息还可以包括对三维模型图像的大小、颜色或属性的调整,修改、删除或添加目标物体的三维模型图像内容组成。
可选地,如果三维模型数据库中未保存该第一三维模型,该方法还包括:
该增强现实设备接收该服务器发送的重建指示信息,该重建指示信息是该服务器在确定该三维模型数据库中未保存该第一三维模型后发送的;
该增强现实设备根据该重建指示信息,在第二时段,通过该摄像头对该当前物体进行拍摄,以获取该当前物体的第二图像,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
该增强现实设备根据该第二图像,生成该第一三维模型;
该增强现实设备将该第一三维模型发送给该服务器。
具体地说,在本发明实施例中,服务器的三维模型库中预先保存有多个物体的三维模型,而这多个三维模型中可能没有包括当前物体的三维模型(即,第一三维模型)。在此种情况下,增强现实设备向服务器发送丢失指令,丢失指令中携带该当前物体的特征数据。服务器根据映射信息和当前物体的特征数据查询三维模型数据库,确定未保存有第一三维模型。此时,服务器会向图形计算机系统总成发送重建指示信息,该重建指示信息用于指示该增强现实设备重建所述第一三维模型。
图形计算机系统总成接收到该重建指示信息之后,指示机器视觉模块重新对当前物体进行拍摄,以获取当前物体的特征数据。在第二时段机器视觉模块对当前物体进行拍摄,得到当前物体的第二图像,并根据该第二图像,生成该第一三维模型。
需要说明的是,上述的第二图像用于建立当前物体的三维模型,因此,该第二图像包括多个图像,该多个图像的拍摄角度相异。也或者说,第二图像是一个图像的集合,并且,这个集合中多个图像的拍摄角度不同,从而从这多个图像中提取当前物体的特征数据,以建立当前物体的三维模型。
具体地说,机器视觉模块获取到当前物体的第二图像之后,机器视觉模块对该第二图像进行特征提取,以获取到当前物体的特征数据(为了便于区别,记作特征数据#2)。之后,机器视觉模块将特征数据#2发送给图形计算机系统总成,图形计算机系统总成根据特征数据#2进行三维模型的建模,生成当前物体的三维模型(即,第一三维模型),并将生成的第一三维模型发送至图像显示模块上进行显示,同时,图形计算机系统总成将该第一三维模型发送给服务器进行保存。
增强现实设备将该第一三维模型发送至服务器进行保存,以便于用户下一次对该当前物体进行增强现实处理时,可以从系统的服务器上直接获取到当前物体的三维模型(即,第一三维模型)进行编辑操作,不需要再次对目标物体进行拍摄,简化了增强现实处理的操作。
也就是说,在系统的服务器上未保存有当前物体的三维模型时,服务器会向增强现实设备发送重建指示信息。在本发明实施例中,作为增强现实设备的用户而言,增强现实设备可以通过图像显示模块给用户一个拍摄提示信息,以提示用户重新(也可以说,在不同于第一时段的第二时段)对当前物体进行拍摄,以获取当前物体的特征数据(例如,特征数据#2),或者,增强现实设备在接收到服务器发送的重建指示信息之后,可以发出提示音,以提示用户重新对当前物体进行拍摄。增强现实设备根据重建指示信息,在第二时段,通过摄像头对当前物体进行拍摄,获取当前物体的第二图像,进而获取到当前物体特征数据#2,并根据特征数据#2进行三维模型的重建,以得到第一三维模型,并通过增强显示设备的图像显示模块显示该重建的第一三维模型,以便于用户在该重建的第一三维模型上进行编辑操作。
另外,服务器在保存了当前物体的三维模型的同时,对映射信息进行修改,以记录当前物体的特征数据与当前物体的三维模型之间的映射关系,以便于下次对当前物体进行增强现实处理时,可以根据修改过的映射信息,获取到当前物体的三维模型。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,该方法还包括:
该增强现实设备接收该服务器发送的该当前物体的状态数据,该当前物体的状态数据是该服务器从该数据传感器获取的;
该增强现实设备对该虚拟图像和该第一三维模型进行叠加显示,包括:
该增强现实设备该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
具体地说,在本发明实施例中,可以在系统服务器预存的多个三维模型图像所对应的多个真实物体上预先配置数据传感器,该数据传感器可以实时获取当前物体的状态数据。服务器接收到增强现实设备发送的当前物体的特征数据时,根据映射信息可以确定该当前物体的三维模型(即,第一三维模型),进而服务器可以向与该第一三维模型对应的配置在该当前物体上的数据传感器发送上传指令,该上传指令用于指示该数据传感器将获取的当前物体的状态数据发送至服务器。服务器接收到数据传感器发送的当前物体的状态数据之后,将该状态数据发送至增强现实设备的图形计算机系统总成,图形计算机系统总成再将该状态数据发送至图像显示模块进行显示。此时,用户从图像显示模块上可以同时看到当前物体的三维模型、该当前物体的状态数据和虚拟图像。也就是说,用户可以看到增强现实处理之后的当前物体的三维模型。
过程3
可选地,该增强现实设备获取用户的输入信息之后,该方法还包括:
该增强现实设备在第三时段,通过该摄像头对当前物体进行拍摄,以获取该当前物体的第三图像;
该增强现实设备根据叠加显示后的该虚拟图像与该第一三维模型的相对位置,将该虚拟图像叠加显示在该第三图像上。
具体地说,作为用户而言,对当前物体的三维模型编辑完成后,如果要验证增强现实处理的效果,需要对该当前物体再次进行拍摄,以获取当前物体的图像(即,第三图像),以使得用户编辑后的叠加(也或者说,附着)在第一三维模型上的虚拟图像叠加显示在该第三图像上。也就是说,用户可以从该第三图像上看到虚拟信息附着在真实物体上的效果,以达到验证增强现实处理效果的目的。
可见,在本发明实施例中,用户使用增强现实设备对真实世界的物体进行增强现实处理时,只需要通过增强现实设备的摄像头对目标物体进行拍摄,以获取到目标物体的图像(即,第一图像),进而基于该目标物体的图像获取到该目标物体的特征数据,以从服务器获取到目标物体的三维模型,之后,用户就可以在目标物体的三维模型上进行编辑操作。编辑完成后,需要验证编辑效果时,再次获取当前物体的图像(即,第三图像),使虚拟信息叠加显示在该第三图像上,以查看对当前物体增强现实处理的效果。
也就是说,在本发明实施例提供的技术方案中,增强现实设备只需要获取两次目标物体的图像,第一次是在进行增强现实处理之前,对目标物体进行拍摄以获取目标物体的图像(即,第一图像),进而获取目标物体的特征数据,从而从服务器获取该当前物体的三维模型;第二次是在对目标物体的三维模型上进行增强现实的编辑操作完成之后,再次获取目标物体的图像(即,第三图像),以验证增强现实的编辑效果。显然,用户的编辑过程无需面对目标物体进行操作,与现有技术相比,减少对用户操作时的行为约束,使得交互过程更加自由,改善了用户体验。
图4示出了从服务器的角度描述的本发明实施例的图像处理的方法200的示意性流程图。如图4所示,该方法200包括:
S210,该服务器接收该增强现实设备发送的丢失指令,该丢失指令携带该当前物体的特征数据,该当前物体的特征数据是该增强现实设备在第一时段,通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像获取的;
S220,该服务器根据该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的第一三维模型;
S230,该服务器将该第一三维模型发送给该增强现实设备,以便于该增强现实设备根据用户指示的虚拟图像与该第一三维模型的相对位置,对该虚拟图像和该第一三维模型进行叠加显示。
可选地,如果该三维模型图像数据库中未保存该第一三维模型,该方法还包括:
该服务器根据该映射信息,确定该三维模型数据库中未保存该第一三维模型;
该服务器向该增强现实设备发送重建指示信息,该重建指示信息用于指示该增强现实设备重建该第一三维模型;
该服务器接收该增强现实设备发送的该第一三维模型,该第一三维模型是该增强现实设备根据该重建指示信息,在第二时段通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第二图像生成的,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
该服务器保存该第一三维模型图像。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,方法还包括:
该服务器从该数据传感器获取该当前物体的状态数据;
该服务器将该当前物体的状态数据发送给该增强现实设备,以便于该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
可选地,该服务器上存储有物体标识数据库,该物体标识数据库中存储有多个物体标识,该多个物体标识与该多个三维模型之间一一对应,该多个物体的特征数据与该多个物体标识之间一一对应,
该服务器根据该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的该第一三维模型图像,包括:
该服务器根据特征数据与物体标识之间的对应关系,确定与该当前物体的特征数据对应的第一物体标识;
该服务器根据物体标识与三维模型之间的对应关系,确定与该第一物体标识对应的该第一三维模型。
应理解,多个三维模型与多个物体的特征数据之间具有映射关系,可以为特征数据与物体标识一一对应,物体标识与三维模型一一对应。服务器接收到增强现实设备发送的当前物体的特征数据,可以根据特征数据与物体标识的对应关系,确定与当前物体的特征数据对应的当前物体的物体标识,再根据物体标识与三维模型的对应关系,确定与当前物体的物体标识对应的当前物体的三维模型(即,第一三维模型)。
以上,结合图1至图4对说明了本发明实施例的图像处理的方法,以下,结合图5和图6,说明根据本发明实施例的图像处理的装置。
图5示出了本发明实施例的图像处理的装置300,该装置配置在包括服务器的系统中,该服务器中存储有三维模型数据库和映射信息,该三维模型数据库中预存有与多个物体一一对应的多个三维模型,该映射信息用于指示该多个三维模型与该多个物体的特征数据之间的映射关系,该装置包括:
获取单元310,用于在第一时段,通过该摄像头对当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像,获取该当前物体的特征数据;
发送单元320,用于当该摄像头停止对该当前物体的拍摄时,向该服务器发送丢失指令,该丢失指令携带该当前物体的特征数据;
接收单元330,用于接收该服务器发送的第一三维模型,该第一三维模型是该服务器根据该当前物体的特征数据和该映射信息从该三维模型数据库中确定的;
该获取单元还用于获取用户的输入信息,该输入信息用于指示虚拟图像以及该虚拟图像与该第一三维模型的相对位置;
显示单元340,用于根据该输入信息,对该虚拟图像和该第一三维模型进行叠加显示。
可选地,如果该三维模型数据库中未保存该第一三维模型,
则该接收单元具体用于接收该服务器发送的重建指示信息,该重建指示信息是该服务器在确定该三维模型数据库中未保存该第一三维模型后发送的;
该获取单元具体用于根据该重建指示信息,在第二时段,通过该摄像头对该当前物体进行拍摄,以获取该当前物体的第二图像,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
该装置还包括:
处理单元,用于根据该第二图像生成该第一三维模型图像;
该发送单元具体用于将该第一三维模型发送给该服务器。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,
该接收单元具体用于接收该服务器发送的该当前物体的状态数据,其中,该当前物体的状态数据是该服务器从该数据传感器获取的;
该处理单元具体用于对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
可选地,该获取单元具体用于在第三时段,通过该摄像头对当前物体进行拍摄,以获取该当前物体的第三图像;
该显示单元具体用于根据叠加显示后的该虚拟图像与该第一三维模型的相对位置,将该虚拟图像叠加显示在该第三图像上。
根据本发明实施例的图像处理的装置300可对应本发明实施例的图像处理的方法100中的增强现实设备,并且,图像处理的装置300中的各单元及模块和上述其它操作或功能分别为了实现图3中的方法100的相应流程,为了简洁,在此不再赘述。
图6示出了本发明实施例的图像处理的装置400,该装置配置在包括增强现实设备的系统中,该装置存储有三维模型数据库和映射信息,该三维模型数据库中预存有与多个物体一一对应的多个三维模型,该映射信息用于指示该多个三维模型与该多个物体的特征数据之间的映射关系,该装置包括:
接收单元,用于接收该增强现实设备发送的丢失指令,该丢失指令携带该当前物体的特征数据,该当前物体的特征数据是该增强现实设备在第一时段,通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像获取的;
确定单元,用于该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的第一三维模型;
发送单元,用于将该第一三维模型发送给该增强现实设备,以便于该增强现实设备根据用户指示的虚拟图像与该第一三维模型的相对位置,对该虚拟图像和该第一三维模型进行叠加显示。
可选地,如果该三维模型图像数据库中未保存该第一三维模型,
该装置还包括:
确定单元,用于根据该映射信息,确定该三维模型数据库中未保存该第一三维模型;
该发送单元具体用于向该增强现实设备发送重建指示信息,该重建指示信息用于指示该增强现实设备重建该第一三维模型;
该接收单元具体用于接收该增强现实设备发送的该第一三维模型,该第一三维模型是该增强现实设备根据该重建指示信息,在第二时段通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第二图像生成的,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
以及,该装置还包括:
存储单元,用于存储该第一三维模型图像。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,
该获取单元具体用于从该数据传感器获取该当前物体的状态数据;
该发送单元具体用于将该当前物体的状态数据发送给该增强现实设备,以便于该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
可选地,该装置存储有物体标识数据库,该物体标识数据库中存储有多个物体标识,该多个物体标识与该多个三维模型之间一一对应,该多个物体的特征数据与该多个物体标识之间一一对应,
该获取单元具体用于根据特征数据与物体标识之间的对应关系,确定与该当前物体的特征数据对应的第一物体标识;
该获取单元具体还用于该服务器根据物体标识与三维模型之间的对应关系,确定与该第一物体标识对应的该第一三维模型。
根据本发明实施例的图像处理的装置400可对应本发明实施例的图像处理的方法200中的服务器,并且,图像处理的装置400中的各单元及模块和上述其它操作或功能分别为了实现图4中的方法200的相应流程,为了简洁,在此不再赘述。
以上,结合图1至图4详细说明了本发明实施例的图像处理的方法,下面,结合图7和图8详细说明根据本发明实施例的图像处理的设备。
图7示出了本发明实施例的图像处理的设备500,如图7所示,该设备500包括:处理器510和收发器520,处理器510和收发器520相连,可选地,该设备500还包括存储器530,存储器530与处理器510相连,进一步可选地,该设备500包括总线系统540。其中,处理器510、收发器520和存储器530可以通过总线系统540相连,该存储器530可以用于存储指令,该处理器510用于执行该存储器530存储的指令,
用于在第一时段,通过该摄像头对当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像,获取该当前物体的特征数据;
用于控制收发器520当该摄像头停止对该当前物体的拍摄时,向该服务器发送丢失指令,该丢失指令携带该当前物体的特征数据;
用于控制收发器520接收该服务器发送的第一三维模型,该第一三维模型是该服务器根据该当前物体的特征数据和该映射信息从该三维模型数据库中确定的
用于根据该输入信息,对该虚拟图像和该第一三维模型进行叠加显示。
可选地,所述三维模型数据库中未保存该第一三维模型,该处理器510用于控制该收发器520接收该服务器发送的重建指示信息,该重建指示信息是该服务器在确定该三维模型数据库中未保存该第一三维模型后发送的;
用于根据该重建指示信息,在第二时段,通过该摄像头对该当前物体进行拍摄,以获取该当前物体的第二图像,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
用于根据所述第二图像,生成所述第一三维模型;
用于控制该收发器520将该第一三维模型发送给该服务器。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,该处理器510用于控制该收发器520接收该服务器发送的状态数据,该状态数据是该服务器从该数据传感器获取的;
用于控制该收发器520接收该服务器发送的该当前物体的状态数据,该当前物体的状态数据是该服务器从该数据传感器获取的;
用于对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
可选地,该处理器510具体用于获取用户的输入信息之后,在第三时段,通过所述摄像头对当前物体进行拍摄,以获取所述当前物体的第三图像;
用于根据叠加显示后的该虚拟图像与该第一三维模型的相对位置,将该虚拟图像叠加显示在该第三图像上。
应理解,在本发明实施例中,该处理器510可以是中央处理单元(CentralProcessing Unit,简称为“CPU”),该处理器510还可以是其它通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
该存储器530可以包括只读存储器和随机存取存储器,并向处理器510提供指令和数据。存储器530的一部分还可以包括非易失性随机存取存储器。例如,存储器530还可以存储设备类型的信息。
该总线系统540除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见,在图中将各种总线都标为总线系统540。
在实现过程中,上述方法的各步骤可以通过处理器510中的硬件的集成逻辑电路或者软件形式的指令完成。结合本发明实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器530,处理器510读取存储器530中的信息,结合其硬件完成上述方法的步骤。为避免重复,这里不再详细描述。
根据本发明实施例的图像处理的设备500可对应本发明实施例的图像处理的方法100中的增强现实设备,并且,图像处理的设备500中的各单元及模块和上述其他操作或功能分别为了实现图3中的方法100的相应流程,为了简洁,在此不再赘述。
图8示出了本发明实施例的图像处理的设备600,如图8所示,该设备600包括:处理器610和收发器620,处理器610和收发器620相连,可选地,该设备600还包括存储器630,存储器630与处理器610相连,进一步可选地,该设备600包括总线系统640。其中,处理器610、收发器620和存储器630可以通过总线系统640相连,该存储器630可以用于存储指令,该处理器610用于执行该存储器630存储的指令,用于控制所述收发器620接收该增强现实设备发送的丢失指令,该丢失指令携带该当前物体的特征数据,该当前物体的特征数据是该增强现实设备在第一时段,通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第一图像获取的;
用于根据该映射信息,从该三维模型数据库中确定与该当前物体的特征数据对应的第一三维模型;
用于控制所述收发器620将该第一三维模型发送给该增强现实设备,以便于该增强现实设备根据用户指示的虚拟图像与该第一三维模型的相对位置,对该虚拟图像和该第一三维模型进行叠加显示。
可选地,该三维模型数据库中未保存该第一三维模型图像,
该处理器610用于根据该映射信息,确定该三维模型数据库中未保存该第一三维模型;
用于控制该收发器620向该增强现实设备发送重建指示信息,该重建指示信息用于指示该增强现实设备重建该第一三维模型;
用于控制该收发器620接收该增强现实设备发送的该第一三维模型,该第一三维模型是该增强现实设备根据该重建指示信息,在第二时段通过该摄像头对该当前物体进行拍摄,并基于所拍摄到的该当前物体的第二图像生成的,其中,该第二图像包括多个图像,该多个图像的拍摄角度相异;
用于保存该第一三维模型图像。
可选地,该处理器610用于控制所述收发器620接收所述增强现实设备发送所述增强现实设备当前生成的所述当前物体的三维模型图像;
用于保存该当前物体的三维模型图像。
可选地,该系统还包括数据传感器,该数据传感器预先配置在该当前物体上,该处理器610用于执行该存储器630存储的指令,从该数据传感器获取状态数据;
用于控制该收发器620将该状态数据发送给该增强现实设备,以便于该增强现实设备对该当前物体的状态数据、该虚拟图像和该第一三维模型进行叠加显示。
可选地,该服务器上存储有物体标识数据库,该物体标识数据库中存储有多个物体标识,该多个物体标识与该多个三维模型之间一一对应,该多个物体的特征数据与该多个物体标识之间一一对应,
该处理器610用于根据特征数据与物体标识之间的对应关系,确定与该当前物体的特征数据对应的第一物体标识;
用于根据物体标识与三维模型之间的对应关系,确定与该第一物体标识对应的该第一三维模型。
应理解,在本发明实施例中,该处理器610可以是中央处理单元(CentralProcessing Unit,简称为“CPU”),该处理器610还可以是其它通用处理器、数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
该存储器630可以包括只读存储器和随机存取存储器,并向处理器610提供指令和数据。存储器630的一部分还可以包括非易失性随机存取存储器。例如,存储器630还可以存储设备类型的信息。
该总线系统640除包括数据总线之外,还可以包括电源总线、控制总线和状态信号总线等。但是为了清楚说明起见,在图中将各种总线都标为总线系统640。
在实现过程中,上述方法的各步骤可以通过处理器610中的硬件的集成逻辑电路或者软件形式的指令完成。结合本发明实施例所公开的方法的步骤可以直接体现为硬件处理器执行完成,或者用处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器630,处理器610读取存储器630中的信息,结合其硬件完成上述方法的步骤。为避免重复,这里不再详细描述。
根据本发明实施例的图像处理的设备600可对应本发明实施例的图像处理的方法200中的服务器,并且,图像处理的设备600中的各单元及模块和上述其他操作或功能分别为了实现图4中的方法200的相应流程,为了简洁,在此不再赘述。
应理解,在本发明的各种实施例中,上述各过程的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,上述描述的系统、装置和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在本申请所提供的几个实施例中,应该理解到,所揭露的系统、装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元可以结合或者可以集成到另一个系统,或一些特征可以忽略。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。

Claims (16)

1.一种图像处理的方法,其特征在于,应用于包括增强现实设备和服务器的系统中,所述增强现实设备包括摄像头,所述服务器中存储有三维模型数据库和映射信息,所述三维模型数据库中预存有与多个物体一一对应的多个三维模型,所述映射信息用于指示所述多个三维模型与所述多个物体的特征数据之间的映射关系,所述方法包括:
所述增强现实设备在第一时段,通过所述摄像头对当前物体进行拍摄,并基于所拍摄到的所述当前物体的第一图像,获取所述当前物体的特征数据;
当所述摄像头停止对所述当前物体的拍摄时,所述增强现实设备向所述服务器发送丢失指令,所述丢失指令携带所述当前物体的特征数据;
所述增强现实设备接收所述服务器发送的与所述当前物体的特征数据对应的第一三维模型,所述第一三维模型是所述服务器根据所述当前物体的特征数据和所述映射信息从所述三维模型数据库中确定的;
所述增强现实设备获取用户的输入信息,所述输入信息用于指示虚拟图像以及所述虚拟图像与所述第一三维模型的相对位置;
所述增强现实设备根据所述输入信息,对所述虚拟图像和所述第一三维模型进行叠加显示。
2.根据权利要求1所述的方法,其特征在于,如果所述三维模型图像数据库中未保存所述第一三维模型图像,
则所述方法还包括:
所述增强现实设备接收所述服务器发送的重建指示信息,所述重建指示信息是所述服务器在确定所述三维模型数据库中未保存所述第一三维模型后发送的;
所述增强现实设备根据所述重建指示信息,在第二时段,通过所述摄像头对所述当前物体进行拍摄,以获取所述当前物体的第二图像,其中,所述第二图像包括多个图像,所述多个图像的拍摄角度相异;
所述增强现实设备根据所述第二图像,生成所述第一三维模型;
所述增强现实设备将所述第一三维模型发送给所述服务器。
3.根据权利要求1或2所述的方法,其特征在于,所述系统还包括数据传感器,所述数据传感器预先配置在所述当前物体上,
所述方法还包括:
所述增强现实设备接收所述服务器发送的所述当前物体的状态数据,所述当前物体的状态数据是所述服务器从所述数据传感器获取的;
所述增强现实设备对所述虚拟图像和所述第一三维模型进行叠加显示,包括:
所述增强现实设备对所述当前物体的状态数据、所述虚拟图像和所述第一三维模型进行叠加显示。
4.根据权利要求1或2所述的方法,其特征在于,所述增强现实设备获取用户的输入信息之后,所述方法还包括:
所述增强现实设备在第三时段,通过所述摄像头对当前物体进行拍摄,以获取所述当前物体的第三图像;
所述增强现实设备根据叠加显示后的所述虚拟图像与所述第一三维模型的相对位置,将所述虚拟图像叠加显示在所述第三图像上。
5.一种处理图像的方法,其特征在于,应用于包括增强现实设备和服务器的系统中,所述增强现实设备包括摄像头,所述服务器中存储有三维模型数据库和映射信息,所述三维模型数据库中预存有与多个物体一一对应的多个三维模型,所述映射信息用于指示所述多个三维模型与所述多个物体的特征数据之间的映射关系,所述方法包括:
所述服务器接收所述增强现实设备发送的丢失指令,所述丢失指令携带当前物体的特征数据,所述当前物体的特征数据是所述增强现实设备在第一时段,通过所述摄像头对所述当前物体进行拍摄,并基于所拍摄到的所述当前物体的第一图像获取的;
所述服务器根据所述映射信息,从所述三维模型数据库中确定与所述当前物体的特征数据对应的第一三维模型;
所述服务器将所述第一三维模型发送给所述增强现实设备,以便于所述增强现实设备根据用户指示的虚拟图像与所述第一三维模型的相对位置,对所述虚拟图像和所述第一三维模型进行叠加显示。
6.根据权利要求5所述的方法,其特征在于,如果所述三维模型图像数据库中未保存所述第一三维模型,
则所述方法还包括:
所述服务器根据所述映射信息,确定所述三维模型数据库中未保存所述第一三维模型;
所述服务器向所述增强现实设备发送重建指示信息,所述重建指示信息用于指示所述增强现实设备重建所述第一三维模型;
所述服务器接收所述增强现实设备发送的所述第一三维模型,所述第一三维模型是所述增强现实设备根据所述重建指示信息,在第二时段通过所述摄像头对所述当前物体进行拍摄,并基于所拍摄到的所述当前物体的第二图像生成的,其中,所述第二图像包括多个图像,所述多个图像的拍摄角度相异;
所述服务器保存所述第一三维模型图像。
7.根据权利要求5或6所述的方法,其特征在于,所述系统还包括数据传感器,所述数据传感器预先配置在所述当前物体上,
所述方法还包括:
所述服务器从所述数据传感器获取所述当前物体的状态数据;
所述服务器将所述当前物体的状态数据发送给所述增强现实设备,以便于所述增强现实设备对所述当前物体的状态数据、所述虚拟图像和所述第一三维模型进行叠加显示。
8.根据权利要求5或6所述的方法,其特征在于,所述服务器上存储有物体标识数据库,所述物体标识数据库中存储有多个物体标识,所述多个物体标识与所述多个三维模型之间一一对应,所述多个物体的特征数据与所述多个物体标识之间一一对应,
所述服务器根据所述映射信息,从所述三维模型数据库中确定与所述当前物体的特征数据对应的所述第一三维模型图像,包括:
所述服务器根据特征数据与物体标识之间的对应关系,确定与所述当前物体的特征数据对应的第一物体标识;
所述服务器根据物体标识与三维模型之间的对应关系,确定与所述第一物体标识对应的所述第一三维模型。
9.一种图像处理的装置,其特征在于,配置在包括服务器的系统中,所述装置包括摄像头,所述服务器中存储有三维模型数据库和映射信息,所述三维模型数据库中预存有与多个物体一一对应的多个三维模型,所述映射信息用于指示所述多个三维模型与所述多个物体的特征数据之间的映射关系,所述装置包括:
获取单元,用于在第一时段,通过所述摄像头对当前物体进行拍摄,并基于所拍摄到的所述当前物体的第一图像,获取所述当前物体的特征数据;
发送单元,用于当所述摄像头停止对所述当前物体的拍摄时,向所述服务器发送丢失指令,所述丢失指令携带所述当前物体的特征数据;
接收单元,用于接收所述服务器发送的第一三维模型,所述第一三维模型是所述服务器根据所述当前物体的特征数据和所述映射信息从所述三维模型数据库中确定的;
所述获取单元还用于获取用户的输入信息,所述输入信息用于指示虚拟图像以及所述虚拟图像与所述第一三维模型的相对位置;
显示单元,用于根据所述输入信息,对所述虚拟图像和所述第一三维模型进行叠加显示。
10.根据权利要求9所述的装置,其特征在于,如果所述三维模型数据库中未保存所述第一三维模型,
则所述接收单元具体用于接收所述服务器发送的重建指示信息,所述重建指示信息是所述服务器在确定所述三维模型数据库中未保存所述第一三维模型后发送的;
所述获取单元具体用于根据所述重建指示信息,在第二时段,通过所述摄像头对所述当前物体进行拍摄,以获取所述当前物体的第二图像,其中,所述第二图像包括多个图像,所述多个图像的拍摄角度相异;
所述装置还包括:
处理单元,用于根据所述第二图像生成所述第一三维模型图像;
所述发送单元具体用于将所述第一三维模型发送给所述服务器。
11.根据权利要求9或10所述的装置,其特征在于,所述系统还包括数据传感器,所述数据传感器预先配置在所述当前物体上,
所述接收单元具体用于接收所述服务器发送的所述当前物体的状态数据,其中,所述当前物体的状态数据是所述服务器从所述数据传感器获取的;
处理单元具体用于对所述当前物体的状态数据、所述虚拟图像和所述第一三维模型进行叠加显示。
12.根据权利要求9或10所述的装置,其特征在于,所述获取单元具体用于在第三时段,通过所述摄像头对当前物体进行拍摄,以获取所述当前物体的第三图像;
所述显示单元具体用于根据叠加显示后的所述虚拟图像与所述第一三维模型的相对位置,将所述虚拟图像叠加显示在所述第三图像上。
13.一种图像处理的装置,其特征在于,配置在包括增强现实设备的系统中,所述装置存储有三维模型图像数据库和映射信息,所述三维模型数据库中预存有与多个物体一一对应的多个三维模型,所述映射信息用于指示所述多个三维模型与所述多个物体的特征数据之间的映射关系,所述装置包括:
接收单元,用于接收所述增强现实设备发送的丢失指令,所述丢失指令携带当前物体的特征数据,所述当前物体的特征数据是所述增强现实设备在第一时段,通过摄像头对所述当前物体进行拍摄,并基于所拍摄到的所述当前物体的第一图像获取的;
确定单元,用于所述映射信息,从所述三维模型数据库中确定与所述当前物体的特征数据对应的第一三维模型;
发送单元,用于将所述第一三维模型发送给所述增强现实设备,以便于所述增强现实设备根据用户指示的虚拟图像与所述第一三维模型的相对位置,对所述虚拟图像和所述第一三维模型进行叠加显示。
14.根据权利要求13所述的装置,其特征在于,如果所述三维模型图像数据库中未保存所述第一三维模型,
所述装置还包括:
确定单元,用于根据所述映射信息,确定所述三维模型数据库中未保存所述第一三维模型;
所述发送单元具体用于向所述增强现实设备发送重建指示信息,所述重建指示信息用于指示所述增强现实设备重建所述第一三维模型;
所述接收单元具体用于接收所述增强现实设备发送的所述第一三维模型,所述第一三维模型是所述增强现实设备根据所述重建指示信息,在第二时段通过所述摄像头对所述当前物体进行拍摄,并基于所拍摄到的所述当前物体的第二图像生成的,其中,所述第二图像包括多个图像,所述多个图像的拍摄角度相异;
以及,所述装置还包括:
存储单元,用于存储所述第一三维模型图像。
15.根据权利要求13或14所述的装置,其特征在于,所述系统还包括数据传感器,所述数据传感器预先配置在所述当前物体上,
获取单元具体用于从所述数据传感器获取所述当前物体的状态数据;
所述发送单元具体用于将所述当前物体的状态数据发送给所述增强现实设备,以便于所述增强现实设备对所述当前物体的状态数据、所述虚拟图像和所述第一三维模型进行叠加显示。
16.根据权利要求13或14所述的装置,所述装置存储有物体标识数据库,所述物体标识数据库中存储有多个物体标识,所述多个物体标识与所述多个三维模型之间一一对应,所述多个物体的特征数据与所述多个物体标识之间一一对应,
获取单元具体用于根据特征数据与物体标识之间的对应关系,确定与所述当前物体的特征数据对应的第一物体标识;
所述获取单元具体还用于服务器根据物体标识与三维模型之间的对应关系,确定与所述第一物体标识对应的所述第一三维模型。
CN201610017079.8A 2016-01-11 2016-01-11 图像处理的方法和装置 Active CN105701863B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610017079.8A CN105701863B (zh) 2016-01-11 2016-01-11 图像处理的方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610017079.8A CN105701863B (zh) 2016-01-11 2016-01-11 图像处理的方法和装置

Publications (2)

Publication Number Publication Date
CN105701863A CN105701863A (zh) 2016-06-22
CN105701863B true CN105701863B (zh) 2018-08-21

Family

ID=56226057

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610017079.8A Active CN105701863B (zh) 2016-01-11 2016-01-11 图像处理的方法和装置

Country Status (1)

Country Link
CN (1) CN105701863B (zh)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105955490A (zh) * 2016-06-28 2016-09-21 广东欧珀移动通信有限公司 一种基于增强现实的信息处理方法、装置和移动终端
CN107547604B (zh) * 2016-06-28 2020-04-10 中国石油天然气股份有限公司 物品展示方法及系统
CN106204743B (zh) * 2016-06-28 2020-07-31 Oppo广东移动通信有限公司 一种增强现实功能的控制方法、装置及移动终端
CN107767355A (zh) * 2016-08-18 2018-03-06 深圳市劲嘉数媒科技有限公司 图像增强现实的方法和装置
CN107393017A (zh) * 2017-08-11 2017-11-24 北京铂石空间科技有限公司 图像处理方法、装置、电子设备及存储介质
CN107749083A (zh) * 2017-09-28 2018-03-02 联想(北京)有限公司 图像展示的方法和装置
CN107784885A (zh) * 2017-10-26 2018-03-09 歌尔科技有限公司 基于ar设备的操作培训方法及ar设备
CN108228027A (zh) * 2017-12-29 2018-06-29 努比亚技术有限公司 一种信息处理的方法、设备及计算机可读存储介质
CN108597035A (zh) * 2018-05-02 2018-09-28 福建中锐海沃科技有限公司 一种基于增强现实的三维物件显示方法、存储介质及计算机
CN109102573B (zh) * 2018-08-06 2023-05-02 百度在线网络技术(北京)有限公司 图像处理方法、装置和存储介质
CN109272576B (zh) * 2018-09-30 2023-03-24 Oppo广东移动通信有限公司 一种数据处理方法、mec服务器、终端设备及装置
JP2020101845A (ja) * 2018-12-19 2020-07-02 キヤノン株式会社 画像処理装置、画像処理システム、画像処理方法、およびプログラム
CN109934933B (zh) * 2019-02-19 2023-03-03 厦门一品威客网络科技股份有限公司 基于虚拟现实的仿真方法及基于虚拟现实的图像仿真系统
JP7079287B2 (ja) 2019-11-07 2022-06-01 株式会社スクウェア・エニックス 鑑賞システム、モデル構成装置、制御方法、プログラム及び記録媒体
CN112070901A (zh) * 2020-07-21 2020-12-11 马小淞 一种园林的ar场景构建方法、装置、存储介质及终端
CN113934297A (zh) * 2021-10-13 2022-01-14 西交利物浦大学 一种基于增强现实的交互方法、装置、电子设备及介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102566049A (zh) * 2010-11-08 2012-07-11 微软公司 用于扩展现实显示的自动可变虚拟焦点
CN102821323A (zh) * 2012-08-01 2012-12-12 成都理想境界科技有限公司 基于增强现实技术的视频播放方法、系统及移动终端
CN104134229A (zh) * 2014-08-08 2014-11-05 李成 实时交互的增强现实系统以及方法
CN105096246A (zh) * 2014-05-08 2015-11-25 腾讯科技(深圳)有限公司 图像合成方法和系统

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012063542A1 (ja) * 2010-11-09 2012-05-18 富士フイルム株式会社 拡張現実感提供装置
WO2013180320A1 (ko) * 2012-05-31 2013-12-05 인텔 코오퍼레이션 증강 현실 서비스 제공 방법, 서버 및 컴퓨터 판독 가능한 기록매체

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102566049A (zh) * 2010-11-08 2012-07-11 微软公司 用于扩展现实显示的自动可变虚拟焦点
CN102821323A (zh) * 2012-08-01 2012-12-12 成都理想境界科技有限公司 基于增强现实技术的视频播放方法、系统及移动终端
CN105096246A (zh) * 2014-05-08 2015-11-25 腾讯科技(深圳)有限公司 图像合成方法和系统
CN104134229A (zh) * 2014-08-08 2014-11-05 李成 实时交互的增强现实系统以及方法

Also Published As

Publication number Publication date
CN105701863A (zh) 2016-06-22

Similar Documents

Publication Publication Date Title
CN105701863B (zh) 图像处理的方法和装置
US9734628B2 (en) Techniques for processing reconstructed three-dimensional image data
US10902663B2 (en) Method and apparatus for displaying 2D application interface in virtual reality device
KR100940862B1 (ko) 3차원 얼굴 애니메이션을 위한 헤드 모션 추적 방법
CN106200960A (zh) 电子互动产品的内容显示方法及装置
CN109448050B (zh) 一种目标点的位置的确定方法及终端
JP2014021570A (ja) 動画像生成装置
CN109840946A (zh) 虚拟对象显示方法及装置
CN112348968B (zh) 增强现实场景下的展示方法、装置、电子设备及存储介质
CN106683193A (zh) 一种三维模型的设计方法和设计装置
CN111880652A (zh) 用于移动ar对象位置的方法、装置及存储介质
CN109696953A (zh) 虚拟现实文字显示的方法、装置和虚拟现实设备
CN106096043A (zh) 一种拍照方法和移动终端
WO2017113729A1 (zh) 360度图像加载方法、加载模块及移动终端
CN108170282A (zh) 用于控制三维场景的方法和装置
EP2107529A2 (en) Storage medium storing image conversion programm and image conversion apparatus
CN109324748B (zh) 一种设备控制的方法、电子设备及存储介质
CN112511815A (zh) 图像或视频生成方法及装置
CN116206038A (zh) 一种渲染方法、装置、电子设备及存储介质
TW201935188A (zh) 即時渲染影像的追蹤系統、追蹤方法以及非暫態電腦可讀取媒體
WO2018151612A1 (en) Texture mapping system and method
CN108830928A (zh) 三维模型的映射方法、装置、终端设备和可读存储介质
CN109741465A (zh) 图像处理方法及装置、显示装置
CN115861500B (zh) 2d模型碰撞体生成方法及装置
US20230245364A1 (en) Method for Processing Video, Electronic Device, and Storage Medium

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant