CN109714583A - 增强现实的显示方法及增强现实的显示系统 - Google Patents
增强现实的显示方法及增强现实的显示系统 Download PDFInfo
- Publication number
- CN109714583A CN109714583A CN201910058904.2A CN201910058904A CN109714583A CN 109714583 A CN109714583 A CN 109714583A CN 201910058904 A CN201910058904 A CN 201910058904A CN 109714583 A CN109714583 A CN 109714583A
- Authority
- CN
- China
- Prior art keywords
- target
- display
- subgraph
- augmented reality
- display area
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/02—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the way in which colour is displayed
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/38—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory with means for controlling the display position
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2320/00—Control of display operating conditions
- G09G2320/06—Adjustment of display parameters
- G09G2320/0686—Adjustment of display parameters with two or more screen areas displaying information with different brightness or colours
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0464—Positioning
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Processing Or Creating Images (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
本发明提供一种增强现实的显示方法及增强现实的显示系统,涉及增强现实领域,可降低数据传输带宽和显示功耗,进而提高AR系统的显示质量。该增强现实的显示方法包括:根据用户视野范围内关注的目标物体,生成预设图像;其中,所述预设图像包括:背景和目标子图像,所述目标子图像的内容与所述目标物体相关联;向显示单元输出所述目标子图像的图像信息和位置信息;根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像;其中,所述目标子区域在所述显示区域内的位置,对应于所述目标子图像在所述预设图像中的位置。用于增强现实的显示系统的显示。
Description
技术领域
本发明涉及增强现实领域,尤其涉及一种增强现实的显示方法及增强现实的显示系统。
背景技术
AR(Augmented Reality,即增强现实)技术是一种通过摄像获取真实环境信息,然后将虚拟投射物体(如图像、场景或系统提示信息等)叠加到获取到的真实环境信息中,再展示给用户,从而实现用户在感官上同时看到虚拟物体存在于现实环境的视觉效果,即实现对现实场景的“增强”。
示例的,上述增强现实的过程为:摄像头获取现实场景的图像,处理器根据该图像生成用于投影的整幅图像,并将该整幅图像传输至微显示屏上,再经过光学系统的处理,投影到用户的视野范围内,从而与现实场景相叠加。
然而,由于处理器传输的整幅图像中,通常仅有部分区域是与现实场景中的目标物体相关联的区域(以下简称为附加图像),附加图像之外的其余区域均为背景,在传输及显示时需要传输并显示整幅图像,导致数据的处理量和传输量较大,从而增加数据传输带宽和显示功耗,进而影响AR系统的显示质量。
发明内容
鉴于此,为解决现有技术的问题,本发明的实施例提供一种增强现实的显示方法及增强现实的显示系统,可降低数据传输带宽和显示功耗,进而提高AR系统的显示质量。
为达到上述目的,本发明的实施例采用如下技术方案:
本发明实施例一方面提供一种增强现实的显示方法,所述显示方法包括:根据用户视野范围内关注的目标物体,生成预设图像;其中,所述预设图像包括:背景和目标子图像,所述目标子图像的内容与所述目标物体相关联;向显示单元输出所述目标子图像的图像信息和位置信息;根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像;其中,所述目标子区域在所述显示区域内的位置,对应于所述目标子图像在所述预设图像中的位置。
在本发明一些实施例中,所述根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,包括:根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,在所述显示区域内的其余区域不显示图像;或者,根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域内的其余区域内,以第二刷新频率显示预设的纯色画面;所述第二刷新频率小于所述第一刷新频率。
在本发明一些实施例中,所述显示方法还包括:将所述目标子区域内显示的所述目标子图像,投影到用户的视野范围内,生成虚拟目标子图像;或者,将所述显示区域内显示的所述目标子图像和所述纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述纯色画面的透明背景或部分透明背景。
在本发明一些实施例中,所述纯色画面为黑色画面,投影到用户的视野范围内对应于所述黑色画面的为透明背景。
在本发明一些实施例中,投影的所述虚拟目标子图像与所述目标物体无重叠。
在本发明一些实施例中,所述根据用户视野范围内关注的目标物体,生成预设图像,包括:确定用户视野范围内关注的目标物体;获取所述目标物体的现实图像;将所述现实图像与预先存储的特征图像进行比对,以识别出所述目标物体;根据所述特征图像,生成预设图像。
在本发明一些实施例中,所述确定用户视野范围内关注的目标物体,包括:通过追踪用户的眼球移动轨迹,确定用户关注的目标物体。
在本发明一些实施例中,所述第一刷新频率大于或等于60Hz,所述第二刷新频率等于1Hz。
本发明实施例另一方面提供一种增强现实的显示系统,所述显示系统包括:处理器和显示单元;其中,所述处理器包括:预处理单元和输出单元;所述预处理单元,用于根据用户视野范围内关注的目标物体,生成预设图像;其中,所述预设图像包括:背景和目标子图像,所述目标子图像的内容与所述目标物体相关联;所述输出单元,用于向所述显示单元输出所述目标子图像的图像信息和位置信息;所述显示单元,用于根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域中的目标子区域内显示所述目标子图像;其中,所述目标子区域在所述显示区域内的位置,对应于所述目标子图像在所述预设图像中的位置。
在本发明一些实施例中,所述显示单元具体用于,根据接受到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,在所述显示区域的其余区域不显示图像;或者,根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域的其余区域内,以第二刷新频率显示预设的纯色画面;所述第二刷新频率小于所述第一刷新频率。
在本发明一些实施例中,所述显示系统还包括光学系统;所述光学系统用于,将所述目标子区域内显示的所述目标子图像,投影到用户的视野范围内,生成虚拟目标子图像;或者,将所述显示单元的所述显示区域内显示的所述目标子图像和所述纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述纯色画面的透明背景或部分透明背景。
在本发明一些实施例中,所述显示单元具体用于,根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域的其余区域内,以第二刷新频率显示预设的黑色画面;所述第二刷新频率小于所述第一刷新频率;所述光学系统具体用于,将所述显示单元的所述显示区域内显示的所述目标子图像和所述黑色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述黑色画面的透明背景。
在本发明一些实施例中,所述显示系统还包括:确定单元,用于确定用户视野范围内关注的目标物体;拍摄单元,用于获取所述目标物体的现实图像;所述处理器还包括比对单元,所述比对单元用于将所述现实图像与预先存储的特征图像进行比对,以识别出所述目标物体;所述预处理单元具体用于,根据所述特征图像,生成预设图像。
在本发明一些实施例中,所述确定单元包括:眼球追踪器。
在本发明一些实施例中,所述显示系统为增强现实眼镜。
基于此,通过本发明实施例提供的上述增强现实的显示方法,处理器仅对生成的预设图像中与用户感兴趣的目标物体相关联的目标子图像的图像信息和位置信息进行处理,进而仅将处理后的目标子图像的图像信息和位置信息传输给显示单元,以对感兴趣的内容进行智能显示,大幅减少了数据处理量和数据传输量,从而显著降低了传输带宽和显示功耗。
并且,由于采用上述的增强现实的显示方法,可降低处理器的传输带宽及整个增强现实的系统的显示功耗,使得上述增强现实的显示方法更适用于特高分辨率和/或大视角的高端显示需求。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种增强现实的显示方法流程示意图;
图2为本发明实施例提供的再一种增强现实的显示方法流程示意图;
图3为本发明实施例提供的另一种增强现实的显示方法流程示意图;
图4为本发明实施例提供的一种增强现实的显示系统的配置示意图;
图5为本发明实施例提供的再一种增强现实的显示系统的配置示意图;
图6为本发明实施例提供的另一种增强现实的显示系统的配置示意图;
图7为本发明实施例提供的一种增强现实的显示方法的示例显示过程示意图。
附图标记:
01-增强现实的显示系统;02-用户;
10-处理器;11-预处理单元;12-输出单元;13-比对单元;
20-显示单元;20a-显示区域;
30-确定单元;40-拍摄单元;50-光学系统;60-镜框;
P1-目标子图像;P1’-虚拟目标子图像;S1-目标子区域。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
以下,术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本申请实施例的描述中,除非另有说明,“多个”的含义是两个或两个以上。
需要指出的是,除非另有定义,本发明实施例中所使用的所有术语(包括技术和科学术语)具有与本发明所属领域的普通技术人员共同理解的相同含义。还应当理解,诸如在通常字典里定义的那些术语应当被解释为具有与它们在相关技术的上下文中的含义相一致的含义,而不应用理想化或极度形式化的意义来解释,除非这里明确地这样定义。
例如,本发明说明书以及权利要求书中所使用的术语“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。
在相关技术中,常规AR显示时,用于投影到用户视野范围内的整幅图像中,背景部分需要处理成纯色(例如为黑色),再叠加附加图像,以提供与现实场景中的目标物体相关联的感兴趣内容,从而形成整幅图像;整幅图像经处理器(即Adjunct Processor,简称为AP)全部传输给微显示屏进行显示,再通过AR光学系统(包括例如反射光学元件及成像透镜等光学元件)将微显示屏显示的整幅图像投影到用户眼前。其中,投影的整幅图像中的背景为透明状态(当背景为黑色时)或部分透明状态(当背景为其他纯色时),以便人眼观察到现实世界的内容,投影的整幅图像中的感兴趣区域的内容是正常投影到人眼的视野范围内的,即在人眼的视野范围内进行正常显示。
由于与现实场景中的目标物体相关联的感兴趣区域仅为整幅图像的一小部分区域,即仅占整个微显示屏的显示区域的一小部分区域,但处理器(AP)仍然会向微显示屏输出整幅图像,即以微显示屏的整个显示区域的分辨率进行处理,从而增加数据传输带宽和显示功耗。
尤其是,当微显示屏的显示区域具有较高的分辨率(例如为8K,即具有7680×4320像素)及较大的视场角时,处理器需要处理的数据中背景部分会占用较大比例,造成数据传输上的大量冗余,从而影响显示效果。
基于此,本发明实施例一方面提供一种增强现实的显示方法,如图1所示,该显示方法包括如下步骤S01-步骤S03:
S01:根据用户视野范围内关注的目标物体,生成预设图像;其中,预设图像包括:背景和目标子图像,目标子图像的内容与目标物体相关联;
S02:向显示单元输出目标子图像的图像信息和位置信息;
S03:根据图像信息和位置信息,在显示单元的显示区域内的目标子区域内显示目标子图像;其中,目标子区域在显示区域内的位置,对应于目标子图像在预设图像中的位置。
在上述步骤S01中,预设图像中的目标子图像的内容与目标物体相关联,目标子图像的内容可以是对目标物体进行说明的解释信息、或与目标物体有关的附加信息或衍生信息。
例如,当用户视野范围内关注的目标物体为埃菲尔铁塔时,目标子图像的内容可以为“埃菲尔铁塔”这五个汉字,以对目标物体(即埃菲尔铁塔)进行解释、说明。
示例的,上述目标子图像的内容还可以为埃菲尔铁塔的高度、设计者的信息、建成时间等附加信息。
又示例的,上述目标子图像的内容还可以为法国国旗,即从目标物体衍生出的该国的国旗的信息。
此外,预设图像中除上述目标子图像之外的背景,可以为纯色画面,例如处理为黑色或其他纯色画面。
在上述步骤S02中,向显示单元输出目标子图像的图像信息,例如包括RGB数据信号;向显示单元输出目标子图像的位置信息,例如为该目标子图像在预设图像中的起始坐标。
在后续步骤S03中,显示单元可以根据接收到的图像信息和位置信息,在显示区域内的对应的目标子区域内显示与目标物体相关联的目标子图像;由于处理器仅向显示单元输出目标子图像的图像信息和位置信息,因此,可以大幅减少处理器的数据处理量、以及向显示单元输出的数据量,显著降低传输带宽和显示功耗。
基于此,通过本发明实施例提供的上述增强现实的显示方法(以下简称为AR显示方法),AP(即处理器)仅对生成的预设图像中与用户感兴趣的目标物体相关联的目标子图像的图像信息和位置信息进行处理,进而仅将处理后的目标子图像的图像信息和位置信息传输给显示单元,以对感兴趣的内容进行智能显示,大幅减少了数据处理量和数据传输量,从而显著降低了传输带宽和显示功耗。
并且,由于采用上述AR显示方法,可降低AP的传输带宽及整个AR系统的显示功耗,使得上述AR显示方法更适用于特高分辨率(即Pixels Per Inch,简称为PPI)和/或大视角(即Field of View,简称为FOV)的高端显示需求。
下面对本发明实施例提供的上述AR显示方法进行具体说明。
上述生成预设图像的步骤S01,示例地可以包括如下子步骤S11-步骤S14:
S11:确定用户视野范围内关注的目标物体;
例如,通过追踪用户的眼球移动轨迹,确定用户关注的目标物体。
S12:获取目标物体的现实图像;
S13:将现实图像与预先存储的特征图像进行比对,以识别出目标物体;
S14:根据特征图像,生成预设图像。
例如,通过预先建立的查找图库,调取与该特征图像相关联的预设图像。
进一步的,如图2所示,上述步骤S03可以通过以下两种示例的方式进行:
方式一、步骤S03包括:
S03a:根据图像信息和位置信息,在显示单元的显示区域内的目标子区域内显示目标子图像,在显示区域内的其余区域不显示图像;其中,目标子区域在显示区域内的位置,对应于目标子图像在预设图像中的位置;
即,当目标子区域内显示上述目标子图像时,显示单元的显示区域内的其余区域为关闭(即不显示)状态,从而可以显著降低显示功耗。
方式二、步骤S03包括:
S03b:根据图像信息和位置信息,在显示单元的显示区域内的目标子区域内,以第一刷新频率显示目标子图像,在显示区域内的其余区域内,以第二刷新频率显示预设的纯色画面;其中,目标子区域在显示区域内的位置,对应于目标子图像在预设图像中的位置;第二刷新频率小于第一刷新频率。
即,当目标子区域内显示上述目标子图像时,由于目标子图像是与用户所关注的感兴趣的目标物体相关联,因此,可以采用较高的第一刷新频率f1(例如,f1≥60Hz)进行刷新显示,以便随时更新;而显示单元的显示区域内的其余区域,可以由显示单元中的驱动集成电路(即Driver Integrated Circuit,简称为Driver IC)控制,固定显示预设的纯色画面,该纯色画面即作为目标子图像显示时的背景,由于不需要随时更新,可以采用较低的第二刷新频率f2(例如,f2=1Hz)刷新该区域,从而在一定程度上降低显示功耗。
进一步的,上述AR显示方法还包括:至少将上述显示单元显示的目标子图像投影到用户的视野范围内的步骤,从而实现用户在感官上同时看到虚拟物体存在于现实环境的视觉效果,即实现对现实场景的“增强”。
在上述基础上,根据上述显示单元具体显示方式的不同,将显示单元所显示的画面投影到用户的视野范围内的方式,可采用如图3所示的步骤S04a或步骤S04b的方式进行:
方式一,S04a:将目标子区域内显示的目标子图像,投影到用户的视野范围内,生成虚拟目标子图像;
方式二,S04b:将显示区域内显示的目标子图像和纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于纯色画面的透明背景或部分透明背景。
这里,当纯色画面为黑色画面时,显示区域内显示的作为目标子图像背景的黑色画面经过AR光学系统处理后,投影到用户的视野范围内时为透明背景,以便人眼能够更好地观察视野范围内的现实世界。当然,当纯色画面为其他纯色画面时,显示区域内显示的作为目标子图像背景的黑色画面经过AR光学系统处理后,投影到用户的视野范围内时为部分透明(即不是完全透明的)背景,人眼也能够继续观察视野范围内的现实世界。
需要说明的是,将显示单元所显示的画面投影到用户的视野范围内的方式可采用相关技术,例如,以光波导、棱镜的光传导方式将显示单元所显示的画面(即光线)投影到用户的视野范围内,本发明实施例对此不作限定。
进一步的,对于采用上述方式一或方式二的投影方式,均可以在前述的生成预设图像的步骤时,对预设图像进行处理,以使预设图像中的目标子图像经投影后形成的虚拟目标子图像与目标物体无重叠。示例的,处理的方式包括但不限于以下方式:
当默认设定用户视野范围内关注的目标物体位于用户视野范围的中心区域时,可以设定生成的预设图像中,目标子图像位于预设图像的边缘区域,例如位于左上角、右上角、左下角以及右下角中的至少一处。
这样,由于显示单元的显示区域内用于显示目标子图像的目标子区域在显示区域内的位置,即对应于目标子图像在预设图像中的位置,因此,显示单元的显示区域内用于显示目标子图像的目标子区域相应地也是在整个显示区域的左上角、右上角、左下角以及右下角中的至少一处,从而使得目标子图像经投影后形成的虚拟目标子图像相应地也位于整个投影范围内的左上角、右上角、左下角以及右下角中的至少一处,从而使得投影的虚拟目标子图像不会覆盖在目标物体上。
或者,AP可以根据用户视野范围内关注的目标物体的大致形态及其在用户视野范围内的大致位置,自动调整生成的预设图像中目标子图像位于预设图像的区域。例如,当目标物体为埃菲尔铁塔,且该目标物体大致位于用户视野范围内的中心位置时,由于埃菲尔铁塔的大致形态为竖直状,因此,可以设定生成的预设图像中,目标子图像位于预设图像的中心偏左侧或中心偏右侧,以使得目标子图像经投影后形成的虚拟目标子图像相应地也位于整个投影范围内的中心偏左侧或中心偏右侧,从而不会覆盖在目标物体上。
再例如,当目标物体为天空中的飞机时,由于飞机位于用户视野范围内的偏上方的区域内,因此,可以设定生成的预设图像中,目标子图像位于预设图像的中心或中心偏下方,以使得目标子图像经投影后形成的虚拟目标子图像相应地也位于整个投影范围内的中心或中心偏下方,从而使得投影的虚拟目标子图像不会覆盖在目标物体上。
在上述基础上,本发明实施例另一方面还提供了一种用于进行上述AR显示方法的增强现实的显示系统(以下简称为AR显示系统),如图4所示,该AR显示系统01包括:处理器10和显示单元20;其中,该处理器10包括:预处理单元11和输出单元12。显示单元20OLED显示屏(即Organic Light-Emitting Diode,有机电致发光显示屏)。
请继续参阅图4,预处理单元11,用于根据用户视野范围内关注的目标物体,生成预设图像。其中,预处理单元11例如可以为图像处理芯片中的相应处理部件,生成的预设图像包括:背景和目标子图像,目标子图像的内容与目标物体相关联。
输出单元12,用于向显示单元20输出目标子图像的图像信息和位置信息;其中,输出单元12例如可以为传输接口(例如HDMI,High Definition Multimedia Interface,即高清晰度多媒体接口)。
相应的,显示单元20,用于根据接收到的图像信息和位置信息,在显示单元20的显示区域中的目标子区域内显示目标子图像;其中,目标子区域在显示区域内的位置,对应于目标子图像在预设图像中的位置。
进一步的,如图5所示,上述AR显示系统01还包括:确定单元30和拍摄单元40;其中,确定单元30用于确定用户视野范围内关注的目标物体,拍摄单元40用于获取目标物体的现实图像。
相应的,上述处理器10还包括比对单元13,用于将接收到的前述拍摄单元40获取的现实图像与预先存储的特征图像进行比对,以识别出目标物体。该比对单元13例如可以为图像处理芯片中的相应识别部件。
进一步的,上述预处理单元11具体用于,根据特征图像,生成预设图像。
其中,上述的确定单元30例如可以包括:眼球追踪器,即通过追踪用户的眼球移动轨迹,确定用户关注的目标物体。拍摄单元40例如可以包括摄像头,即用于对目标物体进行拍摄,以获取其现实图像。
进一步的,上述显示单元20具体用于,根据接受到的图像信息和位置信息,在显示单元的显示区域内的目标子区域内显示目标子图像,在显示区域的其余区域不显示图像。
这样,当目标子区域内显示上述目标子图像时,显示单元的显示区域内的其余区域为关闭(即不显示)状态,可以显著降低显示功耗。
或者,上述显示单元具体20也可以具体用于,根据接收到的图像信息和位置信息,在显示单元的显示区域内的目标子区域内,以第一刷新频率显示目标子图像,在显示区域的其余区域内,以第二刷新频率显示预设的纯色画面;第二刷新频率小于第一刷新频率。
这样,当目标子区域内显示上述目标子图像时,由于目标子图像是与用户所关注的感兴趣的目标物体相关联,因此,可以采用较高的第一刷新频率f1(例如,f1≥60Hz)进行刷新显示,以便随时更新;而显示单元的显示区域内的其余区域,可以由显示单元中的Driver IC控制,固定显示预设的纯色画面,该纯色画面即作为目标子图像显示时的背景,由于不需要随时更新,可以采用较低的第二刷新频率f2(例如,f2=1Hz)刷新该区域,从而在一定程度上降低显示功耗。
进一步的,如图6所示,上述AR显示系统01还包括光学系统50;该光学系统50用于,将目标子区域内显示的目标子图像,投影到用户的视野范围内,生成虚拟目标子图像。
或者,上述光学系统50还可用于,将显示单元的显示区域内显示的目标子图像和纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于纯色画面的透明背景或部分透明背景。
这里,当纯色画面为黑色画面时,显示区域内显示的作为目标子图像背景的黑色画面经过AR光学系统处理后,投影到用户的视野范围内时为透明背景,以便人眼能够更好地观察视野范围内的现实世界。当然,当纯色画面为其他纯色画面时,显示区域内显示的作为目标子图像背景的黑色画面经过AR光学系统处理后,投影到用户的视野范围内时为部分透明(即不是完全透明的)背景,人眼也能够继续观察视野范围内的现实世界。
上述光学系统50例如可以包括:反射光学元件及成像透镜,显示单元(如LCD显示屏或OLED显示屏)产生的光学图像经过反射光学元件反射至成像透镜,经过成像透镜进行放大成像,并投影至用户的视野范围内,从而产生增强现实的效果。
以上光学系统50的组成及成像原理仅为示意,只要能够将上述显示单元20所显示的画面投影至用户的视野范围内即可,具体组成可沿用相关AR系统的结构设计。
示例的,上述显示单元20具体用于,根据接收到的图像信息和位置信息,在显示单元20的显示区域内的目标子区域内,以第一刷新频率f1显示目标子图像,在显示区域的其余区域内,以小于第一刷新频率f1的第二刷新频率f2显示预设的黑色画面。
相应的,上述光学系统50具体用于,将显示单元20的显示区域内显示的目标子图像和黑色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于黑色画面的透明背景。
进一步的,上述AR显示系统01还包括有存储器,该存储器上存储有可在上述处理器上运行的包括有生成预设图像,并对预设图像进行处理后,传输给显示单元的处理程序。
示例的,本发明实施例提供的上述AR显示系统可以为增强现实眼镜(以下简称为AR眼镜)。
该AR眼镜例如可以包括:眼镜主体(包括眼镜片和镜架等组件)、作为确定单元的眼球追踪器、作为拍摄单元的摄像头、处理器AP、作为显示单元的微型LCD显示屏以及包括有反射光学元件及成像透镜的光学系统等组件。
示例的,处理器可以设置在镜架上,并与眼球追踪器、摄像头、微型LCD显示屏通过有线和/或无线的方式耦接。
眼球追踪器例如可以为根据眼球和眼球周边的特征变化,对眼球的移动轨迹进行跟踪的追踪器;或者是根据虹膜角度变化,对眼球的移动轨迹进行跟踪的追踪器;再或者,还可以是通过主动投射红外线等光束到虹膜上,以提取相应的特征,从而对眼球的移动轨迹进行跟踪的追踪器。眼球追踪器在眼镜主体上的设置位置以能够接收到眼球和眼球周边的特征变化,或者以能够接收到虹膜角度变化,再或者以能够向虹膜投射光束,并接收发射回的光束为准,具体位置不作限定,可沿用相关AR眼镜的结构设计。
进一步的,摄像头、微型LCD显示屏以及光学系统可以设置在镜架中的镜框上远离眼球的一侧,以便对目标物体进行拍摄,并通过光学系统将微型LCD显示屏上显示的用户感兴趣的目标子图像投影到用户的视野范围内,从而实现用户在感官上同时看到虚拟物体存在于现实环境的视觉效果,即实现对现实场景的“增强”。
下面以用户视野范围内所关注的目标物体为埃菲尔铁塔为例,对本发明实施例提供的上述AR显示方法及其系统作具体说明。
如图7所示,以显示单元20的显示区域20a的分辨率为1920×1080像素为例,当处理器10识别出用户02视野范围内的目标物体(即所关注的物体)为埃菲尔铁塔时,处理器10生成分辨率为1920×1080像素的预设图像,其中,目标子图像P1在整个预设图像中的横向和纵向坐标起始点分别在第1200像素和第600像素,即坐标位置为(1200,600),目标子图像P1的分辨率为500×200像素,目标子图像P1的内容为用于对目标物体(即埃菲尔铁塔)进行解释、说明的文字,即“埃菲尔铁塔”这五个汉字。
本发明实施例提供的上述处理器10仅需要将目标子图像P1的图像信息和位置信息,即分辨率为500×200像素的图像和起始坐标位置(1200,600)传输给显示单元20进行显示,而不需要采用相关技术提供的处理器,传输分辨率为1920×1080像素的整幅图像,从而显著减少了传输带宽,降低能耗,同时,还能根据用户关注的干兴趣的物体进行智能显示。
显示单元20在进行显示时,在显示区域20a内的目标子区域S1内显示上述目标子图像P1,目标子区域S1在显示区域20a内的位置,对应于目标子图像P1在预设图像中的位置,即目标子区域S1的区域大小为1920×1080像素,横向和纵向的起始坐标位置为(1200,600);显示区域20a内的其余区域不显示图像,即为关闭状态(即不显示),从而可以显著降低显示功耗。
请继续参阅图7,进一步的,目标子区域S1内显示的目标子图像P1经光学系统50投影至用户的视野范围内,生成虚拟目标子图像P1’,从而使得用户透过镜片(由于镜片呈透明状,故图7中未示意出镜片,仅示意出固定镜片的镜框60)同时看到虚拟目标子图像P1’存在于现实环境的视觉效果,即实现对现实场景的“增强”。
基于此,通过本发明实施例提供的上述增AR显示方法及AR显示系统,AP仅对生成的预设图像中与用户感兴趣的目标物体相关联的目标子图像的图像信息和位置信息进行处理,进而仅将处理后的目标子图像的图像信息和位置信息传输给显示单元,以对感兴趣的内容进行智能显示,大幅减少了数据处理量和数据传输量,从而显著降低了传输带宽和显示功耗。
并且,由于采用上述AR显示方法,可降低AP的传输带宽及整个AR系统的显示功耗,使得上述AR显示方法更适用于特高PPI和/或大FOV的高端显示需求。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以所述权利要求的保护范围为准。
Claims (15)
1.一种增强现实的显示方法,其特征在于,所述显示方法包括:
根据用户视野范围内关注的目标物体,生成预设图像;其中,所述预设图像包括:背景和目标子图像,所述目标子图像的内容与所述目标物体相关联;
向显示单元输出所述目标子图像的图像信息和位置信息;
根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像;其中,所述目标子区域在所述显示区域内的位置,对应于所述目标子图像在所述预设图像中的位置。
2.根据权利要求1所述的增强现实的显示方法,其特征在于,所述根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,包括:
根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,在所述显示区域内的其余区域不显示图像;
或者,
根据所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域内的其余区域内,以第二刷新频率显示预设的纯色画面;所述第二刷新频率小于所述第一刷新频率。
3.根据权利要求2所述的增强现实的显示方法,其特征在于,所述显示方法还包括:
将所述目标子区域内显示的所述目标子图像,投影到用户的视野范围内,生成虚拟目标子图像;
或者,
将所述显示区域内显示的所述目标子图像和所述纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述纯色画面的透明背景或部分透明背景。
4.根据权利要求3所述的增强现实的显示方法,其特征在于,所述纯色画面为黑色画面,投影到用户的视野范围内对应于所述黑色画面的为透明背景。
5.根据权利要求4所述的增强现实的显示方法,其特征在于,投影的所述虚拟目标子图像与所述目标物体无重叠。
6.根据权利要求1所述的增强现实的显示方法,其特征在于,所述根据用户视野范围内关注的目标物体,生成预设图像,包括:
确定用户视野范围内关注的目标物体;
获取所述目标物体的现实图像;
将所述现实图像与预先存储的特征图像进行比对,以识别出所述目标物体;
根据所述特征图像,生成预设图像。
7.根据权利要求6所述的增强现实的显示方法,其特征在于,所述确定用户视野范围内关注的目标物体,包括:
通过追踪用户的眼球移动轨迹,确定用户关注的目标物体。
8.根据权利要求2所述的增强现实的显示方法,其特征在于,所述第一刷新频率大于或等于60Hz,所述第二刷新频率等于1Hz。
9.一种增强现实的显示系统,其特征在于,所述显示系统包括:处理器和显示单元;其中,所述处理器包括:预处理单元和输出单元;
所述预处理单元,用于根据用户视野范围内关注的目标物体,生成预设图像;其中,所述预设图像包括:背景和目标子图像,所述目标子图像的内容与所述目标物体相关联;
所述输出单元,用于向所述显示单元输出所述目标子图像的图像信息和位置信息;
所述显示单元,用于根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域中的目标子区域内显示所述目标子图像;其中,所述目标子区域在所述显示区域内的位置,对应于所述目标子图像在所述预设图像中的位置。
10.根据权利要求9所述的增强现实的显示系统,其特征在于,所述显示单元具体用于,
根据接受到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内显示所述目标子图像,在所述显示区域的其余区域不显示图像;
或者,
根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域的其余区域内,以第二刷新频率显示预设的纯色画面;所述第二刷新频率小于所述第一刷新频率。
11.根据权利要求10所述的增强现实的显示系统,其特征在于,所述显示系统还包括光学系统;所述光学系统用于,
将所述目标子区域内显示的所述目标子图像,投影到用户的视野范围内,生成虚拟目标子图像;
或者,
将所述显示单元的所述显示区域内显示的所述目标子图像和所述纯色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述纯色画面的透明背景或部分透明背景。
12.根据权利要求11所述的增强现实的显示系统,其特征在于,
所述显示单元具体用于,根据接收到的所述图像信息和所述位置信息,在所述显示单元的显示区域内的目标子区域内,以第一刷新频率显示所述目标子图像,在所述显示区域的其余区域内,以第二刷新频率显示预设的黑色画面;所述第二刷新频率小于所述第一刷新频率;
所述光学系统具体用于,将所述显示单元的所述显示区域内显示的所述目标子图像和所述黑色画面,均投影到用户的视野范围内,分别生成虚拟目标子图像和对应于所述黑色画面的透明背景。
13.根据权利要求9所述的增强现实的显示系统,其特征在于,所述显示系统还包括:
确定单元,用于确定用户视野范围内关注的目标物体;
拍摄单元,用于获取所述目标物体的现实图像;
所述处理器还包括比对单元,所述比对单元用于将所述现实图像与预先存储的特征图像进行比对,以识别出所述目标物体;
所述预处理单元具体用于,根据所述特征图像,生成预设图像。
14.根据权利要求13所述的增强现实的显示系统,其特征在于,所述确定单元包括:眼球追踪器。
15.根据权利要求9至14任一项所述的增强现实的显示系统,其特征在于,所述显示系统为增强现实眼镜。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910058904.2A CN109714583B (zh) | 2019-01-22 | 2019-01-22 | 增强现实的显示方法及增强现实的显示系统 |
US16/745,412 US11232602B2 (en) | 2019-01-22 | 2020-01-17 | Image processing method and computing device for augmented reality device, augmented reality system, augmented reality device as well as computer-readable storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910058904.2A CN109714583B (zh) | 2019-01-22 | 2019-01-22 | 增强现实的显示方法及增强现实的显示系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109714583A true CN109714583A (zh) | 2019-05-03 |
CN109714583B CN109714583B (zh) | 2022-07-19 |
Family
ID=66262480
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910058904.2A Active CN109714583B (zh) | 2019-01-22 | 2019-01-22 | 增强现实的显示方法及增强现实的显示系统 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11232602B2 (zh) |
CN (1) | CN109714583B (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110572632A (zh) * | 2019-08-15 | 2019-12-13 | 中国人民解放军军事科学院国防科技创新研究院 | 一种基于视线跟踪的增强现实显示系统、头盔和方法 |
CN111553972A (zh) * | 2020-04-27 | 2020-08-18 | 北京百度网讯科技有限公司 | 用于渲染增强现实数据的方法、装置、设备及存储介质 |
CN111563432A (zh) * | 2020-04-27 | 2020-08-21 | 歌尔科技有限公司 | 一种显示方法及增强现实显示设备 |
CN111930236A (zh) * | 2020-08-17 | 2020-11-13 | Oppo广东移动通信有限公司 | 设备控制方法、装置、存储介质及电子设备 |
WO2021129776A1 (zh) * | 2019-12-26 | 2021-07-01 | 维沃移动通信有限公司 | 成像处理方法和电子设备 |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113465611B (zh) * | 2021-06-29 | 2024-03-26 | 阿波罗智联(北京)科技有限公司 | 导航方法、装置、电子设备及可读存储介质 |
KR20230118211A (ko) * | 2022-02-03 | 2023-08-11 | 삼성디스플레이 주식회사 | 표시 장치 및 표시 장치의 구동 방법 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103873840A (zh) * | 2012-12-12 | 2014-06-18 | 联想(北京)有限公司 | 显示方法及显示设备 |
CN106203289A (zh) * | 2016-06-28 | 2016-12-07 | 广东欧珀移动通信有限公司 | 一种目标增强现实内容的获取方法、装置和移动终端 |
US20160378177A1 (en) * | 2015-06-29 | 2016-12-29 | Beijing Zhigu Rui Tuo Tech Co., Ltd | Visualized content transmission control method, sending method and apparatuses thereof |
CN106959759A (zh) * | 2017-03-31 | 2017-07-18 | 联想(北京)有限公司 | 一种数据处理方法及装置 |
CN107333119A (zh) * | 2017-06-09 | 2017-11-07 | 歌尔股份有限公司 | 一种显示数据的处理方法和设备 |
CN107765842A (zh) * | 2016-08-23 | 2018-03-06 | 深圳市掌网科技股份有限公司 | 一种增强现实方法及系统 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4679661B1 (ja) * | 2009-12-15 | 2011-04-27 | 株式会社東芝 | 情報提示装置、情報提示方法及びプログラム |
US20140146394A1 (en) * | 2012-11-28 | 2014-05-29 | Nigel David Tout | Peripheral display for a near-eye display device |
JP2016519785A (ja) * | 2013-04-08 | 2016-07-07 | フィリップス ライティング ホールディング ビー ヴィ | 大面積ディスプレイシステム |
US10134198B2 (en) * | 2016-04-19 | 2018-11-20 | Adobe Systems Incorporated | Image compensation for an occluding direct-view augmented reality system |
-
2019
- 2019-01-22 CN CN201910058904.2A patent/CN109714583B/zh active Active
-
2020
- 2020-01-17 US US16/745,412 patent/US11232602B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103873840A (zh) * | 2012-12-12 | 2014-06-18 | 联想(北京)有限公司 | 显示方法及显示设备 |
US20160378177A1 (en) * | 2015-06-29 | 2016-12-29 | Beijing Zhigu Rui Tuo Tech Co., Ltd | Visualized content transmission control method, sending method and apparatuses thereof |
CN106203289A (zh) * | 2016-06-28 | 2016-12-07 | 广东欧珀移动通信有限公司 | 一种目标增强现实内容的获取方法、装置和移动终端 |
CN107765842A (zh) * | 2016-08-23 | 2018-03-06 | 深圳市掌网科技股份有限公司 | 一种增强现实方法及系统 |
CN106959759A (zh) * | 2017-03-31 | 2017-07-18 | 联想(北京)有限公司 | 一种数据处理方法及装置 |
CN107333119A (zh) * | 2017-06-09 | 2017-11-07 | 歌尔股份有限公司 | 一种显示数据的处理方法和设备 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110572632A (zh) * | 2019-08-15 | 2019-12-13 | 中国人民解放军军事科学院国防科技创新研究院 | 一种基于视线跟踪的增强现实显示系统、头盔和方法 |
WO2021129776A1 (zh) * | 2019-12-26 | 2021-07-01 | 维沃移动通信有限公司 | 成像处理方法和电子设备 |
CN111553972A (zh) * | 2020-04-27 | 2020-08-18 | 北京百度网讯科技有限公司 | 用于渲染增强现实数据的方法、装置、设备及存储介质 |
CN111563432A (zh) * | 2020-04-27 | 2020-08-21 | 歌尔科技有限公司 | 一种显示方法及增强现实显示设备 |
CN111553972B (zh) * | 2020-04-27 | 2023-06-30 | 北京百度网讯科技有限公司 | 用于渲染增强现实数据的方法、装置、设备及存储介质 |
CN111930236A (zh) * | 2020-08-17 | 2020-11-13 | Oppo广东移动通信有限公司 | 设备控制方法、装置、存储介质及电子设备 |
Also Published As
Publication number | Publication date |
---|---|
US20200234470A1 (en) | 2020-07-23 |
CN109714583B (zh) | 2022-07-19 |
US11232602B2 (en) | 2022-01-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109714583A (zh) | 增强现实的显示方法及增强现实的显示系统 | |
US10665033B2 (en) | Opacity filter for display device | |
KR102140389B1 (ko) | 인간 시각 메커니즘에 적응화된 머리 장착형 디스플레이를 위한 시스템 및 방법 | |
CN105359540B (zh) | 头戴式显示设备及用于控制这样的设备的方法 | |
CN107439011B (zh) | 在后期重投影中的视网膜位置 | |
Haas | 40‐2: Invited paper: Microdisplays for augmented and virtual reality | |
US10852815B2 (en) | Display system with dynamic light output adjustment for maintaining constant brightness | |
US6445365B1 (en) | Image display apparatus and image photographing apparatus therefor | |
US20100110069A1 (en) | System for rendering virtual see-through scenes | |
US5264881A (en) | Split static surround display system | |
US10699673B2 (en) | Apparatus, systems, and methods for local dimming in brightness-controlled environments | |
US11343486B2 (en) | Counterrotation of display panels and/or virtual cameras in a HMD | |
WO2021031822A1 (zh) | 头戴式显示设备的图像显示方法、装置及系统 | |
US20220269085A1 (en) | Nonintrusive head-mounted device | |
US10989927B2 (en) | Image frame synchronization in a near eye display | |
Tomilin | Head-mounted displays | |
CN110010082B (zh) | 用于防止显示闪烁的设备、系统和方法 | |
EP4198873A1 (en) | Sparse rgb filter hardware accelerator | |
US20240029218A1 (en) | Gaze-aware tone mapping and chromatic adaptation | |
Shautsou et al. | Image Formation in Augmented Reality Devices | |
WO1997029472A1 (en) | A visual display system having a large field of view |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |