CN110933396A - 集成成像显示系统及其显示方法 - Google Patents
集成成像显示系统及其显示方法 Download PDFInfo
- Publication number
- CN110933396A CN110933396A CN201911274196.2A CN201911274196A CN110933396A CN 110933396 A CN110933396 A CN 110933396A CN 201911274196 A CN201911274196 A CN 201911274196A CN 110933396 A CN110933396 A CN 110933396A
- Authority
- CN
- China
- Prior art keywords
- target object
- image
- display
- focusing
- gazing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 28
- 238000003384 imaging method Methods 0.000 title claims description 52
- 210000005252 bulbus oculi Anatomy 0.000 claims description 135
- 210000001508 eye Anatomy 0.000 claims description 64
- 238000012545 processing Methods 0.000 claims description 36
- 230000008569 process Effects 0.000 claims description 10
- 239000007788 liquid Substances 0.000 claims description 8
- 230000004044 response Effects 0.000 claims description 6
- 239000007787 solid Substances 0.000 claims description 2
- 230000015572 biosynthetic process Effects 0.000 abstract description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 13
- 238000006243 chemical reaction Methods 0.000 description 12
- 239000011159 matrix material Substances 0.000 description 12
- 230000008859 change Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 6
- 210000003128 head Anatomy 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- ORQBXQOJMQIAOY-UHFFFAOYSA-N nobelium Chemical compound [No] ORQBXQOJMQIAOY-UHFFFAOYSA-N 0.000 description 4
- 238000000605 extraction Methods 0.000 description 3
- 208000003464 asthenopia Diseases 0.000 description 2
- 210000004556 brain Anatomy 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 210000001747 pupil Anatomy 0.000 description 2
- 238000011161 development Methods 0.000 description 1
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000013081 microcrystal Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
- 238000012800 visualization Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/383—Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
Abstract
本申请实施例公开了一种集成成像显示系统及其显示方法,可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,进而使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像,以解决现有三维显示装置观看立体显示画面时,存在部分显示图像不清楚的问题。
Description
技术领域
本申请涉及显示技术领域,尤其涉及一种集成成像显示系统及其显示方法。
背景技术
随着显示技术的飞速发展,越来越多的立体显示技术被广泛的应用,其立体显示的原理主要是建立在两眼视差的基础上,使观察者的左、右眼接收到不同角度的影像信号,这两种不同角度的影像信号经过大脑可视化处理之后,即可在脑海中产生立体视觉效果。
但是,利用现有集成成像显示装置观看立体显示画面时,存在部分显示图像不清楚的问题。
发明内容
为解决上述技术问题,本申请实施例提供了一种集成成像显示系统及其显示方法,以解决现有集成成像显示装置观看立体显示画面时,存在部分显示图像不清楚的问题。
为解决上述问题,本申请实施例提供了如下技术方案:
一种集成成像显示系统,包括:
显示装置,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成三维显示图像;
追踪装置,用于获取目标对象的眼部图像;
处理装置,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置,用于调节所述三维显示图像的预设像面所在平面的位置;
驱动装置,用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
可选的,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向;
基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向;
基于所述目标对象的左眼球在第二坐标系中的第三坐标和第三注视方向以及所述目标对象的右眼球在所述第二坐标系中的第四坐标和第四注视方向,确定在第二坐标系中所述目标对象的对焦位置;
基于所述对焦位置和所述目标对象正视前方时所述左眼球和所述右眼球的中点,确定第五注视方向;
基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
在所述第二坐标系中,X轴和Y轴位于所述显示元件所在的平面内且相互垂直,Z轴垂直于所述显示元件所在的平面。
可选的,所述处理装置在执行基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
将所述待显示图像的各显示对象中与所述第五注视方向对应的第五注视线之间距离最小且距离所述目标对象最近的显示对象作为所述目标对象在所述待显示图像上的注视对象。
可选的,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述透镜元件的坐标,确定所述注视对象的深度信息;
可选的,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:
响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的曲率,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的折射率,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
可选的,所述调焦装置包括:第一调焦元件,所述第一调焦元件包括第一调焦透镜和第二调焦透镜,所述第一调焦透镜和所述第二调焦透镜为液体透镜,且所述第一调焦透镜和所述第二调焦透镜的凹凸性质相反。
可选的,所述调焦装置还包括:第二调焦元件,所述第二调焦元件包括第三调焦透镜和第四调焦透镜,所述第三调焦透镜和所述第四调焦透镜为固体透镜。
可选的,所述处理装置还用于基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内。
相应的,本申请还提供了一种显示方法,应用于上述任一所述的集成成像显示系统,所述显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成三维显示图像;该方法包括:
基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,通过所述驱动装置调节所述调焦装置的预设参数,使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配。
可选的该方法还包括:
基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内。
与现有技术相比,上述技术方案具有以下优点:
本申请实施例所提供的集成成像显示系统,可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,进而使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像,以解决现有三维显示装置观看立体显示画面时,存在部分显示图像不清楚的问题。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种集成成像显示系统的结构示意图;
图2为本申请实施例提供的一种集成成像显示系统中,目标对象在注视目标A时的局部示意图;
图3为本申请实施例提供的一种集成成像显示系统中,目标对象在注视目标B时的局部示意图;
图4为本申请实施例提供的一种集成成像显示系统中,基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象的示意图;
图5为本申请实施例提供的一种集成成像显示系统中,调焦装置的结构示意图;
图6为本申请实施例提供的一种集成成像显示系统中,所述调焦装置基于二维显示图像形成的显示虚像显示在显示元件与调焦装置之间时的光路示意图;
图7为本申请实施例提供的一种集成成像显示系统中,所述调焦装置基于二维显示图像形成的显示虚像显示在显示元件背离调焦装置一侧时的光路示意图;
图8为本申请实施例提供的一种集成成像显示系统中,人眼视线与垂直于所述显示元件所在平面的Z轴的夹角θ=0°时,有效观看区域的示意图;
图9为本申请实施例提供的一种集成成像显示系统中,人眼视线与垂直于所述显示元件所在平面的Z轴的夹角θ>0°时,有效观看区域的示意图;
图10为本申请实施例提供的一种显示方法的流程图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是本申请还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
正如背景技术部分所述,利用现有三维显示装置观看立体显示画面时,存在部分显示图像不清楚的问题。
这是由于三维显示装置在显示立体显示画面时,不同显示对象所在位置距离观看者不同,而现有三维显示装置在显示立体显示画面时,只有位于预设像面附近的显示对象可以被观看者看到清晰的图像,从而使得观看者在观看与预设像面有一定距离的显示对象时,只能获得模糊的图像,影响用户体验。
有鉴于此,本申请实施例提供了一种集成成像显示系统,如图1、图2和图3所示,该显示系统包括:
显示装置100,所述显示装置100包括显示元件101和透镜元件102,所述显示元件101用于基于待显示图像形成二维显示图像,所述透镜元件102用于基于所述二维显示图像形成三维显示图像;
追踪装置200,用于获取目标对象的眼部图像;
处理装置300,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置400,用于调节所述三维显示图像的预设像面所在平面的位置;
驱动装置500,用于响应所述控制指令,调节所述调焦装置400的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
需要说明的是,在本申请实施例中,所述目标对象可以为观看者的眼睛,在本申请另一个实施例中,所述目标对象也可以为观看者的头部,在本申请其他实施例中所述目标对象还可以为观看者本人,本申请对此不做限定,只要所述目标对象包括观看者的眼睛即可。
在上述实施例的基础上,在本申请一个实施例中,所述显示元件为LED显示屏,在本申请的其他实施例中,所述显示元件为其他类型的显示屏,本申请对此并不做限定,具体视情况而定。
在上述任一实施例的基础上,在本申请一个实施例中,所述预设参数包括调焦装置的曲率、所述调焦装置的折射率或调焦装置与透镜元件的距离中的至少一个,在本申请的其他实施例中所述预设参数还可以包括其他的参数,本申请对此不做限定,具体视情况而定。
可选的,在本申请实施例中,所述追踪装置用于获取目标对象的眼部图像时具体用于:实时获取所述目标对象的眼部图像。具体的,所述追踪装置为眼动追踪装置,以准确的获取瞳孔位置,并具有较短的延迟和较高的刷新率。
在上述实施例的基础上,在本申请的一个具体实施例中,所述眼动追踪装置的刷新率大于或等于100Hz。但本申请对此并不做限定,具体视情况而定。
本申请实施例所提供的显示系统,可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,进而使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像,以达到真实的三维显示效果。
而且,由于所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像,因此,该显示系统还降低了观看者在观看三维显示图像时的视觉疲劳。
继续如图2-3所示,在本申请的一个具体实施例中,所述目标对象的注视对象由图2中所示的目标A变为图3中所示的目标B,处理装置基于所述目标对象的眼部图像,确定所述目标对象的注视对象为目标B以及所述目标B的深度信息,并基于所述目标B的深度信息生成控制指令给所述驱动装置,以使得所述驱动装置响应所述控制指令,调节所述调焦装置的预设参数,使得所述三维显示图像的预设像面所在平面的位置由目标A所在平面移动到目标B所在的平面,以使观看者获得清晰的显示图像。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,所述透镜元件包括微透镜阵列元件,其中,所述微透镜阵列元件用于基于所述二维显示图像形成三维显示图像;在本申请实施例中,所述三维显示图像的预设像面所在的平面为所述微透镜阵列的成像平面。即在本申请实施例中,所述调焦装置用于调节所述微透镜阵列的成像平面,通过使所述微透镜阵列的成像平面所在的位置与所述注视对象的深度信息相匹配,来实现所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配。
需要说明的是,虽然本申请实施例中是以所述透镜元件包括微透镜阵列元件为例进行描述的,但本申请对此并不做限定,在本申请的其他实施例中,所述透镜元件还可以包括其他光学元件,只要保证所述透镜元件可以基于所述显示元件显示的二维显示图像形成三维显示图像即可。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,所述追踪装置包括:
红外发射元件和红外探测元件,其中,所述红外发射元件用于向所述目标对象的眼部发射红外光,所述红外探测元件用于接收所述目标对象的眼部反射的红外光,并基于所述目标对象的眼部反射的红外光,生成红外图像,所述红外图像中包含有所述目标对象的眼部图像。
本申请所提供的追踪装置中的红外发射元件可以为观看者的眼部提供足够的红外光线,以确保追踪装置的红外探测元件能够获得足够多的目标对象的眼部反射的红外光线,以便于基于该目标对象的眼部反射的红外光线获得清晰的红外图像,提高追踪装置的精确性,从而使得所述处理装置基于该红外图像确定目标对象的注视方向时,更为准确。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,如图4所示,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向;
基于所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向以及所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向,确定在第二坐标系中所述目标对象的对焦位置;
基于所述对焦位置和所述目标对象正视前方时所述左眼球和所述右眼球的中点,确定第五注视方向;
基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
在所述第二坐标系中,X轴和Y轴位于所述显示元件所在的平面内且相互垂直,Z轴垂直于所述显示元件所在的平面。
可选的,所述第二坐标系的原点为显示元件的中心或显示屏的任一顶点,本申请对此不做限定,具体视情况而定。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的左眼球在第一坐标系中的第一坐标确定所述目标对象的左眼球的注视方向(即所述第一注视方向)时具体用于:
基于所述目标对象的左眼球在第一坐标系中的第一坐标以及预先存储的所述目标对象的左眼球在第一坐标系中的坐标与成像角度的第一对应关系,确定所述目标对象的左眼球的第一注视方向,即所述目标对象的左眼球在所述第一坐标系中的成像角度。其中,所述目标对象的左眼球在第一坐标系中的成像角度是指所述目标对象的左眼球在第一坐标系中的注视方向与所述第一坐标系中Z轴的夹角。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的右眼球在第一坐标系中的第一坐标确定所述目标对象的右眼球的注视方向(即所述第二注视方向)时具体用于:
基于所述目标对象的右眼球在第一坐标系中的第二坐标以及预先存储的所述目标对象的右眼球在第一坐标系中的坐标与成像角度的第二对应关系,确定所述目标对象的右眼球的注视方向,也即所述目标对象的右眼球在所述第一坐标系中的成像角度。其中,所述目标对象的右眼球在第一坐标系中的成像角度是指所述目标对象的右眼球在第一坐标系中的注视方向与所述第一坐标系中Z轴的夹角。
在上述实施例的基础上,在本申请的一个实施例中,所述第一对应关系和所述第二对应关系为同一对应关系,即基于所述目标对象的左眼球在第一坐标系中的坐标和右眼球在第一坐标系中的坐标查询同一对应关系,获得所述目标对象的左眼球在第一坐标系中的成像角度和右眼球在第一坐标系中的成像角度;在本申请的另一个实施例中,所述第一对应关系和所述第二对应关系为不同的对应关系,即基于所述目标对象的左眼球在第一坐标系中的坐标和右眼球在第一坐标系中的坐标分别查询左眼球对应的对应关系和右眼球对应的对应关系,获得所述目标对象的左眼球在第一坐标系中的成像角度和右眼球在第一坐标系中的成像角度。
具体的,在第一坐标系中,所述目标对象注视正前方时,所述目标对象的左眼球在第一坐标系中的坐标为(xL0,yL0),右眼球在第一坐标系中的坐标为(xR0,yR0),所述目标对象注视所述待显示图像中的注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标RL′为(xL,yL),右眼球在第一坐标系中的第二坐标RR′为(xR,yR),所述目标对象左眼球在第一坐标系中的注视方向对应的成像角度用极坐标表示,为(θL,),所述目标对象右眼球在第一坐标系中的注视方向对应的成像角度用极坐标表示,为(θR,),则:
所述目标对象的左眼球在第一坐标系中的第一坐标:
R′L=(xL-x0)ex′+(yL-y0)ey′;
其中,ex′为第一坐标系中X轴的单位矢量;ey′为第一坐标系中Y轴的单位矢量;表示所述目标对象的左眼球在第一坐标系中的第一注视方向对应的成像角度与所述目标对象的左眼球在第一坐标系中的第一坐标R′L的对应关系;
同理,所述目标对象的右眼球在第一坐标系中的第二坐标:
RR′=(xR-x0)ex′+(yR-y0)ey′;
在上述任一实施例的基础上,在本申请的一个实施例中,所述目标对象的眼球在第一坐标系中的坐标与成像角度的对应关系的获得方法包括:
获取所述目标对象注视正前方时的左眼球在第一坐标系中的坐标(xL0,yL0)和右眼球在第一坐标系中的坐标(xR0,yR0);
获取所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的左眼球在第一坐标系中的坐标和左眼球的注视视线在第一坐标系中对应的成像角度以及右眼球在第一坐标系中的坐标和右眼球的注视视线在第一坐标系中对应的成像角度;
基于所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的左眼球在第一坐标系中的坐标(xL,yL)和左眼的注视视线在第一坐标系中对应的成像角度(θL,),获得所述目标对象的左眼球在第一坐标系中的坐标与左眼球的注视视线在第一坐标系中对应的成像角度的对应关系(即(xL-xL0,yL-yL0)与(θL,)的对应关系);
基于所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的右眼球在第一坐标系中的坐标(xR,yR)和右眼球的注视视线在第一坐标系中对应的成像角度(θR,),获得所述目标对象的右眼球在第一坐标系中的坐标与右眼球的注视视线在第一坐标系中对应的成像角度的对应关系(即(xR-xR0,yR-yR0)与(θR,)的对应关系)。
即在本申请实施例中,基于所述目标对象的眼部图像获得所述目标对象的左眼球和右眼球坐标后,先计算其相较于所述目标对象注视正前方时的位置偏移(即(xL-xL0,yL-yL0)、(xR-xR0,yR-yR0)),再基于其相较于所述目标对象注视正前方时的位置偏移(即(xL-xL0,yL-yL0)、(xR-xR0,yR-yR0)),查询所述第一对应关系和所述第二对应关系,获得所述目标对象左眼球在第一坐标系中的注视方向和右眼球在第一坐标系中的注视方向。
在本申请的其他实施例中,所述目标对象的左眼球在第一坐标系中的坐标与左眼球的注视视线在第一坐标系中对应的成像角度的对应关系还可以为(xL-x0,yL-y0)与(θL,)的对应关系;所述目标对象的右眼球在第一坐标系中的坐标与右眼球的注视视线在第一坐标系中对应的成像角度的对应关系还可以为(xR-xO,yR-yO)与(θR,)的对应关系,本申请对此不做限定,具体视情况而定。
在上述实施例的基础上,在本申请的一个实施例中,为减小实际使用时利用所述第一对应关系和所述第二对应关系确定目标对象的注视方向时的误差,在确定所述第一对应关系和所述第二对应关系时,需要多次测量所述目标对象在同一注视方向下的坐标,利用拟合方式对多次测量的同一注视方向下的坐标进行拟合,以确定目标对象在该注视方向下与其对应的眼球坐标的对应关系。
在上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向时具体用于:
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,利用第一转换矩阵,确定所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向;
基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,利用第二转换矩阵,确定所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向。
可选的,在上述实施例的基础上,在本申请的一个实施例中,所述第一转换矩阵和所述第二转换矩阵相同,但本申请对此并不做限定,在本申请的其他实施例中,所述第一转换矩阵和所述第二转换矩阵也可以不同,具体视情况而定。
下面以所述第一转换矩阵和所述第二转换矩阵相同为例进行描述。
具体的,在本申请的一个实施例中,所述第一转换矩阵和所述第二转换矩阵AH为:
所述目标对象的左眼球在第一坐标系中的第一坐标为RL′,所述目标对象的左眼球在第一坐标系中的第一注视方向为所述目标对象的右眼球在第一坐标系中的第二坐标为RR′,所述目标对象的右眼球在第一坐标系中的第一注方向为所述目标对象正视前方时左眼球坐标和右眼球坐标的中点在第二坐标系中的坐标为RE(x,y,z);则:
所述目标对象的左眼球在第二坐标系中的第三坐标RL为:RL=RE+AHRL′;
所述目标对象的右眼球在第二坐标系中的第四坐标RR为:RR=RE+AHRR′
需要说明的是,在上述实施例中,所述第一转换矩阵和所述第二转换矩阵AH基于观看者的头部相对于显示装置的朝向角度(αH,βH,γH)确定,由于其确定方法已为本领域技术人员所熟知,本申请对此不再详述。可选的,在本申请实施例中,所述目标对象包括观看者的头部,以便于基于观看者的头部红外图像获得观看者的头部相对于显示装置的朝向角度。
在本申请上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的左眼球在第二坐标系中的第三坐标和第三注视方向以及所述目标对象的右眼球在所述第二坐标系中的第四坐标和第四注视方向,确定所述目标对象在所述第二坐标系中的对焦位置具体用于执行:
基于所述目标对象的左眼球在第二坐标系中的第三坐标确定所述目标对象的左眼球在第二坐标系中的注视方向,即所述第三注视方向;
基于所述目标对象的右眼球在第二坐标系中的第四坐标确定所述目标对象的右眼球在第二坐标系中的注视方向,即所述第四注视方向;
基于所述第三注视线和所述第四注视线在第二坐标系中的交点位置,确定所述目标对象的对焦位置。
在上述实施例所述第三注视线和所述第四注视线的表达式中,r表示所述第三注视线或所述第四注视线所在的直线,t表示方程参数,即上述方程中的自变量。
需要说明的是,理论情况下,所述第三注视线lL和所述第四注视线lR在所述第二坐标系中必定交于一点。但是,实际使用中,这两条注视线也可能不在同一平面上,使得所述第三注视线lL和所述第四注视线lR在所述第二坐标系中不会直接相交,因此,在上述实施例的基础上,在本申请的一个实施例中,如果所述第三注视线lL和所述第四注视线lR在所述第二坐标系中直接相交于一点,则所述第三注视线lL和所述第四注视线lR的交点所在位置即为所述目标对象的对焦位置RT0;如果所述第三注视线lL和所述第四注视线lR在所述第二坐标系中不直接相交,则先取所述第三注视线lL和所述第四注视线lR上相距最近的两点,然后再取这两点的中点,该中点所在位置记为所述目标对象的对焦位置RT0。则本申请实施例基于所述对焦位置在第二坐标系中的坐标RT0和所述目标对象正视前方时所述左眼球和所述右眼球的中点在第二坐标系中的坐标RE,即可确定第五注视方向,即所述目标对象在所述第二坐标系中的第五注视线l0,其表达式可以表示为:r=RE+t(RT0-RE)。
在本申请的上述任一实施例的基础上,在本申请的一个实施例中,所述第一坐标系的原点为所述目标对象的左眼球和右眼球注视正前方时,所述左眼球和所述右眼球的中点。在本申请的其他实施例中,所述第一坐标系的原点还可以为其他点,本申请对此不做限定,具体视情况而定。
下面以所述第一坐标系的原点为所述目标对象的左眼球和右眼球注视正前方时,所述左眼球和所述右眼球的中点为例进行描述。
在本申请实施例中,所述显示系统在第一次使用之前,需要对第一坐标系的原点进行校正,具体包括:获取所述目标对象注视正前方时,所述左眼球在第一坐标系的坐标(xL0,yL0)和右眼球在第一坐标系的坐标(xR0,yR0),基于所述目标对象注视正前方时,所述左眼球在第一坐标系的坐标(xL0,yL0)和所述右眼球在第一坐标系的坐标(xR0,yR0)计算第一坐标系中原点的位置(x0,y0),其中,x0=(xL0+xR0)/2,y0=(yL0+yR0)/2。
需要说明的是,在上述实施例的基础上,在本申请的一个实施例中,所述显示系统在第一次使用之前,对第一坐标系的原点进行校正可以为所述显示系统在出厂第一次使用之前,对第一坐标系的原点进行校正,后续不再进行校正,也可以为所述显示系统在每次使用之前,均对第一坐标系的原点进行校正,还可以在显示系统此次使用时间距离上次使用时间间隔预设时间后的第一次使用之前,对第一坐标系的原点进行校正,本申请对此并不做限定,具体视情况而定。
在上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
将所述待显示图像的各显示对象中与所述第五注视方向对应的第五注视线之间距离最小且距离所述目标对象最近的显示对象作为所述目标对象在所述待显示图像上的注视对象。
由于所述显示元件显示的二维显示图像中各显示对象均位于同一平面内(即所述显示元件显示的二维显示图像中各显示对象与所述目标对象的距离均相同),而所述透镜元件形成的三维显示图像中各显示对象并不全部位于同一平面内(即三维显示图像中各显示对象与所述目标对象的距离不完全相同),因此,在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行将所述待显示图像的各显示对象中与所述第五注视线之间距离最小且距离所述目标对象最近的显示对象作为所述目标对象在所述待显示图像上的注视对象时,具体用于执行:将所述显示元件的二维显示图像中与所述第五注视线之间距离最小的图像作为所述目标对象在所述二维显示图像上的注视对象;在本申请的另一个实施例中,所述处理装置在执行将所述待显示图像的各显示对象中与所述第五注视线之间距离最小且距离所述目标对象最近的显示对象作为所述目标对象在所述待显示图像上的注视对象时,具体用于执行:将所述三维显示图像中与所述第五注视线之间距离最小且距离所述目标对象最近的图像作为所述目标对象在所述三维显示图像上的注视对象。
虽然上述实施例中是分别将目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向转换到第二坐标系中,在第二坐标系中确定目标对象的左眼球和右眼球的对焦位置以及第五注视方向,但本申请对此并不做限定,在本申请的其他实施例中,也可以先在所述第一坐标系中基于目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向,确定所述目标对象在所述第一坐标系中的对焦位置以及第六注视方向,再将其转换到第二坐标系中,确定所述目标对象的第五注视方向,具体视情况而定。
具体的,如果本申请实施例先在所述第一坐标系中基于目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向,确定所述目标对象在所述第一坐标系中的对焦位置以及第六注视方向,再将其转换到第二坐标系中,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的对焦位置;
基于所述对焦位置和所述目标对象正视前方时所述左眼球和所述右眼球的中点,确定所述目标对象在所述第一坐标系中的第六注视方向;
基于所述目标对象在所述第一坐标系中的第六注视方向确定所述目标对象在所述第二坐标系中的第五注视方向;
基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
在所述第二坐标系中,X轴和Y轴位于所述显示元件所在的平面内且相互垂直,Z轴垂直于所述显示元件所在的平面。
需要说明的是,在本申请实施例中,由于所述三维显示画面中每个物体对应的显示图像都占有一定的空间,而在所述第二坐标系中,所述第五注视线与所述待显示图像对应的显示图像的交点为一个点,故在本申请实施例中,所述注视对象可能为所述待显示图像中的某个完整物体对应的显示图像,相应的,所述显示对象也为该完整物体对应的显示图像,如茶杯,也可能为所述待显示图像中某个完整物体对应的显示图像上的一点,相应的,所述显示对象也为该某个完整物体对应的显示图像上的一点,如茶杯上的把手,本申请对此并不做限定,具体视该物体对应的显示图像所占用的显示面积而定。
在上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述透镜元件的坐标,确定所述注视对象的深度信息。其中,所述注视对象的深度信息即在所述第二坐标系中,所述注视对象和所述透镜元件之间沿Z轴方向的距离。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置用于执行确定所述注视对象的坐标时具体用于执行:基于所述待显示图像对应的立体模型信息,获得所述注视对象在第二坐标系中的坐标。在本申请的另一个实施例中,所述处理装置用于执行确定所述注视对象的坐标时,具体用于执行:利用深度提取算法,基于所述显示元件的二维显示图像,获得所述注视对象在所述第二坐标系中的坐标。具体的,在本申请的一个实施例中,例中,所述处理装置用于执行确定所述注视对象的坐标时,具体用于执行:利用深度提取算法,基于所述显示元件的二维显示图像,获得所述注视对象在所述第二坐标系中的坐标包括:利用孔径图的深度提取算法,基于所述显示元件的二维显示图像的孔径图,获得所述注视对象在所述第二坐标系中的坐标,但本申请对此并不做限定,在本申请的其他实施例中,还可采用其他类型的深度提取算法,基于所述显示元件的二维显示图像,获得所述注视对象在所述第二坐标系中的坐标,具体视情况而定。
可选的,在本申请的一个实施例中,所述调焦装置位于所述显示元件与所述透镜元件之间,在本申请其他的实施例中,所述调焦装置也可以位于所述透镜元件背离所述显示元件一侧,本申请对此不做限定,具体视情况而定。
下面以所述调焦装置位于所述显示元件与所述透镜元件之间为例继续进行描述。
具体的,在本申请的一个实施例中,继续如图3所示,所述调焦装置400位于所述显示元件101和所述透镜元件102(即微透镜阵列元件)之间,在本实施例中,所述显示元件101的二维显示图像作为所述调焦装置400的物面,所述二维显示图像经过所述调焦装置400后形成一虚像,该虚像作为所述透镜元件102(即微透镜阵列元件)的物面,经过所微透镜阵列元件后形成三维显示图像;其中,所述注视对象在所述三维显示图像中的位置与所述微透镜阵列元件之间的距离为h,所述微透镜阵列元件的焦距为f0,所述二维显示图像经过所述调焦装置400所成的虚像到所述微透镜阵列元件的距离为x,则所述注视对象在所述三维显示图像中的位置与所述微透镜阵列元件之间的距离h,所述微透镜阵列元件的焦距f0,所述二维显示图像经过所述调焦装置所成的虚像到所述微透镜阵列元件的距离x只需满足公式:即可使得所述注视对象位于所述三维显示图像的预设像面上,即所述注视对象在所述三维显示图像中的位置与所述微透镜阵列元件之间的距离h,所述微透镜阵列元件的焦距f0,所述二维显示图像经过所述调焦装置所成的虚像到所述微透镜阵列元件的距离x只需满足可以使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
需要说明的是,在本申请实施例中,所述调焦装置可以有多种方式改变所述二维显示图像经过所述调焦装置所成的虚像到所述微透镜阵列元件的距离。具体的,在本申请的一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
在本申请的另一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置的曲率,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
在本申请的又一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置的折射率,使得所预设像面所在平面的位置与所述注视对象的深度信息相匹配。
具体的,在本申请一个实施例中,如图5所示,所述调焦装置400包括:第一调焦元件410,所述第一调焦元件410包括第一调焦透镜411和第二调焦透镜412,所述第一调焦透镜411和所述第二调焦透镜412为液体透镜,且所述第一调焦透镜411和所述第二调焦透镜412的凹凸性质相反。
可选的,在本申请的一个实施例中,所述第一调焦透镜和所述第二调焦透镜为液体透镜时,所述驱动装置通过改变施加到所述第一调焦透镜和/或所述第二调焦透镜上的驱动信号,改变所述第一调焦透镜和/或所述第二调焦透镜的曲率,进而改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,最终改变所述调焦装置的焦距,以实现改变所述显示元件的二维显示画面经所述调装置形成的虚像平面的位置。
需要说明的是,在本申请实施例中,所述调焦装置采用了双液体透镜组调焦,从而保证了在调节所述调焦装置的焦距时,角放大率不变,保证了显示图像的清晰度和观看者的观感。
在本申请的另一个实施例中,所述第一调焦透镜和所述第二调焦透镜为液晶透镜,所述驱动装置通过改变施加到所述第一调焦透镜和/或所述第二调焦透镜上的驱动信号,改变所述第一调焦透镜和/或所述第二调焦透镜的折射率,进而改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,最终改变所述调焦装置的焦距,以实现改变所述显示元件的二维显示画面经所述调焦装置形成的虚像平面的位置。
需要说明的是,液晶透镜在无外界电压时,液晶透镜中的微晶体无序排列,材料呈各向同性,对光线无明显偏折作用。而对液晶透镜上加上电压以后,液晶透镜中的微晶体排列有序,对光线具有偏折作用,因此,在本申请实施例中,如果所述第一液晶透镜和第二液晶透镜为液晶透镜,可以通过控制所述第一液晶透镜和所述第二液晶透镜中施加的电压,来控制所述第一液晶透镜和所述第二液晶透镜对光线的偏折作用,从而调节所述显示元件射向所述透镜元件的光线在所述调焦装置和所述透镜元件之间形成的虚像平面的位置,进而调节该虚像平面经过所述透镜元件所成的预设像面的位置,以使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
还需要说明的是,本申请实施例中的调焦装置具有轻便、小型化、响应速度快等特点,而且在利用所述调焦装置进行调焦时,无需对所述调焦装置的内部组件进行移动,因此无需电机驱动,而只需要改变调焦装置的输入电压,就可以改变调焦装置中的第一调焦元件中各调焦透镜表面对光线的偏折作用,从而可以高速度、高清晰度地进行对焦平面的重映射,进而可以快速、精准、高质量地改变显示系统的对焦深度,而不影响人眼观看三维显示图像的视角。
由此可见,本申请实施例中可以通过改变液体透镜的表面曲率和/或液晶透镜的折射率来改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,从而改变所述第一调焦元件的焦距,进而改变所述显示元件的二维显示画面经所述调焦装置形成的虚像平面的位置。
在本申请的其他实施例中,所述第一调焦透镜和所述第二调焦透镜还可以为聚合物透镜,本申请对此不做限定,只要可以通过调节所述调焦装置调节所述透镜元件形成的三维图像的预设像面的位置即可。
具体的,在本申请的一个实施例中,所述第一调焦元件的焦距为f′,所述显示元件到所述调焦装置的距离为D1,所述调焦装置在所述微透镜阵列元件的距离为D2,则所述第一调焦元件的焦距f′、所述显示元件到所述调焦装置的距离D1、所述调焦装置到所述微透镜阵列元件的距离为D2以及所述二维显示图像经过所述调焦装置所成的虚像到所述微透镜阵列元件的距离x满足将上述公式带到公式中,即可得出关于h与f′的关系式,进而可以根据所述注视对象在所述三维显示图像中的位置与所述微透镜阵列元件之间的距离h的值,计算出第一调焦元件需要达到的焦距f′。
由此可见,本申请实施例所提供的显示系统,可以通过调节所述调焦装置的焦距,调节所述显示元件的二维显示图像经过所述调焦装置所成的虚像平面的位置。
需要说明的是,如果所述第一调焦透镜和第二调焦透镜均为液晶透镜,则所述第一调焦元件的焦距f′是随着第一调焦透镜和/或第二调焦透镜的折射率的变化而改变的,在本申请实施例中,所述处理装置通过控制驱动装置改变施加在所述第一调焦元件两端的电压来改变第一调焦元件中第一调焦透镜和/或第二调焦透镜的折射率,使得所述第一调焦元件的焦距f′符合需求,从而使得显示系统的对焦深度达到要求,进而使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,即所述注视对象位于所述三维显示图像的焦平面上。
如果所述第一调焦透镜和第二调焦透镜均为液体透镜,则所述第一调焦元件的焦距f′是随着第一调焦透镜和/或第二调焦透镜的曲率的变化而改变的,在本申请实施例中,所述处理装置通过控制驱动装置改变施加在第一调焦元件两端的电压来改变第一调焦元件的曲率,使得所述第一调焦元件的焦距f′符合需求,从而使得显示系统的的对焦深度达到要求,进而使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,即所述注视对象位于所述三维显示图像的焦平面上。
需要说明的是,所述第一调焦元件的焦距f与所述驱动装置所施加的电压有一一对应关系。在本申请实施例中,在第一调焦元件内的各调焦透镜固定好位置之后,只需通过改变加在第一调焦元件电压就可以获得对应的焦距,进而可以改变所述三维显示图像的预设像面所在平面的位置。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,继续如图5示,所述调焦装置400还包括第二调焦元件420,所述第二调焦元件包括第三调焦透镜421和第四调焦透镜422,所述第三调焦透镜421和所述第四调焦透镜422为光学透镜,且所述第三调焦透镜421和所述第四调焦透镜422的凹凸性质相反。
在上述实施例的基础上,在本申请的一个实施例中,所述第三调焦透镜421为凸透镜,所示第四调焦透镜422为凹透镜;在本申请的另一个实施例中,所述第三调焦透镜421为凹透镜,所示第四调焦透镜422为凸透镜,本申请对此并不做限定,具体视情况而定。
具体的,当所述第三调焦透镜421为凸透镜,所示第四调焦透镜422为凹透镜时,如图6所示,本申请中可以通过调节第一调焦元件(包括第一调焦透镜411和第二调焦透镜412)的焦距,使得二维显示图像经所述调焦装置形成的虚像像面显示在显示元件101与调焦装置之间(即显示在近处);如图7所示,本申请中可以通过调节第一调焦元件(包括第一调焦透镜411和第二调焦透镜412)的焦距,使得二维显示图像经所述调焦装置形成的虚像像面显示在显示元件101背离所述调焦装置一侧的很远处(即显示在远处)。
需要说明的是,如果入瞳直径为3mm,所述第三调焦透镜的材质为K7,曲率半径均为22.5mm的双凸鼓形透镜,所述第四调焦透镜的材质为K7,曲率半径均为-250mm的双凹透镜,所述第一调焦透镜和第二调焦透镜的曲率半径的最小值均为15mm,则可以实现保持角放大率为1,即人对于单个像素点的视场角不变的前提条件下,所述调焦装置的虚像平面从离凹透镜50mm处到无穷远的任意连续改变,调焦时间非常短,仅有数十毫秒。
如图8所示,由于显示装置在显示图像时具有一定的有效观看区域700,具体的,定义人眼的视线与垂直于所述显示元件101所在平面的Z轴的夹角为θ(即在第二坐标系中,所述目标对象的第五注视线与Z轴的夹角为θ),所述显示系统的视场角为γ,其中,人眼正视所述显示元件101时,人眼的视线与垂直于所述显示元件101所在平面的Z轴的夹角θ=0°。受显示装置视场角γ的限制,只有视线在视场角之内(即|θ|<γ/2)的观看者才能看到完整的像,即视线在视场角之内(即|θ|<γ/2)的观看者所在的区域即为有效观看区域700,而视线在该视场角之外(即|θ|>γ/2)的观看者只能看到残缺的不完整的像。
而本申请上述提供的显示系统的三维显示图像中预设像面所在平面的位置可以根据目标对象的注视对象的不同而实时调整,因此,本申请实施例所提供的显示系统在实际使用时,其视场角所在区域也会随之发生变化,从而使得该显示装置的有效观看区域的位置也会相应的发生变化,而实际观看时,只有观看者在一个较小公共有效观看区域内,才能保证观看者在所述显示装置的预设像面的位置移动过程中,始终能够观看到显示元件上显示的清晰完整的图像,一旦离开该区域,就无法看到显示元件上显示的清晰完整的图像。
有鉴于此,在本申请上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置还用于基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述显示装置的有效观看区域也随之移动,以保证所述目标对象位于所述显示系统的有效观看区域内,进而使得位于所述显示系统预设像面移动前,位于所述显示系统有效观看区域内的所有观看者在所述显示系统的预设像面的移动过程中,仍然始终能够观看到完整的显示图像,扩大所述显示系统的有效观看区域。
需要说明的是,所述追踪装置还用于获取所述目标对象的位置,并将所述目标对象的位置发送给所述处理装置,所述目标对象的位置包括人眼视线与垂直于所述显示元件所在平面的Z轴的夹角θ,以便于所述处理装置还用于基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述显示装置的有效观看区域也随之移动,以保证所述目标对象位于所述显示系统的有效观看区域内。
可选的,所述处理装置用于执行基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内时具体用于执行:基于所述显示系统中预设像面的位置变化,确定所述待显示图像中各显示对象在所述显示元件中对应的像素位置,以通过调节所述待显示图像中各显示对象在所述显示元件中对应的像素位置,调节所述待显示图像中各显示对象在所述显示元件中的显示位置,从而调节所述显示系统的有效观看区域的位置,使得不论所述预设像面如何移动,所述目标对象始终位于所述显示系统的有效观看区域内。
具体的,在本申请的一个实施例中,所述显示元件中包括n*n个微透镜,每个微透镜对应一个子图像,每个微透镜对应的子图像大小包括m*m个像素,则第(i,j)个子图像在整个LED屏幕上的位置就是从(i*m,j*m)位置的像素到(i*m+m-1,j*m+m-1)位置的像素所限定的正方形区域,那么,当所述待显示图像在所述显示元件中的显示位置需要向上移动2个子像素位置时,则第(i,j)个子图像在整个LED屏幕上的位置就变成了(i*m,j*m-2)位置的像素到(i*m+m-1,j*m+m-3)位置的像素所限定成的正方形区域。
在本申请的另一个实施例中,图8为人眼的视线与垂直于所述显示元件101所在平面的Z轴的夹角θ=0°时的光路示意图,图9为人眼的视线与垂直于所述显示元件101所在平面的Z轴的夹角θ>0°时的光路示意图,具体调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内的过程如下:如果人眼的视线与垂直于所述显示元件101所在平面的Z轴的夹角存在一定角度,即θ>0,也即所述目标对象注视所述显示画面中心时的角度与所述目标对象注视正前方时存在一定角度,则所述处理装置基于所述显示系统中预设像面的位置变化,确定所述待显示图像中各显示对象在所述显示元件101中对应的像素位置,以通过向下调节所述待显示图像中各显示对象在所述显示元件101中对应的像素位置,调节所述待显示图像中各显示对象在所述显示元件101中的显示位置,从而使显示系统的视场角向上偏移预设角度,以匹配观看者的位置,具体的,图9中所述待显示图像在所述显示元件101中的显示位置相较于图8中所述待显示图像在所述显示元件101中的显示位置沿第二坐标系中的Y轴方向向下移动了2个子像素位移。
相应的,本申请还提供了一种显示方法,该显示方法应用于上述任一实施例中所提供的集成成像显示系统,所述的显示系统,所述显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成三维显示图像;如图10所示,该显示方法包括:
S1:基于所述追踪装置获取的目标对象的眼部图像;
S2:确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置;
S3:通过所述驱动装置调节所述调焦装置的预设参数,使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配。
由于基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,以及通过所述驱动装置调节所述调焦装置的预设参数,使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配的具体实现方式参见本申请上述各实施例中,在此不再详细赘述。
在上述任一实施例的基础上,在本申请一个实施例中,所述预设参数包括调焦装置的曲率、所述调焦装置的折射率以及调焦装置与透镜元件的距离中的至少一个,在本申请的其他实施例中所述预设参数还可以包括其他的参数,本申请对此不做限定,具体视情况而定。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,该方法还包括:基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述显示装置的有效观看区域也随之移动,以保证所述目标对象位于所述显示系统的有效观看区域内,进而使得位于所述显示系统预设像面移动前,位于所述显示系统有效观看区域内的所有观看者在所述显示系统的预设像面的移动过程中,仍然始终能够观看到完整的显示图像,扩大所述显示系统的有效观看区域。
综上所述,本申请实施例所提供的显示系统,可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,进而使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像。
而且,由于所述三维显示图像中预设像面所在平面的位置可以跟随目标对象的注视对象移动,使得目标对象无论注视三维显示图像中的哪个显示对象,都可以获得清晰的显示图像,因此,该显示系统还降低了观看者在观看三维显示图像时的视觉疲劳。
本说明书中各个部分采用并列和递进的方式描述,每个部分重点说明的都是与其他部分的不同之处,各个部分之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (10)
1.一种集成成像显示系统,其特征在于,包括:
显示装置,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成三维显示图像;
追踪装置,用于获取目标对象的眼部图像;
处理装置,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置,用于调节所述三维显示图像的预设像面所在平面的位置;
驱动装置,用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
2.根据权利要求1所述的显示系统,其特征在于,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述目标对象的左眼球在第二标系中对应的第三坐标和第三注视方向;
基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的右眼球在第二标系中对应的第四坐标和第四注视方向;
基于所述目标对象的左眼球在第二坐标系中的第三坐标和第三注视方向以及所述目标对象的右眼球在所述第二坐标系中的第四坐标和第四注视方向,确定在第二坐标系中所述目标对象的对焦位置;
基于所述对焦位置和所述目标对象正视前方时所述左眼球和所述右眼球的中点,确定第五注视方向;
基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
在所述第二坐标系中,X轴和Y轴位于所述显示元件所在的平面内且相互垂直,Z轴垂直于所述显示元件所在的平面。
3.根据权利要求2所述的显示系统,其特征在于,所述处理装置在执行基于所述待显示图像中各显示对象在所述第二坐标系中的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
将所述待显示图像的各显示对象中与所述第五注视方向对应的第五注视线之间距离最小且距离所述目标对象最近的显示对象作为所述目标对象在所述待显示图像上的注视对象。
4.根据权利要求2所述的显示系统,其特征在于,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述透镜元件的坐标,确定所述注视对象的深度信息。
5.根据权利要求1所述的显示系统,其特征在于,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:
响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的曲率,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的折射率,使得所述预设像面所在平面的位置与所述注视对象的深度信息相匹配。
6.根据权利要求5所述的显示系统,其特征在于,所述调焦装置包括:第一调焦元件,所述第一调焦元件包括第一调焦透镜和第二调焦透镜,所述第一调焦透镜和所述第二调焦透镜为液体透镜,且所述第一调焦透镜和所述第二调焦透镜的凹凸性质相反。
7.根据权利要求6所述的显示系统,其特征在于,所述调焦装置还包括:第二调焦元件,所述第二调焦元件包括第三调焦透镜和第四调焦透镜,所述第三调焦透镜和所述第四调焦透镜为固体透镜。
8.根据权利要求1所述的显示系统,其特征在于,所述处理装置还用于基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内。
9.一种显示方法,其特征在于,应用于权利要求1-8任一项所述的集成成像显示系统,所述显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成三维显示图像;该方法包括:
基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,通过所述驱动装置调节所述调焦装置的预设参数,使得所述三维显示图像的预设像面所在平面的位置与所述注视对象的深度信息相匹配。
10.根据权利要求9所述的显示方法,其特征在于,该方法还包括:
基于所述目标对象的位置,调节所述显示元件的二维显示画面,使得所述预设像面在移动的过程中,所述目标对象位于所述显示系统的有效观看区域内。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911274196.2A CN110933396A (zh) | 2019-12-12 | 2019-12-12 | 集成成像显示系统及其显示方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911274196.2A CN110933396A (zh) | 2019-12-12 | 2019-12-12 | 集成成像显示系统及其显示方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110933396A true CN110933396A (zh) | 2020-03-27 |
Family
ID=69860251
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911274196.2A Pending CN110933396A (zh) | 2019-12-12 | 2019-12-12 | 集成成像显示系统及其显示方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110933396A (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
LT2007066A (en) * | 2007-10-22 | 2009-04-27 | Uab "Geola Digital" | Method and system for observation of flow spatial images |
CN102981616A (zh) * | 2012-11-06 | 2013-03-20 | 中兴通讯股份有限公司 | 增强现实中对象的识别方法及系统和计算机 |
CN104297930A (zh) * | 2014-10-09 | 2015-01-21 | 深圳市华星光电技术有限公司 | 一种集成成像三维立体显示装置及显示系统 |
CN104798370A (zh) * | 2012-11-27 | 2015-07-22 | 高通股份有限公司 | 用于产生3-d全光视频图像的系统和方法 |
CN105141938A (zh) * | 2015-08-18 | 2015-12-09 | 深圳先进技术研究院 | 视线定位装置 |
CN106293100A (zh) * | 2016-08-24 | 2017-01-04 | 上海与德通讯技术有限公司 | 虚拟现实设备中视线焦点的确定方法及虚拟现实设备 |
CN108663799A (zh) * | 2018-03-30 | 2018-10-16 | 蒋昊涵 | 一种vr图像的显示控制系统及其显示控制方法 |
US20190302464A1 (en) * | 2018-03-27 | 2019-10-03 | Boe Technology Group Co., Ltd. | Method and apparatus for adjusting imaging position and head-up display system |
-
2019
- 2019-12-12 CN CN201911274196.2A patent/CN110933396A/zh active Pending
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
LT2007066A (en) * | 2007-10-22 | 2009-04-27 | Uab "Geola Digital" | Method and system for observation of flow spatial images |
CN102981616A (zh) * | 2012-11-06 | 2013-03-20 | 中兴通讯股份有限公司 | 增强现实中对象的识别方法及系统和计算机 |
CN104798370A (zh) * | 2012-11-27 | 2015-07-22 | 高通股份有限公司 | 用于产生3-d全光视频图像的系统和方法 |
CN104297930A (zh) * | 2014-10-09 | 2015-01-21 | 深圳市华星光电技术有限公司 | 一种集成成像三维立体显示装置及显示系统 |
CN105141938A (zh) * | 2015-08-18 | 2015-12-09 | 深圳先进技术研究院 | 视线定位装置 |
CN106293100A (zh) * | 2016-08-24 | 2017-01-04 | 上海与德通讯技术有限公司 | 虚拟现实设备中视线焦点的确定方法及虚拟现实设备 |
US20190302464A1 (en) * | 2018-03-27 | 2019-10-03 | Boe Technology Group Co., Ltd. | Method and apparatus for adjusting imaging position and head-up display system |
CN108663799A (zh) * | 2018-03-30 | 2018-10-16 | 蒋昊涵 | 一种vr图像的显示控制系统及其显示控制方法 |
Non-Patent Citations (2)
Title |
---|
ANTING WANG: "High_Optical_Efficiency_Lensless_2D3D_Convertible_Integral_Imaging_Display_Using_an_Edge-Lit_Light_Guide_Plate", IEEE * |
王安廷: "基于人眼视觉特性的三维显示技术", CNKI * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108663799B (zh) | 一种vr图像的显示控制系统及其显示控制方法 | |
US11132056B2 (en) | Predictive eye tracking systems and methods for foveated rendering for electronic displays | |
US11614631B1 (en) | Adaptive viewports for a hyperfocal viewport (HVP) display | |
US10871825B1 (en) | Predictive eye tracking systems and methods for variable focus electronic displays | |
JP3787939B2 (ja) | 立体映像表示装置 | |
CN111175978B (zh) | 头戴式显示装置 | |
CN108632599B (zh) | 一种vr图像的显示控制系统及其显示控制方法 | |
WO2016086742A1 (zh) | 基于微透镜阵列的近眼显示器 | |
JP2014219621A (ja) | 表示装置、表示制御プログラム | |
US20150187115A1 (en) | Dynamically adjustable 3d goggles | |
US20190018236A1 (en) | Varifocal aberration compensation for near-eye displays | |
US9905143B1 (en) | Display apparatus and method of displaying using image renderers and optical combiners | |
US6788274B2 (en) | Apparatus and method for displaying stereoscopic images | |
JP2015519590A5 (zh) | ||
CN211786414U (zh) | 虚拟现实显示系统 | |
JPH06235885A (ja) | 立体映像表示装置 | |
CN110794590B (zh) | 虚拟现实显示系统及其显示方法 | |
JPH0685590B2 (ja) | 立体表示システム | |
CN211791831U (zh) | 集成成像显示系统 | |
CN110933396A (zh) | 集成成像显示系统及其显示方法 | |
JP2002303821A (ja) | 立体ディスプレイ装置及び立体ディスプレイ装置における画面制御方法 | |
JP2001218231A (ja) | 立体画像を表示する装置および方法 | |
JPH08223609A (ja) | 焦点調節の可能な三次元表示方法および表示装置 | |
TWI612335B (zh) | 頭戴式顯示裝置及頭戴式顯示裝置之雙眼視覺影像定位方法 | |
US20220350141A1 (en) | Head-mountable display apparatus and methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |