CN110794590B - 虚拟现实显示系统及其显示方法 - Google Patents

虚拟现实显示系统及其显示方法 Download PDF

Info

Publication number
CN110794590B
CN110794590B CN201911274250.3A CN201911274250A CN110794590B CN 110794590 B CN110794590 B CN 110794590B CN 201911274250 A CN201911274250 A CN 201911274250A CN 110794590 B CN110794590 B CN 110794590B
Authority
CN
China
Prior art keywords
display
image
focusing
target object
gazing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201911274250.3A
Other languages
English (en)
Other versions
CN110794590A (zh
Inventor
张思远
王安廷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
University of Science and Technology of China USTC
Original Assignee
University of Science and Technology of China USTC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by University of Science and Technology of China USTC filed Critical University of Science and Technology of China USTC
Priority to CN201911274250.3A priority Critical patent/CN110794590B/zh
Publication of CN110794590A publication Critical patent/CN110794590A/zh
Application granted granted Critical
Publication of CN110794590B publication Critical patent/CN110794590B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/0075Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for altering, e.g. increasing, the depth of field or depth of focus

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Processing Or Creating Images (AREA)

Abstract

本申请实施例公开了一种虚拟现实显示系统及其显示方法,该显示系统可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述显示系统形成的显示图像到观看者的距离等于所述显示系统形成的显示图像的视差对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。

Description

虚拟现实显示系统及其显示方法
技术领域
本申请涉及显示技术领域,尤其涉及一种虚拟现实显示系统及其显示方法。
背景技术
随着显示技术的飞速发展,越来越多的立体显示技术被广泛的应用,其立体显示的原理主要是建立在两眼视差的基础上,使观看者的左、右眼接收到不同角度的影像信号,这两种不同角度的影像信号经过大脑可视化处理之后,即可在脑海中产生立体视觉效果。
然而,利用现有虚拟现实显示装置在观看立体显示画面时,观看者容易产生视觉疲劳。
发明内容
为解决上述技术问题,本申请实施例提供了一种虚拟现实显示系统及显示方法,以解决利用现有虚拟现实显示装置观看立体显示画面时,观看者容易产生视觉疲劳的问题。
为解决上述问题,本申请实施例提供了如下技术方案:
一种虚拟现实显示系统,包括:
显示装置,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成第一显示虚像;
追踪装置,用于获取目标对象的眼部图像;
处理装置,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置,用于调节所述显示系统的显示图像所在平面的位置;
驱动装置,用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
可选的,所述显示元件包括第一显示元件和第二显示元件,其中,所述第一显示元件用于基于所述待显示图像形成二维的第一显示图像,所述第二显示元件用于基于所述待显示图像形成二维的第二显示图像,所述第一显示图像和所述第二显示图像不同;
所述透镜元件包括第一透镜元件和第二透镜元件,其中,所述第一透镜元件用于基于所述第一显示图像形成第一子显示虚像,所述第二透镜元件用于基于所述第二显示图像形成第二子显示虚像;
其中,所述第一子显示虚像所在平面和所述第二子显示虚像所在平面为同一平面。
可选的,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的右眼球的第四坐标和第四注视方向;
基于所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球对应的第三坐标和第三注视方向及其右眼球对应的第四坐标和第四注视方向,确定在所述第二坐标系中与所述目标对象对应的虚拟观看者的对焦位置;
基于所述第二坐标系中所述虚拟观看者的对焦位置以及所述虚拟观看者正视前方时左眼球和右眼球的中点的坐标,确定第五注视方向;
基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
所述第二坐标系位于虚拟现实环境中,为静止坐标系,且在所述第二坐标系中,其X轴、Y和Z轴相互垂直。
可选的,所述处理装置在执行基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
将所述第二坐标系中所述待显示图像的各显示对象中与所述第五注视方向对应的所述第五注视线之间距离最小且距离所述虚拟观看者最近的显示对象作为所述目标对象在所述待显示图像上的注视对象。
可选的,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述目标对象对应的虚拟观看者的坐标,确定所述注视对象的深度信息。
可选的,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:
响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的曲率,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的折射率,使得所显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
可选的,所述调焦装置位于所述显示元件与所述透镜元件之间,或所述调焦装置位于透镜元件背离所述显示元件一侧。
可选的,所述调焦装置包括:第一调焦元件,所述第一调焦元件包括第一调焦透镜和第二调焦透镜,所述第一调焦透镜和所述第二调焦透镜为液体透镜,所述第一调焦透镜和所述第二调焦透镜的凹凸性质相反。
可选的,所述调焦装置还包括:第二调焦元件,所述第二调焦元件包括:第三调焦透镜和第四调焦透镜,所述第三调焦透镜和所述第四调焦透镜为固体透镜。
一种显示方法,其特征在于,应用于上述任一项所述的虚拟现实显示系统,所述显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成第一显示虚像;该方法包括:
基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,通过所述驱动装置调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
与现有技术相比,上述技术方案具有以下优点:
本申请实施例所提供的虚拟现实显示系统,可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述显示系统的显示图像距离观看者的距离等于所述显示系统的显示图像的视差所对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种虚拟现实显示系统的结构示意图;
图2为本申请实施例提供的一种虚拟现实显示系统中显示装置、调焦装置、追踪装置和目标对象的相对位置示意图;
图3为本申请实施例提供的一种虚拟现实显示系统中追踪装置的结构示意图;
图4为本申请实施例提供的一种虚拟现实显示系统中,目标对象在注视目标A时的光路方向示意图;
图5为本申请实施例提供的一种虚拟现实显示系统中,目标对象在注视目标B时的光路方向示意图;
图6为本申请实施例提供的一种虚拟现实显示系统中,基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象的示意图;
图7为本申请实施例提供的一种虚拟现实显示系统中,调焦装置的结构示意图;
图8为本申请实施例提供的一种虚拟现实显示系统中,所述调焦装置基于二维显示图像形成的第一显示虚像显示在显示元件与调焦装置之间时的光路示意图;
图9为本申请实施例提供的一种虚拟现实显示系统中,所述调焦装置基于二维显示图像形成的第一显示虚像显示在显示元件背离调焦装置一侧时的光路示意图;
图10为本申请实施例提供的一种显示方法的流程图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。基于本申请中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。
在下面的描述中阐述了很多具体细节以便于充分理解本申请,但是本申请还可以采用其他不同于在此描述的其它方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施例的限制。
正如背景技术部分所述,利用现有的虚拟现实显示装置观看立体显示画面时,观看者容易产生视觉疲劳。
这是观看者在利用现有的虚拟现实显示装置观看显示画面时,基于左眼观看的图像和右眼观看的图像得到的对焦距离为该显示画面拍摄时的视差(如两米),但是观看者调节左眼和右眼的对焦距离,获得清晰的显示画面时,其实际得到的对焦距离可能为不同于该显示画面拍摄时的视差的另一数值(如五米),从而导致观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离相冲突,使得观看者容易产生视觉疲劳。
有鉴于此,本申请实施例提供了一种虚拟现实显示系统,如图1、图2和图3所示,该虚拟现实显示系统包括:
显示装置100,所述显示装置100包括显示元件101和透镜元件102,所述显示元件101用于基于待显示图像形成二维显示图像,所述透镜元件102用于基于所述二维显示图像形成第一显示虚像;
追踪装置200,用于获取目标对象的眼部图像;
处理装置300,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置400,用于调节所述显示系统的显示图像所在平面的位置;
驱动装置500,用于响应所述控制指令,调节所述调焦装置400的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
需要说明的是,在本申请实施例中,所述目标对象可以为现实环境中的观看者的眼睛,在本申请另一个实施例中,所述目标对象也可以为现实环境中的观看者的头部,在本申请其他实施例中所述目标对象还可以为现实环境中的观看者本人,本申请对此不做限定,只要所述目标对象包括现实环境中观看者的眼睛即可。
在上述实施例的基础上,在本申请一个实施例中,所述显示元件为LED显示屏,在本申请的其他实施例中,所述显示元件为其他类型的显示屏,本申请对此并不做限定,具体视情况而定。
在上述任一实施例的基础上,在本申请一个实施例中,所述预设参数包括调焦装置的曲率、所述调焦装置的折射率或调焦装置与透镜元件的距离中的至少一个,在本申请的其他实施例中所述预设参数还可以包括其他的参数,本申请对此不做限定,具体视情况而定。
可选的,在本申请实施例中,所述追踪装置用于获取目标对象的眼部图像时具体用于:实时获取所述目标对象的眼部图像。具体的,所述追踪装置为眼动追踪装置,以准确的获取瞳孔位置,并具有较短的延迟和较高的刷新率。
在上述实施例的基础上,在本申请的一个具体实施例中,所述眼动追踪装置的刷新率大于或等于100Hz。但本申请对此并不做限定,具体视情况而定。
因此,本申请实施例所提供的虚拟现实显示系统中可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述显示系统的显示图像到观看者的距离等于所述显示系统的显示图像的视差对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。
继续如图4-5所示,在本申请的一个具体实施例中,所述目标对象的注视对象由图4中所示的目标A变为图5中所示的目标B,具体的工作过程为:处理装置基于所述目标对象的眼部图像,确定所述目标对象的注视对象为目标B以及所述目标B的深度信息,并基于所述目标B的深度信息生成控制指令给所述驱动装置,以使得所述驱动装置响应所述控制指令,调节所述调焦装置的预设参数,改变所述显示系统的显示图像所在平面的位置,使得所述显示系统的显示图像所在平面由位置A’移动到位置B’,以使得所述显示系统的显示图像所在平面的位置距离所述目标对象的距离等于所述显示系统的显示图像的视差所对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。需要说明的是,图4中位于观看者的眼部和显示元件之间的实线为观看者的眼部观看目标A的实际光路走向,而虚线是观看者的眼部观看目标A时主观认为的光路走向;图5中位于观看者的眼部和显示元件之间的实线为观看者的眼部观看目标B的实际光路走向,而虚线是观看者的眼部观看目标B时主观认为的光路走向。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,所述显示元件包括第一显示元件和第二显示元件,其中,所述第一显示元件用于基于所述待显示图像形成二维的第一显示图像,所述第二显示元件用于基于所述待显示图像形成二维的第二显示图像,所述第一显示图像和所述第二显示图像不同;
所述透镜元件包括第一透镜元件和第二透镜元件,其中,所述第一透镜元件用于基于所述第一显示图像形成第一子显示虚像,所述第二透镜元件用于基于所述第二显示图像形成第二子显示虚像;
其中,所述第一子显示虚像所在平面和所述第二子显示虚像所在的平面为同一平面。
需要说明的是,所述第一透镜元件和所述第二透镜元件为凸透镜,本申请对此并不做限定,在本申请的其他实施例中,所述第一透镜元件和所述第二透镜元件还可以为其他光学元件,只要保证所述第一透镜元件基于所述第一显示图像形成第一子显示虚像,所述第二透镜元件基于所述第二显示图像形成第二子显示虚像元件即可。
在上述任一实施例的基础上,在本申请的一个实施例中,继续如图2所示,所述追踪装置包括:
红外发射元件201和红外探测元件202,其中,所述红外发射元件201用于向所述目标对象的眼部发射红外光,所述红外探测元件202用于接收所述目标对象的眼部反射的红外光,并基于所述目标对象的眼部反射的红外光,生成红外图像,所述红外图像中包含有所述目标对象的眼部图像。
本申请所提供的追踪装置中的红外发射元件可以为观看者的眼部提供足够的红外光线,以确保追踪装置的红外探测元件能够获得足够多的目标对象的眼部反射的红外光线,以便于基于该目标对象的眼部反射的红外光线获得清晰的红外图像,提高追踪装置的精确性,从而使得所述处理装置基于该红外图像确定目标对象的注视方向时,更为准确。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,如图6所示,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的右眼球的第四坐标和第四注视方向;
基于所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球对应的第三坐标和第三注视方向以及所述虚拟观看者的右眼球对应的第四坐标和第四注视方向,确定在所述第二坐标系中所述虚拟观看者的对焦位置;
基于所述第二坐标系中所述虚拟观看者对焦位置和所述虚拟观看者正视前方时左眼球和右眼球的中点的坐标,确定第五注视方向;
基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
所述第二坐标系位于虚拟现实环境中,为静止坐标系,且在所述第二坐标系中,其X轴、Y和Z轴相互垂直。
需要说明的是,在本申请实施例中,对第二坐标系中X轴、Y轴和Z具体位置的设定不做限定,可以由该虚拟显示环境对应的开发者根据自己需求进行设定,只要保证所述第二坐标系在所述虚拟现实环境中始终为静止坐标系即可,即不论所述虚拟现实环境中,各显示对象和所述虚拟观看者如何变动,该第二坐标系始终不发生变化。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的左眼球在第一坐标系中的第一坐标确定所述目标对象的左眼球的注视方向(即所述第一注视方向)时具体用于:
基于所述目标对象的左眼球在第一坐标系中的第一坐标以及预先存储的所述目标对象的左眼球在第一坐标系中的坐标与成像角度的第一对应关系,确定所述目标对象的左眼球的第一注视方向,即所述目标对象的左眼球在所述第一坐标系中的成像角度。其中,所述目标对象的左眼球在第一坐标系中的成像角度是指所述目标对象的左眼球在第一坐标系中的注视方向与所述第一坐标系中Z轴的夹角。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的右眼球在第一坐标系中的第一坐标确定所述目标对象的右眼球的注视方向(即所述第二注视方向)时具体用于:
基于所述目标对象的右眼球在第一坐标系中的第二坐标以及预先存储的所述目标对象的右眼球在第一坐标系中的坐标与成像角度的第二对应关系,确定所述目标对象的右眼球的注视方向,也即所述目标对象的右眼球在所述第一坐标系中的成像角度。其中,所述目标对象的右眼球在第一坐标系中的成像角度是指所述目标对象的右眼球在第一坐标系中的注视方向与所述第一坐标系中Z轴的夹角。
在上述实施例的基础上,在本申请的一个实施例中,所述第一对应关系和所述第二对应关系为同一对应关系,即基于所述目标对象的左眼球在第一坐标系中的坐标和右眼球在第一坐标系中的坐标查询同一对应关系,获得所述目标对象的左眼球在第一坐标系中的成像角度和右眼球在第一坐标系中的成像角度;在本申请的另一个实施例中,所述第一对应关系和所述第二对应关系为不同的对应关系,即基于所述目标对象的左眼球在第一坐标系中的坐标和右眼球在第一坐标系中的坐标分别查询左眼球对应的对应关系和右眼球对应的对应关系,获得所述目标对象的左眼球在第一坐标系中的成像角度和右眼球在第一坐标系中的成像角度。
具体的,在第一坐标系中,所述目标对象注视正前方时,所述目标对象的左眼球在第一坐标系中的坐标为(xL0,yL0),右眼球在第一坐标系中的坐标为(xR0,yR0),所述目标对象注视所述待显示图像中的注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标RL′为(xL,yL),右眼球在第一坐标系中的第二坐标RR′为(xR,yR),所述目标对象左眼球在第一坐标系中的注视方向对应的成像角度用极坐标表示,为(θL,/>),所述目标对象右眼球在第一坐标系中的注视方向对应的成像角度/>用极坐标表示,为(θR,/>),则:
所述目标对象的左眼球在第一坐标系中的第一坐标:
P′L=(xL-x0)ex′+(yL-y0)ey′;
所述目标对象的左眼球在第一坐标系中的第一注视方向对应的成像角度可表示为:/>
其中,ex′为第一坐标系中X轴的单位矢量;ey′为第一坐标系中Y轴的单位矢量;表示所述目标对象的左眼球在第一坐标系中的第一注视方向对应的成像角度/>与所述目标对象的左眼球在第一坐标系中的第一坐标R′L的对应关系;
同理,所述目标对象的右眼球在第一坐标系中的第二坐标:
RR′=(xR-x0)ex′+(yR-y0)ey′;
所述目标对象的右眼球在第一坐标系中的第二注视方向对应的成像角度可表示为:/>
其中,表示所述目标对象的右眼球在第一坐标系中的第二注视方向对应的成像角度/>与所述目标对象的右眼球在第一坐标系中的第二坐标RR′的对应关系。
在上述任一实施例的基础上,在本申请的一个实施例中,所述目标对象的眼球在第一坐标系中的坐标与成像角度的对应关系的获得方法包括:
获取所述目标对象注视正前方时的左眼球在第一坐标系中的坐标(xL0,yL0)和右眼球在第一坐标系中的坐标(xR0,yR0);
获取所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的左眼球在第一坐标系中的坐标和左眼球的注视视线在第一坐标系中对应的成像角度以及右眼球在第一坐标系中的坐标和右眼球的注视视线在第一坐标系中对应的成像角度;
基于所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的左眼球在第一坐标系中的坐标(xL,yL)和左眼的注视视线在第一坐标系中对应的成像角度(θL),获得所述目标对象的左眼球在第一坐标系中的坐标与左眼球的注视视线在第一坐标系中对应的成像角度的对应关系(即(xL-xL0,yL-yL0)与(θL,/>)的对应关系);
基于所述目标对象分别注视不同方向的注视对象(即所述目标对象的注视方向与所述第一坐标系中Z轴的夹角不同,也即所述成像角度不同)时,所述目标对象的右眼球在第一坐标系中的坐标(xR,yR)和右眼球的注视视线在第一坐标系中对应的成像角度(θR),获得所述目标对象的右眼球在第一坐标系中的坐标与右眼球的注视视线在第一坐标系中对应的成像角度的对应关系(即(xR-xR0,yR-yR0)与(θR,/>)的对应关系)。
即在本申请实施例中,基于所述目标对象的眼部图像获得所述目标对象的左眼球和右眼球坐标后,先计算其相较于所述目标对象注视正前方时的位置偏移(即(xL-xL0,yL-yL0)、(xR-xR0,yR-yR0)),再基于其相较于所述目标对象注视正前方时的位置偏移(即(xL-xL0,yL-yL0)、(xR-xR0,yR-yR0)),查询所述第一对应关系和所述第二对应关系,获得所述目标对象左眼球在第一坐标系中的注视方向和右眼球在第一坐标系中的注视方向。
在本申请的其他实施例中,所述目标对象的左眼球在第一坐标系中的坐标与左眼球的注视视线在第一坐标系中对应的成像角度的对应关系还可以为(xL-x0,yL-y0)与(θL)的对应关系;所述目标对象的右眼球在第一坐标系中的坐标与右眼球的注视视线在第一坐标系中对应的成像角度的对应关系还可以为(xR-x0,yR-y0)与(θR,/>)的对应关系,本申请对此不做限定,具体视情况而定。
在上述实施例的基础上,在本申请的一个实施例中,为减小实际使用时利用所述第一对应关系和所述第二对应关系确定目标对象的注视方向时的误差,在确定所述第一对应关系和所述第二对应关系时,需要多次测量所述目标对象在同一注视方向下的坐标,利用拟合方式对多次测量的同一注视方向下的坐标进行拟合,以确定目标对象在该注视方向下与其对应的眼球坐标的对应关系。
在上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的右眼球的第四坐标和第四注视方向时具体用于:
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,利用第一转换矩阵,确定所述第二坐标系中所述虚拟观看者(即游戏中与目标对象对应的人物角色)的左眼球的第三坐标和第三注视方向;
基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,利用第二转换矩阵,确定所述第二坐标系中所述虚拟观看者(即游戏中与所述目标对象对应的人物角色)的右眼球的第四坐标和第四注视方向。
可选的,在上述实施例的基础上,在本申请的一个实施例中,所述第一转换矩阵和所述第二转换矩阵相同,但本申请对此并不做限定,在本申请的其他实施例中,所述第一转换矩阵和所述第二转换矩阵也可以不同,具体视情况而定。
下面以所述第一转换矩阵和所述第二转换矩阵相同为例进行描述。
具体的,在本申请的一个实施例中,所述第一转换矩阵和所述第二转换矩阵AH为:
所述目标对象的左眼球在第一坐标系中的第一坐标为RL′,所述目标对象的左眼球在第一坐标系中的第一注视方向为所述目标对象的右眼球在第一坐标系中的第二坐标为RR′,所述目标对象的右眼球在第一坐标系中的第二注方向为/>所述目标对象在所述第二坐标系中所对应的虚拟观看者正视前方时左眼球坐标和右眼球坐标的中点在第二坐标系中的坐标为RE(x,y,z);则:
所述目标对象在所述第二坐标系中所对应的虚拟观看者的左眼球在第二坐标系中的第三坐标RL为:RL=RE+AHRL′;
所述目标对象在所述第二坐标系中所对应的虚拟观看者的左眼球在第二坐标系中的第三注视方向为:/>
所述目标对象在所述第二坐标系中所对应的虚拟观看者的右眼球在第二坐标系中的第四坐标RR为:RR=RE+AHRR
所述目标对象在所述第二坐标系中所对应的虚拟观看者的右眼球在第二坐标系中的第四注视方向为:/>
需要说明的是,在上述实施例中,所述第一转换矩阵和所述第二转换矩阵AH基于所述虚拟显示环境中第三坐标系与所述第二坐标系的相对位置关系(αH,βH,γH)确定,其中,所述第三坐标系位于所述虚拟现实环境中,且在所述第三坐标系中,X轴和Y轴位于所述虚拟现实环境中所述虚拟观看者眼部所在的平面内且相互垂直,Z轴垂直于所述虚拟现实环境中所述虚拟观看者眼部所在的平面。由于其确定方法已为本领域技术人员所熟知,本申请对此不再详述。
在本申请上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于所述第二坐标系中所述目标对象对应的虚拟观看者(即游戏中的人物角色)的左眼球的第三坐标和第三注视方向以及所述虚拟观看者的右眼球第四坐标和第四注视方向,确定在所述第二坐标系中所述虚拟观看者的对焦位置时具体用于执行:
基于所述第二坐标系中所述虚拟观看者的左眼球的第三坐标确定所述虚拟观看者的左眼球的注视方向,即所述第三注视方向;
以所述第三坐标为始点,所述第三注视方向为矢量方向,确定第三注视线,即为所述第二坐标系中所述虚拟观看者的左眼球的注视线lL,其表达式可以表示为:
基于所述第二坐标系中所述虚拟观看者的右眼球的第四坐标确定所述虚拟观看者的右眼球的注视方向,即所述第四注视方向;
以所述第四坐标为始点,所述第四注视方向为矢量方向,确定第四注视线,即为所述第二坐标系中所述虚拟观看者的右眼球的注视线lR,其表达式可以表示为:
基于所述第三注视线和所述第四注视线在第二坐标系中的交点位置,确定所述第二坐标系中所述虚拟观看者的对焦位置。
在上述实施例所述第三注视线和所述第四注视线的表达式中,r表示所述第三注视线或所述第四注视线所在的直线,t表示方程参数,即上述方程中的自变量。
需要说明的是,理论情况下,所述第三注视线lL和所述第四注视线lR在所述第二坐标系中必定交于一点。但是,实际使用中,这两条注视线也可能不在同一平面上,使得所述第三注视线lL和所述第四注视线lR在所述第二坐标系中不会直接相交,因此,在上述实施例的基础上,在本申请的一个实施例中,如果所述第三注视线lL和所述第四注视线lR在所述第二坐标系中直接相交于一点,则所述第三注视线lL和所述第四注视线lR的交点所在位置即为所述虚拟现实环境中所述虚拟观看者的对焦位置RT0;如果所述第三注视线lL和所述第四注视线lR在所述第二坐标系中不直接相交,则先取所述第三注视线lL和所述第四注视线lR上相距最近的两点,然后再取这两点的中点,该中点所在位置记为所述虚拟现实环境中所述虚拟观看者的对焦位置RT0,则本申请实施例基于所述对焦位置在第二坐标系中的坐标RT0和所述虚拟观看者在所述第二坐标系中正视前方时所述左眼球和所述右眼球的中点的坐标RE,即可确定第五注视方向,即所述虚拟观看者在所述第二坐标系中的第五注视线l0,其表达式可以表示为:r=RE+t(RT0-RE)。
在上述任一实施例的基础上,在本申请的一个实施例中,所述第一坐标系的原点为所述目标对象的左眼球和右眼球注视正前方时,所述左眼球和所述右眼球的中点。在本申请的其他实施例中,所述第一坐标系的原点还可以为其他点,本申请对此不做限定,具体视情况而定。
下面以所述第一坐标系的原点为所述目标对象的左眼球和右眼球注视正前方时,所述左眼球和所述右眼球的中点为例进行描述。
在本申请实施例中,所述虚拟现实显示系统在第一次使用之前,需要对第一坐标系的原点进行校正,具体包括:获取所述目标对象注视正前方时,所述左眼球在第一坐标系的坐标(xL0,yL0)和右眼球在第一坐标系的坐标(xR0,yR0),基于所述目标对象注视正前方时,所述左眼球在第一坐标系的坐标(xL0,yL0)和所述右眼球在第一坐标系的坐标(yR0,yR0)计算第一坐标系中原点的位置(x0,y0),其中,x0=(xL0+xR0)/2,y0=(yL0+yR0)/2。
需要说明的是,在上述实施例的基础上,在本申请的一个实施例中,所述显示系统在第一次使用之前,对第一坐标系的原点进行校正可以为所述显示系统在出厂第一次使用之前,对第一坐标系的原点进行校正,后续不再进行校正,也可以为所述显示系统在每次使用之前,均对第一坐标系的原点进行校正,还可以在显示系统此次使用时间距离上次使用时间间隔预设时间后的第一次使用之前,对第一坐标系的原点进行校正,本申请对此并不做限定,具体视情况而定。
由于所述虚拟现实环境为三维虚拟场景,所述虚拟现实环境中各显示对象并不全部位于同一平面内,因此,在上述实施例的基础上,在本申请的一个实施例中,所述处理装置在执行基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:将所述第二坐标系中所述待显示图像的各显示对象中与所述第五注视方向对应的第五注视线之间距离最小且距离所述虚拟观看者最近的显示对象作为所述目标对象在所述待显示图像上的注视对象,即将所述虚拟现实环境中与所述第五注视线之间距离最小且距离所述虚拟观看者最近的显示物体作为所述目标对象的注视对象。
虽然上述实施例中是分别将目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向转换到第二坐标系中,确定目标对象在所述第二坐标系中所对应的虚拟观看者的左眼球和右眼球的对焦位置以及第五注视方向,但本申请对此并不做限定,在本申请的其他实施例中,也可以先在所述第一坐标系中基于目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向,确定所述目标对象在所述第一坐标系中的对焦位置以及第六注视方向,再将其转换到第二坐标系中,确定第五注视方向,具体视情况而定。
具体的,如果本申请实施例先在所述第一坐标系中基于目标对象的左眼球和右眼球在第一坐标系中的坐标和注视方向,确定所述目标对象在所述第一坐标系中的对焦位置以及第六注视方向,再将其转换到第二坐标系中,所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向,确定所述目标对象的对焦位置;
基于所述目标对象的对焦位置和所述目标对象正视前方时所述左眼球和所述右眼球的中点,确定所述目标对象在所述第一坐标系中的第六注视方向;
基于所述目标对象在所述第一坐标系中的第六注视方向确定所述目标对象在所述第二坐标系中所对应的虚拟观看者的第五注视方向;
基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,所述第一坐标系位于现实环境中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;所述第二坐标系位于虚拟现实环境中,为静止坐标系,,且在所述第二坐标系中,其X轴、Y和Z轴相互垂直。
需要说明的是,在本申请实施例中,由于所述虚拟现实环境中中每个显示对象都占有一定的空间,而在所述第二坐标系中,所述虚拟观看者的对焦位置为所述三维虚拟场景中的一个点,故在本申请实施例中,所述注视对象可能为所述待显示图像中的某个完整物体对应的显示图像,即所述显示对象为某个完整物体对应的显示图像,如茶杯整体,也可能为所述待显示图像中某个物体上的一点或局部对应的显示图像,即所述显示对象为某个物体上的一点或局部对应的显示图像,如茶杯上的一点或把手,本申请对此并不做限定,具体视该完整物体对应的显示图像所占的面积而定。
在上述任一实施例的基础上,在本申请的一个实施例中,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述虚拟观看者的坐标,确定所述注视对象的深度信息h。其中,所述注视对象的深度信息h即在所述第二坐标系中,所述目标对象所对应的虚拟观看者的眼部和所述注视对象之间的距离。
在上述实施例的基础上,在本申请的一个实施例中,所述处理装置用于执行确定所述注视对象的坐标时,具体用于执行:基于所述待显示图像对应的立体模型信息,获得所述注视对象在所述第二坐标系中的坐标。
可选的,在本申请的一个实施例中,所述调焦装置位于所述显示元件与所述透镜元件之间,在本申请实施例中,所述调焦装置基于所述显示元件形成的二维显示图像形成第二显示虚像,所述透镜元件基于所述第二显示虚像形成第一显示虚像,所述虚拟现实显示系统的显示图像为所述透镜元件形成的第一显示虚像,即在本申请实施例中,所述驱动装置在响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述第一显示虚像所在平面的位置与所述注视对象的深度信息相匹配。
在本申请其他另一个的实施例中,所述调焦装置也可以位于所述透镜元件背离所述显示元件一侧,在本申请实施例中,所述透镜元件基于所述显示元件形成的二维显示图像形成第一显示虚像,所述调焦装置基于所述第一显示虚像形成第二显示虚像,所述虚拟现实显示系统的显示图像为所述调焦装置形成的第二显示虚像,即在本申请实施例中,所述驱动装置在响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述第二显示虚像所在平面的位置与所述注视对象的深度信息相匹配。本申请对此不做限定,具体视情况而定。
下面以所述调焦装置位于所述透镜元件背离所述显示元件一侧为例进行描述。
具体的,在本申请的一个实施例中,继续如图3所示,所述调焦装置400位于所述透镜元件102背离所述显示元件101一侧,在本实施例中,所述显示元件101的二维显示图像作为所述透镜元件102的物面,所述二维显示图像经过所述透镜元件102后形成第一显示虚像,该第一显示虚像作为所述调焦装置400的物面,经过所述调焦装置400后形成第二显示虚像(即显示系统形成的显示图像);其中,所述第二显示虚像与所述调焦装置之间沿Z轴方向的距离为h′、所述第二显示虚像与所述目标对象之间沿Z轴方向的距离为H、所述目标对象到所述调焦装置之间的距离为D3,由于所述第二显示虚像形成于所述调焦装置背离所述目标对象的一侧,因此,所述第二显示虚像与所述调焦装置之间沿Z轴方向的距离h′、所述第二显示虚像与所述目标对象之间沿Z轴方向的距离H和所述目标对象到所述调焦装置之间的距离D3满足h'=H-D3
需要说明的是,在本申请实施例中,如果所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,则所述第二显示虚像与所述目标对象之间沿Z轴方向的距离H与所述第二坐标系中所述虚拟观看者的眼部和所述注视对象之间的距离h相等,因此,所述第二显示虚像与所述调焦装置之间沿Z轴方向的距离h′只需要满足h'=h-D3,则可使得所述显示系统的显示图像距离观看者的距离等于所述显示系统的显示图像的视差所对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。
还需要说明的是,所述第二显示虚像与所述调焦装置400之间沿Z轴方向的距离为h′,所述调焦装置400的焦距为f′,所述二维显示图像经过所述透镜元件102所成的第一显示虚像到所述调焦装置400的距离为x,则所述第二显示虚像与所述调焦装置400之间沿Z轴方向的距离h′、所述调焦装置400的焦距f′、所述二维显示图像经过所述透镜元件102所成的第一显示虚像到所述调焦装置400的距离x三者满足公式:由此可得,所述第二显示虚像与所述调焦装置400之间沿Z轴方向的距离h′满足/>将公式h'=h-D3代入公式/>中,即可获得关于注视深度h与调焦装置的焦距f′的公式进而可以根据所述注视对象的深度信息h的值,计算出调焦装置需要达到的焦距f′。
由此可见,本申请实施例所提供的虚拟现实显示系统,可以通过调节所述调焦装置的焦距,调节所述显示元件的二维显示图像经过所述调焦装置所形成的第二显示虚像所在平面的位置,以使得所述显示系统的显示图像距离观看者的距离等于所述显示系统的显示图像的视差所对应的距离,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。
另外,需要说明的是,在本申请实施例中,所述调焦装置可以有多种方式改变所述第二显示虚像与所述调焦装置之间沿Z轴方向的距离h′。具体的,在本申请的一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
在本申请的另一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置的曲率,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
在本申请的又一个实施例中,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:响应所述控制指令,调节所述调焦装置的折射率,使得所显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
具体的,在本申请一个实施例中,如图7所示,所述调焦装置400包括:第一调焦元件410,所述第一调焦元件410包括第一调焦透镜411和第二调焦透镜412,所述第一调焦透镜411和所述第二调焦透镜412为液体透镜,且所述第一调焦透镜411和所述第二调焦透镜412的凹凸性质相反。
需要说明的是,液体透镜或液晶透镜的焦距f为:其中,n为透镜的折射率,r1为透镜的前表面的曲率半径,r2为透镜的后表面的曲率半径。
可选的,在本申请的一个实施例中,所述第一调焦透镜和所述第二调焦透镜为液体透镜时,所述驱动装置通过改变施加到所述第一调焦透镜和/或所述第二调焦透镜上的驱动信号,改变所述第一调焦透镜和/或所述第二调焦透镜的曲率,进而改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,最终改变所述调焦装置的焦距,以实现改变所述显示元件的二维显示画面经所述调焦装置形成的第二显示虚像所在平面的位置。
需要说明的是,在本申请实施例中,所述调焦装置采用了双液体透镜组调焦,从而保证了在调节所述调焦装置的焦距时,角放大率不变,保证了显示图像的清晰度和观看者的观感。
在本申请的另一个实施例中,所述第一调焦透镜和所述第二调焦透镜为液晶透镜,所述驱动装置通过改变施加到所述第一调焦透镜和/或所述第二调焦透镜上的驱动信号,改变所述第一调焦透镜和/或所述第二调焦透镜的折射率,进而改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,最终改变所述调焦装置的焦距,以实现改变所述显示元件的二维显示画面经所述调焦装置形成的第二显示虚像所在平面的位置。
需要说明的是,液晶透镜在无外界电压时,液晶透镜中的微晶体无序排列,材料呈各向同性,对光线无明显偏折作用。而对液晶透镜上加上电压以后,液晶透镜中的微晶体排列有序,对光线具有偏折作用,因此,在本申请实施例中,如果所述第一液晶透镜和第二液晶透镜为液晶透镜,可以通过控制所述第一液晶透镜和所述第二液晶透镜中施加的电压,来控制所述第一液晶透镜和所述第二液晶透镜对光线的偏折作用,从而调节所述显示元件射向所述透镜元件的光线经所述调焦装置形成的第二显示虚像所在平面的位置,进而调节该第二显示虚像所在平面的位置,以使得所述显示系统的形成的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
还需要说明的是,本申请实施例中的调焦装置具有轻便、小型化、响应速度快等特点,而且在利用所述调焦装置进行调焦时,无需对所述调焦装置的内部组件进行移动,因此无需电机驱动,而只需要改变调焦装置的输入电压,就可以改变调焦装置中的第一调焦元件中各调焦透镜表面对光线的偏折作用,从而可以高速度、高清晰度地进行对焦,进而可以快速、精准、高质量地改变显示系统的对焦深度,而不影响人眼观看三维显示图像的视角。
由此可见,本申请实施例中可以通过改变液体透镜的表面曲率和/或液晶透镜的折射率来改变所述第一调焦透镜和/或所述第二调焦透镜的焦距,从而改变所述第一调焦元件的焦距,进而以实现改变所述显示元件的二维显示画面经所述调焦装置形成的第二显示虚像的所在平面的位置。
在本申请的其他实施例中,所述第一调焦透镜和所述第二调焦透镜还可以为聚合物透镜,本申请对此不做限定,只要可以通过调节所述调焦装置调节所述调焦装置形成的第二显示虚像(即显示系统的显示图像)的位置即可。
需要说明的是,如果所述第一调焦透镜和第二调焦透镜均为液体透镜,则所述第一调焦元件的焦距f′是随着第一调焦透镜和/或第二调焦透镜的曲率的变化而改变的,在本申请实施例中,所述处理装置通过控制驱动装置改变施加在第一调焦元件两端的电压来改变第一调焦元件的曲率,使得所述第一调焦元件的焦距f′符合需求,从而使得虚拟现实显示系统的对焦深度达到要求,进而使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,以使得所述显示系统的显示图像到观看者的距离等于所述显示系统的显示图像的视差对应的距离。
如果所述第一调焦透镜和第二调焦透镜均为液晶透镜,则所述第一调焦元件的焦距f′是随着第一调焦透镜和/或第二调焦透镜的折射率的变化而改变的,在本申请实施例中,所述处理装置通过控制驱动装置改变施加在所述第一调焦元件两端的电压来改变第一调焦元件中第一调焦透镜和/或第二调焦透镜的折射率,使得所述第一调焦元件的焦距f′符合需求,从而使得虚拟现实显示系统的对焦深度达到要求,进而使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,以使得所述显示系统的显示图像所在平面到观看者的距离等于所述显示系统的显示图像的视差对应的距离。
需要说明的是,所述第一调焦元件的焦距f与所述驱动装置所施加的电压有一一对应关系。在本申请实施例中,在第一调焦元件内的各调焦透镜固定好位置之后,只需通过改变加在第一调焦元件电压就可以获得对应的焦距,进而可以改变所述显示系统的显示图像所在平面的位置。
在本申请上述任一实施例的基础上,在本申请的一个实施例中,继续如图5示,所述调焦装置400还包括第二调焦元件420,所述第二调焦元件包括第三调焦透镜421和第四调焦透镜422,所述第三调焦透镜421和所述第四调焦透镜422为固体透镜,具体在实际使用中,所述第三调焦透镜421和所述第四调焦透镜422的凹凸性质可以相反,也可以相同,本申请对此并不做限定,具体视情况而定。
在上述实施例的基础上,在本申请的一个实施例中,所述第三调焦透镜421为凸透镜,所示第四调焦透镜422为凹透镜;在本申请的另一个实施例中,所述第三调焦透镜421为凹透镜,所示第四调焦透镜422为凸透镜,本申请对此并不做限定,具体视情况而定。
具体的,当所述第三调焦透镜421为凸透镜,所示第四调焦透镜422为凹透镜时,如图8所示,本申请中可以通过调节第一调焦元件(包括第一调焦透镜411和第二调焦透镜412)的焦距,使得所述透镜元件102形成的第一显示虚像在经所述调焦装置后形成的第二显示虚像显示在显示元件101与所述调焦装置之间(即显示在近处);如图9所示,本申请中也可以通过调节第一调焦元件(包括第一调焦透镜411和第二调焦透镜412)的焦距,使得所述透镜元件102形成的第一显示虚像在经所述调焦装置后形成的第二显示虚像显示在显示元件101背离所述调焦装置一侧(即显示在很远处)。
需要说明的是,如果入瞳直径为3mm,所述第三调焦透镜的材质为K7,曲率半径均为22.5mm的双凸鼓形透镜,所述第四调焦透镜的材质为K7,曲率半径均为-250mm的双凹透镜,所述第一调焦透镜和第二调焦透镜的曲率半径的最小值均为15mm,则可以实现保持角放大率为1,即人对于单个像素点的视场角不变的前提条件下,所述调焦装置的虚像平面从离凹透镜50mm处到无穷远的任意连续改变,调焦时间非常短,仅有数十毫秒。
相应的,本申请还提供了一种显示方法,该显示方法应用于上述任一实施例中所提供的虚拟现实显示系统,所述虚拟现实显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成第一显示虚像;如图10所示,该显示方法包括:
S1:基于所述追踪装置获取的目标对象的眼部图像;
S2:确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置;
S3:通过所述驱动装置调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
由于基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,以及通过所述驱动装置调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配的具体实现方式参见本申请上述各实施例中,在此不再详细赘述。
在上述任一实施例的基础上,在本申请一个实施例中,所述预设参数包括调焦装置的曲率、所述调焦装置的折射率以及调焦装置与透镜元件的距离中的至少一个,在本申请的其他实施例中所述预设参数还可以包括其他的参数,本申请对此不做限定,具体视情况而定。
本申请实施例所提供的虚拟现实显示系统中可以基于目标对象的眼部图像,获得目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并通过调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,从而使得所述显示系统的显示图像所在的平面距离观看者的距离等于所述显示虚像的视差,进而使得观看者基于观看的图像得到的对焦距离和实际观看到的清晰图像的对焦距离保持一致,降低观看者产生视觉疲劳的概率。
本说明书中各个部分采用并列和递进的方式描述,每个部分重点说明的都是与其他部分的不同之处,各个部分之间相同相似部分互相参见即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本申请。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下,在其它实施例中实现。因此,本申请将不会被限制于本文所示的实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。

Claims (9)

1.一种虚拟现实显示系统,其特征在于,包括:
显示装置,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成第一显示虚像;
追踪装置,用于获取目标对象的眼部图像;
处理装置,用于基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令;
调焦装置,用于调节所述显示系统的显示图像所在平面的位置;
驱动装置,用于响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配,所述预设参数包括调焦装置的曲率、所述调焦装置的折射率或调焦装置与透镜元件的距离中的至少一个;
所述处理装置用于执行基于所述目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
获取所述目标对象注视所述注视对象时,所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向以及所述目标对象的右眼球在所述第一坐标系中的第二坐标和第二注视方向;
基于所述目标对象的左眼球在第一坐标系中的第一坐标和第一注视方向,确定第二坐标系中与所述目标对象对应的虚拟观看者的左眼球的第三坐标和第三注视方向,基于所述目标对象的右眼球在第一坐标系中的第二坐标和第二注视方向,确定所述第二坐标系中与所述目标对象对应的虚拟观看者的右眼球的第四坐标和第四注视方向;
基于所述第二坐标系中与所述目标对象对应的虚拟观看者的左眼球对应的第三坐标和第三注视方向及其右眼球对应的第四坐标和第四注视方向,确定在所述第二坐标系中与所述目标对象对应的虚拟观看者的对焦位置;
基于所述第二坐标系中所述虚拟观看者的对焦位置以及所述虚拟观看者正视前方时左眼球和右眼球的中点的坐标,确定第五注视方向;
基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象;
其中,在所述第一坐标系中,X轴和Y轴位于所述目标对象眼部所在的平面内且相互垂直,Z轴垂直于所述目标对象眼部所在的平面;
所述第二坐标系位于虚拟现实环境中,为静止坐标系,且在所述第二坐标系中,其X轴、Y和Z轴相互垂直。
2.根据权利要求1所述的显示系统,其特征在于,所述显示元件包括第一显示元件和第二显示元件,其中,所述第一显示元件用于基于所述待显示图像形成二维的第一显示图像,所述第二显示元件用于基于所述待显示图像形成二维的第二显示图像,所述第一显示图像和所述第二显示图像不同;
所述透镜元件包括第一透镜元件和第二透镜元件,其中,所述第一透镜元件用于基于所述第一显示图像形成第一子显示虚像,所述第二透镜元件用于基于所述第二显示图像形成第二子显示虚像;
其中,所述第一子显示虚像所在平面和所述第二子显示虚像所在平面为同一平面。
3.根据权利要求1所述的显示系统,其特征在于,所述处理装置在执行基于在所述第二坐标系中所述待显示图像中各显示对象的坐标以及所述第五注视方向,确定所述目标对象在所述待显示图像上的注视对象时,具体用于执行:
将所述第二坐标系中所述待显示图像的各显示对象中与所述第五注视方向对应的第五注视线之间距离最小且距离所述虚拟观看者最近的显示对象作为所述目标对象在所述待显示图像上的注视对象。
4.根据权利要求1所述的显示系统,其特征在于,所述处理装置在执行确定所述注视对象的深度信息时具体用于执行:
基于所述第二坐标系中,所述注视对象的坐标以及所述目标对象对应的虚拟观看者的坐标,确定所述注视对象的深度信息。
5.根据权利要求1所述的显示系统,其特征在于,所述驱动装置用于执行响应所述控制指令,调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配时具体用于执行:
响应所述控制指令,调节所述调焦装置与所述透镜元件之间的距离,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的曲率,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配;
或,响应所述控制指令,调节所述调焦装置的折射率,使得所显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
6.根据权利要求5所述的显示系统,其特征在于,所述调焦装置位于所述显示元件与所述透镜元件之间,或所述调焦装置位于透镜元件背离所述显示元件一侧。
7.根据权利要求5所述的显示系统,其特征在于,所述调焦装置包括:第一调焦元件,所述第一调焦元件包括第一调焦透镜和第二调焦透镜,所述第一调焦透镜和所述第二调焦透镜为液体透镜,所述第一调焦透镜和所述第二调焦透镜的凹凸性质相反。
8.根据权利要求7所述的显示系统,其特征在于,所述调焦装置还包括:第二调焦元件,所述第二调焦元件包括:第三调焦透镜和第四调焦透镜,所述第三调焦透镜和所述第四调焦透镜为固体透镜。
9.一种显示方法,其特征在于,应用于权利要求1-8任一项所述的虚拟现实显示系统,所述显示系统包括显示装置、追踪装置、调焦装置和驱动装置,其中,所述显示装置包括显示元件和透镜元件,所述显示元件用于基于待显示图像形成二维显示图像,所述透镜元件用于基于所述二维显示图像形成第一显示虚像;该方法包括:
基于所述追踪装置获取的目标对象的眼部图像,确定所述目标对象在所述待显示图像上的注视对象以及所述注视对象的深度信息,并基于所述注视对象的深度信息生成控制指令发送给所述驱动装置,通过所述驱动装置调节所述调焦装置的预设参数,使得所述显示系统的显示图像所在平面的位置与所述注视对象的深度信息相匹配。
CN201911274250.3A 2019-12-12 2019-12-12 虚拟现实显示系统及其显示方法 Active CN110794590B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201911274250.3A CN110794590B (zh) 2019-12-12 2019-12-12 虚拟现实显示系统及其显示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201911274250.3A CN110794590B (zh) 2019-12-12 2019-12-12 虚拟现实显示系统及其显示方法

Publications (2)

Publication Number Publication Date
CN110794590A CN110794590A (zh) 2020-02-14
CN110794590B true CN110794590B (zh) 2023-10-20

Family

ID=69448204

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201911274250.3A Active CN110794590B (zh) 2019-12-12 2019-12-12 虚拟现实显示系统及其显示方法

Country Status (1)

Country Link
CN (1) CN110794590B (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111695573B (zh) * 2020-05-15 2022-09-13 河海大学 一种基于显著目标深度动态调节的视疲劳缓解系统及方法
CN117998071B (zh) * 2024-04-07 2024-06-18 清华大学 眼动追踪光场3d显示方法、装置、电子设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108663799A (zh) * 2018-03-30 2018-10-16 蒋昊涵 一种vr图像的显示控制系统及其显示控制方法
CN211786414U (zh) * 2019-12-12 2020-10-27 中国科学技术大学 虚拟现实显示系统

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108663799A (zh) * 2018-03-30 2018-10-16 蒋昊涵 一种vr图像的显示控制系统及其显示控制方法
CN211786414U (zh) * 2019-12-12 2020-10-27 中国科学技术大学 虚拟现实显示系统

Also Published As

Publication number Publication date
CN110794590A (zh) 2020-02-14

Similar Documents

Publication Publication Date Title
US11132056B2 (en) Predictive eye tracking systems and methods for foveated rendering for electronic displays
US11614631B1 (en) Adaptive viewports for a hyperfocal viewport (HVP) display
US10241329B2 (en) Varifocal aberration compensation for near-eye displays
US10866418B2 (en) Focus adjusting multiplanar head mounted display
CN108663799B (zh) 一种vr图像的显示控制系统及其显示控制方法
JP3787939B2 (ja) 立体映像表示装置
US10871825B1 (en) Predictive eye tracking systems and methods for variable focus electronic displays
US10382699B2 (en) Imaging system and method of producing images for display apparatus
WO2016115870A1 (zh) 双目ar头戴显示设备及其信息显示方法
WO2016115873A1 (zh) 双目ar头戴显示设备及其信息显示方法
JP2014219621A (ja) 表示装置、表示制御プログラム
US9905143B1 (en) Display apparatus and method of displaying using image renderers and optical combiners
CN108632599B (zh) 一种vr图像的显示控制系统及其显示控制方法
CN105068659A (zh) 一种增强现实系统
JP2017509925A (ja) 3dビデオ顕微鏡装置
CN110794590B (zh) 虚拟现实显示系统及其显示方法
JP2015060071A (ja) 画像表示装置、画像表示方法、および画像表示プログラム
CN108985291B (zh) 一种基于单摄像头的双眼追踪系统
US20210012531A1 (en) Imaging system and method for producing images using means for adjusting optical focus
US10698218B1 (en) Display system with oscillating element
CN212460199U (zh) 头戴式显示设备
CN211786414U (zh) 虚拟现实显示系统
TW202317771A (zh) 使用空間定位、自由形式的光學元件以用於失真補償及影像清晰度增強的緊湊型成像光學元件
CN211791831U (zh) 集成成像显示系统
JP2001218231A (ja) 立体画像を表示する装置および方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant