CN113141502B - 头戴式显示设备的摄像控制方法、装置及头戴式显示设备 - Google Patents
头戴式显示设备的摄像控制方法、装置及头戴式显示设备 Download PDFInfo
- Publication number
- CN113141502B CN113141502B CN202110291714.2A CN202110291714A CN113141502B CN 113141502 B CN113141502 B CN 113141502B CN 202110291714 A CN202110291714 A CN 202110291714A CN 113141502 B CN113141502 B CN 113141502B
- Authority
- CN
- China
- Prior art keywords
- camera
- dimensional image
- gesture
- area
- preset
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/332—Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/398—Synchronisation thereof; Control thereof
Abstract
本公开涉及一种头戴式显示设备的摄像控制方法、装置、头戴式显示设备及计算机可读存储介质,该头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据目标区域中预设区域的图像自动调整自身的摄像参数;该方法包括:在确定第一相机摄取的三维图像中存在至少一个手势的情况下,根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在第二相机拍摄的二维图像中对应的第二位置;在预设区域与至少部分第二位置对应的图像区域重叠的情况下,若重叠区域占预设区域比例大于或等于预设比例阈值,控制第二相机停止对摄像参数的自动调整。
Description
技术领域
本公开实施例涉及虚拟现实技术领域,更具体地,涉及一种头戴式显示设备的摄像控制方法、装置、头戴式显示设备及计算机可读存储介质。
背景技术
头戴式显示设备(Head Mounted Display,HMD)是一种可以穿戴在用户头部的显示设备,能够实现虚拟现实(Virtual Reality,VR)、增强现实(Augmented Reality,AR)和混合现实(Mixed Reality,MR)等不同效果。
头戴式显示设备在使用时会使用户的头部或者眼睛会处于封闭环境,以使用户能够沉浸在虚拟环境中。而为了展示AR和MR中的现实内容,HMD上还会安装至少一个彩色相机,以便通过至少一个彩色相机摄取现实世界中的现实图像并将其投影至人眼,从而实现AR和MR的效果。
目前,彩色相机能够根据其摄取的感兴趣区域(region of interest,ROI)的图像来自动调整自身的摄像参数(例如对焦参数、曝光参数),以此来摄取清晰的现实图像。实际情况中,用户在使用HMD时还会与当前看到的虚拟内容或现实内容进行频繁的手势交互,手势即用户通过灵活控制手指上的各关节做出的手的动作。在此情况下,用户的手势进入ROI后,彩色相机可能会以手势为对象来调整自身的摄像参数,导致彩色相机摄取的现实图像不清晰(例如以手势为对象调整自身的对焦参数,则无法对现实图像进行正确对焦),影响彩色相机成像质量,导致AR和MR的实现效果较差。
发明内容
本公开实施例的一个目的是提供一种头戴式显示设备的摄像控制的新的技术方案。
根据本公开的第一方面,提供了一种头戴式显示设备的摄像控制方法,头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域的图像自动调整自身的摄像参数;该方法包括:获取第一相机在当前时间拍摄的三维图像;在根据三维图像确定目标区域中存在至少一个手势的情况下,根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在至少一个第二相机在当前时间拍摄的二维图像中对应的第二位置;在预设区域与至少部分第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例;在比例大于或等于预设比例阈值的情况下,控制第二相机停止对摄像参数的自动调整。
可选地,摄像参数包括以下一个或多个:对焦参数以及曝光参数。
可选地,预设比例阈值为0.2。
可选地,在根据三维图像确定所述目标区域中存在至少一个手势之前,该方法还包括:将三维图像输入预设的用于识别手势的手势分割模型;在手势分割模型输出至少一个手势的情况下,确定目标区域中存在至少一个手势。
可选地,相对位置参数包括:相对旋转参数和相对位移参数;根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在至少一个第二相机在当前时间拍摄的二维图像中对应的第二位置,包括:根据相对旋转参数将第一位置对应的参数旋转对应的旋转角度,得到第一中间位置参数;根据相对位移参数对第一中间位置参数对应的位置进行平移,得到第二位置对应的参数;根据第二位置对应的参数确定手势在二维图像中对应的第二位置。
可选地,在根据三维图像确定目标区域中存在至少一个手势的情况下,该方法还包括:根据手势对应的控制指令控制头戴式显示设备。
可选地,至少一个第二相机包括两个第二相机,两个第二相机分别设置在两个人眼位置处,且每个第二相机的摄影参数相同。
根据本公开的第二方面,还提供了一种头戴式显示设备的摄像控制装置,头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域的图像自动调整自身的摄像参数;该装置包括:获取模块,用于获取第一相机在当前时间拍摄的三维图像;确定模块,用于在根据获取模块获取的三维图像确定目标区域中存在至少一个手势的情况下,根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在至少一个第二相机在当前时间拍摄的二维图像中对应的第二位置;处理模块,用于在确定预设区域与至少部分确定模块确定的第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例;控制模块,用于在处理模块获得的比例大于或等于预设比例阈值的情况下,控制第二相机停止对摄像参数的自动调整。
可选地,摄像参数包括以下一个或多个:对焦参数以及曝光参数。
可选地,预设比例阈值为0.2。
可选地,该装置还包括:识别模块,用于将获取模块获取的三维图像输入预设的用于识别手势的手势分割模型;在手势分割模型输出至少一个手势的情况下,确定目标区域中存在至少一个手势。
可选地,相对位置参数包括:相对旋转参数和相对位移参数;确定模块用于:根据相对旋转参数将第一位置对应的参数旋转对应的旋转角度,得到第一中间位置参数;根据相对位移参数对第一中间位置参数对应的位置进行平移,得到第二位置对应的参数;根据第二位置对应的参数确定手势在二维图像中对应的第二位置。
可选地,该装置还包括:手势控制模块,用于在根据三维图像确定目标区域中存在至少一个手势的情况下,根据手势对应的控制指令控制头戴式显示设备。
可选地,至少一个第二相机包括两个第二相机,两个第二相机分别设置在两个人眼位置处,且每个第二相机的摄影参数相同。
根据本公开的第三方面,还提供了一种头戴式显示设备,包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中的预设区域的图像进行摄像参数的自动调整;该头戴式显示设备还包括存储器和处理器,存储器用于存储计算机程序;处理器用于执行计算机程序,以实现根据本公开第一方面的方法。
根据本公开的第四方面,还提供了一种计算机可读存储介质,计算机可读存储介质上存储计算机程序,计算机程序在被处理器执行时实现根据本公开的第一方面的方法。
本公开实施例的一个有益效果在于,头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域的图像自动调整自身的摄像参数,本公开实施例能够根据第一相机摄取的三维图像确定目标区域中是否存在至少一个手势,并根据第一相机和第二相机的相对位置参数,将该至少一个手势投影至第二相机拍摄的二维图像中,在预设区域与至少部分第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例,并在该比例大于预设比例阈值的情况下控制第二相机停止对摄像参数的自动调整,从而解决用户与头戴式显示设备进行手势交互时,由于手势进入第二相机拍摄的二维图像(现实图像),导致第二相机会以手势为对象自动调整自身的摄像参数,从而无法摄取到清晰的现实图像的问题。本申请能够在确定手势进入现实图像的情况下自动确定第二相机(彩色相机)是否会以手势为对象来调整自身的摄像参数,并在确定第二相机会以手势为对象自动调整自身的摄像参数时控制彩色相机停止对摄像参数的自动调整,使得第二相机能够始终摄取到清晰的现实图像。
通过以下参照附图对本公开的示例性实施例的详细描述,本公开实施例的其它特征及其优点将会变得清楚。
附图说明
被结合在说明书中并构成说明书的一部分的附图示出了本公开的实施例,并且连同其说明一起用于解释本公开实施例的原理。
图1为本公开一些实施例提供的一种头戴式显示设备的摄像控制方法的方法流程图;
图2为本公开一些实施例提供的另一种头戴式显示设备的摄像控制方法的方法流程图;
图3为本公开一些实施例提供的再一种头戴式显示设备的摄像控制方法的方法流程图;
图4为本公开一些实施例提供的一种头戴式显示设备的摄像控制装置的功能结构框图;
图5为本公开一些实施例提供的一种头戴式显示设备的功能结构框图。
具体实施方式
现在将参照附图来详细描述本公开的各种示例性实施例。应注意到:除非另外具体说明,否则在这些实施例中阐述的部件和步骤的相对布置、数字表达式和数值不限制本公开的范围。
以下对至少一个示例性实施例的描述实际上仅仅是说明性的,决不作为对本公开及其应用或使用的任何限制。
对于相关领域普通技术人员已知的技术、方法和设备可能不作详细讨论,但在适当情况下,所述技术、方法和设备应当被视为说明书的一部分。
在这里示出和讨论的所有例子中,任何具体值应被解释为仅仅是示例性的,而不是作为限制。因此,示例性实施例的其它例子可以具有不同的值。
应注意到:相似的标号和字母在下面的附图中表示类似项,因此,一旦某一项在一个附图中被定义,则在随后的附图中不需要对其进行进一步讨论。
HMD在实现AR和MR效果时,会将虚拟世界和现实世界进行叠加,例如将虚拟世界中的虚拟图像与现实世界中的现实图像进行叠加,从而向用户展示出虚拟图像和现实图像相结合的可视化三维图像。
通常情况下,在对应人的每个眼睛位置HMD都安装有一个彩色相机,以便模仿人眼来摄取现实世界中的现实图像。
在实现AR和MR效果的过程中,HMD还需要将虚拟图像和现实图像自然地混合在一起,展示出虚拟图像和现实图像发生的真实感的交互(例如虚拟的从高处下落的水流图像在落至现实的地面位置后会溅起虚拟的水花图像)。在此情况下,HMD中还会安装一个深度相机,以便通过深度相机获取现实世界的深度图像(即将深度相机到现实场景中各点的距离作为像素值的图像,深度图能够直接反映可见表面的几何形状),以便根据深度图像将虚拟图像和现实图像进行有效融合。
在AR和MR场景下,用户会通过手势与上述可视化三维图像中的内容进行交互。通常情况下,用户手的动作非常灵活多变,目前都是基于用户手的三维空间位置信息来精准识别用户的手势。在此情况下,HMD需要获取用户的手势的深度信息(例如相机到现实场景中各点的距离)。然而,彩色相机摄取的图像为二维图像,不能获得深度信息,因此难以基于彩色相机摄取的二维图像准确识别出进入彩色相机的ROI的手势。基于此,在手势进入彩色相机的ROI的情况下,彩色相机可能会以手势为对象来调整自身的摄像参数,导致彩色相机摄取的现实图像不清晰,影响彩色相机成像质量,导致AR和MR的实现效果较差。
基于上述存在的问题,本公开实施例提供一种头戴式显示设备的摄像控制方案。其中,头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域(例如ROI)的图像自动调整自身的摄像参数。
<方法实施例>
图1示出了本公开一些实施例的头戴式显示设备的摄像控制方法的方法流程图。如图1所示,该方法包括如下步骤S110~S140。
步骤S110:获取第一相机在当前时间拍摄的三维图像。
第一相机例如可以是深度相机,三维图像例如深度相机获取现实世界的包含深度信息的深度图像。
示例地,该深度相机的一些参数如下:
分辨率:640px*480px;
帧率:60Hz;
视场角(Field of view,FOV):120°(水平视场角)*98°(垂直视场角)及以上。
步骤S120:在根据三维图像确定目标区域中存在至少一个手势的情况下,根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在至少一个第二相机在当前时间拍摄的二维图像中对应的第二位置。
第二相机例如可以是彩色相机,二维图像例如彩色相机获取现实世界的不包含深度信息的平面图像。
示例地,该彩色相机的一些参数如下:
分辨率通常:1280px*720px及以上;
帧率:60Hz及以上;
色彩模式:红、绿、蓝三个通道的颜色(RGB)色彩模式;
FOV:130°(水平视场角)*110°(垂直视场角)或约为130°*110°。
要说明的是,通常情况下,HMD的视场角为100°(水平视场角)*100°(垂直视场角),由于相机FOV越大,图像畸变越大,因此为了保证图像不会出现严重失真的情况,彩色相机的视场角只要略大于HMD的视场角即可。
在一些实施例中,上述摄像参数为对焦参数,以使得第二相机能够自动对焦。
在一些实施例中,上述摄像参数为曝光参数,以使得第二相机能够自动曝光。
当然,可以理解的是,上述所列举的摄像参数仅仅是示例性的,本公开实施例可以包括但不限于所列举的摄像参数。例如摄像参数还可以包括白平衡参数,以使得第二相机能够自动白平衡。
根据三维图像确定目标区域中存在至少一个手势,即:根据三维图像确定目标区域对应的三维图像中存在至少一个手势。
在一些示例中,至少一个手势在三维图像中的第一位置为至少一个手势在三维图像中的像素值。
在一些实施例中,预设的第一相机和第二相机的相对位置参数例如可以包括预设的第一相机和第二相机的相对旋转参数和相对平移参数。
具体地,为了向用户展示出虚拟图像和现实图像相结合的可视化三维图像,HMD会根据深度相机摄取的三维图像和彩色相机摄取的二维图像进行图像重建,得到上述可视化三维图像。在此过程中,第一相机和第二相机会在同一时间触发摄取目标区域的图像,HMD根据上述相对旋转参数和相对平移参数将三维图像和二维图像展示的相同位置的图像信息进行对应,以便于根据对应结果得到上述可视化三维图像。
相对旋转参数和相对平移参数由本领域技术人员根据实际情况进行设置,本公开实施例对此不作限定。
在一些示例中,如图2所示,步骤S120的执行过程可以包括如下步骤S210~S230。
步骤S210:根据相对旋转参数将第一位置对应的参数旋转对应的旋转角度,得到第一中间位置参数。
第一位置对应的参数例如可以是三维图像中的第一位置的像素位置参数。
步骤S220:根据相对位移参数对第一中间位置参数对应的位置进行平移,得到第二位置对应的参数。
第二位置对应的参数例如可以是二维图像中对应于第二位置的图像像素位置参数。
步骤S230:根据第二位置对应的参数确定手势在二维图像中对应的第二位置。
第二位置例如彩色相机摄取的二维图像中的手势的对应位置。通过确定第二位置,能够准确识别彩色相机摄取的二维图像中的手势所在的位置。
步骤S130:在预设区域与至少部分第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例。
预设区域例如彩色相机的ROI。第二位置对应的图像区域即彩色相机摄取的二维图像中手势所在位置所对应的手势图像区域。重叠区域即手势图像区域和预设区域发生重叠的部分所对应的区域。
例如,在手势图像区域全部位于预设区域的情况下,重叠区域占预设区域的比例即手势图像区域占预设区域的比例。
又如,在手势图像区域部分位于预设区域的情况下,重叠区域占预设区域的比例即手势图像区域位于预设区域中的部分所对应的区域占预设区域的比例。
步骤S140:在比例大于或等于预设比例阈值的情况下,控制第二相机停止对摄像参数的自动调整。
在步骤S130中获得的比例大于或等于预设比例阈值的情况下,第二相机会以手势为对象来自动调整自身的摄像参数,由此可能导致第二相机摄取的二维图像不清晰,例如第二相机以二维图像中的手势为对象调整自身的对焦参数,可能无法对二维图像中除手势以外的其他部分进行正确对焦,又如以二维图像中的手势为对象调整自身的曝光参数,则无法对二维图像进行适度曝光,从而严重影响第二相机成像质量。在此情况下,控制第二相机停止对摄像参数的自动调整,第二相机成像过程不会受到进入ROI的手势的影响,保证第二相机成像质量。
在一些示例中,预设比例阈值为0.2。
本公开实施例的一个有益效果在于,头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域的图像自动调整自身的摄像参数,本公开实施例能够根据第一相机摄取的三维图像确定目标区域中是否存在至少一个手势,并根据第一相机和第二相机的相对位置参数,将该至少一个手势投影至第二相机拍摄的二维图像中,在预设区域与至少部分第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例,并在该比例大于预设比例阈值的情况下控制第二相机停止对摄像参数的自动调整,从而解决用户与头戴式显示设备进行手势交互时,由于手势进入第二相机拍摄的二维图像(现实图像),导致第二相机会以手势为对象自动调整自身的摄像参数,从而无法摄取到清晰的现实图像的问题。本申请能够在确定手势进入现实图像的情况下自动确定第二相机(彩色相机)是否会以手势为对象来调整自身的摄像参数,并在确定彩色相机会以手势为对象自动调整自身的摄像参数控制彩色相机停止对摄像参数的自动调整,使得彩色相机能够始终摄取到清晰的现实图像。
在一些实施例中,在执行步骤S120之前,如图3所示,本公开实施例还可以执行如下步骤S310~S320。
步骤S310:将三维图像输入预设的用于识别手势的手势分割模型。
示例地,可以基于大量的样本三维图像中的深度数据(例如深度图像中的像素值)训练手势分割模型。例如通过模拟用户可能使用的各种手势,以及用户相对HMD的深度相机的距离,获得上述深度数据。
例如,通常情况下,用户的最大手臂长度为70cm,HMD中内置多个传感器,当传感器在工作时,不允许用户用手接触HMD,即一般会提醒用户在佩戴好HMD之后肢体尽量远离HMD,在此情况下,用户的手相对深度相机的最小距离为5cm。基于此,用户的手相对HMD的深度相机的距离的范围为5cm~80cm。通过获取预设数量(例如300万)以上用户在上述环境下的各种手势,得到预设数量以上的深度数据,根据上述深度数据训练出上述手势分割模型,基于该模型能够识别获取第一相机摄取的三维图像中的手势。
步骤S320:在手势分割模型输出至少一个手势的情况下,确定目标区域中存在至少一个手势。
示例地,基于步骤S310中得到的手势分割模型,最多可以同时分割出5只手的手势图像数据,每个手势图像数据对应一个手势。
<设备实施例>
图4示出了本公开一些实施例的头戴式显示设备的摄像控制装置的功能结构框图。头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中预设区域的图像自动调整自身的摄像参数。如图4所示,头戴式显示设备的摄像控制装置40包括:
获取模块41,用于获取第一相机在当前时间拍摄的三维图像。
确定模块42,用于在根据获取模块41获取的三维图像确定目标区域中存在至少一个手势的情况下,根据至少一个手势在三维图像中的第一位置以及预设的第一相机和第二相机的相对位置参数,确定至少一个手势在至少一个第二相机在当前时间拍摄的二维图像中对应的第二位置。
处理模块43,用于在确定预设区域与至少部分确定模块42确定的第二位置对应的图像区域重叠的情况下,获得重叠区域占预设区域的比例。
控制模块44,用于在处理模块43获得的比例大于或等于预设比例阈值的情况下,控制第二相机停止对摄像参数的自动调整。
可选地,摄像参数包括以下一个或多个:对焦参数以及曝光参数。
可选地,预设比例阈值为0.2。
可选地,该装置还包括:识别模块,用于将获取模块获取的三维图像输入预设的用于识别手势的手势分割模型;在手势分割模型输出至少一个手势的情况下,确定目标区域中存在至少一个手势。
可选地,相对位置参数包括:相对旋转参数和相对位移参数;确定模块用于:根据相对旋转参数将第一位置对应的参数旋转对应的旋转角度,得到第一中间位置参数;根据相对位移参数对第一中间位置参数对应的位置进行平移,得到第二位置对应的参数;根据第二位置对应的参数确定手势在二维图像中对应的第二位置。
可选地,该装置还包括:手势控制模块,用于在根据三维图像确定目标区域中存在至少一个手势的情况下,根据手势对应的控制指令控制头戴式显示设备。
可选地,至少一个第二相机包括两个第二相机,两个第二相机分别设置在两个人眼位置处,且每个第二相机的摄影参数相同。
图5示出了本公开一些实施例的头戴式显示设备的功能结构框图。
如图5所示,该头戴式显示设备500包括处理器510和存储器520,该存储器520用于存储可执行的计算机程序,该处理器510用于根据该计算机程序的控制,执行如以上任意方法实施例的方法。
该头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取目标区域的二维图像的至少一个第二相机,第二相机根据摄取的目标区域中的预设区域的图像进行摄像参数的自动调整。
以上头戴式显示设备500的各模块可以由本实施例中的处理器510执行存储器520存储的计算机程序实现,也可以通过其他电路结构实现,在此不做限定。
本公开可以是系统、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(系统)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。对于本领域技术人员来说公知的是,通过硬件方式实现、通过软件方式实现以及通过软件和硬件结合的方式实现都是等价的。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。本公开的范围由所附权利要求来限定。
Claims (10)
1.一种头戴式显示设备的摄像控制方法,其特征在于,所述头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取所述目标区域的二维图像的至少一个第二相机,所述第二相机根据摄取的所述目标区域中预设区域的图像自动调整自身的摄像参数;
所述方法包括:
获取所述第一相机在当前时间拍摄的三维图像;
在根据所述三维图像确定所述目标区域中存在至少一个手势的情况下,根据所述至少一个手势在所述三维图像中的第一位置以及预设的所述第一相机和所述第二相机的相对位置参数,确定所述至少一个手势在所述至少一个第二相机在所述当前时间拍摄的二维图像中对应的第二位置;
在所述预设区域与至少部分所述第二位置对应的图像区域重叠的情况下,获得重叠区域占所述预设区域的比例;
在所述比例大于或等于预设比例阈值的情况下,控制所述第二相机停止对摄像参数的自动调整。
2.根据权利要求1所述的方法,其特征在于,所述摄像参数包括以下一个或多个:对焦参数以及曝光参数。
3.根据权利要求1所述的方法,其特征在于,所述预设比例阈值为0.2。
4.根据权利要求1所述的方法,其特征在于,所述根据所述三维图像确定所述目标区域中存在至少一个手势之前,所述方法还包括:
将所述三维图像输入预设的用于识别所述手势的手势分割模型;
在所述手势分割模型输出至少一个手势的情况下,确定所述目标区域中存在至少一个手势。
5.根据权利要求1-4任一项所述的方法,其特征在于,所述相对位置参数包括:相对旋转参数和相对位移参数;
所述根据所述至少一个手势在所述三维图像中的第一位置以及预设的所述第一相机和所述第二相机的相对位置参数,确定所述至少一个手势在所述至少一个第二相机在所述当前时间拍摄的二维图像中对应的第二位置,包括:
根据所述相对旋转参数将所述第一位置对应的参数旋转对应的旋转角度,得到第一中间位置参数;
根据所述相对位移参数对所述第一中间位置参数对应的位置进行平移,得到第二位置对应的参数;
根据所述第二位置对应的参数确定所述手势在二维图像中对应的第二位置。
6.根据权利要求1-4任一项所述的方法,其特征在于,在根据所述三维图像确定所述目标区域中存在至少一个手势的情况下,所述方法还包括:根据所述手势对应的控制指令控制所述头戴式显示设备。
7.根据权利要求1所述的方法,其特征在于,所述至少一个第二相机包括两个第二相机,所述两个第二相机分别设置在两个人眼位置处,且每个第二相机的摄影参数相同。
8.一种头戴式显示设备的摄像控制装置,其特征在于,所述头戴式显示设备包括用于摄取目标区域的三维图像的第一相机和用于摄取所述目标区域的二维图像的至少一个第二相机,所述第二相机根据摄取的所述目标区域中预设区域的图像自动调整自身的摄像参数;
所述装置包括:
获取模块,用于获取所述第一相机在当前时间拍摄的三维图像;
确定模块,用于在根据所述获取模块获取的所述三维图像确定所述目标区域中存在至少一个手势的情况下,根据所述至少一个手势在所述三维图像中的第一位置以及预设的所述第一相机和所述第二相机的相对位置参数,确定所述至少一个手势在所述至少一个第二相机在所述当前时间拍摄的二维图像中对应的第二位置;
处理模块,用于在确定所述预设区域与至少部分所述确定模块确定的所述第二位置对应的图像区域重叠的情况下,获得重叠区域占所述预设区域的比例;
控制模块,用于在所述处理模块获得的所述比例大于或等于预设比例阈值的情况下,控制所述第二相机停止对摄像参数的自动调整。
9.一种头戴式显示设备,其特征在于,包括用于摄取目标区域的三维图像的第一相机和用于摄取所述目标区域的二维图像的至少一个第二相机,所述第二相机根据摄取的所述目标区域中的预设区域的图像进行摄像参数的自动调整;
所述头戴式显示设备还包括存储器和处理器,所述存储器用于存储计算机程序;所述处理器用于执行所述计算机程序,以实现根据权利要求1-7中任意一项所述的方法。
10.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储计算机程序,所述计算机程序在被处理器执行时实现根据权利要求1-7中任意一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110291714.2A CN113141502B (zh) | 2021-03-18 | 2021-03-18 | 头戴式显示设备的摄像控制方法、装置及头戴式显示设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110291714.2A CN113141502B (zh) | 2021-03-18 | 2021-03-18 | 头戴式显示设备的摄像控制方法、装置及头戴式显示设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113141502A CN113141502A (zh) | 2021-07-20 |
CN113141502B true CN113141502B (zh) | 2022-02-08 |
Family
ID=76811534
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110291714.2A Active CN113141502B (zh) | 2021-03-18 | 2021-03-18 | 头戴式显示设备的摄像控制方法、装置及头戴式显示设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113141502B (zh) |
Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104065885A (zh) * | 2014-06-27 | 2014-09-24 | 宇龙计算机通信科技(深圳)有限公司 | 一种终端、视频摄像装置及方法 |
CN104317398A (zh) * | 2014-10-15 | 2015-01-28 | 天津三星电子有限公司 | 一种手势控制方法、穿戴式设备及电子设备 |
CN104317385A (zh) * | 2014-06-26 | 2015-01-28 | 青岛海信电器股份有限公司 | 一种手势识别方法和系统 |
CN104954695A (zh) * | 2015-07-14 | 2015-09-30 | 厦门美图之家科技有限公司 | 一种视频拍摄的对焦锁定方法和系统 |
CN104994297A (zh) * | 2015-07-09 | 2015-10-21 | 厦门美图之家科技有限公司 | 全景拍照的对焦测光锁定方法和系统 |
CN105007426A (zh) * | 2015-07-27 | 2015-10-28 | 厦门美图之家科技有限公司 | 一种基于人脸识别的对焦方法和对焦系统 |
CN106454135A (zh) * | 2016-11-29 | 2017-02-22 | 维沃移动通信有限公司 | 一种拍照提醒方法及移动终端 |
CN107465880A (zh) * | 2017-09-29 | 2017-12-12 | 广东欧珀移动通信有限公司 | 对焦方法、装置、终端和计算机可读存储介质 |
CN107786812A (zh) * | 2017-10-31 | 2018-03-09 | 维沃移动通信有限公司 | 一种拍摄方法、移动终端及计算机可读存储介质 |
WO2018098862A1 (zh) * | 2016-11-29 | 2018-06-07 | 歌尔科技有限公司 | 用于虚拟现实设备的手势识别方法、装置及虚拟现实设备 |
CN109241955A (zh) * | 2018-11-08 | 2019-01-18 | 联想(北京)有限公司 | 识别方法和电子设备 |
CN110149482A (zh) * | 2019-06-28 | 2019-08-20 | Oppo广东移动通信有限公司 | 对焦方法、装置、电子设备和计算机可读存储介质 |
CN110209273A (zh) * | 2019-05-23 | 2019-09-06 | Oppo广东移动通信有限公司 | 手势识别方法、交互控制方法、装置、介质与电子设备 |
CN110881103A (zh) * | 2019-09-19 | 2020-03-13 | Oppo广东移动通信有限公司 | 对焦控制方法和装置、电子设备、计算机可读存储介质 |
CN111050078A (zh) * | 2019-12-26 | 2020-04-21 | 上海传英信息技术有限公司 | 一种拍照方法、移动终端及计算机存储介质 |
CN111507246A (zh) * | 2020-04-15 | 2020-08-07 | 上海幂方电子科技有限公司 | 通过手势选定标记对象的方法、装置、系统及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106775258A (zh) * | 2017-01-04 | 2017-05-31 | 虹软(杭州)多媒体信息技术有限公司 | 利用手势控制实现虚拟现实交互的方法和装置 |
KR20180092621A (ko) * | 2017-02-10 | 2018-08-20 | 엘지전자 주식회사 | 단말기 및 그 제어 방법 |
-
2021
- 2021-03-18 CN CN202110291714.2A patent/CN113141502B/zh active Active
Patent Citations (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104317385A (zh) * | 2014-06-26 | 2015-01-28 | 青岛海信电器股份有限公司 | 一种手势识别方法和系统 |
CN104065885A (zh) * | 2014-06-27 | 2014-09-24 | 宇龙计算机通信科技(深圳)有限公司 | 一种终端、视频摄像装置及方法 |
CN104317398A (zh) * | 2014-10-15 | 2015-01-28 | 天津三星电子有限公司 | 一种手势控制方法、穿戴式设备及电子设备 |
CN104994297A (zh) * | 2015-07-09 | 2015-10-21 | 厦门美图之家科技有限公司 | 全景拍照的对焦测光锁定方法和系统 |
CN104954695A (zh) * | 2015-07-14 | 2015-09-30 | 厦门美图之家科技有限公司 | 一种视频拍摄的对焦锁定方法和系统 |
CN105007426A (zh) * | 2015-07-27 | 2015-10-28 | 厦门美图之家科技有限公司 | 一种基于人脸识别的对焦方法和对焦系统 |
WO2018098862A1 (zh) * | 2016-11-29 | 2018-06-07 | 歌尔科技有限公司 | 用于虚拟现实设备的手势识别方法、装置及虚拟现实设备 |
CN106454135A (zh) * | 2016-11-29 | 2017-02-22 | 维沃移动通信有限公司 | 一种拍照提醒方法及移动终端 |
CN107465880A (zh) * | 2017-09-29 | 2017-12-12 | 广东欧珀移动通信有限公司 | 对焦方法、装置、终端和计算机可读存储介质 |
CN107786812A (zh) * | 2017-10-31 | 2018-03-09 | 维沃移动通信有限公司 | 一种拍摄方法、移动终端及计算机可读存储介质 |
CN109241955A (zh) * | 2018-11-08 | 2019-01-18 | 联想(北京)有限公司 | 识别方法和电子设备 |
CN110209273A (zh) * | 2019-05-23 | 2019-09-06 | Oppo广东移动通信有限公司 | 手势识别方法、交互控制方法、装置、介质与电子设备 |
CN110149482A (zh) * | 2019-06-28 | 2019-08-20 | Oppo广东移动通信有限公司 | 对焦方法、装置、电子设备和计算机可读存储介质 |
CN110881103A (zh) * | 2019-09-19 | 2020-03-13 | Oppo广东移动通信有限公司 | 对焦控制方法和装置、电子设备、计算机可读存储介质 |
CN111050078A (zh) * | 2019-12-26 | 2020-04-21 | 上海传英信息技术有限公司 | 一种拍照方法、移动终端及计算机存储介质 |
CN111507246A (zh) * | 2020-04-15 | 2020-08-07 | 上海幂方电子科技有限公司 | 通过手势选定标记对象的方法、装置、系统及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN113141502A (zh) | 2021-07-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11756223B2 (en) | Depth-aware photo editing | |
CN109345556B (zh) | 用于混合现实的神经网络前景分离 | |
US11782507B2 (en) | Image changes based on facial appearance | |
US11010979B2 (en) | Overlay for camera field of vision | |
US20210014408A1 (en) | Imaging system and method for producing images via gaze-based control | |
CN109840946B (zh) | 虚拟对象显示方法及装置 | |
CN107479712B (zh) | 基于头戴式显示设备的信息处理方法及装置 | |
CN110211211B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US11165957B2 (en) | Reconstruction of obscured views in captured imagery using user-selectable pixel replacement from secondary imagery | |
US11328437B2 (en) | Method for emulating defocus of sharp rendered images | |
EP3881281B1 (en) | System and method for processing images for display apparatus | |
CN113870213A (zh) | 图像显示方法、装置、存储介质以及电子设备 | |
CN113269781A (zh) | 数据生成方法、装置及电子设备 | |
CN113141502B (zh) | 头戴式显示设备的摄像控制方法、装置及头戴式显示设备 | |
JP2020135290A (ja) | 画像生成装置、画像生成方法、画像生成システム、及びプログラム | |
US11308586B2 (en) | Method for applying a vignette effect to rendered images | |
CN111736692B (zh) | 显示方法、显示装置、存储介质与头戴式设备 | |
CN111866493A (zh) | 基于头戴显示设备的图像校正方法、装置及设备 | |
US20220215512A1 (en) | Method for Emulating Defocus of Sharp Rendered Images | |
CN113190110A (zh) | 头戴式显示设备的界面元素控制方法及装置 | |
CN114339029A (zh) | 拍摄方法、装置及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |