CN115039130A - 视距推测方法、视距推测装置以及视距推测程序 - Google Patents
视距推测方法、视距推测装置以及视距推测程序 Download PDFInfo
- Publication number
- CN115039130A CN115039130A CN202180007158.XA CN202180007158A CN115039130A CN 115039130 A CN115039130 A CN 115039130A CN 202180007158 A CN202180007158 A CN 202180007158A CN 115039130 A CN115039130 A CN 115039130A
- Authority
- CN
- China
- Prior art keywords
- distance
- image
- value
- iris
- resolution
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/536—Depth or shape recovery from perspective effects, e.g. by using vanishing points
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/28—Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Human Computer Interaction (AREA)
- Ophthalmology & Optometry (AREA)
- Life Sciences & Earth Sciences (AREA)
- Geometry (AREA)
- Animal Behavior & Ethology (AREA)
- Public Health (AREA)
- Biomedical Technology (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Surgery (AREA)
- Veterinary Medicine (AREA)
- Image Analysis (AREA)
- Eye Examination Apparatus (AREA)
- Collating Specific Patterns (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)
Abstract
视距推测方法,获取通过摄像装置摄像到的包含观看对象物的人的脸部的第一图像;从第一图像检测人的虹膜的尺寸;计算表示检测到的虹膜的尺寸的像素数的第一值;获取第一图像的分辨率;基于第一值以及表示预先规定的虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;基于表示分辨率以及第三值与视距之间的关系的关系信息,推测与获取到的分辨率和计算出的第三值对应的视距;输出包含所推测的视距的推测信息。
Description
技术领域
本发明涉及一种检测表示对象物与人的眼睛之间的距离的视距的技术。
背景技术
用于推测人注视的对象物与人的眼睛之间的距离(视距)的技术是以推测人的状态(例如,眼睛的疲劳度)为首的各种处理的基础技术。作为推测视距的技术已知有例如专利文献1所公开的技术。在专利文献1公开了如下所示的技术,用测距仪测量用户与显示器之间的距离,在测量到的距离低于阈值的情况下,自动地干扰被显示在显示器上的图像,在测量到的距离为阈值以上的情况下,自动地复原被显示在显示器上的图像,从而降低近视的进一步发展。
而且,在专利文献2也公开了一种技术,基于图像所包含的虹膜直径的像素数和与人无关的已知的虹膜的实际尺寸,计算出每个单位像素的实际尺寸,并基于所计算出的每个单位像素的实际尺寸和图像所包含的虹膜以外的对象物的像素数计算出对象物的实际尺寸。
然而,专利文献1公开的技术需要用于测量视距的专用的测距仪。而且,专利文献2公开的技术没有对视距进行测量。因此,为了不用设置测距仪而是通过简单的构成就能够推测视距,需要对专利文献1以及专利文献2的技术进一步进行改进。
现有技术文献
专利文献
专利文献1:日本专利公开公报特开2019-168687号
专利文献2:日本专利公开公报特表2004-501463号
发明内容
本发明是为了解决上述问题而做出的发明,其目的在于提供了一种可以不必使用测距仪而是通过简单的构成就能够推测视距的技术。
本发明的一方面涉及的视距推测方法,是推测表示对象物与人的眼睛之间的距离的视距的视距推测装置的视距推测方法,使所述视距推测装置的计算机:获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;从所述第一图像检测所述人的虹膜的尺寸;计算表示检测到的所述虹膜的尺寸的像素数的第一值;获取所述第一图像的分辨率;基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与获取到的所述分辨率和计算出的所述第三值对应的所述视距;输出包含所推测的所述视距的推测信息。
根据本发明,可以不必使用测距仪而是通过简单的构成就能够推测视距。
附图说明
图1是本发明的第一实施方式的视距推测系统的外观图。
图2是表示本发明的第一实施方式的视距推测系统的整体构成的一个例子的方框图。
图3是表示本发明的第一实施方式的视距推测装置的处理的一个例子的流程图。
图4是表示虹膜检测处理的一个例子的流程图。
图5是虹膜直径的说明图。
图6是表示被显示在显示器上的显示画面的一个例子的示意图。
图7是表示脸部区域的示意图。
图8是表示眼睛检测区域的示意图。
图9是表示二值图像的一个例子的示意图。
图10是表示进行了收缩处理的二值图像的一个例子的示意图。
图11是表示局部区域的示意图。
图12是虹膜推测中心位置的说明图。
图13是表示在瞳区域内出现的黑的岛区域的二值图像的示意图。
图14是表示涂敷处理之后的二值图像的示意图。
图15是表示检测到了瞳区域的左端像素以及右端像素的二值图像的示意图。
图16是表示检测到了瞳区域的上端像素以及下端像素的二值图像的示意图。
图17是表示本发明的第二实施方式的视距推测系统的整体构成的一个例子的方框图。
图18是表示第二实施方式的视距推测装置的处理的一个例子的流程图。
图19是检测脸部朝向度的处理的说明图。
图20是表示本发明的第三实施方式的视距推测系统的整体构成的一个例子的示意图。
图21是表示本发明的第三实施方式的视距推测装置的处理的一个例子的流程图。
图22是计算会聚角的处理的说明图。
具体实施方式
得到本发明的过程
随着数字设备的普及,人们近距离长时间地观看智能手机以及平板电脑终端等便携式终端装置的显示器的机会逐渐增加。这种机会的增加会诱发眼睛疲劳。如果在便携式终端装置组装能够督促人们引起注意的功能,例如,测量显示器与人的眼睛之间的视距,在人的眼睛过于靠近显示器的情况下就启动该功能,可以防止眼睛疲劳。
然而,在上述的专利文献1,使用以红外线测距仪以及超声波换能发射器(ultrasonic transduceremitter)为首的测距仪来测量视距。因此,专利文献1的技术需要将测距仪预先组装到便携式终端装置,或者将可外部组装的测距仪安装到便携式终端装置,存在会导致便携式终端装置的构成大型化以及复杂化的问题。
而且,在上述专利文献2,尽管利用了虹膜直径的实际尺寸是恒定的知识,但是,测量对象只不过是被包含在图像内的对象物的实际尺寸,并没有对视距进行测量。
在此,对基于已知的虹膜直径的实际尺寸和摄像人时在图像内出现的虹膜直径的像素数测量每个像素的实际尺寸,利用测量到的每个像素的实际尺寸计算视距的情况进行了探讨。
图像的分辨率根据摄像装置的种类或摄像模式而有所不同。例如,如果在分辨率为100万像素的图像虹膜的像素数用n像素来表示,那么在分辨率为200万像素的图像虹膜的像素数就用2n像素来表示。如此,每个像素相对于已知的虹膜直径的实际尺寸的权重根据图像的分辨率而有所不同。因此,仅仅利用基于已知的虹膜直径的实际尺寸和从图像检测出的虹膜直径的像素数计算出的每个像素的实际尺寸,还不能推测视距。
在此,本发明的发明人对上述的问题进行了详细的研究,得到了以下的结论,即,通过利用已知的虹膜的尺寸的实际尺寸和从图像检测出的虹膜的尺寸的像素数以及图像的分辨率(resolution of the image),不用设置测距仪而是通过简单的构成就能够推测出视距,从而想到了本发明的如下所示的各实施方式。
本发明的一方面涉及的视距推测方法,是推测表示对象物与人的眼睛之间的距离的视距的视距推测装置的视距推测方法,使所述视距推测装置的计算机:获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;从所述第一图像检测所述人的虹膜的尺寸;计算表示检测到的所述虹膜的尺寸的像素数的第一值;获取所述第一图像的分辨率;基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与获取到的所述分辨率和计算出的所述第三值对应的所述视距;输出包含所推测的所述视距的推测信息。
根据该构成,基于表示从第一图像检测检测到的虹膜的尺寸的像素数的第一值以及表示人的虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值。基于表示分辨率以及第三值与视距之间的关系的关系信息,推测与获取到的第一图像的分辨率和计算出的第三值对应的视距。
如此,在该构成,利用表示与一个像素对应的实际尺寸的第三值和图像的分辨率来推测视距。因此,本发明可以不必设置测距仪而是通过简单的构成就能够推测视距。
在所述的视距推测方法,也可以是,所述视距推测装置是具备相机以及显示器的便携式终端装置,所述对象物是所述显示器,所述第一图像是通过所述相机摄像到的图像。
根据该构成,可以推测观看便携式终端装置的显示器的人相对于显示器的视距。因此,例如,在人过分地接近显示器的情况下,可以对人督促应予以注意。由此,可以抑制人的眼睛疲劳。
在所述的视距推测方法,也可以,还基于所述第一图像检测所述脸部的朝向,并根据检测到的所述脸部的朝向校正所述视距。
在第一图像出现的虹膜的尺寸的像素数(第一值)随着脸部的朝向转向离开正面的朝向的方向而变小,与此同时,所推测的视距变得比实际的视距大。这样的话,就无法正确地推测视距。根据该构成,因为根据脸部的朝向对视距进行校正,可以提高视距的推测精度。
在所述的视距推测方法,也可以在校正所述视距时,通过对所述视距乘以校正系数来校正所述视距,所述校正系数使所述视距随着所述脸部的朝向转向离开正面的朝向的方向而减小。
根据该构成,通过对视距乘以使视距随着脸部的朝向转向离开正面的朝向的方向而减小的校正系数来校正视距。因此,可以与脸部的朝向无关地正确地推测视距。
在所述的视距推测方法,也可以在检测所述虹膜的尺寸时:从所述第一图像生成包含所述人的眼睛区域的第二图像;将所述第二图像进行二值化生成第三图像,在所述第三图像,用第一亮度值表示灰度值小于阈值的像素、用第二亮度值表示所述灰度值在阈值以上的像素;将在所述第三图像出现在具有所述第一亮度值的第一亮度区域内的所述第二亮度值的像素且满足规定的条件的所述第二亮度值的像素置换为所述第一亮度值的像素从而生成第四图像;利用所述第四图像检测所述虹膜。
根据该构成,将在第三图像出现在第一亮度区域内的第二亮度值的像素且满足规定的条件的第二亮度值的像素置换为第一亮度值的像素从而生成第四图像。由此,在第一亮度区域内的相当于瞳的区域内出现的第二亮度值的像素被第一亮度值而涂敷。而且,利用作为被涂敷的二值图像的第四图像检测虹膜的尺寸。其结果,可以抑制映入到角膜的外光以及背景的影响,可以高精度地检测虹膜。
在所述的视距推测方法,也可以,在检测所述虹膜的尺寸时,检测所述人的左眼和右眼的虹膜的中心位置,还基于检测到的所述左眼和右眼的所述虹膜的中心位置和推测出的所述视距,计算所述人的眼睛的会聚角。
根据该构成,因为基于左眼以及右眼的虹膜的中心位置和视距计算眼睛的会聚角,可以提示人的眼睛的疾患的判断材料。
在所述的视距推测方法,也可以在计算所述会聚角时:基于所述第一图像,检测表示所述人的内眼角之间的中心的内眼角间的中点;计算从所述内眼角间的中点到左眼的所述虹膜的中心位置的第一距离和从所述内眼角间的中点到右眼的所述虹膜的中心位置的第二距离;基于所述第一距离以及推测出的所述视距计算第一会聚半角,并基于所述第二距离以及推测出的所述视距计算第二会聚半角;将所述第一会聚半角和所述第二会聚半角之和作为所述会聚角进行计算。
根据该构成,基于第一图像检测人的内眼角间的中点,计算从内眼角间的中点到左眼的虹膜的中心位置的第一距离和从内眼角间的中点到右眼的虹膜的中心位置的第二距离,基于第一距离以及推测出的视距计算第一会聚半角,并基于第二距离以及推测出的视距计算第二会聚半角,将第一会聚半角和第二会聚半角之和作为会聚角进行计算。因此,可以正确地计算出会聚角。
在所述的视距推测方法,也可以还使所述推测信息重叠显示在所述第一图像上。
根据该构成,包含所推测的视距的推测信息被重叠显示在包含人的脸部的第一图像上,可以在第一图像实时地显示推测信息。
在所述的视距推测方法,也可以是,被重叠显示在所述第一图像上的所述推测信息包含基于所述第一值和所述第二值生成的、表示所述第一图像内的物体的实际尺寸的计量对象。
根据该构成,因为在第一图像内显示计量对象,可以表示在第一图像内的物体的实际尺寸。
在所述的视距推测方法,也可以,在检测所述虹膜的尺寸时,检测左眼和右眼各自的虹膜的尺寸;在推测所述视距时,分别针对所述左眼和右眼,基于检测到的所述虹膜的尺寸判断所述虹膜的检测结果是否适当,仅利用对于所述左眼和右眼之中被判断为适当的眼睛的所述第三值来推测所述视距。
在人眨眼或外光以及背景映入到角膜等的情况下,检测出的虹膜的尺寸有时会小于预想的尺寸。在这种情况下,视距被推测成比实际的视距大,视距的推测精度降低。根据该构成,基于左眼和右眼各自的虹膜的尺寸判断针对左眼和右眼的虹膜的检测结果是否适当,仅利用被判断为适当的眼睛的第三值来推测视距。因此,可以考虑到检测出的虹膜的尺寸会小于预想的尺寸,来推测正确的视距。
在所述的视距推测方法,所述关系信息也可以是将所述分辨率以及所述第三值作为说明变量,将所述视距作为目的变量的回归方程式。
根据该构成,可以利用回归方程式正确地推测视距。
本发明的另一方面涉及的视距推测装置,是推测表示对象物与人的眼睛之间的距离的视距的视距推测装置,包括:图像获取部,用于获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;虹膜检测部,从所述第一图像检测所述人的虹膜的尺寸;像素数计算部,用于计算表示检测到的所述虹膜的尺寸的像素数的第一值;分辨率获取部,获取所述第一图像的分辨率;实际尺寸计算部,基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;推测部,基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与通过所述分辨率获取部获取到的所述分辨率和通过实际尺寸计算部计算出的所述第三值对应的所述视距;以及,输出部,输出包含通过所述推测部所推测的所述视距的推测信息。
本发明的再另一方面涉及的视距推测程序,使计算机作为推测表示对象物与人的眼睛之间的距离的视距的视距推测装置而发挥作用,所述视距推测装置包括:图像获取部,用于获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;虹膜检测部,从所述第一图像检测所述人的虹膜的尺寸;像素数计算部,用于计算表示检测到的所述虹膜的尺寸的像素数的第一值;分辨率获取部,获取所述第一图像的分辨率;实际尺寸计算部,基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;推测部,基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与通过所述分辨率获取部获取到的所述分辨率和通过实际尺寸计算部计算出的所述第三值对应的所述视距;以及,输出部,输出包含通过所述推测部所推测的所述视距的推测信息。
根据这些构成,可以获得与上述的视距推测方法同样的技术效果。
本发明,也可以作为通过视距检测程序而动作的视距推测方法来实现。而且,不用说,也可以使这样的计算机程序通过CD-ROM等的计算机可读取的非暂时性的记录介质或英特网等的通信网络进行流通。
另外,在以下说明的各实施方式都是表示本发明的一具体例子的实施方式。在以下的实施方式所示的数值、形状、构成要素、步骤、步骤的顺序等只不过是一个例子而已,并不用于限定本发明。而且,以下的实施方式中的构成要素之中、没有记载在表示最上位概念的独立权利要求中的构成要素作为任意的构成要素而被说明。而且,对于所有的实施方式,可以任意地组合它们的内容。
第一实施方式
图1是本发明的第一实施方式的视距推测系统100的外观图。视距推测系统100由智能手机或平板电脑终端等便携式终端装置构成。但是,这仅是一个例子而已,视距推测系统100也可以通过适当地组合台式计算机或云服务器和相机以及显示器来构成。
视距推测系统100包含视距推测装置1、摄像装置2以及显示器3。视距推测装置1推测通过摄像装置2摄像到的人U1的眼睛和显示器3之间的距离即视距。
摄像装置2由组装在便携式终端装置中的相机构成。摄像装置2是能够以规定的帧率(frame rate)摄像彩色的可见光图像的相机。
显示器3由组装在便携式终端装置的液晶显示装置或有机EL(ElectroLuminescence)显示装置等显示装置构成。显示器3显示摄像装置2摄像到的人U1的脸部的图像。此外,显示器3将包含由视距推测装置1推测出的视距的推测信息重叠地显示在人U1的脸部的图像上。
图2是表示本发明的第一实施方式的视距推测系统100的整体构成的一个例子的方框图。视距推测装置1包含处理器10以及存储器20。处理器10例如由CPU(CentralProcessing Unit)构成。处理器10包含图像获取部11、虹膜检测部12、像素数计算部13、分辨率(resolution)获取部14、实际尺寸计算部15、推测部16以及输出部17。图像获取部11至输出部17例如通过让处理器10执行视距推测程序来实现。
图像获取部11获取由摄像装置2摄像到的包含观看对象物的人的脸部的脸部图像。对象物例如是显示器3。图像获取部11依次获取以规定的帧率摄像的脸部图像。脸部图像是包含观看对象物的人U1的脸部的第一图像的一个例子。
虹膜检测部12从图像获取部11获取到的脸部图像检测人U1的虹膜的尺寸。作为虹膜的尺寸,可以采用虹膜直径或虹膜半径。以下,以虹膜的尺寸是虹膜直径为例来进行说明。
具体而言,虹膜检测部12从脸部图像检测出包含人的脸部的区域的脸部区域,并从检测到的脸部区域生成包含人U1的左眼区域和右眼区域的眼睛检测区域(第二图像的一个例子)。眼睛检测区域例如呈矩形。
其次,虹膜检测部12将眼睛检测区域二值化生成二值图像(第三图像的一个例子),在该二值图像,灰度值小于阈值的像素用第一亮度值来表示,灰度值为阀值以上的像素用第二亮度值来表示。在此,在眼睛检测区域由彩色图像构成的情况下,虹膜检测部12可以将眼睛检测区域转换为例如具有0至255灰度值的灰度图像,对转换后的灰度图像执行二值化处理。作为二值化处理,可以采用例如大津二值化处理(Otsu’s binarization)。第一亮度值例如为白,第二亮度值例如为黑。即,在本实施方式,生成用白表示较暗的部分、用黑表示明亮的部分的二值图像。白的亮度值例如用255来表示,黑的亮度值例如用0来表示。
其次,虹膜检测部12,在二值图像执行将黑像素置换为白像素的涂敷处理,所述黑像素是出现在由白像素构成的白区域(第一亮度区域)的像素且满足规定的条件。然后,虹膜检测部12利用进行了涂敷处理的二值图像来检测虹膜的尺寸。由此,生成在相当于白区域内的瞳的区域(以下称为瞳区域)内出现的黑的岛区域被白像素涂敷的二值图像。进行了涂敷处理的二值图像是第四图像的一个例子。涂敷处理的详细内容将在以后说明。
参照图8。在本实施方式,眼睛包含白眼仁和被白眼仁103包围的从正面看去为圆形的瞳110。瞳110包含从正面看去为圆形的瞳孔101和包围瞳孔101的环状的虹膜102。在本实施方式,假设虹膜中心位置、瞳110的中心位置、瞳孔101的中心位置相同。
参照图2。像素数计算部13计算表示通过虹膜检测部12检测到的虹膜直径的像素数的第一值。
分辨率获取部14获取脸部图像的分辨率。在此,分辨率获取部14也可以将预先存储在存储器20中的显示器3的分辨率作为脸部图像的分辨率进行获取。或者,分辨率获取部14也可以通过从摄像装置2获取与摄像装置2摄像脸部图像时的摄像模式对应的分辨率,来获取脸部图像的分辨率。或者,分辨率获取部14也可以通过对图像获取部11获取到的脸部图像的分辨率进行计数来获取脸部图像的分辨率。获取到的分辨率既可以包含例如水平分辨率也可以包含水平分辨率以及垂直分辨率。
实际尺寸计算部15,基于像素数计算部13计算出的第一值以及表示预先决定的虹膜直径的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值。虹膜直径的实际尺寸是与人U1无关的恒定的虹膜直径的实际的尺寸,是已知的值。作为第二值采用例如12mm左右的值。另外,在利用虹膜半径作为虹膜的尺寸的情况下,虹膜半径的实际尺寸作为第二值被使用。
推测部16,基于表示分辨率以及第三值与视距之间的关系的关系信息,推测与通过分辨率获取部14获取到的分辨率和通过实际尺寸计算部15计算出的第三值对应的视距。
作为关系信息,例如,采用通过对分辨率、第三值、视距相互对应的多个数据组进行回归分析而预先创建的回归方程式,在该回归方程式,将视距作为目的变量,将分辨率以及第三值作为说明变量。或者,作为关系信息也可以采用利用神经网络等的机器学习对多个数据组进行了学习的机器学习模型,在该机器学习模型,将视距作为输出,将分辨率以及第三值作为输入。
可以通过以下的实际测量获取数据组。例如,利用具有某个分辨率的摄像装置2,一边改变摄像装置2和人U1之间的距离一边测量在各距离的虹膜直径的像素数。其次,用所测量到的虹膜直径的像素数除以虹膜直径的实际尺寸(例如12mm)求出第三值。该第三值的计算可以一边变更分辨率一边进行计算执行多次。由此,获得分辨率、第三值、视距相互对应的多个数据组。
输出部17输出通过推测部16推测的包含视距的推测信息。
存储器20由例如非易失性的存储装置构成,存储关系信息。
其次,对视距推测装置1的处理进行说明。图3是表示本发明的第一实施方式的视距推测装置1的处理的一个例子的流程图。另外,图3所示的流程图以规定的采样周期被执行。规定的采样周期例如是摄像装置2的帧周期。
在步骤S1,图像获取部11从摄像装置2获取脸部图像。在步骤S2,虹膜检测部12执行虹膜检测处理,检测脸部图像所包含的人U1的虹膜直径。在此,虹膜检测部12检测人U1的左眼和右眼各自的虹膜直径。但是,这仅是一个例子而已,虹膜检测部12也可以检测左眼和右眼之中一方的虹膜直径。虹膜检测处理的详细情况将使用图4的流程图在以后进行说明。
在步骤S3,像素数计算部13通过对虹膜检测部12检测到的虹膜直径的像素数进行计数计算出第一值。在此,像素数计算部13可以通过对左眼和右眼各自的虹膜直径的像素数进行计数计算出第一值。图5是虹膜直径的说明图。在虹膜检测处理,检测出虹膜的左端像素P6和虹膜的右端像素P7。因此,像素数计算部13可以对位于左端像素P6以及右端像素P7之间的脸部图像的像素数进行计数,将所得到的像素值作为第一值进行计算。例如,像素数计算部13也可以通过对位于左端像素P6的X坐标和右端像素P7的X坐标之间的X坐标的像素数进行计数计算出第一值。X坐标是表示脸部图像的横向(横方向)的X方向的坐标。Y坐标是表示脸部图像的纵向(垂直方向)的Y方向的坐标。
在该例子,采用在X方向的虹膜的长度作为虹膜直径。这是因为考虑到X方向的虹膜直径不易受到上眼睑的遮盖以及眨眼的影响而且一般情况下虹膜直径都采用X方向的虹膜的长度。但是,本发明并不局限于此,虹膜直径也可以采用Y方向的虹膜的长度(瞳区域的上端像素与下端像素之间的长度)。或者,虹膜直径也可以采用在通过虹膜中心位置P0的斜线L0上、虹膜的左端像素P6′与虹膜的右端像素P7′之间的长度。
在步骤S4,分辨率获取部14获取脸部图像的分辨率。在此,假设获取脸部图像的水平分辨率。
在步骤S5,实际尺寸计算部15通过用第一值除以第二值计算出第三值。由此,获得表示脸部图像内的每个像素的实际尺寸的第三值。在此,实际尺寸计算部15可以针对左眼和右眼分别计算第三值。
在步骤S6,推测部16将第三值和分辨率输入到关系信息来推测视距。在此,推测部16可以将针对左眼和右眼分别计算出的第三值的例如平均值输入到关系信息。
或者,推测部16也可以基于通过虹膜检测处理计算出的左眼和右眼各自的虹膜直径判断左眼和右眼是否表示出适当的虹膜直径,仅利用左眼和右眼之中被判断为适当的眼睛的第三值来推测视距。具体而言,推测部16,在判断两只眼睛都表示出适当的虹膜直径的情况下,可以将左眼和右眼各自的第三值的平均值输入到关系信息来推测视距。另一方面,推测部16,在仪有一只眼睛表示出适当的虹膜直径的情况下,可以仅将适当的一只眼睛的第三值输入到关系信息来推测视距。此外,推测部16,在两只眼睛都没有表示出适当的虹膜直径的情况下,也可以不进行视距的推测。在这种情况下,推测部16可以向输出部17输入出错信号。
左眼和右眼是否表示出适当的虹膜直径,例如,如下所示进行判断。首先,推测部16计算被包含在脸部图像的脸部的规定的部位的宽度。作为脸部的规定的部位,例如可以采用脸部的额头。例如,推测部16对脸部图像执行用于检测特征点的标识处理,检测出脸部的额头的左端的特征点和右端的特征点。然后,将左右的特征点的距离作为额头的宽度进行计算。其次,推测部16对额头的宽度乘以规定的系数计算出直径基准值。然后,如果通过虹膜检测处理检测出的虹膜直径在直径基准值以下,推测部16就可以判断该虹膜直径为不适当。
由此,即使由于人的眨眼、外光以及背景映入到角膜等,检测出的虹膜的尺寸小于预想的尺寸,也能正确地推测出视距。
在步骤S7,输出部17生成包含所推测的视距的推测信息并输出推测信息。例如,输出部17可以生成推测信息被重叠显示在脸部图像上的显示画面,并使显示器3显示该显示画面。
图6是表示被显示在显示器3的显示画面G1的一个例子的示意图。在显示画面G1,在眼睛的上部显示有计量对象(gaugc object)M1。计量对象M1包含多条刻度线M11。计量对象M1是表示脸部图像内的物体的实际尺寸的参照物。计量对象M1包含例如十条刻度线M11。相邻的刻度线M11的间隔与实际尺寸相互对应。在该例子中,刻度线M11的间隔与1cm相对应。因此,观看显示画面G1的人U1通过刻度线M11的间隔可以掌握脸部图像内的任意的部分的实际尺寸。在该例子中,因为嘴唇的宽度相当于刻度线M11的间隔的大约4个间隔,所以可以掌握嘴唇的宽度约为4cm。
计量对象M1如下所述计算得出。首先,输出部17通过用第二像素除以第一像素求出单位长度的像素数。其次,输出部17通过对单位长度的像素数乘以刻度线M11的间隔的实际尺寸值(在该例子中为1cm),计算出刻度线M11在脸部图像的间隔的像素数。然后,输出部17通过对所计算出的每个像素数排列刻度线M11就可以生成计量对象M1。
在显示画面G1的上部配置有显示视距的显示栏R1。在该例子中,在显示栏R1作为视距记载为○Ocm。由此,操作便携式信息终端的人U1可以掌握到显示器3为止的视距为○Ocm。
在此,输出部17也可以判断所推测出的视距是否在规定的视距基准值以下,在所推测出的视距在视距基准值以下的情况下,在显示画面G1显示督促注意的消息。
另外,在显示画面G1,虹膜中心位置P0被重叠显示在瞳的中心。此外,上眼睑的位置P10、下眼睑的位置P11、外眼角位置P12、内眼角的位置P13被重叠显示在人U1的脸部图像上。此外,表示虹膜外缘的圆L4被重叠显示在脸部图像上。此外,通过上眼睑的位置P10、外眼角位置P12、内眼角的位置P13、下眼睑的位置P11的矩形L3被重叠显示在脸部图像上。这些与眼睛有关的信息利用了在后述的虹膜检测处理的处理结果。
由此,显示画面G1可以对摄像装置2摄像到的脸部图像实时地显示与以虹膜信息为首的人U1的眼睛相关的信息。
其次,对虹膜检测处理的详细情况进行说明。图4是表示虹膜检测处理的一个例子的流程图。在步骤S41,虹膜检测部12将脸部图像输入到用于检测脸部区域的分类器,检测脸部区域。图7是表示脸部区域40的示意图。如图7所示,虹膜检测部12将包含额头的上部和下巴的下部以及耳朵的发际的矩形区域作为脸部区域40进行检测。在此,虽然脸部区域40不包含头发的全部,但是也可以是包含头发的全部的区域。在图7,由于脸部图像是从正面摄像人U1的图像,包含左眼和右眼。
在步骤S42,虹膜检测部12将在步骤S41检测到的脸部区域40输入到用于检测眼睛检测区域的分类器,检测出眼睛检测区域。图8是表示眼睛检测区域50的示意图。如图8所示,可以看出眼睛检测区域50是包含眼睛的全部区域并且对眼睛的大小增加了一些富裕的矩形区域。在图8,提取左眼和右眼各自的眼睛检测区域50。
在步骤S43,虹膜检测部12将在步骤S42检测到的眼睛检测区域50转换成灰度图像。作为向灰度图像的转换处理,可以采用例如计算构成眼睛检测区域50的各像素的红色成分、绿色成分、蓝色成分的各自的灰度值的平均值的处理。但是,这仅是一个例子而已,作为向灰度图像的转换处理也可以采用其它的处理。
在步骤S44,虹膜检测部12对转换成灰度图像的眼睛检测区域50进行二值化并生成二值图像60。图9是表示二值图像60的一个例子的示意图。在图9的例子,在眼睛检测区域50生成用白表示瞳以及睫毛等暗的部位、用黑表示白眼仁以及皮肤等明亮的部位的二值图像60。在图9的例子,用由白的像素构成的一块白区域D1表示眼睛的信息。在图9的例子中,由于外光以及背景等向角膜的映入较少,在白区域D1没有出现黑的岛区域。在存在向角膜的映入的情况下,如图13所示,出现黑的岛区域D2。
在步骤S45,虹膜检测部12,通过对二值图像60适用去除白区域D1周围的不需要的黑的区域的收缩处理(narrowing process)生成二值图像70。图10是表示进行了收缩处理的二值图像70的一个例子的示意图。在图10的例子,在二值图像60对白区域D1设定外接矩形,通过去除该外接矩形的外侧的黑的区域生成二值图像70。由此,去除双眼皮、眼睛下方的黑眼圈、位于眼睛周围的痣以及位于眼睛周围的眼镜,可以提高以后的处理的精度。
在步骤S46,虹膜检测部12将二值图像70在X方向以规定像素逐个地分离从而分割成多个局部区域。图11是表示局部区域71的示意图。在图11的例子中,虹膜检测部12将二值图像70在横向上均匀地10等分。由此,二值图像70被划分成以Y方向为长度方向的条形的十个局部区域71。在此,虹膜检测部12将二值图像70分割成十个局部区域71,但是这仅是一个例子而已。分割数也可以是2以上9以下的整数或者11以上的整数。
在步骤S47,虹膜检测部12计算十个局部区域71各自的平均亮度值。在此,由于白的亮度值为255、黑的亮度值为0,平均亮度值例如通过以下所述的公式计算得出。
平均亮度值=局部区域71的白像素数×255/局部区域71的像素数
在步骤S48,虹膜检测部12计算虹膜推测中心位置的X坐标。图12是虹膜推测中心位置P3的说明图。虹膜推测中心位置P3是虹膜中心位置的推测位置,与最终计算出的虹膜中心位置P0有所不同。由于双眼皮、睫毛的浓度以及假睫毛等的影响,这些部位作为白区域D1有时会被过大的表现。在这种情况下,白眼仁103的部位有可能被涂敷。为了避免这种情况的发生,在本实施方式计算虹膜推测中心位置P3。
在图12的例子中,从左起第5个局部区域71a的平均亮度值最大。因此,虹膜检测部12将局部区域71a在X方向的中点的坐标作为虹膜推测中心位置P3的X坐标进行计算。另外,根据局部区域71在X方向的宽度,也存在将局部区域71在X方向的中点作为虹膜推测中心位置P3的X坐标不妥的情况。在这种情况下,也可以将局部区域71在X方向的左端或右端作为虹膜推测中心位置P3的X坐标进行计算。
在步骤S49,虹膜检测部12计算虹膜推测中心位置P3的Y坐标。参照图12,虹膜检测部12在局部区域71a检测出白像素的最上端点P1和白像素的最下端点P2,将最上端点P1和最下端点P2的中点作为虹膜推测中心位置P3的Y坐标进行计算。另外,由于睫毛以及化妆的影响,最上端点P1及最下端点P2有时也有可能在左侧邻接的局部区域71b或右侧邻接的局部区域71c中出现。在此,虹膜检测部12也可以,计算在局部区域71a至71c的各自区域的最上端点以及最下端点,并将计算出的三个最上端点平均求出平均最上端点而且将计算出的三个最下端点平均求出平均最下端点,将平均最上端点和平均最下端点的中点作为虹膜推测中心位置P3的Y坐标进行计算。
在步骤S50,虹膜检测部12对二值图像70执行涂敷处理。在可见光图像中,由于周围的明亮程度等,外光和背景等有时可能会映入到角膜。在该映入较大的情况下,在黑色或茶色的瞳内会出现白等比较明亮颜色的区域。在这种情况下,如果将眼睛的图像进行二值化,在瞳区域内会出现黑的岛区域,从而无法高精度地检测出虹膜信息。在此,在本实施方式,执行涂敷处理。
图13是表示在瞳区域内出现了黑的岛区域D2的二值图像70的示意图。在图13,左图表示左眼的二值图像70,右图表示右眼的二值图像70。如图13所示,可以看出在左右两个二值图像70的双方,在相当于出现在中央的瞳的白区域D1内分散地出现黑的岛区域D2。涂敷该黑的岛区域D2是涂敷处理。在本说明书中,从正面看人U1,位于左侧的眼睛为左眼,位于右侧的眼睛为右眼。但是,这仅是一个例子而已,这种个关系也可以相反。
涂敷处理的详细内容如下所述。首先,虹膜检测部12对二值图像70在虹膜推测中心位置P3的X坐标设定与Y方向平行的纵线L1。其次,虹膜检测部12将在纵线L1从二值图像70的上端开始最先出现的白像素作为上端像素P4进行检测。其次,虹膜检测部12将在纵线L1从二值图像70的下端开始最先出现的白像素作为下端像素P5进行检测。其次,虹膜检测部12判断上端像素P4和下端像素P5之间的距离是否大于第一基准距离。其次,虹膜检测部12,在判断上端像素P4和下端像素P5之间的距离大于第一基准距离的情况下,将在纵线L1位于上端像素P4和下端像素P5之间的黑像素判断为满足规定的条件的黑像素,并将该黑像素置换为白像素。另一方面,虹膜检测部12,在判断上端像素P4和下端像素P5之间的距离在第一基准距离以下的情况下,不对纵线L1进行所述置换。作为第一基准距离采用例如以设想的虹膜直径为基准的适当的距离。
虹膜检测部12对从虹膜推测中心位置P3朝向X方向的左侧的左基准距离的范围内的各纵线L1执行这样的涂敷处理,并对从虹膜推测中心位置P3朝向X方向的右侧的右基准距离的范围内的各纵线L1执行这样的涂敷处理。将左基准距离范围和右基准距离范围之和作为第二基准距离。左基准距离范围和右基准距离范围例如是相同的范围。作为第二基准距离采用例如为比设想的虹膜直径稍大的距离。由此,可以重点地对位于瞳区域的纵线L1适用涂敷处理。
图14是表示涂敷处理之后的二值图像80的示意图。图14的左图表示对图13的左图的二值图像70适用了涂敷处理后的二值图像80,图14的右图表示对图13的右图的二值图像70适用了涂敷处理后的二值图像80。如图14所示,可以看出在图13存在的黑的岛区域D2被白像素涂敷,并生成由一块白像素构成的白区域D3。另一方面,可以看出位于睫毛的部位的黑的岛区域没有被进行涂敷处理。即,可以看出重点地对位于瞳区域的纵线L1进行了涂敷。
在步骤S51,虹膜检测部12分别检测瞳区域的左端像素P6以及右端像素P7。图15是表示检测到瞳区域的左端像素P6以及右端像素P7的二值图像80的示意图。虹膜检测部12,在二值图像80的白区域D3,以虹膜推测中心位置P3为起点在X方向左右逐个像素地调查亮度值的变化。而且,虹膜检测部12将最初出现在X方向的左侧的黑像素作为左端像素P6进行检测,将最初出现在X方向的右侧的黑像素作为右端像素P7进行检测。
在步骤S52,虹膜检测部12将左端像素P6和右端像素P7的中间位置作为虹膜中心位置P0的X坐标进行计算。
在步骤S53,虹膜检测部12分别检测瞳区域的上端像素以及下端像素。图16是表示检测到了瞳区域的上端像素P8以及下端像素P9的二值图像80的示意图。虹膜检测部12,在二值图像80的白区域D3,以虹膜中心位置P0的X坐标为起点在Y方向上下逐个像素地调查亮度值的变化。而且,虹膜检测部12将最初出现在Y方向的上侧的黑像素作为上端像素P8进行检测,并将最初出现在Y方向的下侧的黑像素作为下端像素P9进行检测。
在步骤S54,虹膜检测部12将上端像素P8和下端像素P9的中间位置作为虹膜中心位置P0的Y坐标进行计算。通过以上,计算出虹膜中心位置P0。
在步骤S55,虹膜检测部12将左端像素P6和右端像素P7之间的距离作为虹膜直径进行计算。例如,虹膜检测部12也可以将左端像素P6的X坐标与右端像素P7的X坐标之差作为虹膜直径进行计算。
另外,虹膜检测部12也可以分别计算出图6所示的上眼睑的位置P10、下眼睑的位置P11、外眼角位置P12、内眼角的位置P13、圆L4、矩形L3。上眼睑的位置P10可以采用通过对二值图像80进行形态学梯度运算(morphological gradient calculation)而获得的白区域的边缘的上端像素。下眼睑的位置P11可以采用通过对二值图像80进行形态学梯度运算而获得的白区域的边缘的下端像素。外眼角位置P12可以采用左眼的在左眼的二值图像80中的白区域的左端像素。内眼角的位置P13可以采用左眼的在左眼的二值图像80中的白区域的右端像素。圆L4可以采用以虹膜中心位置P0为中心的具有虹膜直径的圆。矩形L3可以采用通过上眼睑的位置P10、下眼睑的位置P11、外眼角位置P12、内眼角的位置P13的矩形。如果步骤S55的处理结束,处理就前往图3的步骤S3。
如此,在本实施方式,基于从第一图像检测到的作为虹膜直径的像素数的第一值和表示人的虹膜的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值。基于表示图像的分辨率以及第三值与视距之间的关系信息,推测与脸部图像的分辨率和计算出的第三值对应的视距。如此,在本实施方式,利用表示与一个像素对应的实际尺寸的第三值和脸部图像的分辨率来推测视距。因此,在本实施方式,即使不设置测距仪仅用简单的构成就可以推测视距。
第二实施方式
第二实施方式是根据脸部的朝向校正视距的实施方式。图17是表示本发明的第二实施方式的视距推测系统100的整体构成的一个例子的方框图。另外,在本实施方式,对于与第一实施方式相同的构成要素赋予相同的符号并省略其说明。第二实施方式的视距推测系统100包含视距推测装置1A。视距推测装置1A的处理器10A相对于视距推测装置1的处理器10还包含视距校正部18。
视距校正部18,基于脸部图像检测表示脸部在横向的朝向的程度的脸部朝向度(face orientation degree),并根据检测出的脸部朝向度校正通过推测部16推测出的视距。详细而言,视距校正部18,通过对视距乘以用于使视距随着脸部朝向度从正面的朝向转向离开的方向而减小的校正系数,来校正视距。
图18是表示第二实施方式的视距推测装置1A的处理的一个例子的流程图。在该流程中,对于与图3相同的处理赋予相同的处理编号。
在步骤S6之后的步骤S1801,视距校正部18基于脸部图像检测人U1的脸部朝向度。图19是检测脸部朝向度的处理的说明图。
首先,视距校正部18通过对脸部图像适用标识处理(1andmark process)检测脸部的特征点。特征点也称为标识,表示鼻尖、嘴唇的边缘以及脸部线条的弯曲点等脸部的特征点。
其次,视距校正部18,根据设定在脸部区域40的脸部的特征点9X,设定纵向的纵中心线131和横向的横中心线132。例如,视距校正部18可以将通过表示鼻梁的中心的特征点133并与脸部区域40的纵边平行的直线设定为纵中心线131。特征点133例如是表示鼻梁的五个特征点9X之中从上数第3个特征点9X。其次,视距校正部18将例如通过特征点133且与脸部区域40的横边平行的直线设定为横中心线132。另外,纵中心线131以及横中心线132以通过鼻梁的中心的特征点133为例进行了说明,但是,例如,也可以设定成通过鼻梁的下端的特征点134,还可以设定成通过鼻梁的上端的特征点135。
其次,视距校正部18用特征点133划分横中心线132,求出右区间K1和左区间K2的长度。其次,视距校正部18求出以横中心线132的长度为100%时的右区间K1和左区间K2的比率,并基于该比率求出脸部朝向度。如果设右区间K1的比率为K1、左区间K2的比率为K2,脸部朝向度可以例如通过-(K1-K2)计算得出。在该公式中,开头的负数是用于使脸部朝向度在朝右的情况下为正的符号。例如,如果K1=30%、K2=70%,脸部朝向度为-(30-70)=40。例如,如果K1=70%、K2=30%,脸部朝向度为-(70-30)=-40。例如,如果K1=50%、K2=50%,脸部朝向度为-(50-50)=0。
因此,随着脸部朝向度向正的方向增大,表示脸部的朝向更朝向右方,随着脸部朝向度向负的方向增大,表示脸部的朝向更朝向左方。而且,在脸部朝向度为0的情况下,表示脸部的朝向是正面方向。
在步骤S1802,视距校正部18,参照预先创建的校正系数计算信息,决定与计算出的脸部朝向度的绝对值对应的校正系数,通过对在步骤S6推测出的视距乘以所决定的校正系数来校正视距。系数计算信息是以使校正系数随着脸部朝向度的绝对值的增大在从0到1的范围内减少的方式让脸部朝向度的绝对值与校正系数相互对应的信息。例如,在系数计算信息,校正系数为最大值1与脸部朝向度为0相互对应。而且,系数计算信息以使校正系数随着脸部朝向度的绝对值接近最大值50而接近小于1的规定的下限值的方式让脸部朝向度的绝对值与校正系数相互对应。
在步骤S7,输出包含被校正后的视距的推测信息。
随着脸部的朝向转向离开正面的朝向的方向,在脸部图像出现的虹膜直径的像素数(第一值)变小,与此同时,所推测的视距变得比实际的视距大。这样的话,就无法正确地推测视距。根据本构成,因为根据脸部的朝向对视距进行校正,可以提高视距的推测精度。
第三实施方式
第三实施方式是计算会聚角(convergence angle)的实施方式。会聚角是指双眼的视线可以收束到所注视的对象物的位置的角度。图20是表示本发明的第三实施方式的视距推测系统100的整体构成的一个例子的示意图。另外,在本实施方式,对于与第一实施方式和第二实施方式相同的构成要素赋予相同的符号并省略其说明。第三实施方式的视距推测系统100包含视距推测装置1B。视距推测装置1B的处理器10B相对于视距推测装置1A的处理器10A还包含会聚角计算部19。
会聚角计算部19,基于通过虹膜检测部12检测到的人U1的左右眼的虹膜中心位置和通过视距校正部18校正的视距,计算人U1的眼睛的会聚角。
图21是表示本发明的第三实施方式的视距推测装置1B的处理的一个例子的流程图。在该流程中,对于与图18相同的处理赋予相同的处理编号。图22是计算会聚角θ的处理的说明图。在步骤S1802之后的步骤S1901,会聚角计算部19计算左眼的虹膜中心位置P0_L和右眼的虹膜中心位置P0_R之间的距离即虹膜中心间距。在此,虹膜中心位置P0_L和虹膜中心位置P0_R利用在虹膜检测处理计算出的虹膜中心位置P0。
在步骤S1902,会聚角计算部19计算左眼的内眼角位置P13与右眼的内眼角位置P13的中点即内眼角间中点P221。左眼的内眼角的位置P13和右眼的内眼角的位置P13利用在虹膜检测处理计算出的内眼角的位置P13。例如,会聚角计算部19可以计算左眼和右眼各自的内眼角的位置P13的X坐标的差值,将计算出的差值的中点作为内眼角间中点P221进行计算。
在步骤S1903,会聚角计算部19计算内眼角间中点P221与虹膜中心位置P0-L之间的距离D221(第一距离),并计算内眼角间中点P221与虹膜中心位置P0_R之间的距离D222(第二距离)。例如,会聚角计算部19将内眼角间中点P221的X坐标与虹膜中心位置P0_L的X坐标的差值作为距离D221进行计算,并将内眼角间中点P221的X坐标与虹膜中心位置P0_R的X坐标的差值作为距离D222进行计算。
在步骤S1904,会聚角计算部19利用视距L22和距离D221计算左眼的会聚半角θ1(第一会聚半角),并利用视距L22和距离D222计算会聚半角θ2(第二会聚半角)。
在此,会聚半角θ1通过arctan(D221/L22)计算得出,会聚半角θ2通过arctan(D222/L22)计算得出。
在步骤S1905,会聚角计算部19将会聚半角θ1和会聚半角θ2之和作为会聚角θ进行计算。
计算出的会聚角θ被包含在推测信息中而被输出(步骤S7)。在此,会聚角θ例如也可以显示在显示画面G1。由此,可以提示会聚角θ,可以提示眼睛的疾病的判断材料。
本发明可以采用以下的变形例。
(1)视距推测装置1也可以独立于显示器3和摄像装置2而另外构成。在这种情况下,利用关系信息推测出的视距成为摄像装置2与人U1之间的视距。在此,推测部16可以通过用表示显示器3与摄像装置2之间的相对位置关系的信息校正利用关系信息推测出的视距,计算显示器3与人U1之间的视距。
(2)在第二实施方式,通过图像处理计算脸部朝向度,但是本发明并不局限于此,也可以采用用户使用省略图示的操作装置(例如,触摸面板)输入的值。
(3)在第一实施方式说明的虹膜检测处理只是一个例子而已,本发明也可以采用其它的虹膜检测处理。作为其它的虹膜检测处理的例子,例如,可以例举利用了多格曼算法(Doug Leman algorithm)的处理。
(4)在第一至第三实施方式,二值图像60、70、80的第一亮度值为白、第二亮度值为黑,但是本发明并不局限于此,也可以是第一亮度值为黑、第二亮度值为白。
(5)关系信息也可以由表示分辨率以及第三值与视距之间的关系的查询表(lookup table)构成。
(6)第三实施方式也可以适用于第一实施方式。在这种情况下,不是利用校正后的视距而是利用没有校正的视距来计算会聚角。
产业上的可利用性
根据本发明,因为能以简单的构成推测视距,在推测视距的技术领域具有更广泛的用途。
Claims (13)
1.一种视距推测方法,是推测表示对象物与人的眼睛之间的距离的视距的视距推测装置的视距推测方法,其特征在于,使所述视距推测装置的计算机执行以下步骤:
获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;
从所述第一图像检测所述人的虹膜的尺寸;
计算表示检测到的所述虹膜的尺寸的像素数的第一值;
获取所述第一图像的分辨率;
基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;
基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与获取到的所述分辨率和计算出的所述第三值对应的所述视距;
输出包含所推测的所述视距的推测信息。
2.根据权利要求1所述的视距推测方法,其特征在于,
所述视距推测装置是具备相机以及显示器的便携式终端装置,
所述对象物是所述显示器,
所述第一图像是通过所述相机摄像到的图像。
3.根据权利要求1或2所述的视距推测方法,其特征在于,
还基于所述第一图像检测所述脸部的朝向,并根据检测到的所述脸部的朝向校正所述视距。
4.根据权利要求3所述的视距推测方法,其特征在于,
在校正所述视距时,通过对所述视距乘以校正系数来校正所述视距,所述校正系数使所述视距随着所述脸部的朝向转向离开正面的朝向的方向而减小。
5.根据权利要求1至4中任一项所述的视距推测方法,其特征在于,在检测所述虹膜的尺寸时:
从所述第一图像生成包含所述人的眼睛区域的第二图像;
将所述第二图像进行二值化生成第三图像,在所述第三图像,用第一亮度值表示灰度值小于阈值的像素、用第二亮度值表示所述灰度值在阈值以上的像素;
将在所述第三图像出现在具有所述第一亮度值的第一亮度区域内的所述第二亮度值的像素且满足规定的条件的所述第二亮度值的像素置换为所述第一亮度值的像素从而生成第四图像;
利用所述第四图像检测所述虹膜。
6.根据权利要求1至5中任一项所述的视距推测方法,其特征在于,
在检测所述虹膜的尺寸时,检测所述人的左限和右眼的虹膜的中心位置,
还基于检测到的所述左眼和右眼的所述虹膜的中心位置和推测出的所述视距,计算所述人的眼睛的会聚角。
7.根据权利要求6所述的视距推测方法,其特征在于,在计算所述会聚角时:
基于所述第一图像,检测表示所述人的内眼角之间的中心的内眼角间的中点;
计算从所述内眼角间的中点到左眼的所述虹膜的中心位置的第一距离和从所述内眼角间的中点到右眼的所述虹膜的中心位置的第二距离;
基于所述第一距离以及推测出的所述视距计算第一会聚半角,并基于所述第二距离以及推测出的所述视距计算第二会聚半角;
将所述第一会聚半角与所述第二会聚半角之和作为所述会聚角进行计算。
8.根据权利要求1至7中任一项所述的视距推测方法,其特征在于,
还将所述推测信息重叠显示在所述第一图像上。
9.根据权利要求1至8中任一项所述的视距推测方法,其特征在于,
被重叠显示在所述第一图像上的所述推测信息包含基于所述第一值和所述第二值生成的、表示所述第一图像内的物体的实际尺寸的计量对象。
10.根据权利要求1至9中任一项所述的视距推测方法,其特征在于,
在检测所述虹膜的尺寸时,检测左眼和右眼各自的虹膜的尺寸,
在推测所述视距时,分别针对所述左限和右眼,基于检测到的所述虹膜的尺寸判断所述虹膜的检测结果是否适当,仅利用对于所述左眼和右眼之中被判断为适当的眼睛的所述第三值来推测所述视距。
11.根据权利要求1至10中任一项所述的视距推测方法,其特征在于,
所述关系信息是将所述分辨率以及所述第三值作为说明变量,将所述视距作为目的变量的回归方程式。
12.一种视距推测装置,是推测表示对象物与人的眼睛之间的距离的视距的视距推测装置,其特征在于包括:
图像获取部,用于获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;
虹膜检测部,从所述第一图像检测所述人的虹膜的尺寸;
像素数计算部,用于计算表示检测到的所述虹膜的尺寸的像素数的第一值;
分辨率获取部,获取所述第一图像的分辨率;
实际尺寸计算部,基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;
推测部,基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与通过所述分辨率获取部获取到的所述分辨率和通过实际尺寸计算部计算出的所述第三值对应的所述视距;以及,
输出部,输出包含通过所述推测部所推测的所述视距的推测信息。
13.一种视距推测程序,其特征在于,使计算机作为推测表示对象物与人的眼睛之间的距离的视距的视距推测装置而发挥作用,所述视距推测装置包括:
图像获取部,用于获取通过摄像装置摄像到的包含观看所述对象物的所述人的脸部的第一图像;
虹膜检测部,从所述第一图像检测所述人的虹膜的尺寸;
像素数计算部,用于计算表示检测到的所述虹膜的尺寸的像素数的第一值;
分辨率获取部,获取所述第一图像的分辨率:
实际尺寸计算部,基于所述第一值以及表示预先规定的所述虹膜的尺寸的实际尺寸的第二值,计算表示与一个像素对应的实际尺寸的第三值;
推测部,基于表示所述分辨率以及所述第三值与所述视距之间的关系的关系信息,推测与通过所述分辨率获取部获取到的所述分辨率和通过实际尺寸计算部计算出的所述第三值对应的所述视距;以及,
输出部,输出包含通过所述推测部所推测的所述视距的推测信息。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020212617A JP6958828B1 (ja) | 2020-12-22 | 2020-12-22 | 視距離推定方法、視距離推定装置、及び視距離推定プログラム |
JP2020-212617 | 2020-12-22 | ||
PCT/JP2021/021983 WO2022137601A1 (ja) | 2020-12-22 | 2021-06-09 | 視距離推定方法、視距離推定装置、及び視距離推定プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115039130A true CN115039130A (zh) | 2022-09-09 |
Family
ID=78282002
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180007158.XA Pending CN115039130A (zh) | 2020-12-22 | 2021-06-09 | 视距推测方法、视距推测装置以及视距推测程序 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220301204A1 (zh) |
JP (1) | JP6958828B1 (zh) |
CN (1) | CN115039130A (zh) |
WO (1) | WO2022137601A1 (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116421135A (zh) * | 2023-04-27 | 2023-07-14 | 北京京东拓先科技有限公司 | 视力测试方法、装置、电子设备及存储介质 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001145613A (ja) * | 1999-11-22 | 2001-05-29 | Oki Electric Ind Co Ltd | 距離計測機能付きカメラ装置 |
JP5538160B2 (ja) * | 2010-09-24 | 2014-07-02 | パナソニック株式会社 | 瞳孔検出装置及び瞳孔検出方法 |
-
2020
- 2020-12-22 JP JP2020212617A patent/JP6958828B1/ja active Active
-
2021
- 2021-06-09 WO PCT/JP2021/021983 patent/WO2022137601A1/ja active Application Filing
- 2021-06-09 CN CN202180007158.XA patent/CN115039130A/zh active Pending
-
2022
- 2022-06-09 US US17/836,316 patent/US20220301204A1/en active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116421135A (zh) * | 2023-04-27 | 2023-07-14 | 北京京东拓先科技有限公司 | 视力测试方法、装置、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
WO2022137601A1 (ja) | 2022-06-30 |
JP6958828B1 (ja) | 2021-11-02 |
JP2022098932A (ja) | 2022-07-04 |
US20220301204A1 (en) | 2022-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106598221B (zh) | 基于眼部关键点检测的3d视线方向估计方法 | |
CN108427503B (zh) | 人眼追踪方法及人眼追踪装置 | |
KR102056333B1 (ko) | 안경 렌즈 에지의 표시를 설정하기 위한 방법 및 장치 및 컴퓨터 프로그램 | |
US11903644B2 (en) | Measuring eye refraction | |
EP3339943A1 (en) | Method and system for obtaining optometric parameters for fitting eyeglasses | |
JP4683200B2 (ja) | 髪領域の自動抽出方法 | |
JP5560858B2 (ja) | 補正値算出装置、補正値算出方法および補正値算出プログラム | |
EP3453317B1 (en) | Pupil radius compensation | |
US10254831B2 (en) | System and method for detecting a gaze of a viewer | |
EP3270098B1 (en) | Measurement system for eyeglasses-wearing parameter, measurement program, measurement method therefor, and manufacturing method for eyeglasses lens | |
WO2019153927A1 (zh) | 屏幕显示方法、具有显示屏幕的装置、设备及存储介质 | |
JP6956986B1 (ja) | 判定方法、判定装置、及び判定プログラム | |
US20170156585A1 (en) | Eye condition determination system | |
JP5771647B2 (ja) | 肌解析装置、肌解析システム、肌解析方法および肌解析プログラム | |
CN111738241A (zh) | 基于双摄像头的瞳孔检测方法及装置 | |
CN115039130A (zh) | 视距推测方法、视距推测装置以及视距推测程序 | |
JP2019017800A (ja) | コンピュータプログラム、情報処理装置及び情報処理方法 | |
JP2012186821A (ja) | 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法 | |
WO2022018271A1 (en) | Method for determining a coronal position of an eye relative to the head | |
CN112051918A (zh) | 人眼注视计算方法及人眼注视计算系统 | |
KR102473744B1 (ko) | 가림 안가림 검사 중 획득한 안구 이미지 분석을 통한 사시진단방법 | |
CN115039149A (zh) | 虹膜检测方法、虹膜检测装置以及虹膜检测程序 | |
US20210350554A1 (en) | Eye-tracking system | |
CN114761999A (zh) | 图像处理方法、图像处理装置以及图像处理程序 | |
CN117045191A (zh) | 基于vr的自动验光配镜方法、装置、智能眼镜及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |