JP6958828B1 - 視距離推定方法、視距離推定装置、及び視距離推定プログラム - Google Patents

視距離推定方法、視距離推定装置、及び視距離推定プログラム Download PDF

Info

Publication number
JP6958828B1
JP6958828B1 JP2020212617A JP2020212617A JP6958828B1 JP 6958828 B1 JP6958828 B1 JP 6958828B1 JP 2020212617 A JP2020212617 A JP 2020212617A JP 2020212617 A JP2020212617 A JP 2020212617A JP 6958828 B1 JP6958828 B1 JP 6958828B1
Authority
JP
Japan
Prior art keywords
viewing distance
value
iris
image
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020212617A
Other languages
English (en)
Other versions
JP2022098932A (ja
Inventor
寿和 大野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Swallow Incubate Co Ltd
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Swallow Incubate Co Ltd
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Swallow Incubate Co Ltd, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2020212617A priority Critical patent/JP6958828B1/ja
Priority to CN202180007158.XA priority patent/CN115039130A/zh
Priority to PCT/JP2021/021983 priority patent/WO2022137601A1/ja
Application granted granted Critical
Publication of JP6958828B1 publication Critical patent/JP6958828B1/ja
Priority to US17/836,316 priority patent/US20220301204A1/en
Publication of JP2022098932A publication Critical patent/JP2022098932A/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/536Depth or shape recovery from perspective effects, e.g. by using vanishing points
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B3/00Apparatus for testing the eyes; Instruments for examining the eyes
    • A61B3/10Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
    • A61B3/113Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/28Quantising the image, e.g. histogram thresholding for discrimination between background and foreground patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Ophthalmology & Optometry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Geometry (AREA)
  • Animal Behavior & Ethology (AREA)
  • Public Health (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Surgery (AREA)
  • Veterinary Medicine (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Eye Examination Apparatus (AREA)
  • Collating Specific Patterns (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

【課題】視距離専用の距離計を用いることなくより簡易な構成で視距離を推定する。【解決手段】視距離推定方法は、撮像装置により撮像された、対象物を見る人の顔を含む第1画像を取得し、第1画像から人の虹彩のサイズを検出し、検出した虹彩のサイズの画素数を示す第1値を算出し、第1画像の解像度を取得し、第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、解像度及び第3値と視距離との関係を示す関係情報に基づいて、取得した解像度と、算出した第3値とに対応する視距離を推定し、推定した前記視距離を含む推定情報を出力する。【選択図】図2

Description

本開示は、対象物と人の目との間の距離を示す視距離を検出する技術に関するものである。
人が注視する対象物と人の目との間の距離(視距離)を推定する技術は、人の状態(例えば目の疲労度)の推定をはじめとする種々の処理における要素技術となる。視距離を推定する技術として、例えば、特許文献1が知られている。特許文献1には、ユーザとディスプレイとの間の距離を距離計で計測し、計測した距離が閾値を下回った場合は、ディスプレイに表示された画像を自動的に乱し、計測した距離が閾値以上の場合、ディスプレイに表示された画像を自動的に復元することによって、近視の進行を低減する技術が開示されている。
また、特許文献2には画像に含まれる虹彩直径の画素数と、人によらず一定である既知の虹彩の実寸とに基づいて、単位画素あたりの実寸を算出し、算出した単位画素あたりの実寸と画像に含まれる虹彩以外の対象物のピクセル数とに基づいて対象物の実寸を算出する技術が開示されている。
特開2019−168687号公報 特表2004−501463号公報
しかしながら、特許文献1の技術では視距離を計測するための専用の距離計が必要である。また、特許文献2の技術では、視距離を計測することは行われていない。したがって、距離計を設けることなく簡易な構成により視距離を推定するには特許文献1及び2の技術に対してさらなる改善の必要がある。
本開示は、上記課題を解決するためになされたものであり、距離計を用いることなくより簡易な構成で視距離を推定することが可能な技術を提供することである。
本開示の一態様に係る視距離推定方法は、対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、前記視距離推定装置のコンピュータが、撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、前記第1画像から前記人の虹彩のサイズを検出し、検出した前記虹彩のサイズの画素数を示す第1値を算出し、前記第1画像の解像度を取得し、前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、推定した前記視距離を含む推定情報を出力する。
本開示によれば、距離計を用いることなくより簡易な構成で視距離を推定することができる。
本開示の実施の形態1における視距離推定システムの外観図である。 本開示の実施の形態1における視距離推定システムの全体構成の一例を示すブロック図である。 本開示の実施の形態1における視距離推定装置の処理の一例を示すフローチャートである。 虹彩検出処理の一例を示すフローチャートである。 虹彩直径の説明図である。 ディスプレイに表示される表示画面の一例を示す図である。 顔領域を示す図である。 目検出領域を示す図である。 二値画像の一例を示す図である。 絞り込み処理が行われた二値画像の一例を示す図である。 局所領域を示す図である。 虹彩推定中心位置の説明図である。 瞳領域内に黒の島領域が現れた二値画像を示す図である。 塗りつぶし処理後の二値画像を示す図である。 瞳領域の左端画素及び右端画素が検出された二値画像を示す図である。 瞳領域の上端画素及び下端画素が検出された二値画像を示す図である。 本開示の実施の形態2における視距離推定システムの全体構成の一例を示すブロック図である。 実施の形態2における視距離推定装置の処理の一例を示すフローチャートである。 顔向き度を検出する処理の説明図である。 本開示の実施の形態3における視距離推定システムの全体構成の一例を示す図である。 本開示の実施の形態3における視距離推定装置の処理の一例を示すフローチャートである。 輻輳角が算出される処理の説明図である。
(本開示に至る経緯)
デジタル機器の普及により、人はスマートフォン及びタブレット端末等の携帯端末装置のディスプレイを近くで長時間視認する機会が増加している。このような機会の増加は眼精疲労を誘発する。例えば、ディスプレイと人の目との視距離を計測し、人の目がディスプレイに近づきすぎている場合、人に注意を促す機能を携帯端末装置に組み込めば、眼精疲労を未然に防ぐことができる。
しかしながら、上記の特許文献1では、赤外線距離計及び超音波トランデューサエミッタをはじめとする距離計を用いて視距離が計測されている。したがって、特許文献1では、距離計を携帯端末装置に予め組み込むこと、或いは、携帯端末装置に外付け可能な距離計を装着することが要求され、携帯端末装置の構成が大型化及び複雑化するという課題が生じる。
また、上記の特許文献2では、虹彩直径の実寸が一定であるとの知見は利用されているが、計測対象はあくまで画像内に含まれる対象物の実寸であり、視距離を計測することは行われていない。
ここで、既知の虹彩直径の実寸と人を撮像したときの画像内に現れる虹彩直径の画素数とに基づいて1画素あたりの実寸を計測し、計測した1画素あたりの実寸を利用して視距離を算出することについて検討する。
画像の解像度は撮像装置の種類又は撮像モードに応じて異なる。例えば、解像度が100万画素の画像において虹彩の画素数がn画素で表されたとしても、解像度が200万画素の画像において虹彩の画素数が2n画素で表される。このように、既知の虹彩直径の実寸に対する1画素あたり重みは画像の解像度に応じて異なる。したがって、既知の虹彩直径の実寸と画像から検出された虹彩直径の画素数とに基づいて算出された1画素あたりの実寸を単に利用するだけでは、視距離を推定することはできない。
そこで、本発明者は、このような課題に対して詳細な検討を行った結果、既知の虹彩のサイズの実寸と画像から検出した虹彩のサイズの画素数と画像の解像度とを用いることで、距離計を設けることなく簡易な構成により視距離を推定しうるという知見を得て、本開示の下記に示す各態様を想到するに至った。
本開示の一態様に係る視距離推定方法は、対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、前記視距離推定装置のコンピュータが、撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、前記第1画像から前記人の虹彩のサイズを検出し、検出した前記虹彩のサイズの画素数を示す第1値を算出し、前記第1画像の解像度を取得し、前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、推定した前記視距離を含む推定情報を出力する。
本構成によれば、第1画像から検出された虹彩のサイズの画素数を示す第1値と人の虹彩のサイズの実寸を示す第2値とに基づき、1画素に対応する実寸を示す第3値が算出される。画像の解像度及び第3値と視距離との関係を示す関係情報に基づいて、取得した第1画像の解像度と算出した第3値とに対応する視距離が推定される。
このように、本構成では、1画素に対応する実寸を示す第3値と画像の解像度とを用いて視距離が推定されている。そのため、本構成は、距離計を設けることなく簡易な構成で視距離を推定できる。
上記視距離推定方法において、前記視距離推定装置は、カメラ及びディスプレイを備える携帯端末装置であり、前記対象物は、前記ディスプレイであり、前記第1画像は、前記カメラにより撮像されたものであってもよい。
本構成によれば、携帯端末装置のディスプレイを視認する人のディスプレイに対する視距離を推定することができる。そのため、例えば、人がディスプレイに近づき過ぎているような場合、人に注意を促すことが可能になる。それにより、人の眼精疲労を抑制できる。
上記視距離推定方法において、さらに、前記第1画像に基づいて前記顔の向きを検出し、検出した前記顔の向きに応じて前記視距離を補正してもよい。
顔の向きが正面の向きから離れた方向に向かうにつれて、第1画像に現れる虹彩のサイズの画素数(第1値)は小さくなり、それに伴って、推定される視距離は実際の視距離よりも大きくなる。これでは、正確に視距離を推定できない。本構成によれば、顔の向きに応じて視距離が補正されているため、視距離の推定精度を高めることができる。
上記視距離推定方法において、前記視距離の補正では、前記顔の向きが正面の向きから離れた方向に向かうにつれて前記視距離を小さくするための補正係数を前記視距離に乗じることによって、前記視距離を補正してもよい。
本構成によれば、顔の向きが正面の向きから離れた方向に向かうにつれて視距離を小さくするための補正係数が視距離に乗じられることによって、視距離が補正されている。そのため、顔の向きに関わらず視距離を正確に推定できる。
上記視距離推定方法において、前記虹彩のサイズの検出では、前記第1画像から前記人の目の領域を含む第2画像を生成し、前記第2画像を二値化して、階調値が閾値より小さい画素が第1輝度値で表され、前記階調値が閾値以上の画素が第2輝度値で表された第3画像を生成し、前記第3画像において、前記第1輝度値を有する第1輝度領域内に表れる前記第2輝度値の画素であって所定の条件を満たす前記第2輝度値の画素を、前記第1輝度値の画素に置き換えて第4画像を生成し、前記第4画像を用いて前記虹彩のサイズを検出してもよい。
本構成によれば、第3画像において、第1輝度領域内に表れる第2輝度値の画素であって所定の条件を満たす第2輝度値の画素が第1輝度値の画素に置き換えられて第4画像が生成される。これにより、第1輝度領域内の瞳に相当する領域内に現れる第2輝度値の島領域が第1輝度値で塗りつぶされる。そして、塗りつぶされた二値画像である第4画像を用いて虹彩のサイズが検出される。その結果、角膜に映り込んだ外光及び背景の影響が抑制され、虹彩を精度よく検出できる。
上記視距離推定方法において、前記虹彩のサイズの検出では、前記人の左右の目の虹彩の中心位置を検出し、さらに、検出した前記左右の目の前記虹彩の中心位置と推定した前記視距離とに基づいて、前記人の目の輻輳角を算出してもよい。
本構成によれば、左右の目の虹彩の中心位置と視距離とに基づいて目の輻輳角が算出されているため、人の目の疾患の判断材料を提示できる。
上記視距離推定方法において、前記輻輳角の算出では、前記第1画像に基づいて、前記人の目頭間の中心を示す目頭間の中点を検出し、前記目頭間の中点から左の目の前記虹彩の中心位置までの第1距離と前記目頭間の中点から右の目の前記虹彩の中心位置までの第2距離とを算出し、前記第1距離及び推定した前記視距離に基づいて第1輻輳半角を算出すると共に前記第2距離及び推定した前記視距離に基づいて第2輻輳半角を算出し、前記第1輻輳半角と前記第2輻輳半角との和を前記輻輳角として算出してもよい。
本構成によれば、第1画像に基づいて、人の目頭間の中点が検出され、目頭間の中点から左の目の虹彩の中心位置までの第1距離と目頭間の中点から右の目の虹彩の中心位置までの第2距離とが算出され、第1距離及び推定した視距離に基づいて第1輻輳半角が算出されると共に第2距離及び推定した視距離に基づいて第2輻輳半角が算出され、第1輻輳半角と第2輻輳半角との和が輻輳角として算出されている。そのため、輻輳角を正確に算出できる。
上記視距離推定方法において、さらに、前記推定情報を前記第1画像に重畳表示させてもよい。
本構成によれば、推定された視距離を含む推定情報が人の顔を含む第1画像に重畳表示されるため、推定情報を第1画像にリアルタイム表示できる。
上記視距離推定方法において、前記第1画像に重畳表示される前記推定情報には、前記第1値及び前記第2値に基づいて生成された、前記第1画像内の物体の実寸を示すゲージオブジェクトを含んでもよい。
本構成によれば、第1画像内にゲージオブジェクトが表示されるため、第1画像内の物体の実寸を示すことができる。
上記視距離推定方法において、前記虹彩のサイズの検出では、左右の目のそれぞれの虹彩のサイズを検出し、前記視距離の推定では、前記左右の目のそれぞれについて、検出された前記虹彩のサイズに基づいて前記虹彩の検出結果が適正であるか否かを判定し、前記左右の目のうち適正と判定された目に対する前記第3値のみを用いて前記視距離を推定してもよい。
人がまばたきをしていたり、外光及び背景が角膜へ映り込んでいたりするような場合、虹彩が想定されるサイズより小さなサイズで検出されることがある。この場合、視距離が実際の視距離よりも大きく推定され、視距離の推定精度が低下する。本構成によれば、左右の目のそれぞれの虹彩のサイズに基づいて、左右の目のそれぞれについて虹彩の検出結果が適正でるか否かが判定され、適正と判定された目の第3値のみを用いて視距離が推定される。そのため、虹彩のサイズが想定されるサイズよりも小さく検出されることを考慮に入れて適切な視距離を推定することができる。
上記視距離推定方法において、前記関係情報は、前記解像度及び前記第3値を説明変数、前記視距離を目的変数とする回帰式であってもよい。
この構成によれば、回帰式を用いて視距離を正確に推定できる。
本開示の別の一態様に係る視距離推定装置は、対象物と人の目との間の距離を示す視距離を推定する視距離推定装置であって、撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得する画像取得部と、前記第1画像から前記人の虹彩のサイズを検出する虹彩検出部と、検出した前記虹彩のサイズの画素数を示す第1値を算出する画素数算出部と、前記第1画像の解像度を取得する解像度取得部と、前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出する実寸算出部と、前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、前記解像度取得部により取得された前記解像度と、実寸算出部により算出された前記第3値とに対応する前記視距離を推定する推定部と、前記推定部により推定された前記視距離を含む推定情報を出力する出力部とを備える。
本開示のさらに別の一態様に係る視距離推定プログラムは、対象物と人の目との間の距離を示す視距離を推定する視距離推定装置としてコンピュータを機能させる視距離推定プログラムであって撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得する画像取得部と、前記第1画像から前記人の虹彩のサイズを検出する虹彩検出部と、検出した前記虹彩のサイズの画素数を示す第1値を算出する画素数算出部と、前記第1画像の解像度を取得する解像度取得部と、前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出する実寸算出部と、前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、前記解像度取得部により取得された前記解像度と、実寸算出部により算出された前記第3値とに対応する前記視距離を推定する推定部と、前記推定部により推定された前記視距離を含む推定情報を出力する出力部としてコンピュータを機能させる。
これらの構成によれば、上記視距離推定方法と同様の作用効果が得られる。
本開示は、視距離検出プログラムによって動作する視距離推定方法システムとして実現することもできる。また、このようなコンピュータプログラムを、CD−ROM等のコンピュータ読取可能な非一時的な記録媒体あるいはインターネット等の通信ネットワークを介して流通させることができるのは、言うまでもない。
なお、以下で説明する実施の形態は、いずれも本開示の一具体例を示すものである。以下の実施の形態で示される数値、形状、構成要素、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。また全ての実施の形態において、各々の内容を組み合わせることもできる。
(実施の形態1)
図1は、本開示の実施の形態1における視距離推定システム100の外観図である。視距離推定システム100は、スマートフォン又はタブレット端末等の携帯端末装置により構成されている。但し、これは一例であり、視距離推定システム100は、据え置き型のコンピュータ又はクラウドサーバとカメラとディスプレイとを適宜組み合わせて構成されてもよい。
視距離推定システム100は、視距離推定装置1、撮像装置2、及びディスプレイ3を含む。視距離推定装置1は、撮像装置2により撮像された人U1の目とディスプレイ3との距離である視距離を推定する。
撮像装置2は、携帯端末装置に実装されたカメラで構成されている。撮像装置2は、所定のフレームレートでカラーの可視光画像が撮像可能なカメラである。
ディスプレイ3は、携帯端末装置に実装された液晶表示装置又は有機EL(Electro Luminescence)表示装置等の表示装置で構成されている。ディスプレイ3は、撮像装置2が撮像した人U1の顔の画像を表示する。さらに、ディスプレイ3は、人U1の顔の画像に視距離推定装置1が推定した視距離を含む推定情報を重畳表示させる。
図2は、本開示の実施の形態1における視距離推定システム100の全体構成の一例を示すブロック図である。視距離推定装置1は、プロセッサ10及びメモリ20を含む。プロセッサ10は、例えばCPU(Central Processing Unit)で構成されている。プロセッサ10は、画像取得部11、虹彩検出部12、画素数算出部13、解像度取得部14、実寸算出部15、推定部16、及び出力部17を含む。画像取得部11〜出力部17は例えばプロセッサ10が視距離推定プログラムを実行することで実現される。
画像取得部11は、撮像装置2により撮像された、対象物を見る人の顔を含む顔画像を取得する。対象物は、例えばディスプレイ3である。画像取得部11は、所定のフレームレートで撮像される顔画像を順次に取得する。顔画像は対象物を見る人U1の顔を含む第1画像の一例である。
虹彩検出部12は、画像取得部11が取得した顔画像から人U1の虹彩のサイズを検出する。虹彩のサイズとしては、虹彩直径又は虹彩半径が採用できる。以下、虹彩のサイズは虹彩直径であるものとして説明する。
具体的には、虹彩検出部12は、顔画像から人の顔の領域を含む顔領域を検出し、検出した顔領域から人U1の左右のそれぞれの目の領域を含む目検出領域(第2画像の一例)を生成する。目検出領域は例えば矩形状である。
次に、虹彩検出部12は、目検出領域を二値化して、階調値が閾値より小さい画素が第1輝度値で表され、階調値が閾値以上の画素が第2輝度値で表された二値画像(第3画像の一例)を生成する。ここで、目検出領域がカラー画像で構成されている場合、虹彩検出部12は、目検出領域を例えば0〜255の階調値を有するグレースケール画像に変換し、変換したグレースケール画像に対して二値化処理を実行すればよい。二値化処理としては、例えば大津の二値化処理が採用できる。第1輝度値は例えば白であり、第2輝度値は例えば黒である。すなわち、本実施の形態では、暗い箇所は白で表され、明るい箇所は黒で表された二値画像が生成される。白の輝度値は例えば255で表され、黒の輝度値は例えば0で表される。
次に、虹彩検出部12は、二値画像において、白の画素からなる白領域(第1輝度領域)内に表れる黒の画素であって所定の条件を満たす黒の画素を、白画素に置き換える塗りつぶし処理を実行する。そして、虹彩検出部12は、塗りつぶし処理が行われた二値画像を用いて虹彩のサイズを検出する。これにより、白領域内の瞳に相当する領域(以下、瞳領域)内に現れる黒の島領域が白画素で塗りつぶされた二値画像が生成される。塗りつぶし処理が行われた二値画像は、第4画像の一例である。塗りつぶし処理の詳細は後述する。
図8を参照する。本実施の形態では、目は、白目103と白目103に取り囲まれた正面から見て円形の瞳110とを含む。瞳110は、正面から見て円形の瞳孔101と、瞳孔101を取り囲むドーナツ状の虹彩102とを含む。本実施の形態では、虹彩中心位置と、瞳110の中心位置と、瞳孔101の中心位置とは同じとする。
図2を参照する。画素数算出部13は、虹彩検出部12により検出された虹彩直径の画素数を示す第1値を算出する。
解像度取得部14は、顔画像の解像度を取得する。ここで、解像度取得部14は、メモリ20に予め記憶されたディスプレイ3の解像度を顔画像の解像度として取得してもよい。或いは、解像度取得部14は、撮像装置2が顔画像を撮像したときの撮像モードに対応する解像度を撮像装置2から取得することによって、顔画像の解像度を取得してもよい。或いは、解像度取得部14は、画像取得部11が取得した顔画像の解像度をカウントすることによって顔画像の解像度を取得してもよい。取得される解像度には、例えば、水平解像度が含まれていてもよいし、水平解像度及び垂直解像度が含まれていてもよい。
実寸算出部15は、画素数算出部13が算出した第1値及び予め定められた虹彩直径の実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出する。虹彩直径の実寸とは、人U1によらず一定である虹彩直径の実際の寸法であり、既知の値である。第2値としては例えば12mm程度の値が採用される。なお、虹彩のサイズとして虹彩半径が用いられる場合、虹彩半径の実寸が第2値として使用される。
推定部16は、解像度及び第3値と視距離との関係を示す関係情報に基づいて、解像度取得部14により取得された解像度と実寸算出部15により算出された第3値とに対応する視距離を推定する。
関係情報としては、例えば解像度と第3値と視距離とが対応付けられた多数のデータセットを回帰分析することによって予め作成された、視距離を目的変数とし、解像度及び第3値を説明変数とする回帰式が採用される。或いは、関係情報としては、多数のデータセットをニューラルネットワークなどの機械学習を用いて学習された、視距離を出力とし、解像度及び第3値を入力とする機械学習モデルが採用されてもよい。
データセットは以下の実測により取得される。例えばある解像度の撮像装置2を用いて撮像装置2及び人U1間の距離を変えながら、各距離における虹彩直径の画素数が計測される。次に、計測された虹彩直径の画素数で虹彩直径の実寸(例えば12mm)が割られ、第3値が求められる。このような第3値の算出が、解像度を変更されながら多数実施される。これにより、解像度と第3値と視距離とが対応付けられた多数のデータセットが得られる。
出力部17は、推定部16により推定された視距離を含む推定情報を出力する。
メモリ20は、例えば不揮発性の記憶装置で構成され、関係情報を記憶する。
次に、視距離推定装置1の処理について説明する。図3は、本開示の実施の形態1における視距離推定装置1の処理の一例を示すフローチャートである。なお、図3に示すフローチャートは、所定のサンプリング周期で実行される。所定のサンプリング周期は例えば撮像装置2のフレーム周期である。
ステップS1において、画像取得部11は撮像装置2から顔画像を取得する。ステップS2において、虹彩検出部12は、虹彩検出処理を実行し、顔画像に含まれる人U1の虹彩直径を検出する。ここで、虹彩検出部12は、人U1の左右のそれぞれの目の虹彩直径を検出する。但し、これは一例であり、虹彩検出部12は、左右の目のうちいずれか一方の虹彩直径を検出してもよい。虹彩検出処理の詳細は図4のフローチャートを用いて後述する。
ステップS3において、画素数算出部13は、虹彩検出部12により検出された虹彩直径の画素数をカウントすることによって第1値を算出する。ここで、画素数算出部13は、左右の目のそれぞれの虹彩直径の画素数をカウントすることによって第1値を算出すればよい。図5は、虹彩直径の説明図である。虹彩検出処理においては、虹彩の左端画素P6と虹彩の右端画素P7とが検出される。したがって、画素数算出部13は、左端画素P6と右端画素P7との間にある顔画像の画素数をカウントし、得られた画素値を第1値として算出すればよい。例えば、画素数算出部13は、左端画素P6のX座標と右端画素P7のX座標との間にあるX座標の画素数をカウントすることで第1値を算出してもよい。X座標とは、顔画像の横方向(水平方向)を示すX方向の座標である。Y座標とは、顔画像の縦方向(垂直方向)を示すY方向の座標である。
この例では、X方向の虹彩の長さが虹彩直径として採用されている。これは、X方向の虹彩直径は上まぶたの覆い及びまばたきの影響を受けにくい点及び一般的に虹彩直径はX方向の虹彩の長さが採用される点を考慮したためである。本開示は、これに限定されず、虹彩直径は、Y方向の虹彩の長さ(瞳領域の上端画素と下端画素との長さ)が採用されてもよい。或いは、虹彩中心位置P0を通る斜めの直線L0上における虹彩の左端画素P6´と虹彩の右端画素P7´との長さが虹彩直径として採用されてもよい。
ステップS4において、解像度取得部14は、顔画像の解像度を取得する。ここでは、顔画像の水平解像度が取得されるものとする。
ステップS5において、実寸算出部15は、第2値を第1値で割ることで第3値を算出する。これにより、顔画像内の1画素あたりの実寸を表す第3値が得られる。ここで、実寸算出部15は、左右の目のそれぞれについて第3値を算出すればよい。
ステップS6において、推定部16は、第3値と解像度とを関係情報に入力して視距離を推定する。ここで、推定部16は、左右の目のそれぞれについての第3値の例えば平均値を関係情報に入力すればよい。
或いは、推定部16は、虹彩検出処理により算出された左右の目のそれぞれの虹彩直径に基づいて、左右の目が適正な虹彩直径を示しているか否かを判定し、左右の目のうち適正と判定した目に対する第3値のみを用いて視距離を推定してもよい。具体的には、推定部16は、両方の目が適正な虹彩直径を示していると判定した場合、左右の目のそれぞれの第3値の平均値を関係情報に入力して視距離を推定すればよい。一方、推定部16は、片方の目のみが適正な虹彩直径を示している場合、適正な片方の目の第3値のみを関係情報に入力して視距離を推定すればよい。さらに、推定部16は、両方の目が適正な虹彩直径を示していない場合、視距離の推定をしなくてもよい。この場合、推定部16は、エラー信号を出力部17に入力すればよい。
左右の目が適正な虹彩直径を示しているか否かは、例えば、以下のように判定される。まず、推定部16は、顔画像に含まれる顔の所定の部位の横幅を算出する。顔の所定の部位としては、例えば顔の額が採用できる。例えば、推定部16は、顔画像に対して特徴点を検出するランドマーク処理を実行して、顔の額の左端の特徴点と右端の特徴点とを検出する。そして、左右の特徴点の距離を額の横幅として算出する。次に、推定部16は、額の横幅に対して所定の係数を乗じて直径基準値を算出する。そして、推定部16は、虹彩検出処理により検出された虹彩直径が直径基準値以下であれば、その虹彩直径は適正でないと判定すればよい。
これにより、人がまばたきをしていたり、外光及び背景が角膜へ映り込んでいたりすることで、虹彩のサイズが想定されるサイズよりも小さく検出されても、適切に視距離を推定することができる。
ステップS7において、出力部17は、推定された視距離を含む推定情報を生成し、推定情報を出力する。例えば、出力部17は、推定情報が顔画像に重畳表示された表示画面を生成し、この表示画面をディスプレイ3に表示すればよい。
図6は、ディスプレイ3に表示される表示画面G1の一例を示す図である。表示画面G1においては、目の上部にゲージオブジェクトM1が表示されている。ゲージオブジェクトM1は、複数の目盛り線M11を含む。ゲージオブジェクトM1は、顔画像内の物体の実寸を示す表示物である。ゲージオブジェクトM1は、例えば10本の目盛り線M11を含む。隣接する目盛り線M11の間隔は実寸が対応付けられている。この例では、目盛り線M11の間隔は1cmが対応付けられている。したがって、表示画面G1を見た人U1は目盛り線M11の間隔によって顔画像内の任意の部分の実寸を把握することができる。この例では、唇の横幅は目盛り線M11の間隔の約4個分に相当するため、唇の横幅は約4cmであることが把握される。
ゲージオブジェクトM1は下記のように算出される。まず、出力部17は、第1画素を第2画素で割ることで、単位長さあたりの画素数を求める。次に、出力部17は、単位長さあたりの画素数に目盛り線M11の間隔の実寸値(この例では1cm)を乗じることで、顔画像における目盛り線M11の間隔の画素数を算出する。そして、出力部17は、算出した画素数ごとに目盛り線M11を配列することでゲージオブジェクトM1を生成すればよい。
表示画面G1の上部には視距離を表示する表示欄R1が配置されている。この例では、表示欄R1には視距離として〇〇cmと記載されている。これにより、携帯情報端末を操作する人U1はディスプレイ3までの視距離が〇〇cmであることを把握できる。
ここで、出力部17は、推定された視距離が所定の視距離基準値以下であるか否かを判定し、推定された視距離が視距離基準値以下の場合、注意を促すメッセージを表示画面G1に表示させてもよい。
その他、表示画面G1には、虹彩中心位置P0が瞳の中心に重畳表示されている。さらに、上まぶたの位置P10と、下まぶたの位置P11と、目尻の位置P12と、目頭の位置P13とが人U1の顔画像に重畳表示されている。さらに、虹彩外縁を示す円L4が顔画像に重畳表示されている。さらに、上まぶたの位置P10と、目尻の位置P12と、目頭の位置P13と、下まぶたの位置P11とを通る矩形L3が顔画像に重畳表示されている。これらの目に関する情報は後述する虹彩検出処理の処理結果が用いられる。
これにより、表示画面G1は、虹彩情報をはじめとする人U1の目に関する情報を撮像装置2が撮像した顔画像に対してリアルタイムで表示することができる。
次に、虹彩検出処理の詳細について説明する。図4は、虹彩検出処理の一例を示すフローチャートである。ステップS41において、虹彩検出部12は、顔領域を検出する分類器に顔画像を入力し、顔領域を検出する。図7は顔領域40を示す図である。図7に示すように、虹彩検出部12は、額の上部と顎の下部と、耳の生え際とを含む矩形状の領域を顔領域40として検出している。ここでは、顔領域40は髪の全体を含んでいないが、髪の全体を含む領域であってもよい。図7では、顔画像は人U1を正面から撮影した画像であるため、左目と右目とが含まれている。
ステップS42において、虹彩検出部12は、ステップS41で検出した顔領域40を、目検出領域を検出する分類器に入力して目検出領域を検出する。図8は、目検出領域50を示す図である。図8に示すように、目検出領域50は、目の全域を含み、目の大きさに多少のマージンが加えられた矩形状の領域であることが分かる。図8では、左右のそれぞれの目検出領域50が抽出されている。
ステップS43において、虹彩検出部12は、ステップS42で検出された目検出領域50をグレースケール画像に変換する。グレースケール画像への変換処理としては、例えば目検出領域50を構成する各画素の赤成分、緑成分、青成分のそれぞれの階調値の平均を算出する処理が採用できる。但し、これは一例であり、グレースケール画像への変換処理としては他の処理が採用されてもよい。
ステップS44において、虹彩検出部12は、グレースケール画像に変換された目検出領域50を二値化して二値画像60を生成する。図9は、二値画像60の一例を示す図である。図9の例では、目検出領域50において瞳及びまつ毛等の暗い部位が白で表され、白目及び肌等の明るい部位が黒で表された二値画像60が生成されている。図9の例では、白の画素で構成された一塊の白領域D1によって目の情報が表されている。図9の例では、角膜への外光及び背景等の映り込みが少なかったため、白領域D1に黒の島領域が現れていない。角膜への映り込みがある場合、図13に示すように黒の島領域D2が現れる。
ステップS45において、虹彩検出部12は、二値画像60に対して、白領域D1の周囲の不要な黒の領域を除去する絞り込み処理を適用することによって二値画像70を生成する。図10は、絞り込み処理が行われた二値画像70の一例を示す図である。図10の例では、二値画像60において白領域D1に外接矩形が設定され、この外接矩形の外側の黒の領域が除去されることにより二値画像70が生成されている。これにより、二重まぶた、目の下のクマ、目の周囲にあるほくろ、及び目の周囲にあるめがねが除去され、以降の処理の精度を高めることができる。
ステップS46において、虹彩検出部12は、二値画像70をX方向に所定画素ずつ分離して複数の局所領域に分割する。図11は、局所領域71を示す図である。図11の例では、虹彩検出部12は、二値画像70を横方向に均等に10分割する。これにより、二値画像70は、Y方向を長手方向とする短冊状の10個の局所領域71に分けられる。ここで、虹彩検出部12は、二値画像70を10個の局所領域71に分割したが、これは一例である。分割数は、2以上9以下の整数又は11以上の整数であってもよい。
ステップS47において、虹彩検出部12は、10個の局所領域71のそれぞれの平均輝度値を算出する。ここでは、白の輝度値が255であり、黒の輝度値が0であるため、平均輝度値は例えば下記の式で算出される。
平均輝度値=局所領域71の白の画素数×255/局所領域71の画素数
ステップS48において、虹彩検出部12は、虹彩推定中心位置のX座標を算出する。図12は、虹彩推定中心位置P3の説明図である。虹彩推定中心位置P3は、虹彩中心位置の推定位置であり、最終的に算出される虹彩中心位置P0とは異なる。二重まぶた、まつ毛の濃さ、及びつけまつ毛等の影響によりこれらの部位が白領域D1として大きく表れることがある。この場合、白目103の部位が塗りつぶされる可能性がある。このような事態を回避するために、本実施の形態では虹彩推定中心位置P3を算出している。
図12の例では、左から5番目の局所領域71aの平均輝度値が最大である。そのため、虹彩検出部12は、局所領域71aのX方向の中点の座標を虹彩推定中心位置P3のX座標として算出する。なお、局所領域71のX方向の幅によっては、局所領域71のX方向の中点が虹彩推定中心位置P3のX座標として妥当でない場合もある。この場合、局所領域71のX方向の左端又は右端が虹彩推定中心位置P3のX座標として算出されてもよい。
ステップS49において、虹彩検出部12は、虹彩推定中心位置P3のY座標を算出する。図12を参照し、虹彩検出部12は、局所領域71aにおいて、白画素の最上端点P1と、白画素の最下端点P2とを検出し、最上端点P1と最下端点P2との中点を虹彩推定中心位置P3のY座標として算出する。なお、まつ毛及び化粧の影響で最上端点P1及び最下端点P2が左に隣接する局所領域71b又は右に隣接する局所領域71cに現れることもある。そこで、虹彩検出部12は、局所領域71a〜71cのそれぞれの領域において最上端点及び最下端点を算出し、算出した3個の最上端点を平均して平均最上端点を求めるとともに、算出した3個の最下端点を平均して平均最下端点を算出し、平均最上端点と平均最下端点との中点を虹彩推定中心位置P3のY座標として算出してもよい。
ステップS50において、虹彩検出部12は、二値画像70に対して塗りつぶし処理を実行する。可視光画像においては、周囲の明るさ等により、角膜に外光及び背景等が映り込むことがある。この映り込みが大きい場合、黒色又は茶色である瞳内に白などの明るい色の領域が現れる。この場合、目の画像を二値化すると、瞳領域内に黒の島領域が現れ、虹彩情報を高精度に検出できなくなる。そこで、本実施の形態では、塗りつぶし処理を実行する。
図13は、瞳領域内に黒の島領域D2が現れた二値画像70を示す図である。図12において左図は左目の二値画像70を示し、右図は右目の二値画像70を示している。図12に示すように、左右の二値画像70の両方において、中央に現れる瞳に相当する白領域D1内に黒の島領域D2が点在して現れていることが分かる。この黒の島領域D2を塗りつぶすのが塗りつぶし処理である。本明細書では、人U1を正面から見て左にある目を左目、右にある目を右目とする。但し、これは一例であり、この関係は逆であってもよい。
塗りつぶし処理の詳細は下記の通りである。まず、虹彩検出部12は、二値画像70に対して虹彩推定中心位置P3のX座標にY方向と平行な縦ラインL1を設定する。次に、虹彩検出部12は、縦ラインL1において二値画像70の上端側から最初に現れる白画素を上端画素P4として検出する。次に、虹彩検出部12は、縦ラインL1において二値画像70の下端側から最初に現れる白画素を下端画素P5として検出する。次に、虹彩検出部12は、上端画素P4と下端画素P5との間の距離が第1基準距離よりも大きいか否かを判定する。次に、虹彩検出部12は、上端画素P4及び下端画素P5間の距離が第1基準距離よりも大きいと判定した場合、縦ラインL1において上端画素P4及び下端画素P5間にある黒画素を所定の条件を満たす黒画素として判定し、この黒画素を白画素に置換する。一方、虹彩検出部12は、上端画素P4と下端画素P5間の距離が第1基準距離以下と判定した場合、縦ラインL1に対する前記置換は行わない。第1基準距離としては、例えば、想定される虹彩直径を基準に妥当な距離が採用される。
虹彩検出部12は、このような塗りつぶし処理を虹彩推定中心位置P3からX方向の左側に向けて左基準距離の範囲内の各縦ラインL1について実行すると共に虹彩推定中心位置P3からX方向の右側に向けて右基準距離の範囲内の各縦ラインL1について実行する。左基準距離範囲と右基準距離範囲との和を第2基準距離とする。左基準距離範囲と右基準距離範囲とは例えば同じ範囲である。第2基準距離としては、例えば、想定される虹彩直径よりも多少大きな距離が採用される。これにより、瞳領域に位置する縦ラインL1に対して重点的に塗りつぶし処理を適用することができる。
図14は、塗りつぶし処理後の二値画像80を示す図である。図14の左図は図13の左図の二値画像70に対して塗りつぶし処理が適用された二値画像80を示し、図14の右図は図13の右図の二値画像70に対して塗りつぶし処理が適用された二値画像80を示している。図14に示すように、図13に存在していた黒の島領域D2が白画素で塗りつぶされ、一塊の白画素からなる白領域D3が生成されていることが分かる。一方、まつ毛の部位にあった黒の島領域は塗りつぶし処理が行われていないことが分かる。すなわち、瞳領域に位置する縦ラインL1が重点的に塗りつぶされていることが分かる。
ステップS51において、虹彩検出部12は、瞳領域の左端画素P6及び右端画素P7をそれぞれ検出する。図15は、瞳領域の左端画素P6及び右端画素P7が検出された二値画像80を示す図である。虹彩検出部12は、二値画像80の白領域D3において、虹彩推定中心位置P3を起点として、X方向を左右に1画素ずつ輝度値の変化を調べる。そして、虹彩検出部12は、X方向の左側に最初に現れる黒画素を左端画素P6として検出すると共に、X方向の右側に最初に現れる黒画素を右端画素P7として検出する。
ステップS52において、虹彩検出部12は、左端画素P6及び右端画素P7の中間位置を虹彩中心位置P0のX座標として算出する。
ステップS53において、虹彩検出部12は、瞳領域の上端画素及び下端画素をそれぞれ検出する。図16は、瞳領域の上端画素P8及び下端画素P9が検出された二値画像80を示す図である。虹彩検出部12は、二値画像80の白領域D3において、虹彩中心位置P0のX座標を起点として、Y方向を上下に1画素ずつ輝度値の変化を調べる。そして、虹彩検出部12は、Y方向の上側に最初に現れる黒画素を上端画素P8として検出すると共に、Y方向の下側に最初に現れる黒画素を下端画素P9として検出する。
ステップS54において、虹彩検出部12は、上端画素P8及び下端画素P9の中間位置を虹彩中心位置P0のY座標として算出する。以上により虹彩中心位置P0が算出される。
ステップS55において、虹彩検出部12は、左端画素P6及び右端画素P7間の距離を虹彩直径として算出する。例えば、虹彩検出部12は、左端画素P6のX座標と右端画素P7のX座標との差を虹彩直径として算出してもよい。
その他、虹彩検出部12は、図6に示す上まぶたの位置P10と、下まぶたの位置P11と、目尻の位置P12と、目頭の位置P13と、円L4と、矩形L3とをそれぞれ算出してもよい。上まぶたの位置P10は、二値画像80に対してモルフォロジー勾配演算を行うことで得られた白領域のエッジの上端画素が採用される。下まぶたの位置P11は、二値画像80に対してモルフォロジー勾配演算を行うことで得られた白領域のエッジの下端画素が採用される。目尻の位置P12は、左目においては左目の二値画像80における白領域の左端画素が採用される。目頭の位置P13は、左目においては左目の二値画像80における、白領域の右端画素が採用される。円L4は、虹彩中心位置P0を中心とする虹彩直径を有する円が採用される。矩形L3は、上まぶたの位置P10と下まぶたの位置P11と目尻の位置P12と目頭の位置P13とを通る矩形が採用される。ステップS55の処理が終了すると処理は図3のステップS3に進む。
このように、本実施の形態では、第1画像から検出された虹彩直径の画素数である第1値と人の虹彩の実寸を示す第2値とに基づき、1画素に対応する実寸を示す第3値が算出される。画像の解像度及び第3値と視距離との関係を示す関係情報に基づいて、顔画像の解像度と算出した第3値とに対応する視距離が推定される。このように、本実施の形態では、1画素に対応する実寸を示す第3値と顔画像の解像度とを用いて視距離が推定されている。そのため、本実施の形態は、距離計を設けることなく簡易な構成で視距離を推定できる。
(実施の形態2)
実施の形態2は、顔の向きに応じて視距離を補正するものである。図17は、本開示の実施の形態2における視距離推定システム100の全体構成の一例を示すブロック図である。なお、本実施の形態において実施の形態1と同一の構成要素は同一の符号を付して説明を省略する。実施の形態2における視距離推定システム100は、視距離推定装置1Aを含む。視距離推定装置1Aのプロセッサ10Aは、視距離推定装置1のプロセッサ10に対してさらに視距離補正部18を含む。
視距離補正部18は、顔画像に基づいて横方向における顔の向きの度合いを示す顔向き度を検出し、検出した顔向き度に応じて推定部16により推定された視距離を補正する。詳細には、視距離補正部18は、顔向き度が正面の向きから離れた方向に向かうにつれて視距離を小さくするための補正係数を視距離に乗じることによって、視距離を補正する。
図18は、実施の形態2における視距離推定装置1Aの処理の一例を示すフローチャートである。本フローチャートにおいて、図3と同じ処理には同じ処理番号を付している。
ステップS6に続くステップS1801において、視距離補正部18は、顔画像に基づいて人U1の顔向き度を検出する。図19は、顔向き度を検出する処理の説明図である。
まず、視距離補正部18は、顔画像にランドマーク処理を適用することで顔の特徴点を検出する。特徴点は、ランドマークとも称され、鼻の頂点、唇の端、及びフェイスラインの屈曲点などの顔の特徴的な点を示す。
次に、視距離補正部18は、顔領域40に設定された顔の特徴点9Xから縦方向の縦中心線131と横方向の横中心線132とを設定する。例えば、視距離補正部18は、鼻筋の中心を示す特徴点133を通り、且つ顔領域40の縦の辺と平行な直線を縦中心線131として設定すればよい。特徴点133は、例えば鼻筋を示す5個の特徴点9Xのうち、上から3番目の特徴点9Xである。次に、視距離補正部18は、例えば特徴点133を通り、且つ顔領域40の横の辺と平行な直線を横中心線132として設定する。なお、縦中心線131及び横中心線132は、鼻筋の中心の特徴点133を通るとして説明したが、例えば鼻筋の下端の特徴点134を通るように設定されてもよいし、鼻筋の上端の特徴点135を通るように設定されてもよい。
次に、視距離補正部18は、横中心線132を特徴点133で区画し、右区間K1と左区間K2との長さを求める。次に、視距離補正部18は、横中心線132の長さを100%としたときの右区間K1と左区間K2との割合を求め、この割合に基づいて顔向き度を求める。顔向き度は、右区間K1の割合をK1、左区間K2の割合をK2とすると、例えば、−(K1−K2)により算出できる。この式において先頭のマイナスは、右向きの場合に顔向き度を正にするための符号である。例えば、K1=30%、K2=70%とすると、顔向き度は−(30−70)=40となる。例えば、K1=70%、K2=30%とすると、顔向き度は−(70−30)=−40となる。例えば、K1=50%、K2=50%とすると、顔向き度は、−(50−50)=0となる。
したがって、顔向き度がプラスの方向に増大するにつれて、顔の向きはより右方を向いていることを示し、顔向き度がマイナスの方向に増大するにつれて、顔の向きはより左方を向いていることを示す。また、顔向き度が0の場合、顔の向きは正面方向であることを示す。
ステップS1802において、視距離補正部18は、予め作成された補正係数算出情報を参照し、算出した顔向き度の絶対値に対応する補正係数を決定し、決定した補正係数をステップS6で推定された視距離に乗じることで視距離を補正する。係数算出情報は、顔向き度の絶対値が増大するにつれて補正係数が0から1の範囲内で減少するように、顔向き度の絶対値と補正係数とが対応付けられた情報である。例えば、係数算出情報は、顔向き度が0に対して補正係数が最大値である1が対応付けられている。また、係数算出情報は、顔向き度の絶対値が最大値である50に近づくにつれて補正係数が1未満の所定の下限値に近づくように、顔向き度の絶対値と補正係数とが対応付けられている。
ステップS7では、補正された視距離を含む推定情報が出力される。
顔の向きが正面の向きから離れた方向に向かうにつれて、顔画像に現れる虹彩直径の画素数(第1値)は小さくなり、それに伴って、推定される視距離は実際の視距離よりも大きくなる。これでは、正確に視距離を推定できない。本構成によれば、顔の向きに応じて視距離が補正されているため、視距離の推定精度を高めることができる。
(実施の形態3)
実施の形態3は、輻輳角を算出するものである。輻輳角とは、両目の視線が注視する対象物の位置に収束してできる角度である。図20は、本開示の実施の形態3における視距離推定システム100の全体構成の一例を示す図である。なお、本実施の形態において、実施の形態1、2と同一の構成要素には同一の符号を付し、説明を省略する。実施の形態3における視距離推定システム100は、視距離推定装置1Bを含む。視距離推定装置1Bのプロセッサ10Bは、視距離推定装置1Aのプロセッサ10Aに対してさらに輻輳角算出部19を含む。
輻輳角算出部19は、虹彩検出部12により検出された、人U1の左右の目の虹彩中心位置と、視距離補正部18により補正された視距離とに基づいて、人U1の目の輻輳角を算出する。
図21は、本開示の実施の形態3における視距離推定装置1Bの処理の一例を示すフローチャートである。本フローチャートにおいて、図18と同じ処理には同じ処理番号を付している。図22は、輻輳角θが算出される処理の説明図である。ステップS1802に続くステップS1901において、輻輳角算出部19は、左目の虹彩中心位置P0_Lと右目の虹彩中心位置P0_Rとの距離である、虹彩中心間距離を算出する。ここで、虹彩中心位置P0_Lと虹彩中心位置P0_Rとは虹彩検出処理で算出された虹彩中心位置P0が利用される。
ステップS1902において、輻輳角算出部19は、左目の目頭の位置P13と右目の目頭の位置P13との中点である目頭間中点P221を算出する。左目の目頭の位置P13と右目の目頭の位置P13とは虹彩検出処理で算出された目頭の位置P13が利用される。例えば、輻輳角算出部19は、左右の目のそれぞれの目頭の位置P13のX座標の差を算出し、算出した差の中点を目頭間中点P221として算出すればよい。
ステップS1903において、輻輳角算出部19は、目頭間中点P221と虹彩中心位置P0_Lとの距離D221(第1距離)を算出すると共に、目頭間中点P221と虹彩中心位置P0_Rとの距離D222(第2距離)を算出する。例えば、輻輳角算出部19は、目頭間中点P221のX座標と虹彩中心位置P0_LのX座標との差を距離D221として算出し、目頭間中点P221のX座標と虹彩中心位置P0_RのX座標との差を距離D222として算出すればよい。
ステップS1904において、輻輳角算出部19は、視距離L22と距離D221とを用いて左目の輻輳半角θ1(第1輻輳半角)を算出すると共に、視距離L22と距離D222とを用いて輻輳半角θ2(第2輻輳半角)を算出する。
ここで、輻輳半角θ1は、arctan(D221/L22)により算出され、輻輳半角θ2は、arctan(D222/L22)により算出される。
ステップS1905において、輻輳角算出部19は、輻輳半角θ1と輻輳半角θ2との和を輻輳角θとして算出する。
算出された輻輳角θは推定情報に含まれて出力される(ステップS7)。ここで、輻輳角θは例えば表示画面G1に表示されてもよい。これにより、輻輳角θが提示され、目の疾患の判断材料が提示される。
本開示は以下の変形例が採用できる。
(1)視距離推定装置1は、ディスプレイ3と撮像装置2とが別体で構成されていてもよい。この場合、関係情報を用いて推定された視距離は撮像装置2と人U1との視距離となってしまう。そこで、推定部16は、関係情報により推定された視距離を、ディスプレイ3と撮像装置2との相対的な位置関係を示す情報で補正することにより、ディスプレイ3と人U1との視距離を算出すればよい。
(2)実施の形態2において、顔向き度は画像処理により算出されていたが、本開示はこれに限定されず、ユーザが図略の操作装置(例えばタッチパネル)を用いて入力した値が採用されてもよい。
(3)実施の形態1で説明した虹彩検出処理は一例であり、本開示は他の虹彩検出処理が採用されてもよい。他の虹彩検出処理の一例としては、例えばドーグマンアルゴリズムを利用した処理が挙げられる。
(4)実施の形態1〜3では、二値画像60、70、80は、第1輝度値が白、第2輝度値が黒であったが、本開示はこれに限定されず、第1輝度値が黒、第2輝度値が白であってもよい。
(5)関係情報は、解像度及び第3値と、視距離との関係を示すルックアップテーブルで構成されてもよい。
(6)実施の形態3は実施の形態1に適用されてもよい。この場合、輻輳角は補正された視距離ではなく補正されていない視距離を用いて算出される。
本開示によれば、より簡易な構成で視距離を推定することができるため、視距離を推定する技術分野において有用である。
1 :視距離推定装置
2 :撮像装置
3 :ディスプレイ
10 :プロセッサ
11 :画像取得部
12 :虹彩検出部
13 :画素数算出部
14 :解像度取得部
15 :実寸算出部
16 :推定部
17 :出力部
18 :視距離補正部
19 :輻輳角算出部
20 :メモリ
100 :視距離推定システム

Claims (12)

  1. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、
    前記視距離推定装置のコンピュータが、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、
    前記第1画像から前記人の虹彩のサイズを検出し、
    検出した前記虹彩のサイズの画素数を示す第1値を算出し、
    前記第1画像の解像度を取得し、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、
    推定した前記視距離を含む推定情報を出力し、
    前記第1画像に基づいて前記顔の向きを検出し、検出した前記顔の向きに応じて前記視距離を補正する、
    視距離推定方法。
  2. 前記視距離の補正では、
    前記顔の向きが正面の向きから離れた方向に向かうにつれて前記視距離を小さくするための補正係数を前記視距離に乗じることによって、前記視距離を補正する、
    請求項記載の視距離推定方法。
  3. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、
    前記視距離推定装置のコンピュータが、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、
    前記第1画像から前記人の虹彩のサイズを検出し、
    検出した前記虹彩のサイズの画素数を示す第1値を算出し、
    前記第1画像の解像度を取得し、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、
    推定した前記視距離を含む推定情報を出力し、
    前記虹彩のサイズの検出では、
    前記第1画像から前記人の目の領域を含む第2画像を生成し、
    前記第2画像を二値化して、階調値が閾値より小さい画素が第1輝度値で表され、前記階調値が閾値以上の画素が第2輝度値で表された第3画像を生成し、
    前記第3画像において、前記第1輝度値を有する第1輝度領域内に表れる前記第2輝度値の画素であって所定の条件を満たす前記第2輝度値の画素を、前記第1輝度値の画素に置き換えて第4画像を生成し、
    前記第4画像を用いて前記虹彩を検出する、
    距離推定方法。
  4. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、
    前記視距離推定装置のコンピュータが、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、
    前記第1画像から前記人の虹彩のサイズを検出し、
    検出した前記虹彩のサイズの画素数を示す第1値を算出し、
    前記第1画像の解像度を取得し、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、
    推定した前記視距離を含む推定情報を出力し、
    前記虹彩のサイズの検出では、前記人の左右の目の虹彩の中心位置を検出し、
    さらに、検出した前記左右の目の前記虹彩の中心位置と推定した前記視距離とに基づいて、前記人の目の輻輳角を算出する、
    距離推定方法。
  5. 前記輻輳角の算出では、前記第1画像に基づいて、前記人の目頭間の中心を示す目頭間の中点を検出し、前記目頭間の中点から左の目の前記虹彩の中心位置までの第1距離と前記目頭間の中点から右の目の前記虹彩の中心位置までの第2距離とを算出し、前記第1距離及び推定した前記視距離に基づいて第1輻輳半角を算出すると共に前記第2距離及び推定した前記視距離に基づいて第2輻輳半角を算出し、前記第1輻輳半角と前記第2輻輳半角との和を前記輻輳角として算出する、
    請求項記載の視距離推定方法。
  6. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、
    前記視距離推定装置のコンピュータが、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、
    前記第1画像から前記人の虹彩のサイズを検出し、
    検出した前記虹彩のサイズの画素数を示す第1値を算出し、
    前記第1画像の解像度を取得し、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、
    推定した前記視距離を含む推定情報を出力し、
    前記第1画像に重畳表示される前記推定情報は、前記第1値及び前記第2値に基づいて生成された、前記第1画像内の物体の実寸を示すゲージオブジェクトを含む、
    距離推定方法。
  7. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置における視距離推定方法であって、
    前記視距離推定装置のコンピュータが、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得し、
    前記第1画像から前記人の虹彩のサイズを検出し、
    検出した前記虹彩のサイズの画素数を示す第1値を算出し、
    前記第1画像の解像度を取得し、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出し、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、取得した前記解像度と、算出した前記第3値とに対応する前記視距離を推定し、
    推定した前記視距離を含む推定情報を出力し、
    前記虹彩のサイズの検出では、左右の目のそれぞれの虹彩のサイズを検出し、
    前記視距離の推定では、前記左右の目のそれぞれについて、検出された前記虹彩のサイズに基づいて前記虹彩の検出結果が適正であるか否かを判定し、前記左右の目のうち適正と判定された目に対する前記第3値のみを用いて前記視距離を推定する、
    距離推定方法。
  8. 前記視距離推定装置は、カメラ及びディスプレイを備える携帯端末装置であり、
    前記対象物は、前記ディスプレイであり、
    前記第1画像は、前記カメラにより撮像されたものである、
    請求項1〜7のいずれかに記載の視距離推定方法。
  9. さらに、前記推定情報を前記第1画像に重畳表示させる、
    請求項1〜のいずれかに記載の視距離推定方法。
  10. 前記関係情報は、前記解像度及び前記第3値を説明変数、前記視距離を目的変数とする回帰式である、
    請求項1〜のいずれかに記載の視距離推定方法。
  11. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置であって、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得する画像取得部と、
    前記第1画像から前記人の虹彩のサイズを検出する虹彩検出部と、
    検出した前記虹彩のサイズの画素数を示す第1値を算出する画素数算出部と、
    前記第1画像の解像度を取得する解像度取得部と、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出する実寸算出部と、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、前記解像度取得部により取得された前記解像度と、実寸算出部により算出された前記第3値とに対応する前記視距離を推定する推定部と、
    前記推定部により推定された前記視距離を含む推定情報を出力する出力部とを備え、
    前記第1画像に重畳表示される前記推定情報は、前記第1値及び前記第2値に基づいて生成された、前記第1画像内の物体の実寸を示すゲージオブジェクトを含む、
    視距離推定装置。
  12. 対象物と人の目との間の距離を示す視距離を推定する視距離推定装置としてコンピュータを機能させる視距離推定プログラムであって、
    撮像装置により撮像された、前記対象物を見る前記人の顔を含む第1画像を取得する画像取得部と、
    前記第1画像から前記人の虹彩のサイズを検出する虹彩検出部と、
    検出した前記虹彩のサイズの画素数を示す第1値を算出する画素数算出部と、
    前記第1画像の解像度を取得する解像度取得部と、
    前記第1値及び予め定められた前記虹彩のサイズの実寸を示す第2値に基づき、1画素に対応する実寸を示す第3値を算出する実寸算出部と、
    前記解像度及び前記第3値と前記視距離との関係を示す関係情報に基づいて、前記解像度取得部により取得された前記解像度と、実寸算出部により算出された前記第3値とに対応する前記視距離を推定する推定部と、
    前記推定部により推定された前記視距離を含む推定情報を出力する出力部としてコンピュータを機能させ、
    前記第1画像に重畳表示される前記推定情報は、前記第1値及び前記第2値に基づいて生成された、前記第1画像内の物体の実寸を示すゲージオブジェクトを含む、
    視距離推定プログラム。
JP2020212617A 2020-12-22 2020-12-22 視距離推定方法、視距離推定装置、及び視距離推定プログラム Active JP6958828B1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2020212617A JP6958828B1 (ja) 2020-12-22 2020-12-22 視距離推定方法、視距離推定装置、及び視距離推定プログラム
CN202180007158.XA CN115039130A (zh) 2020-12-22 2021-06-09 视距推测方法、视距推测装置以及视距推测程序
PCT/JP2021/021983 WO2022137601A1 (ja) 2020-12-22 2021-06-09 視距離推定方法、視距離推定装置、及び視距離推定プログラム
US17/836,316 US20220301204A1 (en) 2020-12-22 2022-06-09 Viewing distance estimation method, viewing distance estimation device, and non-transitory computer-readable recording medium recording viewing distance estimation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020212617A JP6958828B1 (ja) 2020-12-22 2020-12-22 視距離推定方法、視距離推定装置、及び視距離推定プログラム

Publications (2)

Publication Number Publication Date
JP6958828B1 true JP6958828B1 (ja) 2021-11-02
JP2022098932A JP2022098932A (ja) 2022-07-04

Family

ID=78282002

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020212617A Active JP6958828B1 (ja) 2020-12-22 2020-12-22 視距離推定方法、視距離推定装置、及び視距離推定プログラム

Country Status (4)

Country Link
US (1) US20220301204A1 (ja)
JP (1) JP6958828B1 (ja)
CN (1) CN115039130A (ja)
WO (1) WO2022137601A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116421135A (zh) * 2023-04-27 2023-07-14 北京京东拓先科技有限公司 视力测试方法、装置、电子设备及存储介质

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001145613A (ja) * 1999-11-22 2001-05-29 Oki Electric Ind Co Ltd 距離計測機能付きカメラ装置
JP2012068937A (ja) * 2010-09-24 2012-04-05 Panasonic Corp 瞳孔検出装置及び瞳孔検出方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001145613A (ja) * 1999-11-22 2001-05-29 Oki Electric Ind Co Ltd 距離計測機能付きカメラ装置
JP2012068937A (ja) * 2010-09-24 2012-04-05 Panasonic Corp 瞳孔検出装置及び瞳孔検出方法

Also Published As

Publication number Publication date
US20220301204A1 (en) 2022-09-22
CN115039130A (zh) 2022-09-09
WO2022137601A1 (ja) 2022-06-30
JP2022098932A (ja) 2022-07-04

Similar Documents

Publication Publication Date Title
CN106598221B (zh) 基于眼部关键点检测的3d视线方向估计方法
CN111126180B (zh) 一种基于计算机视觉的面瘫严重程度自动检测系统
JP2008234208A (ja) 顔部位検出装置及びプログラム
EP3651457A1 (en) Pupillary distance measurement method, wearable eye equipment and storage medium
JP6956986B1 (ja) 判定方法、判定装置、及び判定プログラム
US20170156585A1 (en) Eye condition determination system
WO2019153927A1 (zh) 屏幕显示方法、具有显示屏幕的装置、设备及存储介质
US11270100B2 (en) Face image detection method and terminal device
JP2016530000A (ja) 顔特徴を測定するシステム及び方法
CN110930446A (zh) 一种眼底图像定量分析的前置处理方法及存储设备
JP6958828B1 (ja) 視距離推定方法、視距離推定装置、及び視距離推定プログラム
CN115171024A (zh) 一种基于视频序列的面部多特征融合疲劳检测方法及系统
KR102182185B1 (ko) 안구 운동장애 평가 시스템, 그를 이용한 안구 운동장애 평가 방법 및 컴퓨터 판독 가능한 저장 매체
JP3726122B2 (ja) 視線検出システム
JP5242827B2 (ja) 顔画像処理装置、顔画像処理方法、電子スチルカメラ、デジタル画像処理装置およびデジタル画像処理方法
CN109998501A (zh) 生理指标及心理指标的检测方法、装置及终端设备
WO2022137604A1 (ja) 目開閉検出方法、目開閉検出装置及び目開閉検出プログラム
CN109765990A (zh) 画面显示控制方法及画面显示控制系统
JP2015198789A (ja) 情報処理装置、脈波計測プログラムおよび脈波計測方法
JP6994704B1 (ja) 虹彩検出方法、虹彩検出装置、及び虹彩検出プログラム
JP6721169B1 (ja) 画像処理方法、画像処理装置、及び画像処理プログラム
EP4012604B1 (en) A method for identifying a lip-makeup product appearing in an image
CN113408531B (zh) 一种基于图像识别的目标物形状框选方法及终端
KR102473744B1 (ko) 가림 안가림 검사 중 획득한 안구 이미지 분석을 통한 사시진단방법
JP4762329B2 (ja) 顔画像処理装置および顔画像処理方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210903

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210903

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210903

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210921

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210927

R150 Certificate of patent or registration of utility model

Ref document number: 6958828

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150