JP2007111315A - Method and device for detecting pupil using two kinds of light sources - Google Patents
Method and device for detecting pupil using two kinds of light sources Download PDFInfo
- Publication number
- JP2007111315A JP2007111315A JP2005306961A JP2005306961A JP2007111315A JP 2007111315 A JP2007111315 A JP 2007111315A JP 2005306961 A JP2005306961 A JP 2005306961A JP 2005306961 A JP2005306961 A JP 2005306961A JP 2007111315 A JP2007111315 A JP 2007111315A
- Authority
- JP
- Japan
- Prior art keywords
- pupil
- light source
- illumination light
- illumination
- optical axis
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Eye Examination Apparatus (AREA)
Abstract
Description
本発明は、CCDカメラ等を用いた遠隔の瞳孔を検出する技術において、光源の位置の違いと、光源の波長の違いによる網膜反射量の違いの両方を利用することにより、瞳孔の位置等を検出する瞳孔検出装置および方法に関する。 The present invention is a technique for detecting a remote pupil using a CCD camera or the like. By utilizing both the difference in the position of the light source and the difference in the amount of retinal reflection due to the difference in the wavelength of the light source, the position of the pupil is determined. The present invention relates to a pupil detection device and method for detection.
瞳孔は、それ自体が小さいことと、基本的にどの方向から見ても円もしくは楕円に見えるだけでなく、黒目と違ってまぶたに隠れにくいため、頭部の姿勢を測定するための特徴点として利用されている。それを利用して、瞳孔の移動量をパソコン画面上のカーソル移動に対応させたのが「瞳孔マウス」であり、頭部の動きによりカーソルを動かすことができる技術に関する出願がなされている(特許文献1(特開2005−182247))。 The pupil itself is small and not only looks like a circle or an ellipse when viewed from any direction, but unlike the black eye, it is difficult to hide in the eyelid, so it is a feature point for measuring the posture of the head It's being used. Utilizing this, the “pupil mouse” makes the amount of movement of the pupil correspond to the movement of the cursor on the personal computer screen, and an application relating to a technique that can move the cursor by the movement of the head has been made (patent) Document 1 (Japanese Patent Laid-Open No. 2005-182247).
非特許文献1は、瞳孔を安定して高精度に検出するために、設置位置の異なる2つの同波長の光源を交互に点灯させて、それらによって生ずる瞳孔から明るい画像(明瞳孔画像)と暗い画像(暗瞳孔画像)を得てそれらを差分することにより、瞳孔を検出しやすくする技術を開示している。明瞳孔画像を得るためには、カメラの光軸上もしくはその近傍に光源を設置し、暗瞳孔画像を得るためには、カメラの光軸から離れたところに光源を設置する必要がある。この文献の方法では、これら2つの光源をビデオカメラの奇数フィールドと偶数フィールドに同期させて、交互に点燈させ、明瞳孔画像と暗瞳孔画像を交互に得て、画像差分を行なうことで、瞳孔以外の背景部を相殺させ、瞳孔部だけを浮き彫りにし、瞳孔を検出しやすくしている。しかし、その効果は、ひとつにカメラの光軸からどれだけ離れた光源を、どれだけ離れたところに設置するかにかかっており、効果をできるだけ大きくするためには、光軸からかなり離れたところに設置する必要があり、装置全体が大きくなる傾向があり、汎用性に欠ける結果となっている。
さらに、光軸から離れたところにある光源を分散して配置することは、光源が眼鏡反射として写りやすく、それも瞳孔検出に際して大きな問題となっている。
In Non-Patent Document 1, in order to detect a pupil stably and with high accuracy, two light sources having the same wavelength that are different from each other in the installation position are alternately turned on, and a bright image (bright pupil image) and a dark image are generated from the resulting pupil. A technique for making it easy to detect a pupil by obtaining an image (dark pupil image) and subtracting them is disclosed. In order to obtain a bright pupil image, it is necessary to install a light source on or near the optical axis of the camera, and in order to obtain a dark pupil image, it is necessary to install a light source away from the optical axis of the camera. In the method of this document, these two light sources are synchronized with the odd field and the even field of the video camera, alternately turned on, and a bright pupil image and a dark pupil image are obtained alternately, and an image difference is performed. The background part other than the pupil is canceled out, and only the pupil part is highlighted to make it easy to detect the pupil. However, the effect depends on how far away the light source is from the optical axis of the camera and how far away it is. To maximize the effect, it is far away from the optical axis. Therefore, the overall apparatus tends to be large, resulting in lack of versatility.
Furthermore, dispersively arranging the light sources located away from the optical axis makes it easy for the light source to be reflected as spectacle reflection, which is also a major problem in pupil detection.
さらに、特許文献2(特許第2988235号)はカメラの光軸上の光源(共軸系照明)のほかに、光軸から大きくずれた左右の位置にそれぞれ1個ずつ光源(非共軸系照明)を配置する方法を提示している。この方法によれば、明瞳孔画像と暗瞳孔画像を差分したときに、カメラの共軸系照明の角膜反射像と非共軸系照明の角膜反射が互いに打ち消し合わないため、差分画像から角膜反射を検出でき、その角膜反射が視線方向を検出するのに役立つという利点がある。
しかし、このように共軸系照明と非共軸系照明を大きく離していると、それらによる眼鏡反射像同士も互いに打ち消しあわないため、眼鏡反射による雑音像が現れ、これを取り除くのが困難である。
Furthermore, Patent Document 2 (Japanese Patent No. 2988235) discloses a light source (non-coaxial illumination) in each of the left and right positions greatly deviated from the optical axis, in addition to the light source (coaxial illumination) on the optical axis of the camera. ) Is presented. According to this method, when the bright pupil image and the dark pupil image are differentiated, the corneal reflection image of the coaxial illumination of the camera and the corneal reflection of the non-coaxial illumination do not cancel each other. Can be detected, and its corneal reflection is useful for detecting the line-of-sight direction.
However, if the coaxial illumination and the non-coaxial illumination are separated from each other in this way, the reflected images of the glasses do not cancel each other, so that a noise image due to the reflected glasses appears and is difficult to remove. is there.
アジレントテクノロジーズ社の出願に係る特許文献3(特開2004−261598)は、明瞳孔画像を得るために、波長の異なる光源の一方をカメラの光軸に近い位置に配置し、暗瞳孔画像を得るためにもう一方をカメラの光軸から離れた位置に配置する構成を開示している。この文献では、これらの光源をほぼ同時に点燈させ、光学系にて波長分離を行い、明瞳孔画像と暗瞳孔画像を得てそれらの差分を行い、瞳孔像を抽出する方法について述べている。ここで2波長を用いたのは、同時に明瞳孔画像と暗瞳孔画像を得るためであり、2波長のうちどちらを光軸に近くすべきかについての示唆はない。なおこの文献の段落(0035)の最後に、「従来のシリコン・ベースの検出器で測定すると、レチナール・リターン信号は、一般に、950nmの波長に比べて、800nmのほうが強くなり、従って、この場合、短いほうの波長と軸上光源を関連づけるのが望ましい。」と述べられている。しかしこれは、カメラの感度に関する記述であり、カメラの感度が高ければ、瞳孔以外の部分の画像も明るくなるため、画像差分による瞳孔検出のしやすさへの効力はない。 Patent Document 3 (Japanese Patent Laid-Open No. 2004-261598) relating to an application by Agilent Technologies obtains a dark pupil image by arranging one of light sources having different wavelengths at a position close to the optical axis of the camera in order to obtain a bright pupil image. Therefore, a configuration is disclosed in which the other is disposed at a position away from the optical axis of the camera. This document describes a method in which these light sources are turned on almost simultaneously, wavelength separation is performed by an optical system, a bright pupil image and a dark pupil image are obtained, and a difference between them is extracted to extract a pupil image. The reason why the two wavelengths are used here is to simultaneously obtain a bright pupil image and a dark pupil image, and there is no suggestion which of the two wavelengths should be close to the optical axis. Note that at the end of paragraph (0035) of this document, “When measured with a conventional silicon-based detector, the retinal return signal is generally stronger at 800 nm than at a wavelength of 950 nm. It is desirable to associate the shorter wavelength with the on-axis light source. " However, this is a description relating to the sensitivity of the camera, and if the sensitivity of the camera is high, the image of the portion other than the pupil will also become bright, and thus there is no effect on the ease of pupil detection by image difference.
また、特許文献4(特開平2−224637)は、波長の異なるLEDを2重リング状に並べて、内側のリングを点燈させたとき明瞳孔画像を得て、外側のリングを点燈させて暗瞳孔画像を得る方法を提案している。
この文献は、前述の特許文献3(特開2004−261598)の場合と同様に、単に異なる波長によって得た画像を波長の相違によって分離するために用いており、後述する本願発明で利用する「網膜反射量の波長による違い」については考慮されていない。
Further, Patent Document 4 (Japanese Patent Laid-Open No. 2-224737) discloses a method in which LEDs having different wavelengths are arranged in a double ring shape, a bright pupil image is obtained when the inner ring is turned on, and the outer ring is turned on. A method for obtaining a dark pupil image is proposed.
As in the case of the above-mentioned Patent Document 3 (Japanese Patent Application Laid-Open No. 2004-261598), this document is used to separate images obtained by simply different wavelengths based on the difference in wavelength, and is used in the present invention described later. The “difference of the amount of retinal reflection depending on the wavelength” is not considered.
本件発明者の提案に係る特許文献5(特願2005−241728)記載の発明は、カメラの開口部の中から2つの波長の光を発射させる方法である。この場合、分岐ファイバを用いて2波長の光を混合して発射させるため、2つの波長のそれぞれの光源による光をほぼ同一の輝度プロファイルを持たせることが可能であり、顔の各部において両波長によってほとんど同じ輝度分布を得ることができるので、見事に相殺させることが可能であること、さらに、角膜反射や眼鏡反射も同様に差分により相殺させやすい点で瞳孔検出においては有利である。 The invention described in Patent Document 5 (Japanese Patent Application No. 2005-241728) according to the proposal of the present inventors is a method of emitting light of two wavelengths from the opening of a camera. In this case, since light of two wavelengths is mixed and emitted using a branching fiber, it is possible to have light having the same luminance profile for each light source of two wavelengths, and both wavelengths in each part of the face. Since almost the same luminance distribution can be obtained by the above, it is possible to cancel out brilliantly, and it is advantageous in pupil detection in that corneal reflection and spectacle reflection are also easily canceled by the difference.
しかし、角膜反射が消えてしまうため、視線検出など角膜反射を検出する用途では使用しにくい。その他にも、眼球中心位置や角膜球中心を求める必要のある場合にも、角膜反射像の検出が必要なため同様のことが言える。また、瞳孔検出のみを目的とした例えば中心波長が850nmのLEDと950nmのLEDによる瞳孔輝度の差は非常に大きいわけではない。特に周囲が非常に明るい環境下では、カメラの画像において瞳孔画像自体が飽和しないようにするためには、絞りを絞る、アンプゲインを下げる、シャッタ速度を短くするなどの方法により対応するが、それはどれもゲインを下げることにほぼ等価であり、差分画像の瞳孔画像の輝度が下がるため、瞳孔検出が難しくなる。したがって、波長の違いからだけではなく、明瞳孔と暗瞳孔の効果を強く出す方法が必要である。 However, since the corneal reflection disappears, it is difficult to use in applications that detect corneal reflection such as eye gaze detection. In addition, when it is necessary to obtain the center position of the eyeball and the center of the corneal sphere, the same can be said because it is necessary to detect the corneal reflection image. Also, the difference in pupil luminance between, for example, an LED with a center wavelength of 850 nm and an LED with a wavelength of 950 nm for the purpose of pupil detection only is not very large. Especially in an environment where the surroundings are very bright, in order to prevent the pupil image itself from being saturated in the camera image, it is possible to reduce the aperture, reduce the amplifier gain, shorten the shutter speed, etc. All of them are almost equivalent to lowering the gain, and the luminance of the pupil image of the difference image is lowered, so that pupil detection becomes difficult. Therefore, there is a need for a method that strongly exerts the effect of the bright pupil and the dark pupil, not only from the difference in wavelength.
特許文献6(特表2002−513176)記載の発明は、2波長の反射率が顔や目の表面では同じであるが、網膜では異なることを利用している点は、後述する本発明の提案と共通する。しかし、2種類の波長のLEDをカメラの開口部の周りにリング状に並べた(カメラの光軸から同距離に2種類の波長のLEDをならべた)構成であり本発明の構成とは異なる。
前述した瞳孔検出に重要な関連をもつ技術として角膜反射の測定技術があり、瞳孔の検出と関連してまたは独立して、姿勢とか視線の検出に利用できる。後述する3つの特許文献はいずれも本願発明者の発明に係るものであり、角膜反射に関連し、視線の検出等に利用されている。特許文献7記載の発明は視線検出方法および視線検出装置、特許文献8記載の発明は三次元視点計測装置、特許文献9に係る発明は距離イメージセンサを用いた視線検出装置を開示している。角膜の位置はカメラと光源の位置に密接に関連しているが、これらの発明では、光源について、明瞳孔と暗瞳孔照明に関連する分析はなされていない。
本発明の主たる目的は、カメラ手段側から2種類の光源により瞳孔を含む顔面を照射して画像を獲得し、瞳孔を検出する瞳孔検出装置において、光源の質と配置に改良を加え瞳孔検出を確実にする瞳孔検出装置を提供することにある。
本発明の他の目的は瞳孔検出を確実に実施できる瞳孔検出方法を提供することにある。
本発明のさらに他の実用上の目的は前述した装置や方法の検出結果の信頼性を向上させるとともに、従来障害と成り得た高い輝度に原因する雑音性の反射の除去を可能にするとともに、同様に高い輝度に原因する角膜反射を瞳孔検出と同時に可能にすることにある。
The main object of the present invention is to detect pupils by improving the quality and arrangement of light sources in a pupil detection device that detects images by illuminating the face including the pupils with two types of light sources from the camera means side. It is an object of the present invention to provide a pupil detection device that ensures the above.
Another object of the present invention is to provide a pupil detection method capable of reliably performing pupil detection.
Still another practical object of the present invention is to improve the reliability of the detection results of the above-described apparatus and method, and to enable removal of noisy reflections caused by high brightness, which could be a conventional obstacle, Similarly, corneal reflection caused by high luminance is made possible simultaneously with pupil detection.
前記目的を達成するために、本発明による請求項1記載の瞳孔検出装置は、
カメラ手段,光源,光路形成手段,および演算手段を含み、前記光路形成手段により、被験者が、その顔面を前記カメラ手段側から前記光源により照射され、瞳孔を含む顔面の像が前記カメラ手段に結像される関係を保って配置され、結像されたデータを演算して瞳孔を検出する瞳孔検出装置であって、
前記光源は、
被験者の瞳孔内反射が明瞳孔となる第1の波長成分を含む第1の照明光源と、
被験者の瞳孔内反射が暗瞳孔となる第2の波長成分を含み、瞳孔以外については前記第1の照明光源と同等の照明効果を呈する第2の照明光源を含み、前記第1の照明光源の強度と前記第2の照明光源の強度比は一定に保たれ、
前記カメラ手段は、
前記第1の照明光源による第1の画像データ獲得手段と、
前記第2の照明光源による第2の画像データ獲得手段とを含み、
前記光路形成手段は、
前記カメラ手段の第1の画像データ獲得手段と第2の画像データ獲得手段とを前記顔面に対して共通光軸で対向させ、
前記第1の照明光源からの光が前記顔面側から見て前記共通光軸の開口部内から発射され、前記第2の照明光源からの光が前記共通光軸の開口部の外周に近接する位置から発射するように配置し、
前記演算手段は、前記第1の画像データと前記第2の画像データを演算処理して瞳孔を検出する手段である。
In order to achieve the above object, a pupil detection device according to claim 1 according to the present invention comprises:
A camera means, a light source, an optical path forming means, and a computing means. By the optical path forming means, the subject is irradiated with the face from the camera means side by the light source, and an image of the face including the pupil is connected to the camera means. A pupil detection device that is arranged while maintaining an imaged relationship and calculates the imaged data to detect the pupil,
The light source is
A first illumination light source including a first wavelength component in which the reflection in the pupil of the subject becomes a bright pupil;
The subject's intra-pupil reflection includes a second wavelength component that becomes a dark pupil, and other than the pupil includes a second illumination light source that exhibits an illumination effect equivalent to that of the first illumination light source. The intensity ratio between the intensity and the second illumination light source is kept constant,
The camera means is
First image data acquisition means by the first illumination light source;
Second image data acquisition means by the second illumination light source,
The optical path forming means includes
The first image data acquisition means and the second image data acquisition means of the camera means are opposed to the face with a common optical axis,
The position where the light from the first illumination light source is emitted from the opening of the common optical axis when viewed from the face side, and the light from the second illumination light source is close to the outer periphery of the opening of the common optical axis Arranged to fire from,
The computing means is means for computing a pupil of the first image data and the second image data.
本発明による請求項2記載の瞳孔検出装置は、請求項1記載の瞳孔検出装置において、
前記第1の照明光源は、前記光路形成手段により、複数の短波長用の発光素子の発光を結合して照射角調整光学手段を介して前記共通光軸の開口部内から発射されるように構成されている。
本発明による請求項3記載の瞳孔検出装置は、請求項2記載の瞳孔検出装置において、
前記第2の照明光源は、前記光路形成手段により、前記照射角調整光学手段の外周に配置された1以上の長波長用の発光素子の発光を前記共通光軸の開口部外から発射されるように構成されている。
本発明による請求項4記載の瞳孔検出装置は、請求項2記載の瞳孔検出装置において、
前記第1および第2の照明光源からの光は前記共通光軸に配置された光分割手段、ハーフミラー等を介して結合されるように構成されている。
本発明による請求項5記載の瞳孔検出装置は、請求項2記載の瞳孔検出装置において、
前記第2の照明光源は、前記共通光軸の開口部外に直接設けられた複数の長波長用の発光素子の発光を前記共通光軸の開口部外から発射されるように構成されている。
本発明による請求項6記載の瞳孔検出装置は、請求項1記載の瞳孔検出装置において、
前記第1および第2の照明光源は、複数の短波長用の発光素子と前記発光素子の外側に配置された1以上の長波長用の発光素子の発光を前記共通光軸に配置された光分割手段、ハーフミラー等を介して結合されるように構成されている。
The pupil detection device according to claim 2 of the present invention is the pupil detection device according to claim 1,
The first illumination light source is configured to combine the light emission of a plurality of light emitting elements for short wavelengths by the optical path forming unit and emit the light from the opening of the common optical axis through an irradiation angle adjusting optical unit. Has been.
The pupil detection device according to claim 3 of the present invention is the pupil detection device according to claim 2,
The second illumination light source emits light emitted from one or more long-wavelength light emitting elements disposed on the outer periphery of the irradiation angle adjusting optical unit from outside the opening of the common optical axis by the optical path forming unit. It is configured as follows.
The pupil detection device according to claim 4 of the present invention is the pupil detection device according to claim 2,
Light from the first and second illumination light sources is configured to be coupled via a light splitting unit, a half mirror, and the like disposed on the common optical axis.
The pupil detection device according to
The second illumination light source is configured to emit light emitted from a plurality of light emitting elements for long wavelengths directly provided outside the opening of the common optical axis from outside the opening of the common optical axis. .
The pupil detection device according to
The first and second illumination light sources include a plurality of short-wavelength light-emitting elements and light emitted from one or more long-wavelength light-emitting elements arranged outside the light-emitting elements on the common optical axis. It is configured to be coupled via a dividing means, a half mirror or the like.
本発明による請求項7記載の瞳孔検出方法は、
明瞳孔像を発生させる第1の波長成分を含む第1の照明光源と、
暗瞳孔像を発生させる第2の波長成分を含み瞳孔以外については前記第1の照明光源と同等の照明効果を呈する強度の第2の照明光源と、
前記各光源による照明像をそれぞれ撮像する、光学系が実質的に同一であり共通光軸に配置される第1および第2の撮像手段とを準備して、
前記第1の照明光源を共通光軸の関係にある前記第1および第2の撮像手段の開口内から、前記第2の照明光源を共通光軸の関係にある開口部の外周に近接する位置から照明光が射出されるように配置する配置ステップと、
前記第1の照明光源を起動して照明する第1の照明ステップと、
前記第2の照明光源を起動して照明する第2の照明ステップと、
前記各照明下に前記各照明像をそれぞれ撮像して第1の画像データと第2の画像データを獲得するデータ獲得ステップと、
前記第1の画像データと前記第2の画像データを差分演算処理して瞳孔を検出する演算ステップとを含んでいる。
The pupil detection method according to claim 7 according to the present invention comprises:
A first illumination light source including a first wavelength component that generates a bright pupil image;
A second illumination light source having a second wavelength component that generates a dark pupil image and having an intensity equivalent to that of the first illumination light source except for the pupil;
First and second imaging means for capturing an illumination image from each of the light sources, the optical systems being substantially the same and arranged on a common optical axis,
Position of the first illumination light source close to the outer periphery of the opening having a common optical axis relationship from within the openings of the first and second imaging means having a common optical axis relationship. An arrangement step of arranging so that illumination light is emitted from,
A first illumination step of activating and illuminating the first illumination light source;
A second illumination step of activating and illuminating the second illumination light source;
A data acquisition step of capturing the respective illumination images under the respective illuminations to acquire first image data and second image data;
A calculation step of detecting a pupil by performing a difference calculation process on the first image data and the second image data.
本発明装置および方法によれば、従来の同種装置や方法と比較して、小形にかかわらず瞳孔および角膜反射を検出しやすくなった。
同波長を同じサイズで2重リング状に並べるのに対して、使用環境が明るい場合にも瞳孔および角膜反射をロバストに検出できる。
また、眼鏡をしている場合に対する対処も画像処理が容易となり、眼鏡を掛けている場合にも、眼光反射を瞳孔と誤判断することなく、瞳孔が検出できる。
2波長分離することにより、ほぼ同時に2波長の光源を瞬間的に点灯させることで振動に対して強くすることができる。角膜反射点(領域)の検出が瞳孔検出と同時に可能となる。
According to the device and method of the present invention, the pupil and corneal reflection can be easily detected regardless of the small size as compared with the conventional similar device and method.
While the same wavelengths are arranged in a double ring shape with the same size, the pupil and corneal reflection can be detected robustly even when the usage environment is bright.
Further, the image processing is also easy for the case of wearing glasses, and even when wearing glasses, the pupil can be detected without erroneously judging the eye light reflection as the pupil.
By separating the two wavelengths, it is possible to make the two-wavelength light sources instantaneously lit at the same time, thereby making them stronger against vibration. Detection of a corneal reflection point (region) is possible simultaneously with pupil detection.
本発明の原理は、照明用の光源として短波長(たとえば850nm)と長波長(たとえば950nm)の2種類を準備し、それらの配置をイメージセンサを用いる2つのカメラの共通光軸およびレンズ開口との関係を考慮して決定する。
これにより、短波長による明瞳孔画像データと長波長による暗瞳孔画像データを確実に取得して、瞳孔検出を行うものである。長波長の光源を開口に近接して配置することにより好ましくない雑音光の発生を防止している。
The principle of the present invention is to prepare two types of short wavelength (for example, 850 nm) and long wavelength (for example, 950 nm) as a light source for illumination, and arrange their arrangement with a common optical axis and lens aperture of two cameras using an image sensor. Determine the relationship.
Thus, pupil detection is performed by reliably acquiring bright pupil image data with a short wavelength and dark pupil image data with a long wavelength. By disposing a long-wavelength light source close to the opening, generation of undesirable noise light is prevented.
(瞳孔検出の第1の実施形態)
図1は、本発明による瞳孔検出装置の第1の実施形態を示す光路図である。
図において、対物レンズ9,レンズ8,短波長用バンドパスフィルタ5,レンズ3,および短波長用イメージセンサ1は、第1のカメラの主要部を形成している。
対物レンズ9,レンズ8,長波長用バンドパスフィルタ6,レンズ4,および長波長用イメージセンサ2は、第2のカメラの主要部を形成している。
これら2つのカメラの光軸にハーフミラー(もしくはダイクロイックミラー)7が配置され、外見上は2つのカメラが光軸を共有した配置になっている。
対物レンズ9の物体側に照明光源結合用のハーフミラー10が設けられている。
(First embodiment of pupil detection)
FIG. 1 is an optical path diagram showing a first embodiment of a pupil detection device according to the present invention.
In the figure, the
The
A half mirror (or dichroic mirror) 7 is disposed on the optical axes of these two cameras, and the two cameras share an optical axis in appearance.
A
短波長用光源(開口部内)21は、短波長用発光素子21a〜21dから構成されており、分岐ファイバ23a〜23dにより結合部24に接続されている。結合部24の前面に照射角調整用レンズ25が配置されている。照射角調整用レンズ25の周囲に長波長用光源26を形成する複数の長波長用発光素子26a〜が配置されている。この長波長用発光素子26a〜の個数は、短波長用光源との関係で調整される。図中、正面図の示す矢印の方向から照射角調整用レンズ25と長波長用発光素子26n方向を見た図を正面図として拡大して示してある。この例は、長波長用発光素子26a〜を14個配置した例と長波長用発光素子26j〜を4個配置した例と、また、長波長用発光素子26k〜を4個十字に配置した例の3例を示してある。
The short wavelength light source (inside the opening) 21 is composed of short wavelength
短波長用光源と長波長用光源を同時に起動すると、各照明光はハーフミラー10で反射されて、顔を照射する。このとき、顔の方からみると短波長用光源の光は、カメラの共通光軸を含む開口内から照射され、長波長用光源の光は、カメラの共通光軸から離れた開口内に外接する位置から照射されることになる。これらの照明による明瞳孔像を含む顔の像と、暗瞳孔像を含む顔の像は、ハーフミラー10を透過してレンズ9,8を透過し、ハーフミラー7により分離され、短波長(850nm)を含む光は、バンドパスフィルタ5を透過し、レンズ3により短波長用イメージセンサ1上に結像される。ハーフミラー10を透過してハーフミラー7により反射分離された長波長(950nm)を含む光は、バンドパスフィルタ6を透過し、レンズ4により長波長用イメージセンサ2上に結像される。
When the short wavelength light source and the long wavelength light source are activated at the same time, each illumination light is reflected by the
各イメージセンサ1,2の出力は、図示しない演算回路により画素単位で差分演算が行われ、瞳孔像が検出される。この状態と同時角膜検出の原理を図4を参照して説明する。図4は、各イメージセンサ1,2の出力の差分画像を形成する1走査線を取り出して示した図である。
短波長用イメージセンサ1上に結像される明瞳孔のレベルは周囲の部分より高く角膜反射のレベルはさらに高い。長波長用イメージセンサ2上に結像される暗瞳孔のレベルは明瞳孔のレベルより小さくその領域は明瞳孔の領域と略等しい。長波長用イメージセンサ2上の角膜反射の中心は明瞳孔のそれと一致し、角膜反射の領域は明瞳孔の角膜反射の領域よりも広くなり、反射のレベルは明瞳孔の場合よりも低くなる。これらを差分した結果、図4に示す走査波形が得られることになる。
すなわち、角膜反射は、短波長用光源と長波長用光源の位置が異なるため、明瞳孔画像と暗瞳孔画像の差分によって相殺されない。その結果、図4において差分画像中に高輝度部分(短波長用光源による角膜反射)および、低輝度部分(長波長用光源による角膜反射)として残る。
図4から理解できるように、明瞳孔画像や暗瞳孔画像から角膜反射を検出するよりも、差分画像から検出したほうが閾値の設定が容易となる。これにより角膜反射検出のロバスト性が高まる。特に、被験者の周囲に明るいものが存在するときには、角膜の表面にはそれら外乱が写るため、角膜反射と区別しにくいが、差分をすることで、それら外乱は消失するため、非常に有利である。なお、角膜反射像は瞳孔像の内部(前述の例)か、ごく近傍に常に存在することと、ほぼ小さな点として写る。それに対して高輝度の眼鏡反射の領域は形状的に大きい。したがって、瞳孔の近傍の小さな点を探索することで、眼鏡反射との区別ができる。
また、図4に示すように、明瞳孔画像から暗瞳孔画像を差分したときの輝度部分布を一次元的に表現するとわかるように、瞳孔は、正の閾値で検出する。それに対して、短波長用(開口部内)光源による角膜反射を検出しようとすると、瞳孔の輝度がそれの面積にほぼ比例して変化するため、閾値設定が多少難しい面があるが、負の閾値を設定し、それにより長波長用(開口部外)光源による角膜反射像の中心(重心)を検出することで、閾値の設定が容易にでき、ロバスト性が向上する。
長波長用(開口部外)光源による角膜反射を用いた場合でも、その角膜反射を生じさせる光源がカメラの光軸上に存在するとみなすことができるため、前述した特許文献7〜9に示したような視線検出などに応用できる。
The outputs of the image sensors 1 and 2 are subjected to a difference calculation for each pixel by an arithmetic circuit (not shown), and a pupil image is detected. The principle of this state and simultaneous cornea detection will be described with reference to FIG. FIG. 4 is a diagram showing one scanning line that forms a differential image of the outputs of the image sensors 1 and 2.
The level of the bright pupil imaged on the short wavelength image sensor 1 is higher than the surrounding portion, and the level of corneal reflection is higher. The level of the dark pupil imaged on the long wavelength image sensor 2 is smaller than the level of the bright pupil, and the region is substantially equal to the region of the bright pupil. The center of corneal reflection on the long-wavelength image sensor 2 coincides with that of the bright pupil, the corneal reflection region is wider than the corneal reflection region of the bright pupil, and the level of reflection is lower than that of the bright pupil. As a result of the difference, a scanning waveform shown in FIG. 4 is obtained.
That is, the corneal reflection is not offset by the difference between the bright pupil image and the dark pupil image because the positions of the short wavelength light source and the long wavelength light source are different. As a result, in FIG. 4, it remains in the difference image as a high luminance part (corneal reflection by the short wavelength light source) and a low luminance part (corneal reflection by the long wavelength light source).
As can be understood from FIG. 4, it is easier to set the threshold value by detecting from the difference image than by detecting the corneal reflection from the bright pupil image or the dark pupil image. This increases the robustness of corneal reflection detection. In particular, when there are bright objects around the subject, these disturbances are reflected on the surface of the cornea, so it is difficult to distinguish them from corneal reflections. However, by making a difference, these disturbances disappear, which is very advantageous. . It should be noted that the cornea reflection image appears as an almost small point within the pupil image (the example described above) or always present in the very vicinity. On the other hand, the region of specular reflection with high luminance is large in shape. Therefore, by searching for a small point in the vicinity of the pupil, it can be distinguished from spectacle reflection.
Further, as shown in FIG. 4, the pupil is detected with a positive threshold value so that the luminance portion distribution when the dark pupil image is subtracted from the bright pupil image can be expressed in a one-dimensional manner. On the other hand, when trying to detect corneal reflection from a light source for short wavelengths (inside the aperture), the luminance of the pupil changes almost in proportion to the area of the pupil. , Thereby detecting the center (center of gravity) of the corneal reflection image by the long wavelength (outside aperture) light source, the threshold can be easily set and the robustness is improved.
Even when corneal reflection by a long wavelength (outside aperture) light source is used, it can be considered that the light source that causes the corneal reflection is present on the optical axis of the camera. It can be applied to such gaze detection.
(瞳孔検出の第2の実施形態)
図2に示す瞳孔検出の第2の実施形態においては、第1のカメラと第2のカメラおよび短波長用光源の構成は、前述した第1の実施形態のそれと異ならないので、同一の数字を付して説明を省略する。ハーフミラー10の物体側に各カメラの開口に対応する円形孔を有する支持板29を設けてある。この円形孔の外周に沿って長波長用光源28を形成する長波長用の発光素子28a〜を配置してある。
図中、正面図を付した矢印方向からカメラ側を見た図を正面図として示す。
この例は、長波長用発光素子28a〜を14個配置した例と長波長用発光素子28j〜を4個配置した例と、また、長波長用発光素子28k〜を4個十字に配置した例の3例を示してある。
(Second Embodiment of Pupil Detection)
In the second embodiment of pupil detection shown in FIG. 2, the configurations of the first camera, the second camera, and the short wavelength light source are not different from those of the first embodiment described above, and therefore the same numbers are used. A description thereof will be omitted. A
The figure which looked at the camera side from the arrow direction which attached | subjected the front view in the figure is shown as a front view.
In this example, 14 long-wavelength light-emitting elements 28a to 28 are arranged, four long-wavelength light-emitting
短波長用光源と長波長用光源を同時に起動すると、短波長照明光はハーフミラー10で反射されて、顔を照射する。一方、長波長照明光は、直接顔に向けて発射される。顔の方からみると短波長用光源の光は、カメラの共通光軸を含む開口内から照射され、長波長用光源の光は、カメラの共通光軸から離れた開口に外接する位置から照射されることになる。これらの照明による明瞳孔像を含む顔の像と、暗瞳孔像を含む顔の像は、ハーフミラー10を透過し、レンズ9,8を透過し、ハーフミラー7により分離され、短波長(850nm)を含む光は、バンドパスフィルタ5を透過し、レンズ3により短波長用イメージセンサ1上に結像される。ハーフミラー10を透過してハーフミラー7により反射分離された長波長(950nm)を含む光は、バンドパスフィルタ6を透過し、レンズ4により長波長用イメージセンサ2上に結像される。
When the short wavelength light source and the long wavelength light source are activated simultaneously, the short wavelength illumination light is reflected by the
各イメージセンサ1,2の出力は、図示しない演算回路により画素単位で差分演算が行われ、瞳孔像が検出される。このとき、角膜反射領域または反射点も前述と同様に検出可能である。 The outputs of the image sensors 1 and 2 are subjected to a difference calculation for each pixel by an arithmetic circuit (not shown), and a pupil image is detected. At this time, the corneal reflection region or reflection point can also be detected in the same manner as described above.
(瞳孔検出の第3の実施形態)
図3に示す瞳孔検出の第3の実施形態においては、第1のカメラと第2のカメラの構成は、前述した第1および第2の実施形態のそれと異ならないので、同一の数字を付して説明を省略する。ハーフミラー10の下側に基板32を配置し、この基板上に図中正面図に示すように長波長用光源31を形成する長波長用の発光素子31a〜を7個配置してある。この長波長用の発光素子31a〜の内側に短波長用の発光素子30a〜を7個配置してある。
(Third embodiment of pupil detection)
In the third embodiment of pupil detection shown in FIG. 3, the configurations of the first camera and the second camera are not different from those of the first and second embodiments described above, and therefore the same numerals are assigned. The description is omitted. A
短波長用光源と長波長用光源を同時に起動すると、短波長用照明光と長波長用照明光は、ハーフミラー10で反射されて、顔を照射する。顔の方からみると短波長用光源の光は、カメラの共通光軸を含む開口内から照射され、長波長用光源の光は、カメラの共通光軸から離れた開口に外接する位置から照射されることになる。これらの照明による明瞳孔像を含む顔の像と、暗瞳孔像を含む顔の像は、ハーフミラー10を透過し、レンズ9,8を透過し、ハーフミラー7により分離され、短波長(850nm)を含む光は、バンドパスフィルタ5を透過し、レンズ3により短波長用イメージセンサ1上に結像される。ハーフミラー10を透過してハーフミラー7により反射分離された長波長(950nm)を含む光は、バンドパスフィルタ6を透過し、レンズ4により長波長用イメージセンサ2上に結像される。
When the short wavelength light source and the long wavelength light source are activated at the same time, the short wavelength illumination light and the long wavelength illumination light are reflected by the
各イメージセンサ1,2の出力は、図示しない演算回路により画素単位で差分演算が行われ、瞳孔像が検出される。このとき、角膜反射領域または反射点も前述と同様に検出可能である。 The outputs of the image sensors 1 and 2 are subjected to a difference calculation for each pixel by an arithmetic circuit (not shown), and a pupil image is detected. At this time, the corneal reflection region or reflection point can also be detected in the same manner as described above.
本発明による瞳孔検出装置によれば、瞳孔の検出が正確にできる。これを利用して、瞳孔の移動量をパソコン画面上のカーソル移動に対応させるヒューマンインターフェイスの開発の分野に利用することができる。また照明環境の極端に異なる所でも瞳孔検出が可能であるから、乗用車,トラックの運転者の視線を検出したり、眠気を検知したり、余所見運転を検出する運転援助の機器開発の産業分野にも利用できる。 According to the pupil detection device of the present invention, the pupil can be accurately detected. By using this, it can be used in the field of human interface development in which the amount of movement of the pupil corresponds to the movement of the cursor on the personal computer screen. In addition, because pupil detection is possible even in extremely different lighting environments, it can be used in the industrial field of equipment development for driving assistance that detects the eyes of passengers and truck drivers, detects drowsiness, and detects other driving. Can also be used.
1 短波長用イメージセンサ
2 長波長用イメージセンサ
3,4 レンズ
5 短波長用バンドパスフィルタ
6 長波長用バンドパスフィルタ
7 ハーフミラー(またはダイクロイックミラー)
8 レンズ
9 対物レンズ
10 ハーフミラー
11 平行光
21 短波長用光源(開口部内用)
21a〜21d 短波長用発光素子
23a〜23d 分岐ファイバ
24 結合部(シリンドリカルレンズ)
25 照射角調整用レンズ
26 長波長用光源(開口部外用)
26a 長波長用発光素子
30 短波長用光源(開口部内用)
31 長波長用光源(開口部外用)
DESCRIPTION OF SYMBOLS 1 Image sensor for short wavelength 2 Image sensor for long wavelength 3, 4
8
21a-21d Light emitting element for
25 Irradiation angle adjustment lens 26 Long wavelength light source (outside aperture)
26a Light emitting element for long wavelength 30 Light source for short wavelength (for opening)
31 Light source for long wavelengths (outside aperture)
Claims (7)
前記光源は、
被験者の瞳孔内反射が明瞳孔となる第1の波長成分を含む第1の照明光源と、
被験者の瞳孔内反射が暗瞳孔となる第2の波長成分を含み、瞳孔以外については前記第1の照明光源と同等の照明効果を呈する第2の照明光源を含み、前記第1の照明光源の強度と前記第2の照明光源の強度比は一定に保たれ、
前記カメラ手段は、
前記第1の照明光源による第1の画像データ獲得手段と、
前記第2の照明光源による第2の画像データ獲得手段とを含み、
前記光路形成手段は、
前記カメラ手段の第1の画像データ獲得手段と第2の画像データ獲得手段とを前記顔面に対して共通光軸で対向させ、
前記第1の照明光源からの光が前記顔面側から見て前記共通光軸の開口部内から発射され、前記第2の照明光源からの光が前記共通光軸の開口部の外周に近接する位置から発射するように配置し、
前記演算手段は、前記第1の画像データと前記第2の画像データを演算処理して瞳孔を検出する手段である瞳孔検出装置。 A camera means, a light source, an optical path forming means, and a computing means. By the optical path forming means, the subject is irradiated with the face from the camera means side by the light source, and an image of the face including the pupil is connected to the camera means. A pupil detection device that is arranged while maintaining an imaged relationship and calculates the imaged data to detect the pupil,
The light source is
A first illumination light source including a first wavelength component in which the reflection in the pupil of the subject becomes a bright pupil;
The subject's intra-pupil reflection includes a second wavelength component that becomes a dark pupil, and other than the pupil includes a second illumination light source that exhibits an illumination effect equivalent to that of the first illumination light source. The intensity ratio between the intensity and the second illumination light source is kept constant,
The camera means is
First image data acquisition means by the first illumination light source;
Second image data acquisition means by the second illumination light source,
The optical path forming means includes
The first image data acquisition unit and the second image data acquisition unit of the camera unit are opposed to the face with a common optical axis,
The position where the light from the first illumination light source is emitted from the opening of the common optical axis when viewed from the face side, and the light from the second illumination light source is close to the outer periphery of the opening of the common optical axis Arranged to fire from,
The pupil detection device is a means for detecting the pupil by performing arithmetic processing on the first image data and the second image data.
暗瞳孔像を発生させる第2の波長成分を含み瞳孔以外については前記第1の照明光源と同等の照明効果を呈する強度の第2の照明光源と、
前記各光源による照明像をそれぞれ撮像する、光学系が実質的に同一であり共通光軸に配置される第1および第2の撮像手段とを準備して、
前記第1の照明光源を共通光軸の関係にある前記第1および第2の撮像手段の開口内から、前記第2の照明光源を共通光軸の関係にある開口部の外周に近接する位置から照明光が射出されるように配置する配置ステップと、
前記第1の照明光源を起動して照明する第1の照明ステップと、
前記第2の照明光源を起動して照明する第2の照明ステップと、
前記各照明下に前記各照明像をそれぞれ撮像して第1の画像データと第2の画像データを獲得するデータ獲得ステップと、
前記第1の画像データと前記第2の画像データを差分演算処理して瞳孔を検出する演算ステップとを含む瞳孔検出方法。 A first illumination light source including a first wavelength component that generates a bright pupil image;
A second illumination light source having a second wavelength component that generates a dark pupil image and having an intensity equivalent to that of the first illumination light source except for the pupil;
First and second imaging means for capturing an illumination image from each of the light sources, the optical systems being substantially the same and arranged on a common optical axis,
Position of the first illumination light source close to the outer periphery of the opening having a common optical axis relationship from within the openings of the first and second imaging means having a common optical axis relationship. An arrangement step of arranging so that illumination light is emitted from,
A first illumination step of activating and illuminating the first illumination light source;
A second illumination step of activating and illuminating the second illumination light source;
A data acquisition step of capturing the respective illumination images under the respective illuminations to acquire first image data and second image data;
A pupil detection method including a calculation step of detecting a pupil by performing a difference calculation process on the first image data and the second image data.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005306961A JP4613315B2 (en) | 2005-10-21 | 2005-10-21 | Pupil detection method and apparatus using two types of light sources |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2005306961A JP4613315B2 (en) | 2005-10-21 | 2005-10-21 | Pupil detection method and apparatus using two types of light sources |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007111315A true JP2007111315A (en) | 2007-05-10 |
JP4613315B2 JP4613315B2 (en) | 2011-01-19 |
Family
ID=38094037
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2005306961A Active JP4613315B2 (en) | 2005-10-21 | 2005-10-21 | Pupil detection method and apparatus using two types of light sources |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4613315B2 (en) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014181775A1 (en) * | 2013-05-08 | 2014-11-13 | 国立大学法人静岡大学 | Pupil detection light source device, pupil detection device and pupil detection method |
JP2018126492A (en) * | 2017-02-07 | 2018-08-16 | パナソニックIpマネジメント株式会社 | Eyeball imaging apparatus |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20160025316A (en) | 2014-08-27 | 2016-03-08 | 현대자동차주식회사 | System for extacting a pupil and method thereof |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10221016A (en) * | 1997-02-05 | 1998-08-21 | Nec Corp | Visual point position detector |
JP2005266868A (en) * | 2004-03-16 | 2005-09-29 | National Univ Corp Shizuoka Univ | Method for detecting direction of head part using pupil and nostril |
-
2005
- 2005-10-21 JP JP2005306961A patent/JP4613315B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH10221016A (en) * | 1997-02-05 | 1998-08-21 | Nec Corp | Visual point position detector |
JP2005266868A (en) * | 2004-03-16 | 2005-09-29 | National Univ Corp Shizuoka Univ | Method for detecting direction of head part using pupil and nostril |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2014181775A1 (en) * | 2013-05-08 | 2014-11-13 | 国立大学法人静岡大学 | Pupil detection light source device, pupil detection device and pupil detection method |
EP2995241A4 (en) * | 2013-05-08 | 2017-02-01 | National University Corporation Shizuoka University | Pupil detection light source device, pupil detection device and pupil detection method |
JPWO2014181775A1 (en) * | 2013-05-08 | 2017-02-23 | 国立大学法人静岡大学 | Pupil detection light source device, pupil detection device, and pupil detection method |
US9898658B2 (en) | 2013-05-08 | 2018-02-20 | National University Corporation Shizuoka University | Pupil detection light source device, pupil detection device and pupil detection method |
JP2018126492A (en) * | 2017-02-07 | 2018-08-16 | パナソニックIpマネジメント株式会社 | Eyeball imaging apparatus |
Also Published As
Publication number | Publication date |
---|---|
JP4613315B2 (en) | 2011-01-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10437327B2 (en) | Eye tracking device and method for operating an eye tracking device | |
US9652034B2 (en) | User interface based on optical sensing and tracking of user's eye movement and position | |
JP5258168B2 (en) | Eye detection system | |
US8358337B2 (en) | Pupil detection device and pupil detection method | |
KR20240093875A (en) | Event camera system for pupil detection and eye tracking | |
CN104434022B (en) | For carrying out the optics array system and method for pupil tracing with reflex reflection | |
US11243607B2 (en) | Method and system for glint/reflection identification | |
US20110170060A1 (en) | Gaze Tracking Using Polarized Light | |
CN109964230B (en) | Method and apparatus for eye metric acquisition | |
JP2917953B2 (en) | View point position detection device | |
JP2006351011A (en) | Color imaging system for locating retroreflector | |
US20210038073A1 (en) | Eye tracking apparatus and image capture module thereof | |
WO2018164104A1 (en) | Eye image processing device | |
JP4528980B2 (en) | Pupil detection device and pupil detection method | |
EP2731049A1 (en) | Eye-tracker | |
JP4613315B2 (en) | Pupil detection method and apparatus using two types of light sources | |
US10288879B1 (en) | Method and system for glint/reflection identification | |
JP6555707B2 (en) | Pupil detection device, pupil detection method, and pupil detection program | |
EP3801196B1 (en) | Method and system for glint/reflection identification | |
JP6687195B2 (en) | Eye image processing device | |
WO2021251146A1 (en) | Pupil detection device | |
WO2017154356A1 (en) | Sight line detection device and sight line detection method | |
JP2008132160A (en) | Pupil detecting device and pupil detecting method | |
JP2017162233A (en) | Visual line detection device and visual line detection method | |
WO2009060423A4 (en) | Eye detection system and method for automatic activation of a viewing device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20070316 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20070316 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20091221 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100316 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100517 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100615 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100812 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20100921 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |