JP2002355238A - Blink detector - Google Patents

Blink detector

Info

Publication number
JP2002355238A
JP2002355238A JP2001163324A JP2001163324A JP2002355238A JP 2002355238 A JP2002355238 A JP 2002355238A JP 2001163324 A JP2001163324 A JP 2001163324A JP 2001163324 A JP2001163324 A JP 2001163324A JP 2002355238 A JP2002355238 A JP 2002355238A
Authority
JP
Japan
Prior art keywords
reflected light
blink
amount
value
light amount
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2001163324A
Other languages
Japanese (ja)
Inventor
Mitsuo Yamada
光穗 山田
Yuichi Yamanoue
裕一 山之上
Masato Okui
誠人 奥井
Kenichiro Takei
顕一郎 竹井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
TAKEI SCIENT INSTR CO Ltd
Japan Broadcasting Corp
Takei Scientific Instruments Co Ltd
Original Assignee
TAKEI SCIENT INSTR CO Ltd
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Takei Scientific Instruments Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by TAKEI SCIENT INSTR CO Ltd, Nippon Hoso Kyokai NHK, Japan Broadcasting Corp, Takei Scientific Instruments Co Ltd filed Critical TAKEI SCIENT INSTR CO Ltd
Priority to JP2001163324A priority Critical patent/JP2002355238A/en
Publication of JP2002355238A publication Critical patent/JP2002355238A/en
Pending legal-status Critical Current

Links

Landscapes

  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a blink detector which can stably detect the number of blinks suppressing individual difference of blink detection generated by observers and variation of detection accuracy generated by various factors during detection. SOLUTION: When the detecting part 4 of this blink detector detects a blink, the maximum value of quantity of reflection light is updated to the quantity at that time. When the detecting part 4 detects no blink, the minimum value of quantity of reflection light is updated to the quantity at that time. Like that, because the maximum and minimum values of quantity of reflection light to be important factors for judging existence of blinks change from moment to moment corresponding to changes of quantity of reflection light captured by the blink sensor, blinks can be correctly detected.

Description

【発明の詳細な説明】DETAILED DESCRIPTION OF THE INVENTION

【0001】[0001]

【発明の属する技術分野】本発明は、心理特性の分析や
各種機器の瞬きによる操作を実現するための瞬き検出装
置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a blink detection device for analyzing psychological characteristics and realizing operations of various devices by blinking.

【0002】[0002]

【発明が解決しようとする課題】従来、この種の瞬き検
出装置としては、眼に弱い赤外線を照射してその反射光
を受光手段で検出する方式のものが知られている。これ
は例えば図8に示すように、投光手段である赤外発光ダ
イオード1と、受光手段であるホトダイオード2とを並
設した瞬きセンサ部3の他に、この瞬きセンサ部3から
の検出信号により観察者の瞬きを検出して出力する瞬き
検出部4を備えて構成される。瞬きセンサ部3は、赤外
発光ダイオード1からの弱い赤外線を眼Eに照射したと
きに、ホトダイオード2が受光した反射光量を電気的な
検出信号に変換して瞬き検出部4に出力しており、上瞼
S1を下瞼S2側に閉じたときのホトダイオード2の反
射光量と、上瞼S1を開けたときのホトダイオード2の
反射光量が大きく変化する現象を利用して、瞬き検出部
4が瞬きの有無を検出している。
Heretofore, as this kind of blink detection device, there has been known a system in which a weak infrared ray is radiated to the eyes and the reflected light is detected by a light receiving means. For example, as shown in FIG. 8, in addition to a blink sensor unit 3 in which an infrared light emitting diode 1 as a light projecting unit and a photodiode 2 as a light receiving unit are juxtaposed, a detection signal from the blink sensor unit 3 is provided. And a blink detection unit 4 that detects and outputs the blink of the observer. The blink sensor unit 3 converts the amount of reflected light received by the photodiode 2 into an electrical detection signal and outputs it to the blink detection unit 4 when the eye E is irradiated with weak infrared light from the infrared light emitting diode 1. The blink detection unit 4 blinks using the phenomenon that the reflected light amount of the photodiode 2 when the upper eyelid S1 is closed to the lower eyelid S2 side and the reflected light amount of the photodiode 2 when the upper eyelid S1 is opened greatly change. Is detected.

【0003】それ以外にも、瞬きを検出する装置として
は、例えば特開平11-242744号公報や特開20
00−339438号公報に開示されるような、瞼の変
化を画像処理により検出する方式や、例えば特開平10
−11675号公報に開示されるような、瞬き動作に伴
なう目の周辺の歪みを検出する方式や、眼に生体用電極
を装着し、瞬きによって生じる筋肉電位の変化を検出す
る方式がある。特に前記画像処理による検出方式は、図
9に示すように、眼Eを赤外線により照明するリング状
の赤外光源11と、この赤外光源11の中心部に対物レンズ
12を配置した撮像装置としてのカメラ13とを備え、眼E
の動きをカメラ13で撮影することにより、図10(A)
に示す眼Eを開けたときの画像と、図10(B)に示す
眼Eを閉じたときの画像の変化により、瞬きの有無を検
出するようにしている。また、この画像処理による検出
方式は、赤外光源11などの照明部やカメラ13の配置,形
状に関し、図9に示すもの以外で様々なものが考えられ
ている。しかし、こうした各種方式のものは、装置が大
掛かりなものとなって製造価格が上昇する傾向にある。
[0003] In addition, as a device for detecting blinking, for example, Japanese Patent Application Laid-Open No.
JP-A-00-39438 discloses a method of detecting changes in eyelids by image processing.
As disclosed in Japanese Patent No. -11675, there is a method for detecting distortion around the eyes accompanying blinking, and a method for detecting changes in muscle potential caused by blinking by attaching biological electrodes to eyes. . In particular, as shown in FIG. 9, the detection method based on the image processing includes a ring-shaped infrared light source 11 for illuminating the eye E with infrared light, and an objective lens at the center of the infrared light source 11.
And a camera 13 as an imaging device in which the
By photographing the movement of the camera with the camera 13, FIG.
The presence or absence of blinking is detected based on a change in the image when the eye E is opened as shown in FIG. 10 and a change in the image when the eye E is closed as shown in FIG. Various detection methods other than those shown in FIG. 9 are conceivable for the detection method based on the image processing regarding the arrangement and shape of the illumination unit such as the infrared light source 11 and the camera 13. However, these various types tend to be large-scale and increase the manufacturing cost.

【0004】前記図8に示すように、眼Eに弱い赤外線
を当てて、その反射光量の変化をホトダイオード2で捕
えて、瞬き検出部4で瞬きを検出する方式は、1式あた
りの製造価格が兼価にでき、瞬き検出装置としてすぐれ
た方式である。しかし、赤外光の反射光量の変化を利用
しているため、観察者の肌の色によって反射光量が異な
る、角膜表面の乾き具合によって瞼との光量差が変化す
る、メガネフレームの位置がずれると、このメガネフレ
ームに装着した瞬きセンサ部3の位置が変化する、メガ
ネレンズや立体メガネのフィルター越しに検出すると、
瞬きセンサ部3で捕える反射光量の変化が極端に小さく
なる、等の問題が生じていた。そのために観察者毎、若
しくはメガネ装着の有無などによって、個別に調整を行
なう必要があった。
As shown in FIG. 8, a method in which a weak infrared ray is applied to the eye E, the change in the amount of reflected light is captured by the photodiode 2, and the blink detector 4 detects the blink is a manufacturing cost per set. Is an excellent method as a blink detection device. However, since the change in the amount of reflected infrared light is used, the amount of reflected light varies depending on the color of the observer's skin, the difference in the amount of light from the eyelids varies depending on the degree of dryness of the corneal surface, and the position of the glasses frame is shifted. And the position of the blink sensor unit 3 attached to this glasses frame changes, and it is detected through a filter of a glasses lens or stereo glasses,
There has been such a problem that the change in the amount of reflected light captured by the blink sensor unit 3 becomes extremely small. Therefore, it is necessary to make individual adjustments depending on each observer or whether or not glasses are worn.

【0005】本発明は、このような問題点を解決しよう
とするもので、観察者個々に生じる瞬き検出の個人差
や、検出中に様々な要因で生じる検出精度の変動を抑
え、安定した瞬き検出を可能にする瞬き検出装置を提供
することを目的とする。
The present invention is intended to solve such a problem, and suppresses individual differences in blink detection that occur to each observer and fluctuations in detection accuracy caused by various factors during detection, thereby achieving stable blinking. It is an object of the present invention to provide a blink detection device that enables detection.

【0006】[0006]

【課題を解決するための手段】請求項1の発明の瞬き検
出装置は、前記目的を達成するために、観察者の目に赤
外線を照射し、その反射光量の変化を捕えて検出信号を
出力する瞬きセンサ部と、この瞬きセンサ部からの検出
信号に基づき瞬きを検出する瞬き検出部とを備えた瞬き
検出装置において、反射光量の変化が増加している場
合、そのときの反射光量の値と反射光量の最小値とを比
較した値が、予め決められた反射光量差以上であれば、
瞬きしていると検出して反射光量の最大値を更新する一
方で、反射光量の変化が減少している場合、そのときの
反射光量の値と反射光量の最大値とを比較した値が、予
め決められた反射光量差以上であれば、瞬きしていない
と検出して反射光量の最小値を更新するように、前記瞬
き検出部を構成している。
According to a first aspect of the present invention, there is provided a blink detection apparatus which irradiates an infrared ray to an eye of an observer, detects a change in the amount of reflected light, and outputs a detection signal. In a blink detection device including a blink sensor unit that blinks and a blink detection unit that detects blink based on a detection signal from the blink sensor unit, when the change in the reflected light amount is increasing, the value of the reflected light amount at that time If the value obtained by comparing with the minimum value of the reflected light amount is equal to or greater than the predetermined reflected light amount difference,
While detecting the blinking and updating the maximum value of the reflected light amount, if the change in the reflected light amount is decreasing, the value obtained by comparing the value of the reflected light amount at that time with the maximum value of the reflected light amount is: If the difference between the reflected light amounts is equal to or greater than a predetermined difference, the blink detection unit is configured to detect that the blinking has not occurred and update the minimum value of the reflected light amount.

【0007】このようにすると、瞬き検出部が瞬きをし
ていると検出した場合は、反射光量の最大値をそのとき
の反射光量の値に更新する。また、瞬き検出部が瞬きを
していないと検出した場合は、反射光量の最小値をその
ときの反射光量の値に更新する。このように、瞬きの有
無を判断する上で重要な要素となる反射光量の最大値や
最小値が、瞬きセンサ部で捕えた反射光量の変化に応じ
て時々刻々と変化するので、特に瞬きをしていないとき
の反射光量の基線が変動したり、瞬きを行なう毎に反射
光量の振幅が変動する場合でも、正しく瞬き検出を行な
うことが可能になる。
In this way, when the blink detecting unit detects that blinking, the maximum value of the reflected light amount is updated to the value of the reflected light amount at that time. When the blink detecting unit detects that no blinking has occurred, the minimum value of the reflected light amount is updated to the value of the reflected light amount at that time. As described above, the maximum value and the minimum value of the reflected light amount, which are important factors in determining the presence or absence of blinking, change every moment in accordance with the change in the reflected light amount captured by the blinking sensor unit. Even if the baseline of the amount of reflected light fluctuates when it is not performed, or if the amplitude of the amount of reflected light fluctuates each time blinking is performed, blink detection can be performed correctly.

【0008】請求項2の発明は、請求項1の瞬き検出装
置において、瞬きしていると検出した後の反射光量の変
化が減少している場合、そのときの反射光量の値と反射
光量の最大値とを比較した値が、前記予め決められた反
射光量差以下であれば無視すると共に、瞬きしていない
と検出した後の反射光量の変化が増加している場合、そ
のときの反射光量の値と反射光量の最小値とを比較した
値が、前記予め決められた反射光量差以下であれば無視
するように前記瞬き検出部を構成している。
According to a second aspect of the present invention, in the blink detection device according to the first aspect, when the change in the amount of reflected light after detecting the blinking is decreasing, the value of the amount of reflected light and the value of the amount of reflected light at that time are reduced. If the value compared with the maximum value is equal to or less than the predetermined reflected light amount difference, it is ignored, and if the change in the reflected light amount after detecting that it is not blinking is increasing, the reflected light amount at that time is increased. The blink detection unit is configured to ignore a value obtained by comparing a value of the reflected light amount with the minimum value of the reflected light amount if the difference is equal to or less than the predetermined reflected light amount difference.

【0009】このようにすると、瞬きしていると検出し
た後で、反射光量の変化が減少している場合に、そのと
きの反射光量の値と反射光量の最大値とを比較した値が
反射光量差に達するまでは、これを無視して瞬きをして
いるものとし、逆に、瞬きしていないと検出した後で、
反射光量の変化が増加している場合にも、そのときの反
射光量の値と反射光量の最小値とを比較した値が反射光
量差に達するまでは、これを無視して瞬きをしていない
ものとするので、瞬きセンサ部からの検出信号にノイズ
が混入して、反射光量が細かく増減していても、これを
無視して正確な瞬き検出を行なうことが可能になる。
In this way, when the change in the amount of reflected light is reduced after the blinking is detected, the value obtained by comparing the value of the amount of reflected light at that time with the maximum value of the amount of reflected light is reflected. Until the light intensity difference is reached, it is assumed that the person blinks ignoring this, and conversely, after detecting that it is not blinking,
Even if the change in the reflected light amount is increasing, it does not blink, ignoring this, until the value comparing the value of the reflected light amount at that time and the minimum value of the reflected light amount reaches the reflected light amount difference. Therefore, even if noise is mixed in the detection signal from the blink sensor unit and the amount of reflected light is finely increased or decreased, accurate blink detection can be performed ignoring this.

【0010】請求項3の発明は、請求項1の瞬き検出装
置において、前記瞬き検出部は、複数波形分前の瞬き時
における反射光量の変化から反射光量の差の平均値を算
出し、その平均値に対し20〜80%の幅を有する値
で、前記予め決められた反射光量差を更新するものであ
ることをと特徴とする。
According to a third aspect of the present invention, in the blink detection device according to the first aspect, the blink detection unit calculates an average value of a difference in reflected light amounts from a change in reflected light amounts at the time of blinking a plurality of waveforms earlier. The predetermined reflection light amount difference is updated with a value having a range of 20 to 80% of the average value.

【0011】このようにすると、複数波形分前の直近の
瞬き検出時における反射光量の変化に基づき、反射光量
差を随時更新しているため、反射光量に大きな振幅の変
化があっても、反射光量差がそれに応じて変動し、良好
な瞬き検出を行なうことが可能になる。
With this configuration, the reflected light amount difference is updated as needed based on the change in the reflected light amount at the time of the most recent blink detection of a plurality of waveforms earlier. The light amount difference fluctuates accordingly, and good blink detection can be performed.

【0012】請求項4の発明は、請求項1〜3のいずれ
か一つの瞬き検出装置において、前記瞬きセンサ部をメ
ガネフレームに装着して構成される。
According to a fourth aspect of the present invention, in the blink detection device according to any one of the first to third aspects, the blink sensor unit is mounted on an eyeglass frame.

【0013】このようにすると、メガネフレームに瞬き
センサ部を装着した状態で、観察者に対する瞬き検出を
行なうことができるので、瞬き検出部で得られた瞬きの
検出結果を、情報の入力デバイス若しくは居眠りや興味
など心理状態の評価に用いることができる。
With this configuration, it is possible to perform blink detection on the observer while the blink sensor unit is attached to the glasses frame, so that the blink detection result obtained by the blink detector is input to an information input device or an information input device. It can be used to evaluate psychological conditions such as dozing and interest.

【0014】請求項5の発明は、請求項1〜3のいずれ
か一つの瞬き検出装置において、前記瞬きセンサ部を単
眼用または両眼用ヘッドマウントディスプレイに装着し
て構成される。
According to a fifth aspect of the present invention, in the blink detection device according to any one of the first to third aspects, the blink sensor unit is mounted on a monocular or binocular head mounted display.

【0015】このようにすると、単眼用または両眼用ヘ
ッドマウントディスプレイに瞬きセンサ部を装着した状
態で、観察者に対する瞬き検出を行なうことができるの
で、瞬き検出部で得られた瞬きの検出結果を、情報の入
力デバイス若しくは居眠りや興味など心理状態の評価に
用いることができる。
With this configuration, it is possible to perform blink detection on the observer while the blink sensor unit is mounted on the monocular or binocular head mounted display, so that the blink detection result obtained by the blink detector is obtained. Can be used for an information input device or for evaluating a psychological state such as dozing or interest.

【0016】請求項6の発明は、請求項4または5の瞬
き検出装置において、前記瞬きセンサ部または前記瞬き
検出部からの出力を無線で伝送するように構成してい
る。
According to a sixth aspect of the present invention, in the blink detection device according to the fourth or fifth aspect, an output from the blink sensor section or the blink detection section is wirelessly transmitted.

【0017】このようにすると、接続手段としてケーブ
ルを用いなくても、瞬きセンサ部または瞬き検出部から
の出力を無線で伝送することが可能になる。
This makes it possible to wirelessly transmit the output from the blink sensor unit or the blink detection unit without using a cable as the connection means.

【0018】[0018]

【発明の実施形態】以下、本発明における瞬き検出装置
の各実施例を、添付図面を参照しながら説明する。図1
〜図5は、本発明の第1実施例を示すもので、装置の全
体構成をあらわした図1において、瞬きセンサ部3とし
ての構成は、従来例の図8に示すものと全く同一で、こ
れは投光手段である赤外発光ダイオード1と、受光手段
であるホトダイオード2とを並設して構成される。そし
て瞬きセンサ部3は、赤外発光ダイオード1から弱い赤
外線を眼Eに照射し、その反射光量の変化をホトダイオ
ード2で捕えて、電気的な検出信号として瞬き検出部4
に出力する機能を有する。
BRIEF DESCRIPTION OF THE DRAWINGS FIG. 1 is a block diagram showing a preferred embodiment of a blink detecting device according to the present invention. FIG.
5 show a first embodiment of the present invention. In FIG. 1 showing the overall configuration of the apparatus, the configuration as a blink sensor unit 3 is exactly the same as that shown in FIG. This is configured by arranging an infrared light emitting diode 1 as light emitting means and a photodiode 2 as light receiving means in parallel. Then, the blink sensor unit 3 irradiates the eye E with weak infrared light from the infrared light emitting diode 1, captures a change in the amount of reflected light with the photodiode 2, and generates a blink detection unit 4 as an electrical detection signal.
It has the function of outputting to

【0019】一方、瞬き検出部4は、本発明の特徴とな
る後述するアルゴリズムに従って観察者の瞬きを検出し
出力する機能を備えている。こうした機能を具体化する
手段として、瞬き検出部4は、最初に観察者を意識的に
瞬きさせることで、そのときの反射光量の変化に基づ
き、瞬きの有無を判定する際の基準となる反射光量差Δ
V,反射光量の最小値Dmin,および反射光量の最大値
Dmaxの各値を、それぞれ観察者に適切な初期値として
設定する初期値設定手段21と、2回目以降の測定で観察
者が瞬きを行なっているか否かを判定する瞬き判定手段
22とを備えて構成される。この瞬き判定手段22には、後
述するアルゴリズムに基づく所定の条件に合致したとき
に、反射光量差ΔV,反射光量の最小値Dminまたは反
射光量の最大値Dmaxを更新する設定値更新手段23を備
えているが、具体的な更新の手順については後程詳述す
る。
On the other hand, the blink detecting section 4 has a function of detecting and outputting an observer's blink in accordance with an algorithm described later, which is a feature of the present invention. As means for embodying such a function, the blink detection unit 4 first makes the observer consciously blink, and based on the change in the amount of reflected light at that time, the reflection that serves as a reference when determining the presence or absence of blinking. Light intensity difference Δ
V, a minimum value Dmin of the amount of reflected light, and a maximum value Dmax of the amount of reflected light, respectively, as initial value setting means 21 for setting appropriate values for the observer, and the observer blinks in the second and subsequent measurements. Blink judgment means for judging whether or not it is performing
22. The blink determining means 22 includes a set value updating means 23 for updating the reflected light amount difference ΔV, the minimum value Dmin of the reflected light amount or the maximum value Dmax of the reflected light amount when a predetermined condition based on an algorithm described later is met. However, a specific updating procedure will be described later in detail.

【0020】つぎに、上記構成について、その作用を図
2に示すフローチャートに基づいて説明する。先ず、赤
外発光ダイオード1とホトダイオード2が観察者の眼E
に向き合う状態に瞬きセンサ部3を装着し、最初は観察
者を意識的に瞬きさせて、そのときの瞬きセンサ部3か
らの検出信号を瞬き検出部4に取り込む(ステップS
1)。このとき、上瞼S1を開けていると、赤外発光ダ
イオード1からの赤外光が主に眼球に反射してホトダイ
オード2に戻ってくるが、上瞼S1を下瞼S2側に閉じ
ると、赤外発光ダイオード1からの赤外光が、主に上瞼
S1に反射してホトダイオード2に戻ってくる。つま
り、赤外光の反射面に占める肌(上瞼S1)の割合は、
眼Eを閉じた時のほうが大きくなるが、肌の反射率は眼
球の反射率に比べて大きいため、眼Eを開けている状態
では、ホトダイオード2の捕える反射光量が相対的に低
下して検出信号の電圧レベルが低くなり、逆に眼Eを閉
じている状態では、ホトダイオード2の捕える反射光量
が相対的に増加して検出信号の電圧レベルが高くなる。
Next, the operation of the above configuration will be described with reference to the flowchart shown in FIG. First, the infrared light emitting diode 1 and the photodiode 2 are connected to the eye E of the observer.
The blink sensor unit 3 is mounted in a state of facing the viewer, and at first, the observer is consciously blinked, and the detection signal from the blink sensor unit 3 at that time is taken into the blink detection unit 4 (step S).
1). At this time, if the upper eyelid S1 is open, the infrared light from the infrared light emitting diode 1 is mainly reflected on the eyeball and returns to the photodiode 2, but if the upper eyelid S1 is closed to the lower eyelid S2 side, The infrared light from the infrared light emitting diode 1 is mainly reflected on the upper eyelid S1 and returns to the photodiode 2. That is, the ratio of the skin (upper eyelid S1) occupying the infrared light reflection surface is:
When the eye E is closed, the reflectance is higher when the eye E is closed. However, since the reflectance of the skin is higher than the reflectance of the eyeball, when the eye E is open, the amount of reflected light captured by the photodiode 2 is relatively reduced and detected. When the voltage level of the signal is low and the eye E is closed, the amount of reflected light captured by the photodiode 2 is relatively increased, and the voltage level of the detection signal is high.

【0021】こうして、瞬きセンサ部3から検出信号を
入力すると、瞬き検出部4は次のステップS2において
最初の測定であれば、この瞬き時における反射光量ひい
ては検出信号の電圧レベルの違いをもとに、予め実験で
決めたデータから、瞬きの有無を示す反射光量差ΔV
と、瞬きセンサ部3からのセンサ出力すなわち反射光量
の最小値Dminと、瞬きセンサ部3からのセンサ出力す
なわち反射光量の最大値Dmaxの各初期値を、初期値設
定手段21にてそれぞれ設定し(ステップS3)、ステッ
プS1の手順に戻る。一般に、瞬き時における反射光量
の変化が大きければ、それに比例して反射光量差ΔVは
大きな値となる。瞬き検出部4は、瞬きセンサ部3から
出力される検出信号を一定時間毎に瞬きデータとして取
り込むが、2回目以降の瞬きデータについては、ステッ
プS3の手順を通らずに、瞬き判定手段22が行なうステ
ップS4以降の手順で、現時刻(ti)で取り込んだ現デ
ータD(ti)と、前回(ti-1)のときに取り込んだ前デ
ータD(ti-1)との比較を行なう。
When the detection signal is input from the blink sensor unit 3 in this manner, the blink detection unit 4 determines the amount of reflected light at the time of blink and the voltage level of the detection signal if it is the first measurement in the next step S2. From the data determined in advance by experiment, the reflected light amount difference ΔV indicating the presence or absence of blinking
Initial values of the sensor output from the blink sensor unit 3, ie, the minimum value Dmin of the reflected light amount, and the sensor output from the blink sensor unit 3, ie, the maximum value Dmax of the reflected light amount, are set by the initial value setting means 21. (Step S3), the procedure returns to the step S1. Generally, if the change in the reflected light amount at the time of blinking is large, the reflected light amount difference ΔV becomes large in proportion thereto. The blink detection unit 4 captures the detection signal output from the blink sensor unit 3 as blink data at regular intervals, but for the second and subsequent blink data, the blink determination unit 22 does not go through the procedure of step S3. In step S4 and subsequent steps, the current data D (ti) captured at the current time (ti) is compared with the previous data D (ti-1) captured at the previous time (ti-1).

【0022】このステップS4において、瞬きセンサ部
3から取り込んだ現データD(ti)の値が前データD
(ti-1)の値と等しいかまたはそれ以上で、D(ti)≧
D(ti-1)なる関係が成立する場合、すなわちホトダイ
オード2で捕えた反射光量の変化が増加している場合
は、ステップS5の手順に移行して、このときの現デー
タD(ti)の値から反射光量の最小値Dminを差し引い
た値D(ti)−Dminが、予め決められた反射光量差Δ
V以上であるか否かを判定する。そして、この現データ
D(ti)と反射光量の最小値Dminとを比較した値D(t
i)−Dminが、反射光量差ΔV以上である場合には、次
のステップS6にて眼Eを閉じた瞬き状態であると判定
し、設定値更新手段23にて反射光量の最大値Dmaxを現
データD(ti)の値に更新する。それと共に、ステップ
S9の手順に進み、設定値更新手段23にて現時点より2
〜3回前の瞬き検出時における瞬きデータの波形変化を
用いて、各瞬き検出時の反射光量の最大値Dmaxと最小
値Dminとの差Dmax−Dminから、その平均値を算出
し、反射光量差ΔVを更新する。このとき更新した反射
光量差ΔVの値は、前記反射光量の差Dmax−Dminの平
均値に対し、所定の掛け率を掛け合わせた20〜80%
程度の値となる。また、この掛け率は、各瞬き検出時に
おける瞬きデータの波形が安定化している程高くなる。
反射光量差ΔVの更新が終了すると、ステップS1の手
順に戻って次の瞬きデータを瞬きセンサ部3より取り込
む。
In this step S4, the value of the current data D (ti) fetched from the blink sensor 3 is
D (ti) ≧ = (ti-1)
When the relationship D (ti-1) is established, that is, when the change in the amount of reflected light captured by the photodiode 2 is increasing, the process proceeds to step S5, where the current data D (ti) at this time is changed. A value D (ti) -Dmin obtained by subtracting the minimum value Dmin of the reflected light amount from the value is a predetermined reflected light amount difference Δ
It is determined whether it is V or more. Then, a value D (t) obtained by comparing the current data D (ti) with the minimum value Dmin of the reflected light amount is obtained.
i) If -Dmin is greater than or equal to the reflected light amount difference ΔV, it is determined in the next step S6 that the eye E is in a blinking state with the eye E closed, and the maximum value Dmax of the reflected light amount is set by the set value updating means 23. Update to the value of the current data D (ti). At the same time, the process proceeds to step S9, where the set value updating means 23
Using the change in the waveform of the blink data at the time of blink detection three to three times earlier, the average value is calculated from the difference Dmax-Dmin between the maximum value Dmax and the minimum value Dmin of the reflected light amount at each blink detection, and the reflected light amount is calculated. Update the difference ΔV. The value of the reflected light amount difference ΔV updated at this time is 20 to 80% obtained by multiplying the average value of the reflected light amount difference Dmax−Dmin by a predetermined multiplication factor.
Value of the order. The multiplying rate increases as the waveform of the blink data at the time of each blink detection is stabilized.
When the update of the reflected light amount difference ΔV is completed, the process returns to the procedure of step S <b> 1 to acquire the next blink data from the blink sensor unit 3.

【0023】一方、前記ステップS4において、瞬きセ
ンサ部3から取り込んだ現データD(ti)の値が前デー
タD(ti-1)の値よりも小さく、D(ti)<D(ti-1)
なる関係が成立する場合、すなわちホトダイオード2で
捕えた反射光量の変化が減少している場合は、ステップ
S7の手順に移行して、反射光量の最大値Dmaxから現
データD(ti)の値を差し引いた値Dmax−D(ti)
が、予め決められた反射光量差ΔV以上であるか否かを
判定する。そして、反射光量の最大値と現データD(t
i)とを比較した値Dmax−D(ti)が、反射光量差ΔV
以上である場合には、次のステップS8にて眼Eを開け
た瞬きをしていない状態であると判定し、設定値更新手
段23にて反射光量の最小値Dminを現データD(ti)の
値に更新する。それと共に、ステップS9の手順に進
み、前述したように反射光量差ΔVを更新する。この場
合も、反射光量差ΔVの更新が終了すると、ステップS
1の手順に戻って次の瞬きデータを瞬きセンサ部3より
取り込む。
On the other hand, in step S4, the value of the current data D (ti) fetched from the blink sensor unit 3 is smaller than the value of the previous data D (ti-1), and D (ti) <D (ti-1). )
If the following relationship is established, that is, if the change in the amount of reflected light captured by the photodiode 2 is decreasing, the procedure moves to step S7, and the value of the current data D (ti) is changed from the maximum value Dmax of the amount of reflected light. Subtracted value Dmax-D (ti)
Is greater than or equal to a predetermined reflected light amount difference ΔV. Then, the maximum value of the reflected light amount and the current data D (t
The value Dmax-D (ti) obtained by comparing i) with the reflected light amount difference ΔV
If so, it is determined in the next step S8 that the eye E is not blinking with the eye E opened, and the set value updating means 23 determines the minimum value Dmin of the reflected light amount as the current data D (ti). Update to the value of At the same time, the process proceeds to step S9, and the reflected light amount difference ΔV is updated as described above. Also in this case, when the update of the reflected light amount difference ΔV is completed, step S
Returning to the procedure 1, the next blink data is fetched from the blink sensor unit 3.

【0024】次に、上記構成により瞬きを良好に検出で
きるようになった例を図3〜図5の各波形図で、また従
来の瞬き検出の例を図11に説明する。これらの各図は
いずれも、上段に時間経過に伴なう瞬きセンサ部3から
の検出信号の電圧レベルが示されていると共に、下段に
瞬き検出部4からの瞬き出力(ONは瞬きの状態、OFFは
瞬きしていない状態)が示されている。
Next, an example in which blinking can be detected satisfactorily by the above configuration will be described with reference to waveform diagrams of FIGS. 3 to 5, and an example of conventional blink detection will be described with reference to FIG. In each of these figures, the voltage level of the detection signal from the blink sensor unit 3 with the passage of time is shown in the upper part, and the blink output from the blink detector 4 (ON is the state of blinking). , OFF is a state in which it does not blink).

【0025】図11は、従来の瞬きの検出例を示してい
る。この図から分かるように、ホトダイオード2で捕え
た反射光量はそのp-p(ピーク−ピーク)値,最大値Dm
ax,および最小値Dminが時々刻々変化している。従来
は反射光量差ΔV値が固定であったため、睫毛等の反射
でAの区間の様に光量に小さなピークが生じて電圧変動
が小さくなった場合、瞬きの状態(ON)から瞬きをして
いない状態(OFF)を正しく検出できない。
FIG. 11 shows an example of conventional blink detection. As can be seen from this figure, the reflected light amount captured by the photodiode 2 has its pp (peak-peak) value and the maximum value Dm.
ax and the minimum value Dmin change every moment. Conventionally, since the reflected light amount difference ΔV value is fixed, when a small peak occurs in the light amount due to the reflection of the eyelashes or the like as in the section A and the voltage fluctuation is reduced, the blinking is performed from the blinking state (ON). State (OFF) cannot be detected correctly.

【0026】これに対して図3は、本実施例における瞬
きの検出例を示すもので、ホトダイオード2が捕えた瞬
きをしていないときの反射光量の基線Gと、瞬き時にお
ける振幅の各変化に変動がある場合を示している。前者
の基線Gの変化は、ホトダイオード2が赤外光の反射光
量の変化を検出しているために、周囲の背景光量の変化
や、角膜表面の乾き具合の変化や、観察者が光源の方向
に顔を向けたときなどに生じやすい。また、後者の瞬き
時における振幅変化は、角膜表面の乾きや、瞬きセンサ
部の位置ずれにより生じやすい。本実施例では、瞬き検
出部4が前記ステップS6において瞬きと判定した場
合、またはステップS8において瞬きしていないと判定
する毎に、反射光量の最大値Dmax若しくは最小値Dmin
を随時更新するようにしているため、基線Gの電圧レベ
ルが上昇すれば反射光量の最小値Dminも上昇し、基線
Gの電圧レベルが下降すれば反射光量の最小値Dminも
下降して、瞬き検出を行う上で基線Gの変動による影響
を受けない。また、反射光量の最大値Dmaxについて
も、瞬き検出時における反射光量のピーク値が高くなれ
ば、その分高い値に更新され、逆に瞬き検出時における
反射光量のピーク値が低くなれば、その分低い値に更新
される。それと共に、前記ステップS9では2〜3回前
の直近の瞬き検出時における瞬きデータを用いて、反射
光量差ΔVを更新しているため、後者の振幅変化に対し
ても良好な瞬き検出が可能となる。
On the other hand, FIG. 3 shows an example of the detection of blinking in the present embodiment, in which the baseline G of the amount of reflected light when the photodiode 2 is not blinking and the change in amplitude at the time of blinking. Shows a case where there is a change in The former change in the baseline G is caused by the change in the amount of ambient background light, the change in the degree of drying of the corneal surface, and the change in the direction of the light source because the photodiode 2 detects the change in the amount of reflected infrared light. It is easy to occur when the face is turned to the face. Further, the latter amplitude change at the time of blinking is likely to occur due to drying of the corneal surface or displacement of the blinking sensor unit. In the present embodiment, the maximum value Dmax or the minimum value Dmin of the reflected light amount is obtained each time the blink detection unit 4 determines that there is no blink in step S6, or every time that it is determined that there is no blink in step S8.
Is updated as needed, so that the minimum value Dmin of the amount of reflected light increases as the voltage level of the baseline G increases, and the minimum value Dmin of the amount of reflected light also decreases as the voltage level of the baseline G decreases, and blinks. The detection is not affected by the fluctuation of the baseline G. In addition, the maximum value Dmax of the reflected light amount is also updated to a higher value when the peak value of the reflected light amount at the time of blink detection becomes higher, and conversely, when the peak value of the reflected light amount at the time of blink detection becomes lower, Updated to a minute lower. At the same time, in step S9, the reflected light amount difference ΔV is updated using the blink data at the time of the most recent blink detection two to three times before, so that good blink detection is possible even for the latter amplitude change. Becomes

【0027】図4は、同じく本実施例において、それぞ
れの瞬き検出時において、反射光量に大きな振幅の変化
がある場合を示している。なおこの図では、時間tが進
むに従って、反射光量差ΔVがどのように変化している
のかを一点鎖線でわかりやすく示している。この図から
も明らかなように、瞬き検出時における反射光量の変動
がそれまでのものよりもある程度大きくなると、前述の
掛け率との関係にも依るが、相対的に反射光量差ΔVは
大きな値に更新され、逆に瞬き検出時における反射光量
の変動がそれまでのものよりもある程度小さくなると、
相対的に反射光量差ΔVは大きな値に更新される。この
ように、2〜3回前の直近の瞬き検出時における瞬きデ
ータを用いて、反射光量差ΔVを更新しているため、反
射光量に大きな振幅の変化があっても、反射光量差ΔV
がそれに応じて変動し、良好な瞬き検出を行なうことが
可能になる。
FIG. 4 shows a case where there is a large amplitude change in the amount of reflected light at the time of each blink detection in this embodiment. Note that, in this figure, how the reflected light amount difference ΔV changes as the time t advances is indicated by a dash-dot line in an easy-to-understand manner. As is clear from this figure, when the fluctuation of the reflected light amount at the time of blink detection becomes larger to some extent than before, the reflected light amount difference ΔV is relatively large, depending on the relationship with the multiplication factor described above. When the fluctuation of the amount of reflected light at the time of blink detection becomes smaller to some extent than before,
The reflected light amount difference ΔV is updated to a relatively large value. As described above, since the reflected light amount difference ΔV is updated using the blink data at the time of the most recent blink detection two to three times before, even if the reflected light amount has a large amplitude change, the reflected light amount difference ΔV
Fluctuates accordingly, and good blink detection can be performed.

【0028】さらに図5は、瞬きセンサ部3からの検出
信号にノイズが混入している場合を示している。こうし
たノイズは、睫毛や化粧の乱反射や、回路系のノイズ等
により生じやすいが、取り込んだ現データD(ti)の値
と、反射光量の最大値Dmaxまたは最小値Dminとの間の
差が、反射光量差ΔV以下の変動であり、容易に除去さ
れる。したがって、ノイズによる瞬きの誤検出もない。
FIG. 5 shows a case where noise is mixed in the detection signal from the blink sensor unit 3. Such noise is likely to be caused by irregular reflection of eyelashes and makeup, noise of a circuit system, and the like. However, the difference between the value of the captured current data D (ti) and the maximum value Dmax or the minimum value Dmin of the reflected light amount is The variation is equal to or less than the reflected light amount difference ΔV, and is easily removed. Therefore, there is no false detection of blinking due to noise.

【0029】以上のように本実施例によれば、観察者の
目に赤外線を照射し、その反射光量の変化を捕えて検出
信号を出力する瞬きセンサ部3と、この瞬きセンサ部3
からの検出信号に基づき瞬きを検出する瞬き検出部4と
を備えた瞬き検出装置において、現時点で取り込んだ反
射光量の値D(ti)と、その前に取り込んだ反射光量の
値D(ti-1)とを比較し、瞬きセンサ部3が捕えた反射
光量の変化が増加している場合は、そのときの反射光量
の値D(ti)と反射光量の最小値Dminとを比較した値
が、予め決められた反射光量差ΔV以上であれば、瞬き
していると検出して反射光量の最大値Dmaxを更新する
一方で、反射光量の変化が減少している場合は、そのと
きの反射光量の値D(ti)と反射光量の最大値Dmaxと
を比較した値が、予め決められた反射光量差ΔV以上で
あれば、瞬きしていないと検出して反射光量の最小値D
minを更新するように、瞬き検出部4を構成している。
As described above, according to this embodiment, the blink sensor unit 3 that irradiates infrared rays to the observer's eyes, captures a change in the amount of reflected light, and outputs a detection signal, and the blink sensor unit 3
And a blink detection unit 4 that detects a blink based on a detection signal from the camera. The value of the reflected light amount D (ti) captured at the present time and the value of the reflected light amount D (ti− 1), if the change in the amount of reflected light captured by the blink sensor unit 3 is increasing, the value obtained by comparing the value D (ti) of the amount of reflected light at that time with the minimum value Dmin of the amount of reflected light is If the difference between the reflected light amounts is equal to or larger than the predetermined reflected light amount difference ΔV, the blinking is detected, and the maximum value Dmax of the reflected light amount is updated. If the value obtained by comparing the light quantity value D (ti) with the maximum reflected light quantity Dmax is equal to or greater than a predetermined reflected light quantity difference ΔV, it is detected that blinking has not occurred, and the minimum reflected light quantity D
The blink detection unit 4 is configured to update min.

【0030】このようにすると、瞬き検出部4が瞬きを
していると検出した場合は、反射光量の最大値Dmaxを
そのときの反射光量の値D(ti)に更新する。また、瞬
き検出部4が瞬きをしていないと検出した場合は、反射
光量の最小値Dminをそのときの反射光量の値D(ti)
に更新する。このように、瞬きの有無を判断する上で重
要な要素となる反射光量の最大値Dmaxや最小値Dmin
が、瞬きセンサ部3で捕えた反射光量の変化に応じて時
々刻々と変化するので、特に瞬きをしていないときの反
射光量の基線Gが変動したり、瞬きを行なう毎に反射光
量の振幅が変動する場合でも、正しく瞬き検出を行なう
ことが可能になる。したがって、観察者個々に生じる瞬
き検出の個人差や、検出中に様々な要因で生じる検出精
度の変動を抑え、安定した瞬き検出を行なうことができ
る。
In this way, when the blink detector 4 detects that the person is blinking, the maximum value Dmax of the reflected light amount is updated to the value D (ti) of the reflected light amount at that time. When the blink detector 4 detects that the person is not blinking, the minimum value Dmin of the reflected light amount is set to the value D (ti) of the reflected light amount at that time.
Update to As described above, the maximum value Dmax and the minimum value Dmin of the amount of reflected light, which are important factors in determining the presence or absence of blinking,
Changes momentarily according to the change in the amount of reflected light captured by the blink sensor unit 3, so that the base line G of the amount of reflected light particularly when not blinking fluctuates, and the amplitude of the amount of reflected light every time a blink is performed Can be correctly detected even if the value fluctuates. Therefore, it is possible to suppress individual differences in blink detection that occur for each observer and fluctuations in detection accuracy caused by various factors during detection, and perform stable blink detection.

【0031】また、本実施例の瞬き検出部4は、瞬きし
ていると検出した後の反射光量の変化が減少している場
合、そのときの反射光量の値D(ti)と反射光量の最大
値Dmaxとを比較した値が、予め決められた反射光量差
ΔV以下であれば、それを無視すると共に、瞬きしてい
ないと検出した後の反射光量の変化が増加している場
合、そのときの反射光量の値D(ti)と反射光量の最小
値Dminとを比較した値が、予め決められた反射光量差
以下であれば、それを無視するよう構成している。
When the change in the amount of reflected light after detecting the blinking is reduced, the blink detector 4 of the present embodiment determines the value D (ti) of the reflected light amount and the value of the reflected light amount. If the value compared with the maximum value Dmax is equal to or smaller than the predetermined reflected light amount difference ΔV, the difference is ignored, and if the change in the reflected light amount after detecting that it is not blinking is increasing, If a value obtained by comparing the value D (ti) of the reflected light amount at that time with the minimum value Dmin of the reflected light amount is equal to or smaller than a predetermined reflected light amount difference, the difference is ignored.

【0032】このようにすると、瞬きしていると検出し
た後で、反射光量の変化が減少している場合に、そのと
きの反射光量の値D(ti)と反射光量の最大値Dmaxと
を比較した値が反射光量差ΔVに達するまでは、これを
無視して瞬きをしているものとし、逆に、瞬きしていな
いと検出した後で、反射光量の変化が増加している場合
にも、そのときの反射光量の値D(ti)と反射光量の最
小値Dminとを比較した値が反射光量差ΔVに達するま
では、これを無視して瞬きをしていないものとするの
で、瞬きセンサ部3からの検出信号にノイズが混入し
て、反射光量が細かく増減していても、これを無視して
正確な瞬き検出を行なうことが可能になる。
In this way, when the change in the amount of reflected light is reduced after detecting the blinking, the value D (ti) of the amount of reflected light and the maximum value Dmax of the amount of reflected light at that time are determined. Until the compared value reaches the reflected light amount difference ΔV, it is assumed that blinking is ignored ignoring this, and conversely, if the change in reflected light amount is increasing after detecting that there is no blinking Also, it is assumed that blinking is ignored until the value obtained by comparing the value D (ti) of the reflected light amount at that time with the minimum value Dmin of the reflected light amount reaches the reflected light amount difference ΔV. Even if noise is mixed into the detection signal from the blink sensor unit 3 and the amount of reflected light is finely increased or decreased, accurate blink detection can be performed ignoring this.

【0033】さらに本実施例では、複数波形分前の瞬き
時における反射光量の変化から反射光量の差の平均値を
算出し、その平均値に対し20〜80%の幅を有する値
で、前記予め決められた反射光量差を更新するように、
瞬き検出部4を構成している。
Further, in this embodiment, the average value of the difference between the reflected light amounts is calculated from the change in the reflected light amount at the time of blinking a plurality of waveforms earlier, and the average value is a value having a width of 20 to 80% of the average value. To update a predetermined reflected light amount difference,
The blink detection unit 4 is configured.

【0034】このようにすると、複数波形分前の直近の
瞬き検出時における反射光量の変化に基づき、反射光量
差ΔVを随時更新しているため、反射光量に大きな振幅
の変化があっても、反射光量差ΔVがそれに応じて変動
し、良好な瞬き検出を行なうことが可能になる。
With this configuration, the reflected light amount difference ΔV is updated as needed based on the change in the reflected light amount at the time of the most recent blink detection for a plurality of waveforms before. Therefore, even if the reflected light amount has a large amplitude change, The reflected light amount difference ΔV fluctuates accordingly, and good blink detection can be performed.

【0035】次に、本発明の第2実施例を図6に基づき
説明する。この第2実施例は、前記第1実施例で提案し
た瞬き検出装置において、瞬きセンサ部3をメガネフレ
ーム21に取り付けており、ここではメガネフレーム21に
保持されたいずれか一方のレンズ部22を通過して、ホト
ダイオード2が反射光量を受光するようになっている。
メガネフレーム21は、自由に方向の調整できる可撓性の
フレキシブルアーム23を用いており、観察者の目の方向
に瞬きセンサ部3を簡単に向けることができる。また、
瞬きセンサ部3と瞬き検出部4は、ケーブル24にて接続
される。なお、図示しないクリップ等を用いてメガネフ
レーム21に瞬きセンサ部3を挟むことも可能である。
Next, a second embodiment of the present invention will be described with reference to FIG. In the second embodiment, in the blink detection device proposed in the first embodiment, the blink sensor unit 3 is attached to the spectacle frame 21, and in this case, one of the lens units 22 held by the spectacle frame 21 is attached. After passing through, the photodiode 2 receives the amount of reflected light.
The eyeglass frame 21 uses a flexible arm 23 having a flexible direction that can be freely adjusted, so that the blink sensor unit 3 can be easily directed toward the observer's eyes. Also,
The blink sensor 3 and the blink detector 4 are connected by a cable 24. Note that the blink sensor unit 3 can be sandwiched between the eyeglass frames 21 using a clip or the like (not shown).

【0036】このように瞬きセンサ部3をメガネフレー
ム21に装着することで、メガネフレーム21に瞬きセンサ
部3を装着した状態で、観察者に対する瞬き検出を行な
うことができる。したがって、瞬き検出部4で得られた
瞬きの検出結果を、情報の入力デバイス若しくは居眠り
や興味など心理状態の評価に用いることができる。
By attaching the blink sensor unit 3 to the spectacle frame 21 in this manner, it is possible to perform blink detection for an observer with the blink sensor unit 3 attached to the spectacle frame 21. Therefore, the result of blink detection obtained by the blink detector 4 can be used for an information input device or for evaluating a mental state such as dozing or interest.

【0037】図7は、本発明の第3実施例を示すもので
ある。これは、前記第1実施例で提案した瞬き検出装置
において、瞬きセンサ部3を単眼用ヘッドマウントディ
スプレイ(HMD)31に装着したものである。このHM
D31は、観察者の頭部への装着部32と、観察者の眼Eに
対向した位置に設けられる表示装置33とを備え、この表
示装置33と瞬きセンサ部3が一体的に設けられる。な
お、ここでは単眼用のHMD31を示したが、両眼用のH
MD31にも勿論使用可能である。瞬き検出部4からの出
力によって、表示装置33を見ながら瞬き動作をマウスの
クリック代わりに用いたり、表示装置33への集中度の評
価などに用いることができる。
FIG. 7 shows a third embodiment of the present invention. In the blink detection device proposed in the first embodiment, the blink sensor unit 3 is mounted on a monocular head mounted display (HMD) 31. This HM
D31 includes a mounting part 32 to the head of the observer and a display device 33 provided at a position facing the eye E of the observer. The display device 33 and the blink sensor unit 3 are provided integrally. Although the monocular HMD 31 is shown here, the binocular HMD 31 is used.
Of course, it can be used for MD31. Based on the output from the blink detector 4, the blinking operation can be used instead of clicking the mouse while looking at the display device 33, or can be used to evaluate the degree of concentration on the display device 33.

【0038】このように瞬きセンサ部3を単眼用または
両眼用のHMD31に装着することで、単眼用または両眼
用のHMD31に瞬きセンサ部3を装着した状態で、観察
者に対する瞬き検出を行なうことができる。したがっ
て、瞬き検出部4で得られた瞬きの検出結果を、情報の
入力デバイス若しくは居眠りや興味など心理状態の評価
に用いることができる。
By attaching the blink sensor unit 3 to the monocular or binocular HMD 31 as described above, it is possible to detect the blink for the observer while the blink sensor unit 3 is attached to the monocular or binocular HMD 31. Can do it. Therefore, the result of blink detection obtained by the blink detector 4 can be used for an information input device or for evaluating a mental state such as dozing or interest.

【0039】さらに、上記第2および第3実施例におい
て、瞬きセンサ部3に駆動電源としての電池を内蔵さ
せ、無線で出力を伝送することも可能である。これによ
り接続手段としてケーブルを用いなくても、瞬きセンサ
部3からの検出信号を無線で伝送することが可能にな
る。また、瞬きセンサ部3のみならず、瞬き検出部4も
メガネフレーム21やHMD31に装着してもよい。その場
合,瞬き検出部4からの出力を無線で伝送するようにす
れば、接続手段としてケーブルを用いなくても、瞬き検
出部4からの検出信号を無線で伝送することが可能にな
る。
Further, in the second and third embodiments, it is possible to incorporate a battery as a drive power supply in the blink sensor unit 3 and transmit the output wirelessly. This makes it possible to wirelessly transmit the detection signal from the blink sensor unit 3 without using a cable as the connection means. Further, not only the blink sensor unit 3 but also the blink detection unit 4 may be mounted on the eyeglass frame 21 or the HMD 31. In this case, if the output from the blink detection unit 4 is transmitted wirelessly, the detection signal from the blink detection unit 4 can be transmitted wirelessly without using a cable as a connection unit.

【0040】なお、本発明は、前記実施例に限定される
ものではなく、種々の変形実施が可能である。
It should be noted that the present invention is not limited to the above embodiment, and various modifications can be made.

【0041】[0041]

【発明の効果】請求項1の瞬き検出装置によれば、観察
者個々に生じる瞬き検出の個人差や、検出中に様々な要
因で生じる検出精度の変動を抑え、安定した瞬き検出を
可能にできる。
According to the blink detection device of the first aspect, it is possible to suppress individual differences in the blink detection that occur to each observer and fluctuations in the detection accuracy caused by various factors during the detection, thereby enabling stable blink detection. it can.

【0042】請求項2の瞬き検出装置によれば、瞬きセ
ンサ部からの検出信号にノイズが混入していても、これ
を無視して正確な瞬き検出を行なうことが可能になる。
According to the second aspect of the present invention, even if noise is mixed in the detection signal from the blink sensor unit, accurate blink detection can be performed by ignoring the noise.

【0043】請求項3の瞬き検出装置によれば、反射光
量に大きな振幅の変化があっても、良好な瞬き検出を行
なうことが可能になる。
According to the blink detecting device of the third aspect, it is possible to perform a good blink detection even if the reflected light amount has a large amplitude change.

【0044】請求項4の瞬き検出装置によれば、瞬き検
出部で得られた瞬きの検出結果を、情報の入力デバイス
若しくは居眠りや興味など心理状態の評価に用いること
ができる。
According to the blink detecting device of the fourth aspect, the result of blink detection obtained by the blink detecting unit can be used for an information input device or for evaluating a mental state such as dozing or interest.

【0045】請求項5の瞬き検出装置によれば、瞬き検
出部で得られた瞬きの検出結果を、情報の入力デバイス
若しくは居眠りや興味など心理状態の評価に用いること
ができる。
According to the blink detecting device of the fifth aspect, the result of blink detection obtained by the blink detecting unit can be used for an information input device or for evaluating a mental state such as dozing or interest.

【0046】請求項6の瞬き検出装置によれば、接続手
段としてケーブルを用いなくても、瞬きセンサ部または
瞬き検出部からの出力を無線で伝送できる。
According to the blink detecting device of claim 6, the output from the blink sensor unit or the blink detecting unit can be transmitted wirelessly without using a cable as the connecting means.

【図面の簡単な説明】[Brief description of the drawings]

【図1】本発明の第1実施例を示すもので、瞬き検出装
置の機能的な構成をあらわしたブロック図である。
FIG. 1 is a block diagram showing a first embodiment of the present invention and showing a functional configuration of a blink detection device.

【図2】同上瞬き検出部における動作手順を示すフロー
チャートである。
FIG. 2 is a flowchart showing an operation procedure in the blink detection unit.

【図3】同上反射光量の基線と振幅変化に変動がある場
合の、検出信号の電圧レベルと瞬きの検知状態とを示す
波形図である。
FIG. 3 is a waveform chart showing a voltage level of a detection signal and a blink detection state in a case where there is a change in a baseline and an amplitude change of a reflected light amount.

【図4】同上反射光量の振幅変化が大きく変動する場合
の、検出信号の電圧レベルと瞬きの検知状態とを示す波
形図である。
FIG. 4 is a waveform chart showing a voltage level of a detection signal and a blink detection state when the amplitude change of the reflected light amount fluctuates greatly.

【図5】同上ノイズが混入している場合の、検出信号の
電圧レベルと瞬きの検知状態とを示す波形図である。
FIG. 5 is a waveform diagram showing a voltage level of a detection signal and a blink detection state when noise is mixed therein;

【図6】本発明の第2実施例を示すもので、瞬きセンサ
部をメガネフレームに取り付けた状態を示す斜視図であ
る。
FIG. 6 shows the second embodiment of the present invention, and is a perspective view showing a state where a blink sensor unit is attached to an eyeglass frame.

【図7】本発明の第3実施例を示すもので、瞬きセンサ
部を単眼用ヘッドマウントディスプレイに取り付けた状
態を示す正面図である。
FIG. 7 shows the third embodiment of the present invention, and is a front view showing a state in which a blink sensor unit is attached to a monocular head mounted display.

【図8】従来例における目に弱い赤外線を照射して瞬き
を検出する装置の概略説明図である。
FIG. 8 is a schematic explanatory view of a device for detecting blinking by irradiating a weak infrared ray to an eye in a conventional example.

【図9】別の従来例における画像処理により瞬きを検出
する装置の概略説明図である。
FIG. 9 is a schematic explanatory diagram of an apparatus for detecting blinks by image processing in another conventional example.

【図10】図9に置ける装置の画像を示し、(A)は眼
を開いたときの状態、(B)は目を閉じたときの状態を
示す図である。
10A and 10B show images of the device shown in FIG. 9, wherein FIG. 10A shows a state when the eyes are opened, and FIG. 10B shows a state when the eyes are closed.

【図11】従来の瞬きの検出例における検出信号の電圧
レベルと瞬きの検知状態とを示す波形図である。
FIG. 11 is a waveform diagram showing a voltage level of a detection signal and a blink detection state in a conventional blink detection example.

【符号の説明】[Explanation of symbols]

3 瞬きセンサ部 4 瞬き検出部 21 メガネフレーム 31 ヘッドマウントディスプレイ 3 Blink sensor unit 4 Blink detection unit 21 Glasses frame 31 Head mounted display

───────────────────────────────────────────────────── フロントページの続き (72)発明者 山之上 裕一 東京都世田谷区砧一丁目10番11号 日本放 送協会 放送技術研究所内 (72)発明者 奥井 誠人 東京都世田谷区砧一丁目10番11号 日本放 送協会 放送技術研究所内 (72)発明者 竹井 顕一郎 新潟県中蒲原郡小須戸町大字矢代田619番 地 竹井機器工業株式会社内 Fターム(参考) 3D037 FA09 4C038 PP03 PP05 PR01 PS07  ──────────────────────────────────────────────────続 き Continuing on the front page (72) Inventor Yuichi Yamanoue 1-10-11 Kinuta, Setagaya-ku, Tokyo Japan Broadcasting Corporation Research Institute (72) Inventor Masato Okui 1-110 Kinuta, Setagaya-ku, Tokyo No. Japan Broadcasting Corporation Broadcasting Research Institute (72) Inventor Kenichiro Takei 619 Yashiroda, Kosudo-cho, Nakagabara-gun, Niigata Prefecture F-term in Takei Kiki Kogyo Co., Ltd.

Claims (6)

【特許請求の範囲】[Claims] 【請求項1】 観察者の目に赤外線を照射し、その反射
光量の変化を捕えて検出信号を出力する瞬きセンサ部
と、この瞬きセンサ部からの検出信号に基づき瞬きを検
出する瞬き検出部とを備えた瞬き検出装置において、前
記瞬き検出部は、反射光量の変化が増加している場合、
そのときの反射光量の値と反射光量の最小値とを比較し
た値が、予め決められた反射光量差以上であれば、瞬き
していると検出して反射光量の最大値を更新する一方
で、反射光量の変化が減少している場合、そのときの反
射光量の値と反射光量の最大値とを比較した値が、予め
決められた反射光量差以上であれば、瞬きしていないと
検出して反射光量の最小値を更新するものであることを
特徴とする瞬き検出装置。
1. A blink sensor unit that irradiates an infrared ray to an observer's eye, captures a change in the amount of reflected light, and outputs a detection signal, and a blink detection unit that detects a blink based on the detection signal from the blink sensor unit. In the blink detection device provided with, the blink detection unit, when the change in reflected light amount is increasing,
If the value obtained by comparing the value of the reflected light amount and the minimum value of the reflected light amount at that time is equal to or greater than a predetermined reflected light amount difference, it is detected that the subject is blinking, and the maximum value of the reflected light amount is updated. If the change in the amount of reflected light is decreasing, if the value obtained by comparing the value of the amount of reflected light at that time with the maximum value of the amount of reflected light is greater than or equal to a predetermined difference in the amount of reflected light, it is detected that no blinking has occurred. And updating the minimum value of the amount of reflected light.
【請求項2】 瞬きしていると検出した後の反射光量の
変化が減少している場合、そのときの反射光量の値と反
射光量の最大値とを比較した値が、前記予め決められた
反射光量差以下であれば無視すると共に、瞬きしていな
いと検出した後の反射光量の変化が増加している場合、
そのときの反射光量の値と反射光量の最小値とを比較し
た値が、前記予め決められた反射光量差以下であれば無
視するように前記瞬き検出部を構成したことを特徴とす
る請求項1記載の瞬き検出装置。
2. When the change in the amount of reflected light after detecting blinking is decreasing, a value obtained by comparing the value of the amount of reflected light at that time with the maximum value of the amount of reflected light is determined in advance. If the difference in reflected light amount is less than the difference in reflected light amount, it is ignored, and if the change in reflected light amount after detecting that it is not blinking is increasing,
The blink detection unit is configured to ignore a value obtained by comparing a value of the reflected light amount and a minimum value of the reflected light amount at that time if the difference is equal to or less than the predetermined reflected light amount difference. The blink detection device according to 1.
【請求項3】 前記瞬き検出部は、複数波形分前の瞬き
時における反射光量の変化から反射光量の差の平均値を
算出し、その平均値に対し20〜80%の幅を有する値
で、前記予め決められた反射光量差を更新するものであ
ることを特徴とする請求項1記載の瞬き検出装置。
3. The blink detection unit calculates an average value of a difference in reflected light amount from a change in reflected light amount at the time of blinking a plurality of waveforms earlier, and calculates a value having a range of 20 to 80% of the average value. 2. The blink detection device according to claim 1, wherein the predetermined reflected light amount difference is updated.
【請求項4】 前記瞬きセンサ部をメガネフレームに装
着したことを特徴とする請求項1〜3のいずれか一つに
記載の瞬き検出装置。
4. The blink detection device according to claim 1, wherein the blink sensor unit is mounted on an eyeglass frame.
【請求項5】 前記瞬きセンサ部を単眼用または両眼用
ヘッドマウントディスプレイに装着したことを特徴とす
る請求項1〜3のいずれか一つに記載の瞬き検出装置。
5. The blink detection device according to claim 1, wherein the blink sensor unit is mounted on a monocular or binocular head mounted display.
【請求項6】 前記瞬きセンサ部または前記瞬き検出部
からの出力を無線で伝送するように構成したことを特徴
とする請求項4または5記載の瞬き検出装置
6. The blink detection device according to claim 4, wherein an output from the blink sensor unit or the blink detection unit is wirelessly transmitted.
JP2001163324A 2001-05-30 2001-05-30 Blink detector Pending JP2002355238A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001163324A JP2002355238A (en) 2001-05-30 2001-05-30 Blink detector

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001163324A JP2002355238A (en) 2001-05-30 2001-05-30 Blink detector

Publications (1)

Publication Number Publication Date
JP2002355238A true JP2002355238A (en) 2002-12-10

Family

ID=19006320

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001163324A Pending JP2002355238A (en) 2001-05-30 2001-05-30 Blink detector

Country Status (1)

Country Link
JP (1) JP2002355238A (en)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005018455A1 (en) * 2003-08-21 2005-03-03 Peter Geoffrey Burton Cognitive processing
JP2013088725A (en) * 2011-10-20 2013-05-13 Olympus Corp Support structure for wearable device
JP2015213634A (en) * 2014-05-12 2015-12-03 学校法人慶應義塾 Blink detection system and method
CN111281403A (en) * 2020-03-09 2020-06-16 西安交通大学 Fine-grained human body fatigue detection method and device based on embedded equipment

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005018455A1 (en) * 2003-08-21 2005-03-03 Peter Geoffrey Burton Cognitive processing
JP2013088725A (en) * 2011-10-20 2013-05-13 Olympus Corp Support structure for wearable device
JP2015213634A (en) * 2014-05-12 2015-12-03 学校法人慶應義塾 Blink detection system and method
CN111281403A (en) * 2020-03-09 2020-06-16 西安交通大学 Fine-grained human body fatigue detection method and device based on embedded equipment
CN111281403B (en) * 2020-03-09 2021-08-13 西安交通大学 Fine-grained human body fatigue detection method and device based on embedded equipment

Similar Documents

Publication Publication Date Title
EP0590231B1 (en) An apparatus for analyzing depth perception
US9668648B2 (en) Spectacles and method for determining the pupil center of both of the wearer&#39;s eyes
US20180232575A1 (en) Method for displaying gaze point data based on an eye-tracking unit
CN109820524B (en) Wearable system for acquiring and classifying eye movement characteristics of autism based on FPGA (field programmable Gate array)
CN104090371B (en) A kind of 3D glasses and 3D display systems
KR20190141684A (en) SYSTEM FOR ASSESSING A HEALTH CONDITION OF A USER
JP2018032198A (en) Sight line detection device, sight line detection method and computer program
EP2448465B1 (en) Characterization of a perception of blur
KR20110035585A (en) Game apparatus for interacting according to user&#39;s status determined by eye image and method for providing game
CN109875583B (en) Fatigue driving detection system and method based on AR technology
US11281893B2 (en) Method and device for modifying the affective visual information in the field of vision of an user
JP2002355238A (en) Blink detector
US10345899B2 (en) Method for adapting the sensorial output mode of a sensorial output device to a user
WO2017077601A1 (en) Information processing method, information processing device, program, and eyewear
US10188291B2 (en) Device for screening convergence insufficiency and related methods
KR20140077694A (en) Adhd/ads diagnosis apparatus using eeg and method thereof
Ueno et al. Relation between human alertness, velocity wave profile of saccade, and performance of visual activities
JP6885444B2 (en) Line-of-sight detector, line-of-sight detection method, and computer program
KR20210072350A (en) Rendering method based on eye movement state from electrooculography measurement
Chung Development of a wearable eye tracker
KR102511785B1 (en) Smart glasses for preventing drowsiness and enhancing concentration
US20230106227A1 (en) A method and assembly for determining a representation which indicates the activity of a locus coeruleus system of a user
AU2021343859A1 (en) A device and a computer-implemented method for determining a behavior of a target user
Takada et al. Effect of LCDs displaying blurred images on the postural control system