WO2015170663A1 - 眼球検出装置及び眼鏡型電子機器 - Google Patents
眼球検出装置及び眼鏡型電子機器 Download PDFInfo
- Publication number
- WO2015170663A1 WO2015170663A1 PCT/JP2015/062997 JP2015062997W WO2015170663A1 WO 2015170663 A1 WO2015170663 A1 WO 2015170663A1 JP 2015062997 W JP2015062997 W JP 2015062997W WO 2015170663 A1 WO2015170663 A1 WO 2015170663A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- eyeball
- temperature
- user
- detection device
- eyeglass
- Prior art date
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/01—Measuring temperature of body parts ; Diagnostic temperature sensing, e.g. for malignant or inflamed tissue
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0346—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a 3D space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/038—Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
Definitions
- the present invention relates to an eyeball detection device and a spectacle-type electronic device that detect the state of a user's eyeball.
- an eyeball state such as a blink of a person and using the detection result for various processes.
- an apparatus for detecting such blinks for example, in Patent Document 1, infrared rays are applied to an eyelid or eyeball from an infrared sensor provided in glasses (near the nose bridge), and the eyelid or eyeball is based on the reflected light.
- a sensing device is disclosed that detects the movement of the camera to determine the state of wakefulness.
- Patent Document 1 since the apparatus of Patent Document 1 described above irradiates the eyelid or eyeball with infrared rays from the infrared sensor, there is a problem that detection is not possible if the irradiation position or distance of the infrared rays is shifted. In addition, there is a problem that erroneous detection may occur due to the influence of ambient light. Furthermore, there is a demand for acquiring not only blinking but also a lot of information about the state of the eyeball.
- the present invention has been made in view of such circumstances, and an object of the present invention is to provide an eyeball detection device and a spectacle-type electronic device that can stably and accurately detect the eyeball state of a user.
- an eyeball detection device is an eyeball detection device that is attached to a spectacles-type frame and detects a user's eyeball state.
- a temperature camera that detects temperature distribution in a predetermined region including the eyeball of the user and generates temperature data; and a determination unit that determines the state of the eyeball of the user based on the temperature data from the temperature camera.
- the state of the eyeball is determined based on thermal image data generated by imaging a predetermined area including the eyeball with the temperature camera. Therefore, compared to conventional devices that irradiate the eyelids or eyeballs with infrared rays from the infrared sensor, it is possible to effectively avoid misdetection due to the deviation of the distance from the eyeballs and the influence of ambient light, and stable high accuracy. Detection is possible. Further, according to this configuration, since the thermal image data of the eyeball is obtained using the temperature camera, it is possible to obtain a lot of information about the state of the eyeball as well as the presence or absence of blinking. Therefore, various processes can be performed based on the information.
- the temperature camera of the eyeball detection device of the present invention is fixed to the rim of the eyeglass-type frame or the rim of the temple.
- a temperature camera can be arrange
- the discrimination means of the eyeball detection device of the present invention is configured to determine whether the temperature data includes the eyeball feature value based on an eyeball feature value defined in advance based on the temperature of white and black eyes of the eyeball. Judge whether or not. That is, the inventor has found that the temperature of the white eye is relatively high and the temperature of the black eye is relatively low, and using this, the state of the eyeball is imaged with a temperature camera to generate image data, and based on this
- the present invention has been conceived to detect the state of the eyeball. According to this configuration, it is possible to appropriately specify the feature amount of the eyeball based on the temperatures of the black and white eyes.
- the determination means of the eyeball detection device of the present invention specifies the direction of the user's line of sight based on the temperatures of the white and black eyes of the eyeball.
- the eyeball detection apparatus of the present invention further includes a communication unit that wirelessly transmits at least one of the temperature data and the determination result of the determination unit.
- a communication unit that wirelessly transmits at least one of the temperature data and the determination result of the determination unit.
- the determination means of the eyeball detection device of the present invention is fixed to a temple of the spectacles frame that is hung on the user's ear.
- the eyeglass-type electronic device of the present invention includes the above-described eyeball detection device of the present invention.
- an eyeball detection device and a spectacle-type electronic device that can stably detect a user's eyeball state with high accuracy.
- FIG. 1 is an external view of eyeglasses according to an embodiment of the present invention.
- FIG. 2 is a diagram for explaining the components of the temperature camera and the signal processing system used in the glasses shown in FIG.
- FIG. 3 is a diagram for explaining processing in which the processing unit extracts a feature amount from thermal image data.
- FIG. 4 is a flowchart for explaining the processing of the processing unit shown in FIG.
- FIG. 1 is an external view of eyeglasses 1 according to an embodiment of the present invention.
- FIG. 2 is a diagram for explaining the components of the temperature camera and the signal processing system used in the glasses 1 shown in FIG.
- the eyeglasses 1 include temples 11 and 13 that are put on the user's ears, rims 31 and 33 to which the lenses 21 and 23 are fixed, and a bridge 35 that is interposed between the rims 31 and 33.
- nose pads 41, 43 The tips of the rims 31 and 33 are called modern 37 and 39.
- hinges 45 and 47 are provided between the temples 11 and 13 and the rims 31 and 33.
- the temples 11 and 13, the rims 31 and 33, the bridge 35 interposed between the rims 31 and 33, the nose pads 41 and 43, the modern 37 and 39, and the hinges 45 and 47 are examples of the eyeglass frame of the present invention. is there.
- the temperature camera 59 is an example of the temperature camera of the present invention.
- the temperature camera 59 is fixed to the hinge 45 side of the rim 31 in a posture capable of imaging a predetermined imaging range including the eyeball of the user (user) of the glasses 1.
- a box 53 is fixed to the modern 37 side of the temple 11.
- a signal line and a power line are provided between the temperature camera 59 and the box 53.
- the temperature camera 59 generates thermal image data S59 in the predetermined imaging range and outputs it to the processing unit 61.
- the temperature camera 59 detects infrared rays emitted in a non-contact manner even in a relatively low temperature region, and measures the surface temperature of the object.
- an infrared thermography or the like is used as the temperature camera 59. Infrared thermography detects infrared radiation energy emitted from an object, converts it into an apparent temperature, and generates thermal image data indicating the temperature distribution of the imaging region.
- the temperature camera 59 is a MEMS (Micro Electro Mechanical Systems) type non-contact temperature sensor, and has a size of, for example, 1 cm ⁇ 1 cm ⁇ 1 cm.
- the case where one temperature of the user is captured by the temperature camera 59 is illustrated, but both eyes may be captured by two temperature cameras, and the determination may be performed by the processing unit 61 based on these thermal image data. .
- FIG. 3 is a diagram for explaining the process of extracting the feature amount of the eyeball from the thermal image data S59 in the processing unit 61.
- FIG. 4 is a flowchart for explaining the processing of the processing unit 61 shown in FIG.
- the processing unit 61 inputs thermal image data S59 from the temperature camera 59 (step ST1). And the process part 61 performs the eyeball area
- the processing unit 61 specifies, for example, the entire thermal image data S59 while comparing, for example, the contour 71 of the eyeball region shown in FIG. At this time, the contour feature amount is defined based on information such as the temperature of the white eye 75 of the eyeball being higher than the first threshold temperature and the temperature of the black eye 73 being lower than the second threshold temperature.
- the inventor has found that the temperature of the white eye 75 is relatively high and the temperature of the black eye 73 is relatively low, and using this, the state of the eyeball is imaged with a temperature camera to generate image data.
- the present invention for detecting the state of the eyeball based on the present invention has been devised.
- the processing unit 61 performs a feature quantity extraction process (step ST3) for extracting the feature quantity of the eyeball from the eyeball area detected by the eyeball area detection process.
- the processing unit 61 determines the white and black eyes based on the first threshold temperature and the second threshold temperature described above. The feature amount is extracted while comparing the specified information with the feature amount of the eyeball held in advance.
- the processing unit 61 performs determination processing for performing determination based on the feature amount extracted by the eyeball feature amount extraction processing (step ST4).
- the processing unit 61 determines the presence / absence of blink, the number of blinks, the line of sight, and the like based on the extracted feature amount.
- the processing unit 61 executes a predetermined process associated with the determination result in advance (step ST5). Further, the processing unit 61 may authenticate the user based on the extracted feature amount of the eyeball, and may make it possible to use various predetermined functions only when the user determines that it is valid. .
- the processing unit 61 detects and determines the state of the wearer's eyeball in real time.
- a battery (not shown) is mounted on the box 51.
- the temperature camera 59 and the processing unit 61 operate by supplying power from the battery.
- the box 51 may be equipped with a communication module that can communicate with the portable communication device.
- the processing unit 61 may transmit the thermal image data S59 to the portable communication device via the communication module in the box 51, and may perform blink detection processing, wakefulness determination processing, and alarm output processing in the portable communication device. .
- the temperature camera 59 is driven, and thermal image data S59 corresponding to the imaging result of the imaging range of the temperature camera 59 is generated.
- the thermal image data S59 is output from the temperature camera 59 to the processing unit 61 via a signal line.
- step ST2 the sphere area detection process (step ST2), the feature amount extraction process (step ST3), the determination process (step ST4), and the process associated with the determination result (step ST5) described with reference to FIG. ) In order.
- the feature amount of the eyeball is determined based on the thermal image data S59 generated by imaging the predetermined imaging range including the eyeball with the temperature camera 59. Therefore, compared to conventional devices that irradiate the eyelids or eyeballs with infrared rays from the infrared sensor, it is possible to effectively avoid misdetection due to the deviation of the distance from the eyeballs and the influence of ambient light, and stable high accuracy. Detection is possible.
- the thermal image data S59 of the eyeball is obtained using the temperature camera 59, it is possible to obtain a lot of information about not only the presence / absence of blinking but also the state of the eyeball. Therefore, various processes can be performed based on the information. For example, according to the glasses 1, it is possible to detect the position and movement of the black eye of the eyeball and specify the user's line of sight.
- the body temperature of the user can be measured in real time based on the thermal image data S59 from the temperature camera 59, and processing related to the user's health management can be performed.
- processing related to the user's health management can be performed.
- the glasses 1 when measuring a user's body temperature, it is not necessary to provide the electrode which contacts a user's skin, and it is excellent in design property.
- the processing unit 61 since the processing unit 61 is accommodated in the box 53, the design is excellent. Moreover, according to the glasses 1, by transmitting each signal (data) to an external device such as a portable communication device via the communication module in the box 51, a high function using the high processing capacity and memory capacity of the external device. Can be realized.
- the temperature camera 59 has exemplified the case where the imaging range is fixed, but a mechanism that can move the imaging range may be provided.
- the present invention is applied to the glasses 1 including the lenses 21 and 23 is illustrated, but the present invention may be applied to eyewear or the like without a lens.
- the present invention is applicable to an eyeball detection device and a spectacle-type electronic device.
Landscapes
- Health & Medical Sciences (AREA)
- Life Sciences & Earth Sciences (AREA)
- Engineering & Computer Science (AREA)
- Heart & Thoracic Surgery (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Ophthalmology & Optometry (AREA)
- Biomedical Technology (AREA)
- Human Computer Interaction (AREA)
- Medical Informatics (AREA)
- Physics & Mathematics (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Eye Examination Apparatus (AREA)
- Eyeglasses (AREA)
Abstract
【課題】 使用者の眼球状態を安定して高精度に検出できる眼球検出装置及び眼鏡型電子機器を提供する。 【解決手段】 使用者が眼鏡1を装着して電源がオンになると、温度カメラ59が駆動され、温度カメラ59の撮像範囲の撮像結果に応じた熱画像データS59が生成される。 そして、処理部61において、熱画像データS59を基に、球領域検出処理(ステップST2)、特徴量抽出処理(ステップST3)、判定処理(ステップST4)及び判定結果に対応付けられた処理(ステップST5)が順に行われる。
Description
本発明は、使用者の眼球の状態を検出する眼球検出装置及び眼鏡型電子機器に関するものである。
人の瞬き等の眼球状態を検出し、その検出結果を様々な処理に用いたいという要請がある。
このような瞬きを検出する装置として、例えば、特許文献1には、眼鏡(の鼻ブリッジ近傍)に設けられた赤外線センサから瞼や眼球に赤外線を照射し、その反射光を基に瞼や眼球の動きを検出して、覚醒状態を判別する感知装置が開示されている。
このような瞬きを検出する装置として、例えば、特許文献1には、眼鏡(の鼻ブリッジ近傍)に設けられた赤外線センサから瞼や眼球に赤外線を照射し、その反射光を基に瞼や眼球の動きを検出して、覚醒状態を判別する感知装置が開示されている。
しかしながら、上述した特許文献1の装置では、赤外線センサから瞼や眼球に赤外線を照射するため、赤外線の照射位置や距離がずれると、検出できないという問題がある。また、周囲光の影響によって誤検出が生じることがあるという問題がある。
さらに、瞬きだけでなく、眼球の状態についての多くの情報を取得したいという要請もある。
さらに、瞬きだけでなく、眼球の状態についての多くの情報を取得したいという要請もある。
本発明はかかる事情に鑑みてなされたものであり、その目的は、使用者の眼球状態を安定して高精度に検出できる眼球検出装置及び眼鏡型電子機器を提供することを目的とする。
上述した従来技術の課題を解決し上述した目的を達成するために、本発明の眼球検出装置は、眼鏡型フレームに取り付けられ、使用者の眼球状態を検出する眼球検出装置であって、前記使用者の眼球を含む所定の領域の温度分布を検出して温度データを生成する温度カメラと、前記温度カメラからの前記温度データを基に、前記使用者の眼球の状態を判別する判別手段とを有する。
この構成によれば、温度カメラで眼球を含む所定の領域を撮像して生成した熱画像データを基に、眼球の状態を判別する。そのため、赤外線センサから瞼や眼球に赤外線を照射する従来の装置に比べて、眼球との距離のずれや、周囲光の影響によって誤検出が生じることを効果的に回避でき、安定した高精度な検出が可能になる。
また、この構成によれば、温度カメラを用いて眼球の熱画像データを得るため、瞬きの有無だけでなく、眼球の状態について多くの情報を得ることができる。そのため、当該情報を基に多様な処理を行うことができる。
また、この構成によれば、温度カメラを用いて眼球の熱画像データを得るため、瞬きの有無だけでなく、眼球の状態について多くの情報を得ることができる。そのため、当該情報を基に多様な処理を行うことができる。
好適には、本発明の眼球検出装置の前記温度カメラは、前記眼鏡型フレームのリム、あるいはテンプルのリム側に固定される。
この構成によれば、使用者の眼球を含む所定の領域を適切に撮像できる位置に温度カメラを配置できる。
この構成によれば、使用者の眼球を含む所定の領域を適切に撮像できる位置に温度カメラを配置できる。
好適には、本発明の眼球検出装置の前記判別手段は、前記眼球の白目と黒目との温度を基に予め規定された眼球特徴量を基に、前記温度データに前記眼球特徴量があるか否かを判断する。
すなわち、発明者は、白目の温度は比較的高く、黒目の温度は比較的低いことを見出し、これを利用して眼球の状態を温度カメラで撮像して画像データを生成し、これを基に眼球の状態を検出する本発明に考え出した。
この構成によれば、黒目と白目の温度を基に眼球の特徴量を適切に特定できる。
すなわち、発明者は、白目の温度は比較的高く、黒目の温度は比較的低いことを見出し、これを利用して眼球の状態を温度カメラで撮像して画像データを生成し、これを基に眼球の状態を検出する本発明に考え出した。
この構成によれば、黒目と白目の温度を基に眼球の特徴量を適切に特定できる。
好適には、本発明の眼球検出装置の前記判定手段は、前記眼球の白目と黒目との温度を基に、前記使用者の視線の方向を特定する。
好適には、本発明の眼球検出装置は、前記温度データ及び前記判定手段の判定結果の少なくとも一つを無線送信する通信手段をさらに有する。
この構成によれば、通信手段を介して携帯型通信装置等の外部装置に各信号(データ)送信することで、外部装置の高い処理能力及びメモリ容量を用いた高機能な処理を実現できる。
この構成によれば、通信手段を介して携帯型通信装置等の外部装置に各信号(データ)送信することで、外部装置の高い処理能力及びメモリ容量を用いた高機能な処理を実現できる。
好適には、本発明の眼球検出装置の前記判定手段は、前記眼鏡型フレームの前記使用者の耳に掛けられるテンプルに固定される。
本発明の眼鏡型電子機器は、上述した本発明の眼球検出装置を備えている。
本発明によれば、使用者の眼球状態を安定して高精度に検出できる眼球検出装置及び眼鏡型電子機器を提供することができる。
図1は、本発明の実施形態に係る眼鏡1の外観図である。図2は、図1に示す眼鏡1に用いられる温度カメラ及び信号処理系の構成要素を説明するための図である。
図1に示すように、眼鏡1は、使用者に耳に掛けられるテンプル11,13と、レンズ21,23が固定されるリム31,33と、リム31,33の間に介在するブリッジ35と、鼻パッド41,43とを有する。リム31,33の先端はモダン37,39と呼ばれる。また、テンプル11,13とリム31,33との間には丁番45,47が設けられている。
図1に示すように、眼鏡1は、使用者に耳に掛けられるテンプル11,13と、レンズ21,23が固定されるリム31,33と、リム31,33の間に介在するブリッジ35と、鼻パッド41,43とを有する。リム31,33の先端はモダン37,39と呼ばれる。また、テンプル11,13とリム31,33との間には丁番45,47が設けられている。
テンプル11,13、リム31,33、リム31,33の間に介在するブリッジ35、鼻パッド41,43、モダン37,39及び丁番45,47とが、本発明の眼鏡型フレームの一例である。また、温度カメラ59が本発明の温度カメラの一例である。
温度カメラ59は、リム31の丁番45側に、眼鏡1の使用者(ユーザ)の眼球を含む所定の撮像範囲を撮像可能な姿勢で固定されている。
テンプル11のモダン37側にはボックス53が固定されている。また、温度カメラ59とボックス53との間には信号線及び電源線(図示せず)が設けられている。
テンプル11のモダン37側にはボックス53が固定されている。また、温度カメラ59とボックス53との間には信号線及び電源線(図示せず)が設けられている。
温度カメラ59は、上記所定の撮像範囲の熱画像データS59を生成し、これを処理部61に出力する。
温度カメラ59は、例えば、比較的低温領域でも放出される赤外線を非接触で検出し、物体の表面温度を測定する。温度カメラ59としては、例えば、赤外線サーモグラフィ等が用いられる。赤外線サーモグラフィは、対象物から出ている赤外線放射エネルギーを検出し、見かけの温度に変換して、撮像領域の温度分布を示す熱画像データを生成する。温度カメラ59は、MEMS(Micro Electro Mechanical Systems)型の非接触温度センサであり、例えば1cm×1cm×1cmのサイズである。
温度カメラ59は、例えば、比較的低温領域でも放出される赤外線を非接触で検出し、物体の表面温度を測定する。温度カメラ59としては、例えば、赤外線サーモグラフィ等が用いられる。赤外線サーモグラフィは、対象物から出ている赤外線放射エネルギーを検出し、見かけの温度に変換して、撮像領域の温度分布を示す熱画像データを生成する。温度カメラ59は、MEMS(Micro Electro Mechanical Systems)型の非接触温度センサであり、例えば1cm×1cm×1cmのサイズである。
本実施形態では、使用者の片目を温度カメラ59で撮像する場合を例示するが、2つの温度カメラで両目を撮像し、これらの熱画像データを基に処理部61で判定を行ってもよい。
検出回路53内には、処理部61が設けられている。
図3は、処理部61において熱画像データS59から眼球の特徴量を抽出する処理を説明するための図である。図4は、図2に示す処理部61の処理を説明するためのフローチャートである。
図3は、処理部61において熱画像データS59から眼球の特徴量を抽出する処理を説明するための図である。図4は、図2に示す処理部61の処理を説明するためのフローチャートである。
処理部61は、温度カメラ59から熱画像データS59を入力する(ステップST1)。
そして、処理部61は、当該入力した熱画像データS59を基に眼球領域を検出する眼球領域検出処理を行う(ステップST2)。処理部61は、例えば、熱画像データS59の全体から、例えば、図3に示す眼球領域の輪郭71を予め保持した輪郭特徴量と比較しながら特定する。このとき、上記輪郭特徴量は、例えば、眼球の白目75の温度は第1のしきい値温度より高く、黒目73の温度は第2のしきい値温度より低い等の情報を基に規定される。すなわち、発明者は、白目75の温度は比較的高く、黒目73の温度は比較的低いことを見出し、これを利用して眼球の状態を温度カメラで撮像して画像データを生成し、これを基に眼球の状態を検出する本発明に考え出した。
そして、処理部61は、当該入力した熱画像データS59を基に眼球領域を検出する眼球領域検出処理を行う(ステップST2)。処理部61は、例えば、熱画像データS59の全体から、例えば、図3に示す眼球領域の輪郭71を予め保持した輪郭特徴量と比較しながら特定する。このとき、上記輪郭特徴量は、例えば、眼球の白目75の温度は第1のしきい値温度より高く、黒目73の温度は第2のしきい値温度より低い等の情報を基に規定される。すなわち、発明者は、白目75の温度は比較的高く、黒目73の温度は比較的低いことを見出し、これを利用して眼球の状態を温度カメラで撮像して画像データを生成し、これを基に眼球の状態を検出する本発明に考え出した。
次に、処理部61は、眼球領域検出処理で検出された眼球領域に対し眼球の特徴量を抽出する特徴量抽出処理(ステップST3)を行う。
このとき、処理部61は、熱画像データS59内の眼球領域内の熱画像データを基に、上述した第1のしきい値温度及び第2のしきい値温度を基に、白目と黒目とを特定し、これら特定した情報と、予め保持した眼球についての特徴量とを比較しながら、特徴量を抽出する。
このとき、処理部61は、熱画像データS59内の眼球領域内の熱画像データを基に、上述した第1のしきい値温度及び第2のしきい値温度を基に、白目と黒目とを特定し、これら特定した情報と、予め保持した眼球についての特徴量とを比較しながら、特徴量を抽出する。
次に、処理部61は、眼球特徴量抽出処理で抽出された特徴量に基づき判定を行う判定処理を行う(ステップST4)。
このとき、処理部61は、上記抽出された特徴量に基づいて瞬きの有無、瞬きの回数、視線等を判定する。
処理部61は、判定結果に予め対応付けられた所定の処理を実行する(ステップST5)。
また、処理部61は、抽出した眼球の特徴量を基に、使用者を認証し、使用者が正当であると判断した場合のみ、予め決められた各種の機能を利用できるようにしてもよい。
処理部61は、着用者の眼球の状態をリアルタイムに検出及び判定する。
このとき、処理部61は、上記抽出された特徴量に基づいて瞬きの有無、瞬きの回数、視線等を判定する。
処理部61は、判定結果に予め対応付けられた所定の処理を実行する(ステップST5)。
また、処理部61は、抽出した眼球の特徴量を基に、使用者を認証し、使用者が正当であると判断した場合のみ、予め決められた各種の機能を利用できるようにしてもよい。
処理部61は、着用者の眼球の状態をリアルタイムに検出及び判定する。
ボックス51には、図示しない電池が搭載されている。温度カメラ59及び処理部61は、当該電池からの給電によって動作する。
また、ボックス51は、携帯型通信装置と通信可能な通信モジュールを搭載していてもよい。
処理部61は、ボックス51内の通信モジュールを介して携帯型通信装置に熱画像データS59送信し、携帯型通信装置において、瞬き検出処理、覚醒状態の判別処理及び警報出力処理を行ってもよい。
また、ボックス51は、携帯型通信装置と通信可能な通信モジュールを搭載していてもよい。
処理部61は、ボックス51内の通信モジュールを介して携帯型通信装置に熱画像データS59送信し、携帯型通信装置において、瞬き検出処理、覚醒状態の判別処理及び警報出力処理を行ってもよい。
以下、眼鏡1の動作例を説明する。
使用者が眼鏡1を装着して電源がオンになると、温度カメラ59が駆動され、温度カメラ59の撮像範囲の撮像結果に応じた熱画像データS59が生成される。
熱画像データS59は、信号線を介して温度カメラ59から処理部61に出力される。
使用者が眼鏡1を装着して電源がオンになると、温度カメラ59が駆動され、温度カメラ59の撮像範囲の撮像結果に応じた熱画像データS59が生成される。
熱画像データS59は、信号線を介して温度カメラ59から処理部61に出力される。
そして、処理部61において、図3を用いて説明した球領域検出処理(ステップST2)、特徴量抽出処理(ステップST3)、判定処理(ステップST4)及び判定結果に対応付けられた処理(ステップST5)が順に行われる。
以上説明したように、眼鏡1によれば、温度カメラ59で眼球を含む上記所定の撮像範囲を撮像して生成した熱画像データS59を基に、眼球の特徴量を判別する。そのため、赤外線センサから瞼や眼球に赤外線を照射する従来の装置に比べて、眼球との距離のずれや、周囲光の影響によって誤検出が生じることを効果的に回避でき、安定した高精度な検出が可能になる。
また、眼鏡1によれば、温度カメラ59を用いて眼球の熱画像データS59を得るため、瞬きの有無だけでなく、眼球の状態について多くの情報を得ることができる。そのため、当該情報を基に多様な処理を行うことができる。例えば、眼鏡1によれば、眼球の黒目の位置や移動を検出し、使用者の視線を特定できる。
また、眼鏡1によれば、温度カメラ59からの熱画像データS59を基に使用者の体温をリアルタイムに測定でき、使用者の健康管理に関する処理も行うことができる。また、眼鏡1によれば、使用者の体温を計測する際に、使用者の肌に接触する電極を設ける必要がなく、デザイン性に優れている。
また、眼鏡1によれば、ボックス53内に処理部61を収容したため、デザイン性に優れている。
また、眼鏡1によれば、ボックス51内の通信モジュールを介して携帯型通信装置等の外部装置に各信号(データ)送信することで、外部装置の高い処理能力及びメモリ容量を用いた高機能な処理を実現できる。
また、眼鏡1によれば、ボックス51内の通信モジュールを介して携帯型通信装置等の外部装置に各信号(データ)送信することで、外部装置の高い処理能力及びメモリ容量を用いた高機能な処理を実現できる。
本発明は上述した実施形態には限定されない。
すなわち、当業者は、本発明の技術的範囲またはその均等の範囲内において、上述した実施形態の構成要素に関し、様々な変更、コンビネーション、サブコンビネーション、並びに代替を行ってもよい。
上述した実施形態では、温度カメラ59は、撮像範囲を固定した場合を例示したが、撮像範囲を移動可能な機構を設けてもよい。
すなわち、当業者は、本発明の技術的範囲またはその均等の範囲内において、上述した実施形態の構成要素に関し、様々な変更、コンビネーション、サブコンビネーション、並びに代替を行ってもよい。
上述した実施形態では、温度カメラ59は、撮像範囲を固定した場合を例示したが、撮像範囲を移動可能な機構を設けてもよい。
また、上述した実施形態では、本発明をレンズ21,23を備えた眼鏡1に適用した場合を例示したが、レンズが無いアイウェア等に適用してもよい。
本発明は、眼球検出装置及び眼鏡型電子機器に適用可能である。
1…眼鏡
11,13…テンプル
21,23…レンズ
31,33リム
35…ブリッジ
41,43…鼻パッド
53…ボックス
59…温度カメラ
61…処理部
71…輪郭
73…黒目
75…白目
11,13…テンプル
21,23…レンズ
31,33リム
35…ブリッジ
41,43…鼻パッド
53…ボックス
59…温度カメラ
61…処理部
71…輪郭
73…黒目
75…白目
Claims (7)
- 眼鏡型フレームに取り付けられ、使用者の眼球状態を検出する眼球検出装置であって、
前記使用者の眼球を含む所定の領域の温度分布を検出して温度データを生成する温度カメラと、
前記温度カメラからの前記温度データを基に、前記使用者の眼球の状態を判別する判別手段と
を有する眼球検出装置。 - 前記温度カメラは、前記眼鏡型フレームのリム、あるいはテンプルのリム側に固定される
請求項1に記載の眼球検出装置。 - 前記判別手段は、前記眼球の白目と黒目との温度を基に予め規定された眼球特徴量を基に、前記温度データに前記眼球特徴量があるか否かを判断する
請求項1または請求項2に記載の眼球検出装置。 - 前記判定手段は、前記眼球の白目と黒目との温度を基に、前記使用者の視線の方向を特定する
請求項1または請求項2に記載の眼球検出装置。 - 前記温度データ及び前記判定手段の判定結果の少なくとも一つを無線送信する通信手段
をさらに有する請求項1~4のいずれかに記載の眼球検出装置。 - 前記判定手段は、前記眼鏡型フレームの前記使用者の耳に掛けられるテンプルに固定される
請求項1~5のいずれかに記載の眼球検出装置。 - 請求項1~6に記載のいずれかの眼球検出装置を備えた眼鏡型電子機器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016517890A JP6340071B2 (ja) | 2014-05-09 | 2015-04-30 | 眼球検出装置及び眼鏡型電子機器 |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014-098186 | 2014-05-09 | ||
JP2014098186 | 2014-05-09 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2015170663A1 true WO2015170663A1 (ja) | 2015-11-12 |
Family
ID=54392515
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2015/062997 WO2015170663A1 (ja) | 2014-05-09 | 2015-04-30 | 眼球検出装置及び眼鏡型電子機器 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6340071B2 (ja) |
WO (1) | WO2015170663A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7128597B1 (ja) | 2021-07-05 | 2022-08-31 | 克弥 西沢 | 熱画像を用いる生体認証装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000512520A (ja) * | 1996-06-13 | 2000-09-26 | エンライトゥンド テクノロジーズ アソシエイツ,インコーポレーテッド | 対話型光フィールド装置 |
JP2005071041A (ja) * | 2003-08-22 | 2005-03-17 | Nissan Motor Co Ltd | 運転者視対象検出装置及び運転者視対象検出システム |
-
2015
- 2015-04-30 JP JP2016517890A patent/JP6340071B2/ja active Active
- 2015-04-30 WO PCT/JP2015/062997 patent/WO2015170663A1/ja active Application Filing
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000512520A (ja) * | 1996-06-13 | 2000-09-26 | エンライトゥンド テクノロジーズ アソシエイツ,インコーポレーテッド | 対話型光フィールド装置 |
JP2005071041A (ja) * | 2003-08-22 | 2005-03-17 | Nissan Motor Co Ltd | 運転者視対象検出装置及び運転者視対象検出システム |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7128597B1 (ja) | 2021-07-05 | 2022-08-31 | 克弥 西沢 | 熱画像を用いる生体認証装置 |
WO2023282274A1 (ja) * | 2021-07-05 | 2023-01-12 | 克弥 西沢 | 熱画像認証装置 |
JP2023008014A (ja) * | 2021-07-05 | 2023-01-19 | 克弥 西沢 | 熱画像を用いる生体認証装置 |
Also Published As
Publication number | Publication date |
---|---|
JP6340071B2 (ja) | 2018-06-06 |
JPWO2015170663A1 (ja) | 2017-04-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6669173B2 (ja) | 眼球観察装置、アイウェア端末、視線検出方法及びプログラム | |
KR102456047B1 (ko) | 아이웨어 장착 가능 안구 추적 디바이스 | |
CN105579884B (zh) | 用于确定人的两个眼睛的瞳孔中间点的方法和眼镜 | |
KR101890542B1 (ko) | 디스플레이 향상을 위한 시스템 및 방법 | |
EP2929413B1 (en) | Eye tracking wearable devices and methods for use | |
KR102160017B1 (ko) | 시력 기반의 가상화면을 이용한 안경 장치 | |
US10806364B2 (en) | Methods and apparatuses for electrooculogram detection, and corresponding portable devices | |
US20180336720A1 (en) | Systems and Methods For Generating and Using Three-Dimensional Images | |
US20160132107A1 (en) | Electronic device, method and storage medium | |
US11029754B2 (en) | Calibration method, portable device, and computer-readable storage medium | |
JP6262371B2 (ja) | 眼球運動検出装置 | |
CN107222636A (zh) | 一种基于智能终端的验光系统及验光方法 | |
JP2014059533A (ja) | 検眼システム、検眼レンズ、検眼フレーム及び検眼方法 | |
JP6340071B2 (ja) | 眼球検出装置及び眼鏡型電子機器 | |
WO2015159851A1 (ja) | 検出ユニット、アイウエア、及び眼電位検出システム | |
TWI830785B (zh) | 眼鏡與程式 | |
CN206865559U (zh) | 一种基于智能终端的验光系统 | |
CN109800618A (zh) | 一种检测是否佩戴美瞳的设备及其方法 | |
JP5919323B2 (ja) | 瞬き検出装置及び眼鏡型電子機器 | |
CN209962038U (zh) | 一种视线追踪眼镜 | |
JP5293589B2 (ja) | 生体監視装置 | |
WO2020141231A1 (en) | Connected device with eye tracking capabilities | |
BR112019019617B1 (pt) | Dispositivo de formação de imagem, método de um dispositivo de formação de imagem, e, mídia de armazenamento não transitório legível por computador | |
KR20150146078A (ko) | 언어학습 및 저시력 보조를 위한 문자인식 기능을 갖는 스마트 안경 및 그 스마트 안경을 이용한 문자 인식방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 15788936 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2016517890 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 15788936 Country of ref document: EP Kind code of ref document: A1 |