JP6968356B2 - アイコンタクト検出装置 - Google Patents
アイコンタクト検出装置 Download PDFInfo
- Publication number
- JP6968356B2 JP6968356B2 JP2021517728A JP2021517728A JP6968356B2 JP 6968356 B2 JP6968356 B2 JP 6968356B2 JP 2021517728 A JP2021517728 A JP 2021517728A JP 2021517728 A JP2021517728 A JP 2021517728A JP 6968356 B2 JP6968356 B2 JP 6968356B2
- Authority
- JP
- Japan
- Prior art keywords
- light
- eye contact
- user
- eye
- light emitting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/30—Authentication, i.e. establishing the identity or authorisation of security principals
- G06F21/31—User authentication
- G06F21/32—User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
Description
(2)ユーザーは、視野の中から、特定の対象である機械に視野を狭めて、「視線」を合わせる行為を一定時間継続する。これは、機械の特定の対象を「見つめる」行為であり、ユーザーのアイコンタクトを求める意思表示である。つまり、まずユーザーが機械とのインターフェース確立を要求する意思があるが故に、機械を「見つめる」ことになる。例えば、スマートスピーカーの場合を例にすると、ユーザーが「ぼんやり」と機械を視野に入れた、あるいは偶然視野に入った場合は、ユーザーは機械に対しアイコンタクトを要求していない。このような状態において「赤目現象」が機械により(判定のスレシホールドを超えて)検出された場合は、スマートスピーカーは、最初はあまりユーザーの邪魔にならない小さな光の点滅等によりユーザーの「意思」の確認を行うような方法を用いることができる。ユーザーは「意思」があれば続いてスマートスピーカーに話しかけ、「意思」がない場合は小さな光の点滅等を無視する。スマートスピーカーは、光の点滅の一定時間後にユーザーから応答がなければ、「アイコンタクト」のハンドシェークは不成立と判定する。
(5)ユーザーは、(2)の行為を停止する。こうして、アイコンタクトによるマン・マシンインターフェースの「起動」、ハンドシェークが完成される。
(A)本発明において、(1)の状態、つまり、ユーザーの「視野」に機械が入った状態では、アイコンタクトは不成立である。
(B)本発明では、機械にも、ユーザーによって見られるための、眼に相当(象徴)する物、場所(機械全体を含め特定の領域)がある、もしくは設定することが必要である。
(C)本発明では、(2)の状態を機械が検出するために、例えば、機械が発光する光線の色(周波数)、強弱(変調)、場所(複数の発光手段等を含む)等を制御し、「赤目現象」がそれらの制御に呼応同期することを検出し、ユーザーが機械を見ていることを検出する。これにより、ユーザーの「視野」に単に入っただけの状態と分別する。
(D)「ユーザーが機械を見つめる」ということは、ユーザーの眼と機械の間には、障害物もなく直線上にある物理的な位置関係が必要である。
(E)また、光学的な鏡あるいは電子的な転送方法を用いて視線を屈折あるいは転送して「見つめる」ことを検出ことも可能である。
(F)ユーザーが「見つめる」機械の場所が発光手段の場所で、かつ反射光を受光する場所が物理的、光学的、電子的に発光手段の場所と同一、同軸、あるいは赤目現象を検出できる許容範囲において直列・並列である。
(G)発光手段や受光手段、ユーザーの位置関係を、電子的、光学的に調整・補正して赤目現象を検出できる。
(H)発光手段、受光手段等を複数設置したり、回転、移動、発光の変調等をすることにより、ユーザーと機械の物理的位置等の制限を回避したり、相対関係を確立したりできる。
120:人感センサ 130:入力部
140:通信部 150:出力部
160:記憶部 170:制御部
200:発光素子 210:駆動回路
220:受光素子 230:検出回路
240:アイコンタクト判定部 250:回路基板
開口部:発光窓 300:光学フィルター
400:スマートスピーカー 600:航空機の計器盤
Claims (14)
- アイコンタクト検出装置であって、
特定領域から光を発光する発光手段と、
前記発光手段により発光された光の反射光を受光し、受光に応じた電気信号を出力する受光手段と、
前記発光手段からの光に対応する前記電気信号に基づきユーザーのアイコンタクトの有無を判定する判定手段と、
前記判定手段によりアイコンタクトがあると判定されたとき、マン・マシンインターフェースを起動し、かつユーザーにアイコンタクトの成立を知らせる制御手段とを含み、
前記判定手段は、ユーザーの視線方向が前記特定領域に向けられたとき、前記特定領域から発光された光線がユーザーの眼底で反射された赤目現象による反射光(眼球の角膜、虹彩、水晶体を通過し眼球の網膜に到達し、網膜で反射され水晶体、虹彩、角膜を通過し、眼球外に放射された光)に基づきアイコンタクトの有無を判定し、
前記受光手段は、前記発光手段の光軸に関して対称に配置された2つの受光素子を含み、前記判定手段は、ユーザーの視線方向と前記発光手段の光軸との角度差と、前記受光手段による受光量との関係を予め用意しておき、前記判定手段は、前記関係を参照して前記2つの受光素子で受光された電気信号に基づき前記2つの受光素子に対応する2つの視線方向を算出し、2つの視線方向の差分が一定以下であるときアイコンタクトが成立したと判定する、アイコンタクト検出装置。 - 前記判定手段は、ユーザーの視線方向と前記発光手段の光軸との角度差と、前記受光手段による受光量との関係を予め用意しておき、前記判定手段は、前記関係から前記角度差が一定以下となるときの受光量に基づき閾値を設定し、前記閾値と前記電気信号とを比較してアイコンタクトの有無を判定する、請求項1に記載のアイコンタクト検出装置。
- 前記特定領域は、ユーザーがアイコンタクトをしようとするときの開口部であり、当該開口部は、前記発光手段から発せられる光を透過可能であり、前記開口部から照射された光の照射領域内にユーザーの眼球が存在し、かつ照射光の方向とユーザーの視線方向とが一致したとき、前記判定手段によりアイコンタクトが成立されたと判定する、請求項1に記載のアイコンタクト検出装置。
- アイコンタクト検出装置であって、
特定領域から光を発光する発光手段と、
前記発光手段により発光された光の反射光を受光し、受光に応じた電気信号を出力する受光手段と、
前記発光手段からの光に対応する前記電気信号に基づきユーザーのアイコンタクトの有無を判定する判定手段と、
ユーザーの近接を検出する検出手段と、
前記判定手段によりアイコンタクトがあると判定されたとき、マン・マシンインターフェースを起動し、かつユーザーにアイコンタクトの成立を知らせる制御手段とを含み、
前記判定手段は、ユーザーの視線方向が前記特定領域に向けられたとき、前記特定領域から発光された光線がユーザーの眼底で反射された赤目現象による反射光に基づきアイコンタクトの有無を判定し、
前記発光手段は、前記検出手段によりユーザーの近接が検出されたことに応答して一定期間、変調した光を発光し、前記判定手段は、前記変調した光に対応する電子信号に基づきアイコンタクトの有無を判定し、前記判定手段はさらに、前記一定期間内に発光されたパルス数と、前記受光手段で受光された電気信号のパルス数との比が一定以上であるとき、アイコンタクトが成立したと判定する、アイコンタクト検出装置。 - 前記判定手段は、ユーザーの視線方向と前記発光手段の光軸との角度差と、前記受光手段による受光量との関係を予め用意しておき、前記判定手段は、前記関係を参照して前記一定期間内に発光されたn個のパルス数に対応するアナログ電気信号の積分値またはピーク値からn回の視線方向を検出し、n回の視線方向の変動または変化率に基づきアイコンタクトの有無を判定する、請求項4に記載のアイコンタクト検出装置。
- 前記受光手段は、前記発光手段の光軸に関して対称に配置された2つの受光素子を含み、前記判定手段は、ユーザーの視線方向と前記発光手段の光軸との角度差と、前記受光手段による受光量との関係を予め用意しておき、前記判定手段は、前記関係を参照して前記2つの受光素子で受光された電気信号に基づき前記2つの受光素子に対応する2つの視線方向を算出し、2つの視線方向の差分が一定以下であるときアイコンタクトが成立したと判定する、請求項4に記載のアイコンタクト検出装置。
- 前記受光手段は、光軸上に位置するユーザーの赤目現象による反射光、または光学系あるいは電子的撮像系を介して光軸とは異なる方向に位置するユーザーの赤目現象による反射光を受光する、請求項1または4に記載のアイコンタクト検出装置。
- 前記受光手段は、発光を受けたユーザーの赤目現象による反射光の特定の波長帯の光を光学フィルターを介して受光し、
前記判定手段は、前記受光手段で受光された特定の波長帯の光に基づきアイコンタクトの有無を判定する、請求項1ないし7いずれか1つに記載のアイコンタクト検出装置。 - アイコンタクト検出装置はさらに、ユーザーを撮像する撮像手段を含み、
前記判定手段は、前記撮像手段によって撮像されたユーザーの顔または眼球を画像認識し、認識された顔または眼球の座標位置が予め決められたエリア内にあるか否かの判定を、アイコンタクトの有無の判定の要件に加える、請求項1ないし8いずれか1つに記載のアイコンタクト検出装置。 - 前記判定手段は、予め認証すべきユーザーの顔の画像データを用意しておき、前記判定手段はさらに、前記撮像手段により撮像されたユーザーの顔認証ができたか否かの判定を、アイコンタクトの有無の判定の要件に加える、請求項9に記載のアイコンタクト検出装置。
- 前記判定手段は、前記画像データに含まれるユーザーの眼底の毛細血管のパターンまたは虹彩を利用した個人認証の判定を、アイコンタクトの有無の判定の要件に加える、請求項10に記載のアイコンタクト検出装置。
- 前記撮像手段は、ステレオカメラを含み、前記判定手段は、前記ステレオカメラによりユーザーの接近を検出したことに応答して前記発光手段を一定期間発光させる、請求項9に記載のアイコンタクト検出装置。
- 請求項1ないし12いずれか1つに記載のアイコンタクト検出装置と、
前記アイコンタクト検出装置の検出結果に応答してユーザーと対話する機能を備えた電子装置とを含む対話型装置。 - アイコンタクト検出装置と、ディスプレイとを含む表示装置であって、
前記アイコンタクト検出装置は、特定領域から光を発光する発光手段と、前記発光手段により発光された光の反射光を受光し、受光に応じた電気信号を出力する受光手段と、前記発光手段からの光に対応する前記電気信号に基づきユーザーのアイコンタクトの有無を判定する判定手段と、前記判定手段によりアイコンタクトがあると判定されたとき、マン・マシンインターフェースを起動し、かつユーザーにアイコンタクトの成立を知らせる制御手段とを含み、前記判定手段は、ユーザーの視線方向が前記特定領域に向けられたとき、前記特定領域から発光された光線がユーザーの眼底で反射された赤目現象による反射光(眼球の角膜、虹彩、水晶体を通過し眼球の網膜に到達し、網膜で反射され水晶体、虹彩、角膜を通過し、眼球外に放射された光)に基づきアイコンタクトの有無を判定し、
前記ディスプレイの水平方向の左右の特定の位置に前記発光手段と前記受光手段の対が設けられ、前記ディスプレイの垂直方向の上下の特定の位置に前記発光手段と前記受光手段の対が設けられ、
前記判定手段が水平方向または垂直方向のいずれかでアイコンタクトの成立を判定した場合、ユーザーがディスプレイを視認したと判定する、表示装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2019/042595 WO2021084653A1 (ja) | 2019-10-30 | 2019-10-30 | アイコンタクト検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6968356B2 true JP6968356B2 (ja) | 2021-11-17 |
JPWO2021084653A1 JPWO2021084653A1 (ja) | 2021-11-18 |
Family
ID=75714935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021517728A Active JP6968356B2 (ja) | 2019-10-30 | 2019-10-30 | アイコンタクト検出装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11657134B2 (ja) |
EP (1) | EP4053677A4 (ja) |
JP (1) | JP6968356B2 (ja) |
CN (1) | CN114616533A (ja) |
WO (1) | WO2021084653A1 (ja) |
Family Cites Families (28)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4591247A (en) * | 1981-06-03 | 1986-05-27 | Tokyo Kogaku Kikai Kabushiki Kaisha | Eye refractometer |
US5016282A (en) | 1988-07-14 | 1991-05-14 | Atr Communication Systems Research Laboratories | Eye tracking image pickup apparatus for separating noise from feature portions |
JPH0782539B2 (ja) | 1988-07-14 | 1995-09-06 | 株式会社エイ・ティ・アール通信システム研究所 | 瞳孔画像撮影装置 |
JP2522859B2 (ja) * | 1990-12-14 | 1996-08-07 | 日産自動車株式会社 | 眼位置検出装置 |
JP2003177984A (ja) * | 2001-10-04 | 2003-06-27 | Sony Corp | 通信システム、送信装置、並びに受信装置 |
JP2004252849A (ja) * | 2003-02-21 | 2004-09-09 | Seiko Epson Corp | ユーザインタフェース装置および意思伝達方法 |
US7280678B2 (en) | 2003-02-28 | 2007-10-09 | Avago Technologies General Ip Pte Ltd | Apparatus and method for detecting pupils |
EP1615171B1 (en) * | 2003-04-02 | 2016-06-01 | Panasonic Intellectual Property Management Co., Ltd. | Image processing method, image processor, photographing apparatus, image output unit and iris verify unit |
JP2005196530A (ja) | 2004-01-08 | 2005-07-21 | Alpine Electronics Inc | 空間入力装置及び空間入力方法 |
JP4528980B2 (ja) * | 2005-08-23 | 2010-08-25 | 国立大学法人静岡大学 | 瞳孔検出装置及び瞳孔検出方法 |
JP4822331B2 (ja) * | 2006-06-22 | 2011-11-24 | 株式会社トプコン | 眼科装置 |
JP2008094221A (ja) * | 2006-10-11 | 2008-04-24 | Denso Corp | 目状態検出装置および目状態検出装置の取り付け方法 |
IL183385A0 (en) * | 2007-05-24 | 2007-09-20 | Yosef Cohen | Security systems and methods |
WO2011156531A2 (en) * | 2010-06-08 | 2011-12-15 | Reald Inc. | Stereoscopic liquid crystal display systems |
JP5678643B2 (ja) | 2010-12-21 | 2015-03-04 | ソニー株式会社 | 情報処理装置、情報処理方法およびプログラム |
AU2013205535B2 (en) * | 2012-05-02 | 2018-03-15 | Samsung Electronics Co., Ltd. | Apparatus and method of controlling mobile terminal based on analysis of user's face |
WO2015070182A2 (en) * | 2013-11-09 | 2015-05-14 | Firima Inc. | Optical eye tracking |
WO2015131009A1 (en) * | 2014-02-28 | 2015-09-03 | The Johns Hopkins University | Eye alignment monitor and method |
JP6571203B2 (ja) * | 2015-03-31 | 2019-09-04 | 華為技術有限公司Huawei Technologies Co.,Ltd. | モバイル端末のプライバシー保護方法および保護装置、並びにモバイル端末 |
CN205644570U (zh) * | 2015-09-01 | 2016-10-12 | 北京上古视觉科技有限公司 | 一种具有活体检测功能的虹膜识别系统 |
JP6324939B2 (ja) | 2015-11-05 | 2018-05-16 | 株式会社ソニー・インタラクティブエンタテインメント | 情報処理装置およびログイン制御方法 |
CN108369480B (zh) * | 2015-12-25 | 2020-09-11 | 华为技术有限公司 | 一种人机交互方法及电子设备 |
JP6763434B2 (ja) | 2016-10-27 | 2020-09-30 | 日本電気株式会社 | 情報入力装置および情報入力方法 |
JP7274724B2 (ja) * | 2016-12-31 | 2023-05-17 | ルムス エルティーディー. | 導光光学素子を介したレチナールイメージングに基づく目の追跡具 |
JP2019079083A (ja) * | 2017-10-19 | 2019-05-23 | アイシン精機株式会社 | 運転支援装置 |
JP7073116B2 (ja) * | 2018-01-22 | 2022-05-23 | システムインテリジェント株式会社 | オフィス用バーチャルリアリティシステム、及びオフィス用バーチャルリアリティプログラム |
JP7443005B2 (ja) * | 2019-09-18 | 2024-03-05 | キヤノン株式会社 | 画像処理装置、撮像装置および制御方法 |
US11216065B2 (en) * | 2019-09-26 | 2022-01-04 | Lenovo (Singapore) Pte. Ltd. | Input control display based on eye gaze |
-
2019
- 2019-10-30 EP EP19950274.1A patent/EP4053677A4/en active Pending
- 2019-10-30 CN CN201980101875.1A patent/CN114616533A/zh active Pending
- 2019-10-30 WO PCT/JP2019/042595 patent/WO2021084653A1/ja unknown
- 2019-10-30 JP JP2021517728A patent/JP6968356B2/ja active Active
- 2019-10-30 US US17/772,471 patent/US11657134B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20220342970A1 (en) | 2022-10-27 |
EP4053677A1 (en) | 2022-09-07 |
EP4053677A4 (en) | 2023-11-01 |
US11657134B2 (en) | 2023-05-23 |
WO2021084653A1 (ja) | 2021-05-06 |
JPWO2021084653A1 (ja) | 2021-11-18 |
CN114616533A (zh) | 2022-06-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3660575B1 (en) | Eye tracking system and eye tracking method | |
EP3117417B1 (en) | Remote device control via gaze detection | |
CN106056036B (zh) | 使用可见光成像的虹膜获取 | |
US9696801B2 (en) | Eye-controlled user interface to control an electronic device | |
KR101285359B1 (ko) | 동작 추적 장치 및 방법 | |
KR102056221B1 (ko) | 시선인식을 이용한 장치 연결 방법 및 장치 | |
KR20180109109A (ko) | 홍채 기반 인증 방법 및 이를 지원하는 전자 장치 | |
WO2015140106A1 (en) | Computer-implemented gaze interaction method and apparatus | |
US10061384B2 (en) | Information processing apparatus, information processing method, and program | |
JP2000083930A (ja) | アイリスを用いた個人識別装置 | |
KR20230121847A (ko) | 동공 검출 및 시선 추적을 위한 이벤트 카메라 시스템 | |
CN103839054A (zh) | 一种支持虹膜识别的多功能移动智能终端传感器 | |
US11163994B2 (en) | Method and device for determining iris recognition image, terminal apparatus, and storage medium | |
KR101724108B1 (ko) | 손 모양 및 제스처에 의한 기기 제어 방법 및 그에 의한 제어 장치 | |
US20200366372A1 (en) | Optical wireless communication device | |
CN213844155U (zh) | 生物特征采集识别系统和终端设备 | |
JP6968356B2 (ja) | アイコンタクト検出装置 | |
KR101548624B1 (ko) | 홍채의 포커싱이 자동 조절되는 홍채 인식 시스템 및 그 방법 | |
US20140111421A1 (en) | Electrical device, in particular a telecommunication device having a projection unit and method for operating an electrical device | |
JP2006136450A (ja) | 虹彩認証装置 | |
CN113641237A (zh) | 用于电子设备中的特征操作模式控制的方法和系统 | |
CN213844156U (zh) | 生物特征采集识别系统和终端设备 | |
CN213844157U (zh) | 生物特征采集识别系统和终端设备 | |
CN113641238A (zh) | 一种控制方法、装置、终端设备、受控设备及存储介质 | |
KR20160116106A (ko) | 홍채 촬영 전용 카메라를 구비한 이동통신 단말기 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210401 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210401 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20210401 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20210423 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210512 |
|
A601 | Written request for extension of time |
Free format text: JAPANESE INTERMEDIATE CODE: A601 Effective date: 20210709 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210909 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210928 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210928 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211013 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211015 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6968356 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |