JP6601351B2 - 視線計測装置 - Google Patents
視線計測装置 Download PDFInfo
- Publication number
- JP6601351B2 JP6601351B2 JP2016178769A JP2016178769A JP6601351B2 JP 6601351 B2 JP6601351 B2 JP 6601351B2 JP 2016178769 A JP2016178769 A JP 2016178769A JP 2016178769 A JP2016178769 A JP 2016178769A JP 6601351 B2 JP6601351 B2 JP 6601351B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- line
- sight
- face
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000005259 measurement Methods 0.000 title claims description 86
- 238000003384 imaging method Methods 0.000 claims description 23
- 238000000034 method Methods 0.000 claims 1
- 238000001514 detection method Methods 0.000 description 31
- 235000019557 luminance Nutrition 0.000 description 18
- 238000011156 evaluation Methods 0.000 description 10
- 238000012937 correction Methods 0.000 description 7
- 210000000744 eyelid Anatomy 0.000 description 6
- 210000001747 pupil Anatomy 0.000 description 6
- 239000000284 extract Substances 0.000 description 3
- 230000001815 facial effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000013459 approach Methods 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 2
- 210000000554 iris Anatomy 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000000056 organ Anatomy 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/165—Detection; Localisation; Normalisation using facial parts and geometric relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/19—Sensors therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/18—Eye characteristics, e.g. of the iris
- G06V40/193—Preprocessing; Feature extraction
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/71—Circuitry for evaluating the brightness variation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Ophthalmology & Optometry (AREA)
- Geometry (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Eye Examination Apparatus (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Description
)と、
撮像部によって撮像された画像を基に、被撮影者の視線方向を計測する視線計測部(1
40)と、を備える視線計測装置において、
撮像部は、第1の露出レベルで被撮影者の顔全体を示す第1画像(1101)と、第1
の露出レベルよりも高く設定された第2の露出レベルで被撮影者の目の周りを示す第2画
像(1102)とを交互に連続して撮像するようになっており、
視線計測部は、交互に連続して撮像される第1画像および第2画像のうち、任意の画像
および次の画像において、動きを検出するための特徴部に基づいて、被撮影者の動きに伴
う位置ずれを把握すると共に、任意の画像に対して次の画像における位置ずれを補正して
、顔に対する目の向きから視線方向を計測するようになっており、
第1画像の輝度に対する第2画像の輝度が、予め定めた所定の閾値よりも大きいときに、撮像部に対して、第2画像の撮像に際しては、第2の露出レベルの設定を第1の露出レベルの設定に切替えるように制御する切替え制御部(150)を備えることを特徴としている。
第1実施形態における視線計測装置100について図1〜図7を用いて説明する。視線計測装置100は、例えば、車両に搭載されて、運転者(本発明の被撮影者)の顔の画像を撮像して、撮像された顔画像を基に視線方向を計測する装置となっている。車両には、例えば、カーナビゲーション装置、カーオーディオ装置、あるいは/およびカーエアコン装置等の各種機器が搭載されている。視線計測装置100によって、計測された視線方向(視線の先)が、各種機器の種々のスイッチ部のいずれかの位置に一致すると、そのスイッチ部がオンされるようになっている。
露出制御は、露出制御部130によって実行されるようになっている。図2(a)に示すように、露出制御部130は、ステップS100で、まず、露出評価を行う。露出制御部130は、撮像された第1画像1101、および第2画像1102の輝度を算出することで、それぞれの露出レベル(第1、第2露出レベル)の評価を行う。輝度の算出にあたっては、各画像1101、1102における平均輝度、あるいは加重平均輝度を用いることができる。
視線計測制御は、視線計測部140によって実行されるようになっている。まず、視線計測制御の基本について、説明する。図4に示すように、視線計測部140は、ステップS200で、まず、顔検出を行う。視線計測部140(顔検出部141)は、顔画像に対して、一部分を切り出した部分画像から濃淡等の特徴量を抽出し、予め視線・顔計測メモリ146に記憶された学習済みの閾値を用いて顔か否かを判別することで、背景に対する顔の部分(図4(b1))を検出する。
上記基本的な視線計測制御においては、運転者に動きがある場合、第1画像1101と第2画像1102とにおいて、顔の位置と目の位置との間でずれが生じて、顔に対する目の位置、および視線の方向を正確に把握することが困難となり、視線計測の精度が低下してしまう。よって、本実施形態では、図5に示すように、交互に連続して撮像される第1画像1101、および第2画像1102のうち、任意の画像および次の画像におけるそれぞれの動き検出用の特徴部(例えば目の位置)に基づいて、運転者の動きに伴う位置ずれを把握するようにしている。そして、任意の画像に対して次の画像における位置ずれを補正して、顔に対する目の向きから運転者の視線方向を計測するようにしている。
第2実施形態を図8に示す。第2実施形態は、上記第1実施形態と構成同一として、制御内容を変更したものである。図8におけるフローチャートは、図6のフローチャートに対して、第1画像1101と第2画像1102との画像合成(ステップS245)を行って、視線方向を計測するようにしたものである。
第3実施形態を図9に示す。第3実施形態は、上記第1実施形態と構成同一として、運転者の動きの量に応じて、第2画像1102を撮像するときの撮像頻度に対して、第1画像1101を撮像するときの撮像頻度を変更するようにしたものである。撮像頻度の変更は、動作制御部(頻度制御部)150が実行するようになっている。
第4実施形態を図10に示す。第4実施形態は、上記第1実施形態と構成同一として、第1画像1101の輝度に対する第2画像1102の輝度に応じて、第1露出レベルの設定と第2露出レベルの設定との切替えを行うか否かを決定するようにしたものである。露出レベルの切替え決定は、動作制御部(切替え制御部)150が実行するようになっている。
(1)初期起動時、
(2)予め定めた所定の時間毎、
(3)顔検出結果が予め定めた一定時間以上途切れたとき、
(4)明暗切替えOFF状態での目の検出エラーが予め定めた一定時間以上続いた後、等のタイミングで実行することができる。
110 撮像部
140 視線計測部
150 動作制御部(頻度制御部、切替え制御部)
1101 第1画像
1102 第2画像
Claims (5)
- 露出レベルを変更可能として、被撮影者の画像を撮像する撮像部(110)と、
前記撮像部によって撮像された前記画像を基に、前記被撮影者の視線方向を計測する視線計測部(140)と、を備える視線計測装置において、
前記撮像部は、第1の露出レベルで前記被撮影者の顔全体を示す第1画像(1101)と、前記第1の露出レベルよりも高く設定された第2の露出レベルで前記被撮影者の目の周りを示す第2画像(1102)とを交互に連続して撮像するようになっており、
前記視線計測部は、交互に連続して撮像される前記第1画像および前記第2画像のうち、任意の画像および次の画像において、動きを検出するための特徴部に基づいて、前記被撮影者の動きに伴う位置ずれを把握すると共に、前記任意の画像に対して前記次の画像における前記位置ずれを補正して、顔に対する目の向きから前記視線方向を計測するようになっており、
前記第1画像の輝度に対する前記第2画像の輝度が、予め定めた所定の閾値よりも大きいときに、前記撮像部に対して、前記第2画像の撮像に際しては、前記第2の露出レベルの設定を前記第1の露出レベルの設定に切替えるように制御する切替え制御部(150)を備える視線計測装置。 - 前記視線計測部は、前記任意の画像、および前記位置ずれを補正した前記次の画像を合成して、前記視線方向を計測する請求項1に記載の視線計測装置。
- 前記被撮影者の動き量が予め定めた所定の動き量よりも大きいときに、前記撮像部に対して、前記第1画像の撮像頻度を前記第2画像の撮像頻度よりも大きくするよう制御する頻度制御部(150)を備える請求項1または請求項2に記載の視線計測装置。
- 前記視線計測部は、前記第1画像上および前記第2画像上のそれぞれの2軸方向における輝度の積算値から、前記特徴部を把握する請求項1〜請求項3のいずれか1つに記載の視線計測装置。
- 前記視線計測部は、前記第2画像に対して、白飛びの発生している領域をマスクし、前記第2の露出レベルを前記第1の露出レベルに合せるように加工した画像自体を前記特徴部として使用する請求項1〜請求項3のいずれか1つに記載の視線計測装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016178769A JP6601351B2 (ja) | 2016-09-13 | 2016-09-13 | 視線計測装置 |
PCT/JP2017/028666 WO2018051681A1 (ja) | 2016-09-13 | 2017-08-08 | 視線計測装置 |
DE112017004596.7T DE112017004596T5 (de) | 2016-09-13 | 2017-08-08 | Sichtlinienmessvorrichtung |
US16/296,371 US20190204914A1 (en) | 2016-09-13 | 2019-03-08 | Line of sight measurement device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016178769A JP6601351B2 (ja) | 2016-09-13 | 2016-09-13 | 視線計測装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018045386A JP2018045386A (ja) | 2018-03-22 |
JP2018045386A5 JP2018045386A5 (ja) | 2018-08-30 |
JP6601351B2 true JP6601351B2 (ja) | 2019-11-06 |
Family
ID=61618851
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016178769A Expired - Fee Related JP6601351B2 (ja) | 2016-09-13 | 2016-09-13 | 視線計測装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190204914A1 (ja) |
JP (1) | JP6601351B2 (ja) |
DE (1) | DE112017004596T5 (ja) |
WO (1) | WO2018051681A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6773002B2 (ja) * | 2017-10-30 | 2020-10-21 | 株式会社デンソー | 車両用装置及びコンピュータプログラム |
CN108683841B (zh) * | 2018-04-13 | 2021-02-19 | 维沃移动通信有限公司 | 图像处理方法及移动终端 |
JP7192668B2 (ja) * | 2018-07-05 | 2022-12-20 | 株式会社デンソー | 覚醒度判定装置 |
CN108922085B (zh) * | 2018-07-18 | 2020-12-18 | 北京七鑫易维信息技术有限公司 | 一种监护方法、装置、监护设备及存储介质 |
JP2020126371A (ja) * | 2019-02-01 | 2020-08-20 | ミツミ電機株式会社 | 認証装置 |
JP2020145536A (ja) * | 2019-03-05 | 2020-09-10 | 株式会社Jvcケンウッド | 映像処理装置、映像処理方法および映像処理プログラム |
JP2022045567A (ja) * | 2020-09-09 | 2022-03-22 | キヤノン株式会社 | 撮像制御装置、撮像制御方法、及びプログラム |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3355076B2 (ja) * | 1995-09-14 | 2002-12-09 | 三菱電機株式会社 | 顔画像処理装置 |
JP4888838B2 (ja) * | 2008-05-12 | 2012-02-29 | トヨタ自動車株式会社 | 運転者撮像装置および運転者撮像方法 |
JP5713752B2 (ja) * | 2011-03-28 | 2015-05-07 | キヤノン株式会社 | 画像処理装置、及びその制御方法 |
JP2014154982A (ja) * | 2013-02-06 | 2014-08-25 | Canon Inc | 撮像装置およびその制御方法 |
JP6678376B2 (ja) * | 2014-04-11 | 2020-04-08 | ハンファテクウィン株式会社 | 動き検出装置および動き検出方法 |
JP2016178769A (ja) | 2015-03-19 | 2016-10-06 | 綜合警備保障株式会社 | 点検対象特定システム及び点検対象特定方法 |
-
2016
- 2016-09-13 JP JP2016178769A patent/JP6601351B2/ja not_active Expired - Fee Related
-
2017
- 2017-08-08 DE DE112017004596.7T patent/DE112017004596T5/de not_active Withdrawn
- 2017-08-08 WO PCT/JP2017/028666 patent/WO2018051681A1/ja active Application Filing
-
2019
- 2019-03-08 US US16/296,371 patent/US20190204914A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
DE112017004596T5 (de) | 2019-07-11 |
US20190204914A1 (en) | 2019-07-04 |
WO2018051681A1 (ja) | 2018-03-22 |
JP2018045386A (ja) | 2018-03-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6601351B2 (ja) | 視線計測装置 | |
US8538044B2 (en) | Line-of-sight direction determination device and line-of-sight direction determination method | |
JP5974915B2 (ja) | 覚醒度検出装置、および覚醒度検出方法 | |
JP5761074B2 (ja) | 撮像制御装置及びプログラム | |
JP5694161B2 (ja) | 瞳孔検出装置及び瞳孔検出方法 | |
WO2016038784A1 (ja) | ドライバ状態判定装置 | |
WO2010100842A1 (ja) | 撮像装置、運転者監視装置、顔部測距方法およびプログラム | |
JP5466610B2 (ja) | 視線推定装置 | |
JP4793269B2 (ja) | 眠気検知装置 | |
JP2010097379A (ja) | ドライバモニタリング装置およびドライバモニタリング装置用のプログラム | |
JP5018653B2 (ja) | 画像識別装置 | |
WO2013157466A1 (ja) | 喫煙検出装置、方法及びプログラム | |
JP2010244156A (ja) | 画像特徴量検出装置及びこれを用いた視線方向検出装置 | |
JP5825588B2 (ja) | 瞬目計測装置及び瞬目計測方法 | |
JP2008006149A (ja) | 瞳孔検出装置、及び虹彩認証装置、並びに瞳孔検出方法 | |
JP2016051317A (ja) | 視線検出装置 | |
CN112149473A (zh) | 虹膜图像采集方法 | |
JP2019068933A (ja) | 推定装置及び推定方法 | |
JP5004099B2 (ja) | カーソル移動制御方法及びカーソル移動制御装置 | |
CN110235178B (zh) | 驾驶员状态推定装置以及驾驶员状态推定方法 | |
JP5182567B2 (ja) | 乗員監視装置 | |
US20130142416A1 (en) | Detection device and detection method | |
WO2017134918A1 (ja) | 視線検出装置 | |
JP2019028727A (ja) | 視線検知装置 | |
JP2018143285A (ja) | 生体状態判定装置、生体状態判定システム、及び、生体状態判定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180717 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180717 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190910 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190923 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6601351 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |