JP6056746B2 - 顔画像撮影装置、および運転者状態判定装置 - Google Patents
顔画像撮影装置、および運転者状態判定装置 Download PDFInfo
- Publication number
- JP6056746B2 JP6056746B2 JP2013261880A JP2013261880A JP6056746B2 JP 6056746 B2 JP6056746 B2 JP 6056746B2 JP 2013261880 A JP2013261880 A JP 2013261880A JP 2013261880 A JP2013261880 A JP 2013261880A JP 6056746 B2 JP6056746 B2 JP 6056746B2
- Authority
- JP
- Japan
- Prior art keywords
- driver
- image
- face
- optical system
- face position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000003287 optical effect Effects 0.000 claims description 91
- 238000003384 imaging method Methods 0.000 claims description 80
- 238000012545 processing Methods 0.000 claims description 4
- 230000001815 facial effect Effects 0.000 claims description 2
- 238000000034 method Methods 0.000 description 15
- 238000010606 normalization Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 11
- 230000007423 decrease Effects 0.000 description 9
- 230000008569 process Effects 0.000 description 9
- 238000011156 evaluation Methods 0.000 description 6
- 210000000744 eyelid Anatomy 0.000 description 6
- 230000037007 arousal Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 4
- 208000032140 Sleepiness Diseases 0.000 description 3
- 206010041349 Somnolence Diseases 0.000 description 3
- 230000004075 alteration Effects 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000037321 sleepiness Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 239000007787 solid Substances 0.000 description 2
- 230000007480 spreading Effects 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 235000002673 Dioscorea communis Nutrition 0.000 description 1
- 241000544230 Dioscorea communis Species 0.000 description 1
- 208000035753 Periorbital contusion Diseases 0.000 description 1
- 208000029152 Small face Diseases 0.000 description 1
- 230000004397 blinking Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000007246 mechanism Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B3/00—Focusing arrangements of general interest for cameras, projectors or printers
- G03B3/02—Focusing arrangements of general interest for cameras, projectors or printers moving lens along baseboard
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
- G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/02—Alarms for ensuring the safety of persons
- G08B21/06—Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/69—Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B15/00—Special procedures for taking photographs; Apparatus therefor
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/255—Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/32—Normalisation of the pattern dimensions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Studio Devices (AREA)
- Lens Barrels (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Image Input (AREA)
Description
詳細なメカニズムについては後述するが、運転者の顔面位置が移動する全範囲で鮮明な顔画像が得られているにも拘わらず、運転者状態の検出精度が低下することがある理由は、運転者が運転席を後方に移動させると顔画像が小さく写るので、顔画像を正規化するために拡大すると、画像中のボケも拡大されてしまうためであることが見出された。その一方で、運転者が運転席を前方に移動させると顔画像が大きく写るので、顔画像を正規化するために縮小すると、画像中のボケも縮小されて顔画像が鮮明になることも見出された。従って、前方限界顔面位置に対する錯乱円が、後方限界顔面位置に対する錯乱円よりも大きくなることを許容すれば、結像光学系の焦点位置(最もピントが合う位置)を後方に移動させることができるので、後方限界顔面位置でも、よりボケの少ない顔画像を得ることができる。更に、顔画像を正規化した状態では、後方限界顔面位置(RP)に対する錯乱円の大きさと、前方限界顔面位置(FP)に対する錯乱円の大きさとが等しくなるようにしておけば、正規化した顔画像(すなわち、解析する顔画像)に含まれるボケを抑制することができるので、運転者が運転席を移動させても、解析する顔画像に含まれるボケを抑制することが可能となり、その結果、運転者状態を精度良く判定することが可能となる。
一般的に固定焦点式の結像光学系では、前方限界顔面位置から後方限界顔面位置までの範囲で、ボケの少ない鮮明な顔画像を得るためには2.8程度のF値を確保する必要があり、F値を2.0以下にすることは設計上困難であった。これに対して、本発明の運転者状態判定装置では、前方限界顔面位置の付近では顔画像のボケを許容するので、F値を2.0以下に設定することができ、その結果、少ない光量でも明るい顔画像を撮影することが可能となる。
A.装置構成 :
図1には、本実施例の運転者状態判定装置10を搭載した車両1が示されている。運転者状態判定装置10は、運転者の前方に搭載された撮影ユニット100と、撮影ユニット100に接続された制御装置200とを備えている。撮影ユニット100は、運転者から見てステアリングハンドル2の向こう側のインスツルメントパネル3の手前側に搭載されており、運転者の顔画像を撮影することが可能である。尚、図1中では、運転者に斜線を付して表示している。
また、運転者が座る運転席4のシート位置は前後に調整可能となっており、これに伴って、運転者の顔面位置も前後に移動する。図1中では、運転席4を前方(車両1の進行方向)に向かって限界まで移動させた時の運転者の頭部が太い一点鎖線で表示されている。また、運転席4を後方の限界まで移動させた時の運転者の頭部が太い破線で表示されている。そして、図1中に細い一点鎖線で示したように、撮影ユニット100の視野角は、運転席4を前後に移動させた場合でも運転者の顔面を撮影可能な角度に設定されている。
車載カメラ110は、運転者の顔画像を画像データに変換する画像センサー112と、画像センサー112の撮像面に顔画像を結像させる結像光学系114とを備えている。本実施例では、画像センサー112としてCMOS画像センサーが用いられている。また、結像光学系114は、複数のレンズや絞りなどが一体に組み合わされて構成されている。尚、本実施例の車載カメラ110は、本発明における「顔画像撮影装置」に対応する。
尚、図2では、制御装置200を構成するCPUや、プログラム、電気回路などの中で、投光部120を駆動する機能を実現している部分を、便宜的に「投光駆動部201」と表示している。同様に、画像センサー112を用いて画像データを取得する機能を実現している部分を、便宜的に「画像取得部202」と表示し、画像データを解析して運転者状態を判定する機能を実現している部分を、便宜的に「運転者状態判定部203」と表示している。
結像光学系114は、複数枚のレンズや、光学系の絞り114fなどが一体に組み立てられた構造となっており、結像光学系114の外周側面に形成されたネジで本体ケース111に螺設されることによって取り付けられている。このため、結像光学系114全体を回転させることによって、結像光学系114と画像センサー112との距離を微調整することが可能であり、いわゆるピント合わせを行うことができる。
尚、図3に例示した結像光学系114は3枚のレンズと絞り114fとを備えているが、レンズの枚数や、絞り114fの枚数、レンズと絞り114fとの位置関係などは異なるものとすることができる。
図4(a)に示されるように、画像センサー112の撮像面から距離aの位置に、結像光学系114を置いたとする。すると、画像センサー112の撮像面上には、結像光学系114から距離Aの位置にある物体の像が結像する。この時の距離Aは、図4(b)中の等式を満たすことが知られている。従って、結像光学系114の位置を画像センサー112に対して近付けたり、遠ざけたりすることによって、その時の距離aに応じて定まる距離Aの位置(一点)にピントを合わせることができる。
尚、この場合は、距離Aの位置が最もピントが合う位置であり、従って、結像光学系114の「焦点位置」に対応する。
しかし、本実施例の車載カメラ110はいわゆる固定焦点式のカメラであり、結像光学系114の等価な焦点距離fや、画像センサー112と結像光学系114との距離aは固定されている。このため、運転席4の移動に伴って運転者の顔面の位置が前後に移動しても、ピントの合う距離A(結像光学系114の焦点位置)を変更することができない。
そこで一般的に、固定焦点式の車載カメラ110では、結像光学系114の絞り114fを小さく(F値を大きく)し、且つ、画像センサー112と結像光学系114との距離aを適切に設定することによって(従って、結像光学系114の焦点位置を適切な位置に設定することによって)、運転者の顔面位置が前後に移動しても、実用上は十分に鮮明な顔画像が得られるようにしている。
そこで、様々な運転者についての顔面位置の実測結果が蓄積されて、その結果を元にして現在では国際規格(例えば、ISO4513)がまとめられている。この規格では、運転席4の位置に対する顔面位置の確率分布を算出できるようになっており、運転席4の位置を決めると、ある確率(例えば90%以上の確率)で運転者の顔面が存在する領域を決定することができる。
運転席4を後方に移動させた場合も同様に、運転席4が後方の限界位置にある時に、要求確率以上の割合で運転者の顔面が存在するような領域を、国際規格に基づいて決定することができる。そして、得られた領域の最も後方の位置を、後方限界顔面位置RPとして決定する。
尚、以上では、国際規格に基づいて、前方限界顔面位置FPおよび後方限界顔面位置RPを決定するものとして説明したが、運転席4の移動に伴って顔面位置が移動する範囲を決定することができるのであれば、必ずしも国際規格である必要はない。例えば、国毎に定められた規格や、車両1のメーカー毎に定められた規格などに基づいて、前方限界顔面位置FPおよび後方限界顔面位置RPを決定しても良い。
そこで、固定焦点式の車載カメラ110では、ピントが合っている位置(一点)の前後に、実用上はピントが合っていると考えて良い領域を考えることにする。すなわち、完全にピントが合っているわけではない(従って、得られる像は少しだけボケている)が、ボケが軽微で実用上の問題とならず、ピントが合っていると取り扱うことが可能な領域を考える。尚、以下では、「実用上はピントが合っていると取り扱える領域」のことを「合焦領域(あるいは合焦範囲)」と称するものとする。
そこで、許容できる錯乱円(許容錯乱円)の直径δcを定めておけば、点光源を後方に移動させることが可能な限界の移動量を決定することができる。後方被写界深度とは、この限界の移動量を指す。そして、この後方被写界深度Lrは、図5(b)中に示した(1)式によって算出可能なことが知られている。ここで、(1)式中の「δc」は許容錯乱円の直径であり、「f」は結像光学系114の等価な焦点距離、「A」は結像光学系114から焦点位置までの距離、「FNo」は結像光学系114のF値を表している。(1)式に示されるように、F値を大きくするほど(光学系の絞りを小さくするほど)、後方被写界深度Lrは大きくなる。
上述したように、F値が大きくなるほど、後方被写界深度Lrおよび前方被写界深度Lfが大きくなるので、合焦範囲は大きくなる。その一方で、F値が大きくなるほど(図3に示した絞り114fの開口面積が小さくなるほど)、画像センサー112の撮像面に届く光量が少なくなって、明るい顔画像が得にくくなるので、運転者の顔面に投光する光量を大きくする必要が生じる。その意味からは、F値はできるだけ小さな値とすることが望ましい。
従来の固定焦点式の車載カメラ110では、以上のような考え方に基づいて適切な合焦範囲が得られるように、結像光学系114のF値、および画像センサー112と結像光学系114との距離aが設定されている。
尚、図5(b)中の(1)式と図5(c)中の(2)式とを比較すれば明らかなように、後方被写界深度Lrは前方被写界深度Lfよりも、必ず大きくなる。従って、従来の固定焦点式の車載カメラ110では、図5(a)に示されるように、結像光学系114の焦点位置が、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置よりも必ず手前側(結像光学系114に近い側)に存在している。
また、光学系には必ず収差が存在する。従って、丸い円板を撮影した場合でも円形の像が得られるとは限らず、錯乱円の直径が計測できるとは限らない。そこで実際には、得られた像の面積を測って、その面積となるような等価な錯乱円の直径を算出することができる。
このような顔画像に対して、所定の処理を施すことによって運転者状態(運転者の覚醒度や、漫然度、眠気度など)を判定する。上述したように、運転者の顔面位置に依らず常に鮮明な顔画像が得られるのであるから、従来は当然ながら、常に精度良く運転者状態を判定できるものと考えられていた。しかし、実際には判定精度が低下する場合が存在する。以下では、この理由について説明する準備として、顔画像から運転者状態を判定する処理の概要を説明し、その後、判定精度が低下することがある理由について説明する。
図7には、運転者状態判定処理のフローチャートが示されている。この処理は、運転者状態判定装置10の制御装置200によって実行される。
運転者状態判定処理では、先ず始めに運転者の顔を含む画像を撮影する(S100)。すなわち、投光部120を駆動して運転者の顔面に光を照射すると共に、画像センサー112の撮像面上に結像された画像を取得する。前述したように投光部120は、可視光の長波長側から赤外光までの光を放射する。投光部120を駆動する動作は、投光駆動部201を用いて行われる。また、画像センサー112の露光時間や露光タイミングを制御したり、画像センサー112から画像データを読み出したりする動作は、画像取得部202を用いて行われる。
続いて、開眼度や瞼挙動に基づいて、運転者状態(覚醒度や漫然度など)を判定する(S104)。運転者状態の判定に関しても、既に知られている様々な方法を適用することができる。制御装置200は、こうして得られた判定結果に基づいて、運転者に対する警告などを行う。
図中で左側に示した正規化前の顔画像に着目して、前方限界顔面位置FP、標準顔面位置SP、後方限界顔面位置RPの3つの場合を比較すると、結像光学系114の焦点位置に最も近い標準顔面位置SPの顔画像が最も鮮明な画像となる。もっとも、前方限界顔面位置FPおよび後方限界顔面位置RPの顔画像についても、(標準顔面位置SPの顔画像に比べれば少しボケているものの)十分に鮮明な画像となっている。これは、図5を用いて前述したように、前方限界顔面位置FPあるいは後方限界顔面位置RPにおいても、錯乱円の直径が許容錯乱円の直径δc以下に抑えられているためである。
また、前方限界顔面位置FPの顔画像については、正規化で顔画像が縮小される。従って、車載カメラ110で撮影した顔画像がボケていても、正規化の段階でボケは小さくなっていると考えてよい。
このような知見から、本実施例の車載カメラ110では、従来の固定焦点式の車載カメラとは全く異なる考え方に基づいて、結像光学系114の合焦範囲(F値および焦点位置)を設定することとした。
図9には、本実施例の結像光学系114で採用された合焦範囲を設定する際の基本的な考え方が示されている。図9(a)に示すように、本実施例の車載カメラ110では、合焦範囲が、運転者の顔面位置が移動する範囲(前方限界顔面位置FPから後方限界顔面位置RPまでの範囲)と比べて、車載カメラ110から遠ざかる方向(後方)にずれた位置に設定されている。
また、図9(b)には、従来の考え方に基づいて設定した合焦範囲が、参考として示されている。尚、図9(a)に示した本実施例の焦点位置と、図9(b)に示した従来例の焦点位置とは異なっているので、図5(b)中の(1)式および図5(c)中の(2)式を用いて算出される合焦範囲の大きさは、厳密には一致しない。しかし、何れの場合についても、合焦範囲は、点光源の作る錯乱円の直径が許容錯乱円の直径δc以下に収まる範囲となっている。
これに対して、図9(a)に示した本実施例の考え方に基づく合焦範囲は、前方限界顔面位置FP付近の範囲を包含していない。すなわち、本実施例では、例えば前方限界顔面位置FPのように、運転者が運転席4を前方に移動させた場合には、鮮明な顔画像を得ることができない範囲に合焦範囲が設定されている。
これに対して、本実施例の考え方では、合焦範囲は、前方限界顔面位置FPから後方限界顔面位置RPの範囲よりも後方(結像光学系114から遠い側)に設定される。このため、結像光学系114の焦点位置は、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置、あるいは中間位置よりも後方に存在することも起こり得る。すなわち、このような位置(前方限界顔面位置FPと後方限界顔面位置RPとの中間位置、あるいは中間位置よりも後方)に焦点位置が存在していれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
しかし、このような場合でも、前方限界顔面位置FPおよび後方限界顔面位置RPでの錯乱円の大きさに着目すれば、何れの考え方に基づいて合焦範囲が設定されたかを識別することができる。
従来の考え方で合焦範囲を設定した場合は、図10(b)に示したように、合焦範囲の後端(焦点位置から後方に向かって後方被写界深度Lrに相当する距離の位置)と後方限界顔面位置RPとがほぼ同じ位置となるので、後方限界顔面位置RPでの錯乱円の直径は、許容錯乱円の直径δcとほぼ等しくなる。
これに対して、本実施例の考え方で合焦範囲を設定した場合は、図10(a)に示したように、後方限界顔面位置RPが、図10(b)の場合よりも結像光学系114の焦点位置に近い位置にくる。このため、後方限界顔面位置RPでの錯乱円の直径δrは、許容錯乱円の直径δcよりも小さくなる。
このことから、後方限界顔面位置RPでの錯乱円の直径δrが、許容錯乱円の直径δcよりも小さいのであれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
図11(b)に示したように、従来の考え方で合焦範囲を設定した場合は、前方限界顔面位置FPでの錯乱円の直径は、許容錯乱円の直径δcとほぼ等しくなる。
これに対して、本実施例の考え方で合焦範囲を設定した場合は、図11(a)に示したように、前方限界顔面位置FPが合焦範囲の外側にくる。このため、前方限界顔面位置FPでの錯乱円の直径δfは、許容錯乱円の直径δcよりも大きくなる。
このことから、前方限界顔面位置FPでの錯乱円の直径δfが、許容錯乱円の直径δcよりも大きいのであれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
しかし、後方限界顔面位置RPでの錯乱円の直径δrと、前方限界顔面位置FPでの錯乱円の直径δfとを比較すれば、その合焦範囲が本実施例の考え方に基づいて設定されているか否かを、より明確に判断することができる。すなわち、従来の考え方に基づいて合焦範囲を設定した場合は、後方限界顔面位置RPでの錯乱円の直径も、前方限界顔面位置FPでの錯乱円の直径も、許容錯乱円の直径δcとほぼ等しく、従って、両者はほぼ等しくなる(図10(b)および図11(b)参照)。
このことから、後方限界顔面位置RPでの錯乱円の直径δrと、前方限界顔面位置FPでの錯乱円の直径δfとを比較して、両者の大きさに明確な違いがあれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
図示されるように正規化前の段階では、前方限界顔面位置FPの顔画像はボケてしまっている。これは、本実施例の考え方に基づいて合焦範囲を設定すると、前方限界顔面位置FPでの錯乱円の直径δfが、許容錯乱円の直径δcよりも大きくなってしまうことに対応する(図11(a)参照)。しかし、前方限界顔面位置FPの顔画像については、正規化時にボケが縮小されるので、正規化後の段階では、標準顔面位置SPでの顔画像と同程度に鮮明な画像となっている。
また、後方限界顔面位置RPの顔画像については、正規化時にボケが拡大される。しかし、本実施例の考え方に基づいて合焦範囲を設定すると、従来の考え方に基づいて合焦範囲を設定するよりも、後方限界顔面位置RPでの顔画像は鮮明な画像となる。これは、本実施例の考え方に基づいて合焦範囲を設定した場合、後方限界顔面位置RPでの錯乱円の直径δrが、許容錯乱円の直径δcよりも小さくなることに対応する(図10(a)参照)。このため、正規化後であっても、図12(c)に示されるように、標準顔面位置SPでの顔画像と同程度に鮮明な画像を得ることができる。
また、前方限界顔面位置FPでの顔画像については、正規化時にボケを縮小することができるので、車載カメラ110で撮影する顔画像についてはボケていても構わない。このため、従来よりも合焦範囲を狭くすることができるので、結像光学系114のF値を従来よりも小さな値に設定することができる。本実施例の結像光学系114では、F値が「2.0」よりも小さな値(例えば、F値1.8)に設定されている。その結果、車載カメラ110では、従来よりも明るい顔画像を撮影することができるので、車載カメラ110の投光部120に、従来よりも光量の小さな光源を採用することが可能となる。
加えて、投光部120からの光は距離の2乗に反比例して弱くなるので、後方限界顔面位置RPでの画像は、標準顔面位置SPや前方限界顔面位置FPでの画像よりも暗く(輝度が低く)なる。このため、得られた画像の輝度を強調する必要が生じ、この時に画像中にノイズが含まれているとノイズも強調されてしまう可能性がある。しかし、本実施例の結像光学系114では、焦点位置が後方限界顔面位置RPよりの位置に設定されているので、集光効率が高くなって明るい顔画像を得ることができ、しかもピントが合っている分だけノイズの少ない顔画像を得ることができる。その結果、運転者状態を安定して精度良く判定することが可能となる。
しかし、合焦範囲が本実施例の考え方に基づいて設定されたものであるか否かは、光学系の評価に用いられるMTF(Modulation Transfer Function )に着目しても判断することが可能である。
これに対して空間周波数は、一定距離内で画像のコントラストが増減する回数を表しており、MTFは、ある空間周波数の入力(この場合は画像)に対して出力(この場合は光学系によって得られる結像)のコントラストがどの程度まで保存されているかを表している。例えば1mmの幅に10本の細い黒線が引かれた被写体の像を結像させた時に、コントラストが十分に保存されていれば、それら細い黒線を識別できる。しかし、コントラストが大きく減少すると、ちょうどボケた画像のようになって細い黒線を識別することが困難となる。従って、MTFを用いれば、ボケの程度を客観的に評価することができる。
先ず始めに、図の見方について説明する。上述したようにMTFは、ある空間周波数(例えば1mm幅の中に引かれた黒線の本数)の画像に対して、どの程度にコントラストが保存された像が得られるか(換言すれば、黒線が識別可能な像が得られるか)を表している。当然ながら、黒線を識別可能な程度は、撮影対象となる画像が置かれた位置までの距離によって変化する。このことと対応して、図13(a)および図13(b)のそれぞれでは、前方限界顔面位置FP、標準顔面位置SP、後方限界顔面位置RPの3つの位置についてのMTFの評価結果が示されている。
尚、空間周波数0本/mmは黒いベタ画像のような画像を意味している。このような画像については、どれだけ像がボケても元の画像と同じように黒いベタ画像が得られるので、MTFは、コントラストが完全に保存されていることを示す値「1.0」となる。また、空間周波数(1mm幅の中に引かれた黒線の本数)が増加すると、黒線の識別が次第に困難となっていくことに対応してMTFも低下する。
図13(a)および図13(b)の3つの位置(例えば前方限界顔面位置FP)でのグラフ中に複数本のMTFが示されているのは、光軸に対して複数の位置でMTFを評価しているためである。また、グラフ中に実線で示したMTFは、黒線の向きが半径方向を向いた撮影対象についてのMTFを表しており、グラフ中に破線で示したMTFは、黒線の向きが円周方向を向いた撮影対象についてのMTFを表している。
このことから、前方限界顔面位置FPでのMTFの方が、後方限界顔面位置RPでのMTFよりも小さい場合には、本実施例の考え方に基づいて合焦範囲が設定されていると考えることができる。
複数のMTFが得られている場合でも、それらの代表MTFを用いれば、図14に示すような関係が得られる。図14中に示した実線は、本実施例の考え方で合焦範囲が設定された場合に得られる代表MTFであり、図14中に示した破線は、従来の考え方で合焦範囲が設定された場合に得られる代表MTFである。従って、このような代表MTFを用いて比較すれば、結像光学系114の合焦範囲が、本実施例の考え方を用いて設定されているか否かを正確に判断することが可能となる。
10…運転者状態判定装置、 100…撮影ユニット、 110…車載カメラ、
112…画像センサー、 114…結像光学系、 114f…絞り、
120…投光部、 200…制御装置、 201…投光駆動部、
202…画像取得部、 203…運転者状態判定部。
Claims (2)
- 運転者の前方から該運転者の顔画像を撮影する顔画像撮影装置(110)と、前記運転者の顔画像を解析することによって、運転に影響を与える運転者状態を判定する運転者状態判定部(203)とを備え、前記運転者が運転席(4)の位置を前後方向に調整可能な車両(1)に搭載された運転者状態判定装置(10)であって、
前記運転者状態判定部は、前記運転席の位置が後方の限界に調整された状態で撮影された前記顔画像については前記顔画像を画像処理によって拡大し、前記運転席の位置が前方の限界に調整された状態で撮影された前記顔画像については前記顔画像を画像処理によって縮小することにより、前記顔画像の大きさを正規化した後、正規化した前記顔画像を解析することによって前記運転者状態を判定しており、
前記顔画像撮影装置は、
前記顔画像の画像データを生成する画像センサー(112)と、
前記画像センサー上に前記顔画像を結像させると共に、焦点位置が固定された結像光学系(114)と
を備え、
前記結像光学系の焦点位置は、前記運転席の位置を後方の限界まで移動させた時の前記運転者の顔面の位置である後方限界顔面位置(RP)に対する錯乱円の大きさと、前記運転席の位置を前方の限界まで移動させた時の前記運転者の顔面の位置である前方限界顔面位置(FP)に対する錯乱円の大きさとが、前記顔画像を正規化した状態では等しい大きさとなる位置に固定されている
ことを特徴とする運転者状態判定装置。 - 請求項1に記載の運転者状態判定装置であって、
前記結像光学系は、該結像光学系のF値が2.0以下の値に設定されている
ことを特徴とする運転者状態判定装置。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013261880A JP6056746B2 (ja) | 2013-12-18 | 2013-12-18 | 顔画像撮影装置、および運転者状態判定装置 |
PCT/JP2014/006117 WO2015093004A1 (ja) | 2013-12-18 | 2014-12-08 | 顔画像撮影装置、および運転者状態判定装置 |
CN201480068661.6A CN105829965B (zh) | 2013-12-18 | 2014-12-08 | 脸部图像拍摄装置、以及驾驶员状态判定装置 |
US15/104,915 US10019638B2 (en) | 2013-12-18 | 2014-12-08 | Face image capturing device and driver condition determination device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013261880A JP6056746B2 (ja) | 2013-12-18 | 2013-12-18 | 顔画像撮影装置、および運転者状態判定装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015118287A JP2015118287A (ja) | 2015-06-25 |
JP6056746B2 true JP6056746B2 (ja) | 2017-01-11 |
Family
ID=53402383
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013261880A Active JP6056746B2 (ja) | 2013-12-18 | 2013-12-18 | 顔画像撮影装置、および運転者状態判定装置 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10019638B2 (ja) |
JP (1) | JP6056746B2 (ja) |
CN (1) | CN105829965B (ja) |
WO (1) | WO2015093004A1 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3370410B1 (en) * | 2015-10-26 | 2020-11-25 | Kyocera Corporation | Imaging device |
DE102015225109A1 (de) * | 2015-12-14 | 2017-06-14 | Robert Bosch Gmbh | Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs |
WO2017164835A1 (en) * | 2016-03-21 | 2017-09-28 | Ford Global Technologies, Llc | Virtual vehicle occupant rendering |
CN106249413B (zh) * | 2016-08-16 | 2019-04-23 | 杭州映墨科技有限公司 | 一种模拟人眼对焦的虚拟动态景深变化处理方法 |
CN110140145A (zh) * | 2016-12-27 | 2019-08-16 | 夏普株式会社 | 图像处理装置、图像打印装置、拍摄装置及图像处理程序 |
JP6627787B2 (ja) | 2017-01-17 | 2020-01-08 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
JP6809262B2 (ja) | 2017-02-08 | 2021-01-06 | トヨタ自動車株式会社 | ドライバ状態検出装置 |
JP6737212B2 (ja) * | 2017-03-14 | 2020-08-05 | オムロン株式会社 | 運転者状態推定装置、及び運転者状態推定方法 |
CN112188074B (zh) * | 2019-07-01 | 2022-08-05 | 北京小米移动软件有限公司 | 图像处理方法及装置、电子设备、可读存储介质 |
JP7081844B2 (ja) * | 2020-11-11 | 2022-06-07 | 株式会社コムテック | 検出システム |
US11861916B2 (en) * | 2021-10-05 | 2024-01-02 | Yazaki Corporation | Driver alertness monitoring system |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH06178302A (ja) | 1992-12-02 | 1994-06-24 | Mitsubishi Electric Corp | 運転者撮影装置 |
JPH06222258A (ja) * | 1993-01-23 | 1994-08-12 | Asahi Optical Co Ltd | パッシブ自動焦点カメラ |
JPH08292351A (ja) * | 1995-04-25 | 1996-11-05 | Minolta Co Ltd | レンズバリア付きカメラ |
JP3531503B2 (ja) * | 1998-11-02 | 2004-05-31 | 日産自動車株式会社 | 眼の状態検出装置及び居眠り運転警報装置 |
JP3801075B2 (ja) * | 2002-03-14 | 2006-07-26 | 日産自動車株式会社 | 画像拡大装置 |
JP2005242428A (ja) * | 2004-02-24 | 2005-09-08 | Nissan Motor Co Ltd | 運転者の顔画像撮影装置 |
JP4930315B2 (ja) * | 2007-01-19 | 2012-05-16 | 株式会社デンソー | 車内情報表示装置およびそれに用いられる光照射装置 |
JP5056067B2 (ja) * | 2007-02-26 | 2012-10-24 | 株式会社デンソー | 居眠り警報装置 |
JP2009113621A (ja) | 2007-11-06 | 2009-05-28 | Toyota Motor Corp | 乗員画像撮像装置、運転支援装置 |
JP2009252094A (ja) * | 2008-04-09 | 2009-10-29 | Toyota Motor Corp | 顔画像検出装置 |
JP5270415B2 (ja) * | 2009-03-19 | 2013-08-21 | トヨタ自動車株式会社 | 眠気判定装置及びプログラム |
US8379112B2 (en) | 2009-09-09 | 2013-02-19 | Olympus Imaging Corp. | Waterproof camera and display method |
US8384534B2 (en) * | 2010-01-14 | 2013-02-26 | Toyota Motor Engineering & Manufacturing North America, Inc. | Combining driver and environment sensing for vehicular safety systems |
JP2012039591A (ja) * | 2010-07-15 | 2012-02-23 | Olympus Corp | 撮像装置 |
JP5212927B2 (ja) * | 2011-01-25 | 2013-06-19 | 株式会社デンソー | 顔撮影システム |
-
2013
- 2013-12-18 JP JP2013261880A patent/JP6056746B2/ja active Active
-
2014
- 2014-12-08 CN CN201480068661.6A patent/CN105829965B/zh active Active
- 2014-12-08 WO PCT/JP2014/006117 patent/WO2015093004A1/ja active Application Filing
- 2014-12-08 US US15/104,915 patent/US10019638B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN105829965B (zh) | 2018-10-12 |
CN105829965A (zh) | 2016-08-03 |
US10019638B2 (en) | 2018-07-10 |
JP2015118287A (ja) | 2015-06-25 |
WO2015093004A1 (ja) | 2015-06-25 |
US20160314366A1 (en) | 2016-10-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6056746B2 (ja) | 顔画像撮影装置、および運転者状態判定装置 | |
JP6887960B2 (ja) | 自動焦点トリガのためのシステムおよび方法 | |
JP4928190B2 (ja) | フォーカス制御装置および撮像装置 | |
WO2011105004A1 (ja) | 瞳孔検出装置及び瞳孔検出方法 | |
CN105378534B (zh) | 摄像装置、摄像装置的工作方法 | |
JP6739242B2 (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP2016207030A (ja) | 画像処理装置 | |
CN110199318B (zh) | 驾驶员状态推定装置以及驾驶员状态推定方法 | |
US7519285B2 (en) | Imaging apparatus, imaging method, imaging program, and storage medium | |
SE529763C2 (sv) | Ögonrörelseföljare med ett utökat omfång av arbetsavstånd | |
JP2002296494A (ja) | 結像位置検出プログラムおよびカメラ | |
TWI402552B (zh) | A photographing system, a photographing device including the photographing system, a portable terminal device, a vehicle-mounted device, and a medical device | |
JP2007212724A5 (ja) | ||
JP5881910B2 (ja) | 内視鏡装置 | |
KR20150003191A (ko) | 측정 광학부에 의한 특수적 거리의 필드 깊이를 결정하기 위한 방법 및 장치 | |
JP5124929B2 (ja) | 焦点調節装置およびデジタルカメラ | |
JP6204844B2 (ja) | 車両のステレオカメラシステム | |
TWI588585B (zh) | 影像擷取裝置及對焦方法 | |
JP2014134697A (ja) | 撮像装置 | |
JP7278764B2 (ja) | 撮像装置、電子機器、撮像装置の制御方法およびプログラム | |
JP2011147043A (ja) | 口腔内カメラと、その照明の制御方法 | |
JP6597467B2 (ja) | 顔向き計測装置 | |
WO2011007869A1 (ja) | 焦点調節装置およびカメラ | |
JP5144412B2 (ja) | 車両用物体判定装置 | |
JP2017116723A (ja) | 撮像装置、焦点調整装置および焦点調整プログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20150924 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160426 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160621 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20160802 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20160920 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20161108 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20161121 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6056746 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |