JP6056746B2 - 顔画像撮影装置、および運転者状態判定装置 - Google Patents

顔画像撮影装置、および運転者状態判定装置 Download PDF

Info

Publication number
JP6056746B2
JP6056746B2 JP2013261880A JP2013261880A JP6056746B2 JP 6056746 B2 JP6056746 B2 JP 6056746B2 JP 2013261880 A JP2013261880 A JP 2013261880A JP 2013261880 A JP2013261880 A JP 2013261880A JP 6056746 B2 JP6056746 B2 JP 6056746B2
Authority
JP
Japan
Prior art keywords
driver
image
face
optical system
face position
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013261880A
Other languages
English (en)
Other versions
JP2015118287A (ja
Inventor
大見 拓寛
拓寛 大見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2013261880A priority Critical patent/JP6056746B2/ja
Priority to PCT/JP2014/006117 priority patent/WO2015093004A1/ja
Priority to CN201480068661.6A priority patent/CN105829965B/zh
Priority to US15/104,915 priority patent/US10019638B2/en
Publication of JP2015118287A publication Critical patent/JP2015118287A/ja
Application granted granted Critical
Publication of JP6056746B2 publication Critical patent/JP6056746B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B3/00Focusing arrangements of general interest for cameras, projectors or printers
    • G03B3/02Focusing arrangements of general interest for cameras, projectors or printers moving lens along baseboard
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/59Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/255Detecting or recognising potential candidate objects based on visual cues, e.g. shapes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/32Normalisation of the pattern dimensions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Business, Economics & Management (AREA)
  • Emergency Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Studio Devices (AREA)
  • Lens Barrels (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Input (AREA)

Description

本発明は、車載カメラを用いて運転者の顔画像を撮影する顔画像撮影装置、および顔画像を解析して運転者状態を判定する運転者状態判定装置に関する。
車載カメラで撮影した運転者の顔画像を解析することによって、運転中の運転者の覚醒度や、漫然度、眠気度などの安全運転に影響を与える運転者の状態(本明細書では、これらを「運転者状態」と呼ぶ)を判定し、必要に応じて警告などを行う運転支援技術が知られている。この運転支援技術は、運転者状態を精度良く判定するためにはできるだけ鮮明な顔画像を撮影することが望ましい。
ここで、一般に車両では、運転者の体格や嗜好に応じてシート位置を前後に調整可能となっており、シート位置を調整すると運転者の顔面の位置も前後に移動する。そこで、顔面の位置が移動しても鮮明な顔画像を撮影可能とするために、運転者が調整したシート位置から顔面の位置を推定して、車載カメラの焦点位置を調整する技術が提案されている(特許文献1)。更には、運転者が運転中に姿勢を変更することも考慮して顔画像を撮影する技術も提案されている(特許文献2)。
一方、焦点位置を調整可能な車載カメラの代わりに、構造が単純な固定焦点式の車載カメラも広く用いられている。固定焦点式の車載カメラは焦点位置を移動させることができないので、運転者の顔面位置が前後に移動しても鮮明な画像が得られるようにするために固定焦点式の車載カメラは光学系の絞りを小さく絞った状態(F値が大きな状態)で用いられる。これは、光学系の絞りを小さく(F値を大きく)するほど被写界深度(ピントの合った画像が得られる被写体位置の範囲)が深くなるので、顔面位置が前後に移動しても鮮明な画像が得られるためである。もっとも、絞りを小さく(F値を大きく)するほど光量の不足を補うために強い光源が必要となる。そこで光学系の絞りは小さくし過ぎないように、従って理想的には、被写界深度と、運転者の顔面位置の移動範囲とが一致するような絞りに設定される。
特開平6−178302号公報 特開2009−113621号公報
しかし、固定焦点式の車載カメラを用いた場合には、光学系の絞りの設定を、運転者の顔面位置が移動する全範囲で鮮明な顔画像が得られるような最適な絞りに設定していたとしても、運転者状態の検出精度が低下することがあるという問題があった。そして、本願の発明者は、この不可解な現象の原因が次のような事情、すなわち、車載カメラから離れた位置にある顔面の顔画像と、車載カメラの近くにある顔面の顔画像とは、たとえ同じように鮮明な画像であっても、運転者状態を検出する用途からすると同様には取り扱えないという事情によるものであることを見出した。
この発明は、本願の発明者が見出した上述した知見に基づいてなされたものであり、固定焦点式の車載カメラを用いた場合でも、運転者状態を精度良く検出することが可能な技術の提供を目的とする。
上述した問題を解決するために本発明の運転者状態判定装置は、運転者の前方から該運転者の顔画像を撮影する顔画像撮影装置と、運転に影響を与える運転者状態を、運転者の顔画像を解析することによって判定する運転者状態判定部とを備えており、運転者が運転席の位置を前後方向に調整可能な車両に搭載されている。ここで、運転者状態判定部は、運転席の位置が後方の限界に調整された状態で撮影された顔画像については、顔画像を画像処理によって拡大し、運転席の位置が前方の限界に調整された状態で撮影された顔画像については、顔画像を画像処理によって縮小することによって、顔画像の大きさを正規化する。そして正規化した顔画像を解析することによって運転者状態を判定する。また、顔画像撮影装置は、画像センサー上に運転者の顔画像を結像させる結像光学系の焦点位置(最もピントが合う位置)を、次のような位置に固定している。すなわち、後方限界顔面位置(RP)に対する錯乱円よりも、前方限界顔面位置(FP)に対する錯乱円の方が大きくなる位置に、より詳しくは、顔画像を正規化した状態では、後方限界顔面位置(RP)に対する錯乱円の大きさと、前方限界顔面位置(FP)に対する錯乱円の大きさとが等しくなる位置に焦点位置を固定する。ここで、後方限界顔面位置とは、運転席の位置を後方の限界まで移動させた時の運転者の顔面の位置である。また、前方限界顔面位置とは、運転席の位置を前方の限界まで移動させた時の運転者の顔面の位置である。これら後方限界顔面位置や前方限界顔面位置は、運転席を移動可能な限界の位置と、運転者の体型についての統計データとに基づいて車両ごとに決定される。
詳細なメカニズムについては後述するが、運転者の顔面位置が移動する全範囲で鮮明な顔画像が得られているにも拘わらず、運転者状態の検出精度が低下することがある理由は、運転者が運転席を後方に移動させると顔画像が小さく写るので、顔画像を正規化するために拡大すると、画像中のボケも拡大されてしまうためであることが見出された。その一方で、運転者が運転席を前方に移動させると顔画像が大きく写るので、顔画像を正規化するために縮小すると、画像中のボケも縮小されて顔画像が鮮明になることも見出された。従って、前方限界顔面位置に対する錯乱円が、後方限界顔面位置に対する錯乱円よりも大きくなることを許容すれば、結像光学系の焦点位置(最もピントが合う位置)を後方に移動させることができるので、後方限界顔面位置でも、よりボケの少ない顔画像を得ることができる。更に、顔画像を正規化した状態では、後方限界顔面位置(RP)に対する錯乱円の大きさと、前方限界顔面位置(FP)に対する錯乱円の大きさとが等しくなるようにしておけば、正規化した顔画像(すなわち、解析する顔画像)に含まれるボケを抑制することができるので、運転者が運転席を移動させても、解析する顔画像に含まれるボケを抑制することが可能となり、その結果、運転者状態を精度良く判定することが可能となる。
また、上述した本発明の運転者状態判定装置においては、結像光学系のF値を2.0以下の値に設定することとしてもよい。ここでF値とは、光学系の性能評価に用いられる周知の指標値であり、F値が小さくなるほど、光量の多い、明るい画像が得られるが、被写体の前後の移動に対して像がボケ易くなることが知られている。
一般的に固定焦点式の結像光学系では、前方限界顔面位置から後方限界顔面位置までの範囲で、ボケの少ない鮮明な顔画像を得るためには2.8程度のF値を確保する必要があり、F値を2.0以下にすることは設計上困難であった。これに対して、本発明の運転者状態判定装置では、前方限界顔面位置の付近では顔画像のボケを許容するので、F値を2.0以下に設定することができ、その結果、少ない光量でも明るい顔画像を撮影することが可能となる。
本実施例の運転者状態判定装置10を搭載した車両1についての説明図である。 本実施例の撮影ユニット100および制御装置200の大まかなブロック図である。 車載カメラ110の大まかな内部構造を示した断面図である。 画像センサー112に対する結像光学系114の位置を微調整することによって、結像光学系114の焦点位置を調整可能な原理についての説明図である。 固定焦点式の車載カメラ110で結像光学系114の合焦範囲を設定するために従来から採用されてきた考え方についての説明図である。 従来の考え方に基づいて合焦範囲が設定された場合に得られる顔画像を例示した説明図である。 顔画像から運転者状態を判定する運転者状態判定処理のフローチャートである。 運転者状態の判定に先立って顔画像を正規化する様子を例示した説明図である。 本実施例の車載カメラ110で結像光学系114の合焦範囲を設定するために採用された考え方についての説明図である。 本実施例の考え方で合焦範囲を設定した場合は、従来の考え方で合焦範囲を設定した場合よりも、後方限界顔面位置での錯乱円が小さくなることを示す説明図である。 本実施例の考え方で合焦範囲を設定した場合は、従来の考え方で合焦範囲を設定した場合よりも、前方限界顔面位置での錯乱円が大きくなることを示す説明図である。 本実施例の考え方に基づいて合焦範囲を設定した場合に得られる顔画像を例示した説明図である。 本実施例の考え方で合焦範囲を設定した場合と、従来の考え方で合焦範囲を設定した場合とで、結像光学系のMTFを比較した結果を例示した説明図である。 本実施例の考え方で合焦範囲を設定した場合と、従来の考え方で合焦範囲を設定した場合とを、代表MTFを用いて比較する方法についての説明図である。
以下では、上述した本願発明の内容を明確にするために実施例について説明する。
A.装置構成 :
図1には、本実施例の運転者状態判定装置10を搭載した車両1が示されている。運転者状態判定装置10は、運転者の前方に搭載された撮影ユニット100と、撮影ユニット100に接続された制御装置200とを備えている。撮影ユニット100は、運転者から見てステアリングハンドル2の向こう側のインスツルメントパネル3の手前側に搭載されており、運転者の顔画像を撮影することが可能である。尚、図1中では、運転者に斜線を付して表示している。
また、運転者が座る運転席4のシート位置は前後に調整可能となっており、これに伴って、運転者の顔面位置も前後に移動する。図1中では、運転席4を前方(車両1の進行方向)に向かって限界まで移動させた時の運転者の頭部が太い一点鎖線で表示されている。また、運転席4を後方の限界まで移動させた時の運転者の頭部が太い破線で表示されている。そして、図1中に細い一点鎖線で示したように、撮影ユニット100の視野角は、運転席4を前後に移動させた場合でも運転者の顔面を撮影可能な角度に設定されている。
図2には、本実施例の撮影ユニット100および制御装置200の大まかなブロック図が示されている。撮影ユニット100は、運転者の顔画像を撮影する車載カメラ110と、運転者の顔面に向けて赤外光を投光する投光部120とを備えている。本実施例では、投光部120として、可視光の長波長側から赤外光までの光を放射する赤外LEDが採用されている。
車載カメラ110は、運転者の顔画像を画像データに変換する画像センサー112と、画像センサー112の撮像面に顔画像を結像させる結像光学系114とを備えている。本実施例では、画像センサー112としてCMOS画像センサーが用いられている。また、結像光学系114は、複数のレンズや絞りなどが一体に組み合わされて構成されている。尚、本実施例の車載カメラ110は、本発明における「顔画像撮影装置」に対応する。
制御装置200は、CPUやメモリー、タイマー、各種の電気回路などを搭載したマイクロコンピューターによって構成されている。周知のようにマイクロコンピューターは実行するプログラムによって様々な機能を実現することが可能であるが、本実施例の200は、投光部120を駆動して運転者の顔面に赤外光を投光する機能と、画像センサー112を駆動して顔画像の画像データを取得する機能と、顔画像の画像データを解析して運転者状態(運転者の覚醒度、漫然度、眠気度など)を判定する機能とを備えている。
尚、図2では、制御装置200を構成するCPUや、プログラム、電気回路などの中で、投光部120を駆動する機能を実現している部分を、便宜的に「投光駆動部201」と表示している。同様に、画像センサー112を用いて画像データを取得する機能を実現している部分を、便宜的に「画像取得部202」と表示し、画像データを解析して運転者状態を判定する機能を実現している部分を、便宜的に「運転者状態判定部203」と表示している。
図3には、車載カメラ110の断面を取ることによって大まかな内部構造が示されている。車載カメラ110の本体ケース111の内部には画像センサー112が収納されており、本体ケース111の前面側には結像光学系114が取り付けられている。
結像光学系114は、複数枚のレンズや、光学系の絞り114fなどが一体に組み立てられた構造となっており、結像光学系114の外周側面に形成されたネジで本体ケース111に螺設されることによって取り付けられている。このため、結像光学系114全体を回転させることによって、結像光学系114と画像センサー112との距離を微調整することが可能であり、いわゆるピント合わせを行うことができる。
尚、図3に例示した結像光学系114は3枚のレンズと絞り114fとを備えているが、レンズの枚数や、絞り114fの枚数、レンズと絞り114fとの位置関係などは異なるものとすることができる。
図4には、画像センサー112に対する結像光学系114の位置を微調整することによってピント合わせする原理が示されている。上述したように、結像光学系114は複数のレンズによって構成されているが、簡易的には1枚の等価なレンズに置き換えて考えることができる。ここでは、この等価なレンズの焦点距離を「f」とする。
図4(a)に示されるように、画像センサー112の撮像面から距離aの位置に、結像光学系114を置いたとする。すると、画像センサー112の撮像面上には、結像光学系114から距離Aの位置にある物体の像が結像する。この時の距離Aは、図4(b)中の等式を満たすことが知られている。従って、結像光学系114の位置を画像センサー112に対して近付けたり、遠ざけたりすることによって、その時の距離aに応じて定まる距離Aの位置(一点)にピントを合わせることができる。
尚、この場合は、距離Aの位置が最もピントが合う位置であり、従って、結像光学系114の「焦点位置」に対応する。
いわゆるズーム機能を備えるカメラでは、距離a、あるいは等価な焦点距離fを変更することによって、ピントの合う距離A(結像光学系の焦点位置)を変更することができる。従って、図1を用いて前述したように、運転席4の位置が前後に移動しても、運転者の顔面の位置にピントを合わせることで、顔面の像を画像センサー112の撮像面上に結像させることができる。
しかし、本実施例の車載カメラ110はいわゆる固定焦点式のカメラであり、結像光学系114の等価な焦点距離fや、画像センサー112と結像光学系114との距離aは固定されている。このため、運転席4の移動に伴って運転者の顔面の位置が前後に移動しても、ピントの合う距離A(結像光学系114の焦点位置)を変更することができない。
そこで一般的に、固定焦点式の車載カメラ110では、結像光学系114の絞り114fを小さく(F値を大きく)し、且つ、画像センサー112と結像光学系114との距離aを適切に設定することによって(従って、結像光学系114の焦点位置を適切な位置に設定することによって)、運転者の顔面位置が前後に移動しても、実用上は十分に鮮明な顔画像が得られるようにしている。
図5には、固定焦点式の車載カメラ110で結像光学系114のF値および焦点位置を設定するために、従来から採用されてきた考え方が示されている。尚、以下では、運転席4を前方の限界位置まで移動させた状態での運転者の顔面位置を「前方限界顔面位置FP」と称し、後方の限界位置まで運転席4移動させた状態での運転者の顔面位置を「後方限界顔面位置RP」と称するものとする。この前方限界顔面位置FPおよび後方限界顔面位置RPは、次のようにして定められる。
先ず、運転席4を移動させることが可能な前方あるいは後方の限界位置は、車両1の設計段階で予め決定されている。もちろん、運転者の顔面位置は、運転席4の位置だけによって決まるわけではなく、運転者の体格や、運転者が好む運転時の姿勢などによっても変化する。
そこで、様々な運転者についての顔面位置の実測結果が蓄積されて、その結果を元にして現在では国際規格(例えば、ISO4513)がまとめられている。この規格では、運転席4の位置に対する顔面位置の確率分布を算出できるようになっており、運転席4の位置を決めると、ある確率(例えば90%以上の確率)で運転者の顔面が存在する領域を決定することができる。
車載カメラ110の設計時には、運転席4を前方あるいは後方に移動させた限界位置と、それぞれの限界位置での要求確率(例えば、95%)とが仕様として与えられる。すると、例えば運転席4を前方に移動させた場合であれば、運転席4が限界位置にある時に、要求確率以上の割合で運転者の顔面が存在するような領域を、国際規格に基づいて決定することができる。従って、このようにして得られた領域の最も前方の位置を、前方限界顔面位置FPとして決定することができる。
運転席4を後方に移動させた場合も同様に、運転席4が後方の限界位置にある時に、要求確率以上の割合で運転者の顔面が存在するような領域を、国際規格に基づいて決定することができる。そして、得られた領域の最も後方の位置を、後方限界顔面位置RPとして決定する。
尚、以上では、国際規格に基づいて、前方限界顔面位置FPおよび後方限界顔面位置RPを決定するものとして説明したが、運転席4の移動に伴って顔面位置が移動する範囲を決定することができるのであれば、必ずしも国際規格である必要はない。例えば、国毎に定められた規格や、車両1のメーカー毎に定められた規格などに基づいて、前方限界顔面位置FPおよび後方限界顔面位置RPを決定しても良い。
当然ながら、固定焦点式の車載カメラ110では運転者の顔面位置の移動に合わせてピントが合う位置(結像光学系114の焦点位置)を調整することはできない。しかし、運転者の顔面位置が前方限界顔面位置FPから後方限界顔面位置RPの範囲内に存在している限りは、鮮明な顔画像が得られるようにしておくことが要請される。
そこで、固定焦点式の車載カメラ110では、ピントが合っている位置(一点)の前後に、実用上はピントが合っていると考えて良い領域を考えることにする。すなわち、完全にピントが合っているわけではない(従って、得られる像は少しだけボケている)が、ボケが軽微で実用上の問題とならず、ピントが合っていると取り扱うことが可能な領域を考える。尚、以下では、「実用上はピントが合っていると取り扱える領域」のことを「合焦領域(あるいは合焦範囲)」と称するものとする。
今、図5(a)に示したように、結像光学系114の焦点位置が前方限界顔面位置FPと後方限界顔面位置RPとの間にあるとすると、その前後には、実用上はピントが合っていると取り扱える合焦範囲が存在する。従って、前方限界顔面位置FPおよび後方限界顔面位置RPが、この合焦範囲に含まれるようにしておけばよい。また、この合焦範囲の大きさは、以下のような「後方被写界深度」および「前方被写界深度」を用いて決定することができる。
先ず始めに、図5(b)を用いて後方被写界深度について説明する。仮に、結像光学系114からの距離Aの位置(結像光学系114の焦点位置)に点光源を置いたとすると、結像光学系114の収差を考えなければ、画像センサー112の撮像面上には点像が結像される筈である。次に、点光源の位置を、結像光学系114から遠ざかる方向(以下、後方)に動かすと、画像センサー112の撮像面上に得られる像は、丸くぼやけて円像となる。この円像は「錯乱円」と呼ばれる。また、点光源の位置を後方に動かす移動量が大きくなるほど、ボケの程度も大きくなり、錯乱円は大きくなっていく。
そこで、許容できる錯乱円(許容錯乱円)の直径δcを定めておけば、点光源を後方に移動させることが可能な限界の移動量を決定することができる。後方被写界深度とは、この限界の移動量を指す。そして、この後方被写界深度Lrは、図5(b)中に示した(1)式によって算出可能なことが知られている。ここで、(1)式中の「δc」は許容錯乱円の直径であり、「f」は結像光学系114の等価な焦点距離、「A」は結像光学系114から焦点位置までの距離、「FNo」は結像光学系114のF値を表している。(1)式に示されるように、F値を大きくするほど(光学系の絞りを小さくするほど)、後方被写界深度Lrは大きくなる。
点光源を、結像光学系114に近付ける方向(以下、前方)に動かした場合にも、ほぼ同様なことが当て嵌まる。すなわち、図5(c)に示したように、点光源を前方に移動させるほど、画像センサー112の撮像面上に得られる像がぼやけて、錯乱円が大きくなっていく。従って、錯乱円の大きさが許容錯乱円に達するような、点光源の移動量(前方被写界深度)を決定することができる。そして、この前方被写界深度Lfは、図5(c)中に示した(2)式によって算出することができる。尚、(2)式中の「δc」、「f」、「A」、「FNo」の表す意味は、(1)式と同様である。(2)式についても(1)式と同様に、F値を大きくするほど(光学系の絞りを小さくするほど)、前方被写界深度Lfは(後方被写界深度Lrに比べれば少しずつではあるが)大きくなる。
以上の説明から明らかなように、結像光学系114の焦点位置から後方に広がる後方被写界深度Lrと、前方に広がる前方被写界深度Lfとを合わせた範囲が、合焦範囲(実用上はピントが合っていると考えて良い範囲)となる。
上述したように、F値が大きくなるほど、後方被写界深度Lrおよび前方被写界深度Lfが大きくなるので、合焦範囲は大きくなる。その一方で、F値が大きくなるほど(図3に示した絞り114fの開口面積が小さくなるほど)、画像センサー112の撮像面に届く光量が少なくなって、明るい顔画像が得にくくなるので、運転者の顔面に投光する光量を大きくする必要が生じる。その意味からは、F値はできるだけ小さな値とすることが望ましい。
以上のような考え方に基づけば、前方限界顔面位置FPから後方限界顔面位置RPの範囲がちょうど合焦範囲となるように、結像光学系114のF値と、画像センサー112に対する結像光学系114の距離aとを設定するのが理想的ということになる。
従来の固定焦点式の車載カメラ110では、以上のような考え方に基づいて適切な合焦範囲が得られるように、結像光学系114のF値、および画像センサー112と結像光学系114との距離aが設定されている。
尚、図5(b)中の(1)式と図5(c)中の(2)式とを比較すれば明らかなように、後方被写界深度Lrは前方被写界深度Lfよりも、必ず大きくなる。従って、従来の固定焦点式の車載カメラ110では、図5(a)に示されるように、結像光学系114の焦点位置が、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置よりも必ず手前側(結像光学系114に近い側)に存在している。
以上の説明では、理解を容易とするために、光源には大きさが無く(点光源であり)、更に、結像光学系114には収差が無いものとして説明した。しかし実際には、光源は必ず大きさや形を有している。そこで実際には、例えば直径1センチメートルの白い小さな円板を明るく照明して、点光源の代わりに用いることができる。
また、光学系には必ず収差が存在する。従って、丸い円板を撮影した場合でも円形の像が得られるとは限らず、錯乱円の直径が計測できるとは限らない。そこで実際には、得られた像の面積を測って、その面積となるような等価な錯乱円の直径を算出することができる。
図6には、以上のような従来の考え方に基づいて固定焦点式の車載カメラ110のF値および距離aを設定した場合に、得られる顔画像が例示されている。標準的な顔面位置(以下、標準顔面位置SPと称する)に運転者の顔面がある場合はもちろんのこと、前方限界顔面位置FPに顔面がある場合も、後方限界顔面位置RPに顔面がある場合も、鮮明な顔画像を撮影することができる。
このような顔画像に対して、所定の処理を施すことによって運転者状態(運転者の覚醒度や、漫然度、眠気度など)を判定する。上述したように、運転者の顔面位置に依らず常に鮮明な顔画像が得られるのであるから、従来は当然ながら、常に精度良く運転者状態を判定できるものと考えられていた。しかし、実際には判定精度が低下する場合が存在する。以下では、この理由について説明する準備として、顔画像から運転者状態を判定する処理の概要を説明し、その後、判定精度が低下することがある理由について説明する。
B.運転者状態判定処理 :
図7には、運転者状態判定処理のフローチャートが示されている。この処理は、運転者状態判定装置10の制御装置200によって実行される。
運転者状態判定処理では、先ず始めに運転者の顔を含む画像を撮影する(S100)。すなわち、投光部120を駆動して運転者の顔面に光を照射すると共に、画像センサー112の撮像面上に結像された画像を取得する。前述したように投光部120は、可視光の長波長側から赤外光までの光を放射する。投光部120を駆動する動作は、投光駆動部201を用いて行われる。また、画像センサー112の露光時間や露光タイミングを制御したり、画像センサー112から画像データを読み出したりする動作は、画像取得部202を用いて行われる。
続いて、制御装置200は、運転者状態判定部203を用いて以下の処理を行う。先ず、車載カメラ110で撮影した画像の中から顔の画像(顔画像)が写った顔領域を検出する(S101)。顔領域は、画像の中から顔の特徴を抽出することによって検出することができる。図6に示したように、前方限界顔面位置FPで撮影した画像からは大きな顔領域が検出され、後方限界顔面位置RPで撮影した画像からは小さな顔領域が検出される。
その後、検出した顔領域の画像を拡大あるいは縮小することによって、顔画像の大きさを揃える「正規化」と呼ばれる処理を行う(S102)。図8には、顔画像を正規化する様子が例示されている。例えば、前方限界顔面位置FPで撮影された顔画像については、コンピューター上で画像を縮小し、後方限界顔面位置RPで撮影された顔画像については、コンピューター上で画像を拡大することによって、標準顔面位置SPで撮影された顔画像とほぼ同じ大きさの顔画像を生成する。
こうして正規化した顔画像から、目の位置や、瞼、黒目の部分などを検出し、開眼度(眼の開き具合)および瞼挙動(瞼の位置や、瞬きの速さや頻度)を検出する(S103)。開眼度や瞼挙動の検出には、既に知られている様々な方法を適用することができる。
続いて、開眼度や瞼挙動に基づいて、運転者状態(覚醒度や漫然度など)を判定する(S104)。運転者状態の判定に関しても、既に知られている様々な方法を適用することができる。制御装置200は、こうして得られた判定結果に基づいて、運転者に対する警告などを行う。
ここで、常に鮮明な顔画像が得られているにも拘わらず、運転者状態の判定精度が低下することがある理由は、顔を含む画像の中から顔が写った部分の画像(顔画像)を正規化する際に(図7のS102)、画像中のボケを拡大させてしまうためであることが判明した。この点について、再び図8を参照して説明する。
図8には、前方限界顔面位置FP、標準顔面位置SP、後方限界顔面位置RPのそれぞれの場合について、車載カメラ110で撮影された顔画像と、正規化後の顔画像とが例示されている。
図中で左側に示した正規化前の顔画像に着目して、前方限界顔面位置FP、標準顔面位置SP、後方限界顔面位置RPの3つの場合を比較すると、結像光学系114の焦点位置に最も近い標準顔面位置SPの顔画像が最も鮮明な画像となる。もっとも、前方限界顔面位置FPおよび後方限界顔面位置RPの顔画像についても、(標準顔面位置SPの顔画像に比べれば少しボケているものの)十分に鮮明な画像となっている。これは、図5を用いて前述したように、前方限界顔面位置FPあるいは後方限界顔面位置RPにおいても、錯乱円の直径が許容錯乱円の直径δc以下に抑えられているためである。
しかし、後方限界顔面位置RPの顔画像については、正規化によって顔画像が拡大されるので、この時にボケも大きくなってしまう(図8(c)参照)。その結果、ボケた顔画像に対して開眼度や瞼挙動を検出することになる(図7のS103参照)。車載カメラ110では鮮明な顔画像が得られているにも拘わらず、運転者状態の判定精度が低下することがあるのは、後方限界顔面位置RPの顔画像の正規化時にボケを拡大させるためと考えられる。
また、前方限界顔面位置FPの顔画像については、正規化で顔画像が縮小される。従って、車載カメラ110で撮影した顔画像がボケていても、正規化の段階でボケは小さくなっていると考えてよい。
このような知見から、本実施例の車載カメラ110では、従来の固定焦点式の車載カメラとは全く異なる考え方に基づいて、結像光学系114の合焦範囲(F値および焦点位置)を設定することとした。
C.本実施例で結像光学系114の合焦範囲を設定する際の考え方 :
図9には、本実施例の結像光学系114で採用された合焦範囲を設定する際の基本的な考え方が示されている。図9(a)に示すように、本実施例の車載カメラ110では、合焦範囲が、運転者の顔面位置が移動する範囲(前方限界顔面位置FPから後方限界顔面位置RPまでの範囲)と比べて、車載カメラ110から遠ざかる方向(後方)にずれた位置に設定されている。
また、図9(b)には、従来の考え方に基づいて設定した合焦範囲が、参考として示されている。尚、図9(a)に示した本実施例の焦点位置と、図9(b)に示した従来例の焦点位置とは異なっているので、図5(b)中の(1)式および図5(c)中の(2)式を用いて算出される合焦範囲の大きさは、厳密には一致しない。しかし、何れの場合についても、合焦範囲は、点光源の作る錯乱円の直径が許容錯乱円の直径δc以下に収まる範囲となっている。
図9(b)に示されるように、従来の考え方に基づく合焦範囲は、前方限界顔面位置FPから後方限界顔面位置RPまでの範囲を包含しているので、運転者の顔面位置に依らず鮮明な顔画像を撮影することができる。
これに対して、図9(a)に示した本実施例の考え方に基づく合焦範囲は、前方限界顔面位置FP付近の範囲を包含していない。すなわち、本実施例では、例えば前方限界顔面位置FPのように、運転者が運転席4を前方に移動させた場合には、鮮明な顔画像を得ることができない範囲に合焦範囲が設定されている。
また、結像光学系114の焦点位置についても、従来の考え方と本実施例の考え方とでは、異なった位置に設定される。すなわち、図5(b)中の(1)式と、図5(c)中の(2)式とを比較すれば明らかなように、前方被写界深度Lfは後方被写界深度Lrよりも必ず小さくなる。このため、結像光学系114の焦点位置は、合焦範囲の中間位置よりも必ず前方(結像光学系114に近い側)に存在する。そして、従来の考え方では、合焦範囲は、前方限界顔面位置FPから後方限界顔面位置RPとほぼ同じ範囲に設定されるので、焦点位置は、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置よりも必ず前方(結像光学系114に近い側)に存在することになる。
これに対して、本実施例の考え方では、合焦範囲は、前方限界顔面位置FPから後方限界顔面位置RPの範囲よりも後方(結像光学系114から遠い側)に設定される。このため、結像光学系114の焦点位置は、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置、あるいは中間位置よりも後方に存在することも起こり得る。すなわち、このような位置(前方限界顔面位置FPと後方限界顔面位置RPとの中間位置、あるいは中間位置よりも後方)に焦点位置が存在していれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
もちろん、本実施例の考え方に基づいて合焦範囲が設定された場合でも、前方限界顔面位置FPと後方限界顔面位置RPとの中間位置よりも前方に、結像光学系114の焦点位置が存在することも起こり得る。このような場合は、焦点位置からでは、どちらの考え方に基づいて合焦範囲が設定されているかを識別することができない。
しかし、このような場合でも、前方限界顔面位置FPおよび後方限界顔面位置RPでの錯乱円の大きさに着目すれば、何れの考え方に基づいて合焦範囲が設定されたかを識別することができる。
図10には、本実施例の考え方で合焦範囲を設定した場合と、従来の考え方で合焦範囲を設定した場合とについて、後方限界顔面位置RPでの錯乱円の大きさを比較した結果が示されている。図10(a)は本実施例の考え方で設定した場合であり、図10(b)が従来の考え方で設定した場合である。
従来の考え方で合焦範囲を設定した場合は、図10(b)に示したように、合焦範囲の後端(焦点位置から後方に向かって後方被写界深度Lrに相当する距離の位置)と後方限界顔面位置RPとがほぼ同じ位置となるので、後方限界顔面位置RPでの錯乱円の直径は、許容錯乱円の直径δcとほぼ等しくなる。
これに対して、本実施例の考え方で合焦範囲を設定した場合は、図10(a)に示したように、後方限界顔面位置RPが、図10(b)の場合よりも結像光学系114の焦点位置に近い位置にくる。このため、後方限界顔面位置RPでの錯乱円の直径δrは、許容錯乱円の直径δcよりも小さくなる。
このことから、後方限界顔面位置RPでの錯乱円の直径δrが、許容錯乱円の直径δcよりも小さいのであれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
図11には、今度は前方限界顔面位置FPでの錯乱円の大きさを、本実施例の考え方で合焦範囲を設定した場合と、従来の考え方で合焦範囲を設定した場合とで比較した結果が示されている。図11(a)は本実施例の考え方で設定した場合であり、図11(b)が従来の考え方で設定した場合である。
図11(b)に示したように、従来の考え方で合焦範囲を設定した場合は、前方限界顔面位置FPでの錯乱円の直径は、許容錯乱円の直径δcとほぼ等しくなる。
これに対して、本実施例の考え方で合焦範囲を設定した場合は、図11(a)に示したように、前方限界顔面位置FPが合焦範囲の外側にくる。このため、前方限界顔面位置FPでの錯乱円の直径δfは、許容錯乱円の直径δcよりも大きくなる。
このことから、前方限界顔面位置FPでの錯乱円の直径δfが、許容錯乱円の直径δcよりも大きいのであれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
以上では、後方限界顔面位置RPでの錯乱円の直径δr、あるいは前方限界顔面位置FPでの錯乱円の直径δfを、許容錯乱円の直径δcと比較することによって、合焦範囲が本実施例の考え方に基づいて設定されているか否かを判断するものとして説明した。
しかし、後方限界顔面位置RPでの錯乱円の直径δrと、前方限界顔面位置FPでの錯乱円の直径δfとを比較すれば、その合焦範囲が本実施例の考え方に基づいて設定されているか否かを、より明確に判断することができる。すなわち、従来の考え方に基づいて合焦範囲を設定した場合は、後方限界顔面位置RPでの錯乱円の直径も、前方限界顔面位置FPでの錯乱円の直径も、許容錯乱円の直径δcとほぼ等しく、従って、両者はほぼ等しくなる(図10(b)および図11(b)参照)。
これに対して本実施例の考え方に基づいて合焦範囲を設定した場合は、後方限界顔面位置RPでの錯乱円の直径δrは許容錯乱円の直径δcよりも小さくなり(図10(a)参照)、前方限界顔面位置FPでの錯乱円の直径δfは許容錯乱円の直径δcよりも大きくなる(図11(a)参照)。このため、前方限界顔面位置FPでの錯乱円の直径δfは、後方限界顔面位置RPでの錯乱円の直径δrよりも明らかに大きくなる。
このことから、後方限界顔面位置RPでの錯乱円の直径δrと、前方限界顔面位置FPでの錯乱円の直径δfとを比較して、両者の大きさに明確な違いがあれば、本実施例の考え方に基づいて合焦範囲が設定されていると考えて良い。
図12には、本実施例の考え方に基づいて合焦範囲を設定した場合に、顔画像を正規化する様子が例示されている。図12(a)は前方限界顔面位置FPの顔画像について、正規化前後の画像を表している。また、図12(b)は標準顔面位置SPの顔画像について、図12(c)は後方限界顔面位置RPの顔画像について、正規化前後の画像を表している。
図示されるように正規化前の段階では、前方限界顔面位置FPの顔画像はボケてしまっている。これは、本実施例の考え方に基づいて合焦範囲を設定すると、前方限界顔面位置FPでの錯乱円の直径δfが、許容錯乱円の直径δcよりも大きくなってしまうことに対応する(図11(a)参照)。しかし、前方限界顔面位置FPの顔画像については、正規化時にボケが縮小されるので、正規化後の段階では、標準顔面位置SPでの顔画像と同程度に鮮明な画像となっている。
また、後方限界顔面位置RPの顔画像については、正規化時にボケが拡大される。しかし、本実施例の考え方に基づいて合焦範囲を設定すると、従来の考え方に基づいて合焦範囲を設定するよりも、後方限界顔面位置RPでの顔画像は鮮明な画像となる。これは、本実施例の考え方に基づいて合焦範囲を設定した場合、後方限界顔面位置RPでの錯乱円の直径δrが、許容錯乱円の直径δcよりも小さくなることに対応する(図10(a)参照)。このため、正規化後であっても、図12(c)に示されるように、標準顔面位置SPでの顔画像と同程度に鮮明な画像を得ることができる。
また、以上のことから明らかなように、前方限界顔面位置FPの正規化時の縮小率をKf、後方限界顔面位置RPの正規化時の拡大率をKrとすると、理想的には合焦範囲を次のように設定しておけばよい。すなわち、前方限界顔面位置FPでの錯乱円の直径δfが許容錯乱円の直径δcのKf倍程度(あるいはそれ以下)となり、且つ、後方限界顔面位置RPでの錯乱円の直径δrが許容錯乱円の直径δcの1/Kr倍程度(あるいはそれ以下)となるように、合焦範囲を設定しておけばよいことが分かる。
以上に説明したように、本実施例の考え方で合焦範囲を設定しておけば、車載カメラ110で撮影した(正規化前の)顔画像はボケることがあっても、正規化後の顔画像については常に鮮明な画像を得ることができる。このため、運転者の顔面位置に依らずに、運転者状態を常に精度良く判定することが可能となる。
また、前方限界顔面位置FPでの顔画像については、正規化時にボケを縮小することができるので、車載カメラ110で撮影する顔画像についてはボケていても構わない。このため、従来よりも合焦範囲を狭くすることができるので、結像光学系114のF値を従来よりも小さな値に設定することができる。本実施例の結像光学系114では、F値が「2.0」よりも小さな値(例えば、F値1.8)に設定されている。その結果、車載カメラ110では、従来よりも明るい顔画像を撮影することができるので、車載カメラ110の投光部120に、従来よりも光量の小さな光源を採用することが可能となる。
加えて、投光部120からの光は距離の2乗に反比例して弱くなるので、後方限界顔面位置RPでの画像は、標準顔面位置SPや前方限界顔面位置FPでの画像よりも暗く(輝度が低く)なる。このため、得られた画像の輝度を強調する必要が生じ、この時に画像中にノイズが含まれているとノイズも強調されてしまう可能性がある。しかし、本実施例の結像光学系114では、焦点位置が後方限界顔面位置RPよりの位置に設定されているので、集光効率が高くなって明るい顔画像を得ることができ、しかもピントが合っている分だけノイズの少ない顔画像を得ることができる。その結果、運転者状態を安定して精度良く判定することが可能となる。
このように、本実施例の考え方で合焦範囲を設定すると、上述した様々な利点を得ることができる。また、本実施例の考え方に従って合焦範囲が設定されているか否かは、結像光学系114の焦点位置と前方限界顔面位置FPおよび後方限界顔面位置RPとの位置関係や、前方限界顔面位置FPおよび後方限界顔面位置RPでの錯乱円の大きさに着目して判断可能である旨を説明した。
しかし、合焦範囲が本実施例の考え方に基づいて設定されたものであるか否かは、光学系の評価に用いられるMTF(Modulation Transfer Function )に着目しても判断することが可能である。
ここで、MTFとは、簡単に言うと、時間軸の周波数について考えられてきた伝達関数(周波数伝達関数)を、長さ軸の周波数(空間周波数)に適用したものと考えることができる。すなわち、時間軸での周波数は、一定時間内に増減を繰り返す回数を表しており、周波数伝達関数は、ある周波数の入力に対して出力の振幅がどの程度増減するかを表している。
これに対して空間周波数は、一定距離内で画像のコントラストが増減する回数を表しており、MTFは、ある空間周波数の入力(この場合は画像)に対して出力(この場合は光学系によって得られる結像)のコントラストがどの程度まで保存されているかを表している。例えば1mmの幅に10本の細い黒線が引かれた被写体の像を結像させた時に、コントラストが十分に保存されていれば、それら細い黒線を識別できる。しかし、コントラストが大きく減少すると、ちょうどボケた画像のようになって細い黒線を識別することが困難となる。従って、MTFを用いれば、ボケの程度を客観的に評価することができる。
図13(a)には、本実施例の考え方で合焦範囲を設定した場合に得られる結像光学系114のMTFの評価結果が例示されている。また、図13(b)には、参考として、従来の考え方で合焦範囲を設定した場合のMTFの評価結果が例示されている。
先ず始めに、図の見方について説明する。上述したようにMTFは、ある空間周波数(例えば1mm幅の中に引かれた黒線の本数)の画像に対して、どの程度にコントラストが保存された像が得られるか(換言すれば、黒線が識別可能な像が得られるか)を表している。当然ながら、黒線を識別可能な程度は、撮影対象となる画像が置かれた位置までの距離によって変化する。このことと対応して、図13(a)および図13(b)のそれぞれでは、前方限界顔面位置FP、標準顔面位置SP、後方限界顔面位置RPの3つの位置についてのMTFの評価結果が示されている。
また、撮影対象となる画像の位置が同じでも、その画像の空間周波数(1mm幅の中に引かれた黒線の本数)が変われば、黒線を識別可能な程度は変化する。このことと対応して、図13(a)および図13(b)では、3つの位置のそれぞれについて、0本/mm〜60本/mmの空間周波数の範囲でのMTFの評価結果が示されている。
尚、空間周波数0本/mmは黒いベタ画像のような画像を意味している。このような画像については、どれだけ像がボケても元の画像と同じように黒いベタ画像が得られるので、MTFは、コントラストが完全に保存されていることを示す値「1.0」となる。また、空間周波数(1mm幅の中に引かれた黒線の本数)が増加すると、黒線の識別が次第に困難となっていくことに対応してMTFも低下する。
更に、光学系の光軸付近で得られる像と、光軸から離れた位置で得られる像とでは、黒線を識別可能な程度は変化する。加えて、黒線の向きが光軸に対して半径方向の場合と、円周方向の場合とでも、黒線を識別可能な程度が変化する。そこで、MTFは、光軸に対して様々な位置で、且つ、黒線の向きも半径方向の場合と円周方向の場合の2つの場合で評価される。
図13(a)および図13(b)の3つの位置(例えば前方限界顔面位置FP)でのグラフ中に複数本のMTFが示されているのは、光軸に対して複数の位置でMTFを評価しているためである。また、グラフ中に実線で示したMTFは、黒線の向きが半径方向を向いた撮影対象についてのMTFを表しており、グラフ中に破線で示したMTFは、黒線の向きが円周方向を向いた撮影対象についてのMTFを表している。
説明の都合上、先ず始めに、従来の考え方に基づいて合焦範囲を設定した場合のMTFについて、図13(b)を用いて説明する。従来の考え方では、前方限界顔面位置FPでの錯乱円も、後方限界顔面位置RPでの錯乱円も、許容錯乱円の直径δc以下となるように合焦範囲が設定される(図5参照)。このことに対応して、従来の考え方に基づいて合焦範囲を設定した場合は、前方限界顔面位置FPでのMTFも、後方限界顔面位置RPでのMTFも、標準顔面位置SPでのMTFに対して大きく低下することはない。
また、前方限界顔面位置FPでのMTFと、後方限界顔面位置RPでのMTFとを比較すると、後方限界顔面位置RPの方がMTFの値が小さくなる。前方限界顔面位置FPも、後方限界顔面位置RPも、錯乱円の大きさが許容錯乱円とほぼ等しく設定されているにも拘わらず、後方限界顔面位置RPのMTFの方が小さくなるのは次のような理由による。後方限界顔面位置RPは前方限界顔面位置FPよりも遠方にあるため、本来であれば小さな像となる筈である。それにも拘わらず、前方限界顔面位置FPと後方限界顔面位置RPとで錯乱円の大きさがほぼ同じになるということは、後方限界顔面位置RPの方がボケを許容していることになり、そのため、後方限界顔面位置RPの方が、MTFが小さくなることによる。
これに対して、本実施例の考え方に基づいて合焦範囲を設定した場合は、従来とは全く異なる傾向のMTFとなる。すなわち、図13(a)に示すように、前方限界顔面位置FPでのMTFが、標準顔面位置SPでのMTFに対して大きく低下する。また、後方限界顔面位置RPでのMTFについては、標準顔面位置SPでのMTFに対して若干低下する程度に留まる。その結果、前方限界顔面位置FPでのMTFと、後方限界顔面位置RPでのMTFとを比較すると、本実施例の考え方に基づいて合焦範囲を設定した場合は、従来とは異なり、前方限界顔面位置FPの方が小さくなる。
このことから、前方限界顔面位置FPでのMTFの方が、後方限界顔面位置RPでのMTFよりも小さい場合には、本実施例の考え方に基づいて合焦範囲が設定されていると考えることができる。
尚、図13に例示したように、結像光学系114のMTFは、光軸からの位置や黒線の向きを異ならせて複数のMTFが得られる。従って、前方限界顔面位置FPでのMTFと、後方限界顔面位置RPでのMTFとの大小関係を調べるに際して、前方限界顔面位置FPの何れのMTFと、後方限界顔面位置RPの何れのMTFとを比較するかによって、得られる大小関係が異なることが起こり得る。そこで、この点について、最後に補足して説明しておく。
図13に示すように、前方限界顔面位置FPでも、後方限界顔面位置RPでも複数のMTFが得られている場合には、それぞれのMTFを代表するMTF(代表MTF)同士を比較すればよい。ここで、代表MTFとしては、前方限界顔面位置FPあるいは後方限界顔面位置RPの複数のMTFの中で、最も小さなMTFを用いることができる。あるいは、それぞれで得られた複数のMTFを平均したMTFを算出して、代表MTFとしてもよい。
複数のMTFが得られている場合でも、それらの代表MTFを用いれば、図14に示すような関係が得られる。図14中に示した実線は、本実施例の考え方で合焦範囲が設定された場合に得られる代表MTFであり、図14中に示した破線は、従来の考え方で合焦範囲が設定された場合に得られる代表MTFである。従って、このような代表MTFを用いて比較すれば、結像光学系114の合焦範囲が、本実施例の考え方を用いて設定されているか否かを正確に判断することが可能となる。
以上、本実施例について説明したが、本発明は上記の実施例に限られるものではなく、その要旨を逸脱しない範囲において種々の態様で実施することができる。
1…車両、 3…インスツルメントパネル、 4…運転席、
10…運転者状態判定装置、 100…撮影ユニット、 110…車載カメラ、
112…画像センサー、 114…結像光学系、 114f…絞り、
120…投光部、 200…制御装置、 201…投光駆動部、
202…画像取得部、 203…運転者状態判定部。

Claims (2)

  1. 運転者の前方から該運転者の顔画像を撮影する顔画像撮影装置(110)と、前記運転者の顔画像を解析することによって、運転に影響を与える運転者状態を判定する運転者状態判定部(203)とを備え、前記運転者が運転席(4)の位置を前後方向に調整可能な車両(1)に搭載された運転者状態判定装置(10)であって、
    前記運転者状態判定部は、前記運転席の位置が後方の限界に調整された状態で撮影された前記顔画像については前記顔画像を画像処理によって拡大し、前記運転席の位置が前方の限界に調整された状態で撮影された前記顔画像については前記顔画像を画像処理によって縮小することにより、前記顔画像の大きさを正規化した後、正規化した前記顔画像を解析することによって前記運転者状態を判定しており、
    前記顔画像撮影装置は、
    前記顔画像の画像データを生成する画像センサー(112)と、
    前記画像センサー上に前記顔画像を結像させると共に、焦点位置が固定された結像光学系(114)と
    を備え、
    前記結像光学系の焦点位置は、前記運転席の位置を後方の限界まで移動させた時の前記運転者の顔面の位置である後方限界顔面位置(RP)に対する錯乱円の大きさと、前記運転席の位置を前方の限界まで移動させた時の前記運転者の顔面の位置である前方限界顔面位置(FP)に対する錯乱円の大きさとが、前記顔画像を正規化した状態では等しい大きさとなる位置に固定されている
    ことを特徴とする運転者状態判定装置。
  2. 請求項1に記載の運転者状態判定装置であって、
    前記結像光学系は、該結像光学系のF値が2.0以下の値に設定されている
    ことを特徴とする運転者状態判定装置。
JP2013261880A 2013-12-18 2013-12-18 顔画像撮影装置、および運転者状態判定装置 Active JP6056746B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2013261880A JP6056746B2 (ja) 2013-12-18 2013-12-18 顔画像撮影装置、および運転者状態判定装置
PCT/JP2014/006117 WO2015093004A1 (ja) 2013-12-18 2014-12-08 顔画像撮影装置、および運転者状態判定装置
CN201480068661.6A CN105829965B (zh) 2013-12-18 2014-12-08 脸部图像拍摄装置、以及驾驶员状态判定装置
US15/104,915 US10019638B2 (en) 2013-12-18 2014-12-08 Face image capturing device and driver condition determination device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013261880A JP6056746B2 (ja) 2013-12-18 2013-12-18 顔画像撮影装置、および運転者状態判定装置

Publications (2)

Publication Number Publication Date
JP2015118287A JP2015118287A (ja) 2015-06-25
JP6056746B2 true JP6056746B2 (ja) 2017-01-11

Family

ID=53402383

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013261880A Active JP6056746B2 (ja) 2013-12-18 2013-12-18 顔画像撮影装置、および運転者状態判定装置

Country Status (4)

Country Link
US (1) US10019638B2 (ja)
JP (1) JP6056746B2 (ja)
CN (1) CN105829965B (ja)
WO (1) WO2015093004A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3370410B1 (en) * 2015-10-26 2020-11-25 Kyocera Corporation Imaging device
DE102015225109A1 (de) * 2015-12-14 2017-06-14 Robert Bosch Gmbh Verfahren und Vorrichtung zum Klassieren von Augenöffnungsdaten zumindest eines Auges eines Insassen eines Fahrzeugs und Verfahren und Vorrichtung zum Erfassen einer Schläfrigkeit und/oder eines Sekundenschlafes eines Insassen eines Fahrzeugs
WO2017164835A1 (en) * 2016-03-21 2017-09-28 Ford Global Technologies, Llc Virtual vehicle occupant rendering
CN106249413B (zh) * 2016-08-16 2019-04-23 杭州映墨科技有限公司 一种模拟人眼对焦的虚拟动态景深变化处理方法
CN110140145A (zh) * 2016-12-27 2019-08-16 夏普株式会社 图像处理装置、图像打印装置、拍摄装置及图像处理程序
JP6627787B2 (ja) 2017-01-17 2020-01-08 トヨタ自動車株式会社 ドライバ状態検出装置
JP6809262B2 (ja) 2017-02-08 2021-01-06 トヨタ自動車株式会社 ドライバ状態検出装置
JP6737212B2 (ja) * 2017-03-14 2020-08-05 オムロン株式会社 運転者状態推定装置、及び運転者状態推定方法
CN112188074B (zh) * 2019-07-01 2022-08-05 北京小米移动软件有限公司 图像处理方法及装置、电子设备、可读存储介质
JP7081844B2 (ja) * 2020-11-11 2022-06-07 株式会社コムテック 検出システム
US11861916B2 (en) * 2021-10-05 2024-01-02 Yazaki Corporation Driver alertness monitoring system

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06178302A (ja) 1992-12-02 1994-06-24 Mitsubishi Electric Corp 運転者撮影装置
JPH06222258A (ja) * 1993-01-23 1994-08-12 Asahi Optical Co Ltd パッシブ自動焦点カメラ
JPH08292351A (ja) * 1995-04-25 1996-11-05 Minolta Co Ltd レンズバリア付きカメラ
JP3531503B2 (ja) * 1998-11-02 2004-05-31 日産自動車株式会社 眼の状態検出装置及び居眠り運転警報装置
JP3801075B2 (ja) * 2002-03-14 2006-07-26 日産自動車株式会社 画像拡大装置
JP2005242428A (ja) * 2004-02-24 2005-09-08 Nissan Motor Co Ltd 運転者の顔画像撮影装置
JP4930315B2 (ja) * 2007-01-19 2012-05-16 株式会社デンソー 車内情報表示装置およびそれに用いられる光照射装置
JP5056067B2 (ja) * 2007-02-26 2012-10-24 株式会社デンソー 居眠り警報装置
JP2009113621A (ja) 2007-11-06 2009-05-28 Toyota Motor Corp 乗員画像撮像装置、運転支援装置
JP2009252094A (ja) * 2008-04-09 2009-10-29 Toyota Motor Corp 顔画像検出装置
JP5270415B2 (ja) * 2009-03-19 2013-08-21 トヨタ自動車株式会社 眠気判定装置及びプログラム
US8379112B2 (en) 2009-09-09 2013-02-19 Olympus Imaging Corp. Waterproof camera and display method
US8384534B2 (en) * 2010-01-14 2013-02-26 Toyota Motor Engineering & Manufacturing North America, Inc. Combining driver and environment sensing for vehicular safety systems
JP2012039591A (ja) * 2010-07-15 2012-02-23 Olympus Corp 撮像装置
JP5212927B2 (ja) * 2011-01-25 2013-06-19 株式会社デンソー 顔撮影システム

Also Published As

Publication number Publication date
CN105829965B (zh) 2018-10-12
CN105829965A (zh) 2016-08-03
US10019638B2 (en) 2018-07-10
JP2015118287A (ja) 2015-06-25
WO2015093004A1 (ja) 2015-06-25
US20160314366A1 (en) 2016-10-27

Similar Documents

Publication Publication Date Title
JP6056746B2 (ja) 顔画像撮影装置、および運転者状態判定装置
JP6887960B2 (ja) 自動焦点トリガのためのシステムおよび方法
JP4928190B2 (ja) フォーカス制御装置および撮像装置
WO2011105004A1 (ja) 瞳孔検出装置及び瞳孔検出方法
CN105378534B (zh) 摄像装置、摄像装置的工作方法
JP6739242B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
JP2016207030A (ja) 画像処理装置
CN110199318B (zh) 驾驶员状态推定装置以及驾驶员状态推定方法
US7519285B2 (en) Imaging apparatus, imaging method, imaging program, and storage medium
SE529763C2 (sv) Ögonrörelseföljare med ett utökat omfång av arbetsavstånd
JP2002296494A (ja) 結像位置検出プログラムおよびカメラ
TWI402552B (zh) A photographing system, a photographing device including the photographing system, a portable terminal device, a vehicle-mounted device, and a medical device
JP2007212724A5 (ja)
JP5881910B2 (ja) 内視鏡装置
KR20150003191A (ko) 측정 광학부에 의한 특수적 거리의 필드 깊이를 결정하기 위한 방법 및 장치
JP5124929B2 (ja) 焦点調節装置およびデジタルカメラ
JP6204844B2 (ja) 車両のステレオカメラシステム
TWI588585B (zh) 影像擷取裝置及對焦方法
JP2014134697A (ja) 撮像装置
JP7278764B2 (ja) 撮像装置、電子機器、撮像装置の制御方法およびプログラム
JP2011147043A (ja) 口腔内カメラと、その照明の制御方法
JP6597467B2 (ja) 顔向き計測装置
WO2011007869A1 (ja) 焦点調節装置およびカメラ
JP5144412B2 (ja) 車両用物体判定装置
JP2017116723A (ja) 撮像装置、焦点調整装置および焦点調整プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150924

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160426

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160802

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160920

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20161108

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161121

R151 Written notification of patent or utility model registration

Ref document number: 6056746

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250