JP2024078785A - 撮像装置、及び生体部位検出装置 - Google Patents

撮像装置、及び生体部位検出装置 Download PDF

Info

Publication number
JP2024078785A
JP2024078785A JP2022191342A JP2022191342A JP2024078785A JP 2024078785 A JP2024078785 A JP 2024078785A JP 2022191342 A JP2022191342 A JP 2022191342A JP 2022191342 A JP2022191342 A JP 2022191342A JP 2024078785 A JP2024078785 A JP 2024078785A
Authority
JP
Japan
Prior art keywords
light
unit
imaging
emitting unit
space
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2022191342A
Other languages
English (en)
Inventor
一成 濱田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Seiki Co Ltd
Original Assignee
Nippon Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Seiki Co Ltd filed Critical Nippon Seiki Co Ltd
Priority to JP2022191342A priority Critical patent/JP2024078785A/ja
Publication of JP2024078785A publication Critical patent/JP2024078785A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Stroboscope Apparatuses (AREA)
  • Blocking Light For Cameras (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Image Analysis (AREA)

Abstract

【課題】 外光としての反射光が存在する環境下においても、簡素化された構成を用いて、撮像画像に基づく人体の部位の検出精度の低下を抑制する。【解決手段】 撮像装置は、照明光を発光する発光部202a、202bと、撮像光を受光する受光部204a、204bと、発光部、及び受光部の動作を制御する制御部220と、を備える撮像部200を有し、照明光の代表的光路を照明光路LI、撮像光の代表的光路を撮像光路Liとし、照明光路LIが基準直線Lcとなす角度をθIcとし、撮像光路Liが基準直線Lcとなす角度をθicとする場合に、発光部、及び受光部は、θic<θIcであるという第1の条件と、基準アイポイントPcを含む平面Scx又は平面Scyで車体座標系の空間を2分割した場合における同じ側の空間に位置するという第2の条件を満たすように配置されている。【選択図】 図3

Description

本発明は、撮像装置、及び生体部位検出装置等に関する。
特許文献1には、赤外光を用いた撮像装置を、ヘッドアップディスプレイ(HUD)装置に搭載した構成が示されている。
特許文献2には、HUD装置の利用者に赤外光を照射して利用者を撮像し、その撮像画像に基づいて利用者の目の位置(瞳孔等の位置)を検出する際に、HUD装置に太陽光や街灯の光等の強い外光が入射した場合であっても、画像処理によって目の位置の検出を可能とすることが記載されている。
特開2022-56520号公報(図1、図2、図6、図8等) 特開2021-133801号公報(図3~図6等)
本発明者の検討によって、以下の事項が明らかとされた。
(1)赤外光等を用いて車両の乗員の顔等の部位を検出する場合において、撮像装置に外光が入射すると検出精度が低下する。
(2)外光としては、例えば、照明光である赤外光等が乗員の眼鏡(サングラスを含む)等で反射して生じる反射光、及び、例えば太陽光等がウインドシールド等で反射して生じる反射光がある。
(3)照明光の反射光、ならびに太陽光の反射光の双方について対策するのが好ましい。但し、複雑な画像処理システム等を使用することは、コスト上昇、あるいは、装置の処理負担の増大等を招くため、好ましくない。
本発明の目的の1つは、外光としての反射光が存在する環境下においても、簡素化された構成を用いて、撮像画像に基づく人体の部位の検出精度の低下を抑制可能な撮像装置を提供することである。
本発明の他の目的は、以下に例示する態様及び最良の実施形態、並びに添付の図面を参照することによって、当業者に明らかになるであろう。
以下に、本発明の概要を容易に理解するために、本発明に従う態様を例示する。
第1の態様において、撮像装置は、
車両の乗員である被写体の部位の撮像に用いられる撮像装置であって、
前記車両の乗員である被写体の部位の検出に用いられる光のうち、
反射体で反射して前記被写体の部位に照射される光を照明光とし、
前記照明光が、撮像対象である前記被写体の部位で反射し、さらに前記反射体で反射して前記撮像装置に戻る光を撮像光とする場合において、
前記照明光を発光する発光部と、
前記撮像光を受光する受光部と、
前記発光部、及び前記受光部の動作を制御する制御部と、
を備える撮像部を有し、
前記車両の前後方向に配置される車体座標系の座標軸をX軸とし、
前記X軸に直交すると共に、前記車両の左右方向に配置される座標軸をY軸とし、
前記X、Yの各座標時軸に直交すると共に、前記車両の高さ方向に配置される座標軸をZ軸とし、
前記被写体としての前記車両の前記乗員の代表的な目の位置として定められる、前記車体座標系における点を基準アイポイントPcとし、
前記被写体としての前記車両の前記乗員の前記基準アイポイントPcを通り、前記X軸と平行な直線を基準直線Lcとし、
前記基準アイポイントPcと前記反射体との間における、前記照明光の代表的光路を照明光路LIとし、
前記基準アイポイントPcと前記反射体との間における、前記撮像光の代表的光路を撮像光路Liとし、
前記照明光路LIが前記基準直線Lcとなす角度をθIcとし、
前記撮像光路Liが前記基準直線Lcとなす角度をθicとする場合に、
前記発光部、及び前記受光部は、第1及び第2の条件を満たすように配置されている、
前記第1の条件は、
θic<θIcである、
前記第2の条件は、
前記発光部、及び前記受光部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における同じ側の空間に位置すること、
又は、
前記発光部、及び前記受光部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における同じ側の空間に位置することである。
第1の態様によれば、赤外光等の照明光は、受光部としての赤外線カメラ等の光軸(言い換えれば、撮像光の代表的光路である撮像光路Li)よりも外側から、被写体である乗員(運転者等)に向かうため、例えば、乗員が装着している眼鏡(サングラスを含む)のレンズ等で反射して生じる照明光の反射光は、上記の赤外線カメラ等に向かわない。
言い換えれば、眼鏡等で反射して生じる照明光の反射光が、乗員の、例えば目やその周辺の撮像に及ぼす影響を抑制することができる。
例えば、被写体である乗員が略正面を向いている状況、言い換えれば、乗員が前方を見ており、乗員の視線が、車体座標系におけるX軸(前後方向軸)と略平行である状況を想定する。
上記の第2の条件より、発光部と受光部は、平面Scx、あるいは平面Scyによち2分割される2つの空間のうちの同じ空間(ここでは、第1の空間)に位置する。
よって、基準アイポイントPcと反射体(ウインドシールド等)との間における照明光の代表的光路である照明光路LI(これは赤外線LED等の発光部の光軸とみなすことができる)と、基準アイポイントPcと反射体(ウインドシールド等)との間における、撮像光の代表的光路である撮像光路Li(これは赤外線カメラ等の光軸とみなすことができる)も、同じ空間(第1の空間)に位置する。
発光部から照射された照明光は、反射体(ウインドシールド等)で反射されて、第1の空間内の上記の照明光路LIを経由して、乗員の部位(例えば人の顔(目、鼻、耳、口を含むことができる)に進み、その部位で反射する。
その反射光(これを正規の反射光とする)は、第1の空間内の上記の撮像光路Li(受光部を構成する赤外線カメラ等の光軸)を経由して進行し、反射体(ウインドシールド等)で反射して受光部に入射され、その受光により得られる電気信号に基づいて人の部位(生体の部位)の検出が実施される。
一方、例えば、人が眼鏡(サングラスを含む)やマスクを着用しており、撮像光である赤外光等が、その眼鏡等で反射して反射光(不要な外光としての反射光)が生じる場合がある。
ここで、上記の第1の条件から、照明光は、受光部を構成する赤外線カメラ等の光軸(言い換えれば、撮像光路Li)よりも外側から眼鏡等に入射する。ここで不要な反射が生じるが、照明光は、眼鏡等に対して浅い入射角で入射するため、全反射により生じる不要な反射光は、第1の空間とは反対側の第2の空間へと向かうことになり、第1の空間側には向かわない。
このため、不要な反射光が、人の部位の検出に用いられる正規の反射光に重畳することが抑制され、よって、検出精度の低下が抑制される。
このように、発光部と受光部を、上記の第1の条件、第2の条件を満たすように配置することで、不要な外光としての反射光が撮像装置へと入射することが抑制され、よって、人の部位の検出精度の低下が抑制され得る。
第1の態様に従属する第2の態様において、
前記照明光を出射する発光部として、第1の発光部と、第2の発光部とが設けられると共に、
前記制御部は、前記第1、第2の発光部の何れを用いて前記被写体を照明するかを切り替えることができ、
前記第2の発光部は、第3の条件を満たすように配置されてもよい、
前記第3の条件は、
前記第2の発光部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における、前記第1の発光部が位置する空間とは反対側の空間に位置すること、
又は、
前記第2の発光部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における、前記第1の発光部が位置する空間とは反対側の空間に位置することである。
第2の態様では、発光部として、第1、第2の発光部が設けられる。第2の発光部は、基準アイポイントPcを含む平面Scx、あるいはScyにて車体座標系の空間を2分割した場合における、第1の発光部とは反対側の空間に配置され、かつ、制御部は、各発光部の発光(点灯及び消灯)を切り替えることができる。
先に説明した第1の態様では、不要な反射光が撮像部に向かうことを抑制できるが、不要な反射光の一部が撮像部に入射することはあり得る。
例えば、乗員が顔の向きを変えたことにより、一方の発光部から出射された照明光が、乗員が装着している眼鏡等のレンズで反射し不要な反射光が生じ、その不要な反射光が撮像部(の受光部)にも入射して、その結果、撮像画像に不要な反射パターンが生じる場合がある。
このような場合には、制御部が、第1、第2の発光部を切り替え制御し、例えば、一方の発光部を消灯し、他方の発光部を点灯することができる。
第1、第2の発光部を切り替えることで、眼鏡等への照明光の入射方向や入射角度が変化する。よって、照明光が眼鏡のレンズ等で反射して生じる撮像光が、撮像装置(撮像装置の撮像部における受光部)に向かうことを抑制することができる。よって、撮像画像に基づいて、例えば、乗員の目やその周辺を検出する場合における検出精度の低下を抑制することができる。
第1の態様に従属する第3の態様において、
前記撮像部として、第1の撮像部と、第2の撮像部とが設けられ、
前記第2の撮像部は、第4の条件を満たすように配置されてもよい、
前記第4の条件は、
前記第2の撮像部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における、前記第1の撮像部が位置する空間とは反対側の空間に位置すること、
又は、
前記第2の撮像部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における、前記第1の撮像部が位置する空間とは反対側の空間に位置することであり、
かつ、
前記第1の撮像部における発光部、及び受光部を、第1の発光部、及び第1の受光部とし、
前記第2の撮像部における発光部、及び受光部を、第2の発光部、及び第2の受光部とする場合に、
前記第1の発光部と前記1の受光部は、前記第1の条件、及び前記第2の条件を満たすように配置されており、
前記第2の発光部と前記2の受光部も、前記第1の条件、及び前記第2の条件を満たすように配置されており、
前記制御部は、前記第1の発光部、前記第2の発光部、前記第1の受光部、前記第2の受光部の何れを用いるかを選択することができるようにしてもよい。
第3の態様では、撮像部として、第1、第2の撮像部が設けられる。第1の撮像部は、第1の発光部と第1の受光部を有し、第2の撮像部は、第2の発光部と第2の受光部を有する。制御部は、人体の部位の撮像に関して、第1、第2の発光部、第1、第2の受光部のどれを使用するかを適宜、選択できる。
例えば、先に説明した第2の態様の構成を用いて、発光部の切り替えを行った場合でも、眼鏡のレンズ等による反射を防ぎきれない場合があり得る。
このような場合には、発光部のみならず、受光部も含めて、使用するデバイスを適宜、選択する(切り替える)ことによって、不要な反射光による人の部位の検出精度の低下を抑制することができる。
例えば、第1の撮像部(第1の発光部と第1の受光部)を用いた場合は、不要な反射パターンが撮像画像に生じたとする。しかし、この場合でも、第2の撮像部(第2の発光部と第2の受光部)を用いると、撮像画像において不要な反射パターンの影響を低減できる可能性が高い。
例えば、眼鏡のレンズ等による不要な反射光は、第2の撮像部における第2の受光部には入射しない可能性がある。
また、仮に、不要な反射光が第2の受光部に入射する場合であっても、撮像画像上の不要な反射パターンの位置は、第1の撮像部を使用した場合における、撮像画像上の不要な反射パターンの位置とは異なる。
よって、第1の撮像部を用いたときに、不要な反射パターンが重畳して、特徴量の検出ができない箇所(例えば、左目が検出できないとする)があったときでも、第2の撮像部を使用すれば、不要な反射光パターンの位置がずれるため、第1の撮像部による撮像画像では特徴量が検出できなかった箇所(ここでは左目)は、第2の撮像部による撮像画像では検出が可能となる。
よって、例えば、第1、第2の各撮像部により得られる撮像データを併せて用いる(例えば、一方の撮像画像で検出不能となった箇所を、他方の撮像画像における、対応する箇所の画像にて補完するといった補正処理、あるいは、画像合成処理等を実施する)ことにより、被写体全体における情報の欠損を十分に抑制することができる。
また、反射体(ウインドシールド)を透過した強い外光(太陽光など)が、例えば第1の撮像部(第1の受光部)に入射し、反射体(ウインドシールド等)で反射して撮像された被写体の画像と重なるような状況が生じ、乗員の目やその周辺の撮像に支障が生じたとする。
この場合でも、第2の撮像部を用いた場合は、第2の撮像部は第1の撮像部とは反対側の空間に配置され、位置が異なることから、強い外光の光路と被写体の撮像光路(撮像光路)がずれる。よって、乗員の目やその周辺を撮像することが可能である。
また、本態様では、種々の変形例が存在する。
例えば、第1の撮像部における第1の発光部と第1の受光部、及び、第2の撮像部における第2の受光部を利用する、といった変形例も考えられる。
この変形例では、第1の発光部を共通の発光部として使用し、撮像光を、第1、第2の受光部(言い換えれば、設置されている位置が異なる2つの受光部)で受光する。
そして、各受光部から得られる撮像画像データを併用し、画像補正や画像合成等を実施することで、不要な反射光パターンの影響を低減して、人の部位(顔等)の全体を、精度よく検出することができる。
上記の例では、第1の発光部、及び第1、第2の撮像部を使用したが、第2の発光部、及び第1、第2の撮像部を使用することもできる。この場合も同様の効果を得ることができる。
第1乃至第3の何れか1つの態様に従属する第4の態様において、
前記受光部は、可視光を遮蔽し、前記照明光、及び前記撮像光を透過するフィルタ部を
を有し、
前記発光部は、前記車両の前記乗員が、少なくとも直接的には見ることができない位置に設けられていてもよい。
第4の態様では、撮像部の受光部として、フィルタ部付きの受光部を使用する。
フィルタ部としては、例えば可視光を吸収し、赤外光を透過する材料からなる多層のロングパスフィルタ(IRフィルタ等)を用いることができる。これにより、太陽光や街灯の光、あるいは、それらの光が反射体(ウインドシールド等)で反射して生じる反射光が、赤外線カメラ等の受光部に入射することを抑制することができ、よって、撮像精度が向上する。
また、受光部に設けられるフィルタ部は、被写体としての車両の乗員から、受光部が直接的に見えないようにする、という視覚的効果も有する。これにより、撮像部のデザイン性が損なわれることを抑制できる。
一方、発光部については、車両の乗員が、少なくとも直接的には見ることができない位置に設けられる。
上記のとおり、受光部にはフィルタ部が設けられて、乗員は通常は目視することができず、また、上記のとおり、発光部は、乗員が通常は目視できない位置に設けられることから、受光部、及び発光部は共に、目視が困難である。よって、撮像部(撮像装置)全体のデザイン性が損なわれることを抑制することができる。
また、本態様の構成を採用すると、受光部(赤外線カメラ等)と、発光部(赤外線LED等)の配置(レイアウト)の自由度も向上する。
例えば、撮像装置の窓部(赤外光が通過する部分)に上記のフィルタ部を設ける場合は、そのフィルタ部により可視光が遮蔽されている領域に、受光部と発光部の双方を設けなければならない、という制約が生じる。
これに対して、本態様では、受光部(赤外線カメラ等)自体にフィルタ部が設けられているため、これにより、太陽光等の可視光に対する対策はできている。よって、発光部(赤外線LED等)については、上記のような配置上の制約は生じず、配置の自由度が向上する。
言い換えれば、先に説明した第1の態様に示した第1の条件、第2の条件が満たされる範囲内で、受光部(赤外線カメラ等)と発光部(赤外線LED等)は、各々、最適な位置に、ある程度の自由度をもって配置することができ、よって配置の自由度が向上し、撮像装置の設計が容易化されるという効果が得られる。
第1の態様に従属する第5の態様において、
前記撮像装置は、
前記車両の前記反射体に画像の表示光を照射して、前記車両の前記乗員に対して画像を表示する画像表示装置内に設けられる、
又は、
前記画像表示装置と一体的に設けられてもよい。
第5の態様によれば、画像表示装置内に撮像装置を設けることができ、装置(システム)全体の小型化を推進することができる。
第6の態様において、生体部位検出装置は、
撮像画像に基づいて、被写体としての車両の乗員の部位を検出する生体部位検出装置であって、
第1乃至第5の何れかの態様の撮像装置と、
前記撮像装置により取得された撮像画像に基づいて、生体の部位を検出する生体部位検出処理部と、
を有する。
第6の態様では、生体部位検出装置は、上記の各態様の撮像装置に加えて、画像処理によって生体の部位(人の顔等)を検出する生体部位検出処理部と、を有する。
生体部位検出処理部は、例えば、1つの撮像部から得られた撮像画像に反射光パターンが存在して、その反射光パターンに重畳される目等の部位の検出ができないときは、他の撮像部で撮像して得られる他の撮像画像における、上記の検出できなかった部位(目等)の画像を用いた画像処理(画像補正や画像合成等)を実施して、顔等の全体の部位の検出を可能とすることも可能である。よって、検出精度が向上する。
当業者は、例示した本発明に従う態様が、本発明の精神を逸脱することなく、さらに変更され得ることを容易に理解できるであろう。
赤外光を用いた撮像装置の構成の一例を示す図である。 基準アイポイント、基準アイポイントを通り、車体座標系のX軸と平行な基準直線、基準アイポイントと反射体との間における、照明光の代表的光路である照明光路、基準アイポイントと反射体との間における、撮像光の代表的光路である撮像光路、車体座標系におけるZX平面と平行で、基準アイポイントを含む平面、ならびに、車体座標系におけるXY平面と平行で、基準アイポイントを含む平面、の相対的な位置関係の例を示す図である。 第1、第2の撮像部を用いた場合の各撮像部を構成する発光部と受光部の配置例、反射体であるウインドシールドと基準アイポイントとの間の、照明光、及び撮像光の各光路、ならびに、各光路の位置関係等を示す図である。 第1の撮像部、第2の撮像部の各々を用いて、乗員の顔を撮像して得られる撮像画像の例を示す図である。 生体部位検出装置の構成の一例を示す図である。 第1、第2の撮像部を用いて被写体を撮像する場合の、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの一例を示す図である。 第1、第2の撮像部を用いて被写体を撮像する場合の、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの他の例を示す図である。 赤外光を用いた撮像装置(及び生体部位検出装置)を備える車載表示装置(ここではヘッドアップディスプレイ(HUD)装置)の構成例、及び、車載表示装置における第1、第2の撮像部の配置例を示す図である。
以下に説明する最良の実施形態は、本発明を容易に理解するために用いられている。従って、当業者は、本発明が、以下に説明される実施形態によって不当に限定されないことを留意すべきである。
(第1の実施形態)
図1は、赤外光を用いた撮像装置の構成の一例を示す図である。
図1において、X軸、Y軸、Z軸は、車体座標系(直交座標系)の座標軸である。ここで、車両1の前後方向に配置される車体座標系の座標軸をX軸とし、X軸に直交すると共に、車両1の左右方向に配置される座標軸をY軸とし、X、Yの各座標時軸に直交すると共に、車両1の高さ方向に配置される座標軸をZ軸とする。
また、図1において、被写体としての車両1の乗員5の代表的な目の位置として定められる、車体座標系における点を基準アイポイントPcとする。なお、「基準アイポイント」は、「両目の中点位置にあるセンターアイポイント」と言い換えることができる。
また、被写体としての車両1の乗員5の基準アイポイントPcを通り、X軸と平行な直線を基準直線Lcとする。
また、基準アイポイントPcとウインドシールド等の反射体2との間における、照明光の代表的光路を照明光路LIとする。なお、照明光自体を、照明光LIと称する場合もある。
また、基準アイポイントPcと反射体との間における、撮像光の代表的光路を、撮像光路Liとする。なお、撮像光自体を撮像光Liと称する場合もある。
また、照明光路(あるいは照明光)L1の、反射体(ウインドシールド)2における反射点をPrIとする。
また、撮像光路(あるいは撮像光)Liの、反射体(ウインドシールド)2における反射点をPriとする。
上記の各部の、好適な相対的位置関係等については、図2、図3等を用いて説明する。
また、以下の説明では、被写体の部位の撮像に用いられる光(ここでは赤外光)のうち、反射体(ウインドシールド2等)で反射して、被写体の部位(図1では、車両1の乗員5の顔11)に照射される光を「照明光」と称する。
また、照明光が、撮像対象である被写体の部位で反射し、さらに反射体2で反射して撮像装置201に戻る光を「撮像光」と称する。
図1のA-1において、撮像装置201は、例えば、近赤外光を出射する赤外線LED等からなる発光部(照明部)202と、赤外線カメラ等からなる受光部204と、を備える撮像部200を有する。
なお、撮像装置(反射式撮像装置)201は、撮像部200における発光部(赤外線LED等)202、受光部(赤外線カメラ等)204の動作を制御する制御部(図1では不図示、図3、図5~図7における符号220)が設けられる。
また、図1の例では、反射体として、光(例えば、HUD装置で画像を表示するための表示光)の反射性と透過性を併せ持つウインドシールド2が使用されている。
撮像対象である被写体は、図1の例では、ステアリングホイール8を操作している、車両1の乗員としての運転者5である。
図1における符号6は、運転者5の視点(目)を示す。また、運転者5は、眼鏡(サングラスを含む)9を装着している。
照明光である赤外光が、眼鏡9のレンズ(あるいは、マスク等)で反射して、反射光RF1が生じる場合がある。また、太陽3の太陽光Ltが、例えば反射体(ウインドシールド)2で反射して、反射光RF2が生じる場合がある。
太陽光等の反射光は、例えば、図8の例のように撮像装置201がHUD装置のような車載表示装置に搭載される場合は、表示光を通過する窓部を経由して間接的に車載表示装置に入射し、迷光として撮像装置201に入射する場合も想定される。
撮像装置201は、例えば、運転者5の部位である顔11(目、鼻、耳、口等を含めてもよい)を撮像する。
なお、例えば顔11を観察することで、運転者5の現在の状態(通常の集中力がある状態、疲労している状態、居眠りをしている状態等)を推定することが可能となる。
また、撮像装置201は、例えば、車両1のインストルメントパネル(あるいはダッシュボード)4に収納されている。
また、図1の例では、撮像装置201は、窓部(図1の例では開口部)12を有する筐体116内に設けられている。
また、撮像部200における受光部(赤外線カメラ等)204の、光の入射側にはフィルタ部13が設けられている。フィルタ部13は、赤外光(言い換えれば、照明光及び撮像光)を透過し、可視光を遮蔽(例えば吸収)する特性を有する。
このフィルタ部13は、外光が撮像装置201に入射するのを防止する効果を有する
これにより、太陽光や街灯の光、あるいは、それらの光が反射体(ウインドシールド等)で反射して生じる反射光が、赤外線カメラ等の受光部に入射することを抑制することができ、よって、撮像精度が向上する。
また、受光部204に設けられるフィルタ部13は、被写体としての車両1の乗員5から、受光部204が直接的に見えないようにする、という視覚的効果も有する。これにより、撮像部のデザイン性が損なわれることを抑制できる。
なお、「直接的に見る」とは、例えば、「ミラー等を利用して間接的に見ること」、あるいは、「無理な姿勢をとって強引に見るというような不自然な目視」を排除する趣旨である。この点は、以下の説明でも同様である。
フィルタ部13としては、例えば可視光を吸収し、赤外光を透過する材料からなる多層のロングパスフィルタ、例えばIRフィルタを用いることができる。
また、図1のA-2で示されるように、撮像部200における発光部(赤外線LED等)202は、車両1の乗員5が、少なくとも直接的には見ることができない位置に設けられている。
言い換えれば、発光部202は、標準的であると想定される人(乗員)が着座し、通常の姿勢で前方を見ている場合における想定される視界(あるいは視野範囲)FRの外側に位置し、よって、車両1の乗員5は、少なくとも直接的には見ることができない位置に設けられる。
上記のとおり、受光部204にはフィルタ部13が設けられて、乗員5は通常は目視することができない。また、上記のとおり、発光部202については、乗員5が通常は目視できない位置に設けられる。
したがって、受光部204、及び発光部202は共に、目視が困難である。よって、撮像部(撮像装置)全体のデザイン性が損なわれることを抑制することができる。
また、図1のA-1、A-2に示される撮像部200の構成を採用すると、受光部(赤外線カメラ等)204と、発光部(赤外線LED等)202の配置(レイアウト)の自由度も向上する。
例えば、仮に撮像装置201の窓部(赤外光が通過する部分)に上記のフィルタ部を設ける場合は、そのフィルタ部により可視光が遮蔽されている領域に、受光部と発光部の双方を設けなければならない、というレイアウト上の制約が生じる。
これに対して、図1の例では、受光部(赤外線カメラ等)204自体にフィルタ部13が設けられているため、これにより、太陽光等の可視光に対する対策はできている。よって、発光部(赤外線LED等)202については、上記のようなレイアウト上の制約は生じず、配置の自由度が向上する。
言い換えれば、所定の撮像条件(これについては、図2、図3を用いて説明する)を満たす範囲内で、受光部(赤外線カメラ等)204と発光部(赤外線LED等)202は、各々、最適な位置に、ある程度の自由度をもって配置することができ、よって、図1の例の構成によれば、配置の自由度が従来よりも向上し、撮像装置の設計が容易化されるという効果が得られる。
以下、好適な構成について、より具体的に説明する。
受光部(撮像部)204としては、例えば赤外線の特定の波長帯Wのみを透過する光学フィルタとしてのフィルタ部13を備えた赤外線カメラを用いることができる。ここで、波長帯Wは、例えば950±25nm程度としてもよい。
また、発光部(照明部)202としては、上記の波長帯Wの光線を照射するLED等を用いることができる。
また、照明光や撮像光を反射する反射体として、上記のとおり、自動車のウインドシールド2を使用することができる。但し、少なくとも波長帯W付近の赤外線を50%程度は反射する中間膜を設けてもよい。
また、発光部202は、照明光が反射体2上の点PrIで反射されて、被写体である乗員(図1の例では運転者)5の顔等の部位に照射されるような「位置および角度」に配置される。
また、受光部204は,被写体で反射され、さらに反射体2上の点Priで反射された撮像光を撮像できる「位置および角度」に配置される。
受光部204、発光部202は、上記のとおり、インストルメントパネル4内に設置され、例えば、筐体116の表面、あるいは、インストルメントパネル4の表面に設けた窓部(図1の例では開口部)を経由して、撮像光を受光し、また照明光を出射する。
また、受光部204と発光部202の配置(レイアウト)に関しては、例えば、受光部204が、乗員(運転者)から見て、車両の左右方向における端部側(言い換えれば、ウインドシールド2を支持する支柱としてのフロントピラー(Aピラーとも称される)側)に設置される場合を想定すると、発光部202は、乗員(運転者)5から見て、さらに車両1の端部側(さらにフロントピラー(Aピラー)に近い外側)に設置されるのが好ましい(例えば、図8のA-2のレイアウト例を参照)。
但し、上記のレイアウトは一例であり、これに限定されるものではない。発光部202は、受光部204に対して、乗員(運転者)から見て車両の外側に必ず配置される、というものではなく、「所定の条件」を満たすのであれば、種々の配置を採ることもできる。「所定の条件」については、図2、図3を用いて説明する。一例を挙げれば、例えば、図2に示すように,直線Lcを軸にして、撮像光の光路Licを回転させて得られる円錐の外側に、照明光の光路Licを回転させて得られる円錐が設けられる配置であるのが好ましい。
次に、図2を参照する。図2は、基準アイポイント、基準アイポイントを通り、車体座標系のX軸と平行な基準直線、基準アイポイントと反射体との間における、照明光の代表的光路である照明光路、基準アイポイントと反射体との間における、撮像光の代表的光路である撮像光路、車体座標系におけるZX平面と平行で、基準アイポイントを含む平面、ならびに、車体座標系におけるXY平面と平行で、基準アイポイントを含む平面、の相対的な位置関係の例を示す図である。なお、図2において、図1と共通する部分には、同じ符号を付している(この点は、他の図面においても同様である)。
なお、図2において、符号6Lは、乗員5の左目を示し、符号6Rは、乗員5の右目を示す。
光線の相対的位置関係を説明するためには、例えば、各光線が、どのような空間に位置するかを定義する必要がある。そこで、図2のA-1では、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を、乗員(運転者)5から見て左右に2分割し、乗員(運転者)5から見て左側の空間を「第1の空間QL」とし、右側の空間を「第2の空間QR」としている。
図1で示したように、撮像部200の受光部204、発光部202が共に、インストルメントパネル4内に設けられて、車両1の左右方向に配置されている場合は、図2のA-1に示される空間を用いて、光線の位置関係を説明することができる。
一方、受光部204、発光部202が、例えば、車両1の高さ方向に分割されて配置されるような場合、例えば、発光部202がインストルメントパネル4内に配置され、受光部204が、車両1の天井、あるいはフロントピラー(Aピラー)の上部等に配置されるような場合は、図2のA-2に示される空間を用いて、光線の位置関係を説明することができる。
図2のA-2では、車体座標系におけるXY平面と平行で、基準アイポイントPcを含む平面Scyで車体座標系の空間を、乗員(運転者)5から見て上下に分割し、乗員(運転者)5から見て下側の空間を「第3の空間QD」とし、上側の空間を「第4の空間QU」としている。
以下の説明では、図2のA-1の場合について説明する(以下の説明は、図2のA-2についても、同様に適用され得る)。
図2のA-1において、直線Lcを軸(中心軸)として、撮像光の光路Liを回転させて得られる円錐の外側に、照明光の光路Liを回転させて得られる円錐が位置している。
撮像光についての円錐は、基準アイポイントPcを頂点とし、撮像光の光路Liを回転させて得られる円(径がより小さい円)Diを底面とする円錐として描かれている。
照明光についての円錐は、基準アイポイントPcを頂点とし、照明光の光路LIを回転させて得られる円(径がより大きい円)DIを底面とする円錐として描かれている。
先に、図1における説明にて、「発光部202は、照明光が反射体2上の点PrIで反射されて、被写体である乗員(運転者)5の顔等の部位に照射されるような「位置および角度」に配置され、受光部204は,被写体で反射され、さらに反射体2上の点Priで反射された撮像光を撮像できる「位置および角度」に配置される」と記載したが、このことを言い換えれば、図2のA-1(及びA-2)に示されるような、円錐の相対的位置関係が成立するように、発光部202及び受光部204が配置される、ということである。
次に、図3を参照する。第1、第2の撮像部を用いた場合の各撮像部を構成する発光部と受光部の配置例、反射体であるウインドシールドと基準アイポイントとの間の、照明光、及び撮像光の各光路、ならびに、各光路の位置関係等を示す図である。
図3のA-1の例では、第1、第2の撮像部200a、200bが設けられている。第1の撮像部200aは、第1の発光部202a、及び第1の受光部204aを有し、第2の撮像部200bは、第1の発光部202b、及び第2の受光部204bを有する。また、符号16R、16Lは、フロントピラー(Aピラー)を示す。
第1の撮像部200a(第1の発光部202a、及び第1の受光部204a)は、先に図2のA-1で説明した、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を左右に2分割した場合の、乗員5から見て左側の空間である「第1の空間QL」に配置されている。
第2の撮像部200b(第2の発光部202b、及び第2の受光部204b)は、先に図2のA-1で説明した、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を左右に2分割した場合の、乗員5から見て右側の空間である「第2の空間QR(平面Scxを基準として、第1の空間QLとは反対側に位置する空間)」に配置されている。
図3のA-2に示されるように、撮像制御部220は、第1の発光部202a、第2の発光部202b、第2の受光部204bの各々の動作を個別に制御可能である。言い換えれば、撮像に際して、どの発光部と受光部を使用するかを、適宜、個別に選択することができる。
次に、図3のA-3を参照する。先に説明したように、被写体としての車両1の乗員5の代表的な目の位置として定められる、車体座標系における点を基準アイポイントPcとし、被写体としての車両1の乗員5の基準アイポイントPcを通り、X軸と平行な直線を基準直線Lcとし、基準アイポイントPcと反射体(ウインドシールド等)2との間における、照明光の代表的光路を照明光路LIとし、基準アイポイントPcと反射体(ウインドシールド等)2との間における、撮像光の代表的光路を撮像光路Liとし、また、照明光路LIが基準直線Lcとなす角度をθIcとし、撮像光路Liが基準直線Lcとなす角度をθicとする。
但し、図3の例では、2つの撮像部200a、200bが設けられているため、各撮像部に対応するように、角度θIcについては、θIc1、θIc2と区別して記載している。同様に、角度θicについても、θic1、θic2と区別して記載している。
なお、図中、PrI1、PrI2は、第1、第2の発光部202a、202bの各々から出射される照明光の、反射体(ウインドシールド等)2における反射点を示す。また、Pri1、Pri2は、第1、第2の受光部204a、204bの各々に入射される撮像光の、反射体(ウインドシールド等)2における反射点を示す。
図3のA-3では、θic<θIcの関係を満たしている。より具体的には、θic1<θIc1、及び、θic2<θIc2の関係が成立している。上記の関係を、「第1の条件」とする。
また、図3のA-1に示したように、第1の撮像部200aにおける第1の発光部202aと第1の受光部204aは、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を2分割した場合における同じ側の空間(図3のA-1の例では、第1の空間QL)に位置している。
また、第2の撮像部200bにおける第2の発光部202bと第2の受光部204bは、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を2分割した場合における同じ側の空間(図3のA-1の例では、第2の空間Qr)に位置している。
このような関係を、「第2の条件」とする。
なお、この第2の条件に関して、車体座標系におけるXY平面と平行で、基準アイポイントPcを含む平面Scy(図2のA-2参照)で車体座標系の空間を2分割した場合においては、第1の撮像部200aにおける第1の発光部202aと第1の受光部204aは、例えば、図2のA-2で示した第3の空間QDに位置し、第2の撮像部200bにおける第2の発光部202bと第2の受光部204bは、例えば、図2のA-2で示した第4の空間QUに位置する。
このように、各撮像部200a、200bにおける発光部、及び受光部(第1の発光部202aと第1の受光部204a、あるいは、第2の発光部202bと第2の受光部204b)は、第1、第2の条件を満たすように配置され、
第1の条件は、
θic<θIc(θic1<θIc1、又は、θic2<θIc2)である、
第2の条件は、
各撮像部における発光部、及び受光部(第1の発光部202aと第1の受光部204a、あるいは、第2の発光部202bと第2の受光部204b)が、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を2分割した場合における同じ側の空間に位置すること、
又は、
各撮像部における発光部、及び受光部(第1の発光部202aと第1の受光部204a、あるいは、第2の発光部202bと第2の受光部204b)が、車体座標系におけるXY平面と平行で、基準アイポイントPcを含む平面Scyで車体座標系の空間を2分割した場合における同じ側の空間に位置することである。
これにより、赤外光等の照明光は、受光部としての赤外線カメラ等の光軸(言い換えれば、撮像光の代表的光路である撮像光路Li)よりも外側から、被写体である乗員(運転者等)5に向かうため、例えば、乗員5が装着している眼鏡(サングラスを含む)9のレンズ等で反射して生じる照明光の反射光は、上記の赤外線カメラ等からなる受光部204(204a、204b)に向かわない。
言い換えれば、眼鏡9等で反射して生じる照明光の反射光が、乗員5の、例えば目やその周辺の撮像に及ぼす影響を抑制することができる。
例えば、被写体である乗員5が略正面を向いている状況、言い換えれば、乗員5が前方を見ており、乗員の視線が、車体座標系におけるX軸(前後方向軸)と略平行である状況を想定する。
上記の第2の条件より、発光部と受光部は、平面Scx、あるいは平面Scyによち2分割される2つの空間のうちの同じ空間に位置する。
よって、基準アイポイントPcと反射体(ウインドシールド等)2との間における照明光の代表的光路である照明光路LI(これは赤外線LED等の発光部の光軸とみなすことができる)と、基準アイポイントPcと反射体(ウインドシールド等)との間における、撮像光の代表的光路である撮像光路Li(これは赤外線カメラ等の光軸とみなすことができる)も、同じ空間に位置する。
発光部202(202a、202b)から照射された照明光は、反射体(ウインドシールド等)2で反射されて、照明光路LIを経由して、乗員5の部位(例えば人の顔(目、鼻、耳、口を含むことができる)に進み、その部位で反射する。
その反射光(これを正規の反射光とする)は、上記の撮像光路Li(受光部を構成する赤外線カメラ等の光軸)を経由して進行し、反射体(ウインドシールド等)2で反射して受光部204(204a、204b)に入射され、その受光により得られる電気信号に基づいて人の部位の検出が実施される。
一方、例えば、乗員5が眼鏡(サングラスを含む)9やマスクを着用しており、撮像光である赤外光等が、その眼鏡9等で反射して反射光(不要な外光としての反射光)が生じる場合がある。
ここで、上記の第1の条件から、照明光は、受光部204(204a、204b)を構成する赤外線カメラ等の光軸(言い換えれば、撮像光路Li)よりも外側から眼鏡9等に入射する。
ここで不要な反射が生じるが、照明光は、眼鏡9等に対して浅い入射角で入射するため、全反射により生じる不要な反射光は、発光部202(202a又は202b)及び受光部204(204a又は204b)が属する空間とは反対側の空間へと向かう。
このため、不要な反射光が、人の部位の検出に用いられる正規の反射光に重畳することが抑制され、よって、検出精度の低下が抑制される。
このように、発光部と受光部を、上記の第1の条件、第2の条件を満たすように配置することで、不要な外光としての反射光が撮像装置へと入射することが抑制され、よって、人の部位の検出精度の低下が抑制され得る。
次に、図4を参照する。図4は、第1の撮像部、第2の撮像部の各々を用いて、乗員の顔を撮像して得られる撮像画像の例を示す図である。
図4においては、発光部として複数の(ここでは2つの)発光部を設け、各発光部を切り替えて使用する例や、図3のA-1、A-2に示した、複数(ここでは2つ)の撮像部を用いる例における効果等について説明する。
図4のA-1は、図3のA-1と同じである。図4のA-2には、第1の撮像部200aにより撮像されて得られた撮像画像の例が示されている。乗員5の右目付近において、眼鏡9のレンズにおける照明光の反射パターンが存在し、右目の特徴量の検出が困難な状況である。
一方、第2の撮像部200bにて撮像されて得られる撮像画像には、照明光の反射パターンは存在せず、顔11の全体を検出することが可能である。
よって、図4のA-2、A-3に示される2つの撮像画像を併用し、特徴量の検出が困難となった部位(ここでは右目)付近の画像を、障害が生じていない他の撮像画像を用いて補完したり、補正したりすることで、欠損がない状態の顔11等の検出が可能となる。
以下、具体的に説明する。
図4のA-1の例では、照明光を出射する発光部として、第1の発光部202aと、第2の発光部202bとが設けられると共に、制御部220は、第1、第2の発光部202a、202bの何れを用いて被写体としての乗員5を照明するかを、適宜、切り替えることができる。
この場合、第2の発光部202bは、第3の条件を満たすように配置してもよい、
第3の条件は、
第2の発光部202bが、車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における、第1の発光部202aが位置する空間とは反対側の空間に位置すること、
又は、
第2の発光部202bが、車体座標系におけるXY平面と平行で、基準アイポイントPcを含む平面Scyで車体座標系の空間を2分割した場合における、第1の発光部202aが位置する空間とは反対側の空間に位置することである。
言い換えれば、発光部として、第1、第2の発光部202a、202bが設けられる場合には、第2の発光部202bは、基準アイポイントPcを含む平面Scx、あるいはScyにて車体座標系の空間を2分割した場合における、第1の発光部202aとは反対側の空間に配置され、かつ、制御部220は、各発光部202a、202bの発光(点灯及び消灯)を切り替えることができる。
例えば、乗員5が顔の向きを変えたことにより、図4のA-2の例のように、一方の発光部(ここでは、第1の発光部202a)から出射された照明光が、乗員5が装着している眼鏡9等のレンズで反射し不要な反射光が生じ、その不要な反射光が撮像部(ここでは第1の撮像部200aの受光部204a)にも入射して、その結果、撮像画像に不要な反射パターンが生じる場合がある。
このような場合には、制御部220が、第1、第2の発光部202a、202bを切り替え制御し、例えば、一方の発光部を消灯し、他方の発光部を点灯することができる。
第1、第2の発光部202a、202bを切り替えることで、眼鏡9等への照明光の入射方向や入射角度が変化する。よって、照明光が眼鏡9等のレンズで反射して生じる撮像光が、撮像装置(撮像装置の撮像部における受光部)に向かうことを抑制することができる。よって、撮像画像に基づいて、例えば、乗員5の目やその周辺を検出する場合における検出精度の低下を抑制することができる。
次に、複数(ここでは2つ)の撮像部を設け、撮像に際しては、各撮像部に含まれる発光部と受光部の中から、撮像に用いる発光部と受光部を、適宜、選択する例について説明する。
図4のA-1で示したように、撮像部として、第1の撮像部200aと、第2の撮像部200bが設けられる場合は、第2の撮像部200bは、第4の条件を満たすように配置する、
第4の条件は、 第2の撮像部200bが、車体座標系におけるZX平面と平行で、基準アイポイントPcを含む平面Scxで車体座標系の空間を2分割した場合における、第1の撮像部200aが位置する空間とは反対側の空間に位置すること、
又は、
第2の撮像部200bが、車体座標系におけるXY平面と平行で、基準アイポイントPcを含む平面Scyで車体座標系の空間を2分割した場合における、第1の撮像部200aが位置する空間とは反対側の空間に位置することであり、
かつ、
第1の撮像部200aにおける発光部、及び受光部を、第1の発光部202a、及び第1の受光部204aとし、
第2の撮像部200bにおける発光部、及び受光部を、第2の発光部202b、及び第2の受光部204bとする場合に、
第1の発光部と前記1の受光部は、第1の条件、及び第2の条件を満たすように配置されており、
第2の発光部202bと第2の受光部204bも、上記の第1の条件、及び第2の条件を満たすように配置されており、
制御部(撮像制御部)220は、第1の発光部202a、第2の発光部202b、第1の受光部204a、第2の受光部204bの何れを用いるかを、個別に選択することができるようにしてもよい。
例えば、発光部の切り替えを行った場合でも、眼鏡9のレンズ等による反射を防ぎきれない場合があり得る。このような場合には、発光部のみならず、受光部も含めて、使用するデバイスを適宜、選択する(切り替える)ことによって、不要な反射光による人の部位の検出精度の低下を抑制する効果を、さらに高めることができる。
例えば、第1の撮像部200a(第1の発光部202aと第1の受光部204a)を用いた場合は、不要な反射パターンが撮像画像に生じたとする。しかし、この場合でも、第2の撮像部200b(第2の発光部202bと第2の受光部204b)を用いると、撮像画像において不要な反射パターンの影響を低減できる可能性が高い(図4のA-1、A-2の例を参照)。
例えば、眼鏡9のレンズ等による不要な反射光は、第2の撮像部200bにおける第2の受光部204bには入射しない可能性がある。
また、仮に、不要な反射光が第2の受光部204bに入射する場合であっても、撮像画像上の不要な反射パターンの位置は、第1の撮像部200bを使用した場合における、撮像画像上の不要な反射パターンの位置とは異なる。
よって、第1の撮像部200aを用いたときに、不要な反射パターンが重畳して、特徴量の検出ができない箇所(例えば、右目が検出できないとする)があったときでも、第2の撮像部200bを使用すれば、不要な反射光パターンの位置がずれるため、第1の撮像部200aによる撮像画像では特徴量が検出できなかった箇所(ここでは右目)は、第2の撮像部200bによる撮像画像では検出が可能となる。
よって、例えば、第1、第2の各撮像部200a、200bにより得られる撮像データを併せて用いる(例えば、一方の撮像画像で検出不能となった箇所を、他方の撮像画像における、対応する箇所の画像にて補完するといった補正処理、あるいは、画像合成処理等を実施する)ことによって、被写体全体における情報の欠損を十分に抑制することができる。
また、反射体(ウインドシールド等)2を透過した強い外光(太陽光など)が、例えば第1の撮像部200a(の第1の受光部204a)に入射し、反射体(ウインドシールド等)2で反射して撮像された被写体の画像と重なるような状況が生じ、乗員の目やその周辺の撮像に支障が生じたとする。
この場合でも、第2の撮像部200bを用いた場合は、第2の撮像部200bは第1の撮像部200aとは反対側の空間に配置され、位置が異なることから、強い外光の光路と被写体の撮像光路(撮像光路)がずれる。よって、乗員5の目やその周辺を撮像することが可能である。よって、各撮像画像を併用して、顔等の検出を行うことで、検出精度を向上することができる。
次に、図5を参照する。図5は、生体部位検出装置の構成の一例を示す図である。生体部位検出装置(例えば顔検出装置)110は、撮像装置(反射式撮像装置)201と、生体部位検出処理部230と、を有する。
撮像装置201は、第1、第2の撮像部200a、200bと、撮像制御部(制御部)220と、を有する。
第1の撮像部200aは、第1の発光部(赤外線LED等)202aと、第1の受光部(赤外線カメラ等)204aと、を有する。
第2の撮像部200bは、第2の発光部(赤外線LED等)202bと、第2の受光部(赤外線カメラ等)204bと、を有する。
生体部位検出処理部230は、画像取得部231と、所定のパターンを有する反射光パターンを抽出する反射光パターン抽出部232と、例えば、学習データ等に基づいて反射光パターンの位置、ならびに種類(照明光の反射であるか、太陽光等による反射であるか)を検出する反射光パターン検出部233と、検出結果に基づいて、検出対象である生体の部位(被写体である乗員の部位)を検出する生体部位検出部(例えば顔検出部)236と、結果出力部238と、を有する。
生体部位検出処理部230は、先に説明したように、例えば、1つの撮像部から得られた撮像画像に反射光パターンが存在して、その反射光パターンに重畳される目等の部位の検出ができないときは、他の撮像部で撮像して得られる他の撮像画像における、上記の検出できなかった部位(目等)の画像を用いた画像処理(画像補正や画像合成等)を実施して、顔等の全体の部位の検出を可能とすることも可能である。よって、検出精度が向上する。
次に、図6を参照する。図6は、第1、第2の撮像部を用いて被写体を撮像する場合の、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの一例を示す図である。
図6のA-1は、先に示した図3のA-2と同じである。図6のA-2には、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの一例が示されている。
図6のA-2において、符号D202aは、第1の発光部202aの駆動信号であり、符号D204aは、第1の受光部204aの駆動信号であり、符号D202bは、第2の発光部202bの駆動信号であり、符号D204bは、第2の受光部204bの駆動信号である。この点は、図7のA-2においても同様である。
図6のA-2の例では、期間T1、T3において、第1の撮像部200a(第1の発光部202a、第1の受光部204a)による撮像が実施され、期間T2、T4において、第2の撮像部200b(第2の発光部202b、第2の受光部204b)による撮像が実施される。
図6のA-2の例では、第1、第2の受光部204a、204bは、それぞれの露光期間が重ならないように駆動される。また、第1、第2の各発光部202a、202bの発光期間(照明期間)は、第1、第2の各受光部204a、204bの露光期間と同期している。
次に、図7を参照する。図7は、第1、第2の撮像部を用いて被写体を撮像する場合の、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの他の例を示す図である。
図7のA-1は、先に示した図3のA-2と同じである。図7のA-2には、各撮像部における発光部の点灯タイミング、及び受光部による撮像タイミングの一例が示されている。
図7のA-2では、第1の発光部202aは消灯しており、第2の発光部202bが、期間T1~T4の各々において点灯する。
また、期間T1、T3では、第1の撮像部200aにおける第1の受光部204aによる撮像が実施される。また、期間T2、T4では、第2の撮像部200bにおける第2の受光部204bによる撮像が実施される。
図6の駆動例を採用するか、あるいは、図7の駆動例を採用するかは、反射光パターンの有無、あるいは、反射光パターンが有る場合における、反射光パターンの位置や種類に応じて、選択することができる。
例えば、図5に示した生体部位検出処理部230の反射光パターン検出部233によって反射光パターンが検出され、その位置と種類が特定されると、その情報が、撮像制御部(制御部)220に供給され、撮像制御部(制御部)220は、供給された情報に基づいて、適宜、撮像に使用する発光部と受光部を選択し、適切なタイミングで、各部を駆動する。
また、先に図5に示した生体部位検出処理部230における生体部位検出部(顔検出部)236は、例えば、第1、第2の各受光部204a、204bの双方で取得された画像データを合成し、運転者の3次元的な位置を把握し、顔や目の位置、視線の向き、居眠りや体調不良に伴う姿勢の前傾等を高精度に検出(識別)してもよい。
この検出結果(識別結果)を、例えばヘッドアップディスプレイ(HUD)装置等の車載表示装置における表示にて、乗員(運転者等)に報知してもよい。また、必要に応じて、乗員(運転者等)に警報を発してもよい。
また、撮像制御部(制御部)220は、乗員5が眼鏡等を装着しているか否か、あるいは、乗員の顔の向きを常に監視してもよい。
眼鏡等のレンズによって、例えば第1の発光部202aによる照明光が反射され,目やその周囲を第1の受光部204aにて撮像できなくなる可能性があると判断したときは,図7のA-2の例のように、第1の発光部202aを消灯し,第2の発光部202bを点灯させ、第1、第2の受光部204a、204bによる撮像を実施してもよい。
また、撮像制御部(制御部)220は,第1、第2の受光部204a、204bの双方において、眼鏡のレンズによる反射等の外乱の影響を受けずに乗員の顔を撮像できる状態が継続できている間に、例えば、乗員の顔までの距離と、撮像画像上における、乗員の顔の特徴点同士の位置関係等を学習し、その学習結果を利用して、どちらか一方の受光部のみで得られた撮像データに基づく、乗員の目等の3次元的な位置推定を行ってもよい。
この場合、外乱の影響を受けている側の受光部は、外乱の影響を受け続けていると推定される期間中は撮像を中断してもよい。
(第2の実施形態)
図8を参照する。図8は、赤外光を用いた撮像装置(及び生体部位検出装置)を備える車載表示装置(ここではヘッドアップディスプレイ(HUD)装置)の構成例、及び、車載表示装置における第1、第2の撮像部の配置例を示す図である。
先に説明した撮像装置201(図1のA-2参照)は、車両1の反射体(ウインドシールド等)2に画像の表示光を照射して、車両1の乗員5に対して画像を表示する、HUD装置(車載表示装置)内に設けられてもよく、あるいは、画像表示装置(車載表示装置)と一体的に設けられてもよい。これにより、装置(システム)全体の小型化等を推進することができる。
図8において、HUD装置100は、筐体116と、筐体に設けられる透光カバー112と、筐体116(ここでは、先に図1に示した撮像装置201における筐体116がHUD装置100の筐体としても使用されるものとし、符号は同一とする)と、画像を表示する表示部102(液晶表示装置等の表示パネル104を備える)と、透光カバー112を経由して反射体(反射透光部材)としてのウインドシールド2に向けて表示光L10を照射する凹面鏡等の曲面ミラー108と、平面ミラー106と、を有する。なお、曲面ミラー108と平面ミラー106は、光学系、光学素子と言い換えることができる。
図8のA-2には、HUD装置100に第1、第2の撮像部200a、200bを組み込んだ場合の、各撮像部200a、200bの配置例が示されている。
図2のA-2において、領域Z1は、表示光L10が出射される領域である。第1の撮像部200aは、乗員5から見て領域Z1の左側に配置され、第2の撮像部200bは、乗員5から見て領域Z1の右側に配置されている。
先に説明したように、第1、第2の発光部202a、202b、第1、第2の受光部204a、204bは、乗員5が通常の姿勢では目視できない位置に設けられているため、HUD装置100全体として、実用に足るデザイン性が確保されている。
また、画像表示装置(車載表示装置)と、赤外光等を用いた生体部位検出装置とが一体化されているため、構成が簡易であり、多機能であり、小型であり、かつ、車内への搭載にも適した画像表示装置(車載表示装置)を得ることができる。
また、先に説明したように、本発明の好ましい実施形態では、受光部(赤外線カメラ等)自体にフィルタ部が設けられているため、これにより、太陽光等の可視光に対する対策はできている。よって、従来に比べて、レイアウト上の制約が緩和されている。言い換えれば、発光部(赤外線LED等)については、配置の自由度が向上している。
したがって、先に説明した第1の条件、第2の条件が満たされる範囲内で、受光部(赤外線カメラ等)と発光部(赤外線LED等)は、各々、最適な位置に、ある程度の自由度をもって配置することができ、よって配置の自由度が向上し、撮像装置の設計が容易化されるという効果が得られる。
また、撮像装置は、画像表示装置に対して、一体化して、あるいは、付属品として組み込まれていてもよい。
また、撮像装置における発光部と受光部を、互いに離れた位置に配置してもよい。例えば、発光部は、撮像手段と離れた位置であって、乗員の顔を直接的に照明できるような位置(例えば、車内の天井やフロントピラーの上側あるいは下側)に配置(設置)してもよい。
以上、本発明について、いくつかの実施形態を用いて説明したが、本発明は、これらに限定されるものではなく、種々、変形、応用が可能である。
本明細書において、車両という用語は、広義に、乗り物としても解釈し得る。また、生体には、人(人体)の他、動物(動物体)も含まれる。また、例えば、人体と同様の構造を備える人形や模型も、生体に含めることができる。また、検出対象である生体の部位(顔、目等)についても、柔軟に、かつ広義に解釈するものとする。例えば、生体の部位には、生体の全体(例えば生体の全体形状等)も含めることができる。
画像表示装置(車載表示装置、より広義には表示装置)には、シミュレータ(例えば、航空機のシミュレータ、ゲーム装置としてのシミュレータ等)として使用されるものも含まれるものとする。
以上説明したように、本実施形態によれば、外光としての反射光が存在する環境下においても、簡素化された構成を用いて、撮像画像に基づく生体(人体)の部位の検出精度の低下を抑制することができる。
本発明は、上述の例示的な実施形態に限定されず、また、当業者は、上述の例示的な実施形態を特許請求の範囲に含まれる範囲まで、容易に変更することができるであろう。
1・・・車両、2・・・反射体(ウインドシールド等)、4・・・インストルメントパネル(あるいはダッシュボード)、5・・・乗員(運転者等、人)、6・・・目(視点)、8・・・ステアリングホイール、9・・・眼鏡、12・・・窓部(開口部)、13・・・フィルタ部(RFフィルタ等)、16L、16R・・・フロントピラー(Aピラー)、100・・・HUD装置(画像表示装置、車載表示装置)、102・・・表示部、104・・・液晶表示装置等の表示パネル、106・・・平面ミラー、108・・・曲面ミラー(凹面鏡等)、110・・・生体部位検出装置(顔検出装置)、112・・・透光カバー、200・・・撮像部、201・・・撮像装置(反射式撮像装置)、202(202a、202b)・・・発光部(照明部、照明ユニット、赤外線LED等)、204(204a、204b)・・・受光部(受光ユニット、撮像ユニット、赤外線カメラ等)、220・・・撮像制御部(制御部)、230・・・生体部位検出処理部、231・・・画像取得部、232・・・反射光パターン抽出部、233・・・反射光パターン検出部、236・・・生体部位検出部(顔検出部)、238・・・結果出力部、Pc・・・基準アイポイント(両目の中点に位置するセンターアイポイント)、Lc・・・基準直線(直線)、LI・・・照明光路、Li・・・撮像光路、FR・・・視界(視野範囲)、PrI(PrI1、PrI2)・・・反射体上での照明光の反射点、Pri(Pri1、Pri2)・・・反射体上での撮像光の反射点、L10・・・表示光、Z1・・・表示光(可視光)が出射される領域。

Claims (6)

  1. 車両の乗員である被写体の部位の撮像に用いられる撮像装置であって、
    前記車両の乗員である被写体の部位の検出に用いられる光のうち、
    反射体で反射して前記被写体の部位に照射される光を照明光とし、
    前記照明光が、撮像対象である前記被写体の部位で反射し、さらに前記反射体で反射して前記撮像装置に戻る光を撮像光とする場合において、
    前記照明光を発光する発光部と、
    前記撮像光を受光する受光部と、
    前記発光部、及び前記受光部の動作を制御する制御部と、
    を備える撮像部を有し、
    前記車両の前後方向に配置される車体座標系の座標軸をX軸とし、
    前記X軸に直交すると共に、前記車両の左右方向に配置される座標軸をY軸とし、
    前記X、Yの各座標時軸に直交すると共に、前記車両の高さ方向に配置される座標軸をZ軸とし、
    前記被写体としての前記車両の前記乗員の代表的な目の位置として定められる、前記車体座標系における点を基準アイポイントPcとし、
    前記被写体としての前記車両の前記乗員の前記基準アイポイントPcを通り、前記X軸と平行な直線を基準直線Lcとし、
    前記基準アイポイントPcと前記反射体との間における、前記照明光の代表的光路を照明光路LIとし、
    前記基準アイポイントPcと前記反射体との間における、前記撮像光の代表的光路を撮像光路Liとし、
    前記照明光路LIが前記基準直線Lcとなす角度をθIcとし、
    前記撮像光路Liが前記基準直線Lcとなす角度をθicとする場合に、
    前記発光部、及び前記受光部は、第1及び第2の条件を満たすように配置されている、
    前記第1の条件は、
    θic<θIcである、
    前記第2の条件は、
    前記発光部、及び前記受光部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における同じ側の空間に位置すること、
    又は、
    前記発光部、及び前記受光部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における同じ側の空間に位置することである、
    撮像装置。
  2. 前記照明光を出射する発光部として、第1の発光部と、第2の発光部とが設けられると共に、
    前記制御部は、前記第1、第2の発光部の何れを用いて前記被写体を照明するかを切り替えることができ、
    前記第2の発光部は、第3の条件を満たすように配置されている、
    前記第3の条件は、
    前記第2の発光部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における、前記第1の発光部が位置する空間とは反対側の空間に位置すること、
    又は、
    前記第2の発光部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における、前記第1の発光部が位置する空間とは反対側の空間に位置することである、
    請求項1に記載の撮像装置。
  3. 前記撮像部として、第1の撮像部と、第2の撮像部とが設けられ、
    前記第2の撮像部は、第4の条件を満たすように配置されている、
    前記第4の条件は、
    前記第2の撮像部が、前記車体座標系におけるZX平面と平行で、前記基準アイポイントPcを含む平面Scxで前記車体座標系の空間を2分割した場合における、前記第1の撮像部が位置する空間とは反対側の空間に位置する、
    又は、
    前記第2の撮像部が、前記車体座標系におけるXY平面と平行で、前記基準アイポイントPcを含む平面Scyで前記車体座標系の空間を2分割した場合における、前記第1の撮像部が位置する空間とは反対側の空間に位置することであり、
    かつ、
    前記第1の撮像部における発光部、及び受光部を、第1の発光部、及び第1の受光部とし、
    前記第2の撮像部における発光部、及び受光部を、第2の発光部、及び第2の受光部とする場合に、
    前記第1の発光部と前記1の受光部は、前記第1の条件、及び前記第2の条件を満たすように配置されており、
    前記第2の発光部と前記2の受光部も、前記第1の条件、及び前記第2の条件を満たすように配置されており、
    前記制御部は、前記第1の発光部、前記第2の発光部、前記第1の受光部、前記第2の受光部の何れを用いるかを選択することができる、
    請求項1に記載の撮像装置。
  4. 前記受光部は、可視光を遮蔽し、前記照明光、及び前記撮像光を透過するフィルタ部を有し、
    前記発光部は、前記車両の前記乗員が、少なくとも直接的には見ることができない位置に設けられている、
    請求項1に記載の撮像装置。
  5. 前記撮像装置は、
    前記車両の前記反射体に画像の表示光を照射して、前記車両の前記乗員に対して画像を表示する画像表示装置内に設けられる、
    又は、
    前記画像表示装置と一体的に設けられる、
    請求項1に記載の撮像装置。
  6. 撮像画像に基づいて、被写体としての車両の乗員の部位を検出する生体部位検出装置であって、
    第1乃至第5の何れか1項に記載の撮像装置と、
    前記撮像装置により取得された撮像画像に基づいて、生体の部位を検出する生体部位検出処理部と、
    を有する、
    生体部位検出装置。
JP2022191342A 2022-11-30 2022-11-30 撮像装置、及び生体部位検出装置 Pending JP2024078785A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2022191342A JP2024078785A (ja) 2022-11-30 2022-11-30 撮像装置、及び生体部位検出装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022191342A JP2024078785A (ja) 2022-11-30 2022-11-30 撮像装置、及び生体部位検出装置

Publications (1)

Publication Number Publication Date
JP2024078785A true JP2024078785A (ja) 2024-06-11

Family

ID=91391628

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022191342A Pending JP2024078785A (ja) 2022-11-30 2022-11-30 撮像装置、及び生体部位検出装置

Country Status (1)

Country Link
JP (1) JP2024078785A (ja)

Similar Documents

Publication Publication Date Title
US7969383B2 (en) Interactive data view and command system
KR102252759B1 (ko) 사용자의 시야에 가상 이미지를 중첩시키기 위한 디스플레이 장치
JP6497158B2 (ja) 表示装置、移動体
ES2327633T3 (es) Instalacion para ver y seguir un ojo y la direccion de la mirada del mismo.
US6920234B1 (en) Method and device for monitoring the interior and surrounding area of a vehicle
US11394952B2 (en) Imaging device and vehicular display device
JPWO2015012280A1 (ja) 視線検出装置
WO2003074307A1 (en) Enhanced vision for driving
JP6706802B2 (ja) 表示システム、電子ミラーシステム及びそれを備える移動体
US10528128B1 (en) Head-mounted display devices with transparent display panels for eye tracking
US11697381B2 (en) Device and method for operating an object detection system for the passenger compartment of a motor vehicle, and a motor vehicle
US20150124097A1 (en) Optical reproduction and detection system in a vehicle
JP7018634B2 (ja) 眼球運動測定装置及び眼球運動解析システム
WO2019238854A1 (en) Head-up-display
JP4528980B2 (ja) 瞳孔検出装置及び瞳孔検出方法
JP2019151314A (ja) 表示システム、電子ミラーシステム及びそれを備える移動体
JP2021102428A (ja) 表示システム
JP2024078785A (ja) 撮像装置、及び生体部位検出装置
US20170299861A1 (en) Display unit for vehicle head-up display system
US11810372B2 (en) Multiple in-cabin cameras and lighting sources for driver monitoring
US10706600B1 (en) Head-mounted display devices with transparent display panels for color deficient user
JP2020149431A (ja) 運転支援システム
JP6617752B2 (ja) 撮像装置及び車両用表示装置
JP2020148974A (ja) ヘッドアップディスプレイ装置
JPWO2019124323A1 (ja) 虚像表示装置、およびヘッドアップディスプレイ装置