JP4666062B2 - 画像撮影装置および方法 - Google Patents

画像撮影装置および方法 Download PDF

Info

Publication number
JP4666062B2
JP4666062B2 JP2008293329A JP2008293329A JP4666062B2 JP 4666062 B2 JP4666062 B2 JP 4666062B2 JP 2008293329 A JP2008293329 A JP 2008293329A JP 2008293329 A JP2008293329 A JP 2008293329A JP 4666062 B2 JP4666062 B2 JP 4666062B2
Authority
JP
Japan
Prior art keywords
image
light
irradiation
difference
luminance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008293329A
Other languages
English (en)
Other versions
JP2010124043A (ja
Inventor
敦 志村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2008293329A priority Critical patent/JP4666062B2/ja
Priority to US12/612,220 priority patent/US8208027B2/en
Priority to DE102009046481.6A priority patent/DE102009046481B4/de
Publication of JP2010124043A publication Critical patent/JP2010124043A/ja
Application granted granted Critical
Publication of JP4666062B2 publication Critical patent/JP4666062B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Description

本発明は、光を照射して、照射した光の反射光を受光することにより画像を撮影する画像撮影装置および方法に関する。
近年、人間の顔を撮像した画像データに基づいて顔向きや視線を検出する技術を自動車に適用することにより、運転者の脇見を判断したり、顔特徴点の位置変化に基づいて運転者の生理状態または心理状態を推定したりすることで、自動車の安全性、利便性、及び快適性を向上させる運転支援システムが提案されている(例えば、特許文献1を参照)。
また従来、人間の顔に近赤外線を照射し、近赤外線が照射されたときの人間の顔を撮影するとともに、近赤外線が照射されていないときの人間の顔を撮影する撮影方法が知られている(例えば、特許文献2を参照)。この撮影方法によれば、近赤外線が照射されたときの撮影画像と、近赤外線が照射されていないときの撮影画像とを差分した差分画像を作成することで、太陽光などの外乱光の影響が低減された撮影画像を取得することができる。
しかしながら、眼鏡を装着した人間の顔に近赤外線を照射すると、眼鏡のレンズ部分やフレーム部分において近赤外線が反射することにより高輝度となった部分が撮影画像上に現れることがある。
この高輝度部分を除去するために、種々の方法が提案されている。例えば、撮影画像を構成する画素の輝度ヒストグラムを作成し、或る閾値以上の輝度を有する画素を高輝度部分と特定するとともに、この高輝度部分の輝度を周辺画素の輝度の平均値で置換することにより、高輝度部分の輝度を再現するものが知られている(例えば、特許文献3を参照)。また、人間の眼球からの反射像を抽出するための第1の閾値と、人間が装着する眼鏡からの反射像を抽出するための第2の閾値とを有し、撮影画像について第1の閾値と第2の閾値を用いて処理した2値化処理画像の形状に基づいて、眼鏡からの反射像を除去するものが知られている(例えば、特許文献4を参照)。
特開2006−231963号公報 特開2007−4448号公報 特開2002−269545号公報 特開平8−185503号公報
しかしながら、上記特許文献3,4に記載の技術では、閾値の大きさによっては、近赤外線の反射とは無関係の画素を検出したり、近赤外線の反射による高輝度部分を検出することができなかったりする場合がある。このため、実用面で、高輝度部分の検出の信頼性に問題があった。
さらに、上記特許文献3に記載の技術では、高輝度部分の輝度を周辺画素の輝度の平均値で置換するため、置換された部分で画像がボケたり、輝度ムラが生じたりするおそれがある。すなわち、高輝度部分の画素の輝度の再現性に問題があった。
本発明は、こうした問題に鑑みなされたものであり、高輝度部分の検出の信頼性と、近赤外線の反射による高輝度部分の輝度の再現性とを向上させる技術を提供することを目的とする。
上記目的を達成するためになされた請求項1に記載の画像撮影装置では、近赤外光を照射する第1光照射手段および第2光照射手段が、第1光照射手段により照射される光が通過する領域である第1照射領域と、第2光照射手段により照射される光が通過する領域である第2照射領域とが一部重なるように、光を照射する。また、光を受光することによって画像を撮影する撮像手段が、第1光照射手段および第2光照射手段により照射された光のうちで、第1照射領域と第2照射領域とが重なる照射重複領域内に配置された物体で反射した光を受光することができる位置に配置される。
そして第1照射制御手段が、第1光照射手段および第2光照射手段のうち第1光照射手段のみに光を照射させるとともに、第1画像取得手段が、第1光照射手段および第2光照射手段のうち第1光照射手段のみが光を照射しているときに撮像手段により撮影された画像を取得する。
さらに第2照射制御手段が、第1光照射手段および第2光照射手段のうち第2光照射手段のみに光を照射させるとともに、第2画像取得手段が、第1光照射手段および第2光照射手段のうち第2光照射手段のみが光を照射しているときに撮像手段により撮影された画像を取得する。さらに、第3画像取得手段が、第1光照射手段および第2光照射手段が共に近赤外光を照射していないときに撮像手段により撮影された画像を取得する。そして、第1非照射差分画像作成手段が、第1画像取得手段により取得された画像である第1撮影画像の輝度と、第3画像取得手段により取得された画像である第3撮影画像の輝度とが差分された画像である第1非照射差分画像を作成するとともに、第2非照射差分画像作成手段が、第2画像取得手段により取得された画像である第2撮影画像の輝度と、第3撮影画像の輝度とが差分された画像である第2非照射差分画像を作成する。
このように構成された画像撮影装置では、撮像手段が、照射重複領域内に配置された物体(以下、撮影対象物体ともいう)で反射した光を受光することができる位置に配置されている。このため撮像手段は、第1光照射手段が撮影対象物体に光を照射したときの撮影対象物体と、第2光照射手段が撮影対象物体に光を照射したときの撮影対象物体を撮影することができる。
そして、第1照射領域と第2照射領域とが一部重なっている。すなわち、第1照射領域と第2照射領域は同一ではない。このため、第1光照射手段が、撮影対象物体に光を照射し、この照射光が撮影対象物体上で反射することにより高輝度となる、撮影対象物体上の位置(以下、第1反射高輝度位置ともいう)と、第2光照射手段が撮影対象物体に光を照射し、この照射光が撮影対象物体上で反射することにより高輝度となる、撮影対象物体上の位置(以下、第2反射高輝度位置ともいう)とが異なる。
すなわち、第1画像取得手段が取得した第1撮影画像では、第1反射高輝度位置において画像情報が失われているのに対し、第2画像取得手段が取得した第2撮影画像では、第1反射高輝度位置において画像情報が失われていない。同様に、第2画像取得手段が取得した第2撮影画像では、第2反射高輝度位置において画像情報が失われているのに対し、第1画像取得手段が取得した第1撮影画像では、第2反射高輝度位置において画像情報が失われていない。
このため、例えば、以下に示す手順で、高輝度部分を再現した画像を作成することができる。
まず、第1非照射差分画像第2非照射差分画像とを差分した画像(以下、第1差分画像ともいう)を作成する。
ここで、第1非照射差分画像における第1反射高輝度位置では高輝度になっているのに対し、第2非照射差分画像における第1反射高輝度位置では高輝度になっていない。同様に、第2非照射差分画像における第2反射高輝度位置では高輝度になっているのに対し、第1非照射差分画像における第2反射高輝度位置では高輝度になっていない。そして、第1反射高輝度位置および第2反射高輝度位置以外の部分において、第1非照射差分画像第2非照射差分画像とで重複している部分の輝度が、第1非照射差分画像第2非照射差分画像とで同じであるとする。
この場合に、第1差分画像は、第1非照射差分画像第2非照射差分画像とで重複している部分において、第1反射高輝度位置と第2反射高輝度位置で高輝度となり、第1反射高輝度位置と第2反射高輝度位置以外では、輝度が0となる。
これにより第1差分画像では、第1反射高輝度位置と第2反射高輝度位置のみで高輝度となる。このため、高輝度部分を検出することができる。
したがって、高輝度部分を検出するために閾値を用いる必要がない。これにより、閾値の大きさによって、高輝度部分ではない部分を検出してしまったり、高輝度部分を検出することができなかったりすることがない。このため、高輝度部分の検出の信頼性を向上させることができる。
そして次に、第1非照射差分画像と第1差分画像と比較する。これにより、第1非照射差分画像における高輝度部分を特定することができる。さらに、第2非照射差分画像と第1差分画像と比較する。これにより、第2撮影画像における高輝度部分を特定することができる。
その後、第1非照射差分画像の第1反射高輝度位置における画像情報を、第2非照射差分画像の第1反射高輝度位置における画像情報に置き換えるか、第2非照射差分画像の第2反射高輝度位置における画像情報を、第1非照射差分画像の第2反射高輝度位置における画像情報に置き換える。これにより、高輝度部分の輝度を再現することができる。
すなわち、高輝度部分の輝度を周辺画素の輝度に基づいて置換する必要がなく、実際に撮影した画像に基づいて置換するため、高輝度部分の輝度の再現性を向上させることができる。
また請求項1に記載の画像撮影装置では、高輝度部分を再現した画像を作成するために、画像加算手段が、第1非照射差分画像の輝度と、第2非照射差分画像の輝度とが加算された画像である加算画像を作成し、第1画像差分手段が、第1非照射差分画像の輝度と第2非照射差分画像の輝度との差分の絶対値を示す画像である第1差分画像を作成し、第2画像差分手段が、画像加算手段により作成された加算画像の輝度と、第1画像差分手段により作成された第1差分画像の輝度とが差分された画像である第2差分画像を作成するようにしてもよい。
なお、「第1非照射差分画像の輝度と第2非照射差分画像の輝度とを加算する」ということは、第1非照射差分画像第2非照射差分画像において、撮影対象物体の位置が同じである部分の輝度を加算するということである。また、「第1非照射差分画像の輝度と第2非照射差分画像の輝度とを差分する」ということは、第1非照射差分画像第2非照射差分画像において、撮影対象物体の位置が同じである部分の輝度を差分するということである。同様に、「加算画像の輝度と第1差分画像の輝度とを差分する」ということは、加算画像と第1差分画像において、撮影対象物体の位置が同じである部分の輝度を差分するということである。
以下に、請求項1に記載の画像撮影装置により、高輝度部分を再現した画像を作成可能であることを説明する。
まず、第1非照射差分画像の第1反射高輝度位置における輝度をA1、第1非照射差分画像の第1反射高輝度位置以外における輝度をA2、第2非照射差分画像の第2反射高輝度位置における輝度をB1、第2非照射差分画像の第2反射高輝度位置以外における輝度をB2とする。なお、輝度A1および輝度B1は、輝度A2および輝度B2よりも大きいとする。また、輝度A2と輝度B2の輝度は同一であるとする。
この場合に、画像加算手段により作成される加算画像の第1反射高輝度位置における輝度C1、第2反射高輝度位置における輝度C2、第1反射高輝度位置および第2反射高輝度位置以外の輝度C3はそれぞれ、式(1)、式(2)、式(3)で表される。
C1 = A1+B2 ・・・(1)
C2 = A2+B1 ・・・(2)
C3 = A2+B2 ・・・(3)
また、第1画像差分手段により作成される第1差分画像の第1反射高輝度位置における輝度D1、第2反射高輝度位置における輝度D2、第1反射高輝度位置および第2反射高輝度位置以外の輝度D3はそれぞれ、式(4)、式(5)、式(6)で表される。
D1 = |A1−B2| = A1−B2 ・・・(4)
D2 = |A2−B1| = B1−A2 ・・・(5)
D3 = |A2−B2| = 0 ・・・(6)
したがって、第2画像差分手段により作成される第2差分画像の第1反射高輝度位置における輝度E1、第2反射高輝度位置における輝度E2、第1反射高輝度位置および第2反射高輝度位置以外の輝度E3はそれぞれ、式(7)、式(8)、式(9)で表される。
E1 = C1−D1 = (A1+B2)―(A1−B2) = 2×B2 ・・・(7)
E2 = C2−D2 = (A2+B1)―(B1−A2) = 2×A2 ・・・(8)
E3 = C3−D3 = (A2+B2)―0 = A2+B2 ・・・(9)
すなわち、第2差分画像の第1反射高輝度位置における輝度E1を、式(7)に示すように、第2非照射差分画像の第1反射高輝度位置における輝度B2に対応した値にすることができる。また、第2差分画像の第2反射高輝度位置における輝度E2を、式(8)に示すように、第1非照射差分画像の第2反射高輝度位置における輝度A2に対応した値にすることができる。
つまり、第1非照射差分画像の第1反射高輝度位置における画像情報を、第2非照射差分画像の第1反射高輝度位置における画像情報に置き換えるとともに、第2非照射差分画像の第2反射高輝度位置における画像情報を、第1非照射差分画像の第2反射高輝度位置における画像情報に置き換えることにより、高輝度部分の輝度を再現することができる。また、第3画像取得手段により撮影された画像(第3撮影画像)は、近赤外光以外の光(例えば、太陽光などの外乱光)の影響を含む一方、近赤外光の影響を含まない画像となる。このため、第1撮影画像または第2撮影画像と、第3撮影画像とを差分した差分画像を作成することにより、近赤外光以外の光の影響が低減された撮影画像を取得することができる。
また、請求項1に記載の画像撮影装置では、請求項2に記載のように、撮像手段が、第1光照射手段が配置される位置と第2光照射手段が配置される位置との間の中間的な位置に配置されるようにするとよい。
このように構成された画像撮影装置では、第1光照射手段または第2光照射手段が配置される位置に近接した位置に撮像手段が配置される場合と比較して、第1撮影画像内に示される撮影対象物体の像と、第2撮影画像内に示される撮影対象物体の像との相違が小さくなる。すなわち、第1撮影画像内に示される撮影対象物体と第2撮影画像内に示される撮影対象物体とで重複する領域が多くなる。つまり、撮像手段が撮影した画像について、高輝度部分の輝度を再現することができる領域を多くすることができる。
また、請求項1または請求項2に記載の画像撮影装置では、請求項3に記載のように、第1照射制御手段および第2照射制御手段はそれぞれ、第1光照射手段および第2光照射手段に、交互に光を照射させ、第1画像取得手段は、第1光照射手段が光を照射する毎に第1撮影画像を取得し、第2画像取得手段は、第2光照射手段が光を照射する毎に第2撮影画像を取得し、画像加算手段は、第1画像取得手段および第2画像取得手段の何れかが画像を取得する毎に、第1画像取得手段により取得された最新の第1撮影画像と、第2画像取得手段により取得された最新の第2撮影画像とを用いて、加算画像を作成し、第1画像差分手段は、第1画像取得手段および第2画像取得手段の何れかが画像を取得する毎に、第1画像取得手段により取得された最新の第1撮影画像と、第2画像取得手段により取得された最新の第2撮影画像とを用いて、第1差分画像を作成するようにしてもよい。
このように構成された画像撮影装置では、第1光照射手段および第2光照射手段の何れかが光を照射する毎に、加算画像および第1差分画像が作成される。このため第2画像差分手段は、第1光照射手段および第2光照射手段の何れかが光を照射する毎に、第2差分画像、すなわち高輝度部分を再現した画像を作成することができる。
ところで、車両を運転する運転者の顔向きや視線を検出するために運転者の顔を撮影する場合に、運転者が装着している眼鏡のレンズ部分やフレーム部分において光が反射することにより高輝度となった部分が発生すると、運転者の眼の画像情報が得られなくなり、運転者の顔向きや視線の検出精度が低下するおそれがある。
そこで、請求項1〜請求項3の何れかに記載の画像撮影装置では、請求項4に記載のように、当該画像撮影装置は、車両に搭載され、照射重複領域内に配置された物体は、車両を運転する運転者の頭であり、第1光照射手段および第2光照射手段は、運転者の顔に向けて光を照射するようにしてもよい。
このように構成された画像撮影装置では、運転者の顔を撮影した画像について、高輝度部分を再現性よく再現した画像を作成することができる。このため、運転者の顔を撮影した画像について運転者の眼の部分が高輝度になっても、運転者の眼の部分の画像情報を再現することができるため、運転者の顔向きや視線の検出精度を向上させることができる。
また請求項4に記載の画像撮影装置では、運転者の顔に向けて光を照射して運転者の顔を撮影するため、請求項5に記載のように、第1光照射手段、第2光照射手段、及び撮像手段は、車両のインストルメントパネルまたはステアリングコラムの付近に配置されるようにしてもよい。車両のインストルメントパネルまたはステアリングコラムは、運転席の前方に配置されているからである。
また請求項6に記載の画像撮影方法では、第1照射制御手順で、第1光照射手段および第2光照射手段のうち第1光照射手段のみに光を照射させるとともに、第1画像取得手順で、第1光照射手段および第2光照射手段のうち第1光照射手段のみが光を照射しているときに撮像手段により撮影された画像を取得する。
さらに第2照射制御手順で、第1光照射手段および第2光照射手段のうち第2光照射手段のみに光を照射させるとともに、第2画像取得手順で、第1光照射手段および第2光照射手段のうち第2光照射手段のみが光を照射しているときに撮像手段により撮影された画像を取得する。さらに、第3画像取得手順で、第1光照射手段および第2光照射手段が共に近赤外光を照射していないときに撮像手段により撮影された画像を取得する。そして、第1非照射差分画像作成手順で、第1画像取得手順により取得された画像である第1撮影画像の輝度と、第3画像取得手順により取得された画像である第3撮影画像の輝度とが差分された画像である第1非照射差分画像を作成するとともに、第2非照射差分画像作成手順で、第2画像取得手順により取得された画像である第2撮影画像の輝度と、第3撮影画像の輝度とが差分された画像である第2非照射差分画像を作成する。
この画像撮影方法は、請求項1に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項1に記載の画像撮影装置と同様の効果を得ることができる。
また請求項6に記載の画像撮影方法では、画像加算手順で、第1非照射差分画像の輝度と、第2非照射差分画像の輝度とが加算された画像である加算画像を作成し、第1画像差分手順で、第1非照射差分画像の輝度と第2非照射差分画像の輝度との差分の絶対値を示す画像である第1差分画像を作成し、第2画像差分手順で、画像加算手順により作成された加算画像の輝度と、第1画像差分手順により作成された第1差分画像の輝度とが差分された画像である第2差分画像を作成する
この画像撮影方法は、請求項1に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項1に記載の画像撮影装置と同様の効果を得ることができる。
また、請求項6に記載の画像撮影方法では、請求項7に記載のように、撮像手段が、第1光照射手段が配置される位置と第2光照射手段が配置される位置との間の中間的な位置に配置されるようにするとよい。
この画像撮影方法は、請求項2に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項2に記載の画像撮影装置と同様の効果を得ることができる。
また、請求項6または請求項7に記載の画像撮影方法では、請求項8に記載のように、第1照射制御手順および第2照射制御手順でそれぞれ、第1光照射手段および第2光照射手段に、交互に光を照射させ、第1画像取得手順で、第1光照射手段が光を照射する毎に第1撮影画像を取得し、第2画像取得手順で、第2光照射手段が光を照射する毎に第2撮影画像を取得し、画像加算手順で、第1画像取得手順および第2画像取得手順の何れかで画像を取得する毎に、第1画像取得手順により取得された最新の第1撮影画像と、第2画像取得手順により取得された最新の第2撮影画像とを用いて、加算画像を作成し、第1画像差分手順で、第1画像取得手順および第2画像取得手順の何れかで画像を取得する毎に、第1画像取得手順により取得された最新の第1撮影画像と、第2画像取得手順により取得された最新の第2撮影画像とを用いて、第1差分画像を作成するようにしてもよい。
この画像撮影方法は、請求項3に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項3に記載の画像撮影装置と同様の効果を得ることができる。
また、請求項6請求項8の何れかに記載の画像撮影方法では、請求項9に記載のように、照射重複領域内に配置された物体は、車両を運転する運転者の頭であり、第1光照射手段および第2光照射手段は、運転者の顔に向けて光を照射するようにしてもよい。
この画像撮影方法は、請求項4に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項4に記載の画像撮影装置と同様の効果を得ることができる。
また請求項9に記載の画像撮影方法では、請求項10に記載のように、第1光照射手段、第2光照射手段、及び撮像手段は、車両のインストルメントパネルまたはステアリングコラムの付近に配置されるようにしてもよい。
この画像撮影方法は、請求項5に記載の画像撮影装置にて実行される方法であり、当該方法を実行することで、請求項5に記載の画像撮影装置と同様の効果を得ることができる。
(第1実施形態)
以下に本発明の第1実施形態について図面とともに説明する。
図1は、本実施形態の画像撮影装置1の構成を示すブロック図である。図2は、車両の運転席から車両前方を眺めた際のカメラ2及び近赤外光照射機4,5の配置を示す図である。
画像撮影装置1は、車両に搭載され、図1に示すように、車両の運転席に座っている人DR(以下、運転者DRという。図3を参照)の顔を連続して撮影するカメラ2と、カメラ2により撮影された画像のデータを一時的に記憶する画像キャプチャーボード3と、運転者の顔に向けて近赤外光を照射する近赤外光照射機4,5と、カメラ2により撮影された画像を用いて画像処理を行うとともにカメラ2及び近赤外光照射機4,5を制御する制御部6とを備えている。
これらのうちカメラ2は、個体撮像素子を二次元格子状に配列することで構成されたイメージセンサ(CCDイメージセンサまたはCMOSイメージセンサ)、及び被写体からの光をイメージセンサ上に集光するレンズ等を用いて構成された周知のものである。
そして、カメラ2が撮影を行うことにより得られる画像データ(以下、撮影画像データという)は、横方向にM個、縦方向にN個の画素が並んで構成されている(M,Nは正の整数)。すなわち撮影画像データは、M個×N個の画素データP(X,Y)から構成されている。Xは画素の横方向の座標値、Yは縦方向の座標値であり、Xについては0,1,2,・・・・M、Yについては0,1,2,・・・・,Nの値が付されている。また画素データP(X,Y)は、(X,Y)の位置に配置された画素の輝度を0〜255の256階調で示す。
さらにカメラ2は、運転者DRの顔を撮影するために、図2に示すように、インストルメントパネルIPの付近に配置されている。
また近赤外光照射機4,5は、例えば波長850nmの近赤外光を照射するLED光源を用いて構成されている。そして近赤外光照射機4,5は、運転者DRの顔に向けて近赤外光を照射するために、インストルメントパネルIPの付近に配置されている。
図3(a)は、カメラ2の撮影可能領域と近赤外光照射機4,5の照射領域を示すためのカメラ2、近赤外光照射機4,5及び運転者DRの平面図である。図3(b)は、図3(a)の側面図である。
また近赤外光照射機4,5は、図3(a)に示すように、近赤外光照射機4により照射される近赤外光が通過する照射領域R1(図3(a)中の直線L1と直線L2とで囲まれる領域)と、近赤外光照射機5により照射される近赤外光が通過する照射領域R2(図3(a)中の直線L3と直線L4とで囲まれる領域)とが一部重なるように近赤外光を照射する。
さらに近赤外光照射機4,5は、図3(a),(b)に示すように、照射領域R1と照射領域R2とが重なる照射重複領域R3内に、運転者DRの頭全体が配置されるように近赤外光を照射する(図3(a)の照射重複領域R3と、図3(b)の直線L5,L6を参照)。
なおカメラ2は、運転者DRの顔全体が撮影可能となるように配置される(図3(a)の直線L11,L12と、図3(b)の直線L13,L14を参照)。またカメラ2は、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置とを結ぶ線上において、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置との略中間点となる位置に配置されている。
また制御部6は、CPU、ROM、RAM、I/O及びこれらの構成を接続するバスラインなどからなる周知のマイクロコンピュータを中心に構成されており、ROM及びRAMに記憶されたプログラムに基づいて各種処理を実行する。
このように構成された画像撮影装置1において、制御部6は、運転者DRの顔を撮影するとともに、撮影した画像から反射光の影響を除去する反射光除去処理を実行する。
ここで、画像撮影装置1の制御部6が実行する反射光除去処理の手順を、図4を用いて説明する。図4は反射光除去処理を示すフローチャートである。この反射光除去処理は、制御部6が起動(電源オン)している間に繰り返し実行される処理である。
この反射光除去処理が実行されると、制御部6は、まずS10にて、第1撮影判定タイマTM1の値(以下、第1撮影判定タイマ値という)が予め設定された撮影間隔判定値(本実施形態では例えば16.6msに相当する値)以上であるか否かを判断する。なお、第1撮影判定タイマTM1は例えば1μsごとに自動的にインクリメントするタイマであり、ある時点でその値が0に設定されると、その時点で再び0からインクリメントする。
ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S10:NO)、S10に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S10:YES)、S20にて、第1撮影判定タイマTM1の値を0に設定する。そしてS30にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(撮影画像データ)を作成する。以下、S30で作成した撮影画像データを非照射撮影画像データCD1という。その後S40にて、S30で作成した非照射撮影画像データCD1を、制御部6内のRAMに記憶する。
次にS50にて、第1撮影判定タイマ値が撮影間隔判定値以上であるか否かを判断する。ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S50:NO)、S50に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S50:YES)、S60にて、第1撮影判定タイマTM1の値を0に設定する。そしてS70にて、近赤外光照射機4に、近赤外光の照射を開始させる。
その後S80にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(撮影画像データ)を作成する。以下、S80で作成した撮影画像データを第1照射撮影画像データCD2という。そしてS90にて、S80で作成した第1照射撮影画像データCD2を、制御部6内のRAMに記憶する。
さらにS100にて、近赤外光照射機4に、近赤外光の照射を終了させる。そしてS110にて、S30で作成した非照射撮影画像データCD1の輝度と、S80で作成した第1照射撮影画像データCD2の輝度とを差分した画像データ(以下、第1差分画像データSD1という)を作成する。
なお、「非照射撮影画像データCD1の輝度と第1照射撮影画像データCD2の輝度とを差分する」とは、非照射撮影画像データCD1を構成する画素データPn(X,Y)と、第1照射撮影画像データCD2を構成する画素データPa(X,Y)について、横方向の座標値と縦方向の座標値が同じ画素データ同士の輝度値を差分することをいう。
すなわち、第1差分画像データSD1について、横方向の座標値がX、縦方向の座標値がYである画素データをPc(X,Y)とすると、式(10)で表される。
Pc(X,Y) = Pa(X,Y)−Pn(X,Y) ・・・(10)
ただし、ノイズによる差分画像の劣化を防ぐために、Pc(X,Y)が0より小さくなる場合には、Pc(X,Y)=0とする。
次にS120にて、第1撮影判定タイマ値が撮影間隔判定値以上であるか否かを判断する。ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S120:NO)、S120に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S120:YES)、S130にて、第1撮影判定タイマTM1の値を0に設定する。そしてS140にて、近赤外光照射機5に、近赤外光の照射を開始させる。
その後S150にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(撮影画像データ)を作成する。以下、S150で作成した撮影画像データを第2照射撮影画像データCD3という。そしてS160にて、S150で作成した第2照射撮影画像データCD3を、制御部6内のRAMに記憶する。
さらにS170にて、近赤外光照射機5に、近赤外光の照射を終了させる。そしてS180にて、S30で作成した非照射撮影画像データCD1の輝度と、S150で作成した第2照射撮影画像データCD3の輝度とを差分した画像データ(以下、第2差分画像データSD2という)を作成する。
なお、「非照射撮影画像データCD1の輝度と第2照射撮影画像データCD3の輝度とを差分する」とは、非照射撮影画像データCD1を構成する画素データPn(X,Y)と、第2照射撮影画像データCD3を構成する画素データPb(X,Y)について、横方向の座標値と縦方向の座標値が同じ画素データ同士の輝度値を差分することをいう。
すなわち、第2差分画像データSD2について、横方向の座標値がX、縦方向の座標値がYである画素データをPd(X,Y)とすると、式(11)で表される。
Pd(X,Y) = Pb(X,Y)−Pn(X,Y) ・・・(11)
ただし、ノイズによる差分画像の劣化を防ぐために、Pd(X,Y)が0より小さくなる場合には、Pc(X,Y)=0とする。
そしてS190にて、S110で作成した第1差分画像データSD1の輝度と、S180で作成した第2差分画像データSD2の輝度とを加算した画像データ(以下、加算画像データAD1という)を作成する。
すなわち、加算画像データAD1について、横方向の座標値がX、縦方向の座標値がYである画素データをPe(X,Y)とすると、式(12)で表される演算を行う。
Pe(X,Y) = Pc(X,Y)+Pd(X,Y) ・・・(12)
さらにS200にて、S110で作成した第1差分画像データSD1の輝度と、S180で作成した第2差分画像データSD2の輝度との差分の絶対値を示す画像データ(以下、差分絶対値画像データSD3という)を作成する。
すなわち、差分絶対値画像データSD3について、横方向の座標値がX、縦方向の座標値がYである画素データをPf(X,Y)とすると、式(13)で表される演算を行う。
Pf(X,Y) = |Pc(X,Y)−Pd(X,Y)| ・・・(13)
そしてS210にて、S190で作成した加算画像データAD1の輝度と、S200で作成した差分絶対値画像データSD3の輝度とを差分した画像データ(以下、第3差分画像データSD4という)を作成する。
すなわち、第3差分画像データSD4について、横方向の座標値がX、縦方向の座標値がYである画素データをPg(X,Y)とすると、式(14)で表される演算を行う。
Pg(X,Y) = Pe(X,Y)−Pf(X,Y) ・・・(14)
ただし、ノイズによる差分画像の劣化を防ぐために、Pg(X,Y)が0より小さくなる場合には、Pg(X,Y)=0とする。
そして、S210の処理が終了すると、反射光除去処理を一旦終了する。
このように構成された画像撮影装置1では、カメラ2が、照射重複領域R3内に配置された運転者DRの頭(以下、撮影対象物体という)で反射した光を受光することができる位置に配置されている。このためカメラ2は、近赤外光照射機4が撮影対象物体に近赤外光を照射したときの撮影対象物体と、近赤外光照射機5が撮影対象物体に近赤外光を照射したときの撮影対象物体を撮影することができる。
そして、照射領域R1と照射領域R2とが一部重なっている。すなわち、照射領域R1と照射領域R2は同一ではない。このため、近赤外光照射機4が、撮影対象物体に近赤外光を照射し、この近赤外光が撮影対象物体上で反射することにより高輝度となる、撮影対象物体上の位置(以下、第1反射高輝度位置LP1ともいう)と、近赤外光照射機5が撮影対象物体に近赤外光を照射し、この近赤外光が撮影対象物体上で反射することにより高輝度となる、撮影対象物体上の位置(以下、第2反射高輝度位置LP2ともいう)とが異なる。
すなわち、S110で作成した第1差分画像データSD1では、第1反射高輝度位置LP1において画像情報が失われているのに対し、S180で作成した第2差分画像データSD2では、第1反射高輝度位置LP1において画像情報が失われていない。同様に、S180で作成した第2差分画像データSD2では、第2反射高輝度位置LP2において画像情報が失われているのに対し、S110で作成した第1差分画像データSD1では、第2反射高輝度位置LP2において画像情報が失われていない。
このため、例えば、以下に示す手順で、高輝度部分を再現した画像を作成することができる。
まず、第1差分画像データSD1と第2差分画像データSD2とを差分した画像(以下、2回差分画像データともいう)を作成する。
ここで、第1差分画像データSD1における第1反射高輝度位置LP1では高輝度になっているのに対し、第2差分画像データSD2における第1反射高輝度位置LP1では高輝度になっていない。同様に、第2差分画像データSD2における第2反射高輝度位置LP2では高輝度になっているのに対し、第1差分画像データSD1における第2反射高輝度位置LP2では高輝度になっていない。そして、第1反射高輝度位置LP1および第2反射高輝度位置LP2以外の部分において、第1差分画像データSD1と第2差分画像データSD2とで重複している部分の輝度が、第1差分画像データSD1と第2差分画像データSD2とで同じであるとする。
この場合に、2回差分画像データは、第1差分画像データSD1と第2差分画像データSD2とで重複している部分において、第1反射高輝度位置LP1と第2反射高輝度位置LP2で高輝度となり、第1反射高輝度位置LP1と第2反射高輝度位置LP2以外では、輝度が0となる。
これにより2回差分画像データでは、第1反射高輝度位置LP1と第2反射高輝度位置LP2のみで高輝度となる。このため、高輝度部分を検出することができる。
したがって、高輝度部分を検出するために閾値を用いる必要がない。これにより、閾値の大きさによって、高輝度部分ではない部分を検出してしまったり、高輝度部分を検出することができなかったりすることがない。このため、高輝度部分の検出の信頼性を向上させることができる。
そして次に、第1差分画像データSD1と2回差分画像データと比較する。これにより、第1差分画像データSD1における高輝度部分を特定することができる。さらに、第2差分画像データSD2と2回差分画像データと比較する。これにより、第2差分画像データSD2における高輝度部分を特定することができる。
その後、第1差分画像データSD1の第1反射高輝度位置LP1における画像情報を、第2撮影画像の第1反射高輝度位置LP1における画像情報に置き換えるか、第2差分画像データSD2の第2反射高輝度位置LP2における画像情報を、第1差分画像データSD1の第2差分画像データSD2における画像情報に置き換える。これにより、高輝度部分の輝度を再現することができる。
すなわち、高輝度部分の輝度を周辺画素の輝度に基づいて置換する必要がなく、実際に撮影した画像に基づいて置換するため、高輝度部分の輝度の再現性を向上させることができる。
また、近赤外光照射機4,5が照射する光は近赤外光であり、近赤外光照射機4,5が共に近赤外光を照射していないときに、カメラ2による撮影を行い、非照射撮影画像データCD1を作成する(S30)。
したがって、非照射撮影画像データCD1は、近赤外光以外の光(例えば、太陽光などの外乱光)の影響を含む一方、近赤外光の影響を含まない画像となる。このため、S80で作成した第1照射撮影画像データCD2またはS150で作成した第2照射撮影画像データCD3と、非照射撮影画像データCD1とを差分した差分画像データ(第1差分画像データSD1または第2差分画像データSD2)を作成することにより、近赤外光以外の光の影響が低減された撮影画像データを取得することができる。
以下に、図4に示す反射光除去処理により、高輝度部分を再現した画像を作成可能であることを、図5及び図6とともに説明する。
図5は、眼鏡を装着した運転者DRの顔を撮影することにより得られる非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3、第1差分画像データSD1、及び第2差分画像データSD2を模式的に示す図である。図6は、眼鏡を装着した運転者DRの顔を撮影することにより得られる第1差分画像データSD1、及び第2差分画像データSD2、加算画像データAD1、差分絶対値画像データSD3、及び第3差分画像データSD4を模式的に示す図である。
非照射撮影画像データCD1は、近赤外光照射機4,5が近赤外光を照射していないときに撮影されたものであるので、図5に示すように、顔全体において輝度が低い画像となる。また第1照射撮影画像データCD2は、運転者DRの右斜め前から近赤外光照射機4が近赤外光を照射しているときに撮影されたものであるので、顔の左端部で輝度が低く、左端部以外で輝度が高い画像となる。また第2照射撮影画像データCD3は、運転者DRの左斜め前から近赤外光照射機5が近赤外光を照射しているときに撮影されたものであるので、顔の右端部で輝度が低く、右端部以外で輝度が高い画像となる。
このため、非照射撮影画像データCD1の輝度と第1照射撮影画像データCD2の輝度とを差分した第1差分画像データSD1は、顔全体のうち左端部が除去された画像となる。また、非照射撮影画像データCD1の輝度と第2照射撮影画像データCD3の輝度とを差分した第2差分画像データSD2は、顔全体のうち右端部が除去された画像となる。
すなわち、第1差分画像データSD1及び第2差分画像データSD2は、近赤外光以外の光を受光することにより撮影された部分が除去された画像となる。
なお、第1差分画像データSD1の第1反射高輝度位置LP1は、第2差分画像データSD2の第2反射高輝度位置LP2と異なる。
ここで図6(a)に示すように、第1差分画像データSD1の第1反射高輝度位置LP1における輝度を230、第1差分画像データSD1の第1反射高輝度位置LP1以外における輝度を100、第2差分画像データSD2の第2反射高輝度位置LP2における輝度を230、第2差分画像データSD2の第2反射高輝度位置LP2における輝度を100とする。
この場合、第1差分画像データSD1の輝度と第2差分画像データSD2の輝度とを加算した加算画像データAD1では、図6(b)に示すように、第1反射高輝度位置LP1及び第2反射高輝度位置LP2において輝度が330、第1反射高輝度位置LP1及び第2反射高輝度位置LP2以外の顔の中央部において輝度が200、顔の左端部および右端部において輝度が100となる。
また、第1差分画像データSD1の輝度と第2差分画像データSD2の輝度との差分の絶対値を示す差分絶対値画像データSD3では、図6(c)に示すように、第1反射高輝度位置LP1及び第2反射高輝度位置LP2において輝度が130、第1反射高輝度位置LP1及び第2反射高輝度位置LP2以外の顔の中央部において輝度が0、顔の左端部および右端部において輝度が100となる。
このため、加算画像データAD1の輝度と差分絶対値画像データSD3の輝度とを差分した第3差分画像データSD4では、図6(d)に示すように、第1反射高輝度位置LP1及び第2反射高輝度位置LP2において輝度が200、第1反射高輝度位置LP1及び第2反射高輝度位置LP2以外の顔の中央部において輝度が200、顔の左端部および右端部において輝度が0となる。すなわち、高輝度部分である第1反射高輝度位置LP1及び第2反射高輝度位置LP2における輝度が再現されている。
次に、本実施形態の画像撮影装置1を用いて反射光除去を行った結果を実施例として以下に説明する。
図7は、「大きい眼鏡」を装着して「正面」に向いている人間HMの顔を撮影することにより得られる非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3、第1差分画像データSD1、第2差分画像データSD2、及び第3差分画像データSD4を示す図である。
図7に示すように、非照射撮影画像データCD1には、人間HMの上方に配置された照明に起因した高輝度部分HB1と、人間HMの後ろに配置されている背景物BOが写っている。
また第1照射撮影画像データCD2には、高輝度部分HB1と背景物BOと、近赤外光照射機4の近赤外光に起因した高輝度部分HB2が写っている。
また第2照射撮影画像データCD3には、高輝度部分HB1と背景物BOと、近赤外光照射機5の近赤外光に起因した高輝度部分HB3が写っている。
そして第1差分画像データSD1には、高輝度部分HB1と背景物BOが写っておらず、高輝度部分HB2が写っている。すなわち第1差分画像データSD1は、近赤外光以外の光を受光することにより撮影された部分(高輝度部分HB1と背景物BO)が除去された画像となる。
同様に第2差分画像データSD2には、高輝度部分HB1と背景物BOが写っておらず、高輝度部分HB3が写っている。すなわち第2差分画像データSD2は、近赤外光以外の光を受光することにより撮影された部分(高輝度部分HB1と背景物BO)が除去された画像となる。
そして第3差分画像データSD4には、高輝度部分HB1、背景物BO、高輝度部分HB2、及び高輝度部分HB3が写っていない。すなわち第3差分画像データSD4は、近赤外光以外の光を受光することにより撮影された部分が除去されるとともに、高輝度部分HB2及び高輝度部分HB3が再現された画像となる。
図8は、「小さい眼鏡」を装着して「正面」に向いている人間の顔を撮影することにより得られる非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3、第1差分画像データSD1、第2差分画像データSD2、及び第3差分画像データSD4を示す図である。
図8に示すように、「小さい眼鏡」を装着している場合でも、第3差分画像データSD4は、高輝度部分HB2及び高輝度部分HB3が再現された画像となる。
図9は、「大きい眼鏡」を装着して「斜め」に向いている人間の顔を撮影することにより得られる非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3、第1差分画像データSD1、第2差分画像データSD2、及び第3差分画像データSD4を示す図である。
図9に示すように、眼鏡を装着して「斜め」に向いている場合でも、第3差分画像データSD4は、高輝度部分HB2及び高輝度部分HB3が再現された画像となる。
図10は、第3差分画像データSD4を作成するための動作を説明するタイムチャートである。
図10に示すように、カメラ2は、撮影間隔Tc毎に撮影を行う。また近赤外光照射機4は、カメラ2が撮影を行うタイミングと一致するようにして、撮影間隔Tcの3倍の時間間隔毎に近赤外光を照射する。また近赤外光照射機5は、近赤外光照射機4による照射開始から撮影間隔Tc経過後となるタイミングで、撮影間隔Tcの3倍の時間間隔毎に近赤外光を照射する。
したがって画像撮影装置1は、撮影間隔Tc毎に、非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3の順で撮影画像データを作成する。
そして画像撮影装置1は、第1照射撮影画像データCD2が作成される毎に第1差分画像データSD1を作成するとともに、第2照射撮影画像データCD3が作成される毎に第2差分画像データSD2を作成する。
さらに画像撮影装置1は、第2差分画像データSD2が作成される毎に第3差分画像データSD4を作成する。つまり画像撮影装置1は、撮影間隔Tcの3倍の時間間隔毎に第3差分画像データSD4を作成する。
またカメラ2は、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置との間の中間的な位置に配置されている。このため、近赤外光照射機4または近赤外光照射機5の配置位置に近接した位置にカメラ2が配置される場合と比較して、第1照射撮影画像データCD2により表される画像(以下、第1撮影画像ともいう)内に示される撮影対象物体の像と、第2照射撮影画像データCD3により表される画像(以下、第2撮影画像ともいう)内に示される撮影対象物体の像との相違が小さくなる。すなわち、第1撮影画像内に示される撮影対象物体と第2撮影画像内に示される撮影対象物体とで重複する領域が多くなる。つまり、カメラ2が撮影した画像について、高輝度部分の輝度を再現することができる領域を多くすることができる。
また画像撮影装置1は、車両に搭載され、車両を運転する運転者の顔を撮影する。これにより、運転者の顔を撮影した画像について、高輝度部分を再現性よく再現した画像を作成することができる。このため、運転者の顔を撮影した画像について運転者の眼の部分が高輝度になっても、運転者の眼の部分の画像情報を再現することができるため、運転者の顔向きや視線の検出精度を向上させることができる。
以上説明した実施形態において、近赤外光照射機4は本発明における第1光照射手段、近赤外光照射機5は本発明における第2光照射手段、カメラ2は本発明における撮像手段、S70およびS100の処理は本発明における第1照射制御手段および第1照射制御手順、S80の処理は本発明における第1画像取得手段および第1画像取得手順、S140およびS170の処理は本発明における第2照射制御手段および第2照射制御手順、S150の処理は本発明における第2画像取得手段および第2画像取得手順、照射領域R1は本発明における第1照射領域、照射領域R2は本発明における第2照射領域である。
また、S190の処理は本発明における画像加算手段および画像加算手順、S200の処理は本発明における第1画像差分手段および第1画像差分手順、S210の処理は本発明における第2画像差分手段および第2画像差分手順、S30の処理は本発明における第3画像取得手段および第3画像取得手順、第1照射撮影画像データCD2は本発明における第1撮影画像、第2照射撮影画像データCD3は本発明における第2撮影画像、加算画像データAD1は本発明における加算画像、差分絶対値画像データSD3は本発明における第1差分画像、第3差分画像データSD4は本発明における第2差分画像である。
(第2実施形態)
以下に本発明の第2実施形態を図面とともに説明する。なお、第2実施形態では、第1実施形態と異なる部分のみを説明する。
第2実施形態の画像撮影装置1は、反射光除去処理の代わりに、近赤外光の照射タイミングとカメラ2の撮影タイミングを制御するための照射撮影処理と、第1差分画像データSD1及び第2差分画像データSD2を作成する差分画像作成処理と、反射光の影響を除去した画像を作成する反射光除去画像作成処理とをそれぞれ独立に実行する点以外は第1実施形態と同じである。
まず、画像撮影装置1の制御部6が実行する照射撮影処理の手順を、図11を用いて説明する。図11は照射撮影処理を示すフローチャートである。この照射撮影処理は、制御部6が起動(電源オン)している間に繰り返し実行される処理である。
この照射撮影処理が実行されると、制御部6は、まずS310にて、第1撮影判定タイマTM1の値(第1撮影判定タイマ値)が撮影間隔判定値以上であるか否かを判断する。
ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S310:NO)、S310に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S310:YES)、S320にて、第1撮影判定タイマTM1の値を0に設定する。そしてS330にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(非照射撮影画像データCD1)を作成する。その後S340にて、S330で作成した非照射撮影画像データCD1を、制御部6内のRAMに記憶する。
次にS350にて、第1撮影判定タイマ値が撮影間隔判定値以上であるか否かを判断する。ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S350:NO)、S350に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S350:YES)、S360にて、第1撮影判定タイマTM1の値を0に設定する。そしてS370にて、近赤外光照射機4に、近赤外光の照射を開始させる。
その後S380にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(第1照射撮影画像データCD2)を作成する。そしてS390にて、S380で作成した第1照射撮影画像データCD2を、制御部6内のRAMに記憶する。さらにS400にて、近赤外光照射機4に、近赤外光の照射を終了させる。
次にS410にて、第1撮影判定タイマ値が撮影間隔判定値以上であるか否かを判断する。ここで、第1撮影判定タイマ値が撮影間隔判定値未満である場合には(S410:NO)、S410に移行して上述の処理を繰り返すことにより待機する。一方、第1撮影判定タイマ値が撮影間隔判定値以上である場合には(S410:YES)、S420にて、第1撮影判定タイマTM1の値を0に設定する。そしてS430にて、近赤外光照射機5に、近赤外光の照射を開始させる。
その後S440にて、カメラ2による撮影を行い、カメラ2により撮影した画像のデータ(第2照射撮影画像データCD3)を作成する。そしてS450にて、S440で作成した第2照射撮影画像データCD3を、制御部6内のRAMに記憶する。さらにS460にて、近赤外光照射機4に、近赤外光の照射を終了させて、撮影間隔判定値を一旦終了する。
次に、画像撮影装置1の制御部6が実行する差分画像作成処理の手順を、図12を用いて説明する。図12は差分画像作成処理を示すフローチャートである。この差分画像作成処理は、制御部6が起動(電源オン)している間に繰り返し実行される処理である。
この差分画像作成処理が実行されると、制御部6は、まずS510にて、第2撮影判定タイマTM2の値(以下、第2撮影判定タイマ値という)が撮影間隔判定値以上であるか否かを判断する。なお、第2撮影判定タイマTM2は例えば1μsごとに自動的にインクリメントするタイマであり、ある時点でその値が0に設定されると、その時点で再び0からインクリメントする。また第2撮影判定タイマTM2は、制御部6が起動した直後に、第1撮影判定タイマTM1がインクリメントを開始してから予め設定された第1遅延時間が経過した後にインクリメントを開始するようにされている。
ここで、第2撮影判定タイマ値が撮影間隔判定値未満である場合には(S510:NO)、S510に移行して上述の処理を繰り返すことにより待機する。一方、第2撮影判定タイマ値が撮影間隔判定値以上である場合には(S510:YES)、S520にて、第2撮影判定タイマTM2の値を0に設定する。そしてS530にて、S330で作成した非照射撮影画像データCD1の輝度と、S380で作成した第1照射撮影画像データCD2の輝度とを差分した画像データ(第1差分画像データSD1)を作成する。
その後S540にて、第2撮影判定タイマ値が撮影間隔判定値以上であるか否かを判断する。ここで、第2撮影判定タイマ値が撮影間隔判定値未満である場合には(S540:NO)、S540に移行して上述の処理を繰り返すことにより待機する。一方、第2撮影判定タイマ値が撮影間隔判定値以上である場合には(S540:YES)、S550にて、第2撮影判定タイマTM2の値を0に設定する。そしてS560にて、S330で作成した非照射撮影画像データCD1の輝度と、S440で作成した第1照射撮影画像データCD2の輝度とを差分した画像データ(第2差分画像データSD2)を作成し、差分画像作成処理を一旦終了する。
次に、画像撮影装置1の制御部6が実行する反射光除去画像作成処理の手順を、図13を用いて説明する。図13は反射光除去画像作成処理を示すフローチャートである。この反射光除去画像作成処理は、制御部6が起動(電源オン)している間に繰り返し実行される処理である。
この反射光除去画像作成処理が実行されると、制御部6は、まずS610にて、第3撮影判定タイマTM3の値(以下、第3撮影判定タイマ値という)が撮影間隔判定値以上であるか否かを判断する。なお、第3撮影判定タイマTM3は例えば1μsごとに自動的にインクリメントするタイマであり、ある時点でその値が0に設定されると、その時点で再び0からインクリメントする。また第3撮影判定タイマTM3は、制御部6が起動した直後に、第2撮影判定タイマTM2がインクリメントを開始してから予め設定された第2遅延時間が経過した後にインクリメントを開始するようにされている。
ここで、第3撮影判定タイマ値が撮影間隔判定値未満である場合には(S610:NO)、S610に移行して上述の処理を繰り返すことにより待機する。一方、第3撮影判定タイマ値が撮影間隔判定値以上である場合には(S610:YES)、S620にて、第3撮影判定タイマTM3の値を0に設定する。
そしてS630にて、S530で作成した第1差分画像データSD1の輝度と、S560で作成した第2差分画像データSD2の輝度とを加算した画像データ(加算画像データAD1)を作成する。さらにS640にて、S530で作成した第1差分画像データSD1の輝度と、S560で作成した第2差分画像データSD2の輝度との差分の絶対値を示す画像データ(差分絶対値画像データSD3)を作成する。
その後S650にて、S630で作成した加算画像データAD1の輝度と、S640で作成した差分絶対値画像データSD3の輝度とを差分した画像データ(第3差分画像データSD4)を作成し、反射光除去画像作成処理を一旦終了する。
図14は、第3差分画像データSD4を作成するための動作を説明するタイムチャートである。
このように構成された画像撮影装置1では、図14に示すように、カメラ2が、撮影間隔Tc毎に撮影を行う。また近赤外光照射機4は、カメラ2が撮影を行うタイミングと一致するようにして、撮影間隔Tcの3倍の時間間隔毎に近赤外光を照射する。また近赤外光照射機5は、近赤外光照射機4による照射開始から撮影間隔Tc経過後となるタイミングで、撮影間隔Tcの3倍の時間間隔毎に近赤外光を照射する。
したがって画像撮影装置1は、撮影間隔Tc毎に、非照射撮影画像データCD1、第1照射撮影画像データCD2、第2照射撮影画像データCD3の順で撮影画像データを作成する。
そして画像撮影装置1は、作成された最新の非照射撮影画像データCD1と最新の第1照射撮影画像データCD2とを用いて第1差分画像データSD1を作成する処理と、作成された最新の非照射撮影画像データCD1と最新の第2照射撮影画像データCD3とを用いて第2差分画像データSD2を作成する処理とを、撮影間隔Tc毎に交互に行う。
さらに画像撮影装置1は、第1差分画像データSD1または第2差分画像データSD2が作成される毎に、作成された最新の第1差分画像データSD1と、作成された最新の第2差分画像データSD2とを用いて、第3差分画像データSD4を作成する。
つまり画像撮影装置1は、撮影間隔Tc毎に第3差分画像データSD4を作成することができる。
以上、本発明の一実施例について説明したが、本発明は上記実施例に限定されるものではなく、本発明の技術的範囲に属する限り種々の形態を採ることができる。
例えば上記実施形態においては、画像撮影装置1が運転者の顔を撮影するものを示したが、画像撮影装置1の撮影対象はこれに限られるものではなく、反射光の影響を除去する必要がある撮影対象であればよい。
また上記実施形態においては、運転者の顔全体を撮影対象とするものを示したが、運転者の目周辺のみを撮影対象とするようにしてもよい。
また上記実施形態においては、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置とを結ぶ線(以下、照射機連結線ともいう)上において、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置との略中間点となる位置にカメラ2が配置されるとともに、近赤外光照射機4,5の配置位置の高さとカメラ2の配置位置の高さとが等しいものを示したが、これに限られるものではなく、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置との間の中間的な位置にカメラ2が配置されるものとしては、例えば以下のものが挙げられる。
まず図15(a),(b)に示すように、照射機連結線上の上記中間点に直交する線上にカメラ2が配置されるようにして、近赤外光照射機4,5の配置位置の高さとカメラ2の配置位置の高さとが異なるようにしてもよい。
また図16(a),(b)に示すように、近赤外光照射機4の配置位置の高さと近赤外光照射機5の配置位置の高さとが異なり、照射機連結線上において、近赤外光照射機4の配置位置と近赤外光照射機5の配置位置との略中間点となる位置にカメラ2が配置されるようにしてもよい。
また、近赤外光照射機4,5による近赤外光の照射方向は上記実施形態に示すものに限られるものではない。
例えば図17(a)に示すように、近赤外光照射機4,5がそれぞれ異なる照射方向で運転者DRの顔に向けて近赤外光を照射すると、図17(b)に示すように、第1照射撮影画像データCD2における第1反射高輝度位置LP1と、第2照射撮影画像データCD3における第2反射高輝度位置LP2とが異なる。
また図18(a)に示すように、近赤外光照射機4により照射されて運転者DRの顔で反射した反射光RL1と、近赤外光照射機5により照射されて運転者DRの顔で反射した反射光RL2は、カメラ2のレンズ21を通過して、二次元格子状に配列された複数の個体撮像素子22により構成されたイメージセンサ23上に集光される。
そして図18(b)に示すように、二次元格子状に配列された複数の個体撮像素子22上において、第1反射高輝度位置LP1に対応する反射光RL1が到達する位置AP1と、第2反射高輝度位置LP2に対応する反射光RL2が到達する位置AP2とが、個体撮像素子22の配列間隔SP以上離れているように、近赤外光照射機4,5による近赤外光の照射方向が設定される必要がある。第1反射高輝度位置LP1と第2反射高輝度位置LP2とが重ならないようにするためである。
すなわち、近赤外光照射機4,5の照射方向は、位置AP1と位置AP2とがイメージセンサ23上で1画素以上離れているように設定されていればよい。
また上記実施形態においては、式(12)〜(14)を用いて第3差分画像データSD4を作成するものを示したが、例えば、式(15)または式(16)を用いて第3差分画像データSD4を作成するようにしてもよい。
また上記実施形態においては、式(10)及び式(11)を用いて第1差分画像データSD1及び第2差分画像データSD2を作成するとともに、Pc(X,Y)が0より小さくなる場合にはPc(X,Y)=0とし、Pd(X,Y)が0より小さくなる場合にはPd(X,Y)=0とするものを示した。しかし、近赤外光照射機4,5により照射される近赤外光の光量が十分に大きい場合には、式(17)及び式(18)を用いて第1差分画像データSD1及び第2差分画像データSD2を作成するようにしてもよい。この場合には、Pc(X,Y)及びPd(X,Y)が0より小さくなることはない。このため、Pc(X,Y)が0より小さくなる場合にはPc(X,Y)=0とし、Pd(X,Y)が0より小さくなる場合にはPd(X,Y)=0とする処理は不要となる。
Pc(X,Y) = |Pa(X,Y)−Pn(X,Y)| ・・・(17)
Pd(X,Y) = |Pb(X,Y)−Pn(X,Y)| ・・・(18)
また上記実施形態においては、カメラ2及び近赤外光照射機4,5がインストルメントパネルIPの付近に配置されているものを示したが、運転者DRの顔を撮影するとともに運転者DRの顔に向けて近赤外光を照射することができれば、これに限られることはなく、例えば、ステアリングコラムの付近に配置されるようにしてもよい。
また画像撮影装置1は、第3差分画像データSD4により表される画像を表示するための表示手段を備えるようにしてもよい。
画像撮影装置1の構成を示すブロック図である。 車両の運転席から車両前方を眺めた際のカメラ2及び近赤外光照射機4,5の配置を示す図である。 第1実施形態におけるカメラ2の撮影可能領域と近赤外光照射機4,5の照射領域を示すための平面図および側面図である。 反射光除去処理を示すフローチャートである。 運転者の顔を撮影して得られる画像データを模式的に示す図である。 運転者の顔を撮影して得られる差分画像データ等を模式的に示す図である。 大きい眼鏡を装着して正面に向いている人間の顔を撮影した画像データを示す図である。 小さい眼鏡を装着して正面に向いている人間の顔を撮影した画像データを示す図である。 大きい眼鏡を装着して斜めに向いている人間の顔を撮影した画像データを示す図である。 第1実施形態の第3差分画像データSD4を作成するための動作を説明するタイムチャートである。 照射撮影処理を示すフローチャートである。 差分画像作成処理を示すフローチャートである。 反射光除去画像作成処理を示すフローチャートである。 第2実施形態の第3差分画像データSD4を作成するための動作を説明するタイムチャートである。 別の実施形態におけるカメラ2の撮影可能領域と近赤外光照射機4,5の照射領域を示すための平面図および側面図である。 別の実施形態におけるカメラ2の撮影可能領域と近赤外光照射機4,5の照射領域を示すための平面図および側面図である。 近赤外光照射機4,5の照射方向を示すための平面図、及び第1反射高輝度位置LP1及び第2反射高輝度位置LP2を示す図である。 反射光RL1及び反射光RL2の経路を示すイメージセンサ23の側面図および平面図である。
符号の説明
1…画像撮影装置、2…カメラ、3…画像キャプチャーボード、4,5…近赤外光照射機、6…制御部、AD1…加算画像データ、CD1…非照射撮影画像データ、CD2…第1照射撮影画像データ、CD3…第2照射撮影画像データ、SD1…第1差分画像データ、SD2…第2差分画像データ、SD3…差分絶対値画像データ、SD4…第3差分画像データ

Claims (10)

  1. 近赤外光を照射する第1光照射手段と、
    近赤外光を照射する第2光照射手段と、
    光を受光することによって画像を撮影する撮像手段と
    を備える画像撮影装置であって、
    前記第1光照射手段および前記第2光照射手段は、
    前記第1光照射手段により照射される光が通過する領域である第1照射領域と、前記第2光照射手段により照射される光が通過する領域である第2照射領域とが一部重なるように、光を照射し、
    前記撮像手段は、
    前記第1光照射手段および前記第2光照射手段により照射された光のうちで、前記第1照射領域と前記第2照射領域とが重なる照射重複領域内に配置された物体で反射した光を受光することができる位置に配置され、
    前記第1光照射手段および前記第2光照射手段のうち前記第1光照射手段のみに光を照射させる第1照射制御手段と、
    前記第1光照射手段および前記第2光照射手段のうち前記第1光照射手段のみが光を照射しているときに前記撮像手段により撮影された画像を取得する第1画像取得手段と、
    前記第1光照射手段および前記第2光照射手段のうち前記第2光照射手段のみに光を照射させる第2照射制御手段と、
    前記第1光照射手段および前記第2光照射手段のうち前記第2光照射手段のみが光を照射しているときに前記撮像手段により撮影された画像を取得する第2画像取得手段と、
    前記第1光照射手段および前記第2光照射手段が共に近赤外光を照射していないときに前記撮像手段により撮影された画像を取得する第3画像取得手段と、
    前記第1画像取得手段により取得された画像である第1撮影画像の輝度と、前記第3画像取得手段により取得された画像である第3撮影画像の輝度とが差分された画像である第1非照射差分画像を作成する第1非照射差分画像作成手段と、
    前記第2画像取得手段により取得された画像である第2撮影画像の輝度と、前記第3撮影画像の輝度とが差分された画像である第2非照射差分画像を作成する第2非照射差分画像作成手段と、
    前記第1非照射差分画像の輝度と、前記第2非照射差分画像の輝度とが加算された画像である加算画像を作成する画像加算手段と、
    前記第1非照射差分画像の輝度と前記第2非照射差分画像の輝度との差分の絶対値を示す画像である第1差分画像を作成する第1画像差分手段と、
    前記画像加算手段により作成された前記加算画像の輝度と、前記第1画像差分手段により作成された前記第1差分画像の輝度とが差分された画像である第2差分画像を作成する第2画像差分手段とを備える
    ことを特徴とする画像撮影装置。
  2. 前記撮像手段は、
    前記第1光照射手段が配置される位置と前記第2光照射手段が配置される位置との間の中間的な位置に配置される
    ことを特徴とする請求項1に記載の画像撮影装置。
  3. 前記第1照射制御手段および前記第2照射制御手段はそれぞれ、前記第1光照射手段および前記第2光照射手段に、交互に光を照射させ、
    前記第1画像取得手段は、前記第1光照射手段が光を照射する毎に前記第1撮影画像を取得し、
    前記第2画像取得手段は、前記第2光照射手段が光を照射する毎に前記第2撮影画像を取得し、
    前記画像加算手段は、前記第1画像取得手段および前記第2画像取得手段の何れかが画像を取得する毎に、前記第1画像取得手段により取得された最新の前記第1撮影画像と、前記第2画像取得手段により取得された最新の前記第2撮影画像とを用いて、前記加算画像を作成し、
    前記第1画像差分手段は、前記第1画像取得手段および前記第2画像取得手段の何れかが画像を取得する毎に、前記第1画像取得手段により取得された最新の前記第1撮影画像と、前記第2画像取得手段により取得された最新の前記第2撮影画像とを用いて、前記第1差分画像を作成する
    ことを特徴とする請求項1または請求項2に記載の画像撮影装置。
  4. 当該画像撮影装置は、車両に搭載され、
    前記照射重複領域内に配置された物体は、前記車両を運転する運転者の頭であり、
    前記第1光照射手段および前記第2光照射手段は、前記運転者の顔に向けて光を照射する
    ことを特徴とする請求項1〜請求項3の何れかに記載の画像撮影装置。
  5. 前記第1光照射手段、前記第2光照射手段、及び前記撮像手段は、
    前記車両のインストルメントパネルまたはステアリングコラムの付近に配置される
    ことを特徴とする請求項4に記載の画像撮影装置。
  6. 近赤外光を照射する第1光照射手段と、
    近赤外光を照射する第2光照射手段と、
    光を受光することによって画像を撮影する撮像手段と
    を用いる画像撮影方法であって、
    前記第1光照射手段および前記第2光照射手段は、
    前記第1光照射手段により照射される光が通過する領域である第1照射領域と、前記第2光照射手段により照射される光が通過する領域である第2照射領域とが一部重なるように、光を照射し、
    前記撮像手段は、
    前記第1光照射手段および前記第2光照射手段により照射された光のうちで、前記第1照射領域と前記第2照射領域とが重なる照射重複領域内に配置された物体で反射した光を受光することができる位置に配置され、
    前記第1光照射手段および前記第2光照射手段のうち前記第1光照射手段のみに光を照射させる第1照射制御手順と、
    前記第1光照射手段および前記第2光照射手段のうち前記第1光照射手段のみが光を照射しているときに前記撮像手段により撮影された画像を取得する第1画像取得手順と、
    前記第1光照射手段および前記第2光照射手段のうち前記第2光照射手段のみに光を照射させる第2照射制御手順と、
    前記第1光照射手段および前記第2光照射手段のうち前記第2光照射手段のみが光を照射しているときに前記撮像手段により撮影された画像を取得する第2画像取得手順と、
    前記第1光照射手段および前記第2光照射手段が共に近赤外光を照射していないときに前記撮像手段により撮影された画像を取得する第3画像取得手順と、
    前記第1画像取得手順により取得された画像である第1撮影画像の輝度と、前記第3画像取得手順により取得された画像である第3撮影画像の輝度とが差分された画像である第1非照射差分画像を作成する第1非照射差分画像作成手順と、
    前記第2画像取得手順により取得された画像である第2撮影画像の輝度と、前記第3撮影画像の輝度とが差分された画像である第2非照射差分画像を作成する第2非照射差分画像作成手順と、
    前記第1非照射差分画像の輝度と、前記第2非照射差分画像の輝度とが加算された画像である加算画像を作成する画像加算手順と、
    前記第1非照射差分画像の輝度と前記第2非照射差分画像の輝度との差分の絶対値を示す画像である第1差分画像を作成する第1画像差分手順と、
    前記画像加算手順により作成された前記加算画像の輝度と、前記第1画像差分手順により作成された前記第1差分画像の輝度とが差分された画像である第2差分画像を作成する第2画像差分手順とを備える
    ことを特徴とする画像撮影方法
  7. 前記撮像手段は、
    前記第1光照射手段が配置される位置と前記第2光照射手段が配置される位置との間の中間的な位置に配置される
    ことを特徴とする請求項6に記載の画像撮影方法
  8. 前記第1照射制御手順および前記第2照射制御手順はそれぞれ、前記第1光照射手段および前記第2光照射手段に、交互に光を照射させ、
    前記第1画像取得手順は、前記第1光照射手段が光を照射する毎に前記第1撮影画像を取得し、
    前記第2画像取得手順は、前記第2光照射手段が光を照射する毎に前記第2撮影画像を取得し、
    前記画像加算手順は、前記第1画像取得手順および前記第2画像取得手順の何れかが画像を取得する毎に、前記第1画像取得手順により取得された最新の前記第1撮影画像と、前記第2画像取得手順により取得された最新の前記第2撮影画像とを用いて、前記加算画像を作成し、
    前記第1画像差分手順は、前記第1画像取得手順および前記第2画像取得手順の何れかが画像を取得する毎に、前記第1画像取得手順により取得された最新の前記第1撮影画像と、前記第2画像取得手順により取得された最新の前記第2撮影画像とを用いて、前記第1差分画像を作成する
    ことを特徴とする請求項6または請求項7に記載の画像撮影方法。
  9. 前記照射重複領域内に配置された物体は、車両を運転する運転者の頭であり、
    前記第1光照射手段および前記第2光照射手段は、前記運転者の顔に向けて光を照射する
    ことを特徴とする請求項6〜請求項8の何れかに記載の画像撮影方法。
  10. 前記第1光照射手段、前記第2光照射手段、及び前記撮像手段は、
    前記車両のインストルメントパネルまたはステアリングコラムの付近に配置される
    ことを特徴とする請求項9に記載の画像撮影方法。
JP2008293329A 2008-11-17 2008-11-17 画像撮影装置および方法 Expired - Fee Related JP4666062B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2008293329A JP4666062B2 (ja) 2008-11-17 2008-11-17 画像撮影装置および方法
US12/612,220 US8208027B2 (en) 2008-11-17 2009-11-04 Image shooting device and method for shooting image
DE102009046481.6A DE102009046481B4 (de) 2008-11-17 2009-11-06 Bildaufnahmevorrichtung und Verfahren zur Bildaufnahme

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008293329A JP4666062B2 (ja) 2008-11-17 2008-11-17 画像撮影装置および方法

Publications (2)

Publication Number Publication Date
JP2010124043A JP2010124043A (ja) 2010-06-03
JP4666062B2 true JP4666062B2 (ja) 2011-04-06

Family

ID=42171700

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008293329A Expired - Fee Related JP4666062B2 (ja) 2008-11-17 2008-11-17 画像撮影装置および方法

Country Status (3)

Country Link
US (1) US8208027B2 (ja)
JP (1) JP4666062B2 (ja)
DE (1) DE102009046481B4 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130091187A1 (en) * 2010-04-22 2013-04-11 Adc Technology Inc. Storage device
EP2420410A1 (en) * 2010-08-19 2012-02-22 Harman Becker Automotive Systems GmbH Method for Presenting an Image in a Vehicle
US9043042B2 (en) * 2011-07-19 2015-05-26 GM Global Technology Operations LLC Method to map gaze position to information display in vehicle
DE102013001573B4 (de) * 2013-01-30 2018-10-11 Carl Zeiss Vision International Gmbh Vorrichtung sowie Verfahren zum Schutz von Fahrzeug- und Maschinenführern vor Verwendung einer ungeeigneten oder unzulässigen Brille
CN106471556B (zh) 2014-06-23 2021-11-16 株式会社电装 驾驶员的驾驶不能状态检测装置
WO2015198540A1 (ja) 2014-06-23 2015-12-30 株式会社デンソー ドライバの運転不能状態検出装置
JP6372388B2 (ja) * 2014-06-23 2018-08-15 株式会社デンソー ドライバの運転不能状態検出装置
JP6289439B2 (ja) * 2015-12-16 2018-03-07 オムロンオートモーティブエレクトロニクス株式会社 画像処理装置
US10621418B2 (en) 2016-02-18 2020-04-14 Mitsubishi Electric Corporation Passenger detection device, passenger detection system, and passenger detection method
JP6843600B2 (ja) 2016-11-28 2021-03-17 キヤノン株式会社 画像取得装置、これを用いた画像取得方法及び照射装置
CN116507260A (zh) * 2020-11-27 2023-07-28 松下知识产权经营株式会社 齿列图像摄影系统及齿列图像摄影方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005140667A (ja) * 2003-11-07 2005-06-02 Matsushita Electric Ind Co Ltd 目画像撮像装置および携帯端末装置
JP2007004448A (ja) * 2005-06-23 2007-01-11 Honda Motor Co Ltd 視線検出装置
JP2008027242A (ja) * 2006-07-21 2008-02-07 Toyota Central Res & Dev Lab Inc 対象物の部位判別装置及び性別判定装置
JP2008123137A (ja) * 2006-11-09 2008-05-29 Aisin Seiki Co Ltd 車載用画像処理装置とその制御方法

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3364816B2 (ja) 1994-12-27 2003-01-08 三菱電機株式会社 画像処理装置
JP2002269545A (ja) 2001-03-12 2002-09-20 Matsushita Electric Ind Co Ltd 顔画像処理方法及び顔画像処理装置
KR100580630B1 (ko) * 2003-11-19 2006-05-16 삼성전자주식회사 적외선을 이용한 사람 식별 장치 및 방법
US7777778B2 (en) * 2004-10-27 2010-08-17 Delphi Technologies, Inc. Illumination and imaging system and method
JP4534789B2 (ja) 2005-02-22 2010-09-01 トヨタ自動車株式会社 車両用警報装置
JP2006318374A (ja) 2005-05-16 2006-11-24 Matsushita Electric Ind Co Ltd 眼鏡判別装置および認証装置ならびに眼鏡判別方法
JP2008094221A (ja) * 2006-10-11 2008-04-24 Denso Corp 目状態検出装置および目状態検出装置の取り付け方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005140667A (ja) * 2003-11-07 2005-06-02 Matsushita Electric Ind Co Ltd 目画像撮像装置および携帯端末装置
JP2007004448A (ja) * 2005-06-23 2007-01-11 Honda Motor Co Ltd 視線検出装置
JP2008027242A (ja) * 2006-07-21 2008-02-07 Toyota Central Res & Dev Lab Inc 対象物の部位判別装置及び性別判定装置
JP2008123137A (ja) * 2006-11-09 2008-05-29 Aisin Seiki Co Ltd 車載用画像処理装置とその制御方法

Also Published As

Publication number Publication date
US20100123781A1 (en) 2010-05-20
US8208027B2 (en) 2012-06-26
JP2010124043A (ja) 2010-06-03
DE102009046481B4 (de) 2018-12-13
DE102009046481A1 (de) 2010-07-22

Similar Documents

Publication Publication Date Title
JP4666062B2 (ja) 画像撮影装置および方法
JP4853389B2 (ja) 顔画像撮像装置
JP5212927B2 (ja) 顔撮影システム
JP4331197B2 (ja) 眼開度検出装置及び方法
JP5045212B2 (ja) 顔画像撮像装置
JP4793269B2 (ja) 眠気検知装置
US20090219386A1 (en) Pupil detection device and pupil detection method
JP2007004448A (ja) 視線検出装置
US20160063334A1 (en) In-vehicle imaging device
JP2015194884A (ja) 運転者監視システム
JP2006290304A (ja) 車両外部表示方法及び表示装置
WO2020262193A1 (ja) 固体撮像装置、及び電子機器
JP6381654B2 (ja) 視線検出装置
US20200014865A1 (en) Image processing apparatus, image processing method, and electronic apparatus
JP6289439B2 (ja) 画像処理装置
JP2021051015A (ja) 測距装置、測距方法、並びにプログラム
JP2016105555A (ja) ヘッドマウントディスプレイ装置、撮影制御方法、及びプログラム
JP2009125518A (ja) ドライバの瞬き検知方法及びドライバの覚醒度判断方法並びに装置
CN111886858B (zh) 车辆用影像系统
JP2019028640A (ja) 視線検出装置
JP2006252363A (ja) 車両周囲物体検出装置、および車両周囲物体検出方法
JP7034925B2 (ja) 固体撮像装置および撮像方法
JP4659691B2 (ja) 特徴パターン検出装置
JP4623171B2 (ja) 瞳孔検出装置、瞳孔検出装置用プログラム及び瞳孔検出方法
WO2020195180A1 (ja) 撮像素子および撮像装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20100830

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100921

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20101214

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101227

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140121

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4666062

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140121

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees