JP4397415B2 - 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム - Google Patents

画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム Download PDF

Info

Publication number
JP4397415B2
JP4397415B2 JP2007503550A JP2007503550A JP4397415B2 JP 4397415 B2 JP4397415 B2 JP 4397415B2 JP 2007503550 A JP2007503550 A JP 2007503550A JP 2007503550 A JP2007503550 A JP 2007503550A JP 4397415 B2 JP4397415 B2 JP 4397415B2
Authority
JP
Japan
Prior art keywords
image
imaging
image processing
face
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2007503550A
Other languages
English (en)
Other versions
JPWO2006087812A1 (ja
Inventor
寿雄 伊藤
幸三 馬場
明義 田福
全寿 東野
忠雄 尾身
卓 片桐
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Publication of JPWO2006087812A1 publication Critical patent/JPWO2006087812A1/ja
Application granted granted Critical
Publication of JP4397415B2 publication Critical patent/JP4397415B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Description

本発明は、撮像して得られた画像から特定の撮像対象を検出する画像処理方法、該画像処理方法を適用した画像処理システム、該画像処理システムにて用いられる画像処理装置、及び該画像処理装置を実現するためのコンピュータプログラムに関し、特に撮像対象の有無を判定する画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラムに関する。
自動車等の車両の運転を支援する装置として、運転者の顔を撮像することが可能な位置に配置された車載カメラで運転者の顔を撮像し、得られた画像から運転者の顔の輪郭、並びに目及び鼻孔の位置を検出する画像処理を行う画像処理装置が提案されている(例えば、特許文献1参照)。この様な装置を用いることにより、運転者の状況を検知し、脇見運転の警告等の運転支援を行うシステムを構成することも可能である。
特開2004−234367号公報
しかしながら従来の画像処理装置は、撮像して得られた画像の範囲内に撮像対象が存在していることを前提として撮像対象を検出する処理を実行するため、撮像して得られた画像の範囲内に撮像対象が存在しない場合には、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行するため、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常が発生する可能性が高いという問題がある。
本発明は斯かる事情に鑑みてなされたものであり、撮像方向に光を照射し、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較して画像内での撮像対象の有無を判定することにより、画像処理時に異常が発生する可能性を低減することが可能な画像処理方法、該画像処理方法を適用した画像処理システム、該画像処理システムにて用いられる画像処理装置、及び該画像処理装置を実現するためのコンピュータプログラムの提供を目的とする。
発明に係る画像処理方法は、撮像手段と、該撮像手段が撮像する方向に光を照射する光照射手段と、撮像して得られた画像からを検出する画像処理装置とを用いた画像処理方法において、撮像して得られた画像から顔の検出の可否を判定し、顔を検出することができないと判定した場合に、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較し、比較した結果に基づいて画像内でのの有無を判定することを特徴とする。
本発明では、顔を撮像対象とし、撮像対象が存在する場合、光の照射状況によって画像に差異が生じることから、撮像対象の有無を判定することができる。従って撮像対象が画像内に存在しないにもかかわらず、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行して、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常の発生を防止することが可能である。しかも本発明では、不必要な比較及び判定処理を回避することにより、処理負荷を軽減することが可能である。
発明に係る画像処理システムは、撮像手段と、該撮像手段が撮像する方向に光を照射する照射手段と、撮像して得られた画像からを検出する画像処理装置とを備える画像処理システムにおいて、前記画像処理装置は、撮像して得られた画像から顔の検出の可否を判定する手段を備え、更に、顔を検出することができないと判定した場合に、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較する比較手段と、該比較手段が比較した結果に基づいて画像内でのの有無を判定する判定手段とを備えることを特徴とする。
本発明では、顔を撮像対象とし、撮像対象が存在する場合、光の照射状況によって画像に差異が生じることから、撮像対象の有無を判定することができる。従って撮像対象が画像内に存在しないにもかかわらず、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行して、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常の発生を防止することが可能である。しかも本発明では、不必要な比較及び判定処理を回避することにより、処理負荷を軽減することが可能である。
発明に係る画像処理システムは、前記画像処理装置は、撮像して得られた画像の輝度を求める手段を更に備え、前記比較手段は、夫々の画像の輝度を比較するように構成してあり、前記判定手段は、夫々の画像の輝度の差が基準値未満である場合に、顔が存在しないと判定するように構成してあることを特徴とする。
本発明では、撮像対象が存在する場合、光の照射状況によって画像の輝度が大きく変化することから、撮像対象の有無を判定することができるので、撮像対象が画像内に存在しない場合での異常の発生を防止することが可能である。
発明に係る画像処理システムは、前記輝度は、画像を構成する画素の平均輝度であることを特徴とする。
本発明では、平均輝度の比較に基づいて撮像対象の有無を判定することにより、判定精度を向上させることが可能である。
発明に係る画像処理システムは、画像を構成する画素の平均輝度、前記照射手段の照射条件及び前記撮像手段の撮像条件に基づき導出される絶対輝度に基づいて画像内でのの有無を判定する手段を更に備えることを特徴とする。
本発明では、絶対輝度に基づいて撮像対象の有無を判定することにより、太陽光等の外光の影響を抑制することができるので、判定精度を向上させることが可能である。
発明に係る画像処理システムは、前記照射手段は、近赤外域の波長の光を照射するように構成してあり、前記撮像手段は、近赤外域の波長の光を透過するフィルタを有することを特徴とする。
本発明では、可視光線ではなく、近赤外線を用いることにより、主に撮像手段と撮像対象との間の距離が画像の輝度に反映され、座席の模様等の背景画像の濃淡による輝度の影響を抑制することができるので、判定精度を向上させることが可能である。
発明に係る画像処理システムは、前記撮像手段及び照射手段を有し、前記画像処理装置と接続される撮像装置を備えることを特徴とする。
本発明では、照射手段が組み込まれた撮像装置を用いることにより、照射方向及び撮像方向の調整を行う必要が無く、設置時の利便性を向上させることが可能である。
発明に係る画像処理装置は、撮像して得られた画像からを検出する画像処理装置において、撮像方向に光を照射させる手段と、撮像して得られた画像から顔の検出の可否を判定する手段とを備え、更に、顔を検出することができないと判定した場合に、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較する手段と、比較した結果に基づいて画像内のの有無を判定する手段とを備えることを特徴とする。
本発明では、顔を撮像対象とし、撮像対象が存在する場合、光の照射状況によって画像に差異が生じることから、撮像対象の有無を判定することができる。従って撮像対象が画像内に存在しないにもかかわらず、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行して、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常の発生を防止することが可能である。しかも本発明では、不必要な比較及び判定処理を回避することにより、処理負荷を軽減することが可能である。
発明に係るコンピュータプログラムは、撮像手段及び該撮像手段が撮像する方向に光を照射する照射手段と接続するコンピュータに、撮像して得られた画像からを検出させるコンピュータプログラムにおいて、コンピュータに、撮像して得られた画像から顔の検出の可否を判定させる手順と、顔を検出することができないと判定した場合に、コンピュータに、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較させる手順と、コンピュータに、比較した結果に基づいて画像内のの有無を判定させる手順とを実行させることを特徴とする。
本発明では、コンピュータにて実行することにより、コンピュータが画像処理装置として動作し、撮像対象として顔が存在する場合、光の照射状況によって画像に差異が生じることから、撮像対象の有無を判定することができる。従って撮像対象が画像内に存在しないにもかかわらず、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行して、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常の発生を防止することが可能である。しかも本発明では、不必要な比較及び判定処理を回避することにより、処理負荷を軽減することが可能である。
本発明に係る画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラムは、例えば車両に搭載され運転者の顔を撮像対象とする車載カメラを用いたシステムに適用され、撮像方向に対し、光を照射しているときに撮像した画像の平均輝度及び照射していないときに撮像した画像の平均輝度を比較し、その差が基準値以下である場合に、撮像により得られた画像内に撮像対象が存在しないと判定する。
この構成により、撮像対象が存在する場合、光の照射状況によって画像の輝度に差異が生じることから、撮像対象の有無を判定することができる。従って撮像対象が画像内に存在しないにもかかわらず、撮像対象が存在しない背景画像から撮像対象を検出すべく処理を実行して、背景画像からの誤認識、検出処理を不必要に繰り返すことによる処理負荷の増大等の異常の発生を防止することが可能である等、優れた効果を奏する。そしてシステム全体の処理負荷の軽減及び処理の安定化を実現することから、運転者の状況を検知し、脇見運転の警告等の運転支援を行うシステムに適用した場合には、高速かつ安定した処理により、咄嗟の状況でも誤動作の少ない信頼のおける運転支援システムを構成することが可能である等、優れた効果を奏する。
また本発明の画像処理システム等では、絶対輝度に基づいて撮像対象の有無を判定することにより、カメラ制御による光の影響を抑制することができるので、判定精度を向上させることが可能である等、優れた効果を奏する。
さらに本発明の画像処理システム等では、撮影方向に光を照射していることにより、主に撮像手段と撮像対象との間の距離が画像の輝度に反映され、座席の模様等の背景画像の濃淡による輝度の影響を抑制することができるので、判定精度を向上させることが可能である等、優れた効果を奏する。
本発明の画像処理システムにて用いられる撮像装置の外観を示す斜視図である。 本発明の画像処理システムの構成例を示すブロック図である。 本発明の画像処理システムにて用いられる画像処理装置の処理を示すフローチャートである。 本発明の画像処理システムにて用いられる画像処理装置の処理を示すフローチャートである。
符号の説明
1 撮像装置
2 画像処理装置
3 コンピュータプログラム
4 記録媒体
以下、本発明をその実施の形態を示す図面に基づいて詳述する。図1は、本発明の画像処理システムにて用いられる撮像装置の外観を示す斜視図である。図1中1は、車両に搭載される車載カメラ等の撮像装置であり、図1に例示した撮像装置1は、直方体状をなす筐体10の一の面に中心にCCD(Charge Coupled Device)等の撮像素子を用いた撮像部11が配設され、撮像部11の周囲にLED(Light Emitting Diode)等の発光素子を用いた複数の照射部12が配設されている。撮像部11及び照射部12は、撮像装置1の筐体10の同じ面に、撮像方向及び照射方向が一致する様に配設されている。照射部12は、GaAlAs等の半導体チップを用いて870nm等の近赤外域の波長の光を発する様に構成している。撮像部11の受光部には、メタクリル樹脂等の材質で近赤外域の波長の光を選択的に透過させるフィルタ11aが組み込まれている。照射部12が照射する光として不可視光である近赤外光を用いることにより、光の照射を受ける運転者は照射に気付くことがないので、運転の妨げとならない。またフィルタ11aは、近赤外域の波長の光を選択的に透過させ、可視光をカットすることにより、撮像部11は、外光に影響されずに処理を行うことが可能である。そして撮像装置1は、車両内のハンドル、ダッシュボード等の運転者の前方に、運転者の顔を撮像対象として撮像可能な状態に配設され、撮像対象に対して照射部12から近赤外光を照射し、撮像部11にて撮像する。撮像部11及び照射部12の同一装置への組み込みを含む各種条件等は、あくまでも一例であり、システム構成、目的等の応じて適宜設定することが可能である。例えば、撮像部11を備える装置と照射部12を備える装置とを別体化し、夫々異なる位置に配置する様にしても良い。
図2は、本発明の画像処理システムの構成例を示すブロック図である。撮像装置1は、該撮像装置1の撮像により得られた画像から撮像対象の検出等の画像処理を行う車載用コンピュータを用いた画像処理装置2に、専用ケーブル等の通信線又は有線或いは無線にて構成される車内LAN(Local Area Network)等の通信網にて接続されている。
撮像装置1は、装置全体を制御するMPU(Micro Processor Unit)13と、MPU13の制御に基づき実行される各種コンピュータプログラム及びデータを記録するROM(Read Only Memory)14と、ROM14に記録されたコンピュータプログラムの実行時に一時的に発生する各種データを記憶するRAM(Random Access Memory)15とを備えている。さらに撮像装置1は、上述した撮像部11及び照射部12を備え、撮像部11の撮像により得られたアナログの画像データをデジタルデータに変換するA/D変換器16と、A/D変換器16によりデジタルに変換された画像データを一時的に記憶するフレームメモリ17と、画像処理装置2との通信に用いられる通信インタフェース18とを備えている。
撮像装置1では、照射部12にて近赤外光を照射した撮像対象を、撮像部11により撮像し、撮像に基づいて例えば1秒当たり30枚の画像データ(画像フレーム)を生成してA/D変換器16へ出力し、A/D変換器16では、画像データを構成する256階調(1Byte)等の階調にて示されるデジタル画像データに変換する。そしてデジタル画像データに変換した画像データをフレームメモリ17に記憶し、記憶した画像データを所定のタイミングで画像処理装置2へ出力する。また画像データと共に撮像時における撮像部11のシャッタースピード、ゲイン値等の撮像条件を示す撮像条件データ、及び照射部12の照射時間等の照射条件を示す照射条件データも画像処理装置2へ出力される。さらに撮像装置1では、画像処理装置2から所定のタイミングで撮像部11の撮像条件、照射部12の照射条件等の各種回路の制御に関する各種データを受け付け、受け付けたデータに基づいて撮像部11、照射部12等の各種回路を制御する。
画像処理装置2は、装置全体を制御するCPU(Central Processing Unit)21と、本発明のコンピュータプログラム3及びデータ等の各種情報を記録したCD−ROM等の記録媒体4から情報を読み取るCD−ROMドライブ等の補助記憶部22と、補助記憶部22により読み取った各種情報を記録するハードディスク(以下HDという)23と、HD23に記録されたコンピュータプログラム3の実行時に一時的に発生する各種データを記憶するRAM24と、不揮発性メモリにて構成されるフレームメモリ25と、撮像装置1との通信に用いられる通信インタフェース26とを備えている。そしてHD23からから本発明のコンピュータプログラム3及びデータ等の各種情報を読み取り、RAM24に記憶させてコンピュータプログラム3に含まれる各種手順をCPU21により実行することで、車載用コンピュータは、本発明の画像処理装置2として動作する。
画像処理装置2では、撮像装置1から出力された画像データを通信インタフェース26にて受け付け、受け付けた画像データをフレームメモリ25に記録し、フレームメモリ25に記録した画像データを読み出して、様々な画像処理を行い、また画像処理の結果に基づき撮像装置1を制御する各種データを通信インタフェース26から撮像装置1へ出力する。受け付けた画像データに対して実行する様々な画像処理とは、画像データからの検出対象(撮像時の撮像対象)である運転者の顔の輪郭の検出並びに目及び鼻の位置の特定等の検出対象の検出に関する様々な処理である。具体的な処理の例としては、画像の垂直方向に並ぶ輝度を積算し、積算した値を所定の閾値と比較することで、背景より輝度が高い画素にて構成される顔の輪郭の水平方向の範囲を検出する処理を挙げることができる。また更にその処理において、積算値の水平方向の変化を微分して変化が大きい位置を特定して、輝度が大きく変化する背景と顔の輪郭との境界を検出する処理を挙げることができる。また他の処理の例としてパターンマッチングにより目の位置を検出する処理を挙げることができる。詳細な処理の内容は、例えば本願出願人により出願された特開2000−163564号公報、特開2004−234494号公報、特開2004−234367号公報等の文献に記載されている。なおこれらの画像処理は、必ずしも特開2000−163564号公報、特開2004−234494号公報及び特開2004−234367号公報に記載された処理に限るものではなく、その用途、ハードウェア構成、他のアプリケーションプログラムとの連携等の条件に応じて適宜選択することが可能である。
次に本発明の画像処理システムにて用いられる各種装置の処理について説明する。図3及び図4は、本発明の画像処理システムにて用いられる画像処理装置2の処理を示すフローチャートである。画像処理装置2では、RAM24に記憶させたコンピュータプログラム3を実行するCPU21の制御により、撮像装置1の撮像により得られ通信インタフェース26を介して受け付けた画像データをフレームメモリ25から抽出し(ステップS1)、抽出した画像データに対し、撮像対象である運転者の顔の輪郭の検出並びに目及び鼻孔の位置の特定等の撮像対象に関する検出処理を行う(ステップS2)。ステップS1〜S2の検出処理とは、前述した様に特開2000−163564号公報、特開2004−234494号公報、特開2004−234367号公報等の文献に記載された各種処理を用いて行われる。また検出処理の結果に応じて運転を支援する各種処理が実行される。さらにこのときの検出処理の結果は、HD23又はRAM24の記録される。
画像処理装置2では、CPU21の制御により、ステップS1〜S2の処理にて撮像対象を検出することができたか否かを判定し(ステップS3)、検出することができたと判定した場合(ステップS3:YES)、撮像対象は存在すると判定し(ステップS4)、ステップS1に戻り、次の画像データに対して以降の処理を繰り返す。ステップS3の検出とは、撮像対象の存否の検出であり、判定基準としては適宜設定することが可能である。例えばステップS1〜S2の処理において、撮像対象である運転者の顔の輪郭、目及び鼻孔を検出する場合、輪郭、両目及び両鼻孔の全てを検出したときに限り、撮像対象を検出することができたと判定する様にしても良いし、また輪郭、少なくとも一方の目及び少なくとも一方の鼻孔を検出したときに撮像対象を検出することができたと判定する様にしても良い。なおステップS3の判定に用いる撮像対象の検出の状況は、HD23又はRAM24に記録されているステップS1〜S2の検出処理の結果が読み出されたものである。
ステップS3において、撮像対象を検出することができなかったと判定した場合(ステップS3:NO)、画像処理装置2では、CPU21の制御により、撮像対象を検出することができない状態が、第1連続基準値として予め設定されているnフレーム(nは自然数)以上連続しているか否かを判定する(ステップS5)。なお第1連続基準値は、HD23又はRAM24に記録されている。
ステップS5において、撮像対象を検出することができない状態のフレームが、第1連続基準値であるnフレーム未満しか連続していないと判定した場合(ステップS5:NO)、画像処理装置2では、CPU21の制御により、撮像対象を検出することができない状態が、第1連続基準値より小さい値の第2連続基準値として予め設定されているmフレーム(mは、nより小さい自然数)以上連続しているか否かを判定する(ステップS6)。なお第2連続基準値は、HD23又はRAM24に記録されている。
ステップS6において、撮像対象を検出することができない状態のフレームが、第2連続基準値であるmフレーム未満しか連続していないと判定した場合(ステップS6:NO)、画像処理装置2では、CPU21の制御により、ステップS4へ進み、撮像対象は存在すると判定する(ステップS4)。撮像対象を検出することができない状態の継続状況が短いため、撮像対象は存在しないと判定すると、誤認識の可能性が高いからである。
ステップS6において、撮像対象を検出することができない状態のフレームは、第2連続基準値であるmフレーム以上連続していると判定した場合(ステップS6:YES)、画像処理装置2では、CPU21の制御により、当該画像データの絶対輝度値が、予め設定されている輝度値基準値未満であるか否かを判定する(ステップS7)。なお輝度値基準値は、HD23又はRAM24に記録されている。絶対輝度値は、画像データと共に撮像装置1から出力される撮像条件データ及び照射条件データ並びに画像処理装置1にて算出される画像データが示す画像を形成する画素の平均輝度値に基づき、例えば平均輝度値、シャッタースピード、ゲイン値及び照射幅の積として算出される。具体的には以下に例示する式1を用いて算出される。なお撮像条件及び照射条件は、撮像装置1から入力された値ではなく、制御用のデータとして撮像装置1へ出力した値であってもよい。本発明の画像処理システムにて用いられる撮像装置1では、撮像対象である顔の輝度を一定にすべくゲイン値の調整が行われる。従って輝度値ではなく絶対輝度値を用いた判定を行う。
絶対輝度値=平均輝度値×S/s×{1+g/6}×s/t …式1
但し、S:基準シャッタースピード定数[sec](例:1/250sec)
s:シャッタースピード[sec](例:1/2000sec)
g:ゲイン値(例:0〜5 例示した式1は、ゲイン値の0〜5の6変化がシャッタースピード1/2の変化に相当する場合)
t:照射幅[sec](ただしt>sの時、t=sとする)
ステップS7において、画像データの絶対輝度値が、輝度値基準値以上であると判定した場合(ステップS7:NO)、画像処理装置2では、CPU21の制御により、ステップS4へ進み、撮像対象は存在すると判定する(ステップS4)。本発明の画像処理システムでは、撮像対象に光を照射しているため、撮像部11に近い位置に存在する物体程、絶対輝度値が大きくなる。従って絶対輝度値が輝度値基準値以上である場合、撮像部11に近い位置に撮像対象が存在すると判定するのである。
ステップS5において、撮像対象を検出することができない状態のフレームが、第1連続基準値であるnフレーム以上連続していると判定した場合(ステップS5:YES)、又はステップS7において、画像データの絶対輝度値が、輝度値基準値未満であると判定した場合(ステップS7:YES)、画像処理装置2では、CPU21の制御により、撮像装置1が備える照射部12による光の照射を中断させ(ステップS8)、光を照射していない状態での撮像により得られた画像データを取得する(ステップS9)。照射部12では、撮像部11による撮像が行われている通常状態においては、撮像方向に対して光を照射しているが、ステップS8にて、照射部12の照射を中断させる制御を行うデータを画像処理装置2から撮像装置1へ出力することにより、照射部12による照射が一時的に中断される。
そして画像処理装置2では、CPU21の制御により、光を照射しているときに撮像した画像の平均輝度値及び光を照射していないときに撮像した画像の平均輝度を比較し、光を照射しているときの平均輝度値が、光を照射していないときの平均輝度値より、予め設定されている輝度差基準値以上であるか否かを判定する(ステップS10)。なお輝度値基準値は、HD23又はRAM23に記録されている。
ステップS10において、光を照射しているときの平均輝度値が、光を照射していないときの平均輝度値より、輝度差基準値以上大きいと判定した場合(ステップS10:YES)、画像処理装置2では、CPU21の制御により、ステップS4へ進み、撮像対象は存在すると判定する(ステップS4)。
ステップS10において、光を照射しているときの平均輝度値と、光を照射していないときの平均輝度値との差が輝度差基準値未満であると判定した場合(ステップS10:NO)、画像処理装置2では、CPU21の制御により、撮像対象は存在しないと判定し(ステップS11)、ステップS1に戻り、次の画像データに対し、以降の処理を繰り返す。そして撮像対象が存在しないと判定した場合における運転支援処理等の各種処理が実行される。
ステップS8〜S11に示した処理において、光を照射した場合で、撮像部11に近い位置に撮像対象が存在するとき、平均輝度値が大きくなるが、撮像対象が存在しないとき、光の照射による平均輝度値の変化は小さい。従って光を照射している場合の平均輝度値と照射していない場合の平均輝度値を比較することにより、撮像対象の存否(有無)を判定することが可能となる。またステップS10の比較にて用いられる平均輝度値は、画像データ全体の輝度に基づく平均輝度値を用いるのではなく、画像データにより示される全体の画像から、周辺部の画像を除いた中心部の画像を抽出し、中心部の画像に関する平均輝度値を用いる様にすることが望ましい。撮像対象が存在する場合、画像の中心部に撮像対象が存在する可能性が高いため、画像の中心部の平均輝度値は、撮像対象が存在する場合と存在しない場合とでの差が大きく、判定精度が向上するからである。なおステップS3にて撮像対象を検出することができたと判定した場合等の撮像対象が存在している可能性が高い場合には、ステップS8〜S11に示した平均輝度値の比較、撮像対象が存在しないことの判定等の処理は回避される。光の照射を中断することにより、例えばステップS2にて示した処理の結果に誤差が生じること、また処理負荷が増大することを防止するためである。
前記実施の形態では、車両の運転者を撮像対象とする形態を示したが、本発明はこれに限らず、様々な人物、更には人物以外の生物又は無生物を撮像対象とする形態であっても良い。例えば定位置での監視業務を遂行する警備員を撮像対象とし、警備員が不在であると判定した場合に、警告処理を行う監視システムに適用する等、様々な形態に展開することが可能である。
また前記実施の形態では、撮像装置から受け付けた画像に基づいて、画像処理装置にて様々な処理を行う形態を示したが、本発明はこれに限らず、画像処理装置の処理として記載した全部又は一部の処理を撮像装置にて行う形態であっても良い。

Claims (9)

  1. 撮像手段と、該撮像手段が撮像する方向に光を照射する光照射手段と、撮像して得られた画像からを検出する画像処理装置とを用いた画像処理方法において、
    撮像して得られた画像から顔の検出の可否を判定し、
    顔を検出することができないと判定した場合に、
    光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較し、
    比較した結果に基づいて画像内でのの有無を判定する
    ことを特徴とする画像処理方法。
  2. 撮像手段と、該撮像手段が撮像する方向に光を照射する照射手段と、撮像して得られた画像からを検出する画像処理装置とを備える画像処理システムにおいて、
    前記画像処理装置は、
    撮像して得られた画像から顔の検出の可否を判定する手段を備え、
    更に、顔を検出することができないと判定した場合に、
    光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較する比較手段と、
    該比較手段が比較した結果に基づいて画像内でのの有無を判定する判定手段と
    を備えることを特徴とする画像処理システム。
  3. 前記画像処理装置は、
    撮像して得られた画像の輝度を求める手段を更に備え、
    前記比較手段は、夫々の画像の輝度を比較するように構成してあり、
    前記判定手段は、夫々の画像の輝度の差が基準値未満である場合に、顔が存在しないと判定するように構成してある
    ことを特徴とする請求項2に記載の画像処理システム。
  4. 前記輝度は、画像を構成する画素の平均輝度であることを特徴とする請求項3に記載の画像処理システム。
  5. 画像を構成する画素の平均輝度、前記照射手段の照射条件及び前記撮像手段の撮像条件に基づき導出される絶対輝度に基づいて画像内でのの有無を判定する手段を更に備えることを特徴とする請求項2乃至請求項4のいずれかに記載の画像処理システム。
  6. 前記照射手段は、近赤外域の波長の光を照射するように構成してあり、
    前記撮像手段は、近赤外域の波長の光を透過するフィルタを有する
    ことを特徴とする請求項2乃至請求項のいずれかに記載の画像処理システム。
  7. 前記撮像手段及び照射手段を有し、前記画像処理装置と接続される撮像装置を備えることを特徴とする請求項2乃至請求項のいずれかに記載の画像処理システム。
  8. 撮像して得られた画像からを検出する画像処理装置において、
    撮像方向に光を照射させる手段と、
    撮像して得られた画像から顔の検出の可否を判定する手段と
    を備え、
    更に、顔を検出することができないと判定した場合に、
    光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較する手段と、
    比較した結果に基づいて画像内のの有無を判定する手段と
    を備えることを特徴とする画像処理装置。
  9. 撮像手段及び該撮像手段が撮像する方向に光を照射する照射手段と接続するコンピュータに、撮像して得られた画像からを検出させるコンピュータプログラムにおいて、
    コンピュータに、撮像して得られた画像から顔の検出の可否を判定させる手順と、
    顔を検出することができないと判定した場合に、
    コンピュータに、光を照射しているときに撮像した画像及び照射していないときに撮像した画像を比較させる手順と、
    コンピュータに、比較した結果に基づいて画像内のの有無を判定させる手順と
    を実行させることを特徴とするコンピュータプログラム。
JP2007503550A 2005-02-18 2005-02-18 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム Expired - Fee Related JP4397415B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2005/002633 WO2006087812A1 (ja) 2005-02-18 2005-02-18 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム

Publications (2)

Publication Number Publication Date
JPWO2006087812A1 JPWO2006087812A1 (ja) 2008-07-03
JP4397415B2 true JP4397415B2 (ja) 2010-01-13

Family

ID=36916228

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007503550A Expired - Fee Related JP4397415B2 (ja) 2005-02-18 2005-02-18 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム

Country Status (4)

Country Link
US (1) US8077916B2 (ja)
JP (1) JP4397415B2 (ja)
CN (1) CN101124610A (ja)
WO (1) WO2006087812A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006259900A (ja) * 2005-03-15 2006-09-28 Omron Corp 画像処理システム、画像処理装置および方法、記録媒体、並びにプログラム
JP4888838B2 (ja) * 2008-05-12 2012-02-29 トヨタ自動車株式会社 運転者撮像装置および運転者撮像方法
US8391554B2 (en) * 2008-10-01 2013-03-05 GM Global Technology Operations LLC Eye detection system using a single camera
KR20110006112A (ko) * 2009-07-13 2011-01-20 삼성전자주식회사 카메라 시스템에서 디스플레이 패널의 백라이트를 제어하는 장치 및 그 방법
JP2016196233A (ja) * 2015-04-03 2016-11-24 クラリオン株式会社 車両用道路標識認識装置
JP6737213B2 (ja) * 2017-03-14 2020-08-05 オムロン株式会社 運転者状態推定装置、及び運転者状態推定方法
KR102476757B1 (ko) * 2017-12-21 2022-12-09 삼성전자주식회사 반사를 검출하는 장치 및 방법
CN113545185B (zh) * 2019-03-14 2022-11-25 株式会社富士 对象体判定方法、对象体判定装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000163564A (ja) 1998-12-01 2000-06-16 Fujitsu Ltd 目の追跡装置および瞬き検出装置
JP3994558B2 (ja) * 1998-12-08 2007-10-24 三菱電機株式会社 監視警戒装置
US6810135B1 (en) * 2000-06-29 2004-10-26 Trw Inc. Optimized human presence detection through elimination of background interference
JP2002298232A (ja) * 2001-03-29 2002-10-11 Mitsubishi Electric Corp 人体検知装置、人体検知方法および障害物検知方法
JP4204336B2 (ja) 2003-01-30 2009-01-07 富士通株式会社 顔の向き検出装置、顔の向き検出方法及びコンピュータプログラム
JP4162503B2 (ja) 2003-01-31 2008-10-08 富士通株式会社 眼の状態判定装置、眼の状態判定方法及びコンピュータプログラム
JP3785148B2 (ja) * 2003-02-10 2006-06-14 株式会社東芝 画像抽出装置

Also Published As

Publication number Publication date
US20070291989A1 (en) 2007-12-20
WO2006087812A1 (ja) 2006-08-24
JPWO2006087812A1 (ja) 2008-07-03
CN101124610A (zh) 2008-02-13
US8077916B2 (en) 2011-12-13

Similar Documents

Publication Publication Date Title
JP4397415B2 (ja) 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム
JP4592744B2 (ja) 画像処理方法、画像処理システム、画像処理装置及びコンピュータプログラム
EP2074550B1 (en) Eye opening detection system and method of detecting eye opening
US7912254B2 (en) Automatic trimming method, apparatus and program
US20110142349A1 (en) Information processing apparatus and information processing method
US9646215B2 (en) Eye part detection apparatus
US20140168441A1 (en) Vehicle occupant detection device
WO2013157466A1 (ja) 喫煙検出装置、方法及びプログラム
US10624538B2 (en) Eyelid detection device, drowsiness determination device, and eyelid detection method
JP2009219555A (ja) 眠気検知装置、運転支援装置、眠気検知方法
JP2008171108A (ja) 顔状況判定処理装置および撮像装置
JP2008252404A (ja) 撮像装置、撮像方法、および撮像プログラム
JP2004192551A (ja) 開閉眼判定装置
JP2008252863A (ja) 撮像システム、撮像方法及びプログラム
JP4457077B2 (ja) 障害物検出システム、及び障害物検出方法
JP5206190B2 (ja) ドライバー監視装置
JP2008028478A (ja) 障害物検出システム、及び障害物検出方法
JP6945775B2 (ja) 車載用画像処理装置、および、車載用画像処理方法
JP6525723B2 (ja) 撮像装置及びその制御方法、プログラム、並びに記憶媒体
WO2019030855A1 (ja) 運転不能状態判定装置および運転不能状態判定方法
JP2002117390A (ja) 画像処理装置
JP4184133B2 (ja) 画像処理装置
JP4577301B2 (ja) 顔向き検知装置
JP2010026657A (ja) 運転者状態検出装置
WO2023032029A1 (ja) 遮蔽判定装置、乗員監視装置及び遮蔽判定方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090714

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090908

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091020

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091020

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121030

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4397415

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121030

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131030

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees