JP2018010601A - 画像処理装置 - Google Patents

画像処理装置 Download PDF

Info

Publication number
JP2018010601A
JP2018010601A JP2016140865A JP2016140865A JP2018010601A JP 2018010601 A JP2018010601 A JP 2018010601A JP 2016140865 A JP2016140865 A JP 2016140865A JP 2016140865 A JP2016140865 A JP 2016140865A JP 2018010601 A JP2018010601 A JP 2018010601A
Authority
JP
Japan
Prior art keywords
area
plane
unit
image
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016140865A
Other languages
English (en)
Other versions
JP6416157B2 (ja
Inventor
全史 大津
Masafumi Otsu
全史 大津
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Secom Co Ltd
Original Assignee
Secom Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Secom Co Ltd filed Critical Secom Co Ltd
Priority to JP2016140865A priority Critical patent/JP6416157B2/ja
Publication of JP2018010601A publication Critical patent/JP2018010601A/ja
Application granted granted Critical
Publication of JP6416157B2 publication Critical patent/JP6416157B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Burglar Alarm Systems (AREA)
  • Image Analysis (AREA)

Abstract

【課題】撮影装置と撮影装置により撮影される空間との位置関係が予め定められていない場合でも、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができる画像処理装置を提供する。【解決手段】画像処理装置1は、所定空間が写っている撮影画像を取得する画像取得部53と、撮影画像に含まれる基準画素の輝度値と他の各画素の輝度値の比率に基づいて、基準画素に対応する所定空間内の位置と撮影装置の位置の間の距離と、他の各画素に対応する所定空間内の位置と撮影装置の位置の間の距離の比率を算出する距離比率算出部55と、算出した比率に応じて、各画素に対応する三次元空間内の空間座標を算出する空間座標算出部56と、互いに近接する画素群のうち、その画素群に含まれる画素に対応する空間座標が略同一平面上に存在する画素群を平面領域として検出する平面領域検出部57を有する。【選択図】図1

Description

本発明は、画像から平面を検出する画像処理装置に関する。
一般に、画像により監視空間への人物の侵入を監視する画像処理装置は、監視空間を撮影した複数の撮影画像から、変化のあった変化領域を検出し、変化領域に人物が写っているか否かを判定することにより、監視空間内に侵入する人物を検出する。しかし、監視空間に柱、壁等の平面が存在する場合、その平面を走るネズミ等の小動物、平面に照射された車のヘッドライト光等が人物として誤って検出される可能性がある。このような検出誤りを防止するために、例えば、画像処理装置は、撮影画像内において柱、壁等の平面が写る平面領域を予め設定しておく。これにより、画像処理装置は、変化領域がその平面領域に内包する場合、その変化領域は床面に接していないため、その変化領域には人物でなく小動物又は光が写っていると判定することができる。
しかし、従来、画像処理装置において、平面領域は、監視空間を目視で確認した対処員により、手動で設定されていた。そのため、監視空間において什器等の設置物のレイアウトが変更された際には、対処員が平面領域を再設定する必要があり、対処員の作業負荷及び作業費用が増大していた。また、対処員が平面領域を手動により設定する場合、設定忘れ、設定誤り等が発生する可能性もあった。
二次元画像から三次元形状を検出する技術として、複数の照明、複数のカメラを用いる技術、パターン光、TOF(Time of Flight)による測距センサ等を用いる技術が知られている。しかし、これらの方法により平面領域を検出する場合、複数の照明、複数のカメラ、測距センサ等が必要となるため、システム費用が増大してしまう。
一方、上述したような特別な構成を用いずに、単カメラ、単照明という装置構成で二次元画像から平面を検出する技術が特許文献1に記載されている。具体的には、特許文献1には、平面を持ち、その平面の一部に僅かに傾斜した傾斜部がある被検査物に対し、平面と傾斜部との境界である傾斜開始線を検出する処理装置が記載されている。この処理装置は、被検査物の表面を拡散光で照射して撮像し、受光濃度が閾値を越える変化点の位置を傾斜開始位置として検出する。
特開平04−259811号公報
しかし、被検査物における受光濃度はカメラの撮影方向、照明の照射方向、カメラ及び照明と被検査物との間の距離等によって変化するため、特許文献1の処理装置のようにして傾斜開始位置を検出するためには、カメラ、照明及び被検査物の位置関係が予め定められている必要がある。したがって、従来、カメラ及び照明及び被検査物の位置関係が予め定められていない場合に、平面を検出することは困難であった。
本発明の目的は、撮影装置と撮影装置により撮影される空間との位置関係が予め定められていない場合でも、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができる画像処理装置を提供することにある。
かかる課題を解決するため本発明は、撮影装置により撮影された所定空間が写っている撮影画像を取得する画像取得部と、撮影画像に含まれる基準画素の輝度値と他の各画素の輝度値の比率に基づいて、基準画素に対応する所定空間内の位置と撮影装置の位置の間の距離と、他の各画素に対応する所定空間内の位置と撮影装置の位置の間の距離の比率を算出する距離比率算出部と、距離比率算出部が算出した比率に応じて、撮影画像に含まれる各画素に対応する三次元空間内の空間座標を算出する空間座標算出部と、撮影画像において互いに近接する画素群のうち、その画素群に含まれる画素に対応する空間座標が略同一平面上に存在する画素群を平面領域として検出する平面領域検出部と、を有することを特徴とした画像処理装置を提供する。これにより本発明は、撮影装置と撮影装置により撮影される空間との位置関係が予め定められていない場合でも、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができる。
撮影画像を複数の分割領域に分割する領域分割部をさらに有し、平面領域検出部は、分割領域のうち、その分割領域に含まれる各画素に対応する空間座標が略同一平面上に存在する分割領域を平面候補領域として検出する平面候補領域検出部と、互いに隣接する二つの分割領域が平面候補領域として検出され、且つ、二つの分割領域に含まれる画素に対応する空間座標が略同一平面上に存在する場合、二つの分割領域を一つの平面候補領域として結合する平面候補領域結合部と、を有し、平面候補領域に基づいて、平面領域を検出することが好適である。これにより、互いに近接する画素群からなる平面領域をより効率良く検出することができる。
撮影画像を複数の分割領域に分割する領域分割部をさらに有し、平面領域検出部は、分割領域のうち、その分割領域に含まれる各画素に対応する空間座標が略同一平面上に存在する分割領域を平面候補領域として検出する平面候補領域検出部と、互いに隣接する二つの分割領域の内の第1の分割領域が平面候補領域として検出され、第2の分割領域が平面候補領域として検出されない場合において、第2の分割領域に含まれる画素に対応する空間座標が、第1の分割領域に係る平面上に存在するか否かを判定し、その平面上に存在すると判定された第2の分割領域の画素を第1の分割領域に係る平面候補領域に含ませる平面候補領域更新部と、をさらに有し、平面候補領域に基づいて、平面領域を検出することが好適である。これにより、互いに近接する画素群からなる平面領域をより効率良く検出しつつ、分割領域に複数の平面が含まれる場合でも、平面領域をより精度良く検出することができる。
また、本発明は、光の照射方向が撮影装置の撮影方向と略同一となるように設置された照明装置の配光情報を記憶する記憶部と、照明装置が点灯した状態で撮影装置が所定空間を撮影した点灯入力画像、及び、照明装置が消灯した状態で撮影装置が所定空間を撮影した消灯入力画像を取得し、点灯入力画像及び消灯入力画像に基づいて、外乱光の影響を除去した外乱光除去画像を生成する外乱光除去画像生成部と、外乱光除去画像及び配光情報に基づいて、画像内の各画素の視軸方向に向けて略均一な強度の照明が照射された状態の所定空間が写っている均一照明画像を生成する均一照明画像生成部と、均一照明画像を解析して、所定空間内の平面が写っている平面領域を検出する平面領域検出部と、を有することを特徴とした画像処理装置を提供する。これにより本発明は、平面検出に用いる照明装置自体の配向の不均一さや、平面検出に用いる照明装置以外からの光の影響を受けることなく、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができる。
本発明に係る画像処理装置は、撮影装置と撮影装置により撮影される空間との位置関係が予め定められていない場合でも、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができるという効果を奏する。
本実施形態による監視システムの概略構成図である。 (a)〜(e)は各画像について説明するための模式図である。 (a)、(b)は分割領域について説明するための模式図である。 平面候補領域の検出について説明するための模式図である。 平面候補領域の結合について説明するための模式図である。 平面候補領域の更新について説明するための模式図である。 (a)、(b)は平面領域と対象の関係を説明するための模式図である。 平面領域検出処理の動作を示すフローチャートである。 対象検出処理の動作を示すフローチャートである。
以下、本発明の画像処理装置が適用される監視システムについて図を参照しつつ説明する。
図1は、本実施形態による監視システム100の概略構成を示す図である。監視システム100は、画像処理装置1及び撮影ユニット2を有する。
撮影ユニット2は、撮影部10及び照明部20を有する。
撮影部10は、CCD素子またはC−MOS素子など、近赤外光または可視光に感度を有する光電変換素子と、その光電変換素子上に像を結像する結像光学系と、光電変換素子から出力された電気信号を増幅し、アナログ/デジタル(A/D)変換するA/D変換器とを有する。撮影部10は、人物等の検出対象の侵入を監視する監視空間を撮影するように固定設置される。撮影部10は、画像処理装置1と接続され、撮影したRGB各色の画像を各画素が0〜255の範囲の輝度値を有するデジタルの入力画像に変換して画像処理装置1へ出力する。
照明部20は、監視空間に光を照射する光源であり、撮影部10の光電変換素子が感度を有する近赤外光領域または可視光領域の波長に十分な輝度を持つ光源(例えば複数のLED等)を有する。照明部20は、撮影部10の設置位置と略同一の位置に、光の照射方向が撮影部10の撮影方向と略同一となるように固定設置される。照明部20は、画像処理装置1と接続され、画像処理装置1による制御に従って監視空間に光を照射する。
なお、撮影ユニット2は、画像処理装置1と接続されるように画像処理装置1の外部に設けられるのでなく、画像処理装置1に含まれるように画像処理装置1の内部に設けられてもよい。
画像処理装置1は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、周辺回路、端子、各種メモリ等を有する。画像処理装置1は、撮影ユニット2が撮影した入力画像から、柱、壁、床等の平面領域を検出するとともに、検出した平面領域の情報を利用して人物、小動物等の検出対象を検出し、入力画像から検出対象を抽出した画像を出力する。画像処理装置1は、出力部30、記憶部40及び制御部50等を有する。
出力部30は、外部装置(不図示)と接続するインタフェース及びその制御回路である。出力部30は、制御部50から、入力画像に検出対象が含まれるか否かの判定結果を含む結果信号を受け取ると、外部装置が受信可能な形式の信号に変換して出力する。なお、判定結果が入力画像に検出対象が含まれていることを示す場合、結果信号には、監視空間を監視する監視員に警報を通知するための情報、入力画像から抽出された検出対象を含む画像等がさらに含まれてもよい。また、出力部30は、制御部50から、入力画像から検出された平面領域の画像、又は入力画像において平面が写っている領域の座標情報及び大きさを示す情報を受け取ると、外部装置が受信可能な形式の信号に変換して出力する。
なお、出力部30は、一般公衆回線、携帯電話回線などの通信回線を介して各情報を監視センタ装置などの外部装置へ出力してもよい。
記憶部40は、ROM(Read Only Memory)、RAM(Random Access Memory)等の半導体メモリ、又は磁気記録媒体及びそのアクセス装置もしくは光記録媒体及びそのアクセス装置等を有する。記憶部40は、画像処理装置1を制御するためのコンピュータプログラム及び各種データを記憶し、制御部50との間でこれらの情報を入出力する。コンピュータプログラムは、CD−ROM(compact disk read only memory)、DVD−ROM(digital versatile disk read only memory)等のコンピュータ読み取り可能な可搬型記録媒体から公知のセットアッププログラム等を用いて記憶部40にインストールされてもよい。
記憶部40には、モード情報41、設置情報42、配光情報43及び背景画像44等が記憶される。モード情報41は、現在設定されている画像処理装置1の動作モードを示す。設置情報42は、監視空間におけるカメラの設置状態を示し、例えば撮影部10の設置高さ、俯角、画角等である。配光情報43は、照明部20の配光を示し、例えば入力画像の各画素の視軸方向への照射強度である。配光情報43は、例えば、撮影部10の撮影方向に一様な色の球面スクリーンを置き、照明部20を点灯しつつ各画素の輝度値が飽和又は黒つぶれしないように輝度値の範囲を調整して取得した画像情報である。即ち、配光情報43は各画素の輝度値が照明部20による照明光強度を表す照明光強度画像である。なお、配光情報43は、画像情報に限らず、データ値として記憶されてもよい。背景画像44は、対象物が存在しない状態の監視空間を撮影した画像であり、公知の更新方法に基づいて、適宜最適になるように更新される。
制御部50は、CPU、MPU、周辺回路等を有する。制御部50は、記憶部40を参照しながら入力画像から平面領域を検出するとともに、検出した平面領域の情報を利用して検出対象を検出し、結果信号を出力部30に出力する。制御部50は、モード設定手段51、撮影制御手段52、画像取得手段53、領域分割手段54、距離比率算出手段55、空間座標算出手段56、平面領域検出手段57及び対象検出手段58等を有する。
制御部50の各手段は、マイクロプロセッサ上で動作するソフトウェアにより実現される機能モジュールである。なお、制御部50の各手段は、独立した集積回路、ファームウェア、マイクロプロセッサなどで構成されてもよい。
以下、制御部50の各手段について詳細に説明する。
モード設定手段51は、画像処理装置1の動作モードを設定する。画像処理装置1の動作モードには、監視空間を撮影した画像から監視空間に存在する平面を検出する平面検出モードと、監視空間を撮影した画像から監視空間に存在する人物、小動物等の検出対象を検出する対象検出モードが含まれる。モード設定手段51は、入力部(不図示)を介して、対処員が操作する外部装置から制御信号を受信し、受信した制御信号に従って画像処理装置1の動作モードを切り替える。モード設定手段51は、画像処理装置1の動作モードを示すモード情報を記憶部40に記憶する。
なお、モード設定手段51は、動作モードが平面検出モードである場合、平面検出処理が終了したときに動作モードを自動的に対象検出モードに切り替えてもよい。また、画像処理装置1は、スケジュール情報を予め記憶部40に記憶しておき、モード設定手段51は、記憶されたスケジュール情報に従って、動作モードを切り替えてもよい。また、モード設定手段51は、動作モードが対象検出モードである場合、検出対象の検出結果に基づいて、動作モードを切り替えてもよい。例えば、モード設定手段51は、平面検出モードを設定するための制御信号を受信した場合、検出対象の検出結果を参照し、監視空間内に検出対象が存在しない場合に限り動作モードを自動的に平面検出モードに切り替えてもよい。
撮影制御手段52は、撮影部10及び照明部20を制御する。撮影制御手段52は、撮影部10にシャッター速度、ゲイン値等を設定して露光制御を行うとともに、撮影部10による撮影の実行を制御する。また、撮影制御手段52は、照明部20に点灯時間、強度等を設定するとともに、照明部20による点灯及び消灯の実行を制御する。撮影制御手段52は、記憶部40に記憶されたモード情報を参照し、現在設定されている動作モードに応じて撮影部10及び照明部20を制御する。
撮影制御手段52は、動作モードが平面検出モードである場合、照明部20を点灯させた状態で撮影部10に点灯入力画像を撮影させるとともに、照明部20を消灯させた状態で撮影部10に消灯入力画像を撮影させる。
一方、撮影制御手段52は、動作モードが対象検出モードである場合、公知の方法によって監視空間の明るさを検出し、監視空間の明るさに応じて、照明部20の点灯と消灯を切り替えながら撮影部10に撮影を実行させる。例えば、撮影制御手段52は、昼間と夜間で照明部20の消灯と点灯を切り替える。撮影制御手段52は、所定の時間間隔(例えば1/5秒間隔)で、撮影部10に順次撮影を実行させる。
画像取得手段53は、外乱光除去画像生成部及び均一照明画像生成部の一例であり、動作モードが平面検出モードに設定されている場合に、撮影部10から点灯入力画像及び消灯入力画像を取得する。
図2(a)は、点灯入力画像の一例を示し、図2(b)は、消灯入力画像の一例を示す。図2(a)に示す点灯入力画像200には、監視空間内に配置された柱201、壁202、床203等が写っている。また、点灯入力画像200には、照明部20以外の照明機器により照らされた光204が写っている。一方、図2(b)に示す消灯入力画像210では、照明部20による照明が消灯されているため、柱201、壁202、床203等は写っておらず、照明部20以外の照明機器により照らされた光214のみが写っている。このように、点灯入力画像は、照明部20が点灯した状態で撮影部10が監視空間を撮影した画像であり、消灯入力画像は、照明部20が消灯した状態で撮影部10が監視空間を撮影した画像である。
次に、画像取得手段53は、点灯入力画像及び消灯入力画像に基づいて、各画素が、点灯入力画像内の対応する画素の輝度値から、消灯入力画像内の対応する画素の輝度値を減算した値を有する外乱光除去画像を生成する。
図2(c)は、外乱光除去画像の一例を示す。図2(c)に示す外乱光除去画像220には、監視空間内に配置された柱201、壁202、床203等が写り、照明部20以外の照明機器により照らされた光204は写っていない。このように、外乱光除去画像220は、照明部20による照明光以外の外乱光の影響を除去した画像となる。
次に、画像取得手段53は、記憶部40から配光情報(照明光強度画像)を取得する。画像取得手段53は、外乱光除去画像及び照明光強度画像に基づいて、各画素が、外乱光除去画像内の対応する画素の輝度値を、照明光強度画像内の対応する画素の輝度値(を正規化した値)で除算した値を有する均一照明画像を生成する。均一照明画像は、撮影部10により撮影された監視空間が写っている撮影画像の一例である。
図2(d)は、照明光強度画像の一例を示し、図2(e)は、均一照明画像の一例を示す。本実施形態の監視システム100では、奥行きのある監視空間を撮影可能なように、撮影部10及び照明部20は、所定高さの位置に、撮影部10の撮影方向及び照明部20の光の照射方向が水平方向より下方へ向くように設置されている。また、画像処理装置1の遠方に位置する空間が照明部20による照明光により十分に照らされるように、照明部20内で上側に配置されたLEDの光の強度は、下側に配置されたLEDの光の強度よりも高くなるように設定されている。また、監視空間の中央付近がより確実に照らされるように、照明部20内で左右方向の中央側に配置されたLEDの光の強度は、両端側に配置されたLEDの光の強度よりも高くなるように設定されている。そのため、図2(d)に示す照明光強度画像230において、上側の画素231の輝度値は下側の画素232の輝度値より高く、左右方向の中央側の画素233の輝度値は両端側の画素234、235の輝度値より高い。
図2(e)に示す照明光強度画像240は、図2(b)に示した外乱光除去画像220から図2(c)に示した照明光強度画像230における各画素の輝度値の差の影響を除去するように生成された画像である。照明光強度画像240では、外乱光除去画像220の対応する各画素と比較して、上側の画素241及び左右方向の中央側の画素243の画素の輝度値は変化せず、下側の画素242及び左右方向の両端側の画素244、245の輝度値が高くなっている。このように、照明光強度画像240は、画像内の各画素の視軸方向、即ち撮影部10の撮影方向に向けて略均一な強度の照明が照射された状態の監視空間が写っている画像となる。
なお、監視空間が外乱光によって照らされない場合、画像取得手段53は、消灯入力画像の取得及び外乱光除去画像の生成を省略し、各画素が、点灯入力画像内の対応する各画素の輝度値を、照明光強度画像内の対応する各画素の輝度値で除算した値を有する画像を均一照明画像として生成してもよい。
また、照明部20の配光が各方向に対して略均一な強度で照射されるように設定されている場合、画像取得手段53は、点灯入力画像又は外乱光除去画像を均一照明画像として用いてもよい。
領域分割手段54は、均一照明画像を複数の分割領域(小領域)に分割する。領域分割手段54は、均一照明画像に含まれる各画素の内、互いに近接する画素群をグループ化し、グループ化された画素群の領域を分割領域として設定する。例えば、領域分割手段54は、SLIC(Simple Linear Iterative Clustering)法等のクラスタリング技術を用いて、輝度値及び/又は画素間の距離が近い画素同士をグループ化し、グループ化された画素群の領域を分割領域として設定する。なお、領域分割手段54は、均一照明画像を固定サイズの領域(例えば20画素×16画素の矩形領域)にメッシュ状に分割してもよい。領域分割手段54が分割する分割領域のサイズは、画像処理装置1が検出すべき平面領域のサイズよりも小さいサイズにすることが好ましい。
図3(a)は、SLIC法を用いて設定された分割領域の一例を示し、図3(b)は、メッシュ状に設定された分割領域の一例を示す。図3(a)の画像300に示されるように、SLIC法を用いて設定された各分割領域301は、互いに近接し且つ輝度値が近い画素により構成される。また、図3(b)の画像310に示されるように、メッシュ状に設定された各分割領域311も、互いに近接する画素により構成される。
距離比率算出手段55は、均一照明画像内の分割領域毎に、基準画素を設定する。距離比率算出手段55は、分割領域内の任意の画素、例えば分割領域内の最大輝度値を有する画素、又は重心位置に存在する画素等を基準画素に設定する。距離比率算出手段55は、分割領域毎に、各分割領域に含まれる基準画素の輝度値と他の各画素の輝度値の比率に基づいて、基準画素に対応する監視空間内の位置と撮影部10の位置の間の距離と、他の各画素に対応する監視空間内の位置と撮影部10の位置の間の距離の比率を算出する。
監視空間内の特定の位置における反射光強度Sは、その位置の方向に向けて照射される照明の強度をL、その位置における反射率をR、その位置と撮影部10の位置の間の距離をDとすると、以下の式(1)のように表される。
撮影部10により撮影される画像は、反射光強度Sを画像化したものであり、画像内の各画素の輝度値は、反射光強度Sと線形な関係を有する。したがって、均一照明画像内のある二つの画素の輝度値I1、I2は、以下の式(2)、(3)のように表される。
ここで、L1、L2は、各画素の視軸方向に向けて照射される照明の強度であり、R1、R2は、各画素に対応する監視空間内の位置における反射率であり、D1、D2は、各画素に対応する監視空間内の位置と撮影部10の位置の間の距離である。
式(2)、(3)から、各画素に対応する監視空間内の位置と撮影部10の位置の間の距離の比率は、以下の式(4)のように表される。
ここで、均一照明画像では、各画素の視軸方向に向けて照射される照明の強度は一定であるため、式(4)は、以下の式(5)のように変形することができる。
また、各画素に対応する監視空間内の位置が同一平面上にある場合、各位置における反射率R1、R2は一定であるとみなすことができるため、式(5)はさらに以下の式(6)のように変形することができる。
したがって、一方の画素に対応する監視空間内の位置と撮影部10の位置の間の距離D2は、他方の画素に対応する監視空間内の位置と撮影部10の位置の間の距離D1を用いて以下の式(7)により算出される。
したがって、基準画素に対応する監視空間内の位置と撮影部10の位置の間の距離Dcと、他の各画素に対応する監視空間内の位置と撮影部10の位置の間の距離Dnの比率は、各分割領域に含まれる基準画素の輝度値Icと他の各画素の輝度値Inの比率を用いて、以下の式(8)により算出される。
距離比率算出手段55は、基準画素に関する距離Dcを特定の値(例えば2m)に仮定し、各画素に関する距離Dnを、以下の式(9)により算出する。
空間座標算出手段56は、距離比率算出手段55が算出した比率に応じて、分割領域毎に、均一照明画像に含まれる各画素に対応する三次元空間内の空間座標を算出する。空間座標算出手段56は、撮影部10の位置を原点とし、水平方向をX軸、垂直方向をY軸、奥行方向をZ軸とした三次元空間を設定する。空間座標算出手段56は、記憶部40から撮影部10の設置情報を読み出し、均一照明画像に含まれる各画素について、撮影部10の俯角及び画角に従って、距離比率算出手段55が算出した各画素に関する距離に対応する三次元空間内の空間座標を算出する。
平面領域検出手段57は、均一照明画像を解析して、監視空間内の平面が写っている平面領域を検出する。具体的には、平面領域検出手段57は、均一照明画像において互いに近接する画素群のうち、その画素群に含まれる画素に対応する三次元空間内の空間座標が略同一平面上に存在する画素群を平面領域として検出する。そのために、平面領域検出手段57は、平面候補領域検出手段571、平面候補領域結合手段572、平面候補領域更新手段573、平面領域判定手段574等を有する。
平面候補領域検出手段571は、均一照明画像内の各分割領域の内、対応する三次元空間内の領域が平面らしい分割領域を平面候補領域として検出する。
具体的には、平面候補領域検出手段571は、均一照明画像内の各分割領域のうち、その分割領域に含まれる各画素に対応する三次元空間内の空間座標が略同一平面上に存在する分割領域を平面候補領域として検出する。平面候補領域検出手段571は、分割領域毎に、各分割領域に含まれる各画素に対応する三次元空間内の空間座標群に対して、最小二乗法を用いて平面を算出する。即ち、平面候補領域検出手段571は、各分割領域に含まれる各画素に対応する三次元空間内の各空間座標との距離の二乗の和が最小となるように、各空間座標を近似する平面を算出する。そのために、平面候補領域検出手段571は、分割領域毎に、算出した平面と空間座標との距離が所定値以下となる画素の数が所定数以上であるか否かを判定する。そして、平面候補領域検出手段571は、距離が所定値以下となる画素の数が所定数以上である場合、各空間座標が略同一平面上に存在するとみなして、その分割領域に対応する三次元空間内の領域を平面らしいと判定し、その分割領域を平面候補領域と判定する。例えば、平面候補領域検出手段571は、分割領域内の画素の90%以上において平面との距離が所定値以下となる場合にその分割領域を平面候補領域と判定する。
または、平面候補領域検出手段571は、算出した平面と各空間座標との距離の総和を分割領域の面積(画素数)で除算した除算値(距離の平均値)が所定値以下であるか否かを判定し、算出した除算値が所定値以下である場合に、その分割領域を平面候補領域と判定してもよい。
図4は、平面候補領域の検出について説明するための模式図である。図4に示す画像400において、図3(a)に示した各分割領域301の内、平面候補領域として検出された分割領域401〜403のみが網掛け表示されている。各分割領域401は監視領域内の床による平面であり、各分割領域402は柱の一面による平面であり、各分割領域403は柱の他面による平面である。なお、平面候補領域検出手段571は、各分割領域について各空間座標を近似する平面を算出しているため、各分割領域(平面候補領域)に対応する平面の傾き(法線方向)を算出することもできる。各分割領域401、402、403の網掛けの濃度は、対応する平面の傾きに応じて異なるように表示されている。図4に示すように、分割領域401に対応する平面のグループ内、分割領域402に対応する平面のグループ内及び分割領域403に対応する平面のグループ内で平面の傾きはそれぞれ略同一であり、各グループ間で平面の傾きは異なっている。
なお、上記した例では、平面候補領域検出手段571は、各画素に対応する監視空間内の位置が同一平面上にある場合、各位置における反射率が一定であるとみなして(反射率一定モデルを利用して)平面候補領域を検出しているが、二色性反射モデルを利用して平面候補領域を検出してもよい。二色性反射モデルでは、反射率Rは以下の式(10)のように表される。
ここで、Kdは拡散反射係数であり、Ksは鏡面反射係数であり、nはハイライト特性であり、それぞれ平面毎に異なる値を有するが、同一平面であれば同一の値を有すると考えられる。また、αは平面の法線と光源からの光の照射方向のなす角度であり、βは光源からの光の正反射方向と視線(撮影方向)のなす角度であり、それぞれ、平面の法線の向き(平面の傾き)が定まれば、均一照明画像内の画素の位置(座標)と撮影部10の設置情報から算出される。
したがって、空間座標算出手段56及び平面候補領域検出手段571は、各分割領域に対応する平面の傾き、拡散反射係数、鏡面反射係数、ハイライト特性の各パラメータの最適な値を算出することにより、各分割領域に対応する平面を推定することができる。この場合、距離比率算出手段55は、各画素に関する距離Dnを、上記の式(9)に代えて、式(5)を変形した以下の式(11)により算出する。
ここで、αc、αnはそれぞれ基準画素、他の画素に対応する三次元空間内の空間座標における平面の法線と光源からの光の照射方向のなす角度であり、βc、βnはそれぞれ基準画素、他の画素に対応する三次元空間内の空間座標における光源からの光の正反射方向と視線(撮影方向)のなす角度である。
距離比率算出手段55は、各分割領域毎に、各分割領域に対応する平面の傾きを上下・左右それぞれ−90〜90度の範囲で複数設定し、それぞれの傾きに応じた各角度αc、αn、βc、βnを算出する。また、拡散反射係数Kdと鏡面反射係数Ksは、以下の式(12)の関係を有するので、距離比率算出手段55は、拡散反射係数Kdと鏡面反射係数Ksを、式(12)を満たす範囲内で複数設定する。さらに、距離比率算出手段55は、ハイライト特性nを、0〜∞の範囲内で複数設定する。距離比率算出手段55は、上記のように設定及び算出した各パラメータの各組合せを用いて、式(11)により各画素に関する距離Dnを算出する。
一方、空間座標算出手段56は、各パラメータの組合せ毎に、距離比率算出手段55が算出した各画素に関する各距離に基づいて、均一照明画像に含まれる各画素に対応する三次元空間内の空間座標を算出する。また、平面候補領域検出手段571は、各パラメータの組合せについて、均一照明画像内の分割領域毎に、その分割領域に対応する三次元空間内の空間座標群に対して最小二乗法を用いて平面を算出する。そして、各パラメータについて、分割領域毎に、算出した平面と空間座標との距離が所定値以下である画素の数が所定数以上となるか否かを判定し、所定数以上となるパラメータの組合せが存在する場合、その分割領域を平面候補領域と判定する。なお、平面候補領域検出手段571は、算出した平面と各空間座標との距離が所定値以下である画素の数が所定数以上となる組合せが複数存在する場合、距離が所定値以下である画素の数が最も大きくなる平面をその分割領域に対応する平面と判定する。
平面候補領域結合手段572は、平面候補領域検出手段571が検出した平面候補領域の内、同一平面による平面候補領域同士を結合する。
平面候補領域結合手段572は、互いに隣接する二つの分割領域が平面候補領域として検出され、且つ、その二つの分割領域に含まれる各画素に対応する三次元空間内の空間座標が略同一平面上に存在する場合、その二つの分割領域を一つの平面候補領域として結合する。平面候補領域結合手段572は、平面候補領域として検出された互いに隣接する二つの分割領域に対応する三次元空間内の領域が一つの平面らしいか否かを、距離比率算出手段55、空間座標算出手段56及び平面候補領域検出手段571と同様にして、判定する。
即ち、平面候補領域結合手段572は、平面候補領域として検出された互いに隣接する二つの分割領域を一つの領域とみなして、その領域内に基準画素を設定する。平面候補領域結合手段572は、基準画素の輝度値と他の各画素の輝度値の比率に基づいて、基準画素に対応する監視空間内の位置と撮影部10の位置の間の距離と、その領域内の他の各画素に対応する監視空間内の位置と撮影部10の位置の間の距離の比率を算出する。平面候補領域結合手段572は、算出した比率に基づいて、その領域に含まれる各画素に対応する三次元空間内の空間座標を算出し、算出した空間座標が略同一平面上に存在する場合に、その領域を一つの平面候補領域として結合する。平面候補領域結合手段572は、互いに隣接する二つの平面候補領域の組合せ毎に、上記処理を実行し、結合可能な組合せが存在しなくなるまで上記処理を繰り返す。
なお、平面候補領域結合手段572は、互いに隣接する二つの平面候補領域内の全画素について三次元座標を算出せずに、その領域に含まれる少なくとも三つ以上の画素を選択して空間座標を算出し、算出した空間座標が略同一平面上に存在するか否かを判定してもよい。平面候補領域結合手段572は、両方の平面候補領域から少なくとも一つ以上ずつ画素を選択すれば、どのように画素を選択してもよい。
また、平面候補領域結合手段572は、互いに隣接する二つの平面候補領域に対応する平面の法線方向がなす角度が所定値以上である場合、その二つの平面候補領域に対応する三次元空間内の領域は一つの平面でないと判定して、結合処理の対象外としてもよい。
また、平面候補領域結合手段572は、所定サイズ以下の平面候補領域については、結合処理の対象外としてもよい。
また、検出すべき平面の傾きが予め定められている場合(例えば鉛直方向に延伸する平面のみを検出する場合)、平面候補領域結合手段572は、各平面候補領域に対応する平面の法線方向を参照して、その傾き以外の傾きを有する平面については結合処理の対象外としてもよい。
これらにより、平面候補領域の結合処理の処理負荷が軽減し、平面候補領域結合手段572は、結合処理を短時間に実行することが可能となる。
図5は、平面候補領域の結合について説明するための模式図である。図5に示す画像500において、図4に示した床による分割領域401、柱の一面による分割領域402、柱の他面による分割領域403が、それぞれ一つの平面候補領域501、502、503に結合されている。なお、領域504は、各分割領域内にそれぞれ柱の二つの面が含まれてしまっていることにより、平面候補領域として検出されない。このため、領域504内の各分割領域は、他の平面候補領域とも結合されていない。
平面候補領域更新手段573は、平面候補領域検出手段571が平面候補領域として検出しなかった分割領域内の画素の内、対応する三次元空間内の空間座標が、その分割領域に隣接する平面候補領域に対応する三次元空間内の平面上に存在する画素をその平面候補領域に含ませるように平面候補領域を更新する。
平面候補領域更新手段573は、互いに隣接する二つの分割領域の内の第1の分割領域が平面候補領域として検出され、第2の分割領域が平面候補領域として検出されない場合において、第2の分割領域に含まれる画素に対応する三次元空間内の空間座標が、第1の分割領域に係る平面上に存在するか否かを判定する。平面候補領域更新手段573は、その平面上に存在すると判定された第2の分割領域の画素を第1の分割領域に係る平面候補領域に含ませる。
そのために、平面候補領域更新手段573は、一方の分割領域(第1の分割領域)が平面候補領域として検出され、他方の分割領域(第2の分割領域)が平面候補領域として検出されなかった互いに隣接する二つの分割領域の組合せを抽出する。平面候補領域更新手段573は、抽出した各組合せについて、距離比率算出手段55と同様にして、上記した式(9)を用いて、第2の分割領域(非平面候補領域)に含まれる各画素に関する距離Dnを算出しなおす。但し、平面候補領域結合手段572は、上記した式(9)において、基準画素に係る輝度値Ic及び距離Dcとして、第1の分割領域(平面候補領域)に対して設定された基準画素に係る輝度値及び距離を用いて、第2の分割領域に含まれる各画素に関する距離Dnを算出する。
平面候補領域更新手段573は、算出した距離Dnに基づいて、第2の分割領域に含まれる各画素に対応する三次元空間内の空間座標を算出する。平面候補領域更新手段573は、算出した空間座標と、平面候補領域検出手段571が第1の分割領域について算出した平面との距離が第2所定値以下であるか否かを判定する。なお、第2所定値は、平面候補領域検出手段571が平面候補領域を検出するために用いる所定値と同じ値でもよい。または、第2所定値は、平面候補領域検出手段571が平面候補領域を検出するために用いた所定値より大きい値又は小さい値でもよい。平面候補領域更新手段573は、距離が第2所定値以下である場合、第2の分割領域に含まれるその画素に対応する三次元空間内の空間座標は、第1の分割領域に対応する三次元空間内の平面と略同一平面上に存在すると判定し、その画素を第1の分割領域に係る平面候補領域に含ませる。
なお、平面候補領域更新手段573は、特定の画素が、複数の平面候補領域に含まれると判定した場合、その特定の画素をそれぞれの平面候補領域に含ませる。または、平面候補領域更新手段573は、その特定の画素を、各平面候補領域の内、対応する平面との距離が最も小さい平面候補領域のみに含ませてもよい。
なお、平面候補領域の結合処理と同様に、検出すべき平面の傾きが予め定められている場合、平面候補領域更新手段573は、各平面候補領域に対応する平面の法線方向を参照して、その傾き以外の傾きを有する平面については更新処理の対象外としてもよい。これにより、平面候補領域の更新処理の処理負荷が軽減し、平面候補領域更新手段573は、更新処理を短時間に実行することが可能となる。
図6は、平面候補領域の更新について説明するための模式図である。図6に示す画像600の平面候補領域602、603は、それぞれ、図5に示した柱の一面による平面候補領域502、他面による平面候補領域503のそれぞれを、非平面候補領域504内の対応する領域が含まれるように更新した領域である。領域604に含まれる画素は、平面候補領域602、603の両方に含まれると判定された画素であり、領域604は、平面候補領域602、603の両方に含まれる。このように、非平面候補領域には、平面が写っていないのではなく、複数の平面が写っている可能性がある。平面候補領域更新手段573は、平面候補領域を更新することにより、分割領域内に複数の平面が写っている場合でも、適切に平面候補領域を検出することができる。
平面領域判定手段574は、検出された平面候補領域に基づいて、平面領域を検出する。
平面領域判定手段574は、平面候補領域検出手段571が検出し、平面候補領域結合手段572が結合し、平面候補領域更新手段573が更新した平面候補領域を、監視空間に存在する平面に対応すると判定し、平面領域として検出する。なお、平面領域判定手段574は、検出された平面候補領域の内、法線方向が予め定められた方向に含まれる平面候補領域のみを平面領域として検出してもよい。例えば、平面領域判定手段574は、法線方向が水平方向である、鉛直方向に延伸する平面候補領域のみを平面領域として検出してもよい。また、平面領域判定手段574は、検出された平面候補領域の内、サイズが所定サイズ(例えば柱とみなされるサイズ)以上の平面候補領域のみを平面領域として検出してもよい。
平面領域判定手段574は、検出した各平面領域の情報を、平面候補領域に対応する平面の法線方向(平面の傾き)の情報と関連付けて記憶部40に記憶する。なお、平面領域判定手段574は、検出した平面領域を、記憶部40を介さずに出力部30に出力してもよい。
また、平面領域判定手段574は、定期的に平面領域を検出し、均一照明画像内における平面領域の位置、サイズ等が変化した場合、監視空間のレイアウトが変更になった可能性がある旨を出力部30を介して通知してもよい。
また、平面領域判定手段574は、予め監視空間内に存在する壁、柱等の位置を記憶部40に記憶しておき、検出した平面領域と記憶部40に記憶された位置が一致しない場合、撮影部10が移動された(画策行為)可能性がある旨を出力部30を介して通知してもよい。
対象検出手段58は、動作モードが対象検出モードである場合に、撮影部10から監視空間を撮影した入力画像を取得し、取得した入力画像から、その監視空間に存在する検出対象を検出する。そのために、対象検出手段58は、変化領域検出手段581及び対象判定手段582等を有する。
変化領域検出手段581は、監視空間を異なるタイミングで撮影した複数の画像から輝度値が変化する変化領域を検出する。
変化領域検出出手段581は、入力画像内の各画素の輝度値と、記憶部40に記憶されている背景画像の対応する各画素の輝度値との差の絶対値を算出し、算出した差の絶対値が所定閾値以上となる画素の領域を差分領域として抽出する。変化領域検出出手段581は、同一物体による差分領域をラベリングによりグループ化し、変化領域として検出する。即ち、変化領域検出出手段581は、一枚のフレームから抽出した差分領域の内、相互に隣接(8連結)する画素をグループ化し、相互に近接する(所定範囲内に位置する)グループを、大きさ又は位置関係に基づいて結合し、結合した領域を変化領域として結合する。
なお、変化領域検出出手段581は、フレーム間差分、背景画像と入力画像の正規化相関、学習識別器等の他の公知の技術を用いて、変化領域を検出してもよい。
対象判定手段582は、変化領域が平面領域と重複する度合いに基づいて、変化領域に検出対象が写っているか否かを判定し、変化領域に検出対象が写っている場合、判定結果を含む結果信号を出力部30を介して外部装置へ出力する。
対象判定手段582は、まず、変化領域の大きさ、縦横比等の特徴量に基づいて、その変化領域に写っている物体が検出対象らしいか否かを判定する。例えば検出対象が人物である場合、対象判定手段582は、変化領域の大きさが人物の大きさに相当する所定範囲内であり、且つ、変化領域の縦横比が人物の縦横比に相当する所定範囲内であるか否かにより、その変化領域に写っている物体が人物らしいか否かを判定する。なお、各変化領域の大きさは、入力画像内の位置、及び、記憶部40に記憶されている撮影部10の設置情報等を用いて実際の大きさに変換される。
次に、対象判定手段582は、平面領域検出手段57が検出した平面領域の情報を記憶部40から読出し、写っている物体が人物らしいと判定された各変化領域が平面領域と重複する度合いである重複度を算出する。例えば検出対象が人物である場合、対象判定手段582は、記憶部40に記憶されている平面領域の内、鉛直方向に延伸する平面領域の情報を読出し、各変化領域とその平面領域の重複度を算出する。対象判定手段582は、重複度が所定値(例えば98%)以上である場合、その変化領域に人物が写っていないと判定する。一方、対象判定手段582は、重複度が所定値未満である場合、その変化領域に人物が写っていると判定する。
図7(a)は、平面領域と人物との関係について説明するための模式図であり、図7(b)は、平面領域と小動物又は光との関係について説明するための模式図である。図7(a)の画像700に示すように、人物は、通常、床面等の水平方向に延伸する平面上に立っており、壁、柱等の鉛直方向に延伸する平面上に立つことができない。したがって、人物が写っている変化領域704の少なくとも一部(下部)は、水平方向に延伸する平面領域701に含まれ、人物が写っている変化領域704の全部が、鉛直方向に延伸する平面領域702に内包されることはない。一方、図7(b)の画像710に示すように、変化領域711、713の全部が、鉛直方向に延伸する平面領域702、703に含まれる場合、その変化領域711、713には、小動物、光等が写っている可能性が高い。したがって、対象判定手段582は、変化領域と平面領域の重複度を用いることにより、変化領域に人物が写っているか否かを精度良く判定することが可能となる。
なお、平面領域702、703の内の少なくとも一方が鉛直方向に延伸する平面領域である場合、その平面領域702、703の両方に含まれる領域706は、鉛直方向に延伸するものとみなして対象物体の判定に用いられる。また、用途によっては、平面領域702、703の内の何れか一方が鉛直方向に延伸する平面領域でない(水平方向である)場合、領域706は、鉛直方向でない方向(水平方向)に延伸するものとみなされてもよい。
なお、対象判定手段582は、先に、変化領域検出手段581が抽出した各変化領域と平面領域の重複度を算出し、重複度が所定値未満である変化領域についてのみ、大きさ、縦横比等の特徴量に基づいて、その変化領域に写っている物体が検出対象らしいか否かを判定してもよい。
また、対象判定手段582は、変化領域が平面領域と重複する位置に基づいて、変化領域に検出対象が写っているか否かを判定してもよい。例えば、対象判定手段582は、変化領域の下端が、鉛直方向に延伸する平面領域と重複している場合、その変化領域に人物が写っていないと判定し、重複していない場合、その変化領域に人物が写っていると判定する。
また、対象判定手段582は、各変化領域と、水平方向に延伸する平面領域の重複度が所定値(例えば10%)以上である場合、その変化領域に人物が写っていると判定し、重複度が所定値未満である場合、その変化領域に人物が写っていないと判定してもよい。
また、対象判定手段582は、変化領域の下端が、水平方向に延伸する平面領域と重複している場合、その変化領域に人物が写っていると判定し、重複していない場合、その変化領域に人物が写っていないと判定してもよい。
これらの場合も、対象判定手段582は、変化領域に人物が写っているか否かを精度良く判定することが可能となる。
また、検出対象が小動物である場合、対象判定手段582は、変化領域と、鉛直方向に延伸する平面領域の重複度が所定値(例えば90%)以上であるときに、その変化領域に小動物が写っていると判定してもよい。また、対象判定手段582は、鉛直面での変化領域の時間的な変化(移動方向)に基づいて、その変化領域に小動物が写っているか否かを判定してもよい。例えば、対象判定手段582は、変化領域が、鉛直方向に延伸する平面領域内を上方向又は下方向に向かって移動していく場合、その変化領域に小動物が写っていると判定する。
図8は、画像処理装置1による平面領域検出処理の動作を示すフローチャートである。
以下、図8に示したフローチャートを参照しつつ、本実施形態による平面領域検出処理の動作を説明する。なお、以下に説明する動作のフローは、記憶部40に記憶され、制御部50に読み込まれたプログラムに従って、制御部50により実行される。
最初に、画像取得手段53は、撮影部10から点灯入力画像及び消灯入力画像を取得する(ステップS101)。次に、画像取得手段53は、外乱光除去画像を生成し、均一照明画像を生成する(ステップS102)。次に、領域分割手段54は、均一照明画像を複数の分割領域に分割する(ステップS103)。次に、距離比率算出手段55は、均一照明画像内の分割領域毎に、基準画素に対応する監視空間内の位置と撮影部10の位置の間の距離と、他の各画素に対応する監視空間内の位置と撮影部10の位置の間の距離の比率を算出する(ステップS104)。次に、空間座標算出手段56は、距離比率算出手段55が算出した比率に基づいて、均一照明画像に含まれる各画素に対応する三次元空間内の空間座標を算出する(ステップS105)。
次に、平面候補領域検出手段571は、均一照明画像内の各分割領域から平面候補領域を検出する(ステップS106)。次に、平面候補領域結合手段572は、平面候補領域検出手段571が検出した平面候補領域の内、同一平面による平面候補領域同士を結合する(ステップS107)。次に、平面候補領域更新手段573は、平面候補領域検出手段571が平面候補領域として検出しなかった分割領域内の画素の内、対応する三次元空間内の空間座標が、その分割領域に隣接する平面候補領域に対応する三次元空間内の平面上に存在する画素をその平面候補領域に含ませるように平面候補領域を更新する(ステップS108)。次に、平面領域判定手段574は、検出された平面候補領域に基づいて、平面領域を検出し(ステップS109)、一連のステップを終了する。
なお、ステップS108の平面候補領域の更新処理をステップS107の平面候補領域の結合処理より前に実行してもよい。また、ステップS107及び/又はS108の処理は省略してもよい。また、本実施形態では、均一照明画像を用いて平面を検出する例を示したが、照明部20が各方向に対して略均一な強度で光を照射する場合は、ステップS102の均一照明画像の生成処理を省略し、外乱光除去画像をそのまま用いて平面を検出しても一定の効果を得ることができる。また、外乱光の影響がない環境である場合、外乱光除去画像を生成せずに、均一照明画像を生成したり、点灯入力画像をそのまま用いて平面を検出してもよい。
図9は、検出対象が人物である場合の画像処理装置1による対象検出処理の動作を示すフローチャートである。
以下、図9に示したフローチャートを参照しつつ、本実施形態による対象検出処理の動作を説明する。なお、以下に説明する動作のフローは、記憶部40に記憶され、制御部50に読み込まれたプログラムに従って、制御部50により実行される。
最初に、対象検出手段58は、撮影部10から入力画像を取得する(ステップS201)。次に、変化領域検出手段581は、入力画像から変化領域を検出する(ステップS202)。入力画像から変化領域が検出されなかった場合、対象検出手段58は、処理をステップS201へ戻し、再度、撮影部10から入力画像を取得するまで待機する。一方、入力画像から変化領域が検出された場合、変化領域検出手段581は、検出した各変化領域についてステップS204〜S210の処理を実行する。
最初に、対象判定手段582は、検出した変化領域について人物の特徴量を算出する(ステップS204)。次に、対象判定手段582は、算出した特徴量に基づいて、その変化領域に写っている物体が人物らしいか否かを判定する(ステップS205)。変化領域に写っている物体が人物らしくない場合、対象判定手段582は、変化領域に人物が写っていないと判定する(ステップS206)。一方、変化領域に写っている物体が人物らしい場合、対象判定手段582は、変化領域と、鉛直方向に延伸する平面領域の重複度を算出する(ステップS207)。次に、対象判定手段582は、重複度が所定値以上であるか否かを判定する(ステップS208)。重複度が所定値以上である場合、対象判定手段582は、変化領域に人物が写っていないと判定する(ステップS206)。一方、重複度が所定値未満である場合、対象判定手段582は、変化領域に人物が写っていると判定し(ステップS209)、判定結果を含む結果信号を出力部30を介して外部装置へ出力する(ステップS210)。対象判定手段582は、検出した各変化領域についてステップS204〜S210の処理を実行し、全ての変化領域についての処理が完了した場合、処理をステップS201へ戻し、再度、撮影部10から入力画像を取得するまで待機する。
以上説明してきたように、本実施形態による画像処理装置は、撮影した画像に含まれる各画素の輝度値の比率に基づいて、各画素に対応する監視空間内の位置と撮影部の位置の間の距離の比率を算出する。そして、画像処理装置は、算出した距離の比率に基づいて、撮影画像に含まれる各画素に対応する三次元空間内の空間座標を算出し、算出した空間座標が略同一平面上に存在するか否かに応じて、撮影した画像から平面領域を検出する。これにより、画像処理装置は、撮影装置と撮影装置により撮影される空間との位置関係が予め定められていない場合でも、撮影装置により撮影された画像から平面領域を精度良く検出することができる。さらに、画像処理装置は、撮影部及び照明部が一つのみしかない場合でも、撮影装置により撮影された画像から平面が存在する領域を精度良く検出することができる。
また、本実施形態による画像処理装置は、外乱光の影響を除去した外乱光除去画像から、略均一な強度の照明が照射された状態の監視空間が写っている均一照明画像を生成し、生成した均一照明画像を解析して、監視空間内の平面が写っている平面領域を検出する。これにより、画像処理装置は、平面領域をより精度良く検出することができる。
以上のように、当業者は、本発明の範囲内で、実施される形態に合わせて様々な変更を行うことができる。
1 画像処理装置
10 撮影部
53 画像取得手段
55 距離比率算出手段
56 空間座標算出手段
57 平面領域検出手段
571 平面候補領域検出手段
572 平面候補領域結合手段
573 平面候補領域更新手段
581 変化領域検出手段
582 対象判定手段

Claims (4)

  1. 撮影装置により撮影された所定空間が写っている撮影画像を取得する画像取得部と、
    前記撮影画像に含まれる基準画素の輝度値と他の各画素の輝度値の比率に基づいて、前記基準画素に対応する前記所定空間内の位置と前記撮影装置の位置の間の距離と、前記他の各画素に対応する前記所定空間内の位置と前記撮影装置の位置の間の距離の比率を算出する距離比率算出部と、
    前記距離比率算出部が算出した比率に応じて、前記撮影画像に含まれる各画素に対応する三次元空間内の空間座標を算出する空間座標算出部と、
    前記撮影画像において互いに近接する画素群のうち、当該画素群に含まれる画素に対応する前記空間座標が略同一平面上に存在する画素群を平面領域として検出する平面領域検出部と、
    を有することを特徴とした画像処理装置。
  2. 前記撮影画像を複数の分割領域に分割する領域分割部をさらに有し、
    前記平面領域検出部は、
    前記分割領域のうち、当該分割領域に含まれる各画素に対応する前記空間座標が略同一平面上に存在する分割領域を平面候補領域として検出する平面候補領域検出部と、
    互いに隣接する二つの分割領域が前記平面候補領域として検出され、且つ、前記二つの分割領域に含まれる画素に対応する前記空間座標が略同一平面上に存在する場合、前記二つの分割領域を一つの平面候補領域として結合する平面候補領域結合部と、を有し、
    前記平面候補領域に基づいて、前記平面領域を検出する、請求項1に記載の画像処理装置。
  3. 前記撮影画像を複数の分割領域に分割する領域分割部をさらに有し、
    前記平面領域検出部は、
    前記分割領域のうち、当該分割領域に含まれる各画素に対応する前記空間座標が略同一平面上に存在する分割領域を平面候補領域として検出する平面候補領域検出部と、
    互いに隣接する二つの分割領域の内の第1の分割領域が前記平面候補領域として検出され、第2の分割領域が前記平面候補領域として検出されない場合において、前記第2の分割領域に含まれる画素に対応する前記空間座標が、前記第1の分割領域に係る前記平面上に存在するか否かを判定し、当該平面上に存在すると判定された前記第2の分割領域の画素を前記第1の分割領域に係る前記平面候補領域に含ませる平面候補領域更新部と、をさらに有し、
    前記平面候補領域に基づいて、前記平面領域を検出する、請求項1に記載の画像処理装置。
  4. 光の照射方向が撮影装置の撮影方向と略同一となるように設置された照明装置の配光情報を記憶する記憶部と、
    前記照明装置が点灯した状態で前記撮影装置が所定空間を撮影した点灯入力画像、及び、前記照明装置が消灯した状態で前記撮影装置が前記所定空間を撮影した消灯入力画像を取得し、前記点灯入力画像及び前記消灯入力画像に基づいて、外乱光の影響を除去した外乱光除去画像を生成する外乱光除去画像生成部と、
    前記外乱光除去画像及び前記配光情報に基づいて、画像内の各画素の視軸方向に向けて略均一な強度の照明が照射された状態の前記所定空間が写っている均一照明画像を生成する均一照明画像生成部と、
    前記均一照明画像を解析して、前記所定空間内の平面が写っている平面領域を検出する平面領域検出部と、
    を有することを特徴とした画像処理装置。
JP2016140865A 2016-07-15 2016-07-15 画像処理装置 Active JP6416157B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016140865A JP6416157B2 (ja) 2016-07-15 2016-07-15 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016140865A JP6416157B2 (ja) 2016-07-15 2016-07-15 画像処理装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018188576A Division JP6591647B2 (ja) 2018-10-03 2018-10-03 画像処理装置

Publications (2)

Publication Number Publication Date
JP2018010601A true JP2018010601A (ja) 2018-01-18
JP6416157B2 JP6416157B2 (ja) 2018-10-31

Family

ID=60993527

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016140865A Active JP6416157B2 (ja) 2016-07-15 2016-07-15 画像処理装置

Country Status (1)

Country Link
JP (1) JP6416157B2 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04259811A (ja) * 1991-02-15 1992-09-16 Matsushita Electric Works Ltd 平面内の傾斜検出方法
JP2006178696A (ja) * 2004-12-22 2006-07-06 Nippon Telegr & Teleph Corp <Ntt> 平面検出装置および方法並びに平面検出プログラム
JP2010009236A (ja) * 2008-06-25 2010-01-14 Toyota Central R&D Labs Inc 平面領域推定装置及びプログラム
JP2014089081A (ja) * 2012-10-29 2014-05-15 Canon Inc 計測装置及びその制御方法、プログラム
JP2016051442A (ja) * 2014-09-02 2016-04-11 任天堂株式会社 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04259811A (ja) * 1991-02-15 1992-09-16 Matsushita Electric Works Ltd 平面内の傾斜検出方法
JP2006178696A (ja) * 2004-12-22 2006-07-06 Nippon Telegr & Teleph Corp <Ntt> 平面検出装置および方法並びに平面検出プログラム
JP2010009236A (ja) * 2008-06-25 2010-01-14 Toyota Central R&D Labs Inc 平面領域推定装置及びプログラム
JP2014089081A (ja) * 2012-10-29 2014-05-15 Canon Inc 計測装置及びその制御方法、プログラム
JP2016051442A (ja) * 2014-09-02 2016-04-11 任天堂株式会社 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
小島孝行, 外2名: ""Manhattan world仮説に基づく平面検出法"", 電子情報通信学会2004年総合大会講演論文集 情報・システム2, JPN6018023586, 8 March 2004 (2004-03-08), pages 184, ISSN: 0003823013 *

Also Published As

Publication number Publication date
JP6416157B2 (ja) 2018-10-31

Similar Documents

Publication Publication Date Title
JP3779308B2 (ja) カメラ校正システム及び三次元計測システム
WO2012124730A1 (ja) 検出装置、入力装置、プロジェクタ、及び電子機器
JP4985651B2 (ja) 光源制御装置、光源制御方法および光源制御プログラム
US20160134860A1 (en) Multiple template improved 3d modeling of imaged objects using camera position and pose to obtain accuracy
US10482347B2 (en) Inspection of the contoured surface of the undercarriage of a motor vehicle
JP5300694B2 (ja) 検出装置
KR101196219B1 (ko) 3차원 형상 측정장치의 높이 측정방법 및 이를 이용한 3차원 형상 측정장치
US7900840B2 (en) Methods and apparatus for directing bar code positioning for imaging scanning
US20140111097A1 (en) Identification device, method and computer program product
US20140015417A1 (en) Lighting control system
US10853935B2 (en) Image processing system, computer readable recording medium, and image processing method
JP2015120584A (ja) 画像監視装置およびエレベーター監視装置
JP6591647B2 (ja) 画像処理装置
TW201351960A (zh) 用於影像感測器的環境光線警示
JP2010187184A (ja) 被写体追尾装置および撮像装置
JP6416157B2 (ja) 画像処理装置
JP2002228417A (ja) クラック測定装置
JP6978080B2 (ja) 個室見守り装置
JP2013106238A (ja) マーカの検出および追跡装置
JP6155106B2 (ja) 画像センサ
JP6902906B2 (ja) 画像処理装置
JP6183748B2 (ja) 動体検知装置
JP5179132B2 (ja) 人体検出装置
JP2008164491A (ja) 人体形状測定装置と測定方法
JP6681610B2 (ja) 案内表示装置及び案内システム

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180611

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180626

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180824

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180904

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181003

R150 Certificate of patent or registration of utility model

Ref document number: 6416157

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250