JP5062531B2 - 画像処理装置および画像処理方法 - Google Patents

画像処理装置および画像処理方法 Download PDF

Info

Publication number
JP5062531B2
JP5062531B2 JP2008145290A JP2008145290A JP5062531B2 JP 5062531 B2 JP5062531 B2 JP 5062531B2 JP 2008145290 A JP2008145290 A JP 2008145290A JP 2008145290 A JP2008145290 A JP 2008145290A JP 5062531 B2 JP5062531 B2 JP 5062531B2
Authority
JP
Japan
Prior art keywords
image
corresponding point
resolution
point search
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2008145290A
Other languages
English (en)
Other versions
JP2009294733A (ja
Inventor
恭 河邊
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Konica Minolta Inc
Original Assignee
Konica Minolta Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Konica Minolta Inc filed Critical Konica Minolta Inc
Priority to JP2008145290A priority Critical patent/JP5062531B2/ja
Publication of JP2009294733A publication Critical patent/JP2009294733A/ja
Application granted granted Critical
Publication of JP5062531B2 publication Critical patent/JP5062531B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明は、ステレオ画像処理または時系列画像処理を行う画像処理装置および画像処理方法に関する。
特許文献1は、1対のカメラにより物体を撮像し、その画像間のずれ量(視差)によりカメラから物体までの距離分布を高速に算出する相関演算方法として基本的なステレオマッチング方法を開示する。すなわち、1対の撮像装置で物体を撮像し、多重解像度画像生成部でその画像をピラミッド構造の多重解像度画像にし、次いで、演算量を削減するため空間フィルタによって各層の画像をエッジ画像化し、次いで、相関演算部によって、各層間でステレオ照合を行い、この時、先ず低解像度画像である上層の画像間でそれを行い概略の視差を求める。また、その視差より次層のステレオ照合に対する照合領域と探索領域を設定する。これを繰り返すことにより、最終層までステレオ照合を短時間で終了させる(要約参照)。
特開2001−319229号公報
特許文献1では、すべてのピラミッド階層でステレオ演算をするか、または途中のピラミッド階層で低信頼度であると、それ以上の階層では演算を行わないようにしている。このように基本的にすべてのピラミッド階層でステレオマッチングの演算を行うので、演算量が増えてしまう。このため、演算処理時間が長くなったり回路構成が大規模になってしまい、装置コストの増大につながってしまう。
本発明は、上述のような従来技術の問題に鑑み、演算量を減らすことができるとともに、信頼性の高いデータが得られかつ精度も高い画像処理装置および画像処理方法を提供することを目的とする。
上記目的を達成するための本実施形態の画像処理装置について図1〜図10を参照して説明する。
図1の画像処理装置は、基準画像と参照画像とを入力し取得する画像入力部11と、前記基準画像および前記参照画像の各多重解像度画像を生成する多重解像度画像生成部12と、対応点探索処理を行う画像解像度を選択するともに対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定する解像度選択・対応点探索領域設定部13と、前記解像度選択・対応点探索領域設定部13の情報に基づいて前記基準画像と前記参照画像との間の対応点を探索する対応点探索処理部14と、を備えことを特徴とする。前記多重解像度画像を用いてステレオ画像処理または時系列画像処理を行うことができる。また、対応点探索処理結果は出力部15から出力する。
図1の画像処理装置によれば、解像度選択・対応点探索領域設定部13で、対応点探索処理を行う画像解像度を選択し、対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定し、これらの画像解像度および探索領域に基づいて対応点探索処理部14で基準画像と参照画像との間の対応点を探索することにより、すべての解像度画像で演算をせずに一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。
図2の画像処理装置は、図1において、前記解像度選択・対応点探索領域設定部13が、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を所定値演算手段により演算し、前記所定値を用いて、対応点探索処理を行う画像解像度を選択する解像度選択部16と、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定部17と、前記解像度選択部16で選択された解像度情報を保持する選択解像度保持部18と、前記対応点探索領域設定部17で設定された領域情報を保持する設定対応点探索領域保持部19と、を備えることを特徴とする。対応点探索処理部14は、前記基準画像と前記探索領域が設定された前記参照画像との間の対応点を前記選択した画像解像度で探索する。
図2の画像処理装置によれば、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて対応点探索処理を行う画像解像度を選択し、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて対応点探索処理を行う基準画像上の各領域に対応する参照画像上の探索領域を設定することにより、一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。
図3の画像処理装置は、図1において、前記解像度選択・対応点探索領域設定部13が、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果を保持する対応点探索処理結果保持部20と、前記対応点探索処理結果保持部20に保持された、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を所定値演算手段により演算し、前記所定値を用いて、対応点探索処理を行う画像解像度を選択する解像度選択部21と、前記対応点探索処理結果保持部20に保持された、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定部22と、を備えることを特徴とする。
図3の画像処理装置によれば、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果を保持し、その対応点探索処理結果に基づいて対応点探索処理を行う画像解像度を選択することにより、一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。
図2において前記選択解像度保持部18および前記設定対応点探索領域保持部19は、前記基準画像もしくは前記参照画像の画素数分だけ、または、前記対応点探索処理を行う点数分だけの前記画像解像度情報と前記探索領域情報を保持しておくことを特徴とする。
図3において前記対応点探索処理結果保持部20は、1フレームまたは複数フレームの各フレームの対応点探索処理結果を保持することを特徴とする。
図4,図5の画像処理装置は、図2,図3において前記解像度選択部16,21は、n番目のフレーム以前の1以上のフレームにおける所定値を演算する所定値演算部25を備え、前記所定値を用いて(n+1)番目のフレームの画像解像度を選択することを特徴とする。
図2〜図5において前記解像度選択部16,21は、前記画像解像度の選択をフレーム毎に行うことを特徴とする。この具体例について図6のフローチャートによりnフレーム(n:2以上の整数)目の処理で説明する。nフレーム目の選択解像度を、図2,図4の選択解像度保持部18(または、図2〜図5の解像度選択部16,21)から取得する(S01)。i=0とし(S02)、i番目の対応点探索領域を、図2,図4の対応点探索領域保持部19(または、図2〜図5の対応点探索領域設定部17,22)から取得する(S03)。次に、図2〜図5の対応点探索処理部14で対応点探索処理を行う(S04)。次に、i=i+1とし(S05)、iが所定の処理点数に達しなければ(S06)、ステップS03に戻り、次の対応点探索領域を取得し対応点探索処理を行う。iが所定の処理点数に達すると(S06)、nフレーム目の処理が完了する。
図2〜図5において前記解像度選択部16,21は、前記画像解像度の選択を画素毎または対応点を演算する点毎に行うことを特徴とする。この具体例について図7のフローチャートによりnフレーム(n:2以上の整数)目の処理で説明する。i=0とし(S11)、i番目の画素の選択解像度を、図2,図4の選択解像度保持部18(または、図2〜図5の解像度選択部16,21)から取得する(S12)。i番目の画素の対応点探索領域を、図2,図4の対応点探索領域保持部19(または、図2〜図5の対応点探索領域設定部17,22)から取得する(S13)。次に、図2〜図5の対応点探索処理部14で対応点探索処理を行う(S14)。次に、i=i+1とし(S15)、iが所定の処理点数に達しなければ(S16)、ステップS12に戻り、次の画素の選択解像度および対応点探索領域を取得し対応点探索処理を行う。iが所定の処理点数に達すると(S16)、nフレーム目の処理が完了する。
図4,図5の前記所定値演算部25は、前記対応点探索処理の処理結果における信頼度を所定値とすることを特徴とする。この具体例について図8のフローチャートによりnフレーム(n:2以上の整数)目の処理で説明する。まず、i=0とし(S21)、(n−1)フレーム目のi番目の対応点探索処理結果を、図5の対応点探索処理結果保持部20(または、図4,図5の対応点探索処理部14)から取得する(S22)。その対応点探索処理結果の信頼度が閾値以上であるか否かを判断し(S23)、閾値以上である(高信頼度)場合には、図4,図5の解像度選択部16,21で、(n−1)フレーム目よりも1段だけ高解像度の画像を選択する(S24)。ただし、(n−1)フレーム目の解像度が最高解像度の場合は最高解像度を選択する。次に、図4,図5の対応点探索領域設定部17,22で、(n−1)フレーム目の対応点探索処理結果からnフレーム目の参照画像の推定点にウィンドウを設定する(S25)。
上記ステップS23で、対応点探索処理結果の信頼度が閾値未満である(低信頼度)場合には、図4,図5の解像度選択部16,21で最低解像度を選択する(S26)。次に、図4,図5の対応点探索領域設定部17,22でウィンドウを基準画像と同一座標に設定する(S27)。
次に、図4,図5の対応点探索処理部14で基準画像のウィンドウに対応する参照画像のウィンドウ位置について対応点探索処理を行う(S28)。次に、図4,図5の対応点探索処理部14または対応点探索処理結果保持部20で対応点探索処理結果を保持する(S29)。次に、i=i+1とし(S30)、iが所定の処理点数に達しなければ(S31)、ステップS22に戻る。iが所定の処理点数に達すると(S31)、nフレーム目の処理が完了する。
また、図4,図5の前記所定値演算部25は、対応点探索処理における距離値を所定値とすることを特徴とする。この具体例について図9のフローチャートによりnフレーム(n:2以上の整数)目の処理で説明する。まず、i=0とし(S41)、(n−1)フレーム目のi番目の対応点探索処理結果を、図5の対応点探索処理結果保持部20(または、図4,図5の対応点探索処理部14)から取得する(S42)。その対応点探索処理の対応点探索処理結果を距離値に変換し(S43)、その距離値を三段階に判断する(S44)。
すなわち、遠距離の場合は、図4,図5の解像度選択部16,21で高解像度を選択する(S45)。中距離の場合は、解像度選択部16,21で中解像度を選択する(S46)。近距離の場合は、解像度選択部16,21で低解像度を選択する(S47)。
次に、図4,図5の対応点探索領域設定部17,22で、(n−1)フレーム目の対応点探索処理結果からnフレーム目の参照画像の推定点にウィンドウを設定する(S48)。次に、図4,図5の対応点探索処理部14で基準画像のウィンドウ位置に対応する参照画像のウィンドウ位置について対応点探索処理を行う(S49)。次に、図4,図5の対応点探索処理部14または対応点探索処理結果保持部20で対応点探索処理結果を保持する(S50)。次に、i=i+1とし(S51)、iが所定の処理点数に達しなければ(S52)、ステップS42に戻る。iが所定の処理点数に達すると(S52)、nフレーム目の処理が完了する。
また、図4,図5の前記所定値演算部25は、時系列処理における移動量または速度を所定値とすることを特徴とする。この具体例について図10のフローチャートによりnフレーム(n:2以上の整数)目の処理で説明する。まず、i=0とし(S61)、(n−1)フレーム目のi番目の対応点探索処理結果を、図5の対応点探索処理結果保持部20(または、図4,図5の対応点探索処理部14)から取得する(S62)。その時系列処理の対応点探索処理結果を移動量に変換し(S63)、その移動量を三段階に判断する(S64)。
すなわち、移動量が小の場合は、図4,図5の解像度選択部16,21で高解像度を選択する(S65)。移動量が中の場合は、解像度選択部16,21で中解像度を選択する(S66)。移動量が大の場合は、解像度選択部16,21で低解像度を選択する(S67)。
次に、図4,図5の対応点探索領域設定部17,22で、(n−1)フレーム目の対応点探索処理結果からnフレーム目の参照画像の推定点にウィンドウを設定する(S68)。次に、図4,図5の対応点探索処理部14で基準画像のウィンドウに対応する参照画像のウィンドウ位置について対応点探索処理を行う(S69)。次に、図4,図5の対応点探索処理部14または対応点探索処理結果保持部20で対応点探索処理結果を保持する(S70)。次に、i=i+1とし(S71)、iが所定の処理点数に達しなければ(S72)、ステップS62に戻る。iが所定の処理点数に達すると(S72)、nフレーム目の処理が完了する。
本実施形態の画像処理方法は、基準画像と参照画像とを入力し取得するステップと、前記基準画像および前記参照画像の各多重解像度画像を生成する多重解像度画像生成ステップと、対応点探索処理を行う画像解像度を選択するともに対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定する解像度選択・対応点探索領域設定ステップと、前記解像度選択・対応点探索領域設定ステップの情報に基づいて前記基準画像と前記参照画像との間の対応点を探索する対応点探索処理ステップと、を含むことを特徴とする。
この画像処理方法によれば、対応点探索処理を行う画像解像度を選択し、対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定し、これらの画像解像度および探索領域に基づいて基準画像と参照画像との間の対応点を探索することにより、すべての解像度画像で演算をせずに一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。また、前記多重解像度画像を用いてステレオ画像処理または時系列画像処理を行うことができる。
前記解像度選択・対応点探索領域設定ステップは、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を演算し、前記所定値を用いて、対応点探索処理を行う画像解像度を選択する解像度選択ステップと、
現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定ステップと、前記解像度選択ステップで選択された解像度情報を保持する選択解像度保持ステップと、前記対応点探索領域設定ステップで設定された領域情報を保持する設定対応点探索領域保持ステップと、を含むことを特徴とする。上述の対応点探索処理ステップにおいて、前記基準画像と前記前記探索領域が設定された参照画像との間の対応点を前記選択した画像解像度で探索する。
上述のように、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて対応点探索処理を行う画像解像度を選択し、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて対応点探索処理を行う基準画像上の各領域に対応する参照画像上の探索領域を設定することにより、一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。
また、前記解像度選択・対応点探索領域設定ステップは、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果を保持する対応点探索処理結果保持ステップと、前記対応点探索処理結果保持ステップで保持された、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を所定値演算手段により演算し、前記所定値を用いて、対応点探索処理を行う画像解像度を選択する解像度選択ステップと、前記対応点探索処理結果保持ステップで保持された、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定ステップと、を含むことを特徴とする。
上述のように、現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果を保持し、その対応点探索処理結果に基づいて対応点探索処理を行う画像解像度を選択することにより、一段の階層でしか演算をしないことで演算量を減らすことができ、信頼性の高いデータが得られかつ精度も高い。
また、前記選択解像度保持ステップおよび前記設定対応点探索領域保持ステップでは、前記基準画像もしくは前記参照画像の画素数分だけ、または、前記対応点探索処理を行う点数分だけの前記画像解像度情報と前記探索領域情報を保持しておくことを特徴とする。
また、前記対応点探索処理結果保持ステップでは、各フレームの対応点探索処理結果を保持することを特徴とする。
また、前記解像度選択ステップは、n番目のフレーム以前の1以上のフレームにおける所定値を演算する所定値演算ステップを含み、前記所定値を用いて(n+1)番目のフレームの画像解像度を選択することを特徴とする。
また、前記解像度選択ステップでは、前記画像解像度の選択をフレーム毎に行うことを特徴とする。具体例は図6のとおりである。
また、前記解像度選択ステップでは、前記画像解像度の選択を画素毎または対応点を演算する点毎に行うことを特徴とする。具体例は図7のとおりである。
また、前記所定値演算ステップでは、前記対応点探索処理の処理結果における信頼度を所定値とすることを特徴とする。具体例は図8のとおりである。
また、前記所定値演算ステップでは、対応点探索処理における距離値を所定値とすることを特徴とする。具体例は図9のとおりである。
また、前記所定値演算ステップでは、時系列処理における移動量または速度を所定値とすることを特徴とする。具体例は図10のとおりである。
上述の画像処理方法は、図1〜図5の画像処理装置により実行することができる。
本発明の画像処理装置および画像処理方法によれば、例えばステレオ画像処理または時系列画像処理などを行う際の演算量を減らすことができるとともに、信頼性の高いデータが得られかつ精度も高くなる。
以下、本発明を実施するための最良の形態について図面を用いて説明する。
まず、図11により本実施の形態による画像処理装置の基本的動作を説明する。図11は本実施の形態による画像処理装置の基本的な動作例(処理結果を次フレームに用いる)を説明するための概念図である。
本実施の形態による画像処理装置は、対応点探索処理や時系列処理を行うための、ピラミッド画像を使用した対応点探索処理において、n番目(n:1以上の整数)のフレームにおける所定値を用いて、(n+1)番目のフレームの画像解像度を選択するようにしたものである。この画像解像度の選択は、フレーム毎に行うこともできるし、画素毎(対応点を演算する点毎)に行うこともできる。ここで、所定値とは、例えば、処理結果の信頼度、対応点探索処理における距離値、または、時系列処理における移動量(速度)である。
図11のように、処理結果の信頼度を所定値とする場合、n(n:1以上の整数)フレームにおいて基準画像と参照画像の対応点探索処理結果が高信頼度であると、次の(n+1)フレームの画像解像度を上げる。(n+1)フレームにおける処理結果が高信頼度であると、次の(n+2)フレームの画像解像度を上げる。(n+2)フレームにおける処理結果が低信頼度であると、次の(n+3)フレームでは対応点探索処理に使用する解像度を例えば、最低解像度とする。
図11において、対応点探索のためのウィンドウは前フレームの結果から推定して設定するが、この場合の対応点の推定およびウィンドウ(探索範囲)の設定について説明する。
まず、前フレームの対応点探索結果、または、それ以前のフレームの対応点探索結果から、現フレームの対応点を推定する。以下の(1)〜(9)の方法から選択できる。
(1)前フレームの対応点探索結果を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。
(2)現フレーム以前のフレーム結果の平均値を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。
(3)現フレーム以前のフレーム結果の重み付け平均値を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。その場合に新しいフレームに重み付けする。
(4)現フレーム以前のフレーム結果の重み付け平均値を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。その場合に結果の解像度に応じて重み付けする。
(5)現フレーム以前の信頼度の高いフレーム結果を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。
(6)現フレーム以前の信頼度の高いフレームの平均値を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。
(7)現フレーム以前の信頼度の高いフレームの重み付け平均値を、現フレームで対応点探索処理をする解像度に対応させて、その点を推定点とする。その場合に高信頼度フレームに重み付けする。
(8)オプティカルフローで移動していなければ、現フレーム以前の複数フレームを使用して推定する。
(9)オプティカルフローで移動していなければ、前フレームの移動量から推定する。
次に、推定された対応点に対して探索範囲(ウィンドウ)を設定する。すなわち、推定点の信頼度によって、ウィンドウを設定するピラミッド画像の解像度を変えて、その解像度で画像の対応点探索処理を行う。以下の(10)〜(14)の方法から選択できる。
(10)推定点の信頼度が閾値以上(高信頼度)であれば、前フレームよりも高解像度で対応点探索処理を行う。推定点の信頼度が閾値以下(低信頼度)であれば、前フレームよりも低解像度で対応点探索処理を行う。
(11)推定点の信頼度が閾値以上(高信頼度)であれば、前フレームよりも高解像度で対応点探索処理を行う。推定点の信頼度が閾値以下(低信頼度)であれば、最低解像度で対応点探索処理を行う(図11参照)。
(12)推定点が高信頼度であれば、前フレームよりも高解像度で対応点探索処理を行う。推定点が中信頼度であれば、前フレームよりも低解像度で対応点探索処理を行う。推定点が低信頼度であれば、最低解像度で対応点探索処理を行う。
(13)推定点が高信頼度もしくは中信頼度であれば、前フレームよりも高解像度で対応点探索処理を行う。ただし、高信頼度のほうがより解像度を上げられる。推定点が低信頼度であれば、前フレームよりも低解像度で対応点探索処理を行う。
(14)推定点が高信頼度もしくは中信頼度であれば、前フレームよりも高解像度で対応点探索処理を行う。ただし、高信頼度のほうがより解像度を上げられる。推定点が低信頼度であれば、最低解像度で対応点探索処理を行う。
また、本実施の形態による画像処理装置では、解像度と探索領域情報または対応点探索処理結果を以下の(15)〜(17)のような手段(ハードウエア)で保持することができる。
(15)次フレームで処理する「解像度と探索領域情報」を処理点数分だけメモリに保持する構成のハードウェア。
(16)現フレームの対応点探索処理結果を処理点数分だけメモリに保持しておき、次フレームでその情報を使用する構成のハードウェア。
(17)現フレームとそれ以前のフレームの対応点探索処理結果を処理点数分だけメモリに保持しておき、次フレームでその情報を使用する構成のハードウェア。
〈第1例〉
次に、本実施の形態の画像処理装置の第1例について図12〜図16を参照して具体的に説明する。
図12は本実施の形態による画像処理装置(第1例)の概略的構成を示す要部ブロック図である。図13は本実施の形態の画像処理装置において用いるピラミッド画像(画像A〜D)を説明するための模式図である。
図12に示す画像処理装置101は、図1,図2に対応した構成を有し、基準画像と参照画像とを入力し取得する画像入力部11と、基準画像および参照画像の各多重解像度画像を生成する多重解像度画像生成部12と、対応点探索処理を行う画像解像度を選択するともに対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定する解像度選択・対応点探索領域設定部13と、解像度選択・対応点探索領域設定部13の情報に基づいて基準画像と参照画像との間の対応点を探索する対応点探索処理部14と、対応点探索処理結果を出力する出力部15と、を備える。
図12の画像処理装置101は、一対のカメラ(ステレオカメラ)で撮像したステレオ画像を基準画像と参照画像とし、基準画像と参照画像との間の視差(位置ずれ量)に基づいて三角測量の原理により物体の3次元空間における位置を検出する際に、かかる視差を求めるために基準画像と参照画像とを対応点探索処理により対応づける画像処理を行うように構成可能であるが、これに限定されず、基準画像と参照画像とが時系列的な画像であってもよい。
図12のように、多重解像度画像生成部12は、画像入力部11からの基準画像と参照画像について解像度変換を行う複数の解像度変換部12a、12b、12cを有し、さらに、各解像度の画像を保持し基準画像と参照画像のフレームバッファのためのRAM等からなる複数のメモリ12d、12e、12f、12gを有する。
多重解像度画像生成部12では、画像入力部11から入力した画像データからピラミッド構造の多重解像度画像を生成する。例えば、図13の画像サイズが160×120の画像Dの画像データが画像入力部11から入力すると、画像Dの画像データをメモリ12dに保存するとともに、解像度変換部12aで図13の画像サイズが80×60の画像C(画像Dの画像サイズの1/2)に解像度変換し、画像Cの画像データをメモリ12eに保存する。同様にして、解像度変換部12bで図13の画像サイズが40×30の画像B(画像Cの画像サイズの1/2)に解像度変換し、画像Bの画像データをメモリ12fに保存し、次に、解像度変換部12cで図13の画像サイズが20×15の画像A(画像Bの画像サイズの1/2)に解像度変換し、画像Aの画像データをメモリ12gに保存する。
対応点探索処理部14は、各メモリ12d〜12gから画像D〜Aの各画像データを読み込み、さらに解像度選択・対応点探索領域設定部13から解像度と対応点探索領域を読み込むことで、基準画像のウィンドウ画像と参照画像上の対応点探索領域のウィンドウ画像とを読み取る読取部14aと、読取部14aからのウィンドウ画像データに基づいて基準画像と参照画像との間の対応点探索処理のために並列演算を行う複数の演算ユニットからなる演算部14bと、を有する。
演算部14bの各演算ユニットは、例えば、差分絶対値和(Sum of Absolute Difference:SAD)による相関法や位相限定相関法(Phase-Only Correlation:POC)を用いて視差演算のための対応点探索処理を並列的に実行する。演算部14bでの対応点探索処理結果は、出力部15から外部に出力し、また、解像度選択・対応点探索領域設定部13に入力する。
解像度選択・対応点探索領域設定部13は、対応点探索処理部14での対応点探索処理結果に基づいて解像度と対応点探索領域を計算し、その解像度をRAM等のメモリからなる選択解像度保持部18で保持し、その対応点探索領域をRAM等のメモリからなる対応点探索領域保持部19で保持する。
画像処理装置101では対応点探索処理結果の信頼度を所定値とし、解像度選択・対応点探索領域設定部13で対応点探索処理部14での結果に基づいて信頼度を演算する。かかる信頼度について図14を参照して、差分絶対値和(Sum of Absolute Difference:SAD)による相関法で対応点探索処理を行う場合を例にして説明する。
図14はステレオ画像による基準画像(a)および参照画像(b)を模式的に示し、本実施の形態における信頼度の演算式を説明するための図である。
対応点探索処理部14では、図14(a)のように基準画像Ga内に測距点Waoを設定し、測距点Waoを中心とした、所定サイズ、例えば9×9のウインドウWaを設定する。また、図14(b)のように参照画像Gb内に測距点Wboを設定し、測距点Wboを中心とした、基準画像と同じサイズ9×9のウインドウWbを設定する。基準画像と参照画像の各測距点Wao,Wboの設定座標は同一座標である。ウインドウWa〜Wb間の相関度をSAD法で算出する。SAD法とはウインドウ内の各画素毎の「差の絶対値の和」である。例えば、ウインドウサイズが9×9の場合は81画素における「差の絶対値の和」となり、その値が小さいほど相関度が高い。相関値Rは、差の絶対値の和SADから図14の式(1)により算出される。この相関度Rを信頼度とし、信頼度Rは、相関度が高く(信頼性が高く)なると1に近づき、相関度が低く(信頼性が低い)なると0に近づく。
解像度選択・対応点探索領域設定部13(図4,図5の所定値演算部25)では、対応点探索処理部14での対応点探索処理結果の上述のSAD値から図14の式(1)により信頼度Rを演算する。
次に、図12の画像処理装置における1フレーム目の対応点探索処理について図15のフローチャートを参照して説明する。図15は図12の画像処理装置における1フレーム目の対応点探索処理を説明するためのフローチャートである。
まず、i=0とし(S101)、対応点探索処理部14において、最低解像度(図13の画像A)を用い(S102)、参照画像のウィンドウを基準画像のウィンドウと同じ座標に設定し、対応点探索処理を行う(S103)。
その対応点探索処理結果を解像度選択・対応点探索領域設定部13の各メモリ18,19に書き込んで保持する(S104)。次に、i=i+1とし(S105)、iが所定の処理点数の19200(1フレームあたり、160×120=19200点の処理をする場合)に達しなければ(S106)、ステップS102に戻る。iが所定の処理点数(19200点)に達すると(S106)、1フレーム目の処理が完了する。
次に、図12の画像処理装置におけるn(n:2以上の整数)フレーム目の対応点探索処理について図16のフローチャートを参照して説明する。図16は図12の画像処理装置におけるnフレーム目の対応点探索処理を説明するためのフローチャートである。
まず、i=0とし(S111)、解像度選択・対応点探索領域設定部13の各メモリ18,19からnフレーム目のi番目の解像度と対応点探索領域を読み込み(S112)、その解像度と対応点探索領域を用いて対応点探索処理部14で対応点探索処理を行う(S113)。
上記ステップS113での対応点探索処理結果から図14のようにして解像度選択・対応点探索領域設定部13で信頼度Rを演算し、その信頼度を所定の閾値と比較して信頼度を判断する(S114)。
そして、解像度選択・対応点探索領域設定部13において、信頼度が閾値以上であり、高信頼度と判断されると(S114)、nフレーム目よりも一段だけ高解像度の画像を(n+1)フレーム目の画像として選択する(S115)。このとき、nフレーム目の画像サイズが160×120で最高解像度のときは、最高解像度である160×120の画像サイズの画像Dを選択する。また、nフレーム目の対応点探索処理結果から(n+1)フレーム目の対応点探索領域を設定する(S116)。
また、信頼度が閾値未満で低信頼度と判断されると(S114)、最低解像度の画像(20×15の画像サイズの画像A)を選択する(S117)。また、基準画像と同じ座標に参照画像の対応点探索領域を設定する(S118)。
上述のようにして選択された解像度および設定された対応点探索領域を解像度選択・対応点探索領域設定部13の各メモリ18,19に書き込むことで保持する(S119)。
次に、i=i+1とし(S120)、iが所定の処理点数の19200点に達しなければ(S121)、ステップS112に戻る。iが所定の処理点数(19200点)に達すると(S121)、nフレーム目の処理が完了する。
図12の画像処理装置101は、上述のような制御および演算を実行するハードウエアとしての集積素子から構成できるが、上述のような制御および演算を実行するソフトウエアであるプログラムにより動作するCPU(中央演算処理回路)やDSP(デジタルシグナルプロセッサ)やMPU(マイクロプロセッサ)から構成してもよい。
図12の画像処理装置101によれば、4段のピラミッド画像からなる多重解像度画像(画像サイズは160×120、最低解像度は20×15)を用いて、nフレーム目の対応点探索処理結果による信頼度が閾値以上であったら、(n+1)フレーム目の対応点探索領域の画像解像度を1段上の高解像度に設定し(最高解像度だったら、最高解像度に設定する)、信頼度が閾値以下だったら、最低解像度に設定することで、すべての解像度の画像で対応点探索のための演算をせずに一段の階層でしか演算をしないことで演算量を減らすことができ、それでいて信頼性の高いデータが得られかつ精度も高い。
したがって、図12の画像処理装置101をハードウエアである集積素子から構成した場合には、その回路規模を削減することができ、また、プログラムにより動作するCPU(中央演算処理回路)等から構成した場合には、そのプログラムによる処理時間を短縮することができる。
〈第2例〉
次に、本実施の形態の画像処理装置の第2例について図17〜図19を参照して説明する。図17は本実施の形態による画像処理装置(第2例)の概略的構成を示す要部ブロック図である。
図17に示す画像処理装置102は、図1,図3に対応した構成を有する一方、図12と同一の構成部分を有し、同一の構成部分には図12と同じ符号を付してその説明を省略する。
図17の画像処理装置102は、図12の画像処理装置101と同様に、一対のカメラ(ステレオカメラ)で撮像したステレオ画像を基準画像と参照画像とし、基準画像と参照画像との間の視差(位置ずれ量)に基づいて三角測量の原理により物体の3次元空間における位置を検出する際に、かかる視差を求めるために基準画像と参照画像とを対応点探索処理により対応づける画像処理を行うように構成可能であるが、これに限定されず、基準画像と参照画像とが時系列的な画像であってもよい。
図17の画像処理装置102の解像度選択・対応点探索領域設定部13は、現在の処理より以前の1以上の対応点探索処理結果を保持する対応点探索処理結果保持部20を有し、対応点探索処理結果保持部20の情報に基づいて対応点探索処理を行う画像解像度を選択するとともに、対応点探索処理結果保持部20の情報に基づいて対応点探索処理を行う基準画像上の各領域に対応する参照画像上の探索領域を設定する。
対応点探索処理結果保持部20は、図17のように、RAM等からなる複数のバッファメモリ20a,20b,20cを有し、nフレーム目(n:2以上の整数)に対し、バッファメモリ20aは(n−3)フレーム目の対応点探索処理結果および信頼度を保持し、バッファメモリ20bは(n−2)フレーム目の対応点探索処理結果および信頼度を保持し、バッファメモリ20cは(n−1)フレーム目の対応点探索処理結果および信頼度を保持するようになっている。
図17の解像度選択・対応点探索領域設定部13は、3フレーム分の対応点探索処理結果と図14のようにして演算した信頼度とを各バッファメモリ20a〜20cで保持し、各フレームの対応点探索処理結果に対して信頼度で重み付けして対応点探索領域を設定し、また、3フレームの信頼度の総和から解像度を設定するようになっている。
次に、図17の画像処理装置における1フレーム目の対応点探索処理について図18のフローチャートを参照して説明する。図18は図17の画像処理装置における1フレーム目の対応点探索処理を説明するためのフローチャートである。
まず、i=0とし(S131)、対応点探索処理部14において、最低解像度(図13の画像A)を用い(S132)、参照画像のウィンドウを基準画像のウィンドウと同じ座標に設定し、対応点探索処理を行う(S133)。
その対応点探索処理結果および図14のようにして演算した信頼度を解像度選択・対応点探索領域設定部13のバッファメモリ20aに書き込んで保持する(S134)。次に、i=i+1とし(S135)、iが所定の処理点数の19200(1フレームあたり、160×120=19200点の処理をする場合)に達しなければ(S136)、ステップS132に戻る。iが所定の処理点数(19200点)に達すると(S136)、1フレーム目の処理が完了する。
なお、2,3フレーム目の各対応点探索処理も例えば上述と同様にして行い、対応点探索処理結果および信頼度を各バッファメモリ20b,20cに書き込んで保持する。
次に、図17の画像処理装置におけるn(n:4以上の整数)フレーム目の対応点探索処理について図19のフローチャートを参照して説明する。図19は図17の画像処理装置におけるnフレーム目の対応点探索処理を説明するためのフローチャートである。
まず、i=0とし(S141)、解像度選択・対応点探索領域設定部13において、各バッファメモリ20a〜20cから(n−1)フレーム目、(n−2)フレーム目、(n−3)フレーム目の各i番目の対応点探索処理結果および信頼度を読み込み(S142)、各信頼度の総和を計算する(S143)。
次に、信頼度の総和を所定の閾値と比較して信頼度を判断する(S144)。そして、解像度選択・対応点探索領域設定部13において、信頼度の総和が閾値以上で、高信頼度と判断されると(S144)、(n−1)フレーム目よりも一段だけ高解像度の画像を選択する(S145)。このとき、(n−1)フレーム目の画像サイズが160×120で最高解像度のときは、最高解像度である160×120の画像サイズの画像Dを選択する。
次に、(n−1)フレーム目、(n−2)フレーム目、(n−3)フレーム目の各信頼度に基づいて各対応点探索処理結果に重み付けを持たせて平均値を算出し、その平均値を用いてnフレーム目の対応点探索領域を設定する(S146)。
また、信頼度の総和が閾値未満で低信頼度と判断されると(S144)、最低解像度の画像(20×15の画像サイズの画像A)を選択する(S147)。また、基準画像と同じ座標に参照画像の対応点探索領域を設定する(S148)。
上述のようにして選択された解像度および設定された対応点探索領域を用いて対応点探索処理部14において対応点探索処理を行う(S149)。その対応点探索処理および演算された信頼度をバッファメモリ20a,20bまたは20cに書き込んで保持する(S150)。
次に、i=i+1とし(S151)、iが所定の処理点数の19200点に達しなければ(S152)、ステップS142に戻る。iが所定の処理点数(19200点)に達すると(S152)、nフレーム目の処理が完了する。
図17の画像処理装置102は、上述のような制御および演算を実行するハードウエアとしての集積素子から構成できるが、上述のような制御および演算を実行するソフトウエアであるプログラムにより動作するCPU(中央演算処理回路)やDSP(デジタルシグナルプロセッサ)やMPU(マイクロプロセッサ)から構成してもよい。
図17の画像処理装置102によれば、4段のピラミッド画像からなる多重解像度画像(画像サイズは160×120、最低解像度は20×15)を用いて、(n−3),(n−2),(n−1)の3フレーム分の信頼度の総和が閾値以上であったら、nフレーム目の対応点探索領域の画像解像度を1段上の高解像度に設定し(最高解像度だったら、最高解像度に設定する)、信頼度の総和が閾値以下だったら、nフレーム目の解像度を最低解像度に設定することで、すべての解像度の画像で対応点探索のための演算をせずに一段の階層でしか演算をしないことで演算量を減らすことができ、それでいて信頼性の高いデータが得られかつ精度も高い。
また、3フレーム分の信頼度の総和に基づいて解像度を設定するとともに、各フレームの各信頼度に基づいて各対応点探索処理結果に重み付けを持たせて平均値を算出し、その平均値を用いてnフレーム目の対応点探索領域を設定するので、データの信頼性および精度がいっそう高いものとなる。
したがって、図17の画像処理装置102をハードウエアである集積素子から構成した場合には、その回路規模を削減することができ、また、プログラムにより動作するCPU(中央演算処理回路)等から構成した場合には、その処理時間を短縮することができる。
以上のように本発明を実施するための最良の形態について説明したが、本発明はこれらに限定されるものではなく、本発明の技術的思想の範囲内で各種の変形が可能である。例えば、本実施の形態では、差分絶対値和(SAD)による相関法で対応点探索処理を行う場合を例にし、図14のように信頼度をSAD値から求めたが、本発明ではこれに限定されず、例えば、対応点探索処理を位相限定相関法(POC)で行う場合には、位相限定相関(POC)値を用いて信頼度を得ることができ、この場合のPOC値の算出法については、例えば、本発明者が先に提案した特願2007−149005で説明されている。さらに、SAD法の代わりに、SSD(Sum of Squared Difference)法やNCC(Normalized Cross Correlation)法を用いてもよく、また、POC法の代わりに、フーリエ変換や離散コサイン変換(DCT:Discrete cosine Transform)やウェーブレット変換を用いてもよい。
また、画像処理装置101,102は、例えば、ステレオカメラを有する距離計測装置に適用でき、このような距離計測装置は例えば自動車等の車両に搭載可能であるが、本発明はこれに限定されず、基準画像と参照画像との間の位置ずれ量を用いる他の装置にも適用可能であり、例えばカメラの手ぶれ補正処理等に適用できる。
本実施形態の画像処理装置の基本的構成を示す要部ブロック図である。 図1の画像処理装置の第1例を示す要部ブロック図である。 図1の画像処理装置の第2例を示す要部ブロック図である。 図2の画像処理装置が所定値演算部を備える構成を示す要部ブロック図である。 図3の画像処理装置が所定値演算部を備える構成を示す要部ブロック図である。 図2〜図5の各画像処理装置が解像度選択部で画像解像度の選択をフレーム毎に行う具体例を説明するためのフローチャートである。 図2〜図5の各画像処理装置が解像度選択部で画像解像度の選択を画素毎または対応点を演算する点毎に行う具体例を説明するためのフローチャートである。 図4,図5の各画像処理装置で対応点探索処理の処理結果における信頼度を所定値とした場合の動作の具体例を説明するためのフローチャートである。 図4,図5の各画像処理装置で対応点探索処理における距離値を所定値とした場合の動作の具体例を説明するためのフローチャートである。 図4,図5の各画像処理装置で時系列処理における移動量または速度を所定値とした場合の動作の具体例を説明するためのフローチャートである。 本実施形態による画像処理装置の基本的な動作例(処理結果を次フレームに用いる)を説明するための概念図である。 本実施の形態による画像処理装置(第1例)の概略的構成を示す要部ブロック図である。 本実施の形態の画像処理装置において用いるピラミッド画像(画像A〜D)を説明するための模式図である。 ステレオ画像による基準画像(a)および参照画像(b)を模式的に示し、本実施の形態における信頼度の演算式を説明するための図である。 図12の画像処理装置における1フレーム目の対応点探索処理を説明するためのフローチャートである。 図12の画像処理装置におけるnフレーム目の対応点探索処理を説明するためのフローチャートである。 本実施の形態による画像処理装置(第2例)の概略的構成を示す要部ブロック図である。 図17の画像処理装置における1フレーム目の対応点探索処理を説明するためのフローチャートである。 図17の画像処理装置におけるnフレーム目の対応点探索処理を説明するためのフローチャートである。
符号の説明
11 画像入力部
12 多重解像度画像生成部
12a,12b,12c 解像度変換部
12d〜12g メモリ
13 対応点探索領域設定部
14 対応点探索処理部
14a 読取部
14b 演算部
15 出力部
16 解像度選択部
17 対応点探索領域設定部
18 選択解像度保持部、メモリ
19 設定対応点探索領域保持部、メモリ
20 対応点探索処理結果保持部
20a〜20c バッファメモリ
21 解像度選択部
22 対応点探索領域設定部
25 所定値演算部
101,102 画像処理装置
Ga 基準画像
Gb 参照画像
R 信頼度、相関値
Wa 基準画像に設定したウインドウ
Wb 参照画像に設定したウインドウ

Claims (14)

  1. 基準画像と参照画像とを入力し取得する画像入力手段と、
    前記基準画像および前記参照画像の各多重解像度画像を生成する多重解像度画像生成手段と、
    対応点探索処理を行う画像解像度を選択するともに対応点探索処理を行う基準画像上の各領域に対応する参照画像の探索領域を設定する解像度選択・対応点探索領域設定手段と、
    前記解像度選択・対応点探索領域設定手段の情報に基づいて前記基準画像と前記参照画像との間の対応点を探索する対応点探索処理手段と、を備え
    前記解像度選択・対応点探索領域設定手段は、
    現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を所定値演算手段により演算し、前記所定値を用いて、前記対応点探索処理を行う画像解像度を選択する解像度選択手段と、
    現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定手段と、を有し、
    前記対応点探索処理手段は、前記基準画像と前記探索領域が設定された前記参照画像との間の対応点を前記選択した画像解像度で探索することを特徴とする画像処理装置。
  2. 前記所定値演算手段は、n番目のフレーム以前の1以上のフレームにおける所定値を演算し、
    前記解像度選択手段は、前記所定値を用いて(n+1)番目のフレームの画像解像度を選択することを特徴とする請求項に記載の画像処理装置。
  3. 前記解像度選択手段は、前記画像解像度の選択をフレーム毎に行うことを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記解像度選択手段は、前記画像解像度の選択を画素毎または対応点を演算する点毎に行うことを特徴とする請求項1または2に記載の画像処理装置。
  5. 前記所定値演算手段は、前記対応点探索処理の処理結果における信頼度を所定値とすることを特徴とする請求項1〜4のいずれか1項に記載の画像処理装置。
  6. 前記所定値演算手段は、対応点探索処理における距離値を所定値とすることを特徴とする請求項1〜4のいずれか1項に記載の画像処理装置。
  7. 前記所定値演算手段は、時系列処理における移動量または速度を所定値とすることを特徴とする請求項1〜4のいずれか1項に記載の画像処理装置。
  8. 基準画像と参照画像とを入力し取得するステップと、
    前記基準画像および前記参照画像の各多重解像度画像を生成する多重解像度画像生成ステップと、
    現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果から所定値を演算し、前記所定値を用いて、対応点探索処理を行う画像解像度を選択する解像度選択ステップと、
    現在の処理よりも少なくとも1フレーム以前の対応点探索処理結果に基づいて現フレームにおける基準画像上の各領域に対応する参照画像上の対応点を推定し、前記推定した参照画像上の対応点に探索領域を設定する対応点探索領域設定ステップと、
    前記基準画像と前記前記探索領域が設定された参照画像との間の対応点を前記選択した画像解像度で探索する対応点探索処理ステップと、を含むことを特徴とする画像処理方法。
  9. 前記解像度選択ステップにおいて、n番目のフレーム以前の1以上のフレームにおける所定値を演算、前記所定値を用いて(n+1)番目のフレームの画像解像度を選択することを特徴とする請求項に記載の画像処理方法。
  10. 前記解像度選択ステップでは、前記画像解像度の選択をフレーム毎に行うことを特徴とする請求項8または9に記載の画像処理方法。
  11. 前記解像度選択ステップでは、前記画像解像度の選択を画素毎または対応点を演算する点毎に行うことを特徴とする請求項8または9に記載の画像処理方法。
  12. 前記対応点探索処理の処理結果における信頼度を前記所定値とすることを特徴とする請求項8〜11のいずれか1項に記載の画像処理方法。
  13. 対応点探索処理における距離値を前記所定値とすることを特徴とする請求項8〜11のいずれか1項に記載の画像処理方法。
  14. 時系列処理における移動量または速度を前記所定値とすることを特徴とする請求項8〜11のいずれか1項に記載の画像処理方法。
JP2008145290A 2008-06-03 2008-06-03 画像処理装置および画像処理方法 Expired - Fee Related JP5062531B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008145290A JP5062531B2 (ja) 2008-06-03 2008-06-03 画像処理装置および画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008145290A JP5062531B2 (ja) 2008-06-03 2008-06-03 画像処理装置および画像処理方法

Publications (2)

Publication Number Publication Date
JP2009294733A JP2009294733A (ja) 2009-12-17
JP5062531B2 true JP5062531B2 (ja) 2012-10-31

Family

ID=41542908

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008145290A Expired - Fee Related JP5062531B2 (ja) 2008-06-03 2008-06-03 画像処理装置および画像処理方法

Country Status (1)

Country Link
JP (1) JP5062531B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5781353B2 (ja) * 2011-03-31 2015-09-24 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理方法、および位置情報のデータ構造
JP5774889B2 (ja) 2011-03-31 2015-09-09 株式会社ソニー・コンピュータエンタテインメント 情報処理装置、情報処理システム、および情報処理方法
EP2725550A4 (en) 2011-06-27 2015-03-04 Konica Minolta Inc IMAGE PROCESSING DEVICE, IMAGE PROCESSING PROCESS AND CORRESPONDING PROGRAM
JP5924340B2 (ja) * 2011-06-29 2016-05-25 コニカミノルタ株式会社 対応点探索装置
US9161010B2 (en) * 2011-12-01 2015-10-13 Sony Corporation System and method for generating robust depth maps utilizing a multi-resolution procedure
US9542755B2 (en) * 2012-10-22 2017-01-10 Sony Corporation Image processor and image processing method

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4517449B2 (ja) * 2000-05-10 2010-08-04 株式会社豊田中央研究所 画像における相関演算方法
JP3914973B2 (ja) * 2003-11-27 2007-05-16 防衛省技術研究本部長 画像の動き検出装置

Also Published As

Publication number Publication date
JP2009294733A (ja) 2009-12-17

Similar Documents

Publication Publication Date Title
CN108961327B (zh) 一种单目深度估计方法及其装置、设备和存储介质
US11341750B2 (en) Quasi-parametric optical flow estimation
Rajagopalan et al. Depth estimation and image restoration using defocused stereo pairs
US9681150B2 (en) Optical flow determination using pyramidal block matching
JP3944647B2 (ja) 物体計測装置、物体計測方法、およびプログラム
JP6395506B2 (ja) 画像処理装置および方法、プログラム、並びに撮像装置
JP5062531B2 (ja) 画像処理装置および画像処理方法
US9014463B2 (en) System for real-time stereo matching
US8995714B2 (en) Information creation device for estimating object position and information creation method and program for estimating object position
US9508153B2 (en) Distance measurement apparatus, imaging apparatus, distance measurement method, and program
US8416989B2 (en) Image processing apparatus, image capture apparatus, image processing method, and program
US9361704B2 (en) Image processing device, image processing method, image device, electronic equipment, and program
JP2016029564A (ja) 対象検出方法及び対象検出装置
US20090110331A1 (en) Resolution conversion apparatus, method and program
JP4941565B2 (ja) 対応点探索装置および対応点探索方法
CN113711276A (zh) 尺度感知单目定位和地图构建
US9386266B2 (en) Method and apparatus for increasing frame rate of an image stream using at least one higher frame rate image stream
JP4877243B2 (ja) 対応点探索装置および該方法
JP7027776B2 (ja) 移動ベクトル算出方法、装置、プログラム、及びノイズ除去処理を含む移動ベクトル算出方法
JP4985542B2 (ja) 対応点探索装置
JP6614824B2 (ja) 画像処理装置、画像処理システム、撮像装置、画像処理方法およびプログラム
US20200202563A1 (en) 3d image reconstruction processing apparatus, 3d image reconstruction processing method and computer-readable storage medium storing 3d image reconstruction processing program
JP2012181710A (ja) オブジェクト追跡装置、方法、及びプログラム
CN115191928A (zh) 信息处理装置、信息处理方法、学习方法以及存储介质
JP2017005582A (ja) 画像処理装置、画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110208

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120223

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120228

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120424

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120713

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120726

R150 Certificate of patent or registration of utility model

Ref document number: 5062531

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150817

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees