JP2016170522A - 移動体検出装置 - Google Patents
移動体検出装置 Download PDFInfo
- Publication number
- JP2016170522A JP2016170522A JP2015048647A JP2015048647A JP2016170522A JP 2016170522 A JP2016170522 A JP 2016170522A JP 2015048647 A JP2015048647 A JP 2015048647A JP 2015048647 A JP2015048647 A JP 2015048647A JP 2016170522 A JP2016170522 A JP 2016170522A
- Authority
- JP
- Japan
- Prior art keywords
- image
- moving body
- blur
- captured
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】簡便な手法で移動体の検出精度を向上させることができる移動体検出装置を提供する。
【解決手段】本実施形態による移動体検出装置は、移動情報取得部と、近似画像生成部と、移動体検出器と、を備える。移動情報取得部は、第1露光時間および第1露光時間より長い第2露光時間での撮像が可能な撮像装置の移動情報を生成する。近似画像生成部は、移動情報に基づいて、第1露光時間で撮像された第1撮像画像および第2露光時間で撮像された第2撮像画像のうち一方を他方に近似させた近似画像を生成する。移動体検出装置は、近似画像と他方の撮像画像とに基づいて、第1および第2撮像画像に写し込まれた移動体を検出する。
【選択図】図1
Description
本発明の実施形態は、移動体検出装置に関する。
定点カメラのような固定位置に搭載されたカメラで撮像した画像に写り込んでいる移動体を検出する技術がある。しかし、人や車のような移動体に搭載されたカメラで撮像した画像から移動体を検出することが困難であるといった問題がある。
また、単眼カメラで撮像した2枚のフレームから互いにマッチングする特徴点を生成することで移動体を検出する技術がある。マッチングした特徴点がエピポーラ幾何拘束の条件を満たしていなければ、該特徴点を移動体として検出する。
この技術では、露光時間が短い(すなわち、フレームレートが高い)カメラを用いれば、マッチングする特徴点の探索範囲を絞れる。しかしながら、露光時間が短い場合には、不連続な撮像画像から移動体の情報を生成するため、移動体の軌跡を正確に追うことが困難であり、移動体の検出精度が不十分であるといった問題がある。
一方、露光時間が長い(すなわち、フレームレートが低い)カメラを用いる場合には、被写体やカメラの移動距離が長くなることで、マッチングする特徴点の探索範囲が広がる。探索範囲が広がることで、露光時間が短いカメラよりも移動体の検出精度が低下する。また、移動体がその手前(カメラ側)に存在する物体の背後に隠れることで撮像画像に写らなくなるオクルージョンが発生し易くなることで、移動体の検出精度が更に低下するといった問題がある。
本発明が解決しようとする課題は、簡易な手法で移動体の検出精度を向上させることができる移動体検出装置を提供することにある。
本実施形態による移動体検出装置は、移動情報取得部と、近似画像生成部と、移動体検出器と、を備える。移動情報取得部は、第1露光時間および第1露光時間より長い第2露光時間での撮像が可能な撮像装置の移動情報を取得する。近似画像生成部は、移動情報に基づいて、第1露光時間で撮像された第1撮像画像および第2露光時間で撮像された第2撮像画像のうち一方を他方に近似させた近似画像を生成する。移動体検出装置は、近似画像と他方の撮像画像とに基づいて、第1および第2撮像画像に写し込まれた移動体を検出する。
以下、図面を参照して本発明に係る実施形態を説明する。以下の実施形態では、移動体検出装置の特徴的な構成および動作を中心に説明するが、移動体検出装置には以下の説明で省略した構成および動作が存在しうる。これらの省略した構成および動作も本実施形態の範囲に含まれるものである。
(第1の実施形態)
図1は、第1の実施形態を示す移動体検出装置10のブロック図である。移動体検出装置10は、例えば、車載用周囲監視システムやヘッドマウントディスプレイにおいて移動体を検出するために用いることができる。移動体は、例えば車両や歩行者である。
図1は、第1の実施形態を示す移動体検出装置10のブロック図である。移動体検出装置10は、例えば、車載用周囲監視システムやヘッドマウントディスプレイにおいて移動体を検出するために用いることができる。移動体は、例えば車両や歩行者である。
移動体検出装置10は、撮像装置11と、切替器12と、移動情報取得部13と、近似画像生成部14と、移動体検出部15とを備える。撮像装置11は、例えば、車両の所定の位置に所定の姿勢で取り付けられたカメラである。撮像装置11は、CMOSセンサなどの固体撮像素子にて撮像を行うカメラであってよい。また、撮像装置11は、赤外線帯域の撮像も可能なカメラであってもよい。また、撮像装置11は、1つだけでなく、複数個設けてもよい。撮像装置11からは、撮像した画像がデジタル信号で出力される。切替器12は、例えばスイッチの自動切り替えによって撮像画像の出力先を変更する。
(撮像装置11)
撮像装置11は、第1露光時間での撮像と、第1露光時間より長い第2露光時間での撮像が可能である。なお、撮像装置11は、第1および第2露光時間以外の露光時間での撮像を行ってもよい。撮像装置11の撮像方向および撮像範囲は、任意に調整できるようにしてもよいし、固定にしてもよい。
撮像装置11は、第1露光時間での撮像と、第1露光時間より長い第2露光時間での撮像が可能である。なお、撮像装置11は、第1および第2露光時間以外の露光時間での撮像を行ってもよい。撮像装置11の撮像方向および撮像範囲は、任意に調整できるようにしてもよいし、固定にしてもよい。
撮像装置11は、第1露光時間及び第2の露光時間の撮像を交互に行う。なお、撮像装置11が複数の固体撮像素子を備える場合、第1露光時間と第2の露光時間の撮像を同時に行ってもよい。
撮像装置11は、第1露光時間で撮像された第1撮像画像(画像データ)I1と、第2露光時間で撮像された第2撮像画像(画像データ)I2とを、切替器12に出力する。
ここで、ブラーとは、画像に含まれるブレを意味する。より詳細には、ブラーには、撮像装置11の移動により生じたブラーと、移動体の移動により生じたブラーとが含まれている。第1撮像画像I1は、移動体を検出する処理を行う際に、ブラーフィルタの生成(同定)に用いられる。第2撮像画像I2は、移動体を検出する処理を行う際に、ブラー画像との差分の検出に用いられる。
(切替器12)
切替器12は、切替動作によって、第1撮像画像I1を移動情報取得部13と近似画像生成部14に送信し、第2撮像画像I2を移動体検出部15に送信する。切替器12は、撮像装置11の撮像動作に同期して、切替動作を行ってもよい。すなわち、切替器12は、撮像装置11が第1露光時間または第2露光時間での撮像を行ったタイミングに合わせて、切替動作を行ってもよい。切替動作は、例えば、画像I2を切替器12に送信する際に、露光時間を特定する情報を各撮像画像に合わせて送信すればよい。切替器12は、この情報を受信することで、第1撮像画像I1または第2撮像画像I2の送信先を切り替える。
切替器12は、切替動作によって、第1撮像画像I1を移動情報取得部13と近似画像生成部14に送信し、第2撮像画像I2を移動体検出部15に送信する。切替器12は、撮像装置11の撮像動作に同期して、切替動作を行ってもよい。すなわち、切替器12は、撮像装置11が第1露光時間または第2露光時間での撮像を行ったタイミングに合わせて、切替動作を行ってもよい。切替動作は、例えば、画像I2を切替器12に送信する際に、露光時間を特定する情報を各撮像画像に合わせて送信すればよい。切替器12は、この情報を受信することで、第1撮像画像I1または第2撮像画像I2の送信先を切り替える。
(移動情報取得部13)
移動情報取得部13は、撮像装置11の移動情報(以下、単に移動情報ともいう)を取得する。移動情報は、撮像装置11の移動量および移動方向を含む。移動量は、単位時間当たりの移動量、すなわち移動速度であってもよい。また、移動情報は、撮像装置11の姿勢を更に含んでよい。移動情報は、撮像装置11の並進ベクトルおよび回転マトリクスであってもよい。また、移動情報は、撮像装置11のパラメータであってもよい。
移動情報取得部13は、撮像装置11の移動情報(以下、単に移動情報ともいう)を取得する。移動情報は、撮像装置11の移動量および移動方向を含む。移動量は、単位時間当たりの移動量、すなわち移動速度であってもよい。また、移動情報は、撮像装置11の姿勢を更に含んでよい。移動情報は、撮像装置11の並進ベクトルおよび回転マトリクスであってもよい。また、移動情報は、撮像装置11のパラメータであってもよい。
移動情報取得部13は、撮像時刻(撮像開始時刻)が異なる複数の第1撮像画像I1に基づいて、移動情報を取得する。移動情報取得部13は、移動情報に基づいて、ブラーフィルタを生成(取得)する。ブラーフィルタは、撮像装置11の移動により生じたブラーを模擬するフィルタである。移動情報取得部13は、ブラーフィルタを、近似画像生成部14に出力する。
ブラーフィルタは、撮像装置11の移動により生じたブラーを模擬しているが、移動体の移動により生じたブラーは模擬していない。このような撮像装置11の移動により生じたブラーのみを模擬したブラーフィルタを用いると、移動体の検出に適したブラー画像を得ることができる。
(近似画像生成部14)
近似画像生成部14は、移動情報に基づいて、第1撮像画像および第2撮像画像のうち一方を他方に近似させた近似画像を生成する。第1の実施形態では、近似画像生成部14は、移動情報に基づいて、第1撮像画像I1を第2撮像画像I2に近似させたブラー画像を生成する。すなわち、近似画像生成部14は、移動情報に基づいて第1撮像画像I1を画像処理し、ブラー画像を生成する。ブラー画像は、近似画像の一例である。
近似画像生成部14は、移動情報に基づいて、第1撮像画像および第2撮像画像のうち一方を他方に近似させた近似画像を生成する。第1の実施形態では、近似画像生成部14は、移動情報に基づいて、第1撮像画像I1を第2撮像画像I2に近似させたブラー画像を生成する。すなわち、近似画像生成部14は、移動情報に基づいて第1撮像画像I1を画像処理し、ブラー画像を生成する。ブラー画像は、近似画像の一例である。
具体的には、近似画像生成部14は、第1撮像画像I1に、移動情報に基づいて生成されたブラーフィルタを畳み込む(画像処理を行う)ことで、ブラー画像を生成する。そして、近似画像生成部14は、ブラー画像を、移動体検出部15に出力する。
ブラー画像は、撮像装置11の移動により生じたブラーを模擬可能なブラーフィルタに基づいて生成されたものである。したがって、ブラー画像は、撮像装置11の移動による疑似的なブラーのみを含み、被写体の移動による疑似的なブラーは含まない。このような疑似的なブラーのみを含むブラー画像を用いることで、移動体を簡便かつ高精度に検出することができる。
(移動体検出部15)
移動体検出部15は、ブラー画像と第2撮像画像I2とに基づいて、第1撮像画像I1および第2撮像画像I2に写し込まれている移動体を検出する。具体的には、移動体検出部15は、ブラー画像と第2撮像画像I2との差分を移動体として検出する。
移動体検出部15は、ブラー画像と第2撮像画像I2とに基づいて、第1撮像画像I1および第2撮像画像I2に写し込まれている移動体を検出する。具体的には、移動体検出部15は、ブラー画像と第2撮像画像I2との差分を移動体として検出する。
ブラー画像は、撮像装置11の移動により生じたブラーのみを含んでいる。一方、第2撮像画像I2は、撮像装置11および被写体の移動により生じたブラーを含んでいる。したがって、ブラー画像と第2撮像画像I2との差分を求めれば、両画像の間で、撮像装置11の移動により生じたブラーが除去される。一方、被写体の移動により生じたブラーは、ブラー画像と第2撮像画像I2との差分の中に含まれている。この差分画像は、移動した被写体すなわち移動体を示すものである。したがって、この差分を求めることで、第2撮像画像に写し込まれた移動体を簡便かつ高精度に検出することができる。
もし、露光時間が短いカメラのみを用いて移動体を検出する場合、不連続な撮像画像から移動体の情報を生成するため、移動体の軌跡を正確に追うことが困難である。この結果、移動体の検出精度が不十分となる。これに対して、本実施形態では、移動体の軌跡を反映した連続的な第2撮像画像I2から、撮像装置11の移動により生じたブラーの成分を、ブラー画像で除去することができる。この結果、移動体を十分に高精度に検出できる。
(移動体検出動作)
以下、図を用いて、移動体検出部15の動作例すなわち移動体検出方法を説明する。図2は、図1の移動体検出装置10の動作例を示すフローチャートである。図3は、撮像装置11の露光時間を説明する図である。図3は、時刻T1、T3に第1露光時間ET1、時刻T2に第2露光時間ET2で撮像することを示している。
以下、図を用いて、移動体検出部15の動作例すなわち移動体検出方法を説明する。図2は、図1の移動体検出装置10の動作例を示すフローチャートである。図3は、撮像装置11の露光時間を説明する図である。図3は、時刻T1、T3に第1露光時間ET1、時刻T2に第2露光時間ET2で撮像することを示している。
撮像装置11は、先ず、時刻T1に第1露光時間ET1で第1撮像画像I1を撮像する(S1)。図4Aは、時刻T1における撮像画像の一例を示す図である。時刻T1における第1撮像画像I1として、撮像装置11を搭載した車両の進行方向前方の画像が示されている。第1撮像画像I1中には、対向車C(移動体)および木T(静止物)が写し込まれている。
次いで、撮像装置11は、時刻T2に第2露光時間ET2で第2撮像画像I2を撮像する(S2)。この第2撮像画像I2は、期間T1〜T2における撮像装置11(車両)の移動にともなうブラーと、期間T1〜T2における対向車Cの移動にともなうブラーとを含んでいる。
次いで、撮像装置11は、時刻T3に第1撮像画像I1を撮像する(S3)。図4Bは、時刻T3における撮像画像の一例を示す図である。図4Bには、図4Aよりも車両および対向車Cが進行した画像が示されている。図4Bの第1撮像画像I1には、車両前方の対向車Cと木Tとが、図4Aよりも大きく写り込んでいる。なお、図4B中の矢印aは、対向車Cの進行方向を示す。
次いで、移動情報取得部13は、時刻T1における第1撮像画像I1と、時刻T3における第1撮像画像I1とに基づいて、移動情報を取得する(S4)。そして、移動情報取得部13は、移動情報に基づいてブラーフィルタを生成する(S5)。
図5は、ブラーフィルタを説明する図である。ブラー(ラジアルブラー)は、画像中の消失点VPを中心としたラジアルラインRLに沿って方向づけられる。ラジアルラインRLは、移動情報に含まれる移動方向に延びている。ブラーフィルタは、点像広がり関数(PSF)ということもできる。このようなブラーを模擬するブラーフィルタ(カーネル)は画素毎に異なり、消失点VPを基準とした各画素のラジアルラインRL方向の位置および距離によって決まる。例えば、第1の画素pix_1が有するブラーフィルタは、ラジアルラインRL方向の位置p1および距離l1によって決まる。同様に、第2の画素pix_2のブラーフィルタは、位置p2および距離l2によって決まる。ここで、画素の位置は、移動情報に影響される。例えば、時刻T1において、或る着目画素が消失点VPに位置していたと仮定する。時刻T3における着目画素は、撮像装置11の移動量がl1に対応する値であれば、第1の画素pix_1となり、撮像装置11の移動量がl2に対応する値であれば、第2の画素pix_2となり得る。したがって、ブラーフィルタは、一例として、移動情報によって決まる。
次いで、近似画像生成部14は、第1撮像画像I1にブラーフィルタを畳み込み、ブラー画像を生成する(S6)。ブラー画像は、撮像装置11の移動による疑似的なブラーを含んでおり、対向車Cの移動により生じたブラーは含んでいない。
次いで、移動体検出部15は、ブラー画像と第2撮像画像I2との差分を移動体として検出する(S7)。図4Cは、ブラー画像と第2撮像画像との差分の一例を示す図である。対向車Cの移動により生じたブラーが含まれる。図6Aは、図4Cの部分拡大図である。図6Bは、図6Aの領域Aを数値で表した図である。移動体検出部15は、例えば、図6Aの領域A内におけるブラー画像と第2撮像画像I2との差分を、図6Bに示すような二値画像に変換して検出する。なお、移動体検出部15は、差分を検出できればよく、差分を二値画像に変換することは必須でない。ブラー画像と第2撮像画像I2との差分を求めることで、第2撮像画像I2に含まれる対向車Cの移動により生じたブラーを抽出できる。これにより、移動体(対向車C)を簡便な手法で高精度に検出することができる。
このように、第1の実施形態では、露光時間の短い第1撮像画像I1にブラーフィルタを適用してブラー画像を生成する。ブラー画像には、撮像装置11の移動により生じたブラーは含まれているが、移動体の移動により生じたブラーは含まれていない。このブラー画像と露光時間の長い第2撮像画像I2との差分を求めることにより、撮像装置11の移動により生じたブラーを相殺しつつ、移動体の移動により生じたブラーを抽出できる。これにより、第1撮像画像I1と第2撮像画像I2に写し込まれた移動体を精度よく検出できる。すなわち、本実施形態によれば、簡易な手法で移動体の検出精度を向上させることができる。
(第2の実施形態)
本実施形態の移動体検出装置10は、第1の実施形態に対して、移動体を検出するための撮像画像I1、I2の適用の仕方が異なる。図7は、第2の実施形態を示す移動体検出装置10のブロック図である。本実施形態の説明にあたり、第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。
本実施形態の移動体検出装置10は、第1の実施形態に対して、移動体を検出するための撮像画像I1、I2の適用の仕方が異なる。図7は、第2の実施形態を示す移動体検出装置10のブロック図である。本実施形態の説明にあたり、第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。
第2の実施形態では、切替器12は、第1撮像画像I1を、近似画像生成部14に供給する代わりに、移動体検出部15に供給する。また、切替器12は、第2撮像画像I2を、移動体検出部15に供給する代わりに、近似画像生成部14に供給する。
図8は、第2の実施形態の移動体検出装置10の動作例を示すフローチャートである。移動情報取得部13は、ブラーフィルタを生成する(図2のS5)代わりに、移動情報に基づいてデブラーフィルタを生成する(S52)。デブラーフィルタは、第2撮像画像I2をデブラー画像に変換可能なフィルタであり、パラメータの一例である。デブラー画像とは、撮像画像から、撮像装置11の移動により生じたブレを抑制(補正)した画像である。抑制は、除去を含んでよい。
また、近似画像生成部14は、ブラー画像を生成する(図2のS6)代わりに、デブラー画像(近似画像)を生成する(S62)。デブラー画像は、第2撮像画像I2にデブラーフィルタを畳み込むことで得られる。第2の実施形態による近似画像は、第2撮像画像I2に含まれるブレを移動情報に基づいて抑制させたデブラー画像である。近似画像生成部14は、移動情報に基づいて第2撮像画像I2を画像処理し、デブラー画像を生成する。
また、移動体検出部15は、ブラー画像と第2撮像画像I2との差分を移動体として検出する(図2のS7)代わりに、デブラー画像と第1撮像画像I1との差分を移動体として検出する(S72)。
ここで、デブラーフィルタは、移動情報に基づいて生成されたものである。デブラーフィルタは、撮像装置11の移動により生じたブラーを考慮している一方で、被写体の移動は考慮していない。したがって、デブラーフィルタを畳み込むことで生成されたデブラー画像は、撮像装置11の移動により生じたブラーを抑制(デブラー)しており、被写体の移動により生じたブラーは抑制していない。このため、デブラー画像と第1撮像画像I1との差分をとれば、デブラー画像から撮像装置11の移動により生じたブラーを抑制した部分が除去される。一方、被写体の移動により生じたブラーは、デブラー画像と第1撮像画像I1との差分の中に含まれている。この差分画像は、移動した被写体すなわち移動体を示すものである。したがって、デブラー画像と第1撮像画像I1との差分を求めることで、移動体を簡便かつ高精度に検出することができる。すなわち、本実施形態によれば、簡易な手法で移動体の検出精度を向上させることができる。
このように、第2の実施形態では、露光時間の長い第2撮像画像I2にデブラーフィルタを適用してデブラー画像を生成する。デブラー画像は、第2撮像画像I2に含まれていた撮像装置11の移動により生じたブレをなくした画像であるが、移動体の移動により生じたブレは含まれている。このデブラー画像と露光時間の短い第1撮像画像I1との差分を求めることにより、移動体の移動により生じたブレを抽出できる。これにより、第1撮像画像I1と第2撮像画像I2に写し込まれた移動体を検出できる。
(第3の実施形態)
本実施形態の移動体検出装置10は、第1の実施形態に対して、ブラーフィルタを更新する点が異なる。図9は、第3の実施形態を示す移動体検出装置10のブロック図である。第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。
本実施形態の移動体検出装置10は、第1の実施形態に対して、ブラーフィルタを更新する点が異なる。図9は、第3の実施形態を示す移動体検出装置10のブロック図である。第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。
第3の実施形態の切替器12は、第2撮像画像I2を、移動体検出部15だけでなく、移動情報取得部13にも供給する。図10は、図9の移動体検出装置10の動作例を示すフローチャートである。移動情報取得部13は、ブラーフィルタの生成(S5)の後に、ブラーフィルタを第1撮像画像I1に畳み込む(S8)。次いで、移動情報取得部13は、畳み込んだ画像と第2撮像画像I2との差分を計算する(S9)。次いで、移動情報取得部13は、ピクセルごとの差分の和が閾値以上か否かを判定する(S10)。
ピクセルごとの差分の和が閾値未満である場合(S10:No)には、ブラーフィルタを維持してブラー画像の取得(S6)に移行する。一方、移動情報取得部13は、ピクセルごとの差分の和が閾値以上である場合(S10:Yes)には、差分に基づいてブラーフィルタを更新(再生成)する(S11)。差分があまりにも大きい場合には、差分中に、移動体だけでなくノイズも含んでいる可能性がある。ノイズの原因としては、ブラーフィルタが、撮像装置11の移動により生じたブラーを正確に模擬できていないことが考えられる。そこで、S11では、ブラーフィルタの更新を行う。S11では、例えば、移動情報取得部13は、ブラーフィルタのパラメータを予め定められた変化量だけ変化させてもよい。その後、移動情報取得部13は、更新されたブラーフィルタに対して、畳み込み(S8)以降の処理を繰り返す。
なお、ブラーフィルタの畳み込み(S8)は、近似画像生成部14が行ってもよい。畳み込んだ画像は、ブラー画像ということもできる。このため、S9において算出された画像と第2撮像画像I2との差分は、移動体ということもできる。したがって、S9において算出された差分を移動体と判断する場合(例えば、S10:Noの場合)には、ブラー画像の生成(S6)およびブラー画像と第2撮像画像I2との差分の検出(S7)を省略してもよい。また、S10の判定は、移動体検出部15が行ってもよい。
このように、第3の実施形態では、第1撮像画像I1にブラーフィルタを畳み込んだ画像と、第2撮像画像I2との差分に基づいて、ブラーフィルタの正確性を判断できる。そして、差分が閾値以上となるブラーフィルタを更新することで、移動体の検出精度を更に向上させることができる。
(第4の実施形態)
本実施形態の移動体検出装置10は、第2の実施形態に対して、デブラーフィルタを更新する点が異なる。図11は、第4の実施形態を示す移動体検出装置10のブロック図である。第2の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。具体的には、切替器12は、第2撮像画像I2を、近似画像生成部14だけでなく、移動情報取得部13にも供給する。
本実施形態の移動体検出装置10は、第2の実施形態に対して、デブラーフィルタを更新する点が異なる。図11は、第4の実施形態を示す移動体検出装置10のブロック図である。第2の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。具体的には、切替器12は、第2撮像画像I2を、近似画像生成部14だけでなく、移動情報取得部13にも供給する。
図12は、図11の移動体検出装置10の動作例を示すフローチャートである。移動情報取得部13は、デブラーフィルタの生成(S52)の後に、デブラーフィルタを第2撮像画像I2に畳み込む(S84)。次いで、移動情報取得部13は、畳み込んだ画像と第1撮像画像I1との差分を計算する(S94)。次いで、移動情報取得部13は、ピクセルごとの差分の和が閾値以上か否かを判定する(S104)。そして、移動情報取得部13は、ピクセルごとの差分の和が閾値以上である場合(S104:Yes)には、差分に基づいてデブラーフィルタを更新(再生成)する(S114)。差分があまりにも大きい場合には、差分中に、移動体だけでなくノイズも含んでいる可能性がある。ノイズの原因としては、デブラーフィルタが撮像装置11の移動により生じたブラーを正確に考慮できていないことが考えられる。
S114では、例えば、移動情報取得部13は、デブラーフィルタのパラメータを予め定められた一定変化量だけ変化させることでデブラーフィルタを更新してもよいが、これに限定されない。その後、移動情報取得部13は、更新されたデブラーフィルタに対して、畳み込み(S84)以降の処理を繰り返す。一方、ピクセルごとの差分の和が閾値未満である場合(S104:No)には、デブラーフィルタを維持して、維持されたデブラーフィルタを用いたデブラー画像の生成(S62)に移行する。
なお、第2撮像画像I2へのデブラーフィルタの畳み込み(S84)は、近似画像生成部14が行ってもよい。また、S84において畳み込んだ画像は、デブラー画像ということもできる。このため、S94において、畳み込んだ画像と第1撮像画像I1との差分は、移動体ということもできる。したがって、S94において算出された差分を移動体と判断してよい場合(例えば、S104:Noの場合)には、デブラー画像の生成(S62)およびデブラー画像と第1撮像画像I1との差分の検出(S72)を省略してもよい。また、S104の判定は、移動体検出部15が行ってもよい。
このように、第4の実施形態では、第2撮像画像I2にデブラーフィルタを畳み込んだ画像と、第1撮像画像I1との差分に基づいて、デブラーフィルタの正確性を判断できる。そして、差分が閾値以上となる正確性が低いデブラーフィルタを、差分が閾値未満に収まる正確性が高いデブラーフィルタに更新できる。これにより、移動体の検出精度を更に向上させることができる。
(第5の実施形態)
本実施形態の移動体検出装置10は、第1の実施形態に対して、移動情報を取得する構成が異なる。図13は、第5の実施形態を示す移動体検出装置10のブロック図である。第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。具体的には、移動体検出装置10は、検出センサ16を備える。検出センサ16は、移動情報を検出し、検出された移動情報を移動情報取得部13に出力する。検出センサ16は、例えば、車両に搭載された車速センサ(車速パルス発生器)やジャイロセンサあるいは舵角センサである。
本実施形態の移動体検出装置10は、第1の実施形態に対して、移動情報を取得する構成が異なる。図13は、第5の実施形態を示す移動体検出装置10のブロック図である。第1の実施形態に対応する構成部については同一の符号を付して重複した説明は省略する。具体的には、移動体検出装置10は、検出センサ16を備える。検出センサ16は、移動情報を検出し、検出された移動情報を移動情報取得部13に出力する。検出センサ16は、例えば、車両に搭載された車速センサ(車速パルス発生器)やジャイロセンサあるいは舵角センサである。
図14は、図13の移動体検出装置10の動作例を示すフローチャートである。すなわち、移動情報取得部13は、第1撮像画像I1に基づいて移動情報を取得する(図2のS4参照)代わりに、検出センサ16から移動情報を取得する(S45)。本実施形態においても、簡易な手法で移動体の検出精度を向上させることができる。
なお、上述の各実施形態では、第2露光時間が一連の露光時間であった。しかし、本実施形態における第2露光時間は、一連の露光時間に限定されない。例えば、第2露光時間は、所定期間内における複数回の撮像の露光時間のうち少なくとも2回の撮像の露光時間を合計した合計露光時間であってもよい。この場合、合計露光時間は、第1露光時間のような短い露光時間を合計したものであってもよい。第2露光時間を合計露光時間とする場合、第2撮像画像は、各露光時間での撮像画像を合成した合成画像であってよい。
また、第1〜第5の実施形態は、これらを適宜組み合わせてもよい。例えば、第2〜第4の実施形態において、検出センサ16を用いて移動情報を取得してもよい。また、本実施形態は、撮像装置11が静止している状態での移動体検出への適用を除外しない。
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
10 移動体検出装置、11 撮像装置、12 切替器、13 移動情報取得部、14 近似画像生成部、15 移動体検出部
Claims (5)
- 第1露光時間および該第1露光時間より長い第2露光時間での撮像が可能な撮像装置の移動情報を取得する移動情報取得部と、
前記移動情報に基づいて、前記第1露光時間で撮像された第1撮像画像および前記第2露光時間で撮像された第2撮像画像のうち一方を他方に近似させた近似画像を生成する近似画像生成部と、
前記近似画像と前記他方の撮像画像とに基づいて、前記第1および第2撮像画像に写し込まれた移動体を検出する移動体検出器と、を備える移動体検出装置。 - 前記移動情報取得部は、撮像時刻が異なる複数の前記第1撮像画像に基づいて前記移動情報を取得する、請求項1に記載の移動体検出装置。
- 前記近似画像生成部は、前記移動情報に基づいて前記第1撮像画像を画像処理して前記ブラー画像を生成し、
前記移動体検出器は、前記ブラー画像と前記第2撮像画像との差分を前記移動体として検出する、請求項1または2に記載の移動体検出装置。 - 前記近似画像生成部は、前記差分が閾値以上の場合には、新たなブラー画像を生成し、
前記移動体検出器は、前記新たなブラー画像と前記第2撮像画像との差分を移動体として検出する、請求項3に記載の移動体検出装置。 - 前記移動情報取得部は、前記移動情報を、該移動情報の検出センサから取得する、請求項1に記載の移動体検出装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015048647A JP2016170522A (ja) | 2015-03-11 | 2015-03-11 | 移動体検出装置 |
US14/847,525 US10157329B2 (en) | 2015-03-11 | 2015-09-08 | Moving body detecting device and image processing system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015048647A JP2016170522A (ja) | 2015-03-11 | 2015-03-11 | 移動体検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016170522A true JP2016170522A (ja) | 2016-09-23 |
Family
ID=56887941
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015048647A Pending JP2016170522A (ja) | 2015-03-11 | 2015-03-11 | 移動体検出装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10157329B2 (ja) |
JP (1) | JP2016170522A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018160785A (ja) * | 2017-03-22 | 2018-10-11 | パナソニックIpマネジメント株式会社 | 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体 |
WO2019093297A1 (ja) * | 2017-11-13 | 2019-05-16 | 日本電気株式会社 | 情報処理装置、制御方法、及びプログラム |
WO2021101142A1 (ko) * | 2019-11-19 | 2021-05-27 | 한국기계연구원 | 비접촉식 위치정보 획득장치 및 이를 이용한 위치정보 획득방법 |
WO2023162523A1 (ja) * | 2022-02-24 | 2023-08-31 | 東レエンジニアリング株式会社 | ウエーハ検査装置 |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6128406B1 (ja) | 2015-07-10 | 2017-05-17 | パナソニックIpマネジメント株式会社 | 撮像装置 |
DE102016208056A1 (de) * | 2016-05-11 | 2017-11-16 | Robert Bosch Gmbh | Verfahren und Vorrichtung zur Verarbeitung von Bilddaten und Fahrerassistenzsystem für ein Fahrzeug |
JP6849430B2 (ja) * | 2016-12-27 | 2021-03-24 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
JP7108856B2 (ja) * | 2017-01-25 | 2022-07-29 | パナソニックIpマネジメント株式会社 | 運転制御システムおよび運転制御方法 |
US11151727B2 (en) * | 2017-08-24 | 2021-10-19 | Sony Group Corporation | Image processing devices with efficient motion blur detection and methods of operating same |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7440634B2 (en) * | 2003-06-17 | 2008-10-21 | The Trustees Of Columbia University In The City Of New York | Method for de-blurring images of moving objects |
JP4250583B2 (ja) * | 2004-09-30 | 2009-04-08 | 三菱電機株式会社 | 画像撮像装置及び画像復元方法 |
US7970171B2 (en) * | 2007-01-18 | 2011-06-28 | Ricoh Co., Ltd. | Synthetic image and video generation from ground truth data |
US7773115B2 (en) * | 2004-12-15 | 2010-08-10 | Texas Instruments Incorporated | Method and system for deblurring digital camera images using reference image and motion estimation |
US7557832B2 (en) * | 2005-08-12 | 2009-07-07 | Volker Lindenstruth | Method and apparatus for electronically stabilizing digital images |
JP5152758B2 (ja) | 2008-04-14 | 2013-02-27 | 国立大学法人東京工業大学 | 移動体追跡カメラシステム |
JP2009301494A (ja) | 2008-06-17 | 2009-12-24 | Sumitomo Electric Ind Ltd | 画像処理装置及び画像処理方法 |
JP5257274B2 (ja) | 2009-06-30 | 2013-08-07 | 住友電気工業株式会社 | 移動体検出装置、移動体検出方法及びコンピュータプログラム |
KR101594300B1 (ko) * | 2009-11-20 | 2016-02-16 | 삼성전자주식회사 | P s f를 추정하기 위한 장치 및 방법 |
JP5934929B2 (ja) * | 2011-05-27 | 2016-06-15 | パナソニックIpマネジメント株式会社 | 画像処理装置および画像処理方法 |
CN103959771B (zh) * | 2011-11-22 | 2016-10-26 | 松下电器产业株式会社 | 测定方法、测定装置、计算机程序以及记录介质 |
JP6046966B2 (ja) * | 2012-04-19 | 2016-12-21 | キヤノン株式会社 | 画像処理装置及び画像処理方法、プログラム、並びに記憶媒体 |
-
2015
- 2015-03-11 JP JP2015048647A patent/JP2016170522A/ja active Pending
- 2015-09-08 US US14/847,525 patent/US10157329B2/en active Active
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018160785A (ja) * | 2017-03-22 | 2018-10-11 | パナソニックIpマネジメント株式会社 | 画像生成装置、画像生成方法、プログラム及びそれを記録した記録媒体 |
WO2019093297A1 (ja) * | 2017-11-13 | 2019-05-16 | 日本電気株式会社 | 情報処理装置、制御方法、及びプログラム |
JPWO2019093297A1 (ja) * | 2017-11-13 | 2020-11-19 | 日本電気株式会社 | 情報処理装置、制御方法、及びプログラム |
US11727579B2 (en) | 2017-11-13 | 2023-08-15 | Nec Corporation | Information processing apparatus, control method, and program |
WO2021101142A1 (ko) * | 2019-11-19 | 2021-05-27 | 한국기계연구원 | 비접촉식 위치정보 획득장치 및 이를 이용한 위치정보 획득방법 |
KR20210061068A (ko) * | 2019-11-19 | 2021-05-27 | 한국기계연구원 | 비접촉식 위치 정보 획득 방법 및 장치 |
KR102426726B1 (ko) * | 2019-11-19 | 2022-07-29 | 한국기계연구원 | 비접촉식 위치 정보 획득 방법 및 장치 |
WO2023162523A1 (ja) * | 2022-02-24 | 2023-08-31 | 東レエンジニアリング株式会社 | ウエーハ検査装置 |
Also Published As
Publication number | Publication date |
---|---|
US10157329B2 (en) | 2018-12-18 |
US20160267350A1 (en) | 2016-09-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2016170522A (ja) | 移動体検出装置 | |
JP5049300B2 (ja) | 障害物検出表示装置 | |
KR101611194B1 (ko) | 차량 주변 이미지 생성 장치 및 방법 | |
JP2011119917A (ja) | 車両用表示装置 | |
JP6499047B2 (ja) | 計測装置、方法及びプログラム | |
JP6377970B2 (ja) | 視差画像生成装置及び視差画像生成方法 | |
JP2015138319A (ja) | 物体検出装置、物体検出方法、および物体検出プログラム | |
JP2011170750A (ja) | 白線認識装置 | |
JP6375633B2 (ja) | 車両周辺画像表示装置、車両周辺画像表示方法 | |
JP6384802B2 (ja) | 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路 | |
JP2008309637A (ja) | 障害物計測方法、障害物計測装置及び障害物計測システム | |
JP2017010078A (ja) | 路面標示検出装置及び路面標示検出方法 | |
WO2016151977A1 (ja) | 移動体検出装置、画像処理装置、移動体検出方法、及び、集積回路 | |
JP2010003253A (ja) | 運動推定装置 | |
JP5541099B2 (ja) | 道路区画線認識装置 | |
EP3435286B1 (en) | Imaging control device and imaging control method | |
JP5863105B2 (ja) | 車両移動量推定装置および障害物検出装置 | |
JP2009278428A (ja) | 車両周辺監視装置 | |
JP7169075B2 (ja) | 撮像制御装置および撮像制御方法 | |
JP6808753B2 (ja) | 画像補正装置および画像補正方法 | |
JP2018033035A (ja) | 画像処理装置、撮影装置、プログラム、機器制御システム及び機器 | |
JP5529058B2 (ja) | 立体物検知装置および立体物検知方法 | |
CN108431866B (zh) | 显示控制装置以及显示控制方法 | |
JP4584277B2 (ja) | 表示装置 | |
JP2016024677A (ja) | 撮像装置及び判定方法 |