JP2010219933A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2010219933A JP2010219933A JP2009064912A JP2009064912A JP2010219933A JP 2010219933 A JP2010219933 A JP 2010219933A JP 2009064912 A JP2009064912 A JP 2009064912A JP 2009064912 A JP2009064912 A JP 2009064912A JP 2010219933 A JP2010219933 A JP 2010219933A
- Authority
- JP
- Japan
- Prior art keywords
- image
- block
- representative point
- vehicle
- speed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】車載カメラで撮影した画像に基づいて車輌の進行速度を検出可能な撮像装置を提供する。
【解決手段】)車載される撮像手段、車輌の進行方向を撮影して得られる画像を複数ブロックに分割する手段、全て又は一部のブロック夫々に代表点を設定する手段、代表点における画像の輝度レベルを記憶する手段、次の画像が到来するとその画像の代表点が設定されたブロック内の画素の輝度レベルを検索し、記憶してある代表点の輝度レベルに最も近い輝度レベルの画素の位置を検出する手段、検索結果を基に代表点の移動量を求める手段、各ブロックの代表点の移動量に所定値を乗算することで車輌の速度に対応した値に換算する手段、各ブロックにおける車輌の速度に対応した値の平均値を基に車輌の速度を検出する手段とを備える。
【選択図】図1
【解決手段】)車載される撮像手段、車輌の進行方向を撮影して得られる画像を複数ブロックに分割する手段、全て又は一部のブロック夫々に代表点を設定する手段、代表点における画像の輝度レベルを記憶する手段、次の画像が到来するとその画像の代表点が設定されたブロック内の画素の輝度レベルを検索し、記憶してある代表点の輝度レベルに最も近い輝度レベルの画素の位置を検出する手段、検索結果を基に代表点の移動量を求める手段、各ブロックの代表点の移動量に所定値を乗算することで車輌の速度に対応した値に換算する手段、各ブロックにおける車輌の速度に対応した値の平均値を基に車輌の速度を検出する手段とを備える。
【選択図】図1
Description
本発明は、車輌の走行速度の大小やカーブ走行、対向車接近等、様々な走行状態に影響されずに、常時、車輌の進行速度を正確に検出できる撮像装置に関するものである。
車輌に固定した車載カメラで撮影した画像に基づいて、車輌の移動速度を継続的に測定する移動量測定装置がある(特許文献1)。
また、こうしたカメラ撮影の際に生じるカメラブレによる画像の乱れを補正するための動きベクトル検出装置がある(特許文献2)。
前記した動きベクトル検出装置は、図8に示すように、カメラで撮影したフィールド画像1を25(縦5×横5)ブロックに分割し、各ブロックの中心に各代表点画素2を設定し、各代表点画素2における各輝度レベルを記憶しておき、次のフィールド画像が到来すると、記憶してある輝度レベルを備えたブロックと同一画像位置にあるブロック内の画素を検索して記憶してある輝度レベルに最も近い輝度レベルの画素を検出し、記憶してある輝度レベルの代表点画素2から今回検出した画素までの相対位置座標を求め、この方向と大きさを、動きベクトル量3として検出するものである。そしてこの動きベクトル検出を画像1全体で行なって得た動きベクトルを平均化した情報を基に、フィールドメモリの読み出しアドレスを求め、出力画像を切り出して、乱れがない画像を得ることができる。
例えば、図9(A)〜(F)に示すように、画像1の中央部に位置する画像部分1A(図9(A))を画像1から切り出して画像4(図9(B))を得、次のフィールド期間に画像部分1Aの右上方向に移動する画像部分1B(図9(C))を切り出して画像4(図9(D))を得、そして次のフィールド期間に画像部分1Bの右上方向に移動する画像部分1C(図9(E))を切り出して画像4(図9(F))を得る。こうして、画像1上で出力される画像部分1Aが画像部分1Bを経て画像部分1Cへ次第に移動しても、この移動の影響を受けずに乱れがない画像4を常時得ることができる。
こうした動きベクトル検出装置を用いて、車載カメラで撮影した画像の動きベクトルを検出し、この検出を基に車輌の進行速度を検出することが試みられている。
即ち、図10(A).(B)に示すように、車輌の進行方向を車載カメラで撮影した画像5を、25(縦5×横5)ブロックに分割し、各ブロックの中心に各代表点画素6を設定し、各代表点画素6における各輝度レベルを記憶しておき、次のフィールド画像が到来すると、記憶してある輝度レベルを備えたブロックと同一画像位置にあるブロック内の画素を検索して記憶してある輝度レベルに最も近い輝度レベルの画素を検出し、記憶してある輝度レベルの代表点画素6から今回検出した画素までの相対位置座標を求め、この方向と大きさを、動きベクトル量7として検出し、この動きベクトルの検出を全てのブロックで行うものである。しかし、こうして得られた画像5の動きベクトル6は、図10(B)に示すように、画像5の中心に位置するブロック5cの代表点画素8を中心として、全方向へ放射状に発散するものとなり、車輌の進行速度の検出が難しいという課題があった。
そこで、本発明は前記した課題を解決するために創案されたものであり、車輌の走行速度の大小やカーブ走行、対向車接近等、様々な走行状態に影響されずに、常時、車輌の進行速度を正確に検出できる撮像装置を提供することを目的とする。
上記目的を達成するために、本発明は、次の(1)〜(6)の構成を有する撮像装置を提供する。
(1) 車輌に搭載される撮像手段10,11と、
前記撮像手段で前記車輌の進行方向を撮影して得られる画像をマトリクス状に複数のブロックに分割する分割手段と、
全てのブロックまたは一部のブロックそれぞれに代表点を設定する代表点設定手段と、
前記代表点における前記画像の輝度レベルを記憶する記憶手段と、
次の画像が到来するとその画像の前記代表点が設定されたブロック内の画素の輝度レベルを検索し、前記記憶手段に記憶してある前記代表点の輝度レベルに最も近い輝度レベルの画素の位置を検出する検索手段と、
前記検索手段の検索結果を基に、前記代表点の移動量を求める移動量検出手段と、
各ブロックの前記代表点の前記移動量に所定の値を乗算することで前記車輌の速度に対応した値に換算する速度換算手段と、
各ブロックにおける前記車輌の速度に対応した値の平均値を基に前記車輌の速度を検出する進行速度検出手段13gと
を備えることを特徴とする撮像装置A。
前記撮像手段で前記車輌の進行方向を撮影して得られる画像をマトリクス状に複数のブロックに分割する分割手段と、
全てのブロックまたは一部のブロックそれぞれに代表点を設定する代表点設定手段と、
前記代表点における前記画像の輝度レベルを記憶する記憶手段と、
次の画像が到来するとその画像の前記代表点が設定されたブロック内の画素の輝度レベルを検索し、前記記憶手段に記憶してある前記代表点の輝度レベルに最も近い輝度レベルの画素の位置を検出する検索手段と、
前記検索手段の検索結果を基に、前記代表点の移動量を求める移動量検出手段と、
各ブロックの前記代表点の前記移動量に所定の値を乗算することで前記車輌の速度に対応した値に換算する速度換算手段と、
各ブロックにおける前記車輌の速度に対応した値の平均値を基に前記車輌の速度を検出する進行速度検出手段13gと
を備えることを特徴とする撮像装置A。
(2) 前記代表点設定手段は、前記画像の中心に位置するブロックを含む縦列ブロックを除いた全てのブロック、または、前記画像の中心に位置するブロックを含む縦列ブロックと、その縦列ブロックと連続した複数の縦列ブロックとを除いた全てのブロックに前記代表点を設定することを特徴とする(1)記載の撮像装置。
(3) 前記代表点設定手段は、前記画像の中心に位置するブロックを含む横列ブロックを除いた全てのブロック、または、前記画像の中心に位置するブロックを含む横列ブロックと、その横列ブロックと連続した複数の横列ブロックとを除いた全てのブロックに前記代表点を設定することを特徴とする(1)または(2)に記載の撮像装置。
(4) 前記代表点設定手段は、前記ブロックの中心、または、前記ブロックの中心よりも前記画像の中心に近い位置に前記代表点を設定することを特徴とする(1)乃至(3)のいずれか1項に記載の撮像装置。
(5) ズーム手段を備え、
前記速度換算手段は前記ズーム手段のズーム倍率によって前記移動量に乗算する値を変化させることを特徴とする(1)乃至(4)のいずれか1項に記載の撮像装置。
前記速度換算手段は前記ズーム手段のズーム倍率によって前記移動量に乗算する値を変化させることを特徴とする(1)乃至(4)のいずれか1項に記載の撮像装置。
(6) 所定の縦列ブロックの前記代表点の前記移動量に乗算する値は、その縦列ブロックよりも外側の縦列ブロックの前記移動量に乗算する値よりも大きいことを特徴とする(1)乃至(5)のいずれか1項に記載の撮像装置。
本発明は、車輌の走行速度の大小やカーブ走行、対向車接近等、様々な走行状態に影響されずに、常時、車輌の進行速度を正確に検出できる撮像装置を提供することができる。
本発明は、大略、車載カメラで撮影した画像を複数(縦5×横5=25)ブロックに分割し、各ブロックの所定位置(中央又は隅)に各代表点画素を設定し、各代表点画素における各輝度レベルを記憶しておき、次の期間の画像が到来すると、ブロック内の画素を検索して、記憶してある輝度レベルに最も近い輝度レベルの画素を検出し、記憶してある輝度レベルの代表点画素から今回検出した画素までの相対位置座標を求め、この方向と大きさを、動きベクトルとして検出し、この動きベクトルの検出を全てのブロックで行い、動きベクトルの大きさ(絶対値)の平均値を基に車輌の進行速度を検出する撮像装置である。
これに加えて、本発明は、車輌の進行速度検出のため、後述する図2〜図7に示す、走行状態に応じた動きベクトル検出パターンを用いることにより、進行方向における外乱、対向車における外乱、速度における限界を排除できるから、これによって正確な進行速度を検出することができる。
ここでは説明の都合上、画像を25ブロックに分割する場合について説明するが、本発明はこの分割数に限定されることなく、25未満あるいは25を超える分割数であっても良い。
以下、本発明の実施の形態を、図1〜図7を用いて、説明する。
図1は、本発明の撮像装置のブロック構成図である。
本発明の実施の形態である撮像装置Aは、図1に示すように、図示せぬズームレンズ系を含む撮像光学系10、例えばCCDである撮像素子11、A/D変換部12、カメラ信号処理LSIであるカメラ信号処理部13、D/A変換部14、画像重畳部15、ビデオ出力部16、ビデオデッキである画像記録再生部17、プリアンプ18、DV信号処理部19、画像記録再生制御部20、カメラ制御部21、ユーザが操作する操作部22、オンスクリーンディスプレイ(OSD)生成部23を備えている。
前記したカメラ信号処理部13は、色信号処理部13a、輝度信号処理部13b、ローパスフィルタ(LPF)13c、切替スイッチ13d,13e、フィールドメモリ13f、動きベクトル検出部13g、信号処理部13hを備えている。
前記した動きベクトル検出部13gは、撮像装置Aの要部である。
即ち、動きベクトル検出部13gは、撮像光学系10、撮像素子11、A/D変換部12、輝度信号処理部13b、LPF13c、切替スイッチ13eをそれぞれ経て得られた、図示せぬ車輌の前方(進行)方向を撮影したフィールド画像を25(縦5×横5)ブロックに分割し、各ブロックの所定位置(中央(図5、図6)又は四隅(図2、図3))に各代表点画素を設定し、各代表点画素における各輝度レベルを記憶しておき、次のフィールド画像が到来すると、記憶してある輝度レベルを備えたブロックと同一画像位置にあるブロック内の画素を検索して記憶してある輝度レベルに最も近い輝度レベルの画素を検出し、記憶してある輝度レベルの代表点画素から今回検出した画素までの相対位置座標を求め、この方向と絶対値を、動きベクトルとして検出し、この動きベクトルの絶対値を車輌の速度に換算し、それを平均して車輌の進行速度として検出し、こうして検出した進行速度に関する情報をカメラ制御部21に出力するものである。カメラ制御部21はこうして得られた車輌の進行速度に関する情報に基づく表示画像を生成し、この表示画像をOSD生成部23へ送出することにより、図示せぬ表示パネル上に車輌の進行速度を画像表示することができる。
即ち、動きベクトル検出部13gは、撮像光学系10、撮像素子11、A/D変換部12、輝度信号処理部13b、LPF13c、切替スイッチ13eをそれぞれ経て得られた、図示せぬ車輌の前方(進行)方向を撮影したフィールド画像を25(縦5×横5)ブロックに分割し、各ブロックの所定位置(中央(図5、図6)又は四隅(図2、図3))に各代表点画素を設定し、各代表点画素における各輝度レベルを記憶しておき、次のフィールド画像が到来すると、記憶してある輝度レベルを備えたブロックと同一画像位置にあるブロック内の画素を検索して記憶してある輝度レベルに最も近い輝度レベルの画素を検出し、記憶してある輝度レベルの代表点画素から今回検出した画素までの相対位置座標を求め、この方向と絶対値を、動きベクトルとして検出し、この動きベクトルの絶対値を車輌の速度に換算し、それを平均して車輌の進行速度として検出し、こうして検出した進行速度に関する情報をカメラ制御部21に出力するものである。カメラ制御部21はこうして得られた車輌の進行速度に関する情報に基づく表示画像を生成し、この表示画像をOSD生成部23へ送出することにより、図示せぬ表示パネル上に車輌の進行速度を画像表示することができる。
次に、上記した構成を有する撮像装置Aの各種動作につき、「速度検出」、「速度検出+画像記録」、「画像再生」、「画像再生+速度検出」の順に述べる。後述するように、撮像装置Aは、記録再生動作が可能であり、加えて再生画像からも進行速度を検出することができる。
(1)「速度検出」
まず、ユーザが操作部22を操作して「速度検出」を選択する。
この選択に応じて、カメラ制御部21は、「速度検出」操作を検知し、OSD生成部23に対して、「速度検出」表示画像を生成してこの表示画像を画像重畳部15へ出力する旨の表示制御信号を出力する。
まず、ユーザが操作部22を操作して「速度検出」を選択する。
この選択に応じて、カメラ制御部21は、「速度検出」操作を検知し、OSD生成部23に対して、「速度検出」表示画像を生成してこの表示画像を画像重畳部15へ出力する旨の表示制御信号を出力する。
また、カメラ制御部21は、切替スイッチ13d,13eに対して、色信号処理部13aから出力する色(C)信号をフィールドメモリ13fへ供給すると共に、LPF13cを介して輝度信号処理部13bから出力する輝度(Y)信号をフィールドメモリ13f及び動きベクトル検出部13gへそれぞれ供給する旨の切替制御信号を出力する。
さらに、カメラ制御部21は、動きベクトル検出部13gに対して、図示せぬ車輌の進行方向を撮影したフィールド画像を前述した動きベクトル検出方法で検出した、車輌の進行速度に関する情報、例えば、進行速度を数値あるいはグラフ表示するための情報を、出力する旨の制御信号を出力する。
色信号処理部13a及び輝度信号処理部13bには、車輌の進行方向を撮影している光学映像が撮像光学系10を介して撮像素子11の受光面に結像しここで受光され、光電変換されて得た電気信号がA/D変換部12でA/D変換されたデジタル映像信号がそれぞれ供給される。
色信号処理部13aは、A/D変換部12から供給されるデジタル映像信号から抽出したC信号を切替スイッチ13dの一端に供給する。切替スイッチ13dの他端には信号処理部13hから出力される再生時のフィールド画像に応じたC信号が印加される。切替スイッチ13dは、カメラ制御部21から出力される切替制御信号に基づいて、色信号処理部13aから供給されるC信号、又は、信号処理部13hから出力されるC信号をフィールドメモリ13fへ出力する。
一方、輝度信号処理部13bは、A/D変換部12から供給されるデジタル映像信号から抽出したY信号をLPF13cへ供給し、ここで不要高域成分を除去して得たY信号を切替スイッチ13eの一端に供給する。切替スイッチ13eの他端には信号処理部13hから出力される再生時のフィールド画像に応じたY信号が印加される。切替スイッチ13eはカメラ制御部21から出力される切替制御信号に基づいて、LPF13cから供給されるY信号、又は、信号処理部13hから出力されるY信号を、フィールドメモリ13f及び動きベクトル検出部13gへ出力する。
フィールドメモリ13fは、色信号処理部13aから切替スイッチ13dを経て供給されるC信号、及び、LPF13cから切替スイッチ13eを経てC信号に同期して供給されるY信号に基づくフィールド画像を、1フィールド期間メモリする。これと同時に、フィールドメモリ13fは1フィールド期間前にメモリされているフィールド画像に応じたC信号及びY信号を信号処理部13hへそれぞれ出力する。
信号処理部13hは、フィールドメモリ13fからC信号及びY信号を入力すると、これらC信号及びY信号に所要の信号処理(マトリクス・エンコード又はデコード)を施してデジタル画像を生成した後、D/A変換部14へ出力する。D/A変換部14は、信号処理部13hから供給されるデジタル画像をD/A変換して得たアナログ画像を、画像重畳部15へ出力する。
画像重畳部15は、D/A変換部14から供給されるアナログ画像上に、OSD生成部23から供給される「速度検出」表示画像であるオンスクリーン画像を重畳し、このオンスクリーン画像が重畳された画像信号をビデオ出力部16を経て外部へ出力する。こうして、表示パネルにて、車輌の進行方向を撮影した画像上に進行速度が数値あるいはグラフ表示された画像を表示することができる。
(2)「速度検出+画像記録」
ユーザが操作部22を操作して、「速度検出」に加えて「画像記録」を選択すると、カメラ制御部21は、「画像記録」操作を検知し、画像記録再生制御部20に対して、撮影しているフィールド画像を磁気テープ媒体Tへ順次記録する旨の記録制御信号を出力する。これに応じて、画像記録再生制御部20はDV信号処理部19を記録制御する。DV信号処理部19は信号処理部13hから出力するC信号及びY信号に所定のフォーマットに準拠したデジタル信号記録処理を施したデジタル記録信号をプリアンプ18へ出力し、そしてプリアンプ18で所要増幅されたデジタル記録信号は、磁気ヘッドHの記録走査によって、磁気テープ媒体T上に順次記録される。こうして「速度検出」している画像を記録できる。前述した「速度検出」の際と同様に、表示パネルに「速度検出」「画像記録」が共に表示される。
ユーザが操作部22を操作して、「速度検出」に加えて「画像記録」を選択すると、カメラ制御部21は、「画像記録」操作を検知し、画像記録再生制御部20に対して、撮影しているフィールド画像を磁気テープ媒体Tへ順次記録する旨の記録制御信号を出力する。これに応じて、画像記録再生制御部20はDV信号処理部19を記録制御する。DV信号処理部19は信号処理部13hから出力するC信号及びY信号に所定のフォーマットに準拠したデジタル信号記録処理を施したデジタル記録信号をプリアンプ18へ出力し、そしてプリアンプ18で所要増幅されたデジタル記録信号は、磁気ヘッドHの記録走査によって、磁気テープ媒体T上に順次記録される。こうして「速度検出」している画像を記録できる。前述した「速度検出」の際と同様に、表示パネルに「速度検出」「画像記録」が共に表示される。
(3)「画像再生」
また、ユーザが操作部22を操作して、「画像再生」を選択すると、カメラ制御部21は、「画像再生」操作を検知し、画像記録再生制御部20に対して、磁気テープ媒体T上に記録されている画像を順次再生する旨の再生制御信号を出力する。これに応じて、画像記録再生制御部20はDV信号処理部19を再生制御する。DV信号処理部19は、磁気ヘッドHで磁気テープ媒体T上を再生走査してプリアンプ18で所要増幅された読出信号を入力し、所定のフォーマットに準拠したデジタル信号再生処理を施したデジタル画像信号を信号処理部13hへ出力する。信号処理部13hは、DV信号処理部19から供給されるデジタル画像をデコードしてC信号及びY信号に変換した後、D/A変換部14へ供給し、ここでD/A変換して得たアナログ画像を、画像重畳部15へ出力し、アナログ画像信号ビデオ出力部16を経て外部へ出力する。こうして、表示パネルにて、画像を表示することができる。「画像再生」の際には、前述した「画像記録」の際と同様に、表示パネルに「画像再生」が表示される。
また、ユーザが操作部22を操作して、「画像再生」を選択すると、カメラ制御部21は、「画像再生」操作を検知し、画像記録再生制御部20に対して、磁気テープ媒体T上に記録されている画像を順次再生する旨の再生制御信号を出力する。これに応じて、画像記録再生制御部20はDV信号処理部19を再生制御する。DV信号処理部19は、磁気ヘッドHで磁気テープ媒体T上を再生走査してプリアンプ18で所要増幅された読出信号を入力し、所定のフォーマットに準拠したデジタル信号再生処理を施したデジタル画像信号を信号処理部13hへ出力する。信号処理部13hは、DV信号処理部19から供給されるデジタル画像をデコードしてC信号及びY信号に変換した後、D/A変換部14へ供給し、ここでD/A変換して得たアナログ画像を、画像重畳部15へ出力し、アナログ画像信号ビデオ出力部16を経て外部へ出力する。こうして、表示パネルにて、画像を表示することができる。「画像再生」の際には、前述した「画像記録」の際と同様に、表示パネルに「画像再生」が表示される。
(4)「画像再生+速度検出」
「画像再生」選択に加えて「速度検出」を選択すると、カメラ制御部21は、切替スイッチ13d,13eに対して、各他端側に切替える旨の切替制御信号を出力する。切替スイッチ13eの他端には、信号処理部13hから出力しDV信号処理部19から供給されるデジタル画像に応じたY信号が供給されている。こうして、信号処理部13hから出力するDV信号処理部19から供給されるデジタル画像に応じたY信号は、切替スイッチ13eを介して、動きベクトル検出部13gへ供給される。こうして、動きベクトル検出部13gは、「画像再生」されている画像の動きベクトル検出を、前記した「速度検出」と同様に、その速度検出を行うことができる。こうして、「画像再生」でかつ「速度検出」を選択すると、前述したのと同様に、表示パネルに「画像再生」「速度検出」がともに表示される。
「画像再生」選択に加えて「速度検出」を選択すると、カメラ制御部21は、切替スイッチ13d,13eに対して、各他端側に切替える旨の切替制御信号を出力する。切替スイッチ13eの他端には、信号処理部13hから出力しDV信号処理部19から供給されるデジタル画像に応じたY信号が供給されている。こうして、信号処理部13hから出力するDV信号処理部19から供給されるデジタル画像に応じたY信号は、切替スイッチ13eを介して、動きベクトル検出部13gへ供給される。こうして、動きベクトル検出部13gは、「画像再生」されている画像の動きベクトル検出を、前記した「速度検出」と同様に、その速度検出を行うことができる。こうして、「画像再生」でかつ「速度検出」を選択すると、前述したのと同様に、表示パネルに「画像再生」「速度検出」がともに表示される。
さて次に、前述した動きベクトル検出部13gにて車輌の進行速度を検出するために用いる、動きベクトル検出パターンについて、図2〜図7を用いて、詳しく説明する。
図2は所定値以上の進行速度を検出するために使用する検出パターンを示す図、図3はカーブ走行のときに進行速度を検出するために使用する検出パターン及び1ブロック内の代表点詳細を示す図、図4は1画素当りの進行速度換算を示す図、図5は撮像光学系の光軸と進行方向とが不一致のときに進行速度を検出するために使用する検出パターンを示す図、図6は対向車が近づいてくるときに進行速度を検出するために使用する検出パターンを示す図、図7はパネル表示した画像の一例を示す図である。前述したものと同一箇所には同一符号を付している。
前述したように、動きベクトル検出パターン(図10(B))は、画像5の中心に位置するブロック5cの代表点画素8を中心として、全方向へ放射状に発散するものとなり、車輌の進行速度を検出することが難しかった。
これに対し、本発明の動きベクトル検出部13gで行われる動きベクトル検出は、車輌の走行速度の大小やカーブ走行、対向車接近等、様々な走行状態に影響されずに、常時、車輌の進行速度を正確に検出するために、画像の動きベクトルを最適に検出できる3つの検出パターン(第1検出パターン〜第3検出パターン)を用いて、画像の動きベクトル検出を行って、車輌の進行速度を正確に検出できるものである。これらの検出パターンを全て同時に用いても良いし、一つ又は二つだけ用いるようにしても良い。さらには、後述する本実施形態の基本的な速度算出方法を用いていれば、これらの検出パターンを使用しなくともある程度正確な速度検出が可能である。
また、車輌の走行状態に応じて、ユーザが操作部22を操作してこの3つの検出パターンの中から択一した検出パターンを選ぶようにしても良い。
具体的に、この3つの検出パターンは、下記する第1検出パターン〜第3検出パターンである。
(a)第1検出パターン(図5)
第1検出パターンは、車輌の進行方向と撮像光学系10(図1)の光軸とが同一線上にない場合であってカーブ走行を含む、通常の場合に使用すると好ましい検出パターンである。進行方向と光軸とのずれがあると画像の動きベクトルに基づいて正確な進行速度が得られない。直進している場合は、画像中心を含む縦列のブロックの横方向のベクトル成分が0(ゼロ)であるのに対して、カーブ走行時はこのブロックが横方向のベクトル成分を有してしまうからである。よって、第1検出パターンでは、このずれの影響が最も現われる画像の縦中心線に位置する画像部分の動きベクトルを検出できないようにこれを不使用とする。即ち、図5に示すように、画像5をマトリクス状に25(縦5×横5)ブロックに分割し、画像5の中央に位置するブロック5cを含めた縦1列(斜線箇所)の5ブロックを、不使用とする検出パターンとするものである。ここでは、第1検出パターンとして縦1列の5ブロックを不使用とするものについて説明するが、本発明はこれに限ることなく、複数の縦列のブロックを不使用とするものであっても良い。例えば、画像5の中央に位置するブロック5cを含めた縦1列とその両隣の列を不使用としても良い。
第1検出パターンは、車輌の進行方向と撮像光学系10(図1)の光軸とが同一線上にない場合であってカーブ走行を含む、通常の場合に使用すると好ましい検出パターンである。進行方向と光軸とのずれがあると画像の動きベクトルに基づいて正確な進行速度が得られない。直進している場合は、画像中心を含む縦列のブロックの横方向のベクトル成分が0(ゼロ)であるのに対して、カーブ走行時はこのブロックが横方向のベクトル成分を有してしまうからである。よって、第1検出パターンでは、このずれの影響が最も現われる画像の縦中心線に位置する画像部分の動きベクトルを検出できないようにこれを不使用とする。即ち、図5に示すように、画像5をマトリクス状に25(縦5×横5)ブロックに分割し、画像5の中央に位置するブロック5cを含めた縦1列(斜線箇所)の5ブロックを、不使用とする検出パターンとするものである。ここでは、第1検出パターンとして縦1列の5ブロックを不使用とするものについて説明するが、本発明はこれに限ることなく、複数の縦列のブロックを不使用とするものであっても良い。例えば、画像5の中央に位置するブロック5cを含めた縦1列とその両隣の列を不使用としても良い。
また、図示しない車輌の制御装置と本実施形態のカメラとを接続すれば、車輌のハンドル操作を検出して、この第1検出パターンを適用するか否かを決めることもできる。
(b)第2検出パターン(図6)
第2検出パターンは、車輌に対向車が近づいてくる場合に使用すると好ましい検出パターンである。対向車が近づいてくると、不要な対向車の動きベクトルが検出すべき画像の検出ベクトル内に飛び込んでくるので、この影響を排除するために、図6(A)に示すように、ブロック5cを含む横1列(斜線箇所)を不使用としたものである。ここでは、第2検出パターンとして横1列を不使用とするものについて説明するが、本発明はこれに限ることなく、複数の横列のブロックを不使用とするものであっても良い。例えば、画像5の中央に位置するブロック5cを含めた横1列とその両隣の横列を不使用としても良い。何列を不使用にするかは、画像5をいくつのブロックに分けるかで変わってくる。また、図6(A)は、第1検出パターンと第2検出パターンを同時に用いた例である。
第2検出パターンは、車輌に対向車が近づいてくる場合に使用すると好ましい検出パターンである。対向車が近づいてくると、不要な対向車の動きベクトルが検出すべき画像の検出ベクトル内に飛び込んでくるので、この影響を排除するために、図6(A)に示すように、ブロック5cを含む横1列(斜線箇所)を不使用としたものである。ここでは、第2検出パターンとして横1列を不使用とするものについて説明するが、本発明はこれに限ることなく、複数の横列のブロックを不使用とするものであっても良い。例えば、画像5の中央に位置するブロック5cを含めた横1列とその両隣の横列を不使用としても良い。何列を不使用にするかは、画像5をいくつのブロックに分けるかで変わってくる。また、図6(A)は、第1検出パターンと第2検出パターンを同時に用いた例である。
(c)第3検出パターン(図2、図3)
第3検出パターンは、図2(A)あるいは図3(A)に示すように、各ブロックにおける各代表点画素を、ブロック中心からブロックの四隅(図2(A)中、黒点で示す動きベクトルの起点となる画素位置であり、左上の4ブロックから時計回りに、右下端、左下端、左上端、右上端)にそれぞれ設定し、画像中央に位置するブロック5cに最近接した位置にある画素に移動設定した検出パターンである。これによって、車輌の進行速度が高速になりブロック内の動きベクトルの検出範囲越えることを防ぐ。
つまり、代表点が次のフィールドでブロック外に出てしまうことを防ぐ。
第3検出パターンは、図2(A)あるいは図3(A)に示すように、各ブロックにおける各代表点画素を、ブロック中心からブロックの四隅(図2(A)中、黒点で示す動きベクトルの起点となる画素位置であり、左上の4ブロックから時計回りに、右下端、左下端、左上端、右上端)にそれぞれ設定し、画像中央に位置するブロック5cに最近接した位置にある画素に移動設定した検出パターンである。これによって、車輌の進行速度が高速になりブロック内の動きベクトルの検出範囲越えることを防ぐ。
つまり、代表点が次のフィールドでブロック外に出てしまうことを防ぐ。
本実施形態では代表点をブロック5cに最近接した位置に設定するとしたが、各ブロックの中心位置よりも画像5の中心に近い位置に近寄らせれば効果はある。また、図2(A)、図3(A)は、第1検出パターンと第2検出パターンと第3検出パターンを同時に用いた例である。
また、動きベクトル検出部13gは、検出している速度が一定値を超えたときにこの第3検出パターンを適用するようにしても良い。
なお、図2(B)は1ブロック内の詳細構造を示すもので、20のエリアに分割され各エリアに代表点を持つ、20の各エリアに検出された動きベクトル平均が対象ブロックの動きベクトルとして検出される、ここでの説明は1ブロック内に1代表点があるものとして説明している。
第3検出パターンを用いて画像5の動きベクトルを検出するには、図2(A)に示すように、画像の全25ブロックから不使用の9ブロックを除いた16ブロックのそれぞれに収容される代表点画素の位置は、次のように設定される。
画像5の中心に位置するブロック5cよりも、右側の8ブロックRはそれぞれ、各代表点を各ブロックの左端に位置させる(例えばブロック5aの代表点位置5a1)。
ブロック5cよりも、左側の8ブロックLはそれぞれ、各代表点を各ブロックの右端に位置させる。
ブロック5cよりも、上側の8ブロックUはそれぞれ、各代表点を各ブロックの下端に位置させる。
ブロック5cよりも、下側の8ブロックDはそれぞれ、各代表点を各ブロックの上端に位置させる。
このように、各ブロックにおける代表点画素の位置を、その中心からブロック5cに最も近接する位置の画素へ移動変更することによって、所定値を超える進行速度によって動きベクトルが大きくなっても、当該ブロックに隣接するブロックへ進入することを防ぐ。これにより、常時、車輌の進行速度を正確に検出することができる。
図2(B)に示すのは、画像5の右上端に位置するブロック5aを20(縦4×横5)エリアに分割し、第1,第2検出パターンではいずれもブロックの中心、即ち各エリアの中心に位置していた代表点画素が左下端のエリア、即ち代表点位置5a1に移動変更された状態を示している。20エリア全ての代表点画素における動きベクトルの値の平均ベクトルがブロック5aの動きベクトルになる。本実施形態においては横5列、縦5列に分けているが、図2(B)に示すように各ブロックはさらに横4列、縦5列に細分化されており、この細分化された各ブロックの動きベクトルを平均して、元のブロックの動きベクトルとしている。このように、ブロックはさらに細かく分けることができる。
本実施形態の説明は、画像5を横5列、縦5列に分けた1ブロック内に1代表点があるものとして行なっている。
以上の3つの検出パターンについて補足する。車輌がカーブ走行している場合は、第3検出パターンを用いると共に、画像5Bの縦中心線の左右の画像部分には不均衡な動きベクトルが発生するため、画像の左または右の片側で平均化したのでは正確な進行速度を検出できないから、後述する速度検出の基本的な方法のように加算平均処理を行なうことにより、車輌の進行速度を正確に検出できる。即ち、図3(A),(B)に示すように、画像5B中心のブロック5cよりも右側の8ブロックRがとらえた動きベクトルの絶対値の平均(右側移動量絶対値)から求めた速度と、画像中心5Bのブロック5cよりも左側の8ブロックが捕らえた動きベクトルの絶対値の平均(左側移動量絶対値)から求めた速度とを加算平均することにより、これを進行速度検出量とする。
車輌の進行方向と撮像光学系10の光軸とが同一線上にない撮影の場合に、第1検出パターンを用いて画像5の動きベクトルを検出することについて補足する。画像5の中心に位置するブロック5cを含む縦5ブロック(図5中斜線部分)から得られる動きベクトルには進行速度検出にとって不要な誤差が含まれているので、これを不使用とし、一方、これ以外のブロックで得られる動きベクトルには比較的に小さい誤差が含まれているが、こうした動きベクトルを用いても中心を除くブロックを平均する事で相殺され、進行速度検出には支障がないので、車輌の進行速度を検出できる。
また、対向車が近づいてくる場合に使用する第2検出パターンは、画像5の中心に位置するブロック5cを含む横5ブロック(図6(A)中斜線部分)から得られる動きベクトルには、対向車(図6(B))に関する動きベクトルも含まれているのでこれを不使用とし、一方、これ以外に得られる動きベクトルには比較的に小さい誤差が含まれているが、この動きベクトルを用いても、正確な進行速度検出には支障がない。対向車の位置移動に伴う動きベクトルは、画像5の中心に位置するブロック5cを含む横5ブロックに集中するので、この横ブロックを不使用とすることにより当該車輌の動きベクトルから対向車の動きベクトル成分を除外する。
次に、動きベクトル検出部13gが動きベクトルの絶対値から速度を算出する基本的な方法について述べる。前述した方法で検出した動きベクトルの絶対値が1画素に相当する大きさである場合を例とする。この場合の速度換算値を図4に示す。つまり、図4は代表点が1フィールド間に1画素移動したとき(動きベクトルの絶対値が1画素)の車輌の移動距離を示す表である。代表点の移動量は車輌の速度に略比例する。図4中の各速度換算値は道路沿いに建物や樹木が密集している状態を想定して算出している。
図3(A)、図4に示すように、光学系10を構成するズームレンズのズーム倍率(×1、×2、×3、×4)に応じた引数テーブル(in側、out側)を参照して求め、速度換算係数としてズーム位置における動きベクトルから演算して求め進行速度とする。
例えば、撮影された画像が水平962画素×垂直774画素の有効画素で構成される場合に、進行速度を求めるための動きベクトルがズーム倍率×4(4倍)で、out側のある縦列ブロックにおいて、代表点の動きベクトルの絶対値が2画素(図3(A))であると検出されると、次のように、進行速度を得ることができる。
4倍ズーム・out側ブロック内において代表点が1画素移動したとき(動きベクトルの絶対値が1画素)の車輌の移動距離は図4より39mmである。
よって、2画素に相当する車輌の移動距離は、
2×39=78mmとなる。
よって、2画素に相当する車輌の移動距離は、
2×39=78mmとなる。
次に本実施形態において、1秒あたりのフィールド数は60であるので、1秒あたりの車輌の移動距離は、
78×60=4680mm、つまり、4.68mとなる。
78×60=4680mm、つまり、4.68mとなる。
さらに、1時間あたりの車輛の移動距離は、
4.68×60×60=16848mとなり、車輌の速度は時速16.8kmであると求まる。このようにして検出された速度の各ブロックの平均を求めることでより正確な車輌の進行速度が得られる。また、図4に示すように画像5の中央寄りのブロック(in側)と外寄りのブロック(out側)で速度換算値を異ならせることでさらに正確な車輌の進行速度が得られる。動きベクトル検出部13gは、以上のような計算を行うことで検出した動きベクトルから車輌の速度を求める。
4.68×60×60=16848mとなり、車輌の速度は時速16.8kmであると求まる。このようにして検出された速度の各ブロックの平均を求めることでより正確な車輌の進行速度が得られる。また、図4に示すように画像5の中央寄りのブロック(in側)と外寄りのブロック(out側)で速度換算値を異ならせることでさらに正確な車輌の進行速度が得られる。動きベクトル検出部13gは、以上のような計算を行うことで検出した動きベクトルから車輌の速度を求める。
本実施形態ではin側とout側の2段階に速度換算値を異ならせたが、画像5の外側に向かって速度換算値が小さくなるようにすれば、縦列ごとに速度換算値を異ならせても良い。
また、動きベクトルの絶対値を基に算出した各ブロックにおける速度を平均することで、図3(A)に示すようなカーブ走行において、画像5の右側と左側とで動きベクトルの絶対値が大きく異なる場合でも、正確な速度検出が可能である。
前述したように、画像の記録中は撮影画像を、再生中は再生画像を動きベクトル検出部13gに入力して、記録再生画像共に利用可能な進行速度検出を行うことができる。なお、再生中再生画像から動きベクトル検出を行う目的で記録時にズーム倍率情報をサブコードエリア、ユーザ領域情報等に記録しておくものとする。
また、動きベクトル検出により得られた進行速度を、図7に示すように、カメラの表示パネル(図示せず)に数値、またはグラフで表示する。
上述したように、本発明の特徴は、換言すれば、次の通りである。即ち、
a)入力画像の動きベクトルから車輌進行速度検出及び表示が可能である。
b)入力画像中心より左右ブロック代表点を検索エリアの画像中心寄りに設定し、動きベクトル大に対し検索範囲を広く対応したものである。
c)左右の動きベクトルから得た速度を加算平均して進行方向が画像中心を外しても検出可能である。
d)画像中心を含む縦列の動きベクトル検出ブロックを不使用にして、進行方向と撮影画像中心の不一致による誤検出を防ぐものである。
e)画像中心を含む横列の動きベクトル検出ブロックを不使用にして、対向車の動きベクトルによる進行速度誤検出を防ぐものである。
f)ズーム位置に応じて異なる動きベクトル量をズーム位置引数テーブルで補正したものである。
g)撮影時、再生時共に入力画像から速度検出可能としたものである。
h)得られた進行速度を表示パネルに数値またはグラフ表示可能である。
i)本発明の動きベクトル検出から車輌進行速度を検出する方法によれば、従来ビデオカメラが備えていた手振れ補正目的の動きベクトル検出回路の応用、或いは部分改良程度の以下の修正で車輌進行速度検出・表示が可能である。
j)動きベクトルブロックの代表点設定位置を画像中心寄りに設定する。
a)入力画像の動きベクトルから車輌進行速度検出及び表示が可能である。
b)入力画像中心より左右ブロック代表点を検索エリアの画像中心寄りに設定し、動きベクトル大に対し検索範囲を広く対応したものである。
c)左右の動きベクトルから得た速度を加算平均して進行方向が画像中心を外しても検出可能である。
d)画像中心を含む縦列の動きベクトル検出ブロックを不使用にして、進行方向と撮影画像中心の不一致による誤検出を防ぐものである。
e)画像中心を含む横列の動きベクトル検出ブロックを不使用にして、対向車の動きベクトルによる進行速度誤検出を防ぐものである。
f)ズーム位置に応じて異なる動きベクトル量をズーム位置引数テーブルで補正したものである。
g)撮影時、再生時共に入力画像から速度検出可能としたものである。
h)得られた進行速度を表示パネルに数値またはグラフ表示可能である。
i)本発明の動きベクトル検出から車輌進行速度を検出する方法によれば、従来ビデオカメラが備えていた手振れ補正目的の動きベクトル検出回路の応用、或いは部分改良程度の以下の修正で車輌進行速度検出・表示が可能である。
j)動きベクトルブロックの代表点設定位置を画像中心寄りに設定する。
また、中心を含む縦列ブロックを不使用とし、あるいは、中心を含む横列ブロックを不使用にする。
k)本願の撮像装置によれば、動きベクトル検索範囲オーバーになり難い。
l)対向車の動きベクトルによる進行速度誤検出を吸収する。
m)ズーム位置による動きベクトル大きさ変化を補正する。
n)再生画像でも進行速度を検出できる、
などである。
k)本願の撮像装置によれば、動きベクトル検索範囲オーバーになり難い。
l)対向車の動きベクトルによる進行速度誤検出を吸収する。
m)ズーム位置による動きベクトル大きさ変化を補正する。
n)再生画像でも進行速度を検出できる、
などである。
なお、本発明は道路沿いに建物や樹木が密集している状態を走行することを想定している。また、本実施形態のカメラは車輌の進行方向を撮影できる位置に設置されることを想定している。本実施形態において、ユーザが操作部22を操作することで、速度検出を開始するようにしたが、車のエンジンがかかったことなどを検知して、自動的に速度検出を開始しても良い。また、磁気テープの代わりに記録媒体はハードディスクドライブやフラッシュメモリ等を用いても良い。
10 撮像光学系
11 撮像素子
13g 動きベクトル検出部(進行速度検出手段)
A 撮像装置
11 撮像素子
13g 動きベクトル検出部(進行速度検出手段)
A 撮像装置
Claims (6)
- 車輌に搭載される撮像手段と、
前記撮像手段で前記車輌の進行方向を撮影して得られる画像をマトリクス状に複数のブロックに分割する分割手段と、
全てのブロックまたは一部のブロックそれぞれに代表点を設定する代表点設定手段と、
前記代表点における前記画像の輝度レベルを記憶する記憶手段と、
次の画像が到来するとその画像の前記代表点が設定されたブロック内の画素の輝度レベルを検索し、前記記憶手段に記憶してある前記代表点の輝度レベルに最も近い輝度レベルの画素の位置を検出する検索手段と、
前記検索手段の検索結果を基に、前記代表点の移動量を求める移動量検出手段と、
各ブロックの前記代表点の前記移動量に所定の値を乗算することで前記車輌の速度に対応した値に換算する速度換算手段と、
各ブロックにおける前記車輌の速度に対応した値の平均値を基に前記車輌の速度を検出する進行速度検出手段と
を備えることを特徴とする撮像装置。 - 前記代表点設定手段は、前記画像の中心に位置するブロックを含む縦列ブロックを除いた全てのブロック、または、前記画像の中心に位置するブロックを含む縦列ブロックと、その縦列ブロックと連続した複数の縦列ブロックとを除いた全てのブロックに前記代表点を設定することを特徴とする請求項1記載の撮像装置。
- 前記代表点設定手段は、前記画像の中心に位置するブロックを含む横列ブロックを除いた全てのブロック、または、前記画像の中心に位置するブロックを含む横列ブロックと、その横列ブロックと連続した複数の横列ブロックとを除いた全てのブロックに前記代表点を設定することを特徴とする請求項1または2に記載の撮像装置。
- 前記代表点設定手段は、前記ブロックの中心、または、前記ブロックの中心よりも前記画像の中心に近い位置に前記代表点を設定することを特徴とする請求項1乃至3のいずれか1項に記載の撮像装置。
- ズーム手段を備え、
前記速度換算手段は前記ズーム手段のズーム倍率によって前記移動量に乗算する値を変化させることを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。 - 所定の縦列ブロックの前記代表点の前記移動量に乗算する値は、その縦列ブロックよりも外側の縦列ブロックの前記移動量に乗算する値よりも大きいことを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009064912A JP2010219933A (ja) | 2009-03-17 | 2009-03-17 | 撮像装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009064912A JP2010219933A (ja) | 2009-03-17 | 2009-03-17 | 撮像装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2010219933A true JP2010219933A (ja) | 2010-09-30 |
Family
ID=42978276
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2009064912A Pending JP2010219933A (ja) | 2009-03-17 | 2009-03-17 | 撮像装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2010219933A (ja) |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013205925A (ja) * | 2012-03-27 | 2013-10-07 | Fuji Heavy Ind Ltd | 車外環境認識装置および車外環境認識方法 |
JP2017022574A (ja) * | 2015-07-10 | 2017-01-26 | 株式会社東芝 | 補正情報出力装置、画像処理装置、補正情報出力方法、撮像制御システム及び移動体制御システム |
WO2019035305A1 (ja) * | 2017-08-18 | 2019-02-21 | ソニー株式会社 | 情報処理装置及び情報処理方法 |
WO2019142660A1 (ja) * | 2018-01-19 | 2019-07-25 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
-
2009
- 2009-03-17 JP JP2009064912A patent/JP2010219933A/ja active Pending
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2013205925A (ja) * | 2012-03-27 | 2013-10-07 | Fuji Heavy Ind Ltd | 車外環境認識装置および車外環境認識方法 |
JP2017022574A (ja) * | 2015-07-10 | 2017-01-26 | 株式会社東芝 | 補正情報出力装置、画像処理装置、補正情報出力方法、撮像制御システム及び移動体制御システム |
WO2019035305A1 (ja) * | 2017-08-18 | 2019-02-21 | ソニー株式会社 | 情報処理装置及び情報処理方法 |
WO2019142660A1 (ja) * | 2018-01-19 | 2019-07-25 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8593533B2 (en) | Image processing apparatus, image-pickup apparatus, and image processing method | |
US7742690B2 (en) | Imaging apparatus and method for processing imaging results | |
KR100325491B1 (ko) | 파노라마화상작성방법및장치 | |
JP5414405B2 (ja) | 画像処理装置、撮像装置及び画像処理方法 | |
CN102037719B (zh) | 摄影设备,便携式信息处理终端,摄影设备的监视器显示方法,以及程序 | |
JP5321540B2 (ja) | 画像補正処理装置、画像補正処理方法、及び画像補正処理プログラム | |
JP2009152698A (ja) | 撮像装置及びその制御方法及びプログラム | |
JP2013162333A (ja) | 画像処理装置、画像処理方法、プログラムおよび記録媒体 | |
JP2006287632A (ja) | ノイズ低減装置およびノイズ低減方法 | |
US20020030735A1 (en) | Image processing apparatus | |
JPH082090B2 (ja) | 画像動き補正装置 | |
JP2010219933A (ja) | 撮像装置 | |
KR20110030275A (ko) | 화상 생성 방법 및 화상 생성 장치 | |
US8937676B2 (en) | Video processing apparatus, imaging apparatus, video processing method, and storage medium | |
JP5298899B2 (ja) | 画像補正処理装置および画像補正処理方法 | |
JP4914103B2 (ja) | 撮像装置、ガイド表示方法、及びコンピュータプログラム | |
JP2007049266A (ja) | 画像撮像装置 | |
JP2011253381A (ja) | 目標追跡装置及び目標追跡方法 | |
JP2006041604A (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JPH0568666B2 (ja) | ||
JP2015023522A (ja) | パノラマ撮影機能付きカメラ、画像表示方法 | |
JP2005210164A (ja) | 欠陥画素補正装置 | |
JP2006140605A (ja) | 撮影装置及びその方法 | |
JP6642991B2 (ja) | 画像処理装置、撮像装置および撮像制御プログラム | |
JP2008005244A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20111012 |