JP2009239425A - 動き検出装置 - Google Patents

動き検出装置 Download PDF

Info

Publication number
JP2009239425A
JP2009239425A JP2008080154A JP2008080154A JP2009239425A JP 2009239425 A JP2009239425 A JP 2009239425A JP 2008080154 A JP2008080154 A JP 2008080154A JP 2008080154 A JP2008080154 A JP 2008080154A JP 2009239425 A JP2009239425 A JP 2009239425A
Authority
JP
Japan
Prior art keywords
motion
image data
correlation value
blocks
scene
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008080154A
Other languages
English (en)
Other versions
JP5213493B2 (ja
Inventor
Akira Toba
明 鳥羽
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sanyo Electric Co Ltd
Original Assignee
Sanyo Electric Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sanyo Electric Co Ltd filed Critical Sanyo Electric Co Ltd
Priority to JP2008080154A priority Critical patent/JP5213493B2/ja
Priority to US12/411,809 priority patent/US8125527B2/en
Publication of JP2009239425A publication Critical patent/JP2009239425A/ja
Application granted granted Critical
Publication of JP5213493B2 publication Critical patent/JP5213493B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【構成】CPU28は、複数の動き検出ブロックの各々で捉えられる被写界の部分動きベクトルを、イメージセンサ16から繰り返し出力された生画像データに基づいて検出する。CPU28はまた、複数の動き検出ブロックにそれぞれ割り当てられた複数の重み付け量のうち、基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する。CPU28はさらに、重み付け量を参照した加重平均処理を部分動きベクトルに施して、被写界全体の動きを検出する。CPU28はまた、イメージセンサ16から出力された生画像データのフレーム間の最小相関値を、複数の動き検出ブロックの各々に対応して繰り返し取得し、取得された最小相関値の増大に応じて基準を増大させる処理を基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する。
【効果】被写界全体の動きの誤検出を低減することができる。
【選択図】図1

Description

この発明は、動き検出装置に関し、特にビデオカメラに適用され、撮像面で捉えられた被写界全体の動きを検出する、ビデオカメラに関する。
この種の装置の一例が、特許文献1に開示されている。この背景技術によれば、画面に割り当てられた複数の検出領域の各々の有効/無効が、動き検出回路によって算出された最小相関値および平均相関値に基づいて判別される。具体的には、平均相関値が最小相関値の7倍を上回る検出領域が有効領域と判別される一方、平均相関値が最小相関値の7倍以下の検出領域が無効領域と判別される。全体動きベクトルは有効領域の数に応じて異なる態様で検出され、撮像面の手振れは検出された全体動きベクトルを参照して補正される。
特許第2940762号公報
しかし、低コントラストの被写界を捉える検出領域に動体が進入すると、この検出領域で算出される平均相関値が増大する。増大した平均相関値が最小相関値の7倍を越えると、この検出領域が無効領域から有効領域に変化し、動体の動きが全体動きベクトルの検出処理に反映されてしまう。
それゆえに、この発明の主たる目的は、低コントラストの被写界への動体の進入に起因して被写界全体の動きが誤検出される現象を低減することができる、動き検出装置を提供することである。
この発明に従う動き検出装置(10:実施例で相当する参照符号。以下同じ)は、被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段から繰り返し出力された画像データに基づいて検出する第1検出手段(S23)、複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減手段(S43, S45)、第1検出手段によって検出された動きに複数の重み付け量を参照した加重平均処理を施して被写界全体の動きを検出する第2検出手段(S61~S73)、撮像手段から出力された画像データの画面間の最小相関値を複数のブロックの各々に対応して繰り返し取得する第1取得手段(S27)、および第1取得手段によって取得された最小相関値の増大に応じて基準を増大させる処理を基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大手段(S51~S55)を備える。
第1検出手段は、被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを、撮像手段から繰り返し出力された画像データに基づいて検出する。低減手段は、複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する。第2検出手段は、第1検出手段によって検出された動きに複数の重み付け量を参照した加重平均処理を施して、被写界全体の動きを検出する。第1取得手段は、撮像手段から出力された画像データの画面間の最小相関値を、複数のブロックの各々に対応して繰り返し取得する。増大手段は、第1取得手段によって取得された最小相関値の増大に応じて基準を増大させる処理を、基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する。
注目するブロックに対応して取得される最小相関値は、注目するブロックに動体が進入したときに増大する。注目するブロックが基準を下回るコントラストの部分被写界を捉えるブロックであれば、動体の進入によってこの基準が増大される。注目するブロックで捉えられる部分被写界は、動体の進入に起因するコントラストの増大に関わらず、基準を下回るコントラストの部分被写界と判別される。この結果、動体の動きが被写界全体の動き検出に反映され難くなり、被写界全体の動きの誤検出を低減することができる。
好ましくは、撮像手段から出力された画像データの画面間の平均相関値を複数のブロックの各々に対応して繰り返し取得する第2取得手段(S25)がさらに備えられ、低減手段は第2取得手段によって取得された平均相関値を基準と比較してコントラストを判別する比較手段(S43)を含む。
好ましくは、撮像手段から出力された画像データの一部を第2検出手段によって検出された動きが補償されるように抽出する抽出手段(20, 36, S33)がさらに備えられる。
さらに好ましくは、抽出手段は、撮像手段から出力された画像データをメモリ(34)に書き込む書き込み手段(20)、書き込み手段によってメモリに格納された画像データのうち抽出エリアに属する一部の画像データを読み出す読み出し手段(36)、および第2検出手段によって検出された動きが補償されるように抽出エリアの位置を変更する変更手段(S33)を含む。
好ましくは、動き量が閾値を下回る被写体を捉えるブロックに対応して増大手段を起動する起動手段(S49)がさらに備えられる。
好ましくは、増大手段によって増大された基準を指定期間の経過後に初期化する初期化手段(S89)がさらに備えられる。
好ましくは、複数のブロックの各々は複数の微小ブロックを含み、前画面の画像データにおける代表画素値と現画面の画像データにおける複数の画素値の各々との差分を相関値として微小ブロック毎に算出する差分算出手段(60)がさらに備えられる。
この発明に従う動き検出プログラムは、動き検出装置(10)のプロセッサ(28)に、被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段(16)から繰り返し出力された画像データに基づいて検出する第1検出ステップ(S23)、複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減ステップ(S43, S45)、第1検出ステップによって検出された動きに複数の重み付け量を参照した加重平均処理を施して被写界全体の動きを検出する第2検出ステップ(S61~S73)、撮像手段から出力された画像データの画面間の最小相関値を複数のブロックの各々に対応して繰り返し取得する取得ステップ(S27)、および取得ステップによって取得された最小相関値の増大に応じて基準を増大させる処理を基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大ステップ(S51~S55)を実行させるための、動き検出プログラムである。
この発明に従う動き検出方法は、動き検出装置(10)によって実行される動き検出方法であって、被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段(16)から繰り返し出力された画像データに基づいて検出する第1検出ステップ(S23)、複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減ステップ(S43, S45)、第1検出ステップによって検出された動きに複数の重み付け量を参照した加重平均処理を施して被写界全体の動きを検出する第2検出ステップ(S61~S73)、撮像手段から出力された画像データの画面間の最小相関値を複数のブロックの各々に対応して繰り返し取得する取得ステップ(S27)、および取得ステップによって取得された最小相関値の増大に応じて基準を増大させる処理を基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大ステップ(S51~S55)を備える。
この発明によれば、注目するブロックに対応して取得される最小相関値は、注目するブロックに動体が進入したときに増大する。注目するブロックが基準を下回るコントラストの部分被写界を捉えるブロックであれば、動体の進入によってこの基準が増大される。注目するブロックで捉えられる部分被写界は、動体の進入に起因するコントラストの増大に関わらず、基準を下回るコントラストの部分被写界と判別される。この結果、動体の動きが被写界全体の動き検出に反映され難くなり、被写界全体の動きの誤検出を低減することができる。
この発明の上述の目的,その他の目的,特徴および利点は、図面を参照して行う以下の実施例の詳細な説明から一層明らかとなろう。
図1を参照して、この実施例のディジタルビデオカメラ10は、光学レンズ12および絞りユニット14を含む。被写界の光学像は、これらの部材を通してイメージセンサ16の撮像面に照射される。撮像面は、原色ベイヤ配列の色フィルタ(図示せず)によって覆われる。したがって、各画素では、R(Red),G(Green)およびB(Blue)のいずれか1つの色情報を有する電荷が光電変換によって生成される。
電源が投入されると、CPU28は、動画取り込み処理を実行するべくドライバ18を起動する。ドライバ18は、1/60秒毎に発生する垂直同期信号Vsyncに応答して、撮像面を露光し、撮像面で生成された電荷をラスタ走査態様で読み出す。イメージセンサ16からは、被写界を表す生画像データが60fpsのフレームレートで出力される。
前処理回路20は、イメージセンサ16からの生画像データにディジタルクランプ,画素欠陥補正,ゲイン制御などの処理を施す。これによって生成された生画像データは、メモリ制御回路32を通してSDRAM34の生画像エリア34aに書き込まれる。
撮像面には、図2に示す要領で抽出エリアEXが割り当てられる。後処理回路36は、生画像エリア34aに格納された生画像データのうち抽出エリアEXに属する一部の生画像データをメモリ制御回路32を通して1/60秒毎に読み出し、読み出された生画像データに色分離,白バランス調整,YUV変換などの処理を施す。この結果、YUV形式に対応する画像データが1/60秒毎に作成される。作成された画像データは、メモリ制御回路32を通してSDRAM34のYUV画像エリア34bに書き込まれる。
LCDドライバ38は、YUV画像エリア34bに格納された画像データを繰り返し読み出し、読み出された画像データに基づいてLCDモニタ40を駆動する。この結果、被写界を表すリアルタイム動画像(スルー画像)がモニタ画面に表示される。
前処理回路20は、上述の処理に加えて簡易Y生成処理を実行し、生画像データを簡易的にYデータに変換する。変換されたYデータは、動き検出回路22,AF評価回路24およびAE評価回路26に与えられる。
図2を参照して、撮像面には5つの動き検出ブロックMD_1〜MD_5が割り当てられる。動き検出ブロックMD_1およびMD_2は撮像面の上段に水平方向に並ぶように配置され、動き検出ブロックMD_3は撮像面の中央に配置され、そして動き検出ブロックMD_4およびMD_5は撮像面の下段に水平方向に並ぶように配置される。
動き検出回路22は、動き検出ブロックMD_1〜MD_5の各々における被写界の動き情報を前処理回路20から与えられたYデータに基づいて1/60秒毎に検出し、検出された動き情報をCPU28に与える。CPU28は、与えられた動き情報に基づいて全体動きベクトルを作成し、光軸に直交する方向における撮像面の動きが手振れおよびパン/チルト動作のいずれに起因するかを全体動きベクトルに基づいて判別し、そして撮像面の動きが手振れに起因するときに全体動きベクトルに沿って抽出エリアEXを移動させる。抽出エリアEXの位置は、手振れに起因する撮像面の動きが補償(相殺)されるように変更される。抽出エリアEXは、撮像面に手振れが生じたとき、図3に示す要領で撮像面上を移動する。この結果、LCDモニタ40から出力される動画像の手振れが抑制される。
AF評価回路24は、前処理回路20から出力されたYデータのうち評価エリア(図示せず)に属する一部のYデータの高周波成分を1/60秒毎に積分し、積分値つまりフォーカス評価値をCPU28に与える。CPU28は、与えられたフォーカス評価値に基づいていわゆるコンティニュアスAF処理を実行し、光学レンズ12を合焦点に配置する。この結果、LCDモニタ40から出力される動画像の鮮鋭度が継続的に向上する。
AE評価回路26は、前処理回路20から出力されたYデータのうち評価エリアに属する一部のYデータを1/60秒毎に積分し、積分値つまり輝度評価値を出力する。CPU28は、AE評価回路24から出力された輝度評価値に基づいて適正露光量が得られるEV値を算出し、算出されたEV値を定義する絞り量および露光時間を絞りユニットおよびドライバ18に設定する。この結果、LCDモニタ40から出力される動画像の明るさが適度に調整される。
キー入力装置30によって記録開始操作が行われると、CPU28は、記録処理を開始するべくI/F42を起動する。I/F42は、YUV画像エリア34bに格納された画像データを1/60秒毎に読み出し、読み出された画像データを記録媒体44内の動画ファイルに圧縮状態で書き込む。I/F42は、キー入力装置30上で記録終了操作が行われたときにCPU28によって停止される。この結果、画像データの記録処理が終了される。
動き検出回路22は、図4に示すように構成される。生画像データはラスタ走査態様でイメージセンサ16から出力されるため、Yデータもまたラスタ走査態様で動き検出回路22に入力される。分配器48は、動き検出ブロックMD_1およびMD_4の各々に属するYデータを動き情報作成回路50に与え、動き検出ブロックMD_3に属するYデータを動き情報作成回路52に与え、そして動き検出ブロックMD_2およびMD_5に属するYデータを動き情報作成回路54に与える。
動き情報作成回路50は、動き検出ブロックMD_1およびMD_4の各々で捉えられた被写界の動きに注目し、部分動きベクトルVC_1,最小相関値MIN_1および平均相関値AV_1を動き検出ブロックMD_1の動き情報として出力するとともに、部分動きベクトルVC_4,最小相関値MIN_4および平均相関値AV_4を動き検出ブロックMD_4の動き情報として出力する。
動き情報作成回路52は、動き検出ブロックMD_3で捉えられた被写界の動きに注目し、部分動きベクトルVC_3,最小相関値MIN_3および平均相関値AV_3を動き検出ブロックMD_3の動き情報として出力する
動き情報作成回路54は、動き検出ブロックMD_2およびMD_5の各々で捉えられた被写界の動きに注目し、部分動きベクトルVC_2,最小相関値MIN_2および平均相関値AV_2を動き検出ブロックMD_2の動き情報として出力するとともに、部分動きベクトルVC_5,最小相関値MIN_5および平均相関値AV_5を動き検出ブロックMD_5の動き情報として出力する。
動き情報作成回路50〜54の各々は、図5に示すように構成される。Yデータは、LPF56でノイズ除去処理を施された後、代表点メモリ58および相関値算出回路60に与えられる。図6(A)を参照して、動き検出ブロックMD_1〜MD_5の各々は、P×Q個の微小ブロックSBK,SBK,…によって形成される。また、図6(B)を参照して、各々の微小ブロックSBKは、p×q個の画素によって形成される。なお、“P”,“Q”,“p”および“q”はいずれも2以上の整数に相当する。以下では、各微小ブロックSBKの中央に存在する画素つまり図6(A)および図6(B)に黒丸で示す画素を“代表画素”と定義する。
図5に戻って、代表点メモリ58は、動き検出ブロックMD_N(N:1〜5のいずれか)に属するYデータからP×Q個の代表画素のYデータを抽出し、抽出されたYデータを記憶する。相関値算出回路60は、動き検出ブロックMD_Nに属するP×Q個の微小ブロックSBK,SBK,…の各々に対応して、代表点メモリ58に記憶された前フレームの代表画素のYデータ値とLPF56から与えられた現フレームの各画素のYデータ値との差分を相関値として算出する。この結果、P×Q×p×q個の相関値が、動き検出ブロックMD_Nに対応して相関値算出回路60から出力される。なお、出力されたP×Q×p×q個の相関値の各々は、相関値の算出の基礎となった2つの画素の位置を示す画素位置情報を伴う。
平均値算出回路66は、P×Q×p×q個の相関値の平均値を算出し、算出された平均値を平均相関値AV_Nとして出力する。平均相関値AV_Nは、動き検出ブロックMD_Nに属する被写界のコントラストが低いほど減少する。したがって、平均相関値AV_Nに注目することで、被写界のコントラストの程度を判別することができる。
最小値算出回路62は、P×Q×p×q個の相関値の中から最小値を抽出し、抽出した最小値を最小相関値MIN_Nとして出力する。最小相関値MIN_Nは、動き検出ブロックMD_Nに動きが生じたときに増大する。したがって、最小相関値MIN_Nに注目することで、被写界に動きが生じたか否かを判別することができる。
部分動きベクトル作成回路64は、最小相関値MIN_Nに付随する画素位置情報に基づいて部分動きベクトルVC_Nを作成する。作成された部分動きベクトルVC_Nは、画素位置情報が示す2つの画素のうち前フレームの画素を起点とし、現フレームの画素を終点とするベクトルである。現フレームの画素が図6(B)にハッチングで示す画素である場合、部分動きベクトルVC_Nは図6(B)に矢印で示す方向および大きさを示す。
CPU28は、こうして作成された部分動きベクトルVC_1〜VC_5,平均相関値AV_1〜AV_5および最小相関値MIN_1〜MIN_5に基づいて、以下の述べる要領で全体動きベクトルを作成する。
CPU28はまず、平均相関値AV_Nを閾値TH1_Nと比較し、AV_N<TH1_NのときにフラグFLG_Nを“0”に設定する一方、AV_N≧TH1_NのときにフラグFLG_Nを“1”に設定する。フラグFLG_Nは、動き検出エリアMD_Nで捉えられた被写界のコントラストつまりこの被写界の動きの信頼性を識別するためのフラグである。フラグFLG_Nは、平均相関値AV_Nが小さい場合にコントラストつまり動きの信頼性が低いとして“0”に設定される一方、平均相関値AV_Nが大きい場合にコントラストつまり動きの信頼性が高いとして“1”に設定される。
CPU28はまた、部分動きベクトルVC_Nが閾値TH2を下回り、フラグFLG_Nが“0”を示し、そして最小相関値MIN_Nが閾値TH3以上のとき、閾値TH1_NをΔTHだけ増大させる。したがって、閾値TH1_Nは、撮像面が固定されかつ動き検出エリアMD_Nが低コントラストの被写界を捉えている状態で、動き検出エリアMD_Nに動体が進入したときに増大する。なお、増大した閾値TH1_Nは、指定時間が経過したときに初期化される。
CPU28はさらに、フラグFLG_Nが“1”を示すとき重み付け量W_Nを“1”に設定する一方、フラグFLG_Nが“0”を示すとき重み付け量W_Nを“0”に設定し、こうして決定された重み付け量W_Nを参照した部分動きベクトルVC_Nの加重平均処理によって全体動きベクトルを作成する。加重平均処理は、具体的には数式1を用いて実行される。
[数式1]
TVC=ΣVC_N*W_N/ΣW_N(N:1〜5)
TVC:全体動きベクトル
数式1によれば、部分動きベクトルVC_1〜VC_5に重み付け量W_1〜W_5がそれぞれ掛算され、これによって得られた5つの掛算値の総和が重み付け量W_1〜W_5の総和によって割り算される。この結果、最小相関値MIN_Nの増大に応じて増大される閾値TH1_Nと平均相関値AV_Nとの大小関係が、全体動きベクトルに反映される。
図7(A)〜図7(D)を参照して、低コントラストの被写界に風船BLが進入してきたときの動作を説明する。図7(A)は時刻T1における被写界の状態を示し、図7(B)は時刻T2における被写界の状態を示し、図7(C)は時刻T3における被写界の状態を示し、そして図7(D)は時刻T4における被写界の状態を示す。また、ここでは、風船BLが捉えられない限り、動きベクトルVC_Nは閾値TH2を下回り、最小相関値MIN_Nも閾値TH3を下回ることを前提とする。したがって、風船BLが捉えられない状態では、重み付け量W_1〜W_5はいずれも“0”に設定され、全体動きベクトルの量は“0”を維持する。
風船BLが動き検出ブロックMD_Nに進入し始めると、平均相関値AV_Nは未だ閾値TH1_Nを下回るものの、最小相関値MIN_Nは閾値TH3以上となり、これによって閾値TH1_Nが増大する。平均相関値AV_Nは風船BLのさらなる進入によって増大するものの、閾値TH1_Nが増大しているため、平均相関値AV_Nは依然として閾値TH1_Nを下回る。この結果、風船BLの進入に関わらず、重み付け量W_1〜W_5はいずれも“0”を示し、全体動きベクトルの量は“0”を維持する。
このように、動き検出ブロックMD_Nに対応して取得される最小相関値MIN_Nは、動き検出ブロックMD_Nに動体が進入したときに増大する。動き検出ブロックMD_Nが閾値TH1_Nを下回るコントラストの被写界を捉えるブロックであれば、動体の進入によって閾値TH1_Nが増大する。動き検出ブロックMD_Nで捉えられる被写界は、動体の進入に起因するコントラストの増大に関わらず、閾値TH1_Nを下回るコントラストの部分被写界と判別される。この結果、動体の動きが被写界全体の動き検出に反映され難くなり、被写界全体の動きの誤検出を低減することができる。
CPU28は、図8に示す動画撮像タスク,図9〜図11に示す手振れ補正タスクおよび図12に示す閾値制御タスクを含む複数のタスクを並列的に処理する。なお、これらのタスクに対応する制御プログラムは、フラッシュメモリ46に記憶される。
図8を参照して、ステップS1では動画取り込み処理を実行し、ステップS3ではコンティニュアスAFタスクを起動する。ステップS1の処理によってスルー画像がLCDモニタ40から出力され、ステップS3の処理によってフォーカスが連続的に調整される。ステップS5では記録開始操作が行われたか否かを判別し、NOである限りステップS7のAE処理を繰り返す。これによって、露光量が適度に調整される。記録開始操作が行わるとステップS9に進み、記録処理を開始するべくI/F42を起動する。ステップS11では記録終了操作が行われたか否かを判別し、NOである限りステップS13のAE処理を繰り返す。記録終了操作が行われるとステップS15に進み、記録処理を終了するべくI/F42を停止する。ステップS15の処理が完了すると、ステップS5に戻る。
図9を参照して、ステップS21では垂直同期信号Vsyncが発生したか否かを判別する。YESであれば、ステップS23で動き検出回路22から部分動きベクトルVC_1〜VC_5を取り込み、ステップS25で動き検出回路22から平均相関値AV_1〜AV_5を取り込み、そしてステップS27で動き検出回路22から最小相関値MIN_1〜MIN_5を取り込む。
ステップS29では、取り込まれたこれらの動き情報に基づいて全体動きベクトルを作成する。続くステップS31では現時点の撮像面の動きがパン/チルト動作に起因するものであるか否かを全体動きベクトルに基づいて判別する。ここでYESであればそのままステップS21に戻り、NOであればステップS33に進む。ステップS33では、ステップS29で作成された全体動きベクトルに沿って抽出エリアEXを移動させる。ステップS33の処理が完了すると、ステップS21に戻る。
図9に示すステップS29の動きベクトル作成処理は、図10〜図11に示すフロー図に従って実行される。
まずステップS41で変数Nを“1”に設定し、ステップS43で平均相関値AV_Nが閾値TH1_Nを下回るか否かを判別する。ここでYESであればステップS45でフラグFLG_Nを“0”に設定する一方、NOであればステップS47でフラグFLG_Nを“1”に設定する。ステップS49では部分動きベクトルVC_Nが閾値TH2を下回るか否かを判別し、ステップS51ではフラグFLG_Nが“0”を示すか否かを判別し、ステップS53では最小相関値MIN_Nが閾値TH3以上であるか否かを判別する。ステップS49〜S53のいずれか1つでもNOであれば、そのままステップS57に進む。ステップS49〜S53のいずれにおいてもYESであれば、ステップS55で閾値TH1_NをΔTHだけ増大させてからステップS57に進む。
ステップS57では変数Nが“5”に達したか否かを判別し、NOであればステップS59で変数NをインクリメントしてからステップS43に戻る一方、YESであればステップS61以降の処理に進む。ステップS61では変数Nを“1”に戻し、ステップS63ではフラグFLG_Nが“1”であるか否かを判別する。ここでYESであればステップS65で重み付け量W_Nを“1”に設定し、NOであればステップS67で重み付け量W_Nを“0”に設定する。ステップS69では変数Nが“5”に達したか否かを判別し、NOであればステップS71で変数NをインクリメントしてからステップS63に戻る一方、YESであればステップS73で数1に従う加重平均処理を施してから上階層のルーチンに復帰する。
図12を参照して、ステップS81では変数Mを“1”に設定する。ステップS83では閾値TH_Mが増大したか否かを判別し、NOであればそのままステップS87に進む一方、YESであればステップS85におけるタイマT_Mのリセット&スタートを経てステップS87に進む。ステップS87ではタイマT_Mにタイムアウトが発生したか否かを判別し、NOであればそのままステップS91に進む一方、YESであればステップS89で閾値TH_Mを初期化してからステップS91に進む。ステップS91では変数Mが“5”に達したか否かを判別し、NOであればステップS95で変数MをインクリメントしてからステップS83に戻る一方、YESであればステップS93で変数Mを“1”に戻してからステップS83に戻る。
以上の説明から分かるように、CPU28は、被写界に割り当てられた動き検出ブロックMD_1〜MD5で捉えられる部分被写界の動きを示す部分動きベクトルVC_1〜VC_5を、イメージセンサ16から繰り返し出力された生画像データに基づいて検出する(S23)。CPU28はまた、動き検出ブロックMD_1〜MD_5にそれぞれ割り当てられた重み付け量W_1〜W_5のうち、基準(=閾値TH1_N)を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する(S43, S45)。CPU28はさらに、重み付け量W_1〜W_5を参照して部分動きベクトルVC_1〜VC_5に加重平均処理を施し、被写界全体の動きを検出する(S61~S73)。CPU28は、イメージセンサ16から出力された生画像データのフレーム間の最小相関値MIN_1〜MIN_5を、動き検出ブロックMD_1〜MD_5にそれぞれ対応して繰り返し取得する(S27)。CPU28は、取得された最小相関値の増大に応じて基準を増大させる処理を、基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する(S51~S55)。
動き検出ブロックMD_Nに対応して取得される最小相関値MIN_Nは、動き検出ブロックMD_Nに動体が進入したときに増大する。動き検出ブロックMD_Nが基準を下回るコントラストの部分被写界を捉えるブロックであれば、動体の進入によってこの基準が増大される。動き検出ブロックMD_Nで捉えられる部分被写界は、動体の進入に起因するコントラストの増大に関わらず、基準を下回るコントラストの部分被写界と判別される。この結果、動体の動きが被写界全体の動き検出に反映され難くなり、被写界全体の動きの誤検出を低減することができる。
この発明の一実施例の構成を示すブロック図である。 複数の動き検出ブロックおよび単一の抽出エリアを撮像面に割り当てた状態の一例を示す図解図である。 手振れ補正動作の一例を示す図解図である。 図1実施例に適用される動き検出回路の構成の一例を示すブロック図である。 図4実施例に適用される動き情報作成回路の構成の一例を示すブロック図である。 (A)は動き検出ブロックの構成の一例を示す図解図であり、(B)は微小ブロックの構成の一例を示す図解図である。 (A)は時刻T1に捉えられた被写界の一例を示す図解図であり、(B)は時刻T2に捉えられた被写界の一例を示す図解図であり、(C)は時刻T3に捉えられた被写界の一例を示す図解図であり、(D)は時刻T4に捉えられた被写界の一例を示す図解図である。 図1実施例に適用されるCPUの動作の一部を示すフロー図である。 図1実施例に適用されるCPUの動作の他の一部を示すフロー図である。 図1実施例に適用されるCPUの動作のその他の一部を示すフロー図である。 図1実施例に適用されるCPUの動作のさらにその他の一部を示すフロー図である。 図1実施例に適用されるCPUの動作の他の一部を示すフロー図である。
符号の説明
10 …ディジタルビデオカメラ
16 …イメージセンサ
20 …前処理回路
22 …動き検出回路
28 …CPU
34 …SDRAM
36 …後処理回路
46 …フラッシュメモリ

Claims (9)

  1. 被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段から繰り返し出力された画像データに基づいて検出する第1検出手段、
    前記複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減手段、
    前記第1検出手段によって検出された動きに前記複数の重み付け量を参照した加重平均処理を施して前記被写界全体の動きを検出する第2検出手段、
    前記撮像手段から出力された画像データの画面間の最小相関値を前記複数のブロックの各々に対応して繰り返し取得する第1取得手段、および
    前記第1取得手段によって取得された最小相関値の増大に応じて前記基準を増大させる処理を前記基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大手段を備える、動き検出装置。
  2. 前記撮像手段から出力された画像データの画面間の平均相関値を前記複数のブロックの各々に対応して繰り返し取得する第2取得手段をさらに備え、
    前記低減手段は前記第2取得手段によって取得された平均相関値を前記基準と比較して前記コントラストを判別する比較手段を含む、請求項1記載の動き検出装置。
  3. 前記撮像手段から出力された画像データの一部を前記第2検出手段によって検出された動きが補償されるように抽出する抽出手段をさらに備える、請求項1または2記載の動き検出装置。
  4. 前記抽出手段は、前記撮像手段から出力された画像データをメモリに書き込む書き込み手段、前記書き込み手段によって前記メモリに格納された画像データのうち抽出エリアに属する一部の画像データを読み出す読み出し手段、および前記第2検出手段によって検出された動きが補償されるように前記抽出エリアの位置を変更する変更手段を含む、請求項3記載の動き検出装置。
  5. 動き量が閾値を下回る被写体を捉えるブロックに対応して前記増大手段を起動する起動手段をさらに備える、請求項1ないし4のいずれかに記載の動き検出装置。
  6. 前記増大手段によって増大された基準を指定期間の経過後に初期化する初期化手段をさらに備える、請求項1ないし5のいずれかに記載の動き検出装置。
  7. 前記複数のブロックの各々は複数の微小ブロックを含み、
    前画面の画像データにおける代表画素値と現画面の画像データにおける複数の画素値の各々との差分を相関値として前記微小ブロック毎に算出する差分算出手段をさらに備える、請求項1ないし6のいずれかに記載の動き検出装置。
  8. 動き検出装置のプロセッサに、
    被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段から繰り返し出力された画像データに基づいて検出する第1検出ステップ、
    前記複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減ステップ、
    前記第1検出ステップによって検出された動きに前記複数の重み付け量を参照した加重平均処理を施して前記被写界全体の動きを検出する第2検出ステップ、
    前記撮像手段から出力された画像データの画面間の最小相関値を前記複数のブロックの各々に対応して繰り返し取得する取得ステップ、および
    前記取得ステップによって取得された最小相関値の増大に応じて前記基準を増大させる処理を前記基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大ステップを実行させるための、動き検出プログラム。
  9. 動き検出装置によって実行される動き検出方法であって、
    被写界に割り当てられた複数のブロックの各々で捉えられる部分被写界の動きを撮像手段から繰り返し出力された画像データに基づいて検出する第1検出ステップ、
    前記複数のブロックにそれぞれ割り当てられた複数の重み付け量のうち基準を下回るコントラストの部分被写界を捉えるブロックに割り当てられた重み付け量を低減する低減ステップ、
    前記第1検出ステップによって検出された動きに前記複数の重み付け量を参照した加重平均処理を施して前記被写界全体の動きを検出する第2検出ステップ、
    前記撮像手段から出力された画像データの画面間の最小相関値を前記複数のブロックの各々に対応して繰り返し取得する取得ステップ、および
    前記取得ステップによって取得された最小相関値の増大に応じて前記基準を増大させる処理を前記基準を下回るコントラストの部分被写界を捉えるブロックに対応して実行する増大ステップを備える、動き検出方法。
JP2008080154A 2008-03-26 2008-03-26 動き検出装置 Expired - Fee Related JP5213493B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008080154A JP5213493B2 (ja) 2008-03-26 2008-03-26 動き検出装置
US12/411,809 US8125527B2 (en) 2008-03-26 2009-03-26 Motion detection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008080154A JP5213493B2 (ja) 2008-03-26 2008-03-26 動き検出装置

Publications (2)

Publication Number Publication Date
JP2009239425A true JP2009239425A (ja) 2009-10-15
JP5213493B2 JP5213493B2 (ja) 2013-06-19

Family

ID=41116545

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008080154A Expired - Fee Related JP5213493B2 (ja) 2008-03-26 2008-03-26 動き検出装置

Country Status (2)

Country Link
US (1) US8125527B2 (ja)
JP (1) JP5213493B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015049917A1 (ja) * 2013-10-02 2015-04-09 オリンパス株式会社 焦点検出装置および焦点検出方法
WO2015129260A1 (ja) * 2014-02-26 2015-09-03 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0746456A (ja) * 1993-07-29 1995-02-14 Sanyo Electric Co Ltd 手振れ補正装置を有するビデオカメラ

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61201581A (ja) 1985-03-04 1986-09-06 Toshiba Corp 動きベクトル検出装置
JPH06153059A (ja) 1992-11-06 1994-05-31 Sony Corp 映像記録再生装置
JP2940762B2 (ja) 1993-06-28 1999-08-25 三洋電機株式会社 手振れ補正装置を有するビデオカメラ
JP2902966B2 (ja) * 1994-12-16 1999-06-07 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
JP3788714B2 (ja) 2000-02-14 2006-06-21 株式会社リコー 撮像装置及びデジタルカメラ
JP2002300460A (ja) 2001-03-30 2002-10-11 Minolta Co Ltd 画像処理装置および画像処理プログラム
JP2003015028A (ja) 2001-07-04 2003-01-15 Olympus Optical Co Ltd カメラ
JP4404822B2 (ja) * 2004-08-31 2010-01-27 三洋電機株式会社 手ぶれ補正装置および撮像機器
JP4658711B2 (ja) * 2005-06-29 2011-03-23 オリンパス株式会社 動きベクトル検出装置及び方法
JP5003991B2 (ja) * 2005-10-26 2012-08-22 カシオ計算機株式会社 動きベクトル検出装置及びそのプログラム
JP2007215114A (ja) * 2006-02-13 2007-08-23 Sony Corp 撮像画像の歪み補正方法、撮像画像の歪み補正装置および撮像装置

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0746456A (ja) * 1993-07-29 1995-02-14 Sanyo Electric Co Ltd 手振れ補正装置を有するビデオカメラ

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015049917A1 (ja) * 2013-10-02 2015-04-09 オリンパス株式会社 焦点検出装置および焦点検出方法
JP2015072356A (ja) * 2013-10-02 2015-04-16 オリンパス株式会社 焦点検出装置
WO2015129260A1 (ja) * 2014-02-26 2015-09-03 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
JP2015179503A (ja) * 2014-02-26 2015-10-08 パナソニックIpマネジメント株式会社 画像処理装置及び画像処理方法
CN106031145A (zh) * 2014-02-26 2016-10-12 松下知识产权经营株式会社 图像处理装置和图像处理方法
US10110784B2 (en) 2014-02-26 2018-10-23 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus and image processing method
CN106031145B (zh) * 2014-02-26 2019-05-14 松下知识产权经营株式会社 图像处理装置和图像处理方法
US10321023B2 (en) 2014-02-26 2019-06-11 Panasonic Intellectual Property Management Co., Ltd. Image processing apparatus and image processing method

Also Published As

Publication number Publication date
JP5213493B2 (ja) 2013-06-19
US20090244297A1 (en) 2009-10-01
US8125527B2 (en) 2012-02-28

Similar Documents

Publication Publication Date Title
US8988529B2 (en) Target tracking apparatus, image tracking apparatus, methods of controlling operation of same, and digital camera
US8538140B2 (en) Device and method for detecting whether an image is blurred
US20140146182A1 (en) Device and method for detecting moving objects
JP4974812B2 (ja) 電子カメラ
US9609220B2 (en) Image pickup apparatus, image pickup method, and program
JP2007259423A (ja) 電子カメラ
US11722771B2 (en) Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus
US11818466B2 (en) Notifying apparatus, image capturing apparatus, notifying method, image capturing method, and storage medium
JP5949559B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
US11477384B2 (en) Information processing apparatus, imaging apparatus, information processing method, control method for imaging apparatus, and storage medium for notifying of a subject blur occuring in a captured image
US9489721B2 (en) Image processing apparatus, image processing method, and storage medium
JP5118590B2 (ja) 被写体追尾方法及び撮像装置
JP2010154306A (ja) 撮像制御装置、撮像制御プログラム及び撮像制御方法
US20230360229A1 (en) Image processing apparatus, image capturing apparatus, control method, and storage medium
JP5213493B2 (ja) 動き検出装置
US20200177814A1 (en) Image capturing apparatus and method of controlling image capturing apparatus
JP2013062689A (ja) 撮像装置、その制御方法、及びプログラム
JP6556033B2 (ja) 画像処理装置、画像処理方法、及びプログラム
JP2006180078A (ja) 電子カメラ、画像処理装置および画像処理プログラム
JP4964062B2 (ja) 電子カメラ
JP2012220890A (ja) 焦点調節装置
JP4827811B2 (ja) 電子カメラ
JP7475846B2 (ja) 情報処理装置、撮像装置、情報処理方法および撮像装置の制御方法
JP2015037222A (ja) 画像処理装置、撮像装置、制御方法、及びプログラム
JP5631181B2 (ja) 画像処理装置及びその制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110225

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130129

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130226

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160308

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160308

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees