JP5003991B2 - 動きベクトル検出装置及びそのプログラム - Google Patents

動きベクトル検出装置及びそのプログラム Download PDF

Info

Publication number
JP5003991B2
JP5003991B2 JP2005311757A JP2005311757A JP5003991B2 JP 5003991 B2 JP5003991 B2 JP 5003991B2 JP 2005311757 A JP2005311757 A JP 2005311757A JP 2005311757 A JP2005311757 A JP 2005311757A JP 5003991 B2 JP5003991 B2 JP 5003991B2
Authority
JP
Japan
Prior art keywords
motion vector
correlation
correlation detection
value
detection block
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2005311757A
Other languages
English (en)
Other versions
JP2007122275A5 (ja
JP2007122275A (ja
Inventor
淳 村木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2005311757A priority Critical patent/JP5003991B2/ja
Priority to PCT/JP2006/319817 priority patent/WO2007049432A1/en
Priority to US11/585,018 priority patent/US8320452B2/en
Priority to TW95139314A priority patent/TWI380681B/zh
Publication of JP2007122275A publication Critical patent/JP2007122275A/ja
Publication of JP2007122275A5 publication Critical patent/JP2007122275A5/ja
Application granted granted Critical
Publication of JP5003991B2 publication Critical patent/JP5003991B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • H04N5/145Movement estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/684Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time

Description

本発明は、動きベクトル検出装置及びそのプログラムに係り、詳しくは、フレームデータに基づいてフレームの動きベクトルを検出する動きベクトル検出装置及びそのプログラムに関する。
近年、撮像装置、例えば、デジタルカメラにおいては、手ブレによる被写体画像の揺れを防止するために手ブレ補正機能が搭載されており、その手ブレを補正するために必要な手ブレ量を検出する技術として代表点マッチング法を用いてその動きベクトルを検出する技術が登場してきた。
例えば、画像内に複数の動きベクトル検出領域を設け、代表点マッチング法により各領域の動きベクトルを検出する。そして、検出した各領域における動きベクトルを、動きベクトルの時間変化や他の要素によって評価して信頼度を得、その信頼度に応じて各ベクトルを選択、合成して画像全体を代表する動きベクトルを得るというものである(特許文献1)。
公開特許公報 特開平06−46316号
しかしながら、上記特許文献1記載の技術によれば、画像内の大部分を背景(静止被写体)が占めているような状態において移動体が全ての動きベクトル検出領域にまたがるように存在している場合には、検出された全ての動きベクトルが移動体の影響を大きく受けてしまうため、背景自体の動きベクトルとは大きくかけ離れた動きベクトルが得られてしまい、結果として、画像内の大部分を占めている背景のブレ(手ブレ)が適切に補正されないという問題点があった。
そこで本発明は、かかる従来の問題点に鑑みてなされたものであり、画像内における被写体の状況に応じて適切な動きベクトルを検出することができる動きベクトル検出装置及びそのプログラムを提供することを目的とする。
上記目的達成のため、請求項1記載の発明による動きベクトル検出装置は、フレームデータ毎に動きベクトルを検出する動きベクトル検出装置であって、
フレームデータを取得する取得手段と、
前記取得手段により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出手段と、
前記活性度算出手段により算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分手段と、
前記振分手段により振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出手段と、
前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出手段と、
を備えたことを特徴とする。
また、例えば、請求項2に記載されているように、前記活性度算出手段は、
現フレームデータの相関検出ブロックの画素値に基づく値と、前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしてもよい。
また、例えば、請求項3に記載されているように、前記活性度算出手段は、
現フレームデータの相関検出ブロックの画素値の平均値と、前フレームデータの同位置相関検出ブロックの画素値の平均値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしてもよい。
また、例えば、請求項4に記載されているように、前記活性度算出手段は、
現フレームデータの相関検出ブロック内の1部の画素の画素値に基づく値と、前フレームデータの同位置相関検出ブロック内の1部の画素の画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしてもよい。
また、例えば、請求項5に記載されているように、前記活性度算出手段は、
ベイヤーデータの現フレームデータの相関検出ブロックの画素値に基づく値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしてもよい。
また、例えば、請求項6に記載されているように、前記活性度算出手段は、
相関検出ブロックのG画素値を用いて相関検出ブロックのブロック活性度を算出するようにしてもよい。
また、例えば、請求項7に記載されているように、前記振分手段は、
前記活性度算出手段により算出された相関検出ブロックのブロック活性度が閾値より低いか否かを判断する判断手段を含み、
前記判断手段により相関検出ブロックのブロック活性度が閾値より低いと判断された相関検出ブロックを第1の郡に振り分け、前記判断手段により相関検出ブロックのブロック活性度が閾値より高いと判断された相関検出ブロックを第2の郡に振り分けるようにしてもよい。
また、例えば、請求項8に記載されているように、前記動きベクトル算出手段は、
現フレームデータの相関検出ブロック内の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、相関検出ブロック内の画素の相関値を算出する相関値算出手段を含み、前記相関値算出手段により算出された各相関検出ブロック内の画素の相関値に基づいて、群ごとの動きベクトルを算出するようにしてもよい。
また、例えば、請求項9に記載されているように、前記相関値算出手段は、
現フレームデータの相関検出ブロック内の1部の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしてもよい。
また、例えば、請求項10に記載されているように、前記相関値算出手段は、
ベイヤーデータの現フレームデータの相関検出ブロック内の画素値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしてもよい。
また、例えば、請求項11に記載されているように、前記相関値算出手段は、
現フレームデータの相関検出ブロック内のG画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしてもよい。
また、例えば、請求項12に記載されているように、前記動きベクトル算出手段は、
前記振分手段により振り分けられた郡ごとに、前記相関値算出手段により算出された各相関検出ブロックの画素の相関値を、画素位置が同じ画素の相関値毎に加算する累積加算手段を含み、前記累積加算手段に加算された郡ごとの値に基づいて、群ごとの動きベクトルを算出するようにしてもよい。
また、例えば、請求項13に記載されているように、前記動きベクトル算出手段は、
前記累積加算手段により加算された値の中で最も小さい値を用いて動きベクトルを算出するようにしてもよい。
また、例えば、請求項14に記載されているように、前記検出手段は、
前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルを合成することにより、1つのフレームデータの動きベクトルを検出するようにしてもよい。
上記目的達成のため、請求項15記載の発明によるプログラムは、フレームデータ毎に動きベクトルを検出する動きベクトル検出装置を実行させるためのプログラムであって、
フレームデータを取得する取得処理と、
前記取得処理により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出処理と、
前記活性度算出処理により算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分処理と、
前記振分処理により振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出処理と、
前記振分処理により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出処理により算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出処理と、
を含むことを特徴とする。
上記目的達成のため、請求項16記載の発明による動きベクトル検出方法は、フレームデータ毎に動きベクトルを検出する動きベクトル検出方法であって、
フレームデータを取得する取得ステップと、
前記取得処理により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出ステップと、
前記活性度算出ステップにより算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分ステップと、
前記振分ステップにより振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出ステップと、
前記振分ステップにより複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出ステップにより算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出ステップと、
を含むことを特徴とする。
請求項1記載の発明によれば、フレームデータ毎に動きベクトルを検出する動きベクトル検出装置であって、フレームデータを取得する取得手段と、前記取得手段により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出手段と、前記活性度算出手段により算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分手段と、前記振分手段により振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出手段と、前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出手段と、を備えるようにしたので、簡素な処理で、画像内に占める画像変化の小さい部分と、画像変化の大きい部分の範囲の割合に応じて、適切な動きベクトルを算出することができる。
請求項2記載の発明によれば、前記活性度算出手段は、現フレームデータの相関検出ブロックの画素値に基づく値と、前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしたので、現フレームの相関検出ブロックと前フレームの相関検出ブロックとのフレーム間の相関性の高低をブロック活性度とすることができる。
請求項3記載の発明によれば、前記活性度算出手段は、現フレームデータの相関検出ブロックの画素値の平均値と、前フレームデータの同位置相関検出ブロックの画素値の平均値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしたので、現フレームの相関検出ブロックと前フレームの相関検出ブロックとのフレーム間の相関性の高低をブロック活性度とすることができる。
請求項4記載の発明によれば、前記活性度算出手段は、現フレームデータの相関検出ブロック内の1部の画素の画素値に基づく値と、前フレームデータの同位置相関検出ブロック内の1部の画素の画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしたので、演算回数が少なくなり、処理時間を短くすることができる。
請求項5記載の発明によれば、前記活性度算出手段は、ベイヤーデータの現フレームデータの相関検出ブロックの画素値に基づく値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出するようにしたので、補間処理が不要になり、処理時間を短くすることができる。
請求項6記載の発明によれば、前記活性度算出手段は、相関検出ブロックのG画素値を用いて相関検出ブロックのブロック活性度を算出するようにしたので、補間処理が不要になり、処理時間を短くすることができる。また、画素数が半分になるので、演算回数が半分になり、処理時間を短くすることができる。
請求項7記載の発明によれば、前記振分手段は、前記活性度算出手段により算出された相関検出ブロックのブロック活性度が閾値より低いか否かを判断する判断手段を含み、前記判断手段により相関検出ブロックのブロック活性度が閾値より低いと判断された相関検出ブロックを第1の郡に振り分け、前記判断手段により相関検出ブロックのブロック活性度が閾値より高いと判断された相関検出ブロックを第2の郡に振り分けるようにしたので、相関性の高い、つまりブロック活性度の低い相関検出ブロックの郡(画像変化の小さい部分)と、相関性の低い、つまりブロック活性度の高い相関検出ブロックの郡(画像変化の大きい部分)とに分けることができる。
請求項8記載の発明によれば、前記動きベクトル算出手段は、現フレームデータの相関検出ブロック内の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、相関検出ブロック内の画素の相関値を算出する相関値算出手段を含み、前記相関値算出手段により算出された各相関検出ブロック内の画素の相関値に基づいて、群ごとの動きベクトルを算出するようにしたので、精度良く群ごとの動きベクトルを算出することができる。
請求項9記載の発明によれば、前記相関値算出手段は、現フレームデータの相関検出ブロック内の1部の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしたので、演算回数が少なくなり、処理時間を短くすることができる。
請求項10記載の発明によれば、前記相関値算出手段は、ベイヤーデータの現フレームデータの相関検出ブロック内の画素値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしたので、補間処理が不要になり、処理時間を短くすることができる。
請求項11記載の発明によれば、前記相関値算出手段は、現フレームデータの相関検出ブロック内のG画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出するようにしたので、補間処理が不要になり、処理時間を短くすることができる。また、画素数が半分になるので、演算回数が半分になり、処理時間を短くすることができる。
請求項12記載の発明によれば、前記動きベクトル算出手段は、前記振分手段により振り分けられたグループ毎に、前記相関値算出手段により算出された各相関検出ブロック内の画素の相関値を、画素位置が同じ画素の相関値毎に加算する累積加算手段を含み、前記累積加算手段により加算された郡ごとの値に基づいて、群ごとの動きベクトルを算出するようにしたので、精度良く群ごとの動きベクトルを算出することができる。
請求項13記載の発明によれば、前記動きベクトル算出手段は、前記累積加算手段により加算された値の中で最も小さい値を用いて動きベクトルを算出するようにしたので、精度良く群ごとの動きベクトルを算出することができる。
請求項14記載の発明によれば、前記検出手段は、前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルを合成することにより、1つのフレームデータの動きベクトルを検出するようにしたので、画像内における被写体の状況に応じて適切な動きベクトルを得ることができる。
請求項15記載の発明によれば、デジタルカメラ、パソコン等に読み込ませることにより、本発明の動きベクトル検出装置を実現することができる。
請求項16記載の発明によれば、デジタルカメラやパソコンに行なわせることにより、本発明の動きベクトル検出装置と同等の効果を得ることができる。
以下、本実施の形態について、本発明の動きベクトル検出装置をデジタルカメラに適用した一例として図面を参照して詳細に説明する。
[実施の形態]
A.デジタルカメラの構成
図1は、本発明の動きベクトル検出装置を実現するデジタルカメラ1の電気的な概略構成を示すブロック図である。
デジタルカメラ1は、撮影レンズ2、CCD3、垂直ドライバ4、TG(timing
generator)5、ユニット回路6、DMAコントローラ(以下、DMAという)7、メモリ8、DMA9、画像生成部10、DAM11、DMA12、表示部13、DMA14、圧縮部15、DMA16、フラッシュメモリ17、CPU18、バス19を備えている。
撮影レンズ2は、被写体の光をCCD3に投影させるものであり、CCD3は、垂直ドライバ4によって走査駆動され、一定周期毎に投影された被写体の光の強さを光電変換して撮像信号(画像データ)としてユニット回路6に出力する。ここでは、CCD3は、ベイヤー配列の色フィルタを有しているので、投影された被写体の光はRGB値の各色の光の量に光電変換される。この垂直ドライバ4、ユニット回路6の動作タイミングはTG5を介してCPU18により制御される。
ユニット回路6にはTG5が接続されており、CCD3から出力される撮像信号を相関二重サンプリングして保持するCDS(Correlated Double Sampling)回路、そのサンプリング後の撮像信号の自動利得調整を行うAGC(Automatic Gain Control)回路、その自動利得調整後のアナログの撮像信号をデジタル信号に変換するA/D変換器から構成されており、CCD3の撮像信号は、ユニット回路6を経た後、DMA7によってベイヤーデータの状態でメモリ8に記憶される。
DMA9は、CPU18によって決められた切り出し範囲に基づいて、メモリ8に記憶されているベイヤーデータを切り出して読出し、画像生成部10に出力する。
画像生成部10は、DMA9から送られてきたベイヤーデータの画像データに対して、画素補間処理、γ補正、ホワイトバランス処理等を施すとともに、輝度色差信号(YUVデータ)を生成する処理を行う。
DMA11は、画像生成部10で生成された輝度色差信号の画像データを、メモリ8に記憶させる。このとき、上記ベイヤーデータとは別の領域に輝度色差信号の画像データを記憶させる。
DMA12は、メモリ8に記憶されているYUVデータの画像データを読出し、表示部13に出力する。
表示部13は、カラーLCDとその駆動回路を含み、DMA12から出力された画像データを表示させる。
DMA14は、動画撮影記録時は、メモリ8に記憶されているYUVデータの画像データや圧縮された画像データ(圧縮画像データ)を圧縮部15に出力したり、圧縮部15により圧縮された画像データや、伸張された画像データをメモリ8に記憶させたりする。
圧縮部15は、画像データの圧縮・伸張(例えば、MPEG形式の圧縮・伸張)を行なう部分である。
DMA16は、メモリ8に記憶された圧縮画像データを読み出して、フラッシュメモリ17に記録したり、フラッシュメモリ17に記録された圧縮画像データをメモリ8に記憶させる。
CPU18は、デジタルカメラ1の各部を制御する機能を有するワンチップマイコンからなり、特に本発明の特徴部分となるフレームデータの動きベクトルを算出する機能を有する。
メモリ8は、さらに、CPU18の制御に必要なプログラム、及び必要なデータが記録されているとともに、動きベクトルを算出するために必要な記憶領域を有している。
B.次に、本発明の特徴となるCPU18の機能について説明する。
CPU18は、CCD3を駆動させることにより、一定周期毎にCCD3から出力されるフレームデータ(画像データ)からそれぞれ動きベクトルMVの算出を行う。
まず、図2に、本発明の特徴となるCPU18の機能ブロック図、及び、メモリ8の記憶領域の様子を示す。
CPU18は、ブロック分割部21、平均値算出部22、活性度算出部23、グループ振分部24、カウント部25、相関値算出部26、累積加算部27、動きベクトル算出部28などの機能を有している。
メモリ8は、累積相関値記憶エリアA31、累積相関値記憶エリアB32、フレーム情報記憶領域33を有する。
CPU18は、新しいフレームデータを取得すると、メモリ8の累積相関値記憶エリアA31、累積相関値記憶エリアB32に記憶されている情報を消去するとともに、カウント部25のカウント数を0に設定する。
ブロック分割部21は、メモリ8から送られてきた、一枚のあるフレームデータ(現フレームデータ)を取得すると、該取得したフレームデータ(ベイヤーデータ)を複数の相関検出ブロックに分割する。この相関検出ブロックは、17×13画素の1つのブロックとするので、CCD3から出力された全画素値を、17×13画素値毎に分割する。そのときの様子を図3に示し、このとき、分割された相関検出ブロックの中心画素のアドレス(x,y)を(0,0)とするので、Aの画素のアドレス(x,y)は(6,2)となり、Bの画素のアドレス(x,y)は(7,−3)ということになる。
平均値算出部22は、ブロック分割部21により複数に分割された各相関検出ブロックの画素平均値をそれぞれ算出する。ここでは、相関検出ブロックのG画素値のみに基づいて画素平均値を算出する。つまり、G画素値の平均値を算出することとなる。また、平均値算出部22は、算出した画素平均値を活性度算出部23に出力するとともに、フレーム情報記憶領域33に該算出した各相関検出ブロックの画素平均値を記憶させる。このとき、各相関検出ブロックの代表画素値もフレーム情報記憶領域33に記憶させる。ここでは、相関検出ブロックの中心画素の画素値を代表画素値とする。
なお、平均値算出部22は、相関検出ブロックのR画素値、又は、B画素値のみに基づいて画素平均値を算出するようにしてもよいし、全ての画素値(RGB画素値)に基づいて画素平均値を算出するようにしてもよいし、所定間隔おきの画素に基づいて画素平均値を算出するようにしてもよいし、各種の画素平均値を複合的に用いて最終的な画素平均値を算出するようにしてもよい。要は、その位置の時間軸における変化の度合いが反映されるものであればなんでもよい。また、フレーム情報記憶領域33に各相関検出ブロックの代表画素値を記憶させずに、各相関検出ブロックの画素平均値のみを記憶させるようにしてもよい。この場合は、この画素平均値が相関検出ブロックの代表画素値としての役割を果たす。また、相関検出ブロック内の所定の画素値を加算した画素加算値を画素平均値の代わりに用いるようにしてもよい。
活性度算出部23は、平均値算出部22によって算出された各相関検出ブロックの画素平均値に基づいて、各相関検出ブロックのブロック活性度を算出する。この算出は、1つ前のフレーム(前フレーム)の各相関検出ブロックの画素平均値と現フレームの各相関検出ブロックの画素平均値とを、同位置の相関検出ブロック同士で減算し、その絶対値をとる(又は二乗する)ことにより算出され、この差分の絶対値がブロック活性度になる。また、この前フレームの各相関検出ブロックの画素平均値は、フレーム情報記憶領域33に記憶されているので、活性度算出部23は、フレーム情報記憶領域33から前フレームの各相関検出ブロックの画素平均値を読み出すことにより各相関検出ブロックのブロック活性度を算出することができる。
各相関検出ブロックのブロック活性度が算出されると、グループ振分部24は、該算出されたブロック活性度が閾値より低いか否かを判断し、ブロック活性度が閾値より低い相関検出ブロックをグループAに振り分け、ブロック活性度が閾値より低くない相関検出ブロックをグループBに振り分ける。
カウント部25は、グループAに振り分けられた相関検出ブロックの数、グループBに振り分けられた相関検出ブロックの数をそれぞれカウントする。
相関値算出部26、累積加算部27、動きベクトル算出部28は、主に、代表点マッチング法を用いてグループAに振り分けられた相関検出ブロックとグループBに振り分けられた相関検出ブロックに基づいて、グループAの動きベクトルとグループBの動きベクトルを算出し、動きベクトル算出部28は、さらに、算出されたグループAの動きベクトルとグループBの動きベクトルに基づいてフレーム全体の動きベクトルを算出するというものである。
具体的には、相関値算出部26は、グループA及びグループBに振り分けられた各相関検出ブロック内のG画素値から画素の相関値Hをそれぞれ算出する。この画素の相関値Hの算出は、現フレームの各相関検出ブロック内の各G画素値と、前フレームの各相関検出ブロックの画素代表値とを、同相関検出ブロック同士で減算し、その二乗をとることにより算出され、この差分の二乗が画素の相関値Hということになる。また、この前フレームの各相関検出ブロックの代表画素値は、フレーム情報記憶領域33に記憶されているので、相関値算出部26は、フレーム情報記憶領域33から前フレームの各相関検出ブロックの代表画素値を読み出すことにより各相関検出ブロックの画素の相関値Hを算出することができる。なお、差分の二乗に替えて、差分の絶対値をとるようにしてもよい。
累積加算部27は、グループAに振り分けられた各相関検出ブロックの画素の相関値Hを同じ位置の画素同士で加算し、加算された累積相関値Sを累積相関値記憶エリアA31に記憶させ、グループBに振り分けられた各相関検出ブロックの画素の相関値Hを同じ位置の画素同士で加算し、該加算された累積相関値Sを累積相関値エリアB32に記憶させる。
動きベクトル算出部28は、累積相関値記憶エリアA31に記憶されている累積相関値Sの中で最小値となる累積相関値Sに基づいてグループAの動きベクトルMVaを検出し、同様に累積相関値記憶エリアB32に記憶されている累積相関値Sの中で最小値となる累積相関値Sに基づいてグループBの動きベクトルMVbを検出する。
そして、該検出されたグループAとグループBとの動きベクトル(MVa、MVb)に基づいて、現フレームの動きベクトルを検出する。この現フレームの動きベクトルの検出は、グループAに振り分けられた相関検出ブロックとグループBに振り分けられた相関検出ブロックの数の比率に応じて、グループAとグループBとの動きベクトル(MVa、MVb)から現フレームの動きベクトルMVを検出する。
C.デジタルカメラ1の動作
実施の形態におけるデジタルカメラ1の動作を説明する前に発明の概略を説明する。
本発明は、手振れのみがある部分(例えば、背景)のような画像の変化が小さい部分の動きベクトルと、被写体の動きが大きい部分のような画像の変化が大きい部分の動きベクトルをそれぞれ算出し、画像の変化が小さい部分と画像の変化が大きい部分とのフレームの画像内に占める範囲に応じて、フレームの動きベクトルを算出するというものである。
図4は、グループ振分部24により振り分けられる相関検出ブロックの様子を示す図であり、前フレームの画像及び現フレームの画像は、山、家、人を含むが、前フレームと、現フレームとでは、人の位置が違うことがわかる。つまり、被写体(人)の動きが手振れより明らかに大きいことがわかる。
そこで、相関検出ブロックのブロック活性度と閾値とを用いて、相関検出ブロックをグループAとBに振り分けることにより、手振れのみがある部分と被写体の動きがある部分とに振り分けている。つまり、被写体の動きがある相関検出ブロックは、前フレームの相関検出ブロックとの相関性(フレーム間の相関性)が低くなり、即ち、ブロック活性度の値が高くなり(フレーム間の画素平均値の差が高くなり)、このブロック活性度の高さを閾値を用いて判断している。
図4を見ると、現フレームで、白く塗りつぶされている相関検出ブロックはグループAに振り分けられる相関検出ブロックであることを示し、黒く塗りつぶされている相関検出ブロックは、グループBに振り分けられる相関検出ブロックであることを示している。つまり、白く塗りつぶされている相関検出ブロックは、ブロック活性度が閾値より小さい相関検出ブロックであることを示し、黒く塗りつぶされている相関検出ブロックは、ブロック活性度が閾値より小さくない相関検出ブロックであることを示している。
そして、グループA、グループB毎に動きベクトルを算出し、グループAの相関検出ブロックの数とグループBの相関検出ブロックの数との比率に応じて、全体の動きベクトルを算出する。これにより、画像内において、手振れの範囲と、動きのある被写体の範囲との割合に応じて、画像全体の動きベクトルを算出することができる。
例えば、図4に示すように、手振れのある部分(背景)の方が、被写体の動きのある部分(人)より、画像内に占める範囲が多い場合には、算出されるフレームの動きベクトルは、算出された背景の動きベクトル(グループAの動きベクトル)と被写体の動きベクトル(グループBの動きベクトル)とのうち、背景の動きベクトルにウエートを置いた動きベクトルということになる。
また、反対に、被写体の動きのある部分(人)の方が、手振れのある部分(背景)より、画像内に占める範囲が多い場合には、算出されるフレームの動きベクトルは、算出された背景の動きベクトル(グループAの動きベクトル)と被写体の動きベクトル(グループBの動きベクトル)とのうち、被写体の動きベクトルにウエートを置いた動きベクトルということになる。
つまり、フレームの画像内に占める範囲が多い方の動きベクトルにウエートを置いて、フレームの動きベクトルを算出するというものである
次に、実施の形態におけるデジタルカメラ1の動作を図5のフローチャートにしたがって説明する。
まず、CPU18は、新たなフレームデータを取得すると、J=1(J:相関検出ブロックの番号)、Na=0、Nb=0に設定し、累積相関値記憶エリアA31と累積相関値記憶エリアB32とに記憶されている情報をクリアに(消去)する(ステップS1)。
ここで、Naとは、ブロック活性度が閾値より低いと判断された相関検出ブロック(グループAに振り分けられた相関検出ブロック)のカウント値を示し、Nbとは、ブロック活性度が閾値より高いと判断された相関検出ブロック(グループBに振り分けられた相関検出ブロック)のカウント値を示すものである。
そして、ブロック分割部21は、取得したフレーム(ここでは、i番目のフレーム)を複数の相関検出ブロックに分割する(ステップS2)。つまり、この相関検出ブロックは、17×13画素を1つのブロックとするので、CCD3から出力された全画素値を、17×13画素の画素値毎に分割する。
次いで、CPU18は、J番目(J=1なので、ここでは1番目)の相関検出ブロックの相関値Hの算出を開始する(ステップS3)。
そして、平均値算出部22は、J番目の相関検出ブロックの画素値の平均値(画素平均値)を算出する(ステップS4)。ここでは、J番目の相関検出ブロックのG画素値の平均値を算出する。
そして、平均値算出部22は、該算出したJ番目の相関検出ブロックの画素平均値をメモリ8のフレーム情報記憶領域33に記憶させるとともに、J番目の相関検出ブロックの代表画素値もフレーム情報記憶領域33に記憶させる(ステップS5)。この代表画素値とは、J番目の相関検出ブロックの中心画素の画素値をいい、図3でいうとアドレス(x,y)が(0,0)となる画素の画素値ということになる。なお、相関検出ブロックの画素平均値を代表画素値とするようにしてもよい。
この記憶されたJ番目の相関検出ブロックの代表画素値と、J番目の相関検出ブロックのブロック平均値とは、次のフレーム(i+1番目のフレーム)の動きベクトルを算出するとき、つまり、ステップS6、ステップS9で用いられる。
次いで、活性度算出部23は、J番目の相関検出ブロック活性度を算出する(ステップS6)。この算出は、フレーム情報記憶領域に記憶されている、1つ前のフレーム(i−1番目のフレーム)のJ番目の相関検出ブロックのG画素値の平均値を読出し、該読み出したi−1番目のフレームのJ番目の相関検出ブロックの平均値と、ステップS4で算出したi番目のフレームのJ番目の相関検出ブロックの平均値との差分の絶対値をとることにより算出され、この差分の絶対値をブロック活性度とする。
次いで、グループ振分部24は、該算出されたブロック活性度が閾値より低いか否かの判断を行う(ステップS7)。つまり、この算出したブロック活性度と閾値によりグループA、グループBのどちらに振り分けるか否かの判断を行うことになる。
ステップS7で、該算出したブロック活性度が閾値より低いと判断されると、グループ振分部24は該相関検出ブロックをグループAに振り分け、カウント部25は、Naのカウントを+1にする(ステップS8)。
次いで、相関値算出部26は、J番目の相関検出ブロック内の各G画素値と、1つ前のフレームのJ番目の相関検出ブロックの代表画素値とから画素の相関値H(差分の二乗)をそれぞれ算出し、累積加算部27は、該算出したそれぞれの画素の相関値Hを累積相関値記憶エリアA31に記憶されているそれぞれの累積相関値Sに加算して記憶し(ステップS9)、ステップS12に進む。なお、累積相関値記憶エリアA31に累積相関値Sが記憶されていない場合はそのまま、算出したそれぞれの画素の相関値Hを記憶させ、この記憶された相関値Hが累積相関値Sということになる。
この相関値Hの算出について具体的に説明すると、i番目のフレームのJ番目の相関検出ブロック内のそれぞれのG画素値から、フレーム情報記憶領域33に記憶されているi−1番目のフレームのJ番目の相関検出ブロックの代表画素値を減算し、該減算されたそれぞれの値を二乗することにより画素の相関値Hを求めることになる。例えば、J番目の相関検出ブロック内にG画素が5個あるとすると、ステップS1で取得したフレームのJ番目の相関検出ブロック内の5個のG画素値から、1つ前のフレームのJ番目の相関検出ブロックの代表画素値を減算し、該減算された値をそれぞれ二乗するので、求められる画素の相関値Hは5個ということになる。
図6(a)は、J番目の検出ブロックのそれぞれのG画素値を示すものであり、図6(b)は、そのJ番目の検出ブロックから算出されたそれぞれの画素の相関値Hの様子を示すものである。このとき算出されたそれぞれの画素の相関値Hのアドレスは、算出の基となった画素のアドレスを用いる。つまり、Aの画素に基づいて算出された画素の相関値Hのアドレス(x,y)は(6,2)となり、Bの画素に基づいて算出された画素の相関値Hのアドレス(x,y)は(7,−3)ということになる。
次に、算出したそれぞれの相関値Hの累積相関値記憶エリアA31に記憶されているそれぞれの累積相関値Sへの加算について具体的に説明する。
まず累積相関値記憶エリアA31に記憶されている累積相関値Sとは、各相関検出ブロックで算出されたそれぞれの画素の相関値Hを同じ位置の画素同士で加算した値のことをいう。
つまり、図7に示すように各相関検出ブロックで算出されたそれぞれの画素の相関値Hの中で、アドレスが同じ画素の相関値Hをそれぞれ加算したものが累積相関値Sということになり、累積相関値Sの数は、相関値Hの数、相関検出ブロック内のG画素の数と同じ数だけ存在するということになる。
このとき、それぞれの累積相関値Sは、加算した画素の相関値Hのアドレスを用いる。
例えば、アドレス(x,y)が(6,2)の画素の相関値Hをそれぞれ加算した累積相関値Sのアドレス(x,y)は(6,2)ということになり、アドレス(x,y)が(7,−3)の画素の相関値Hがそれぞれ加算された累積相関値Sのアドレスは(7,−3)ということになる。
図6(c)は、累積相関値Sの様子を示すものであり、図6(b)に示すように新たに算出された画素の相関値Hは、この累積相関値Sに加算される。このとき、累積相関値Sに、該累積相関値Sのアドレスと同じアドレスの画素の相関値Hが加算される。
一方、ステップS7で、算出したブロック活性度が閾値よりも少なくないと判断すると、グループ振分部24は、該相関検出ブロックをグループBに振り分け、カウント部25は、Nbのカウントを+1にする(ステップS10)。
次いで、ステップS9と同様に、相関値算出部26は、J番目の相関検出ブロック内の各G画素値と、1つ前のフレームのJ番目の相関検出ブロックの代表画素値とから画素の相関値H(差分の二乗)をそれぞれ算出し、累積加算部27は、該算出したそれぞれの画素の相関値Hを累積相関値記憶エリアB32に記憶されているそれぞれの累積相関値Sに加算して記憶し(ステップS11)、ステップS12に進む。なお、累積相関値記憶エリアB32に累積相関値Sが記憶されていない場合はそのまま、算出したそれぞれの画素の相関値Hを記憶させ、この記憶された画素の相関値Hが累積相関値Sということになる。
ステップS12に進むと、CPU18は、i番目のフレームの全相関検出ブロックから相関値Hを算出したか否かを判断する(ステップS12)。
ステップS12で、まだ、画素の相関値Hを算出していない相関検出ブロックがあると判断すると、ステップS13でJ=J+1に設定してステップS3に戻る。これにより、次の番号の相関検出ブロックの画素の相関値Hを求めることができる。
一方、ステップS12で、相関値Hを算出していない相関検出ブロックがないと判断すると、動きベクトル算出部28は、累積相関値記憶エリアA31に記憶されている累積相関値Sの中で最小値となる累積相関値Sの位置、つまり、アドレスを検出する(ステップS14)。この検出されたアドレスが動きベクトルMVaとなる。
次いで、累積相関値記憶エリアB32に記憶されている累積相関値Sの中で最小値となる累積相関値Sの位置、つまり、アドレスを検出する(ステップS15)。この検出されたアドレスが動きベクトルMVbとなる。
次いで、CPU18は、i番目のフレームの動きベクトルMVを検出する。このi番目のフレームの動きベクトルの検出は、グループAに振り分けられた相関検出ブロックの数とグループBに振り分けられた相関検出ブロックの数との比率に応じて、グループAとグループBとの動きベクトル(MVa、MVb)から現フレームの動きベクトルMVを検出する。具体的には次式によって行なわれる。
そして、CPU18は、この算出されたフレームの動きベクトルと、i−1番目のフレームでの切り出し範囲とから、i番目のフレームの切り出し範囲を求め、DMA9は、該求められた切り出し範囲にしたがって、メモリ8に記憶されているi番目のフレームの画像データ(ベイヤーデータ)を切り出して読出し、画像生成部10に出力させ、CPU18は、i+1番目のフレームの動きベクトルを算出する処理を開始する。
(数1)
MV=(Na×MVa+Nb×MVb)/(Na+Nb)
Na;グループAに振り分けられた相関検出ブロックの数
Nb;グループBに振り分けられた相関検出ブロックの数
D.以上のように、実施の形態においては、分割された各相関検出ブロックのブロック活性度を算出し、該算出されたブロック活性度と閾値とに基づいて、各相関検出ブロックを2つのグループに振り分け、該振り分けられたグループ毎に代表点マッチング法を用いてグループの動きベクトルを算出し、各グループのブロック数に応じてグループAとグループBとの動きベクトルから現フレームの動きベクトルMVを検出するので、簡素な処理で、画像内に占める画像変化の小さい部分(例えば、手振れ部分)と、画像変化の大きい部分(例えば、被写体の動きのある部分)の範囲の割合に応じて、適切な動きベクトルを算出することができる。例えば、画像内に占める範囲が殆ど手振れ部分(例えば、背景部分)である場合には、手振れ部分の動きベクトルにウエートを置いた動きベクトルを算出し、画像内に占める範囲が被写体の動きがある部分である場合には、被写体の動きがある部分の動きベクトルにウエートを置いた動きベクトルを算出する。
また、ベイヤーデータ(CCDデータ、生データ)を用いて代表点マッチング法により各グループの動きベクトルを算出するので、補間処理が不要となり処理時間を短くすることができ、更に、G画素値のみを用いて代表点マッチング法により各グループの動きベクトルを算出するので、画素数が半分になるので演算回数も半分ですみ、更に処理時間を短くすることができる。
なお、上記実施の形態においては、画素平均値や画素の相関値Hを算出するのに、相関検出ブロック内の全てのG画素値を用いるようにしたが、間引いたG画素値を用いるようにしてもよい。
また、上記実施の形態においては、フレーム毎に動きベクトルMVを検出するようにしたが、フィールド毎に動きベクトルMVを検出するようにしてもよい。
また、上記実施の形態においては、フレームデータの各相関検出ブロックから画素平均値を算出するようにしたが、AE用の測光回路の結果データを流用してもよい。つまり、その位置の時間軸の変化の度合いが反映される値であればなんでもよい。なお、この場合には、AE検出ブロックと相関検出ブロックとが対応している必要がある。
また、グループ振分部24は、各相関検出ブロックを2つのグループに振り分けるようにしたが、3つのグループや4つのグループに振り分けるようにしてもよい。この場合、振り分けるグループ数に応じて複数の閾値を設けるようにし、グループ数に対応する累積相関値記憶エリアを設け、グループ毎に動きベクトルを算出し、グループ毎の相関検出ブロックの数の比率に応じて、グループ毎の動きベクトルから1つの動きベクトルMVを算出するようにする。
また、ブロック活性度を、単に相関検出ブロック内のG画素値の平均値とするようにしたが、重み付けを行なって平均値を算出し、これをブロック活性度とするようにしてもよい。例えば、G1、G2、G3の3つの画素値がある場合、通常の平均値は、(G1+G2+G3)/3となるが、重み付けを行なって平均値を算出する場合には、(G1+G2×2+G3)/3というようになる。
また、画像全体を用いて動きベクトルを検出するようにしたが、一部のエリア(例えば、フォーカスエリア)内の画像を用いて動きベクトルを検出するようにしてもよい。
また、ベイヤーデータに基づいて、フレームの動きベクトルを検出するようにしたが、画像生成部10によって生成された輝度色差信号の画像データに基づいてフレームの動きベクトルを算出するようにしてもよい。
さらに、上記実施の形態では、本発明の動きベクトル検出装置をデジタルカメラに適用した場合について説明したが、これに限定されるものではなく、カメラ付き携帯電話、カメラ付きPDA、カメラ付きパソコン、カメラ付きICレコーダ、又はデジタルビデオカメラ等でもよく、更には、カメラ機能が搭載されていない携帯電話、PDA、パソコン等でもよく、要はフレームデータから動きベクトルを検出することができる機器であれば何でもよい。
本発明の実施の形態のデジタルカメラ1のブロック図である。 CPU18の機能ブロック図である。 分割された相関検出ブロックの様子を示すものである。 発明の概略を説明するための図である。 実施の形態のデジタルカメラの動作を示すフローチャートである。 相関値H、及び累積相関値Sへの加算の方法を説明するための図である。 累積相関値Sを説明するための図である。
符号の説明
1 デジタルカメラ
2 撮影レンズ
3 CCD
4 垂直ドライバ
5 TG
6 ユニット回路
7 DMA
8 メモリ
9 DMA
10 画像生成部
11 DMA
12 DMA
13 表示部
14 DMA
15 圧縮部
16 DMA
17 フラッシュメモリ
18 CPU
19 バス
21 ブロック分割部(分割手段)
22 平均値算出部
23 活性度算出部(活性度算出手段)
24 グループ振分部(振分手段)
25 カウント部
26 相関値算出部(算出手段)
27 累積加算部(算出手段)
28 動きベクトル算出部(算出手段、検出手段)
31 累積相関値記憶エリアA
32 累積相関値記憶エリアB
33 フレーム情報記憶領域

Claims (16)

  1. フレームデータ毎に動きベクトルを検出する動きベクトル検出装置であって、
    フレームデータを取得する取得手段と、
    前記取得手段により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出手段と、
    前記活性度算出手段により算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分手段と、
    前記振分手段により振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出手段と、
    前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出手段と、
    を備えたことを特徴とする動きベクトル検出装置。
  2. 前記活性度算出手段は、
    現フレームデータの相関検出ブロックの画素値に基づく値と、前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出することを特徴とする請求項1記載の動きベクトル検出装置。
  3. 前記活性度算出手段は、
    現フレームデータの相関検出ブロックの画素値の平均値と、前フレームデータの同位置相関検出ブロックの画素値の平均値との差をとることにより、相関検出ブロックのブロック活性度を算出することを特徴とする請求項1記載の動きベクトル検出装置。
  4. 前記活性度算出手段は、
    現フレームデータの相関検出ブロック内の1部の画素の画素値に基づく値と、前フレームデータの同位置相関検出ブロック内の1部の画素の画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出することを特徴とする請求項1記載の動きベクトル検出装置。
  5. 前記活性度算出手段は、
    ベイヤーデータの現フレームデータの相関検出ブロックの画素値に基づく値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの画素値に基づく値との差をとることにより、相関検出ブロックのブロック活性度を算出することを特徴とする請求項1記載の動きベクトル検出装置。
  6. 前記活性度算出手段は、
    相関検出ブロックのG画素値を用いて相関検出ブロックのブロック活性度を算出することを特徴とする請求項5記載の動きベクトル検出装置。
  7. 前記振分手段は、
    前記活性度算出手段により算出された相関検出ブロックのブロック活性度が閾値より低いか否かを判断する判断手段を含み、
    前記判断手段により相関検出ブロックのブロック活性度が閾値より低いと判断された相関検出ブロックを第1の郡に振り分け、前記判断手段により相関検出ブロックのブロック活性度が閾値より高いと判断された相関検出ブロックを第2の郡に振り分けることを特徴とする請求項1乃至6の何れかに記載の動きベクトル検出装置。
  8. 前記動きベクトル算出手段は、
    現フレームデータの相関検出ブロック内の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、相関検出ブロック内の画素の相関値を算出する相関値算出手段を含み、前記相関値算出手段により算出された各相関検出ブロック内の画素の相関値に基づいて、群ごとの動きベクトルを算出することを特徴とする請求項1乃至7の何れかに記載の動きベクトル検出装置。
  9. 前記相関値算出手段は、
    現フレームデータの相関検出ブロック内の1部の画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出することを特徴とする請求項8記載の動きベクトル検出装置。
  10. 前記相関値算出手段は、
    ベイヤーデータの現フレームデータの相関検出ブロック内の画素値と、ベイヤーデータの前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出することを特徴とする請求項8記載の動きベクトル検出装置。
  11. 前記相関値算出手段は、
    現フレームデータの相関検出ブロック内のG画素値と、前フレームデータの同位置相関検出ブロックの代表画素値との差をとることにより、各相関検出ブロック内の画素の相関値を算出することを特徴とする請求項10記載の動きベクトル検出装置。
  12. 前記動きベクトル算出手段は、
    前記振分手段により振り分けられた郡ごとに、前記相関値算出手段により算出された各相関検出ブロックの画素の相関値を、画素位置が同じ画素の相関値毎に加算する累積加算手段を含み、前記累積加算手段により加算された群ごとの値に基づいて、群ごとの動きベクトルを算出することを特徴とする請求項8乃至11の何れかに記載の動きベクトル検出装置。
  13. 前記動きベクトル算出手段は、
    前記累積加算手段により加算された値の中で最も小さい値の画素位置に基づいて、動きベクトルを算出することを特徴とする請求項12記載の動きベクトル検出装置。
  14. 前記検出手段は、
    前記振分手段により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出手段により算出された郡ごとの動きベクトルを合成することにより、1つのフレームデータの動きベクトルを検出することを特徴とする請求項1乃至13の何れかに記載の動きベクトル算出装置。
  15. フレームデータ毎に動きベクトルを検出する動きベクトル検出装置を実行させるためのプログラムであって、
    フレームデータを取得する取得処理と、
    前記取得処理により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出処理と、
    前記活性度算出処理により算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分処理と、
    前記振分処理により振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出処理と、
    前記振分処理により複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出処理により算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出処理と、
    を含むことを特徴とするプログラム。
  16. フレームデータ毎に動きベクトルを検出する動きベクトル検出方法であって、
    フレームデータを取得する取得ステップと、
    前記取得処理により取得されたフレームデータから相関検出ブロック単位でブロック活性度を算出する活性度算出ステップと、
    前記活性度算出ステップにより算出された各相関検出ブロックのブロック活性度に基づいて、複数の相関検出ブロックを複数の群に振り分ける振分ステップと、
    前記振分ステップにより振り分けられた郡ごとの動きベクトルを算出する動きベクトル算出ステップと、
    前記振分ステップにより複数の郡に振り分けられた相関検出ブロックの数の比率に応じて、前記動きベクトル算出ステップにより算出された郡ごとの動きベクトルから、1つの動きベクトルを算出することにより、1つのフレームデータの動きベクトルを検出する検出ステップと、
    を含むことを特徴とする動きベクトル検出方法。
JP2005311757A 2005-10-26 2005-10-26 動きベクトル検出装置及びそのプログラム Expired - Fee Related JP5003991B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2005311757A JP5003991B2 (ja) 2005-10-26 2005-10-26 動きベクトル検出装置及びそのプログラム
PCT/JP2006/319817 WO2007049432A1 (en) 2005-10-26 2006-09-27 Imaging apparatus with motion vector detecting function
US11/585,018 US8320452B2 (en) 2005-10-26 2006-10-23 Imaging apparatus with motion vector detecting function
TW95139314A TWI380681B (en) 2005-10-26 2006-10-25 Imaging apparatus with motion vector detecting function

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005311757A JP5003991B2 (ja) 2005-10-26 2005-10-26 動きベクトル検出装置及びそのプログラム

Publications (3)

Publication Number Publication Date
JP2007122275A JP2007122275A (ja) 2007-05-17
JP2007122275A5 JP2007122275A5 (ja) 2008-12-04
JP5003991B2 true JP5003991B2 (ja) 2012-08-22

Family

ID=37546882

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005311757A Expired - Fee Related JP5003991B2 (ja) 2005-10-26 2005-10-26 動きベクトル検出装置及びそのプログラム

Country Status (4)

Country Link
US (1) US8320452B2 (ja)
JP (1) JP5003991B2 (ja)
TW (1) TWI380681B (ja)
WO (1) WO2007049432A1 (ja)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20080095084A (ko) * 2007-04-23 2008-10-28 삼성전자주식회사 영상 잡음 제거 장치 및 방법
JP4893471B2 (ja) 2007-05-24 2012-03-07 カシオ計算機株式会社 画像処理装置及びプログラム
JP4981565B2 (ja) * 2007-07-19 2012-07-25 パナソニック株式会社 表示制御装置、撮像装置および印刷装置
US8896712B2 (en) * 2007-07-20 2014-11-25 Omnivision Technologies, Inc. Determining and correcting for imaging device motion during an exposure
JP5286805B2 (ja) * 2008-01-31 2013-09-11 沖電気工業株式会社 動きベクトル検出装置及び方法、動画像符号化装置及び方法、並びに、動画像復号化装置及び方法
JP5105616B2 (ja) * 2008-02-08 2012-12-26 カシオ計算機株式会社 撮像装置及びプログラム
JP5213493B2 (ja) * 2008-03-26 2013-06-19 三洋電機株式会社 動き検出装置
JP5374220B2 (ja) * 2009-04-23 2013-12-25 キヤノン株式会社 動きベクトル検出装置およびその制御方法、ならびに撮像装置
US20110001882A1 (en) * 2009-07-06 2011-01-06 Sony Corporation Method and system for determining motion vectors for flat regions
KR101459714B1 (ko) * 2009-10-28 2014-11-13 에스케이텔레콤 주식회사 공간 분할을 이용한 움직임 벡터 부호화/복호화 방법 및 장치와 그를 이용한 영상 부호화/복호화 방법 및 장치
JP2011244031A (ja) * 2010-05-14 2011-12-01 Fujifilm Corp 画像データ伸張装置および画像データ圧縮装置,ならびにそれらの動作制御方法
JP6095519B2 (ja) * 2013-08-09 2017-03-15 三菱電機株式会社 撮像装置

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5237405A (en) * 1990-05-21 1993-08-17 Matsushita Electric Industrial Co., Ltd. Image motion vector detecting device and swing correcting device
JP2584383B2 (ja) 1992-03-02 1997-02-26 三洋電機株式会社 ビデオカメラの手ブレ制御装置
JP3075937B2 (ja) * 1994-11-02 2000-08-14 三洋電機株式会社 動きベクトル検出回路およびそれを用いた被写体追尾カメラ装置
JP3213492B2 (ja) * 1994-11-28 2001-10-02 三洋電機株式会社 手振れ補正装置およびそれを用いたビデオカメラ
JPH08251474A (ja) * 1995-03-15 1996-09-27 Canon Inc 動きベクトル検出装置,動きベクトル検出方法,画像ぶれ補正装置,画像追尾装置及び撮像装置
US5835138A (en) * 1995-08-30 1998-11-10 Sony Corporation Image signal processing apparatus and recording/reproducing apparatus
JPH10173992A (ja) * 1996-12-10 1998-06-26 Nec Corp 画像修正装置
JPH11231832A (ja) * 1998-02-17 1999-08-27 Matsushita Electric Ind Co Ltd 動ベクトル検出方法、動画像表示方法及び動画像表示装置
US6249613B1 (en) * 1997-03-31 2001-06-19 Sharp Laboratories Of America, Inc. Mosaic generation and sprite-based coding with automatic foreground and background separation
JPH11187303A (ja) * 1997-12-22 1999-07-09 Canon Inc 画像処理装置および方法並びに記憶媒体
JP2000023024A (ja) * 1998-06-30 2000-01-21 Toshiba Corp 画像入力装置
JP2002305683A (ja) * 2001-04-04 2002-10-18 Olympus Optical Co Ltd 撮像装置および撮像プログラムを記録した記録媒体
JP4499317B2 (ja) * 2001-08-01 2010-07-07 オリンパス株式会社 画像処理システム
JP4704630B2 (ja) * 2001-09-14 2011-06-15 アロカ株式会社 超音波パノラマ画像形成装置
DE60135036D1 (de) * 2001-10-05 2008-09-04 Mitsubishi Electric Corp Verfahren und Vorrichtung zur Kompensation von fehlerhaften Bewegungsvektoren in Bilddaten
JP3929819B2 (ja) * 2002-04-25 2007-06-13 三菱電機株式会社 監視装置及び方法並びにプログラム
EP1377040A1 (en) * 2002-06-19 2004-01-02 STMicroelectronics S.r.l. Method of stabilizing an image sequence
JP4228391B2 (ja) * 2003-10-07 2009-02-25 日本ビクター株式会社 監視システム
KR101108634B1 (ko) * 2004-01-06 2012-01-31 소니 주식회사 화상 처리 장치 및 화상 처리 방법 및 기록 매체
JP4022595B2 (ja) * 2004-10-26 2007-12-19 コニカミノルタオプト株式会社 撮影装置

Also Published As

Publication number Publication date
US20070092009A1 (en) 2007-04-26
US8320452B2 (en) 2012-11-27
TWI380681B (en) 2012-12-21
JP2007122275A (ja) 2007-05-17
TW200733719A (en) 2007-09-01
WO2007049432A1 (en) 2007-05-03

Similar Documents

Publication Publication Date Title
JP5003991B2 (ja) 動きベクトル検出装置及びそのプログラム
CN109040609B (zh) 曝光控制方法、装置、电子设备和计算机可读存储介质
EP2387229B1 (en) Image capturing apparatus and camera shake correction method, and computer-readable medium
US8466969B2 (en) Imaging apparatus and shake correcting method
US9264651B2 (en) Moving image reproducing apparatus capable of adjusting display position of indicator for motion analysis based on displacement information of frames, and moving image reproducing method and recording medium for same
JP5643563B2 (ja) 画像処理装置及びその制御方法
EP2219366B1 (en) Image capturing device, image capturing method, and image capturing program
JP5804138B1 (ja) 検出装置、検出方法及びプログラム
CN108337450B (zh) 图像处理装置、图像处理方法以及记录介质
US9589339B2 (en) Image processing apparatus and control method therefor
JP2009177472A (ja) 画像処理方法、画像処理装置及び撮像装置
JP2007324856A (ja) 撮像装置、撮像制御方法
US8941763B2 (en) Image capture device, method for generating composite image, and storage medium
JP6332212B2 (ja) 姿勢推定装置、姿勢推定方法及びプログラム
KR20170011555A (ko) 디지털 촬영 장치 및 그 방법
US11722788B2 (en) Image processing apparatus and method, and image capturing apparatus
JP2000023024A (ja) 画像入力装置
JP5179859B2 (ja) 撮像装置及び撮像方法
JP5159647B2 (ja) 画像処理装置及び画像処理方法
JP5610818B2 (ja) 撮像装置及びその制御方法
JP5051091B2 (ja) 撮像装置、画像信号処理装置、撮像方法、および画像信号処理方法
JP2001194701A (ja) デジタルカメラ
JP5602825B2 (ja) 画像処理装置及び画像処理方法
JP2021086269A (ja) 画像処理装置、その制御方法及びプログラム
JP2020010097A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法およびプログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081022

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081022

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150601

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5003991

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees