JP2007279800A - 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 - Google Patents

動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 Download PDF

Info

Publication number
JP2007279800A
JP2007279800A JP2006101666A JP2006101666A JP2007279800A JP 2007279800 A JP2007279800 A JP 2007279800A JP 2006101666 A JP2006101666 A JP 2006101666A JP 2006101666 A JP2006101666 A JP 2006101666A JP 2007279800 A JP2007279800 A JP 2007279800A
Authority
JP
Japan
Prior art keywords
motion vector
frame image
correlation
correlation value
camera shake
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006101666A
Other languages
English (en)
Inventor
Makoto Ouchi
真 大内
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2006101666A priority Critical patent/JP2007279800A/ja
Publication of JP2007279800A publication Critical patent/JP2007279800A/ja
Withdrawn legal-status Critical Current

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • Image Analysis (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Studio Devices (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】動きベクトルの誤差が動画像処理へ与える影響を少なくする。
【解決手段】動画像から時系列順に前後する2つのフレーム画像である参照フレーム画像
と探索フレーム画像を取得するフレーム画像取得手段と、参照フレーム画像と探索フレー
ム画像の画像間の相関値を算出する相関値算出手段と、相関値に基づいて、参照フレーム
画像を基準とする探索フレーム画像の画像全体の動きを示す動きベクトルを算出する動き
ベクトル算出手段とを備え、動きベクトル算出手段は相関値算出手段が算出した相関値の
うち最も相関が強い相関値と2番目に相関が強い相関値との差の絶対値が所定の閾値Aよ
りも小さい場合に時系列順で一つ前の前記フレーム画像の動きベクトルを探索フレーム画
像の前記動きベクトルとし、相関値のうち最も相関が強い相関値が相関の強さを示す所定
の閾値Bよりも相関が弱い場合に探索フレーム画像の動きベクトルを算出しない。
【選択図】図1

Description

本発明は、動画像からフレーム画像を取得し、取得したフレーム画像の動きベクトルを
検出する動きベクトル検出装置、動きベクトル検出方法と、検出された動きベクトルを用
いる、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を
備えた動画像表示装置に関する。
従来、手ぶれ補正、動画像の圧縮などで重要な技術である動きベクトルの検出は、代表
点マッチング法、ブロックマッチング法など画素の相関値を用いる方法が用いられてきた
(例えば、特許文献1)。特許文献1の動きベクトル検出装置は、前記動画像を構成する
フレーム画像の一つである探索フレーム画像の、当該探索フレーム画像に先行又は後続す
る参照フレーム画像を基準とする動きベクトルを、当該両フレーム間の画素の相関により
求めている。
特開2004−206638号公報
代表点マッチング法、ブロックマッチング法のいずれの方法も画素値の相関を用いて動
きベクトルを検出しているため、画像の内容や動きによっては、検出された動きベクトル
の誤差が大きくなってしまう場合がある。動きベクトルの誤差が大きくなると、手ぶれ補
正、動画像の圧縮など動きベクトルを用いる動画像処理に誤差の影響を与えてしまい、効
果を十分に出すことができなくなるという問題があった。
本発明は、このような従来の課題に着目してなされたもので、その目的は、動きベクト
ルの誤差が動きベクトルを用いる動画像処理へ与える影響を少なくすることができる動き
ベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補
正プログラム、及び手ぶれ補正装置を備えた動画像表示装置を提供することにある。
本発明に係る動きベクトル検出装置は、上記課題を解決すべく、基本的に、動画像から
時系列順に前後する2つのフレーム画像である参照フレーム画像と探索フレーム画像を取
得するフレーム画像取得手段と、前記参照フレーム画像と前記探索フレーム画像の画像間
の相関値を算出する相関値算出手段と、前記相関値に基づいて、前記参照フレーム画像を
基準とする前記探索フレーム画像の画像全体の動きを示す動きベクトルを算出する動きベ
クトル算出手段と、を備え、前記動きベクトル算出手段は、前記相関値算出手段が算出し
た前記相関値のうち最も相関が強い前記相関値と2番目に相関が強い前記相関値との差の
絶対値が所定の閾値Aよりも小さい場合に、時系列順で一つ前の前記フレーム画像の前記
動きベクトルを前記探索フレーム画像の前記動きベクトルとし、前記相関値のうち最も相
関が強い前記相関値が相関の強さを示す所定の閾値Bよりも相関が弱い場合に、前記探索
フレーム画像の動きベクトルを算出しないことを要旨とする。
本発明に係る動きベクトル検出装置によれば、動きベクトル算出手段は、フレーム画像
取得手段が取得した参照フレーム画像と探索フレーム画像から相関値算出手段が算出した
画像間の相関値に基づいて探索フレーム画像の動きベクトルを算出する。相関値算出手段
が算出した相関値のうち最も相関が強い相関値と2番目に相関が強い相関値の差の絶対値
が所定の閾値Aより小さければ、時系列順で前のフレーム画像の動きベクトルを探索フレ
ーム画像の動きベクトルとする。また、相関値算出手段が算出した相関値のうち最も相関
が強い相関値が相関の強さを示す所定の閾値Bより相関が弱ければ、探索フレーム画像の
相関値を算出しない。
最も相関の強い相関値と2番目に相関の強い相関値の差の絶対値が小さいときは、動画
像の内容の変化は少ないが、相関値に基づいて算出された動きベクトルの誤差が大きくな
る可能性が高い。しかし、強い相関値が2つあるので、動画像の内容の変化が少ないと考
えられ、相関値に基づいて算出された動きベクトルよりも時系列順で前のフレームの動き
ベクトルを使うほうが誤差が少ない。そのため、時系列順で前のフレームの動きベクトル
を使うことにより、より誤差が少ない動きベクトルを使うことができる。
また、最も相関の強い相関値の相関が弱い場合は、相関値に基づいて算出された動きベ
クトルに誤差が含まれている可能性が高い。そのため、動きベクトルの誤差が大きくなる
最も相関の強い相関値の相関が弱い場合は、動きベクトルを算出しないようにし、誤差が
多く含まれている動きベクトルが使われないようにすることができる。また、次に誤差が
大きい、最も相関が強い相関値と2番目に相関が強い相関値の差の絶対値が小さいときは
、時系列順で前のフレームの動きベクトルを使用することで誤差の少ない動きベクトルを
代わりに使うことができる。
また、上記した本発明の動きベクトル検出装置では、前記相関値算出手段は、前記参照
フレーム画像と前記探索フレーム画像の相対位置を所定の範囲内で変え、各位置において
、所定の画素ブロックの画素データの輝度値の差の平均値である差分平均値を前記相関値
とする。
こうすれば、画素ブロックを用いたブロックマッチング法で参照フレーム画像と探索フ
レーム画像の相関値、及び動きベクトルを算出することができる。そのため、簡単に、ブ
ロックマッチング法を利用していた従来の動きベクトル検出装置を本発明の動きベクトル
検出装置に置き換えることができる。
また、上記した本発明の手ぶれ補正装置に対応する手ぶれ補正方法は、動画像から時系
列順に前後する2つのフレーム画像である参照フレーム画像と探索フレーム画像を取得す
るフレーム画像取得工程と、前記参照フレーム画像と前記探索フレーム画像の画像間の相
関値を算出する相関値算出工程と、前記相関値に基づいて、前記参照フレーム画像を基準
とする前記探索フレーム画像の画像全体の動きを示す動きベクトルを算出する動きベクト
ル算出工程と、を備え、前記動きベクトル算出工程は、前記相関値算出工程が算出した前
記相関値のうち最も相関が強い前記相関値と2番目に相関が強い前記相関値との差の絶対
値が所定の閾値Aより小さい場合に、時系列順で一つ前の前記フレーム画像の前記動きベ
クトルを前記探索フレーム画像の前記動きベクトルとし、前記相関値のうち最も相関が強
い前記相関値が相関の強さを示す所定の閾値Bよりも相関が弱い場合に、前記探索フレー
ム画像の動きベクトルを算出しないことを要旨とする。
こうすれば、本発明の動きベクトル検出装置と同等の効果が得られる。
また、本発明に係る手ぶれ補正装置は、上記課題を解決すべく、基本的に、上記した動
きベクトル検出装置と、前記動きベクトルに基づいて、前記探索フレーム画像の手ぶれを
補正する手ぶれ補正手段と、を備え、前記手ぶれ補正手段は、前記動きベクトル算出手段
が前記動きベクトルを算出しない場合は、前記手ぶれの補正を行わないことを要旨とする
こうすれば、相関値算出手段が算出した相関値のうち相関が最も強い相関の相関値が相
関を示す所定の閾値Bよりも相関が弱い場合、すなわち、動きベクトルの誤差が最も大き
い場合は、誤差の影響を少なくするために手ぶれの補正をしないようにできる。また、相
関値算出工程が算出した相関値のうち最も相関が強い相関値と2番目に相関が強い相関値
との差の絶対値が所定の閾値Aより小さい場合には、誤差が少ない前のフレームの動きベ
クトルを用いて手ぶれの補正をすることができる。
また、上記した手ぶれ補正装置に対応する手ぶれ補正方法及び手ぶれ補正プログラムは
、上記した動きベクトル検出方法と、前記動きベクトルに基づいて、前記探索フレーム画
像の手ぶれを補正する手ぶれ補正工程と、を備え、前記手ぶれ補正工程は、前記動きベク
トル算出工程が前記動きベクトルを算出しない場合は、前記手ぶれの補正を行わないこと
を要旨とする。
こうすれば、本発明の手ぶれ補正装置と同等の効果が得られる。
また、本発明に係る動画像表示装置は、上記した手ぶれ補正装置を備える。こうすれば
、動きベクトルの誤差の影響を少なくして手ぶれを補正した動画像を表示することができ
る。
以下、本発明を具体化した実施例について図面を用いて説明する。
図1は、手ぶれ補正装置100の構成概略を説明する説明図である。実施例1の手ぶれ
補正装置100は、動きベクトル検出装置90、及び手ぶれを補正する画像補正手段14
0から構成される。動きベクトル検出装置90は、フレーム画像取得手段110、相関値
算出手段120、動きベクトル算出手段130から構成され、入力機器200から動画像
を取得し、フレーム画像の動きベクトルを算出する。また、画像補正手段140は、動き
ベクトル算出手段130が算出した動きベクトルに基づいてフレーム画像取得手段110
が取得したフレーム画像の手ぶれを補正して出力機器210に出力する。
入力機器200としては、ビデオ、デジタルビデオカメラ(DVC)、放送、及び動画
像を保管する動画像データベース(DB)など動画像を出力することができる機器を用い
ることができる。また、入力機器200として動画像が格納されたハードディスク、メモ
リカードなどの記憶媒体を用いても良い。
フレーム画像取得手段110は、入力機器200から出力された動画像からフレーム画
像F(n)(nは時系列順を示す整数)を順次取得する。
相関値算出手段120は、フレーム画像取得手段110が取得したフレーム画像F(n
−1)とF(n)の画像全体の動きを表す画像間の相関値を算出する。
動きベクトル算出手段130は、相関値算出手段120が算出した相関値に基づいて、
フレーム画像F(n)の画像全体の動きを示す動きベクトルV(n)を算出する。
画像補正手段140は、動きベクトルV(n)を用いて、フレーム画像F(n)の手ぶ
れを補正した補正フレーム画像HFG(n)を生成し、出力機器210に出力する。
出力機器210としては、CRT、プロジェクタ、テレビなどを用いることができる。
また、ネットワークを介して補正フレーム画像HFG(n)を配信しても良い。また、出
力機器210として、ハードディスク、DVD−ROMなどの記憶媒体を用い、補正フレ
ーム画像HFG(n)を記録しても良い。
以上の構成の手ぶれ補正装置100は、上記の各部における処理をソフトウェアプログ
ラムで実現し、その処理プログラムである手ぶれ補正プログラムをインストールしたコン
ピュータにより構成される。このコンピュータ(図示なし)は、CPU,ROM,RAM
,ハードディスク、インターフェース等を備え、キーボード、ディスプレイ等と接続され
た一般的な計算機である。このコンピュータのROMには手ぶれ補正プログラムが記憶さ
れ、CPUが手ぶれ補正プログラムを実行することにより、手ぶれ補正装置100として
機能する。以下に、このコンピュータでCPUにより実行される上記各部の処理について
、図2のフローチャートを用いて説明する。
処理を開始すると、フレーム画像取得手段110は、入力機器200からフレーム画像
F(n)を取得する(ステップS100)。
次に、相関値算出手段120は、フレーム画像取得手段110が取得したフレーム画像
F(n−1)(参照フレーム画像)とF(n)(探索フレーム画像)の画像間の相関値を
算出する(ステップS110)。ここで、相関値の算出方法を、図3の相関値の算出方法
を説明するための説明図を用いて説明する。
まず、フレーム画像F(n−1)とF(n)を画素数SX,SYだけずらした位置に重
ねる。そして、フレーム画像のF(n−1)に画素ブロックB(SX,SY)を置く。画
素ブロックB(SX,SY)は、縦N画素、横M画素の予め決められた大きさの四角形の
領域を示す。このときの、画素ブロックB(SX,SY)の左下の座標は、フレーム画像
F(n−1)の座標では(x0、y0)であり、フレーム画像F(n)の座標では、(x
1、y1)である。また、フレーム画像F(n−1)とF(n)はSX,SYだけずれて
いるので、(x1、y1)=(x0−SX,y0+SY)となる。
このときのフレーム画像F(n−1)とF(n)の画像間の相関値D(SX,SY)は
、式(1)のように、画素ブロックB(SX,SY)の中の輝度値の差の平均値(差分平
均値)で算出できる。
Figure 2007279800
P0(x,y):フレーム画像F(n−1)の座標(x,y)の輝度値
P1(x,y):フレーム画像F(n)の座標(x,y)の輝度値
N :画素ブロックの縦の画素数
M :画素ブロックの横の画素数
(x0,y0):フレーム画像F(n−1)の中の画素ブロックの左下の座標
(x1,y1):フレーム画像F(n)の中の画素ブロックの左下の座標
ここで、動きベクトルの検出範囲を水平方向が±TX、垂直方向±TYとすると、相関
値算出手段120は、動きベクトルの検出範囲内でSX,SYを1画素ずつ変更した、(
2×TX+1)×(2×TY+1)個の相関値D(SX,SY)(−TX≦SX≦TX,
−TY≦SY≦TY)を算出する。このように算出した相関値D(SX,SY)は、画素
ブロックB(SX,SY)の中のフレーム画像F(n−1)とF(n)の画像が似ている
(相関が強い)ほど小さくなり、フレーム画像F(n−1)とF(n)の画像が似ていな
い(相関が弱い)ほど大きくなる。
次に、動きベクトル算出手段130は、相関値D(SX,SY)を用いて、フレーム画
像F(n)の画像全体の動きを示す動きベクトルV(n)を算出する(ステップS120
)。ここで、図4のフレーム画像F(n)及び動きベクトルV(n)を説明するための説
明図を用いて動きベクトルV(n)について説明する。
図4(上側)は、フレーム画像取得手段110により取得された時系列順1番目のフレ
ーム画像F(1)と、2番目、3番目のフレーム画像F(2),F(3)の例を示してい
る。また、図4は、画像の中に写っている家が左下方向に移動している例である。
手ぶれ補正装置100は、フレーム画像F(n)から所定の大きさの画像を手ぶれによ
る画像の揺れを軽減する位置で切り出すことで、手ぶれを補正した補正フレーム画像HF
G(n)を生成する。補正フレーム画像HFG(n)のデフォルトの切り出し位置は、そ
れぞれ図4に破線で示したフレーム画像FK(1)〜FK(3)となる。ここで、フレー
ム画像FK(n)は、図4に示したように、フレーム画像F(n)に対して所定の補正限
界値Smax(X方向ではSxmax、Y方向ではSymax)だけ画面サイズが小さい
画像になる。所定の補正限界値Smax(X成分はSxmax,Y成分はSymax)は
、実施例1では、予め手ぶれ補正プログラムにデフォルトで所定の値が設定されているも
のとする。
同じく図4(下側)に、フレーム画像F(1)〜F(3)に映っている物体が同じ位置
になるように配置したフレーム画像F(1)〜F(3),FK(1)〜FK(3)を示し
た。このように配置したときのフレーム画像FK(n)の相対位置の差が動きベクトルで
ある。すなわち、動きベクトルV(2)はフレーム画像FK(2)とFK(1)の相対位
置の差であり、動きベクトルV(3)はフレーム画像FK(3)とフレーム画像FK(2
)の相対位置の差である。また、図4の例では、フレーム画像F(1)の前のフレームは
ないので、動きベクトルV(1)は0になる。
この相対位置が、図3のフレーム画像F(n−1)とF(n)を重ねる位置を示す(S
X,SY)に相当する。図4(下側)のように映っている物体が同じ位置になるように配
置する相対位置を(X1,Y1)とすると、このときの相関値D(X1,Y1)は、画素
ブロックB(X1,Y1)の中の画像が最も似ており、相関も最も強くなる。したがって
、相関値算出手段120が算出した相関値D(SX,SY)のうち、最も相関が強くなる
(X1,Y1)が、動きベクトルV(n)になる。
次に、動きベクトル算出手段130は、相関値D(SX,SY)のうち、最も相関が強
い相関値D(X1,Y1)と2番目に相関が強い相関値D(X2、Y2)の差の絶対値(
|D(X1,Y1)−D(X2,Y2)|)が所定の閾値Aより小さいかどうかを調べる
(ステップS130)。(|D(X1,Y1)−D(X2,Y2)|)が所定の閾値Aよ
り小さい場合(ステップS130:YES)は、前のフレームで算出した動きベクトルV
(n−1)を動きベクトルV(n)とする(ステップS140)。
(|D(X1,Y1)−D(X2,Y2)|)が小さいときは、画像の似ている箇所が
2箇所以上あるため、相関値D(SX,SY)から算出された動きベクトルV(n)の誤
差は大きくなる。しかし、相関の高い箇所があるので、フレーム画像F(n−1)とF(
n)で画像の内容の差は大きくない。また、画像の内容の差が少ないので、前のフレーム
画像F(n−1)から画像全体の動きの変化も少ない。したがって、前のフレームの動き
ベクトルV(n−1)をフレーム画像F(n)の動きベクトルV(n)とすることで、相
関値D(SX,SY)から直接算出された動きベクトルよりは、誤差の少ない動きベクト
ルV(n)を算出することができる。また、所定の閾値Aは、手ぶれを補正する動画像の
内容に応じて手ぶれ補正装置100の利用者が設定する。例えば、実施例1では、最大の
相関値の5%とする。
次に、相関値D(SX,SY)のうち、最も相関が強い相関値D(X1,Y1)と2番
目に相関が強い相関値D(X2、Y2)の差の絶対値(|D(X1,Y1)−D(X2−
Y2)|)が所定の閾値A以上の場合(ステップS130:NO)は、相関が最も強い相
関値D(X1,Y1)が所定の閾値Bよりも小さいかどうかを調べる(ステップS150
)。相関が最も強い相関値D(X1,Y1)が所定の閾値Bよりも小さい場合(ステップ
S150:YES)は、動きベクトル算出手段130によりフレーム画像F(n)の動き
ベクトルV(n)を無効にする(ステップS160)。一方、相関が最も強い相関値D(
X1,Y1)が所定の閾値Bよりも小さくない場合(ステップS150:NO)は、ステ
ップS170に進む。
相関値D(SX,SY)は、画像全体の動きよりも、画像の内容の変化の影響を強く受
けていると、最も相関が強い相関値D(X1,Y1)が小さくなる。そのため、相関値D
(X1,Y1)を所定の閾値Bと比較し、所定の閾値Bよりも小さい場合は、相関値D(
SX,SY)による動きベクトルの算出が誤差が多くなりすぎて無理であると判断し、動
きベクトル算出手段130は動きベクトルの算出を中止、すなわち、動きベクトルV(n
)を無効にする。こうすることで、動きベクトルの誤差が大きくなる場合に、誤差の大き
い動きベクトルV(n)が使われることを防ぐことができる。また、所定の閾値Bは、手
ぶれを補正する動画像の内容に応じて手ぶれ補正装置100の利用者が設定する。例えば
、実施例1では、最大の相関値の5%とする。
次に、画像補正手段140は、フレーム画像F(n)の手ぶれの補正を行うための補正
量を示す補正位置ベクトルS(n)を算出し、補正位置ベクトルS(n)を用いて手ぶれ
の補正をした補正フレーム画像HFG(n)を生成する(ステップS170)。
図5は、画像補正手段140による手ぶれの補正を説明するための説明図である。図5
を用いて、図4で説明したフレーム画像F(2),F(3)の手ぶれの補正方法を説明す
る。補正位置ベクトルS(2),S(3)は、フレーム画像F(2),F(3)から補正
フレーム画像HFG(2),HFG(3)を切り取る位置を示すベクトルであり、デフォ
ルトの補正フレーム画像と同じ位置にあるフレーム画像FK(2),FK(3)からの相
対位置で表される。
ここで、補正位置ベクトルS(2),S(3)を動きベクトルV(2),V(3)の向
きを反対方向に変えたベクトルとすれば、切り出される補正フレーム画像HFG(2),
HFG(3)の中に映っている家の位置は変わらなくなり、手ぶれの補正ができたことに
なる。
そして、画像補正手段140は、フレーム画像F(n)を補正位置ベクトルS(n)で
示す位置で切り取り補正フレーム画像HFG(n)を生成する。
また、動きベクトル算出手段130により、動きベクトルV(n)が無効にされている
ときは、補正位置ベクトルS(n)を0として、手ぶれの補正をしないようにする。
次に、補正フレーム画像HFG(n)を出力機器210に出力する(ステップS180
)。このようにしてフレーム画像F(n)の手ぶれの補正が終了すると、次にフレーム画
像F(n)が動画像の終わりかどうかを調べる(ステップS190)。フレーム画像F(
n)が動画像の終わりである場合(ステップS190:YES)は、手ぶれ補正プログラ
ムを終了する。
フレーム画像F(n)が動画像の終わりでない場合(ステップS190:NO)は、フ
レーム画像F(n+1)の手ぶれを補正するために、nに1を足して、ステップS100
に戻る。こうして、フレーム画像F(n)の手ぶれの補正が1フレームづつ、時系列順に
進められる。
このように実施例1の手ぶれ補正装置100では、最も強い相関値D(X1,Y1)と
2番目の強い相関値D(X2,Y2)の差が少ないときは、誤差がより少ない一つ前のフ
レームの動きベクトルV(n−1)を用いて手ぶれを補正することで、精度の高い手ぶれ
の補正ができる。また、最も強い相関値D(X1,Y1)の値が小さく動きベクトルV(
n)の誤差が多くなる可能性が高い場合は、動きベクトルV(n)を用いた手ぶれの補正
を休止し、動きベクトルV(n)の誤差による手ぶれの補正のミスを防止することができ
る。
以下、実施例1における手ぶれ補正装置に関する変形例を記載する。
(変形例1)
CPU,ROM,RAMを搭載したプロジェクタなどの動画像表示装置に手ぶれ補正装
置を備えても良い。動画像表示装置のROMに実施例1の手ぶれ補正プログラムを格納し
、動画像表示装置のCPUで手ぶれ補正プログラムを実行させることにより、動画像表示
装置を手ぶれ補正装置として機能させる。こうすれば、動画像を精度良く手ぶれの補正を
して表示することができる。
手ぶれ補正装置の構成概略を説明する説明図。 手ぶれ補正装置の処理手順を説明するフローチャート図。 相関値の算出方法を説明するための説明図。 フレーム画像F(n)及び動きベクトルV(n)を説明するための説明図。 画像補正手段による手ぶれの補正を説明するための説明図。
符号の説明
90…動きベクトル検出装置、100…手ぶれ補正装置、110…フレーム画像取得手
段、120…相関値算出手段、130…動きベクトル算出手段、140…画像補正手段、
200…入力機器、210…出力機器、F(n)…フレーム画像、FK(n)…フレーム
画像、V(n)…動きベクトル、S(n)…補正位置ベクトル、HFG(n)…補正フレ
ーム画像。

Claims (7)

  1. 動画像から時系列順に前後する2つのフレーム画像である参照フレーム画像と探索フレ
    ーム画像を取得するフレーム画像取得手段と、
    前記参照フレーム画像と前記探索フレーム画像の画像間の相関値を算出する相関値算出
    手段と、
    前記相関値に基づいて、前記参照フレーム画像を基準とする前記探索フレーム画像の画
    像全体の動きを示す動きベクトルを算出する動きベクトル算出手段と、を備え、
    前記動きベクトル算出手段は、前記相関値算出手段が算出した前記相関値のうち最も相
    関が強い前記相関値と2番目に相関が強い前記相関値との差の絶対値が所定の閾値Aより
    も小さい場合に、時系列順で一つ前の前記フレーム画像の前記動きベクトルを前記探索フ
    レーム画像の前記動きベクトルとし、前記相関値のうち最も相関が強い前記相関値が相関
    の強さを示す所定の閾値Bよりも相関が弱い場合に、前記探索フレーム画像の動きベクト
    ルを算出しないことを特徴とする動きベクトル検出装置。
  2. 請求項1に記載の動きベクトル検出装置であって、
    前記相関値算出手段は、前記参照フレーム画像と前記探索フレーム画像の相対位置を所
    定の範囲内で変え、各位置において、所定の画素ブロックの画素データの輝度値の差の平
    均値である差分平均値を前記相関値とすることを特徴とする動きベクトル検出装置。
  3. 動画像から時系列順に前後する2つのフレーム画像である参照フレーム画像と探索フレ
    ーム画像を取得するフレーム画像取得工程と、
    前記参照フレーム画像と前記探索フレーム画像の画像間の相関値を算出する相関値算出
    工程と、
    前記相関値に基づいて、前記参照フレーム画像を基準とする前記探索フレーム画像の画
    像全体の動きを示す動きベクトルを算出する動きベクトル算出工程と、を備え、
    前記動きベクトル算出工程は、前記相関値算出工程が算出した前記相関値のうち最も相
    関が強い前記相関値と2番目に相関が強い前記相関値との差の絶対値が所定の閾値Aより
    小さい場合に、時系列順で一つ前の前記フレーム画像の前記動きベクトルを前記探索フレ
    ーム画像の前記動きベクトルとし、前記相関値のうち最も相関が強い前記相関値が相関の
    強さを示す所定の閾値Bよりも相関が弱い場合に、前記探索フレーム画像の動きベクトル
    を算出しないことを特徴とする動きベクトル検出方法。
  4. 請求項1に記載の動きベクトル検出装置と、
    前記動きベクトルに基づいて、前記探索フレーム画像の手ぶれを補正する手ぶれ補正手
    段と、を備え、
    前記手ぶれ補正手段は、前記動きベクトル算出手段が前記動きベクトルを算出しない場
    合は、前記手ぶれの補正を行わないことを特徴とする手ぶれ補正装置。
  5. 請求項3に記載の動きベクトル検出方法と、
    前記動きベクトルに基づいて、前記探索フレーム画像の手ぶれを補正する手ぶれ補正工
    程と、を備え、
    前記手ぶれ補正工程は、前記動きベクトル算出工程が前記動きベクトルを算出しない場
    合は、前記手ぶれの補正を行わないことを特徴とする手ぶれ補正方法。
  6. 請求項5に記載の手ぶれ補正方法をコンピュータに実行させることを特徴とする手ぶれ
    補正プログラム。
  7. 請求項4に記載の手ぶれ補正装置を備えた動画像表示装置。
JP2006101666A 2006-04-03 2006-04-03 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置 Withdrawn JP2007279800A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006101666A JP2007279800A (ja) 2006-04-03 2006-04-03 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006101666A JP2007279800A (ja) 2006-04-03 2006-04-03 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置

Publications (1)

Publication Number Publication Date
JP2007279800A true JP2007279800A (ja) 2007-10-25

Family

ID=38681214

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006101666A Withdrawn JP2007279800A (ja) 2006-04-03 2006-04-03 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置

Country Status (1)

Country Link
JP (1) JP2007279800A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011118057A (ja) * 2009-12-01 2011-06-16 Canon Inc 画像形成装置、画像形成方法及びプログラム
CN101866602B (zh) * 2009-04-16 2013-03-27 联发科技股份有限公司 用于平板显示器的显示控制装置及平板显示装置
KR101384437B1 (ko) * 2008-07-16 2014-04-14 소니 일렉트로닉스 인코포레이티드 움직임 추정을 위해 반복 탐색 결과를 세분화하는 시스템 및 방법, 움직임 추정 시스템 및 기록 매체
WO2017208718A1 (ja) * 2016-06-02 2017-12-07 ソニー株式会社 表示制御装置及び表示制御方法、表示装置、並びに移動体装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02157980A (ja) * 1988-12-09 1990-06-18 Matsushita Electric Ind Co Ltd 画像の動きベクトル検出装置及び揺れ補正装置
JPH06284329A (ja) * 1992-02-03 1994-10-07 Sanyo Electric Co Ltd 動きベクトル検出回路
JPH0738800A (ja) * 1993-06-28 1995-02-07 Sanyo Electric Co Ltd 手振れ補正装置を有するビデオカメラ
JP2000078450A (ja) * 1998-09-02 2000-03-14 Canon Inc 撮像装置、再生装置及び撮像記録再生装置
JP2000222587A (ja) * 1999-01-27 2000-08-11 Matsushita Electric Ind Co Ltd 直交変換―ドメインブロックマッチングを用いる動き推定
JP2003078807A (ja) * 2001-08-31 2003-03-14 Sony Corp 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置
JP2005260481A (ja) * 2004-03-10 2005-09-22 Olympus Corp 動きベクトル検出装置及びその検出方法並びにカメラ

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02157980A (ja) * 1988-12-09 1990-06-18 Matsushita Electric Ind Co Ltd 画像の動きベクトル検出装置及び揺れ補正装置
JPH06284329A (ja) * 1992-02-03 1994-10-07 Sanyo Electric Co Ltd 動きベクトル検出回路
JPH0738800A (ja) * 1993-06-28 1995-02-07 Sanyo Electric Co Ltd 手振れ補正装置を有するビデオカメラ
JP2000078450A (ja) * 1998-09-02 2000-03-14 Canon Inc 撮像装置、再生装置及び撮像記録再生装置
JP2000222587A (ja) * 1999-01-27 2000-08-11 Matsushita Electric Ind Co Ltd 直交変換―ドメインブロックマッチングを用いる動き推定
JP2003078807A (ja) * 2001-08-31 2003-03-14 Sony Corp 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置
JP2005260481A (ja) * 2004-03-10 2005-09-22 Olympus Corp 動きベクトル検出装置及びその検出方法並びにカメラ

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101384437B1 (ko) * 2008-07-16 2014-04-14 소니 일렉트로닉스 인코포레이티드 움직임 추정을 위해 반복 탐색 결과를 세분화하는 시스템 및 방법, 움직임 추정 시스템 및 기록 매체
KR101448440B1 (ko) 2008-07-16 2014-10-13 소니 주식회사 움직임 추정을 위해 반복 탐색 결과를 세분화하는 시스템 및 방법, 움직임 추정 시스템 및 기록 매체
CN101866602B (zh) * 2009-04-16 2013-03-27 联发科技股份有限公司 用于平板显示器的显示控制装置及平板显示装置
JP2011118057A (ja) * 2009-12-01 2011-06-16 Canon Inc 画像形成装置、画像形成方法及びプログラム
WO2017208718A1 (ja) * 2016-06-02 2017-12-07 ソニー株式会社 表示制御装置及び表示制御方法、表示装置、並びに移動体装置
US10757380B2 (en) 2016-06-02 2020-08-25 Sony Corporation Display control device, display control method, display device, and mobile device to control display of media content in a mobile object

Similar Documents

Publication Publication Date Title
US20080180535A1 (en) Motion Vector Calculation Method and Hand-Movement Correction Device, Imaging Device and Moving Picture Generation Device
KR102141290B1 (ko) 화상 처리 장치, 화상 처리 방법, 화상 처리 프로그램 및 기억 매체
JP6570296B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2007226643A (ja) 画像処理装置
JP2010200179A (ja) 画像処理装置、画像処理方法、画像処理プログラムおよび画像処理プログラムが格納されたプログラム記憶媒体
TW201537981A (zh) 圖像處理裝置、圖像處理方法、圖像處理程式及記錄媒體
JP2008217526A (ja) 画像処理装置、画像処理プログラム及び画像処理方法
US20190005323A1 (en) Information processing apparatus for tracking processing
JP5751254B2 (ja) 画像処理システム、画像処理方法および画像処理プログラム
JP2007279800A (ja) 動きベクトル検出装置、動きベクトル検出方法、手ぶれ補正装置、手ぶれ補正方法、手ぶれ補正プログラム、及び手ぶれ補正装置を備えた動画像表示装置
JP4872508B2 (ja) 画像処理装置および画像処理方法、並びにプログラム
JP6282133B2 (ja) 撮像装置、その制御方法、および制御プログラム
US7522189B2 (en) Automatic stabilization control apparatus, automatic stabilization control method, and computer readable recording medium having automatic stabilization control program recorded thereon
JP5820716B2 (ja) 画像処理装置、画像処理方法、コンピュータプログラム、記録媒体、立体画像表示装置
JP4482933B2 (ja) 動きベクトル検出装置、画像表示装置、画像撮像装置、動きベクトル検出方法、プログラムおよび記録媒体
JP5928465B2 (ja) 劣化復元システム、劣化復元方法およびプログラム
JP2016201037A (ja) 画像処理装置、画像処理方法及びプログラム
JP2006215657A (ja) 動きベクトル検出方法、動きベクトル検出装置、動きベクトル検出プログラム及びプログラム記録媒体
JP2012068842A (ja) 動きベクトル検出装置、動きベクトル検出方法、および、動きベクトル検出プログラム
CN115511919B (zh) 视频处理方法、图像检测方法以及装置
JP3969151B2 (ja) 画像表示装置、画像処理方法、プログラム及び情報記憶媒体
JP4727621B2 (ja) 動画像ブレ検出装置、動画像ブレ補正装置、動画像ブレ検出方法、動画像ブレ補正方法、および電子式撮像装置
US11983855B2 (en) Image processing apparatus, image processing method, and program
US11729361B2 (en) Projection apparatus
US20240013361A1 (en) Image processing device and method for image processing

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090402

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110301

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20110428