JP3812750B2 - 動き量検出方法及び動き量検出装置 - Google Patents
動き量検出方法及び動き量検出装置 Download PDFInfo
- Publication number
- JP3812750B2 JP3812750B2 JP2472595A JP2472595A JP3812750B2 JP 3812750 B2 JP3812750 B2 JP 3812750B2 JP 2472595 A JP2472595 A JP 2472595A JP 2472595 A JP2472595 A JP 2472595A JP 3812750 B2 JP3812750 B2 JP 3812750B2
- Authority
- JP
- Japan
- Prior art keywords
- upper layer
- motion vector
- block
- basic
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Lifetime
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【目次】
以下の順序で本発明を説明する。
産業上の利用分野
従来の技術(図7〜図9)
発明が解決しようとする課題
課題を解決するための手段(図1及び図4)
作用(図1及び図4)
実施例
(1)実施例の構成(図1〜図7)
(2)実施例の動作(図1及び図4)
(3)実施例の効果(図1)
(4)他の実施例
発明の効果
【0002】
【産業上の利用分野】
本発明は動き量検出方法及び動き量検出装置に関し、特に階層画像を用いて画像の動き量を検出するものに適用し得る。
【0003】
【従来の技術】
従来、動画像の処理として、動き量(動きベクトル)すなわち時間的に異なる画像中の物体の動き方向と大きさ(又は速さ)を用いるものがある。例えば画像の高能率符号化における動き補償フレーム間符号化などに動き量が用いられている。この画像の動き量を求める方法として、ブロツクマツチング法がある(特公昭54-124927 号公報)。
【0004】
このブロツクマツチング法では、現在の画像(基本画像)と1フレーム分過去の画像(参照画像)からそれぞれ適当な数画素からなるブロツクを形成する。そして例えば基本画像のブロツクを固定し(以下、このように固定する側のブロツクを基準ブロツクと呼ぶ)、参照画像のブロツクを所定のサーチ領域内で移動させたとき(以下、このように移動させる側のブロツクを参照ブロツクと呼ぶ)、基準ブロツクと最も似通つた参照ブロツクの位置を見つけることにより、動きベクトルを検出する。
【0005】
具体的には、図7に示すように、時間的に隣接するnフレームと(n−1)フレームにおいて、空間的に対応する位置にM画素×Nラインの大きさの基準ブロツクと参照ブロツクを設定する。そして基準ブロツクと、サーチ領域内で移動させた参照ブロツクとの間でパターンマツチングを行ない、最も似通つたブロツクの座標を検出する。この際ブロツク内の対応画素の差分絶対値和などがパターンマツチングの評価値として用いられる。
例えばnフレームの各画素レベルを、Ln (i,j) 、(n−1)フレームの各画素レベルをLn-1(i,j)とすると、座標(x、y)における評価値E(x,y)は、次式
【数1】
により求めることができる。
【0006】
図7の例においては、X×Y点の各座標について(1)式を演算して各座標についての評価値E(x、y)を求め、X×Y点の座標のうち、評価値E(x、y)が最小値となる座標が動きベクトルとなる。
以上の処理はフルサーチと呼ばれ、精度は高いが演算量も多くなる。最小値検出処理を除くフルサーチの差分和のための演算回数C0は、次式
【数2】
で表すことができる。
【0007】
従来、このブロツクマツチング法の演算回数C0を少なくするために、様々な工夫がなされてきた。実際には、(2)式のブロツク内画素数を減らす方法とサーチ点数を減らす方法の2種類がある。ブロツク内画素数を減らす方法としては、画素間引きなどの方法等がある。またサーチ点数を減らす方法としては、飛び飛びの粗い座標から細かい座標へと3段階で徐々に座標を決定していく3ステツプサーチ方式等がある。
【0008】
また従来、(2)式で表わされるブロツクマツチング法におけるブロツク内画素数とサーチ点数を同時に減らすことができる手法として階層画像を用いた動き量検出方法が提案されている(特願平5-2448814 号)。
この動き量検出方法では、まず原画像データ(以下これを第1階層と呼ぶ)を、平均化やローパスフイルタ処理等により平均値階層化して、画素数を低減した画像データ(以下これを第2階層と呼ぶ)を作成する。次に作成した第2階層の画像データを用いて大まかな動き量を検出し、その動き量に基づいて第1階層の画像データについて細かい動き量を検出を行うことにより、少ない計算量で動き量を検出し得るようになされている。なおここで階層数は2階層に限らず、順次平均値階層化を繰り返すことにより、さらにデータ量の少ない第3階層、第4階層、……の画像データを作成し、データ量の少ない階層から順に動き量を求めるようにしてもよい。
【0009】
このような動き量検出方法を用いれば、階層数が多くなる程少ない計算量で動き量を求めることができる。すなわち上位階層の画像データほどブロツクのサイズとサーチ領域が小さくなるため、評価関数による演算量は必然的に小さくなる。最終的に動き量を求める最下位階層での評価は、ブロツクサイズ自体は通常のブロツクマツチング法と同じになるが、上位階層の画像データで求めた動き量に応じて動き補償することにより、サーチ領域を小さくできるため、演算量を削減することができる。
【0010】
具体的な例として3階層の階層画像を用いた階層ブロツクマツチングについて、図8及び図9に従つて説明する。図8は階層画像の生成過程を示し、上位階層の画素値を下位階層の2×2の4画素平均処理により生成する。この例では、第1階層で8画素×8ラインのブロツクが、第2階層では4画素×4ラインのブロツクとなり、最上位の第3階層では2画素×2ラインのブロツクとなる。実際には、このような階層画像を現フレーム及び1フレーム分過去の画像について生成する。
【0011】
階層構造の上位階層では、少ない画素数で広い動き領域を表現できることが分かる。そこで図9に示すように、上位階層から順に各階層で動きベクトルv2 、v1 、v0 を検出し、最終的に各階層で検出した動きベクトルを加算することにより第1階層での動きベクトルを求める。このとき各階層では少ないサーチ点により動きベクトルを検出できるため、総演算回数を削減することが可能となる。
【0012】
図9の例で演算回数を試算してみる。まず、最上位階層(第3階層)においてブロツクマツチング法により第3階層の画素精度の動きベクトルv2 を検出する。図7で示したブロツクサイズとサーチ領域で考えると、ブロツクサイズは1/16になり、サーチ点の数も1/16になる。依つて演算回数は(1/16)×(1/16)=1/256 になる。次の第2階層においては、第3階層で得られた動きベクトルv2 を中心に、水平、垂直の+1〜−1の領域をサーチするので、ブロツクサイズは1/4 で、サーチ点の数は3×3=9点となる。第2階層で検出した動きベクトルをv1 とする。
【0013】
最下位階層の第1階層においては、第3階層と第2階層の動きベクトルの加算値(v2 +v1 )を基準に動きベクトルv0 を検出する。このときブロツクサイズはM×Nのままであるが、サーチ点の数は3×3=9点で済む。第1階層で検出した動きベクトルをv0 とする。そして、最終的な検出目標である動きベクトルVが(v0 +v1 +v2 )より得られる。
以上の階層構造を用いた動き量検出における総演算回数C1は、次式
【数3】
で表わされるように非常に小さくなる。このように階層構造を導入することにより大幅に演算回数を削減できる。
【0014】
【発明が解決しようとする課題】
ところが、一般に上位階層画像は下位階層画像に比べて縮小化されており、画像の特徴を表わす高周波成分が減少する傾向にある。このため上位階層における動きベクトルの誤検出の危険性が高まる。特に最上位階層での1画素の検出誤りは、最下位階層での数画素の位置ずれを引き起こし、最終的に検出する動きベクトルが真値から大きくずれてしまうことになる。
本発明は以上の点を考慮してなされたもので、階層画像を用いて動き量を検出する場合の動き量の検出精度を向上し得る動き量検出方法及び動き量検出装置を提案しようとするものである。
【0015】
【課題を解決するための手段】
かかる課題を解決するため本発明においては、基本画像と参照画像との間の動き量を検出する動き量検出装置1において、基本画像と参照画像との間の大まかな動きベクトルMV′を検出する際の対象座標を制限する上位階層動きベクトル検出制限手段2と、基本画像を分割した基本ブロツクの一部である基本小ブロツク内画素のアクテイビテイを当該基本小ブロツクに対応させることにより形成され当該基本画像よりも解像度の低い第1の基本上位階層画像と、参照画像を分割した参照ブロツクの一部である参照小ブロツク内画素のアクテイビテイを当該参照小ブロツクに対応させることにより形成され当該参照画像よりも解像度の低い第1の参照上位階層画像とを用いて、上位階層動きベクトル検出制限手段2により制限された候補点のなかから、基本小ブロツクのアクテイビテイと、当該基本小ブロツクに対応する参照小ブロツクのアクテイビテイとの差分量における絶対値を上記基本ブロツク内の上記基本小ブロツクについて加算したものを評価値として、基本ブロツクと参照ブロツクとの間のブロツクマツチング法により大まかな動きベクトルMV′を検出する上位階層動きベクトル検出手段3と、基本画像及び参照画像を用いて、上位階層動きベクトル検出手段3で求めた上位階層での動きベクトルMV′を中心とした所定のサーチ領域内で基本画像及び参照画像間での細かい動きベクトルMVを検出する下位階層動きベクトル検出手段4とを設けるようにし、上位階層動きベクトル検出制限手段2は、基本小ブロツク毎の画素値の平均値により形成された第2の基本上位階層画像と参照小ブロツク毎の画素値の平均値により形成された第2の参照上位階層画像との差分をブロツク単位で比較評価することにより大まかな動きベクトルMV′の候補点を検出し、当該大まかな動きベクトルMV′を検出する際の対象座標を当該候補点に制限する。
【0016】
【作用】
上位階層動きベクトル検出手段3により検出された大まかな動きベクトルに基づいて細かい動きベクトルMVを検出するようにしたことにより、少ない演算回数で細かい動きベクトルMVを求めることができる。しかしながら、上位階層動きベクトル検出手段3による検出結果に誤検出が発生すると、最終的な動きベクトルMVの精度は大きく低下することになる。
【0017】
そこで本発明においては、上位階層動きベクトル検出手段3で用いる第1の基本上位階層画像及び第1の参照上位階層画像とは異なる、第2の基本上位階層画像及び第2の参照上位階層画像を用いて上位階層動きベクトル検出手段3における動きベクトル検出対象座標を制限する。この結果第1の基本上位階層画像及び第1の参照上位階層画像のみでは動きベクトルと誤検出されてしまうような座標を予め動きベクトル座標から除外できる。
かくして、階層画像を用いて動き量を検出する場合の動き量の検出精度を向上し得る。
【0018】
【実施例】
以下図面について、本発明の一実施例を詳述する。
【0019】
(1)実施例の構成
図1において、1は全体として本発明による動き量検出装置を示し、入力画像データD1を前処理部2、上位階層動き量検出回路3及び下位階層動き量検出回路4にそれぞれ入力する。上位階層動き量検出回路3は入力画像データD1から上位階層画像を形成し、当該上位階層画像を用いてブロツクマツチング法によつて上位階層での動きベクトルMV′を検出する。この上位階層動きベクトルMV′は下位階層動き量検出回路4に送出される。
【0020】
下位階層動き量検出回路4は入力画像データD1を用いてブロツクマツチングを行うことにより入力画像データD1の画素単位の詳細な動き量を求める。このとき下位階層動き量検出回路4は、上位階層動きベクトルMV′を中心にして下位階層画像(すなわちオリジナル画像)でのサーチ領域を設定して動き検出を行うことにより、少ない演算回数で詳細な動きベクトルMVを求めることができるようになされている。
【0021】
前処理部2は、上位階層動き量検出回路3における動きベクトル検出対象座標を制限するための判定処理を行い、この結果得た判定結果を制御信号D2として上位階層動き量検出回路3に送出する。これにより動き量検出装置1においては、上位階層動き量検出回路3での誤動作を有効に回避でき、最終的な動きベクトルMVの精度を向上し得るようになされている。
【0022】
実際上、前処理部2は、入力画像データD1から上位階層動き量検出回路3とは異なる手法で上位階層画像を形成し、この上位階層画像を用いて各座標についての動きの可能性を判定する。そして動きの可能性のある座標は、上位階層での動きベクトル候補点として残し、動きの可能性がないと判定した座標は上位階層での動きベクトル候補点から除外する制御信号D2を出力するようになされている。
【0023】
上位階層動き量検出回路3は、図2に示すように構成されている。この実施例の上位階層動き量検出回路3においては、現フレーム画像の小ブロツク内のアクテイビテイと参照フレーム画像の小ブロツク内のアクテイビテイを比較することにより上位階層の動きベクトルMV′を求めるようになされている。さらに小ブロツク内のアクテイビテイ比較を順方向及び逆方向の双方向について行うことにより、検出精度を向上するようになされている。
【0024】
上位階層動き量検出回路3は、先ず入力画像データD1Aを現フレームメモリ10に格納すると共に、1フレーム分過去の入力画像データD1Bを参照フレームメモリ11に格納する。現フレームメモリ10及び参照フレームメモリ11の書込み及び読出し動作はコントローラ12によつて制御される。ここでコントローラ12は現フレームメモリ10から図7に示すような基準ブロツクを読み出すと共に、参照フレームメモリ11から読み出す参照ブロツクを所定のサーチ領域内で移動させる。
【0025】
図3は、実施例の上位階層動き量検出回路3によるブロツクマツチングの際のブロツク構造を示す。図3(A)に示す順方向処理において、基本処理構造が示されている。ここで定義される16画素×8ラインのブロツクは、図7のM×Nのブロツクに対応する。実施例では、この16画素×8ラインのブロツクをさらに4画素×2ラインの小ブロツク16個に分割する。
【0026】
そしてNフレームと(N−1)フレームとの間で対応する小ブロツク間のアクテイビテイを比較する。左上隅の小ブロツクX0、Y0について考えると、小ブロツクX0中の最大値及び最小値を検出すると共に小ブロツクY0中の最大値及び最小値を検出し、小ブロツクX0とY0との間の最大値及び最小値を比較評価する。このとき(N−1)フレームにおいては、広い領域をカバーするため、点線で示すように拡張した小ブロツクY0を定義し、この拡張小ブロツクY0内での最大値及び最小値を検出する。この例の場合、4画素×2ラインの小ブロツクY0を拡張して、8画素×4ラインの拡張小ブロツクを定義している。
【0027】
ここで小ブロツクX0の最大値、最小値をmax0、min0と定義し、拡張小ブロツクY0の最大値、最小値をE MAX0、E MIN0と定義すると、比較評価は、X0の値域を拡張Y0の最大値、最小値が上下に飛び出した差分量の絶対値を加算することにより行う。この評価値をブロツク内の全ての小ブロツク16個について加算した結果を、このサーチ点における評価値とする。従つてサーチ点jにおける順方向のブロツクマツチングの評価値Ej は、次式
【数4】
と表すことができる。但し、(4)式における関数SUBは、次式
【数5】
によつて定義されるものとする。
【0028】
この評価値算出処理を、参照ブロツク(すなわち(N−1)フレームのブロツク)をサーチ領域内で移動させることで、対象となる全サーチ点について実行する。なお、この上位階層処理におけるサーチ点は、小ブロツクの大きさに沿つて粗く設定されるため、(32/4)×(16/2)の64点に削減される。
【0029】
図3(B)に示す逆方向処理では、Nフレームにおいて拡張小ブロツクを設定する。そして(N−1)フレームの小ブロツクY0を基準に考えると、最大値MAX0、最小値MIN0に対し、Nフレームの拡張小ブロツクX0の最大値E max0、最小値E min0との比較評価を行なう。従つてサーチ点jにおける逆方向のブロツクマツチングの評価値Ej ′は、次式
【数6】
と表すことができる。
【0030】
順方向及び逆方向の評価値の加算値を双方向の評価値とする。従つてサーチ点jにおける双方向の評価値Ej″は、次式
【数7】
となる。そしてこの評価値Ej″が最小となるサーチ点の座標を上位階層の動きベクトルMV′とする。
このようにして上位階層動き量検出回路3は小ブロツクアクテイビテイ評価法に基づいて、上位階層での粗い動きベクトルMV′を検出する。
【0031】
図2に戻つてこのような双方向のブロツクマツチングを実現する上位階層動き量検出回路3の構成を説明する。上位階層動き量検出回路3は、現フレームメモリ10及び参照フレームメモリ11の出力をそれぞれ小ブロツク化回路13及び14に入力する。小ブロツク化回路13及び14は小ブロツクX0〜X15、Y0〜Y15(図3)を形成する。
【0032】
最大値・最小値検出回路15は各小ブロツクX0〜X15内の最大値及び最小値を検出し、当該検出結果を評価値計算回路19に送出する。同様に最大値・最小値検出回路18は各小ブロツクY0〜Y15内の最大値及び最小値を検出し、当該検出結果を評価値計算回路20に送出する。また最大値・最小値検出回路16は拡張小ブロツクX0〜X15内の最大値及び最小値を検出し、当該検出結果を評価値計算回路20に送出する。同様に最大値・最小値検出回路17は拡張小ブロツクY0〜Y15内の最大値及び最小値を検出し、当該検出結果を評価値計算回路19に送出する。
【0033】
評価値計算回路19は(4)式の演算を行うことにより順方向での評価値Ej を求め、これを加算回路21に与える。評価値計算回路20は(6)式の演算を行うことにより逆方向での評価値Ej ′を求め、これを加算回路21に与える。加算回路21は、順方向での評価値Ej 及び逆方向での評価値Ej ′を用いて(7)式の演算を実行することにより双方向の評価値Ej ″を求め、これを評価値メモリ22に送出する。
【0034】
評価値メモリ22は加算回路21からの出力を参照ブロツクの移動位置に対応したアドレスに順次格納する。評価値メモリ22に格納された評価値Ej ″はコントローラ12からの読出しアドレスに基づいて順次読み出され、最小値検出回路23に与えられる。最小値検出回路23は評価値Ej ″の最小値を検出すると共に、この最小値を与える座標に基づいて上位階層動きベクトルMV′を求める。
【0035】
これに加えて、上位階層動き量検出回路3はコントローラ12に前処理部2からの制御信号D2を入力し、制御信号D2によつて指定された座標についてのみ上述した上位階層の動き検出処理を実行し、指定されない座標については上位階層での動き検出処理は行わない。実際上、上位階層動き量検出回路3においては、制御信号D2によつて指定されない座標のブロツクは現フレームメモリ10及び参照フレームメモリ11から読みださないようにすることで、動きベクトルの検出対象座標を制限する。
【0036】
前処理部2は、図4に示すように構成されている。前処理部2は各小ブロツクの平均値を求めることで上位階層画像を形成し、この上位階層画像を用いて、各ブロツクの動きの可能性を判定する。前処理部2は入力画像データD1を小ブロツク化回路30に入力する。小ブロツク化回路30は上述した上位階層動き量検出回路3の小ブロツク化回路13及び14と同様に入力画像データD1を4画素×2ラインの小ブロツクに分割し、これにより得た小ブロツクデータD3を平均化回路31に送出する。
【0037】
平均化回路31は各小ブロツクデータD3を平均化し、これにより得た平均小ブロツクデータD4をフレームメモリ32及び評価値計算回路33に送出する。評価値計算回路33は、平均化回路31の出力を基準ブロツク(図3の16画素×8ラインのブロツク)とし、フレームメモリ32の出力を参照ブロツク(図3の16画素×8ラインのブロツク)として、参照ブロツクを所定のサーチ領域で移動させた際の各サーチポイントjでの評価値Mj を、次式
【数8】
により求める。なお(8)式において、ABSは絶対値処理を表し、meani はNフレームの小ブロツクXi (図3)の平均値を表し、MEANi は(N−1)フレームの小ブロツクYi (図3)の平均値を表わす。
【0038】
評価値計算回路33により得られた評価値Mj は、最小値検出回路34に与えられると共に、遅延回路35を介して候補点決定回路36に与えられる。最小値検出回路34は、全サーチポイントでの評価値Mjの最小値を検出する。実施例の場合、サーチ点は(32/4)×(16/2)の64点存在する。依つて、64個の評価値Mjの中での最小値M MINを求めることになる。最小値検出回路34により求められた、サーチ領域内の最小値M MINは候補点決定回路36に送出される。
【0039】
候補点決定回路36は、サーチ領域内の評価値Mj の最小値M MINと、当該サーチ領域内の各評価値Mj とを比較する。このとき候補点決定回路36は最小値M MINをk倍した値を閾値THとし、この閾値THと各サーチ点における評価値Mjとを比較する。そして、当該比較結果に応じて各サーチ点を上位階層動き量検出回路3での動き量検出対象候補点とするか否かを決定する。
【0040】
実際上、候補点決定回路36は、評価値Mj が閾値TH以下のサーチポイントを上位階層動き量検出回路3での動き量検出対象候補点とし、評価値Mj が閾値THよりも大きいサーチポイントは上位階層動き量検出回路3での動き量検出対象候補点から除外する制御信号D2を出力する。
【0041】
下位階層動き量検出回路4は、図5に示すように構成されている。下位階層動き量検出回路4は入力画像データD1をブロツク化回路40に入力し、当該ブロツク化回路40によつて入力画像データD1を16画素×8ライン単位のブロツクデータに分割する。このブロツクデータはフレームメモリ41及び評価値計算回路43に与えられる。
【0042】
フレームメモリ41に格納されたブロツクデータは上位階層動き量検出回路3によつて求められた上位階層動きベクトルMV′の分だけ動き補償されて読み出される。そしてサーチブロツク回路42によつて所定のサーチ領域内でブロツクを移動させながら、サーチ領域内のブロツクデータを順次続く評価値計算回路43に与える。なお、ここでは動きベクトルMV′により動き補償されている分だけサーチポイントを少なくすることができ、評価値計算回路43における演算回数は低減されている。
【0043】
評価値計算回路43は、上述した(1)式に基づいて、基準ブロツクと、サーチ領域内で移動された参照ブロツクとの評価値を計算し、これにより得た評価値を最小値検出回路44に送出する。最小値検出回路44は評価値の最も小さかつた参照ブロツクの座標からこの階層での動きベクトルmvを求め、これを加算回路45に与える。加算回路45では、動きベクトルmvと上位階層動きベクトルMV′とが加算されることにより、入力画像データD1についての最終的な動きベクトルMVが求められる。
【0044】
ここで実施例による前処理を導入した階層的動きベクトル検出手法の処理フローを図6に示す。すなわちステツプSP0から入つて、ステツプSP1において、サーチ点カウンタCNT(例えば動き量検出装置1全体を制御する制御部(図示せず)に設けられている)を初期化した後、ステツプSP2に移る。
ステツプSP2において、前処理部2によつて上述のような判定用前処理が行なわれ、評価値Mjが生成され、続くステツプSP3において、評価値Mjと閾値THの間で閾値判定が行なわれ、上位階層での動き量検出処理を施すか否かが決定される。
【0045】
すなわちステツプSP3において評価値Mj が閾値TH以下の場合にはステツプSP4に移つて、ここで上位階層の評価値Ej ″ を生成した後ステツプSP5に進む。これに対して評価値Mj が閾値THより大きい場合には、ステツプSP5に移る。ステツプSP5において、サーチ点カウンタCNTをインクリメントすると、続くステツプSP6でサーチ点カウンタCNTのカウント値から全サーチ点についての処理が終了したか否か判断する。
【0046】
このステツプSP2−SP3−(SP4)−SP5−SP6−SP2の処理がサーチ点カウンタCNTのカウント値が全サーチ点終了を示すまで、繰り返される。やがて全サーチ点での処理が終了すると、ステツプSP6からステツプSP7に移つて、当該ステツプ7において上位階層動き量検出回路3によつてステツプ4で求めた評価値Ej ″の最小値が検出され、上位階層での粗い動きベクトルMV′が検出される。この「粗さ」は前述のように、ブロツク内の小ブロツク精度で決定される。
【0047】
最後にステツプSP8において、粗い動きベクトルMV′を中心に、詳細な動きベクトルMVを決定し、続くステツプSP9に移つて当該処理手順を終了する。このようにして、前処理付き小ブロツクアクテイビテイ評価法が実行される。かくして、上位階層動き検出処理での誤動作を抑制して、最終的な動きベクトルMVの検出精度を向上させることができる。
【0048】
(2)実施例の動作
以上の構成において、動き量検出装置1は、上位階層動き量検出回路3によつて小ブロツク内の最小画素値及び最大画素値に基づいて、ブロツク内小ブロツク単位の上位階層動きベクトルMV′を求める。換言すれば、小ブロツク内の最大画素値及び最小画素値に基づいて形成した上位階層画像を用いて上位階層動きベクトルMV′を求める。
【0049】
また動き量検出装置1は、前処理部2によつて小ブロツク内の平均値に基づいて形成した上位階層画像を用いて各ブロツクが動きブロツクの可能性のあるブロツクか否かを判定する。
【0050】
前処理部2は、あるブロツクが動きベクトルの可能性のあるブロツクであると判定すると、すなわち評価値Mj が閾値TH以下であつた場合には、このブロツクの位置を上位階層での動きベクトル検出対象候補点とし、このことを表わす制御信号D2を上位階層動き量検出回路3に送出する。
【0051】
これに対して前処理部2は、あるブロツクが動きベクトルの可能性のないブロツクであると判定すると、すなわち評価値Mj が閾値THより大きい場合には、このブロツクの位置を上位階層での動きベクトル検出対象候補点から除外し、このことを表わす制御信号D2を上位階層動き量検出回路3に送出する。
【0052】
このように動き量検出装置1においては、もし上位階層動き量検出回路3によつて動き量を検出すると、動きベクトルの検出誤りが発生するおそれのあるブロツクを上位階層での動きベクトル検出対象から除外し、このようなブロツクに対しては始めから下位階層動き量検出回路4によつて細かい動きベクトルを検出する。
かくするにつき、動き量検出のための演算回数は若干増加するが、上位階層での検出誤りを回避できることにより、最終的な動きベクトルMVの検出精度を格段的に向上し得る。
【0053】
(3)実施例の効果
以上の構成によれば、階層画像を用いて少ない演算回数で動きベクトルを求める場合に、上位階層動き量検出回路3とは異なる上位階層画像に基づいて上位階層での動き量検出処理を制限する前処理部2を設けるようにしたことにより、動き量の検出精度を格段的に向上し得る動き量検出装置1を実現できる。
【0054】
(4)他の実施例
なお上述の実施例においては、上位階層動き量検出回路3によつて小ブロツク内の最小値及び最大値を検出し、この最大値及び最小値を用いて(7)式を実行して評価値Ej ″を求め、評価値Ej ″に基づいて上位階層での動きベクトルMV′を求める場合について述べたが、本発明は小ブロツク内の最小値及び最大値を検出評価して上位階層動きベクトルを求める場合に限らず、例えば所定ブロツク間の平均値、標準偏差又は分散等を用いて上位階層動きベクトルMV′を求めるようにしても良い。
【0055】
また上述の実施例においては、双方向のブロツクマツチングにより上位階層の動きベクトルMV′を求める場合について述べたが、本発明はこれに限らず、順方向のみのブロツクマツチングにより上位階層の動きベクトルを求めるようにしても良い。さらにブロツクマツチング法により動きベクトルを求める場合に限らず、例えば勾配法や位相相関法を用いて動きベクトルを求める場合にも適用できる。
【0056】
ここで勾配法とは、ある空間傾斜を持つ画素がある位置まで動くと、動き量に応じた時間差分が発生するというモデルに基づき、時間差分を空間傾斜で割算することにより動きベクトルを求めるものである。また位相相関法とは、現画像と過去の画像の同一位置のブロツクデータに対し、各々フーリエ変換を施し、周波数領域で位相のずれ量を検出し、その位相項を逆フーリエ変換を用いて動きベクトルを検出する手法である。
【0057】
また上述の実施例においては、前処理部2によつて上位階層動きベクトル候補点の選定を行う際の閾値THを、評価値Mj の最小値を基準にして設定した場合について述べたが、本発明はこれに限らず、固定の閾値THを設定するようにしても良い。このようにすれば閾値設定のための計算量を低減し得る。さらに画像の内容に依存した閾値THを設定するようにしても良い。ここで画像の内容に依存した閾値THを設定する方法としては、16画素×8ラインの基準ブロツク内データのアクテイビテイ、例えばダイナミツクレンジや標準偏差などに応じて閾値THを変えることが考えられる。
【0058】
また上述の実施例においては、小ブロツク平均値に基づいて算出した評価値Mj を閾値判定し、当該判定結果に応じて上位階層での動きベクトルの検出座標を制限する場合について述べたが、本発明はこれに限らず、要は前処理部2によつて、上位階層動き量検出回路3とは異なる上位階層画像に基づいて動きの可能性を判定し、当該判定結果に基づいて上位階層での動きベクトル検出座標を制限するようにすれば良い。
【0059】
さらに上述の実施例においては、2階層の階層構造を用いて階層的に動きベクトルMVを求める場合について述べたが、本発明はこれに限らず、3階層や4階層等の階層構造を用いて上位階層から順に動きベクトルを求める場合にも適用することができる。
【0060】
【発明の効果】
上述のように本発明によれば、基本画像と参照画像との間動き量を検出する動き量検出装置において、基本画像と参照画像との間の大まかな動きベクトルの検出対象座標を制限する上位階層動きベクトル検出制限手段と、基本画像を分割した基本ブロツクの一部である基本小ブロツク内画素のアクテイビテイを当該基本小ブロツクに対応させることにより形成され当該基本画像よりも解像度の低い第1の基本上位階層画像と、参照画像を分割した参照ブロツクの一部である参照小ブロツク内画素のアクテイビテイを当該参照小ブロツクに対応させることにより形成され当該参照画像よりも解像度の低い第1の参照上位階層画像とを用いて、上位階層動きベクトル検出制限手段により制限された検出対象座標のなかから、基本小ブロツクのアクテイビテイと、当該基本小ブロツクに対応する参照小ブロツクのアクテイビテイとの差分量における絶対値を上記基本ブロツク内の上記基本小ブロツクについて加算したものを評価値として、基本ブロツクと参照ブロツクとの間のブロツクマツチング法により上位階層での大まかな動きベクトルを検出する上位階層動きベクトル検出手段と、基本画像及び参照画像を用いて、上位階層動きベクトル検出手段で求めた上位階層での大まかな動きベクトルを中心とした所定のサーチ領域内で基本画像及び参照画像間での細かい動きベクトルを検出する下位階層動きベクトル検出手段とを設け、上位階層動きベクトル検出制限手段は、基本ブロツク毎の画素値の平均値により形成された第2の基本上位階層画像と参照小ブロツク毎の画素値の平均値により形成された第2の参照上位階層画像との差分をブロツク単位で比較評価することにより大まかな動きベクトルの候補点を検出し、当該大まかな動きベクトルを検出する際の対象座標を当該候補点に制限するようにしたことにより、階層画像を用いて動き量を検出する場合の動き量の検出精度を向上し得、少ない計算回数で高精度の動き量を求めることができる動き量検出装置を実現できる。
【図面の簡単な説明】
【図1】本発明による動き量検出装置の一実施例の全体構成を示すブロツク図である。
【図2】実施例による上位階層動き量検出回路の構成を示すブロツク図である。
【図3】上位階層動き量検出回路の動作の説明に供する略線図である。
【図4】実施例による前処理部の構成を示すブロツク図である。
【図5】実施例による下位階層動き量検出回路の構成を示すブロツク図である。
【図6】実施例による動き量検出装置の動きベクトル検出処理手順を示すフローチヤートである。
【図7】ブロツクマツチングの説明に供する略線図である。
【図8】階層構造の説明に供する略線図である。
【図9】階層構造を用いた動きベクトルの検出の説明に供する略線図である。
【符号の説明】
1……動き量検出装置、2……前処理部、3……上位階層動き量検出回路、4……下位階層動き量検出回路、D1、D1A、D1B……入力画像データ、D2……制御信号、D3……小ブロツクデータ、D4……平均小ブロツクデータ、MV′……上位階層動きベクトル、MV……動きベクトル、Ej 、Ej ′、Ej ″、Mj ……評価値、X0〜X15、Y0〜Y15……小ブロツク。
Claims (8)
- 基本画像と参照画像との間の動き量を検出する動き量検出方法において、
上記基本画像と上記参照画像との間の大まかな動きベクトルの検出対象座標を制限する上位階層動きベクトル検出制限ステツプと、
上記基本画像を分割した基本ブロツクの一部である基本小ブロツク内画素のアクテイビテイを当該基本小ブロツクに対応させることにより形成され当該基本画像よりも解像度の低い第1の基本上位階層画像と、上記参照画像を分割した参照ブロツクの一部である参照小ブロツク内画素のアクテイビテイを当該参照小ブロツクに対応させることにより形成され当該参照画像よりも解像度の低い第1の参照上位階層画像とを用いて、上記上位階層動きベクトル検出制限ステツプにより制限された上記検出対象座標のなかから、上記基本小ブロツクの上記アクテイビテイと当該基本小ブロツクに対応する上記参照小ブロツクの上記アクテイビテイとの差分量における絶対値を上記基本ブロツク内の上記基本小ブロツクについて加算したものを評価値として、上記基本ブロツクと上記参照ブロツク間とのブロツクマツチング法により上位階層での大まかな動きベクトルを検出する上位階層動きベクトル検出ステツプと、
上記基本画像及び上記参照画像を用いて、上記上位階層動きベクトル検出ステツプで求めた上記上位階層での大まかな動きベクトルを中心とした所定のサーチ領域内で上記基本画像及び上記参照画像間での細かい動きベクトルを検出する下位階層動きベクトル検出ステツプと
を具え、
上記上位階層動きベクトル検出制限ステツプは、
上記基本小ブロツク毎の画素値の平均値により形成された第2の基本上位階層画像と上記参照小ブロツク毎の画素値の平均値により形成された第2の参照上位階層画像との差分を上記ブロツク単位で比較評価することにより上記大まかな動きベクトルの候補点を検出し、当該大まかな動きベクトルの検出対象座標を当該候補点に制限する
ことを特徴とする動き量検出方法。 - 基本画像と参照画像との間の動き量を検出する動き量検出装置において、
上記基本画像と上記参照画像との間の大まかな動きベクトルの検出対象座標を制限する上位階層動きベクトル検出制限手段と、
上記基本画像を分割した基本ブロツクの一部である基本小ブロツク内画素のアクテイビテイを当該基本小ブロツクに対応させることにより形成され当該基本画像よりも解像度の低い第1の基本上位階層画像と、上記参照画像を分割した参照ブロツクの一部である参照小ブロツク内画素のアクテイビテイを当該参照小ブロツクに対応させることにより形成され当該参照画像よりも解像度の低い第1の参照上位階層画像とを用いて、上記上位階層動きベクトル検出制限手段により制限された上記検出対象座標のなかから、上記基本小ブロツクの上記アクテイビテイと、当該基本小ブロツクに対応する上記参照小ブロツクの上記アクテイビテイとの差分量における絶対値を上記基本ブロツク内の上記基本小ブロツクについて加算したものを評価値として、上記基本ブロツクと上記参照ブロツク間とのブロツクマツチング法により上位階層での大まかな動きベクトルを検出する上位階層動きベクトル検出手段と、
上記基本画像及び上記参照画像を用いて、上記上位階層動きベクトル検出手段で求めた上記上位階層での上記大まかな動きベクトルを中心とした所定のサーチ領域内で上記基本画像及び上記参照画像間での細かい動きベクトルを検出する下位階層動きベクトル検出手段と
を具え、
上記上位階層動きベクトル検出制限手段は、
上記基本ブロツク毎の画素値の平均値により形成された第2の基本上位階層画像と上記参照小ブロツク毎の画素値の平均値により形成された第2の参照上位階層画像との差分を上記ブロツク単位で比較評価することにより上記大まかな動きベクトルの候補点を検出し、当該大まかな動きベクトルを検出する際の対象座標を当該候補点に制限する
ことを特徴とする動き量検出装置。 - 上記上位階層動きベクトル検出手段は、
上記大まかな動きベクトルを検出する際、上記基本小ブロツクと上記参照小ブロツクとを用い、少なくとも当該参照小ブロツク内画素の最大値及び最小値が当該基本小ブロツク内画素の最大値及び最小値により定められる値域を飛び出した差分量の絶対値を上記基本ブロツク内で加算したものを上記評価値とし、当該評価値のうち最小値を有する動きベクトルを上記大まかな動きベクトルとして検出し、
上記参照小ブロツクは、上記参照ブロツクにおいて上記基本小ブロツクと空間的に対応する領域を少なくとも縦または横に拡張して得られる領域でなる
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記上位階層動きベクトル検出手段は、
上記大まかな動きベクトルを検出する際、上記基本小ブロツクと上記参照小ブロツクとを用い、当該基本小ブロツク内画素の最大値及び最小値が当該参照小ブロツク内画素の最大値及び最小値により定められる値域を飛び出した差分量の絶対値を上記参照ブロツク内で加算したものを上記評価値とし、当該評価値のうち最小値を有する動きベクトルを上記大まかな動きベクトルとして検出し、
上記基準小ブロツクは、上記基準ブロツクにおいて上記参照小ブロツクと空間的に対応する領域を少なくとも縦または横に拡張して得られる領域でなる
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記上位階層動きベクトル検出制限手段は、上記第2の基本上位階層画像及び上記第2の参照上位階層画像を所定のブロツク単位で比較評価する際、
第2の基本上位階層画像から取り出した基準ブロツクと、所定のサーチ領域内で移動させるように第2の参照上位階層画像から取り出した複数の参照ブロツクとの間でブロツクの類似度を表わす複数の評価値を求め、
上記複数の評価値のうちの最小値の所定数倍の値を閾値として設定し、当該閾値によつて各評価値を閾値判定することにより上記上位階層画像の動きベクトルの候補点を検出する
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記上位階層動きベクトル検出制限手段は、上記第2の基本上位階層画像及び上記第2の参照上位階層画像を所定のブロツク単位で比較評価する際、
第2の基本上位階層画像から取り出した第2の基準ブロツクと、所定のサーチ領域内で移動させるように第2の参照上位階層画像から取り出した複数の第2の参照ブロツクとの間でブロツクの類似度を表わす複数の評価値を求め、
上記第2の参照ブロツク内画素の最大値及び最小値が上記第2の基準ブロツク内画素の最大値及び最小値により定められる値域を飛び出した差分量の絶対値を加算した閾値によつて各評価値を閾値判定することにより上記上位階層画像の動きベクトルの候補点を検出する
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記上位階層動きベクトル検出制限手段は、上記第2の基本上位階層画像及び上記第2の参照上位階層画像を所定のブロツク単位で比較評価する際、
第2の基本上位階層画像から取り出した基準ブロツクと、所定のサーチ領域内で移動させるように第2の参照上位階層画像から取り出した複数の参照ブロツクとの間でブロツクの類似度を表わす複数の評価値を求め、
固定の閾値によつて各評価値を閾値判定することにより上記上位階層画像の動きベクトルの候補点を検出する
ことを特徴とする請求項2に記載の動き量検出装置。 - 上記下位階層動きベクトル検出手段は、上記基本画像から取り出した下位基準ブロツクと、上記上位階層動きベクトル検出手段で求めた上記上位階層での大まかな動きベクトルにより動き補償されたサーチ領域内で移動させるように上記参照画像から取り出した複数の下位参照ブロツクとの間でブロツクの類似度を表わす複数の評価値を求め、当該評価値を最小とする当該下位参照ブロツクを基に上記細かい動きベクトルを検出する
ことを特徴とする請求項2に記載の動き量検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2472595A JP3812750B2 (ja) | 1995-01-19 | 1995-01-19 | 動き量検出方法及び動き量検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2472595A JP3812750B2 (ja) | 1995-01-19 | 1995-01-19 | 動き量検出方法及び動き量検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH08195956A JPH08195956A (ja) | 1996-07-30 |
JP3812750B2 true JP3812750B2 (ja) | 2006-08-23 |
Family
ID=12146140
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2472595A Expired - Lifetime JP3812750B2 (ja) | 1995-01-19 | 1995-01-19 | 動き量検出方法及び動き量検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3812750B2 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101383540B1 (ko) | 2007-01-03 | 2014-04-09 | 삼성전자주식회사 | 복수의 움직임 벡터 프리딕터들을 사용하여 움직임 벡터를추정하는 방법, 장치, 인코더, 디코더 및 복호화 방법 |
US9532080B2 (en) * | 2012-05-31 | 2016-12-27 | Sonic Ip, Inc. | Systems and methods for the reuse of encoding information in encoding alternative streams of video data |
US9357210B2 (en) | 2013-02-28 | 2016-05-31 | Sonic Ip, Inc. | Systems and methods of encoding multiple video streams for adaptive bitrate streaming |
US9350990B2 (en) | 2013-02-28 | 2016-05-24 | Sonic Ip, Inc. | Systems and methods of encoding multiple video streams with adaptive quantization for adaptive bitrate streaming |
JP7027776B2 (ja) | 2017-10-02 | 2022-03-02 | 富士通株式会社 | 移動ベクトル算出方法、装置、プログラム、及びノイズ除去処理を含む移動ベクトル算出方法 |
-
1995
- 1995-01-19 JP JP2472595A patent/JP3812750B2/ja not_active Expired - Lifetime
Also Published As
Publication number | Publication date |
---|---|
JPH08195956A (ja) | 1996-07-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Giachetti | Matching techniques to compute image motion | |
US6380986B1 (en) | Motion vector search method and apparatus | |
US6862369B2 (en) | Image processing apparatus and method | |
CN111640089A (zh) | 一种基于特征图中心点的缺陷检测方法及装置 | |
KR20160123871A (ko) | 영상 광류를 추정하는 방법 및 이를 위한 장치 | |
JP3812750B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JPH08223578A (ja) | 動きベクトル探索方法および装置 | |
JP2001061152A (ja) | 動き検出方法および動き検出装置 | |
KR101682137B1 (ko) | 텍스처 및 움직임 감지를 사용한 시간적으로-일관된 변이 추정을 위한 방법 및 장치 | |
JPH08335268A (ja) | 領域抽出方法 | |
CN112770118B (zh) | 视频帧图像运动估计方法及相关设备 | |
JP3155509B2 (ja) | 動きベクトル探索方法および動きベクトル探索装置ならびに動きベクトル探索プログラムを記憶した記憶媒体 | |
JP3617671B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP3020299B2 (ja) | 動きベクトル検出装置 | |
JP3494308B2 (ja) | 動き量検出方法及び動き量検出装置 | |
JP2012118923A (ja) | 領域分割装置及び領域分割方法 | |
Imamura et al. | Scalable Architecture for High-Resolution Real-time Optical Flow Processor | |
JP4235855B2 (ja) | 画像処理装置および方法、並びに記録媒体 | |
JPH0695757B2 (ja) | 動ベクトル検出方法 | |
JPH05176314A (ja) | 画像の動き検出装置 | |
KR20010025045A (ko) | 비디오 신호 처리 | |
Khan et al. | Real time object tracking using BMA | |
JP2000324495A (ja) | フィールド周波数変換装置および変換方法 | |
JPH07123406A (ja) | 動きベクトル検出装置 | |
JPH07222168A (ja) | 動き量検出方法及び動き量検出装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20040827 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041026 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050527 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20050726 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050819 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20051018 |
|
A911 | Transfer of reconsideration by examiner before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20051121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20060512 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20060525 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100609 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100609 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110609 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110609 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120609 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120609 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130609 Year of fee payment: 7 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
EXPY | Cancellation because of completion of term |