JP2008113106A - 動きベクトル検出装置及び動きベクトル検出プログラム - Google Patents
動きベクトル検出装置及び動きベクトル検出プログラム Download PDFInfo
- Publication number
- JP2008113106A JP2008113106A JP2006293510A JP2006293510A JP2008113106A JP 2008113106 A JP2008113106 A JP 2008113106A JP 2006293510 A JP2006293510 A JP 2006293510A JP 2006293510 A JP2006293510 A JP 2006293510A JP 2008113106 A JP2008113106 A JP 2008113106A
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- motion vector
- pixels
- reference image
- fractional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】従来の動きベクトル検出装置では、Nタップフィルタを用いて参照画像のアップサンプルをする際に、縦方向、かつ、横方向にNタップフィルタを用いる必要のある画素を生成するため、演算量が増大し、また回路規模が大きくなってしまう。
【解決手段】アップサンプル手段102は第1動きベクトル検出手段101で検出した第1動きベクトル点及び第2候補点のうち、第2候補点に基づいて、第1動きベクトル点の周辺の参照画像をNタップフィルタ(Nは3以上の自然数)によりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を求める際に、少なくともNタップフィルタにより縦方向及び横方向の両方向に配列された各画素から求める分数画素間隔の画素の画素値を生成せず、Nタップフィルタにより縦方向又は横方向に配列された各画素のみから分数画素間隔の画素の画素値を生成する。
【選択図】図1
【解決手段】アップサンプル手段102は第1動きベクトル検出手段101で検出した第1動きベクトル点及び第2候補点のうち、第2候補点に基づいて、第1動きベクトル点の周辺の参照画像をNタップフィルタ(Nは3以上の自然数)によりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を求める際に、少なくともNタップフィルタにより縦方向及び横方向の両方向に配列された各画素から求める分数画素間隔の画素の画素値を生成せず、Nタップフィルタにより縦方向又は横方向に配列された各画素のみから分数画素間隔の画素の画素値を生成する。
【選択図】図1
Description
本発明は動きベクトル検出装置及び動きベクトル検出プログラムに係り、特に動画像の圧縮符号化の際の動き補償に必要な動きベクトルを検出する動きベクトル検出装置及び動きベクトル検出プログラムに関する。
MPEG(Moving Picture Experts Group)に代表される動画像の圧縮符号化では、フレーム間の相関を用いて符号量を圧縮する動き補償予測符号化が多く用いられる。動き補償予測符号化では、符号化対象画像と参照画像の各ブロックの相対位置関係を示す動きベクトルが必要である。この動きベクトルは、符号化対象画像と参照画像の各ブロック間の誤差評価値が小さいほど動き補償予測の精度が向上し、符号化効率が向上する。また、MPEG−4やH.264/AVCなどの公知の符号化方式における動き補償予測では、参照画像の画素を内挿処理又は補間処理(本明細書ではこれを「アップサンプル」という)し、1/2画素精度や1/4画素精度の動き補償予測を可能とすることで、動き予測精度を更に向上している。
ここで、上記の誤差評価値とは、一般に、ブロックマッチングを用いて、ブロック間の相違を絶対差分和や差分二乗和などで表現した予測誤差や、動きベクトル符号量やDCT(離散コサイン変換:Discrete Cosine Transform)係数符号量に基づいた符号量換算などで表現したものである。また、上記の1/2画素精度や1/4画素精度の動き補償予測は、実際に算出した参照画像上の整数画素位置の画素を用いてアップサンプルし、1/2画素位置や1/4画素位置の画素値を算出し、その画素位置の画素値を用いて動きベクトルを探索して動き補償予測することをいう。上記の分数精度の画素値は、一般には線形フィルタにより参照画像をフィルタリングすることで得られる。この線形フィルタはタップ数が多いほど周波数特性が良好なフィルタを構成でき、予測精度が高まるが処理量は多くなるので、例えば6タップフィルタを用いる符号化方式が従来知られている(例えば、特許文献1参照)。
この6タップフィルタでは、例えば、符号化対象画像信号のブロックとの間でブロックマッチングにより動きベクトルが探索されるべき参照画像信号が、図9に丸印で示す1画素精度の画素位置で表される画像信号であるものとすると、1画素精度の各画素の中間位置にある例えばbで示す1/2画素精度の画素の画素値は、画素bを中心とする周囲の横方向に配列されたE、F、G、H、I及びJで示す6つの1画素精度の画素の画素値に基づいて生成する。一方、hで示す1/2画素精度の画素の画素値は、画素hを中心する周囲の縦方向に配列されたA、C、G、M、R、Tで示す6つの1画素精度の画素の画素値に基づいて生成される。同様に、1/2画素精度のaa、bb、cc、dd、ee、ff、gg、hh、b、m、s等の各画素の画素値は、その画素を中心とする縦方向だけ又は横方向だけに配列された1画素精度の6つの画素の画素値から生成される(6タップフィルタを縦方向のみ又は横方向のみ用いて生成される)。
これに対し、図9にjで示す1/2画素精度の画素の画素値は、その画素jを中心とする横方向に配列された1/2画素精度の6つの画素cc、dd、h、m、ee、ffの画素値(又は縦方向に配列された1/2画素精度の6つの画素aa、bb、b、s、gg、hhの画素値)から生成される。この画素jを生成するための画素cc、dd、h、m、ee、ffの画素値は、その画素を中心する周囲の縦方向の6つの1画素精度の画素の画素値に基づいて生成されるので、結局、画素jの画素値は、6タップフィルタを縦方向と横方向の両方に適用して求められることになる。
更に、1/4画素精度である画素f、i、k、qの各画素値は、それぞれ先に算出した上記の画素jとその画素に隣接する縦方向の1/2画素精度の画素b、h、m、sの画素値とから生成される。従って、これら画素f、i、k、qの各画素値も画素jの値を用いるので、6タップフィルタを縦方向と横方向の両方向に適用して求められることになる。他の1/2画素精度の画素同士から画素値が求められる1/4画素精度の画素についても同様である。これらをまとめると、6タップフィルタにより表1に示すような式で演算された画素値の各画素が得られる。
従来の動きベクトル検出装置では、上記の画素演算では、例えば図9の画素jの位置で縦方向かつ横方向の6タップフィルタを用いた演算を必要とする。そのため、画素jを利用する画素jを中心とする周辺(上、左、右、下)の1/4画素精度の4画素f、i、k、qの演算も縦方向かつ横方向の6タップフィルタを用いた演算を必要とする。縦方向かつ横方向の6タップフィルタは、6タップフィルタの演算を2度行うため、膨大な演算量を必要とする。また、演算途中の画素を保持するバッファ回路が必要となり、回路規模が大きくなってしまう。
そこで、従来、ブロックの形状を決定してから小数画素精度の動きベクトル検出を行うことで動きベクトル探索処理演算量を削減する動きベクトル検出装置が提案されている(例えば、特許文献2参照)。
しかるに、従来の動きベクトル検出装置では、分数精度画素を算出する演算量を考慮せずに分数精度の動きベクトル検出を行っているため、N(≧3)タップフィルタを用いた参照画像のアップサンプルに膨大な演算量を必要とする。例えば、図10に示すように(一例として特許第3210828号参照)、符号化対象画像の或るブロックと参照画像との間でブロックマッチングによる1画素精度の動きベクトル検出を行い、その結果得られた最小の誤差評価値を示す参照画像のブロック内の1画素精度の画素位置を示す第1動きベクトル点が701で示され、また、第1動きベクトル点701の周辺の1画素精度の4画素(上、左、下、右)の中で、第1動きベクトル点701との間で最も誤差評価値が小さい参照画像のブロック内の画素位置を示す第2候補点が702で示されたものとすると、1/4画素精度で動きベクトル検出を行うためには、これら第1動きベクトル点701と第2候補点702とを用いて縦方向、かつ、横方向の6タップフィルタの演算が必要となる。ここで、図10において、黒色の四角が探索点(画素)を示している。
このように、従来の動きベクトル検出装置では、N(≧3)タップフィルタを用いて参照画像のアップサンプルをする際に、縦方向、かつ、横方向にN(≧3)タップフィルタを用いる必要のある画素を生成するため、演算量が増大する。また、回路で実現する場合には、縦方向と横方向のフィルタリング演算途中の画素を保持するバッファ回路が必要となり、回路規模が大きくなってしまう。
また、特許文献2記載の従来の動きベクトル検出装置では、ブロックのサイズや形状を決定することが動きベクトル探索処理演算量を削減するための前提であり、ブロックのサイズや形状に関係なく小数画素精度の動きベクトルの演算量を削減することができない。
本発明は以上の点に鑑みなされたもので、ブロックのサイズや形状に関係なく分数画素精度の動きベクトルの演算量を削減し、回路規模を小さくできる動画像の圧縮符号化の際の動き補償に必要な動きベクトル検出装置及び動きベクトル検出プログラムを提供することを目的とする。
上記の目的を達成するため、第1の発明は、動画像の動き補償予測符号化に用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の参照画像の画素を用いて分数画素精度で検出する動きベクトル検出装置において、符号化対象画像と参照画像とから1画素精度の第1動きベクトルを検出する第1動きベクトル検出手段と、参照画像における第1動きベクトルで示される1画素精度の画素周辺の画素を、Nタップフィルタによりアップサンプルして、分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成するアップサンプル手段と、アップサンプル手段でアップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像とに基づいて、参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第2動きベクトル検出手段とを有することを特徴とする。
また、上記の目的を達成するため、第2の発明は、動画像の動き補償予測符号化に用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の参照画像の画素を用いて分数画素精度で検出する動きベクトル検出装置において、符号化対象画像と参照画像の各ブロックとの間のブロックマッチングにより得られた誤差評価値が最小である参照画像における1画素精度の画素位置を示す第1動きベクトルを検出すると共に、その第1動きベクトルが指し示す参照画像における第1動きベクトル点の周辺の1画素精度の4画素の中で、符号化対象画像との間で誤差評価値が最も小さい画素の位置を示す候補点を検出する第1動きベクトル検出手段と、第1動きベクトル検出手段で検出した候補点に基づいて、第1動きベクトル点の周辺の参照画像をNタップフィルタによりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成するアップサンプル手段と、アップサンプル手段でアップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像との間で誤差評価値を求め、該誤差評価値が最も小さい参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第2動きベクトル検出手段とを有することを特徴とする。
また、上記の目的を達成するため、第3の発明は、動画像の動き補償予測符号化で用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の前記参照画像の画素を用いて分数画素精度で検出する動きベクトル検出をコンピュータにより実行させる動きベクトル検出プログラムにおいて、上記のコンピュータに、
符号化対象画像と参照画像とから1画素精度の第1動きベクトルを検出する第1のステップと、参照画像における第1動きベクトルで示される1画素精度の画素周辺の画素を、Nタップフィルタによりアップサンプルして、分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第2のステップと、第2のステップでアップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像とに基づいて、参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第3のステップとを実行させることを特徴とする。
符号化対象画像と参照画像とから1画素精度の第1動きベクトルを検出する第1のステップと、参照画像における第1動きベクトルで示される1画素精度の画素周辺の画素を、Nタップフィルタによりアップサンプルして、分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第2のステップと、第2のステップでアップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像とに基づいて、参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第3のステップとを実行させることを特徴とする。
更に、上記の目的を達成するため、第4の発明は、動画像の動き補償予測符号化で用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の参照画像の画素を用いて分数画素精度で検出する動きベクトル検出をコンピュータにより実行させる動きベクトル検出プログラムにおいて、上記のコンピュータに、
符号化対象画像と参照画像の各ブロックとの間のブロックマッチングにより得られた誤差評価値が最小である参照画像における1画素精度の画素位置を示す第1動きベクトルを検出する第1のステップと、第1動きベクトルが指し示す参照画像における第1動きベクトル点の周辺の1画素精度の4画素の中で、符号化対象画像との間で誤差評価値が最も小さい画素の位置を示す候補点を検出する第2のステップと、候補点に基づいて、第1動きベクトル点の周辺の参照画像をNタップフィルタによりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第3のステップと、アップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像との間で誤差評価値を求め、該誤差評価値が最も小さい参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第4のステップとを実行させることを特徴とする。
符号化対象画像と参照画像の各ブロックとの間のブロックマッチングにより得られた誤差評価値が最小である参照画像における1画素精度の画素位置を示す第1動きベクトルを検出する第1のステップと、第1動きベクトルが指し示す参照画像における第1動きベクトル点の周辺の1画素精度の4画素の中で、符号化対象画像との間で誤差評価値が最も小さい画素の位置を示す候補点を検出する第2のステップと、候補点に基づいて、第1動きベクトル点の周辺の参照画像をNタップフィルタによりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を生成する際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第3のステップと、アップサンプルして得られた分数画素間隔の複数の画素の参照画像と符号化対象画像との間で誤差評価値を求め、該誤差評価値が最も小さい参照画像における分数画素間隔の画素の位置に対応した第2動きベクトルを検出すべき動きベクトルとして求める第4のステップとを実行させることを特徴とする。
第1乃至第4の発明では、第1動きベクトル点の周辺の参照画像をNタップフィルタによりアップサンプルして、第1動きベクトル点の周辺の参照画像の分数画素間隔の複数の画素の各画素値を求める際に、縦方向及び横方向の両方向に配列された各画素からアップサンプルして求める必要のある分数画素間隔の画素を少なくとも除外して、縦方向又は横方向に配列された各画素のみを用いたアップサンプルにより分数画素間隔の複数の画素の画素値を生成する。
本発明によれば、Nタップフィルタを用いて参照画像をアップサンプルする際に、Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成するようにしたため、除外した分数画素間隔の画素の画素値の生成分の演算量を削減でき、また、回路で実現する場合には、縦方向と横方向のフィルタリング演算途中の画素を保持するバッファ回路が不要となるため、回路規模を小さくできる。
次に、本発明の一実施の形態について図面と共に説明する。図1は本発明になる動きベクトル検出装置の一実施の形態のブロック図を示す。同図に示すように、本実施の形態は、第1動きベクトル検出手段101と、アップサンプル手段102と、第2動きベクトル検出手段103とから構成されている。
第1動きベクトル検出手段101は、符号化対象の入力画像信号と参照画像信号との間で1画素精度の動きベクトル検出を行って第1動きベクトル(以下、第1動きベクトル点ともいう)を検出し、更にその第1動きベクトルの周辺(上、左、下、右)の1画素精度の4点(画素)の中で、符号化対象の入力画像信号との間で最も誤差評価値が小さい画素の位置を示す第2候補点を検出し、それら第1動きベクトルと第2候補点とをアップサンプル手段102と第2動きベクトル検出手段103にそれぞれ供給する。
アップサンプル手段102は、第1動きベクトル検出手段101から供給された第1動きベクトルと第2候補点とに基づいて、第1動きベクトル周辺の参照画像信号をN(≧3)タップフィルタを用いてアップサンプルし、アップサンプルした参照画像信号を第2動きベクトル検出手段103に供給する。第2動きベクトル検出手段103は、符号化対象の入力画像信号とアップサンプル手段102でアップサンプルした参照画像信号とから1/4画素精度の動きベクトル検出を行う。
次に、図1の動きベクトル検出装置の動作について図2のフローチャート等を用いて更に詳細に説明する。まず、第1動きベクトル検出手段101が符号化対象の入力画像信号と参照画像信号との間で1画素精度の動きベクトル検出を行い、その結果得られた最小の誤差評価値を示す参照画像信号のブロック内の1画素精度の画素位置を示す第1動きベクトルを検出する(ステップS11)。第1動きベクトルの検出では、どのような動きベクトル検出方法を用いてもよいが、ここでは追跡サーチを用いた動きベクトル検出を例として、図3、図4を用いて説明する。
最初に図3に示す参照画像信号中の探索初期点201を決定する。探索初期点201の決定方法は、原点や周辺ブロックの動きベクトルや公知のステップサーチなどの階層的サーチで決定した動きベクトルなどを候補として、符号化対象画像との間で最も誤差評価値の小さい点を探索初期点に決定する。次に、符号化対象画像と決定した探索初期点201の周辺(上、左、下、右)の1画素精度の4画素202〜205との間の誤差評価値を計算し、最も誤差評価値が小さい画素に探索の中心を移動する。例えば、図4に示すように、探索初期点201の上の画素202との間の誤差評価値が最も小さかった場合、上の画素202に探索の中心を移動する。
そして、移動した新しい探索中心の画素202の周辺(この場合、下の画素201との間では既に誤差評価値が得られているので、画素201以外の、上、左、右)の1画素精度の3つの画素206〜208と符号化対象画像との間の誤差評価値を計算する。この動作を繰り返し、最も誤差評価値が小さい画素が中心だった場合に探索が終了する。その時の中心の画素の位置に対応したベクトルが1画素精度の第1動きベクトルとなる。
図2のフローチャートに戻り、第1動きベクトル検出手段101は、次に第2候補点を決定する(ステップS12)。この第2候補点の決定では、上記の追跡サーチにおいて決定した第1動きベクトルの周辺(上、左、下、右)の1画素精度の4点(画素)の中で、符号化対象画像との間の誤差評価値が最小の点を第2候補点とする。
次に、第2候補点の第1動きベクトルに対する相対位置に基づき、アップサンプル手段102が第1動きベクトル周辺の参照画像をアップサンプルする(ステップS13)。ここでは、図10及び表1と共に説明した6タップフィルタを用いて1/2精度と1/4精度の各画素値を算出するアップサンプル方法を例として説明する。前述したように、6タップフィルタを縦方向、かつ、横方向に適用して1/4画素精度の画素値を得る場合は、6タップフィルタの演算を2度行うため膨大な演算量を必要とする。また、演算途中の画素を保持するバッファ回路が必要となり、回路規模が大きくなってしまう。
そこで、本実施の形態では、参照画像のアップサンプルの際に、縦方向、かつ、横方向に6タップフィルタを用いる必要のある1/4画素精度の画素の生成を行わないことで、演算量を削減し、回路規模を小さくする。
例えば、図5に示すように、第2候補点302が第1動きベクトル点301の1画素上に位置している場合、第1動きベクトル点301及び第2候補点302を6タップフィルタを用いてアップサンプルすることにより、白四角及び黒四角で示す1/2画素精度や1/4画素精度の画素の画素値が算出されるが、このうち、縦方向、かつ、横方向に6タップフィルタを用いる必要のある1/4画素精度の画素は、図10及び表1と共に説明したように、図5に×印で示す画素であり、本実施の形態のアップサンプル手段102は、この縦方向、かつ、横方向に6タップフィルタを用いる必要のある画素の生成を行わないことで、演算量を削減する。
更に、本実施の形態のアップサンプル手段102は、最終的に求める動きベクトルは第1動きベクトル点301から第2候補点302方向の画素に対応した位置にあると予測されることに鑑み、第2候補点302方向に頂点の一つを有する三角形303内の黒四角で示す画素の画素値のみアップサンプルして算出し、三角形303に含まれない1/2画素精度、1/4画素精度の画素の画素値の演算は行わないことで更に演算量を削減する。
ここで、上記の三角形303は、第1動きベクトル点301と第2候補点302との間の一つの1/2画素精度の画素304と、第1動きベクトル点301の左側の1/2画素精度の画素305と、第1動きベクトル点301の右側の1/2画素精度の画素306とをそれぞれ頂点とし、更にこれら3つの画素304〜306の間にある5つの1/4画素精度の画素307〜311を含む。
同様に、図6に示すように、第2候補点402が第1動きベクトル点401の1画素左側に位置している場合は、アップサンプル手段102は、×印で示す縦方向、かつ、横方向に6タップフィルタを用いる必要のある画素の画素値の演算は行わず、また、三角形403に含まれない1/2画素精度、1/4画素精度の画素の画素値の演算は行わず、三角形403内の第1動きベクトル点401に隣接する黒四角で示す3つの1/2画素精度の画素と5つの1/4画素精度の画素の各画素値を算出するためのアップサンプルだけを行う。ここで、上記の三角形403は、第2候補点402方向に頂点の一つを有し、かつ、第1動きベクトル点401の上側と下側にそれぞれ頂点を有する。
また、図7に示すように、第2候補点502が第1動きベクトル点501の1画素下側に位置している場合は、アップサンプル手段102は、×印で示す縦方向、かつ、横方向に6タップフィルタを用いる必要のある画素の画素値の演算は行わず、また、三角形503に含まれない1/2画素精度、1/4画素精度の画素の画素値の演算は行わず、三角形503内の第1動きベクトル点501に隣接する黒四角で示す3つの1/2画素精度の画素と5つの1/4画素精度の画素の各画素値を算出するためのアップサンプルだけを行う。ここで、上記の三角形503は、第2候補点502方向に頂点の一つを有し、かつ、第1動きベクトル点501の左側と右側にそれぞれ頂点を有する。
同様に、図8に示すように、第2候補点602が第1動きベクトル点601の1画素右側に位置している場合は、アップサンプル手段102は、×印で示す縦方向、かつ、横方向に6タップフィルタを用いる必要のある画素の画素値の演算は行わず、また、三角形603に含まれない1/2画素精度、1/4画素精度の画素の画素値の演算は行わず、三角形603内の第1動きベクトル点601に隣接する黒四角で示す3つの1/2画素精度の画素と5つの1/4画素精度の画素の各画素値を算出するためのアップサンプルだけを行う。ここで、上記の三角形603は、第2候補点602方向に頂点の一つを有し、かつ、第1動きベクトル点601の上側と下側にそれぞれ頂点を有する。
図2のフローチャートに戻り、最後に上記のアップサンプルした画像に対して1/4画素精度で第2動きベクトル検出を行う(ステップS14)。この第2動きベクトル検出では、第2動きベクトル検出手段103により、符号化対象の入力画像信号とアップサンプル手段102でアップサンプルした参照画像信号とから1/4画素精度の動きベクトル検出を、第1動きベクトルを検出した方法と同様の方法で行う。
このように、本実施の形態では、参照画像のアップサンプルの際に、縦方向、かつ、横方向に6タップフィルタを用いる必要のある画素の生成を行わないため、演算量が削減される。また、回路で実現する場合には、縦方向と横方向のフィルタリング演算途中の画素を保持するバッファ回路が不要となるため、回路規模を小さくできる。
なお、本発明は以上の実施の形態に限定されるものではなく、例えば参照画像のアップサンプルに用いる線形フィルタのタップ数は、上記の実施の形態の6タップに限定されるものではなく、縦方向、かつ、横方向にフィルタを用いてアップサンプルした画素値を算出する3タップ以上のN(≧3)タップフィルタに適用可能である。
また、本発明は上記の図1の構成の動きベクトル検出装置の各ブロックの機能や図2のフローチャートの各ステップの処理をコンピュータに実現させるための動きベクトル検出プログラムも含むものである。この動きベクトル検出プログラムは、記録媒体から読み取られてコンピュータに取り込まれてもよいし、通信ネットワークを介して伝送されてコンピュータに取り込まれてもよい。
101 第1動きベクトル検出手段
102 アップサンプル手段
103 第2動きベクトル検出手段
301、401、501、601 第1動きベクトル点
302、402、502、602 第2候補点
304〜306 1/2画素精度の画素
307〜311 1/4画素精度の画素
102 アップサンプル手段
103 第2動きベクトル検出手段
301、401、501、601 第1動きベクトル点
302、402、502、602 第2候補点
304〜306 1/2画素精度の画素
307〜311 1/4画素精度の画素
Claims (4)
- 動画像の動き補償予測符号化に用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の前記参照画像の画素を用いて分数画素精度で検出する動きベクトル検出装置において、
前記符号化対象画像と前記参照画像とから1画素精度の第1動きベクトルを検出する第1動きベクトル検出手段と、
前記参照画像における前記第1動きベクトルで示される1画素精度の画素周辺の画素を、前記Nタップフィルタによりアップサンプルして、分数画素間隔の複数の画素の各画素値を生成する際に、前記Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、前記Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成するアップサンプル手段と、
前記アップサンプル手段でアップサンプルして得られた前記分数画素間隔の複数の画素の前記参照画像と前記符号化対象画像とに基づいて、前記参照画像における前記分数画素間隔の画素の位置に対応した第2動きベクトルを前記検出すべき動きベクトルとして求める第2動きベクトル検出手段と
を有することを特徴とする動きベクトル検出装置。 - 動画像の動き補償予測符号化に用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の前記参照画像の画素を用いて分数画素精度で検出する動きベクトル検出装置において、
前記符号化対象画像と前記参照画像の各ブロックとの間のブロックマッチングにより得られた誤差評価値が最小である前記参照画像における1画素精度の画素位置を示す第1動きベクトルを検出すると共に、その第1動きベクトルが指し示す前記参照画像における第1動きベクトル点の周辺の1画素精度の4画素の中で、前記符号化対象画像との間で前記誤差評価値が最も小さい画素の位置を示す候補点を検出する第1動きベクトル検出手段と、
前記第1動きベクトル検出手段で検出した前記候補点に基づいて、前記第1動きベクトル点の周辺の前記参照画像を前記Nタップフィルタによりアップサンプルして、前記第1動きベクトル点の周辺の前記参照画像の分数画素間隔の複数の画素の各画素値を生成する際に、前記Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、前記Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成するアップサンプル手段と、
前記アップサンプル手段でアップサンプルして得られた前記分数画素間隔の複数の画素の前記参照画像と前記符号化対象画像との間で前記誤差評価値を求め、該誤差評価値が最も小さい前記参照画像における前記分数画素間隔の画素の位置に対応した第2動きベクトルを前記検出すべき動きベクトルとして求める第2動きベクトル検出手段と
を有することを特徴とする動きベクトル検出装置。 - 動画像の動き補償予測符号化で用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の前記参照画像の画素を用いて分数画素精度で検出する動きベクトル検出をコンピュータにより実行させる動きベクトル検出プログラムにおいて、
前記コンピュータに、
前記符号化対象画像と前記参照画像とから1画素精度の第1動きベクトルを検出する第1のステップと、
前記参照画像における前記第1動きベクトルで示される1画素精度の画素周辺の画素を、前記Nタップフィルタによりアップサンプルして、分数画素間隔の複数の画素の各画素値を生成する際に、前記Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、前記Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第2のステップと、
前記第2のステップでアップサンプルして得られた前記分数画素間隔の複数の画素の前記参照画像と前記符号化対象画像とに基づいて、前記参照画像における前記分数画素間隔の画素の位置に対応した第2動きベクトルを前記検出すべき動きベクトルとして求める第3のステップと
を実行させることを特徴とする動きベクトル検出プログラム。 - 動画像の動き補償予測符号化で用いる、符号化対象画像と参照画像の各ブロックの相対位置関係を示す検出すべき動きベクトルを、タップ数N(ただし、Nは3以上の自然数)のNタップフィルタによりアップサンプルして得た1画素間隔より細かい分数画素間隔の前記参照画像の画素を用いて分数画素精度で検出する動きベクトル検出をコンピュータにより実行させる動きベクトル検出プログラムにおいて、
前記コンピュータに、
前記符号化対象画像と前記参照画像の各ブロックとの間のブロックマッチングにより得られた誤差評価値が最小である前記参照画像における1画素精度の画素位置を示す第1動きベクトルを検出する第1のステップと、
前記第1動きベクトルが指し示す前記参照画像における第1動きベクトル点の周辺の1画素精度の4画素の中で、前記符号化対象画像との間で前記誤差評価値が最も小さい画素の位置を示す候補点を検出する第2のステップと、
前記候補点に基づいて、前記第1動きベクトル点の周辺の前記参照画像を前記Nタップフィルタによりアップサンプルして、前記第1動きベクトル点の周辺の前記参照画像の分数画素間隔の複数の画素の各画素値を生成する際に、前記Nタップフィルタによる縦方向及び横方向の両方向に配列された各画素に基づく分数画素間隔の画素の画素値の生成を少なくとも除外し、前記Nタップフィルタにより縦方向に配列された各画素又は横方向に配列された各画素のみに基づいて複数の分数画素間隔の画素の画素値を生成する第3のステップと、
アップサンプルして得られた前記分数画素間隔の複数の画素の前記参照画像と前記符号化対象画像との間で前記誤差評価値を求め、該誤差評価値が最も小さい前記参照画像における前記分数画素間隔の画素の位置に対応した第2動きベクトルを前記検出すべき動きベクトルとして求める第4のステップと
を実行させることを特徴とする動きベクトル検出プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006293510A JP2008113106A (ja) | 2006-10-30 | 2006-10-30 | 動きベクトル検出装置及び動きベクトル検出プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006293510A JP2008113106A (ja) | 2006-10-30 | 2006-10-30 | 動きベクトル検出装置及び動きベクトル検出プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2008113106A true JP2008113106A (ja) | 2008-05-15 |
Family
ID=39445403
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006293510A Pending JP2008113106A (ja) | 2006-10-30 | 2006-10-30 | 動きベクトル検出装置及び動きベクトル検出プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2008113106A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014502822A (ja) * | 2011-01-05 | 2014-02-03 | クゥアルコム・インコーポレイテッド | 適応タップサイズをもつ低複雑度補間フィルタ処理 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0795585A (ja) * | 1993-09-17 | 1995-04-07 | Sony Corp | 動きベクトル検出装置 |
JPH08237667A (ja) * | 1995-02-27 | 1996-09-13 | Kyocera Corp | 動きベクトル検出方法 |
-
2006
- 2006-10-30 JP JP2006293510A patent/JP2008113106A/ja active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0795585A (ja) * | 1993-09-17 | 1995-04-07 | Sony Corp | 動きベクトル検出装置 |
JPH08237667A (ja) * | 1995-02-27 | 1996-09-13 | Kyocera Corp | 動きベクトル検出方法 |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014502822A (ja) * | 2011-01-05 | 2014-02-03 | クゥアルコム・インコーポレイテッド | 適応タップサイズをもつ低複雑度補間フィルタ処理 |
US9172972B2 (en) | 2011-01-05 | 2015-10-27 | Qualcomm Incorporated | Low complexity interpolation filtering with adaptive tap size |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9118927B2 (en) | Sub-pixel interpolation and its application in motion compensated encoding of a video signal | |
CN100592794C (zh) | 提高的运动估计、视频编码方法及使用所述方法的设备 | |
KR101641606B1 (ko) | 화상 부호화 방법, 화상 복호 방법, 화상 부호화 장치, 화상 복호 장치, 화상 부호화 프로그램, 화상 복호 프로그램 및 기록매체 | |
JP2010045816A (ja) | ビデオ符号化における中間画素高精度高速探索を実現する装置及び方法 | |
JP2007060673A (ja) | 画像予測装置、画像符号化装置、画像復号化装置、画像予測方法、画像符号化方法、画像復号化方法、記録媒体及びプログラム | |
CN101945290A (zh) | 运动补偿方法 | |
US20030058949A1 (en) | Method and apparatus for improved estimation and compensation in digital video compression and decompression | |
JP2011114572A (ja) | 画像符号化装置、画像復号化装置、画像符号化方法、及び画像復号化方法 | |
CN112292861B (zh) | 用于解码端运动矢量修正的基于误差面的子像素精确修正方法 | |
CN103650490A (zh) | 用于运动补偿预测的方法和设备 | |
KR101690253B1 (ko) | 영상 처리 장치 및 그 방법 | |
JP5011854B2 (ja) | 高解像度画像処理装置 | |
EP2076050A1 (en) | Motion estimation apparatus and method for moving picture coding | |
JP2008113106A (ja) | 動きベクトル検出装置及び動きベクトル検出プログラム | |
JP4797999B2 (ja) | 画像符号化・復号化装置 | |
JP2009044456A (ja) | 画像符号化装置および画像符号化方法 | |
US20120300848A1 (en) | Apparatus and method for generating an inter-prediction frame, and apparatus and method for interpolating a reference frame used therein | |
JP2006067213A (ja) | 動きベクトル検出装置、および、プログラム | |
CN114598877A (zh) | 帧间预测方法及相关设备 | |
JP5353719B2 (ja) | 動画像符号化装置、動画像符号化方法、動画像符号化プログラム | |
JP4032049B2 (ja) | 動きベクトル検出方法及びその装置 | |
JP2004260251A (ja) | 動きベクトル検出装置及び動きベクトル検出プログラム | |
KR20200134302A (ko) | 이미지 처리 장치 및 방법 | |
JP2008085674A (ja) | 動き検出装置及びその方法 | |
JP6980889B2 (ja) | 画像符号化方法及び画像復号化方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20081226 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20100630 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20100713 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20101207 |