JP2005295319A - 動き検出装置 - Google Patents
動き検出装置 Download PDFInfo
- Publication number
- JP2005295319A JP2005295319A JP2004109140A JP2004109140A JP2005295319A JP 2005295319 A JP2005295319 A JP 2005295319A JP 2004109140 A JP2004109140 A JP 2004109140A JP 2004109140 A JP2004109140 A JP 2004109140A JP 2005295319 A JP2005295319 A JP 2005295319A
- Authority
- JP
- Japan
- Prior art keywords
- value
- image block
- pixel
- current image
- feature information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Image Analysis (AREA)
Abstract
【課題】 動きベクトル評価値として差分絶対値和を利用する動きベクトル検出装置の動きベクトル検出精度を改善する。
【解決手段】 現画像ブロックの画像の特徴情報(FR)を抽出し、この特徴情報に従って現画像ブロックの各画素ごとにビット値を持たせ、差分絶対値を求める演算操作時この特徴情報のビット値に従ってその演算内容を調整する。
【選択図】 図19
【解決手段】 現画像ブロックの画像の特徴情報(FR)を抽出し、この特徴情報に従って現画像ブロックの各画素ごとにビット値を持たせ、差分絶対値を求める演算操作時この特徴情報のビット値に従ってその演算内容を調整する。
【選択図】 図19
Description
この発明は動き補償予測方式に従って画像データを符号化するための動き検出装置に関し、特に、動き予測に用いられる動きベクトル検出の精度を改善するための構成に関する。
大量のデータを含む画像データを伝送するためには、効率的に符号化を行なって伝送データ量を圧縮することが要求される。動画像データを能率的に圧縮して符号化する方法の一つとして、動き補償された予測誤差を求める方法がある。この方法においては、入力画像を、たとえば16画素×16画素のある大きさのブロックに分割し、時間的に前または後ろの画像(予測画像;参照画像)の動きベクトル分ずれた位置のブロックの画素値を基準として入力画像(現画像)のブロックの画素値を予測する。この予測画素値においては、現画像と参照画像の対応するブロックの画素値の差分値が求められて符号化される。画像の相関度が高いブロック間では、差分値が0に近く、逆に、被写体が移動しており、ブロック間の相関度が小さい場合には、差分値は大きくなる。動きベクトルを利用することにより、相関度の高い画像領域を抽出し、差分値を小さくする。この差分値を符号化して伝送することにより、伝送データ量を低減する。
この差分値、すなわち予測誤差を求めて伝送符号量を低減するためには、最も相関度の高い画像ブロックを参照画像から抽出する必要がある。このため、ブロック単位で画像の相関度を求め、各ブロックの評価値を算出し、現画像に対して最も相関度の高い参照画像ブロックを求める。このような方式は、ブロックマッチング法と呼ばれる。
このような動画像データの圧縮方法として、MPEG(モーション・ピクチャ・イメージ・コーデング・エキスパーツ・グループ;Motion Picture Image Coding Experts Group)規格において、動き補償予測符号化方式の詳細が定められている。このMPEG規格においては、符号化時、予測誤差を、DCT(離散コサイン変換)変換し、このDCT変換された値を量子化する。この量子化データが、可変長符号化されて伝送される。DCT変換により、データの空間の冗長性を低減し、また予測符号化により、データの時間的な冗長性を低減する。
高能率符号化を実現するためには、したがって、送信データ量が少なくなるようなブロックが予測画像ブロックとして用いられるように、動きベクトルを検出する必要がある。動きベクトル検出時においては、参照画像の探索範囲内の各ブロックについて評価値が算出される。この評価値としては、差分絶対値和または差分自乗和が用いられる。差分は、現画像ブロックの画素と参照画像ブロックの対応の位置の画素との間で求められる。通常、動きベクトル検出装置のハードウェア量を低減するために、評価値としては、差分絶対値和が用いられる。この差分絶対値和が最小となる参照画像ブロックを予測画像ブロックとして用いて、予測誤差信号を生成する。
この動き予測の精度、すなわち、動きベクトルの検出精度を改善することを図る構成が、特許文献1(特開平11−252571号公報)に開示されている。この特許文献1に示される構成においては、制御部からの許容演算パラメータに従って、動きベクトル候補数などが指定されて、参照画像ブロックの対応の位置領域近傍の動きベクトル候補を選択し、これらの候補ベクトルから最適予測動きベクトルを、算出評価値に従って決定する。
このとき、また、現画像における動きベクトルの分散値から、参照画像の探索範囲の探索形状を決定し、この決定された探索範囲内で最適予測動きベクトルを起点として動きベクトルの探索を行なう。また、この特許文献1に示される構成においては、最適動きベクトル探索時において、使用される画素数も応じて制御パラメータに基づいて決定されている。最終的に、最適動きベクトルの決定するブロックについての差分自乗和がしきい値以上のときには、動きベクトルの検出精度が悪いとして、通常の全探索方式に従って、探索範囲内の全ブロックを探索対象として動きベクトルを検出する。
また、特許文献2(特開平7−115648号公報)においては、動きベクトル検出精度を改善することを目的として、差分絶対値和が最小となるように差分絶対値に対して重付け処理を行ない、この後に、差分絶対値和を求める構成が示されている。この重付け処理においては、差分絶対値の範囲を検出して、その検出結果に従って重みを決定している。
また、動きベクトル評価値算出時においては、ブロック内画素それぞれについて差分自乗値または差分絶対値を検出することが要求される。この演算時間を短縮することを目的とする構成が、特許文献3(特開2000−278691号公報)に示されている。この特許文献3に示される構成においては、現画像ブロックおよび探索範囲内の参照画像ブロックの画素値を、すべてしきい値処理して1ビットデータに符号化し、この1ビット画素値を用いてブロックマッチング演算を実行する。このしきい値としては、現画像ブロックの画素の最大値および最小値の平均値が用いられる。探索範囲内の候補ブロック(参照画像ブロック)について評価値算出が完了すると、最小評価値に対応する候補動きベクトルが決定される。この候補動きベクトルを起点として、その近傍の8領域を含む9つの参照画像ブロックについて全探索方式に従って再び動きベクトル検出動作を実行する。これらの処理の後、候補動きベクトルとこれらの9つのブロックにおいて求められた最適ベクトルとの和により、最終的な動きベクトルが求められている。
また、特許文献4(米国特許6516031号)においては、動きベクトルの評価値算出を効率的に行なうことを意図する構成が示されている。現画像ブロック画素に対応してアレイ状に要素プロセサを配置し、各要素プロセサを順次接続する。この要素プロセサアレイに、現画像ブロックの画素データを常駐させた状態で、探索範囲内の参照画像ブロックの画素データを順次シフトインさせ、各要素プロセサにおいて評価値成分を算出させる。要素プロセサに対して供給される参照画素データをフィルタ処理して、演算対象の画素をスキップすることにより、演算量を低減する。また、現画像ブロックの位置に応じて制御信号により、画素値に重みを付けて演算を行って評価値算出を実行する。
特開平11−252571号公報
特開平7−115648号公報
特開2000−278691号公報
米国特許6516031号
符号伝送時においては、動きベクトルが指定する参照画像ブロック、すなわち予測画像ブロックと現画像ブロックの各対応の画素の差分値が予測誤差として求められる。この予測誤差がDCT変換され、次いで量子化される。この量子化符号(量子化係数)が可変長符号に変換されて伝送される。DCT変換は、空間的な冗長性を除去するために行なわれる。一方、予測誤差は、時間的な冗長性を除去するために行なわれる。
今、現画像ブロックにおいて、局所的な画像の変化が存在し、この現画像ブロック内において空間的な相関度が小さい状態(局所的に画素の値が他の位置の画素の値と異なる状態)を考える。評価値算出時において、差分絶対値和が算出され、この差分絶対値和の最も小さな参照画像ブロックが、予測画像ブロックとして決定される。この場合、現画像ブロックの局所的な変化を反映しない、画像の変化の少ない参照画像ブロックの評価値が最小値となり、現画像ブロックと同様の画像の特徴を有する相関性の高い画素値分布を有する参照画像ブロックの評価値が、この最小値よりも高くなる場合が存在する。このような場合、相関性の高い参照画像ブロックと異なる参照画像ブロックが、予測画像ブロックとして決定される。この予測画像ブロックは、局所的な画像の変化が少なく、空間的な冗長性が高い。DCT変換をこの予測誤差に基づいて行なった場合、DCT係数は、対応のDCT変換を受ける画素ブロックの画素値の影響をすべて受けるため、DCT係数(予測誤差のDCT変換値)の絶対値が、現画像ブロックの局所的な変化に対応する画素値の影響により大きくなる。この結果、DCT係数を量子化したデータの絶対値も大きくなり、応じて、可変長符号化される送信データのビット数が増大する。
このような評価値算出時において、差分自乗和を利用する場合、画像の局所的な変化が評価値算出時に強調されて現われるため、このような状態を避けることは可能である。しかしながら、差分絶対値和を評価値として利用する場合、正確に、その送信符号量が最も小さく、現画像ブロックと相関度の高い参照画像ブロックを予測画像ブロックとして検出することができない場合が生じ、動きベクトル検出の精度が低いという問題が生じる。
上述の特許文献1においては、動きベクトル検出精度を改善するために、動きベクトルの分散値から、制御パラメータに基づいて決定された予測動きベクトル周辺領域に対する探索範囲の形状を決定している。しかしながら、現画像ブロック自体の画像の特徴に応じて、その探索範囲の決定または評価値算出時の演算内容の変更などの処理は行なわれていない。したがって、この特許文献1に示される構成においても、上述のような、空間的な相関性(冗長度)の小さな現画像ブロックに対し、最適な参照画像ブロックを検出することができないという問題が生じる。
また、特許文献2においては、同様、動きベクトル検出の精度を改善するために、差分絶対値和が最小となるように、差分絶対値に対し重付けを行ない、その後、差分絶対値和を求めている。しかしながら、この重付け処理においては、差分絶対値の範囲を検出して、重みを判定して重付け処理を行なっているだけであり、現画像ブロックの画像の特徴に応じた処理は何ら実行していない。
また、特許文献3においては、評価値算出時間を短縮するために、現画像ブロックにおける画素の最大値および最小値の平均値をしきい値として用いて各画素値を1ビットデータに符号化して評価値を算出している。この特許文献3に示される構成においては、まず1ビット画素値を用いてブロックマッチング法に従って第1の動きベクトルを検出し、次いで、この第1の動きベクトル周辺の参照画像ブロックに対し全探索方式に従って評価値算出およびベクトル候補検出を行なっている。したがって、動きベクトル検出は2段階にわたって行なっており、動きベクトル探索時間が長くなる。また、現画像ブロックの画素と探索範囲内の参照画像ブロックの画素すべてをしきい値処理して2値データに変換して評価値算出を行なっており、同様、局所的な画像の急激な変化に相関する画像ブロック検出の精度が低下する。また、最終動きベクトル算出時においては、第1の動きベクトルに基づいて全探索を行なっており、同様、動きベクトル検出の精度が改善されない。
特許文献4においては、評価値算出の演算を効率的に行なうことを示しているものの、現画像ブロックの画像の特徴に応じた評価値算出を何ら開示していない。
それゆえ、この発明の目的は、高精度で動きベクトルを検出することのできる動き検出装置を提供することである。
この発明の他の目的は、DCT演算および量子化演算により生成される予測画像データの符号量を確実に低減することのできる動き検出装置を提供することである。
この発明に係る動き検出装置は、現画像ブロックの画素値に従って現画像ブロックの特徴を抽出する特徴抽出手段と、この特徴抽出手段により抽出された特徴情報に従って参照画像探索範囲内のブロックの評価値の算出に用いられる演算内容を各画素単位で選択的に修飾する手段を含み、現画像ブロック画素値と参照画像ブロック画素値とに従って参照画像ブロックの動きベクトル評価値を算出する演算手段とを含む。
特徴抽出手段により、予め、現画像ブロックの画像の特徴を抽出し、この特徴情報をもとに、動きベクトル探索時の演算対象画素を変更または探索時の演算方法を変更するなどの、評価値参照に用いられる値または演算内容の修飾を行なうことにより、現画像ブロックの特徴に応じた画素値に対する評価値要素を強調して生成することができ、現画像ブロックの特徴と相関度の高い特徴を有する参照画像ブロックの評価値を小さくすることができ、高精度で動きベクトルを検出することができる。
[実施の形態1]
図1は、この発明の実施の形態1に従う動きベクトル検出装置の全体の構成を概略的に示す図である。図1において、動きベクトル検出装置1は、動きベクトル検出の対象領域である現画像ブロック(テンプレートマクロブロック)CIの画素データを受け、現画像ブロック(対象領域)の画像の特徴を抽出する対象領域特徴抽出部2と、対象領域特徴抽出部2からの現画像ブロック画素CI(px)と特徴情報FRと参照画像ブロックRIの画素データとを受け、特徴情報FRに従って演算内容または演算画素値を修飾して差分絶対値|ai−bi|を各画素ごとに生成する演算部3と、演算部3からの差分|ai−bi|の総和を求め差分絶対値和Σ|ai−bi|を生成する総和部4と、この総和部4からの差分絶対値和Σ|ai−bi|を受け、参照画像ブロックごとに評価値を比較して、最小差分絶対値和に対応する評価値ESと対応の参照画像ブロックを示す動きベクトルMVを生成する比較部5を含む。
図1は、この発明の実施の形態1に従う動きベクトル検出装置の全体の構成を概略的に示す図である。図1において、動きベクトル検出装置1は、動きベクトル検出の対象領域である現画像ブロック(テンプレートマクロブロック)CIの画素データを受け、現画像ブロック(対象領域)の画像の特徴を抽出する対象領域特徴抽出部2と、対象領域特徴抽出部2からの現画像ブロック画素CI(px)と特徴情報FRと参照画像ブロックRIの画素データとを受け、特徴情報FRに従って演算内容または演算画素値を修飾して差分絶対値|ai−bi|を各画素ごとに生成する演算部3と、演算部3からの差分|ai−bi|の総和を求め差分絶対値和Σ|ai−bi|を生成する総和部4と、この総和部4からの差分絶対値和Σ|ai−bi|を受け、参照画像ブロックごとに評価値を比較して、最小差分絶対値和に対応する評価値ESと対応の参照画像ブロックを示す動きベクトルMVを生成する比較部5を含む。
対象領域特徴抽出部2は、その具体的な抽出特徴については後に詳細に説明するが、たとえば、現画像ブロックにおける最大値および最小値の画素の位置などの情報を抽出する。この対象領域特徴抽出部2により特徴情報FRを抽出することにより、現画像ブロックCI内において空間的な相関度の低い画素の位置を抽出する。
演算部3においては、この参照画像ブロックRIと現画像ブロックCIの各画素について、特徴情報FRに従ってその演算値または演算内容が修飾(変更)される。これにより、特徴を強調した演算を行なって差分絶対値を求める。したがって、この差分絶対値においては、この現画像ブロックの特徴的な画素と画素値を強調した値に設定することができ、差分絶対値が極端に大きくなる参照画像ブロックの評価値を相対的に大きくして、予測画像ブロックとして決定される確率を低減する。
図2は、図1に示す対象領域特徴抽出部2の構成を概略的に示す図である。図2において、対象領域特徴抽出部2は、現画像ブロックCIの最大値の画素および最小値の画素を検出し、これらの最大値画素および最小値画素にたとえば特徴値“1”を対応付け、かつそれ以外の画素に特徴値“0”を対応付けて、特徴情報FRとして出力する。これらの特徴情報FRと並行して現画像画素CI(px)が出力される。この特徴情報抽出時においては、たとえば、図3に示すような特徴情報が抽出される。
図3において、現画像ブロックCIとして、4行4列の画素ブロックを考える。現画像ブロックCIにおいては、第1行第2列の画素が最大値を有し、第3行第3列の画素が最小値を有する状態を考える。この場合、特徴情報FRとして、最大値画素および最小値画素に対してビット“1”をリンクさせ、残りの画素に対してビット“0”をリンクさせる。差分絶対値算出時、特徴情報FRにおいてビット“1”が付された画素に対し重付け演算を行ない、残りの画素に対しては重付け演算は行なわない。差分絶対値算出時、演算結果が最も大きな値となる可能性のある画素の影響を大きくすることができ、確実に、現画像ブロックの特徴と相関度の高い特徴を有する参照画像ブロックを検出することができる。
図4は、図2に示す最大最小検出部21の構成の一例を概略的に示す図である。図4において、最大参照値検出部21は、レジスタ211の記憶値と現画像ブロック画素値PX(i)を比較する比較器212と、レジスタ215の格納値と現画像ブロック画素値PX(i)とを比較する比較器216と、現画像ブロック画素値PX(i)の転送サイクルを規定するクロック信号CLKをカウントするカウンタ213と、比較器212からの比較検出信号LGに従ってカウンタ213のカウント値を格納するレジスタ214と、比較器215の比較結果指示信号SMに従ってカウンタ213のカウント値を格納するレジスタ217を含む。
なお、以下では、符号PX(i)を、画素およびその値を示すものとして用いる。
比較器212は、現画像ブロック画素PX(i)がレジスタ211に格納されている値よりも大きいときにその比較結果指示信号LGをアサートする。レジスタ211は、この比較器212からの比較結果指示信号LGがアサートされると、現画像ブロック画素PX(i)を格納する。同様、レジスタ214も、この比較器212の比較結果指示信号LGのアサートに従ってカウンタ213のカウント値を格納し、最大値画素候補の現画像ブロック内位置情報を格納する。
比較器216は、レジスタ215の格納値よりも現画像ブロック画素PX(i)の値が小さいときに比較結果指示信号SMをアサートする。レジスタ215は、この比較器216の比較結果指示信号SMのアサートに従って現画像ブロック画素PX(i)の値を格納し、同様、レジスタ217が、この比較結果指示信号SMのアサートに従ってカウンタ213のカウント値を最小値候補画素の位置情報として格納する。
レジスタ211は、リセット信号RSTに従って最小画素値に初期設定され、レジスタ215は、リセット信号RSTに従って最大画素値に初期化される。レジスタ214および217は、リセット信号RSTに従って、現画像ブロックの先頭画素位置を示す値に格納値がリセットされる。
最大最小検出部21は、さらに、現画像ブロック画素PX(i)を順次格納するバッファレジスタ221と、レジスタ214および217に格納された位置情報をデコードするデコーダ218と、デコーダ218の出力信号に従ってバッファレジスタ220のレジスタ回路を選択し、選択レジスタ回路へ“1”を転送するセレクタ219を含む。これらのバッファレジスタ221および222は、各々、FIFO型(先入れ先出し型)のレジスタで構成され、バッファレジスタ221から現画像ブロック画素CI(px)が順次出力され、バッファレジスタ220から各画素に対応する特徴情報FRが出力される。
この図4に示す最大最小検出部21の構成においては、レジスタ211が、最小画素値に初期設定されており、比較器212が、大きな値の現画像ブロック画素PX(i)を検出すると、レジスタ211の格納値が更新される。したがって、現画像ブロックのすべての画素についての比較動作が比較器212により完了すると、レジスタ211には、この現画像ブロック内の画素の最大値が格納される。レジスタ214には、この最大値の画素の位置を示す情報がカウンタ213のカウント値により格納される。
同様、比較器216は、レジスタ215が、その格納値が最大画素値に初期化されており、現画像ブロック画素PX(i)がレジスタ215の格納値よりも小さいときに、常にこのレジスタ215の格納値を更新する。したがって、この比較器216により、現画像ブロックの全画素についての比較動作が完了すると、レジスタ215には現画像ブロックの画素の最小値が格納され、レジスタ217には、この最小値の画素位置を示す位置情報として、カウンタ213のカウント値が格納される。
バッファレジスタ221は、たとえばクロック信号CLKに同期して転送動作を行なうシフトレジスタなどのFIFO型回路で構成され、特徴情報抽出までの時間を待ち合わせ、また、次段回路において現画像ブロックの処理を開始するタイミングに画素転送動作を合わせるために用いられる。1つの現画像ブロックについて最大値および最小値の検出動作が完了すると、デコーダ218がレジスタ214および217に格納された位置情報をデコードし、選択信号をセレクタ219へ与える。バッファレジスタ220は、このバッファレジスタ221と同様の段数のFIFO回路で構成され、セレクタ219が、最大値および最小値に対応するレジスタ回路を選択し、選択レジスタ回路にデータ“1”を書込む。バッファレジスタ220の格納値を、初期値“0”にリセットすることにより、最大値および最小値の画素に対する特徴情報として“1”を付与することができる。
これらの最大値および最小値の画素を検出することにより、差分値の絶対値が最も大きくなる可能性のある画素を抽出することができる。
図5は、図1に示す演算部3の構成の一例を概略的に示す図である。図5においては、1つの画素に対する差分絶対値を求める構成を示す。各画素に対して、この図5に示す演算部の構成がアレイ状に配置され(たとえば要素プロセサアレイを利用する)、各要素プロセサにおいて並列に、差分絶対値を求める演算処理が行なわれてもよい。
図5において、演算部3は、現画像ブロック画素CI(px)と参照画像ブロック画素RI(px)の差分絶対値DIFを求める差分絶対値演算器31と、重付けモード指示信号WGMDに応答して選択的に活性化され、活性化時、この差分絶対値演算器31からの差分絶対値DIFに所定の重みWを付けて重み付き差分絶対値W・DIFを生成する重付け演算器32と、特徴情報FRに従って、差分絶対値DIFおよび重付き差分絶対値W・DIFの一方を選択して差分絶対値|ai−bi|を生成するセレクタ33を含む。
特徴情報FRは、現画像ブロック画素CI(px)それぞれに対応した特徴情報ビットを含んでおり、各現画像ブロック画素ごとに、特徴情報ビットに従ってセレクタ33が選択動作を実行する。
重付け演算器32は、重付けモード指示信号WGMDが活性状態にあるとき、一例として、2倍の差分絶対値2・DIFを生成する(W=2)。
セレクタ33は、この特徴情報FRが最大値または最小値を示すときに、重付き差分絶対値W・DIFを選択して差分絶対値|ai−bi|を生成する。特徴情報FRが、最小値および最大値以外の画素を示しているときには、セレクタ33は、差分絶対値演算器31により生成された差分絶対値DIFを選択して差分絶対値|ai−bi|を生成する。
したがって、この現画像ブロックにおいて最大値および最小値の画素についての差分絶対値が2倍にされ、その影響が十分大きくされる。
重付け演算器32における重みが2倍の場合、単に差分絶対値DIFの1ビット左シフト操作により2倍の重付けを実現することができる。したがって、セレクタ33における接続経路を切換えるだけで、2倍の重付け演算を実現することができ、重付け演算器32において乗算器を設ける必要がなく、回路規模の増大を抑制することができる。
総和部4は、この演算部3から各画素ごとに出力される差分絶対値|ai−bi|を累算して、参照画像ブロックに対する評価値を生成する。したがって、演算部3から1画素単位で差分絶対値が転送される場合、図3に示す4行4列の現画像ブロックを用いる場合、同様、参照画像ブロックも4行4列の画素ブロックであり、16サイクルにわたって順次転送される現画像ブロック画素CI(px)に対する演算結果を累算することにより、この参照画像ブロックRIの評価値を生成することができる。
図1に示す比較部5は、16サイクルに1回、すなわち参照画像ブロックに対する評価値算出サイクルごとに、それまでに与えられていた最適ベクトル候補評価値と比較し、相関度の高い参照ブロックに対する評価値、すなわち評価値の低いベクトルに対する評価値を最適べクトル評価値として保持し、また参照画像ブロックの位置情報を動きベクトル候補として保持する。この比較部5における最適ベクトル評価値比較による最適ベクトル評価値および最適ベクトル候補の保持を行なう構成は、図4に示す比較器216およびレジスタ215,217を含む部分の構成と同様の構成を用いて実現することができる。
この比較動作時、評価値が同じ場合には、最適評価値候補の更新は所定の規則に基づいて行なわれればよい。
現画像ブロックの画像の特徴として、現画像ブロックの画素の最大値および最小値を抽出し、その特徴情報をもとに、ベクトル探索時の演算方法を画素ごとに変更することにより、差分値が大きくなる可能性のある画素の影響を大きくすることができ、現画像ブロックと同様の特徴を有する参照画像ブロックを予測画像ブロックとして検出することができ、伝送符号量を低減することのできる最適ベクトルを動きベクトルとして検出することができる。
[変更例1]
図6は、図5に示す重付け演算器32の変更例を示す図である。図6において、重付け演算器32は、重付けモード指示信号WGMDに従ってそのオフセット値が変更可能であるオフセットレジスタ321と、オフセットレジスタ321のオフセット値OFSと図5に示す差分絶対値演算器31からの差分絶対値DIFとを加算して、重付き差分絶対値WDIFを生成する加算器322を含む。このオフセット値OFSは、その値が、重付けモード指示信号WGMDに応じて変更可能である。重み付け指示信号WGMDを複数ビットの信号で構成し、各ビット値に従ってオフセット値を選択する、または重付け指示信号WGMD自体が、オフセット値を示す。
図6は、図5に示す重付け演算器32の変更例を示す図である。図6において、重付け演算器32は、重付けモード指示信号WGMDに従ってそのオフセット値が変更可能であるオフセットレジスタ321と、オフセットレジスタ321のオフセット値OFSと図5に示す差分絶対値演算器31からの差分絶対値DIFとを加算して、重付き差分絶対値WDIFを生成する加算器322を含む。このオフセット値OFSは、その値が、重付けモード指示信号WGMDに応じて変更可能である。重み付け指示信号WGMDを複数ビットの信号で構成し、各ビット値に従ってオフセット値を選択する、または重付け指示信号WGMD自体が、オフセット値を示す。
この場合、オフセット値OFSを正の値に設定することにより、最大値および最小値の画素の評価値に対する影響を大きくすることができる。
また、図1に示す比較部5は、この参照画像の探索範囲内の参照画像ブロックの位置に応じて、その比較動作時にオフセット値を用いて比較動作を行なってもよい。この場合、現画像の動きに応じて、参照画像の探索範囲の中央部領域のオフセットを大きくし、周辺領域のオフセット値を小さくすることにした場合、動きの少ない画像に対する参照画像ブロックを検出することができる(評価値が同じ場合)。また、これに代えて、探索範囲の周辺領域のオフセット値を小さくし、周辺領域の参照画像ブロックが、予測画像ブロックとなるようにオフセットがかけられてもよい(動きが大きい場合)。これにより、動きに応じて、最適な予測画像ブロックを検出することができる。
図7は、この発明の実施の形態1に従う符号化処理の一例を示す図である。図7においては、説明を簡略化するために、2行2列の現画像ブロックTMBと2行2列に配置される参照画像ブロックSWAおよびSWBを示す。現画像ブロックTMBは、その第1行第1列の画素が最小値MINとして10を有する。また最大値MAXとして、第2行第2列の画素が画素値100を有する。参照画像ブロックSWAは、すべての画素が値10を有し、参照画像ブロックSWBは、第2行第2列の画素が画素値39を有し、残りの画素が値0を有する。
この現画像ブロックTMBに対して、動きベクトル探索時においては、まず各参照画像ブロックSWAおよびSWBに対して差分絶対値が求められる。この場合、参照画像ブロックSWAにおいては、第2行第2列の画素に対応する差分絶対値が90となり、残りの画素についての差分絶対値は0となる。一方、参照画像ブロックSWBにおいては、第2行第2列の画素の差分絶対値が61となり、残りの画素については差分絶対値が10となる(ブロックAAおよびAB参照)。
この場合、従来においては、評価値が各画素の差分絶対値の和であり、参照画像ブロックSWAに対する差分絶対値AAの総和が90であり、一方、参照画像ブロックSWBの差分絶対値ABの総和は91であり、参照画像ブロックSWAが予測画像ブロックとして選択される。この参照画像ブロックSWAについて現画像ブロックTMBの予測誤差を求めると、第2行第2列の画素の予測誤差が90となり、残りの画素の予測誤差が0となる予測誤差ブロックPAが生成される。この予測誤差ブロックPAを、DCT変換すると、DCT係数として、45.0の組および−45.0の組が対角線上に配置されるDCT係数ブロックDAが生成される。このDCT係数ブロックDAを、量子化ステップ10で量子化すると、対角線上に4の組および−4の組が配置される量子化ブロックQAが形成される。
一方、本発明においては、現画像ブロックTMBの特徴を抽出し、最大値MAXおよび最小値MINに対応する画素についての差分値を一例として2倍する。この場合、参照画像ブロックSWAについては、第2行第2列の差分絶対値が180となり、残りの画素の差分絶対値が0となる差分絶対値ブロックACが形成される。一方、参照画像ブロックSWBについては、最小値画素および最大値画素に対応する差分絶対値が2倍されるため、第1行において20,10、第2行において10,122となる差分絶対値ブロックADが形成される。これらの差分絶対値ブロックACおよびAD各々の総和を求めると、それぞれ、180および162となり、参照画像ブロックSWBの評価値が低いため、参照画像ブロックSWBが予測画像ブロックとして選択される。
この参照画像ブロックSWBについて予測誤差を求めると、第1行において10,10、第2行において10,61となる予測誤差ブロックPBが形成される。この予測誤差ブロックPBをDCT変換すると、第1行において45.5,−25.5、第2行において−25.5,25.5のDCT係数を有するブロックDBが形成される。これを、量子化レベル(ステップ)10で量子化した場合、第1行で4,−2、第2行で−2,2となる要素で構成される量子化ブロックQBが得られる。
量子化ブロックQAおよびQBを比較すると、量子化ブロックQBの方が、量子化値が小さく、可変長符号に変換するときの符号量が少なくなる。したがって、正確に、現画像ブロックTMBの特徴に応じて参照画像ブロックを選択することにより、現画像ブロックの特徴と同様の特徴を有する参照画像ブロックを選択することにより、符号量の少ない参照画像ブロックを特定する動きベクトルを検出することができる。
なお、上述の説明においては、重みとして2倍の係数が用いられている。しかしながら、この重み付け係数Wは、画像の特徴に応じて適当な値に定められれば良い。
以上のように、この発明の実施の形態1に従えば、現画像ブロックの特徴情報を抽出し、この特徴情報を用いて各画素に対する演算内容を更新(修飾)しており、正確に特徴の大きな画素の影響を大きくして評価値を算出することができ、予測誤差符号化時に符号量を低減することのできる動きベクトルを高精度で検出することができる。
[実施の形態2]
図8は、この発明の実施の形態2に従う演算部3の構成を概略的に示す図である。この図8に示す演算部3においては、差分絶対値演算器31からの差分絶対値DIFに対し重付けモード指示信号WGMDに従って選択的に活性化され、1/Nの重みを付けた差分絶対値DIF/Nを生成する重付け演算器32Aと、特徴情報FRに従って、この重付き差分絶対値と差分絶対値DIFの一方を選択して出力するセレクタ33Aが設けられる。
図8は、この発明の実施の形態2に従う演算部3の構成を概略的に示す図である。この図8に示す演算部3においては、差分絶対値演算器31からの差分絶対値DIFに対し重付けモード指示信号WGMDに従って選択的に活性化され、1/Nの重みを付けた差分絶対値DIF/Nを生成する重付け演算器32Aと、特徴情報FRに従って、この重付き差分絶対値と差分絶対値DIFの一方を選択して出力するセレクタ33Aが設けられる。
この重付け演算器32Aは、たとえば、DIF/2の除算を行なう。セレクタ33Aは、特徴情報FRが、最大値または最小値の画素を有するときには、差分絶対値DIFを選択し、特徴情報FRが、最大値および最小値の画素以外の特徴を指示するときには、この重付け演算器32Aからの重み付き差分絶対値DIF/Nを選択する。
したがって、この図8に示す構成においては、最大値および最小値の画素以外の画素の影響が抑制され、相対的に、重付け対象画素の重みを大きくすることができる。この重付け演算器32Aにおいて、たとえば1/2の重みを付ける場合、セレクタ33Aにおいて、差分絶対値DIFを1ビット右シフトした値を選択するだけで、この演算が実現されるため、回路構成を複雑化させることなく、また回路規模の増大も抑制することができる。
この特徴情報FRを抽出する構成は、実施の形態1において示した特徴抽出部の構成と同じ構成を利用することができる。
具体的に、図9に示すように、現画像ブロックPMBと参照画像ブロックSWAおよびSWBについて、差分絶対値を求める場合を考える。現画像ブロックTMBは、その第1行第1列の画素が最小値MIN、第2行第2列の画素が最大値MAXを有する。この場合、参照画像ブロックSWAにおいては差分絶対値は、第1行第2列および第2行第1列の画素に対する差分絶対値が1/2倍されるため、第1行において0,0、第2行において0,90の要素で構成される差分絶対値ブロックが生成される。一方、参照画像ブロックSWBにおいては、第1行第2列および第2行第1列の画素についての差分絶対値が1/2倍されるため、第1行において10,5、第2行において5,61の要素が配置される差分絶対値ブロックが生成される。これらの差分絶対値ブロックについて差分絶対値和を求めると、参照画像ブロックSWAについては、90、参照画像ブロックSWBについては、81となり、正確に、送信符号量の少ない参照画像ブロックSWBを指定することができる。
以上のように、この発明の実施の形態2に従えば、現画像ブロック内の特徴を、最大および最小画素値情報に基づいて抽出し、この特徴情報をもとに動きベクトル探索時の評価値演算方法を画素ごとに調整しており、画像の特徴値の影響の小さな画素値の影響を抑制しており、正確に、送信符号量を低減するのに最適な動きベクトルを検出することが可能となり、動きベクトル検出の精度を改善することができる。
[実施の形態3]
図10は、この発明の実施の形態3に従う特徴抽出部の特徴抽出操作を示す図である。現画像ブロックCIにおいて、最大値および最小値の画素の位置を検出する。現画像ブロックCIの特徴情報FRとして、これらの最大値および最小値を有する画素と同一の行を、すべて重付け対象画素とし、特徴情報ビットを“1”に設定する。残りの行については、重付け操作を行なわず、ビット“0”を特徴情報として設定する。
図10は、この発明の実施の形態3に従う特徴抽出部の特徴抽出操作を示す図である。現画像ブロックCIにおいて、最大値および最小値の画素の位置を検出する。現画像ブロックCIの特徴情報FRとして、これらの最大値および最小値を有する画素と同一の行を、すべて重付け対象画素とし、特徴情報ビットを“1”に設定する。残りの行については、重付け操作を行なわず、ビット“0”を特徴情報として設定する。
この図10に示す特徴情報FRを生成する場合、現画像ブロックの画像の水平方向の画像の連続性により、応じて、この現画像ブロックCIの水平方向のデータの連続性の特徴が強調される。したがって、この場合においても、特徴情報FRに従って実施の形態1または2における演算部3において選択的に各画素ごとに演算内容を設定することにより、この現画像ブロックCIの水平方向の画素の特徴を強調した差分絶対値を求めることができる。これにより、現画像ブロックの特徴に応じた参照画像ブロックを指定する動きベクトルを検出することができ、動きベクトル検出の精度を改善することができる。
なお、この図10に示す特徴抽出を行なう対象領域特徴抽出部の構成としては、図4に示す構成を利用することができる。図4に示すデコーダ218において、レジスタ214および217それぞれに格納される位置情報を行指定情報にデコードする。これにより、図4に示すバッファレジスタ220に、最大値画素および最小値画素に対応するレジスタ回路に、ビット“1”を格納することができる。
また、これに代えて、カウンタを行をカウントするように設定して(画素列を全てカウントするとカウント値を増分する)、そのカウント値が行を指定するようにしても良い。
なお、この図10に示す特徴情報FRに従って演算部3で行なわれる演算内容については、実施の形態1および2のいずれが用いられてもよい。
以上のように、この発明の実施の形態3に従えば、現画像ブロックの最大値および最小値の画素と同一行の画素を特徴強調画素領域として設定しており、現画像ブロックの特徴を強調した差分絶対値演算を行なうことができ、動きベクトル検出の精度を改善することができる。
[実施の形態4]
図11は、この発明の実施の形態4に従って対象領域特徴抽出部の特徴抽出操作を概略的に示す図である。この図11に示す特徴抽出操作においては、現画像ブロックCIの最大値および最小値と同一列の画素に対し、ビット“1”を付与し、垂直方向に整列する画素を、現画像ブロックの特徴強調画素として指定する。図11に示す現画像の場合においては、現画像ブロックCIにおいて第1行第2列および第3行第3列の画素が、それぞれ、最大値および最小値の画素であるため、特徴情報FRとしては、第2列および第3列の画素に対し、特徴情報ビット“1”を割当てて、これらの画素を、現画像の特徴強調画素として指定する。
図11は、この発明の実施の形態4に従って対象領域特徴抽出部の特徴抽出操作を概略的に示す図である。この図11に示す特徴抽出操作においては、現画像ブロックCIの最大値および最小値と同一列の画素に対し、ビット“1”を付与し、垂直方向に整列する画素を、現画像ブロックの特徴強調画素として指定する。図11に示す現画像の場合においては、現画像ブロックCIにおいて第1行第2列および第3行第3列の画素が、それぞれ、最大値および最小値の画素であるため、特徴情報FRとしては、第2列および第3列の画素に対し、特徴情報ビット“1”を割当てて、これらの画素を、現画像の特徴強調画素として指定する。
この図11に示す特徴抽出操作によれば、現画像ブロックの垂直方向におけるデータの連続性により特徴が強調される。したがって、この特徴強調領域の画素の影響を大きくして、差分絶対値演算を行なうことにより、現画像ブロックCIと同様の画像の特徴を有する参照画像ブロックを検出することができ、動きベクトル検出の精度を改善することができる。
この発明の実施の形態4において対象領域特徴抽出部の構成として、図4に示す構成を利用することができる。図4に示すデコーダ218において、カウンタのカウント値をデコードして列情報を生成する。また、これに代えて、図4に示すカウンタ213が、列情報のみを生成するように構成されてもよい(全列をカウントすると初期値に復帰する)。
以上のように、この発明の実施の形態4に従えば、現画像ブロックの最大値および最小値の画素と同一列の画素を特徴強調画素として指定しており、差分絶対値演算時、垂直方向の画像の連続性に基づいて画像の特徴を強調することができ、現画像ブロックと同様の特徴を有する参照画像ブロックを検出することができ、動きベクトル検出の精度を改善することができる。
[実施の形態5]
図12は、この発明の実施の形態5に従う対象領域特徴抽出部2の構成を概略的に示す図である。図12において、対象領域特徴抽出部2は、現画像ブロックの画素CI(px)を順次入力し、その平均値AVEを算出する平均値算出部22と、この平均値算出部22からの平均値AVEと現画像ブロック画素CI(px)の差分値と比較用しきい値VT1との比較を行なって特徴情報FRを生成する平均との差分比較部23とを含む。
図12は、この発明の実施の形態5に従う対象領域特徴抽出部2の構成を概略的に示す図である。図12において、対象領域特徴抽出部2は、現画像ブロックの画素CI(px)を順次入力し、その平均値AVEを算出する平均値算出部22と、この平均値算出部22からの平均値AVEと現画像ブロック画素CI(px)の差分値と比較用しきい値VT1との比較を行なって特徴情報FRを生成する平均との差分比較部23とを含む。
平均値算出部22は、現画像ブロックCIの各画素CI(px)の画素値を加算し、累算結果を、その現画像ブロックに含まれる画素数で除算することにより、平均値AVEを算出する。
図13は、図12に示す平均との差分比較部23の構成の一例を概略的に示す図である。図13において、平均との差分比較部23は、現画像ブロック画素PX(i)と平均値AVEとを減算してその絶対値を出力する差分器231と、差分器231の出力値と比較用しきい値VT1とを比較し、特徴情報ビットFR(i)を生成する比較器232を含む。
この平均との差分比較部23により、現画像ブロックの画素の平均値とのずれが、しきい値VT1により二値化処理される。平均とのずれが大きい画素に対して、例えば、特徴ビット“1”を付与することにより、現画像ブロックの画像の特徴を正確に抽出することができる。特に、このしきい値VT1の値を調整することにより、突出した特徴をより正確に抽出することができる。
図14は、この発明の実施の形態5における現画像ブロックCIの画素値の分布と抽出される特徴情報FRとの対応を示す図である。図14において、現画像ブロックCIにおいて、斜線で示す領域の画素が、平均値との差分がしきい値VT1以上の画素である。この図14においては、平均値との差が大きい画素に特徴ビットとして、“1”が割当てられる。したがって、この現画像ブロックCI内の平均値からのずれの大きい画素を抽出することにより、その影響を評価値算出に大きく及ぼすことができ、正確に、現画像ブロックCIの画像の特徴に応じた参照画像ブロックを検出することができ、動きベクトルの検出精度を改善することができる。
また、この現画像ブロックCIの画素PXの画素値と平均値との差分絶対値(ずれ)が、すべてしきい値VT1よりも小さい場合には、特徴情報のビットはすべて“0”となり、画素値重付けを行なわず、通常の動き探索と同じ評価値算出演算が行なわれる。したがって、このしきい値VT1のレベルに応じて、現画像ブロックの特徴に応じて適応的に重付け演算の実行/不実行を制御することができる。
このしきい値VT1は、図示しない制御部の制御の下に設定され、その値は変更可能である。
以上のように、この発明の実施の形態5に従えば、現画像ブロックの画素値の平均値と各画素のずれを求め、このずれがしきい値以上であるかに基づいて特徴情報を抽出しており、現画像ブロックの画像の特徴に応じた評価値算出動作を行なうことができ、動きベクトル検出精度を改善することができる。
[実施の形態6]
図15は、この発明の実施の形態6に従う対象領域特徴抽出部2の構成を概略的に示す図である。図15において、対象領域特徴抽出部2は、現画像ブロックの画素CI(px)の画素値の平均値AVEを算出する平均値算出部21と、この平均値算出部21からの平均値AVEと現画像ブロックの各画素PX(i)との偏差DEVを算出する偏差算出部24と、この偏差算出部24からの偏差DEVと比較用しきい値VT2とを比較し、その比較結果に従って特徴情報FRを生成する偏差比較部25とを含む。
図15は、この発明の実施の形態6に従う対象領域特徴抽出部2の構成を概略的に示す図である。図15において、対象領域特徴抽出部2は、現画像ブロックの画素CI(px)の画素値の平均値AVEを算出する平均値算出部21と、この平均値算出部21からの平均値AVEと現画像ブロックの各画素PX(i)との偏差DEVを算出する偏差算出部24と、この偏差算出部24からの偏差DEVと比較用しきい値VT2とを比較し、その比較結果に従って特徴情報FRを生成する偏差比較部25とを含む。
図16は、この図15に示す偏差算出部24の構成の一例を示す図である。図16において、偏差算出部24は、平均値AVEと現画像ブロック画素の画素値PX(i)とを減算する減算器241で構成される。この減算器241から、現画像ブロックの画素PX(i)に対する偏差DEVが生成される。偏差DEVは、PX(i)−AVEで表される。
偏差比較部25においてこの偏差DEVを比較用しきい値VT2と比較することにより、この平均値AVEからしきい値VT2以上ずれた画素値を有する画素を抽出することができ、画像の特徴を抽出することができる。この現画像ブロックCIと特徴情報FRの対応の一例は、先の図14に示す対応と同様である。しかしながら、この減算器241が、現画像ブロック画素PX(i)からの画素値から平均値AVEを減算する場合、この画素値の大きな画素領域を抽出することができる。逆に、減算器241が、平均値AVEから画素値PX(i)を減算する構成とされた場合、画素値が小さくなる方に大きくずれた画素の領域を抽出することができる。
以上のように、この発明の実施の形態6に従えば、現画像ブロックの画素の平均値と各画素の画素値との偏差の大小に従って現画像ブロックの画像の特徴を抽出しており、現画像ブロックの画像の特徴を正確に抽出することができる。また、全画素の偏差が比較用しきい値VT2よりも小さい場合には、この現画像ブロックの画素に対する重付け操作は行なわれず、通常の動き探索時の演算と同様の演算操作が行なわれ、しきい値VT2の値に応じて適応的に重付けの有無を制御することができる。これにより、現画像ブロックの突出した特徴をより正確に抽出することができ、動きベクトル検出精度を改善することができる。
[実施の形態7]
図17は、この発明の実施の形態7に従う演算部3の構成を概略的に示す図である。図17において、演算部3は、特徴情報FRに従って現画像ブロック画素CI(px)と参照画像ブロック画素RI(px)の一方を選択するセレクタ35と、セレクタ35の出力値と現画像ブロック画素CI(px)との差分絶対値を求める差分絶対値演算器31とを含む。
図17は、この発明の実施の形態7に従う演算部3の構成を概略的に示す図である。図17において、演算部3は、特徴情報FRに従って現画像ブロック画素CI(px)と参照画像ブロック画素RI(px)の一方を選択するセレクタ35と、セレクタ35の出力値と現画像ブロック画素CI(px)との差分絶対値を求める差分絶対値演算器31とを含む。
セレクタ35は、特徴情報FRの対応のビットが“1”のときには参照画像ブロックの画素RI(px)を選択し、特徴情報FRの対応のビットが“1”のときには、現画像ブロックの画素CI(px)を選択する。
したがって、この図17に示す演算部3の構成においては、特徴情報FRのビットが“1”であり、重付けを指定しているときには、現画像ブロックおよび参照画像ブロックの対応の画素の差分絶対値が求められる。一方、特徴情報FRの対応のビットが“0”であり、重付け対象と異なる画素であることを示しているときには、この差分絶対値演算器31の出力値|ai-bi|は、“0”となる。したがって、重付け対象以外の画素は、この評価値算出に寄与しないことになり、重付け対象の画素のみを用いて差分絶対値を求めることにより、正確に現画像ブロックの画像の特徴に応じた評価値算出を行なうことができる。これにより、現画像ブロックの画像の特徴に類似する参照画像ブロックを検出することが可能となり、動きベクトル検出の精度を改善することができる。
なお、特徴情報FRを生成する特徴抽出部の構成としては、先の実施の形態1から4のいずれが用いられても良い。
[実施の形態8]
図18は、この発明の実施の形態8に従う演算部3の構成を概略的に示す図である。図18において、演算部3は、動作モード指示信号OPMに従って特徴情報FRと固定値“1”の一方を選択するセレクタ36と、セレクタ36の出力値に従って現画像ブロック画素CI(px)および参照画像ブロック画素RI(px)の一方を選択するセレクタ35と、現画像ブロック画素CI(px)とセレクタ35の出力値との差分絶対値を算出する差分絶対値演算器31を含む。この差分絶対値演算器31の出力する差分絶対値|ai−bi|が、次段の図1に示す総和部4へ与えられる。
図18は、この発明の実施の形態8に従う演算部3の構成を概略的に示す図である。図18において、演算部3は、動作モード指示信号OPMに従って特徴情報FRと固定値“1”の一方を選択するセレクタ36と、セレクタ36の出力値に従って現画像ブロック画素CI(px)および参照画像ブロック画素RI(px)の一方を選択するセレクタ35と、現画像ブロック画素CI(px)とセレクタ35の出力値との差分絶対値を算出する差分絶対値演算器31を含む。この差分絶対値演算器31の出力する差分絶対値|ai−bi|が、次段の図1に示す総和部4へ与えられる。
セレクタ36は、動作モード指示信号OPMが“1”であり、重み付き演算処理を指定するときには、特徴情報FRを選択して出力する。一方、動作モード指示信号OPMが“0”にあり、通常処理(重み付き演算処理なし)を指定するときには、セレクタ36は固定値“1”を選択する。
セレクタ35は、図17に示す演算部3のセレクタ35と同様、セレクタ36の出力値が“1”のときには、参照画像ブロックの画素RI(px)を選択し、セレクタ36の出力値が“0”のときには、現画像ブロック画素CI(px)を選択する。
動作モード指示信号OPMが重み付き演算処理を指定するときには、セレクタ36からは特徴情報FRが順次出力されてセレクタ35へ与えられる。したがって、この場合には、図17に示す演算部3と同様、特徴情報FRに従って重付け処理が指定された現画像ブロック画素に対して、参照画像ブロックの対応の画素との差分絶対値が求められる。これ以外の現画像ブロック画素に対しては、差分絶対値が“0”となり、評価値には寄与しない。したがって、図17に示す実施の形態7に従う演算部3と同様の動作が実現される。
一方、動作モード指示信号OPMが“0”のときには、セレクタ36の出力値が“1”に固定されるため、セレクタ35は、常時、参照画像ブロックの画素RI(px)を選択して出力する。したがって、この場合には、重付き演算処理なしの通常の評価値算出処理が実行される。
外部からの動作モード指示信号OPMに従って、適応的に、重付け処理を活性/非活性状態に設定することができ、動きの激しい画像および動きの小さな画像に対して適応的に、重み付き演算処理を実行することができ、動きベクトル検出精度を改善することができる。
なお、この動作モード指示信号OPMについては、現画像ブロックの画素値の分散を求め、その分散値が所定値以上のときに、画素値のばらつきが大きいと判断して、特徴情報に従った重付け演算を行なうように構成されてもよい。また、この動作モード指示信号OPMは、ユーザが手動で設定するように構成されてよい。
以上のように、この発明の実施の形態8に従えば、動作モード指示に従って適応的に重付け処理の活性/非活性を制御しており、画像の動きに応じた動きベクトル探索を行なうことができ、動きベクトル検出精度を改善することができる。
[実施の形態9]
図19は、この発明の実施の形態9に従う演算部3の構成を概略的に示す図である。図19において、演算部3は、動作モード指示信号OPMに従って特徴情報FRと固定値“1”の一方を選択するセレクタ36と、セレクタ36の出力値に従って現画像ブロックの画素CI(px)と参照画像ブロックの画素RI(px)の一方を選択するセレクタ35と、セレクタ35の出力値と現画像ブロックの画素CI(px)の差分絶対値を求める差分絶対値演算器31と、重付けモード指示信号WGMDに従って選択的に活性化され、この差分絶対値演算器31からの差分絶対値DIFに重付け処理を行なって重み付き差分絶対値WDIFを生成する重付け演算器32と、特徴情報FRに従って重付き差分絶対値WDIFと差分絶対値DIFの一方を選択して差分絶対値|ai−bi|を生成するセレクタ33を含む。
図19は、この発明の実施の形態9に従う演算部3の構成を概略的に示す図である。図19において、演算部3は、動作モード指示信号OPMに従って特徴情報FRと固定値“1”の一方を選択するセレクタ36と、セレクタ36の出力値に従って現画像ブロックの画素CI(px)と参照画像ブロックの画素RI(px)の一方を選択するセレクタ35と、セレクタ35の出力値と現画像ブロックの画素CI(px)の差分絶対値を求める差分絶対値演算器31と、重付けモード指示信号WGMDに従って選択的に活性化され、この差分絶対値演算器31からの差分絶対値DIFに重付け処理を行なって重み付き差分絶対値WDIFを生成する重付け演算器32と、特徴情報FRに従って重付き差分絶対値WDIFと差分絶対値DIFの一方を選択して差分絶対値|ai−bi|を生成するセレクタ33を含む。
セレクタ36は、動作モード指示信号OPMが“1”であり、重み付き演算処理を示すときには特徴情報FRを選択する。この動作モード指示信号OPMが“0”のときには、セレクタ36は、固定値“1”を選択する。
セレクタ35は、このセレクタ36の出力値が“1”のときには、参照画像ブロックの画素RI(px)を選択し、セレクタ36の出力値が“0”のときには、現画像ブロックの画素CI(px)を選択する。
重付け演算器32は、重付けモード指示信号WGMDが重付けモードを指定するときには、与えられた差分絶対値に所定の係数を乗算して重付き差分絶対値WDIFを生成する。また、重付け演算器32は、重付けモード指示信号WGMDが重付け演算を指定しない通常演算処理を指定するときには、差分絶対値演算器31の出力値を通過させる。
セレクタ33は、特徴情報FRのビット値が“1”の時には重付け演算器32の出力値を選択し、ビット値が“0”の時には、差分絶対値演算器31からの差分絶対値を選択する。
この図19に示す演算部3の構成において、動作モード指示信号OPMに従って、特徴情報FRにより、演算対象画素を切換えるか否かを設定する。重付けモード指示信号WGMDにより、重付け演算器32により、重み付き演算を行なうか否かを決定する。したがって、動作モード指示信号OPMが演算対象画素変更モードを指定し、かつ重付けモード指示信号WGMDが重み付き演算を指定するときには、まず、セレクタ35により、画像の特徴に寄与しない画素が評価対象画素から削除される。次いで、重付け演算器32により、評価値に寄与する画素の評価値に対する寄与が大きくされる。したがって、この場合、画像の特徴を、より正確に反映して差分絶対値を生成することができる。
また、動作モード指示信号OPMが固定値“1”を指定するモードを設定したときには、演算対象画素の変更は行われず、セレクタ35により参照画像ブロックの画素RI(px)が選択され、従来と同様の、現画像ブロックおよび参照画像ブロックの対応の画素の差分絶対値が求められる。この場合、重付け演算器32により重付け操作を行なうことにより、セレクタ33が特徴情報FRに従って選択動作を行なうため、評価値に寄与する画素の影響を大きくすることができる。
また、動作モード指示信号OPMが、特徴情報FRを使用し、演算対象画素の変更モードを指定したとき、重付けモード指示信号WGMDが非活性状態にされると、重付け演算器32からは、重付けされていない差分絶対値DIFが生成される(W=1)。したがって、この場合においても、セレクタ35により、評価値に寄与しない画素成分が削除されるため、正確に、画像の特徴に応じた評価値を生成することができる。
動作モード指示信号OPMが通常動作モードを指定し、特徴情報の不使用を指定し、また、重付けモード指示信号WGMDが、重み付け演算処理を指定しない通常の処理を指定する時には、演算器31および32から同じ差分絶対値が生成されるため、特徴情報が生成される場合でも、通常の差分絶対値を求める演算が、現画像ブロック画素および参照画像ブロック画素を用いて行われる。この動作モード時には特徴情報FRの各ビットが“1”に固定されても良い。
この図19に示す演算部3を利用することにより、重付け演算および重付けなしの通常演算および探索対象画素変更演算を、対象画像の特徴に応じて適応的に実現することができ、より動きベクトル検出の精度を改善することができる。
[実施の形態10]
図20は、この発明の実施の形態10に従う対象領域特徴抽出部2の構成を概略的に示す図である。図20においては、対象領域特徴抽出部2は、現画像ブロック画素CI(px)を所定の割合で間引いてフィルタ処理を行なってフィルタ後の画像データを生成する現画像フィルタ26と、この現画像フィルタ26からのフィルタ後の画素データを受けて平均値を算出する平均値算出部22と、平均値算出部22からの平均値AVEとフィルタ処理された現画像ブロック画素の差分と比較用しきい値VT4とを比較する平均との差分比較部23を含む。この平均との差分比較部23からは、フィルタ処理された画素FPX(i)と特徴情報FRが生成される。
図20は、この発明の実施の形態10に従う対象領域特徴抽出部2の構成を概略的に示す図である。図20においては、対象領域特徴抽出部2は、現画像ブロック画素CI(px)を所定の割合で間引いてフィルタ処理を行なってフィルタ後の画像データを生成する現画像フィルタ26と、この現画像フィルタ26からのフィルタ後の画素データを受けて平均値を算出する平均値算出部22と、平均値算出部22からの平均値AVEとフィルタ処理された現画像ブロック画素の差分と比較用しきい値VT4とを比較する平均との差分比較部23を含む。この平均との差分比較部23からは、フィルタ処理された画素FPX(i)と特徴情報FRが生成される。
現画像フィルタ26は、たとえば、1画素ごとに現画像ブロックの画素を間引き、フィルタ対象の画素を、隣接位置の画素の値を利用してフィルタ処理を行なう。たとえば、水平方向に画素P1、P2およびP3が整列し、画素P2がフィルタ対象の場合、たとえば次式でフィルタ後の画素値FP2が求められる。
FP2=(P1+2・P2+P3)/4
画素P1またはP3が存在しない状態の場合には、フィルタ係数が変更される。この場合、フィルタ後の画素値は、次式で表わされる。
画素P1またはP3が存在しない状態の場合には、フィルタ係数が変更される。この場合、フィルタ後の画素値は、次式で表わされる。
FP2=(P1+3・P2)/4または(3・P2+P3)/4
現画像ブロックの画素P2を次段回路へ転送する。画素P1およびP3はスキップされ、利用されない。平均値算出部22においては、したがって、この現画像ブロックにおける半分の画素を用いて平均値算出動作を行なう。平均との差分比較部23も同様、このフィルタ後の現画像ブロックの画素FPX(i)と平均値AVEとの差をしきい値VT4と比較し、特徴情報FRを生成する。この場合、現画像ブロックの画素データとしてフィルタ後の画素データFPX(i)が出力される。したがって、同様、図21に示すように、参照画像ブロックの画素も、参照画像フィルタ60により同様のフィルタ処理され、フィルタ参照画素FRI(px)が生成される。これらのフィルタ後の画素データFPX(i)およびFRI(px)が、先の実施の形態1から9の演算部3へ与えられて、選択的な重付け演算が実行される。この場合、演算対象の画素が間引かれており、演算量を低減でき、またハードウェア量も低減できる。
現画像ブロックの画素P2を次段回路へ転送する。画素P1およびP3はスキップされ、利用されない。平均値算出部22においては、したがって、この現画像ブロックにおける半分の画素を用いて平均値算出動作を行なう。平均との差分比較部23も同様、このフィルタ後の現画像ブロックの画素FPX(i)と平均値AVEとの差をしきい値VT4と比較し、特徴情報FRを生成する。この場合、現画像ブロックの画素データとしてフィルタ後の画素データFPX(i)が出力される。したがって、同様、図21に示すように、参照画像ブロックの画素も、参照画像フィルタ60により同様のフィルタ処理され、フィルタ参照画素FRI(px)が生成される。これらのフィルタ後の画素データFPX(i)およびFRI(px)が、先の実施の形態1から9の演算部3へ与えられて、選択的な重付け演算が実行される。この場合、演算対象の画素が間引かれており、演算量を低減でき、またハードウェア量も低減できる。
この場合、画素が間引かれていても、フィルタ処理が行なわれているため、正確に画像の特徴を抽出して、評価値算出を行なうことができ、動きベクトル検出の精度を低下させることなく、評価値算出時間を低減しまた評価値算出のための回路要素数を低減することができる。
以上のように、この発明の実施の形態10に従えば、参照画像および現画像両者の画素をフィルタ処理し、フィルタ処理されたデータを用いて特徴データの抽出および選択的な重付け演算を特徴情報に基づいて行なっており、演算量を低減でき、また回路構成要素数も低減することができる。
この発明は、動画像を符号化する動画像符号化装置の動きベクトル検出装置として適用することができる。この動画像のフォーマットとしては、ブロックマッチング法に従って動きベクトルが検出され、この動きベクトルが指定する予測画像ブロックを用いて動き補償付き予測誤差を生成するフォーマットであればよく、ブロックマッチング法に基づいて動き補償予測符号化を行う画像データ符号化装置であれば、本発明を適用可能である。
1 動きベクトル検出装置、2 対象領域特徴抽出部、3 演算部、4 総和部、5 比較部、21 最大最小検出部、31 差分絶対値演算器、32 重付け演算器、33 セレクタ、32A 重付け演算器、33A セレクタ、22 平均値算出部、23 平均との差分比較部、24 偏差算出部、25 偏差比較部、35,36 セレクタ、26 現画像フィルタ、60 参照画像フィルタ。
Claims (14)
- 現画像ブロックと参照画像の探索範囲内のブロックとからブロックマッチング法に従って動きベクトルの評価値を算出するための装置であって、
前記現画像ブロックの画素値に従って前記現画像ブロックの特徴を抽出する特徴抽出手段と、
前記特徴抽出手段により抽出された特徴情報に従って、前記参照画像の探索範囲内のブロックの評価値算出に用いられる演算内容を各画素単位で選択的に修飾する手段を含み、前記現画像ブロックの画素値と前記参照画像のブロックの画素値とに従って前記参照画像ブロックの動きベクトルの評価値を算出する演算手段とを備える、動き検出装置。 - 前記演算手段は、
前記特徴抽出手段により抽出された特徴情報に従って前記参照画像ブロックの画素に基づいて生成される評価値要素を選択的に修飾する要素値修飾手段と、
前記要素値修飾手段により修飾された要素値と前記評価値要素の一方を前記特徴情報に従って選択して出力する選択手段とを備える、請求項1記載の動き検出装置。 - 前記演算手段は、
前記特徴抽出手段により抽出された特徴情報に従って前記現画像ブロックの画素値と前記参照画像ブロックの画素値の一方を選択する選択手段と、
前記選択手段の出力値と前記現画像ブロックの画素値とに従って前記評価値を算出する手段とを含む、請求項1記載の動き検出装置。 - 前記演算手段は、前記特徴抽出手段により抽出された特徴情報に従って評価値要素に対して重み付けを行なう重み付け手段を備える、請求項1記載の動き検出装置。
- 前記特徴抽出手段は、前記現画像ブロックの画素値が最大値を前記特徴情報として検出し、
前記演算手段は、最大値の現画像ブロックの画素に対する重み付けを前記特徴抽出手段からの特徴情報に従って重み付けを行なって評価値要素を算出する、請求項1記載の動き検出装置。 - 前記特徴抽出手段は、前記現画像ブロックの画素値の最小値を特徴情報として検出し、
前記演算手段は、前記特徴抽出手段からの特徴情報に従って前記最小値に対応する画素に対して重み付けを行なって前記評価値の要素を算出する、請求項1記載の動き検出装置。 - 前記特徴抽出手段は、前記現画像ブロックの画素値の最大値および最小値を前記特徴情報として検出し、
前記演算手段は、前記特徴抽出手段からの特徴情報に従って最大値の画素および最小値の画素に対して重み付けを行なって前記評価値要素を算出する、請求項1記載の動き検出装置。 - 前記特徴抽出手段は、前記現画像ブロックの予め定められた値の画素と整列する画素を修飾対象として設定するように特徴情報を生成する、請求項1記載の動き検出装置。
- 前記修飾操作を選択的に活性化する手段をさらに備える、請求項1記載の動き検出装置。
- 前記特徴抽出手段は、前記現画像ブロック画素の平均値と各画素の値との差分値としきい値とを比較し、該比較結果に従って前記特徴情報を生成する、請求項1記載の動き検出装置。
- 前記演算手段は、前記修飾時には、評価値要素を定数倍する、請求項1記載の動き検出装置。
- 前記演算手段は、
動作モード指示信号に従って前記特徴情報と固定値の一方を選択する第1の選択器と、
前記第1の選択器の出力値に従って前記現画像ブロック画素と前記参照画像ブロックの画素の一方を選択する第2の選択器と、
前記現画像ブロックの画素と前記第2の選択器の出力値とに従って前記評価値の要素を算出する演算器とを備える、請求項1記載の動き検出装置。 - 前記演算手段は、
動作モード指示信号に従って前記特徴情報と固定値の一方を選択する第1の選択器と、
前記第1の選択器の出力値に従って前記現画像ブロック画素と前記参照画像ブロックの画素の一方を選択する第2の選択器と、
前記現画像ブロックの画素と前記第2の選択器の出力値とに従って前記評価値の要素を算出する第1の演算器と
前記第1の演算器の出力値に処理操作指示信号に従って重み付けを行う第2の演算器と、
前記特徴情報に従って前記第1および第2の演算器の出力値の一方を選択して前記評価値要素として出力する第3の選択器とを備える、請求項1記載の動き検出装置。 - 前記特徴抽出手段は、
前記現画像ブロックの画素値の平均値を算出する手段と、
各前記現画像ブロックの画素と前記平均値とのずれをしきい値に従って2値化して、前記2値化データを前記特徴情報として出力する手段とを備える、請求項1記載の動き検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004109140A JP2005295319A (ja) | 2004-04-01 | 2004-04-01 | 動き検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2004109140A JP2005295319A (ja) | 2004-04-01 | 2004-04-01 | 動き検出装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2005295319A true JP2005295319A (ja) | 2005-10-20 |
Family
ID=35327745
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2004109140A Withdrawn JP2005295319A (ja) | 2004-04-01 | 2004-04-01 | 動き検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2005295319A (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010114597A (ja) * | 2008-11-05 | 2010-05-20 | Sony Corp | 動きベクトル検出装置、その処理方法およびプログラム |
WO2013065527A1 (ja) * | 2011-11-02 | 2013-05-10 | ソニー株式会社 | 画像処理装置と画像処理方法 |
-
2004
- 2004-04-01 JP JP2004109140A patent/JP2005295319A/ja not_active Withdrawn
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010114597A (ja) * | 2008-11-05 | 2010-05-20 | Sony Corp | 動きベクトル検出装置、その処理方法およびプログラム |
US8619863B2 (en) | 2008-11-05 | 2013-12-31 | Sony Corporation | Motion vector detection apparatus, motion vector processing method and program |
WO2013065527A1 (ja) * | 2011-11-02 | 2013-05-10 | ソニー株式会社 | 画像処理装置と画像処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9451255B2 (en) | Image encoding apparatus, image encoding method, image decoding apparatus, and image decoding method | |
JP2005303984A (ja) | 動きベクトル検出装置及び方法、及びその動きベクトル検出装置を利用可能な画像符号化装置 | |
US7333035B2 (en) | Data encoding apparatus, data decoding apparatus, data encoding method, data decoding method, and recording medium recorded with program | |
JP2010081465A (ja) | 動画像符号化方法および動画像復号化方法 | |
JP2007166038A (ja) | 動きベクトル検出装置および動きベクトル検出方法 | |
US20150071354A1 (en) | Image coding apparatus and image coding method | |
JP2006245932A (ja) | 動画像処理装置、動画像処理方法、及び動画像処理プログラム | |
JP2007124408A (ja) | 動きベクトル検出装置および動きベクトル検出方法 | |
JP2006020095A (ja) | 動きベクトル検出回路、画像符号化回路、動きベクトル検出方法および画像符号化方法 | |
US20080212719A1 (en) | Motion vector detection apparatus, and image coding apparatus and image pickup apparatus using the same | |
JP2009152895A (ja) | 符号量制御方法および装置、符号量制御プログラム、カメラシステム | |
US8456334B2 (en) | Variable-length code decoding apparatus, decoding system, and variable-length code decoding method | |
US20140376627A1 (en) | Picture coding device, picture coding method, and picture coding program, and picture decoding device, picture decoding method, and picture decoding program | |
JP5938424B2 (ja) | 画像ブロックを再構成および符号化する方法 | |
EP1313323B1 (en) | A method for performing motion estimation in video encoding, a video encoding system and a video encoding device | |
JP2005295319A (ja) | 動き検出装置 | |
JP2007110409A (ja) | 画像処理装置及び画像処理方法をコンピュータに実行させるためのプログラム | |
US20090268822A1 (en) | Motion vector detection by stepwise search | |
JP4779977B2 (ja) | 画像符号化・復号化装置 | |
US20220217378A1 (en) | Computer Software Module, a Device and a Method for Accelerating Inference for Compressed Videos | |
CN105847822A (zh) | 一种视频解码方法及装置 | |
US20100158106A1 (en) | Simd-processor-friendly mpeg-2 inter-quantizer | |
US9300977B2 (en) | Methods for encoding motion vectors | |
JP5788952B2 (ja) | 動画像復号化方法 | |
JPS63269882A (ja) | 画像符号化伝送装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Withdrawal of application because of no request for examination |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20070605 |