JP2009081781A - 動き補償装置及び動き補償方法 - Google Patents

動き補償装置及び動き補償方法 Download PDF

Info

Publication number
JP2009081781A
JP2009081781A JP2007250883A JP2007250883A JP2009081781A JP 2009081781 A JP2009081781 A JP 2009081781A JP 2007250883 A JP2007250883 A JP 2007250883A JP 2007250883 A JP2007250883 A JP 2007250883A JP 2009081781 A JP2009081781 A JP 2009081781A
Authority
JP
Japan
Prior art keywords
motion compensation
size
block
motion
decoded
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2007250883A
Other languages
English (en)
Inventor
Koutaro Ezaki
功太郎 江崎
Kyoko Tanigawa
京子 谷川
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2007250883A priority Critical patent/JP2009081781A/ja
Publication of JP2009081781A publication Critical patent/JP2009081781A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】複数の符号化信号を復号化する復号化装置の動き補償において、マルチフレームメモリからの画素データの読出し画素数、及び、小数精度画素生成動き補償の演算量をも削減することで複数の符号化信号を同時に復号化できる動き補償装置を提供する。
【解決手段】復号化手段において、復号化の対象となる画面と、前記共有記憶手段に格納されている復号化済みの復号画像の中から参照可能な画面との間で、画像の動きを予測することよって復号画像を生成する動き補償手段と、前記動き補償手段に対して動き補償を実行するブロックのサイズを変更するモードを入力する動き補償モード入力手段と、動き補償モードによって、動き補償を行うブロックのサイズを変更する場合、動き補償を行う為に必要となるパラメータを補正する動き補償補正手段とを備える。
【選択図】図1

Description

本発明は、ピクチャ間で動き補償予測を行う動き補償装置および動き補償方法に関する。
近年、マルチメディアアプリケーションの発展に伴い、画像・音声・テキストなど、あらゆるメディアの情報を統一的に扱うことが一般的になってきた。この時、全てのメディアをデジタル化することにより、統一的にメディアを扱うことが可能になる。しかしながら、デジタル化された画像は膨大なデータ量を持つため、蓄積・伝送のためには、画像の情報圧縮技術が不可欠である。
その一方で、圧縮した画像データを相互運用するためには、圧縮技術の標準化も重要である。画像圧縮技術の標準規格としては、例えば、ITU‐T(国際電気通信連合電気通信標準化部門)のH.261、H.263や、ISO/IEC(国際標準化機構国際電気標準会議)のMPEG(Moving Picture Experts Group)−1、MPEG−2、MPEG−4など、また、ITU−TとMPEGの合同であるJVT(Joint Video Team)により現在標準化が進められているH.264/MPEG−4 AVCがある。
一般に動画像の符号化では、時間方向および空間方向の冗長性を削減することによって情報量の圧縮を行う。そこで、時間的な冗長性の削減を目的とする画面間予測符号化では、前方または後方のピクチャを参照してブロック単位で動きの検出および予測画像の作成を行い、得られた予測画像と符号化対象ピクチャとの差分値に対して符号化を行う。ここで、ピクチャとは1枚の画面を表す用語であり、プログレッシブ画像ではフレームを意味し、インタレース画像ではフレームもしくはフィールドを意味する。ここで、インタレース画像とは、1つのフレームが時刻の異なる2つのフィールドから構成される画像である。インタレース画像の符号化や復号化処理においては、1つのフレームをフレームのまま処理したり、2つのフィールドとして処理したり、フレーム内のブロック毎にフレーム構造またはフィールド構造として処理したりすることができる。
参照画像を持たず画面内予測符号化を行うものをIピクチャと呼ぶ。また、1枚の参照画像のみを参照し画面間予測符号化を行うものをPピクチャと呼ぶ。また、同時に2枚の参照画像を参照して画面間予測符号化を行うことができるものをBピクチャと呼ぶ。Bピクチャは表示時間が前方もしくは後方から任意の組み合わせとして2枚のピクチャを参照することが可能である。参照画像(参照ピクチャ)は符号化の基本単位であるマクロブロックごとに指定することができるが、符号化を行ったビットストリーム中に先に記述される方の参照ピクチャを第1参照ピクチャ、後に記述される方を第2参照ピクチャとして区別する。ただし、これらのピクチャを符号化する場合の条件として、参照するピクチャが既に符号化されている必要がある。
Pピクチャ又はBピクチャの符号化には、動き補償画面間予測符号化が用いられている。動き補償画面間予測符号化とは、画面間予測符号化に動き補償を適用した符号化方式である。動き補償とは、単純に参照フレームの画素値から予測するのではなく、ピクチャ内の各部の動き量(以下、これを「動きベクトル」と呼ぶ。)を検出し、当該動き量を考慮した予測を行うことにより予測精度を向上すると共に、データ量を減らす方式である。例えば、符号化対象ピクチャの動きベクトルを検出し、その動きベクトルの分だけシフトした予測値と符号化対象ピクチャとの予測残差を符号化することによりデータ量を減している。この方式の場合には、復号化の際に動きベクトルの情報が必要になるため、動きベクトルも符号化されて記録又は伝送される。
図2は従来の動き補償装置の構成を示すブロック図である。図2に示す従来の画面間予測復号化装置は、画面間予測符号化装置で符号化された符号化信号Strを復号化して復号画像信号Voutを出力する装置であり、加算部101、加算部102、解析復号化部103、予測画像生成部104、予測ベクトル生成部105、マルチフレームメモリ111、および、動きベクトルメモリ112を備えている。
解析復号化部103は、符号化信号Strを復号化し、差分画像DifPel、差分ベクトルDifMV、動き補償のブロックパーティションタイプBlkTyp、および参照ピクチャ番号RefNumを出力する。加算部101は、予測ベクトル生成部105から出力される予測ベクトルPrdMVと差分ベクトルDifMVを加算し、動きベクトルMVを復号する。
マルチフレームメモリ111は、参照ピクチャ番号RefNumおよび動きベクトルMVで示される画素を動き補償参照画素FrmPelとして出力する。予測画像生成部104は、解析復号化部103で復号化されたブロックパーティションタイプBlkTypに従って、マルチフレームメモリ111から出力された参照画素より小数画素精度の画素を生成し、予測画像PrdPelとして出力する。加算部102は、予測画像PrdPelに差分画像DifPelを加算し、復号画像RecPelとしてマルチフレームメモリ111へ再び記憶する。但し、マルチフレームメモリ111の容量を有効に利用するため、マルチフレームメモリ111に記憶されている画面の領域は不要な場合は開放され、またマルチフレームメモリ111に記憶する必要が無い画面の復号画像RecPelはマルチフレームメモリ111に記憶されない。以上のようにして、復号画像信号Vout、すなわち復号画像RecPelを符号化信号Strから正しく復号化することができる。
ところで、MPEG−4 AVC規格では1/4画素までの単位で動き補償を行うことが許可されている(MPEG−4 Simple Profileでは1/2画素まで)。この際、MPEG−4 AVC規格ではその線形フィルタ画素補間の方法として6タップフィルタが採用されており、1/2精度画素を周辺の6画素から求めることが決められている。この6タップフィルタによる画素補間の方法について、図3を用いて説明する。
図3はMPEG−4 AVCにおける輝度成分の画素補間方法を説明するための概略図である。画素F00、F01、F02、F03、F04、F05、F10、F11、F12、F13、F14、F15、F20、F21、F22、F23、F24、F25、F30、F31、F32、F33、F34、F35、F40、F41、F42、F43、F44、F45、F50、F51、F52、F53、F54、及びF55は整数精度画素位置の画素であり、斜線をつけた四角形で表している。ここで、画素A、B、C、D、E、F、G、H、I、J、K、L、M、N、P、Q、R、S、T、及びUは、それぞれの位置及びその画素値を表している。
また、小数精度画素位置の画素に関しては、白抜きの四角で表している。画素aa、bb、b、s、gg、及びhhは水平方向に、cc、dd、h、m、ee及びffは垂直方向に6タップフィルタを行った中間計算画素値及びその位置を示している。
画素a、c、d、e、f、g、i、j、k、n、p、q及びrは各小数精度画素位置における2回目の6タップフィルタと線形補間を行った画素値及びその位置を表している。
従って、整数精度画素の画素G、H、M及びNで囲まれる小数精度画素位置の値を求めるには、周囲6×6の画素が必要である。
また、動き補償を行うブロック単位では、図4に示すように動き補償を行うブロックの画素が位置する領域401に対して、MPEG−4 AVCの輝度成分では6タップフィルタを用いるため、対象のブロックを上に2画素、下に3画素、左に2画素及び右に3画素分の水平垂直両方向に計5画素分広くした領域402の画素が必要となる。従って、図5の501〜507に示すような、MPEG−4 AVCで許されているブロックサイズである4×4、4×8、8×4、8×8、8×16、16×8及び16×16の各ブロックサイズに対して小数画素精度の動き補償を行う場合は、それぞれ9×9、9×13、13×9、13×13、13×21、21×13、21×21の画素領域が必要となる。
一方、色差成分に関しては、小数精度画素の周囲4つの整数精度画素から線形補間で生成するため、図4に示すように対象のブロックを下と右に1画素分広くした領域412の画素が必要となる。色差成分の場合の動き補償ブロックサイズは、図5の511〜517に示すように、2×2、2×4、4×2、4×4、4×8、8×4及び8×8であり、それぞれの参照画素領域は、3×3、3×5、5×3、5×4、5×9、9×5及び9×9である(例えば、非特許文献1参照)。
特開2005−354673号公報 特開2006−148615号公報 ISO/IEC 14496-10, International Standard: "Information technol ogy - Coding of audio - visual objects - Part 10 : Advanced video coding"(2004-10- 01)
ところで、上述の様に復号化処理にはマルチフレームメモリ111からの参照画素の読出しが必要であり、さらに入力される符号化データのピクチャ順序と復元されたフレーム順序とは異なる事があるため、復号画像RecPelは表示タイミングまでマルチフレームメモリ111に一旦保持させる必要がある。これらの参照画素の読出し、復号画像RecPelの格納及びその表示などのアクセスによりマルチフレームメモリ111へのバス占有率は一般的に極めて高くなっている。
そのため、復号化処理に必要なメモリ容量を低減するために、マルチフレームメモリを他の機能、例えばOSD(On Screen Display)等に用いるメモリとして利用しようとしても、バス占有率が高いことから兼用する事が困難となる。この様に、新たな符号化技術を導入する事による従来の符号化技術では起こり得なかった課題が発生する。
一方、近年テレビ放送技術のデジタル化によってHD(High Definition)画質の放送サービスが開始、また次世代DVD技術によるHD画質のコンテンツも増えてきている。この様な中、例えばデジタルテレビ放送を受信し、これをディスプレイに表示させる際、複数のチャネルを選択させたり、または記録メディア等に記録されたコンテンツを再生する際、複数のコンテンツを選択する場合にユーザにとって選択の判断を容易にするためにサムネイル化して表示させるなどの機能が表示端末機器、再生端末機器に実装されている事が多く、また一部では、これら新たなサービスの中に、主画面の中に子画面を表示させる様なPinPの表示が規格として定められているものもある。
この様に新しい画像符号化技術に対応する場合のみにおいても、従来符号化技術に対応する場合と比較して、マルチフレームメモリ111へのバス優先率が高くなる上、更にデジタル化された放送、コンテンツ等の新たなサービスに対応するには、前記バス占有率が最早従来の回路構成では許容可能な帯域を超える事が予想される。
この様な課題に対して、既に解決手段が提案されているものもある。例えば、マルチフレームメモリ111へのアクセス回数を低減する提案(特許文献1)としては、処理対象マクロブロックにおける各マクロブロックパーティションが必要とする動き補償の参照画素領域を包含する様な一つの参照画素領域を判定し、共通する全てのパーティションの参照画像を一度に転送することによりマルチフレームメモリ111へのアクセス回数を低減することが記載されている。例えば、図6(a)に示す様な8×8サイズのパーティションが参照している全てのピクチャが同一であり、かつ図6(b)に示す様に各パーティションにおいて動き補償に必要となる画素を取得する領域が、相互に重なり合う部分が存在する場合には、図6(c)に示す様な、全ての参照画像を包含する矩形の画素を一度の転送で実行する事で、マルチフレームメモリ111に対するアクセス回数を低減させている。
しかしながら、先に述べた様に、PinPやサムネイル表示を行う場合には、少なくとも2つ以上の符号化信号を復号する必要があり、先に示した解決手段では、マルチフレームメモリ111から取得した参照画像に対して動き補償を実行する際、特に小数精度の画素を予測、生成する場合において、その演算量を軽減する手段とは成り得ない。また、復号する符号化信号の数に比例して参照画像の転送量も再び大きくなるといった新たな課題が生じる。
この様なPinPやサムネイル表示を行う場合に課題に対して、MPEG−2に代表される様な、従来の画像復号化技術に対しては、既に解決手段が提案されているものもある。例えば、特許文献2には、IピクチャはDC係数のみをデコードし、Pピクチャ、およびBピクチャは、動き補償の精度を8画素単位まで落とす事によって、動き補償の演算量を低減させることが記載されている。
しかしながら、先に述べた様に、MPEG−4 AVCの様な新たな符号化技術においては、従来の符号化技術とは異なり、動き補償予測を実行するブロックサイズを小さく選択する事も可能であり、動き補償の演算量を低減させたとしても、動き補償に必要となる参照画像の取得において、マルチフレームメモリからのデータ転送量を低減する事は出来ない。
即ち、MPEG−4 AVCに代表される新たな画像符号化技術においては、圧縮効率の向上を目的として、動き補償予測において選択可能な参照画像枚数やブロック形状の種類が増えており、また高次タップのフィルタ補間を用いるため、複数の符号化信号を復号する場合には、既に提案されている様な解決手段のみでは、参照画像のデータ転送量低減の課題や、内部バッファの容量削減、および動き補償予測の演算量の削減等、全てを解決する事が出来ない。
本発明は、このような課題に鑑みてなされたものであり、複数の符号化信号を復号する場合においても、効率的な動き補償動作を行う事によって、マルチフレームメモリからの画素データの読み出し画素数、及び、小数精度画素生成動き補償の演算量をも削減する事によって複数の符号化信号を同時に復号する事が可能な動き補償装置を提供することを目的とする。
上記課題を解決するために、本発明の動き補償装置は、動画像を構成するピクチャ間で動き補償を行う動き補償装置であって、符号化信号が入力される符号化信号入力端子と、復号化するモードを入力するモード入力端子と、前記符号化信号端子より入力された符号化信号を復号化する復号化手段と、前記復号化手段によって復号された対象ブロックサイズの情報を、前記モード入力端子より入力されたモードに従って補正し、併せて前記復号化手段によって復号された、動き補償を行う対象ブロックが参照するピクチャの参照情報と、既に動き補償を実行されたブロックが有する動きベクトル情報から予測される予測ベクトルとの差分情報と、を補正するブロックサイズに応じて補正する動き補償補正手段と、前記既に復号化済みのブロックが有する動きベクトル情報を格納する動きベクトルメモリと、動き補償を行う対象ブロックが有する動きベクトルを、前記動き補償補正手段により補正された動きベクトルの差分情報と加算する事によって生成するために、前記動きベクトルメモリから読み出された動きベクトル情報から予測情報を生成する動きベクトル予測手段と、前記動き補償補正手段によって補正されたブロックサイズと、前記動き補償補正手段によって補正された差分情報と、前記動きベクトル予測手段によって生成された予測情報とを加算する事によって動き補償の対象ブロックが有する動きベクトルを生成する動きベクトル生成手段と、複数の参照ピクチャを記憶するマルチフレームメモリと、前記動き補償補正手段によって補正されたブロックサイズと、動きベクトル生成手段によって生成された動きベクトルによって前記マルチフレームメモリから各ブロックの動き補償で必要とされる参照領域を含む転送領域を特定し前記マルチフレームメモリからの読み出し制御を行う共用メモリ制御手段と、前記参照ピクチャの画像データを記憶する参照画像メモリと、前記共用メモリ制御手段によって前記マルチフレームメモリから読み出された参照画像データを、前記参照画像メモリに格納し、更に前記参照画像メモリに格納された参照画像データを動き補償を行うために読み出す専用メモリ制御手段と、前記動きベクトル生成手段によって生成された動きベクトルに従って、前記参照画像メモリから参照画像データを読出し、動き補償を行う動き補償手段と、前記動き補償手段によって生成された予測画像データと、復号化手段によって復号化された差分画像とを加算する事によって、動画像を構成するピクチャを再構成する再構成手段と、前記再構成手段によって生成されたピクチャを、表示するための画像出力端子と、を備える。
尚、前記再構成手段によって生成されたピクチャは、後に動き補償が行われる対象ブロックが参照する可能性がある画像として、前記マルチフレームメモリに格納される。
この構成によれば、入力された符号化信号を復号した結果、小サイズの動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、滞りなく動画像を表示する事ができる。特に小さいサイズで動き補償を実行するために必要な参照画像データの転送、または全てのブロックの動き補償の実行を終えるまでの時間が、滞りなく動画像を表示するために割り当てられた時間を超過する場合に画像が乱れる事を防止する事ができる。
ここで、前記動き補償装置には、複数の符号化信号を時系列に分割して入力し、前記動き補償装置の内、前記マルチフレームメモリや前記動きベクトルメモリ等を共有する共有記憶手段と、それ以外の動き補償復号化手段の何れをも時間的に共有するようにしてもよい。
ここで、前記動き補償装置には、複数の符号化信号を複数の復号化回路に分割して入力し、前記動き補償装置の内、前記マルチフレームメモリや前記動きベクトルメモリ等を共有する共有記憶手段は共有しつつ、それ以外の動き補償復号化手段においては、各々入力される符号化信号に専有するようにしてもよい。
この構成によれば、複数の符号化信号が入力された際にも、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように何れかの符号化信号に対して、または何れの符号化信号に対しても、本来動き補償を行うブロックサイズより大きいサイズに補正して動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、画像が乱れる事を防止する事ができる。
ここで、前記動き補償装置には、複数の符号化信号を複数の復号化回路に分割して入力し、前記動き補償装置の内、前記マルチフレームメモリや前記動きベクトルメモリ等を共有する共有記憶手段は共有しつつ、それ以外の動き補償復号化手段においては、各々入力される符号化信号に専有させつつも、何れかの動画像については、ブロックサイズ補正せず小さいサイズで動き補償をそのまま実行するようにしてもよい。
この構成によれば、複数の符号化信号が入力された際、特に重要な動画像の符号化信号に対しては、本来のブロックサイズで動き補償を行い、また同時に、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように、その他の符号化信号に対して、本来動き補償を行うブロックサイズより大きいサイズに補正して動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、重要な動画像においては本来表示すべき画像を出力させつつ、その他の画像も含め、画像が乱れる事を防止する事ができる。
ここで、前記動き補償装置には、表示する画像のサイズに応じて本来動き補償を行うブロックサイズを補正するようにしてもよい。
この構成によれば、複数の動画を一つの画面に表示する場合に、何れかの画面が小さい場合には、小さく表示される方の符号化信号に対して、または何れの画面も本来表示する画面より小さい場合には、全ての符号化信号に対して、それぞれ本来動き補償を行うブロックサイズより大きいサイズで動き補償を行うので、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、画像が乱れる事を防止する事ができる。
ここで、前記動き補償装置には、前記共有記憶手段とのデータ転送量を観測し、その状況に応じて本来動き補償を行うブロックサイズを補正するようにしてもよい。
この構成によれば、入力された符号化信号を復号した結果、小さいサイズで動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、参照画像データの転送量が削減される事によって、滞りなく動画像を表示する事ができる。特に小さいサイズで動き補償を実行するために必要な参照画像データの転送を終えるまでの時間が、滞りなく動画像を表示するために割り当てられた時間を超過する場合に画像が乱れる事を防止する事ができる。
ここで、前記動き補償装置には、前記参照画像メモリにおけるデータ量を観測し、その状況に応じて本来動き補償を行うブロックサイズを補正するようにしてもよい。
この構成によれば、入力された符号化信号を復号した結果、小さいサイズで動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、動き補償に必要となる参照画像のデータ量が削減される事によって、乱れなく動画像を表示する事ができる。特に小さいサイズで動き補償を実行するために必要な参照画像データを全て格納するための容量が不足した場合、動き補償を実行する際に使用する参照画像が無い事によって画像が乱れる事を防止する事ができる。
本発明の動き補償装置、動き補償方法によれば、入力された符号化信号を復号した結果、小さいサイズで動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、滞りなく動画像を表示する事ができる。
特に、小さいサイズで動き補償を実行するために必要な参照画像データの転送、または全てのブロックの動き補償の実行を終えるまでの時間が、滞りなく動画像を表示するために割り当てられた時間を超過する場合に画像が乱れる事を防止する事ができる。
また、複数の符号化信号が入力された際にも、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように何れかの符号化信号に対して、または何れの符号化信号に対しても、本来動き補償を行うブロックサイズより大きいサイズに補正して動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、画像が乱れる事を防止する事ができる。
特に、重要な動画像の符号化信号に対しては、本来のブロックサイズで動き補償を行い、また同時に、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように、その他の符号化信号に対して、本来動き補償を行うブロックサイズより大きいサイズに補正して動き補償を実行するので、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、重要な動画像においては本来表示すべき画像を出力させつつ、その他の画像も含め、画像が乱れる事を防止する事ができる。
また、複数の動画を一つの画面に表示する場合に、何れかの画面が小さい場合には、小さく表示される方の符号化信号に対して、または何れの画面も本来表示する画面より小さい場合には、全ての符号化信号に対して、それぞれ本来動き補償を行うブロックサイズより大きいサイズで動き補償を行うので、滞りなく動画像を表示させるために割り当てられた処理時間内に、参照画像データの転送や動き補償の実行が終了するように、参照画像データの転送、または動き補償を実行する時間が短縮される事によって、画像が乱れる事を防止する事ができる。
また、入力された符号化信号を復号した結果、小さいサイズで動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、参照画像データの転送量が削減される事によって、滞りなく動画像を表示する事ができる。
特に、小さいサイズで動き補償を実行するために必要な参照画像データの転送を終えるまでの時間が、滞りなく動画像を表示するために割り当てられた時間を超過する場合に画像が乱れる事を防止する事ができる。
また、入力された符号化信号を復号した結果、小さいサイズで動き補償を実行しなければならない場合に本来動き補償を行うブロックサイズより大きいサイズで動き補償を実行するので、動き補償に必要となる参照画像のデータ量が削減される事によって、乱れなく動画像を表示する事ができる。
特に、小さいサイズで動き補償を実行するために必要な参照画像データを全て格納するための容量が不足した場合、動き補償を実行する際に使用する参照画像が無い事によって画像が乱れる事を防止する事ができる。
本発明を実施するための最良の形態について、以下、図を用いて説明する。
(実施の形態1)
実施の形態1における動き補償装置は、動き補償装置の外部で決定されたモードに従って、入力される符号化信号を解析復号化した動き補償のブロックサイズを補正する事により、動き補償の処理負荷と、動き補償を行う上で必要となる参照画像の転送量とを低減する事で安定した復号化処理と画像の表示を行う様に構成されている。
図1は、実施の形態1における動き補償装置の構成を示すブロック図である。図1の動き補償装置は、符号化された符号化信号Strを復号化し、復号画像信号Voutを出力する装置であり、加算部101、加算部102、解析復号化部103、予測画像生成部104、予測ベクトル生成部105、参照画像メモリ106、専用メモリ制御部107、動き補償補正部108、マルチフレームメモリ111、動きベクトルメモリ112、および、共用メモリ制御部113を備えている。
解析復号化部103は、符号化信号Strの内容を解析し、復号に必要な情報に変換する。復号に必要な情報とは差分画像DifPel、差分ベクトルDifMV、動き補償のブロックパーティションタイプBlkTyp、および参照ピクチャ番号RefNumである。この内、差分ベクトルDifMV、動き補償のブロックパーティションタイプBlkTyp、および参照ピクチャ番号RefNumは、動き補償補正部108に出力される。差分画像DifPelは、加算部102に出力される。
動き補償補正部108は、取得した差分ベクトルDifMV、動き補償のブロックパーティションタイプBlkTyp、および参照ピクチャ番号RefNumを取得し、外部で決定されたモードに従って、補正が必要なものを補正する。
加算部101は、予測ベクトル生成部105から出力される予測ベクトルPrdMVと動き補償補正部108から出力される差分ベクトルDifMVとを加算し、動きベクトルMVを復号する。復号した動きベクトルMVは、動きベクトルメモリ112、動き補償補正部108に出力される。
共用メモリ制御部113は、参照ピクチャ番号RefNumおよび動きベクトルMVで示される画素を動き補償参照画素FrmPelとしてマルチフレームメモリ111から読み出し、参照画像メモリ106へ転送すると同時に専用メモリ制御部に対して転送データが有効である事を示すFrmValを出力する。
予測画像生成部104は、動き補償補正部108によって補正されたブロックパーティションタイプBlkTypに従って、マルチフレームメモリ111から参照画像メモリに転送された参照画素より小数画素精度の画素を生成し、予測画像画素PrdPelとして加算部102に出力する。この時、専用メモリ制御部107は、予測画像生成部104と連動して参照画像メモリ106より参照画像データLclPelを読み出すと同時に、予測画像生成部104に対してデータが有効である事を示すLclVal信号を出力する。
加算部102は、予測画像画素PrdPelに差分画像DifPelを加算し、復号画像RecPelを再構成して復号画像信号Voutへ出力する。また、マルチフレームメモリ111に復号画像RecPelを記憶する。但し、マルチフレームメモリ111の容量を有効に利用するため、マルチフレームメモリ111に記憶されている画面の領域は、不要な場合には開放され、またマルチフレームメモリ111に記憶する必要が無い画面の復号画像RecPelはマルチフレームメモリ111に記憶されない。
以上のようにして、復号画像信号Vout、すなわち復号画像RecPelを符号化信号Strから正しく復号化することができる。
図19は、実施の形態1における動き補償補正部108の構成を示すブロック図である。図19の動き補償補正部108は、外部で決定されたモードによって、ブロックパーティションタイプBlkTypを変更し、変更したブロックサイズに従って、差分ベクトルDifMVおよび参照ピクチャ番号RefNumを補正する装置であり、ブロック情報分離部1081、ブロック情報分離部1082、ブロック情報変更部1083、ブロック情報記憶部1084、および、ブロック情報補正部1085を備えている。
ブロック情報分離部1081は、解析復号化部103によって解析、復号化された復号化情報の内、動き補償に必要となるブロックパーティションタイプとそれ以外の情報とに分離する。
ブロック情報変更部1083は、入力されたモードMod信号に従って、ブロック情報分離部1081によって分離されたブロックパーティションタイプの情報に対し、例えば図5に示す501、411以外のパーティションタイプの場合には、全て501、411のパーティションタイプに変更し、ブロックパーティションタイプBlkTypとして出力する。
ブロック情報記憶部1084は、ブロック情報分離部1081によって分離されたブロックパーティションタイプ以外の情報を、全てのパーティション、もしくはパーティションインデックスが最も小さいブロック等、代表的なパーティションに対して記憶する。
ブロック情報補正部1085は、入力されたモードMod信号に従って、本来動き補償に必要となる情報から、ブロック情報変更部1083によって変更されたブロックサイズに適した情報を、ブロック情報記憶部1084に格納された情報から選択、または生成する。
ブロック情報分離部1082は、ブロック情報補正部1085によって選択、または生成された動き補償に必要な情報を、参照ピクチャ番号RefNumと、差分ベクトルDifMVとに分離し出力する。
図7は実施の形態1において動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図1に示す動き補償装置に対して複数の符号化信号Str1、Str2を切り換える切り換え回路SW1、動き補償モード信号の入力Mod、および、複数の復号画像信号Vout1、Vout2を切り換える切り換え回路SW2を備えている。
図7において、復号化回路100は、図1において、加算部101、加算部102、解析復号化部103、予測画像生成部104、予測ベクトル生成部105、参照画像メモリ106、専用メモリ制御部107、および、動き補償補正部108によって構成される。共有記憶回路110は、マルチフレームメモリ111、動きベクトルメモリ112、および、共用メモリ制御部113によって構成される。
切り換え回路SW1は、符号化信号Str1と符号化信号Str2のいずれかを復号回路100に対して入力するよう切り換える。切り換え回路SW1によって選択されたいずれか一方の符号化信号は、復号化回路100によって復号化される。復号化回路100によって復号化された画像は、切り換え回路SW1によって選択された符号化信号に対する復号画像信号を、切り換え回路SW2によって復号画像信号Vout1、または、復号画像信号Vout2のいずれかとして選択して出力される。この時、特に符号化信号Str1、および、符号化信号Str2が、切り換え回路SW1によって時系列的にある一定の割合で切り換えられる場合、即ち、複数の符号化信号に対して、復号化回路100を時分割共有する場合に、いずれかの符号化信号に対して、またはいずれの符号化信号に対しても、動き補償サイズを補正するように動き補償モード信号の入力Modが復号化回路100に対して入力される。
以上説明してきたように実施の形態1によれば、小さいサイズで動き補償を実行する場合に必要となる動き補償の処理時間や、動き補償に必要となる参照画像の転送が、滞りなく表示する為に割り当てられた処理時間内に終了しない場合に、大きいサイズで動き補償を実行する様な補正を行う事によって、滞りなく動画像を表示する事ができ、復号化装置の性能を保証する事が可能となる。
なお、上記では図7の符号化信号はStr1とStr2の2つに対して説明したが、入力される符号化信号は2つを超える数であってもよい。
また、動き補償モード信号の入力Modは、1つの符号化信号しか入力されていない場合、即ち取得した差分ベクトルDifMV、動き補償のブロックパーティションタイプBlkTyp、および参照ピクチャ番号RefNumを、動き補償補正部108によって補正する必要がない場合、切り換え回路SW1がいずれか一方の入力に固定されていてもよい。
(実施の形態2)
図20は実施の形態2における動き補償補正部の構成を示すブロック図である。本実施の形態における動き補償補正部は、図19と比較して補正パターン記憶部1085、および、補正パターン選択部1087を備えている。この点以外は図20と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
補正パターン記憶部1086には、動き補償を行うブロックパーティションタイプの変更パターンと、各々の変更パターンに対し、適切なブロック情報を選択、または生成する為の情報とが記憶されている。
補正パターン選択部1087は、動き補償装置外部で決定されたモードModに従って、ブロックパーティションタイプの変更パターンを、補正パターン記憶部1086に格納されているパターンの中から選択する。ブロック情報変更部1083は、補正パターン選択部1087によって選択された補正パターンに従って、ブロック情報分離部1081によって分離されたブロックパーティションタイプの情報に対し、例えば図5に示す504、414より小さいパーティションタイプの場合には、全て504、414のパーティションタイプに変更し、ブロックパーティションタイプBlkTypとして出力する。
ブロック情報記憶部1084は、ブロック情報分離部1081によって分離されたブロックパーティションタイプ以外の情報を、補正パターン選択部1087によって選択された補正パターンに従って、必要なパーティションに対して記憶する。ブロック情報補正部1085は、補正パターン選択部1087によって選択された補正パターンに従って、本来動き補償に必要となる情報から、ブロック情報変更部1083によって変更されたブロックサイズに適した情報を、ブロック情報記憶部1084に格納された情報から選択、または生成する。ブロック情報分離部1082は、ブロック情報補正部1085によって選択、または生成された動き補償に必要な情報を、参照ピクチャ番号RefNumと、差分ベクトルDifMVとに分離し出力する。
以上説明してきたように実施の形態2における動き補償装置によれば、実施の形態1の効果に加え、動き補償を行うブロックサイズを補正する場合に、補正サイズを適応的に変更する事により、動き補償サイズを補正する事によって発生するブロック歪を抑制する事ができ、見かけ上の復号画像の画質を大きく劣化させる事なく、復号化装置の性能を保証する事が可能となる。
なお、上記図20の動き補償補正部108において、補正パターン記憶部1086には、固定された補正パターンが記憶されていてもよい。または、補正パターン記憶部108には、書き換え可能な装置を適用し、必要に応じて外部から書き換えてもよい。
(実施の形態3)
図16は実施の形態3における動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図7と比較して表示サイズ設定回路120を備えている。この点以外は図7と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
表示サイズ設定回路120には、例えば図13に示すような複数の画像を表示する場合にそれぞれの画面表示サイズ(A)および(B)が設定される。画面表示サイズ(A)および(B)は、図16における符号化信号Str1、符号化信号Str2の表示サイズに対応している。例えば、画面の表示設定が(a)の場合、画面(A)の表示面積(画面(B)を除く画面(A)が表示している面積、以下同じ)は画面(B)の表示面積より大きく、従って、この様な場合には画面(B)の符号化信号となるStr2に対して動き補償サイズが補正されるように表示サイズ設定回路120から動き補償モード信号Modが復号化回路100に対して入力される。逆に、画面の表示設定が(c)の場合、画面(A)の表示面積は画面(B)の表示面積より小さく、従って、この様な場合には画面(A)の符号化信号となるStr1に対して動き補償サイズが補正されるように表示サイズ設定回路120から動き補償モード信号Modが復号化回路100に対して入力される。
また、画面の表示設定が(b)の場合、画面(A)の表示面積は画面(B)の表示面積とほぼ同じであり、従って、この様な場合には画面(A)および(B)の符号化信号となるStr1、Str2に対して動き補償サイズが補正されるように表示サイズ設定回路120から動き補償モード信号Modが復号化回路100に対して入力される。
以上説明してきたように実施の形態3における動き補償装置によれば、実施の形態1の効果に加え、複数の符号化信号を同一画面に表示する場合に、それぞれ表示される画面のサイズに応じて動き補償を行うブロックサイズを補正する事により、いずれの画面に対しても見かけ上の復号画像の画質を大きく劣化させる事なく、また、滞りなく動画像を表示する事ができ、復号化装置の性能を保証する事が可能となる。
(実施の形態4)
図17は実施の形態4における動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図7と比較してデータ転送観測回路130を備えている。この点以外は図7と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
データ転送観測回路130は、共有記憶回路110と復号化回路100とのデータ転送量を観測する。この中で特に符号化信号Str1および符号化信号Str2に対して動き補償を行う上でそれぞれ必要となる参照画像の転送量の割合が、図14に示すように変化する。画面(A)を表示する為に必要となる動き補償処理、および画面(B)を表示する為に必要となる動き補償処理は、図17における符号化信号Str1、符号化信号Str2に対する動き補償処理に対応している。この時、例えば、図14(a)に示すように画面(A)に対する動き補償に必要となる参照画像の転送量が画面(B)に対する動き補償に必要となる参照画像の転送量より多い場合、画面(A)の符号化信号となるStr1に対して動き補償サイズが補正されるようにデータ転送観測回路130から動き補償モード信号Modが復号化回路100に対して入力される。逆に、図14(c)に示すように画面(A)に対する動き補償に必要となる参照画像の転送量が画面(B)に対する動き補償に必要となる参照画像の転送量より少ない場合、画面(B)の符号化信号となるStr2に対して動き補償サイズが補正されるようにデータ転送観測回路130から動き補償モード信号Modが復号化回路100に対して入力される。この様にしてデータ転送観測回路130から動き補償モード信号Modが復号化回路100に対して入力される事によって、いずれの符号化信号の動き補償処理に対しても、図14(b)に示すように画面(A)に対する動き補償に必要となる参照画像の転送量と画面(B)に対する動き補償に必要となる参照画像の転送量が均一となるように制御される。
以上説明してきたように実施の形態4における動き補償装置によれば、実施の形態1の効果に加え、複数の符号化信号を同時に復号化する場合に、それぞれの符号化信号に対して動き補償処理を行う上で必要となる参照画像データの転送量に応じて動き補償を行うブロックサイズを補正する事により、いずれか復号画像の画質を破綻させる事なく、また、滞りなく動画像を表示する事ができ、復号化装置の性能を保証する事が可能となる。
(実施の形態5)
図18は実施の形態5における動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図7と比較して参照画像メモリ観測回路140を備えている。この点以外は図7と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
参照画像メモリ観測回路140は、復号化回路100内に実装される動き補償を実行する上で必要となる参照画像データを格納する参照画像メモリの使用量を観測する。参照画像メモリでは、符号化信号Str1および符号化信号Str2に対して動き補償を行う上でそれぞれ必要となる参照画像の使用量の割合が、図15に示すように変化する。画面(A)を表示する為に必要となる動き補償処理、および画面(B)を表示する為に必要となる動き補償処理は、図18における符号化信号Str1、符号化信号Str2に対する動き補償処理に対応している。この時、例えば、図15(a)に示すように画面(A)に対する動き補償に必要となる参照画像メモリの使用量が画面(B)に対する動き補償に必要となる参照画像メモリの使用量より多い場合、画面(A)の符号化信号となるStr1に対して動き補償サイズが補正されるように参照画像メモリ観測回路140から動き補償モード信号Modが復号化回路100に対して入力される。逆に、図15(c)に示すように画面(A)に対する動き補償に必要となる参照画像メモリの使用量が画面(B)に対する動き補償に必要となる参照画像メモリの使用量より少ない場合、画面(B)の符号化信号となるStr2に対して動き補償サイズが補正されるように参照画像メモリ観測回路140から動き補償モード信号Modが復号化回路100に対して入力される。この様にして参照画像メモリ観測回路140から動き補償モード信号Modが復号化回路100に対して入力される事によって、いずれの符号化信号の動き補償処理に対しても、図15(b)に示すように画面(A)に対する動き補償に必要となる参照画像の転送量と画面(B)に対する動き補償に必要となる参照画像の転送量が均一となるように制御される。
以上説明してきたように実施の形態5における動き補償装置によれば、実施の形態1の効果に加え、複数の符号化信号を同時に復号化する場合に、それぞれの符号化信号に対して動き補償処理を行う上で必要となる参照画像メモリの使用量に応じて動き補償を行うブロックサイズを補正する事により、いずれか復号画像の画質を破綻させる事なく、また、滞りなく動画像を表示する事ができ、復号化装置の性能を保証する事が可能となる。
(実施の形態6)
図9は、実施の形態6における動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図7と比較して複数の復号化回路を備えている。ここでは、復号化回路(a)101aと復号化回路(b)100bとの2つとする。また、入力される符号化信号Str1は復号化回路(a)100aに入力され、一方、符号化信号Str2は、復号化回路(b)100bに入力される。動き補償モード信号Modは、復号化回路(a)100a、および、復号化回路(b)100bの両方に入力される。共有記憶回路110は、復号化回路(a)100aと復号化回路(b)100bによって共有される。この点以外は図7と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
図11は、実施の形態6における動き補償装置の構成を示すブロック図である。同図の動き補償装置は、符号化された符号化信号Str1および符号化信号Str2を復号化し、復号画像信号Vout1および復号画像信号Vout2を出力する装置であり、加算部101a、100b、加算部102a、100b、解析復号化部103a、103b、予測画像生成部104a、104b、予測ベクトル生成部105a、105b、参照画像メモリ106a、106b、専用メモリ制御部107a、107b、動き補償補正部108a、108b、マルチフレームメモリ111、動きベクトルメモリ112、および、共用メモリ制御部113を備えている。
解析復号化部103a、および、解析復号化部103bは、符号化信号Str1および符号化信号Str2の内容を解析し、復号に必要な情報に変換する。必要な情報とは、差分画像DifPela、DifPelb、差分ベクトルDifMVa、DifMVb、動き補償のブロックパーティションタイプBlkTypa、BlkTypb、および参照ピクチャ番号RefNuma、RefNumbである。この内、差分ベクトルDifMVa、DifMVb、動き補償のブロックパーティションタイプBlkTypa、BlkTypb、および参照ピクチャ番号RefNuma、RefNumbは、動き補償補正部108a、108bにそれぞれ出力される。また、差分画像DifPela、DifPelbは加算部101a、101bに出力される。
動き補償補正部108は、取得した差分ベクトルDifMVa、DifMVb、動き補償のブロックパーティションタイプBlkTypa、BlkTypb、および参照ピクチャ番号RefNuma、RefNumbを取得し、外部で決定されたモードに従って、補正が必要なものを補正する。
加算部101a、101bは、予測ベクトル生成部105a、105bから出力される予測ベクトルPrdMVa、PrdMVbと動き補償補正部108a、108bから出力される差分ベクトルDifMVa、DifMVbを加算し、動きベクトルMVa、MVbを復号する。
共用メモリ制御部113は、参照ピクチャ番号RefNumaまたはRefNumb、および、動きベクトルMVaまたはMVbで示される画素を動き補償参照画素FrmPelaまたはFrmPelbとしてマルチフレームメモリ111から読み出し、参照画像メモリ106aまたは106bへ転送すると同時に専用メモリ制御部107aまたは107bに対して転送データが有効である事を示すFrmValaまたはFrmValbを出力する。
予測画像生成部104a、104bは、動き補償補正部108a、108bによって補正されたブロックパーティションタイプBlkTypa、BlkTypbに従って、マルチフレームメモリ111から参照画像メモリ106a、106bに転送された参照画素より小数画素精度の画素を生成し、予測画像画素PrdPela、PrdPelbとして出力する。この時、専用メモリ制御部107a、107bは、予測画像生成部104a、104bと連動して参照画像メモリ106a、106bより局所参照画像データLclPela、LclPelbを読み出すと同時に、予測画像生成部104a、104bに対してデータが有効である事を示すLclVala、LclValb信号を出力する。
加算部102a、102bは、予測画像画素PrdPela、PrdPelbに差分画像DifPela、DifPelbを加算し、復号画像RecPela、RecPelbを再構成して復号画像信号Vout1、Vout2へ出力すると同時にマルチフレームメモリ111へ再び記憶する。但し、マルチフレームメモリ111の容量を有効に利用するため、マルチフレームメモリ111に記憶されている画面の領域は不要な場合は開放され、またマルチフレームメモリ111に記憶する必要が無い画面の復号画像RecPela、RecPelbはマルチフレームメモリ111に記憶されない。
以上のようにして、復号画像信号Vout1、Vout2、すなわち復号画像RecPela、RecPelbを符号化信号Str1、Str2から正しく復号化することができる。
図11は実施の形態6において動き補償装置に対する入力と出力の構成を示すブロック図である。本実施の形態における動き補償装置は、図11に示す動き補償装置に対してして複数の符号化信号の入力Str1、Str2、動き補償モード信号の入力Mod、および、複数の復号画像信号の出力Vout1、Vout2を備えている。図11において、復号化回路100a、および、100bは、図9において、加算部101a、101b、加算部102a、102b、解析復号化部103a、103b、予測画像生成部104a、104b、予測ベクトル生成部105a、105b、参照画像メモリ106a、106b、専用メモリ制御部107a、107b、および、動き補償補正部108a、108bによって構成される。共有記憶回路110は、マルチフレームメモリ111、動きベクトルメモリ112、および、共用メモリ制御部113によって構成される。
符号化信号Str1と符号化信号Str2は、それぞれ復号回路100aと100bとに対して個別に入力される。両方の符号化信号Str1、Str2は、復号回路100a、および100bによって復号化される。復号回路100a、および、100bによって復号化された画像は、それぞれの符号化信号に対する復号画像信号をVout1、および、Vout2から出力される。この時、特に符号化信号Str1、および、符号化信号Str2が、同時刻に入力される場合、即ち、複数の符号化信号に対して、復号化回路100aと100bが同時に動作する場合に、いずれかの符号化信号に対して、またはいずれの符号化信号に対しても、動き補償サイズを補正するように動き補償モード信号の入力Modが復号化回路100a、および100bに対して入力される。
以上説明してきたように実施の形態1によれば、小さいサイズで動き補償を実行する場合に必要となる動き補償の処理時間や、動き補償に必要となる参照画像の転送が、滞りなく表示する為に割り当てられた処理時間内に終了しない場合に、大きいサイズで動き補償を実行する様な補正を行う事によって、滞りなく動画像を表示する事ができ、復号化装置の性能を保証する事が可能となる。
なお、上記では図11の符号化信号はStr1とStr2の2つに対して説明したが、入力される符号化信号はこれを超える数であってもよい。
また、動き補償モード信号の入力Modは、図10に示すように、1つの復号化回路に対してのみ入力されていてもよい。この構成は、動き補償サイズを補正せずに、正しく優先的に復号化する必要がある符号化信号が入力されるような場合に適用され、復号化回路101aには、図12に示すように動き補償補正部は実装されない。
(実施の形態7)
実施の形態7における動き補償方法は、動き補償の処理を開始する前に決定されたモードに従って、入力される符号化信号を解析復号化した動き補償のブロックサイズを補正する事により、動き補償の処理量と、動き補償を行う上で必要となる参照画像のデータ量とを、低減する事で安定した復号化処理と画像の表示を行う様に構成されている。
図21は、実施の形態7における動き補償方法を示すフローチャート図である。同図の動き補償方法は、符号化された符号化信号を解析し、ピクチャ間の相関関係を利用して符号化された画像を、動き補償処理によって再構成し、復号画像を生成する方法であり、符号化情報解析ステップ、動きベクトル算出ステップ、ブロックサイズ変更ステップ、パラメータ補正ステップ、参照画像取得ステップ、予測画像生成ステップ、および、復号画像再構成ステップを踏む。
符号化情報解析ステップでは、符号化信号の内容を解析し、復号に必要な情報に変換する。動きベクトル算出ステップでは、既に復号化されたブロックが有する動きベクトルか予測ベクトルを生成し、更に符号化情報解析ステップによって得られた差分ベクトル情報と加算することよって復号化対象となる各ブロックの動きベクトルを算出する。
符号化情報解析ステップによって得られた情報の内、動き補償のブロックパーティションタイプは、動き補償を処理を開始する前に決定されたモードに従ってブロックサイズ変更ステップにより変更される。同じく符号化情報解析ステップによって得られた情報の内、参照ピクチャ番号と、および動きベクトル算出ステップによって得られた動きベクトル情報は、動き補償を処理を開始する前に決定されたモードに従ってパラメータ補正ステップによりそれぞれ補正される。
参照画像取得ステップでは、パラメータ補正ステップによって補正された参照ピクチャ番号に該当する参照画像を既に復号化された画像から、同じくパラメータ補正ステップによって補正された動きベクトルが示す位置に該当する参照領域の画像を取得する。予測画像生成ステップでは、参照画像取得ステップによって取得した参照画像に対して、更に詳細な動き補償を行う為に、補正ステップによって補正された動きベクトルを用いての補間処理を行い、予測画像を生成する。
復号画像再構成ステップでは、予測画像生成ステップによって生成された予測画像情報と、符号化情報解析ステップによって得られた差分画像情報とを加算する事によって復号画像情報を再構成する。これら一連の処理はマクロブロック単位で実行され、動き補償が行われる。
図22は、実施の形態7におけるブロックサイズ変更ステップの処理を示すフローチャート図である。ブロックサイズ変更ステップでは、まず動き補償の処理を開始する前に決定されたモードに従ってブロックサイズ変更の有無を判定する。判定の結果、ブロックサイズを変更する場合には、本来動き補償を行うブロックサイズより大きいブロックサイズで動き補償を実行するよう、符号化情報解析ステップによって得られた動き補償のブロックパーティションタイプを変更する。またこの時、ブロックパーティションタイプの変更に伴って影響を受けるパラメータの補正を行う為のフラグを有効にする。一方、判定の結果、ブロックサイズを変更しない場合には、本来のブロックサイズで動き補償を行う為、特に符号化情報解析ステップによって得られた動き補償のブロックパーティションタイプは変更せず、また、パラメータの補正を行う為のフラグを無効にする。
図23は、実施の形態7におけるパラメータ補正ステップの処理を示すフローチャート図である。パラメータ補正ステップでは、ブロックサイズ変更ステップによって決定されたパラメータ補正フラグに従ってパラメータ補正の有無を判定する。判定の結果、パラメータを補正する場合には、ブロックサイズ変更ステップによって変更される前後のブロックパーティションタイプの関係によって、まず動きベクトルを補正し、続いて参照画像取得ステップにおいて必要となる参照ピクチャ番号を補正する。
図24は、実施の形態7におけるブロックパーティション変更ステップの処理を示すフローチャート図である。ブロックパーティション変更ステップでは、復号化対象となるマクロブロック内にブロックパーティションタイプがマクロブロックサイズと同じである場合には、パーティションタイプは変更しない。一方、マクロブロックサイズより小さいブロックパーティションが存在する場合、即ちマクロブロック内に複数のブロックパーティションが存在する場合、これをマクロブロックサイズに変更しブロックパーティションが1となるように変更する。例えば、図5に示すブロック構成の場合、符号化対象となるマクロブロックのブロックパーティションタイプが、502、503、504、505、506、および、507の何れかが含まれるような場合には、全て501のブロックパーティションタイプに変更される。
図25は、実施の形態7における動きベクトル補正ステップの処理を示すフローチャート図である。動きベクトル補正ステップでは、復号化対象となるマクロブロックのブロックパーティションタイプが変更され、複数のパーティションブロックが統合される場合、統合後のブロック単位で、統合されるブロックの最も左上に位置するブロックが有する動きベクトルを統合後のブロックの動きベクトルとして適用する。
図26は、実施の形態7における参照ピクチャ番号補正ステップの処理を示すフローチャート図である。参照ピクチャ番号補正ステップでは、復号化対象となるマクロブロックのブロックパーティションタイプが変更され、複数のパーティションブロックが統合される場合、統合後のブロック単位で、統合されるブロックの最も左上に位置するブロックが有する参照ピクチャ番号を統合後のブロックの参照ピクチャ番号として適用する。
以上説明してきたように実施の形態7によれば、小さいサイズで動き補償を実行する場合に必要となる動き補償の処理量や、動き補償に必要となる参照画像のデータ量が、大きいサイズで動き補償を実行する様な補正を行う事によって削減され、処理負荷を軽減する事ができ、復号化方法の性能を保証する事が可能となる。
(実施の形態8)
図27は実施の形態7におけるブロックパーティション変更ステップを示すローチャート図である。本実施の形態におけるブロックパーティション変更ステップは、図24と比較してブロックパーティションの変更パターンが増えている。この点以外は図24と同様であるので、以下同じ点は説明を省略して異なる点を中心に説明する。
ブロックパーティション変更ステップでは、復号化対象となるマクロブロック内にブロックパーティションタイプがマクロブロックサイズと同じである場合には、パーティションタイプは変更しない。一方、マクロブロックサイズより小さいパーティションが存在する場合、このパーティションがマクロブロックサイズの1/4サイズと同じか、それ以上である場合には、マクロブロックサイズに変更し、パーティションブロックが1となるように変更する。また一方、マクロブロックサイズより小さいパーティションが存在する場合、このパーティションがマクロブロックサイズの1/4サイズより小さい場合には、マクロブロックサイズの1/4サイズとなるようにブロックを統合し、ブロックパーティションが4以下となるように変更する。例えば、図5に示すブロック構成の場合、符号化対象となるマクロブロックのブロックパーティションタイプが、502、503、および、504の何れかが含まれるような場合には、501のブロックパーティションタイプに変更され、505、506、および、507の何れかが含まれるような場合には、504のブロックパーティションタイプに変更される。
以上説明してきたように実施の形態8によれば、小さいサイズで動き補償を実行する場合に必要となる動き補償の処理量や、動き補償に必要となる参照画像のデータ量が、大きいサイズで動き補償を実行する様な補正を行う事によって削減され、処理負荷を軽減する事ができ、加えて、特に小さいサイズで動き補償を実行する場合には、適度にその大きさを変更する事でブロックノイズを低減させつつ復号化方法の性能を保証する事が可能となる。
(実施の形態9)
図28は実施の形態7における動きベクトル補正ステップの処理を示すフローチャート図である。本実施の形態における動きベクトル補正ステップは、図25と比較して変更されたブロックパーティションタイプに対して適用される動きベクトルの算出方法が異なる。
動きベクトル補正ステップでは、復号化対象となるマクロブロックのブロックパーティションタイプが変更され、複数のパーティションブロックが統合される場合、統合後のブロック単位で、統合される全てのブロックが有する動きベクトルの平均値を統合後のブロックの動きベクトルとして適用する。
図29は実施の形態7における参照ピクチャ番号補正ステップの処理を示すフローチャート図である。本実施の形態における参照ピクチャ番号補正ステップは、図26と比較して変更されたブロックパーティションタイプに対して適用される参照ピクチャ番号の算出方法が異なる。
参照ピクチャ番号補正ステップでは、復号化対象となるマクロブロックのブロックパーティションタイプが変更され、複数のパーティションブロックが統合される場合、統合後のブロック単位で、統合される全てのブロックが有する参照ピクチャ番号の中間に位置する番号を統合後のブロックの参照ピクチャ番号として適用する。
以上説明してきたように実施の形態9によれば、小さいサイズで動き補償を実行する場合に必要となる動き補償の処理量や、動き補償に必要となる参照画像のデータ量が、大きいサイズで動き補償を実行する様な補正を行う事によって削減され、処理負荷を軽減する事ができ、加えて、特にマクロブロックサイズの1/4以下となるような小さいサイズで行う動き補償をマクロブロックサイズ大のブロックサイズに変更して動き補償を実行する場合にも、極端に予測が外れるような動き補償を防ぐ事でブロックノイズを低減させつつ復号化方法の性能を保証する事が可能となる。
なお、上記では図28の動きベクトル補正ステップは統合される全てのブロックが有する動きベクトルの平均値を適用したが、平均した動きベクトルが示す方向に対して重みを課してもよい。
また、図29の参照ピクチャ番号補正ステップは、動きベクトル補正ステップによって補正された動きベクトルによって、その動きベクトルが示す方向のブロックパーティションが有する参照ピクチャ番号を適用してもよい。
以上のように、本発明における符号化または復号化装置は、例えば携帯電話、DVD装置、次世代DVD(Blu−ray、HDDVD等)装置、およびデジタルTV装置等で、画像を符号化して符号列を生成したり、生成された符号列を復号化したりするための装置として有用である。
実施の形態1における動き補償装置の構成を示すブロック図 従来例における動き補償装置の構成を示すブロック図 フィルタをかける整数精度画素の並びを示す説明図 フィルタをかける参照画像領域を示す説明図 フィルタをかけるブロックパーティションの種類を示す図 (a)全て8×8サイズである場合のブロックパーティションを示す図(b)全ブロックパーティションが参照する任意形状の飽和領域を示す図(c)全ブロックパーティションが参照する単矩形状の飽和領域を示す図 実施の形態1における動き補償装置への入出力構成を示すブロック図 従来例における動き補償装置への入出力構成を示すブロック図 実施の形態6における動き補償装置への入出力構成を示すブロック図 実施の形態6における動き補償装置への入出力構成を示すブロック図 実施の形態6における動き補償装置の構成を示すブロック図 実施の形態6における動き補償装置の構成を示すブロック図 実施の形態3における複数の符号化信号を復号化する場合のそれぞれの復号画像を画面に表示するサイズの割合を示す図 実施の形態4における複数の符号化信号を復号化する場合のそれぞれの参照画像を転送に必要なバンド幅の割合を示す図 実施の形態5における複数の符号化信号を復号化する場合のそれぞれの参照画像を参照画像メモリに格納する割合を示す図 実施の形態3における動き補償装置への入出力構成を示すブロック図 実施の形態4における動き補償装置への入出力構成を示すブロック図 実施の形態5における動き補償装置への入出力構成を示すブロック図 実施の形態1における動き補償補正部の構成を示すブロック図 実施の形態2における動き補償補正部の構成を示すブロック図 実施の形態7における動き補償方法の処理を示すフローチャート 実施の形態7におけるブロックサイズ変更ステップの処理を示すフローチャート 実施の形態7におけるパラメータ補正ステップの処理を示すフローチャート 実施の形態7におけるブロックパーティションタイプ変更ステップの処理を示すフローチャート 実施の形態7における動きベクトル補正ステップの処理を示すフローチャート 実施の形態7における参照ピクチャ番号補正ステップの処理を示すフローチャート 実施の形態8におけるブロックパーティションタイプ変更ステップの処理を示すフローチャート 実施の形態9における動きベクトル補正ステップの処理を示すフローチャート 実施の形態9における参照ピクチャ番号補正ステップの処理を示すフローチャート
符号の説明
100,100a,100b 復号化回路
101,101a,101b 加算部
102,102a,102b 加算部
103,103a,103b 解析復号化部
104,104a,104b 予測画像生成部
105,105a,105b 予測ベクトル生成部
106,106a,106b 参照画像メモリ
107,107a,107b 専用メモリ制御部
108,108a,108b 動き補償補正部
1081 ブロック情報分離部
1082 ブロック情報分離部
1083 ブロック情報変更部
1084 ブロック情報記憶部
1085 ブロック情報補正部
1086 補正パターン記憶部
1087 補正パターン選択部
110 共有記憶回路
111 マルチフレームメモリ
112 動きベクトルメモリ
113 共用メモリ制御部
120 表示サイズ設定回路
130 データ転送観測回路
140 参照画像メモリ観測回路

Claims (24)

  1. 復号化処理において、符号化された画像信号を入力する符号化信号入力手段と、
    前記符号化信号入力手段より入力された符号化信号を復号化する復号化手段と、
    前記復号化手段によって復号化された復号化データの内、復号画像データ、後に入力される符号化信号を復号化する時に参照されるデータを格納する共有記憶手段と、
    前記復号化手段によって復号化された復号化データの内、復号画像データを画面に表示させるための復号画像出力手段と、
    前記復号化手段において、復号化の対象となる画面と、前記共有記憶手段に格納されている復号化済みの復号画像の中から参照可能な画面との間で、画像の動きを予測することよって復号画像を生成する動き補償手段と、
    前記動き補償手段に対して動き補償を実行するブロックのサイズを変更するモードを入力する動き補償モード入力手段と、
    動き補償モードによって、動き補償を行うブロックのサイズを変更する場合、動き補償を行う為に必要となるパラメータを補正する動き補償補正手段と
    を備えることを特徴とする動き補償装置。
  2. 前記動き補償補正手段は、本来復号化すべきブロックパーティションサイズよりも大きいサイズで動き補償を行うように動き補償を行う為に必要となるパラメータを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  3. 前記復号化手段は、複数の符号化信号の入力を切り換えながら復号化することによって回路を共有し、任意の符号化信号に対して、動き補償モードを有効にし、動き補償サイズを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  4. 前記復号化手段は、複数の符号化信号の入力に対して同時に復号化を行うために回路を専有し、任意の符号化信号に対して、動き補償モードを有効にし、動き補償サイズを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  5. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、各々表示される画像のサイズによって動き補償を行うブロックのサイズを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  6. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、各々表示される画像サイズの小さい方の動き補償処理に対して、動き補償モードを有効にし、動き補償サイズを補正する
    ことを特徴とする請求項5記載の動き補償装置。
  7. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、各々表示される画像サイズの割合によって、それぞれの動補償処理に対して動き補償モードを入力し、入力される符号化信号毎に動き補償サイズを補正する
    ことを特徴とする請求項5記載の動き補償装置。
  8. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、各々動き補償処理に必要となる参照画像の転送量の割合によって動き補償を行うブロックのサイズを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  9. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、動き補償処理に必要となる参照画像の転送量が、動き補償処理に割当てられている転送帯域の中で占める割合の大きい方の動き補償処理に対して、動き補償モードを有効にし、動き補償サイズを補正する
    ことを特徴とする請求項8記載の動き補償装置。
  10. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、動き補償処理に必要となる参照画像の転送量が、動き補償処理に割当てられている転送帯域の中で占める割合が均一となる様に動き補償処理に対して動き補償モードを入力し、入力される符号化信号毎に動き補償サイズを補正する
    ことを特徴とする請求項8記載の動き補償装置。
  11. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、各々動き補償処理に必要となる参照画像データを局所的に格納するメモリ使用量の割合によって動き補償を行うブロックのサイズを補正する
    ことを特徴とする請求項1記載の動き補償装置。
  12. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、動き補償処理に必要となる参照画像データを局所的に格納するメモリ使用量が、実装される参照画像メモリ内で占める割合大きい方の動き補償処理に対して、動き補償モードを有効にし、動き補償サイズを補正する
    ことを特徴とする請求項11記載の動き補償装置。
  13. 前記動き補償モード入力手段は、複数の符号化信号の入力に対して復号化された画像を同時に出力する際、動き補償処理に必要となる参照画像データを局所的に格納するメモリ使用量が、実装される参照画像メモリ内で占める割合が均一となる様に動き補償処理に対して動き補償モードを入力し、入力される符号化信号毎に動き補償サイズを補正する
    ことを特徴とする請求項12記載の動き補償装置。
  14. 前記動き補償補正手段は、本来復号化すべきブロックパーティションサイズよりも大きいサイズで動き補償を行うように動き補償を行う為に必要となるパラメータを補正する際、これを一義的に補正する
    ことを特徴とする請求項2記載の動き補償装置。
  15. 前記動き補償補正手段は、本来復号化すべきブロックパーティションサイズよりも大きいサイズで動き補償を行うように動き補償を行う為に必要となるパラメータを補正する際、複数の補正パターンから選択する
    ことを特徴とする請求項2記載の動き補償装置。
  16. 前記動き補償補正手段は、本来復号化すべきブロックパーティションサイズよりも大きいサイズで動き補償を行うように動き補償を行う為に必要となるパタメータを書き換える事が可能である
    ことを特徴とする請求項15記載の動き補償装置。
  17. 復号化処理において、符号化された画像信号の入力から動き補償に必要となる情報を取得する符号化情報解析ステップと、
    前記符号化情報解析ステップによって得られたブロックパーティションサイズと、動きベクトルの差分情報と、既に復号化された動きベクトルから予測した動きベクトルの予測情報から、各ブロックパーティションの動き補償を行う為に必要となる動きベクトルを算出する動きベクトル算出ステップと、
    前記符号化情報解析ステップによって得られたブロックパーティション単位で、前記符号化情報解析ステップによって得られた参照情報と、前記動きベクトル算出ステップによって得られた動きベクトル情報から、既に復号化された復号画像の内、各ブロックパーティションの動き補償を行う為に必要となる参照画像を取得する参照画像取得ステップと、
    前記動きベクトル算出ステップによって算出された動きベクトルと、前記参照画像取得ステップによって取得された参照画像から、各ブロックパーティションの動き補償を行う為に必要な予測画像を生成する予測画像生成ステップと、
    前記符号化情報解析ステップによって得られたブロックパーティション単位で、前記符号化情報解析ステップによって得られた画像の差分情報から、動き補償による符合画像を再構成する復号画像再構成ステップと、
    動き補償を行うモードによって、前記符号化情報解析ステップによって得られたブロックパーティションのサイズを変更するブロックサイズ変更ステップと、
    前記ブロックサイズ変更ステップによって変更されたブロックパーティションに対して動き補償を行う為に必要となる動き補償パラメータ補正ステップと
    を含むことを特徴とする動き補償方法。
  18. 前記ブロックサイズ変更ステップは、前記符号化情報解析ステップによって得られたブロックパーティションタイプがマクロブロックサイズよりも小さい場合に、全てマクロブロックサイズに変更する
    ことを特徴とする請求項17記載の動き補償方法。
  19. 前記ブロックサイズ変更ステップは、前記符号化情報解析ステップによって得られたブロックパーティションタイプがマクロブロックサイズよりも小さい場合に、各ブロックパーティションを2ブロックないし4ブロック有するサイズで、かつ縦横同一の画素数となるようなブロックサイズに変更する
    ことを特徴とする請求項17記載の動き補償方法。
  20. 前記ブロックサイズ変更ステップは、前記解析ステップによって得られたブロックパーティションタイプがマクロブロックサイズよりも小さく、更に輝度成分が8×8サイズ未満の場合にのみ、輝度成分が8×8サイズ未満のブロックを全て8×8サイズに変更する
    ことを特徴とする請求項17記載の動き補償方法。
  21. 前記動き補償パラメータ補正ステップは、ブロックサイズ変更ステップによって変更されたブロックの左上に位置する画素を含むブロックが有するパラメータを適用する
    ことを特徴とする請求項17記載の動き補償方法。
  22. 前記動き補償パラメータ補正ステップは、ブロックサイズ変更ステップによって変更される元の全てのブロックが有するパラメータの平均値を適用する
    ことを特徴とする請求項17記載の動き補償方法。
  23. 前記動き補償パラメータ補正ステップは、ブロックサイズ変更ステップによって変更される元のブロックが有する動きベクトルの方向によってブロックが有するパラメータを選択して適用する
    ことを特徴とする請求項17記載の動き補償方法。
  24. 前記動き補償パラメータ補正ステップは、ブロックサイズ変更ステップによって変更される元のブロックが有する動きベクトルの方向によって元の全てのブロックが有するパラメータの比重計算値を適用する
    ことを特徴とする請求項17記載の動き補償方法。
JP2007250883A 2007-09-27 2007-09-27 動き補償装置及び動き補償方法 Pending JP2009081781A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2007250883A JP2009081781A (ja) 2007-09-27 2007-09-27 動き補償装置及び動き補償方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007250883A JP2009081781A (ja) 2007-09-27 2007-09-27 動き補償装置及び動き補償方法

Publications (1)

Publication Number Publication Date
JP2009081781A true JP2009081781A (ja) 2009-04-16

Family

ID=40656186

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007250883A Pending JP2009081781A (ja) 2007-09-27 2007-09-27 動き補償装置及び動き補償方法

Country Status (1)

Country Link
JP (1) JP2009081781A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013005452A (ja) * 2011-06-20 2013-01-07 Intel Corp マルチフォーマットビデオ処理のためのコンフィギュレーションバッファ割当
JP2015222976A (ja) * 2011-01-13 2015-12-10 日本電気株式会社 映像復号装置、映像復号方法及びプログラム
CN112989934A (zh) * 2021-02-05 2021-06-18 方战领 视频分析方法、装置及系统

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015222976A (ja) * 2011-01-13 2015-12-10 日本電気株式会社 映像復号装置、映像復号方法及びプログラム
JP2013005452A (ja) * 2011-06-20 2013-01-07 Intel Corp マルチフォーマットビデオ処理のためのコンフィギュレーションバッファ割当
KR101410168B1 (ko) * 2011-06-20 2014-06-19 인텔 코포레이션 다중 포맷 비디오 프로세싱을 위한 재구성 가능 버퍼 할당
US9037761B2 (en) 2011-06-20 2015-05-19 Intel Corporation Configurable buffer allocation for multi-format video processing
CN112989934A (zh) * 2021-02-05 2021-06-18 方战领 视频分析方法、装置及系统
CN112989934B (zh) * 2021-02-05 2024-05-24 方战领 视频分析方法、装置及系统

Similar Documents

Publication Publication Date Title
JP6468381B2 (ja) 画像処理装置、画像処理方法、プログラム、並びに記録媒体
US8630347B2 (en) Video decoding apparatus and video decoding method
KR102117800B1 (ko) 화상 처리 장치 및 화상 처리 방법
US8817876B2 (en) Video bitstream transcoding method and apparatus
US8743972B2 (en) Coding adaptive deblocking filter and method for use therewith
TW201933866A (zh) 改良的解碼器側之運動向量推導
JP4114885B2 (ja) 画像符号化装置、方法、及びプログラム
US7912127B2 (en) H.264 to VC-1 and VC-1 to H.264 transcoding
JP2010022058A (ja) デジタルビデオコンテンツのマクロブロックレベルにおける適応フレーム/フィールド符号化
KR20140029383A (ko) 화상 부호화 장치 및 화상 복호 장치
US20120155537A1 (en) Moving Picture Decoding Device and Moving Picture Decoding Method
WO2012098845A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法及び画像復号装置
JP2009081781A (ja) 動き補償装置及び動き補償方法
JP2007318615A (ja) 動画再生装置、動画再生方法およびプログラム
JP2001086508A (ja) 動画像復号方法及び動画像復号装置
JP2015159519A (ja) 符号化装置、符号化方法および符号化プログラム
WO2010023782A1 (ja) 画像表示装置、録画再生装置、及び画像処理方法
JP2883592B2 (ja) 動画像復号化装置及び動画像復号化方法
US9838666B2 (en) Video decoding device and image display device
JP5248583B2 (ja) 動画像復号装置及び動画像復号方法
JP2883585B2 (ja) 動画像符号化装置及び動画像符号化方法
JP2009290387A (ja) エンコーダ、デコーダ、及び記録再生装置
JP5911982B2 (ja) 画像復号化方法
KR20230162801A (ko) 비디오 코딩을 위한 외부적으로 향상된 예측
JP2018082252A (ja) 画像符号化装置及びその制御方法及びプログラム