JP2011259204A - 画像復号化装置と画像符号装置およびその方法とプログラム - Google Patents

画像復号化装置と画像符号装置およびその方法とプログラム Download PDF

Info

Publication number
JP2011259204A
JP2011259204A JP2010131890A JP2010131890A JP2011259204A JP 2011259204 A JP2011259204 A JP 2011259204A JP 2010131890 A JP2010131890 A JP 2010131890A JP 2010131890 A JP2010131890 A JP 2010131890A JP 2011259204 A JP2011259204 A JP 2011259204A
Authority
JP
Japan
Prior art keywords
motion vector
unit
prediction
encoding
predicted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2010131890A
Other languages
English (en)
Inventor
Kenji Kondo
健治 近藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010131890A priority Critical patent/JP2011259204A/ja
Priority to KR1020127030574A priority patent/KR20130118727A/ko
Priority to PCT/JP2011/062453 priority patent/WO2011155364A1/ja
Priority to RU2012151529/08A priority patent/RU2012151529A/ru
Priority to US13/701,383 priority patent/US20130070857A1/en
Priority to CN2011800272161A priority patent/CN102939758A/zh
Priority to EP11792321.9A priority patent/EP2582138A1/en
Priority to TW100119442A priority patent/TW201215159A/zh
Publication of JP2011259204A publication Critical patent/JP2011259204A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh

Abstract

【課題】予測動きベクトルの最適化によって符号化効率や画質の改善をはかる。
【解決手段】第1復号化処理部521は、符号化ストリームを復号化して差分動きベクトルを得る。第2復号化処理部522は、符号化ストリームを復号化して予測動きベクトル選択情報を得る。動きベクトル選択部525は、復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する。加算部526は、差分動きベクトルと予測動きベクトルを加算して復号化対象のブロックの動きベクトルを算出する。予測動きベクトルを最適化して符号化効率や画質を改善する。
【選択図】 図12

Description

この発明は、画像復号化装置と画像符号装置およびその方法とプログラムに関する。詳しくは、予測動きベクトルの最適化によって符号化効率と画質の改善をはかる。
近年、画像情報をディジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を行う装置、例えば離散コサイン変換等の直交変換と動き補償により圧縮するMPEGなどの方式に準拠した装置が、放送局や一般家庭において普及しつつある。
特に、MPEG2(ISO/IEC13818−2)は、汎用画像符号化方式として定義されており、プロフェッショナル用途およびコンシューマー用途の広範なアプリケーションに現在広く用いられている。このMPEG2圧縮方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば、4〜8Mbps符号量(ビットレート)を割り当てることで良好な画質の実現が可能である。また、1920×1088画素を持つ高解像度の飛び越し走査画像であれば18〜22Mbpsの符号量(ビットレート)を割り当てることで良好な画質の実現が可能である。
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC14496−2としてその規格が国際標準に承認された。
さらに、近年、当初テレビ会議用の画像符号化を目的として、H.26L(ITU−T Q6/16 VCEG)という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われている。標準化のスケジュールとしては、2003年3月にはH.264およびMPEG−4 Part10 (以下「H.264/AVC(Advanced Video Coding)」と記す)という名の下に国際標準となった。
また、H.264/AVC方式では、複数のブロックサイズの各々について動きベクトルの探索を行うことから演算量が膨大になり、処理時間の長期化、並びに演算回路に高い処理能力が要求される。このため、特許文献1の発明では、隣接ブロックの動きベクトルのメディアンを予測動きベクトルとして用いることにより、動きベクトルの探索に伴う処理時間の短縮、並びに演算量の削減がはかられている。
特開2006−025033号公報
ところで、画像データの符号化では、符号化対象のブロックの動きベクトルと予測動きベクトルとの差分を取り、その差分動きベクトルを符号化してストリーム情報に含めることで、符号量の削減が行われている。ここで、H.264/AVC方式のように隣接ブロックの動きベクトルの中央値(メディアン)を予測動きベクトルとして用いる場合、必ずしも中央値が最適な予測動きベクトルとは限らない。
図1は、従来の予測動きベクトルの決定方法を説明するための図である。なお、符号化対象のブロックと隣接する隣接ブロックの中で、符号化対象のブロックを符号化処理するときに、既に符号化処理が行われている符号化済みのブロック、例えば左側の隣接ブロックの動きベクトルを動きベクトルMV_Aとする。また、上側および右上側の隣接ブロックの動きベクトルをそれぞれ動きベクトルMV_B,MV_Cとする。
図1の(A)に示すように、予測ブロックサイズ(動き補償ブロックサイズ)が小さいとき、隣接ブロックの動きベクトルMV_A,MV_B,MV_Cは、符号化対象のブロックの動きベクトルMVobとの差が少ない場合が多い。すなわち、中央値MV_mdを用いたとき予測精度が高い。しかし、図1の(B)に示すように、予測ブロックサイズが大きいとき、隣接ブロックでは符号化対象のブロックから離れている領域が含まれることになる。このため、中央値MV_mdと符号化対象のブロックの動きベクトルMVobとの差が大きい場合が生じて、予測ブロックサイズが小さい場合に比べて、予測精度が低下するおそれがある。
そこで、この発明では、予測動きベクトルの最適化によって符号化効率と画質の改善をはかることができる画像復号化装置と画像符号装置およびその方法とプログラムを提供することを目的とする。
この発明の第1の側面は、符号化ストリームを可逆復号化して差分動きベクトルを得る第1復号化処理部と、前記符号化ストリームを可逆復号化して予測動きベクトル選択情報を得る第2復号化処理部と、復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する動きベクトル選択部と、前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する加算部とを有する画像復号化装置にある。
この発明では、復号化対象のブロックに対して、このブロックに隣接する復号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補が設定される。また、予測動きベクトルの候補は、例えば符号化対象のブロックのサイズに応じてケース分けが行われてケースごとに設定される。ここで、ブロックのサイズが大きいときは、ブロックサイズが小さい場合に比べて予測動きベクトルの候補が多く設定される。また、例えば復号化済みの隣接ブロックの動きベクトルの相違に応じてケース分けが行われてケースごとに予測動きベクトルの候補が設定される。また、閾値を超える相違を生じた動きベクトルは、それぞれ予測動きベクトルの候補とされる。この候補の中から、符号化ストリームを復号化して得られた予測動きベクトル選択情報で示された動きベクトルが予測動きベクトルとして選択される。この予測動きベクトルと符号化ストリームを復号化して得られた差分動きベクトルを加算して復号化対象のブロックの動きベクトルが算出される。
この発明の第2の側面は、符号化ストリームを復号化して差分動きベクトルを得る工程と、前記符号化ストリームを復号化して予測動きベクトル選択情報を得る工程と、復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する工程と、前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する工程とを設けた画像復号化方法にある。
この発明の第3の側面は、画像復号化をコンピュータで実行させるプログラムであって、符号化ストリームを復号化して差分動きベクトルを得る手順と、前記符号化ストリームを復号化して予測動きベクトル選択情報を得る手順と、復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する手順と、前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する手順とを前記コンピュータで実行させるプログラムにある。
この発明の第4の側面は、符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する動きベクトル選択部と、前記動きベクトル選択部で選択された前記予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う第1符号化処理部と、前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う第2符号化処理部とを有する画像符号化装置にある。
この発明では、符号化対象のブロックに対して、このブロックに隣接する符号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補が設定される。また、予測動きベクトルの候補は、例えば符号化対象のブロックのサイズに応じてケース分けが行われてケースごとに設定される。ここで、ブロックのサイズが大きいときは、ブロックサイズが小さい場合に比べて予測動きベクトルの候補が多く設定される。また、例えば隣接ブロックの動きベクトルの相違に応じてケース分けが行われて、ケースごとに予測動きベクトルの候補が設定される。また、閾値を超える相違を生じた動きベクトルが、それぞれ予測動きベクトルの候補とされる。この候補から予測動きベクトルが選択されて、選択された予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルが符号化される。また、予測動きベクトルの候補が複数であるとき、複数の候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報が符号化される。さらに、候補からの予測動きベクトルの選択では、符号化効率が最良となる動きベクトルが予測動きベクトルとして選択される。
この発明の第5の側面は、符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する工程と、前記選択された予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う工程と、前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う工程とを設けた画像符号化方法にある。
この発明の第6の側面は、画像符号化をコンピュータで実行させるプログラムであって、符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する手順と、前記選択された予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う手順と、前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う手順とを前記コンピュータで実行させるプログラムにある。
なお、本発明のプログラムは、例えば、様々なプログラムを実行可能な汎用コンピュータ・システムに対して、コンピュータ可読な形式で提供する記憶媒体、通信媒体、例えば、光ディスクや磁気ディスク、半導体メモリなどの記憶媒体、または、ネットワークなどの通信媒体によって提供可能なプログラムである。このようなプログラムをコンピュータ可読な形式で提供することにより、コンピュータ・システム上でプログラムに応じた処理が実現される。
この発明によれば、画像の復号化では、復号化対象のブロックに対して、このブロックと復号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補が設定される。また、符号化ストリームを可逆復号化して得られた予測動きベクトル選択情報で示された動きベクトルが候補から選択されて予測動きベクトルとされる。この予測動きベクトルと符号化ストリームを可逆復号化して得られた差分動きベクトルを加算して復号化対象のブロックの動きベクトルが算出される。また、画像の符号化では、符号化対象のブロックに対して予測動きベクトルの候補が設定されて、この候補から符号化効率が最良となる動きベクトルが予測動きベクトルとして選択される。また、予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルと、候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化が行われる。このように、予測動きベクトルの候補から符号化効率が最良となる動きベクトルが選択されて用いられるので、動きベクトルの伝送に要する符号量の削減が可能となり、符号化効率を改善できる。また、動きベクトルの伝送に要する符号量の削減に伴い、量子化データのビットレートを高めることが可能となり画質の改善をはかることができる。
従来の予測動きベクトルの決定方法を説明するための図である。 画像符号化装置の構成を示した図である。 予測ブロックサイズに応じたケース分類とケースごとの予測動きベクトルの候補を説明するための図である。 可逆符号化部における動きベクトルに関する構成を示す図である。 画像符号化処理で用いる予測ブロックサイズを示した図である。 画像符号化処理動作を示すフローチャートである。 予測処理を示すフローチャートである。 イントラ予測処理を示すフローチャートである。 インター予測処理を示すフローチャートである。 可逆符号化部で行われる動きベクトルに関する符号化処理を示すフローチャートである。 画像復号化装置の構成を示した図である。 可逆復号化部における動きベクトルに関する構成を示す図である。 画像復号化処理動作を示すフローチャートである。 可逆復号化部で行われる動きベクトルに関する復号化処理を示すフローチャートである。 予測処理を示すフローチャートである。 隣接ブロックの動きベクトルの違い応じたケース分類とケースごとの予測動きベクトルの候補を説明するための図である。 可逆符号化部における動きベクトルに関する他の構成を示す図である。 可逆符号化部で行われる動きベクトルに関する他の符号化処理を示すフローチャートである。 可逆復号化部における動きベクトルに関する構成を示す図である。 可逆復号化部で行われる動きベクトルに関する他の復号化処理を示すフローチャートである。 同等の動きを生じているブロックの連続性に応じたケース分類を説明するための図である。 ケースごとの予測動きベクトルの候補を示す図である。 可逆符号化部で行われる動きベクトルに関する他の符号化処理を示すフローチャートである。 可逆復号化部で行われる動きベクトルに関する他の復号化処理を示すフローチャートである。 予測動きベクトルの候補ごとの発生確率を例示した図である。 テレビジョン装置の概略構成を例示した図である。 携帯電話機の概略構成を例示した図である。 記録再生装置の概略構成を例示した図である。 撮像装置の概略構成を例示した図である。
以下、発明を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.画像符号化装置の構成
2.動きベクトルの予測方法
3.可逆符号化部の構成
4.画像符号化装置の動作
5.画像復号化装置の構成
6.可逆復号化部の構成
7.画像復号化装置の動作
8.動きベクトルの他の予測方法
9.可逆符号化部の他の構成
10.他の構成の可逆符号化部の動作
11.可逆復号化部の他の構成
12.他の構成の可逆復号化部の動作
13.動きベクトルの他の予測方法
14.可逆符号化部の他の構成と動作
15.可逆復号化部の他の構成と動作
16.予測動きベクトル識別情報の符号化処理
17.ソフトウェア処理の場合
18.電子機器に適用した場合
<1.画像符号化装置の構成>
図2は、画像符号化装置の構成を示している。画像符号化装置10は、アナログ/ディジタル変換部(A/D変換部)11、画面並び替えバッファ12、減算部13、直交変換部14、量子化部15、可逆符号化部16、蓄積バッファ17、レート制御部18を備えている。さらに、画像符号化装置10は、逆量子化部21、逆直交変換部22、加算部23、デブロッキングフィルタ24、フレームメモリ25、セレクタ26、イントラ予測部31、動き予測・補償部32、予測画像・最適モード選択部33を備えている。
A/D変換部11は、アナログの画像信号をディジタルの画像データに変換して画面並べ替えバッファ12に出力する。
画面並べ替えバッファ12は、A/D変換部11から出力された画像データに対してフレームの並べ替えを行う。画面並べ替えバッファ12は、符号化処理に係るGOP(Group of Pictures)構造に応じてフレームの並べ替えを行い、並べ替え後の画像データを減算部13とイントラ予測部31と動き予測・補償部32に出力する。
減算部13には、画面並べ替えバッファ12から出力された画像データと、後述する予測画像・最適モード選択部33で選択された予測画像データが供給される。減算部13は、画面並べ替えバッファ12から出力された画像データと予測画像・最適モード選択部33から供給された予測画像データとの差分である予測誤差データを算出して、直交変換部14に出力する。
直交変換部14は、減算部13から出力された予測誤差データに対して、離散コサイン変換(DCT;Discrete Cosine Transform)、カルーネン・レーベ変換等の直交変換処理を行う。直交変換部14は、直交変換処理を行うことにより得られた変換係数データを量子化部15に出力する。
量子化部15には、直交変換部14から出力された変換係数データと、後述するレート制御部18からレート制御信号が供給されている。量子化部15は変換係数データの量子化を行い、量子化データを可逆符号化部16と逆量子化部21に出力する。また、量子化部15は、レート制御部18からのレート制御信号に基づき量子化パラメータ(量子化スケール)を切り替えて、量子化データのビットレートを変化させる。
可逆符号化部16には、量子化部15から出力された量子化データと、後述するイントラ予測部31と動き予測・補償部32および予測画像・最適モード選択部33から予測モード情報が供給される。なお、予測モード情報には、イントラ予測またはインター予測に応じて、予測ブロックサイズを示すマクロブロックタイプ、予測モード、動きベクトル情報、参照ピクチャ情報等が含まれる。可逆符号化部16は、量子化データに対して例えば可変長符号化または算術符号化等により可逆符号化処理を行い、符号化ストリームを生成して蓄積バッファ17に出力する。また、可逆符号化部16は、予測モード情報を可逆符号化して、符号化ストリームの例えばヘッダ情報に付加する。また、可逆符号化部16は、予測動きベクトルの候補を設定して、この候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する。可逆符号化部16は、この予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトル、および予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の可逆符号化を行って、符号化ストリームに付加する。
蓄積バッファ17は、可逆符号化部16からの符号化ストリームを蓄積する。また、蓄積バッファ17は、蓄積した符号化ストリームを伝送路に応じた伝送速度で出力する。
レート制御部18は、蓄積バッファ17の空き容量の監視を行い、空き容量に応じてレート制御信号を生成して量子化部15に出力する。レート制御部18は、例えば蓄積バッファ17から空き容量を示す情報を取得する。レート制御部18は空き容量が少なくなっているとき、レート制御信号によって量子化データのビットレートを低下させる。また、レート制御部18は蓄積バッファ17の空き容量が十分大きいとき、レート制御信号によって量子化データのビットレートを高くする。
逆量子化部21は、量子化部15から供給された量子化データの逆量子化処理を行う。逆量子化部21は、逆量子化処理を行うことで得られた変換係数データを逆直交変換部22に出力する。
逆直交変換部22は、逆量子化部21から供給された変換係数データの逆直交変換処理を行うことで得られたデータを加算部23に出力する。
加算部23は、逆直交変換部22から供給されたデータと予測画像・最適モード選択部33から供給された予測画像データを加算して復号画像データを生成して、デブロッキングフィルタ24とフレームメモリ25に出力する。
デブロッキングフィルタ24は、画像の符号化時に生じるブロック歪みを減少させるためのフィルタ処理を行う。デブロッキングフィルタ24は、加算部23から供給された復号画像データからブロック歪みを除去するフィルタ処理を行い、フィルタ処理後の復号画像データをフレームメモリ25に出力する。
フレームメモリ25は、加算部23から供給された復号画像データとデブロッキングフィルタ24から供給されたフィルタ処理後の復号画像データとを保持する。
セレクタ26は、イントラ予測を行うためにフレームメモリ25から読み出されたフィルタ処理前の復号画像データをイントラ予測部31に供給する。また、セレクタ26は、インター予測を行うためフレームメモリ25から読み出されたフィルタ処理後の復号画像データを動き予測・補償部32に供給する。
イントラ予測部31は、画面並べ替えバッファ12から出力された符号化対象画像の画像データとフレームメモリ25から読み出したフィルタ処理前の復号画像データを用いて、候補となるすべてのイントラ予測モードのイントラ予測処理を行う。さらに、イントラ予測部31は、各イントラ予測モードに対してコスト関数値を算出して、算出したコスト関数値が最小となるイントラ予測モード、すなわち符号化効率が最良となるイントラ予測モードを、最適イントラ予測モードとして選択する。イントラ予測部31は、最適イントラ予測モードで生成された予測画像データと最適イントラ予測モードに関する予測モード情報、および最適イントラ予測モードでのコスト関数値を予測画像・最適モード選択部33に出力する。また、イントラ予測部31は、後述するようにコスト関数値の算出で用いる発生符号量を得るため、各イントラ予測モードのイントラ予測処理において、イントラ予測モードに関する予測モード情報を可逆符号化部16に出力する。
動き予測・補償部32は、マクロブロックに対応するすべての予測ブロックサイズ(動き補償ブロックサイズ)で動き予測・補償処理を行う。動き予測・補償部32は、画面並べ替えバッファ12から読み出された符号化対象画像における各予測ブロックサイズの画像ごとに、フレームメモリ25から読み出されたフィルタ処理後の復号画像データを用いて動きベクトルを検出する。さらに、動き予測・補償部32は、検出した動きベクトルに基づいて復号画像に動き補償処理を施して予測画像の生成を行う。また、動き予測・補償部32は、各予測ブロックサイズに対してコスト関数値を算出して、算出したコスト関数値が最小となる予測ブロックサイズ、すなわち符号化効率が最良となる予測ブロックサイズを、最適インター予測モードとして選択する。動き予測・補償部32は、最適インター予測モードで生成された予測画像データと最適インター予測モードに関する予測モード情報、および最適インター予測モードでのコスト関数値を予測画像・最適モード選択部33に出力する。また、動き予測・補償部32は、コスト関数値の算出で用いる発生符号量を得るため、各予測ブロックサイズでのインター予測処理において、インター予測モードに関する予測モード情報を可逆符号化部16に出力する。なお、動き予測・補償部32は、インター予測モードとして、スキップドマクロブロックやダイレクトモードの予測も行う。
また、動き予測・補償部32は、可逆符号化部16で予測動きベクトルの候補から、符号化効率が最良となる動きベクトルを選択するため、予測動きベクトルの候補ごとにコスト関数値を算出する。動き予測・補償部32は、算出したコスト関数値を可逆符号化部16に通知する。予測動きベクトルの候補ごとのコスト関数値の算出は、各予測ブロックサイズでコスト関数値を算出するときに行ってもよく、決定された最適インター予測モードにおいて、予測動きベクトルの候補ごとのコスト関数値を算出してもよい。
予測画像・最適モード選択部33は、イントラ予測部31から供給されたコスト関数値と動き予測・補償部32から供給されたコスト関数値を、マクロブロック単位で比較して、コスト関数値が少ない方を、符号化効率が最良となる最適モードとして選択する。また、予測画像・最適モード選択部33は、最適モードで生成した予測画像データを減算部13と加算部23に出力する。さらに、予測画像・最適モード選択部33は、最適モードの予測モード情報を可逆符号化部16に出力する。なお、予測画像・最適モード選択部33は、スライス単位でイントラ予測またはインター予測を行う。
<2.動きベクトルの予測方法>
本願では、予測ブロックサイズ(動き補償ブロックサイズ)に応じたケース分類を行い、ケースごとに予測動きベクトルの候補を予め設定しておく。その後、各候補を用いて符号量の算出を行い、符号化効率が最良となる候補すなわち符号量が最小となる候補を、予測動きベクトルに決定する。ここで、図1を用いて説明したように、予測ブロックサイズが大きいときは、小さいときに比べて動きベクトルの予測精度が低下するおそれがある。したがって、ケース分類では、予測ブロックサイズが大きいとき、予想動きベクトルの候補を多くして、符号化効率が最良となる動きベクトルを選択できるようにする。
図3は、予測ブロックサイズに応じたケース分類とケースごとの予測動きベクトルの候補を示している。例えば、予測ブロックサイズが8×8画素以下であるときケースS0、8×8画素よりも大きく16×16画素以下であるときケースS1、16×16画素以上であるときケースS2とする。
ケースS0では、符号化済みの隣接ブロックのいずれか1つのブロックの動きベクトル、または符号化済みの隣接ブロックの動きベクトルから中央値を候補とする。なお、図3では、左側の隣接ブロックの動きベクトルMV_A、または、左側と上側および右上側の隣接ブロックの動きベクトルMV_A,MV_B,MV_Cの中央値MV_mdを候補とした場合を例示している。
ケースS1では、符号化済みの隣接ブロックのいずれか2つのブロックの動きベクトルを候補とする。ここで、動きベクトルが候補とされている2つのブロック間の距離が短い場合、符号化効率が最良となる予測動きベクトルを選択できないおそれがある。例えば図3の(B)に示す動きベクトルMV_B,MV_Cが候補として設定されている場合、符号化対象のブロックの動きベクトルが動きベクトルMV_Aに近いと、符号化効率が最良となる予測動きベクトルを選択することができない。したがって、隣接ブロックの動きベクトルを選択的に複数用いて予測動きベクトルの候補とするときは、符号化済みの隣接ブロックの中で互いに離れているブロックの動きベクトルを選択する。例えば、左側の隣接ブロックの動きベクトルMV_Aを第1候補、右上側の隣接ブロックの動きベクトルMV_Cを第2候補とする。
ケースS2では、ケースS1よりも多くの候補、すなわち符号化済みのすべての隣接ブロックの動きベクトルを候補とする。例えば、左側の隣接ブロックの動きベクトルMV_Aを第1候補、上側の隣接ブロックの動きベクトルMV_Bを第2候補、右上側の隣接ブロックの動きベクトルMV_Cを第3候補とする。さらに、参照ピクチャにおける符号化対象と同一のブロックの動きベクトルMV_coを第4候補とする。
このように、予測ブロックサイズ(動き補償ブロックサイズ)に応じてケース分類を行い、該当するケースの候補から符号化効率が最良となる動きベクトルを予測動きベクトルに決定する。
<3.可逆符号化部の構成>
図4は、可逆符号化部における動きベクトルに関する構成を示している。可逆符号化部16は、動きベクトル記憶部161、動きベクトル選択部165、減算部166、第1符号化処理部167、第2符号化処理部168を備えている。
動きベクトル記憶部161は、符号化対象のブロックに隣接した符号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補を設定するため、ブロックごとの動きベクトルを記憶する。なお、動きベクトル記憶部161は、ダイレクトモードに対応するため、参照ピクチャにおける符号化対象と同一のブロックの動きベクトルも記憶してもよい。
動きベクトル選択部165は、動き予測・補償部32や予測画像・最適モード選択部33から供給された予測ブロックサイズ情報に基づき、動きベクトル記憶部161に記憶されている隣接ブロックの動きベクトルや参照ピクチャにおける符号化対象と同一のブロックの動きベクトルから予測動きベクトルの候補を設定する。また、動きベクトル選択部165は、動き予測・補償部32で算出されたコスト関数値に基づき、予測動きベクトルの候補から予測動きベクトルを決定する。動きベクトル選択部165は、決定した予測動きベクトルを減算部166に出力する。
減算部166は、動き予測・補償部32または予測画像・最適モード選択部33からの動きベクトル情報で示された動きベクトルと、動きベクトル選択部165から出力された予測動きベクトルとの差分である差分動きベクトルを算出する。減算部166は、差分動きベクトルを示す差分動きベクトル情報を第1符号化処理部167に出力する。
第1符号化処理部167は、可変長符号化(VLC)テーブルまたは算術符号を用いて差分動きベクトル情報の符号化を行う。また、第2符号化処理部168は、VLCテーブルまたは算術符号を用いて予測ブロックサイズ情報と予測動きベクトル選択情報の符号化を行う。なお、予測動きベクトル選択情報は、予測動きベクトルの候補からいずれの動きベクトルが予測動きベクトルに決定されたかを示す情報であり、例えばフラグが用いられる。第1符号化処理部167と第2符号化処理部168で符号化された情報は、上述のように符号化ストリームのヘッダ情報に付加される。
<4.画像符号化装置の動作>
次に、画像符号化処理動作について説明する。図5は、画像符号化処理で用いる予測ブロックサイズを示している。H.264/AVC方式では、図5の(C)(D)に示すように16×16画素〜4×4画素の予測ブロックサイズが規定されている。また、H.264/AVC方式よりも拡張された大きさのマクロブロックを用いる場合、例えば32×32画素のマクロブロックを用いる場合、例えば図5の(B)に示す予測ブロックサイズが規定される。また、例えば64×64画素のマクロブロックを用いる場合、例えば図5の(A)に示す予測ブロックサイズが規定される。
なお、図5において、「Skip/direct」は、動き予測・補償部32において、スキップドマクロブロックやダイレクトモードを選択したときの予測ブロックサイズであることを示している。また、「ME」は動き補償ブロックサイズであることを示している。また、「P8×8」は、マクロブロックのサイズを小さくした下位の階層でさらに分割できることを示している。
図6は、画像符号化処理動作を示すフローチャートである。ステップST11において、A/D変換部11は入力された画像信号をA/D変換する。
ステップST12において画面並べ替えバッファ12は、画像並べ替えを行う。画面並べ替えバッファ12は、A/D変換部11より供給された画像データを記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
ステップST13において減算部13は、予測誤差データの生成を行う。減算部13は、ステップST12で並び替えられた画像の画像データと予測画像・最適モード選択部33で選択された予測画像データとの差分を算出して予測誤差データを生成する。予測誤差データは、元の画像データに比べてデータ量が小さい。したがって、画像をそのまま符号化する場合に比べて、データ量を圧縮することができる。
ステップST14において直交変換部14は、直交変換処理を行う。直交変換部14は、減算部13から供給された予測誤差データを直交変換する。具体的には、予測誤差データに対して離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、変換係数データを出力する。
ステップST15において量子化部15は、量子化処理を行う。量子化部15は、変換係数データを量子化する。量子化に際しては、後述するステップST25の処理で説明されるように、レート制御が行われる。
ステップST16において逆量子化部21は、逆量子化処理を行う。逆量子化部21は、量子化部15により量子化された変換係数データを量子化部15の特性に対応する特性で逆量子化する。
ステップST17において逆直交変換部22は、逆直交変換処理を行う。逆直交変換部22は、逆量子化部21により逆量子化された変換係数データを直交変換部14の特性に対応する特性で逆直交変換する。
ステップST18において加算部23は、復号画像データの生成を行う。加算部23は、予測画像・最適モード選択部33から供給された予測画像データと、この予測画像と対応する位置の逆直交変換後のデータを加算して、復号画像データを生成する。
ステップST19においてデブロッキングフィルタ24は、フィルタ処理を行う。デブロッキングフィルタ24は、加算部23より出力された復号画像データをフィルタリングしてブロック歪みを除去する。
ステップST20においてフレームメモリ25は、復号画像データを記憶する。フレームメモリ25は、フィルタ処理前の復号画像データとフィルタ処理後の復号画像データを記憶する。
ステップST21においてイントラ予測部31と動き予測・補償部32は、それぞれ予測処理を行う。すなわち、イントラ予測部31は、イントラ予測モードのイントラ予測処理を行い、動き予測・補償部32は、インター予測モードの動き予測・補償処理を行う。予測処理の詳細は、図7を参照して後述するが、この処理により、候補となるすべての予測モードでの予測処理がそれぞれ行われ、候補となるすべての予測モードでのコスト関数値がそれぞれ算出される。そして、算出されたコスト関数値に基づいて、最適イントラ予測モードと最適インター予測モードが選択され、選択された予測モードで生成された予測画像とそのコスト関数および予測モード情報が予測画像・最適モード選択部33に供給される。
ステップST22において予測画像・最適モード選択部33は、予測画像データの選択を行う。予測画像・最適モード選択部33は、イントラ予測部31および動き予測・補償部32より出力された各コスト関数値に基づいて、符号化効率が最良となる最適モードに決定する。さらに、予測画像・最適モード選択部33は、決定した最適モードの予測画像データを選択して、減算部13と加算部23に供給する。この予測画像が、上述したように、ステップST13,ST18の演算に利用される。なお、選択した予測画像データに対応する予測モード情報は、可逆符号化部16に出力される。
ステップST23において可逆符号化部16は、可逆符号化処理を行う。可逆符号化部16は、量子化部15より出力された量子化データを可逆符号化する。すなわち、量子化データに対して可変長符号化や算術符号化等の可逆符号化が行われて、データ圧縮される。このとき、上述したステップST22において可逆符号化部16に入力された予測モード情報(例えばマクロブロックタイプや予測モード、参照ピクチャ情報等を含む)や動きベクトルに関する情報なども可逆符号化される。さらに、量子化データを可逆符号化して生成された符号化ストリームのヘッダ情報に、予測モード情報等の可逆符号化データが付加される。
ステップST24において蓄積バッファ17は、蓄積処理を行う。蓄積バッファ17は、可逆符号化部16から出力される符号化ストリームを蓄積する。この蓄積バッファ17に蓄積された符号化ストリームは、適宜読み出されて伝送路を介して復号側に伝送される。
ステップST25においてレート制御部18は、レート制御を行う。レート制御部18は、蓄積バッファ17で符号化ストリームを蓄積するとき、オーバーフローまたはアンダーフローが蓄積バッファ17で発生しないように、量子化部15の量子化動作のレートを制御する。
次に、図7のフローチャートを参照して、図6のステップST21における予測処理を説明する。
ステップST31において、イントラ予測部31はイントラ予測処理を行う。イントラ予測部31は処理対象のブロックの画像を、候補となるすべてのイントラ予測モードでイントラ予測する。なお、イントラ予測において参照される復号画像の画像データは、デブロッキングフィルタ24によりフィルタ処理が行われることなくフレームメモリ25に記憶されている復号画像データが用いられる。イントラ予測処理の詳細は後述するが、この処理により、候補となるすべてのイントラ予測モードでイントラ予測が行われ、候補となるすべてのイントラ予測モードに対してコスト関数値が算出される。そして、算出されたコスト関数値に基づいて、すべてのイントラ予測モードの中から、符号化効率が最良となる1つのイントラ予測モードが選択される。
ステップST32において、動き予測・補償部32はインター予測処理を行う。動き予測・補償部32は、フレームメモリ25に記憶されているフィルタ処理後の復号画像データを用いて、候補となるすべてのインター予測モード(すべての予測ブロックサイズ)のインター予測処理を行う。インター予測処理の詳細は後述するが、この処理により、候補となるすべてのインター予測モードで予測処理が行われ、候補となるすべてのインター予測モードに対してコスト関数値が算出される。そして、算出されたコスト関数値に基づいて、すべてのインター予測モードの中から、符号化効率が最良となる1つのインター予測モードが選択される。
次に、図7のステップST31におけるイントラ予測処理について図8のフローチャートを参照して説明する。
ステップST41でイントラ予測部31は、各予測モードのイントラ予測を行う。イントラ予測部31は、フレームメモリ25に記憶されているフィルタ処理前の復号画像データを用いて、イントラ予測モードごとに予測画像データを生成する。
ステップST42でイントラ予測部31は、各予測モードに対するコスト関数値を算出する。コスト関数値としては、H.264/AVC方式における参照ソフトウェアであるJM(Joint Model)で定められているように、High Complexity モードか、Low Complexity モードのいずれかの手法に基づいて行う。
すなわち、High Complexity モードにおいては、ステップST41の処理として、候補となるすべての予測モードに対して、仮に可逆符号化処理までを行い、次の式(1)で表されるコスト関数値を各予測モードに対して算出する。
Cost(Mode∈Ω)=D+λ・R ・・・(1)
Ωは、当該ブロック乃至マクロブロックを符号化するための候補となる予測モードの全体集合を示している。Dは、予測モードで符号化を行った場合の復号画像と入力画像との差分エネルギー(歪み)を示している。Rは、直交変換係数や予測モード情報等を含んだ発生符号量、λは、量子化パラメータQPの関数として与えられるラグランジュ乗数である。
つまり、High Complexity Modeでの符号化を行うには、上記パラメータDおよびRを算出するため、候補となるすべての予測モードにより、一度、仮エンコード処理を行う必要があり、より高い演算量を要する。
一方、Low Complexity モードにおいては、ステップST41の処理として、候補となるすべての予測モードに対して、予測画像の生成、および、動きベクトル情報や予測モード情報などのヘッダビットまでを算出し、次の式(2)で表されるコスト関数値を各予測モードに対して算出する。
Cost(Mode∈Ω)=D+QPtoQuant(QP)・Header_Bit ・・・(2)
Ωは、当該ブロック乃至マクロブロックを符号化するための候補となる予測モードの全体集合を示している。Dは、予測モードで符号化を行った場合の復号画像と入力画像との差分エネルギー(歪み)を示している。Header_Bitは、予測モードに対するヘッダビット、QPtoQuantは、量子化パラメータQPの関数として与えられる関数である。
すなわち、Low Complexity Modeにおいては、それぞれの予測モードに関して、予測処理を行う必要があるが、復号化画像までは必要ないため、High Complexity Modeより低い演算量での実現が可能である。
ステップST43でイントラ予測部31は、最適イントラ予測モードを決定する。イントラ予測部31は、ステップST42において算出されたコスト関数値に基づいて、それらの中から、コスト関数値が最小値である1つのイントラ予測モードを選択して最適イントラ予測モードに決定する。
次に、図9のフローチャートを参照して、図7のステップST32のインター予測処理について説明する。
ステップST51で動き予測・補償部32は、各予測モードに対して動きベクトルと参照画像をそれぞれ決定する。すなわち、動き予測・補償部32は、各予測モードの処理対象のブロックについて、動きベクトルと参照画像をそれぞれ決定する。
ステップST52で動き予測・補償部32は、各予測モードに対して動き補償を行う。動き予測・補償部32は、各予測モード(各予測ブロックサイズ)について、ステップST51で決定された動きベクトルに基づいて、参照画像に対する動き補償を行い、各予測モードについて予測画像データを生成する。
ステップST53で動き予測・補償部32は、各予測モードに対して動きベクトル情報の生成を行う。動き予測・補償部32は、各予測モードで決定された動きベクトルを示す動きベクトル情報を生成する。生成された動きベクトル情報は、次のステップST54におけるコスト関数値の算出にも用いられて、予測画像・最適モード選択部33で対応する予測画像が選択された場合には、予測モード情報に含まれて可逆符号化部16へ出力される。
ステップST54で動き予測・補償部32は、各インター予測モードに対して、コスト関数値の算出を行う。動き予測・補償部32は、上述した式(1)または式(2)を用いてコスト関数値の算出を行う。コスト関数値の算出では、第1符号化処理部167と第2符号化処理部168で符号化された情報を含めた発生符号量を用いる。なお、インター予測モードに対するコスト関数値の算出には、H.264/AVC方式において定められているSkip ModeおよびDirect Modeのコスト関数値の評価も含まれる。
ステップST55で動き予測・補償部32は、最適インター予測モードを決定する。動き予測・補償部32は、ステップST54において算出されたコスト関数値に基づいて、それらの中から、コスト関数値が最小値である1つの予測モードを選択して最適インター予測モードに決定する。
次に、可逆符号化部16で行われる動きベクトルに関する符号化処理について、図10のフローチャートを用いて説明する。なお、図10では、図3に示すようにケース分類と候補の設定を行った場合を示している。
ステップST61で可逆符号化部16は、予測ブロックサイズ情報を取得する。
ステップST62で可逆符号化部16は、ケースS0に該当するか否か判別する。可逆符号化部16は、予測ブロックサイズが8×8画素以下であるときケースS0に該当すると判別してステップST63に進み、予測ブロックサイズが8×8画素以下でないときステップST64に進む。
ステップST63で可逆符号化部16は、ケースS0の候補を予測動きベクトルに決定する。可逆符号化部16は、ケースS0の候補である動きベクトルMV_A(または動きベクトルMV_md)を予測動きベクトルに決定してステップST69に進む。
ステップST64で可逆符号化部16は、ケースS1に該当するか否か判別する。可逆符号化部16は、予測ブロックサイズが16×16画素以下であるときケースS1に該当すると判別してステップST65に進み、予測ブロックサイズが16×16画素以下でないときステップST68に進む。
ステップST65で可逆符号化部16は、ケースS1の候補から予測動きベクトルに決定する。可逆符号化部16は、ケースS1であるとき、図3に示すように動きベクトルMV_A、動きベクトルMV_Cが予測動きベクトルの候補とされている。したがって、可逆符号化部16は、第1候補である動きベクトルMV_Aを用いたときのコスト関数値と、第2候補である動きベクトルMV_Cを用いたときのコスト関数値を比較して、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST66で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST65で決定された符号化効率が最良となる予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用い、動きベクトルMV_Aが予測動きベクトルに決定されたときはフラグを「0」、動きベクトルMV_Cが予測動きベクトルに決定されたときはフラグを「1」に設定する。
ステップST67で可逆符号化部16は、ケースS2の候補から予測動きベクトルに決定する。可逆符号化部16は、ケースS2であるとき、図3に示すように動きベクトルMV_A、動きベクトルMV_B、動きベクトルMV_C、動きベクトルMV_coが予測動きベクトルの候補とされている。したがって、可逆符号化部16は、第1〜第4候補である動きベクトルMV_A,MV_B,MV_C,MV_coをそれぞれ用いたときのコスト関数値を比較して、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST68で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST68で決定された符号化効率が最良となる予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用い、動きベクトルMV_Aが予測動きベクトルに決定されたときはフラグを「0」、動きベクトルMV_Bが予測動きベクトルに決定されたときはフラグを「1」に設定する。また、可逆符号化部16は、動きベクトルMV_Cが予測動きベクトルに決定されたときはフラグを「2」、動きベクトルMV_coが予測動きベクトルに決定されたときはフラグを「3」に設定する。
ステップST69で可逆符号化部16は、可逆符号化処理を行う。可逆符号化部16は、ステップST63,65,67で決定した予測動きベクトルと符号化対象のブロックの動きベクトルとの差分動きベクトルを示す情報を可逆符号化する。また、可逆符号化部16は、予測動きベクトル選択情報と予測ブロックサイズを示す情報等を可逆符号化する。
このように、本願発明の画像符号化装置および方法では、予測ブロックサイズの大きさに応じて、予測動きベクトルの候補が設定されて、候補の中から符号化効率が最良となる動きベクトルが予測動きベクトルに決定される。したがって、動きベクトルの伝送に要する符号量の削減が可能となり、符号化効率を改善できる。また、動きベクトルの伝送に要する符号量の削減に伴い、量子化データのビットレートを高めることが可能となるので画質を改善できる。また、ケースS0のように予測動きベクトルの候補が1つである場合には、予測動きベクトル選択情報が不要である。したがって、予測動きベクトルの候補が複数である場合にのみ予測動きベクトル選択情報を伝送することで、符号化効率をさらに改善できる。
<5.画像復号化装置の構成>
入力画像を符号化して生成された符号化ストリームは、所定の伝送路や記録媒体等を介して画像復号化装置に供給されて復号される。
図11は、画像復号化装置の構成を示している。画像復号化装置50は、蓄積バッファ51、可逆復号化部52、逆量子化部53、逆直交変換部54、加算部55、デブロッキングフィルタ56、画面並べ替えバッファ57、ディジタル/アナログ変換部(D/A変換部)58を備えている。さらに、画像復号化装置50は、フレームメモリ61、セレクタ62,65、イントラ予測部63、動き補償部64を備えている。
蓄積バッファ51は、伝送されてきた符号化ストリームを蓄積する。可逆復号化部52は、蓄積バッファ51より供給された符号化ストリームを、図2の可逆符号化部16の符号化方式に対応する方式で復号化する。
可逆復号化部52は、符号化ストリームのヘッダ情報を復号して得られた予測モード情報をイントラ予測部63や動き補償部64、デブロッキングフィルタ56に出力する。また、可逆復号化部52は、復号化対象のブロックと復号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補を設定する。可逆復号化部52は、符号化ストリームを可逆復号化して得られた予測動きベクトル選択情報に基づき、予測動きベクトルの候補から動きベクトルを選択して、選択した動きベクトルを予測動きベクトルとする。また、可逆復号化部52は、符号化ストリームを可逆復号化して得られた差分動きベクトルに予測動きベクトルを加算して復号化対象のブロックの動きベクトルを算出して、動き補償部64に出力する。
逆量子化部53は、可逆復号化部52で復号された量子化データを、図2の量子化部15の量子化方式に対応する方式で逆量子化する。逆直交変換部54は、図2の直交変換部14の直交変換方式に対応する方式で逆量子化部53の出力を逆直交変換して加算部55に出力する。
加算部55は、逆直交変換後のデータとセレクタ65から供給される予測画像データを加算して復号画像データを生成してデブロッキングフィルタ56とフレームメモリ61に出力する。
デブロッキングフィルタ56は、加算部55から供給された復号画像データに対してフィルタ処理を行い、ブロック歪みを除去してからフレームメモリ61に供給し蓄積させるとともに、画面並べ替えバッファ57に出力する。
画面並べ替えバッファ57は、画像の並べ替えを行う。すなわち、図2の画面並べ替えバッファ12により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられて、D/A変換部58に出力される。
D/A変換部58は、画面並べ替えバッファ57から供給された画像データをD/A変換し、図示せぬディスプレイに出力することで画像を表示させる。
フレームメモリ61は、加算部55から供給されたフィルタ処理前の復号画像データとデブロッキングフィルタ24から供給されたフィルタ処理後の復号画像データとを保持する。
セレクタ62は、可逆復号化部52から供給された予測モード情報に基づき、イントラ予測が行われた予測ブロックの復号化が行われるとき、フレームメモリ61から読み出されたフィルタ処理前の復号画像データをイントラ予測部63に供給する。また、セレクタ26は、可逆復号化部52から供給された予測モード情報に基づき、インター予測が行われた予測ブロックの復号化が行われるとき、フレームメモリ61から読み出されたフィルタ処理後の復号画像データを動き補償部64に供給する。
イントラ予測部63は、可逆復号化部52から供給された予測モード情報に基づいて予測画像の生成を行い、生成した予測画像データをセレクタ65に出力する。
動き補償部64は、可逆復号化部52から供給された予測モード情報や動きベクトルに基づいて動き補償を行い、予測画像データを生成してセレクタ65に出力する。すなわち、動き補償部64は、可逆復号化部52から供給された動きベクトルおよび参照フレーム情報に基づいて、参照フレーム情報で示された参照画像に対して、動きベクトルに基づき動き補償を行い、予測ブロックサイズの予測画像データを生成する。
セレクタ65は、イントラ予測部63で生成された予測画像データを加算部55に供給する。また、セレクタ65は、動き補償部64で生成された予測画像データを加算部55に供給する。
<6.可逆復号化部の構成>
図12は、可逆復号化部における動きベクトルに関する構成を示している。可逆復号化部52は、第1復号化処理部521、第2復号化処理部522、動きベクトル記憶部523、動きベクトル選択部525、加算部526とを備えている。
第1復号化処理部521は、第1符号化処理部167で行われた符号化に対応する復号化処理を行う。第1復号化処理部521は、VLCテーブルまたは算術符号を用いて符号化ストリームの可逆復号化処理を行い、差分動きベクトル情報を生成する。
第2復号化処理部522は、第2符号化処理部168で行われた符号化に対応する復号化処理を行う。第2復号化処理部522は、VLCテーブルまたは算術符号を用いて符号化ストリームの可逆復号化処理を行い、予測ブロックサイズ情報と予測動きベクトル選択情報等を生成する。
動きベクトル記憶部523は、復号化対象のブロックに隣接した復号化済みの隣接ブロックの動きベクトル等を用いて予測動きベクトルを決定するため、ブロックごとの動きベクトルを記憶する。なお、動きベクトル記憶部523は、ダイレクトモードに対応するとき参照ピクチャにおける符号化対象と同一のブロックの動きベクトルも記憶する。
動きベクトル選択部525は、第2復号化処理部522から出力された予測ブロックサイズ情報に基づきケース分類を行い、動きベクトル記憶部161に記憶されている隣接ブロックの動きベクトルおよび参照ピクチャにおける符号化対象と同一のブロックの動きベクトルから、予測動きベクトルの候補を設定する。このケース分類および予測動きベクトルの候補の設定は、符号化側の動きベクトル選択部165と等しくする。さらに、動きベクトル選択部525は、第2復号化処理部522から出力された予測動きベクトル選択情報に基づき、予測動きベクトルの候補から動きベクトルを選択して予測動きベクトルとして加算部526に出力する。
加算部526は、第1復号化処理部521から出力された差分動きベクトル情報で示された差分動きベクトルに、動きベクトル選択部525から出力された予測動きベクトルを加算することで、符号化対象のブロックの動きベクトルを算出して動き補償部64に出力する。
<7.画像復号化装置の動作>
次に、図13のフローチャートを参照して、画像復号化装置50で行われる画像復号処理動作について説明する。
ステップST81で蓄積バッファ51は、伝送されてきた符号化ストリームを蓄積する。ステップST82で可逆復号化部52は、可逆復号化処理を行う。可逆復号化部52は、蓄積バッファ51から供給される符号化ストリームを復号化する。すなわち、図2の可逆符号化部16により符号化された各ピクチャの量子化データが得られる。また、可逆復号化部52、符号化ストリームのヘッダ情報に含まれている予測モード情報の可逆復号化を行い、得られた予測モード情報をデブロッキングフィルタ56やセレクタ62,65に供給する。さらに、可逆復号化部52は、予測モード情報がイントラ予測モードに関する情報である場合、予測モード情報をイントラ予測部63に出力する。また、可逆復号化部52は、予測モード情報がインター予測モードに関する情報である場合、予測モード情報を動き補償部64に出力する。
ステップST83において逆量子化部53は、逆量子化処理を行う。逆量子化部53は、可逆復号化部52により復号された量子化データを、図2の量子化部15の特性に対応する特性で逆量子化する。
ステップST84において逆直交変換部54は、逆直交変換処理を行う。逆直交変換部54は、逆量子化部53により逆量子化された変換係数データを、図2の直交変換部14の特性に対応する特性で逆直交変換する。
ステップST85において加算部55は、復号画像データの生成を行う。加算部55は、逆直交変換処理を行うことにより得られたデータと、後述するステップST89で選択された予測画像データを加算して復号画像データを生成する。これにより元の画像が復号される。
ステップST86においてデブロッキングフィルタ56は、フィルタ処理を行う。デブロッキングフィルタ56は、加算部55より出力された復号画像データのフィルタ処理を行い、復号画像に含まれているブロック歪みを除去する。
ステップST87においてフレームメモリ61は、復号画像データの記憶処理を行う。
ステップST88においてイントラ予測部63と動き補償部64は、予測処理を行う。イントラ予測部63と動き補償部64は、可逆復号化部52から供給される予測モード情報に対応してそれぞれ予測処理を行う。
すなわち、可逆復号化部52からイントラ予測の予測モード情報が供給された場合、イントラ予測部63は、予測モード情報に基づいてイントラ予測処理を行い、予測画像データを生成する。また、可逆復号化部52からインター予測の予測モード情報が供給された場合、動き補償部64は、予測モード情報に基づき動き補償を行い、予測画像データを生成する。
ステップST89において、セレクタ65は予測画像データの選択を行う。すなわち、セレクタ65は、イントラ予測部63から供給された予測画像と動き補償部64で生成された予測画像データを選択して加算部55に供給して、上述したように、ステップST85において逆直交変換部54の出力と加算させる。
ステップST90において画面並べ替えバッファ57は、画像並べ替えを行う。すなわち画面並べ替えバッファ57は、図2の画像符号化装置10の画面並べ替えバッファ12により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
ステップST91において、D/A変換部58は、画面並べ替えバッファ57からの画像データをD/A変換する。この画像が図示せぬディスプレイに出力され、画像が表示される。
次に、可逆復号化部52で行われる動きベクトルに関する復号化処理について、図14のフローチャートを用いて説明する。なお、図14においても、図3に示すようにケース分類と候補の設定が行われている場合を示している。
ステップST101で可逆復号化部52は、予測ブロックサイズ情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測ブロックサイズ情報を取得する。
ステップST102で可逆復号化部52は、ケースS0に該当するか否か判別する。可逆復号化部52は、復号化対象のブロックのサイズである予測ブロックサイズが8×8画素以下であるときケースS0に該当すると判別してステップST103に進み、予測ブロックサイズが8×8画素以下でないときステップST104に進む。
ステップST103で可逆復号化部52は、ケースS0の候補を予測動きベクトルに決定する。可逆復号化部52は、ケースS0の候補である動きベクトルMV_A(または動きベクトルMV_md)を予測動きベクトルに決定してステップST109に進む。
ステップST104で可逆復号化部52は、ケースS1に該当するか否か判別する。可逆復号化部52は、予測ブロックサイズが16×16画素以下であるときケースS1に該当すると判別してステップST105に進み、予測ブロックサイズが16×16画素以下でないときステップST107に進む。
ステップST105で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得する。
ステップST106で可逆復号化部52は、ケースS1の候補から予測動きベクトルに決定する。可逆復号化部52は、ケースS1において予測動きベクトル選択情報で示された候補を予測動きベクトルに決定してステップST109に進む。例えば、可逆復号化部52は、予測動きベクトル情報がフラグ「0」であるとき、動きベクトルMV_Aを予測動きベクトルとする。また、可逆復号化部52は、予測動きベクトル情報がフラグ「1」であるとき、動きベクトルMV_Cを予測動きベクトルとする。
ステップST107で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得する。
ステップST108で可逆復号化部52は、ケースS2の候補から予測動きベクトルに決定する。可逆復号化部52は、ケースS2において予測動きベクトル選択情報で示された候補を予測動きベクトルに決定してステップST109に進む。例えば、可逆復号化部52は、予測動きベクトル情報がフラグ「0」であるとき動きベクトルMV_Aを予測動きベクトルとする。可逆復号化部52は、予測動きベクトル情報がフラグ「1」であるとき、動きベクトルMV_Bを予測動きベクトルとする。可逆復号化部52は、予測動きベクトル情報がフラグ「2」であるとき動きベクトルMV_Cを予測動きベクトルとする。また、可逆復号化部52は、予測動きベクトル情報がフラグ「3」であるとき、動きベクトルMV_coを予測動きベクトルとする。
ステップST109で可逆復号化部52は、動きベクトル算出処理を行う。可逆復号化部52は、ステップST103,105,107で決定した予測動きベクトルと、符号化ストリームの可逆復号化を行うことにより得られた復号化対象のブロックの差分動きベクトルを加算して、復号化対象のブロックの動きベクトルを算出する。可逆復号化部52は、算出した動きベクトルを動き補償部64に出力する。
次に、図15のフローチャートを参照して、図13のステップST88の予測処理について説明する。
ステップST111で可逆復号化部52は、対象ブロックがイントラ符号化されているか否かを判定する。可逆復号化部52は、可逆復号化を行うことにより得られた予測モード情報がイントラ予測モード情報であるとき、予測モード情報をイントラ予測部63に供給してステップST112に進む。また、可逆復号化部52は、予測モード情報がイントラ予測モード情報でないとき、予測モード情報を動き補償部64に供給してステップST113に進む。
ステップST112でイントラ予測部63は、イントラ予測処理を行う。イントラ予測部63は、セレクタ62を介して供給された復号画像データと予測モード情報を用いてイントラ予測を行い、予測画像データを生成する。
ステップST113で動き補償部64は、インター予測処理を行う。動き補償部64は、可逆復号化部52からの予測モード情報や動きベクトルに基づいて、セレクタ62を介して供給された復号画像データの動き補償を行う。さらに、動き補償部64は、動き補償により生成した予測画像データをセレクタ65に出力する。
このように、本願発明の画像復号化装置および方法では、予測ブロックサイズの大きさに応じて予測動きベクトルの候補が設定されて、候補の中から画像符号化装置で選択された動きベクトルが予測動きベクトルに決定される。したがって、画像符号化装置において、予測ブロックサイズの大きさに応じて設定した予測動きベクトルの候補から最適な動きベクトルを選択して符号化効率や画質の改善がはかられても、符号化ストリームの復号化を画像復号化装置で正しく行うことができる。
<8.動きベクトルの他の予測方法>
ところで、上述の動きベクトルの予測方法は、予測ブロックサイズに応じて予測動きベクトルの候補を設けて、候補の中から符号化効率が最良となる動きベクトルを予測動きベクトルに決定した。しかし、予測動きベクトルの候補は、予測ブロックサイズに限らず符号化済みまたは復号化済みの隣接ブロックの動きベクトルの違い応じて、予測動きベクトルの候補を設けるようにしてもよい。さらに、隣接ブロックの動きベクトルの違いと予測ブロックサイズに応じて予測動きベクトルの候補を設けてもよい。
図16は、隣接ブロックの動きベクトルの違い応じたケース分類とケースごとの予測動きベクトルの候補を示している。
図16の(A)に示すように、ケースM0は、左側の隣接ブロックの動きベクトルMV_Aと、上側の隣接ブロックの動きベクトルMV_Bと、右上側の隣接ブロックの動きベクトルMV_Cの違いが少ない場合とする。また、図16の(B)に示すように、ケースM1は、動きベクトルMV_Aと動きベクトルMV_Bと動きベクトルMV_Cの中で、動きベクトルMV_Aと他の動きベクトルとの相違が予め設定されている閾値より大きい場合とする。また、図16の(C)に示すように、ケースM2は、動きベクトルMV_Aと動きベクトルMV_Bと動きベクトルMV_Cの中で、動きベクトルMV_Cと他の動きベクトルとの相違が閾値より大きい場合とする。さらに、図16の(D)に示すように、ケースM3は、動きベクトルMV_Aと動きベクトルMV_Bと動きベクトルMV_Cのそれぞれで動きベクトルの相違が閾値より大きいとき場合とする。
このように、隣接ブロックの動きベクトルの違い応じてケース分類を行い、図16の(E)に示すように、ケースごとに予測動きベクトルの候補を設定する。予測動きベクトルの候補の設定では、予め設定されている閾値を超える相違を生じた動きベクトルのそれぞれを予測動きベクトルの候補とする。
ケースM0では、隣接ブロック間で動きベクトルの相違が少ないことから、何れか1つの隣接ブロックの動きベクトルを予測動きベクトルの候補とする。例えば上側の隣接ブロックの動きベクトルMV_Bを、予測動きベクトルの候補とする。また他の隣接ブロックの動きベクトルを候補としてもよい。
ケースM1では、予め設定されている閾値を超える相違を生じた動きベクトル例えば左側の隣接ブロックの動きベクトルMV_Aを第1候補、右上側の隣接ブロックの動きベクトルMV_Cを第2候補とする。なお、動きベクトルMV_Aと動きベクトルMV_Bの相違が閾値を超えても、動きベクトルMV_Bと動きベクトルMV_Cの相違が少ないので、動きベクトルMV_Bと動きベクトルMV_Cの何れか一方を候補とする。
ケースM2では、例えば左側の隣接ブロックの動きベクトルMV_Aを第1候補、右上側の隣接ブロックの動きベクトルMV_Cを第2候補とする。
ケースM3では、各隣接ブロック間で動きベクトルの相違が閾値を超えていることから、例えば左側の隣接ブロックの動きベクトルMV_Aを第1候補、上側の隣接ブロックの動きベクトルMV_Bを第2候補、右上側の隣接ブロックの動きベクトルMV_Cを第3候補とする。
<9.可逆符号化部の他の構成>
図17は、可逆符号化部における動きベクトルに関する他の構成を示している。可逆符号化部16は、動きベクトル記憶部161、ケース分類部162、動きベクトル選択部165a、減算部166、第1符号化処理部167、第2符号化処理部168を備えている。
動きベクトル記憶部161は、符号化対象のブロックよりも前に符号化が行われる隣接ブロックの動きベクトルを用いて予測動きベクトルの決定を行うため、ブロックごとの動きベクトルを記憶する。なお、動きベクトル記憶部161は、ダイレクトモードに対応するとき参照ピクチャにおける符号化対象と同一のブロックの動きベクトルも記憶する。
ケース分類部162は、隣接ブロックの動きベクトルの違い応じてケース分類を行い、ケース分類結果を動きベクトル選択部165aに供給する。
動きベクトル選択部165aは、ケース分類結果に基づき、動きベクトル記憶部161に記憶されている隣接ブロックの動きベクトルや参照ピクチャにおける符号化対象と同一のブロックの動きベクトルから予測動きベクトルの候補を設定する。また、動きベクトル選択部165aは、動き予測・補償部32から供給されたコスト関数値に基づき、予測動きベクトルの候補から予測動きベクトルを決定する。動きベクトル選択部165aは、決定した予測動きベクトルを減算部166に出力する。また、動きベクトル選択部165aは、予測ブロックサイズに応じたケース分類も合わせて行う場合、予測ブロックサイズ情報とケース分類結果に基づき、動きベクトル記憶部161に記憶されている隣接ブロックの動きベクトルおよび参照ピクチャにおける符号化対象と同一のブロックの動きベクトルから予測動きベクトルの候補を設定する。動きベクトル選択部165aで決定された予測動きベクトルは、減算部166に出力される。例えば、予測ブロックサイズが16×16画素以下のときには予測ブロックサイズに応じたケース分類を行い、16×16画素よりも大きいときには隣接ブロックの動きベクトルの違い応じたケース分類を行ってケースごとの予測動きベクトルの候補を設定する。このように、予測ブロックサイズが大きく予測精度が低下するような場合、動きベクトルの違い応じたケース分類を行うようにすれば、隣接ブロックの動きベクトルの相違が少ないときは候補の数が少なくなるので、予測動きベクトルを効率良く決定できる。
減算部166は、動き予測・補償部32または予測画像・最適モード選択部33からの動きベクトル情報で示された動きベクトルと、動きベクトル選択部165aから出力された予測動きベクトルとの差分である差分動きベクトルを算出する。減算部166は、算出した差分動きベクトルを示す差分動きベクトル情報を第1符号化処理部167に出力する。
第1符号化処理部167は、VLCテーブルまたは算術符号を用いて差分動きベクトル情報の符号化を行う。また、第2符号化処理部168は、VLCテーブルまたは算術符号を用いて予測ブロックサイズ情報と予測動きベクトル選択情報の符号化を行う。第1符号化処理部167と第2符号化処理部168で符号化された情報は、上述のように符号化ストリームのヘッダ情報に付加される。
<10.他の構成の可逆符号化部の動作>
次に、可逆符号化部16で行われる動きベクトルに関する他の符号化処理について、図18のフローチャートを用いて説明する。なお、図18では、図16に示すようにケース分類と候補の設定を行った場合を示している。また、隣接ブロックの動きベクトルの違いと予測ブロックサイズに応じて予測動きベクトルの候補を設ける場合、例えば符号化対象のブロックの予測ブロックサイズが16×16画素よりも大きい場合、図18の処理を行えばよい。
ステップST121で可逆符号化部16は、隣接ブロックの動きベクトルの差分を算出する。可逆符号化部16は、例えば左側の隣接ブロックの動きベクトルMV_Aと上側の隣接ブロックの動きベクトルMV_Bとの差分動きベクトルMVD_ABを算出する。また、可逆符号化部16は、上側の隣接ブロックの動きベクトルMV_Bと右上側の隣接ブロックの動きベクトルMV_Cとの差分動きベクトルMVD_BCを算出する。
ステップST122で可逆符号化部16は、差分動きベクトルMVD_ABが閾値よりも小さいか否か判別する。可逆符号化部16は、差分動きベクトルMVD_ABの水平成分MVD_ABxが閾値Thabxよりも小さく、差分動きベクトルMVD_ABの垂直成分MVD_AByが閾値Thabyよりも小さいときステップST123に進む。また、可逆符号化部16は、他の場合にステップST127に進む。
ステップST123で可逆符号化部16は、差分動きベクトルMVD_BCが閾値よりも小さいか否か判別する。可逆符号化部16は、差分動きベクトルMVD_BCの水平成分MVD_BCxが閾値Thbcxよりも小さく、差分動きベクトルMVD_BCの垂直成分MVD_BCyが閾値Thbcyよりも小さいときステップST124に進む。また、可逆符号化部16は、他の場合にステップST125に進む。
ステップST124で可逆符号化部16は、ケースM0の候補を予測動きベクトルに決定する。可逆符号化部16は、ステップST122とステップST123の条件を満たすときケースM0に該当することから、ケースM0の候補である動きベクトルMV_Bを予測動きベクトルに決定してステップST132に進む。
ステップST125で可逆符号化部16は、ケースM2の候補から予測動きベクトルに決定する。可逆符号化部16は、ステップST122の条件を満たしステップST123の条件を満たさないときケースM2に該当することから、ケースM2の候補から予測動きベクトルに決定する。可逆符号化部16は、ケースM2であるとき、図16に示すように動きベクトルMV_A、動きベクトルMV_Cが予測動きベクトルの候補とされている。したがって、可逆符号化部16は、第1候補である動きベクトルMV_Aを用いたときのコスト関数値と、第2候補である動きベクトルMV_Cを用いたときのコスト関数値を比較して、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST126で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST125で決定した予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用いる。可逆符号化部16は、動きベクトルMV_Aが予測動きベクトルに決定されたときはフラグを「0」、動きベクトルMV_Cが予測動きベクトルに決定されたときはフラグを「1」に設定してステップST132に進む。
ステップST122からステップST127に進むと、可逆符号化部16は、差分動きベクトルMVD_BCが閾値よりも小さいか否か判別する。可逆符号化部16は、差分動きベクトルMVD_BCの水平成分MVD_BCxが閾値Thbcxよりも小さく、差分動きベクトルMVD_BCの垂直成分MVD_BCyが閾値Thbcyよりも小さいときステップST128に進む。また、可逆符号化部16は、他の場合にステップST130に進む。
ステップST128で可逆符号化部16は、ケースM1候補から予測動きベクトルに決定する。可逆符号化部16は、ステップST122の条件を満たさずステップST127の条件を満たすときケースM1に該当することから、ケースM1の候補から予測動きベクトルに決定する。可逆符号化部16は、ケースM1であるとき、図16に示すように動きベクトルMV_A、動きベクトルMV_Cが予測動きベクトルの候補とされている。したがって、可逆符号化部16は、第1候補である動きベクトルMV_Aを用いたときのコスト関数値と、第2候補である動きベクトルMV_Cを用いたときのコスト関数値を比較して、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST129で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST128で決定した予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用いる。可逆符号化部16は、動きベクトルMV_Aが予測動きベクトルに決定されたときはフラグを「0」、動きベクトルMV_Cが予測動きベクトルに決定されたときはフラグを「1」に設定してステップST132に進む。
ステップST130で可逆符号化部16は、ケースM3候補から予測動きベクトルに決定する。可逆符号化部16は、ステップST122およびステップST127の条件を満たさないときケースM3に該当することから、ケースM3の候補から予測動きベクトルに決定する。可逆符号化部16は、ケースM3であるとき、図16に示すように動きベクトルMV_A、動きベクトルMV_B、動きベクトルMV_Cが予測動きベクトルの候補とされている。したがって、可逆符号化部16は、第1候補である動きベクトルMV_Aを用いたときのコスト関数値と、第2候補である動きベクトルMV_Bを用いたときのコスト関数値と、第3候補である動きベクトルMV_Cを用いたときのコスト関数値を比較する。可逆符号化部16は、比較結果に基づき、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST131で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST130で決定した予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用いる。可逆符号化部16は、動きベクトルMV_Aが予測動きベクトルに決定されたときはフラグを「0」に設定する。また、可逆符号化部16は、動きベクトルMV_Bが予測動きベクトルに決定されたときはフラグを「1」、動きベクトルMV_Cが予測動きベクトルに決定されたときはフラグを「2」に設定してステップST132に進む。
ステップST132で可逆符号化部16は、可逆符号化処理を行う。可逆符号化部16は、ステップST124,125,128,130で決定した予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を可逆符号化する。また、可逆符号化部16は、予測動きベクトル選択情報と予測ブロックサイズを示す情報等を可逆符号化する。
このように、本願の画像符号化装置および方法では、隣接ブロックの動きベクトルの相違に応じて、予測動きベクトルの候補が設定されて、候補の中から符号化効率が最良となる動きベクトルが予測動きベクトルに決定される。したがって、符号化効率や画質の改善をはかることができる。また、ケースM0のように予測動きベクトルの候補が1つである場合には、予測動きベクトル選択情報が不要である。したがって、予測動きベクトルの候補が複数である場合にのみ予測動きベクトル選択情報を伝送することで、符号化効率をさらに改善できる。
<11.可逆復号化部の他の構成>
図19は、可逆復号化部における動きベクトルに関する他の構成を示している。可逆復号化部52は、第1復号化処理部521、第2復号化処理部522、動きベクトル記憶部523、ケース分類部524、動きベクトル選択部525a、加算部526とを備えている。
第1復号化処理部521は、第1符号化処理部167で行われた符号化に対応する復号化処理を行う。第1復号化処理部521は、VLCテーブルまたは算術符号を用いて符号化ストリームの可逆復号化処理を行い、差分動きベクトル情報を生成する。
第2復号化処理部522は、第2符号化処理部168で行われた符号化に対応する復号化処理を行う。第2復号化処理部522は、VLCテーブルまたは算術符号を用いて符号化ストリームの可逆復号化処理を行い、予測ブロックサイズ情報と予測動きベクトル選択情報等を生成する。
動きベクトル記憶部523は、符号化対象のブロックよりも前に符号化が行われる隣接ブロックの動きベクトル等を用いて予測動きベクトルを決定するため、ブロックごとの動きベクトルを記憶する。なお、動きベクトル記憶部523は、ダイレクトモードに対応するとき参照ピクチャにおける符号化対象と同一のブロックの動きベクトルも記憶する。
ケース分類部524は、隣接ブロックの動きベクトルの違い応じてケース分類を行い、
このケース分類は、符号化側のケース分類部162と等しくする。このケース分類は、符号化側のケース分類部162と等しくする。
動きベクトル選択部525aは、ケース分類結果に基づき、動きベクトル記憶部523に記憶されている隣接ブロックの動きベクトルおよび参照ピクチャにおける符号化対象と同一のブロックの動きベクトルから、予測動きベクトルの候補を設定する。この予測動きベクトルの候補の設定は、符号化側の動きベクトル選択部165aと等しくする。さらに、動きベクトル選択部525aは、第2復号化処理部522から出力された予測動きベクトル選択情報に基づき、予測動きベクトルの候補から動きベクトルを選択して予測動きベクトルとして加算部526に出力する。また、動きベクトル選択部525aは、予測ブロックサイズに応じたケース分類も合わせて行う場合、予測ブロックサイズ情報とケース分類結果と予測動きベクトル選択情報に基づき、動きベクトル記憶部523に記憶されている隣接ブロックの動きベクトルから予測動きベクトルの候補を設定する。さらに、動きベクトル選択部525aは、予測動きベクトルの候補から予測動きベクトル選択情報に基づき予測動きベクトルを決定して加算部526に出力する。このようにすれば、例えば予測ブロックサイズが16×16画素よりも大きいとき、隣接ブロックの動きベクトルの違い応じたケース分類とケースごとの予測動きベクトルの候補を設定して、符号化効率が最良となる予測動きベクトルを決定されても、画像復号化装置でこの予測動きベクトルを用いて復号化処理を行うことができる。
加算部526は、第1復号化処理部521から出力された差分動きベクトル情報で示された差分動きベクトルに、動きベクトル選択部525aから出力された予測動きベクトルを加算する。加算部526は、差分動きベクトルと予測動きベクトルを加算することで、符号化対象のブロックにおける動きベクトルを算出して動き補償部64に出力する。
<12.他の構成の可逆復号化部の動作>
次に、可逆復号化部52で行われる動きベクトルに関する他の復号化処理について、図20のフローチャートを用いて説明する。なお、図20においても、図16に示すようにケース分類と候補の設定が行われている場合を示している。また、画像符号化において、例えば符号化対象のブロックの予測ブロックサイズが16×16画素よりも大きい場合、図18の処理が行われるとき、予測モード情報で示された予測ブロックサイズが16×16画素よりも大きい場合、図20の処理を行うようにする。
ステップST141で可逆復号化部52は、復号化済みである隣接ブロックの動きベクトルの差分を算出する。例えば、可逆復号化部52は、左側の隣接ブロックの動きベクトルMV_Aと上側の隣接ブロックの動きベクトルMV_Bとの差分動きベクトルMVD_ABを算出する。また、可逆復号化部52は、上側の隣接ブロックの動きベクトルMV_Bと右上側の隣接ブロックの動きベクトルMV_Cとの差分動きベクトルMVD_BCを算出する。
ステップST142で可逆復号化部52は、差分動きベクトルMVD_ABが閾値よりも小さいか否か判別する。可逆復号化部52は、差分動きベクトルMVD_ABの水平成分MVD_ABxが閾値Thabxよりも小さく、差分動きベクトルMVD_ABの垂直成分MVD_AByが閾値Thabyよりも小さいときステップST143に進む。また、可逆復号化部52は、他の場合にステップST147に進む。
ステップST143で可逆復号化部52は、差分動きベクトルMVD_BCが閾値よりも小さいか否か判別する。可逆復号化部52は、差分動きベクトルMVD_BCの水平成分MVD_BCxが閾値Thbcxよりも小さく、差分動きベクトルMVD_BCの垂直成分MVD_BCyが閾値Thbcyよりも小さいときステップST144に進む。また、可逆復号化部52は、他の場合にステップST145に進む。
ステップST144で可逆復号化部52は、ケースM0の候補を予測動きベクトルに決定する。可逆復号化部52は、ステップST142とステップST143の条件を満たすときケースM0に該当することから、ケースM0の候補である動きベクトルMV_Bを予測動きベクトルに決定してステップST152に進む。
ステップST145で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得する。
ステップST146で可逆復号化部52は、ケースM2の候補から予測動きベクトルに決定する。可逆復号化部52は、ステップST142の条件を満たしておりステップST143の条件を満たしていないときケースM2に該当することから、ケースM2において予測動きベクトル選択情報で示された候補を予測動きベクトルに決定する。例えば、可逆復号化部52は、予測動きベクトル選択情報がフラグ「0」を示しているとき、動きベクトルMV_Aを予測動きベクトルに決定する。また、可逆復号化部52は、予測動きベクトル選択情報がフラグ「1」を示しているとき、動きベクトルMV_Cを予測動きベクトルに決定する。
ステップST142からステップST147に進むと、可逆復号化部52は、差分動きベクトルMVD_BCが閾値よりも小さいか否か判別する。可逆復号化部52は、差分動きベクトルMVD_BCの水平成分MVD_BCxが閾値Thbcxよりも小さく、差分動きベクトルMVD_BCの垂直成分MVD_BCyが閾値Thbcyよりも小さいときステップST148に進む。また、可逆復号化部52は、他の場合にステップST150に進む。
ステップST148で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得する。
ステップST149で可逆復号化部52は、ケースM1の候補から予測動きベクトルに決定する。可逆復号化部52は、ステップST142の条件を満たしておらずステップST143の条件を満たしているときケースM1に該当することから、ケースM1において予測動きベクトル選択情報で示された候補を予測動きベクトルに決定する。例えば、可逆復号化部52は、予測動きベクトル選択情報がフラグ「0」を示しているとき、動きベクトルMV_Aを予測動きベクトルに決定する。また、可逆復号化部52は、予測動きベクトル選択情報がフラグ「1」を示しているとき、動きベクトルMV_Cを予測動きベクトルに決定する。
ステップST150で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得する。
ステップST151で可逆復号化部52は、ケースM3の候補から予測動きベクトルに決定する。可逆復号化部52は、ステップST142とステップST147の条件を満たしておらずケースM3に該当することから、ケースM3において予測動きベクトル選択情報で示された候補を予測動きベクトルに決定する。例えば、可逆復号化部52は、予測動きベクトル選択情報がフラグ「0」を示しているとき、動きベクトルMV_Aを予測動きベクトル、予測動きベクトル選択情報がフラグ「1」を示しているとき、動きベクトルMV_Bを予測動きベクトルに決定する。また、可逆復号化部52は、予測動きベクトル選択情報がフラグ「2」を示しているとき、動きベクトルMV_Cを予測動きベクトルに決定する。
ステップST152で可逆復号化部52は、動きベクトル算出処理を行う。可逆復号化部52は、ステップST144,146,149,151で決定した予測動きベクトルと、符号化ストリームの可逆復号化を行うことにより得られた復号化対象のブロックの差分動きベクトルを加算して、復号化対象のブロックの動きベクトルを算出する。可逆復号化部52は、算出した動きベクトルを動き補償部64に出力する。
このように、本願発明の画像復号化装置および方法では、復号化済みの隣接ブロックの動きベクトルの相違に応じて、予測動きベクトルの候補が設定されて、候補の中から画像符号化装置で選択された動きベクトルが予測動きベクトルに決定される。したがって、画像符号化装置において、隣接ブロックの動きベクトルの相違に応じて設定した予測動きベクトルの候補から最適な動きベクトルを選択して符号化効率や画質の改善がはかられても、符号化ストリームの復号化を画像復号化装置で正しく行える。また、隣接ブロックの動きベクトルの相違に応じてケース分類が行われることから、ケース分類に関する情報を符号化ストリームに含める必要もない。
<13.動きベクトルの他の予測方法>
次に、動きベクトルの他の予測方法として、符号化済みまたは復号化済みの隣接ブロックの動きベクトルに基づき、同等の動きを生じているブロックの連続性の判別して、判別結果に基づき予測動きベクトルの候補を設けた場合について説明する。
図21は、同等の動きを生じているブロックの連続性に応じたケース分類を説明するための図である。同等の動きを生じているブロックの連続性の判定は、隣接ブロックにおいて隣り合うブロックとの動きベクトルの差を用いて行う。なお、連続性の判定では、右上側に位置する隣接ブロックと左側に位置する隣接ブロックとの動きベクトルの差を含めてもよい。2つのブロックが同等の動きを示している場合、算出した差分動きベクトルの大きさ(動き量)は小さい。したがって、連続性の判別は、2つのブロックの差分動きベクトルの大きさが閾値以下であるとき同等の動きを生じているブロック、差分動きベクトルの大きさが閾値よりも大きいときは2つのブロックが異なる動きを生じているブロックと判別する。
連続性の判別は、例えば、図21に示すように、左側の隣接ブロックの動きベクトルMV_Aと、左上側の隣接ブロックの動きベクトルMV_Dとの差分動きベクトルMVD_ADを算出する。この差分動きベクトルMVD_ADが閾値Tjad以下であるときは判定結果(MoD_AD)を「0」、閾値Tjadより大きいときは判定結果(MoD_AD)を「1」とする。なお、判定結果「0」は、2つのブロックが同等の動きを生じている連続するブロックであることを示している。また、判定結果「1」は、2つのブロックが異なる動きを生じている非連続のブロックであることを示している。
同様に、左上側の隣接ブロックの動きベクトルMV_Dと、上側の隣接ブロックの動きベクトルMV_Bとの差分動きベクトルMVD_DBを算出して、差分動きベクトルMVD_DBと閾値Tjdbとの比較に基づきMoD_DBを決定する。また、上側の隣接ブロックの動きベクトルMV_Bと、右上側の隣接ブロックの動きベクトルMV_Cとの差分動きベクトルMVD_BCを算出して、差分動きベクトルMVD_BCと閾値Tjbcとの比較に基づきMoD_BCを決定する。また、右上側の隣接ブロックの動きベクトルMV_Cと、左側の隣接ブロックの動きベクトルMV_Aとの差分動きベクトルMVD_CAを算出して、差分動きベクトルMVD_CAと閾値Tjcaとの比較に基づきMoD_CAを決定する。
次に、ケース分類は、連続性の判定結果であるMoD_AD,MoD_DB,MoD_BC,MoD_CAを用いて行う。さらに、分類されたケースに応じて予測動きベクトルの候補を決定する。なお、予測動きベクトルの候補は、予め学習によってケースごとに決定しておく。
図22は、ケースごとの予測動きベクトルの候補を例示している。例えばケースm0は、MoD_AD=0、MoD_DB=0、MoD_BC=0、MoD_CA=0の場合であり、予測動きベクトルの第1候補を動きベクトルMV_Aとする。また、ケースm8は、MoD_AD=1、MoD_DB=0、MoD_BC=0、MoD_CA=0の場合であり、予測動きベクトルの第1候補を動きベクトルMV_A、第2候補を動きベクトルMV_Cとする。また、ケースm15は、MoD_AD=1、MoD_DB=1、MoD_BC=1、MoD_CA=1の場合であり、予測動きベクトルの第1候補を動きベクトルMV_A、第2候補をMV_B、第3候補をMV_Cとする。
<14.可逆符号化部の他の構成と動作>
同等の動きを生じているブロックの連続性の判別結果に基づき予測動きベクトルの候補を設ける場合、可逆符号化部における動きベクトルに関する他の構成は、図17と同様とする。なお、図17におけるケース分類部162は、同等の動きを生じているブロックの連続性の判別結果に基づきケース分類を行い、ケース分類結果を動きベクトル選択部165aに供給する。また、動きベクトル選択部165aは、ケース分類結果に基づき、図22に示すように、予測動きベクトルの候補を設定する。
図23は、可逆符号化部16で行われる動きベクトルに関する他の符号化処理を示すフローチャートである。
ステップST161で可逆符号化部16は、隣接ブロックの動きベクトルの差分を算出する。可逆符号化部16は、隣接ブロック間で、隣り合うブロックとの動きベクトルの差を算出する。また、可逆符号化部16は、右上側に位置する隣接ブロックと左側に位置する隣接ブロックとの動きベクトルの差を算出する。すなわち、可逆符号化部16は、差分動きベクトルMVD_AD,MVD_DB,MVD_BC,MVD_CAを算出してステップST162に進む。
ステップST162で可逆符号化部16は、MoDを決定する。可逆符号化部16は、差分動きベクトルMVD_ADと閾値Tjadを比較してMoD_ADを決定する。可逆符号化部16は、差分動きベクトルMVD_ADが閾値Tjad以下であるときMoD_ADを「0」とする。また、可逆符号化部16は、差分動きベクトルMVD_ADが閾値Tjadよりも大きいときMoD_ADを「1」とする。同様に、可逆符号化部16は、差分動きベクトルMVD_DB,MVD_BC,MVD_CAと、閾値Tjdb,Tjbc,Tjcaを比較して、MoD_DB,MoD_BC,MoD_CAを決定してステップST163に進む。
ステップST163で可逆符号化部16は、ケース分類を行う。可逆符号化部16は、MoD_ADとMoD_DBとMoD_BCおよびMoD_CAの値に基づき、例えば図22のようにケース分類を行ってステップST164に進む。
ステップST164は、判別されたケースにおける候補から予測動きベクトルに決定する。可逆符号化部16は、ステップST163で判別されたケースにおける予測動きベクトルの候補から、予測動きベクトルに決定する。可逆符号化部16は、判別されたケースにおいて予測動きベクトルの候補が1つであるときは、この候補を予測動きベクトルに決定する。例えば、図22に示すように、MoD_AD=0、MoD_DB=0、MoD_BC=0、MoD_CA=0であるケースm0では、予測動きベクトルの候補が動きベクトルMV_Aの1つである。したがって、動きベクトルMV_Aを予測動きベクトルに決定する。
可逆符号化部16は、判別されたケースにおいて予測動きベクトルの候補が複数であるとき、各候補を用いたときのコスト関数値を算出して、コスト関数値が最も小さい候補を予測動きベクトルに決定する。
例えば、図22に示すように、MoD_AD=1、MoD_DB=0、MoD_BC=0、MoD_CA=0であるケースm8では、予測動きベクトルの候補が動きベクトルMV_A,MV_Cの2つである。したがって、可逆符号化部16は、第1候補である動きベクトルMV_Aを用いたときのコスト関数値と、第2候補である動きベクトルMV_Cを用いたときのコスト関数値を比較して、コスト関数値が小さい動きベクトルを予測動きベクトルに決定する。
ステップST165で可逆符号化部16は、予測動きベクトル選択情報を生成する。可逆符号化部16は、ステップST164で決定した予測動きベクトルを示す予測動きベクトル選択情報を生成する。例えば、可逆符号化部16は、予測動きベクトル選択情報としてフラグを用いる。可逆符号化部16は、第1候補が予測動きベクトルに決定されたときはフラグを「0」、第2候補が予測動きベクトルに決定されたときはフラグを「1」、第3候補が予測動きベクトルに決定されたときはフラグを「2」に設定してステップST166に進む。
ステップST166で可逆符号化部16は、可逆符号化処理を行う。可逆符号化部16は、ステップST164で決定した予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を可逆符号化する。また、可逆符号化部16は、予測動きベクトル選択情報と予測ブロックサイズを示す情報等を可逆符号化する。
このように、同等の動きを生じているブロックの連続性の判別結果に応じて、予測動きベクトルの候補が設定されて、候補の中から符号化効率が最良となる動きベクトルが予測動きベクトルに決定される。したがって、符号化効率や画質の改善をはかることができる。また、予測動きベクトルの候補が1つである場合には、予測動きベクトル選択情報が不要である。したがって、予測動きベクトルの候補が複数である場合にのみ予測動きベクトル選択情報を伝送することで、符号化効率をさらに改善できる。
<15.可逆復号化部の他の構成と動作>
同等の動きを生じているブロックの連続性の判別結果に基づき予測動きベクトルの候補を設ける場合、可逆復号化部における動きベクトルに関する他の構成は、図19と同様とする。なお、図19におけるケース分類部524は、同等の動きを生じているブロックの連続性の判別結果に基づきケース分類を行い、ケース分類結果を動きベクトル選択部525aに供給する。また、動きベクトル選択部525aは、ケース分類結果に基づき、図22に示すように、予測動きベクトルの候補を設定する。
図24は、可逆復号化部52で行われる動きベクトルに関する他の復号化処理を示すフローチャートである。なお、図24においても、図21,22に示すようにケース分類と候補の設定が行われている場合を示している。また、画像符号化において、例えば符号化対象のブロックの予測ブロックサイズが16×16画素よりも大きい場合、図23の処理が行われるとき、予測モード情報で示された予測ブロックサイズが16×16画素よりも大きい場合、図24の処理を行うようにする。
ステップST171で可逆復号化部52は、復号化済みである隣接ブロックの動きベクトルの差分を算出する。例えば、可逆復号化部52は、隣接ブロック間で、隣り合うブロックとの動きベクトルの差を算出する。また、可逆符号化部16は、右上側に位置する隣接ブロックと左側に位置する隣接ブロックとの動きベクトルの差を算出する。すなわち、可逆符号化部16は、差分動きベクトルMVD_AD,MVD_DB,MVD_BC,MVD_CAを算出してステップST172に進む。
ステップST172で可逆復号化部52は、MoDを決定する。可逆復号化部52は、差分動きベクトルMVD_ADと閾値Tjadを比較してMoD_ADを決定する。可逆復号化部52は、差分動きベクトルMVD_ADが閾値Tjad以下であるときMoD_ADを「0」とする。また、可逆復号化部52は、差分動きベクトルMVD_ADが閾値Tjadよりも大きいときMoD_ADを「1」とする。同様に、可逆復号化部52は、差分動きベクトルMVD_DB,MVD_BC,MVD_CAと、閾値Tjdb,Tjbc,Tjcaを比較して、MoD_DB,MoD_BC,MoD_CAを決定してステップST173に進む。
ステップST173で可逆復号化部52は、ケース分類を行う。可逆復号化部52は、MoD_ADとMoD_DBとMoD_BCおよびMoD_CAの値に基づき、例えば図21,22のようにケース分類を行ってステップST174に進む。
ステップST174で可逆復号化部52は、予測動きベクトル選択情報の取得を行う。可逆復号化部52は、蓄積バッファ51に蓄積された符号化ストリームの復号化を行い復号化対象のブロックについての予測動きベクトル選択情報を取得してステップST175に進む。
ステップST175で可逆復号化部52は、判別されたケースにおける候補から予測動きベクトルに決定する。可逆復号化部52は、ステップST173で判別されたケースにおける予測動きベクトルの候補から、ステップST174で取得した予測動きベクトル選択情報に基づき予測動きベクトルを決定する。可逆復号化部52は、判別されたケースにおいて予測動きベクトルの候補が1つであるときは、この候補を予測動きベクトルに決定する。例えば、MoD_AD=0、MoD_DB=0、MoD_BC=0、MoD_CA=0であるケースm0では、予測動きベクトルの候補が動きベクトルMV_Aの1つである。したがって、動きベクトルMV_Aを予測動きベクトルに決定する。
また、可逆復号化部52は、判別されたケースにおいて予測動きベクトルの候補が複数であるとき、予測動きベクトル選択情報が示す候補を予測動きベクトルを決定する。例えば、MoD_AD=1、MoD_DB=0、MoD_BC=0、MoD_CA=0であるケースm8では、予測動きベクトルの候補が動きベクトルMV_A,MV_Cの2つである。ここで、予測動きベクトル選択情報がフラグ「0」を示しているとき、第1候補である動きベクトルMV_Aを予測動きベクトルに決定する。また、予測動きベクトル選択情報がフラグ「1」を示しているとき、第2候補である動きベクトルMV_Cを予測動きベクトルに決定する。
ステップST176で可逆復号化部52は、動きベクトル算出処理を行う。可逆復号化部52は、ステップST175で決定した予測動きベクトルと、符号化ストリームの可逆復号化を行うことにより得られた復号化対象のブロックの差分動きベクトルを加算して、復号化対象のブロックの動きベクトルを算出する。可逆復号化部52は、算出した動きベクトルを動き補償部64に出力する。
このように、本願発明の画像復号化装置および方法では、復号化済みの隣接ブロックについて、同等の動きを生じているブロックの連続性を判別して、この判別結果に応じて、予測動きベクトルの候補が設定される。さらに、候補の中から画像符号化装置で選択された動きベクトルが予測動きベクトルに決定される。したがって、画像符号化装置において、同等の動きを生じているブロックの連続性に応じて設定した予測動きベクトルの候補から最適な動きベクトルを選択して符号化効率や画質の改善がはかられても、符号化ストリームの復号化を画像復号化装置で正しく行える。また、隣接ブロックの動きベクトルの相違に応じてケース分類が行われることから、ケース分類に関する情報を符号化ストリームに含める必要もない。
<16.予測動きベクトル識別情報の符号化処理>
また、隣接するブロックの動きベクトルに応じてケース分類を行う場合、予め候補ごとに発生確率を求めておき、第2符号化処理部では発生確率に応じて符号化を行うことで、符号量をさらに削減できる。図25は、予測動きベクトルの候補ごとの発生確率を例示している。例えば、ケースM1において、動きベクトルMV_Aの発生確率が「30%」、動きベクトルMV_Cの発生確率が「70%」とする。また、ケースM2において、動きベクトルMV_Aの発生確率が「70%」、動きベクトルMV_Cの発生確率が「30%」とする。さらに、ケースM3において、動きベクトルMV_Aの発生確率が「35%」、動きベクトルMV_Bの発生確率が「35%」、動きベクトルMV_Cの発生確率が「30%」とする。
第2符号化処理部168は予測動きベクトル情報の符号化において、予測動きベクトルが発生確率の高い動きベクトルであるときは、発生確率の低い動きベクトルであるときよりもビット長を短くする。すなわち、ケースM1の場合、予測動きベクトルが動きベクトルMV_Cであるときは、動きベクトルMV_Aであるときよりもビット長が短くなるように符号化を行う。また、ケースM2の場合、予測動きベクトルが動きベクトルMV_Aであるときは、動きベクトルMV_Cであるときよりもビット長が短くなるように符号化を行う。
このように、予測動きベクトルの候補ごとに発生確率を予め求めておき、発生確率の高い動きベクトルを示す予測動きベクトル選択情報は、発生確率の低い動きベクトルを示す予測動きベクトル選択情報に比べて割り当てる符号量を少なくする。このようにすれば、予測動きベクトル情報の圧縮率を高くできる。
<17.ソフトウェア処理の場合>
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、または両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることも可能である。
例えば、プログラムは記録媒体としてのハードディスクやROM(Read Only Memory)に予め記録しておくことができる。または、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、磁気ディスク、半導体メモリなどのリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
なお、プログラムは、上述したようなリムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトから、コンピュータに無線転送したり、LAN(Local Area Network)、インターネットといったネットワークを介して、コンピュータに有線で転送し、コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
プログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
<18.電子機器に適用した場合>
また、以上においては、符号化方式/復号方式としてH.264/AVC方式が用いられたが、本発明は、その他の動き予測・補償処理を行う符号化方式/復号方式を用いる画像符号化装置/画像復号装置に適用することもできる。
さらに、本発明は、例えば、MPEG,H.26x等のように、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送、ケーブルTV(テレビジョン)、インターネット、および携帯電話機などのネットワークメディアを介して受信する際に、あるいは、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。
上述した画像符号化装置10や画像復号化装置50は、任意の電子機器に適用することができる。以下にその例について説明する。
図26は、本発明を適用したテレビジョン装置の概略構成を例示している。テレビジョン装置90は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース部909を有している。さらに、テレビジョン装置90は、制御部910、ユーザインタフェース部911等を有している。
チューナ902は、アンテナ901で受信された放送波信号から所望のチャンネルを選局して復調を行い、得られたストリームをデマルチプレクサ903に出力する。
デマルチプレクサ903は、ストリームから視聴対象である番組の映像や音声のパケットを抽出して、抽出したパケットのデータをデコーダ904に出力する。また、デマルチプレクサ903は、EPG(Electronic Program Guide)等のデータのパケットを制御部910に供給する。なお、スクランブルが行われている場合、デマルチプレクサ等でスクランブルの解除を行う。
デコーダ904は、パケットの復号化処理を行い、復号処理化によって生成された映像データを映像信号処理部905、音声データを音声信号処理部907に出力する。
映像信号処理部905は、映像データに対して、ノイズ除去やユーザ設定に応じた映像処理等を行う。映像信号処理部905は、表示部906に表示させる番組の映像データや、ネットワークを介して供給されるアプリケーションに基づく処理による画像データなどを生成する。また、映像信号処理部905は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それを番組の映像データに重畳する。映像信号処理部905は、このようにして生成した映像データに基づいて駆動信号を生成して表示部906を駆動する。
表示部906は、映像信号処理部905からの駆動信号に基づき表示デバイス(例えば液晶表示素子等)を駆動して、番組の映像などを表示させる。
音声信号処理部907は、音声データに対してノイズ除去などの所定の処理を施し、処理後の音声データのD/A変換処理や増幅処理を行いスピーカ908に供給することで音声出力を行う。
外部インタフェース部909は、外部機器やネットワークと接続するためのインタフェースであり、映像データや音声データ等のデータ送受信を行う。
制御部910にはユーザインタフェース部911が接続されている。ユーザインタフェース部911は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部910に供給する。
制御部910は、CPU(Central Processing Unit)やメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータ、EPGデータ、ネットワークを介して取得されたデータ等を記憶する。メモリに記憶されているプログラムは、テレビジョン装置90の起動時などの所定のタイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、テレビジョン装置90がユーザ操作に応じた動作となるように各部を制御する。
なお、テレビジョン装置90では、チューナ902、デマルチプレクサ903、映像信号処理部905、音声信号処理部907、外部インタフェース部909等と制御部910を接続するためバス912が設けられている。
このように構成されたテレビジョン装置では、デコーダ904に本願の画像復号化装置(画像復号化方法)の機能が設けられる。このため、放送局側で本願の画像符号化装置の機能を用いることにより、符号化効率や画質の改善がはかられて符号化ストリームの生成が行われても、テレビジョン装置で符号化ストリームの復号化を正しく行うことができる。
図27は、本発明を適用した携帯電話機の概略構成を例示している。携帯電話機92は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931を有している。これらは、バス933を介して互いに接続されている。
また、通信部922にはアンテナ921が接続されており、音声コーデック923には、スピーカ924とマイクロホン925が接続されている。さらに制御部931には、操作部932が接続されている。
携帯電話機92は、音声通話モードやデータ通信モード等の各種モードで、音声信号の送受信、電子メールや画像データの送受信、画像撮影、またはデータ記録等の各種動作を行う。
音声通話モードにおいて、マイクロホン925で生成された音声信号は、音声コーデック923で音声データへの変換やデータ圧縮が行われて通信部922に供給される。通信部922は、音声データの変調処理や周波数変換処理等を行い送信信号を生成する。また、通信部922は、送信信号をアンテナ921に供給して図示しない基地局へ送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、得られた音声データを音声コーデック923に供給する。音声コーデック923は、音声データのデータ伸張やアナログ音声信号への変換を行いスピーカ924に出力する。
また、データ通信モードにおいて、メール送信を行う場合、制御部931は、操作部932の操作によって入力された文字データを受け付けて、入力された文字を表示部930に表示する。また、制御部931は、操作部932におけるユーザ指示等に基づいてメールデータを生成して通信部922に供給する。通信部922は、メールデータの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、メールデータを復元する。このメールデータを、表示部930に供給して、メール内容の表示を行う。
なお、携帯電話機92は、受信したメールデータを、記録再生部929で記憶媒体に記憶させることも可能である。記憶媒体は、書き換え可能な任意の記憶媒体である。例えば、記憶媒体は、RAMや内蔵型フラッシュメモリ等の半導体メモリ、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USBメモリ、またはメモリカード等のリムーバブルメディアである。
データ通信モードにおいて画像データを送信する場合、カメラ部926で生成された画像データを、画像処理部927に供給する。画像処理部927は、画像データの符号化処理を行い符号化データを生成する。
多重分離部928は、画像処理部927で生成された符号化データと、音声コーデック923から供給された音声データを所定の方式で多重化して通信部922に供給する。通信部922は、多重化データの変調処理や周波数変換処理等を行い、得られた送信信号をアンテナ921から送信する。また、通信部922は、アンテナ921で受信した受信信号の増幅や周波数変換処理および復調処理等を行い、多重化データを復元する。この多重化データを多重分離部928に供給する。多重分離部928は、多重化データの分離を行い、符号化データを画像処理部927、音声データを音声コーデック923に供給する。画像処理部927は、符号化データの復号化処理を行い画像データを生成する。この画像データを表示部930に供給して、受信した画像の表示を行う。音声コーデック923は、音声データをアナログ音声信号に変換してスピーカ924に供給して、受信した音声を出力する。
このように構成された携帯電話装置では、画像処理部927に本願の画像符号化装置(画像符号化方法)や画像復号化装置(画像復号化方法)の機能が設けられる。したがって、画像データの通信を行う際に、符号化効率や画質を改善することができる。
図28は、本発明を適用した記録再生装置の概略構成を例示している。記録再生装置94は、例えば受信した放送番組のオーディオデータとビデオデータを、記録媒体に記録して、その記録されたデータをユーザの指示に応じたタイミングでユーザに提供する。また、記録再生装置94は、例えば他の装置からオーディオデータやビデオデータを取得し、それらを記録媒体に記録させることもできる。さらに、記録再生装置94は、記録媒体に記録されているオーディオデータやビデオデータを復号して出力することで、モニタ装置等において画像表示や音声出力を行うことができるようにする。
記録再生装置94は、チューナ941、外部インタフェース部942、エンコーダ943、HDD(Hard Disk Drive)部944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)部948、制御部949、ユーザインタフェース部950を有している。
チューナ941は、図示しないアンテナで受信された放送信号から所望のチャンネルを選局する。チューナ941は、所望のチャンネルの受信信号を復調して得られた符号化ストリームをセレクタ946に出力する。
外部インタフェース部942は、IEEE1394インタフェース、ネットワークインタフェース部、USBインタフェース、フラッシュメモリインタフェース等の少なくともいずれかで構成されている。外部インタフェース部942は、外部機器やネットワーク、メモリカード等と接続するためのインタフェースであり、記録する映像データや音声データ等のデータ受信を行う。
エンコーダ943は、外部インタフェース部942から供給された映像データや音声データが符号化されていないとき所定の方式で符号化を行い、符号化ストリームをセレクタ946に出力する。
HDD部944は、映像や音声等のコンテンツデータ、各種プログラムやその他のデータ等を内蔵のハードディスクに記録し、また再生時等にそれらを当該ハードディスクから読み出す。
ディスクドライブ945は、装着されている光ディスクに対する信号の記録および再生を行う。光ディスク、例えばDVDディスク(DVD−Video、DVD−RAM、DVD−R、DVD−RW、DVD+R、DVD+RW等)やBlu−rayディスク等である。
セレクタ946は、映像や音声の記録時には、チューナ941またはエンコーダ943からのいずれかのストリームを選択して、HDD部944やディスクドライブ945のいずれかに供給する。また、セレクタ946は、映像や音声の再生時に、HDD部944またはディスクドライブ945から出力されたストリームをデコーダ947に供給する。
デコーダ947は、ストリームの復号化処理を行う。デコーダ947は、復号処理化を行うことにより生成された映像データをOSD部948に供給する。また、デコーダ947は、復号処理化を行うことにより生成された音声データを出力する。
OSD部948は、項目の選択などのメニュー画面等を表示するための映像データを生成し、それをデコーダ947から出力された映像データに重畳して出力する。
制御部949には、ユーザインタフェース部950が接続されている。ユーザインタフェース部950は、操作スイッチやリモートコントロール信号受信部等で構成されており、ユーザ操作に応じた操作信号を制御部949に供給する。
制御部949は、CPUやメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータを記憶する。メモリに記憶されているプログラムは、記録再生装置94の起動時などの所定のタイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、記録再生装置94がユーザ操作に応じた動作となるように各部を制御する。
このように構成された記録再生装置では、エンコーダ943に本願の画像符号化装置(画像符号化方法)の機能、デコーダ947に画像復号化装置(画像復号化方法)の機能が設けられて、符号化効率や画質を改善して、映像の記録再生を効率よく行うことができる。
図29は、本発明を適用した撮像装置の概略構成を例示している。撮像装置96は、被写体を撮像し、被写体の画像を表示部に表示させたり、それを画像データとして、記録媒体に記録する。
撮像装置96は、光学ブロック961、撮像部962、カメラ信号処理部963、画像データ処理部964、表示部965、外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970を有している。また、制御部970には、ユーザインタフェース部971が接続されている。さらに、画像データ処理部964や外部インタフェース部966、メモリ部967、メディアドライブ968、OSD部969、制御部970等は、バス972を介して接続されている。
光学ブロック961は、フォーカスレンズや絞り機構等を用いて構成されている。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCDまたはCMOSイメージセンサを用いて構成されており、光電変換によって光学像に応じた電気信号を生成してカメラ信号処理部963に供給する。
カメラ信号処理部963は、撮像部962から供給された電気信号に対してニー補正やガンマ補正、色補正等の種々のカメラ信号処理を行う。カメラ信号処理部963は、カメラ信号処理後の画像データを画像データ処理部964に供給する。
画像データ処理部964は、カメラ信号処理部963から供給された画像データの符号化処理を行う。画像データ処理部964は、符号化処理を行うことにより生成された符号化データを外部インタフェース部966やメディアドライブ968に供給する。また、画像データ処理部964は、外部インタフェース部966やメディアドライブ968から供給された符号化データの復号化処理を行う。画像データ処理部964は、復号化処理を行うことにより生成された画像データを表示部965に供給する。また、画像データ処理部964は、カメラ信号処理部963から供給された画像データを表示部965に供給する処理や、OSD部969から取得した表示用データを、画像データに重畳させて表示部965に供給する。
OSD部969は、記号、文字、または図形からなるメニュー画面やアイコンなどの表示用データを生成して画像データ処理部964に出力する。
外部インタフェース部966は、例えば、USB入出力端子などで構成され、画像の印刷を行う場合に、プリンタと接続される。また、外部インタフェース部966には、必要に応じてドライブが接続され、磁気ディスク、光ディスク等のリムーバブルメディアが適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて、インストールされる。さらに、外部インタフェース部966は、LANやインターネット等の所定のネットワークに接続されるネットワークインタフェースを有する。制御部970は、例えば、ユーザインタフェース部971からの指示にしたがって、メモリ部967から符号化データを読み出し、それを外部インタフェース部966から、ネットワークを介して接続される他の装置に供給させることができる。また、制御部970は、ネットワークを介して他の装置から供給される符号化データや画像データを、外部インタフェース部966を介して取得し、それを画像データ処理部964に供給したりすることができる。
メディアドライブ968で駆動される記録メディアとしては、例えば、磁気ディスク、光磁気ディスク、光ディスク、または半導体メモリ等の、読み書き可能な任意のリムーバブルメディアが用いられる。また、記録メディアは、リムーバブルメディアとしての種類も任意であり、テープデバイスであってもよいし、ディスクであってもよいし、メモリカードであってもよい。もちろん、非接触ICカード等であってもよい。
また、メディアドライブ968と記録メディアを一体化し、例えば、内蔵型ハードディスクドライブやSSD(Solid State Drive)等のように、非可搬性の記憶媒体により構成されるようにしてもよい。
制御部970は、CPUやメモリ等を用いて構成されている。メモリは、CPUにより実行されるプログラムやCPUが処理を行う上で必要な各種のデータ等を記憶する。メモリに記憶されているプログラムは、撮像装置96の起動時などの所定のタイミングでCPUにより読み出されて実行される。CPUは、プログラムを実行することで、撮像装置96がユーザ操作に応じた動作となるように各部を制御する。
このように構成された撮像装置では、画像データ処理部964に本願の画像符号化装置(画像符号化方法)や画像復号化装置(画像復号化方法)の機能が設けられる。したがって、撮像画像をメモリ部967や記録メディア等に記録する際に、符号化効率や画質の改善をはかり撮像画像の記録再生を効率よく行うことができる。
さらに、本発明は、上述した発明の実施の形態に限定して解釈されるべきではない。この発明の実施の形態は、例示という形態で本発明を開示しており、本発明の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本発明の要旨を判断するためには、特許請求の範囲を参酌すべきである。
この発明の画像復号化装置と画像符号装置およびその方法とプログラムでは、画像の復号化において、復号化対象のブロックに対して、このブロックと復号化済みの隣接ブロックの動きベクトルを用いて予測動きベクトルの候補が設定される。また、符号化ストリームを可逆復号化して得られた予測動きベクトル選択情報で示された動きベクトルが候補から選択されて予測動きベクトルとされる。この予測動きベクトルと符号化ストリームを可逆復号化して得られた差分動きベクトルを加算して復号化対象のブロックの動きベクトルが算出される。また、画像の符号化では、符号化対象のブロックに対して予測動きベクトルの候補が設定されて、この候補から符号化効率が最良となる動きベクトルが予測動きベクトルとして選択される。また、予測動きベクトルと符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルと、候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化が行われる。このため、予測動きベクトルの候補から符号化効率が最良となる動きベクトルが選択されて用いられるので、動きベクトルの伝送に要する符号量の削減が可能となり、符号化効率を改善できる。また、動きベクトルの伝送に要する符号量の削減に伴い、量子化データのビットレートを高めることが可能となり画質の改善をはかることができる。したがって、MPEG、H.26x等のように、ブロック単位で符号化を行うことにより得られた画像情報(ビットストリーム)を、衛星放送、ケーブルTV、インターネット、携帯電話などのネットワークメディアを介して送受信する際に、若しくは光、磁気ディスク、フラッシュメモリのような記憶メディア上で処理する際に用いられる画像復号化装置や画像符号化装置等に適している。
10・・・画像符号化装置、11・・・A/D変換部、12,57・・・画面並べ替えバッファ、13,166・・・減算部、14・・・直交変換部、15・・・量子化部、16・・・可逆符号化部、17,51・・・蓄積バッファ、18・・・レート制御部、21,53・・・逆量子化部、22,54・・・逆直交変換部、23,55,526・・・加算部、24,56・・・デブロッキングフィルタ、25,61・・・フレームメモリ、26,62,65、946・・・セレクタ、31,63・・・イントラ予測部、32・・・動き予測・補償部、33・・・予測画像・最適モード選択部、50・・・画像復号化装置、52・・・可逆復号化部、58・・・D/A変換部、64・・・動き補償部、90・・・テレビジョン装置、92・・・携帯電話機、94・・・記録再生装置、96・・・撮像装置、161,523・・・動きベクトル記憶部、162,524・・・ケース分類部、165,165a,525,525a・・・動きベクトル選択部、167・・・第1符号化処理部、168・・・第2符号化処理部、521・・・第1復号化処理部、522・・・第2復号化処理部、901、921・・・アンテナ、902、941・・・チューナ、903・・・デマルチプレクサ、904,947・・・デコーダ、905・・・映像信号処理部、906・・・表示部、907・・・音声信号処理部、908・・・スピーカ、909、942、966・・・外部インタフェース部、910、931,949,970・・・制御部、911,932,971・・・ユーザインタフェース部、912,933,972・・・バス、922・・・通信部、923・・・音声コーデック、924・・・スピーカ、925・・・マイクロホン、926・・・カメラ部、927・・・画像処理部、928・・・多重分離部、929・・・記録再生部、930・・・表示部、943・・・エンコーダ、944・・・HDD部、945・・・ディスクドライブ、948、969・・・OSD部、961・・・光学ブロック、962・・・撮像部、963・・・カメラ信号処理部、964・・・画像データ処理部、965・・・表示部、967・・・メモリ部、968・・・メディアドライブ

Claims (19)

  1. 符号化ストリームを復号化して差分動きベクトルを得る第1復号化処理部と、
    前記符号化ストリームを復号化して予測動きベクトル選択情報を得る第2復号化処理部と、
    復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する動きベクトル選択部と、
    前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する加算部と
    を有する画像復号化装置。
  2. 前記動きベクトル選択部は、前記復号化対象のブロックに隣接する復号化済みの隣接ブロックの動きベクトルを用いて前記予測動きベクトルの候補を設定する請求項1記載の画像復号化装置。
  3. 前記第2復号化処理部は、前記符号化ストリームを復号化して前記復号化対象のブロックのサイズを取得し、
    前記動きベクトル選択部は、前記復号化対象のブロックのサイズに応じてケース分けを行い、ケースごとに前記予測動きベクトルの候補を設定する請求項2記載の画像復号化装置。
  4. 前記動きベクトル選択部は、前記復号化対象のブロックのサイズが大きいとき、ブロックサイズが小さい場合に比べて予測動きベクトルの候補を多くする請求項3記載の画像復号化装置。
  5. 前記隣接ブロックの動きベクトルの相違に応じてケース分けを行うケース分類部をさらに有し、
    前記動きベクトル選択部は、前記ケース分類部で判別されたケースごとに前記予測動きベクトルの候補を設定する請求項2記載の画像復号化装置。
  6. 前記動きベクトル選択部は、予め設定されている閾値を超える相違を生じた動きベクトルのそれぞれを前記予測動きベクトルの候補とする請求項5記載の画像復号化装置。
  7. 符号化ストリームを復号化して差分動きベクトルを得る工程と、
    前記符号化ストリームを復号化して予測動きベクトル選択情報を得る工程と、
    復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する工程と、
    前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する工程と
    を設けた画像復号化方法。
  8. 画像復号化をコンピュータで実行させるプログラムであって、
    符号化ストリームを復号化して差分動きベクトルを得る手順と、
    前記符号化ストリームを復号化して予測動きベクトル選択情報を得る手順と、
    復号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から前記予測動きベクトル選択情報で示された動きベクトルを予測動きベクトルとして選択する手順と、
    前記差分動きベクトルと前記予測動きベクトルを加算して前記復号化対象のブロックの動きベクトルを算出する手順と
    を前記コンピュータで実行させるプログラム。
  9. 符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する動きベクトル選択部と、
    前記動きベクトル選択部で選択された前記予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う第1符号化処理部と、
    前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う第2符号化処理部と
    を有する画像符号化装置。
  10. 前記動きベクトル選択部は、前記符号化対象のブロックに隣接する符号化済みの隣接ブロックの動きベクトルを用いて前記予測動きベクトルの候補を設定する請求項9記載の画像符号化装置。
  11. 前記動きベクトル選択部は、前記符号化対象のブロックのサイズに応じてケース分けを行い、ケースごとに前記予測動きベクトルの候補を設定する請求項10記載の画像符号化装置。
  12. 前記動きベクトル選択部は、前記符号化対象のブロックのサイズが大きいとき、ブロックサイズが小さい場合に比べて予測動きベクトルの候補を多くする請求項11記載の画像符号化装置。
  13. 前記動きベクトル選択部は、前記隣接ブロックの動きベクトルを選択的に複数用いて前記予測動きベクトルの候補とし、該候補とする動きベクトルの選択では、隣接ブロックの中で互いに離れているブロックの動きベクトルを選択する請求項12記載の画像符号化装置。
  14. 前記隣接ブロックの動きベクトルの相違に応じてケース分けを行うケース分類部をさらに有し、
    前記動きベクトル選択部は、前記ケース分類部で判別されたケースごとに前記予測動きベクトルの候補を設定する請求項10記載の画像符号化装置。
  15. 前記動きベクトル選択部は、予め設定されている閾値を超える相違を生じた動きベクトルのそれぞれを前記予測動きベクトルの候補とする請求項14記載の画像符号化装置。
  16. 前記第2符号化処理部は、前記予測動きベクトルの候補が複数であるとき、該候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う請求項9記載の画像符号化装置。
  17. 前記予測動きベクトルの候補ごとに発生確率を予め求めておき、
    前記第2符号化処理部は、発生確率の高い動きベクトルを示す予測動きベクトル選択情報は、発生確率の低い動きベクトルを示す予測動きベクトル選択情報に比べて割り当てる符号量を少なくする請求項9記載の画像符号化装置。
  18. 符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する工程と、
    前記選択された予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う工程と、
    前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う工程と
    を設けた画像符号化方法。
  19. 画像符号化をコンピュータで実行させるプログラムであって、
    符号化対象のブロックに対して予測動きベクトルの候補を設定して、該候補から符号化効率が最良となる動きベクトルを予測動きベクトルとして選択する手順と、
    前記選択された予測動きベクトルと前記符号化対象のブロックの動きベクトルとの差分を示す差分動きベクトルの符号化を行う手順と、
    前記予測動きベクトルの候補からいずれの動きベクトルが選択されたかを示す予測動きベクトル選択情報の符号化を行う手順と
    を前記コンピュータで実行させるプログラム。
JP2010131890A 2010-06-09 2010-06-09 画像復号化装置と画像符号装置およびその方法とプログラム Withdrawn JP2011259204A (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2010131890A JP2011259204A (ja) 2010-06-09 2010-06-09 画像復号化装置と画像符号装置およびその方法とプログラム
KR1020127030574A KR20130118727A (ko) 2010-06-09 2011-05-31 화상 복호화 장치와 화상 부호화 장치 및 그 방법과 프로그램
PCT/JP2011/062453 WO2011155364A1 (ja) 2010-06-09 2011-05-31 画像復号化装置と画像符号化装置およびその方法とプログラム
RU2012151529/08A RU2012151529A (ru) 2010-06-09 2011-05-31 Устройство декодирования изображения, устройство кодирования изображения, способ для них и программа
US13/701,383 US20130070857A1 (en) 2010-06-09 2011-05-31 Image decoding device, image encoding device and method thereof, and program
CN2011800272161A CN102939758A (zh) 2010-06-09 2011-05-31 图像解码装置、图像编码装置及其方法和程序
EP11792321.9A EP2582138A1 (en) 2010-06-09 2011-05-31 Image decoder apparatus, image encoder apparatus and method and program thereof
TW100119442A TW201215159A (en) 2010-06-09 2011-06-02 Image decoding device, image encoding device, and method and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010131890A JP2011259204A (ja) 2010-06-09 2010-06-09 画像復号化装置と画像符号装置およびその方法とプログラム

Publications (1)

Publication Number Publication Date
JP2011259204A true JP2011259204A (ja) 2011-12-22

Family

ID=45097972

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010131890A Withdrawn JP2011259204A (ja) 2010-06-09 2010-06-09 画像復号化装置と画像符号装置およびその方法とプログラム

Country Status (8)

Country Link
US (1) US20130070857A1 (ja)
EP (1) EP2582138A1 (ja)
JP (1) JP2011259204A (ja)
KR (1) KR20130118727A (ja)
CN (1) CN102939758A (ja)
RU (1) RU2012151529A (ja)
TW (1) TW201215159A (ja)
WO (1) WO2011155364A1 (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012056924A1 (ja) * 2010-10-25 2012-05-03 ソニー株式会社 画像処理装置と画像処理方法
JP2013009302A (ja) * 2011-03-08 2013-01-10 Jvc Kenwood Corp 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
JP2013009303A (ja) * 2011-03-08 2013-01-10 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム
JP2013207402A (ja) * 2012-03-27 2013-10-07 Nippon Hoso Kyokai <Nhk> 画像符号化装置及びプログラム
US9204147B2 (en) 2011-03-08 2015-12-01 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
JP2022547674A (ja) * 2019-11-13 2022-11-15 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 ビデオ復号または符号化方法および装置、コンピュータプログラム、ならびに電子機器

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6056122B2 (ja) * 2011-01-24 2017-01-11 ソニー株式会社 画像符号化装置と画像復号装置およびその方法とプログラム
WO2012120870A1 (ja) * 2011-03-08 2012-09-13 株式会社Jvcケンウッド 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム、並びに動画像復号装置、動画像復号方法及び動画像復号プログラム
EP3879832A1 (en) * 2011-05-31 2021-09-15 JVCKENWOOD Corporation Moving image encoding device, moving image encoding method and moving image encoding program, as well as moving image decoding device, moving image decoding method and moving image decoding program
US9300975B2 (en) * 2011-09-11 2016-03-29 Texas Instruments Incorporated Concurrent access shared buffer in a video encoder
US20150271491A1 (en) * 2014-03-24 2015-09-24 Ati Technologies Ulc Enhanced intra prediction mode selection for use in video transcoding
US9894382B2 (en) * 2014-07-18 2018-02-13 Mediatek Inc. Method and apparatus for assigning motion vector predictor to sub-block without performing associated iteration of sub-block motion vector predictor determination flow
US20160029022A1 (en) * 2014-07-25 2016-01-28 Mediatek Inc. Video processing apparatus with adaptive coding unit splitting/merging and related video processing method
GB2531003A (en) 2014-10-06 2016-04-13 Canon Kk Method and apparatus for vector encoding in video coding and decoding
WO2017107072A1 (en) 2015-12-22 2017-06-29 Realnetworks, Inc. Motion vector selection and prediction in video coding systems and methods
US20210266566A1 (en) * 2018-08-17 2021-08-26 Mediatek Inc. Method and Apparatus of Simplified Merge Candidate List for Video Coding
CN117956139A (zh) 2018-08-17 2024-04-30 寰发股份有限公司 视频编解码的帧间预测方法及装置
US11095915B2 (en) * 2019-01-31 2021-08-17 Qualcomm Incorporated Shared motion vector predictor list for intra block copy mode in video coding
CN113225555B (zh) * 2021-03-22 2023-02-07 北京大学 一种视频编解码中的几何划分模式预测方法及装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2725577B1 (fr) * 1994-10-10 1996-11-29 Thomson Consumer Electronics Procede de codage ou de decodage de vecteurs mouvement et dispositif de codage ou de decodage mettant en oeuvre ledit procede
EP0731614B1 (en) * 1995-03-10 2002-02-06 Kabushiki Kaisha Toshiba Video coding/decoding apparatus
JP3888597B2 (ja) * 1998-06-24 2007-03-07 日本ビクター株式会社 動き補償符号化装置、及び動き補償符号化復号化方法
US6785859B2 (en) * 2000-08-04 2004-08-31 Texas Instruments Incorporated Interleaver for variable block size
US8005145B2 (en) * 2000-08-11 2011-08-23 Nokia Corporation Method and apparatus for transferring video frame in telecommunication system
CN101039427B (zh) * 2002-07-15 2010-06-16 株式会社日立制作所 动态图像的解码方法
JP2004007778A (ja) * 2003-07-14 2004-01-08 Victor Co Of Japan Ltd 動き補償復号化方法
JP2006025033A (ja) 2004-07-06 2006-01-26 Sony Corp 画像処理装置および画像処理方法
TWI268715B (en) * 2004-08-16 2006-12-11 Nippon Telegraph & Telephone Picture encoding method, picture decoding method, picture encoding apparatus, and picture decoding apparatus
CN101222641B (zh) * 2007-01-11 2011-08-24 华为技术有限公司 帧内预测编解码方法及其装置
US20100118945A1 (en) * 2007-03-29 2010-05-13 Kabushiki Kaisha Toshiba Method and apparatus for video encoding and decoding
JP5524063B2 (ja) * 2007-09-28 2014-06-18 ドルビー ラボラトリーズ ライセンシング コーポレイション ビデオ情報処理
KR102139535B1 (ko) * 2007-10-16 2020-07-30 엘지전자 주식회사 비디오 신호 처리 방법 및 장치
JP2009100424A (ja) * 2007-10-19 2009-05-07 Fujitsu Ltd 受信装置、受信方法
JP5194833B2 (ja) * 2008-01-23 2013-05-08 ソニー株式会社 符号化装置および方法、記録媒体、並びにプログラム
JP2010016454A (ja) * 2008-07-01 2010-01-21 Sony Corp 画像符号化装置および方法、画像復号装置および方法、並びにプログラム
JP5401071B2 (ja) * 2008-10-09 2014-01-29 株式会社Nttドコモ 動画像符号化装置、動画像復号装置、動画像符号化方法、動画像復号方法、動画像符号化プログラム、動画像復号プログラム、動画像処理システムおよび動画像処理方法
US8611415B1 (en) * 2010-11-15 2013-12-17 Google Inc. System and method for coding using improved motion estimation

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012056924A1 (ja) * 2010-10-25 2012-05-03 ソニー株式会社 画像処理装置と画像処理方法
JP2015213363A (ja) * 2011-03-08 2015-11-26 株式会社Jvcケンウッド 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
US9800890B2 (en) 2011-03-08 2017-10-24 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
JP2015213365A (ja) * 2011-03-08 2015-11-26 株式会社Jvcケンウッド 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム、並びに、送信装置、送信方法、及び送信プログラム
JP2013258741A (ja) * 2011-03-08 2013-12-26 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2014003638A (ja) * 2011-03-08 2014-01-09 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2014003639A (ja) * 2011-03-08 2014-01-09 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2014003640A (ja) * 2011-03-08 2014-01-09 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2015213364A (ja) * 2011-03-08 2015-11-26 株式会社Jvcケンウッド 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
JP2013009302A (ja) * 2011-03-08 2013-01-10 Jvc Kenwood Corp 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム
JP2013009303A (ja) * 2011-03-08 2013-01-10 Jvc Kenwood Corp 動画像復号装置、動画像復号方法及び動画像復号プログラム
JP2015109682A (ja) * 2011-03-08 2015-06-11 株式会社Jvcケンウッド 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法及び受信プログラム
US9204147B2 (en) 2011-03-08 2015-12-01 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
JP2015233294A (ja) * 2011-03-08 2015-12-24 株式会社Jvcケンウッド 動画像符号化装置、動画像符号化方法及び動画像符号化プログラム、並びに、送信装置、送信方法、及び送信プログラム
JP2016059068A (ja) * 2011-03-08 2016-04-21 株式会社Jvcケンウッド 動画像復号装置、動画像復号方法及び動画像復号プログラム、並びに、受信装置、受信方法、及び受信プログラム
US9516318B2 (en) 2011-03-08 2016-12-06 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
US9667973B2 (en) 2011-03-08 2017-05-30 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
US9781444B2 (en) 2011-03-08 2017-10-03 JVC Kenwood Corporation Moving picture encoding device, moving picture encoding method and moving picture encoding program as well as moving picture decoding device, moving picture decoding method and moving picture decoding program
JP2013207402A (ja) * 2012-03-27 2013-10-07 Nippon Hoso Kyokai <Nhk> 画像符号化装置及びプログラム
JP7345638B2 (ja) 2019-11-13 2023-09-15 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 ビデオ復号または符号化方法および装置、コンピュータプログラム、ならびに電子機器
JP2022547674A (ja) * 2019-11-13 2022-11-15 ▲騰▼▲訊▼科技(深▲セン▼)有限公司 ビデオ復号または符号化方法および装置、コンピュータプログラム、ならびに電子機器

Also Published As

Publication number Publication date
WO2011155364A1 (ja) 2011-12-15
KR20130118727A (ko) 2013-10-30
US20130070857A1 (en) 2013-03-21
EP2582138A1 (en) 2013-04-17
RU2012151529A (ru) 2014-07-20
TW201215159A (en) 2012-04-01
CN102939758A (zh) 2013-02-20

Similar Documents

Publication Publication Date Title
WO2011155364A1 (ja) 画像復号化装置と画像符号化装置およびその方法とプログラム
JP6477939B2 (ja) テレビジョン装置、携帯電話機、再生装置、カメラ、および画像処理方法
JP6056122B2 (ja) 画像符号化装置と画像復号装置およびその方法とプログラム
TWI508534B (zh) Image processing apparatus and image processing method
WO2012017858A1 (ja) 画像処理装置と画像処理方法
WO2012063878A1 (ja) 画像処理装置と画像処理方法
WO2010035734A1 (ja) 画像処理装置および方法
WO2012063604A1 (ja) 画像処理装置と画像処理方法
WO2011155332A1 (ja) 画像復号化装置と画像符号化装置およびその方法とプログラム
US20120288004A1 (en) Image processing apparatus and image processing method
WO2011155331A1 (ja) 画像復号化装置と画像符号化装置およびその方法とプログラム
JP2013150164A (ja) 符号化装置および符号化方法、並びに、復号装置および復号方法
WO2012056924A1 (ja) 画像処理装置と画像処理方法
JPWO2010035735A1 (ja) 画像処理装置および方法
JP5387520B2 (ja) 情報処理装置と情報処理方法
JP2018191334A (ja) 画像符号化装置と画像符号化方法およびプログラム
WO2012077533A1 (ja) 画像復号化装置と動きベクトル復号化方法、画像符号化装置と動きベクトル符号化方法

Legal Events

Date Code Title Description
A300 Application deemed to be withdrawn because no request for examination was validly filed

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20130903