JP2013012905A - 画像処理装置および方法 - Google Patents

画像処理装置および方法 Download PDF

Info

Publication number
JP2013012905A
JP2013012905A JP2011144298A JP2011144298A JP2013012905A JP 2013012905 A JP2013012905 A JP 2013012905A JP 2011144298 A JP2011144298 A JP 2011144298A JP 2011144298 A JP2011144298 A JP 2011144298A JP 2013012905 A JP2013012905 A JP 2013012905A
Authority
JP
Japan
Prior art keywords
motion vector
unit
prediction
region
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Abandoned
Application number
JP2011144298A
Other languages
English (en)
Inventor
Kazufumi Sato
数史 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2011144298A priority Critical patent/JP2013012905A/ja
Priority to PCT/JP2012/065817 priority patent/WO2013002108A1/ja
Priority to EP12805074.7A priority patent/EP2728880A1/en
Priority to US14/118,286 priority patent/US9445091B2/en
Priority to CN201280030530.XA priority patent/CN103636219A/zh
Publication of JP2013012905A publication Critical patent/JP2013012905A/ja
Priority to US15/203,345 priority patent/US10129562B2/en
Abandoned legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/517—Processing of motion vectors by encoding
    • H04N19/52—Processing of motion vectors by encoding by predictive encoding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44—Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/527—Global motion vector estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/513—Processing of motion vectors
    • H04N19/521—Processing of motion vectors for estimating the reliability of the determined motion vectors or motion vector field, e.g. for smoothing the motion vector field or for correcting motion vectors
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
    • H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
    • H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors

Abstract

【課題】画像の符号化・復号の処理の負荷の増大を抑制することができるようにする。
【解決手段】動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御する時間予測制御部と、前記時間予測制御部の制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する動きベクトル符号化部とを備える。本開示は画像処理装置に適用することができる。
【選択図】図１

Description

本開示は、画像処理装置および方法に関し、特に、画像の符号化・復号をより容易に行うことができるようにした画像処理装置および方法に関する。
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮するMPEG（Moving Picture Experts Group）などの方式に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及した。
特に、MPEG2（ISO（International Organization for Standardization）/IEC（International Electrotechnical Commission） 13818-2）は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば７２０×４８０画素を持つ標準解像度の飛び越し走査画像であれば４〜８Ｍｂｐｓ、１９２０×１０８８画素を持つ高解像度の飛び越し走査画像であれば１８〜２２Ｍｂｐｓの符号量（ビットレート）を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量（ビットレート）、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、１９９８年１２月にISO/IEC 14496-2としてその規格が国際標準に承認された。
更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L （ITU-T（International Telecommunication Union Telecommunication Standardization Sector） Q6/16 VCEG（Video Coding Expert Group））という標準の規格化が進んでいる。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。
標準化のスケジュールとしては、２００３年３月にはH.264及びMPEG-4 Part10 （Advanced Video Coding、以下AVCと記す）という名の元に国際標準となった。
しかしながら、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；4000画素×2000画素）といった大きな画枠に対しては、最適ではない恐れがあった。
そこで、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IECの共同の標準化団体であるJCTVC（Joint Collaboration Team - Video Coding）により、HEVC（High Efficiency Video Coding）と呼ばれる符号化方式の標準化が進められている（例えば、非特許文献１参照）。
このHEVC符号化方式においては、AVCにおけるマクロブロックと同様の処理単位としてコーディングユニット（CU（Coding Unit））が定義されている。このCUは、AVCのマクロブロックのようにサイズが16×16画素に固定されず、それぞれのシーケンスにおいて、画像圧縮情報中において指定される。
ところで、AVCにおいて定義されているメディアン予測を用いた動きベクトルの符号化を改善するため、”Spatial Predictor”だけでなく、”Temporal Predictor”及び”Spatio-Temporal Predictor”も予測動きベクトルの候補にすることができるようにする方法が考えられた（例えば、非特許文献２参照）。
また、動き情報の符号化方式の１つとして、Merge_FlagとMerge_Left_Flagが伝送される、Motion Partition Mergingと呼ばれる手法が提案されている（例えば、非特許文献３参照）。
Thomas Wiegand, Woo-Jin Han, Benjamin Bross, Jens-Rainer Ohm, Gary J. Sullivan, "Working Draft 1 of High-Efficiency Video Coding ", JCTVC-C403, Joint Collaborative Team on Video Coding (JCT-VC)of ITU-T SG16 WP3 and ISO/IEC JTC1/SC29/WG113rd Meeting: Guangzhou, CN, 7-15 October, 2010 Joel Jung,Guillaume Laroche,"Competition-Based Scheme for Motion Vector Selection and Coding", VCEG-AC06,ITU - Telecommunications Standardization SectorSTUDY GROUP 16 Question 6Video Coding Experts Group (VCEG)29th Meeting: Klagenfurt, Austria, 17-18 July, 2006 Martin Winken, Sebastian Bosse, Benjamin Bross, Philipp Helle, Tobias Hinz, Heiner Kirchhoffer, Haricharan Lakshman, Detlev Marpe, Simon Oudin, Matthias Preiss, Heiko Schwarz, Mischa Siekmann, Karsten Suehring, and Thomas Wiegand，"Description of video coding technology proposed by Fraunhofer HHI"，JCTVC-A116,April,2010
しかしながら、temporal predictorが、特に画枠が大きくて、小さなPUが頻発する場合、メモリへのアクセス量が増大し、より多くのメモリバンド幅が必要になる恐れがあった。
本開示は、このような状況に鑑みてなされたものであり、画像の符号化・復号に関する処理の負荷の増大を抑制することを目的とする。
本開示の一側面は、動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御する時間予測制御部と、前記時間予測制御部の制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する動きベクトル符号化部とを備える画像処理装置である。
前記時間予測制御部は、前記注目領域の大きさに応じて前記時間予測を行うか否かを制御することができる。
前記時間予測制御部は、前記注目領域の大きさが所定の閾値以下の場合、前記時間予測を行わないように制御することができる。
前記閾値を設定する閾値設定部をさらに備え、前記時間予測制御部は、前記注目領域の大きさが、前記閾値設定部により設定された前記閾値以下の場合、前記時間予測を行わないように制御することができる。
前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定することができる。
前記閾値を伝送する伝送部をさらに備えることができる。
前記時間予測制御部は、前記注目領域の動きベクトルの予測値として、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルが適用された回数によって、前記時間予測を行うか否かを制御することができる。
前記時間予測制御部は、所定のデータ単位当たりの前記回数が所定の閾値に達した場合、前記時間予測を行わないように制御することができる。
前記閾値を設定する閾値設定部をさらに備え、前記時間予測制御部は、所定のデータ単位当たりの前記回数が、前記閾値設定部により設定された前記閾値に達した場合、前記時間予測を行わないように制御することができる。
前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定することができる。
前記閾値設定部は、前記所定のデータ単位の大きさに応じて前記閾値を設定することができる。
前記所定のデータ単位は、LCU（Largest Coding Unit）であるようにすることができる。
前記閾値は、予測方向毎に設けられ、前記時間予測制御部は、複数の予測方向の内、少なくともいずれか１つの予測方向において、所定のデータ単位当たりの前記回数が、前記予測方向用の閾値に達した場合、前記時間予測を行わないように制御することができる。
前記閾値を伝送する伝送部をさらに備えることができる。
前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であるか否かを判定する判定部と、前記時間予測制御部が前記時間予測を行うように制御するか否かに関わらず、前記判定部により前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であると判定された場合、ゼロベクトルを前記注目領域の動きベクトルの予測値に設定する設定部とをさらに備えることができる。
前記動きベクトル符号化部は、前記空間予測のみを行って前記注目領域の動きベクトルを予測する場合、前記時間予測を除外した、前記予測値の種類を示すコードナンバの割当表を用いて前記予測値にコードナンバを割り当てることができる。
前記コードナンバの割当表を伝送する伝送部をさらに備えることができる。
前記動きベクトル符号化部は、前記時間予測制御部により許可された場合、前記時間予測を行い、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルを生成する時間予測部と、前記空間予測を行い、前記空間予測により予測された前記注目領域の動きベクトルである空間予測動きベクトルを生成する空間予測部と、前記時間予測部により生成された前記時間予測動きベクトルと、前記空間予測部により生成された前記空間予測動きベクトルとの内、前記注目領域の動きベクトルにより近い方を、前記注目領域の動きベクトルの予測値とする予測動きベクトル生成部と、前記注目領域の動きベクトルと、前記予測動きベクトル生成部により生成された前記予測値との差分値を算出する差分値算出部とを備えることができる。
前記差分値算出部により算出された前記差分値を伝送する伝送部をさらに備えることができる。
本開示の一側面は、また、画像処理装置の画像処理方法であって、前記時間予測制御部が、動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御し、前記動きベクトル符号化部が、その制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する画像処理方法である。
本開示の一側面においては、動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて動きベクトルを予測する時間予測を行うか否かが制御され、その制御に従って、注目領域の空間方向の周辺領域の動きベクトルを用いて動きベクトルを予測する空間予測のみが行われ、若しくは、空間予測および時間予測の両方が行われて、注目領域の動きベクトルが予測され、その予測値を用いて注目領域の動きベクトルが符号化される。
本開示によれば、画像を処理することができる。特に、画像の符号化・復号に関する処理の負荷の増大を抑制することができる。
画像符号化装置の主な構成例を示すブロック図である。 コーディングユニットの構成例を説明する図である。 Motion Partition Mergingの様子の例を説明する図である。 動き予測・補償部、時間予測制御部、および動きベクトル符号化部の主な構成例を示すブロック図である。 符号化処理の流れの例を説明するフローチャートである。 インター動き予測処理の流れの例を説明するフローチャートである。 時間予測を用いた動きベクトル符号化処理の流れの例を説明するフローチャートである。 時間予測を用いない動きベクトル符号化処理の流れの例を説明するフローチャートである。 動き予測・補償部、時間予測制御部、および動きベクトル符号化部の他の構成例を示すブロック図である。 インター動き予測処理の流れの、他の例を説明するフローチャートである。 時間予測を用いた動きベクトル符号化処理の流れの、他の例を説明するフローチャートである。 画像復号装置の主な構成例を示すブロック図である。 動き予測・補償部、動きベクトル復号部、および予測動きベクトル確認部の主な構成例を示すブロック図である。 復号処理の流れの例を説明するフローチャートである。 予測処理の流れの例を説明するフローチャートである。 インター動き予測処理の流れの例を説明するフローチャートである。 パーソナルコンピュータの主な構成例を示すブロック図である。 テレビジョン装置の概略的な構成の一例を示すブロック図である。 携帯電話機の概略的な構成の一例を示すブロック図である。 記録再生装置の概略的な構成の一例を示すブロック図である。 撮像装置の概略的な構成の一例を示すブロック図である。
以下、本開示を実施するための形態（以下実施の形態とする）について説明する。なお、説明は以下の順序で行う。
１．第１の実施の形態（領域サイズによる時間予測制限）
２．第２の実施の形態（時間予測動きベクトル数による時間予測制限）
３．第３の実施の形態（空間周辺動きベクトルの利用可否による制御）
４．第４の実施の形態（予測動きベクトル確認）
５．第５の実施の形態（コンピュータ）
６．第６の実施の形態（テレビジョン受像機）
７．第７の実施の形態（携帯電話機）
８．第８の実施の形態（記録再生装置）
９．第９の実施の形態（撮像装置）
＜１．第１の実施の形態＞
［画像符号化装置］
図１は、画像処理装置である画像符号化装置の主な構成例を示すブロック図である。
図１に示される画像符号化装置１００は、例えばH．264及びMPEG（Moving Picture Experts Group）4 Part10（AVC（Advanced Video Coding））符号化方式のように、予測処理を用いて画像データを符号化する。
図１に示されるように画像符号化装置１００は、A/D変換部１０１、画面並べ替えバッファ１０２、演算部１０３、直交変換部１０４、量子化部１０５、可逆符号化部１０６、および蓄積バッファ１０７を有する。また、画像符号化装置１００は、逆量子化部１０８、逆直交変換部１０９、演算部１１０、ループフィルタ１１１、フレームメモリ１１２、選択部１１３、イントラ予測部１１４、動き予測・補償部１１５、予測画像選択部１１６、およびレート制御部１１７を有する。
画像符号化装置１００は、さらに、時間予測制御部１２１および動きベクトル符号化部１２２を有する。
A/D変換部１０１は、入力された画像データをA/D変換し、変換後の画像データ（デジタルデータ）を、画面並べ替えバッファ１０２に供給し、記憶させる。画面並べ替えバッファ１０２は、記憶した表示の順番のフレームの画像を、GOP（Group Of Picture）に応じて、符号化のためのフレームの順番に並べ替え、フレームの順番を並び替えた画像を、演算部１０３に供給する。また、画面並べ替えバッファ１０２は、フレームの順番を並び替えた画像を、イントラ予測部１１４および動き予測・補償部１１５にも供給する。
演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を減算し、その差分情報を直交変換部１０４に出力する。
例えば、イントラ符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、イントラ予測部１１４から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部１０３は、画面並べ替えバッファ１０２から読み出された画像から、動き予測・補償部１１５から供給される予測画像を減算する。
直交変換部１０４は、演算部１０３から供給される差分情報に対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。なお、この直交変換の方法は任意である。直交変換部１０４は、その変換係数を量子化部１０５に供給する。
量子化部１０５は、直交変換部１０４から供給される変換係数を量子化する。量子化部１０５は、レート制御部１１７から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。なお、この量子化の方法は任意である。量子化部１０５は、量子化された変換係数を可逆符号化部１０６に供給する。
可逆符号化部１０６は、量子化部１０５において量子化された変換係数を、任意の符号化方式で符号化する。係数データは、レート制御部１１７の制御の下で量子化されているので、この符号量は、レート制御部１１７が設定した目標値となる（若しくは目標値に近似する）。
また、可逆符号化部１０６は、イントラ予測のモードを示す情報等を含むイントラ予測情報をイントラ予測部１１４から取得し、インター予測のモードを示す情報や動きベクトル情報などを含むインター予測情報を動き予測・補償部１１５から取得する。さらに、可逆符号化部１０６は、ループフィルタ１１１において使用されたフィルタ係数等を取得する。
可逆符号化部１０６は、これらの各種情報を任意の符号化方式で符号化し、符号化データのヘッダ情報の一部とする（多重化する）。可逆符号化部１０６は、符号化して得られた符号化データを蓄積バッファ１０７に供給して蓄積させる。
可逆符号化部１０６の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H．264/AVC方式で定められているCAVLC（Context-Adaptive Variable Length Coding）などが挙げられる。算術符号化としては、例えば、CABAC（Context-Adaptive Binary Arithmetic Coding）などが挙げられる。
蓄積バッファ１０７は、可逆符号化部１０６から供給された符号化データを、一時的に保持する。蓄積バッファ１０７は、所定のタイミングにおいて、保持している符号化データを、ビットストリームとして、例えば、後段の図示せぬ記録装置（記録媒体）や伝送路などに出力する。つまり、符号化された各種情報が復号側に供給される。
また、量子化部１０５において量子化された変換係数は、逆量子化部１０８にも供給される。逆量子化部１０８は、その量子化された変換係数を、量子化部１０５による量子化に対応する方法で逆量子化する。この逆量子化の方法は、量子化部１０５による量子化処理に対応する方法であればどのような方法であってもよい。逆量子化部１０８は、得られた変換係数を、逆直交変換部１０９に供給する。
逆直交変換部１０９は、逆量子化部１０８から供給された変換係数を、直交変換部１０４による直交変換処理に対応する方法で逆直交変換する。この逆直交変換の方法は、直交変換部１０４による直交変換処理に対応する方法であればどのようなものであってもよい。逆直交変換された出力（局所的に復元された差分情報）は、演算部１１０に供給される。
演算部１１０は、逆直交変換部１０９から供給された逆直交変換結果、すなわち、局所的に復元された差分情報に、予測画像選択部１１６を介してイントラ予測部１１４若しくは動き予測・補償部１１５から供給される予測画像を加算し、局所的に再構成された画像（以下、再構成画像と称する）を得る。その再構成画像は、ループフィルタ１１１またはフレームメモリ１１２に供給される。
ループフィルタ１１１は、デブロックフィルタや適応ループフィルタ等を含み、演算部１１０から供給される復号画像に対して適宜フィルタ処理を行う。例えば、ループフィルタ１１１は、復号画像に対してデブロックフィルタ処理を行うことにより復号画像のブロック歪を除去する。また、例えば、ループフィルタ１１１は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた復号画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
なお、ループフィルタ１１１が、復号画像に対して任意のフィルタ処理を行うようにしてもよい。また、ループフィルタ１１１は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部１０６に供給し、それを符号化させるようにすることもできる。
ループフィルタ１１１は、フィルタ処理結果（以下、復号画像と称する）をフレームメモリ１１２に供給する。
フレームメモリ１１２は、演算部１１０から供給される再構成画像と、ループフィルタ１１１から供給される復号画像とをそれぞれ記憶する。フレームメモリ１１２は、所定のタイミングにおいて、若しくは、イントラ予測部１１４等の外部からの要求に基づいて、記憶している再構成画像を、選択部１１３を介して、イントラ予測部１１４に供給する。また、フレームメモリ１１２は、所定のタイミングにおいて、若しくは、動き予測・補償部１１５等の外部からの要求に基づいて、記憶している復号画像を、選択部１１３を介して、動き予測・補償部１１５に供給する。
選択部１１３は、フレームメモリ１１２から出力される画像の供給先を示す。例えば、イントラ予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理されていない画像（再構成画像）を読み出し、周辺画素として、イントラ予測部１１４に供給する。
また、例えば、インター予測の場合、選択部１１３は、フレームメモリ１１２からフィルタ処理された画像（復号画像）を読み出し、参照画像として、それを動き予測・補償部１１５に供給する。
イントラ予測部１１４は、フレームメモリ１１２から、処理対象領域の周辺に位置する周辺領域の画像（周辺画像）を取得すると、その周辺画像の画素値を用いて、基本的にプレディクションユニット（PU）を処理単位として予測画像を生成するイントラ予測（画面内予測）を行う。イントラ予測部１１４は、予め用意された複数のモード（イントラ予測モード）でこのイントラ予測を行う。
イントラ予測部１１４は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ１０２から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部１１４は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
また、イントラ予測部１１４は、最適なイントラ予測モード等、イントラ予測に関する情報を含むイントラ予測情報を、適宜可逆符号化部１０６に供給し、符号化させる。
動き予測・補償部１１５は、画面並べ替えバッファ１０２から供給される入力画像と、フレームメモリ１１２から供給される参照画像とを用いて、基本的にPUを処理単位として、動き予測（インター予測）を行い、検出された動きベクトルに応じて動き補償処理を行い、予測画像（インター予測画像情報）を生成する。動き予測・補償部１１５は、予め用意された複数のモード（インター予測モード）でこのようなインター予測（画面間予測）を行う。
動き予測・補償部１１５は、候補となる全てのインター予測モードで予測画像を生成し、各予測画像のコスト関数値を評価し、最適なモードを選択する。動き予測・補償部１１５は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部１１６に供給する。
また、動き予測・補償部１１５は、最適なインター予測モード等、インター予測に関する情報を含むインター予測情報を可逆符号化部１０６に供給し、符号化させる。
予測画像選択部１１６は、演算部１０３や演算部１１０に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、予測画像選択部１１６は、予測画像の供給元としてイントラ予測部１１４を選択し、そのイントラ予測部１１４から供給される予測画像を演算部１０３や演算部１１０に供給する。また、例えば、インター符号化の場合、予測画像選択部１１６は、予測画像の供給元として動き予測・補償部１１５を選択し、その動き予測・補償部１１５から供給される予測画像を演算部１０３や演算部１１０に供給する。
レート制御部１１７は、蓄積バッファ１０７に蓄積された符号化データの符号量に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
時間予測制御部１２１は、処理対象である注目領域の動きベクトルの予測値である予測動きベクトルを時間方向の周辺領域の動きベクトルを利用して生成する時間予測に関する制御処理を行う。より具体的には、時間予測制御部１２１は、予測動きベクトルの生成において、時間予測を行うか否かを制御する。
動きベクトル符号化部１２２は、注目領域の予測動きベクトルを生成し、動き予測・補償部１１５において動き探索されて得られた注目領域の動きベクトルと、その予測動きベクトルとの差分動きベクトルを生成する。その際、動きベクトル符号化部１２２は、予測動きベクトルの生成の際に、時間予測を、時間予測制御部１２１の制御に従って適宜行う。
［コーディングユニット］
ところで、マクロブロックサイズを１６画素×１６画素とするのは、次世代符号化方式の対象となるような、UHD（Ultra High Definition；４０００画素×２０００画素）といった大きな画枠に対しては、最適ではない。
AVCにおいては、マクロブロックとサブマクロブロックによる階層構造が規定されているが、例えば、HEVC（High Efficiency Video Coding）においては、図２に示されるように、コーディングユニット（CU（Coding Unit））が規定されている。
CUは、Coding Tree Block（CTB）とも呼ばれ、AVCにおけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、１６×１６画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。
例えば、出力となる符号化データに含まれるシーケンスパラメータセット（SPS（Sequence Parameter Set））において、CUの最大サイズ（LCU（Largest Coding Unit））と最小サイズ（（SCU（Smallest Coding Unit））が規定される。
それぞれのLCU内においては、SCUのサイズを下回らない範囲で、split-flag=1とすることにより、より小さなサイズのCUに分割することができる。図２の例では、LCUの大きさが１２８であり、最大階層深度が５となる。２Ｎ×２Ｎの大きさのCUは、split_flagの値が「１」である時、１つ下の階層となる、Ｎ×Ｎの大きさのCUに分割される。
更に、CUは、イントラ若しくはインター予測の処理単位となる領域（ピクチャ単位の画像の部分領域）であるプレディクションユニット（Prediction Unit（PU））に分割され、また、直交変換の処理単位となる領域（ピクチャ単位の画像の部分領域）である、トランスフォームユニット（Transform Unit（TU））に分割される。現在、HEVCにおいては、４×４及び８×８に加え、１６×１６及び３２×３２直交変換を用いることが可能である。
以上のHEVCのように、CUを定義し、そのCUを単位として各種処理を行うような符号化方式の場合、AVCにおけるマクロブロックはLCUに相当すると考えることができる。ただし、CUは図２に示されるように階層構造を有するので、その最上位階層のLCUのサイズは、例えば128×128画素のように、AVCのマクロブロックより大きく設定されることが一般的である。
なお、以下において、「領域」には、上述した各種領域（例えば、マクロブロック、サブマクロブロック、LCU、CU、SCU、PU、およびTU等）を全て含む（それらのいずれであってもよい）。もちろん、上述した以外の単位が含まれてもよいし、説明の内容に応じて不可能な単位は、適宜、除外するものとする。
［動きパーティションのマージ］
ところで、非特許文献３には、動き情報の符号化方式の１つとして、図３に示されるような、Motion Partition Mergingと呼ばれる手法（マージモード）が提案されている。この手法においては、MergeFlagと、MergeLeftFlagという、２つのflagが、マージモードに関する情報であるマージ情報として伝送される。MergeFlag=1は、当該領域Ｘの動き情報が、当該領域の上に隣接する周辺領域Ｔ、若しくは、当該領域の左に隣接する周辺領域Ｌの動き情報と同一であることを示す。この時、マージ情報には、MergeLeftFlagが含められ、伝送される。MergeFlag=0は、当該領域Ｘの動き情報が、周辺領域Ｔおよび周辺領域Ｌのいずれの動き情報とも異なることを示す。この場合、当該領域Ｘの動き情報が伝送される。
当該領域Ｘの動き情報が、周辺領域Ｌの動き情報と同一である場合、MergeFlag=1、かつ、MergeLeftFlag=1となる。当該領域Ｘの動き情報が、周辺領域Ｔの動き情報と同一である場合、MergeFlag=1、かつ、MergeLeftFlag=0となる。
［時間予測動きベクトル］
ところで、イントラ予測においては、動きベクトルの符号量を低減させるために、メディアン予測を用いた動きベクトルの符号化が行われる。例えば、AVCにおいては、処理対象である注目領域と同じフレームの、その注目領域の周辺の所定の位置に存在する領域である空間周辺領域の動きベクトル（空間周辺動きベクトル）を用いて、注目領域の動きベクトルの予測値（予測動きベクトル）が算出される。
なお、以下において、このように空間周辺領域の動きベクトルを用いた動きベクトルの予測を空間予測と称し、空間予測により生成される予測動きベクトルを空間予測動きベクトルと称する。
しかしながら、空間予測のみでは、常に十分な予測精度が得られるとは限らず、符号化効率の向上に寄与しない場合も考えられる。そこで、このような空間予測に加えて、時間予測も用いる方法が考えられた。
時間予測の場合、注目領域の時間的に周辺な領域、すなわち、注目領域が参照する参照フレームの、その注目領域と同じ位置のco-located領域と、そのco-located領域の周辺の領域とを含む時間周辺領域の動きベクトル（時間周辺動きベクトル）を用いて、予測動きベクトル（時間予測動きベクトルとも称する）が算出される。
例えば非特許文献２においては、空間予測による空間予測動きベクトル（Spatial Predictor）に加え、時間予測を用いて、時間予測動きベクトル（Temporal Predictor）及び空間・時間予測動きベクトル（Spatio-Temporal Predictor）を生成し、その内のいずれかを、予測動きベクトル情報として、適応的に用いることが記載されている。
しかしながら、時間予測を行うためには、膨大な量の動きベクトルを保持しておく必要がある。注目領域の動きベクトルは、その後に処理される他の領域の処理において、空間周辺動きベクトルや時間周辺動きベクトルとして利用される。時間予測においては過去のフレームの動き情報も利用されるので、動きベクトルは、DRAM等の大容量かつ低速な記憶領域に保存しなければならない。つまり、時間予測が行われる度に、co-located領域のアドレスに応じて、時間周辺領域として使用される可能性のある動きベクトルがDRAMより読み出されることになる。
これに対して、上述したように空間周辺領域は、注目領域と同じフレーム（注目フレーム）の注目領域の周辺に位置する。したがって、空間予測のためには、おおよそ、領域の水平方向の並びをラインとすると、空間予測のためには、おおよそ、注目領域の１段上の１ライン分と、注目領域を含む１ライン分の動き情報（動きベクトルや参照インデックス等を含む情報）を保持すればよい。したがって、ラインバッファ等の小容量かつ高速なメモリによって十分保持することができる。
このように、時間予測によるメモリアクセスに関する負荷は、空間予測のためのメモリアクセスの場合よりも圧倒的に大きい。
特に、HEVCにおいては、上述したように６４×６４乃至８×８のCUにより符号化を行うことができる。インタースライスにおいては、この中が、更に、2Nx2N, 2NxN, Nx2N, NxNのいずれかのPUに分割され、符号化処理が行われることになる。したがって、例えばPUの大きさが4x4といったように、小さな領域において時間予測が多く選択されると、その時間予測によるメモリアクセスに関する負荷が、さらに増大し、場合によっては、メモリバンド幅がボトルネックとなり、リアルタイム動作が困難になる恐れもあった。
そこで、画像符号化装置１００は、注目領域の大きさに応じて時間予測による符号化を制限するようにする。
［動き予測・補償部、時間予測制御部、動きベクトル符号化部］
図４は、図１の動き予測・補償部１１５、時間予測制御部１２１、および動きベクトル符号化部１２２の主な構成例を示すブロック図である。
図４に示されるように、動き予測・補償部１１５は、動き探索部１３１、コスト関数値生成部１３２、モード判定部１３３、および動き補償部１３４、および動き情報バッファ１３５を有する。
また、時間予測制御部１２１は、閾値設定部１４１および領域サイズ判定部１４２を有する。
さらに、動きベクトル符号化部１２２は、空間予測動きベクトル決定部１５１、時間予測動きベクトル決定部１５２、予測動きベクトル生成部１５３、および差分動きベクトル生成部１５４を有する。
動き探索部１３１には、画面並べ替えバッファ１０２からの入力画像画素値と、フレームメモリ１１２からの参照画像画素値が入力される。動き探索部１３１は、全てのインター予測モードについて動き探索処理を行い、動きベクトルと参照インデックスを含む動き情報を生成する。動き探索部１３１は、その動き情報を動きベクトル符号化部１２２の、空間予測動きベクトル決定部１５１、時間予測動きベクトル決定部１５２、および予測動きベクトル生成部１５３に供給する。
また、動き探索部１３１は、探索した動きベクトルを用いて、参照画像に補償処理を行い、予測画像を生成する。さらに、動き探索部１３１は、その予測画像と入力画像の差分画像を算出し、その画素値である差分画像画素値をコスト関数値生成部１３２に供給する。
コスト関数値生成部１３２は、動き探索部１３１から供給された各インター予測モードの差分画像画素値を取得する。コスト関数値生成部１３２は、その差分画像画素値を用いて、各インター予測モードのコスト関数値を算出する。また、コスト関数値生成部１３２は、各インター予測モードの差分動き情報と、各インター予測モードの予測動きベクトル情報とを動きベクトル符号化部１２２の差分動きベクトル生成部１５４から取得する。
予測動きベクトル情報は、処理対象である注目領域の動きベクトルの予測値である予測動きベクトルと、その予測動きベクトルを生成する為に動きベクトルを参照される周辺領域を示す情報とを含む。差分動き情報は、注目領域の動きベクトルと、予測動きベクトルとの差分である差分動きベクトルを含む。
コスト関数値生成部１３２は、各インター予測モードのコスト関数値、差分動き情報、および予測動きベクトル情報をモード判定部１３３に供給する。
モード判定部１３３は、コスト関数値生成部１３２から供給される各インター予測モードのコスト関数値、差分動き情報、および予測動きベクトル情報を取得する。モード判定部１３３は、その中で最も小さいコスト関数値のインター予測モードを、最適なモードとして選択する。モード判定部１３３は、その最適なモードに選択されたインター予測モードを示す情報である最適モード情報を、その最適なインター予測モードの差分動き情報および予測動きベクトル情報とともに、動き補償部１３４に供給する。
動き補償部１３４は、モード判定部１３３から供給された差分動き情報および予測動きベクトル情報を用いて、最適なインター予測モードの動きベクトルを生成する。動き補償部１３４は、その動きベクトルを用いてフレームメモリ１１２からの参照画像に補償処理を行うことで、最適なインター予測モードの予測画像を生成する。動き補償部１３４は、生成した予測画像の画素値（予測画像画素値）を予測画像選択部１１６に供給する。
予測画像選択部１１６によりインター予測が選択された場合、それを示す信号が予測画像選択部１１６から供給される。これに対応して、動き補償部１３４は、最適モード情報を、その最適なインター予測モードの差分動き情報および予測動き情報とともに、可逆符号化部１０６に供給し、符号化させ、復号側に伝送させる。予測動き情報は、予測動きベクトルを生成する為に動きベクトルを参照される周辺領域を示す情報を含む。
また、動き補償部１３４は、予測画像の生成に用いた最適なインター予測モードの動き情報を、動き情報バッファ１３５および空間予測動きベクトル決定部１５１に供給する。なお、予測画像選択部１１６によりインター予測が選択されなかった場合（すなわち、イントラ予測画像が選択された場合）、動きベクトル情報として、０ベクトルが、動き情報バッファ１３５および空間予測動きベクトル決定部１５１に供給される。
動き情報バッファ１３５は、例えばDRAM等の、大容量かつ低速な記憶領域を有し、動き補償部１３４から供給される動き情報をその記憶領域に記憶する。この動き情報バッファ１３５に記憶される動き情報は、時間予測において時間周辺動き情報として利用される。つまり、動き情報バッファ１３５は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、記憶している動き情報を時間予測動きベクトル決定部１５２に供給する。
なお、動き情報バッファ１３５に記憶される動き情報のうち、時間周辺動き情報として使用される可能性がなくなった動き情報は、例えば記憶領域の空き容量が不足した場合等、所定のタイミングにおいて、動き情報バッファ１３５の記憶領域から破棄される。
また、コスト関数値生成部１３２は、各イントラ予測モードについて、注目領域の領域サイズを領域サイズ判定部１４２に供給する。
閾値設定部１４１は、領域サイズ判定部１４２において使用される、領域サイズに関する閾値を、例えば画像サイズ等、プロファイルレベルに応じて決定する。閾値設定部１４１は、設定した閾値を領域サイズ判定部１４２に供給する。
領域サイズ判定部１４２は、注目領域の大きさを判定し、その大きさに従って、時間予測を行うか否かを制御する。より具体的には、領域サイズ判定部１４２は、注目領域の大きさについて、閾値設定部１４１により設定された閾値を用いた判定（閾値判定）を行う。すなわち、領域サイズ判定部１４２は、コスト関数値生成部１３２から供給される注目領域の領域サイズが、閾値設定部１４１により設定された閾値より大きいか否かを判定する。
領域サイズ判定部１４２は、その判定結果に従って時間予測を行うか否かを制御する。例えば、注目領域の大きさが閾値より大きい場合、領域サイズ判定部１４２は、動きベクトルの予測（符号化）において時間予測を行うように制御する。また、例えば、注目領域の大きさが閾値より大きい場合、領域サイズ判定部１４２は、動きベクトルの予測（符号化）において時間予測を行わないように制御する。領域サイズ判定部１４２は、時間予測を行うか否かの指示を行う制御情報を、時間予測動きベクトル決定部１５２に供給することにより、時間予測動きベクトル決定部１５２の動作（時間予測を行うか否か）を制御する。
動きベクトル符号化部１２２の空間予測動きベクトル決定部１５１は、動き補償部１３４から供給される動き情報を取得し、記憶する。空間予測動きベクトル決定部１５１は、例えばラインバッファ等の、小容量かつ高速な記憶領域を有しており、その記憶領域に、動き補償部１３４から取得した動き情報を記憶する。この動き情報は、空間予測において空間周辺動き情報として利用される。
なお、空間予測動きベクトル決定部１５１に記憶される動き情報のうち、空間周辺動き情報として使用される可能性がなくなった動き情報は、例えば記憶領域の空き容量が不足した場合等、所定のタイミングにおいて、空間予測動きベクトル決定部１５１の記憶領域から破棄される。なお、この空間予測動きベクトル決定部１５１から破棄された動き情報が、動き情報バッファ１３５に供給され、記憶されるようにしてもよい。つまり、この場合、動き情報バッファ１３５は、動き情報を、動き補償部１３４から取得するのではなく、空間予測動きベクトル決定部１５１から取得する。
空間予測動きベクトル決定部１５１は、記憶している動きベクトルを空間周辺動きベクトルとして用い、さらに、動き探索部１３１から供給される各インター予測モードの動き情報（動きベクトル）を適宜用いて、空間予測を行い、空間予測動きベクトルを生成する。空間予測動きベクトル決定部１５１は、その空間予測動きベクトルを含む空間予測動きベクトル情報を、予測動きベクトル生成部１５３に供給する。
時間予測動きベクトル決定部１５２は、領域サイズ判定部１４２から供給される制御情報に従って、動作する。つまり、時間予測動きベクトル決定部１５２は、領域サイズ判定部１４２により時間予測が許可された場合、動き情報バッファ１３５から供給される周辺領域の動き情報（周辺動き情報）を用い、さらに、動き探索部１３１から供給される各インター予測モードの動き情報（動きベクトル）を適宜用いて、時間予測を行い、時間予測動きベクトル（および空間・時間予測動きベクトル）を生成する。時間予測動きベクトル決定部１５２は、生成した時間予測動きベクトル（および空間・時間予測動きベクトル）を含む時間予測動きベクトル情報を予測動きベクトル生成部１５３に供給する。
予測動きベクトル生成部１５３は、各インター予測モードについて、空間予測動きベクトル決定部１５１から供給された空間予測動きベクトル情報と、時間予測動きベクトル決定部１５２から供給される時間予測動きベクトル情報とを取得する。予測動きベクトル生成部１５３は、各インター予測モードについて、その空間予測動きベクトル情報と時間予測動きベクトル情報との内、動き探索部１３１から供給される動き情報に対してより適切な方を選択する。つまり、予測動きベクトル生成部１５３は、注目領域の動きベクトルに近い方の予測動きベクトル（を含む予測動きベクトル情報）を選択する。なお、時間予測が行われない場合、空間予測動きベクトル情報しか供給されないので、予測動きベクトル生成部１５３は、その空間予測動きベクトル情報を選択する。
予測動きベクトル生成部１５３は、各インター予測モードについて、選択した予測動きベクトル情報と、注目領域の動き情報とを、差分動きベクトル生成部１５４に供給する。
差分動きベクトル生成部１５４は、各インター予測モードについて、予測動きベクトル生成部１５３から供給される情報を用いて、予測動きベクトルと注目領域の動きベクトルとの差分動きベクトルを生成する。差分動きベクトル生成部１５４は、生成した差分動きベクトルを含む差分動き情報と、予測動きベクトル情報とを、コスト関数値生成部１３２に供給する。
以上のように、時間予測制御部１２１の領域サイズ判定部１４２が、注目領域の大きさに応じて、時間予測を行うか否かを制御するので、動きベクトル符号化部１２２は、所望の領域に対してのみ時間予測を行うことができ、不要な領域に対する時間予測を省略することができる。したがって、動きベクトル符号化部１２２は、メモリアクセスの負荷の不要な増大を抑制することができる。つまり、画像符号化装置１００は、画像の符号化に関する処理の負荷の増大を抑制することができる。
なお、本技術を適用しても時間予測が制限されるのみである。つまり、本技術を用いることにより、符号化データが規格外となることはない。つまり、本技術を適用した画像符号化装置１００により生成された符号化データは、本技術を適用しないように動作させた画像符号化装置１００に対応する画像復号装置（以下、従来の画像復号装置と称する）により正しく復号することができる。ただし、画像復号装置の復号処理においても、（復号処理の内容は従来と同様であるものの、）結果として時間予測に符号化時と同様の制限が施されていることになる。
したがって、画像符号化装置１００は、画像の復号に関する処理の負荷の増大も抑制することができる。
なお、領域サイズ判定部１４２が注目領域の領域サイズが小さい場合、時間予測が行われないようにするので、動きベクトル符号化部１２２は、予測動きベクトルの数が増大する小さな領域に対しての時間予測を省略することができ、メモリアクセスの負荷の不要な増大をより効果的に抑制することができる。
また、領域サイズ判定部１４２は、閾値を用いて、注目領域の大きさの判定を行うので、容易にその判定を行うことができ、注目領域のサイズを判定する処理による負荷の増大を抑制することができる。
さらに、閾値設定部１４１は、画枠サイズ等のプロファイルレベルに応じて、閾値を設定するので、領域サイズ判定部１４２は、時間予測の制御をより適切に行うことができる。例えば、より小さな画枠であるシーケンスに対しては、単位時間あたりに要求される処理量が低いため、時間予測の制限を行う必要性は高くない。また、より小さな画枠のシーケンスに関しては、符号化に用いられる領域（Coding Unit）もより小さなものとなり、より小さな領域（Prediction Unit）に関して、予測動きベクトル（predictor）の生成を制限することにより、符号化効率の低下を招く恐れがある。
そこで、閾値設定部１４１は、例えば、1920×1088画素解像度を持つシーケンスに関しては16×16未満の領域に対する時間予測を禁止するが、720×480解像度を持つシーケンスに関しては、8×8未満の領域に対する時間予測を禁止するようにする。このように、閾値設定部１４１が、より大きな画枠のシーケンスに対してはより大きな制限をかけ、より小さな画枠のシーケンスに対してはより小さな制限にするように閾値を設定することで、動きベクトル符号化部１２２は、メモリアクセスによるリアルタイム動作のためのボトルネックを適切に解消することができる。
［符号化処理の流れ］
次に、以上のような画像符号化装置１００により実行される各処理の流れについて説明する。最初に、図５のフローチャートを参照して、符号化処理の流れの例を説明する。
ステップＳ１０１において、A/D変換部１０１は入力された画像をA/D変換する。ステップＳ１０２において、画面並べ替えバッファ１０２は、A/D変換された画像を記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
ステップＳ１０３において、イントラ予測部１１４は、イントラ予測処理を行う。ステップＳ１０４において、動き予測・補償部１１５は、インター動き予測処理を行う。ステップＳ１０５において、予測画像選択部１１６は、イントラ予測により生成された予測画像、および、インター予測により生成された予測画像の内、いずれか一方を選択する。
ステップＳ１０６において、演算部１０３は、ステップＳ１０２の処理により並び替えられた画像と、ステップＳ１０５の処理により選択された予測画像との差分を演算する（差分画像を生成する）。生成された差分画像は元の画像に較べてデータ量が低減される。したがって、画像をそのまま符号化する場合に比べて、データ量を圧縮することができる。
ステップＳ１０７において、直交変換部１０４は、ステップＳ１０６の処理により生成された差分画像を直交変換する。具体的には、離散コサイン変換、カルーネン・レーベ変換等の直交変換が行われ、直交変換係数が出力される。ステップＳ１０８において、量子化部１０５は、ステップＳ１０７の処理により得られた直交変換係数を量子化する。
ステップＳ１０８の処理により量子化された差分画像は、次のようにして局部的に復号される。すなわち、ステップＳ１０９において、逆量子化部１０８は、ステップＳ１０８の処理により生成された量子化された直交変換係数（量子化係数とも称する）を量子化部１０５の特性に対応する特性で逆量子化する。ステップＳ１１０において、逆直交変換部１０９は、ステップＳ１０９の処理により得られた直交変換係数を、直交変換部１０４の特性に対応する特性で逆直交変換する。これにより差分画像が復元される。
ステップＳ１１１において、演算部１１０は、ステップＳ１０５において選択された予測画像を、ステップＳ１１０において生成された差分画像に加算し、局部的に復号された復号画像（再構成画像）を生成する。ステップＳ１１２において、ループフィルタ１１１は、ステップＳ１１１の処理により得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行い、復号画像を生成する。
ステップＳ１１３において、フレームメモリ１１２は、ステップＳ１１２の処理により生成された復号画像、若しくは、ステップＳ１１１の処理により生成された再構成画像を記憶する。
ステップＳ１１４において、可逆符号化部１０６は、ステップＳ１０８の処理により量子化された直交変換係数を符号化する。すなわち、差分画像に対して、可変長符号化や算術符号化等の可逆符号化が行われる。なお、可逆符号化部１０６は、予測に関する情報や、量子化に関する情報や、フィルタ処理に関する情報等を符号化し、ビットストリームに付加する。
ステップＳ１１５において、蓄積バッファ１０７は、ステップＳ１１４の処理により得られたビットストリームを蓄積する。蓄積バッファ１０７に蓄積された符号化データは、適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
ステップＳ１１６においてレート制御部１１７は、ステップＳ１１５の処理により蓄積バッファ１０７に蓄積された符号化データの符号量（発生符号量）に基づいて、オーバーフローあるいはアンダーフローが発生しないように、量子化部１０５の量子化動作のレートを制御する。
ステップＳ１１６の処理が終了すると、符号化処理が終了される。
［インター動き予測処理の流れ］
次に、図６のフローチャートを参照して、図５のステップＳ１０４において実行されるインター動き予測処理の流れの例を説明する。
ステップＳ１３１において、閾値設定部１４１は、プロファイルレベルに応じて閾値を設定する。
ステップＳ１３２において、動き探索部１３１は、各インター予測モードについて、動き探索を行い、処理対象である当該領域の動き情報を生成し、その動き情報を用いて補償処理を行って予測画像を生成し、さらに、その予測画像を用いて差分画像を生成する。
ステップＳ１３３において、領域サイズ判定部１４２は、注目領域のサイズが、ステップＳ１３１において設定された閾値より大きいか否かを判定する。閾値より大きいと判定された場合、領域サイズ判定部１４２は、処理をステップＳ１３４に進める。ステップＳ１３４において、動きベクトル符号化部１２２は、時間予測を用いた動きベクトル符号化処理を行う。時間予測を用いた動きベクトル符号化処理が終了すると、動きベクトル符号化部１２２は、処理をステップＳ１３６に進める。
また、ステップＳ１３３において、注目領域のサイズが閾値以下であると判定された場合、領域サイズ判定部１４２は、処理をステップＳ１３５に進める。ステップＳ１３５において、動きベクトル符号化部１２２は、時間予測を用いない動きベクトル符号化処理を行う。時間予測を用いない動きベクトル符号化処理が終了すると、動きベクトル符号化部１２２は、処理をステップＳ１３６に進める。
ステップＳ１３６において、コスト関数値生成部１３２は、ステップＳ１３２において生成された差分画像の画素値を用いて、コスト関数値を算出する。
ステップＳ１３７において、コスト関数値生成部１３２は、未処理のインター予測モードが存在するか否かを判定し、未処理のインター予測モードが存在すると判定された場合、処理をステップＳ１３２に戻し、それ以降の処理を繰り返す。つまり、ステップＳ１３２乃至ステップＳ１３７の各処理が、各インター予測モードについて実行される。
全てのインター予測モードについて、コスト関数値が生成されると、コスト関数値生成部１３２は、処理をステップＳ１３８に進める。ステップＳ１３８において、モード判定部１３３は、各インター予測モードのコスト関数値に基づいて、最適インター予測モードを決定する。
ステップＳ１３９において、動き補償部１３４は、ステップＳ１３８の処理により決定された最適インター予測モードで動き補償を行い、予測画像を生成する。
ステップＳ１４０において、動き情報バッファ１３５および空間予測動きベクトル決定部１５１は、それぞれ、ステップＳ１３９の動き補償に用いられた当該領域の動きベクトルを含む動き情報を記憶する。この動き情報は、当該領域より後に処理される他の領域において空間周辺動き情報若しくは時間周辺動き情報として利用される。
ステップＳ１４０の処理が終了すると、動き予測・補償部１１５は、インター動き予測処理を終了し、処理を図５に戻す。
［時間予測を用いた動きベクトル符号化処理の流れ］
次に、図７のフローチャートを参照して、図６のステップＳ１３４において実行される、時間予測を用いた動きベクトル符号化処理の流れの例を説明する。
時間予測を用いた動きベクトル符号化処理が開始されると、空間予測動きベクトル決定部１５１は、ステップＳ１６１において、空間予測動きベクトルを生成する。
ステップＳ１６２において、時間予測動きベクトル決定部１５２は、時間予測動きベクトルを生成する。
ステップＳ１６３において、予測動きベクトル生成部１５３は、ステップＳ１６１において生成された空間予測動きベクトルと、ステップＳ１６２において生成された時間予測動きベクトルの内、より適切な方、すなわち、注目領域の動きベクトルにより近い方を、予測動きベクトルに決定する。
ステップＳ１６４において、差分動きベクトル生成部１５４は、ステップＳ１６３において生成された予測動きベクトルと、注目領域の動きベクトルとの差分である差分動きベクトルを生成し、その差分動きベクトルを含む差分動き情報を生成する。
差分動き情報が生成されると、差分動きベクトル生成部１５４は、時間予測を用いた動きベクトル符号化処理を終了し、処理を図６に戻す。
［時間予測を用いない動きベクトル符号化処理の流れ］
次に、図８のフローチャートを参照して、図６のステップＳ１３５において実行される、時間予測を用いない動きベクトル符号化処理の流れの例を説明する。
時間予測を用いない動きベクトル符号化処理は、時間予測を用いた動きベクトル符号化処理から時間予測動きベクトルの生成を省略したものである。つまり、図７の各処理の内、ステップＳ１６２が省略される。すなわち、図８のステップＳ１８１乃至ステップＳ１８３の各処理は、図７のステップＳ１６1，ステップＳ１６３、およびステップＳ１６４の各処理と同様に実行される。ただし、時間予測を用いない動きベクトル符号化処理の場合、時間予測動きベクトルが生成されないので、ステップＳ１８２において、ステップＳ１８１において生成された空間予測動きベクトルが、予測動きベクトルに採用される。
以上のように各処理が行われることにより、画像符号化装置１００は、画像の符号化および復号に関する処理の負荷の増大を抑制することができる。
＜２．第２の実施の形態＞
［時間予測動きベクトル数による時間予測制限］
なお、時間予測の制限は、時間予測動きベクトルの生成数によって行うようにしてもよい。例えば、処理対象である注目領域を含むLCU（注目LCU）、若しくは、例えば、その注目LCUを含む複数の隣接するLCUにおいて、時間予測動きベクトル（temporal predictor）の出現する回数の制限を行う（所定の上限以下とする）ようにしてもよい。
［動き予測・補償部、時間予測制御部、動きベクトル符号化部］
図９は、この場合の動き予測・補償部１１５、時間予測制御部１２１、および動きベクトル符号化部１２２の主な構成例を示すブロック図である。
図９に示されるように、動き予測・補償部１１５および動きベクトル符号化部１２２は、図４の場合と同様の構成を有する。
また、時間予測制御部１２１は、閾値設定部２０１、時間予測動きベクトルカウンタ２０２、および適用回数判定部２０３を有する。この場合の時間予測制御部１２１は、所定のデータ単位（例えばLCU）毎に、時間予測動きベクトルの発生数を制限する。以下においては、このデータ単位をLCUとして説明する。
閾値設定部２０１は、可逆符号化部１０６等から提供されるLCUの位置や大きさ等に関する情報に基づいて、LCUのサイズに応じて閾値を設定する。例えば、閾値設定部２０１は、LCUのサイズが64x64の場合、閾値をN回（Nは自然数）に設定し、LCUのサイズが32x32の場合、閾値をN/4回に設定する。閾値設定部２０１は、LCUが他のサイズの場合も同様にNの比で設定する。もちろん、値は任意であるが、LCUのサイズが小さいほど閾値を小さくするのが望ましい。つまり、LCUのサイズが小さい場合、LCUのサイズが大きい場合に比べてLCUの総数が多くなるので、LCU１つ当たりの時間予測動きベクトルの発生数が同じだと、メモリアクセス量が増大する恐れがある。そのため、LCUのサイズが小さいほど、時間予測動きベクトルの発生数の制限を厳しくする（上限値を小さくする）ことが望ましい。換言するに、このように閾値の大きさをLCUのサイズに応じて設定することにより、閾値設定部２０１は、より正確な時間予測動きベクトルの発生数の制御を行うことができる。
さらに、閾値設定部２０１は、閾値設定部１４１の場合と同様に、時間予測動きベクトルの発生数に関する閾値を、例えば画像サイズ等、プロファイルレベルに応じて決定する。つまり、閾値設定部２０１は、上述したNを、プロファイルレベルに応じて決定する。
閾値設定部２０１は、設定した閾値を適用回数判定部２０３に供給する。
時間予測動きベクトルカウンタ２０２は、モード判定部１３３により最適モードに選択されたインター予測モードの予測動きベクトルが時間予測動きベクトルであるか否かを示す情報（時間予測適用情報）を、モード判定部１３３から取得する。
つまり、モード判定部１３３は、コスト関数値に基づいて最適モードを選択すると、そのインター予測モードの予測動きベクトルが時間予測動きベクトルであるか否かを示す情報（時間予測適用情報）を、時間予測動きベクトルカウンタ２０２に供給する。
時間予測動きベクトルカウンタ２０２は、モード判定部１３３から取得した時間予測適用情報に基づいて、時間予測動きベクトルの発生回数（最適モードの予測動きベクトルとして時間予測動きベクトルが適用された回数）をカウントする。なお、このカウント値は、所定のデータ単位であるLCU毎にリセットされる。時間予測動きベクトルカウンタ２０２には、可逆符号化部１０６等からLCU情報が提供される。時間予測動きベクトルカウンタ２０２には、このLCU情報に従って、注目領域の属するLCUが前回の注目領域が属するLCUと同じであるか否かを判定し、LCUが変わったと判定した場合、カウント値をリセットする。
時間予測動きベクトルカウンタ２０２は、時間予測動きベクトルの発生回数をカウントする毎に、このカウント値を適用回数判定部２０３に供給する。
適用回数判定部２０３は、時間予測動きベクトルの発生回数を判定し、その回数に従って、時間予測を行うか否かを制御する。より具体的には、適用回数判定部２０３は、時間予測動きベクトルの発生回数について、閾値設定部２０１により設定された閾値を用いた判定（閾値判定）を行う。すなわち、適用回数判定部２０３は、時間予測動きベクトルカウンタ２０２から供給されたカウント値（時間予測動きベクトルの発生回数）が、閾値設定部２０１により設定された閾値（上限値）に達したか否かを判定する。
適用回数判定部２０３は、その判定結果に従って時間予測を行うか否かを制御する。例えば、時間予測動きベクトルの発生回数が閾値より少ない場合、適用回数判定部２０３は、動きベクトルの予測（符号化）において時間予測を行うように制御する。また、例えば、時間予測動きベクトルの発生回数が閾値に達した場合、適用回数判定部２０３は、動きベクトルの予測（符号化）において時間予測を行わないように制御する。
適用回数判定部２０３は、領域サイズ判定部１４２の場合と同様に、時間予測を行うか否かの指示を行う制御情報を、時間予測動きベクトル決定部１５２に供給することにより、時間予測動きベクトル決定部１５２の動作（時間予測を行うか否か）を制御する。
このような制御に従って、動きベクトル符号化部１２２の各部は、図４の場合と同様に動作し、差分動き情報と予測動きベクトル情報を生成する。
したがって、この場合も、時間予測制御部１２１の適用回数判定部２０３が、時間予測動きベクトルの発生回数に応じて、時間予測を行うか否かを制御するので、動きベクトル符号化部１２２は、時間予測の回数を所定の回数以下に制限することができる。したがって、動きベクトル符号化部１２２は、メモリアクセスの負荷の不要な増大を抑制することができる。つまり、画像符号化装置１００は、画像の符号化に関する処理の負荷の増大を抑制することができる。
この場合も、本技術を適用した画像符号化装置１００により生成された符号化データは、従来の画像復号装置により正しく復号することができる。したがって、この場合も、画像符号化装置１００は、画像の復号に関する処理の負荷の増大も抑制することができる。
また、適用回数判定部２０３は、閾値を用いて、注目領域の大きさの判定を行うので、容易にその判定を行うことができ、注目領域のサイズを判定する処理による負荷の増大を抑制することができる。さらに、閾値設定部２０１は、画枠サイズ等のプロファイルレベルに応じて閾値を設定するので、図４の場合と同様に、適用回数判定部２０３が時間予測の制御をより適切に行うことができる。
［インター動き予測処理の流れ］
この場合の符号化処理は、図５のフローチャートを参照して上述した場合と同様であるのでその説明は省略する。
図１０のフローチャートを参照して、図５のステップＳ１０４において実行されるインター動き予測処理の流れの例を説明する。
インター動き予測処理が開始されると、ステップＳ２０１において、閾値設定部２０１は、プロファイルレベルに応じて閾値を設定する。
ステップＳ２０２において、動き探索部１３１は、各インター予測モードについて、動き探索を行い、処理対象である当該領域の動き情報を生成し、その動き情報を用いて補償処理を行って予測画像を生成し、さらに、その予測画像を用いて差分画像を生成する。
ステップＳ２０３において、適用回数判定部２０３は、時間予測動きベクトルが最適モードに適用された回数（後述するステップＳ２０９においてカウントされたカウント値）が、ステップＳ２０３において設定された閾値以上であるか否かを判定する。閾値より少ない（閾値に達していない）と判定された場合、適用回数判定部２０３は、処理をステップＳ２０４に進める。
ステップＳ２０４において、動きベクトル符号化部１２２は、図７のフローチャートを参照して説明したのと同様に、時間予測を用いた動きベクトル符号化処理を行う。時間予測を用いた動きベクトル符号化処理が終了すると、動きベクトル符号化部１２２は、処理をステップＳ２０６に進める。
また、ステップＳ２０３において、時間予測動きベクトルが最適モードに適用された回数（後述するステップＳ２０９においてカウントされたカウント値）が閾値以上である（閾値に達した）と判定された場合、適用回数判定部２０３は、処理をステップＳ２０５に進める。
ステップＳ２０５において、動きベクトル符号化部１２２は、図８のフローチャートを参照して説明したのと同様に、時間予測を用いない動きベクトル符号化処理を行う。時間予測を用いない動きベクトル符号化処理が終了すると、動きベクトル符号化部１２２は、処理をステップＳ２０６に進める。
ステップＳ２０６において、コスト関数値生成部１３２は、ステップＳ２０２において生成された差分画像の画素値を用いて、コスト関数値を算出する。
ステップＳ２０７において、コスト関数値生成部１３２は、未処理のインター予測モードが存在するか否かを判定し、未処理のインター予測モードが存在すると判定された場合、処理をステップＳ２０２に戻し、それ以降の処理を繰り返す。つまり、ステップＳ２０２乃至ステップＳ２０７の各処理が、各インター予測モードについて実行される。
全てのインター予測モードについて、コスト関数値が生成されると、コスト関数値生成部１３２は、処理をステップＳ２０８に進める。ステップＳ２０８において、モード判定部１３３は、各インター予測モードのコスト関数値に基づいて、最適インター予測モードを決定する。
ステップＳ２０９において、時間予測動きベクトルカウンタ２０２は、時間予測動きベクトルの発生回数をカウントする。すなわち、時間予測動きベクトルカウンタ２０２は、ステップＳ２０８の処理において決定された最適モードの予測動きベクトルが時間予測動きベクトルである場合のみ、それをカウントする（カウント値を＋１インクリメントする）。つまり、最適モードの予測動きベクトルが空間予測動きベクトルの場合、時間予測動きベクトルカウンタ２０２は、カウント値を＋１インクリメントしない（空間予測動きベクトル発生回数をカウントしない）。
なお、このカウント値は、LCU（所定のデータ単位）毎にリセットされる。
ステップＳ２１０において、動き補償部１３４は、ステップＳ２０８の処理により決定された最適インター予測モードで動き補償を行い、予測画像を生成する。
ステップＳ２１１において、動き情報バッファ１３５および空間予測動きベクトル決定部１５１は、それぞれ、ステップＳ２１０の動き補償に用いられた当該領域の動きベクトルを含む動き情報を記憶する。この動き情報は、当該領域より後に処理される他の領域において空間周辺動き情報若しくは時間周辺動き情報として利用される。
ステップＳ２１１の処理が終了すると、動き予測・補償部１１５は、インター動き予測処理を終了し、処理を図５に戻す。
以上のように各処理が行われることにより、画像符号化装置１００は、画像の符号化および復号に関する処理の負荷の増大を抑制することができる。
［その他の例］
なお、以上においては、時間予測動きベクトルの発生回数のカウント値をリセットするデータ単位をLCUとして説明したが、このデータ単位はLCU以外であってもよい。
また、以上の第１の実施の形態および第２の実施の形態においては、閾値をプロファイルレベルに応じて決定するように説明したが、これに限らず、固定値としてもよい。その場合、閾値設定部１４１および閾値設定部２０１は、その固定値を記憶し、所定のタイミングにおいて、若しくは、外部からの要求に従って、その固定値を閾値として、領域サイズ判定部１４２または適用回数判定部２０３に供給する。
また、ユーザ指示等に従って閾値が設定されるようにしてもよい。閾値設定部１４１および閾値設定部２０１は、ユーザ指示等を受け付け、受け付けられた情報に基づいて、閾値を設定する。また、閾値そのものが入力されるようにしてもよい。
また、その場合、例えば、符号化側で設定した閾値をシーケンスパラメータセット（SPS）やピクチャパラメータセット（PPS）等に含めて復号側に伝送するようにしてもよい。この閾値は、復号側において、例えば、後述するデバッグ処理等に用いられる。この場合、例えば、閾値設定部１４１や閾値設定部２０１が設定した閾値を可逆符号化部１０６に供給し、可逆符号化部１０６が、その閾値をシーケンスパラメータセット等に含めるようにすればよい。
なお、時間予測によるメモリアクセスに対する負荷は、ブロックサイズのみでなく、各領域（Prediction Unit）における予測方向にも依存する。すなわち、List0に関しては時間予測動きベクトル（temporal predictor）が使われているが、List1に関しては用いられていない場合に比して、List0、List1にともに時間予測動きベクトル（temporal predictor）が用いられている場合の方が、メモリアクセスに対する負荷は大きい。
したがって、第２の実施の形態において、閾値判定部２０１が、List0、List1の各予測方向について、それぞれ閾値を設定し、時間予測動きベクトルカウンタ２０２が、その予測方向毎に時間予測動きベクトルの発生回数をカウントし、適用回数判定部２０３が、その予測方向毎に、そのカウント値を閾値判定するようにしてもよい。この場合、適用回数判定部２０３は、List0、List1のいずれかの予測方向について、カウント値が閾値に達した場合、時間予測を行わないように制御する。
さらに、非特許文献３に記載のマージモードにおいて、時間周辺領域を、注目領域とマージさせる候補の１つとするようにしてもよい。つまり、マージモードにおいても時間予測が行われるようにしてもよい。その際、第１の実施の形態や第２の実施の形態において説明したのと同様に、領域サイズや時間周辺領域の適用回数等に応じて、時間予測を行うか否かを制御するようにしてもよい。
その場合、動きベクトル符号化部１２２において、差分動き情報（予測動きベクトル情報）の生成の代わりに、マージ判定とフラグ（merge_flagやmerge_left_flag等）の生成が行われるが、時間予測制御部１２１による制御は、第１の実施の形態や第２の実施の形態において説明したのと同様である。
＜３．第３の実施の形態＞
［空間周辺動きベクトルの利用可否による制御］
また、非特許文献２や非特許文献３に記載の方法においては、全ての周辺動きベクトルが利用不可（not available）である場合、(0,0)が、予測動きベクトル情報として設定される。しかしながら、全ての空間周辺動きベクトルが利用不可（not available）であるが、時間周辺動きベクトルが利用可（available）である場合、この機能は動作しない。つまりこの場合、時間予測動きベクトル（temporal predictor）が選択されることになり、それによって、メモリアクセスに対する負荷が増大する可能性がある。
そこで、第１の実施の形態や第２の実施の形態において説明した方法において、時間周辺動きベクトルが利用可（available）であっても、全ての空間周辺動きベクトルが利用不可（not available）である場合、(0,0)が、予測動きベクトル情報として設定されるようにしてもよい。
［時間予測を用いた動きベクトル符号化処理の流れ］
その場合の、時間予測を用いた動きベクトル符号化処理の流れの例を、図１１のフローチャートを参照して説明する。
時間予測を用いた動きベクトル符号化処理が開始されると、空間予測動きベクトル決定部１５１は、ステップＳ３０１において、空間周辺動きベクトルが全て利用不可であるか否かを判定する。利用可の空間周辺動きベクトルが存在すると判定された場合、空間予測動きベクトル決定部１５１は、処理をステップＳ３０２に進める。
ステップＳ３０２において、空間予測動きベクトル決定部１５１は、利用可の空間周辺動きベクトルを用いて空間予測動きベクトルを生成する。
ステップＳ３０３において、時間予測動きベクトル決定部１５２は、時間予測動きベクトルを生成する。
ステップＳ３０４において、予測動きベクトル生成部１５３は、ステップＳ３０２において生成された空間予測動きベクトルと、ステップＳ３０３において生成された時間予測動きベクトルの内、より適切な方、すなわち、注目領域の動きベクトルにより近い方を、予測動きベクトルに決定する。予測動きベクトルを決定すると、予測動きベクトル生成部１５３は、処理をステップＳ３０６に進める。
また、ステップＳ３０１において、空間周辺動きベクトルが全て利用不可であると判定された場合、空間予測動きベクトル決定部１５１は、処理をステップＳ３０５に進める。ステップＳ３０５において、予測動きベクトル生成部１５３は、（０，０）、すなわち、ゼロベクトルを、予測動きベクトルとする。予測動きベクトルを決定すると、予測動きベクトル生成部１５３は、処理をステップＳ３０６に進める。
ステップＳ３０６において、差分動きベクトル生成部１５４は、ステップＳ３０４若しくはステップＳ３０５において生成された予測動きベクトルと、注目領域の動きベクトルとの差分である差分動きベクトルを生成し、その差分動きベクトルを含む差分動き情報を生成する。
差分動き情報が生成されると、差分動きベクトル生成部１５４は、時間予測を用いた動きベクトル符号化処理を終了し、処理を図６に戻す。
このような処理を行うことにより、動きベクトル符号化部１２２は、時間周辺動きベクトルが利用可（available）であっても、全ての空間周辺動きベクトルが利用不可（not available）である場合、時間予測動きベクトル（temporal predictor）を候補モードの予測動きベクトル情報から除外することができる。これにより、動きベクトル符号化部１２２は、メモリアクセスに対する負荷の増大を抑制することができる。
なお、予測動き情報には予測動きベクトルの種類を示すコードナンバが含まれるが、第１の実施の形態乃至第３の実施の形態において上述したように、時間予測制御部１２１が時間予測を行わないように制御した場合、このコードナンバの割当表から、時間予測動きベクトルを除外するようにしてもよい。このようにすることにより、空間予測動きベクトルを、コードナンバのより若い番号に割り当てることができる。コードナンバが若いほど符号量は少ないので、このようにすることにより符号化効率を向上させることができる。
ただし、この場合、復号側においても、符号化側と同様の、コードナンバの割当表の切り換え制御が必要になる。また、符号化側と復号側の両方において、複数種類のコードナンバの割当表（符号化側と復号側のそれぞれに互いに同一のもの）を用意する必要がある。なお、符号化側に用意されたコードナンバの割当表を復号側に伝送するようにしてもよい。
＜４．第４の実施の形態＞
［予測動きベクトル確認］
なお、符号化の際に、以上のような制限を規定する規格に従って時間予測が制限されたか否かを、復号側において、符号化データ（ビットストリーム）を解析して確認するようにしてもよい。例えば、その確認結果をデバッグ処理に利用するようにしてもよい。
［画像復号装置］
図１２は、画像処理装置である画像復号装置の主な構成例を示すブロック図である。図１２に示される画像復号装置４００は、図１の画像符号化装置１００に対応する装置である。つまり、画像復号装置４００は、画像符号化装置１００が画像を符号化して生成した符号化データ（ビットストリーム）を、画像符号化装置１００の符号化方法に対応する復号方法で復号し、復号画像を得る。
さらに、画像復号装置４００は、画像符号化装置１００から伝送された符号化データ（ビットストリーム）が、符号化復号の規格において定義される、第１の実施の形態において説明したような時間予測の制限の下に生成されたか否かを確認する。
図１２に示されるように、画像復号装置４００は、蓄積バッファ４０１、可逆復号部４０２、逆量子化部４０３、逆直交変換部４０４、演算部４０５、ループフィルタ４０６、画面並べ替えバッファ４０７、およびD/A変換部４０８を有する。また、画像復号装置４００は、フレームメモリ４０９、選択部４１０、イントラ予測部４１１、動き予測・補償部４１２、および選択部４１３を有する。
さらに、画像復号装置４００は、動きベクトル復号部４２１および予測動きベクトル確認部４２２を有する。
蓄積バッファ４０１は、伝送されてきた符号化データを蓄積し、所定のタイミングにおいてその符号化データを可逆復号部４０２に供給する。可逆復号部４０２は、蓄積バッファ４０１より供給された、図１の可逆符号化部１０６により符号化された情報を、可逆符号化部１０６の符号化方式に対応する方式で復号する。可逆復号部４０２は、復号して得られた差分画像の量子化された係数データを、逆量子化部４０３に供給する。
また、可逆復号部４０２は、符号化データを復号して得られた最適な予測モードに関する情報を参照し、最適な予測モードにイントラ予測モードが選択されたかインター予測モードが選択されたかを判定する。可逆復号部４０２は、その判定結果に基づいて、その最適な予測モードに関する情報を、イントラ予測部４１１若しくは動き予測・補償部４１２に供給する。つまり、例えば、画像符号化装置１００において最適な予測モードとしてイントラ予測モードが選択された場合、その最適な予測モードに関する情報であるイントラ予測情報等がイントラ予測部４１１に供給される。また、例えば、画像符号化装置１００において最適な予測モードとしてインター予測モードが選択された場合、その最適な予測モードに関する情報であるインター予測情報等が動き予測・補償部４１２に供給される。
逆量子化部４０３は、可逆復号部４０２により復号されて得られた量子化された係数データを、図１の量子化部１０５の量子化方式に対応する方式で逆量子化し、得られた係数データを逆直交変換部４０４に供給する。逆直交変換部４０４は、図１の直交変換部１０４の直交変換方式に対応する方式で逆量子化部４０３から供給される係数データを逆直交変換する。逆直交変換部４０４は、この逆直交変換処理により、画像符号化装置１００において直交変換される前の差分画像に対応する差分画像を得る。
逆直交変換されて得られた差分画像は、演算部４０５に供給される。また、演算部４０５には、選択部４１３を介して、イントラ予測部４１１若しくは動き予測・補償部４１２から予測画像が供給される。
演算部４０５は、差分画像と予測画像とを加算し、画像符号化装置１００の演算部１０３により予測画像が減算される前の画像に対応する再構成画像を得る。演算部４０５は、その再構成画像をループフィルタ４０６に供給する。
ループフィルタ４０６は、供給された再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜施して復号画像を生成する。例えば、ループフィルタ４０６は、再構成画像に対してデブロックフィルタ処理を行うことにより、ブロック歪を除去する。また、例えば、ループフィルタ４０６は、そのデブロックフィルタ処理結果（ブロック歪みの除去が行われた再構成画像）に対して、ウィナーフィルタ（Wiener Filter）を用いてループフィルタ処理を行うことにより画質改善を行う。
なお、ループフィルタ４０６が行うフィルタ処理の種類は任意であり、上述した以外のフィルタ処理を行ってもよい。また、ループフィルタ４０６が、図１の画像符号化装置１００から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。
ループフィルタ４０６は、フィルタ処理結果である復号画像を画面並べ替えバッファ４０７およびフレームメモリ４０９に供給する。なお、このループフィルタ４０６によるフィルタ処理は省略することもできる。つまり、演算部４０５の出力が、フィルタ処理されずに、フレームメモリ４０９に格納されるようにすることもできる。例えば、イントラ予測部４１１は、この画像に含まれる画素の画素値を周辺画素の画素値として利用する。
画面並べ替えバッファ４０７は、供給された復号画像の並べ替えを行う。すなわち、図１の画面並べ替えバッファ１０２により符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。D/A変換部４０８は、画面並べ替えバッファ４０７から供給された復号画像をD/A変換し、図示せぬディスプレイに出力し、表示させる。
フレームメモリ４０９は、供給される再構成画像や復号画像を記憶する。また、フレームメモリ４０９は、所定のタイミングにおいて、若しくは、イントラ予測部４１１や動き予測・補償部４１２等の外部の要求に基づいて、記憶している再構成画像や復号画像を、選択部４１０を介してイントラ予測部４１１や動き予測・補償部４１２に供給する。
イントラ予測部４１１は、図１のイントラ予測部１１４と基本的に同様の処理を行う。ただし、イントラ予測部４１１は、符号化の際にイントラ予測により予測画像が生成された領域に対してのみ、イントラ予測を行う。
動き予測・補償部４１２は、可逆復号部４０２から供給されるインター予測情報に基づいてインター動き予測処理を行い、予測画像を生成する。なお、動き予測・補償部４１２は、可逆復号部４０２から供給されるインター予測情報に基づいて、符号化の際にインター予測が行われた領域に対してのみ、インター動き予測処理を行う。
動き予測・補償部４１２は、予測処理単位の領域毎に、生成した予測画像を、選択部４１３を介して演算部４０５に供給する。
選択部４１３は、イントラ予測部４１１から供給される予測画像、若しくは、動き予測・補償部４１２から供給される予測画像を演算部４０５に供給する。
動きベクトル復号部４２１は、動き予測・補償部４１２から、画像符号化装置１００から供給された予測動き情報を取得し、動き予測・補償部４１２において利用される予測動きベクトルを再構築する。
予測動きベクトル確認部４２２は、画像符号化装置１００が予測ベクトルを、規格に従って生成したか否かを確認する。
［動き予測・補償部、動きベクトル復号部、および予測動きベクトル確認部］
図１３は、動き予測・補償部４１２、動きベクトル復号部４２１、および予測動きベクトル確認部４２２の主な構成例を示すブロック図である。
図１３に示されるように、動き予測・補償部４１２は、最適モード情報バッファ４３１、予測動き情報バッファ４３２、差分動き情報バッファ４３３、動き情報再構築部４３４、動き補償部４３５、および動き情報バッファ４３６を有する。
また、動きベクトル復号部４２１は、空間予測動きベクトル決定部４４１、時間予測動きベクトル決定部４４２、および予測動きベクトル再構築部４４３を有する。
最適モード情報バッファ４３１は、可逆復号部４０２から供給される、ビットストリームから抽出された最適モード情報を取得し、記憶する。最適モード情報バッファ４３１は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している最適モード情報を、予測動きベクトル確認部４２２の領域サイズ判定部４５２に供給する。
予測動き情報バッファ４３２は、可逆復号部４０２から供給される、ビットストリームから抽出された予測動き情報を取得し、記憶する。予測動き情報は、予測動きベクトルを生成する為に動きベクトルを参照される周辺領域（時間周辺領域または空間周辺領域）を示す情報を含む。予測動き情報バッファ４３２は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している予測動き情報を、動きベクトル復号部４２１の空間予測動きベクトル決定部４４１および時間予測動きベクトル決定部４４２、並びに、予測動きベクトル確認部４２２の動きベクトル符号化方法判定部４５３に供給する。
差分動き情報バッファ４３３は、可逆復号部４０２から供給される、ビットストリームから抽出された差分動き情報を取得し、記憶する。差分動き情報バッファ４３３は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、その記憶している差分動き情報を動き情報再構築部４３４に供給する。
動き情報再構築部４３４は、差分動き情報バッファ４３３から、処理対象である当該領域の差分動き情報を取得すると、予測動きベクトル再構築部４４３から、注目領域の予測動きベクトル情報を取得し、それらを用いて注目領域の動き情報を再構築する。より具体的には、動き情報再構築部４３４は、差分動き情報の差分動きベクトルに、予測動きベクトル情報の予測動きベクトルを加算することにより、注目領域の動きベクトルを再構築する。動き情報再構築部４３４は、その動きベクトルを含む動き情報を、動き補償部４３５、動き情報バッファ４３６、並びに、空間予測動きベクトル決定部４４１に供給する。
動き補償部４３５は、動き情報再構築部４３４から供給される当該領域の動き情報を取得する。また、動き補償部４３５は、フレームメモリ４０９から供給される参照画像画素値を取得する。動き補償部４３５は、それらを用いて動き補償を行い、予測画像を生成する。動き補償部４３５は、その予測画像画素値を、選択部４１３を介して演算部４０５に供給する。
動き情報バッファ４３６は、例えばDRAM等の、大容量かつ低速な記憶領域を有し、動き情報再構築部４３４から供給される動き情報をその記憶領域に記憶する。この動き情報バッファ４３６に記憶される動き情報は、時間予測において時間周辺動き情報として利用される。つまり、動き情報バッファ４３６は、所定のタイミングにおいて、若しくは、外部からの要求に基づいて、記憶している動き情報を、動きベクトル復号部４２１の時間予測動きベクトル決定部４４２に供給する。
動きベクトル復号部４２１の空間予測動きベクトル決定部４４１は、動き情報再構築部４３４から供給される動き情報を取得し、記憶する。空間予測動きベクトル決定部４４１は、例えばラインバッファ等の、小容量かつ高速な記憶領域を有しており、その記憶領域に、動き情報再構築部４３４から取得した動き情報を記憶する。この動き情報は、空間予測において空間周辺動き情報として利用される。
なお、空間予測動きベクトル決定部４４１に記憶される動き情報のうち、空間周辺動き情報として使用される可能性がなくなった動き情報は、例えば記憶領域の空き容量が不足した場合等、所定のタイミングにおいて、空間予測動きベクトル決定部４４１の記憶領域から破棄される。なお、この空間予測動きベクトル決定部４４１から破棄された動き情報が、動き情報バッファ４３６に供給され、記憶されるようにしてもよい。つまり、この場合、動き情報バッファ４３６は、動き情報を、動き情報再構築部４３４から取得するのではなく、空間予測動きベクトル決定部４４１から取得する。
空間予測動きベクトル決定部４４１は、予測動き情報に基づいて、記憶している動きベクトルを用いて空間予測を行い、空間予測動きベクトルを生成する。空間予測動きベクトル決定部４４１は、その空間予測動きベクトルを含む空間予測動きベクトル情報を、予測動きベクトル再構築部４４３に供給する。
時間予測動きベクトル決定部４４２は、予測動き情報に基づいて、動き情報バッファ４３６から時間周辺動き情報を取得し、その時間周辺動きベクトルを用いて時間予測を行い、時間予測動きベクトル（および空間・時間予測動きベクトル）を生成する。時間予測動きベクトル決定部４４２は、生成した時間予測動きベクトル（および空間・時間予測動きベクトル）を含む時間予測動きベクトル情報を予測動きベクトル再構築部４４３に供給する。
予測動きベクトル再構築部４４３は、各インター予測モードについて、空間予測動きベクトル決定部４４１から供給された空間予測動きベクトル情報と、時間予測動きベクトル決定部４４２から供給される時間予測動きベクトル情報とを取得する。予測動きベクトル再構築部４４３は、各インター予測モードについて、その空間予測動きベクトル情報と時間予測動きベクトル情報との内、動き情報再構築部４３４において再構築された動き情報に対してより適切な方を選択する。つまり、予測動きベクトル再構築部４４３は、注目領域の動きベクトルに近い方の予測動きベクトル（を含む予測動きベクトル情報）を選択する。なお、時間予測が行われない場合、空間予測動きベクトル情報しか供給されないので、予測動きベクトル再構築部４４３は、その空間予測動きベクトル情報を選択する。
予測動きベクトル再構築部４４３は、各インター予測モードについて、選択した予測動きベクトル情報と、注目領域の動き情報とを、動き情報再構築部４３４に供給する。
また、予測動きベクトル確認部４２２は、閾値設定部４５１、領域サイズ判定部４５２、動きベクトル符号化方法判定部４５３、および制御部４５４を有する。
閾値設定部４５１は、閾値設定部１４１と同様に動作し、閾値を設定する。領域サイズ判定部４５２は、最適モード情報バッファ４３１から領域サイズの情報を取得し、その領域サイズを、閾値設定部４５１から取得した閾値を用いて、領域サイズ判定部１４２の場合と同様に判定する。つまり、領域サイズ判定部１４２は、第１の実施の形態で説明したように時間予測を制限しながら符号化を行った場合に、注目領域の予測動きベクトルが空間予測動きベクトルとなるか時間予測動きベクトルとなるかを、注目領域のサイズに基づいて判定する。領域サイズ判定部１４２は、その判定の結果、選択された動きベクトル符号化方法を動きベクトル符号化方法判定部４５３に供給する。
動きベクトル符号化方法判定部４５３は、予測情報において示される動きベクトル符号化方法（予測動きベクトルが空間予測動きベクトルであるか、時間予測動きベクトルであるか）が、領域サイズ判定部４５２における判定結果と一致するか否かを判定する。つまり動きベクトル符号化方法判定部４５３は、画像符号化装置１００から取得した符号化データが、第１の実施の形態において説明した時間予測の制限の下で生成されたものであるか否かを判定する。換言するに、動きベクトル符号化方法判定部４５３は、画像符号化装置１００から取得した符号化データにおいて、時間予測が、第１の実施の形態において説明したように制限されているか否かを判定する。
そして、動きベクトル符号化方法判定部４５３は、その判定結果を制御部４５４に通知する。
制御部４５４は、その判定結果に基づいて各部を制御する。より具体的には、制御部４５４は、符号化データにおいて、時間予測が、第１の実施の形態において説明したように制限されていない場合、ユーザにその旨を通知したり、復号処理を終了したりするエラー処理を行う。
［復号処理の流れ］
次に、以上のような画像復号装置４００により実行される各処理の流れについて説明する。最初に、図１４のフローチャートを参照して、復号処理の流れの例を説明する。
復号処理が開始されると、ステップＳ４０１において、蓄積バッファ４０１は、伝送されてきたビットストリームを蓄積する。ステップＳ４０２において、可逆復号部４０２は、蓄積バッファ４０１から供給されるビットストリーム（符号化された差分画像情報）を復号する。このとき、イントラ予測情報やインター予測情報等、ビットストリームに含められた差分画像情報以外の各種情報も復号される。
ステップＳ４０３において、逆量子化部４０３は、ステップＳ４０２の処理により得られた、量子化された直交変換係数を逆量子化する。ステップＳ４０４において逆直交変換部４０４は、ステップＳ４０３において逆量子化された直交変換係数を逆直交変換する。
ステップＳ４０５において、イントラ予測部４１１若しくは動き予測・補償部４１２は、供給された情報を用いて予測処理を行う。ステップＳ４０６において、演算部４０５は、ステップＳ４０４において逆直交変換されて得られた差分画像情報に、ステップＳ４０５において生成された予測画像を加算する。これにより再構成画像が生成される。
ステップＳ４０７において、ループフィルタ４０６は、ステップＳ４０６において得られた再構成画像に対して、デブロックフィルタ処理や適応ループフィルタ処理等を含むループフィルタ処理を適宜行う。
ステップＳ４０８において、画面並べ替えバッファ４０７は、ステップＳ４０７においてフィルタ処理されて生成された復号画像の並べ替えを行う。すなわち画像符号化装置１００の画面並べ替えバッファ１０２により符号化のために並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。
ステップＳ４０９において、D/A変換部４０８は、フレームの順序が並べ替えられた復号画像をD/A変換する。この復号画像が図示せぬディスプレイに出力され、表示される。
ステップＳ４１０において、フレームメモリ４０９は、ステップＳ４０７においてフィルタ処理されて得られた復号画像を記憶する。この復号画像は、インター予測処理において参照画像として利用される。
ステップＳ４１０の処理が終了すると、復号処理が終了される。
［予測処理の流れ］
次に、図１５のフローチャートを参照して、図１４のステップＳ４０５において実行される予測処理の流れの例を説明する。
予測処理が開始されると、可逆復号部４０２は、ステップＳ４３１において、処理対象の領域が符号化の際にイントラ予測が行われたか否かを判定する。イントラ予測が行われたと判定された場合、可逆復号部４０２は、処理をステップＳ４３２に進める。
この場合、イントラ予測部４１１は、ステップＳ４３２において、可逆復号部４０２からイントラ予測モード情報を取得し、ステップＳ４３３において、イントラ予測によって予測画像を生成する。予測画像が生成されると、イントラ予測部４１１は、予測処理を終了し、処理を図１４に戻す。
また、ステップＳ４３１において、当該領域がインター予測の行われた領域であると判定した場合、可逆復号部４０２は、処理をステップＳ４３４に進める。ステップＳ４３４において、動き予測・補償部４１２は、インター動き予測処理を行う。インター動き予測処理が終了すると、動き予測・補償部４１２は、予測処理を終了し、処理を図１４に戻す。
［インター動き予測処理の流れ］
次に、図１６のフローチャートを参照して、図１５のステップＳ４３４において実行されるインター動き予測処理の流れの例を説明する。
ステップＳ４５１において、閾値設定部４５１は、プロファイルレベルに応じて閾値を設定する。
ステップＳ４５２において、最適モード情報バッファ４３１は、符号化データより抽出された最適モード情報を取得する。
ステップＳ４５３において、領域サイズ判定部４５２は、注目領域のサイズが、ステップＳ４５１において設定された閾値より大きいか否かを判定し、第１の実施の形態において説明した時間予測の制限が適用された場合の動きベクトル符号化方法を判定する。
ステップＳ４５４において、予測動き情報バッファ４３２は、符号化データより抽出された予測動き情報を取得する。
ステップＳ４５５において、動きベクトル符号化方法判定部４５３は、ステップＳ４５４において取得された予測動き情報に示される注目領域の予測動きベクトルが、ステップＳ４５３において判定された動きベクトル符号化方法に適合するか否かを判定する。つまり、動きベクトル符号化方法判定部４５３は、符号化データにおける注目領域の動きベクトル符号化方法（時間予測であるか空間予測であるか）が、第１の実施の形態において説明した時間予測の制限が適用された場合の動きベクトル符号化方法と一致するか否かを判定する。
注目領域の予測動きベクトルが、ステップＳ４５３において判定された動きベクトル符号化方法に適合すると判定された場合、動きベクトル符号化方法判定部４５３は、処理をステップＳ４５６に進める。
ステップＳ４５６において、動きベクトル符号化方法判定部４５３は、注目領域の動きベクトル符号化方法が時間予測であるか否かを判定し、時間予測であると判定した場合、処理をステップＳ４５７に進める。その場合、ステップＳ４５７において、動きベクトル復号部４２１は、時間予測を用いて予測動きベクトルを再構築する。
また、ステップＳ４５６において、注目領域の動きベクトル符号化方法が空間予測であると判定した場合、動きベクトル符号化方法判定部４５３は、処理をステップＳ４５８に進める。その場合、ステップＳ４５８において、動きベクトル復号部４２１は、空間予測を用いて予測動きベクトルを再構築する。
ステップＳ４５９において、差分動き情報バッファ４３３は、差分動き情報を取得する。ステップＳ４６０において、動き情報再構築部４３４は、ステップＳ４５９において取得された差分動き情報を用いて動き情報を再構築する。ステップＳ４６１において、動き補償部４３５は、ステップＳ４６０において再構築された動き情報を用いて、動き補償を行う。ステップＳ４６２において、動き情報バッファ４３６および空間予測動きベクトル決定部４４１は、ステップＳ４６０において再構築された動き情報を記憶する。ステップＳ４６２の処理が終了すると、動き情報バッファ４３６および空間予測動きベクトル決定部４４１は、インター動き予測処理を終了する。
また、ステップＳ４５５において、注目領域の予測動きベクトルが、ステップＳ４５３において判定された動きベクトル符号化方法に適合しないと判定された場合、動きベクトル符号化方法判定部４５３は、処理をステップＳ４６３に進める。
ステップＳ４６３において、制御部４５４は、エラー処理を行い、例えばユーザにその旨を通知したり、復号処理を中止させたりする等、予め定められたエラー時の処理を実行する。エラー処理が終了すると、制御部４５４は、ンター動き予測処理を終了する。
以上のように各処理を行うことにより、画像復号装置４００は、符号化の際に、領域サイズに基づいた時間予測の制限が行われたか否かを、正しく確認することが出来る。これにより、デバッグ処理を行ったり、復号処理を中止したりすることができる。
なお、第２の実施の形態において説明したような、時間予測動きベクトルの発生回数に基づいた時間予測の制限を行う場合も、同様の方法で、確認することができる。
なお、本技術は、例えば、MPEG、H．26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報（ビットストリーム）を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像符号化装置および画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像符号化装置および画像復号装置に適用することができる。さらに、本技術は、それらの画像符号化装置および画像復号装置などに含まれる動き予測補償装置にも適用することができる。
＜５．第５の実施の形態＞
［コンピュータ］
上述した一連の処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な汎用のパーソナルコンピュータなどが含まれる。
図１７において、パーソナルコンピュータ５００のCPU（Central Processing Unit）５０１は、ROM（Read Only Memory）５０２に記憶されているプログラム、または記憶部５１３からRAM（Random Access Memory）５０３にロードされたプログラムに従って各種の処理を実行する。RAM５０３にはまた、CPU５０１が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU５０１、ROM５０２、およびRAM５０３は、バス５０４を介して相互に接続されている。このバス５０４にはまた、入出力インタフェース５１０も接続されている。
入出力インタフェース５１０には、キーボード、マウスなどよりなる入力部５１１、CRT（Cathode Ray Tube）やLCD（Liquid Crystal Display）などよりなるディスプレイ、並びにスピーカなどよりなる出力部５１２、ハードディスクなどより構成される記憶部５１３、モデムなどより構成される通信部５１４が接続されている。通信部５１４は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース５１０にはまた、必要に応じてドライブ５１５が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア５２１が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部５１３にインストールされる。
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
この記録媒体は、例えば、図１７に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク（フレキシブルディスクを含む）、光ディスク（CD-ROM（Compact Disc - Read Only Memory）,DVD（Digital Versatile Disc）を含む）、光磁気ディスク（MD（Mini Disc）を含む）、若しくは半導体メモリなどよりなるリムーバブルメディア５２１により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM５０２や、記憶部５１３に含まれるハードディスクなどで構成される。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数のデバイス（装置）により構成される装置全体を表すものである。
また、以上において、１つの装置（または処理部）として説明した構成を分割し、複数の装置（または処理部）として構成するようにしてもよい。逆に、以上において複数の装置（または処理部）として説明した構成をまとめて１つの装置（または処理部）として構成されるようにしてもよい。また、各装置（または各処理部）の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置（または処理部）の構成の一部を他の装置（または他の処理部）の構成に含めるようにしてもよい。つまり、本技術は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
上述した実施形態に係る画像符号化装置及び画像復号装置は、衛星放送、ケーブルＴＶなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、４つの応用例について説明する。
＜６．第６の実施の形態＞
［第１の応用例：テレビジョン受像機］
図１８は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置９００は、アンテナ９０１、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、表示部９０６、音声信号処理部９０７、スピーカ９０８、外部インタフェース９０９、制御部９１０、ユーザインタフェース９１１、及びバス９１２を備える。
チューナ９０２は、アンテナ９０１を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９０２は、復調により得られた符号化ビットストリームをデマルチプレクサ９０３へ出力する。即ち、チューナ９０２は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
デマルチプレクサ９０３は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ９０４へ出力する。また、デマルチプレクサ９０３は、符号化ビットストリームからEPG（Electronic Program Guide）などの補助的なデータを抽出し、抽出したデータを制御部９１０に供給する。なお、デマルチプレクサ９０３は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
デコーダ９０４は、デマルチプレクサ９０３から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ９０４は、復号処理により生成される映像データを映像信号処理部９０５へ出力する。また、デコーダ９０４は、復号処理により生成される音声データを音声信号処理部９０７へ出力する。
映像信号処理部９０５は、デコーダ９０４から入力される映像データを再生し、表示部９０６に映像を表示させる。また、映像信号処理部９０５は、ネットワークを介して供給されるアプリケーション画面を表示部９０６に表示させてもよい。また、映像信号処理部９０５は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部９０５は、例えばメニュー、ボタン又はカーソルなどのGUI（Graphical User Interface）の画像を生成し、生成した画像を出力画像に重畳してもよい。
表示部９０６は、映像信号処理部９０５から供給される駆動信号により駆動され、表示デバイス（例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD（Organic ElectroLuminescence Display）（有機ELディスプレイ）など）の映像面上に映像又は画像を表示する。
音声信号処理部９０７は、デコーダ９０４から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ９０８から音声を出力させる。また、音声信号処理部９０７は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
外部インタフェース９０９は、テレビジョン装置９００と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース９０９を介して受信される映像ストリーム又は音声ストリームが、デコーダ９０４により復号されてもよい。即ち、外部インタフェース９０９もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置９００における伝送部としての役割を有する。
制御部９１０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置９００の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９１１から入力される操作信号に応じて、テレビジョン装置９００の動作を制御する。
ユーザインタフェース９１１は、制御部９１０と接続される。ユーザインタフェース９１１は、例えば、ユーザがテレビジョン装置９００を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９１１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９１０へ出力する。
バス９１２は、チューナ９０２、デマルチプレクサ９０３、デコーダ９０４、映像信号処理部９０５、音声信号処理部９０７、外部インタフェース９０９及び制御部９１０を相互に接続する。
このように構成されたテレビジョン装置９００において、デコーダ９０４は、上述した実施形態に係る画像復号装置の機能を有する。それにより、テレビジョン装置９００での画像の復号に際して、復号処理の負荷の増大を抑制することができる。
＜７．第７の実施の形態＞
［第２の応用例：携帯電話機］
図１９は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機９２０は、アンテナ９２１、通信部９２２、音声コーデック９２３、スピーカ９２４、マイクロホン９２５、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、制御部９３１、操作部９３２、及びバス９３３を備える。
アンテナ９２１は、通信部９２２に接続される。スピーカ９２４及びマイクロホン９２５は、音声コーデック９２３に接続される。操作部９３２は、制御部９３１に接続される。バス９３３は、通信部９２２、音声コーデック９２３、カメラ部９２６、画像処理部９２７、多重分離部９２８、記録再生部９２９、表示部９３０、及び制御部９３１を相互に接続する。
携帯電話機９２０は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
音声通話モードにおいて、マイクロホン９２５により生成されるアナログ音声信号は、音声コーデック９２３に供給される。音声コーデック９２３は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック９２３は、圧縮後の音声データを通信部９２２へ出力する。通信部９２２は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック９２３へ出力する。音声コーデック９２３は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
また、データ通信モードにおいて、例えば、制御部９３１は、操作部９３２を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部９３１は、文字を表示部９３０に表示させる。また、制御部９３１は、操作部９３２を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部９２２へ出力する。通信部９２２は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部９２２は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部９３１へ出力する。制御部９３１は、表示部９３０に電子メールの内容を表示させると共に、電子メールデータを記録再生部９２９の記憶媒体に記憶させる。
記録再生部９２９は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、ＲＡＭ又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB（Unallocated Space Bitmap）メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
また、撮影モードにおいて、例えば、カメラ部９２６は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部９２７へ出力する。画像処理部９２７は、カメラ部９２６から入力される画像データを符号化し、符号化ストリームを記憶再生部９２９の記憶媒体に記憶させる。
また、テレビ電話モードにおいて、例えば、多重分離部９２８は、画像処理部９２７により符号化された映像ストリームと、音声コーデック９２３から入力される音声ストリームとを多重化し、多重化したストリームを通信部９２２へ出力する。通信部９２２は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部９２２は、生成した送信信号を、アンテナ９２１を介して基地局（図示せず）へ送信する。また、通信部９２２は、アンテナ９２１を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部９２２は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部９２８へ出力する。多重分離部９２８は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部９２７、音声ストリームを音声コーデック９２３へ出力する。画像処理部９２７は、映像ストリームを復号し、映像データを生成する。映像データは、表示部９３０に供給され、表示部９３０により一連の画像が表示される。音声コーデック９２３は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック９２３は、生成した音声信号をスピーカ９２４に供給して音声を出力させる。
このように構成された携帯電話機９２０において、画像処理部９２７は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、携帯電話機９２０での画像の符号化及び復号に際して、符号化処理や復号処理の負荷の増大を抑制することができる。
＜８．第８の実施の形態＞
［第３の応用例：記録再生装置］
図２０は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置９４０は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置９４０は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置９４０は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置９４０は、音声データ及び映像データを復号する。
記録再生装置９４０は、チューナ９４１、外部インタフェース９４２、エンコーダ９４３、HDD（Hard Disk Drive）９４４、ディスクドライブ９４５、セレクタ９４６、デコーダ９４７、OSD（On-Screen Display）９４８、制御部９４９、及びユーザインタフェース９５０を備える。
チューナ９４１は、アンテナ（図示せず）を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ９４１は、復調により得られた符号化ビットストリームをセレクタ９４６へ出力する。即ち、チューナ９４１は、記録再生装置９４０における伝送部としての役割を有する。
外部インタフェース９４２は、記録再生装置９４０と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース９４２は、例えば、IEEE1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース９４２を介して受信される映像データ及び音声データは、エンコーダ９４３へ入力される。即ち、外部インタフェース９４２は、記録再生装置９４０における伝送部としての役割を有する。
エンコーダ９４３は、外部インタフェース９４２から入力される映像データ及び音声データが符号化されていない場合に、映像データ及び音声データを符号化する。そして、エンコーダ９４３は、符号化ビットストリームをセレクタ９４６へ出力する。
HDD９４４は、映像及び音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラムおよびその他のデータを内部のハードディスクに記録する。また、HDD９４４は、映像及び音声の再生時に、これらデータをハードディスクから読み出す。
ディスクドライブ９４５は、装着されている記録媒体へのデータの記録及び読み出しを行う。ディスクドライブ９４５に装着される記録媒体は、例えばDVDディスク（DVD-Video、DVD-RAM、DVD-R、DVD-RW、DVD+R、DVD+RW等）又はBlu-ray（登録商標）ディスクなどであってよい。
セレクタ９４６は、映像及び音声の記録時には、チューナ９４１又はエンコーダ９４３から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD９４４又はディスクドライブ９４５へ出力する。また、セレクタ９４６は、映像及び音声の再生時には、HDD９４４又はディスクドライブ９４５から入力される符号化ビットストリームをデコーダ９４７へ出力する。
デコーダ９４７は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ９４７は、生成した映像データをOSD９４８へ出力する。また、デコーダ９０４は、生成した音声データを外部のスピーカへ出力する。
OSD９４８は、デコーダ９４７から入力される映像データを再生し、映像を表示する。また、OSD９４８は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
制御部９４９は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置９４０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９５０から入力される操作信号に応じて、記録再生装置９４０の動作を制御する。
ユーザインタフェース９５０は、制御部９４９と接続される。ユーザインタフェース９５０は、例えば、ユーザが記録再生装置９４０を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース９５０は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９４９へ出力する。
このように構成された記録再生装置９４０において、エンコーダ９４３は、上述した実施形態に係る画像符号化装置の機能を有する。また、デコーダ９４７は、上述した実施形態に係る画像復号装置の機能を有する。それにより、記録再生装置９４０での画像の符号化及び復号に際して、符号化処理や復号処理の負荷の増大を抑制することができる。
＜９．第９の実施の形態＞
［第４の応用例：撮像装置］
図２１は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置９６０は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
撮像装置９６０は、光学ブロック９６１、撮像部９６２、信号処理部９６３、画像処理部９６４、表示部９６５、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、制御部９７０、ユーザインタフェース９７１、及びバス９７２を備える。
光学ブロック９６１は、撮像部９６２に接続される。撮像部９６２は、信号処理部９６３に接続される。表示部９６５は、画像処理部９６４に接続される。ユーザインタフェース９７１は、制御部９７０に接続される。バス９７２は、画像処理部９６４、外部インタフェース９６６、メモリ９６７、メディアドライブ９６８、OSD９６９、及び制御部９７０を相互に接続する。
光学ブロック９６１は、フォーカスレンズ及び絞り機構などを有する。光学ブロック９６１は、被写体の光学像を撮像部９６２の撮像面に結像させる。撮像部９６２は、CCD（Charge Coupled Device）又はCMOS（Complementary Metal Oxide Semiconductor）などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部９６２は、画像信号を信号処理部９６３へ出力する。
信号処理部９６３は、撮像部９６２から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部９６３は、カメラ信号処理後の画像データを画像処理部９６４へ出力する。
画像処理部９６４は、信号処理部９６３から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部９６４は、生成した符号化データを外部インタフェース９６６又はメディアドライブ９６８へ出力する。また、画像処理部９６４は、外部インタフェース９６６又はメディアドライブ９６８から入力される符号化データを復号し、画像データを生成する。そして、画像処理部９６４は、生成した画像データを表示部９６５へ出力する。また、画像処理部９６４は、信号処理部９６３から入力される画像データを表示部９６５へ出力して画像を表示させてもよい。また、画像処理部９６４は、OSD９６９から取得される表示用データを、表示部９６５へ出力する画像に重畳してもよい。
OSD９６９は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部９６４へ出力する。
外部インタフェース９６６は、例えばUSB入出力端子として構成される。外部インタフェース９６６は、例えば、画像の印刷時に、撮像装置９６０とプリンタとを接続する。また、外部インタフェース９６６には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置９６０にインストールされ得る。さらに、外部インタフェース９６６は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース９６６は、撮像装置９６０における伝送部としての役割を有する。
メディアドライブ９６８に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ９６８に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD（Solid State Drive）のような非可搬性の記憶部が構成されてもよい。
制御部９７０は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置９６０の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース９７１から入力される操作信号に応じて、撮像装置９６０の動作を制御する。
ユーザインタフェース９７１は、制御部９７０と接続される。ユーザインタフェース９７１は、例えば、ユーザが撮像装置９６０を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース９７１は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部９７０へ出力する。
このように構成された撮像装置９６０において、画像処理部９６４は、上述した実施形態に係る画像符号化装置及び画像復号装置の機能を有する。それにより、撮像装置９６０での画像の符号化及び復号に際して、符号化処理や復号処理の負荷の増大を抑制することができる。
なお、本明細書では、閾値などの様々な情報が、符号化ストリームのヘッダに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像（スライス若しくはブロックなど、画像の一部であってもよい）と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像（又はビットストリーム）とは別の伝送路上で伝送されてもよい。また、情報は、画像（又はビットストリーム）とは別の記録媒体（又は同一の記録媒体の別の記録エリア）に記録されてもよい。さらに、情報と画像（又はビットストリーム）とは、例えば、複数フレーム、１フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示はかかる例に限定されない。本開示の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
なお、本技術は以下のような構成も取ることができる。
（１） 動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御する時間予測制御部と、
前記時間予測制御部の制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する動きベクトル符号化部と
を備える画像処理装置。
（２） 前記時間予測制御部は、前記注目領域の大きさに応じて前記時間予測を行うか否かを制御する
前記（１）に記載の画像処理装置。
（３） 前記時間予測制御部は、前記注目領域の大きさが所定の閾値以下の場合、前記時間予測を行わないように制御する
前記（２）に記載の画像処理装置。
（４） 前記閾値を設定する閾値設定部をさらに備え、
前記時間予測制御部は、前記注目領域の大きさが、前記閾値設定部により設定された前記閾値以下の場合、前記時間予測を行わないように制御する
前記（３）に記載の画像処理装置。
（５） 前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定する
前記（４）に記載の画像処理装置。
（６） 前記閾値を伝送する伝送部をさらに備える
前記（３）に記載の画像処理装置。
（７） 前記時間予測制御部は、前記注目領域の動きベクトルの予測値として、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルが適用された回数によって、前記時間予測を行うか否かを制御する
前記（１）に記載の画像処理装置。
（８） 前記時間予測制御部は、所定のデータ単位当たりの前記回数が所定の閾値に達した場合、前記時間予測を行わないように制御する
前記（７）に記載の画像処理装置。
（９） 前記閾値を設定する閾値設定部をさらに備え、
前記時間予測制御部は、所定のデータ単位当たりの前記回数が、前記閾値設定部により設定された前記閾値に達した場合、前記時間予測を行わないように制御する
前記（８）に記載の画像処理装置。
（１０） 前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定する
前記（９）に記載の画像処理装置。
（１１） 前記閾値設定部は、前記所定のデータ単位の大きさに応じて前記閾値を設定する
前記（９）に記載の画像処理装置。
（１２） 前記所定のデータ単位は、LCU（Largest Coding Unit）である
前記（８）に記載の画像処理装置。
（１３） 前記閾値は、予測方向毎に設けられ、
前記時間予測制御部は、複数の予測方向の内、少なくともいずれか１つの予測方向において、所定のデータ単位当たりの前記回数が、前記予測方向用の閾値に達した場合、前記時間予測を行わないように制御する
前記（８）に記載の画像処理装置。
（１４） 前記閾値を伝送する伝送部をさらに備える
前記（８）に記載の画像処理装置。
（１５） 前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であるか否かを判定する判定部と、
前記時間予測制御部が前記時間予測を行うように制御するか否かに関わらず、前記判定部により前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であると判定された場合、ゼロベクトルを前記注目領域の動きベクトルの予測値に設定する設定部と
をさらに備える前記（１）に記載の画像処理装置。
（１６） 前記動きベクトル符号化部は、前記空間予測のみを行って前記注目領域の動きベクトルを予測する場合、前記時間予測を除外した、前記予測値の種類を示すコードナンバの割当表を用いて前記予測値にコードナンバを割り当てる
前記（１）に記載の画像処理装置。
（１７） 前記コードナンバの割当表を伝送する伝送部をさらに備える
前記（１６）に記載の画像処理装置。
（１８） 前記動きベクトル符号化部は、
前記時間予測制御部により許可された場合、前記時間予測を行い、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルを生成する時間予測部と、
前記空間予測を行い、前記空間予測により予測された前記注目領域の動きベクトルである空間予測動きベクトルを生成する空間予測部と、
前記時間予測部により生成された前記時間予測動きベクトルと、前記空間予測部により生成された前記空間予測動きベクトルとの内、前記注目領域の動きベクトルにより近い方を、前記注目領域の動きベクトルの予測値とする予測動きベクトル生成部と、
前記注目領域の動きベクトルと、前記予測動きベクトル生成部により生成された前記予測値との差分値を算出する差分値算出部と
を備える前記（１）に記載の画像処理装置。
（１９） 前記差分値算出部により算出された前記差分値を伝送する伝送部をさらに備える
前記（１８）に記載の画像処理装置。
（２０） 画像処理装置の画像処理方法であって、
前記時間予測制御部が、動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御し、
前記動きベクトル符号化部が、その制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する
画像処理方法。
１００ 画像符号化装置， １１５ 動き予測・補償部， １２１ 時間予測制御部， １２２ 動きベクトル符号化部， １４１ 閾値設定部， １４２ 領域サイズ判定部， １５１ 空間予測動きベクトル決定部， １５２ 時間予測動きベクトル決定部， １５３ 予測動きベクトル生成部， １５４ 差分動きベクトル生成部， ２０１ 閾値設定部， ２０２ 時間予測動きベクトルカウンタ， ２０３ 適用回数判定部， ４００ 画像復号装置， ４１２ 動き予測・補償部， ４２１ 動きベクトル復号部， ４２２ 予測動きベクトル確認部， ４５１ 閾値設定部， ４５２ 領域サイズ判定部， ４５３ 動きベクトル符号化方法判定部， ４５４ 制御部

Claims (20)

  1. 動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御する時間予測制御部と、
    前記時間予測制御部の制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する動きベクトル符号化部と
    を備える画像処理装置。
  2. 前記時間予測制御部は、前記注目領域の大きさに応じて前記時間予測を行うか否かを制御する
    請求項１に記載の画像処理装置。
  3. 前記時間予測制御部は、前記注目領域の大きさが所定の閾値以下の場合、前記時間予測を行わないように制御する
    請求項２に記載の画像処理装置。
  4. 前記閾値を設定する閾値設定部をさらに備え、
    前記時間予測制御部は、前記注目領域の大きさが、前記閾値設定部により設定された前記閾値以下の場合、前記時間予測を行わないように制御する
    請求項３に記載の画像処理装置。
  5. 前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定する
    請求項４に記載の画像処理装置。
  6. 前記閾値を伝送する伝送部をさらに備える
    請求項３に記載の画像処理装置。
  7. 前記時間予測制御部は、前記注目領域の動きベクトルの予測値として、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルが適用された回数によって、前記時間予測を行うか否かを制御する
    請求項１に記載の画像処理装置。
  8. 前記時間予測制御部は、所定のデータ単位当たりの前記回数が所定の閾値に達した場合、前記時間予測を行わないように制御する
    請求項７に記載の画像処理装置。
  9. 前記閾値を設定する閾値設定部をさらに備え、
    前記時間予測制御部は、所定のデータ単位当たりの前記回数が、前記閾値設定部により設定された前記閾値に達した場合、前記時間予測を行わないように制御する
    請求項８に記載の画像処理装置。
  10. 前記閾値設定部は、プロファイルレベルに応じて前記閾値を設定する
    請求項９に記載の画像処理装置。
  11. 前記閾値設定部は、前記所定のデータ単位の大きさに応じて前記閾値を設定する
    請求項９に記載の画像処理装置。
  12. 前記所定のデータ単位は、LCU（Largest Coding Unit）である
    請求項８に記載の画像処理装置。
  13. 前記閾値は、予測方向毎に設けられ、
    前記時間予測制御部は、複数の予測方向の内、少なくともいずれか１つの予測方向において、所定のデータ単位当たりの前記回数が、前記予測方向用の閾値に達した場合、前記時間予測を行わないように制御する
    請求項８に記載の画像処理装置。
  14. 前記閾値を伝送する伝送部をさらに備える
    請求項８に記載の画像処理装置。
  15. 前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であるか否かを判定する判定部と、
    前記時間予測制御部が前記時間予測を行うように制御するか否かに関わらず、前記判定部により前記注目領域の空間方向の周辺領域の動きベクトルが全て利用不可であると判定された場合、ゼロベクトルを前記注目領域の動きベクトルの予測値に設定する設定部と
    をさらに備える請求項１に記載の画像処理装置。
  16. 前記動きベクトル符号化部は、前記空間予測のみを行って前記注目領域の動きベクトルを予測する場合、前記時間予測を除外した、前記予測値の種類を示すコードナンバの割当表を用いて前記予測値にコードナンバを割り当てる
    請求項１に記載の画像処理装置。
  17. 前記コードナンバの割当表を伝送する伝送部をさらに備える
    請求項１６に記載の画像処理装置。
  18. 前記動きベクトル符号化部は、
    前記時間予測制御部により許可された場合、前記時間予測を行い、前記時間予測により予測された前記注目領域の動きベクトルである時間予測動きベクトルを生成する時間予測部と、
    前記空間予測を行い、前記空間予測により予測された前記注目領域の動きベクトルである空間予測動きベクトルを生成する空間予測部と、
    前記時間予測部により生成された前記時間予測動きベクトルと、前記空間予測部により生成された前記空間予測動きベクトルとの内、前記注目領域の動きベクトルにより近い方を、前記注目領域の動きベクトルの予測値とする予測動きベクトル生成部と、
    前記注目領域の動きベクトルと、前記予測動きベクトル生成部により生成された前記予測値との差分値を算出する差分値算出部と
    を備える請求項１に記載の画像処理装置。
  19. 前記差分値算出部により算出された前記差分値を伝送する伝送部をさらに備える
    請求項１８に記載の画像処理装置。
  20. 画像処理装置の画像処理方法であって、
    前記時間予測制御部が、動きベクトルの予測において、処理対象である注目領域の時間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する時間予測を行うか否かを制御し、
    前記動きベクトル符号化部が、その制御に従って、前記注目領域の空間方向の周辺領域の動きベクトルを用いて前記動きベクトルを予測する空間予測のみを行って、若しくは、前記空間予測および前記時間予測の両方を行って、前記注目領域の動きベクトルを予測し、その予測値を用いて前記注目領域の動きベクトルを符号化する
    画像処理方法。
JP2011144298A 2011-06-29 2011-06-29 画像処理装置および方法 Abandoned JP2013012905A (ja)

Priority Applications (6)

Application Number Priority Date Filing Date Title
JP2011144298A JP2013012905A (ja) 2011-06-29 2011-06-29 画像処理装置および方法
PCT/JP2012/065817 WO2013002108A1 (ja) 2011-06-29 2012-06-21 画像処理装置および方法
EP12805074.7A EP2728880A1 (en) 2011-06-29 2012-06-21 Image processing device and method
US14/118,286 US9445091B2 (en) 2011-06-29 2012-06-21 Image processing device and method for motion vector encoding using temporal prediction and spatial prediction
CN201280030530.XA CN103636219A (zh) 2011-06-29 2012-06-21 图像处理装置和方法
US15/203,345 US10129562B2 (en) 2011-06-29 2016-07-06 Image processing device and method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011144298A JP2013012905A (ja) 2011-06-29 2011-06-29 画像処理装置および方法

Publications (1)

Publication Number Publication Date
JP2013012905A true JP2013012905A (ja) 2013-01-17

Family

ID=47424005

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011144298A Abandoned JP2013012905A (ja) 2011-06-29 2011-06-29 画像処理装置および方法

Country Status (5)

Country Link
US (2) US9445091B2 (ja)
EP (1) EP2728880A1 (ja)
JP (1) JP2013012905A (ja)
CN (1) CN103636219A (ja)
WO (1) WO2013002108A1 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014190468A1 (en) 2013-05-27 2014-12-04 Microsoft Corporation Video encoder for images
GB2519514A (en) * 2013-10-11 2015-04-29 Canon Kk Method and apparatus for displacement vector component prediction in video coding and decoding
WO2015139165A1 (en) 2014-03-17 2015-09-24 Microsoft Technology Licensing, Llc Encoder-side decisions for screen content encoding
US10924743B2 (en) 2015-02-06 2021-02-16 Microsoft Technology Licensing, Llc Skipping evaluation stages during media encoding
US10038917B2 (en) 2015-06-12 2018-07-31 Microsoft Technology Licensing, Llc Search strategies for intra-picture prediction modes
US10136132B2 (en) 2015-07-21 2018-11-20 Microsoft Technology Licensing, Llc Adaptive skip or zero block detection combined with transform size decision

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4373702B2 (ja) * 2003-05-07 2009-11-25 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP5422168B2 (ja) * 2008-09-29 2014-02-19 株式会社日立製作所 動画像符号化方法および動画像復号化方法
US9143795B2 (en) * 2011-04-11 2015-09-22 Texas Instruments Incorporated Parallel motion estimation in video coding
US9485518B2 (en) * 2011-05-27 2016-11-01 Sun Patent Trust Decoding method and apparatus with candidate motion vectors
MX2013012209A (es) * 2011-05-31 2013-11-01 Panasonic Corp Metodo de codificacion de video, aparato de codificacion de video, metodo de decodificacion de video, aparato de decodificacion de video y aparato de codificacion/decodificacion de video.
US20140078254A1 (en) * 2011-06-15 2014-03-20 Mediatek Inc. Method and Apparatus of Motion and Disparity Vector Prediction and Compensation for 3D Video Coding

Also Published As

Publication number Publication date
WO2013002108A1 (ja) 2013-01-03
US20160316222A1 (en) 2016-10-27
CN103636219A (zh) 2014-03-12
US10129562B2 (en) 2018-11-13
EP2728880A1 (en) 2014-05-07
US9445091B2 (en) 2016-09-13
US20140079133A1 (en) 2014-03-20

Similar Documents

Publication Publication Date Title
JP6586979B2 (ja) 画像処理装置および方法、プログラム、並びに記録媒体
US20200252648A1 (en) Image processing device and method
JP5979405B2 (ja) 画像処理装置および方法
WO2013108689A1 (ja) 画像処理装置および方法
JP5982734B2 (ja) 画像処理装置および方法
US10129562B2 (en) Image processing device and method
WO2013058363A1 (ja) 画像処理装置および方法
US20140348233A1 (en) Image processing apparatus and method
WO2012157538A1 (ja) 画像処理装置および方法
WO2013065570A1 (ja) 画像処理装置および方法
WO2013065568A1 (ja) 画像処理装置および方法
WO2012173022A1 (ja) 画像処理装置および方法
WO2013084775A1 (ja) 画像処理装置および方法
JP2013085096A (ja) 画像処理装置および方法
JP5768491B2 (ja) 画像処理装置および方法、プログラム、並びに記録媒体
JP6217997B2 (ja) 画像処理装置および方法
WO2013054751A1 (ja) 画像処理装置および方法
JP2018029347A (ja) 画像処理装置および方法
WO2013002105A1 (ja) 画像処理装置および方法
JP2019146225A (ja) 画像処理装置および方法
JP2016201831A (ja) 画像処理装置および方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20140508

A762 Written abandonment of application

Free format text: JAPANESE INTERMEDIATE CODE: A762

Effective date: 20150402