JP5432410B2 - 復号方法、および復号装置 - Google Patents

復号方法、および復号装置 Download PDF

Info

Publication number
JP5432410B2
JP5432410B2 JP2013185761A JP2013185761A JP5432410B2 JP 5432410 B2 JP5432410 B2 JP 5432410B2 JP 2013185761 A JP2013185761 A JP 2013185761A JP 2013185761 A JP2013185761 A JP 2013185761A JP 5432410 B2 JP5432410 B2 JP 5432410B2
Authority
JP
Japan
Prior art keywords
motion vector
decoding
block
list
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2013185761A
Other languages
English (en)
Other versions
JP2014017845A (ja
Inventor
敏康 杉尾
孝啓 西
陽司 柴原
京子 谷川
寿郎 笹井
徹 松延
健吾 寺田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Family has litigation
First worldwide family litigation filed litigation Critical https://patents.darts-ip.com/?family=48612172&utm_source=google_patent&utm_medium=platform_link&utm_campaign=public_patent_search&patent=JP5432410(B2) "Global patent litigation dataset” by Darts-ip is licensed under a Creative Commons Attribution 4.0 International License.
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Publication of JP2014017845A publication Critical patent/JP2014017845A/ja
Application granted granted Critical
Publication of JP5432410B2 publication Critical patent/JP5432410B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • H04N19/139Analysis of motion vectors, e.g. their magnitude, direction, variance or reliability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/105Selection of the reference unit for prediction within a chosen coding or prediction mode, e.g. adaptive choice of position and number of pixels used for prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136Incoming video signal characteristics or properties
    • H04N19/137Motion inside a coding unit, e.g. average field, frame or block difference
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/15Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/513Processing of motion vectors
    • H04N19/517Processing of motion vectors by encoding
    • H04N19/52Processing of motion vectors by encoding by predictive encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/56Motion estimation with initialisation of the vector search, e.g. estimating a good candidate to initiate a search
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/567Motion estimation based on rate distortion criteria
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field

Description

本発明は、複数のピクチャをブロック毎に符号化する動画像符号化方法、および複数のピクチャをブロック毎に復号する動画像復号方法に関する。
H.264のインター予測復号において、Bスライス等に含まれる2方向参照ブロックは、復号対象ブロックが含まれるピクチャと異なるピクチャに含まれる2つの画像データを参照することで復号対象ブロックの画像データが予測復号される。
さて、H.264では、ダイレクトモード、と呼ばれる予測画像を作成するための動きベクトルの導出モードが存在する(非特許文献1の8.4.1.2.1節、3.45節等)。
H.264のダイレクトモードでは、以下の(S)と(T)との2つのモードがある。
(T)(時間的に異なるが)空間的に同じ位置に位置するco_locatedブロック(Col_Blk)の動きベクトルmvColを所定の比でスケール処理して利用する時間ダイレクトモード(temporal mode)。
(S)(時間的には同じ表示時刻のピクチャであるが)空間的に異なる位置のブロックの動きベクトルに関するデータ(motion data)を利用する空間ダイレクトモード(special direct mode)。
ITU−T H.264 03/2010 WD4:Working Draft 4 of High−Efficiency Video Coding Joint Collaborative Team on Video Coding(JCT−VC) of ITU−T SG16 WP3 and ISO/IEC JTC1/SC29/WG11 6th Meeting:Torino,IT, 14−22 July,2011、Document:JCTVC−F803_d2
しかしながら、上記の時間ダイレクトモードでは、スケール処理の際に乗算の計算が必要である。このため、スケール処理後は、符号化側または復号側で扱う動きベクトルのビット精度範囲が大きくなり得るので、符号化側または復号化側の負荷が増加する。
そこで、本発明は、処理負荷を削減しつつも符号化効率を保つことができる動画像符号化方法および動画像復号方法等を提供する。
本発明の一態様に係る復号方法は、複数のピクチャをブロック毎に復号する復号方法であって、復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の隣接ブロックのそれぞれについて、リストに前記隣接ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み、前記追加ステップでは、前記時間的に隣接する隣接ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを生成し、前記第2の動きベクトルの大きさが、予め定められた固定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルの大きさが前記固定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加し、前記第2の動きベクトルが前記固定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記固定の大きさの範囲内に収まるようにクリップして生成された第3の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加する。
本発明の一態様に係る動画像符号化方法は、複数のピクチャをブロック毎に符号化する動画像符号化方法であって、符号化対象ピクチャに含まれ符号化対象ブロックに空間的に隣接する、または、前記符号化対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記符号化対象ブロックの符号化のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記符号化対象ブロックを符号化する符号化ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する。
また、本発明の一態様に係る動画像復号方法は、複数のピクチャをブロック毎に復号する動画像復号方法であって、復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
本発明によれば、処理負荷を削減しつつも符号化効率を保つことが可能になる。
図1は、復号対象ブロック(Curr_Blk)の復号において参照する2枚のピクチャを説明する図である。 図2Aは、参照ピクチャリスト(RefPicList0)を説明する図である。 図2Bは、参照ピクチャリスト(RefPicList1)を説明する図である。 図3は、CurrBlkの参照ピクチャリストRefPicList0とRefPicList1とについてpicNumを説明する図である。 図4は、(T)の時間ダイレクトモード(temporal mode)において利用される情報を説明する図である。 図5Aは、時間ダイレクトモード(temporal mode)におけるスケーリング処理を説明するための図であり、co−locatedブロック、動きベクトルmvL0Colを簡略化して説明する図である。 図5Bは、時間ダイレクトモード(temporal mode)におけるスケーリング処理を説明するための図であり、スケーリング処理の概念を説明する図である。 図6は、STEP1〜3を非特許文献1に記載された導出式との関係で示す図である。 図7は、(S)の空間ダイレクトモード(special direct mode)について説明する図である。 図8は、実施の形態1の動画像符号化装置の構成を示すブロック図である。 図9は、実施の形態1の動画像符号化装置における動作を説明するフロー図である。 図10は、イントラ・インター予測部が設定するマージ候補ブロック[1…6]を説明する図である。 図11は、マージ候補リスト(mergeCandList)の概念を説明する図である。 図12は、イントラ・インター予測部が行う重複判定で重複と判定する例を示す図である。 図13は、マージ候補ブロック[i]のmotion dataを取得する処理を説明するフロー図である。 図14は、イントラ・インター予測部が行うスケーリング処理の一例を説明するフロー図である。 図15は、イントラ・インター予測部が行うスケーリング処理の他の例を説明するフロー図である。 図16は、実施の形態1の動画像復号装置の構成を示すブロック図である。 図17は、実施の形態1の動画像復号装置における動作を説明するフロー図である。 図18は、マージ候補リスト(mergeCandList)の更新処理を説明するための図であり、(a)初期化生成されるマージ候補リスト(mergeCandList)を示す図、(b)更新処理された後のマージ候補リスト(mergeCandList)を示す図である。 図19Aは、HEVCにおける動き予測ベクトルmvpLXについて説明する図である。 図19Bは、動き予測ベクトルmvpLXの候補リストmvpListLX(mvpListL0とmvpListL1)を説明する図である。 図20は、予測候補ブロック群、あるいは予測候補ブロックを説明する図である。 図21は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成図である。 図22は、デジタル放送用システムの全体構成図である。 図23は、テレビの構成例を示すブロック図である。 図24は、光ディスクである記録メディアに情報の読み書きを行う情報再生/記録部の構成例を示すブロック図である。 図25は、光ディスクである記録メディアの構造例を示す図である。 図26Aは、携帯電話の一例を示す図である。 図26Bは、携帯電話の構成例を示すブロック図である。 図27は、多重化データの構成を示す図である。 図28は、各ストリームが多重化データにおいてどのように多重化されているかを模式的に示す図である。 図29は、PESパケット列に、ビデオストリームがどのように格納されるかを更に詳しく示した図である。 図30は、多重化データにおけるTSパケットとソースパケットの構造を示す図である。 図31は、PMTのデータ構成を示す図である。 図32は、多重化データ情報の内部構成を示す図である。 図33は、ストリーム属性情報の内部構成を示す図である。 図34は、映像データを識別するステップを示す図である。 図35は、各実施の形態の動画像符号化方法および動画像復号方法を実現する集積回路の構成例を示すブロック図である。 図36は、駆動周波数を切り替える構成を示す図である。 図37は、映像データを識別し、駆動周波数を切り替えるステップを示す図である。 図38は、映像データの規格と駆動周波数を対応づけたルックアップテーブルの一例を示す図である。 図39Aは、信号処理部のモジュールを共有化する構成の一例を示す図である。 図39Bは、信号処理部のモジュールを共有化する構成の他の一例を示す図である。
(本発明の基礎となった知見)
図1は、復号対象ブロック(Curr_Blk)の復号において参照する2枚のピクチャを説明する図である。図中、「300」から「304」はピクチャ番号(PicNum)であり、表示順PicOrderCnt()の値を昇順に並べた図である。復号対象ブロックはピクチャ番号302(CurrPic)に含まれるブロックである。この例では、復号対象ブロックは、表示順前方に存在するPicNum301のピクチャと表示順後方に存在するPicNum304のピクチャの画像データを参照している。以下、矢印凡例はこの例の通り、矢印の根元が参照する側(復号対象側)のピクチャ、矢印の先が復号に利用される(参照される)側のピクチャを示す。
以下、明細書と図では、復号対象ブロックを黒塗ブロックで示しCurr_Blkと省略表記する。また、矢印凡例はこの例の通り、矢印の根元が参照する側(復号対象側)のピクチャ、矢印の先が復号に利用される(参照される)側のピクチャを示す。また、picNum302のピクチャが復号対象ブロックを含むピクチャ(復号対象ピクチャ)であるとする。
図2Aおよび図2Bは、2つの参照ピクチャリスト(RefPicList0及びRefPicList1)を説明する図である。
1つ目の参照ピクチャを特定するためのリストが図2Aに示す参照ピクチャリスト0(RefPicList0)である。2つ目の参照ピクチャを特定するためのリストが図2Bに示す参照ピクチャリスト1(RefPicList1)である。参照ピクチャリストは、復号対象ブロックがどの参照ピクチャを参照するのかを、「302」等の値の大きくなるpicNumではなく、「0」や「1」といった小さなインデクス値(refIdxL0とrefIdxL1)のみで示すことができるリストである。スライス中の個々のブロックである、復号対象ブロック(Curr_Blk)がどのピクチャを参照するかは、このリスト中のインデクスの値で与えられる。
復号対象ブロックが含まれるBスライスの復号時にリストが初期値化(生成)される。
参照ピクチャリストRefPicList0とRefPicList1とは、インデクスの若番(インデクス値が小さい番号)が示すピクチャ番号picNumが異なるように並び替えられる。参照ピクチャリストをそれぞれ復号対象ピクチャのpicNum302を区切りに前半部分と後半部分に分け、参照ピクチャリスト0の前半部分では降順に(301,300…)割り当てる。また、参照ピクチャリスト1の前半部分では昇順に(303,304…)と割り当てる。
例えば、符号列よりインデクスの値が参照ピクチャリスト0および参照ピクチャリスト1それぞれに対して最も小さい「0」で与えられると、ピクチャ302について以下の2つの参照ピクチャが決定される。
1つ目の参照ピクチャとして、RefPicList0[0]の値である1つ前のピクチャ301が決定される。2つ目の参照ピクチャとして、RefPicList1[0]の値である1つ後のピクチャ303が決定される。
図1に示す例では、1つ目のインデクスがrefIdxL0=0であり、ピクチャ301を参照し、2つ目のインデクスがrefIdxL1=1であり、ピクチャ304を参照している。
図3は、ピクチャ302に含まれるCurrBlkの参照ピクチャリストRefPicList0とRefPicList1とについてrefIdxL0及びrefIdxL1の値を「0」から増加させた場合に示すpicNumを説明する図である。復号対象ピクチャ(picNum302)から見て、各リストのインデクスの値(refIdxL0の値とrefIdxL1の値)が増加するほど、インデクスの値で特定されるピクチャは復号対象ピクチャから遠ざかる。
特に2つ目の参照を示すRefPicList1においては、リストのインデクスの小さい値に部分にCurrPicピクチャ302より後(greater than PicOrderCnt(CurrPic)のピクチャ(復号済みでありメモリに保持されているものについて)降順で設定されるルールでインデクスが保持される(これをRule1と呼ぶ)。このRule1に従うと、RefPicList1[0]で特定されるピクチャは、図中破線円で示すpicNum303となる。
上記のように、明細書と図では、特に断りのない限り1つ目の参照ピクチャリストをRefPicList0と省略し、このリスト中のインデクスをrefIdxL0と省略する。2つ目の参照ピクチャリストをRefPicList1、このリスト中のインデクスをrefIdxL1と省略する(詳細は図中の説明並びに、非特許文献1の8.2.4.2.3節8.2.4Decoding process for reference picture lists constructionを参照)。
次に、H.264の(T)時間ダイレクトモード(temporal mode)および(S)空間ダイレクトモード(special direct mode)について、順に説明する。
図4は、(T)の時間ダイレクトモード(temporal mode)において利用される情報を説明する図である。
図中ハッチングで示すブロックが、「(時間的に異なるが)空間的に同じ位置に位置するco_locatedブロック(Col_Blk)」である。時間位置は、図3で説明した2つ目の参照リスト1RefPicList1のインデクスの値「0」で特定されピクチャ303となる。前述のRule1に基づいて初期化されるRefPicList1リストにおいて、インデクス値「0」の示すピクチャ(RefPicList1[0]の値)は、参照メモリ中に時間的に後方のピクチャが存在しないなど特別な場合を除き、参照メモリ中に存在するもっとも表示時間的に近い後方のピクチャとなる。
次に、時間ダイレクトモードは、黒塗で示す復号対象ブロックCurr_Blkの動きベクトルmvL0,mvL1を、ハッチングで示すCol_Blkの「motionデータ」を用いて導出する。motionデータには以下が含まれる。
(i)Col_Blkが参照する参照ピクチャrefIdxL0[refidx]。
Col_Blkは、参照ピクチャとしてピクチャpicNum301を参照している(RefPicList0[1]の値)。
(ii)参照ピクチャについての動きベクトルmvL0Col。
図中、ピクチャpicNum301中の、破線矢印が、Col_Blkの復号時に用いられる1つ目の動きベクトルmvL0Colである。
以下、明細書、図において、破線矢印は動きベクトルを示す。動きベクトルmvL0Colは、Col_Blkの復号時に用いられたcol_Blkにとっての予測画像を示す動きベクトルである。
図5Aおよび図5Bは、時間ダイレクトモード(temporal mode)におけるスケーリング処理を説明する図である。
スケーリング処理は、動きベクトルmvL0Colの値を、参照ピクチャまでの距離の差の比でスケーリングすることにより、復号対象ブロックCurr_Blkの動きベクトルmvL0と動きベクトルmvL1とを導出する処理である。
図5Aは、図1〜4の参照構造、co−locatedブロック、動きベクトルmvL0Colを簡略化して説明する図である。
図5Bは、スケーリング処理の概念を説明する図である。
スケーリング処理は、簡単には図5Bに示すような三角形DEFと三角形ABCとの相似を観念すればよい。
三角形DEFは、Col_Blkについての三角形である。
点Dは、Col_Blkの位置である。点Eは、Col_Blkが参照するピクチャの位置である。点Fは、点Eを基点とした動きベクトルmvL0Colの示す先の座標である。
三角形ABCは、Curr_Blkについての三角形である。
点Aは、復号対象とするブロックCurr_Blkの位置である。点Bは、このブロックCurr_Blkが参照するピクチャの位置である。点Cは、今から導出するベクトルの指し示す先の座標となる。
まず、STEP1で、(1)Curr_BlkからCurr_Blkの参照するピクチャへの相対距離(tb)に対する、(2)Col_BlkからCol_Blkの参照するピクチャへの相対距離(tx)の比であるScaleFactorを導出する。例えばこの図では、ScaleFactorは、tb=302−301=1に対する、tx=303−301=2の比(tb/tx)であり、0.5(1/2)がスケール比(相似比が1:2)である。これは、三角形ABCと三角形DEFと相似比が1/2であることに該当する。
ScaleFactor=tb/tx=(302−301)/(303−301)
=1/2 …(STEP1)
STEP2で、元々与えられている辺EFを長さとするベクトルEFを、得られたスケール比で、乗算して、ベクトルBCを得る。このベクトルBCが1つ目のベクトル(mvL0)である。
mvL0=ScaleFactor×mvL0Col …(STEP2)
STEP3で、導出対象であるもう1つのベクトルmvL1を、STEP2で導出したmvL0と向きを反転させたmvL0Colとを用いて導出する。
mvL1=mvL0−mvL0Col …(STEP3)
図6は、ステップSTEP1〜3を非特許文献1の8.4.1.2.3節Derivation process for temporal direct luma motion vector and reference index prediction modeに記載された導出式との関係で示す図である。
図7は、2つのダイレクトモードのうち、他方の(S)の空間ダイレクトモード(special direct mode)について説明する図である。
このモードでは、復号対象ブロック(Curr_Blk)の含まれる動き補償単位ブロックに隣接するブロックN(例えば隣接ブロックA、隣接ブロックB、隣接ブロックC)について前述の動きベクトルに関するデータ(motionデータ)((動きベクトルmvLXN、参照インデクスrefIdxLXN)の値の組のことを言う。以下同じ)を取得する。
動きベクトルに関するデータ(以下、動きデータとも言う)のうち、もっとも参照インデクス(refIdxLXN)の値が小さい「0」を含めた自然数(minPositive値)をもつブロックの動きデータ(refIdxL0,L1とそれに対するmvL0,mvL1)をそのまま用いる(非特許文献8−186,187式)。具体的には、以下の計算によりrefIdxL0とL1とを、各々導出する。
refIdxL0=MinPositive(refIdxL0A,MinPositive(refIdxL0B,refIdxL0C))(8−186)
refIdxL1=MinPositive(refIdxL1A,MinPositive(refIdxL1B,refIdxL1C))(8−187)
この空間ダイレクトモードでは、動きベクトルmvL0またはmvL1について、同じピクチャから参照ピクチャまでの距離(refIdxL0,L1)を含めた“motiondata”をセットで利用するために、隣接ブロックの利用する参照ピクチャを参照すればよく、原則、時間ダイレクトモードのようにmvL0またはmvL1をスケールする必要はなかった。
以上のように、(T)時間ダイレクトモードについて、ScaleFactor(DistScaleFactor)を用いた動きベクトルmvL0の導出には、ScaleFactorとmvL0Colとの乗算の計算が必要である。このため、例えば、復号側で扱う動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に制限する場合、符号化側で、時間ダイレクトの乗算後の動きベクトルの大きさが、上記範囲内に収まるように動きベクトルの生成を制御する必要があり、符号化側の処理負荷が増加する。
また、従来のH.264では、(T)時間ダイレクトモードを使うか(S)空間ダイレクトを使うかの切り替えが、スライス単位で1回しかできなかった。
HEVCでは、H.264におけるスライス単位の空間ダイレクトモードおよび時間ダイレクトモードよりも、要用柔軟な動きベクトルの導出方法の指定をはかるマージモードと呼ばれるモードが検討されている。この新たなHEVCのマージモードとの組み合わせにより、上記動きベクトルの大きさの範囲を制限する場合の処理負荷を削減しつつも符号化効率を保つ適切なバランスが望まれる。
そこで、本発明の一態様に係る動画像符号化方法は、複数のピクチャをブロック毎に符号化する動画像符号化方法であって、符号化対象ピクチャに含まれ符号化対象ブロックに空間的に隣接する、または、前記符号化対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記符号化対象ブロックの符号化のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記符号化対象ブロックを符号化する符号化ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する。
これにより、符号化側および復号側で扱う動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に常に収めることができる。
また、前記追加ステップでは、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記所定の大きさの範囲内に収まるようにクリップし、クリップ後の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加してもよい。
また、前記追加ステップでは、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記リストに追加しなくてもよい。
また、前記リストは、前記対応ブロックの前記動きベクトル、および前記対応ブロックで参照されたピクチャを特定するための特定情報を有するマージ候補リストであり、前記追加ステップでは、前記対応ブロックの前記動きベクトルに加えて、前記特定情報を前記マージ候補リストに追加し、前記選択ステップでは、前記マージ候補リストから、前記符号化対象ブロックの符号化のために用いる動きベクトルおよび特定情報を選択し、前記符号化ステップでは、前記選択ステップにおいて選択された前記動きベクトルおよび前記特定情報を用いて前記符号化対象ブロックの予測画像を生成することにより前記符号化対象ブロックを符号化してもよい。
また、前記リストは、予測動きベクトル候補リストであり、前記追加ステップでは、さらに、前記空間的に隣接する対応ブロックの第3の動きベクトルをスケーリング処理することにより算出される第4の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第4の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第4の動きベクトルを予測動きベクトルの候補として前記予測動きベクトル候補リストに追加し、前記選択ステップでは、前記予測動きベクトル候補リストから、前記符号化対象ブロックの符号化のために用いる予測動きベクトルを選択し、前記符号化ステップでは、前記選択ステップにおいて選択された前記予測動きベクトルを用いて前記符号化対象ブロックの動きベクトルを符号化することを含む前記符号化対象ブロックの符号化を行ってもよい。
また、前記追加ステップでは、前記第4の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第4の動きベクトルを前記所定の大きさの範囲内に収まるようにクリップし、クリップ後の動きベクトルを前記予測動きベクトルの候補として前記予測動きベクトル候補リストに追加してもよい。
また、前記所定の大きさの範囲は、動きベクトルのビット精度で決定され、前記ビット精度はプロファイルまたはレベルで規定された値、もしくは、ヘッダに付加された値を用いてもよい。
また、本発明の一態様に係る動画像復号方法は、複数のピクチャをブロック毎に復号する動画像復号方法であって、復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する。
これにより、符号化側および復号側で扱う動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に常に収めることができる。
また、前記追加ステップでは、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記所定の大きさの範囲内に収まるようにクリップし、クリップ後の動きベクトルを前記リストに追加してもよい。
また、前記追加ステップでは、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記リストに追加しなくてもよい。
また、前記リストは、前記対応ブロックの前記動きベクトル、および前記対応ブロックで参照されたピクチャを特定するための特定情報を有するマージ候補リストであり、前記追加ステップでは、前記対応ブロックの前記動きベクトルに加えて、前記特定情報を前記マージ候補リストに追加し、前記選択ステップでは、前記マージ候補リストから、前記復号対象ブロックの復号のために用いる動きベクトルおよび特定情報を選択し、前記復号ステップでは、前記選択ステップにおいて選択された前記動きベクトルおよび前記特定情報を用いて前記復号対象ブロックの予測画像を生成することにより前記復号対象ブロックを復号してもよい。
また、前記リストは、予測動きベクトル候補リストであり、前記追加ステップでは、さらに、前記空間的に隣接する対応ブロックの第3の動きベクトルをスケーリング処理することにより算出される第4の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第4の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第4の動きベクトルを予測動きベクトルの候補として前記予測動きベクトル候補リストに追加し、前記選択ステップでは、前記予測動きベクトル候補リストから、前記復号対象ブロックの復号のために用いる予測動きベクトルを選択し、前記復号ステップでは、前記選択ステップにおいて選択された前記予測動きベクトルを用いて前記復号対象ブロックの動きベクトルを復号することを含む前記復号対象ブロックの復号を行ってもよい。
また、前記追加ステップでは、前記第4の動きベクトルが前記所定の大きさの範囲内に含まれなければ、前記第4の動きベクトルを前記所定の大きさの範囲内に収まるようにクリップし、クリップ後の動きベクトルを前記予測動きベクトルの候補として前記予測動きベクトル候補リストに追加してもよい。
また、前記所定の大きさの範囲は、動きベクトルのビット精度で決定され、前記ビット精度はプロファイルまたはレベルで規定された値、もしくは、ヘッダに付加された値を用いてもよい。
なお、これらの包括的または具体的な態様は、システム、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能なCD−ROMなどの記録媒体で実現されてもよく、システム、方法、集積回路、コンピュータプログラムおよび記録媒体の任意な組み合わせで実現されてもよい。
以下、本発明の実施の形態について、図面を参照しながら説明する。
なお、以下で説明する実施の形態は、いずれも包括的または具体的な例を示すものである。以下の実施の形態で示される数値、形状、材料、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本発明を限定する主旨ではない。また、以下の実施の形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。
(実施の形態1)
図8は、実施の形態1の動画像符号化装置の構成を示すブロック図である。
動画像符号化装置100は、図8に示すように、主に、差分部101、変換部102、量子化部103、エントロピー符号化部110、逆量子化部104、逆変換部105、加算部106、メモリ109、イントラ・インター予測部107、及び、符号化制御部108を備えている。
差分部101は、入力画像信号と予測画像信号との差分である残差信号を出力する。
変換部102は、残差信号に対し、画像領域から周波数領域への変換を行う。量子化部103は、周波数領域に変換された残差信号に対して量子化処理を行って、量子化済残差信号を出力する。
エントロピー符号化部110は、量子化済残差信号および復号制御信号をエントロピー符号化し、符号化済ビットストリームを出力する。
逆量子化部104は、量子化済残差信号に対し、逆量子化処理を行う。逆変換部105は、逆量子化処理された残差信号に対し、周波数領域から画像領域への変換を行って、復元済残差信号を出力する。
加算部106は、復元済残差信号と予測画像信号とを加算し、復号画像信号にする。
イントラ・インター予測部107は、復号画像信号をフレームまたはブロック等所定の単位でメモリ109に蓄積するとともに、符号化制御部108の指示を受け、差分部101および加算部106に与える予測画像信号(復号画像信号と動きベクトルとに基づいて導出された画素値)を生成し、出力する。
また、イントラ・インター予測部107は、符号化・復号プロセスにおいてマージモードで利用される動きベクトルの候補リストであるマージ候補リスト(mergeCandList)を導出する。このとき、イントラ・インター予測部107は、符号化対象ピクチャに含まれ符号化対象ブロックに空間的に隣接する、または、前記符号化対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、マージ候補リストに対応ブロックの動きベクトルを選択的に追加する。また、イントラ・インター予測部107は、時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、第2の動きベクトルが所定の大きさの範囲に含まれるか否かを判定し、第2の動きベクトルが所定の大きさの範囲内に含まれれば、第2の動きベクトルを対応ブロックの動きベクトルとしてマージ候補リストに追加する。また、イントラ・インター予測部107は、マージ候補リストから、符号化対象ブロックの符号化のために用いる動きベクトルを選択する。すなわち、本実施の形態のスケーリング処理は主にイントラ・インター予測部107において実行される。なお、本実施の形態の動画像符号化装置100では、追加部および選択部は、イントラ・インター予測部107に相当する。また、本実施の形態の動画像符号化装置100では、符号化部は、差分部101、変換部102、量子化部103、およびエントロピー符号化部110等に相当する。
符号化制御部108は、図中の各処理部並びに、ピクチャをどのような制御パラメータで符号化するか(この制御パラメータは、復号制御信号に対応することになる)を試行の上で決定し、特に、イントラ・インター予測部107に対し与える。試行は例えば、図中の点線で示す符号化済ビットストリームのビット長を短くすることを目的とする関数等で行われ、ある画像データの符号化のための制御パラメータ(例えば、インター予測、イントラ予測の区別等)を決定し、出力することになる。出力信号中、動きベクトルインデクスについては後述する。
符号化制御部108は、前述試行の結果が良好である場合に、本実施の形態に係るスケーリング処理を用いたことを値として示すように、後述するマージインデクス(merge_Idx)を決定して復号制御信号に含めて出力する。またこの場合の、量子化済残差信号は、本実施の形態のスケーリング方法を用いて生成された予測画像信号により導出された値となる。
図9は、実施の形態1の動画像符号化装置における動作を説明するフロー図である。
ここでは、符号化制御部108が、符号化対象ブロックを(1)インター符号化(MODE_INTER)し、かつ、(2)マージモード(MergeMODE)を利用すると判定した(あるいは利用した場合の結果を得る)場合のマージモード符号化動作について説明する。
HEVCのマージモードは、観念的にはH.264で導入されたダイレクトモードと等しい。動きベクトルの導出に関して、H.264のダイレクトモード同様に符号列を利用することなく、空間的(S)または時間的(T)に他のブロックの動きベクトルを利用して導出する。
H.264のダイレクトモードとの主な違いは以下である。
(a)処理単位:マージモードを利用するか否かを、スライス単位より細かいPreduicitionUnit(PU)単位のmerge_flagにより切り替えることができる。
(b)選択単位:(S)空間ダイレクトを利用するか(T)時間ダイレクトを利用するか、を2拓ではなく、より多数の候補値からmerge_idxにより指定することができる。具体的には、符号化・復号プロセスにおいてマージモードで利用される動きベクトルの候補リストであるマージ候補リスト(mergeCandList)を導出する。このリスト中の符号列から指定されるインデクスの値(merge_idxの値)により、どの動きベクトル候補を用いるかを特定する。
マージモードについての処理が開始されると、符号化制御部108は、merge_idxの値およびiの値を「0」にセットする(ステップS101)。ここで、iは候補を区別するための便宜上の候補番号である。
イントラ・インター予測部107は、候補ブロック[1…N]に以下の2つの類型のブロックを設定する(ステップS102)。ここで、N=6であるとする。
(s)候補ブロック[1…(N-1)]は、空間ダイレクトのための1以上の候補であり、候補ブロックの場所により[1…5]を区別する。
(t)候補ブロック[N]は、時間ダイレクトのための候補である。空間ダイレクトに追加(append)した場合のエントリ値「6」がCo_locatedブロックのインデクスに該当する。図10を用いて後述する。
ステップS103以下は、符号化制御部108が候補を特定する番号iをインクリメント(ステップS103)しつつ、精度のよい目的関数にあった出力する動きベクトル導出モードを決定するループである。
イントラ・インター予測部107は、候補ブロック[i]が、メモリ上で利用可能(available)か否かを判定する(ステップS104)。例えば、位置的に符号化対象ブロックよりも下方向に位置するブロック等の符号化(復号)済みでないブロック(メモリに保持されていないブロック)については、利用できないと判定される。
判定の結果、利用できない場合(ステップS104でNo:not available)は、merge_idxの値を現在の値のまま保ちつつ、次の候補iに移る(ステップS103へ戻る)。
判定の結果、利用できる場合(ステップS104でYes:available)は次のステップに進む。
イントラ・インター予測部107は、候補ブロック[i]のmotion data(mvL0,mvL1,refIdxL0,refIdxL1の組、以下同じ)が、過去の候補ブロック[1…(i−1)]について試行済のmotion data(mvL0,refIdxL0,mvL1,refIdxL1)と重複するか否かを判定する(ステップS105)。この判定については図12を用いて後述する。
判定の結果、重複する場合(ステップS105でYes:duplicated)は、merge_idxの値を現在の値のまま保ちつつ、次の候補iに移る(ステップS103へ戻る)。
判定の結果、重複しない、即ち、新しいmotion dataである場合(ステップS105でNo:not duplicated)は、次のステップに進む。尚、利用可能か否かの判定処理(ステップS104)と重複するか否かの判定処理(ステップS105)により出来上がるのが、動きベクトルについてのマージ候補リスト(mergeCandLis)であり、図11を用いて後述する。
次に、イントラ・インター予測部107は、候補ブロック[i]のmotion data(mvL0,refIdxL0,mvL1,refIdxL1)を取得あるいは導出する(ステップS106)。ここで、候補ブロック[i]が、時間ダイレクトを前提とするColocatedブロックである場合は、図14を用いて後述するスケーリング処理を行う。
なお、本実施の形態では、ステップS106において、候補ブロック[i]が、時間ダイレクトを前提とするColocatedブロックである場合は、図14を用いて後述するスケーリング処理を行うようにしたが、必ずしもこれに限らない。例えば、ステップS102において、Colocatedブロックを候補ブロックに追加する際に、あらかじめ図14を用いて後述するスケーリング処理を施したmotion data(mvL0, refIdxL0,mvL1,refIdxL1)を取得し、ステップS105において、過去の候補ブロックと重複するmotion dataを候補ブロックに追加しないようにすることが考えられる(図17)。これにより、重複するmotion dataをより多く候補ブロックから省くことができ、処理用削減および、符号化効率を改善することができる。
決定されたmotion dataを用いて、符号化制御部108の制御の下符号化装置全体を用いてインター符号化を試行する(ステップS107)。符号化制御部108は、例えば、エントロピー符号化部110の出力結果のビットストリーム[i]を得る。
符号化制御部108は、例えばビットストリーム長(圧縮効率)や処理遅延等を観点とした目的に応じ、現在の候補[i]の結果が過去の候補[1…(i−1)]の結果より優れる(所定の目的関数の最大値(あるいは最小値)を示すか否か)を判定する(ステップS108)。
この判定の結果、過去の候補[1…(i−1)]の結果より優れる場合(ステップS108でYes:better candidate)、現時点のmerge_idxの値を、実際に符号化・復号に用いる予定のmerge_idxの番号として保持する(ステップS109)。簡単には、より目的にあった結果を出力した場合の有効エントリ番号merge_idxをdummy_merge_idxの変数に記憶しておく処理である。
イントラ・インター予測部107は、今回の候補iは、エントリ番号として有効であったとして次のエントリに移るため、merge_idxの値をインクリメントする(ステップS110)。
符号化制御部108は、全ての候補ブロックについての試行が行われたかを判定する(ステップS111)。
判定の結果が、全てのブロックについての処理が完了したこと(ステップS102で設定した最後の候補ブロック[N]である、(t)時間ダイレクト用のco_locatedブロックにおける試行が行われた)を示す場合(ステップS111でYes)、次のステップに進む。
判定の結果が、まだ候補ブロックが残っている場合(ステップS111でNo)は、候補番号iを増加させつつ、次の候補についての試行を行う。
所定の目的関数の最大値(あるいは最小値)を出力した、dummy_merge_idxを、実際に符号化列に出力するインデクス番号であるマージインデクス(merge_idx)と決定する(ステップS112)。
以上が、マージモードを利用した場合の符号化動作である。
図10は、ステップS102でイントラ・インター予測部107が設定するマージ候補ブロック[1…6]を説明する図である。
候補ブロックは(s)空間的に隣接する1以上のブロック(図中(s)隣接空間ブロック[1…(N−1)]と、(t)時間的に隣接する1つのブロック(図中(t)Co_locatedブロック[N]とを含んでいる。
マージ候補リストのうち、merge_idxのインデクス値の小さい、言い換えれば最初に列挙される、候補エントリ(あるいは複数のエントリ)となるのは、空間的に隣接するブロックである。空間的に隣接するとは、図中の(S1)水平方向、あるいは、(S2)垂直方向のいずれかにおいて隣接していることである。
なお、隣接を観念する単位は、同じ動きベクトルを適用する動きデータの単位であるPUである。即ち、符号化対象ブロックCurr_Blkを含むCurrentPUに隣接するPUであるかどうかである。図中でブロックB0〜B2は、垂直方向に隣接しているブロックの例であり、各々のブロックを含むPUが隣接するPUになり、そのmotion data(mvL0,refIdxL0,mvL1,refIdxL1)が利用される。図中でブロックA0、A1…は水平方向に隣接しているブロックの例である。
マージ候補リストの末尾に、merge_idxのインデクス値の最も大きい、言い換えれば最後にエントリされる候補エントリが、時間方向に隣接するブロックである。この図では、Currentブロックの参照ピクチャリストL1(ない場合は、L0)のインデクス値0で指定されるピクチャに存在するCo_locatedブロックである。
図11は、ステップS103以降の処理で生成されるマージ候補リスト(mergeCandList)の概念を説明する図である。図中左側のi(1…6)が、ステップS103等の候補番号iに該当する。
i=[1…5]のエントリが、(s)空間的に隣接する1以上のブロック(図10のA0…B2)に対応する。i=6のエントリが、(t)時間的に隣接する1つのブロック(図10(t)Co_locatedブロック[N]に対応する。
候補1…6のうち有効なエントリ番号となるのがmerge_idxである。図中、i=3、5は、Duplicated motion vectorsであることを示している。これは、ステップS105で、イントラ・インター予測部107は、候補ブロック[i]のmotion data(mvL0,mvL1,refIdxL0,refIdxL1の組、以下同じ)が、過去の候補ブロック[1…(i−1)]について試行済のmotion data(mvL0,refIdxL0,mvL1,refIdxL1)と重複すると判定されたエントリであることを示している。
図12は、ステップ105の重複判定で重複と判定する例を示す図である。motion dataが候補より上のエントリの値が重複するmotion dataである場合について説明する図である。
CurrentPUに対して上方向B1の位置で隣接するブロックのmotion dataは、実際にはB0およびBNを含む1つのPUに対して1つ定義される場合、候補番号3や5に対応するB0およびBNのブロックのmotion dataの値は、重複したmotion dataとなりリストからエントリを削除することになる。従って、図11のように、mergeCandListは、merge_idxの最大値を「2」に圧縮したリストにすることができる。
図13は、ステップS106で実行する、マージ候補ブロック[i]のmotion data(mvL0,refIdxL0,mvL1,refIdxL1)を取得する処理を説明するフロー図である。
処理が開始されると、符号化制御部108は、隣接ブロック[i]の隣接方向を判定する(ステップS201)。
判定の結果、隣接方向が空間方向(図11の表でiが1…5の値)の場合、候補ブロック[i]の含まれるPUのmotion dataを、符号化対象ブロックのmotion dataとしてそのまま決定する(ステップS202)。
判定の結果、隣接方向が時間方向(図11の表でiが6)の場合、候補ブロック[6]であるcolocateBlok(Col_Blk)のmvL0Colを、乗算による時間ダイレクトスケーリング処理によりスケールする(ステップS203)。
このスケーリング処理について、図14を用いて説明する。
図14は、ステップS203のスケーリング処理を説明するフロー図である。
まず、イントラ・インター予測部107は、図6のSTEP1の式で表されるように、符号化対象ピクチャcurrPicOrField、符号化対象ブロックの参照する参照ピクチャpic0、co−locatedブロックが含まれるピクチャpic1、および、co−locatedブロックが参照する参照ピクチャpic0の表示順の値を用いて、DistScaleFactorを算出する(ステップS301)。そして、イントラ・インター予測部107は、図6のSTEP2の式で表されるように、co−locatedブロックの動きベクトルmvColにDistScaleFactorを乗算することにより、動きベクトルmvL0を算出する(ステップS302)。次に、イントラ・インター予測部107は、算出した動きベクトルmvL0の水平成分、および、垂直成分の大きさが、あるビット精度で表すことが可能な大きさの範囲内に収まっているか否かを判定する(ステップS303)。この判定の結果、範囲内に収まっている場合(ステップS303でYes)、イントラ・インター予測部107は、算出した動きベクトルmvL0を持つマージブロック候補として、マージ候補リストmergeCandListに追加する(ステップS304)。一方、範囲内に収まっていない場合(ステップS303でNo)、イントラ・インター予測部107は、co−locatedブロックから算出するマージブロック候補をnot availableとし、マージ候補リストmergeCandListに追加しないようにする(ステップS305)。
このように、スケーリング処理後の動きベクトルの値が、あるビット精度で表すことが可能な値の範囲を超えた場合は、その動きベクトルを持つマージブロック候補をマージ候補リストに追加しないようにすることによって、符号化側および復号側で扱う動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に常に収めることが可能になる。例えば、あるビット精度として、16bitを仮定した場合、スケーリング処理後の動きベクトルmvL0の水平成分もしくは垂直成分の値が、−32768以上+32767以下を満たさない場合は、動きベクトルmvL0を持つマージブロック候補をマージ候補リストに追加しないようにする。これによって、符号化側および復号側で扱う動きベクトルの大きさの範囲を、16bit精度で表すことが可能な範囲に常に収めることが可能になる。
なお、本実施の形態では、動きベクトルの水平成分、垂直成分ともに、16bit精度に収める例を示したが、必ずしもこれに限らない。例えば、水平成分を16bit精度、垂直成分を14bit精度に収めたい場合には、スケーリング処理後の動きベクトルmvL0の水平成分の値が、−32768以上+32767以下、動きベクトルmvL0の垂直成分の値が、−8192以上8191以下であるかを判定し、いずれかを満たさない場合は、動きベクトルmvL0を持つマージブロック候補をマージ候補リストに追加しないようにしても構わない。これにより、動きベクトルの大きさの範囲を、水平成分と垂直成分で別々に一定範囲以内に収めることが可能となる。
また、本実施の形態では、スケーリング計算によって算出する動きベクトルの例として参照ピクチャリストL0の動きベクトルmvL0を用いた例を示したが、必ずしもこれに限らず、参照ピクチャリストL1の動きベクトルmvL1を算出する場合にも適用可能である。
また、本実施の形態では、ステップS302でco−locatedブロックの動きベクトルmvColにDistScaleFactorを乗算してmvL0を算出し、mvL0の水平成分、または垂直成分のいずれかが、あるビット精度で表すことが可能な範囲を超えている場合には、co−locatedブロックから算出するマージブロック候補をマージ候補リストに追加しないようにしたが、必ずしもこれに限らず、例えば、co−locatedブロックが2方向予測の場合などは、mvColにco−locatedブロックの持つもう一方の動きベクトルをセットして、ステップS302からステップS305の処理を行うことによって、マージブロック候補を算出するようにしても構わない。これにより、co−locatedブロックから算出されるマージブロック候補の減少を抑制することができ、符号化効率を向上できる。
また、本実施の形態では、ステップS305において、動きベクトルmvL0の水平成分、または垂直成分のいずれかが、あるビット精度で表すことが可能な範囲を超えている場合には、co−locatedブロックから算出するマージブロック候補をマージ候補リストに追加しないようにしたが、必ずしもこれに限らない。例えば、図15のステップS401に示すように、動きベクトルmvL0の水平成分、または垂直成分の値を、あるビット精度で表すことが可能な大きさにクリップし、クリップ後の動きベクトルを持つマージブロック候補として、マージ候補リストに追加するようにしても構わない。例えば、あるビット精度として16bit精度を仮定した場合に、スケーリング処理後の動きベクトルの水平成分の値が+32767を超えた場合は、クリップ後の動きベクトルの水平成分として+32767を用いて、マージブロック候補を算出するようにしても構わない。また、例えば、スケーリング処理後の動きベクトルの水生成分の値が−32768を下回った場合は、クリップ後の動きベクトルの水平成分として−32768を用いて、マージブロック候補を算出するようにしても構わない。
また、本実施の形態では、あるビット精度に固定して動きベクトルの大きさ制限する例を示したが、必ずしもこれに限らない。例えば、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、およびスライスヘッダ等のヘッダ部に、動きベクトルの大きさを制限するフラグおよび、そのビット精度を付加し、シーケンス、ピクチャおよびスライス単位で、動きベクトルの制限値を切り替えるようにしても構わない。また、プロファイルやレベル等で、動きベクトルのビット精度を設定し、プロファイルやレベルに応じて動きベクトルの制限値を切り替えるようにしても構わない。
次に、本実施の形態1の動画像符号化装置により符号化されたビットストリームから動画像を復元する動画像復号装置について、説明する。
図16は、本実施の形態1の動画像復号装置の構成を示すブロック図である。
動画像復号装置200は、入力された符号化済ビットストリームを復号し、メモリ(復号ピクチャメモリ)にバッファリングされた復号済画像信号を、所定のタイミングで表示順に出力する。
動画像復号装置200は、図16に示すように、主に、エントロピー復号部201、逆量子化部202、逆変換部203、加算部204、メモリ207、イントラ・インター予測部205、及び、復号制御部206を備えている。同一名称の各部の機能は図8で示した動画像符号化装置内の各処理部に対応するものである。
エントロピー復号部201は、入力された符号化済ビットストリームに対して、エントロピー復号処理を行い、量子化済残差信号および復号制御信号等を出力する。
逆量子化部202は、エントロピー復号処理によって得られた量子化済残差信号に対し、逆量子化処理を行う。逆変換部203は、逆量子化処理によって得られた済残差信号を、周波数領域から画像領域への変換することにより、復元済残差信号を出力する。
加算部204は、復元済残差信号と予測画像信号とを加算し、復号画像信号にする。
イントラ・インター予測部205は、復号画像信号をフレームまたはブロック等所定の単位でメモリ207に蓄積するとともに、復号制御部206の指示を受け、加算部204に与える予測画像信号(復号画像信号と動きベクトルとに基づいて導出された画素値)を生成し、出力する。
動画像符号化装置100と同様に、本実施の形態のスケーリング処理はイントラ・インター予測部205において実行される。なお、本実施の形態の動画像復号装置200では、追加部および選択部は、イントラ・インター予測部205に相当する。また、本実施の形態の動画像復号装置200では、復号部は、エントロピー復号部201、逆量子化部202、逆変換部203、および加算部204等に相当する。
復号制御部206は、図中の各処理部並びにピクチャをどのような制御パラメータで復号するかを、エントロピー復号部201で解析された復号制御情報から得る。符号化ビットストリーム中の復号制御情報には、図9のステップS112で決定されたマージインデクス(merge_idx)が含まれている。
図17は、実施の形態1の動画像復号装置における動作を説明するフロー図である。
ここでは、復号制御部206が、復号制御信号の情報から、「復号対象ブロック(Curr_Blk)(あるいは、復号対象ブロックが含まれる予測単位PUブロック)が、インター符号化されたものであり(MODE_INTER)、かつ、MergeMODEを利用すること」を判定した場合の動作について説明する。
まず、イントラ・インター予測部205が、図11で説明したマージ候補リスト(mergeCandList)をローカルに生成する。ローカルにとは、イントラ・インター予測部205は、動画像符号化装置100の動作と同様の方法で、符号化ビットストリームからの情報によらずにこのリストを生成することを意味する。
図中のi=1…6は、図11の定義と同じである。
イントラ・インター予測部205は、候補ブロック番号i=1…6について、それぞれステップS501〜ステップS505の処理を行う。イントラ・インター予測部205は、候補ブロック番号iを判定する(ステップS501)。候補ブロック番号i=1…5の場合、イントラ・インター予測部205は、空間隣接ブロックについて動きデータを取得する(ステップS502)。
候補ブロック番号i=6の場合、イントラ・インター予測部205は、colocatedブロックの動きデータを用いて、図13のステップS203と同様の方法でスケーリング処理を行う(ステップS503)。
次に、イントラ・インター予測部205は、ステップS502あるいはステップS504にて得られた動きデータが、mergeCandList中の上位のエントリのデータとデータの値が重複しているか否かを判定する(ステップS504)。
判定の結果、重複している場合(ステップS504でYes)は、次の候補ブロック番号iに進む。
判定の結果、重複していない場合(ステップS504でNo)は、イントラ・インター予測部205は、マージ候補リスト(mergeCandList)の末尾に動きデータを追加する(ステップS505)。
このようにして、ステップS501〜ステップS505によりマージ候補リスト(mergeCandList)が初期化生成される。
次に、イントラ・インター予測部205は、所定の条件を満たす場合、マージ候補リスト(mergeCandList)の更新処理を行う(ステップS506)。例えば、更新処理は図18に示すようなものであり、符号化側と暗黙的に(implicit)に共有されているルールに従うものである。図18(a)は、初期化生成されるマージ候補リスト(mergeCandList)を示す図であり、図18(b)は、更新処理された後のマージ候補リスト(mergeCandList)を示す図である。図18(b)に示す例では、マージインデクス(merge_idx)の値が「0」の候補(mvL0_A,ref0)と「1」の候補(mvL1_B,ref0)とを組み合わせて、マージインデクス(merge_idx)の値が「2」の候補(mvL0_A,ref0,mvL1_B,ref0)が生成されている。
以下、このリストを用いて、動きベクトルmvL0,mvL1のマージモード選択処理を行う。
エントロピー復号部201によってmerge_Idxがエントロピー復号され、イントラ・インター予測部205はこのmerge_Idxの値を受け取る(ステップS507)。
イントラ・インター予測部205は、merge_Idxの値で特定されるマージモードで利用する動きデータmotion dataを、マージ候補リストの候補から1つ選択する(ステップS508)。
最後に、選択した動きデータmotion data(mvL0,refIdxL0,mvL1,refIdxL1)における動きベクトルmvL0,mvL1の示す位置の画素データ(pixelsL0とpixelsL1)を取得し、これらの画素データを用いて予測画像信号を導出する(ステップS509)。
このように、スケーリング処理後の動きベクトルの値が、あるビット精度で表すことが可能な値の範囲を超えた場合は、その動きベクトルを持つマージブロック候補をマージ候補リストに追加しないようにすることによって、符号化側および復号側で扱う動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に常に収めることが可能になる。
なお、本実施の形態では、図14のステップS302におけるスケーリング処理後に、算出した動きベクトルがあるビット精度で表すことが可能な大きさの範囲内であるか否かを判定するようにしたが、必ずしもこれに限らない。例えば、図17のステップS508において、merge_idxで選択された動きベクトルmvL0が、あるビット精度で表すことが可能な範囲であるか否かを判定し、その範囲外であれば、範囲内に収まるようにクリップするようにしても構わない。
また、本実施の形態では、非特許文献2で検討が進められているHEVCのマージモードを用いて、スケーリング処理後の動きベクトルの大きさの範囲を、あるビット精度で表すことが可能な範囲に収める例を示したが、同様に、非特許文献2で検討が進められているHEVCのAMVPの予測動きベクトル候補を算出する方式に対しても適用可能である。
図19Aは、非特許文献2のHEVCにおける動き予測ベクトルmvpLXについて説明する図であり、図19Bは、動き予測ベクトルmvpLXの候補リストmvpListLX(mvpListL0とmvpListL1)を説明する図である。
動き予測ベクトルmvpLXは、図19Aに示すように動き検出により導出された動きベクトルmvLXとの差分である動き差分ベクトルmvdLXを求めるために用いられる。そして、この動き差分ベクトルmvdLXが符号化される。図19B中mvp_idx_l0の値が、符号化される(復号側で抽出される)mvp_idx_lXの値に対応する。このインデクスの値(0,1,2)で決定されるmvpListLXN[mvp_idx_lX]の動きデータが、動き予測ベクトルmvp(predictor)となる。図中のNは空間的・あるいは時間的にどの位置のブロックの動きベクトルの値を動きベクトルの予測値として用いるかを示している。
図20は、図19Bに示すNの値(A、B、Col)による予測候補ブロック群、あるいは予測候補ブロックを説明する図である。図中黒塗りされたブロックが符号化(復号)対象ブロックCurrBlkである。ピクチャ番号picNum302中のブロックである。図中ハッチングされたブロックが、復号対象ブロックCurr_Blk(あるいはこのブロックが含まれる予測単位PUブロック)と略同じ空間座標位置(x,y)に位置するがpicNumが異なる(時間的に異なる)ピクチャに存在する、所謂Co_locatedブロック(Col_Blk)である。この例では、Col_BlkはpicNum302とは異なるpicNum303に位置するとする。HEVCでは、これらの位置A,B,Colの位置のブロックN_Blk(A_Blk,B_Blk,Col_Blk)の動きベクトルmvL0A,mvL0B,mvL0Col,または(mvL1A,mvL1B,mvL1Col)を、DiscScaleFactorと呼ばれる比率で乗算することにより、動き予測ベクトルmvpL0,mvpL1として予測候補に利用する。
本実施の形態では、その際、乗算により算出された予測動きベクトルが、あるビット精度で表すことが可能な範囲に収まるか否かを判定し、その範囲内に収まらなければ、予測動きベクトル候補のリストに追加しない。これにより、予測動きベクトル、または、符号化対象ブロックの動きベクトルと予測動きベクトルとから算出される差分動きベクトルの大きさの範囲を、あるビット精度で表すことが範囲に収めることができる。なお、乗算により算出された予測動きベクトルがあるビット精度で表すことが可能な範囲内に収まらなければ、その範囲内に収まるようにクリップした予測動きベクトルを予測動きベクトル候補のリストに追加するようにしても構わない。
以上、本発明の1つまたは複数の態様に係る動画像符号化装置および動画像復号装置について、実施の形態に基づいて説明したが、本発明は、この実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を本実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、本発明の1つまたは複数の態様の範囲内に含まれてもよい。
なお、上記各実施の形態において、各構成要素は、専用のハードウェアで構成されるか、各構成要素に適したソフトウェアプログラムを実行することによって実現されてもよい。各構成要素は、CPUまたはプロセッサなどのプログラム実行部が、ハードディスクまたは半導体メモリなどの記録媒体に記録されたソフトウェアプログラムを読み出して実行することによって実現されてもよい。ここで、上記各実施の形態の動画像符号化装置または動画像復号装置などを実現するソフトウェアは、次のようなプログラムである。
すなわち、このプログラムは、コンピュータに、複数のピクチャをブロック毎に符号化する動画像符号化方法であって、符号化対象ピクチャに含まれ符号化対象ブロックに空間的に隣接する、または、前記符号化対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記符号化対象ブロックの符号化のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記符号化対象ブロックを符号化する符号化ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する動画像符号化方法を実行させる。
あるいは、このプログラムは、コンピュータに、複数のピクチャをブロック毎に復号する動画像復号方法であって、復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の対応ブロックのそれぞれについて、リストに前記対応ブロックの動きベクトルを選択的に追加する追加ステップと、前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、前記選択ステップにおいて選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み、前記追加ステップでは、前記時間的に隣接する対応ブロックの第1の動きベクトルをスケーリング処理することにより第2の動きベクトルを算出し、算出した前記第2の動きベクトルが、所定の大きさの範囲に含まれるか否かを判定し、前記第2の動きベクトルが前記所定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記対応ブロックの動きベクトルとして前記リストに追加する動画像復号方法を実行させる。
(実施の形態2)
上記各実施の形態で示した動画像符号化方法(画像符号化方法)または動画像復号化方法(画像復号方法)の構成を実現するためのプログラムを記憶メディアに記録することにより、上記各実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ICカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記各実施の形態で示した動画像符号化方法(画像符号化方法)や動画像復号化方法(画像復号方法)の応用例とそれを用いたシステムを説明する。当該システムは、画像符号化方法を用いた画像符号化装置、及び画像復号方法を用いた画像復号装置からなる画像符号化復号装置を有することを特徴とする。システムにおける他の構成について、場合に応じて適切に変更することができる。
図21は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106、ex107、ex108、ex109、ex110が設置されている。
このコンテンツ供給システムex100は、インターネットex101にインターネットサービスプロバイダex102および電話網ex104、および基地局ex106からex110を介して、コンピュータex111、PDA(Personal Digital Assistant)ex112、カメラex113、携帯電話ex114、ゲーム機ex115などの各機器が接続される。
しかし、コンテンツ供給システムex100は図21のような構成に限定されず、いずれかの要素を組合せて接続するようにしてもよい。また、固定無線局である基地局ex106からex110を介さずに、各機器が電話網ex104に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex116はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex114は、GSM(登録商標)(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband-Code Division Multiple Access)方式、若しくはLTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)の携帯電話機、またはPHS(Personal Handyphone System)等であり、いずれでも構わない。
コンテンツ供給システムex100では、カメラex113等が基地局ex109、電話網ex104を通じてストリーミングサーバex103に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex113を用いて撮影するコンテンツ(例えば、音楽ライブの映像等)に対して上記各実施の形態で説明したように符号化処理を行い(即ち、本発明の一態様に係る画像符号化装置として機能する)、ストリーミングサーバex103に送信する。一方、ストリーミングサーバex103は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114、ゲーム機ex115等がある。配信されたデータを受信した各機器では、受信したデータを復号化処理して再生する(即ち、本発明の一態様に係る画像復号装置として機能する)。
なお、撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号化処理はクライアントで行っても、ストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。また、カメラex113に限らず、カメラex116で撮影した静止画像および/または動画像データを、コンピュータex111を介してストリーミングサーバex103に送信してもよい。この場合の符号化処理はカメラex116、コンピュータex111、ストリーミングサーバex103のいずれで行ってもよいし、互いに分担して行ってもよい。
また、これら符号化・復号化処理は、一般的にコンピュータex111や各機器が有するLSIex500において処理する。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、動画像符号化・復号化用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込み、そのソフトウェアを用いて符号化・復号化処理を行ってもよい。さらに、携帯電話ex114がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex114が有するLSIex500で符号化処理されたデータである。
また、ストリーミングサーバex103は複数のサーバや複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムex100では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex100では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号化し、再生することができ、特別な権利や設備を有さないユーザでも個人放送を実現できる。
なお、コンテンツ供給システムex100の例に限らず、図22に示すように、デジタル放送用システムex200にも、上記各実施の形態の少なくとも動画像符号化装置(画像符号化装置)または動画像復号化装置(画像復号装置)のいずれかを組み込むことができる。具体的には、放送局ex201では映像データに音楽データなどが多重化された多重化データが電波を介して通信または衛星ex202に伝送される。この映像データは上記各実施の形態で説明した動画像符号化方法により符号化されたデータである(即ち、本発明の一態様に係る画像符号化装置によって符号化されたデータである)。これを受けた放送衛星ex202は、放送用の電波を発信し、この電波を衛星放送の受信が可能な家庭のアンテナex204が受信する。受信した多重化データを、テレビ(受信機)ex300またはセットトップボックス(STB)ex217等の装置が復号化して再生する(即ち、本発明の一態様に係る画像復号装置として機能する)。
また、DVD、BD等の記録メディアex215に記録した多重化データを読み取り復号化する、または記録メディアex215に映像信号を符号化し、さらに場合によっては音楽信号と多重化して書き込むリーダ/レコーダex218にも上記各実施の形態で示した動画像復号化装置または動画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示され、多重化データが記録された記録メディアex215により他の装置やシステムにおいて映像信号を再生することができる。また、ケーブルテレビ用のケーブルex203または衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に動画像復号化装置を実装し、これをテレビのモニタex219で表示してもよい。このときセットトップボックスではなく、テレビ内に動画像復号化装置を組み込んでもよい。
図23は、上記各実施の形態で説明した動画像復号化方法および動画像符号化方法を用いたテレビ(受信機)ex300を示す図である。テレビex300は、上記放送を受信するアンテナex204またはケーブルex203等を介して映像データに音声データが多重化された多重化データを取得、または出力するチューナex301と、受信した多重化データを復調する、または外部に送信する多重化データに変調する変調/復調部ex302と、復調した多重化データを映像データと、音声データとに分離する、または信号処理部ex306で符号化された映像データ、音声データを多重化する多重/分離部ex303を備える。
また、テレビex300は、音声データ、映像データそれぞれを復号化する、またはそれぞれの情報を符号化する音声信号処理部ex304、映像信号処理部ex305(本発明の一態様に係る画像符号化装置または画像復号装置として機能する)を有する信号処理部ex306と、復号化した音声信号を出力するスピーカex307、復号化した映像信号を表示するディスプレイ等の表示部ex308を有する出力部ex309とを有する。さらに、テレビex300は、ユーザ操作の入力を受け付ける操作入力部ex312等を有するインタフェース部ex317を有する。さらに、テレビex300は、各部を統括的に制御する制御部ex310、各部に電力を供給する電源回路部ex311を有する。インタフェース部ex317は、操作入力部ex312以外に、リーダ/レコーダex218等の外部機器と接続されるブリッジex313、SDカード等の記録メディアex216を装着可能とするためのスロット部ex314、ハードディスク等の外部記録メディアと接続するためのドライバex315、電話網と接続するモデムex316等を有していてもよい。なお記録メディアex216は、格納する不揮発性/揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex300の各部は同期バスを介して互いに接続されている。
まず、テレビex300がアンテナex204等により外部から取得した多重化データを復号化し、再生する構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、CPU等を有する制御部ex310の制御に基づいて、変調/復調部ex302で復調した多重化データを多重/分離部ex303で分離する。さらにテレビex300は、分離した音声データを音声信号処理部ex304で復号化し、分離した映像データを映像信号処理部ex305で上記各実施の形態で説明した復号化方法を用いて復号化する。復号化した音声信号、映像信号は、それぞれ出力部ex309から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex318、ex319等に一旦これらの信号を蓄積するとよい。また、テレビex300は、放送等からではなく、磁気/光ディスク、SDカード等の記録メディアex215、ex216から多重化データを読み出してもよい。次に、テレビex300が音声信号や映像信号を符号化し、外部に送信または記録メディア等に書き込む構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、制御部ex310の制御に基づいて、音声信号処理部ex304で音声信号を符号化し、映像信号処理部ex305で映像信号を上記各実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重/分離部ex303で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex320、ex321等に一旦これらの信号を蓄積するとよい。なお、バッファex318、ex319、ex320、ex321は図示しているように複数備えていてもよいし、1つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調/復調部ex302や多重/分離部ex303の間等でもシステムのオーバフロー、アンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
また、テレビex300は、放送等や記録メディア等から音声データ、映像データを取得する以外に、マイクやカメラのAV入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex300は上記の符号化処理、多重化、および外部出力ができる構成として説明したが、これらの処理を行うことはできず、上記受信、復号化処理、外部出力のみが可能な構成であってもよい。
また、リーダ/レコーダex218で記録メディアから多重化データを読み出す、または書き込む場合には、上記復号化処理または符号化処理はテレビex300、リーダ/レコーダex218のいずれで行ってもよいし、テレビex300とリーダ/レコーダex218が互いに分担して行ってもよい。
一例として、光ディスクからデータの読み込みまたは書き込みをする場合の情報再生/記録部ex400の構成を図24に示す。情報再生/記録部ex400は、以下に説明する要素ex401、ex402、ex403、ex404、ex405、ex406、ex407を備える。光ヘッドex401は、光ディスクである記録メディアex215の記録面にレーザスポットを照射して情報を書き込み、記録メディアex215の記録面からの反射光を検出して情報を読み込む。変調記録部ex402は、光ヘッドex401に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex403は、光ヘッドex401に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex215に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex404は、記録メディアex215に記録するための情報および記録メディアex215から再生した情報を一時的に保持する。ディスクモータex405は記録メディアex215を回転させる。サーボ制御部ex406は、ディスクモータex405の回転駆動を制御しながら光ヘッドex401を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex407は、情報再生/記録部ex400全体の制御を行う。上記の読み出しや書き込みの処理はシステム制御部ex407が、バッファex404に保持された各種情報を利用し、また必要に応じて新たな情報の生成・追加を行うと共に、変調記録部ex402、再生復調部ex403、サーボ制御部ex406を協調動作させながら、光ヘッドex401を通して、情報の記録再生を行うことにより実現される。システム制御部ex407は例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
以上では、光ヘッドex401はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
図25に光ディスクである記録メディアex215の模式図を示す。記録メディアex215の記録面には案内溝(グルーブ)がスパイラル状に形成され、情報トラックex230には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex231の位置を特定するための情報を含み、記録や再生を行う装置において情報トラックex230を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex215は、データ記録領域ex233、内周領域ex232、外周領域ex234を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex233であり、データ記録領域ex233より内周または外周に配置されている内周領域ex232と外周領域ex234は、ユーザデータの記録以外の特定用途に用いられる。情報再生/記録部ex400は、このような記録メディアex215のデータ記録領域ex233に対して、符号化された音声データ、映像データまたはそれらのデータを多重化した多重化データの読み書きを行う。
以上では、1層のDVD、BD等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所にさまざまな異なる波長の色の光を用いて情報を記録したり、さまざまな角度から異なる情報の層を記録したりなど、多次元的な記録/再生を行う構造の光ディスクであってもよい。
また、デジタル放送用システムex200において、アンテナex205を有する車ex210で衛星ex202等からデータを受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex211の構成は例えば図23に示す構成のうち、GPS受信部を加えた構成が考えられ、同様なことがコンピュータex111や携帯電話ex114等でも考えられる。
図26Aは、上記実施の形態で説明した動画像復号化方法および動画像符号化方法を用いた携帯電話ex114を示す図である。携帯電話ex114は、基地局ex110との間で電波を送受信するためのアンテナex350、映像、静止画を撮ることが可能なカメラ部ex365、カメラ部ex365で撮像した映像、アンテナex350で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex358を備える。携帯電話ex114は、さらに、操作キー部ex366を有する本体部、音声を出力するためのスピーカ等である音声出力部ex357、音声を入力するためのマイク等である音声入力部ex356、撮影した映像、静止画、録音した音声、または受信した映像、静止画、メール等の符号化されたデータもしくは復号化されたデータを保存するメモリ部ex367、又は同様にデータを保存する記録メディアとのインタフェース部であるスロット部ex364を備える。
さらに、携帯電話ex114の構成例について、図26Bを用いて説明する。携帯電話ex114は、表示部ex358及び操作キー部ex366を備えた本体部の各部を統括的に制御する主制御部ex360に対して、電源回路部ex361、操作入力制御部ex362、映像信号処理部ex355、カメラインタフェース部ex363、LCD(Liquid Crystal Display)制御部ex359、変調/復調部ex352、多重/分離部ex353、音声信号処理部ex354、スロット部ex364、メモリ部ex367がバスex370を介して互いに接続されている。
電源回路部ex361は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することにより携帯電話ex114を動作可能な状態に起動する。
携帯電話ex114は、CPU、ROM、RAM等を有する主制御部ex360の制御に基づいて、音声通話モード時に音声入力部ex356で収音した音声信号を音声信号処理部ex354でデジタル音声信号に変換し、これを変調/復調部ex352でスペクトラム拡散処理し、送信/受信部ex351でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex350を介して送信する。また携帯電話ex114は、音声通話モード時にアンテナex350を介して受信した受信データを増幅して周波数変換処理およびアナログデジタル変換処理を施し、変調/復調部ex352でスペクトラム逆拡散処理し、音声信号処理部ex354でアナログ音声信号に変換した後、これを音声出力部ex357から出力する。
さらにデータ通信モード時に電子メールを送信する場合、本体部の操作キー部ex366等の操作によって入力された電子メールのテキストデータは操作入力制御部ex362を介して主制御部ex360に送出される。主制御部ex360は、テキストデータを変調/復調部ex352でスペクトラム拡散処理をし、送信/受信部ex351でデジタルアナログ変換処理および周波数変換処理を施した後にアンテナex350を介して基地局ex110へ送信する。電子メールを受信する場合は、受信したデータに対してこのほぼ逆の処理が行われ、表示部ex358に出力される。
データ通信モード時に映像、静止画、または映像と音声を送信する場合、映像信号処理部ex355は、カメラ部ex365から供給された映像信号を上記各実施の形態で示した動画像符号化方法によって圧縮符号化し(即ち、本発明の一態様に係る画像符号化装置として機能する)、符号化された映像データを多重/分離部ex353に送出する。また、音声信号処理部ex354は、映像、静止画等をカメラ部ex365で撮像中に音声入力部ex356で収音した音声信号を符号化し、符号化された音声データを多重/分離部ex353に送出する。
多重/分離部ex353は、映像信号処理部ex355から供給された符号化された映像データと音声信号処理部ex354から供給された符号化された音声データを所定の方式で多重化し、その結果得られる多重化データを変調/復調部(変調/復調回路部)ex352でスペクトラム拡散処理をし、送信/受信部ex351でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex350を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、または映像およびもしくは音声が添付された電子メールを受信する場合、アンテナex350を介して受信された多重化データを復号化するために、多重/分離部ex353は、多重化データを分離することにより映像データのビットストリームと音声データのビットストリームとに分け、同期バスex370を介して符号化された映像データを映像信号処理部ex355に供給するとともに、符号化された音声データを音声信号処理部ex354に供給する。映像信号処理部ex355は、上記各実施の形態で示した動画像符号化方法に対応した動画像復号化方法によって復号化することにより映像信号を復号し(即ち、本発明の一態様に係る画像復号装置として機能する)、LCD制御部ex359を介して表示部ex358から、例えばホームページにリンクされた動画像ファイルに含まれる映像、静止画が表示される。また音声信号処理部ex354は、音声信号を復号し、音声出力部ex357から音声が出力される。
また、上記携帯電話ex114等の端末は、テレビex300と同様に、符号化器・復号化器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号化器のみの受信端末という3通りの実装形式が考えられる。さらに、デジタル放送用システムex200において、映像データに音楽データなどが多重化された多重化データを受信、送信するとして説明したが、音声データ以外に映像に関連する文字データなどが多重化されたデータであってもよいし、多重化データではなく映像データ自体であってもよい。
このように、上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記各実施の形態で説明した効果を得ることができる。
また、本発明はかかる上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形または修正が可能である。
(実施の形態3)
上記各実施の形態で示した動画像符号化方法または装置と、MPEG−2、MPEG4−AVC、VC−1など異なる規格に準拠した動画像符号化方法または装置とを、必要に応じて適宜切替えることにより、映像データを生成することも可能である。
ここで、それぞれ異なる規格に準拠する複数の映像データを生成した場合、復号する際に、それぞれの規格に対応した復号方法を選択する必要がある。しかしながら、復号する映像データが、どの規格に準拠するものであるか識別できないため、適切な復号方法を選択することができないという課題を生じる。
この課題を解決するために、映像データに音声データなどを多重化した多重化データは、映像データがどの規格に準拠するものであるかを示す識別情報を含む構成とする。上記各実施の形態で示す動画像符号化方法または装置によって生成された映像データを含む多重化データの具体的な構成を以下説明する。多重化データは、MPEG−2トランスポートストリーム形式のデジタルストリームである。
図27は、多重化データの構成を示す図である。図27に示すように多重化データは、ビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム(PG)、インタラクティブグラフィックスストリームのうち、1つ以上を多重化することで得られる。ビデオストリームは映画の主映像および副映像を、オーディオストリーム(IG)は映画の主音声部分とその主音声とミキシングする副音声を、プレゼンテーショングラフィックスストリームは、映画の字幕をそれぞれ示している。ここで主映像とは画面に表示される通常の映像を示し、副映像とは主映像の中に小さな画面で表示する映像のことである。また、インタラクティブグラフィックスストリームは、画面上にGUI部品を配置することにより作成される対話画面を示している。ビデオストリームは、上記各実施の形態で示した動画像符号化方法または装置、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠した動画像符号化方法または装置によって符号化されている。オーディオストリームは、ドルビーAC−3、Dolby Digital Plus、MLP、DTS、DTS−HD、または、リニアPCMのなどの方式で符号化されている。
多重化データに含まれる各ストリームはPIDによって識別される。例えば、映画の映像に利用するビデオストリームには0x1011が、オーディオストリームには0x1100から0x111Fまでが、プレゼンテーショングラフィックスには0x1200から0x121Fまでが、インタラクティブグラフィックスストリームには0x1400から0x141Fまでが、映画の副映像に利用するビデオストリームには0x1B00から0x1B1Fまで、主音声とミキシングする副音声に利用するオーディオストリームには0x1A00から0x1A1Fが、それぞれ割り当てられている。
図28は、多重化データがどのように多重化されるかを模式的に示す図である。まず、複数のビデオフレームからなるビデオストリームex235、複数のオーディオフレームからなるオーディオストリームex238を、それぞれPESパケット列ex236およびex239に変換し、TSパケットex237およびex240に変換する。同じくプレゼンテーショングラフィックスストリームex241およびインタラクティブグラフィックスex244のデータをそれぞれPESパケット列ex242およびex245に変換し、さらにTSパケットex243およびex246に変換する。多重化データex247はこれらのTSパケットを1本のストリームに多重化することで構成される。
図29は、PESパケット列に、ビデオストリームがどのように格納されるかをさらに詳しく示している。図29における第1段目はビデオストリームのビデオフレーム列を示す。第2段目は、PESパケット列を示す。図29の矢印yy1,yy2,yy3,yy4に示すように、ビデオストリームにおける複数のVideo Presentation UnitであるIピクチャ、Bピクチャ、Pピクチャは、ピクチャ毎に分割され、PESパケットのペイロードに格納される。各PESパケットはPESヘッダを持ち、PESヘッダには、ピクチャの表示時刻であるPTS(Presentation Time−Stamp)やピクチャの復号時刻であるDTS(Decoding Time−Stamp)が格納される。
図30は、多重化データに最終的に書き込まれるTSパケットの形式を示している。TSパケットは、ストリームを識別するPIDなどの情報を持つ4ByteのTSヘッダとデータを格納する184ByteのTSペイロードから構成される188Byte固定長のパケットであり、上記PESパケットは分割されTSペイロードに格納される。BD−ROMの場合、TSパケットには、4ByteのTP_Extra_Headerが付与され、192Byteのソースパケットを構成し、多重化データに書き込まれる。TP_Extra_HeaderにはATS(Arrival_Time_Stamp)などの情報が記載される。ATSは当該TSパケットのデコーダのPIDフィルタへの転送開始時刻を示す。多重化データには図30下段に示すようにソースパケットが並ぶこととなり、多重化データの先頭からインクリメントする番号はSPN(ソースパケットナンバー)と呼ばれる。
また、多重化データに含まれるTSパケットには、映像・音声・字幕などの各ストリーム以外にもPAT(Program Association Table)、PMT(Program Map Table)、PCR(Program Clock Reference)などがある。PATは多重化データ中に利用されるPMTのPIDが何であるかを示し、PAT自身のPIDは0で登録される。PMTは、多重化データ中に含まれる映像・音声・字幕などの各ストリームのPIDと各PIDに対応するストリームの属性情報を持ち、また多重化データに関する各種ディスクリプタを持つ。ディスクリプタには多重化データのコピーを許可・不許可を指示するコピーコントロール情報などがある。PCRは、ATSの時間軸であるATC(Arrival Time Clock)とPTS・DTSの時間軸であるSTC(System Time Clock)の同期を取るために、そのPCRパケットがデコーダに転送されるATSに対応するSTC時間の情報を持つ。
図31はPMTのデータ構造を詳しく説明する図である。PMTの先頭には、そのPMTに含まれるデータの長さなどを記したPMTヘッダが配置される。その後ろには、多重化データに関するディスクリプタが複数配置される。上記コピーコントロール情報などが、ディスクリプタとして記載される。ディスクリプタの後には、多重化データに含まれる各ストリームに関するストリーム情報が複数配置される。ストリーム情報は、ストリームの圧縮コーデックなどを識別するためストリームタイプ、ストリームのPID、ストリームの属性情報(フレームレート、アスペクト比など)が記載されたストリームディスクリプタから構成される。ストリームディスクリプタは多重化データに存在するストリームの数だけ存在する。
記録媒体などに記録する場合には、上記多重化データは、多重化データ情報ファイルと共に記録される。
多重化データ情報ファイルは、図32に示すように多重化データの管理情報であり、多重化データと1対1に対応し、多重化データ情報、ストリーム属性情報とエントリマップから構成される。
多重化データ情報は図32に示すようにシステムレート、再生開始時刻、再生終了時刻から構成されている。システムレートは多重化データの、後述するシステムターゲットデコーダのPIDフィルタへの最大転送レートを示す。多重化データ中に含まれるATSの間隔はシステムレート以下になるように設定されている。再生開始時刻は多重化データの先頭のビデオフレームのPTSであり、再生終了時刻は多重化データの終端のビデオフレームのPTSに1フレーム分の再生間隔を足したものが設定される。
ストリーム属性情報は図33に示すように、多重化データに含まれる各ストリームについての属性情報が、PID毎に登録される。属性情報はビデオストリーム、オーディオストリーム、プレゼンテーショングラフィックスストリーム、インタラクティブグラフィックスストリーム毎に異なる情報を持つ。ビデオストリーム属性情報は、そのビデオストリームがどのような圧縮コーデックで圧縮されたか、ビデオストリームを構成する個々のピクチャデータの解像度がどれだけであるか、アスペクト比はどれだけであるか、フレームレートはどれだけであるかなどの情報を持つ。オーディオストリーム属性情報は、そのオーディオストリームがどのような圧縮コーデックで圧縮されたか、そのオーディオストリームに含まれるチャンネル数は何であるか、何の言語に対応するか、サンプリング周波数がどれだけであるかなどの情報を持つ。これらの情報は、プレーヤが再生する前のデコーダの初期化などに利用される。
本実施の形態においては、上記多重化データのうち、PMTに含まれるストリームタイプを利用する。また、記録媒体に多重化データが記録されている場合には、多重化データ情報に含まれる、ビデオストリーム属性情報を利用する。具体的には、上記各実施の形態で示した動画像符号化方法または装置において、PMTに含まれるストリームタイプ、または、ビデオストリーム属性情報に対し、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示す固有の情報を設定するステップまたは手段を設ける。この構成により、上記各実施の形態で示した動画像符号化方法または装置によって生成した映像データと、他の規格に準拠する映像データとを識別することが可能になる。
また、本実施の形態における動画像復号化方法のステップを図34に示す。ステップexS100において、多重化データからPMTに含まれるストリームタイプ、または、多重化データ情報に含まれるビデオストリーム属性情報を取得する。次に、ステップexS101において、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成された多重化データであることを示しているか否かを判断する。そして、ストリームタイプ、または、ビデオストリーム属性情報が上記各実施の形態で示した動画像符号化方法または装置によって生成されたものであると判断された場合には、ステップexS102において、上記各実施の形態で示した動画像復号方法により復号を行う。また、ストリームタイプ、または、ビデオストリーム属性情報が、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠するものであることを示している場合には、ステップexS103において、従来の規格に準拠した動画像復号方法により復号を行う。
このように、ストリームタイプ、または、ビデオストリーム属性情報に新たな固有値を設定することにより、復号する際に、上記各実施の形態で示した動画像復号化方法または装置で復号可能であるかを判断することができる。従って、異なる規格に準拠する多重化データが入力された場合であっても、適切な復号化方法または装置を選択することができるため、エラーを生じることなく復号することが可能となる。また、本実施の形態で示した動画像符号化方法または装置、または、動画像復号方法または装置を、上述したいずれの機器・システムに用いることも可能である。
(実施の形態4)
上記各実施の形態で示した動画像符号化方法および装置、動画像復号化方法および装置は、典型的には集積回路であるLSIで実現される。一例として、図35に1チップ化されたLSIex500の構成を示す。LSIex500は、以下に説明する要素ex501、ex502、ex503、ex504、ex505、ex506、ex507、ex508、ex509を備え、各要素はバスex510を介して接続している。電源回路部ex505は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
例えば符号化処理を行う場合には、LSIex500は、CPUex502、メモリコントローラex503、ストリームコントローラex504、駆動周波数制御部ex512等を有する制御部ex501の制御に基づいて、AV I/Oex509によりマイクex117やカメラex113等からAV信号を入力する。入力されたAV信号は、一旦SDRAM等の外部のメモリex511に蓄積される。制御部ex501の制御に基づいて、蓄積したデータは処理量や処理速度に応じて適宜複数回に分けるなどされ信号処理部ex507に送られ、信号処理部ex507において音声信号の符号化および/または映像信号の符号化が行われる。ここで映像信号の符号化処理は上記各実施の形態で説明した符号化処理である。信号処理部ex507ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームI/Oex506から外部に出力する。この出力された多重化データは、基地局ex107に向けて送信されたり、または記録メディアex215に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex508にデータを蓄積するとよい。
なお、上記では、メモリex511がLSIex500の外部の構成として説明したが、LSIex500の内部に含まれる構成であってもよい。バッファex508も1つに限ったものではなく、複数のバッファを備えていてもよい。また、LSIex500は1チップ化されてもよいし、複数チップ化されてもよい。
また、上記では、制御部ex501が、CPUex502、メモリコントローラex503、ストリームコントローラex504、駆動周波数制御部ex512等を有するとしているが、制御部ex501の構成は、この構成に限らない。例えば、信号処理部ex507がさらにCPUを備える構成であってもよい。信号処理部ex507の内部にもCPUを設けることにより、処理速度をより向上させることが可能になる。また、他の例として、CPUex502が信号処理部ex507、または信号処理部ex507の一部である例えば音声信号処理部を備える構成であってもよい。このような場合には、制御部ex501は、信号処理部ex507、またはその一部を有するCPUex502を備える構成となる。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路または汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA(Field Programmable Gate Array)や、LSI内部の回路セルの接続や設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩または派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
(実施の形態5)
上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データを復号する場合、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する映像データを復号する場合に比べ、処理量が増加することが考えられる。そのため、LSIex500において、従来の規格に準拠する映像データを復号する際のCPUex502の駆動周波数よりも高い駆動周波数に設定する必要がある。しかし、駆動周波数を高くすると、消費電力が高くなるという課題が生じる。
この課題を解決するために、テレビex300、LSIex500などの動画像復号化装置は、映像データがどの規格に準拠するものであるかを識別し、規格に応じて駆動周波数を切替える構成とする。図36は、本実施の形態における構成ex800を示している。駆動周波数切替え部ex803は、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合には、駆動周波数を高く設定する。そして、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex801に対し、映像データを復号するよう指示する。一方、映像データが、従来の規格に準拠する映像データである場合には、映像データが、上記各実施の形態で示した動画像符号化方法または装置によって生成されたものである場合に比べ、駆動周波数を低く設定する。そして、従来の規格に準拠する復号処理部ex802に対し、映像データを復号するよう指示する。
より具体的には、駆動周波数切替え部ex803は、図35のCPUex502と駆動周波数制御部ex512から構成される。また、上記各実施の形態で示した動画像復号化方法を実行する復号処理部ex801、および、従来の規格に準拠する復号処理部ex802は、図35の信号処理部ex507に該当する。CPUex502は、映像データがどの規格に準拠するものであるかを識別する。そして、CPUex502からの信号に基づいて、駆動周波数制御部ex512は、駆動周波数を設定する。また、CPUex502からの信号に基づいて、信号処理部ex507は、映像データの復号を行う。ここで、映像データの識別には、例えば、実施の形態3で記載した識別情報を利用することが考えられる。識別情報に関しては、実施の形態3で記載したものに限られず、映像データがどの規格に準拠するか識別できる情報であればよい。例えば、映像データがテレビに利用されるものであるか、ディスクに利用されるものであるかなどを識別する外部信号に基づいて、映像データがどの規格に準拠するものであるか識別可能である場合には、このような外部信号に基づいて識別してもよい。また、CPUex502における駆動周波数の選択は、例えば、図38のような映像データの規格と、駆動周波数とを対応付けたルックアップテーブルに基づいて行うことが考えられる。ルックアップテーブルを、バッファex508や、LSIの内部メモリに格納しておき、CPUex502がこのルックアップテーブルを参照することにより、駆動周波数を選択することが可能である。
図37は、本実施の形態の方法を実施するステップを示している。まず、ステップexS200では、信号処理部ex507において、多重化データから識別情報を取得する。次に、ステップexS201では、CPUex502において、識別情報に基づいて映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものであるか否かを識別する。映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合には、ステップexS202において、駆動周波数を高く設定する信号を、CPUex502が駆動周波数制御部ex512に送る。そして、駆動周波数制御部ex512において、高い駆動周波数に設定される。一方、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する映像データであることを示している場合には、ステップexS203において、駆動周波数を低く設定する信号を、CPUex502が駆動周波数制御部ex512に送る。そして、駆動周波数制御部ex512において、映像データが上記各実施の形態で示した符号化方法または装置によって生成されたものである場合に比べ、低い駆動周波数に設定される。
さらに、駆動周波数の切替えに連動して、LSIex500またはLSIex500を含む装置に与える電圧を変更することにより、省電力効果をより高めることが可能である。例えば、駆動周波数を低く設定する場合には、これに伴い、駆動周波数を高く設定している場合に比べ、LSIex500またはLSIex500を含む装置に与える電圧を低く設定することが考えられる。
また、駆動周波数の設定方法は、復号する際の処理量が大きい場合に、駆動周波数を高く設定し、復号する際の処理量が小さい場合に、駆動周波数を低く設定すればよく、上述した設定方法に限らない。例えば、MPEG4−AVC規格に準拠する映像データを復号する処理量の方が、上記各実施の形態で示した動画像符号化方法または装置により生成された映像データを復号する処理量よりも大きい場合には、駆動周波数の設定を上述した場合の逆にすることが考えられる。
さらに、駆動周波数の設定方法は、駆動周波数を低くする構成に限らない。例えば、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、LSIex500またはLSIex500を含む装置に与える電圧を高く設定し、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する映像データであることを示している場合には、LSIex500またはLSIex500を含む装置に与える電圧を低く設定することも考えられる。また、他の例としては、識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合には、CPUex502の駆動を停止させることなく、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する映像データであることを示している場合には、処理に余裕があるため、CPUex502の駆動を一時停止させることも考えられる。識別情報が、上記各実施の形態で示した動画像符号化方法または装置によって生成された映像データであることを示している場合であっても、処理に余裕があれば、CPUex502の駆動を一時停止させることも考えられる。この場合は、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する映像データであることを示している場合に比べて、停止時間を短く設定することが考えられる。
このように、映像データが準拠する規格に応じて、駆動周波数を切替えることにより、省電力化を図ることが可能になる。また、電池を用いてLSIex500またはLSIex500を含む装置を駆動している場合には、省電力化に伴い、電池の寿命を長くすることが可能である。
(実施の形態6)
テレビや、携帯電話など、上述した機器・システムには、異なる規格に準拠する複数の映像データが入力される場合がある。このように、異なる規格に準拠する複数の映像データが入力された場合にも復号できるようにするために、LSIex500の信号処理部ex507が複数の規格に対応している必要がある。しかし、それぞれの規格に対応する信号処理部ex507を個別に用いると、LSIex500の回路規模が大きくなり、また、コストが増加するという課題が生じる。
この課題を解決するために、上記各実施の形態で示した動画像復号方法を実行するための復号処理部と、従来のMPEG−2、MPEG4−AVC、VC−1などの規格に準拠する復号処理部とを一部共有化する構成とする。この構成例を図39Aのex900に示す。例えば、上記各実施の形態で示した動画像復号方法と、MPEG4−AVC規格に準拠する動画像復号方法とは、エントロピー符号化、逆量子化、デブロッキング・フィルタ、動き補償などの処理において処理内容が一部共通する。共通する処理内容については、MPEG4−AVC規格に対応する復号処理部ex902を共有し、MPEG4−AVC規格に対応しない、本発明の一態様に特有の他の処理内容については、専用の復号処理部ex901を用いるという構成が考えられる。復号処理部の共有化に関しては、共通する処理内容については、上記各実施の形態で示した動画像復号化方法を実行するための復号処理部を共有し、MPEG4−AVC規格に特有の処理内容については、専用の復号処理部を用いる構成であってもよい。
また、処理を一部共有化する他の例を図39Bのex1000に示す。この例では、本発明の一態様に特有の処理内容に対応した専用の復号処理部ex1001と、他の従来規格に特有の処理内容に対応した専用の復号処理部ex1002と、本発明の一態様に係る動画像復号方法と他の従来規格の動画像復号方法とに共通する処理内容に対応した共用の復号処理部ex1003とを用いる構成としている。ここで、専用の復号処理部ex1001、ex1002は、必ずしも本発明の一態様、または、他の従来規格に特有の処理内容に特化したものではなく、他の汎用処理を実行できるものであってもよい。また、本実施の形態の構成を、LSIex500で実装することも可能である。
このように、本発明の一態様に係る動画像復号方法と、従来の規格の動画像復号方法とで共通する処理内容について、復号処理部を共有することにより、LSIの回路規模を小さくし、かつ、コストを低減することが可能である。
本発明に係る動画像符号化方法および動画像復号方法は、あらゆるマルチメディアデータに適用することができ、動きベクトルの大きさの範囲を制限する場合の処理負荷を削減しつつも符号化効率を保つことが可能であり、例えば携帯電話、DVD装置、およびパーソナルコンピュータ等を用いた蓄積、伝送、通信等における動画像符号化方法および動画像復号方法として有用である。
100 動画像符号化装置
101 差分部
102 変換部
103 量子化部
104、202 逆量子化部
105、203 逆変換部
106、204 加算部
107、205 イントラ・インター予測部
108 符号化制御部
109、207 メモリ
110 エントロピー符号化部
200 動画像復号装置
201 エントロピー復号部
206 復号制御部

Claims (3)

  1. 複数のピクチャをブロック毎に復号する復号方法であって、
    復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の隣接ブロックのそれぞれについて、リストに前記隣接ブロックの動きベクトルを選択的に追加する追加ステップと、
    前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、
    選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み、
    前記追加ステップでは、
    前記時間的に隣接する隣接ブロックの第1の動きベクトルをスケーリングすることにより第2の動きベクトルを生成し、
    前記第2の動きベクトルの大きさが、予め定められた固定の大きさの範囲に含まれるか否かを判定し、
    前記第2の動きベクトルの大きさが前記固定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加し、
    前記第2の動きベクトルが前記固定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記固定の大きさの範囲内に収まるようにクリップして生成された第3の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加する
    復号方法。
  2. 複数のピクチャをブロック毎に復号する復号装置であって、
    復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の隣接ブロックのそれぞれについて、リストに前記隣接ブロックの動きベクトルを選択的に追加する追加部と、
    前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択部と、
    選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号部とを備え、
    前記追加部では、
    前記時間的に隣接する隣接ブロックの第1の動きベクトルをスケーリングすることにより第2の動きベクトルを算出し、
    前記第2の動きベクトルの大きさが、予め定められた固定の大きさの範囲に含まれるか否かを判定し、
    前記第2の動きベクトルの大きさが前記固定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加し、
    前記第2の動きベクトルが前記固定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記固定の大きさの範囲内に収まるようにクリップして生成された第3の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加する
    復号装置。
  3. 複数のピクチャをブロック毎に復号する復号装置であって、
    記憶部と、前記記憶部に接続され、復号処理を実行する処理回路とを備え、
    前記復号処理は、
    前記記憶部に保持されているブロックであって、復号対象ピクチャに含まれ復号対象ブロックに空間的に隣接する、または、前記復号対象ピクチャとは異なるピクチャに含まれる時間的に隣接する1以上の隣接ブロックを読み出す読み出しステップと、
    前記1以上の隣接ブロックのそれぞれについて、リストに前記隣接ブロックの動きベクトルを選択的に追加する追加ステップと、
    前記リストから、前記復号対象ブロックの復号のために用いる動きベクトルを選択する選択ステップと、
    選択された前記動きベクトルを用いて前記復号対象ブロックを復号する復号ステップとを含み
    前記追加ステップでは、
    前記時間的に隣接する隣接ブロックの第1の動きベクトルをスケーリングすることにより第2の動きベクトルを生成し、
    前記第2の動きベクトルの大きさが、予め定められた固定の大きさの範囲に含まれるか否かを判定し、
    前記第2の動きベクトルの大きさが前記固定の大きさの範囲内に含まれれば、前記第2の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加し、
    前記第2の動きベクトルが前記固定の大きさの範囲内に含まれなければ、前記第2の動きベクトルを前記固定の大きさの範囲内に収まるようにクリップして生成された第3の動きベクトルを前記隣接ブロックの動きベクトルとして前記リストに追加する
    復号装置。
JP2013185761A 2011-12-16 2013-09-06 復号方法、および復号装置 Active JP5432410B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US201161576501P 2011-12-16 2011-12-16
US61/576,501 2011-12-16

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2013522755A Division JP5364219B1 (ja) 2011-12-16 2012-12-11 動画像符号化方法、および動画像符号化装置

Publications (2)

Publication Number Publication Date
JP2014017845A JP2014017845A (ja) 2014-01-30
JP5432410B2 true JP5432410B2 (ja) 2014-03-05

Family

ID=48612172

Family Applications (4)

Application Number Title Priority Date Filing Date
JP2013522755A Active JP5364219B1 (ja) 2011-12-16 2012-12-11 動画像符号化方法、および動画像符号化装置
JP2013185761A Active JP5432410B2 (ja) 2011-12-16 2013-09-06 復号方法、および復号装置
JP2013185760A Active JP6025061B2 (ja) 2011-12-16 2013-09-06 動画像符号化復号装置
JP2016191545A Active JP6210423B2 (ja) 2011-12-16 2016-09-29 復号方法、および、復号装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2013522755A Active JP5364219B1 (ja) 2011-12-16 2012-12-11 動画像符号化方法、および動画像符号化装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2013185760A Active JP6025061B2 (ja) 2011-12-16 2013-09-06 動画像符号化復号装置
JP2016191545A Active JP6210423B2 (ja) 2011-12-16 2016-09-29 復号方法、および、復号装置

Country Status (10)

Country Link
US (10) US8867620B2 (ja)
EP (1) EP2793466A4 (ja)
JP (4) JP5364219B1 (ja)
KR (2) KR102211673B1 (ja)
CN (1) CN103650507B (ja)
CA (1) CA2841058C (ja)
MX (2) MX340433B (ja)
RU (1) RU2628226C2 (ja)
TW (1) TWI581619B (ja)
WO (1) WO2013088697A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9762904B2 (en) * 2011-12-22 2017-09-12 Qualcomm Incorporated Performing motion vector prediction for video coding
US9800869B2 (en) * 2012-06-15 2017-10-24 Google Technology Holdings LLC Method and apparatus for efficient slice header processing
US9392268B2 (en) * 2012-09-28 2016-07-12 Qualcomm Incorporated Using base layer motion information
PL2946556T3 (pl) * 2013-01-16 2017-04-28 Telefonaktiebolaget Lm Ericsson (Publ) Koder i dekoder oraz metoda kodowania sekwencji filmowej
JP5983430B2 (ja) * 2013-01-25 2016-08-31 富士通株式会社 動画像符号化装置、動画像符号化方法及び動画像復号装置ならびに動画像復号方法
US10003818B2 (en) 2013-10-11 2018-06-19 Sony Corporation Video coding system with intra prediction mechanism and method of operation thereof
US10009629B2 (en) 2013-10-11 2018-06-26 Sony Corporation Video coding system with search range and method of operation thereof
US9774881B2 (en) * 2014-01-08 2017-09-26 Microsoft Technology Licensing, Llc Representing motion vectors in an encoded bitstream
US9749642B2 (en) 2014-01-08 2017-08-29 Microsoft Technology Licensing, Llc Selection of motion vector precision
CN105874789B (zh) * 2014-01-29 2019-10-29 联发科技股份有限公司 利用自适应运动向量精度的方法
EP3160141A4 (en) * 2014-06-18 2018-01-17 Samsung Electronics Co., Ltd Inter-layer video encoding method for compensating for luminance difference and device therefor, and video decoding method and device therefor
KR20180085714A (ko) * 2015-12-17 2018-07-27 삼성전자주식회사 머지 후보 리스트를 이용한 비디오 복호화 방법 및 비디오 복호화 장치
CN115334315A (zh) 2016-02-01 2022-11-11 Oppo广东移动通信有限公司 预测图像生成装置、运动图像解码装置、以及运动图像编码装置
CN116567217A (zh) * 2016-08-11 2023-08-08 Lx 半导体科技有限公司 图像编码/解码方法以及图像数据的发送方法
US11700391B2 (en) 2017-05-18 2023-07-11 Hfi Innovation Inc. Method and apparatus of motion vector constraint for video coding
US11272207B2 (en) * 2017-06-12 2022-03-08 Futurewei Technologies, Inc. Selection and signaling of motion vector (MV) precisions
WO2020060351A1 (ko) * 2018-09-21 2020-03-26 엘지전자 주식회사 움직임 벡터를 도출하는 방법 및 그 장치
CN111083491A (zh) 2018-10-22 2020-04-28 北京字节跳动网络技术有限公司 细化运动矢量的利用
WO2020098643A1 (en) 2018-11-12 2020-05-22 Beijing Bytedance Network Technology Co., Ltd. Simplification of combined inter-intra prediction
EP3861742A4 (en) 2018-11-20 2022-04-13 Beijing Bytedance Network Technology Co., Ltd. DIFFERENCE CALCULATION BASED ON SPATIAL POSITION
CN113273205A (zh) 2018-12-21 2021-08-17 北京字节跳动网络技术有限公司 使用更高比特深度精度的运动矢量推导
WO2020130020A1 (ja) * 2018-12-21 2020-06-25 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
EP3905685B1 (en) 2018-12-28 2024-03-20 JVCKenwood Corporation Image encoding device, image encoding method, image encoding program, image decoding device, image decoding method, and image decoding program
BR112021012479A2 (pt) 2018-12-28 2021-09-08 Jvckenwood Corporation Dispositivo de codificação de imagem em movimento, método de codificação de imagem em movimento, programa de codificação de imagem em movimento, dispositivo de decodificação de imagem em movimento, método de decodificação de imagem em movimento e programa de decodificação de imagem em movimento
US11089325B2 (en) * 2019-02-08 2021-08-10 Qualcomm Incorporated Constrained affine motion inheritance for video coding
WO2020177756A1 (en) 2019-03-06 2020-09-10 Beijing Bytedance Network Technology Co., Ltd. Size dependent inter coding
CA3119653A1 (en) * 2019-03-08 2020-09-17 Jvckenwood Corporation Video encoding device, video encoding method, video encoding program, video decoding device, video decoding method, and video decoding program
AR118250A1 (es) * 2019-03-08 2021-09-22 Jvckenwood Corp Dispositivos, métodos y programas de codificación y decodificación de imágenes en movimiento

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2914448B2 (ja) * 1997-06-25 1999-06-28 日本電信電話株式会社 動きベクトル予測符号化方法および動きベクトル復号方法、予測符号化装置および復号装置、並びに、動きベクトルの予測符号化プログラムおよび復号プログラムを記録した記録媒体
US7206346B2 (en) * 1997-06-25 2007-04-17 Nippon Telegraph And Telephone Corporation Motion vector predictive encoding method, motion vector decoding method, predictive encoding apparatus and decoding apparatus, and storage media storing motion vector predictive encoding and decoding programs
US6539059B1 (en) * 2000-03-02 2003-03-25 Sun Microsystems, Inc. Apparatus and method for efficiently scalable digital video decoding
US6965645B2 (en) * 2001-09-25 2005-11-15 Microsoft Corporation Content-based characterization of video frame sequences
CA2574127A1 (en) * 2002-01-18 2003-07-31 Kabushiki Kaisha Toshiba Video encoding method and apparatus and video decoding method and apparatus
KR100506864B1 (ko) * 2002-10-04 2005-08-05 엘지전자 주식회사 모션벡터 결정방법
US8064520B2 (en) 2003-09-07 2011-11-22 Microsoft Corporation Advanced bi-directional predictive coding of interlaced video
RU2368095C1 (ru) * 2005-07-22 2009-09-20 Мицубиси Электрик Корпорейшн Кодер изображения и декодер изображения, способ кодирования изображения и способ декодирования изображения, программа кодирования изображения и программа декодирования изображения и компьютерно-считываемый носитель записи, на котором записана программа кодирования изображения, и компьютерно-считываемый носитель записи, на котором записана программа декодирования изображения
US9113194B2 (en) * 2007-12-19 2015-08-18 Arris Technology, Inc. Method and system for interleaving video and data for transmission over a network at a selected bit rate
KR20110091748A (ko) * 2008-11-07 2011-08-12 미쓰비시덴키 가부시키가이샤 동화상 부호화 장치 및 동화상 복호 장치
US8885728B2 (en) * 2009-10-13 2014-11-11 General Instrument Corporation Decoding apparatus for a set-top box
US9137544B2 (en) * 2010-11-29 2015-09-15 Mediatek Inc. Method and apparatus for derivation of mv/mvp candidate for inter/skip/merge modes
US9485517B2 (en) * 2011-04-20 2016-11-01 Qualcomm Incorporated Motion vector prediction with motion vectors from multiple views in multi-view video coding
US9762904B2 (en) * 2011-12-22 2017-09-12 Qualcomm Incorporated Performing motion vector prediction for video coding

Also Published As

Publication number Publication date
KR102072831B1 (ko) 2020-02-03
US10321133B2 (en) 2019-06-11
US20140341295A1 (en) 2014-11-20
JP6025061B2 (ja) 2016-11-16
CN103650507B (zh) 2018-01-02
JP2017063424A (ja) 2017-03-30
US10757418B2 (en) 2020-08-25
US8867620B2 (en) 2014-10-21
KR20200015798A (ko) 2020-02-12
RU2628226C2 (ru) 2017-08-15
US11356669B2 (en) 2022-06-07
EP2793466A4 (en) 2015-07-01
US20170054985A1 (en) 2017-02-23
US11711521B2 (en) 2023-07-25
JP5364219B1 (ja) 2013-12-11
CA2841058A1 (en) 2013-06-20
RU2013158874A (ru) 2016-02-10
JP2014003704A (ja) 2014-01-09
US20220377348A1 (en) 2022-11-24
US20150003534A1 (en) 2015-01-01
US20200389652A1 (en) 2020-12-10
WO2013088697A1 (ja) 2013-06-20
JP6210423B2 (ja) 2017-10-11
CA2841058C (en) 2021-03-23
KR102211673B1 (ko) 2021-02-03
MX340433B (es) 2016-07-08
US20150271519A1 (en) 2015-09-24
US9094682B2 (en) 2015-07-28
JP2014017845A (ja) 2014-01-30
TW201340720A (zh) 2013-10-01
US20230328254A1 (en) 2023-10-12
TWI581619B (zh) 2017-05-01
JPWO2013088697A1 (ja) 2015-04-27
US20190253715A1 (en) 2019-08-15
MX2013014733A (es) 2014-02-19
EP2793466A1 (en) 2014-10-22
US8917773B2 (en) 2014-12-23
US8885722B2 (en) 2014-11-11
CN103650507A (zh) 2014-03-19
US20140044188A1 (en) 2014-02-13
KR20140110831A (ko) 2014-09-17
US20130177082A1 (en) 2013-07-11

Similar Documents

Publication Publication Date Title
JP6210423B2 (ja) 復号方法、および、復号装置
JP6478133B2 (ja) 動画像復号方法、動画像復号装置、動画像符号化方法、および動画像符号化装置
JP5837575B2 (ja) 動画像符号化方法、動画像符号化装置、動画像復号化方法、動画像復号化装置、および動画像符号化復号化装置
JP6421931B2 (ja) 動画像符号化方法及び動画像符号化装置
JP6422011B2 (ja) 動画像符号化方法、動画像復号化方法、動画像符号化装置および動画像復号化装置
JP6643655B2 (ja) 動画像符号化方法、動画像符号化装置、動画像復号方法、および、動画像復号装置
JPWO2013057877A1 (ja) 画像符号化方法、画像符号化装置、画像復号方法、および、画像復号装置
JP2014003707A (ja) 動画像復号方法、および、動画像復号装置
JP5883431B2 (ja) 画像符号化方法および画像復号化方法
JP6551894B2 (ja) 動画像復号化方法および動画像復号化装置
WO2012073481A1 (ja) 動画像符号化方法および動画像復号化方法

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20131112

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20131205

R150 Certificate of patent or registration of utility model

Ref document number: 5432410

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S131 Request for trust registration of transfer of right

Free format text: JAPANESE INTERMEDIATE CODE: R313133

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z02

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

SZ03 Written request for cancellation of trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z03

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350