JP2009124209A - 情報処理装置および方法 - Google Patents
情報処理装置および方法 Download PDFInfo
- Publication number
- JP2009124209A JP2009124209A JP2007292810A JP2007292810A JP2009124209A JP 2009124209 A JP2009124209 A JP 2009124209A JP 2007292810 A JP2007292810 A JP 2007292810A JP 2007292810 A JP2007292810 A JP 2007292810A JP 2009124209 A JP2009124209 A JP 2009124209A
- Authority
- JP
- Japan
- Prior art keywords
- encoding
- unit
- encoded data
- group
- information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】より効率よくビットストリームの復号処理を行うことができるようにする。
【解決手段】ビデオエンコーダ101が画像データを符号化し、符号化データのビットストリームを生成するとともに、マクロブロック毎に統計情報を算出する。グループ割り当て部111は、そのマクロブロック毎の統計情報に基づいて各マクロブロックをグループ分けすることにより、復号処理時におけるデコーダへのビットストリームの分配方法を決定する。多重化部112は、グループ割り当て部111が生成したそのグループ分けを示す処理量マップの情報をビットストリームの所定の位置に多重化して出力する。本発明は、例えば、符号化装置に適用することができる。
【選択図】図2
【解決手段】ビデオエンコーダ101が画像データを符号化し、符号化データのビットストリームを生成するとともに、マクロブロック毎に統計情報を算出する。グループ割り当て部111は、そのマクロブロック毎の統計情報に基づいて各マクロブロックをグループ分けすることにより、復号処理時におけるデコーダへのビットストリームの分配方法を決定する。多重化部112は、グループ割り当て部111が生成したそのグループ分けを示す処理量マップの情報をビットストリームの所定の位置に多重化して出力する。本発明は、例えば、符号化装置に適用することができる。
【選択図】図2
Description
本発明は、情報処理装置および方法に関し、特に、より効率よくビットストリームの復号処理を行うことができるようにした情報処理装置および方法に関する。
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮する方式(例えば、MPEG(Moving Picture Experts Group))に準拠した装置が、放送局などの情報配信、及び一般家庭における情報受信の双方において普及しつつある。
特に、MPEG2(ISO(International Organization for Standardization)/IEC(International Electrotechnical Commission) 13818-2)は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準で、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。このMPEG2圧縮方式を用いることにより、例えば720×480画素を持つ標準解像度の飛び越し走査画像であれば4〜8Mbps、1920×1088画素を持つ高解像度の飛び越し走査画像であれば18〜22Mbpsの符号量(ビットレート)を割り当てることで、高い圧縮率と良好な画質の実現が可能である。
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC 14496-2としてその規格が国際標準に承認された。
更に、近年、AVC(Advanced Video Coding)(MPEG4 part10、ISO/IEC 14496-10 | ITU-T(International Telecommunication Union - Telecommunication Standardization Sector) H.264)(以下、AVC/H.264と称する)という標準の規格化が行われている。ITU-T と ISO/IEC の間で共同でビデオ符号化の標準化を行う、JVT(Joint Video Team)という団体を設立し、この団体で規格化を進めている。H.264はMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化および復号により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。
このAVC/H.264を含む、JVTで標準化が行われている符号化方式(以下JVT Codec)は、離散コサイン変換の変換方法が4×4ブロックサイズの整数係数変換であったり、動き補償の際のブロックサイズが可変であったりするなど詳細は異なるが、基本的な方式はMPEG2やMPEG4の符号化方式と同様である。
AVC/H.264は、MPEG2やMPEG4といった既存のビデオ符号化方式と比較して、倍以上の高い圧縮効率(符号化効率)を実現するが、その分、復号処理の処理量も飛躍的に増加する。また、画像の高画質化による画像データのデータ量の増大に伴い、復号処理の処理量はさらに増加する。しかしながら、例えば、伝送されてきた符号化データのビットストリームを順次復号する場合や、記録媒体に記録されている符号化データを読み出して復号し、画像を再生する場合のように、復号処理による遅延の許容範囲が少なく、高速に復号処理を行うことが求められる場合がある。
そこで、復号処理を効率よく行うために、符号化データのビットストリームを複数に分割し、複数のデコーダ(プロセッサやLSI(Large Scale Integration))を用いて並列に復号処理を行うことにより、復号処理の高速化を実現する方法がある(例えば、特許文献1参照)。
特許文献1に記載の方法では、ビットストリームをマクロブロックと称されるデータ単位で各プロセッサに分配し、並列に符号化処理や復号処理を行わせる。
また、この他にも、例えば、図1に示されるように複数のマクロブロックからなるスライスと称されるデータ単位毎にビットストリームを分割し、復号処理を並列に実行させる方法もある。図1の例の場合、1ピクチャ分のビットストリームが、6つのスライス(スライス1乃至スライス6)に分割され、3つのプロセッサ(プロセッサ1乃至プロセッサ3)に2つずつ分配される。各プロセッサは、同時並行的に割り当てられたスライスを復号する。
このように、複数のプロセッサを用いて復号処理を行う場合、処理を効率よく行うために、並列に行われる各処理の処理時間を均一化することが望ましい。例えば各プロセッサの処理能力が互いに同一であるとすると、各プロセッサの処理量が互いに同一となるように、ビットストリームを分配するのが望ましい。
しかしながら、復号処理の処理量は、符号量や符号化の難易度などによって変化するが、ピクチャ内においてこれらが均一であるとは限らず、画像の内容によってはピクチャ内で大きく偏りが生じる場合がある。つまり、マクロブロック単位やスライス単位のように、ビットストリームを、画像における位置によって分割する場合、各ビットストリームの復号処理の処理量を調整することが困難であり、各プロセッサの負荷に無秩序な偏りが生じ、不要な待機時間が発生する等、処理効率の低下を招く恐れがあった。
本発明は、このような状況に鑑みて提案されたものであり、ビットストリームを復号処理の処理量に基づいて分割することにより、より効率よくビットストリームの復号処理を行うことができるようにするものである。
本発明の一側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置において、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当てるグループ割り当て手段と、前記符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記符号化データのビットストリームに多重化する多重化手段とを備える情報処理装置である。
前記多重化手段は、1ピクチャ分の符号化データに対して割り当てられるグループの数を示す情報を、前記ビットストリームにさらに多重化することができる。
前記多重化手段は、前記グループ割り当て手段による前記符号化データの前記グループへの割り当てが、前記統計情報に基づいて前記複数の復号処理のそれぞれの処理時間の偏りが小さくなるように行われたことを示す情報を、前記ビットストリームにさらに多重化することができる。
前記多重化手段は、1ピクチャ分の符号化データに対して、前記グループ割り当て手段が割り当てを行う回数を示す情報を、前記ビットストリームにさらに多重化することができる。
前記統計情報は、前記符号化データの、前記符号化処理単位の整数倍毎の符号量であるようにすることができる。
前記統計情報は、前記符号化データの前記符号化処理単位の整数倍毎の、映像の動きの速さおよび絵柄の複雑さを表わす情報、または、映像の空間的な平坦さを示す情報および映像の複雑さを示す情報であるようにすることができる。
前記画像データを符号化する符号化手段と、前記符号化手段による前記画像データの符号化に関する前記統計情報を生成する統計情報生成手段とをさらに備え、前記グループ割り当て手段は、前記符号化処理単位の整数倍毎に、前記符号化手段による符号化により得られた前記符号化データを、前記統計情報生成手段により生成された前記統計情報に基づいて、複数の前記グループのいずれかに割り当てることができる。
前記符号化手段は、前記画像データを前記符号化処理単位毎に符号化する際に、ピクチャ内の他の画素値に基づく予測を行わずに符号化を行うことができる。
前記符号化データおよび前記符号化データの前記統計情報を記憶する記憶手段をさらに備え、前記グループ割り当て手段は、前記記憶手段より読み出された前記符号化データを、前記記憶手段より読み出された前記統計情報に基づいて、符号化処理単位の整数倍毎に、複数の前記グループのいずれかに割り当て、前記多重化手段は、前記符号化データの符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記記憶手段より読み出された前記符号化データのビットストリームに多重化することができる。
本発明の一側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、前記符号化データのビットストリームに多重化する情報処理方法である。
本発明の他の側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置において、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当てるグループ割り当て手段と、前記グループ割り当て手段によるグループの割り当てに基づいて選択した方法で前記画像データを前記符号化処理単位毎に符号化する第1の符号化手段と、前記符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記第1の符号化手段による符号化により得られた前記符号化データのビットストリームに多重化する多重化手段とを備える情報処理装置である。
前記第1の符号化手段は、処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データが前記処理対象符号化データと同一のグループに属する場合、前記処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データの画素値を参照して予測を行い、得られた予測値を用いて前記処理対象符号化データの符号化を行うことができる。
前記第1の符号化手段は、処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データが前記処理対象符号化データと異なるグループに属する場合、前記処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データの画素値に基づく予測を行わずに、前記処理対象符号化データの符号化を行うことができる。
前記統計情報は、前記符号化データの、前記符号化処理単位の整数倍毎の符号量であるようにすることができる。
前記画像データを符号化する第2の符号化手段と、前記第2の符号化手段による前記画像データの符号化に関する前記統計情報を生成する統計情報生成手段とをさらに備え、前記グループ割り当て手段は、前記符号化処理単位の整数倍毎に、前記第1の符号化手段による符号化により得られた前記符号化データを、前記統計情報生成手段により生成された前記統計情報に基づいて、複数の前記グループのいずれかに割り当てることができる。
本発明の他の側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、符号化手段が、前記グループの割り当てに基づいて選択した方法で前記画像データを前記符号化処理単位毎に符号化し、多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、符号化により得られた前記符号化データのビットストリームに多重化する情報処理方法である。
本発明の他の側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置において、前記符号化データから、符号化処理単位の整数倍毎に、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれのグループに割り当てられるかを示す情報を取得する取得手段と、前記符号化データを復号する複数の復号手段と、前記取得手段により取得されたグループを示す情報に従って、前記符号化データを複数の前記復号手段に割り当てて復号するように、前記復号手段を制御する復号制御手段とを備える情報処理装置である。
本発明の他の側面は、画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、取得手段が、前記符号化データから、符号化処理単位の整数倍毎に、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれのグループに割り当てられるかを示す情報を取得し、複数の復号手段がそれぞれ前記復号処理を行い、前記符号化データを復号し、復号制御手段が、取得されたグループを示す情報に従って前記符号化データをグループ毎に各復号処理に割り当て、復号させる情報処理方法である。
本発明の一側面においては、画像データが符号化されて得られた符号化データを処理する情報処理装置において、グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、前記符号化データのビットストリームに多重化する。
本発明の他の側面においては、画像データが符号化されて得られた符号化データを処理する情報処理装置において、グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、第1の符号化手段が、前記グループの割り当てに基づいて選択した方法で前記画像データを前記符号化処理単位毎に符号化し、多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、符号化により得られた前記符号化データのビットストリームに多重化する。
本発明の他の側面においては、画像データが符号化されて得られた符号化データを処理する情報処理装置において、取得手段が、前記符号化データから、符号化処理単位の整数倍毎に、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれのグループに割り当てられるかを示す情報を取得し、複数の復号手段がそれぞれ前記復号処理を行い、前記符号化データを復号し、復号制御手段が、取得されたグループを示す情報に従って前記符号化データをグループ毎に各復号処理に割り当て、復号させる。
ネットワークとは、少なくとも2つの装置が接続され、ある装置から、他の装置に対して、情報の伝達をできるようにした仕組みをいう。ネットワークを介して通信する装置は、独立した装置どうしであっても良いし、1つの装置を構成している内部ブロックどうしであっても良い。
また、通信とは、無線通信および有線通信は勿論、無線通信と有線通信とが混在した通信、即ち、ある区間では無線通信が行われ、他の区間では有線通信が行われるようなものであっても良い。さらに、ある装置から他の装置への通信が有線通信で行われ、他の装置からある装置への通信が無線通信で行われるようなものであっても良い。
本発明によれば、画像データを処理することができる。特に、より効率よくビットストリームの復号処理を行うことができるようにすることができる。
図2は、本発明を適用した符号化装置の主な構成例を示すブロック図である。
図2に示される符号化装置100は、画像データを符号化し、生成した符号化データをビットストリームとして出力する装置である。符号化装置100は、ビデオエンコーダ101、グループ化処理部102、およびバッファ103を有する。
ビデオエンコーダ101は、入力された画像データ(入力画像)をAVC/H.264方式により符号化する。詳細については後述するが、ビデオエンコーダ101は、入力された画像データをピクチャ毎に整列し、さらに、各ピクチャをマクロブロック毎に符号化する。図3に示されるように、1ピクチャ分のデータを示すピクチャ121は、複数のマクロブロックにより構成される。各マクロブロックは、例えば、4×4画素、4×8画素、8×4画素、8×8画素、8×16画素、16×8画素、または16画素×16画素のように複数の画素よりなる。
図3において、ピクチャ121は、1ピクチャ分の画像データを示しており、その内部の各四角がそれぞれマクロブロックを示している。なお、各マクロブロックの数字は、それぞれの識別情報(マクロブロックアドレス)の例を模式的に表わしたものである。マクロブロックアドレスは、左上端のマクロブロックからラスタ順に、自然数が昇順に割り当てられる。ビデオエンコーダ101は、ピクチャ121を、このマクロブロックアドレス順に、マクロブロック毎に符号化する。
ビデオエンコーダ101は、画像データを符号化して得られた符号化データのビットストリームをグループ化処理部102の多重化部112に供給する。また、ビデオエンコーダ101は、画像データの符号化の際に、その符号化に関する所定の統計情報(例えば、符号化方式や符号化処理時間等の符号化処理内容に関する情報、または、符号化前の画像データ、符号化処理中に生成される中間データ、および符号化により得られる符号化データを含む各種データに関する情報等の、符号化に関する任意の情報)を算出し、その統計情報を、その統計情報が対応するビットストリームを識別可能な状態でグループ化処理部102のグループ割り当て部111に供給する。例えば、ビデオエンコーダ101は、統計情報を、符号化処理単位であるマクロブロック毎に算出し、その統計情報が対応するマクロブロックの識別情報(マクロブロックアドレス)と関連付けて、グループ化処理部102のグループ割り当て部111に供給する。
入力画像の内容が、例えば通常の風景画像のように、フレーム内において均一な絵柄でない場合、符号化の難しさや発生符号量はピクチャ内において均一にならない。
図4Aは、ピクチャ121内のマクロブロック毎の発生符号量の例を模式的に示したものである。ピクチャ121内の各四角は、マクロブロックを示している。マクロブロック131−1−1乃至マクロブロック131−6−1は、ピクチャ121内の最も左の列のマクロブロックを示しており、マクロブロック131−1−1乃至マクロブロック131−1−4は、ピクチャ121内の最も上の段のマクロブロックを示している。つまり、131の次の番号がそのマクロブロックの上からの位置を示しており、その次の番号がそのマクロブロックの左からの位置を示している。例えば、マクロブロック131−2−1は、上から2個目で左から1個目(最も左側)のマクロブロックを示している。また、図4Aにおいて符号の図示を省略しているマクロブロックも同様に表わすことができる。例えば、上から2個目、左から2個目のマクロブロックをマクロブロック131−2−2と称し、ピクチャ121の右下端のマクロブロックを、マクロブロック131−6−4と称する。なお、以下において、どのマクロブロックであるかを区別する必要が無い場合、単にマクロブロック131と称することもある。また、図4Aにおいては、1ピクチャが24個のマクロブロックにより構成されるように示されているが、1ピクチャを構成するマクロブロックの数は任意である(ピクチャサイズやマクロブロックサイズに依存する)。
各マクロブロック131の模様は発生符号量の例を表わしている。模様の違いは、図4Bに示されるように、発生符号量の違いを示す。図4Bに示されるように、右上左下の斜線模様のマクロブロック131Aの符号量が最も少なく、右下左上の斜線模様のマクロブロック131Bの符号量がその次に少なく、ハッチ模様のマクロブロック131Cの符号量がその次に少なく、縦横の格子模様のマクロブロック131Dの符号量が最も多い。
図2のビデオエンコーダ101は、このようなマクロブロック(符号化処理単位)毎の発生符号量を算出し、それを統計情報としてマクロブロックアドレス(位置識別情報)と対応させてグループ化処理部102のグループ割り当て部111に供給する。
グループ化処理部102は、ビデオエンコーダ101より出力されたビットストリームを、そのビットストリームの復号処理の処理量に応じて分割し、複数のグループにグループ化する。グループ化処理部102は、グループ割り当て部111および多重化部112を有する。
グループ割り当て部111は、ビデオエンコーダ101より供給された統計情報およびマクロブロックアドレスから各マクロブロックの(符号化処理単位毎に)復号処理の処理量を推定し、その推定される処理量に基づいて、各マクロブロックに対して予め定められた所定の数のグループのうちいずれかを割り当てる(符号化データを符号化処理単位毎に統計情報に応じてグループ分けを行う)。
発生符号量が多ければ、その分復号時において処理するデータ量が増大するので、復号処理の処理量の増大が推測される。つまり、発生符号量から復号処理の処理量を推定することができる。例えば、図4Aに示されるように、1ピクチャ内のマクロブロック毎の発生符号量に偏りが生じ、均一にならない場合、各マクロブロックの復号処理の処理量も偏りが生じ、均一にならないと推測される。
ビットストリームを復号する際に、より高速に復号処理を行うために、互いに同一の処理能力を有する複数のデコーダを用い、ビットストリームをマクロブロック毎にマクロブロックアドレス順に各デコーダに分配し、各デコーダにおいて並列に復号処理させるとする。このとき、上述したように各マクロブロックの復号処理の処理量が均一でないと、各デコーダの処理量に偏りが生じることが推測される。各デコーダの処理量(復号処理時間)に偏りが生じる場合、不要な待機時間が発生し、復号処理の効率が不要に低下する恐れがある。
なお、図4Aにおいては、発生符号量を4段階で示しているが、発生符号量の分解能は任意である。実際には、より高い分解能で示される場合が多く、各マクロブロックの発生符号量が均一になる可能性はより低くなる。
そこで、グループ割り当て部111は、復号処理の処理効率を向上させるために、各デコーダの処理量(復号処理時間)が同程度となるように、つまり、各デコーダの処理量(復号処理時間)の偏りがなるべく小さくなるように、各ビデオエンコーダ101より供給されるマクロブロック毎の発生符号量(符号化処理単位毎の統計情報)に基づいて、デコーダへのマクロブロックの分配方法を制御する。具体的には、グループ割り当て部111は、各マクロブロックを、分配先のデコーダ毎にグループ化する。
図5は、図4に示されるピクチャ121の各マクロブロック131をグループ化した例を示している。図5においては、各マクロブロックが3つのグループに分けられている。つまり、実線の枠141で囲まれるマクロブロック131(マクロブロック131−1−1、マクロブロック131−1−2、マクロブロック131−1−3、マクロブロック131−1−4、マクロブロック131−2−3、マクロブロック131−2−4、およびマクロブロック131−3−4)と、実線の枠142で囲まれるマクロブロック131(マクロブロック131−6−4)が、第1のグループに割り当てられ、点線の枠143で囲まれるマクロブロック131(マクロブロック131−2−1、マクロブロック131−3−1、マクロブロック131−4−1、マクロブロック131−5−1、マクロブロック131−5−2、マクロブロック131−6−1、およびマクロブロック131−6−2)と、点線の枠144で囲まれるマクロブロック131(マクロブロック131−5−4)が、第2のグループに割り当てられ、一点鎖線の枠145で囲まれるマクロブロック131(マクロブロック131−2−2、マクロブロック131−3−2、マクロブロック131−3−3、マクロブロック131−4−2、マクロブロック131−4−3、マクロブロック131−4−4、マクロブロック131−5−3、およびマクロブロック131−6−3)が、第3のグループに割り当てられている。
各グループは、互いに同一のデコーダに割り当てられるマクロブロックの集合である。各グループは、復号処理に利用される複数のデコーダのそれぞれに対応している。例えば、図5の場合、3つのデコーダが用いられて復号処理が行われる。グループ割り当て部111は、各マクロブロックの発生符号量に基づいて復号処理の処理量(処理時間)を推定し、各グループの発生符号量(復号処理時間)が互いに同程度となるように、すなわち、なるべく偏りが小さくなるように、各マクロブロックをグループ分けする。
なお、グループ割り当て部111は、復号処理に利用されるデコーダについて、数や復号処理能力等の情報を予め把握しておく必要がある。
グループ割り当て部111は、このようなグループ分けを行い、そのマクロブロックとグループの関係(どのマクロブロックがどのグループに属するか)を示す情報である処理量マップを作成する。図6は、処理量マップの例を模式的に示す図である。図6において、ピクチャ121内の各四角はマクロブロックを示しており、番号は、そのマクロブロックが属するグループを示している。
マクロブロックをその位置(マクロブロックアドレス)に基づいて分配する場合、ピクチャを水平方向に分ける等、各グループが矩形となるようにマクロブロックがグループ化される場合が多いが、グループ割り当て部111は、図6に示されるように、マクロブロックの位置とは無関係にグループ化を行う。従って、図5や図6の例のように、各グループに属するマクロブロックが互いに隣接する(連続する)とは限らず、互いに離れた場所に位置するマクロブロックが1つのグループに割り当てられる場合もある。
グループ割り当て部111は、作成した処理量マップを多重化部112に供給する。多重化部112は、ビットストリームに処理量マップを多重化する。つまり、多重化部112は、ビデオエンコーダ101より供給されるビットストリームの所定の位置に、グループ割り当て部111より供給された処理量マップと等価の情報を埋め込む。
処理量マップのビットストリーム中でのシンタクスの例を図7に示す。
上から1行目の「num_slice_groups_minus1」は、各フレーム(ピクチャ)に存在するグループの数を示すフラグである。このグループの数は、復号処理に使用されるデコーダの数を表わす。多重化部112は、1ピクチャ分の符号化データに対して割り当てられるグループの数を示す値(グループの数から1を引いた値(num_slice_groups_minus1))を、ビットストリーム中の所定の位置に記録する。
上から2行目の「if(num_slice_groups_minus1>0){」は、ピクチャ内に存在するグループ数に相当する値が0でない場合(2つ以上のグループが存在する場合)、3行目乃至9行目を実行することが示されている。
上から3行目の「slice_group_map_type」は、上から1行目において数が指定されるグループの種類を示すフラグである。この値が例えば「7」である場合、そのグループが処理量マップのグループであること(各マクロブロックのグループへの割り当てが、統計情報に基づいて複数の復号処理のそれぞれの処理時間の偏りが小さくなるように行われたこと)を示す。多重化部112は、このグループの種類を示す値(slice_group_map_type)をビットストリーム中の所定の位置に記録する。
上から5行目の「if(slice_group_map_type == 7){」は、グループの種類を示す値が7である場合(処理量マップのグループである場合)、6行目乃至8行目を実行することが示されている。
上から6行目の「pic_size_in_map_units_minus1」は、1ピクチャ分の処理量マップの大きさを示すフラグである。処理量マップの大きさは、すなわち、1ピクチャ分の符号化データに対して、グループの割り当てを行う回数に相当する。つまり、上述したようにマクロブロック毎にグループを指定する場合、この値は1ピクチャのマクロブロックの数に対応する。多重化部112は、1ピクチャのマクロブロック数から1を引いた値を、1ピクチャ分の処理量マップの大きさに相当する値(pic_size_in_map_units_minus1)としてビットストリーム中の所定の位置に記録する。
上から8行目の「slice_group_id[i]」は、マクロブロックアドレス「i」のマクロブロックがどのグループに属するか(つまり、どのグループに割り当てられたか)を示すID情報である。上から7行目に「for(i=0;i<=pic_size_in_map_units_minus1;i++)」とあるように、多重化部112は、ピクチャ毎に各マクロブロックが割り当てられたグループのID情報(slice_group_id[i])を、それぞれ、ビットストリーム中の所定の位置に記録する。
図2の多重化部112は、以上のようなシンタクスに基づき、処理量マップを、上述したようなフォーマットで、ビットストリームの、復号の際にその情報の対象となるピクチャよりも前に処理される位置に埋め込む。つまり、実際には、多重化部112は、処理量マップそのものではなく、処理量マップと等価の情報(処理量マップデータと称する)をビットストリームに埋め込む。多重化部112は、処理量マップが多重化されたビットストリームをバッファ103に出力する。
バッファ103は、例えば半導体メモリ等の記憶デバイスを有し、多重化部112より供給されるビットストリームを一時的に蓄積し、その蓄積しているビットストリームを所定のタイミングで符号化装置100の外部に出力する。
次に、各部の詳細について説明する。図8は、図2のビデオエンコーダ101の詳細な構成例を示すブロック図である。
図8において、ビデオエンコーダ101は、A/D(Analog / Digital)変換部161、画像並べ替えバッファ162、加算器163、直交変換部164、量子化部165、可逆符号化部166、蓄積バッファ167、レート制御部168、逆量子化部169、逆直交変換部170、加算器171、フレームメモリ172、動き予測・動き補償部173、および統計情報生成部181を有する。
外部より入力された画像信号(入力信号)は、まず、A/D変換部161においてデジタルデータに変換される。なお、入力信号がデジタルの画像データである場合、A/D変換部161は省略可能である。A/D変換部161は、入力信号を変換したデジタル画像データを画像並べ替えバッファ162に供給する。画像並べ替えバッファ162は、出力となる画像圧縮情報のGOP(Group of Pictures)構造に応じ、フレームの並べ替えを行う。画面並べ替えバッファ162においてフレームが並べ替えられた画像データは、加算器163に供給される。
イントラ符号化が行われる画像に関しては、加算器163は、入力されたフレーム全体の画像データをそのまま、直交変換部164に供給する。直交変換部164は、入力された画像データに対して、そのマクロブロック毎に、離散コサイン変換、またはカルーネン・レーベ変換等の直交変換を施し、得られた直交変換係数を量子化部165に供給する。なお、この直交変換処理を行うデータ単位(直交変換処理単位)を符号化処理単位とする。すなわち、この場合、符号化処理単位はマクロブロックとなる。量子化部165は、供給された直交変換係数に対して量子化を行い、それを可逆符号化部166に供給する。可逆符号化部166は、その量子化された直交変換係数に対して、可変長符号化、または算術符号化等の可逆符号化を施し、得られた符号化データを蓄積バッファ167に供給し、一時的に蓄積させる。蓄積バッファ167は、その符号化データを所定のタイミングでビットストリームとして出力し、多重化部112(図2)に供給する。
なお、蓄積バッファ167は、蓄積する符号化データの符号量、すなわち、可逆符号化部166の可逆符号化における発生符号量についての情報をレート制御部168に供給する。レート制御部168は、その発生符号量に基づいて量子化スケールを算出し、その値を量子化部165に供給する。量子化部165は、レート制御部168より供給される量子化スケールに従って量子化を行う。
また、量子化部165は、量子化された直交変換係数を逆量子化部169にも供給する。逆量子化部169は、量子化部165において量子化された直交変換係数を逆量子化し、得られた直交変換係数を逆直交変換部170に供給する。逆直交変換部170は、供給された直交変換係数に対して、直交変換部164において行われた直交変換処理に対応する方法で逆直交変換処理を行い、得られた画像データ(デジタルデータ)を加算器171に供給する。加算器171は、その画像データをそのままフレームメモリ172に供給し、蓄積させる。
これに対して、インター符号化が行われる画像の場合、画像並べ替えバッファ162においてフレームが並べ替えられた画像データは、動き予測・動き補償部173にも供給される。それと同時にフレームメモリ172より参照用の画像データが読み出され、動き予測・動き補償部173に供給される。動き予測・動き補償部173は、参照画像(フレームメモリ172より供給された画像データの画像)に対する、符号化対象画像(画像並べ替えバッファ162より供給された画像データの画像)の動きベクトルを検出し、その動きベクトルに従って、参照画像を動き補償することにより、予測画像をマクロブロック毎に生成する。動き予測・動き補償部173は、その予測画像の画像データ(予測画像データ)を加算器163に供給する。
加算器163は、符号化対象画像と、この予測画像の差分(予測残差)をマクロブロック毎に求める。生成されたマクロブロック毎の差分データは、直交変換部164に供給されて直交変換され、量子化部165において量子化され、可逆符号化部166において可逆符号化する。つまり、インター符号化の場合も、符号化処理単位はマクロブロックとなる。
また、このとき、動き予測・動き補償部173は、予測画像の動きベクトルに関する情報である動きベクトル情報を可逆符号化部166に供給する。可逆符号化部166は、その動きベクトル情報に対して可逆符号化処理を施し、差分データから生成された符号化データのヘッダ部に挿入し、符号化データとともに蓄積バッファ167に供給する。
蓄積バッファ167は、このインター符号化された符号化データについても、イントラ符号化の場合と同様に、所定のタイミングでビットストリームとして出力するとともに、発生符号量の情報をレート制御部168に供給する。
また、インター符号化の場合も、イントラ符号化の場合と同様に、量子化部165から出力される量子化された変換係数は、やはり逆量子化部169にも供給されて逆量子化され、さらに、逆直交変換部170に供給されて逆直交変換処理が施され、得られた差分データが加算器171に供給される。加算器171は、逆直交変換部170より供給される差分データの画像(予測残差)に、動き予測・動き補償部173より供給される予測画像データの画像(予測画像)を加算し、参照画像を生成し、その画像データをフレームメモリ172に供給して蓄積させる。
また、蓄積バッファ167は、イントラ符号化の場合も、インター符号化の場合も、その発生符号量の情報を、マクロブロック毎に統計情報生成部181に供給する。統計情報生成部181は、蓄積バッファ167より供給されるマクロブロック毎の発生符号量を1ピクチャ分蓄積し、所定のタイミングで、その1ピクチャ分の発生符号量群を、それぞれに対応するマクロブロックアドレスが識別可能な状態で、統計情報としてグループ割り当て部111(図2)に供給する。
図9は、図2のグループ割り当て部111の詳細な構成例を示すブロック図である。図9において、グループ割り当て部111は、整列部191、割り当て部192、および処理量マップ生成部193を有する。
整列部191は、ビデオエンコーダ101より供給される統計情報(およびマクロブロックアドレス)を取得すると、その統計情報を、統計情報自身に基づいて(例えば、各値を降順に)整列させる。
図10は、グループ割り当て部111において行われる処理の様子の例を模式的に表わした図である。グループ割り当て部111は、図10Aに示されるように、マクロブロックアドレス(MA)に対応させて情報を管理するレジスタを有しており、ビデオエンコーダ101より統計情報として供給された、マクロブロック毎の符号量を、図10Bに示されるように、マクロブロックアドレス(MA)に対応させてレジスタに格納する。
整列部191は、レジスタに格納された各データを符号量の降順に整列する。これにより、レジスタにおいて、例えば図10Bに示されるように左からマクロブロックアドレスの昇順に並べられていたデータが、例えば図10Cに示されるように左から符号量の降順に並べ替えられる。
割り当て部192は、各マクロブロックに対し、その並べ替えられた順に従ってグループを割り当てる。割り当て部192は、例えば図10Dに示されるように、並べ替えられた各データに対し、左から順に(つまり符号量の降順に)、「グループ1」、「グループ2」、「グループ3」、「グループ1」、「グループ2」、「グループ3」、・・・のように、所定の順で各グループ(グループ識別情報)を割り当てる。
上述したように、グループ割り当て部111は、復号処理時間が互いに同程度になるようにマクロブロックをグループ化する。つまり、割り当て部192は、符号量の降順に整列されたマクロブロック群(マクロブロックアドレス群)に対して、一定の順序でグループの割り当てを行うことにより、各グループの復号処理時間の偏りがなるべく小さくなるようにする。なお、割り当ての順番は、予め決められたものであり、かつ、各グループの復号処理時間の偏りがなるべく小さくなるようにするものであれば、どのような順番であってもよい。例えば、グループ1、グループ2、グループ3、グループ3、グループ2、グループ1のような順にしてもよい。また、例えば、グループを割り当てる度に、各グループの符号量の総和をそれぞれ算出し、次のマクロブロックを、符号量の総和が最も小さいグループに割り当てるようにしても良い。
また、図10の例ではマクロブロックを3つのグループにグループ分けしているが、このグループの数は復号処理において使用されるデコーダの数に依存し、事前に決められている。また、図10の例では、グループを番号により識別するように説明しているが、グループ識別情報は、各グループを識別するためのデータであればどのようなものであってもよい。
処理量マップ生成部193は、グループが割り当てられた各データから処理量マップを生成し、出力する。処理量マップ生成部193は、例えば図10Eに示されるように、レジスタにおいて、グループが割り当てられた各データをマクロブロックアドレスの昇順に並べ替え、その順で、マクロブロックアドレスおよび割り当てられたグループの組の各データをレジスタより読み出し、処理量マップとして多重化部112に供給する。
次に、図2の符号化装置100により実行される、以上のような符号化処理の流れの例を、図11のフローチャートを参照して説明する。
符号化処理が開始されると、ビデオエンコーダ101は、ステップS1において、入力画像データの、処理対象マクロブロックを符号化し、ステップS2において、その符号化により発生したマクロブロック毎の符号量を算出する。ステップS3において、ビデオエンコーダ101は、入力画像データを1フレーム分符号化したか否かを判定し、未処理のマクロブロックが存在すると判定した場合、処理をステップS1に戻し、それ以降の処理を繰り返す。また、ステップS3において、入力画像データを1フレーム分符号化したと判定した場合、ビデオエンコーダ101は、処理をステップS4に進める。
ステップS4において、グループ化処理部102のグループ割り当て部111は、ビデオエンコーダ101より、1フレーム分の各マクロブロックの発生符号量を統計情報として取得する。ステップS5において、グループ割り当て部111は、グループ化処理を実行し、取得した統計情報(マクロブロック毎の発生符号量)に基づいて、各グループの復号処理時間の偏りがなるべく小さくなるように、各マクロブロックをグループ分けするグループ化処理を実行する。グループ化処理の詳細については後述する。
ステップS6において、多重化部112は、グループ化処理により生成された処理量マップを、処理量マップデータとして、ビデオエンコーダ101より供給される符号化データのビットストリームに多重化する。バッファ103は、そのビットストリームを一時的に保持した後、ステップS7において、所定のタイミングで出力する。
ステップS7の処理が終了すると、符号化処理が終了される。このようにして1ピクチャ分の符号化が行われる。符号化装置100は、このような符号化処理を各ピクチャに対して実行する。
次に、図11のステップS5において実行されるグループ化処理の詳細な流れの例について、図12のフローチャートを参照して説明する。
ステップS21において、グループ割り当て部111の整列部191は、発生符号量を推定復号処理量とし、図10Cを参照して説明したように、各マクロブロックを推定復号処理量の降順(つまり、発生符号量の降順)に並べ替える。ステップS22において、割り当て部192は、図10Dを参照して説明したように、各マクロブロックにグループ(グループ識別情報)を割り当てる。ステップS23において、処理量マップ生成部193は、図10Eを参照して説明したように、データを再度マクロブロックアドレスの昇順に並べ替え、その順でマクロブロックアドレスおよびグループ識別情報をレジスタより読み出すことにより、各マクロブロックが属するグループを示す処理量マップを生成する。
ステップS23の処理を終了すると、処理量マップ生成部193は、グループ化処理を終了し、処理を図11のステップS5に戻し、ステップS6以降の処理を実行させる。
以上のように、グループ化処理部102は、統計情報に基づいて、復号処理に利用される複数のデコーダのそれぞれの負荷(復号処理時間)が互いに同程度となるように、すなわち、なるべく偏りが小さくなるように、マクロブロックをグループ化することにより、各マクロブロックを割り当てるデコーダを指定し、各マクロブロックを復号するデコーダを指定する情報である処理量マップをビットストリームに多重化する。このようにすることにより、符号化装置100は、ビットストリームを復号する復号装置が、より効率よく復号処理を行うことができるようにすることができる。
図13は、復号装置の構成例を示すブロック図である。図13に示される復号装置200は、図2の符号化装置100に対応する復号装置であり、符号化装置100より出力される符号化データのビットストリームを復号する。図13に示されるように、復号装置200は、文法解析部201、処理量マップ再構成部202、分配部203、ビデオデコーダ204−1、ビデオデコーダ204−2、ビデオデコーダ204−3、および画像再構成部205を有する。
ビデオデコーダ204−1、ビデオデコーダ204−2、およびビデオデコーダ204−3は、互いに同一のデコーダであり、同様の復号処理を行い、同様の復号処理能力を有する。以下において、ビデオデコーダ204−1、ビデオデコーダ204−2、およびビデオデコーダ204−3を互いに区別して説明する必要の無い場合、ビデオデコーダ204と称する。
文法解析部201は、符号化装置100より出力されたビットストリームを取得すると、そのビットストリームの文法を解析し、処理量マップデータが埋め込まれている場合、その処理量マップデータを抽出し、処理量マップ再構成部202に供給する。図7を参照して説明したように、ビットストリームには、各マクロブロックに割り当てられたグループ識別情報がマクロブロックアドレス順に並べられて埋め込まれている(処理量マップデータ)。処理量マップ再構成部202は、ビットストリームより抽出されたこのような処理量マップデータから、マクロブロックとグループの対応関係を示す表データである処理量マップを再構成し、その処理量マップを分配部203および画像再構成部205に供給する。
また、文法解析部201は、処理量マップデータを抽出したビットストリームを分配部203に供給する。分配部203は、処理量マップ再構成部202より供給された処理量マップに従って、文法解析部201より供給されたビットストリームの供給先をマクロブロック毎に判定し、その判定結果に従って、各マクロブロックのビットストリームをビデオデコーダ204に分配する。つまり、分配部203は、各マクロブロックのビットストリームを、処理量マップにおいて指定されるグループに対応するビデオデコーダ204に供給する。なお、このグループとビデオデコーダ204との対応関係は、処理量マップにおいて予め決められていてもよいし、分配部203が決定するようにしてもよい。つまり、処理量マップにおいて各マクロブロックに割り当てられているグループ識別情報が、どのビデオデコーダ204を使用するかまで指定する情報であってもよいし、どのグループのマクロブロックをどのビデオデコーダ204で復号するかは分配部203が決定するようにしてもよい。ただし、いずれの場合も、同一のグループのマクロブロックは、同一のデコーダにおいて復号される。
ビデオデコーダ204−1乃至ビデオデコーダ204−3は、それぞれ、分配部203より供給されたマクロブロック毎のビットストリームをAVC/H.264方式で復号し、得られたマクロブロック単位の画像データ(デジタルデータ)を画像再構成部205に供給する。画像再構成部205は、処理量マップ再構成部202より供給される処理量マップから、どのビデオデコーダ204よりどの順番でマクロブロックが供給されるかを把握し、その情報に基づいて各ビデオデコーダ204より供給されるマクロブロック単位の画像データをマクロブロックアドレス順に並べ替えてピクチャを再構成する。この時点で画像データの各ピクチャ(フレーム)は、GOP構造に応じた順に並べ替えられたものであるので、画像再構成部205は、さらにその画像データに対し、フレーム順が元の順になるように並べ替えを行う。画像再構成部205は、そのフレームが元の順に並べ替えられた画像データをD/A(Digital / Analog)変換してアナログの画像信号として出力する(出力画像)。
なお、画像再構成部205は、グループとビデオデコーダ204の対応関係をどのように把握するようにしてもよい。例えば、グループとビデオデコーダ204の対応関係が予め決められている場合であれば画像再構成部205がその関係を予め把握していてもよい。また、グループとビデオデコーダ204の対応関係を分配部203が決定する場合であれば分配部203よりその情報を取得するようにしてもよい。さらに、各ビデオデコーダ204から画像データが供給される順番に基づいて、画像再構成部205が対応関係を推測するようにしてもよい。
図14は、図13のビデオデコーダ204の詳細な構成例を説明するブロック図である。図14に示されるビデオデコーダ204は、蓄積バッファ211、可逆符号復号部212、逆量子化部213、逆直交変換部214、加算器215、フレームメモリ216、および動き予測・動き補償部217を有する。
蓄積バッファ211は、分配部203(図13)より供給されるマクロブロック単位のビットストリームを一時的に蓄積し、所定のタイミングで可逆符号復号部212に供給する。可逆符号復号部212は、供給されたマクロブロック単位のビットストリームに対して、定められた画像圧縮情報のフォーマット、すなわちAVC/H.264方式に基づき、可変長復号、または算術復号等の処理を行う。可逆符号復号部212は、得られたマクロブロック単位の復号データ(量子化された直交変換係数)を逆量子化部213に供給する。
また、可逆符号復号部212は、インター符号化されたビットストリームを復号する場合、さらに、符号化データのヘッダ部に格納された動きベクトル情報も復号する。そして
、可逆符号復号部212は、復号したその動きベクトル情報を動き予測・動き補償部217に供給する。
、可逆符号復号部212は、復号したその動きベクトル情報を動き予測・動き補償部217に供給する。
復号データを供給された逆量子化部213は、その復号データを逆量子化し、得られた直交変換係数を逆直交変換部214に供給する。逆直交変換部214は、定められた画像圧縮情報のフォーマット、すなわち、AVC/H.264に基づき、逆離散コサイン変換、逆カルーネン・レーベ変換等の逆直交変換を施し、画像データを得る。逆直交変換部214は、その画像データを加算器215に供給する。
イントラ符号化されたマクロブロックの画像データの場合、加算器215は、逆直交変換部214より供給された画像データをそのまま画像再構成部205(図13)およびフレームメモリ216に供給する。
インター符号化されたマクロブロックの画像データの場合、逆直交変換部214より出力される画像データは、差分データである。この場合、動き予測・動き補償部217は、可逆符号復号部212より供給された動きベクトル情報と、フレームメモリ216より供給される画像データに基づいて、予測画像(予測画像データ)を生成し、加算器215に供給する。加算器215は、逆直交変換部214より供給された差分データの画像(予測残差)と、動き予測・動き補償部217より供給される予測画像データの画像(予測画像)を加算し、画像データを生成する。加算器215は、生成した画像データを、画像再構成部205(図13)およびフレームメモリ216に供給する。
フレームメモリ216は、加算器215より供給されるマクロブロック単位の画像データを蓄積し、その蓄積している画像データを必要に応じて動き予測・動き補償部217に供給する。なお、フレームメモリ216は、ビデオデコーダ204−1乃至ビデオデコーダ204−3によって共有される共通のメモリである。つまり、図14に示されるフレームメモリ216は、ビデオデコーダ204−1乃至ビデオデコーダ204−3のいずれもがアクセス可能な1つの記憶領域を有する。従って、このフレームメモリ216には、ビデオデコーダ204−1乃至ビデオデコーダ204−3のそれぞれよりマクロブロック単位の画像データが供給される。フレームメモリ216は、それらのマクロブロック単位の画像データを蓄積するとともに、画像再構成部205と同様に、それらの画像データからピクチャを再構成し、ピクチャ単位で保持する。フレームメモリ216は、必要に応じて、そのピクチャ単位の画像データを、各ビデオデコーダ204の動き予測・動き補償部217に供給する。
なお、フレームメモリ216がピクチャを再構成せずに、マクロブロック単位毎に画像データを蓄積し、動き予測・動き補償部217が動きベクトル情報に基づいて必要なマクロブロックの画像データを要求し、フレームメモリ216が要求されたマクロブロック単位毎に画像データをその要求元に供給するようにしてもよい。
このような復号装置200による復号処理の流れの例を図15のフローチャートを参照して説明する。
復号処理が開始されると、文法解析部201は、ステップS41においてビットストリームを取得し、ステップS42において、取得したビットストリームより処理量マップデータを抽出する。ステップS43において、処理量マップ再構成部202は、抽出された処理量マップデータから処理量マップを再構成する。ステップS44において、分配部203は、処理量マップに基づいてマクロブロック毎にビットストリームを各ビデオデコーダ204に分配する。ステップS45において、各ビデオデコーダ204は、供給されたビットストリームを復号する。画像再構成部205は、ステップS46において、処理量マップに基づいてフレーム画像を再構成し、ステップS47において、画像データを出力する。ステップS47の処理が終了すると、復号処理が終了される。
以上のようにして1フレーム分の画像データが復号される。以上の復号処理は、フレーム(ピクチャ)毎に繰り返し実行される。
このように、復号装置200は、複数のビデオデコーダ204を用いた復号処理の並列処理を、符号化装置100において作成された処理量マップに基づいて行うことにより、各ビデオデコーダ204の負荷(復号処理時間)を互いに同程度となるように、すなわち、なるべく偏りが小さくなるようにすることができる。従って、復号装置200は、各ビデオデコーダによる復号処理の処理時間の偏りによる不要な待機時間の発生を抑制し、より効率よく復号処理を行うことができる。
なお、以上においては、グループ割り当て部111に供給される統計情報(およびマクロブロックアドレス)は、ビデオエンコーダ101において作成するように説明したが、符号化装置100の外部より供給されるようにしてももちろんよい。
また、復号処理に使用されるビデオデコーダの数は任意であるが、その数が予め決められていてもよい。その場合、グループ割り当て部111は、マクロブロックを、その予め決められた数にグループ分けする。また、いくつのビデオデコーダが使用されるかという情報を、ビットストリームを復号する復号装置200より取得するようにしてもよい。この場合、グループ割り当て部111は、この情報に基づいてグループ数を決定する。
さらに、グループ割り当て部111が所定の数のグループにグループ分けし、復号装置200の文法解析部201がビットストリームに埋め込まれた情報(num_slice_groups_minus1)からいくつにグループ分けされたかを把握し、復号装置200がそのグループ数以上のビデオデコーダ204を有する場合、そのグループ数分のビデオデコーダ204を用いて復号処理を行うようにしてもよい。
以上においては、復号に用いられる複数のビデオデコーダが互いに同程度の処理能力を有する場合について説明したが、例えば、各ビデオデコーダの処理能力に偏りがある場合も考えられる。このような場合、符号量が均等になるように(均等に近づくように)グループ分けを行うと、各ビデオデコーダの復号処理時間に偏りが生じる恐れがある。従って、グループ割り当て部111は、復号処理に使用されるビデオデコーダの数だけでなく、各ビデオデコーダの処理能力も考慮して、各ビデオデコーダによる復号処理時間の偏りが小さくなるようにグループ分けを行うのが望ましい。
また、グループ分けの方法は上述した以外であってももちろんよい。例えばあるビデオデコーダの負荷(復号処理時間)を他のビデオデコーダの負荷(復号処理時間)の半分にする等、各ビデオデコーダの復号処理時間を意図的に偏らせるようにしてもよい。例えば、このように1つのビデオデコーダの負荷を軽減させ、空き時間に他のビットストリームを復号させるようにすることもできる。
さらに、統計情報だけでなく、マクロブロックの位置も考慮するようにしてもよい。例えば、上述したように統計情報にのみ基づいてグループ分けを行う場合、例えば図5に示されるように、各グループのマクロブロックがバラバラになる(位置関係が定まらない)ことが考えられるが、後述するようにAVC/H.264方式の場合、圧縮率向上のために画面内予測符号化を行うことができる。画面内予測符号化とは、ピクチャ内において互いに隣接する所定の画素群をブロックとし、そのブロックを処理単位として、隣接する他のブロックの符号化済みの画素を参照して画素値を予測するものである。このような画面内予測符号化を行う場合、参照先の画素が他のグループに属すると、復号時に並列処理に不都合が生じる恐れがある。そこで、グループ割り当て部111が、位置情報も考慮し、復号処理時間の偏りが小さくなるようにするとともに、同一のグループのマクロブロックがなるべく隣接するようにグループ分けを行うようにしてもよい。具体的な方法は任意であるが、例えば、復号処理時間の偏りが小さくなるようにグループ分けを行った後、位置関係に基づいてグループ間で符号量が近似するマクロブロックの交換を行うようにしてもよいし、逆に、マクロブロックの位置に基づいてグループ分けを行った後、各グループの復号処理時間の偏りが小さくなるようにグループ間でマクロブロックの交換を行うようにしてもよい。もちろん、これら以外の方法であってもよい。
また、以上においては、グループ割り当て部111が図9に示されるように構成され、図10を参照して説明したようにグループ分けを行うように説明したが、グループ割り当て部111によるグループ分けのアルゴリズムは任意であり、上述した以外であってもよい。
例えば、以上においてはマクロブロック単位でグループ分けするように説明したが、グループ分けの単位は符号化処理単位の整数倍であればよく、例えば、マクロブロックを符号化処理単位とする場合、複数のマクロブロックからなるスライスやピクチャ毎にグループ分けを行うようにしてもよい。グループ分けを行うデータ単位が大きくなるほど処理は容易になるが、マクロブロックのようにより小さいデータ単位でグループ分けを行うことにより、グループ割り当て部111は、より細かく復号処理時間の均一化を計ることができ、より多様な画像に対して、各グループの復号処理時間の偏りをより小さくすることができるようになる。同様に、統計情報の算出も符号化処理単位の整数倍であればどのような単位で行われるようにしてもよい。なお、矛盾が生じない限り後述する他の例においても同様であり、グループ分けや統計情報の単位は符号化処理単位の整数倍であればどのような単位で行われるようにしてもよい。
以上のように、グループ割り当て部111は、統計情報に基づいてマクロブロックのグループ分け(復号処理に利用するビデオデコーダの指定)を任意に行うことができる。
また、多重化部112による処理量マップデータの埋め込みのシンタクスを、図7を参照して説明したが、処理量マップに相当する情報が多重化されるのであれば、多重化部112がどのような情報をどのように埋め込むようにしてもよい。矛盾が生じない限り後述する他の例においても同様である。
なお、上述したようにAVC/H.264方式では、圧縮率を向上させるために、画面内予測符号化を行うことができるが、参照関係にある画素が互いに異なるビデオデコーダ204により復号され、参照関係を利用できずに処理が破綻するマクロブロックが発生する恐れがある。従って、復号画像の画質向上のためには、ビデオエンコーダ101は、画面内予測符号化を用いずに符号化するのが望ましい。なお、復号処理に失敗するマクロブロックが発生するのを容認し、敢えて、画面内予測符号化を行うようにしてももちろんよい。つまり、画質より圧縮率を優先させるようにしてもよい。矛盾が生じない限り後述する他の例においても同様である。
また、統計情報は、復号処理時間を推定できるものであればどのようなものであってもよく、例えば、直交変換係数の数や動きベクトルの数等であってもよい。また、例えば、ME(Motion Estimation)残差(予測誤差量)、フラットネス、およびイントラAC等のように、複数の情報を統計情報として用いるようにしてもよい。
図16は、ME残差、フラットネス、およびイントラACを統計情報として用いる場合のビデオエンコーダ101の構成例を示すブロック図である。この場合、ビデオエンコーダ101の構成は、基本的に図8を参照して説明した場合と同様であるが、統計情報生成部181の代わりに、統計量算出部231および統計情報生成部232が設けられている。
処理対象マクロブロックがインター符号化される場合、動き予測・動き補償部173は、マクロブロック単位のME残差を求め、それを統計情報生成部232に供給する。動き予測・動き補償部173は、他のピクチャを参照して圧縮符号化処理する際に、圧縮対象となるピクチャ(符号化対象画像)の処理対象マクロブロックと、参照されるピクチャ(参照画像)との間の差分値の絶対値和あるいは自乗値和が最小となるようなマクロブロックを探し、動きベクトルを求める。マクロブロック単位のME残差は、このような、動きベクトルを求める際に求められた、最小になったマクロブロックの差分値の絶対和または自乗和のことである。このME残差は、映像の動きの速さおよび絵柄の複雑さを表すパラメータであり、映像の絵柄の難しさ(難度)および圧縮後のデータ量と相関性を有する。上述したように符号量が多くなれば復号処理の負荷(復号処理時間)も増大する。つまり、ME残差は、復号処理の負荷(復号処理時間)とも相関性を有する。
これに対して、処理対象マクロブロックがイントラ符号化される場合、他のピクチャの参照なしに圧縮符号化されるため、動き予測・動き補償部173は、ME残差を求めることができない。そこで、このような場合、画像並べ替えバッファ162および加算器163の間に設けられた統計量算出部231が、ME残差に代わるパラメータとして、処理対象マクロブロックについてフラットネスおよびイントラACを算出する。
フラットネスは、映像の空間的な平坦さを表すパラメータであって、映像の複雑さを指標し、映像の絵柄の難しさ(難度)および圧縮後のデータ量と相関性を有する。つまり、フラットネスは、復号処理の負荷(復号処理時間)との相関性を有する。マクロブロック単位のフラットネスは、処理対象マクロブロックを2画素×2画素の小ブロックに分割し、次に、これらの小ブロック内の対角の画素のデータ(画素値)の差分値を算出し、差分値を所定の閾値と比較し、さらに、差分値が閾値よりも小さくなる小ブロックの総数(1マクロブロック分の総数)を求めることにより算出される。
イントラACは、画素値の分散値を示すパラメータであって、フラットネスと同様に、映像の複雑さを指標し、映像の絵柄の難しさ(難度)および圧縮後のデータ量と相関性を有する。つまり、イントラACは、復号処理の負荷(復号処理時間)との相関性を有する。マクロブロック単位のイントラACは、処理対象マクロブロック内の各画素の画素値と、そのマクロブロック内の全画素値の平均値との差分の絶対値の総和(1マクロブロック分の総和)を求めることにより算出される。
統計量算出部231は、算出したフラットネスおよびイントラACを統計情報生成部232に供給する。
統計情報生成部232は、動き予測・動き補償部173より供給されたME残差、または、統計量算出部231より供給されたフラットネスおよびイントラACに基づいて、処理対象マクロブロックの復号処理の負荷(復号処理時間)の推定に利用される、符号化処理の難易度を求め、その難易度を示す難易度情報を統計情報として、マクロブロックアドレスと対応させてグループ割り当て部111(図2)に供給する。
なお、このとき、統計情報生成部232は、ME残差、または、フラットネスおよびイントラACの値を用いて、それぞれ所定の式により各マクロブロックの符号化の難易度を具体的に算出するようにしてもよいが、各マクロブロックの難易度順を決定するだけでもよい。
グループ割り当て部111は、以上のような難易度情報を統計情報として、上述した符号量の場合と同様にマクロブロックのグループ分けを行う。
この場合の、符号化装置100による符号化処理の流れの例を図17のフローチャートを参照して説明する。
符号化処理が開始されると、ステップS61において、ビデオエンコーダ101は、処理対象マクロブロックをイントラ符号化するか否かを判定する。GOP構造等に基づいて、イントラ符号化すると判定した場合、ビデオエンコーダ101は、処理をステップS62に進める。統計量算出部231は、処理対象マクロブロックについて、ステップS62においてフラットネスを算出し、ステップS63において、イントラACを算出し、処理をステップS65に進める。
ステップS61において、処理対象マクロブロックをインター符号化すると判定した場合、ビデオエンコーダ101は、処理をステップS64に進める。動き予測・動き補償部173は、ステップS64において、処理対象マクロブロックについて、ME残差を算出し、処理をステップS65に進める。
ステップS65において、統計情報生成部232は、フラットネスおよびイントラAC、または、ME残差に基づいて、処理対象マクロブロックの符号化の難易度を算出する。
ステップS66において、ビデオエンコーダ101は、各部を用いて処理対象マクロブロックを符号化する。ステップS67においてビデオエンコーダ101は、1フレーム(ピクチャ)分の符号化が終了したか否かを判定し、処理対象フレーム内に未処理のマクロブロックが存在すると判定した場合、処理をステップS61に戻し、それ以降の処理を繰り返す。また、ステップS67において、処理対象フレーム内の全てのマクロブロックを符号化したと判定した場合、ビデオエンコーダ101は、処理をステップS68に進める。
グループ割り当て部111は、ステップS68において、統計情報生成部232が統計情報として生成したマクロブロック毎の難易度情報を1ピクチャ分取得し、ステップS69において、その難易度情報に基づいてグループ化処理を行い、各マクロブロックをグループ分けすることにより、復号処理に使用するビデオデコーダへの分配の仕方を指定する。
なお、このグループ化処理の詳細は、発生符号量の代わりに難易度情報に基づいて復号処理量を推定する以外は基本的に図12のフローチャートを参照して説明した場合と同様であるので、その説明を省略する。つまり、グループ割り当て部111は、各グループの復号処理時間の差が小さくなるようにマクロブロックのグループ分けを行い、処理量マップを生成する。
ステップS70において、多重化部112は、グループ化処理により生成された処理量マップを、処理量マップデータとして、ビデオエンコーダ101より供給される符号化データのビットストリームに多重化する。バッファ103は、そのビットストリームを一時的に保持した後、ステップS71において、所定のタイミングで出力する。ステップS71の処理が終了すると、符号化処理が終了される。このようにして1ピクチャ分の符号化が行われる。符号化装置100は、このような符号化処理を各ピクチャに対して実行する。
以上のように、統計情報は、復号処理時間を推定できるものであればどのようなものであってもよく、複数の情報を統計情報として用いることもできる。なお、矛盾が生じない限り、後述する他の例においても同様である。
以上においては、グループ割り当て部111により生成された処理量マップを符号化データのビットストリームに埋め込むことについて説明したが、それだけでなく、グループ割り当て部111により生成された処理量マップを画像データの符号化にも用いるようにしてもよい。
図18は、その場合の符号化装置の構成例を示すブロック図である。
図18に示される符号化装置300は、図2の符号化装置100と基本的に同様の構成を有するが、符号化装置100と比較して、ビデオエンコーダ101の代わりにビデオエンコーダ301Aおよびビデオエンコーダ301Bを有し、グループ化処理部102の代わりにグループ化処理部302を有する。
ビデオエンコーダ301Aおよびビデオエンコーダ301Bは、それぞれ、ビデオエンコーダ101と基本的に同様の構成を有し、同様の符号化処理を行う。ただし、ビデオエンコーダ301Bは、統計情報生成部181を省略可能である。また、詳細については後述するが、ビデオエンコーダ301Bは、グループ割り当て部111より供給される処理量マップに基づいて、ピクチャ内で参照するマクロブロックを決定する。なお、以下においてビデオエンコーダ301Aとビデオエンコーダ301Bとを互いに区別して説明する必要が無い場合、単にビデオエンコーダ301と称する。
上述したように、AVC/H.264方式の場合、圧縮率を向上させるために、画面内予測符号化を行うことが可能である。図19は、4×4画素を1ブロック(画面内予測ブロック)として画面内符号化を行う場合(4×4画面内予測符号化)の、予測モードの例を示す模式図である。
4×4画面内予測符号化を行う場合、図19A乃至図19Jに示されるように、9通りの予測方向(予測モード)が用意されている。図19A乃至図19Jにおいて、縦4個×横4個の白抜きの四角のそれぞれが処理対象の画面内予測ブロックの画素を示しており、斜線の四角のそれぞれが参照される符号化済みの画素を示している。
図19Aは、予測モード0(Mode0-Vertical)の予測方向を示している。このモードの場合、矢印に示されるように、処理対象画面内予測ブロックの上に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を予測する。図19Bは、予測モード1(Mode1-Horizontal)の予測方向を示している。このモードの場合、矢印に示されるように、処理対象画面内予測ブロックの左に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を予測する。図19Cは、予測モード2(Mode2-DC)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの4画素と、上に隣接するブロックの4画素の、合計8画素の平均値で処理対象画面内予測ブロック内の4×4画素全ての値を予測する。
図19Dは、予測モード3(Mode3-DiagDown/Left)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの真上に隣接するブロックの4画素と右上に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。図19Eは、予測モード4(Mode4-DiagDown/Right)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの4画素、左上に隣接するブロックの1画素、並びに、真上に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。図19Fは、予測モード5(Mode5-Vertical-Right)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの3画素、左上に隣接するブロックの1画素、並びに、真上に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。
図19Gは、予測モード6(Mode6-Horizontal-Down)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの4画素、左上に隣接するブロックの1画素、並びに、真上に隣接するブロックの3画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。図19Hは、予測モード7(Mode7-Vertical-Left)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの真上に隣接するブロックの4画素、並びに右上に隣接するブロックの3画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。図19Jは、予測モード8(Mode8-Horizontal-Up)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの4画素の値から、処理対象画面内予測ブロック内の4×4画素の値を、矢印に示される方向に予測する。
画面内予測符号化を行うビデオエンコーダは、処理対象画像が複雑である場合、これらの9通りの予測モードの中から最も適切に予測できる予測方向を画面内予測ブロック毎に1つずつ選択し、符号化する。
図20は、16×16画素を1ブロック(画面内予測ブロック)として画面内符号化を行う場合(16×16画面内予測符号化)の、予測モードの例を示す模式図である。16×16画面内予測符号化を行う場合、図20A乃至図20Dに示されるように、4通りの予測方向(予測モード)が用意されている。
図20A乃至図20Dにおいて、白抜きの四角が16×16画素の処理対象の画面内予測ブロックの画素を示しており、斜線の四角のそれぞれが参照される符号化済みの画素を示している。
図20Aは、予測モード0(Vertical)の予測方向を示している。このモードの場合、矢印に示されるように、処理対象画面内予測ブロックの上に隣接するブロックの16画素の値から、処理対象画面内予測ブロック内の16×16画素の値を予測する。図20Bは、予測モード1(Horizontal)の予測方向を示している。このモードの場合、矢印に示されるように、処理対象画面内予測ブロックの左に隣接するブロックの16画素の値から、処理対象画面内予測ブロック内の16×16画素の値を予測する。図20Cは、予測モード2(DC)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの16画素と、上に隣接するブロックの16画素の、合計32画素の平均値で処理対象画面内予測ブロック内の16×16画素全ての値を予測する。図20Dは、予測モード3(Plane)の予測方向を示している。このモードの場合、処理対象画面内予測ブロックの左に隣接するブロックの16画素と真上に隣接するブロックの16画素の値から、処理対象画面内予測ブロック内の16×16画素の値を、矢印に示される方向に予測する。
画面内予測符号化を行うビデオエンコーダは、処理対象画像が平坦である場合、これらの4通りの予測モードの中から最も適切に予測できる予測方向を画面内予測ブロック毎に1つずつ選択し、符号化する。
このように、画面内予測において、画像の内容に応じてブロックの大きさを使い分けることにより、画面内予測符号化を行うビデオエンコーダは、複雑な画像も平坦な画像も効率よく予測することができる。
しかしながら、図2に示される符号化装置100のビデオエンコーダ101において、このような画面内予測符号化を無条件に行うと、処理対象のマクロブロックと参照先のマクロブロックとで、復号に使用されるビデオデコーダ204が互いに異なり、復号処理に失敗する(すなわち、復号画像の画質が低下する)恐れがある。
そこで、符号化装置300は、処理量マップを作成するための符号化をビデオエンコーダ301Aにより行い、ビットストリームの作成をビデオエンコーダ301Bによって行う。このときビデオエンコーダ301Bが、処理量マップを利用しながら、復号処理が破綻しないように、適切に画面内符号化を行うようにする。
つまり、ビデオエンコーダ301Bは、画面内予測符号化を行う場合、処理対象ブロックと同一のグループに属する画素を参照するように予測モードを選択する。このようにすることにより、参照関係にある画素同士が復号時に互いに同一のビデオデコーダ204により復号されるようにすることができる。
この場合の符号化処理の流れの例を図21のフローチャートを参照して説明する。
符号化処理が開始されると、ビデオエンコーダ301Aは、ステップS91において、処理対象マクロブロックを符号化し、ステップS92において、発生符号量を算出する。ステップS93において、ビデオエンコーダ301Aは、1フレーム(ピクチャ)分符号化したか否かを判定し、ピクチャ内に未処理のマクロブロックが存在すると判定した場合、処理をステップS91に戻し、残りの未処理のマクロブロックについてステップS91乃至ステップS93の処理を繰り返し実行する。そして、ステップS93において、1フレーム分符号化した(ピクチャ内の全てのマクロブロックを符号化した)と判定した場合、ビデオエンコーダ301Aは処理をステップS94に進める。
ステップS94において、グループ割り当て部111は、ビデオエンコーダ301Aより、統計情報(マクロブロック毎の発生符号量)をビデオエンコーダ301Aより取得する。統計情報を取得すると、グループ割り当て部111は、ステップS95においてグループ化処理を実行する。このグループ化処理の詳細は図12を参照して説明した場合と同様である。従って、グループ化処理の詳細についての説明は省略する。
グループ化処理により処理量マップを作成するとグループ割り当て部111は、その処理量マップを多重化部112およびビデオエンコーダ301Bに供給する。
ステップS96においてビデオエンコーダ301Bは、その処理量マップに基づいて、ピクチャ内において参照するマクロブロックの選択(予測モードの選択)を行う。この選択処理の詳細については後述する。予測モードの選択を行うと、ビデオエンコーダ301Bは、ステップS97において、その選択結果を利用して、すなわち、その選択した予測モードで、処理対象マクロブロックを符号化する。
ステップS98において、ビデオエンコーダ301Bは、1フレーム(ピクチャ)分符号化したか否かを判定し、ピクチャ内に未処理のマクロブロックが存在すると判定した場合、処理をステップS96に戻し、残りの未処理のマクロブロックについてステップS96乃至ステップS98の処理を繰り返し実行する。そして、ステップS98において、1フレーム分符号化した(ピクチャ内の全てのマクロブロックを符号化した)と判定した場合、ビデオエンコーダ301Bは処理をステップS99に進める。
ステップS99において、多重化部112は、処理量マップと符号化データを多重化する。ステップS100において、バッファ103は、その処理量マップが多重化されたビットストリームを所定のタイミングで出力する。ステップS100の処理が終了すると、符号化処理が終了される。このようにして1ピクチャ分の符号化が行われる。符号化装置300は、このような符号化処理を各ピクチャに対して実行する。
次に、図22のフローチャートを参照して図21のステップS96において実行される選択処理の詳細な流れの例を説明する。
選択処理が開始されるとビデオエンコーダ301Bは、ステップS121において、処理量マップを参照し、処理対象マクロブロックの左隣のマクロブロックが、処理対象マクロブロックと同じグループであるか否かを判定する。
左隣のマクロブロックが同じグループであると判定すると、ビデオエンコーダ301Bは、処理をステップS122に進め、さらに処理量マップを参照して、処理対象マクロブロックの上(左上、真上、および右上を含む)のマクロブロックが処理対象マクロブロックと同じグループであるか否かを判定する。
上のマクロブロックが同じグループであると判定すると、ビデオエンコーダ301Bは、処理をステップS123に進め、上のマクロブロックおよび左隣のマクロブロックを予測に用いるように予測モードを選択し、設定する。ステップS123の処理を終了すると、ビデオエンコーダ301Bは、処理を図21のステップS96に戻し、ステップS97以降の処理を実行させる。
図22のステップS122において、上のマクロブロックが処理対象マクロブロックのグループと異なると判定すると、ビデオエンコーダ301Bは、処理をステップS124に進め、左隣のマクロブロックを予測に用いるように予測モードを選択し、設定する。ステップS124の処理を終了すると、ビデオエンコーダ301Bは、処理を図21のステップS96に戻し、ステップS97以降の処理を実行させる。
図22のステップS121において、左隣のマクロブロックが処理対象マクロブロックのグループと異なると判定すると、ビデオエンコーダ301Bは、処理をステップS125に進め、さらに処理量マップを参照して、処理対象マクロブロックの上(左上、真上、および右上を含む)のマクロブロックが処理対象マクロブロックと同じグループであるか否かを判定する。
上のマクロブロックが同じグループであると判定すると、ビデオエンコーダ301Bは、処理をステップS126に進め、上のマクロブロックを予測に用いるように予測モードを選択し、設定する。ステップS126の処理を終了すると、ビデオエンコーダ301Bは、処理を図21のステップS96に戻し、ステップS97以降の処理を実行させる。
図22のステップS125において、上のマクロブロックが処理対象マクロブロックのグループと異なると判定すると、ビデオエンコーダ301Bは、処理をステップS127に進め、上のマクロブロックおよび左隣のマクロブロックを予測に用いない、つまり、画面内予測を行わずに処理対象マクロブロックを符号化するように予測モードを選択し、設定する。ステップS127の処理を終了すると、ビデオエンコーダ301Bは、処理を図21のステップS96に戻し、ステップS97以降の処理を実行させる。
ビデオエンコーダ301Bは、以上のように処理量マップに基づいて参照するマクロブロックを選択することにより、異なるグループの画素を参照しないように(グループ内でのみ参照するように)画面内予測符号化を適宜行う。これにより、符号化装置300は、画質の劣化を抑制しながら圧縮率を向上させることができる。
なお、ビデオエンコーダ301Aが、ビデオエンコーダ301Bが処理するピクチャの次のピクチャを、ビデオエンコーダ301Bに並行して符号化するようにしてもよい。つまり、処理量マップの作成と、処理量マップを利用した符号化処理を並行して行うようにしてもよい。このようにすることにより、符号化装置300は、より高速に符号化を行うことができる。
以上においては、処理量マップを参照して符号化を行う場合に、ビデオエンコーダを2つ用いるように説明したが、1つのビデオエンコーダで2回符号化を行うようにしてもよい。例えば、符号化前の画像データを保持しておき、ビデオエンコーダにより1回目の符号化により処理量マップを作成した後、その保持している画像データを、同じビデオエンコーダを用いて処理量マップに基づいて符号化するようにしてもよい。
また、上述したように統計情報を符号化装置の外部より取得する場合に、画像データを符号化する前にその統計情報から処理量マップを作成し、その処理量マップに基づいて符号化を行う(画面内予測符号化を適宜行う)ようにしてもよい。
以上においては、多重化部112より出力されるビットストリームは、バッファ103に一時的に保持されるように説明したが、バッファ103は必須の構成ではなく、例えば、バッファ103を省略し、多重化部112がビットストリームを符号化装置の外部に出力するようにしてもよい。
また、符号化前の画像データが入力されるように説明したが、これに限らず、例えば既に符号化された符号化データが入力されるようにし、ビデオエンコーダを省略するようにしてもよい。さらに、グループ割り当て部111により作成された処理量マップを、その処理量マップが対応するビットストリームと多重化せずに出力するようにし、多重化部112を省略するようにしてもよい。
つまり、本発明は、統計情報に基づいて、その統計情報に対応するビットストリームを、例えばマクロブロック等の、所定のデータ単位でグループ分けすることにより、ビットストリームの復号処理の効率を向上させるようにするものであり、グループ化処理部102のグループ割り当て部111以外の構成は、仕様に応じて適宜省略可能である。換言すれば、本発明は、上述した符号化装置以外の、任意の装置に適用可能である。
例えば、グループ割り当て部111を、外部より供給される統計情報に基づいて処理量マップを作成し出力する処理量マップ作成装置としてもよいし、グループ割り当て部111および多重化部112(すなわち、グループ化処理部102)を、外部より供給された統計情報に基づいて処理量マップを作成し、その処理量マップの情報を、外部より供給されたビットストリームに多重化して出力するグループ化処理装置としてもよい。
さらに、上述した以外の構成をグループ割り当て部111と組み合わせるようにしてももちろんよい。グループ化処理部102を符号化以外の機能と組み合わせることにより、例えば、記憶部よりビットストリームを読み出して出力する出力装置、画像データを符号化して記憶する記憶装置、画像データを編集して符号化する編集装置、ビットストリームの伝送を中継する中継装置、ビットストリームを復号する復号装置、またはビットストリームを復号し、さらに得られた画像データを再生する再生装置等とすることができる。
以下に具体的な例を説明する。図23は、本発明を適用した出力装置の構成例を示すブロック図である。図23に示される出力装置400は、符号化データのビットストリームを記憶する記憶部402を有し、その記憶部402に記憶されているビットストリーム412を読み出し、復号装置がそのビットストリーム412をより効率よく復号処理することができるようにして出力する装置である。
出力装置400は、図23に示されるように、読み出し指示部401、記憶部402、グループ化処理部102、およびバッファ103を有する。
読み出し指示部401は、例えば、ユーザからの指示等を受け付け、記憶部402に対して、符号化データのビットストリームの読み出しを指示する。
記憶部402は、所定の記憶媒体を有し、例えば発生符号量等の統計情報411およびその統計情報に対応する符号化データのビットストリーム412を記憶している。記憶部402は、読み出し指示部401によりビットストリーム412の読み出しを指示されると、指定されたビットストリーム412と、そのビットストリームに対応する統計情報411を読み出して、統計情報(ビットストリーム412におけるマクロブロックと統計情報411との対応関係を示すマクロブロックアドレスに関する情報を含む)をグループ割り当て部111に供給し、ビットストリーム412を多重化部112に供給する。
グループ化処理部102(グループ割り当て部111および多重化部112)は、符号化装置100の場合と同様に、統計情報411から処理量マップを作成し、その処理量マップの情報(処理量マップデータ)をビットストリーム412に多重化し、バッファ103に供給する。バッファ103は、処理量マップデータが埋め込まれたビットストリーム412を一時的に保持した後、所定のタイミングで出力装置400の外部に出力する。
この出力装置400によるビットストリームの出力処理の流れの例を図24のフローチャートを参照して説明する。
出力処理が開始されると、読み出し指示部401は、ステップS141において、記憶部402より統計情報を読み出させる。ステップS142においてグループ割り当て部111は、その読み出された統計情報に基づいてマクロブロックのグループ化処理を行う。このグループ化処理の詳細は、図12を参照して説明した場合と同様である。従って、このグループ化処理の詳細についての説明は省略する。
ステップS143において、読み出し指示部401は、ステップS141において読み出させた統計情報に対応するビットストリームを記憶部402より読み出させる。ステップS144において、多重化部112は、ステップS142のグループ化処理により作成された処理量マップと、ステップS143において読み出されたビットストリームを多重化する。ステップS145において、バッファ103は、処理量マップが多重化されたビットストリームを所定のタイミングで出力する。
ステップS145の処理が終了すると、出力処理が終了される。このようにして1ピクチャ分のビットストリームの読み出しが行われる。出力装置400は、このような出力処理を各ピクチャに対して実行する。
このようにすることにより、出力装置400は、復号装置がより効率よく復号処理することができるようにビットストリームを出力することができる。
なお、記憶部402にビットストリームのみが記憶され、読み出されたビットストリームを用いて統計情報を算出するようにしてもよい。ただし、その場合、統計情報は、発生符号量のようにビットストリームより算出可能な情報に限られる。もちろん、読み出されたビットストリームを復号して統計情報を算出し、再度符号化することも可能である。その場合の符号化は、図2乃至図22を参照して説明した場合と同様に行われる。
また、以上においては出力装置400が記憶部402を有するように説明したが、これに限らず、記憶部402が別体として構成されるようにしてももちろんよい。
図25は、本発明を適用した復号装置の構成例を示すブロック図である。図25に示される復号装置500は、図13の復号装置200と基本的に同様の構成を有し、ビットストリームの復号処理を複数のビデオデコーダ204を用いて並列実行させる装置である。ただし、復号装置500は、復号装置200の文法解析部201の代わりに文法解析部501を有し、さらに、復号装置200の処理量マップ再構成部202の代わりにグループ化処理部502を有する。
復号装置500には、統計情報が多重化されたビットストリームが供給される。文法解析部501は、そのビットストリームより統計情報を抽出し、グループ化処理部502に供給する。なお、統計情報がビットストリームと別のデータとして供給されるようにしてもよいし、統計情報が多重化されていないビットストリームが復号装置500に供給され、文法解析部501がそのビットストリームより統計情報を算出するようにしてもよい。
グループ化処理部502は、グループ割り当て部111を有する。グループ割り当て部111は、文法解析部501より供給される統計情報に基づいて、ビットストリームを所定のデータ単位(例えばマクロブロック)毎にグループ分けし、処理量マップを生成する。グループ割り当て部111は、生成した処理量マップを分配部203および画像再構成部205に供給する。
復号装置200の場合と同様に、分配部203は、処理量マップに基づいてビットストリームをビデオデコーダ204−1乃至ビデオデコーダ204−3に分配し、ビデオデコーダ204−1乃至ビデオデコーダ204−3は、それぞれ、供給されたビットストリームを復号し、画像再構成部205は、ビデオデコーダ204−1乃至ビデオデコーダ204−3において復号されて得られた画像データを用いてピクチャを再構成し、出力する。
この復号装置200により復号処理の流れの例を図26のフローチャートを参照して説明する。
復号処理が開始されると、文法解析部501は、ステップS161においてビットストリームを取得し、ステップS162においてそのビットストリームより統計情報を取得する。ステップS163において、グループ割り当て部111は、グループ化処理を実行する。このグループ化処理の詳細は、図12のフローチャートを参照して説明した場合と同様である。従って、このグループ化処理の詳細についての説明は省略する。
ステップS164において、分配部203は、ステップS163のグループ化処理により作成された処理量マップに基づいてマクロブロック毎にビットストリームを各ビデオデコーダ204に分配する。ステップS165において、各ビデオデコーダ204は、供給されたビットストリームを復号する。ステップS166において、画像再構成部205は、ステップS163のグループ化処理により作成された処理量マップに基づいて、供給された画像データからフレーム画像(ピクチャ)を再構成する。フレーム画像を再構成すると、画像再構成部205は、ステップS167において画像データを出力する。
ステップS167の処理が終了すると、復号処理が終了される。このようにして1ピクチャ分のビットストリームの復号処理が行われる。復号装置500は、このような復号処理を各ピクチャに対して実行する。
このようにすることにより、復号装置500は、不要な待機時間の発生等を抑制し、復号処理をより効率よく行うことができる。
なお、以上においては、符号化復号方式としてAVC/H.264方式を用いるように説明したが、符号化復号方式は任意であり、例えば、MPEG2やMPEG4等、AVC/H.264以外の方式であってもよい。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウエアにより実行させることもできる。この場合、例えば、図27に示されるようなパーソナルコンピュータとして構成されるようにしてもよい。
図27において、パーソナルコンピュータ600のCPU(Central Processing Unit)601は、ROM(Read Only Memory)602に記憶されているプログラム、または記憶部613からRAM(Random Access Memory)603にロードされたプログラムに従って各種の処理を実行する。RAM603にはまた、CPU601が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU601、ROM602、およびRAM603は、バス604を介して相互に接続されている。このバス604にはまた、入出力インタフェース610も接続されている。
入出力インタフェース610には、キーボード、マウスなどよりなる入力部611、CRT(Cathode Ray Tube)やLCD(Liquid Crystal Display)などよりなるディスプレイ、並びにスピーカなどよりなる出力部612、ハードディスクなどより構成される記憶部613、モデムなどより構成される通信部614が接続されている。通信部614は、インターネットを含むネットワークを介しての通信処理を行う。
入出力インタフェース610にはまた、必要に応じてドライブ615が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブルメディア621が適宜装着され、それらから読み出されたコンピュータプログラムが、必要に応じて記憶部613にインストールされる。
上述した一連の処理をソフトウエアにより実行させる場合には、そのソフトウエアを構成するプログラムが、ネットワークや記録媒体からインストールされる。
この記録媒体は、例えば、図27に示されるように、装置本体とは別に、ユーザにプログラムを配信するために配布される、プログラムが記録されている磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc - Read Only Memory),DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどよりなるリムーバブルメディア621により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに配信される、プログラムが記録されているROM602や、記憶部613に含まれるハードディスクなどで構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数のデバイス(装置)により構成される装置全体を表わすものである。
なお、以上において、1つの装置として説明した構成を分割し、複数の装置として構成するようにしてもよい。逆に、以上において複数の装置として説明した構成をまとめて1つの装置として構成されるようにしてもよい。また、各装置の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置の構成の一部を他の装置の構成に含めるようにしてもよい。つまり、本発明の実施の形態は、上述した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲において種々の変更が可能である。
100 符号化装置, 101 ビデオエンコーダ, 102 グループ化処理部, 103 バッファ, 111 グループ割り当て部, 112 多重化部, 181 統計情報生成部, 191 整列部, 192 割り当て部, 193 処理量マップ生成部, 200 復号装置, 201 文法解析部, 202 処理量マップ再構成部, 203 分配部, 204−1乃至204−3 ビデオデコーダ, 205 画像再構成部, 231 統計量算出部, 232 統計情報生成部, 300 符号化装置, 301Aおよび301B ビデオエンコーダ, 302 グループ化処理部, 400 出力装置, 401 読み出し指示部, 402 記憶部, 411 統計情報, 412 ビットストリーム, 500 復号装置, 501 文法解析部, 502 グループ化処理部
Claims (18)
- 画像データが符号化されて得られた符号化データを処理する情報処理装置において、
互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当てるグループ割り当て手段と、
前記符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記符号化データのビットストリームに多重化する多重化手段と
を備える情報処理装置。 - 前記多重化手段は、1ピクチャ分の符号化データに対して割り当てられるグループの数を示す情報を、前記ビットストリームにさらに多重化する
請求項1に記載の情報処理装置。 - 前記多重化手段は、前記グループ割り当て手段による前記符号化データの前記グループへの割り当てが、前記統計情報に基づいて前記複数の復号処理のそれぞれの処理時間の偏りが小さくなるように行われたことを示す情報を、前記ビットストリームにさらに多重化する
請求項1に記載の情報処理装置。 - 前記多重化手段は、1ピクチャ分の符号化データに対して、前記グループ割り当て手段が割り当てを行う回数を示す情報を、前記ビットストリームにさらに多重化する
請求項1に記載の情報処理装置。 - 前記統計情報は、前記符号化データの、前記符号化処理単位の整数倍毎の符号量である
請求項1に記載の情報処理装置。 - 前記統計情報は、前記符号化データの前記符号化処理単位の整数倍毎の、映像の動きの速さおよび絵柄の複雑さを表わす情報、または、映像の空間的な平坦さを示す情報および映像の複雑さを示す情報である
請求項1に記載の情報処理装置。 - 前記画像データを符号化する符号化手段と、
前記符号化手段による前記画像データの符号化に関する前記統計情報を生成する統計情報生成手段と
をさらに備え、
前記グループ割り当て手段は、前記符号化処理単位の整数倍毎に、前記符号化手段による符号化により得られた前記符号化データを、前記統計情報生成手段により生成された前記統計情報に基づいて、複数の前記グループのいずれかに割り当てる
請求項1に記載の情報処理装置。 - 前記符号化手段は、前記画像データを前記符号化処理単位毎に符号化する際に、ピクチャ内の他の画素値に基づく予測を行わずに符号化を行う
請求項7に記載の情報処理装置。 - 前記符号化データおよび前記符号化データの前記統計情報を記憶する記憶手段をさらに備え、
前記グループ割り当て手段は、前記記憶手段より読み出された前記符号化データを、前記記憶手段より読み出された前記統計情報に基づいて、符号化処理単位の整数倍毎に、複数の前記グループのいずれかに割り当て、
前記多重化手段は、前記符号化データの符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記記憶手段より読み出された前記符号化データのビットストリームに多重化する
請求項1に記載の情報処理装置。 - 画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、
グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、
多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、前記符号化データのビットストリームに多重化する
情報処理方法。 - 画像データが符号化されて得られた符号化データを処理する情報処理装置において、
互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当てるグループ割り当て手段と、
前記グループ割り当て手段によるグループの割り当てに基づいて選択した方法で前記画像データを前記符号化処理単位毎に符号化する第1の符号化手段と、
前記符号化処理単位の整数倍毎に、前記グループ割り当て手段により割り当てられたグループを示す情報を、前記第1の符号化手段による符号化により得られた前記符号化データのビットストリームに多重化する多重化手段と
を備える情報処理装置。 - 前記第1の符号化手段は、処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データが前記処理対象符号化データと同一のグループに属する場合、前記処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データの画素値を参照して予測を行い、得られた予測値を用いて前記処理対象符号化データの符号化を行う
請求項11に記載の情報処理装置。 - 前記第1の符号化手段は、処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データが前記処理対象符号化データと異なるグループに属する場合、前記処理対象符号化データの左または上に隣接する前記符号化処理単位の符号化データの画素値に基づく予測を行わずに、前記処理対象符号化データの符号化を行う
請求項11に記載の情報処理装置。 - 前記統計情報は、前記符号化データの、前記符号化処理単位の整数倍毎の符号量である
請求項11に記載の情報処理装置。 - 前記画像データを符号化する第2の符号化手段と、
前記第2の符号化手段による前記画像データの符号化に関する前記統計情報を生成する統計情報生成手段と
をさらに備え、
前記グループ割り当て手段は、前記符号化処理単位の整数倍毎に、前記第1の符号化手段による符号化により得られた前記符号化データを、前記統計情報生成手段により生成された前記統計情報に基づいて、複数の前記グループのいずれかに割り当てる
請求項11に記載の情報処理装置。 - 画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、
グループ割り当て手段が、互いに並行して実行される複数の復号処理により復号される符号化データを、符号化処理単位の整数倍毎に、前記画像データの符号化に関する統計情報に基づいて、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれかに割り当て、
符号化手段が、前記グループの割り当てに基づいて選択した方法で前記画像データを前記符号化処理単位毎に符号化し、
多重化手段が、前記符号化処理単位の整数倍毎に、割り当てられたグループを示す情報を、符号化により得られた前記符号化データのビットストリームに多重化する
情報処理方法。 - 画像データが符号化されて得られた符号化データを処理する情報処理装置において、
前記符号化データから、符号化処理単位の整数倍毎に、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれのグループに割り当てられるかを示す情報を取得する取得手段と、
前記符号化データを復号する複数の復号手段と、
前記取得手段により取得されたグループを示す情報に従って、前記符号化データを複数の前記復号手段に割り当てて復号するように、前記復号手段を制御する復号制御手段と
を備える情報処理装置。 - 画像データが符号化されて得られた符号化データを処理する情報処理装置の情報処理方法において、
取得手段が、前記符号化データから、符号化処理単位の整数倍毎に、互いに同一の復号処理に割り当てる符号化データ同士をグループ化した複数のグループのいずれのグループに割り当てられるかを示す情報を取得し、
複数の復号手段がそれぞれ前記復号処理を行い、前記符号化データを復号し、
復号制御手段が、取得されたグループを示す情報に従って前記符号化データをグループ毎に各復号処理に割り当て、復号させる
情報処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007292810A JP2009124209A (ja) | 2007-11-12 | 2007-11-12 | 情報処理装置および方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007292810A JP2009124209A (ja) | 2007-11-12 | 2007-11-12 | 情報処理装置および方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2009124209A true JP2009124209A (ja) | 2009-06-04 |
Family
ID=40815943
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007292810A Pending JP2009124209A (ja) | 2007-11-12 | 2007-11-12 | 情報処理装置および方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2009124209A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011030217A (ja) * | 2009-07-03 | 2011-02-10 | Panasonic Corp | 画像符号化装置及び画像復号化装置 |
WO2015005367A1 (ja) * | 2013-07-12 | 2015-01-15 | ソニー株式会社 | 画像復号装置および方法 |
JP2016111468A (ja) * | 2014-12-04 | 2016-06-20 | 富士通株式会社 | 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07298263A (ja) * | 1994-04-21 | 1995-11-10 | Matsushita Electric Ind Co Ltd | 動画像の符号化方法および符号化装置および復号化方法および復号化装置 |
-
2007
- 2007-11-12 JP JP2007292810A patent/JP2009124209A/ja active Pending
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07298263A (ja) * | 1994-04-21 | 1995-11-10 | Matsushita Electric Ind Co Ltd | 動画像の符号化方法および符号化装置および復号化方法および復号化装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2011030217A (ja) * | 2009-07-03 | 2011-02-10 | Panasonic Corp | 画像符号化装置及び画像復号化装置 |
WO2015005367A1 (ja) * | 2013-07-12 | 2015-01-15 | ソニー株式会社 | 画像復号装置および方法 |
CN105359522A (zh) * | 2013-07-12 | 2016-02-24 | 索尼公司 | 图像解码装置和方法 |
US11218710B2 (en) | 2013-07-12 | 2022-01-04 | Sony Corporation | Image decoding device and method |
US11812042B2 (en) | 2013-07-12 | 2023-11-07 | Sony Corporation | Image decoding device and method for setting information for controlling decoding of coded data |
JP2016111468A (ja) * | 2014-12-04 | 2016-06-20 | 富士通株式会社 | 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10397575B2 (en) | Image coding apparatus, image coding method, and program, and image decoding apparatus, image decoding method, and program | |
US8837840B2 (en) | Method and apparatus for encoding and decoding coding unit of picture boundary | |
US11032557B2 (en) | Decoding device, coding device, and method | |
KR101473278B1 (ko) | 화상 예측 부호화 장치, 화상 예측 복호 장치, 화상 예측 부호화 방법, 화상 예측 복호 방법, 화상 예측 부호화 프로그램, 및 화상 예측 복호 프로그램 | |
JP4449915B2 (ja) | 符号化装置、符号化方法およびプログラム、並びに、記録媒体 | |
US10075725B2 (en) | Device and method for image encoding and decoding | |
US9077968B2 (en) | Image processing apparatus and method, and program | |
KR101614828B1 (ko) | 화상 부호화 및 복호 방법, 장치, 프로그램 | |
KR20160072181A (ko) | 비디오 및 이미지 코딩 및 디코딩을 위한 인트라 블록 카피 예측 모드의 피쳐 | |
KR20060109290A (ko) | 화상 복호 장치 및 화상 복호 방법과 화상 복호 프로그램 | |
US20170289567A1 (en) | Image coding apparatus, method for coding image, program therefor, image decoding apparatus, method for decoding image, and program therefor | |
WO2011125730A1 (ja) | 画像符号化装置と画像符号化方法および画像復号化装置と画像復号化方法 | |
JP6261658B2 (ja) | 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム | |
CN111543055A (zh) | 视频编码设备、视频解码设备、视频编码方法、视频解码方法、程序和视频系统 | |
JP2023504332A (ja) | 符号化ツリーユニットを符号化および復号化するための方法、装置およびシステム | |
JP2008004984A (ja) | 画像理装置および方法、プログラム、並びに記録媒体 | |
JP2009124209A (ja) | 情報処理装置および方法 | |
JP3818819B2 (ja) | 画像符号化方式変換装置、画像符号化方式変換方法および記録媒体 | |
JP2023089211A (ja) | 画像符号化装置、画像符号化方法及びプログラム、画像復号装置、画像復号方法及びプログラム | |
JP5937926B2 (ja) | 画像符号化装置、画像復号装置、画像符号化プログラム及び画像復号プログラム | |
US11388414B2 (en) | Device and method for allocating code amounts to intra prediction modes | |
WO2023127940A1 (ja) | 画像処理装置および画像処理方法 | |
KR20230170004A (ko) | 넓은 구역에 대한 공간 조명 보상 | |
KR20230173152A (ko) | 파티션 종속 이차 변환을 위한 시스템 및 방법 | |
CN117296325A (zh) | 用于设计低频不可分离变换的方法和设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100909 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20111228 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120126 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20121002 |