以下、本開示を実施するための形態(以下実施の形態とする)について説明する。なお、説明は以下の順序で行う。
1.第1の実施の形態(画像符号化装置・画像復号装置)
2.第2の実施の形態(画像符号化装置・画像復号装置)
3.第3の実施の形態(画像符号化装置・画像復号装置)
4.第4の実施の形態(画像符号化装置・画像復号装置)
5.第5の実施の形態(画像符号化装置・画像復号装置)
6.第6の実施の形態(画像符号化装置・画像復号装置)
7.第7の実施の形態(画像符号化装置・画像復号装置)
8.第8の実施の形態(画像符号化装置・画像復号装置)
9.第9の実施の形態(画像符号化装置・画像復号装置)
10.第10の実施の形態(画像符号化装置)
11.第11の実施の形態(画像符号化装置)
12.第12の実施の形態(多視点画像符号化装置・多視点画像復号装置)
13.第13の実施の形態(階層画像符号化装置・階層画像復号装置)
14.第14の実施の形態(コンピュータ)
15.第15の実施の形態(応用例)
16.第16の実施の形態(セット・ユニット・モジュール・プロセッサ)
<1.第1の実施の形態>
<画像符号化の標準化の流れ>
近年、画像情報をデジタルとして取り扱い、その際、効率の高い情報の伝送、蓄積を目的とし、画像情報特有の冗長性を利用して、離散コサイン変換等の直交変換と動き補償により圧縮する符号化方式を採用して画像を圧縮符号する装置が普及しつつある。この符号化方式には、例えば、MPEG(Moving Picture Experts Group)などがある。
特に、MPEG2(ISO/IEC 13818-2)は、汎用画像符号化方式として定義されており、飛び越し走査画像及び順次走査画像の双方、並びに標準解像度画像及び高精細画像を網羅する標準である。例えば、MPEG2は、プロフェッショナル用途及びコンシューマ用途の広範なアプリケーションに現在広く用いられている。MPEG2圧縮方式を用いることにより、例えば720x480画素を持つ標準解像度の飛び越し走査画像であれば4乃至8Mbpsの符号量(ビットレート)を割り当てることができる。また、MPEG2圧縮方式を用いることにより、例えば1920x1088画素を持つ高解像度の飛び越し走査画像であれば18乃至22 Mbpsの符号量(ビットレート)を割り当てることができる。これにより、高い圧縮率と良好な画質の実現が可能である。
MPEG2は主として放送用に適合する高画質符号化を対象としていたが、MPEG1より低い符号量(ビットレート)、つまりより高い圧縮率の符号化方式には対応していなかった。携帯端末の普及により、今後そのような符号化方式のニーズは高まると思われ、これに対応してMPEG4符号化方式の標準化が行われた。画像符号化方式に関しては、1998年12月にISO/IEC 14496-2としてその規格が国際標準に承認された。
更に、近年、当初テレビ会議用の画像符号化を目的として、H.26L (ITU-T(International Telecommunication Union Telecommunication Standardization Sector) Q6/16 VCEG(Video Coding Expert Group))という標準の規格化が進められた。H.26LはMPEG2やMPEG4といった従来の符号化方式に比べ、その符号化、復号化により多くの演算量が要求されるものの、より高い符号化効率が実現されることが知られている。また、現在、MPEG4の活動の一環として、このH.26Lをベースに、H.26Lではサポートされない機能をも取り入れ、より高い符号化効率を実現する標準化がJoint Model of Enhanced-Compression Video Codingとして行われた。
標準化のスケジュールとしては、2003年3月にはH.264及びMPEG-4 Part10 (Advanced Video Coding、以下AVCと記す)という名の元に国際標準となった。
さらに、このH.264/AVCの拡張として、RGBや4:2:2、4:4:4といった、業務用に必要な符号化ツールや、MPEG-2で規定されていた8x8DCTや量子化マトリクスをも含んだFRExt (Fidelity Range Extension) の標準化が2005年2月に完了した。これにより、H.264/AVCを用いて、映画に含まれるフィルムノイズをも良好に表現することが可能な符号化方式となって、Blu-Ray Disc(商標)等の幅広いアプリケーションに用いられる運びとなった。
しかしながら、昨今、ハイビジョン画像の4倍の、4000x2000画素程度の画像を圧縮したい、あるいは、インターネットのような、限られた伝送容量の環境において、ハイビジョン画像を配信したいといった、更なる高圧縮率符号化に対するニーズが高まっている。このため、先述の、ITU-T傘下のVCEGにおいて、符号化効率の改善に関する検討が継続され行なわれている。
そこで、現在、AVCより更なる符号化効率の向上を目的として、ITU-Tと、ISO/IEC(International Organization for Standardization / International Electrotechnical Commission)の共同の標準化団体であるJCTVC(Joint Collaboration Team - Video Coding)により、HEVC(High Efficiency Video Coding)と呼ばれる符号化方式の標準化が進められており、バージョン1(version 1)の策定は既に完了している(例えば、非特許文献1参照)。
<符号化方式>
以下においては、HEVC(High Efficiency Video Coding)方式の画像符号化・復号に適用する場合を例に、本技術を説明する。
<コーディングユニット>
AVC(Advanced Video Coding)方式においては、マクロブロックとサブマクロブロックによる階層構造が規定されている。しかしながら、16x16画素のマクロブロックでは、次世代符号化方式の対象となるような、UHD(Ultra High Definition;4000画素x2000画素)といった大きな画枠に対して最適ではない。
これに対して、HEVC方式においては、図1に示されるように、コーディングユニット(CU(Coding Unit))が規定されている。
CUは、Coding Tree Block(CTB)とも呼ばれ、AVC方式におけるマクロブロックと同様の役割を果たす、ピクチャ単位の画像の部分領域である。後者は、16x16画素の大きさに固定されているのに対し、前者の大きさは固定されておらず、それぞれのシーケンスにおいて、画像圧縮情報中において指定されることになる。
例えば、出力となる符号化データに含まれるシーケンスパラメータセット(SPS(Sequence Parameter Set))において、CUの最大サイズ(LCU(Largest Coding Unit))と最小サイズ(SCU(Smallest Coding Unit))が規定される。
それぞれのLCU内においては、SCUのサイズを下回らない範囲で、split-flag=1とすることにより、より小さなサイズのCUに分割することができる。図1の例では、LCUの大きさが128であり、最大階層深度が5となる。2Nx2Nの大きさのCUは、split_flagの値が「1」である時、1つ下の階層となる、NxNの大きさのCUに分割される。
更に、CUは、イントラ若しくはインター予測の処理単位となる領域(ピクチャ単位の画像の部分領域)であるプレディクションユニット(Prediction Unit(PU))に分割され、また、直交変換の処理単位となる領域(ピクチャ単位の画像の部分領域)である、トランスフォームユニット(Transform Unit(TU))に分割される。現在、HEVC方式においては、4x4及び8x8に加え、16x16及び32x32直交変換を用いることが可能である。
以上のHEVC方式のように、CUを定義し、そのCUを単位として各種処理を行うような符号化方式の場合、AVC方式におけるマクロブロックはLCUに相当し、ブロック(サブブロック)はCUに相当すると考えることができる。また、AVC方式における動き補償ブロックは、PUに相当すると考えることができる。ただし、CUは、階層構造を有するので、その最上位階層のLCUのサイズは、例えば128x128画素のように、AVC方式のマクロブロックより大きく設定されることが一般的である。
よって、以下、LCUは、AVC方式におけるマクロブロックをも含むものとし、CUは、AVC方式におけるブロック(サブブロック)をも含むものとする。つまり、以下の説明に用いる「ブロック」は、ピクチャ内の任意の部分領域を示し、その大きさ、形状、および特性等は限定されない。つまり、「ブロック」には、例えば、TU、PU、SCU、CU、LCU、サブブロック、マクロブロック、またはスライス等任意の領域(処理単位)が含まれる。もちろん、これら以外の部分領域(処理単位)も含まれる。サイズや処理単位等を限定する必要がある場合は、適宜説明する。
また、本明細書において、CTU(Coding Tree Unit)は、LCU(最大数のCU)のCTB(Coding Tree Block)と、そのLCUベース(レベル)で処理するときのパラメータを含む単位であるとする。また、CTUを構成するCU(Coding Unit)は、CB(Coding Block)と、そのCUベース(レベル)で処理するときのパラメータを含む単位であるとする。
<デブロッキングフィルタによる画質劣化>
ところでHEVCのバージョン1においては、デブロッキングフィルタは、YUV4:2:0の自然画像用に開発された。このデブロッキングフィルタの制御には、フィルタの実行制御(実行するか否か)とフィルタ強度の制御(強度をどの程度にするか)とがあるが、バージョン1では、いずれの制御も、輝度成分(ルマ(Luma)とも称する)と色差成分(クロマ(Chroma)とも称する)とで共通の制御として行われる(ルマに対するデブロッキングフィルタとクロマに対するデブロッキングフィルタがまとめて(互いに同様に)制御される)。
図2に示されるように、バージョン1のピクチャパラメータセット(PPS(Picture Parameter Set))においては、デブロッキングフィルタの制御に関して、deblocking_filter_control_present_flag、deblocking_filter_override_enabled_flag、pps_deblocking_filter_disabeld_flag、pps_beta_offset_div2、pps_tc_offset_div2等のシンタクス要素が適宜設定される。
deblocking_filter_control_present_flagは、デブロッキングフィルタを制御するシンタクス要素が、当該ピクチャパラメータセットに存在するか否かを示すフラグである。例えば、deblocking_filter_control_present_flagの値が「1」の場合、当該ピクチャパラメータセットにそのようなシンタクス要素が存在する。また、例えば、deblocking_filter_control_present_flagの値が「0」の場合、当該ピクチャパラメータセットにそのようなシンタクス要素が存在しない。
deblocking_filter_override_enabled_flagは、当該ピクチャに属するスライスのスライスヘッダの中にdeblocking_filter_override_flagが存在するか否かを示すフラグである。例えば、deblocking_filter_override_enabled_flagの値が「1」の場合、当該ピクチャに属するスライスのスライスヘッダにdeblocking_filter_override_flagが存在する。また、例えば、deblocking_filter_override_enabled_flagの値が「0」の場合、当該ピクチャに属するスライスのスライスヘッダにdeblocking_filter_override_flagが存在しない。
pps_deblocking_filter_disabeld_flagは、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対するデブロッキングフィルタの適用可否(すなわちデブロッキングフィルタ処理を実行するか否か)を示すフラグである。例えば、pps_deblocking_filter_disabeld_flagの値が「1」の場合、そのスライスに対してデブロッキングフィルタが適用されない。また、例えば、pps_deblocking_filter_disabeld_flagの値が「0」の場合、そのスライスに対してデブロッキングフィルタが適用される。
pps_beta_offset_div2は、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるデブロッキングフィルタのパラメータβの初期オフセットを示す。pps_tc_offset_div2は、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるデブロッキングフィルタのパラメータtCの初期オフセットを示す。つまり、これらは、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素である。
また、図3に示されるように、バージョン1のスライスヘッダ(SH(Slice Header))においては、デブロッキングフィルタの制御に関して、deblocking_filter_override_flag、slice_deblocking_filter_disabeld_flag、slice_beta_offset_div2、slice_tc_offset_div2等のシンタクス要素が適宜設定される。
deblocking_filter_override_flagは、デブロッキングフィルタを制御するシンタクス要素が、当該スライスヘッダに存在するか否かを示すフラグである。例えば、deblocking_filter_override_flagの値が「1」の場合、当該スライスヘッダにそのようなシンタクス要素が存在する。また、例えば、deblocking_filter_override_flagの値が「0」の場合、当該スライスヘッダにそのようなシンタクス要素が存在しない。
slice_deblocking_filter_disabeld_flagは、当該スライスに対するデブロッキングフィルタの適用可否(すなわちデブロッキングフィルタ処理を実行するか否か)を示すフラグである。例えば、slice_deblocking_filter_disabeld_flagの値が「1」の場合、当該スライスに対してデブロッキングフィルタが適用されない。また、例えば、slice_deblocking_filter_disabeld_flagの値が「0」の場合、当該スライスに対してデブロッキングフィルタが適用される。
slice_beta_offset_div2は、その値を2倍した値が、当該スライスに対して行われるデブロッキングフィルタのパラメータβの初期オフセットを示す。slice_tc_offset_div2は、その値を2倍した値が、当該スライスに対して行われるデブロッキングフィルタのパラメータtCの初期オフセットを示す。つまり、これらは、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素である。
このバージョン1のデブロッキングフィルタのフィルタ強度は、符号化モードやデコード画素値から自動で決定されるが、このフィルタ強度を決定するアルゴリズムは、自然画像に対して適切となるように調整されており、コンピュータ画面やCG画像のようなスクリーンコンテント(Screen Content)には対応していなかった。そのため、スクリーンコンテントの画像に対してバージョン1のデブロッキングフィルタを行うと、色差成分(クロマ)に対するフィルタ強度が強すぎて文字潰れ等が生じる等、画質が低減するおそれがあった。
上述したようにバージョン1のデブロッキングフィルタの制御は、輝度成分(ルマ)と色差成分(クロマ)とで共通の制御が行われるため、色差成分(クロマ)に対するフィルタ強度のみを抑制することが困難であり(色差成分(クロマ)に対するデブロッキングフィルタ制御が、輝度成分(ルマ)に対するデブロッキングフィルタにも影響してしまうため)、スクリーンコンテントの画像に対するデブロッキングフィルタを十分に適切化する(画質の低減が十分に抑制されるようにする)ことが困難であった。
<色差成分に対するデブロッキングフィルタの実行制御>
そこで、画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報を生成し、画像データの符号化データのヘッダ情報とするようにする。例えば、HEVCの符号化においては、符号化対象の画像データが符号化された符号化データが復号され、得られた復号画像データに対してデブロッキングフィルタ処理が行われる。また、HEVCの復号においても、画像データの符号化データが復号され、得られた復号画像データに対してデブロッキングフィルタ処理が行われる。これらのデブロッキングフィルタについて、復号画像データのクロマに対する処理のみを制御する制御情報をヘッダ情報に含めるようにし、符号化や復号の際のデブロッキングフィルタがその制御情報に基づいて行われるようにする。
このようにすることにより、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理から独立して制御することができる。例えば、ルマに対してはデブロッキングフィルタ処理を実行させてクロマに対してはデブロッキングフィルタ処理を実行させなかったりすることができる。また、例えば、ルマに対するフィルタ強度を変えずにクロマに対するフィルタ強度を抑制することもできる。したがって、例えばスクリーンコンテントの文字潰れを抑制する等、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切なデブロッキングフィルタ処理を行うことができるようになる。つまり、本技術を適用することにより、画質の低減を抑制することができる。
より具体的な例を説明する。HEVCにおいては符号化データのヘッダ情報として、例えば、シーケンスパラメータセット(SPS(Sequence Parameter Set))、ピクチャパラメータセット、スライスヘッダ等が生成される。図4に示されるように、例えばシーケンスパラメータセットにおいて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を、拡張シンタクスとして設定するようにしてもよい。図4の例の場合、その制御情報としてsps_chroma_deblocking_filter_disabled_flagが設定されている。
sps_chroma_deblocking_filter_disabled_flagは、当該シーケンスに属するスライスの内、後述するpps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。つまり、このシンタクス要素sps_chroma_deblocking_filter_disabeld_flagは、クロマに対するデブロッキングフィルタ処理を実行するか否かを制御する制御情報である。例えば、sps_chroma_deblocking_filter_disabeld_flagの値が真(例えば「1」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用されない。また、例えば、sps_chroma_deblocking_filter_disabeld_flagの値が偽(例えば「0」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用される。
また、図5に示されるように、例えばピクチャパラメータセットにおいて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を拡張シンタクスとして設定するようにしてもよい。図5の例の場合、その制御情報としてpps_chroma_deblocking_filter_disabled_flagが設定されている。
pps_chroma_deblocking_filter_disabled_flagは、当該ピクチャに属するスライスの内、後述するslice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。つまり、このシンタクス要素pps_chroma_deblocking_filter_disabeld_flagは、クロマに対するデブロッキングフィルタ処理を実行するか否かを制御する制御情報である。例えば、pps_chroma_deblocking_filter_disabeld_flagの値が真(例えば「1」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用されない。また、例えば、pps_chroma_deblocking_filter_disabeld_flagの値が偽(例えば「0」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用される。
また、図6に示されるように、例えばスライスヘッダにおいて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を、拡張シンタクスとして設定するようにしてもよい。図6の例の場合、その制御情報としてslice_chroma_deblocking_filter_disabled_flagが設定されている。
slice_chroma_deblocking_filter_disabled_flagは、当該スライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。つまり、このシンタクス要素slice_chroma_deblocking_filter_disabeld_flagは、クロマに対するデブロッキングフィルタ処理を実行するか否かを制御する制御情報である。例えば、slice_chroma_deblocking_filter_disabeld_flagの値が真(例えば「1」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用されない。また、例えば、slice_chroma_deblocking_filter_disabeld_flagの値が偽(例えば「0」)の場合、そのスライスのクロマに対してデブロッキングフィルタが適用される。
つまり、図7に示されるように、シーケンスパラメータセットにおいてsps_chroma_deblocking_filter_disabeld_flagが設定される場合、その値が、クロマに対するデブロッキングフィルタの実行を制御する制御値として設定され、さらにピクチャパラメータセットにおいてpps_chroma_deblocking_filter_disabeld_flagが設定される場合、その値が制御値に上書きされ、さらにスライスヘッダにおいてslice_chroma_deblocking_filter_disabeld_flagが設定される場合、その値が制御値に上書きされる。クロマに対するデブロッキングフィルタ処理の実行は、最終的に設定された制御値(つまり最下層の制御情報)に基づいて制御される。
なお、ルマに対するデブロッキングフィルタ処理は、HEVCのバージョン1の場合と同様、deblocking_filter_control_present_flag、deblocking_filter_override_enabled_flag、pps_deblocking_filter_disabeld_flag、pps_beta_offset_div2、pps_tc_offset_div2、deblocking_filter_override_flag、slice_deblocking_filter_disabeld_flag、slice_beta_offset_div2、slice_tc_offset_div2等のシンタクス要素により制御される。
このようにすることにより、クロマに対するデブロッキングフィルタ処理を、ルマに対するデブロッキングフィルタ処理から独立して制御することができ、画質の低減を抑制することができる。なお、上述したようにクロマに対するデブロッキングフィルタ処理を制御する制御情報を拡張シンタクスとして設定するようにすることにより、本技術に非対応のエンコーダやデコーダが本技術のシンタクス要素を読み飛ばすことができ、本技術を適用することはできないが符号化や復号を正しく行うことができる。
<画像符号化装置>
図8は、本技術を適用した画像処理装置の一態様である画像符号化装置の構成の一例を示すブロック図である。図8に示される画像符号化装置100は、例えば、HEVCの予測処理、またはそれに準ずる方式の予測処理を用いて動画像の画像データを符号化する。
図8に示されるように画像符号化装置100は、画面並べ替えバッファ111、演算部112、直交変換部113、量子化部114、可逆符号化部115、蓄積バッファ116、逆量子化部117、および逆直交変換部118を有する。また、画像符号化装置100は、演算部119、ループフィルタ120、フレームメモリ121、イントラ予測部122、インター予測部123、予測画像選択部124、およびレート制御部125を有する。さらに、画像符号化装置100は、ヘッダ情報生成部131を有する。
画面並べ替えバッファ111は、入力された画像データの各フレームの画像をその表示順に記憶し、記憶した表示の順番のフレームの画像を、GOP(Group Of Picture)に応じて、符号化のためのフレームの順番に並べ替え、フレームの順番を並び替えた画像を、演算部112に供給する。また、画面並べ替えバッファ111は、フレームの順番を並び替えた画像を、イントラ予測部122およびインター予測部123にも供給する。さらに、画面並べ替えバッファ111は、その画像をヘッダ情報生成部131にも供給することができる。
演算部112は、画面並べ替えバッファ111から読み出された画像から、予測画像選択部124を介してイントラ予測部122若しくはインター予測部123から供給される予測画像を減算し、その差分情報(残差データ)を直交変換部113に供給する。例えば、イントラ符号化が行われる画像の場合、演算部112は、画面並べ替えバッファ111から読み出された画像から、イントラ予測部122から供給される予測画像を減算する。また、例えば、インター符号化が行われる画像の場合、演算部112は、画面並べ替えバッファ111から読み出された画像から、インター予測部123から供給される予測画像を減算する。
直交変換部113は、演算部112から供給される残差データに対して、離散コサイン変換やカルーネン・レーベ変換等の直交変換を施す。直交変換部113は、その直交変換により得られた変換係数を量子化部114に供給する。
量子化部114は、直交変換部113から供給される変換係数を量子化する。量子化部114は、レート制御部125から供給される符号量の目標値に関する情報に基づいて量子化パラメータを設定し、その量子化を行う。量子化部114は、量子化された変換係数を可逆符号化部115に供給する。
可逆符号化部115は、量子化部114において量子化された変換係数を任意の符号化方式で符号化し、符号化データ(符号化ストリームとも称する)を生成する。また、可逆符号化部115は、ヘッダ情報生成部131から、例えばシーケンスパラメータセット、ピクチャパラメータセット、スライスヘッダ等のヘッダ情報を取得し、それらを符号化データのヘッダ情報とする。このヘッダ情報には、クロマに対するデブロッキングフィルタの制御情報を含むことができる。さらに、可逆符号化部115は、イントラ予測のモードを示す情報などをイントラ予測部122から取得し、インター予測のモードを示す情報や差分動きベクトル情報などをインター予測部123から取得し、それらの各種情報をヘッダ情報に含める。
可逆符号化部115は、符号化して得られた符号化データを蓄積バッファ116に供給して蓄積させる。
可逆符号化部115の符号化方式としては、例えば、可変長符号化または算術符号化等が挙げられる。可変長符号化としては、例えば、H.264/AVC方式で定められているCAVLC(Context-Adaptive Variable Length Coding)などが挙げられる。算術符号化としては、例えば、CABAC(Context-Adaptive Binary Arithmetic Coding)などが挙げられる。
蓄積バッファ116は、可逆符号化部115から供給された符号化データを、一時的に保持する。蓄積バッファ116は、所定のタイミングにおいて、保持している符号化データを、画像符号化装置100の外部に出力する。すなわち、蓄積バッファ116は、符号化データを伝送する伝送部でもある。
また、量子化部114において量子化された変換係数は、逆量子化部117にも供給される。逆量子化部117は、その量子化された変換係数を、量子化部114による量子化に対応する方法で逆量子化する。逆量子化部117は、その逆量子化により得られた変換係数を、逆直交変換部118に供給する。
逆直交変換部118は、逆量子化部117から供給された変換係数を、直交変換部113による直交変換処理に対応する方法で逆直交変換する。逆直交変換部118は、逆直交変換された出力(復元された残差データ)を演算部119に供給する。
演算部119は、逆直交変換部118から供給された、復元された残差データに、予測画像選択部124を介してイントラ予測部122若しくはインター予測部123から供給される予測画像を加算し、局所的に再構成された画像(以下、復号画像とも称する)を得る。その復号画像は、ループフィルタ120若しくはイントラ予測部122に供給される。
ループフィルタ120は、演算部119から供給される復号画像に対して適宜ループフィルタ処理を行う。このループフィルタ処理は、少なくともデブロッキングフィルタ処理を含むフィルタ処理であれば任意である。例えば、ループフィルタ120が、復号画像に対してデブロッキングフィルタ処理を行ってデブロック歪を除去するとともに、ウィナーフィルタ(Wiener Filter)を用いて適応ループフィルタ処理を行うことにより画質改善を行うようにしてもよい。
ループフィルタ120は、ヘッダ情報生成部131から、クロマに対するデブロッキングフィルタの制御情報を含むことができるヘッダ情報を取得し、その制御情報に基づいてデブロッキングフィルタ処理を行う。また、ループフィルタ120は、必要に応じて、フィルタ処理に用いたフィルタ係数等の情報を可逆符号化部115に供給し、それを符号化させるようにすることもできる。
ループフィルタ120は、フィルタ処理を適宜施した復号画像をフレームメモリ121に供給する。
フレームメモリ121は、供給される復号画像を記憶し、所定のタイミングにおいて、記憶している復号画像を参照画像としてインター予測部123に供給する。
イントラ予測部122は、演算部119から参照画像として供給される復号画像である処理対象ピクチャ内の画素値を用いて予測画像を生成するイントラ予測(画面内予測)を行う。イントラ予測部122は、予め用意された複数のイントラ予測モードでこのイントラ予測を行う。
イントラ予測部122は、候補となる全てのイントラ予測モードで予測画像を生成し、画面並べ替えバッファ111から供給される入力画像を用いて各予測画像のコスト関数値を評価し、最適なモードを選択する。イントラ予測部122は、最適なイントラ予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部124に供給する。
また、上述したように、イントラ予測部122は、採用されたイントラ予測モードを示すイントラ予測モード情報等を、適宜可逆符号化部115に供給し、符号化させる。
インター予測部123は、画面並べ替えバッファ111から供給される入力画像と、フレームメモリ121から供給される参照画像とを用いてインター予測処理(動き予測処理および補償処理)を行う。より具体的には、インター予測部123は、インター予測処理として、動き予測を行って検出された動きベクトルに応じて動き補償処理を行い、予測画像(インター予測画像情報)を生成する。インター予測部123は、予め用意された複数のインター予測モードでこのようなインター予測を行う。
インター予測部123は、候補となる全てのインター予測モードで予測画像を生成する。インター予測部123は、画面並べ替えバッファ111から供給される入力画像と、生成した差分動きベクトルの情報などを用いて、各予測画像のコスト関数値を評価し、最適なモードを選択する。インター予測部123は、最適なインター予測モードを選択すると、その最適なモードで生成された予測画像を、予測画像選択部124に供給する。
インター予測部123は、採用されたインター予測モードを示す情報や、符号化データを復号する際に、そのインター予測モードで処理を行うために必要な情報等を可逆符号化部115に供給し、符号化させる。必要な情報としては、例えば、生成された差分動きベクトルの情報や、予測動きベクトル情報として、予測動きベクトルのインデックスを示すフラグなどがある。
予測画像選択部124は、演算部112や演算部119に供給する予測画像の供給元を選択する。例えば、イントラ符号化の場合、予測画像選択部124は、予測画像の供給元としてイントラ予測部122を選択し、そのイントラ予測部122から供給される予測画像を演算部112や演算部119に供給する。また、例えば、インター符号化の場合、予測画像選択部124は、予測画像の供給元としてインター予測部123を選択し、そのインター予測部123から供給される予測画像を演算部112や演算部119に供給する。
レート制御部125は、蓄積バッファ116に蓄積された符号化データの符号量に基づいて、オーバフローあるいはアンダーフローが発生しないように、量子化部114の量子化動作のレートを制御する。
ヘッダ情報生成部131は、外部から供給される指示や参考情報、または、画面並べ替えバッファ111から供給される画像データ等に基づいて、例えばシーケンスパラメータセット、ピクチャパラメータセット、スライスヘッダ等のヘッダ情報を生成する。このヘッダ情報は任意であり、例えばビデオパラメータセット等であってもよい。ヘッダ情報生成部131は、クロマに対するデブロッキングフィルタ処理を制御する制御情報を生成し、ヘッダ情報に含めることができる。ヘッダ情報生成部131は、生成したヘッダ情報を、可逆符号化部115に供給する。また、ヘッダ情報生成部131は、生成したヘッダ情報を、ループフィルタ120にも供給する。
<ヘッダ情報生成部>
図9は、ヘッダ情報生成部131の主な構成例を示すブロック図である。図9に示されるように、ヘッダ情報生成部131は、例えば、ヘッダ制御部141、SPS生成部151、PPS生成部152、およびSH生成部153を有する。SPS生成部151は、SPS拡張シンタクス生成部161を有する。PPS生成部152は、PPS拡張シンタクス生成部162を有する。SH生成部153は、SH拡張シンタクス生成部163を有する。SPS拡張シンタクス生成部161は、sps_chroma_deblocking_filter_disabled_flag生成部171を有する。PPS拡張シンタクス生成部162は、pps_chroma_deblocking_filter_disabled_flag生成部172を有する。SH拡張シンタクス生成部163は、slice_chroma_deblocking_filter_disabled_flag生成部173を有する。
ヘッダ制御部141は、SPS生成部151、PPS生成部152、およびSH生成部153等を制御し、ヘッダ情報の生成を制御する。
SPS生成部151は、シーケンスパラメータセット(SPS)を生成する。SPS生成部151は、シーケンスパラメータセットの、SPS拡張シンタクス生成部161が生成するシンタクス要素以外の任意のシンタクス要素も生成することができる。SPS拡張シンタクス生成部161は、例えば図4の例のように、シーケンスパラメータセットの拡張シンタクス要素を生成する。SPS拡張シンタクス生成部161は、例えば、sps_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素が存在する場合、その拡張シンタクス要素も生成することができる。この拡張シンタクス要素はどのようなものであってもよい。sps_chroma_deblocking_filter_disabled_flag生成部171は、sps_chroma_deblocking_filter_disabled_flagを生成する。図4を参照して説明したように、このsps_chroma_deblocking_filter_disabled_flagは、当該シーケンスに属するスライスの内、後述するpps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。
PPS生成部152は、ピクチャパラメータセット(PPS)を生成する。PPS生成部152は、ピクチャパラメータセットの、PPS拡張シンタクス生成部162が生成するシンタクス要素以外の任意のシンタクス要素も生成することができる。PPS拡張シンタクス生成部162は、例えば図5の例のように、ピクチャパラメータセットの拡張シンタクス要素を生成する。PPS拡張シンタクス生成部162は、例えば、pps_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素が存在する場合、その拡張シンタクス要素も生成することができる。この拡張シンタクス要素はどのようなものであってもよい。pps_chroma_deblocking_filter_disabled_flag生成部172は、pps_chroma_deblocking_filter_disabled_flagを生成する。図5を参照して説明したように、このpps_chroma_deblocking_filter_disabled_flagは、当該ピクチャに属するスライスの内、後述するslice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。
SH生成部153は、スライスヘッダ(SH)を生成する。SH生成部153は、スライスヘッダの、SH拡張シンタクス生成部163が生成するシンタクス要素以外の任意のシンタクス要素も生成することができる。SH拡張シンタクス生成部163は、例えば図6の例のように、スライスヘッダの拡張シンタクス要素を生成する。SH拡張シンタクス生成部163は、例えば、slice_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素が存在する場合、その拡張シンタクス要素も生成することができる。この拡張シンタクス要素はどのようなものであってもよい。slice_chroma_deblocking_filter_disabled_flag生成部173は、slice_chroma_deblocking_filter_disabled_flagを生成する。図6を参照して説明したように、このslice_chroma_deblocking_filter_disabled_flagは、当該スライスのクロマに対するデブロッキングフィルタの適用可否を示すフラグである。
<ループフィルタ>
図10は、ループフィルタ120の主な構成例を示すブロック図である。図10に示されるように、ループフィルタ120は、例えば、デブロッキングフィルタ制御部181とデブロッキングフィルタ処理部182とを有する。デブロッキングフィルタ処理部182は、ルマデブロッキングフィルタ処理部191とクロマデブロッキングフィルタ処理部192とを有する。
デブロッキングフィルタ制御部181は、ヘッダ情報生成部131から供給されるヘッダ情報に基づいて、デブロッキングフィルタ処理部182によるデブロッキングフィルタ処理(すなわち、ルマデブロッキングフィルタ処理部191によるルマに対するデブロッキングフィルタ処理やクロマデブロッキングフィルタ処理部192によるクロマに対するデブロッキングフィルタ処理)を制御する。このヘッダ情報は、クロマに対するデブロッキングフィルタの制御情報を含むことができる。デブロッキングフィルタ制御部181は、デブロッキングフィルタ処理の制御として、例えば、クロマに対するデブロッキングフィルタ処理の実行制御(実行するか否かの制御)を行う。
デブロッキングフィルタ処理部182は、デブロッキングフィルタ制御部181の制御に従って、演算部119から供給される復号画像に対するデブロッキングフィルタ処理を行う。ルマデブロッキングフィルタ処理部191は、デブロッキングフィルタ制御部181の制御に従って、演算部119から供給される復号画像のルマに対するデブロッキングフィルタ処理を行う。クロマデブロッキングフィルタ処理部192は、デブロッキングフィルタ制御部181の制御に従って、演算部119から供給される復号画像のクロマに対するデブロッキングフィルタ処理を行う。デブロッキングフィルタ処理部182は、デブロッキングフィルタ処理を行った復号画像、若しくは、デブロッキングフィルタ処理を行わなかった復号画像をフレームメモリ121に供給する。
<符号化処理の流れ>
次に、画像符号化装置100により実行される各処理の流れの例を説明する。最初に、符号化処理の流れの例を、図11のフローチャートを参照して説明する。
符号化処理が開始されると、ヘッダ情報生成部131は、ステップS101において、例えばシーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダ(SH)等のヘッダ情報を生成する。
ステップS102において、画面並べ替えバッファ111は、入力された動画像の各フレーム(ピクチャ)の画像をその表示する順番に記憶し、各ピクチャの表示する順番から符号化する順番への並べ替えを行う。
ステップS103において、イントラ予測部122は、イントラ予測モードのイントラ予測処理を行う。
ステップS104において、インター予測部123は、インター予測モードでの動き予測や動き補償等を行うインター予測処理を行う。
ステップS105において、予測画像選択部124は、コスト関数値等に基づいて、ステップS103のイントラ予測により生成された予測画像と、ステップS104のインター予測により生成された予測画像のいずれか一方を選択する。
ステップS106において、演算部112は、ステップS102の処理によりフレーム順を並び替えられた入力画像と、ステップS105の処理により選択された予測画像との差分を演算する。つまり、演算部112は、入力画像と予測画像との残差データを生成する。このようにして求められた残差データは、元の画像データに比べてデータ量が低減される。したがって、画像をそのまま符号化する場合に比べて、データ量を圧縮することができる。
ステップS107において、直交変換部113は、ステップS106の処理により生成された残差データを直交変換する。
ステップS108において、量子化部114は、レート制御部125により算出された量子化パラメータを用いて、ステップS107の処理により得られた直交変換係数を量子化する。
ステップS109において、逆量子化部117は、ステップS108の処理により生成された量子化された係数(量子化係数とも称する)を、その量子化の特性に対応する特性で逆量子化する。
ステップS110において、逆直交変換部118は、ステップS109の処理により得られた直交変換係数を逆直交変換する。
ステップS111において、演算部119は、ステップS110の処理により復元された残差データに、ステップS105の処理により選択された予測画像を加算することにより、復号画像の画像データを生成する。
ステップS112において、ループフィルタ120は、ステップS111の処理により生成された復号画像の画像データに対して適宜ループフィルタ処理を行う。
ステップS113において、フレームメモリ121は、ステップS112の処理が行われた、局所的に復号された復号画像を記憶する。
ステップS114において、可逆符号化部115は、ステップS108の処理により得られた、量子化された係数を符号化する。すなわち、残差データに対応するデータに対して、可変長符号化や算術符号化等の可逆符号化が行われる。
また、このとき、可逆符号化部115は、ステップS101の処理により生成されたヘッダ情報を符号化し、その量子化された係数を符号化して得られる符号化データに付加する。
また、可逆符号化部115は、ステップS105の処理により選択された予測画像の予測モードに関する情報を符号化し、符号化データのヘッダ情報に付加する。つまり、可逆符号化部115は、イントラ予測部122から供給される最適イントラ予測モード情報、または、インター予測部123から供給される最適インター予測モードに応じた情報なども符号化し、符号化データのヘッダ情報に付加する。
ステップS115において蓄積バッファ116は、ステップS114の処理により得られた符号化データ等を蓄積する。蓄積バッファ116に蓄積された符号化データ等は、ビットストリームとして適宜読み出され、伝送路や記録媒体を介して復号側に伝送される。
ステップS116においてレート制御部125は、ステップS115の処理により蓄積バッファ116に蓄積された符号化データ等の符号量(発生符号量)に基づいて、オーバフローあるいはアンダーフローが発生しないように、ステップS108の量子化処理のレートを制御する。
ステップS116の処理が終了すると、符号化処理が終了する。
<ヘッダ情報生成処理の流れ>
次に、このような符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図12のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS121において、SPS生成部151は、シーケンスパラメータセット(SPS)を生成する。SPS生成部151は、シーケンスパラメータセットの拡張シンタクス以外のシンタクス要素を生成し、SPS拡張シンタクス生成部161は、シーケンスパラメータセットのsps_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素を生成する。
ステップS122において、sps_chroma_deblocking_filter_disabled_flag生成部171は、シーケンスパラメータセットのsps_chroma_deblocking_filter_disabled_flagを生成する。例えば、当該シーケンスに属するスライスの内、後述するpps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対してデブロッキングフィルタ処理を行うようにする場合、sps_chroma_deblocking_filter_disabled_flag生成部171は、このフラグの値を偽(例えば「0」)に設定する。また、例えば、当該シーケンスに属するスライスの内、後述するpps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対してデブロッキングフィルタ処理を行わないようにする場合、sps_chroma_deblocking_filter_disabled_flag生成部171は、このフラグの値を真(例えば「1」)に設定する。このフラグの値は、例えば予め定められた設定等、任意の情報に基づいて決定される。
ステップS123において、PPS生成部152は、ピクチャパラメータセット(PPS)を生成する。PPS生成部152は、ピクチャパラメータセットの拡張シンタクス以外のシンタクス要素を生成し、PPS拡張シンタクス生成部162は、ピクチャパラメータセットのpps_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素を生成する。
ステップS124において、pps_chroma_deblocking_filter_disabled_flag生成部172は、ピクチャパラメータセットのpps_chroma_deblocking_filter_disabled_flagを生成する。例えば、当該ピクチャに属するスライスの内、後述するslice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対してデブロッキングフィルタ処理を行うようにする場合、pps_chroma_deblocking_filter_disabled_flag生成部172は、このフラグの値を偽(例えば「0」)に設定する。また、例えば、当該ピクチャに属するスライスの内、後述するslice_chroma_deblocking_filter_disabled_flagが定義されていないスライスのクロマに対してデブロッキングフィルタ処理を行わないようにする場合、pps_chroma_deblocking_filter_disabled_flag生成部172は、このフラグの値を真(例えば「1」)に設定する。このフラグの値は、例えば予め定められた設定等、任意の情報に基づいて決定される。
ステップS125において、SH生成部153は、スライスヘッダ(SH)を生成する。SH生成部153は、スライスヘッダの拡張シンタクス以外のシンタクス要素を生成し、SH拡張シンタクス生成部163は、スライスヘッダのslice_chroma_deblocking_filter_disabled_flag以外の拡張シンタクス要素を生成する。
ステップS126において、slice_chroma_deblocking_filter_disabled_flag生成部173は、スライスヘッダのslice_chroma_deblocking_filter_disabled_flagを生成する。例えば、当該スライスのクロマに対してデブロッキングフィルタ処理を行うようにする場合、slice_chroma_deblocking_filter_disabled_flag生成部173は、このフラグの値を偽(例えば「0」)に設定する。また、例えば、当該スライスのクロマに対してデブロッキングフィルタ処理を行わないようにする場合、slice_chroma_deblocking_filter_disabled_flag生成部173は、このフラグの値を真(例えば「1」)に設定する。このフラグの値は、例えば予め定められた設定等、任意の情報に基づいて決定される。
ステップS126の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報として、画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報を生成することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理から独立して制御することができる。例えば、ルマに対してはデブロッキングフィルタ処理を実行させてクロマに対してはデブロッキングフィルタ処理を実行させなかったりすることができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画像データの符号化や復号の際に行われるデブロッキングフィルタ処理において、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切に処理を実行させることができ、画質の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、図11の符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図13のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS141において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるpps_deblocking_filter_disabled_flagの値とslice_deblocking_filter_disabled_flagの値とに基づいて復号画像のルマに対するデブロッキングフィルタ処理の実行を制御する。これらのシンタクス要素は図2および図3を参照して説明した例の通りであり、slice_deblocking_filter_disabled_flagの値が、pps_deblocking_filter_disabled_flagの値に優先される。そして、ルマデブロッキングフィルタ処理部191は、その制御に基づいて、すなわち、pps_deblocking_filter_disabled_flagの値とslice_deblocking_filter_disabled_flagの値とに応じて、復号画像のルマに対するデブロッキングフィルタ処理を行う。
ステップS142において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるsps_chroma_deblocking_filter_disabled_flagの値と、pps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とに基づいて復号画像のクロマに対するデブロッキングフィルタ処理の実行を制御する。これらのシンタクス要素は図4乃至図6を参照して説明した例の通りであり、pps_chroma_deblocking_filter_disabled_flagの値が、sps_chroma_deblocking_filter_disabled_flagの値に優先され、slice_chroma_deblocking_filter_disabled_flagの値が、pps_chroma_deblocking_filter_disabled_flagの値やsps_chroma_deblocking_filter_disabled_flagの値に優先される。そして、クロマデブロッキングフィルタ処理部192は、その制御に基づいて、すなわち、sps_chroma_deblocking_filter_disabled_flagの値と、pps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とに応じて、復号画像のクロマに対するデブロッキングフィルタ処理を行う。
ステップS142の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。
以上のように、ヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行することにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理とは独立して実行することができる。例えば、ルマに対してはデブロッキングフィルタ処理を実行し、クロマに対してはデブロッキングフィルタ処理を実行しないといったことを実現することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画像データの符号化の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
<画像復号装置>
図14は、本技術を適用した画像処理装置の一態様である画像復号装置の主な構成例を示すブロック図である。図14に示される画像復号装置200は、例えば画像符号化装置100(図8)が画像データをHEVC符号化方式により符号化して生成した符号化データを復号する。
図14に示されるように画像復号装置200は、蓄積バッファ211、可逆復号部212、逆量子化部213、逆直交変換部214、演算部215、ループフィルタ216、および画面並べ替えバッファ217を有する。また、画像復号装置200は、フレームメモリ218、イントラ予測部219、インター予測部220、および予測画像選択部221を有する。
蓄積バッファ211は、符号化側から伝送されてきた符号化データを受け取る受け取り部でもある。蓄積バッファ211は、その伝送されてきた符号化データを受け取って、蓄積し、所定のタイミングにおいてその符号化データを可逆復号部212に供給する。可逆復号部212は、蓄積バッファ211より供給された符号化データをHEVC方式で復号する。可逆復号部212は、復号して得られた量子化された係数データを、逆量子化部213に供給する。
また、可逆復号部212は、符号化データに付加された最適な予測モードに関する情報に基づいて、最適な予測モードとしてイントラ予測モードが選択されたかインター予測モードが選択されたかを判定し、その最適な予測モードに関する情報を、イントラ予測部219およびインター予測部220の内、選択されたと判定したモードの方に供給する。例えば符号化側において最適な予測モードとしてイントラ予測モードが選択された場合、その最適な予測モードに関する情報がイントラ予測部219に供給される。また、例えば符号化側において最適な予測モードとしてインター予測モードが選択された場合、その最適な予測モードに関する情報がインター予測部220に供給される。
さらに、可逆復号部212は、例えば、量子化行列や量子化パラメータ等の、逆量子化に必要な情報を逆量子化部213に供給する。
また、可逆復号部212は、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダ等のヘッダ情報を、ループフィルタ216に供給する。このヘッダ情報は、画像符号化装置100の説明において上述したように、クロマに対するデブロッキングフィルタの制御情報を含むことができる。
逆量子化部213は、可逆復号部212により復号されて得られた量子化された係数データを、符号化側の量子化方式に対応する方式で逆量子化する。逆量子化部213は、得られた係数データを逆直交変換部214に供給する。
逆直交変換部214は、逆量子化部213から供給される直交変換係数を、符号化側の直交変換方式に対応する方式で逆直交変換する。逆直交変換部214は、この逆直交変換処理により、符号化側において直交変換される前の状態に対応する残差データを得る。逆直交変換されて得られた残差データは、演算部215に供給される。
演算部215は、逆直交変換部214から残差データを取得する。また、演算部215は、予測画像選択部221を介して、イントラ予測部219若しくはインター予測部220から予測画像を取得する。演算部215は、差分画像と予測画像とを加算し、符号化側において予測画像が減算される前の画像に対応する復号画像を得る。演算部215は、その復号画像をループフィルタ216およびイントラ予測部219に供給する。
ループフィルタ216は、画像符号化装置100(図8)のループフィルタ120と同様の処理部であり、ループフィルタ120と同様の処理を行う。すなわち、ループフィルタ216は、演算部215から供給される復号画像に対して適宜ループフィルタ処理を行う。このループフィルタ処理は、少なくともデブロッキングフィルタ処理を含むフィルタ処理であれば任意である。例えば、ループフィルタ120が、復号画像に対してデブロッキングフィルタ処理を行ってデブロック歪を除去するとともに、ウィナーフィルタ(Wiener Filter)を用いて適応ループフィルタ処理を行うことにより画質改善を行うようにしてもよい。
ループフィルタ216は、可逆復号部212から、クロマに対するデブロッキングフィルタの制御情報を含むことができるヘッダ情報を取得し、その制御情報に基づいてデブロッキングフィルタ処理を行う。なお、ループフィルタ216が、符号化側から供給されたフィルタ係数を用いてフィルタ処理を行うようにしてもよい。
ループフィルタ216は、フィルタ処理を適宜施した復号画像を画面並べ替えバッファ217およびフレームメモリ218に供給する。
画面並べ替えバッファ217は、画像の並べ替えを行う。すなわち、符号化側において符号化の順番のために並べ替えられたフレームの順番が、元の表示の順番に並べ替えられる。画面並べ替えバッファ217は、フレームの順番を並べ替えた復号画像データを画像復号装置200の外部に出力する。
フレームメモリ218は、供給される復号画像を記憶し、所定のタイミングにおいて、若しくは、インター予測部220等の外部の要求に基づいて、記憶している復号画像を参照画像として、インター予測部220に供給する。
イントラ予測部219には、ヘッダ情報を復号して得られたイントラ予測モードを示す情報等が可逆復号部212から適宜供給される。イントラ予測部219は、符号化側において用いられたイントラ予測モードで、演算部215から供給される復号画像を参照画像として用いてイントラ予測を行い、予測画像を生成する。イントラ予測部219は、生成した予測画像を予測画像選択部221に供給する。
インター予測部220は、ヘッダ情報を復号して得られた情報(最適予測モード情報、参照画像情報等)を可逆復号部212から取得する。
インター予測部220は、可逆復号部212から取得された最適予測モード情報が示すインター予測モードで、フレームメモリ218から取得した参照画像を用いてインター予測を行い、予測画像を生成する。
予測画像選択部221は、イントラ予測部219からの予測画像またはインター予測部220からの予測画像を、演算部215に供給する。そして、演算部215においては、動きベクトルが用いられて生成された予測画像と逆直交変換部214から供給される残差データとが加算されて元の画像が復号される。すなわち、復号画像が生成される。
<ループフィルタ>
図15は、ループフィルタ216の主な構成例を示すブロック図である。図15に示されるように、ループフィルタ216は、例えば、デブロッキングフィルタ制御部251とデブロッキングフィルタ処理部252とを有する。デブロッキングフィルタ処理部252は、ルマデブロッキングフィルタ処理部261とクロマデブロッキングフィルタ処理部262とを有する。つまり、ループフィルタ216は、ループフィルタ120と同様の構成を有し、同様の処理を行う。
すなわち、デブロッキングフィルタ制御部251は、ループフィルタ120のデブロッキングフィルタ制御部181に対応し、可逆復号部212から供給されるヘッダ情報に基づいて、デブロッキングフィルタ処理部252によるデブロッキングフィルタ処理(すなわち、ルマデブロッキングフィルタ処理部261によるルマに対するデブロッキングフィルタ処理やクロマデブロッキングフィルタ処理部262によるクロマに対するデブロッキングフィルタ処理)を制御する。このヘッダ情報は、クロマに対するデブロッキングフィルタの制御情報を含むことができる。デブロッキングフィルタ制御部251は、デブロッキングフィルタ処理の制御として、例えば、クロマに対するデブロッキングフィルタ処理の実行制御(実行するか否かの制御)を行う。
また、デブロッキングフィルタ処理部252は、ループフィルタ120のデブロッキングフィルタ処理部182に対応し、デブロッキングフィルタ処理部251の制御に従って、演算部215から供給される復号画像に対するデブロッキングフィルタ処理を行う。デブロッキングフィルタ処理部252は、デブロッキングフィルタ処理を行った復号画像、若しくは、デブロッキングフィルタ処理を行わなかった復号画像を画面並べ替えバッファ217およびフレームメモリ218に供給する。
ルマデブロッキングフィルタ処理部261は、ループフィルタ120のルマデブロッキングフィルタ処理部191に対応し、デブロッキングフィルタ処理部251の制御に従って、演算部215から供給される復号画像のルマに対するデブロッキングフィルタ処理を行う。クロマデブロッキングフィルタ処理部262は、ループフィルタ120のクロマデブロッキングフィルタ処理部192に対応し、デブロッキングフィルタ処理部251の制御に従って、演算部215から供給される復号画像のクロマに対するデブロッキングフィルタ処理を行う。
<復号処理の流れ>
次に、画像復号装置200により実行される各処理の流れの例を説明する。最初に、復号処理の流れの例を、図16のフローチャートを参照して説明する。
復号処理が開始されると、ステップS201において、蓄積バッファ211は、伝送されてきたビットストリームを蓄積する。ステップS202において、可逆復号部212は、蓄積バッファ211に蓄積されたビットストリームを復号し、シーケンスパラメータセット(SPS)、ピクチャパラメータセット(PPS)、スライスヘッダ等のヘッダ情報を取得する。このヘッダ情報は、例えば画像符号化装置100により生成されたものであり、上述したようにデブロッキングフィルタの制御情報を含む。
ステップS203において、可逆復号部212は、蓄積バッファ211に蓄積されたビットストリームを復号し、符号化側により符号化されたIピクチャ、Pピクチャ、並びにBピクチャ等が復号される。
ステップS204において、逆量子化部213は、ステップS203の処理により得られた、量子化された係数を逆量子化する。
ステップS205において、逆直交変換部214は、ステップS204の処理により得られた直交変換係数を逆直交変換する。この処理により、残差データが復元される。
ステップS206において、イントラ予測部219若しくはインター予測部220は、予測処理を行い、予測画像を生成する。つまり、可逆復号部212において判定された、符号化の際に適用された予測モードで予測処理が行われる。より具体的には、例えば、符号化の際にイントラ予測が適用された場合、イントラ予測部219が、符号化の際に最適とされたイントラ予測モードで予測画像を生成する。また、例えば、符号化の際にインター予測が適用された場合、インター予測部220が、符号化の際に最適とされたインター予測モードで予測画像を生成する。
ステップS207において、演算部215は、ステップS205の処理により復元された残差データに、ステップS206において生成された予測画像を加算する。これにより復号画像が得られる。
ステップS208において、ループフィルタ216は、ステップS207の処理により生成された復号画像の画像データに対して適宜ループフィルタ処理を行う。
ステップS209において、画面並べ替えバッファ217は、ステップS208の処理が行われた復号画像のフレームの並べ替えを行う。すなわち、符号化の際に並べ替えられたフレームの順序が、元の表示の順序に並べ替えられる。フレームが並べ替えられた復号画像は、画像復号装置200の外部に出力される。
ステップS210において、フレームメモリ218は、ステップS208の処理が行われた復号画像を記憶する。
ステップS210の処理が終了すると、復号処理が終了する。
上述したステップS208において、ループフィルタ216は、ループフィルタ処理を、図13のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図13に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、ヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行する。これにより、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理とは独立して実行することができる。例えば、ルマに対してはデブロッキングフィルタ処理を実行し、クロマに対してはデブロッキングフィルタ処理を実行しないといったことを実現することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画像データの復号の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
以上においては、クロマに対するデブロッキングフィルタ処理を制御する制御情報を、シーケンスパラメータセット、ピクチャパラメータセット、およびスライスヘッダに含める場合について説明したが、この制御情報は、符号化データのヘッダ情報の任意の場所に格納することができる。例えば、ビデオパラメータセットやタイルヘッダ等、上述した例以外の階層のヘッダ情報にこの制御情報を含めるようにしてもよい。また、シーケンスパラメータセット、ピクチャパラメータセット、およびスライスヘッダの内のいずれかにおいて、この制御情報が含まれないようにしてもよい。例えば、シーケンスパラメータセットとピクチャパラメータセットとにのみ、ピクチャパラメータセットとスライスヘッダとにのみ、または、シーケンスパラメータセットとスライスヘッダとにのみ、この制御情報が含まれるようにしてもよい。また、シーケンスパラメータセット、ピクチャパラメータセット、若しくはスライスヘッダのいずれか1つにのみ、この制御情報が含まれるようにしてもよい。
<2.第2の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
上述したクロマに対するデブロッキングフィルタ処理を制御する制御情報を、既存のデブロッキングフィルタに関する制御パラメータの値に応じて生成するようにしてもよい。一般的に、ルマに対してデブロッキングフィルタ処理を行わずにクロマに対してデブロッキングフィルタ処理を行うことが望ましい事例は少ない。したがって、ルマに対するデブロッキングフィルタ処理を行わないスライスについては、クロマに対するデブロッキングフィルタ処理も行わないようにしてもよい。つまり、そのようなスライスについては、クロマに対するデブロッキングフィルタ処理の制御は不要である(省略することができる)。換言するに、ルマに対するデブロッキングフィルタ処理を行う可能性がある場合のみ、クロマに対するデブロッキングフィルタ処理の制御を行うようにしてもよい。
ルマに対するデブロッキングフィルタ処理を行うか否かは、既存のデブロッキングフィルタに関する制御パラメータに基づいて容易に識別することができる。したがって、そのような制御パラメータの値に応じて、ルマに対するデブロッキングフィルタ処理を行う可能性がある場合のみ、クロマに対するデブロッキングフィルタ処理を制御する制御情報を設定するようにすればよい。
このようにすることにより、ルマに対するデブロッキングフィルタ処理を行う可能性が無いスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる(つまり、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる)ので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図17に示されるように、例えばピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)の場合のみ、pps_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
図2を参照して説明したように、deblocking_filter_control_present_flagは、デブロッキングフィルタを制御するシンタクス要素が、当該ピクチャパラメータセットに存在するか否かを示すフラグである。つまり、このdeblocking_filter_control_present_flagは、ルマに対するデブロッキングフィルタ処理を行う可能性を示す、デブロッキングフィルタに関する制御パラメータである。
例えば、deblocking_filter_control_present_flagの値が真(「1」)の場合、当該ピクチャパラメータセットにデブロッキングフィルタを制御するシンタクス要素が存在する。つまり、この場合、当該ピクチャに属するスライスに対しては、ルマに対するデブロッキングフィルタ処理が行われる可能性があり、クロマに対するデブロッキングフィルタ処理が行われる可能性もある。そこでpps_chroma_deblocking_filter_disabled_flagが設定されるようにする。
また、例えば、deblocking_filter_control_present_flagの値が偽(「0」)の場合、当該ピクチャパラメータセットにデブロッキングフィルタを制御するシンタクス要素が存在しない。つまり、この場合、当該ピクチャに属するスライスに対しては、ルマに対するデブロッキングフィルタ処理が行われる可能性が無く、クロマに対するデブロッキングフィルタ処理の制御も不要である。そこでpps_chroma_deblocking_filter_disabled_flagの設定が省略されるようにする。
また、図18に示されるように、例えばスライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)の場合のみ、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
図3を参照して説明したように、deblocking_filter_override_flagは、デブロッキングフィルタを制御するシンタクス要素が、当該スライスヘッダに存在するか否かを示すフラグである。つまり、このdeblocking_filter_control_present_flagは、ルマに対するデブロッキングフィルタ処理を行う可能性を示す、デブロッキングフィルタに関する制御パラメータである。
例えば、deblocking_filter_override_flagの値が真(「1」)の場合、当該スライスヘッダにデブロッキングフィルタを制御するシンタクス要素が存在する。つまり、この場合、当該スライスに対しては、ルマに対するデブロッキングフィルタ処理が行われる可能性があり、クロマに対するデブロッキングフィルタ処理が行われる可能性もある。そこでslice_chroma_deblocking_filter_disabled_flagが設定されるようにする。
また、例えば、deblocking_filter_override_flagの値が偽(「0」)の場合、当該スライスヘッダにデブロッキングフィルタを制御するシンタクス要素が存在しない。つまり、この場合、当該スライスに対しては、ルマに対するデブロッキングフィルタ処理が行われる可能性が無く、クロマに対するデブロッキングフィルタ処理の制御も不要である。そこでslice_chroma_deblocking_filter_disabled_flagの設定が省略されるようにする。
このようにすることにより、ピクチャパラメータセットやスライスヘッダ等の各階層のヘッダ情報において、明らかに不要な、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ヘッダ情報生成部、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のヘッダ情報生成部131およびループフィルタ120の構成も第1の実施の形態と同様である(図9および図10)。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図19のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS231乃至ステップS233の各処理が、図12のステップS121乃至ステップS123の各処理と同様に実行される。
ステップS234において、ヘッダ制御部141は、ピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)であるか否かを判定する。deblocking_filter_control_present_flagの値が真(「1」)であると判定された場合、処理はステップS235に進む。
ステップS235の処理は、図12のステップS124の処理と同様に実行される。
ステップS235の処理が終了すると処理はステップS236に進む。また、ステップS234において、deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理はステップS236に進む。
ステップS236の処理は、図12のステップS125の処理と同様に実行される。
ステップS237において、ヘッダ制御部141は、スライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)であるか否かを判定する。deblocking_filter_override_flagの値が真(「1」)であると判定された場合、処理はステップS238に進む。
ステップS238の処理は、図12のステップS126の処理と同様に実行される。
ステップS238の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS237において、deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のように、既存のデブロッキングフィルタに関する制御パラメータの値に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を生成することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画質の低減を抑制しながら、符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図20のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS251の処理が、図13のステップS141の処理と同様に実行される。
ステップS252において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_control_present_flagの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が真(「1」)の場合、pps_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS253の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が偽(「0」)の場合、pps_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS253の処理において、pps_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
また、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_override_flagの値に基づいて、slice_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flagの値が真(「1」)の場合、slice_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS253の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flagの値が偽(「0」)の場合、slice_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS253の処理において、slice_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
ステップS253の処理は、図13のステップS142の処理と同様に実行される。ただし、ステップS252において、pps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagについて、値の確認が省略された場合、その値に基づかずに、復号画像のクロマに対するデブロッキングフィルタ処理を行う。
ステップS253の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにループフィルタ処理を行うことにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図20のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図20に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、既存のデブロッキングフィルタに関する制御パラメータの値に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を生成する。これにより、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、既存のデブロッキングフィルタに関する制御パラメータの値に応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は、既存のデブロッキングフィルタに関する制御パラメータが存在する任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよい。
<3.第3の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
なお、既存のデブロッキングフィルタに関する制御パラメータに対応して、クロマに対するデブロッキングフィルタに関する制御パラメータを生成するようにしてもよい。このようにすることにより、各階層のヘッダ情報におけるクロマに対するデブロッキングフィルタ処理を制御する制御情報の存在を、既存のデブロッキングフィルタ処理を制御する制御情報とは独立に示すことができる。換言するに、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を、ルマに対するデブロッキングフィルタ処理とは独立に制御することができる。そしてこのような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図21に示されるように、例えばピクチャパラメータセットにおいて、chroma_deblocking_filter_control_present_flagを拡張シンタクス要素として設定し、このchroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合のみ、pps_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。また、その際、拡張シンタクスとして、chroma_deblocking_filter_override_enabled_flagが設定されるようにしてもよい。
chroma_deblocking_filter_control_present_flagは、クロマに対するデブロッキングフィルタを制御するシンタクス要素が、当該ピクチャパラメータセットに存在するか否かを示すフラグである。つまり、このフラグは、deblocking_filter_control_present_flagに対応する。例えば、chroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合、当該ピクチャパラメータセットにそのようなシンタクス要素が存在する。つまり、この場合、pps_chroma_deblocking_filter_disabled_flagが設定される。また、例えば、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)の場合、当該ピクチャパラメータセットにそのようなシンタクス要素が存在しない。つまり、この場合、pps_chroma_deblocking_filter_disabled_flagの設定が省略される。
chroma_deblocking_filter_override_enabled_flagは、当該ピクチャに属するスライスのスライスヘッダの中に後述するchroma_deblocking_filter_override_flagが存在するか否かを示すフラグである。つまり、このフラグは、deblocking_filter_override_enabled_flagに対応する。例えば、chroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)の場合、当該ピクチャに属するスライスのスライスヘッダにchroma_deblocking_filter_override_flagが存在する。また、例えば、chroma_deblocking_filter_override_enabled_flagの値が偽(例えば、「0」)の場合、当該ピクチャに属するスライスのスライスヘッダにchroma_deblocking_filter_override_flagが存在しない。
また、図22に示されるように、例えばスライスヘッダにおいて、当該スライスヘッダが属するピクチャパラメータセットにおいて設定されたchroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)の場合のみ、chroma_deblocking_filter_override_flagが拡張シンタクス要素として設定されるようにしてもよい。そして、そのchroma_deblocking_filter_override_flagの値が真(例えば「1」)の場合のみ、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
chroma_deblocking_filter_override_flagは、クロマに対するデブロッキングフィルタを制御するシンタクス要素が、当該スライスヘッダに存在するか否かを示すフラグである。つまり、このフラグは、deblocking_filter_override_flagに対応する。例えば、chroma_deblocking_filter_override_flagの値が真(例えば「1」)の場合、当該スライスヘッダにそのようなシンタクス要素が存在する。つまり、この場合、slice_chroma_deblocking_filter_disabled_flagが設定される。また、例えば、chroma_deblocking_filter_override_flagの値が偽(例えば「0」)の場合、当該スライスヘッダにそのようなシンタクス要素が存在しない。つまり、この場合、slice_chroma_deblocking_filter_disabled_flagの設定が省略される。
このようにすることにより、各階層のヘッダ情報におけるクロマに対するデブロッキングフィルタ処理を制御する制御情報の存在を、既存のデブロッキングフィルタ処理を制御する制御情報とは独立して制御することができる。そしてこのような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のループフィルタ120の構成も第1の実施の形態と同様である(図10)。
<ヘッダ情報生成部>
この場合の、ヘッダ情報生成部131の主な構成例を図23に示す。図23に示されるように、ヘッダ情報生成部131は、基本的に、第1の実施の形態の場合(図9)と同様の構成を有するが、PPS拡張シンタクス生成部162は、さらに、chroma_deblocking_filter_control_present_flag生成部271と、chroma_deblocking_filter_override_enabled_flag生成部272を有する。また、SH拡張シンタクス生成部163は、さらに、chroma_deblocking_filter_override_flag生成部273を有する。
chroma_deblocking_filter_control_present_flag生成部271は、当該ピクチャパラメータセットにchroma_deblocking_filter_control_present_flagを拡張シンタクスとして生成する。図21を参照して説明したように、chroma_deblocking_filter_control_present_flagは、クロマに対するデブロッキングフィルタを制御するシンタクス要素が、当該ピクチャパラメータセットに存在するか否かを示すフラグである。
chroma_deblocking_filter_override_enabled_flag生成部272は、当該ピクチャパラメータセットにchroma_deblocking_filter_override_enabled_flagを拡張シンタクスとして生成する。図21を参照して説明したように、chroma_deblocking_filter_override_enabled_flagは、当該ピクチャに属するスライスのスライスヘッダの中に後述するchroma_deblocking_filter_override_flagが存在するか否かを示すフラグである。
chroma_deblocking_filter_override_flag生成部273は、当該スライスヘッダにchroma_deblocking_filter_override_flagを拡張シンタクスとして生成する。図22を参照して説明したように、chroma_deblocking_filter_override_flagは、クロマに対するデブロッキングフィルタを制御するシンタクス要素が、当該スライスヘッダに存在するか否かを示すフラグである。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図24のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS271乃至ステップS273の各処理が、図12のステップS121乃至ステップS123の各処理と同様に実行される。
ステップS274において、chroma_deblocking_filter_control_present_flag生成部271は、ピクチャパラメータセットのchroma_deblocking_filter_control_present_flagを拡張シンタクスとして生成する。
ステップS275において、ヘッダ制御部141は、ステップS274において設定されたピクチャパラメータセットのchroma_deblocking_filter_control_present_flagの値が真(例えば「1」)であるか否かを判定する。chroma_deblocking_filter_control_present_flagの値が真(例えば「1」)であると判定された場合、処理はステップS276に進む。
ステップS276において、chroma_deblocking_filter_override_enabled_flag生成部272は、ピクチャパラメータセットのchroma_deblocking_filter_override_enabled_flagを拡張シンタクスとして生成する。
ステップS277の処理は、図12のステップS124の処理と同様に実行される。
ステップS277の処理が終了すると処理はステップS278に進む。また、ステップS275において、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)であると判定された場合、処理はステップS278に進む。
ステップS278の処理は、図12のステップS125の処理と同様に実行される。
ステップS279において、ヘッダ制御部141は、スライスヘッダにおいて、chroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)であるか否かを判定する。chroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)であると判定された場合、処理はステップS280に進む。
ステップS280において、chroma_deblocking_filter_override_flag生成部273は、スライスヘッダのchroma_deblocking_filter_override_flagを拡張シンタクスとして生成する。
ステップS281において、ヘッダ制御部141は、スライスヘッダにおいて、ステップS280において生成されたchroma_deblocking_filter_override_flagの値が真(例えば「1」)であるか否かを判定する。deblocking_filter_override_flagの値が真(例えば「1」)であると判定された場合、処理はステップS282に進む。
ステップS282の処理は、図12のステップS126の処理と同様に実行される。
ステップS282の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS279において、chroma_deblocking_filter_override_enabled_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS281において、chroma_deblocking_filter_override_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のように、クロマに対するデブロッキングフィルタに関する制御パラメータを生成することにより、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を、ルマに対するデブロッキングフィルタ処理とは独立に制御することができる。そしてこのような制御パラメータを利用することにより、符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図25のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS301の処理が、図13のステップS141の処理と同様に実行される。
ステップS302において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるchroma_deblocking_filter_control_present_flagの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、chroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合、pps_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS303の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)の場合、pps_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS303の処理において、pps_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
また、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるchroma_deblocking_filter_override_enabled_flagや、chroma_deblocking_filter_override_flagの値に基づいて、slice_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、chroma_deblocking_filter_override_enabled_flagおよびchroma_deblocking_filter_override_flagの値が真(例えば「1」)の場合、slice_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS303の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、chroma_deblocking_filter_override_enabled_flag若しくはchroma_deblocking_filter_override_flagの値が偽(例えば「0」)の場合、slice_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS303の処理において、slice_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
ステップS303の処理は、図13のステップS142の処理と同様に実行される。ただし、ステップS302において、pps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagについて、値の確認が省略された場合、その値に基づかずに、復号画像のクロマに対するデブロッキングフィルタ処理を行う。
ステップS303の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにループフィルタ処理を行うことにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図25のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図25に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタに関する制御パラメータの値に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を参照して利用する。これにより、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、クロマに対するデブロッキングフィルタに関する制御パラメータの値に応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<4.第4の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
なお、既存のデブロッキングフィルタに関する制御パラメータと、クロマに対するデブロッキングフィルタに関する制御パラメータとの両方に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を制御するようにしてもよい。
このようにすることにより、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略するとともに、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図26に示されるように、例えばピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)の場合のみ、chroma_deblocking_filter_control_present_flagを拡張シンタクス要素として設定し、このchroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合のみ、pps_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。また、その際、拡張シンタクスとして、chroma_deblocking_filter_override_enabled_flagが設定されるようにしてもよい。
また、図27に示されるように、例えばスライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)であり、かつ、当該スライスヘッダが属するピクチャパラメータセットにおいて設定されたchroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)の場合のみ、chroma_deblocking_filter_override_flagを拡張シンタクス要素として設定し、このchroma_deblocking_filter_override_flagの値が真(例えば「1」)の場合のみ、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
このようにすることにより、各階層のヘッダ情報におけるクロマに対するデブロッキングフィルタ処理を制御する制御情報の存在を、既存のデブロッキングフィルタ処理を制御する制御情報とは独立して制御することができる。そしてこのような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる。さらに、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ヘッダ情報生成部、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のヘッダ情報生成部131の構成は、第3の実施の形態と同様である(図23)。また、この場合のループフィルタ120の構成は第1の実施の形態と同様である(図10)。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図28および図29のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS321乃至ステップS324の各処理が、図19のステップS231乃至ステップS234の各処理と同様に実行される。ステップS324において、deblocking_filter_control_present_flagの値が真(「1」)であると判定された場合、処理はステップS325に進む。
ステップS325乃至ステップS328の各処理は、図24のステップS274乃至ステップS277の各処理と同様に実行される。
ステップS328の処理が終了すると、処理は、図29のステップS331に進む。また、図28のステップS326において、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)であると判定された場合、処理は図29のステップS331に進む。さらに、図28のステップS324において、deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理は図29のステップS331に進む。
図29のステップS331およびステップS332の各処理は、図19のステップS236およびステップS237の各処理と同様に実行される。ステップS332において、deblocking_filter_override_flagの値が真(「1」)であると判定された場合、処理はステップS333に進む。
ステップS333乃至ステップS336の各処理は、図24のステップS279乃至ステップS282の各処理と同様に実行される。
ステップS336の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS335において、chroma_deblocking_filter_override_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS333において、chroma_deblocking_filter_override_enabled_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS332において、deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のように処理を行うことにより、画像符号化装置100(ヘッダ情報生成部131)は、画質の低減を抑制しながら、符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図30のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS351の処理が、図13のステップS141の処理と同様に実行される。
ステップS352において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_control_present_flagおよびchroma_deblocking_filter_control_present_flagの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が真(「1」)であり、かつ、chroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合、pps_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS353の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が偽(「0」)の場合、または、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)の場合、pps_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS353の処理において、pps_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
また、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_override_flag、chroma_deblocking_filter_override_enabled_flag、およびchroma_deblocking_filter_override_flagの値に基づいて、slice_chroma_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flag、chroma_deblocking_filter_override_enabled_flag、およびchroma_deblocking_filter_override_flagの値が真(例えば「1」)の場合、slice_chroma_deblocking_filter_disabled_flagの値を確認し、その値をステップS353の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flag、chroma_deblocking_filter_override_enabled_flag、若しくはchroma_deblocking_filter_override_flagの値が偽(例えば「0」)の場合、slice_chroma_deblocking_filter_disabled_flagの値の確認を省略し、ステップS353の処理において、slice_chroma_deblocking_filter_disabled_flagの値を利用させないようにする。
ステップS353の処理は、図13のステップS142の処理と同様に実行される。ただし、ステップS352において、pps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagについて、値の確認が省略された場合、その値に基づかずに、復号画像のクロマに対するデブロッキングフィルタ処理を行う。
ステップS353の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにループフィルタ処理を行うことにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスや、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図30のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図30に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、既存のデブロッキングフィルタに関する制御パラメータや、クロマに対するデブロッキングフィルタに関する制御パラメータの値に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を参照して利用する。これにより、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスや、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、既存のデブロッキングフィルタに関する制御パラメータやクロマに対するデブロッキングフィルタに関する制御パラメータの値に応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<5.第5の実施の形態>
<フィルタ強度の制御>
以上においては、クロマに対するデブロッキングフィルタ処理を制御する制御情報によって、フィルタ処理の実行制御について説明したが、これに限らず、クロマに対するデブロッキングフィルタ処理を制御する制御情報によって、フィルタ強度の制御を行うようにしてもよい。
このようにすることにより、クロマに対するデブロッキングフィルタ処理のフィルタ強度を、輝度成分(ルマ)に対するデブロッキングフィルタ処理のフィルタ強度から独立して制御することができる。例えば、ルマに対するフィルタ強度を変えずにクロマに対するフィルタ強度を抑制することもできる。したがって、例えばスクリーンコンテントの文字潰れを抑制する等、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切なデブロッキングフィルタ処理を行うことができるようになる。つまり、本技術を適用することにより、画質の低減を抑制することができる。
より具体的な例を説明する。図31に示されるように、例えばピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)であり、かつ、pps_deblocking_filter_disabled_flagの値が偽(「0」)である場合、pps_chroma_beta_offset_div2とpps_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
pps_chroma_beta_offset_div2は、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるクロマに対するデブロッキングフィルタのパラメータβの初期オフセットを示す。pps_chroma_tc_offset_div2は、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるクロマに対するデブロッキングフィルタのパラメータtCの初期オフセットを示す。つまり、これらは、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素である。
また、図32に示されるように、例えばスライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)であり、かつ、slice_deblocking_filter_disabled_flagの値が偽(「0」)である場合、slice_chroma_beta_offset_div2とslice_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
slice_chroma_beta_offset_div2は、その値を2倍した値が、当該スライスに対して行われるクロマに対するデブロッキングフィルタのパラメータβの初期オフセットを示す。slice_chroma_tc_offset_div2は、その値を2倍した値が、当該スライスに対して行われるクロマに対するデブロッキングフィルタのパラメータtCの初期オフセットを示す。つまり、これらは、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素である。
図33に示されるように、ピクチャパラメータセットにおいてpps_chroma_beta_offset_div2やpps_chroma_tc_offset_div2が設定される場合、それらの値がクロマに対するデブロッキングフィルタのフィルタ強度を制御する制御値として設定され、さらにスライスヘッダにおいてslice_chroma_beta_offset_div2やslice_chroma_tc_offset_div2が設定される場合、それらの値が制御値に上書きされる。クロマに対するデブロッキングフィルタ処理のフィルタ強度は、最終的に設定された制御値(つまり最下層の制御情報)に基づいて制御される。
なお、ルマに対するデブロッキングフィルタ処理は、HEVCのバージョン1の場合と同様、deblocking_filter_control_present_flag、deblocking_filter_override_enabled_flag、pps_deblocking_filter_disabeld_flag、pps_beta_offset_div2、pps_tc_offset_div2、deblocking_filter_override_flag、slice_deblocking_filter_disabeld_flag、slice_beta_offset_div2、slice_tc_offset_div2等のシンタクス要素により制御される。
このようにすることにより、各階層のヘッダ情報において、クロマに対するデブロッキングフィルタ処理のフィルタ強度を、ルマに対するデブロッキングフィルタのフィルタ強度とは独立して制御することができ、画質の低減を抑制することができる。
<画像符号化装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のループフィルタ120の構成も第1の実施の形態と同様である(図10)。
<ヘッダ情報生成部>
この場合の、ヘッダ情報生成部131の主な構成例を図34に示す。図34に示されるように、ヘッダ情報生成部131は、基本的に、第1の実施の形態の場合(図9)と同様の構成を有する。なお、図34においては、SPS生成部151を省略しているが、図9の場合と同様にSPS生成部151を設けるようにしてもよい。図34の場合、PPS拡張シンタクス生成部162は、pps_chroma_beta_offset_div2生成部281とpps_chroma_tc_offset_div2生成部282とを有する。また、SH拡張シンタクス生成部163は、slice_chroma_beta_offset_div2生成部283とslice_chroma_tc_offset_div2生成部284とを有する。
pps_chroma_beta_offset_div2生成部281は、当該ピクチャパラメータセットにpps_chroma_beta_offset_div2を拡張シンタクスとして生成する。図31を参照して説明したように、pps_chroma_beta_offset_div2は、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素であり、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるクロマに対するデブロッキングフィルタのパラメータβの初期オフセットを示す。
pps_chroma_tc_offset_div2生成部282は、当該ピクチャパラメータセットにpps_chroma_tc_offset_div2を拡張シンタクスとして生成する。図31を参照して説明したように、pps_chroma_tc_offset_div2は、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素であり、その値を2倍した値が、当該ピクチャに属するスライスの内、slice_deblocking_filter_disabled_flagが定義されていないスライスに対して行われるクロマに対するデブロッキングフィルタのパラメータtCの初期オフセットを示す。
slice_chroma_beta_offset_div2生成部283は、当該スライスヘッダにslice_chroma_beta_offset_div2を拡張シンタクスとして生成する。図32を参照して説明したように、slice_chroma_beta_offset_div2は、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素であり、その値を2倍した値が、当該スライスに対して行われるクロマに対するデブロッキングフィルタのパラメータβの初期オフセットを示す。
slice_chroma_tc_offset_div2生成部284は、当該スライスヘッダにslice_chroma_tc_offset_div2を拡張シンタクスとして生成する。図32を参照して説明したように、slice_chroma_tc_offset_div2は、フィルタ強度(強度をどの程度にするか)を制御するシンタクス要素であり、その値を2倍した値が、当該スライスに対して行われるクロマに対するデブロッキングフィルタのパラメータtCの初期オフセットを示す。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図35のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS371およびステップS372の各処理が、図19のステップS233およびステップS234の各処理と同様に実行される。ステップS372において、deblocking_filter_control_present_flagの値が真(「1」)であると判定された場合、処理はステップS373に進む。
ステップS373において、ヘッダ制御部141は、ピクチャパラメータセットにおいて、pps_deblocking_filter_disabled_flagの値が偽(「0」)であるか否かを判定する。pps_deblocking_filter_disabled_flagの値が偽(「0」)であると判定された場合、処理はステップS374に進む。
ステップS374において、pps_chroma_beta_offset_div2生成部281は、pps_chroma_beta_offset_div2を拡張シンタクスとして生成する。ステップS375において、pps_chroma_tc_offset_div2生成部282は、pps_chroma_tc_offset_div2を拡張シンタクスとして生成する。
ステップS375の処理が終了すると、処理はステップS376に進む。また、ステップS373において、pps_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、処理はステップS376に進む。さらに、ステップS372において、deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理はステップS376に進む。
ステップS376およびステップS377の各処理は、図19のステップS236およびステップS237の各処理と同様に実行される。ステップS377において、deblocking_filter_override_flagの値が真(「1」)であると判定された場合、処理はステップS378に進む。
ステップS378において、ヘッダ制御部141は、スライスヘッダにおいて、slice_deblocking_filter_disabled_flagの値が偽(「0」)であるか否かを判定する。slice_deblocking_filter_disabled_flagの値が偽(「0」)であると判定された場合、処理はステップS379に進む。
ステップS379において、slice_chroma_beta_offset_div2生成部283は、slice_chroma_beta_offset_div2を拡張シンタクスとして生成する。ステップS380において、slice_chroma_tc_offset_div2生成部284は、slice_chroma_tc_offset_div2を拡張シンタクスとして生成する。
ステップS380の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS378において、slice_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS377において、deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報として、画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理のフィルタ強度を制御する制御情報を生成することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理のフィルタ強度を、輝度成分(ルマ)に対するデブロッキングフィルタ処理のフィルタ強度から独立して制御することができる。例えば、ルマに対するフィルタ強度を変えずにクロマに対するフィルタ強度を抑制することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画像データの符号化や復号の際に行われるデブロッキングフィルタ処理において、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切に処理を実行させることができ、画質の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図36のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS401において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_control_present_flagの値に基づいて、pps_ deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が真(「1」)の場合、pps_deblocking_filter_disabled_flagの値を確認し、その値をステップS402の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_control_present_flagの値が偽(「0」)の場合、pps_ deblocking_filter_disabled_flagの値の確認を省略し、ステップS402の処理において、pps_deblocking_filter_disabled_flagの値を利用させないようにする。
また、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_override_flagの値に基づいて、slice_deblocking_filter_disabled_flagの値を確認する。例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flagの値が真(「1」)の場合、slice_deblocking_filter_disabled_flagの値を確認し、その値をステップS402の処理において利用させるようにする。また、例えば、デブロッキングフィルタ制御部181は、deblocking_filter_override_flagの値が偽(「0」)の場合、slice_deblocking_filter_disabled_flagの値の確認を省略し、ステップS402の処理において、slice_deblocking_filter_disabled_flagの値を利用させないようにする。
ステップS402において、デブロッキングフィルタ制御部181は、pps_deblocking_filter_disabled_flagや、slice_deblocking_filter_disabled_flagの値に基づいて、デブロッキングフィルタ処理を行うか否かを判定する。ただし、デブロッキングフィルタ制御部181は、ステップS401において確認されたシンタクス要素の値のみに基づいて判定する。デブロッキングフィルタ処理を行うと判定された場合、処理はステップS403に進む。
ステップS403において、デブロッキングフィルタ制御部181は、pps_beta_offset_div2およびslice_beta_offset_div2を用いて、ルマに対するデブロッキングフィルタのパラメータβを導出する。
ステップS404において、デブロッキングフィルタ制御部181は、pps_tc_offset_div2およびslice_tc_offset_div2を用いて、ルマに対するデブロッキングフィルタのパラメータtCを導出する。
ステップS405において、ルマデブロッキングフィルタ処理部191は、ステップS403において導出されたルマ用のパラメータβと、ステップS404において導出されたルマ用のパラメータtCを用いて、ルマに対するデブロッキングフィルタ処理を行う。
ステップS406において、デブロッキングフィルタ制御部181は、pps_chroma_beta_offset_div2およびslice_chroma_beta_offset_div2を用いて、クロマに対するデブロッキングフィルタのパラメータβを導出する。
ステップS407において、デブロッキングフィルタ制御部181は、pps_chroma_tc_offset_div2およびslice_chroma_tc_offset_div2を用いて、クロマに対するデブロッキングフィルタのパラメータtCを導出する。
ステップS408において、クロマデブロッキングフィルタ処理部192は、ステップS406において導出されたクロマ用のパラメータβと、ステップS407において導出されたクロマ用のパラメータtCを用いて、クロマに対するデブロッキングフィルタ処理を行う。
ステップS408の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。また、ステップS402において、デブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行することにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理のフィルタ強度を、輝度成分(ルマ)に対するデブロッキングフィルタ処理のフィルタ強度とは独立して制御することができる。例えば、ルマに対するフィルタ強度を変えずにクロマに対するフィルタ強度を抑制することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画像データの符号化の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図36のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図36に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、ヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行することにより、クロマに対するデブロッキングフィルタ処理のフィルタ強度を、輝度成分(ルマ)に対するデブロッキングフィルタ処理のフィルタ強度とは独立して制御することができる。例えば、ルマに対するフィルタ強度を変えずにクロマに対するフィルタ強度を抑制することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画像データの復号の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
なお、以上に説明したような、クロマに対するデブロッキングフィルタ処理のフィルタ強度を制御する制御情報の生成は、任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<6.第6の実施の形態>
<フィルタ処理の実行制御とフィルタ強度の制御>
なお、クロマに対するデブロッキングフィルタ処理の実行を制御する制御情報と、クロマに対するデブロッキングフィルタ処理のフィルタ強度を制御する制御情報の両方を生成するようにしてもよい。このようにすることにより、クロマに対するデブロッキングフィルタ処理の実行制御とフィルタ強度の制御の両方を、輝度成分(ルマ)に対するデブロッキングフィルタ処理の制御から独立して行うことができる。したがって、例えばスクリーンコンテントの文字潰れを抑制する等、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切なデブロッキングフィルタ処理を行うことができるようになる。つまり、本技術を適用することにより、画質の低減を抑制することができる。
より具体的な例を説明する。図37に示されるように、例えばピクチャパラメータセットにおいて、pps_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定され、そのpps_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合、pps_chroma_beta_offset_div2とpps_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
また、図38に示されるように、例えばスライスヘッダにおいて、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定され、そのslice_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合、slice_chroma_beta_offset_div2とslice_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
このようにすることにより、各階層のヘッダ情報において、クロマに対するデブロッキングフィルタ処理の実行とフィルタ強度を、ルマに対するデブロッキングフィルタ処理とは独立して制御することができ、画質の低減を抑制することができる。
<画像符号化装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のループフィルタ120の構成も第1の実施の形態と同様である(図10)。
<ヘッダ情報生成部>
この場合の、ヘッダ情報生成部131の主な構成例を図39に示す。図39に示されるように、ヘッダ情報生成部131は、基本的に、第5の実施の形態の場合(図34)と同様の構成を有する。なお、図39においては、SPS生成部151も示している。図39の場合、PPS拡張シンタクス生成部162は、さらに、pps_chroma_deblocking_filter_disabled_flag生成部172を有する。また、SH拡張シンタクス生成部163は、さらに、slice_chroma_deblocking_filter_disabled_flag生成部173を有する。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図40のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS421乃至ステップS424の各処理が、図12のステップS121乃至ステップS124の各処理と同様に実行される。
ステップS425において、ヘッダ制御部141は、ピクチャパラメータセットにおいて、pps_chroma_deblocking_filter_disabled_flagの値が偽(「0」)であるか否かを判定する。pps_chroma_deblocking_filter_disabled_flagの値が偽(「0」)であると判定された場合、処理はステップS426に進む。
ステップS426およびステップS427の各処理は、図35のステップS374およびステップS375の各処理と同様に実行される。
ステップS427の処理が終了すると、処理はステップS428に進む。また、ステップS425において、pps_chroma_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、処理はステップS428に進む。
ステップS428およびステップS429の各処理は、図12のステップS125およびステップS126の各処理と同様に実行される。
ステップS430において、ヘッダ制御部141は、スライスヘッダにおいて、slice_chroma_deblocking_filter_disabled_flagの値が偽(「0」)であるか否かを判定する。slice_chroma_deblocking_filter_disabled_flagの値が偽(「0」)であると判定された場合、処理はステップS431に進む。
ステップS431およびステップS432の各処理は、図35のステップS379およびステップS380の各処理と同様に実行される。
ステップS432の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS430において、slice_chroma_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報として、画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理の実行を制御する制御情報と、フィルタ強度を制御する制御情報とを生成することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理から独立して制御することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画像データの符号化や復号の際に行われるデブロッキングフィルタ処理において、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切に処理を実行させることができ、画質の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図41のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS451乃至ステップS455の各処理は、図36のステップS401乃至ステップS405の各処理と同様に実行される。
ステップS456において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるpps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とを確認する。
ステップS457において、デブロッキングフィルタ制御部181は、pps_chroma_deblocking_filter_disabled_flagや、slice_chroma_deblocking_filter_disabled_flagの値に基づいて、クロマに対してデブロッキングフィルタ処理を行うか否かを判定する。クロマに対してデブロッキングフィルタ処理を行うと判定された場合、処理はステップS458に進む。
ステップS458乃至ステップS460の各処理は、図36のステップS406乃至ステップS408の各処理と同様に実行される。
ステップS460の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。また、ステップS457において、クロマに対するデブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。さらに、ステップS452において、デブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行することにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理の実行制御とフィルタ強度の制御とを、輝度成分(ルマ)に対するデブロッキングフィルタ処理の制御とは独立して行うことができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画像データの符号化の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図41のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図41に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、ヘッダ情報に含まれる画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理を制御する制御情報に基づいてデブロッキングフィルタ処理を実行することにより、クロマに対するデブロッキングフィルタ処理の実行制御とフィルタ強度の制御の両方を、輝度成分(ルマ)に対するデブロッキングフィルタ処理の制御とは独立して行うことができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画像データの復号の際に、自然画像に対してだけでなく、スクリーンコンテントの画像に対してもより適切にデブロッキングフィルタ処理を行うことができ、画質の低減を抑制することができる。
なお、以上に説明したような、クロマに対するデブロッキングフィルタ処理の実行やフィルタ強度を制御する制御情報の生成は、任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<7.第7の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
なお、さらに、既存のデブロッキングフィルタに関する制御パラメータに対応して、クロマに対するデブロッキングフィルタに関する制御パラメータを生成するようにしてもよい。このようにすることにより、各階層のヘッダ情報におけるクロマに対するデブロッキングフィルタ処理を制御する制御情報の存在を、既存のデブロッキングフィルタ処理を制御する制御情報とは独立に示すことができる。換言するに、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を、ルマに対するデブロッキングフィルタ処理とは独立に制御することができる。そしてこのような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図42に示されるように、例えばピクチャパラメータセットにおいて、chroma_deblocking_filter_control_present_flagを拡張シンタクス要素として設定し、このchroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合のみ、chroma_deblocking_filter_override_enabled_flagとpps_chroma_deblocking_filter_disabled_flagとが拡張シンタクス要素として設定されるようにしてもよい。
そして、そのpps_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合、pps_chroma_beta_offset_div2とpps_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
また、図43に示されるように、例えばスライスヘッダにおいて、当該スライスヘッダが属するピクチャパラメータセットにおいて設定されたchroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)である場合、chroma_deblocking_filter_override_flagが拡張シンタクス要素として設定され、そのchroma_deblocking_filter_override_flagの値が真(例えば「1」)である場合、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
そして、そのslice_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合、slice_chroma_beta_offset_div2とslice_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
このようにすることにより、各階層のヘッダ情報において、クロマに対するデブロッキングフィルタ処理の実行とフィルタ強度を、ルマに対するデブロッキングフィルタ処理とは独立して制御することができ、画質の低減を抑制することができる。そしてこのような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のループフィルタ120の構成も第1の実施の形態と同様である(図10)。
<ヘッダ情報生成部>
この場合の、ヘッダ情報生成部131の主な構成例を図44に示す。図44に示されるように、ヘッダ情報生成部131は、基本的に、第6の実施の形態の場合(図39)と同様の構成を有する。ただし、図44の場合、PPS拡張シンタクス生成部162は、さらに、chroma_deblocking_filter_control_present_flag生成部271と、chroma_deblocking_filter_override_enabled_flag生成部272を有する。また、SH拡張シンタクス生成部163は、さらに、chroma_deblocking_filter_override_flag生成部273を有する。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図45および図46のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS481乃至ステップS487の各処理が、図24のステップS271乃至ステップS277の各処理と同様に実行される。ステップS487の処理が終了すると、処理はステップS488に進む。
ステップS488乃至ステップS490の各処理は、図40のステップS425乃至ステップS427の各処理と同様に実行される。
ステップS490の処理が終了すると、処理は図46のステップS501に進む。また、図45のステップS488において、pps_chroma_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、処理は図46のステップS501に進む。さらに、図45のステップS485において、chroma_deblocking_filter_control_present_flagの値が偽(例えば「0」)であると判定された場合、処理は図46のステップS501に進む。
図46のステップS501乃至ステップS505の各処理は、図24のステップS278乃至ステップS282の各処理と同様に実行される。ステップS505の処理が終了すると、処理は、ステップS506に進む。
ステップS506乃至ステップS508の各処理は、図40のステップS430乃至ステップS432の各処理と同様に実行される。
ステップS508の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS506において、slice_chroma_deblocking_filter_disabled_flagの値が真(「1」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS504において、chroma_deblocking_filter_override_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS502において、chroma_deblocking_filter_override_enabled_flagの値が偽(例えば「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報として、画像データの色差成分(クロマ)に対するデブロッキングフィルタ処理の実行を制御する制御情報と、フィルタ強度を制御する制御情報とを生成することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理を、輝度成分(ルマ)に対するデブロッキングフィルタ処理から独立して制御することができる。また、このような制御パラメータを利用することにより、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画質の低減を抑制しながら、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図47のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS521乃至ステップS525の各処理は、図41のステップS451乃至ステップS455の各処理と同様に実行される。
ステップS526において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるchroma_deblocking_filter_control_present_flag、chroma_deblocking_filter_override_enabled_flag、chroma_deblocking_filter_override_flagの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とを確認する。
ステップS527乃至ステップS530の各処理は、図41のステップS457乃至ステップS460の各処理と同様に実行される。
ステップS530の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。また、ステップS527において、クロマに対するデブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。さらに、ステップS522において、デブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。
以上のように画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、第1の実施の形態の場合と同様に、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図47のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図47に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタに関する制御パラメータの値に応じて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を参照して利用するので、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、クロマに対するデブロッキングフィルタに関する制御パラメータの値に応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<8.第8の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
なお、第6の実施の形態の場合において、さらに、第5の実施の形態の場合と同様に、既存のデブロッキングフィルタに関する制御パラメータも用いて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を制御するようにしてもよい。このようにすることにより、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図48に示されるように、例えばピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)である場合にのみ、pps_chroma_deblocking_filter_disabled_flagとが拡張シンタクス要素として設定されるようにしてもよい。そして、そのpps_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合にのみ、pps_chroma_beta_offset_div2とpps_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
また、図49に示されるように、例えばスライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)である場合にのみ、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。そして、そのslice_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合にのみ、slice_chroma_beta_offset_div2とslice_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
このようにすることにより、各階層のヘッダ情報において、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ヘッダ情報生成部、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のヘッダ情報生成部131の構成は、第6の実施の形態と同様である(図39)。また、この場合のループフィルタ120の構成は、第1の実施の形態と同様である(図10)。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図50のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS551およびステップS552の各処理が、図40のステップS421およびステップS422の各処理と同様に実行される。ステップS552の処理が終了すると、処理はステップS553に進む。
ステップS553およびステップS554の各処理は、図35のステップS371およびステップS372の各処理と同様に実行される。ステップS554において、deblocking_filter_control_present_flagの値が真(「1」)であると判定された場合、処理はステップS555に進む。
ステップS555乃至ステップS558の各処理は、図40のステップS424乃至ステップS427の各処理と同様に実行される。
ステップS558の処理が終了すると、処理はステップS559に進む。また、ステップS556において、pps_chroma_deblocking_filter_disabled_flagが真(例えば「1」)である場合、処理はステップS559に進む。さらに、ステップS554において、deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理はステップS559に進む。
ステップS559およびステップS560の各処理は、図35のステップS376およびステップS377の各処理と同様に実行される。ステップS560において、deblocking_filter_override_flagの値が真(「1」)であると判定された場合、処理はステップS561に進む。
ステップS561乃至ステップS564の各処理は、図40のステップS429乃至ステップS432の各処理と同様に実行される。
ステップS564の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS562において、slice_chroma_deblocking_filter_disabled_flagが真(例えば「1」)である場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS560において、deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報生成処理を実行することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画質の低減を抑制しながら、符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図51のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS581乃至ステップS585の各処理は、図41のステップS451乃至ステップS455の各処理と同様に実行される。
ステップS586において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_control_present_flagと、deblocking_filter_override_flagとの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とを確認する。
ステップS587乃至ステップS590の各処理は、図41のステップS457乃至ステップS460の各処理と同様に実行される。
ステップS590の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。また、ステップS587において、クロマに対するデブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。さらに、ステップS582において、デブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにループフィルタ処理を実行することにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図51のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図51に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、既存のデブロッキングフィルタに関する制御パラメータの値とクロマに対するデブロッキングフィルタに関する制御パラメータの値とに応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
<9.第9の実施の形態>
<デブロッキングフィルタの制御パラメータの利用>
なお、第7の実施の形態の場合において、さらに、第5の実施の形態の場合と同様に、既存のデブロッキングフィルタに関する制御パラメータも用いて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成を制御するようにしてもよい。このようにすることにより、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
より具体的な例について説明する。図52に示されるように、例えばピクチャパラメータセットにおいて、deblocking_filter_control_present_flagの値が真(「1」)である場合にのみ、chroma_deblocking_filter_control_present_flagを拡張シンタクス要素として設定し、このchroma_deblocking_filter_control_present_flagの値が真(例えば「1」)の場合のみ、chroma_deblocking_filter_override_enabled_flagとpps_chroma_deblocking_filter_disabled_flagとが拡張シンタクス要素として設定されるようにしてもよい。
そして、そのpps_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合にのみ、pps_chroma_beta_offset_div2とpps_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
また、図53に示されるように、例えばスライスヘッダにおいて、deblocking_filter_override_flagの値が真(「1」)であり、かつ、当該スライスヘッダが属するピクチャパラメータセットにおいて設定されたchroma_deblocking_filter_override_enabled_flagの値が真(例えば「1」)である場合にのみ、chroma_deblocking_filter_override_flagが拡張シンタクス要素として設定され、そのchroma_deblocking_filter_override_flagの値が真(例えば「1」)である場合にのみ、slice_chroma_deblocking_filter_disabled_flagが拡張シンタクス要素として設定されるようにしてもよい。
そして、そのslice_chroma_deblocking_filter_disabled_flagの値が偽(例えば、「0」)である場合にのみ、slice_chroma_beta_offset_div2とslice_chroma_tc_offset_div2とが拡張シンタクス要素として設定されるようにしてもよい。
このようにすることにより、各階層のヘッダ情報において、明らかに不要なクロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるとともに、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについても、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるので、その分符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<画像符号化装置、ヘッダ情報生成部、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像符号化装置の構成は、第1の実施の形態と同様である(図8)。また、この場合のヘッダ情報生成部131の構成は、第7の実施の形態と同様である(図44)。また、この場合のループフィルタ120の構成は、第1の実施の形態と同様である(図10)。
<符号化処理の流れ>
また、この場合、画像符号化装置100により実行される符号化処理の流れは、第1の実施の形態と同様である(図11)。
<ヘッダ情報生成処理の流れ>
次に、この場合の、符号化処理のステップS101において実行されるヘッダ情報生成処理の流れの例を、図54および図55のフローチャートを参照して説明する。
ヘッダ情報生成処理が開始されると、ステップS601およびステップS602の各処理が、図45のステップS481およびステップS482の各処理と同様に実行される。ステップS602の処理が終了すると、処理はステップS603に進む。
ステップS603およびステップS604の各処理は、図35のステップS371およびステップS372の各処理と同様に実行される。ステップS604において、deblocking_filter_control_present_flagの値が真(「1」)であると判定された場合、処理はステップS605に進む。
ステップS605乃至ステップS611の各処理は、図45のステップS484乃至ステップS490の各処理と同様に実行される。
ステップS611の処理が終了すると、処理は図55のステップS621に進む。また、図54のステップS609において、pps_chroma_deblocking_filter_disabled_flagが真(例えば「1」)である場合、処理は図55のステップS621に進む。さらに、図54のステップS606において、chroma_deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理は図55のステップS621に進む。さらに、図54のステップS604において、deblocking_filter_control_present_flagの値が偽(「0」)であると判定された場合、処理は図55のステップS621に進む。
図55のステップS621およびステップS622の各処理は、図35のステップS376およびステップS377の各処理と同様に実行される。図55のステップS622において、deblocking_filter_override_flagの値が真(「1」)であると判定された場合、処理はステップS623に進む。
ステップS623乃至ステップS629の各処理は、図46のステップS502乃至ステップS508の各処理と同様に実行される。
ステップS629の処理が終了すると、ヘッダ情報生成処理が終了し、処理は図11に戻る。また、ステップS627において、slice_chroma_deblocking_filter_disabled_flagが真(例えば「1」)である場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS625において、chroma_deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS623において、chroma_deblocking_filter_override_enabled_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。さらに、ステップS622において、deblocking_filter_override_flagの値が偽(「0」)であると判定された場合、ヘッダ情報生成処理が終了し、処理は図11に戻る。
以上のようにヘッダ情報生成処理を実行することにより、画像符号化装置100(ヘッダ情報生成部131)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができるとともに、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについても、クロマに対するデブロッキングフィルタ処理を制御する制御情報を省略することができる。したがって、画像符号化装置100(ヘッダ情報生成部131)は、本技術を適用することにより、画質の低減を抑制しながら、符号量の増大を抑制し、符号化効率の低減を抑制することができる。
<ループフィルタ処理の流れ>
次に、この場合の、符号化処理のステップS112において実行されるループフィルタ処理の流れの例を、図56のフローチャートを参照して説明する。
ループフィルタ処理が開始されると、ステップS641乃至ステップS645の各処理は、図47のステップS521乃至ステップS525の各処理と同様に実行される。
ステップS646において、デブロッキングフィルタ制御部181は、ヘッダ情報に含まれるdeblocking_filter_control_present_flag、deblocking_filter_override_flag、chroma_deblocking_filter_control_present_flag、chroma_deblocking_filter_override_enabled_flag、並びにchroma_deblocking_filter_override_flagの値に基づいて、pps_chroma_deblocking_filter_disabled_flagの値と、slice_chroma_deblocking_filter_disabled_flagの値とを確認する。
ステップS647乃至ステップS650の各処理は、図47のステップS527乃至ステップS530の各処理と同様に実行される。
ステップS650の処理が終了すると、ループフィルタ処理が終了し、処理は図11に戻る。また、ステップS647において、クロマに対するデブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。さらに、ステップS642において、デブロッキングフィルタ処理を行わないと判定された場合、ループフィルタ処理が終了し、処理は図11に戻る。
以上のようにループフィルタ処理を実行することにより、画像符号化装置100(ループフィルタ120)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができるとともに、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについても、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像符号化装置100(ループフィルタ120)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
<画像復号装置、ループフィルタ>
この場合、本技術を適用した画像処理装置の一態様である画像復号装置の構成は、第1の実施の形態と同様である(図14)。また、この場合のループフィルタ216の構成も第1の実施の形態と同様である(図15)。
<復号処理の流れ>
また、この場合、画像復号装置200により実行される復号処理の流れは、第1の実施の形態と同様である(図16)。
つまり、復号処理のステップS208において、ループフィルタ216は、ループフィルタ処理を、図56のフローチャートを参照して説明した、画像符号化装置100のループフィルタ120によるループフィルタ処理の場合と同様に行う。つまり、図56に示されるループフィルタ処理の流れの例の説明は、ループフィルタ216によるループフィルタ処理(すなわち、この場合の復号処理のステップS208の処理)の説明にも適用することができる。
つまり、画像復号装置200(ループフィルタ216)は、クロマに対するデブロッキングフィルタ処理が明らかに不要なスライスについて、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができるとともに、クロマに対するデブロッキングフィルタ処理をルマに対するデブロッキングフィルタ処理とは独立に制御する必要がないスライスについても、クロマに対するデブロッキングフィルタ処理を制御する制御情報の参照を省略することができる。したがって、画像復号装置200(ループフィルタ216)は、本技術を適用することにより、画質の低減を抑制しながら、処理の負荷の増大を抑制することができる。
なお、以上に説明したような、既存のデブロッキングフィルタに関する制御パラメータの値とクロマに対するデブロッキングフィルタに関する制御パラメータの値とに応じた、クロマに対するデブロッキングフィルタ処理を制御する制御情報の生成は任意の階層のヘッダ情報において行うことができ、例えば、ピクチャパラメータセット若しくはスライスヘッダのいずれか一方でのみ行うようにしてもよいし、これら以外のヘッダ情報において行うようにしてもよい。
なお、第5の実施の形態乃至第9の実施の形態において、例えば、pps_beta_offset_div2、pps_tc_offset_div2、slice_beta_offset_div2、slice_tc_offset_div2等のパラメータβやパラメータtCに関するシンタクス要素が設定されるように説明したが、このパラメータβやパラメータtCに関するシンタクス要素は、パラメータβやパラメータtCを導出することができるものであれば、上述した例に限らず、どのような値であってもよい。
例えば、ルマに対するデブロッキングフィルタのパラメータβ(若しくはパラメータtC)とクロマに対するデブロッキングフィルタのパラメータβ(若しくはパラメータtC)との差分値に相当する値(その差分値から算出される他の値も含む)を、クロマに対するパラメータβやパラメータtCに関するシンタクス要素としてもよい。
<10.第10の実施の形態>
<領域毎の制御情報の生成の制御>
図57に、コンピュータ画面の例を示す。マルチタスクが可能なコンピュータにおいては、並列に複数の処理を実行することができるので、その表示画面であるコンピュータ画面においては、図57の例のように、1つの画面内に自然画像とスクリーンコンテントとが混在する場合がある。図57の例の場合、コンピュータ画面の部分領域301に表示されているウィンドウには、自然画像からなる動画像(所謂ビデオ画像)が表示されている。また、部分領域302には、コンピュータ画面の背景画像(所謂デスクトップの背景)が表示され、部分領域303に表示されるウィンドウには、例えばコンピュータにより生成されたスクリーンコンテントが表示されている。
このような場合、コンピュータ画面の画像としての特徴は、その部分領域毎に異なる。そこで、デブロッキングフィルタ処理の制御の方法を、この領域毎に設定するようにしてもよい。例えば、デブロッキングフィルタ処理を実行するか否か、実行する場合そのフィルタ強度をどの程度にするか、クロマに対するデブロッキングフィルタ処理の制御をルマに対するデブロッキングフィルタ処理の制御対して独立に行うか否か、クロマに対するデブロッキングフィルタ処理の制御をルマに対するデブロッキングフィルタ処理の制御対して独立に行う場合、クロマに対するデブロッキングフィルタ処理を実行するか否か、実行する場合そのフィルタ強度をどの程度にするか等を、この領域毎に設定するようにしてもよい。
その場合、ヘッダ情報生成部131のヘッダ制御部141が、例えば、画面並べ替えバッファ111から供給される画像や、ユーザ等の外部から入力される指示に基づいて、そのような設定を、ヘッダ情報生成処理の前に行うようにすればよい。
<デブロッキングフィルタ制御処理の流れ>
図58のフローチャートを参照して、ヘッダ制御部141がそのような設定を行うために実行するデブロッキングフィルタ制御処理の流れの例を説明する。
デブロッキングフィルタ制御処理が開始されると、ヘッダ制御部141は、ステップS671において、処理対象のピクチャを複数の部分領域に領域分割する。この分割の方法は任意である。例えば、処理対象の画像の内容に応じて領域分割を行うようにしてもよい。また、例えば、このような領域分割を、予め定められた領域であるタイルを単位として行うようにしてもよい。つまり、各タイルがどの領域に属するかを選択するようにしてもよい。
ステップS672において、ヘッダ制御部141は、分割した各部分領域の画像の特性を解析する。この特性の解析方法は任意である。例えば、ヘッダ制御部141は、この解析により、各部分領域の画像が自然画像であるか否か、スクリーンコンテンツであるか否か等を特定するようにしてもよい。また、より細かく解析するようにし、例えば、どのような自然画像であるか、どのようなスクリーンコンテントであるか等を特定するようにしてもよい。もちろん、自然画像やスクリーンコンテントといった概念を用いずに解析を行うようにしてもよい。また、ヘッダ制御部141は、処理対象の画像を実際に所定の方法で解析するようにしてもよいし、外部等から画像の特性に関する情報を得るようにしてもよい。
ステップS673において、ヘッダ制御部141は、ステップS672の解析結果に基づいて、各部分領域にその画像の特性に応じたデブロッキングフィルタのパラメータを設定する。
ステップS674において、ヘッダ制御部141は、ヘッダ情報生成処理を制御し、ステップS673において決定した設定を反映するようにフラグ情報を生成させる。つまり、上述した各実施の形態のようにヘッダ情報生成処理が実行されると、この設定に基づいて各パラメータが設定される。
ステップS674の処理が終了すると、デブロッキングフィルタ制御処理が終了する。
<パラメータ設定処理の流れ>
図58のステップS673の処理の方法(パラメータの設定の方法)は任意である。例えば、処理対象の部分領域の画像が自然画像であるか否かに応じて、クロマに対するデブロッキングフィルタ処理の制御を、ルマに対するデブロッキングフィルタ処理の制御から独立して行うようにするか否かを設定するようにしてもよい。
図58のステップS673において実行されるパラメータ設定処理の一例として、このような場合の処理の流れの例を、図59のフローチャートを参照して説明する。
パラメータ設定処理が開始されると、ヘッダ制御部141は、ステップS691において、処理対象の部分領域の画像が自然画像であるか否かを判定する。自然画像であると判定された場合、処理はステップS692に進む。
ステップS692において、ヘッダ制御部141は、ルマとクロマのデブロッキングフィルタ処理をまとめて制御するようにする。つまり、HEVCのバージョン1においても用いられているような、既存の、デブロッキングフィルタ処理を制御する制御情報を用いてルマとクロマのデブロッキングフィルタ処理の制御を行うようにする。ステップS692の処理が終了すると、パラメータ設定処理が終了し、処理は図58に戻る。
また、ステップS691において、処理対象の部分領域の画像が自然画像でないと判定された場合、処理はステップS693に進む。
ステップS693において、ヘッダ制御部141は、ルマとクロマのデブロッキングフィルタ処理を互いに独立に制御するようにする。つまり、以上の各実施の形態において説明したような、クロマに対するデブロッキングフィルタ処理を制御する制御情報を用いてクロマのデブロッキングフィルタ処理の制御を行うようにする。ステップS693の処理が終了すると、パラメータ設定処理が終了し、処理は図58に戻る。
このように各処理を行うことにより、ヘッダ制御部141は、デブロッキングフィルタ処理の制御を領域毎に行うことができる。したがって、例えば、図57の例のように、自然画像とスクリーンコンテントが混在する場合であっても、各部分領域に対して、より適切なパラメータでデブロッキングフィルタ処理を行うことができるので、画像符号化装置100(ループフィルタ120)や画像復号装置200(ループフィルタ216)は、画質の低減を抑制することができる。
<11.第11の実施の形態>
<領域毎の制御情報の生成の制御>
なお、デブロッキングフィルタ処理の制御の方法を、画像の色フォーマットに基づいて設定するようにしてもよい。一般に、RGBフォーマットの画像データを符号化する場合、第1コンポーネントとして、YUV形式におけるYに似た信号特性を持つGが選択されるが、残りのRとB成分は、YUV形式におけるUとVと異なる特性を持つ。そのため、YUV用に設計されたデブロッキングフィルタをそのまま適用すると、画質が低減するおそれがある。また、それにより符号化効率が低減するおそれもある。
また、SCC Codecを使って、RGB形式で符号化するのは、コンピュータ画面をそのままエンコーダの入力としている可能性も高い。つまり、処理対象の画像がスクリーンコンテントである可能性が高い。
そこで、図60に示される例のように、色フォーマットがRGBの画像データを、その色フォーマットのまま符号化し、ビットストリーム(RGBビットストリーム)を生成する場合、クロマに対するデブロッキングフィルタ処理を制御する制御情報を生成し、そのビットストリーム(符号化データ)のヘッダ情報とするようにしてもよい。そして、色フォーマットをYUVとして符号化し、ビットストリーム(YUVビットストリーム)を生成する場合、クロマとルマをまとめて制御するように、デブロッキングフィルタ処理を制御する制御情報を生成し、そのビットストリーム(符号化データ)のヘッダ情報とするようにしてもよい。
<デブロッキングフィルタ制御処理の流れ>
図61のフローチャートを参照して、この場合の、ヘッダ制御部141によるデブロッキングフィルタ制御処理の流れの例を説明する。
デブロッキングフィルタ制御処理が開始されると、ヘッダ制御部141は、ステップS701において、処理対象の画像の色フォーマットを特定する。この特定方法は任意である。例えば、処理対象の画像を解析して特定するようにしてもよいし、外部から処理対象の画像の色フォーマットに関する情報を取得するようにしてもよい。
ステップS702において、ヘッダ制御部141は、ステップS701において特定した色フォーマットに応じたデブロッキングフィルタのパラメータを設定する。
ステップS703において、ヘッダ制御部141は、ヘッダ情報生成処理を制御し、ステップS702において決定した設定を反映するようにフラグ情報を生成させる。つまり、上述した各実施の形態のようにヘッダ情報生成処理が実行されると、この設定に基づいて各パラメータが設定される。
ステップS703の処理が終了すると、デブロッキングフィルタ制御処理が終了する。
<パラメータ設定処理の流れ>
図61のステップS702の処理の方法(パラメータの設定の方法)は任意である。例えば、処理対象の画像の色フォーマットがYUVであるか否かに応じて、クロマに対するデブロッキングフィルタ処理の制御を、ルマに対するデブロッキングフィルタ処理の制御から独立して行うようにするか否かを設定するようにしてもよい。
図61のステップS702において実行されるパラメータ設定処理の一例として、このような場合の処理の流れの例を、図62のフローチャートを参照して説明する。
パラメータ設定処理が開始されると、ヘッダ制御部141は、ステップS711において、処理対象の画像の色フォーマットがYUVフォーマットであるか否かを判定する。YUVであると判定された場合、処理はステップS712に進む。
ステップS712において、ヘッダ制御部141は、ルマとクロマのデブロッキングフィルタ処理をまとめて制御するようにする。つまり、HEVCのバージョン1においても用いられているような、既存の、デブロッキングフィルタ処理を制御する制御情報を用いてルマとクロマのデブロッキングフィルタ処理の制御を行うようにする。ステップS692の処理が終了すると、パラメータ設定処理が終了し、処理は図61に戻る。
また、ステップS711において、処理対象の画像の色フォーマットがYUVフォーマットでないと判定された場合、処理はステップS713に進む。
ステップS713において、ヘッダ制御部141は、ルマとクロマのデブロッキングフィルタ処理を互いに独立に制御するようにする。つまり、以上の各実施の形態において説明したような、クロマに対するデブロッキングフィルタ処理を制御する制御情報を用いてクロマのデブロッキングフィルタ処理の制御を行うようにする。ステップS713の処理が終了すると、パラメータ設定処理が終了し、処理は図61に戻る。
このように各処理を行うことにより、ヘッダ制御部141は、デブロッキングフィルタ処理の制御を色フォーマットに応じて行うことができる。したがって、画像符号化装置100(ループフィルタ120)や画像復号装置200(ループフィルタ216)は、より容易に画質の低減を抑制することができる。
本技術の適用範囲は、画像データが符号化された符号化データを復号可能な、復号の際にフィルタ処理を行うあらゆる画像復号装置に適用することができる。
また、本技術は、例えば、MPEG、H.26x等の様に、離散コサイン変換等の直交変換と動き補償によって圧縮された画像情報(ビットストリーム)を、衛星放送、ケーブルテレビジョン、インターネット、または携帯電話機などのネットワークメディアを介して受信する際に用いられる画像復号装置に適用することができる。また、本技術は、光、磁気ディスク、およびフラッシュメモリのような記憶メディア上で処理する際に用いられる画像復号装置に適用することができる。
<12.第12の実施の形態>
<多視点画像符号化・多視点画像復号への適用>
上述した一連の処理は、多視点画像復号に適用することができる。図63は、多視点画像符号化方式の一例を示す。
図63に示されるように、多視点画像は、複数の視点(ビュー(view))の画像を含む。この多視点画像の複数のビューは、他のビューの情報を利用せずに自身のビューの画像のみを用いて符号化・復号を行うベースビューと、他のビューの情報を利用して符号化・復号を行うノンベースビューとによりなる。ノンベースビューの符号化・復号は、ベースビューの情報を利用するようにしても良いし、他のノンベースビューの情報を利用するようにしてもよい。
図63の例のような多視点画像を符号化・復号する場合、多視点画像は、視点毎に符号化される。そして、そのようにして得られた符号化データを復号する場合、各視点の符号化データは、それぞれ(すなわち視点毎に)復号される。このような各視点の符号化・復号に対して、以上の各実施の形態において説明した方法を適用してもよい。このようにすることにより、各視点の画像の画質の低減を抑制することができる。つまり、多視点画像の場合も同様に、画質の低減を抑制することができる。
<多視点画像符号化装置>
図64は、上述した多視点画像符号化を行う多視点画像符号化装置を示す図である。図64に示されるように、多視点画像符号化装置600は、符号化部601、符号化部602、および多重化部603を有する。
符号化部601は、ベースビュー画像を符号化し、ベースビュー画像符号化ストリームを生成する。符号化部602は、ノンベースビュー画像を符号化し、ノンベースビュー画像符号化ストリームを生成する。多重化部603は、符号化部601において生成されたベースビュー画像符号化ストリームと、符号化部602において生成されたノンベースビュー画像符号化ストリームとを多重化し、多視点画像符号化ストリームを生成する。
例えば、このような多視点画像符号化装置600の符号化部601および符号化部602として、以上の各実施の形態において説明した画像符号化装置100を適用してもよい。このようにすることにより、多視点画像の符号化においても、以上の各実施の形態において説明した方法を適用することができる。すなわち、多視点画像符号化装置600は、多視点画像の画質の低減を抑制することができる。
<多視点画像復号装置>
図65は、上述した多視点画像復号を行う多視点画像復号装置を示す図である。図65に示されるように、多視点画像復号装置610は、逆多重化部611、復号部612、および復号部613を有する。
逆多重化部611は、ベースビュー画像符号化ストリームとノンベースビュー画像符号化ストリームとが多重化された多視点画像符号化ストリームを逆多重化し、ベースビュー画像符号化ストリームと、ノンベースビュー画像符号化ストリームとを抽出する。復号部612は、逆多重化部611により抽出されたベースビュー画像符号化ストリームを復号し、ベースビュー画像を得る。復号部613は、逆多重化部611により抽出されたノンベースビュー画像符号化ストリームを復号し、ノンベースビュー画像を得る。
例えば、このような多視点画像復号装置610の復号部612および復号部613として、以上の各実施の形態において説明した画像復号装置200を適用してもよい。このようにすることにより、多視点画像の符号化データの復号においても、以上の各実施の形態において説明した方法を適用することができる。すなわち、多視点画像復号装置610は、多視点画像の画質の低減を抑制することができる。
<13.第13の実施の形態>
<階層画像符号化・階層画像復号への適用>
また、上述した一連の処理は、階層画像復号(スケーラブル復号)に適用することができる。図66は、階層画像符号化方式の一例を示す。
階層画像符号化(スケーラブル符号化)は、画像データを、所定のパラメータについてスケーラビリティ(scalability)機能を有するように、画像を複数レイヤ化(階層化)し、レイヤ毎に符号化するものである。階層画像復号は、その階層画像符号化(スケーラブル復号)は、その階層画像符号化に対応する復号である。
図66に示されるように、画像の階層化においては、スケーラビリティ機能を有する所定のパラメータを基準として1の画像が複数の画像(レイヤ)に分割される。つまり、階層化された画像(階層画像)は、その所定のパラメータの値が互いに異なる複数の階層(レイヤ)の画像を含む。この階層画像の複数のレイヤは、他のレイヤの画像を利用せずに自身のレイヤの画像のみを用いて符号化・復号を行うベースレイヤと、他のレイヤの画像を利用して符号化・復号を行うノンベースレイヤ(エンハンスメントレイヤとも称する)とによりなる。ノンベースレイヤは、ベースレイヤの画像を利用するようにしても良いし、他のノンベースレイヤの画像を利用するようにしてもよい。
一般的に、ノンベースレイヤは、冗長性が低減されるように、自身の画像と、他のレイヤの画像との差分画像のデータ(差分データ)により構成される。例えば、1の画像をベースレイヤとノンベースレイヤ(エンハンスメントレイヤとも称する)に2階層化した場合、ベースレイヤのデータのみで元の画像よりも低品質な画像が得られ、ベースレイヤのデータとノンベースレイヤのデータを合成することで、元の画像(すなわち高品質な画像)が得られる。
このように画像を階層化することにより、状況に応じて多様な品質の画像を容易に得ることができる。例えば携帯電話のような、処理能力の低い端末に対しては、ベースレイヤ(base layer)のみの画像圧縮情報を伝送し、空間時間解像度の低い、或いは、画質の良くない動画像を再生し、テレビやパーソナルコンピュータのような、処理能力の高い端末に対しては、ベースレイヤ(base layer)に加えて、エンハンスメントレイヤ(enhancement layer)の画像圧縮情報を伝送し、空間時間解像度の高い、或いは、画質の高い動画像を再生するといったように、トランスコード処理を行うことなく、端末やネットワークの能力に応じた画像圧縮情報を、サーバから送信することが可能となる。
図66の例のような階層画像を符号化・復号する場合、階層画像は、レイヤ毎に符号化される。そして、そのようにして得られた符号化データを復号する場合、各レイヤの符号化データは、それぞれ(すなわちレイヤ毎に)復号される。このような各レイヤの符号化・復号に対して、以上の各実施の形態において説明した方法を適用してもよい。このようにすることにより、各レイヤの画像の画質の低減を抑制することができる。つまり、階層画像の場合も同様に、画質の低減を抑制することができる。
<スケーラブルなパラメータ>
このような階層画像符号化・階層画像復号(スケーラブル符号化・スケーラブル復号)において、スケーラビリティ(scalability)機能を有するパラメータは、任意である。例えば、図67に示されるような空間解像度をそのパラメータとしてもよい(spatial scalability)。このスペーシャルスケーラビリティ(spatial scalability)の場合、レイヤ毎に画像の解像度が異なる。つまり、図67に示されるように、各ピクチャが、元の画像より空間的に低解像度のベースレイヤと、ベースレイヤの画像と合成することにより元の画像(元の空間解像度)が得られるエンハンスメントレイヤの2階層に階層化される。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
また、このようなスケーラビリティ性を持たせるパラメータとして、他には、例えば、図68に示されるような、時間解像度を適用しても良い(temporal scalability)。このテンポラルスケーラビリティ(temporal scalability)の場合、レイヤ毎にフレームレートが異なる。つまり、この場合、図68に示されるように、互いに異なるフレームレートのレイヤに階層化されており、低フレームレートのレイヤに、高フレームレートのレイヤを加えることで、より高フレームレートの動画像を得ることができ、全てのレイヤを加えることで、元の動画像(元のフレームレート)を得ることができる。この階層数は一例であり、任意の階層数に階層化することができる。
さらに、このようなスケーラビリティ性を持たせるパラメータとして、例えば、信号雑音比(SNR(Signal to Noise ratio))を適用しても良い(SNR scalability)。このSNRスケーラビリティ(SNR scalability)の場合、レイヤ毎にSN比が異なる。つまり、図69に示されるように、各ピクチャが、元の画像よりSNRの低いベースレイヤと、ベースレイヤの画像と合成することにより元の画像(元のSNR)が得られるエンハンスメントレイヤの2階層に階層化される。すなわち、ベースレイヤ(base layer)画像圧縮情報においては、低PSNRの画像に関する情報が伝送されており、これに、エンハンスメントレイヤ(enhancement layer)画像圧縮情報を加えることで、高PSNR画像を再構築することが可能である。もちろん、この階層数は一例であり、任意の階層数に階層化することができる。
スケーラビリティ性を持たせるパラメータは、上述した例以外であっても、もちろんよい。例えば、ベースレイヤ(base layer)が8ビット(bit)画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、10ビット(bit)画像が得られるビット深度スケーラビリティ(bit-depth scalability)がある。
また、ベースレイヤ(base layer)が4:2:0フォーマットのコンポーネント画像よりなり、これにエンハンスメントレイヤ(enhancement layer)を加えることにより、4:2:2フォーマットのコンポーネント画像が得られるクロマスケーラビリティ(chroma scalability)がある。
<階層画像符号化装置>
図70は、上述した階層画像符号化を行う階層画像符号化装置を示す図である。図70に示されるように、階層画像符号化装置620は、符号化部621、符号化部622、および多重化部623を有する。
符号化部621は、ベースレイヤ画像を符号化し、ベースレイヤ画像符号化ストリームを生成する。符号化部622は、ノンベースレイヤ画像を符号化し、ノンベースレイヤ画像符号化ストリームを生成する。多重化部623は、符号化部621において生成されたベースレイヤ画像符号化ストリームと、符号化部622において生成されたノンベースレイヤ画像符号化ストリームとを多重化し、階層画像符号化ストリームを生成する。
例えば、このような階層画像符号化装置620の符号化部621および符号化部622として、以上の各実施の形態において説明した画像符号化装置100を適用してもよい。このようにすることにより、階層画像の符号化においても、以上の各実施の形態において説明した方法を適用することができる。すなわち、階層画像符号化装置620は、階層画像の画質の低減を抑制することができる。
<階層画像復号装置>
図71は、上述した階層画像復号を行う階層画像復号装置を示す図である。図71に示されるように、階層画像復号装置630は、逆多重化部631、復号部632、および復号部633を有する。
逆多重化部631は、ベースレイヤ画像符号化ストリームとノンベースレイヤ画像符号化ストリームとが多重化された階層画像符号化ストリームを逆多重化し、ベースレイヤ画像符号化ストリームと、ノンベースレイヤ画像符号化ストリームとを抽出する。復号部632は、逆多重化部631により抽出されたベースレイヤ画像符号化ストリームを復号し、ベースレイヤ画像を得る。復号部633は、逆多重化部631により抽出されたノンベースレイヤ画像符号化ストリームを復号し、ノンベースレイヤ画像を得る。
例えば、このような階層画像復号装置630の復号部632および復号部633として、以上の各実施の形態において説明した画像復号装置200を適用してもよい。このようにすることにより、階層画像の符号化データの復号においても、以上の各実施の形態において説明した方法を適用することができる。すなわち、階層画像復号装置630は、階層画像の画質の低減を抑制することができる。
<14.第14の実施の形態>
<コンピュータ>
上述した一連の処理は、ハードウエアにより実行させることもできるし、ソフトウエアにより実行させることもできる。一連の処理をソフトウエアにより実行する場合には、そのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここでコンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータ等が含まれる。
図72は、上述した一連の処理をプログラムにより実行するコンピュータのハードウエアの構成例を示すブロック図である。
図72に示されるコンピュータ800において、CPU(Central Processing Unit)801、ROM(Read Only Memory)802、RAM(Random Access Memory)803は、バス804を介して相互に接続されている。
バス804にはまた、入出力インタフェース810も接続されている。入出力インタフェース810には、入力部811、出力部812、記憶部813、通信部814、およびドライブ815が接続されている。
入力部811は、例えば、キーボード、マウス、マイクロホン、タッチパネル、入力端子などよりなる。出力部812は、例えば、ディスプレイ、スピーカ、出力端子などよりなる。記憶部813は、例えば、ハードディスク、RAMディスク、不揮発性のメモリなどよりなる。通信部814は、例えば、ネットワークインタフェースよりなる。ドライブ815は、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリなどのリムーバブルメディア821を駆動する。
以上のように構成されるコンピュータでは、CPU801が、例えば、記憶部813に記憶されているプログラムを、入出力インタフェース810およびバス804を介して、RAM803にロードして実行することにより、上述した一連の処理が行われる。RAM803にはまた、CPU801が各種の処理を実行する上において必要なデータなども適宜記憶される。
コンピュータ(CPU801)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア821に記録して適用することができる。その場合、プログラムは、リムーバブルメディア821をドライブ815に装着することにより、入出力インタフェース810を介して、記憶部813にインストールすることができる。
また、このプログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することもできる。その場合、プログラムは、通信部814で受信し、記憶部813にインストールすることができる。
その他、このプログラムは、ROM802や記憶部813に、あらかじめインストールしておくこともできる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、記録媒体に記録されるプログラムを記述するステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、全ての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
また、以上において、1つの装置(または処理部)として説明した構成を分割し、複数の装置(または処理部)として構成するようにしてもよい。逆に、以上において複数の装置(または処理部)として説明した構成をまとめて1つの装置(または処理部)として構成されるようにしてもよい。また、各装置(または各処理部)の構成に上述した以外の構成を付加するようにしてももちろんよい。さらに、システム全体としての構成や動作が実質的に同じであれば、ある装置(または処理部)の構成の一部を他の装置(または他の処理部)の構成に含めるようにしてもよい。
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
例えば、本技術は、1つの機能を、ネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
上述した実施形態に係る画像復号装置は、例えば、衛星放送、ケーブルTVなどの有線放送、インターネット上での配信、及びセルラー通信による端末への配信などにおける送信機若しくは受信機、光ディスク、磁気ディスク及びフラッシュメモリなどの媒体に画像を記録する記録装置、又は、これら記憶媒体から画像を再生する再生装置などの様々な電子機器に応用され得る。以下、4つの応用例について説明する。
<15.第15の実施の形態>
<第1の応用例:テレビジョン受像機>
図73は、上述した実施形態を適用したテレビジョン装置の概略的な構成の一例を示している。テレビジョン装置900は、アンテナ901、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、表示部906、音声信号処理部907、スピーカ908、外部インタフェース(I/F)部909、制御部910、ユーザインタフェース(I/F)部911、及びバス912を備える。
チューナ902は、アンテナ901を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ902は、復調により得られた符号化ビットストリームをデマルチプレクサ903へ出力する。即ち、チューナ902は、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。
デマルチプレクサ903は、符号化ビットストリームから視聴対象の番組の映像ストリーム及び音声ストリームを分離し、分離した各ストリームをデコーダ904へ出力する。また、デマルチプレクサ903は、符号化ビットストリームからEPG(Electronic Program Guide)などの補助的なデータを抽出し、抽出したデータを制御部910に供給する。なお、デマルチプレクサ903は、符号化ビットストリームがスクランブルされている場合には、デスクランブルを行ってもよい。
デコーダ904は、デマルチプレクサ903から入力される映像ストリーム及び音声ストリームを復号する。そして、デコーダ904は、復号処理により生成される映像データを映像信号処理部905へ出力する。また、デコーダ904は、復号処理により生成される音声データを音声信号処理部907へ出力する。
映像信号処理部905は、デコーダ904から入力される映像データを再生し、表示部906に映像を表示させる。また、映像信号処理部905は、ネットワークを介して供給されるアプリケーション画面を表示部906に表示させてもよい。また、映像信号処理部905は、映像データについて、設定に応じて、例えばノイズ除去などの追加的な処理を行ってもよい。さらに、映像信号処理部905は、例えばメニュー、ボタン又はカーソルなどのGUI(Graphical User Interface)の画像を生成し、生成した画像を出力画像に重畳してもよい。
表示部906は、映像信号処理部905から供給される駆動信号により駆動され、表示デバイス(例えば、液晶ディスプレイ、プラズマディスプレイ又はOELD(Organic ElectroLuminescence Display)(有機ELディスプレイ)など)の映像面上に映像又は画像を表示する。
音声信号処理部907は、デコーダ904から入力される音声データについてD/A変換及び増幅などの再生処理を行い、スピーカ908から音声を出力させる。また、音声信号処理部907は、音声データについてノイズ除去などの追加的な処理を行ってもよい。
外部インタフェース部909は、テレビジョン装置900と外部機器又はネットワークとを接続するためのインタフェースである。例えば、外部インタフェース部909を介して受信される映像ストリーム又は音声ストリームが、デコーダ904により復号されてもよい。即ち、外部インタフェース部909もまた、画像が符号化されている符号化ストリームを受信する、テレビジョン装置900における伝送部としての役割を有する。
制御部910は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、プログラムデータ、EPGデータ、及びネットワークを介して取得されるデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、テレビジョン装置900の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部911から入力される操作信号に応じて、テレビジョン装置900の動作を制御する。
ユーザインタフェース部911は、制御部910と接続される。ユーザインタフェース部911は、例えば、ユーザがテレビジョン装置900を操作するためのボタン及びスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部911は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部910へ出力する。
バス912は、チューナ902、デマルチプレクサ903、デコーダ904、映像信号処理部905、音声信号処理部907、外部インタフェース部909及び制御部910を相互に接続する。
このように構成されたテレビジョン装置900において、デコーダ904が、上述した画像復号装置200の機能を有するようにしてもよい。つまり、デコーダ904が、符号化データを以上の各実施の形態において説明した方法で復号するようにしてもよい。このようにすることにより、テレビジョン装置900は、受信した符号化ビットストリームを復号して得られる画像の画質の低減を抑制することができる。
また、このように構成されたテレビジョン装置900において、映像信号処理部905が、例えば、デコーダ904から供給される画像データを符号化し、得られた符号化データを、外部インタフェース部909を介してテレビジョン装置900の外部に出力させることができるようにしてもよい。そして、その映像信号処理部905が、上述した画像符号化装置100の機能を有するようにしてもよい。つまり、映像信号処理部905が、デコーダ904から供給される画像データを以上の各実施の形態において説明した方法で符号化するようにしてもよい。このようにすることにより、テレビジョン装置900は、出力する符号化データを復号して得られる画像の画質の低減を抑制することができる。
<第2の応用例:携帯電話機>
図74は、上述した実施形態を適用した携帯電話機の概略的な構成の一例を示している。携帯電話機920は、アンテナ921、通信部922、音声コーデック923、スピーカ924、マイクロホン925、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、制御部931、操作部932、及びバス933を備える。
アンテナ921は、通信部922に接続される。スピーカ924及びマイクロホン925は、音声コーデック923に接続される。操作部932は、制御部931に接続される。バス933は、通信部922、音声コーデック923、カメラ部926、画像処理部927、多重分離部928、記録再生部929、表示部930、及び制御部931を相互に接続する。
携帯電話機920は、音声通話モード、データ通信モード、撮影モード及びテレビ電話モードを含む様々な動作モードで、音声信号の送受信、電子メール又は画像データの送受信、画像の撮像、及びデータの記録などの動作を行う。
音声通話モードにおいて、マイクロホン925により生成されるアナログ音声信号は、音声コーデック923に供給される。音声コーデック923は、アナログ音声信号を音声データへ変換し、変換された音声データをA/D変換し圧縮する。そして、音声コーデック923は、圧縮後の音声データを通信部922へ出力する。通信部922は、音声データを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して音声データを生成し、生成した音声データを音声コーデック923へ出力する。音声コーデック923は、音声データを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
また、データ通信モードにおいて、例えば、制御部931は、操作部932を介するユーザによる操作に応じて、電子メールを構成する文字データを生成する。また、制御部931は、文字を表示部930に表示させる。また、制御部931は、操作部932を介するユーザからの送信指示に応じて電子メールデータを生成し、生成した電子メールデータを通信部922へ出力する。通信部922は、電子メールデータを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。そして、通信部922は、受信信号を復調及び復号して電子メールデータを復元し、復元した電子メールデータを制御部931へ出力する。制御部931は、表示部930に電子メールの内容を表示させると共に、電子メールデータを記録再生部929に供給し、その記憶媒体に書き込ませる。
記録再生部929は、読み書き可能な任意の記憶媒体を有する。例えば、記憶媒体は、RAM又はフラッシュメモリなどの内蔵型の記憶媒体であってもよく、ハードディスク、磁気ディスク、光磁気ディスク、光ディスク、USB(Universal Serial Bus)メモリ、又はメモリカードなどの外部装着型の記憶媒体であってもよい。
また、撮影モードにおいて、例えば、カメラ部926は、被写体を撮像して画像データを生成し、生成した画像データを画像処理部927へ出力する。画像処理部927は、カメラ部926から入力される画像データを符号化し、符号化ストリームを記録再生部929に供給し、その記憶媒体に書き込ませる。
さらに、画像表示モードにおいて、記録再生部929は、記憶媒体に記録されている符号化ストリームを読み出して画像処理部927へ出力する。画像処理部927は、記録再生部929から入力される符号化ストリームを復号し、画像データを表示部930に供給し、その画像を表示させる。
また、テレビ電話モードにおいて、例えば、多重分離部928は、画像処理部927により符号化された映像ストリームと、音声コーデック923から入力される音声ストリームとを多重化し、多重化したストリームを通信部922へ出力する。通信部922は、ストリームを符号化及び変調し、送信信号を生成する。そして、通信部922は、生成した送信信号を、アンテナ921を介して基地局(図示せず)へ送信する。また、通信部922は、アンテナ921を介して受信される無線信号を増幅し及び周波数変換し、受信信号を取得する。これら送信信号及び受信信号には、符号化ビットストリームが含まれ得る。そして、通信部922は、受信信号を復調及び復号してストリームを復元し、復元したストリームを多重分離部928へ出力する。多重分離部928は、入力されるストリームから映像ストリーム及び音声ストリームを分離し、映像ストリームを画像処理部927、音声ストリームを音声コーデック923へ出力する。画像処理部927は、映像ストリームを復号し、映像データを生成する。映像データは、表示部930に供給され、表示部930により一連の画像が表示される。音声コーデック923は、音声ストリームを伸張し及びD/A変換し、アナログ音声信号を生成する。そして、音声コーデック923は、生成した音声信号をスピーカ924に供給して音声を出力させる。
このように構成された携帯電話機920において、例えば画像処理部927が、画像符号化装置100や画像復号装置200の機能を有するようにしてもよい。つまり、画像処理部927が、以上の各実施の形態において説明した方法により、画像データを符号化したり、符号化データを復号したりするようにしてもよい。このようにすることにより、携帯電話機920は、処理対象の画像の画質の低減を抑制することができる。
<第3の応用例:記録再生装置>
図75は、上述した実施形態を適用した記録再生装置の概略的な構成の一例を示している。記録再生装置940は、例えば、受信した放送番組の音声データ及び映像データを符号化して記録媒体に記録する。また、記録再生装置940は、例えば、他の装置から取得される音声データ及び映像データを符号化して記録媒体に記録してもよい。また、記録再生装置940は、例えば、ユーザの指示に応じて、記録媒体に記録されているデータをモニタ及びスピーカ上で再生する。このとき、記録再生装置940は、音声データおよび映像データを復号する。
記録再生装置940は、チューナ941、外部インタフェース(I/F)部942、エンコーダ943、HDD(Hard Disk Drive)944、ディスクドライブ945、セレクタ946、デコーダ947、OSD(On-Screen Display)948、制御部949、およびユーザインタフェース(I/F)部950を備える。
チューナ941は、アンテナ(図示せず)を介して受信される放送信号から所望のチャンネルの信号を抽出し、抽出した信号を復調する。そして、チューナ941は、復調により得られた符号化ビットストリームをセレクタ946へ出力する。即ち、チューナ941は、記録再生装置940における伝送部としての役割を有する。
外部インタフェース部942は、記録再生装置940と外部機器又はネットワークとを接続するためのインタフェースである。外部インタフェース部942は、例えば、IEEE(Institute of Electrical and Electronic Engineers)1394インタフェース、ネットワークインタフェース、USBインタフェース、又はフラッシュメモリインタフェースなどであってよい。例えば、外部インタフェース部942を介して受信される映像データおよび音声データは、エンコーダ943へ入力される。即ち、外部インタフェース部942は、記録再生装置940における伝送部としての役割を有する。
エンコーダ943は、外部インタフェース部942から入力される映像データおよび音声データが符号化されていない場合に、映像データおよび音声データを符号化する。そして、エンコーダ943は、符号化ビットストリームをセレクタ946へ出力する。
HDD944は、映像および音声などのコンテンツデータが圧縮された符号化ビットストリーム、各種プログラムおよびその他のデータを内部のハードディスクに記録する。また、HDD944は、映像および音声の再生時に、これらデータをハードディスクから読み出す。
ディスクドライブ945は、装着されている記録媒体へのデータの記録および読み出しを行う。ディスクドライブ945に装着される記録媒体は、例えばDVD(Digital Versatile Disc)ディスク(DVD-Video、DVD-RAM(DVD - Random Access Memory)、DVD-R(DVD - Recordable)、DVD-RW(DVD - Rewritable)、DVD+R(DVD + Recordable)、DVD+RW(DVD + Rewritable)等)又はBlu-ray(登録商標)ディスクなどであってよい。
セレクタ946は、映像および音声の記録時には、チューナ941又はエンコーダ943から入力される符号化ビットストリームを選択し、選択した符号化ビットストリームをHDD944又はディスクドライブ945へ出力する。また、セレクタ946は、映像及び音声の再生時には、HDD944又はディスクドライブ945から入力される符号化ビットストリームをデコーダ947へ出力する。
デコーダ947は、符号化ビットストリームを復号し、映像データ及び音声データを生成する。そして、デコーダ947は、生成した映像データをOSD948へ出力する。また、デコーダ947は、生成した音声データを外部のスピーカへ出力する。
OSD948は、デコーダ947から入力される映像データを再生し、映像を表示する。また、OSD948は、表示する映像に、例えばメニュー、ボタン又はカーソルなどのGUIの画像を重畳してもよい。
制御部949は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、記録再生装置940の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部950から入力される操作信号に応じて、記録再生装置940の動作を制御する。
ユーザインタフェース部950は、制御部949と接続される。ユーザインタフェース部950は、例えば、ユーザが記録再生装置940を操作するためのボタンおよびスイッチ、並びに遠隔制御信号の受信部などを有する。ユーザインタフェース部950は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部949へ出力する。
このように構成された記録再生装置940において、例えばエンコーダ943が、画像符号化装置100の機能を有するようにしてもよい。つまり、エンコーダ943が、以上の各実施の形態において説明方法により、画像データを符号化するようにしてもよい。このようにすることにより、記録再生装置940は、処理対象の画像の画質の低減を抑制することができる。
このように構成された記録再生装置940において、例えばデコーダ947が、画像復号装置200の機能を有するようにしてもよい。つまり、デコーダ947が、以上の各実施の形態において説明方法により、符号化データを復号するようにしてもよい。このようにすることにより、記録再生装置940は、処理対象の画像の画質の低減を抑制することができる。
<第4の応用例:撮像装置>
図76は、上述した実施形態を適用した撮像装置の概略的な構成の一例を示している。撮像装置960は、被写体を撮像して画像を生成し、画像データを符号化して記録媒体に記録する。
撮像装置960は、光学ブロック961、撮像部962、信号処理部963、画像処理部964、表示部965、外部インタフェース(I/F)部966、メモリ部967、メディアドライブ968、OSD969、制御部970、ユーザインタフェース(I/F)部971、およびバス972を備える。
光学ブロック961は、撮像部962に接続される。撮像部962は、信号処理部963に接続される。表示部965は、画像処理部964に接続される。ユーザインタフェース部971は、制御部970に接続される。バス972は、画像処理部964、外部インタフェース部966、メモリ部967、メディアドライブ968、OSD969、および制御部970を相互に接続する。
光学ブロック961は、フォーカスレンズ及び絞り機構などを有する。光学ブロック961は、被写体の光学像を撮像部962の撮像面に結像させる。撮像部962は、CCD(Charge Coupled Device)又はCMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを有し、撮像面に結像した光学像を光電変換によって電気信号としての画像信号に変換する。そして、撮像部962は、画像信号を信号処理部963へ出力する。
信号処理部963は、撮像部962から入力される画像信号に対してニー補正、ガンマ補正、色補正などの種々のカメラ信号処理を行う。信号処理部963は、カメラ信号処理後の画像データを画像処理部964へ出力する。
画像処理部964は、信号処理部963から入力される画像データを符号化し、符号化データを生成する。そして、画像処理部964は、生成した符号化データを外部インタフェース部966またはメディアドライブ968へ出力する。また、画像処理部964は、外部インタフェース部966またはメディアドライブ968から入力される符号化データを復号し、画像データを生成する。そして、画像処理部964は、生成した画像データを表示部965へ出力する。また、画像処理部964は、信号処理部963から入力される画像データを表示部965へ出力して画像を表示させてもよい。また、画像処理部964は、OSD969から取得される表示用データを、表示部965へ出力する画像に重畳してもよい。
OSD969は、例えばメニュー、ボタン又はカーソルなどのGUIの画像を生成して、生成した画像を画像処理部964へ出力する。
外部インタフェース部966は、例えばUSB入出力端子として構成される。外部インタフェース部966は、例えば、画像の印刷時に、撮像装置960とプリンタとを接続する。また、外部インタフェース部966には、必要に応じてドライブが接続される。ドライブには、例えば、磁気ディスク又は光ディスクなどのリムーバブルメディアが装着され、リムーバブルメディアから読み出されるプログラムが、撮像装置960にインストールされ得る。さらに、外部インタフェース部966は、LAN又はインターネットなどのネットワークに接続されるネットワークインタフェースとして構成されてもよい。即ち、外部インタフェース部966は、撮像装置960における伝送部としての役割を有する。
メディアドライブ968に装着される記録媒体は、例えば、磁気ディスク、光磁気ディスク、光ディスク、又は半導体メモリなどの、読み書き可能な任意のリムーバブルメディアであってよい。また、メディアドライブ968に記録媒体が固定的に装着され、例えば、内蔵型ハードディスクドライブ又はSSD(Solid State Drive)のような非可搬性の記憶部が構成されてもよい。
制御部970は、CPUなどのプロセッサ、並びにRAM及びROMなどのメモリを有する。メモリは、CPUにより実行されるプログラム、及びプログラムデータなどを記憶する。メモリにより記憶されるプログラムは、例えば、撮像装置960の起動時にCPUにより読み込まれ、実行される。CPUは、プログラムを実行することにより、例えばユーザインタフェース部971から入力される操作信号に応じて、撮像装置960の動作を制御する。
ユーザインタフェース部971は、制御部970と接続される。ユーザインタフェース部971は、例えば、ユーザが撮像装置960を操作するためのボタン及びスイッチなどを有する。ユーザインタフェース部971は、これら構成要素を介してユーザによる操作を検出して操作信号を生成し、生成した操作信号を制御部970へ出力する。
このように構成された撮像装置960において、例えば画像処理部964が、画像符号化装置100や画像復号装置200の機能を有するようにしてもよい。つまり、画像処理部964が、以上の各実施の形態において説明した方法により、画像データを符号化したり、符号化データを復号したりするようにしてもよい。このようにすることにより、撮像装置960は、処理対象の画像の画質の低減を抑制することができる。
なお、本技術は、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択して使用する、例えばMPEG DASH等のようなHTTPストリーミングにも適用することができる。つまり、このような複数の符号化データ間で、符号化や復号に関する情報を共有することもできる。
<16.第16の実施の形態>
<実施のその他の例>
以上において本技術を適用する装置やシステム等の例を説明したが、本技術は、これに限らず、このような装置またはシステムを構成する装置に搭載するあらゆる構成、例えば、システムLSI(Large Scale Integration)等としてのプロセッサ、複数のプロセッサ等を用いるモジュール、複数のモジュール等を用いるユニット、ユニットにさらにその他の機能を付加したセット等(すなわち、装置の一部の構成)として実施することもできる。
<ビデオセット>
本技術をセットとして実施する場合の例について、図77を参照して説明する。図77は、本技術を適用したビデオセットの概略的な構成の一例を示している。
近年、電子機器の多機能化が進んでおり、その開発や製造において、その一部の構成を販売や提供等として実施する場合、1機能を有する構成として実施を行う場合だけでなく、関連する機能を有する複数の構成を組み合わせ、複数の機能を有する1セットとして実施を行う場合も多く見られるようになってきた。
図77に示されるビデオセット1300は、このような多機能化された構成であり、画像の符号化や復号(いずれか一方でもよいし、両方でも良い)に関する機能を有するデバイスに、その機能に関連するその他の機能を有するデバイスを組み合わせたものである。
図77に示されるように、ビデオセット1300は、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314等のモジュール群と、コネクティビティ1321、カメラ1322、およびセンサ1323等の関連する機能を有するデバイスとを有する。
モジュールは、互いに関連するいくつかの部品的機能をまとめ、まとまりのある機能を持った部品としたものである。具体的な物理的構成は任意であるが、例えば、それぞれ機能を有する複数のプロセッサ、抵抗やコンデンサ等の電子回路素子、その他のデバイス等を配線基板等に配置して一体化したものが考えられる。また、モジュールに他のモジュールやプロセッサ等を組み合わせて新たなモジュールとすることも考えられる。
図77の例の場合、ビデオモジュール1311は、画像処理に関する機能を有する構成を組み合わせたものであり、アプリケーションプロセッサ、ビデオプロセッサ、ブロードバンドモデム1333、およびRFモジュール1334を有する。
プロセッサは、所定の機能を有する構成をSoC(System On a Chip)により半導体チップに集積したものであり、例えばシステムLSI(Large Scale Integration)等と称されるものもある。この所定の機能を有する構成は、論理回路(ハードウエア構成)であってもよいし、CPU、ROM、RAM等と、それらを用いて実行されるプログラム(ソフトウエア構成)であってもよいし、その両方を組み合わせたものであってもよい。例えば、プロセッサが、論理回路とCPU、ROM、RAM等とを有し、機能の一部を論理回路(ハードウエア構成)により実現し、その他の機能をCPUにおいて実行されるプログラム(ソフトウエア構成)により実現するようにしてもよい。
図77のアプリケーションプロセッサ1331は、画像処理に関するアプリケーションを実行するプロセッサである。このアプリケーションプロセッサ1331において実行されるアプリケーションは、所定の機能を実現するために、演算処理を行うだけでなく、例えばビデオプロセッサ1332等、ビデオモジュール1311内外の構成を必要に応じて制御することもできる。
ビデオプロセッサ1332は、画像の符号化・復号(その一方若しくは両方)に関する機能を有するプロセッサである。
ブロードバンドモデム1333は、インターネットや公衆電話回線網等の広帯域の回線を介して行われる有線若しくは無線(またはその両方)の広帯域通信により送信するデータ(デジタル信号)をデジタル変調する等してアナログ信号に変換したり、その広帯域通信により受信したアナログ信号を復調してデータ(デジタル信号)に変換したりする。ブロードバンドモデム1333は、例えば、ビデオプロセッサ1332が処理する画像データ、画像データが符号化されたストリーム、アプリケーションプログラム、設定データ等、任意の情報を処理する。
RFモジュール1334は、アンテナを介して送受信されるRF(Radio Frequency)信号に対して、周波数変換、変復調、増幅、フィルタ処理等を行うモジュールである。例えば、RFモジュール1334は、ブロードバンドモデム1333により生成されたベースバンド信号に対して周波数変換等を行ってRF信号を生成する。また、例えば、RFモジュール1334は、フロントエンドモジュール1314を介して受信されたRF信号に対して周波数変換等を行ってベースバンド信号を生成する。
なお、図77において点線1341に示されるように、アプリケーションプロセッサ1331とビデオプロセッサ1332を、一体化し、1つのプロセッサとして構成されるようにしてもよい。
外部メモリ1312は、ビデオモジュール1311の外部に設けられた、ビデオモジュール1311により利用される記憶デバイスを有するモジュールである。この外部メモリ1312の記憶デバイスは、どのような物理構成により実現するようにしてもよいが、一般的にフレーム単位の画像データのような大容量のデータの格納に利用されることが多いので、例えばDRAM(Dynamic Random Access Memory)のような比較的安価で大容量の半導体メモリにより実現するのが望ましい。
パワーマネージメントモジュール1313は、ビデオモジュール1311(ビデオモジュール1311内の各構成)への電力供給を管理し、制御する。
フロントエンドモジュール1314は、RFモジュール1334に対してフロントエンド機能(アンテナ側の送受信端の回路)を提供するモジュールである。図77に示されるように、フロントエンドモジュール1314は、例えば、アンテナ部1351、フィルタ1352、および増幅部1353を有する。
アンテナ部1351は、無線信号を送受信するアンテナおよびその周辺の構成を有する。アンテナ部1351は、増幅部1353から供給される信号を無線信号として送信し、受信した無線信号を電気信号(RF信号)としてフィルタ1352に供給する。フィルタ1352は、アンテナ部1351を介して受信されたRF信号に対してフィルタ処理等を行い、処理後のRF信号をRFモジュール1334に供給する。増幅部1353は、RFモジュール1334から供給されるRF信号を増幅し、アンテナ部1351に供給する。
コネクティビティ1321は、外部との接続に関する機能を有するモジュールである。コネクティビティ1321の物理構成は、任意である。例えば、コネクティビティ1321は、ブロードバンドモデム1333が対応する通信規格以外の通信機能を有する構成や、外部入出力端子等を有する。
例えば、コネクティビティ1321が、Bluetooth(登録商標)、IEEE 802.11(例えばWi-Fi(Wireless Fidelity、登録商標))、NFC(Near Field Communication)、IrDA(InfraRed Data Association)等の無線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した信号を送受信するアンテナ等を有するようにしてもよい。また、例えば、コネクティビティ1321が、USB(Universal Serial Bus)、HDMI(登録商標)(High-Definition Multimedia Interface)等の有線通信規格に準拠する通信機能を有するモジュールや、その規格に準拠した端子を有するようにしてもよい。さらに、例えば、コネクティビティ1321が、アナログ入出力端子等のその他のデータ(信号)伝送機能等を有するようにしてもよい。
なお、コネクティビティ1321が、データ(信号)の伝送先のデバイスを含むようにしてもよい。例えば、コネクティビティ1321が、磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等の記録媒体に対してデータの読み出しや書き込みを行うドライブ(リムーバブルメディアのドライブだけでなく、ハードディスク、SSD(Solid State Drive)、NAS(Network Attached Storage)等も含む)を有するようにしてもよい。また、コネクティビティ1321が、画像や音声の出力デバイス(モニタやスピーカ等)を有するようにしてもよい。
カメラ1322は、被写体を撮像し、被写体の画像データを得る機能を有するモジュールである。カメラ1322の撮像により得られた画像データは、例えば、ビデオプロセッサ1332に供給されて符号化される。
センサ1323は、例えば、音声センサ、超音波センサ、光センサ、照度センサ、赤外線センサ、イメージセンサ、回転センサ、角度センサ、角速度センサ、速度センサ、加速度センサ、傾斜センサ、磁気識別センサ、衝撃センサ、温度センサ等、任意のセンサ機能を有するモジュールである。センサ1323により検出されたデータは、例えば、アプリケーションプロセッサ1331に供給されてアプリケーション等により利用される。
以上においてモジュールとして説明した構成をプロセッサとして実現するようにしてもよいし、逆にプロセッサとして説明した構成をモジュールとして実現するようにしてもよい。
以上のような構成のビデオセット1300において、後述するようにビデオプロセッサ1332に本技術を適用することができる。したがって、ビデオセット1300は、本技術を適用したセットとして実施することができる。
<ビデオプロセッサの構成例>
図78は、本技術を適用したビデオプロセッサ1332(図77)の概略的な構成の一例を示している。
図78の例の場合、ビデオプロセッサ1332は、ビデオ信号およびオーディオ信号の入力を受けてこれらを所定の方式で符号化する機能と、符号化されたビデオデータおよびオーディオデータを復号し、ビデオ信号およびオーディオ信号を再生出力する機能とを有する。
図78に示されるように、ビデオプロセッサ1332は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、フレームメモリ1405、およびメモリ制御部1406を有する。また、ビデオプロセッサ1332は、エンコード・デコードエンジン1407、ビデオES(Elementary Stream)バッファ1408Aおよび1408B、並びに、オーディオESバッファ1409Aおよび1409Bを有する。さらに、ビデオプロセッサ1332は、オーディオエンコーダ1410、オーディオデコーダ1411、多重化部(MUX(Multiplexer))1412、逆多重化部(DMUX(Demultiplexer))1413、およびストリームバッファ1414を有する。
ビデオ入力処理部1401は、例えばコネクティビティ1321(図77)等から入力されたビデオ信号を取得し、デジタル画像データに変換する。第1画像拡大縮小部1402は、画像データに対してフォーマット変換や画像の拡大縮小処理等を行う。第2画像拡大縮小部1403は、画像データに対して、ビデオ出力処理部1404を介して出力する先でのフォーマットに応じて画像の拡大縮小処理を行ったり、第1画像拡大縮小部1402と同様のフォーマット変換や画像の拡大縮小処理等を行ったりする。ビデオ出力処理部1404は、画像データに対して、フォーマット変換やアナログ信号への変換等を行って、再生されたビデオ信号として例えばコネクティビティ1321等に出力する。
フレームメモリ1405は、ビデオ入力処理部1401、第1画像拡大縮小部1402、第2画像拡大縮小部1403、ビデオ出力処理部1404、およびエンコード・デコードエンジン1407によって共用される画像データ用のメモリである。フレームメモリ1405は、例えばDRAM等の半導体メモリとして実現される。
メモリ制御部1406は、エンコード・デコードエンジン1407からの同期信号を受けて、アクセス管理テーブル1406Aに書き込まれたフレームメモリ1405へのアクセススケジュールに従ってフレームメモリ1405に対する書き込み・読み出しのアクセスを制御する。アクセス管理テーブル1406Aは、エンコード・デコードエンジン1407、第1画像拡大縮小部1402、第2画像拡大縮小部1403等で実行される処理に応じて、メモリ制御部1406により更新される。
エンコード・デコードエンジン1407は、画像データのエンコード処理、並びに、画像データが符号化されたデータであるビデオストリームのデコード処理を行う。例えば、エンコード・デコードエンジン1407は、フレームメモリ1405から読み出した画像データを符号化し、ビデオストリームとしてビデオESバッファ1408Aに順次書き込む。また、例えば、ビデオESバッファ1408Bからビデオストリームを順次読み出して復号し、画像データとしてフレームメモリ1405に順次書き込む。エンコード・デコードエンジン1407は、これらの符号化や復号において、フレームメモリ1405を作業領域として使用する。また、エンコード・デコードエンジン1407は、例えばマクロブロック毎の処理を開始するタイミングで、メモリ制御部1406に対して同期信号を出力する。
ビデオESバッファ1408Aは、エンコード・デコードエンジン1407によって生成されたビデオストリームをバッファリングして、多重化部(MUX)1412に供給する。ビデオESバッファ1408Bは、逆多重化部(DMUX)1413から供給されたビデオストリームをバッファリングして、エンコード・デコードエンジン1407に供給する。
オーディオESバッファ1409Aは、オーディオエンコーダ1410によって生成されたオーディオストリームをバッファリングして、多重化部(MUX)1412に供給する。オーディオESバッファ1409Bは、逆多重化部(DMUX)1413から供給されたオーディオストリームをバッファリングして、オーディオデコーダ1411に供給する。
オーディオエンコーダ1410は、例えばコネクティビティ1321等から入力されたオーディオ信号を例えばデジタル変換し、例えばMPEGオーディオ方式やAC3(AudioCode number 3)方式等の所定の方式で符号化する。オーディオエンコーダ1410は、オーディオ信号が符号化されたデータであるオーディオストリームをオーディオESバッファ1409Aに順次書き込む。オーディオデコーダ1411は、オーディオESバッファ1409Bから供給されたオーディオストリームを復号し、例えばアナログ信号への変換等を行って、再生されたオーディオ信号として例えばコネクティビティ1321等に供給する。
多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化する。この多重化の方法(すなわち、多重化により生成されるビットストリームのフォーマット)は任意である。また、この多重化の際に、多重化部(MUX)1412は、所定のヘッダ情報等をビットストリームに付加することもできる。つまり、多重化部(MUX)1412は、多重化によりストリームのフォーマットを変換することができる。例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームに変換する。また、例えば、多重化部(MUX)1412は、ビデオストリームとオーディオストリームとを多重化することにより、記録用のファイルフォーマットのデータ(ファイルデータ)に変換する。
逆多重化部(DMUX)1413は、多重化部(MUX)1412による多重化に対応する方法で、ビデオストリームとオーディオストリームとが多重化されたビットストリームを逆多重化する。つまり、逆多重化部(DMUX)1413は、ストリームバッファ1414から読み出されたビットストリームからビデオストリームとオーディオストリームとを抽出する(ビデオストリームとオーディオストリームとを分離する)。つまり、逆多重化部(DMUX)1413は、逆多重化によりストリームのフォーマットを変換(多重化部(MUX)1412による変換の逆変換)することができる。例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321やブロードバンドモデム1333等から供給されたトランスポートストリームを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。また、例えば、逆多重化部(DMUX)1413は、例えばコネクティビティ1321により各種記録媒体から読み出されたファイルデータを、ストリームバッファ1414を介して取得し、逆多重化することにより、ビデオストリームとオーディオストリームとに変換することができる。
ストリームバッファ1414は、ビットストリームをバッファリングする。例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321やブロードバンドモデム1333等に供給する。
また、例えば、ストリームバッファ1414は、多重化部(MUX)1412から供給されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、例えばコネクティビティ1321等に供給し、各種記録媒体に記録させる。
さらに、ストリームバッファ1414は、例えばコネクティビティ1321やブロードバンドモデム1333等を介して取得したトランスポートストリームをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
また、ストリームバッファ1414は、例えばコネクティビティ1321等において各種記録媒体から読み出されたファイルデータをバッファリングし、所定のタイミングにおいて、若しくは外部からの要求等に基づいて、逆多重化部(DMUX)1413に供給する。
次に、このような構成のビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321等からビデオプロセッサ1332に入力されたビデオ信号は、ビデオ入力処理部1401において4:2:2Y/Cb/Cr方式等の所定の方式のデジタル画像データに変換され、フレームメモリ1405に順次書き込まれる。このデジタル画像データは、第1画像拡大縮小部1402または第2画像拡大縮小部1403に読み出されて、4:2:0Y/Cb/Cr方式等の所定の方式へのフォーマット変換および拡大縮小処理が行われ、再びフレームメモリ1405に書き込まれる。この画像データは、エンコード・デコードエンジン1407によって符号化され、ビデオストリームとしてビデオESバッファ1408Aに書き込まれる。
また、コネクティビティ1321等からビデオプロセッサ1332に入力されたオーディオ信号は、オーディオエンコーダ1410によって符号化され、オーディオストリームとして、オーディオESバッファ1409Aに書き込まれる。
ビデオESバッファ1408Aのビデオストリームと、オーディオESバッファ1409Aのオーディオストリームは、多重化部(MUX)1412に読み出されて多重化され、トランスポートストリーム若しくはファイルデータ等に変換される。多重化部(MUX)1412により生成されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークに出力される。また、多重化部(MUX)1412により生成されたファイルデータは、ストリームバッファ1414にバッファされた後、例えばコネクティビティ1321等に出力され、各種記録媒体に記録される。
また、例えばコネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークからビデオプロセッサ1332に入力されたトランスポートストリームは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。また、例えばコネクティビティ1321等において各種記録媒体から読み出され、ビデオプロセッサ1332に入力されたファイルデータは、ストリームバッファ1414にバッファされた後、逆多重化部(DMUX)1413により逆多重化される。つまり、ビデオプロセッサ1332に入力されたトランスポートストリームまたはファイルデータは、逆多重化部(DMUX)1413によりビデオストリームとオーディオストリームとに分離される。
オーディオストリームは、オーディオESバッファ1409Bを介してオーディオデコーダ1411に供給され、復号されてオーディオ信号が再生される。また、ビデオストリームは、ビデオESバッファ1408Bに書き込まれた後、エンコード・デコードエンジン1407により順次読み出されて復号されてフレームメモリ1405に書き込まれる。復号された画像データは、第2画像拡大縮小部1403によって拡大縮小処理されて、フレームメモリ1405に書き込まれる。そして、復号された画像データは、ビデオ出力処理部1404に読み出されて、4:2:2Y/Cb/Cr方式等の所定の方式にフォーマット変換され、さらにアナログ信号に変換されて、ビデオ信号が再生出力される。
このように構成されるビデオプロセッサ1332に本技術を適用する場合、エンコード・デコードエンジン1407に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、エンコード・デコードエンジン1407が、上述した画像符号化装置100や画像復号装置200の機能を有するようにしてもよい。このようにすることにより、ビデオプロセッサ1332は、図1乃至図62を参照して上述した各実施の形態と同様の効果を得ることができる。
なお、エンコード・デコードエンジン1407において、本技術(すなわち、画像符号化装置100や画像復号装置200の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
<ビデオプロセッサの他の構成例>
図79は、本技術を適用したビデオプロセッサ1332の概略的な構成の他の例を示している。図79の例の場合、ビデオプロセッサ1332は、ビデオデータを所定の方式で符号化・復号する機能を有する。
より具体的には、図79に示されるように、ビデオプロセッサ1332は、制御部1511、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、および内部メモリ1515を有する。また、ビデオプロセッサ1332は、コーデックエンジン1516、メモリインタフェース1517、多重化・逆多重化部(MUX DMUX)1518、ネットワークインタフェース1519、およびビデオインタフェース1520を有する。
制御部1511は、ディスプレイインタフェース1512、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516等、ビデオプロセッサ1332内の各処理部の動作を制御する。
図79に示されるように、制御部1511は、例えば、メインCPU1531、サブCPU1532、およびシステムコントローラ1533を有する。メインCPU1531は、ビデオプロセッサ1332内の各処理部の動作を制御するためのプログラム等を実行する。メインCPU1531は、そのプログラム等に従って制御信号を生成し、各処理部に供給する(つまり、各処理部の動作を制御する)。サブCPU1532は、メインCPU1531の補助的な役割を果たす。例えば、サブCPU1532は、メインCPU1531が実行するプログラム等の子プロセスやサブルーチン等を実行する。システムコントローラ1533は、メインCPU1531およびサブCPU1532が実行するプログラムを指定する等、メインCPU1531およびサブCPU1532の動作を制御する。
ディスプレイインタフェース1512は、制御部1511の制御の下、画像データを例えばコネクティビティ1321等に出力する。例えば、ディスプレイインタフェース1512は、デジタルデータの画像データをアナログ信号に変換し、再生されたビデオ信号として、またはデジタルデータの画像データのまま、コネクティビティ1321のモニタ装置等に出力する。
ディスプレイエンジン1513は、制御部1511の制御の下、画像データに対して、その画像を表示させるモニタ装置等のハードウエアスペックに合わせるように、フォーマット変換、サイズ変換、色域変換等の各種変換処理を行う。
画像処理エンジン1514は、制御部1511の制御の下、画像データに対して、例えば画質改善のためのフィルタ処理等、所定の画像処理を施す。
内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516により共用される、ビデオプロセッサ1332の内部に設けられたメモリである。内部メモリ1515は、例えば、ディスプレイエンジン1513、画像処理エンジン1514、およびコーデックエンジン1516の間で行われるデータの授受に利用される。例えば、内部メモリ1515は、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516から供給されるデータを格納し、必要に応じて(例えば、要求に応じて)、そのデータを、ディスプレイエンジン1513、画像処理エンジン1514、またはコーデックエンジン1516に供給する。この内部メモリ1515は、どのような記憶デバイスにより実現するようにしてもよいが、一般的にブロック単位の画像データやパラメータ等といった小容量のデータの格納に利用することが多いので、例えばSRAM(Static Random Access Memory)のような比較的(例えば外部メモリ1312と比較して)小容量だが応答速度が高速な半導体メモリにより実現するのが望ましい。
コーデックエンジン1516は、画像データの符号化や復号に関する処理を行う。このコーデックエンジン1516が対応する符号化・復号の方式は任意であり、その数は1つであってもよいし、複数であってもよい。例えば、コーデックエンジン1516は、複数の符号化・復号方式のコーデック機能を備え、その中から選択されたもので画像データの符号化若しくは符号化データの復号を行うようにしてもよい。
図79に示される例において、コーデックエンジン1516は、コーデックに関する処理の機能ブロックとして、例えば、MPEG-2 Video1541、AVC/H.2641542、HEVC/H.2651543、HEVC/H.265(Scalable)1544、HEVC/H.265(Multi-view)1545、およびMPEG-DASH1551を有する。
MPEG-2 Video1541は、画像データをMPEG-2方式で符号化したり復号したりする機能ブロックである。AVC/H.2641542は、画像データをAVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.2651543は、画像データをHEVC方式で符号化したり復号したりする機能ブロックである。HEVC/H.265(Scalable)1544は、画像データをHEVC方式でスケーラブル符号化したりスケーラブル復号したりする機能ブロックである。HEVC/H.265(Multi-view)1545は、画像データをHEVC方式で多視点符号化したり多視点復号したりする機能ブロックである。
MPEG-DASH1551は、画像データをMPEG-DASH(MPEG-Dynamic Adaptive Streaming over HTTP)方式で送受信する機能ブロックである。MPEG-DASHは、HTTP(HyperText Transfer Protocol)を使ってビデオのストリーミングを行う技術であり、予め用意された解像度等が互いに異なる複数の符号化データの中から適切なものをセグメント単位で選択し伝送することを特徴の1つとする。MPEG-DASH1551は、規格に準拠するストリームの生成やそのストリームの伝送制御等を行い、画像データの符号化・復号については、上述したMPEG-2 Video1541乃至HEVC/H.265(Multi-view)1545を利用する。
メモリインタフェース1517は、外部メモリ1312用のインタフェースである。画像処理エンジン1514やコーデックエンジン1516から供給されるデータは、メモリインタフェース1517を介して外部メモリ1312に供給される。また、外部メモリ1312から読み出されたデータは、メモリインタフェース1517を介してビデオプロセッサ1332(画像処理エンジン1514若しくはコーデックエンジン1516)に供給される。
多重化・逆多重化部(MUX DMUX)1518は、符号化データのビットストリーム、画像データ、ビデオ信号等、画像に関する各種データの多重化や逆多重化を行う。この多重化・逆多重化の方法は任意である。例えば、多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、複数のデータを1つにまとめるだけでなく、所定のヘッダ情報等をそのデータに付加することもできる。また、逆多重化の際に、多重化・逆多重化部(MUX DMUX)1518は、1つのデータを複数に分割するだけでなく、分割した各データに所定のヘッダ情報等を付加することもできる。つまり、多重化・逆多重化部(MUX DMUX)1518は、多重化・逆多重化によりデータのフォーマットを変換することができる。例えば、多重化・逆多重化部(MUX DMUX)1518は、ビットストリームを多重化することにより、転送用のフォーマットのビットストリームであるトランスポートストリームや、記録用のファイルフォーマットのデータ(ファイルデータ)に変換することができる。もちろん、逆多重化によりその逆変換も可能である。
ネットワークインタフェース1519は、例えばブロードバンドモデム1333やコネクティビティ1321等向けのインタフェースである。ビデオインタフェース1520は、例えばコネクティビティ1321やカメラ1322等向けのインタフェースである。
次に、このようなビデオプロセッサ1332の動作の例について説明する。例えば、コネクティビティ1321やブロードバンドモデム1333等を介して外部ネットワークからトランスポートストリームを受信すると、そのトランスポートストリームは、ネットワークインタフェース1519を介して多重化・逆多重化部(MUX DMUX)1518に供給されて逆多重化され、コーデックエンジン1516により復号される。コーデックエンジン1516の復号により得られた画像データは、例えば、画像処理エンジン1514により所定の画像処理が施され、ディスプレイエンジン1513により所定の変換が行われ、ディスプレイインタフェース1512を介して例えばコネクティビティ1321等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン1516の復号により得られた画像データは、コーデックエンジン1516により再符号化され、多重化・逆多重化部(MUX DMUX)1518により多重化されてファイルデータに変換され、ビデオインタフェース1520を介して例えばコネクティビティ1321等に出力され、各種記録媒体に記録される。
さらに、例えば、コネクティビティ1321等により図示せぬ記録媒体から読み出された、画像データが符号化された符号化データのファイルデータは、ビデオインタフェース1520を介して多重化・逆多重化部(MUX DMUX)1518に供給されて逆多重化され、コーデックエンジン1516により復号される。コーデックエンジン1516の復号により得られた画像データは、画像処理エンジン1514により所定の画像処理が施され、ディスプレイエンジン1513により所定の変換が行われ、ディスプレイインタフェース1512を介して例えばコネクティビティ1321等に供給され、その画像がモニタに表示される。また、例えば、コーデックエンジン1516の復号により得られた画像データは、コーデックエンジン1516により再符号化され、多重化・逆多重化部(MUX DMUX)1518により多重化されてトランスポートストリームに変換され、ネットワークインタフェース1519を介して例えばコネクティビティ1321やブロードバンドモデム1333等に供給され図示せぬ他の装置に伝送される。
なお、ビデオプロセッサ1332内の各処理部の間での画像データやその他のデータの授受は、例えば、内部メモリ1515や外部メモリ1312を利用して行われる。また、パワーマネージメントモジュール1313は、例えば制御部1511への電力供給を制御する。
このように構成されるビデオプロセッサ1332に本技術を適用する場合、コーデックエンジン1516に、上述した各実施形態に係る本技術を適用すればよい。つまり、例えば、コーデックエンジン1516が、上述した画像符号化装置100や画像復号装置200を実現する機能ブロックを有するようにすればよい。このようにすることにより、ビデオプロセッサ1332は、図1乃至図62を参照して上述した各実施の形態と同様の効果を得ることができる。
なお、コーデックエンジン1516において、本技術(すなわち、画像符号化装置100や画像復号装置200の機能)は、論理回路等のハードウエアにより実現するようにしてもよいし、組み込みプログラム等のソフトウエアにより実現するようにしてもよいし、それらの両方により実現するようにしてもよい。
以上にビデオプロセッサ1332の構成を2例示したが、ビデオプロセッサ1332の構成は任意であり、上述した2例以外のものであってもよい。また、このビデオプロセッサ1332は、1つの半導体チップとして構成されるようにしてもよいが、複数の半導体チップとして構成されるようにしてもよい。例えば、複数の半導体を積層する3次元積層LSIとしてもよい。また、複数のLSIにより実現されるようにしてもよい。
<装置への適用例>
ビデオセット1300は、画像データを処理する各種装置に組み込むことができる。例えば、ビデオセット1300は、テレビジョン装置900(図73)、携帯電話機920(図74)、記録再生装置940(図75)、撮像装置960(図76)等に組み込むことができる。ビデオセット1300を組み込むことにより、その装置は、図1乃至図62を参照して上述した各実施の形態と同様の効果を得ることができる。
なお、上述したビデオセット1300の各構成の一部であっても、ビデオプロセッサ1332を含むものであれば、本技術を適用した構成として実施することができる。例えば、ビデオプロセッサ1332のみを本技術を適用したビデオプロセッサとして実施することができる。また、例えば、上述したように点線1341により示されるプロセッサやビデオモジュール1311等を、本技術を適用したプロセッサやモジュール等として実施することができる。さらに、例えば、ビデオモジュール1311、外部メモリ1312、パワーマネージメントモジュール1313、およびフロントエンドモジュール1314を組み合わせ、本技術を適用したビデオユニット1361として実施することもできる。いずれの構成の場合であっても、図1乃至図62を参照して上述した各実施の形態と同様の効果を得ることができる。
つまり、ビデオプロセッサ1332を含むものであればどのような構成であっても、ビデオセット1300の場合と同様に、画像データを処理する各種装置に組み込むことができる。例えば、ビデオプロセッサ1332、点線1341により示されるプロセッサ、ビデオモジュール1311、または、ビデオユニット1361を、テレビジョン装置900(図73)、携帯電話機920(図74)、記録再生装置940(図75)、撮像装置960(図76)等に組み込むことができる。そして、本技術を適用したいずれかの構成を組み込むことにより、その装置は、ビデオセット1300の場合と同様に、図1乃至図62を参照して上述した各実施の形態と同様の効果を得ることができる。
また、本明細書では、各種情報が、符号化ストリームに多重化されて、符号化側から復号側へ伝送される例について説明した。しかしながら、これら情報を伝送する手法はかかる例に限定されない。例えば、これら情報は、符号化ビットストリームに多重化されることなく、符号化ビットストリームと関連付けられた別個のデータとして伝送され又は記録されてもよい。ここで、「関連付ける」という用語は、ビットストリームに含まれる画像(スライス若しくはブロックなど、画像の一部であってもよい)と当該画像に対応する情報とを復号時にリンクさせ得るようにすることを意味する。即ち、情報は、画像(又はビットストリーム)とは別の伝送路上で伝送されてもよい。また、情報は、画像(又はビットストリーム)とは別の記録媒体(又は同一の記録媒体の別の記録エリア)に記録されてもよい。さらに、情報と画像(又はビットストリーム)とは、例えば、複数フレーム、1フレーム、又はフレーム内の一部分などの任意の単位で互いに関連付けられてよい。
なお、本技術は以下のような構成も取ることができる。
(1) 画像データを符号化する符号化部と、
前記符号化部により前記画像データが符号化されて得られた符号化データを復号して得られる復号画像データの色差成分に対するデブロッキングフィルタ処理を制御する制御情報を、前記符号化データのヘッダ情報として生成する制御情報生成部と
を備える画像処理装置。
(2) 前記制御情報生成部は、前記制御情報として、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を実行するかを制御する制御情報を生成する
(1)に記載の画像処理装置。
(3) 前記制御情報生成部は、前記制御情報として、前記復号画像データの色差成分に対するデブロッキングフィルタ処理のフィルタ強度を制御する制御情報を生成する
(1)または(2)に記載の画像処理装置。
(4) 前記制御情報生成部は、前記フィルタ強度を制御する制御情報として、デブロッキングフィルタのパラメータβに対するオフセットを制御する制御情報を生成する
(3)に記載の画像処理装置。
(5) 前記制御情報生成部は、前記フィルタ強度を制御する制御情報として、デブロッキングフィルタのパラメータtCに対するオフセットを制御する制御情報を生成する
(3)または(4)に記載の画像処理装置。
(6) 前記制御情報生成部は、
前記ヘッダ情報のシーケンスパラメータセットのシンタクス要素であり、前記復号画像データの前記シーケンスパラメータセットに対応するシーケンスの色差成分に対するデブロッキングフィルタ処理を制御する制御情報、
前記ヘッダ情報のピクチャパラメータセットのシンタクス要素であり、前記復号画像データの前記ピクチャパラメータセットに対応するピクチャの色差成分に対するデブロッキングフィルタ処理を制御する制御情報、
前記ヘッダ情報のスライスヘッダのシンタクス要素であり、前記復号画像データの前記スライスヘッダに対応するスライスの色差成分に対するデブロッキングフィルタ処理を制御する制御情報
の内、少なくともいずれか1つを生成する
(1)乃至(5)のいずれかに記載の画像処理装置。
(7) 前記制御情報生成部により生成された前記制御情報に基づいて、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を行うフィルタ処理部をさらに備える
(1)乃至(6)のいずれかに記載の画像処理装置。
(8) 前記復号画像データの画像の特性に応じたデブロッキングフィルタ処理が行われるように、前記制御情報生成部を制御する制御部をさらに備え、
前記制御情報生成部は、前記制御部の制御に従って前記制御情報を生成する
(1)乃至(7)のいずれかに記載の画像処理装置。
(9) 前記復号画像データの色フォーマットに応じたデブロッキングフィルタ処理が行われるように、前記制御情報生成部を制御する制御部をさらに備え、
前記制御情報生成部は、前記制御部の制御に従って前記制御情報を生成する
(1)乃至(8)のいずれかに記載の画像処理装置。
(10) 画像データを符号化し、
前記画像データが符号化されて得られた符号化データを復号して得られる復号画像データの色差成分に対するデブロッキングフィルタ処理を制御する制御情報を、前記符号化データのヘッダ情報として生成する
画像処理方法。
(11) 画像データの符号化データを復号する復号部と、
前記符号化データのヘッダ情報の、前記復号部により前記符号化データが復号されて得られた復号画像データの色差成分に対するデブロッキングフィルタ処理を制御する制御情報に基づいて、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を行うフィルタ処理部と
を備える画像処理装置。
(12) 前記制御情報は、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を実行するかを制御する制御情報である
(11)に記載の画像処理装置。
(13) 前記制御情報は、前記復号画像データの色差成分に対するデブロッキングフィルタ処理のフィルタ強度を制御する制御情報である
(11)または(12)に記載の画像処理装置。
(14) 前記フィルタ強度を制御する制御情報は、デブロッキングフィルタのパラメータβに対するオフセットを制御する制御情報である
(13)に記載の画像処理装置。
(15) 前記フィルタ強度を制御する制御情報は、デブロッキングフィルタのパラメータtCに対するオフセットを制御する制御情報である
(13)または(14)に記載の画像処理装置。
(16) 前記制御情報は、
前記ヘッダ情報のシーケンスパラメータセットのシンタクス要素であり、前記復号画像データの前記シーケンスパラメータセットに対応するシーケンスの色差成分に対するデブロッキングフィルタ処理を制御する制御情報、
前記ヘッダ情報のピクチャパラメータセットのシンタクス要素であり、前記復号画像データの前記ピクチャパラメータセットに対応するピクチャの色差成分に対するデブロッキングフィルタ処理を制御する制御情報、
前記ヘッダ情報のスライスヘッダのシンタクス要素であり、前記復号画像データの前記スライスヘッダに対応するスライスの色差成分に対するデブロッキングフィルタ処理を制御する制御情報
の内、少なくともいずれか1つを含み、
前記フィルタ処理部は、前記制御情報に含まれるいずれかの情報に基づいて、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を行う
(11)乃至(15)のいずれかに記載の画像処理装置。
(17) 前記フィルタ処理部は、前記スライスヘッダの前記制御情報、前記ピクチャパラメータセットの前記制御情報、前記シーケンスパラメータセットの前記制御情報の順に優先して利用する
(16)に記載の画像処理装置。
(18) 前記フィルタ処理部は、前記復号画像データに対するデブロッキングフィルタ処理を制御する制御情報が存在するかを示す情報に基づいて、前記ピクチャパラメータセットの前記制御情報と前記スライスヘッダの前記制御情報とを参照し、利用する
(16)または(17)に記載の画像処理装置。
(19) 前記フィルタ処理部は、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を制御する制御情報が存在するかを示す情報に基づいて、前記ピクチャパラメータセットの前記制御情報と前記スライスヘッダの前記制御情報とを参照し、利用する
(16)乃至(18)のいずれかに記載の画像処理装置。
(20) 画像データの符号化データを復号し、
前記符号化データのヘッダ情報の、前記符号化データが復号されて得られた復号画像データの色差成分に対するデブロッキングフィルタ処理を制御する制御情報に基づいて、前記復号画像データの色差成分に対するデブロッキングフィルタ処理を行う
画像処理方法。