JPWO2010109904A1 - 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置 - Google Patents

符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置 Download PDF

Info

Publication number
JPWO2010109904A1
JPWO2010109904A1 JP2011505890A JP2011505890A JPWO2010109904A1 JP WO2010109904 A1 JPWO2010109904 A1 JP WO2010109904A1 JP 2011505890 A JP2011505890 A JP 2011505890A JP 2011505890 A JP2011505890 A JP 2011505890A JP WO2010109904 A1 JPWO2010109904 A1 JP WO2010109904A1
Authority
JP
Japan
Prior art keywords
unit
list
view
picture
modification
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2011505890A
Other languages
English (en)
Other versions
JP5574345B2 (ja
Inventor
スン リム チョン
スン リム チョン
西 孝啓
孝啓 西
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011505890A priority Critical patent/JP5574345B2/ja
Publication of JPWO2010109904A1 publication Critical patent/JPWO2010109904A1/ja
Application granted granted Critical
Publication of JP5574345B2 publication Critical patent/JP5574345B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/114Adapting the group of pictures [GOP] structure, e.g. number of B-frames between two anchor frames
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/597Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding specially adapted for multi-view video sequence encoding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる符号化方法を提供する。本発明に係る符号化方法は、ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスを、ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップ(S103)と、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置する配置ステップ(S104)と、参照ピクチャリストを用いて、ランダムアクセス可能なピクチャの対象スライスを符号化する符号化ステップ(S105)とを含む。

Description

本発明は、あらゆるマルチメディアデータの符号化及び復号に用いられる符号化方法、エラー検出方法及び復号方法に関し、特に、多視点映像の符号化及び復号に用いられる符号化方法、エラー検出方法及び復号方法に関する。
視聴者に対して3次元の視覚的効果を提供するにはいくつかの方法がある。1つは、2つの映像を視聴者の左右の目に別々に見せるという方法である。これは、立体撮像と呼ばれ、2台のカメラを用いて2つの映像を撮影するものである。立体映像を表示するために以前から用いられていた技術の1つに、片目ずつ見ることができるように色成分をフィルタリングする方法がある。そのような技術では、各目に届く画像の解像度は低くなる。
近年の表示技術の進歩により、今では視聴者は、片目で最大解像度の映像を視聴することが可能である。H.264/MPEG−4 AVC 多視点映像符号化(MVC)の映像規格は、そのような、各ビューが最大解像度で表示される場合の、3次元画像の圧縮を対象として策定されている。
H.264/MPEG−4 AVC 多視点映像符号化(MVC)の映像規格は、複数のビューのセットを対象とした動画像を効率的に圧縮することを可能にする圧縮ツールセットを提供している。MVCの映像規格により、ビューのセットが異なる再構築ピクチャに基づいた予測符号化を用いて、ピクチャを圧縮することが可能になる。この「ビュー間」予測は、別々のカメラでほぼ同時に撮影された画像の相関関係を利用して、ピクチャを効率的に圧縮する。
MVCの映像規格において、「ビュー間」予測は同一のピクチャオーダカウント情報を有する異なるビューのピクチャに対してのみ行われる。ピクチャオーダカウント情報は、同一ビューの再構築ピクチャの順番を示すために用いられる。MVCの映像規格では、同一のピクチャオーダカウント情報を有する異なるビューのピクチャ(つまり、MVC規格に定義されるビューコンポーネント)は、アクセスユニットと呼ばれるコンテナとしてまとめられる。
MVCの映像規格において、いずれのスライスも同一のアクセスユニット内のスライスのみを参照する符号化ピクチャをアンカーピクチャと呼ぶ。アンカーピクチャは、図1に示すように、符号化ピクチャのNALユニットヘッダに付されたビット、具体的には、anchor_pic_flagを示すビットに基づいて識別される。なお、図1は、アクセスユニットのデータ構造の一例を示す図である。
このビットによって、MVCデコーダは、符号化ビデオシーケンスのアンカーピクチャを識別できるとともに、これらのアンカーピクチャを、MVCデコーダがアンカーピクチャの前にあるピクチャを復号することなく画像を再構築できるランダムアクセスポイントとして利用することができる。
なお、図1に示すように、アクセスユニットに含まれるビューコンポーネントは、第1ビューコンポーネントのみがベースビューコンポーネントとされ、残りのビューコンポーネントはノンベースビューコンポーネントとされる。ベースビューコンポーネントの直後に現れるノンベースビューコンポーネントが第1ノンベースビューコンポーネントとなる。
H.264/MPEG−4 AVC ハイプロファイルは、HD記憶媒体及びHDデジタル放送など、様々な用途で広く用いられている。MVC映像規格で定義されている多視点ハイプロファイルは、H.264/MPEG−4 AVC ハイプロファイルを拡張して策定されており、既に実現されているH.264/MPEG−4 AVC ハイプロファイルデコーダは、簡単な修正により、多視点ハイプロファイルを用いた圧縮映像ストリームの復号に対応させることができる。
アンカーピクチャは、上述したように、ランダムアクセスポイントとして利用することができる。したがって、アンカーピクチャは、特殊再生又はストリーム切り替えなどの機能を必要とするアプリケーションには不可欠である。
アンカーピクチャは、MVCの映像規格において、いずれのスライスも同一のアクセスユニット内のスライスのみを参照する符号化ピクチャと定義されている。MVCの映像規格上、アクセスユニットは、対応ビュー数に応じて、1以上のビューコンポーネントから成る。
多くのアプリケーションでは、圧縮効率を上げるため、アンカーアクセスユニットのビューコンポーネントのうち、イントラ符号化されるのは1つだけで、そのアンカーアクセスユニットの残りのビューコンポーネントは、インター符号化される。インター符号化されるビューコンポーネントは、イントラ符号化されたビューコンポーネントからのビュー間予測を利用する。イントラ符号化されたビューコンポーネントがビューを再構築するには、空間予測ツール(例えば、イントラ予測)のみを利用する。
H.264/MPEG−4 AVC又はMVCなどの映像規格では、参照ピクチャリストを用いて、画像毎にサンプルの予測に使用可能な参照ピクチャを識別する。符号化ピクチャの各符号化ブロックは、参照ピクチャリストにインデックスを発信することで予測用の参照ピクチャを参照できる(特許文献1参照)。
各ビューコンポーネントのサンプルについて、インター予測及びビュー間予測の両方のリストを作成する初期化処理が、MVCに規定されている。MVCの映像規格に規定されているように、参照リストの初期化処理は、同一ビューの参照ピクチャをリストの先頭に置き、ビュー間参照ピクチャを参照ピクチャリストの最後に付す。このような参照ピクチャリストの例を図2に示す。なお、図2は、従来の参照ピクチャリストの初期化処理の一例を説明するための図である。
以上のように、ビュー内参照ピクチャ(インター予測)とビュー間参照ピクチャとを示す参照リストを用いて予測符号化を行うことができる。
特開2007−159111号公報
しかしながら、上記従来技術には、ビューコンポーネントのブロック毎にインデックス(参照インデックス)を参照ピクチャリストに発信する必要があり、これらの参照インデックスを転送するビットが多くなり、符号化効率が良くないという問題がある。
図1に示すように、参照インデックスの発信は、スライスのマクロブロックごとに行われる。アンカーピクチャは、インター予測(同一ビューの再構築済みピクチャによる予測)ができないので、参照ピクチャリストのインデックスの大半が使用されないことになる。
具体的に、図2に示す例では、アクセスユニット10に含まれるピクチャがアンカーピクチャである場合、第2ビューに含まれるビューコンポーネント20を符号化する際に、参照ピクチャA〜Dは参照されずに、ビューコンポーネント20を符号化する際には、ビュー間参照ピクチャEが参照される。したがって、マクロブロック毎に参照インデックス[4]が符号化されることが多く、参照インデックス[0]〜[3]は符号化されない。
このとき、一般的には、参照ピクチャリストに参照インデックスを発信するためのビットは、図3に示すように、参照インデックスの値とともに増加する。図3は、スライスの符号化に用いるエントロピー符号化の種類が可変長エントロピー符号化である場合の参照インデックスの値と参照インデックスを符号化したときのビット数との関係を示す。
図3に示すように、ビュー間参照ピクチャが常に参照ピクチャリストの最後に付されるので、ビュー間参照ピクチャ用の参照インデックス(図2の例では、ビュー間参照ピクチャEを示す参照インデックス)の値は小さくなることがない。したがって、ビューコンポーネントのこのような参照インデックスを符号化するためのビットはかなり多くなる。
そこで、本発明は、上記課題を解決するためになされたものであって、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる符号化方法及び符号化装置を提供することを目的とする。
上記課題を解決するため、本発明に係る符号化方法は、ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、ビュー間参照ピクチャが先頭に配置されるように第1参照ピクチャリストを修正するための第1参照リスト修正シンタックスを、前記ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップと、前記ビュー間参照ピクチャを前記第1参照ピクチャリストの先頭に配置する配置ステップと、前記第1参照ピクチャリストを用いて、前記ランダムアクセス可能なピクチャの対象スライスを符号化する符号化ステップとを含む。
ランダムアクセス可能なピクチャでは、ビュー間参照ピクチャを参照する場合が多いので、本発明に係る符号化方法によれば、ビュー間参照ピクチャを示す参照インデックスが小さい値となり、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
また、前記符号化方法は、さらに、NALユニットヘッダに書き込みを行うNALユニットヘッダ書き込みステップを含み、前記NALユニットヘッダ書き込みステップでは、前記対象スライスがアンカーピクチャに含まれるスライスであることを示す値を、anchor_pic_flagに設定し、前記anchor_pic_flagを前記NALユニットヘッダに書き込んでもよい。
これにより、NALユニットヘッダにアンカーピクチャであることを示す値を書き込むことができるので、復号の際には、NALユニットヘッダを解析するだけで復号対象の画像がアンカーピクチャであるか否かを判定することができる。
また、前記スライスヘッダ書き込みステップは、さらに、前記対象スライスのスライスタイプがBスライスであるか否かを判定し、前記対象スライスのスライスタイプがBスライスである場合に、ビュー間参照ピクチャが先頭に配置されるように、前記第1参照ピクチャリストとは異なる第2参照ピクチャリストを修正するための第2参照リスト修正シンタックスを前記スライスヘッダに書き込んでもよい。
これにより、複数の参照ピクチャリストを利用する場合であっても、それぞれの参照ピクチャリストの先頭にビュー間参照ピクチャを配置させることができ、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
また、前記第1参照リスト修正シンタックスの書き込みでは、前記第1参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l0に設定し、前記ref_pic_list_modification_flag_l0を前記スライスヘッダに書き込み、第1abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第1modification_of_pic_nums_idcに設定し、前記第1modification_of_pic_nums_idcを前記スライスヘッダに書き込み、前記第1abs_diff_view_idx_minus1に0を設定し、前記第1abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、前記第1参照ピクチャリストの修正を終了することを示す値を、第2modification_of_pic_nums_idcに設定し、前記第2modification_of_pic_nums_idcを前記スライスヘッダに書き込むんでもよい。
これにより、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置することを、複数のパラメータによってスライスヘッダに書き込むことができるので、復号の際には、スライスヘッダを解析するだけで参照ピクチャリストが修正されているか否かを判定することができる。
また、前記第1参照リスト修正シンタックスの書き込みでは、前記ref_pic_list_modification_flag_l0と、前記第1modification_of_pic_nums_idcと、前記第1abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込んでもよい。
これにより、各パラメータが順に連続して書き込まれているので、復号の際のスライスヘッダの解析が容易になる。
また、前記第2参照リスト修正シンタックスの書き込みでは、前記第2参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l1に設定し、前記ref_pic_list_modification_flag_l1を前記スライスヘッダに書き込み、第2abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第3modification_of_pic_nums_idcに設定し、前記第3modification_of_pic_nums_idcを前記スライスヘッダに書き込み、前記第2abs_diff_view_idx_minus1に0を設定し、前記第2abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、前記第2参照ピクチャリストの修正を終了することを示す値を、第4modification_of_pic_nums_idcに設定し、前記第4modification_of_pic_nums_idcを前記スライスヘッダに書き込んでもよい。
これにより、複数の参照ピクチャリストを利用する場合であっても、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置することを、複数のパラメータによってスライスヘッダに参照ピクチャリスト毎に書き込むことができるので、復号の際には、スライスヘッダを解析するだけで参照ピクチャリストのそれぞれが修正されているか否かを判定することができる。
また、前記第2参照リスト修正シンタックスの書き込みでは、前記ref_pic_list_modification_flag_l1と、前記第3modification_of_pic_nums_idcと、前記第2abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込んでもよい。
これにより、各パラメータが順に連続して書き込まれているので、復号の際のスライスヘッダの解析が容易になる。
また、前記ランダムアクセス可能なピクチャは、アンカーピクチャであってもよい。
また、本発明に係るエラー検出方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出方法であって、前記ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する初期化ステップと、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータを、前記ランダムアクセス可能なピクチャのスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定ステップと、前記エラーが発生していると判定された場合に、前記detected_error_flagに、前記ランダムアクセス可能なピクチャにエラーが発生していることを示す値を設定する設定ステップとを含み、前記判定ステップでは、(i)前記スライスヘッダから、前記パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値であるか否かを判定し、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値ではない場合をエラーが発生していると判定する第1判定処理と、(ii)前記スライスヘッダから、前記パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定し、前記modification_of_pic_nums_idcが、前記abs_diff_view_idx_minus1が前記予測値に加算する値に対応することを示す値ではない場合をエラーが発生していると判定する第2判定処理と、(iii)前記スライスヘッダから、前記パラメータとして、前記abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定し、前記abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定する第3判定処理との少なくとも1つの判定処理を行う。
これにより、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャが、正しく符号化されているか否かを判定することができる。
また、前記スライスヘッダには、前記ref_pic_list_modification_flag_l0と、前記modification_of_pic_nums_idcと、前記abs_diff_view_idx_minus1とが、順に連続して書き込まれており、前記判定ステップでは、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とのいずれかの判定処理によってエラーが発生していると判定されるまで、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とを順に行ってもよい。
これにより、複数のパラメータのうち1つでも正しい値が書き込まれていない場合にエラーを検出することができる。
また、前記ランダムアクセス可能なピクチャは、アンカーピクチャであってもよい。
また、本発明に係る復号方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号方法であって、前記ランダムアクセス可能なピクチャのスライスヘッダを解析することで、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストが修正されているか否かを判定する解析ステップと、前記参照ピクチャリストが修正されていると判定した場合、予め定められた規格に従って予測画像を生成し、前記参照ピクチャリストが修正されていないと判定した場合、前記規格とは異なる方法に従って予測画像を生成する予測ステップと、前記予測画像に基づいて前記ランダムアクセス可能なピクチャの対象スライスを復号する復号ステップとを含む。
これにより、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャを正しく復号することができる。
また、前記解析ステップでは、前記スライスヘッダを解析することで、ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値であるか否かを判定してもよい。
これにより、ref_pic_list_modification_flag_l0パラメータを読み取るだけで、参照ピクチャリストが修正されているか否かを判定することができる。
また、前記予測ステップでは、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値である場合、(i)前記参照ピクチャリストを修正するための修正シンタックスをスライスヘッダから読み出し、(ii)前記ビュー間参照ピクチャを前記参照ピクチャリストの先頭に配置し、(iii)前記参照ピクチャリストを用いて動き予測を行うことで、前記予測画像を生成してもよい。
これにより、規格に従って復号するだけで、参照ピクチャリストの修正を行うことができ、正確にランダムアクセス可能な符号化ピクチャを復号することができる。
また、前記予測ステップでは、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値でない場合、参照インデックスを参照することなく、ベースビューの画像を参照画像として前記予測画像を生成してもよい。
これにより、参照ピクチャリストが修正されていない場合であっても、ランダムアクセス可能な符号化ピクチャを復号することができる。
なお、本発明は、符号化方法、エラー検出方法及び復号方法として実現できるだけではなく、当該符号化方法、エラー検出方法及び復号方法に含まれる処理ステップを処理部として備える装置として実現することもできる。
本発明によれば、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
図1は、アクセスユニットのデータ構造の一例を示す図である。 図2は、従来の参照ピクチャリストの初期化処理の一例を説明するための図である。 図3は、参照インデックスの値と、可変長エントロピー符号化によって参照インデックスの値を符号化したときのビット数との関係の一例を示す図である。 図4は、本発明の実施の形態1に係る符号化装置の構成の一例を示すブロック図である。 図5は、本発明の実施の形態1に係るノンベースビューコンポーネントを符号化する符号化部の構成の一例を示すブロック図である。 図6は、本発明の実施の形態1に係る参照ピクチャリストの修正の一例を説明するための図である。 図7Aは、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネント(Pピクチャ)を符号化した場合のストリーム構造の一例を示す図である。 図7Bは、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネント(Bピクチャ)を符号化した場合のストリーム構造の一例を示す図である。 図8は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する処理の一例を示すフローチャートである。 図9は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する際に、参照リストMVC修正シンタックスを書き込む処理の一例を示すフローチャートである。 図10は、本発明の実施の形態2に係る復号装置の構成の一例を示すブロック図である。 図11は、本発明の実施の形態2に係るエラー検出部の構成の一例を示すブロック図である。 図12は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントのエラーを検出する処理の一例を示すフローチャートである。 図13は、本発明の実施の形態2に係るMVCデコーダ部の構成の一例を示すブロック図である。 図14は、本発明の実施の形態2に係るMVCデコーダ部の詳細な構成の一例を示すブロック図である。 図15は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントを復号する処理の一例を示すフローチャートである。 図16は、本発明の実施の形態の変形例に係る復号装置の構成の一例を示すブロック図である。 図17は、本発明の実施の形態の変形例に係る復号装置の動作の一例を示すブロック図である。 図18は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成の一例を示す模式図である。 図19は、携帯電話の外観を示す図である。 図20は、携帯電話の構成例を示すブロック図である。 図21は、デジタル放送用システムの全体構成の一例を示す模式図である。 図22は、テレビの構成例を示すブロック図である。 図23は、光ディスクである記録メディアに情報の読み書きを行う情報再生記録部の構成例を示すブロック図である。 図24は、光ディスクである記録メディアの構造例を示す図である。 図25は、各実施の形態に係る画像符号化方法及び画像復号方法を実現する集積回路の構成例を示すブロック図である。
以下では、本発明の実施の形態について、図面を用いて詳細に説明する。
(実施の形態1)
本発明の実施の形態1に係る符号化方法は、ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、ビュー内参照ピクチャとビュー間参照ピクチャとを示す参照ピクチャリストを、ビュー間参照ピクチャが先頭に配置されるように修正するための修正シンタックスを、ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップと、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置する配置ステップと、参照ピクチャリストを用いて、ランダムアクセス可能なピクチャを符号化する符号化ステップとを含むことを特徴とする。
まず、本発明に係る符号化方法を実施する符号化装置の一例について説明する。
図4は、本発明の実施の形態1に係る符号化装置100の構成の一例を示す図である。符号化装置100は、複数のビューを含む画像を符号化する装置であり、図4に示す例では、ベースビューの画像とノンベースビューの画像とを符号化する。符号化装置100は、第1ビューコンポーネント符号化部110と、記憶部120と、第2ビューコンポーネント符号化部130とを備える。
第1ビューコンポーネント符号化部110は、第1ビューの画像、すなわち、ベースビューの画像201を取得し、取得したベースビューの画像201を圧縮符号化することで、圧縮ベースビューコンポーネント202を生成する。生成された圧縮ベースビューコンポーネント202は、ビットストリームとして出力される。さらに、第1ビューコンポーネント符号化部110は、圧縮ベースビューコンポーネント202をローカル復号することで、再構築画像203を生成する。生成された再構築画像203は、記憶部120に格納される。
記憶部120は、参照画像を記憶するためのメモリである。具体的には、記憶部120は、第1ビューコンポーネント符号化部110によって生成された再構築画像203を参照画像として記憶する。
第2ビューコンポーネント符号化部130は、第2ビューの画像、すなわち、ノンベースビューの画像211を取得し、取得したノンベースビューの画像を圧縮符号化することで、圧縮ノンベースビューコンポーネント212を生成する。具体的には、第2ビューコンポーネント符号化部130は、記憶部120から参照画像213を読み出し、読み出した参照画像213を用いて予測画像を生成し、生成した予測画像とノンベースビューの画像211との差分を符号化する。なお、生成された圧縮ノンベースビューコンポーネント212は、ビットストリームとして出力される。
また、第2ビューコンポーネント符号化部130は、ランダムアクセス可能なピクチャ、例えば、アンカーピクチャを符号化する際には、参照ピクチャリストの修正を行う。第2ビューコンポーネント符号化部130の詳細な構成については、図5を用いて後で説明する。
図5は、本発明の実施の形態1に係る第2ビューコンポーネント符号化部130の構成の一例を示すブロック図である。図5に示すように、第2ビューコンポーネント符号化部130は、符号化部301と、ヘッダ書き込み部302と、リスト修正部303とを備える。
符号化部301は、ノンベースビューの画像211を、参照ピクチャリストを用いて符号化することで、圧縮ノンベースビューコンポーネント212を生成する。具体的には、符号化部301は、符号化対象のノンベースビューの画像211がランダムアクセス可能なピクチャに含まれる画像である場合、リスト修正部303によって修正された参照ピクチャリストを用いて、記憶部120から参照画像213を読み出す。なお、ランダムアクセス可能なピクチャは、例えば、アンカーピクチャである。
アンカーピクチャを符号化する際にビュー間参照を行う場合は、記憶部120から読み出される参照画像213は、同一アクセスユニットに含まれるベースビューの再構築画像である。そして、符号化部301は、参照画像213を用いて予測画像を生成し、生成した予測画像とノンベースビューの画像211との差分を符号化する。
ヘッダ書き込み部302は、ノンベースビューの画像211がランダムアクセス可能なピクチャに含まれる画像である場合、参照ピクチャリストを変更するための修正シンタックスをスライスヘッダに書き込む。修正シンタックスは、例えば、参照リストMVC修正シンタックスであり、図1に示すref_pic_list_mvc_modifications()である。ヘッダ書き込み部302が書き込む修正シンタックスの具体例については、後で説明する。
なお、参照ピクチャリストは、参照インデックスと参照画像との対応関係を示すリストである。図2に示すように、参照ピクチャリストは、ビュー内参照ピクチャとビュー間参照ピクチャとを複数の参照インデックスのそれぞれに対応付けて示している。
さらに、ヘッダ書き込み部302は、NALユニットヘッダにanchor_pic_flagを書き込む。具体的には、ヘッダ書き込み部302は、ノンベースビューの画像211がアンカーピクチャに含まれる画像である場合、アンカーピクチャであることを示す値(具体的には、1)を、anchor_pic_flagに設定し、設定したanchor_pic_flagをNALユニットヘッダに書き込む。なお、anchor_pic_flagの具体例については、後で説明する。
リスト修正部303は、本発明に係る配置部の一例であって、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置するように、参照ピクチャリストを修正する。つまり、リスト修正部303は、参照インデックスと参照ピクチャとの対応関係を変更する。具体的には、参照インデックス[0]が、ビュー間参照ピクチャを示すように、参照ピクチャリストを変更する。
例えば、図6に示すように、リスト修正部303は、参照インデックス[4]に対応付けられていたビュー間参照ピクチャEを、参照インデックス[0]に対応付けるように、参照ピクチャリストを修正する。これにより、ノンベースビューの画像211が、アンカーピクチャに含まれる画像である場合は、参照インデックスを符号化するのに必要な符号量を削減することができる。
例えば、図2のビューコンポーネント20に含まれるノンベースビューの画像211が、アンカーピクチャに含まれる画像である場合は、同一アクセスユニット内の画像のみが参照画像となる。すなわち、ノンベースビューの画像211を符号化する際に、参照ピクチャA〜Dを参照することはなく、ビュー間参照ピクチャEが参照される。
したがって、頻繁に使用される参照インデックスは参照インデックス[0]であり、図3に示す例では、1ビットで表現することができる。参照ピクチャリストの修正前は、ビュー間参照ピクチャEを示す参照インデックスは参照インデックス[4]であり、5ビット必要であったため、参照インデックスを符号化するのに必要な符号量を削減することができる。
以上の構成により、本発明に係る符号化装置100は、ランダムアクセス可能なピクチャを符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置する。これにより、頻繁に使用されるビュー間参照ピクチャの参照インデックスが小さい値となり、参照インデックスを符号化するために必要な符号量、すなわち、参照インデックスを示すビットを削減することができるので、符号化効率を向上させることができる。
以下では、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化することで生成されるストリーム構造の一例について説明する。なお、アクセスユニットのノンベースビューコンポーネントの位置は、図1に示す通りである。
図7Aは、アンカーアクセスユニットのノンベースビューコンポーネントの符号化Pスライスのストリーム構造の一例を示す図である。
図7Aに示すように、anchor_pic_flagは、NALユニットヘッダに書き込まれている。anchor_pic_flagは、当該anchor_pic_flagが付された画像が、アンカーピクチャに含まれる画像であるか否かを判定するために用いられるフラグである。
具体的には、anchor_pic_flagの値が1であることは、ピクチャを構成する全てのスライスが、同一アクセスユニット内のスライスのみを参照して符号化された、すなわち、インター予測(時間方向)を使用していないことを示している。また、anchor_pic_flagの値が1であることは、表示順で後続する符号化ピクチャが、復号順でその符号化ピクチャより前のピクチャを参照しないことを示している。
つまり、値が1に設定されたanchor_pic_flagが付されたピクチャは、ランダムアクセス可能である。逆に、値が0に設定されたanchor_pic_flagが付されたピクチャはランダムアクセスされない。したがって、例えば、アンカーピクチャの全てのNALユニットに含まれるanchor_pic_flagは、1に設定されている。
また、図7Aに示すように、ref_pic_list_modification_flag_l0、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1は、スライスヘッダに書き込まれている。これら3つのパラメータが、図1に示すref_pic_list_mvc_modification()、すなわち、参照リストMVC修正シンタックスに相当する。
ref_pic_list_modification_flag_l0は、参照ピクチャリストを修正するか否かを示すパラメータである。具体的には、ref_pic_list_modification_flag_l0の値が1であることは、第1参照ピクチャリスト(リスト0)を修正することを示し、ref_pic_list_modification_flag_l0の値が0であることは、第1参照ピクチャリスト(リスト0)を修正しないことを示している。
なお、第1参照ピクチャリストは、例えば、Pピクチャが参照する参照画像を示すリストである。あるいは、第1参照ピクチャリストは、例えば、Bピクチャが参照する参照画像のうち、一方向(例えば、前方)の参照画像を示すリストである。
modification_of_pic_nums_idcは、abs_diff_view_idx_minus1などの他のパラメータとともに用いられ、参照ピクチャリストの修正処理の方法を示すパラメータである。例えば、modification_of_pic_nums_idcの値が5であることは、abs_diff_view_idx_minus1の値がビュー間参照インデックスの予測値に加算する値に対応することを示している。また、modification_of_pic_nums_idcの値が3であることは、参照ピクチャリストの修正処理が完了したことを示している。
abs_diff_view_idx_minus1は、ビュー間参照インデックスに関する値を示している。具体的には、modification_of_pic_nums_idcの値が5である場合、abs_diff_view_idx_minus1の値は、ビュー間参照インデックスの予測値に加算する差分値に相当する。したがって、abs_diff_view_idx_minus1の値が0である場合は、ビュー間参照インデックスは[0]となり、ビュー間参照ピクチャが参照リストの先頭に配置される。
図7Bは、アンカーアクセスユニットのノンベースビューコンポーネントの符号化Bスライスのストリーム構造の一例を示す図である。図7Aに示す符号化Pスライスの場合と比較して、さらに、ref_pic_list_modification_l1、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1がスライスヘッダに書き込まれている。
ref_pic_list_modification_l1は、参照ピクチャリストを修正するか否かを示すパラメータである。具体的には、ref_pic_list_modification_flag_l1の値が1であることは、第2参照ピクチャリスト(リスト1)を修正することを示し、ref_pic_list_modification_flag_l1の値が0であることは、第2参照ピクチャリスト(リスト0)を修正しないことを示している。なお、第2参照ピクチャリストは、例えば、Bピクチャが参照する参照画像のうち、一方向(例えば、後方)の参照画像を示すリストである。
modification_of_pic_nums_idc及びabs_diff_view_idx_minus1については、図7Aに示すものと同じであるので、説明を省略する。
以下では、本発明の実施の形態1に係る符号化装置100の動作について説明する。
図8は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントの符号化処理の一例を示すフローチャートである。
図8に示すように、まず、ヘッダ書き込み部302は、anchor_pic_flagパラメータの値を1に設定する(S101)。次に、ヘッダ書き込み部302は、anchor_pic_flagパラメータをスライスのNALユニットヘッダに書き込む(S102)。
そして、ヘッダ書き込み部302は、参照リストMVC修正シンタックスをスライスヘッダに書き込む(S103)。その後、リスト修正部303は、ビュー間参照ピクチャを参照ピクチャリストの先頭に置く(S104)。ビュー間参照ピクチャは、例えば、アンカーアクセスユニットのベースビューコンポーネントである。
最後に、符号化部301は、ビュー間参照ピクチャを用いてノンベースビューコンポーネントを符号化する(S105)。
以上のようにして、本発明の実施の形態1に係る符号化装置100は、符号化対象の画像が、アンカーピクチャなどのランダムアクセス可能なピクチャに含まれる画像である場合に、ビュー間参照ピクチャを参照リストの先頭に配置するように、参照ピクチャリストを修正する。以下では、具体的な参照リストMVC修正シンタックスの書き込み処理(S103)について説明する。
図9は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する際に、参照リストMVC修正シンタックスを書き込む処理の一例を示すフローチャートである。
図9に示すように、まず、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l0パラメータの値を1に設定する(S201)。そして、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l0パラメータをスライスヘッダに書き込む(S202)。このようにして、ヘッダ書き込み部302は、参照ピクチャリスト(第1参照ピクチャリスト)を修正することを示す値をスライスヘッダに書き込む。
次に、ヘッダ書き込み部302は、第1modification_of_pic_nums_idcパラメータの値を5に設定する(S203)。それから、ヘッダ書き込み部302は、スライスヘッダのref_pic_list_modification_flag_l0パラメータの後ろの位置に、第1modification_of_pic_nums_idcパラメータを書き込む(S204)。
次に、ヘッダ書き込み部302は、abs_diff_view_idx_minus1パラメータの値を0に設定する(S205)。そして、ヘッダ書き込み部302は、スライスヘッダの第1modification_of_pic_nums_idcパラメータの後ろの位置に、abs_diff_view_idx_minus1パラメータを書き込む(s206)。このようにして、ヘッダ書き込み部302は、ビュー間参照ピクチャを参照リストの先頭に配置することを示す値をスライスヘッダに書き込む。
そして、ヘッダ書き込み部302は、第2modification_of_pic_nums_idcパラメータの値を3に設定する(S207)。次に、ヘッダ書き込み部302は、スライスヘッダの第1abs_diff_view_idx_minus1パラメータの後ろの位置に、第2modification_of_pic_nums_idcパラメータをスライスヘッダに書き込む(S208)。このようにして、ヘッダ書き込み部302は、参照ピクチャリストの修正処理を完了することを示す値をスライスヘッダに書き込む。
ただし、第2modification_of_pic_nums_idcの数値3を書き込むのは、スライスヘッダ中、abs_diff_view_idx_minus1パラメータの直後でないこともあるが、ref_pic_list_modification_flag_l1パラメータより前の位置に少なくとも一度は書き込むか、あるいは、参照リストMVC修正シンタックスの最後のパラメータ位置に書き込むものとする。
ここで、スライスタイプがBスライスであるかを判定する(S209)。この判定は、例えば、符号化部301又は制御部(図4及び図5には図示していない)によって実施される。
スライスタイプがPスライスであった場合(S209でNo)、参照リストMVC修正シンタックスの書き込み処理は終了する。
スライスタイプがBスライスであった場合(S209でYes)、ヘッダ書き込み部302は、スライスヘッダ中の第2modification_of_pic_nums_idcパラメータの数値3の後に、新たなパラメータを書き込む。具体的には、まず、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l1パラメータの値を1に設定する(S210)。そして、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l1をスライスヘッダに書き込む(S211)。このようにして、ヘッダ書き込み部302は、第2参照ピクチャリストを修正することを示す値をスライスヘッダに書き込む。
次に、ヘッダ書き込み部302は、新たなmodification_of_pic_nums_idcパラメータの値を5に設定し(S212)、スライスヘッダのref_pic_list_modification_flag_l1パラメータの後ろの位置に書き込む(S213)。さらに、ヘッダ書き込み部302は、新たなabs_diff_view_idx_minus1パラメータの値を0に設定し(S214)、スライスヘッダのmodification_of_pic_nums_idcパラメータの後ろの位置に書き込む(S215)。このようにして、ヘッダ書き込み部302は、ビュー間参照ピクチャを参照リストの先頭に配置することを示す値をスライスヘッダに書き込む。
最後に、ヘッダ書き込み部302は、末尾のmodification_of_pic_nums_idcパラメータの値を3に設定し(S216)、参照リストMVC修正シンタックスの最後のパラメータ位置に書き込む(S217)。
以上のように、本発明の実施の形態1に係る符号化装置100は、ランダムアクセス可能なピクチャ、例えば、アンカーピクチャを符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置することを示すシンタックスをスライスヘッダに書き込む。さらに、符号化装置100は、ノンベースビューのアンカーピクチャに含まれる画像を符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置するように参照ピクチャリストを修正し、修正した参照ピクチャリストに従ってノンベースビューの画像を符号化する。
これにより、頻繁に使用されるビュー間参照ピクチャの参照インデックスの値を小さくすることができ、参照インデックスを符号化するのに必要な符号量を削減することができる。また、符号化ストリームのスライスヘッダに参照ピクチャリストを修正することを示すシンタックスが含まれているので、復号装置側で符号化ストリームを適切に復号することができる。
なお、上記の実施の形態では、アンカーアクセスユニットがベースビューコンポーネントとノンベースビューコンポーネントとの2つのビューコンポーネントから構成される例について示したが、図1に示すように、アンカーアクセスユニットは、複数のノンベースビューコンポーネントを含んでいてもよい。
この場合、リスト修正部303は、複数のビュー間参照ピクチャのそれぞれを示す参照インデックスが、ビュー内参照ピクチャを示す参照インデックスより値が小さくなるように、参照ピクチャリストを修正する。例えば、1つのノンベースビューコンポーネント(第1ノンベースビューコンポーネント)が複数のビューコンポーネント(ベースビューコンポーネント及び第2ベースビューコンポーネント)を参照する場合、例えば、リスト修正部303は、参照インデックス[0]がベースビューコンポーネントを示し、参照インデックス[1]が第2ノンベースビューコンポーネントを示すように、参照ピクチャリストを修正する。
(実施の形態2)
本発明の実施の形態2に係るエラー検出方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出方法であって、ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を所定のエラー検出フラグに設定する初期化ステップと、参照ピクチャリストを、ビュー間参照ピクチャが先頭に配置されるように修正するための修正シンタックスに含まれるパラメータをスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定ステップと、エラーが発生していると判定された場合に、エラーが発生していることを示す値をエラー検出フラグに設定する設定ステップとを含むことを特徴とする。
また、本発明の実施の形態2に係る復号方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号方法であって、ランダムアクセス可能なピクチャのスライスヘッダを解析することで、参照ピクチャリストが、ビュー間参照ピクチャが先頭に配置されるように修正されているか否かを判定する解析ステップと、参照ピクチャリストが修正されていると判定された場合に、予め定められた規格に従って予測画像を生成し、参照ピクチャリストが修正されていないと判定した場合、上記規格とは異なる方法に従って予測画像を生成する予測ステップと、予測画像に基づいてランダムアクセス可能なピクチャを復号する復号ステップとを含むことを特徴とする。
まず、本発明の実施の形態2に係るエラー検出方法及び復号方法を実施する復号装置の構成の一例について説明する。
図10は、本発明の実施の形態2に係る復号装置400の構成の一例を示すブロック図である。復号装置400は、複数のビューの画像が符号化されて生成された符号化ストリーム(MVCビットストリーム501)を復号する装置であり、ビットストリームのエラーを検出する機能を備えている。図10に示すように、復号装置400は、エラー検出部410と、切り替え部420と、MVCデコーダ部430と、記憶部440と、エラー隠蔽部450とを備える。
エラー検出部410は、本発明の実施の形態2に係るエラー検出方法を実施する処理部の一例である。エラー検出部410は、MVCビットストリーム501に含まれる符号化ピクチャであって、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出する。例えば、エラー検出部410は、アンカーユニットに含まれる圧縮ノンベースビューコンポーネントにエラーが発生しているか否かを判定する。
エラーが検出された場合、エラー検出部410は、予め定められたエラー検出フラグ502に、エラーが発生していることを示す値を設定し、設定したエラー検出フラグ502を切り替え部420へ出力する。図10に示す例では、エラー検出フラグ502は、detected_error_flagであり、エラーが検出された場合、detected_error_flagに1を設定する。エラーが検出されていない場合、例えば、初期状態では、detected_error_flagは0が設定される。なお、エラー検出部410の詳細な構成については、後で説明する。
切り替え部420は、エラー検出フラグ502に応じて、MVCビットストリーム501をMVCデコーダ部430及びエラー隠蔽部450のいずれに出力するかを切り替える。具体的には、切り替え部420は、エラーが発生していることをエラー検出フラグ502が示す場合は、MVCビットストリーム501をエラー隠蔽部450へ出力する。例えば、切り替え部420は、detected_error_flagの値が1である場合、MVCビットストリーム501をエラー隠蔽部450へ出力する。
また、切り替え部420は、エラーが発生していないことをエラー検出フラグ502が示す場合は、MVCビットストリーム501をMVCデコーダ部430へ出力する。例えば、切り替え部420は、detected_error_flagの値が0である場合、MVCビットストリーム501をMVCデコーダ部430へ出力する。
MVCデコーダ部430は、本発明の実施の形態2に係る復号方法を実施する処理部の一例であり、MVCビットストリーム501を復号する。具体的には、MVCデコーダ部430は、記憶部440から参照画像503を読み出し、読み出した参照画像503を用いて予測画像を生成し、生成した予測画像を利用して、MVCビットストリーム501に含まれるランダムアクセス可能なピクチャを復号する。復号により生成された再構築画像504は、外部に出力されるとともに、記憶部440に格納される。なお、MVCデコーダ部430の詳細な構成については、後で説明する。
記憶部440は、再構築画像504を記憶するためのメモリである。なお、記憶部440には、MVCデコーダ部430によって生成された再構築画像504のうち、後続の処理で参照される可能性のある画像のみを記憶させてもよい。
エラー隠蔽部450は、圧縮ノンベースビューコンポーネントに発生したエラーを隠蔽するエラー隠蔽処理を実施する。例えば、エラー隠蔽部450は、エラーが発生しているノンベースビューコンポーネントと同一のアクセスユニットに含まれる、再構築されたベースビューコンポーネント505を記憶部440から読み出し、読み出した再構築されたベースビューコンポーネント505をノンベースビューコンポーネントの再構築画像506として出力する。
なお、エラー隠蔽部450が実施するエラー隠蔽処理は、これに限らず、他の画像を利用した動き予測及び動き補償処理などを実行することで、エラー隠蔽画像を生成し、生成したエラー隠蔽画像を再構築画像506として出力してもよい。
ここで、図10に示す復号装置400の処理部の動作について、簡単にデータの流れに沿って説明する。まず、MVCビットストリーム501がエラー検出部410によって読み取られ、エラー検出フラグ502の一例であるdetected_error_flagパラメータが出力される。
切り替え部420は、エラー検出部410からdetected_error_flagパラメータを読み取り、detected_error_flagの値が0であれば、MVCビットストリーム501に含まれる符号化ビューコンポーネントをMVCデコーダ部430に出力する。MVCデコーダ部430は、符号化ビューコンポーネントを読み取り、記憶部440から参照画像503を読み取って、再構築画像504を出力する。なお、再構築画像504は、その後、記憶部440に格納される。
detected_error_flagの値が1である場合、切り替え部420は、MVCビットストリーム501に含まれるノンベースビューコンポーネントをエラー隠蔽部450に送信する。エラー隠蔽部450は、再構築されたベースビューコンポーネント505及び符号化ノンベースビューコンポーネントを読み取り、エラー隠蔽画像を再構築画像506として出力する。エラー隠蔽部450が用いるエラー隠蔽方法には、例えば、再構築ベースビューを複製して、ノンベースビューとして出力するという方法がある。
次に、本発明の実施の形態2に係るエラー検出方法を実施するエラー検出部410の構成について、図11を用いて説明する。なお、図11は、本発明の実施の形態2に係るエラー検出部410の構成の一例を示すブロック図である。
図11に示すように、エラー検出部410は、パラメータ判定部601と、エラーフラグ設定部602とを備える。
パラメータ判定部601は、参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータをスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する。具体的には、パラメータ判定部601は、以下の3つの第1〜第3判定処理の少なくとも1つを行う。
第1判定処理は、スライスヘッダから、パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、参照ピクチャリストを修正することを示す値(例えば、1)であるか否かを判定する処理である。第1判定処理では、ref_pic_list_modification_flag_l0が、参照ピクチャリストを修正することを示す値(例えば、1)ではない場合をエラーが発生していると判定される。
第2判定処理は、スライスヘッダから、パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値(例えば、5)であるか否かを判定する処理である。第2判定処理では、modification_of_pic_nums_idcが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値(例えば、5)ではない場合をエラーが発生していると判定される。
第3判定処理は、スライスヘッダから、パラメータとして、abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定する。第3判定処理では、abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定される。
なお、図7A及び図7Bに示すように、スライスヘッダには、ref_pic_list_modification_flag_l0と、modification_of_pic_nums_idcと、abs_diff_view_idx_minus1とが順に連続して書き込まれている。したがって、パラメータ判定部601は、具体的には、第1〜第3判定処理とのいずれかの判定処理によってエラーが発生していると判定されるまで、第1〜第3判定処理を順に行う。
エラーフラグ設定部602は、まず、エラー検出フラグの初期化処理として、ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する。さらに、エラーフラグ設定部602は、パラメータ判定部601によって、エラーが発生していると判定された場合に、detected_error_flagに、ランダムアクセス可能なピクチャにエラーが発生していることを示す値(例えば、1)を設定する。
続いて、本発明の実施の形態2に係るエラー検出方法を実施するエラー検出部410の動作の一例について、図12を用いて説明する。図12は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントのエラーを検出する処理の一例を示すフローチャートである。
まず、エラーフラグ設定部602は、detected_error_flagパラメータを数値0に設定することで、detected_error_flagパラメータを初期化する(S301)。このパラメータを用いて、ノンベースビューコンポーネントにエラーがないかが示される。つまり、上述したように、このパラメータの値が1の場合は、ノンベースビューコンポーネントがなんらかのエラーを含んでいるということである。それ以外の場合、すなわち、detected_error_flagパラメータの値が0の場合は、ノンベースビューコンポーネントにエラーがないことを意味する。
次に、パラメータ判定部601は、NALユニットヘッダからanchor_pic_flagパラメータを読み取る(S302)。そして、パラメータ判定部601は、読み出したanchor_pic_flagパラメータの値が1であるか否かを判定する(S303)。つまり、パラメータ判定部601は、ノンベースビューコンポーネントがアンカーピクチャであるか否かを判定する。
アンカーアクセスユニットのノンベースビューコンポーネントについて、このパラメータの値が1でない場合は(S303でNo)、すなわち、ノンベースビューコンポーネントがアンカーピクチャではない場合、エラーフラグ設定部602は、detected_error_flagの値を1に設定する(S310)。
アンカーアクセスユニットのノンベースビューコンポーネントについて、anchor_pic_flagパラメータの値が1である場合は(S303でYes)、すなわち、ノンベースビューコンポーネントがアンカーピクチャである場合、パラメータ判定部601は、スライスヘッダからref_pic_list_modification_flag_l0を読み取る(S304)。このref_pic_list_modification_flag_l0パラメータの位置は、図7A及び図7Bに示す通りである。
そして、パラメータ判定部601は、読み出したref_pic_list_modification_flag_l0パラメータの値が1であるか否かを判定する(S304)。つまり、パラメータ判定部601は、アンカーアクセスユニットのノンベースビューコンポーネントについて、参照ピクチャリストが修正されているか否かを判定する。
このref_pic_list_modification_flag_l0パラメータの値が1でない場合(S305でNo)、すなわち、参照ピクチャリストが修正されていない場合、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。
ref_pic_list_modification_flag_l0パラメータの値が1である場合は(S305でYes)、すなわち、参照ピクチャリストが修正されている場合、パラメータ判定部601は、スライスヘッダからmodification_of_pic_nums_idcパラメータを読み取る(S306)。このmodification_of_pic_nums_idcパラメータの位置は、図7A及び図7Bに示す通りである。
次に、パラメータ判定部601は、読み出したmodification_of_pic_nums_idcパラメータの値が5であるか否かを判定する(S307)。つまり、パラメータ判定部601は、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定する。
modification_of_pic_nums_idcパラメータの値が5でない場合(S307でNo)、すなわち、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値ではない場合、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。
modification_of_pic_nums_idcパラメータの値が5である場合は(S307でYes)、すなわち、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値である場合、パラメータ判定部601は、スライスヘッダからabs_diff_view_idx_minus1パラメータを読み取る(S308)。なお、スライスヘッダ中、ref_pic_list_modification_flag_l0、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1の各パラメータは、図7A及び図7Bに示すように、順に連続している。
そして最後に、パラメータ判定部601は、abs_diff_view_idx_minus1パラメータの値が0であるか否かを判定する(S309)。
abs_diff_view_idx_minus1パラメータの値が0でない場合(S309でNo)、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。abs_diff_view_idx_minus1パラメータの値が0である場合(S309でYes)、エラーフラグ設定部602は、detected_error_flagパラメータの値を0のまま、切り替え部420へ出力する。
以上のようにして、本発明の実施の形態2に係るエラー検出部410は、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャが、正しく符号化されているか否かを判定することができる。
続いて、本発明の実施の形態2に係る復号方法を実施するMVCデコーダ部430の構成について説明する。
図13は、本発明の実施の形態2に係るMVCデコーダ部430の構成の一例を示すブロック図である。MVCデコーダ部430は、解析部710と、予測部720と、復号部730とを備える。
解析部710は、スライスヘッダを解析することで、参照ピクチャリストが修正されているか否かを判定する。具体的には、解析部710は、復号対象の画像が、ランダムアクセス可能なピクチャに含まれる画像であって、ノンベースビューコンポーネントに含まれる画像である場合に、参照ピクチャリストが修正されているか否かを判定する。
予測部720は、解析部710によって、参照ピクチャリストが修正されていると判定された場合、予め定められた規格に従って予測画像を生成する。例えば、予測部720は、参照ピクチャリストが修正されていると判定された場合に、H.264/AVC MVC映像規格に基づいて、予測画像を生成する。
また、予測部720は、解析部710によって、参照ピクチャリストが修正されていないと判定された場合、上記の規格とは異なる方法に従って予測画像を生成する。例えば、予測部720は、ノンベースビューコンポーネントの復号対象の画像と同一のアクセスユニットに含まれるベースビューコンポーネントを参照画像として、予測画像を生成する。
復号部730は、予測部720によって生成された予測画像に基づいて、ノンベースビューコンポーネントに含まれる画像であって、ランダムアクセス可能なピクチャの画像を復号する。
以下では、MVCデコーダ部430のより詳細な構成について説明する。
図14は、本発明の実施の形態2に係るMVCデコーダ部430の詳細な構成の一例を示すブロック図である。図14に示すように、MVCデコーダ部430は、解析部710と、予測部720と、復号部730と、記憶部740とを備える。
図14に示すように、解析部710は、ref_pic_list_modification_flag_l0パラメータ解析部711を備える。また、予測部720は、切り替え部721と、参照リスト修正シンタックス解析部722と、参照リスト修正部723と、第1動き予測部724と、ベースビュー探知部725と、第2動き予測部726とを備える。また、復号部730は、ピクチャ再構築部731を備える。
ref_pic_list_modification_flag_l0パラメータ解析部711は、アンカーアクセスユニットのノンベースビューコンポーネント801のスライスヘッダを読み取り、切り替え部721にref_pic_list_modification_flag_l0パラメータ802の値を出力する。
切り替え部721は、ref_pic_list_modification_flag_l0パラメータの値が1である場合、ノンベースビューコンポーネント801を参照リスト修正シンタックス解析部722に伝える。また、切り替え部721は、ref_pic_list_modification_flag_l0パラメータの値が0である場合、ノンベースビューコンポーネント801をベースビュー探知部725に伝える。
参照リスト修正シンタックス解析部722は、ノンベースビューコンポーネント801のスライスヘッダを読み取り、参照リスト修正部723に参照リスト修正シンタックス803を出力する。
参照リスト修正部723は、参照リスト修正シンタックス803を読み取り、読み取った参照リスト修正シンタックス803に基づいて参照ピクチャリストを修正し、修正した参照ピクチャリスト804を第1動き予測部724に出力する。
第1動き予測部724は、修正された参照ピクチャリストを動き予測に使用し、予測画像805としてピクチャ再構築部731に出力する。
ベースビュー探知部725は、記憶部740から対応するベースビューコンポーネント806を探し出し、見つけたベースビューコンポーネント806を第2動き予測部726に出力する。
第2動き予測部726は、探知されたベースビューコンポーネント806を動き予測に使用し、予測画像807をピクチャ再構築部731に出力する。
ピクチャ再構築部731は、予測画像805又は807を読み取り、ノンベースビューの再構築画像を再構築し、再構築したノンベースビューの再構築画像を出力する。
以上の構成により、本発明の実施の形態2に係る復号装置400は、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャを、正しく復号することができる。
続いて、本発明の実施の形態2に係る復号装置400の動作について説明する。
図15は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントを復号する処理の一例を示すフローチャートである。
まず、解析部710は、スライスヘッダからref_pic_list_modification_flag_l0パラメータを読み取る(S401)。そして、解析部710は、ref_pic_list_modification_flag_l0パラメータの値が0であるか否かを判定する(S402)。すなわち、解析部710は、アンカーアクセスユニットのノンベースビューコンポーネントについて、参照ピクチャリストが修正されているか否かを判定する。
ref_pic_list_modification_flag_l0パラメータの値が0であった場合(S402でYes)、すなわち、参照ピクチャリストが修正されていない場合、ベースビュー探知部725は、記憶部740内に保持されているアンカーピクチャの対応するベースビューコンポーネントを探知する(S403)。アンカーピクチャの対応するベースビューコンポーネントは、復号処理中のノンベースビューコンポーネントと同一のピクチャオーダカウントを有する。すなわち、同一のアクセスユニットに含まれるベースビューコンポーネントである。
次に、第2動き予測部726は、探知されたベースビューコンポーネントを用いて、動き予測を行う(S404)。符号化されたノンベースビューコンポーネントには、参照リスト中のいずれの参照ピクチャを動き予測に使用すべきかを識別するための参照インデックスがマクロブロックヘッダに付されていることもある。しかしながら、第2動き予測部726は、これらの参照インデックスを参照することなく、探知したベースビューコンポーネント(ベースビューの画像)を動き予測に用いる参照ピクチャとして選択する。
また、ref_pic_list_modification_flag_l0パラメータの値が0ではない場合(S402でNo)、すなわち、参照ピクチャリストが修正されている場合、参照リスト修正シンタックス解析部722は、スライスヘッダから参照リスト修正シンタックスを読み取る(S405)。そして、参照リスト修正部723は、読み出した参照リスト修正シンタックスに基づいて参照リストを修正する(S406)。具体的には、図6に示すように、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置されるように、参照ピクチャリストを修正する。そして、第1動き予測部724は、修正した参照リストを用いて動き予測を行う(S407)。
最後に、動き予測が行われた後、ピクチャ再構築部731は、ノンベースビューの再構築画像を再構築する(S408)。
以上のようにして、本発明の実施の形態2に係る復号装置400は、修正された参照ピクチャリストに基づいて符号化されたランダムアクセス可能なピクチャ、例えば、符号化されたアンカーピクチャを復号する際に、符号化ストリームに含まれる、参照ピクチャリストを修正したことを示すシンタックスにエラーが発生しているか否かを判定する。また、復号装置400は、符号化ストリームから読み出したシンタックスに基づいて参照ピクチャリストを修正し、修正した参照ピクチャリストを用いて、修正された参照ピクチャリストに基づいて符号化されたランダムアクセス可能なピクチャ、例えば、符号化されたアンカーピクチャを復号する。
これにより、修正された参照ピクチャリストを用いて符号化されたランダムアクセス可能なピクチャのエラーを検出することができるとともに、当該ピクチャを正しく復号することができる。
なお、本発明の実施の形態2に係る復号装置400は、エラー検出部410を備えていなくてもよい。具体的には、本発明に係る復号装置は、MVCデコーダ部430を備えるだけでも、修正された参照ピクチャリストを参照して符号化されたランダムアクセス可能なピクチャを復号することができる。
また、本発明の実施の形態2に係るエラー検出部410は、復号装置400に備えられていなくてもよい。符号化装置及び復号装置とは独立した、エラー検出装置としても実現することができる。また、符号化が正しく行われたことを確認するために、符号化装置がエラー検出部410を備えていてもよい。
また、本発明に係る復号装置及び復号方法の変形例として、復号対象の画像がランダムアクセス可能なピクチャである場合は、参照インデックスの値に係らず、復号対象の画像と同一のアクセスユニットのベースビューコンポーネントを参照画像として用いてもよい。
図16は、本発明の実施の形態の変形例に係る復号装置900の構成の一例を示すブロック図である。図16に示すように、復号装置900は、判定部910と、復号部920とを備える。
判定部910は、ランダムアクセスを行うか否かを判定する。具体的には、判定部910は、ユーザからランダムアクセスを開始する旨の指示を受けたか否かを判定し、ランダムアクセス開始の指示を受けた場合は、ランダムアクセスを行うと判定する。あるいは、判定部910は、復号を開始する際の最初のベースビューの画像がIピクチャに含まれる画像であるか否かを判定してもよい。最初のベースビューの画像がIピクチャに含まれる画像である場合は、判定部910は、ランダムアクセスを行うと判定する。
復号部920は、判定部910によって、ランダムアクセスを行うと判定された場合に、ランダムアクセスの最初のピクチャを含むアクセスユニットのノンベースビューを復号する際、参照インデックスに係らず、同一のアクセスユニットのベースビューコンポーネントを参照画像としてノンベースビューコンポーネントの復号を行う。また、ランダムアクセスの最初のピクチャを含むアクセスユニットとは異なるアクセスユニットのベースビューコンポーネントを参照画像とすることを禁止し、ランダムアクセスの最初のピクチャを含むアクセスユニットのベースビューコンポーネントのみを参照画像としてノンベースビューコンポーネントの復号を行ってもよい。
以下では、本発明の実施の形態の変形例に係る復号装置900の動作について、図17を用いて説明する。図17は、本発明の実施の形態の変形例に係る復号装置900の動作の一例を示すフローチャートである。
まず、判定部910は、ランダムアクセスを実行するか否かを判定する(S501)。例えば、判定部910は、ユーザからのランダムアクセスを開始するという旨の指示を受けたか否かを判定し、ランダムアクセス開始の指示を受けた場合は、ランダムアクセスを実行すると判定する。また、判定部910は、ノンベースビューコンポーネントに含まれる復号対象の画像が参照するベースビューコンポーネントがIピクチャであるか否かを判定し、ベースビューコンポーネントがIピクチャである場合は、ランダムアクセスを実行すると判定してもよい。
そして、ランダムアクセスを実行すると判定された場合(S501でYes)、復号部920は、参照インデックスを無視し、ベースビューコンポーネントを参照画像として、ノンベースビューコンポーネントの復号対象の画像を復号する(S502)。
ランダムアクセスを実行すると判定されなかった場合(S501でNo)、予め定められた規格、例えば、H.264/AVC MVC映像規格に従って、復号対象の画像を復号する(S503)。
以上のようにして、本発明の変形例に係る復号装置900は、ランダムアクセスを行うか否かを判定する判定部を備え、ランダムアクセスを行う場合は、参照インデックスの値に係らず、同一アクセスユニットのベースビューコンポーネントを参照画像としてノンベースビューコンポーネントの復号を行う。これにより、符号化側でどのような順番で参照インデックスが付されていたとしても、ランダムアクセス可能な符号化ピクチャを復号することができる。
また、本発明の変形例に係る復号装置は、復号開始ピクチャを指定する復号開始ピクチャ指定部と、復号開始ピクチャ指定部において指定されたベースビューのピクチャがIピクチャである場合に、ランダムアクセスが開始されたと判定する判定部と、判定部において、ランダムアクセスが開始されたと判定された場合に、Iピクチャを含むランダムアクセスユニットのノンベースビューを復号する際、ランダムアクセスユニット以外のランダムアクセスユニットのベースビューのピクチャの参照を禁止し、ランダムアクセスユニット内のベースビューのピクチャのみを参照して復号を行う復号部とを備えていてもよい。
(実施の形態3)
上記実施の形態で示した画像符号化方法又は画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ICカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記実施の形態で示した画像符号化方法及び画像復号方法の応用例とそれを用いたシステムを説明する。
図18は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106〜ex110が設置されている。
このコンテンツ供給システムex100は、インターネットex101にインターネットサービスプロバイダex102及び電話網ex104、及び、基地局ex106〜ex110を介して、コンピュータex111、PDA(Personal Digital Assistant)ex112、カメラex113、携帯電話ex114、ゲーム機ex115などの各機器が接続される。
しかし、コンテンツ供給システムex100は図18のような構成に限定されず、いずれかの要素を組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex106〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex116はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex114は、GSM(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband−Code Division Multiple Access)方式、もしくはLTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)の携帯電話機、又は、PHS(Personal Handyphone System)等であり、いずれでも構わない。
コンテンツ供給システムex100では、カメラex113等が基地局ex109、電話網ex104を通じてストリーミングサーバex103に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex113を用いて撮影するコンテンツ(例えば、音楽ライブの映像等)に対して上記実施の形態で説明したように符号化処理を行い、ストリーミングサーバex103に送信する。一方、ストリーミングサーバex103は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114、ゲーム機ex115等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
なお、撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理はクライアントで行っても、ストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。また、カメラex113に限らず、カメラex116で撮影した静止画像及び/又は動画像データを、コンピュータex111を介してストリーミングサーバex103に送信してもよい。この場合の符号化処理はカメラex116、コンピュータex111、ストリーミングサーバex103のいずれで行ってもよいし、互いに分担して行ってもよい。
また、これら符号化処理及び復号処理は、一般的にコンピュータex111及び各機器が有するLSI(Large Scale Integration)ex500において処理する。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用及び画像復号用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込み、そのソフトウェアを用いて符号化処理及び復号処理を行ってもよい。さらに、携帯電話ex114がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex114が有するLSIex500で符号化処理されたデータである。
また、ストリーミングサーバex103は複数のサーバ又は複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムex100では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex100では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利又は設備を有さないユーザでも個人放送を実現できる。
このコンテンツ供給システムを構成する各機器の符号化、復号には上記実施の形態で示した画像符号化方法あるいは画像復号方法を用いるようにすればよい。
その一例として携帯電話ex114について説明する。
図19は、上記実施の形態で説明した画像符号化方法と画像復号方法を用いた携帯電話ex114を示す図である。携帯電話ex114は、基地局ex110との間で電波を送受信するためのアンテナex601、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex603、カメラ部ex603で撮影した映像、アンテナex601で受信した映像等が復号されたデータを表示する液晶ディスプレイ等の表示部ex602、操作キーex604群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex608、音声入力をするためのマイク等の音声入力部ex605、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータ又は復号されたデータを保存するための記録メディアex607、携帯電話ex114に記録メディアex607を装着可能とするためのスロット部ex606を有している。記録メディアex607はSDカード等のプラスチックケース内に電気的に書換え及び消去が可能な不揮発性メモリであるEEPROMの一種であるフラッシュメモリ素子を格納したものである。
さらに、携帯電話ex114について図20を用いて説明する。携帯電話ex114は表示部ex602及び操作キーex604を備えた本体部の各部を統括的に制御するようになされた主制御部ex711に対して、電源回路部ex710、操作入力制御部ex704、画像符号化部ex712、カメラインターフェース部ex703、LCD(Liquid Crystal Display)制御部ex702、画像復号部ex709、多重分離部ex708、記録再生部ex707、変復調回路部ex706及び音声処理部ex705が同期バスex713を介して互いに接続されている。
電源回路部ex710は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付デジタル携帯電話ex114を動作可能な状態に起動する。
携帯電話ex114は、CPU、ROM及びRAM等でなる主制御部ex711の制御に基づいて、音声通話モード時に音声入力部ex605で集音した音声信号を音声処理部ex705によってデジタル音声データに変換し、これを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して送信する。また携帯電話ex114は、音声通話モード時にアンテナex601で受信した受信データを増幅して周波数変換処理及びアナログデジタル変換処理を施し、変復調回路部ex706でスペクトラム逆拡散処理し、音声処理部ex705によってアナログ音声データに変換した後、音声出力部ex608を介してこれを出力する。
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex604の操作によって入力された電子メールのテキストデータは操作入力制御部ex704を介して主制御部ex711に送出される。主制御部ex711は、テキストデータを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して基地局ex110へ送信する。
データ通信モード時に画像データを送信する場合、カメラ部ex603で撮像された画像データを、カメラインターフェース部ex703を介して画像符号化部ex712に供給する。また、画像データを送信しない場合には、カメラ部ex603で撮像した画像データをカメラインターフェース部ex703及びLCD制御部ex702を介して表示部ex602に直接表示することも可能である。
画像符号化部ex712は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ex603から供給された画像データを上記実施の形態で示した画像符号化装置に用いた符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex708に送出する。また、このとき同時に携帯電話ex114は、カメラ部ex603で撮像中に音声入力部ex605で集音した音声を、音声処理部ex705を介してデジタルの音声データとして多重分離部ex708に送出する。
多重分離部ex708は、画像符号化部ex712から供給された符号化画像データと音声処理部ex705から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex601を介して基地局ex110から受信した受信データを変復調回路部ex706でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex708に送出する。
また、アンテナex601を介して受信された多重化データを復号するには、多重分離部ex708は、多重化データを分離することにより画像データのビットストリームと音声データのビットストリームとに分け、同期バスex713を介して当該符号化画像データを画像復号部ex709に供給すると共に当該音声データを音声処理部ex705に供給する。
次に、画像復号部ex709は、本願で説明した画像復号装置を備えた構成であり、画像データのビットストリームを上記実施の形態で示した符号化方法に対応した復号方法で復号することにより再生動画像データを生成し、これを、LCD制御部ex702を介して表示部ex602に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex705は、音声データをアナログ音声データに変換した後、これを音声出力部ex608に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
なお、上記システムの例に限られず、最近は衛星、地上波によるデジタル放送が話題となっており、図21に示すようにデジタル放送用システムにも上記実施の形態の少なくとも画像符号化装置又は画像復号装置を組み込むことができる。具体的には、放送局ex201では音声データ、映像データ又はそれらのデータが多重化されたビットストリームが電波を介して通信又は放送衛星ex202に伝送される。これを受けた放送衛星ex202は、放送用の電波を発信し、衛星放送受信設備をもつ家庭のアンテナex204はこの電波を受信し、テレビ(受信機)ex300又はセットトップボックス(STB)ex217などの装置はビットストリームを復号してこれを再生する。また、記録媒体であるCD及びDVD等の記録メディアex215、ex216に記録した画像データと、音声データが多重化されたビットストリームを読み取り、復号するリーダ/レコーダex218にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、ケーブルテレビ用のケーブルex203又は衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでも良い。また、アンテナex205を有する車ex210で、衛星ex202又は基地局等から信号を受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。
また、DVD、BD等の記録メディアex215に記録した音声データ、映像データ又はそれらのデータが多重化された符号化ビットストリームを読み取り復号する、又は、記録メディアex215に、音声データ、映像データ又はそれらのデータを符号化し、多重化データとして記録するリーダ/レコーダex218にも上記実施の形態で示した画像復号装置又は画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、符号化ビットストリームが記録された記録メディアex215により、他の装置及びシステム等は、映像信号を再生することができる。例えば、他の再生装置ex212は、符号化ビットストリームがコピーされた記録メディアex214を用いて、モニタex213に映像信号を再生することができる。
また、ケーブルテレビ用のケーブルex203又は衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
図22は、上記実施の形態で説明した画像復号方法及び画像符号化方法を用いたテレビ(受信機)ex300を示す図である。テレビex300は、上記放送を受信するアンテナex204又はケーブルex203等を介して映像情報のビットストリームを取得、又は、出力するチューナex301と、受信した符号化データを復調する、又は、生成された符号化データを外部に送信するために変調する変調/復調部ex302と、復調した映像データと音声データとを分離する、又は、符号化された映像データと音声データとを多重化する多重/分離部ex303を備える。また、テレビex300は、音声データ、映像データそれぞれを復号する、又は、それぞれの情報を符号化する音声信号処理部ex304、映像信号処理部ex305を有する信号処理部ex306と、復号された音声信号を出力するスピーカex307、復号された映像信号を表示するディスプレイ等の表示部ex308を有する出力部ex309とを有する。さらに、テレビex300は、ユーザ操作の入力を受け付ける操作入力部ex312等を有するインターフェース部ex317を有する。さらに、テレビex300は、各部を統括的に制御する制御部ex310、各部に電力を供給する電源回路部ex311を有する。インターフェース部ex317は、操作入力部ex312以外に、リーダ/レコーダex218等の外部機器と接続されるブリッジex313、SDカード等の記録メディアex216を装着可能とするためのスロット部ex314、ハードディスク等の外部記録メディアと接続するためのドライバex315、電話網と接続するモデムex316等を有していてもよい。なお記録メディアex216は、格納する不揮発性/揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex300の各部は同期バスを介して互いに接続されている。
まず、テレビex300がアンテナex204等により外部から取得したデータを復号し、再生する構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、CPU等を有する制御部ex310の制御に基づいて、変調/復調部ex302で復調した映像データ、音声データを多重/分離部ex303で分離する。さらにテレビex300は、分離した音声データを音声信号処理部ex304で復号し、分離した映像データを映像信号処理部ex305で上記実施の形態で説明した復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ex309から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex318、ex319等に一旦これらの信号を蓄積するとよい。また、テレビex300は、放送等からではなく、磁気/光ディスク、SDカード等の記録メディアex215、ex216から符号化された符号化ビットストリームを読み出してもよい。次に、テレビex300が音声信号及び映像信号を符号化し、外部に送信又は記録メディア等に書き込む構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、制御部ex310の制御に基づいて、音声信号処理部ex304で音声信号を符号化し、映像信号処理部ex305で映像信号を上記実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重/分離部ex303で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex320、ex321等に一旦これらの信号を蓄積するとよい。なお、バッファex318〜ex321は図示しているように複数備えていてもよいし、一つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調/復調部ex302と多重/分離部ex303との間等でもシステムのオーバフロー及びアンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
また、テレビex300は、放送及び記録メディア等から音声データ及び映像データを取得する以外に、マイク及びカメラのAV入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex300は、上記の符号化処理、多重化、及び、外部出力ができる構成として説明したが、これらの全ての処理を行うことはできず、上記受信、復号処理、及び、外部出力のうちいずれかのみが可能な構成であってもよい。
また、リーダ/レコーダex218で記録メディアから符号化ビットストリームを読み出す、又は、書き込む場合には、上記復号処理又は符号化処理はテレビex300及びリーダ/レコーダex218のうちいずれかで行ってもよいし、テレビex300とリーダ/レコーダex218とが互いに分担して行ってもよい。
一例として、光ディスクからデータの読み込み又は書き込みをする場合の情報再生/記録部ex400の構成を図23に示す。情報再生/記録部ex400は、以下に説明する要素ex401〜ex407を備える。光ヘッドex401は、光ディスクである記録メディアex215の記録面にレーザスポットを照射して情報を書き込み、記録メディアex215の記録面からの反射光を検出して情報を読み込む。変調記録部ex402は、光ヘッドex401に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex403は、光ヘッドex401に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex215に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex404は、記録メディアex215に記録するための情報及び記録メディアex215から再生した情報を一時的に保持する。ディスクモータex405は記録メディアex215を回転させる。サーボ制御部ex406は、ディスクモータex405の回転駆動を制御しながら光ヘッドex401を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex407は、情報再生/記録部ex400全体の制御を行う。上記の読み出し及び書き込みの処理は、システム制御部ex407が、バッファex404に保持された各種情報を利用し、また必要に応じて新たな情報の生成及び追加を行うと共に、変調記録部ex402、再生復調部ex403及びサーボ制御部ex406を協調動作させながら、光ヘッドex401を通して、情報の記録再生を行うことにより実現される。システム制御部ex407は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
以上では、光ヘッドex401はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
図24に光ディスクである記録メディアex215の模式図を示す。記録メディアex215の記録面には案内溝(グルーブ)がスパイラル状に形成され、情報トラックex230には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex231の位置を特定するための情報を含み、記録及び再生を行う装置は、情報トラックex230を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex215は、データ記録領域ex233、内周領域ex232、外周領域ex234を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex233であり、データ記録領域ex233の内周又は外周に配置されている内周領域ex232と外周領域ex234は、ユーザデータの記録以外の特定用途に用いられる。情報再生/記録部ex400は、このような記録メディアex215のデータ記録領域ex233に対して、符号化された音声データ、映像データ又はそれらのデータを多重化した符号化データの読み書きを行う。
以上では、1層のDVD、BD等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所に様々な異なる波長の色の光を用いて情報を記録したり、様々な角度から異なる情報の層を記録したりするなど、多次元的な記録/再生を行う構造の光ディスクであってもよい。
また、デジタル放送用システムex200において、アンテナex205を有する車ex210で衛星ex202等からデータを受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex211の構成は例えば図22に示す構成のうち、GPS受信部を加えた構成が考えられ、同様なことがコンピュータex111及び携帯電話ex114等でも考えられる。また、上記携帯電話ex114等の端末は、テレビex300と同様に、符号化器及び復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という3通りの実装形式が考えられる。
このように、上記実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器及びシステムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
また、本発明は、上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形又は修正が可能である。
(実施の形態4)
上記各実施の形態で示した画像符号化方法及び装置、画像復号方法及び装置は、典型的には集積回路であるLSIで実現される。一例として、図25に1チップ化されたLSIex500の構成を示す。LSIex500は、以下に説明する要素ex501〜ex509を備え、各要素はバスex510を介して接続している。電源回路部ex505は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
例えば符号化処理を行う場合には、LSIex500は、CPUex502、メモリコントローラex503及びストリームコントローラex504等を有する制御部ex501の制御に基づいて、AV I/Oex509によりマイクex117及びカメラex113等からAV信号の入力を受け付ける。入力されたAV信号は、一旦SDRAM等の外部のメモリex511に蓄積される。制御部ex501の制御に基づいて、蓄積したデータは、処理量及び処理速度に応じて適宜複数回に分けるなどされ、信号処理部ex507に送られる。信号処理部ex507は、音声信号の符号化及び/又は映像信号の符号化を行う。ここで映像信号の符号化処理は、上記実施の形態で説明した符号化処理である。信号処理部ex507ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームI/Oex506から外部に出力する。この出力されたビットストリームは、基地局ex107に向けて送信されたり、又は、記録メディアex215に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex508にデータを蓄積するとよい。
また、例えば復号処理を行う場合には、LSIex500は、制御部ex501の制御に基づいて、ストリームI/Oex506によって基地局ex107を介して得た符号化データ、又は、記録メディアex215から読み出して得た符号化データを一旦メモリex511等に蓄積する。制御部ex501の制御に基づいて、蓄積したデータは、処理量及び処理速度に応じて適宜複数回に分けるなどされ信号処理部ex507に送られる。信号処理部ex507は、音声データの復号及び/又は映像データの復号を行う。ここで映像信号の復号処理は、上記実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦バッファex508等に蓄積するとよい。復号された出力信号は、メモリex511等を適宜介しながら、携帯電話ex114、ゲーム機ex115及びテレビex300等の各出力部から出力される。
なお、上記では、メモリex511がLSIex500の外部の構成として説明したが、LSIex500の内部に含まれる構成であってもよい。バッファex508も一つに限ったものではなく、複数のバッファを備えていてもよい。また、LSIex500は1チップ化されてもよいし、複数チップ化されてもよい。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA、又は、LSI内部の回路セルの接続及び設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
以上、本発明に係る符号化方法、符号化装置、エラー検出方法、エラー検出装置、復号方法及び復号装置について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施した形態、及び、異なる実施の形態における構成要素及びステップ等を組み合わせて構築される別の形態も、本発明の範囲内に含まれる。
本発明は、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができるという効果を奏し、オーディオ、静止画像、及び動画像を符号化する符号化装置、及び、当該符号化装置によって符号化されたデータを復号する復号装置に利用することができる。例えば、本発明は、オーディオ機器、携帯電話、デジタルカメラ、BDレコーダ、デジタルテレビなどの各種AV機器に利用することができる。
10 アクセスユニット
20 ビューコンポーネント
100 符号化装置
110 第1ビューコンポーネント符号化部
120、440、740 記憶部
130 第2ビューコンポーネント符号化部
201 ベースビューの画像
202 圧縮ベースビューコンポーネント
203 再構築画像
211 ノンベースビューの画像
212 圧縮ノンベースビューコンポーネント
213、503 参照画像
301 符号化部
302 ヘッダ書き込み部
303 リスト修正部
400、900 復号装置
410 エラー検出部
420、721 切り替え部
430 MVCデコーダ部
450 エラー隠蔽部
501 MVCビットストリーム
502 エラー検出フラグ
504、506 再構築画像
505 再構築されたベースビューコンポーネント
601 パラメータ判定部
602 エラーフラグ設定部
710 解析部
711 ref_pic_list_modification_flag_l0パラメータ解析部
720 予測部
722 参照リスト修正シンタックス解析部
723 参照リスト修正部
724 第1動き予測部
725 ベースビュー探知部
726 第2動き予測部
730、920 復号部
731 ピクチャ再構築部
801 ノンベースビューコンポーネント
802 ref_pic_list_modification_flag_l0パラメータ
803 参照リスト修正シンタックス
804 参照ピクチャリスト
805、807 予測画像
806 ベースビューコンポーネント
910 判定部
ex100 コンテンツ供給システム
ex101 インターネット
ex102 インターネットサービスプロバイダ
ex103 ストリーミングサーバ
ex104 電話網
ex106、ex107、ex108、ex109、ex110 基地局
ex111 コンピュータ
ex112 PDA
ex113、ex116 カメラ
ex114 カメラ付デジタル携帯電話(携帯電話)
ex115 ゲーム機
ex117 マイク
ex200 デジタル放送用システム
ex201 放送局
ex202 放送衛星(衛星)
ex203 ケーブル
ex204、ex205、ex601 アンテナ
ex210 車
ex211 カーナビゲーション(カーナビ)
ex212 再生装置
ex213、ex219 モニタ
ex214、ex215、ex216、ex607 記録メディア
ex217 セットトップボックス(STB)
ex218 リーダ/レコーダ
ex220 リモートコントローラ
ex230 情報トラック
ex231 記録ブロック
ex232 内周領域
ex233 データ記録領域
ex234 外周領域
ex300 テレビ
ex301 チューナ
ex302 変調/復調部
ex303 多重/分離部
ex304 音声信号処理部
ex305 映像信号処理部
ex306、ex507 信号処理部
ex307 スピーカ
ex308、ex602 表示部
ex309 出力部
ex310、ex501 制御部
ex311、ex505、ex710 電源回路部
ex312 操作入力部
ex313 ブリッジ
ex314、ex606 スロット部
ex315 ドライバ
ex316 モデム
ex317 インターフェース部
ex318、ex319、ex320、ex321、ex404、ex508 バッファ
ex400 情報再生/記録部
ex401 光ヘッド
ex402 変調記録部
ex403 再生復調部
ex405 ディスクモータ
ex406 サーボ制御部
ex407 システム制御部
ex500 LSI
ex502 CPU
ex503 メモリコントローラ
ex504 ストリームコントローラ
ex506 ストリームI/O
ex509 AV I/O
ex510 バス
ex511 メモリ
ex603 カメラ部
ex604 操作キー
ex605 音声入力部
ex608 音声出力部
ex701 送受信回路部
ex702 LCD制御部
ex703 カメラインターフェース部(カメラI/F部)
ex704 操作入力制御部
ex705 音声処理部
ex706 変復調回路部
ex707 記録再生部
ex708 多重分離部
ex709 画像復号部
ex711 主制御部
ex712 画像符号化部
ex713 同期バス
本発明は、あらゆるマルチメディアデータの符号化及び復号に用いられる符号化方法、エラー検出方法及び復号方法に関し、特に、多視点映像の符号化及び復号に用いられる符号化方法、エラー検出方法及び復号方法に関する。
視聴者に対して3次元の視覚的効果を提供するにはいくつかの方法がある。1つは、2つの映像を視聴者の左右の目に別々に見せるという方法である。これは、立体撮像と呼ばれ、2台のカメラを用いて2つの映像を撮影するものである。立体映像を表示するために以前から用いられていた技術の1つに、片目ずつ見ることができるように色成分をフィルタリングする方法がある。そのような技術では、各目に届く画像の解像度は低くなる。
近年の表示技術の進歩により、今では視聴者は、片目で最大解像度の映像を視聴することが可能である。H.264/MPEG−4 AVC 多視点映像符号化(MVC)の映像規格は、そのような、各ビューが最大解像度で表示される場合の、3次元画像の圧縮を対象として策定されている。
H.264/MPEG−4 AVC 多視点映像符号化(MVC)の映像規格は、複数のビューのセットを対象とした動画像を効率的に圧縮することを可能にする圧縮ツールセットを提供している。MVCの映像規格により、ビューのセットが異なる再構築ピクチャに基づいた予測符号化を用いて、ピクチャを圧縮することが可能になる。この「ビュー間」予測は、別々のカメラでほぼ同時に撮影された画像の相関関係を利用して、ピクチャを効率的に圧縮する。
MVCの映像規格において、「ビュー間」予測は同一のピクチャオーダカウント情報を有する異なるビューのピクチャに対してのみ行われる。ピクチャオーダカウント情報は、同一ビューの再構築ピクチャの順番を示すために用いられる。MVCの映像規格では、同一のピクチャオーダカウント情報を有する異なるビューのピクチャ(つまり、MVC規格に定義されるビューコンポーネント)は、アクセスユニットと呼ばれるコンテナとしてまとめられる。
MVCの映像規格において、いずれのスライスも同一のアクセスユニット内のスライスのみを参照する符号化ピクチャをアンカーピクチャと呼ぶ。アンカーピクチャは、図1に示すように、符号化ピクチャのNALユニットヘッダに付されたビット、具体的には、anchor_pic_flagを示すビットに基づいて識別される。なお、図1は、アクセスユニットのデータ構造の一例を示す図である。
このビットによって、MVCデコーダは、符号化ビデオシーケンスのアンカーピクチャを識別できるとともに、これらのアンカーピクチャを、MVCデコーダがアンカーピクチャの前にあるピクチャを復号することなく画像を再構築できるランダムアクセスポイントとして利用することができる。
なお、図1に示すように、アクセスユニットに含まれるビューコンポーネントは、第1ビューコンポーネントのみがベースビューコンポーネントとされ、残りのビューコンポーネントはノンベースビューコンポーネントとされる。ベースビューコンポーネントの直後に現れるノンベースビューコンポーネントが第1ノンベースビューコンポーネントとなる。
H.264/MPEG−4 AVC ハイプロファイルは、HD記憶媒体及びHDデジタル放送など、様々な用途で広く用いられている。MVC映像規格で定義されている多視点ハイプロファイルは、H.264/MPEG−4 AVC ハイプロファイルを拡張して策定されており、既に実現されているH.264/MPEG−4 AVC ハイプロファイルデコーダは、簡単な修正により、多視点ハイプロファイルを用いた圧縮映像ストリームの復号に対応させることができる。
アンカーピクチャは、上述したように、ランダムアクセスポイントとして利用することができる。したがって、アンカーピクチャは、特殊再生又はストリーム切り替えなどの機能を必要とするアプリケーションには不可欠である。
アンカーピクチャは、MVCの映像規格において、いずれのスライスも同一のアクセスユニット内のスライスのみを参照する符号化ピクチャと定義されている。MVCの映像規格上、アクセスユニットは、対応ビュー数に応じて、1以上のビューコンポーネントから成る。
多くのアプリケーションでは、圧縮効率を上げるため、アンカーアクセスユニットのビューコンポーネントのうち、イントラ符号化されるのは1つだけで、そのアンカーアクセスユニットの残りのビューコンポーネントは、インター符号化される。インター符号化されるビューコンポーネントは、イントラ符号化されたビューコンポーネントからのビュー間予測を利用する。イントラ符号化されたビューコンポーネントがビューを再構築するには、空間予測ツール(例えば、イントラ予測)のみを利用する。
H.264/MPEG−4 AVC又はMVCなどの映像規格では、参照ピクチャリストを用いて、画像毎にサンプルの予測に使用可能な参照ピクチャを識別する。符号化ピクチャの各符号化ブロックは、参照ピクチャリストにインデックスを発信することで予測用の参照ピクチャを参照できる(特許文献1参照)。
各ビューコンポーネントのサンプルについて、インター予測及びビュー間予測の両方のリストを作成する初期化処理が、MVCに規定されている。MVCの映像規格に規定されているように、参照リストの初期化処理は、同一ビューの参照ピクチャをリストの先頭に置き、ビュー間参照ピクチャを参照ピクチャリストの最後に付す。このような参照ピクチャリストの例を図2に示す。なお、図2は、従来の参照ピクチャリストの初期化処理の一例を説明するための図である。
以上のように、ビュー内参照ピクチャ(インター予測)とビュー間参照ピクチャとを示す参照リストを用いて予測符号化を行うことができる。
特開2007−159111号公報
しかしながら、上記従来技術には、ビューコンポーネントのブロック毎にインデックス(参照インデックス)を参照ピクチャリストに発信する必要があり、これらの参照インデックスを転送するビットが多くなり、符号化効率が良くないという問題がある。
図1に示すように、参照インデックスの発信は、スライスのマクロブロックごとに行われる。アンカーピクチャは、インター予測(同一ビューの再構築済みピクチャによる予測)ができないので、参照ピクチャリストのインデックスの大半が使用されないことになる。
具体的に、図2に示す例では、アクセスユニット10に含まれるピクチャがアンカーピクチャである場合、第2ビューに含まれるビューコンポーネント20を符号化する際に、参照ピクチャA〜Dは参照されずに、ビューコンポーネント20を符号化する際には、ビュー間参照ピクチャEが参照される。したがって、マクロブロック毎に参照インデックス[4]が符号化されることが多く、参照インデックス[0]〜[3]は符号化されない。
このとき、一般的には、参照ピクチャリストに参照インデックスを発信するためのビットは、図3に示すように、参照インデックスの値とともに増加する。図3は、スライスの符号化に用いるエントロピー符号化の種類が可変長エントロピー符号化である場合の参照インデックスの値と参照インデックスを符号化したときのビット数との関係を示す。
図3に示すように、ビュー間参照ピクチャが常に参照ピクチャリストの最後に付されるので、ビュー間参照ピクチャ用の参照インデックス(図2の例では、ビュー間参照ピクチャEを示す参照インデックス)の値は小さくなることがない。したがって、ビューコンポーネントのこのような参照インデックスを符号化するためのビットはかなり多くなる。
そこで、本発明は、上記課題を解決するためになされたものであって、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる符号化方法及び符号化装置を提供することを目的とする。
上記課題を解決するため、本発明に係る符号化方法は、ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、ビュー間参照ピクチャが先頭に配置されるように第1参照ピクチャリストを修正するための第1参照リスト修正シンタックスを、前記ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップと、前記ビュー間参照ピクチャを前記第1参照ピクチャリストの先頭に配置する配置ステップと、前記第1参照ピクチャリストを用いて、前記ランダムアクセス可能なピクチャの対象スライスを符号化する符号化ステップとを含む。
ランダムアクセス可能なピクチャでは、ビュー間参照ピクチャを参照する場合が多いので、本発明に係る符号化方法によれば、ビュー間参照ピクチャを示す参照インデックスが小さい値となり、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
また、前記符号化方法は、さらに、NALユニットヘッダに書き込みを行うNALユニットヘッダ書き込みステップを含み、前記NALユニットヘッダ書き込みステップでは、前記対象スライスがアンカーピクチャに含まれるスライスであることを示す値を、anchor_pic_flagに設定し、前記anchor_pic_flagを前記NALユニットヘッダに書き込んでもよい。
これにより、NALユニットヘッダにアンカーピクチャであることを示す値を書き込むことができるので、復号の際には、NALユニットヘッダを解析するだけで復号対象の画像がアンカーピクチャであるか否かを判定することができる。
また、前記スライスヘッダ書き込みステップは、さらに、前記対象スライスのスライスタイプがBスライスであるか否かを判定し、前記対象スライスのスライスタイプがBスライスである場合に、ビュー間参照ピクチャが先頭に配置されるように、前記第1参照ピクチャリストとは異なる第2参照ピクチャリストを修正するための第2参照リスト修正シンタックスを前記スライスヘッダに書き込んでもよい。
これにより、複数の参照ピクチャリストを利用する場合であっても、それぞれの参照ピクチャリストの先頭にビュー間参照ピクチャを配置させることができ、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
また、前記第1参照リスト修正シンタックスの書き込みでは、前記第1参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l0に設定し、前記ref_pic_list_modification_flag_l0を前記スライスヘッダに書き込み、第1abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第1modification_of_pic_nums_idcに設定し、前記第1modification_of_pic_nums_idcを前記スライスヘッダに書き込み、前記第1abs_diff_view_idx_minus1に0を設定し、前記第1abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、前記第1参照ピクチャリストの修正を終了することを示す値を、第2modification_of_pic_nums_idcに設定し、前記第2modification_of_pic_nums_idcを前記スライスヘッダに書き込むんでもよい。
これにより、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置することを、複数のパラメータによってスライスヘッダに書き込むことができるので、復号の際には、スライスヘッダを解析するだけで参照ピクチャリストが修正されているか否かを判定することができる。
また、前記第1参照リスト修正シンタックスの書き込みでは、前記ref_pic_list_modification_flag_l0と、前記第1modification_of_pic_nums_idcと、前記第1abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込んでもよい。
これにより、各パラメータが順に連続して書き込まれているので、復号の際のスライスヘッダの解析が容易になる。
また、前記第2参照リスト修正シンタックスの書き込みでは、前記第2参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l1に設定し、前記ref_pic_list_modification_flag_l1を前記スライスヘッダに書き込み、第2abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第3modification_of_pic_nums_idcに設定し、前記第3modification_of_pic_nums_idcを前記スライスヘッダに書き込み、前記第2abs_diff_view_idx_minus1に0を設定し、前記第2abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、前記第2参照ピクチャリストの修正を終了することを示す値を、第4modification_of_pic_nums_idcに設定し、前記第4modification_of_pic_nums_idcを前記スライスヘッダに書き込んでもよい。
これにより、複数の参照ピクチャリストを利用する場合であっても、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置することを、複数のパラメータによってスライスヘッダに参照ピクチャリスト毎に書き込むことができるので、復号の際には、スライスヘッダを解析するだけで参照ピクチャリストのそれぞれが修正されているか否かを判定することができる。
また、前記第2参照リスト修正シンタックスの書き込みでは、前記ref_pic_list_modification_flag_l1と、前記第3modification_of_pic_nums_idcと、前記第2abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込んでもよい。
これにより、各パラメータが順に連続して書き込まれているので、復号の際のスライスヘッダの解析が容易になる。
また、前記ランダムアクセス可能なピクチャは、アンカーピクチャであってもよい。
また、本発明に係るエラー検出方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出方法であって、前記ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する初期化ステップと、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータを、前記ランダムアクセス可能なピクチャのスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定ステップと、前記エラーが発生していると判定された場合に、前記detected_error_flagに、前記ランダムアクセス可能なピクチャにエラーが発生していることを示す値を設定する設定ステップとを含み、前記判定ステップでは、(i)前記スライスヘッダから、前記パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値であるか否かを判定し、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値ではない場合をエラーが発生していると判定する第1判定処理と、(ii)前記スライスヘッダから、前記パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定し、前記modification_of_pic_nums_idcが、前記abs_diff_view_idx_minus1が前記予測値に加算する値に対応することを示す値ではない場合をエラーが発生していると判定する第2判定処理と、(iii)前記スライスヘッダから、前記パラメータとして、前記abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定し、前記abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定する第3判定処理との少なくとも1つの判定処理を行う。
これにより、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャが、正しく符号化されているか否かを判定することができる。
また、前記スライスヘッダには、前記ref_pic_list_modification_flag_l0と、前記modification_of_pic_nums_idcと、前記abs_diff_view_idx_minus1とが、順に連続して書き込まれており、前記判定ステップでは、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とのいずれかの判定処理によってエラーが発生していると判定されるまで、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とを順に行ってもよい。
これにより、複数のパラメータのうち1つでも正しい値が書き込まれていない場合にエラーを検出することができる。
また、前記ランダムアクセス可能なピクチャは、アンカーピクチャであってもよい。
また、本発明に係る復号方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号方法であって、前記ランダムアクセス可能なピクチャのスライスヘッダを解析することで、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストが修正されているか否かを判定する解析ステップと、前記参照ピクチャリストが修正されていると判定した場合、予め定められた規格に従って予測画像を生成し、前記参照ピクチャリストが修正されていないと判定した場合、前記規格とは異なる方法に従って予測画像を生成する予測ステップと、前記予測画像に基づいて前記ランダムアクセス可能なピクチャの対象スライスを復号する復号ステップとを含む。
これにより、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャを正しく復号することができる。
また、前記解析ステップでは、前記スライスヘッダを解析することで、ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値であるか否かを判定してもよい。
これにより、ref_pic_list_modification_flag_l0パラメータを読み取るだけで、参照ピクチャリストが修正されているか否かを判定することができる。
また、前記予測ステップでは、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値である場合、(i)前記参照ピクチャリストを修正するための修正シンタックスをスライスヘッダから読み出し、(ii)前記ビュー間参照ピクチャを前記参照ピクチャリストの先頭に配置し、(iii)前記参照ピクチャリストを用いて動き予測を行うことで、前記予測画像を生成してもよい。
これにより、規格に従って復号するだけで、参照ピクチャリストの修正を行うことができ、正確にランダムアクセス可能な符号化ピクチャを復号することができる。
また、前記予測ステップでは、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値でない場合、参照インデックスを参照することなく、ベースビューの画像を参照画像として前記予測画像を生成してもよい。
これにより、参照ピクチャリストが修正されていない場合であっても、ランダムアクセス可能な符号化ピクチャを復号することができる。
なお、本発明は、符号化方法、エラー検出方法及び復号方法として実現できるだけではなく、当該符号化方法、エラー検出方法及び復号方法に含まれる処理ステップを処理部として備える装置として実現することもできる。
本発明によれば、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができる。
図1は、アクセスユニットのデータ構造の一例を示す図である。 図2は、従来の参照ピクチャリストの初期化処理の一例を説明するための図である。 図3は、参照インデックスの値と、可変長エントロピー符号化によって参照インデックスの値を符号化したときのビット数との関係の一例を示す図である。 図4は、本発明の実施の形態1に係る符号化装置の構成の一例を示すブロック図である。 図5は、本発明の実施の形態1に係るノンベースビューコンポーネントを符号化する符号化部の構成の一例を示すブロック図である。 図6は、本発明の実施の形態1に係る参照ピクチャリストの修正の一例を説明するための図である。 図7Aは、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネント(Pピクチャ)を符号化した場合のストリーム構造の一例を示す図である。 図7Bは、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネント(Bピクチャ)を符号化した場合のストリーム構造の一例を示す図である。 図8は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する処理の一例を示すフローチャートである。 図9は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する際に、参照リストMVC修正シンタックスを書き込む処理の一例を示すフローチャートである。 図10は、本発明の実施の形態2に係る復号装置の構成の一例を示すブロック図である。 図11は、本発明の実施の形態2に係るエラー検出部の構成の一例を示すブロック図である。 図12は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントのエラーを検出する処理の一例を示すフローチャートである。 図13は、本発明の実施の形態2に係るMVCデコーダ部の構成の一例を示すブロック図である。 図14は、本発明の実施の形態2に係るMVCデコーダ部の詳細な構成の一例を示すブロック図である。 図15は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントを復号する処理の一例を示すフローチャートである。 図16は、本発明の実施の形態の変形例に係る復号装置の構成の一例を示すブロック図である。 図17は、本発明の実施の形態の変形例に係る復号装置の動作の一例を示すブロック図である。 図18は、コンテンツ配信サービスを実現するコンテンツ供給システムの全体構成の一例を示す模式図である。 図19は、携帯電話の外観を示す図である。 図20は、携帯電話の構成例を示すブロック図である。 図21は、デジタル放送用システムの全体構成の一例を示す模式図である。 図22は、テレビの構成例を示すブロック図である。 図23は、光ディスクである記録メディアに情報の読み書きを行う情報再生記録部の構成例を示すブロック図である。 図24は、光ディスクである記録メディアの構造例を示す図である。 図25は、各実施の形態に係る画像符号化方法及び画像復号方法を実現する集積回路の構成例を示すブロック図である。
以下では、本発明の実施の形態について、図面を用いて詳細に説明する。
(実施の形態1)
本発明の実施の形態1に係る符号化方法は、ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、ビュー内参照ピクチャとビュー間参照ピクチャとを示す参照ピクチャリストを、ビュー間参照ピクチャが先頭に配置されるように修正するための修正シンタックスを、ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップと、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置する配置ステップと、参照ピクチャリストを用いて、ランダムアクセス可能なピクチャを符号化する符号化ステップとを含むことを特徴とする。
まず、本発明に係る符号化方法を実施する符号化装置の一例について説明する。
図4は、本発明の実施の形態1に係る符号化装置100の構成の一例を示す図である。符号化装置100は、複数のビューを含む画像を符号化する装置であり、図4に示す例では、ベースビューの画像とノンベースビューの画像とを符号化する。符号化装置100は、第1ビューコンポーネント符号化部110と、記憶部120と、第2ビューコンポーネント符号化部130とを備える。
第1ビューコンポーネント符号化部110は、第1ビューの画像、すなわち、ベースビューの画像201を取得し、取得したベースビューの画像201を圧縮符号化することで、圧縮ベースビューコンポーネント202を生成する。生成された圧縮ベースビューコンポーネント202は、ビットストリームとして出力される。さらに、第1ビューコンポーネント符号化部110は、圧縮ベースビューコンポーネント202をローカル復号することで、再構築画像203を生成する。生成された再構築画像203は、記憶部120に格納される。
記憶部120は、参照画像を記憶するためのメモリである。具体的には、記憶部120は、第1ビューコンポーネント符号化部110によって生成された再構築画像203を参照画像として記憶する。
第2ビューコンポーネント符号化部130は、第2ビューの画像、すなわち、ノンベースビューの画像211を取得し、取得したノンベースビューの画像を圧縮符号化することで、圧縮ノンベースビューコンポーネント212を生成する。具体的には、第2ビューコンポーネント符号化部130は、記憶部120から参照画像213を読み出し、読み出した参照画像213を用いて予測画像を生成し、生成した予測画像とノンベースビューの画像211との差分を符号化する。なお、生成された圧縮ノンベースビューコンポーネント212は、ビットストリームとして出力される。
また、第2ビューコンポーネント符号化部130は、ランダムアクセス可能なピクチャ、例えば、アンカーピクチャを符号化する際には、参照ピクチャリストの修正を行う。第2ビューコンポーネント符号化部130の詳細な構成については、図5を用いて後で説明する。
図5は、本発明の実施の形態1に係る第2ビューコンポーネント符号化部130の構成の一例を示すブロック図である。図5に示すように、第2ビューコンポーネント符号化部130は、符号化部301と、ヘッダ書き込み部302と、リスト修正部303とを備える。
符号化部301は、ノンベースビューの画像211を、参照ピクチャリストを用いて符号化することで、圧縮ノンベースビューコンポーネント212を生成する。具体的には、符号化部301は、符号化対象のノンベースビューの画像211がランダムアクセス可能なピクチャに含まれる画像である場合、リスト修正部303によって修正された参照ピクチャリストを用いて、記憶部120から参照画像213を読み出す。なお、ランダムアクセス可能なピクチャは、例えば、アンカーピクチャである。
アンカーピクチャを符号化する際にビュー間参照を行う場合は、記憶部120から読み出される参照画像213は、同一アクセスユニットに含まれるベースビューの再構築画像である。そして、符号化部301は、参照画像213を用いて予測画像を生成し、生成した予測画像とノンベースビューの画像211との差分を符号化する。
ヘッダ書き込み部302は、ノンベースビューの画像211がランダムアクセス可能なピクチャに含まれる画像である場合、参照ピクチャリストを変更するための修正シンタックスをスライスヘッダに書き込む。修正シンタックスは、例えば、参照リストMVC修正シンタックスであり、図1に示すref_pic_list_mvc_modifications()である。ヘッダ書き込み部302が書き込む修正シンタックスの具体例については、後で説明する。
なお、参照ピクチャリストは、参照インデックスと参照画像との対応関係を示すリストである。図2に示すように、参照ピクチャリストは、ビュー内参照ピクチャとビュー間参照ピクチャとを複数の参照インデックスのそれぞれに対応付けて示している。
さらに、ヘッダ書き込み部302は、NALユニットヘッダにanchor_pic_flagを書き込む。具体的には、ヘッダ書き込み部302は、ノンベースビューの画像211がアンカーピクチャに含まれる画像である場合、アンカーピクチャであることを示す値(具体的には、1)を、anchor_pic_flagに設定し、設定したanchor_pic_flagをNALユニットヘッダに書き込む。なお、anchor_pic_flagの具体例については、後で説明する。
リスト修正部303は、本発明に係る配置部の一例であって、ビュー間参照ピクチャを参照ピクチャリストの先頭に配置するように、参照ピクチャリストを修正する。つまり、リスト修正部303は、参照インデックスと参照ピクチャとの対応関係を変更する。具体的には、参照インデックス[0]が、ビュー間参照ピクチャを示すように、参照ピクチャリストを変更する。
例えば、図6に示すように、リスト修正部303は、参照インデックス[4]に対応付けられていたビュー間参照ピクチャEを、参照インデックス[0]に対応付けるように、参照ピクチャリストを修正する。これにより、ノンベースビューの画像211が、アンカーピクチャに含まれる画像である場合は、参照インデックスを符号化するのに必要な符号量を削減することができる。
例えば、図2のビューコンポーネント20に含まれるノンベースビューの画像211が、アンカーピクチャに含まれる画像である場合は、同一アクセスユニット内の画像のみが参照画像となる。すなわち、ノンベースビューの画像211を符号化する際に、参照ピクチャA〜Dを参照することはなく、ビュー間参照ピクチャEが参照される。
したがって、頻繁に使用される参照インデックスは参照インデックス[0]であり、図3に示す例では、1ビットで表現することができる。参照ピクチャリストの修正前は、ビュー間参照ピクチャEを示す参照インデックスは参照インデックス[4]であり、5ビット必要であったため、参照インデックスを符号化するのに必要な符号量を削減することができる。
以上の構成により、本発明に係る符号化装置100は、ランダムアクセス可能なピクチャを符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置する。これにより、頻繁に使用されるビュー間参照ピクチャの参照インデックスが小さい値となり、参照インデックスを符号化するために必要な符号量、すなわち、参照インデックスを示すビットを削減することができるので、符号化効率を向上させることができる。
以下では、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化することで生成されるストリーム構造の一例について説明する。なお、アクセスユニットのノンベースビューコンポーネントの位置は、図1に示す通りである。
図7Aは、アンカーアクセスユニットのノンベースビューコンポーネントの符号化Pスライスのストリーム構造の一例を示す図である。
図7Aに示すように、anchor_pic_flagは、NALユニットヘッダに書き込まれている。anchor_pic_flagは、当該anchor_pic_flagが付された画像が、アンカーピクチャに含まれる画像であるか否かを判定するために用いられるフラグである。
具体的には、anchor_pic_flagの値が1であることは、ピクチャを構成する全てのスライスが、同一アクセスユニット内のスライスのみを参照して符号化された、すなわち、インター予測(時間方向)を使用していないことを示している。また、anchor_pic_flagの値が1であることは、表示順で後続する符号化ピクチャが、復号順でその符号化ピクチャより前のピクチャを参照しないことを示している。
つまり、値が1に設定されたanchor_pic_flagが付されたピクチャは、ランダムアクセス可能である。逆に、値が0に設定されたanchor_pic_flagが付されたピクチャはランダムアクセスされない。したがって、例えば、アンカーピクチャの全てのNALユニットに含まれるanchor_pic_flagは、1に設定されている。
また、図7Aに示すように、ref_pic_list_modification_flag_l0、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1は、スライスヘッダに書き込まれている。これら3つのパラメータが、図1に示すref_pic_list_mvc_modification()、すなわち、参照リストMVC修正シンタックスに相当する。
ref_pic_list_modification_flag_l0は、参照ピクチャリストを修正するか否かを示すパラメータである。具体的には、ref_pic_list_modification_flag_l0の値が1であることは、第1参照ピクチャリスト(リスト0)を修正することを示し、ref_pic_list_modification_flag_l0の値が0であることは、第1参照ピクチャリスト(リスト0)を修正しないことを示している。
なお、第1参照ピクチャリストは、例えば、Pピクチャが参照する参照画像を示すリストである。あるいは、第1参照ピクチャリストは、例えば、Bピクチャが参照する参照画像のうち、一方向(例えば、前方)の参照画像を示すリストである。
modification_of_pic_nums_idcは、abs_diff_view_idx_minus1などの他のパラメータとともに用いられ、参照ピクチャリストの修正処理の方法を示すパラメータである。例えば、modification_of_pic_nums_idcの値が5であることは、abs_diff_view_idx_minus1の値がビュー間参照インデックスの予測値に加算する値に対応することを示している。また、modification_of_pic_nums_idcの値が3であることは、参照ピクチャリストの修正処理が完了したことを示している。
abs_diff_view_idx_minus1は、ビュー間参照インデックスに関する値を示している。具体的には、modification_of_pic_nums_idcの値が5である場合、abs_diff_view_idx_minus1の値は、ビュー間参照インデックスの予測値に加算する差分値に相当する。したがって、abs_diff_view_idx_minus1の値が0である場合は、ビュー間参照インデックスは[0]となり、ビュー間参照ピクチャが参照リストの先頭に配置される。
図7Bは、アンカーアクセスユニットのノンベースビューコンポーネントの符号化Bスライスのストリーム構造の一例を示す図である。図7Aに示す符号化Pスライスの場合と比較して、さらに、ref_pic_list_modification_l1、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1がスライスヘッダに書き込まれている。
ref_pic_list_modification_l1は、参照ピクチャリストを修正するか否かを示すパラメータである。具体的には、ref_pic_list_modification_flag_l1の値が1であることは、第2参照ピクチャリスト(リスト1)を修正することを示し、ref_pic_list_modification_flag_l1の値が0であることは、第2参照ピクチャリスト(リスト0)を修正しないことを示している。なお、第2参照ピクチャリストは、例えば、Bピクチャが参照する参照画像のうち、一方向(例えば、後方)の参照画像を示すリストである。
modification_of_pic_nums_idc及びabs_diff_view_idx_minus1については、図7Aに示すものと同じであるので、説明を省略する。
以下では、本発明の実施の形態1に係る符号化装置100の動作について説明する。
図8は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントの符号化処理の一例を示すフローチャートである。
図8に示すように、まず、ヘッダ書き込み部302は、anchor_pic_flagパラメータの値を1に設定する(S101)。次に、ヘッダ書き込み部302は、anchor_pic_flagパラメータをスライスのNALユニットヘッダに書き込む(S102)。
そして、ヘッダ書き込み部302は、参照リストMVC修正シンタックスをスライスヘッダに書き込む(S103)。その後、リスト修正部303は、ビュー間参照ピクチャを参照ピクチャリストの先頭に置く(S104)。ビュー間参照ピクチャは、例えば、アンカーアクセスユニットのベースビューコンポーネントである。
最後に、符号化部301は、ビュー間参照ピクチャを用いてノンベースビューコンポーネントを符号化する(S105)。
以上のようにして、本発明の実施の形態1に係る符号化装置100は、符号化対象の画像が、アンカーピクチャなどのランダムアクセス可能なピクチャに含まれる画像である場合に、ビュー間参照ピクチャを参照リストの先頭に配置するように、参照ピクチャリストを修正する。以下では、具体的な参照リストMVC修正シンタックスの書き込み処理(S103)について説明する。
図9は、本発明の実施の形態1に係るアンカーアクセスユニットのノンベースビューコンポーネントを符号化する際に、参照リストMVC修正シンタックスを書き込む処理の一例を示すフローチャートである。
図9に示すように、まず、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l0パラメータの値を1に設定する(S201)。そして、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l0パラメータをスライスヘッダに書き込む(S202)。このようにして、ヘッダ書き込み部302は、参照ピクチャリスト(第1参照ピクチャリスト)を修正することを示す値をスライスヘッダに書き込む。
次に、ヘッダ書き込み部302は、第1modification_of_pic_nums_idcパラメータの値を5に設定する(S203)。それから、ヘッダ書き込み部302は、スライスヘッダのref_pic_list_modification_flag_l0パラメータの後ろの位置に、第1modification_of_pic_nums_idcパラメータを書き込む(S204)。
次に、ヘッダ書き込み部302は、abs_diff_view_idx_minus1パラメータの値を0に設定する(S205)。そして、ヘッダ書き込み部302は、スライスヘッダの第1modification_of_pic_nums_idcパラメータの後ろの位置に、abs_diff_view_idx_minus1パラメータを書き込む(s206)。このようにして、ヘッダ書き込み部302は、ビュー間参照ピクチャを参照リストの先頭に配置することを示す値をスライスヘッダに書き込む。
そして、ヘッダ書き込み部302は、第2modification_of_pic_nums_idcパラメータの値を3に設定する(S207)。次に、ヘッダ書き込み部302は、スライスヘッダの第1abs_diff_view_idx_minus1パラメータの後ろの位置に、第2modification_of_pic_nums_idcパラメータをスライスヘッダに書き込む(S208)。このようにして、ヘッダ書き込み部302は、参照ピクチャリストの修正処理を完了することを示す値をスライスヘッダに書き込む。
ただし、第2modification_of_pic_nums_idcの数値3を書き込むのは、スライスヘッダ中、abs_diff_view_idx_minus1パラメータの直後でないこともあるが、ref_pic_list_modification_flag_l1パラメータより前の位置に少なくとも一度は書き込むか、あるいは、参照リストMVC修正シンタックスの最後のパラメータ位置に書き込むものとする。
ここで、スライスタイプがBスライスであるかを判定する(S209)。この判定は、例えば、符号化部301又は制御部(図4及び図5には図示していない)によって実施される。
スライスタイプがPスライスであった場合(S209でNo)、参照リストMVC修正シンタックスの書き込み処理は終了する。
スライスタイプがBスライスであった場合(S209でYes)、ヘッダ書き込み部302は、スライスヘッダ中の第2modification_of_pic_nums_idcパラメータの数値3の後に、新たなパラメータを書き込む。具体的には、まず、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l1パラメータの値を1に設定する(S210)。そして、ヘッダ書き込み部302は、ref_pic_list_modification_flag_l1をスライスヘッダに書き込む(S211)。このようにして、ヘッダ書き込み部302は、第2参照ピクチャリストを修正することを示す値をスライスヘッダに書き込む。
次に、ヘッダ書き込み部302は、新たなmodification_of_pic_nums_idcパラメータの値を5に設定し(S212)、スライスヘッダのref_pic_list_modification_flag_l1パラメータの後ろの位置に書き込む(S213)。さらに、ヘッダ書き込み部302は、新たなabs_diff_view_idx_minus1パラメータの値を0に設定し(S214)、スライスヘッダのmodification_of_pic_nums_idcパラメータの後ろの位置に書き込む(S215)。このようにして、ヘッダ書き込み部302は、ビュー間参照ピクチャを参照リストの先頭に配置することを示す値をスライスヘッダに書き込む。
最後に、ヘッダ書き込み部302は、末尾のmodification_of_pic_nums_idcパラメータの値を3に設定し(S216)、参照リストMVC修正シンタックスの最後のパラメータ位置に書き込む(S217)。
以上のように、本発明の実施の形態1に係る符号化装置100は、ランダムアクセス可能なピクチャ、例えば、アンカーピクチャを符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置することを示すシンタックスをスライスヘッダに書き込む。さらに、符号化装置100は、ノンベースビューのアンカーピクチャに含まれる画像を符号化する際に、参照ピクチャリストの先頭にビュー間参照ピクチャを配置するように参照ピクチャリストを修正し、修正した参照ピクチャリストに従ってノンベースビューの画像を符号化する。
これにより、頻繁に使用されるビュー間参照ピクチャの参照インデックスの値を小さくすることができ、参照インデックスを符号化するのに必要な符号量を削減することができる。また、符号化ストリームのスライスヘッダに参照ピクチャリストを修正することを示すシンタックスが含まれているので、復号装置側で符号化ストリームを適切に復号することができる。
なお、上記の実施の形態では、アンカーアクセスユニットがベースビューコンポーネントとノンベースビューコンポーネントとの2つのビューコンポーネントから構成される例について示したが、図1に示すように、アンカーアクセスユニットは、複数のノンベースビューコンポーネントを含んでいてもよい。
この場合、リスト修正部303は、複数のビュー間参照ピクチャのそれぞれを示す参照インデックスが、ビュー内参照ピクチャを示す参照インデックスより値が小さくなるように、参照ピクチャリストを修正する。例えば、1つのノンベースビューコンポーネント(第1ノンベースビューコンポーネント)が複数のビューコンポーネント(ベースビューコンポーネント及び第2ノンベースビューコンポーネント)を参照する場合、例えば、リスト修正部303は、参照インデックス[0]がベースビューコンポーネントを示し、参照インデックス[1]が第2ノンベースビューコンポーネントを示すように、参照ピクチャリストを修正する。
(実施の形態2)
本発明の実施の形態2に係るエラー検出方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出方法であって、ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を所定のエラー検出フラグに設定する初期化ステップと、参照ピクチャリストを、ビュー間参照ピクチャが先頭に配置されるように修正するための修正シンタックスに含まれるパラメータをスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定ステップと、エラーが発生していると判定された場合に、エラーが発生していることを示す値をエラー検出フラグに設定する設定ステップとを含むことを特徴とする。
また、本発明の実施の形態2に係る復号方法は、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号方法であって、ランダムアクセス可能なピクチャのスライスヘッダを解析することで、参照ピクチャリストが、ビュー間参照ピクチャが先頭に配置されるように修正されているか否かを判定する解析ステップと、参照ピクチャリストが修正されていると判定された場合に、予め定められた規格に従って予測画像を生成し、参照ピクチャリストが修正されていないと判定した場合、上記規格とは異なる方法に従って予測画像を生成する予測ステップと、予測画像に基づいてランダムアクセス可能なピクチャを復号する復号ステップとを含むことを特徴とする。
まず、本発明の実施の形態2に係るエラー検出方法及び復号方法を実施する復号装置の構成の一例について説明する。
図10は、本発明の実施の形態2に係る復号装置400の構成の一例を示すブロック図である。復号装置400は、複数のビューの画像が符号化されて生成された符号化ストリーム(MVCビットストリーム501)を復号する装置であり、ビットストリームのエラーを検出する機能を備えている。図10に示すように、復号装置400は、エラー検出部410と、切り替え部420と、MVCデコーダ部430と、記憶部440と、エラー隠蔽部450とを備える。
エラー検出部410は、本発明の実施の形態2に係るエラー検出方法を実施する処理部の一例である。エラー検出部410は、MVCビットストリーム501に含まれる符号化ピクチャであって、ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出する。例えば、エラー検出部410は、アンカーユニットに含まれる圧縮ノンベースビューコンポーネントにエラーが発生しているか否かを判定する。
エラーが検出された場合、エラー検出部410は、予め定められたエラー検出フラグ502に、エラーが発生していることを示す値を設定し、設定したエラー検出フラグ502を切り替え部420へ出力する。図10に示す例では、エラー検出フラグ502は、detected_error_flagであり、エラーが検出された場合、detected_error_flagに1を設定する。エラーが検出されていない場合、例えば、初期状態では、detected_error_flagは0が設定される。なお、エラー検出部410の詳細な構成については、後で説明する。
切り替え部420は、エラー検出フラグ502に応じて、MVCビットストリーム501をMVCデコーダ部430及びエラー隠蔽部450のいずれに出力するかを切り替える。具体的には、切り替え部420は、エラーが発生していることをエラー検出フラグ502が示す場合は、MVCビットストリーム501をエラー隠蔽部450へ出力する。例えば、切り替え部420は、detected_error_flagの値が1である場合、MVCビットストリーム501をエラー隠蔽部450へ出力する。
また、切り替え部420は、エラーが発生していないことをエラー検出フラグ502が示す場合は、MVCビットストリーム501をMVCデコーダ部430へ出力する。例えば、切り替え部420は、detected_error_flagの値が0である場合、MVCビットストリーム501をMVCデコーダ部430へ出力する。
MVCデコーダ部430は、本発明の実施の形態2に係る復号方法を実施する処理部の一例であり、MVCビットストリーム501を復号する。具体的には、MVCデコーダ部430は、記憶部440から参照画像503を読み出し、読み出した参照画像503を用いて予測画像を生成し、生成した予測画像を利用して、MVCビットストリーム501に含まれるランダムアクセス可能なピクチャを復号する。復号により生成された再構築画像504は、外部に出力されるとともに、記憶部440に格納される。なお、MVCデコーダ部430の詳細な構成については、後で説明する。
記憶部440は、再構築画像504を記憶するためのメモリである。なお、記憶部440には、MVCデコーダ部430によって生成された再構築画像504のうち、後続の処理で参照される可能性のある画像のみを記憶させてもよい。
エラー隠蔽部450は、圧縮ノンベースビューコンポーネントに発生したエラーを隠蔽するエラー隠蔽処理を実施する。例えば、エラー隠蔽部450は、エラーが発生しているノンベースビューコンポーネントと同一のアクセスユニットに含まれる、再構築されたベースビューコンポーネント505を記憶部440から読み出し、読み出した再構築されたベースビューコンポーネント505をノンベースビューコンポーネントの再構築画像506として出力する。
なお、エラー隠蔽部450が実施するエラー隠蔽処理は、これに限らず、他の画像を利用した動き予測及び動き補償処理などを実行することで、エラー隠蔽画像を生成し、生成したエラー隠蔽画像を再構築画像506として出力してもよい。
ここで、図10に示す復号装置400の処理部の動作について、簡単にデータの流れに沿って説明する。まず、MVCビットストリーム501がエラー検出部410によって読み取られ、エラー検出フラグ502の一例であるdetected_error_flagパラメータが出力される。
切り替え部420は、エラー検出部410からdetected_error_flagパラメータを読み取り、detected_error_flagの値が0であれば、MVCビットストリーム501に含まれる符号化ビューコンポーネントをMVCデコーダ部430に出力する。MVCデコーダ部430は、符号化ビューコンポーネントを読み取り、記憶部440から参照画像503を読み取って、再構築画像504を出力する。なお、再構築画像504は、その後、記憶部440に格納される。
detected_error_flagの値が1である場合、切り替え部420は、MVCビットストリーム501に含まれるノンベースビューコンポーネントをエラー隠蔽部450に送信する。エラー隠蔽部450は、再構築されたベースビューコンポーネント505及び符号化ノンベースビューコンポーネントを読み取り、エラー隠蔽画像を再構築画像506として出力する。エラー隠蔽部450が用いるエラー隠蔽方法には、例えば、再構築ベースビューを複製して、ノンベースビューとして出力するという方法がある。
次に、本発明の実施の形態2に係るエラー検出方法を実施するエラー検出部410の構成について、図11を用いて説明する。なお、図11は、本発明の実施の形態2に係るエラー検出部410の構成の一例を示すブロック図である。
図11に示すように、エラー検出部410は、パラメータ判定部601と、エラーフラグ設定部602とを備える。
パラメータ判定部601は、参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータをスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する。具体的には、パラメータ判定部601は、以下の3つの第1〜第3判定処理の少なくとも1つを行う。
第1判定処理は、スライスヘッダから、パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、参照ピクチャリストを修正することを示す値(例えば、1)であるか否かを判定する処理である。第1判定処理では、ref_pic_list_modification_flag_l0が、参照ピクチャリストを修正することを示す値(例えば、1)ではない場合をエラーが発生していると判定される。
第2判定処理は、スライスヘッダから、パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値(例えば、5)であるか否かを判定する処理である。第2判定処理では、modification_of_pic_nums_idcが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値(例えば、5)ではない場合をエラーが発生していると判定される。
第3判定処理は、スライスヘッダから、パラメータとして、abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定する。第3判定処理では、abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定される。
なお、図7A及び図7Bに示すように、スライスヘッダには、ref_pic_list_modification_flag_l0と、modification_of_pic_nums_idcと、abs_diff_view_idx_minus1とが順に連続して書き込まれている。したがって、パラメータ判定部601は、具体的には、第1〜第3判定処理とのいずれかの判定処理によってエラーが発生していると判定されるまで、第1〜第3判定処理を順に行う。
エラーフラグ設定部602は、まず、エラー検出フラグの初期化処理として、ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する。さらに、エラーフラグ設定部602は、パラメータ判定部601によって、エラーが発生していると判定された場合に、detected_error_flagに、ランダムアクセス可能なピクチャにエラーが発生していることを示す値(例えば、1)を設定する。
続いて、本発明の実施の形態2に係るエラー検出方法を実施するエラー検出部410の動作の一例について、図12を用いて説明する。図12は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントのエラーを検出する処理の一例を示すフローチャートである。
まず、エラーフラグ設定部602は、detected_error_flagパラメータを数値0に設定することで、detected_error_flagパラメータを初期化する(S301)。このパラメータを用いて、ノンベースビューコンポーネントにエラーがないかが示される。つまり、上述したように、このパラメータの値が1の場合は、ノンベースビューコンポーネントがなんらかのエラーを含んでいるということである。それ以外の場合、すなわち、detected_error_flagパラメータの値が0の場合は、ノンベースビューコンポーネントにエラーがないことを意味する。
次に、パラメータ判定部601は、NALユニットヘッダからanchor_pic_flagパラメータを読み取る(S302)。そして、パラメータ判定部601は、読み出したanchor_pic_flagパラメータの値が1であるか否かを判定する(S303)。つまり、パラメータ判定部601は、ノンベースビューコンポーネントがアンカーピクチャであるか否かを判定する。
アンカーアクセスユニットのノンベースビューコンポーネントについて、このパラメータの値が1でない場合は(S303でNo)、すなわち、ノンベースビューコンポーネントがアンカーピクチャではない場合、エラーフラグ設定部602は、detected_error_flagの値を1に設定する(S310)。
アンカーアクセスユニットのノンベースビューコンポーネントについて、anchor_pic_flagパラメータの値が1である場合は(S303でYes)、すなわち、ノンベースビューコンポーネントがアンカーピクチャである場合、パラメータ判定部601は、スライスヘッダからref_pic_list_modification_flag_l0を読み取る(S304)。このref_pic_list_modification_flag_l0パラメータの位置は、図7A及び図7Bに示す通りである。
そして、パラメータ判定部601は、読み出したref_pic_list_modification_flag_l0パラメータの値が1であるか否かを判定する(S304)。つまり、パラメータ判定部601は、アンカーアクセスユニットのノンベースビューコンポーネントについて、参照ピクチャリストが修正されているか否かを判定する。
このref_pic_list_modification_flag_l0パラメータの値が1でない場合(S305でNo)、すなわち、参照ピクチャリストが修正されていない場合、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。
ref_pic_list_modification_flag_l0パラメータの値が1である場合は(S305でYes)、すなわち、参照ピクチャリストが修正されている場合、パラメータ判定部601は、スライスヘッダからmodification_of_pic_nums_idcパラメータを読み取る(S306)。このmodification_of_pic_nums_idcパラメータの位置は、図7A及び図7Bに示す通りである。
次に、パラメータ判定部601は、読み出したmodification_of_pic_nums_idcパラメータの値が5であるか否かを判定する(S307)。つまり、パラメータ判定部601は、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定する。
modification_of_pic_nums_idcパラメータの値が5でない場合(S307でNo)、すなわち、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値ではない場合、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。
modification_of_pic_nums_idcパラメータの値が5である場合は(S307でYes)、すなわち、modification_of_pic_nums_idcパラメータが、abs_diff_view_idx_minus1が予測値に加算する値に対応することを示す値である場合、パラメータ判定部601は、スライスヘッダからabs_diff_view_idx_minus1パラメータを読み取る(S308)。なお、スライスヘッダ中、ref_pic_list_modification_flag_l0、modification_of_pic_nums_idc及びabs_diff_view_idx_minus1の各パラメータは、図7A及び図7Bに示すように、順に連続している。
そして最後に、パラメータ判定部601は、abs_diff_view_idx_minus1パラメータの値が0であるか否かを判定する(S309)。
abs_diff_view_idx_minus1パラメータの値が0でない場合(S309でNo)、エラーフラグ設定部602は、detected_error_flagパラメータの値を1に設定する(S310)。abs_diff_view_idx_minus1パラメータの値が0である場合(S309でYes)、エラーフラグ設定部602は、detected_error_flagパラメータの値を0のまま、切り替え部420へ出力する。
以上のようにして、本発明の実施の形態2に係るエラー検出部410は、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャが、正しく符号化されているか否かを判定することができる。
続いて、本発明の実施の形態2に係る復号方法を実施するMVCデコーダ部430の構成について説明する。
図13は、本発明の実施の形態2に係るMVCデコーダ部430の構成の一例を示すブロック図である。MVCデコーダ部430は、解析部710と、予測部720と、復号部730とを備える。
解析部710は、スライスヘッダを解析することで、参照ピクチャリストが修正されているか否かを判定する。具体的には、解析部710は、復号対象の画像が、ランダムアクセス可能なピクチャに含まれる画像であって、ノンベースビューコンポーネントに含まれる画像である場合に、参照ピクチャリストが修正されているか否かを判定する。
予測部720は、解析部710によって、参照ピクチャリストが修正されていると判定された場合、予め定められた規格に従って予測画像を生成する。例えば、予測部720は、参照ピクチャリストが修正されていると判定された場合に、H.264/AVC MVC映像規格に基づいて、予測画像を生成する。
また、予測部720は、解析部710によって、参照ピクチャリストが修正されていないと判定された場合、上記の規格とは異なる方法に従って予測画像を生成する。例えば、予測部720は、ノンベースビューコンポーネントの復号対象の画像と同一のアクセスユニットに含まれるベースビューコンポーネントを参照画像として、予測画像を生成する。
復号部730は、予測部720によって生成された予測画像に基づいて、ノンベースビューコンポーネントに含まれる画像であって、ランダムアクセス可能なピクチャの画像を復号する。
以下では、MVCデコーダ部430のより詳細な構成について説明する。
図14は、本発明の実施の形態2に係るMVCデコーダ部430の詳細な構成の一例を示すブロック図である。図14に示すように、MVCデコーダ部430は、解析部710と、予測部720と、復号部730と、記憶部740とを備える。
図14に示すように、解析部710は、ref_pic_list_modification_flag_l0パラメータ解析部711を備える。また、予測部720は、切り替え部721と、参照リスト修正シンタックス解析部722と、参照リスト修正部723と、第1動き予測部724と、ベースビュー探知部725と、第2動き予測部726とを備える。また、復号部730は、ピクチャ再構築部731を備える。
ref_pic_list_modification_flag_l0パラメータ解析部711は、アンカーアクセスユニットのノンベースビューコンポーネント801のスライスヘッダを読み取り、切り替え部721にref_pic_list_modification_flag_l0パラメータ802の値を出力する。
切り替え部721は、ref_pic_list_modification_flag_l0パラメータの値が1である場合、ノンベースビューコンポーネント801を参照リスト修正シンタックス解析部722に伝える。また、切り替え部721は、ref_pic_list_modification_flag_l0パラメータの値が0である場合、ノンベースビューコンポーネント801をベースビュー探知部725に伝える。
参照リスト修正シンタックス解析部722は、ノンベースビューコンポーネント801のスライスヘッダを読み取り、参照リスト修正部723に参照リスト修正シンタックス803を出力する。
参照リスト修正部723は、参照リスト修正シンタックス803を読み取り、読み取った参照リスト修正シンタックス803に基づいて参照ピクチャリストを修正し、修正した参照ピクチャリスト804を第1動き予測部724に出力する。
第1動き予測部724は、修正された参照ピクチャリストを動き予測に使用し、予測画像805としてピクチャ再構築部731に出力する。
ベースビュー探知部725は、記憶部740から対応するベースビューコンポーネント806を探し出し、見つけたベースビューコンポーネント806を第2動き予測部726に出力する。
第2動き予測部726は、探知されたベースビューコンポーネント806を動き予測に使用し、予測画像807をピクチャ再構築部731に出力する。
ピクチャ再構築部731は、予測画像805又は807を読み取り、ノンベースビューの再構築画像を再構築し、再構築したノンベースビューの再構築画像を出力する。
以上の構成により、本発明の実施の形態2に係る復号装置400は、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置するように参照ピクチャリストを修正して符号化されたランダムアクセス可能なピクチャを、正しく復号することができる。
続いて、本発明の実施の形態2に係る復号装置400の動作について説明する。
図15は、本発明の実施の形態2に係るアンカーアクセスユニットのノンベースビューコンポーネントを復号する処理の一例を示すフローチャートである。
まず、解析部710は、スライスヘッダからref_pic_list_modification_flag_l0パラメータを読み取る(S401)。そして、解析部710は、ref_pic_list_modification_flag_l0パラメータの値が0であるか否かを判定する(S402)。すなわち、解析部710は、アンカーアクセスユニットのノンベースビューコンポーネントについて、参照ピクチャリストが修正されているか否かを判定する。
ref_pic_list_modification_flag_l0パラメータの値が0であった場合(S402でYes)、すなわち、参照ピクチャリストが修正されていない場合、ベースビュー探知部725は、記憶部740内に保持されているアンカーピクチャの対応するベースビューコンポーネントを探知する(S403)。アンカーピクチャの対応するベースビューコンポーネントは、復号処理中のノンベースビューコンポーネントと同一のピクチャオーダカウントを有する。すなわち、同一のアクセスユニットに含まれるベースビューコンポーネントである。
次に、第2動き予測部726は、探知されたベースビューコンポーネントを用いて、動き予測を行う(S404)。符号化されたノンベースビューコンポーネントには、参照リスト中のいずれの参照ピクチャを動き予測に使用すべきかを識別するための参照インデックスがマクロブロックヘッダに付されていることもある。しかしながら、第2動き予測部726は、これらの参照インデックスを参照することなく、探知したベースビューコンポーネント(ベースビューの画像)を動き予測に用いる参照ピクチャとして選択する。
また、ref_pic_list_modification_flag_l0パラメータの値が0ではない場合(S402でNo)、すなわち、参照ピクチャリストが修正されている場合、参照リスト修正シンタックス解析部722は、スライスヘッダから参照リスト修正シンタックスを読み取る(S405)。そして、参照リスト修正部723は、読み出した参照リスト修正シンタックスに基づいて参照リストを修正する(S406)。具体的には、図6に示すように、ビュー間参照ピクチャが参照ピクチャリストの先頭に配置されるように、参照ピクチャリストを修正する。そして、第1動き予測部724は、修正した参照リストを用いて動き予測を行う(S407)。
最後に、動き予測が行われた後、ピクチャ再構築部731は、ノンベースビューの再構築画像を再構築する(S408)。
以上のようにして、本発明の実施の形態2に係る復号装置400は、修正された参照ピクチャリストに基づいて符号化されたランダムアクセス可能なピクチャ、例えば、符号化されたアンカーピクチャを復号する際に、符号化ストリームに含まれる、参照ピクチャリストを修正したことを示すシンタックスにエラーが発生しているか否かを判定する。また、復号装置400は、符号化ストリームから読み出したシンタックスに基づいて参照ピクチャリストを修正し、修正した参照ピクチャリストを用いて、修正された参照ピクチャリストに基づいて符号化されたランダムアクセス可能なピクチャ、例えば、符号化されたアンカーピクチャを復号する。
これにより、修正された参照ピクチャリストを用いて符号化されたランダムアクセス可能なピクチャのエラーを検出することができるとともに、当該ピクチャを正しく復号することができる。
なお、本発明の実施の形態2に係る復号装置400は、エラー検出部410を備えていなくてもよい。具体的には、本発明に係る復号装置は、MVCデコーダ部430を備えるだけでも、修正された参照ピクチャリストを参照して符号化されたランダムアクセス可能なピクチャを復号することができる。
また、本発明の実施の形態2に係るエラー検出部410は、復号装置400に備えられていなくてもよい。符号化装置及び復号装置とは独立した、エラー検出装置としても実現することができる。また、符号化が正しく行われたことを確認するために、符号化装置がエラー検出部410を備えていてもよい。
また、本発明に係る復号装置及び復号方法の変形例として、復号対象の画像がランダムアクセス可能なピクチャである場合は、参照インデックスの値に係らず、復号対象の画像と同一のアクセスユニットのベースビューコンポーネントを参照画像として用いてもよい。
図16は、本発明の実施の形態の変形例に係る復号装置900の構成の一例を示すブロック図である。図16に示すように、復号装置900は、判定部910と、復号部920とを備える。
判定部910は、ランダムアクセスを行うか否かを判定する。具体的には、判定部910は、ユーザからランダムアクセスを開始する旨の指示を受けたか否かを判定し、ランダムアクセス開始の指示を受けた場合は、ランダムアクセスを行うと判定する。あるいは、判定部910は、復号を開始する際の最初のベースビューの画像がIピクチャに含まれる画像であるか否かを判定してもよい。最初のベースビューの画像がIピクチャに含まれる画像である場合は、判定部910は、ランダムアクセスを行うと判定する。
復号部920は、判定部910によって、ランダムアクセスを行うと判定された場合に、ランダムアクセスの最初のピクチャを含むアクセスユニットのノンベースビューを復号する際、参照インデックスに係らず、同一のアクセスユニットのベースビューコンポーネントを参照画像としてノンベースビューコンポーネントの復号を行う。また、ランダムアクセスの最初のピクチャを含むアクセスユニットとは異なるアクセスユニットのベースビューコンポーネントを参照画像とすることを禁止し、ランダムアクセスの最初のピクチャを含むアクセスユニットのベースビューコンポーネントのみを参照画像としてノンベースビューコンポーネントの復号を行ってもよい。
以下では、本発明の実施の形態の変形例に係る復号装置900の動作について、図17を用いて説明する。図17は、本発明の実施の形態の変形例に係る復号装置900の動作の一例を示すフローチャートである。
まず、判定部910は、ランダムアクセスを実行するか否かを判定する(S501)。例えば、判定部910は、ユーザからのランダムアクセスを開始するという旨の指示を受けたか否かを判定し、ランダムアクセス開始の指示を受けた場合は、ランダムアクセスを実行すると判定する。また、判定部910は、ノンベースビューコンポーネントに含まれる復号対象の画像が参照するベースビューコンポーネントがIピクチャであるか否かを判定し、ベースビューコンポーネントがIピクチャである場合は、ランダムアクセスを実行すると判定してもよい。
そして、ランダムアクセスを実行すると判定された場合(S501でYes)、復号部920は、参照インデックスを無視し、ベースビューコンポーネントを参照画像として、ノンベースビューコンポーネントの復号対象の画像を復号する(S502)。
ランダムアクセスを実行すると判定されなかった場合(S501でNo)、予め定められた規格、例えば、H.264/AVC MVC映像規格に従って、復号対象の画像を復号する(S503)。
以上のようにして、本発明の変形例に係る復号装置900は、ランダムアクセスを行うか否かを判定する判定部を備え、ランダムアクセスを行う場合は、参照インデックスの値に係らず、同一アクセスユニットのベースビューコンポーネントを参照画像としてノンベースビューコンポーネントの復号を行う。これにより、符号化側でどのような順番で参照インデックスが付されていたとしても、ランダムアクセス可能な符号化ピクチャを復号することができる。
また、本発明の変形例に係る復号装置は、復号開始ピクチャを指定する復号開始ピクチャ指定部と、復号開始ピクチャ指定部において指定されたベースビューのピクチャがIピクチャである場合に、ランダムアクセスが開始されたと判定する判定部と、判定部において、ランダムアクセスが開始されたと判定された場合に、Iピクチャを含むランダムアクセスユニットのノンベースビューを復号する際、ランダムアクセスユニット以外のランダムアクセスユニットのベースビューのピクチャの参照を禁止し、ランダムアクセスユニット内のベースビューのピクチャのみを参照して復号を行う復号部とを備えていてもよい。
(実施の形態3)
上記実施の形態で示した画像符号化方法又は画像復号方法の構成を実現するためのプログラムを記憶メディアに記録することにより、上記実施の形態で示した処理を独立したコンピュータシステムにおいて簡単に実施することが可能となる。記憶メディアは、磁気ディスク、光ディスク、光磁気ディスク、ICカード、半導体メモリ等、プログラムを記録できるものであればよい。
さらにここで、上記実施の形態で示した画像符号化方法及び画像復号方法の応用例とそれを用いたシステムを説明する。
図18は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示す図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex106〜ex110が設置されている。
このコンテンツ供給システムex100は、インターネットex101にインターネットサービスプロバイダex102及び電話網ex104、及び、基地局ex106〜ex110を介して、コンピュータex111、PDA(Personal Digital Assistant)ex112、カメラex113、携帯電話ex114、ゲーム機ex115などの各機器が接続される。
しかし、コンテンツ供給システムex100は図18のような構成に限定されず、いずれかの要素を組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex106〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。また、各機器が近距離無線等を介して直接相互に接続されていてもよい。
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器であり、カメラex116はデジタルカメラ等の静止画撮影、動画撮影が可能な機器である。また、携帯電話ex114は、GSM(Global System for Mobile Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband−Code Division Multiple Access)方式、もしくはLTE(Long Term Evolution)方式、HSPA(High Speed Packet Access)の携帯電話機、又は、PHS(Personal Handyphone System)等であり、いずれでも構わない。
コンテンツ供給システムex100では、カメラex113等が基地局ex109、電話網ex104を通じてストリーミングサーバex103に接続されることで、ライブ配信等が可能になる。ライブ配信では、ユーザがカメラex113を用いて撮影するコンテンツ(例えば、音楽ライブの映像等)に対して上記実施の形態で説明したように符号化処理を行い、ストリーミングサーバex103に送信する。一方、ストリーミングサーバex103は要求のあったクライアントに対して送信されたコンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114、ゲーム機ex115等がある。配信されたデータを受信した各機器では、受信したデータを復号処理して再生する。
なお、撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。同様に配信されたデータの復号処理はクライアントで行っても、ストリーミングサーバex103で行ってもよいし、互いに分担して行ってもよい。また、カメラex113に限らず、カメラex116で撮影した静止画像及び/又は動画像データを、コンピュータex111を介してストリーミングサーバex103に送信してもよい。この場合の符号化処理はカメラex116、コンピュータex111、ストリーミングサーバex103のいずれで行ってもよいし、互いに分担して行ってもよい。
また、これら符号化処理及び復号処理は、一般的にコンピュータex111及び各機器が有するLSI(Large Scale Integration)ex500において処理する。LSIex500は、ワンチップであっても複数チップからなる構成であってもよい。なお、画像符号化用及び画像復号用のソフトウェアをコンピュータex111等で読み取り可能な何らかの記録メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込み、そのソフトウェアを用いて符号化処理及び復号処理を行ってもよい。さらに、携帯電話ex114がカメラ付きである場合には、そのカメラで取得した動画データを送信してもよい。このときの動画データは携帯電話ex114が有するLSIex500で符号化処理されたデータである。
また、ストリーミングサーバex103は複数のサーバ又は複数のコンピュータであって、データを分散して処理したり記録したり配信するものであってもよい。
以上のようにして、コンテンツ供給システムex100では、符号化されたデータをクライアントが受信して再生することができる。このようにコンテンツ供給システムex100では、ユーザが送信した情報をリアルタイムでクライアントが受信して復号し、再生することができ、特別な権利又は設備を有さないユーザでも個人放送を実現できる。
このコンテンツ供給システムを構成する各機器の符号化、復号には上記実施の形態で示した画像符号化方法あるいは画像復号方法を用いるようにすればよい。
その一例として携帯電話ex114について説明する。
図19は、上記実施の形態で説明した画像符号化方法と画像復号方法を用いた携帯電話ex114を示す図である。携帯電話ex114は、基地局ex110との間で電波を送受信するためのアンテナex601、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex603、カメラ部ex603で撮影した映像、アンテナex601で受信した映像等が復号されたデータを表示する液晶ディスプレイ等の表示部ex602、操作キーex604群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex608、音声入力をするためのマイク等の音声入力部ex605、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータ又は復号されたデータを保存するための記録メディアex607、携帯電話ex114に記録メディアex607を装着可能とするためのスロット部ex606を有している。記録メディアex607はSDカード等のプラスチックケース内に電気的に書換え及び消去が可能な不揮発性メモリであるEEPROMの一種であるフラッシュメモリ素子を格納したものである。
さらに、携帯電話ex114について図20を用いて説明する。携帯電話ex114は表示部ex602及び操作キーex604を備えた本体部の各部を統括的に制御するようになされた主制御部ex711に対して、電源回路部ex710、操作入力制御部ex704、画像符号化部ex712、カメラインターフェース部ex703、LCD(Liquid Crystal Display)制御部ex702、画像復号部ex709、多重分離部ex708、記録再生部ex707、変復調回路部ex706及び音声処理部ex705が同期バスex713を介して互いに接続されている。
電源回路部ex710は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付デジタル携帯電話ex114を動作可能な状態に起動する。
携帯電話ex114は、CPU、ROM及びRAM等でなる主制御部ex711の制御に基づいて、音声通話モード時に音声入力部ex605で集音した音声信号を音声処理部ex705によってデジタル音声データに変換し、これを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して送信する。また携帯電話ex114は、音声通話モード時にアンテナex601で受信した受信データを増幅して周波数変換処理及びアナログデジタル変換処理を施し、変復調回路部ex706でスペクトラム逆拡散処理し、音声処理部ex705によってアナログ音声データに変換した後、音声出力部ex608を介してこれを出力する。
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex604の操作によって入力された電子メールのテキストデータは操作入力制御部ex704を介して主制御部ex711に送出される。主制御部ex711は、テキストデータを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して基地局ex110へ送信する。
データ通信モード時に画像データを送信する場合、カメラ部ex603で撮像された画像データを、カメラインターフェース部ex703を介して画像符号化部ex712に供給する。また、画像データを送信しない場合には、カメラ部ex603で撮像した画像データをカメラインターフェース部ex703及びLCD制御部ex702を介して表示部ex602に直接表示することも可能である。
画像符号化部ex712は、本願発明で説明した画像符号化装置を備えた構成であり、カメラ部ex603から供給された画像データを上記実施の形態で示した画像符号化装置に用いた符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex708に送出する。また、このとき同時に携帯電話ex114は、カメラ部ex603で撮像中に音声入力部ex605で集音した音声を、音声処理部ex705を介してデジタルの音声データとして多重分離部ex708に送出する。
多重分離部ex708は、画像符号化部ex712から供給された符号化画像データと音声処理部ex705から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex706でスペクトラム拡散処理し、送受信回路部ex701でデジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex601を介して送信する。
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex601を介して基地局ex110から受信した受信データを変復調回路部ex706でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex708に送出する。
また、アンテナex601を介して受信された多重化データを復号するには、多重分離部ex708は、多重化データを分離することにより画像データのビットストリームと音声データのビットストリームとに分け、同期バスex713を介して当該符号化画像データを画像復号部ex709に供給すると共に当該音声データを音声処理部ex705に供給する。
次に、画像復号部ex709は、本願で説明した画像復号装置を備えた構成であり、画像データのビットストリームを上記実施の形態で示した符号化方法に対応した復号方法で復号することにより再生動画像データを生成し、これを、LCD制御部ex702を介して表示部ex602に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex705は、音声データをアナログ音声データに変換した後、これを音声出力部ex608に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる音声データが再生される。
なお、上記システムの例に限られず、最近は衛星、地上波によるデジタル放送が話題となっており、図21に示すようにデジタル放送用システムにも上記実施の形態の少なくとも画像符号化装置又は画像復号装置を組み込むことができる。具体的には、放送局ex201では音声データ、映像データ又はそれらのデータが多重化されたビットストリームが電波を介して通信又は放送衛星ex202に伝送される。これを受けた放送衛星ex202は、放送用の電波を発信し、衛星放送受信設備をもつ家庭のアンテナex204はこの電波を受信し、テレビ(受信機)ex300又はセットトップボックス(STB)ex217などの装置はビットストリームを復号してこれを再生する。また、記録媒体であるCD及びDVD等の記録メディアex215、ex216に記録した画像データと、音声データが多重化されたビットストリームを読み取り、復号するリーダ/レコーダex218にも上記実施の形態で示した画像復号装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、ケーブルテレビ用のケーブルex203又は衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでも良い。また、アンテナex205を有する車ex210で、衛星ex202又は基地局等から信号を受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。
また、DVD、BD等の記録メディアex215に記録した音声データ、映像データ又はそれらのデータが多重化された符号化ビットストリームを読み取り復号する、又は、記録メディアex215に、音声データ、映像データ又はそれらのデータを符号化し、多重化データとして記録するリーダ/レコーダex218にも上記実施の形態で示した画像復号装置又は画像符号化装置を実装することが可能である。この場合、再生された映像信号はモニタex219に表示される。また、符号化ビットストリームが記録された記録メディアex215により、他の装置及びシステム等は、映像信号を再生することができる。例えば、他の再生装置ex212は、符号化ビットストリームがコピーされた記録メディアex214を用いて、モニタex213に映像信号を再生することができる。
また、ケーブルテレビ用のケーブルex203又は衛星/地上波放送のアンテナex204に接続されたセットトップボックスex217内に画像復号装置を実装し、これをテレビのモニタex219で表示してもよい。このときセットトップボックスではなく、テレビ内に画像復号装置を組み込んでもよい。
図22は、上記実施の形態で説明した画像復号方法及び画像符号化方法を用いたテレビ(受信機)ex300を示す図である。テレビex300は、上記放送を受信するアンテナex204又はケーブルex203等を介して映像情報のビットストリームを取得、又は、出力するチューナex301と、受信した符号化データを復調する、又は、生成された符号化データを外部に送信するために変調する変調/復調部ex302と、復調した映像データと音声データとを分離する、又は、符号化された映像データと音声データとを多重化する多重/分離部ex303を備える。また、テレビex300は、音声データ、映像データそれぞれを復号する、又は、それぞれの情報を符号化する音声信号処理部ex304、映像信号処理部ex305を有する信号処理部ex306と、復号された音声信号を出力するスピーカex307、復号された映像信号を表示するディスプレイ等の表示部ex308を有する出力部ex309とを有する。さらに、テレビex300は、ユーザ操作の入力を受け付ける操作入力部ex312等を有するインターフェース部ex317を有する。さらに、テレビex300は、各部を統括的に制御する制御部ex310、各部に電力を供給する電源回路部ex311を有する。インターフェース部ex317は、操作入力部ex312以外に、リーダ/レコーダex218等の外部機器と接続されるブリッジex313、SDカード等の記録メディアex216を装着可能とするためのスロット部ex314、ハードディスク等の外部記録メディアと接続するためのドライバex315、電話網と接続するモデムex316等を有していてもよい。なお記録メディアex216は、格納する不揮発性/揮発性の半導体メモリ素子により電気的に情報の記録を可能としたものである。テレビex300の各部は同期バスを介して互いに接続されている。
まず、テレビex300がアンテナex204等により外部から取得したデータを復号し、再生する構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、CPU等を有する制御部ex310の制御に基づいて、変調/復調部ex302で復調した映像データ、音声データを多重/分離部ex303で分離する。さらにテレビex300は、分離した音声データを音声信号処理部ex304で復号し、分離した映像データを映像信号処理部ex305で上記実施の形態で説明した復号方法を用いて復号する。復号した音声信号、映像信号は、それぞれ出力部ex309から外部に向けて出力される。出力する際には、音声信号と映像信号が同期して再生するよう、バッファex318、ex319等に一旦これらの信号を蓄積するとよい。また、テレビex300は、放送等からではなく、磁気/光ディスク、SDカード等の記録メディアex215、ex216から符号化された符号化ビットストリームを読み出してもよい。次に、テレビex300が音声信号及び映像信号を符号化し、外部に送信又は記録メディア等に書き込む構成について説明する。テレビex300は、リモートコントローラex220等からのユーザ操作を受け、制御部ex310の制御に基づいて、音声信号処理部ex304で音声信号を符号化し、映像信号処理部ex305で映像信号を上記実施の形態で説明した符号化方法を用いて符号化する。符号化した音声信号、映像信号は多重/分離部ex303で多重化され外部に出力される。多重化する際には、音声信号と映像信号が同期するように、バッファex320、ex321等に一旦これらの信号を蓄積するとよい。なお、バッファex318〜ex321は図示しているように複数備えていてもよいし、一つ以上のバッファを共有する構成であってもよい。さらに、図示している以外に、例えば変調/復調部ex302と多重/分離部ex303との間等でもシステムのオーバフロー及びアンダーフローを避ける緩衝材としてバッファにデータを蓄積することとしてもよい。
また、テレビex300は、放送及び記録メディア等から音声データ及び映像データを取得する以外に、マイク及びカメラのAV入力を受け付ける構成を備え、それらから取得したデータに対して符号化処理を行ってもよい。なお、ここではテレビex300は、上記の符号化処理、多重化、及び、外部出力ができる構成として説明したが、これらの全ての処理を行うことはできず、上記受信、復号処理、及び、外部出力のうちいずれかのみが可能な構成であってもよい。
また、リーダ/レコーダex218で記録メディアから符号化ビットストリームを読み出す、又は、書き込む場合には、上記復号処理又は符号化処理はテレビex300及びリーダ/レコーダex218のうちいずれかで行ってもよいし、テレビex300とリーダ/レコーダex218とが互いに分担して行ってもよい。
一例として、光ディスクからデータの読み込み又は書き込みをする場合の情報再生/記録部ex400の構成を図23に示す。情報再生/記録部ex400は、以下に説明する要素ex401〜ex407を備える。光ヘッドex401は、光ディスクである記録メディアex215の記録面にレーザスポットを照射して情報を書き込み、記録メディアex215の記録面からの反射光を検出して情報を読み込む。変調記録部ex402は、光ヘッドex401に内蔵された半導体レーザを電気的に駆動し記録データに応じてレーザ光の変調を行う。再生復調部ex403は、光ヘッドex401に内蔵されたフォトディテクタにより記録面からの反射光を電気的に検出した再生信号を増幅し、記録メディアex215に記録された信号成分を分離して復調し、必要な情報を再生する。バッファex404は、記録メディアex215に記録するための情報及び記録メディアex215から再生した情報を一時的に保持する。ディスクモータex405は記録メディアex215を回転させる。サーボ制御部ex406は、ディスクモータex405の回転駆動を制御しながら光ヘッドex401を所定の情報トラックに移動させ、レーザスポットの追従処理を行う。システム制御部ex407は、情報再生/記録部ex400全体の制御を行う。上記の読み出し及び書き込みの処理は、システム制御部ex407が、バッファex404に保持された各種情報を利用し、また必要に応じて新たな情報の生成及び追加を行うと共に、変調記録部ex402、再生復調部ex403及びサーボ制御部ex406を協調動作させながら、光ヘッドex401を通して、情報の記録再生を行うことにより実現される。システム制御部ex407は、例えばマイクロプロセッサで構成され、読み出し書き込みのプログラムを実行することでそれらの処理を実行する。
以上では、光ヘッドex401はレーザスポットを照射するとして説明したが、近接場光を用いてより高密度な記録を行う構成であってもよい。
図24に光ディスクである記録メディアex215の模式図を示す。記録メディアex215の記録面には案内溝(グルーブ)がスパイラル状に形成され、情報トラックex230には、予めグルーブの形状の変化によってディスク上の絶対位置を示す番地情報が記録されている。この番地情報はデータを記録する単位である記録ブロックex231の位置を特定するための情報を含み、記録及び再生を行う装置は、情報トラックex230を再生し番地情報を読み取ることで記録ブロックを特定することができる。また、記録メディアex215は、データ記録領域ex233、内周領域ex232、外周領域ex234を含んでいる。ユーザデータを記録するために用いる領域がデータ記録領域ex233であり、データ記録領域ex233の内周又は外周に配置されている内周領域ex232と外周領域ex234は、ユーザデータの記録以外の特定用途に用いられる。情報再生/記録部ex400は、このような記録メディアex215のデータ記録領域ex233に対して、符号化された音声データ、映像データ又はそれらのデータを多重化した符号化データの読み書きを行う。
以上では、1層のDVD、BD等の光ディスクを例に挙げ説明したが、これらに限ったものではなく、多層構造であって表面以外にも記録可能な光ディスクであってもよい。また、ディスクの同じ場所に様々な異なる波長の色の光を用いて情報を記録したり、様々な角度から異なる情報の層を記録したりするなど、多次元的な記録/再生を行う構造の光ディスクであってもよい。
また、デジタル放送用システムex200において、アンテナex205を有する車ex210で衛星ex202等からデータを受信し、車ex210が有するカーナビゲーションex211等の表示装置に動画を再生することも可能である。なお、カーナビゲーションex211の構成は例えば図22に示す構成のうち、GPS受信部を加えた構成が考えられ、同様なことがコンピュータex111及び携帯電話ex114等でも考えられる。また、上記携帯電話ex114等の端末は、テレビex300と同様に、符号化器及び復号器を両方持つ送受信型端末の他に、符号化器のみの送信端末、復号器のみの受信端末という3通りの実装形式が考えられる。
このように、上記実施の形態で示した画像符号化方法あるいは画像復号方法を上述したいずれの機器及びシステムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
また、本発明は、上記実施の形態に限定されるものではなく、本発明の範囲を逸脱することなく種々の変形又は修正が可能である。
(実施の形態4)
上記各実施の形態で示した画像符号化方法及び装置、画像復号方法及び装置は、典型的には集積回路であるLSIで実現される。一例として、図25に1チップ化されたLSIex500の構成を示す。LSIex500は、以下に説明する要素ex501〜ex509を備え、各要素はバスex510を介して接続している。電源回路部ex505は電源がオン状態の場合に各部に対して電力を供給することで動作可能な状態に起動する。
例えば符号化処理を行う場合には、LSIex500は、CPUex502、メモリコントローラex503及びストリームコントローラex504等を有する制御部ex501の制御に基づいて、AV I/Oex509によりマイクex117及びカメラex113等からAV信号の入力を受け付ける。入力されたAV信号は、一旦SDRAM等の外部のメモリex511に蓄積される。制御部ex501の制御に基づいて、蓄積したデータは、処理量及び処理速度に応じて適宜複数回に分けるなどされ、信号処理部ex507に送られる。信号処理部ex507は、音声信号の符号化及び/又は映像信号の符号化を行う。ここで映像信号の符号化処理は、上記実施の形態で説明した符号化処理である。信号処理部ex507ではさらに、場合により符号化された音声データと符号化された映像データを多重化するなどの処理を行い、ストリームI/Oex506から外部に出力する。この出力されたビットストリームは、基地局ex107に向けて送信されたり、又は、記録メディアex215に書き込まれたりする。なお、多重化する際には同期するよう、一旦バッファex508にデータを蓄積するとよい。
また、例えば復号処理を行う場合には、LSIex500は、制御部ex501の制御に基づいて、ストリームI/Oex506によって基地局ex107を介して得た符号化データ、又は、記録メディアex215から読み出して得た符号化データを一旦メモリex511等に蓄積する。制御部ex501の制御に基づいて、蓄積したデータは、処理量及び処理速度に応じて適宜複数回に分けるなどされ信号処理部ex507に送られる。信号処理部ex507は、音声データの復号及び/又は映像データの復号を行う。ここで映像信号の復号処理は、上記実施の形態で説明した復号処理である。さらに、場合により復号された音声信号と復号された映像信号を同期して再生できるようそれぞれの信号を一旦バッファex508等に蓄積するとよい。復号された出力信号は、メモリex511等を適宜介しながら、携帯電話ex114、ゲーム機ex115及びテレビex300等の各出力部から出力される。
なお、上記では、メモリex511がLSIex500の外部の構成として説明したが、LSIex500の内部に含まれる構成であってもよい。バッファex508も一つに限ったものではなく、複数のバッファを備えていてもよい。また、LSIex500は1チップ化されてもよいし、複数チップ化されてもよい。
なお、ここでは、LSIとしたが、集積度の違いにより、IC、システムLSI、スーパーLSI、ウルトラLSIと呼称されることもある。
また、集積回路化の手法はLSIに限るものではなく、専用回路又は汎用プロセッサで実現してもよい。LSI製造後に、プログラムすることが可能なFPGA、又は、LSI内部の回路セルの接続及び設定を再構成可能なリコンフィギュラブル・プロセッサを利用してもよい。
さらには、半導体技術の進歩又は派生する別技術によりLSIに置き換わる集積回路化の技術が登場すれば、当然、その技術を用いて機能ブロックの集積化を行ってもよい。バイオ技術の適応等が可能性としてありえる。
以上、本発明に係る符号化方法、符号化装置、エラー検出方法、エラー検出装置、復号方法及び復号装置について、実施の形態に基づいて説明したが、本発明は、これらの実施の形態に限定されるものではない。本発明の趣旨を逸脱しない限り、当業者が思いつく各種変形を当該実施の形態に施した形態、及び、異なる実施の形態における構成要素及びステップ等を組み合わせて構築される別の形態も、本発明の範囲内に含まれる。
本発明は、参照インデックスを符号化するのに必要な符号量を削減し、符号化効率を向上させることができるという効果を奏し、オーディオ、静止画像、及び動画像を符号化する符号化装置、及び、当該符号化装置によって符号化されたデータを復号する復号装置に利用することができる。例えば、本発明は、オーディオ機器、携帯電話、デジタルカメラ、BDレコーダ、デジタルテレビなどの各種AV機器に利用することができる。
10 アクセスユニット
20 ビューコンポーネント
100 符号化装置
110 第1ビューコンポーネント符号化部
120、440、740 記憶部
130 第2ビューコンポーネント符号化部
201 ベースビューの画像
202 圧縮ベースビューコンポーネント
203 再構築画像
211 ノンベースビューの画像
212 圧縮ノンベースビューコンポーネント
213、503 参照画像
301 符号化部
302 ヘッダ書き込み部
303 リスト修正部
400、900 復号装置
410 エラー検出部
420、721 切り替え部
430 MVCデコーダ部
450 エラー隠蔽部
501 MVCビットストリーム
502 エラー検出フラグ
504、506 再構築画像
505 再構築されたベースビューコンポーネント
601 パラメータ判定部
602 エラーフラグ設定部
710 解析部
711 ref_pic_list_modification_flag_l0パラメータ解析部
720 予測部
722 参照リスト修正シンタックス解析部
723 参照リスト修正部
724 第1動き予測部
725 ベースビュー探知部
726 第2動き予測部
730、920 復号部
731 ピクチャ再構築部
801 ノンベースビューコンポーネント
802 ref_pic_list_modification_flag_l0パラメータ
803 参照リスト修正シンタックス
804 参照ピクチャリスト
805、807 予測画像
806 ベースビューコンポーネント
910 判定部
ex100 コンテンツ供給システム
ex101 インターネット
ex102 インターネットサービスプロバイダ
ex103 ストリーミングサーバ
ex104 電話網
ex106、ex107、ex108、ex109、ex110 基地局
ex111 コンピュータ
ex112 PDA
ex113、ex116 カメラ
ex114 カメラ付デジタル携帯電話(携帯電話)
ex115 ゲーム機
ex117 マイク
ex200 デジタル放送用システム
ex201 放送局
ex202 放送衛星(衛星)
ex203 ケーブル
ex204、ex205、ex601 アンテナ
ex210 車
ex211 カーナビゲーション(カーナビ)
ex212 再生装置
ex213、ex219 モニタ
ex214、ex215、ex216、ex607 記録メディア
ex217 セットトップボックス(STB)
ex218 リーダ/レコーダ
ex220 リモートコントローラ
ex230 情報トラック
ex231 記録ブロック
ex232 内周領域
ex233 データ記録領域
ex234 外周領域
ex300 テレビ
ex301 チューナ
ex302 変調/復調部
ex303 多重/分離部
ex304 音声信号処理部
ex305 映像信号処理部
ex306、ex507 信号処理部
ex307 スピーカ
ex308、ex602 表示部
ex309 出力部
ex310、ex501 制御部
ex311、ex505、ex710 電源回路部
ex312 操作入力部
ex313 ブリッジ
ex314、ex606 スロット部
ex315 ドライバ
ex316 モデム
ex317 インターフェース部
ex318、ex319、ex320、ex321、ex404、ex508 バッファ
ex400 情報再生/記録部
ex401 光ヘッド
ex402 変調記録部
ex403 再生復調部
ex405 ディスクモータ
ex406 サーボ制御部
ex407 システム制御部
ex500 LSI
ex502 CPU
ex503 メモリコントローラ
ex504 ストリームコントローラ
ex506 ストリームI/O
ex509 AV I/O
ex510 バス
ex511 メモリ
ex603 カメラ部
ex604 操作キー
ex605 音声入力部
ex608 音声出力部
ex701 送受信回路部
ex702 LCD制御部
ex703 カメラインターフェース部(カメラI/F部)
ex704 操作入力制御部
ex705 音声処理部
ex706 変復調回路部
ex707 記録再生部
ex708 多重分離部
ex709 画像復号部
ex711 主制御部
ex712 画像符号化部
ex713 同期バス

Claims (19)

  1. ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化方法であって、
    ビュー間参照ピクチャが先頭に配置されるように第1参照ピクチャリストを修正するための第1参照リスト修正シンタックスを、前記ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込みステップと、
    前記ビュー間参照ピクチャを前記第1参照ピクチャリストの先頭に配置する配置ステップと、
    前記第1参照ピクチャリストを用いて、前記ランダムアクセス可能なピクチャの対象スライスを符号化する符号化ステップとを含む
    符号化方法。
  2. 前記符号化方法は、さらに、
    NALユニットヘッダに書き込みを行うNALユニットヘッダ書き込みステップを含み、
    前記NALユニットヘッダ書き込みステップでは、
    前記対象スライスがアンカーピクチャに含まれるスライスであることを示す値を、anchor_pic_flagに設定し、
    前記anchor_pic_flagを前記NALユニットヘッダに書き込む
    請求項1記載の符号化方法。
  3. 前記スライスヘッダ書き込みステップは、さらに、
    前記対象スライスのスライスタイプがBスライスであるか否かを判定し、
    前記対象スライスのスライスタイプがBスライスである場合に、ビュー間参照ピクチャが先頭に配置されるように、前記第1参照ピクチャリストとは異なる第2参照ピクチャリストを修正するための第2参照リスト修正シンタックスを前記スライスヘッダに書き込む
    請求項1又は2記載の符号化方法。
  4. 前記第1参照リスト修正シンタックスの書き込みでは、
    前記第1参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l0に設定し、
    前記ref_pic_list_modification_flag_l0を前記スライスヘッダに書き込み、
    第1abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第1modification_of_pic_nums_idcに設定し、
    前記第1modification_of_pic_nums_idcを前記スライスヘッダに書き込み、
    前記第1abs_diff_view_idx_minus1に0を設定し、
    前記第1abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、
    前記第1参照ピクチャリストの修正を終了することを示す値を、第2modification_of_pic_nums_idcに設定し、
    前記第2modification_of_pic_nums_idcを前記スライスヘッダに書き込む
    請求項1〜3のいずれか1項に記載の符号化方法。
  5. 前記第1参照リスト修正シンタックスの書き込みでは、
    前記ref_pic_list_modification_flag_l0と、前記第1modification_of_pic_nums_idcと、前記第1abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込む
    請求項4記載の符号化方法。
  6. 前記第2参照リスト修正シンタックスの書き込みでは、
    前記第2参照ピクチャリストを修正することを示す値を、ref_pic_list_modification_flag_l1に設定し、
    前記ref_pic_list_modification_flag_l1を前記スライスヘッダに書き込み、
    第2abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値を、第3modification_of_pic_nums_idcに設定し、
    前記第3modification_of_pic_nums_idcを前記スライスヘッダに書き込み、
    前記第2abs_diff_view_idx_minus1に0を設定し、
    前記第2abs_diff_view_idx_minus1を前記スライスヘッダに書き込み、
    前記第2参照ピクチャリストの修正を終了することを示す値を、第4modification_of_pic_nums_idcに設定し、
    前記第4modification_of_pic_nums_idcを前記スライスヘッダに書き込む
    請求項3記載の符号化方法。
  7. 前記第2参照リスト修正シンタックスの書き込みでは、
    前記ref_pic_list_modification_flag_l1と、前記第3modification_of_pic_nums_idcと、前記第2abs_diff_view_idx_minus1とを、順に連続して前記スライスヘッダに書き込む
    請求項6記載の符号化方法。
  8. 前記ランダムアクセス可能なピクチャは、アンカーピクチャである
    請求項1〜7のいずれか1項に記載の符号化方法。
  9. ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出方法であって、
    前記ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する初期化ステップと、
    ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータを、前記ランダムアクセス可能なピクチャのスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定ステップと、
    前記エラーが発生していると判定された場合に、前記detected_error_flagに、前記ランダムアクセス可能なピクチャにエラーが発生していることを示す値を設定する設定ステップとを含み、
    前記判定ステップでは、
    (i)前記スライスヘッダから、前記パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値であるか否かを判定し、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値ではない場合をエラーが発生していると判定する第1判定処理と、
    (ii)前記スライスヘッダから、前記パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定し、前記modification_of_pic_nums_idcが、前記abs_diff_view_idx_minus1が前記予測値に加算する値に対応することを示す値ではない場合をエラーが発生していると判定する第2判定処理と、
    (iii)前記スライスヘッダから、前記パラメータとして、前記abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定し、前記abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定する第3判定処理と
    の少なくとも1つの判定処理を行う
    エラー検出方法。
  10. 前記スライスヘッダには、前記ref_pic_list_modification_flag_l0と、前記modification_of_pic_nums_idcと、前記abs_diff_view_idx_minus1とが、順に連続して書き込まれており、
    前記判定ステップでは、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とのいずれかの判定処理によってエラーが発生していると判定されるまで、前記第1判定処理と、前記第2判定処理と、前記第3判定処理とを順に行う
    請求項9記載のエラー検出方法。
  11. 前記ランダムアクセス可能なピクチャは、アンカーピクチャである
    請求項9又は10記載のエラー検出方法。
  12. ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号方法であって、
    前記ランダムアクセス可能なピクチャのスライスヘッダを解析することで、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストが修正されているか否かを判定する解析ステップと、
    前記参照ピクチャリストが修正されていると判定した場合、予め定められた規格に従って予測画像を生成し、前記参照ピクチャリストが修正されていないと判定した場合、前記規格とは異なる方法に従って予測画像を生成する予測ステップと、
    前記予測画像に基づいて前記ランダムアクセス可能なピクチャの対象スライスを復号する復号ステップとを含む
    復号方法。
  13. 前記解析ステップでは、前記スライスヘッダを解析することで、ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値であるか否かを判定する
    請求項12記載の復号方法。
  14. 前記予測ステップでは、
    前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値である場合、
    (i)前記参照ピクチャリストを修正するための修正シンタックスをスライスヘッダから読み出し、
    (ii)前記ビュー間参照ピクチャを前記参照ピクチャリストの先頭に配置し、
    (iii)前記参照ピクチャリストを用いて動き予測を行うことで、前記予測画像を生成する
    請求項13記載の復号方法。
  15. 前記予測ステップでは、
    前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストが修正されていることを示す値でない場合、参照インデックスを参照することなく、ベースビューの画像を参照画像として前記予測画像を生成する
    請求項13又は14記載の復号方法。
  16. ビュー間参照を利用してランダムアクセス可能なピクチャを符号化する符号化装置であって、
    ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスを、前記ランダムアクセス可能なピクチャのスライスヘッダに書き込むスライスヘッダ書き込み部と、
    前記ビュー間参照ピクチャを前記参照ピクチャリストの先頭に配置する配置部と、
    前記参照ピクチャリストを用いて、前記ランダムアクセス可能なピクチャの対象スライスを符号化する符号化部とを備える
    符号化装置。
  17. ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャのエラーを検出するエラー検出装置であって、
    前記ランダムアクセス可能なピクチャにエラーが発生していないことを示す値を、detected_error_flagに設定する設定部と、
    ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストを修正するための修正シンタックスに含まれる少なくとも1つのパラメータを、前記ランダムアクセス可能なピクチャのスライスヘッダから読み出し、読み出したパラメータにエラーが発生しているか否かを判定する判定部とを備え、
    前記設定部は、前記エラーが発生していると判定された場合に、前記detected_error_flagに、前記ランダムアクセス可能なピクチャにエラーが発生していることを示す値を設定し、
    前記判定部は、
    (i)前記スライスヘッダから、前記パラメータとして、ref_pic_list_modification_flag_l0を読み出し、読み出したref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値であるか否かを判定し、前記ref_pic_list_modification_flag_l0が、前記参照ピクチャリストを修正することを示す値ではない場合をエラーが発生していると判定する第1判定処理と、
    (ii)前記スライスヘッダから、前記パラメータとして、modification_of_pic_nums_idcを読み出し、読み出したmodification_of_pic_nums_idcが、abs_diff_view_idx_minus1がビュー間参照インデックスの予測値に加算する値に対応することを示す値であるか否かを判定し、前記modification_of_pic_nums_idcが、前記abs_diff_view_idx_minus1が前記予測値に加算する値に対応することを示す値ではない場合をエラーが発生していると判定する第2判定処理と、
    (iii)前記スライスヘッダから、前記パラメータとして、前記abs_diff_view_idx_minus1を読み出し、読み出したabs_diff_view_idx_minus1の値が0であるか否かを判定し、前記abs_diff_view_idx_minus1が0ではない場合をエラーが発生していると判定する第3判定処理と
    の少なくとも1つの判定処理を行う
    エラー検出装置。
  18. ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号装置であって、
    前記ランダムアクセス可能なピクチャのスライスヘッダを解析することで、ビュー間参照ピクチャが先頭に配置されるように参照ピクチャリストが修正されているか否かを判定する解析部と、
    前記参照ピクチャリストが修正されていると判定した場合、予め定められた規格に従って予測画像を生成し、前記参照ピクチャリストが修正されていないと判定した場合、前記規格とは異なる方法に従って予測画像を生成する予測部と、
    前記予測画像に基づいて前記ランダムアクセス可能なピクチャの対象スライスを復号する復号部とを含む
    復号装置。
  19. ビュー間参照を利用して符号化されたランダムアクセス可能なピクチャを復号する復号装置であって、
    復号開始ピクチャを指定する復号開始ピクチャ指定部と、
    前記復号開始ピクチャ指定部において指定されたベースビューのピクチャがIピクチャである場合に、ランダムアクセスが開始されたと判定する判定部と、
    前記判定部において、ランダムアクセスが開始されたと判定された場合に、前記Iピクチャを含むランダムアクセスユニットのノンベースビューを復号する際、前記ランダムアクセスユニット以外のランダムアクセスユニットのベースビューのピクチャの参照を禁止し、前記ランダムアクセスユニット内のベースビューのピクチャのみを参照して復号を行う復号部とを備える
    復号装置。
JP2011505890A 2009-03-26 2010-03-26 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置 Active JP5574345B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011505890A JP5574345B2 (ja) 2009-03-26 2010-03-26 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2009077417 2009-03-26
JP2009077417 2009-03-26
PCT/JP2010/002187 WO2010109904A1 (ja) 2009-03-26 2010-03-26 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置
JP2011505890A JP5574345B2 (ja) 2009-03-26 2010-03-26 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置

Publications (2)

Publication Number Publication Date
JPWO2010109904A1 true JPWO2010109904A1 (ja) 2012-09-27
JP5574345B2 JP5574345B2 (ja) 2014-08-20

Family

ID=42780601

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011505890A Active JP5574345B2 (ja) 2009-03-26 2010-03-26 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置

Country Status (5)

Country Link
US (1) US8693539B2 (ja)
EP (1) EP2413606B1 (ja)
JP (1) JP5574345B2 (ja)
CN (2) CN102047670B (ja)
WO (1) WO2010109904A1 (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012042884A1 (ja) 2010-09-29 2012-04-05 パナソニック株式会社 画像復号方法、画像符号化方法、画像復号装置、画像符号化装置、プログラムおよび集積回路
EP2624560B1 (en) 2010-09-30 2016-11-02 Sun Patent Trust Image decoding method, image encoding method, image decoding device, image encoding device, programme, and integrated circuit
US10027957B2 (en) 2011-01-12 2018-07-17 Sun Patent Trust Methods and apparatuses for encoding and decoding video using multiple reference pictures
US10841573B2 (en) 2011-02-08 2020-11-17 Sun Patent Trust Methods and apparatuses for encoding and decoding video using multiple reference pictures
US9060173B2 (en) * 2011-06-30 2015-06-16 Sharp Kabushiki Kaisha Context initialization based on decoder picture buffer
US9338465B2 (en) * 2011-06-30 2016-05-10 Sharp Kabushiki Kaisha Context initialization based on decoder picture buffer
US11647197B2 (en) 2011-06-30 2023-05-09 Velos Media, Llc Context initialization based on slice header flag and slice type
US9420307B2 (en) 2011-09-23 2016-08-16 Qualcomm Incorporated Coding reference pictures for a reference picture set
US20130089152A1 (en) * 2011-10-05 2013-04-11 Qualcomm Incorporated Signaling picture identification for video coding
US9264717B2 (en) 2011-10-31 2016-02-16 Qualcomm Incorporated Random access with advanced decoded picture buffer (DPB) management in video coding
US10003817B2 (en) 2011-11-07 2018-06-19 Microsoft Technology Licensing, Llc Signaling of state information for a decoded picture buffer and reference picture lists
EP3576412B1 (en) * 2011-11-08 2021-09-01 Nokia Technologies Oy Reference picture handling
US9258559B2 (en) * 2011-12-20 2016-02-09 Qualcomm Incorporated Reference picture list construction for multi-view and three-dimensional video coding
JP6078927B2 (ja) * 2012-01-10 2017-02-15 サン パテント トラスト 動画像符号化方法、動画像符号化装置、動画像復号方法、及び、動画像復号装置
CN104054351B (zh) 2012-01-17 2017-07-14 瑞典爱立信有限公司 参考画面列表处理
PL2805511T3 (pl) 2012-01-20 2019-09-30 Sun Patent Trust Sposoby i urządzenie do kodowania i dekodowania wideo przy użyciu predykcji wektora ruchu w czasie
MX2013008942A (es) 2012-02-03 2013-09-12 Panasonic Corp Metodo de codificacion de imagenes, metodo de decodificacion de imagenes, aparato de codificacion de imagenes, aparato de decodificacion de imagenes y aparato de codificacion y decodificacion de imagenes.
KR102137149B1 (ko) * 2012-03-02 2020-07-23 선 페이턴트 트러스트 화상 부호화 방법, 화상 복호 방법, 화상 부호화 장치, 화상 복호 장치 및 화상 부호화 복호 장치
EP2824920A4 (en) 2012-03-06 2016-02-17 Panasonic Ip Corp America VIDEO CODING METHOD, VIDEO CODING METHOD, VIDEO COORDING DEVICE, VIDEO CODING DEVICE AND VIDEO CODING / DECODING DEVICE
US9503702B2 (en) * 2012-04-13 2016-11-22 Qualcomm Incorporated View synthesis mode for three-dimensional video coding
US9979959B2 (en) 2012-04-20 2018-05-22 Qualcomm Incorporated Video coding with enhanced support for stream adaptation and splicing
US9609341B1 (en) * 2012-04-23 2017-03-28 Google Inc. Video data encoding and decoding using reference picture lists
US9319679B2 (en) * 2012-06-07 2016-04-19 Qualcomm Incorporated Signaling data for long term reference pictures for video coding
US9479776B2 (en) 2012-07-02 2016-10-25 Qualcomm Incorporated Signaling of long-term reference pictures for video coding
WO2014005280A1 (en) * 2012-07-03 2014-01-09 Mediatek Singapore Pte. Ltd. Method and apparatus to improve and simplify inter-view motion vector prediction and disparity vector prediction
US9398284B2 (en) * 2012-08-16 2016-07-19 Qualcomm Incorporated Constructing reference picture lists for multi-view or 3DV video coding
CN108540813B (zh) * 2012-09-28 2021-03-16 杜比国际公司 图像解码装置
US9313500B2 (en) 2012-09-30 2016-04-12 Microsoft Technology Licensing, Llc Conditional signalling of reference picture list modification information
TWI669950B (zh) * 2012-12-21 2019-08-21 日商新力股份有限公司 影像處理裝置及方法
GB2531271A (en) 2014-10-14 2016-04-20 Nokia Technologies Oy An apparatus, a method and a computer program for image sequence coding and decoding
US10841621B2 (en) * 2017-03-01 2020-11-17 Wyse Technology L.L.C. Fault recovery of video bitstream in remote sessions
EP4336832A3 (en) * 2018-08-17 2024-05-22 Huawei Technologies Co., Ltd. Reference picture management in video coding
US11032574B2 (en) 2018-12-31 2021-06-08 Tencent America LLC Method and apparatus for video coding

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08191461A (ja) * 1995-01-10 1996-07-23 Canon Inc 画像符号化装置および画像復号装置
US7489342B2 (en) 2004-12-17 2009-02-10 Mitsubishi Electric Research Laboratories, Inc. Method and system for managing reference pictures in multiview videos
US7142209B2 (en) * 2004-08-03 2006-11-28 Microsoft Corporation Real-time rendering system and process for interactive viewpoint video that was generated using overlapping images of a scene captured from viewpoints forming a grid
US7710462B2 (en) 2004-12-17 2010-05-04 Mitsubishi Electric Research Laboratories, Inc. Method for randomly accessing multiview videos
US7468745B2 (en) 2004-12-17 2008-12-23 Mitsubishi Electric Research Laboratories, Inc. Multiview video decomposition and encoding
US7728877B2 (en) 2004-12-17 2010-06-01 Mitsubishi Electric Research Laboratories, Inc. Method and system for synthesizing multiview videos
US7728878B2 (en) 2004-12-17 2010-06-01 Mitsubishi Electric Research Labortories, Inc. Method and system for processing multiview videos for view synthesis using side information
US7671894B2 (en) 2004-12-17 2010-03-02 Mitsubishi Electric Research Laboratories, Inc. Method and system for processing multiview videos for view synthesis using skip and direct modes
US7903737B2 (en) 2005-11-30 2011-03-08 Mitsubishi Electric Research Laboratories, Inc. Method and system for randomly accessing multiview videos with known prediction dependency
KR20090040287A (ko) * 2006-07-11 2009-04-23 톰슨 라이센싱 멀티 뷰 비디오 코딩용 방법 및 장치
TWI375469B (en) * 2006-08-25 2012-10-21 Lg Electronics Inc A method and apparatus for decoding/encoding a video signal
CA2858458C (en) * 2006-10-16 2019-04-16 Nokia Corporation System and method for implementing efficient decoded buffer management in multi-view video coding
AU2007309634A1 (en) * 2006-10-24 2008-05-02 Thomson Licensing Picture management for multi-view video coding
JP2008153907A (ja) * 2006-12-18 2008-07-03 Renesas Technology Corp 画像符号化装置及びそれらを含む情報端末ならびに画像符号化方法
JP5108896B2 (ja) * 2006-12-21 2012-12-26 トムソン ライセンシング 多視点映像符号化及び復号化用の、ハイレベルシンタックスを使用した改善されたシグナリングのための方法及び装置
WO2008085909A2 (en) * 2007-01-04 2008-07-17 Thomson Licensing Methods and apparatus for video error correction in multi-view coded video
KR100801968B1 (ko) * 2007-02-06 2008-02-12 광주과학기술원 변위를 측정하는 방법, 중간화면 합성방법과 이를 이용한다시점 비디오 인코딩 방법, 디코딩 방법, 및 인코더와디코더
JP5029062B2 (ja) * 2007-02-26 2012-09-19 富士通株式会社 多視点動画像伝送システム
CN101291434A (zh) * 2007-04-17 2008-10-22 华为技术有限公司 多视编解码方法及装置
US8855199B2 (en) * 2008-04-21 2014-10-07 Nokia Corporation Method and device for video coding and decoding

Also Published As

Publication number Publication date
EP2413606A4 (en) 2013-08-14
CN102047670B (zh) 2014-03-12
EP2413606A1 (en) 2012-02-01
EP2413606B1 (en) 2018-05-02
CN103561273B (zh) 2016-10-05
US8693539B2 (en) 2014-04-08
WO2010109904A1 (ja) 2010-09-30
JP5574345B2 (ja) 2014-08-20
CN102047670A (zh) 2011-05-04
CN103561273A (zh) 2014-02-05
US20110096835A1 (en) 2011-04-28

Similar Documents

Publication Publication Date Title
JP5574345B2 (ja) 符号化方法、エラー検出方法、復号方法、符号化装置、エラー検出装置及び復号装置
TWI489834B (zh) Image decoding method and image decoding apparatus
JP5588438B2 (ja) 画像符号化方法及び画像符号化装置
KR101440183B1 (ko) 부호화 방법, 복호 방법, 부호화 장치, 복호 장치, 프로그램, 및 집적 회로
JP5546044B2 (ja) 画像復号装置、画像符号化装置、画像復号回路及び画像復号方法
JP5499035B2 (ja) 画像符号化方法、画像符号化装置、プログラムおよび集積回路
JP5468604B2 (ja) 画像復号装置、集積回路、画像復号方法及び画像復号システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20121127

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140128

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140307

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140603

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20140606

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140624

R150 Certificate of patent or registration of utility model

Ref document number: 5574345

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S131 Request for trust registration of transfer of right

Free format text: JAPANESE INTERMEDIATE CODE: R313133

SZ02 Written request for trust registration

Free format text: JAPANESE INTERMEDIATE CODE: R313Z02

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250