JP2004260236A - 動画像の符号化方法および復号化方法 - Google Patents
動画像の符号化方法および復号化方法 Download PDFInfo
- Publication number
- JP2004260236A JP2004260236A JP2003045333A JP2003045333A JP2004260236A JP 2004260236 A JP2004260236 A JP 2004260236A JP 2003045333 A JP2003045333 A JP 2003045333A JP 2003045333 A JP2003045333 A JP 2003045333A JP 2004260236 A JP2004260236 A JP 2004260236A
- Authority
- JP
- Japan
- Prior art keywords
- picture
- display
- decoding
- information
- encoding
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
【課題】ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とし、表示されないピクチャの枚数を最小限に抑えることを実現する。
【解決手段】ストリームの途中から復号化を開始したときに、どのピクチャから表示することが可能であるかを示す情報として、途中から復号化を行うピクチャと表示を開始することができるピクチャの表示順情報の差分値、もしくは表示順において離れている枚数、もしくは符号化順において離れている枚数を使用することにより、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とする。
【選択図】 図1
【解決手段】ストリームの途中から復号化を開始したときに、どのピクチャから表示することが可能であるかを示す情報として、途中から復号化を行うピクチャと表示を開始することができるピクチャの表示順情報の差分値、もしくは表示順において離れている枚数、もしくは符号化順において離れている枚数を使用することにより、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とする。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、動画像の符号化方法および復号化方法に関するものであり、特に既に符号化済みのピクチャを参照して画面間予測を行う符号化方法および復号化方法に関するものである。
【0002】
【従来の技術】
近年、音声,画像,その他の画素値を統合的に扱うマルチメディア時代を迎え、従来からの情報メディア,つまり新聞,雑誌,テレビ,ラジオ,電話等の情報を人に伝達する手段がマルチメディアの対象として取り上げられるようになってきた。一般に、マルチメディアとは、文字だけでなく、図形、音声、特に画像等を同時に関連づけて表すことをいうが、上記従来の情報メディアをマルチメディアの対象とするには、その情報をディジタル形式にして表すことが必須条件となる。
【0003】
ところが、上記各情報メディアの持つ情報量をディジタル情報量として見積もってみると、文字の場合1文字当たりの情報量は1〜2バイトであるのに対し、音声の場合1秒当たり64kbits(電話品質)、さらに動画については1秒当たり100Mbits(現行テレビ受信品質)以上の情報量が必要となり、上記情報メディアでその膨大な情報をディジタル形式でそのまま扱うことは現実的では無い。例えば、テレビ電話は、64kbps〜1.5Mbpsの伝送速度を持つサービス総合ディジタル網(ISDN:Integrated Services Digital Network)によってすでに実用化されているが、テレビ・カメラの映像をそのままISDNで送ることは不可能である。
【0004】
そこで、必要となってくるのが情報の圧縮技術であり、例えば、テレビ電話の場合、ITU(国際電気通信連合 電気通信標準化部門)で国際標準化されたH.261やH.263規格の動画圧縮技術が用いられている。また、MPEG−1規格の情報圧縮技術によると、通常の音楽用CD(コンパクト・ディスク)に音声情報とともに画像情報を入れることも可能となる。
【0005】
ここで、MPEG(Moving Picture Experts Group)とは、動画面信号のディジタル圧縮の国際規格であり、MPEG−1は、動画面信号を1.5Mbpsまで、つまりテレビ信号の情報を約100分の1にまで圧縮する規格である。また、MPEG−1規格を対象とする伝送速度が主として約1.5Mbpsに制限されていることから、さらなる高画質化の要求をみたすべく規格化されたMPEG−2では、動画像信号が2〜15Mbpsに圧縮される。
【0006】
さらに現状では、MPEG−1,MPEG−2と標準化を進めてきた作業グループ(ISO/IEC JTC1/SC29/WG11) によって、より圧縮率が高いMPEG−4が規格化された。MPEG−4では、当初、低ビットレートで効率の高い符号化が可能になるだけでなく、伝送路誤りが発生しても主観的な画質劣化を小さくできる強力な誤り耐性技術も導入されている。また、現在は、ISO/IECとITUの共同で次世代画面符号化方式として、H.264の標準化活動が進んでいる。
【0007】
一般に動画像の符号化では、時間方向および空間方向の冗長性を削減することによって情報量の圧縮を行う。そこで時間的な冗長性の削減を目的とするピクチャ間予測符号化では、前方または後方のピクチャを参照してブロック単位で動きの検出および予測画像の作成を行い、得られた予測画像と現在のピクチャとの差分値に対して符号化を行う。
【0008】
図19はピクチャの参照関係を説明するための図であり、図19(a)は符号化順、図19(b)は表示順にピクチャを並べた様子を示している。各ピクチャに記述されている文字Pに続く数字は表示順を示す情報(表示順情報)を示すものであり、図19(b)のように表示順で並べたときに全ての値が昇順になるように割り当てられている。なお、図中では表示順情報の値は1ずつ増加する値が割り当てられているがこれに限るものではなく、不均一に増加する値を割り当てることも、実際の表示時間を表すように増加していく値を割り当てることも可能である。また、図中でusedと記述されているピクチャは他のピクチャから参照に使用されることを可能とするピクチャ(参照可能ピクチャ)であり、それに対して何も記述されていないピクチャは他のピクチャから参照に使用されることができないピクチャ(参照不可ピクチャ)である。また、各ピクチャの下方に記述されている数字はフレーム番号を示すものである。フレーム番号は符号化順において前方に位置する最後に符号化された参照可能ピクチャの持つフレーム番号に1を足した値がそれぞれ割り当てられる。例えば、P1、P2、P6のそれぞれを符号化するときに前方に位置する最後に符号化された参照可能ピクチャはいずれもP3となり、P3の持つフレーム番号は1であるので、P1、P2、P6のいずれのピクチャも2という値がフレーム番号として割り当てられる。
【0009】
復号化処理では、復号化された各ピクチャはピクチャメモリに蓄積され他のピクチャからの参照に使用される。そのとき各ピクチャには参照に使用することができるかできないかを示す情報が付与される。図20(b)は、図20(a)のような復号化順に並んでいるピクチャ列のうち、P4を復号化対象ピクチャとして復号化処理を行っているときのピクチャメモリの様子を示している。P0、P3、P6は参照可能ピクチャ、P1、P2は参照不可ピクチャとして蓄積されている。P4はP0、P3、P6のみを参照して復号化を行うことができる。参照不可ピクチャは本来ならばすぐにピクチャメモリから削除するべきであるが、復号化してすぐに表示することができないような状況においては、たとえ参照に使用されないことが分かっていても表示される順番が来るまで他のピクチャが復号化されるのを待つためにピクチャメモリに格納しておく必要がある。
【0010】
次に、シーケンスの途中のピクチャから復号化を開始して表示を行う方法について説明する。図21はあるシーケンスの1部分を取り出したものであり、図21(a)は復号化順で、図21(b)は表示順でピクチャを並べたものである。通常の復号化ではシーケンスの始めのピクチャから復号化処理を行うことにより全てのピクチャを問題なく復号化することを可能としている。しかし、H.264ではシーケンスの途中からの復号化を開始することを補助する情報をピクチャに持たせることにより途中からの復号化を可能としている。ところが、他のピクチャを参照しながら復号化を行う場合は、途中から復号化を開始すると復号化順においてそれ以前のピクチャを参照することができないため、復号化を開始したピクチャからすぐに符号化側で意図したような画像が生成できるとは限らない。そこで、途中からの復号化を補助する情報の1つとして、対象のピクチャから復号化を行った場合に、どのピクチャから符号化側で意図したような画像が生成できるか、つまり、どのピクチャから表示を開始することができるかを示すための情報を持つことが規定されている。前記の情報は、途中から復号化を開始するピクチャのフレーム番号と表示を開始することのできるピクチャのフレーム番号との差分値から生成されるものである。そのとき、表示を開始することのできるピクチャとして参照可能ピクチャのみ選択することが可能である。図21の例では、途中から復号化を開始するピクチャをP13とし、どのピクチャから表示を開始することができるかを示すための情報をrec_frame_cntとして表している。P13のフレーム番号が11、rec_frame_cntの値が1であるので、表示を開始することのできるピクチャのフレーム番号は12となりP16が指定される。以上の処理により、P13から復号化を開始した場合、図21(b)のような表示順でP16から後のピクチャのみを表示することができる。
【0011】
図15は従来の動画像符号化方法を説明するためのブロック図である。この画像符号化方法は、ピクチャメモリ101、予測残差符号化部102、符号列生成部103、予測残差復号化部104、ピクチャメモリ105、動きベクトル検出部106、動き補償符号化部107、動きベクトル記憶部108、フレーム番号符号化部109、表示順情報符号化部110、表示開始ピクチャ指定情報符号化部111から構成される。
【0012】
符号化対象となる動画像は図19(b)に示したような表示を行う順にピクチャ単位でピクチャメモリ101に入力され、図19(a)に示したような符号化を行う順に並び替えられる。さらに各々のピクチャはマクロブロックと呼ばれる例えば水平16×垂直16画素のブロックに分割されブロック単位で以降の処理が行われる。
【0013】
ピクチャメモリ101から読み出された入力画像信号は差分演算部112に入力され、動き補償符号化部107の出力である予測画像信号との差分を取ることによって得られる差分画像信号を予測残差符号化部102に出力する。予測残差符号化部102では周波数変換、量子化等の画像符号化処理を行い残差信号を出力する。残差信号は予測残差復号化部104に入力され、逆量子化、逆周波数変換等の画像復号化処理を行い残差復号化信号を出力する。加算演算部113では前記残差復号化信号と予測画像信号との加算を行い再構成画像信号を生成し、得られた再構成画像信号はピクチャメモリ105に格納される。
【0014】
一方、ピクチャメモリ101から読み出されたマクロブロック単位の入力画像信号は動きベクトル検出部106にも入力される。ここでは、ピクチャメモリ105に格納されている1枚もしくは複数枚の符号化済みピクチャを探索対象とし、最も入力画像信号に近い画像領域を検出することによってその位置を指し示す動きベクトルとその際に選択されたピクチャを指し示す参照ピクチャインデックスを決定する。動きベクトル検出はマクロブロックをさらに分割したブロック単位で行われ、得られた動きベクトルは動きベクトル記憶部108に格納される。動き補償符号化部107では、上記処理によって検出された動きベクトルおよび参照ピクチャインデックスを用いて、ピクチャメモリ105に格納されている符号化済みピクチャから最適な画像領域を取り出し予測画像を生成する。
【0015】
フレーム番号符号化部109ではフレーム番号を、表示順情報符号化部110では表示順情報をピクチャごとに符号化する。その際に、途中から復号化を行うことを補助する情報を持たせるピクチャを符号化するときは、表示開始ピクチャ指定情報符号化部111において、符号化対象のピクチャから復号化をおこなったときに表示を開始することのできるピクチャを特定し、符号化対象のピクチャのフレーム番号と表示を開始することのできるピクチャのフレーム番号との差分値を表示開始ピクチャ指定情報rec_frame_cntとして符号化する。
【0016】
ここで、表示開始ピクチャ指定情報符号化部111において、表示開始ピクチャ指定情報rec_frame_cntを決定する方法について図17のフローチャトを用いて詳しく説明する。まず初期値として、int_fnに現在符号化の対象としているピクチャのフレーム番号を指定し、cntに0を指定する。ply_fnはint_fnとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_fnの値のフレーム番号を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_frame_cntとして決定し処理を終了する。
【0017】
上記の一連の処理によって出力された、表示開始ピクチャ指定情報、フレーム番号、表示順情報、動きベクトル、参照ピクチャインデックス、残差符号化信号等の符号化情報に対して符号列生成部103において可変長符号化を施すことにより出力される符号列が得られる。図18はそのときの符号列の例を示すものである。ピクチャ共通情報領域には表示開始ピクチャ指定情報rec_frame_cntが記述され、スライスヘッダ領域にはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。動きベクトル、参照ピクチャインデックス、残差符号化信号等の符号化情報は図中には表記されていないがスライスデータ領域に記述されるものである。なお、スライスとは1つのピクチャを1つもしくは複数の領域に分割したそれぞれの領域のことを示すものであり、各スライスはヘッダとそれ以外のデータ領域から構成される。同じピクチャに属するスライスには、同じフレーム番号frame_numおよび表示順情報poc_dataが記述される。
【0018】
以上の処理の流れは画面間予測符号化を行った場合の動作であったが、スイッチ114およびスイッチ115によって画面内予測符号化との切り替えがなされる。画面内符号化を行う場合は、動き補償による予測画像の生成は行わず、同一画面内の符号化済み領域から符号化対象領域の予測画像を生成し差分を取ることによって差分画像信号を生成する。差分画像信号は画面間予測符号化の場合と同様に、予測残差符号化部102において残差符号化信号に変換され、符号列生成部103において可変長符号化を施されることにより出力される符号列が得られる。
【0019】
図16は従来の動画像復号化方法を説明するためのブロック図である。この画像復号化方法は、符号列解析部201、予測残差復号化部202、ピクチャメモリ203、動き補償復号部204、動きベクトル記憶部205、フレーム番号復号化部206、表示順情報復号化部207、表示開始ピクチャ指定情報復号化部208から構成される。
【0020】
まず入力された符号列から符号列解析部201によって、表示開始ピクチャ指定情報信号、フレーム番号信号、表示順情報信号、動きベクトル、参照ピクチャインデックス、残差符号化信号等の各種の情報が抽出される。符号列解析器201で抽出された表示開始ピクチャ指定情報信号は表示開始ピクチャ指定情報復号化部208に、フレーム番号信号はフレーム番号復号化部206に、表示順情報信号は表示順情報復号化部207に、動きベクトルは動きベクトル記憶部205に、参照ピクチャインデックスは動き補償復号化部204に、残差符号化信号は予測残差復号化部202にそれぞれ出力される。
【0021】
予測残差復号化部202では入力された残差符号化信号に対して、逆量子化、逆周波数変換等の画像復号化処理を施し残差復号化信号を出力する。加算演算部209では前記残差復号化信号と動き補償符号化部204から出力される予測画像信号との加算を行い再構成画像信号を生成し、得られた再構成画像信号をピクチャメモリ203に格納する。
【0022】
動き補償復号化部204では、動きベクトル記憶部205から入力される動きベクトルおよび符号列解析部201から入力される参照ピクチャインデックスを用いて、ピクチャメモリ203に格納されている1枚もしくは複数枚の復号化済みピクチャから予測画像に最適な画像領域を取り出す。
【0023】
フレーム番号復号化部206ではフレーム番号を、表示順情報復号化部207では表示順情報を復号化し、復号化された各ピクチャに対応付けられる。
上記の一連の処理によって生成された復号化済みピクチャはピクチャメモリ203から表示されるタイミングに従って表示用画像信号として出力される。
【0024】
ストリームの途中から復号化を開始することのできるるピクチャは、途中から復号化を開始することを補助する情報を持ったピクチャのみである。前記ピクチャより復号化を開始した場合は、表示開始ピクチャ指定情報復号化部208においてフレーム番号を基に表示を開始することのできるピクチャを特定し、前記特定されたピクチャよりも表示順情報が後のピクチャのみピクチャメモリ203から表示されるタイミングに従って表示用画像信号として出力される。
【0025】
以上の処理の流れは画面間予測復号化を行った場合の動作であったが、スイッチ210によって画面内予測復号化との切り替えがなされる。画面内復号化を行う場合は、動き補償による予測画像の生成は行わず、同一画面内の復号化済み領域から復号化対象領域の予測画像を生成し加算を行うことによって再構成画像信号を生成し、得られた再構成画像信号はピクチャメモリ203に格納され、表示されるタイミングに従って表示用画像信号として出力される。
【0026】
【発明が解決しようとする課題】
従来の技術で説明した符号化方法では、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、図21(b)におけるP16のような参照可能ピクチャしか指定することができなかった。しかし、図21(b)におけるP14のような参照不可ピクチャであっても復号化を開始するP13よりも復号化順で前のピクチャを参照していない場合は表示可能なピクチャを生成することができる可能性がある。
【0027】
また、図22(a)のようなシーケンスを符号化する場合を例にとると、表示開始ピクチャ指定情報rec_frame_cntを記述するピクチャがP13であり、P13より後に符号化するピクチャでP13よりも大きな表示順情報を持つものが全てP13から復号化を行ったときに符号化側で意図したような画像が生成できる場合は、表示を開始することのできるピクチャとしてP13を指定することが可能である。しかし、P13よりも前に符号化されたピクチャP14およびP15は復号化されないため表示することができない。
【0028】
そこで本発明は、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とし、また、表示を開始することのできるピクチャとして指定されたピクチャより後の表示順情報を持つピクチャは全て復号化されているように制限することにより、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することを目的とする。
【0029】
【課題を解決するための手段】
そしてこの目的を達成するために、本発明による動画像符号化方法は、既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、前記表示開始ピクチャ指定情報符号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能であることを特徴とする。
【0030】
また、本発明による別の動画像符号化方法は、既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、前記表示開始ピクチャ指定情報符号化ステップは、前記表示を開始することができるピクチャよりも後の表示順の情報を持つ全てのピクチャが、シーケンスの途中から復号化を行った場合にでも復号化されているように、前記表示を開始することができるピクチャを指定することを特徴とする。
【0031】
また、前記表示開始ピクチャ指定情報符号化ステップは、途中から復号化を行うピクチャの表示順を示す情報と表示を開始することができるピクチャの表示順を示す情報を用いて、もしくは前記2枚のピクチャが表示順において離れている枚数を用いて、もしくは前記2枚のピクチャが符号化順において離れている枚数を用いて、どのピクチャから表示を開始することができるかを指定するための情報を生成することを特徴とする。
【0032】
さらに、本発明による動画像復号化方法は、符号化済みピクチャを参照して符号化を行うことによって生成された符号列を復号化する動画像復号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を復号化する表示開始ピクチャ指定情報復号化ステップを有し、前記表示開始ピクチャ指定情報復号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能であることを特徴とする。
【0033】
また、前記表示開始ピクチャ指定情報復号化ステップは、途中から復号化を行うピクチャの表示順を示す情報と表示を開始することができるピクチャの表示順を示す情報を用いて生成された信号、もしくは前記2枚のピクチャが表示順において離れている枚数を用いて生成された信号、もしくは前記2枚のピクチャが符号化順において離れている枚数を用いて生成された信号を復号化することによりどのピクチャから表示を開始することができるかを指定することを特徴とする。
【0034】
【発明の実施の形態】
(実施の形態1)
本発明の実施の形態1における動画像符号化方法について図1に示したブロック図を用いて説明する。符号化処理の構成は図15を用いて説明した従来の方法とほぼ同様である。従来の方法と異なる点は、表示開始ピクチャ指定情報符号化部111の入力がフレーム番号符号化部109から表示順情報符号化部110へ変更された点である。符号化の処理全体の流れは従来の技術と全く同様であるため、ここでは、フレーム番号符号化部109、表示順情報符号化部110、表示開始ピクチャ指定情報符号化部111の動作についてのみ詳しく説明する。
【0035】
本実施の形態の符号化方法によって生成される符号列は図6のような構成を持つ。各スライスごとにスライスヘッダを持ち、スライスヘッダにはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。これらの信号は1つのピクチャに属する全てのスライスで共通の値を使用し、従来の技術と全く同様の方法で生成されるものである。
【0036】
従来の技術において図15を用いて説明したように、フレーム番号はフレーム番号符号化部109において符号化され、符号化対象ピクチャを符号化する時点でピクチャメモリに蓄積されている参照可能ピクチャの中で最も後に符号化されたピクチャが持つフレーム番号の値に対して1を加えた値が割り当てられる。また、表示順情報は表示順情報符号化部110において符号化され、表示する順番に並べたときに全てのピクチャの表示順情報が昇順になるようにそれぞれ割り当てられる。なお、表示順情報として割り当てる値は1ずつ増加するものに限るものではなく、不均一に増加する値を割り当てることも、実際の表示時間を表すように増加していく値を割り当てることも可能である。
【0037】
次に、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法について詳しく説明する。表示開始ピクチャとはシーケンスの途中のピクチャから復号化を開始した場合に、どのピクチャから表示することができるかを示すものであり、それによって指定されたピクチャは符号化側で意図した画像と同じものもしくはほぼ同じものを復号化することができることを示すものである。
【0038】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図7はあるシーケンスの1部分を取り出したものであり、図7(a)は符号化順で、図7(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP14としている。P14は参照不可ピクチャであり、従来の技術においては表示開始ピクチャとして選択することができなかったが、P14はP13よりも先に復号化するピクチャを参照せずほぼ符号化側で意図した画像を生成することができるものであることが期待できること、および参照に使用することはできないがピクチャメモリに蓄積されていることから、本実施の形態では表示開始ピクチャとして選択することを可能とする。そのとき、表示開始ピクチャを示す情報がrec_poc_cntであり、図6の符号列中のピクチャ共通情報領域に記述される。rec_poc_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値によって値が算出される。図7の例では、符号化対象ピクチャP13の持つ表示順情報は13であり、表示開始ピクチャP14が持つ表示順情報は14であり、その差分値は1である。よって、rec_poc_cntの値として1を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP14が指定され、復号化側でP13から復号化を開始したときに図7(b)のような表示順においてP14以降のピクチャのみを表示することが指示される。
【0039】
さらにrec_poc_cntを決定する方法を図3のフローチャトを用いて詳しく説明する。まず初期値として、int_pocに現在符号化の対象としているピクチャの表示順情報を指定し、cntに0を指定する。ply_pocはint_pocとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_pocの値の表示順情報を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_poc_cntとして決定し処理を終了する。なお、このフローチャートではcntの値を1つずつ増加しているが、表示順情報が不均一に増加する場合もしくは実際の表示時間を表すように増加する場合は、それに合わせてcntの値の増加値を変更することにより対応が可能である。
【0040】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0041】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、符号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうち、値の小さい方を用いて表示開始ピクチャとして指定するものとする。
【0042】
なお、上記の実施の形態ではrec_poc_cntの値として、符号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0043】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は符号化対象ピクチャP13よりも後に符号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。復号化を行う際に、P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化することにより、P13から復号化を開始したときにP11から表示を行うように指定することが可能となる。
【0044】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図7の例では、P13が符号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化される。
【0045】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから符号化順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図7の例では、P13が符号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の4枚後に符号化されるピクチャであり、rec_poc_cntの値として4という値が符号化される。
【0046】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0047】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。
【0048】
(実施の形態2)
本発明の実施の形態2における動画像符号化方法について図1に示したブロック図を用いて説明する。符号化処理の構成は実施の形態1で説明した方法とほぼ同様である。実施の形態1で説明した方法と異なる点は、表示開始ピクチャ指定情報符号化部111の動作に関するものみである。ここでは、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法についてのみ詳しく説明する。
【0049】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図8はあるシーケンスの1部分を取り出したものであり、図8(a)は符号化順で、図8(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP16としている。このとき、表示開始ピクチャとして選択できるピクチャは、符号化対象ピクチャP13よりも前に符号化されたピクチャの持つ最も大きな表示順情報よりも大きな表示順情報を持つピクチャのみ選択できることを条件とする。そのとき、表示開始ピクチャを示す情報がrec_poc_cntであり、図6の符号列中のピクチャ共通情報領域に記述される。rec_poc_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値によって値が算出される。図8の例では、P13よりも前に符号化されたピクチャの中で最大の表示順情報はP15の15となり、表示開始ピクチャは16以上の表示順情報を持つもののみ指定可能となる。図8の例では、符号化対象ピクチャP13の持つ表示順情報は13であり、表示開始ピクチャP16が持つ表示順情報は16であり、その差分値は3としている。よって、rec_poc_cntの値として3を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP16が指定され、復号化側でP13から復号化を開始したときに図8(b)のような表示順においてP16以降のピクチャのみを表示することが指示される。
【0050】
さらにrec_poc_cntを決定する方法を図4のフローチャトを用いて詳しく説明する。まず始めに、符号化対象ピクチャよりも先に符号化したピクチャの持つ最大の表示順情報を調べてその値をmax_pocとして指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が小さい場合は、実施の形態1と全く同様に初期値として、int_pocに現在符号化の対象としているピクチャの表示順情報を指定し、cntに0を指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が大きい場合は、max_pocより大きな表示順情報を持つピクチャの最小の表示順情報をint_pocに指定し、cntに0を指定する。ply_pocはint_pocとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_pocの値の表示順情報を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_poc_cntとして決定し処理を終了する。なお、このフローチャートではcntの値を1つずつ増加しているが、表示順情報が不均一に増加する場合もしくは実際の表示時間を表すように増加する場合は、それに合わせてcntの値の増加値を変更することにより対応が可能である。
【0051】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0052】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、符号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうち、値の小さい方を用いて表示開始ピクチャとして指定するものとする。
【0053】
なお、上記の実施の形態ではrec_poc_cntの値として、符号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0054】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は符号化対象ピクチャP13よりも後に符号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。復号化を行う際に、P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化することにより、P13から復号化を開始したときにP11から表示を行うように指定することが可能となる。
【0055】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図8の例では、P13が符号化対象ピクチャでP16が表示開始ピクチャとすると、P16はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化される。
【0056】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから符号化順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図8の例では、P13が符号化対象ピクチャでP16が表示開始ピクチャとすると、P16はP13の3枚後に符号化されるピクチャであり、rec_poc_cntの値として3という値が符号化される。
【0057】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0058】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。さらに、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【0059】
(実施の形態3)
本発明の実施の形態2における動画像符号化方法について図15に示したブロック図を用いて説明する。符号化処理の構成は従来の技術で説明した方法とほぼ同様である。従来の技術で説明した方法と異なる点は、表示開始ピクチャ指定情報符号化部111の動作に関するものみである。ここでは、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法についてのみ詳しく説明する。
【0060】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図9はあるシーケンスの1部分を取り出したものであり、図9(a)は符号化順で、図9(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP16としている。このとき、表示開始ピクチャとして選択できるピクチャは、符号化対象ピクチャP13よりも前に符号化されたピクチャの持つ最も大きな表示順情報よりも大きな表示順情報を持つピクチャのみ選択できることを条件とする。そのとき、表示開始ピクチャを示す情報がrec_frame_cntであり、図18の符号列中のピクチャ共通情報領域に記述される。rec_frame_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つフレーム番号と、表示開始ピクチャが持つフレーム番号との差分値によって値が算出される。図9の例では、P13よりも前に符号化されたピクチャの中で最大の表示順情報はP15の15となり、表示開始ピクチャは16以上の表示順情報を持つもののみ指定可能となる。図9の例では、符号化対象ピクチャP13の持つフレーム番号は12であり、表示開始ピクチャP16が持つフレーム番号は13であり、その差分値は1としている。よって、rec_frame_cntの値として1を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP16が指定され、復号化側でP13から復号化を開始したときに図9(b)のような表示順においてP16以降のピクチャのみを表示することが指示される。
【0061】
さらにrec_frame_cntを決定する方法を図5のフローチャトを用いて詳しく説明する。まず始めに、符号化対象ピクチャよりも先に符号化したピクチャの持つ最大の表示順情報を調べてその値をmax_pocとして指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が小さい場合は、従来の技術と全く同様に初期値として、int_fnに現在符号化の対象としているピクチャのフレーム番号を指定し、cntに0を指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が大きい場合は、max_pocより大きな表示順情報を持つピクチャの最小のフレーム番号をint_fnに指定し、cntに0を指定する。ply_fnはint_fnとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_fnの値のフレーム番号を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_frame_cntとして決定し処理を終了する。
【0062】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0063】
なお、上記の実施の形態ではrec_frame_cntの値として、符号化対象ピクチャのフレーム番号と表示開始可能ピクチャのフレーム番号との差分値を用いていたが、差分値ではなく表示開始可能ピクチャのフレーム番号そのものを用いて指定することも可能である。
【0064】
なお、上記の実施の形態ではrec_frame_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0065】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。また復号化処理は従来の技術で説明した方法でそのまま復号かすることが可能であるため、復号化装置の設計を容易に行うことが可能である。
【0066】
(実施の形態4)
本発明の実施の形態4における動画像復号化方法について図2に示したブロック図を用いて説明する。復号化処理の構成は図16を用いて説明した従来の方法とほぼ同様である。従来の方法と異なる点は、表示開始ピクチャ指定情報復号化部208の入力がフレーム番号復号化部206から表示順情報復号化部207へ変更された点である。復号化の処理全体の流れは従来の技術と全く同様であるため、ここでは、フレーム番号復号化部206、表示順情報復号化部207、表示開始ピクチャ指定情報復号化部208の動作についてのみ詳しく説明する。
【0067】
本実施の形態の復号化処理に入力される符号列は実施の形態1もしくは実施の形態2で説明した符号化方法によって生成された符号列であり、図6のような構成を持つものである。各スライスごとにスライスヘッダを持ち、スライスヘッダにはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。これらの信号は1つのピクチャに属する全てのスライスで共通の値を使用する。さらに、ピクチャ共通情報領域には、ストリームの途中から復号化を開始した場合に表示を開始することができるピクチャを指定するための情報rec_poc_cntが記述されている。
【0068】
従来の技術において図16を用いて説明したように、符号列解析器201で抽出されたフレーム番号信号はフレーム番号復号化部206において、表示順情報信号は表示順情報復号化部207におてい復号化され、復号化されたフレーム番号および表示順情報は復号化された各ピクチャに対応付けられる。
【0069】
表示開始ピクチャ指定情報復号化部208には、符号列解析部201から表示開始ピクチャ情報rec_poc_cntが、表示順情報復号化部207から復号化対象ピクチャの表示順情報が入力される。
【0070】
図7はあるシーケンスの1部分を取り出したものであり、図7(a)は復号化順で、図7(b)は表示順でピクチャを並べたものである。表示開始ピクチャ指定情報復号化部208では、現在復号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持つピクチャであり、前記対象のピクチャから復号化を開始した場合、もしくは前記対象のピクチャよりも先に復号化されたピクチャを参照することができない状況で復号化が行われる場合、どのピクチャから表示することが可能であるかを入力された表示開始ピクチャ情報rec_poc_cntおよび復号化対象ピクチャの表示順情報を用いて決定する。図7の例では、途中から復号化を開始するピクチャがP13であり、前記ピクチャは表示順情報として13という値を持ち、表示開始ピクチャ情報rec_poc_cntは1という値を持っている。rec_poc_cntは、途中から復号化を開始するピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値を持つものであり、P13の表示順情報13にrec_poc_cntの値1を足した14という値を表示順情報として持つP14から表示を開始することが可能であることが指示される。
【0071】
ピクチャメモリ203は表示開始ピクチャ指定情報復号化部208から、上記処理によって得られた表示開始ピクチャの情報を受け取る。シーケンスを途中から復号化した場合は、前記ピクチャよりも前の表示順情報を持つピクチャは表示せずに、前記ピクチャよりも後の表示順情報を持つピクチャのみを表示する。
【0072】
なお、図7の例では表示順情報として表示の順番に従って1ずつ増加する値を用いていたが、表示順情報はこれに限ったものではなく、値が不均一に増加する場合や、実際の表示時間を表すように増加していく値等であっても問題なく扱うことが可能である。
【0073】
なお、上記の実施の形態では対象とするシーケンスがフレーム符号化されている場合の例を説明したが、フィールド符号化されている場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化された各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0074】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、復号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうちどちらか一方が表示開始ピクチャ指定情報復号化部208によって指定された表示順情報と同じであれば、前記ピクチャを表示開始ピクチャとして指定するものとする。
【0075】
なお、上記の実施の形態ではrec_poc_cntの値として、復号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0076】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は復号化対象ピクチャP13よりも後に復号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化されていることになり、上記実施の形態の処理によってP11から表示を行うように指定することが可能となる。
【0077】
なお、上記の実施の形態では、表示開始ピクチャ指定情報復号化部208において、rec_poc_cntが表示順情報を基に符号化されている値として復号化することにより表示開始ピクチャを指定していたが、前記値の代わりに復号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかという情報が符号化されている場合も同様に扱うことが可能である。例えば、図7の例では、P13が復号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化されていることになる。
【0078】
なお、上記の実施の形態では、表示開始ピクチャ指定情報復号化部208において、rec_poc_cntが表示順情報を基に符号化されている値として復号化することにより表示開始ピクチャを指定していたが、前記値の代わりに復号化対象のピクチャから復号化順において何枚後のピクチャから表示を開始することができるかという情報が符号化されている場合も同様に扱うことが可能である。例えば、図7の例では、P13が復号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の4枚後に復号化されるピクチャであり、rec_poc_cntの値として4という値が符号化されていることになる。
【0079】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述されているものとしているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述されている場合も同様に扱うことが可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述されている場合も同様に扱うことが可能である。また、スライスヘッダに記述されている場合も同様に扱うことが可能である。
以上の実施の形態で説明したように、本発明の復号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。さらに、実施の形態2で生成された符号列を復号化する場合は、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【0080】
(実施の形態5)
図10は、上記実施の形態の画像符号化方法および画像復号化方法をフレキシブルディスクに格納させたプログラムを用いて、コンピュータシステムにより実施する場合の説明図である。
【0081】
図10(b)は、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示し、図10(a)は、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示している。フレキシブルディスクFDはケースF内に内蔵され、該ディスクの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクでは、上記フレキシブルディスクFD上に割り当てられた領域に、上記プログラムとしての画像符号化方法および画像復号化方法が記録されている。
【0082】
また、図10(c)は、フレキシブルディスクFDに上記プログラムの記録再生を行うための構成を示す。上記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記プログラムとしての画像符号化方法および画像復号化方法をフレキシブルディスクドライブFDDを介して書き込む。また、フレキシブルディスク内のプログラムにより上記画像符号化方法および画像復号化方法をコンピュータシステム中に構築する場合は、フレキシブルディスクドライブによりプログラムをフレキシブルディスクから読み出し、コンピュータシステムに転送する。
【0083】
なお、上記説明では、記録媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても同様に行うことができる。また、記録媒体はこれに限らず、CD−ROM、メモリカード、ROMカセット等、プログラムを記録できるものであれば同様に実施することができる。
【0084】
また、図11から図14は、上記実施の形態で示した符号化処理または復号化処理を行う機器、およびこの機器を用いたシステムを説明する図である。
図11は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示すブロック図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex107〜ex110が設置されている。
【0085】
このコンテンツ供給システムex100は、例えば、インターネットex101にインターネットサービスプロバイダex102および電話網ex104、および基地局ex107〜ex110を介して、コンピュータex111、PDA(personal digital assistant)ex112、カメラex113、携帯電話ex114、カメラ付きの携帯電話ex115などの各機器が接続される。
【0086】
しかし、コンテンツ供給システムex100は図11のような組合せに限定されず、いずれかを組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex107〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。
【0087】
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器である。また、携帯電話は、PDC(Personal Digital Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband−Code Division Multiple Access)方式、若しくはGSM(Global System for Mobile Communications)方式の携帯電話機、またはPHS(Personal Handyphone System)等であり、いずれでも構わない。
【0088】
また、ストリーミングサーバex103は、カメラex113から基地局ex109、電話網ex104を通じて接続されており、カメラex113を用いてユーザが送信する符号化処理されたデータに基づいたライブ配信等が可能になる。撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするサーバ等で行ってもよい。また、カメラ116で撮影した動画データはコンピュータex111を介してストリーミングサーバex103に送信されてもよい。カメラex116はデジタルカメラ等の静止画、動画が撮影可能な機器である。この場合、動画データの符号化はカメラex116で行ってもコンピュータex111で行ってもどちらでもよい。また、符号化処理はコンピュータex111やカメラex116が有するLSIex117において処理することになる。なお、画像符号化・復号化用のソフトウェアをコンピュータex111等で読み取り可能な記録媒体である何らかの蓄積メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込んでもよい。さらに、カメラ付きの携帯電話ex115で動画データを送信してもよい。このときの動画データは携帯電話ex115が有するLSIで符号化処理されたデータである。
【0089】
このコンテンツ供給システムex100では、ユーザがカメラex113、カメラex116等で撮影しているコンテンツ(例えば、音楽ライブを撮影した映像等)を上記実施の形態同様に符号化処理してストリーミングサーバex103に送信する一方で、ストリーミングサーバex103は要求のあったクライアントに対して上記コンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114等がある。このようにすることでコンテンツ供給システムex100は、符号化されたデータをクライアントにおいて受信して再生することができ、さらにクライアントにおいてリアルタイムで受信して復号化し、再生することにより、個人放送をも実現可能になるシステムである。
【0090】
このシステムを構成する各機器の符号化、復号化には上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を用いるようにすればよい。
その一例として携帯電話について説明する。
【0091】
図12は、上記実施の形態で説明した動画像符号化方法と動画像復号化方法を用いた携帯電話ex115を示す図である。携帯電話ex115は、基地局ex110との間で電波を送受信するためのアンテナex201、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex203、カメラ部ex203で撮影した映像、アンテナex201で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex202、操作キーex204群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex208、音声入力をするためのマイク等の音声入力部ex205、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号化されたデータを保存するための記録メディアex207、携帯電話ex115に記録メディアex207を装着可能とするためのスロット部ex206を有している。記録メディアex207はSDカード等のプラスチックケース内に電気的に書換えや消去が可能な不揮発性メモリであるEEPROM(Electrically Erasable and Programmable Read Only Memory)の一種であるフラッシュメモリ素子を格納したものである。
【0092】
さらに、携帯電話ex115について図13を用いて説明する。携帯電話ex115は表示部ex202及び操作キーex204を備えた本体部の各部を統括的に制御するようになされた主制御部ex311に対して、電源回路部ex310、操作入力制御部ex304、画像符号化部ex312、カメラインターフェース部ex303、LCD(Liquid Crystal Display)制御部ex302、画像復号化部ex309、多重分離部ex308、記録再生部ex307、変復調回路部ex306及び音声処理部ex305が同期バスex313を介して互いに接続されている。
【0093】
電源回路部ex310は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付ディジタル携帯電話ex115を動作可能な状態に起動する。
【0094】
携帯電話ex115は、CPU、ROM及びRAM等でなる主制御部ex311の制御に基づいて、音声通話モード時に音声入力部ex205で集音した音声信号を音声処理部ex305によってディジタル音声データに変換し、これを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。また携帯電話機ex115は、音声通話モード時にアンテナex201で受信した受信信号を増幅して周波数変換処理及びアナログディジタル変換処理を施し、変復調回路部ex306でスペクトラム逆拡散処理し、音声処理部ex305によってアナログ音声信号に変換した後、これを音声出力部ex208を介して出力する。
【0095】
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex204の操作によって入力された電子メールのテキストデータは操作入力制御部ex304を介して主制御部ex311に送出される。主制御部ex311は、テキストデータを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して基地局ex110へ送信する。
【0096】
データ通信モード時に画像データを送信する場合、カメラ部ex203で撮像された画像データをカメラインターフェース部ex303を介して画像符号化部ex312に供給する。また、画像データを送信しない場合には、カメラ部ex203で撮像した画像データをカメラインターフェース部ex303及びLCD制御部ex302を介して表示部ex202に直接表示することも可能である。
【0097】
画像符号化部ex312は、本願発明で説明した画像符号化方法を備えた構成であり、カメラ部ex203から供給された画像データを上記実施の形態で示した画像符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex308に送出する。また、このとき同時に携帯電話機ex115は、カメラ部ex203で撮像中に音声入力部ex205で集音した音声を音声処理部ex305を介してディジタルの音声データとして多重分離部ex308に送出する。
【0098】
多重分離部ex308は、画像符号化部ex312から供給された符号化画像データと音声処理部ex305から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。
【0099】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex201を介して基地局ex110から受信した受信信号を変復調回路部ex306でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex308に送出する。
【0100】
また、アンテナex201を介して受信された多重化データを復号化するには、多重分離部ex308は、多重化データを分離することにより画像データの符号化ビットストリームと音声データの符号化ビットストリームとに分け、同期バスex313を介して当該符号化画像データを画像復号化部ex309に供給すると共に当該音声データを音声処理部ex305に供給する。
【0101】
次に、画像復号化部ex309は、本願発明で説明した画像復号化方法を備えた構成であり、画像データの符号化ビットストリームを上記実施の形態で示した符号化方法に対応した復号化方法で復号することにより再生動画像データを生成し、これをLCD制御部ex302を介して表示部ex202に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex305は、音声データをアナログ音声信号に変換した後、これを音声出力部ex208に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まる音声データが再生される。
【0102】
なお、上記システムの例に限られず、最近は衛星、地上波によるディジタル放送が話題となっており、図14に示すようにディジタル放送用システムにも上記実施の形態の少なくとも画像符号化方法または画像復号化方法のいずれかを組み込むことができる。具体的には、放送局ex409では映像情報の符号化ビットストリームが電波を介して通信または放送衛星ex410に伝送される。これを受けた放送衛星ex410は、放送用の電波を発信し、この電波を衛星放送受信設備をもつ家庭のアンテナex406で受信し、テレビ(受信機)ex401またはセットトップボックス(STB)ex407などの装置により符号化ビットストリームを復号化してこれを再生する。また、記録媒体であるCDやDVD等の蓄積メディアex402に記録した符号化ビットストリームを読み取り、復号化する再生装置ex403にも上記実施の形態で示した画像復号化方法を実装することが可能である。この場合、再生された映像信号はモニタex404に表示される。また、ケーブルテレビ用のケーブルex405または衛星/地上波放送のアンテナex406に接続されたセットトップボックスex407内に画像復号化方法を実装し、これをテレビのモニタex408で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号化方法を組み込んでも良い。また、アンテナex411を有する車ex412で衛星ex410からまたは基地局ex107等から信号を受信し、車ex412が有するカーナビゲーションex413等の表示装置に動画を再生することも可能である。
【0103】
更に、画像信号を上記実施の形態で示した画像符号化方法で符号化し、記録媒体に記録することもできる。具体例としては、DVDディスクex421に画像信号を記録するDVDレコーダや、ハードディスクに記録するディスクレコーダなどのレコーダex420がある。更にSDカードex422に記録することもできる。レコーダex420が上記実施の形態で示した画像復号化方法を備えていれば、DVDディスクex421やSDカードex422に記録した画像信号を再生し、モニタex408で表示することができる。
【0104】
なお、カーナビゲーションex413の構成は例えば図13に示す構成のうち、カメラ部ex203とカメラインターフェース部ex303、画像符号化部ex312を除いた構成が考えられ、同様なことがコンピュータex111やテレビ(受信機)ex401等でも考えられる。
【0105】
また、上記携帯電話ex114等の端末は、符号化器・復号化器を両方持つ送受信型の端末の他に、符号化器のみの送信端末、復号化器のみの受信端末の3通りの実装形式が考えられる。
【0106】
このように、上記実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
【0107】
【発明の効果】
以上のように、実施の形態1および実施の形態2で説明した本発明の動画像の符号化方法および実施の形態4で説明した本発明の動画像の復号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とし、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。
【0108】
また、実施の形態2および実施の形態3で説明した本発明の動画像の符号化方法および実施の形態4で説明した本発明の動画像の復号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態1および実施の形態2における符号化の動作を説明するためのブロック図である。
【図2】本発明の実施の形態4における復号化の動作を説明するためのブロック図である。
【図3】本発明の実施の形態1における表示開始ピクチャ指定情報符号化部の動作を説明するためのフローチャートである。
【図4】本発明の実施の形態2における表示開始ピクチャ指定情報符号化部の別の動作を説明するためのフローチャートである。
【図5】本発明の実施の形態3における表示開始ピクチャ指定情報符号化部の別の動作を説明するためのフローチャートである。
【図6】本発明の実施の形態1および実施の形態2における符号列の構成を説明するための模式図である。
【図7】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための模式図である。
【図8】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【図9】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【図10】上記各実施の形態の動画像の符号化方法および復号化方法をコンピュータシステムにより実現するためのプログラムを格納するための記録媒体についての説明図である。
【図11】コンテンツ供給システムの全体構成を示すブロック図である。
【図12】携帯電話の外観図である。
【図13】携帯電話の構成を示すブロック図である。
【図14】ディジタル放送用システムの例を示す図である。
【図15】従来の技術および実施の形態3における符号化の動作を説明するためのブロック図である。
【図16】従来の技術における復号化の動作を説明するためのブロック図である。
【図17】従来の技術における表示開始ピクチャ指定情報符号化部の動作を説明するためのフローチャートである。
【図18】従来の技術および実施の形態3における符号列の構成を説明するための模式図である。
【図19】従来の技術におけるピクチャの符号化順と表示順の関係を説明するための模式図である。
【図20】従来の技術におけるピクチャの参照関係とピクチャメモリの状態を説明するため模式図である。
【図21】従来の技術におけるピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための模式図である。
【図22】従来の技術におけるピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【符号の説明】
101 ピクチャメモリ
102 予測残差符号化部
103 符号列生成部
104 予測残差復号化部
105 ピクチャメモリ
106 動きベクトル検出部
107 動き補償符号化部
108 動きベクトル記憶部
109 フレーム番号符号化部
110 表示順情報符号化部
111 表示開始ピクチャ指定情報符号化部
201 符号列解析部
202 予測残差復号化部
203 ピクチャメモリ
204 動き補償復号化部
205 動きベクトル記憶部
206 フレーム番号復号化部
207 表示順情報復号化部
208 表示開始ピクチャ指定情報復号化部
Cs コンピュータシステム
FD フレキシブルディスク
FDD フレキシブルディスクドライブ
【発明の属する技術分野】
本発明は、動画像の符号化方法および復号化方法に関するものであり、特に既に符号化済みのピクチャを参照して画面間予測を行う符号化方法および復号化方法に関するものである。
【0002】
【従来の技術】
近年、音声,画像,その他の画素値を統合的に扱うマルチメディア時代を迎え、従来からの情報メディア,つまり新聞,雑誌,テレビ,ラジオ,電話等の情報を人に伝達する手段がマルチメディアの対象として取り上げられるようになってきた。一般に、マルチメディアとは、文字だけでなく、図形、音声、特に画像等を同時に関連づけて表すことをいうが、上記従来の情報メディアをマルチメディアの対象とするには、その情報をディジタル形式にして表すことが必須条件となる。
【0003】
ところが、上記各情報メディアの持つ情報量をディジタル情報量として見積もってみると、文字の場合1文字当たりの情報量は1〜2バイトであるのに対し、音声の場合1秒当たり64kbits(電話品質)、さらに動画については1秒当たり100Mbits(現行テレビ受信品質)以上の情報量が必要となり、上記情報メディアでその膨大な情報をディジタル形式でそのまま扱うことは現実的では無い。例えば、テレビ電話は、64kbps〜1.5Mbpsの伝送速度を持つサービス総合ディジタル網(ISDN:Integrated Services Digital Network)によってすでに実用化されているが、テレビ・カメラの映像をそのままISDNで送ることは不可能である。
【0004】
そこで、必要となってくるのが情報の圧縮技術であり、例えば、テレビ電話の場合、ITU(国際電気通信連合 電気通信標準化部門)で国際標準化されたH.261やH.263規格の動画圧縮技術が用いられている。また、MPEG−1規格の情報圧縮技術によると、通常の音楽用CD(コンパクト・ディスク)に音声情報とともに画像情報を入れることも可能となる。
【0005】
ここで、MPEG(Moving Picture Experts Group)とは、動画面信号のディジタル圧縮の国際規格であり、MPEG−1は、動画面信号を1.5Mbpsまで、つまりテレビ信号の情報を約100分の1にまで圧縮する規格である。また、MPEG−1規格を対象とする伝送速度が主として約1.5Mbpsに制限されていることから、さらなる高画質化の要求をみたすべく規格化されたMPEG−2では、動画像信号が2〜15Mbpsに圧縮される。
【0006】
さらに現状では、MPEG−1,MPEG−2と標準化を進めてきた作業グループ(ISO/IEC JTC1/SC29/WG11) によって、より圧縮率が高いMPEG−4が規格化された。MPEG−4では、当初、低ビットレートで効率の高い符号化が可能になるだけでなく、伝送路誤りが発生しても主観的な画質劣化を小さくできる強力な誤り耐性技術も導入されている。また、現在は、ISO/IECとITUの共同で次世代画面符号化方式として、H.264の標準化活動が進んでいる。
【0007】
一般に動画像の符号化では、時間方向および空間方向の冗長性を削減することによって情報量の圧縮を行う。そこで時間的な冗長性の削減を目的とするピクチャ間予測符号化では、前方または後方のピクチャを参照してブロック単位で動きの検出および予測画像の作成を行い、得られた予測画像と現在のピクチャとの差分値に対して符号化を行う。
【0008】
図19はピクチャの参照関係を説明するための図であり、図19(a)は符号化順、図19(b)は表示順にピクチャを並べた様子を示している。各ピクチャに記述されている文字Pに続く数字は表示順を示す情報(表示順情報)を示すものであり、図19(b)のように表示順で並べたときに全ての値が昇順になるように割り当てられている。なお、図中では表示順情報の値は1ずつ増加する値が割り当てられているがこれに限るものではなく、不均一に増加する値を割り当てることも、実際の表示時間を表すように増加していく値を割り当てることも可能である。また、図中でusedと記述されているピクチャは他のピクチャから参照に使用されることを可能とするピクチャ(参照可能ピクチャ)であり、それに対して何も記述されていないピクチャは他のピクチャから参照に使用されることができないピクチャ(参照不可ピクチャ)である。また、各ピクチャの下方に記述されている数字はフレーム番号を示すものである。フレーム番号は符号化順において前方に位置する最後に符号化された参照可能ピクチャの持つフレーム番号に1を足した値がそれぞれ割り当てられる。例えば、P1、P2、P6のそれぞれを符号化するときに前方に位置する最後に符号化された参照可能ピクチャはいずれもP3となり、P3の持つフレーム番号は1であるので、P1、P2、P6のいずれのピクチャも2という値がフレーム番号として割り当てられる。
【0009】
復号化処理では、復号化された各ピクチャはピクチャメモリに蓄積され他のピクチャからの参照に使用される。そのとき各ピクチャには参照に使用することができるかできないかを示す情報が付与される。図20(b)は、図20(a)のような復号化順に並んでいるピクチャ列のうち、P4を復号化対象ピクチャとして復号化処理を行っているときのピクチャメモリの様子を示している。P0、P3、P6は参照可能ピクチャ、P1、P2は参照不可ピクチャとして蓄積されている。P4はP0、P3、P6のみを参照して復号化を行うことができる。参照不可ピクチャは本来ならばすぐにピクチャメモリから削除するべきであるが、復号化してすぐに表示することができないような状況においては、たとえ参照に使用されないことが分かっていても表示される順番が来るまで他のピクチャが復号化されるのを待つためにピクチャメモリに格納しておく必要がある。
【0010】
次に、シーケンスの途中のピクチャから復号化を開始して表示を行う方法について説明する。図21はあるシーケンスの1部分を取り出したものであり、図21(a)は復号化順で、図21(b)は表示順でピクチャを並べたものである。通常の復号化ではシーケンスの始めのピクチャから復号化処理を行うことにより全てのピクチャを問題なく復号化することを可能としている。しかし、H.264ではシーケンスの途中からの復号化を開始することを補助する情報をピクチャに持たせることにより途中からの復号化を可能としている。ところが、他のピクチャを参照しながら復号化を行う場合は、途中から復号化を開始すると復号化順においてそれ以前のピクチャを参照することができないため、復号化を開始したピクチャからすぐに符号化側で意図したような画像が生成できるとは限らない。そこで、途中からの復号化を補助する情報の1つとして、対象のピクチャから復号化を行った場合に、どのピクチャから符号化側で意図したような画像が生成できるか、つまり、どのピクチャから表示を開始することができるかを示すための情報を持つことが規定されている。前記の情報は、途中から復号化を開始するピクチャのフレーム番号と表示を開始することのできるピクチャのフレーム番号との差分値から生成されるものである。そのとき、表示を開始することのできるピクチャとして参照可能ピクチャのみ選択することが可能である。図21の例では、途中から復号化を開始するピクチャをP13とし、どのピクチャから表示を開始することができるかを示すための情報をrec_frame_cntとして表している。P13のフレーム番号が11、rec_frame_cntの値が1であるので、表示を開始することのできるピクチャのフレーム番号は12となりP16が指定される。以上の処理により、P13から復号化を開始した場合、図21(b)のような表示順でP16から後のピクチャのみを表示することができる。
【0011】
図15は従来の動画像符号化方法を説明するためのブロック図である。この画像符号化方法は、ピクチャメモリ101、予測残差符号化部102、符号列生成部103、予測残差復号化部104、ピクチャメモリ105、動きベクトル検出部106、動き補償符号化部107、動きベクトル記憶部108、フレーム番号符号化部109、表示順情報符号化部110、表示開始ピクチャ指定情報符号化部111から構成される。
【0012】
符号化対象となる動画像は図19(b)に示したような表示を行う順にピクチャ単位でピクチャメモリ101に入力され、図19(a)に示したような符号化を行う順に並び替えられる。さらに各々のピクチャはマクロブロックと呼ばれる例えば水平16×垂直16画素のブロックに分割されブロック単位で以降の処理が行われる。
【0013】
ピクチャメモリ101から読み出された入力画像信号は差分演算部112に入力され、動き補償符号化部107の出力である予測画像信号との差分を取ることによって得られる差分画像信号を予測残差符号化部102に出力する。予測残差符号化部102では周波数変換、量子化等の画像符号化処理を行い残差信号を出力する。残差信号は予測残差復号化部104に入力され、逆量子化、逆周波数変換等の画像復号化処理を行い残差復号化信号を出力する。加算演算部113では前記残差復号化信号と予測画像信号との加算を行い再構成画像信号を生成し、得られた再構成画像信号はピクチャメモリ105に格納される。
【0014】
一方、ピクチャメモリ101から読み出されたマクロブロック単位の入力画像信号は動きベクトル検出部106にも入力される。ここでは、ピクチャメモリ105に格納されている1枚もしくは複数枚の符号化済みピクチャを探索対象とし、最も入力画像信号に近い画像領域を検出することによってその位置を指し示す動きベクトルとその際に選択されたピクチャを指し示す参照ピクチャインデックスを決定する。動きベクトル検出はマクロブロックをさらに分割したブロック単位で行われ、得られた動きベクトルは動きベクトル記憶部108に格納される。動き補償符号化部107では、上記処理によって検出された動きベクトルおよび参照ピクチャインデックスを用いて、ピクチャメモリ105に格納されている符号化済みピクチャから最適な画像領域を取り出し予測画像を生成する。
【0015】
フレーム番号符号化部109ではフレーム番号を、表示順情報符号化部110では表示順情報をピクチャごとに符号化する。その際に、途中から復号化を行うことを補助する情報を持たせるピクチャを符号化するときは、表示開始ピクチャ指定情報符号化部111において、符号化対象のピクチャから復号化をおこなったときに表示を開始することのできるピクチャを特定し、符号化対象のピクチャのフレーム番号と表示を開始することのできるピクチャのフレーム番号との差分値を表示開始ピクチャ指定情報rec_frame_cntとして符号化する。
【0016】
ここで、表示開始ピクチャ指定情報符号化部111において、表示開始ピクチャ指定情報rec_frame_cntを決定する方法について図17のフローチャトを用いて詳しく説明する。まず初期値として、int_fnに現在符号化の対象としているピクチャのフレーム番号を指定し、cntに0を指定する。ply_fnはint_fnとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_fnの値のフレーム番号を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_frame_cntとして決定し処理を終了する。
【0017】
上記の一連の処理によって出力された、表示開始ピクチャ指定情報、フレーム番号、表示順情報、動きベクトル、参照ピクチャインデックス、残差符号化信号等の符号化情報に対して符号列生成部103において可変長符号化を施すことにより出力される符号列が得られる。図18はそのときの符号列の例を示すものである。ピクチャ共通情報領域には表示開始ピクチャ指定情報rec_frame_cntが記述され、スライスヘッダ領域にはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。動きベクトル、参照ピクチャインデックス、残差符号化信号等の符号化情報は図中には表記されていないがスライスデータ領域に記述されるものである。なお、スライスとは1つのピクチャを1つもしくは複数の領域に分割したそれぞれの領域のことを示すものであり、各スライスはヘッダとそれ以外のデータ領域から構成される。同じピクチャに属するスライスには、同じフレーム番号frame_numおよび表示順情報poc_dataが記述される。
【0018】
以上の処理の流れは画面間予測符号化を行った場合の動作であったが、スイッチ114およびスイッチ115によって画面内予測符号化との切り替えがなされる。画面内符号化を行う場合は、動き補償による予測画像の生成は行わず、同一画面内の符号化済み領域から符号化対象領域の予測画像を生成し差分を取ることによって差分画像信号を生成する。差分画像信号は画面間予測符号化の場合と同様に、予測残差符号化部102において残差符号化信号に変換され、符号列生成部103において可変長符号化を施されることにより出力される符号列が得られる。
【0019】
図16は従来の動画像復号化方法を説明するためのブロック図である。この画像復号化方法は、符号列解析部201、予測残差復号化部202、ピクチャメモリ203、動き補償復号部204、動きベクトル記憶部205、フレーム番号復号化部206、表示順情報復号化部207、表示開始ピクチャ指定情報復号化部208から構成される。
【0020】
まず入力された符号列から符号列解析部201によって、表示開始ピクチャ指定情報信号、フレーム番号信号、表示順情報信号、動きベクトル、参照ピクチャインデックス、残差符号化信号等の各種の情報が抽出される。符号列解析器201で抽出された表示開始ピクチャ指定情報信号は表示開始ピクチャ指定情報復号化部208に、フレーム番号信号はフレーム番号復号化部206に、表示順情報信号は表示順情報復号化部207に、動きベクトルは動きベクトル記憶部205に、参照ピクチャインデックスは動き補償復号化部204に、残差符号化信号は予測残差復号化部202にそれぞれ出力される。
【0021】
予測残差復号化部202では入力された残差符号化信号に対して、逆量子化、逆周波数変換等の画像復号化処理を施し残差復号化信号を出力する。加算演算部209では前記残差復号化信号と動き補償符号化部204から出力される予測画像信号との加算を行い再構成画像信号を生成し、得られた再構成画像信号をピクチャメモリ203に格納する。
【0022】
動き補償復号化部204では、動きベクトル記憶部205から入力される動きベクトルおよび符号列解析部201から入力される参照ピクチャインデックスを用いて、ピクチャメモリ203に格納されている1枚もしくは複数枚の復号化済みピクチャから予測画像に最適な画像領域を取り出す。
【0023】
フレーム番号復号化部206ではフレーム番号を、表示順情報復号化部207では表示順情報を復号化し、復号化された各ピクチャに対応付けられる。
上記の一連の処理によって生成された復号化済みピクチャはピクチャメモリ203から表示されるタイミングに従って表示用画像信号として出力される。
【0024】
ストリームの途中から復号化を開始することのできるるピクチャは、途中から復号化を開始することを補助する情報を持ったピクチャのみである。前記ピクチャより復号化を開始した場合は、表示開始ピクチャ指定情報復号化部208においてフレーム番号を基に表示を開始することのできるピクチャを特定し、前記特定されたピクチャよりも表示順情報が後のピクチャのみピクチャメモリ203から表示されるタイミングに従って表示用画像信号として出力される。
【0025】
以上の処理の流れは画面間予測復号化を行った場合の動作であったが、スイッチ210によって画面内予測復号化との切り替えがなされる。画面内復号化を行う場合は、動き補償による予測画像の生成は行わず、同一画面内の復号化済み領域から復号化対象領域の予測画像を生成し加算を行うことによって再構成画像信号を生成し、得られた再構成画像信号はピクチャメモリ203に格納され、表示されるタイミングに従って表示用画像信号として出力される。
【0026】
【発明が解決しようとする課題】
従来の技術で説明した符号化方法では、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、図21(b)におけるP16のような参照可能ピクチャしか指定することができなかった。しかし、図21(b)におけるP14のような参照不可ピクチャであっても復号化を開始するP13よりも復号化順で前のピクチャを参照していない場合は表示可能なピクチャを生成することができる可能性がある。
【0027】
また、図22(a)のようなシーケンスを符号化する場合を例にとると、表示開始ピクチャ指定情報rec_frame_cntを記述するピクチャがP13であり、P13より後に符号化するピクチャでP13よりも大きな表示順情報を持つものが全てP13から復号化を行ったときに符号化側で意図したような画像が生成できる場合は、表示を開始することのできるピクチャとしてP13を指定することが可能である。しかし、P13よりも前に符号化されたピクチャP14およびP15は復号化されないため表示することができない。
【0028】
そこで本発明は、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とし、また、表示を開始することのできるピクチャとして指定されたピクチャより後の表示順情報を持つピクチャは全て復号化されているように制限することにより、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することを目的とする。
【0029】
【課題を解決するための手段】
そしてこの目的を達成するために、本発明による動画像符号化方法は、既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、前記表示開始ピクチャ指定情報符号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能であることを特徴とする。
【0030】
また、本発明による別の動画像符号化方法は、既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、前記表示開始ピクチャ指定情報符号化ステップは、前記表示を開始することができるピクチャよりも後の表示順の情報を持つ全てのピクチャが、シーケンスの途中から復号化を行った場合にでも復号化されているように、前記表示を開始することができるピクチャを指定することを特徴とする。
【0031】
また、前記表示開始ピクチャ指定情報符号化ステップは、途中から復号化を行うピクチャの表示順を示す情報と表示を開始することができるピクチャの表示順を示す情報を用いて、もしくは前記2枚のピクチャが表示順において離れている枚数を用いて、もしくは前記2枚のピクチャが符号化順において離れている枚数を用いて、どのピクチャから表示を開始することができるかを指定するための情報を生成することを特徴とする。
【0032】
さらに、本発明による動画像復号化方法は、符号化済みピクチャを参照して符号化を行うことによって生成された符号列を復号化する動画像復号化方法であって、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を復号化する表示開始ピクチャ指定情報復号化ステップを有し、前記表示開始ピクチャ指定情報復号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能であることを特徴とする。
【0033】
また、前記表示開始ピクチャ指定情報復号化ステップは、途中から復号化を行うピクチャの表示順を示す情報と表示を開始することができるピクチャの表示順を示す情報を用いて生成された信号、もしくは前記2枚のピクチャが表示順において離れている枚数を用いて生成された信号、もしくは前記2枚のピクチャが符号化順において離れている枚数を用いて生成された信号を復号化することによりどのピクチャから表示を開始することができるかを指定することを特徴とする。
【0034】
【発明の実施の形態】
(実施の形態1)
本発明の実施の形態1における動画像符号化方法について図1に示したブロック図を用いて説明する。符号化処理の構成は図15を用いて説明した従来の方法とほぼ同様である。従来の方法と異なる点は、表示開始ピクチャ指定情報符号化部111の入力がフレーム番号符号化部109から表示順情報符号化部110へ変更された点である。符号化の処理全体の流れは従来の技術と全く同様であるため、ここでは、フレーム番号符号化部109、表示順情報符号化部110、表示開始ピクチャ指定情報符号化部111の動作についてのみ詳しく説明する。
【0035】
本実施の形態の符号化方法によって生成される符号列は図6のような構成を持つ。各スライスごとにスライスヘッダを持ち、スライスヘッダにはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。これらの信号は1つのピクチャに属する全てのスライスで共通の値を使用し、従来の技術と全く同様の方法で生成されるものである。
【0036】
従来の技術において図15を用いて説明したように、フレーム番号はフレーム番号符号化部109において符号化され、符号化対象ピクチャを符号化する時点でピクチャメモリに蓄積されている参照可能ピクチャの中で最も後に符号化されたピクチャが持つフレーム番号の値に対して1を加えた値が割り当てられる。また、表示順情報は表示順情報符号化部110において符号化され、表示する順番に並べたときに全てのピクチャの表示順情報が昇順になるようにそれぞれ割り当てられる。なお、表示順情報として割り当てる値は1ずつ増加するものに限るものではなく、不均一に増加する値を割り当てることも、実際の表示時間を表すように増加していく値を割り当てることも可能である。
【0037】
次に、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法について詳しく説明する。表示開始ピクチャとはシーケンスの途中のピクチャから復号化を開始した場合に、どのピクチャから表示することができるかを示すものであり、それによって指定されたピクチャは符号化側で意図した画像と同じものもしくはほぼ同じものを復号化することができることを示すものである。
【0038】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図7はあるシーケンスの1部分を取り出したものであり、図7(a)は符号化順で、図7(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP14としている。P14は参照不可ピクチャであり、従来の技術においては表示開始ピクチャとして選択することができなかったが、P14はP13よりも先に復号化するピクチャを参照せずほぼ符号化側で意図した画像を生成することができるものであることが期待できること、および参照に使用することはできないがピクチャメモリに蓄積されていることから、本実施の形態では表示開始ピクチャとして選択することを可能とする。そのとき、表示開始ピクチャを示す情報がrec_poc_cntであり、図6の符号列中のピクチャ共通情報領域に記述される。rec_poc_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値によって値が算出される。図7の例では、符号化対象ピクチャP13の持つ表示順情報は13であり、表示開始ピクチャP14が持つ表示順情報は14であり、その差分値は1である。よって、rec_poc_cntの値として1を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP14が指定され、復号化側でP13から復号化を開始したときに図7(b)のような表示順においてP14以降のピクチャのみを表示することが指示される。
【0039】
さらにrec_poc_cntを決定する方法を図3のフローチャトを用いて詳しく説明する。まず初期値として、int_pocに現在符号化の対象としているピクチャの表示順情報を指定し、cntに0を指定する。ply_pocはint_pocとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_pocの値の表示順情報を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_poc_cntとして決定し処理を終了する。なお、このフローチャートではcntの値を1つずつ増加しているが、表示順情報が不均一に増加する場合もしくは実際の表示時間を表すように増加する場合は、それに合わせてcntの値の増加値を変更することにより対応が可能である。
【0040】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0041】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、符号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうち、値の小さい方を用いて表示開始ピクチャとして指定するものとする。
【0042】
なお、上記の実施の形態ではrec_poc_cntの値として、符号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0043】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は符号化対象ピクチャP13よりも後に符号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。復号化を行う際に、P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化することにより、P13から復号化を開始したときにP11から表示を行うように指定することが可能となる。
【0044】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図7の例では、P13が符号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化される。
【0045】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから符号化順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図7の例では、P13が符号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の4枚後に符号化されるピクチャであり、rec_poc_cntの値として4という値が符号化される。
【0046】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0047】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。
【0048】
(実施の形態2)
本発明の実施の形態2における動画像符号化方法について図1に示したブロック図を用いて説明する。符号化処理の構成は実施の形態1で説明した方法とほぼ同様である。実施の形態1で説明した方法と異なる点は、表示開始ピクチャ指定情報符号化部111の動作に関するものみである。ここでは、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法についてのみ詳しく説明する。
【0049】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図8はあるシーケンスの1部分を取り出したものであり、図8(a)は符号化順で、図8(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP16としている。このとき、表示開始ピクチャとして選択できるピクチャは、符号化対象ピクチャP13よりも前に符号化されたピクチャの持つ最も大きな表示順情報よりも大きな表示順情報を持つピクチャのみ選択できることを条件とする。そのとき、表示開始ピクチャを示す情報がrec_poc_cntであり、図6の符号列中のピクチャ共通情報領域に記述される。rec_poc_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値によって値が算出される。図8の例では、P13よりも前に符号化されたピクチャの中で最大の表示順情報はP15の15となり、表示開始ピクチャは16以上の表示順情報を持つもののみ指定可能となる。図8の例では、符号化対象ピクチャP13の持つ表示順情報は13であり、表示開始ピクチャP16が持つ表示順情報は16であり、その差分値は3としている。よって、rec_poc_cntの値として3を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP16が指定され、復号化側でP13から復号化を開始したときに図8(b)のような表示順においてP16以降のピクチャのみを表示することが指示される。
【0050】
さらにrec_poc_cntを決定する方法を図4のフローチャトを用いて詳しく説明する。まず始めに、符号化対象ピクチャよりも先に符号化したピクチャの持つ最大の表示順情報を調べてその値をmax_pocとして指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が小さい場合は、実施の形態1と全く同様に初期値として、int_pocに現在符号化の対象としているピクチャの表示順情報を指定し、cntに0を指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が大きい場合は、max_pocより大きな表示順情報を持つピクチャの最小の表示順情報をint_pocに指定し、cntに0を指定する。ply_pocはint_pocとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_pocの値の表示順情報を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_poc_cntとして決定し処理を終了する。なお、このフローチャートではcntの値を1つずつ増加しているが、表示順情報が不均一に増加する場合もしくは実際の表示時間を表すように増加する場合は、それに合わせてcntの値の増加値を変更することにより対応が可能である。
【0051】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0052】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、符号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうち、値の小さい方を用いて表示開始ピクチャとして指定するものとする。
【0053】
なお、上記の実施の形態ではrec_poc_cntの値として、符号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0054】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は符号化対象ピクチャP13よりも後に符号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。復号化を行う際に、P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化することにより、P13から復号化を開始したときにP11から表示を行うように指定することが可能となる。
【0055】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図8の例では、P13が符号化対象ピクチャでP16が表示開始ピクチャとすると、P16はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化される。
【0056】
なお、上記の実施の形態では表示開始ピクチャ指定情報符号化部111において表示順情報を基にrec_poc_cntの値を決定し表示開始ピクチャを指定していたが、前記値の代わりに符号化対象のピクチャから符号化順において何枚後のピクチャから表示を開始することができるかを示すことも可能である。例えば、図8の例では、P13が符号化対象ピクチャでP16が表示開始ピクチャとすると、P16はP13の3枚後に符号化されるピクチャであり、rec_poc_cntの値として3という値が符号化される。
【0057】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0058】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。さらに、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【0059】
(実施の形態3)
本発明の実施の形態2における動画像符号化方法について図15に示したブロック図を用いて説明する。符号化処理の構成は従来の技術で説明した方法とほぼ同様である。従来の技術で説明した方法と異なる点は、表示開始ピクチャ指定情報符号化部111の動作に関するものみである。ここでは、表示開始ピクチャ指定情報符号化部111において表示開始ピクチャを指定する情報を符号化する方法についてのみ詳しく説明する。
【0060】
現在符号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持たせるピクチャであるとき、前記対象のピクチャから復号化を開始した場合にどのピクチャから表示することが可能であるかを示す情報を表示開始ピクチャ指定情報符号化部111において符号化する。図9はあるシーケンスの1部分を取り出したものであり、図9(a)は符号化順で、図9(b)は表示順でピクチャを並べたものである。この例では、途中から復号化を開始するピクチャがP13であり、表示開始ピクチャをP16としている。このとき、表示開始ピクチャとして選択できるピクチャは、符号化対象ピクチャP13よりも前に符号化されたピクチャの持つ最も大きな表示順情報よりも大きな表示順情報を持つピクチャのみ選択できることを条件とする。そのとき、表示開始ピクチャを示す情報がrec_frame_cntであり、図18の符号列中のピクチャ共通情報領域に記述される。rec_frame_cntは、符号化対象のピクチャつまり途中からの復号化を開始することを補助する情報を持たせるピクチャが持つフレーム番号と、表示開始ピクチャが持つフレーム番号との差分値によって値が算出される。図9の例では、P13よりも前に符号化されたピクチャの中で最大の表示順情報はP15の15となり、表示開始ピクチャは16以上の表示順情報を持つもののみ指定可能となる。図9の例では、符号化対象ピクチャP13の持つフレーム番号は12であり、表示開始ピクチャP16が持つフレーム番号は13であり、その差分値は1としている。よって、rec_frame_cntの値として1を符号化することにより、表示開始ピクチャを指定することが可能となる。以上の処理により、表示開始ピクチャとしてP16が指定され、復号化側でP13から復号化を開始したときに図9(b)のような表示順においてP16以降のピクチャのみを表示することが指示される。
【0061】
さらにrec_frame_cntを決定する方法を図5のフローチャトを用いて詳しく説明する。まず始めに、符号化対象ピクチャよりも先に符号化したピクチャの持つ最大の表示順情報を調べてその値をmax_pocとして指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が小さい場合は、従来の技術と全く同様に初期値として、int_fnに現在符号化の対象としているピクチャのフレーム番号を指定し、cntに0を指定する。もし符号化対象のピクチャの表示順情報よりもmax_pocの方が大きい場合は、max_pocより大きな表示順情報を持つピクチャの最小のフレーム番号をint_fnに指定し、cntに0を指定する。ply_fnはint_fnとcntとを加算することによって得られる値であり、以後の処理においてcntの増加に伴って増加する値である。表示開始ピクチャ指定情報符号化部111では、ply_fnの値のフレーム番号を持つピクチャから後に表示される全てのピクチャが、符号化対象のピクチャから復号化を行ったときに符号化側で意図したような画像が生成できるかどうかを判断する。もし生成できないと判断された場合は、cntの値を1つ増加し、上記の処理を繰り返す。逆に生成できると判断された場合は、そのときのcntの値をそのまま表示開始ピクチャ指定情報rec_frame_cntとして決定し処理を終了する。
【0062】
なお、上記の実施の形態では対象とするシーケンスをフレーム符号化した場合の例を説明したが、フィールド符号化する場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化においても各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0063】
なお、上記の実施の形態ではrec_frame_cntの値として、符号化対象ピクチャのフレーム番号と表示開始可能ピクチャのフレーム番号との差分値を用いていたが、差分値ではなく表示開始可能ピクチャのフレーム番号そのものを用いて指定することも可能である。
【0064】
なお、上記の実施の形態ではrec_frame_cntをピクチャ共通情報領域に記述しているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述することも可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述することも可能である。また、スライスヘッダに記述することも可能である。
【0065】
以上の実施の形態で説明したように、本発明の符号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。また復号化処理は従来の技術で説明した方法でそのまま復号かすることが可能であるため、復号化装置の設計を容易に行うことが可能である。
【0066】
(実施の形態4)
本発明の実施の形態4における動画像復号化方法について図2に示したブロック図を用いて説明する。復号化処理の構成は図16を用いて説明した従来の方法とほぼ同様である。従来の方法と異なる点は、表示開始ピクチャ指定情報復号化部208の入力がフレーム番号復号化部206から表示順情報復号化部207へ変更された点である。復号化の処理全体の流れは従来の技術と全く同様であるため、ここでは、フレーム番号復号化部206、表示順情報復号化部207、表示開始ピクチャ指定情報復号化部208の動作についてのみ詳しく説明する。
【0067】
本実施の形態の復号化処理に入力される符号列は実施の形態1もしくは実施の形態2で説明した符号化方法によって生成された符号列であり、図6のような構成を持つものである。各スライスごとにスライスヘッダを持ち、スライスヘッダにはフレーム番号frame_numおよび表示順情報poc_dataが記述されている。これらの信号は1つのピクチャに属する全てのスライスで共通の値を使用する。さらに、ピクチャ共通情報領域には、ストリームの途中から復号化を開始した場合に表示を開始することができるピクチャを指定するための情報rec_poc_cntが記述されている。
【0068】
従来の技術において図16を用いて説明したように、符号列解析器201で抽出されたフレーム番号信号はフレーム番号復号化部206において、表示順情報信号は表示順情報復号化部207におてい復号化され、復号化されたフレーム番号および表示順情報は復号化された各ピクチャに対応付けられる。
【0069】
表示開始ピクチャ指定情報復号化部208には、符号列解析部201から表示開始ピクチャ情報rec_poc_cntが、表示順情報復号化部207から復号化対象ピクチャの表示順情報が入力される。
【0070】
図7はあるシーケンスの1部分を取り出したものであり、図7(a)は復号化順で、図7(b)は表示順でピクチャを並べたものである。表示開始ピクチャ指定情報復号化部208では、現在復号化の対象とするピクチャが途中からの復号化を開始することを補助する情報を持つピクチャであり、前記対象のピクチャから復号化を開始した場合、もしくは前記対象のピクチャよりも先に復号化されたピクチャを参照することができない状況で復号化が行われる場合、どのピクチャから表示することが可能であるかを入力された表示開始ピクチャ情報rec_poc_cntおよび復号化対象ピクチャの表示順情報を用いて決定する。図7の例では、途中から復号化を開始するピクチャがP13であり、前記ピクチャは表示順情報として13という値を持ち、表示開始ピクチャ情報rec_poc_cntは1という値を持っている。rec_poc_cntは、途中から復号化を開始するピクチャが持つ表示順情報と、表示開始ピクチャが持つ表示順情報との差分値を持つものであり、P13の表示順情報13にrec_poc_cntの値1を足した14という値を表示順情報として持つP14から表示を開始することが可能であることが指示される。
【0071】
ピクチャメモリ203は表示開始ピクチャ指定情報復号化部208から、上記処理によって得られた表示開始ピクチャの情報を受け取る。シーケンスを途中から復号化した場合は、前記ピクチャよりも前の表示順情報を持つピクチャは表示せずに、前記ピクチャよりも後の表示順情報を持つピクチャのみを表示する。
【0072】
なお、図7の例では表示順情報として表示の順番に従って1ずつ増加する値を用いていたが、表示順情報はこれに限ったものではなく、値が不均一に増加する場合や、実際の表示時間を表すように増加していく値等であっても問題なく扱うことが可能である。
【0073】
なお、上記の実施の形態では対象とするシーケンスがフレーム符号化されている場合の例を説明したが、フィールド符号化されている場合も同様に扱うことが可能である。フレーム符号化とは、1つの画面が1枚のピクチャ(フレーム)によって構成されるものとして符号化を行う符号化方法であり、フィールド符号化とは、1つの画面が2枚のピクチャ(フィールド)によって構成されるものとして符号化を行う符号化方法である。フィールド符号化された各々のピクチャは表示順情報を独立に持つことが可能であり、上記の実施の形態で説明した方法をそのまま使用して表示開始ピクチャを指定することが可能である。
【0074】
なお、複数のピクチャが同じ表示順情報を持っていた場合は、復号化順が先のピクチャを表示開始ピクチャとして指定するものとする。また、1つのピクチャが複数の表示順情報を持っていた場合は、前記複数の表示順情報のうちどちらか一方が表示開始ピクチャ指定情報復号化部208によって指定された表示順情報と同じであれば、前記ピクチャを表示開始ピクチャとして指定するものとする。
【0075】
なお、上記の実施の形態ではrec_poc_cntの値として、復号化対象ピクチャの表示順情報と表示開始可能ピクチャの表示順情報との差分値を用いていたが、差分値ではなく表示開始可能ピクチャの表示順情報そのものを用いて指定することも可能である。
【0076】
なお、rec_poc_cntの値は正の値だけでなく負の値も取ることが可能である。例えば、図7の例では、P11は復号化対象ピクチャP13よりも後に復号化されるピクチャであるが、P13よりも小さい表示順情報を持っている。P11がP13より前に復号化されたピクチャを参照しないで復号化することができるようなピクチャ、つまりほぼ符号化側で意図した画像を生成することができるようなピクチャである場合はP11から表示を開始することも可能であり、その場合はrec_poc_cntの値として−2を符号化されていることになり、上記実施の形態の処理によってP11から表示を行うように指定することが可能となる。
【0077】
なお、上記の実施の形態では、表示開始ピクチャ指定情報復号化部208において、rec_poc_cntが表示順情報を基に符号化されている値として復号化することにより表示開始ピクチャを指定していたが、前記値の代わりに復号化対象のピクチャから表示順において何枚後のピクチャから表示を開始することができるかという情報が符号化されている場合も同様に扱うことが可能である。例えば、図7の例では、P13が復号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の1枚後に表示されるピクチャであり、rec_poc_cntの値として1という値が符号化されていることになる。
【0078】
なお、上記の実施の形態では、表示開始ピクチャ指定情報復号化部208において、rec_poc_cntが表示順情報を基に符号化されている値として復号化することにより表示開始ピクチャを指定していたが、前記値の代わりに復号化対象のピクチャから復号化順において何枚後のピクチャから表示を開始することができるかという情報が符号化されている場合も同様に扱うことが可能である。例えば、図7の例では、P13が復号化対象ピクチャでP14が表示開始ピクチャとすると、P14はP13の4枚後に復号化されるピクチャであり、rec_poc_cntの値として4という値が符号化されていることになる。
【0079】
なお、上記の実施の形態ではrec_poc_cntをピクチャ共通情報領域に記述されているものとしているが、復号化を行う際に必ずしも必要ではないが復号化処理のための補助となるようなデータを集めたデータ領域に記述されている場合も同様に扱うことが可能である。また、シーケンス全体から参照されるシーケンス共通情報領域に記述されている場合も同様に扱うことが可能である。また、スライスヘッダに記述されている場合も同様に扱うことが可能である。
以上の実施の形態で説明したように、本発明の復号化方法を用いると、ストリームを途中から復号化した際に表示を開始することができるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することが可能となり、ストリームの途中から復号化を行った場合でも、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。さらに、実施の形態2で生成された符号列を復号化する場合は、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【0080】
(実施の形態5)
図10は、上記実施の形態の画像符号化方法および画像復号化方法をフレキシブルディスクに格納させたプログラムを用いて、コンピュータシステムにより実施する場合の説明図である。
【0081】
図10(b)は、フレキシブルディスクの正面からみた外観、断面構造、及びフレキシブルディスクを示し、図10(a)は、記録媒体本体であるフレキシブルディスクの物理フォーマットの例を示している。フレキシブルディスクFDはケースF内に内蔵され、該ディスクの表面には、同心円状に外周からは内周に向かって複数のトラックTrが形成され、各トラックは角度方向に16のセクタSeに分割されている。従って、上記プログラムを格納したフレキシブルディスクでは、上記フレキシブルディスクFD上に割り当てられた領域に、上記プログラムとしての画像符号化方法および画像復号化方法が記録されている。
【0082】
また、図10(c)は、フレキシブルディスクFDに上記プログラムの記録再生を行うための構成を示す。上記プログラムをフレキシブルディスクFDに記録する場合は、コンピュータシステムCsから上記プログラムとしての画像符号化方法および画像復号化方法をフレキシブルディスクドライブFDDを介して書き込む。また、フレキシブルディスク内のプログラムにより上記画像符号化方法および画像復号化方法をコンピュータシステム中に構築する場合は、フレキシブルディスクドライブによりプログラムをフレキシブルディスクから読み出し、コンピュータシステムに転送する。
【0083】
なお、上記説明では、記録媒体としてフレキシブルディスクを用いて説明を行ったが、光ディスクを用いても同様に行うことができる。また、記録媒体はこれに限らず、CD−ROM、メモリカード、ROMカセット等、プログラムを記録できるものであれば同様に実施することができる。
【0084】
また、図11から図14は、上記実施の形態で示した符号化処理または復号化処理を行う機器、およびこの機器を用いたシステムを説明する図である。
図11は、コンテンツ配信サービスを実現するコンテンツ供給システムex100の全体構成を示すブロック図である。通信サービスの提供エリアを所望の大きさに分割し、各セル内にそれぞれ固定無線局である基地局ex107〜ex110が設置されている。
【0085】
このコンテンツ供給システムex100は、例えば、インターネットex101にインターネットサービスプロバイダex102および電話網ex104、および基地局ex107〜ex110を介して、コンピュータex111、PDA(personal digital assistant)ex112、カメラex113、携帯電話ex114、カメラ付きの携帯電話ex115などの各機器が接続される。
【0086】
しかし、コンテンツ供給システムex100は図11のような組合せに限定されず、いずれかを組み合わせて接続するようにしてもよい。また、固定無線局である基地局ex107〜ex110を介さずに、各機器が電話網ex104に直接接続されてもよい。
【0087】
カメラex113はデジタルビデオカメラ等の動画撮影が可能な機器である。また、携帯電話は、PDC(Personal Digital Communications)方式、CDMA(Code Division Multiple Access)方式、W−CDMA(Wideband−Code Division Multiple Access)方式、若しくはGSM(Global System for Mobile Communications)方式の携帯電話機、またはPHS(Personal Handyphone System)等であり、いずれでも構わない。
【0088】
また、ストリーミングサーバex103は、カメラex113から基地局ex109、電話網ex104を通じて接続されており、カメラex113を用いてユーザが送信する符号化処理されたデータに基づいたライブ配信等が可能になる。撮影したデータの符号化処理はカメラex113で行っても、データの送信処理をするサーバ等で行ってもよい。また、カメラ116で撮影した動画データはコンピュータex111を介してストリーミングサーバex103に送信されてもよい。カメラex116はデジタルカメラ等の静止画、動画が撮影可能な機器である。この場合、動画データの符号化はカメラex116で行ってもコンピュータex111で行ってもどちらでもよい。また、符号化処理はコンピュータex111やカメラex116が有するLSIex117において処理することになる。なお、画像符号化・復号化用のソフトウェアをコンピュータex111等で読み取り可能な記録媒体である何らかの蓄積メディア(CD−ROM、フレキシブルディスク、ハードディスクなど)に組み込んでもよい。さらに、カメラ付きの携帯電話ex115で動画データを送信してもよい。このときの動画データは携帯電話ex115が有するLSIで符号化処理されたデータである。
【0089】
このコンテンツ供給システムex100では、ユーザがカメラex113、カメラex116等で撮影しているコンテンツ(例えば、音楽ライブを撮影した映像等)を上記実施の形態同様に符号化処理してストリーミングサーバex103に送信する一方で、ストリーミングサーバex103は要求のあったクライアントに対して上記コンテンツデータをストリーム配信する。クライアントとしては、上記符号化処理されたデータを復号化することが可能な、コンピュータex111、PDAex112、カメラex113、携帯電話ex114等がある。このようにすることでコンテンツ供給システムex100は、符号化されたデータをクライアントにおいて受信して再生することができ、さらにクライアントにおいてリアルタイムで受信して復号化し、再生することにより、個人放送をも実現可能になるシステムである。
【0090】
このシステムを構成する各機器の符号化、復号化には上記各実施の形態で示した動画像符号化方法あるいは動画像復号化方法を用いるようにすればよい。
その一例として携帯電話について説明する。
【0091】
図12は、上記実施の形態で説明した動画像符号化方法と動画像復号化方法を用いた携帯電話ex115を示す図である。携帯電話ex115は、基地局ex110との間で電波を送受信するためのアンテナex201、CCDカメラ等の映像、静止画を撮ることが可能なカメラ部ex203、カメラ部ex203で撮影した映像、アンテナex201で受信した映像等が復号化されたデータを表示する液晶ディスプレイ等の表示部ex202、操作キーex204群から構成される本体部、音声出力をするためのスピーカ等の音声出力部ex208、音声入力をするためのマイク等の音声入力部ex205、撮影した動画もしくは静止画のデータ、受信したメールのデータ、動画のデータもしくは静止画のデータ等、符号化されたデータまたは復号化されたデータを保存するための記録メディアex207、携帯電話ex115に記録メディアex207を装着可能とするためのスロット部ex206を有している。記録メディアex207はSDカード等のプラスチックケース内に電気的に書換えや消去が可能な不揮発性メモリであるEEPROM(Electrically Erasable and Programmable Read Only Memory)の一種であるフラッシュメモリ素子を格納したものである。
【0092】
さらに、携帯電話ex115について図13を用いて説明する。携帯電話ex115は表示部ex202及び操作キーex204を備えた本体部の各部を統括的に制御するようになされた主制御部ex311に対して、電源回路部ex310、操作入力制御部ex304、画像符号化部ex312、カメラインターフェース部ex303、LCD(Liquid Crystal Display)制御部ex302、画像復号化部ex309、多重分離部ex308、記録再生部ex307、変復調回路部ex306及び音声処理部ex305が同期バスex313を介して互いに接続されている。
【0093】
電源回路部ex310は、ユーザの操作により終話及び電源キーがオン状態にされると、バッテリパックから各部に対して電力を供給することによりカメラ付ディジタル携帯電話ex115を動作可能な状態に起動する。
【0094】
携帯電話ex115は、CPU、ROM及びRAM等でなる主制御部ex311の制御に基づいて、音声通話モード時に音声入力部ex205で集音した音声信号を音声処理部ex305によってディジタル音声データに変換し、これを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。また携帯電話機ex115は、音声通話モード時にアンテナex201で受信した受信信号を増幅して周波数変換処理及びアナログディジタル変換処理を施し、変復調回路部ex306でスペクトラム逆拡散処理し、音声処理部ex305によってアナログ音声信号に変換した後、これを音声出力部ex208を介して出力する。
【0095】
さらに、データ通信モード時に電子メールを送信する場合、本体部の操作キーex204の操作によって入力された電子メールのテキストデータは操作入力制御部ex304を介して主制御部ex311に送出される。主制御部ex311は、テキストデータを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して基地局ex110へ送信する。
【0096】
データ通信モード時に画像データを送信する場合、カメラ部ex203で撮像された画像データをカメラインターフェース部ex303を介して画像符号化部ex312に供給する。また、画像データを送信しない場合には、カメラ部ex203で撮像した画像データをカメラインターフェース部ex303及びLCD制御部ex302を介して表示部ex202に直接表示することも可能である。
【0097】
画像符号化部ex312は、本願発明で説明した画像符号化方法を備えた構成であり、カメラ部ex203から供給された画像データを上記実施の形態で示した画像符号化方法によって圧縮符号化することにより符号化画像データに変換し、これを多重分離部ex308に送出する。また、このとき同時に携帯電話機ex115は、カメラ部ex203で撮像中に音声入力部ex205で集音した音声を音声処理部ex305を介してディジタルの音声データとして多重分離部ex308に送出する。
【0098】
多重分離部ex308は、画像符号化部ex312から供給された符号化画像データと音声処理部ex305から供給された音声データとを所定の方式で多重化し、その結果得られる多重化データを変復調回路部ex306でスペクトラム拡散処理し、送受信回路部ex301でディジタルアナログ変換処理及び周波数変換処理を施した後にアンテナex201を介して送信する。
【0099】
データ通信モード時にホームページ等にリンクされた動画像ファイルのデータを受信する場合、アンテナex201を介して基地局ex110から受信した受信信号を変復調回路部ex306でスペクトラム逆拡散処理し、その結果得られる多重化データを多重分離部ex308に送出する。
【0100】
また、アンテナex201を介して受信された多重化データを復号化するには、多重分離部ex308は、多重化データを分離することにより画像データの符号化ビットストリームと音声データの符号化ビットストリームとに分け、同期バスex313を介して当該符号化画像データを画像復号化部ex309に供給すると共に当該音声データを音声処理部ex305に供給する。
【0101】
次に、画像復号化部ex309は、本願発明で説明した画像復号化方法を備えた構成であり、画像データの符号化ビットストリームを上記実施の形態で示した符号化方法に対応した復号化方法で復号することにより再生動画像データを生成し、これをLCD制御部ex302を介して表示部ex202に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まれる動画データが表示される。このとき同時に音声処理部ex305は、音声データをアナログ音声信号に変換した後、これを音声出力部ex208に供給し、これにより、例えばホームページにリンクされた動画像ファイルに含まる音声データが再生される。
【0102】
なお、上記システムの例に限られず、最近は衛星、地上波によるディジタル放送が話題となっており、図14に示すようにディジタル放送用システムにも上記実施の形態の少なくとも画像符号化方法または画像復号化方法のいずれかを組み込むことができる。具体的には、放送局ex409では映像情報の符号化ビットストリームが電波を介して通信または放送衛星ex410に伝送される。これを受けた放送衛星ex410は、放送用の電波を発信し、この電波を衛星放送受信設備をもつ家庭のアンテナex406で受信し、テレビ(受信機)ex401またはセットトップボックス(STB)ex407などの装置により符号化ビットストリームを復号化してこれを再生する。また、記録媒体であるCDやDVD等の蓄積メディアex402に記録した符号化ビットストリームを読み取り、復号化する再生装置ex403にも上記実施の形態で示した画像復号化方法を実装することが可能である。この場合、再生された映像信号はモニタex404に表示される。また、ケーブルテレビ用のケーブルex405または衛星/地上波放送のアンテナex406に接続されたセットトップボックスex407内に画像復号化方法を実装し、これをテレビのモニタex408で再生する構成も考えられる。このときセットトップボックスではなく、テレビ内に画像復号化方法を組み込んでも良い。また、アンテナex411を有する車ex412で衛星ex410からまたは基地局ex107等から信号を受信し、車ex412が有するカーナビゲーションex413等の表示装置に動画を再生することも可能である。
【0103】
更に、画像信号を上記実施の形態で示した画像符号化方法で符号化し、記録媒体に記録することもできる。具体例としては、DVDディスクex421に画像信号を記録するDVDレコーダや、ハードディスクに記録するディスクレコーダなどのレコーダex420がある。更にSDカードex422に記録することもできる。レコーダex420が上記実施の形態で示した画像復号化方法を備えていれば、DVDディスクex421やSDカードex422に記録した画像信号を再生し、モニタex408で表示することができる。
【0104】
なお、カーナビゲーションex413の構成は例えば図13に示す構成のうち、カメラ部ex203とカメラインターフェース部ex303、画像符号化部ex312を除いた構成が考えられ、同様なことがコンピュータex111やテレビ(受信機)ex401等でも考えられる。
【0105】
また、上記携帯電話ex114等の端末は、符号化器・復号化器を両方持つ送受信型の端末の他に、符号化器のみの送信端末、復号化器のみの受信端末の3通りの実装形式が考えられる。
【0106】
このように、上記実施の形態で示した動画像符号化方法あるいは動画像復号化方法を上述したいずれの機器・システムに用いることは可能であり、そうすることで、上記実施の形態で説明した効果を得ることができる。
【0107】
【発明の効果】
以上のように、実施の形態1および実施の形態2で説明した本発明の動画像の符号化方法および実施の形態4で説明した本発明の動画像の復号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして、参照可能ピクチャだけではなく参照不可ピクチャも指定することを可能とし、できるだけ表示されないピクチャの枚数を減らして表示画像が途切れることを抑制することが可能となる。
【0108】
また、実施の形態2および実施の形態3で説明した本発明の動画像の符号化方法および実施の形態4で説明した本発明の動画像の復号化方法を用いると、ストリームの途中から復号化を開始したときに表示を開始することのできるピクチャとして指定されたピクチャよりも表示順が後のピクチャは必ず復号化されていることになるため、表示を開始した後に途中で表示画像が途切れることを抑制することが可能となる。
【図面の簡単な説明】
【図1】本発明の実施の形態1および実施の形態2における符号化の動作を説明するためのブロック図である。
【図2】本発明の実施の形態4における復号化の動作を説明するためのブロック図である。
【図3】本発明の実施の形態1における表示開始ピクチャ指定情報符号化部の動作を説明するためのフローチャートである。
【図4】本発明の実施の形態2における表示開始ピクチャ指定情報符号化部の別の動作を説明するためのフローチャートである。
【図5】本発明の実施の形態3における表示開始ピクチャ指定情報符号化部の別の動作を説明するためのフローチャートである。
【図6】本発明の実施の形態1および実施の形態2における符号列の構成を説明するための模式図である。
【図7】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための模式図である。
【図8】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【図9】本発明のピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【図10】上記各実施の形態の動画像の符号化方法および復号化方法をコンピュータシステムにより実現するためのプログラムを格納するための記録媒体についての説明図である。
【図11】コンテンツ供給システムの全体構成を示すブロック図である。
【図12】携帯電話の外観図である。
【図13】携帯電話の構成を示すブロック図である。
【図14】ディジタル放送用システムの例を示す図である。
【図15】従来の技術および実施の形態3における符号化の動作を説明するためのブロック図である。
【図16】従来の技術における復号化の動作を説明するためのブロック図である。
【図17】従来の技術における表示開始ピクチャ指定情報符号化部の動作を説明するためのフローチャートである。
【図18】従来の技術および実施の形態3における符号列の構成を説明するための模式図である。
【図19】従来の技術におけるピクチャの符号化順と表示順の関係を説明するための模式図である。
【図20】従来の技術におけるピクチャの参照関係とピクチャメモリの状態を説明するため模式図である。
【図21】従来の技術におけるピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための模式図である。
【図22】従来の技術におけるピクチャの符号化順と表示順の関係および途中から復号化を行った際に表示を開始することができるピクチャを説明するための別の模式図である。
【符号の説明】
101 ピクチャメモリ
102 予測残差符号化部
103 符号列生成部
104 予測残差復号化部
105 ピクチャメモリ
106 動きベクトル検出部
107 動き補償符号化部
108 動きベクトル記憶部
109 フレーム番号符号化部
110 表示順情報符号化部
111 表示開始ピクチャ指定情報符号化部
201 符号列解析部
202 予測残差復号化部
203 ピクチャメモリ
204 動き補償復号化部
205 動きベクトル記憶部
206 フレーム番号復号化部
207 表示順情報復号化部
208 表示開始ピクチャ指定情報復号化部
Cs コンピュータシステム
FD フレキシブルディスク
FDD フレキシブルディスクドライブ
Claims (12)
- 既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、
シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、
前記表示開始ピクチャ指定情報符号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能である
ことを特徴とする動画像符号化方法。 - 既に符号化済みのピクチャを参照することによって入力された画像の符号化を行う動画像符号化方法であって、
シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を符号化する表示開始ピクチャ指定情報符号化ステップを有し、
前記表示開始ピクチャ指定情報符号化ステップは、前記表示を開始することができるピクチャよりも後の表示順の情報を持つ全てのピクチャが、シーケンスの途中から復号化を行った場合にでも復号化されているように、前記表示を開始することができるピクチャを指定する
ことを特徴とする動画像符号化方法。 - 前記表示開始ピクチャ指定情報符号化ステップは、前記途中から復号化を行うピクチャの表示順を示す情報と、前記表示を開始することができるピクチャの表示順を示す情報を用いて、前記どのピクチャから表示を開始することができるかを指定するための情報を生成する
ことを特徴とする請求項1および請求項2に記載の動画像符号化方法。 - 前記表示開始ピクチャ指定情報符号化ステップは、前記途中から復号化を行うピクチャと前記表示を開始することができるピクチャとが表示順において離れている枚数を用いて、前記どのピクチャから表示を開始することができるかを指定するための情報を生成する
ことを特徴とする請求項1および請求項2に記載の動画像符号化方法。 - 前記表示開始ピクチャ指定情報符号化ステップは、前記途中から復号化を行うピクチャと前記表示を開始することができるピクチャとが符号化順において離れている枚数を用いて、前記どのピクチャから表示を開始することができるかを指定するための情報を生成する
ことを特徴とする請求項1および請求項2に記載の動画像符号化方法。 - 動画像が符号化された信号である符号化信号が記録されたコンピュータ読み取り可能な記録媒体であって、
前記符号化信号には、シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することが可能であるかを指定するための情報として、請求項3から5のいずれか1項に記載された方法によって生成された値が記述されている
ことを特徴とする記録媒体。 - 符号化済みピクチャを参照して符号化を行うことによって生成された符号列を復号化する動画像復号化方法であって、
シーケンスの途中から復号化を行う場合にどのピクチャから表示を開始することができるかを指定するための情報を復号化する表示開始ピクチャ指定情報復号化ステップを有し、
前記表示開始ピクチャ指定情報復号化ステップは、参照に使用されるピクチャおよび参照に使用されないピクチャの中から前記表示を開始することができるピクチャを指定することが可能である
ことを特徴とする動画像復号化方法。 - 前記表示開始ピクチャ指定情報復号化ステップは、前記途中から復号化を行うピクチャの表示順を示す情報と、前記表示を開始することができるピクチャの表示順を示す情報を用いて生成された信号を復号化することによって、どのピクチャから表示を開始することができるかを指定する
ことを特徴とする請求項7に記載の動画像復号化方法。 - 前記表示開始ピクチャ指定情報復号化ステップは、前記途中から復号化を行うピクチャと前記表示を開始することができるピクチャとが表示順において離れている枚数を用いて生成された信号を復号化することによって、どのピクチャから表示を開始することができるかを指定する
ことを特徴とする請求項7に記載の動画像復号化方法。 - 前記表示開始ピクチャ指定情報復号化ステップは、前記途中から復号化を行うピクチャと前記表示を開始することができるピクチャとが復号化順において離れている枚数を用いて生成された信号を復号化することによって、どのピクチャから表示を開始することができるかを指定する
ことを特徴とする請求項7に記載の動画像復号化方法。 - 動画像を符号化するためのプログラムであって、
請求項1から5のいずれか1項に記載された画像符号化方法に含まれるステップをコンピュータに実行させる
ことを特徴とするプログラム。 - 符号化された動画像の符号列を復号化するためのプログラムであって、
請求項7から10のいずれか1項に記載された画像復号化方法に含まれるステップをコンピュータに実行させる ことを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003045333A JP2004260236A (ja) | 2003-02-24 | 2003-02-24 | 動画像の符号化方法および復号化方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003045333A JP2004260236A (ja) | 2003-02-24 | 2003-02-24 | 動画像の符号化方法および復号化方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004260236A true JP2004260236A (ja) | 2004-09-16 |
Family
ID=33112160
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003045333A Pending JP2004260236A (ja) | 2003-02-24 | 2003-02-24 | 動画像の符号化方法および復号化方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004260236A (ja) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009535969A (ja) * | 2006-05-03 | 2009-10-01 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | メディア表現からメディアを再構成する方法及び装置 |
JP2014132759A (ja) * | 2014-01-30 | 2014-07-17 | Ntt Docomo Inc | 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法、及び動画像予測復号プログラム |
JP2015133742A (ja) * | 2015-03-16 | 2015-07-23 | 株式会社Nttドコモ | 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法、及び動画像予測復号プログラム |
US9113171B2 (en) | 2010-03-17 | 2015-08-18 | Ntt Docomo Inc. | Moving image prediction encoding/decoding system |
JP2016184978A (ja) * | 2016-07-22 | 2016-10-20 | 株式会社Nttドコモ | 動画像予測復号方法及び動画像予測復号装置 |
JP2018026872A (ja) * | 2017-10-16 | 2018-02-15 | 株式会社Nttドコモ | 動画像予測復号方法及び動画像予測復号装置 |
-
2003
- 2003-02-24 JP JP2003045333A patent/JP2004260236A/ja active Pending
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009535969A (ja) * | 2006-05-03 | 2009-10-01 | テレフオンアクチーボラゲット エル エム エリクソン(パブル) | メディア表現からメディアを再構成する方法及び装置 |
US9113171B2 (en) | 2010-03-17 | 2015-08-18 | Ntt Docomo Inc. | Moving image prediction encoding/decoding system |
US10178407B2 (en) | 2010-03-17 | 2019-01-08 | Ntt Docomo, Inc | Moving image prediction encoding/decoding system |
US10298953B2 (en) | 2010-03-17 | 2019-05-21 | Ntt Docomo, Inc | Moving image prediction encoding/decoding system |
US10390042B2 (en) | 2010-03-17 | 2019-08-20 | Ntt Docomo, Inc. | Moving image prediction encoding/decoding system |
US10567794B2 (en) | 2010-03-17 | 2020-02-18 | Ntt Docomo, Inc. | Moving image prediction encoding/decoding system |
US10715829B2 (en) | 2010-03-17 | 2020-07-14 | Ntt Docomo, Inc. | Moving image prediction encoding/decoding system |
JP2014132759A (ja) * | 2014-01-30 | 2014-07-17 | Ntt Docomo Inc | 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法、及び動画像予測復号プログラム |
JP2015133742A (ja) * | 2015-03-16 | 2015-07-23 | 株式会社Nttドコモ | 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法、及び動画像予測復号プログラム |
JP2016184978A (ja) * | 2016-07-22 | 2016-10-20 | 株式会社Nttドコモ | 動画像予測復号方法及び動画像予測復号装置 |
JP2018026872A (ja) * | 2017-10-16 | 2018-02-15 | 株式会社Nttドコモ | 動画像予測復号方法及び動画像予測復号装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5355807B2 (ja) | 符号化データ配信方法および配信システム | |
KR100950388B1 (ko) | 화상 부호화 방법 및 화상 복호화 방법 | |
JP2004096705A (ja) | 動きベクトル符号化方法および動きベクトル復号化方法 | |
JP2010136416A (ja) | 復号化システム、復号化装置及びその方法 | |
JP2004260236A (ja) | 動画像の符号化方法および復号化方法 | |
JP2004120138A (ja) | 動画像符号化方法および動画像復号化方法 | |
JP4481970B2 (ja) | 画像符号化装置及びその方法 | |
JP4481612B2 (ja) | 画像復号化装置及びその方法 | |
JP2004120710A (ja) | 動画像符号化方法、動画像符号化装置、動画像符号化プログラム、及び動画像符号化データ構造 |