JP5050964B2 - 復号装置,復号方法および復号プログラム - Google Patents

復号装置,復号方法および復号プログラム Download PDF

Info

Publication number
JP5050964B2
JP5050964B2 JP2008089222A JP2008089222A JP5050964B2 JP 5050964 B2 JP5050964 B2 JP 5050964B2 JP 2008089222 A JP2008089222 A JP 2008089222A JP 2008089222 A JP2008089222 A JP 2008089222A JP 5050964 B2 JP5050964 B2 JP 5050964B2
Authority
JP
Japan
Prior art keywords
intra
error
decoding
range
moving image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008089222A
Other languages
English (en)
Other versions
JP2009246591A (ja
Inventor
恭雄 簾田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2008089222A priority Critical patent/JP5050964B2/ja
Priority to US12/414,617 priority patent/US8442119B2/en
Publication of JP2009246591A publication Critical patent/JP2009246591A/ja
Application granted granted Critical
Publication of JP5050964B2 publication Critical patent/JP5050964B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Description

本発明は,復号装置,復号方法及び復号プログラムに関し,特に,イントラスライスのリフレッシュを用いて動画像データを復号する復号装置,復号方法及び復号プログラムに関する。
従来,符号化された複数のフレームもしくはフィールドで構成される動画像データの復号処理において,例えば,伝送路からの受信データにパケットロスが発生した場合や復号データの読込み時にビットエラーが発生した場合には正しく復号できず,そのまま表示処理を行うと壊れた画像が表示される。
図12は,MPEG−2における動画像フレームのピクチャおよびエラー発生の説明図である。
図12は,MPEG−2における動画像のフレームの並びを示している。MPEG−2では,I(Intra−coded)ピクチャ,P(Predictive−coded)ピクチャ,B(Bi−predictive prediction)ピクチャの3種類のピクチャが規定されている。
Iピクチャは,フレーム内で閉じて符号化され,他のフレーム(ピクチャ)を参照しないピクチャである。Pピクチャは,過去のフレーム(ピクチャ)から順方向のフレーム間予測を行い,予測誤差を符号化したピクチャである。Bピクチャは,過去と未来のフレーム(ピクチャ)から双方向のフレーム間予測を行い,その予測誤差を符号化したピクチャである。
動画像フレームのピクチャ内でエラーの有無を監視し,エラーがあった場合にはエラーが発生したピクチャ905以前の正常かつ最終のピクチャ903を表示し続ける状態(フリーズ状態と呼ぶ)を維持し,画像復帰できるピクチャ907のフレームタイミングで本来の表示を再開する手法をとっている。復号エラーが有ったかどうかは,ピクチャ内でエラーが発生したマクロブロックの有無を監視し,エラーが発生したマクロブロックがあった場合に表示更新を停止する。
また,図12のピクチャ901,907がIピクチャである場合に,フレーム内の情報のみで復号できるため,エラーが発生していなければ,ピクチャ907のフレームタイミングで表示を更新するのが簡易であり,一般的である。
低遅延符号方式においてエラー検出および表示制御を実現する場合に,一般的に,イントラスライスリフレッシュ方式が採用される。
低遅延を実現する動画像符号化方式では,ピクチャの並び替えの遅延を回避するため,Bピクチャを使用しない。また,ピクチャの16×16画素のマクロブロック単位等で行われる。マクロブロックのタイプには,ピクチャ内符号化を行うイントラマクロブロックと,ピクチャ間符号化を行うインターマクロブロックがある。
また,スライスとは,所定のマクロブロック(例えば1ピクチャの縦横16×16画素のブロック)に分割した場合の,特に横1列のマクロブロックの集合体をいう。MPEG−2では,ピクチャ内の特定のマクロブロックグループ(通常1〜数行の横方向への帯状のマクロブロックの並び,1〜数列の縦方向への帯状のマクロブロックの並び等)をイントラコラムと呼び,矩形のマクロブロックの並びとする場合もある
イントラスライスは,ピクチャ内の画像データのみで符号化したブロックの集合体であり,遅延増の主因となるIピクチャを周期的に挿入するのではなく,縦続するPピクチャ間で移動させる。
イントラスライスリフレッシュ方式では,Pピクチャ内のマクロブロックライン内のデータを全てイントラマクロブロックとして符号化したイントラスライスを適用するマクロブロックラインの位置をピクチャごとにずらし,一定周期でピクチャ全体をイントラスライスが巡回するようにして,ピクチャ全体をリフレッシュしている。
この方式は,画質をほとんど劣化させることなくリフレッシュ起因の遅延を低減できる利点がある。
しかし,この際,Pピクチャのイントラスライス以外のスライスについて,制限なくベクトルを用いて動き補償を行うと,イントラスライスがピクチャ全体を巡回しても,イントラスライスによるリフレッシュ後のマクロブロックがイントラリフレッシュ前の位置の画像を参照する。したがって,参照先のピクチャでエラーが発生していた場合には,エラーが空間方向に伝播してしまい,最悪の場合にはエラー画面が残り続けてしまうおそれがある。
この空間的エラー伝播を回避するために,動画像信号のイントラスライスを用いた低遅延符号方式のエラー検出・表示制御方法の従来技術が,特許文献1に開示されている。
特許文献1の方法は,イントラスライスでは,符号化が行われたスライスについて,あらかじめ定められた時間だけ非ゼロの動きベクトルを用いた動き補償を禁止することによって,エラー伝播を抑止するものである。この従来技術では,リフレッシュが終了したばかりの少なくともN番目のマクロブロックライン(Nは整数)は,動き補償を禁止するため,動き補償による一つのブロックのエラーが他のブロックへの空間的移動あるいは,拡大することがない。すなわち,リフレッシュ終了直後の領域へのエラー移動による破壊が生じないため,リフレッシュによってエラーが除去されている。
また,AVC/H.264規格では,MPEG−2/4と異なり,可変長符号表が不要な「指数ゴロム符号」を採用している(非特許文献1参照)。
この指数ゴロム符号では,1ビット「0」と「1」とが反転しても復号可能な場合が多いため,ビットエラーが検出しにくくなっている。また,エラーが発生していても,復号処理がある程度続けられ,しばらくしてからエラーと判断される場合が多いため,ビットエラーが検出された位置とビットエラーが実際に発生した位置とが異なる場合が多い。このように,AVC/H.264規格の動画像復号装置のエラー検出・表示制御に関して,従来では,低遅延を実現する装置や方法が存在していない。
特開昭60−162392号公報 ISO/IEC "Advanced−Video−Coding",ITU−T "Recommendation H.264",2003
図13は,AVC/H.264規格に基づく動画像復号時のエラー検出及び表示制御の動作例を示す図である。
図13(A)では,イントラマクロブロックを含むPピクチャのみで動画像を構成する場合に,連続する各画像上のイントラマクロブロック(イントラMB)911の位置は,それぞれ,時間の経過とともにピクチャ上の上方から下方(矢印YAの方向)に順次ずれる。そして,イントラMB911が画像上の最下部に位置すると,その次のピクチャで,イントラMB911は最上部に位置する。
図13(B)では,反対に,イントラMB913の位置は,それぞれ,時間の経過とともにピクチャ上の下方から上方(矢印YBの方向)に順次ずれ,画像上の最上部に位置すると,その次のピクチャでは,ピクチャの最下部に位置する。
このように,ピクチャ上のイントラMB911,913の位置は周期的に移動する。ピクチャ上でイントラMBの設けられる場所が移動する周期を,リフレッシュ周期という。例えば,図13(A)及び図13(B)の場合ではリフレッシュ周期は8フレームの期間となる。
イントラMB911,913が設けられている箇所の次のピクチャの同じ場所の符号化データは,フレーム内予測符号化ではなく,フレーム間順方向予測符号化されたデータであり,直前のイントラMBを用いることにより,画像を復元することが可能となっている。したがって,1リフレッシュ周期分の符号化データが揃えば,それ以降の画像の復号は可能となる。
図13(A)及び図13(B)に示すように,動画像復号装置では,イントラリフレッシュ周期の最初のイントラMBのタイミング921,923,925,927及び931,933,935,937において,AVC/H.264符号化データのヘッダ情報のパラメータを受け取る。
パラメータ情報は,シーケンスパラメータセット(SPS:Sequence Parameter Set),ピクチャパラメータセット(PPS:Picture Parameter Set),付加拡張情報(SEI:Supplemental Enhancement Information)等の情報を含む。
SPSは,符号化されているシーケンス全体のパラメータを定義する情報,PPSは,ピクチャのパラメータを定義する情報である。SEIは,画像の復号処理そのものには直接必要とされないが,映像の凍結/解除,リカバリポイントの情報として,復号処理の補助的情報として用いられる。
AVC/H.264規格では,イントラリフレッシュの一巡毎に,復号処理データに含まれるSEIのリカバリポイントを用いて復旧点であることを示し,その復旧点より正しい復号を開始できるようにしている。
図13(A)は,Active範囲にエラーが発生した場合の動作概要を示し,図13(B)は,Negative範囲にエラーが発生した場合の動作概要を示す。
Active範囲とは,リフレッシュ周期中のリフレッシュ処理済みの範囲をいい,Negative範囲とは,リフレッシュ未処理の範囲をいう。図13中において,各フレームのブロックで,斜線で示す部分及びイントラMBの位置までの範囲がActive範囲を,それ以外の白色部分の範囲がNegative範囲を示す。
図13(A)において,エラー発生点941は,Active範囲で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ951は,エラー発生点941のフレームタイミングのピクチャであり,ピクチャ953は,エラー発生点941前のフレームタイミングのピクチャである。
復旧点943は,エラー発生点941のピクチャ953を表示し続け,画像表示解除のフレームタイミングを示す。エラー発生点941から復旧点943までの期間945で復号エラーが発生しなければ,復旧点943の次フレームタイミングのピクチャ953で画面の表示更新が可能となる。
また,図13(B)において,エラー発生点961は,Negative範囲で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ971は,エラー発生点961のピクチャであり,ピクチャ973は,エラー発生点961の前のフレームタイミングのピクチャである。
復旧点963は,エラー発生点961から,エラー発生点961前のピクチャ973を表示し続け,その画像表示解除のフレームタイミングを示す。
従来手法では,エラー発生箇所をActive範囲とNegative範囲で切り分ける判断処理及び,エラーが発生箇所に対応した表示制御を行っていなかった。そのため,Negative期間でエラーが発生した場合に(エラー発生点961),ピクチャ971に換えて,ピクチャ973を次のリフレッシュ周期が終了する期間969の経過後まで,すなわち復旧点963のフレームタイミングまで,継続して表示し続ける。
そして,タイミング937で受け取るパラメータ情報のSEIに含まれるリカバリポイント情報に基づいて,この次タイミング937のピクチャ975で画面を更新表示している。
しかし,タイミング937前のタイミング935は,動画像のパラメータ情報を受け取るため,本来であれば,ピクチャ971の画像表示解除を最短で行える復旧点となる。エラー発生箇所がNegative範囲であれば,当該発生したエラー以降にエラーが発生しない限り,タイミング935を復旧点965として,ピクチャ977の画面で表示更新が可能である。エラー発生点961から最短の復旧点965までの期間967は,従来の復旧点963までの期間969より当然に短い。
以上の結果より,リフレッシュ期間中のActive範囲でエラーが発生せず,Negative範囲でエラーが発生した場合は,現リフレッシュ周期終了後に,ピクチャを正常に復旧することが可能である。また,リフレッシュ期間中のActive範囲にエラーが発生した場合は,次のリフレッシュ周期でリフレッシュすることにより,次のリフレッシュ周期終了後に,ピクチャを正常に復旧することが可能である。
従来方法では,リフレッシュのNegative範囲またはActive範囲のいずれの範囲で発生したエラーであるかを判別せず,単に,復号エラー発生のみを判断し,Negative範囲でのエラーについても,Active範囲でのエラーと同様な復旧タイミングで表示制御を行っていた。そのため,Negative範囲のエラー発生の場合に,最短で表示再開することができず,正常な画面復帰が遅れていた。
さらに,イントラリフレッシュのイントラMBの巡回方向を固定的に扱い,単純に,イントラMBの上側をリフレッシュ済の範囲,イントラMBの下側をリフレッシュ前の範囲として対応したイントラリフレッシュを行う復号化装置の場合には,逆方向,すなわちイントラリフレッシュ下側からイントラMB巡回をする符号化装置に対応することができない。また,その逆に,下側リフレッシュのイントラMB巡回に対応した復号化装置の場合に,上側からイントラMB巡回をした符号化装置に対応できないため,処理の汎用性にかけることが問題となる。
本発明は,符号化された複数フィールドで構成される動画像の,フィールド内予測復号化及びフィールド間予測復号化を行う動画像復号装置において,復号エラー発生時に際して,低遅延を実現し,汎用的なイントラMB巡回に対応できるエラー検出・表示制御を行う動画像復号装置を目的とする。
また,本発明は,前記装置の各処理手段が実行する,低遅延かつ汎用的なエラー検出・表示制御を実現する動画像復号処理方法を提供することを目的とする。
さらに,本発明は,前記装置としてコンピュータを機能させるための動画像復号処理プログラムを提供することを目的とする。
開示される,イントラスライスのリフレッシュを用いて動画像データを復号する復号装置は,復号処理と,イントラブロックライン決定部と,リフレッシュ制御部と,エラー検知部と,エラー判定部と,復旧点決定部とを備える。
すなわち,前記復号装置は,動画像データを復号し,前記動画像データのヘッダ情報から,イントラスライスのリフレッシュ巡回が開始するイントラスライスの開始点を識別する復号処理部と,前記動画像データのフレーム毎に,該フレーム毎の複数のマクロブロックラインの1つであって前記イントラスライス適用されるイントラマクロブロックラインを選択するイントラブロックライン決定部と,前記フレーム毎に,最新のイントラスライスおよび前記イントラスライスとなったイントラマクロブロックラインマクロブロックラインの範囲であるリフレッシュされた範囲として特定するリフレッシュ制御部と,復号エラーの発生を検知するエラー検知部と,前記復号エラーが発生した場合に,前記復号エラーの発生箇所が,前記リフレッシュされた範囲であるか否かを判断するエラー判定部と,前記復号エラーの発生箇所が前記リフレッシュされた範囲内であると判定された場合に,前記動画像データの直後の復旧点の次の復旧点を前記動画像データの更新を行う復旧点に決定し前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判定された場合に,前記動画像データの直後の復旧点を前記動画像データの更新を行う復旧点に決定する復旧点決定部とを備える。
これにより,エラー発生が解除された後,復旧点決定部によって決定された復旧点で復号された動画像を出力する。
開示される復号装置において,好ましくは,前記エラー判定部は,後続の2フレームにおける前記イントラマクロブロックラインの位置にもとづいて前記リフレッシュされた範囲を特定する。
または,前記エラー判定部は,後続の2フレームにおける前記イントラマクロブロックラインの位置および前記後続の2フレームの先行フレームにおける前記イントラマクロブロックラインの位置にもとづいて前記リフレッシュされた範囲を特定する。
さらに,好ましくは,前記復旧点決定部は,前記エラー判定部が,前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判断した場合に,前記復旧点として,前記復号エラーの発生箇所を含む前記リフレッシュされた範囲の直後の復旧情報を含むフレームを決定する。
開始する動画像復号装置並びにエラー検出・表示制御方法及びプログラムによれば,エラーが発生した場合に,エラー発生箇所がリフレッシュ済みの範囲内外かの判定処理を行い,エラー箇所がピクチャのリフレッシュ済み範囲外と判定したときは,より短期間でピクチャの更新表示を行うことができる。
また,動画像復号装置並びにエラー検出・表示制御方法及びプログラムによれば,イントラスライスのリフレッシュ巡回の方向が上側または下側からのいずれの方向にも対応して,最短の復旧点でのピクチャ更新表示を行うことができ,動画像符号化装置のイントラスライス巡回方向に依存せず,汎用性を有する動画像復号化装置を実現できる。
さらに,本動画像復号装置並びにエラー検出・表示制御方法及びプログラムによれば,イントラスライスとベクトル制限を併用するリフレッシュ方式を用いても,リフレッシュ範囲を特定でき,画像を復旧する最短のポイントを決定することができる。
図1は,本発明に係る動画像復号装置の基本構成を示す図である。
図1の動画像復号装置1は,受信部3,復号処理部5及び出力制御部7を備える。
復号処理部5は,さらに,データ多重分離部11,ビデオ復号部13,表示管理部15及びオーディオ復号部17を備える。
動画像復号装置1には,インタフェース入力信号として,DVB−ASIin信号又はIPin信号が接続されている。入力信号には,MPEG−TS(Transport Stream)形式のストリームデータが含まれる。
受信部3は,前述の2つのインタフェース入力信号(DVB−ASIin,IPin)のいずれかのデータを受信することができ,入力として,いずれか一つの信号を選択,使用する。なお,接続は,DVB−ASIin又はIPinのどちらか少なくとも一方が接続されているだけでもよい。
データ多重分離部11は,受信部3から受け取ったシリアルデータをバイト単位に並び換え,必要なデータ情報単位として,ビデオデータを含む符号化データをビデオ復号部13へ,オーディオデータを含む符号化データをオーディオ復号部17へ,それぞれ転送する。
ビデオ復号部13は,符号化されたビデオデータを1ピクチャ単位に復号処理を行う。画像情報であるピクチャは,マクロブロック単位で処理される。
オーディオ復号部17は,符号化されたオーディオデータを復号処理する。
ビデオ復号部13およびオーディオ復号部17での1ピクチャ分のデータ処理後,復号画像と共に,エラー情報等が表示管理部15に転送される。
表示管理部15は,復号処理が完了したビデオデータ及びオーディオデータのタイミングを調整するため表示設定制御を行う。表示設定制御において,エラー情報等に基づき復号エラー発生時の画像フリーズ処理の設定等も行う。表示管理部15で設定されたデータは,出力データとして出力制御部7へ送られる。
出力制御部7は,以上の設定に基づいて復号された画像データを表示・停止の制御を行い,モニタ等に所定の信号形式でデータ出力を行う。
以下に,動画像復号装置1の全体の動作概要について説明する。
動画像復号装置1の受信部3は,入力された信号を受信し,MPEG−TS形式のストリームデータのみを抽出し,復号処理部5内のデータ多重分離部11へ転送する。
データ多重分離部11は,転送されたデータを,ビデオデータとオーディオデータに分離して取り出す。さらに,取り出したデータを,ビデオ復号部13とオーディオ復号部17とに転送する。
ビデオ復号部13が,受け取ったビデオデータの復号処理を行い,オーディオ復号部17が受け取ったオーディオデータの復号処理を行う。ビデオ復号部13およびオーディオ復号部17での処理完後,表示管理部15にそれぞれ処理完了が通知される。
表示管理部15は,復号処理が完了したビデオデータ及びオーディオデータのタイミングを調整するため,表示設定制御を行う。表示設定制御において,復号エラー発生時のフリーズ状態設定等も行われる。表示管理部15は,設定したデータを出力データとして出力制御部7へ転送する。
出力制御部7は,表示管理部15から送られた出力データをHD−SDI(High Definition television−Serial Digital Interface)/SD(Standard Definition)−SDI信号形式(図1のSDIout),又はHDMI(High Definition Multimedia Interface)信号形式(図1のHDMIout)に変換して,モニタ等に出力する。
図2は,図1の復号処理部5を構成するビデオ復号部13及び表示管理部15のより詳細な構成を示す図である。
ビデオ復号部13は,復号データ処理部31,強制イントラブロックライン決定部33,リフレッシュ制御部35,巡回方向判定部37,エラー検知部41,エラー判定部43及び復号結果通知部45を備える。
復号データ処理部31は,データ多重分離部11から転送されてくる符号化されたデータを1ピクチャ単位に復号処理を行う。
強制イントラブロックライン決定部33は,ピクチャ内のあるマクロブロックを水平方向に並べたマクロブロックライン(MBライン)内のデータを,全てイントラMBとして符号化するMBラインの位置を決定する。
MPEG−2では,イントラスライスを生成する場合に,スライスヘッダ上にイントラスライスというシンタックスが存在するため,このフラグをオンすることによって,指定されたスライスを構成するマクロブロックが全てイントラMBで構成することを指定できる。しかし,AVC/H264.規格では,このようなシンタックスが存在しないためにイントラスライスを生成することができない。
強制イントラブロックライン決定部33では,イントラスライスと同等のものを生成する。なお,以降では,この同等な機能を「イントラスライス」とも記載する。
リフレッシュ制御部35は,ピクチャ内のあるマクロブロックを水平方向に並べたMBライン内のデータを,全てイントラMBとして符号化するイントラスライスを用いるため,イントラスライスを適用するMBラインの位置をピクチャごとにずらす。その位置をずらす周期を一定とし,ピクチャ全体をイントラスライスが巡回するように制御して,ピクチャ全体をリフレッシュする。
巡回方向判定部37は,イントラスライスが上側から巡回するか,もしくは,下側から巡回するかを判定する。
エラー検知部41は,ピクチャ内の復号エラーの発生を検知する。
エラー判定部43は,検知されたエラーの発生箇所が,リフレッシュ範囲内(Active範囲)か,又はリフレッシュ範囲外(Negative範囲)かを判定する。
復号結果通知部45は,エラー判定部43から,エラーの有無,フリーズ設定,復旧点の位置等の情報を表示管理部15へ通知する。
表示管理部15は,ビデオデータバッファ部51,表示設定部53,オーディオデータバッファ部55,フリーズ設定部57,復旧点決定部59及び復号結果受信部61を備える。
ビデオデータバッファ部51は,ビデオ復号部13から転送される復号化されたピクチャデータを一時記憶する記憶部である。記憶されたピクチャデータの中で,表示に必要なデータが出力制御部7に出力される。エラー発生後のフリーズ状態設定中における表示選択されないピクチャデータは,ビデオデータバッファ部51から取り出されず出力制御部7に出力されない。
オーディオデータバッファ部55は,ピクチャデータに対応したオーディオデータが一時記憶される記憶部である。
表示設定部53は,ビデオデータバッファ部51の画像保存アドレス及び画像サイズ,ピクチャタイプ,復旧点/フリーズ状態設定の有無等の情報(後述の図9に示す)に基づいて,画面表示するデータを決定し,その対応するデータをビデオデータバッファ部51及びオーディオデータバッファ部55から取り出し,出力制御部7へ送信する。
フリーズ設定部57は,復号結果受信部61の情報により,フリーズするピクチャをフレームタイミングで決定し,当該タイミングを表示設定部15に設定する。
復旧点決定部59は,復号結果受信部61の情報により,ピクチャの復旧点をフレームタイミングで決定し,当該タイミングを表示設定部53に設定する。
復号結果受信部61は,復号結果通知部45からエラーの有無,フリーズ設定,復旧点の位置等の情報を受信し,受信した情報に基づいて,フリーズ設定部57,復旧点決定部59を設定する。
図3は,AVC/H.264準拠のデータ構造において,ビットストリームデータを採用する場合のデータ構造例を示す図である。
動画像復号装置1の受信部3が,入力信号から,図3に示すビットストリームデータを抽出する。図3(a)〜(e)は,データ構造のカプセル化の内容を上位階層順に示している。
図3(a)に示すように,ビットストリームデータのデータ構造は,一つ又は複数のシーケンスからなる集合体である。一つのシーケンスは,従来のMPEGと同様にピクチャの集合体として規定される。
図3(b)に示すように,図3(a)の一つのシーケンスは,一つ又は複数のアクセスユニットからなる。
図3(c)に示すように,図3(b)の一つのアクセスユニットの構造は,AUD,SPS,PPS,SEI等の情報と,一つのピクチャから構成されるデータ群である。なお,EOS(End of Sequence)等の他のデータ情報は図示省略している。
図3(d)に示すように,図3(c)の一つのピクチャは,複数のスライスグループ,例えば,4つのスライスグループからなる。
図3(e)に示すように,図3(d)の一つのスライスグループは,複数のスライス(1)〜(m)(mは整数)からなる。
図4は,動画像の1ピクチャ単位に行うエラー検出及びエラー判定処理を説明するための図である。
図4のピクチャPic_Aには,MBラインL1〜L8が設定される。MBラインL1〜L8の各ラインは,一つのスライスであり,図3(e)に示す一つのスライス(i)に対応する(iは1〜mの整数)。
なお,ピクチャPic_Aの一つのMBラインが,複数のスライス(i)からなる構成であってもよい。また,例えば,図3(d)に示すスライスグループとして,スライスグループ1(MBラインL1,L2),スライスグループ2(MBラインL3,L4),スライスグループ3(MBラインL5,L6),スライスグループ4(MBラインL7,L8)のようにグループ化してもよい。また,図4に示すMBライン間をまたがってグループ化する構成であってもよい。
図4のMBラインL1は,マクロブロック単位にMB(a1)〜MB(an)に分けられている。MBラインL2〜L8も,同様にMB(a1)〜MB(an)に対応するマクロブロック単位に分けられている。
判定J1〜J8は,1ピクチャの復号処理において,MBラインL1〜L8のライン毎に,後述するエラー判定処理が行われることを示す。
復号処理の前提として,まず,復号データ処理部31は,図3(c)に示すデータのピクチャのデータを,図3(e)に示すスライス(i)の順に,図4に示すMBラインL1のマクロブロックMB(a1)側からMB(an)側へ対応するメモリ上(図示省略)に記憶する。さらに,図4に示すMBラインL2〜L8の矢印YAの方向に対応するメモリ上(図示省略)にデータを記憶する。
ビデオ復号部13は,前述のようにメモリ上に記憶されたデータを1ピクチャ単位毎に復号処理を行う。その場合に,ピクチャPic_Aは,マクロブロック単位(例えば,図4のMB(a1)〜MB(an)単位毎)に処理される。例えば,マクロブロックの1単位は,16×16ピクセルからなる。
以下にエラー判定処理の全体概要について説明する。
処理S1:エラー判定部43は,ピクチャPic_AのMBラインLx(xは1〜8)の処理終了後毎に,そのMBラインLxがイントラMBラインであるか判断する。
処理S2:エラー検知部41は,リフレッシュ範囲をsearchStateパラメータとし,searchStateがActiveの間に復号エラーが発生した場合に,エラー検出フラグerrorDitectをセットする。
処理S3:復号結果通知部45は,ピクチャPic_A全体の判定(判定J1〜J8)が終了したら,errorDitect情報を表示管理部15(図2に示す)に渡す。
処理S4:表示管理部15は,復旧点の範囲内でエラーが発生しなかった場合(Active範囲にエラー発生,errorDitect=1の場合)に,直近の復旧点で表示する。
図5は,イントラスライスが上から下へ巡回する場合のエラー判定処理の説明図,図6は,イントラスライスが下から上へ巡回する場合のエラー判定処理の説明図である。図5及び図6を用いて説明する処理例は,イントラスライスとベクトル制限によってリフレッシュする方式に対応した処理である。
図5において,Pic(i:iは整数)は1ピクチャ内のエラー判定処理の区切りを示すブロックのピクチャを示し,複数ブロックのピクチャ(Pic(i)〜Pic(i+2N+1))を処理する経過をイントラスライスの上から下方向への移動順に従って示している。ピクチャ内の黒斜線で示す範囲は,リフレッシュ済み(イントラスライスも含む)の範囲(Active範囲)を示す。
イントラスライスIS(1)〜(N)は,ピクチャ(Pic(i+1),Pic(i+3),・・・,Pic(i+2N−1),Pic(i+2N+1))内の各ブロックに対応するイントラスライスである。また,ピクチャPic(i),Pic(i+2),・・・,Pic(i+2N−2),Pic(i+2N)は,イントラスライスがなくベクトル制限のみのピクチャである。矢印YAは,イントラスライスの移動方向を示す。
タイミング201,203は,表示制御の解除が可能な復旧点を示す。期間205はタイミング201から203までの間における1ピクチャのエラー判定の範囲を示す。
以下に,エラー判定部43のエラー判定処理におけるリフレッシュ範囲内エラー判断の概要を示す。
リフレッシュ範囲(リフレッシュ済みの範囲)でのエラー発生かの判定は,図5に示す,イントラスライスISのライン番号(a),直近ピクチャに存在したイントラスライスISのライン番号(b),リフレッシュ範囲を示す範囲(c)の値を用いて行う。
処理S11:エラー判定部43は,ピクチャ内でMBライン全体がイントラMBであるMBラインのライン番号(a)を探す。
処理S12:MBライン番号(a)がある場合には,直近に存在するMBライン番号(b)と比較する。
処理S13:MBライン番号“(a)>(b)”であった場合に,右範囲をインクリメントした範囲(c)をリフレッシュ範囲とする。実際にはインクリメントした値と,MBライン番号(a)が同じであるため,右範囲(図5のPic(i)のiが増加する方向)をMBライン番号(a)に置き換えても良い。
処理S14:MBライン番号(b)がない場合には,直前ピクチャと同じ範囲をエラー発生範囲とする。“(a)=1”かつ“(b)=N”ならば,範囲(c)の右範囲を1に設定する。
図5を用いて,エラー判定処理の具体例を示す。
〔具体例1〕
“イントラスライスのライン番号(a)=1(最上ライン)”かつ“直近ピクチャに存在したイントラスライスのライン番号(b)=N”の場合に,リフレッシュ範囲(c)はライン番号1〜1とする。すなわち,現イントラスライス(ライン番号=1)でエラーが発生した場合に,リフレッシュ範囲内エラーと判定する。
〔具体例2〕
“イントラスライスのライン番号(a)=2”かつ“直近ピクチャに存在したイントラスライスのライン番号(b)=1”の場合に,リフレッシュ範囲(c)はライン番号1〜2の範囲とする。すなわち,ライン番号1〜2の範囲内でエラーが発生した場合に,リフレッシュ範囲内エラーと判定する。
〔具体例3〕
“イントラスライスのライン番号(a)=3”かつ“(直近ピクチャに存在したイントラスライスのライン番号b)=2”の場合に,リフレッシュ範囲(c)はライン番号1〜3の範囲とする。すなわち,ライン番号1〜3の範囲内でエラーが発生した場合に,リフレッシュ範囲内エラーと判定する。
図4に示すピクチャPic_AのMBラインL1〜L8各々で,エラー検出・エラー判定(判定J1〜判定J8)が行われ,この結果に基づいて,エラーがリフレッシュ範囲内か範囲外かが判定されて,復旧点が決定される。
エラー判定部43は,図5に示す期間205の間に,リフレッシュ範囲外のエラーが発生した場合には,復旧点は最短でタイミング203と決定できるので,表示更新までの期間がより短くなる。
一方,リフレッシュ範囲内のエラーが発生した場合には,復旧点はタイミング203の次の復旧点と決定することになる。
図6において,Pic(i:iは整数)は1ピクチャ内のエラー判定処理の区切りを示すブロックを示し,複数ブロック(Pic(i)〜Pic(i+2N+1))を処理する経過をイントラスライスの下から上方向への移動順に従って示している。矢印YBは,イントラスライスの移動方向を示す。
イントラスライスIS(N)〜(1)は,ピクチャ内のブロックのそれぞれ対応するイントラスライスである。タイミング211,213は,表示停止の解除が可能な復旧点である。期間215は,タイミング211から213までの間における1ピクチャのエラー判定の範囲を示す。
図6の下側からイントラスライスが巡回するリフレッシュの動作概要は,図5の上側リフレッシュの動作概要と基本的な動作は同様であるため,ここでは説明は省略する。
図6の場合にも,図5と同様の判定処理が行われ,期間215の間に,リフレッシュ範囲外でエラーが発生した場合には,復旧点は最短でタイミング213と決定することができる。一方,リフレッシュ範囲内でエラーが発生した場合には,復旧点は,タイミング213の次の復旧点となる。
以上の図5及び図6の動作説明からわかるように,動画像復号装置1は,上側及び下側からイントラスライスが巡回する符号化データに対応できるため,上側または下側からイントラスライス巡回をした動画像符号化装置に対応できる汎用性を備える。
さらに,動画像復号装置1は,ピクチャに必ずイントラスライスを設定する必要がない方式,すなわち,イントラスライスとベクトル制限を併用したリフレッシュ方式にも対応できる。
図7は,上側からリフレッシュする場合における1ピクチャ分の復号処理の処理フローを示す図である。
復号データ処理部31は,ピクチャPic_A(図4)の復号開始時に,エラー判定のための処理変数を初期化する(ステップS21),処理変数は,例えば,freeze(フリーズ設定の変数),errorDitect(エラー検出フラグ),searchState(サーチ範囲の変数)であり,freeze=“1”で表示停止指示,errorDitect=“1”でリフレッシュ範囲内エラー検出である。また,変数searchStateは=“Active”でリフレッシュ範囲内,“Negative”でリフレッシュ範囲外を示す。
復号データ処理部31は,ピクチャPic_Aの一つのMBライン,例えば,MBラインL1のデータ処理を行う(ステップS22)。ピクチャPic_Aの上側(矢印YA方向)からリフレッシュする場合に,判定処理は,MBラインL1の判定J1から順に行われる。
この際,エラー検知部41が,一つのMBライン毎に復号エラーを検知し,エラー判定部43が,エラー判定処理を行う(ステップS23)。詳細なエラー判定の処理フローは,後述する図8に示す。
エラー判定部43は,ピクチャPic_A中のすべての判定J1〜J8まで終了したか判断し,未処理のMBラインがある場合に(ステップS24のNo),ステップS22の処理へ戻り,全てのMBラインの処理を終了した場合は(ステップS24のYes),エラー判定結果を復号結果通知部45に通知する。
そして,復号結果通知部45が,表示管理部15へエラー判定結果を含む復号結果を通知する(ステップS25)。表示管理部15は,その通知内容に基づいて,画像の表示の停止または再開を設定し,その設定に基づいて,表示設定部53が,設定による所定のタイミングにて表示の再開・停止を行う。
図8は,ステップS23のエラー判定処理のより詳細な処理フローを示す図である。
エラー判定部43は,現在対象のMBラインの範囲内で復号エラーが発生したかどうか判断する(ステップS31)。エラーが発生した場合に(ステップS31のYes),表示を停止させるためのフリーズ設定の変数freezeに“1”セットする(ステップS32)。
そのセット後,現在処理しているMBラインがリフレッシュ範囲内(“searchState=Active”)であるか否かを判断する(ステップS33)。
リフレッシュ範囲内のエラーである場合に(ステップS33のYes),エラー検出フラグ“errorDitect=1”をセットし(ステップS34),次の処理(ステップS35)に移行する。
以下に説明するステップS35〜ステップS45の処理は,リフレッシュ範囲内か範囲外かの更新判定を行う処理フローである。
続いて,エラー判定部43は,MBラインが全てイントラMBであるかどうかを判定する(ステップS35)。全てイントラMBの場合には(ステップS35のYes),現在処理しているMBラインのライン番号(a)と直近のピクチャに存在したイントラスライスのライン番号(b)の和が,ピクチャの高さNに1を足した値と等しいか(“(a)+(b)=N+1”)を判定する(ステップS36)。
この値が等しいときは(ステップS36のYes),イントラスライスが巡回したときであり,一番下から一番上になったときである(もしくは,一番上から一番下)。
イントラスライスが巡回した場合に,initial変数を反転(ActiveをNegativeへ,もしくはNegativeをActiveへ設定)し,その値をsearchState及びPreSearchState変数へ保持する。また,次のピクチャ処理時に,直近のピクチャに存在したイントラスライスのライン番号(b)が現在処理中のMBラインのライン番号(a)となるため,(b)の値を(a)の値に更新する(ステップS37)。
一方,“(a)+(b)=N+1”でない場合には(ステップS36のNo),現在処理中のMBラインのライン番号(a)と,直近のピクチャに存在したイントラスライスのライン番号(b)の大小を比較する(ステップS40)。
“(a)>(b)”である場合に(ステップS40のYes),イントラスライスが上から下へ移動している場合と判定する。このラインより下はリフレッシュ範囲外とし,searchState及びPreSearchState変数をNegativeに設定する。また,次のピクチャ処理時に,直近のピクチャに存在したイントラスライスのライン番号(b)が現在処理中のMBラインのライン番号(a)となるため,(b)の値を(a)の値に更新する(ステップS41)。
“(a)>(b)”でない場合に(ステップS40のNo),現在処理中のMBライン番号(a)と直近のピクチャに存在したイントラスライスのライン番号(b)の大小をさらに比較する(ステップS42)。
“(a)<(b)”である場合に(ステップS42のYes),イントラスライスが下から上と移動している場合と判定する。このラインより下はリフレッシュ範囲内とし,searchState及びPreSearchState変数をActiveにセットする。また,次のピクチャ処理時に,直近のピクチャに存在したイントラスライスのライン番号(b)が現在処理中のMBラインのライン番号(a)となるため,(b)の値を(a)の値に更新する(ステップS43)。
以上のようにイントラスライスが存在する場合には,前述までの処理でリフレッシュ範囲内,または範囲外の判定は終了するが,イントラスライスがない場合にはステップS44の処理へ移行する。
MBラインが全てイントラMBでない場合には(ステップS35のNo),現在処理中のMBライン番号(a)と直近のピクチャに存在したイントラスライスのライン番号(b)が等しいか判定する(ステップS44)。
“(a)=(b)”である場合に(ステップS44のYes),前のピクチャと同じ位置まで処理が進んだため,それ以降の処理は直近のピクチャと同じ状態とするため,searchState変数にPreSearchState変数の値をセットし,リフレッシュ範囲を決定する(ステップS45)。
以上までのステップ処理で,リフレッシュ範囲内又はリフレッシュ範囲外であるかの状態が更新される。
次に,リフレッシュ範囲更新により,現在処理中のMBライン番号(a)より下にあるMBラインをリフレッシュ範囲外(“searchState==Negative”)とした場合(上から巡回の場合)に,エラー判定の処理は終了する(ステップS38のNo)。
一方,現在処理中のMBライン番号がリフレッシュ範囲内(“searchState==Active”)とした場合(ステップS38のYes),リフレッシュ範囲内でエラー発生があったとし,“errorDitect=1”にセットし(ステップS39),エラー判定処理を終了する。
なお,下側からリフレッシュする場合の1ピクチャ分の復号処理及びエラー判定の処理フローは,前述の上側リフレッシュの処理フローの説明とはリフレッシュ方向が異なるものの,基本的な動作処理は共通しており,ここでは説明は省略する。
復号結果通知部45は,1ピクチャ分の処理終了後,復号ピクチャとともに,エラー有無情報等の復号結果通知を表示管理部1の復号結果受信部61へ転送する。
図9は,表示管理部15に通知される情報の構造例を示す図である。
図9の通知において,Bank Noは,メモリ上の画像が保存されているアドレスを示す。recoverは復旧点となるフレームタイミング,ピクチャタイプはIピクチャ,Bピクチャ,Pピクチャのいずれかのタイプ種別を示し,freezeはエラーが発生したかどうかを示す情報として定義される。
画像サイズは,画面の大きさ情報を示し,PTSは表示時刻を示す情報である。
表示管理部15の復号結果受信部61が,これらの情報を受信し,その通知された情報に基づいて,フリーズ設定部57,復旧点決定部59が所定の設定を行う。
具体的には,フリーズ設定部57は,freeze=1の情報の場合に,フリーズ設定として,フリーズするピクチャをフレームタイミングで設定する。
1ピクチャの処理が終了し,errorDitect=0であり,かつ,SPS・PPS・SEIが存在する場合には,そのフレームタイミングが復旧点となり,recover=1として,表示管理部15へ通知される。SPS・PPS・SEIは,ピクチャの処理に先立って復号されるため,復旧点の判断とすることができる。そこで,復旧点決定部59は,recover情報に基づいて,SPS・PPS・SEIが存在するフレームタイミングを復旧点として設定する。
図10は,上側から下側へリフレッシュした場合のエラー検出・復旧までの動作概要を示す図,図11は下側から上側へリフレッシュした場合のエラー検出・復旧までの動作概要を示す図である。図10及び図11の実施例の動作概要においては,説明を簡略に行うために,ベクトル制限のピクチャを含む場合は除き,全てイントラスライスを含むピクチャの例で説明を行う。また,各フレームのブロックで,斜線で示す部分及びイントラMBの位置までの範囲の期間がActive範囲であり,それ以外の白色で示す範囲の期間がNegative範囲に対応する。
図10(A)は,イントラスライスの巡回時にリフレッシュ範囲内でエラー発生したときの動作概要を示す。また,図10(B)は,同様の巡回時にリフレッシュ範囲外でエラーが発生したときの動作概要を示す。
図10(A)及び図10(B)において,タイミング301,303,305,307及び331,333,335,337は,イントラリフレッシュ周期の最初のイントラMBにおいて,AVC/H.264符号化データのヘッダ情報のパラメータを受け取るタイミングを示す。パラメータ情報は,SPS,PPS,SEI等の情報を含む。
図10(A)において,エラー発生時309は,Active範囲で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ323は,エラー発生時309のピクチャであり,ピクチャ321は,エラー発生時309前のフレームタイミングのピクチャである。
エラー発生時309で,エラー検知部41がエラーを検知すると,freeze情報に“1”が設定される。表示管理部15のフリーズ設定部57は,エラー発生時309からエラー発生前のピクチャ321でフリーズ設定し,表示設定部53は,ピクチャ321を表示し続ける表示設定を行う。
復旧点311は,その表示設定の解除のフレームタイミングである。エラー発生時309からタイミング311まで期間313で復号エラーが発生しなければ,タイミング311が復旧点となり,その次フレームタイミングのピクチャ325で画面の表示更新が可能となる。この際,エラー判定部43は,エラー発生がActive範囲中に発生したエラーと判断すると,recover情報により,タイミング311について“recover=1”をセットする。
表示管理部15の復旧点決定部59がタイミング311を復旧点と設定し,表示設定部53は,タイミング311の次フレームタイミングのピクチャ325での表示更新を設定する。
また,図10(B)において,エラー発生点339は,Negative範囲で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ353は,エラー発生時のフレームタイミングのピクチャであり,ピクチャ351は,エラー発生前のフレームタイミングのピクチャである。
エラー発生時339で,エラー検知部41がエラーを検知し,freeze情報に“1”を設定する。これにより,表示管理部15のフリーズ設定部57が,エラー発生時339からエラー発生前のピクチャ351でフリーズ設定し,表示設定部53は,ピクチャ351を表示し続ける表示設定を行う。
その表示設定の解除が可能な復旧点をフレームタイミング341とする。エラー発生時339からタイミング341までの期間343で復号エラーが発生しなければ,タイミング341が復旧点となり,その次フレームタイミングのピクチャ355で画面の表示更新が可能となる。
この際,エラー判定部43が,Negative範囲で発生したエラーと判断し,recover情報により,タイミング341において“recover=1”を設定する。
表示管理部15の復旧点決定部59がタイミング341を復旧点と設定し,表示設定部53は,タイミング341の次フレームタイミングのピクチャ355での表示更新を行う表示設定を行う。
図11(A)は,イントラスライスの巡回時にリフレッシュ範囲内でエラー発生した場合の動作概要を示す。また,図11(B)は,同様の巡回時にリフレッシュ範囲外でエラーが発生した場合の動作概要を示す。
図11(A)及び図11(B)において,タイミング401,403,405,407及び431,433,435,437は,イントラリフレッシュ周期の最初のイントラMBにおいて,AVC/H.264符号化データのヘッダ情報のパラメータを受け取るフレームタイミングを示す。
図11(A)において,エラー発生時409は,Active範囲中で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ423は,エラー発生時409のピクチャである。また,ピクチャ421は,エラー発生前のフレームタイミングのピクチャである。
タイミング411は,エラー発生時409からエラー発生前のピクチャ421を表示し続け,その画像表示解除可能な復旧点となるフレームタイミングである。エラー発生時409からタイミング411までの期間413で復号エラーが発生しなければ,タイミング411の次のフレームタイミングのピクチャ425で画面の表示更新が可能となる。
図11(A)の場合も,図10(A)と同様な動作で,freeze,recover情報の設定等が行われるので,説明を省略する。
図11(B)において,エラー発生時439は,Negative範囲で復号エラーが発生した場合のフレームタイミングを示す。ピクチャ453は,エラー発生時のフレームタイミングのピクチャである。ピクチャ451は,エラー発生前のフレームタイミングのピクチャである。
エラー発生時439から,エラー発生前のピクチャ451を表示し続け,タイミング441が,画像表示解除の復旧点となるフレームタイミングとする。エラー発生時439から復旧点441までの期間443を示す。タイミング441を復旧点とし,その次のフレームタイミングのピクチャ455を表示し,以降は表示を更新する。
図11(B)の場合も,図10(B)と同様な動作で,freeze,recover情報の設定等が行われるので,説明を省略する。
以上説明したように,動画像復号装置1では,イントラスライスの巡回方向にかかわらず,エラー発生時309(339,409,439)がリフレッシュ済みの範囲かどうか(Active範囲又はNegative範囲であるか)を判断し,それに対応した表示制御を行うことができる。
そのため,動画像復号装置1は,ピクチャ321(又は351,421,451)を表示した後,エラー発生時のピクチャ323(又は353,423,453)に換えてピクチャ321(又は351,421,451)を,次のリフレッシュ周期が終了する期間313(又は343,413,443)の経過後の復旧点311(又は341,411,441)のフレームタイミングまで,継続して表示し続ける。
そして,エラー発生時がNegative範囲であれば,そのエラーはすぐにリフレッシュされて空間的に伝播せずに復旧できるため,フレームタイミング335,435で受け取るパラメータ情報のSEIに含まれるリカバリポイント情報によって,タイミング341,441を復旧点として決定し,その次のフレームタイミング,すなわち,エラー発生後最短の期間343,443で,正常なピクチャ355,455に更新表示することができる。
動画像復号装置の基本構成を示す図である。 復号処理部の詳細な構成を示す図である。 AVC/H.264準拠のデータ構造を示す図である。 動画像の1ピクチャ単位に行うエラー検出及びエラー判定処理の説明図である。 イントラスライスが上から下へ巡回する場合のエラー判定処理の説明図である。 イントラスライスが下から上へ巡回する場合のエラー判定処理の説明図である。 上側からリフレッシュする場合の1ピクチャ分の復号処理の処理フローを示す図である。 上側からリフレッシュする場合のエラー判定処理の処理フローを示す図である。 表示管理部に通知される情報の構造例を示す図である。 ピクチャの上側から下側へリフレッシュした場合のエラー検出・復旧までの動作概要を示す図である。 ピクチャの下側から上側へリフレッシュした場合のエラー検出・復旧までの動作概要を示す図である。 MPEG−2における動画像フレームのピクチャおよびエラー発生の説明図である。 AVC/H.264規格に基づく動画像復号のエラー検出時の表示制御の動作例を示す図である。
符号の説明
1 動画像復号装置
3 受信部
5 復号処理部
7 出力制御部
11 データ多重分離部
13 ビデオ復号部
15 表示管理部
17 オーディオ復号部
31 復号データ処理部
33 強制イントラブロックライン決定部
35 リフレッシュ制御部
37 巡回方向判定部
41 エラー検知部
43 エラー判定部
45 復号結果通知部
51 ビデオデータバッファ部
53 表示設定部
55 オーディオデータバッファ部
57 フリーズ設定部
59 復旧点決定部
61 復号結果受信部

Claims (6)

  1. イントラスライスのリフレッシュを用いて動画像データを復号する復号装置において,
    動画像データを復号し,前記動画像データのヘッダ情報から,イントラスライスのリフレッシュ巡回が開始するイントラスライスの開始点を識別する復号処理部と,
    前記動画像データのフレーム毎に,該フレーム毎の複数のマクロブロックラインの1つであって前記イントラスライス適用されるイントラマクロブロックラインを選択するイントラブロックライン決定部と,
    前記フレーム毎に,最新のイントラスライスおよび前記イントラスライスとなったイントラマクロブロックラインマクロブロックラインの範囲であるリフレッシュされた範囲として特定するリフレッシュ制御部と,
    復号エラーの発生を検知するエラー検知部と,
    前記復号エラーが発生した場合に,前記復号エラーの発生箇所が,前記リフレッシュされた範囲であるか否かを判断するエラー判定部と,
    前記復号エラーの発生箇所が前記リフレッシュされた範囲内であると判定された場合に,前記動画像データの直後の復旧点の次の復旧点を前記動画像データの更新を行う復旧点に決定し前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判定された場合に,前記動画像データの直後の復旧点を前記動画像データの更新を行う復旧点に決定する復旧点決定部とを備える
    ことを特徴とする復号装置。
  2. 前記エラー判定部は,後続の2フレームにおける前記イントラマクロブロックラインの位置にもとづいて前記リフレッシュされた範囲を特定する
    ことを特徴とする請求項1記載の復号装置。
  3. 前記エラー判定部は,後続の2フレームにおける前記イントラマクロブロックラインの位置および前記後続の2フレームの先行フレームにおける前記イントラマクロブロックラインの位置にもとづいて前記リフレッシュされた範囲を特定する
    ことを特徴とする請求項1または請求項2に記載の復号装置。
  4. 前記復旧点決定部は,前記エラー判定部が,前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判断した場合に,前記復旧点として,前記復号エラーの発生箇所を含む前記リフレッシュされた範囲の直後の復旧情報を含むフレームを決定する
    ことを特徴とする請求項1ないし請求項3のいずれか一項に記載の復号装置。
  5. イントラスライスのリフレッシュを用いて動画像データを復号する復号方法において,コンピュータが,
    動画像データのヘッダ情報から,前記動画像データにおいてイントラスライスのリフレッシュ巡回が開始する復旧点を識別し,
    前記動画像データのフレーム毎に,該フレーム毎の複数のマクロブロックラインの1つであって前記イントラスライス適用されるイントラマクロブロックラインを選択し,
    前記フレーム毎に,最新のイントラスライスおよび前記イントラスライスとなったイントラマクロブロックラインをリフレッシュされた範囲として特定し,
    復号エラーの発生を検知し,
    前記復号エラーが発生した場合に,前記復号エラーの発生箇所が,前記リフレッシュされた範囲であるか否かを判断し,
    前記復号エラーの発生箇所が前記リフレッシュされた範囲内であると判定された場合に,前記動画像データの直後の復旧点の次の復旧点を前記動画像データの更新を行う復旧点に決定し前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判定された場合に,前記動画像データの直後の復旧点を前記動画像データの更新を行う復旧点に決定する,処理を実行する
    ことを特徴とする復号方法。
  6. イントラスライスのリフレッシュを用いて動画像データを復号する復号プログラムであって,コンピュータに,
    動画像データのヘッダ情報から,前記動画像データにおいてイントラスライスのリフレッシュ巡回が開始する復旧点を識別し,
    前記動画像データのフレーム毎に,該フレーム毎の複数のマクロブロックラインの1つであって前記イントラスライス適用されるイントラマクロブロックラインを選択し,
    前記フレーム毎に,最新のイントラスライスおよび前記イントラスライスとなったイントラマクロブロックラインをリフレッシュされた範囲として特定し,
    復号エラーの発生を検知し,
    前記復号エラーが発生した場合に,前記復号エラーの発生箇所が,前記リフレッシュされた範囲であるか否かを判断し,
    前記復号エラーの発生箇所が前記リフレッシュされた範囲内であると判定された場合に,前記動画像データの直後の復旧点の次の復旧点を前記動画像データの更新を行う復旧点に決定し前記復号エラーの発生箇所が前記リフレッシュされた範囲外であると判定された場合に,前記動画像データの直後の復旧点を前記動画像データの更新を行う復旧点に決定する,処理を実行させるための復号プログラム。
JP2008089222A 2008-03-31 2008-03-31 復号装置,復号方法および復号プログラム Active JP5050964B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008089222A JP5050964B2 (ja) 2008-03-31 2008-03-31 復号装置,復号方法および復号プログラム
US12/414,617 US8442119B2 (en) 2008-03-31 2009-03-30 Moving image decoding apparatus and processing method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008089222A JP5050964B2 (ja) 2008-03-31 2008-03-31 復号装置,復号方法および復号プログラム

Publications (2)

Publication Number Publication Date
JP2009246591A JP2009246591A (ja) 2009-10-22
JP5050964B2 true JP5050964B2 (ja) 2012-10-17

Family

ID=41117166

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008089222A Active JP5050964B2 (ja) 2008-03-31 2008-03-31 復号装置,復号方法および復号プログラム

Country Status (2)

Country Link
US (1) US8442119B2 (ja)
JP (1) JP5050964B2 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5321895B2 (ja) * 2009-05-27 2013-10-23 ソニー株式会社 情報処理装置および方法
CN102077597A (zh) * 2009-07-10 2011-05-25 松下电器产业株式会社 运动图像编码方法、装置、程序、以及集成电路
EP2493171A1 (en) * 2011-02-25 2012-08-29 Tektronix International Sales GmbH Video data stream evaluation systems and methods
CN102685545A (zh) * 2011-03-18 2012-09-19 特克特朗尼克国际销售有限责任公司 视频数据流评价系统和方法
US10075710B2 (en) * 2011-11-24 2018-09-11 Thomson Licensing Video quality measurement
KR101687092B1 (ko) * 2012-06-25 2016-12-15 닛본 덴끼 가부시끼가이샤 비디오 인코딩/디코딩 장치, 방법 및 프로그램
US9241169B2 (en) 2013-12-17 2016-01-19 Broadcom Corporation Raster to block conversion in a compressed domain

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06101841B2 (ja) * 1984-01-11 1994-12-12 日本電気株式会社 動画像信号の符号化方法およびその装置
JPH0746863B2 (ja) 1984-02-02 1995-05-17 日本電気株式会社 動画像信号の復号化装置
JP2550860B2 (ja) * 1993-06-15 1996-11-06 日本電気株式会社 画像復号化装置
JP2862064B2 (ja) * 1993-10-29 1999-02-24 三菱電機株式会社 データ復号装置及びデータ受信装置及びデータ受信方法
US5805223A (en) * 1994-05-25 1998-09-08 Canon Kk Image encoding apparatus having an intrapicture encoding mode and interpicture encoding mode
US5568200A (en) * 1995-06-07 1996-10-22 Hitachi America, Ltd. Method and apparatus for improved video display of progressively refreshed coded video
JP3630474B2 (ja) * 1995-07-14 2005-03-16 沖電気工業株式会社 動画像伝送システム及び動画像伝送装置
JP3905969B2 (ja) * 1998-01-30 2007-04-18 株式会社東芝 動画像符号化装置および動画像符号化方法
JP2003284064A (ja) * 2002-03-20 2003-10-03 Matsushita Electric Ind Co Ltd 画像受信装置および画像表示制御方法

Also Published As

Publication number Publication date
US8442119B2 (en) 2013-05-14
JP2009246591A (ja) 2009-10-22
US20090245385A1 (en) 2009-10-01

Similar Documents

Publication Publication Date Title
JP5050964B2 (ja) 復号装置,復号方法および復号プログラム
TWI520504B (zh) An image processing apparatus, an image processing method, an image processing program, and a recording medium
US10165290B2 (en) Method for encoding digital video data
JP4724061B2 (ja) 動画像符号化装置
JP5155159B2 (ja) 動画像復号装置
JPH08154247A (ja) 圧縮画像データ処理装置及び方法
JPWO2009063646A1 (ja) 画像復号装置及び画像復号方法
US8649439B2 (en) Decoding circuit, decoding device, and decoding system
JP6021153B2 (ja) ビデオ画像を復号する方法及び装置
KR101678138B1 (ko) 동화상 부호화 방법, 장치 및 프로그램
JP5867050B2 (ja) 画像処理装置
JP4410277B2 (ja) 半導体装置、および半導体装置の制御方法
JP4851270B2 (ja) 動画像復号装置、および復号方法。
JP2007166555A (ja) 符号化装置及び方法
WO2011111372A1 (ja) 動画像符号化装置および動画像符号化方法
JP2014158130A (ja) 画像符号化装置
JP2010081215A (ja) 画像復号装置
JP2008227745A (ja) 映像符号化装置及び映像復号装置
JP2006295705A (ja) 動画像符号化装置、動画像復号化装置、動画像符号化方法、動画像復号化方法、動画像符号化プログラム及び動画像復号化プログラム
JP2009095062A (ja) 復号化方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20101216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20111208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120117

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120319

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120606

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120626

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120709

R150 Certificate of patent or registration of utility model

Ref document number: 5050964

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150803

Year of fee payment: 3