JP5681557B2 - 映像再生方法、映像再生装置、及び映像再生プログラム - Google Patents

映像再生方法、映像再生装置、及び映像再生プログラム Download PDF

Info

Publication number
JP5681557B2
JP5681557B2 JP2011105149A JP2011105149A JP5681557B2 JP 5681557 B2 JP5681557 B2 JP 5681557B2 JP 2011105149 A JP2011105149 A JP 2011105149A JP 2011105149 A JP2011105149 A JP 2011105149A JP 5681557 B2 JP5681557 B2 JP 5681557B2
Authority
JP
Japan
Prior art keywords
signal
error concealment
unit
decoded
motion information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011105149A
Other languages
English (en)
Other versions
JP2012238947A (ja
Inventor
和也 早瀬
和也 早瀬
藤井 寛
寛 藤井
裕尚 如澤
裕尚 如澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2011105149A priority Critical patent/JP5681557B2/ja
Publication of JP2012238947A publication Critical patent/JP2012238947A/ja
Application granted granted Critical
Publication of JP5681557B2 publication Critical patent/JP5681557B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、映像再生方法、映像再生装置、及び映像再生プログラムに関する。
通信パケットの遅延や欠落などの伝送エラーに伴うネットワーク回線を用いて映像データをストリーミング再生する映像再生装置が知られている。このような映像再生装置では、再生時の伝送エラー、さらには映像受信側装置での復号遅延を含めた復号エラーにより、ブロックノイズの発生、再生の遅延、フレーム飛びといった映像品質劣化が発生することがある。この映像品質劣化を回避するために、通常、伝送エラー回復技術や復号エラー隠蔽技術が用いられる。
伝送エラー回復技術は、あらかじめ本来の映像データに冗長データを付与し、その冗長データを用いて伝送エラーにより欠落したパケットの情報を回復する技術であり、代表的なものに前方誤り訂正技術(FEC:Forward Error Correction)が挙げられる。
復号エラー隠蔽技術は、伝送エラーによってパケットが欠落し、上述のFECなどの伝送エラー回復技術を用いてもエラーを回復できない場合や、伝送遅延や通信パケット受信側での復号遅延によって再生したいタイミングで映像が生成されない場合などに使用される。この復号エラー隠蔽技術は、すでに受信済みの情報のみで極力高品質の再生映像を構成する技術である。
たとえば、特許文献1では、画像データにエラーが発生し、画像を更新できない場合に、この復号エラー隠蔽技術として、既に表示している画像をリピート表示することで復号エラーを隠蔽している。
特許第4164966号公報
しかしながら、被写体に動きがある映像で復号エラーが発生した場合、エラー隠蔽のために特許文献1に記載されているリピート表示をおこなうと、復号エラー発生前後の被写体の動きが不連続となり映像の品質が劣化することがある。これは、被写体の動きが大きいほど顕著になる。
すなわち、上述した従来技術では、復号エラーが発生した場合に被写体の動きの再現が困難であり、映像の品質が劣化するという問題があった。
本発明は、上記問題を解決すべくなされたもので、その目的は、復号エラーが発生した場合でも、映像の品質の劣化を低減させることを可能とする映像再生装置、映像再生方法、及び映像再生プログラムを提供することにある。
上記問題を解決するために、本発明は、所定時刻に受信された符号化パケットであって、前記所定時刻に対応付けられて符号化パケット記憶部に記憶されている符号化パケットに基づいて、前記所定時刻に対応付けられた符号化信号を階層毎に生成するとともに、前記符号化信号に基づいて、前記所定時刻に対応付けられた復号信号を階層毎に生成する復号信号生成ステップと、前記所定時刻よりも過去の時刻に対応付けられて復号信号記憶部に予め記憶されている過去の符号化信号と、前記過去の時刻に対応付けられて復号信号記憶部に予め記憶されている過去の復号信号と、前記過去の時刻に対応付けられて再生用信号記憶部に予め記憶されている過去の再生用信号と、を取得する信号取得ステップと、前記所定時刻に対応付けられた符号化信号と、前記所定時刻に対応付けられている復号信号と、前記過去の符号化信号と、前記過去の復号信号と、前記過去の再生用信号と、に基づいて前記所定時刻に対応付けられたエラー隠蔽信号を生成するエラー隠蔽信号生成ステップと、前記エラー隠蔽信号に基づいて前記所定時刻に対応付けられた再生用信号を生成する再生用信号生成ステップと、を有することを特徴とする映像再生方法である。
また、本発明は、上記発明において、前記エラー隠蔽信号生成ステップには、前記所定時刻に対応付けられた再生用信号の生成に用いられる動き情報であって、前記エラー隠蔽信号が生成される対象の階層である再生階層よりも下位の階層である復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられた動き情報を、前記再生階層と前記復号可能階層との解像度比に基づいて解像度変換した、解像度変換後の動き情報を生成する動き情報解像度変換ステップと、前記解像度変換後の動き情報を補正する情報である、補正動き情報を算出する補正動き情報算出ステップと、前記再生階層に対応付けられている動き補償信号であって、前記解像度変換後の動き情報を前記補正動き情報によって補正した補正後の動き情報に基づいた動き補償信号、を生成する動き補償信号生成ステップと、画像動き予測に基づいた予測残差信号であって、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている予測残差信号を、前記解像度変換した解像度変換後の予測残差信号、を生成する予測残差信号解像度変換ステップと、前記動き補償信号と前記解像度変換後の予測残差信号とに基づいて、前記エラー隠蔽信号を生成する動き合成エラー隠蔽信号生成ステップと、が含められていることを特徴とする。
また、本発明は、上記発明において、前記補正動き情報算出ステップには、探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、前記動き情報、前記予測残差信号、又は前記解像度比に基づいたブロックマッチング探索座標範囲、を決定する探索座標範囲決定ステップと、前記解像度変換後の動き情報によって指定されるブロックマッチング探索中心座標を前記探索中心座標とし、前記ブロックマッチング探索座標範囲を前記探索座標範囲とする前記ブロックマッチングの結果、前記コスト関数の値が最小となる座標を前記ブロックマッチング結果座標として探索する補正動き情報探索ステップと、前記ブロックマッチング結果座標と前記ブロックマッチング探索中心座標との差を前記補正動き情報として決定する補正動き情報決定ステップと、が含められていることを特徴とする。
また、本発明は、上記発明において、記エラー隠蔽信号生成ステップには、更に、エラー隠蔽信号として、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号を前記解像度変換した、解像度変換後の復号信号を生成する復号解像度変換エラー隠蔽信号生成ステップと、前記動き合成エラー隠蔽信号生成ステップと、前記復号解像度変換エラー隠蔽信号生成ステップと、のうちからいずれかのステップによって処理するかを、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている画像動き予測モードに応じて切換えるエラー隠蔽信号生成手順切換えステップと、が含められていることを特徴とする。
また、本発明は、上記発明において、前記エラー隠蔽信号生成ステップには、更にエラー隠蔽信号として、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号を前記解像度変換した、解像度変換後の復号信号を生成する復号解像度変換エラー隠蔽信号生成ステップと、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている符号化信号と、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号と、前記過去の符号化信号と、前記過去の復号信号と、前記過去の再生用信号とに基づいて、前記復号解像度変換エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、前記動き合成エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、を重みづけ平均して前記エラー隠蔽信号を生成する重みづけ平均信号生成ステップと、が含められていることを特徴とする。
また、本発明は、原画像情報を階層化した符号化信号、及び前記符号化信号を階層毎に復号した復号信号を、前記階層と対応付けて記憶している復号信号記憶部と、前記符号化信号が再生時刻までに復号されない状態である復号エラーが発生した階層を再生階層として、前記復号エラーの発生を階層毎に検出する復号エラー検出部と、生成された再生用信号を記憶している再生用信号記憶部と、前記復号エラー検出部によって前記復号エラーの発生が検出された場合に、前記復号信号記憶部に記憶している符号化信号のうち、前記再生階層と異なる階層である復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号と、前記復号エラーの発生を検出する前に前記復号信号記憶部に記憶している符号化信号である復号エラー検出前符号化信号と、前記復号エラーの発生を検出する前に前記復号信号記憶部に記憶している復号信号である復号エラー検出前復号信号と、前記復号エラーの発生を検出する前に前記再生用信号記憶部に記憶している再生用信号である復号エラー検出前再生用信号と、に基づいて、前記再生階層と対応付けられたエラー隠蔽信号を生成するエラー隠蔽信号生成部と、前記エラー隠蔽信号生成部によって生成されたエラー隠蔽信号に基づいて再生用信号を生成する再生用信号生成部と、を備えることを特徴とする映像再生装置である。
また、本発明は、上記発明において、前記エラー隠蔽信号生成部は、前記再生用信号の生成に用いられる動き情報であって、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き情報を、前記再生階層と前記復号可能階層との解像度比に基づいて、解像度変換動き情報に変換する、動き情報解像度変換部と、前記解像度変換動き情報を補正する情報である、補正動き情報を算出する補正動き情報算出部と、前記解像度変換動き情報を前記補正動き情報によって補正した補正後の動き情報に基づいて、前記再生階層に対応付けられた信号である動き補償信号を生成する動き補償信号生成部と、前記再生用信号の生成に用いられる予測残差信号であって、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き情報に基づいた予測残差信号を、前記解像度比に基づいて、解像度変換予測残差信号に変換する、予測残差信号解像度変換部と、前記動き補償信号と前記解像度変換予測残差信号とに基づいて、前記エラー隠蔽信号を生成する動き合成エラー隠蔽信号生成部と、を備えることを特徴とする。
また、本発明は、上記発明において、前記補正動き情報算出部は、探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、前記動き情報、前記予測残差信号、又は前記解像度比に基づいたブロックマッチング探索座標範囲、を決定する探索座標範囲決定部と、前記解像度変換動き情報によって指定されるブロックマッチング探索中心座標を前記探索中心座標とし、前記ブロックマッチング探索座標範囲を前記探索座標範囲とする前記ブロックマッチングの結果、前記コスト関数の値が最小となる座標を前記ブロックマッチング結果座標として探索する補正動き情報探索部と、前記ブロックマッチング結果座標と前記ブロックマッチング探索中心座標との差を前記補正動き情報として決定する補正動き情報決定部と、を備えることを特徴とする。
また、本発明は、上記発明において、前記エラー隠蔽信号生成部は、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号を前記解像度比に基づいて解像度変換した信号を、エラー隠蔽信号として生成する復号解像度変換エラー隠蔽信号生成部と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き予測モードに基づいて、前記動き合成エラー隠蔽信号生成部と、前記復号解像度変換エラー隠蔽信号生成部と、のうちからいずれかを、エラー隠蔽信号生成部として選択するエラー隠蔽信号生成手順切換え部と、を備えることを特徴とする。
また、本発明は、上記発明において、前記エラー隠蔽信号生成部は、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号を前記解像度比に基づいて解像度変換した信号を、エラー隠蔽信号として生成する復号解像度変換エラー隠蔽信号生成部と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号と、前記復号エラー検出前符号化信号と、前記復号エラー検出前復号信号と、前記復号エラー検出前再生用信号とに基づいて、前記動き合成エラー隠蔽信号生成部によって生成されたエラー隠蔽信号と、前記復号解像度変換エラー隠蔽信号生成部によって生成されたエラー隠蔽信号とを重みづけ平均して、前記エラー隠蔽信号を生成する重みづけ平均信号生成部と、を備えることを特徴とする。
また、本発明は、上記に記載の映像再生方法を、コンピュータに実行させるための映像再生プログラムである。
本発明によれば、復号エラーが発生した場合でも、画像信号を生成して再生できるため、映像の品質が劣化することを低減することができる。
本実施形態による映像再生装置の構成を示すブロック図である。 図1に示すエラー隠蔽処理部16の構成を示すブロック図である。 本実施形態による画像フレームと画像レイヤの構成を説明する図である。 図2に示すエラー隠蔽信号生成部102の構成を示すブロック図である。 図4に示す補正ベクトル算出部206の構成を示すブロック図である。 図1に示す映像再生装置の動作を示すフローチャートである。 図1に示すエラー隠蔽処理部16の動作を示すフローチャートである。 図2に示すエラー隠蔽信号生成部102の動作を示すフローチャートである。 図4に示す補正ベクトル算出部206の動作を示すフローチャートである。
以下、本発明の一実施形態による映像再生装置について図面を参照して説明する。
図1は、本実施形態による映像再生装置1の構成を示す概略ブロック図である。
本実施形態では、符号化パケットとして、基本階層と、拡張階層#1と、拡張階層#2との3階層からなる階層符号化されたビデオパケットが受信される例について説明する。
すなわち、符号化パケットは、原画像情報を階層化した符号化信号を保有する。また、符号化パケットには、基本階層の符号化信号を保有した符号化パケットと、拡張階層#1の符号化信号を保有した符号化パケットと、拡張階層#2の符号化信号を保有した符号化パケットとが含まれる。
なお、基本階層は拡張階層#1の下位階層であり、拡張階層#1は拡張階層#2の下位階層である。
また、階層符号化の一例として、空間スケーラブル符号化が適用される例について説明する。この空間スケーラブル符号化の一例には、例えばSVC(スケーラブル映像符号化)などが適用可能である。
また、符号化パケットは、再生時刻に対応付けられ、時系列に基づいて順番に受信される。
ここで、再生時刻とは、映像再生装置1が符号化パケットを受信し、符号化パケットに含まれる符号化信号に基づいて再生用信号を生成する時刻をいう。すなわち、映像再生装置1が符号化信号を映像として再生できる状態にする時刻である。
映像再生装置1は、順次、符号化パケットを受信し、符号化パケットに対応づけられた再生時刻までに再生用信号を生成する。
[映像再生装置1の構成]
図1を参照して、映像再生装置1の構成を説明する。
映像再生装置1は、パケット受信部11と、パケットロス検出部12と、基本階層データ復号部13と、拡張階層#1データ復号部14と、拡張階層#2データ復号部15と、エラー隠蔽処理部16と、エラー隠蔽処理部17と、記憶部18とを備える。
記憶部18は、レジスタ、ビデオメモリ、物理メモリ、キャッシュなどを含むものとして説明する。
また、記憶部18には、受信した符号化パケットのほかに、過去に受信した符号化パケット、符号化信号、動き情報、復号信号、再生用信号など再生用信号の生成に必要な情報が記憶される。
また、記憶部18は、符号化パケット記憶部19と、復号信号記憶部20と、再生用信号記憶部21とを備えている。
符号化パケット記憶部19は、所定時刻に受信された符号化パケットが、受信時刻(所定時刻)に対応付けられて記憶される。
復号信号記憶部20は、符号化パケットに含まれる原画像情報を階層化した符号化信号と、符号化信号を階層毎に復号した復号信号とが、階層と対応付けられて記憶される。
再生用信号記憶部21は、再生用信号が、階層と対応付けられて記憶される。
パケット受信部11は符号化パケットを受信して、受信した符号化パケットを上述した再生時刻と対応付けて符号化パケット記憶部19に記憶させる。
パケットロス検出部12(復号エラー検出部)は、符号化信号が再生時刻までに復号されない状態である復号エラーが発生した階層を再生階層として、復号エラーの発生を階層毎に検出する。
すなわち、パケットロス検出部12は、符号化パケット記憶部19に記憶されている符号化パケットに基づいて、符号化パケットが正常に受信されているか否かを上述した3階層それぞれの符号化パケットについて判定する。
さらに、パケットロス検出部12は、判定した結果を、符号化パケット受信可否フラグとして符号化パケット記憶部19に記憶させる。
ここで、符号化パケット受信可否フラグは、各階層に対応付けられる。すなわち、符号化パケット受信可否フラグは、基本階層の符号化パケット受信可否フラグと、拡張階層#1の符号化パケット受信可否フラグと、拡張階層#2の符号化パケット受信可否フラグとを含んでいる。
また、符号化パケット受信可否フラグは、フラグが真である場合に符号化パケットが正常に受信されたことを示し、偽である場合に正常に受信されなかったことを示す。
なお、符号化パケットが正常に受信されなかった場合とは、符号化パケットの一部又は全部が欠損している場合や、受信待ちをしている符号化パケットが所定の時間内に到着しなかった場合を含む。さらに、符号化パケットが正常に受信されなかった場合とは、当該符号化パケットは欠損せず届いているが、その符号化パケット内のデータの復号に必要な別の符号化パケットのデータが欠損している場合を含む。
例えば、量子化係数や動きベクトルなどの情報が格納された符号化パケット#Aは正常に受信されたが、SPS(Sequence Parameter Set)やPPS(Picture Parameter Set)といった情報が入った符号化パケット#Bが受信されなかった場合は、符号化パケット#Aが持つ画像領域の復号信号の生成は不可能である。したがって、この場合は、パケットロス検出部12は符号化パケット#Aが正常に受信されなかったと判定して符号化パケット受信可否フラグを符号化パケット記憶部19に記憶させる。
パケットロス検出部12は、すべての階層、すなわち基本階層と、拡張階層#1と、拡張階層#2との符号化パケット受信可否フラグが真である場合に、経路Aの分岐を選択する。ここで経路Aの分岐とは、基本階層データ復号部13と、拡張階層#1データ復号部14と、拡張階層#2データ復号部15との処理を実行する経路である。
また、パケットロス検出部12は、拡張階層#2の符号化パケット受信可否フラグが偽である場合、かつ拡張階層#1と基本階層の符号化パケット受信可否フラグが真である場合は、経路Bの分岐を選択する。
ここで経路Bの分岐とは、基本階層データ復号部13と、拡張階層#1データ復号部14と、エラー隠蔽処理部16との処理を実行する経路である。
また、パケットロス検出部12は、拡張階層#2と拡張階層#1の符号化パケット受信可否フラグが偽である場合、かつ基本階層の符号化パケット受信可否フラグが真である場合に、経路Cの分岐を選択する。
ここで経路Cの分岐とは、基本階層データ復号部13と、エラー隠蔽処理部16との処理を実行する経路である。
また、パケットロス検出部12は、すべての階層の符号化パケット受信可否フラグが偽である場合には、経路Dの分岐を選択する。
ここで経路Dの分岐とは、エラー隠蔽処理部17の処理を実行する経路である。
基本階層データ復号部13は、符号化パケットを符号化パケット記憶部19から読み出し、符号化パケットから基本階層の符号化信号を生成する。基本階層データ復号部13は、この符号化信号の復号処理をおこなって、符号化信号に含まれる基本階層の動き情報と、基本階層の復号信号とを生成する。
また、基本階層データ復号部13は、基本階層の符号化信号と、基本階層の動き情報と、基本階層の復号信号とを復号信号記憶部20に再生時刻と対応付けて記憶させる。
拡張階層#1データ復号部14は、拡張階層#1の符号化データを保有した符号化パケットを符号化パケット記憶部19から読み出し、符号化パケットから符号化信号を取り出す。拡張階層#1データ復号部14は、この符号化信号の復号処理をおこなって、符号化信号に含まれる拡張階層#1の動き情報と、拡張階層#1の復号信号とを生成する。
また、拡張階層#1データ復号部14は、拡張階層#1の符号化信号と、拡張階層#1の動き情報と、拡張階層#1の復号信号とを復号信号記憶部20に再生時刻と対応付けて記憶させる。
拡張階層#2データ復号部15は、拡張階層#2の符号化データを保有した符号化パケットを符号化パケット記憶部19から読み出し、復号信号記憶部20から符号化信号を取り出す。拡張階層#2データ復号部15は、この符号化信号の復号処理をおこなって、拡張階層#2の動き情報と、拡張階層#2の復号信号を生成する。拡張階層#2データ復号部15は、拡張階層#2の符号化信号と、拡張階層#2の動き情報と、拡張階層#2の復号信号とを復号信号記憶部20に再生時刻と対応付けて記憶させる。
さらに、拡張階層#2データ復号部15は、拡張階層#2の復号信号を、再生用信号として出力する。
エラー隠蔽処理部16は、拡張階層#2の下位階層である基本階層又は拡張階層#1に対応付けられる情報に基づいてエラー隠蔽信号を生成する。
さらに、エラー隠蔽処理部16は、生成したエラー隠蔽信号から再生用信号を生成し、再生用信号を再生用信号記憶部21に再生時刻と対応付けて記憶させる。
エラー隠蔽処理部16の詳細な構成は、後述する[エラー隠蔽処理部16の構成]で説明する。
エラー隠蔽処理部17は、当該時刻以外の時刻の符号化データや復号信号に基づいてエラー隠蔽信号を生成する。すなわち、エラー隠蔽処理部17は、拡張階層#2の下位階層である基本階層又は拡張階層#1に対応付けられるいずれの情報も使用しないで、エラー隠蔽信号を生成する。
さらに、エラー隠蔽処理部17は、生成したエラー隠蔽信号を再生用信号として再生用信号記憶部21に記憶させる。
ここで、エラー隠蔽処理部17は、例えば、特許文献1に記載の公知の技術によるエラー隠蔽処理を行う。
[エラー隠蔽処理部16の構成]
次に、図2を参照して、図1に示すエラー隠蔽処理部16の詳細な構成について説明する。
エラー隠蔽処理部16は、全マクロブロック処理完了判定部101と、エラー隠蔽信号生成部102と、再生用信号生成部103とを備える。
なお、本実施形態では、エラー隠蔽処理部16がエラー隠蔽処理を行う画像領域単位はフレームである。フレームは、再生時刻と対応付けられ、時系列に基づいて順番に構成される。1フレームの画像領域の大きさは、16×16画素サイズ以上とする。
さらに、エラー隠蔽処理部16がエラー隠蔽処理を行う実行単位はフレームの画像領域を分割したマクロブロックである。1マクロブロックの画像領域単位の大きさは、16×16画素サイズとする。
エラー隠蔽処理部16が1回のエラー隠蔽処理を行うフレーム数は、1フレームである。
また、基本階層と拡張階層#1との符号化パケットが正常に受信され、拡張階層#2の符号化パケットが正常に受信されなかった場合について説明する。すなわち、拡張階層#2は、再生用信号を生成する対象となる再生階層であり、かつ、エラー隠蔽処理の対象階層である。また、拡張階層#1は、符号化パケットが正常に受信された復号可能階層である。
また、例えば、拡張階層#2と拡張階層#1との縦横解像度比は2:1であり、拡張階層#1と基本階層との縦横解像度比も、2:1 である。
全マクロブロック処理完了判定部101は、1フレーム内のすべてのマクロブロックについて、エラー隠蔽処理の実行が完了したか否かを判定する。
エラー隠蔽信号生成部102は、パケットロス検出部12によって復号エラーの発生が検出された場合に、復号可能階層の符号化信号と、復号可能階層の復号信号と、復号エラー検出前符号化信号と、復号エラー検出前復号信号と、復号エラー検出前再生用信号と、に基づいて、再生階層と対応付けられたエラー隠蔽信号を生成する。
ここで、復号可能階層の符号化信号とは、パケットロス検出部12によって復号エラーの発生が検出された場合に、復号信号記憶部20に記憶している符号化信号のうち、再生階層と異なる階層である復号可能階層と対応付けて復号信号記憶部20に記憶している符号化信号である。
復号可能階層の復号信号とは、復号可能階層と対応付けて復号信号記憶部20に記憶している復号信号である。
復号エラー検出前符号化信号とは、パケットロス検出部12が復号エラーの発生を検出する前に復号信号記憶部20に記憶している符号化信号である。
復号エラー検出前復号信号とは、パケットロス検出部12が復号エラーの発生を検出する前に復号信号記憶部20に記憶している復号信号である。
復号エラー検出前再生用信号とは、パケットロス検出部12が復号エラーの発生を検出する前に再生用信号記憶部21に記憶している再生用信号である。
すなわち、エラー隠蔽信号生成部102は、拡張階層#1(復号可能階層)の符号化信号と、拡張階層#1(復号可能階層)の符号化信号に含まれる拡張階層#1(復号可能階層)の動き情報と、復号信号とを復号信号記憶部20から読み出す。
また、エラー隠蔽信号生成部102は、復号エラー発生前に記憶された拡張階層#2(再生階層)の符号化信号と、復号エラー発生前に記憶された拡張階層#2(再生階層)の符号化信号に含まれる拡張階層#2(再生階層)の動き情報と、復号エラー発生前に記憶された拡張階層#2(再生階層)の復号信号とを復号信号記憶部20から読み出す。
また、エラー隠蔽信号生成部102は、復号エラー発生前に記憶された拡張階層#2(再生階層)の再生用信号を再生用信号記憶部21から読み出す。
また、エラー隠蔽信号生成部102は、読み出した拡張階層#1(復号可能階層)の符号化信号と、動き情報と、復号信号、及び拡張階層#2(再生階層)の復号エラー発生前の符号化信号と、再生用信号とに基づいて、処理対象とするマクロブロックのエラー隠蔽信号を生成する。
さらに、エラー隠蔽信号生成部102は、エラー隠蔽信号を復号信号記憶部20に記憶させる。
エラー隠蔽信号生成部102の詳細な構成は、後述する[エラー隠蔽信号生成部102の構成]で説明する。
再生用信号生成部103は、エラー隠蔽信号生成部102によって生成されたエラー隠蔽信号に基づいて再生用信号を生成する。
すなわち、再生用信号生成部103は、フレームの各マクロブロックにおけるエラー隠蔽信号を復号信号記憶部20から読み出す。再生用信号生成部103は、読み出したエラー隠蔽信号に対してポストフィルタ処理を実行し、ポストフィルタ後の信号を当該時刻のフレームの再生用信号として生成する。
さらに、再生用信号生成部103は、再生用信号を再生用信号記憶部21に記憶させる。
ポストフィルタの一例としては、H.264/AVCやSVCにおけるデブロッキングフィルタがある。
[エラー隠蔽信号生成部102の構成]
次に、図3、図4を参照して、図2に示すエラー隠蔽信号生成部102の詳細な構成について説明する。
図3において、再生時刻tに対応付けられたフレームがフレームtに、フレームtよりも過去の再生時刻t−1に対応付けられたフレームがフレームt−1に対応する。
フレームt−1は、フレームtにおける動き予測の参照フレームF12として使用される。
本実施形態では、レイヤLを拡張階層#2、すなわち再生階層とし、レイヤLの下位階層であるレイヤL−1を拡張階層#1、すなわち復号可能階層とする。
フレームt内に描かれた16×16画素の画素座標範囲は、エラー隠蔽処理の実行単位であるマクロブロックMB11である。
下位階層対応ブロックとは、再生階層の下位階層である復号可能階層に存在し、再生階層のマクロブロックと空間的に同位置に存在するブロックである。
ここで、マクロブロックMB11と空間的に対応する復号可能階層の8×8画素の画素座標範囲が下位階層対応ブロックMB21である。
ここで、マクロブロックMB11と下位階層対応ブロックMB21との中心画素の座標は、それぞれ、(2px,2py)(px,py)である。
図4において、エラー隠蔽信号生成部102は、下位階層対応ブロック復号信号拡大部201と、下位階層対応ブロック予測モード判定部202と、エラー隠蔽信号生成手順切換え部203と、下位階層対応ブロック残差信号拡大部204と、下位階層対応ブロック動き情報スケーリング部205と、補正ベクトル算出部206と、動き補償部207と、信号加算部208とを備えている。
下位階層対応ブロック復号信号拡大部201(復号解像度変換エラー隠蔽信号生成部)は、復号可能階層と対応付けられて復号信号記憶部20に記憶されている復号信号を解像度比に基づいて解像度変換した信号を、エラー隠蔽信号として生成する。
すなわち、下位階層対応ブロック復号信号拡大部201は、復号信号記憶部20から下位階層対応ブロックの復号信号を読み出す。
さらに、下位階層対応ブロック復号信号拡大部201は、読み出した下位階層対応ブロックの復号信号に対して、拡張階層#2と拡張階層#1の解像度比に応じて解像度変換した復号信号を生成し、生成した信号をエラー隠蔽信号として復号信号記憶部20に記憶させる。
本実施形態においては、拡張階層#2と拡張階層#1との縦横解像度比が2:1であるため、下位階層対応ブロック復号信号拡大部201は、縦横それぞれ2倍に拡大した復号信号を出力する。
下位階層対応ブロック予測モード判定部202は、復号信号記憶部20から下位階層対応ブロックが保有する予測モードを読み出し、読み出した予測モードを予測モード判定結果として復号信号記憶部20に記憶させる。
ここで、予測モードは、符号化信号に含まれる情報であり、画像の動き予測方式を定める。
代表的な予測モードにはインター予測モードと、イントラ予測モードとがある。
インター予測モードとは、フレーム間の動き情報に基づいて、動き予測をするモードである。
一方、イントラ予測モードとは、フレーム間の画像比較による動き情報に基づかずに、1枚のフレーム内において動き予測をするモードである。
エラー隠蔽信号生成手順切換え部203は、復号可能階層と対応付けられて復号信号記憶部20に記憶されている符号化信号に含まれる動き予測モードに基づいて、信号加算部208(動き合成エラー隠蔽信号生成部)と、下位階層対応ブロック復号信号拡大部201と、のうちからいずれかを、エラー隠蔽信号生成部102として選択する。
すなわち、エラー隠蔽信号生成手順切換え部203は、下位階層対応ブロック予測モード判定部202によって生成された予測モード判定結果を復号信号記憶部20から読み出す。
さらに、エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した予測モード判定結果がインター予測モードの場合には、信号加算部208によって生成された信号をエラー隠蔽信号として復号信号記憶部20に記憶させる。
一方、エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した予測モード判定結果がイントラ予測モードの場合には、下位階層対応ブロック復号信号拡大部201によって生成された解像度変換した復号信号をエラー隠蔽信号として復号信号記憶部20に記憶させる。
下位階層対応ブロック残差信号拡大部204(予測残差信号解像度変換部)は、再生用信号の生成に用いられる予測残差信号であって、復号可能階層と対応付けられて復号信号記憶部に記憶されている符号化信号に含まれる動き情報に基づいた予測残差信号を、解像度比に基づいて、解像度変換予測残差信号に変換する。
すなわち、下位階層対応ブロック残差信号拡大部204は、復号信号記憶部20から下位階層対応ブロックが保有する予測残差信号を読み出す。
さらに、下位階層対応ブロック残差信号拡大部204は、読み出した下位階層対応ブロックが保有する予測残差信号を、あらかじめ定められた予測残差信号拡大手法によって、拡張階層#2と拡張階層#1の解像度比に応じて解像度変換した信号を生成し、生成した信号を復号信号記憶部20に記憶させる。
予測残差信号拡大手法の例としては、SVCにおいて階層間予測に利用するアップサンプルフィルタをはじめとする線形フィルタによる拡大手法や、超解像度手法などが挙げられる。
下位階層対応ブロック動き情報スケーリング部205(動き情報解像度変換部)は、再生用信号の生成に用いられる動き情報であって、復号可能階層と対応付けられて復号信号記憶部20に記憶されている符号化信号に含まれる動き情報を、再生階層と復号可能階層との解像度比に基づいて、解像度変換動き情報に変換する。
すなわち、下位階層対応ブロック動き情報スケーリング部205は、復号信号記憶部20から下位階層対応ブロックが保有する動き情報を読み出す。
さらに、下位階層対応ブロック動き情報スケーリング部205は、読み出した下位階層対応ブロックが保有する動き情報を、あらかじめ定められた動き情報のスケーリング(解像度変換)方法によって、再生階層(拡張階層#2)と復号可能階層(拡張階層#1)の解像度比に応じて解像度変換した信号を解像度変換後の動き情報を生成する。
さらに、下位階層対応ブロック動き情報スケーリング部205は、生成した解像度変換後の動き情報を、復号信号記憶部20に記憶させる。
ここで、動き情報とは、動きベクトル、動き予測の参照フレームインデックス、予測モード、ブロック分割形状に代表される動き補償に用いる情報のことである。
予測モード及び参照フレームインデックスは、下位階層対応ブロックに対応付けられた情報をそのまま継承し、動きベクトル及びブロック分割形状は解像度比に応じて解像度変換する。
本実施形態においては、拡張階層#2と拡張階層#1との縦横解像度比が2:1であるため、下位階層対応ブロックに対応付けられた動きベクトルを(mx,my)とすると、解像度変換された動きベクトルは(2mx,2my)となる。
補正ベクトル算出部206(補正動き情報算出部)は、解像度変換動き情報を補正する情報である、補正動き情報を算出する。
すなわち、補正ベクトル算出部206は、下位階層対応ブロックの復号信号の拡大信号、予測残差信号の拡大信号、解像度変換後の動き情報、復号エラー発生前に復号信号記憶部20に記憶された再生用信号、及びその他補正に必要となる所定の情報を復号信号記憶部20から読み出す。
さらに、補正ベクトル算出部206は、復号信号記憶部20から読み出したこれらの信号及び情報基づいて解像度変換後の動き情報を補正する補正動き情報(補正ベクトル)を生成し、復号信号記憶部20に記憶させる。
補正ベクトル算出部206の詳細な構成は、後述する[補正ベクトル算出部206の構成]で説明する。
動き補償部207(動き補償信号生成部)は、解像度変換動き情報を補正動き情報によって補正した補正後の動き情報に基づいて、再生階層に対応付けられた信号である動き補償信号を生成する。
すなわち、動き補償部207は、解像度変換後の動き情報と、補正動き情報(補正ベクトル)と、復号エラー発生前に復号信号記憶部20に記憶された動き情報とを復号信号記憶部20から読み出す。
さらに、動き補償部207は、復号信号記憶部20から読み出したこれらの信号及び情報基づいて、用いてエラー隠蔽処理対象のマクロブロックに対する動き補償信号を生成し、復号信号記憶部20に記憶させる。
信号加算部208は、動き補償信号と解像度変換予測残差信号とに基づいて、エラー隠蔽信号を生成する。
すなわち、信号加算部208は、動き補償部207によって復号信号記憶部20に記憶された動き補償信号と、下位階層対応ブロック残差信号拡大部204によって復号信号記憶部20に記憶された予測残差信号の拡大信号を復号信号記憶部20から読み出す。
さらに、信号加算部208は、復号信号記憶部20から読み出したこれらの信号を加算した信号を生成し、復号信号記憶部20に記憶させる。
[補正ベクトル算出部206の構成]
次に、図5を参照して、図3に示す各マクロブロックにおける、図4に示す補正ベクトル算出部206の詳細な構成について説明する。
補正ベクトル算出部206は、下位階層対応ブロック予測残差信号絶対値和算出部301と、階層解像度比算出部302と、下位階層対応ブロック動きベクトルノルム算出部303と、補正ベクトル探索範囲決定部304と、補正ベクトル探索部305とを備えている。
下位階層対応ブロック予測残差信号絶対値和算出部301は、下位階層対応ブロックの各画素における予測残差信号を復号信号記憶部20から読み出す。
次に、下位階層対応ブロック予測残差信号絶対値和算出部301は、復号信号記憶部20から読み出した各画素における予測残差信号に基づいて、これら予測残差信号の絶対値の総和(SAD:Sum of Absolute Distance)を算出し、算出したSADを復号信号記憶部20に記憶させる。
なお、復号信号記憶部20に記憶された、下位階層対応ブロックが保有する予測残差信号を拡大した信号に対してSADを計算してもよい。
階層解像度比算出部302は、復号信号記憶部20から、再生階層の解像度と復号可能階層の解像度を読み出す。
次に、階層解像度比算出部302は、復号信号記憶部20から読み出した再生階層の解像度と復号可能階層の解像度との縦横比を算出し、算出した解像度の縦横比を復号信号記憶部20に記憶させる。
下位階層対応ブロック動きベクトルノルム算出部303は、復号信号記憶部20に記憶された下位階層対応ブロックが保有する動きベクトルを読み出す。
次に、下位階層対応ブロック動きベクトルノルム算出部303は、読み出した動きベクトルのノルムを算出し、算出した動きベクトルノルムを復号信号記憶部20に記憶させる。
ここで、ノルムの代表例としてはユークリッド距離が挙げられる。
補正ベクトル探索範囲決定部304(探索座標範囲決定部)は、探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、前記動き情報、前記予測残差信号、又は前記解像度比に基づいたブロックマッチング探索座標範囲、を決定する。
すなわち、補正ベクトル探索範囲決定部304は、復号信号記憶部20から、予測残差信号のSADの値と、縦横解像度比と、動きベクトルノルムと、探索範囲決定のためのしきい値群を読み出す。
次に、補正ベクトル探索範囲決定部304は、復号信号記憶部20から読み出した、予測残差信号のSADの値と、縦横解像度比と、動きベクトルノルムと、探索範囲決定のためのしきい値群とに基づいて、補正ベクトルの探索のための探索範囲を決定する。
次に、補正ベクトル探索範囲決定部304は、決定した探索範囲を復号信号記憶部20に記憶させる。
ここで、予測残差信号のSADの値とは、下位階層対応ブロック予測残差信号絶対値和算出部301によって出力された下位階層対応ブロックの予測残差信号のSADの値である。
また、縦横解像度比とは、階層解像度比算出部302によって出力された再生階層と復号可能階層の縦横解像度比である。
また、動きベクトルノルムとは、下位階層対応ブロック動きベクトルノルム算出部303によって出力された下位階層対応ブロックの動きベクトルノルムである。
また、しきい値群は、あらかじめ外部モジュールによって与えられるものとし、経験的な値が設定される外部設定値として定められ、又は本発明とは別のモジュール内にて計算されるといった方法等で決定される。
補正ベクトル探索部305(補正動き情報探索部)は、解像度変換動き情報によって指定されるブロックマッチング探索中心座標を探索中心座標とし、ブロックマッチング探索座標範囲を探索座標範囲とするブロックマッチングの結果、コスト関数の値が最小となる座標をブロックマッチング結果座標として探索する。
すなわち、補正ベクトル探索部305は、復号信号を拡大した信号と、予測残差信号を拡大した信号と、解像度変換した動きベクトルと、探索範囲とを復号信号記憶部20から読み出す。
次に、補正ベクトル探索部305は、復号信号記憶部20から読み出した、復号信号を拡大した信号と、予測残差信号を拡大した信号と、解像度変換した動きベクトルとに基づいてブロックマッチング探索中心座標を決定する。
次に、補正ベクトル探索部305は、ブロックマッチング探索中心座標と、探索範囲に基づいてブロックマッチングを実行し、コスト関数の値が最小となる座標をブロックマッチング結果座標として探索する。
補正ベクトル決定部306(補正動き情報決定部)は、ブロックマッチング結果座標とブロックマッチング探索中心座標との差を補正動き情報として決定する。
すなわち、補正ベクトル決定部306は、ブロックマッチング結果座標と、ブロックマッチング探索中心座標との差に基づいて、補正ベクトル(補正動き情報)を決定する。
次に、補正ベクトル決定部306は、決定した補正ベクトルを復号信号記憶部20に記憶させる。
ここで、復号信号を拡大した信号とは、下位階層対応ブロック復号信号拡大部201によって生成された下位階層対応ブロックの復号信号を拡大した信号である。
また、予測残差信号を拡大した信号とは、下位階層対応ブロック残差信号拡大部204によって生成された下位階層対応ブロックの予測残差信号を拡大した信号である。
また、探索範囲とは、補正ベクトル探索範囲決定部304によって決定された探索範囲である。
なお、前述の探索範囲は、画像の縦方向と横方向に同じ値を設定しているが、それぞれ異なる値を用いてもよい。
[映像再生装置1の動作]
次に、図1、図6を参照して、図1に示す映像再生装置1の動作を説明する。
まず、パケット受信部11は、符号化パケットを受信する。
次に、パケット受信部11は、受信した符号化パケットが、基本階層、拡張階層#1、拡張階層#2いずれの階層符号化信号を含む符号化パケットであるかを判定し、判定した階層及び受信時刻と符号化パケットとを対応付けて、符号化パケットを符号化パケット記憶部19に記憶させる(ステップS11)。
すなわち、符号化パケット記憶部19に記憶される符号化パケットには、所定時刻に受信された符号化パケットであって、所定時刻に対応付けられて符号化パケット記憶部に記憶されている符号化パケットが含まれる。
ステップS12において、パケットロス検出部12は、符号化パケット記憶部19から階層及び受信時刻に対応付けられた符号化パケットを読み込み、符号化パケットが正常に受信されているかを判定する。
次に、パケットロス検出部12は、受信判定結果を示す符号化パケット受信可否フラグを生成して符号化パケット記憶部19に記憶させる。
ここで、符号化パケット受信可否フラグは、フラグが真であれば符号化パケットが正常に受信されたことを、フラグが偽であれば正常に受信されなかったことを示す。
なお、符号化パケット受信可否フラグは、受信した符号化パケットの階層に対応させて生成する。すなわち、受信した符号化パケットが、基本階層の符号化パケットであれば、基本階層の符号化パケット受信可否フラグを、拡張階層#1の符号化パケットであれば、拡張階層#1の符号化パケット受信可否フラグを、拡張階層#2の符号化パケットであれば、拡張階層#2の符号化パケット受信可否フラグを、それぞれ生成する。
パケットロス検出部12は、基本階層の符号化パケット受信可否フラグの真偽に基づいて、基本階層の符号化パケットがロスしているか否かを判定し、判定結果に基づいて処理を選択する(ステップS13)。
すなわち、パケットロス検出部12は、フラグが真、つまり基本階層の符号化パケットがロスしている場合は、ステップS14に処理を進める。
一方、パケットロス検出部12は、フラグが偽、つまり基本階層の符号化パケットがロスしていない場合は、ステップS15に処理を進める。
ステップS13における判定の結果、基本階層の符号化パケットがロスしている場合、エラー隠蔽処理部17は、あらかじめ定められたエラー隠蔽処理を適用することによって再生用信号を生成し、生成した再生用信号を再生用信号記憶部21に記憶させる(ステップS14)。
なお、エラー隠蔽処理部17が適用するあらかじめ定められたエラー隠蔽処理は、例えば、特許文献1に記載のエラー隠蔽処理である。
次に、ステップS13における判定の結果、基本階層の符号化パケットがロスしていない場合、パケットロス検出部12は、拡張階層#1の符号化パケット受信可否フラグの真偽に基づいて、拡張階層#1の符号化パケットがロスしているか否かを判定し、判定結果に基づいて処理を選択する(ステップS15)。
すなわち、パケットロス検出部12は、フラグが真、つまり拡張階層#1の符号化パケットがロスしている場合は、ステップS16に処理を進める。
一方、パケットロス検出部12は、フラグが偽、つまり拡張階層#1の符号化パケットがロスしていない場合は、ステップS17に処理を進める。
基本階層データ復号部13は、基本階層の符号化パケットに基づいて復号処理をおこなう(ステップS16)。
すなわち、ステップS15における判定の結果、拡張階層#1の符号化パケットがロスしている場合、基本階層データ復号部13は、基本階層の符号化信号を保有した符号化パケットを符号化パケット記憶部19から読み込む。基本階層データ復号部13は、読み込んだ符号化パケットから基本階層の符号化信号を取り出し、復号処理を行い、基本階層の動き情報と、基本階層の復号信号とを生成する。
さらに、基本階層データ復号部13は、基本階層の符号化信号と、基本階層の動き情報と、基本階層の復号信号とを、復号信号記憶部20に記憶させる。
ステップS15における判定の結果、拡張階層#1の符号化パケットがロスしていない場合、パケットロス検出部12は、拡張階層#2のパケット受信可否フラグの真偽に基づいて、拡張階層#2の符号化パケットがロスしているか否かを判定し、判定結果に基づいて処理を選択する。
すなわち、パケットロス検出部12は、フラグが真、つまり拡張階層#2の符号化パケットがロスしている場合は、ステップS18に処理を進める。
一方、パケットロス検出部12は、フラグが偽、つまり拡張階層#2の符号化パケットがロスしていない場合は、ステップS20に処理を進める(ステップS17)。
次に、基本階層及び拡張階層#1の符号化パケットに基づいて復号処理をおこなう(ステップS18)。
すなわち、基本階層データ復号部13及び拡張階層#1データ復号部14は、所定時刻に受信された符号化パケットであって、所定時刻に対応付けられて符号化パケット記憶部19に記憶されている符号化パケットに基づいて、所定時刻に対応付けられた符号化信号を階層毎に生成するとともに、符号化信号に基づいて、所定時刻に対応付けられた復号信号を階層毎に生成する(復号信号生成ステップ)。
つまり、ステップS17における判定の結果、拡張階層#2の符号化パケットがロスしている場合、ステップS18において、基本階層データ復号部13及び拡張階層#1データ復号部14は、次の手順で処理を行う。
まず、ステップS18において、基本階層データ復号部13は、符号化パケット記憶部19から基本階層の符号化データを保有した符号化パケットを読み込む。基本階層データ復号部13は、読み込んだ符号化パケットから基本階層の符号化信号を取り出し、復号処理を行い、基本階層の動き情報と、基本階層の復号信号とを生成する。基本階層の符号化信号と、基本階層の動き情報と、基本階層の復号信号とを、復号信号記憶部20に記憶させる。
次に、拡張階層#1データ復号部14は、符号化パケット記憶部19から拡張階層#1の符号化信号を保有した符号化パケットを読み込む。拡張階層#1データ復号部14は、読み込んだ符号化パケットから拡張階層#1の符号化信号を取り出し、復号処理を行い、拡張階層#1の動き情報と、拡張階層#1の復号信号とを生成する。拡張階層#1データ復号部14は、拡張階層#1の符号化信号と、拡張階層#1の動き情報と、拡張階層#1の復号信号とを、復号信号記憶部20に記憶させる。
ステップS19において、エラー隠蔽処理部16は、所定時刻よりも過去の時刻に対応付けられて復号信号記憶部20に予め記憶されている過去の符号化信号と、過去の時刻に対応付けられて復号信号記憶部20に予め記憶されている過去の復号信号と、過去の時刻に対応付けられて再生用信号記憶部21に予め記憶されている過去の再生用信号と、を取得する(信号取得ステップ)。
すなわち、ステップS19において、エラー隠蔽処理部16は、次の手順で処理を行う。
まず、エラー隠蔽処理部16は、過去の基本階層の符号化信号と、過去の基本階層の復号信号とを復号信号記憶部20から読み込む。
次に、エラー隠蔽処理部16は、再生用信号記憶部21から過去の再生階層(拡張階層#2)の再生用信号を読み込む。
ここで、過去の基本階層の符号化信号及び過去の基本階層の復号信号は、復号エラーが発生する前に基本階層データ復号部13が復号信号記憶部20に記憶させた基本階層の符号化信号及び基本階層の復号信号である。
さらに、ステップS19において、エラー隠蔽処理部16は、所定時刻に対応付けられた符号化信号と、所定時刻に対応付けられている復号信号と、過去の符号化信号と、過去の復号信号と、過去の再生用信号と、に基づいて所定時刻に対応付けられたエラー隠蔽信号を生成する(エラー隠蔽信号生成ステップ)。
さらに、ステップS19において、エラー隠蔽処理部16は、エラー隠蔽信号生成ステップにおいて生成されたエラー隠蔽信号に基づいて所定時刻に対応付けられた再生用信号を生成する(再生用信号生成ステップ)。
エラー隠蔽処理ステップS19の詳細な動作は、後述する[エラー隠蔽処理部16の動作]で説明する。
次に、基本階層データ復号部13、拡張階層#1データ復号部14及び拡張階層#2データ復号部15は、基本階層及び拡張階層#1及び拡張階層#2の符号化パケットに基づいて復号処理を行う(ステップS20)。
すなわち、ステップS17における判定の結果、拡張階層#2の符号化パケットがロスしていない場合、基本階層データ復号部13、拡張階層#1データ復号部14及び拡張階層#2データ復号部15は、次の手順で処理を行う。
まず、基本階層データ復号部13は、符号化パケット記憶部19から基本階層の符号化データを保有した符号化パケットを読み込む。基本階層データ復号部13は、読み込んだ符号化パケットから基本階層の符号化信号を取り出し、復号処理を行い、基本階層の動き情報と、基本階層の復号信号とを生成する。基本階層データ復号部13は、基本階層の符号化信号と、基本階層の動き情報と、基本階層の復号信号とを、復号信号記憶部20に記憶させる。
次に、拡張階層#1データ復号部14は、符号化パケット記憶部19から拡張階層#1の符号化信号を保有した符号化パケットを読み込む。拡張階層#1データ復号部14は、読み込んだ符号化パケットから拡張階層#1の符号化信号を取り出し、復号処理を行い、拡張階層#1の動き情報と、拡張階層#1の復号信号とを生成する。拡張階層#1データ復号部14は、拡張階層#1の符号化信号と、拡張階層#1の動き情報と、拡張階層#1の復号信号とを、復号信号記憶部20に記憶させる。
次に、拡張階層#2データ復号部15は、符号化パケット記憶部19から拡張階層#2の符号化信号を保有した符号化パケットを読み込む。拡張階層#2データ復号部15は、読み込んだ符号化パケットから拡張階層#2の符号化信号を取り出し、復号処理を行い、拡張階層#2の動き情報と、拡張階層#2の復号信号とを生成する。拡張階層#2データ復号部15は、拡張階層#2の符号化信号と、拡張階層#2の動き情報と、拡張階層#2の復号信号とを、復号信号記憶部20に記憶させる。
なお、拡張階層#2データ復号部15によって生成される拡張階層#2の復号信号は、再生用信号となる。
[エラー隠蔽処理部16の動作]
次に、図3、図8を参照して、図1に示すエラー隠蔽処理部16の詳細な動作について説明する。
まず、マクロブロック単位のループを開始する。
ステップS101において、エラー隠蔽信号生成部102は、基本階層の動き情報と、基本階層の復号信号と、拡張階層#1の動き情報と、拡張階層#1の復号信号とを復号信号記憶部20から読み込む。
読み込んだ動き情報と復号信号に基づいて、エラー隠蔽処理として、当該マクロブロックのエラー隠蔽信号を生成し、生成したエラー隠蔽信号を復号信号記憶部20に書き出す。
エラー隠蔽信号生成処理ステップ(ステップS101)の詳細な動作は後述する[エラー隠蔽信号生成部102の動作]で説明する。
全マクロブロック処理完了判定部101は、フレーム内の全てのマクロブロックについてエラー隠蔽処理が完了したか否かを判定する。
判定の結果、全マクロブロック処理完了判定部101は、全てのマクロブロックについてエラー隠蔽処理が終了していれば、ステップS102に処理を進める。エラー隠蔽処理が終了していなければ、全マクロブロック処理完了判定部101は、次のマクロブロックの処理を行うため、ステップS101に処理を戻す。
再生用信号生成部103は、エラー隠蔽信号に基づいて所定時刻に対応付けられた再生用信号を生成する(ステップS102、再生用信号生成ステップ)。
すなわち、ステップS102において、再生用信号生成部103は、全てのマクロブロックについて処理が終了した時点で、フレームの各マクロブロックにおけるエラー隠蔽信号を復号信号記憶部20から読み込む。再生用信号生成部103は、読み込んだエラー隠蔽信号にポストフィルタ処理を実行する。
さらに、再生用信号生成部103は、ポストフィルタ処理後の信号を当該時刻の当該フレームの再生用信号として生成し、生成した再生用信号を再生用信号記憶部21に記憶させる。
[エラー隠蔽信号生成部102の動作]
次に、図4、図8を参照して、図3に示すエラー隠蔽信号生成部102の詳細な動作について説明する。
図4に示すステップS201(復号解像度変換エラー隠蔽信号生成ステップ)において下位階層対応ブロック復号信号拡大部201は、エラー隠蔽信号として、復号可能階層に対応付けられ、かつ所定時刻に対応付けられている復号信号を解像度変換した、解像度変換後の復号信号を生成する。
すなわち、ステップS201において、まず、下位階層対応ブロック復号信号拡大部201は、下位階層対応ブロックの復号信号を復号信号記憶部20から読み込む。下位階層対応ブロック復号信号拡大部201は、あらかじめ定められた復号信号拡大手法により、復号信号を拡張階層#2と拡張階層#1の解像度比に応じて解像度変換する。下位階層対応ブロック復号信号拡大部201は、解像度変換した復号信号に対して必要に応じて有効画素値へのクリッピング処理を行う。
さらに、下位階層対応ブロック復号信号拡大部201は、解像度変換した復号信号を出力として復号信号記憶部20に記憶させる。
本実施形態においては、拡張階層#2と拡張階層#1との縦横解像度比が2:1であるため、下位階層対応ブロック復号信号拡大部201は、縦横それぞれ2倍に拡大した復号信号を出力する。
ここで、復号信号拡大手法の例としては、SVCにおいて階層間予測に利用するアップサンプルフィルタをはじめとする線形フィルタによる拡大手法や、超解像度手法などが挙げられる。
また、クリッピング処理とは、解像度変換後の信号が有効画素値の範囲を超える場合に、解像度変換後の信号のうち、有効画素範囲を超えた部分を切り取り、有効画素値の範囲内に収める処理のことである。
次に、エラー隠蔽信号生成手順切換え部203は、ステップS208(動き合成エラー隠蔽信号生成ステップ)と、ステップS201と、のうちからいずれかのステップによって処理するかを、復号可能階層に対応付けられ、かつ所定時刻に対応付けられている画像動き予測モードに応じて切換える(ステップS202、エラー隠蔽信号生成手順切換えステップ)。
すなわち、下位階層対応ブロック予測モード判定部202は、下位階層対応ブロックが保有する予測モードを復号信号記憶部20から読み込み、予測モードに基づいて処理を選択する。
予測モードがイントラ予測モードである場合は、下位階層対応ブロック予測モード判定部202は、ステップS203に処理を進める。
一方、予測モードがインター予測モードである場合は、下位階層対応ブロック予測モード判定部202は、ステップS204に処理を進める。
ステップS202において、予測モードがイントラ予測モードと判定された場合、エラー隠蔽信号生成手順切換え部203は、ステップS201によって生成された解像度変換後の復号信号を復号信号記憶部20から読み込み、エラー隠蔽信号として復号信号記憶部20に記憶させる(ステップS203)。
次に、下位階層対応ブロック残差信号拡大部204は、下位階層対応ブロックの予測残差信号を解像度変換する(ステップS204)。
すなわち、画像動き予測に基づいた予測残差信号であって、復号可能階層に対応付けられ、かつ所定時刻に対応付けられている予測残差信号を、解像度変換した解像度変換後の予測残差信号、を生成する(予測残差信号解像度変換ステップ)。
具体的には、ステップS202において、予測モードがインター予測モードと判定された場合、まず、下位階層対応ブロック残差信号拡大部204は、下位階層対応ブロックに対応付けられた予測残差信号を復号信号記憶部20から読み込む。下位階層対応ブロック残差信号拡大部204は、あらかじめ定められた予測残差信号拡大手法により、予測残差信号を拡張階層#2と拡張階層#1の解像度比に応じて解像度変換する。
さらに、下位階層対応ブロック残差信号拡大部204は、解像度変換した予測残差信号を復号信号記憶部20に記憶させる。
本実施形態においては、拡張階層#2と拡張階層#1との縦横解像度比が2:1であるため、下位階層対応ブロック残差信号拡大部204は、縦横それぞれ2倍に拡大した予測残差信号を出力する。
予測残差信号拡大手法の例としては、SVCにおいて階層間予測に利用するアップサンプルフィルタをはじめとする線形フィルタによる拡大手法や、超解像度手法などが挙げられる。
ステップS205(動き情報解像度変換ステップ)において、下位階層対応ブロック動き情報スケーリング部205は、解像度変換後の動き情報を生成する。
ここで、解像度変換後の動き情報とは、所定時刻に対応付けられた再生用信号の生成に用いられる動き情報であって、エラー隠蔽信号が生成される対象の階層である再生階層よりも下位の階層である復号可能階層に対応付けられ、かつ所定時刻に対応付けられた動き情報を、再生階層と復号可能階層との解像度比に基づいて解像度変換した、解像度変換後の動き情報である。
すなわち、ステップS205において、まず、下位階層対応ブロック動き情報スケーリング部205は、下位階層対応ブロックに対応付けられた動き情報を復号信号記憶部20から読み込む。下位階層対応ブロック動き情報スケーリング部205は、あらかじめ定められた動き情報のスケーリング方法により、動き情報を拡張階層#1と拡張階層#2との解像度比に応じて解像度変換する。
さらに、下位階層対応ブロック動き情報スケーリング部205は、解像度変換した動き情報を復号信号記憶部20に記憶させる。
次に、補正ベクトル算出部206は、解像度変換後の動き情報を補正する情報である、補正動き情報を算出する(ステップS206、補正動き情報算出ステップ)。
すなわち、補正ベクトル算出部206は、図3に示す参照フレームF12に対応する再生用信号を再生用信号記憶部21から読み込み、さらに、下位階層対応ブロックの復号信号の拡大信号、予測残差信号の拡大信号、解像度変換した動きベクトル、及びその他補正に必要となる所定の情報を復号信号記憶部20から読み込む。補正ベクトル算出部206は、読み込んだ再生用信号、下位階層対応ブロックの復号信号の拡大信号、予測残差信号の拡大信号、解像度変換した動きベクトル、及びその他補正に必要となる所定の情報に基づいて、解像度変換した動きベクトルを補正する補正ベクトルを求める。
さらに、補正ベクトル算出部206は、求めた補正ベクトルを復号信号記憶部20に記憶させる。
補正ベクトル算出ステップS206の詳細な動作は、後述する[補正ベクトル算出部206の動作]で説明する。
ステップS207(動き補償信号生成ステップ)において、動き補償部207は、再生階層に対応付けられている動き補償信号であって、解像度変換後の動き情報を補正動き情報によって補正した補正後の動き情報に基づいた動き補償信号、を生成する。
すなわち、ステップS207(動き補償信号生成ステップ)において、動き補償部207は、解像度変換後の動き情報と、補正ベクトルとを復号信号記憶部20から読み込む。
次に、動き補償部207は、読み込んだ解像度変換後の動き情報と、補正ベクトルに基づいて動き補償を行い、動き補償によって得られた動き補償信号を復号信号記憶部20に記憶させる。
ステップS208において、信号加算部208は、動き補償信号と解像度変換後の予測残差信号とに基づいて、エラー隠蔽信号を生成する。
すなわち、ステップS208において、信号加算部208は、動き補償部207における動き補償によって得られた信号と、下位階層対応ブロック残差信号拡大部204によって出力された予測残差信号の拡大信号を復号信号記憶部20から読み込む。信号加算部208は、これら動き補償によって得られた信号と予測残差信号の拡大信号とを加算合成した信号を生成する。
さらに、信号加算部208は、必要に応じて有効画素値範囲へのクリッピング処理を行い、生成された信号を復号信号記憶部20に記憶させる。
次に、エラー隠蔽信号生成手順切換え部203は、信号加算部208によって生成された信号を復号信号記憶部20から読み込み、エラー隠蔽信号として復号信号記憶部20に記憶させる(ステップS209)。
[補正ベクトル算出部206の動作]
次に、図3、図8、図9を参照して、図3に示す各マクロブロックにおける、図4に示す補正ベクトル算出部206の詳細な動作について説明する。
下位階層対応ブロック予測残差信号絶対値和算出部301は、下位階層対応ブロックが保有する予測残差信号を復号信号記憶部20から読み込む。
次に、下位階層対応ブロック予測残差信号絶対値和算出部301は、下位階層対応ブロックの各画素における予測残差信号の絶対値を求め、それら予測残差信号のSADを下位階層対応ブロックにおけるSADとして求める。
次に、下位階層対応ブロック予測残差信号絶対値和算出部301は、求めたSADを出力として復号信号記憶部20に記憶させる(ステップS301)。
階層解像度比算出部302は、再生階層の解像度と復号可能階層の解像度を復号信号記憶部20から読み込み、両者の縦横の比を算出し、その値を縦横解像度比として復号信号記憶部20に記憶させる(ステップS302)。
下位階層対応ブロック動きベクトルノルム算出部303は、下位階層対応ブロックが保有する動きベクトルを読み込む。
次に、下位階層対応ブロック動きベクトルノルム算出部303は、その動きベクトルに基づいて、動きベクトルのノルムを計算し、その値を出力として復号信号記憶部20に記憶させる(ステップS303)。
ステップS304(探索座標範囲決定ステップ)において、補正ベクトル探索範囲決定部304は、探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、動き情報、予測残差信号、又は解像度比に基づいたブロックマッチング探索座標範囲、を決定する
すなわち、ステップS304(探索座標範囲決定ステップ)において、補正ベクトル探索範囲決定部304は、予測残差信号のSADの値と、再生階層と復号可能階層の縦横解像度比と、下位階層対応ブロックの動きベクトルノルムとを復号信号記憶部20から読み込む。補正ベクトル探索範囲決定部304は、探索範囲決定のためのしきい値群を復号信号記憶部20から読み込む。
さらに、補正ベクトル探索範囲決定部304は、補正ベクトルの探索のための探索範囲を決定し、その探索範囲を出力として復号信号記憶部20に記憶させる。
ステップS305(補正動き情報探索ステップ)において、補正ベクトル探索部305(補正動き情報決定部)は、解像度変換後の動き情報によって指定されるブロックマッチング探索中心座標を探索中心座標とし、ブロックマッチング探索座標範囲を探索座標範囲とするブロックマッチングの結果、コスト関数の値が最小となる座標をブロックマッチング結果座標として探索する。
すなわち、ステップS305(補正動き情報探索ステップ)において、ブロックマッチングを行って補正ベクトルを算出する。
つまり、補正ベクトル探索部305は、復号信号を拡大した信号と、予測残差信号を拡大した信号と、解像度変換した動きベクトルと、探索範囲とを復号信号記憶部20から読み出す。
次に、補正ベクトル探索部305(補正動き情報決定部)は、復号信号記憶部20から読み出した、復号信号を拡大した信号と、予測残差信号を拡大した信号と、解像度変換した動きベクトルと、探索範囲に基づいてブロックマッチングを実行し、ブロックマッチング結果座標を決定する。
ステップS306(補正動き情報決定ステップ)において、補正ベクトル決定部306は、ブロックマッチング結果座標とブロックマッチング探索中心座標との差を補正動き情報とする。
すなわち、ステップS306(補正動き情報決定ステップ)において、補正ベクトル決定部306は、ブロックマッチング結果座標と、ブロックマッチング探索中心座標との差に基づいて、補正ベクトルを決定する。
次に、補正ベクトル決定部306は、決定した補正ベクトルを復号信号記憶部20に記憶させる。
なお、補正ベクトルの探索範囲決定ステップS304及びブロックマッチングによる補正ベクトル算出ステップS305の詳細な動作は、後述する[補正ベクトル探索範囲決定の動作]で説明する。
[補正ベクトル探索範囲決定の動作]
探索範囲の決定手順の一例を、以下に記す。
下位階層対応ブロックの動きベクトルのノルムnとするとき、これを複数のレベルに分解する。ここでは、一例としてMレベルに分解する場合、NM-1>NM-2>・・・>N1 という関係性になるM−1個のしきい値Nm を用意する。そして、以下の(1)のように探索範囲sを定める。
Figure 0005681557
ここで、探索範囲Smは、ノルムレベルmにおいて、設定する探索範囲であり、あらかじめ外部モジュール等より与えられるものとする。α は、解像度比であり、図3の場合には、α=1/2である。例えば、M=2、N=0、S=0、S=1とすると、動きベクトルのノルムが0の場合は探索をせず、ノルムが0より大きい場合は±1/2画素の範囲で探索を行う設定となる。
動きベクトルのノルムの場合と同様に、下位階層対応ブロックの予測残差信号のSADの値をレベル分解し、探索範囲を決定することもできる。SADの値をDとし、DM-1>DM-2>・・・>D1 となるM−1個のしきい値Dmを用意するとき、以下の(2)のように探索範囲sを定める。
Figure 0005681557
復号信号記憶部20から下位階層対応ブロックの解像度変換した動きベクトル、下位階層対応ブロックの復号信号を拡大した信号、及び下位階層対応ブロックの予測残差信号を拡大した信号を読み込む。
さらに、補正ベクトル探索範囲決定部304によって出力した探索範囲の値を読み込む。
続いて、解像度変換した動きベクトルが指す座標位置を中心として、指定された探索範囲内にて、ブロックマッチングを行う。
探索位置のブロックの信号をp、下位階層対応ブロックの予測残差信号の拡大信号をe、下位階層対応ブロックの復号信号の拡大信号をuとおくと、ブロックマッチングでは、次のように算出される。
Figure 0005681557
この(3)式をコスト関数として設定し、各探索位置において計算し、SADの値が最も小さくなる座標と探索中心との差分のベクトルを補正ベクトルとする。決定した補正ベクトルを、出力として復号信号記憶部20に記憶させる。
以上説明したように、映像再生装置1は、階層構造を有する映像符号化データが入力される場合において、所定時刻の再生階層が再生したいタイミングに復号されていない場合には、映像再生装置1の記憶部18に蓄積されている当該時刻より過去に受信した符号化パケットに含まれる符号化信号、復号信号や再生用信号、及び、受信された当該時刻の復号可能階層の符号化信号や復号信号などを用いて、当該時刻の再生用信号を生成する。映像再生装置1は、その生成信号を最終的な当該時刻の再生用信号として出力することができる。これにより映像再生装置1は、復号エラーが発生した場合でも、映像の品質の劣化を低減させることができる映像再生装置1を提供できる。
例えば、前述の探索範囲の決定処理は、下位階層対応ブロックの予測残差信号のSAD の値、所望階層と下位階層の縦横解像度比、下位階層対応ブロックの動きベクトルノルムに基づいて行われたが、探索範囲の決定に影響するパラメータはこれに限らない。
例えば、探索範囲の決定に影響するパラメータは、下位階層対応ブロックの予測モードの情報や、量子化パラメータ、画質推定値、下位階層対応ブロックが保有する動きベクトルが正しい動きを反映している度合いを示す信頼度の値などでもよい
また、探索範囲の決定に影響するパラメータは、当該マクロブロックに対して以前のエラーがどれだけ影響しているかを示すエラー累積値の値でもよい。例えば、当該フレームtのエラー累積値をz(t)とおき、当該フレームtの参照フレームがフレームt−1であるとき、
フレームtがエラーを含むとき:z(t)=z(t−1)+1
フレームtがエラーを含まず、Pフレーム又はBフレームのとき:z(t)=z(t−1)
フレームtがエラーを含まず、Iフレームのとき:z(t)=0
のように、エラー累積値を設定し、別途外部より与えるエラー累積値に対するしきい値の値に応じて、複数のレベルに分解し、探索範囲を決定してもよい。
さらに、これらのパラメータは単独で用いることもできるし、複数を組み合わせて用いることもできる。
また、前述の説明は、マクロブロック単位での処理の流れであったが、処理する単位はこれによらない。例えば、スライス単位、フレーム単位、複数フレームを束ねたGOP(Group of Picture)単位でも構わない。
また、前述は空間スケーラブル符号化の場合であったが、SNR(Signal to Noise Ratio)スケーラブル符号化や時間スケーラブル符号化の場合にも、応用可能である。
また、前述の例は、参照フレーム数が1枚であり、動き情報が片方向予測によって算出された例であったが、参照フレーム数が2枚以上の場合や、双方向予測の場合であっても、同様の手順によって、エラー隠蔽信号を生成することができる。
すなわち、当該マクロブロックにおける再生用信号の生成処理は、他のマクロブロックに依存せず個別に実施できる。
つまり、参照フレーム数が2枚以上の場合も、双方向予測の場合も、その都度、下位階層対応ブロックの動き情報が持つ参照インデックスからマクロブロックごとに参照先を同定し、動き情報の解像度変換とその情報の補正を行い、動き補償を実施し、エラー隠蔽信号を生成することができる。
また、下位階層対応ブロック残差信号拡大部204と、下位階層対応ブロック動き情報スケーリング部205の接続は、順序を入れ替えてもよいし、並列して構成してもよい。
また、得られたエラー隠蔽信号をそのまま出力してもよいし、他の手法によって得られたエラー隠蔽信号と重みづけ平均をとってもよい。
例えば、下位階層対応ブロックが保有する予測モードがイントラ予測モードであれば、下位階層対応ブロック復号信号拡大部201から出力された信号をエラー隠蔽信号とする。
この信号は、下位階層対応ブロックが保有する予測モードがインター予測モードであったとしても、生成は可能である。
そこで、インター予測モードであった場合には、下位階層対応ブロック復号信号拡大部201から出力された信号と、信号加算部208から出力された信号との間で重みづけ平均をとり、その後の信号を当該マクロブロックのエラー隠蔽信号として出力してもよい。
この場合、エラー隠蔽信号生成手順切換え部203(重みづけ平均信号生成部)は、復号可能階層と対応付けられて復号信号記憶部20に記憶されている符号化信号と、復号可能階層と対応付けられて復号信号記憶部20に記憶されている復号信号と、復号エラー検出前符号化信号と、復号エラー検出前復号信号と、復号エラー検出前再生用信号とに基づいて、信号加算部208によって生成されたエラー隠蔽信号と、下位階層対応ブロック復号信号拡大部201によって生成されたエラー隠蔽信号とを重みづけ平均して、エラー隠蔽信号を生成する。
すなわち、エラー隠蔽信号生成手順切換え部203は、下位階層対応ブロック予測モード判定部202によって生成された予測モード判定結果を復号信号記憶部20から読み出す。エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した予測モード判定結果がインター予測モードの場合には、信号加算部208によって予め生成された信号と、下位階層対応ブロック復号信号拡大部201によって予め生成された解像度変換した復号信号を復号信号記憶部20から読み出す。エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した、信号加算部208によって予め生成された信号と、下位階層対応ブロック復号信号拡大部201によって予め生成された解像度変換した復号信号との重みづけ平均を行ってエラー隠蔽信号を生成する。
さらに、エラー隠蔽信号生成手順切換え部203は、生成したエラー隠蔽信号として復号信号記憶部20に記憶させる。
また、この場合、ステップS209における処理は、エラー隠蔽信号生成手順切換え部203によって、重みづけ平均信号生成ステップとして実行される。
ステップS209(重みづけ平均信号生成ステップ)において、エラー隠蔽信号生成手順切換え部203は、復号可能階層に対応付けられ、かつ所定時刻に対応付けられている符号化信号と、復号可能階層に対応付けられ、かつ所定時刻に対応付けられている復号信号と、過去の符号化信号と、過去の復号信号と、過去の再生用信号とに基づいて、復号解像度変換エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、動き合成エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、を重みづけ平均してエラー隠蔽信号を生成する。
すなわち、ステップS209(重みづけ平均信号生成ステップ)においては、下位階層対応ブロック予測モード判定部202によって生成された予測モード判定結果を復号信号記憶部20から読み出す。
次に、エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した予測モード判定結果がインター予測モードの場合には、信号加算部208によって予め生成された信号と、下位階層対応ブロック復号信号拡大部201によって予め生成された解像度変換した復号信号を復号信号記憶部20から読み出す。
次に、エラー隠蔽信号生成手順切換え部203は、復号信号記憶部20から読み出した、信号加算部208によって予め生成された信号と、下位階層対応ブロック復号信号拡大部201によって予め生成された解像度変換した復号信号との重みづけ平均を行ってエラー隠蔽信号を生成する。
なお、コスト関数は(3)式に限られるものではなく、(4)式に示すコスト関数や、Boundary Matching Algorithmに基づくコスト式などが考えられる。絶対値和ではなく、二乗誤差の和であってもよい。
Figure 0005681557
また、特定の画素位置のコストについてはあらかじめオフセットを加えてもよい。例えば、中心となる解像度変換したベクトルが指す座標位置のみ、負のオフセット(offset<0)を加え、(5)式としてもよい。これにより、確率的に解像度変換したベクトルが指す座標位置が最良となる可能性が高い場合には、補正ベクトルによってズレが発生して性能が低下することを抑止できる。
Figure 0005681557
なお、この映像再生装置1、又は、この映像再生装置1が備える各部は、専用のハードウェアにより実現されるものであってもよく、また、この映像再生装置1、又は、この映像再生装置1が備える各部はメモリ及びCPU(中央演算装置)により構成され、映像再生装置1、又は、この映像再生装置1が備える各部の機能を実現するためのプログラムをメモリにロードして実行することによりその機能を実現させるものであってもよい。
また、図1における映像再生装置1、又は、この映像再生装置1が備える各部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、映像再生装置1、又は、この映像再生装置1が備える各部による処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。
また、「コンピュータシステム」は、WWWシステムを利用している場合であれば、ホームページ提供環境(あるいは表示環境)も含むものとする。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD−ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間の間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含むものとする。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
以上、この発明の実施形態を図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
1 映像再生装置
11 パケット受信部
12 パケットロス検出部
13 基本階層データ復号部
14 拡張階層#1データ復号部
15 拡張階層#2データ復号部
16 エラー隠蔽処理部
17 エラー隠蔽処理部
18 記憶部
19 符号化パケット記憶部
20 復号信号記憶部
21 再生用信号記憶部
101 全マクロブロック処理完了判定部
102 エラー隠蔽信号生成部
103 再生用信号生成部
201 下位階層対応ブロック復号信号拡大部
202 下位階層対応ブロック予測モード判定部
203 エラー隠蔽信号生成手順切換え部
204 下位階層対応ブロック残差信号拡大部
205 下位階層対応ブロック動き情報スケーリング部
206 補正ベクトル算出部
207 動き補償部
208 信号加算部
301 下位階層対応ブロック予測残差信号絶対値和算出部
302 階層解像度比算出部
303 下位階層対応ブロック動きベクトルノルム算出部
304 補正ベクトル探索範囲決定部
305 補正ベクトル探索部
306 補正ベクトル決定部

Claims (9)

  1. 所定時刻に受信された符号化パケットであって、前記所定時刻に対応付けられて符号化パケット記憶部に記憶されている符号化パケットに基づいて、前記所定時刻に対応付けられた符号化信号を階層毎に生成するとともに、前記符号化信号に基づいて、前記所定時刻に対応付けられた復号信号を階層毎に生成する復号信号生成ステップと、
    前記所定時刻よりも過去の時刻に対応付けられて復号信号記憶部に予め記憶されている過去の符号化信号と、前記過去の時刻に対応付けられて復号信号記憶部に予め記憶されている過去の復号信号と、前記過去の時刻に対応付けられて再生用信号記憶部に予め記憶されている過去の再生用信号と、を取得する信号取得ステップと、
    前記所定時刻に対応付けられた符号化信号と、前記所定時刻に対応付けられている復号信号と、前記過去の符号化信号と、前記過去の復号信号と、前記過去の再生用信号と、に基づいて前記所定時刻に対応付けられたエラー隠蔽信号を生成するエラー隠蔽信号生成ステップと、
    前記エラー隠蔽信号に基づいて前記所定時刻に対応付けられた再生用信号を生成する再生用信号生成ステップと、
    を有し、
    前記エラー隠蔽信号生成ステップには、
    前記所定時刻に対応付けられた再生用信号の生成に用いられる動き情報であって、前記エラー隠蔽信号が生成される対象の階層である再生階層よりも下位の階層である復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられた動き情報を、前記再生階層と前記復号可能階層との解像度比に基づいて解像度変換した、解像度変換後の動き情報を生成する動き情報解像度変換ステップと、
    前記解像度変換後の動き情報を補正する情報である、補正動き情報を算出する補正動き情報算出ステップと、
    前記再生階層に対応付けられている動き補償信号であって、前記解像度変換後の動き情報を前記補正動き情報によって補正した補正後の動き情報に基づいた動き補償信号、を生成する動き補償信号生成ステップと、
    画像動き予測に基づいた予測残差信号であって、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている予測残差信号を、前記解像度変換した解像度変換後の予測残差信号、を生成する予測残差信号解像度変換ステップと、
    前記動き補償信号と前記解像度変換後の予測残差信号とに基づいて、前記エラー隠蔽信号を生成する動き合成エラー隠蔽信号生成ステップと、
    が含められていることを特徴とする映像再生方法。
  2. 前記補正動き情報算出ステップには、
    探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、前記動き情報、前記予測残差信号、又は前記解像度比に基づいたブロックマッチング探索座標範囲、を決定する探索座標範囲決定ステップと、
    前記解像度変換後の動き情報によって指定されるブロックマッチング探索中心座標を前記探索中心座標とし、前記ブロックマッチング探索座標範囲を前記探索座標範囲とする前記ブロックマッチングの結果、前記コスト関数の値が最小となる座標を前記ブロックマッチング結果座標として探索する補正動き情報探索ステップと、
    前記ブロックマッチング結果座標と前記ブロックマッチング探索中心座標との差を前記補正動き情報として決定する補正動き情報決定ステップと、
    が含められていることを特徴とする請求項に記載の映像再生方法。
  3. 前記エラー隠蔽信号生成ステップには、更に、
    エラー隠蔽信号として、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号を前記解像度変換した、解像度変換後の復号信号を生成する復号解像度変換エラー隠蔽信号生成ステップと、
    前記動き合成エラー隠蔽信号生成ステップと、前記復号解像度変換エラー隠蔽信号生成ステップと、のうちからいずれかのステップによって処理するかを、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている画像動き予測モードに応じて切換えるエラー隠蔽信号生成手順切換えステップと、
    が含められていることを特徴とする請求項又は請求項に記載の映像再生方法。
  4. 前記エラー隠蔽信号生成ステップには、更に
    エラー隠蔽信号として、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号を前記解像度変換した、解像度変換後の復号信号を生成する復号解像度変換エラー隠蔽信号生成ステップと、
    前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている符号化信号と、前記復号可能階層に対応付けられ、かつ前記所定時刻に対応付けられている復号信号と、前記過去の符号化信号と、前記過去の復号信号と、前記過去の再生用信号とに基づいて、前記復号解像度変換エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、前記動き合成エラー隠蔽信号生成ステップによって生成されたエラー隠蔽信号と、を重みづけ平均して前記エラー隠蔽信号を生成する重みづけ平均信号生成ステップと、
    が含められていることを特徴とする請求項又は請求項に記載の映像再生方法。
  5. 原画像情報を階層化した符号化信号、及び前記符号化信号を階層毎に復号した復号信号を、前記階層と対応付けて記憶している復号信号記憶部と、
    前記符号化信号が再生時刻までに復号されない状態である復号エラーが発生した階層を再生階層として、前記復号エラーの発生を階層毎に検出する復号エラー検出部と、
    生成された再生用信号を記憶している再生用信号記憶部と、
    前記復号エラー検出部によって前記復号エラーの発生が検出された場合に、前記復号信号記憶部に記憶している符号化信号のうち、前記再生階層と異なる階層である復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号と、前記復号エラーの発生を検出する前に前記復号信号記憶部に記憶している符号化信号である復号エラー検出前符号化信号と、前記復号エラーの発生を検出する前に前記復号信号記憶部に記憶している復号信号である復号エラー検出前復号信号と、前記復号エラーの発生を検出する前に前記再生用信号記憶部に記憶している再生用信号である復号エラー検出前再生用信号と、に基づいて、前記再生階層と対応付けられたエラー隠蔽信号を生成するエラー隠蔽信号生成部と、
    前記エラー隠蔽信号生成部によって生成されたエラー隠蔽信号に基づいて再生用信号を生成する再生用信号生成部と、
    を備え
    前記エラー隠蔽信号生成部は、
    前記再生用信号の生成に用いられる動き情報であって、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き情報を、前記再生階層と前記復号可能階層との解像度比に基づいて、解像度変換動き情報に変換する、動き情報解像度変換部と、
    前記解像度変換動き情報を補正する情報である、補正動き情報を算出する補正動き情報算出部と、
    前記解像度変換動き情報を前記補正動き情報によって補正した補正後の動き情報に基づいて、前記再生階層に対応付けられた信号である動き補償信号を生成する動き補償信号生成部と、
    前記再生用信号の生成に用いられる予測残差信号であって、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き情報に基づいた予測残差信号を、前記解像度比に基づいて、解像度変換予測残差信号に変換する、予測残差信号解像度変換部と、
    前記動き補償信号と前記解像度変換予測残差信号とに基づいて、前記エラー隠蔽信号を生成する動き合成エラー隠蔽信号生成部と、
    を備えることを特徴とする映像再生装置。
  6. 前記補正動き情報算出部は、
    探索中心座標と、探索座標範囲と、コスト関数とに基づいてブロックマッチング結果座標を算出するブロックマッチングにおける探索座標範囲として、前記動き情報、前記予測残差信号、又は前記解像度比に基づいたブロックマッチング探索座標範囲、を決定する探索座標範囲決定部と、
    前記解像度変換動き情報によって指定されるブロックマッチング探索中心座標を前記探索中心座標とし、前記ブロックマッチング探索座標範囲を前記探索座標範囲とする前記ブロックマッチングの結果、前記コスト関数の値が最小となる座標を前記ブロックマッチング結果座標として探索する補正動き情報探索部と、
    前記ブロックマッチング結果座標と前記ブロックマッチング探索中心座標との差を前記補正動き情報として決定する補正動き情報決定部と、
    を備えることを特徴とする請求項に記載の映像再生装置。
  7. 前記エラー隠蔽信号生成部は、
    前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号を前記解像度比に基づいて解像度変換した信号を、エラー隠蔽信号として生成する復号解像度変換エラー隠蔽信号生成部と、
    前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号に含まれる動き予測モードに基づいて、前記動き合成エラー隠蔽信号生成部と、前記復号解像度変換エラー隠蔽信号生成部と、のうちからいずれかを、エラー隠蔽信号生成部として選択するエラー隠蔽信号生成手順切換え部と、
    を備えることを特徴とする請求項又は請求項に記載の映像再生装置。
  8. 前記エラー隠蔽信号生成部は、
    前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号を前記解像度比に基づいて解像度変換した信号を、エラー隠蔽信号として生成する復号解像度変換エラー隠蔽信号生成部と、
    前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている符号化信号と、前記復号可能階層と対応付けられて前記復号信号記憶部に記憶されている復号信号と、前記復号エラー検出前符号化信号と、前記復号エラー検出前復号信号と、前記復号エラー検出前再生用信号とに基づいて、前記動き合成エラー隠蔽信号生成部によって生成されたエラー隠蔽信号と、前記復号解像度変換エラー隠蔽信号生成部によって生成されたエラー隠蔽信号とを重みづけ平均して、前記エラー隠蔽信号を生成する重みづけ平均信号生成部と、
    を備えることを特徴とする請求項又は請求項に記載の映像再生装置。
  9. 請求項1から請求項のうちいずれか1項に記載の映像再生方法を、コンピュータに実行させるための映像再生プログラム。
JP2011105149A 2011-05-10 2011-05-10 映像再生方法、映像再生装置、及び映像再生プログラム Expired - Fee Related JP5681557B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2011105149A JP5681557B2 (ja) 2011-05-10 2011-05-10 映像再生方法、映像再生装置、及び映像再生プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011105149A JP5681557B2 (ja) 2011-05-10 2011-05-10 映像再生方法、映像再生装置、及び映像再生プログラム

Publications (2)

Publication Number Publication Date
JP2012238947A JP2012238947A (ja) 2012-12-06
JP5681557B2 true JP5681557B2 (ja) 2015-03-11

Family

ID=47461492

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011105149A Expired - Fee Related JP5681557B2 (ja) 2011-05-10 2011-05-10 映像再生方法、映像再生装置、及び映像再生プログラム

Country Status (1)

Country Link
JP (1) JP5681557B2 (ja)

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101421936B (zh) * 2006-03-03 2016-09-21 维德约股份有限公司 用于在可缩放视频通信中提供差错弹性、随机接入和率控制的系统和方法
JP2009260519A (ja) * 2008-04-15 2009-11-05 Panasonic Corp 画像復号化装置、画像復号化集積回路、画像復号化方法および画像復号化プログラム

Also Published As

Publication number Publication date
JP2012238947A (ja) 2012-12-06

Similar Documents

Publication Publication Date Title
JP5373626B2 (ja) 複数の動きベクトル・プレディクタを使用して動きベクトルを推定する方法、装置、エンコーダ、デコーダ及びデコーディング方法
JP2019115060A (ja) 符号化装置、符号化方法、復号装置、復号方法、及びプログラム
US8311106B2 (en) Method of encoding and decoding motion picture frames
CA2723910C (en) Method and system for determining a metric for comparing image blocks in motion compensated video coding
WO2007087619A2 (en) Projection based techniques and apparatus that generate motion vectors used for video stabilization and encoding
US20080095239A1 (en) Method for video frame rate conversion
JP6961115B2 (ja) 画像復号装置、画像復号方法及びプログラム
JP5115519B2 (ja) 動画像復号装置、動画像復号方法及び動画像復号用コンピュータプログラム
US8139151B2 (en) Moving image processing apparatus, control method thereof, and program
KR20050025568A (ko) 프레임의 오류 은닉 장치 및 방법
JP5547622B2 (ja) 映像再生方法、映像再生装置、映像再生プログラム及び記録媒体
US8139643B2 (en) Motion estimation apparatus and method for moving picture coding
JP5681557B2 (ja) 映像再生方法、映像再生装置、及び映像再生プログラム
JP5972687B2 (ja) 動画像予測符号化装置、動画像予測符号化方法、動画像予測符号化プログラム、動画像予測復号装置、動画像予測復号方法及び動画像予測復号プログラム
JP2001016595A (ja) 動画像符号化装置および復号装置
JP4624308B2 (ja) 動画像復号装置及び動画像復号方法
JP5281597B2 (ja) 動きベクトル予測方法,動きベクトル予測装置および動きベクトル予測プログラム
JP2008508787A (ja) インター符号化系列向けのエラー隠蔽技術
JP2012120108A (ja) 補間画像生成装置及びプログラム、並びに、動画像復号装置及びプログラム
JP2006311603A (ja) 動画像符号化方法と装置及び動画像復号化方法と装置
JP6071618B2 (ja) 画像処理装置及びプログラム
KR100229794B1 (ko) 움직임 벡터 정보에 대한 오류 복원기능을 갖는영상복호화기
JP2007067664A (ja) 復号化装置及び復号化方法
JP2008283302A (ja) 動画像処理装置及び動画像処理方法
JP2006262198A (ja) 動画圧縮符号化装置

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20130606

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20130726

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130815

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140408

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140425

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140603

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150106

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150109

R150 Certificate of patent or registration of utility model

Ref document number: 5681557

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees