JP2011193354A - ストリーム変換装置及びストリーム変換方法 - Google Patents
ストリーム変換装置及びストリーム変換方法 Download PDFInfo
- Publication number
- JP2011193354A JP2011193354A JP2010059436A JP2010059436A JP2011193354A JP 2011193354 A JP2011193354 A JP 2011193354A JP 2010059436 A JP2010059436 A JP 2010059436A JP 2010059436 A JP2010059436 A JP 2010059436A JP 2011193354 A JP2011193354 A JP 2011193354A
- Authority
- JP
- Japan
- Prior art keywords
- idr
- stream
- error
- unit
- concealment
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Abstract
【課題】IDRのエラーコンシールメント処理をより適切に行うストリーム変換装置及びストリーム変換方法を提供する。
【解決手段】周期的に到来するIDRを含む圧縮符号化された動画像ストリームを入力し所定単位で前記動画像ストリームを出力する第1工程と、前記第1工程の出力を受け前記動画像ストリームのシンタックスを解析する第2工程と、前記第2工程の解析結果に基づき前記動画像ストリームのコンシールメント処理を行なう第3工程と、前記コンシールメント処理の結果を蓄積し出力する第4工程と、前記第4工程の出力を受け前記所定単位の前記コンシールメント処理の結果を蓄積し出力する第5工程とを含み、前記第3工程は、周期的に到来するIDRを前記第2工程の解析結果に基づきエラーがあった場合にシーンチェンジが無いと判定すればnon−IDRに変更することを特徴とするストリーム変換方法。
【選択図】 図7
【解決手段】周期的に到来するIDRを含む圧縮符号化された動画像ストリームを入力し所定単位で前記動画像ストリームを出力する第1工程と、前記第1工程の出力を受け前記動画像ストリームのシンタックスを解析する第2工程と、前記第2工程の解析結果に基づき前記動画像ストリームのコンシールメント処理を行なう第3工程と、前記コンシールメント処理の結果を蓄積し出力する第4工程と、前記第4工程の出力を受け前記所定単位の前記コンシールメント処理の結果を蓄積し出力する第5工程とを含み、前記第3工程は、周期的に到来するIDRを前記第2工程の解析結果に基づきエラーがあった場合にシーンチェンジが無いと判定すればnon−IDRに変更することを特徴とするストリーム変換方法。
【選択図】 図7
Description
本発明は、エラーコンシールメント処理を行うストリーム変換装置及びストリーム変換方法に関する。
現在、携帯型マルチメディアプレーヤや携帯電話等にチューナが搭載され、携帯電話・移動体端末向けの1セグメント部分受信サービス(以下、ワンセグ放送と記す)を視聴できる機器が増えてきている。
ワンセグ放送は、移動しながら視聴されることがあるが、移動時には電波状況が刻々と変化する。特に弱電界領域にはいると、受信して復調されたデータに誤りが混じることがある。データに誤りが混入した場合、動画像の復号時にエラーコンシールメント処理が行われる。
例えば特許文献1には、MPEG−4 AVC( A d v a n c e d V i d e o C o d i n g) 符号化規格において誤りが混入したB−Sliceを対話的メニューからP−Sliceへ変換するエラーコンシールメント処理を実行し、エラーによる画質の劣化を低減する技術が開示されている。しかしながらIDR(Instantaneous Decoder Refresh)のエラーコンシールメントといったより一般的なエラーコンシールメントの技術は開示されていなかった。
対して特願2009−270664号明細書には、IDRのエラーコンシールメントにおいて定期的なIDRのエラー以降のマクロブロックをP−Sliceへ変換するエラーコンシールメント処理を実行し、エラーによる画質の劣化を低減する技術が記載されている。しかしながら定期的なIDRの中にもシーンチェンジのためのIDRがあり、即ち過去のフレームを参照するP−Sliceへ変換するエラーコンシールメントが不適切な場合があった。
本発明は、IDRのエラーコンシールメントをより適切に実行する技術を提供することを目的とする。
上記課題を解決するために、本発明のストリーム変換装置は、周期的に到来するIDR(Instantaneous Decoder Refresh)を含む圧縮符号化された動画像ストリームを入力し所定単位で前記動画像ストリームを出力する入力バッファと、前記入力バッファの出力を受け前記動画像ストリームのシンタックスを解析しエラーの有無を判定するシンタックス解析部と、前記シンタックス解析部の解析結果に基づき前記動画像ストリームのコンシールメント処理を行なうコンシールメント処理部と、周期的に到来するIDRか否かを判定する周期性判定部と、IDRのシーンチェンジの有無を判定するシーンチェンジ判定部と、前記コンシールメント処理された前記動画像ストリームを前記所定単位で出力する出力バッファとを備え、前記コンシールメント処理部は、前記シンタックス解析部の解析結果と周期性判定部の判定結果に基づき周期的に到来するIDRにエラーがあった場合に、周期性判定部の判定結果に基づきこのIDRにシーンチェンジが無ければ、この周期的に到来するIDRをnon−IDRに変更することを特徴とする。
本発明によれば、IDRのエラーコンシールメント処理をより適切に行うストリーム変換装置及びストリーム変換方法が得られる。
本発明による実施形態を図1乃至図10を参照して説明する。
まず、図1を参照して、本発明の一実施形態に係わる動画像復号装置の構成を説明する。
この動画像復号装置は、例えば、パーソナルコンピュータ、PDA、AV(オーディオ・ビデオ)プレーヤ、のような携帯型電子機器であり、内蔵バッテリによって駆動可能に構成されている。以下では、電子機器がオーディオデータおよびビデオデータを再生するためのマルチメディアプレーヤ11として実現されている場合を想定する。
まず、図1を参照して、本発明の一実施形態に係わる動画像復号装置の構成を説明する。
この動画像復号装置は、例えば、パーソナルコンピュータ、PDA、AV(オーディオ・ビデオ)プレーヤ、のような携帯型電子機器であり、内蔵バッテリによって駆動可能に構成されている。以下では、電子機器がオーディオデータおよびビデオデータを再生するためのマルチメディアプレーヤ11として実現されている場合を想定する。
マルチメディアプレーヤ11の本体表面上には、表示デバイスとしてのLCD12と、入力デバイスとしての各種操作ボタン(バックボタン13、スタートボタン14、OKボタン15、上下左右ボタン16、ワンセグボタン)とが設けられている。
次に、図2を参照して、マルチメディアプレーヤ11のシステム構成を説明する。
図2に示すように、マルチメディアプレーヤ11は、CPU101、メモリ102、表示コントローラ103、ハードディスクドライブ(HDD)104、入力インタフェース部105、USBコントローラ106、オーディオコントローラ107、ワンセグチューナ108、電源回路110、およびバッテリ111等を備えている。
図2に示すように、マルチメディアプレーヤ11は、CPU101、メモリ102、表示コントローラ103、ハードディスクドライブ(HDD)104、入力インタフェース部105、USBコントローラ106、オーディオコントローラ107、ワンセグチューナ108、電源回路110、およびバッテリ111等を備えている。
CPU101はマルチメディアプレーヤ11の動作を制御するプロセッサであり、メモリ102にロードされた各種プログラム(オペレーティングシステム、およびアプリケーションプログラム等)を実行する。アプリケーションプログラムは、オーディオデータおよびビデオデータの再生、およびワンセグ放送の再生の実行等を行うためのプログラムである。
表示コントローラ103はLCD12を制御し、各種操作メニュー、およびアプリケーションプログラムによって再生されたビデオデータに対応する画像等を、LCD12の表示画面上に表示する。HDD104は、オーディオデータおよびビデオデータ等の各種データを格納するためのストレージデバイスとして機能する。USBコントローラ106はマルチメディアプレーヤ11の本体に設けられたUSB端子121に接続されており、USB端子121に接続された他の各種デバイスとの通信を実行する。オーディオコントローラ107は音源デバイスであり、アプリケーションプログラムによって再生されたオーディオデータに対応するサウンド信号を生成し、このサウンド信号をヘッドホン端子122に出力する。
ワンセグチューナ108はモバイル端末向けのワンセグ放送を受信するために設けられている。ワンセグチューナ108は図示せぬチューナ回路、OFDM復調器、およびエラー訂正器等を備えている。チューナ回路はアンテナから入力されるデジタル放送信号(高周波信号)の中から、所望の受信チャンネルに対応する周波数の信号成分を、ミキサを用いて中間周波数信号に変換するとともに、アンプを用いてそれぞれのOFDM復調器に入力するための所定の電力レベルに増幅する。
OFDM復調器では、チューナ回路からのアナログの中間周波数信号をそれぞれA/D変換してデジタル信号に変換し、それぞれ直交復調を行って複素デジタル信号に変換し、それぞれFFT(高速フーリエ変換)を行って周波数軸上のサブキャリア信号に分解した上でからワンセグ放送を再生するための復調信号を出力する。
ワンセグ放送では、リードソロモンと畳み込み符号によって、エラー訂正のための符号化が行われている。エラー訂正器は、復調信号のエラーを検出し、この検出したエラーを訂正した誤り訂正信号であるトランスポートストリーム(TS)を出力する。
まとめるとワンセグチューナ108は放送信号を受信して動画像ストリームを含むトランスポートストリームを出力する受信部である。
詳しくはこのトランスポートストリームは、圧縮符号化された放送番組データを多重化したデータストリームである。地上波デジタルTV放送においては、各チャネルの放送番組データに対応するトランスポートストリーム(TS)は、圧縮符号化された動画像データと、圧縮符号化されたオーディオデータと、グラフィクスデータとを含む。グラフィクスデータも圧縮符号化されている。
詳しくはこのトランスポートストリームは、圧縮符号化された放送番組データを多重化したデータストリームである。地上波デジタルTV放送においては、各チャネルの放送番組データに対応するトランスポートストリーム(TS)は、圧縮符号化された動画像データと、圧縮符号化されたオーディオデータと、グラフィクスデータとを含む。グラフィクスデータも圧縮符号化されている。
CPU101で実行されるワンセグ放送再生アプリケーションは、復号されたトランスポートストリーム(TS)を映像データ、音声データに分離する。ワンセグ放送再生アプリケーションのソフトウェア・ビデオデコードモジュールは、H.264/AVC規格でエンコードされている映像のストリームをデコードし、表示コントローラ103に送る。
表示コントローラ103は、デコードされたデータに応じたビデオ信号を生成する。ビデオ信号がLCD12に入力されることによって、LCD12はワンセグ放送の動画像を表示する。
また、ワンセグ放送再生アプリケーションは、AAC方式でエンコードされている音声データをオーディオコントローラ107に送る。オーディオコントローラ107は、音声データを復号し、オーディオ信号を生成する。オーディオ信号はヘッドホン端子122を介してヘッドホンに入力され、ヘッドホンからワンセグ放送の音声を出力する。
電源回路110は、マルチメディアプレーヤ11の本体内に設けられたバッテリ111からの電力、または外部のACアダプタ112からの電力を用いて、各コンポーネントに動作電源を供給する。
図3にストリーム上でエラーコンシールメント(修復)を行う場合のストリームデータの流れを示す。ストリームデータの作成元ではエラーが無かったストリームデータは、受信されるまでのエラー環境によってはエラーが混入したストリームデータとなる。このストリームデータに対しストリーム変換(次の図4参照)を行なうことによってエラー無しのストリームデータに戻しておけば、後段のH.264デコーダにおけるデコード処理において関連する問題が発生することを防ぐことができる。
図4は、ストリーム上でのコンシールメントの例を示す図である。NAL(network abstraction layer)の一部でエラーがあったとき、上記ストリーム変換によってこのエラー以後のエラーコンシールメントをしておけばよい。
ワンセグのような放送サービスでは、受信環境によっては、受信ストリームに誤りが混入し、誤りが混入したままの受信ストリームを一般に誤り耐性のないH.264デコーダでデコードすると場合によっては著しい画質劣化が起きてしまう。このため図4のように、H.264デコーダへ受信ストリームを入力する前にストリーム上でエラーコンシールメントを行う機能を持つH.264ストリーム変換器でH.264ストリーム変換を行い、変換されたエラーの無いH.264ストリームをH.264デコーダに入力する方法がある。
図5はIDRにエラーが混入した場合のエラーコンシールメントの様子を示す。
まず従来のストリーム上でのコンシールメントの方法は、IDR(Instantaneous Decoder Refresh)が過去のフレーム画像の情報を使わず、シンタックス上、イントラ予測しか使用できないので、エラー混入以降のマクロブロックの予測モードをイントラ4×4予測モードのDC予測を行うようにストリームを変換する方法を採っている。本実施形態でもシーンチェンジのためのIDRでは同じ方法を採っている。
まず従来のストリーム上でのコンシールメントの方法は、IDR(Instantaneous Decoder Refresh)が過去のフレーム画像の情報を使わず、シンタックス上、イントラ予測しか使用できないので、エラー混入以降のマクロブロックの予測モードをイントラ4×4予測モードのDC予測を行うようにストリームを変換する方法を採っている。本実施形態でもシーンチェンジのためのIDRでは同じ方法を採っている。
しかしこの方法では、画面の早い段階でエラーが混入した場合、コンシールメントされた部分は正常部分からの画素が単にグラデーションされたような画像にしかならなく、この部分が以降のP−pictureにも伝播し、ある程度画質劣化を招くものであった。
そこで、本実施形態では、IDRにエラーが混入した場合、このフレームをシンタックス上で、図6のようにIDRからnon−IDR(IDRでない、即ち過去のフレーム画像の情報を使うインター予測も行なえるAU(Access Unit))にし、エラー混入以降のこのフレーム内のマクロブロックをP−Sliceとし、デコード時に過去のフレームの画素を参照できるように、元の符号化画像に近いコンシールメントを行い、画質劣化を防ぐという構成をとり以下に述べるようにIDRによってはこのコンシールメントを行う。
図7は実施形態に用いられるストリーム変換装置のブロック図である。入力バッファ71とストリーム変換部72と出力バッファ73とから構成され、更にストリーム変換部72は、シンタックス解析部72aとコンシールメント処理部72bと(シンタックス生成用)内部バッファ72cとから構成されている。動作は図8と関係付けて説明する。
図8はアプリケーションプログラムによるストリーム変換処理を詳細に表した機能ブロック図である。ストリーム変換モジュール82がストリーム変換部72に相当している。ストリーム変換モジュール82のRBSP取出し処理と変換前RBSPバッファはシンタックス解析部72aに含まれ、また変換後RBSPバッファとNAL生成処理とは内部バッファ72cに含まれる構成である。
ストリーム変換は例えば、画像フレームに相当するAUを一般には複数まとめたPES(Packetized Elementary Stream)単位で行う。PESにはnon−IDRのみから成るものもあるが、IDR1つを先頭にしたものもある。入力バッファ81に1本のPES単位で入力され、エラーが混入している場合コンシールメントされたPESが出力バッファ83に出力される。エラーが混入していない場合は、入力されたPESと同じPESが出力バッファ83に出力される。
ストリーム変換モジュール82の内部では、PESはさらに小さい単位であるNAL(network abstraction layer)に分解されてコンシールメント処理が行われる。
NALごとにシンタックス解析が行われ、エラーが検出された場合コンシールメントされたNALを新たに生成する。
エラーが検出されなかった場合は、そのままNALの内容がコピーされる。
次にIDRでエラー検出した場合を説明する。IDRには、基本的には周期的なIDRとシーンチェンジのためのIDRの2種類がある。
シンタックス解析部のシンタックスパース処理において、あるマクロブロックでエラーが検出されると、このマクロブロックを含む一枚の画像フレームが周期的なIDRなのか、シーンチェンジのためのIDRなのかを判断する。
エラーが検出されなかった場合は、そのままNALの内容がコピーされる。
次にIDRでエラー検出した場合を説明する。IDRには、基本的には周期的なIDRとシーンチェンジのためのIDRの2種類がある。
シンタックス解析部のシンタックスパース処理において、あるマクロブロックでエラーが検出されると、このマクロブロックを含む一枚の画像フレームが周期的なIDRなのか、シーンチェンジのためのIDRなのかを判断する。
まず、IDRのストリーム変換処理において、シンタックス解析部72aのシンタックスパース処理で、あるマクロブロックでエラーが検出されると、まず、このマクロブロックを含むフレームが周期的なIDRかシーンチェンジのためのIDRを判断する。次に、IDRの挿入周期が一定の値と異なる場合はシーンチェンジのためのIDRと判断し、過去のフレームからのコンシールメントをあきらめ、エラー以降のマクロブロックをイントラ4×4予測モードにしたシンタックスを生成し、エラー検出前のシンタックスと結合して出力する。定期的なIDRと判断した場合は、過去のフレームからのコンシールメントが可能なため、エラー以降のマクロブロックをP−Sliceとしてシンタックスを生成してコンシールメントを行っていた。対して本実施形態では、IDRでエラーが検出された場合、以下のようにしてシーンが変わったかどうかの判断を定期的なIDRと判断した場合にも加味する。
ストリーム変換処理の過程でIDRのシンタックスから得られる符号化情報より、ある指標を求める。たとえば、IDRフレームの符号量SとIDR一フレームの平均の量子化パラメータQPから、以下の式のような指標Xを求める。
X=S×Q (式1)
Qは平均の量子化スケールであり、量子化パラメータQPから次の式2のように求められる。
Q=2(QP−4)/6 (式2)
上の2つの式で算出された指標XはそのIDRの符号化複雑さを表す1指標である。符号量はIDRのサイズでありストリーム変換処理を行えば分かる。量子化パラメータはシンタックスを解析すれば簡単に求められる。上の指標Xは同じようなシーンでは大体同じ値になるが、シーンが変わった場合、大きく変わった値になる可能性が高くなる。このことからIDRの複雑さ指標Xが大きく変化したときは、シーンが大きく変わったと判断することができる。
Qは平均の量子化スケールであり、量子化パラメータQPから次の式2のように求められる。
Q=2(QP−4)/6 (式2)
上の2つの式で算出された指標XはそのIDRの符号化複雑さを表す1指標である。符号量はIDRのサイズでありストリーム変換処理を行えば分かる。量子化パラメータはシンタックスを解析すれば簡単に求められる。上の指標Xは同じようなシーンでは大体同じ値になるが、シーンが変わった場合、大きく変わった値になる可能性が高くなる。このことからIDRの複雑さ指標Xが大きく変化したときは、シーンが大きく変わったと判断することができる。
具体的には図9に示すとおり、過去数枚(本例では3枚、但しエラーやシーンチェンジがあればその後のものから、更に1枚もなければイントラ予測とする)のIDRの複雑さ指標Xの平均を求めておく。IDRでエラーが検出された場合、エラーが検出されたマクロブロックまでの符号量と量子化パラメータからそのIDRの全体の大よその複雑さ指標を推定する。フレーム全体を推定する方法としてはブロック数による比例計算を行なうなどすればよい。この推定したIDRの複雑さ指標と過去数枚のIDRの複雑さ指標の平均と比べ、値が大きく変化していた場合は上記のようにシーンチェンジがあったとみなし、エラー以降のマクロブロックをイントラ4×4予測モードにしたシンタックスを生成するようにする。あまり変化していない場合に限り、直前のフレームを参照するようにIDRをnon−IDRに変更し、エラー以降のマクロブロックをP−Sliceとしてシンタックスを生成するようにする。変化の判定としては相対値(比率)や絶対値において適当な閾値を定めるなどする。
この判定により、シーンの内容があまり変化の無いものは、過去のフレームを参照するようなコンシールメントを行い、シーンの内容が大きく変化した場合は、過去のフレームを参照せず、フレーム内の情報だけコンシールメントを行うように、シーンの変化の違いによってコンシールメントの方法を変えることができる。
このように、IDRの複雑さを求めて、その変化量を使ってシーンチェンジを判断することにより、デコード画像の復号をせずに、そのIDRに適したコンシールメントを行うことができ、画質劣化を抑えることができる。
IDRの挿入周期が一定の値と異なる場合はシーンチェンジのためのIDRと判断し、過去のフレームからのコンシールメントをあきらめ、従来同様エラー以降のマクロブロックをイントラ4×4予測モードにしたシンタックスを生成し、エラー検出前のシンタックスと結合して出力する。定期的なIDRと判断された場合は、過去のフレームからのコンシールメントが可能なため、図5に示したようにエラー以降のマクロブロックをP−Slice(I−Slice、P−SliceなどのうちI−Sliceとは異なり他のマクロブロックを参照可能なブロックからなるSlice)としてシンタックスを生成する。更にP−Sliceの先頭マクロブロックから画面最後のマクロブロックをスキップマクロブロックとなるようにする。生成されたP−Sliceはエラー検出前のシンタックスと結合され出力される。
また、このときP−Sliceを含んでよいようにAccess Unit Delimiterのprimary_pic_typeを0から1に書き換え、IDRからnon−IDRのフレームとしてデコードできるようI−Sliceのnal_unit_typeを1にする。なお、H.264規格書では、primary_pic_typeが0のとき一フレーム内にI−Sliceのみ含んでよく、またprimary_pic_typeが1のとき一フレーム内にI−SliceとP−Sliceを含んでよい、と定められている。
図10は、上記のIDRの処理を表すフローチャートである。図10(a)が全体図であり、図10(b)がその一部を詳細にしたものである。
まずシンタックス解析部72aがマクロブロックのシンタックスをパースする(ステップS110)。このパース動作においてシンタックス解析部72aはエラーを検出し(ステップS120)、エラーが無いと判定されれば次にコンシールメント処理部72bが内部バッファ72cを用いてシンタックスをコピーする(ステップS130)。次にシンタックス解析部72aは一画面分の処理が終了したか判定し(ステップS140)、終了していなければステップS110に戻り、終了していれば一連の処理を終える。
まずシンタックス解析部72aがマクロブロックのシンタックスをパースする(ステップS110)。このパース動作においてシンタックス解析部72aはエラーを検出し(ステップS120)、エラーが無いと判定されれば次にコンシールメント処理部72bが内部バッファ72cを用いてシンタックスをコピーする(ステップS130)。次にシンタックス解析部72aは一画面分の処理が終了したか判定し(ステップS140)、終了していなければステップS110に戻り、終了していれば一連の処理を終える。
他方ステップS120でエラーが有ると判定されれば、シーンチェンジのためのIDRかシンタックス解析部72aは判定する(ステップS150)。ステップS150でYesと判定された場合は、コンシールメント処理部72bが(シンタックス生成用)内部バッファ72cを用いて従来同様に残りのマクロブロックをイントラ予測にする(ステップS160)。またステップS150でNoと判定された場合は、残りのマクロブロックをP−SliceとしてSC(start code)を付加して上記のようにシンタックスを生成する(ステップS170)。ステップS150の判定がいずれの場合も一連の処理を終える。
ここでステップS150の判定は、図10(b)のように次の2段階で行なわれ、共にYesであればステップS170へ移り、それ以外であればステップS160へ移る。判定の確実さや処理の頻度と時間等により、更にデータに依存して(エラーが多くなっている等)ダイナミックに、(1)と(2)は順番を入れ換えてもよい。また並列処理が可能ならば行ってもよい。
(1)周期的なIDRか
(2)シーンチェンジのIDRではないか(前述の複雑さ指標Xの変化が少ないか)
前術のコンシールメント処理部は、この(1)周期的なIDRかを判定する周期性判定部と、この(2)シーンチェンジのIDRではないかを判定するシーンチェンジ判定部とから成っているということができる。あるいはこれらの判定部はシンタックス解析部の中やその他の場所に存在していても良い。
(2)シーンチェンジのIDRではないか(前述の複雑さ指標Xの変化が少ないか)
前術のコンシールメント処理部は、この(1)周期的なIDRかを判定する周期性判定部と、この(2)シーンチェンジのIDRではないかを判定するシーンチェンジ判定部とから成っているということができる。あるいはこれらの判定部はシンタックス解析部の中やその他の場所に存在していても良い。
上記のように、エラーが混入した部分をP−Sliceに、そのフレームをnon−IDRにシンタックスを書き換えることにより、デコード時により符号化時の画像に近い画像でコンシールメントを行うことができ、画質劣化を抑えることができる。
実施形態の効果として、シンタックス上でIDRをnon−IDRに変更し、エラー混入マクロブロック以降をP−Sliceにすることにより、デコーダ画像を復号することなく、符号化した画像に近い画像でコンシールメントを行うことができ、IDRのエラー時の画質劣化の拡大を防ぐことができる。
換言すると、IDRにエラーが混入した場合、過去のフレームでコンシールメントできるP−SliceにIDRのシンタックスを変更することにより、IDRにおいてエラー混入した場合のコンシールメントの画質劣化を軽減することができる。
即ち、エラーの混入したH.264ストリームを、デコード画像を復号することなくストリーム上でコンシールメントを行うH.264ストリーム変換において、IDRピクチャのあるマクロブロックでエラー混入を検出した場合、エラー混入前までのマクロブロックをI−Slice、エラー混入したマクロブロックから画面最後のマクロブロックまでをP−Sliceとし、エラー混入以降のマクロブロックを過去のフレームの情報を使用してコンシールメントを行うようにし、IDRでエラーにより欠落する部分の画質劣化を防ぐ。また、以降のフレームの画質劣化の伝播も軽減できる。
IDRでエラーを検出した場合、デコード画像を復号することなくストリームの情報のみでシーンチェンジを判断することにより、処理量を増加させることなく、そのIDRに適したコンシールメント方法を選択できるようなり、エラーによる画質劣化をより軽減することができる。
以上、IDRにエラーが混入した場合、このフレームをシンタックス上で、IDRからnon−IDRにし、エラー混入以降のマクロブロックをP−Sliceとし、デコード時に過去のフレームの画素を参照できるように、コンシールメントを行うべきは、シーンチェンジが起きていないIDRのみであった。
従来の実施形態では、シーンチェンジによるIDRかどうかの判断は、ある一定間隔で挿入されているIDRは定期的に強制的に挿入されているIDRで、そうでない場合はシーンチェンジによるIDRと判断し、シーンチェンジによるIDRの場合は、過去のフレームを参照せずにイントラ予測を使うコンシールメントにすることにより、シーンが変わったフレームからの参照を防ぎ、画質劣化がおこらないようにしていた。
しかしながら、定期的に挿入されているIDRの中にもシーンチェンジによるものが含まれていることがあり、このIDRでエラーが検出された場合、直前のシーンが変わる前のフレームを参照してコンシールメントを行って画質劣化を起こしてしまう可能性があった。
そのため、上記実施形態では、過去のIDRとエラーが検出されたIDRフレームの例えば、符号量と量子化パラメータから求められるフレームの画像の指標(複雑さ指標)を比較し、その指標が過去何フレームかのIDRから大きく変化している場合は、シーンが変わったと判断し過去のフレームの参照を行わないコンシールメントを行うようにした。
この効果としてデコード画像を復号しないで、ストリームのシンタックス情報だけで、シーンチェンジを判断することにより、処理量を増やすことなくシーンチェンジ検出をおこない、そのIDRに適したコンシールメントを行わせ、画質劣化を削減できる。
即ち、エラーの混入したH.264ストリームを、デコード画像を復号することなくストリーム上でコンシールメントを行うH.264ストリーム変換において、IDRピクチャでエラーを検出した場合、過去のフレームを参照してコンシールメントを行うようシンタックスを修正するか、過去のフレームを参照せずにコンシールメントを行うようシンタックスを修正するかを、過去数枚のIDRとエラーが検出されたIDRのストリームを解析して得られる符号化情報から求められる指標を用い判断することにより、シーンが大きく変わっているIDRで、シーンが変わる前の過去のフレームを参照してしまう誤ったコンシールメントをなくし、画質劣化を低減することができる。
なお、この発明は上記実施形態に限定されるものではなく、この外その要旨を逸脱しない範囲で種々変形して実施することができる。
また、上記した実施の形態に開示されている複数の構成要素を適宜に組み合わせることにより、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素から幾つかの構成要素を削除しても良いものである。さらに、異なる実施の形態に係わる構成要素を適宜組み合わせても良いものである。
また、上記した実施の形態に開示されている複数の構成要素を適宜に組み合わせることにより、種々の発明を形成することができる。例えば、実施の形態に示される全構成要素から幾つかの構成要素を削除しても良いものである。さらに、異なる実施の形態に係わる構成要素を適宜組み合わせても良いものである。
71…入力バッファ、72…ストリーム変換部、72a…シンタックス解析部、72b…コンシールメント処理部、72c…内部バッファ、73…出力バッファ、108…ワンセグチューナ。
Claims (8)
- 周期的に到来するIDR(Instantaneous Decoder Refresh)を含む圧縮符号化された動画像ストリームを入力し所定単位で前記動画像ストリームを出力する入力バッファと、
前記入力バッファの出力を受け前記動画像ストリームのシンタックスを解析しエラーの有無を判定するシンタックス解析部と、
前記シンタックス解析部の解析結果に基づき前記動画像ストリームのコンシールメント処理を行なうコンシールメント処理部と、
周期的に到来するIDRか否かを判定する周期性判定部と、
IDRのシーンチェンジの有無を判定するシーンチェンジ判定部と、
前記コンシールメント処理された前記動画像ストリームを前記所定単位で出力する出力バッファとを備え、
前記コンシールメント処理部は、前記シンタックス解析部の解析結果と周期性判定部の判定結果に基づき周期的に到来するIDRにエラーがあった場合に、周期性判定部の判定結果に基づきこのIDRにシーンチェンジが無ければ、この周期的に到来するIDRをnon−IDRに変更することを特徴とするストリーム変換装置。 - 前記コンシールメント処理部は、前記non−IDRがP−Sliceを含んでよいようにAccess Unit Delimiterのprimary_pic_typeを0から1に書き換えることを特徴とする請求項1に記載のストリーム変換装置。
- 前記コンシールメント処理部は、エラー検出以降のマクロブロックをP−Sliceとしてシンタックスを生成することを特徴とする請求項2に記載のストリーム変換装置。
- 前記コンシールメント処理部は、更にP−Sliceの先頭マクロブロックから画面最後のマクロブロックをスキップマクロブロックとなるようにシンタックスを生成することを特徴とする請求項3に記載のストリーム変換装置。
- 更に放送信号を受信してトランスポートストリームを前記入力バッファへ向け出力する受信部を備えたことを特徴とする請求項1に記載のストリーム変換装置。
- 前記シーンチェンジ判定部は、量子化パラメータの指数関数である量子化スケールとIDRフレームの符号量との積として計算される複雑さ指標の変化によって判定することを特徴とする請求項1に記載のストリーム変換装置。
- 更にデコード処理を行なうデコーダを備え、このデコーダは前記出力バッファの出力を入力としてデコード処理を行なうことを特徴とする請求項1に記載のストリーム変換装置。
- 周期的に到来するIDR(Instantaneous Decoder Refresh)を含む圧縮符号化された動画像ストリームを入力し所定単位で前記動画像ストリームを出力する第1工程と、
前記第1工程の出力を受け前記動画像ストリームのシンタックスを解析する第2工程と、
前記第2工程の解析結果に基づき前記動画像ストリームのコンシールメント処理を行なう第3工程と、
前記コンシールメント処理の結果を蓄積し出力する第4工程と、
前記第4工程の出力を受け前記所定単位の前記コンシールメント処理の結果を蓄積し出力する第5工程とを含み、
前記第3工程は、周期的に到来するIDRを前記第2工程の解析結果に基づきエラーがあった場合にシーンチェンジが無いと判定すればnon−IDRに変更することを特徴とするストリーム変換方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010059436A JP2011193354A (ja) | 2010-03-16 | 2010-03-16 | ストリーム変換装置及びストリーム変換方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010059436A JP2011193354A (ja) | 2010-03-16 | 2010-03-16 | ストリーム変換装置及びストリーム変換方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2011193354A true JP2011193354A (ja) | 2011-09-29 |
Family
ID=44797799
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010059436A Pending JP2011193354A (ja) | 2010-03-16 | 2010-03-16 | ストリーム変換装置及びストリーム変換方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2011193354A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016096398A (ja) * | 2014-11-12 | 2016-05-26 | 富士通株式会社 | 映像データ処理装置、映像データ処理プログラムおよび映像データ処理方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005311603A (ja) * | 2004-04-20 | 2005-11-04 | Toshiba Corp | 動画像復号装置及び動画像復号方法 |
JP2008311784A (ja) * | 2007-06-12 | 2008-12-25 | Toshiba Corp | 動画像復号装置および動画像復号方法 |
JP2009094815A (ja) * | 2007-10-09 | 2009-04-30 | Toshiba Corp | 動画像復号装置及び動画像復号方法 |
-
2010
- 2010-03-16 JP JP2010059436A patent/JP2011193354A/ja active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005311603A (ja) * | 2004-04-20 | 2005-11-04 | Toshiba Corp | 動画像復号装置及び動画像復号方法 |
JP2008311784A (ja) * | 2007-06-12 | 2008-12-25 | Toshiba Corp | 動画像復号装置および動画像復号方法 |
JP2009094815A (ja) * | 2007-10-09 | 2009-04-30 | Toshiba Corp | 動画像復号装置及び動画像復号方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016096398A (ja) * | 2014-11-12 | 2016-05-26 | 富士通株式会社 | 映像データ処理装置、映像データ処理プログラムおよび映像データ処理方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR100768058B1 (ko) | 부호화 스트림 재생 장치 | |
US20090080524A1 (en) | Video decoding apparatus and video decoding method | |
KR101739821B1 (ko) | 스케일러블 비디오 코딩(svc)디코딩에서 향상 계층의 패킷 분실에 기인한 오류 은폐를 위한 방법 | |
US9014277B2 (en) | Adaptation of encoding and transmission parameters in pictures that follow scene changes | |
EP1655966A2 (en) | Apparatus and method for processing an image signal in a digital broadcast receiver | |
US20070291131A1 (en) | Apparatus and Method for Controlling Image Coding Mode | |
US20100195742A1 (en) | Error concealment method and apparatus | |
US20160127740A1 (en) | Video Decoding Method/Device of Detecting a Missing Video Frame | |
CN107113423B (zh) | 重放用于隐藏视频解码错误的旧分组和基于无线链路状况的视频解码等待时间调整 | |
US20080031357A1 (en) | Decoding device, information reproducing apparatus and electronic apparatus | |
JP2008278210A (ja) | 動画像復号装置、放送受信装置、動画像復号方法 | |
US20090080520A1 (en) | Video decoding apparatus and video decoding method | |
US8385431B2 (en) | Moving picture data decoding device | |
JP5093233B2 (ja) | 信号出力装置、情報機器、信号出力方法および信号出力プログラム | |
JP2011193354A (ja) | ストリーム変換装置及びストリーム変換方法 | |
CN113709447B (zh) | 一种终端设备播放性能的检测方法和装置 | |
JP2011114712A (ja) | ストリーム変換装置及びストリーム変換方法 | |
JP2011009949A (ja) | 映像処理装置及び映像処理方法 | |
JP2009135769A (ja) | 画像処理装置 | |
JP5263967B2 (ja) | 動画ストリーム処理装置及び動画ストリーム処理プログラム | |
US20150078433A1 (en) | Reducing bandwidth and/or storage of video bitstreams | |
JP5158085B2 (ja) | 信号出力装置、信号出力方法及び信号出力プログラム | |
JP4716786B2 (ja) | ディジタル放送受信装置 | |
JP5590018B2 (ja) | 動画データ復号装置、情報機器、動画データ復号方法、動画データ復号プログラム | |
JP5092028B2 (ja) | 映像処理装置及び映像処理方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20110920 |