JP2013048447A - ディジタルビデオに対してエラー隠蔽を実行する方法 - Google Patents

ディジタルビデオに対してエラー隠蔽を実行する方法 Download PDF

Info

Publication number
JP2013048447A
JP2013048447A JP2012214297A JP2012214297A JP2013048447A JP 2013048447 A JP2013048447 A JP 2013048447A JP 2012214297 A JP2012214297 A JP 2012214297A JP 2012214297 A JP2012214297 A JP 2012214297A JP 2013048447 A JP2013048447 A JP 2013048447A
Authority
JP
Japan
Prior art keywords
digital video
pixel
region
error concealment
macroblock
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012214297A
Other languages
English (en)
Inventor
Chin-Yuan Teng
チア−ユアン・テン
Sharath Manjunath
シャラス・マンジュナス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2013048447A publication Critical patent/JP2013048447A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103Selection of coding mode or of prediction mode
    • H04N19/107Selection of coding mode or of prediction mode between spatial and temporal predictive coding, e.g. picture refresh
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/142Detection of scene cut or scene change
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/164Feedback from the receiver or from the transmission channel
    • H04N19/166Feedback from the receiver or from the transmission channel concerning the amount of transmission errors, e.g. bit error rate [BER]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】空間的エラー隠蔽(SEC)あるいは、時間的エラー隠蔽(TEC)のどちらを採用するかを決定するためのエラー隠蔽モード決定方法を提供する。
【解決手段】ビデオフレームがイントラ・フレームである場合には、イントラ・フレームがシーン変化を表すか否かを決定するのに、類似度測定基準が使用され、かつ、複雑な多項式によりSECまたはTECのどちらを採用するかを決定する。空間的エラー隠蔽技術は、破損したマクロ・ブロックを4つの異なる領域、コーナー領域、コーナー領域に隣接している列領域、コーナー領域に隣接する行領域、および、残りの領域に分割する。これらの領域は、その順に従い復元され、先に復元された領域からの情報が後に復元される領域で使用され得る。また、インター・ブロックにエラーを伝播させるかもしれない破損があった場合には、インター・マクロ・ブロックは、空間的エラー隠蔽を使用して回復されるかもしれない。
【選択図】図1

Description

本発明は、ディジタルビデオの復号とディスプレイに関する。特に、本発明は、損傷または消失した、ディジタルビデオ情報により引き起こされる、ディジタルビデオのエラーを隠蔽するための技術を開示する。
多くの新しいディジタル無線通信プロトコルの急速な進歩と採用により、最近、無線エレクトロニクスの大変革が進んでいる。たとえば、符号分割多元接続(CDMA)およびグローバルモバイル通信システム(Global System for Mobile:GSM(登録商標))は、ディジタル携帯電話の人気を大幅に増加させ、(802.11b、802.11g、802.11aなどのような)Wi-Fiローカル・エリア・ネットワーク(LAN)プロトコルは、無線コンピュータ・ネットワークを変革させ、また、ブルートゥースは、多くの異なるディジタル・デバイスに非常に有用な、短距離の無線ディジタル・プロトコルを提供してきた。
これらの新しいディジタル無線プロトコルは、エラーに対して抵抗力があるように設計されているが、ディジタル無線通信は、無線信号上の種々の物理的影響による、情報消失を、常に想定している。たとえば、混信、マルチパス反射により引き起こされたエラー、無線信号のシールド、到達範囲の限界、または、その他の問題は、送信された無線信号の品質を低下させるので、情報が失われることになる。
ディジタル無線プロトコルを使用する、リアルタイムではない通信アプリケーションは、消失した情報の再送を、単純に要求することにより、これらの理由による情報の消失を、容易に取り扱うことができる。しかしながら、リアルタイム通信アプリケーションは、ディジタル無線チャネルを通して送信される情報の、時たま起きる、情報の消失または破損を取り扱えるように、十分にロバスト(robust)である必要がある。
1つの具体的なリアルタイム通信アプリケーションは、無線ディジタル・チャネルを通しての、ディジタルビデオ情報の受信および即時の表示である。ディジタルビデオの伝送の間に、何らかの情報が失われる場合に、再送は、ビデオ電話およびビデオストリーミングのような、リアルタイムの応用には適切ではない、著しい遅延をもたらすので、消失した情報の再送を要求し、受け取るのに十分な時間がない。このように、ディジタルビデオ情報が消失した場合に、ディジタルビデオ受信機は、受信した不完全なディジタルビデオ情報を使用して、1つ以上のビデオフレームを表示することを試みなければならない。
いくつかの異なる技術が、何らかのディジタルビデオ情報の消失にもかかわらず、できる限り、最善のディジタルビデオフレームを復号化し、表示するために、開発されている。これらの技術が、エラーにより生じた正確なビデオ情報の不足を、隠蔽することを試みるので、不完全なディジタルビデオ情報を、できる限り最善の状態で表示するために開発された、これらの技術は、一般には、エラー隠蔽(Error Concealment:EC)技術とし呼ばれる。
既存のディジタルビデオエラー隠蔽技術は、主に以下の2つのカテゴリーに分類される。時間的エラー隠蔽(Temporal Error Concealment:TEC)と空間的エラー隠蔽(Spatial Error Concealment:SEC)である。時間的エラー隠蔽(TEC)は、(時間の次元で)近くにあるビデオフレームとの間の、時間的な相関を利用する。TECは、破損したマクロ・ブロックを、前に復元されたビデオフレームからの処理されたマクロ・ブロックと置き換えることにより、エラーを隠蔽する。他方、空間的エラー隠蔽(SEC)は、単一のビデオフレームの中での空間的な相関を利用する。空間的エラー隠蔽は、近隣のピクセル(または変換係数)から、誤ったピクセルを予測することにより、エラーを隠蔽する。
ブロック置換によるエラー隠蔽(Block Replacement Error Concealment:BREC)は、最も単純で、最も直接的なタイプの、時間的エラー隠蔽(TEC)である。ブロック置換によるエラー隠蔽は、誤りのあるマクロ・ブロックを、前に復元されたビデオフレームからの、同じ位置に存在するマクロ・ブロックと置き換えることにより、エラーを隠蔽する。時間的エラー隠蔽と比較して、この単純な方法は、隠蔽すべき誤りのあるマクロ・ブロックのゼロの動きベクトルを想定している。この性能は、ゼロの動きベクトルよりも、さらに正確な動きベクトルを利用することにより、改善できる。動きベクトル処理(MVP)はそのような例である。
非常に簡単な、空間的エラー隠蔽(SEC)の実施は、誤ったピクセルを、最も近くにある利用可能なピクセルからの情報と、単に置き換えることでもよい。改良は、補完法と空間的な予測を利用することにより達成することができる。空間的エラー隠蔽(SEC)は、ピクセル・ドメインまたは周波数ドメインのいずれかにおいて、行われてもよい。
通信ストリームにおけるエラーが生じる場合に、ユーザーに最も良く見えるビデオを供給するために、ディジタルビデオ受信機は、最適なエラー隠蔽システムを選択すべきである。したがって、最良のエラー隠蔽システムを注意深く選択し、次いで、不完全なディジタルビデオ情報からできる限り最善のビデオイメージを表示する状態で、エラー隠蔽システムを実行する、ディジタルビデオ受信機を創作することが、望ましいであろう。
本発明は、ディジタルビデオ情報の中にエラーが検出される場合に、エラー隠蔽を行う方法を提案する。多くの種々の技術が、非常に高い画質の、ディジタルビデオエラー隠蔽を行うために、提供されている。
開示される最初の技術は、空間的エラー隠蔽(SEC)または時間的エラー隠蔽(TEC)のどちらを使うべきかを決定する、非常に精巧な方法である。主な技術は、シーン変化(scene change)が生じたかどうかを決定し、シーン変化が生じた場合には、(空間的なエラー隠避を行うのに、余りにも多くのエラーがない限り)空間的なエラー隠避を使用するであろう。エラー隠蔽モード決定システムは、破損したフレームが、イントラ・フレームかインター・フレームのどちらかに依存して、異なる方法を用いる。ビデオフレームが、イントラ・フレームの場合には、イントラ・フレームが、シーン変化を表すかどうかを決定するために、類似度測定基準(similarity metric)を使用する。ビデオフレームが、イントラ・フレームの場合には、SECまたはTECのいずれが使用されるべきかを決定するために、複雑な多項式が使用される。
エラー隠蔽モードの決定が、復元のために空間エラー隠蔽が使用されるべきであると決定する場合に、使用するための、新たな空間的エラー隠蔽技術が示される。この新たな空間的エラー隠蔽技術は、破損したマクロ・ブロックを、4個の異なる領域、コーナー領域、角に接している行、角に接している列、および残りの主要領域に分割する。コーナー領域は、隣接したマクロ・ブロックにより、最初に復元される。列と行の領域は、隣接したマクロ・ブロック、または、隣接したマクロ・ブロックに加えて、復元されたコーナー領域を用いて、次に復元される。最後に、残りの領域が、隣接したマクロ・ブロック、列領域、行領域、およびコーナー領域を使用して、補間される。
最後に、マクロ・ブロックの回復技術が、破損されていないインター・ブロックを傷つけるエラー伝播を防ぐために、開示される。具体的には、インター・ブロックがエラーを伝播させるかもしれない、重大なエラーが引き起こす破損が生じていた場合には、インター・マクロ・ブロックは、空間的エラー隠蔽を使用して「回復」される。インター・マクロ・ブロックをいつ回復させるべきかを決定するために、損傷計算(damage calculation)が実行される。損傷計算は、破損したマクロ・ブロックの数、動きの量、シーン変化が生じたかどうか、破損していないイントラ・マクロ・ブロックの数を考慮する。
本発明の他の目的、特徴および利点は、添付の図面、および以下の詳細な説明から明らかになる。
ディジタルビデオ受信機/復号器における、シーン変化に基づくエラー隠蔽モードの決定を下すための一般的なフローを示す。 影をつけた領域が、検出されたエラーの後の、破損したマクロ・ブロックを示す、ディジタルビデオフレーム・マクロ・ブロック・マップの例を示す。 スライス全体が破損していると考えられる場合に、影をつけた領域が破損したマクロ・ブロックを示す、ディジタルビデオフレーム・マクロ・ブロック・マップの一例を示す。 改善されたシーン変化に基づくエラー隠蔽システムが使用される場合の、図1のフローチャートの改訂版を示す。 改善された空間的エラー隠蔽方法において、個々に取り扱われる、異なる領域に分割されるマクロ・ブロックを、グラフに示す。 マクロ・ブロックの中の領域Fに対して、3個の最も近接したピクセル、α、βとγを示す。 メディアン適応予測器のための、ピクセル・マップを示す。 改善された空間的エラー隠蔽方法において使用される、近隣のマクロ・ブロックの最下段右端のピクセルを示す。 改善された空間的エラー隠蔽方法が、破損したマクロ・ブロックの中の、最下段のピクセルを、どのようにして復元するかを示す。 改善された空間的エラー隠蔽方法が、破損したマクロ・ブロックの中の、最下段のピクセルを、どのようにして復元するかを示す。 改善された空間的エラー隠蔽方法が、破損したマクロ・ブロックの中の、最下段のピクセルを、どのようにして復元するかを示す。 改善された空間的エラー隠蔽方法が、破損したマクロ・ブロックの中の、中央領域のピクセルを、どのようにして復元するかを示す。 改善された空間的エラー隠蔽方法が、破損したマクロ・ブロックの中の、中央領域のピクセルを、どのようにして復元するかを示す。
ディジタルビデオのためのエラー隠蔽システムを選択し、実施する方法が示される。以下の説明において、説明の目的のために、特定の述語が、本発明の完全な理解を提供するために、示される。しかしながら、当業者にとっては、これらの特定の詳細が、本発明を実施するために、必要ではないことは明らかであろう。さらに、本発明はMPEGディジタルビデオ符号化プロトコルを参照して、主として説明されるが、同じ技術は、他のタイプのディジタルビデオ符号化プロトコルに適用することができる。
エラー隠蔽のモード選択概観
背景技術に示されているように、不完全なディジタルビデオ情報を含む、破損したディジタルビデオストリームを受信する、ディジタルビデオ受信機/復号器は、消失した情報なしで、できる限り最良な、ビデオイメージを表示しなければならない。再送は、ビデオ電話とビデオストリーミングのような、実時間アプリケーションのためには適していない、深刻な遅延をもたらすので、ディジタルビデオ受信機/復号器は、消失した情報の再送を要求することができない。したがって、いくつかの技術が、ある程度のディジタルビデオ情報の消失や破損にも関わらず、ディジタルビデオをできうる限り最良に表示するために開発されてきている。不完全なディジタルビデオ情報を、できる限り最善の状態で表示するこれらの技術は、一般に、エラー隠蔽(Error Concealment:EC)技術と呼ばれる。
種々の異なるエラー隠蔽技術が通信中に破損した、ディジタルビデオフレームを復元し表示するために存在する。エラー隠蔽の2つの主なカテゴリーは、時間的エラー隠蔽(Temporal Error Concealment:TEC)と、空間的エラー隠蔽(Spatial Error Concealment:SEC)である。時間的エラー隠蔽(TEC)は、(時間の次元で)近くのディジタルビデオフレームの間の、時間的な相関を利用する。時間的エラー隠蔽(TEC)は、破損したマクロ・ブロック(MB)を、前に復元したビデオフレームからの、処理されたマクロ・ブロックと置き換えることにより、しばしば、エラーを隠蔽する。空間的エラー隠蔽(SEC)は、単一のビデオフレームの中での、空間的な相関を利用する。空間的エラー隠蔽(SEC)は、誤ったピクセルを、近隣のピクセル(または、変換係数)から誤ったピクセルを予測することにより、ディジタルビデオフレームのエラーを隠蔽する。
各々の異なるエラー隠蔽技術は、それ自身の長所および短所を持つ。したがって、時間的エラー隠蔽と空間的エラー隠蔽のどちらが、最良の結果を提供するのかは、現時点の状況に依存するであろう。時間的エラー隠蔽(TEC)と空間的エラー隠蔽(SEC)のどちらを使うかの決定は、エラー隠蔽(EC)モード決定として知られている。エラー隠蔽モードの決定に対する最適な解決策は、与えられた歪測定基準を最小化するエラー隠蔽方法を選択することである。例えば、
Figure 2013048447
ここで、DSECが、SEC隠蔽フレームと基準フレームの間の歪であり、DTECが、TEC隠蔽フレームと基準フレームの間の歪であるとする。
しかしながら、実際には、基準が一般に利用可能でないので、歪を測定するのは、きわめて難しい。したがって、ディジタルビデオ受信機/復号器が、空間的エラー隠蔽と時間的エラー隠蔽のどちらを使用すべきかを決定するために、他の方法が使用されなければならない。
シーン変化に基づくエラー隠蔽モード
典型的なビデオシーケンスは、かなりの割合の、高い時間的な相関を持つビデオフレームと、前のビデオフレームと十分な時間的相関を持たない、周期的な「シーン変化」ビデオフレームとから構成されている。したがって、ほとんどのビデオフレームは、高い時間的な相関を持つので、時間的エラー隠蔽システムは、ほとんどの環境において、空間的エラー隠蔽システムよりも、性能が優れている。しかしながら、ビデオフレームが、前のディジタルビデオフレームと十分な相関がない、新しいシーンを含む、シーン変化ビデオフレームでは、ビデオフレーム間の類似度が低いため、時間に基づくエラー隠蔽システムは、一般に、不十分な結果を提供する。したがって、空間的エラー隠蔽は、シーン変化が生じる場合には、エラー隠蔽に対するより良い選択である。
図1は、ディジタルビデオ受信機/復号器における、シーン変化に基づくエラー隠蔽モードの決定を下す一般的なフローを示す。ステップ110では、ディジタルビデオ受信機/復号器は、ビデオフレームのためのディジタルビデオ情報を検証する。ステップ115において、ディジタルビデオ情報に、エラーが見つからない場合には、次いで、ディジタルビデオ受信機/復号器は、ステップ150に示されるエラー隠蔽方法からの支援無しに、ビデオフレームを与えることができる。
ディジタルビデオフレーム情報におけるエラーが見つけられた場合には、次に、ディジタルビデオの受信機/復号器は、破損したビデオフレームが、シーン変化フレームを表すかどうかを決定することを試みるために、ステップ120において、ディジタルビデオフレーム情報を、分析する。ディジタルビデオ受信機/復号器が、ステップ125で、シーン変化が生じたかどうかを決定すると、次いで、ステップ160において、空間的エラー隠蔽技術の助けを借りて、ビデオフレームは復元される。その逆に、システムが、シーン変化が生じなかったと決定した場合には、ステップ170に示されるように、破損したビデオフレームは、時間的エラー隠蔽技術の助けを借りて復元される。
図1に示された、エラー隠蔽システムの最も困難な態様の1つは、シーン変化が生じたかどうかを決定するための、ステップ120と125における、破損したディジタルビデオフレーム情報の分析である。特に、いかにして、ディジタルビデオ受信機/復号器が、シーン変化が生じたかどうかを正確に決定できるかである。
シーン変化エラー隠蔽モードの決定を実施する、1つの極度に単純化された方法は、復号化されつつあるビデオフレームのタイプに基づいて、エラー隠蔽技術を単純に選択することである。具体的には、非常に単純な、シーン変化に基づくエラー隠蔽モードの決定方法は、全てのイントラ・フレーム(Iフレーム)に対して、空間的エラー隠蔽(SEC)を選択し、ノン・イントラ・フレーム(PフレームとBフレーム)に対して、時間的エラー隠蔽(TEC)を選択してもよい。この非常に単純な手法は、シーン変化が生じる場合には、必ず、ディジタルビデオエンコーダーがイントラ・フレームを符号化するという仮定に基づいている。
この極度に単純化されたシーン変化に基づくエラー隠蔽モードの決定方法における問題は、きわめて正確であるとはいえない仮定を含むことである。たとえば、全てのシーン変化が、イントラ・フレームによって扱われるとは限らないであろう。さらに、ディジタルビデオエンコーダーは、シーン変化がない場合においても、一般に、意図的に、周期的な基準で、イントラ・フレームを生成する。イントラ・フレームは、ランダム・アクセスとエラー回復を目的として、周期的に挿入される。全てのシーン変化が、イントラ・フレームと印をつけられるわけではなく、全てのイントラ・フレームが、シーン変化というわけではないという事実は、この非常に極度に単純化されたフレーム・タイプを基にした、シーン変化エラー隠蔽モードの決定方法を、最適以下にする。
もう少し、より精巧で有効なシーン変化検出方法は、ディジタルビデオフレームを表すために使用されるマクロ・ブロックのタイプを分析することにより、シーン変化を検出する。このようなシーン変化検出方法においては、ディジタルビデオフレーム内の多くのマクロ・ブロックが、イントラ・コード化されていると、1つのフレームが「シーン変化」のフレームであると決定される。このエラー隠蔽モード決定の1つの実施は、次の式により表すことができる。
Figure 2013048447
ここにおいて、
Nintra,rcv=(フレーム内の)受信した、破損されていないイントラ・マクロ・ブロックの数
total,rcv=(フレーム内の)受信した、破損されていないマクロ・ブロックの総数
THD=閾値
である。
いくつかのマクロ・ブロックは、パケット損失またはチャネル・エラーにより失われているか、破損しているので、Nintra,rcvは、フレーム内のマクロ・ブロックの総数ではないかもしれないことに注意されたい。
式(1)のシーン変化エラー隠蔽モードの決定方法は、極度に単純化されたフレーム・タイプ決定方法の改善版である。しかしながら、式(1)のシーン変化エラー隠蔽モードの決定方法は、まだ、いくつかの問題を持つ。式(1)のエラー隠蔽モードの決定方法に関わる、4個の問題は、次のテーブルに示される。
表1 式(1)のエラー隠蔽モード決定の問題点
問題1.マクロ・ブロックのタイプを、シーン変化のただ1つの指標として使用することは、十分に正確ではないかもしれない。マクロ・ブロックのタイプは、ディジタルビデオエンコーダーによって決定される。各々の異なるディジタルビデオエンコーダーは、異なる設計を持つので、ディジタルビデオエンコーダーが期待した通りに動作するであろうと想定することができない。たとえば、動き補償後の残余エラーが著しいにもかかわらず、ディジタルビデオエンコーダーは、多くのマクロ・ブロックを「インター(inter)」として符号化するかもしれない。したがって、インター・ブロックは、シーン変化が生じた場合にも、使用されるかもしれない。
問題2.(マクロ・ブロックのタイプを含むヘッダーを備える)いくつかの重要な情報が損なわれるか、失われるかもしれないので、残された情報は信頼できる決定を下すのには十分ではないかもしれない。たとえば、1つのフレーム中の97%のマクロ・ブロックが消失し、数個の残りのマクロ・ブロックが、全てイントラ・コード化されているとすると、次に、式(1)のエラー隠蔽モードの決定方法は、SECが選択されるように、そのフレームがシーン変化を示すと結論を下すだろう。しかしながら、多くの消失したマクロ・ブロックの、マクロ・ブロックのタイプは不明である。大半の消失したマクロ・ブロックが、TECが使われるべきであったように、インター・コード化されていたということはありうる。
問題3.エラー隠蔽モードの決定を下す場合に、動きは、さらに詳しい考慮をすべきであるファクターである。非常に高い動きを有するフレームよりも、破損した静的なシーンを隠蔽する場合に、TECはよりよい性能を有している。単純なシーン変化の検出は、動きを考慮に入れない。
問題4.式(1)で指定された、エラー隠蔽モードの決定方法は、イントラ・フレームではうまく働かない。具体的には、イントラ・フレーム内の全てのマクロ・ブロックが、イントラ・コード化されると、式(1)のエラー隠蔽モードの決定方法は、常にイントラ・フレームのためにSECを選択するであろう。イントラ・フレームは、シーン変化が実際に生じたか否かに関わらず、周期的に挿入されるので、TECがより良い結果を提供したかもしれないのにも関わらず、SECが使用されるであろう。
エラー隠蔽モードの決定のための改善されたシーン変化検出器
ディジタルビデオ受信機/復号器により良い結果を提供するために、本発明は、エラー隠蔽モードの決定を下すために使用されてもよい、精巧なシーン変化検出システムを導入する。本発明のシーン変化検出システムは、テーブル1に示された全ての問題を扱う。
問題1.大きな残余エラーを有するインター・フレーム
テーブル1の最初の問題を扱うために、インター・マクロ・ブロックにおける残余エラーの影響を反映するファクターを式(1)に加えてもよい。このように、インター・フレーム符号化からの、大きな残余エラーを有するフレームは、シーン変化であると決定してもよい。1つの実施例において、式(1)のエラー隠蔽モード決定方法、次のように修正される。
Figure 2013048447
ここで、
=第1項のための重み付けファクター(インター・マクロ・ブロックのパーセント)Qp=フレームの平均量子化パラメータ
Bits=破損したビデオ・フレームのビット数
T=閾値
である。
式(2)の修正されたエラー隠蔽モードの決定方法では、加算したQp*Bitsは、インター・マクロ・ブロックにおける残余エラーのファクターに算入する。この変更の背後にある考えは、マクロ・ブロックが前の基準フレームからよく一致するものを見つけられないので、シーン変化フレームにおける、インター・マクロ・ブロックの残余エラーが、通常の場合には、非常に大きいことである。したがって、より多くのビットが、残余エラーを符号化するために必要であろう。
通信ネットワークにおいて、ディジタルビデオ情報は、通常の場合には、小さいパケット(またはセル)に分割され送信される。ディジタルビデオパケットは通信中に失われるか、CRC(またはチェックサム)の失敗によりディジタルビデオ受信機/復号器により廃棄されるかもしれない。したがって、ディジタルビデオ受信機/復号器は、式(2)の「Bits」項(破損したフレームのビット数)がディジタルビデオ復号器には分からないように、破損したデータを得ることができないかもしれない。これを扱うために、「Bits」項は、2つの部分、受信機/復号器が受け取るビット数(Bitsrecvで表される)と、消失したビット数(Bitslostで表される)に、分けることができる。この変更により、式(2)は次のように修正される。
Figure 2013048447
ディジタルビデオ復号器は、一般に、通信中に消失したビット数を知らされない。ディジタルビデオ復号器は消失したデータの量を知らないので、下位レイヤー(例えばRTP)において、Bitslost項は推定され提供されるべきである。1つの実施例では、Bitslost項は次の式を使用して推定することができる。
Figure 2013048447
ここにおいて、
lost=消失したパケット数、
lost=これらの消失したパケットの推定された大きさ
である。
lost項は、パケット・ヘッダーのシーケンス番号から得ることができる。Slost項は、前に受け取ったディジタルビデオパケットの平均ペイロードの大きさを使用して推定することができる。式(4)を式(3)に代入することにより、エラー隠蔽モードの決定式を次のように変更する。
Figure 2013048447
問題2:過度のデータ損失
テーブル1に戻って参照すると、大きな量のディジタルビデオ情報が損なわれるか、そうでなければ利用可能ではない場合に、式(1)の第2の問題は、式が不正確なことである。この第2の問題点は、大きな量のディジタルビデオ情報が利用可能ではない場合には、エラー隠蔽モードの決定方法を、時間的エラー隠蔽に向かってバイアスさせる、スケーリング「エラー・ファクター」を、式の左側に加えることにより、解決することができる。スケーリング・ファクターを式(5)に加える、1つの実施例は、以下に示される。
Figure 2013048447
ここにおいて、
corrupt=1つのビデオフレーム内で破損(消失を含む)したマクロ・ブロックの数、
total=ビデオフレーム内のマクロ・ブロックの総数、
S()=バイアス関数
である。
バイアス関数S(.)は、S(0)=0およびS(1)=1を満足しなければならない。
1つの実施例では、式(6)のS(.)関数は、異なる破損レートに対して、異なるスケーリングを与える、非線形のバイアス関数である。シーン変化フレームの数が、一般に、シーン変化のないフレームよりもはるかに少ないので、モード決定は、損なわれるマクロ・ブロックの数が増加するに従って、時間的なエラー訂正(TEC)に寄ったバイアスを持つように設計されている。さらに、空間的なエラー訂正(SEC)は、ディジタルビデオフレーム内の大半のマクロ・ブロックが破損している場合には、良好には、実行できない。極端な場合には、Ncorrupt=Ntotalとなり、式(6)の左側は0と等しく、時間的なエラー訂正(TEC)が、常に選択される。
ビデオフレーム内の、破損したマクロ・ブロックの数を計算する異なる方法がある。その方法は、ディジタルビデオ復号器が、下位レイヤーからのスライス内でのエラーの位置を受け取るかどうかに依存して、異なるであろう。これらの2つの状況の各々は、以下に示される。
ディジタルビデオ復号器が、ビデオフレームの中でエラーがどこにあるのかについて知らされていれば、そのマクロ・ブロック、および、前の開始コードまたは再同期マーカー以降の、全ての前のマクロ・ブロックにエラーが見つからなければ、あるマクロ・ブロックが「破損していない」とマークされるようにして、エラー・マクロ・ブロック・マップが生成される。その反対に、現時点のマクロ・ブロック、または、前の開始コードまたは再同期マーカーまでの、いずれかの前のマクロ・ブロックにエラーが見つかると、そのマクロ・ブロックは「破損している」とマークされる。マーキングの後で、マクロ・ブロック・マップは、各々のエラー・セグメントが、破損したマクロ・ブロックの通し番号を含む、エラー・セグメントを含む。影をつけた領域が破損したマクロ・ブロックを表す、エラー・セグメントを含むマクロ・ブロックのエラー・マップの実例が、図2に示される。「スライス」がビデオフレームにおける独立に復号できるデータ構造を表すことに注意されたい。例は、MPEG4ビデオ符号化方法における「ビデオパケット」と、H.263およびAVGビデオ符号化方法における「スライス」を含んでいる。スライスの中で、最初のマクロ・ブロック番号はスライス・ヘッダーから得ることができる。
下位レイヤーがディジタルビデオ復号器にエラー位置情報を提供しない場合には、次いで、ディジタルビデオ復号器は、それ自身により、エラーを検出することを試みてもよい。一般に、このようなエラー検出は信頼性がなく、まさに第1の破損したマクロ・ブロックを見落としてしまうかもしれない。破損したマクロ・ブロックを見落とすことにより、引き起こされる問題を防ぐために、「破損していないマクロ・ブロック」の保守的な定義が使用される。あるマクロ・ブロックは、そのマクロ・ブロックが存在するスライスの中にエラーが検出されない場合には、マクロ・ブロック・マップにおいて、「破損していない」とマークされる。その逆に、そのスライスの中で、何らかのエラーが検出されると、次いで、そのスライスの全てのマクロ・ブロックは、「破損している」としてマークされる。この破損したマクロ・ブロックの保守的な定義では、スライスの中の任意の検出されたエラーは、スライス全体を役立たないとする。この場合における、この保守的なエラー・マクロ・ブロック・マップおよびエラー・セグメントの例が、図3に示される。
問題3.動きレベル・ファクター
表1に戻って参照すると、式(1)のシーン変化検出システムの3番目の問題は、式(1)が激しい動きを考慮に入れ損なっていることである。具体的には、動きの著しい量がある場合には、時間的なエラー訂正は、より有用ではなくなる。
この問題を扱うために、「動きレベル(motion level)」パラメータが、式(6)の右側に追加されてもよい。この新たに追加された、動きレベル・パラメータは、あるシーンに激しい動きがある場合に、時間的なエラー訂正を使用するのに反対する、追加のバイアスを生成する。動きレベル・パラメータを式(6)に追加した、エラー隠蔽モードの決定式の実施例を、以下に示す。
Figure 2013048447
ここにおいて、
MVx(i,j)=マクロ・ブロック(i,j)の水平方向動きベクトル
MVy(i,j)=マクロ・ブロック(i,j)の垂直方向動きベクトル
K2=スケーリング定数
である。
イントラ・マクロ・ブロックおよび消失したマクロ・ブロックに対する動きベクトルは、利用可能ではないことに注意されたい。失われた動きベクトルに対して0の動きと単純に仮定することは、一般に、適切ではない。一つの実施例においては、「最新で利用可能な(latest available)」動きベクトルが、破損していて、イントラ・コード化されているマクロ・ブロックのために使用される。「最新で利用可能な」動きベクトルは、各々の、入力されてくる、破損していないインター・マクロ・ブロックについて、動き情報が更新される、「動きベクトルマップ(motion vector map)」から得られる。具体的には、動きベクトル(MV)マップは、M×N(MとNは、それぞれ、列と行のブロックの数である)の入力から構成されている。各々の入力は、1つのブロックの、最新の動きベクトルMV(i,j)とMV(i,j)を含んでいる。動きベクトルマップは、ゼロにより初期化され、受信された、破損していないインター・ブロック各々について更新される。
問題4.イントラ・フレーム
表1に載せられている第4の、最後の問題は、周期的に挿入されるイントラ・フレームが、シーン変化が実際には生じていない場合に、シーン変化が生じたと、式(1)を騙して主張させるかもしれない。具体的には、ランダム・アクセスとエラー回復用に、ディジタル・フレームのストリームに挿入された、イントラ・フレームは、シーン変化が生じたとディジタルビデオ受信機/復号器に信じさせるかもしれない。この第4の問題を解決するために、マクロ・ブロックのタイプ情報の代わりに類似度(similarity)に基づく、特別なシーン変化決定方法がIフレームとの使用のためだけに設計されている。破損においてTECに寄るバイアス・コストが、決定基準に追加されている。同様に、動きに対してSECに寄るバイアスも加えられる。以下の式が、シーン変化の検出を実行し、類似度の項を含んでいる。
Figure 2013048447
ここにおいて、
C=動きに対するスケーリング定数
τ=閾値
SIM=輝度ドメインのための類似度測定基準
SIMおよびSIM=2つのクロミナンス・ドメインに対する類似度測定基準
である。
1つの実施例においては、類似度測定基準(similarity metric)は、次のように定義されてもよい。
Figure 2013048447
ここで、
Figure 2013048447

Figure 2013048447
は、現在および前に復元された、輝度(Y)ヒストグラムを表す。クロミナンスのためのシンボル
Figure 2013048447

Figure 2013048447
は、類似の定義を持っている。さらに、「(○の中に×が入った記号)」は「内積」を表す。
図4は、ディジタルビデオ復号器のエラー隠蔽のための、シーン変化検出を行うための、図1のフローチャートの修正版を示す。図4のフロー・ダイアグラムにおいて、ディジタルビデオフレームがイントラ・フレーム(I−frame)であるかどうかを決定するために、決定ステップ420が追加された。ディジタルビデオフレームがイントラ・フレームであると、式(8)は、ステップ433に示すように、シーン変化検出に使用されるであろう。そうでなければ、式(7)は、ステップ430に示すように、シーン変化の検出のために使用されるであろう。
改善された空間的エラー隠蔽
本発明は、失われたか、破損したディジタルビデオ情報により生じたエラーを隠蔽するために、空間的エラー隠蔽が選択される場合に使用する、改善された空間的エラー隠蔽(SEC)方法を導入する。本発明の、改善された空間的エラー隠蔽方法は、階層的な補間を使う、最近接の利用可能なピクセルを基にするメディアン適応予測器(median adaptive predictor)を備える。
提案された空間的エラー隠蔽手法は、マクロ・ブロックを基にした隠蔽方法であり、全ての正確に受信されたマクロ・ブロックが、前もって復号化されていると仮定している。1つの実施例では、輝度ドメインにおいて、よく知られているITUおよびMPEG規格に示されるように、マクロ・ブロックは、16×16であり、クロミナンス・ドメインでは、8×8である。空間的エラー隠蔽方法は、標準ラスター順に従って、破損したマクロ・ブロックに対して実行される。したがって、隠蔽されるべきマクロ・ブロックの、左と上の、全てのマクロ・ブロックとピクセルは、既に、復号器により生成され、破損したマクロ・ブロックを隠蔽するために利用可能である。
提案された空間的エラー隠蔽方法は、破損したマクロ・ブロックを4つの異なる領域に分割する。提案された空間的エラー隠蔽方法は、次いで、マクロ・ブロックのその領域に特有の、特別の空間的エラー隠蔽方式を用いて、各々の異なる領域を扱う。4つの領域と、16×16のマクロ・ブロックのための、対応するピクセル座標は、次のように定義される。
領域F(右下コーナー、1つのピクセル):(15、15)
領域B(最下段行、15ピクセル):(i、15)、0≦i≦14
領域R(右端の列、15ピクセル):(15、j)、0≦j≦14
領域M(中央部分、225ピクセル):(i、j)、0≦i、j≦14
図5は、1つのマクロ・ブロックの、4個のマクロ・ブロック領域、F,B,RとMへの分割をグラフにより示す。提案された空間的エラー隠蔽方法は、以下の順に、4個の異なるマクロ・ブロック領域を扱う。
1.領域F(右下コーナー)の復元:x(15、15)
2.領域B(最下段行)の復元:x(i、15)、0≦i≦14
3.領域R(右端の列)の復元:x(15、j)、0≦j≦14
4.領域M(中央部分)の復元:x(i、j)、0≦i、j≦14
ここにおいて、x(i、j)は,ピクセルの位置(i、j)における、復元されたピクセルの値を表す。(領域Bと領域Rの復元は、同様の結果が得られるように、逆の順番に実行することができることに注意されたい。)4つの異なる領域の各々に対する、空間的エラー隠蔽方法は、それぞれ以下の4つの節において説明される。
領域F(右下コーナー)の復元:x(15,15)
F領域(右下コーナー)は、以下の3つの方法、メディアン適応予測(median adaptive prediction)、ピクセル平均化、または、ピクセル複写、のうち1つを用いて、最近接の「利用可能な」ピクセルを処理することにより、復元される。ピクセルが、破損していないマクロ・ブロックの中に位置する場合には、ピクセルは「利用可能な」と呼ばれる。
領域Fから、最近接の利用可能なピクセルまでの距離によって、復元する手順は、以下のように、ケース1またはケース2となる。
ケース1:ケース1は、3つの、隣の(下、右、右下の)マクロ・ブロック内の、隣接した3つのピクセルの少なくとも1つが利用可能であることを必要とする。具体的には、図6Aを参照すると、領域Fの3つの最も近隣の、α、βとγは、破損していないマクロ・ブロックの中になければならない。ケース1は、さらに、以下の4つのサブ・ケース1.1から1.4に分けられる。
ケース1.1:ケース1.1は、3つの周囲のピクセル、α、βとγのすべてが、利用可能である(全てのピクセルが破損していないマクロ・ブロックに存在する)場合に生じる。3つの周囲のピクセル、α、βとγが利用可能な場合には、領域Fのコーナー・ピクセルは、次の式でメディアン適応予測器を使用して復元される。
Figure 2013048447
元の、メディアン適応予測器は、ロスレスで画像を圧縮するように設計されていて、図6Bに示すように、周囲のピクセル、p、qとrにより、現在のピクセルxを予測する、非線形の予測器である。r≧q≧pまたはr≦q≦pであれば、垂直方向の縁がxより上にあり、r≧p≧qまたはr≦p≦qであれば、水平方向の縁がxより上にあると、仮定している。領域Fを復元するために使用する3個の周囲のピクセルは、元のメディアン適応予測器のそれとは異なることに注意されたい。
ケース1.2:ケース1.2は、図6Aの、αとβの両方のピクセルが、破損していないマクロ・ブロックに存在する場合に、使用される。(しかし、それがケース1.1になるので、γは利用可能ではない。)ケース1.2では、領域Fのコーナー・ピクセルは、以下の式によるピクセル平均化を使用して復元される。
Figure 2013048447
ここにおいて、2の割算の操作は、右シフト操作(>>1)によって実行され得る。
ケース1.3:ケース1.3は、αまたはβの一方(しかしながら両方ではない)が、破損していないマクロ・ブロックに存在している(γの状態は無関係である)場合に使用される。ケース1.3においては、ピクセルの複写
x(15,15)=x(16,15)またはx(15,16)
により、領域Fは復元される。
ケース1.4:最後に、ケース1.4は、γだけが破損していないマクロ・ブロックにある場合に、使用される。ケース1.4の場合には、領域Fは、次のピクセル複写により復元される。
x(15,15)=x(16,16)
ケース2:図6Aに戻って参照すると、ケース2は、領域Fの3つの最も近隣のα、βとγは全て、破損したマクロ・ブロックの中にある場合に生じる。図6Aのα、βとγは、利用可能ではないので、領域Fは、現時点で隠蔽されているマクロ・ブロックに隣接している、他の3個の(上、左と上左の)マクロ・ブロックからのピクセルを使用して、復元されなければならない。現在のマクロ・ブロックが端に配置されていると、これらのマクロ・ブロックは、利用可能ではないかもしれないことに注意されたい。マクロ・ブロックが端に配置されていなければ、図5に示されるように、これらは、エラー無しで受信されているか、既に隠蔽されているので、これらのマクロ・ブロックは、すでに、復元されている。ケース2では、近隣のマクロ・ブロックの、下段右端のピクセルは、図7でピクセルα、βとγにより示されるように、領域Fの復元に使われるかもしれない。端の状況により、ケース2は、以下の4つのサブ・ケース2.1から2.4に、さらに分割される。
ケース2.1:ケース2.1は、マクロ・ブロックがフレームの左上のコーナーに位置する場合に生じる。この場合には、近隣のピクセル情報は利用可能ではないため、領域Fは、ピクセルの値の平均か中央値に単に設定される。一つの実施例では、領域Fは、次の式により復元される。
x(15,15)=128 (16)
ケース2.2:ケース2.2は、マクロ・ブロックがフレームの上段の行に位置する場合に生じる。ケース2.2では、以下の式を用いて、図7のピクセル複写αにより、復元される。
x(15,15)=x(−1、15) (17)
ケース2.3:ケース2.3は、マクロ・ブロックがフレームの左端の行に位置する場合に、生じる。ケース2.3では、以下の式を有する、図7のピクセル複写βにより、領域Fが復元される。
x(15,15)=x(15、−1) (18)
ケース2−4:ケース2.1は、前記のケースのどれもが適用できない(全ての上および左のマクロ・ブロックが利用可能である)場合に生じる。ケース2.4では、領域Fは、メディアン適応予測器を、x(−1,15)、x(15、−1)とx(−1,−1)(図7に示された、ピクセルα、βとγ)に、以下の式とともに、適用して復元される。
Figure 2013048447
B領域(最下段の行)の復元:x(i、15)、0≦i≦14
図6Aに戻って参照すると、2つの異なる復元方式が、最下段の行領域Bを再生するために使われている。具体的には、以下に示される、ケース1またはケース2が、行領域Bの下のマクロ・ブロックが利用可能であるか、または、破損しているか他の理由で利用できないかに依存して、選択される。
ケース1:ケース1は、行領域Bの下のマクロ・ブロックが、破損していない場合に使用することができる。この場合には、領域Bの各々のピクセルは、次の式を使い、その下のピクセルと同じ値として復元される。
x(i、15)=x(i、16)、0≦i≦14 (20)
ケース2:ケース2は、行領域Bの下のマクロ・ブロックが破損しているか利用可能でない場合に、使用される。この場合に、行領域Bの各々のピクセルは、最下段の行の中央から開始して、2つの前に復元されたピクセルの平均として、復元される。最初の2つの、前に復元されたピクセルは、領域Fからのピクセルと、左側のマクロ・ブロックの、最下段の右端のピクセルである。ピクセルの復元は、以下の式を使用して行われる。
Figure 2013048447
ここにおいて、復元の順番と、iとkの関係は、以下の表2に示される。2の割算の操作は、右シフト操作(>>1)により行うことができることに注意されたい。
表2 領域BとRにおける、復元の順序と、iとkとの関係
Figure 2013048447
復元の手順は、図8Aから8Cにグラフ表示される。最下段x(i、15)の各々のピクセルは、最近接の2つの、前に復元されたピクセルの平均により復元される。各々のピクセルは、復元のために、2つの加算操作(+)と1つのシフト操作(>>)とを必要とする。
R(右端の列)の復元:x(15、i)、0≦i≦14
図6Aにおける、右端列のR領域の復元は、最下段行の領域Bのための復元手順と同様に進む。具体的には、列領域Rの右側のマクロ・ブロックが破損しているか否かに依存して、2つの異なる方式が、破損したマクロ・ブロックの、右端列のR領域を隠蔽するために、使用される。
ケース1:ケース1は、列領域Rの右側のマクロ・ブロックが破損していない場合に、使用される。この場合には、領域Rにおける各々のピクセルは、以下の式により、その隣のピクセルと同じ値に復元される。
x(15、i)=x(16、i)、0≦i≦14 (22) ケース2:ケース2は、列領域Rの右側のマクロ・ブロックが破損しているか利用可能ではない場合に、使用される。ケース2では、以下の式により、右端の列の中央から始めて、領域R内の各々のピクセルは、最近接の2つの、前に復元されたピクセルの平均として復元される。
Figure 2013048447
復元の順番およびiとkの関係は、行領域Bの復元に関する前節のそれと同じである。2の割算操作が、右シフト操作(>>1)により行うことができることに注意されたい。
領域M(中央部分)の復元:x(i、j)、0≦i、j≦14
この点において、マクロ・ブロックの最下段の行と右端列のピクセルが復元されている。
残りのピクセル(マクロ・ブロックの中央部分、図6Aに示されている領域M)は、マクロ・ブロックの中央から開始して、4つの前に復元されたピクセルの平均として、復元される。具体的には、領域Mのピクセルに挿入するのに、以下の式が使用される。
Figure 2013048447
ここにおいてn=0またはmである。式(24)において、4の割算は、2桁の右シフト操作(>>2)により行うことができる。復元の順番および最初の25個のピクセルに対する(i、j)、mとnとの関係は、表3に示される。残されたピクセルの順番は、以下のようにして導き出すことができる
表3 領域Mにおける、復元の順序と、iとkとの関係
Figure 2013048447
各々のピクセルの復元は、4つの加算操作(+)と1つの2桁のシフト操作(>>2)とを必要とする。領域Mに対する復元手順は、図9Aと9Bにグラフで示されている。
破損していないフレームへの伝播エラー
ディジタルビデオフレームのための情報が、エラー無しで、送信され、受信される場合でさえ、表示されるディジタルビデオフレームは、前に受信したディジタルビデオフレームにおけるエラーのために、視覚的には品位が落ちるかもしれない。具体的には、現在のディジタルビデオフレームは、前に送信されたディジタルビデオフレーム内の、破損したマクロ・ブロックの参照を含むかもしれない。これらの破損したマクロ・ブロックが、エラー隠蔽方法により復元されると、復元されたマクロ・ブロックを参照する、現在のディジタルビデオフレームは、視覚的な誤差を含むであろう。
この問題を扱うために、本発明は、ある条件において、マクロ・ブロックの「回復(refreshing)」を提案する。「回復」という言葉は、空間的エラー隠蔽(SEC)により、マクロ・ブロックを再生することを、意味する。SECにより導入される、オーバーシュート(例えば、にじみ)を防ぐために、「回復」方式は、クロミナンス(UとV)ドメイン上だけで適用される。
本発明の回復手順は、次の3ステップ、準備、決定および処理を含んでいる。各々のステップが詳細に説明されていく。
準備:回復テーブル
システムは、各々の入力が、マクロ・ブロック(MとNが、ディジタル・フレーム内の、マクロ・ブロックの行と列の数を表す)のための、「回復」の状態を示す、M×Nの入力から構成される、回復テーブルを生成する。対応するマクロ・ブロックが破損していて、空間的なエラー訂正により隠蔽されている場合には、システムは、入力の初期値を「2」に設定する。そうでなければ、初期値を「0」に設定する。
決定:破損していないブロックに空間的エラー隠蔽を使用するか?
次に、システムは、対応するマクロ・ブロックが以下の全ての条件を満たす場合に、ディジタルビデオフレームを走査し、回復テーブル入力値を「0」から「1」に変更する。
1.破損していないマクロ・ブロックである。(マクロ・ブロックが破損していない場合には、エラー隠蔽が起動されるであろう。)
2.インター・マクロ・ブロックである。(イントラ・マクロ・ブロックは、エラー伝播問題がない。)
3.破損していないマクロ・ブロックの数が、閾値よりも大きい。(SECは、余りにも多くの破損したマクロ・ブロックの条件では、適切に実行することができない。)
そうでなければ、システムは値をそのままにしておく。

提案されたアルゴリズムの目的が、破損していないインター・マクロ・ブロックへの、エラー伝播の影響を減らすことであるため、エラーの状態に基づいて決定を下すべきである。したがって、条件3の閾値は、破損の関数として設定されるべきである。破損がさらに著しい場合には、より多くのマクロ・ブロックが回復されるように、閾値はより低く設定されるべきである。真の影響を反映するために、破損したマクロ・ブロックの数だけではなく、たとえば動きの量、シーン変化が生じているかどうか、破損していないイントラ・マクロ・ブロック、過去の破損など、他の要素により、破損は推定される。大きな量の動きおよびシーン変化の発生などのファクターは、破損をさらに悪くする傾向がある。他方では、破損していないイントラ・マクロ・ブロックは破損を減らす傾向がある。1つの実施例において、損傷ファクター(damage factor)は、以下の式により計算される。
Figure 2013048447
ここにおいて、
Figure 2013048447
=新しい損傷(破損したマクロ・ブロックの数)
i−1=過去の損傷
、k=動きにより引き起こされた損傷の拡大を反映する定数(k1、k2≧1)。
静的なシーンではk=k=1
I=エラー訂正ファクター(破損していないイントラ・マクロ・ブロックから得られた利点)。I≦1(1は破損していないイントラ・マクロ・ブロックがないことを表す。)s=シーン変化ファクター、s≧1(1は、シーン変化が無いことを表す)
処理:空間的エラー隠蔽の実行
空間的エラー隠蔽方法を、対応する回復テーブルの入力が「1」とマークされている、マクロ・ブロックのクロミナンス・ドメインに適用する。空間的エラー隠蔽アルゴリズムを、「2」とマークされている、マクロ・ブロックの輝度ドメインとクロミナンス・ドメインの両方に適用する。多くの異なる空間的エラー隠蔽方法が使用されてもよい。1つの実施例においては、前の節に示されたことに基づく、空間的エラー隠蔽方法は、実験的には、「回復」のための空間的エラー隠蔽として役に立つ。
上記では、ディジタルビデオにおけるエラー隠蔽を実行するための、多くの技術が説明された。本発明の範囲から離れることなく、本発明の素材と要素の構成の変更と修正が、当業者によりされ得ることは、考えられることである。
上記では、ディジタルビデオにおけるエラー隠蔽を実行するための、多くの技術が説明された。本発明の範囲から離れることなく、本発明の素材と要素の構成の変更と修正が、当業者によりされ得ることは、考えられることである。
以下に本願発明の当初の特許請求の範囲に記載された発明を付記する。
[C1]
ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法であって、
前記ディジタルビデオフレームがイントラ・フレームであるかどうかを決定すること、前記ディジタルビデオフレームがイントラ・フレームである場合に、シーン変化が生じているかどうかを決定する類似度測定基準を含む第1の式を用いることを適用すること、前記ディジタルビデオフレームがイントラ・フレームではない場合に、シーン変化が生じているかどうかを決定するイントラ・マクロ・ブロック比率項(intra-macroblock ratio term)を含む第2の式を適用すること
を含む前記方法。
[C2]
前記第2の式がフレーム・ビット・サイズの項を含む、C1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C3]
前記フレーム・ビット・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた、量子化パラメータを含む、C2に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C4]
前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、C3に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C5]
前記第2の式が、さらに動きの量を規定する動きレベル項を含む、C1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C6]
前記第2の式が、さらにデータ損失スケーリング・ファクターを含む、前記C1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C7]
前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記C6に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C8]
ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法であって、シーン変化が生じたかどうかを決定する複数項の式を解くことを含み、前記複数項の式がイントラ・マクロ・ブロック比率項を含む、前記方法。
[C9]
前記複数項の式がさらに、フレーム・サイズの項を含む、前記C8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C10]
前記フレーム・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた量子化パラメータを含む、C9に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C11]
前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、C10に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C12]
前記複数項の式が、さらに動きの量を規定する動きレベル項を含む、C8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C13]
前記複数項の式が、さらにデータ損失スケーリング・ファクターを含む、前記C8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C14]
前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記C13に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
[C15]
コンピュータ可読媒体であって、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する一連の命令であって、シーン変化が生じたかどうかを決定する、複数項の式を解くステップを実行する前記一連の命令を含み、前記複数項の式がイントラ・マクロ・ブロック比率項を含む、前記コンピュータ可読媒体。
[C16]
前記複数項の式がさらに、フレーム・サイズの項を含む、前記C15に示される、コンピュータ可読媒体。
[C17]
前記フレーム・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた量子化パラメータを含む、C16に示される、コンピュータ可読媒体。
[C18]
前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、C17に示される、コンピュータ可読媒体。
[C19]
前記複数項の式が、さらに動きの量を規定する動きレベル項を含む、C15に示される、コンピュータ可読媒体。
[C20]
前記複数項の式が、さらにデータ損失スケーリング・ファクターを含む、前記C15に示される、コンピュータ可読媒体。
[C21]
前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記C20に示される、コンピュータ可読媒体。
[C22]
ディジタルビデオ復号器であって、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する前記ディジタルビデオ復号器の方法であって、前記方法は、
シーン変化が生じたかどうかを決定する複数項の式を解く手段であって、
前記複数項の式がイントラ・マクロ・ブロック比率項を含み、
前記複数項の式が、シーン変化が生じたと決定した場合に、空間的エラー隠蔽を実行するための手段と、
前記複数項の式が、シーン変化が生じなかったと決定した場合に、時間的エラー隠蔽を実行するための手段と
を備える、前記ディジタルビデオ復号器。
[C23]
空間的エラー隠蔽を実行する方法であって、
破損したマクロ・ブロックを1つ以上の領域に分割する、前記破損したマクロ・ブロックの第1の領域が前記マクロ・ブロックのコーナー・ピクセルを含む、
前記コーナー・ピクセルを含む前記第1の領域に対するピクセル値を決定する、および、
前記コーナー・ピクセルの前記ピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する、
ステップを含む前記方法。
[C24]
前記第1の領域のピクセル値を決定することが、隣接マクロ・ブロック内の隣接ピクセルを使用して、前記第1の領域を補間することを含む、C23に示される、空間的エラー隠蔽を実行する方法。
[C25]
前記第1の領域のピクセル値を決定することが、隣接マクロ・ブロック内の隣接ピクセルを含む、C23に示される、空間的エラー隠蔽を実行する方法。
[C26]
前記1つ以上の領域が、さらに、前記コーナー・ピクセルに隣接するピクセル行と、前記コーナー・ピクセルに隣接するピクセル列とを含む、C23に示される、空間的エラー隠蔽を実行する方法。
[C27]
前記ピクセル行領域が、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル行により構成されている、C26に示される、空間的エラー隠蔽を実行する方法。
[C28]
前記ピクセル行領域が、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル列により構成されている、C26に示される、空間的エラー隠蔽を実行する方法。
[C29]
前記1つ以上の領域が、さらに前記コーナー・ピクセルと隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルと接する主要領域を含む、C26に示される、空間的エラー隠蔽を実行する方法。
[C30]
前記主要領域が、隣接するマクロ・ブロックと、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルとの間で補間することにより復元される、C29に示される、空間的エラー隠蔽を実行する方法。
[C31]
コンピュータ可読媒体であって、前記コンピュータ可読媒体は空間的エラー隠蔽を実行する一連の命令を含んでいて、前記命令は、
破損したマクロ・ブロックを1つ以上の領域に分割する、前記破損したマクロ・ブロックの第1の領域が前記マクロ・ブロックのコーナー・ピクセルを含む;
前記コーナー・ピクセルを含む前記第1の領域のピクセル値を決定する;および、
前記コーナー・ピクセルのピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する、
ステップを実行する、前記コンピュータ可読媒体。
[C32]
前記第1の領域のピクセル値を決定することは、隣接マクロ・ブロック内の隣接ピクセルを使用して、前記第1の領域の補間することを含む、C31に示される、コンピュータ可読媒体。
[C33]
前記1つ以上の領域は、さらに、前記コーナー・ピクセルに隣接するピクセル行と、前記コーナー・ピクセルに隣接するピクセル列とを含む、C31に示される、コンピュータ可読媒体。
[C34]
前記ピクセル行領域は、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル行により構成される、C33に示される、コンピュータ可読媒体。
[C35]
前記ピクセル行領域は、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル列により構成される、C33に示される、コンピュータ可読媒体。
[C36]
前記1つ以上の領域は、さらに、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接する前記ピクセル列、および、前記コーナー・ピクセルと接する主要領域を含む、C33に示される、コンピュータ可読媒体。
[C37]
前記主要領域は、隣接するマクロ・ブロックと、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルとの間で補間することにより復元される、C29に示される、コンピュータ可読媒体。
[C38]
空間的エラー隠蔽装置であって、
破損したマクロ・ブロックを1つ以上の領域に分割する手段と、前記破損したマクロ・ブロックの第1の領域は前記マクロ・ブロックのコーナー・ピクセルを含む、
前記コーナー・ピクセルを含む前記第1の領域のピクセル値を決定する手段と、
前記コーナー・ピクセルの前記ピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する手段、
を含む、前記空間的エラー隠蔽装置。
[C39]
前記コーナー・ピクセルを含む、前記第1の領域のピクセル値を決定する手段が、隣接マクロ・ブロック内の隣接ピクセルを使用する、前記第1の領域の補間を含む、C31に示される、空間的エラー隠蔽装置。
[C40]
エラー隠蔽を実行するときにマクロ・ブロックを回復する方法であって、
前記マクロ・ブロックが破損していないかどうかを決定し、
前記マクロ・ブロックがインター・マクロ・ブロックであるかどうかを決定し、
損傷ファクターが閾値を越えたかどうかを決定することにより、
破損マクロ・ブロックが回復されるべきであるかどうかを決定し、
前記マクロ・ブロック上で空間的エラー隠蔽を使用して前記マクロ・ブロックが回復されるべきである場合には、前記マクロ・ブロックを回復するステップを含む、上記方法。
[C41]
前記回復がクロミナンス・ドメインにおいてだけ実行される、C40に示される、マクロ・ブロックの回復方法。
[C42]
上記損傷ファクターが破損したマクロ・ブロックの数により増加される、C40に示される、マクロ・ブロックの回復方法。
[C43]
前記損傷ファクターが動きの量により増加される、C40に示される、マクロ・ブロックの回復方法。
[C44]
上記損傷ファクターがイントラ・マクロ・ブロックの量により減少される、C40に示される、マクロ・ブロックの回復方法。
[C45]
シーン変化が検出されると上記損傷ファクターが増加される、C40に示される、マクロ・ブロックの回復方法。
[C46]
コンピュータ可読媒体であって、エラー隠蔽を実行する時にマクロ・ブロックを回復する一連の命令を含む前記コンピュータ可読媒体であって、
前記命令は、
前記マクロ・ブロックが破損していないかどうか決定し、
前記マクロ・ブロックがインター・マクロ・ブロックであるかどうか決定し、
損傷ファクターが閾値を越えたかどうかを決定することにより、
破損マクロ・ブロックが回復されるべきであるかどうかを決定する、および、
前記マクロ・ブロック上で空間的エラー隠蔽を使用して前記マクロ・ブロックが回復されるべきである場合には、前記マクロ・ブロックを回復するステップを実行する、
前記コンピュータ可読媒体。
[C47]
前記回復がクロミナンス・ドメインにおいてだけ実行される、C46に示される、コンピュータ可読媒体。
[C48]
上記損傷ファクターが破損したマクロ・ブロックの数により増加される、C46に示される、コンピュータ可読媒体。
[C49]
上記損傷ファクターが動きの量により増加される、C46に示される、コンピュータ可読媒体。
[C50]
上記損傷ファクターがイントラ・マクロ・ブロックの量により減少される、C46に示される、コンピュータ可読媒体。
[C51]
シーン変化が検出されると上記損傷ファクターが増加される、C46に示される、コンピュータ可読媒体。

Claims (51)

  1. ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法であって、
    前記ディジタルビデオフレームがイントラ・フレームであるかどうかを決定すること、前記ディジタルビデオフレームがイントラ・フレームである場合に、シーン変化が生じているかどうかを決定する類似度測定基準を含む第1の式を用いることを適用すること、前記ディジタルビデオフレームがイントラ・フレームではない場合に、シーン変化が生じているかどうかを決定するイントラ・マクロ・ブロック比率項(intra-macroblock ratio term)を含む第2の式を適用すること
    を含む前記方法。
  2. 前記第2の式がフレーム・ビット・サイズの項を含む、請求項1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  3. 前記フレーム・ビット・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた、量子化パラメータを含む、請求項2に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  4. 前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、請求項3に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  5. 前記第2の式が、さらに動きの量を規定する動きレベル項を含む、請求項1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  6. 前記第2の式が、さらにデータ損失スケーリング・ファクターを含む、前記請求項1に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  7. 前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記請求項6に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  8. ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法であって、シーン変化が生じたかどうかを決定する複数項の式を解くことを含み、前記複数項の式がイントラ・マクロ・ブロック比率項を含む、前記方法。
  9. 前記複数項の式がさらに、フレーム・サイズの項を含む、前記請求項8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  10. 前記フレーム・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた量子化パラメータを含む、請求項9に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  11. 前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、請求項10に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  12. 前記複数項の式が、さらに動きの量を規定する動きレベル項を含む、請求項8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  13. 前記複数項の式が、さらにデータ損失スケーリング・ファクターを含む、前記請求項8に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  14. 前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記請求項13に示される、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する方法。
  15. コンピュータ可読媒体であって、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する一連の命令であって、シーン変化が生じたかどうかを決定する、複数項の式を解くステップを実行する前記一連の命令を含み、前記複数項の式がイントラ・マクロ・ブロック比率項を含む、前記コンピュータ可読媒体。
  16. 前記複数項の式がさらに、フレーム・サイズの項を含む、前記請求項15に示される、コンピュータ可読媒体。
  17. 前記フレーム・サイズの項が、前記ディジタルビデオフレームのためのビット数を乗じた量子化パラメータを含む、請求項16に示される、コンピュータ可読媒体。
  18. 前記フレームのための前記ビット数が、失われたパケット数に平均パケット・サイズを乗じた値を加えた、前記ディジタルビデオフレームのために受信したビット数を含む、請求項17に示される、コンピュータ可読媒体。
  19. 前記複数項の式が、さらに動きの量を規定する動きレベル項を含む、請求項15に示される、コンピュータ可読媒体。
  20. 前記複数項の式が、さらにデータ損失スケーリング・ファクターを含む、前記請求項15に示される、コンピュータ可読媒体。
  21. 前記データ損失スケーリング・ファクターが、時間的エラー隠蔽に向かってバイアスする、前記請求項20に示される、コンピュータ可読媒体。
  22. ディジタルビデオ復号器であって、ディジタルビデオストリームにおいて、ディジタルビデオフレームがシーン変化を示すかどうかを決定する前記ディジタルビデオ復号器の方法であって、前記方法は、
    シーン変化が生じたかどうかを決定する複数項の式を解く手段であって、
    前記複数項の式がイントラ・マクロ・ブロック比率項を含み、
    前記複数項の式が、シーン変化が生じたと決定した場合に、空間的エラー隠蔽を実行するための手段と、
    前記複数項の式が、シーン変化が生じなかったと決定した場合に、時間的エラー隠蔽を実行するための手段と
    を備える、前記ディジタルビデオ復号器。
  23. 空間的エラー隠蔽を実行する方法であって、
    破損したマクロ・ブロックを1つ以上の領域に分割する、前記破損したマクロ・ブロックの第1の領域が前記マクロ・ブロックのコーナー・ピクセルを含む、
    前記コーナー・ピクセルを含む前記第1の領域に対するピクセル値を決定する、および、
    前記コーナー・ピクセルの前記ピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する、
    ステップを含む前記方法。
  24. 前記第1の領域のピクセル値を決定することが、隣接マクロ・ブロック内の隣接ピクセルを使用して、前記第1の領域を補間することを含む、請求項23に示される、空間的エラー隠蔽を実行する方法。
  25. 前記第1の領域のピクセル値を決定することが、隣接マクロ・ブロック内の隣接ピクセルを含む、請求項23に示される、空間的エラー隠蔽を実行する方法。
  26. 前記1つ以上の領域が、さらに、前記コーナー・ピクセルに隣接するピクセル行と、前記コーナー・ピクセルに隣接するピクセル列とを含む、請求項23に示される、空間的エラー隠蔽を実行する方法。
  27. 前記ピクセル行領域が、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル行により構成されている、請求項26に示される、空間的エラー隠蔽を実行する方法。
  28. 前記ピクセル行領域が、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル列により構成されている、請求項26に示される、空間的エラー隠蔽を実行する方法。
  29. 前記1つ以上の領域が、さらに前記コーナー・ピクセルと隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルと接する主要領域を含む、請求項26に示される、空間的エラー隠蔽を実行する方法。
  30. 前記主要領域が、隣接するマクロ・ブロックと、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルとの間で補間することにより復元される、請求項29に示される、空間的エラー隠蔽を実行する方法。
  31. コンピュータ可読媒体であって、前記コンピュータ可読媒体は空間的エラー隠蔽を実行する一連の命令を含んでいて、前記命令は、
    破損したマクロ・ブロックを1つ以上の領域に分割する、前記破損したマクロ・ブロックの第1の領域が前記マクロ・ブロックのコーナー・ピクセルを含む;
    前記コーナー・ピクセルを含む前記第1の領域のピクセル値を決定する;および、
    前記コーナー・ピクセルのピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する、
    ステップを実行する、前記コンピュータ可読媒体。
  32. 前記第1の領域のピクセル値を決定することは、隣接マクロ・ブロック内の隣接ピクセルを使用して、前記第1の領域の補間することを含む、請求項31に示される、コンピュータ可読媒体。
  33. 前記1つ以上の領域は、さらに、前記コーナー・ピクセルに隣接するピクセル行と、前記コーナー・ピクセルに隣接するピクセル列とを含む、請求項31に示される、コンピュータ可読媒体。
  34. 前記ピクセル行領域は、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル行により構成される、請求項33に示される、コンピュータ可読媒体。
  35. 前記ピクセル行領域は、前記コーナー領域を使用して他に復元されていて利用可能であれば、隣接したマクロ・ブロックからのピクセル列により構成される、請求項33に示される、コンピュータ可読媒体。
  36. 前記1つ以上の領域は、さらに、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接する前記ピクセル列、および、前記コーナー・ピクセルと接する主要領域を含む、請求項33に示される、コンピュータ可読媒体。
  37. 前記主要領域は、隣接するマクロ・ブロックと、前記コーナー・ピクセルに隣接する前記ピクセル行、前記コーナー・ピクセルに隣接している前記ピクセル列、および、前記コーナー・ピクセルとの間で補間することにより復元される、請求項29に示される、コンピュータ可読媒体。
  38. 空間的エラー隠蔽装置であって、
    破損したマクロ・ブロックを1つ以上の領域に分割する手段と、前記破損したマクロ・ブロックの第1の領域は前記マクロ・ブロックのコーナー・ピクセルを含む、
    前記コーナー・ピクセルを含む前記第1の領域のピクセル値を決定する手段と、
    前記コーナー・ピクセルの前記ピクセル値を使用して、前記第1の領域以外の前記領域のピクセル値を決定する手段、
    を含む、前記空間的エラー隠蔽装置。
  39. 前記コーナー・ピクセルを含む、前記第1の領域のピクセル値を決定する手段が、隣接マクロ・ブロック内の隣接ピクセルを使用する、前記第1の領域の補間を含む、請求項31に示される、空間的エラー隠蔽装置。
  40. エラー隠蔽を実行するときにマクロ・ブロックを回復する方法であって、
    前記マクロ・ブロックが破損していないかどうかを決定し、
    前記マクロ・ブロックがインター・マクロ・ブロックであるかどうかを決定し、
    損傷ファクターが閾値を越えたかどうかを決定することにより、
    破損マクロ・ブロックが回復されるべきであるかどうかを決定し、
    前記マクロ・ブロック上で空間的エラー隠蔽を使用して前記マクロ・ブロックが回復されるべきである場合には、前記マクロ・ブロックを回復するステップを含む、上記方法。
  41. 前記回復がクロミナンス・ドメインにおいてだけ実行される、請求項40に示される、マクロ・ブロックの回復方法。
  42. 上記損傷ファクターが破損したマクロ・ブロックの数により増加される、請求項40に示される、マクロ・ブロックの回復方法。
  43. 前記損傷ファクターが動きの量により増加される、請求項40に示される、マクロ・ブロックの回復方法。
  44. 上記損傷ファクターがイントラ・マクロ・ブロックの量により減少される、請求項40に示される、マクロ・ブロックの回復方法。
  45. シーン変化が検出されると上記損傷ファクターが増加される、請求項40に示される、マクロ・ブロックの回復方法。
  46. コンピュータ可読媒体であって、エラー隠蔽を実行する時にマクロ・ブロックを回復する一連の命令を含む前記コンピュータ可読媒体であって、
    前記命令は、
    前記マクロ・ブロックが破損していないかどうか決定し、
    前記マクロ・ブロックがインター・マクロ・ブロックであるかどうか決定し、
    損傷ファクターが閾値を越えたかどうかを決定することにより、
    破損マクロ・ブロックが回復されるべきであるかどうかを決定する、および、
    前記マクロ・ブロック上で空間的エラー隠蔽を使用して前記マクロ・ブロックが回復されるべきである場合には、前記マクロ・ブロックを回復するステップを実行する、
    前記コンピュータ可読媒体。
  47. 前記回復がクロミナンス・ドメインにおいてだけ実行される、請求項46に示される、コンピュータ可読媒体。
  48. 上記損傷ファクターが破損したマクロ・ブロックの数により増加される、請求項46に示される、コンピュータ可読媒体。
  49. 上記損傷ファクターが動きの量により増加される、請求項46に示される、コンピュータ可読媒体。
  50. 上記損傷ファクターがイントラ・マクロ・ブロックの量により減少される、請求項46に示される、コンピュータ可読媒体。
  51. シーン変化が検出されると上記損傷ファクターが増加される、請求項46に示される、コンピュータ可読媒体。
JP2012214297A 2007-03-23 2012-09-27 ディジタルビデオに対してエラー隠蔽を実行する方法 Pending JP2013048447A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US11/690,132 US8379734B2 (en) 2007-03-23 2007-03-23 Methods of performing error concealment for digital video
US11/690,132 2007-03-23

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2010501129A Division JP5242669B2 (ja) 2007-03-23 2008-03-21 ディジタルビデオに対してエラー隠蔽を実行する方法

Publications (1)

Publication Number Publication Date
JP2013048447A true JP2013048447A (ja) 2013-03-07

Family

ID=39719242

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2010501129A Expired - Fee Related JP5242669B2 (ja) 2007-03-23 2008-03-21 ディジタルビデオに対してエラー隠蔽を実行する方法
JP2012214297A Pending JP2013048447A (ja) 2007-03-23 2012-09-27 ディジタルビデオに対してエラー隠蔽を実行する方法

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2010501129A Expired - Fee Related JP5242669B2 (ja) 2007-03-23 2008-03-21 ディジタルビデオに対してエラー隠蔽を実行する方法

Country Status (7)

Country Link
US (3) US8379734B2 (ja)
EP (3) EP2458866A1 (ja)
JP (2) JP5242669B2 (ja)
KR (1) KR101126055B1 (ja)
CN (1) CN101641957A (ja)
TW (1) TW200845768A (ja)
WO (1) WO2008118801A2 (ja)

Families Citing this family (43)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20060062312A1 (en) * 2004-09-22 2006-03-23 Yen-Chi Lee Video demultiplexer and decoder with efficient data recovery
US8605797B2 (en) * 2006-02-15 2013-12-10 Samsung Electronics Co., Ltd. Method and system for partitioning and encoding of uncompressed video for transmission over wireless medium
US8379733B2 (en) * 2006-09-26 2013-02-19 Qualcomm Incorporated Efficient video packetization methods for packet-switched video telephony applications
US8379734B2 (en) 2007-03-23 2013-02-19 Qualcomm Incorporated Methods of performing error concealment for digital video
US8824567B2 (en) * 2007-04-04 2014-09-02 Ittiam Systems (P) Ltd. Method and device for tracking error propagation and refreshing a video stream
US8842739B2 (en) * 2007-07-20 2014-09-23 Samsung Electronics Co., Ltd. Method and system for communication of uncompressed video information in wireless systems
US8243823B2 (en) * 2007-08-29 2012-08-14 Samsung Electronics Co., Ltd. Method and system for wireless communication of uncompressed video information
WO2009032255A2 (en) * 2007-09-04 2009-03-12 The Regents Of The University Of California Hierarchical motion vector processing method, software and devices
US9357233B2 (en) * 2008-02-26 2016-05-31 Qualcomm Incorporated Video decoder error handling
US8254469B2 (en) * 2008-05-07 2012-08-28 Kiu Sha Management Liability Company Error concealment for frame loss in multiple description coding
US20100104003A1 (en) * 2008-10-24 2010-04-29 Manufacturing Resources International Inc. System and method for securely transmitting video data
US20100195742A1 (en) * 2009-02-02 2010-08-05 Mediatek Inc. Error concealment method and apparatus
JP2010226376A (ja) * 2009-03-23 2010-10-07 Toshiba Corp 画像復号装置およびコンピュータが実行可能なプログラム
US8743970B2 (en) * 2009-04-13 2014-06-03 Freescale Semiconductor, Inc. Video decoding with error detection and concealment
US9369759B2 (en) 2009-04-15 2016-06-14 Samsung Electronics Co., Ltd. Method and system for progressive rate adaptation for uncompressed video communication in wireless systems
EP2285122B1 (en) 2009-07-17 2013-11-13 Canon Kabushiki Kaisha A method and device for reconstructing a sequence of video data after transmission over a network
GB2475739A (en) * 2009-11-30 2011-06-01 Nokia Corp Video decoding with error concealment dependent upon video scene change.
WO2011120221A1 (en) * 2010-03-31 2011-10-06 Intel Corporation Power efficient motion estimation techniques for video encoding
US20110249127A1 (en) * 2010-04-07 2011-10-13 Cisco Technology, Inc. Estimating Video Quality Corruption in Lossy Networks
CN102595124B (zh) * 2011-01-14 2014-07-16 华为技术有限公司 图像编码解码方法、处理图像数据方法及其设备
CN104125457B (zh) * 2011-01-14 2018-01-09 华为技术有限公司 图像编码解码方法、处理图像数据方法及其设备
CN104113753B (zh) * 2011-01-14 2017-09-12 华为技术有限公司 图像编码解码方法、处理图像数据方法及其设备
US8804820B2 (en) * 2011-04-21 2014-08-12 Dialogic Corporation Rate control with look-ahead for video transcoding
KR20140097199A (ko) * 2011-11-24 2014-08-06 톰슨 라이센싱 비디오 품질 측정
WO2013075335A1 (en) * 2011-11-25 2013-05-30 Thomson Licensing Video quality assessment considering scene cut artifacts
GB2502620B (en) * 2012-06-01 2020-04-22 Advanced Risc Mach Ltd A parallel parsing video decoder and method
EP2888870B1 (en) * 2012-08-23 2017-08-02 Thomson Licensing Method and apparatus for detecting gradual transition picture in video bitstream
CN103714821A (zh) 2012-09-28 2014-04-09 杜比实验室特许公司 基于位置的混合域数据包丢失隐藏
US9407923B2 (en) * 2013-05-20 2016-08-02 Gamefly Israel Ltd. Overconing lost IP packets in streaming video in IP networks
CN104519358B (zh) * 2013-09-27 2018-07-20 兴唐通信科技有限公司 一种对i条带丢失或误码进行恢复的方法和装置
KR20180081846A (ko) * 2013-10-22 2018-07-17 브이아이디 스케일, 인크. 비디오 송신 시스템에 대한 에러 은닉 모드 시그널링
US10319408B2 (en) 2015-03-30 2019-06-11 Manufacturing Resources International, Inc. Monolithic display with separately controllable sections
US10922736B2 (en) 2015-05-15 2021-02-16 Manufacturing Resources International, Inc. Smart electronic display for restaurants
US10269156B2 (en) 2015-06-05 2019-04-23 Manufacturing Resources International, Inc. System and method for blending order confirmation over menu board background
US9807339B2 (en) * 2015-06-12 2017-10-31 Sharp Laboratories Of America, Inc. Frame rate conversion system
EP3184071A1 (de) * 2015-12-22 2017-06-28 SpineMind AG Vorrichtung für die intraoperative bildgesteuerte navigation bei chirurgischen eingriffen im bereich der wirbelsäule und im daran angrenzenden thorax-, becken- oder kopfbereich
US10319271B2 (en) 2016-03-22 2019-06-11 Manufacturing Resources International, Inc. Cyclic redundancy check for electronic displays
WO2017210317A1 (en) 2016-05-31 2017-12-07 Manufacturing Resources International, Inc. Electronic display remote image verification system and method
US10510304B2 (en) 2016-08-10 2019-12-17 Manufacturing Resources International, Inc. Dynamic dimming LED backlight for LCD array
US10291936B2 (en) 2017-08-15 2019-05-14 Electronic Arts Inc. Overcoming lost or corrupted slices in video streaming
CN109542853B (zh) * 2018-11-28 2021-11-02 深圳市瑞云科技有限公司 一种解决本地渲染出错的方法
CN110853061B (zh) * 2019-11-15 2022-12-02 侯宇红 一种城市管理视频处理系统及工作方法
US11895362B2 (en) 2021-10-29 2024-02-06 Manufacturing Resources International, Inc. Proof of play for images displayed at electronic displays

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03283785A (ja) * 1990-03-30 1991-12-13 Hitachi Ltd ブロック符号化信号復号化装置
JPH04219074A (ja) * 1990-08-31 1992-08-10 Toshiba Corp 画像符号化装置
JPH06292174A (ja) * 1993-03-31 1994-10-18 Canon Inc 画像信号再生装置
JPH09219863A (ja) * 1995-12-23 1997-08-19 Daewoo Electron Co Ltd 映像信号におけるチャネルエラー隠蔽方法及び装置
JPH114450A (ja) * 1997-06-13 1999-01-06 Kokusai Electric Co Ltd デジタル動画像データの伝送システム

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6266369B1 (en) * 1998-06-09 2001-07-24 Worldgate Service, Inc. MPEG encoding technique for encoding web pages
US7974775B1 (en) * 1999-11-05 2011-07-05 Angela Masson Electronic kit bag
KR100750092B1 (ko) * 2000-01-28 2007-08-21 삼성전자주식회사 가변장 코딩방법 및 장치
US20040125877A1 (en) * 2000-07-17 2004-07-01 Shin-Fu Chang Method and system for indexing and content-based adaptive streaming of digital video content
KR100380229B1 (ko) * 2000-07-19 2003-04-16 엘지전자 주식회사 엠펙(MPEG) 압축 비디오 환경에서 매크로 블록의 시공간상의 분포를 이용한 와이프(Wipe) 및 특수 편집 효과 검출 방법
JP2002247588A (ja) 2001-02-21 2002-08-30 Sony Corp 動きベクトル変換方法及び変換装置
KR20040041170A (ko) 2001-09-21 2004-05-14 브리티쉬 텔리커뮤니케이션즈 파블릭 리미티드 캄퍼니 혼잡 제어를 위한 전송률을 계산하기 위해 수신 버퍼 크기를 사용하는 데이터 통신 방법 및 시스템
US7020203B1 (en) * 2001-12-21 2006-03-28 Polycom, Inc. Dynamic intra-coded macroblock refresh interval for video error concealment
US7020207B1 (en) * 2002-12-02 2006-03-28 Hitachi, Ltd. Video error concealment mechanism for block based video decompression
US7324698B2 (en) * 2003-11-20 2008-01-29 Mitsubishi Electric Research Laboratories, Inc. Error resilient encoding method for inter-frames of compressed videos
US7882421B2 (en) * 2004-05-06 2011-02-01 Seyfullah Halit Oguz Method and apparatus for joint source-channel map decoding
TWI254879B (en) * 2004-12-17 2006-05-11 Quanta Comp Inc System and method for video encoding
US20060251177A1 (en) * 2005-05-09 2006-11-09 Webb Jennifer L H Error concealment and scene change detection
US8238442B2 (en) * 2006-08-25 2012-08-07 Sony Computer Entertainment Inc. Methods and apparatus for concealing corrupted blocks of video data
US8509313B2 (en) * 2006-10-10 2013-08-13 Texas Instruments Incorporated Video error concealment
US8630355B2 (en) * 2006-12-22 2014-01-14 Qualcomm Incorporated Multimedia data reorganization between base layer and enhancement layer
US8379734B2 (en) 2007-03-23 2013-02-19 Qualcomm Incorporated Methods of performing error concealment for digital video

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH03283785A (ja) * 1990-03-30 1991-12-13 Hitachi Ltd ブロック符号化信号復号化装置
JPH04219074A (ja) * 1990-08-31 1992-08-10 Toshiba Corp 画像符号化装置
JPH06292174A (ja) * 1993-03-31 1994-10-18 Canon Inc 画像信号再生装置
JPH09219863A (ja) * 1995-12-23 1997-08-19 Daewoo Electron Co Ltd 映像信号におけるチャネルエラー隠蔽方法及び装置
JPH114450A (ja) * 1997-06-13 1999-01-06 Kokusai Electric Co Ltd デジタル動画像データの伝送システム

Also Published As

Publication number Publication date
US8379734B2 (en) 2013-02-19
US8526507B2 (en) 2013-09-03
KR101126055B1 (ko) 2012-03-29
US20130010876A1 (en) 2013-01-10
EP2140686A2 (en) 2010-01-06
CN101641957A (zh) 2010-02-03
US20080232478A1 (en) 2008-09-25
KR20090122490A (ko) 2009-11-30
EP2458866A1 (en) 2012-05-30
WO2008118801A2 (en) 2008-10-02
US20130251048A1 (en) 2013-09-26
EP2458867A1 (en) 2012-05-30
WO2008118801A3 (en) 2008-11-20
JP2010522514A (ja) 2010-07-01
JP5242669B2 (ja) 2013-07-24
TW200845768A (en) 2008-11-16

Similar Documents

Publication Publication Date Title
JP5242669B2 (ja) ディジタルビデオに対してエラー隠蔽を実行する方法
Xu et al. H. 264 video communication based refined error concealment schemes
Chen et al. An error concealment algorithm for entire frame loss in video transmission
KR100498951B1 (ko) 동영상 압축 부호화를 위한 움직임 예측 방법과 그기록매체
Kung et al. Spatial and temporal error concealment techniques for video transmission over noisy channels
Yan et al. A hybrid frame concealment algorithm for H. 264/AVC
EP1980115B1 (en) Method and apparatus for determining an encoding method based on a distortion value related to error concealment
US8254469B2 (en) Error concealment for frame loss in multiple description coding
KR100301833B1 (ko) 오류은폐방법
KR20000050599A (ko) 오류 은폐방법
JP2004528752A (ja) ビデオデコーダにおけるエラー復元システム及び復元方法
Kumwilaisak et al. Spatial error concealment with sequence-aligned texture modeling and adaptive directional recovery
US20040168110A1 (en) Inter-network and inter-protocol video conference privacy method, apparatus, and computer program product
EP1719347A1 (en) Error concealment technique using weighted prediction
US7885339B2 (en) Bi-directional temporal error concealment
Chen et al. Spatio-temporal boundary matching algorithm for temporal error concealment
Agrafiotis Video error concealment
Pyun Error concealment aware streaming video system over packet-based mobile networks
TWI528793B (zh) 用以提供數位視訊內容錯誤復原的方法
Tang Combined and iterative form of spatial and temporal error concealment for video signals
Zeng Adaptive spatial–temporal error concealment with embedded side information
Tugnayat et al. Notice of Violation of IEEE Publication Principles: An error concealment approach for compensation of entire lost frame
Chen et al. Hybrid error concealment using linear interpolation
Gatimu et al. Weighted nearest valid motion vector averaging for spatial motion vector recovery in wireless HD video transmission using H. 264 over WLANs
Behera FEC for efficient video transmission over CDMA

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131031

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140408