JP2005086830A - ビットストリーム制御後処理フィルタリング - Google Patents

ビットストリーム制御後処理フィルタリング Download PDF

Info

Publication number
JP2005086830A
JP2005086830A JP2004260264A JP2004260264A JP2005086830A JP 2005086830 A JP2005086830 A JP 2005086830A JP 2004260264 A JP2004260264 A JP 2004260264A JP 2004260264 A JP2004260264 A JP 2004260264A JP 2005086830 A JP2005086830 A JP 2005086830A
Authority
JP
Japan
Prior art keywords
control information
post
filtering
processing
video data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004260264A
Other languages
English (en)
Other versions
JP4633417B2 (ja
Inventor
Sridhar Srinivasan
スリニバサン スリドハー
Chih-Lung Lin
リン チー−ルン
Pohsiang Hsu
スー ポーシャン
Thomas W Holcomb
ダブリュ.ホルコーム トーマス
Ming-Chieh Lee
リ ミン−チェ
Jordi Ribas-Corbera
リバス−コルベラ ジョルディ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Corp
Original Assignee
Microsoft Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Corp filed Critical Microsoft Corp
Publication of JP2005086830A publication Critical patent/JP2005086830A/ja
Application granted granted Critical
Publication of JP4633417B2 publication Critical patent/JP4633417B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/13Adaptive entropy coding, e.g. adaptive variable length coding [AVLC] or context adaptive binary arithmetic coding [CABAC]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146Data rate or code amount at the encoder output
    • H04N19/152Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/16Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter for a given display mode, e.g. for interlaced or progressive display mode
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/162User input
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/172Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a picture, frame or field
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/179Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a scene or a shot
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/184Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being bits, e.g. of the compressed video stream
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H04N19/91Entropy coding, e.g. variable length coding [VLC] or arithmetic coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Abstract

【課題】 ビットストリーム制御フィルタリングのための技術およびツールを提供する。
【解決手段】 例えば、ビデオエンコーダは、符号化ビデオに対するビットストリームに制御情報を挿入する。ビデオデコーダは、符号化ビデオを復号化し、制御情報に従って、デリンギングおよび/またはデブロッキングフィルタによる復号ビデオに対する後処理フィルタリングを行う。典型的には、コンテンツ作成者は、制御情報をエンコーダに対して指定する。制御情報自体は、後処理フィルタレベル、フィルタ選択、および/または他の種類の情報である。ビットストリームにおいて、制御情報は、シーケンス、シーン、フレーム、フレーム内の領域、または他のシンタックスレベルで指定される。
【選択図】 図3

Description

ビットストリーム制御フィルタリングのための技術およびツールについて記載する。例えば、ビデオエンコーダは後処理フィルタリングのための制御情報を提供し、ビデオデコーダは、デリンギングおよび/またはデブロッキングフィルタによるビットストリーム制御後処理フィルタリングを行う。
本出願は、2003年9月7日に出願した「ビデオエンコーディング及びビデオデコーディングのツールならびに技術」という名称の米国特許仮出願第60/501,081号に基づいて優先権を主張するものである。
デジタルビデオは、大量の記憶装置および伝送容量を消費する。典型的な未加工のデジタルビデオシーケンスは1秒当たり15または30のフレームを含む。各フレームは、数万または数十万のピクセル(ペルとも呼ばれる)を含むことができる。各ピクセルは、画像の非常に小さい要素を表す。未加工の形では、コンピュータは、一般にピクセルを24ビットで表す。したがって、典型的な未加工デジタルビデオシーケンスの1秒当たりのビット数、またはビットレートは、500万ビット毎秒以上でありうる。
ほとんどのコンピュータおよびコンピュータネットワークは、未加工のデジタルビデオを処理するための資源が不足している。このため、技術者は、圧縮(コード化または符号化とも呼ばれる)を用いて、デジタルビデオのビットレートを低減させる。圧縮がロスレス(lossless)であると、ビデオの質は損なわないが、ビデオが複雑な場合ビットレートの低減は制限される。あるいは、圧縮がロッシー(lossy)であると、ビデオの質は損なうが、ビットレートの低減はより劇的なものとなる。伸張は圧縮の逆である。
一般に、ビデオ圧縮技術には、フレーム内圧縮およびフレーム間圧縮がある。フレーム内圧縮技術は、典型的にはIフレームまたはキーフレームと呼ばれる個々のフレームを圧縮する。フレーム間圧縮技術は、典型的には予測フレーム、PフレームまたはBフレームと呼ばれる先行および/または後続フレームを参照してフレームを圧縮する。
マイクロソフト(登録商標)社のWindows(登録商標)のメディアビデオ バージョン8[「WMV8」]およびバージョン9[「WMV9」]は、それぞれビデオエンコーダおよびビデオデコーダを含む。エンコーダは、フレーム内圧縮およびフレーム間圧縮を用い、デコーダは、フレーム内伸張およびフレーム間伸張を用いる。ビデオ圧縮およびビデオ伸張に対しては、モーションピクチャエキスパートグループ[「MPEG」]1、2および4規格ならびにH.26x規格を含むいくつかの国際規格もある。WMV8およびWMV9のように、これらの規格は、フレーム内およびフレーム間の圧縮と伸張の組合せを用いる。
(I.ブロックベースのフレーム内圧縮および伸張)
従来技術のエンコーダの多くは、ブロックベースのフレーム内圧縮を用いている。例示すると、エンコーダはビデオフレームを8×8のピクセルからなるブロックに分割し、8×8離散コサイン変換[「DCT」]を個々のブロックに適用するとする。DCTは、与えられた8×8のピクセルからなるブロック(空間情報)を8×8のDCT係数からなるブロック(周波数情報)に変換する。DCT処理そのものはロスレスまたはほぼロスレスである。エンコーダは、DCT係数を量子化して、8×8の量子化DCT係数からなるブロックとする。量子化はロッシーであるため、係数に対する情報が完全にロスしなくても、精度のロスがある。次いで、エンコーダは、エントロピ符号化のために8×8の量子化DCT係数からなるブロックを用意し、ロスレス圧縮の方法であるエントロピ符号化を行う。
対応するデコーダは、対応する復号化処理を行う。与えられたブロックに対して、デコーダは、エントロピ復号化、逆量子化、逆DCT等を行って、再構築ブロックを得る。量子化により、再構築ブロックは、原ブロックと同一でなくなる。実際、再構築ブロック内、または再構築ブロック間の境界に認知しうる誤差が存在する可能性がある。
(II.ブロックベースのフレーム間圧縮および伸張)
従来技術のエンコーダの多くは、ブロックベースの動き補償予測コード化を用い、その後に残余の変換コード化を用いる。例示すると、エンコーダは、予測フレームを8×8のピクセルからなるブロックに分割する。4つの8×8輝度ブロックと2つの共存8×8色差ブロック(co−located 8x8 chrominance blocks)とのグループがマクロブロックを形成する。動き推定は、参照フレーム、例えば既にコード化された前フレームに対するマクロブロックの動きを概算する。エンコーダは、マクロブロックに対する動きベクトルを演算する。動き補償において、参照フレームからの情報を用いてマクロブロックに対する予測マクロブロックを演算するのに動きベクトルが使用される。予測はあまり完全でないため、エンコーダは、通常、予測マクロブロックと原マクロブロックとの間のピクセルの差のブロック(誤差ブロックまたは残差ブロックとも呼ばれる)を符号化する。エンコーダは、DCT変換を誤差ブロックに適用して、DCT係数のブロックを得る。エンコーダは、DCT係数を量子化し、エントロピ符号化のために量子化DCT係数のブロックを用意し、エントロピ符号化を行う。
一方、エンコーダに対応するデコーダは対応する復号化処理を行う。デコーダはエントロピ復号化、逆量子化、逆DCT変換等を行い、再構築誤差ブロックを得る。また、デコーダは、別の動き補償パスにおいて、関連する参照フレームとの動きベクトル情報を用いて予測を演算する。デコーダは予測と再構築誤差ブロックとを合成する。この場合もやはり、再構築ビデオは、対応する原ビデオと同一にならず、再構築ブロック内、または再構築ブロック間の境界に認知しうる誤差が存在する可能性がある。
(III.ブロック歪およびリンギング歪)
ロッシー圧縮により、再構築後のビデオに認知しうる誤差が生じる可能性がある。ロッシー圧縮が強ければ強いほど、かつ原ビデオの質が高ければ高いほど、再構築ビデオに認知しうる誤差が生じる可能性がより高くなる。代表的な2種類の誤差は、ブロック歪およびリンギング歪である。
ブロックベースの圧縮技術は、実施が容易であるといった利点があるが、ブロック歪をも生じさせており、ブロック歪は、今日ではデジタルビデオにおけるおそらく最も代表的で厄介な種類の歪みである。ブロック歪とは、再構築ビデオにおけるブロックのエッジの周囲の目に見える不連続部分である。(例えばブロックベースの変換による変換係数の)量子化および切捨ては、特に圧縮率が高いときにブロック歪を生じさせる。例えば、ブロックが独立して量子化されるときの1つのブロックの量子化の程度は、隣接するブロックより低くなったり高くなったりする場合がある。これは、再構築の際、2つのブロック間の境界にブロック歪を生じさせる。あるいは、ブロックの全体的な内容が異なっており、およびブロックの境界を越えて遷移ディテール(transition detail)を再構築するのに高周波係数が必要な場合には、高周波係数を量子化するときにブロック歪が生じる。
リンギング歪は、変換係数がブロックベースの変換によるものであっても、ウェーブレットベースの変換によるものであっても、高周波変換係数の量子化または切捨てによって生じる。いずれの変換も、本質的には、ピクセルからなる領域を正規波形の和として表す。ただし、波形係数は、量子化、符号化などが行われている。一方、ある場合、高周波波形は、低周波波形によって生じる歪みを相殺するのに寄与する。高周波係数が高度に量子化されると、歪みは、低周波における波状振動として目に見えるようになる場合がある。例えば、画像領域がシャープなエッジまたは輪郭を含み、高周波係数が高度に量子化されると仮定しよう。再構築画像において、量子化は、シャープなエッジまたは輪郭の周囲に波紋または振動を生じる可能性がある。
(IV.後処理フィルタリング)
デブロッキング(de−blocking)およびデリンギング(de−ringing)技術を用いて、ブロック歪およびリンギング歪を低減することができる。これらの技術は、典型的にはビデオが復号化された後に適用されるため、後処理技術と呼ばれる。後処理は、通常、再構築ビデオの知覚品質を向上させる。
WMV8およびWMV9デコーダは、特殊化フィルタを使用して、後処理の間にブロック歪およびリンギング歪を低減する。さらなる情報については、2001年12月17日に出願された米国特許仮出願第60/341,674号明細書の付属書A、および2003年7月18日に出願された米国特許仮出願第60/488,710号明細書の付属書Aを参照されたい。同様に、上述のMPEGおよびH.26x規格のいくつかを実装するソフトウェアは、デブロッキングおよび/またはデリンギングフィルタを有する。例えば、(1)検証モデルで試験され、MPEG−4草稿N2202の付属書F、セクション15.3に記載されているMPEG−4デブロッキングおよびデリンギングフィルタ、(2)期近試験モデルで試験されるH.263+後処理フィルタ、および(3)H.264JM後処理フィルタを参照されたい。加えて、多くの出版物が後処理フィルタリング技術(ならびに、場合によっては、対応する前処理技術)を扱っている。例えば、(1)Kuo et al., "Adaptive Postprocessor for Block Encoded Images," IEEE Trans. on Circuits and Systems for Video Technology, Vol. 5, No. 4 (Aug. 1995)、(2)O'Rourke et al., "Improved Image Decompression for Reduced Transform Coding Artifacts," IEEE Trans. on Circuits and Systems for Video Technology, Vol. 5, No. 6, (1995)および(3)Segall et al., "Pre- and Post-Processing Algorithms for Compressed Video Enhancement", Proc. 34th Asilomar Conf. on Signals and Systems (2000)を参照されたい。
図1は、従来技術による後処理フィルタリングの概略図である。ビデオエンコーダ(110)は、ソースビデオ(105)を受け、それを符号化し、ビデオビットストリーム(115)を生成する。ビデオビットストリーム(115)は、例えば、ネットワークを介したストリーミングメディアとして送信することにより、チャネル(120)を介して配信される。ビデオデコーダ(130)は、ビデオビットストリーム(115)を受信するとともに復号化して、復号ビデオ(135)を生成する。デリンギングおよび/またはデブロッキングフィルタなどの後処理フィルタ(140)を復号ビデオ(135)に用いて、復号後処理ビデオ(145)を生成する。
厳密に言えば、ビデオビットストリーム(115)を復号化するのに、後処理フィルタリング技術は必要なものではない。コーデック(エンコーダ/デコーダ)技術者は、コーデックを設計するときに、こうした技術を適用すべきかどうかを決定することができる。この判断は、例えば、ソフトウェアデコーダのためにCPUサイクルが利用可能であるかどうかに、またはハードウェアデコーダのための追加のコストに依存する。後処理フィルタリング技術は、通常、ビデオ品質を著しく向上させるため、今日では多くのビデオデコーダに広く利用されている。後処理フィルタは、ビデオコーデックから独立して設計されることがあるため、同じデブロッキングフィルタおよびデリンギングフィルタを異なるコーデックに利用することができる。
従来のシステムでは、後処理フィルタリングは、ビデオシーケンス全体に自動的に適用される。前提として、後処理フィルタリングは、常に、少なくともビデオ品質を向上させるものであるので、常に後処理フィルタリングを用いるべきである。システムにより、フィルタは、デコーダの能力に応じて異なる強度をもつことができる。さらに、いくつかのフィルタは、再構築ビデオの内容に対するデコーダ側の評価に応じてフィルタリングの強度を選択的に無効にするか、または変化させるが、この適応処理はまだ自動的に行われる。これらのアプローチにはいくつかの問題がある。
第1に、後処理フィルタリングは常にビデオ品質を少なくとも向上させるという前提は正しくない。大きな損失を伴わずに圧縮される高品質ビデオについては、後処理のデブロッキングおよびデリンギングにより、テクスチャのディテールがなくなり、ビデオ画像が著しくぼけて、実際には品質を低下させてしまう可能性がある。これは、高ビットレートで符号化された高解像度ビデオについて生じることがある。
第2に、後処理フィルタリングを導く情報がビデオビットストリームに存在しない。作成者(author)は、フィルタリングを制御するためにビデオビットストリーム内の情報を導入することによって後処理フィルタリングを制御したり適合させたりすることができないのである。
(V.インループ(In−Loop)フィルタリング)
いくつかの従来技術のシステムは、後処理フィルタリングのほかに、インループフィルタリングを用いている。インループフィルタリングは、符号化または復号化処理における動き補償時の再構築参照フレームに対するフィルタリング(例えばデブロッキングフィルタリング)を含む(これに対して、後処理は復号化処理の後に適用される)。参照フレームにおける歪を低減することによって、エンコーダおよびデコーダは、参照フレームからの動き補償予測の質を向上させる。例えば、(1)2001年12月17日に出願された米国特許仮出願第60/341,674号明細書のセクション4.4、(2)2003年7月18日に出願された米国特許仮出願第60/488,710号明細書のセクション4.9、(3)(マクロブロックの条件付ローパスフィルタリングについて記載している)H.261規格のセクション3.2.3、(4)H.263規格のセクション3.4.8および付属書J、および(5)H.264規格の該当セクションを参照されたい。
特に、H.264規格により、作成者が、インループフィルタリングをオン・オフし、さらにシーン毎にフィルタリングの強度を変更することが可能となる。しかし、H.264規格で、作成者は、フレーム内の領域に対するループフィルタリングを適合させることを許可されない。さらに、H.264規格では、一種類のインループフィルタしか適用しない。
デジタルビデオに対するビデオ圧縮および伸張の極めて重要であることを考慮すると、ビデオ圧縮および伸張が十分に発展した分野であることは驚くに値しない。しかし、従来の圧縮および伸張技術の利点がどうであろうと、それらは以下の技術およびツールの利点をもつものではない。
要約すると、ここでの詳細な説明は、ビットストリーム制御フィルタリングのための様々な技術およびツールを対象としている。例えば、ビデオエンコーダは、符号化ビデオのためにビットストリームに制御情報を挿入する。ビデオデコーダは、符号化ビデオを復号し、制御情報に従って、復号ビデオに対する後処理フィルタリングを行う。この種の制御によって、操作者は、ビデオ品質が向上する場合後処理をさせ、さもなければ後処理を無効にすることができる。1つのシナリオにおいて、操作者は、高解像度の高ビットレートビデオの再構築において過度のぼけが生じるのを防ぐために後処理フィルタリングを制御する。
組み合わせて、または独立して様々な技術およびツールを用いることができる。
一態様として、ビデオエンコーダまたは他のツールは、ビデオデータを受信して符号化し、符号化ビデオデータならびに制御情報を出力する。制御情報は、復号化後のビデオデータの後処理フィルタリングを制御するためのものである。後処理フィルタリングは、デブロッキング、デリンギングおよび/または他の種類のフィルタリングを含む。典型的には、操作者は、後処理フィルタレベル(すなわちフィルタ強度)またはフィルタ種類選定などの制御情報を指定する。実施態様に応じて、シーケンス、シーン、フレーム、フレーム内の領域および/または他のレベルに対する制御情報が指定される。
他の態様としては、ビデオデコーダまたは他のツールは、符号化ビデオデータおよび制御情報を受信して、符号化ビデオデータを復号し、少なくとも一部に、受信した制御情報に基づいて復号ビデオデータに対する後処理フィルタリングを行う。ここでも、後処理フィルタリングは、デブロッキング、デリンギングおよび/または他の種類のフィルタリングを含み、実施態様に応じて、シーケンス、シーン、フレーム、フレーム内の領域、および/または他のレベルに対する制御情報が指定される。
添付の図面を参照しながら以下の異なる実施形態の詳細な説明から、さらなる特徴および利点が明らかになるであろう。
本出願は、再構築ビデオのデブロッキングおよびデブロッキングのためのビットストリーム制御後処理フィルタリングの技術およびツールに関する。この技術およびツールは、操作者が、ビデオ品質を高める限り後処理を有効とすることができ、さもなければ後処理を無効にすることができるように、後処理フィルタリングを制御できるようにする。例えば、操作者は、高解像度の高ビットレートビデオの再構築における過度のぼけを防ぐために、後処理フィルタリングを制御する。
とりわけ、本出願は、制御情報を指定し、制御情報をパラメータ化し、制御情報を信号伝達し、制御情報に従ってフィルタリングを行うための技術およびツールに関する。様々な技術およびツールを組み合わせて、または独立して用いることができる。記載の技術およびツールのうちの1つまたは複数は、異なる実施形態により実施される。
詳細な説明のほとんどは、後処理時のデブロッキングおよびデリンギングフィルタリングに直接関するものであるが、他の段階(符号化および復号化におけるインループフィルタリングなど)においても、また他の種類のフィルタリングに対してもこの技術およびツールを適用することができる。
同様に、詳細な説明のほとんどは、ビデオエンコーダおよびデコーダに関するものであるが、他の種類のビデオ処理ツールまたは他のツールもビットストリーム制御フィルタリングの1つまたは複数の技術を実施することができる。
(I.コンピューティング環境)
図2は、記載の実施形態のいくつかを実施することができる好適なコンピューティング環境(200)の汎用例を示す図である。この技術およびツールは、多様な多目的または特殊目的のコンピューティング環境で実現できるため、コンピューティング環境(200)は、用途または機能の範囲に関して何らかの制限を示唆することを意図するものではない。
図2を参照すると、コンピューティング環境(200)は、少なくとも1つの処理装置(210)とメモリ(220)とを含む。図2において、この最も基本的な構成(230)が点線内に含められている。処理装置(210)は、コンピュータ実行可能命令を実行するが、実プロセッサでも、仮想プロセッサでもよい。マルチプロセッシングシステムでは、処理力を高めるために、多数の処理装置によりコンピュータ実行可能命令が実行される。メモリ(220)は揮発性メモリ(レジスタ、キャッシュ、RAMなど)、不揮発性メモリ(ROM、EEPROM、フラッシュメモリなど)、またはその2つの組合せであってもよい。メモリ(220)は、エンコーダおよび/またはデコーダのためのビットストリーム制御フィルタリング技術を実装するソフトウェア(280)を記憶する。
コンピューティング環境は、さらなる特徴をもつことができる。例えば、コンピューティング環境(200)は、記憶装置(240)と、1つまたは複数の入力装置(250)と、1つまたは複数の出力装置(260)と、1つまたは複数の通信接続(270)を含む。バス、コントローラまたはネットワークなどの相互接続機構(不図示)は、コンピューティング環境(200)の構成要素を相互接続する。一般に、オペレーティングシステムソフトウェア(不図示)は、コンピューティング環境(200)において実行される他のソフトウェアのための動作環境を提供し、コンピューティング環境(200)の構成要素の動作を調整する。
記憶装置(240)は着脱式であっても固定式であってもよく、磁気ディスク、磁気テープもしくは磁気カセット、CD−ROM、DVD、または情報を記憶するのに使用でき、コンピューティング環境(200)内でアクセスできる任意の他の媒体を含む。記憶装置(240)は、エンコーダおよび/またはデコーダのためのビットストリーム制御フィルタリング技術を実装するソフトウェア(280)を記憶する。
入力装置(250)は、キーボード、マウス、ペンまたはトラックボールなどのタッチ入力装置、音声入力装置、スキャニング装置、あるいはコンピューティング環境(200)に入力を提供する他の装置であってもよい。オーディオ符号化またはビデオ符号化については、入力装置(250)は、サウンドカード、ビデオカード、TVチューナカード、またはアナログもしくはデジタル形式のオーディオ入力もしくはビデオ入力を受け入れる同様の装置、またはオーディオサンプルもしくはビデオサンプルをコンピューティング環境(200)に読み込むCD−ROMもしくはCD−RWであってもよい。出力装置(260)は、ディスプレイ、プリンタ、スピーカ、CDライタ、またはコンピューティング環境(200)からの出力を提供する他の装置であってもよい。
通信接続(270)により、通信媒体を介して他のコンピューティング実態に通信を行うことができる。通信媒体は、コンピュータ実行可能命令、オーディオまたはビデオの入力または出力、あるいは変調されたデータ信号の中の他のデータなどの情報を伝える。変調されたデータ信号は、その1つまたは複数の特性が、信号内の情報を符号化するような方式で設定または変更された信号である。限定するものではなく例として、通信媒体には、電気的、光学的、RF、赤外線または他のキャリヤを用いて実施される有線または無線技術が挙げられる。
この技術およびツールをコンピュータ読取り可能媒体の一般的なコンテキストで記述することができる。コンピュータ読取り可能媒体は、コンピューティング環境内でアクセスできる利用可能な任意の媒体である。また、限定するものではなく例として、コンピューティング環境(200)では、コンピュータ読取り可能媒体には、メモリ(220)、記憶装置(240)、通信媒体、および上記のいずれかの組合せが挙げられる。
この技術およびツールは、プログラムモジュールに含まれるものなど、ターゲットの実プロセッサまたは仮想プロセッサ上のコンピューティング環境で実行されるコンピュータ実行可能命令の一般的なコンテキストで記述することができる。一般に、プログラムモジュールは、特定のタスクを実行し、特定の抽象データ型を実装するルーチン、プログラム、ライブラリ、オブジェクト、クラス、コンポーネント、データ構造等を含む。プログラムモジュールの機能は、様々な実施形態において望まれるようにプログラムモジュール間で組み合わせたり、分割したりすることができる。また、プログラムモジュールのためのコンピュータ実行可能命令は、ローカルなコンピューティング環境または分散コンピューティング境で実行することができる。
(II.汎用ビデオエンコーダおよびデコーダ)
図3は、汎用ビデオエンコーダ(300)のブロック図で、図4は、汎用ビデオデコーダ(400)のブロック図である。
図において示されるエンコーダおよびデコーダ内のモジュール間の関係は、このエンコーダおよびデコーダにおける情報の主な流れを示している。他の関係は、簡単のため省略されている。特に、図3および4には、ビデオシーケンス、フレーム/フィールド、マクロブロック、ブロックなどに用いられるエンコーダ設定、モード、テーブル等を示す副次的情報は通常示していない。このような副次的情報は、典型的には副次的情報のエントロピ符号化の後に出力ビットストリームで送られる。出力ビットストリームの形式は、Windows(登録商標)Media Videoバージョン9の形式または他の形式とすることができる。
エンコーダ(300)およびデコーダ(400)はブロックベースで、各々のマクロブロックが4輝度の8×8輝度ブロック(時には1つの16×16マクロブロックとして扱われる)および2つの8×8色差ブロックを含む4:2:0のマクロブロック形式を用いる。エンコーダ(300)およびデコーダ(400)は、ビデオフレームおよび/またはビデオフィールドであるビデオ画像に対して動作する。あるいは、エンコーダ(300)およびデコーダ(400)はオブジェクトベースで、異なるマクロブロックまたはブロック形式を用い、8×8ブロックおよび16×16マクロブロックと異なるサイズまたは構成のピクセルの集合体に対して動作する。
実施態様および所望の圧縮の種類に応じて、エンコーダまたはデコーダのモジュールを追加し、省略し、多数のモジュールに分割し、他のモジュールと組み合わせ、かつ/または同様のモジュールと取り換えることができる。代替的な実施形態では、異なるモジュールおよび/または他の構成のモジュールをもつエンコーダまたはデコーダが、記載の技術の1つまたは複数を実行する。
(A.ビデオエンコーダ)
図3は、一般的なビデオエンコーダシステム(300)のブロック図である。エンコーダシステム(300)は、現画像(305)を含むビデオ画像のシーケンスを受信し、出力として圧縮ビデオ情報(395)を生成する。ビデオエンコーダの特定の実施形態は、一般には、汎用エンコーダ(300)の変形または補完バージョンを使用する。
エンコーダシステム(300)は、予測画像および基本画像を圧縮する。図3は、描写を目的として、エンコーダシステム(300)を通じた基本画像の経路、および前方予測画像の経路を示す。エンコーダシステム(300)の構成要素の多くは、基本画像と予測画像の両方を圧縮するのに使用される。これらの構成要素が実行する厳密な動作は、圧縮される情報の種類に応じて異なる。
予測画像(pピクチャ、双方向予測に対するbピクチャ、またはインターピクチャ(inter−coded picture)とも呼ばれる)は、1つまたは複数の他の画像からの予測(または差)の観点で表される。予測残余は、予測されたものと原画像との差である。対照的に、基本画像(i画像、イントラピクチャ(intra−coded picture)とも呼ばれる)は、他の画像を参照せずに圧縮される。
現画像(305)が前方予測画像である場合、動き推定装置(310)は、画像記憶装置(320)でバッファされた前の再構築画像である参照画像(325)に対する現画像(305)のマクロブロックまたは他のピクセルの集合体の動きを推定する。代替の実施形態において、参照画像は、後の画像であるか、または現画像は双方向予測されたものである。動き推定装置(310)は、動きベクトルなどの動き情報(315)を副次的情報として出力する。動き補償器(330)は、動き情報(315)を参照画像(325)に適用して、動き補償現画像予測(335)を形成する。しかし、予測はあまり完全ではなく、動き補償現画像予測(335)とオリジナル現画像(305)との差が予測残余(345)になる。あるいは、動き推定装置および動き補償器は、他の種類の動き推定/動き補償を適用する。
周波数変換器(360)は、空間領域ビデオ情報を周波数領域(すなわちスペクトル)データに変換する。ブロックベースのビデオ画像については、周波数変換器(360)は、DCTまたはDCTの変種をピクセルデータまたは予測残余データのブロックに適用して、DCT係数のブロックを生成する。あるいは、周波数変換器(360)は、フーリエ変換などの他の従来の周波数変換を適用するか、またはウェーブレット分解もしくはサブバンド分解を用いる。いくつかの実施形態において、周波数変換器(360)は、8×8、8×4、4×8、または他のサイズの周波数変換(DCTなど)を予測画像に対する予測残余に適用する。
次いで、量子化器(370)は、スペクトルデータ係数のブロックを量子化する。量子化器は、画像毎などによって異なるステップサイズでスペクトルデータに均一スカラ量子化を適用する。あるいは、量子化器は、他の種類の量子化、例えば不均一量子化、ベクトル量子化もしくは非適応型量子化をスペクトルデータ係数に適用するか、または周波数変換を用いないエンコーダシステムにおいて空間領域データを直接量子化する。
再構築された現画像が次の動き推定/補償に必要とされるときは、逆量子化器(376)が、量子化スペクトルデータ係数に対して逆量子化を行う。次いで、逆周波数変換器(366)は、周波数変換器(360)の動作の逆を行って、再構築予測残余または再構築基本画像データを生成する。現画像(305)が基本画像である場合は、再構築基本画像を再構築現画像(不図示)とする。一方、現画像(305)が予測画像である場合は、再構築予測残余を動き補償現画像予測(335)に加えて、再構築現画像を形成する。画像記憶装置(320)は、次の画像の予測に使用するため再構築現画像をバッファする。いくつかの実施形態において、エンコーダ(300)は、インループデブロッキングフィルタを再構築画像に適用して、画像内のブロック境界の不連続部を滑らかにするよう調整する。さらなる詳細については、その開示が参照により本明細書に組み込まれている、2002年12月17日に出願された米国特許出願第10/322,383号明細書、および2003年7月18日に出願された米国特許出願第10/623,128号明細書を参照されたい。
エントロピコーダ(380)は、量子化器(370)の出力、ならびに所定の副次的情報を圧縮する。典型的なエントロピ符号化技術としては、算術符号化、差分符号化、ハフマン符号化、ランレングス符号化、LZ符号化、ディクショナリ符号化、および上記の組合せが挙げられる。エントロピコーダ(380)は、一般的には、異なる種類の情報に対して異なる符号化技術を用い、特定の符号化技術内の多数のコードテーブルの中から選択することができる。
エントロピコーダ(380)は、圧縮ビデオ情報(395)をバッファ(390)に投入する。バッファレベル指標がビットレート適応型モジュールにフィードバックされる。圧縮ビデオ情報(395)は、一定または比較的一定のビットレートでバッファ(390)から使い尽くされ、続くストリーミングのためにそのビットレートで記憶される。あるいは、エンコーダシステム(300)は、圧縮ビデオ情報を可変レートで流す。
バッファ(390)の前後に、圧縮ビデオ情報(395)を、ネットワークを介して伝送するためにチャネル符号化することができる。チャネル符号化は、誤差検出および補正データを圧縮ビデオ情報(395)に適用することができる。
加えて、エンコーダ(300)は、フィルタリング動作のための制御情報を受け入れる。制御情報は、コンテンツ作成者または他の操作者からのものであってもよく、エンコーダ設定、またはアプリケーションによるプログラム制御によってエンコーダに提供されうる。あるいは、制御情報は、エンコーダ(300)そのものの中のモジュールなど他の源からのものであってもよい。制御情報は、以下に記載する後処理デブロッキングおよび/またはデリンギングフィルタリングなどのフィルタリング動作を制御する。エンコーダ(300)は、圧縮ビデオ情報(395)における適切なシンタックスレベルで制御情報を出力する。
(B.ビデオデコーダ)
図4は、一般的なビデオデコーダシステム(400)のブロック図である。デコーダシステム(400)は、圧縮されたビデオ画像のシーケンスに対する情報(495)を受信し、再構築画像(405)を含む出力を生成する。特定の実施形態のビデオデコーダは、典型的には、汎用デコーダ(400)の変形または補完バージョンを使用する。
デコーダシステム(400)は、予測画像および基本画像を伸張する。
図4は、描写を目的として、デコーダシステム(400)を通じた基本画像の経路、および前方予測画像の経路を示している。基本画像と予測画像の両方を伸張するために、デコーダシステム(400)の構成要素の多くを使用する。これらの構成要素が実行する厳密な動作は、伸張される情報の種類に応じて異なる。
バッファ(490)は、圧縮ビデオシーケンスに対する情報(495)を受信し、受信した情報をエントロピデコーダ(480)が利用できるようにする。バッファ(490)は、典型的には、経時的に極めて一定したレートで情報を受信する。あるいは、バッファ(490)は、異なるレートで情報を受信する。バッファ(490)の前後で、圧縮ビデオ情報をチャネル復号し、誤差の検出および補正のための処理をすることができる。
エントロピデコーダ(480)は、典型的にはエンコーダで実行されるエントロピ符号化の逆を適用して、エントロピ符号化した量子化データならびにエントロピ符号化した副次的情報をエントロピ復号化する。エントロピ復号技術としては、算術復号化、差分復号化、ハフマン復号化、ランレングス復号化、LZ復号化、ディクショナリ復号化、および上記の組合せが挙げられる。エントロピデコーダ(480)は、しばしば異なる種類の情報に対して異なる復号技術を用い、特定の復号技術内の多数のコードテーブルの中から選択することができる。
再構築される画像(405)が前方予測画像である場合は、動き補償器(430)は、参照画像(425)に動き情報(415)を適用して、再構築される画像(405)の予測(435)を形成する。例えば、動き補償器(430)はマクロブロック動きベクトルを使用して、参照画像(425)内のマクロブロックを見つける。画像記憶装置(420)は、再構築された前の画像を参照画像として使用するために記憶する。あるいは、動き補償器は、他の種類の動き補償を適用する。動き補償器(430)による予測はあまり完全ではないため、デコーダ(400)は予測残余の再構築も行う。
逆量子化器(470)は、エントロピ復号データを逆量子化する。概して、逆量子化器(470)は、画像毎などによって異なるステップサイズでエントロピ復号データに均一スカラ逆量子化を適用する。あるいは、逆量子化器(470)は、他の種類の逆量子化、例えば不均一逆量子化、ベクトル逆量子化もしくは非適応型逆量子化をデータに適用するか、または逆周波数変換を用いないデコーダシステムにおいて空間領域データを直接逆量子化する。
逆周波数変換器(460)は、量子化された周波数領域データを空間領域ビデオ情報に変換する。ブロックベースのビデオ画像については、逆周波数変換器(460)は、逆DCT[「IDCT」]またはIDCTの変種をDCT係数のブロックに適用して、それぞれ基本画像または予測画像に対するピクセルデータまたは予測残余データを生成する。あるいは、逆周波数変換器(460)は、逆フーリエ変換などの他の従来の逆周波数変換を適用するか、またはウェーブレット合成もしくはサブバンド合成を用いる。いくつかの実施形態において、逆周波数変換器(460)は、8×8、8×4、4×8または他のサイズの逆周波数変換(IDCTなど)を予測画像に対する予測残余に適用する。
デコーダ(400)が次の動き補償のための再構築画像を必要とするときは、画像記憶装置(420)は、動き補償に使用するために再構築画像をバッファする。いくつかの実施形態において、例えば、米国特許出願第10/322,383号明細書および米国特許出願第10/623,128号明細書に記載されているように、デコーダ(400)は、インループデブロッキングフィルタを再構築画像に適用して、画像内のブロック境界の不連続部を滑らかにするよう調整する。
デコーダ(400)は、デブロッキングおよび/またはデリンギングフィルタリングなどの後処理フィルタリングを行う。例えば、デコーダは、WMV8システム、WMV9システムまたは上記の他のシステムのような後処理フィルタリングを行う。
デコーダ(400)は、フィルタリング動作のための制御情報を(情報(495)の一部として)受信する。制御情報は、以下に記載する後処理デブロッキングおよび/またはデリンギングフィルタリングなどの動作に影響する。デコーダ(400)は、適切なシンタックスレベルで制御情報を受信し、この情報を適切なフィルタリングモジュールに送る。
(III.ビットストリーム制御後処理フィルタリング)
いくつかの実施形態において、ビデオエンコーダにより、コンテンツ作成者または操作者は、特定のシーケンス、シーン、フレームまたはフレーム内の領域に対する後処理フィルタリングのレベルを制御することが可能となる。操作者は、符号化ビットストリームに挿入される制御情報を指定する。デコーダは、制御情報に従って後処理フィルタリングを行う。これにより、操作者は、後処理が用いられるときこの後処理がビデオ品質を向上させ、不要なときは後処理を無効にすることができる。例えば、操作者は、高解像度の高ビットレートビデオの再構築における過度のぼけを防ぐために後処理フィルタリングを制御する。
図5は、ビットストリーム制御後処理フィルタリングを備えるシステム(500)の概略図である。図5に示される構成要素、入力および出力の詳細は、実施態様に応じて異なる。
ビデオエンコーダ(510)は、ソースビデオ(505)を受け入れ、それを符号化し、ビデオビットストリーム(515)を生成する。例えば、ビデオエンコーダ(510)は、図3に示されるエンコーダ(300)などのエンコーダである。あるいは、システム(500)は、異なるビデオエンコーダ(510)を含む。
ソースビデオ(505)を受信するのに加えて、エンコーダ(510)は、コンテンツ作成者または操作者による入力を源とする後処理制御情報(512)を受信する。例えば、作成者は、後処理制御情報(512)を直接エンコーダ(510)に提供するか、または後処理フィルタリングに合わせてエンコーダ設定を調整する。あるいは、何らかの他のアプリケーションが作成者からの入力を受信し、この他のアプリケーションが後処理制御情報(512)をエンコーダ(510)に送る。あるいは、後処理制御情報(512)を指定する操作者の代わりに、エンコーダ(510)が、コーデックパラメータまたはビデオ符号化の結果に従って制御情報(512)を決定する。例えば、エンコーダ(510)は、適用される圧縮率が高くなるにつれてフィルタ強度を高める(例えば、より量子化の大きいステップサイズについてはフィルタ強度を高め、その逆についてはフィルタ強度を低下させる。あるいはより符号化の大きいビット/ピクセルについてはフィルタ強度を低下させ、その逆についてはフィルタ強度を高める)。
エンコーダ(510)は、後処理制御情報(512)をビデオビットストリーム(515)に挿入する。エンコーダ(510)は、後処理制御情報(512)を固定長コードとしてフォーマットする(例えば、レベル0に対して00、レベル1に対して01、レベル2に対して10等)。あるいは、エンコーダ(510)は、VLC/ハフマンテーブルを用いて、コードを割り当てる(レベル0に対して0、レベル1に対して10、レベル2に対して110等)か、または他の種類のエントロピ符号化を用いる。エンコーダ(510)は、制御情報(512)をビデオビットストリーム(515)の適切なシンタックスレベルでヘッダに挿入する。例えば、画像に対する制御情報(512)が、その画像に対する画像ヘッダに挿入される。MPEG−2またはMPEG−4ビットストリームについては、ヘッダにおける位置が、画像ヘッダにおけるプライベートデータセクションになりうる。
ビデオビットストリーム(515)は、例えば、ネットワークを介したストリーミングメディアとして送信することにより、チャネル(520)を介して配信される。ビデオデコーダ(530)はビデオビットストリーム(515)を受信する。デコーダ(530)は、符号化ビデオデータを復号して、復号ビデオ(535)を生成する。デコーダ(530)は、また、後処理制御情報(532)を取り出し(必要な復号を行い)、制御情報(532)を後処理フィルタ(540)に送る。
後処理フィルタ(540)は、制御情報(532)を用いて、指示された後処理フィルタリングを復号ビデオ(535)に適用して、復号された後処理ビデオ(545)を生成する。後処理フィルタ(540)は、例えば、デリンギングおよび/またはデブロッキングフィルタである。
図6は、後処理フィルタリングのための制御情報が埋め込まれたビットストリームを生成する技術(600)を示す図である。図3に示されるエンコーダ(300)などのエンコーダがこの技術(600)を実行する。
エンコーダは、符号化すべきビデオを受信する(610)とともに、後処理フィルタリングのための制御情報を受信する(630)。エンコーダは、ビデオを符号化し(620)、符号化ビデオおよび制御情報を出力する(640)。一実施態様において、エンコーダはビデオを符号化し(620)、ビデオを復号し、結果を提示する。次いで、作成者は、制御情報のための適切な後処理強度等を決定する。後処理強度および他の制御情報に対する意志決定過程は、フレームまたはビデオの他の部分に対して決定が下されるまで、エンコーダは反復するか、そうでなければ異なる後処理強度を評価するような、(符号化フレームまたはビデオの他の部分の復号に続く)エンコーダにおける実際の後処理を含んでもよい。
符号化時に図6に示される技術(600)を繰り返して、例えば、ビットストリームにおけるシーン毎に、またはフレーム毎に制御情報を埋め込むことができる。もっと一般的には、実施態様に応じて、技術(600)の段階を追加し、多数の段階に分割し、他の段階と組み合わせ、再構成し、かつ/または同様の段階と取り換えることができる。特に、制御情報の受け取り(630)のタイミングは、実施態様に応じて異なってよい。
図7は、ビットストリーム制御後処理フィルタリングを行うための技術(700)を示す図である。図4に示されるデコーダ(400)などのデコーダが、この技術(700)を実行する。
デコーダは、符号化ビデオおよび後処理フィルタリングのための制御情報を受信する(710)。デコーダはビデオを復号化する(720)。次いで、デコーダは、制御情報に従って後処理フィルタリングを行う(730)。復号時に図7に示される技術(700)を繰り返して、例えば、シーン毎またはフレーム毎に制御情報を取り出し、適用することができる。もっと一般的には、実施態様に応じて、技術(700)の段階を追加し、多数の段階に分割し、他の段階と組み合わせ、再構成し、かつ/または同様の段階と取り換えることができる。
(A.後処理制御情報の種類)
後処理制御情報の内容についてはいくつかの異なる可能性がある。用いられる制御情報の種類は実施形態に依存する。最も単純な種類なのは、後処理フィルタリングに対するオン/オフ決定である。
他の種類の制御情報は、デブロッキング、デリンギングおよび/または他のフィルタリングの後処理レベル(すなわち強度)を示すものである。ビットストリーム制御後処理は、制御情報が最大許容後処理レベルを表すときに特に有用である。例えば、より高いレベルがより強いフィルタリングを示すと仮定する。作成者が、所定のビデオフレームに対して後処理レベル3を示すと、デコーダは、レベル0、1、2または3の後処理を所定のフレームに適用し、4以上のレベルを適用しない。このアプローチはある程度の柔軟性を提供する。ソフトウェアデコーダが、フレームに対してレベル3を適用するのに利用可能な十分なCPUサイクルを持たない場合は、レベル2等を単に適用することになる。同時に、最大許容レベルを用いると主たる目標が達成される。すなわち、ビデオが後処理によって過度にぼやけることがなくなることが保証される。賢明な作成者は、復号ビデオが既に高品質であるときは、最大許容レベルを0(すなわち後処理なし)に設定するか、または低レベルに設定し、復号ビデオがより多くのブロック歪およびリンギング歪を表すときはより高いレベルに設定する。
またはこれにかえて、最大許容レベルの代わりに、この制御情報は厳密なレベルを示す。このような制御情報は、規定レベルの後処理フィルタリングを指定するものであり、作成者が後処理を厳密に制御したいときに有用である。または、この制御情報は最低許容レベルを示す。これは、例えば非常に低いビットレートのビデオに対して、少なくとも最低レベルの後処理フィルタリングが適用されることを作成者が望むときに有用である。
さらに他の種類の制御情報は、1つの特定のフィルタまたは複数のフィルタに対するフィルタレベル情報の代わりに、またはそれに加えて、フィルタ種類の選択を示す。例えば、値0は後処理なしを示し、値1はデブロッキングを示し、値2はデリンギングを示し、値3はデブロッキングとデリンギングの両方を示す等である。
あるいは、制御情報は、他の、かつ/または追加の種類の情報を含む。
(B.制御情報に対するシンタックスレベル)
実施態様に応じて、シーケンスに対して、シーケンス内のシーン毎に、フレーム毎に、または領域毎などに制御情報を指定する。これによって、作成者は、再構築ビデオを吟味し、制御が有効になるシンタックスレベルに応じて、所定のシーケンス、シーン、フレーム、フレーム内の領域等に対して後処理を適応させることができる。同様に、ビットストリームは、シーケンス、シーン、フレーム、フレーム内の領域等に対する適切なシンタックスレベルの制御情報に対するシンタックス要素を含む。
フレーム内の領域に対する制御情報を指定するために、作成者は、例えば、長方形または楕円形などの領域を定めることができ、この領域のサイズおよび位置に対するパラメータはビットストリームに挿入される。長方形については、この領域は辺(a、b)および左上隅のピクセル位置(x、y)によって定められ、固定長または可変長コードを使用して符号化される。この領域に対する後処理強度もビットストリームに挿入される。あるいは、他のシンタックスを用いて、後処理フィルタリングのためのフレーム内の異なる領域に対する制御情報を指定する。
(IV.拡張)
1つまたは複数の実施形態において、操作者は、シーン毎、フレーム毎、または領域毎などに、シーケンスに対するインループフィルタリングのための制御情報を指定する。この制御情報は、フィルタのレベル(すなわち強度)、フィルタの種類(例えば、多数の利用可能なフィルタの中から選択される)、および/または他の種類の情報を含む。
様々な実施形態を参照しながら発明の原理を説明、例示したが、当該原理から逸脱することなく様々な実施形態の構成および詳細を変更できることが認識されるであろう。本明細書に記載のプログラム、プロセスまたは方法は、特に指定のない限り、いかなる特定種類の演算環境に関係付けられたり限定されたりしないことを理解すべきである。様々な種類の汎用または専用のコンピューティング環境は、本明細書に記載の教示に使用され、この教示に従って動作することができる。ソフトウェアに示される実施形態の要素をハードウェアで実施することができ、その逆も可能である。
発明の原理を適用できる多くの可能な実施形態に鑑み、請求項およびその等価物の範囲および主旨に含めることができるすべての当該実施形態を発明として主張する。
従来技術による後処理フィルタリングを示す図である。 好適なコンピューティング環境のブロック図である。 汎用ビデオエンコーダシステムのブロック図である。 汎用ビデオエンコーダシステムのブロック図である。 ビットストリーム制御後処理フィルタリングを示す図である。 後処理フィルタリングのための埋め込み制御情報を有するビットストリームを生成するための技術を示すフローチャートである。 ビットストリーム制御後処理フィルタリングを行うための技術を示すフローチャートである。
符号の説明
105 ソースビデオ
110 ビデオエンコーダ
115 ビデオビットストリーム
120 チャネルによる配信
130 ビデオデコーダ
135 復号ビデオ
140 後処理フィルタ
145 復号後処理ビデオ
200 演算環境
210 処理装置
220 メモリ
240 記憶装置
250 入力装置
260 出力装置
270 通信接続
305 現画像
310 動き推定装置
320 画像記憶装置
325 参照画像
330 動き補償器
345 残余
360 周波数変換器
366 逆周波数変換器
370 量子化器
376 逆量子化器
380 エントロピコーダ
390 バッファ
395 圧縮ビデオ情報
405 再構築画像
420 画像記憶装置
425 基準画像
430 動き補償器
435 予測画像
445 再構築残余
460 逆周波数変換器
470 逆量子化器
480 エントロピデコーダ
490 バッファ
495 圧縮ビデオ情報
505 ソースビデオ
510 ビデオエンコーダ
512 後処理制御情報(作成者により入力される)
515 ビデオビットストリーム
520 チャネルによる配信
530 ビデオデコーダ
532 後処理制御情報
535 復号ビデオ
540 後処理フィルタ
545 復号後処理ビデオ

Claims (44)

  1. コンピュータシステムにおいて、
    ビデオデータを受信するステップと、
    前記ビデオデータを符号化するステップと、
    前記符号化ビデオデータ、ならびに復号化後の前記ビデオデータの後処理フィルタリングを制御するための制御情報を出力するステップと
    を備えたことを特徴とするコンピュータにより実行される方法。
  2. 操作者は、前記制御情報を指定することを特徴とする請求項1に記載の方法。
  3. 前記操作者は、制御情報を直接ビデオエンコーダに対して指定することを特徴とする請求項2に記載の方法。
  4. 前記操作者は、前記制御情報をビデオエンコーダに提供するアプリケーションに対して前記制御情報を指定することを特徴とする請求項2に記載の方法。
  5. ビデオエンコーダは、1つまたは複数の基準に従って前記制御情報を指定し、前記1つまたは複数の基準は、前記ビデオデータの量子化ステップサイズおよび/または品質を含むことを特徴とする請求項1に記載の方法。
  6. 前記後処理フィルタリングを制御するステップは、デブロッキングフィルタを適用するステップを含むことを特徴とする請求項1に記載の方法。
  7. 前記後処理フィルタリングを制御するステップは、デリンギングフィルタを適用するステップを含むことを特徴とする請求項1に記載の方法。
  8. 前記制御情報は、前記後処理フィルタリングに対するレベルを含むことを特徴とする請求項1に記載の方法。
  9. 前記制御情報は、前記後処理フィルタリングに対する最大許容レベルを含むことを特徴とする請求項1に記載の方法。
  10. 前記制御情報は、前記後処理フィルタリングに対する最低許容レベルを含むことを特徴とする請求項1に記載の方法。
  11. 前記制御情報は、前記後処理フィルタリングに対するフィルタ種類選択を含むことを特徴とする請求項1に記載の方法。
  12. 前記制御情報のエントロピ符号化ステップをさらに含むことを特徴とする請求項1に記載の方法。
  13. 前記制御情報は、シーケンス毎に指定されることを特徴とする請求項1に記載の方法。
  14. 前記制御情報は、シーン毎に指定されることを特徴とする請求項1に記載の方法。
  15. 前記制御情報は、フレーム毎に指定されることを特徴とする請求項1に記載の方法。
  16. 前記制御情報は、領域毎に指定されることを特徴とする請求項1に記載の方法。
  17. 前記コンピュータシステムに請求項1に記載の方法を実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  18. ビットストリーム内の符号化ビデオデータ、および後処理フィルタリングを制御するための前記ビットストリーム内の制御情報を受信するステップと、
    前記符号化ビデオデータを復号化するステップと、
    少なくとも一部に前記受信した制御情報に基づいて、前記復号ビデオデータに対して前記後処理フィルタリングを行うステップと
    を備えたことを特徴とするコンピュータ実施方法。
  19. 前記後処理フィルタリングを行うステップは、デブロッキングフィルタを適用するステップを含むことを特徴とする請求項18に記載の方法。
  20. 前記後処理フィルタリングを行うステップは、デリンギングフィルタを適用するステップを含むことを特徴とする請求項18に記載の方法。
  21. 前記制御情報は、前記後処理フィルタリングに対するレベルを含むことを特徴とする請求項18に記載の方法。
  22. 前記制御情報は、前記後処理フィルタリングに対する最大許容レベルを含むことを特徴とする請求項18に記載の方法。
  23. 前記制御情報は、前記後処理フィルタリングに対する最低許容レベルを含むことを特徴とする請求項18に記載の方法。
  24. 前記制御情報は、前記後処理フィルタリングに対するフィルタ種類選択を含むことを特徴とする請求項18に記載の方法。
  25. 前記制御情報のエントロピ復号化ステップをさらに含むことを特徴とする請求項18に記載の方法。
  26. 前記制御情報は、シーケンス毎に指定されることを特徴とする請求項18に記載の方法。
  27. 前記制御情報は、シーン毎に指定されることを特徴とする請求項18に記載の方法。
  28. 前記制御情報は、フレーム毎に指定されることを特徴とする請求項18に記載の方法。
  29. 前記制御情報は、領域毎に指定されることを特徴とする請求項18に記載の方法。
  30. コンピュータシステムに請求項18に記載の方法を実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  31. ビデオデータを受信するステップと、
    前記ビデオデータを符号化するステップと、
    前記符号化ビデオデータ、ならびにデブロッキングフィルタリングを制御するための制御情報を出力するステップであって、前記制御情報により、画像内の領域毎の前記デブロッキングフィルタリングの変更を可能にするステップと
    を備えた方法をコンピュータシステムに実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  32. 前記デブロッキングフィルタリングは、復号時のインループフィルタリングであることを特徴とする請求項31に記載のコンピュータ読取り可能媒体。
  33. 符号化ビデオデータ、ならびにデブロッキングフィルタリングを制御するための制御情報を受信するステップと、
    前記符号化ビデオデータを復号化するステップと、
    少なくとも一部に前記制御情報に基づいて前記デブロッキングフィルタリングを行うステップとを備え、前記制御情報により、画像内の領域毎の前記デブロッキングフィルタリングの変更を可能にするステップと
    を備えた方法をコンピュータシステムに実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  34. 前記デブロッキングフィルタリングは、復号時のインループフィルタリングであることを特徴とする請求項33に記載のコンピュータ読取り可能媒体。
  35. ビデオデータを受信するステップと、
    前記ビデオデータを符号化するステップと、
    前記符号化ビデオデータ、ならびにインループフィルタリングを制御するための制御情報を出力するステップであって、前記制御情報は、前記インループフィルタリングのための複数の利用可能なフィルタ種類の中から選択するためのフィルタ種類選択を含むステップと
    を備えた方法をコンピュータシステムに実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  36. 前記制御情報により、画像内の領域毎の前記インループフィルタリングの変更を可能にすることを特徴とする請求項35に記載のコンピュータ読取り可能媒体。
  37. 符号化ビデオデータ、ならびにインループフィルタリングを制御するための制御情報を受信するステップと、
    前記符号化ビデオデータを復号化するステップと、
    少なくとも一部に前記制御情報に基づいて前記インループフィルタリングを行うステップであって、前記制御情報は、前記インループフィルタリングのための複数の利用可能なフィルタ種類の中から選択するためのフィルタ種類選択を含んでなる方法をコンピュータシステムに実行させるためのコンピュータ実行可能命令を記憶することを特徴とするコンピュータ読取り可能媒体。
  38. 前記制御情報により、画像内の領域毎の前記インループフィルタリングの変更を可能にすることを特徴とする請求項37に記載のコンピュータ読取り可能媒体。
  39. 前記後処理フィルタリングを制御するステップは、前記ビデオデータの少なくとも一部に対する前記後処理フィルタリングを省略するステップを含むことを特徴とする請求項1に記載の方法。
  40. 前記制御情報は、ビデオデコーダが前記後処理フィルタリングを省略する指定をすることを特徴とする請求項1に記載の方法。
  41. ビットストリーム内の符号化ビデオデータ、ならびに後処理フィルタリングを制御するための前記ビットストリーム内の制御情報を受信するステップと、
    前記制御情報に対する1つまたは複数のシンタックス要素を識別することを含め、前記制御情報を処理するステップと、
    前記符号化ビデオデータを復号するステップと
    を備えたことを特徴とするコンピュータ実施方法。
  42. 少なくとも一部に前記制御情報に基づいて、前記復号ビデオデータに対する前記後処理フィルタリングを行うか否かを選択して実行するステップをさらに含むことを特徴とする請求項41に記載の方法。
  43. 前記選択して実行するステップは、前記復号ビデオデータの少なくとも一部に対する前記後処理フィルタリングを省略するステップを含むことを特徴とする請求項42に記載の方法。
  44. 前記1つまたは複数のシンタックス要素は、後処理フィルタリング強度を信号伝達することを特徴とする請求項41に記載の方法。
JP2004260264A 2003-09-07 2004-09-07 ビットストリーム制御後処理フィルタリング Active JP4633417B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US50108103P 2003-09-07 2003-09-07
US10/680,072 US8625680B2 (en) 2003-09-07 2003-10-06 Bitstream-controlled post-processing filtering

Publications (2)

Publication Number Publication Date
JP2005086830A true JP2005086830A (ja) 2005-03-31
JP4633417B2 JP4633417B2 (ja) 2011-02-16

Family

ID=34139062

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004260264A Active JP4633417B2 (ja) 2003-09-07 2004-09-07 ビットストリーム制御後処理フィルタリング

Country Status (6)

Country Link
US (1) US8625680B2 (ja)
EP (1) EP1513349B1 (ja)
JP (1) JP4633417B2 (ja)
KR (1) KR100802203B1 (ja)
CN (1) CN100576915C (ja)
ES (1) ES2623298T3 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009060541A (ja) * 2007-09-03 2009-03-19 Sharp Corp データ送信装置、データ送信方法、視聴環境制御装置、及び視聴環境制御方法
US7961791B2 (en) 2006-01-31 2011-06-14 Kabushiki Kaisha Toshiba Apparatus and method for control of blocking noise suppressor
US8045821B2 (en) 2007-02-16 2011-10-25 Panasonic Corporation Coding method conversion apparatus
US8432971B2 (en) 2008-04-30 2013-04-30 Sony Corporation Image processing apparatus, image processing method and image processing program

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6931063B2 (en) * 2001-03-26 2005-08-16 Sharp Laboratories Of America, Inc. Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
WO2005117445A1 (en) * 2004-05-27 2005-12-08 Vividas Technologies Pty Ltd Adaptive decoding of video data
US20060015799A1 (en) * 2004-07-13 2006-01-19 Sung Chih-Ta S Proxy-based error tracking for real-time video transmission in mobile environments
US20060062311A1 (en) * 2004-09-20 2006-03-23 Sharp Laboratories Of America, Inc. Graceful degradation of loop filter for real-time video decoder
JP2008533885A (ja) * 2005-03-15 2008-08-21 ネロ アーゲー 画像データストリームを生成するための装置および方法ならびに画像データストリームを処理するための装置および方法
US8009740B2 (en) * 2005-04-08 2011-08-30 Broadcom Corporation Method and system for a parametrized multi-standard deblocking filter for video compression systems
KR100646233B1 (ko) * 2005-05-30 2006-11-23 연세대학교 산학협력단 코덱 보조정보를 이용한 동영상 화질 평가 시스템 및 방법
US8081684B2 (en) * 2005-08-19 2011-12-20 Qualcomm Incorporated Picture-in-picture processing for video telephony
US8532424B2 (en) * 2005-11-22 2013-09-10 Freescale Semiconductor, Inc. Method and system for filtering image data
US8897371B2 (en) 2006-04-04 2014-11-25 Qualcomm Incorporated Video decoding in a receiver
WO2008008150A2 (en) * 2006-07-10 2008-01-17 Thomson Licensing Methods and apparatus for enhanced performance in a multi-pass video encoder
JP4229149B2 (ja) * 2006-07-13 2009-02-25 ソニー株式会社 ビデオ信号処理装置およびビデオ信号処理方法、ビデオ信号符号化装置およびビデオ信号符号化方法、並びにプログラム
JP5023662B2 (ja) * 2006-11-06 2012-09-12 ソニー株式会社 信号処理システム、信号送信装置、信号受信装置およびプログラム
PL2123051T3 (pl) 2006-12-18 2011-04-29 Koninl Philips Electronics Nv Kompresja i dekompresja obrazu
EP1944974A1 (en) * 2007-01-09 2008-07-16 Matsushita Electric Industrial Co., Ltd. Position dependent post-filter hints
TWI375470B (en) * 2007-08-03 2012-10-21 Via Tech Inc Method for determining boundary strength
KR101452495B1 (ko) * 2008-05-09 2014-10-21 비반테 코포레이션 복원된 비디오 데이터를 위한 디링잉 필터
US20090328093A1 (en) * 2008-06-30 2009-12-31 At&T Intellectual Property I, L.P. Multimedia Content Filtering
US8249144B2 (en) * 2008-07-08 2012-08-21 Imagine Communications Ltd. Distributed transcoding
US10123050B2 (en) 2008-07-11 2018-11-06 Qualcomm Incorporated Filtering video data using a plurality of filters
US9143803B2 (en) 2009-01-15 2015-09-22 Qualcomm Incorporated Filter prediction based on activity metrics in video coding
US20100278231A1 (en) * 2009-05-04 2010-11-04 Imagine Communications Ltd. Post-decoder filtering
EP2465265B8 (en) 2009-08-12 2019-01-23 InterDigital VC Holdings, Inc. Methods and apparatus for improved intra chroma encoding and decoding
CN104935934B (zh) * 2009-10-21 2018-04-03 Sk电信有限公司 视频编码装置
JP2013517733A (ja) * 2010-01-19 2013-05-16 サムスン エレクトロニクス カンパニー リミテッド 以前ブロックの動きベクトルを現在ブロックの動きベクトルとして用いる映像符号化/復号化方法及び装置
US9351017B2 (en) 2010-01-19 2016-05-24 Samsung Electronics Co., Ltd. Method and apparatus for encoding/decoding images using a motion vector of a previous block as a motion vector for the current block
US9155070B2 (en) * 2010-01-27 2015-10-06 Lg Electronics Inc. Method and apparatus for transmitting uplink data burst in wireless connection system
US20110299604A1 (en) * 2010-06-04 2011-12-08 Apple Inc. Method and apparatus for adaptive video sharpening
US8849053B2 (en) 2011-01-14 2014-09-30 Sony Corporation Parametric loop filter
KR102355509B1 (ko) 2011-02-09 2022-02-08 엘지전자 주식회사 영상 부호화 및 복호화 방법과 이를 이용한 장치
US8964852B2 (en) 2011-02-23 2015-02-24 Qualcomm Incorporated Multi-metric filtering
US9538128B2 (en) * 2011-02-28 2017-01-03 Cisco Technology, Inc. System and method for managing video processing in a network environment
KR101718953B1 (ko) 2011-10-17 2017-03-22 주식회사 케이티 영상 부호화/복호화 방법 및 그 장치
KR20130050406A (ko) 2011-11-07 2013-05-16 오수미 머지 모드에서의 움직임 정보 생성 방법
CN103118250B (zh) * 2011-11-16 2017-09-26 中兴通讯股份有限公司 一种帧内划分标志的编解码方法及装置
CN106937113B (zh) * 2011-12-05 2020-06-02 同济大学 基于混合色度采样率的图像压缩方法和装置
US9414054B2 (en) 2012-07-02 2016-08-09 Microsoft Technology Licensing, Llc Control and use of chroma quantization parameter values
KR102215433B1 (ko) 2012-07-02 2021-02-15 엘지전자 주식회사 영상 정보 코딩 방법 및 이를 이용하는 장치
US9591302B2 (en) * 2012-07-02 2017-03-07 Microsoft Technology Licensing, Llc Use of chroma quantization parameter offsets in deblocking
EP4250745A3 (en) * 2012-07-09 2023-11-15 Vid Scale, Inc. Power aware video decoding and streaming
CN103841425B (zh) * 2012-10-08 2017-04-05 华为技术有限公司 用于运动矢量预测的运动矢量列表建立的方法、装置
CN102883163B (zh) 2012-10-08 2014-05-28 华为技术有限公司 用于运动矢量预测的运动矢量列表建立的方法、装置
KR101806949B1 (ko) 2013-03-13 2017-12-08 후아웨이 테크놀러지 컴퍼니 리미티드 깊이 룩업 테이블을 코딩하는 방법
GB2548578B (en) * 2016-03-21 2020-10-07 Advanced Risc Mach Ltd Video data processing system
US10341657B2 (en) * 2017-11-14 2019-07-02 Telefonaktiebolaget Lm Ericsson (Publ) System and method for mitigating motion artifacts in a media streaming network
CN109936715B (zh) * 2017-12-19 2021-09-03 华为技术有限公司 一种mp4文件的处理方法及其相关设备
US10965866B2 (en) * 2018-03-20 2021-03-30 Panasonic Intellectual Property Management Co., Ltd. Image generation system, image display system, image generation method, and moving vehicle
EP3797514A4 (en) 2018-06-13 2021-08-04 Huawei Technologies Co., Ltd. INTRASOLUTION AND / OR ENTRY FILTER FOR VIDEO ENCODING
WO2019240629A1 (en) * 2018-06-13 2019-12-19 Huawei Technologies Co., Ltd. Intra sharpening and/or de-ringing filter for video coding based on a bitstream flag
CN111050175A (zh) * 2018-10-15 2020-04-21 华为技术有限公司 视频编码的方法和装置

Family Cites Families (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3133113B2 (ja) 1991-10-28 2001-02-05 株式会社日立製作所 圧縮動画データ伸長再生システム
JPH06249610A (ja) * 1993-02-24 1994-09-09 Hitachi Constr Mach Co Ltd 微動機構
US5684602A (en) * 1993-06-30 1997-11-04 Matsushita Graphic Communication Systems, Inc. Facsimile apparatus with coding/decoding interrupt
JPH07231449A (ja) 1994-02-21 1995-08-29 Sony Corp 画像信号符号化装置及び画像信号復号化装置
JP3283159B2 (ja) 1995-07-07 2002-05-20 日本電信電話株式会社 ソフトウェアによる画像符号化方法
US5825929A (en) 1995-10-05 1998-10-20 Microsoft Corporation Transformation block optimization method
US5787203A (en) 1996-01-19 1998-07-28 Microsoft Corporation Method and system for filtering compressed video images
US5799113A (en) 1996-01-19 1998-08-25 Microsoft Corporation Method for expanding contracted video images
US6324301B1 (en) 1996-01-24 2001-11-27 Lucent Technologies Inc. Adaptive postfilter for low bitrate visual telephony noise removal
JPH1070717A (ja) 1996-06-19 1998-03-10 Matsushita Electric Ind Co Ltd 画像符号化装置及び画像復号化装置
FI106071B (fi) 1997-03-13 2000-11-15 Nokia Mobile Phones Ltd Mukautuva suodatin
JP3339054B2 (ja) * 1997-03-28 2002-10-28 ソニー株式会社 データ符号化方法及び装置、データ復号方法及び装置、並びに記録媒体
US6281942B1 (en) 1997-08-11 2001-08-28 Microsoft Corporation Spatial and temporal filtering mechanism for digital motion video signals
JPH11122624A (ja) 1997-10-16 1999-04-30 Matsushita Electric Ind Co Ltd ビデオデコーダ処理量を低減する方法および装置
US6959220B1 (en) 1997-11-07 2005-10-25 Microsoft Corporation Digital audio signal filtering mechanism and method
US6125147A (en) * 1998-05-07 2000-09-26 Motorola, Inc. Method and apparatus for reducing breathing artifacts in compressed video
RU2154918C1 (ru) * 1998-08-01 2000-08-20 Самсунг Электроникс Ко., Лтд. Способ и устройство для цикл-фильтрации данных изображения
US6380985B1 (en) 1998-09-14 2002-04-30 Webtv Networks, Inc. Resizing and anti-flicker filtering in reduced-size video images
US6366617B1 (en) * 1998-10-09 2002-04-02 Matsushita Electric Industrial Co., Ltd. Programmable filter for removing selected user data from an MPEG-2 bit stream
US6466624B1 (en) 1998-10-28 2002-10-15 Pixonics, Llc Video decoder with bit stream based enhancements
US6473409B1 (en) 1999-02-26 2002-10-29 Microsoft Corp. Adaptive filtering system and method for adaptively canceling echoes and reducing noise in digital signals
FI117533B (fi) * 2000-01-20 2006-11-15 Nokia Corp Menetelmä digitaalisten videokuvien suodattamiseksi
US7155414B2 (en) * 2000-04-05 2006-12-26 International Business Machines Corporation License compliance verification system
GB2365647A (en) 2000-08-04 2002-02-20 Snell & Wilcox Ltd Deriving parameters for post-processing from an encoded signal
JP2002232881A (ja) 2001-01-31 2002-08-16 Toshiba Corp 動画像復号化方法及び装置
US7450641B2 (en) * 2001-09-14 2008-11-11 Sharp Laboratories Of America, Inc. Adaptive filtering based upon boundary strength
US6931063B2 (en) * 2001-03-26 2005-08-16 Sharp Laboratories Of America, Inc. Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
US7206453B2 (en) 2001-05-03 2007-04-17 Microsoft Corporation Dynamic filtering for lossy compression
US6941263B2 (en) 2001-06-29 2005-09-06 Microsoft Corporation Frequency domain postfiltering for quality enhancement of coded speech
US7003174B2 (en) * 2001-07-02 2006-02-21 Corel Corporation Removal of block encoding artifacts
CN1738429A (zh) * 2001-09-12 2006-02-22 松下电器产业株式会社 图像解码方法
US6983079B2 (en) * 2001-09-20 2006-01-03 Seiko Epson Corporation Reducing blocking and ringing artifacts in low-bit-rate coding
CN101448162B (zh) 2001-12-17 2013-01-02 微软公司 处理视频图像的方法
EP2894856A1 (en) * 2002-01-31 2015-07-15 Samsung Electronics Co., Ltd Filtering method and apparatus for reducing block artifacts or ringing noise
US6950473B2 (en) * 2002-06-21 2005-09-27 Seiko Epson Corporation Hybrid technique for reducing blocking and ringing artifacts in low-bit-rate coding
US20030235250A1 (en) 2002-06-24 2003-12-25 Ankur Varma Video deblocking
US7792194B2 (en) * 2003-04-10 2010-09-07 Lefan Zhong MPEG artifacts post-processed filtering architecture
US7362810B2 (en) * 2003-05-13 2008-04-22 Sigmatel, Inc. Post-filter for deblocking and deringing of video data
US7848229B2 (en) 2003-05-16 2010-12-07 Siemens Enterprise Communications, Inc. System and method for virtual channel selection in IP telephony systems
EP1845729A1 (en) 2006-04-12 2007-10-17 Matsushita Electric Industrial Co., Ltd. Transmission of post-filter hints

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7961791B2 (en) 2006-01-31 2011-06-14 Kabushiki Kaisha Toshiba Apparatus and method for control of blocking noise suppressor
US8045821B2 (en) 2007-02-16 2011-10-25 Panasonic Corporation Coding method conversion apparatus
JP2009060541A (ja) * 2007-09-03 2009-03-19 Sharp Corp データ送信装置、データ送信方法、視聴環境制御装置、及び視聴環境制御方法
US8432971B2 (en) 2008-04-30 2013-04-30 Sony Corporation Image processing apparatus, image processing method and image processing program

Also Published As

Publication number Publication date
EP1513349A3 (en) 2005-08-10
EP1513349B1 (en) 2017-02-08
KR20050025928A (ko) 2005-03-14
EP1513349A2 (en) 2005-03-09
KR100802203B1 (ko) 2008-02-11
JP4633417B2 (ja) 2011-02-16
US20050053288A1 (en) 2005-03-10
US8625680B2 (en) 2014-01-07
CN100576915C (zh) 2009-12-30
ES2623298T3 (es) 2017-07-10
CN1627824A (zh) 2005-06-15

Similar Documents

Publication Publication Date Title
JP4633417B2 (ja) ビットストリーム制御後処理フィルタリング
JP5442568B2 (ja) スキップマクロブロックコード化
EP2319241B1 (en) Skip modes for inter-layer residual video coding and decoding
US7120197B2 (en) Motion compensation loop with filtering
US8442337B2 (en) Encoding adjustments for animation content
KR101780505B1 (ko) 향상 계층 비디오 코딩을 위한 적응 양자화
US7602851B2 (en) Intelligent differential quantization of video coding
US7974340B2 (en) Adaptive B-picture quantization control
JP4393875B2 (ja) 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法
KR100643819B1 (ko) 페이딩 보정을 위한 파라미터화
KR100578433B1 (ko) 페이딩 추정/보정
KR100578432B1 (ko) 페이딩 보정을 위한 시그널링
US20060269149A1 (en) Encoding and decoding apparatus and method for reducing blocking phenomenon and computer-readable recording medium storing program for executing the method
KR100229796B1 (ko) 열화영상에 대한 보상기능을 갖는 영상 복호화 시스템
US6823015B2 (en) Macroblock coding using luminance date in analyzing temporal redundancy of picture, biased by chrominance data
CN116982262A (zh) 视频编码中依赖性量化的状态转换
KR20060034294A (ko) 엔코딩 방법 및 디바이스
Cheung et al. Optimizing MPEG-4 coding performance by taking post-processing into account
JP2004242056A (ja) 符号化装置および方法、記録媒体、並びにプログラム
JP2003319393A (ja) 画像圧縮符号化装置及び画像圧縮符号化方法

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070104

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20070824

RD13 Notification of appointment of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7433

Effective date: 20071126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20071126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071221

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080110

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20080502

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100407

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100413

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20100507

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20100512

RD16 Notification of change of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7431

Effective date: 20100513

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100513

RD15 Notification of revocation of power of sub attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7435

Effective date: 20100608

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20101117

R150 Certificate of patent or registration of utility model

Ref document number: 4633417

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131126

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250