JP2010529777A - 多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタリングのための方法及び装置 - Google Patents

多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタリングのための方法及び装置 Download PDF

Info

Publication number
JP2010529777A
JP2010529777A JP2010511169A JP2010511169A JP2010529777A JP 2010529777 A JP2010529777 A JP 2010529777A JP 2010511169 A JP2010511169 A JP 2010511169A JP 2010511169 A JP2010511169 A JP 2010511169A JP 2010529777 A JP2010529777 A JP 2010529777A
Authority
JP
Japan
Prior art keywords
signal
picture
local
global
loop
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010511169A
Other languages
English (en)
Other versions
JP2010529777A5 (ja
JP5345139B2 (ja
Inventor
エスコーダ,オスカー ディヴォラ
イン,ペン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010529777A publication Critical patent/JP2010529777A/ja
Publication of JP2010529777A5 publication Critical patent/JP2010529777A5/ja
Application granted granted Critical
Publication of JP5345139B2 publication Critical patent/JP5345139B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/59Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial sub-sampling or interpolation, e.g. alteration of picture size or resolution
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/154Measured or subjectively estimated visual quality after decoding, e.g. measurement of distortion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/174Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a slice, e.g. a line of blocks or a group of blocks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/46Embedding additional information in the video signal during the compression process
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

多格子スパース性ベースのフィルタリングに基づいた、インループ・アーチファクト解除フィルタリングのための方法及び装置を提供する。装置は、ピクチャのピクチャ・データを符号化する符号化器(500)を含む。符号化器は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するようピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタ(565)を含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。

Description

本出願は、その内容全部を本明細書及び特許請求の範囲に援用する、西暦2007年6月8日付出願の米国特許仮出願第60/942686号の利益を主張する。
本願の原理は、一般に、ビデオ符号化及び復号化に関し、特に、多格子スパース性フィルタリングに基づいたインループ・アーチファクト解除フィルタリングのための方法及び装置に関する。
国際標準化機構/国際電気技術委員会(ISO/IEC)動画像専門家グループー4(MPEG−4)パート10高度ビデオ符号化(AVC)標準/国際電気通信連合、電気通信セクター(ITU−T)H.264勧告(以下、「MPEG−4 AVC標準」)は現在、最も効率的かつ最新式のビデオ標準化標準である。他のビデオ符号化標準と同様に、MPEG−4 AVC標準は、ブロック・ベースの離散コサイン変換(DCT)及び動き補償を使用する。変換係数の粗い量子化は、ブロック状アーチファクト、エッジ・アーチファクト、テクスチャ・アーチファクト等などの種々の視覚的に妨げとなるアーチファクトをもたらし得る。MPEG−4 AVC標準は、この課題を解決するために、適応的インループ・デブロッキング・フィルタを規定しているが、フィルタは、ブロック状エッジを平滑化することにのみ重点が置かれる。フィルタは、量子化雑音(歪んだエッジやテクスチャなど)によって生じる他のアーチファクトを補正しようとするものでない。
ビデオ圧縮アーチファクトは全て、量子化によって生じる。これは、ハイブリッド・ビデオ符号化フレームワークにおける唯一の不可逆符号化部分である。しかし、前述のアーチファクトは、限定列挙でないが、ブロッキング・アーチファクト、リンギング・アーチファクト、エッジの歪み、及びテクスチャの破壊を含む種々の形態において存在し得る。一般に、復号化系列は、視覚的なアーチファクト(全てのタイプのものであるが、異なる重大度を有する)を含み得る。各種の視覚的なアーチファクトのうち、ブロック状アーチファクトは、ブロック・ベースのビデオ符号化において一般的である。前述のアーチファクトは、残差符号化における変換段(例えば、DCT又はMPEG−4 AVC標準整数ブロック変換)から、及び、予測段(例えば、動き補償及び/又はイントラ予測)から生じ得る。適応的デブロッキング・フィルタは、従来、検討されており、例えば、MPEG−4 AVC標準におけるように、周知の手法がいくつか提案されている。うまく企図されると、適応的デブロッキング・フィルタは、客観的ビデオ品質及び主観的ビデオ品質を向上させることが可能である。MPEG−4 AVC標準などにおける最新式のビデオ・コデックでは、適応的インループ・デブロッキング・フィルタは、ブロック状アーチファクトを削減することが企図されている。フィルタリングの強度は、いくつかの構文要素の値により、かつ、再構成された画像の局所の振幅及び構造によって制御される。基本的な考えは、ブロック・エッジ近くのサンプル間の相対的に大きな絶対差は、測定された場合、ブロッキング・アーチファクトである可能性が極めて高く、よって、削減するべきであるというものである。しかし、符号化において使用される量子化の粗さによって説明することが可能でないほど、その差の大きさが大きい場合、エッジは、ソース・ピクチャの実際の挙動を反映する可能性が高く、除くべきでない。このようにして、ブロック性が削減される一方、コンテンツの鮮鋭度は基本的に変わらない。デブロッキング・フィルタは、いくつかのレベルで適応的である。スライス・レベルでは、大局フィルタリング強度は、ビデオ系列の個々の特性に適応させることが可能である。ブロックエッジ・レベルでは、フィルタリング強度を、2つの近傍ブロックにおける符号化残差の存在、動きの差、及びインター/イントラ予測決定に依存させる。マクロブロック境界上では、「タイリング・アーチファクト」を除去するよう、特殊な高強度フィルタリングを施す。サンプル・レベルでは、サンプル値、及び量子化器に依存した閾値は、個々のサンプル毎のフィルタリングをオフにすることが可能である。
MPEG−4AVC標準デブロッキング・フィルタは、ブロック状アーチファクトを削減するよううまく企図されているが、量子化雑音によって生じる他のアーチファクトを補正しようとするものでない。例えば、MPEG−4AVC標準デブロッキング・フィルタは、エッジ及びテクスチャをそのままの状態にしておく。よって、MPEG−4AVC標準は、何れの歪んだエッジ又はテクスチャを改良することも可能でない。この背後にある一理由は、MPEG−4AVC標準デブロッキング・フィルタが、平滑画像モデルを施し、企図されたフィルタは通常、低域通過フィルタのバンクを含むという点である。しかし、画像は、MPEG−4AVC標準デブロッキング・フィルタによって正確に処理されない多くの特異性、テクスチャを含み得る。
MPEG−4AVC標準デブロッキング・フィルタの制約を解消するために、雑音除去タイプの非線形インループ・フィルタが最近、第1の従来技術手法において提案されている。第1の従来技術手法では、線形変換の過完全の組、及び閾値化処理を使用してスパース性画像モデルを使用して非静止画像統計に適応させる非線形雑音除去フィルタを説明している。第1の従来技術手法の非線形雑音除去フィルタは自動的に、処理する領域に応じて自動的に、高域通過若しくは低域通過、又は帯域通過になる。第1の従来技術手法の非線形雑音除去フィルタは、全てのタイプの量子化雑音に対処することが可能である。
雑音除去は基本的には、以下の3つの工程(変換、閾値化、及び逆変換)を含む。次いで、変換の過完全な組による雑音除去によって(例えば、同じ変換のシフトされたバージョンによる雑音除去を施すことによって)もたらされるいくつかの雑音除去された推定値は、画素毎に、加重平均によって合成される。第1の従来技術手法において説明した適応的インループ・フィルタリングは、冗長性変換の使用に基づく。冗長性変換は、特定の変換Hの考えられる平行移動H全てによって生成される。よって、画像Iがあれば、画像Iの一連の別々の変換バージョンYが、変換HをIに施すことによって生成される。変換バージョンYは全て、次いで、変換係数に含まれた雑音を削減するために、係数雑音除去手順(通常、閾値処理)によって処理される。これにより、一連のY’が生成される。その後、Y’それぞれは空間領域に変換され、別々の推定値I’(そのそれぞれでは、より低い量の雑音が存在する)になる。第1の従来技術の手法は、別々のI’が、別々の位置について最善の雑音除去バージョンIを含むということも使用する。よって、第1の従来技術手法は、最終フィルタリングされたバージョンI’を、I’の加重和として推定し、最善のI’が、I’の全位置で好ましいように最適化される。図1及び図2は、この第1の従来技術の手法に関する。
図1に移れば、従来技術における、ピクチャの位置適応的スパース性ベースのフィルタリングのための装置の全体を参照符号100で示す。
装置100は、第1の雑音除去係数モジュール120の入力と信号通信で接続された出力を有する第1の変換モジュール(変換行列1を有する)105を含む。第1の雑音除去係数モジュール120の出力は、第1の逆変換モジュール(逆変換行列1を有する)135の入力、組合せ重み計算モジュール150の入力、及びN番目の逆変換モジュール(逆変換行列Nを有する)145の入力と信号通信で接続される。第1の逆変換モジュール(逆変換行列1)を有する)135の出力が合成器155の第1の入力と信号通信で接続される。
第2の変換モジュール(変換行列2を有する)110の出力は、第2の雑音除去係数モジュール125の入力と信号通信で接続される。第2の雑音除去係数モジュール125の出力は、第2の逆変換モジュール(逆変換行列2を有する)140の入力、組合せ重み計算モジュール150の入力、及びN番目の逆変換モジュール(逆変換行列Nを有する)145の入力と信号通信で接続される。第2の逆変換モジュール(逆変換行列2を有する)140の出力は合成器155の第2の入力と信号通信で接続される。
N番目の変換モジュール(変換行列Nを有する)115の出力は、N番目の雑音除去係数モジュール130の入力と信号通信で接続される。N番目の雑音除去係数モジュール130の出力は、N番目の逆変換モジュール(逆変換行列Nを有する)145の入力、組合せ重み計算モジュール150の入力、及び第1の逆変換モジュール(逆変換系列1を有する)135の入力と信号通信で接続される。N番目の逆変換モジュール(逆変換行列Nを有する)145の出力は、合成器155の第3の入力と信号通信で接続される。
組合せ重み計算モジュール150の出力は、合成器155の第4の入力と信号通信で接続される。
第1の変換モジュール(変換行列1を有する)105の入力、第2の変換モジュール(変換行列2を有する)110の入力、及びN番目の変換モジュール(変換行列Nを有する)115の入力が、入力画像を受け取るために、装置100の入力として利用可能である。合成器155の出力は、出力画像を供給するために、装置100の出力として利用可能である。
図2に移れば、従来技術による、ピクチャの位置適応的スパース性ベースのフィルタリングのための方法の全体を参照符号200で示す。
方法200は、制御をループ限度ブロック210に渡す開始ブロック205を含む。ループ限度ブロック210は、変数iの値毎にループを行い、制御を関数ブロック215に渡す。関数ブロック215は、変換行列iによる変換を行い、制御を関数ブロック220に渡す。関数ブロック220は、雑音除去係数を求め、制御を関数ブロック225に渡す。関数ブロック225は、逆変換行列iによる逆変換を行い、制御をループ限度ブロック230に渡す。ループ限度ブロック230は、変数iの各値にわたるループを終了し、制御を機能ブロック235に渡す。機能ブロック235は、雑音除去係数画像の別々の逆変換バージョンの合成を行い(例えば、局所適応的加重和を求め)、制御を終了ブロック299に渡す。
重み付け手法は、フィルタリングする対象のデータ、データに対して使用する変換、及びフィルタリングする対象の雑音/歪みに関する統計的前提のうちの少なくとも1つに少なくとも依存し得る。
第1の従来技術手法は各Hを直交変換とみなす。更に、各Hを、ウェーブレットやDCTなどの特定の2D直交変換の平行移動されたバージョンとみなす。これを考慮に入れれば、MPEG−4 AVC標準は、特定の直交変換が限定量の解析の方向を有するということを考慮に入れていない。よって、DCTの考えられる平行移動全てが、Iの過完全表現を生成するために使用されても、Iは、Iの特定の成分と無関係に、垂直方向の成分及び水平方向の成分に一意に分解される。
特異性で隔てられる局所的に一様な領域(平滑、高周波、テクスチャ等)を含むビデオ・フレームにわたり、量子化雑音を削減することが可能である。しかし、第1の従来技術手法において詳細にわたって記載したように、その雑音除去ツールは当初、相加性の無相関均質分布(i.i.d)雑音の除去のために企図されていたが、量子化雑音は、かなり異なる特性を有し、これは、適切な歪み削減、及び視覚的なアーチファクト解除の点で課題をもたらし得る。これは、前述の手法が、真のエッジ又は偽のブロック状エッジによって不明確になり得ることを示唆している。空間周波数閾値の適応により、決定を補正することができ得ると言えるが、その前述の実現形態は簡易なものでない。閾値選択が不十分な場合、場合によっては、スパース性雑音除去が、過平滑された再構成ピクチャにもたらされ得るか、又はブロック状ア―チファクトが、フィルタリング手順にもかかわらず、なお存在し得るという結果となる。現在、本出願人の実験においてみられるように、第1の従来技術手法に提示されたスパース性ベースの雑音除去手法は、MPEG−4 AVC標準におけるインループ・フィルタリング工程の代わりに施された場合、他の手法よりも、客観的尺度(例えば、平均二乗誤差(MSE))の点で、より高い歪みの削減をもたらすが、対処する必要がある重要な視覚的なアーチファクトをなおもたらす。
第1の従来技術手法におけるこの弊害の少なくとも2つの理由のうちの第1の理由は、フィルタリング工程において使用される変換が、残差の符号化に使用される変換と厳密に相似であるか、(若しくは同じである。)符号化信号に挿入される量子化誤差は時には、再構成に利用可能な係数の数の削減の形式の下になるので、係数の前述の削減により、第1の従来技術手法における重みの生成において行われる信号スパース性の尺度が不明確になる。これにより、量子化雑音は、重み生成に影響を及ぼし、これは、次いで、一部の場所において、最善のI’の適切な重み付けに影響を及ぼし、これにより、フィルタリング後に、一部のブロック状アーチファクトがなお目に見える状態がもたらされる。
第1の従来技術手法におけるこの弊害の少なくとも2つの理由のうちの第2は、その平行移動全てを有するDCTのような単一のタイプの直交変換の第1の従来技術における使用が、構造解析の限定量の主方向(すなわち、垂直方向及び水平方向)を有するという点である。これにより、垂直方向にも水平方向にも、信号構造の適切なアーチファクト解除が損なわれる。
凸集合への射影(POCS)に基づいた圧縮アーチファクト削減に対する他の手法が提案されている。しかし、前述の手法は、計算量集約的であり、上記アーチファクト全てに必ずしも対処するものでない。第2の従来技術手法は、信号適応させた部分空間を計算するが、ブロッキング・アーチファクト全てを完全に除去することはできない。第2の従来技術手法は、信号の高周波数成分を適切に扱うことができないからである。第3の従来技術手法では、再構成された圧縮画像を処理し、雑音除去するためにウェーブレット変換及び閾値化を使用することが提案されている。しかし、テクスチャ化が非常に高い領域を適切に処理することが可能でないという意味でなお限定的である第3の従来技術手法は、エッジ上の幾何的歪みを適切にアーチファクト解除することができず、更に、指向性特徴の処理において限定的である。
図3を参照すれば、MPEG−4 AVC標準によってビデオ符号化を行うことができるビデオ符号化器は全体を参照符号300で示す。
ビデオ符号化器300は、合成器385の非反転入力と信号通信する出力を有するフレーム配列バッファ310を含む。合成器385の出力は変換器及び量子化器325の第1の入力と信号通信で接続される。変換器及び量子化器325の出力は、エントロピ符号化器345の第1の入力、並びに、逆変換器及び逆量子化器350の第1の入力と信号通信で接続される。エントロピ符号化器345の出力は、合成器390の第1の非反転入力と信号通信で接続される。合成器390の出力は、出力バッファ335の第1の入力と信号通信で接続される。
符号化器コントローラ305の第1の出力は、フレーム配列バッファ310の第2の入力、逆変換器及び逆量子化器350の第2の入力、ピクチャタイプ決定モジュール315の入力、マクロブロックタイプ(MBタイプ)決定モジュール320の入力、イントラ予測モジュール360の第2の入力、デブロッキング・フィルタ365の第2の入力、動き補償器370の第1の入力、動き推定器375の第1の入力、及び参照ピクチャ・バッファ380の第2の入力と信号通信で接続される。
符号化器コントローラ305の第2の出力は、付加拡張情報(SEI)挿入器330の第1の入力、変換器及び量子化器325の第2の入力、エントロピ符号化器345の第2の入力、出力バッファ335の第2の入力、並びに、シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器340の入力と信号通信で接続される。
ピクチャタイプ決定モジュール315の第1の出力は、フレーム配列バッファ310の第3の入力と信号通信で接続される。ピクチャタイプの決定モジュール315の第2の出力は、マクロブロックタイプの決定モジュール320の第2の入力と信号通信で接続される。
シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器340の出力は、合成器390の第3の非反転入力と信号通信で接続される。
逆量子化器及び逆変換器350の出力は、合成器327の第1の非反転入力と信号通信で接続される。合成器327の出力は、イントラ予測モジュール360の第1の入力及びデブロッキング・フィルタ365の第1の入力と信号通信で接続される。デブロッキング・フィルタ365の出力は参照ピクチャ・バッファ380の第1の入力と信号通信で接続される。参照ピクチャ・バッファ380の出力は、動き推定器375の第2の入力と信号通信で接続される。動き推定器375の第1の出力は、動き補償器370の第2の入力と信号通信で接続される。動き推定器375の第2の出力は、エントロピ符号化器345の第3の入力と信号通信で接続される。
動き補償器370の出力は、スイッチ397の第1の入力と信号通信で接続される。イントラ予測モジュール360の出力は、スイッチ397の第2の入力と信号通信で接続される。マクロブロックタイプ決定モジュール320の出力は、スイッチ397の第3の入力と信号通信で接続される。スイッチ397の出力は、合成器327の第2の非反転入力と信号通信で接続される。
フレーム配列バッファ310及び符号化器コントローラ805の入力は、入力ピクチャ301を受信するために、符号化器300の入力として利用可能である。更に、付加拡張情報(SEI)挿入器330の入力は、メタデータを受信するために、符号化器300の入力として利用可能である。出力バッファ335の出力は、ビットストリームを出力するために、符号化器300の出力として利用可能である。
図4を参照すれば、MPEG−4 AVC標準によってビデオ復号化を行うことができるビデオ復号化器は全体を参照符号400で示す。
ビデオ復号化器400は、エントロピ復号化器445の第1の入力と信号通信で接続された出力を有する入力バッファ410を含む。エントロピ復号化器445の第1の出力は、逆変換器及び逆量子化器450の第1の入力と信号通信で接続される。逆変換器及び逆量子化器450の出力は合成器425の第2の非反転入力と信号通信で接続される。合成器425の出力は、デブロッキング・フィルタ465の第2の入力、及びイントラ予測モジュール460の第1の入力と信号通信で接続される。デブロッキング・フィルタ465の第2の出力は、参照ピクチャ・バッファ480の第1の入力と信号通信で接続される。参照ピクチャ・バッファ480の出力は、動き補償器470の第2の入力と信号通信で接続される。
エントロピ復号化器445の第2の出力は、動き補償器470の第3の入力、及びデブロッキング・フィルタ465の第1の入力と信号通信で接続される。エントロピ復号化器445の第3の出力は復号化器コントローラ405の入力と信号通信で接続される。復号化器コントローラ405の第1の出力はエントロピ復号化器445の第2の入力と信号通信で接続される。復号化器コントローラ405の第2の出力は、逆変換器及び逆量子化器450の第2の入力と信号通信で接続される。復号化器コントローラ405の第3の出力はデブロッキング・フィルタ465の第3の入力と信号通信で接続される。復号化器コントローラ405の第4の出力は、イントラ予測モジュール460の第2の入力、動き補償器470の第1の入力、及び参照ピクチャ・バッファ480と信号通信で接続される。
動き補償器470の出力は、スイッチ497の第1の入力と信号通信で接続される。イントラ予測モジュール460の出力は、スイッチ497の第2の入力と信号通信で接続される。スイッチ497の出力は、合成器425の第1の非反転入力と信号通信で接続される。
入力バッファ410の入力は、入力ビットストリームを受け取るために、復号化器400の入力として利用可能である。デブロッキング・フィルタ465の第1の出力は、出力ピクチャを出力するために、復号化器400の出力として利用可能である。
従来技術の前述並びに他の弊害及び欠点が、多格子スパース性ベースのフィルタリングに基づいたインループ・アーチファクト解除フィルタリングのための方法及び装置に関する本願の原理によって対処される。
本願の原理の局面によれば、装置が提供される。装置は、ピクチャのピクチャ・データを符号化する符号化器を含む。符号化器は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するようピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタを含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。
本願の原理の別の局面によれば、方法が提供される。方法は、ピクチャのピクチャ・データを符号化する工程を含む。符号化する工程は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するようピクチャ・データをインループ・アーチファクト解除フィルタリングする工程を含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。
本願の原理の更に別の局面によれば、装置が提供される。装置は、ピクチャのピクチャ・データを復号化する復号化器を含む。復号化器は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するようピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタを含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。
本願の原理の別の局面によれば、方法が提供される。方法は、ピクチャのピクチャ・データを復号化する工程を含む。復号化する工程は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するよう復号化ピクチャ・データをインループ・アーチファクト解除フィルタリングする工程を含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。
本発明の前述並びに他の局面、構成及び効果は、添付図面とともに読まれる例示的な実施例の以下の詳細な説明から明らかになるであろう。
本願の原理は、例示的な図により、更に詳細に理解することができる。
従来技術による、ピクチャの位置適応的スパース性ベースのフィルタリングのための装置を示すブロック図である。 従来技術による、ピクチャの位置適応的スパース性ベースのフィルタリングの方法のフロー図である。 MPEG−4AVC標準により、ビデオ符号化を行うことができるビデオ符号化器を示すブロック図である。 MPEG−4 AVC標準により、ビデオ復号化を行うことができるビデオ復号化器を示すブロック図である。 本願の原理の実施例による、本願の原理に使用されるために拡張された、MPEG−4AVC標準によるビデオ符号化を行うことができるビデオ符号化器を示すブロック図である。 本願の原理の実施例による、本願の原理に使用するために拡張された、MPEG−4AVC標準により、ビデオ復号化を行うことができるビデオ復号化器を示すブロック図である。 本願の原理の実施例による、多格子信号変換を備えた、例示的なピクチャの位置適応的スパース性ベースのフィルタを示す概要レベルのブロック図である。 本願の原理の実施例による、多格子信号変換を備えた、例示的なピクチャの位置適応的スパース性ベースのフィルタを示す概要レベルのブロック図である。 本願の原理の実施例による、多格子信号変換を備えた、ピクチャの別の例示的な位置適応的スパース性ベースのフィルタを示す概要レベルのブロック図である。 本願の原理の実施例により、本願の原理を施すことができる、離散コサイン変換(DCT)の基底関数、及び8×8のサイズのDCTに含まれるその形状の図である。 本願の原理の実施例による、本願の原理を施すことができる、対応する格子サンプリング行列による格子サンプリングの例を示す図である。 本願の原理の実施例による、本願の原理を施すことができる、対応する格子サンプリング行列による格子サンプリングの例を示す図である。 本願の原理の実施例による、多格子信号変換を備えた、ピクチャの例示的な位置適応的スパース性ベースのフィルタリングの例示的な方法を示すフロー図である。 本願の原理の実施例により、本願の原理を施すことができる4×4のDCT変換の16個の考えられる平行移動のうちの4つのうちの個別の1つの図である。 本願の原理の実施例により、本願の原理を施すことができる4×4のDCT変換の16個の考えられる平行移動のうちの4つのうちの個別の1つの図である。 本願の原理の実施例により、本願の原理を施すことができる4×4のDCT変換の16個の考えられる平行移動のうちの4つのうちの個別の1つの図である。 本願の原理の実施例により、本願の原理を施すことができる4×4のDCT変換の16個の考えられる平行移動のうちの4つのうちの個別の1つの図である。 本願の原理の実施例による、多格子スパース性ベースのフィルタリングに基づいた例示的なインループ・アーチファクト解除フィルタを示す図である。
本願の原理は、多格子スパース性ベースのフィルタリングに基づいた、インループ・アーチファクト解除フィルタリングのための方法及び装置に関する。
本明細書及び特許請求の範囲は、本願の原理を示す。よって、当業者は、本明細書及び特許請求の範囲に明示的に説明するか、又は示していないが、本願の原理を実施し、その趣旨及び範囲の範囲内に含まれる種々の構成を考え出すことができるであろう。
本明細書及び特許請求の範囲記載の例及び条件付文言は全て、本願の原理、及び当該技術分野を発展させるために本願の発明者が貢献する概念の、読者の理解を支援するための教示の目的を意図しており、前述の、特記した例及び条件への限定なしであると解するものとする。
更に、本願の原理、局面、及び実施例、並びにそれらの具体例を記載した、本明細書及び特許請求の範囲の記載は全て、その構造的均等物及び機能的均等物を包含することを意図している。更に、前述の均等物は、現在知られている均等物、及び将来に開発される均等物(すなわち、構造にかかわらず、同じ機能を行う、開発された何れかの構成要素)をともに含むことが意図されている。
よって、例えば、本明細書及び特許請求の範囲に提示されたブロック図が、本願の原理を実施する例証的な回路の概念図を表すことは当業者によって理解されるであろう。同様に、フローチャート、流れ図、状態遷移図、擬似コード等は何れも、コンピュータ読み取り可能な媒体において実質的に表し、コンピュータ又はプロセッサにより、前述のコンピュータ又はプロセッサが明記されているかにかかわらず、実行し得る種々の処理を表す。
図に示す種々の構成要素の機能は、専用ハードウェア、及び適切なソフトウェアに関連してソフトウェアを実行することができるハードウェアの使用によって提供することができる。プロセッサによって提供される場合、機能は、単一の専用プロセッサ、単一の共有プロセッサ、又は複数の個々のプロセッサ(一部は供給することができる)によって提供することができる。更に、「プロセッサ」又は「コントローラ」の語を明示的に使用していることは、ソフトウェアを実行することができるハードウェアを専ら表すものと解するべきでなく、暗黙的には、限定列挙でないが、ディジタル信号プロセッサ(「DSP」)ハードウェア、ソフトウェアを記憶するための読み取り専用メモリ(「ROM」)、ランダム・アクセス・メモリ(「RAM」)及び不揮発性記憶装置を含み得る。
他のハードウェア(汎用及び/又はカスタム)も含まれ得る。同様に、図に示すスイッチは何れも概念のみである。前述の機能は、プログラム・ロジックの動作によるか、専用ロジックによるか、プログラム制御及び専用ロジックによるか、又は手作業によって行うことができ、特定の手法は、前後関係からより具体的に分かるように実現者によって選択可能である。
本願の特許請求の範囲では、特定の機能を行う手段として表される構成要素は何れも、その機能を行う何れの手段(例えば、a)その機能を行う回路構成要素の組合せや、b)機能を行うためにそのソフトウェアを実行する適切な回路と組み合わせた、ファームウェア、マイクロコード等を含む、何れかの形態のソフトウェア)も包含することが意図される。前述の特許請求の範囲で規定された本願の原理は、記載された種々の手段によって提供される機能が、請求項が要求するやり方で組合せられ、集約されるということに存在する。よって、前述の機能を提供することが可能な手段は何れも、本願の明細書及び特許請求の範囲記載のものと均等であるとみなされる。
本願明細書における、本願の原理の「one embodiment」又は「an embodiment」への言及は、本願の実施例に関して説明した特定の構成、構造又は特性等が本願の原理の少なくとも一実施例に含まれていることを意味している。よって、本明細書全体の種々の箇所に記載された「in one embodiment」又は「in an embodiment」の句は、必ずしも、同じ実施例を全て表している訳でない。
「及び/又は」の語を使用していること、例えば、「A及び/又はB」の場合は、最初に挙げられた選択肢(A)の選択、第2に挙げられた選択肢(B)の選択、又は両方の選択肢(A及びB)の選択を包含することが意図されている。更なる例として、「A、B、及び/又はC」の場合、前述の句は、第1に記載されたオプション(A)の選択、第2に記載されたオプション(B)の選択、第3に記載されたオプション(C)の選択、第1及び第2に記載されたオプション(A及びB)の選択、第1及び第3に記載されたオプション(A及びC)の選択、第2及び第3に記載されたオプション(B及びC)の選択、又は、3つのオプション(A及びB及びC)全ての選択を包含することが意図されている。当該技術分野及び関連技術分野において通常の知識を有する者が容易に分かるように、このことは、挙げられたいくつもの項目について拡張することができる。
本明細書及び特許請求の範囲では、「ピクチャ」の語は、静止ビデオ及び動画ビデオに関する画像及び/又はピクチャを含む画像及び/又はピクチャに関する。
更に、本明細書及び特許請求の範囲記載の「スパース性」という語は、変換領域において信号が有する非ゼロ係数が少ない場合を表す。例として、5つの非ゼロ係数を有する変換表現を備えた信号は、同じ変換フレームワークを使用した、10個の非ゼロ係数を有する別の信号よりもスパース性が高い表現を有する。
更に、本明細書及び特許請求の範囲記載の、ピクチャのサブサンプリングに関して使用される「格子」又は「格子ベースの」の語は、空間的に連続したサンプル及び/又は連続していないサンプルの特定の構造化パターンによって選択される。例では、前述のパターンは、矩形パターンなどの幾何パターンであり得る。
更に、本明細書及び特許請求の範囲記載の「局所」の語は、画素位置レベルに対する関心の項目(限定列挙でないが、平均振幅の尺度、平均雑音エネルギ、又は重みの尺度の微分を含む)、及び/又は、ピクチャ内の画素、若しくは画素の局所化された近傍全体に対応する関心の項目の関係を表す。
更に、本明細書及び特許請求の範囲記載の「大局」の語は、ピクチャ・レベルに対する関心の項目(限定列挙でないが、平均振幅の尺度、平均雑音エネルギ、又は重みの尺度の微分を含む)、及び/又は、ピクチャ又は系列の画素全体に対応する関心の項目の関係を表す。
本明細書及び特許請求の範囲では、「高位構文」は、階層的にマクロブロック層の上の、ビットストリーム内に存在している構文を表す。例えば、本明細書及び特許請求の範囲記載の高位構文は、スライス・ヘッダ・レベル、付加拡張情報(SEI)レベル、ピクチャ・パラメータ・セット(PPS)レベル、シーケンス・パラメータ・セット(SPS)レベル、及びネットワーク抽象化層(NAL)ユニット・ヘッダ・レベルにおける構文を表し得るが、それらに限定されない。
更に、本明細書及び特許請求の範囲記載の「ブロック・レベル構文」及び「ブロック・レベル構文要素」は同義に、ビデオ符号化手法におけるブロック又はブロック区分として構造化された考えられる符号化単位の何れかにおいて階層的に存在するビットストリームに存在する構文を表す。例えば、本明細書及び特許請求の範囲記載のブロック・レベル構文は、限定列挙でないが、マクロブロック・レベル、16×8の区分レベル、8×16の区分レベル、8×8のサブブロック・レベル、及び前述の何れかの大まかな区分における構文を表し得る。更に、本明細書及び特許請求の範囲記載のブロック・レベル構文は、より小さなブロックの和集合(例えば、マクロブロックの和集合)から生じるブロックも表し得る。
図5を参照すれば、本願の原理に使用するために拡張された、MPEG−4 AVC標準によってビデオ符号化を行うことができるビデオ符号化器は全体を参照符号500で示す。
ビデオ符号化器500は、合成器585の非反転入力と信号通信する出力を有するフレーム配列バッファ510を含む。合成器585の出力は変換器及び量子化器525の第1の入力と信号通信で接続される。変換器及び量子化器525の出力は、エントロピ符号化器545の第1の入力、並びに、逆変換器及び逆量子化器550の第1の入力と信号通信で接続される。エントロピ符号化器545の出力は、合成器590の第1の非反転入力と信号通信で接続される。合成器590の出力は、出力バッファ535の第1の入力と信号通信で接続される。
(アーチファクト解除フィルタ565を制御するための)拡張を備えた符号化器コントローラ505の第1の出力は、フレーム配列バッファ510の第2の入力、逆変換器及び逆量子化器550の第2の入力、ピクチャタイプ決定モジュール515の入力、マクロブロックタイプ(MBタイプ)決定モジュール520の入力、イントラ予測モジュール560の第2の入力、アーチファクト解除フィルタ565の第2の入力、動き補償器570の第1の入力、動き推定器575の第1の入力、及び参照ピクチャ・バッファ580の第2の入力と信号通信で接続される。
(アーチファクト解除フィルタ565を制御するための)拡張を備えた符号化器コントローラ505の第2の出力は、付加拡張情報(SEI)挿入器530の第1の入力、変換器及び量子化器525の第2の入力、エントロピ符号化器545の第2の入力、出力バッファ535の第2の入力、並びに、シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器540の入力と信号通信で接続される。
ピクチャタイプ決定モジュール515の第1の出力は、フレーム配列バッファ510の第3の入力と信号通信で接続される。ピクチャタイプ決定モジュール515の第2の出力は、マクロブロックタイプ決定モジュール520の第2の入力と信号通信で接続される。
シーケンス・パラメータ・セット(SPS)及びピクチャ・パラメータ・セット(PPS)挿入器540の出力は、合成器590の第3の非反転入力と信号通信で接続される。
逆量子化器及び逆変換器550の出力は、合成器527の第1の非反転入力と信号通信で接続される。合成器527の出力は、イントラ予測モジュール560の第1の入力及びアーチファクト解除フィルタ555の第1の入力と信号通信で接続される。アーチファクト解除フィルタ565の出力は、参照ピクチャ・バッファ580の第1の入力と信号通信で接続される。参照ピクチャ・バッファ580の出力は、動き推定器575の第2の入力と信号通信で接続される。動き推定器575の第1の出力は、動き補償器570の第2の入力と信号通信で接続される。動き推定器575の第2の出力は、エントロピ符号化器545の第3の入力と信号通信で接続される。
動き補償器570の出力は、スイッチ597の第1の入力と信号通信で接続される。イントラ予測モジュール560の出力は、スイッチ597の第2の入力と信号通信で接続される。マクロブロックタイプ決定モジュール520の出力は、スイッチ597の第3の入力と信号通信で接続される。スイッチ597の出力は、合成器527の第2の非反転入力と信号通信で接続される。
フレーム配列バッファ510、及び(ア―チファクト解除フィルタ565を制御するための)拡張を備えた符号化器コントローラ505の入力は、入力ピクチャを受け取るために、符号化器500の入力として利用可能である。更に、付加拡張情報(SEI)挿入器530の入力は、メタデータを受け取るために、符号化器500の入力として利用可能である。出力バッファ535の出力は、ビットストリームを出力するために、符号化器500の出力として利用可能である。
図6を参照すれば、本願の原理に使用するために拡張された、MPEG−4 AVC標準によってビデオ復号化を行うことができるビデオ復号化器は全体を参照符号600で示す。
ビデオ復号化器600は、エントロピ復号化器645の第1の入力と信号通信で接続された出力を有する入力バッファ610を含む。エントロピ復号化器645の第1の出力は、逆変換器及び逆量子化器650の第1の入力と信号通信で接続される。逆変換器及び逆量子化器650の出力は、合成器625の第2の非反転入力と信号通信で接続される。合成器625の出力は、アーチファクト解除フィルタ665の第2の入力及びイントラ予測モジュール660の第1の入力と信号通信で接続される。アーチファクト解除フィルタ665の第2の出力は、参照ピクチャ・バッファ680の第1の入力と信号通信で接続される。参照ピクチャ・バッファ680の出力は、動き補償器670の第2の入力と信号通信で接続される。
エントロピ復号化器645の第2の出力は、動き補償器670の第3の入力及びアーチファクト解除フィルタ665の第1の入力と信号通信で接続される。エントロピ復号化器645の第3の出力は、(アーチファクト解除フィルタ665を制御するための)拡張を備えた復号化器コントローラ605の入力と信号通信で接続される。(アーチファクト解除フィルタ665を制御するための)拡張を備えた復号化器コントローラ605の第1の出力はエントロピ復号化器645の第2の入力と信号通信で接続される。(アーチファクト解除フィルタ665を制御するための)拡張を備えた復号化器コントローラ605の第2の出力は、逆変換器及び逆量子化器650の第2の入力と信号通信で接続される。(アーチファクト解除フィルタ665を制御するための)拡張を備えた復号化器コントローラ605の第3の出力は、アーチファクト解除フィルタ665の第3の入力と信号通信で接続される。(アーチファクト解除フィルタ665を制御するための)拡張を備えた復号化器コントローラ605の第4の出力は、イントラ予測モジュール660の第2の入力、動き補償器670の第1の入力、及び参照ピクチャ・バッファ680の第2の入力と信号通信で接続される。
動き補償器670の出力はスイッチ697の第1の入力と信号通信で接続される。イントラ予測モジュール660の出力はスイッチ697の第2の入力と信号通信で接続される。スイッチ697の出力は、合成器625の第1の非反転入力と信号通信で接続される。
入力バッファ610の入力は、入力ビットストリームを受け取るために、復号化器600の入力として利用可能である。デブロッキング・フィルタ665の第1の出力は、出力ピクチャを出力するために、復号化器600の出力として利用可能である。
図7に移れば、多格子信号変換を備えた、ピクチャの例示的な位置適応的スパース性ベースのフィルタの全体を参照符号700で示す。
ダウンサンプル及びサンプル配置モジュール702は、変換モジュール(組Bからの変換行列1を有する)712の入力、変換モジュール(組Bからの変換行列2を有する)714の入力、及び変換モジュール(組Bからの変換行列Nを有する)716の入力と信号通信する出力を有する。
ダウンサンプル及びサンプル再配置モジュール704は、変換モジュール(組Bからの変換行列1を有する)718の入力、変換モジュール(組Bからの変換行列2を有する)720の入力、及び変換モジュール(組Bからの変換行列Nを有する)722の入力と信号通信で接続される。
変換モジュール(組Bからの変換行列1を有する)712の出力は、雑音除去係数モジュール730の入力と信号通信で接続される。変換モジュール(組Bからの変換行列2を有する)714の出力は、雑音除去係数モジュール732の入力と信号通信で接続される。変換モジュール(組Bからの変換行列Nを有する)716の出力は、雑音除去係数モジュール734の入力と信号通信で接続される。
変換モジュール(組Bからの変換行列1を有する)718の出力は、雑音除去係数モジュール736の入力と信号通信で接続される。変換モジュール(組Bからの変換行列2を有する)720の出力は、雑音除去係数モジュール738の入力と信号通信で接続される。変換モジュール(組Bからの変換行列Nを有する)722の出力は、雑音除去係数モジュール740の入力と信号通信で接続される。
変換モジュール(組Aからの変換行列1を有する)706の出力は、雑音除去係数モジュール724の入力と信号通信で接続される。変換モジュール(組Aからの変換行列2を有する)708の出力は、雑音除去係数モジュール726の入力と信号通信で接続される。変換モジュール(組Aからの変換行列Mを有する)710の出力は、雑音除去係数モジュール728の入力と信号通信で接続される。
雑音除去係数モジュール724の出力、雑音除去係数モジュール726の出力、及び雑音除去係数モジュール728の出力はそれぞれ、逆変換モジュール(組Aからの逆変換行列1を有する)742の入力、逆変換モジュール(組Aからの逆変換行列2を有する)744の入力、逆変換モジュール(組Aからの逆変換行列Mを有する)746の入力、及び組合せ重み計算モジュール760の入力と信号通信で接続される。
雑音除去係数モジュール730の出力、雑音除去係数モジュール732の出力、及び雑音除去係数モジュール734の出力はそれぞれ、逆変換モジュール(組Bからの逆変換行列1を有する)748の入力、逆変換モジュール(組Bからの逆変換行列2を有する)750の入力、及び逆変換モジュール(組Bからの逆変換行列Nを有する)752の入力、及び組合せ重み係数計算モジュール762の入力と信号通信で接続される。
雑音除去係数モジュール736の出力、雑音除去係数モジュール738の出力、及び雑音除去係数モジュール740の出力はそれぞれ、逆変換モジュール(組Bからの逆変換行列1を有する)754の入力、逆変換モジュール(組Bからの逆変換行列2を有する)756の入力、逆変換モジュール(組Bからの逆変換行列Nを有する)758の入力、及び組合せ重み係数計算モジュール764の入力と信号通信で接続される。
逆変換モジュール(組Aからの逆変換行列1を有する)742の出力は合成器モジュール776の第1の入力と信号通信で接続される。逆変換モジュール(組Aからの逆変換行列2を有する)744の出力は合成器モジュール776の第2の入力と信号通信で接続される。逆変換モジュール(組Aからの逆変換行列Mを有する)746の出力は合成器モジュール776の第3の入力と信号通信で接続される。
逆変換モジュール(組Bからの逆変換行列1を有する)748の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール768の第1の入力と信号通信で接続される。逆変換モジュール(組Bからの逆変換行列2を有する)750の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール770の第1の入力と信号通信で接続される。逆変換モジュール(組Bからの逆変換行列Nを有する)752の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール772の第1の入力と信号通信で接続される。
逆変換モジュール(組Bからの逆変換行列1を有する)754の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール768の第2の入力と信号通信で接続される。逆変換モジュール(組Bからの逆変換行列2を有する)756の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール770の第2の入力と信号通信で接続される。逆変換モジュール(組Bからの逆変換行列Nを有する)758の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール772の第2の入力と信号通信で接続される。
組合せ重み計算モジュール760の出力は、汎用組合せ重み計算モジュール774の第1の入力と信号通信で接続される。組合せ重み計算モジュール762の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール766の第1の入力と信号通信で接続される。組合せ重み計算モジュール764の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール766の第2の入力と信号通信で接続される。
アップサンプル、サンプル再配置及びマージ・コセット・モジュール766の出力は、汎用組合せ重み計算モジュール774の第2の入力と信号通信で接続される。汎用組合せ重み計算モジュール774の出力は、合成モジュール776の第4の入力と信号通信で接続される。アップサンプル、サンプル再配置及びマージ・コセット・モジュール768の出力は合成器モジュール776の第5の入力と信号通信で接続される。アップサンプル、サンプル再配置及びマージ・コセット・モジュール770の出力は合成器モジュール776の第6の入力と信号通信で接続される。アップサンプル、サンプル再配置及びマージ・コセット・モジュール772の出力は合成器モジュール776の第7の入力と信号通信で接続される。
変換モジュール(組Aからの変換行列1を有する)706の入力、変換モジュール(組Aからの変換行列2を有する)708の入力、変換モジュール(組Aからの変換行列Mを有する)710の入力、ダウンサンプル及びサンプル配置モジュール702の入力、並びに、ダウンサンプル及びサンプル配置モジュール704の入力は、入力画像を受け取るために、フィルタ700の入力として利用可能である。合成器モジュール776の出力は、出力ピクチャを供給するために、フィルタ700の出力として利用可能である。
よって、フィルタ700は、入力データのダウンサンプリングされていない処理に対応する処理分岐、及び入力データの格子ベースのダウンサンプリングされた処理に対応する処理分岐をもたらす。フィルタ700は、並列に処理するか、又は処理しないことがあり得る一連の処理分岐をもたらす。更に、別々のいくつかの処理が、フィルタ700の別々の構成要素それぞれによって行われるものとして説明しているが、本明細書及び特許請求の範囲記載の本願の原理の教示があれば、当業者は、前述の処理の2つ以上を組合せ、単一の構成要素(例えば、データの非並列処理の再使用を可能にするための、2つ以上の処理分岐に共通の単一の構成要素)によって行うことができ、本願の原理を維持しながら、他の修正を施すことができる。例えば、一実施例では、合成器モジュール776は、本願の原理の趣旨を維持しながら、フィルタ700外部で実現することができる。
更に、図7に示すように、別々の変換及びサブサンプリングによって処理することによって得られる別々のフィルタリングされた画像を混合する(又は融合させる)のための重み及びその用途の計算は、(本願の実施例に示すように)順次の計算工程によって行うことができ、又は、サブサンプリング格子及び/又は変換それぞれにおける画素それぞれを再構成するために使用される係数の量を直接考慮に入れることにより、最後の最後に単一の工程で行うことができる。
本明細書及び特許請求の範囲記載の本願の原理の教示があれば、当業者は、本願の原理の趣旨を維持しながら、フィルタ700の前述及び他の変形(並びに以下に記載するフィルタ800及び1300)に想到するであろう。更に、当業者は、場合によっては別々の2つの組の冗長性変換A及びBを使用するフィルタ700、800、1300は、同じ冗長性変換の組であってもなくてもよい変換A及びBの組を最終的に有し得る。同様に、MはNに等しくても等しくなくてもよい。
図8に移れば、多格子信号変換を備えた、ピクチャの別の例示的な位置適応的スパース性ベースのフィルタの全体を参照符号800で示す。図8のフィルタ800では、変換の冗長な組が単一のブロックにパッキングされる。
ダウンサンプル及びサンプル再配置モジュール802の出力は、順変換モジュール(変換Bの冗長な組を有する)808の入力と信号通信で接続される。ダウンサンプル及びサンプル再配置モジュール804の出力は、順変換モジュール(変換Bの冗長な組を有する)810の入力と信号通信で接続される。
順変換モジュール(変換Aの冗長な組を有する)806の出力は雑音除去係数モジュール812と信号通信で接続される。順変換モジュール(変換Bの冗長な組を有する)808の出力は雑音除去係数モジュール814と信号通信で接続される。順変換モジュール(変換Bの冗長な組を有する)510の出力は雑音除去係数モジュール816と信号通信で接続される。
雑音除去係数モジュール812の出力は、各画素モジュール826に影響を及ぼす非ゼロ係数の数の計算の入力、及び逆変換モジュール(変換Aの冗長な組)818の入力と信号通信で接続される。雑音除去係数モジュール814の出力は、各画素モジュール830に影響を及ぼす非ゼロ係数の数の計算の入力、及び逆変換モジュール(変換Bの冗長な組)820の入力と信号通信で接続される。雑音除去係数モジュール816の出力は、各画素モジュール832に影響を及ぼす非ゼロ係数の数の計算の入力、及び逆変換モジュール(変換Bの冗長な組)822の入力と信号通信で接続される。
逆変換モジュール(変換Aの冗長な組を有する)818の出力は、合成モジュール836の第1の入力と信号通信で接続される。逆変換モジュール(変換Bの冗長な組を有する)820の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール824の第1の入力と信号通信で接続される。逆変換モジュール(変換Bの冗長な組を有する)822の出力は、アップサンプル、サンプル配置及びマージ・コセット・モジュール824の第2の入力と信号通信で接続される。
変換モジュール830毎の各画素に影響を及ぼす非ゼロ係数の数の計算の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール828の第1の入力と信号通信で接続される。変換モジュール832毎の各画素に影響を及ぼす非ゼロ係数の数の計算の出力は、アップサンプル、サンプル再配置及びマージ・コセット・モジュール828の第2の入力と信号通信で接続される。
アップサンプル、サンプル再配置、及びマージ・コセット・モジュール828の出力は、汎用組合せ重み計算モジュール834の第1の入力と信号通信で接続される。各画素826に影響を及ぼす非ゼロ係数の数の計算の出力は、汎用組合せ重み計算モジュール834の第2の入力と信号通信で接続される。汎用組合せ重み計算モジュール834の出力は、合成モジュール836の第2の入力と信号通信で接続される。
アップサンプル、サンプル再配置及びマージ・コセット・モジュール824の出力は、合成モジュール836の第3の入力と信号通信で接続される。
順変換モジュール(変換Aの冗長な組を有する)806の入力、ダウンサンプル及びサンプル再配置モジュール802の入力、並びに、ダウンサンプル及びサンプル再配置モジュール804の入力はそれぞれ、入力画像を受け取るために、フィルタ800の入力として利用可能である。合成モジュール836の出力は、出力画像を供給するために、フィルタの出力として利用可能である。
図8のフィルタ800は、図7のフィルタ700に対し、単純にし、明瞭にするために、ピクチャの冗長な表現への、関係する別々の変換を単一のボックスにパッキングする、アルゴリズムの非常にコンパクトな実現形態を提供する。変換、雑音除去、及び/又は逆変換の処理は、冗長な変換の組に含まれる変換毎に並列に行うことができてもできなくてもよい。
組合せ重みの算出に先行してピクチャ・データをフィルタするための、図5乃至図7に示す種々の処理分岐は、入力ピクチャの別々のバージョンを生成するという点でバージョン生成器とみなし得る。
上述の通り、本願の原理は、多格子スパース性ベースのフィルタリングに基づいた、インループ・アーチファクト解除フィルタリングのための方法及び装置に関する。
本願の原理の実施例によれば、MPEG−4AVC標準における量子化工程によってもたらされる歪みを削減する高性能非線形フィルタが提案されている。歪みが、視覚的な尺度及び客観的な尺度において削減される。本願提案のアーチファクト削減フィルタは、ブロッキング・アーチファクトに加え、他のタイプのアーチファクト(限定列挙でないが、リンギング、エッジ上の幾何的な歪み、テクスチャの破壊等を含む)を削減する。
一実施例では、アーチファクトの前述の削減は、フィルタリングする対象のピクチャの別々の副格子サンプリングに対するいくつかのフィルタリング工程の重み付けされた組合せに基づいて復号化ビデオ・ピクチャをアーチファクト解除する高性能非線形インループ・フィルタを使用して行われる。1つ又は複数のフィルタリング工程が、フィルタリングする対象のピクチャの格子サンプリングのスパース性近似によって行われる。スパース性近似は、雑音、歪み及びアーチファクトからの真の信号成分のロバストな分離を可能にする。これには、特定の変換領域における重要でない信号成分の除去が関係する。ピクチャの別々のサブサンプリング格子に対してスパース性近似を行うことを可能にすることにより、広範囲の信号特性及び/又は特徴を処理し、かつ/若しくはモデリングするために変換が一般化される。すなわち、信号及びスパース性フィルタリング手法に応じて、フィルタリングの適応が行われる。特定の信号領域は、特定の変換及び/又は別の格子に対して特定の格子でより良好にフィルタリングすることができるからである。実際に、変換が施されるサブサンプリング格子に応じて、変換の分解の主方向(例えば、DCTにおける垂直方向及び水平方向)を修正することができる(例えば、5点形サンプリングにより、DCT変換の最終的な方向は、垂直方向及び水平方向の代わりに、対角線方向に修正することが可能である)。最終的な重み付けの組合せの工程は、最も適切な副格子サンプリング及び/又は変換からの最も良好にフィルタリングされたデータの適応的な選択を可能にする。
格子サブサンプリングの変換による指向性変換:
一般に、離散コサイン変換(DCT)などの変換は、基底関数又はプリミティブの和として信号を分解する。前述の基底関数又はプリミティブは、使用される変換に応じて別々の特性及び構造的特性を有する。図9に移れば、離散コサイン変換(DCT)基底関数、及び8×8のサイズのDCTにおいて含まれるその形状は全体を参照符号900で示す。基底関数900は、2つの主な構造的向き(又は主方向)を有するとみられる。概ね垂直方向を向いた関数が存在しており、概ね水平方向を向いた関数が存在しており、両方の格子縞模様の混合に似た種類の関数が存在している。前述の形状は、静止信号の効率的な表現、並びに垂直方向及び水平方向の形状の信号成分の効率的な表現に適切である。しかし、指向的特性を有する信号の部分は、前述の変換によって効率的に表されない。一般に、DCTの例のように、大半の変換基底関数は、限定された種類の指向性成分を有する。
変換の分解の方向を修正する1つのやり方は、ディジタル画像の別々のサブサンプリングにおける前述の変換を使用することができる。実際には、画素の相補的な部分集合(又はコセット)に、2Dサンプリングされた画像を分解することが可能である。前述のサンプルのコセットは、特定のサンプリング・パターンによって生成することが可能である。サブサンプリング・パターンは、指向性を有するように確立することが可能である。固定変換と組み合わせたサブサンプリング・パターンによって課される前述の向きは、一連の所望の方向に変換の分解の方向を適合させるために使用することが可能である。
画像サブサンプリングの実施例では、サンプリング格子を、一意でない生成器行列によって表すことが可能な整数格子サブサンプリングを使用することが可能である。何れの格子∧(立方体整数格子
Figure 2010529777
の副格子)も、一意でない生成器行列で表すことが可能である。
Figure 2010529777
ここで、
Figure 2010529777
である。
相補的なコセットの数は、上記行列の行列式によって表される。更に、dは、2D座標平面におけるサンプリング格子の主方向に関係付けることが可能である。図10A及び図10Bに移れば、本願の原理を施すことができる、対応する格子サンプリング行列による格子サンプリングの例の全体を参照符号1000及び1050それぞれによって示す。図10Aでは、5点形格子サンプリングを示す。5点形格子サンプリングに関する2つのコセットのうちの1つを黒色の点(埋めた点)で示す。相補的コセットは、x/y軸の方向における1−シフトによって得られる。図10Bでは、別の指向性の(、又は幾何的な)格子サンプリングを示す。考えられる4つのコセットのうちの2つを黒色の点及び白色の点で示す。矢印は、格子サンプリングの主方向を表す。当業者は、格子サンプリング上の主方向(矢印)及び格子行列の間の関係を認識することが可能である。
前述のサンプリング格子の何れかにおけるコセットは全て、ダウンサンプリングされた矩形グリッドにおいて全体的に再配置し得る(例えば、回転、圧縮させ得る)ように整合させる。このことは、格子サブサンプリングされた信号に対する、矩形グリッドに適した何れかの変換(2D DCTなど)をその後、施すことを可能にする。
格子分解、格子再配置、2D変換、及び逆演算の個別の組の組合せは、任意の向きを有する2D信号変換の実現を可能にする。
向き適応的フィルタリングのための多格子ピクチャ処理
一実施例では、ピクチャの適応的フィルタリングに、ピクチャの少なくとも2つのサンプリングを使用することが提案されている。一実施例では、DCT係数閾値化などの同じフィルタリング・ストラテジを再使用し、指向性適応的フィルタリングに一般化することが可能である。
少なくとも2つの格子サンプリング/サブサンプリングのうちの1つが、例えば、特定のピクチャの元のサンプリング・グリッド(すなわち、ピクチャの非サブサンプリング)であり得る。一実施例では、少なくとも2つのサンプリングのうちの別のものは、いわゆる「5点形」格子サブサンプリングであり得る。前述のサブサンプリングは、1つおきの画素の対角線方向に整合されたサンプリング上に配置された2つのサンプリング・コセットによって構成される。
一実施例では、少なくとも2つの格子サンプリング/サブサンプリングの組合せが、図11、図5及び図6に表すように、適応的フィルタリングについて、本発明において使用される。
図11によれば、多格子信号変換による、ピクチャの位置適応的スパース性ベースのフィルタリング全体を参照符号1100で示す。図11の方法1100は、ディジタル画像の一連の再配置された整数格子サブサンプリングに対して、変換された領域においてスパース性ベースのフィルタリングを施すことに対応する。
方法1100は、開始ブロック1105を含み、開始ブロック1105は制御を関数ブロック1110に渡す。関数ブロック1110は、副格子画像分解の考えられるファミリーの形状及び数を設定し、制御をループ限度ループ1115に渡す。ループ限度ブロック1115は、変数jを使用して、(副)格子のファミリー毎のループを行い、制御を関数ブロック1120に渡す。関数ブロック1120は、画像をダウンサンプリングし、副格子jのファミリーに応じてN個の副格子に分離し(合計量は各ファミリーjに依存する)、制御をループ限度ブロック1125に渡す。ループ限度ブロック1125は、変数k(合計量はファミリーjに依存する)を使用して、副格子毎のループを行い、制御の関数ブロック1130に渡す。関数ブロック1130は、サンプルを(例えば、配置A(j.k)からBに)再配置し、制御を関数ブロック1135に渡す。関数ブロック1135は、副格子jの特定のファミリーについて使用することが許容される変換を選択し、制御をループ限度ブロック1140に渡す。ループ限度ブロック1140は、許容される変換(副格子jの副格子ファミリーに応じて選択される)毎のループを行い、制御を関数ブロック1145に渡す。関数ブロック945は、変換行列iによる変換を行い、制御を関数ブロック1150に渡す。関数ブロック1150は、係数を雑音除去し、制御を関数ブロック1155に渡す。関数ブロック1155は、逆変換行列iによる逆変換を行い、制御をループ限度ブロック1160に渡す。ループ限度ブロック1160は、変数iの各値にわたるループを終了し、制御を関数ブロック1165に渡す。関数ブロック1165は、サンプルを(配置BからA(j,k))に再配置し、制御をループ限度ブロック1170に渡す。ループ限度ブロック1170は変数kの各値にわたるループを終了し、制御を関数ブロック1175に渡す。関数1175は、副格子をアップサンプリングし、副格子jのファミリーに応じてマージし、制御をループ限度ブロック1180に渡す。ループ限度ブロック1180は変数jの各値にわたるループを終了し、制御を関数ブロック1185に渡す。関数ブロック1185は、雑音除去係数画像の別々の逆変換バージョン(の、例えば、局所適応的加重和)を合成し、制御を終了ブロック1199に渡す。
図11を参照すれば、一実施例では、一連のフィルタリングされたピクチャが、変換された領域のフィルタリング(同様に、ピクチャの別々のサブサンプリングにおける別々の変換を使用する)を使用することによって生成される。最終フィルタリング画像は、フィルタリングされたピクチャそれぞれの局所適応的加重和として計算される。
一実施例では、ディジタル画像の何れかの再配置された整数格子サブサンプリングに施された変換の組は、2D DCTの考えられる平行移動全てによって形成される。これは、ブロック変換の場合、ピクチャのブロック・ベースの区分のための、4×4DCTの合計16個の考えられる平行移動が存在していることを示唆している。同様に、64が、8×8のDCTの考えられる平行移動の合計数となる。この例は、図12A乃至図12Dで分かる。図12A及び図12Dに移れば、画像のDCT変換のためのブロック区分の例示的な考えられる平行移動全体を、参照符号1210、1220、1230及び1240それぞれで示す。図12乃至図12Dはそれぞれ、4×4DCT変換の16個の考えられる平行移動の4つのうちの1つを示す。変換サイズよりも小さい不完全境界ブロックは、例えば、特定のパディング又は画像拡張を使用して、事実上、拡張することが可能である。ピクチャの境界上の、変換サイズよりも小さな区分は、パディング又は特定の種類のピクチャ拡張によって事実上拡張することが可能である。これは、画像ブロック全てにおける同じ変換サイズの使用を可能にする。図11は、副格子それぞれに、本願の例における前述の平行移動DCTの組が施されるということを示す。
一実施例では、フィルタリング処理は、全格子サブサンプリングの全平行移動変換の変換係数を閾値化し、選択し、かつ/又は重み付けすることにより、変換段階のコアにおいて行うことが可能である。前述の目的のために使用される閾値は、限定列挙でないが、局所信号特性、ユーザ選択、局所統計、大局統計、局所雑音、大局雑音、局所歪み、大局歪み、除去に予め指定された信号成分の統計、及び除去に予め所定された信号成分の特性のうちの1つ又は複数に依存し得る。閾値化工程後、変換され、かつ/又は平行移動された格子サブサンプリングは全て、逆変換される。相補的コセットの組は全て、元のサンプリング手法に戻され、元のピクチャの元のサンプリング・グリッドを回復するためにアップサンプリングされ、マージされる。変換が、ピクチャの元のサンプリングに直接施される特定の場合、回転、アップサンプリング、及びサンプル・マ―ジは必要でない。
アーチファクト解除されたピクチャ推定の多格子多変換の組を融合させるための重み生成:
最後に、図11によれば、違ったふうにフィルタリングされたピクチャは全て、全ての重み付けられた加算により、一ピクチャに混合する。一実施例では、これは以下のやり方で行われる。I’を、閾値化によってフィルタリングされる別々の画像それぞれとし、I’はそれぞれ、フィルタリング処理中、格子サブサンプリングを受けているか、又は受けていないことがあり得るピクチャのDCT(又はMPEG−4AVC標準の整数変換)の特定の平行移動の閾値化後の、再構成されたピクチャの何れかに対応し得る。Wを、I’におけるそのコロケートされた画素に関連付けられた重みを全画素が含む重みのピクチャとする。その場合、最終推定値I’finalは、
Figure 2010529777
として得られる。ここで、x及びyは空間座標を表す。
一実施例では、W(x,y)は、先行する式において使用された場合、全位置で、変換領域においてスパース性の局所の表現を有するI’(x,y)が、より大きな重みを有するように計算される。閾値化後の、変換のうちの、より高スパース性の変換から得られるI’(x,y)が、最低量の雑音/歪みを含むという前提からくる。一実施例では、W(x,y)行列が、全I’(x,y)について生成される(サブサンプリングされていないフィルタリング、及び格子サブサンプリング・ベースのフィルタリングから得られる)。格子サブサンプリング手順を経た、I’(x,y)に対応するW(x,y)は、フィルタリングされたサブサンプル画像(すなわち、回転、アップサンプリング及びマージの前)毎の別個のWi,coset(j)(x,y)の生成によって得られ、次いで、I’(x,y)に対応する別のWi,coset(j)(x,y)は、その相補的なサブサンプリングされた成分からI’(x,y)を再分解するために行われるように回転させられ、アップサンプリングされ、マージされる。よって、一例では、フィルタリング処理中に5点形サブサンプリングを経た、フィルタリングされた画像は全て、2つの重みサブサンプリングされた行列を有する。これらは次いで、その対応するI’(x,y)に使用する対象の1つの単一の重み付け行列に回転させ、アップサンプリングし、マージすることが可能である。
一実施例では、各Wi,coset(j)(x,y)の生成は、W(x,y)と同様に行われる。各画素には、前述の画素が含まれるブロック変換の非ゼロ係数の量から得られる重みが割り当てられる。一例では、Wi,coset(j)(x,y)(及びW(x,y))の重みは、画素それぞれを含むブロック変換内の非ゼロ係数の量と反比例するように画素毎に計算することが可能である。この手法では、W(x,y)における重みは、I’(x,y)を生成するために使用される変換と同じブロック構造を有する。
サンプリング/サブサンプリング格子の変換の組の選択
DCT及び/又は整数MPEG−4AVC標準ブロック変換が、スパース性ベースのアーチファクト解除インループ・フィルタ内で使用される一実施例では、フィルタリング工程において使用される変換は、MPEG−4AVC標準における予測工程後の残差信号を符号化するために使用される変換と厳密に相似であるか(、又は等しい)。符号化信号に挿入される量子化誤差は時には、再構成に利用可能な係数の数の削減の形式下であるので、係数の前述の削減により、第1の従来技術手法における重みの生成において行われる信号スパース性の尺度が不明確になる。これにより、量子化雑音は、重み生成に影響を及ぼし、これは、次いで、一部の場所において、最善のI’の適切な重み付けに影響を及ぼし、これにより、フィルタリング後に、一部のブロック状アーチファクトがなお目に見える。
前述の通り、スパース性ベースのフィルタリングに関する前提の1つは、真の信号が、変換及びサブサンプリング格子のうちの少なくとも1つにおけるスパース性表現/近似を有し、信号のアーチファクト成分は、変換及びサブサンプリング格子のうちの何れかにおけるスパース性表現/近似を有しないという点である。すなわち、アーチファクト信号がその部分空間から概ね排除されるか、又は影響力が低い状態で存在する一方で、基底関数の部分空間内で真の(所望の信号)をうまく近似することが可能であるということが期待される。
符号化変換ブロックとアラインされた、又はほぼアラインされた(例えば、x方向及びy方向のうちの少なくとも一方における1画素のミスアラインメント)フィルタリング変換ブロックについて、フィルタリングのために、かつ残差符号化のために同じ変換ファミリーを使用する場合、信号内にもたらされる量子化雑音及び/アーチファクトは、ほとんど、信号自体として基底関数の同じ部分空間内に収まる。その場合、雑音除去アルゴリズムにより、信号及び雑音が不明確になりやすくなり(すなわち、雑音は、信号に対する無相関均質分布(i.i.d.)でなく)、通常、それらを分離することが可能でない。予測
pred(x,y)、及び直交変換(すなわち、この場合、MPEG−4AVC整数変換)を以下のように使用した変換残差信号Ires(x,y)=Iorg(x,y)−Ipred(x,y)により、元の信号Iorg(x,y)のMPEG−4AVC標準による以下の式を検討する:
Figure 2010529777
ここで、
Figure 2010529777
は、変換の基底関数である。
量子化工程では、変換
Figure 2010529777
の係数は、限定された組の値に量子化され、係数の一部は単にゼロにされる。前述の場合、符号化信号は
Figure 2010529777
の通りである。ここで、
Figure 2010529777
は量子化演算を示し、
Figure 2010529777
は、非ゼロ係数を有する基底関数の組が、量子化が施されない場合(すなわち、
Figure 2010529777
ここで、
Figure 2010529777
は濃度の尺度を示す)よりも小さいことがあり得るということを示す。この場合、歪み雑音は
Figure 2010529777
Figure 2010529777
の通りである。
量子化による残差の非ゼロ係数の数における減少は、例えば、非ゼロ係数の数に影響を及ぼし、それは、Iorig(x,y)よりもスパース性が高い表現を有する信号につながり得る。雑音除去アルゴリウズムが施されると、符号化変換によって使用されるブロック区分とより高いアラインメントを有する、非サブサンプル格子における変換はおそらく、表す信号が係数の点でよりコンパクトであるということを見出すであろう。前述の重み生成方法によれば、「アラインされた」変換から生じるフィルタリングされたピクチャが好まれ、アーチファクトは信号内に残ってしまう。「アラインされた」、又はかなり「アラインされた」)(例えば、x方向及びy方向のうちの少なくとも一方における1画素のアラインメントを使用する)前述のフィルタリング工程は、アーチファクト信号と「真の」信号とを分離することができない。
これに基づいて、サンプリングされた格子それぞれにおいて使用される変換の組は、符号化変換と「アライン」又はかなり「アライン」されたフィルタリング変換が存在しないように適応させる。一実施例では、これは、サブサンプリングされていない格子において使用される変換に影響を及ぼす(すなわち、フィルタリングするための、歪んだピクチャへの平行移動変換の直接適用)。
一実施例では、フィルタリングの目的でDCT(及び/又はMPEG−4 AVC標準整数変換)の種々の平行移動(又は平行移動の組)を使用することを検討する。4×4変換が使用される場合、16個の考えられる変換を、使用される行列の組の一部とみなし得る。平行移動(0,0)が、残差を符号化するためのMPEG−4 AVC標準工程のブロック区分であるとした場合、例えば、ブロック軸のうちの少なくとも1つとアラインされた平行移動は除去しなければならないことがあり得る。一実施例では、DCT(及び/又はMPEG−4 AVC標準整数変換)の
平行移動
(0,0)、(0,1)、(0,2)、(0,3)、(1,0)、(2,0)及び(3,0)
である変換は、ピクチャのサブサンプリングされない格子に対する使用される変換の組から除外される。
これは、ブロック軸両方において少なくとも平行移動された変換の平行移動のみが、この例において実際に使用されるということを意味している。例えば、平行移動は、図12A乃至図12Dに示す考えられる平行移動の組から得ることができ、3つ目(図12C、左下)のみが考慮に入れられる。
一実施例では、DCT(又はMPEG−4 AVC標準整数変換)の考えられる平行移動全てが、5点形サンプリングに対する変換について考慮に入れられる。
インループ・フィルタ適応:
本明細書及び特許請求の範囲に記載された、本願において提案するアーチファクト解除アルゴリズムは、インループ・アーチファクト解除フィルタ内で使用するために組み込むことができる。本願提案のインループ・アーチファクト解除フィルタは、ハイブリッド・ビデオ符号化器/復号化器のループ内に、又は符号化器及び/若しくは復号化器の別個の実現形態内に組み込むことができる。ビデオ符号化器/復号化器は例えば、MPEG−4AVC標準ビデオ符号化器/復号化器であり得る。図5及び図6は、例示的な実施例を示す。前述の実施例では、インループ・アーチファクト解除フィルタが、デブロッキング・フィルタに代わりに、MPEG−4AVC標準符号化器及び復号化器それぞれに挿入されている(比較のために図3及び図4を参照されたい)。
図13に移れば、多格子スパース性フィルタリングに基づいた例示的なインループ・アーチファクト解除フィルタ全体を参照符号1300で示す。
フィルタ1300は、画素マスキング・モジュール1320の第1の入力と信号通信で接続された出力を有する適応的スパース性ベースのフィルタ(多格子信号変換を有する)1310を含む。閾値生成器1330の出力は、適応的スパース性ベースのフィルタ1310の第1の入力と信号通信で接続される。
適応的スパース性フィルタ1310の第2の入力及び画素マスキング・モジュール1320の第2の入力は、入力ピクチャを受信するために、フィルタ1300の入力として利用可能である。閾値生成器1330の入力、適応的スパース性ベースのフィルタ1310の第3の入力、及び画素マスキング・モジュール1320の第3の入力は、制御データを受信するために、フィルタ1300の入力として利用可能である。画素マスキング・モジュール1320の出力は、アーチファクト解除されたピクチャを出力するために、フィルタ1300の出力として利用可能である。
閾値生成器1330は、ブロック変換それぞれの閾値を適応的に(例えば、平行移動及び/又は格子サブサンプリングそれぞれにおけるブロック毎に)計算する。前述の閾値は、(例えば、MPEG−4 AVC標準における量子化パラメータ(QP)を使用した)ブロック品質パラメータ、ブロック・モード、予測データ(イントラ予測モード、動きデータ等)、変換係数、局所信号構造、及び/又は局所信号統計のうちの少なくとも1つに依存する。一実施例では、ブロック変換毎のアーチファクト解除の閾値は、MPEG―4AVC標準のデブロッキング・フィルタリング強度に近い局所フィルタリング強度パラメータ、及びQPに局所に依存させることが可能である。
画素マスキング・モジュール1320は、ブロック品質パラメータ(例えば、MPEG−4AVC標準におけるQP)、ブロック・モード、予測データ(イントラ予測モード、動きデータ等)、変換係数、局所信号構造及び/又は局所信号統計のうちの少なくとも1つの関数に依存し、出力ピクチャの画素を、フィルタリングしていない状態のままにするか否か(よって、元のフィルタリング前画素が使用されるか、又はフィルタリングされた画素が使用されるか)を判定する。これは、変換係数が送信されていない符号化モード、又はアーチファクト解除フィルタリングが必要でない符号化モードにおいて特に有用である。前述のモードの例には、MPEG−4AVC標準におけるSKIPモードがある。
閾値生成器1330及び画素マスキング・モジュール1320は共に、図5及び図6それぞれに示す符号化制御装置505及び復号化制御装置605からの情報を使用する。
図5及び図6に示すように、符号化制御装置505及び復号化制御装置605は、提案されたインループ・アーチファクト解除フィルタの制御に対応するために修正される。これは、最も効率的な動作のためにインループ・アーチファクト解除フィルタを設定し、構成し、適応させるためのブロック・レベル構文及び高位構文の考えられる要件に影響する。実際に、アーチファクト解除フィルタは、ビデオ系列を符号化するためにオン又はオフに切り換えることができる。更に、いくつかのカスタム設定が、このデフォールト設定の特定の制御を有するために望ましいことがあり得る。この目的で、いくつかの構文フィールドを、限定列挙でないが、シーケンス・パラメータ・レベル、ピクチャ・パラメータ・レベル、スライス・レベル、及び/又はブロック・レベルを含む別々のレベルで定義することができる。以下では、いくつかの例示的なブロック及び/又は高位構文レベルのフィールドが、表1乃至3に表す対応する符号化構造によって表される。
表1は、多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタの例示的なピクチャ・パラメータ・セット構文データを示す。表2は、多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタの例示的なスライス・ヘッダ構文データを示す。表3は、多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタの例示的なマクロブロック構文データを示す。
sparse_filter_control_present_flagが1に等しいことは、スパース性雑音除去フィルタの特性を制御する構文要素の組がスライス・ヘッダに存在しているということを示す。sparse_filter_control_present_flagが0に等しいことは、スパース性雑音除去フィルタの特性を制御する構文要素の組がスライス・ヘッダに存在しておらず、その推定値が実施されているということを示す
enable_selection_of_sparse_threshold、
enable_selection_of_transform_type、
enable_selection_of_adaptive_weighting_type、
enable_selection_of_set_of_subsampling_lattices及び
enable_selection_of_transform_setsは、例えば、シーケンス・パラメータ・セット・レベル及び/又はピクチャ・パラメータ・セット・レベルに配置され得る。一実施例では、前述の値は、閾値、変換タイプ、重み付けタイプ、スライス・レベルにおける格子毎の変換の組、及び/又は、サブサンプリング格子の組のデフォールト値を変更できることを可能にする。
disable_sparse_filter_flagは、スパース性雑音除去フィルタの動作をディセーブルするか否かを規定する。disable_sparse_filter_flagがスライス・ヘッダに存在していない場合、disable_sparse_filter_flagは0に等しいと推定する。
sparse_thresholdは、スパース性雑音除去に使用された閾値の値を規定する。sparse_thresholdがスライス・ヘッダに存在していない場合、スライスQPに基づいて導き出されるデフォールト値が使用される。
sparse_transform_typeは、スパース性雑音除去に使用される変換のタイプを規定する。sparse_transform_typeが0に等しいことは、4x4変換を使用するということを規定する。sparse_transform_typeが1に等しいことは、8x8変換を使用するということを規定する。
adaptive_weighting_typeは、スパース性雑音除去において使用される重み付けのタイプを規定する。例えば、adaptive_weighting_typeが0に等しいということは、スパース性重み付けが使用されるということを規定し得る。例えば、adaptive_weighting_typeが1に等しいということは、平均重み付けが使用されるということを規定し得る。
set_of_subsampling_latticesは、その変換に先行してピクチャを分解するために使用される、サブサンプリング格子の数、及びサブサンプリング格子を規定する。
enable_macroblock_threshold_adaptation_flagは、閾値をマクロブロック・レベルで補正し、修正するか否かを規定する。
transform_set_type[i]は、各格子サンプリングに使用される変換の組を、必要な場合、規定する。例えば、一実施例では、デフォールトと別の設定が必要な場合、格子サンプリングそれぞれにおけるインループ・フィルタリングに使用される変換の平行移動の組を符号化するために使用することが可能である。
sparse_threshold_deltaは、マクロブロックの(例えば、少なくとも50%の)実質的に重なるブロック変換において使用する対象の新たな閾値を規定する。新たな閾値は、GP、符号化された変換係数、及び/又はブロック符号化モードに応じて設定することができるデフォールト閾値に対する差、先行するマクロブロック閾値に対する差、及び/又はその完全値によって規定することができる。
Figure 2010529777
Figure 2010529777
Figure 2010529777
次に、本発明の多くの付随的な利点/特徴の一部について説明する。この一部は上述している。例えば、一利点/特徴は、ピクチャのピクチャ・データを符号化する符号化器を有する装置である。符号化器は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するためにピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタを含む。ピクチャ・データは、ピクチャの少なくとも1つのサブサンプリングを含む。
別の利点/特徴は、前述のインループ・アーチファクト解除フィルタを備えた符号化器を有する装置であり、ピクチャ・データは係数に変換され、インループ・アーチファクト解除フィルタは、信号スパ―ス性に基づいて変換領域における係数をフィルタリングする。
更に別の利点/特徴は、前述の信号スパース性に基づいて、変換された領域において係数をフィルタリングするインループ・アーチファクト解除フィルタを備えた符号化器を有し、係数が、変換された領域において、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め設定された信号成分の特性、ブロック符号化コード、及び係数のうちの少なくとも1つに応じた、局所適応性を有する少なくとも1つの閾値を使用して変換領域においてフィルタリングされる。
更に別の利点/特徴は、前述の信号スパース性に基づいて、変換された領域において係数をフィルタリングするインループ・アーチファクト解除フィルタを備えた符号化器を有し、係数が、変換された領域において、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め設定された信号成分の特性、ブロック符号化コード、及び係数のうちの少なくとも1つに応じて、符号化器に対して局所に選択的にイネーブルされるか又はディセーブルされる。
更に、別の利点/特徴は、前述の通り、インループ・アーチファクト解除フィルタを備えた符号化器を有する装置であり、インループ・アーチファクト除去フィルタの適用は、高位構文要素を使用して選択にイネーブルされるか、又はディセーブルされ、インループ・アーチファクト解除フィルタは、符号化器による適応、修正、及びイネーブル、及びディセーブルのうちの少なくとも1つにかけられ、適応、修正、イネーブル、及びディセーブルは、高位構文要素及びブロック・レベル構文要素の少なくとも一方を使用して、対応する復号化器に通知される。
更に、別の利点/特徴は、上述のインループ・アーチファクト解除フィルタを備えた符号化器を有する装置であり、インループ・アーチファクト解除フィルタは、バージョン生成器、重み算出器、及び合成器を含む。バージョン生成器は、ピクチャの少なくとも2つのフィルタリングされたバージョンを生成する。重み算出器は、ピクチャの少なくとも2つのフィルタリングされたバージョンそれぞれの重みを算出する。合成器は、ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けられた組合せを適応的に算出する。
本願の原理の前述並びに他の特徴及び利点は、本明細書及び特許請求の範囲記載の教示に基づいて、当業者が容易に確かめることができる。本願の原理の教示は、種々の形態のハードウェア、ソフトウェア、ファームウェア、特殊用途向プロセッサ、又はそれらの組み合わせで実現することができる。
最も好ましくは、本願の原理の教示は、ハードウェア及びソフトウェアの組合せとして実現される。更に、ソフトウェアは、プログラム記憶装置上に有形に実施されたアプリケーション・プログラムとして実現することができる。アプリケーション・プログラムは、何れかの適切なアーキテクチャを有するマシンにアップロードし、前述のマシンによって実行することができる。好ましくは、マシンは、1つ又は複数の中央処理装置(「CPU」)、ランダム・アクセス・メモリ(「RAM」)や、入出力(「I/O」)インタフェースなどのハードウェアを有するコンピュータ・プラットフォーム上に実現される。コンピュータ・プラットフォームは、オペレーティング・システム及びマイクロ命令コードも含み得る。本明細書及び特許請求の範囲記載の種々の処理及び機能は、CPUによって実行することができるアプリケーション・プログラムの一部若しくはマイクロ命令コードの一部(又はそれらの組み合わせ)であり得る。更に、種々の他の周辺装置を、更なるデータ記憶装置や、印刷装置などのコンピュータ・プラットフォームに接続することができる。
添付図面に表す構成システム部分及び方法の一部は好ましくはソフトウェアで実現されるので、システム部分(又は処理機能ブロック)間の実際の接続は、本願の原理がプログラムされるやり方によって変わり得る。本明細書及び特許請求の範囲記載の教示があれば、当業者は、本願の原理の前述及び同様な実現形態又は構成に想到することができるであろう。
例証的な実施例は、添付図面を参照して本明細書において説明してきたが、本願の原理は前述のまさにその実施例に限定されず、種々の変更及び修正を、本願の原理の範囲又は趣旨から逸脱することなく、当業者によって行うことができる。前述の変更及び修正は全て、特許請求の範囲記載の本願の原理の範囲内に含まれることが意図されている。

Claims (25)

  1. 装置であって、
    ピクチャのピクチャ・データを符号化する符号化器
    を備え、
    前記符号化器は、
    前記ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するために前記ピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタ
    を含み、前記ピクチャ・データは前記ピクチャの少なくとも1つのサブサンプリングを含む装置。
  2. 請求項1記載の装置であって、前記ピクチャ・データは係数に変換され、前記インループ・アーチファクト解除フィルタは、信号スパース性に基づいて、変換された領域において前記係数をフィルタリングする装置。
  3. 請求項2記載の装置であって、前記係数は、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された信号成分の特性、ブロック符号化モード、及び前記係数のうちの1つに応じた局所適応性を有する少なくとも1つの閾値を使用して、前記変換された領域においてフィルタリングされる装置。
  4. 請求項1記載の装置であって、前記インループ・アーチファクト解除フィルタの適用が、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された前記信号成分の特性、ブロッキング符号化モード、及び前記係数のうちの少なくとも1つに応じて前記符号化器に対して局所に選択的にイネーブルされるか、又はディセーブルされる装置。
  5. 請求項1記載の装置であって、前記インループ・アーチファクト解除フィルタの適用は、高位構文要素を使用して選択にイネーブルされるか、又はディセーブルされ、前記インループ・アーチファクト解除フィルタは、前記符号化器による適応、修正、イネーブル、及びディセーブルのうちの少なくとも1つにかけられ、前記適応、前記修正、前記イネーブル、及び前記ディセーブルは、前記高位構文要素及びブロック・レベル構文要素の少なくとも一方を使用して、対応する復号化器に通知される装置。
  6. 請求項1記載の装置であって、前記インループ・アーチファクト解除フィルタは、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンを生成するバージョン生成器と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョン毎の重みを算出する重み算出器と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを適応的に算出する合成器とを備える装置。
  7. 方法であって、
    ピクチャのピクチャ・データを符号化する工程
    を含み、
    前記符号化する工程は、
    前記ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するために前記ピクチャ・データをインループ・アーチファクト解除フィルタリングする工程を含む方法。
  8. 請求項7記載の方法であって、前記ピクチャ・データは係数に変換され、前記インループ・アーチファクト解除フィルタリングする工程は、信号スパース性に基づいて、変換された領域において前記係数をフィルタリングする方法。
  9. 請求項8記載の方法であって、前記係数は、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された信号成分の特性、ブロック符号化モード、及び前記係数のうちの1つに応じた局所適応性を有する少なくとも1つの閾値を使用して、前記変換された領域においてフィルタリングされる方法。
  10. 請求項7記載の方法であって、前記インループ・アーチファクト解除フィルタリングする工程の適用が、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された前記信号成分の特性、ブロッキング符号化モード、及び前記係数のうちの少なくとも1つに応じて前記方法を行う符号化器に対して局所に選択的にイネーブルされるか、又はディセーブルされる方法。
  11. 請求項7記載の方法であって、前記インループ・アーチファクト解除フィルタリングの適用は、高位構文要素を使用して選択にイネーブルされるか、又はディセーブルされ、前記インループ・アーチファクト解除フィルタリングする工程は、符号化器による適応、修正、及びイネーブル、及びディセーブルのうちの少なくとも1つにかけられ、前記適応、前記修正、前記イネーブル、及び前記ディセーブルは、前記高位構文要素及びブロック・レベル構文要素の少なくとも一方を使用して、対応する復号化器に通知される方法。
  12. 請求項7記載の方法であって、前記インループ・アーチファクト解除フィルタリングする工程は、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンを生成する工程と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンの前記適応的に重み付けされた組合せを適応的に算出する工程と
    を含む方法。
  13. 装置であって、
    ピクチャのピクチャ・データを復号化する復号化器を備え、
    前記復号化器は、
    前記ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するために前記ピクチャ・データをアーチファクト解除するインループ・アーチファクト解除フィルタを含み、前記ピクチャ・データは前記ピクチャの少なくとも1つのサブサンプリングを含む装置。
  14. 請求項13記載の装置であって、前記ピクチャ・データは係数に変換され、前記インループ・アーチファクト解除フィルタは、信号スパース性に基づいて、変換された領域において前記係数をフィルタリングする装置。
  15. 請求項14記載の装置であって、前記係数は、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された信号成分の特性、ブロック符号化モード、及び前記係数のうちの1つに応じた局所適応性を有する少なくとも1つの閾値を使用して、前記変換領域においてフィルタリングされる装置。
  16. 請求項13記載の装置であって、前記インループ・アーチファクト解除フィルタの適用が、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された前記信号成分の特性、ブロッキング符号化モード、及び前記係数のうちの少なくとも1つに応じて前記復号化器に対して局所に選択的にイネーブルされるか、又はディセーブルされる装置。
  17. 請求項13記載の装置であって、前記インループ・アーチファクト解除フィルタの適用は、高位構文要素を使用して選択にイネーブルされるか、又はディセーブルされ、インループ・アーチファクト解除フィルタは、符号化器による適応、修正、イネーブル、及びディセーブルのうちの少なくとも1つにかけられ、前記適応、前記修正、前記イネーブル、及び前記ディセーブルは、前記高位構文要素及びブロック・レベル構文要素の少なくとも一方を使用して、前記復号化器によって判定される装置。
  18. 請求項13記載の装置であって、前記インループ・アーチファクト解除フィルタは、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンを生成するバージョン生成器と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョン毎の重みを算出する重み算出器と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンの前記適応的に重み付けされた組合せを適応的に算出する合成器とを備える装置。
  19. 方法であって、
    ピクチャのピクチャ・データを復号化する工程
    を含み、
    前記復号化する工程は、
    前記ピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを出力するために、前記復号化されたピクチャ・データをインループ・アーチファクト解除フィルタリングする工程を含む方法。
  20. 請求項19記載の方法であって、前記ピクチャ・データは係数に変換され、前記インループ・アーチファクト解除フィルタリングする工程は、信号スパース性に基づいて、変換された領域において前記係数をフィルタリングする方法。
  21. 請求項20記載の方法であって、前記係数は、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された信号成分の特性、ブロック符号化モード、及び前記係数のうちの1つに応じた局所適応性を有する少なくとも1つの閾値を使用して、前記変換された領域においてフィルタリングされる方法。
  22. 請求項19記載の方法であって、前記インループ・アーチファクト解除フィルタリング工程が、ユーザ選択、局所信号特性、大局信号特性、局所信号統計、大局信号統計、局所歪み、大局歪み、局所雑音、大局雑音、除去に予め指定された信号成分の統計、除去に予め指定された前記信号成分の特性、ブロッキング符号化モード、及び前記係数のうちの少なくとも1つに応じて前記方法を行う復号化器に対して局所に選択的にイネーブルされるか、又はディセーブルされる方法。
  23. 請求項19記載の方法であって、前記インループ・アーチファクト解除フィルタリング工程が、高位構文要素を使用して選択にイネーブルされるか、又はディセーブルされ、前記インループ・アーチファクト解除フィルタリング工程は、符号化器による適応、修正、イネーブル、及びディセーブルのうちの少なくとも1つにかけられ、前記適応、前記修正、前記イネーブル、及び前記ディセーブルは、前記高位構文要素及びブロック・レベル構文要素の少なくとも一方を使用して前記方法を行う復号化器によって判定される方法。
  24. 請求項19記載の方法であって、前記インループ・アーチファクト解除フィルタリング工程は、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンを生成する工程と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョン毎の重みを算出する工程と、
    前記ピクチャの前記少なくとも2つのフィルタリングされたバージョンの前記適応的に重み付けされた組合せを適応的に算出する工程
    とを含む方法。
  25. ビデオ信号データを符号化させたコンピュータ読み取り可能な媒体であって、
    ピクチャのピクチャ・データをアーチファクト・フィルタリング解除することによって生成されるピクチャの少なくとも2つのフィルタリングされたバージョンの適応的に重み付けされた組合せを備えるコンピュータ読み取り可能な媒体。
JP2010511169A 2007-06-08 2008-06-03 多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタリングのための方法及び装置 Active JP5345139B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US94268607P 2007-06-08 2007-06-08
US60/942,686 2007-06-08
PCT/US2008/006971 WO2008153856A1 (en) 2007-06-08 2008-06-03 Methods and apparatus for in-loop de-artifacting filtering based on multi-lattice sparsity-based filtering

Publications (3)

Publication Number Publication Date
JP2010529777A true JP2010529777A (ja) 2010-08-26
JP2010529777A5 JP2010529777A5 (ja) 2011-07-21
JP5345139B2 JP5345139B2 (ja) 2013-11-20

Family

ID=39847062

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010511169A Active JP5345139B2 (ja) 2007-06-08 2008-06-03 多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタリングのための方法及び装置

Country Status (7)

Country Link
US (1) US20100128803A1 (ja)
EP (1) EP2160901A1 (ja)
JP (1) JP5345139B2 (ja)
KR (1) KR101554906B1 (ja)
CN (1) CN101779464B (ja)
BR (1) BRPI0812190A2 (ja)
WO (1) WO2008153856A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169054A1 (ja) * 2011-06-09 2012-12-13 株式会社東芝 動画像符号化方法、及び装置、動画像復号方法、及び装置

Families Citing this family (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7724827B2 (en) 2003-09-07 2010-05-25 Microsoft Corporation Multi-layer run level encoding and decoding
EP2229782A2 (en) * 2008-01-14 2010-09-22 Thomson Licensing Methods and apparatus for de-artifact filtering using multi-lattice sparsity-based filtering
EP2351374A1 (en) * 2008-11-25 2011-08-03 Thomson Licensing Methods and apparatus for sparsity-based de-artifact filtering for video encoding and decoding
KR101709358B1 (ko) * 2009-03-12 2017-02-22 톰슨 라이센싱 디-아티팩트 필터링을 위한 영역-기반 필터 파라미터 선택 방법들 및 장치들
KR101378749B1 (ko) * 2009-04-14 2014-03-28 톰슨 라이센싱 성김에 기반한 아티팩트 제거 필터링에서 가변 변환들에 응답하여 필터 파라미터 결정 및 선택을 위한 방법과 장치
JP5604825B2 (ja) * 2009-08-19 2014-10-15 ソニー株式会社 画像処理装置および方法
JP2011151431A (ja) 2009-12-25 2011-08-04 Sony Corp 画像処理装置および方法
EP2596635B1 (en) * 2010-07-19 2020-05-20 Dolby Laboratories Licensing Corporation Enhancement methods for sampled and multiplexed image and video data
CN102377993B (zh) * 2010-08-05 2014-09-03 富士通株式会社 帧内预测模式选择方法和系统
WO2012029181A1 (ja) * 2010-09-03 2012-03-08 株式会社 東芝 動画像符号化方法及び復号化方法、符号化装置及び復号化装置
US8787443B2 (en) * 2010-10-05 2014-07-22 Microsoft Corporation Content adaptive deblocking during video encoding and decoding
GB2484969B (en) * 2010-10-29 2013-11-20 Canon Kk Improved reference frame for video encoding and decoding
US10244239B2 (en) 2010-12-28 2019-03-26 Dolby Laboratories Licensing Corporation Parameter set for picture segmentation
US20120183078A1 (en) * 2011-01-14 2012-07-19 Samsung Electronics Co., Ltd. Filter adaptation with directional features for video/image coding
US9001883B2 (en) * 2011-02-16 2015-04-07 Mediatek Inc Method and apparatus for slice common information sharing
US9042458B2 (en) 2011-04-01 2015-05-26 Microsoft Technology Licensing, Llc Multi-threaded implementations of deblock filtering
US9942573B2 (en) * 2011-06-22 2018-04-10 Texas Instruments Incorporated Systems and methods for reducing blocking artifacts
US9313497B2 (en) * 2012-01-25 2016-04-12 Intel Corporation Systems, methods, and computer program products for transform coefficient sub-sampling
US9584805B2 (en) * 2012-06-08 2017-02-28 Qualcomm Incorporated Prediction mode information downsampling in enhanced layer coding
US20140072048A1 (en) * 2012-09-13 2014-03-13 Samsung Electronics Co., Ltd Method and apparatus for a switchable de-ringing filter for image/video coding
GB2509703B (en) * 2013-01-04 2016-09-14 Canon Kk Method and apparatus for encoding an image into a video bitstream and decoding corresponding video bitstream using enhanced inter layer residual prediction
US9451254B2 (en) 2013-07-19 2016-09-20 Qualcomm Incorporated Disabling intra prediction filtering
US9712834B2 (en) 2013-10-01 2017-07-18 Dolby Laboratories Licensing Corporation Hardware efficient sparse FIR filtering in video codec
US10516898B2 (en) 2013-10-10 2019-12-24 Intel Corporation Systems, methods, and computer program products for scalable video coding based on coefficient sampling
TWI513291B (zh) * 2013-12-12 2015-12-11 Ind Tech Res Inst 影像處理的方法、裝置及電腦可讀取媒體
KR101974261B1 (ko) * 2016-06-24 2019-04-30 한국과학기술원 Cnn 기반 인루프 필터를 포함하는 부호화 방법과 장치 및 복호화 방법과 장치
EP3646606B1 (en) * 2017-06-30 2021-07-28 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Video coding concept using prediction loop filter
AU2018371372B2 (en) * 2017-11-24 2022-11-24 Sony Corporation Image processing device and method
KR102520626B1 (ko) * 2018-01-22 2023-04-11 삼성전자주식회사 아티팩트 감소 필터를 이용한 영상 부호화 방법 및 그 장치, 영상 복호화 방법 및 그 장치
CN117857806A (zh) * 2018-12-07 2024-04-09 华为技术有限公司 一种编码器、解码器及去块滤波器的边界强度的对应推导方法
WO2020131494A1 (en) 2018-12-19 2020-06-25 Dolby Laboratories Licensing Corporation Image debanding using adaptive sparse filtering
CN111521396B (zh) * 2020-05-11 2021-09-24 电子科技大学 基于平移不变高密度小波包变换的轴承故障诊断方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002501691A (ja) * 1997-03-13 2002-01-15 ノキア モービル フォーンズ リミティド 適応フィルタ
JP2006101267A (ja) * 2004-09-30 2006-04-13 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2008229161A (ja) * 2007-03-22 2008-10-02 Fujifilm Corp 画像成分分離装置、方法、およびプログラム、ならびに、正常画像生成装置、方法、およびプログラム
JP2008541672A (ja) * 2005-05-20 2008-11-20 株式会社エヌ・ティ・ティ・ドコモ ビデオ符号化におけるノイズフィルタリング方法及び装置

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5325449A (en) * 1992-05-15 1994-06-28 David Sarnoff Research Center, Inc. Method for fusing images and apparatus therefor
US6075875A (en) * 1996-09-30 2000-06-13 Microsoft Corporation Segmentation of image features using hierarchical analysis of multi-valued image data and weighted averaging of segmentation results
US6137904A (en) * 1997-04-04 2000-10-24 Sarnoff Corporation Method and apparatus for assessing the visibility of differences between two signal sequences
US7010163B1 (en) * 2001-04-20 2006-03-07 Shell & Slate Software Method and apparatus for processing image data
EP1294196A3 (en) * 2001-09-04 2004-10-27 Interuniversitair Microelektronica Centrum Vzw Method and apparatus for subband encoding and decoding
US7263240B2 (en) * 2002-01-14 2007-08-28 Eastman Kodak Company Method, system, and software for improving signal quality using pyramidal decomposition
RU2005126424A (ru) * 2003-01-20 2006-01-10 Конинклейке Филипс Электроникс Н.В. (Nl) Кодирование видеосигнала
FR2852773A1 (fr) * 2003-03-20 2004-09-24 France Telecom Procedes et dispositifs de codage et de decodage d'une sequence d'images par decomposition mouvement/texture et codage par ondelettes
US7352909B2 (en) * 2003-06-02 2008-04-01 Seiko Epson Corporation Weighted overcomplete de-noising
US7916952B2 (en) * 2004-09-14 2011-03-29 Gary Demos High quality wide-range multi-layer image compression coding system
BRPI0812191A2 (pt) * 2007-06-08 2014-11-18 Thomson Licensing Método e aparelho para filtragem multitreliça com base em esparsidade
US8620979B2 (en) * 2007-12-26 2013-12-31 Zoran (France) S.A. Filter banks for enhancing signals using oversampled subband transforms

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002501691A (ja) * 1997-03-13 2002-01-15 ノキア モービル フォーンズ リミティド 適応フィルタ
JP2006101267A (ja) * 2004-09-30 2006-04-13 Sony Corp 画像処理装置および方法、記録媒体、並びにプログラム
JP2008541672A (ja) * 2005-05-20 2008-11-20 株式会社エヌ・ティ・ティ・ドコモ ビデオ符号化におけるノイズフィルタリング方法及び装置
JP2008229161A (ja) * 2007-03-22 2008-10-02 Fujifilm Corp 画像成分分離装置、方法、およびプログラム、ならびに、正常画像生成装置、方法、およびプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
高木幹雄(外1名)監修, 「新編 画像解析ハンドブック」, vol. 初版, JPN6013035186, 10 September 2004 (2004-09-10), JP, pages 1480 - 1492, ISSN: 0002590842 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2012169054A1 (ja) * 2011-06-09 2012-12-13 株式会社東芝 動画像符号化方法、及び装置、動画像復号方法、及び装置

Also Published As

Publication number Publication date
WO2008153856A1 (en) 2008-12-18
CN101779464B (zh) 2014-02-12
JP5345139B2 (ja) 2013-11-20
US20100128803A1 (en) 2010-05-27
CN101779464A (zh) 2010-07-14
BRPI0812190A2 (pt) 2014-11-18
EP2160901A1 (en) 2010-03-10
KR20100021587A (ko) 2010-02-25
KR101554906B1 (ko) 2015-09-22

Similar Documents

Publication Publication Date Title
JP5345139B2 (ja) 多格子スパース性ベースのフィルタリングに基づくインループ・アーチファクト解除フィルタリングのための方法及び装置
JP5801363B2 (ja) 符号化及び復号化のための装置及び方法並びにコンピュータプログラム
US20110069752A1 (en) Moving image encoding/decoding method and apparatus with filtering function considering edges
JP6120896B2 (ja) ビデオ符号化および復号のためのスパース性に基づくアーティファクト除去フィルタリングを行う方法および装置
JP4999340B2 (ja) 動画像符号化装置、動画像復号装置、動画像符号化方法、及び動画像復号方法
JP5312468B2 (ja) ビデオ圧縮のためのループ内忠実度の向上
JP5357898B2 (ja) 多格子スパーシティベースフィルタリングを使用するアーチファクト除去フィルタリングのための方法および装置
CN113518221B (zh) 视频编码或解码方法及相应装置
JP5529537B2 (ja) 複数経路ビデオ符号化及び復号化のための方法及び装置
KR101810263B1 (ko) 분류-기반 루프 필터에 대한 방법들 및 장치
KR101753273B1 (ko) 변환 선택을 갖는 비디오 코딩 및 디코딩을 위한 제약 변환 방법 및 장치
JP2016015752A (ja) 映像符号化及び復号化のためのdcイントラ予測モードのための方法及び装置
JP5746193B2 (ja) 映像符号化及び復号化のための効率的な適応フィルタリングの方法及び装置
JP5345138B2 (ja) 多格子スパース性ベースのフィルタリングのための方法及び装置
KR20190109373A (ko) 영상 부호화/복호화 장치 및 방법
Cheung et al. Improving MPEG-4 coding performance by jointly optimising compression and blocking effect elimination
Xiu et al. Adaptive enhancement filtering for motion compensation
Choi et al. Macroblock-level adaptive dynamic resolution conversion technique

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110601

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110601

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120807

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20121106

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20121113

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130618

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20130626

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130730

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130813

R150 Certificate of patent or registration of utility model

Ref document number: 5345139

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250