JP2005524353A - 小さいレートのアプリケーションのためにデジタル画像を処理する方法 - Google Patents

小さいレートのアプリケーションのためにデジタル画像を処理する方法 Download PDF

Info

Publication number
JP2005524353A
JP2005524353A JP2004502630A JP2004502630A JP2005524353A JP 2005524353 A JP2005524353 A JP 2005524353A JP 2004502630 A JP2004502630 A JP 2004502630A JP 2004502630 A JP2004502630 A JP 2004502630A JP 2005524353 A JP2005524353 A JP 2005524353A
Authority
JP
Japan
Prior art keywords
image
block
decoded
digital image
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2004502630A
Other languages
English (en)
Inventor
ジャング,ジョエル
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Koninklijke Philips NV
Original Assignee
Koninklijke Philips Electronics NV
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Koninklijke Philips Electronics NV filed Critical Koninklijke Philips Electronics NV
Publication of JP2005524353A publication Critical patent/JP2005524353A/ja
Withdrawn legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/527Global motion vector estimation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124Quantisation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

本発明は、画素ブロック符合化技術に従って符合化及び復号化されたデジタル画像を処理する方法であって、画素のブロック毎に動きベクトルを及び画像毎に量子化ステップを与えるために適する、方法に関する。該方法は、量子化ステップが所定の閾値より大きい場合、前記復号化画像を選択する段階と、二次グリッドを有する画素ブロックを検知する段階とを有する。前記検知段階は、復号化画像の一様なブロックを検知する副段階と、非ゼロ動きベクトルの且つ所定の振幅の閾値より小さい振幅を有する一様なブロックを選択する副段階と、動きベクトルの関数として選択された一様なブロック内に二次グリッドを定位化する副段階とを有する。そのような方法は、ブロック効果を補正し又は前記復号化画像の品質を評価する方法の性能が改善される優位性を有する。更に、前記方法は、複雑性が小さく、可搬型マルチメディア装置においてリアルタイムにその方法を用いることが可能であるようにレンダリングする。

Description

本発明は、画素ブロック符合化技術に従って符合化及び復号化されるデジタル画像を処理する方法であって、前記技術は、画素のブロック毎の動きベクトルと画素毎の量子化ステップを提供するために適切である、方法に関する。
本発明は又、そのような方法を使用する後処理装置に関する。
本発明は又、そのような後処理装置を使用する映像符号化器及び映像復号化器に関する。
本発明は更に、そのような映像復号化器から構成される可搬型装置に関する。
本発明は又、そのような方法を用いるコンピュータプログラムに関する。
最終的に、本発明は、そのようなプログラムをデンタルするように意図された信号に関する。
本発明は、特に、MPEG−4又はJVT(Joint Video Team)のような符合化技術に従って小さいレートで符合化及び復号化されるデジタル画像の処理におけるそのアプリケーションを見出す。
高まるデジタルデータを送信し且つ記憶する必要性のために、圧縮技術であって、換言すれば、デジタル画像シーケンスを符合化する技術は、広く行き渡るようになった。MPEG(Motion Picture Expert Group)規格又はITU−V VCEGにより規定されるような画像シーケンスを圧縮する最も便利な技術は、ブロックマッチングアルゴリズム及び、例えば、離散コサイン変換即ちDCT等のブロック変換に基づく動き補償を使用する。画像のシーケンスは画像の群に分割され、そのような群は、前の又は後のフレームに関して異なる方法で符合化された幾つかの予測フレームに続いて、独立して符合化される、イントラフレーム即ちIフレームを有する。ブロック変換は、大きな圧縮レートを提供する優位性を有する。対照的に、次の量子化ステップは復号化デジタル画像においてブロック効果を生じ、符合化デジタル画像の品質の劣化に繋がる。実際には、量子化は、符合化レートが小さくなるにつれて、粗くなる。従って、量子化ステップによる劣化は、符合化レートが大きいときの感知できないレベルから、符合化レートが小さいときの好ましくないレベルまでの範囲を取り得る。
この問題を解決するために、前記復号化デジタル画像を後処理する多くの技術が、前記のブロック効果を補正するために開発されてきた。デジタル画像を符合化するために使用される8x8の画素のブロックはこの画像においてグリッドを形成し、そのグリッドは一次グリッドと呼ばれる。ブロック効果はこのグリッドにおいて現れる。大部分のブロックを補正するための技術は、符合化画像における前記グリッドの位置は既知であり、画像シーケンスを通して固定されたままであるという仮定を用いる。
残念なことに、この仮定は常に正しいとは限らない。D/A及びA/D変換(例えば、テレビジョンにおける又は符合化画像のシーケンスの送信に対して)の理由で、及び、デジタル画像シーケンスのための有効な前処理アルゴリズムの使用に続いて、オリジナル画像は、幾つかの画素だけシフトされるようになり、一次グリッドのサイズは修正されることとなる。ここで、復号化器は、この主題に関するいずれの情報を有していない。そのような現象の1つの結果は、ブロック補正技術の効果は、直接、影響を受けることである。
そのような問題を解決するために、復号化されたデジタル画像の一次グリッドを検出するための技術であって、例えば、8x8、10〜11x8及び12x8の画素のブロックに基づく3つの標準的グリッドサイズを検知する方法が開発されてきており、国際公開第01/20912号パンフレットに記載されている。
本発明の目的は、ブロック符合化技術に従って、符合化され、続いて小さいレートで復号化されたデジタル画像における二次グリッドの存在を検知するための解決方法を提供することである。その解決方法は、前記グリッドの定位を提供する一方、低い複雑性を保つ。
実際には、符合化され、次に小さいレートで復号化されたデジタル画像における一次グリッドに加えて二次グリッドが現れることは稀ではない。この二次グリッドは画素のブロック毎の動き補償によっており、一次グリッドの境界の外側のブロック効果の生成の影響を受け易く、そのブロック効果は粗過ぎる量子化によっては補正されない。
二次グリッドによるブロック効果は、一般に、前記グリッドの存在を無視する従来の後処理技術において検討される。
そのような問題を解決するために、冒頭の段落において述べたような方法は、次のような段階を有することを特徴とする。
− 量子化ステップが所定の閾値より大きい場合、前記復号化画像を選択する段階
− 二次グリッドを有するが素のブロックを検出する段階であって、
− 前記ブロックが所定の強度閾値より小さい画素強度変化を有する場合、選択された符合化画像の一様なブロックを検知する副段階、
− 関連動きベクトルが非ゼロであり、所定の振幅閾値より小さい振幅を有する一様なブロックを選択する副段階、及び
− 関連動きベクトルの関数として選択された一様なブロック内に二次グリッドを定位化する副段階、
を有する段階。
本発明に従った方法は、符合化され、小さいレートで復号化されるデジタル画像に関する。以下で説明するように、その小さいレートは、二次グリッドの現象が最も表れ易い小さいレートである。
この方法の第1の有利点は、復号化画像における二次グリッドの定位を提供する一方、前記画像の品質を評価する技術又はブロック効果補正技術を用いる前の前処理のために役立ち、そのような小さいレートの技術の効果を著しく改善する可能性を提供することである。実際には、二次グリッドの定位を認識することは、例えば、フィルタを使用するフィルタリング段階を有し、前記二次グリッドによるブロック効果に前記フィルタを集中させるブロック補正技術を可能にする。ブロック効果を係数する段階を有する、品質を評価する技術の場合、二次グリッドの定位はより正確な係数、それ故、復号化画像の品質のよりよい評価を可能にする。
この方法の第2の有利点は、複雑性が小さいことである。実際には、選択する段階は、量子化ステップが所定の閾値より小さい画像の削除を可能にし、即ち、復号化され且つ十分粗い方式で復号化された画像のみが保存される。この方法は、画素ブロックを検知する段階が関与する限り、所定の振幅閾値より小さい振幅を有し、動きベクトルが非ゼロであり、一様であるブロックのみが最終的に存在するように、幾つかの候補のブロックを削除する。この複雑性が小さいことは、リアルタイムに本発明に従った方法を実行することを可能であるようにレンダリングし、それ故、携帯デジタル情報端末又は携帯電話のような可搬型装置に一体化される復号化器内でこの方法を使用することを可能にする。
本発明は又、そのような方法を使用する装置に関する。
本発明の以上の及び他の特徴については、以下で説明する実施形態を参照する非制限的例により明らかにすることで理解されるであろう。
本発明は、ブロック符合化技術に従って、符合化及び復号化される画像の群に属すデジタル画像を処理する方法に関する。本発明は、画素ブロック毎の動きベクトルと画像毎の量子化ステップとを与えるために適切ないずれの符合化技術に適用することができる。用いられる技術は、例えば、MPEG−4又はJVT(H.26LがJVTになっており、ISO/IEC MPEG及びITU−T VCEG標準化委員会による統一された標準化の作業の対象である)である。
図1は、デジタル画像のシーケンスISを処理する完全なチェーンを示している。該チェーンは、タイプMPEG−4又はH.26Lのブロック符合化方法に従って符合化された画像のシーケンスESを提供する復号化器ENCを有する。前記シーケンスESは、受信された符合化画像のシーケンスRSの形式で送信チャネルCにより復号化器DECに送信される。前記の受信されたシーケンスRSは、本発明に従った処理装置SEC.GRIDに復号化デジタル画像のシーケンスDSを供給する復号化器DECにより処理される。
前記装置は、シーケンスDSの列挙された復号化デジタル画像nにおける二次グリッドの有効な存在を検知すること、及び、例えば、視認度の範囲V及びその画像nにおける二次グリッドの定位カードLocの形式での定位を提供することが意図されている。そのような装置は、例えば、存在するブロック効果の数の関数として、前記復号化画像の品質の範囲を提供することが意図された品質評価装置QUALITにおいて、又は、例えば、前記復号化シーケンスDSにおいて存在するブロック効果を補正することが意図されたフィルタリングユニットFILTを有する後処理装置PPにおいて一体化されることが可能であり、前記数はブロック効果計数器COUNTにより評価される。前記後処理装置PPは、前記定位カードLocを有利に使用する方法に従って、後処理された復号化画像のシーケンスPPDSを最終的に提供する。品質評価装置QUALITの場合、画像に存在するブロック効果の数に基づいて、品質の範囲は提供される。
図1は、単に例を示していることに留意する必要がある。例えば、本発明に従った処理装置SEC.GRIDを有する後処理装置PPは、符号化器ENC内の符合化ループにおいて一体化されることが想定される。そのような装置の目的は、特に、復号化器に最良の有効な品質の復号化映像データストリームを送信することである。
タイプMPEG−4又はJVTの符合化スキームにおいて、デジタル入力画像のシーケンスは、図2に示すような画像の群IGに分割される。そのような画像の群は、イントラフレーム即ちIフレーム、即ち、隣接する前のフレーム及び場合によっては次のフレームに関して差分方法において符合化される、独立した方式で符合化されるフレーム、続いて予測フレームP及び場合によっては双方向フレームB、を連続的に有する。無用に説明を複雑化しないように、画像の群IGは、単に、タイプIPPPPP...であるものと、即ち双方向フレームを含まないものとみなされることとする。
図3は、動き補償とブロック周波数変換とを使用して、デジタル画像のシーケンスを符合化する方法の主な段階を示している。例えば、イントラフレームIに続く第1フレームPを検討することとする。ブロックマッチングアルゴリズムを使用する動き推定段階MEは、予測フレームPとイントラフレームIとから動きベクトルのフィールドMVFを提供する。そのようなフィールドは、フレームPにおける画素のブロック毎の動きベクトルMVを有する。符号化器ENC内の復号化器IDECにより供給されたイントラフレームIの復号化バージョンDIは、続いて、動きベクトルMVのフィールドに基づいて動き補償段階MCにおいて“補償”され、即ち、復号化画像DIの画素ブロックは、予測フレームPの特定の最小化基準に従ってできるだけ補償される画像MCIを得るように、前記動きベクトルの関数として移動される。続いて、フレームと補償された復号化イントラフレームMCIとの間の差分又はエラーEは、又エラー画像と呼ばれ、ブロック周波数変換であって、一般に、変換されたエラー画像TEを供給する離散コサイン変換即ちDCTにより符合化される。許容できる補償レートを確実にするために、前記変換エラー画像は、符合化レートが小さくなるにつれ、粗くなる量子化ステップにより量子化段階QUANTにおいて量子化される。
それ故、その量子化段階は、符合化エラーが生じる前記量子化段階のレベルにある。
その量子化段階は、復号化の時点で特定の画像のシーケンスの画素ブロックにおける二次グリッドの最終的アピアランスの起点にあるこの量子化段階である。実際には、図4に示すように、ブロックをマッチングする技術は、前記フレームIの4つのブロックを重ね合わせるフレームIのブロックB´、フレームPのブロックBを選択することが可能である。小さいレートにおいては、実際には、量子化エラー画像QTEは、ブロックBの補償に対して補正を提供しないことが非常に見込まれる。図5は、小さいレートにおいて、量子化エラー画像TEにおいて存在する二次ブロック効果が、2つの連続的段階QとQ+1との間の距離より小さいコントラストC又は強度変化を一般に有することを表す二次グリッドプロファイルの強度曲線を示している。このような条件下で、イントラフレームIのブロックB´が、復号化の間に、境界においてブロック効果を有するため、そのようなブロック効果は、オフセットの方式で続く予測フレームPにおいて伝搬し、それ故、二次グリッドが現れるようにする。オフセットは、フレームIのブロックB´がフレームPにおけるブロックBと同じ位置に移動することを可能にした動きベクトルに対応することに留意する必要がある。
次いで、その現象は、続くフレームに容易に伝搬することが可能である。それにも拘らず、その現象は、動き補償と連続的なエラー画像に対する符合化操作のために、次第に減衰する。
この二次グリッド現象は、特に、画像の一様な領域において生じることに又、留意する必要がある。実際には、ブロックBが一様な領域に存在する場合であって、ブロックマッチング技術が一様な領域に関連しない場合に、その二次グリッド現象は又、ブロックB´に対して事実である。それらの差分が量子化ステップより小さい強度を有する確率は、それ故、例えば、対象の境界を有する2つのテクスチャードブロック間の差分が関係している場合に、非常に大きい。
それ故、復号化デジタル画像の画素ブロックにおける前記二次グリッドを検知することが本発明に従った方法の目的である。そのような方法は、図6に示している3つの段階を有する。第1段階及び第3段階は、全体として復号化デジタル画像DIに適用され、第2段階は前記画像のブロックに適用される。
このことは大多数の規格において事実であるため、以下においては、ブロックをB8x8と表される8x8画素を有すると仮定する。しかしながら、本発明は、この特定の場合に限定されないことは明らかである。
第1段階は、量子化ステップが所定の閾値より大きい場合、前記画像を選択することが意図された、量子化ステップQの関数として前記復号化デジタル画像を選択する段階SELECTである。本発明の好適な実施形態において、前記閾値は、例えば、MPEG−4規格に対して、1乃至31の間の値のスケールにおける25に固定され、即ち、量子化ステップQが25より大きい復号化画像DIのみが選択される。
上記の基準を満足する選択された復号化画像SDIを検討することとする。次の段階は、二次グリッドを有する前記選択された復号化画像のブロックB8x8を検知することが意図された、画素ブロックを検知する段階DETECTである。
好適な実施形態において、選択された画像SDIの画素8x8全てはこの段階の対象とされるが、これは必須ではない。例えば、選択された復号化画像SDIの中央に位置付けられたブロックは、人間の眼に対して非常に重要であり、そのようなブロックの処理に限定される処理操作を選択することが可能であると判断することが可能である。
前記の検知する段階DETECTは又、図6に示す、3つの副段階を有する。第1の副段階は、前記復号化画像のブロックを検知する副段階UNIであり、その副段階において、前記ブロックが所定の強度閾値より小さい強度変化を有する場合、ブロックが一様なブロックであると判定する。強度係数ap,qを有する選択された画像SDIの8x8画素B8x8のブロックであって、その強度係数ap,qにおいて、(p,q)は0乃至7の間の整数である、ブロックを検討することとする。前記検知する副段階UNIは、図7に示すように、ブロックB8x8の副ブロックSB8x8を考慮し、8x8画素のブロックB8x8の6x6の中央の画素を有する。副ブロックSB8x8が次の条件を満足する場合、ブロックB8x8は一様なブロックであると断言できる。
|m1−m2|<S
ここで、
Figure 2005524353
この式において、Sは好適な強度閾値であり、mは副ブロックSB8x8の係数ap,qの最大値であり、そしてmは副ブロックSB8x8の係数ap,qの最小値である。
本発明の好適な実施形態において、Sは、人間の視覚システムの既知の特性に照らして3に等しく選択される。二次グリッドの現象は、実際には、ブロックB8x8が上記の条件に対応するとき、換言すれば、考慮される領域が比較的一様であるとき、人間の眼のみに検知される。この場合、前記検知段階UNIは、一様なブロックB8x8_uniと呼ばれる、8x8の画素のブロックを提供する。
次の副段階は、動きベクトルが非ゼロであり、次のように与えられる、所定の振幅閾値より小さい振幅を有する場合、一様なブロックを選択することが意図された、一様なブロックを選択する副段階MV_SELECTである。
Figure 2005524353
ここで、Vx及びVyは、ブロックB8x8_uniに関連する動きベクトルMVの水平成分及び垂直成分である。
従って、ブロックB8x8_uniは、その動きベクトルが非ゼロであり、小さい振幅を有する場合、選択される。振幅の閾値Sa、20が好適な実施形態において選択される。この場合、ブロックB8x8_uniは、動きベクトルMVが次のリストの一部を構成する場合、選択される。即ち、そのリストは、(0,1)、(0,2)、(0,3)、(0,4)、(1,1)、(1,2)、(1,3)、(1,4)、(2,2)、(2,3)、(2,4)、(3,3)であって、それらに対して、同じ規格の負の値との組み合わせ全てを加えることが望ましい。そのような選択ブロックは、以下、B8x8_uni_lmvと呼ぶこととする。
この段階において、二次グリッドの存在によるブロック効果を有する選択された復号化画像SDIの8x8画素のブロックを識別した。
本発明に従った方法の次の段階は、選択された一様なブロックB8x8_uni_lmv内に二次グリッドを定位化する副段階LOCと呼ばれ、動きベクトルMVの関数として前記ブロック内に前記二次グリッドを定位化することを特徴とする。図8において、復号化デジタル画像DIの画素(0,0)に中心を置く基準フレームと、この基準フレームにおける座標(i,j)により左上の第1画素がマーキングされたブロックB8x8_uni_lmvとを検討することとする。動きベクトルMVの成分(v,v)を認識する場合、ブロックB8x8_uni_lmvにおける二次グリッドの存在によるブロック効果は画素(i+V,j+q)の列において存在し、ここで、qは0乃至7の間にあり、そして、画素(p+i,j+v)の行において存在し、ここで、pは0乃至7の間にある。
本発明の好適に実施形態において、二次グリッドにおいて存在する予測フレームPの画素の位置は、定位カードLoc、即ちLoc(i+V,j+q)=1において“強調され”、ここで、qは0乃至7の間にあり、そして、Loc(p+i,j+v)において強調され、ここで、pは0乃至7の間にある。他の定位化の副段階Locの結果を表す方法を又、勿論、考えることが可能であるが、このモードは簡便である有利点を有している。
次の段階において、選択された復号化画像SDIは全体として考慮される。それは、視認度測定Vを評価する段階VISに関連し、前記選択された復号化画像SDIにおける二次グリッドの視認度を評価することを特徴とする。
そのような評価は種々の方法で実施されることが可能である。そのような評価は、特に、Loc(i,j)=1のようなブロックB8x8_uni_lmvに属す画素(i,j)の隣接画素における強度又はコントラスト変化の局部測定に基づくことが可能である。この場合、前の副段階から前記段階EVALに定位カードLocを提供することが必要である。
しかしながら、このコントラストの範囲が小さく、一のブロックB8x8_uni_lmvから他のブロックへの変化が殆どなく、それ故、画像SDIの領域における二次グリッドの視認度を殆ど表さないことを予測できるように、そのような8x8の選択された画素B8x8_uni_lmvのブロックが比較的一様なテクスチャを有する、ことを思い出す必要がある。
二次グリッドの視認度を評価するための人間の視認システムについての一般認識に頼ることが又考えられる。例えば、コントラスト変化は、明瞭な一様な領域、又は、それと対象的に、非常に暗い一様な領域におけるより、平均強度の一様なテクスチャ領域において
はるかに視認可能であることが示されている。そのような考慮は、ブロックB8x8_uni_lmvにおける二次グリッドの視認度測定のスケールを標準化するために用いられることが可能である。
本発明の好適な実施形態において、前記の視認度の評価は、画像の群IGにおける予測フレームPの位置に関係している。その視認度の評価は、コントラストを考慮せず、人間の視覚システムについての知識も考慮しない。他方、その視認度の評価は、画像の群IGにおける画像SDIの位置Pos(SDI)に依存する。
図9に示すような、経験的研究に従って、二次グリッドの現象により最も影響を受ける画像の群IGの画像がイントラフレームIに続く第1予測フレームであることが判明する。この画像においては、二次グリッドは最も視認できる。続く画像は又、その現象を減衰する様式で認識する。視認度レベルは、図8に示すように、画像の群IGのブロック効果において生成されるコントラストの範囲から推定されることが可能である。本発明の好適な実施形態において、0乃至3のkを有する4つのレベルVが保たれた。この測定は、例えば、2ビットにおいて符号化され、第1イントラフレームに続く少なくとも9つの予測フレームPを有する画像の群について次のような値を有する。
− Loc(i,j)=1であるように、画像の群IGの3つの第1予測フレームPの1つに属す画素(i,j)に対しては、V3=11
− Loc(i,j)=1であるように、画像の群IGの第4、第5又は第6の予測フレームPの1つに属す画素(i,j)に対しては、V2=10
− Loc(i,j)=1であるように、画像の群IGの第7、第8又は第9の予測フレームPの1つに属す画素(i,j)に対しては、V1=01
− Loc(i,j)=1である定位カードにおいて照射されない画素(i,j)に対して又は続く画像又は第10の画像に属す画素(i,j)に対しては、V0=00
好適な実施形態において、視認度測定は、復号化画像における二次グリッドの定位カードの画素の値を重み付けするために利用される。二次グリッドの重み付けされた定位カードPlocが提供される。換言すれば、(i,j)が二次グリッド上にあるように、視認度Vを有する画像SDIのブロックB8x8_uni_lmvの画素(i,j)に対して、Loc(i,j)はVに等しい。この場合、1つの重み付けされた定位カードPLocは、二次グリッドに関する利用可能な情報全てを有する。
本発明の好適な実施形態において使用されるようなこの評価段階VISの有利点は、その簡単さにある。本発明に従った二次グリッドを検知する方法の目的は、あまり複雑でなく、可搬型映像復号化器に適応させることができるように即座に実行することができることであることを思い出す必要がある。
定位カードLocと結合された、得られた視認度V測定は、例えば、補正可能な後処理操作を目的として本発明に従った方法の主な目的と一致し、即ち、二次グリッドの存在が人間の眼に視認でき、妨害する、復号化画像の領域を定位化する。
例えば、一次フィルタリング段階を有する、ブロック効果を後処理する方法の場合を検討することとする。該段階においては、少なくとも1つのフィルタを使用する。上記のように、そのような方法は、一般に、次のような前提から開始する。
− 一次グリッドの定位は既知である。
− ブロック効果は一次グリッドにおいて存在する。
前記フィルタは、それ故、画素の2つのブロック間の境界に適用される。二次グリッドの定位が既知の場合、そのようなブロック効果を補正する方法は、少なくとも1つのフィルタを有する第2フィルタリング段階と呼ばれる第2フィルタリング段階と統合することが可能である。図10に示すように、一次ブロック効果PG及び二次ブロック効果SGを有する、画素の所定のブロックの対(B,B´)に対して、フィルタFを使用する二次フィルタリング操作は、例えば、フィルタFを使用する一次フィルタリング段階に先行する。前記フィルタFはブロックB及びB´の間の境界に中心が置かれる一方、前記フィルタFは、本発明に従った方法により提供される二次グリッドの定位カードLocによりマーキングされたブロックの画素の列又は行に中心が置かれる。二次グリッドの重み付けされた定位カードが利用可能である場合、前記方法はブロック効果の視認度の範囲に対してフィルタリング操作を適応させることさえ可能である。それ故、最も視認可能なブロック効果に対してよりスムーズなフィルタを用いることが問題である。
ここで、前記画像におけるブロック効果の数を計数する段階を有する、復号化画像の品質を測定する方法について検討することとする。そのような方法は、一般に、上記の後処理方法と同じ前提であって、即ち、一次グリッドの定位が既知であり、ブロック効果が一次グリッドにおいて存在する、前提から開始する。前記計数する段階は、例えば、ブロックに存在するグリッドセグメント毎のブロック効果、又は、グリッドに位置している画素の数を計数する。二次グリッドの定位が既知の場合、そのような品詞杖お測定する方法は、それ故、一次グリッドによるブロック効果の数に二次グリッドによるブロック効果を加えることが可能である。得られた品質の範囲は、それ故、更に現実的となる。二次グリッドの重み付けされた定位カードが利用可能である場合、そのような方法は、関連する視認度の関数として、計数されたブロック効果の数を用いてブロック高価の寄与を重み付けすることにより、その品質の範囲を有利に改善することさえ可能である。
図11は、復号化デジタル画像DSを提供するために適し、本発明に従った処理装置を有する映像復号化器DECの動作を示し手いる。そのような映像復号化器は次のような構成要素を有する。
− 受信された符合化画像RIの可変長復号化VLDのための手段であって、量子化データQDを提供するために適する、手段
− 量子化データQDの逆量子化IQのための手段であって、変換データTDを供給するために適する、手段
− 逆変換データITDへの変換データTDの逆離散コサイン変換IDCTのための手段
− 画像メモリMEMを使用して画像を再構築するための手段RECであって、逆変換データITDと前に復号化された画像PDIに基づいて、復号化画像DIを供給するために適する、手段REC
− 二次グリッドの定位カードと復号化画像DIから後処理された復号化画像PPDIとを提供するために適する後処理装置PPであって、前記定位カードは本発明に従った処理方法を用いる処理装置SEC_GRIDにより提供される、後処理装置PP
前記後処理された復号化画像PPDIは、続いて、スクリーンにおいて前記後処理された復号化画像を表示するために適する表示装置DISPに供給される。
図12は、デジタル画像のシーケンスISを受信するために適切であり、符号化器ループにおいて、本発明に従った処理装置SEC_GRIDにより提供される視認度測定と定位カードLocとに基づいて、前記後処理された前の復号化画像PPDIを供給するために適する後処理装置PPにより後継される、前の復号化画像DIを供給するために適する内部復号化装置IDECを有する、映像復号化器ENCの動作を示している。映像符合化器ENCは、次のような構成要素を有する。
− 例えば、離散コサイン変換を用いて、変換データTDへの、入力画像のシーケンスISの画像Iからの、前の動き補償画像MCIの減算の後に得られるエラー画像Eの離散コサイン変換DCTのための手段
− 変換データTDを量子化するための手段QUANTであって、量子化データQDを供給するために適する、手段QUANT
− 量子化データの可変長符合化VCLのための手段であって、符合化画像EIを供給するために適する、手段
映像符合化器ENCは又、次の構成要素を備える、内部復号化ユニットIDECを有する。
− 量子化データQDの逆量子化IQANTのための手段であって、変換データTDを供給するために適する、手段
− 逆変換データへの変換データの逆離散コサイン変換のための手段
− 装置IDCT及び動き補償装置MCからのデータの加算器ADDであって、再構築された前の画像RPIを供給するために適する、加算器ADD
− 本発明に従った処理器SEC_GRID及びフィルタリングユニットFILTを有し、後処理された復号化処理画像PPDIを供給するために適する、後処理装置PPであって、前記処理装置は、前記フィルタリングユニットFILTに前記グリッドの視認度測定と二次グリッドの定位カードLocとを提供するように、加算器ADDの出力から再構築された前の画像RPIを処理するために適する、後処理装置PP
− 動き補償装置MCにより使用される画像であって、例えば、動き推定装置MEからの動きベクトルMV及び前の復号化画像PDIを記憶するために適する画像メモリMEM
− デジタル入力画像Iの動き補償装置MCからデータを減算するために適する減算器SUBであって、この減算器SUBの結果は離散コサイン変換装置DCTに供給される、減算器SUB
本発明に従った処理装置SEC_GRIDは、それ故、後処理装置PPの性能、従って、映像符号化器ENC又は復号化器DECの性能を改善することが可能である。
本発明は、例として説明した実施形態に限定されるもので絵はない。本発明の範囲から位置脱することなく、修正又は改善を施すことが可能である。本発明は、MPEG−4又はH.26L符合化技術に従って符合化され、続いて小さいレートで復号化された画像における二次グリッドの検知に限定されない。本発明は又、動き補償及びブロックを用いるいずれの技術により復号化された画像に適用することができる。
図1乃至12を参照した上記説明は、本発明の制限を示すものではない。同時提出の特許請求の範囲の範囲から逸脱することなく、他の代替が存在することは明らかである。
ソフトウェアにより上記の機能を実施する多くの方法が存在する。この点で、図1乃至12は非常に図解的であり、各々の図は単なる例示である。図は、個々のブロックの形で異なる機能を示しているが、それはソフトウェアの単一のアイテムが幾つかの機能を実行することを排除するものではない。それは又、機能がソフトウェアアセンブリにより実行されることができることを排除するものではない。
携帯デジタル端末又は携帯電話のような可搬型マルチメディア装置に統合されるデジタル復号化回路により上記の機能を実行することが可能である。そのような回路は便利にプログラムされる。プログラミングメモリの命令の集合は、図1乃至12を参照して、上で説明した種々の操作を回路が実行するようにすることが可能である。命令の集合は又、例えば、CD−ROMのようなデータ担体を読み出すことによりプログラミングメモリにロードされることが可能である。読み出しは又、インターネットのような通信ネットワークにより有効にすることが可能である。この場合、サービスプロバイダは、対象の命令を自由に置くことができる。
表現“を有する”及びその活用表現は、請求項に記載されている構成要素又は段階以外の構成要素又は段階の存在を排除するものではない。構成要素の表現に伴う単数を表す表現は、そのような構成要素の複数の存在を排除するものではない。
復号化器が本発明に従った処理装置を有する、デジタル画像の符合化、送信及び復号化シーケンスのブロック図である。 MPEG−4又はJVTのような符合化技術により用いられる画像の群を示す図である。 MPEG−4又はJVTのような符合化技術に従った符合化器のブロック図である。 MPEG−4又はJVTのような符合化技術に従った動き補償の例を示す図である。 2つの連続量子化ステップ間の距離より小さいコントラストを有する二次グリッドによるブロック効果の場合を示す図である。 本発明に従った処理方法を示すブロック図である。 本発明に従った分類段階において用いられるブロック内の副ブロックを示す図である。 本発明に従った二次グリッドを定位化する段階を示す図である。 画像の群における位置の関数として復号化画像における二次グリッドの視認度曲線を示す図である。 一次ブロック効果と二次ブロック効果を有するブロックの対をフィルタリングする補正方法を示す図である。 本発明に従った処理像地を有する映像復号化器のブロック図である。 本発明に従った処理装置を有する映像符号化器のブロック図である。

Claims (11)

  1. 画素ブロック符合化技術に従って符合化及び復号化されるデジタル画像を処理する方法であって、前記技術は画像毎の量子化ステップと画素のブロック毎の動きベクトルとを供給するために適切である、方法であり:
    その量子化ステップが所定の閾値より大きい場合、前記復号化画像を選択する段階;並びに
    二次グリッドを有する画素のブロックを検知する段階であって、前記ブロックが所定の強度閾値より小さい画素強度変動を有する場合、前記の選択された復号化画像の一様なブロックを検知する副段階と、関連動きベクトルが非ゼロであり且つ所定の振幅閾値より小さい閾値を有する場合、一様なブロックを選択する副段階と、前記関連動きベクトルの関数として選択された一様なブロックにおける二次グリッドを定位化する副段階とを有する、段階;
    を有することを特徴とする復号化デジタル画像を処理する方法。
  2. 請求項1に記載の復号化デジタル画像を処理する方法であって、前記復号化デジタル画像の二次グリッドの定位カードを提供することが意図されている、ことを特徴とする復号化デジタル画像を処理する方法。
  3. 請求項1に記載の復号化デジタル画像を処理する方法であって、前記画像は画像の群に属す、方法であり:
    前記の画像の群における前記画像の位置の関数として前記の選択された復号化画像における二次グリッドの視認度測定を評価する段階;
    を有する、ことを特徴とする復号化デジタル画像を処理する方法。
  4. 請求項2又は3に記載の復号化デジタル画像を処理する方法であって、前記視認度測定は、前記の選択された復号化画像における前記二次グリッドの前記定位カードの画素値を重み付けすることが意図されている、ことを特徴とする復号化デジタル画像を処理する方法。
  5. 復号化デジタル画像を後処理するための装置であって:
    フィルタリングユニット;
    を有し、
    前記画像における二次グリッドの定位を提供する、請求項1乃至4のいずれ一項に記載の処理方法を使用して、前記画像を処理するための装置を有し、前記フィルタリングユニットは処理された復号化デジタル画像を提供するように前記定位を考慮するために適する;
    ことを特徴とする復号化デジタル画像を後処理するための装置。
  6. 復号化デジタル画像の品質を測定するための装置であって;
    ブロック効果計数器;
    を有し、
    前記画像における二次グリッド検知を提供する、請求項1乃至4のいずれ一項に記載の処理方法を使用して、前記画像を処理するための装置を有し、前記ブロック効果計数器は前記復号化デジタル画像の品質の範囲を提供するように前記検知を考慮するために適する;
    ことを特徴とする復号化デジタル画像の品質を測定するための装置。
  7. 復号化デジタル画像を提供することが意図され且つ請求項5に記載の後処理装置を有する映像復号化器であって、処理された復号化デジタル画像を提供するために適する、ことを特徴とする映像復号化器。
  8. デジタル入力画像を復号化することが意図された映像符号化器であって、復号化デジタル画像を提供する内部復号化手段を有し、請求項5に記載の復号化画像を後処理するための装置により後を続けられ、処理された復号化デジタル画像を提供することが意図された、ことを特徴とする映像符号化器。
  9. 請求項7に記載の映像復号化器を有する可搬型装置であって、前記装置のスクリーンに処理された復号化デジタル画像を表示するために適する、ことを特徴とする可搬型装置。
  10. ブロック符合化技術に従って符合化及び復号化されるデジタル画像を処理するための装置に対するコンピュータプログラムであって、前記処理装置の回路にロードされるとき、前記コンピュータが請求項1乃至4のいずれ一項に記載の方法を実行するようにする命令の集合を有する、ことを特徴とするコンピュータプログラム。
  11. 請求項10に記載のコンピュータプログラムを伝えることが意図された信号。
JP2004502630A 2002-04-30 2003-04-22 小さいレートのアプリケーションのためにデジタル画像を処理する方法 Withdrawn JP2005524353A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
FR0205435 2002-04-30
PCT/IB2003/001584 WO2003094525A1 (en) 2002-04-30 2003-04-22 Method of processing digital images for low-rate applications.

Publications (1)

Publication Number Publication Date
JP2005524353A true JP2005524353A (ja) 2005-08-11

Family

ID=29286325

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004502630A Withdrawn JP2005524353A (ja) 2002-04-30 2003-04-22 小さいレートのアプリケーションのためにデジタル画像を処理する方法

Country Status (7)

Country Link
US (1) US20050175089A1 (ja)
EP (1) EP1502442A1 (ja)
JP (1) JP2005524353A (ja)
KR (1) KR20040106416A (ja)
CN (1) CN1650635A (ja)
AU (1) AU2003216680A1 (ja)
WO (1) WO2003094525A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7793233B1 (en) 2003-03-12 2010-09-07 Microsoft Corporation System and method for customizing note flags
US7774799B1 (en) 2003-03-26 2010-08-10 Microsoft Corporation System and method for linking page content with a media file and displaying the links
US7712049B2 (en) 2004-09-30 2010-05-04 Microsoft Corporation Two-dimensional radial user interface for computer software applications
US7788589B2 (en) 2004-09-30 2010-08-31 Microsoft Corporation Method and system for improved electronic task flagging and management
US7747557B2 (en) 2006-01-05 2010-06-29 Microsoft Corporation Application of metadata to documents and document objects via an operating system user interface
US7797638B2 (en) 2006-01-05 2010-09-14 Microsoft Corporation Application of metadata to documents and document objects via a software application user interface
WO2008055042A2 (en) * 2006-10-30 2008-05-08 Wesleyan University Apparatus and method for real time image compression for particle tracking
US7707518B2 (en) 2006-11-13 2010-04-27 Microsoft Corporation Linking information
US7761785B2 (en) 2006-11-13 2010-07-20 Microsoft Corporation Providing resilient links
TWI330041B (en) * 2006-11-28 2010-09-01 Realtek Semiconductor Corp Image processing method and device for performing block effect reduction
CN101266795B (zh) * 2007-03-12 2011-08-10 华为技术有限公司 一种格矢量量化编解码的实现方法及装置
JP4626644B2 (ja) * 2007-11-26 2011-02-09 ソニー株式会社 符号化装置、符号化方法、プログラム、及び、撮像装置
CN101635049B (zh) * 2009-06-04 2013-10-16 北京中星微电子有限公司 图像区域的聚类方法和装置以及轮廓搜索方法和装置
US9082278B2 (en) * 2010-03-19 2015-07-14 University-Industry Cooperation Group Of Kyung Hee University Surveillance system
FR3036016B1 (fr) * 2015-05-07 2018-10-12 Orange Codage/decodage predictif d'images comportant un artefact, utilisant une extrapolation

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06327002A (ja) * 1993-05-11 1994-11-25 Olympus Optical Co Ltd 動画像符号化装置
DE19626985C1 (de) * 1996-07-04 1998-01-02 Siemens Ag Verfahren und Anordnung zur Reduktion von Codierungsartefakten von blockbasierten Bildcodierungsverfahren und objektbasierten Bildcodierungsverfahren
KR100234316B1 (ko) * 1997-04-04 1999-12-15 윤종용 링잉노이즈 감소를 위한 신호적응 필터링 방법 및 신호적응필터
US6529638B1 (en) * 1999-02-01 2003-03-04 Sharp Laboratories Of America, Inc. Block boundary artifact reduction for block-based image compression
US7003174B2 (en) * 2001-07-02 2006-02-21 Corel Corporation Removal of block encoding artifacts
US6983079B2 (en) * 2001-09-20 2006-01-03 Seiko Epson Corporation Reducing blocking and ringing artifacts in low-bit-rate coding

Also Published As

Publication number Publication date
EP1502442A1 (en) 2005-02-02
US20050175089A1 (en) 2005-08-11
AU2003216680A1 (en) 2003-11-17
CN1650635A (zh) 2005-08-03
KR20040106416A (ko) 2004-12-17
WO2003094525A1 (en) 2003-11-13

Similar Documents

Publication Publication Date Title
JP6698077B2 (ja) モデルベースの映像符号化用の知覚的最適化
KR100989296B1 (ko) 아티팩트 평가를 통한 향상된 이미지/비디오 품질
CN105409216B (zh) 丢失视频数据的条件隐藏
US10390038B2 (en) Methods and devices for encoding and decoding video pictures using a denoised reference picture
US8050331B2 (en) Method and apparatus for noise filtering in video coding
US20110311147A1 (en) Quality Evaluation of Sequences of Images
US20080205788A1 (en) Image Processing Apparatus and Method, and Computer Program and Computer-Readable Storage Medium
JP2005524353A (ja) 小さいレートのアプリケーションのためにデジタル画像を処理する方法
EP2373049A1 (en) Video quality measurement
US20080317131A1 (en) Estimation/Compensation Device for Mb/Based Illumination Change and Method Thereof
JP2012520025A (ja) ビデオデータの動きベクトルを処理するためのシステムおよび方法
KR20120114263A (ko) 객체-인식 비디오 인코딩 전략
US8885969B2 (en) Method and apparatus for detecting coding artifacts in an image
US9344729B1 (en) Selective prediction signal filtering
KR20140097528A (ko) 비디오 품질 측정을 위한 텍스처 마스킹
JP2005527159A (ja) 圧縮された映像データの客観的な品質を見積もる方法およびシステム
US20070291842A1 (en) Optimal Denoising for Video Coding
JP2009527175A (ja) 表示される画像における圧縮アーティファクトの低減、エンコードパラメータの解析
EP0985318B1 (en) System for extracting coding parameters from video data
US20120207212A1 (en) Visually masked metric for pixel block similarity
US7020207B1 (en) Video error concealment mechanism for block based video decompression
Chen et al. Design a deblocking filter with three separate modes in DCT-based coding
JP2005057761A (ja) ノイズの画像収集に関する問題を低減するテレビ会議システムのエンコード又はデコードのための方法
CN117221534A (zh) 帧间预测方法、视频编解码方法、装置及介质
KR100683060B1 (ko) 영상 프레임의 블록화 현상 제거 장치 및 그 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20060419

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20070713