JP2010534015A - 画像処理方法及び対応する電子装置 - Google Patents

画像処理方法及び対応する電子装置 Download PDF

Info

Publication number
JP2010534015A
JP2010534015A JP2010516491A JP2010516491A JP2010534015A JP 2010534015 A JP2010534015 A JP 2010534015A JP 2010516491 A JP2010516491 A JP 2010516491A JP 2010516491 A JP2010516491 A JP 2010516491A JP 2010534015 A JP2010534015 A JP 2010534015A
Authority
JP
Japan
Prior art keywords
block
image
current
current block
texture pattern
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2010516491A
Other languages
English (en)
Other versions
JP5194119B2 (ja
Inventor
ハダッド,ジュリアン
トロ,ドミニク
サルモン,フィリップ
カステラン,シャヴィエ
シュヴァンス,クリストフ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2010534015A publication Critical patent/JP2010534015A/ja
Application granted granted Critical
Publication of JP5194119B2 publication Critical patent/JP5194119B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/89Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder
    • H04N19/895Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving methods or arrangements for detection of transmission errors at the decoder in combination with error concealment
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/44Decoders specially adapted therefor, e.g. video decoders which are asymmetric with respect to the encoder
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/48Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using compressed domain processing techniques other than decoding, e.g. modification of transform coefficients, variable length coding [VLC] data or run-length data
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Ultra Sonic Daignosis Equipment (AREA)
  • Image Generation (AREA)

Abstract

本発明は、画像を処理する方法に関し、画像の典型的なテクスチャを表すテクスチャパターンブロックがメモリに格納される。当該方法は、現在ブロックの画素の階調レベルを、所定の変換を用いて、周波数係数の現在ブロックへと変換するステップと、融合ブロックの所定の位置にある各周波数係数を、現在ブロックの同一位置にある周波数係数か、メモリに格納されたテクスチャパターンブロックのうちの1つのテクスチャパターンブロックの同一位置にある周波数係数かの何れかに等しくして融合ブロックを構築するステップと、所定の関数に従って融合ブロックを選択するステップと、画像内で現在ブロックを選択された融合ブロックで置換するステップとを有する。本発明はまた、対応する画像を処理する電子装置に関する。

Description

本発明は、ビデオの符号化分野及び圧縮分野に属する。具体的には、本発明は、画像を処理するための方法及び装置に関する。
JPEG、MPEG1、MPEG2又はH.264規格によって定められる方法のような符号化法においては、各画像は、先ず、サイズに従ってブロック又はマクロブロックと呼ばれる部分に分割され、その後、それらの部分が互いに別々に順々に処理される。復号化処理において、ブロックは互いに独立して次々に再構成され、各画像を復元するように共に組み合わされる。
ブロックは符号化処理中に別々に処理されるので、再構成画像内でブロックアーチファクトが知覚される。これらのアーチファクトは視覚的にうっとうしいものである。
この問題は、論文において、例えばマルコフ確率場(Markovian Random Field)、アダプティブフィルタリング、凸集合上への投影などの様々な画像処理技術によって対処されている。これらの手法は何れも、ブロックアーチファクトを除去することにおいて、かなり良好な結果をもたらす。
しかしながら、これらの手法は、視覚的に極めてうっとうしいフリッカー(ちらつき)を誘起する更なるノイズを生じさせる。得られる画像は僅かにぼやけてしまう。
故に、ブロックアーチファクトを除去するための新たな手法を開発することが望まれる。
本発明により、独立請求項に記載されるような方法及び電子装置が提供される。
さらに、それらの方法及び装置のその他の特徴が従属請求項に記載される。
以下の説明及び図面から、本発明のその他の態様が明らかになる。
本発明に従った電子装置を示す機能ブロック図である。 ブロック群に分割された画像を示す模式図である。 本発明に従ったテクスチャ融合部を示す機能ブロック図である。 単一の現在ブロックからの2つの異なる融合ブロックの構築を示す模式図である。 動き補償式フレーム間予測を用いて符号化されたビデオシーケンスの画像群を再構成する方法を例示するフローチャートである。 イントラ画像を処理するステップ群を例示するフローチャートである。 融合ブロックを構築するステップ群を例示するフローチャートである。 本発明に従った変動値の計算を示す模式図である。 インター画像を処理するステップ群を例示するフローチャートである。 インター画像処理を示す模式図である。
本発明に係る状況において、エンコーダは、以下ではブロックと称する8列上の8行の大きさを有する画像の部分群を互いに独立に処理するように適応される。
特に、このエンコーダは、空間的な冗長性を低減するために離散コサイン変換(DCT)を用いて、そして時間的な冗長性を低減するために動き補償式フレーム間予測を用いて、ビデオシーケンスの画像を符号化することができる。これらの符号化法は周知である。それらの説明は、「MPEG VIDEO CODING:A basic tutorial introduction」という題名のS.R.ElyによるBBC研究開発リポートに見出すことができる。
本発明に従って、このエンコーダは、画像内のブロック群を選択し、これらのブロックを識別する情報を、デコーダに送信されるビットストリーム内に導入するように適応される。これらのブロックは、8列上の8行の大きさを有する画像の部分群である。それらは画像の典型的なテクスチャを表す。以下では、それらをテクスチャパターンブロックと称する。
例えば、1つの画像のブロック群のうちの1.5%がテクスチャパターンブロックとして選択され得る。
本発明によれば、これらのテクスチャパターンブロックを識別する情報をビットストリーム内に導入することには、2つの可能な方策が存在する。
第1の方策によれば、テクスチャパターンブロックの座標が既存の規格にて予測される空き空間内に含められる。
第2の方策によれば、QPインデックスとも称する、ビットレートを制御するために符号化中に使用される量子化指数が、テクスチャパターンブロックの符号化のために低下される。このQPインデックスはブロック内での量子化を制御し、通常、0と51との間に設定される。QPインデックスが高く設定されるほど、より多くブロックが圧縮される。
本発明に従って、テクスチャパターンブロックに設定されるQPインデックスは、画像のその他のブロックに設定されるQPインデックスより低くされる。QPインデックスはテクスチャパターンブロックに対して低いので、これらのブロックのテクスチャは、より良く保存される。
エンコーダは、画像の各ブロックを表すビットストリームデータを、左上のものから右上のものへと相次いで送信する。これらのデータは、ブロックごとに、QPインデックスと周波数係数、又はそのブロックが別の画像の関連ブロックから予測されるときの動きベクトルを有する。
デコーダ側で、後述するように、より低いQPインデックスを有するブロックが識別される。
図1を参照するに、本発明に従った電子装置2の概略的なブロック図が示されている。この電子装置2は、上述のエンコーダからビットストリームを受信するように適応されたデコーダである。
電子装置2は、上述のエンコーダによって符号化されたビデオシーケンスを表すビットストリームを受信する入力4と、入力4に結合されたデコーダ6と、デコーダ6に結合された再構成ユニット8と、再構成ユニット8に接続されたメモリ10とを有している。
デコーダ6は、エンコーダによって送信されたビットストリームを復号化し、図2に示すような画像15のブロック11、12、13を表すデータ及び/又は動きベクトルを取得するように適応されている。
再構成ユニット8は、周知のように、復号化されたデータから画像の各ブロック11、12、13を再構成するように適応されている。
本発明に従って、再構成ユニット8は更に、エンコーダ側でビットストリーム内に含められた情報から、テクスチャパターンブロック14、16を復元することができる。
この目的のため、再構成ユニット8は、標準的な方法にて予測された空き空間内に含められた情報を読み取るか、より低いQPインデックスで符号化されたブロックを特定するかの何れかを行うように適応される。
各画像に関して再構成されたテクスチャパターンブロック14、16はテクスチャの辞書17を構成し、辞書17はメモリ10に格納される。
電子装置2はまた、再構成ユニット8及びメモリ10に結合された制御ユニット18と、メモリ10及び制御ユニット18に接続されたテクスチャ融合部(マージャ)20と、制御ユニット18に結合された出力22とを有している。
制御ユニット18は、イントラブロックと、インター画像に属し、動きベクトルに関連付けられたブロックとを、テクスチャ融合部20に送信することができ、且つ、インター画像に属し、動きベクトルに関連付けられたブロックに対して、図9に示す方法を実行することができる。
制御ユニット18は、テクスチャパターンブロックではない再構成画像のブロック群を相次いで選択し、アーチファクトを除去するようにそれらを処理し、且つ各選択ブロックを処理後のブロックで置換するように適応されている。
テクスチャ融合部20は、制御ユニット18によって選択された各ブロック13に対して融合ブロック24を構築することができる。
図3を参照するに、テクスチャ融合部20が例示されている。テクスチャ融合部20は、各テクスチャパターンブロック14、16を受信する第1の入力30と、第1の入力30に結合され、テクスチャパターンブロックの画素階調レベル(グレーレベル)を周波数係数に変換する第1のDCTユニット32とを有している。
テクスチャ融合部20は、制御ユニット18によって選択されたブロック13を受信するように適応された第2の入力38と、該入力38に結合され、ブロック13の画素階調レベルを周波数係数に変換する第2のDCTユニット40と、第1の閾値S1を格納するメモリ42と、メモリ42及び第2のDCTユニット40に接続された比較器44とを含んでいる。
各DCTユニット32、40は、階調レベルを有する各入力ブロック13を、これらの階調レベルを表す周波数係数を有するブロック13へと変換することが可能な計算ユニットである。ブロックの左上の隅に置かれる係数は通常、DC係数と呼ばれ、その他の係数は通常、AC係数と呼ばれる。係数ブロック内での係数の位置はその周波数ランクに対応し、例えば、ブロックの右下に位置するAC係数は最も高い周波数に対応する。
第1の閾値S1は例えば20と40との間である。例えば、第1の閾値S1は30に等しい。
比較器44は、ブロックの周波数係数を、メモリ42に格納された第1の閾値S1と比較するように適応されている。
テクスチャ融合部20は、比較器44の出力及びDCTユニット32、40に接続された構築ユニット46と、構築ユニット46、第2のDCTユニット40及び第2の入力38に結合された選択ユニット47と、選択ユニット47に接続されたIDCTユニット48と、IDCTユニット48に結合された出力50とを有している。
構築ユニット46は、図4に例示するように各選択ブロック13及び各テクスチャパターンブロック14、16に対して融合ブロック24、26を生成するように適応されたプロセッサである。
選択ユニット47は、現在の処理ブロック13の各融合ブロック24、26に関する変動値Jを計算し、IDCTユニット48に送信されるための基準を満たす融合ブロック24、26を選択するように適応されている。
この変動値は、選択ブロック13とテクスチャパターンブロック14との間の周波数の類似性と、選択ブロック13と該選択ブロック13に隣接する少なくとも1つのブロックとの間の階調レベルの勾配とを表す。
選択ユニット47は、IDCTユニット48から受信した融合ブロック24を格納するためのメモリ49を有している。
IDCTユニット48は、逆離散コサイン変換を行って、ユニット47によって選択された各融合ブロック24の周波数係数を階調レベルに変換することができる。IDCTユニット48の出力は、階調レベルで表現された融合ブロック24をメモリ49に伝送するために、選択ユニット47に結合されている。
図5を参照するに、本発明に従った方法は、ビットストリームの一部を受信するステップ60で開始する。
ステップ62にて、デコーダ6がビットストリームのこの部分を復号化し、データ及び場合により動きベクトルを取得する。
ステップ63にて、再構成ユニット8が、デコーダ6によって発信されたデータから、画像15及び場合により動きベクトルを再構成する。
ステップ64にて、再構成画像15がイントラ画像、すなわち、その他の画像を参照することなく符号化された画像であるか、インター画像、すなわち、その他の画像からの動き補償予測を用いて符号化された画像であるかを、制御ユニット18が決定する。
本発明では、ビデオシーケンスの最初の画像はイントラ画像であると仮定する。
受信した画像がイントラ画像であるとき、その画像は図6に例示したフローチャートに従って処理される。
受信した画像がインター画像であるとき、そのインター画像は図9に例示したフローチャートに従って処理される。
図6を参照するに、イントラ画像15を処理する方法は第1のステップ70を有し、該ステップ70において、エンコーダ側で選択されたテクスチャパターンブロック14、16が復元され、画像15の典型的なテクスチャを表すテクスチャ辞書17が形成される。
ステップ72にて、制御ユニット18が、ユニット8から受信した再構成画像から現在ブロック13を選択する。より低いQPインデックスによって適切なテクスチャを有することが保証されるテクスチャパターンブロックを除いて、画像15の全てのブロックが、ラスター走査順に従って順次選択されることになる。
ステップ74にて、テクスチャ融合部20が、辞書17内の第1のテクスチャパターンブロック14を選択する。
その後、ステップ76にて、テクスチャ融合部20は、図7に例示するステップ群を実行することによって融合ブロック24を構築する。
ステップ78において、DCTユニット32によって、選択されたテクスチャパターンブロック14の階調レベルが周波数係数に変換される。
同様に、ステップ80にて、DCTユニット40によって、現在ブロック13の階調レベルが周波数係数に変換される。
ステップ82にて、比較器44によって、現在ブロック13の座標(i,j)によって定められる位置にある周波数係数が第1の閾値S1と比較される。
この周波数係数がこの閾値より大きいとき、ステップ84において、構築ユニット46がこの係数を、融合ブロックと称する新たなブロック内の、現在ブロック13の該周波数係数が位置するのと同一の位置(i,j)に複製する。
この周波数係数が第1の閾値S1より小さいとき、構築ユニット46は、ステップ86において、同一位置(i,j)に位置するテクスチャパターンブロック14の周波数係数を検索し、見出した周波数係数を融合ブロック24の位置(i,j)に複製する。
得られる融合ブロック24は、第1の閾値S1より小さい全ての周波数係数が、選択されたテクスチャパターンブロック14の周波数係数で置換された、現在ブロックの複製となる。
ステップ82とステップ84又は86とが、ステップ88で融合ブロック24が形成されるまで、現在ブロック13の全ての周波数係数に対して繰り返される。
ステップ90にて、選択ユニット47が、関数:J=C+λDから変動値Jを計算する。ただし、
− λは所定のスカラーであり、
− Dは周波数類似性成分であり、
− Cは階調レベルの勾配成分である。
例えば、λは0.3と0.8との間であり、例えば、λは0.5に等しい。
周波数類似性成分Dは、現在ブロック13とテクスチャパターンブロック14との間での低周波数係数の差を表す。
周波数類似性成分Dは、以下の等式:
Figure 2010534015
から得られる。ただし、
− Dは周波数類似性成分であり、
− BDCT current(i,j)は、現在ブロック13のDCT変換の行i、列jにおける周波数係数であり、
− BDCT texture(i,j)は、テクスチャパターンブロック14のDCT変換の行i、列jにおける周波数係数であり、
− kはブロックの行又は列の総数より小さい整数である。
現在ブロックは量子化されているため高周波情報を欠いており、kはブロック13の行及び列の総数より小さく選択される。
例えば、kは3と5との間である。
kが4であるとき、現在ブロックの左上の隅に位置する最初の15のAC周波数係数が、周波数類似性成分Dの計算に考慮される。これらのAC周波数係数は現在ブロックの低い側の周波数を表す。左上の隅に位置するDC係数は、現在ブロック13の階調レベルの平均値を表すので、考慮に入れられない。
階調レベルの勾配成分Cは、以下の等式:
Figure 2010534015
から得られる。ただし、
− Cは階調レベルの勾配成分であり、
− lはブロックの列jの総数、すなわち、説明される実施形態においては8に等しい整数であり、
− mはブロックの行iの総数に等しい整数であり、
− Bcurrent(0,j)は、jが各列を表す整数であるとして、現在ブロック13の第1行に位置する各画素の階調レベルであり、
− Bcurrent(i,0)は、iが各行を表す整数であるとして、現在ブロック13の第1列内の各画素の階調レベルであり、
− Babove(m,j)は、図8に示す現在ブロック13の上に位置するブロック91の行m、列jの各画素の階調レベルであり、
− Bleft(i,l)は、現在ブロックの左側に位置するブロック92の行i、列lの各画素の階調レベルである。
階調レベルの勾配成分Cは、現在ブロック13と、それに直に隣接する、当該方法に従って既に処理されたブロックとの間の勾配を計算することから得られる。それらのブロック91及び92はメモリ49に格納されている。
画像はラスター走査順に従って処理されるので、大部分の現在ブロックはその上に位置する1つのブロックと、その左に位置する1つのブロックとを有する。選択された最初のブロックは、画像の左上の隅に置かれ、当該方法に従って既に処理された隣接ブロックを有しない。このブロックに対しては、階調レベルの勾配成分は計算されない。2番目のブロックはその左に、唯一の既に処理された隣接ブロックを有し、該2番目のブロックに対しては、その左の隣接ブロックのみに従って階調レベルの勾配成分Cが計算される。
辞書17のその他全てのテクスチャパターンブロックに対してステップ74から90が繰り返され、多数の融合ブロックと、辞書17内のテクスチャパターンブロックの数に等しい多数の変動値とが取得される。
例えば、図4に示すように、現在ブロック13及びテクスチャパターンブロック16から融合ブロック26が取得される。
故に、辞書の各テクスチャパターンブロック14、16に、融合ブロック24、26及び変動値Jが関連付けられる。
ステップ94において、選択ユニット47は、各テクスチャパターンブロック14、16に関連付けられた融合ブロック24、26の中から、所定の基準を満たす、すなわち、最低の変動値を有する融合ブロック24を選択する。
ステップ95にて、IDCTユニット48によって、逆離散コサイン変換を用いて、選択された融合ブロック24の周波数係数が階調レベルに変換される。
選択された融合ブロック24は、出力50を介して制御ユニット18に送信されるとともに、メモリ49に格納するために選択ユニット47に送信される。
ステップ96にて、制御ユニット18によって選択されたブロックが、逆DCT後に得られた融合ブロック24で置換される。
処理はステップ72へと戻り、再構成画像15の次のブロックがラスター走査順に従って選択される。画像の最後まで、このブロック及び画像15のその他のブロックに対してステップ74から96が繰り返される。
そして、処理はステップ60へと進み、新たな画像を表すビットストリームの別の部分が処理される。
ステップ64において検査された画像がインター画像であるとき、当該方法はステップ99へと進み、図9及び10に示すように、インター画像100内で現在ブロック98が選択される。
ステップ104にて、現在画像100の現在ブロック98と同一の位置にある参照画像102内のブロック105が決定される。以下、このブロック105を同一位置ブロックと称する。参照画像102は、動き補償予測によって現在画像100を符号化するために用いられた画像である。
ステップ106にて、現在ブロック98とその同一位置ブロック105との間の類似係数Δが、以下の等式:
Figure 2010534015
に従って計算される。ただし、
− Bcurrent(i,j)は、現在画像100の現在ブロック98の行i、列jの画素の階調レベルであり、
− l及びmは、ブロックの行及び列の総数に等しく、
− Bcollocated(i,j)は、参照画像102の関連ブロック105の行i、列jの画素の階調レベルである。
ステップ107にて、類似係数Δが第2の閾値S2と比較される。この閾値S2は、例えば1500と2500との間であり、好ましくは2000に等しい。
類似係数Δが第2の閾値S2より大きいとき、現在ブロック98とその同一位置ブロック105との間には高い類似性が存在するので、現在ブロック98は処理されない。そして、当該方法はステップ99へと戻り、ラスター走査順に従った次のブロックが選択される。
類似係数Δが第2の閾値S2より小さいとき、ステップ62においてビットストリームの復号化から得られた動きベクトル111を用いることによって、現在ブロック98に関連付けられたブロック110が探索される。動き補償式フレーム間予測符号化に従って、現在ブロック98は、関連ブロック110から予測されたブロックである。
参照画像102は既に本発明に係る方法に従って処理されているので、関連ブロック110は上述のステップ70から96の実行から得られた融合ブロックである。
ステップ114にて、既に処理され、故に既に融合ブロックになっている関連ブロック110によって、現在ブロック98が置換される。
そして、処理は画像の最後までステップ99から114を進める。
インター画像の処理が完了したとき、処理はステップ60を続け、ビットストリームの別の部分が受信される。
変形例において、エンコーダは、規格JPEG、MPEG1、MPEG2、H.264にて使用されるもののような他の直交変換を用いて符号化を行う。
エンコーダが符号化規格H.264を用いるとき、テクスチャパターンブロックを識別する情報は、補助強化情報(Supplemental Enhancement Information;SEI)と呼ばれる標準フィールド内に格納される。
テクスチャ辞書データは、別個の独立したネットワーク・アダプテーション・レイヤ(NAL)ユニット内で符号化するため、現在フレームの前に送信される。このNALユニットは、テクスチャ辞書に専用の新たなSEIメッセージタイプに相当し、デコーダ側でテクスチャ融合処理を実行するために必要な全ての情報を含むテクスチャ辞書情報に続かれる。テクスチャ辞書情報は、辞書数、量子化ステップ値、テクスチャブロック数、DCTサイズ、及びテクスチャ辞書のバイナリーストリームを有する。
変形例において、本発明に従った方法は、例えば鷲の羽根といった特定のテクスチャを有する画像の所定の領域上でのみ実行される。
その場合、画像は先ず区分化(セグメンテーション化)され、セグメンテーションマップがデコーダに送信される。領域ごとに異なるテクスチャ辞書を選択することができる。
ビデオシーケンスがイントラ画像のみを有するとき、本発明に従った処理は、ステップ60、62、64、及び70乃至98を実行することによって行われる。
上述の実施形態によれば、本発明に従った方法は、符号化され且つ復号化される画像に適用される。しかしながら、この方法を圧縮された画像に適用することも可能である。その場合、テクスチャパターンブロックの辞書17は既に形成されており、画像は、既に作成された辞書を用いてステップ72乃至96を実行することによって処理される。

Claims (19)

  1. 少なくとも1つの画像を処理する方法であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、前記画像のテクスチャを表す少なくとも1つのテクスチャパターンブロックがメモリに格納され、各テクスチャパターンブロックの前記画素の階調レベルが、所定の変換を用いて周波数係数に変換され、当該方法は:
    a)前記画像の少なくとも1つの部分内で現在ブロックを選択するステップ;
    b)前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数の現在ブロックへと変換するステップ;
    c)融合ブロックを構築する構築ステップであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの1つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ステップ;
    d)所定の関数に従って融合ブロックを選択するステップ;
    e)前記画像内で、前記現在ブロックを、前記選択された融合ブロックで置換するステップ;
    f)所定の順序に従って、前記画像の前記部分内の次のブロックを選択するステップ;及び
    g)前記画像の前記部分の最後まで、ステップa)からf)を実行するステップ;
    を有する、ことを特徴とする方法。
  2. 前記メモリには複数のテクスチャパターンブロックが格納され、複数の融合ブロックを構築するように各テクスチャパターンブロックに対してステップc)及びd)が実行され、ステップd)は:
    d1)各融合ブロックに対し、前記所定の関数を計算し、前記現在ブロックと該融合ブロックの対応するテクスチャパターンブロックとの間の周波数の類似性と、前記現在ブロックと前記現在ブロックに隣接する少なくとも1つのブロックとの間の階調レベルの勾配と、を表す変動値を取得するステップ;及び
    d2)前記現在ブロックを置換する前記選択された融合ブロックとして、最小の変動値を有する融合ブロックを選択するステップ;
    を有する、ことを特徴とする請求項1に記載の方法。
  3. 前記所定の関数は、等式:
    Figure 2010534015
    から得られる周波数類似性成分を有し、ただし、
    − Dは前記周波数類似性成分であり、
    − BDCT current(i,j)は、前記現在ブロックの離散コサイン変換の行i、列jにおける周波数係数であり、
    − BDCT texture(i,j)は、前記テクスチャパターンブロックの離散コサイン変換の行i、列jにおける周波数係数であり、
    − kはブロックの行又は列の総数より小さい整数である、
    ことを特徴とする請求項2に記載の方法。
  4. 前記所定の順序はラスター走査順であり、前記所定の関数は、等式:
    Figure 2010534015
    から得られる階調レベル勾配成分を有し、ただし、
    − Cは前記階調レベル勾配成分であり、
    − lはブロックの列jの総数に等しい整数であり、
    − mはブロックの行iの総数に等しい整数であり、
    − Bcurrent(0,j)は、jが各列を表す整数であるとして、前記現在ブロックの第1行に位置する各画素の階調レベルであり、
    − Bcurrent(i,0)は、iが各行を表す整数であるとして、前記現在ブロックの第1列内の各画素の階調レベルであり、
    − Babove(m,j)は、前記現在ブロックの上に位置するブロックの行m、列jの各画素の階調レベルであり、
    − Bleft(i,l)は、前記現在ブロックの左側に位置するブロック92の行i、列lの各画素の階調レベルである、
    ことを特徴とする請求項2又は3に記載の方法。
  5. 前記所定の関数Jは、λが所定のスカラーであるとして、J=C+λ×Dなる関数である、ことを特徴とする請求項2又は3に記載の方法。
  6. 当該方法は、動き補償フレーム間予測を用いて符号化された少なくとも2つの画像上で実行され、現在画像が動き補償予測を用いて参照画像から符号化され、前記現在画像及び前記参照画像は復号化され、前記参照画像上で既にステップa)からg)が実行され、前記現在画像の1つの現在ブロックとそれが予測された前記参照画像の関連ブロックとの間の動きを表す各動きベクトルが前記現在画像の前記復号化から決定され、
    当該方法は:
    j)前記現在画像内で前記現在ブロックを選択するステップ;
    k)前記参照画像内で、前記現在ブロックに関連付けられた前記関連ブロックを、関連する前記動きベクトルを用いて決定するステップ;
    l)前記参照画像内で前記現在画像内での前記現在ブロックの位置と同一の位置にある同一位置ブロックを、前記参照画像内で決定するステップ;
    m)前記現在ブロックと前記同一位置ブロックとの間の類似係数を計算する計算ステップであり、該類似係数は前記現在ブロックと前記同一位置ブロックとの間のテクスチャ類似性を表す、計算ステップ;
    − 前記類似係数が所定の閾値より大きい場合に、ラスター走査順に従って次のブロックを選択し、該ブロック上でステップj)からm)を繰り返すステップ;
    − 前記類似係数が前記所定の閾値より小さい場合に、前記現在画像の前記現在ブロックを、融合ブロックである前記参照画像の前記関連ブロックで置換するステップ;
    を有する、
    ことを特徴とする請求項1乃至5の何れかに記載の方法。
  7. 前記類似係数Δは、
    Figure 2010534015
    から得られ、ただし、
    − Bcurrent(i,j)は、前記現在画像の前記現在ブロックの行i、列jの画素の階調レベルであり、
    − Bcollocated(i,j)は、前記参照画像の前記関連ブロックの行i、列jの画素の階調レベルであり、
    − l及びmは、ブロックの行及び列の総数に等しい、
    ことを特徴とする請求項6に記載の方法。
  8. 画像内の或る領域を選択し、選択された領域にのみステップa)からg)を適用するステップを有することを特徴とする請求項1乃至7の何れかに記載の方法。
  9. ステップc)において、前記基準は、前記現在ブロックの前記周波数係数が所定の閾値より低いときに満たされる、ことを特徴とする請求項1乃至8の何れかに記載の方法。
  10. 前記所定の変換は離散コサイン変換であることを特徴とする請求項1乃至9の何れかに記載の方法。
  11. 前記所定の変換は規格化されたH.264変換であることを特徴とする請求項1乃至9の何れかに記載の方法。
  12. ビデオシーケンスのうちの少なくとも1つの画像を符号化し且つ復号化する方法であって、ブロックは前記画像の一部であり、前記符号化の段階が:
    − 前記画像のテクスチャを表す少なくとも1つのテクスチャパターンブロックを前記画像内で選択するステップ;及び
    − 前記テクスチャパターンブロックを規定する情報を生成し、デコーダに送信されるビットストリーム内に該情報を符号化するステップ、
    を有し、前記復号化の段階が:
    − 前記ビットストリームから前記画像を再構成するステップ;
    − 前記ビットストリーム内に含められた前記情報から、前記テクスチャパターンブロックを決定するステップ;
    − 決定された前記テクスチャパターンブロックをメモリに格納するステップ;及び
    − 請求項1乃至11の何れかに記載の方法を実行するステップであり、ステップb2)において選択されるテクスチャパターンブロックは前記メモリに格納されたテクスチャパターンブロックに属する、ステップ;
    を有する、ことを特徴とする方法。
  13. 前記テクスチャパターンブロックは、前記画像のその他のブロックを符号化するために用いられる量子化指数より低い量子化指数を用いて符号化される、ことを特徴とする請求項12に記載の方法。
  14. 前記復号化の段階は、前記画像の典型的なテクスチャを表し且つより低い量子化指数を用いて符号化されたブロックを選択するステップを有する、ことを特徴とする請求項13に記載の方法。
  15. 前記画像は規格化されたH.264変換に従って符号化され、前記テクスチャパターンブロックを規定する前記情報は、規格化されたH.264変換の“補助強化情報”と呼ばれる領域に含められる、ことを特徴とする請求項11乃至13の何れかに記載の方法。
  16. 少なくとも1つの画像を処理する電子装置であって、ブロックは前記画像の一部であり、階調レベルが前記画像の各画素に関連付けられ、当該電子装置は:
    − 各テクスチャパターンブロックの前記画素の階調レベルが所定の変換を用いて周波数係数に変換されている、前記画像の典型的なテクスチャを表す少なくとも1つのテクスチャパターンブロックを格納するメモリ;
    − 前記画像の少なくとも1つの部分内で、所定の順序に従って現在ブロックを順次選択する少なくとも第1の選択ユニット;
    − 前記現在ブロックの前記画素の階調レベルを、前記所定の変換を用いて、周波数係数に変換するように適応された少なくとも1つの計算ユニット;
    − 融合ブロックを構築する少なくとも1つの構築ユニットであり、該融合ブロックの所定の位置にある各周波数係数は、前記現在ブロックの同一位置にある周波数係数が基準を満たすときに、前記現在ブロックの該周波数係数に等しく、前記現在ブロックの該周波数係数が前記基準を満たさないときには、前記メモリに格納された前記テクスチャパターンブロックのうちの1つのテクスチャパターンブロックの同一位置にある周波数係数に等しい、構築ユニット;
    − 所定の関数に従って融合ブロックを選択する少なくとも第2の選択ユニット;
    − 選択された融合ブロックの周波数係数を、前記所定の変換の逆の変換を用いて、階調レベルに変換するように適応された少なくとも1つの計算ユニット;
    を有し、
    前記第1の選択ユニットは、前記画像の前記部分内で、前記現在ブロックを前記選択された融合ブロックで置換するように適応されている、
    ことを特徴とする電子装置。
  17. − ビデオシーケンスの少なくとも1つの符号化された画像を表すビットストリームを復号化するように適応されたデコーダ;及び
    − 前記画像を再構成し、且つ前記ビットストリーム内に含まれる情報から前記テクスチャパターンブロックを再構成するように適応された再構成ユニット;
    を有することを特徴とする請求項16に記載の電子装置。
  18. 前記再構成ユニットは、より低い量子化指数を用いて符号化されたブロックをテクスチャパターンブロックとして分類するように適応されている、ことを特徴とする請求項17に記載の電子装置。
  19. 前記画像は規格化されたH.264変換を用いて符号化され、前記再構成ユニットは、前記テクスチャパターンブロックを再構成するために、規格化されたH.264変換の“補助強化情報”と呼ばれる領域内の情報を探索するように適応されている、ことを特徴とする請求項17に記載の電子装置。
JP2010516491A 2007-07-17 2008-07-15 画像処理方法及び対応する電子装置 Expired - Fee Related JP5194119B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
EP07290890A EP2018070A1 (en) 2007-07-17 2007-07-17 Method for processing images and the corresponding electronic device
EP07290890.8 2007-07-17
PCT/EP2008/059250 WO2009010515A1 (en) 2007-07-17 2008-07-15 Method for processing images and the corresponding electronic device

Publications (2)

Publication Number Publication Date
JP2010534015A true JP2010534015A (ja) 2010-10-28
JP5194119B2 JP5194119B2 (ja) 2013-05-08

Family

ID=38831441

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010516491A Expired - Fee Related JP5194119B2 (ja) 2007-07-17 2008-07-15 画像処理方法及び対応する電子装置

Country Status (8)

Country Link
US (1) US8285064B2 (ja)
EP (2) EP2018070A1 (ja)
JP (1) JP5194119B2 (ja)
KR (1) KR101500781B1 (ja)
CN (1) CN101779463B (ja)
AT (1) ATE548857T1 (ja)
BR (1) BRPI0814522A2 (ja)
WO (1) WO2009010515A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012531075A (ja) * 2009-06-22 2012-12-06 トムソン ライセンシング 代表的なパッチを使用したテクスチャリファインメントによる画像符号化

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8483500B2 (en) * 2010-09-02 2013-07-09 Sony Corporation Run length coding with context model for image compression using sparse dictionaries
KR101834470B1 (ko) * 2010-11-29 2018-03-05 톰슨 라이센싱 영상의 자기-유사성 텍스쳐드 영역을 재구성하기 위한 방법 및 디바이스
CN102595113B (zh) * 2011-01-13 2014-06-04 华为技术有限公司 一种变换系数块的扫描方法、装置和系统
US9491491B2 (en) * 2011-06-03 2016-11-08 Qualcomm Incorporated Run-mode based coefficient coding for video coding
TWI580264B (zh) * 2011-11-10 2017-04-21 Sony Corp Image processing apparatus and method
WO2013076139A1 (en) 2011-11-23 2013-05-30 F. Hoffmann-La Roche Ag Cd40l expressing mammalian cells and their use
CN104335582B (zh) * 2012-06-12 2019-03-08 太阳专利托管公司 动态图像编解码方法以及动态图像编解码装置
EP3310055A4 (en) 2015-06-09 2018-06-20 Huawei Technologies Co. Ltd. Image encoding/decoding method and apparatus
CN114584765A (zh) 2016-04-29 2022-06-03 英迪股份有限公司 解码和编码视频的方法以及传送比特流的方法
JPWO2021117500A1 (ja) * 2019-12-11 2021-06-17
EP4118823A1 (en) * 2020-03-12 2023-01-18 InterDigital VC Holdings France Method and apparatus for video encoding and decoding

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328325A (ja) * 1991-12-18 1993-12-10 Philips Gloeilampenfab:Nv 画像の1つ以上のテキスチュアに対応する信号を伝送および/または蓄積するデバイス、テキスチュア信号を合成するデバイス、およびシステム
WO2004077360A1 (de) * 2003-02-28 2004-09-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und anordnung zur videocodierung, wobei die videocodierung texturanalyse und textursynthese umfasst, sowie ein entsprechendes computerprogramm und ein entsprechendes computerlesbares speichermedium
US7003170B1 (en) * 2002-09-20 2006-02-21 Pegasus Imaging Corporation Methods and apparatus for improving quality of block-transform coded images

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10511531A (ja) * 1995-10-18 1998-11-04 フィリップス エレクトロニクス ネムローゼ フェンノートシャップ 領域ベーステクスチュアコード化方法及びデコード方法、及び対応するシステム
US5737451A (en) * 1996-04-10 1998-04-07 Eastman Kodak Company Method and apparatus for suppressing blocking artifacts in block-transform coded images
KR100207426B1 (ko) * 1996-05-08 1999-07-15 전주범 무늬의 크기와 방향성을 이용한 텍스쳐 분류 장치
JP3921015B2 (ja) * 1999-09-24 2007-05-30 富士通株式会社 画像解析装置及び方法並びにプログラム記録媒体
US6683979B1 (en) * 1999-12-10 2004-01-27 Silicon Graphics, Inc. Image data compression and decompression
US6584225B1 (en) * 2000-05-08 2003-06-24 Hewlett-Packard Development Company, L.P. Frequency domain halftoning
JP2002064709A (ja) * 2000-06-06 2002-02-28 Canon Inc 画像処理装置及びその方法とそのコンピュータプログラム及び記憶媒体
JP2002366968A (ja) * 2001-06-05 2002-12-20 Toshiba Corp 画像描画装置
EP1429564A4 (en) * 2001-08-28 2012-07-25 Ntt Docomo Inc MOVING IMAGE AND TRANSMISSION SYSTEM, MOVE IMAGE AND TRANSMISSION METHOD, AND CODING DEVICE, DECODING DEVICE, CODING METHOD, DECODING METHOD, AND PROGRAM THEREFOR
US7129954B2 (en) * 2003-03-07 2006-10-31 Kabushiki Kaisha Toshiba Apparatus and method for synthesizing multi-dimensional texture
WO2005122089A1 (ja) * 2004-06-09 2005-12-22 Matsushita Electric Industrial Co., Ltd. 画像処理方法および画像処理装置、画像拡大方法、サーバークライアントシステム、並びに表示端末
US20060285598A1 (en) * 2005-06-17 2006-12-21 Jarno Tulkki Apparatuses, computer program product and method for digital image quality improvement
US7995649B2 (en) * 2006-04-07 2011-08-09 Microsoft Corporation Quantization adjustment based on texture level

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05328325A (ja) * 1991-12-18 1993-12-10 Philips Gloeilampenfab:Nv 画像の1つ以上のテキスチュアに対応する信号を伝送および/または蓄積するデバイス、テキスチュア信号を合成するデバイス、およびシステム
US7003170B1 (en) * 2002-09-20 2006-02-21 Pegasus Imaging Corporation Methods and apparatus for improving quality of block-transform coded images
WO2004077360A1 (de) * 2003-02-28 2004-09-10 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Verfahren und anordnung zur videocodierung, wobei die videocodierung texturanalyse und textursynthese umfasst, sowie ein entsprechendes computerprogramm und ein entsprechendes computerlesbares speichermedium

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012531075A (ja) * 2009-06-22 2012-12-06 トムソン ライセンシング 代表的なパッチを使用したテクスチャリファインメントによる画像符号化

Also Published As

Publication number Publication date
JP5194119B2 (ja) 2013-05-08
ATE548857T1 (de) 2012-03-15
EP2018070A1 (en) 2009-01-21
BRPI0814522A2 (pt) 2015-02-03
CN101779463B (zh) 2012-05-23
CN101779463A (zh) 2010-07-14
KR20100046202A (ko) 2010-05-06
EP2168382A1 (en) 2010-03-31
US8285064B2 (en) 2012-10-09
KR101500781B1 (ko) 2015-03-09
US20100119169A1 (en) 2010-05-13
EP2168382B1 (en) 2012-03-07
WO2009010515A1 (en) 2009-01-22

Similar Documents

Publication Publication Date Title
JP5194119B2 (ja) 画像処理方法及び対応する電子装置
RU2736421C1 (ru) Способ кодирования и декодирования изображений и устройство кодирования и декодирования
KR102053242B1 (ko) 압축 파라미터를 이용한 영상 복원용 머신러닝 알고리즘 및 이를 이용한 영상 복원방법
US8818114B2 (en) Method and apparatus for image encoding/decoding
CN101390401B (zh) 借助伪影评价的提高的图像/视频质量
KR101362757B1 (ko) 인터 컬러 보상을 이용한 영상의 부호화 방법 및 장치,복호화 방법 및 장치
KR101365567B1 (ko) 영상의 예측 부호화 방법 및 장치, 그 복호화 방법 및 장치
KR101228020B1 (ko) 사이드 매칭을 이용한 영상의 부호화 방법 및 장치, 그복호화 방법 및 장치
JP3369573B2 (ja) 画像予測復号化方法及び装置
KR101354151B1 (ko) 영상 변환 방법 및 장치, 역변환 방법 및 장치
US20070098078A1 (en) Method and apparatus for video encoding/decoding
KR20090097688A (ko) 영상의 인트라 예측 부호화/복호화 방법 및 장치
WO2011121894A1 (ja) 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法
KR20120116936A (ko) 영상 블록 코딩 및 재구성 방법
KR20090099234A (ko) 영상의 부호화, 복호화 방법 및 장치
JP2009518940A (ja) 画像の符号化方法及び装置、復号化方法及び装置
CN101009839A (zh) 基于正交变换和向量量化的视频编码/解码的方法和设备
JP2005523658A (ja) 複雑さの軽減された復号化に適したシングルレイヤビデオ符号化されたビットストリームを供給するシステム及び方法
KR102039039B1 (ko) 영상 부호화 방법 및 장치
KR100809603B1 (ko) 화소 단위 기반 영상 부호화 및 복호화 장치 및 방법
KR101375667B1 (ko) 영상의 부호화, 복호화 방법 및 장치
US20070104379A1 (en) Apparatus and method for image encoding and decoding using prediction
KR100856392B1 (ko) 현재 영상의 복원영역을 참조하는 동영상 부호화/복호화장치 및 그 방법
KR20090098214A (ko) 영상의 부호화, 복호화 방법 및 장치
KR20170114598A (ko) 적응적 색상 순서에 따른 색상 성분 간 예측을 이용한 동영상 부호화 및 복호화 방법 및 장치

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110712

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120918

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121214

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130115

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130204

R150 Certificate of patent or registration of utility model

Ref document number: 5194119

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160208

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

LAPS Cancellation because of no payment of annual fees