JP2007535834A - 空間的及び時間的スケーラビリティを以て符号化された画像シーケンスの符号化及び復号化の方法 - Google Patents

空間的及び時間的スケーラビリティを以て符号化された画像シーケンスの符号化及び復号化の方法 Download PDF

Info

Publication number
JP2007535834A
JP2007535834A JP2007501323A JP2007501323A JP2007535834A JP 2007535834 A JP2007535834 A JP 2007535834A JP 2007501323 A JP2007501323 A JP 2007501323A JP 2007501323 A JP2007501323 A JP 2007501323A JP 2007535834 A JP2007535834 A JP 2007535834A
Authority
JP
Japan
Prior art keywords
motion
resolution
image
temporal
spatial
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2007501323A
Other languages
English (en)
Other versions
JP4986842B2 (ja
Inventor
フランソワ エドゥワール
ボワソン ギローム
ヴィロン ジェローム
マルカン グウェナエル
ロベール フィリップ
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Thomson Licensing SAS
Original Assignee
Thomson Licensing SAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Thomson Licensing SAS filed Critical Thomson Licensing SAS
Publication of JP2007535834A publication Critical patent/JP2007535834A/ja
Application granted granted Critical
Publication of JP4986842B2 publication Critical patent/JP4986842B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H04N19/615Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding using motion compensated temporal filtering [MCTF]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51Motion estimation or motion compensation
    • H04N19/523Motion estimation or motion compensation with sub-pixel accuracy
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/63Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using sub-band based transform, e.g. wavelets

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)

Abstract

動き補償時間フィルタリングの動作の間、前記動き情報の使用のために選択される分解能と使用される補間フィルタの複雑度が、復号化のシナリオに、すなわち、空間及び時間分解能と復号化のために選択したビットレート、又は相応する時間分解レベル、又はこれらのパラメータの組合せに依存するようにしたことを特徴とする方法。
上記方法の使用は、インターネットを介したビデオ電話又はビデオ伝送の分野における「スケーラブル」として知られるビデオコーダ/デコーダに関係する。

Description

本発明は、動き補償時間フィルタリングを利用した階層的な時間分解による、空間的及び時間的スケーラビリティを以て符号化された画像シーケンスのビデオ符号化及び復号化の方法に関するものである。
本発明の範囲は、「スケーラブル」として知られる空間的及び/又は時間的スケーラビリティダイアグラムに基づいたビデオ圧縮である。それは、例えば、動き補償時間フィルタリングを含んだ2D+tウェーブレット符号化に関係している。
図1には、スケーラブル符号化・抽出・復号化システムが示されている。
ソース画像がスケーラブルビデオ符号化回路1に送られる。得られた原ビットストリームは抽出器2により処理され、抽出されたビットストリームが得られる。このビットストリームは復号化回路3により復号化され、復号化回路3はこの復号化されたビデオを出力側に供給する。
スケーラビリティにより原ビットストリームの生成が可能になり、この原ビットストリームからは、フロー、空間分解能、時間周波数などの一連のデータに適合したバイナリサブストリームを抽出することができる。例えば、スケーラブルな原ビットストリームが何らのビットストリーム制限もなしに25Hz、720×480ピクセルの分解能のビデオシーケンスから生成された場合、このビットストリームから適切なデータを抽出した後に、例えば、1Mb/s、12.5Hzのパラメータを有する360×240ピクセルの分解能のそれ自体スケーラブルなサブビットストリームを得ることができる。
スケーラブルなビデオ圧縮に対する既存のアプローチでは、符号化と復号化は、時間分解レベル、ビットレート、復号化されたビデオの空間分解能のような動作条件を考慮せずに同様に進行する。特に、復号化が画像間の動き補償を伴っている場合には、この補償は、画像のサイズ又は復号化されるべきビデオのビットレートを考慮せずに、同様に適用される。その結果、特に画像の分解能が動き補償に使用される補間フィルタのサイズに比べて小さくなる場合には、画質が低下してしまう。
本発明の課題は上記の不利点を克服することである。
本発明の目的の1つは、動き情報を含んだ空間的及び時間的スケーラビリティを以て符号化された画像シーケンスを復号化する方法であって、ある周波数分解レベルの画像の動き補償時間フィルタリング、すなわち、MCTFを実行して、より低い分解レベルの画像を供給する階層的な時間統合ステップを有している形式の方法において、動き補償時間フィルタリングの動作の間、前記動き情報の使用のために選択される分解能と使用される補間フィルタの複雑度が、復号化のシナリオに、すなわち、空間及び時間分解能と復号化のために選択したビットレート、又は相応する時間分解レベル、又はこれらのパラメータの組合せに、依存するようにしたことを特徴とするものである。
1つの実施形態によれば、動き補償に使用される前記補間フィルタの係数の個数が前記復号化シナリオ又は前記時間分解レベルに依存する。
1つの実施形態によれば、前記階層的時間統合ステップは動き補償フィルタリングを用いたウェーブレット係数の復号化である。
本発明はまた、所与の空間分解能を有する画像シーケンスを空間的及び時間的スケーラビリティを以て符号化する方法であって、画像間の動き情報からある周波数分解レベルの画像の動き補償時間フィルタリングを実行して、より高い分解レベルの画像を供給する階層的な時間分解ステップを有している形式の方法において、動き補償時間フィルタリングの動作の間、前記動き情報の使用のために選択される分解能と使用される補間フィルタの複雑度が、ソース画像の前記空間分解能又は相応する時間分解レベルに依存するようにしたことを特徴とするものにも関している。
1つの実施形態によれば、この方法は前記動き補償を行うために、所与の分解レベルの2つの画像の間で計算される動き推定ステップを有しており、該動き推定の計算の精度は時間分解レベル又はソース画像の前記空間分解能に依存する。
前記時間分解ステップは、例えば、動き補償フィルタリングを用いたウェーブレット符号化である。
本発明はまた、動き補償のために時間分解回路により使用される補間フィルタをソース画像の前記空間分解能又は相応する時間分解レベルに依存して決定する動きコンフィギュレーション選択回路を有していることを特徴とする上記復号化方法を実施するためのデコーダにも関している。
本発明はまた、動き補償のために時間分解回路により使用される補間フィルタをソース画像の前記空間分解能又は相応する時間分解レベルに依存して決定する動きコンフィギュレーション選択回路を有していることを特徴とする上記符号化方法を実施するためのコーダにも関している。
1つの実施形態によれば、前記コーダは、動き推定回路により計算される動きの精度をソース画像の前記空間分解能又は相応する時間分解レベルに依存して決定する動きコンフィギュレーション選択回路を有していることを特徴とする。
動きの精度と、符号化及び復号化のプロセスにおいて動き補償のために使用される補間フィルタは、処理を実行する際の時間分解レベルのような種々のパラメータにしたがって適応させられる。これらのフィルタは、復号化のために、復号化されたフローのビットレート、復号化されたビデオの空間的又は時間的分解能に適応させられる。この適応動き補償のおかげで、画質が改善され、処理動作の計算量が低減される。
他の特徴及び利点は以下の説明からより明らかとなる。以下の説明は非限定的な例として提供されるものであり、添付した図面を参照している。添付図面のうち、
図1は、従来技術による符号化システムを示しており、
図2は、簡略化された符号化ダイアグラムを示しており、
図3は、GOPの時間フィルタリングを示しており、
図4は、2つの画像での時間フィルタリングを示しており、
図5は、復号化回路を示しており、
図6は、動きのコンフィギュレーションを選択するためのフローチャートを示しており、
図7は、動きのコンフィギュレーションを選択するための第2のフローチャートを示している。
我々は動きの軌跡に沿ってウェーブレット分解/統合を操作する2D+tウェーブレットに基づいた符号化/復号化ダイアグラムを考察する。システムは画像のグループ、すなわち、GOPに対して作用する。
コーダの全体的なアーキテクチャは図2に示されている。
ソース画像は時間分解回路4に送られ、時間分解回路4は、異なる時間周波数帯域を得るために、動き補償時間分解、すなわち、MCTFを行う。ここで、MCTFはmotion compensation temporal filteringの頭字語である。画像は動きフィールドを計算する動き推定回路7に送られる。これらのフィールドは「剪定」回路10に送られ、「剪定」回路10は、動きのコストを制御するために、動き推定回路により計算された動き情報の「剪定」又は単純化を実行する。このようにして単純化された動きフィールドは、分解フィルタを決定するために、時間分解回路11へと送られる。これらの動きフィールドは単純化された動きフィールドを符号化する符号化回路11にも送られる。
時間分解の結果として得られた画像は空間分解回路5に送られ、空間分解回路5は、時間分解により得られた低帯域幅画像と高帯域幅画像のサブバンド符号化を行う。このようにして得られた空間・時間ウェーブレット係数は最終的にエントロピーコーダ6により符号化される。このコーダは、層を成すスケーラビリティの階層と、画質と空間及び時間分解能とに応じて、一連のバイナリパケットを出力側に供給する。パケッタイザー12はこれらのバイナリバケットを符号化回路11からの動きデータと融合し、最終的なスケーラブルビットストリームを供給する。
時間分解回路4により、異なる時間分解レベルにある画像が、第1の動きコンフィギュレーション選択回路を内蔵した動き推定回路7に送られる。図示されていないこの第1の動きコンフィギュレーション選択回路は、画像の異なる分解レベルに応じて、動き推定回路の動作条件を規定する。選択肢として、剪定回路10を介していったん単純化された動き情報を、モードスイッチング回路9を通して時間分解回路に送るようにしてもよい。この回路は、例えば、所与の分解レベルにおいて現在画像と前画像との間で連結しているピクセルの個数をテストすることにより動き推定の品質をテストするために使用され、この動き品質が不十分な場合には、時間分解回路にイントラモード符号化、又は予測モード符号化、すなわち、前画像ではなく後続画像による現在画像のフィルタリングを課すことができる。イントラモードと予測モードとの間での選択は、例えば、現在画像と後続画像との間の動き推定の品質に依存する。時間分解回路は、画像の分解レベル及び/又はソース画像の空間分解能に応じて、この時間分解で使用される動き補償に採用するコンフィギュレーションを決定する第2の動きコンフィギュレーション選択回路を有している。この第2の動きコンフィギュレーション選択回路も図示されていない。
図3は、時間分析回路4により実行されるGOPに対する4段階の分解による動き補償時間フィルタリング動作を概略的に示したものである。この例では、GOPは太線で示された16の画像から成っている。
使用されるフィルタリングモードは「リフティング」と呼ばれる。非常に長い線形フィルタを用いたウェーブレット符号化のための複雑なフィルタリングを使用する代わりに、我々の例では、フィルタリングは16の画像から成るグループに対して実行される。このフィルタリング法の要点は、周知のように、限られた長さの複数のフィルタでフィルタを「因数分解」することにある。例えば、サンプルを2×2でフィルタリングすることが決定された場合には、長さ2のフィルタで「因数分解」する。このフィルタリングはそれぞれの分解レベルごとに更新される。したがって、画像の対に対して動きの方向にフィルタリングを実行する場合を考察する。GOPの各対に対する低周波数及び高周波数フィルタリングは、第1の時間分解レベルにおいて、それぞれ8つの低時間周波数画像(t−L)と8つの高時間周波数画像(t−H)を形成する。
そして、低時間周波数画像は再び同じ方法にしたがって分解される。これらの画像をローパスフィルタリングすることにより4つの新たな低時間周波数画像t−LLが得られ、これらの同じ画像をハイパスフィルタリングすることにより4つの高時間周波数画像t−LHが得られる。第3の分解レベルは2つの低時間周波数画像t−LLLと2つの高時間周波数画像t−LLHを提供する。第4の最終レベルは1つの低時間周波数画像t−LLLLと1つの高時間周波数画像t−LLLHを提供する。
この時間分解は5バンド時間分解であり、したがって、16の画像から成るGOPにつき、1つのt−LLLL画像と、1つのt−LLLH画像と、2つのt−LLH画像と、4つのt−LH画像と、8つのt−H画像を生成する。t−L,t−LL,t−LLL画像、そして、もちろん原画像も、ダウンストリームコーディングでは無視される。というのも、これらの画像は、各レベルにおいて無相関の画像を提供するためにサブバンドへの分解の原点にあるからである。したがって、この分解は、GOPの集合の平均を表し且つエネルギーの集中する低時間周波数の有効画像t−LLLLと4つのレベルの低エネルギー高時間周波数画像、すなわち、5つの周波数帯域、を生成することにより新たなエネルギー分布を可能にする。サブバンドへの空間分解のために空間分解回路へ送られるのはこれらの画像である。
フィルタリングを実行するため、各レベルについて、フィルタリングすべき画像の各対の間で動きフィールドが推定される。これは動き推定器7の機能である。
ソース画像AとBの対のフィルタリングは、デフォルトでは、以下の式にしたがって低時間周波数画像Lと高時間周波数画像Hを生成することからなる:
Figure 2007535834
ここで、MC(l)は動き補償画像lに相当する。
和はローパスフィルタリングに関係しており、差はハイパスフィルタリングに関係している。
図4は、2つの連続する画像AとBの時間フィルタリングを簡単に示したものである。ここで、画像Aは時間軸及び表示順序において最初の画像であり、低周波数画像Lと高周波数画像Hを与える。
動き推定は、基準画像に関して、現在画像から基準画像へと行われる。現在画像の各ピクセルについて、相応するピクセルが基準画像内に存在しているならば、この相応するピクセルに関する探索が行われ、相応する動きベクトルがこのピクセルに割り当てられる。この場合、基準画像のピクセルは連結されていると言われる。
画像Lを得るには画像Aの動き補償が必要である。この補償は、画像Aを基準画像として、画像Aに対する画像Bの動き推定により行われる。このようにして、動きと、したがってまたベクトルが、画像Bの各ピクセルに割り当てられる。Lのピクセルの値は、最も近い形状ファクターにおいては、画像Bの相応するピクセルの輝度と画像Bの相応するピクセルに割り当てられた動きベクトルにより指されるAのピクセル又はサブピクセルの輝度との和に等しい。このベクトルが画像Aのピクセルを指していない場合には、補間が必要である。これは過去の基準画像からの順方向予測と、MPEG規格に準拠した順方向ベクトルの計算とに関係している。
画像Hを得るには画像Bの動き補償が必要である。この補償は、画像Bを基準画像として、画像Bに対する画像Aの動き推定により行われる。このようにして、動きと、したがってまたベクトルが、画像Aの各ピクセルに割り当てられる。Hのピクセルの値は、最も近い形状ファクターにおいては、画像Aの相応するピクセルの輝度と画像Aの相応するピクセルに割り当てられた動きベクトルにより指されるBのピクセル又はサブピクセルの輝度との和に等しい。このベクトルが画像Bのピクセルを指していない場合には、補間が必要である。これは将来の基準画像からの逆方向予測と、MPEG規格に準拠した逆方向ベクトルの計算とに関係している。
実際的には、AからBへの又はBからAへの一方の動きベクトルフィールだけが計算される。他方の動きフィールドは第1の動きベクトルフィールドから導出され、非連結ピクセル、すなわち、動きベクトルが割り当てられておらず、逆方向動きベクトルフィールド内の穴に相当するピクセルを形成する。
実際的には、低周波数画像と高周波数画像は次のように計算される:
Figure 2007535834
既に説明したフィルタリングと等価なこのフィルタリングの要点は、最初に画像Hを計算することにある。この画像は画像Bと動き補償画像Aの点対点での差から得られる。したがって、画像A内の変位ベクトルによって指された画像Bのピクセルから或る値が差し引かれる、必要ならば、補間される。なお、上記の動きベクトルは画像Bから画像Aへの動き推定の間に計算されたものである。
つぎに、逆方向に動き補償された画像Hに画像Aを加算することにより、画像Lはもはや画像Bからでなく画像Hから導出される。MCA←B -1(H)は画像(H)の動き「補償解除」に相当する。したがって、BからAへ向かい且つAのピクセルを指す変位ベクトルに基づいて、画像H内に位置する或る値が、必要ならば補間されて、Aのピクセルに、より詳細には、ピクセルの輝度の規格化された値に、加算される。
同じ理屈がピクセルレベルの代わりに画像ブロックレベルでも当てはまる。
動き推定回路7は、例えば、ブロックマッチングによる動き推定アルゴリズムを実行する。現在ブロック画像と基準画像内の探索窓のブロックとの相関がとられ、最も相関の良い動きベクトルが求められる。この探索はピクセルの連続的な水平及び垂直変位により得られる探索窓のブロック上だけでなく、要求される精度が1ピクセル未満である場合には、補間されたブロック上でも行われる。この補間の要点は、2つのピクセルの間の距離に満たない値の連続的変位により得られる画像ブロックを生成するために、サブピクセルの輝度値を計算することにある。例えば、1/4ピクセルの精度の場合には、相関テストが水平方向及び垂直方向に対して1/4ピクセルごとに行われる。この補間は動き推定補間フィルタと呼ばれるフィルタを使用する。
動き補償時間フィルタリングを施すべき画像は、2つの画像の間の動きを推定できるように動き推定器7に送られる。この回路は第1の動きコンフィギュレーション選択回路を有しており、この第1の動きコンフィギュレーション選択回路は、画像の分解レベル情報に加えて、ソース画像の空間分解能のような他の情報も受け取る。この回路はこのレベル及び/又は空間分解能に応じて動きのコンフィギュレーションを決定する。したがって、例えば、動き値の計算における精度は処理される画像の時間分解レベルに依存する。この精度は分解レベルが大きいだけにますます低くなる。動き推定器の補間フィルタは動きの精度に適応するように構成されている。コンフィギュレーションの例を以下に示す。
時間分解回路4は、上に示したように、画像の時間フィルタリングのための動き補償を実現する。これらの動き補償動作は、各分解レベルについて、補間フィルタを用いた補間動作を必要とする。この時間分解回路の第2の動きコンフィギュレーション選択回路は、動き補償すべき画像の時間分解レベルに応じて動きの精度と動き補償のための補間フィルタの複雑度を適応させる処理アルゴリズムを実施する。なお、この第2の動きコンフィギュレーション選択回路は第1の動きコンフィギュレーション選択回路とは異なっていてもよい。第1の動きコンフィギュレーション選択回路に関しては、これらの異なる適応又はコンフィギュレーションは処理されるソース画像の空間分解能にも依存することがある。
もちろん、これらのコンフィギュレーション選択回路の一方のみを内蔵したコーダは本発明の範囲内にある。
本発明によるデコーダは図5に示されている。デコーダが受け取ったバイナリフローは、コーダのエントロピー符号化回路の逆演算を行うエントロピー復号化回路13の入力側に伝送される。とりわけ、デコーダは、空間・時間ウェーブレット係数と、必要ならば、符号化モードを復号化する。このバイナリフローは並列して動き復号化回路14の入力側に送られる。動き復号化回路14はバイナリフローの受け取った動きフィールドを復号化し、時間統合回路に送る。エントロピー復号化回路13は、異なる時間サブバンドに対応する画像を再構成する空間統合回路15に接続されている。空間統合回路からの時間ウェーブレット係数は、時間統合フィルタから出力画像を再構成する時間統合回路16に送られる。時間統合回路は図示されていない動きコンフィギュレーション選択回路を含んでいる。この動きコンフィギュレーション選択回路は、復号化条件及び/又は画像分解レベルに応じて、この時間統合で使用される動き補償に採用すべきコンフィギュレーションを決定する。時間統合回路は事後処理回路17に接続されており、事後処理回路17の出力側がデコーダの出力側である。事後処理回路17は、例えば、ブロック効果のようなアーチファクトの低減を可能にするフィルタリングに関与している。
コーダがMCTFモード以外の他の符号化モード、例えば、イントラモードや予測モード、を使用する場合には、エントロピー復号化回路からこの符号化モード情報を受け取り、この符号化モード情報を後にフィルタスイッチを実行する時間統合回路16に送るために、時間フィルタスイッチモードが使用される。
動きコンフィギュレーション選択回路は、ビットレートと空間及び時間分解能の情報、ならびに、時間分解レベルを受け取る。これらの情報又はこれらの情報のうちの1つから、動きコンフィギュレーション選択回路は時間統合のために動き補償のコンフィギュレーションを選択する。時間統合回路はこの選択されたコンフィギュレーションに応じて補間フィルタを適応させる。
デコーダが受け取ったバイナリフローのビットレートは抽出されたビットストリームに対応している。上で見たように、スケーラブルコーダは一般に原ビットストリームである最も高いビットレートを送り、デコーダにより制御することのできる抽出器が必要な分解能に対応するビットストリームを抽出する。受け取ったビットレート情報はデコーダで使用可能である。
空間分解能、時間分解能、及びビットレートの情報が復号化シナリオを決定する。このシナリオは、例えば、デコーダによって使用されるディスプレイ、データ受信に使用することのできるビットレートに依存する。補間フィルタに関して時間統合回路のコンフィギュレーションが行われるのは、この情報及び/又は時間分解レベルからである。
コーダの動き推定動作又はコーダもしくはデコーダにおける動き補償動作に関して、動きの精度とこの精度に依存する補間フィルタの適応の一例を以下に示す。
Figure 2007535834
コンフィギュレーションフィルタ2は、MPEG4パート10規格(ITU-T Rec. H.264 ISO/IEC 14496-10 AVC参照)で使用されるフィルタと非常に似ている。
図6は、時間分解回路に属する動きコンフィギュレーション選択回路により実施される決定フローチャートを示したものである。
ステップ20は、コーダに供給されたソース画像の分解能が、176ピクセル、120ラインに相当するQCIFフォーマット、英語では、Quarter Common Intermediate Format、の分解能よりも低いか否かを判定する。判定が肯定的である場合には、次のステップはステップ23であり、コンフィギュレーション1に決定される。
判定が否定的でれば、次のステップは時間分解レベルを調べるステップ21である。このレベルが厳密に2よりも大きい場合には、次のステップはステップ23であり、コンフィギュレーション1が選択される。そうでなければ、次のステップはステップ22であり、コンフィギュレーション2に決定される。
図7は、デコーダのための決定フローチャートを示したものである。
ステップ24は、デコーダに供給された抽出されたバイナリフローに相応する画像の分解能が、176ピクセル、120ラインに相当するQCIFフォーマットの分解能よりも低いか否かを判定する。判定が肯定的であれば、次のステップはコンフィギュレーション1を選択するステップ26である。
判定が否定的であれば、次のステップは時間分解レベルを調べるステップ25である。このレベルが厳密に2よりも大きい場合には、次のステップはステップ26であり、コンフィギュレーション1が使用される。そうでなければ、次のステップはステップ27である。このステップ27は、復号化すべき画像の分解能が、720ピクセル、480ラインのSDフォーマット、英語では、Standard Definitionフォーマット、の分解能に等しいか否か、またバイナリフローのビットレートが1.5Mb/sよりも低いか否かを判定する。判定が肯定的であれば、次のステップはステップ26であり、コンフィギュレーション1に決定される。
判定が否定的であれば、ステップ28が次のステップである。このステップ28は、復号化すべき画像の分解能が、352ピクセル、240ラインのCIFフォーマットの分解能に等しいか否か、またビットレートが700kbits/sよりも低いか否かを判定する。判定が肯定的であれば、次のステップはステップ26であり、コンフィギュレーション1が課される。
判定が否定的であれば、時間フィルタリング回路にコンフィギュレーション2が課される。
補間フィルタは例えば8係数FIRタイプのフィルタである。ここで、FIRはFinite Impulse Responseの頭字語である。フィルタリングは畳み込みにより行われる。したがって、計算すべきサブピクセルの前後4ピクセルの輝度が考慮される。
サブピクセルsの1/4,1/2,及び3/4における異なる位置に対して、上記タイプの3つの異なる補間フィルタを使用してもよい。係数nの値は次の式により与えられる:
Figure 2007535834
sはサブピクセル位置であり、s=1/4,1/2,又は3/4、nは係数の番号であり、h(m)はハミング窓の減衰フィルタである。
FIRフィルタはハミング窓による重み付けとこれら重み付けされたフィルタの打切りにより導出することができる。
s=1/4の場合、係数は:
[-0.0110 0.0452 -0.1437 0.8950 0.2777 -0.0812 0.0233 -0.0053]
s=1/2の場合、係数は:
[-0.0053 0.0233 -0.0812 0.2777 0.8950 -0.1437 0.0452 -0.0110]
s=3/4の場合、係数は:
[-0.0105 0.0465 -0.1525 0.6165 0.6165 -0.1525 0.0465 -0.0105]
これらのフィルタを用いれば、1ピクセルの1/4,1/2,及び3/4に補間することができる。補間はまず水平次元に沿って、続いて垂直次元に沿って行われる。次に、1ピクセルの1/8への補間が1ピクセルの1/4の位置からの双線形補間によって行われる。
コーダのレベルで為される上記の適応の例はデコーダのレベルでも同様に適用することができる。
一般に、小サイズの画像を限られた画質で、すなわち、低ビットレートで、かつ、高い時間分解レベルで処理する場合には、限られた動き精度と単純な補間フィルタを使用することが原則である。逆に、高画質、高空間分解能、高ビットレート、低時間分解率で処理する場合には、高い動き精度と洗練された補間フィルタを使用する。この原則の根拠は、フィルタリングすべき画像の周波数内容が乏しい、又は分解能が限られている場合、高度に進化した補間フィルタ又は非常に高い動き精度を用いるのが有効であることにある。
本発明の使用は、例えば、インターネットを介したビデオ電話又はビデオ伝送の分野におけるデータ圧縮/伸長に使用される「スケーラブル」として知られるビデオコーダ/デコーダに関係している。
従来技術による符号化システムを示す。 簡略化された符号化ダイアグラムを示す。 GOPの時間フィルタリングを示す。 2つの画像での時間フィルタリングを示す。 復号化回路を示す。 動きのコンフィギュレーションを選択するためのフローチャートを示す。 動きのコンフィギュレーションを選択するための第2のフローチャートを示す。

Claims (9)

  1. 動き情報を含んだ空間的及び時間的スケーラビリティを以て符号化された画像シーケンスを復号化する方法であって、前記動き情報から或る周波数分解レベルの画像の動き補償時間フィルタリング、すなわち、MCTFを実行して、より低い分解レベルの画像を供給する階層的な時間統合ステップ(16)を有している形式の方法において、
    動き補償時間フィルタリングの動作の間、前記動き情報の使用のために選択される分解能と使用される補間フィルタの複雑度が、復号化のシナリオに、すなわち、空間及び時間分解能と復号化のために選択したビットレート、又は相応する時間分解レベル、又はこれらのパラメータの組合せに、依存するようにしたことを特徴とする、空間的及び時間的スケーラビリティを以て符号化された画像シーケンスを復号化する方法。
  2. 動き補償に使用される前記補間フィルタ(16)の係数の個数が前記復号化シナリオ又は前記時間分解レベルに依存する、請求項1記載の方法。
  3. 前記階層的時間統合ステップ(16)は動き補償フィルタリングを用いたウェーブレット係数の復号化である、請求項1記載の方法。
  4. 所与の空間分解能を有する画像シーケンスを空間的及び時間的スケーラビリティを以て符号化する方法であって、画像間の動き情報(7)から或る周波数分解レベルの画像の動き補償時間フィルタリングを実行して、より高い分解レベルの画像を供給する階層的な時間分解ステップ(4)を有している形式の方法において、
    動き補償時間フィルタリング(4)の動作の間、前記動き情報の使用のために選択される分解能と使用される補間フィルタ(9)の複雑度が、ソース画像の前記空間分解能又は相応する時間分解レベルに依存するようにしたことを特徴とする、画像シーケンスを空間的及び時間的スケーラビリティを以て符号化する方法。
  5. 前記動き補償(4)を行うために、所与の分解レベルの2つの画像の間で計算される動き推定ステップ(7)を有しており、該動き推定(7)の計算の精度は時間分解レベル又はソース画像の前記空間分解能に依存する、請求項4記載の方法。
  6. 前記階層的時間分解ステップ(4)は動き補償フィルタリングを用いたウェーブレット符号化である、請求項4記載の方法。
  7. 請求項1に記載の方法を実施するためのデコーダであって、
    動き分解能と、動き補償フィルタリングのために動き補償の際に使用される補間フィルタ(16)を、復号化シナリオ、すなわち、空間及び時間分解能と復号化のために選択したビットレート、又は相応する時間分解レベル、又はこれらのパラメータの組合せに依存して決定する動きコンフィギュレーション選択回路(16)を有していることを特徴とするデコーダ。
  8. 請求項4に記載の方法を実施するためのコーダであって、
    動き補償(4)のために時間分解回路により使用される補間フィルタをソース画像の前記空間分解能又は相応する時間分解レベルに依存して決定する動きコンフィギュレーション選択回路(4)を有していることを特徴とするコーダ。
  9. 請求項4に記載の方法を実施するためのコーダであって、
    動き推定回路(7)により計算される動きの精度をソース画像の前記空間分解能又は相応する時間分解レベルに依存して決定する動きコンフィギュレーション選択回路(7)を有していることを特徴とするコーダ。
JP2007501323A 2004-03-02 2005-02-21 空間的及び時間的スケーラビリティを以て符号化された画像シーケンスの符号化及び復号化の方法 Expired - Fee Related JP4986842B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
FR0450419 2004-03-02
FR0450419A FR2867328A1 (fr) 2004-03-02 2004-03-02 Procede de decodage d'une sequence d'images codee avec echelonnabilite spatiale et temporelle
PCT/FR2005/050108 WO2005086488A1 (fr) 2004-03-02 2005-02-21 Procede de codage et de decodage d'une sequence d'images codee avec echelonnabilite spatiale et temporelle

Publications (2)

Publication Number Publication Date
JP2007535834A true JP2007535834A (ja) 2007-12-06
JP4986842B2 JP4986842B2 (ja) 2012-07-25

Family

ID=34855193

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007501323A Expired - Fee Related JP4986842B2 (ja) 2004-03-02 2005-02-21 空間的及び時間的スケーラビリティを以て符号化された画像シーケンスの符号化及び復号化の方法

Country Status (6)

Country Link
US (1) US20070171971A1 (ja)
EP (1) EP1721471A1 (ja)
JP (1) JP4986842B2 (ja)
CN (1) CN1926876B (ja)
FR (1) FR2867328A1 (ja)
WO (1) WO2005086488A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10827199B2 (en) 2018-04-27 2020-11-03 Fujitsu Limited Encoding device, encoding method, and computer-readable recording medium storing encoding program

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2006109135A2 (en) * 2005-04-11 2006-10-19 Nokia Corporation Method and apparatus for update step in video coding based on motion compensated temporal filtering
FR2909474B1 (fr) * 2006-12-04 2009-05-15 Canon Kk Procede et dispositif de codage d'images numeriques et procede et dispositif de decodage d'images numeriques codees
JP2008160398A (ja) * 2006-12-22 2008-07-10 Matsushita Electric Ind Co Ltd 動画像符号化装置および動画像符号化方法
CN101682760B (zh) * 2007-04-13 2013-08-21 诺基亚公司 视频编码器
KR100939435B1 (ko) * 2007-10-29 2010-01-28 에스케이 텔레콤주식회사 영상 분석 장치 및 방법
KR20090097015A (ko) * 2008-03-10 2009-09-15 삼성전자주식회사 스케일러블 영상 부호화장치 및 스케일러블 영상복호화장치
CN102742270B (zh) * 2010-02-05 2016-02-03 瑞典爱立信有限公司 用于子像素插值的改进的方法和设备
WO2013049412A2 (en) 2011-09-29 2013-04-04 Dolby Laboratories Licensing Corporation Reduced complexity motion compensated temporal processing
US9955176B2 (en) * 2015-11-30 2018-04-24 Intel Corporation Efficient and scalable intra video/image coding using wavelets and AVC, modified AVC, VPx, modified VPx, or modified HEVC coding
US10602187B2 (en) 2015-11-30 2020-03-24 Intel Corporation Efficient, compatible, and scalable intra video/image coding using wavelets and HEVC coding
US10783392B1 (en) * 2017-05-16 2020-09-22 SIF Codec, LLC Motion compensation in system and method for processing digital signals based on compression of hierarchical pyramid

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09322175A (ja) * 1996-05-30 1997-12-12 Sony Corp 動画像復号化方法及び装置
WO2003047270A1 (en) * 2001-11-30 2003-06-05 Ntt Docomo, Inc. Moving picture coding apparatus, moving picture decoding apparatus, moving picture coding method, moving picture decoding method, program, and computer-readable recording medium containing the program
JP2003169337A (ja) * 2001-09-18 2003-06-13 Matsushita Electric Ind Co Ltd 画像符号化方法および画像復号化方法
JP2003319398A (ja) * 2002-04-24 2003-11-07 Nec Corp 動画像の符号化方法および復号化方法、これを用いた装置とプログラム
JP2004007337A (ja) * 2002-04-25 2004-01-08 Sony Corp 画像処理装置およびその方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6674911B1 (en) * 1995-09-14 2004-01-06 William A. Pearlman N-dimensional data compression using set partitioning in hierarchical trees
WO2001078402A1 (en) * 2000-04-11 2001-10-18 Koninklijke Philips Electronics N.V. Video encoding and decoding method
MXPA05000335A (es) * 2002-07-09 2005-03-31 Nokia Corp Metodo y sistema para seleccionar tipo de filtro de interpolacion en codificacion de video.
WO2004036919A1 (en) * 2002-10-16 2004-04-29 Koninklijke Philips Electronics N.V. Fully scalable 3-d overcomplete wavelet video coding using adaptive motion compensated temporal filtering
EP1455534A1 (en) * 2003-03-03 2004-09-08 Thomson Licensing S.A. Scalable encoding and decoding of interlaced digital video data
US8107535B2 (en) * 2003-06-10 2012-01-31 Rensselaer Polytechnic Institute (Rpi) Method and apparatus for scalable motion vector coding

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09322175A (ja) * 1996-05-30 1997-12-12 Sony Corp 動画像復号化方法及び装置
JP2003169337A (ja) * 2001-09-18 2003-06-13 Matsushita Electric Ind Co Ltd 画像符号化方法および画像復号化方法
WO2003047270A1 (en) * 2001-11-30 2003-06-05 Ntt Docomo, Inc. Moving picture coding apparatus, moving picture decoding apparatus, moving picture coding method, moving picture decoding method, program, and computer-readable recording medium containing the program
JP2003319398A (ja) * 2002-04-24 2003-11-07 Nec Corp 動画像の符号化方法および復号化方法、これを用いた装置とプログラム
JP2004007337A (ja) * 2002-04-25 2004-01-08 Sony Corp 画像処理装置およびその方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10827199B2 (en) 2018-04-27 2020-11-03 Fujitsu Limited Encoding device, encoding method, and computer-readable recording medium storing encoding program

Also Published As

Publication number Publication date
US20070171971A1 (en) 2007-07-26
FR2867328A1 (fr) 2005-09-09
JP4986842B2 (ja) 2012-07-25
CN1926876A (zh) 2007-03-07
EP1721471A1 (fr) 2006-11-15
CN1926876B (zh) 2012-05-09
WO2005086488A1 (fr) 2005-09-15

Similar Documents

Publication Publication Date Title
JP4986842B2 (ja) 空間的及び時間的スケーラビリティを以て符号化された画像シーケンスの符号化及び復号化の方法
US8873622B2 (en) Apparatus and method for generating a coded video sequence by using an intermediate layer motion data prediction
JP4334533B2 (ja) 動画像符号化/復号化方法および装置
EP2422521B1 (en) Filter selection for video pre-processing in video applications
JP5378791B2 (ja) 適応補間を使用する映像符号化及び復号化の方法と装置
EP1843593A1 (en) Method for coding video data of a sequence of pictures
US8175153B2 (en) Method of encoding and decoding an image sequence by means of hierarchical temporal analysis
JP2009532979A (ja) 加重平均合を用いてfgs階層をエンコーディングおよびデコーディングする方法および装置
CN110199521A (zh) 用于有损视频编码的低复杂度混合域协同环内滤波器
EP1665796A1 (en) Video encoding methods and devices
EP3348058B1 (en) Adaptive sharpening filter for predictive coding
US8428140B2 (en) Coding and decoding method and device
KR20130053645A (ko) 적응적 루프 필터를 이용한 비디오 부호화/복호화 방법 및 장치
CN110100437B (zh) 用于有损视频编码的混合域协作环路滤波器
JP5122288B2 (ja) 中間レイヤ残余値予測を用いて符号化されたビデオシーケンスを生成および符号化されたビデオシーケンスを復号化するための装置および方法
JP4438797B2 (ja) 動きベクトルの成分に関連する部分を考慮に入れるビデオ画像の符号化のための方法
JP2008517498A (ja) 中間レイヤ動きデータ予測を用いて符号化されたビデオシーケンスを生成するための装置および方法
Garbas et al. 4D scalable multi-view video coding using disparity compensated view filtering and motion compensated temporal filtering
EP1817918A1 (en) Method and apparatus for encoding/decoding multi-layer video using dct upsampling
Taieb et al. Progressive Coding and Side Information Updating for Distributed Video Coding.
Ascenso et al. A denoising approach for iterative side information creation in distributed video coding

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080109

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100728

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20100728

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20100803

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20100803

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100831

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20101129

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20101206

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110216

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20111129

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120403

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120424

R150 Certificate of patent or registration of utility model

Ref document number: 4986842

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150511

Year of fee payment: 3

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees
S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R360 Written notification for declining of transfer of rights

Free format text: JAPANESE INTERMEDIATE CODE: R360

R371 Transfer withdrawn

Free format text: JAPANESE INTERMEDIATE CODE: R371