JP4847521B2 - 複数の映像規格に従った映像符号化の際のブロックノイズ除去フィルタリング技術 - Google Patents

複数の映像規格に従った映像符号化の際のブロックノイズ除去フィルタリング技術 Download PDF

Info

Publication number
JP4847521B2
JP4847521B2 JP2008513796A JP2008513796A JP4847521B2 JP 4847521 B2 JP4847521 B2 JP 4847521B2 JP 2008513796 A JP2008513796 A JP 2008513796A JP 2008513796 A JP2008513796 A JP 2008513796A JP 4847521 B2 JP4847521 B2 JP 4847521B2
Authority
JP
Japan
Prior art keywords
video
codec
coding standard
block
filtering
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008513796A
Other languages
English (en)
Other versions
JP2008543183A (ja
Inventor
リャン、イ
マンジュナス、シャラス
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2008543183A publication Critical patent/JP2008543183A/ja
Application granted granted Critical
Publication of JP4847521B2 publication Critical patent/JP4847521B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/42Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by implementation details or hardware specially adapted for video compression or decompression, e.g. dedicated software implementation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Picture Signal Circuits (AREA)

Description

本開示は、デジタル映像処理に関し、より具体的には、隣接する映像ブロック間のブロックノイズの人為的影響(blockiness artifacts)を減ずるためのフィルタリング技術に関する。
デジタル映像能力が多様な装置に組み込まれることが可能となっている。このような装置として、デジタルテレビ、デジタル直接放送システム、無線通信装置、携帯情報端末(PDA)、ラップトップ・コンピュータ、デスクトップ・コンピュータ、デジタル・カメラ、デジタル記録装置、無線または衛星電話等が含まれる。デジタル映像装置によって、フルモーションの映像シーケンスを作製したり、修正したり、送信したり、保存したり、記録したり、再生したりする際に、従来のアナログ映像からの大幅な向上が可能になっている。
デジタル映像シーケンスを符号化するための異なる映像符号化規格が数多く制定されている。例えば、動画像専門委員会(MPEG)は、MPEG−1、MPEG−2、MPEG−4を含む数多くの規格を作成してきた。他の規格には、国際電気通信連合・電気通信標準化部門(ITU−T) H.263規格、カリフォルニア州クパチーノ市のアップルコンピュータ社によって開発されたQuickTimeTM技術、ワシントン州レドモンド市のマイクロソフト社によって開発されたVideo for Windows(登録商標)TM、インテル社によって開発されたIndeoTM、ワシントン州シアトルのリアルネットワーク社によるRealVideoTM、スーパーマック社によって開発されたCinepackTM、が含まれる。また、ITU−T H.264規格および数多くの独自規格を含め、新たな規格が登場し、発展し続けている。
多くの映像符号化規格は、データを圧縮された形で符号化することによって映像シーケンスの送信レートを向上させることを可能にする。圧縮によって、映像フレームを効率よく送信する際の送信データの総量を減ずることができる。ほとんどの映像符号化規格は、例えば、映像または画像を狭い帯域で送信することを容易にするように設計された画像および映像圧縮技術を利用する。
MPEG規格や、ITU−T H.263およびITU−T H.264規格は、例えば、時間的またはフレーム間相関と呼ばれる、連続する映像フレーム間の類似性を利用する映像符号化技術をサポートしてフレーム間の圧縮を行なう。フレーム間圧縮技術は、映像フレームのピクセルによる表現を動きによる表現へと変換することによって、フレームを跨いだデータ冗長性を利用する。また、映像符号化技術の中には、空間的またはフレーム内相関と呼ばれる、フレーム内での類似性を利用して映像フレームをさらに圧縮するものがある。映像フレームは、多くの場合、より小さな映像ブロックへと分割され、この映像ブロックの単位でフレーム間またはフレーム内相関が行なわれる。
映像フレーム圧縮を行なうために、デジタル映像装置は、典型的には、デジタル映像シーケンスを圧縮するための符号器と、デジタル映像シーケンスを解凍するための復号器とを含んでいる。多くの場合、符号器と復号器によって、これらが一体化された「コーデック」が形成される。コーデックは、映像シーケンスを作るフレーム内でのピクセルのブロックに対して動作する。本開示で用いられるように、「コーデック」という文言は、符号器、または復号器、または一体化された符号器/復号器を意味している。
MPEG−4規格では、コーデックは、典型的には、送信される映像フレームを、「マクロブロック」と呼ばれる映像ブロックへと分割する。ITU−T H.264規格は、16×16の映像ブロック、16×8の映像ブロック、8×16の映像ブロック、8×8の映像ブロック、8×4の映像ブロック、4×8の映像ブロック、4×4の映像ブロックをサポートする。他の規格では、別の大きさの映像ブロックがサポートされるかもしれない。ビデオフレーム内の各映像ブロックについて、コーデックは、1つ以上の先行(または後続)映像フレームの同様サイズの映像ブロックを探索して、最も類似する映像ブロックを特定する。特定された映像ブロックは、「最良予測」と呼ばれる。現在の映像ブロックを他のフレームの映像ブロックと比較する工程は、一般に、動き推定と呼ばれる。現在の映像ブロックについての「最良予測」が動き推定の間に特定されさえすれば、コーデックは現在の映像ブロックおよび最良予測の間の差分を符号化できるようになる。
現在の映像ブロックと最良予測との間の差分を符号化する工程は、動き補償と呼ばれる処理を含んでいる。動き補償は、符号化対象の現在の映像ブロックと最良予測との間の差分を表す差分ブロックを作製する処理を備えている。具体的には、動き補償とは、通常、動きベクトルを用いて最良予測ブロックを取り込み、次いで入力ブロックから最良予測を減じて差分ブロックを生成する行為を指す。差分ブロックは、典型的には、差分ブロックによって表される元の映像ブロックよりも少ないデータを含んでいる。
動き補償によって差分ブロックが形成された後、一連のさらなるステップが実行されて差分ブロックがさらに符号化されるとともにデータがさらに圧縮される。このさらなるステップは、用いられている符号化規格に依存している。例えば、MPEG−4準拠のコーデックでは、このさらなるステップは、8×8の離散的コサイン変換を含み、スカラー量子化、ラスタ−ジグザグ再配列、連長符号化、ハフマン符号化が続く。符号化された差分ブロックは動きベクトルとともに送信される。動きベクトルは、先行フレーム(または後続フレーム)のうちのどのブロックが符号化の際に用いられたかを示している。受信装置のコーデックは、動きベクトルおよび符号化された差分ブロックを受信し、この受信した情報を復号して映像シーケンスを再構成する。
フレーム間および/またはフレーム内圧縮の際に別々の映像ブロックを用いることによって、隣接する映像ブロック間で映像シーケンスに人為的影響(artifact)が生じることがある。具体的には、映像符号化を行なうために映像フレームが映像ブロックに分割される際に、ある映像ブロックの縁が別の映像ブロックの隣接する縁と非連続に見えることがある。これが発生すると、映像フレームは、「ブロック様に(blocky)」見え得る。これは、非常に望ましくない。映像ブロックを変換したり量子化したりすることによって、この望ましくないブロックノイズ(blockiness)による影響が符号化された映像フレーム内に混入され得る。
「ブロックノイズ」を除去するために、フィルタリングを映像ブロックに施して隣接する映像ブロック間の移行を「滑らか」にすることができる。ブロックノイズ除去(deblocking)フィルタは、一般に、隣接する映像ブロック間の移行を滑らかにしてブロックノイズの人為的影響を減じたり除去したりするために用いられるフィルタを指している。ITU−T H.264規格は、例えば、ループ内符号化の一部として、ブロックノイズ除去フィルタを要求する。この場合、フィルタリングがループ内符号化の一部であると、動き推定および動き補償において用いられる、以前に符号化されたフレームは、このようなフレームのフィルタリングを経た形態を有している。符号化ループの一部としてブロックノイズ除去フィルタを求めない他の規格についても、ポスト・ブロックノイズ除去フィルタによって映像符号化の質を改善することができ得る。
本開示によって、第1コーデックのループ内ブロックノイズ除去フィルタが第2コーデックのポスト・ブロックノイズ除去フィルタとして用いられるブロックノイズ除去フィルタリング技術が説明される。また、入力パラメータを調整したり両方のコーデックとともにフィルタを効果的に使用することを容易にしたりするための数多くの技術が説明される。この技術によって、異なる符号化規格に従って動作する複数のコーデックを含んだ装置のアーキテクチャを簡略化することができる。具体的には、符号化フォーマットが異なる場合に、符号化規格がループ内フィルタリングを要求するのか、またはポスト・フィルタリングが用いられるのかに関わらず同じブロックノイズ除去フィルタを用いることができる。例えば、ITU−T H.264符号化規格に準拠するコーデック用のループ内ブロックノイズ除去フィルタとして設計されたフィルタが、MPEG−4用のポスト・ブロックノイズ除去フィルタとして用いられることが可能になっている。
一実施形態では、本開示によって、動き推定および動き補償を含んだ第1符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定する第1映像符号化規格に準拠している第1映像コーデックのループ内ブロックノイズ除去フィルタを、第2符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定しない第2映像符号化規格に準拠している第2映像コーデックのポスト・ブロックノイズ除去フィルタとして適用することを具備する方法が提供される。
一実施形態では、本開示によって、第1映像シーケンスと関連を有する第1映像ブロックに対して予測に基づいた符号化技術を用いる第1映像符号化規格に従って前記第1映像シーケンスを符号化する第1コーデックと、前記第1コーデックによってループ内フィルタとして用いられる、前記第1映像シーケンス内の隣接する映像ブロックの遷移を滑らかにするためのブロックノイズ除去フィルタと、第2映像シーケンスと関連を有する第2映像ブロックに対して予測に基づいた符号化技術を用いる第2映像符号化規格に従って前記第2映像シーケンスを符号化し、前記第2映像シーケンスと関連を有する隣接する映像ブロック間の移行を滑らかにするためにポスト・フィルタとして前記ブロックノイズ除去フィルタを用いる、第2コーデックと、を具備する映像符号化装置が提供される。
本明細書に記載のこれらの技術および他の技術は、デジタル映像装置において、ハードウェア、ソフトウェア、ファームウェア、またはこれらの組合せによって実現され得る。ソフトウェアによって実現される場合、このソフトウェアは、デジタル信号プロセッサ(DSP)おいて実行され得る。この場合、本技術を実行するソフトウェアは、初めはコンピュータ読み取り可能媒体に保存されており、デジタル映像装置においてブロックノイズ除去フィルタリングを行なうためにDSPにおいて読み出され且つ実行される。
様々な実施形態のさらなる詳細は、添付の図面および以下の記述において示されている。他の特徴、目的、利点は、この記述、図面、請求の範囲から明らかとなるであろう。
本開示によって、第1コーデックのループ内ブロックノイズ除去フィルタが第2コーデックのポスト・ブロックノイズ除去フィルタとして用いられるブロックノイズ除去フィルタリング技術が説明される。ブロックノイズ除去フィルタリングという文言は、概して、フレーム間相関またはフレーム内相関等の相関技術を用いるあらゆる映像符号化において現れるブロックノイズの人為的影響を減少または除去可能なフィルタリング技術を指している。予測に基づいた符号化技術が用いられる場合、映像符号化は、映像フレームの別個独立の映像ブロックに対して実行され、映像ブロックは圧縮を行なうために他の映像ブロックと相関される。
フレーム内符号化では、符号化対象の現在の映像ブロックが同じ映像フレームの1つ以上の別の映像ブロックと比較され、現在の映像ブロックと現在の映像ブロックの比較対象の1つ以上の映像ブロックとの間の相関を探すことによって映像圧縮の実現が可能となっている。フレーム間符号化では、あるフレームの映像ブロックが、映像シーケンスのこれとは別のフレームの1つ以上の映像ブロックと比較され、符号化対象の現在の映像ブロックと現在の映像ブロックに近似する別のフレーム(例えば、先行または後続シーケンスフレーム)の映像ブロックとの間の相関を探索することによって映像圧縮の達成が可能となっている。フレーム間符号化は、動き推定および動き補償と呼ばれる処理を含み得る。
ブロックノイズ除去フィルタは、ブロックノイズの人為的影響を減少または除去することを目的として隣接する映像ブロック間の移行を滑らかにするために用いられるフィルタを指している。ITU−T H.264規格では、例えば、ループ内符号化の一部としてブロックノイズ除去フィルタリングが要求されている。この場合、フィルタリングがループ内映像符号化の一部であると、動き推定および動き補償で用いられる、以前に符号化されたフレームは、このようなフレームのフィルタリングを経た形態である。換言すれば、「ループ内」ブロックノイズ除去フィルタリングは、符号化対象の現在の映像ブロックと以前の映像ブロックとの間の予測の最中にフィルタを経た映像ブロックまたはフレームを後続の符号化が用いるように符号化ループの一部を形成するブロックノイズ除去フィルタリングを指している。
しかしながら、規格の中には、ブロックノイズ除去フィルタリングはループ内符号化の一部として要求しないものがある。例えば、標準MPEG−4(本明細書ではMPEG−4と称する)では、規格に従うためにブロックノイズ除去フィルタリングを設けることが要求されていない。そうであっても、符号化ループの一部としてブロックノイズ除去フィルタリングを要求しない例えばMPEG−4または他の規格において、ポスト・ブロックノイズ除去フィルタリングによって復号された映像の画質を改善することができ得る。このような場合、ブロックノイズ除去フィルタリングをループ内符号化の後に適用して映像ブロック間のブロックノイズの人為的影響を除去することができる。一般に、ポスト・フィルタリングは、復号の後に適用され、符号化ループの一部を形成しない。よって、後続のあらゆる符号化において、符号化対象の現在の映像ブロックと以前の映像ブロックとの間で相関を取るための比較の間、フィルタを経ていない映像ブロックまたはフレームが用いられる。
本開示に従って、第1コーデックのループ内ブロックノイズ除去フィルタが第2コーデックのポスト・ブロックノイズ除去フィルタとして用いられる技術が説明される。入力パラメータ調整を容易にするとともに2つのコーデックとともにフィルタを効果的に使用することを可能にする多くの技術も説明される。例えば、フィルタが第1符号化規格の下である入力を受信するように設計されている場合、第2符号化規格の下での入力は、同じフィルタが第2符号化規格用に用いられることを可能とするために、調整される必要があり得る。
一般に、本技術によって、異なる符号化規格に従って動作する複数のコーデックを含んだ映像符号化装置のアーキテクチャを簡略化できる。詳しくは、符号化規格がループ内フィルタリングを要求しているかまたはポスト・フィルタリングを要求しているか関わらずに、異なるコーデックが同じブロックノイズ除去フィルタ用いることが可能となる。本技術は、衛星または地上無線電話のような映像機能を有する小さなハンドヘルド装置またはハードウェアの小型化が望ましいあらゆる装置に対して特に価値がある。本技術は、フレーム間相関およびフレーム内相関を含む、内容の相関を探索するあらゆる映像符号化規格とともに用いることができる。
図1は、本開示に従った符号化装置10のブロック図である。符号化装置10は、映像シーケンスを符号化または復号するために用いられ得る多様のあらゆる装置から構成され得る。符号化装置10の例には、一般に、サーバ、あるいはワークステーションまたは他のデスクトップ・コンピュータ装置、あるいはラップトップ・コンピュータまたは携帯情報端末(PDA)等の携帯型コンピュータ装置等のあらゆるコンピュータが含まれる。他の例には、デジタルテレビ放送衛星およびデジタルテレビ等の受信装置、デジタル・カメラ、デジタル・ビデオ・カメラ、または他のデジタル記録装置が含まれる。さらに別の例には、映像性能を有する携帯電話のようなデジタル映像電話、映像性能を有する直接双方向通信装置、他の無線映像装置等が含まれる。本技術は、その大きさおよび電源消費がより問題となる小型ハンドヘルド装置に対して、特に有用である。
符号化装置10は、メモリ12を含んでいる。メモリ12は、あらゆる揮発性または不揮発性記憶素子からなっている。メモリ12は、オンチップおよびオフチップ・メモリの両方を含む場合もある。例えば、メモリ12は、映像シーケンスを保存する比較的大きなオフチップ・メモリ、および符号化プロセスで用いられる小型且つ高速の局所オンチップメモリを含み得る。この場合、オフチップ・メモリは、ダイナミック・ランダム・アクセス・メモリ(DRAM)またはフラッシュ・メモリからなり、局所オンチップメモリは、同期式ランダム・アクセス・メモリ(SRAM)からなる。しかしながら、簡略化のために、1つのメモリ12が描かれて、映像符号化を円滑に行なうために用いられることが可能なあらゆる数のメモリ素子を表している。
符号化装置10は、それぞれが異なる符号化規格に従って映像シーケンスを符号化する複数のコーデックを含んでいる。例えば、符号化装置10は、第1映像符号化規格に従って映像シーケンスを符号化する第1コーデック14と、第2映像符号化規格に従って映像シーケンスを符号化する第2映像コーデック16とを含んでいる。符号化装置10によって用いられるコーデックは、使用者が選択したり、符号化対象のシーケンスに基づいて符号化装置10が動的に選択したり、符号化装置10の製造会社または販売会社によってプログラムされることが可能である。
本開示に従って、第1、第2コーデック14、16は、ブロックノイズ除去フィルタ18を共用する。よって、ブロックノイズ除去フィルタ18は、コーデック14または16との一体化要素としてもみなされ得るし、別々の要素としてもみなされ得る。いずれの場合でも、ブロックノイズ除去フィルタ18は、コーデック14、16の両方のためにブロックノイズ除去フィルタリングを行なう。
コーデック14は、ループ内ブロックノイズ除去フィルタリングを定める第1符号化規格に従って映像シーケンスを符号化する。よって、コーデック14については、ブロックノイズ除去フィルタ18は、符号化または予測ループの一部として動作する。一方、コーデック16は、ループ内ブロックノイズ除去フィルタリングを定めない第2符号化規格に従って映像シーケンスを符号化する。よって、コーデック16については、ブロックノイズ除去フィルタ18は、符号化ループの一部ではないポスト・フィルタとして動作する。このフィルタへの入力は、第1符号化規格用のループ内フィルタリング向けに設計されたフィルタを用いた第2符号化規格向けのポスト・フィルタリングを可能とするために変更され得る。
各コーデック14、16は、符号器、復号器、または符号器/復号器の一体構造からなる。いずれの場合でも、コーデック14、16は、ハードウェア、ソフトウェア、ファームウェア、1つ以上のデジタル信号プロセッサ(DSP)、マイクロプロセッサ、特定用途向け集積回路(ASIC)、フィールド・プログラマブル・ゲートアレイ(FPGA)、ディスクリート型ハードウェア要素、またはこれらの様々な組合せによって、一体構造としてまたは別々に実現される。例として、ブロックノイズ除去フィルタ18は、コーデック14、16の一方からの入力を受信する、ハードウェアによって実現されるフィルタによって構成される。しかしながら、本明細書に開示の技術に従って、ソフトウェアによって実現されたフィルタまたはファームウェアによって実現されたフィルタが用いられてもよい。
各コーデック14、16は、映像シーケンスを圧縮するために、予測に基づいた符号化技術を行なう。予測に基づいた符号化技術は、フレーム間またはフレーム内技術、または両方に基づいたものとすることができる。コーデック14、16は、映像データを符号化するために、映像フレームのシーケンス内のピクセルのブロック(またはDCT係数のような、他の映像ブロック係数)に対して動作する。例えば、コーデック14、16は、動き推定および動き補償技術を実行する。動き推定および動き補償技術において、送信対象の映像フレームは、ピクセルまたDCT係数のブロック(いずれの場合も映像ブロックと称する)へと分割される。説明を行なうために、映像ブロックは、あらゆる大きさのブロックから構成され得、また所与の映像シーケンス内で異なり得る。
例として、ITU−T H.264規格は、16×16映像ブロック、16×8映像ブロック、8×16映像ブロック、8×8映像ブロック、8×4映像ブロック、4×8映像ブロック、4×4映像ブロックをサポートしている。MPEG−4規格は、ピクセルの16×16の映像ブロック(「マクロブロック」と称することがある)をサポートし、マクロブロックは、MPEG−4規格に従ったDCT変換に続いてDCT係数の8×8映像ブロックへと分割される。一般に、映像符号化の際により小さな映像ブロックを用いると、符号化の際の分解能を上げることができ、より小さな映像ブロックは、特に、非常に細かい部分を含む映像フレームの領域に対して用いられ得る。
映像ブロック内の各ピクセルは、色や色度および明度等の強度のようなピクセルの映像上の特性を規定するnビットの値、−例えば8ビット−、によって表される。各ピクセルは、色度および明度の両方について1つ以上の8ビット値を有し得る。しかしながら、本開示の原理は、このようなピクセルのフォーマットによって限定されず、より単純なより少数のビットのピクセル・フォーマットまたはより複雑なより多数のビットのピクセル・フォーマットとともに用いられることへと拡張されても構わない。ピクセルは、他の色座標システムに従って定義されてもよい。また、映像ブロックは、サポートされている映像符号化規格に基づいて、DCT係数または他の係数または変数によって表されても良い。
再びではあるが、ブロックノイズ除去フィルタ18は、第1コーデック14および第2コーデック16によって用いられ、このことによって、各コーデック用の個別のフィルタを設ける必要がない。しかしながら、第1コーデック14については、ブロックノイズ除去フィルタ18は、ループ内フィルタとして実現され、一方、第2コーデック16については、ブロックノイズ除去フィルタ18は、ポスト・フィルタとして実現されている。ポスト・フィルタとして用いられる場合、フィルタリングは、表示を行なう目的のために符号器側で適用されるが、より典型的には映像シーケンスの復号後に適用される。いずれの場合でも、このようなフィルタリングが2者いずれでも機能することをサポートするために、フィルタへの入力パラメータ(例えば量子化パラメータ(QP))は、1つの規格から別の規格へとマッピング(map)されることが必要となり得る。コーデック14、16は、それぞれ、ブロックノイズ除去フィルタ18を作動させる前に必要なマッピングまたはフィルタ入力に対する調整を行なうフィルタユニットを含み得る。このような調整についてのさらなる詳細(MPEG−4からITU−U H.264へのQPのマッピングを含む)は、後に詳述する。
符号化装置10は、符号化されたシーケンスを他の装置へと送信する送信器を含み得、場合によってはビデオカメラ等の映像シーケンスを捕捉するとともに捕捉されたシーケンスをメモリ12に保存するための映像捕捉装置を含む場合もある。フレーム内符号化素子、さらなる符号器、他の様々なフィルタ、または他の素子等の多くの他の素子も装置10に含まれ得るが、簡略化のために図示されてはいない。
図2は、ブロックノイズ除去フィルタリングの概念を示すための、2つの隣接する映像ブロックを示す図である。図2に示すように、映像ブロック[P]は映像ブロック[Q]のすぐ隣に位置する8×8画素の復号された映像ブロックである。映像ブロック[Q]も、8×8画素の復号された映像ブロックである。映像ブロック[P]および[Q]の異なる画素のそれぞれには、下付き文字が付されている。異なる画素は、映像ブロックを表すためのピクセル値によって構成されている。各画素は、また、色度および明度の値の両方を表している。ブロックP、Qは、再構成されたピクセル値を有する復号されたブロックである。
予測に基づいた映像符号化および量子化故に、映像ブロック[P]、[Q]の各ピクセル値は、映像ブロック[P]、[Q]が並ぶ境界で非連続となっている。換言すれば、画素の第8列目中の画素P07乃至P77の値は、画素Q00乃至Q70の値と、これらの列の境界20に沿ってブロックノイズの人為的影響が生じるのに十分なほどに異なっている。同様の問題が、ある映像ブロックのあらゆる辺に沿って生じ得、また、ブロック[P]、[Q]の直接隣接する位置のみでなくブロック[P]、[Q]の境界20の近くの他の列にも生じ得る。DCT変形のような映像ブロックを量子化したり変換したりすることによって、符号化された映像フレームにおける望ましくないブロックノイズの人為的影響が悪化し得る。
ブロックノイズ除去フィルタリングは、異なる映像ブロックの隣接する画素の値を調整することによって、境界20を滑らかにすることができる。例えば、画素P07乃至P70の値が画素Q07乃至Q70の値より十分に大きい場合、境界20の見た目を滑らかにするために、ブロックノイズ除去フィルタリングによってP07乃至P70の値を減ずるか、画素Q07乃至Q70の値を増やすか、その両方を行い得る。境界20の近くの他の画素にフィルタが適用されてもよい。しかしながら、シーンの変化(scene change)が境界20によって表されていることがある。この場合、ブロックノイズ除去フィルタリングが回避される必要があるかもしれない。典型的には、ブロックノイズ除去フィルタリングは、境界20に沿った画素の値が、境界20に沿ったシーンの変化の可能性があることを意味する過度に異なった場合ではなく、連続的であるべきであることを意味する適度に異なった場合に適用される。フィルタリング判断によって、境界20においておそらくはシーンの変化であるということに基づいて、フィルタリングを行なわないかどうかが判断される。
繰り返しではあるが、本明細書に開示の技術によって、ループ内ブロックノイズ除去フィルタリング向けに元々は設計されたブロックノイズ除去フィルタを用いたポスト・ブロックノイズ除去フィルタリングが容易になる。このようにして、一方はループ内ブロックノイズ除去フィルタリングを要求し他方はポスト・ブロックノイズ除去フィルタリングを要求はしないがそれによって符号化の映像の画質を改善できる異なった映像符号化規格に従って動作する2つの異なるコーデックによって、同じブロックノイズ除去フィルタが用いられ得る。
図3は、本開示に従った、ブロックノイズ除去フィルタを共用する複数のコーデックを含んだ符号化装置30のブロック図である。符号化装置30は、図1の符号化装置10を具体的に実現した1つの形態である。図3に示すように、映像符号化装置30は、符号化対象の映像シーケンスを保存するメモリ32と、メモリ32と接続されたITU−T H.264コーデック34と、メモリ32と接続されたMPEG−4コーデック36と、を含んでいる。
ITU−T H.264コーデック34は、ITU−T H.264規格に従って映像シーケンスを符号化する。ITU−T H.264コーデック34は、符号器37および復号器35を含んでいる。符号器37および復号器35の実際の実現形態は、ハードウェアを共用することであろうが、これらの要素は別々に図示されている。符号器37は、動き推定および動き補償を行ない得る。符号器37は、このような予測に基づいた符号化を行なう符号化ユニット21を含むが、復号ユニット22も含んでいる。復号ユニット22は、後に予測を行なうために用いられる符号化された映像フレームを再構成するために用いられる。復号ユニット22および符号器35は多くの共通の要素を備えているが、説明のために別々に図示されている。他の多くの要素も含まれているのだが、簡略化のために図示していない。フィルタリング・ユニット23は、ITU−T H.264規格に従った、符号器37の符号化ループの一部を形成するブロックノイズ除去フィルタ24を含んでいる。復号器35もITU−T H.264規格に従って復号を行なうためにブロックノイズ除去フィルタ24を用いる。
メモリ32は、探索空間とともに符号化される映像フレームを保存する。映像フレームは、1つ以上の先行(または後続)映像フレームの映像ブロックの部分集合から構成され得る。選択された部分集合は、符号化対象の現在の映像ブロックに最も良く合致する最良予測を特定するための有望な位置として事前に特定される。また、探索空間は、動き推定の途次で変化し得、探索空間の大きさが徐々に小さくなる。後の探索は先の探索よりも大きな分解能で実行されるからである。
符号化ユニット21は、最良予測を特定するために、符号化対象の現在の映像ブロックを探索空間内の様々な映像ブロックと比較する。しかしながら、場合によっては、全ての候補を検査することなく符号化に供するための適当な一致が素早く特定されることがある。この場合、この適当な一致は、映像符号化を実行するのに適当ではあっても、実際の「最良の」予測ではないかもしれない。一般に、「予測映像ブロック」という文言は、最良予測の一致をいい、それが最良の予測である。
符号化ユニット21は、符号化対象の現在の映像ブロックとメモリ32の探索領域内の候補映像ブロックとを比較する。場合によっては、候補映像ブロックは、分数補間用に生成された非整数ピクセル値を含み得る。例として、符号化ユニット21は、候補映像ブロックについての差分値を決定することを目的として、絶対差分和(SAD)技術、2乗差分和(SSD)技術、またはその他の比較技術を実行することができる。差分値がより小さいということは、候補映像ブロックが、より良く一致し、結果、より高い差分値を作り出す別の候補映像ブロックよりも動き推定符号化の際に用いるのにより優れた候補であることを意味する。
最終的には、符号化ユニット21は、予測映像ブロックを特定する。予測映像ブロックは、現在の映像ブロックを符号化するために用いられる予定の候補映像ブロックである。動き推定器21によって予測映像ブロックが一旦特定されると、動き補償器22は、現在の映像ブロックと予測映像ブロックとの間の差分を示す差分ブロックを生成する。差分ブロックは、所望によりさらに圧縮される。
ブロックノイズの人為的影響を減ずるために、ITU−T H.264規格は、符号化ループの一部としてブロックノイズ除去フィルタ24を用いること要求している。ITU−T H.264規格に従って、フィルタリング・ユニット23は、ブロックノイズ除去フィルタ24を映像ブロックに適用する。復号ユニット22は、符号化されたフレームを再構成して後続ブロックの符号化を容易にする。符号化されたフレームの再構成によっても、ループ内フィルタリングが適用されることが可能になる。ブロックノイズ除去フィルタリングは、映像符号化用に選択された量子化パラメータ、ITU−T H.264規格によって決定された境界強度、フィルタリング判断に基づいている。
量子化パラメータ(QP)は、符号化の際に用いられる量子化のレベルを規定するパラメータであり、典型的には、所望の符号化レートまたは圧縮によって達成される必要がある所望の帯域に基づいて決定される。境界強度は、0から4の値を有するパラメータである。境界強度が0であると、フィルタリングが行なわれない結果となり、境界強度が4であると、フィルタリングが最も強力に行なわれる結果となる。境界強度1、2、3は、この順に増加するフィルタリングのレベルを定義している。ITU−T H.264規格は、映像ブロック端の境界強度を決定するための様々な基準を示している。
フィルタリング判断は、一般的に、シーンの変化が生じているであろうという事実を説明する閾値に基づいて、フィルタリングを行なうか否かを決定することである。フィルタリング判断では、映像ブロック画素の値(例えばピクセル値またはDCT係数)が調べられ、隣接する映像ブロックの画素間の差分が様々な閾値と比較される。差分が閾値未満である場合、フィルタリング判断によってフィルタリングが許可され、ブロックの境界で画像が連続することが望ましいとみなされる。しかしながら、差分が閾値を超えている場合、フィルタリング判断によってフィルタリングが行なわれず、画像が、フィルタリングされるべきでないブロック境界でのシーンの変化を意味しているとみなされる。ITU−T H.264規格および他のITU−T H.264関連の書類には、境界強度計算およびフィルタリング判断を進めるための計算法が示されている。
ITU−T H.264コーデック34は、また、ITU−T H.264規格に従った復号器35を含んでいる。復号器35も、ITU−T H.264に従って復号を行なうためにブロックノイズ除去フィルタ24にアクセスする。重要なことは、コーデック34によるブロックノイズ除去フィルタリングは、ITU−T H.264規格で求められているように符号化ループの一部として適用されることである。
MPEG−4コーデック36は、MPEG−4映像符号化規格に従って映像シーケンスを符号化する。MPEG−4コーデック36は、符号器25と、復号器26と、フィルタリング・ユニット28と、を含んでいる。符号器25および復号器26の実際の実現形態は、ハードウェアを共用することであろうが、これらの要素は別々に図示されている。他の多くの要素も含まれ得るが、簡略化のために記載されていない。本開示に従って、フィルタリング・ユニット28は、ITU−T H.264コーデック34のブロックノイズ除去フィルタ24にアクセスし、ブロックノイズ除去フィルタ24をポスト・フィルタとして用いる。ブロックノイズ除去フィルタ24は、ポスト・フィルタとして用いられているときは、符号化ループの一部を形成しない。このようなポスト・フィルタリングは、表示のために符号器側で行なわれ得るが、典型的には、復号が行なわれた後に適用される。
ITU−T H.264コーデック34と同様に、MPEG−4コーデック36の符号器25は、動き推定および動き補償を利用してフレーム間符号化を行なう。メモリ32は、符号化対象の映像フレームを、探索空間とともに保存する。符号化ユニット27は、例えばSAD技術、SSD技術等を用いて予測映像ブロックを特定するために、候補映像ブロックと符号化対象の現在の映像ブロックとの間の類似性を定量化するために、符号化対象の現在の映像ブロック探索空間内の様々な映像ブロックと比較する。予測映像ブロックが一旦特定されると、符号器ユニット27は、現在の映像ブロックと予測映像ブロックとの間の差分を示す差分ブロックを生成する。DCT変換も行なわれる。DCT変換によって、ブロックノイズの人為的影響が導入され、または混入する。復号ユニット22は、符号化されたフレームを再構成して、後続の映像ブロックおよびフレームの予測符号化を容易にする。
MPEG−4コーデック36は、また、MPEG−4規格に従った復号器26を含んでいる。復号器26は、また、MPEG−4規格に従った復号中にポスト・フィルタリングを適用するために、フィルタリング・ユニット28を介してブロックノイズ除去フィルタ24にアクセスする。重要なことは、MPEG−4コーデック36については、ブロックノイズ除去フィルタリングは、符号化ループの一部を形成しないが、復号された映像フレームを改善するためのポスト・フィルタリングとして適用されることである。
MPEG−4規格は、符号化ループの一部としてブロックノイズ除去フィルタリングを要求しない。しかしながら、ポスト・フィルタリングは、MPEG−4に対する準拠を損なうことなく、例えばMPEG−4規格書類の参考的な(informative)付属書類Fの後処理部において述べられているように、適用されても構わない。このようなポスト・フィルタリングをサポートするために、MPEG−4コーデック36は、フィルタリング・ユニット28を含んでいる。しかしながら、本開示において説明されているように、フィルタリング・ユニット28は、それ自身がフィルタを含んではいない。代わりに、フィルタリング・ユニット28は、ITU−T H.264コーデック34のループ内ブロックノイズ除去フィルタ24にアクセスするとともに、ブロックノイズ除去フィルタ24をMPEG−4向けのポスト・ブロックノイズ除去フィルタとして用いる。このようにして、2つの別個のフィルタを設ける必要性がなくなる。
フィルタリング・ユニット28は、ブロックノイズ除去フィルタ24を効果的に用いるのに必要なあらゆる入力パラメータの調整を行なう。このフィルタリングは、映像符号化用に選択される量子化パラメータ、境界強度、フィルタリング判断に基づき得る。しかしながら、これらのパラメータを生成することは、MPEG−4からITU−T H.264へのマッピングまたは調整が必要になるかもしれない。MPEG−4については、ブロックノイズ除去フィルタ24は、ITU−T H.264で定義されている長さの辺とは異なり、8×8ブロックエッジに適用されることが可能である。なぜなら、DCTは、典型的には8×8の大きさのブロックに適用されるからである。
量子化パラメータ(QP)は、符号化の際に用いられる量子化のレベルを規定するパラメータであり、典型的には、所望の符号化レートまたは圧縮によって達成される必要がある所望の帯域に基づいて決定される。残念ながら、MPEG−4とITU−T H.264は、同じ数のQPまたはQPについての同じ分解能を有していない。具体的には、ITU−T H.264規格では、MPEG−4よりも、多くのQP分解能が可能となっているとともにより多くのQPが含まれている。このことは、より精密な分解能を規定するために用いられている。
QPは、ブロックノイズ除去フィルタ24への入力パラメータであるので、フィルタリング・ユニット28は、MPEG−4用のQPをITU−T H.264用のQPへとマッピングする。このITU−T H.264用のQPは、次いで、ブロックノイズ除去フィルタへの入力パラメータとして用いられる。フィルタリング・ユニット28は、このマッピングを行いあるいはマッピング等式を適用するために、メモリ32内に保存されている参照表(LUT)にアクセスし得る。例えば、このQP変換は、以下の等式1に従って行なわれる。
QPH.264FILTER=round(6logQPMPEG−4/log2+20)…等式1
以下の表1は、この等式の出力マッピングであり、LUTとして保存され得る。
Figure 0004847521
フィルタリング・ユニット28は、図4に示すプロセスに従って、2つの隣接するブロックの間の境界強度を決定する。図4に示すように、フィルタリング・ユニット28は、2つの隣接する映像ブロック、すなわち映像ブロック[P]と映像ブロック[Q]、の間のブロック境界を調べる(41)。映像ブロック[P]、[Q]のいずれもがフレーム内符号化されていない場合(42のNOの分岐)、境界強度2が境界に割り当てられる(43)。映像ブロック[P]、[Q]の少なくとも一方がフレーム内符号化されている(42のYESの分岐)がブロック境界がマクロブロック境界でない場合(44のNOの分岐)、境界強度3が境界に割り当てられる(45)。一方または両方の映像ブロック[P]、[Q]がフレーム内符号化されている(42のYESの分岐)とともにブロック境界がマクロブロック境界である(44のYESの分岐)場合、境界強度4が境界に割り当てられる(46)。図4のプロセスに従うと、境界強度0および1はMPEG−4映像ブロック境界には決して割り当てられない。
次いで、フィルタリング・ユニット28は、ITU−T H.264ブロックノイズ除去フィルタリングに従ってフィルタリング判断を特定する。フィルタリング判断は、広くは、シーンの変化が存在し得るという事実を説明する閾値に基づいて、フィルタリングを行なうか否かを決定することである。ITU−T H.264規格に従えば、フィルタリング判断において、映像ブロック要素が検査されるとともに隣接する映像ブロック間の様々な差分が様々な閾値と比較される。差分が閾値未満である場合、フィルタリング判断によってフィルタリングが許可され、ブロックの境界で画像が連続することが望ましいとみなされる。しかしながら、差分が閾値を超えている場合、フィルタリング判断によってフィルタリングが行なわれず、画像が、フィルタリングされるべきでないブロック境界でのシーンの変化を意味しているとみなされる。
再びではあるが、ITU−T H.264規格によって、フィルタリング判断の決定を進めるための計算法が示されており、これらの同じ計算法を、MPEG−4ポスト・フィルタリングを行なうために用いることができる。なお、同じ計算法が用いられはするが、計算は、上記のようにマッピングされたQPに基づいている。よって、ITU−T H.264規格の計算法がMPEG−4ポスト・フィルタリングでのフィルタリング判断を決定するために用いられることが可能ではあるが、QPマッピングがこのような計算に影響を与える。MPEG−4のQPは上記のマッピング技術によって変更されるからである。
図5は、ループ内ブロックノイズ除去フィルタがポスト・ブロックノイズ除去フィルタとして用いられることが可能な技術を示すフロー図である。図3の映像符号化装置30を参照して図5が説明される。図5に示すように、MPEG−4コーデック32のフィルタリング・ユニット28は、量子化パラメータ(QP)を受信し(51)、受信したQPに基づいて、調整されたQPを生成する(52)。受信されたQPはMPEG−4からのQPであり得るのに対して、調整されたQPは同じ分解能のITU−T H.264のQPであり得る。調整されたQPを生成するプロセスは、上記の等式1と同様の等式を適用することを含んでもよいし、表1と同様の表を用いて表を参照することを含んでもよい。
次に、フィルタリング・ユニット28は、例えば図4と同様のプロセスを用いて境界強度を決定する(53)。境界強度は、一般に、適用されるフィルタのレベルを規定する。概して、境界強度が高いほど、強いフィルタリングが行なわれる。また、フィルタリング・ユニット28は、フィルタリング判断を決定する(54)。これは、一般に、境界でシーンが変化している可能性があるためにフィルタリングを行なうか否かを特定することである。境界でシーンが変化している可能性がある場合、フィルタリングは行なわれるべきでない。フィルタリング・ユニット28は、フィルタリング判断を決定する際に、ITU−T H.264規格に従った計算法を適用し得る。しかしながら、この計算法は、QPに依存するので、ステップ52で行なわれるQPの調整に影響される。
次に、フィルタリング・ユニット28は、フィルタリング判断に応じて、コーデック34のループ内ブロックノイズ除去フィルタ24を適用する。換言すれば、例えばブロック境界でシーンが変化している故に、フィルタリング判断によってそれが求められている場合、フィルタリングは行なわれない。フィルタリング判断がフィルタリングを許可した場合、調整されたQPおよび決定された境界強度に応じて、ブロックノイズ除去フィルタ24が適用される(55)。
図5のプロセスは、符号化されたシーケンス内の各映像ブロックの各映像ブロック境界に対して適用され得る。例えば、このプロセスは、図2に示す隣接する映像ブロックの間の境界20に対して適用され得るが、互いに上下に隣接する映像ブロックの上下の映像ブロック境界についても適用され得る。再びではあるが、MPEG−4のような規格はブロックノイズ除去フィルタリングを要求していないが、このようなフィルタリングによって映像符号化の質を上げることができる。別のコーデックのループ内ブロックノイズ除去フィルタをポスト・フィルタとして用いることによって、複数の符号化規格をサポートする映像符号化装置が、個別のポスト・ブロックノイズ除去フィルタの必要性を無くすことによって簡略化されることが可能となる。
多くの実施形態が説明された。本明細書に開示の技術は、ハードウェア、ソフトウェア、ファームウェア、またはこれらのあらゆる組合せによって実現され得る。ソフトウェアで実現される場合、本技術は、プログラム・コードを備えたコンピュータ読み取り可能媒体が対象となる。このプログラム・コードは、映像シーケンスを符号化する装置内で実行されると、本明細書で説明されている1つ以上のブロックノイズ除去フィルタリング技術を実行する。この場合、コンピュータ読み取り可能媒体は、同期式ダイナミック・ランダム・アクセス・メモリ(SRAM)のようなランダム・アクセス・メモリ(RAM)、読み出し専用メモリ(ROM)、不揮発性ランダム・アクセス・メモリ(NVRAM)、電気的消去・書き込み可能読み出し専用メモリ(EEPROM)、フラッシュ・メモリ等からなる。
プログラム・コードは、コンピュータ読み取り可能な命令の形態でメモリに保存され得る。この場合、DSPのようなプロセッサが、1つ以上のブロックノイズ除去フィルタリング技術を実行するために、メモリに保存されている命令を実行し得る。場合によっては、本技術は、符号化プロセスを促進するための様々なハードウェアを起動するDSPによって実行され得る。他の場合、本明細書に記載のコーデックは、マイクロプロセッサ、1つ以上の特定用途向け集積回路(ASIC)、1つ以上のフィールド・プログラマブル・ゲート・アレイ(FPGA)、または何らかの他のハードウェアとソフトウェアとの組合せによって実現され得る。ブロックノイズ除去フィルタは、ハードウェア・フィルタによって実現されてもよいし、ソフトウェアとファームウェアによって実現されるフィルタによって実現される場合もある。これらの実施形態および他の実施形態は、特許請求の範囲の範疇に含まれている。
本開示の一実施形態に従った、ブロックノイズ除去フィルタを共有する複数のコーデックを含んだ符号化装置の例示的なブロック図である。 ブロックノイズ除去フィルタリングの概念を説明するための2つの隣接する映像ブロックを示す図である。 本開示の実施形態に従った、ブロックノイズ除去フィルタを共有するITU−T H.264コーデックおよびMPEG−4コーデックのブロック図である。 ITU−T H.264ブロックノイズ除去フィルタでブロックノイズ除去フィルタリングを行なうための、MPEG−4に準拠して符号化される映像ブロックの境界強度を決定するための技術を説明するフロー図である。 ループ内ブロックノイズ除去フィルタがポスト・ブロックノイズ除去フィルタとして用いられることが可能な技術を説明するフロー図である。

Claims (16)

  1. 第1映像シーケンスと関連を有する第1映像ブロックに対して予測に基づいた符号化技術を用いる第1映像符号化規格に従って前記第1映像シーケンスを符号化する第1コーデックと、
    前記第1コーデックによってループ内フィルタとして用いられる、前記第1映像シーケンス内の隣接する映像ブロックの遷移を滑らかにするためのブロックノイズ除去フィルタと、
    第2映像シーケンスと関連を有する第2映像ブロックに対して予測に基づいた符号化技術を用いる第2映像符号化規格に従って前記第2映像シーケンスを符号化し、前記第2映像シーケンスと関連を有する隣接する映像ブロック間の遷移を滑らかにするためにポスト・フィルタとして前記ブロックノイズ除去フィルタを用いる、第2コーデックと、
    を具備し、
    前記第2コーデックは、量子化パラメータを受信し、前記受信された量子化パラメータに基づいて調整された量子化パラメータを生成し、境界強度を決定し、フィルタリング判断を決定し、前記調整された量子化パラメータおよび前記境界強度に基づいて前記フィルタリング判断に従って前記ループ内ブロックノイズ除去フィルタをポスト・ブロックノイズ除去フィルタとして適用し、
    前記受信された量子化パラメータは、前記第2映像符号化規格によって定義されるパラメータを具備し、
    前記調整された量子化パラメータは、前記第1映像符号化規格によって定義されるパラメータを具備し、
    前記第2コーデックによって前記調整された量子化パラメータを生成することは、前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングすることを具備する、
    映像コーデック装置。
  2. 前記第1コーデックによって用いられる、予測に基づいた符号化技術は、フレーム間予測技術を含み、
    前記第2コーデックによって用いられる、予測に基づいた符号化技術は、フレーム間予測技術を含む、
    請求項1の映像コーデック装置。
  3. 前記第1コーデックによって用いられるフレーム間予測技術は、動き推定および動き補償技術を含み、
    前記第2コーデックによって用いられるフレーム間予測技術は、動き推定および動き補償技術を含む、
    請求項2の映像コーデック装置。
  4. 前記第1コーデックによって用いられる、予測に基づいた符号化技術は、フレーム内予測技術を含み、
    前記第2コーデックによって用いられる、予測に基づいた符号化技術は、フレーム内予測技術を含む、
    請求項1の映像コーデック装置。
  5. 前記第1映像符号化規格は、国際電気通信連合・電気通信標準化部門(ITU−T) H.264規格を具備し、前記第2映像符号化規格は、エムペグ4(MPEG−4)規格を具備する、請求項1の映像コーデック装置。
  6. 前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングすることは、表を参照することを具備する、請求項の映像コーデック装置。
  7. 前記映像コーデック装置は、デジタル・テレビ、無線通信装置、携帯情報端末、ラップトップ・コンピュータ、デスクトップ・コンピュータ、デジタル・カメラ、デジタル記録装置、映像機能を有する携帯無線電話、映像機能を有する衛星無線電話の少なくとも1つを具備する、請求項1の映像コーデック装置。
  8. 前記第1コーデックは、符号化および復号の両方の間に前記ブロックノイズ除去フィルタをループ内フィルタとして適用し、前記第2コーデックは、復号に続けて前記ブロックノイズ除去フィルタをポスト・フィルタとして適用する、請求項1の映像コーデック装置。
  9. 量子化パラメータを受信し、
    前記受信された量子化パラメータに基づいて調整された量子化パラメータを生成し、
    境界強度を決定し、
    フィルタリング判断を決定し、
    動き推定および動き補償を含んだ第1映像符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定する前記第1映像符号化規格に準拠している第1映像コーデックのループ内ブロックノイズ除去フィルタを、前記調整された量子化パラメータおよび前記境界強度に基づいて前記フィルタリング判断に従って、第2映像符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定しない前記第2映像符号化規格に準拠している第2映像コーデックのポスト・ブロックノイズ除去フィルタとして適用することを具備し、
    前記受信された量子化パラメータは、前記第2映像符号化規格によって定義されるパラメータを具備し、
    前記調整された量子化パラメータは、前記第1映像符号化規格によって定義されるパラメータを具備し、
    前記調整された量子化パラメータを生成することは、前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングすることを具備する、
    方法。
  10. 前記第1映像符号化規格は、国際電気通信連合・電気通信標準化部門(ITU−T) H.264規格を具備し、前記第2映像符号化規格は、エムペグ4(MPEG−4)規格を具備する、請求項の方法。
  11. 前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングすることは、表を参照することを具備する、請求項の方法。
  12. 前記第1映像コーデックは、符号化および復号の両方の間に前記ブロックノイズ除去フィルタをループ内フィルタとして適用し、前記第2映像コーデックは、復号に続けて前記ブロックノイズ除去フィルタをポスト・フィルタとして適用する、請求項の方法。
  13. 第1、第2映像コーデックを含んだ映像コーデック装置内で実行されると、前記映像コーデック装置に、
    受信された量子化パラメータに基づいて調整された量子化パラメータを生成させ、
    境界強度を決定させ、
    フィルタリング判断を決定させ、
    動き推定および動き補償を含んだ第1映像符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定する前記第1映像符号化規格に準拠している前記第1映像コーデックのループ内ブロックノイズ除去フィルタを、前記調整された量子化パラメータおよび前記境界強度に基づいて前記フィルタリング判断に従って、第2映像符号化規格の予測ループの一部としてブロックノイズ除去フィルタリングを規定しない前記第2映像符号化規格に準拠している第2映像コーデックのポスト・ブロックノイズ除去フィルタとして適用させる、
    命令を具備し、
    前記受信された量子化パラメータは、前記第2映像符号化規格によって定義されるパラメータを具備し、
    前記調整された量子化パラメータは、前記第1映像符号化規格によって定義されるパラメータを具備し、
    前記命令は、実行されると、前記第2映像符号化規格によって定義されたパラメータを前記第1映像符号化規格によって定義されたパラメータへとマッピングさせることによって前記映像コーデック装置に前記調整された量子化パラメータを生成させる、
    コンピュータ読み取り可能記録媒体。
  14. 前記第1映像符号化規格は、国際電気通信連合・電気通信標準化部門(ITU−T) H.264規格を具備し、前記第2映像符号化規格は、エムペグ4(MPEG−4)規格を具備する、請求項13のコンピュータ読み取り可能記録媒体。
  15. 前記命令は、実行されると、前記映像コーデック装置に、表を参照することによって、前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングさせる、請求項13コンピュータ読み取り可能記録媒体
  16. 第1映像シーケンスと関連を有する第1映像ブロックに対して符号化技術を用いる第1映像符号化規格に従って前記第1映像シーケンスを符号化する第1コーデックと、
    ループ内符号化処理の一部として前記第1映像シーケンス内の隣接する映像ブロック間の遷移を滑らかにするためのフィルタリング手段と、
    第2映像シーケンスと関連を有する第2映像ブロックに対して符号化技術を用いる第2映像符号化規格に従って前記第2映像シーケンスを符号化し、前記第2映像シーケンスと関連を有する隣接する映像ブロック間の遷移を滑らかにするためにポスト符号化フィルタリング処理において前記フィルタリング手段を用いる、第2コーデックと、
    を具備し、
    前記第2コーデックは、量子化パラメータを受信するための手段と、前記受信された量子化パラメータに基づいて調整された量子化パラメータを生成するための手段と、境界強度を決定するための手段と、フィルタリング判断を決定するための手段と、前記調整された量子化パラメータおよび前記境界強度に基づいて前記フィルタリング判断に従って前記フィルタリング手段を前記ポスト・ブロックノイズ除去フィルタとして適用するための手段と、を含み、
    前記受信された量子化パラメータは、前記第2映像符号化規格によって定義されるパラメータを具備し、
    前記調整された量子化パラメータは、前記第1映像符号化規格によって定義されるパラメータを具備し、
    前記第2コーデックによって前記調整された量子化パラメータを生成することは、前記第2映像符号化規格によって定義されるパラメータを前記第1映像符号化規格によって定義されるパラメータへとマッピングすることを具備する、
    映像コーデック装置。
JP2008513796A 2005-05-25 2006-05-25 複数の映像規格に従った映像符号化の際のブロックノイズ除去フィルタリング技術 Active JP4847521B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US11/136,980 2005-05-25
US11/136,980 US8045615B2 (en) 2005-05-25 2005-05-25 Deblock filtering techniques for video coding according to multiple video standards
PCT/US2006/020642 WO2006128081A2 (en) 2005-05-25 2006-05-25 Deblock filtering techniques for video coding according to multiple video standards

Publications (2)

Publication Number Publication Date
JP2008543183A JP2008543183A (ja) 2008-11-27
JP4847521B2 true JP4847521B2 (ja) 2011-12-28

Family

ID=37187857

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008513796A Active JP4847521B2 (ja) 2005-05-25 2006-05-25 複数の映像規格に従った映像符号化の際のブロックノイズ除去フィルタリング技術

Country Status (8)

Country Link
US (1) US8045615B2 (ja)
EP (1) EP1884120B1 (ja)
JP (1) JP4847521B2 (ja)
KR (1) KR100984911B1 (ja)
CN (1) CN101248673B (ja)
AT (1) ATE487329T1 (ja)
DE (1) DE602006017998D1 (ja)
WO (1) WO2006128081A2 (ja)

Families Citing this family (35)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100827106B1 (ko) * 2006-10-20 2008-05-02 삼성전자주식회사 디블록킹 필터에서의 필터 조건 영역 판별을 위한 장치 및방법
US20080159407A1 (en) * 2006-12-28 2008-07-03 Yang Nick Y Mechanism for a parallel processing in-loop deblock filter
US8204129B2 (en) * 2007-03-27 2012-06-19 Freescale Semiconductor, Inc. Simplified deblock filtering for reduced memory access and computational complexity
TWI375470B (en) * 2007-08-03 2012-10-21 Via Tech Inc Method for determining boundary strength
US8913670B2 (en) * 2007-08-21 2014-12-16 Blackberry Limited System and method for providing dynamic deblocking filtering on a mobile device
US8619880B2 (en) * 2007-10-10 2013-12-31 Qualcomm Incorporated Universal blockiness correction
KR100973657B1 (ko) * 2007-11-01 2010-08-02 경희대학교 산학협력단 디블록킹 필터링을 포함하는 코덱 사이의 트랜스코딩 방법 및 장치
EP2263381A1 (en) * 2008-04-11 2010-12-22 Thomson Licensing Deblocking filtering for displaced intra prediction and template matching
JP5137687B2 (ja) * 2008-05-23 2013-02-06 キヤノン株式会社 復号装置及び復号方法、プログラム
US8625681B2 (en) * 2008-07-09 2014-01-07 Intel Corporation Rate-distortion cost reducing video encoding techniques
CN102055969B (zh) * 2009-10-30 2012-12-19 鸿富锦精密工业(深圳)有限公司 影像解块过滤器及使用其的影像处理装置
CN106231342B (zh) * 2010-04-13 2019-05-31 三星电子株式会社 执行去块滤波的对视频进行解码的方法
BR112013006832A2 (pt) 2010-09-28 2017-05-23 Samsung Electronics Co Ltd método de filtragem adaptativa, e aparelho de filtragem adaptativa
US8630356B2 (en) * 2011-01-04 2014-01-14 The Chinese University Of Hong Kong High performance loop filters in video compression
US9008180B2 (en) * 2011-04-21 2015-04-14 Intellectual Discovery Co., Ltd. Method and apparatus for encoding/decoding images using a prediction method adopting in-loop filtering
US9641866B2 (en) * 2011-08-18 2017-05-02 Qualcomm Incorporated Applying partition-based filters
CN103988511B (zh) * 2011-10-31 2017-09-08 寰发股份有限公司 视频编码系统中重建视频的去块方法和设备
US20130142251A1 (en) * 2011-12-06 2013-06-06 Sony Corporation Syntax extension of adaptive loop filter in hevc
WO2013140722A1 (ja) * 2012-03-21 2013-09-26 パナソニック株式会社 画像符号化方法、画像復号方法、画像符号化装置、画像復号装置、および画像符号化復号装置
US20150036757A1 (en) * 2013-07-31 2015-02-05 Divx, Llc Systems and methods for adaptively applying a deblocking filter
US10003823B2 (en) * 2015-01-30 2018-06-19 Mediatek Inc. Video decoder and video encoder using storage sharing technique for performing decoding and encoding functions complying with different video coding standards and associated shared storage device
CN105472398B (zh) * 2015-12-08 2018-05-25 福州瑞芯微电子股份有限公司 一种视频环内滤波解码方法和装置
US10694202B2 (en) * 2016-12-01 2020-06-23 Qualcomm Incorporated Indication of bilateral filter usage in video coding
US10999602B2 (en) 2016-12-23 2021-05-04 Apple Inc. Sphere projected motion estimation/compensation and mode decision
US11259046B2 (en) 2017-02-15 2022-02-22 Apple Inc. Processing of equirectangular object data to compensate for distortion by spherical projections
US10924747B2 (en) 2017-02-27 2021-02-16 Apple Inc. Video coding techniques for multi-view video
KR20230079466A (ko) * 2017-04-11 2023-06-07 브이아이디 스케일, 인크. 면 연속성을 사용하는 360 도 비디오 코딩
US11093752B2 (en) 2017-06-02 2021-08-17 Apple Inc. Object tracking in multi-view video
US20190005709A1 (en) * 2017-06-30 2019-01-03 Apple Inc. Techniques for Correction of Visual Artifacts in Multi-View Images
US10754242B2 (en) 2017-06-30 2020-08-25 Apple Inc. Adaptive resolution and projection format in multi-direction video
US10491897B2 (en) * 2018-04-13 2019-11-26 Google Llc Spatially adaptive quantization-aware deblocking filter
WO2020008330A1 (en) 2018-07-01 2020-01-09 Beijing Bytedance Network Technology Co., Ltd. Priority-based non-adjacent merge design
KR20200060589A (ko) * 2018-11-21 2020-06-01 삼성전자주식회사 병합된 프레임율 컨버터와 비디오 코덱을 갖는 시스템 온 칩 및 그것의 프레임율 변환 방법
US11436699B1 (en) 2020-08-03 2022-09-06 Meta Platforms, Inc. Predicting encoding parameters for convex hull video encoding
US11388413B1 (en) * 2020-08-03 2022-07-12 Meta Platforms, Inc. Fast encoding parameter selection for convex hull video encoding

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01114176A (ja) * 1987-10-27 1989-05-02 Canon Inc ビデオ信号処理装置
JPH043593A (ja) * 1990-04-20 1992-01-08 Nec Corp 動画復号化方法および装置
JPH06274616A (ja) * 1993-03-22 1994-09-30 Oki Electric Ind Co Ltd フィルタ回路
JP2005130352A (ja) * 2003-10-27 2005-05-19 Victor Co Of Japan Ltd 復号化装置

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5867484A (en) * 1997-01-31 1999-02-02 Intellect Network Technologies Switchable multi-drop video distribution system
JP4074702B2 (ja) 1998-03-19 2008-04-09 芝浦メカトロニクス株式会社 レーザ発振器
US6931063B2 (en) * 2001-03-26 2005-08-16 Sharp Laboratories Of America, Inc. Method and apparatus for controlling loop filtering or post filtering in block based motion compensationed video coding
US7450641B2 (en) * 2001-09-14 2008-11-11 Sharp Laboratories Of America, Inc. Adaptive filtering based upon boundary strength
ES2754625T3 (es) * 2001-11-29 2020-04-20 Godo Kaisha Ip Bridge 1 Método de extracción de distorsión de codificación
US20040057521A1 (en) * 2002-07-17 2004-03-25 Macchina Pty Ltd. Method and apparatus for transcoding between hybrid video CODEC bitstreams
US7397854B2 (en) * 2004-04-29 2008-07-08 Mediatek Incorporation Adaptive de-blocking filtering apparatus and method for MPEG video decoder

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01114176A (ja) * 1987-10-27 1989-05-02 Canon Inc ビデオ信号処理装置
JPH043593A (ja) * 1990-04-20 1992-01-08 Nec Corp 動画復号化方法および装置
JPH06274616A (ja) * 1993-03-22 1994-09-30 Oki Electric Ind Co Ltd フィルタ回路
JP2005130352A (ja) * 2003-10-27 2005-05-19 Victor Co Of Japan Ltd 復号化装置

Also Published As

Publication number Publication date
ATE487329T1 (de) 2010-11-15
KR20080017044A (ko) 2008-02-25
WO2006128081A2 (en) 2006-11-30
DE602006017998D1 (de) 2010-12-16
JP2008543183A (ja) 2008-11-27
EP1884120B1 (en) 2010-11-03
KR100984911B1 (ko) 2010-10-01
CN101248673A (zh) 2008-08-20
EP1884120A2 (en) 2008-02-06
US8045615B2 (en) 2011-10-25
WO2006128081A3 (en) 2007-02-01
CN101248673B (zh) 2012-02-29
US20060268985A1 (en) 2006-11-30

Similar Documents

Publication Publication Date Title
JP4847521B2 (ja) 複数の映像規格に従った映像符号化の際のブロックノイズ除去フィルタリング技術
JP4717138B2 (ja) 画像符号化方法および画像符号化装置
JP5415599B2 (ja) レート制御されたビデオ符号化のための適応フレーム・スキップ技術
JP5204269B2 (ja) ビデオ・コーデック量子化のための方法および装置
JP5021658B2 (ja) ビデオコーディングのための選択的デブロックフィルタリング
JP4700069B2 (ja) 内部予測ビデオ符号化のためのモード選択技術
JP2013102471A (ja) アーチファクト評価による向上した画像/ビデオ品質
CN1301370A (zh) 用于减少压缩的视频中的喘息污迹的方法和设备
Son et al. Enhanced Prediction Algorithm for Near-lossless Image Compression with Low Complexity and Low Latency
Choi et al. Macroblock-level adaptive dynamic resolution conversion technique
KR100714853B1 (ko) 동영상 압축 시스템에서 루프 필터와 포스트 필터의적응적인 통합 적용장치
Bier Introduction to video compression
Shenbagavalli et al. Adaptive Algorithm To Reduce Computational Complexity In Video Coders
KR20090132806A (ko) 영상 부호화 장치 및 이를 이용한 디블록킹 필터의 선택적적용 방법

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100907

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20101207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110913

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20111013

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141021

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4847521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250