JP7249417B2 - 適応的スパースフィルタリングを用いた画像のデバンディング - Google Patents
適応的スパースフィルタリングを用いた画像のデバンディング Download PDFInfo
- Publication number
- JP7249417B2 JP7249417B2 JP2021535667A JP2021535667A JP7249417B2 JP 7249417 B2 JP7249417 B2 JP 7249417B2 JP 2021535667 A JP2021535667 A JP 2021535667A JP 2021535667 A JP2021535667 A JP 2021535667A JP 7249417 B2 JP7249417 B2 JP 7249417B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- stripe
- pixel
- output
- tap
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000001914 filtration Methods 0.000 title claims description 75
- 230000003044 adaptive effect Effects 0.000 title description 25
- 238000000034 method Methods 0.000 claims description 82
- 238000012935 Averaging Methods 0.000 claims description 5
- 230000003247 decreasing effect Effects 0.000 claims description 5
- 230000002688 persistence Effects 0.000 claims description 5
- 230000001419 dependent effect Effects 0.000 claims 2
- 238000004590 computer program Methods 0.000 claims 1
- 230000008569 process Effects 0.000 description 13
- 238000004519 manufacturing process Methods 0.000 description 11
- 230000000007 visual effect Effects 0.000 description 7
- 241000023320 Luma <angiosperm> Species 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- OSWPMRLSEDHDFF-UHFFFAOYSA-N methyl salicylate Chemical compound COC(=O)C1=CC=CC=C1O OSWPMRLSEDHDFF-UHFFFAOYSA-N 0.000 description 5
- 238000003708 edge detection Methods 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000013500 data storage Methods 0.000 description 3
- 230000000116 mitigating effect Effects 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000013507 mapping Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000004301 light adaptation Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 229910052709 silver Inorganic materials 0.000 description 1
- 239000004332 silver Substances 0.000 description 1
- -1 silver halide Chemical class 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
- H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Description
概要
本明細書において記載する実施形態例は、画像および映像シーケンスにおけるバンディングアーティファクトを低減するための方法に関する。本方法は、エンコーダまたはデコーダに実装され得る。
ある実施形態において、エンコーダまたはデコーダは、画素値群を有する入力画像、および任意にフィルタリング決定閾値を受け取る。前記エンコーダまたはデコーダは、前記入力画像のある一次元画素アレイ中における開始位置と終了位置との間において同じ画素値を有する1つ以上の画素のシーケンスを特定して対応する1つ以上の画像縞を生成する。前記一次元画素アレイは、前記入力画像の画素値群、および画素方向(例えば行、列、または対角線にわたる)に基づいている。前記エンコーダまたはデコーダは、前記一次元画素アレイ中の画素値群を解析することにより、1つ以上の画像縞を特定する。特定された各画像縞は、前記縞の幅と縞画素値とによって特徴付けられる。前記縞の幅は、前記開始位置と前記終了位置との間の同じ値を有する画素数として定義される。前記1つ以上の画像縞のうちの各画像縞について、前記エンコーダまたはデコーダは、あるスパースフィルタに対し、前記スパースフィルタのあるタップの一画素と別のタップの一画素との間の連続した画素数を示すタップ距離パラメータを、前記画像縞の幅の関数として決定する。前記エンコーダまたはデコーダは、決定された前記タップ距離パラメータを有する前記スパースフィルタを、前記画像縞に適用し得る。前記スパースフィルタが前記画像縞に適用され、フィルタリングされた出力画素値群が生成される。エンコーダまたはデコーダは、前記フィルタリングされた出力画素値群に基づいて出力画像を生成する。
言い替えれば、前記特定された画像縞のうちのある画像縞について、本方法は、前記画像縞の幅に基づいて適応的スパースフィルタのためのタップ距離パラメータを決定し、前記タップ距離パラメータを有する前記適応的スパースフィルタを前記画像縞の画素値群に適用することにより、フィルタリングされた出力画素値群を生成する。そして、前記フィルタリングされた出力画素値群に基づいて出力画像を生成する。
ある実施形態において、前記タップ距離パラメータは、中央タップの一画素と近接タップの一画素との間で決定される。
ある実施形態において、前記スパースフィルタのタップ数は予め定められている。
ある実施形態において、前記決定されたタップ距離パラメータは、前記画像縞の幅に正比例する。
ある実施形態において、予め定められた前記タップ数が増加するにつれて前記タップ距離パラメータは減少する。
ある実施形態において、前記タップ距離パラメータを有する前記フィルタを前記画像縞の一画素に適用することは、前記スパースフィルタの対応するタップの画素値群を前記予め定められたタップ数にわたって平均化することを含む。
ある実施形態において、前記平均化は、近接する画像縞の境界に位置する境界タップの画素値群を除外する。前記フィルタのエッジの2つのタップは、平均を算出する際に無視される。
ある実施形態において、本方法は、フィルタリング決定閾値を受け取ることをさらに含み、さらに、各画像縞について、中央タップの画素値とその他のタップの各画素値との間において複数の差を算出することと、前記差の絶対値の最大値を算出することとを含む。この実施形態において前記スパースフィルタは、前記フィルタリング決定閾値と前記絶対値の最大値との比較に基づいて前記画像縞に適用される。
ある実施形態において、前記スパースフィルタは、前記タップ距離パラメータが前記フィルタリング決定閾値を越えない場合に前記画像縞に適用される。
ある実施形態において、前記スパースフィルタは、前記タップ距離パラメータが前記フィルタリング決定閾値を超える場合に前記画像縞に適用されず、前記画素群はフィルタリングされずに残る。
ある実施形態において、前記一次元画素アレイにおいて同じ画素値を有する1つ以上の画素のシーケンスを特定することは、前記入力画像のある色成分の画素値を、前記入力画像の行、前記入力画像の列、前記入力画像の45度対角方向、または前記入力画像の-45度対角方向にわたってサンプリングすることを含む。
ある実施形態において、前記バンディングアーティファクトを低減するための方法が、前記入力画像の列にわたって実行されることにより第1の出力画像を生成する。前記バンディングアーティファクトを低減するための方法が、前記第1の出力画像の行にわたって実行されることにより第2の出力画像を生成してもよい。
ある実施形態において、前記縞状アーティファクトを低減するための方法が前記第2の出力画像の45度対角線にわたって実行されることにより第3の出力画像を生成してもよく、前記バンディングアーティファクトを低減するための方法が前記第3の出力画像の-45度対角線にわたって実行されることにより第4の出力画像を生成してもよい。
ある実施形態において、前記方法は、画像距離条件にしたがって前記入力画像および前記出力画像間の画像距離メトリックを算出することと、前記画像距離メトリックを継続閾値と比較することと、前記画像距離メトリックが前記継続閾値より大きい場合に、前記フィルタリング決定閾値を減少することにより第2のフィルタリング決定閾値を生成し、前記第2のフィルタリング決定閾値を用いて請求項1から13のいずれかに記載の方法にしたがって前記出力をフィルタリングすることによって第2の出力画像を生成することと、そうでない場合に前記出力画像を出力することと、をさらに含んでもよい。
図1は、従来の映像供給パイプライン(100)のプロセス例を示しており、映像のキャプチャから映像コンテンツの表示までの、様々な段を示している。画像生成ブロック(105)を用い、映像フレームのシーケンス(102)をキャプチャまたは生成する。映像フレームは、デジタル的にキャプチャされるか(例えばデジタルカメラにより)またはコンピュータによって生成(例えばコンピュータアニメーションを用いて)されることにより、映像データ(107)が得られる。あるいは映像フレーム(102)は、銀塩カメラによってフィルム上に取得されてもよい。フィルムがデジタルフォーマットに変換されることによって、映像データ(107)が得られる。プロダクションフェーズ(110)において、映像データ(107)は編集され、映像プロダクションストリーム(112)を得る。
映像データ(107)は、エンハンストSDR(SDR+)コンテンツを含むSDRまたはHDRコンテンツと、画像メタデータとを含んでもよい。画像メタデータは、映像供給パイプライン(100)の下流にある受信側デバイスが、SDR映像コンテンツを復号したものに対して画像処理操作を行うために使用され得る。SDR映像コンテンツの例としては、SDR+映像コンテンツ、SDR画像、SDR映画リリース、SDR+画像、SDRメディアプログラムなどであってもよいが、必ずしもこれらだけに限定されない。
図2は、一実施形態によるバンディングアーティファクトを低減するためのデータフロー(200)の例を示す。図2に示すように、典型的には画像バッファに格納されている画像画素の集合が与えられると(205)、ステップ210において、画像の画素を解析して、バンディングアーティファクトを特徴付ける特性、例えば、各縞の位置、画素値、および幅を決定する。ある実施形態において、一次元画素アレイ中における連続した画素のシーケンスは、この一次元画素アレイ中における開始点と終了点との間のすべての画素値が同じ画素値を持つ場合、縞として特定される。数学的には、これは次のように表すことができる。
ここで、s(k)は一次元画素アレイのk番目の位置における画素値を示し、
はj番目の画像縞の始点を、
はj番目の縞の終点を、αjは縞の画素値を示す。
スパースフィルタが入力画像に適用されたとき、フィルタは入力画像と畳み込まれ得る。画像とスパースフィルタとの畳み込みが、いわゆるフィルタリングされた画像を表す。
であり、qが偶数であれば
である。式(1)におけるフィルタリング係数は、典型的には、平均化フィルタなどの平滑化ローパスフィルタを表す。
が、中央タップの入力画素値(s(k))と残りの各フィルタタップの入力画素値との差を表すものとし、
とすれば、一実施形態において、フィルタリングは
の場合のみ行われる。ここで、Thはフィルタリング決定閾値(例えばTh=16)を示す。例えば、限定はしないが、7タップ(例えばu=3)の条件付き適応的スパースフィルタは以下のように記述される。
を算出して閾値Thと比較することは、エッジが検出された場合にスパースフィルタリングがスキップされるような、エッジ検出動作として特徴付けられ得る。したがって、Thはエッジ検出閾値と呼ばれ得る。他の実施形態においては、本明細書で示した条件付きスパースフィルタリングの実行を、当業者に公知の他のエッジ検出アルゴリズムで置き換えることができる。
を用いることで最良の結果が得られる。ここで、Wは画像中の縞の幅であり、mは正整数の定数(例えばm=2)であるが2u-1の倍数ではない。例えば、限定はしないが、式(4)の7タップフィルタ(u=3)において、スパースフィルタ中の近接するサンプル間の距離(q)は、
の倍数である。ある実施形態において、距離パラメータqは、バンディング(W)の幅の推定値などの、局所的な画素特性に基づいて適応的に調節される。7タップのフィルタについては、実験の結果はmの値が1と4の間である場合に最もうまくいくことを示唆している。フィルタリングされた中央画素である式(4)のs’[k]は、画像縞の幅の関数であるタップ距離パラメータqに依存するため、同じ画像縞の画素は、同じqの値を持つスパースフィルタ、すなわち同じスパン(またはサイズ)のスパースフィルタでフィルタリングされる。異なる画像縞の画素は、異なるqの値を持つスパースフィルタ、すなわち、異なるスパン(またはサイズ)のスパースフィルタでフィルタリングされる。
とし、画素バッファ(205)のj番目の縞に属する全画素の画素値をαjとする。すると、j番目の縞中の画素数は、
として与えられる。
・第2の縞(j+1)中の画素数が閾値よりも小さく(これは、1つの縞中の迷い画素を考慮している)、かつ、
・縞jおよびj+1のα値が閾値以内であり(すなわち、縞j+1中の迷い画素値は、j番目の縞において支配的な画素値に近い値を有さなければならない)、かつ、
・縞jおよびj+2のα値が同じである。すなわち、もし縞jおよびj+2における画素値が異なる場合(すなわちαj≠αj+2)、縞jおよびj+1は併合されない。
これらの3つの条件は次のように表現され得る。
であるとき、j、j+1、およびj+2の縞は、単一の縞に併合され得る。
ここでntolおよびαtolは閾値である。3つの縞が1つの縞(例えば縞j)に併合されるとき、
であり、後続の縞(例えばk番目の縞、ここでk>j+2)はリナンバリングされ、そして新たに形成された縞jと後続の縞とが、併合の可能性について再び解析される。
)および終了画素位置(
)によって特徴付けられる。n2<ntol、|α2-α1|≦αtolかつα1=α3と仮定すれば、縞305-1、305-2、305-3を単一の縞(310-1)に統合し得、残りの縞はリナンバリングされること以外についてはそのままである。例えば、縞310-0は、縞305-0と同じ縞特性(例えば、開始、終了、画素縞値、および幅)を有し、縞310-2は、縞305-4と同じ縞特性を有し、縞310-3は、縞305-5と同じ縞特性を有する。
として決定する。次に、ステップ220に示すように、各縞を対応するスパースフィルタによってフィルタリングする。例えば、図3Bの上側は、各縞がqi(i=0、1、2および3)を用いたフィルタによってフィルタリングされることを示す。図3Bの下側は、310-1の縞を式(4)の7タップのASFを用いてスパースフィルタリングする例を示しており、ここでq=q1であり、フィルタタップを
画像が2次元であることを考慮すると、いくつかの実施形態では、水平、垂直、および/または対角などの複数の次元にわたってスパースフィルタリングを適用することが好ましい場合がある。そのような実施形態におけるプロセス例(400)を図4に示す。限定はしないが、フィルタリング方向の例を図5に示す。図4に示されるように、デバンディングフィルタリングは、以下のような様々な方向にわたって、元の一次元デバンディング処理200の1回以上の適用を含んでもよい。すなわち、垂直フィルタリング(405)(画像列505にわたって)、水平フィルタリング(410)(画像行510にわたって)、第1の対角フィルタリング(420)(例えば、45度である角度520にわたって)、および第2の対角フィルタリング(425)(例えば、-45度である角度525にわたって)である。典型的には、デバンディングフィルタリングは、ルマ画素成分(例えば、YCbCrにおけるY)にわたって実行される。ただし、同じフィルタリングが、任意の色空間(例えば、RGBなど)の任意の色成分にわたって、また、複数の色成分にわたって実行されてもよい。いくつかの実施形態において、フィルタリングは、図4に示す4つの方向のうち、1つ、2つ、または3つのみにわたって実行されてもよく、あるいは、他の角度方向(図示せず)にわたって実行されてもよい。
特定の場合において、一般的に、特定の領域(例えば、暗部)での圧縮が不十分なため、前述のマルチスキャンフィルタリング処理(400)を適用しても、まだ目に見えるバンディングが見られることがある。ある実施形態において、そのようなコンテンツに対処する1つの方法は、ASFのエッジ検出閾値Thを増大させることであるが、そのようなフィルタリングは、テクスチャやエッジなどの必要な詳細を除去してしまう可能性もある。その代わりに、第1のマルチスキャンASFパスの出力に第2のマルチスキャンASF(MASF)パスを適用すると、画像がより滑らかになり、その結果、バンディングアーティファクトがさらに減少する可能性がある。したがって、このような画像においてMASFを反復的に実行することが有効である。このセクションでは、いくつかの動作条件が満たされるまでMASFを繰り返し実行する、反復的MASFアルゴリズムについて説明する。
と計算される。
・θ<Θ:Θは、画素値に視覚的に無視し得る変化のみが存在することを示すパラメータ。式(8)のSAD条件を用い、実験の結果から0.1または0.2のΘ値により満足し得る結果が得られることが示されている。
・Th≦0:これは、フィルタリング後に変化した画素値が無いと決定することに相当する。
本発明の実施形態は、コンピュータシステム、電子回路およびコンポーネントで構成されたシステム、マイクロコントローラ、フィールドプログラマブルゲートアレイ(FPGA)または他のコンフィギュラブルまたはプログラマブルロジックデバイス(PLD)、離散時間またはデジタル信号プロセッサ(DSP)、特定用途向けIC(ASIC)などの集積回路(IC)デバイス、および/または、このようなシステム、デバイスまたはコンポーネントを1つ以上含む装置、を用いて実施し得る。このコンピュータおよび/またはICは、本明細書に記載のようなバンディングアーティファクトを低減することに関する命令を行い、制御し、または実行し得る。このコンピュータおよび/またはICは、本明細書に記載のバンディングアーティファクトを低減することに関する様々なパラメータまたは値のいずれを演算してもよい。これらの画像および映像ダイナミックレンジ拡張実施形態は、ハードウェア、ソフトウェア、ファームウェア、および、その様々な組み合わせで実施され得る。
バンディングアーティファクトを低減することに関する実施形態例を上述した。この明細書中において、各実装毎に異なり得る多数の具体的な詳細に言及しながら本発明の実施形態を説明した。従って、本発明が如何なるものかおよび出願人は本発明が如何なるものであると意図しているかについての唯一且つ排他的な指標は、後の訂正を含む、これら請求項が生じる具体的な形態の、本願から生じる1組の請求項である。当該請求項に含まれる用語に対して本明細書中に明示したあらゆる定義が、請求項内で使用される当該用語の意味を決定するものとする。よって、請求項に明示的に記載されていない限定事項、構成要素、特性、特徴、利点または属性は、いかなる形であれ請求の範囲を限定するものではない。従って、本明細書および図面は、限定的ではなく、例示的であると認識されるべきものである。
1.1つ以上のプロセッサを備えるエンコーダまたはデコーダにおいて、バンディングアーティファクトを低減するための方法であって、
画素値群を有する入力画像を受け取ること(205)と、
フィルタリング決定閾値を受け取ることと、
前記入力画像の画素値群に基づいて一次元画素アレイを生成することと、
前記一次元画素アレイにおける画素値群に基づいて、1つ以上の画像縞を生成すること(210)であって、前記1つ以上の画像縞のうちの1つの画像縞は、前記一次元画素アレイ中における開始位置、前記一次元画素アレイ中における終了位置または前記縞の幅、および縞画素値によって特徴付けられる、一次元画素アレイを生成することと、
前記1つ以上の画像縞のうちの1つの画像縞について、
前記画像縞の幅に基づいて、スパースフィルタのためのタップ距離パラメータを決定し(215)、
前記タップ距離パラメータを有する前記スパースフィルタとフィルタリング決定閾値とを前記画像縞に適用することにより、フィルタリングされた出力画素値群を生成することと、
前記フィルタリングされた出力画素値群に基づいて出力画像を生成することと、
を含む方法。
2.前記一次元画素アレイを生成することは、前記入力画像のある色成分の画素値を、前記入力画像の行、前記入力画像の列、前記入力画像の45度対角方向、または前記入力画像の-45度対角方向にわたってサンプリングすることを含む、EEE1に記載の方法。
3.前記1つ以上の画像縞のうちj番目の画像縞を生成することは、
であることを検出することを含み、
s(k)は前記一次元画素アレイ中のk番目の位置における画素値を表し、
は前記一次元画素アレイ中の前記j番目の画像縞の開始位置を表し、
は前記一次元画素アレイ中の前記j番目の画像縞の終了位置を表し、αjは前記j番目の画像縞の縞画素値を表す、EEE1またはEEE2のいずれかに記載の方法。
4.前記1つ以上の画像縞のうち3つの連続する画像縞である縞j、j+1、およびj+2を与えられたとき、3つの連続する画像縞は
であるとき1つの縞に併合され、ここで
ntolおよびαtolは閾値であり、njは前記j番目の画像縞の幅を表す、EEE3に記載の方法。
5.j番目の画像縞について、前記画像縞の幅は
として決定され、ここで
njは前記j番目の画像縞の幅を表し、
は前記一次元画素アレイ中の前記j番目の画像縞の開始位置を表し、
は前記一次元アレイ中の前記j番目の画像縞の終了位置を表す、EEE1~4のいずれかに記載の方法。
6.前記フィルタリングされた出力画素値群を生成することは、
を算出することを含み、
wiはi番目のフィルタ係数を表し、s(k)は前記画像縞におけるk番目の画素値を表し、s’(k)はk番目のフィルタリングされた出力画素値を表し、d[i]はi番目のタップについてのタップ距離を表し、2u+1はフィルタタップの数を表す、EEE1~5のいずれかに記載の方法。
7.d[i]=i*qであり、qは前記スパースフィルタに対する前記タップ距離パラメータを表す、EEE6に記載の方法。
8.
であり、mは2u-1より小さい整数である定数であり、Wは前記スパースフィルタによりフィルタリングされた前記画像縞の幅である、EEE7に記載の方法。
9. EEE6またはEEE7のいずれかに記載の方法であって、
を算出することをさらに含み、
Thは前記フィルタリング決定閾値を表す、方法。
10.
であり、
qおよびeは定数である、EEE9に記載の方法。
11.qが奇数のときは
でありqが偶数のときは
である、EEE10に記載の方法。
12.1つ以上のプロセッサを備えるシステムにおいて、バンディングアーティファクトを低減するための方法であって、
画素値群を有する入力画像を受け取ることと、
EEE1~11のいずれかに記載の方法にしたがった適応的スパースフィルタリングを用いて前記入力画像をフィルタリングすることによって第1の出力画像を生成することであって、前記適応的スパースフィルタリングは前記入力画像の列にわたって行われる、第1の出力画像を生成することと、
EEE1~11のいずれかに記載の方法にしたがった適応的スパースフィルタリングを用いて前記第1の出力画像をフィルタリングすることにより第2の出力画像を生成することであって、前記適応的スパースフィルタリングは前記第1の出力画像の行にわたって行われる、第2の出力画像を生成することと、
を含む、方法。
13.
EEE1~11のいずれかに記載の方法による適応的スパースフィルタリングを用いて前記第2の出力画像をフィルタリングすることにより第3の出力画像を生成することであって、前記適応的スパースフィルタリングは前記第2の出力画像の45度対角線にわたって行われる、第3の出力画像を生成することと、
EEE1~11のいずれかに記載の方法による適応的スパースフィルタリングを用いて前記第3の出力画像をフィルタリングすることにより第4の出力画像を生成することであって、前記適応的スパースフィルタリングの前記第3の出力画像の-45度対角線にわたって行われる、第4の出力画像を生成することと、
をさらに含む、EEE12に記載の方法。
14.1つ以上のプロセッサを備えるシステムにおいて、バンディングアーティファクトを低減するための方法であって、
画素値群を有する入力画像を受け取ることと、
第1の閾値パラメータを受け取ることと、
前記第1の閾値パラメータを前記フィルタリング決定閾値として用い、EEE1~11のいずれかに記載の方法にしたがった適応的スパースフィルタリングを用いて前記入力画像をフィルタリングすることにより、第1の出力画像を生成することと、
画像距離条件にしたがって前記入力画像および前記第1の出力画像間の画像距離メトリックを算出することと、
前記画像距離メトリックを継続閾値に対して比較することと、
前記画像距離メトリックが前記継続閾値より大きい場合に、
前記第1の閾値パラメータを減少することにより第2の閾値パラメータを生成し、
前記第2の閾値パラメータを前記フィルタリング決定閾値として用い、EEE1~11のいずれかに記載の方法にしたがった適応的スパースフィルタリングを用いて前記第1の出力画像をフィルタリングすることにより第2の出力画像を生成することと、
そうでない場合に前記第1の出力画像を出力することと、
を含む、方法。
15.前記画像距離メトリックは、前記入力画像の画素値群と前記第1の出力画像の画素値群との間の絶対差の平均和を算出することを含む、EEE14に記載の方法。
16.EEE1~15のいずれかに記載の方法を1つ以上のプロセッサで実行するためのコンピュータ実行可能命令を格納した、非一時的なコンピュータ可読記憶媒体。
17.プロセッサを備え、EEE1~15に記載の方法のいずれかを実行するように構成された装置。
Claims (20)
- バンディングアーティファクトを低減するための方法であって、
画素値群を有する入力画像を受け取ることと、
前記入力画像のある一次元画素アレイ中において同じ画素値を有する1つ以上の画素のシーケンスであって開始位置と終了位置との間のシーケンスを特定して前記一次元画素アレイ中の対応する1つ以上の画像縞を特定することであって、前記1つ以上の画像縞のうちの1つの画像縞は、前記開始位置と前記終了位置との間の同じ画素値を有する画素の数として定義される前記縞の幅、および縞画素値によって特徴付けられる、1つ以上の画像縞を特定することと、
前記1つ以上の画像縞のうちの各画像縞について、
あるスパースフィルタに対し、前記スパースフィルタの中央タップの一画素と前記中央タップの隣のタップの一画素との間の連続した画素数を示すタップ距離パラメータを、前記画像縞の幅の関数として決定することであって、決定された前記タップ距離パラメータは前記画像縞の幅に正比例する、タップ距離パラメータを決定することと、
前記タップ距離パラメータを有する前記スパースフィルタを前記画像縞に適用することにより、フィルタリングされた出力画素値群を生成することと、
前記フィルタリングされた出力画素値群に基づいて出力画像を生成することと、
を含む、方法。 - 前記スパースフィルタのタップ数は予め定められている、請求項1に記載の方法。
- 前記タップ距離パラメータを有する前記フィルタを前記画像縞の一画素に適用することは、対応するタップの画素値群を前記予め定められたタップ数にわたって平均化することを含む、請求項2に記載の方法。
- 前記平均化は、前記スパースフィルタの境界に位置する境界タップの画素値群を除外する、請求項3に記載の方法。
- フィルタリング決定閾値を受け取ることと、
各画像縞について、
中央タップの画素値とその他のタップの各画素値との間の複数の差を算出することと、
前記差の絶対値の最大値を算出することと、
をさらに含み、
前記スパースフィルタは、前記フィルタリング決定閾値と前記絶対値の最大値との比較に基づいて前記画像縞に適用される、
請求項1から4のいずれかに記載の方法。 - 前記スパースフィルタは、前記絶対値の最大値が前記フィルタリング決定閾値を越えない場合に前記画像縞に適用される、請求項5に記載の方法。
- 前記一次元画素アレイにおいて同じ画素値を有する1つ以上の画素のシーケンスを特定することは、前記入力画像のある色成分の画素値を、前記入力画像の行、前記入力画像の列、前記入力画像の列方向に対して45度の対角方向、または前記入力画像の列方向に対して-45度の対角方向にわたって解析することを含む、請求項1から6のいずれかに記載の方法。
- i=-u+1からi=u+1までについてd[i]=i*qであり、qは前記スパースフィルタに対する前記タップ距離パラメータを表す、請求項11に記載の方法。
- 前記方法が前記入力画像の列にわたって実行されることにより第1の出力画像を生成し、前記方法が前記第1の出力画像の行にわたって実行されることにより第2の出力画像を生成する、請求項1から15のいずれかに記載の方法。
- 前記方法が前記第2の出力画像の列方向に対して45度の対角線にわたって実行されることにより第3の出力画像を生成し、前記方法が前記第3の出力画像の列方向に対して-45度の対角線にわたって実行されることにより第4の出力画像を生成する、請求項16に記載の方法。
- 請求項1から17のいずれかに記載の方法であって、請求項5に従属するとき、
画像距離条件にしたがって前記入力画像および前記出力画像間の画像距離メトリックを算出することと、
前記画像距離メトリックを継続閾値と比較することと、
前記画像距離メトリックが前記継続閾値より大きい場合に、
前記フィルタリング決定閾値を減少することにより第2のフィルタリング決定閾値を生成し、
前記第2のフィルタリング決定閾値を用いて請求項1から17のいずれかに記載の方法にしたがって前記出力画像をフィルタリングすることにより第2の出力画像を生成することと、
そうでない場合に、前記出力画像を出力することと、
をさらに含む、方法。 - 前記画像距離メトリックを算出することは、前記入力画像の画素値群と前記出力画像の画素値群との間の対応する画素値の差の絶対値の総和を画素数で割った値を算出することを含む、請求項18に記載の方法。
- 1つ以上のプロセッサによって実行された場合に、請求項1から19のいずれかに記載の方法を前記1つ以上のプロセッサに実行させるコンピュータ実行可能命令を含むコンピュータプログラム。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201862781754P | 2018-12-19 | 2018-12-19 | |
US62/781,754 | 2018-12-19 | ||
EP18214110.1 | 2018-12-19 | ||
EP18214110 | 2018-12-19 | ||
PCT/US2019/065457 WO2020131494A1 (en) | 2018-12-19 | 2019-12-10 | Image debanding using adaptive sparse filtering |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022517305A JP2022517305A (ja) | 2022-03-08 |
JP7249417B2 true JP7249417B2 (ja) | 2023-03-30 |
Family
ID=69006101
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021535667A Active JP7249417B2 (ja) | 2018-12-19 | 2019-12-10 | 適応的スパースフィルタリングを用いた画像のデバンディング |
Country Status (5)
Country | Link |
---|---|
US (1) | US11663702B2 (ja) |
EP (1) | EP3900335A1 (ja) |
JP (1) | JP7249417B2 (ja) |
CN (1) | CN113196754B (ja) |
WO (1) | WO2020131494A1 (ja) |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150092847A1 (en) | 2013-10-01 | 2015-04-02 | Dolby Laboratories Licensing Corporation | Hardware Efficient Sparse FIR Filtering in Video Codec |
Family Cites Families (38)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5920653A (en) | 1996-10-22 | 1999-07-06 | Hewlett-Packard Company | Multiple spatial channel printing |
US6823089B1 (en) | 2000-09-28 | 2004-11-23 | Eastman Kodak Company | Method of determining the extent of blocking and contouring artifacts in a digital image |
JP2003304400A (ja) | 2002-04-05 | 2003-10-24 | Sharp Corp | 画像処理装置、画像処理方法、プログラム、および記録媒体 |
KR101108435B1 (ko) | 2005-05-31 | 2012-02-16 | 서강대학교산학협력단 | 의사윤곽 제거 방법 및 이 방법이 적용되는 디스플레이장치 |
KR20070118755A (ko) | 2006-06-13 | 2007-12-18 | 삼성전자주식회사 | 의사 윤곽 제거 방법 및 그 장치 |
CN101779464B (zh) | 2007-06-08 | 2014-02-12 | 汤姆森特许公司 | 多格点基于稀疏性滤波基础上环内去伪像滤波方法和装置 |
EP2171683A1 (en) | 2007-06-29 | 2010-04-07 | Thomson Licensing | Apparatus and method for reducing artifacts in images |
US8300802B2 (en) | 2007-08-31 | 2012-10-30 | Freescale Semiconductor, Inc. | Adaptive filter for use in echo reduction |
US8055095B2 (en) | 2008-01-23 | 2011-11-08 | Sparsense, Inc. | Parallel and adaptive signal processing |
US8180138B2 (en) * | 2009-03-23 | 2012-05-15 | Morpho Detection, Inc. | Method and system for inspection of containers |
JP5800396B2 (ja) * | 2009-04-14 | 2015-10-28 | トムソン ライセンシングThomson Licensing | スパース性ベースのアーティファクト除去フィルタリングにおける可変変換に応じてフィルタ・パラメータの決定および選択を行う方法および装置 |
US20110135011A1 (en) * | 2009-12-04 | 2011-06-09 | Apple Inc. | Adaptive dithering during image processing |
US8606009B2 (en) | 2010-02-04 | 2013-12-10 | Microsoft Corporation | High dynamic range image generation and rendering |
WO2011162124A1 (ja) * | 2010-06-25 | 2011-12-29 | シャープ株式会社 | 信号処理装置、信号処理プログラム、および表示装置 |
US20130107956A1 (en) * | 2010-07-06 | 2013-05-02 | Koninklijke Philips Electronics N.V. | Generation of high dynamic range images from low dynamic range images |
TWI559779B (zh) | 2010-08-25 | 2016-11-21 | 杜比實驗室特許公司 | 擴展影像動態範圍 |
US9036937B2 (en) * | 2010-11-15 | 2015-05-19 | Qualcomm Incorporated | Fast repeated integral images |
CA2842572C (en) | 2011-08-16 | 2020-10-13 | Imax Corporation | Hybrid image decomposition and projection |
US8908989B2 (en) | 2012-11-02 | 2014-12-09 | Board Of Regents, The University Of Texas System | Recursive conditional means image denoising |
US9213915B2 (en) | 2013-03-15 | 2015-12-15 | Raytheon Company | Sparse adaptive filter |
US10130325B2 (en) | 2013-06-10 | 2018-11-20 | General Electric Company | System and method of correcting banding artifacts in cardiac CT |
US9092856B2 (en) * | 2013-10-31 | 2015-07-28 | Stmicroelectronics Asia Pacific Pte. Ltd. | Recursive de-banding filter for digital images |
US9858502B2 (en) | 2014-03-31 | 2018-01-02 | Los Alamos National Security, Llc | Classification of multispectral or hyperspectral satellite imagery using clustering of sparse approximations on sparse representations in learned dictionaries obtained using efficient convolutional sparse coding |
US9911179B2 (en) * | 2014-07-18 | 2018-03-06 | Dolby Laboratories Licensing Corporation | Image decontouring in high dynamic range video processing |
US9747673B2 (en) * | 2014-11-05 | 2017-08-29 | Dolby Laboratories Licensing Corporation | Systems and methods for rectifying image artifacts |
WO2016140954A1 (en) * | 2015-03-02 | 2016-09-09 | Dolby Laboratories Licensing Corporation | Content-adaptive perceptual quantizer for high dynamic range images |
WO2016153936A1 (en) | 2015-03-20 | 2016-09-29 | Digimarc Corporation | Digital watermarking and data hiding with narrow-band absorption materials |
US9747514B2 (en) | 2015-08-31 | 2017-08-29 | Apple Inc. | Noise filtering and image sharpening utilizing common spatial support |
US10129565B2 (en) | 2016-02-18 | 2018-11-13 | Mathieu Monnier | Method for processing high dynamic range video in order to improve perceived visual quality of encoded content |
US20170347126A1 (en) * | 2016-05-27 | 2017-11-30 | Qualcomm Incorporated | Video debanding using adaptive filter sizes and gradient based banding detection |
US10685429B2 (en) | 2017-02-22 | 2020-06-16 | Siemens Healthcare Gmbh | Denoising medical images by learning sparse image representations with a deep unfolding approach |
JP7037584B2 (ja) | 2017-06-16 | 2022-03-16 | ドルビー ラボラトリーズ ライセンシング コーポレイション | 効率的なエンド・ツー・エンドシングルレイヤー逆ディスプレイマネジメント符号化 |
GB2568039B (en) * | 2017-10-30 | 2020-10-28 | Imagination Tech Ltd | Systems and methods for processing a stream of data values |
EP3759916A1 (en) | 2018-02-28 | 2021-01-06 | Dolby Laboratories Licensing Corporation | Linear encoder for image/video processing |
CN112585969B (zh) | 2018-08-10 | 2023-03-28 | 杜比实验室特许公司 | 用于减少目标图像中的条带伪影的方法、装置及存储介质 |
KR20200068457A (ko) * | 2018-12-05 | 2020-06-15 | 삼성전자주식회사 | 에지 보전 스무딩을 수행하는 이미지 프로세싱 장치 및 이의 이미지 프로세싱 방법 |
US11297353B2 (en) * | 2020-04-06 | 2022-04-05 | Google Llc | No-reference banding artefact predictor |
TWI727784B (zh) * | 2020-05-05 | 2021-05-11 | 瑞昱半導體股份有限公司 | 影像去色帶方法 |
-
2019
- 2019-12-10 US US17/415,674 patent/US11663702B2/en active Active
- 2019-12-10 CN CN201980084745.1A patent/CN113196754B/zh active Active
- 2019-12-10 EP EP19828174.3A patent/EP3900335A1/en active Pending
- 2019-12-10 WO PCT/US2019/065457 patent/WO2020131494A1/en active Search and Examination
- 2019-12-10 JP JP2021535667A patent/JP7249417B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20150092847A1 (en) | 2013-10-01 | 2015-04-02 | Dolby Laboratories Licensing Corporation | Hardware Efficient Sparse FIR Filtering in Video Codec |
Also Published As
Publication number | Publication date |
---|---|
US11663702B2 (en) | 2023-05-30 |
CN113196754A (zh) | 2021-07-30 |
WO2020131494A1 (en) | 2020-06-25 |
EP3900335A1 (en) | 2021-10-27 |
US20220076384A1 (en) | 2022-03-10 |
CN113196754B (zh) | 2023-10-03 |
JP2022517305A (ja) | 2022-03-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107409213B (zh) | 用于高动态范围图像的内容自适应感知量化器 | |
RU2713869C1 (ru) | Преобразование тоновой кривой для изображений с расширенным динамическим диапазоном | |
US10223774B2 (en) | Single-pass and multi-pass-based polynomial approximations for reshaping functions | |
US10080005B2 (en) | High dynamic range color conversion correction | |
JP2010218549A (ja) | 深度画像をフィルタリングする方法 | |
JP7049526B2 (ja) | 適応的なsdrからhdrへの再構成関数による、hdr画像化におけるバンディングアーチファクトの低減 | |
CN112771567B (zh) | Sdr到hdr图像转换中的图像去噪 | |
CN104335565A (zh) | 采用具有自适应滤芯的细节增强滤波器的图像处理方法 | |
WO2013145510A1 (en) | Methods and Systems for Image Enhancement and Estimation of Compression Noise | |
KR101818900B1 (ko) | 향상된 동적 범위를 갖는 신호들에 대한 계층간 예측 | |
JP2022504213A (ja) | 後方互換性を有するhdr画像化における、バンディングアーチファクトの低減 | |
CN115362675A (zh) | Hdr成像中的盲局部整形 | |
JP7249417B2 (ja) | 適応的スパースフィルタリングを用いた画像のデバンディング | |
US11895416B2 (en) | Electro-optical transfer function conversion and signal legalization | |
US10715772B2 (en) | High dynamic range color conversion correction | |
JP2016165065A (ja) | 画像用ノイズ低減装置、画像用符号化装置、及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210817 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210817 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220922 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221201 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230210 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230221 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230317 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7249417 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |