JP2023528430A - 画像強調方法及び装置 - Google Patents

画像強調方法及び装置 Download PDF

Info

Publication number
JP2023528430A
JP2023528430A JP2022574287A JP2022574287A JP2023528430A JP 2023528430 A JP2023528430 A JP 2023528430A JP 2022574287 A JP2022574287 A JP 2022574287A JP 2022574287 A JP2022574287 A JP 2022574287A JP 2023528430 A JP2023528430 A JP 2023528430A
Authority
JP
Japan
Prior art keywords
pixel value
filtering
enhancement
level
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2022574287A
Other languages
English (en)
Other versions
JP7460802B2 (ja
Inventor
方▲棟▼ ▲陳▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hangzhou Hikvision Digital Technology Co Ltd
Original Assignee
Hangzhou Hikvision Digital Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hangzhou Hikvision Digital Technology Co Ltd filed Critical Hangzhou Hikvision Digital Technology Co Ltd
Publication of JP2023528430A publication Critical patent/JP2023528430A/ja
Priority to JP2024042283A priority Critical patent/JP2024060091A/ja
Application granted granted Critical
Publication of JP7460802B2 publication Critical patent/JP7460802B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/80Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation
    • H04N19/82Details of filtering operations specially adapted for video compression, e.g. for pixel interpolation involving filtering within a prediction loop
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/117Filters, e.g. for pre-processing or post-processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/75Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
    • G06V10/751Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/182Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a pixel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Databases & Information Systems (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Software Systems (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Image Processing (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)

Abstract

本発明は、画像強調方法及び装置を提供し、当該画像強調方法は、第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定するステップと、前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するステップと、を含む。

Description

本発明はビデオの符号化復号技術に関し、特に画像強調方法及び装置に関する。
完全なビデオ符号化には通常、予測、変換、量子化、エントロピー符号化、およびフィルタリングなどの操作が含まれる。
現在、標準で採用されている一般的なフィルタリング技術には、デブロッキングフィルタ(DeBlocking Filter、DBF)技術、サンプル適応オフセット(Sample Adaptive Offset、SAO)技術、適応ループフィルタ(Adaptive Loop Filter、ALF)技術などがある。
DBF技術はブロック符号化によって生じるブロッキングアーチファクトを除去するために用いられる。SAO技術はサンプルの画素値と周辺ブロックの勾配値に基づいて分類を行い、各カテゴリの画素値に異なる補償値を加えることによって、再構成画像を元の画像に近づける。ALF技術はウィナーフィルタを介して再構成画像に強調フィルタリングを行い、再構成画像を元の画像に近づける。
上述したDBF、SAO、及びALFのフィルタリング技術は、いずれもカレント画素値またはカレント画素値と周辺画素値との関係に基づいて分類を行い、さらに異なるカテゴリに基づいて異なるフィルタリング操作を行うため、過剰フィルタリングが生じることがあり、すなわちフィルタリング後の画素値は、フィルタリング前の画素値よりはるかに大きく、またははるかに小さく、元の画素値よりもはるかに大きく、または小さい。
そこで、本発明は、画像強調方法及び装置を提供する。
具体的に、本発明は以下の技術的解決手段によって実現される:本発明の実施例の第1の態様により、画像強調方法を提供し、第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定するステップと、前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するステップと、を含む。
本発明の実施例の第2の態様により、画像強調装置を提供し、プロセッサと、通信インタフェースと、メモリと、通信バスとを備え、ただし、プロセッサ、通信インタフェース、メモリは、通信バスを介して互いに通信を行われ、前記メモリには、コンピュータプログラムが格納され、前記プロセッサは、前記コンピュータプログラムにより、第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定するステップと、前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するステップと、を実行する。
本発明の実施例の画像強調方法は、第1フィルタリング処理条件を満たすカレント画像ブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定し、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得することによって、画質を向上させ、符号化・復号性能を向上させた。
本発明の例示的な実施例に示されるブロック分割の模式図である。 本発明の例示的な実施例に示されるブロック分割の模式図である。 本発明の例示的な実施例に示される符号化、復号方法の模式図である。 本発明の例示的な実施例に示されるDBFフィルタリング画素の模式図である。 本発明の例示的な実施例に示される画像強調方法のフローチャートである。 本発明の例示的な実施例に示される画像強調装置のハードウェア構造の模式図である。 本発明の例示的な実施例に示される画像強調装置の機能構造の模式図である。 本発明の例示的な実施例に示される別の画像強調装置の機能構造の模式図である。
ここで例示的な実施例について詳細的に説明し、その例示は図面に示している。以下の説明は図面に係る時、特に示さない限り、異なる図面における同じ数字は同じ又は類似する要素を示す。以下の例示的な実施例に記載された実施例は本発明と一致する全ての実施例ではない。逆に、それらは添付の特許請求の範囲で詳細に説明された、本発明のいくつかの態様と一致する装置及び方法の例に過ぎない。
本発明の実施例で使用された用語は特定の実施例を説明するための目的のみであり、本発明を限定するものではない。文脈が明らかに他の意味を示さない限り、本発明の実施例と特許請求の範囲に使用される単数形の「一種」、「前記」及び「当該」は複数形を含むことも意図する。
当業者が本発明の実施例によって提供される技術的な解決手段をよりよく理解できるように、先ず、本発明の実施例に関わるいくつかの技術用語及び既存のビデオの符号化、復号の主なプロセスについて、簡単に説明する。
一、技術用語
1、レート歪み最適化(Rate-Distortion Optimized、RDO)手法:符号化の効率を評価する指標は、ビットレートと、ピーク信号対雑音比(Peak Signal to Noise Ratio、PSNR)とを含む。ビットレートが小さいほど圧縮率が高く、PSNRが大きいほど再構成された画像の品質が高い。符号化モードを選択する時に、判別式は実質的に両者を合わせた評価である。モードに対応するコスト(cost):J(mode)=D+λ*Rとなり、ただし、Dは歪み(Distortion)を表し、一般にSSE(Sum of the Squared Errors、残差平方和)指標を用いて評価することができ、SSEは、再構成画像ブロックとソース画像の差の平均二乗和を指し、λはラグランジュ乗数であり、Rは、当該モードにおいて画像ブロックを符号化するのに必要な実際のビット数であり、符号化モード情報、動き情報、残差などに必要なビットの総数を含む。モードを選択するとき、RDO手法を用いて符号化モードについての比較決定をすると、一般に最適な符号化性能が保証できる。
2、シーケンスパラメータセット(Sequence Parameter Set、SPS):このセットには、シーケンスにおいて、特定のツール(方法)のオン・オフを許可するかどうかを決定するフラグビットが存在する。このフラグビットが1の場合、当該ビデオシーケンスにおいて、対応するツール(方法)のオンが許可され、それ以外の場合は、当該ツール(方法)は当該シーケンスの符号化中にオンにすることができない。
3、画像パラメータセット(Picture Parameter Set、PPS):このセットには、あるフレーム画像において、特定のツール(方法)のオン・オフを許可するかどうかを決定するフラグビットが存在する。このフラグビットが1の場合、当該フレーム画像において、対応するツール(方法)のオンが許可され、それ以外の場合は、当該ツール(方法)は当該フレーム画像の符号化中にオンにすることができない。
4、画像ヘッダ(picture header):特定のフレーム画像に対しての共通する情報である。
5、スライスヘッダ(Slice header):一つのフレーム画像には1つ以上のsliceが含まれ、スライスヘッダ情報には、特定のsliceにおいて、特定のツール(方法)のオン・オフを許可するかどうかを決定するフラグビットが存在する。このフラグビットが1の場合、当該sliceにおいて、対応するツール(方法)のオンが許可され、それ以外の場合は、当該ツール(方法)は当該sliceの符号化中にオンにすることができない。
6、SAOフィルタリング:リンギングアーチファクトを除去するために用いられる。リンギングアーチファクトとは、高周波交流係数の量子化歪みにより、復号後にエッジの周辺にリップルが発生する現象のことであり、変換ブロックのサイズが大きいほどリンギングアーチファクトは顕著になる。SAOの基本原理は、再構成曲線のピーク画素に負の値を加えることで補償を行い、トラフ画素に正の値を加えることで補償を行うことである。SAOはCTUを基本の単位とし、二つの大きな補償方式であるエッジオフセット(エッジオフセット、EO)とバンドオフセット(Band Offset、BO)が含まれ、さらにパラメータ融合技術も導入されている。
7、ALFフィルタリング:元の信号と歪み信号とに基づいて、計算で得られた平均二乗法における最適なフィルタ、つまり、ウィナーフィルタである。ALFのフィルタは、通常7x7または5x5の菱形のフィルタである。
二、既存のビデオ符号化標準におけるブロック分割技術
HEVC(High Efficiency Video Coding、高効率ビデオコーディング)では、コーディングツリーユニット(Coding Tree Unit、CTU)を4分木で再帰的にコーディングユニット(Coding Units、CU)に分割している。葉ノードCUレベルでイントラ符号化又はインター符号化を使用するか否かを決定する。CUはさらに2つまたは4つの予測ユニット(Prediction Unit、PU)に分割される可能であり、同じPU内では同じ予測情報を使用する。予測終了後に残差情報を取得した後、CUをさらに4分木で複数の変換ユニット(Transform Units、TU)に分割できる。例えば、本発明におけるカレント画像ブロックは、1つのPUである。
しかし、最新提案された汎用ビデオ符号化(Versatile Video Coding、VVC)では、ブロック分割の技術が大きく変わった。2分/3分/4分木を組み合わせる分割構造は、従来の分割モデルを置き換え、CU、PU、TUという従来の概念の区別を取り消し、より柔軟なCUの分割方法をサポートする。CUは正方形や長方形の分割が可能となる。CTUはまず4分木分割され、4分木分割で得られた葉ノードはさらに2分木や3分木分割されることが可能である。図1Aに示すように、(a)に示すようなCUの分割タイプは、(b)に示すような4分木分割、(c)に示すような水平2分木分割、(d)に示すような垂直2分木分割、(e)に示すような水平3分木分割、(f)に示すような垂直3分木分割の5種類があり、図1Bに示すように、CTU内のCUの分割は、上記5種類の分割タイプを自由に組み合わせる分割であってもよい。以上のことから、異なる分割方法により、各PUの形状が異なり、例えば、サイズが異なる矩形や正方形にすることが可能である。
三、既存のビデオの符号化、復号の主なプロセス
図2の(a)に示すように、ビデオ符号化を例として、ビデオ符号化は一般的に予測、変換、量子化、エントロピー符号化などの処理を含み、さらに、図2の(b)のような枠組みで符号化を行うことも可能である。
ここで、予測は、イントラ予測とインター予測に分けることができる。イントラ予測は、周辺符号化されたブロックを参照としてカレント符号化されていないブロックを予測し、空間領域での冗長性を効果的に除去する。インター予測は、隣接する符号化された画像を使用してカレント画像を予測し、時間領域の冗長性を効果的に除去する。
変換とは、画像を空間領域から変換領域へ画像を変換し、画像を表現するために変換係数を用いることを指す。大多数の画像は、平坦領域と緩変化領域が多く含まれ、適切な変換を行うことで、画像を空間領域での散乱分布から変換領域での比較的集中した分布に変換させ、信号間の周波数領域の相関を取り除き、量子化処理と合わせてビットストリームを効果的に圧縮することができる。
エントロピー符号化は、一連の要素記号を伝送または保存するためのバイナリビットストリームに変換する可逆符号化方法である。入力される要素記号は、量子化された変換係数、動きベクトル情報、予測モード情報、変換・量子化に関するシンタックスなどを含み得る。エントロピー符号化は、ビデオ要素記号の冗長性を効果的に除去することができる。
以上、符号化を例に紹介したが、ビデオ復号の処理はビデオ符号化の処理と相対するものであり、すなわちビデオ復号には通常エントロピー復号、予測、逆量子化、逆変換、フィルタリングなどの処理があり、各処理の実施原理はビデオ符号化と同一または類似のものである。
DBFフィルタリング技術の実施について、以下に簡単に説明する。
DBFフィルタリング処理は、フィルタリング決定とフィルタリング操作の2つのプロセスで構成される。
フィルタリング決定は、1)境界強度(すなわちBS値)の取得、2)フィルタリングのオン・オフの決定、3)フィルタリング強弱の選択から構成される。色度成分については、ステップ1)のみが存在し、輝度成分のBS値がそのまま再利用される。色度成分については、BS値が2の場合(すなわち、カレントブロックの両側のブロックの少なくとも1つがintra(イントラ)モードを採用している)にのみフィルタリング操作が実行される。
フィルタリング操作は、1)輝度成分に対する強フィルタリングと弱フィルタリング、2)色度成分に対するフィルタリングから構成される。DBFフィルタリング処理は、一般に、8*8単位で水平境界フィルタリング(水平DBFフィルタリングと呼んでもよい)と、垂直境界フィルタリング(垂直DBFフィルタリングと呼んでもよい)とを行い、境界両側の最大3つの画素点に対してフィルタリングを行い、境界両側の最大4つの画素点を利用してフィルタリングを行うため、異なるブロックの水平/垂直DBFフィルタリングは互いに影響を与えず、並行して行うことが可能である。
図3に示すように、カレントブロック310(例えば8*8)に対して、まずカレントブロック310の左側の3列と左ブロック320の右側の3列の画素点の垂直DBFフィルタリングを行い、次にカレントブロック310の上側の3行と上ブロック330の下側の3行の画素点の水平DBFフィルタリングを行う。
例示的に、垂直DBFフィルタリングと水平DBFフィルタリングを別々に行う必要がある画素点については、通常、先に垂直DBFフィルタリングを行い、次に水平DBFフィルタリングを行う。
DBFフィルタリング、SAOフィルタリング、ALFフィルタリングのいずれにおいても、カレント画素値、あるいはカレント画素値と周辺画素値との関係に基づいて分類を行い、異なるカテゴリに基づいて異なるフィルタリング操作を行う。これに対し、本発明で提案する画像強調方法は、フィルタリング残差に基づく二次フィルタリング方法(本発明では強調フィルタリングと呼ぶ)である。フィルタリング残差とは、フィルタリング処理前後の画素値の差のことである。例えば、DBFフィルタリング前の再構成値がY1、DBFフィルタリング後の画素値がY2であれば、Y2-Y1の結果に基づいて分類することができる。フィルタリング残差に基づいて分類する主な利点は、一部の過剰フィルタリングまたは擬似フィルタリングされた画素値に対して、これらのカテゴリの画素を元の値に近づけるための特殊強調を行うことができることである。過剰フィルタリングとは、Y2がY1よりはるかに大きく(またははるかに小さく)なり、ゆえに、Y2が元の画素値よりはるかに大きく(またははるかに小さく)なることである。擬似フィルタリングとは、Y2-Y1が0、または0に近く、これらの画素値はフィルタリング後も変わらず、フィルタリングされていないと同等としてもよいことである。
本発明では、ある画素の座標を(i,j)と表し、最初のフィルタリング処理(これらの最初のフィルタリングには、DBFフィルタリング、SAOフィルタリング、またはALFフィルタリングなどのフィルタリング残差を利用しないフィルタリング方法を含む)前の再構成値をY1とし、フィルタリング処理後の画素値をY2とすれば、Y2-Y1の結果に基づいて残差を分類することができる。残差分類の結果に基づいて、強調処理を行い、Y3を得る。ここで、Y3は、Y2を強調することによって得てもよいし、Y1に基づいて強調することによって得てもよいし、またはY1およびY2に基づいて強調することによって得てもよい。ここで、前記強調処理が、補償値(正または負であり得る)を加えてもよいし、または重み付けフィルタリング処理を行ってもよく、例えば、Y3=w1*Y1+w2*Y2、またはY3=w1*Y2+w2*Y2(i-1,j)+w2*Y2(i,j-1)、ここで、Y2(i-1,j)とY2(i,j-1)はY2の空間領域の隣接する画素値である。
本発明の実施例の上記目的、特徴及び利点がより明確に理解されるために、本発明の実施例における技術的な解決手段について、図面を併せてさらに詳細に説明する。
図4を参照し、本発明の実施例で提供される画像強調方法のフローチャートであり、図4に示すように、当該画像強調方法は、以下のステップを含み得る。
ステップS400、第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定する。
本発明の実施例において、第1フィルタリング処理は、垂直DBFフィルタリング処理、水平DBFフィルタリング処理、SAOフィルタリング処理またはALFフィルタリング処理などを含み得るが、これらに限定されない。
例えば、第1フィルタリング処理が垂直DBFフィルタリング処理または水平DBFフィルタリング処理である場合、カレントブロックの各画素点が第1フィルタリング処理条件を満たすかどうかは、カレントブロックにおける画素点の位置と上記DBFフィルタリング処理のフィルタリング決定の手法とに基づいて決定することができる。例えば、上記DBFフィルタリング処理のフィルタリング決定に従って、カレントブロックに対してDBFフィルタリング処理を行う必要があると決定された場合、カレントブロックにおける垂直DBFフィルタリング処理または/および水平DBFフィルタリング処理を行う必要がある画素点は、図3に示すようなものであってもよい。
第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の画素値(本発明では第1画素値と呼ぶ)を決定することができる。
ステップS410、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得する。
本発明の実施例では、第1フィルタリング処理後の当該画素点の第1画素値が決定されると、当該第1画素値と第1フィルタリング処理前の当該画素点の画素値(本発明では第2画素値と呼ぶ)とに基づいて、当該画素点の画素値を強調処理し、すなわち画素点の画素値を強調フィルタリング処理し、強調処理後の当該画素点の画素値(本発明では第3画素値と呼ぶ)を取得することで、強調処理後の当該画素点の画素値が第1画素値よりも元の画素値に近くなり、過剰フィルタリングによりフィルタリング後の画素値が画素点の元の画素値よりはるかに大きく、またははるかに小さくなることを避け、画質を向上させる。
例示的に、当該第3画素値が第1画素値よりも元の画素値に近いため、過剰フィルタリングによりフィルタリング後の画素値が画素点の元の画素値よりはるかに大きく、またははるかに小さくなることを避ける。
例示的に、画素点に対しての強調処理は、補償値(オフセット量と呼んでもよく、正または負であり得る)を加えることによって、または、重み付けフィルタリング処理を行うことによって実現できる。
重み付けフィルタリング処理を行う場合を例にとると、当該画素の座標点を(i,j)、第1画素値をY2、第2画素値をY1、第3画素値をY3とすると、Y3=w1*Y1+w2*Y2、またはY3=w1*Y2+w2*Y2(i-1,j)+w2*Y2(i,j-1)、ここでY2(i-1,j)及びY2(i,j-1)は当該画素点の空間領域の隣接する画素値である。
したがって、図4に示す方法フローにおいて、画素点に対してフィルタリング処理を行い、画素点のフィルタリング前後の画素値に基づいて画素点の画素値を強調することで、符号化・復号性能を向上させ、画質を向上させることができる。
一つの可能な実施例として、ステップS410において、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、第1画素値と第2画素値との差に基づいて当該画素点の画素値を強調処理することを含み得る。
例示的に、画素点のフィルタリング前後の画素値の残差は通常、フィルタリング処理後の画素点の画素値と当該画素点の元の画素値との残差を表すことができると考えられるため、画素点のフィルタリング前後の画素値の残差に基づいて画素点を強調処理すると、強調処理後の画素点の画素値が画素点の元の画素値に近くなることを有効に確保でき、画質を向上させる。
また、第1フィルタリング処理後の画素点の第1画素値が決定された場合、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値との差を算出し、この差に基づいて当該画素点の画素値を強調処理する。
一例において、上記第1画素値と第2画素値との差に基づいて当該画素点の画素値を強調処理することは、第1画素値と第2画素値との差と、所定の閾値との比較結果に基づいて、当該画素点を強調処理することを含み得る。
例示的に、画素点の第1画素値と第2画素値との差と、所定の閾値との比較結果に基づいて、当該画素点を分類し、当該画素点のカテゴリに基づいて当該画素点の画素値を強調処理してもよい。例示的に、異なるカテゴリの画素点については、強調処理を行う手法は異なる。
一例において、第1画素値と第2画素値との差と、所定の閾値との比較結果に基づいて、当該画素点の画素値を強調処理することは、第1画素値と第2画素値との差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理し、第1画素値と第2画素値との差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理し、ただし、第2強調フィルタリング閾値は第1強調フィルタリング閾値より小さいことを含み得る。
例示的に、所定の閾値は第1強調フィルタリング閾値と第2強調フィルタリング閾値とを含み得、第2強調フィルタリング閾値は第1強調フィルタリング閾値より小さい。
第1画素値と第2画素値との差が決定された場合、この差と、第1強調フィルタリング閾値および第2強調フィルタリング閾値と比較され得る。この差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理してもよい。この差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理してもよい。
例えば、当該画素点の画素値を強調処理する場合、第1画素値と第2画素値に基づいて、第4画素値を決定してもよい。第1画素値と第2画素値との差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該第4画素値を強調処理し、第3画素値を取得してもよく、第1画素値と第2画素値との差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該第4画素値を強調処理し、第3画素値を取得してもよい。
また、例えば、当該画素点の画素値を強調処理する場合、第1画素値を強調処理することによって実現し得る。第1画素値と第2画素値との差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該第1画素値を強調処理し、第3画素値を取得してもよく、第1画素値と第2画素値との差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該第1画素値を強調処理し、第3画素値を取得してもよい。
説明すべきことは、本発明の実施例において、第1画素値と第2画素値との差が第1強調フィルタリング閾値以下であり、かつ第2強調フィルタリング閾値以上の場合、第1画素値を第3画素値としてもよいし、または、第1画素値をフィルタリング処理(本発明では第2フィルタリング処理と呼ぶ)して第3画素値を取得してもよい。
例えば、第1画素値と所定の第3強調フィルタリングオフセット量との和を第3画素値として決定してもよい。他の例として、第2フィルタリング処理は、ALFフィルタリング処理であってもよく、すなわち、第1画素値をALFフィルタリング処理して第3画素値を得る。
画素点の画素値は指定された範囲にあると考えられ、当該範囲は通常、画像ビット深度で決まり、例えば、[0,2-1]、Dは画像ビット深度である。例えば、8ビット画像の場合、当該範囲は[0、255]、10ビット画像の場合、当該範囲は[0、1023]となる。強調処理後の画素点の第3画素値が画素値の範囲外にあることを避けるために、第3画素値を取得する際に、clip(クリップ)操作により所定の範囲に制限してもよい。
第3画素値が所定の範囲の上限値より大きい場合、第3画素値を所定の範囲の上限値と設定し、第3画素値が所定の範囲の下限値より小さい場合、第3画素値を所定の範囲の下限値と設定する。8ビット画像を例にとると、第3画素値が0より小さい場合、第3画素値を0と設定し、第3画素値が255より大きい場合、第3画素値を255と設定する。
符号化デバイスがカレントブロックの画素点に対して上記の強調処理を行ったことを考慮すると、符号化デバイスと復号デバイスは、強調フィルタリング閾値と強調フィルタリングオフセット量の値に一貫性を保つ必要がある。
例示的に、符号化デバイスおよび復号デバイスは、同一の強調フィルタリング閾値候補リスト(以下は閾値候補リストと呼ぶ)と、同一の強調フィルタリングオフセット量候補リストとを構築してもよい。符号化デバイスが、ビットストリームに、強調フィルタリング閾値インデックス(以下は閾値インデックスと呼ぶ)と、強調フィルタリングオフセット量インデックス(以下はオフセット量インデックスと呼ぶ)とを付加し、当該閾値インデックスは強調フィルタリング閾値を表すために用いられ、例えば、第1強調フィルタリング閾値または第2強調フィルタリング閾値の閾値候補リストにおける位置を表し、オフセット量インデックスは強調フィルタリングオフセット量を表すために用いられ、例えば、第1強調フィルタリングオフセット量または第2強調フィルタリングオフセット量のオフセット量候補リストにおける位置を表す。
復号デバイスは、ビットストリームを受信すると、ビットストリームから閾値インデックスとオフセット量インデックスを復号し、閾値インデックスに基づいて閾値候補リストから第1強調フィルタリング閾値または第2強調フィルタリング閾値を検索し、および、オフセット量インデックスに基づいてオフセット量候補リストから第1強調フィルタリングオフセット量または第2強調フィルタリングオフセット量を検索してもよい。
一例では、符号化が必要な閾値インデックスによって消費されるビット数を減らすために、第1強調フィルタリング閾値は、第2強調フィルタリング閾値の反数であってもよい。
例示的に、第2強調フィルタリング閾値は第1強調フィルタリング閾値より小さいため、第1強調フィルタリング閾値は正の数であり、第2強調フィルタリング閾値は負の数である。例えば、第1強調フィルタリング閾値は2であり、第2強調フィルタリング閾値は-2である。同様に、第1強調フィルタリングオフセット量も、第2強調フィルタリングオフセット量の反数であってもよい。
説明すべきことは、本発明の実施例において、強調フィルタリング閾値候補リスト及び強調フィルタリングオフセット量候補リストを構築する時、パラメータセットの形態で構築してもよい。すなわち、候補リストの各候補値は一つのパラメータセットであり、当該パラメータセットは、一つの第1強調フィルタリング閾値候補、一つの第2強調フィルタリング閾値候補(第1強調フィルタリング閾値と第2強調フィルタリング閾値が互いの反数である場合、一方のみを含んでもよい)、一つの第1強調フィルタリングオフセット量候補、および一つの第2強調フィルタリングオフセット量候補(第1強調フィルタリングオフセット量と第2強調フィルタリングオフセット量が互いの反数である場合、一方のみを含んでもよい)を含む。
インデックスを符号化および復号する場合、パラメータセットインデックスの形で符号化および復号してもよく、すなわち、パラメータセットインデックスによって、パラメータセットのパラメータセット候補リストにおける位置を表し、その具体的な実現は、以下の具体的な実施例で説明することができる。
さらに、本発明の実施例では、強調フィルタリング閾値と強調フィルタリングオフセット量などのカレントブロックの強調フィルタリングパラメータは、上側ブロック又は左側ブロックなどの周辺ブロックの対応するパラメータを再利用してもよい。
符号化および復号側は、ビットストリームに、カレントブロックが周辺ブロックの強調フィルタリングパラメータを再利用しているかどうかを示すためのフラグビットを使用してもよい。周辺ブロックの強調フィルタリングパラメータが再利用されていると決定した場合、カレントブロックの強調フィルタリングパラメータの追加の符号化および復号は不要である。
別の一例では、符号化が必要な閾値インデックスによって消費されるビット数を減らすために、第1強調フィルタリング閾値または/および第2強調フィルタリング閾値は固定値である。例示的に、第1強調フィルタリング閾値または/および第2強調フィルタリング閾値は固定値に設定されてもよく、したがって、第1強調フィルタリング閾値または/および第2強調フィルタリング閾値に対応する閾値インデックスを符号化する必要がないようにすることができる。同様に、第1強調フィルタリングオフセット量または/および第2強調フィルタリングオフセット量も固定値であってもよい。
別の可能な一実施例として、ステップS410において、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、第1画素値と第2画素値とを入力パラメータとして機械学習または深層学習を利用して第3画素値を決定することを含み得る。
例示的に、機械学習または深層学習を利用して画素値の強調処理を実現してもよい。画素点を第1フィルタリング処理して当該画素点の第1画素値を決定した場合、第1画素値と第2画素値とを入力パラメータとして機械学習または深層学習を利用して当該画素点の画素値を強調処理し、強調処理後の第3画素値を得てもよい。
説明すべきことは、上述の実施例で説明した第3画素値を決定する方法は、本発明の実施例における第3画素値の決定の実現方法のいくつかの具体例に過ぎず、本発明の保護範囲を限定するものではなく、すなわち、本発明の実施例では、第1画素値および第2画素値に基づいて他の方法で第3画素値を決定してもよく、例えば、第1画素値と第2画素値との差を入力として、ウィナーフィルタを用いて第3画素値を決定する、または、第1画素値と第2画素値との差に基づいて第2画素値を分類して、第2画素値のカテゴリに基づいてウィナーフィルタを用いて当該画素点の画素値を強調処理し、第3画素値を決定する。
別の可能な一実施例として、ステップS410において、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、カレントブロックが強調フィルタリングを有効にしている場合、第1画素値と当該第2画素値とに基づいて当該画素点の画素値を強調処理することを含み得る。
例示的に、強調フィルタリングの柔軟性と可制御性を高めるために、強調フィルタリング案を有効にするか有効にしないか、すなわち、画素点のフィルタリング処理を行った後、画素点の画素値を強調処理する(強調フィルタリングを有効にする)か、画素点の画素値を強調処理しない(強調フィルタリングを有効にしない)か、を選択してもよい。
第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値が決定されると、カレントブロックが強調フィルタリングを有効にしているかどうかに基づいて、当該画素点の画素値を強調処理するかどうかを決定してもよい。カレントブロックが強調フィルタリングを有効にしている場合、当該第1画素値と当該第2画素値に基づいて当該画素点を強調処理する。
一例として、指定されたシンタックスを用いてカレントブロックが強調フィルタリングを有効にしているか否かを識別する。例示的に、当該指定されたシンタックスのレベルは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスのうちの1つ以上を含んでもよいが、これらに限定されない。または、当該指定されたシンタックスのレベルは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、CTUレベルシンタックス、及びCUレベルシンタックスのうちの1つ以上を含んでもよいが、これらに限定されない。
例示的に、強調フィルタリングの柔軟性と可制御性を高めるために、異なるレベルで強調フィルタリングを有効にする/しないことを実現してもよい。例えば、シーケンスパラメータセットレベル、画像パラメータセットレベルまたは/およびsliceレベルで強調フィルタリングを有効にする/しないことを実現してもよい。例えば、画像シーケンスが強調フィルタリングを有効にしている場合、画像パラメータセットレベルシンタックスで強調フィルタリングを有効にするかどうかを設定してもよく、したがって、当該画像シーケンス内の各画像は、強調フィルタリングを有効にするかどうかを選択的に設定できる。または、画像が強調フィルタリングを有効にしている場合、sliceレベルシンタックスで強調フィルタリングを有効にするかどうかを設定してもよく、したがって、当該画像の各sliceは、強調フィルタリングを有効にするかどうかを選択的に設定できる。説明すべきことは、一つのフレームに含まれるSliceの数が1の場合、当該画像が強調フィルタリングを有効にしているときは、当該Sliceも強調フィルタリングを有効にし、逆の場合も同様である。
同様に、シーケンスパラメータセットレベル、画像パラメータセットレベル、CTUレベルまたは/およびCUレベルから強調フィルタリングを有効にする/しないことを実現することも可能である。
一例として、指定されたシンタックスのレベル候補は少なくとも2つのレベルを含む場合、所定のフラグビットに基づいて指定されたシンタックスのレベルを決定し、所定のフラグビットは、前記指定されたシンタックスのレベルを示すために用いられる。
例示的に、指定されたシンタックスのレベル候補は少なくとも2つのレベルを含む場合、専用のフラグビットを用いて当該指定されたシンタックスのレベルを示してもよい。例えば、指定されたシンタックスのレベルが画像パラメータセットレベルとCTUレベルを含む場合、当該指定されたシンタックスのレベルが画像パラメータセットレベルまたはCTUレベルであることを示すためのフラグビットを画像パラメータセットに加えてもよい。
例示的に、上記所定のフラグビットのシンタックスレベルは、指定されたシンタックスのレベル候補のうちの非最低レベルにマッチングする。例えば、指定されたシンタックスのレベル候補が、シーケンスパラメータセットレベルシンタックス及び画像パラメータセットレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、シーケンスパラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びsliceレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスを含む場合、当該所定のフラグビットは、シーケンスパラメータセットレベルのフラグビット及び画像パラメータセットレベルのフラグビットを含み、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びCTUレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、CTUレベルシンタックス及びCUレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、CTUレベルであり、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス、CTUレベルシンタックス、及びCUレベルシンタックスを含む場合、当該所定のフラグビットは、CTUレベルのフラグビット及びCUレベルのフラグビットを含み、その具体的な実現は、以下に具体的な実施例と関連して説明する。
一つの可能な実施例として、第1フィルタリング処理が当該画素点に対する複数回連続するフィルタリング処理のうちの最初のフィルタリング処理でない場合、第2画素値は、当該画素点の前回のフィルタリング処理後の画素値を強調処理して得られる画素値である。
例示的に、ある画素点を複数回連続してフィルタリングする必要がある場合、当該画素点がフィルタリング処理されるたびに、当該画素点の画素値を強調処理してもよく、次回のフィルタリング処理前の画素点の画素値は、前回のフィルタリング処理後に強調処理されて得られた画素値である。
一例として、第1フィルタリング処理が水平DBFフィルタリング処理であり、当該画素点が垂直DBFフィルタリング処理条件を満たす場合、第2画素値は、当該画素点の第5画素値の強調処理後の当該画素点の画素値であり、第5画素値は、垂直DBFフィルタリング処理後の当該画素点の画素値である。
例示的に、第1フィルタリング処理が水平DBFフィルタリング処理であり、かつ当該画素点が垂直DBFフィルタリング処理条件を満たし、かつ垂直DBFフィルタリング処理後の当該画素点の画素値は第5画素値である場合、第2画素値は、垂直DBFフィルタリング処理後の当該画素点を上述の実施例で説明した方法で強調処理した後の当該画素点の画素値である。
一つの可能な実施形態として、第1フィルタリング処理が垂直DBFフィルタリング処理であり、ステップS410において、当該画素点の画素値を強調処理した後、さらに、当該画素点が水平DBFフィルタリング条件を満たす場合、第3画素値に対して水平DBFフィルタリング処理を行って当該画素点の第6画素値を取得し、第3画素値および第6画素値に基づき、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第7画素値を得ることを含み得る。
例示的に、ステップS400~S410で説明した方法で、当該画素点に対して垂直DBFフィルタリング処理および強調処理を行う場合、当該画素点が水平DBFフィルタリング処理条件を満たすかどうかを決定してもよく、例えば、当該画素点の位置に基づいて当該画素点が水平DBFフィルタリング処理条件を満たすかどうかを決定する。
当該画素点が水平DBFフィルタリング条件を満たす場合、第3画素値に水平DBFフィルタリング処理を行い、水平DBFフィルタリング後の当該画素点の画素値(本発明では第6画素値と呼ぶ)を取得し、水平DBFフィルタリング前の当該画素点の画素値、すなわち第3画素値と水平DBFフィルタリング後の当該画素点の画素値、すなわち第6画素値に基づいて当該画素点の画素値を強調処理し、強調処理後の当該画素点の画素値(本発明では第7画素値と呼ぶ)を取得してもよい。
説明すべきことは、第3画素値と第6画素値に基づいて画素点の画素値の強調処理の具体的な実現プロセスは、上述の実施例で説明した第1画素値と第2画素値に基づいて画素点の画素値の強調処理についての説明を参照することができ、本発明の実施例では、ここで説明を省略する。
また、本発明の実施例では、上述の複数回連続するフィルタリング処理の実現プロセスは、画素点に対して各フィルタリング処理を行うごとに、強調フィルタリングを有効にしていることを前提として説明しており、強調フィルタリングを有効にしていない場合があれば、対応するフィルタリング処理後に、強調処理する必要がない。
例えば、垂直DBFフィルタリング処理と水平DBFフィルタリング処理を例とし、画素点が垂直DBFフィルタリング処理条件と水平DBFフィルタリング処理条件を満たすが、垂直DBFフィルタリング処理に対して強調フィルタリングを有効にしていない場合、垂直DBFフィルタリング後の画素値を強調処理する必要がなく、この場合、当該画素点に水平DBFフィルタリング処理を行うとき、水平DBFフィルタリング前の当該画素点の画素値は、垂直DBFフィルタリング後の当該画素点の画素値となる。
当業者が本発明の実施例によって提供される技術的な解決手段をより良く理解できるように、以下、本発明の実施例が提供する技術的な解決手段を具体的な実施例と共に説明する。最初のフィルタリング処理が、それぞれDBFフィルタリング処理、SAOフィルタリング処理またはALFフィルタリング処理であることを例として、本発明の実施例が提供する技術的な解決手段を説明する。
第1フィルタリング処理前の再構成値をY1、第1フィルタリング処理後の画素値をY2とすると、Y2-Y1またはY1-Y2に基づいて分類を行い、分類結果に基づいて、異なるカテゴリの残差の対応する強調処理(強調フィルタリング処理とも呼べる)を行い、強調処理後の画素値Y3を得てもよい。
例示的に、Y3は、Y2を強調することによって得てもよいし、Y1に基づいて強調することによって得てもよいし、またはY1およびY2に基づいて強調することによって得てもよい。例示的に、上述の強調処理が、補償値(正または負であり得る)を加えてもよいし、または重み付けフィルタリング処理を行ってもよく、例えば、Y3=w1*Y1+w2*Y2、またはY3=w1*Y2+w2*Y2(i-1,j)+w2*Y2(i,j-1)、ここで、Y2(i-1,j)とY2(i,j-1)はY2の空間領域の隣接する画素値である。
まず、最初のフィルタリング処理を、DBFフィルタリング処理として説明する。
実施例1:画素点iが垂直DBFフィルタリング条件と水平DBFフィルタリング条件を満たすことを例とする。
ステップ1、Y(i)を垂直DBFフィルタリング処理してY(i)を取得し、ステップ2、Y(i)とY(i)に基づいて、画素点の画素値を強調処理してY(i)を取得し、ステップ3、Y(i)を水平DBFフィルタリング処理してY(i)を取得し、ステップ4、Y(i)とY(i)に基づいて、画素点の画素値を強調処理してY(i)を取得する。
例示的に、上記第1フィルタリング処理が垂直DBFフィルタリング処理である場合、Y(i)は上記第2画素値、Y(i)は上記第1画素値、Y(i)は上記第3画素値である。Y(i)は上記第6画素値、Y(i)は上記第7画素値である。例示的に、上記第1フィルタリング処理が水平DBFフィルタリング処理である場合、Y(i)は上記第2画素値、Y(i)は上記第1画素値、Y(i)は上記第3画素値、Y(i)は上記第5画素値である。
実施例2
実施例1を基に、ステップ2において、Y(i)=(Y(i)+Y(i)+1)/2と仮定する;
(i)-Y(i)>Tvであれば、Y(i)=clip(Y(i)+f0)となる;
(i)-Y(i)<NTであれば、Y(i)=clip(Y(i)+f1)となる;
NT≦Y(i)-Y(i)≦Tであれば、Y(i)=Y(i)、または、Y(i)=Y(i)+f2となる。Y(i)=Y(i)+f2は、Y(i)をフィルタリング処理(すなわち、上述の第2フィルタリング処理)してY(i)を取得することを表す。
例示的に、T、NTは強調フィルタリング閾値であり、f0、f1、f2は強調フィルタリングオフセット量である。clip(x)は、xを所定の範囲内に制限することを表す。例示的に、第1フィルタリング処理が垂直BDFフィルタリング処理である場合、Tは上記第1強調フィルタリング閾値であり、NTは上記第2強調フィルタリング閾値であり、f0は上記第1強調フィルタリングオフセット量であり、f1は上記第2強調フィルタリングオフセット量であり、f2は上記第3強調フィルタリングオフセット量であり、Y(i)は上記第4画素値であり、clip(x)は、xを所定の範囲内に制限することを表す。
例示的に、NT=-T、すなわちTとNTは、互いの反数である。
類似的に、ステップ4において、Y(i)=(Y(i)+Y(i)+1)/2と仮定する;
(i)-Y(i)>Tであれば、Y(i)=clip(Y(i)+f0)となる;
(i)-Y(i)<NTであれば、Y(i)=clip(Y(i)+f1)となる;
NT≦Y(i)-Y(i)≦Tであれば、Y(i)=Y(i)、または、Y(i)=Y(i)+f2となる。Y(i)=Y(i)+f2は、Y(i)をフィルタリング処理(すなわち、上述の第2フィルタリング処理)してY(i)を取得することを表す。
例示的に、T、NTは強調フィルタリング閾値であり、f0、f1、f2は強調フィルタリングオフセット量である。
例示的に、第1フィルタリング処理が水平BDFフィルタリング処理である場合、Tは上記第1強調フィルタリング閾値であり、NTは上記第2強調フィルタリング閾値であり、f0は上記第1強調フィルタリングオフセット量であり、f1は上記第2強調フィルタリングオフセット量であり、f2は上記第3強調フィルタリングオフセット量である。
例示的に、NT=-T、すなわちTとNTは、互いの反数である。
実施例3
実施例1を基に、ステップ2において、Y(i)=Y(i)と仮定する;
(i)-Y(i)>Tvであれば、Y(i)=clip(Y(i)+f0)となる;
(i)-Y(i)<NTであれば、Y(i)=clip(Y(i)+f1)となる;
NT≦Y(i)-Y(i)≦Tであれば、Y(i)=Y(i)、または、Y(i)=Y(i)+f2となる。Y(i)=Y(i)+f2は、Y(i)をフィルタリング処理(すなわち、上述の第2フィルタリング処理)してY(i)を取得することを表す。
例示的に、T、NTは強調フィルタリング閾値であり、f0、f1、f2は強調フィルタリングオフセット量である。clip(x)は、xを所定の範囲内に制限することを表す。
例示的に、NT=-T、すなわちTとNTは、互いの反数である。
類似的に、ステップ4において、Y(i)=Y(i)と仮定する;
(i)-Y(i)>Tであれば、Y(i)=clip(Y(i)+f0)となる;
(i)-Y(i)<NTであれば、Y(i)=clip(Y(i)+f1)となる;
NT≦Y(i)-Y(i)≦Tであれば、Y(i)=Y(i)、または、Y(i)=Y(i)+f2となる。Y(i)=Y(i)+f2は、Y(i)をフィルタリング処理(すなわち、上述の第2フィルタリング処理)してY(i)を取得することを表す。
例示的に、T、NTは強調フィルタリング閾値であり、f0、f1、f2は強調フィルタリングオフセット量である。例示的に、NT=-T、すなわちTとNTは、互いの反数である。
上記実施例1~3では、画素点iが垂直DBFフィルタリング処理条件と水平DBFフィルタリング処理条件とを満たす場合を例として説明したが、当該方法を、画素点iが垂直DBFフィルタリング処理条件または水平DBFフィルタリング処理条件を満たす場合に適用してもよい。例えば、画素iが垂直DBFフィルタリング処理条件のみを満たす場合には、上記実施例の最初の2ステップのみが含まれる。例えば、画素点iが水平DBFフィルタリング処理条件のみを満たす場合には、2ステップのみが含まれ、ステップ1はY(i)を水平DBFフィルタリング処理した後にY(i)取得し、ステップ2はY(i)とY(i)に基づいて画素点の画素値を強調処理してY3(i)を取得し、ステップ2の具体的な実現は、実施例2と実施例3のステップ2の具体的な実現を参照することができ、垂直DBFフィルタリング処理のパラメータを、水平DBFフィルタリング処理のパラメータに置き換えるだけでよく、ここでは説明を省略する。
実施例4
フレームレベルで実施例2または実施例3で説明した方法を採用する。フレームレベルは、画像パラメータセットレベルまたはsliceレベルを含み、画像パラメータセットレベルは、すなわち一つのフレーム画像であり、一つのフレーム画像はN(Nは正の整数)個のスライスを含み得る。
符号化デバイスにとっては、画像ヘッダまたはsliceヘッダで以下のシンタックス情報を符号化して転送する必要がある。つまり、一つのフレームまたは一つのスライスは以下のシンタックスセット(当該シンタックスのレベルは画像パラメータセットレベルまたはsliceレベル)を採用し、当該画像またはslice内のすべての符号化ブロックはいずれも同一の係数セットを再利用する。
例示的に、当該係数セットは、強調フィルタリング閾値(垂直方向強調フィルタリング閾値又は/及び水平方向強調フィルタリング閾値を含み得る)及び強調フィルタリングオフセット量(垂直方向強調フィルタリングオフセット量又は/及び水平方向強調フィルタリングオフセット量を含み得る)を含み得る。
復号デバイスにとっては、画像ヘッダまたはsliceヘッダで以下のシンタックス情報を復号する必要がある。
1、カレント画像またはsliceが垂直方向において強調フィルタリングを有効にしているか否かを識別するための垂直方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ1の後、上記ステップ2を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ1の後、上記ステップ2を実行する必要があり、次の情報を符号化および復号する必要がある:垂直方向強調フィルタリング閾値インデックスおよび垂直方向強調フィルタリングオフセット量インデックスである。
垂直方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
垂直方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
2、カレント画像またはsliceが水平方向において強調フィルタリングを有効にしているか否かを識別するための水平方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ3の後、上記ステップ4を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ3の後、上記ステップ4を実行する必要があり、次の情報を符号化および復号する必要がある:水平方向強調フィルタリング閾値インデックスおよび水平方向強調フィルタリングオフセット量インデックスである。
水平方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
水平方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
実施例5
実施例4と異なり、実施例5では、強調フィルタリングパラメータ(強調フィルタリング閾値及び/又は強調フィルタリングオフセット量を含む)はパラメータセットの形として示され、すなわち、強調フィルタリング閾値及び/又は強調フィルタリングオフセット量のインデックス情報を別々に符号化する代わりに、強調フィルタリング閾値及び強調フィルタリングオフセット量からなるパラメータセットのインデックス情報を符号化する。
フレームレベルで実施例2または実施例3で説明した方法を採用する。フレームレベルは、画像パラメータセットレベルまたはsliceレベルを含み、画像パラメータセットレベルは、すなわち一つのフレーム画像であり、一つのフレーム画像はN(Nは正の整数)個のスライスを含み得る。
符号化デバイスにとっては、画像ヘッダまたはsliceヘッダで以下のシンタックス情報を符号化して転送する必要がある。つまり、一つのフレームまたは一つのスライスは以下のシンタックスセット(当該シンタックスのレベルは画像パラメータセットレベルまたはsliceレベル)を採用し、当該画像またはslice内のすべての符号化ブロックはいずれも同一の係数セットを再利用する。
例示的に、当該係数セットは、強調フィルタリング閾値及び強調フィルタリングオフセット量からなる強調フィルタリングパラメータセットを含み得る。復号デバイスにとっては、画像ヘッダまたはsliceヘッダで以下のシンタックス情報を復号する必要がある。
1、カレント画像またはsliceが垂直方向において強調フィルタリングを有効にしているか否かを識別するための垂直方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ1の後、上記ステップ2を実行する必要はなく、関連するパラメータインデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ1の後、上記ステップ2を実行する必要があり、次の情報を符号化および復号する必要がある:垂直方向強調フィルタリングパラメータインデックスである。
垂直方向強調フィルタリングパラメータは、パラメータセットの形として示されてもよく、当該垂直方向強調フィルタリングパラメータインデックスは、パラメータセット候補リストT{T,f0,f1}における{T,f0,f1}のインデックスを含んでもよいが、これに限定されなく、すなわち、当該インデックスに基づいてパラメータセット候補リストTからT,f0,f1の値を決定することができる。
例示的に、垂直方向強調フィルタリングパラメータは、符号化・復号側での所定の固定パラメータセットであってもよいし、または、格納された時間領域上で既に符号化された他のフレームの垂直方向フィルタリングパラメータであってもよく、この場合、当該パラメータインデックスを符号化・復号しなくてもよい。
2、カレント画像またはsliceが水平方向において強調フィルタリングを有効にしているか否かを識別するための水平方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ3の後、上記ステップ4を実行する必要はなく、関連するパラメータインデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ3の後、上記ステップ4を実行する必要があり、次の情報を符号化および復号する必要がある:水平方向強調フィルタリングパラメータインデックスである。
水平方向強調フィルタリングパラメータは、パラメータセットの形として示されてもよく、水平方向強調フィルタリングパラメータインデックスは、パラメータセット候補リストT{T,f0,f1}における{T,f0,f1}のインデックスを含んでもよいが、これに限定されなく、すなわち、当該インデックスに基づいてパラメータセット候補リストTからT,f0,f1の値を決定することができる。
例示的に、水平方向強調フィルタリングパラメータは、符号化・復号側での所定の固定パラメータセットであってもよいし、または、格納された時間領域上で既に符号化された他のフレームの水平方向フィルタリングパラメータであってもよく、この場合、当該パラメータインデックスを符号化・復号しなくてもよい。
実施例6
CTUレベルで実施例2または実施例3で説明した方法を採用する。CTUは最大符号化ユニットであり、通常、Iフレームに対するCTUのサイズは64*64であり、非Iフレーム(BフレームやPフレームなど)に対するCTUのサイズは128*128である。
各CTUは一つの係数セットを符号化し、すなわち当該CTUの下の各符号化ブロックはいずれも当該係数セットを採用し、各CTU内での当該係数の符号化と復号の具体的な実現は、実施例4または実施例5の対応する係数の符号化と復号の具体的な実現を参照することができる。例示的に、当該一つの係数セットは、強調フィルタリング閾値及び強調フィルタリングオフセット量(実施例4に対応する)、または、強調フィルタリング閾値及び強調フィルタリングオフセット量からなる強調フィルタリングパラメータセット(実施例5に対応する)を含み得る。
例示的に、復号デバイスにとっては、CTUヘッダで以下のシンタックス情報を復号する必要がある。
1、カレント画像またはsliceが垂直方向において強調フィルタリングを有効にしているか否かを識別するための垂直方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ1の後、上記ステップ2を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ1の後、上記ステップ2を実行する必要があり、次の情報を符号化および復号する必要がある:垂直方向強調フィルタリング閾値インデックスおよび垂直方向強調フィルタリングオフセット量インデックスである。
垂直方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
垂直方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
2、カレント画像またはsliceが水平方向において強調フィルタリングを有効にしているか否かを識別するための水平方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ3の後、上記ステップ4を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ3の後、上記ステップ4を実行する必要があり、次の情報を符号化および復号する必要がある:水平方向強調フィルタリング閾値インデックスおよび水平方向強調フィルタリングオフセット量インデックスである。
水平方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
水平方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
実施例7
CUレベルで実施例2または実施例3で説明した方法を採用する。CUのサイズは、通常、4*4~128*128の範囲内となる。
各CUは一つの係数セットを符号化し、すなわち当該CUの下の各符号化ブロックはいずれも当該係数セットを採用し、各CU内での当該係数の符号化と復号の具体的な実現は、実施例4または実施例5の対応する係数の符号化と復号の具体的な実現を参照することができる。例示的に、当該一つの係数セットは、強調フィルタリング閾値及び強調フィルタリングオフセット量(実施例4に対応する)、または、強調フィルタリング閾値及び強調フィルタリングオフセット量からなる強調フィルタリングパラメータセット(実施例5に対応する)を含み得る。
例示的に、復号デバイスにとっては、各CUで以下のシンタックス情報を復号する必要がある。
1、カレント画像またはsliceが垂直方向において強調フィルタリングを有効にしているか否かを識別するための垂直方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ1の後、上記ステップ2を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ1の後、上記ステップ2を実行する必要があり、次の情報を符号化および復号する必要がある:垂直方向強調フィルタリング閾値インデックスおよび垂直方向強調フィルタリングオフセット量インデックスである。
垂直方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
垂直方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
2、カレント画像またはsliceが水平方向において強調フィルタリングを有効にしているか否かを識別するための水平方向強調フィルタリング有効フラグである。
有効にしていない場合、上記ステップ3の後、上記ステップ4を実行する必要はなく、関連する閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
有効にしている場合、上記ステップ3の後、上記ステップ4を実行する必要があり、次の情報を符号化および復号する必要がある:水平方向強調フィルタリング閾値インデックスおよび水平方向強調フィルタリングオフセット量インデックスである。
水平方向強調フィルタリング閾値インデックスは1binであってもよく、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。
例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
水平方向強調フィルタリングオフセット量インデックスf0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは2binであってもよく、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
実施例8
CUレベルで実施例2または実施例3で説明した方法を採用する。
各CUは、いずれも以下のような係数セットを符号化および復号する。
1、周辺ブロックの強調フィルタリングパラメータを再利用するかどうかを示すためのフラグビットである。
1.1、再利用する場合、左側ブロックや上側ブロックなどの周辺ブロックの強調フィルタリングパラメータを再利用する。
1.2、再利用しない場合、以下のようなパラメータを符号化する。
1.2.1、カレントCUが垂直方向において強調フィルタリングを有効にしているか否かを識別する垂直方向強調フィルタリング有効フラグである。
1.2.1.1、有効にしている場合、上記ステップ1の後、上記ステップ2を実行する必要があり、次の情報を符号化および復号する必要がある。
1.2.1.1.1、垂直方向強調フィルタリング閾値インデックスである。当該閾値インデックスは、好ましくは1binであり、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
1.2.1.1.2、垂直方向強調フィルタリングオフセット量インデックスである。f0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは、好ましくは2binであり、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
1.2.1.2、有効にしていない場合、上記ステップ1の後、上記ステップ2を実行する必要はなく、1.2.1.1.1、と1.2.1.1.2、における閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
1.2.2、カレントCUが水平方向において強調フィルタリングを有効にしているか否かを識別するための水平方向強調フィルタリング有効フラグである。
1.2.2.1、有効にしている場合、上記ステップ3の後、上記ステップ4を実行する必要があり、次の情報を符号化および復号する必要がある。
1.2.2.1.1、水平方向強調フィルタリング閾値インデックスである。当該閾値インデックスは、好ましくは1binであり、つまり2つの閾値候補がある。例示的に、強調フィルタリング閾値候補リストは、{1、2}または{2、4}であってもよく、あるいは、2つの候補値を含む他の候補リストであってもよい。例示的に、TとNTは、互いの反数である場合、1つの閾値インデックスのみを符号化すればよい。例示的に、強調フィルタリング閾値が固定値、例えばT=2、NT=-2である場合、閾値インデックスを符号化および復号する必要はない。
1.2.2.1.2、水平方向強調フィルタリングオフセット量インデックスである。f0とf1の候補値は、同じでも異なっていてもよく、オフセット量インデックスは、好ましくは2binであり、すなわち4つのオフセット量候補を含む。例示的に、強調フィルタリングオフセット量候補リストは、{1、2、3、4}または{2、4、6、8}であってもよく、または4つの候補値を含む他の候補リストであってもよい。例示的に、強調フィルタリングオフセット量が固定値である場合、当該オフセット量インデックスを符号化する必要はない。例示的に、f0とf1の候補リストは同じでも異なっていてもよく、例えば、f0の候補リストは{-1、-2、-3、-4}であり、f1の候補リストは{1、2、3、4}である。
1.2.2.2、有効にしていない場合、上記ステップ3の後、上記ステップ4を実行する必要はなく、1.2.2.1.1、と1.2.2.1.2、における閾値インデックスおよびオフセット量インデックスを符号化および復号する必要はない。
実施例9
フレームレベルとCTUレベルで実施例2または実施例3で説明した方法を採用する。
フレームレベルで一つのフラグビットを追加し(すなわち、上述所定のフラグビット)、当該フラグビットは、カレントフレームが、フレームレベルシンタックスまたはCTUレベルシンタックスのいずれかを採用して強調フィルタリングを有効にしていることを示すために用いられる。符号化および復号側は、フレームレベルで当該フラグビットを符号化および復号する必要がある。
カレントフレームがフレームレベルシンタックスを採用して強調フィルタリングを有効にしている場合、各フレーム画像内の符号化・復号係数の具体的な実現は、実施例4または実施例5を参照することができる。
カレントフレームがCTUレベルシンタックスを採用して強調フィルタリングを有効にしている場合、各CTU内の符号化・復号係数の具体的な実現は、実施例6を参照することができる。
実施例10
フレームレベル、CTUレベル、およびCUレベルで実施例2または実施例3で説明した方法を採用する。
フレームレベルで一つのフラグビットを追加し、当該フラグビットは、カレントフレームが、フレームレベルシンタックスまたはCTUレベルシンタックスのいずれかを採用して強調フィルタリングを有効にしていることを示すために用いられる。符号化および復号側は、フレームレベルで当該フラグビットを符号化および復号する必要がある。
カレントフレームがフレームレベルシンタックスを採用して強調フィルタリングを有効にしている場合、各フレーム画像内の符号化・復号係数の具体的な実現は、実施例4または実施例5を参照することができる。
カレントフレームがCTUレベルシンタックスを採用して強調フィルタリングを有効にしている場合、CTUレベルで一つのフラグビットを追加する必要があり、当該フラグビットは、カレントCTUが、CTUレベルシンタックスまたはCUレベルシンタックスのいずれかを採用して強調フィルタリングを有効にしていることを示すために用いられる。符号化および復号側は、CTUレベルで当該フラグビットを符号化および復号する必要がある。
カレントフレームがCTUレベルシンタックスを採用して強調フィルタリングを有効にしている場合、各CTU内の符号化・復号係数の具体的な実現は、実施例6を参照することができる。
カレントフレームがCUレベルシンタックスを採用して強調フィルタリングを有効にしている場合、各CU内の符号化・復号係数の具体的な実現は、実施例7または実施例8を参照することができる。
次に、最初のフィルタリングがSAOフィルタリングとして説明する。
実施例11
ステップ1、Y(i)をSAOフィルタリング処理してY(i)を取得し、ステップ2、Y(i)とY(i)に基づいて、画素点の画素値を強調処理してY(i)を取得する。
例示的に、上記第1フィルタリング処理がSAOフィルタリング処理である場合、Y(i)は上記第2画素値、Y(i)は上記第1画素値、Y(i)は上記第3画素値である。
実施例12
実施例11におけるステップ2は、実施例2~10のいずれかに記載の方法を用いて行うことができる。注意すべきことは、実施例2~10では、主に2回のフィルタリング処理を例として説明したが、本実施例では1回のフィルタリング処理のみを行い、上記実施例の2回のフィルタリング処理のそれぞれに対応するステップおよびパラメータを、本実施例の1回のフィルタリング処理に対応するステップおよびパラメータに置き換えればよい。
次に、最初のフィルタリングがALFフィルタリングとして説明する。
実施例13
ステップ1、Y(i)をALFフィルタリング処理してY(i)を取得し、ステップ2、Y(i)とY(i)に基づいて、画素点の画素値を強調処理してY(i)を取得する。
例示的に、上記第1フィルタリング処理がALFフィルタリング処理である場合、Y(i)は上記第2画素値、Y(i)は上記第1画素値、Y(i)は上記第3画素値である。
実施例14
実施例13におけるステップ2は、実施例2~10のいずれかに記載の方法を用いて行うことができる。注意すべきことは、実施例2~10では、主に2回のフィルタリング処理を例として説明したが、本実施例では1回のフィルタリング処理のみを行い、上記実施例の2回のフィルタリング処理のそれぞれに対応するステップおよびパラメータを、本実施例の1回のフィルタリング処理に対応するステップおよびパラメータに置き換えればよい。
最後に、最初のフィルタリングが、いずれかのフィルタリング方法として説明する。
実施例15
ステップ1、Y(i)をフィルタリング処理してY(i)を取得し、ステップ2、Y(i)とY(i)に基づいて、画素点の画素値を強調処理してY(i)を取得する。
例示的に、上記第1フィルタリング処理がステップ1におけるフィルタリング処理である場合、Y(i)は上記第2画素値、Y(i)は上記第1画素値、Y(i)は上記第3画素値である。
実施例16
実施例15におけるステップ2は、実施例2~10のいずれかに記載の方法を用いて行うことができる。注意すべきことは、実施例2~10では、主に2回のフィルタリング処理を例として説明したが、本実施例では1回のフィルタリング処理のみを行い、上記実施例の2回のフィルタリング処理のそれぞれに対応するステップおよびパラメータを、本実施例の1回のフィルタリング処理に対応するステップおよびパラメータに置き換えればよい。
実施例17
実施例15のステップ2には、Y(i)、Y(i)を入力として、機械学習や深層学習を用いてY(i)を決定してもよい。
実施例18
実施例15のステップ2には、Y(i)-Y(i)またはY(i)-Y(i)を入力として、ウィナーフィルタを用いてY(i)を決定してもよい。ただし、ウィナーフィルタは、
Figure 2023528430000002
となってもよい。
当該フィルタは、Y(i)とその近傍の画素点とに対して重み付け加算を行ってY(i)を得ることを表し、Kは正の整数であり、フィルタリングに用いる画素点(カレント画素点および周辺画素点を含む)の数を表す。
実施例19
実施例15のステップ2は、Y(i)-Y(i)またはY(i)-Y(i)の大きさに基づいてY(i)を分類し、異なるカテゴリのY(i)に対して、異なるウィナーフィルタを用いてY(i)を決定してもよい。
例えば、Y(i)-Y(i)またはY(i)-Y(i)の大きさと、所定のセグメント分け閾値に基づいて、Y(i)-Y(i)またはY(i)-Y(i)が位置するセグメントを決定し、Y(i)-Y(i)またはY(i)-Y(i)が位置するセグメントが異なっていれば、Y(i)のカテゴリも異なる。
実施例20
SPSレベルのフラグビットを復号または符号化し、当該フラグビットは、カレント画像シーケンスにおけるすべての画像が上述の技術を使用するかどうかを制御するために用いられ、当該技術は、実施例1~19のいずれかに記載の強調フィルタリング技術の実施形態を含む。例示的に、復号デバイスが復号した当該フラグビットが、上述の技術を使用することを示す場合、実施形態1から19のいずれかに記載の強調フィルタリング技術にしたがって処理を行う。
本発明の実施例において、第1フィルタリング処理条件を満たすカレント画像ブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定し、第1画素値と第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得することによって、画質を向上させ、符号化・復号性能を向上させた。
本発明によって提供される方法は,上記のとおりである。本発明が提供する装置について、以下に説明する。
図5を参照し、本発明の実施例に示される画像強調装置のハードウェア構造の模式図である。当該画像強調装置は、プロセッサ501と、コンピュータプログラムが格納されたメモリ502とを備えてもよい。当該装置は、さらに、通信インタフェース503及び通信バス504を含む。プロセッサ501、メモリ502、通信インタフェース503は、通信バス504を介して互いに通信することができる。さらに、メモリ502の画像強調制御ロジックに対応するコンピュータプログラムを読み出して実行することにより、プロセッサ501は、上述した画像強調方法を実行することができる。
本発明で言及されるメモリ502は、任意の電子、磁気、光学、または他の物理記憶デバイスであってもよく、実行可能な命令、データなどの情報を含むかまたは格納することができる。例えば、メモリは、RAM(Radom Access Memory、ランダムアクセスメモリ)、揮発性メモリ、不揮発性メモリ、フラッシュメモリ、記憶ドライブ(例えば、ハードディスクドライブ)、ソリッドステートドライブ、任意のタイプの記憶ディスク(例えば、光ディスク、DVDなど)、または類似の記憶媒体であってもよく、またはこれらの組み合わせであってもよい。
図6に示すように、機能的には、上記画像強調装置は、第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定するための決定ユニット610と、前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するための強調ユニット620とを備えてもよい。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第1画素値と前記第2画素値との差に基づいて、当該画素点の画素値を強調処理するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記差と所定の閾値との比較結果に基づいて、当該画素点の画素値を強調処理するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理し、前記差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該画素点の画素値を強調処理するために用いられ、ただし、前記第2強調フィルタリング閾値は前記第1強調フィルタリング閾値より小さい。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第1画素値と前記第2画素値とに基づいて、第4画素値を決定し、前記第1強調フィルタリングオフセット量に基づいて前記第4画素値を強調処理し、前記第3画素値を取得するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第1強調フィルタリングオフセット量に基づいて前記第1画素値を強調処理し、前記第3画素値を取得するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第1画素値と前記第2画素値とに基づいて、第4画素値を決定し、前記第2強調フィルタリングオフセット量に基づいて前記第4画素値を強調処理し、前記第3画素値を取得するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第2強調フィルタリングオフセット量に基づいて前記第1画素値を強調処理し、前記第3画素値を取得するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、さらに、前記差が前記第1強調フィルタリング閾値以下であり、かつ前記第2強調フィルタリング閾値以上の場合、前記第1画素値を前記第3画素値とするために用いられる。
一つの可能な実施例として、前記強調ユニット620は、さらに、前記差が前記第1強調フィルタリング閾値以下であり、かつ前記第2強調フィルタリング閾値以上の場合、前記第1画素値を第2フィルタリング処理して前記第3画素値を取得するために用いられる。
一つの可能な実施例として、前記第1強調フィルタリング閾値は、前記第2強調フィルタリング閾値の反数であり、または/および前記第1強調フィルタリングオフセット量は、前記第2強調フィルタリングオフセット量の反数である。
一つの可能な実施例として、図7に示すように、前記装置は、さらに、符号化/復号ユニット630を備え、前記符号化/復号ユニットは、閾値インデックスを符号化/復号するために用いられ、前記閾値インデックスは、前記第1強調フィルタリング閾値または前記第2強調フィルタリング閾値の閾値候補リストにおける位置を表すために用いられ、および、前記符号化/復号ユニットは、オフセット量インデックスを符号化/復号するために用いられ、前記オフセット量インデックスは、前記第1強調フィルタリングオフセット量または前記第2強調フィルタリングオフセット量のオフセット量候補リストにおける位置を表すために用いられる。
一つの可能な実施例として、前記第1強調フィルタリング閾値または/および前記第2強調フィルタリング閾値は固定値である。一つの可能な実施例として、前記第1強調フィルタリングオフセット量または/および前記第2強調フィルタリングオフセット量は固定値である。
一つの可能な実施例として、前記強調ユニット620は、さらに、前記第3画素値が所定の範囲の上限値より大きい場合、前記第3画素値を前記所定の範囲の上限値と設定し、前記第3画素値が所定の範囲の下限値より小さい場合、前記第3画素値を前記所定の範囲の下限値と設定するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記第1画素値と前記第2画素値とを入力パラメータとして機械学習または深層学習を利用して前記第3画素値を決定するために用いられる。
一つの可能な実施例として、前記強調ユニット620は、具体的に、前記カレントブロックが強調フィルタリングを有効にしている場合、前記第1画素値と前記第2画素値とに基づいて当該画素点の画素値を強調処理するために用いられる。
一つの可能な実施例として、指定されたシンタックスを用いて前記カレントブロックが強調フィルタリングを有効にしているか否かを識別し、前記指定されたシンタックスは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスのうちの1つ以上を含み、または、当該指定されたシンタックスは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、コーディングツリーユニットCTUレベルシンタックス、及びコーディングツリーユニットCUレベルシンタックスのうちの1つ以上を含む。
一つの可能な実施例として、前記指定されたシンタックスのレベル候補は少なくとも2つのレベルを含む場合、所定のフラグビットに基づいて前記指定されたシンタックスのレベルを決定し、前記所定のフラグビットは、前記指定されたシンタックスのレベルを示すために用いられる。
一つの可能な実施例として、前記所定のフラグビットのシンタックスレベルは、前記指定されたシンタックスのレベル候補のうちの非最低レベルにマッチングする。
一つの可能な実施例として、前記指定されたシンタックスのレベル候補が、シーケンスパラメータセットレベルシンタックス及び画像パラメータセットレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、シーケンスパラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びsliceレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスを含む場合、前記所定のフラグビットは、シーケンスパラメータセットレベルのフラグビット及び画像パラメータセットレベルのフラグビットを含み、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びCTUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、CTUレベルシンタックス及びCUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、CTUレベルであり、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス、CTUレベルシンタックス、及びCUレベルシンタックスを含む場合、前記所定のフラグビットは、CTUレベルのフラグビット及びCUレベルのフラグビットを含む。
一つの可能な実施例として、前記第1フィルタリング処理は垂直デブロッキングフィルタDBFフィルタリング処理、水平DBFフィルタリング処理、サンプル適応オフセットSAOフィルタリング処理、または適応ループフィルタALFフィルタリング処理を含む。
一つの可能な実施例として、前記第1フィルタリング処理が当該画素点に対する複数回連続するフィルタリング処理のうちの最初のフィルタリング処理でない場合、前記第2画素値は、当該画素点の前回のフィルタリング処理後の画素値を強調処理して得られる画素値である。前記第1フィルタリング処理が水平DBFフィルタリング処理であり、当該画素点が垂直DBFフィルタリング処理条件を満たす場合、前記第2画素値は、当該画素点の第5画素値の強調処理後の当該画素点の画素値であり、前記第5画素値は垂直DBFフィルタリング処理後の当該画素点の画素値である。
一つの可能な実施例として、前記第1フィルタリング処理は垂直デブロッキングフィルタDBFフィルタリング処理であり、前記強調ユニットは、さらに、当該画素点が水平DBFフィルタリング条件を満たす場合、前記第3画素値に対して水平DBFフィルタリング処理を行って当該画素点の第6画素値を取得し、前記第3画素値および前記第6画素値に基づき、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第7画素値を得るために用いられる。
いくつかの実施形態において、本発明はさらに、上記のいずれかの実施形態における画像強調装置を備えるカメラ装置を提供し、当該装置は、符号化デバイスに適用してもよいし、復号デバイスに適用してもよい。
説明すべきことは、本発明では、「第1」や「第2」のような関係用語は、1つの実体や操作をもう1つの実体や操作と区別するためにのみ使用され、それらの実体や操作の間の実際の関係や順序を必ずしも要求したり示唆したりするものではない。さらに、用語「含む」、「備える」またはそれらの派生語は、一連の要素を含むプロセス、方法、物品またはデバイスが、そのような要素を含むだけでなく、明示的に記載されていない他の要素を含み、またはさらにプロセス、方法、物品またはデバイスの固有の要素を含むように、非排他的な包含を伝えることを意図している。それ以上の限定しない場合、「1つの...を含む」によって限定された要素は、前記要素を含むプロセス、方法、物品、またはデバイスに別の同じ要素が存在することを除外しない。
上記は本発明の好ましい実施例に過ぎず、本発明を限定するものではない。本発明の精神及び原理から逸脱することなく行われる任意の修正、等価交換、改良などは、本発明の保護範囲に含まれるものとする。
本発明では、ある画素の座標を(i,j)と表し、最初のフィルタリング処理(これらの最初のフィルタリングには、DBFフィルタリング、SAOフィルタリング、またはALFフィルタリングなどのフィルタリング残差を利用しないフィルタリング方法を含む)前の再構成値をY1とし、フィルタリング処理後の画素値をY2とすれば、Y2-Y1の結果に基づいて残差を分類することができる。残差分類の結果に基づいて、強調処理を行い、Y3を得る。ここで、Y3は、Y2を強調することによって得てもよいし、Y1に基づいて強調することによって得てもよいし、またはY1およびY2に基づいて強調することによって得てもよい。ここで、前記強調処理が、補償値(正または負であり得る)を加えてもよいし、または重み付けフィルタリング処理を行ってもよく、例えば、Y3=w1*Y1+w2*Y2、またはY3=w1*Y+w2*Y2(i-1,j)+w2*Y2(i,j-1)、ここで、Y2(i-1,j)とY2(i,j-1)はY2の空間領域の隣接する画素値である。
例示的に、上記所定のフラグビットのシンタックスレベルは、指定されたシンタックスのレベル候補のうちの非最低レベルにマッチングする。例えば、指定されたシンタックスのレベル候補が、シーケンスパラメータセットレベルシンタックス及び画像パラメータセットレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、シーケンスパラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びsliceレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスを含む場合、当該所定のフラグビットは、シーケンスパラメータセットレベルのフラグビット及び画像パラメータセットレベルのフラグビットを含み、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びCTUレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、指定されたシンタックスレベルのレベル候補が、CTUレベルシンタックス及びCUレベルシンタックスを含む場合、当該所定のフラグビットのシンタックスレベルは、CTUレベルであり、指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス、CTUレベルシンタックス、及びCUレベルシンタックスを含む場合、当該所定のフラグビットは、画像パラメータセットレベルのフラグビット及びCTUレベルのフラグビット含み、その具体的な実現は、以下に具体的な実施例と関連して説明する。
一つの可能な実施例として、前記指定されたシンタックスのレベル候補が、シーケンスパラメータセットレベルシンタックス及び画像パラメータセットレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、シーケンスパラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びsliceレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスを含む場合、前記所定のフラグビットは、シーケンスパラメータセットレベルのフラグビット及び画像パラメータセットレベルのフラグビットを含み、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス及びCTUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、前記指定されたシンタックスレベルのレベル候補が、CTUレベルシンタックス及びCUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、CTUレベルであり、前記指定されたシンタックスレベルのレベル候補が、画像パラメータセットレベルシンタックス、CTUレベルシンタックス、及びCUレベルシンタックスを含む場合、前記所定のフラグビットは、画像パラメータセットレベルのフラグビット及びCTUレベルのフラグビット含む。

Claims (25)

  1. 画像強調方法であって、
    第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定するステップと、
    前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するステップと、を含む
    ことを特徴とする画像強調方法。
  2. 前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、
    前記第1画素値と前記第2画素値との差に基づいて、当該画素点の前記画素値を強調処理することを含む
    ことを特徴とする請求項1に記載の方法。
  3. 前記第1画素値と前記第2画素値との差に基づいて、当該画素点の前記画素値を強調処理することは、
    前記差と所定の閾値との比較結果に基づいて、当該画素点の前記画素値を強調処理することを含む
    ことを特徴とする請求項2に記載の方法。
  4. 前記差と所定の閾値との比較結果に基づいて、当該画素点の前記画素値を強調処理することは、
    前記差が第1強調フィルタリング閾値より大きい場合、第1強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理ことと、
    前記差が第2強調フィルタリング閾値より小さい場合、第2強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理することと、を含み、
    前記第2強調フィルタリング閾値は前記第1強調フィルタリング閾値より小さい
    ことを特徴とする請求項3に記載の方法。
  5. 前記第1強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理することは、
    前記第1画素値と前記第2画素値とに基づいて、第4画素値を決定することと、
    前記第1強調フィルタリングオフセット量に基づいて前記第4画素値を強調処理し、前記第3画素値を取得することと、を含む
    ことを特徴とする請求項4に記載の方法。
  6. 前記第1強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理することは、
    前記第1強調フィルタリングオフセット量に基づいて前記第1画素値を強調処理し、前記第3画素値を取得することを含む
    ことを特徴とする請求項4に記載の方法。
  7. 前記第2強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理することは、
    前記第1画素値と前記第2画素値とに基づいて、第4画素値を決定することと、
    前記第2強調フィルタリングオフセット量に基づいて前記第4画素値を強調処理し、前記第3画素値を取得することと、を含む
    ことを特徴とする請求項4に記載の方法。
  8. 前記第2強調フィルタリングオフセット量に基づいて当該画素点の前記画素値を強調処理することは、
    前記第2強調フィルタリングオフセット量に基づいて前記第1画素値を強調処理し、前記第3画素値を取得することを含む
    ことを特徴とする請求項4に記載の方法。
  9. 前記差と所定の閾値との比較結果に基づいて、当該画素点の前記画素値を強調処理することは、さらに、
    前記差が前記第1強調フィルタリング閾値以下であり、かつ前記第2強調フィルタリング閾値以上の場合、前記第1画素値を前記第3画素値とすることを含む
    ことを特徴とする請求項4~8のいずれか1項に記載の方法。
  10. 前記差と所定の閾値との比較結果に基づいて、当該画素点の前記画素値を強調処理することは、さらに、
    前記差が前記第1強調フィルタリング閾値以下であり、かつ前記第2強調フィルタリング閾値以上の場合、前記第1画素値を第2フィルタリング処理して前記第3画素値を取得することを含む
    ことを特徴とする請求項4~8のいずれか1項に記載の方法。
  11. 前記第1強調フィルタリング閾値は、前記第2強調フィルタリング閾値の反数であり、または/および
    前記第1強調フィルタリングオフセット量は、前記第2強調フィルタリングオフセット量の反数である
    ことを特徴とする請求項4~10のいずれか1項に記載の方法。
  12. 閾値インデックスを符号化/復号することであって、前記閾値インデックスは、前記第1強調フィルタリング閾値または前記第2強調フィルタリング閾値の閾値候補リストにおける位置を表すことと
    オフセット量インデックスを符号化/復号することであって、前記オフセット量インデックスは、前記第1強調フィルタリングオフセット量または前記第2強調フィルタリングオフセット量のオフセット量候補リストにおける位置を表すことと、をさらに含む
    ことを特徴とする請求項4~11のいずれか1項に記載の方法。
  13. 前記第1強調フィルタリング閾値または/および前記第2強調フィルタリング閾値は固定値であり、または/および
    前記第1強調フィルタリングオフセット量または/および前記第2強調フィルタリングオフセット量は固定値である
    ことを特徴とする請求項4~12のいずれか1項に記載の方法。
  14. 前記当該画素点の画素値を強調処理した後、さらに、
    前記第3画素値が所定の範囲の上限値より大きい場合、前記第3画素値を前記所定の範囲の上限値と設定することと、
    前記第3画素値が所定の範囲の下限値より小さい場合、前記第3画素値を前記所定の範囲の下限値と設定することと、を含む
    ことを特徴とする請求項1~13のいずれか1項に記載の方法。
  15. 前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、
    前記第1画素値と前記第2画素値とを入力パラメータとして機械学習または深層学習を利用して前記第3画素値を決定することを含む
    ことを特徴とする請求項1に記載の方法。
  16. 前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理することは、
    前記カレントブロックが強調フィルタリングを有効にしている場合、前記第1画素値と前記第2画素値とに基づいて当該画素点の画素値を強調処理することを含む
    ことを特徴とする請求項1~15のいずれか1項に記載の方法。
  17. 指定されたシンタックスを用いて前記カレントブロックが強調フィルタリングを有効にしているか否かを識別し、
    前記指定されたシンタックスは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、及びsliceレベルシンタックスのうちの1つ以上を含み、
    または、
    当該指定されたシンタックスは、シーケンスパラメータセットレベルシンタックス、画像パラメータセットレベルシンタックス、コーディングツリーユニットCTUレベルシンタックス、及びコーディングユニットCUレベルシンタックスのうちの1つ以上を含む
    ことを特徴とする請求項16に記載の方法。
  18. 前記指定されたシンタックスのレベル候補は少なくとも2つのレベルを含む場合、所定のフラグビットに基づいて前記指定されたシンタックスのレベルを決定し、前記所定のフラグビットは、前記指定されたシンタックスのレベルを示すために用いられる
    ことを特徴とする請求項17に記載の方法。
  19. 前記所定のフラグビットのシンタックスレベルは、前記指定されたシンタックスのレベル候補のうちの非最低レベルにマッチングする
    ことを特徴とする請求項18に記載の方法。
  20. 前記指定されたシンタックスのレベル候補が、前記シーケンスパラメータセットレベルシンタックス及び前記画像パラメータセットレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、シーケンスパラメータセットレベルであり、
    前記指定されたシンタックスレベルのレベル候補が、前記画像パラメータセットレベルシンタックス及び前記sliceレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、
    前記指定されたシンタックスレベルのレベル候補が、前記シーケンスパラメータセットレベルシンタックス、前記画像パラメータセットレベルシンタックス、及び前記sliceレベルシンタックスを含む場合、前記所定のフラグビットは、シーケンスパラメータセットレベルのフラグビット及び画像パラメータセットレベルのフラグビットを含み、
    前記指定されたシンタックスレベルのレベル候補が、前記画像パラメータセットレベルシンタックス及び前記CTUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、画像パラメータセットレベルであり、
    前記指定されたシンタックスレベルのレベル候補が、前記CTUレベルシンタックス及び前記CUレベルシンタックスを含む場合、前記所定のフラグビットのシンタックスレベルは、CTUレベルであり、
    前記指定されたシンタックスレベルのレベル候補が、前記画像パラメータセットレベルシンタックス、前記CTUレベルシンタックス、及び前記CUレベルシンタックスを含む場合、前記所定のフラグビットは、CTUレベルのフラグビット及びCUレベルのフラグビットを含む
    ことを特徴とする請求項19に記載の方法。
  21. 前記第1フィルタリング処理は、垂直デブロッキングフィルタDBFフィルタリング処理、水平DBFフィルタリング処理、サンプル適応オフセットSAOフィルタリング処理、または適応ループフィルタALFフィルタリング処理を含む
    ことを特徴とする請求項1~20のいずれか1項に記載の方法。
  22. 前記第1フィルタリング処理が当該画素点に対する複数回連続するフィルタリング処理のうちの最初のフィルタリング処理でない場合、前記第2画素値は、当該画素点の前回のフィルタリング処理後の画素値を強調処理して得られる画素値である
    ことを特徴とする請求項1~20のいずれか1項に記載の方法。
  23. 前記第1フィルタリング処理は水平DBFフィルタリング処理であり、
    当該画素点が垂直DBFフィルタリング処理条件を満たす場合、前記第2画素値は、当該画素点の第5画素値の強調処理後の当該画素点の画素値であり、前記第5画素値は、垂直DBFフィルタリング処理後の当該画素点の画素値である
    ことを特徴とする請求項22に記載の方法。
  24. 前記第1フィルタリング処理は垂直デブロッキングフィルタDBFフィルタリング処理であり、
    前記当該画素点の画素値を強調処理した後、さらに、
    当該画素点が水平DBFフィルタリング条件を満たす場合、前記第3画素値に対して水平DBFフィルタリング処理を行って当該画素点の第6画素値を取得するスことと、
    前記第3画素値および前記第6画素値に基づき、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第7画素値を得ることと、を含む
    ことを特徴とする請求項1~20のいずれか1項に記載の方法。
  25. 画像強調装置であって、
    プロセッサと、メモリとを備え、前記メモリには、コンピュータプログラムが格納され、前記プロセッサは、前記コンピュータプログラムにより、
    第1フィルタリング処理条件を満たすカレントブロックの任意の画素点について、第1フィルタリング処理後の当該画素点の第1画素値を決定ステップと、
    前記第1画素値と前記第1フィルタリング処理前の当該画素点の第2画素値とに基づいて、当該画素点の画素値を強調処理し、強調処理後の当該画素点の第3画素値を取得するステップと、を実行する
    ことを特徴とする画像強調装置。
JP2022574287A 2020-06-05 2021-06-03 画像強調方法及び装置 Active JP7460802B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2024042283A JP2024060091A (ja) 2020-06-05 2024-03-18 画像強調方法及び装置

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN202010508167.4A CN113766224B (zh) 2020-06-05 2020-06-05 图像增强方法及装置
CN202010508167.4 2020-06-05
PCT/CN2021/098177 WO2021244617A1 (zh) 2020-06-05 2021-06-03 图像增强方法及装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2024042283A Division JP2024060091A (ja) 2020-06-05 2024-03-18 画像強調方法及び装置

Publications (2)

Publication Number Publication Date
JP2023528430A true JP2023528430A (ja) 2023-07-04
JP7460802B2 JP7460802B2 (ja) 2024-04-02

Family

ID=78785185

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2022574287A Active JP7460802B2 (ja) 2020-06-05 2021-06-03 画像強調方法及び装置
JP2024042283A Pending JP2024060091A (ja) 2020-06-05 2024-03-18 画像強調方法及び装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2024042283A Pending JP2024060091A (ja) 2020-06-05 2024-03-18 画像強調方法及び装置

Country Status (9)

Country Link
US (1) US20230214969A1 (ja)
EP (1) EP4142276A4 (ja)
JP (2) JP7460802B2 (ja)
KR (1) KR20230003203A (ja)
CN (2) CN114339224B (ja)
AU (1) AU2021283592B2 (ja)
TW (1) TWI826792B (ja)
WO (1) WO2021244617A1 (ja)
ZA (1) ZA202213049B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114640845B (zh) 2021-02-23 2023-02-28 杭州海康威视数字技术股份有限公司 编解码方法、装置及其设备

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5446501A (en) * 1992-10-22 1995-08-29 Accom, Incorporated Three-dimensional median and recursive filtering apparatus and method for video image enhancement
JP2002354256A (ja) * 2001-05-24 2002-12-06 Fujitsu Ltd 画像処理装置,画像処理方法および画像処理用プログラム
US6778692B1 (en) * 2000-08-11 2004-08-17 General Electric Company Image processing method and apparatus including image improving circuit
WO2012042821A1 (ja) * 2010-09-27 2012-04-05 株式会社島津製作所 画像強調処理方法およびそれを用いた画像強調処理装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR970010087B1 (en) * 1994-04-30 1997-06-21 Daewoo Electronics Co Ltd Postprocessing method for digital image
JP4677376B2 (ja) * 2006-07-07 2011-04-27 キヤノン株式会社 画像処理装置、画像処理方法、画像処理プログラム及び記憶媒体
BR112013006832A2 (pt) * 2010-09-28 2017-05-23 Samsung Electronics Co Ltd método de filtragem adaptativa, e aparelho de filtragem adaptativa
WO2012071417A1 (en) * 2010-11-24 2012-05-31 Thomson Licensing Adaptive loop filtering
DK2664149T3 (en) * 2011-01-14 2017-02-27 ERICSSON TELEFON AB L M (publ) UNBLOCK FILTERING
KR20120140181A (ko) * 2011-06-20 2012-12-28 한국전자통신연구원 화면내 예측 블록 경계 필터링을 이용한 부호화/복호화 방법 및 그 장치
KR20180019548A (ko) * 2015-06-18 2018-02-26 엘지전자 주식회사 영상 코딩 시스템에서 영상 특성에 기반한 적응적 필터링 방법 및 장치
US20190297320A1 (en) * 2016-05-13 2019-09-26 Sharp Kabushiki Kaisha Image decoding device and image encoding device
CN110495168B (zh) * 2017-04-06 2021-12-07 松下电器(美国)知识产权公司 编码装置、解码装置、编码方法及解码方法
WO2019065261A1 (ja) * 2017-09-27 2019-04-04 ソニー株式会社 符号化装置、符号化方法、復号装置、及び、復号方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5446501A (en) * 1992-10-22 1995-08-29 Accom, Incorporated Three-dimensional median and recursive filtering apparatus and method for video image enhancement
US6778692B1 (en) * 2000-08-11 2004-08-17 General Electric Company Image processing method and apparatus including image improving circuit
JP2002354256A (ja) * 2001-05-24 2002-12-06 Fujitsu Ltd 画像処理装置,画像処理方法および画像処理用プログラム
WO2012042821A1 (ja) * 2010-09-27 2012-04-05 株式会社島津製作所 画像強調処理方法およびそれを用いた画像強調処理装置

Also Published As

Publication number Publication date
AU2021283592A1 (en) 2023-02-02
KR20230003203A (ko) 2023-01-05
AU2021283592B2 (en) 2024-03-21
EP4142276A4 (en) 2023-11-08
ZA202213049B (en) 2024-04-24
JP7460802B2 (ja) 2024-04-02
WO2021244617A1 (zh) 2021-12-09
JP2024060091A (ja) 2024-05-01
CN113766224B (zh) 2022-11-25
TW202201959A (zh) 2022-01-01
US20230214969A1 (en) 2023-07-06
EP4142276A1 (en) 2023-03-01
TWI826792B (zh) 2023-12-21
CN114339224A (zh) 2022-04-12
CN114339224B (zh) 2022-12-23
CN113766224A (zh) 2021-12-07

Similar Documents

Publication Publication Date Title
CN113965746B (zh) 选择性地应用双向光流和解码器侧运动矢量细化来进行视频编解码的方法和设备
CN110024385B (zh) 影像编码/解码方法、装置以及对比特流进行存储的记录介质
CN110036637B (zh) 去噪声化已重构图像的方法及装置
US20240022746A1 (en) Method and device for video coding using various transform techniques
JP2024060091A (ja) 画像強調方法及び装置
JP2022544438A (ja) ループ内フィルタリングの方法及びループ内フィルタリングの装置
CN113891075B (zh) 滤波处理方法及装置
CN114125445B (zh) 解码方法、装置、设备及机器可读存储介质
CN114189683B (zh) 增强滤波方法及装置
KR20230128555A (ko) 인코딩 및 디코딩 방법, 장치 및 이의 기기
TW202325024A (zh) 影像處理裝置、及影像處理方法
TWI806468B (zh) 用於濾波的方法、裝置及設備
EP3471413A1 (en) Encoding and decoding methods and corresponding devices
US20210289202A1 (en) Intra prediction method and apparatus for performing adaptive filtering on reference pixel
KR102140271B1 (ko) 문턱값 기반 부호화 단위 분할을 이용한 고속 인트라 부호화 방법 및 장치
JP2024511272A (ja) イントラ予測方法、符号器、復号器及び記憶媒体
RU2803189C1 (ru) Способ и устройство для улучшения качества изображения
RU2810607C1 (ru) Способ и устройство для улучшения изображения
KR102719084B1 (ko) 참조 화소에 대하여 적응적 필터링을 수행하기 위한 화면 내 예측 방법 및 장치
KR20240153950A (ko) 참조 화소에 대하여 적응적 필터링을 수행하기 위한 화면 내 예측 방법 및 장치
CN118592029A (zh) 用于帧间预测的改进的局部照明补偿

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221201

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20221201

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20231002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231228

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20240219

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240321

R150 Certificate of patent or registration of utility model

Ref document number: 7460802

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150