JP2018085604A - Loop filter, encoding device, decoding device, and program - Google Patents

Loop filter, encoding device, decoding device, and program Download PDF

Info

Publication number
JP2018085604A
JP2018085604A JP2016227028A JP2016227028A JP2018085604A JP 2018085604 A JP2018085604 A JP 2018085604A JP 2016227028 A JP2016227028 A JP 2016227028A JP 2016227028 A JP2016227028 A JP 2016227028A JP 2018085604 A JP2018085604 A JP 2018085604A
Authority
JP
Japan
Prior art keywords
band
offset
loop filter
processing
video signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016227028A
Other languages
Japanese (ja)
Other versions
JP6814029B2 (en
Inventor
境田 慎一
Shinichi Sakaida
慎一 境田
市ヶ谷 敦郎
Atsuro Ichigaya
敦郎 市ヶ谷
俊輔 岩村
Shunsuke Iwamura
俊輔 岩村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2016227028A priority Critical patent/JP6814029B2/en
Publication of JP2018085604A publication Critical patent/JP2018085604A/en
Application granted granted Critical
Publication of JP6814029B2 publication Critical patent/JP6814029B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a device and a program that obtain images with high quality by appropriately processing a hand-offset, i.e. a SAO (Sample Adaptive Offset) function of a loop filter even in image signals including OETF (opto-electric transformation) or color difference information different from before such as HDR signals and wide color range signals.SOLUTION: A loop filter 30 for performing a hand-offset process in a local decoding process or decoding process of an encoded video signal includes; a band division unit 31 for setting band division of the video signal to which the band-offset process is applied on the basis of evenness of an optical input signal; an offset parameter setting unit 32 for setting an object band to which an offset is applied; and an offset execution unit 33 for executing the offset process for the object band on the basis of a given offset value.SELECTED DRAWING: Figure 2

Description

本発明はループフィルタ、符号化装置、復号装置、及びプログラムに関し、特に、映像圧縮符号化処理又は復号処理においてオフセット処理を行うループフィルタと、当該ループフィルタを備えた符号化装置、復号装置、及びこれらを実現するプログラムに関するものである。   The present invention relates to a loop filter, an encoding device, a decoding device, and a program, and in particular, a loop filter that performs offset processing in video compression encoding processing or decoding processing, and an encoding device, decoding device, and the like including the loop filter, and The present invention relates to a program for realizing these.

近年、スーパーハイビジョン等の高解像度映像の実用化に伴って、よりリアリティのある映像が求められており、映像の新たな表現を実現する技術手段として、高ダイナミックレンジ(HDR:High Dynamic Range)が注目されている(非特許文献1)。これは、ITU−R(International Telecommunication Union Radiocommunications Sector)の勧告BT.709(非特許文献2)で規定される従来のダイナミックレンジであるSDR(Standard Dynamic Range)に対し、ディスプレイの表示可能な最大輝度を上げることにより、映像信号の表示可能な輝度の範囲も拡大することで、SDRでは表現できなかった非常に明るい光沢やスタジアムの日向日陰の同時高画質表示などが可能になるものである。   In recent years, with the practical application of high-resolution video such as Super Hi-Vision, more realistic video has been demanded, and as a technical means for realizing a new expression of video, High Dynamic Range (HDR) is It is attracting attention (Non-Patent Document 1). This is a recommendation BT. Of ITU-R (International Telecommunication Union Radiocommunications Sector). In contrast to the standard dynamic range (SDR) defined in 709 (Non-Patent Document 2), the maximum luminance that can be displayed on the display is increased, so that the luminance range that can display the video signal is also expanded. As a result, it is possible to display a very bright luster that could not be expressed by SDR and a simultaneous high-quality display in the shade of the stadium.

HDRの実現に際しては、前述の通り高輝度表示が可能なディスプレイが必要な他、撮影するカメラ、編集等を実施する各種機器に関してもHDR信号への対応が必要になる。また、放送など、映像の配信、伝送を行う応用においては、映像信号の圧縮符号化処理における対応も考慮する必要がある。HDRはSDRに比べて輝度・色差の範囲が広がってはいるものの、従来の映像機器が扱える1画素あたりの階調数(ビット深度)は変えずに光電変換(OETF:Optical-Electronic Transfer Function、ガンマカーブ(変換)とも言われる非線形変換処理)の工夫で対応するのが主流である。そのため、映像信号を波形として取り扱う映像符号化処理においては、階調数が変わらない限り基本的にはその処理に変更はない。すなわち、MPEG(Moving Picture Experts Group)-2やAVC(Advanced Video Coding)/H.264、HEVC(High Efficiency Video Coding)/H.265などの映像符号化方式が利用可能である。   In order to realize HDR, a display capable of high luminance display is necessary as described above, and it is also necessary to support HDR signals for various cameras that perform photography and editing. Also, in applications such as broadcasting that distribute and transmit video, it is necessary to consider measures in video signal compression encoding processing. Although HDR has a wider range of brightness and color differences than SDR, the photoelectric conversion (OETF: Optical-Electronic Transfer Function) without changing the number of gradations (bit depth) per pixel that can be handled by conventional video equipment. It is the mainstream to deal with it by devising a non-linear conversion process (also called a gamma curve (conversion)). For this reason, in the video encoding process that handles a video signal as a waveform, the process is basically unchanged unless the number of gradations is changed. That is, video coding schemes such as MPEG (Moving Picture Experts Group) -2, AVC (Advanced Video Coding) /H.264, HEVC (High Efficiency Video Coding) /H.265 can be used.

また、HDR以外に映像の表現を広げる技術として広色域化がある。これは、光の3原色であるRGB(赤緑青)をテレビジョンで使用する場合に、できるだけ単波長に近い鮮やかな色とすることで、表現できる色域を広げるものである。従来のハイビジョンでは、ITU−R勧告BT.709で規定される3原色を用いていたが、広い色域に対応するものとして、勧告BT.2020で規定される3原色を利用するのが今後の主流となる。広色域に関しても、映像機器の対応は必要であるが、映像符号化処理においては各色に相当するビット深度が変わらなければ、従来の処理が利用可能である。   In addition to HDR, there is a wide color gamut as a technique for expanding the expression of video. This expands the color gamut that can be expressed by using RGB (red, green, blue), which are the three primary colors of light, as vivid colors as close to a single wavelength as possible. In conventional Hi-Vision, ITU-R recommendation BT. Although the three primary colors specified in 709 are used, it is recommended that the BT. The use of the three primary colors defined in 2020 will become the mainstream in the future. Regarding the wide color gamut, it is necessary for the video equipment to support, but in the video encoding process, if the bit depth corresponding to each color does not change, the conventional process can be used.

最新の映像符号化方式であるHEVC/H.265(非特許文献3)においては、ループフィルタが用いられている。ループフィルタは、映像符号化処理の中の局部復号処理を行うループ構造内で画像を処理するフィルタであるが、これに限らず、復号装置における復号処理でも利用されるものである。ループフィルタには、サンプル・アダプティブ・オフセット(SAO:Sample Adaptive Offset)と呼ばれる機能がある。これは、符号化処理の量子化により生じるひずみを補正するために画素単位でオフセットを付加するフィルタ機能であり、量子化によって生じた直流成分の誤差やモスキートノイズを減少させる。   In the latest video encoding method, HEVC / H.265 (Non-Patent Document 3), a loop filter is used. The loop filter is a filter that processes an image within a loop structure that performs local decoding processing in video encoding processing, but is not limited thereto, and is also used in decoding processing in a decoding device. The loop filter has a function called sample adaptive offset (SAO). This is a filter function that adds an offset for each pixel in order to correct distortion caused by quantization in the encoding process, and reduces DC component errors and mosquito noise caused by quantization.

図8に、サンプル・アダプティブ・オフセットによる画像処理の概要を示す。また、図9に、具体的なオフセット処理の内容を示す。オフセットには、図8(A)に示すエッジオフセット(EO:Edge Offset)と、図8(B)に示すバンドオフセット(BO:Band Offset)の2種類がある。   FIG. 8 shows an outline of image processing using sample adaptive offset. FIG. 9 shows specific details of the offset processing. There are two types of offsets: an edge offset (EO) shown in FIG. 8A and a band offset (BO) shown in FIG. 8B.

このうちエッジオフセット(EO)は、処理対象画素に隣接する2画素との関係に応じて、処理対象画素の画素値を補正するものである。具体的には、まず、処理対象画素(再構成画素)とそれに隣接する2画素(縦、横、斜め方向に隣接する画素)の画素値を比較し、大小関係に応じてカテゴリに分類する。隣接画素との関係が、図9(A)に示す4種類のパターンのうちのいずれかである場合に、カテゴリ(エッジインデックス)を選択するとともに、オフセットする値を指定してオフセット処理を施す。エッジオフセットは、図8(A)のように、局所的な画素値の山や谷(リンギング)を平坦になるように補正することができる。   Of these, the edge offset (EO) is to correct the pixel value of the processing target pixel in accordance with the relationship between the two pixels adjacent to the processing target pixel. Specifically, first, the pixel values of the processing target pixel (reconstruction pixel) and two adjacent pixels (pixels adjacent in the vertical, horizontal, and diagonal directions) are compared and classified into categories according to the magnitude relationship. When the relationship with the adjacent pixel is one of the four types of patterns shown in FIG. 9A, a category (edge index) is selected, and an offset value is specified and an offset process is performed. The edge offset can be corrected so that local peaks and valleys (ringing) of pixel values become flat as shown in FIG.

一方、バンドオフセット(BO)は、画素値(輝度あるいは色差)を階調に基づいて32のバンドに等分し、バンドごとに定めた値によりオフセットを施すものである。図9(B)に示すように、4つの連続するバンドに対してオフセット処理を施す仕組みになっている。エンコーダ側は最も二乗誤差エネルギーが低減できる4つの連続するバンドを探し、各バンドに対するオフセットを計算して、バンドの位置情報(オフセットを実行する対象バンドの先頭バンドを指定するインデックス)とオフセット値をデコーダ側に送る。デコーダ側では、指定されたオフセット値を、当該バンド内の全画素値に適用する。バンドオフセットは、画素値に応じて処理するため、処理する範囲内の画素値のばらつきが少ない場合に有効である。特に、低周波成分の量子化誤差や動き補償によるフレーム間参照の位相ずれが生じた際に効果があり、図8(B)のように、エッジ強調の効果がある。   On the other hand, the band offset (BO) divides a pixel value (luminance or color difference) equally into 32 bands based on the gradation, and applies an offset by a value determined for each band. As shown in FIG. 9B, an offset process is performed on four consecutive bands. The encoder side finds four consecutive bands that can reduce the square error energy the most, calculates the offset for each band, and gives the band position information (index that specifies the first band of the target band to perform the offset) and the offset value. Send to the decoder side. On the decoder side, the designated offset value is applied to all pixel values in the band. Since the band offset is processed according to the pixel value, it is effective when there is little variation in the pixel value within the processing range. In particular, this is effective when a low-frequency component quantization error or an inter-frame reference phase shift occurs due to motion compensation, and has an edge enhancement effect as shown in FIG. 8B.

ARIB STD-B67, “ESSENTIAL PARAMETER VALUES FOR THE EXTENDED IMAGE DYNAMIC RANGE TELEVISION (EIDRTV) SYSTEM FOR PROGRAMME PRODUCTION”, Version 1.0, Association of Radio Industries and Businesses, July 3, 2015ARIB STD-B67, “ESSENTIAL PARAMETER VALUES FOR THE EXTENDED IMAGE DYNAMIC RANGE TELEVISION (EIDRTV) SYSTEM FOR PROGRAM PRODUCTION”, Version 1.0, Association of Radio Industries and Businesses, July 3, 2015 Recommendation ITU-R BT.709, “Parameter values for the HDTV standards for production and international programme exchange”Recommendation ITU-R BT.709, “Parameter values for the HDTV standards for production and international program exchange” 大久保榮[監修]、「H.265/HEVC教科書」、株式会社インプレスジャパン、2013年10月21日発行、p.157 - 161Jun Okubo (supervised), “H.265 / HEVC Textbook”, Impress Japan Co., Ltd., October 21, 2013, p.157-161

HDRのように、信号処理に用いるOETF(光電変換関数)が従来のSDRのOETFと異なっている方式の場合には、映像符号化方式自体はそのまま利用可能であるものの、映像信号によっては符号化劣化が表れやすくなることがある。   When the OETF (photoelectric conversion function) used for signal processing is different from the conventional SDR OETF, such as HDR, the video coding method itself can be used as it is, but depending on the video signal, the coding is performed. Deterioration may easily occur.

図10に、光信号(光学的入力信号)を電気信号(映像信号)に変換するOETFの特性の一例を示す。OETFは、被写体を撮影して取得した光信号に対して対数や累乗根のカーブに似た形状の非線形曲線グラフとなり、輝度が高い範囲を圧縮して所定のビット深度に収めるのが一般的である。図10の縦軸は映像信号の強度(階調)を正規化した値となっており、横軸は光入力信号の強度を示している。光入力信号の1を基準となるReference Whiteとすることができる。この曲線が人間の視覚特性(Weber-Fechner law:ヴェーバー・フェヒナーの法則)に従った対数関数の形状であれば、変換された電気信号を線形信号とみなして画素値に依らない処理をし、最終的にOETFの逆変換であるEOTF(Electronic- Optical Transfer Function、電気−光変換)をした後にディスプレイ表示すれば、視覚的な画質にはほぼ問題ない。しかしながら、OETFが、人間の視覚特性から乖離した曲線の関数である場合(例えば、従来のSDR方式と異なるダイナミックレンジを有するとき等)、電気信号を線形とみなして画素値に依らず同じ処理を施すと、画素値によっては品質の劣化を生じる恐れがある。   FIG. 10 shows an example of the characteristics of OETF that converts an optical signal (optical input signal) into an electrical signal (video signal). The OETF is a non-linear curve graph having a shape similar to a logarithm or a power root curve with respect to an optical signal acquired by photographing a subject, and generally compresses a high luminance range to a predetermined bit depth. is there. The vertical axis of FIG. 10 is a value obtained by normalizing the intensity (gradation) of the video signal, and the horizontal axis indicates the intensity of the optical input signal. One of the optical input signals can be used as a reference white. If this curve has the shape of a logarithmic function according to human visual characteristics (Weber-Fechner law), the converted electrical signal is treated as a linear signal and processed without depending on the pixel value. If the display is finally performed after EOTF (Electronic-Optical Transfer Function), which is the reverse conversion of OETF, there is almost no problem in visual image quality. However, when the OETF is a function of a curve deviating from human visual characteristics (for example, when it has a dynamic range different from that of the conventional SDR method), the same processing is performed regardless of the pixel value by regarding the electric signal as linear. If applied, there is a risk of quality degradation depending on the pixel value.

HEVC/H.265で規定されているバンドオフセットの処理においては、前述のとおり画素値(映像信号の階調)を等分してバンドを設定する。図11に、映像信号を等バンド幅に分割して設定したバンド分割を模式的に示す。画素値を32分割すると、映像信号が10ビット(1024画素レベル)の場合1バンドあたり32画素レベル、8ビット(256画素レベル)の場合1バンドあたり8画素レベルに均等に分割される。すなわち、バンドオフセットは、図11に示すように、画素値を一様に等分してバンド分割を行い、指定されたバンドに対し、画素値に依らずに一定の値のオフセットを施す。そのため、光信号として見た場合には、画素値が高い場合にはオフセットにより大きく光信号が変化するが、画素値が低い場合にはオフセットを施しても光信号はほとんど変化しない。よって、意図したオフセットと実際の画質変化が一致しなくなることが予想される。   In the band offset processing defined by HEVC / H.265, the band is set by equally dividing the pixel value (the gradation of the video signal) as described above. FIG. 11 schematically shows band division set by dividing a video signal into equal bandwidths. When the pixel value is divided into 32, the video signal is equally divided into 32 pixel levels per band when the video signal is 10 bits (1024 pixel level) and 8 pixel levels per band when the video signal is 8 bits (256 pixel level). That is, as shown in FIG. 11, the band offset is performed by equally dividing the pixel value into equal parts to perform band division, and the specified band is offset with a constant value regardless of the pixel value. Therefore, when viewed as an optical signal, when the pixel value is high, the optical signal changes greatly due to the offset, but when the pixel value is low, the optical signal hardly changes even when the offset is applied. Therefore, it is expected that the intended offset does not match the actual image quality change.

また、色信号に関しては映像符号化処理では一般にRGB信号ではなく、輝度と2つの色差信号に変換して処理されることが多い。これは、輝度と色差に分けることで互いの相関を減らし、人間の視覚が色信号に対して鈍感であるという特性に基づき色差信号の解像度を減らす(サブサンプリングする)ことが目的である。輝度・色差信号(例:YCbCr)における色差信号空間においては、輝度信号と同様に光信号ではなく電気信号であることと、色差信号空間が均等色空間ではないため例えば色差信号の値が1レベル異なっても、色によってその差の見え方が大きく異なることがある。そのため、バンドオフセットの処理を施すと、意図した色の変化ではない変化になってしまうことがある。   In addition, color signals are generally processed by converting into luminance and two color difference signals instead of RGB signals in video encoding processing. The purpose of this is to reduce the correlation between the luminance and the color difference, and to reduce (subsample) the resolution of the color difference signal based on the characteristic that human vision is insensitive to the color signal. In the color difference signal space in the luminance / color difference signal (for example, YCbCr), similarly to the luminance signal, the signal is not an optical signal but an electric signal, and the color difference signal space is not a uniform color space. Even if they are different, the way the difference appears depends on the color. For this reason, when band offset processing is performed, a change that is not an intended change in color may occur.

従って、上記のような問題点に鑑みてなされた本発明の目的は、HDR信号や広色域信号等の従来と異なる特性を有する画像信号においても、オフセット処理により、品質の高い画像を得ることが可能なループフィルタ、符号化装置、復号装置、及びプログラムを提供することにある。   Accordingly, an object of the present invention made in view of the above problems is to obtain a high-quality image by offset processing even for an image signal having characteristics different from those of a conventional signal such as an HDR signal and a wide color gamut signal. It is an object to provide a loop filter, an encoding device, a decoding device, and a program.

上記課題を解決するために本発明に係るループフィルタは、符号化された映像信号の局部復号処理又は復号処理においてバンドオフセット処理を行うループフィルタであって、前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の均等性に基づいて設定することを特徴とする。   In order to solve the above problems, a loop filter according to the present invention is a loop filter that performs band offset processing in local decoding processing or decoding processing of an encoded video signal, and the band of the video signal subjected to the band offset processing The division is set based on the uniformity of the optical input signal.

上記課題を解決するために本発明に係るループフィルタは、符号化された映像信号の局部復号処理又は復号処理においてバンドオフセット処理を行うループフィルタであって、前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の均等性に基づいて設定するバンド分割部と、オフセットを実行する対象バンドを設定するオフセットパラメータ設定部と、前記対象バンドに対して、与えられたオフセット値に基づいてオフセット処理を実行するオフセット実行部と、を備えることを特徴とする。   In order to solve the above problems, a loop filter according to the present invention is a loop filter that performs band offset processing in local decoding processing or decoding processing of an encoded video signal, and the band of the video signal subjected to the band offset processing A band dividing unit that sets division based on the uniformity of the optical input signal, an offset parameter setting unit that sets a target band for performing offset, and a given offset value for the target band And an offset execution unit that executes offset processing.

また、前記ループフィルタは、前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号と映像信号の関係に基づいて、分割された各バンドにおいて光学的入力信号の強度幅が均等となるように設定することが望ましい。   The loop filter performs band division of the video signal to be subjected to the band offset processing, and the intensity width of the optical input signal is equalized in each divided band based on the relationship between the optical input signal and the video signal. It is desirable to set as follows.

また、前記ループフィルタは、前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の色信号空間に基づいて、分割された各バンドにおいて均等色空間で色差が均等となるように設定することが望ましい。   The loop filter sets the band division of the video signal to be subjected to the band offset processing so that the color difference is equal in the uniform color space in each divided band based on the color signal space of the optical input signal. It is desirable to do.

また、前記ループフィルタは、前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の発生頻度分布に基づいて、分割された各バンドにおいて累積頻度が均等となるように設定することが望ましい。   The loop filter may set the band division of the video signal to be subjected to the band offset processing so that the accumulated frequency is equal in each divided band based on the frequency distribution of the optical input signal. desirable.

また、前記ループフィルタは、OETF情報又は色空間情報に基づいて、映像信号で等分割するバンド分割と光学的入力信号で等分割するバンド分割とを切り替えることが望ましい。   Further, it is desirable that the loop filter switches between band division that equally divides by a video signal and band division that equally divides by an optical input signal based on OETF information or color space information.

上記課題を解決するために本発明に係る符号化装置は、符号化された映像信号の局部復号処理を含む符号化装置において、前記局部復号処理におけるバンドオフセット処理を、前記のループフィルタを用いて行うことを特徴とする。   In order to solve the above-described problem, an encoding apparatus according to the present invention is an encoding apparatus including a local decoding process of an encoded video signal, and performs a band offset process in the local decoding process using the loop filter. It is characterized by performing.

上記課題を解決するために本発明に係る復号装置は、符号化された映像信号の復号処理を行う復号装置において、前記復号処理におけるバンドオフセット処理を、前記のループフィルタを用いて行うことを特徴とする。   In order to solve the above problems, a decoding apparatus according to the present invention performs a band offset process in the decoding process using the loop filter in a decoding apparatus that performs a decoding process of an encoded video signal. And

上記課題を解決するために本発明に係るプログラムは、コンピュータを、前記のループフィルタ、前記の符号化装置、又は、前記の復号装置として機能させることを特徴とする。   In order to solve the above problems, a program according to the present invention causes a computer to function as the loop filter, the encoding device, or the decoding device.

本発明のループフィルタ、符号化装置、復号装置、及びプログラムによれば、HDR信号や広色域信号等の従来と異なる特性を有する画像信号においても、バンドオフセットによる画質調整により、映像圧縮符号化処理又は復号処理において品質の高い画像を得ることができる。   According to the loop filter, the encoding device, the decoding device, and the program of the present invention, video compression encoding is performed by adjusting the image quality by band offset even for an image signal having characteristics different from the conventional one such as an HDR signal and a wide color gamut signal. A high quality image can be obtained in the processing or decoding processing.

本発明の符号化装置の例を示すブロック図である。It is a block diagram which shows the example of the encoding apparatus of this invention. 本発明のループフィルタの構成の例を示すブロック図である。It is a block diagram which shows the example of a structure of the loop filter of this invention. 光学的入力信号の強度に基づくバンド分割を説明する図である。It is a figure explaining the band division based on the intensity | strength of an optical input signal. 光学的入力信号の均等色空間におけるバンド分割を説明する図である。It is a figure explaining the band division | segmentation in the uniform color space of an optical input signal. ヒストグラムに基づくバンド分割を説明する図である。It is a figure explaining the band division based on a histogram. 本発明のループフィルタの動作の例を示すフローチャートである。It is a flowchart which shows the example of operation | movement of the loop filter of this invention. 本発明の復号装置の例を示すブロック図である。It is a block diagram which shows the example of the decoding apparatus of this invention. サンプル・アダプティブ・オフセットによる画像処理の概要を示す。An overview of image processing by sample adaptive offset is shown. サンプル・アダプティブ・オフセットのオフセット処理の内容を示す。The contents of the offset processing of the sample adaptive offset are shown. OETFの特性の一例を示すグラフである。It is a graph which shows an example of the characteristic of OETF. 映像信号を等バンド幅に分割したバンド分割を模式的に示す図である。It is a figure which shows typically the band division | segmentation which divided | segmented the video signal into equal band width.

以下、本発明の実施の形態について、図面を参照しながら説明する。   Hereinafter, embodiments of the present invention will be described with reference to the drawings.

(実施の形態1)
本発明のループフィルタと当該ループフィルタを備えた符号化装置について説明する。図1は、本発明の実施の形態1の符号化装置の例を示すブロック図である。説明においては、符号化・復号処理としてHEVC/H.265方式を想定するが、バンドオフセットと類似の処理を有する他の符号化方式でも、本発明のループフィルタを適用することができる。
(Embodiment 1)
A loop filter according to the present invention and an encoding apparatus including the loop filter will be described. FIG. 1 is a block diagram showing an example of an encoding apparatus according to Embodiment 1 of the present invention. In the description, the HEVC / H.265 system is assumed as the encoding / decoding process, but the loop filter of the present invention can also be applied to other encoding systems having processing similar to the band offset.

符号化装置100は、原画像を入力して、符号化されたビットストリームを出力するものであり、光入力信号から原画像(映像信号)を生成した際のOETFや色空間処理に対応して、ループフィルタ30のバンドオフセット処理を変更することができる。そのため、原画像に加えて、OETF情報及び/又は色空間情報が入力される。   The encoding apparatus 100 inputs an original image and outputs an encoded bit stream, and corresponds to OETF and color space processing when an original image (video signal) is generated from an optical input signal. The band offset processing of the loop filter 30 can be changed. Therefore, OETF information and / or color space information is input in addition to the original image.

符号化装置100は、画面分割部10、減算器11、変換・量子化部12、エントロピー符号化部13、逆量子化・逆変換部14、加算器15、デブロッキングフィルタ16、ループフィルタ30、動き検出部17、動き補償予測部18、及びイントラ予測部19を備えている。このうち、逆量子化・逆変換部14、加算器15、デブロッキングフィルタ16、及びループフィルタ30が、局部復号処理部として機能する。そして、変換・量子化部12と、局部復号処理部と、動き補償予測部18又はイントラ予測部19と、減算器11によりループ構造が構成されている。   The encoding apparatus 100 includes a screen dividing unit 10, a subtractor 11, a transform / quantization unit 12, an entropy encoding unit 13, an inverse quantization / inverse transform unit 14, an adder 15, a deblocking filter 16, a loop filter 30, A motion detection unit 17, a motion compensation prediction unit 18, and an intra prediction unit 19 are provided. Among these, the inverse quantization / inverse transform unit 14, the adder 15, the deblocking filter 16, and the loop filter 30 function as a local decoding processing unit. The transform / quantization unit 12, the local decoding processing unit, the motion compensation prediction unit 18 or the intra prediction unit 19, and the subtractor 11 constitute a loop structure.

本発明は、ループフィルタ30の機能・構成が従来技術と異なっている。本発明のループフィルタにおいては、入力信号のOETFや色空間に応じて、光学的入力信号の均等性に基づいてバンド分割を施すことを特徴とする。   The present invention differs from the prior art in the function and configuration of the loop filter 30. The loop filter of the present invention is characterized in that band division is performed based on the uniformity of the optical input signal in accordance with the OETF and color space of the input signal.

画面分割部10には、原画像が入力され、所定のサイズの画像に画面分割される。分割された画像データは減算器11及び動き検出部17に出力され、画像ブロック毎にその後の処理が行われる。   The screen division unit 10 receives an original image and divides the screen into images of a predetermined size. The divided image data is output to the subtractor 11 and the motion detection unit 17, and the subsequent processing is performed for each image block.

減算器11は、画面分割部10から入力されるブロック化された画像から、動き補償予測部18又はイントラ予測部19から入力される予測画像の減算処理を行い、両画像の差分を求めて、差分画像を変換・量子化部12に出力する。   The subtractor 11 performs a subtraction process on the prediction image input from the motion compensation prediction unit 18 or the intra prediction unit 19 from the blocked image input from the screen division unit 10 to obtain a difference between both images, The difference image is output to the transform / quantization unit 12.

変換・量子化部12は、減算器11から入力された差分画像に対して、例えば、HEVC/H.265で規定されている符号化処理(離散コサイン変換等)及び量子化処理を行い、その結果をエントロピー符号化部13及び局部復号処理部に出力する。   The transform / quantization unit 12 performs, for example, encoding processing (discrete cosine transform, etc.) and quantization processing defined in HEVC / H.265 on the difference image input from the subtractor 11, The result is output to the entropy encoding unit 13 and the local decoding processing unit.

エントロピー符号化部13は、変換・量子化部12から入力された画像の符号化データとともに、後述するOETF情報/色空間情報等の画像の復号に必要なデータをエントロピー符号化(シンボル毎の出現確率に基づき異なる長さの符号語長を用いる符号化)をして、ビットストリームを作成し、その後、伝送路への出力等を行う。   The entropy encoding unit 13 entropy-encodes data necessary for decoding an image, such as OETF information / color space information, which will be described later, together with encoded image data input from the transform / quantization unit 12 (appearance for each symbol). (Encoding using different codeword lengths based on the probability) to create a bit stream, and then outputting to a transmission path and the like.

逆量子化・逆変換部14は、変換・量子化部12から入力された符号化されたデータを、逆量子化及び逆変換(離散コサイン逆変換等)をする。すなわち、変換・量子化部12で行われた処理と反対の復号処理を行い、その結果を加算器15に出力する。   The inverse quantization / inverse transform unit 14 performs inverse quantization and inverse transform (such as discrete cosine inverse transform) on the encoded data input from the transform / quantization unit 12. That is, a decoding process opposite to the process performed by the transform / quantization unit 12 is performed, and the result is output to the adder 15.

加算器15は、逆量子化・逆変換部14で逆量子化及び逆変換されたデータ、すなわち、差分画像の復号処理されたデータと、後述の動き補償予測部18又はイントラ予測部19で処理された予測画像データとを加算し、その合成画像データをデブロッキングフィルタ16とイントラ予測部19に出力する。   The adder 15 is processed by the motion-compensated prediction unit 18 or the intra-prediction unit 19 to be described later, and the data that has been inverse-quantized and inverse-transformed by the inverse-quantization / inverse-conversion unit 14, that is, the data obtained by decoding the difference image The prediction image data thus added is added, and the combined image data is output to the deblocking filter 16 and the intra prediction unit 19.

デブロッキングフィルタ16は、加算器15からの出力画像データに対して、デブロッキング処理を行う。すなわち、HEVC/H.265等ではブロック単位の処理を行うため、ブロック境界に不連続な歪み(ブロック歪み)が発生する場合がある。デブロッキングフィルタ16は、ブロック境界部のフィルタ処理を行い、ブロック歪みを低減する。そして、デブロッキング処理を行った画像データを、ループフィルタ30に出力する。   The deblocking filter 16 performs deblocking processing on the output image data from the adder 15. That is, in HEVC / H.265 and the like, processing in units of blocks is performed, so that discontinuous distortion (block distortion) may occur at the block boundary. The deblocking filter 16 performs block boundary filter processing to reduce block distortion. Then, the image data subjected to the deblocking process is output to the loop filter 30.

ループフィルタ30は、デブロッキング処理を行った画像データに対して、前述のサンプル・アダプティブ・オフセットの処理を行う。本発明のループフィルタ30には、映像信号(原画像)の生成に関するOETF情報/色空間情報が入力され、バンドオフセットの処理において、映像信号のOETFや色空間に応じて、オフセット処理を施すレベル範囲のバンド分割方法を変更する。ループフィルタ30の構成及び動作の詳細は後述する。ループフィルタ30はフィルタ処理した画像データを動き検出部17及び動き補償予測部18に出力する。   The loop filter 30 performs the above-described sample adaptive offset processing on the image data subjected to the deblocking processing. The loop filter 30 of the present invention receives OETF information / color space information related to the generation of a video signal (original image), and performs a level of offset processing according to the OETF of the video signal and the color space in the band offset processing. Change the range banding method. Details of the configuration and operation of the loop filter 30 will be described later. The loop filter 30 outputs the filtered image data to the motion detection unit 17 and the motion compensation prediction unit 18.

動き検出部17は、画面分割部10から入力された画像データと、局部復号処理部のループフィルタ30から入力された復号画像データとを比較して、画像の動きを検出し、検出された動きに関する情報(動きベクトル等)を動き補償予測部18に出力する。   The motion detection unit 17 compares the image data input from the screen division unit 10 with the decoded image data input from the loop filter 30 of the local decoding processing unit, detects the motion of the image, and detects the detected motion The information (motion vector or the like) regarding is output to the motion compensation prediction unit 18.

動き補償予測部18は、ループフィルタ30によりバンドオフセット等の処理がなされた画像と、動き検出部17から入力された画像の動きの情報に基づいて、動き補償予測処理を行い動き予測画像を減算器11及び加算器15に出力する。   The motion compensation prediction unit 18 performs motion compensation prediction processing based on the image processed by the loop filter 30 such as band offset and the motion information of the image input from the motion detection unit 17 and subtracts the motion prediction image. To the adder 11 and the adder 15.

イントラ予測部19は、加算器15の出力画像に基づいて、イントラ予測、すなわち、画面内予測処理を行って、画面内予測画像を減算器11及び加算器15に出力する。なお、減算器11に、動き補償予測部18からの動き予測画像を出力するか、イントラ予測部19からの画面内予測画像を出力するかは、切り替え器により適宜選択することができる。   The intra prediction unit 19 performs intra prediction, that is, intra prediction processing based on the output image of the adder 15, and outputs the intra prediction image to the subtractor 11 and the adder 15. Note that whether the motion prediction image from the motion compensation prediction unit 18 or the intra prediction image from the intra prediction unit 19 is output to the subtractor 11 can be appropriately selected by a switch.

次に、ループフィルタ30の構成及び動作について説明する。図1のHEVC/H.265の局部復号処理において、逆量子化、逆変換、動き補償、デブロッキングフィルタが施された映像信号がループフィルタ30へ入力される。同時に、映像信号のOETFを規定するOETF情報および使用する色空間を規定する色空間情報が格納されたVUI(Video Usability Information)あるいはSEI(Supplemental Enhancement Information)から、該当する情報が抽出されループフィルタ30へ入力される。   Next, the configuration and operation of the loop filter 30 will be described. In the HEVC / H.265 local decoding process of FIG. 1, a video signal that has been subjected to inverse quantization, inverse transform, motion compensation, and deblocking filter is input to the loop filter 30. At the same time, corresponding information is extracted from VUI (Video Usability Information) or SEI (Supplemental Enhancement Information) in which OETF information defining the OETF of the video signal and color space information defining the color space to be used are stored, and the loop filter 30 is extracted. Is input.

図2は、ループフィルタ30の構成の例を示すブロック図である。ループフィルタ30は、バンド分割部31、オフセットパラメータ設定部32、及びオフセット実行部33を備えている。ループフィルタ30には、あらかじめ決められたオフセットモード(バンドオフセットとエッジオフセットのどちらを行うかを指定するモード情報)が与えられる。図2は、バンドオフセット処理を行う場合のループフィルタ30の構成を示しており、エッジオフセットを行う場合の構成は省略している。   FIG. 2 is a block diagram illustrating an example of the configuration of the loop filter 30. The loop filter 30 includes a band dividing unit 31, an offset parameter setting unit 32, and an offset execution unit 33. The loop filter 30 is given a predetermined offset mode (mode information specifying whether to perform band offset or edge offset). FIG. 2 shows the configuration of the loop filter 30 when performing band offset processing, and the configuration when performing edge offset is omitted.

バンド分割部31は、OETF情報/色空間情報が入力され、この情報に基づいて、バンドオフセットの基礎となるバンド分割を設定する。すなわち、映像信号を生成するOETF情報/色空間情報が従来のSDR又はBT.709で規定される従来の色域である場合は、従来どおり映像信号(電気信号)で等分割するバンド分割を行い、また、映像信号を生成するOETF情報/色空間情報がHDR又はBT.2020で規定される広色域である場合は、光学的入力信号の均等性に基づいてバンド分割を行い、各バンド幅を設定する。なお、従来どおりの映像信号で等分割するバンド分割を行うか、光学的入力信号で等分割するバンド分割を行うかは、光−電気変換が人間の視覚特性(Weber-Fechner law)とどの程度一致しているか(又は乖離しているか)を基準に分けるのが望ましく、適宜の基準を設定して、当該基準と入力されたOETF情報/色空間情報とを比較して決定し、切り替えを行えばよい。   The band division unit 31 receives OETF information / color space information, and sets a band division that is a basis of a band offset based on this information. That is, the OETF information / color space information for generating the video signal is the same as the conventional SDR or BT. In the case of the conventional color gamut defined in 709, band division is performed by equal division with a video signal (electrical signal) as in the past, and OETF information / color space information for generating a video signal is HDR or BT. In the case of a wide color gamut defined by 2020, band division is performed based on the uniformity of the optical input signal, and each bandwidth is set. In addition, whether to perform the band division to divide equally with the conventional video signal or the band division to divide equally with the optical input signal, how much the optical-electrical conversion is with human visual characteristics (Weber-Fechner law) It is desirable to categorize whether they match (or diverge), and set an appropriate standard, compare the standard with the input OETF information / color space information, determine, and switch Just do it.

オフセットパラメータ設定部32は、バンドオフセットの場合、図示しない制御部からオフセット実行バンドの情報(例えば、オフセットを行う対象バンドの内の先頭バンドを指定するインデックス)が入力され、バンド分割部31で設定したバンド分割と、当該入力情報に基づいて、オフセットを実行する対象となるバンド(例えば、指定されたバンドから連続する4バンド)を設定する。   In the case of a band offset, the offset parameter setting unit 32 receives information about an offset execution band (for example, an index for designating the first band of target bands to be offset) from a control unit (not shown), and is set by the band division unit 31. Based on the band division and the input information, a band (for example, four bands continuous from the designated band) to be offset is set.

オフセット実行部33は、図示しない制御部からオフセット値(オフセットの値と符号)が入力され、オフセットパラメータ設定部32で設定された対象バンドに対して、指定されたオフセット値に基づいて、バンドオフセットを実行する。指定されたオフセット値は、対象バンド内の全画素値に適用される。   The offset execution unit 33 receives an offset value (offset value and sign) from a control unit (not shown), and performs band offset based on the designated offset value for the target band set by the offset parameter setting unit 32. Execute. The designated offset value is applied to all pixel values in the target band.

次に、バンド分割部31で行うバンド分割の設定処理について説明する。特に、映像信号に関するOETF情報/色空間情報に基づいて、バンド分割部31が、光学的入力信号の均等性に基づいてバンド分割を行う場合について、3種類の処理を説明する。なお、バンド分割部31は、切り替え機能を備えており、SDRの場合は従来どおり電気信号(映像信号)を均等割するバンド分割を設定することも可能である。   Next, the band division setting process performed by the band division unit 31 will be described. In particular, three types of processing will be described in the case where the band dividing unit 31 performs band division based on the uniformity of the optical input signal based on the OETF information / color space information regarding the video signal. Note that the band division unit 31 has a switching function, and in the case of SDR, it is also possible to set band division that equally divides an electric signal (video signal) as usual.

<HDR信号への対応>
バンド分割部31では、入力されたOETF情報に基づき、映像信号を所定数のバンドに分割する。ここでは、映像信号及びOETF情報が、HDR信号である場合について説明する。バンドの分割数は、例えば、HEVC/H.265方式に合わせて32分割とすることができるが、分割数はいくつでも構わない。
<Response to HDR signal>
The band dividing unit 31 divides the video signal into a predetermined number of bands based on the input OETF information. Here, a case where the video signal and the OETF information are HDR signals will be described. For example, the number of bands can be divided into 32 according to the HEVC / H.265 system, but any number of bands can be used.

OETF情報には、符号化処理を施す電気信号(映像信号)と、カメラ等で撮影した映像である光信号(光学的入力信号)の関係が数式やルックアップテーブル(LUT)などで記述されている。本発明では、HEVC/H.265方式等で電気信号に施しているバンドオフセットを、OETFに基づき変換した光信号において等価的に施すことを可能にする。   In the OETF information, a relationship between an electrical signal (video signal) to be encoded and an optical signal (optical input signal) that is an image captured by a camera or the like is described by a mathematical expression, a look-up table (LUT), or the like. Yes. In the present invention, the band offset applied to the electrical signal by the HEVC / H.265 method or the like can be equivalently applied to the optical signal converted based on the OETF.

図3は、光信号(光学的入力信号)の強度に基づくバンド分割を説明する図である。一例として、OETFによる変換前の光信号でのレベル範囲(光強度範囲)を等バンド幅に分割し(図では8等分に分割されているが、例えば、32等分であってよい)、光信号の等分割に対応する電気信号の分割位置をOETFの関数から計算し、それに応じてバンドオフセット処理の基礎となるバンド分割を設定する。その他の処理はHEVC/H.265処理と同様であり、オフセット実行バンドの情報に基づき、指定されたオフセットを施すバンド及びそのバンドから3つ上までのバンドに対し、設定されたオフセット値でオフセット処理を施す。なお、オフセット処理を施すバンド数は4バンドに限定されず、またオフセット値は最適な値を適宜設定することができる。この例の場合、オフセットが光信号に一致した処理となるため、実際の光と線形に対応したリニア信号での処理を施すことと等価になる。なお、ここでは、OETFがHDR信号であるとして説明したが、HDR以外であって、人間の視覚特性から乖離したOETFについて、同様に光信号の強度幅が均等となるバンド分割処理を行ってもよい。   FIG. 3 is a diagram for explaining band division based on the intensity of an optical signal (optical input signal). As an example, a level range (light intensity range) in an optical signal before conversion by OETF is divided into equal bandwidths (in the figure, divided into 8 equal parts, but may be divided into 32 equal parts, for example) The division position of the electric signal corresponding to the equal division of the optical signal is calculated from the function of the OETF, and the band division that is the basis of the band offset processing is set accordingly. Other processing is the same as HEVC / H.265 processing. Based on the offset execution band information, the specified offset value is offset for the band to which the specified offset is applied and up to three bands above that band. Apply processing. Note that the number of bands subjected to offset processing is not limited to four bands, and an optimal value can be appropriately set as the offset value. In the case of this example, since the offset is matched with the optical signal, this is equivalent to performing processing with a linear signal corresponding to linearity with actual light. Here, the OETF is described as being an HDR signal. However, even if the OETF other than HDR and deviating from human visual characteristics is subjected to band division processing in which the intensity width of the optical signal is similarly equal. Good.

<広色域信号への対応>
バンド分割部31では、入力された色空間情報に基づき、映像信号のうち特に色差信号を所定数のバンドに分割する。ここでは、映像信号及び色空間情報が、広色域信号である場合について説明する。この場合、色空間信号(色空間情報)に基づき、元のYCbCr信号をRGB色空間およびXYZ色空間を経由してLuv色空間やLab色空間などの均等色空間に変換する。
<Support for wide color gamut signals>
Based on the input color space information, the band dividing unit 31 divides a color difference signal among video signals into a predetermined number of bands. Here, a case where the video signal and the color space information are wide color gamut signals will be described. In this case, based on the color space signal (color space information), the original YCbCr signal is converted into a uniform color space such as the Luv color space or the Lab color space via the RGB color space and the XYZ color space.

色空間信号が、広色域信号を規定するARIB STD−B56(非定輝度伝送)の場合、RGBとYCbCrの変換式は、
Y'=0.2627B'+0.6780G'+0.0593R'
Cb'=(B'-Y')/1.8814
Cr'=(R'-Y')/1.4746
となっている。各変数の「'」は、非線形伝達関数、いわゆるガンマ補正が施されていることを示し、このガンマ補正は、前述のOETFと同一である。
When the color space signal is ARIB STD-B56 (non-constant luminance transmission) that defines a wide color gamut signal, the conversion formula between RGB and YCbCr is:
Y '= 0.2627B' + 0.6780G '+ 0.0593R'
Cb '= (B'-Y') / 1.8814
Cr '= (R'-Y') / 1.4746
It has become. “′” In each variable indicates that a non-linear transfer function, so-called gamma correction is performed, and this gamma correction is the same as the above-described OETF.

RGB信号は、逆ガンマ補正され光信号に変換されたのち、XYZ色空間に変換される。変換式を(1)式として示す。なお、RGB色空間はデバイス依存であるため、XYZへの変換式は一通りではない。   The RGB signal is subjected to inverse gamma correction and converted into an optical signal, and then converted into an XYZ color space. The conversion equation is shown as equation (1). Note that since the RGB color space is device-dependent, there are no single conversion formulas for XYZ.

Figure 2018085604
Figure 2018085604

(1)式の変換において、たとえばD65を色温度の基準とするsRGB(standard RGB)規格であれば、行列Mは次式(2)で表わされる。   In the conversion of equation (1), for example, in the case of the sRGB (standard RGB) standard using D65 as the color temperature reference, the matrix M is expressed by the following equation (2).

Figure 2018085604
Figure 2018085604

次に、均等色空間であるL*,u*,v*空間への変換について説明する。XYZ色空間からuv色度図への変換式は、
u'=4X / (X + 15Y + 3Z)
v'=9Y / (X + 15Y + 3Z)
と表される。このu', v'を用い、次式(3)で3次元直交座標空間の色座標(L*,u*,v*)が定義される。
Next, conversion to the L * , u * , v * space, which is a uniform color space, will be described. The conversion formula from the XYZ color space to the uv chromaticity diagram is
u '= 4X / (X + 15Y + 3Z)
v '= 9Y / (X + 15Y + 3Z)
It is expressed. Using these u ′ and v ′, the color coordinates (L * , u * , v * ) of the three-dimensional orthogonal coordinate space are defined by the following equation (3).

Figure 2018085604
Figure 2018085604

n,u'n,v'n ,は基準とする白色の三刺激値X,Y,Zから求める。D65(昼光色)の下ではXn=95.04,Yn=100.00,Zn=108.88 である。 Y n , u ′ n , and v ′ n are obtained from the white tristimulus values X, Y, and Z as a reference. Under D65 (daylight color), X n = 95.04, Y n = 100.00, and Z n = 108.88.

また、均等色空間であるL*,a*,b*空間への変換についてみると、XYZ色空間から3次元直交座標(L*,a*,b*)の均等色空間への変換式は、次式(4)で定義される。 Further, L * is a uniform color space, a *, b * As for conversion into the space, three-dimensional orthogonal coordinates from the XYZ color space (L *, a *, b *) conversion formula into a uniform color space of Is defined by the following equation (4).

Figure 2018085604
Figure 2018085604

図4に、光信号(光学的入力信号)の均等色空間におけるバンド分割を示す。変換された均等色空間において等バンド幅を設定し、設定したバンド幅の信号に逆変換を施して元のYCbCrでのバンド幅とする。すなわち、バンド分割を、光学的入力信号の色信号空間に基づいて、分割された各バンドにおいて均等色空間で色差が均等となるように設定する。こうすることにより均等色に合わせたバンド幅を設定したうえでのオフセット処理となるため、実際に知覚される色に対応した信号での処理を施すことと等価になる。   FIG. 4 shows band division in a uniform color space of an optical signal (optical input signal). An equal bandwidth is set in the converted uniform color space, and a reverse bandwidth is applied to the signal of the set bandwidth to obtain the bandwidth in the original YCbCr. That is, the band division is set based on the color signal space of the optical input signal so that the color difference is equal in the uniform color space in each divided band. By doing this, offset processing is performed after setting a bandwidth that matches the uniform color, and this is equivalent to performing processing with a signal corresponding to the actually perceived color.

<ヒストグラムに基づくバンド分割>
上記の処理とは別の様態として、OETF情報/色空間情報が与えられない場合にバンド幅設定を自動的に行い、効率的にSAO処理を実行する方法について説明する。
<Band division based on histogram>
As an aspect different from the above processing, a method of performing SAO processing efficiently by automatically setting bandwidth when OETF information / color space information is not given will be described.

図5は、ヒストグラムに基づくバンド分割を説明する図である。局部復号あるいは復号処理において、逆量子化、逆変換、動き補償、デブロッキングフィルタが施された映像信号YCbCrのヒストグラムを作成する。図5(A)は映像信号の画素値(輝度又は色差信号)を横軸(レベル)とし、縦軸を発生頻度とするヒストグラムである。映像信号と光信号(光学的入力信号)は1対1の対応関係があるから、図5の映像信号のヒストグラムは、光学的入力信号の発生頻度分布と等価である。このヒストグラムから信号の分布を解析し、分布に併せて輝度あるいは色差信号のレベルの分割バンド位置を決める。   FIG. 5 is a diagram for explaining band division based on a histogram. In the local decoding or decoding process, a histogram of the video signal YCbCr that has been subjected to inverse quantization, inverse transform, motion compensation, and deblocking filter is created. FIG. 5A is a histogram with the pixel value (luminance or color difference signal) of the video signal as the horizontal axis (level) and the vertical axis as the occurrence frequency. Since the video signal and the optical signal (optical input signal) have a one-to-one correspondence, the histogram of the video signal in FIG. 5 is equivalent to the frequency distribution of the optical input signal. The distribution of the signal is analyzed from this histogram, and the division band position of the luminance or color difference signal level is determined in accordance with the distribution.

図5(A)のヒストグラムから、図5(B)のように累積ヒストグラムを作成し、累積分布の最大値を基準に縦軸(累積頻度)が等幅となるよう所定のバンド数に分割する。累積頻度が均等となる位置で画素値(横軸)を分割し、電気信号における設定バンド幅を決定する。このような手順により、自動的に分布に合わせた分割が可能になる。   A cumulative histogram is created from the histogram of FIG. 5A, as shown in FIG. 5B, and is divided into a predetermined number of bands so that the vertical axis (cumulative frequency) has an equal width based on the maximum value of the cumulative distribution. . The pixel value (horizontal axis) is divided at a position where the cumulative frequency becomes equal, and the set bandwidth in the electric signal is determined. By such a procedure, division according to distribution can be automatically performed.

このように定めたバンド幅でバンドオフセットを施せば、映像信号及び光学的入力信号に合わせて無駄のないオフセットがつけられる。   By applying a band offset with the bandwidth determined in this way, an offset that is not wasteful can be applied in accordance with the video signal and the optical input signal.

次に、ループフィルタの動作について説明する。図6は、ループフィルタの実行する動作の一例について、フローチャートで示したものである。   Next, the operation of the loop filter will be described. FIG. 6 is a flowchart showing an example of the operation executed by the loop filter.

ステップ1(S1)として、OETF情報/色空間情報の入力の有無について判断する。入力がある場合ステップ2に進み、OETF情報/色空間情報が与えられない場合は、ステップ9に進む。   In step 1 (S1), it is determined whether or not OETF information / color space information is input. If there is an input, the process proceeds to Step 2, and if OETF information / color space information is not given, the process proceeds to Step 9.

ステップ2(S2)では、入力されたOETF情報/色空間情報が、OETFの情報であるか、色空間の情報であるかを判断する。OETFすなわち輝度に関する情報である場合に、ステップ3、すなわち電気・光信号変換に基づく処理ステップに進み、色差信号に関する情報である場合に、ステップS6、すなわち均等色空間変換の処理に進む。   In step 2 (S2), it is determined whether the input OETF information / color space information is OETF information or color space information. If the information is OETF, that is, information relating to luminance, the process proceeds to step 3, that is, a processing step based on electrical / optical signal conversion. If the information is related to color difference signals, the process proceeds to step S6, that is, uniform color space conversion.

ステップ3(S3)では、電気・光信号変換の変換関数であるOETFを読み込み、どのようなバンド分割を行うのか判断し、ステップ4に進む。   In step 3 (S3), OETF which is a conversion function of electrical / optical signal conversion is read to determine what band division is performed, and the process proceeds to step 4.

ステップ4(S4)では、読み込んだOETFに基づいて、例えば、HDR信号であれば光信号が等バンド幅となるようなバンド分割を行い、映像信号における各バンド幅を設定し、ステップ5に進む。   In step 4 (S4), based on the read OETF, for example, in the case of an HDR signal, band division is performed so that the optical signal has an equal bandwidth, each bandwidth in the video signal is set, and the process proceeds to step 5 .

ステップ5(S5)では、設定されたバンド幅に基づき、オフセット実行バンドとオフセット値に従ってオフセット処理を行う。輝度信号に関するバンドオフセットは以上で終了する。   In step 5 (S5), offset processing is performed according to the offset execution band and the offset value based on the set bandwidth. The band offset related to the luminance signal ends here.

次に、ステップ2で色差信号(色空間情報)と判断された場合、ステップ6(S6)では、どのようなバンド分割を行うのか判断し、例えば、広色域信号であれば、読み込んだ色差信号(YCbCr)に基づいて、均等色空間(例えば、Luv空間又はLab空間)への変換を行い、ステップ7に進む。   Next, when it is determined in step 2 that the color difference signal (color space information), in step 6 (S6), it is determined what band division is to be performed. Based on the signal (YCbCr), conversion to a uniform color space (for example, Luv space or Lab space) is performed, and the process proceeds to step 7.

ステップ7(S7)では、ステップ6で処理された均等色空間において、光信号が等バンド幅となるようなバンド分割を行い、色信号の逆変換を行ってYCbCrでの各バンド幅を設定し、ステップ8に進む。   In step 7 (S7), in the uniform color space processed in step 6, band division is performed so that the optical signal has an equal bandwidth, and the inverse of the color signal is performed to set each bandwidth in YCbCr. , Go to Step 8.

ステップ8(S8)では、設定されたバンド幅に基づき、オフセット実行バンドとオフセット値に従ってオフセット処理を行う。色差信号に関するバンドオフセットは以上で終了する。   In step 8 (S8), based on the set bandwidth, offset processing is performed according to the offset execution band and the offset value. This completes the band offset for the color difference signal.

次に、ステップ1でOETF情報/色空間情報が無いと判断された場合、ステップ9(S9)において、映像信号YCbCrのヒストグラムを作成する。さらに、ヒストグラムから、累積ヒストグラムを作成し、ステップ10に進む。   Next, when it is determined in step 1 that there is no OETF information / color space information, a histogram of the video signal YCbCr is created in step 9 (S9). Further, a cumulative histogram is created from the histogram, and the process proceeds to step 10.

ステップ10(S10)では、累積ヒストグラムに基づいて、縦軸(累積頻度)が等分される位置で画素値(横軸)を分割し、映像信号における設定バンド幅を決定し、ステップ11に進む。   In step 10 (S10), the pixel value (horizontal axis) is divided at a position where the vertical axis (cumulative frequency) is equally divided based on the cumulative histogram, the set bandwidth in the video signal is determined, and the process proceeds to step 11 .

ステップ11(S11)では、設定されたバンド幅に基づき、オフセット実行バンドとオフセット値に従ってオフセット処理を行う。ヒストグラムに基づくバンドオフセットは以上で終了する。上記のフローチャートに基づいて、ループフィルタによるバンドオフセットを行う。   In step 11 (S11), based on the set bandwidth, offset processing is performed according to the offset execution band and the offset value. The band offset based on the histogram ends here. Based on the above flowchart, band offset by a loop filter is performed.

なお、図6のフローチャートでは、ループフィルタのバンド分割の方法を、OETF情報/色空間情報に基づいて切り替えることを説明したが、いずれかの特定のバンド分割を行う専用のループフィルタとすることも可能である。   In the flowchart of FIG. 6, it has been described that the band division method of the loop filter is switched based on OETF information / color space information. However, a dedicated loop filter that performs any specific band division may be used. Is possible.

(実施の形態2)
実施の形態2として、復号装置について説明する。ループフィルタは、符号化装置における局部復号処理のみならず、復号装置の復号処理においても使用される。
(Embodiment 2)
A decoding device will be described as a second embodiment. The loop filter is used not only in the local decoding process in the encoding apparatus but also in the decoding process of the decoding apparatus.

図7は、本発明のループフィルタを用いた復号装置の例を示すブロック図である。復号装置200は、符号化データであるビットストリームを入力し、復号処理を行い、復元画像を出力する。   FIG. 7 is a block diagram showing an example of a decoding device using the loop filter of the present invention. The decoding apparatus 200 receives a bit stream that is encoded data, performs a decoding process, and outputs a restored image.

復号装置200は、エントロピー復号部20と、逆量子化・逆変換部21と、加算器22と、デブロッキングフィルタ23と、ループフィルタ30と、イントラ予測部24と、動き補償予測部25を備えている。   The decoding apparatus 200 includes an entropy decoding unit 20, an inverse quantization / inverse conversion unit 21, an adder 22, a deblocking filter 23, a loop filter 30, an intra prediction unit 24, and a motion compensation prediction unit 25. ing.

エントロピー復号部20は、入力されたビットストリームをエントロピー復号し、伝送された画像の符号化データとともに、OETF情報/色空間情報等の画像の復号に必要なデータを復号する。画像の符号化データは、逆量子化・逆変換部21に出力され、OETF情報/色空間情報は、ループフィルタ30に出力される。   The entropy decoding unit 20 performs entropy decoding on the input bit stream, and decodes data necessary for decoding an image such as OETF information / color space information together with the encoded data of the transmitted image. The encoded image data is output to the inverse quantization / inverse transform unit 21, and the OETF information / color space information is output to the loop filter 30.

逆量子化・逆変換部21は、エントロピー復号部20から入力された符号化されたデータを、逆量子化及び逆変換(離散コサイン逆変換等)をする。すなわち、符号化装置100で行われた処理と反対の復号処理を行い、その結果を加算器22に出力する。   The inverse quantization / inverse transform unit 21 performs inverse quantization and inverse transform (such as discrete cosine inverse transform) on the encoded data input from the entropy decoding unit 20. That is, a decoding process opposite to the process performed by the encoding apparatus 100 is performed, and the result is output to the adder 22.

加算器22は、逆量子化・逆変換部21で逆量子化及び逆変換されたデータ(これは、差分画像のデータに相当する)と、後述の動き補償予測部25又はイントラ予測部24で処理された予測画像データとを加算し、その合成画像データをデブロッキングフィルタ23とイントラ予測部24に出力する。   The adder 22 includes data that has been inverse-quantized and inverse-transformed by the inverse-quantization / inverse-transformer 21 (this corresponds to difference image data), and a motion compensation predictor 25 or an intra-predictor 24 described later. The processed predicted image data is added, and the combined image data is output to the deblocking filter 23 and the intra prediction unit 24.

デブロッキングフィルタ23は、加算器22からの出力画像データに対して、デブロッキング処理を行う。すなわち、ブロック境界部のフィルタ処理を行い、ブロック境界に発生する不連続な歪み(ブロック歪み)を低減する。そして、デブロッキング処理を行った画像データを、ループフィルタ30に出力する。   The deblocking filter 23 performs deblocking processing on the output image data from the adder 22. That is, the filter processing of the block boundary part is performed to reduce discontinuous distortion (block distortion) generated at the block boundary. Then, the image data subjected to the deblocking process is output to the loop filter 30.

ループフィルタ30は、デブロッキングフィルタ23から入力された画像データに対して、サンプル・アダプティブ・オフセットの処理、特に、バンドオフセットの処理を行う。復号装置200のループフィルタ30は、図2の構成を備えており、エントロピー復号部20から入力されたOETF情報/色空間情報に基づいて、バンドオフセットのバンド幅の設定を行い、オフセット処理を行う。既に説明したように、本発明のループフィルタは、入力信号のOETFや色空間に応じて、光学的入力信号の均等性に基づくバンド分割を行う。すなわち、光信号の強度において等分(強度幅が均等)となるバンド分割、或いは、均等色空間で色差が均等となるバンド分割を施す。また、画像信号のヒストグラムに基づくバンド幅設定であっても良い。ループフィルタ30は、フィルタ処理した画像データを動き補償予測部25に出力するとともに、復号装置200の出力画像(復元画像)として出力する。   The loop filter 30 performs a sample adaptive offset process on the image data input from the deblocking filter 23, particularly a band offset process. The loop filter 30 of the decoding device 200 has the configuration shown in FIG. 2, and sets the bandwidth of the band offset based on the OETF information / color space information input from the entropy decoding unit 20 and performs an offset process. . As already described, the loop filter of the present invention performs band division based on the uniformity of the optical input signal according to the OETF of the input signal and the color space. In other words, band division in which the intensity of the optical signal is equally divided (intensity width is uniform) or band division in which color differences are equal in a uniform color space is performed. Alternatively, the bandwidth may be set based on a histogram of the image signal. The loop filter 30 outputs the filtered image data to the motion compensation prediction unit 25 and also outputs it as an output image (restored image) of the decoding device 200.

イントラ予測部24は、加算器22の出力画像に基づいて、イントラ予測、すなわち、画面内予測処理を行って、画面内予測画像を加算器22に出力する。   The intra prediction unit 24 performs intra prediction, that is, intra prediction processing based on the output image of the adder 22, and outputs the intra prediction image to the adder 22.

動き補償予測部25は、ループフィルタ30によりバンドオフセット等の処理がなされた画像と、図示しない画像の動きの予測情報に基づいて、動き補償予測処理を行い動き予測画像を加算器22に出力する。   The motion compensation prediction unit 25 performs a motion compensation prediction process based on an image that has been subjected to processing such as band offset by the loop filter 30 and motion prediction information of an image (not shown), and outputs a motion prediction image to the adder 22. .

なお、加算器22に、動き補償予測部25からの動き予測画像を出力するか、イントラ予測部24からの画面内予測画像を出力するかは、切り替え器により適宜選択することができる。   Note that whether the motion prediction image from the motion compensation prediction unit 25 or the intra-screen prediction image from the intra prediction unit 24 is output to the adder 22 can be appropriately selected by a switch.

なお、上述したループフィルタ30、符号化装置100、及び復号装置200として機能させるためにコンピュータを好適に用いることができ、そのようなコンピュータは、ループフィルタ30、符号化装置100、及び復号装置200の各機能を実現する処理内容を記述したプログラムを該コンピュータの記憶部に格納しておき、該コンピュータの中央演算処理装置(CPU)によってこのプログラムを読み出して実行させることで実現することができる。なお、このプログラムは、コンピュータ読取り可能な記録媒体に記録可能である。   It should be noted that a computer can be suitably used to function as the loop filter 30, the encoding device 100, and the decoding device 200 described above, and such a computer can be used as the loop filter 30, the encoding device 100, and the decoding device 200. This can be realized by storing a program describing the processing contents for realizing each function in the storage unit of the computer, and reading and executing the program by a central processing unit (CPU) of the computer. This program can be recorded on a computer-readable recording medium.

なお、本実施形態では、ループフィルタ30を含む符号化装置100及び復号装置200の構成と動作について説明したが、本発明はこれに限られず、ループフィルタにおけるバンドオフセットの処理方法、符号化装置100による符号化方法、及び復号装置200による復号方法として構成されてもよい。   In the present embodiment, the configuration and operation of the encoding device 100 and the decoding device 200 including the loop filter 30 have been described. However, the present invention is not limited to this, and the band offset processing method in the loop filter and the encoding device 100 are described. May be configured as a coding method according to, and a decoding method according to the decoding apparatus 200.

上述の実施形態は代表的な例として説明したが、本発明の趣旨及び範囲内で、多くの変更及び置換ができることは当業者に明らかである。したがって、本発明は、上述の実施形態によって制限するものと解するべきではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。例えば、各ブロック、各ステップ等に含まれる機能等は論理的に矛盾しないように再配置可能であり、複数の構成ブロックやステップ等を1つに組み合わせたり、或いは分割したりすることが可能である。   Although the above embodiment has been described as a representative example, it will be apparent to those skilled in the art that many changes and substitutions can be made within the spirit and scope of the invention. Therefore, the present invention should not be construed as being limited by the above-described embodiments, and various modifications and changes can be made without departing from the scope of the claims. For example, the functions included in each block, step, etc. can be rearranged so as not to be logically contradictory, and a plurality of constituent blocks, steps, etc. can be combined into one or divided. is there.

10 画面分割部
11 減算器
12 変換・量子化部
13 エントロピー符号化部
14 量子化・逆変換部
15 加算器
16 デブロッキングフィルタ
17 動き検出部
18 動き補償予測部
19 イントラ予測部
20 エントロピー復号部
21 逆量子化・逆変換部
22 加算器
23 デブロッキングフィルタ
24 イントラ予測部
25 動き補償予測部
30 ループフィルタ
31 バンド分割部
32 オフセットパラメータ設定部
33 オフセット実行部
100 符号化装置
200 復号装置
DESCRIPTION OF SYMBOLS 10 Screen division part 11 Subtractor 12 Transformation / quantization part 13 Entropy encoding part 14 Quantization / inverse conversion part 15 Adder 16 Deblocking filter 17 Motion detection part 18 Motion compensation prediction part 19 Intra prediction part 20 Entropy decoding part 21 Inverse quantization / inverse transform unit 22 Adder 23 Deblocking filter 24 Intra prediction unit 25 Motion compensation prediction unit 30 Loop filter 31 Band division unit 32 Offset parameter setting unit 33 Offset execution unit 100 Encoding device 200 Decoding device

Claims (9)

符号化された映像信号の局部復号処理又は復号処理においてバンドオフセット処理を行うループフィルタであって、
前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の均等性に基づいて設定することを特徴とするループフィルタ。
A loop filter that performs band offset processing in local decoding processing or decoding processing of an encoded video signal,
A loop filter characterized in that band division of a video signal to be subjected to the band offset processing is set based on uniformity of an optical input signal.
符号化された映像信号の局部復号処理又は復号処理においてバンドオフセット処理を行うループフィルタであって、
前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の均等性に基づいて設定するバンド分割部と、
オフセットを実行する対象バンドを設定するオフセットパラメータ設定部と、
前記対象バンドに対して、与えられたオフセット値に基づいてオフセット処理を実行するオフセット実行部と、
を備えることを特徴とするループフィルタ。
A loop filter that performs band offset processing in local decoding processing or decoding processing of an encoded video signal,
A band division unit for setting the band division of the video signal to be subjected to the band offset processing based on the uniformity of the optical input signal;
An offset parameter setting unit for setting a target band for executing the offset;
An offset execution unit that performs an offset process on the target band based on a given offset value;
A loop filter comprising:
請求項1又は2に記載のループフィルタであって、
前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号と映像信号の関係に基づいて、分割された各バンドにおいて光学的入力信号の強度幅が均等となるように設定することを特徴とするループフィルタ。
The loop filter according to claim 1 or 2,
The band division of the video signal to be subjected to the band offset processing is set based on the relationship between the optical input signal and the video signal so that the intensity width of the optical input signal is uniform in each of the divided bands. A loop filter.
請求項1又は2に記載のループフィルタであって、
前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の色信号空間に基づいて、分割された各バンドにおいて均等色空間で色差が均等となるように設定することを特徴とするループフィルタ。
The loop filter according to claim 1 or 2,
A loop characterized in that band division of a video signal to be subjected to band offset processing is set based on a color signal space of an optical input signal so that color differences are equal in a uniform color space in each divided band filter.
請求項1又は2に記載のループフィルタであって、
前記バンドオフセット処理を施す映像信号のバンド分割を、光学的入力信号の発生頻度分布に基づいて、分割された各バンドにおいて累積頻度が均等となるように設定することを特徴とするループフィルタ。
The loop filter according to claim 1 or 2,
A loop filter characterized in that band division of a video signal to be subjected to the band offset processing is set based on an occurrence frequency distribution of an optical input signal so that cumulative frequency is equal in each divided band.
請求項1乃至5のいずれか一項に記載のループフィルタであって、
OETF情報又は色空間情報に基づいて、映像信号で等分割するバンド分割と光学的入力信号で等分割するバンド分割とを切り替えることを特徴とするループフィルタ。
A loop filter according to any one of claims 1 to 5,
A loop filter characterized by switching between band division equally divided by a video signal and band division equally divided by an optical input signal based on OETF information or color space information.
符号化された映像信号の局部復号処理を含む符号化装置において、
前記局部復号処理におけるバンドオフセット処理を、請求項1乃至6のいずれか一項に記載のループフィルタを用いて行うことを特徴とする符号化装置。
In an encoding device including local decoding processing of an encoded video signal,
The encoding apparatus characterized by performing the band offset process in the said local decoding process using the loop filter as described in any one of Claims 1 thru | or 6.
符号化された映像信号の復号処理を行う復号装置において、
前記復号処理におけるバンドオフセット処理を、請求項1乃至6のいずれか一項に記載のループフィルタを用いて行うことを特徴とする復号装置。
In a decoding device that performs decoding processing of an encoded video signal,
The decoding apparatus characterized by performing the band offset process in the said decoding process using the loop filter as described in any one of Claims 1 thru | or 6.
コンピュータを、請求項1乃至6のいずれか一項に記載のループフィルタ、請求項7に記載の符号化装置、又は、請求項8に記載の復号装置として機能させるためのプログラム。   A program for causing a computer to function as the loop filter according to any one of claims 1 to 6, the encoding device according to claim 7, or the decoding device according to claim 8.
JP2016227028A 2016-11-22 2016-11-22 Loop filters, encoders, decoders, and programs Expired - Fee Related JP6814029B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016227028A JP6814029B2 (en) 2016-11-22 2016-11-22 Loop filters, encoders, decoders, and programs

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016227028A JP6814029B2 (en) 2016-11-22 2016-11-22 Loop filters, encoders, decoders, and programs

Publications (2)

Publication Number Publication Date
JP2018085604A true JP2018085604A (en) 2018-05-31
JP6814029B2 JP6814029B2 (en) 2021-01-13

Family

ID=62237357

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016227028A Expired - Fee Related JP6814029B2 (en) 2016-11-22 2016-11-22 Loop filters, encoders, decoders, and programs

Country Status (1)

Country Link
JP (1) JP6814029B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130208788A1 (en) * 2012-02-10 2013-08-15 Broadcom Corporation Sample adaptive offset (SAO) in accordance with video coding
WO2014168812A1 (en) * 2013-04-08 2014-10-16 Qualcomm Incorporated Sample adaptive offset scaling based on bit-depth
WO2014204584A1 (en) * 2013-06-19 2014-12-24 Apple Inc. Sample adaptive offset control
WO2015130541A1 (en) * 2014-02-26 2015-09-03 Dolby Laboratories Licensing Corporation Luminance based coding tools for video compression
WO2018041782A1 (en) * 2016-08-30 2018-03-08 Thomson Licensing Method and apparatus for video coding with sample adaptive offset

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130208788A1 (en) * 2012-02-10 2013-08-15 Broadcom Corporation Sample adaptive offset (SAO) in accordance with video coding
WO2014168812A1 (en) * 2013-04-08 2014-10-16 Qualcomm Incorporated Sample adaptive offset scaling based on bit-depth
WO2014204584A1 (en) * 2013-06-19 2014-12-24 Apple Inc. Sample adaptive offset control
WO2015130541A1 (en) * 2014-02-26 2015-09-03 Dolby Laboratories Licensing Corporation Luminance based coding tools for video compression
WO2018041782A1 (en) * 2016-08-30 2018-03-08 Thomson Licensing Method and apparatus for video coding with sample adaptive offset

Also Published As

Publication number Publication date
JP6814029B2 (en) 2021-01-13

Similar Documents

Publication Publication Date Title
JP7356478B2 (en) Method and apparatus for encoding and decoding color pictures
TWI775925B (en) System and method of cross-component dynamic range adjustment (cc-dra) in video coding
CN107836118B (en) Method, apparatus and computer readable storage medium for pixel pre-processing and encoding
JP6516851B2 (en) Pixel pre-processing and encoding
CN110177276B (en) Method for processing spatial region of video image, storage medium and computing device
JP6356190B2 (en) Global display management based light modulation
CN108293124B (en) Coding of pictures in video
US20180167615A1 (en) Systems and methods for optimizing video coding based on a luminance transfer function or video color component values
KR102358368B1 (en) Method and device for encoding high dynamic range pictures, corresponding decoding method and decoding device
TW201924336A (en) Video coding with content adaptive spatially varying quantization
JP2018525883A (en) Method and device for encoding and decoding color pictures
KR102509504B1 (en) Coding and decoding methods and corresponding devices
AU2019252418B2 (en) Harmonization of transform-based quantization and dynamic range adjustment scale derivation in video coding
JP2018524924A (en) Method and device for encoding both HDR pictures and SDR pictures obtained from said HDR pictures using a color mapping function
Ström et al. Luma adjustment for high dynamic range video
AU2015275320A1 (en) Method, apparatus and system for determining a luma value
JP6814029B2 (en) Loop filters, encoders, decoders, and programs
CN115152213A (en) Method for quantization parameter control for video codec with joint pixel/transform based quantization
KR20170110088A (en) Method and apparatus for encoding and decoding color pictures
US11985346B2 (en) Encoding high dynamic range video data
Segall et al. Quantizer noise equalization between electro-optical transfer functions
AU2016203467A1 (en) Method, apparatus and system for determining a luma value

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20191002

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200929

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201102

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201218

R150 Certificate of patent or registration of utility model

Ref document number: 6814029

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees