JP2020028066A - 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム - Google Patents

色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム Download PDF

Info

Publication number
JP2020028066A
JP2020028066A JP2018152990A JP2018152990A JP2020028066A JP 2020028066 A JP2020028066 A JP 2020028066A JP 2018152990 A JP2018152990 A JP 2018152990A JP 2018152990 A JP2018152990 A JP 2018152990A JP 2020028066 A JP2020028066 A JP 2020028066A
Authority
JP
Japan
Prior art keywords
block
intra prediction
unit
luminance
intra
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018152990A
Other languages
English (en)
Other versions
JP7219030B2 (ja
Inventor
俊輔 岩村
Shunsuke Iwamura
俊輔 岩村
市ヶ谷 敦郎
Atsuro Ichigaya
敦郎 市ヶ谷
慎平 根本
Shimpei Nemoto
慎平 根本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2018152990A priority Critical patent/JP7219030B2/ja
Publication of JP2020028066A publication Critical patent/JP2020028066A/ja
Application granted granted Critical
Publication of JP7219030B2 publication Critical patent/JP7219030B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

【課題】色差ブロックに適用するイントラ予測モードの候補リストを効率的に生成することにより符号化効率を改善可能とする。
【解決手段】色差イントラ予測候補生成装置は、対象画像中の色差ブロックのイントラ予測に適用するイントラ予測モードの候補リストを、前記対象画像中で前記色差ブロックに対応する位置の1以上の輝度ブロックに適用されたイントラ予測モードに基づいて生成する。色差イントラ予測候補生成装置は、イントラブロックコピーが適用された輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、イントラブロックコピーが適用された輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する。
【選択図】図4

Description

本発明は、色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラムに関する。
次世代の映像符号化技術において、符号化対象の画像を構成する輝度信号及び色差信号に対して個別にブロック分割を行うことを可能とし、輝度ブロック及び色差ブロックを個別に符号化することが検討されている。また、特許文献1には、画像のブロックごとに色差信号のイントラ予測モードを定めるイントラ予測器において、色差信号のイントラ予測モードの符号化効率を向上することができるイントラ予測器を用いた画像符号化装置が開示されている(特許文献1参照)。
そして、色差ブロックのイントラ予測に、当該色差ブロックに対応する位置の輝度ブロックに適用されたイントラ予測モードを適用するDerived Mode(DM)を適用可能とすることが検討されている(例えば、非特許文献1参照)。
輝度信号と色差信号とでブロック分割を独立に設定可能であることから、符号化対象の色差ブロックに対応する位置の1以上の輝度ブロック群のそれぞれに適用されたイントラ予測モードを取得し、これらのイントラ予測モードから重複を排除したものを当該色差ブロックに適用するイントラ予測モードの候補リスト(「DMリスト」と称される)として生成する。
かかるDMリスト中のイントラ予測モードの数が規定の数(例えば、5つ)に満たない場合には、当該色差ブロックの周囲に位置する色差ブロックに適用されたイントラ予測モードのうち、DMリストに含まれるイントラ予測モードと重複のないイントラ予測モードをDMリストに追加し、それでも規定の数に満たない場合には、予め規定した初期値のモードをDMリストに追加する。
特開2018−078409号公報
JVET−J0042、"Intra block copy for intra−frame coding"、2018年6月1日検索、インターネット<URL:http://phenix.it−sudparis.eu/jvet/doc_end_user/documents/10_San%20Diego/wg11/JVET−J0042−v3.zip>
しかしながら、符号化対象の色差ブロックに対応する位置の輝度ブロックには、同一スライス(フレーム)内の復号済みブロックを当該輝度ブロックの予測画像として生成するイントラブロックコピーが適用されうる。
かかる場合、DMリストのための参照先輝度ブロックにはイントラ予測が適用されていないため、当該参照先輝度ブロックをDMリストの生成に用いることができないと考えられる。よって、符号化対象の色差ブロックとの信号相関の高い輝度ブロックの空間的特徴を利用できず、当該色差ブロックの周囲の色差ブロックに適用されたイントラ予測モードや初期値のモードによる予測のみに限られてしまう。
したがって、色差ブロックのイントラ予測の効率が低下し、符号化効率が低下してしまう問題がある。
そこで、本発明は、色差ブロックに適用するイントラ予測モードの候補リストを効率的に生成することにより符号化効率を改善可能とする色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラムを提供することを目的とする。
第1の特徴に係る色差イントラ予測候補生成装置は、対象画像中の色差ブロックのイントラ予測に適用するイントラ予測モードの候補リストを、前記対象画像中で前記色差ブロックに対応する位置の1以上の輝度ブロックに適用されたイントラ予測モードに基づいて生成する。前記色差イントラ予測候補生成装置は、イントラ予測が適用された第1輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、前記第1輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する第1追加部と、イントラブロックコピーが適用された第2輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、前記第2輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する第2追加部とを備える。
第2の特徴に係る画像符号化装置は、第1の特徴に係る色差イントラ予測候補生成装置を備えることを要旨とする。
第3の特徴に係る画像復号装置は、第1の特徴に係る色差イントラ予測候補生成装置を備えることを要旨とする。
第4の特徴に係るプログラムは、コンピュータを請求項1乃至3のいずれか1項に記載の色差イントラ予測候補生成装置として機能させることを要旨とする。
本発明によれば、色差ブロックのイントラ予測に適用するイントラ予測モードの候補リストを効率的に生成することにより符号化効率を改善可能とする色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラムを提供できる。
実施形態に係る画像符号化装置の構成を示す図である。 実施形態に係る輝度ブロックに適用可能なイントラ予測モードの一例を示す図である。 実施形態に係る符号化対象の色差ブロックに対応する位置の複数の輝度ブロックの一例を示す図である。 実施形態に係る第2追加部の動作の一例を示す図である。 実施形態に係る画像復号装置の構成を示す図である。 実施形態に係る色差イントラ予測候補生成部(色差イントラ予測候補生成装置)の動作例1を示す図である。 実施形態に係る色差イントラ予測候補生成部(色差イントラ予測候補生成装置)の動作例2を示す図である。
図面を参照して、一実施形態に係る画像符号化装置及び画像復号装置について説明する。本実施形態に係る画像符号化装置及び画像復号装置は、MPEGに代表される動画像の符号化及び復号を行う。なお、以下の図面の記載において、同一又は類似の部分には同一又は類似の符号を付している。
<1.画像符号化装置の構成>
図1は、本実施形態に係る画像符号化装置1の構成を示す図である。
図1に示すように、画像符号化装置1は、ブロック分割部100と、減算部110と、変換・量子化部120と、エントロピー符号化部130と、逆量子化・逆変換部140と、合成部150と、メモリ160と、予測部170と、色差イントラ予測候補生成部(色差イントラ予測候補生成装置)180と、色差イントラ予測モード選択部190とを備える。
ブロック分割部100は、符号化対象の動画像を構成するフレーム(或いはピクチャ)単位の入力画像をブロック状の小領域に分割し、分割により得たブロックを減算部110に出力する。ブロックのサイズは、例えば32×32画素、16×16画素、8×8画素、又は4×4画素等である。ブロックは、画像符号化装置1が符号化を行う単位及び画像復号装置2が復号を行う単位である。
ブロックの形状は正方形に限らず、長方形であってもよい。例えば、ブロック分割部100は、4つのブロックに分割する4分木分割と2つのブロックに分割する2分木分割とを組み合わせて階層的に(再帰的に)分割する方法であるQTBT(Quad Tree/Binary Tree)を行ってもよい。また、ブロック分割部100は、4分木分割及び2分木分割に加えて、3つのブロックに分割するブロック分割を行ってもよい。
また、入力画像は輝度信号(Y)及び色差信号(Cb、Cr)により構成されており、入力画像内の各画素は輝度成分(Y)及び色差成分(Cb、Cr)により構成される。ブロック分割部100は、輝度信号と色差信号とでブロック分割を独立に設定可能である。よって、輝度ブロック及び色差ブロックが1対1に対応しないことがある。なお、画像符号化装置1は、輝度ブロック及び色差ブロックを別々に符号化することが可能である。同様に、画像復号装置2は、輝度ブロック及び色差ブロックを別々に復号することが可能である。
減算部110は、ブロック分割部100から入力されたブロック(輝度ブロック、色差ブロック)と、予測部170が当該ブロックを予測して得た予測画像(予測輝度ブロック、予測色差ブロック)との間の画素単位での誤差を表す予測残差を算出する。例えば、減算部110は、ブロック分割部100から入力されたブロックの各画素値から予測画像の各画素値を減算することにより予測残差を算出し、算出した予測残差を変換・量子化部120に出力する。
変換・量子化部120は、ブロック単位で直交変換処理及び量子化処理を行う。変換・量子化部120は、変換部121と、量子化部122とを備える。
変換部121は、減算部110から入力された予測残差に対して直交変換処理を行って変換係数を算出し、算出した変換係数を量子化部122に出力する。直交変換処理とは、例えば、離散コサイン変換(DCT:Discrete Cosine Transform)や離散サイン変換(DST:Discrete Sine Transform)、カルーネンレーブ変換(KLT: Karhunen Loeve Transform)等をいう。
量子化部122は、変換部121から入力された変換係数を量子化パラメータ(Qp)及び量子化行列を用いて量子化し、量子化変換係数を生成する。量子化パラメータ(Qp)は、ブロック内の各変換係数に対して共通して適用されるパラメータであって、量子化の粗さを定めるパラメータである。量子化行列は、各変換係数を量子化する際の量子化値を要素として有する行列である。量子化部122は、量子化された変換係数をエントロピー符号化部130及び逆量子化・逆変換部140に出力する。
エントロピー符号化部130は、量子化部122から入力された変換係数に対してエントロピー符号化を行い、データ圧縮を行って符号化データ(ビットストリーム)を生成し、符号化データを画像符号化装置1の外部に出力する。エントロピー符号化には、ハフマン符号やCABAC(Context−based Adaptive Binary Arithmetic Coding)等を用いることができる。なお、エントロピー符号化部130には、予測部170から予測に関する制御情報(フラグ等)が入力され、色差イントラ予測モード選択部190から色差イントラ予測モードを示すフラグが入力され、エントロピー符号化部130は、これらの情報のエントロピー符号化も行う。
逆量子化・逆変換部140は、ブロック単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部140は、逆量子化部141と、逆変換部142とを備える。
逆量子化部141は、量子化部122が行う量子化処理に対応する逆量子化処理を行う。具体的には、逆量子化部141は、量子化部122から入力された量子化変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより、変換係数を復元し、復元した変換係数を逆変換部142に出力する。
逆変換部142は、変換部121が行う直交変換処理に対応する逆直交変換処理を行う。例えば、変換部121がDCTによる直交変換処理を行った場合には、逆変換部142はDCTによる逆直交変換処理を行う。逆変換部142は、逆量子化部141から入力された変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差を合成部150に出力する。
合成部150は、逆変換部142から入力された復元予測残差を、予測部170から入力された予測画像と画素単位で合成する。合成部150は、復元予測残差の各画素値と予測画像の各画素値を加算してブロックを復号(再構成)し、復号したブロック単位の復号画像をメモリ160に出力する。かかる復号画像は、再構成画像とも称される。なお、合成部150とメモリ160との間にループフィルタが設けられてもよい。
メモリ160は、合成部150から入力された復号画像を記憶する。メモリ160は、復号画像をフレーム単位で記憶する。
予測部170は、ブロック単位で予測を行う。予測部170は、イントラ予測部171と、イントラブロックコピー部172と、インター予測部173と、切替部174とを備える。
イントラ予測部171は、ブロック(輝度ブロック、色差ブロック)単位でイントラ予測を行う。イントラ予測部171は、メモリ160に記憶された復号画像のうち、符号化対象のブロックに隣接する隣接復号画素(参照画素)を参照して予測画像を生成し、生成した予測画像を切替部174に出力する。
イントラ予測部171は、符号化対象の輝度ブロックについて、予め定められた複数のイントラ予測モードの中から、符号化対象のブロックに適用する最適なイントラ予測モードを選択し、選択したイントラ予測モードを用いてイントラ予測を行う。かかるイントラ予測モードには、Planar予測、DC予測、及び方向性予測等がある。イントラ予測部171は、イントラ予測が適用された各輝度ブロックについて、イントラ予測に用いたイントラ予測モードを色差イントラ予測候補生成部180に出力する。
図2は、輝度ブロックに適用可能な複数のイントラ予測モードの一例を示す図である。図2に示すように、0から66までの67通りのイントラ予測モードが規定されている。イントラ予測モードのモード番号「0」はPlanar予測であり、イントラ予測モード「1」はDC予測であり、イントラ予測モード「2」〜「66」は方向性予測である。方向性予測において、矢印の方向は予測方向を示し、矢印の起点は符号化対象の画素の位置を示し、矢印の終点はこの予測対象画素の予測に用いる参照画素の位置を示す。
一方、イントラ予測部171は、色差ブロックについては、色差イントラ予測モード選択部190がDerived Mode(DM)を用いて決定したイントラ予測モードを用いてイントラ予測を行う。上述したように、DMは、色差ブロックのイントラ予測に、当該色差ブロックに対応する位置の輝度ブロックに適用されたイントラ予測モードを適用するモードである。DMにおいては、色差ブロックに適用可能なイントラ予測モードがDMリスト(候補リスト)中のイントラ予測モードに限定される。DMリスト中のイントラ予測モードの数は例えば5である。
イントラブロックコピー部172は、符号化対象の輝度ブロックに対してイントラブロックコピーを行って予測画像を切替部174に出力する。イントラブロックコピーは、符号化対象の輝度ブロックと同一スライス(フレーム)内の復号済み輝度ブロックを当該輝度ブロックの予測画像として生成するものである。例えば、イントラブロックコピー部172は、同一スライス(フレーム)内の復号画像を参照画像として用いてブロックマッチングなどの手法により参照先ブロックを検出し、当該参照先ブロックに対する動きベクトルを算出し、符号化対象の輝度ブロックを予測して予測画像を生成する。なお、イントラブロックコピーは、同一フレーム内を参照する点でイントラ予測に類似し、動き補償を行う点でインター予測に類似する。
インター予測部173は、符号化対象の輝度ブロックに対してインター予測を行って予測画像を切替部174に出力する。具体的には、インター予測部173は、メモリ160に記憶された別スライス(フレーム)の復号画像を参照画像として用いて、ブロックマッチングなどの手法により動きベクトルを算出し、符号化対象のブロックを予測して予測画像を生成し、生成した予測画像を切替部174に出力する。インター予測部173は、複数の参照画像を用いるインター予測(典型的には、双予測)や、1つの参照画像を用いるインター予測(片方向予測)の中から最適なインター予測方法を選択し、選択したインター予測方法を用いてインター予測を行う。
切替部174は、イントラ予測部171から入力される予測画像とイントラブロックコピー部172から入力される予測画像とインター予測部173から入力される予測画像とを切り替えて、いずれかの予測画像を減算部110及び合成部150に出力する。
色差イントラ予測候補生成部180は、符号化対象の色差ブロックのイントラ予測に適用するイントラ予測モードの候補リスト(DMリスト)を生成し、生成したDMリストを色差イントラ予測モード選択部190に出力する。色差イントラ予測候補生成部180は、符号化対象の色差ブロックと同一スライス(フレーム)中において当該色差ブロックに対応する位置の1以上の輝度ブロックに適用されたイントラ予測モードに基づいてDMリストを生成する。
上述したように、輝度信号と色差信号とを独立に分割設定可能であるため、色差ブロックに対応する位置の輝度ブロックは複数存在する可能性がある。色差ブロックに空間的相関の高い位置の輝度信号の信号特徴を効率的に利用するために、色差イントラ予測候補生成部180は、当該色差ブロック内の中央座標、左上座標、右上座標、左下座標、右下座標のそれぞれの位置に対応する輝度信号の座標を含む輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。この際、DMリスト内でイントラ予測モードが重複しないよう追加する。
図3は、符号化対象の色差ブロックに対応する位置における複数の輝度ブロックの一例を示す図である。図3(a)は輝度フレームをQTBTにより分割した輝度ブロック構造(Luma QTBT structure)を示し、図3(b)は色差フレームをQTBTにより分割した色差ブロック構造(Chroma QTBT structure)を示す。
図3(b)に示すように、色差フレームは2分木分割により垂直に分割され、縦長の2つの色差ブロックが形成されている。縦長の2つの色差ブロックのうち左側の色差ブロックが符号化対象の色差ブロックであるものとする。
図3(a)に示すように、輝度フレームにおいて、符号化対象の色差ブロックに対応する位置には複数の輝度ブロックが存在する。これらの輝度ブロックのうち、中央座標(CR:center)を含む輝度ブロックが輝度ブロック#1であり、左上座標(TL:top−left)を含む輝度ブロックが輝度ブロック#2であり、右上座標(TR:top−right)を含む輝度ブロックが輝度ブロック#3であり、左下座標(BL:bottom−left)を含む輝度ブロックが輝度ブロック#4であり、右下座標(BR:bottom−right)を含む輝度ブロックが輝度ブロック#5である。
色差イントラ予測候補生成部180は、図3(b)に示す符号化対象の色差ブロックに対応するDMリストに、図3(a)に示す輝度ブロック#1乃至#5に適用されたイントラ予測モードを追加する。この際、DMリスト内でイントラ予測モードが重複しないよう追加する。このようにして、色差イントラ予測候補生成部180は、符号化対象の色差ブロックごとにDMリストを生成し、生成したDMリストを色差イントラ予測モード選択部190に出力する。
色差イントラ予測候補生成部180は、第1追加部181と、第2追加部182と、第3追加部183とを備える。
第1追加部181は、符号化対象の色差ブロックに対応する位置の輝度ブロックに、イントラ予測が適用された第1輝度ブロックが含まれることに応じて、当該第1輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。
具体的には、第1追加部181は、まず中央座標に対応する輝度ブロック#1が復号済みであり、且つイントラ予測モードが適用されている場合には、輝度ブロック#1に適用されたイントラ予測モードをDMリストに追加する。次に、第1追加部181は、左上座標に対応する輝度ブロック#2が復号済みであり、且つイントラ予測モードが適用されている場合には、輝度ブロック#2に適用されたイントラ予測モードがDMリストに存在しなければ輝度ブロック#2に適用されたイントラ予測モードをDMリストに追加する。同様に、第1追加部181は、右上座標、左下座標、右下座標に対応する輝度ブロック#3乃至#5についてもDMリストの重複を確認しならが、イントラ予測モードをDMリストに追加する。
第2追加部182は、符号化対象の色差ブロックに対応する位置の輝度ブロックに、イントラブロックコピーが適用された第2輝度ブロックが含まれることに応じて、当該第2輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。言い換えると、符号化対象の色差ブロックに対応する位置の輝度ブロックに対して適用したモードがイントラブロックコピーモードであった場合には、第2追加部182は、当該輝度ブロックの予測画像生成のために参照した同一スライス(フレーム)内の参照先ブロックが含まれる輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。
具体的には、第2追加部182は、符号化対象の色差ブロックの中央座標に対応する位置の輝度ブロック#1がイントラブロックコピーモードであった場合には、輝度ブロック#1の予測画像生成のために参照した同一スライス(フレーム)内の参照先ブロックの中央座標を含む輝度ブロックに適用されたイントラ予測モードをDMリストに重複のないように追加する。また、第2追加部182は、符号化対象の色差ブロックの左上座標に対応する位置の輝度ブロック#2がイントラブロックコピーモードであった場合には、輝度ブロック#2の予測画像生成のために参照した同一スライス(フレーム)内の参照先ブロックの左上座標を含む輝度ブロックに適用されたイントラ予測モードをDMリストに重複のないように追加する。さらに、第2追加部182は、右上座標、左下座標、右下座標についても同様に処理してDMリストを生成する。
図4は、第2追加部182の動作の一例を示す図である。図4に示すように、符号化対象の色差ブロックに対応する位置の輝度ブロック#1乃至#5のうち、右上座標に対応する輝度ブロック#3と、左下座標に対応する輝度ブロック#4とに対してイントラブロックコピーが適用されている。
右上座標に対応する輝度ブロック#3から延びる矢印は、輝度ブロック#3がイントラブロックコピーの際に参照した参照先ブロックに対する動きベクトルを表している。イントラブロックコピーにおける参照先ブロックは、ブロック分割部100により得られた輝度ブロックと一致せず、ブロック分割部100により得られた複数の輝度ブロックと重複しうる。よって、第2追加部182は、当該参照先ブロックの右上座標を含む輝度ブロックを選択し、選択した輝度ブロックに適用されたイントラ予測モードをDMリストに重複のないように追加する。同様に、第2追加部182は、左下座標に対応する輝度ブロック#4について、輝度ブロック#4の参照先ブロックの左下座標を含む輝度ブロックを選択し、選択した輝度ブロックに適用されたイントラ予測モードをDMリストに重複のないように追加する。
但し、参照先ブロックにインター予測が適用されずに、参照先ブロックにイントラブロックコピーが適用されていることもありうる。よって、第2追加部182は、参照先ブロックに対応する輝度ブロックにイントラブロックコピーが適用されていることに応じて、当該輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードをDMリストに追加してもよい。言い換えると、第2追加部182は、参照先ブロックに対応する輝度ブロックがイントラブロックコピーモードである場合には、再帰的にさらにその参照先の輝度ブロックに適用したイントラ予測モードをDMリストに追加する。ここで、再帰的に参照する上限回数を定めてもよい。例えば2回まで参照可能とし、その参照先もイントラブロックコピーだった場合には、DMリストには追加せずに次の処理に進むこととする。
第3追加部183は、符号化対象の色差ブロックに対応する位置の輝度ブロックに、インター予測が適用された第3輝度ブロックが含まれることに応じて、当該第3輝度ブロックがインター予測の際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。具体的には、第3追加部183は、符号化対象の色差ブロックに対応する位置の輝度ブロック#1乃至#5において、インター予測が適用された輝度ブロックが存在し、且つインター予測の参照先ブロックに対応する輝度ブロックにイントラ予測モードが適用されている場合に、そのイントラ予測モードを重複のないようにDMリストに追加する。
このようにして色差イントラ予測候補生成部180はDMリストを生成する。色差イントラ予測候補生成部180は、生成したDMリスト中のイントラ予測モードの数が規定の数(例えば、5つ)に満たない場合には、符号化対象の色差ブロックの周囲の色差ブロックに適用されたイントラ予測モードや初期値のモードによりDMリストの追加を行ってもよい。
色差イントラ予測モード選択部190は、色差イントラ予測候補生成部180から入力されたDMリストの中から、符号化対象の色差ブロックに適用するイントラ予測モードを選択し、選択したイントラ予測モードをイントラ予測部171及びエントロピー符号化部130に出力する。例えば、色差イントラ予測モード選択部190は、色差イントラ予測候補生成部180から入力されたDMリスト中のイントラ予測モードのそれぞれについてRD(Rate Distortion)コストを算出し、算出したRDコストに基づいて最適なイントラ予測モードを選択してもよい。なお、色差イントラ予測モード選択部190は、選択したイントラ予測モードのモード番号(例えば、0から66までのいずれかの番号)をエントロピー符号化部130に出力するのではなく、選択したイントラ予測モードのDMリスト中の位置を示すインデックス(例えば、0から4までのいずれかの番号)をエントロピー符号化部130に出力すればよい。
<2.画像復号装置の構成>
図5は、本実施形態に係る画像復号装置2の構成を示す図である。以下においては、画像符号化装置1との相違点について主として説明し、重複する説明を省略する。
図5に示すように、画像復号装置2は、エントロピー符号復号部200と、逆量子化・逆変換部210と、合成部220と、メモリ230と、予測部240と、色差イントラ予測候補生成部250と、色差イントラ予測モード選択部260とを備える。
エントロピー符号復号部200は、画像符号化装置1により生成された符号化データ(ビットストリーム)を復号し、量子化された変換係数を逆量子化・逆変換部210に出力する。また、エントロピー符号復号部200は、予測に関する制御情報を取得し、取得した制御情報を予測部240に出力する。さらに、エントロピー符号復号部200は、画像符号化装置1の色差イントラ予測モード選択部190により選択されたイントラ予測モードのインデックスを取得し、取得したインデックスを色差イントラ予測モード選択部260に出力する。
逆量子化・逆変換部210は、ブロック(輝度ブロック、色差ブロック)単位で逆量子化処理及び逆直交変換処理を行う。逆量子化・逆変換部210は、逆量子化部211と、逆変換部212とを備える。
逆量子化部211は、画像符号化装置1の量子化部122が行う量子化処理に対応する逆量子化処理を行う。逆量子化部211は、エントロピー符号復号部200から入力された量子化変換係数を、量子化パラメータ(Qp)及び量子化行列を用いて逆量子化することにより変換係数を復元し、復元した変換係数を逆変換部212に出力する。
逆変換部212は、画像符号化装置1の変換部121が行う直交変換処理に対応する逆直交変換処理を行う。逆変換部212は、逆量子化部211から入力された変換係数に対して逆直交変換処理を行って予測残差を復元し、復元した予測残差を合成部220に出力する。
合成部220は、逆変換部212から入力された予測残差と、予測部240から入力された予測画像(予測ブロック)とを画素単位で合成することにより、元のブロックを再構成(復号)し、ブロック単位の復号画像をメモリ230に出力する。なお、合成部220とメモリ230との間にループフィルタが設けられてもよい。
メモリ230は、合成部220から入力された復号画像を記憶する。メモリ230は、復号画像をフレーム単位で記憶する。メモリ230は、フレーム単位の復号画像を画像復号装置2の外部に出力する。
予測部240は、ブロック単位で予測を行う。復号対象の各輝度ブロック及び復号対象の各色差ブロックについて適用された予測方法(イントラ予測、イントラブロックコピー、インター予測)を表す制御情報をエントロピー符号復号部200から取得し、各輝度ブロック及び各色差ブロックに対する予測処理を行う。予測部240は、イントラ予測部241と、イントラブロックコピー部242と、インター予測部243と、切替部244とを備える。
イントラ予測部241は、ブロック(輝度ブロック、色差ブロック)単位でイントラ予測を行う。イントラ予測部241は、復号対象の輝度ブロックについて、予め定められた複数のイントラ予測モードの中から、画像符号化装置1から伝送された制御情報により示されるイントラ予測モードを選択し、選択したイントラ予測モードを用いてイントラ予測を行う。イントラ予測部241は、イントラ予測が適用された各輝度ブロックについて、イントラ予測に用いたイントラ予測モードを色差イントラ予測候補生成部250に出力する。
イントラブロックコピー部242は、復号対象の輝度ブロックに対してイントラブロックコピーを行って予測画像を切替部244に出力する。具体的には、イントラブロックコピー部242は、画像符号化装置1から伝送された制御情報により示される動きベクトルを用いて同一スライス(フレーム)内の参照先ブロックを検出し、検出した参照先ブロックを予測画像として出力する。
インター予測部243は、復号対象の輝度ブロックに対してインター予測を行って予測画像を切替部244に出力する。具体的には、インター予測部243は、メモリ160に記憶された別スライス(フレーム)の復号画像を参照画像として用いて、画像符号化装置1から伝送された制御情報により示される動きベクトルを用いて別スライス(フレーム)内の参照先ブロックを検出し、検出した参照先ブロックを予測画像として出力する。
切替部244は、イントラ予測部241から入力される予測画像とイントラブロックコピー部242から入力される予測画像とインター予測部243から入力される予測画像とを切り替えて、いずれかの予測画像を合成部220に出力する。
色差イントラ予測候補生成部250は、画像符号化装置1の色差イントラ予測候補生成部180と同じ方法によって、復号対象の色差ブロックのイントラ予測に適用するイントラ予測モードの候補リスト(DMリスト)を生成し、生成したDMリストを色差イントラ予測モード選択部190に出力する。
色差イントラ予測候補生成部250は、第1追加部251と、第2追加部252と、第3追加部253とを備える。第1追加部251、第2追加部252、及び第3追加部253は、画像符号化装置1の第1追加部181、第2追加部182、及び第3追加部183と同じ方法によってイントラ予測モードを重複のないようにDMリストに追加する。
色差イントラ予測モード選択部260は、色差イントラ予測候補生成部250から入力されたDMリストの中から、画像符号化装置1から伝送されたインデックスにより示される色差イントラ予測モードを選択し、選択したイントラ予測モードをイントラ予測部241に出力する。
<3.動作例>
以下において、本実施形態に係る色差イントラ予測候補生成部180及び250の動作例について説明する。なお、色差イントラ予測候補生成部180及び250は同様に動作するため、これらを代表して色差イントラ予測候補生成部180の動作例について説明する。
<3.1.動作例1>
図6は、本実施形態に係る色差イントラ予測候補生成部180の動作例1を示す図である。色差イントラ予測候補生成部180は、符号化対象の色差ブロックに対応する位置の輝度ブロック#1乃至#5のそれぞれに対して図6に示す動作を行う。以下において、輝度ブロック#1乃至#5のうち処理対象となる輝度ブロックを対象輝度ブロックと称する。
図6に示すように、ステップS101において、色差イントラ予測候補生成部180は、対象輝度ブロックが復号済み(符号化済み)であるか否かを判定する。対象輝度ブロックが復号済みでない場合(ステップS101:NO)、次の対象輝度ブロックに処理を移す。
対象輝度ブロックが復号済みである場合(ステップS101:YES)、ステップS102において、第1追加部181は、対象輝度ブロックにイントラ予測が適用されているか否かを判定する。対象輝度ブロックにイントラ予測が適用されている場合(ステップS102:YES)、ステップS103において、第1追加部181は、対象輝度ブロックに適用されたイントラ予測モードが既にDMリスト中に存在するか否かを判定する。対象輝度ブロックに適用されたイントラ予測モードがDMリスト中に存在しない場合(ステップS103:NO)、ステップS104において、第1追加部181は、対象輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。これに対し、対象輝度ブロックに適用されたイントラ予測モードがDMリスト中に既に存在する場合(ステップS103:YES)、第1追加部181は、対象輝度ブロックに適用されたイントラ予測モードをDMリストに追加せずに、次の対象輝度ブロックに処理を移す。
対象輝度ブロックにイントラ予測が適用されていない場合(ステップS102:NO)、ステップS105において、第2追加部182は、対象輝度ブロックにイントラブロックコピーが適用されているか否かを判定する。対象輝度ブロックにイントラブロックコピーが適用されていない場合(ステップS105:NO)、次の対象輝度ブロックに処理を移す。一方、対象輝度ブロックにイントラブロックコピーが適用されている場合(ステップS105:YES)、ステップS106において、第2追加部182は、イントラブロックコピーの参照先ブロックに対応する輝度ブロックにイントラ予測が適用されているか否かを判定する。イントラブロックコピーの参照先ブロックに対応する輝度ブロックにイントラ予測が適用されている場合(ステップS106:YES)、ステップS103において、第2追加部182は、イントラブロックコピーの参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードが既にDMリスト中に存在するか否かを判定する。イントラブロックコピーの参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードがDMリスト中に存在しない場合(ステップS103:NO)、ステップS104において、第2追加部182は、イントラブロックコピーの参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。
イントラブロックコピーの参照先ブロックに対応する輝度ブロックにイントラ予測が適用されていない場合(ステップS106:NO)、ステップS107において、第2追加部182は、当該参照先ブロックに対応する輝度ブロックにイントラブロックコピーが適用されているか否かを判定する。当該参照先ブロックに対応する輝度ブロックにイントラブロックコピーが適用されていない場合(ステップS107:NO)、次の対象輝度ブロックに処理を移す。一方、当該参照先ブロックに対応する輝度ブロックにイントラブロックコピーが適用されている場合(ステップS107:YES)、ステップS108において、第2追加部182は、当該参照先ブロックに対応する輝度ブロックのイントラブロックコピーの参照先ブロック(以下、「再参照先ブロック」という)に対応する輝度ブロックにイントラ予測が適用されているか否かを判定する。再参照先ブロックに対応する輝度ブロックにイントラ予測が適用されている場合(ステップS108:YES)、ステップS103において、第2追加部182は、再参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードが既にDMリスト中に存在するか否かを判定する。再参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードがDMリスト中に存在しない場合(ステップS103:NO)、ステップS104において、第2追加部182は、再参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードをDMリストに追加する。
<3.2.動作例2>
図7は、本実施形態に係る色差イントラ予測候補生成部180の動作例2を示す図である。色差イントラ予測候補生成部180は、符号化対象の色差ブロックに対応する位置の輝度ブロック#1乃至#5のそれぞれに対して図7に示す動作を行う。以下においては、動作例1との相違点について主として説明し、重複する説明を省略する。
図7に示すように、ステップS201において、色差イントラ予測候補生成部180は、対象輝度ブロックが復号済み(符号化済み)であるか否かを判定する。対象輝度ブロックが復号済みでない場合(ステップS201:NO)、次の対象輝度ブロックに処理を移す。
対象輝度ブロックが復号済みである場合(ステップS201:YES)、ステップS202において、第1追加部181は、対象輝度ブロックにイントラ予測が適用されているか否かを判定する。ステップS202乃至S204の動作は、動作例1のステップS102乃至S104の動作と同じである。
対象輝度ブロックにイントラ予測が適用されていない場合(ステップS202:NO)、ステップS205において、第2追加部182は、対象輝度ブロックにイントラブロックコピーが適用されているか否かを判定する。対象輝度ブロックにイントラブロックコピーが適用されていない場合(ステップS205:NO)、ステップS207に処理を移す。一方、対象輝度ブロックにイントラブロックコピーが適用されている場合(ステップS205:YES)、ステップS206において、第2追加部182は、イントラブロックコピーの参照先ブロックに対応する輝度ブロックにイントラ予測が適用されているか否かを判定する。イントラブロックコピーの参照先ブロックに対応する輝度ブロックにイントラ予測が適用されている場合(ステップS206:YES)、処理をステップS203に移す。
対象輝度ブロックにイントラブロックコピーが適用されていない場合(ステップS205:NO)、ステップS207において、第3追加部183は、対象輝度ブロックにインター予測が適用されているか否かを判定する。対象輝度ブロックにインター予測が適用されている場合(ステップS207:YES)、ステップS208において、第3追加部183は、インター予測の参照先ブロックに対応する輝度ブロックにイントラ予測が適用されているか否かを判定する。インター予測の参照先ブロックに対応する輝度ブロックにイントラ予測が適用されている場合(ステップS208:YES)、処理をステップS203に移す。一方、対象輝度ブロックにインター予測が適用されていない場合(ステップS207:NO)、又はインター予測の参照先ブロックに対応する輝度ブロックにイントラ予測が適用されていない場合(ステップS208:NO)、次の対象輝度ブロックに処理を移す。
<4.実施形態のまとめ>
本実施形態に係る色差イントラ予測候補生成部180及び250によれば、符号化又は復号の対象とする色差ブロック(以下、「対象色差ブロック」という)に対応する位置の輝度ブロックに対してイントラブロックコピーやインター予測が適用されている場合であっても、イントラブロックコピーやインター予測が適用された輝度ブロックに基づくDMリストの追加が可能である。
よって、対象色差ブロックの周囲の色差ブロックに適用されたイントラ予測モードや初期値のモードによりDMリストの追加を行う必要性を低減し、対象色差ブロックとの信号相関の高い輝度ブロックの空間的特徴を効率的に利用したイントラ予測モードの選択を可能とすることができる。
したがって、本実施形態に係る色差イントラ予測候補生成部180及び250によれば、色差ブロックのイントラ予測に適用するイントラ予測モードの候補リスト(DMリスト)を効率的に生成することにより、符号化効率を改善可能とすることができる。
<5.その他の実施形態>
上述した実施形態において、色差イントラ予測候補生成部180及び250が、予め定められた順序として、中央、左上、右上、左下、右下の順にDMリストの追加を行う一例を説明したが、画像符号化装置1及び画像復号装置2で予め定めた順序であればよく、上記の例に限らない。また、対象色差ブロックが参照する同位置の輝度ブロックの数(5つ)や座標位置(中央、左上、右上、左下、右下)についても、予め規定した数や位置であればよく、上記の例に限らない。
なお、画像符号化装置1が行う各処理をコンピュータに実行させるプログラム及び画像復号装置2が行う各処理をコンピュータに実行させるプログラムが提供されてもよい。プログラムは、コンピュータ読取り可能媒体に記録されていてもよい。コンピュータ読取り可能媒体を用いれば、コンピュータにプログラムをインストールすることが可能である。ここで、プログラムが記録されたコンピュータ読取り可能媒体は、非一過性の記録媒体であってもよい。非一過性の記録媒体は、特に限定されるものではないが、例えば、CD−ROMやDVD−ROM等の記録媒体であってもよい。また、画像符号化装置1が行う各処理を実行する回路を集積化し、画像符号化装置1を半導体集積回路(チップセット、SoC)として構成してもよい。同様に、画像復号装置2が行う各処理を実行する回路を集積化し、画像復号装置2を半導体集積回路として構成してもよい。
以上、図面を参照して実施形態について詳しく説明したが、具体的な構成は上述のものに限られることはなく、要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
1 :画像符号化装置
2 :画像復号装置
100 :ブロック分割部
110 :減算部
120 :量子化部
121 :変換部
122 :量子化部
130 :エントロピー符号化部
140 :逆変換部
141 :逆量子化部
142 :逆変換部
150 :合成部
160 :メモリ
170 :予測部
171 :イントラ予測部
172 :イントラブロックコピー部
173 :インター予測部
174 :切替部
180 :色差イントラ予測候補生成部
181 :第1追加部
182 :第2追加部
183 :第3追加部
190 :色差イントラ予測モード選択部
200 :エントロピー符号復号部
210 :逆変換部
211 :逆量子化部
212 :逆変換部
220 :合成部
230 :メモリ
240 :予測部
241 :イントラ予測部
242 :イントラブロックコピー部
243 :インター予測部
244 :切替部
250 :色差イントラ予測候補生成部
251 :第1追加部
252 :第2追加部
253 :第3追加部
260 :色差イントラ予測モード選択部

Claims (6)

  1. 対象画像中の色差ブロックのイントラ予測に適用するイントラ予測モードの候補リストを、前記対象画像中において前記色差ブロックに対応する位置の1以上の輝度ブロックに適用されたイントラ予測モードに基づいて生成する色差イントラ予測候補生成装置であって、
    イントラ予測が適用された第1輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、前記第1輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する第1追加部と、
    イントラブロックコピーが適用された第2輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、前記第2輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する第2追加部と、
    を備えることを特徴とする色差イントラ予測候補生成装置。
  2. 前記第2追加部は、前記1以上の輝度ブロックに前記第2輝度ブロックが含まれ、且つ、前記参照先ブロックに対応する輝度ブロックにイントラブロックコピーが適用されていることに応じて、当該輝度ブロックがイントラブロックコピーの際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加することを特徴とする請求項1に記載の色差イントラ予測候補生成装置。
  3. インター予測が適用された第3輝度ブロックが前記1以上の輝度ブロックに含まれることに応じて、前記第3輝度ブロックがインター予測の際に参照した参照先ブロックに対応する輝度ブロックに適用されたイントラ予測モードを前記候補リストに追加する第3追加部をさらに備えることを特徴とする請求項1又は2に記載の色差イントラ予測候補生成装置。
  4. 請求項1乃至3のいずれか1項に記載の色差イントラ予測候補生成装置を備えることを特徴とする画像符号化装置。
  5. 請求項1乃至3のいずれか1項に記載の色差イントラ予測候補生成装置を備えることを特徴とする画像復号装置。
  6. コンピュータを請求項1乃至3のいずれか1項に記載の色差イントラ予測候補生成装置として機能させることを特徴とするプログラム。
JP2018152990A 2018-08-15 2018-08-15 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム Active JP7219030B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2018152990A JP7219030B2 (ja) 2018-08-15 2018-08-15 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018152990A JP7219030B2 (ja) 2018-08-15 2018-08-15 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム

Publications (2)

Publication Number Publication Date
JP2020028066A true JP2020028066A (ja) 2020-02-20
JP7219030B2 JP7219030B2 (ja) 2023-02-07

Family

ID=69620416

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018152990A Active JP7219030B2 (ja) 2018-08-15 2018-08-15 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム

Country Status (1)

Country Link
JP (1) JP7219030B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023200241A1 (ko) * 2022-04-12 2023-10-19 한국전자통신연구원 화면내 블록 복사를 이용한 비디오 부호화/복호화를 위한 방법 및 장치

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150373366A1 (en) * 2014-06-19 2015-12-24 Vid Scale Inc. Methods and systems for intra block copy coding with block vector derivation
WO2018116802A1 (ja) * 2016-12-22 2018-06-28 シャープ株式会社 画像復号装置、画像符号化装置、及び画像予測装置

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150373366A1 (en) * 2014-06-19 2015-12-24 Vid Scale Inc. Methods and systems for intra block copy coding with block vector derivation
JP2017522803A (ja) * 2014-06-19 2017-08-10 ヴィド スケール インコーポレイテッド ブロックベクトル導出を用いるイントラブロックコピー符号化のための方法およびシステム
WO2018116802A1 (ja) * 2016-12-22 2018-06-28 シャープ株式会社 画像復号装置、画像符号化装置、及び画像予測装置
JP2020031252A (ja) * 2016-12-22 2020-02-27 シャープ株式会社 画像復号装置及び画像符号化装置

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
KAI ZHANG, LI ZHANG, WEI-JUNG CHIEN, MARTA KARCZEWICZ: "Intra-prediction Mode Propagation for Inter-pictures [online]", JVET-J JVET-J0053, JPN6022028479, 17 October 2019 (2019-10-17), pages 1 - 4, ISSN: 0004822844 *
KAI ZHANG, LI ZHANG, WEI-JUNG CHIEN, MARTA KARCZEWICZ: "Intra-Prediction Mode Propagation for Video Coding", IEEE JOURNAL ON EMERGING AND SELECTED TOPICS IN CIRCUITS AND SYSTEMS, vol. Volum:9, Issue:1, March 2019, JPN6022028475, 31 January 2019 (2019-01-31), pages 110 - 121, ISSN: 0004822845 *
YUWEN HE, YAN YE, XIAOYU XIU: "Non-SCCE1: Improved intra block copy coding with block vector derivation[online]", JCTVC-R JCTVC-R0165, JPN6022028474, 27 July 2015 (2015-07-27), pages 1 - 8, ISSN: 0004822846 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023200241A1 (ko) * 2022-04-12 2023-10-19 한국전자통신연구원 화면내 블록 복사를 이용한 비디오 부호화/복호화를 위한 방법 및 장치

Also Published As

Publication number Publication date
JP7219030B2 (ja) 2023-02-07

Similar Documents

Publication Publication Date Title
JP2005253088A (ja) グレイアルファチャンネルを含んだ映像の符号化/復号化装置および方法
US11695955B2 (en) Image encoding device, image decoding device and program
WO2015008417A1 (ja) 映像符号化装置、映像復号装置、映像符号化方法、映像復号方法及びプログラム
JP7357736B2 (ja) 符号化装置、復号装置、及びプログラム
JP2023168518A (ja) 予測ブロック生成装置、画像符号化装置、画像復号装置、及びプログラム
WO2019189904A1 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP2019022129A (ja) 動画像符号化装置、動画像符号化方法、動画像復号装置、動画像復号方法、及び動画像符号化用コンピュータプログラムならびに動画像復号用コンピュータプログラム
JP2024053019A (ja) 符号化装置、復号装置、及びプログラム
JP7415067B2 (ja) イントラ予測装置、画像復号装置、及びプログラム
JP2023138826A (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP2020137119A (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP7219030B2 (ja) 色差イントラ予測候補生成装置、画像符号化装置、画像復号装置、及びプログラム
KR102505364B1 (ko) 복호 장치, 프로그램, 및 복호 방법
JP2021129148A (ja) 予測装置、符号化装置、復号装置、及びプログラム
JP2021093575A (ja) 符号化装置、復号装置、及びプログラム
JP7444599B2 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP7361498B2 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP2020053725A (ja) 予測画像補正装置、画像符号化装置、画像復号装置、及びプログラム
JP7396883B2 (ja) 符号化装置、復号装置、及びプログラム
WO2021100450A1 (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム
JP2023086397A (ja) イントラ予測装置、復号装置、及びプログラム
JP2020156087A (ja) イントラ予測装置、画像符号化装置、画像復号装置、及びプログラム

Legal Events

Date Code Title Description
RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200529

RD05 Notification of revocation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7425

Effective date: 20200612

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210715

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220617

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220712

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220912

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221227

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230126

R150 Certificate of patent or registration of utility model

Ref document number: 7219030

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150