JP2018125718A - モード予測情報生成装置およびプログラム - Google Patents
モード予測情報生成装置およびプログラム Download PDFInfo
- Publication number
- JP2018125718A JP2018125718A JP2017016776A JP2017016776A JP2018125718A JP 2018125718 A JP2018125718 A JP 2018125718A JP 2017016776 A JP2017016776 A JP 2017016776A JP 2017016776 A JP2017016776 A JP 2017016776A JP 2018125718 A JP2018125718 A JP 2018125718A
- Authority
- JP
- Japan
- Prior art keywords
- mode
- information
- unit
- intra prediction
- prediction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
Description
次に、図面を参照しながら、本発明の実施形態について説明する。
本実施形態によるイントラモード予測装置は、映像符号化装置または映像復号装置内の一機能として組み込まれ、イントラ予測(画面内予測)における予測モード情報を予測する。映像符号化装置は、静止画や動画を符号化する。映像復号装置は、静止画や動画を復号する。以下において、静止画および動画を「画像」と総称する場合がある。
図4は、映像復号装置3の概略機能構成を示すブロック図である。
映像符号化装置1と映像復号装置3とは相互に対応するものである。映像符号化装置1から映像復号装置3へ、伝送路(伝送装置を含む)や、蓄積装置や、あるいはその両者の復号媒体(以下、これらを総称して伝送・蓄積装置と呼ぶ)を介して、符号化したビット列を受け渡す。
図1に示すように、映像符号化装置1は、ブロック分割部10と、メモリ11と、イントラ予測部12と、減算部13と、変換部14と、量子化部15と、エントロピー符号化部16と、逆量子化部17と、逆変換部18と、加算部19と、最適化部20と、本発明に係るイントラモード予測装置21と、シンタックス要素値生成部22と、を含んで構成される。
部分領域は、例えば、所定の形状および大きさを有する。部分領域の形状および大きさのことを、以下において「ブロック形状」と呼ぶ場合がある。ブロック形状の一例は、矩形であり、且つ水平方向8画素および垂直方向8画素の合計64画素の領域に対応する。
あるいは、ブロック分割部10が、異なる複数のブロック形状の中から、例えば画像の特徴や符号化時のレート歪特性に応じて、ブロック形状を適応的に選択するようにしてもよい。
つまり、ブロック分割部10は、ブロック位置を変えながら、また必要に応じてブロックの大きさや形状を変えながら、入力画像から順次ブロックを切り出す。以後の符号化処理は、このブロックの単位で行われる。
例えば、イントラ予測部12は、メモリ11に保持されている画素値列のうち、対象ブロックに近接する画素値列(以下、「参照画素値列」と呼ぶ)に基づき、対象ブロックの画素値列を予測する。ここで参照画素値列は、例えば、対象ブロックの左辺に隣接する画素値列およびその直下の所定個数の画素値列、対象ブロックの上辺に隣接する画素値列およびその真横右方に並ぶ所定個数の画素値列、並びに対象ブロックの最も左上の画素の左斜め上に存在する画素の画素値である。
また、イントラ予測部12は、HEVCにおけるイントラ予測と同様に、参照画素値列に基づいて、イントラ予測モードに応じた予測を行う。例えば、イントラ予測部12は、イントラ予測モード0では平面予測を行い、イントラ予測モード1ではDC予測を行い、イントラ予測モード2から34のそれぞれにおいては各種方向を参照して外挿により予測値を得る方向予測を行う。
変換部14が実行する変換の種類は、例えば、離散コサイン変換(DCT: Discrete Cosine Transform)、離散サイン変換(DST: Discrete Sine Transform)、ウェーブレット変換、ウォルシュ・アダマール変換、およびこれらの変換に整数近似や離散近似を施した変換などである。
エントロピー符号化部16は、符号化方式として、例えば、可変長符号化(例えば、ハフマン符号化やその変形であるCAVLC(コンテキスト適応型可変長符号化方式))を用いることができる。あるいは、エントロピー符号化部16は、算術符号化やその変形であるCABAC(コンテキスト適応型二値算術符号化方式)を用いることができる。
なお、加算部19が出力する復号画素値列は、メモリ11内の現在処理中のブロックに対応する記憶領域に書き込まれる。
図1に示す構成では、最適化部20は、イントラ予測部12におけるモード選択の最適化のみを行う。よって、最適化部20からイントラ予測部12への信号線のみが記載されている。
図2(a)は、対象ブロックと隣接ブロック最適イントラ予測モードとの関係を示している。
図2(b)は、対象ブロックと、参照画素値列との関係の一例を示している。
図2(a)および図2(b)は、画像内の同一の領域を示している。その領域には、4つのブロックが含まれている。各ブロックは、水平方向4画素×垂直方向4画素のサイズを持つ、即ち16個の画素を有する矩形領域である。図2(a)および図2(b)のいずれにおいても、示されている4つのブロックのうち、「M」で示したブロックが対象ブロックである。
また、図2(a)において、「A」、「B」、「C」で示したそれぞれのブロックが、対象ブロックの隣接ブロックである。具体的には、対象ブロックMの左に隣接するブロックがAであり、対象ブロックMの上に隣接するブロックがBであり、対象ブロックMの斜め左上に隣接するブロックがCである。
また、図2(b)において、対象ブロックMに隣接する領域に含まれる48個の参照画素を、r0からr47までの記号で示している。r0からr47までの記号は、対象ブロックMからの距離と、画素配置とに基づき、所定の順序で割り振られている。対象ブロックMについての参照画素値列は、r0からr47までの画素値を並べたものである。
図3は、本実施形態によるイントラモード予測装置21の概略機能構成を示すブロック図である。図示するように、イントラモード予測装置21は、識別部211と、正解データ生成部212と、モード候補生成部213とを含んで構成される。
なお、識別部211への入力である隣接ブロック最適イントラ予測モード(A,B,C)と参照画素値の列である参照画素値列(r0,r1,・・・,r47)とを合わせて、隣接ブロック情報と呼ぶ。
なお、上記の評価値の正解データ(t0からt34まで)は、各イントラ予測モード(35種類)に対応するものである。また、正解データt0は、評価値y0に対応する。そして、正解データt1は、評価値y1に対応し、以下も同様である。
一例として、最適イントラ予測モードの番号i(0≦i≦34)ついて、下の式(1)で表されるsiを求め、このsiを識別部211への入力としてもよい。
また、識別部211に入力する参照画素値列の値として、参照領域の画素の値をそのまま用いる代わりに、近傍の画素値間で演算を行ってその結果を入力値として用いるようにしてもよい。一例として、ある1つの画素について、その画素を中心とした3画素×3画素の領域(合計9画素)の平均値あるいは加重平均値を計算し、その結果をその画素に関する入力値として用いてもよい(平滑化処理の例)。
また、識別部211の学習モードは、すべての対象ブロックに対して実行される必要はない。
識別部211は、前述の学習モードにおいてこの内部パラメーターを更新して最適化を図り、前述の識別モードにおいてその時点での内部パラメーターに基づいた識別処理を行う。
識別部211をニューラルネットワークで実現する場合、学習モードにおいては、例えば、ニューラルネットワークに対して誤差逆伝搬法(バックプロパゲーション)を適用することで、各シナプス結合の重みづけを更新する。
モード候補生成部213の出力する対象ブロックイントラ予測モード候補の一例は、評価値の高い順に整列したイントラ予測モードの数列(整列候補モード番号)である。この整列候補モード番号は、(m0,m1,・・・,m34)という数列の形式で表される。ただし、miは評価値が第i位(0≦i≦34)のイントラ予測モードの番号である。
あるいは、モード候補生成部213の出力する対象ブロックイントラ予測モード候補の他の例は、イントラ予測モードごとの順位情報の列(以下、候補モード順位と呼ぶ)である。この候補モード順位は、(d0,d1,・・・,d34)という数列の形式で表される。ただし、diは評価値が第i番目(0≦i≦34)のイントラ予測モードの評価値の順位を表す数値である。
上で説明したようにイントラモード予測装置21出力される整列候補モード番号または候補モード順位は、シンタックス要素値生成部22へ入力される。
モード候補生成部213が候補モード順位を出力する場合は、次の通りである。即ち、シンタックス要素値生成部22は、例えば、入力された候補モード順位(d0,d1,・・・,dQ−1)から、入力された最適イントラ予測モード番号Mの順位を特定し、その結果たる順位dMをシンタックス要素値Dとして出力する。この場合、シンタックス要素値Dは、下の式(3)で表される。
イントラモード予測装置21内の識別部211におけるイントラ予測モードの予測精度が高ければ、シンタックス要素値Dの値は、相対的に小さい側(即ち、最適イントラ予測モード番号Mの順位が高い側)に偏在する。このように、シンタックス要素値生成部22は、モード番号のエントロピーよりも小さいエントロピーを有するシンタックス要素値Dを生成し出力する。
したがって、モード番号Mをエントロピー符号化する場合よりも、シンタックス要素値Dをエントリピー符号化する方が、圧縮効率が向上する。即ち、シンタックス要素値生成部22の作用により、エントロピー符号化部16による符号化における圧縮効率が向上する。
図4は、映像復号装置3の概略機能構成を示すブロック図である。図示するように、映像復号装置3は、エントロピー復号部30と、逆量子化部31と、逆変換部32と、メモリ33と、イントラ予測部34と、加算部35と、イントラモード予測装置40と、シンタックス要素値解析部41とを含んで構成される。
イントラモード予測装置40は、対象ブロックの隣接ブロック最適イントラ予測モードおよび参照画素値列をメモリ33から読み出す。そして、イントラモード予測装置40は、隣接ブロック最適イントラ予測モードと参照画素値列に基づき、映像符号化装置1において最適化部20がイントラ予測部12に対して指示したと推定される最適イントラ予測モードを予測する。
また、イントラモード予測装置40は、後述するシンタックス要素値解析部41から出力される最適イントラ予測モード(即ち、映像符号化装置1において最適化部20が実際に選択した最適イントラ予測モード)と、そのときにメモリ33内に保持されていた隣接ブロック最適イントラ予測モードと参照画素値列とに基づいてイントラモード予測装置40の動作状態の調整を行う。即ちこの調整は、イントラモード予測装置40の内部パラメーター(重み付け)の値を更新し、イントラモード予測装置21との挙動の一致を図るものである。イントラモード予測装置40は、前記「最適化部20がイントラ予測部12に対して指示したと推定される最適イントラ予測モード」の予測値として、イントラモード予測装置21と同様に、整列候補モード番号(m0,m1,・・・,mQ−1)または候補モード順位(d0,d1,・・・,dQ−1)を出力する。
イントラモード予測装置40によって予測された最適イントラ予測モードの情報(整列候補モード番号または候補モード順位)は、シンタックス要素値解析部41に入力される。
また、正解データ生成部212は、前記対象ブロックの最適イントラ予測モードを入力とし、前記最適イントラ予測モードに基づいて前記正解データを生成して識別部211に供給する。
また、前記隣接ブロック情報は、前記隣接ブロックに含まれる画素値に基づく画素値列の情報を含む。画素値列の情報は、近傍の画素値同士の演算の結果である場合がある。
また、前記隣接ブロック情報は、前記隣接ブロックにおける最適イントラ予測モードの情報を含む。
また、識別部211が、ニューラルネットワークを用いて実装される。
特に、学習モードで動作する頻度を高くする場合には、時々刻々変化する映像に追随して適切なイントラ予測モード候補の提示が可能となり、符号化効率が改善される。
また、ニューラルネットワークによる実装は、画素値等に基づくイントラ予測モードの識別と、良い親和性を有する。
次に、本発明の第2実施形態について説明する。なお、前実施形態において既に説明した事項については以下において説明を省略する場合がある。ここでは、本実施形態に特有の事項を中心に説明する。
第1実施形態においては、図3に示したように、識別部211に入力される隣接ブロック情報は、隣接ブロック最適イントラ予測モード(A,B,C)と、参照画素値列(r0からr47まで)の両方を含む。
一方、本実施形態では、識別部211に入力される隣接ブロック情報は、参照画素値列のみを含み、隣接ブロック最適イントラ予測モードを含まない。つまり、本実施形態では、識別部211は、参照画素値列のみに基づいて、各イントラ予測モードの評価値を出力する。
次に、本発明の第3実施形態について説明する。なお、前実施形態までにおいて既に説明した事項については以下において説明を省略する場合がある。ここでは、本実施形態に特有の事項を中心に説明する。
第1実施形態においては、図3に示したように、識別部211に入力される隣接ブロック情報は、隣接ブロック最適イントラ予測モード(A,B,C)と、参照画素値列(r0からr47まで)の両方を含む。
一方、本実施形態では、識別部211に入力される隣接ブロック情報は、隣接ブロック最適イントラ予測モードのみを含み、参照画素値列を含まない。つまり、本実施形態では、識別部211は、隣接ブロック最適イントラ予測モードのみに基づいて、各イントラ予測モードの評価値を出力する。
[変形例1]
上記の各実施形態では、学習モードを備えた識別部を、ニューラルネットワークで実現していた。一方、変形例1では、ニューラルネットワーク以外の機械学習手段を用いて、識別部を実現する。変形例1における識別部が備えるべき機能は、識別モードにおいては、隣接ブロック情報と、内部状態を表す内部状態情報(内部パラメーター等)とに基づいて、イントラ予測モード毎の評価値を識別することである。また、学習モードにおいては、隣接ブロック情報と、イントラ予測モード毎の評価値の正解データとに基づいて、上記の内部状態情報を更新することによって、識別部の挙動を変更(調整)することである。例えば、ニューラルネットワークの代わりに用いることができる手段は、SVM(サポート・ベクター・マシン)等である。
第1実施形態においては、図2にも示したように、最適イントラ予測モードを予測するための隣接ブロックの領域の集合と、参照画素値列を取得する対象である画素集合の領域とが一致していた。変形例2においては、この両者が必ずしも一致しなくても良い。
なお、最適イントラ予測モードを予測するための隣接ブロックの領域とは、通常は、既に最適イントラ予測モードが決定済みのブロック(既に符号化した処理における対象ブロック)の集合である。変形例2においては、この隣接ブロックの領域とはことなる近隣の領域に含まれる画素を参照画素とする。そして、その参照画素の値を、参照画素値列として取得し、識別部に入力する。
上記の各実施形態においては、図3も示したように、ブロックのサイズは、水平方向4画素、垂直方向4画素の、合計16画素であった。変形例3においては、これ以外のブロックサイズを用いることができる。
また、上記の各実施形態においては、最適イントラ予測モードを予測するための隣接ブロックは、対象ブロックの左上と、上と、左の3個であった。変形例3においては、異なる任意の数あるいは任意の配置の隣接ブロックを用いることができる。
上記の各実施形態においては、シンタックス要素値生成部22は、イントラモード予測値が出力した各イントラモードの評価値の厳密な順位の値を、シンタックス要素値として出力していた。変形例4では、シンタックス要素値生成部22は、各イントラモードの評価値の大まかな順位の値を、シンタックス要素値として出力する。このようなシンタックス要素値生成部22もまた、識別部211から出力される評価値情報に基づいて、予測モード毎の生起可能性の順序を表す情報を含むシンタックス要素値を生成するものである。ここでの「順序を表す情報を含む」ということは、すべての予測モードについての全順序の情報に限らず、少なくとも一部の予測モードの対の間での順序の情報を含むことを意味する。このようなシンタックス要素値であっても、シンタックス要素値生成部22は、情報のエントロピーを小さくする作用を及ぼす。これにより、変形例4は、上記の各実施形態とほとんど同等の効果、あるいは上記の各実施形態に準じる効果を生じさせる。
2 伝送・蓄積装置
3 映像復号装置
10 ブロック分割部
11 メモリ
12 イントラ予測部
13 減算部
14 変換部
15 量子化部
16 エントロピー符号化部
17 逆量子化部
18 逆変換部
19 加算部
20 最適化部
21 イントラモード予測装置
22 シンタックス要素値生成部
30 エントロピー復号部
31 逆量子化部
32 逆変換部
33 メモリ
34 イントラ予測部
35 加算部
40 イントラモード予測装置
41 シンタックス要素値解析部
211 識別部
212 正解データ生成部
213 モード候補生成部
Claims (6)
- 符号化の対象である対象ブロックに隣接する領域である隣接ブロックに関する情報である隣接ブロック情報を入力とし、識別モードにおいては、前記隣接ブロック情報と、内部の状態を表す内部状態情報に基づいて、前記対象ブロックについての予測モード毎の評価値情報を出力するとともに、さらに、学習モードにおいては、前記予測モードの前記評価値情報に関する正解データを入力とし、前記正解データに基づいて前記内部状態情報を更新する識別部と、
前記対象ブロックの最適イントラ予測モードを入力とし、前記最適イントラ予測モードに基づいて前記正解データを生成して前記識別部に供給する正解データ生成部と、
を具備することを特徴とするモード予測情報生成装置。 - 前記識別部から出力される前記評価値情報に基づいて、前記予測モード毎の生起可能性の順序を表す情報を含むシンタックス要素値を生成するシンタックス要素値生成部、
をさらに具備することを特徴とする請求項1に記載のモード予測情報生成装置。 - 前記隣接ブロック情報は、前記隣接ブロックに含まれる画素値に基づく画素値列の情報を含む、
ことを特徴とする請求項1また2に記載のモード予測情報生成装置。 - 前記隣接ブロック情報は、前記隣接ブロックにおける最適イントラ予測モードの情報を含む、
ことを特徴とする請求項1から3までのいずれか一項に記載のモード予測情報生成装置。 - 前記識別部が、ニューラルネットワークを用いて実装される、
ことを特徴とする請求項1から4までのいずれか一項に記載のモード予測情報生成装置。 - コンピューターを、
請求項1から5までのいずれか一項に記載のモード予測情報生成装置として機能させるためのプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017016776A JP2018125718A (ja) | 2017-02-01 | 2017-02-01 | モード予測情報生成装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017016776A JP2018125718A (ja) | 2017-02-01 | 2017-02-01 | モード予測情報生成装置およびプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018125718A true JP2018125718A (ja) | 2018-08-09 |
Family
ID=63111657
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017016776A Pending JP2018125718A (ja) | 2017-02-01 | 2017-02-01 | モード予測情報生成装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018125718A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022003775A (ja) * | 2018-06-19 | 2022-01-11 | 株式会社ソニー・インタラクティブエンタテインメント | ニューラルネットワークを利用したコーデック |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007281634A (ja) * | 2006-04-04 | 2007-10-25 | Hitachi Ltd | 画像処理装置及び動画像符号化方法。 |
JP2009111691A (ja) * | 2007-10-30 | 2009-05-21 | Hitachi Ltd | 画像符号化装置及び符号化方法、画像復号化装置及び復号化方法 |
CN105306947A (zh) * | 2015-10-27 | 2016-02-03 | 中国科学院深圳先进技术研究院 | 基于机器学习的视频转码方法 |
WO2016199330A1 (ja) * | 2015-06-12 | 2016-12-15 | パナソニックIpマネジメント株式会社 | 画像符号化方法、画像復号方法、画像符号化装置および画像復号装置 |
-
2017
- 2017-02-01 JP JP2017016776A patent/JP2018125718A/ja active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007281634A (ja) * | 2006-04-04 | 2007-10-25 | Hitachi Ltd | 画像処理装置及び動画像符号化方法。 |
JP2009111691A (ja) * | 2007-10-30 | 2009-05-21 | Hitachi Ltd | 画像符号化装置及び符号化方法、画像復号化装置及び復号化方法 |
WO2016199330A1 (ja) * | 2015-06-12 | 2016-12-15 | パナソニックIpマネジメント株式会社 | 画像符号化方法、画像復号方法、画像符号化装置および画像復号装置 |
CN105306947A (zh) * | 2015-10-27 | 2016-02-03 | 中国科学院深圳先进技术研究院 | 基于机器学习的视频转码方法 |
Non-Patent Citations (1)
Title |
---|
MING YANG AND NIKOLAOS BOURBAKIS: "H.264/AVC intra-only coding (iAVC) and neural network based fast prediction mode decision", 2010 22ND INTERNATIONAL CONFERENCE ON TOOLS WITH ARTIFICIAL INTELLIGENCE, JPN6020046552, 2010, pages 57 - 60, XP031837830, ISSN: 0004522607 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022003775A (ja) * | 2018-06-19 | 2022-01-11 | 株式会社ソニー・インタラクティブエンタテインメント | ニューラルネットワークを利用したコーデック |
JP7098805B2 (ja) | 2018-06-19 | 2022-07-11 | 株式会社ソニー・インタラクティブエンタテインメント | ニューラルネットワークを利用したコーデック |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
TWI794623B (zh) | 用於逐塊圖片編碼的幀內預測模式概念 | |
TWI791222B (zh) | 變換集合 | |
CN110679148B (zh) | 用于代码化视频数据块的方法和装置 | |
KR102314801B1 (ko) | 비디오 압축에서의 엔트로피 코딩을 위한 선택적 혼합 | |
US11265549B2 (en) | Method for image coding using convolution neural network and apparatus thereof | |
CN105052140B (zh) | 用于下一代视频的模式和参考类型数据的内容自适应熵编码 | |
KR100751869B1 (ko) | 적응 블록 변환을 위한 콘텍스트-기반 적응 가변장 부호화 | |
CN104853209B (zh) | 图像编码、解码方法及装置 | |
KR20090058954A (ko) | 사이드 매칭을 이용한 영상의 부호화 방법 및 장치, 그복호화 방법 및 장치 | |
CN110800299B (zh) | 用于对图像数据的块进行熵代码化的扫描顺序自适应 | |
CN108141596A (zh) | 用于视频译码的非可分离二次变换 | |
CN109309838A (zh) | 用于硬件视频编码的技术 | |
CN104823448A (zh) | 视频编码中的颜色自适应 | |
CN109936742B (zh) | 对视频序列进行编码的方法、编码装置和存储介质 | |
CN104823447A (zh) | 视频编码中的颜色自适应 | |
TW202306384A (zh) | 算術編碼器、算術解碼器、視訊編碼器、視訊解碼器、編碼方法、解碼方法及電腦程式 | |
JP2016134860A (ja) | 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム | |
CN110710206A (zh) | 修改扫描顺序以限制扫描距离 | |
CN110324639A (zh) | 用于视频数据的高效熵编码的技术 | |
JP2018125718A (ja) | モード予測情報生成装置およびプログラム | |
JP2018125713A (ja) | 予測装置およびプログラム | |
WO2019126347A1 (en) | Method and apparatus for video compression using efficient multiple transforms | |
CN111052743A (zh) | 视频编码中用于局部选择变换集的变换池 | |
JP6649184B2 (ja) | 線形予測係数出力装置、線形予測係数出力方法及び線形予測係数出力プログラム | |
CN104506860A (zh) | 视频编码的参考图像选择方法及系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181026 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201124 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210323 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210520 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20210608 |