JP2020102798A - 動画像符号化装置、イントラリフレッシュ制御装置およびそれらのプログラム - Google Patents
動画像符号化装置、イントラリフレッシュ制御装置およびそれらのプログラム Download PDFInfo
- Publication number
- JP2020102798A JP2020102798A JP2018240512A JP2018240512A JP2020102798A JP 2020102798 A JP2020102798 A JP 2020102798A JP 2018240512 A JP2018240512 A JP 2018240512A JP 2018240512 A JP2018240512 A JP 2018240512A JP 2020102798 A JP2020102798 A JP 2020102798A
- Authority
- JP
- Japan
- Prior art keywords
- distortion amount
- intra
- refresh
- distortion
- optical flow
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000003287 optical effect Effects 0.000 claims abstract description 58
- 239000013598 vector Substances 0.000 claims abstract description 43
- 230000001186 cumulative effect Effects 0.000 claims abstract description 29
- 238000004364 calculation method Methods 0.000 claims abstract description 10
- 238000000034 method Methods 0.000 claims description 32
- 230000006866 deterioration Effects 0.000 abstract description 6
- 238000009825 accumulation Methods 0.000 abstract description 2
- 238000013139 quantization Methods 0.000 description 11
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 230000009466 transformation Effects 0.000 description 6
- 230000001131 transforming effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000009467 reduction Effects 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000003044 adaptive effect Effects 0.000 description 2
- 238000004891 communication Methods 0.000 description 2
- 239000006185 dispersion Substances 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003780 insertion Methods 0.000 description 2
- 230000037431 insertion Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000737 periodic effect Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000008602 contraction Effects 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Abstract
Description
従来の動画像符号化方式としては、MPEG(Moving Picture Experts Group)−1、MPEG−2、MPEG−4、AVC(Advanced Video Coding)/ITU−T勧告H.264で規定されたAVC/H.264等がある。
また、現在最新の動画像符号化方式の国際標準化規格としては、HEVC(High Efficiency Video Coding)/ITU−T勧告H.265で規定されたHEVC/H.265がある(非特許文献1参照)。
また、次世代の国際標準化規格としては、JVET(Joint Video Exploration Team)で開発が進められているVVC(Versatile Video Coding)がある(非特許文献2参照)。
インター予測を用いた場合、フレーム間の予測誤差が時間方向に伝播する。
この誤差の伝播を防止するため、従来の動画像符号化方式は、インター予測符号化された符号化データに、周期的にイントラ予測符号化されたフレームであるイントラフレームを挿入するイントラリフレッシュの手法を用いている。
しかし、従来の動画像符号化方式では、イントラフレームを挿入する周期内で時間経過に伴う画像歪、例えば、水面の上から水底を撮影した動画像の水面の揺らぎによる歪等が大きくなった場合、符号化された画像の品質が低下してしまうという問題がある。また、この問題を回避するために、イントラフレームを多く挿入すれば、符号量が増大してしまうという問題がある。
なお、動画像符号化装置は、コンピュータを、前記した手段として機能させるための動画像符号化プログラムで動作させることができる。
なお、イントラリフレッシュ制御装置は、コンピュータを、前記した手段として機能させるためのイントラリフレッシュ制御プログラムで動作させることができる。
本発明によれば、動画像の画像歪の蓄積量が大きくなる前にイントラリフレッシュを行うことで、画質の劣化を抑えて動画像を符号化することができる。
これによって、本発明は、水面の揺らぎ等、回転、拡大、縮小との変化が発生する動画像であっても、イントラフレームの挿入を最小限に抑えるとともに、画質の劣化を抑えて動画像を符号化することができる。
≪動画像符号化装置の構成≫
最初に、図1を参照して、本発明の実施形態に係る動画像符号化装置1の構成について説明する。
動画像符号化装置1は、映像信号である動画像を圧縮符号化するものである。図1に示すように、動画像符号化装置1は、イントラリフレッシュ制御手段2と、符号化手段3と、を備える。
イントラリフレッシュ制御手段2は、動画像の時間経過に伴う画像の歪量をフレームごとに累計し、累計歪量が予め定めた閾値を超えた段階で、イントラリフレッシュを行うことを指示する制御信号を符号化手段3に出力する。
符号化手段3は、HEVC/H.265等の動画像符号化方式により、インター予測(フレーム間予測)符号化された符号化データに、周期的にイントラ予測(フレーム内予測)符号化されたフレームであるイントラフレームを挿入するイントラリフレッシュの手法を用いて、動画像を圧縮符号化する。なお、符号化手段3は、符号化データに、周期的にイントラフレームを挿入する以外に、イントラリフレッシュ制御手段2から制御信号によりイントラリフレッシュが指示されたタイミングで、符号化データにイントラフレームを挿入する。
これによって、動画像符号化装置1は、イントラフレームの周期内において、インター予測符号によって伝播する画像歪が大きくなることを防止することができる。
以下、動画像符号化装置1の詳細な構成について説明する。
図2を参照して、動画像符号化装置1のイントラリフレッシュ制御手段2の構成について説明する。
図2に示すように、イントラリフレッシュ制御手段2は、オプティカルフロー推定手段20と、歪量算出手段21と、歪量累計手段22と、累計歪量記憶手段23と、リフレッシュ判定手段24と、を備える。
オプティカルフロー推定手段20は、勾配法を用いた一般的なオプティカルフロー推定手法により、フレーム間の特徴が類似する画素の動きベクトルをオプティカルフローとして推定する。例えば、オプティカルフロー推定手段20は、Lucas−Kanade法によって動きベクトルを算出する。
これによって、オプティカルフロー推定手段20は、移動、回転、拡大、縮小等の変化を伴う動画像であっても、動きベクトルを求めることができる。
オプティカルフロー推定手段20は、フレームF(t)とフレームF(t+1)との間で、オプティカルフローを推定する。例えば、図3の例では、オプティカルフロー推定手段20は、時刻(t+1)の時点において、オプティカルフロー推定結果として、フレームF(t)のP1,P2,P3の画素が、フレームF(t+1)のP1′,P2′,P3′の画素にそれぞれ移動したことを示す3つの動きベクトルを算出する。なお、ここで示している3つの特徴点は例示に過ぎず、実際にはもっと多くの特徴点が存在する。
歪量算出手段21は、オプティカルフロー推定手段20で推定されたオプティカルフローである動きベクトルの大きさおよび方向の分散の度合いによって、前フレームからの歪量を算出する。ここでは、歪量算出手段21は、動きベクトルの大きさの分散と、動きベクトルの方向の分散とをそれぞれ算出し乗算することで、フレームごとの歪量を算出する。
具体的には、歪量算出手段21は、以下の式(1)により、動きベクトルの大きさL(L1,L2,…,Ln)の分散sLを算出する。
そして、歪量算出手段21は、以下の式(3)により、式(1)で算出した動きベクトルの大きさLの分散sLと、式(2)で算出した動きベクトルの方向θの分散sθとを乗算して、歪量dを算出する。
歪量算出手段21は、式(3)で算出したフレームごとの歪量dを、歪量累計手段22に出力する。
歪量累計手段22は、前フレームまでに累計した歪量を累計歪量記憶手段23から読み出し、歪量算出手段21から入力した歪量を加算することで、現フレームまでの歪量の累計(累計歪量)を算出する。
歪量累計手段22は、累計歪量を累計歪量記憶手段23に記憶するとともに、リフレッシュ判定手段24に出力する。
累計歪量記憶手段23は、歪量累計手段22によって累計歪量が更新され、リフレッシュ判定手段24によって累計歪量が初期化(“0”)される。なお、累計歪量記憶手段23に記憶される累計歪量は、動画像符号化装置1の起動時に予め初期化されるものとする。
リフレッシュ判定手段24は、歪量累計手段22で累計された累計歪量が予め定めた閾値を超えた段階で、イントラリフレッシュを指示する制御信号を、符号化手段3に出力する。このイントラリフレッシュを指示する基準となる閾値は、外部から設定することとしてもよい。
このように、イントラリフレッシュ制御手段2は、動画像のフレーム単位で画像歪量を累計し、累計歪量が予め定めた閾値を超えた段階で符号化手段3にイントラリフレッシュを指示することができる。
図4を参照して、動画像符号化装置1の符号化手段3の構成について説明する。なお、符号化手段3は、イントラリフレッシュを行うものであれば、MPEG−2、AVC/H.264、HEVC/H.265等、どの符号化方式を用いたものでも構わない。ここでは、一例として、HEVC/H.265の符号化方式を用いた例で説明する。なお、HEVC/H.265については、非特許文献1等で公知であるため、詳細な説明は省略する。
切替手段382は、周期的、例えば、32フレームに1回のタイミングで、イントラ予測手段380で予測した予測画像(イントラフレーム)を選択し、他のタイミングでは、インター予測手段381で予測した予測画像を選択して、減算手段30に出力する。
また、切替手段382は、周期的な切替とは独立して、イントラリフレッシュ制御手段2から、制御信号によりイントラリフレッシュが指示されたタイミングで、イントラ予測手段380で予測した予測画像(イントラフレーム)を選択し、減算手段30に出力する。
なお、ここでは、エントロピ符号化手段39は、予測手段38からのみ符号化パラメータを入力しているが、量子化手段32における量子化処理のパラメータ、フィルタ手段36におけるフィルタ処理のパラメータ等、本発明に直接関係のないパラメータについては説明を省略している。
このように、符号化手段3は、イントラリフレッシュ制御手段2から制御信号によりイントラリフレッシュが指示されたタイミングで、符号化データに、イントラフレームを挿入することができる。
なお、動画像符号化装置1は、コンピュータを、前記した各手段として機能させるためのプログラム(動画像符号化プログラム)により動作させることができる。
次に、図5を参照(構成については、適宜図1,図2参照)して、本発明の実施形態に係る動画像符号化装置1の動作について説明する。なお、ここでは、本発明の主要構成であるイントラリフレッシュ制御手段2の動作を主に説明する。
具体的には、歪量算出手段21は、前記式(1)により、動きベクトルの大きさの分散を算出し、前記式(2)により、動きベクトルの方向の分散を算出する。
そして、歪量算出手段21は、前記式(3)により、動きベクトルの大きさの分散と、動きベクトルの方向の分散とを乗算して、歪量を算出する。
ステップS4において、歪量累計手段22は、累計した歪量(累計歪量)を、累計歪量記憶手段23に記憶する
ここで、累計歪量が閾値を超えていなければ(ステップS5でNo)、動画像符号化装置1は、ステップS8に動作を進める。
一方、累計歪量が閾値を超えた場合(ステップS5でYes)、ステップS6において、リフレッシュ判定手段24は、イントラリフレッシュを指示する制御信号を、符号化手段3に出力する。
ステップS7において、リフレッシュ判定手段24は、累計歪量記憶手段23に記憶している累計歪量の値を“0”に初期化する。
一方、次のフレームが入力されなければ(ステップS9でNo)、動画像符号化装置1は、動作を終了する。
以上の動作によって、動画像符号化装置1は、動画像が入力される間、動画像の累計歪量が予め定めた閾値を超えた段階でイントラリフレッシュを行うことで、フレーム間の歪の伝播を抑え、画質の劣化を抑えた符号化データを生成することができる。
以上、本発明の実施形態に係る動画像符号化装置1の構成および動作について説明したが、本発明は、この実施形態に限定されるものではない。
ここでは、動画像符号化装置1を、イントラリフレッシュ制御手段2と、符号化手段3とを装置内部に備える構成とした。
しかし、イントラリフレッシュ制御手段2と、符号化手段3とは、それぞれ分離して構成してもよい。具体的には、図6に示すように、イントラリフレッシュ制御装置2Bと、符号化装置3Bとで、動画像符号化装置1Bを構成してもよい。
イントラリフレッシュ制御装置2Bは、図2で説明したイントラリフレッシュ制御手段2と同じ構成である。また、符号化装置3Bは、図4で説明した符号化手段3と同じ構成である。
このように、イントラリフレッシュ制御装置2Bを分離した構成とすることで、符号化方式を変える場合でも、符号化装置3Bのみを交換するだけで、同じ、イントラリフレッシュ制御装置2Bを使用することが可能になる。
これ以外の作用、効果については、動画像符号化装置1と同様である。
最後に、図7を参照して、動画像符号化装置1が生成する符号化データと、従来の動画像符号化装置が生成する符号化データとの画質の違いを、符号化データを復号した復号画像を用いて説明する。
図7(a)は、従来の動画像符号化装置で動画像を符号化し、復号したある時点での画像例である。図7(b)は、図7(a)と同じ動画像を本発明の動画像符号化装置1で符号化し、復号した図7(a)と同じ時点での画像例である。
ここで、動画像は、電子部品を組み込んだ基板を、水底に沈め、水面の上から基板を撮影したものである。
図7(a)に示す画像I1は、図7(b)に示す画像I2に比べ、画質が劣化している。例えば、画像I1上のICチップの足部分E1は、それぞれの足を判別することができないが、画像I2のICチップの足部分E2では、それぞれの足を明確に判別することができる。
しかし、本発明に係る動画像符号化装置1では、回転、拡大・縮小等で変化する被写体であっても、オプティカルフローによる特徴点の動きベクトルによって、画像の歪を精度よく検出し、累計歪量が閾値を超えた段階でイントラリフレッシュを行うことができる。
これによって、動画像符号化装置1は、図7(a)に示すように、画質の劣化を抑えて、動画像を符号化することができる。
2,2B イントラリフレッシュ制御手段(イントラリフレッシュ制御装置)
20 オプティカルフロー推定手段
21 歪量算出手段
22 歪量累計手段
23 累計歪量記憶手段
24 リフレッシュ判定手段
3,3B 符号化手段(符号化装置)
30 減算手段
31 変換手段
32 量子化手段
33 逆量子化手段
34 逆変換手段
35 加算手段
36 フィルタ手段
37 フレーム記憶手段
38 予測手段
380 イントラ予測手段
381 インター予測手段
382 切替手段
39 エントロピ符号化手段
Claims (7)
- 動画像を符号化する動画像符号化装置であって、
イントラリフレッシュ方式により前記動画像を符号化する符号化手段と、
前記符号化手段のイントラリフレッシュを行うタイミングを制御するイントラリフレッシュ制御手段と、を備え、
前記イントラリフレッシュ制御手段は、
前記動画像のフレームごとに、勾配法を用いたオプティカルフロー推定により、前記フレーム間の特徴が類似する画素の動きベクトルをオプティカルフローとして推定するオプティカルフロー推定手段と、
前記オプティカルフロー推定手段で推定した動きベクトルの大きさおよび方向に基づいて、フレーム間の歪量を算出する歪量算出手段と、
前記歪量算出手段で算出した歪量をフレームごとに累計して累計歪量を算出する歪量累計手段と、
前記歪量累計手段で累計した累計歪量が予め定めた閾値を超えた段階で、前記符号化手段にイントラリフレッシュを指示する制御信号を出力するとともに、前記累計歪量を初期化するリフレッシュ判定手段と、
を備えることを特徴とする動画像符号化装置。 - 前記歪量算出手段は、前記オプティカルフローとして推定した動きベクトルの大きさの分散と、前記動きベクトルの方向の分散とをそれぞれ算出し乗算することで、前記歪量を算出することを特徴とする請求項1に記載の動画像符号化装置。
- 前記歪量算出手段は、前記動きベクトルの方向が180°<θ<360°の方向θについては、θを(360°−θ)に変換して前記方向の分散を算出することを特徴とする請求項2に記載の動画像符号化装置。
- 前記歪量算出手段は、前記動きベクトルの大きさの分散と、前記動きベクトルの方向の分散とに対して予め設定した重み係数を乗算することを特徴とする請求項2または請求項3に記載の動画像符号化装置。
- コンピュータを、請求項1から請求項4のいずれか一項に記載の動画像符号化装置として機能させるためのイントラリフレッシュ制御プログラム。
- イントラリフレッシュ方式により動画像を符号化する符号化装置のイントラリフレッシュを行うタイミングを制御するイントラリフレッシュ制御装置であって、
前記動画像のフレームごとに、勾配法を用いたオプティカルフロー推定により、前記フレーム間の特徴が類似する画素の動きベクトルをオプティカルフローとして推定するオプティカルフロー推定手段と、
前記オプティカルフロー推定手段で推定した動きベクトルの大きさおよび方向に基づいて、フレーム間の歪量を算出する歪量算出手段と、
前記歪量算出手段で算出した歪量をフレームごとに累計して累計歪量を算出する歪量累計手段と、
前記歪量累計手段で累計した累計歪量が予め定めた閾値を超えた段階で、前記符号化装置にイントラリフレッシュを指示する制御信号を出力するとともに、前記累計歪量を初期化するリフレッシュ判定手段と、
を備えることを特徴とするイントラリフレッシュ制御装置。 - コンピュータを、請求項6に記載のイントラリフレッシュ制御装置として機能させるためのイントラリフレッシュ制御プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018240512A JP7291478B2 (ja) | 2018-12-25 | 2018-12-25 | 動画像符号化装置およびそのプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018240512A JP7291478B2 (ja) | 2018-12-25 | 2018-12-25 | 動画像符号化装置およびそのプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020102798A true JP2020102798A (ja) | 2020-07-02 |
JP7291478B2 JP7291478B2 (ja) | 2023-06-15 |
Family
ID=71141327
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018240512A Active JP7291478B2 (ja) | 2018-12-25 | 2018-12-25 | 動画像符号化装置およびそのプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7291478B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004519973A (ja) * | 2001-04-16 | 2004-07-02 | 三菱電機株式会社 | ビデオ中の歪を決定する方法及びビデオ中の歪を決定するシステム |
US20050175099A1 (en) * | 2004-02-06 | 2005-08-11 | Nokia Corporation | Transcoder and associated system, method and computer program product for low-complexity reduced resolution transcoding |
US20070177667A1 (en) * | 2006-01-20 | 2007-08-02 | Qualcomm Incorporated | Method and apparatus for error resilience algorithms in wireless video communication |
-
2018
- 2018-12-25 JP JP2018240512A patent/JP7291478B2/ja active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004519973A (ja) * | 2001-04-16 | 2004-07-02 | 三菱電機株式会社 | ビデオ中の歪を決定する方法及びビデオ中の歪を決定するシステム |
US20050175099A1 (en) * | 2004-02-06 | 2005-08-11 | Nokia Corporation | Transcoder and associated system, method and computer program product for low-complexity reduced resolution transcoding |
US20070177667A1 (en) * | 2006-01-20 | 2007-08-02 | Qualcomm Incorporated | Method and apparatus for error resilience algorithms in wireless video communication |
JP2009524365A (ja) * | 2006-01-20 | 2009-06-25 | クゥアルコム・インコーポレイテッド | 無線映像通信における誤り耐性アルゴリズムの方法および装置 |
Non-Patent Citations (2)
Title |
---|
JIANLE CHEN, ET.AL.: "Algorithm Description of Joint Exploration Test Model 7 (JEM 7)", JOINT VIDEO EXPLORATION TEAM (JVET) OF ITU-T SG 16 WP 3 AND ISO/IEC JTC 1/SC 29/WG 11 7TH MEETING: T, vol. JVET-G1001-v1, JPN6022054282, 19 August 2017 (2017-08-19), pages 13 - 28, ISSN: 0004958276 * |
YU M. CHI, ET.AL.: "Optical Flow Approximation of Sub-Pixel Accurate Block Matching for Video Coding", 2007 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING - ICASSP '07, JPN7022005927, 2007, pages 1017 - 1020, ISSN: 0004958277 * |
Also Published As
Publication number | Publication date |
---|---|
JP7291478B2 (ja) | 2023-06-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
AU2015213341B2 (en) | Video decoder, video encoder, video decoding method, and video encoding method | |
US8908765B2 (en) | Method and apparatus for performing motion estimation | |
KR101377883B1 (ko) | 비디오 인코딩에서 넌-제로 라운딩 및 예측 모드 선택 기법들 | |
JP5061179B2 (ja) | 照明変化補償動き予測符号化および復号化方法とその装置 | |
KR101482896B1 (ko) | 최적화된 디블록킹 필터 | |
KR20150009578A (ko) | 비디오 인코딩을 위한 모션 센서 보조 레이트 제어 | |
KR20050074286A (ko) | 화상 부호화 장치, 화상 부호화 방법 및 화상 부호화프로그램 | |
JP2017069866A (ja) | 動画像符号化装置、動画像符号化方法及び動画像符号化用コンピュータプログラム | |
JP2004215275A (ja) | 動き補償に基づいた改善されたノイズ予測方法及びその装置とそれを使用した動画符号化方法及びその装置 | |
JP5649296B2 (ja) | 画像符号化装置 | |
KR100987921B1 (ko) | 선택적 움직임 검색영역을 이용한 움직임 보상기법이 적용되는 동영상 압축부호화장치및 복호화 장치와 움직임 보상을 위한 선택적 움직임 검색영역 결정방법. | |
JP5832263B2 (ja) | 画像符号化装置及び画像符号化方法 | |
JP5760950B2 (ja) | 動画像再符号化装置、動画像再符号化方法及び動画像再符号化用コンピュータプログラム | |
JP2011135460A (ja) | 動画像符号化装置および動画像復号装置 | |
JP2009284058A (ja) | 動画像符号化装置 | |
JP7291478B2 (ja) | 動画像符号化装置およびそのプログラム | |
JP4971817B2 (ja) | 画像符号化装置 | |
KR101247024B1 (ko) | 루프 내 전처리 필터링을 이용한 움직임 추정 및 보상 방법 | |
WO2011099242A1 (ja) | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 | |
US20130170565A1 (en) | Motion Estimation Complexity Reduction | |
JP2008153802A (ja) | 動画像符号化装置及び動画像符号化プログラム | |
KR20110067648A (ko) | 영상 부호화/복호화 방법 및 이를 수행하는 장치 | |
JP4561701B2 (ja) | 動画像符号化装置 | |
JP2013077865A (ja) | 画像符号化装置、画像復号装置、画像符号化方法及び画像復号方法 | |
KR20160087206A (ko) | 영상 트랜스코더 및 트랜스코딩 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20211108 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221129 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230213 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230509 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230605 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7291478 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |