JP6598365B2 - 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム - Google Patents
帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラムInfo
- Publication number
- JP6598365B2 JP6598365B2 JP2015206215A JP2015206215A JP6598365B2 JP 6598365 B2 JP6598365 B2 JP 6598365B2 JP 2015206215 A JP2015206215 A JP 2015206215A JP 2015206215 A JP2015206215 A JP 2015206215A JP 6598365 B2 JP6598365 B2 JP 6598365B2
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- low
- signal
- samples
- integer
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000002194 synthesizing effect Effects 0.000 title claims description 28
- 238000006243 chemical reaction Methods 0.000 title description 18
- 238000000605 extraction Methods 0.000 claims description 115
- 239000011159 matrix material Substances 0.000 claims description 45
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 claims description 37
- 239000000284 extract Substances 0.000 claims description 13
- 230000015572 biosynthetic process Effects 0.000 claims description 10
- 238000003786 synthesis reaction Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 10
- 238000000034 method Methods 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Description
本発明の目的は、上述の課題を解決する帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラムを提供することにある。
以下、図面を参照しながら実施形態について詳しく説明する。
図1は、第1の実施形態に係る超解像装置の構成を示す概略ブロック図である。
第1の実施形態に係る超解像装置100は、入力画像の解像度を4/3倍に向上させた出力画像を生成する。なお、本実施形態において解像度とは、画像解像度やサンプリング周波数など、信号における標本の密度を示す。
超解像装置100は、入力端子101、帯域分割装置102、補間拡大装置103、畳込装置104、超解像信号生成装置105、出力端子106を備える。本実施形態に係る帯域分割装置102、補間拡大装置103、畳込装置104および超解像信号生成装置105は、デジタル回路である。
帯域分割装置102は、入力端子201、区間分割部202、低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、高域抽出フィルタ206、低域信号生成部207、高域信号生成部208、低域出力端子209、高域出力端子210を備える。
高域信号生成部208は、高域抽出フィルタ206が出力する画素値を、順番を保ったまま結合することで、高域出力画像を生成する。高域信号生成部208は、例えばバッファによって構成される。高域信号生成部208が生成した高域出力画像は、高域出力端子210から出力される。
例えば、低域抽出フィルタ203は、画素列について、1番目の画素の画素値に5/6を乗算した値と、2番目の画素の画素値に1/6を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
例えば、低域抽出フィルタ204は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1/2を乗算した値と、3番目の画素の画素値に1/2を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
例えば、低域抽出フィルタ205は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に0を乗算した値と、3番目の画素の画素値に1/6を乗算した値と、4番目の画素の画素値に1/6を乗算した値との和を出力する。
例えば、高域抽出フィルタ206は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1/2を乗算した値と、3番目の画素の画素値に−1/2を乗算した値と、4番目の画素の画素値に0を乗算した値との和を出力する。
つまり、フィルタを行にとり、画素位置を列にとると、帯域分割装置102のタップ係数群は、以下に示す式(1)の行列Xdで表すことができる。
帯域合成装置300は、ある目的画像の低周波成分である低域入力画像と、当該目的画像の高周波成分である高域入力画像とを合成し、当該目的画像を生成する。帯域合成装置300は、低域入力端子301、高域入力端子302、標本列生成部303、フィルタ304、フィルタ305、フィルタ306、フィルタ307、目的信号生成部308、出力端子309を備える。
例えば、低域入力端子301に3×Sの画素数を有する低域入力画像が入力され、高域入力端子302に1×Sの画素数を有する高域入力画像が入力された場合、標本列生成部303は、4画素ごとの画素列をS個生成する。なお、Sは1以上の整数である。標本列生成部303が生成した画素列は、順番を保ったまま、フィルタ304、フィルタ305、フィルタ306、フィルタ307に入力される。
目的信号生成部308は、フィルタ304、フィルタ305、フィルタ306、フィルタ307が出力する画素値を、フィルタ304、フィルタ305、フィルタ306、フィルタ307の順に結合することで、順次、4画素の画素列を生成する。また、目的信号生成部308は、当該画素列を、順番を保ったまま結合することで、4×Sの画素数を有する目的画像を生成する。目的信号生成部308は、例えばデータセレクタとバッファによって構成される。目的信号生成部308が生成した目的画像は、出力端子309から出力される。
例えば、フィルタ304は、画素列について、1番目の画素の画素値に6/5を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値にに−1/5を乗算した値との和を出力する。
例えば、フィルタ305は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に1を乗算した値との和を出力する。
例えば、フィルタ306は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に1を乗算した値と、3番目の画素の画素値に0を乗算した値と、4番目の画素の画素値に−1を乗算した値との和を出力する。
例えば、フィルタ307は、画素列について、1番目の画素の画素値に0を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、3番目の画素の画素値に6/5を乗算した値と、4番目の画素の画素値に1/5を乗算した値との和を出力する。
つまり、フィルタを行にとり、画素位置を列にとると、帯域合成装置300のタップ係数群は、以下に示す式(2)の行列Xcで表すことができる。
このように、帯域合成装置300のタップ係数は、帯域分割装置102のタップ係数群を示す行列Xdの逆行列によって規定される。これにより、帯域合成装置300は、帯域分割装置102が分割した低域出力画像と高域出力画像とを合成することで、帯域分割装置102に入力された画像を復元することができる。
入力端子101に入力画像が入力されると、帯域分割装置102は、入力画像を帯域分割し、入力画像の3/4の画素数を有する低域出力画像と、入力画像の1/4の画素数を有する高域出力画像とを生成する(ステップS1)。高域出力画像は、補間拡大装置103の低域入力端子301に入力される。また補間拡大装置103の高域入力端子302には、各画素の画素値がゼロである黒色画像(ゼロ信号)が入力される。補間拡大装置103は、高域出力画像と黒色画像とを帯域合成することで、入力画像の1/3倍の画素数を有する拡大高域画像を生成する(ステップS2)。次に、畳込装置104は、拡大高域画像にガウシアンカーネルを畳み込み、修正高域画像を生成する(ステップS3)。修正高域画像は、超解像信号生成装置105の高域入力端子302に入力される。また超解像信号生成装置105の低域入力端子301には、ステップS1の入力画像が入力される。そして、超解像信号生成装置105は、入力画像と修正高域画像とを帯域合成することで、入力画像の4/3倍の画素数を有する出力画像を生成し、出力端子106から出力する(ステップS4)。
また、本実施形態に係る帯域分割装置102は、入力画像を任意の比(3:1)に係る低域画像と高域画像とに分割することができる。また、本実施形態に係る帯域合成装置300(補間拡大装置103および超解像信号生成装置105)は、任意の比(3:1)に係る低域信号と高域信号とに基づいて画像を合成することができる。
また、L+HがMに等しくても、帯域分割装置102のタップ係数を示す行列Xdが正則行列とならない場合、帯域合成装置300のタップ係数は、行列Xdの疑似逆行列によって規定される。
同様に、本実施形態に係るフィルタ304、フィルタ305、フィルタ306およびフィルタ307は、いずれも4個のタップを備えるFIRフィルタであるが、これに限られない。例えば、他の実施形態に係るフィルタ304、フィルタ305、フィルタ306およびフィルタ307は、係数の一部にゼロを含む場合、当該係数に係るタップを省略してもよい。具体的には、フィルタ304は、画素列について、1番目の画素の画素値に6/5を乗算した値と、2番目の画素の画素値に−1/5を乗算した値と、4番目の画素の画素値に−1/5を乗算した値との和を出力する3タップのフィルタとして構成されてもよい。
また、他の実施形態に係る帯域分割装置102は、低域抽出フィルタ203、低域抽出フィルタ204、低域抽出フィルタ205、区間分割部202および低域出力端子209を備えない構成であってもよい。つまり、超解像装置100が備える帯域分割装置102は、低域出力画像を出力するものであればよく、高域出力画像を生成しなくてもよい。
なお、行列Xdは、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るM個の係数列を要素とするH個の行とを含む行列の一例である。
第2の実施形態について説明する。図5は、第2の実施形態に係る解像度変換装置の構成を示す概略ブロック図である。
第1の実施形態に係る超解像装置100は、入力画像の解像度を4/3倍に拡大するものである。これに対し、第2の実施形態に係る解像度変換装置400は、入力画像の解像度を3/4倍に縮小するものである。
第2の実施形態に係る解像度変換装置400は、第1の実施形態の帯域分割装置102から高域抽出フィルタ206、高域信号生成部208および高域出力端子210を除いたものである。つまり、解像度変換装置400は、入力画像に基づいて、入力画像の3/4倍の画素数を有する出力画像(低域出力画像)を生成する。なお、第1の実施形態と同様に、解像度変換装置400の低域抽出フィルタ203および低域抽出フィルタ205における係数は、端部に近いほど大きい値に設定される。これにより、解像度変換装置400が出力する出力画像の画素列の境界部分に生じるエッジの大きさを低減することができる。
上述した実施形態では、超解像装置100、帯域分割装置102、帯域合成装置300および解像度変換装置400が、画像を処理する場合について説明した、これに限られない。例えば、他の実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300または解像度変換装置400は、音声信号など他の信号を処理するために用いられてもよい。つまり、帯域合成装置300は、任意の比に係る低域信号と高域信号とに基づいて信号を合成することができる。また帯域分割装置102は、信号を任意の比に係る低域信号と高域信号とに分割することができる。また解像度変換装置400は、原信号を任意の倍率に縮小することができる。また超解像装置100は、原信号を任意の倍率に拡大することができる。なお、画像の画素は、信号の標本の一例である。
例えば、上述した第1の実施形態に係る帯域分割装置102および帯域合成装置300は、超解像装置100に備えられるが、これに限られない。例えば、他の実施形態では、フィルタバンクが帯域分割装置102を備えても良い。フィルタバンクは、入力信号を複数の帯域に分割する装置である。フィルタバンクがウェーブレット変換器により構成される場合、帯域の分割が2のべき乗数に限られるが、帯域分割装置102を用いることで、任意の比率で信号を分割することができる。なお、帯域分割装置102を利用するフィルタバンクによって分割された信号は、帯域合成装置300を用いることで復元することができる。
コンピュータ900は、CPU901、主記憶装置902、補助記憶装置903、インタフェース904を備える。
上述した実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300および解像度変換装置400は、各処理部が半導体素子によって構成される集積回路として実装される。他方、他の実施形態に係る超解像装置100、帯域分割装置102、帯域合成装置300または解像度変換装置400は、コンピュータ900に実装されてもよい。この場合、各処理部の動作は、プログラムの形式で補助記憶装置903に記憶される。CPU901は、プログラムを補助記憶装置903から読み出して主記憶装置902に展開し、当該プログラムに従って上記処理を実行する。
102 帯域分割装置
103 補間拡大装置
105 超解像信号生成装置
203、204、205 低域抽出フィルタ
206 高域抽出フィルタ
207 低域信号生成部
208 高域信号生成部
300 帯域合成装置
301 低域入力端子
302 高域入力端子
304、305、306、307 フィルタ
308 目的信号生成部
Claims (16)
- 目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部と、
前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタと、
前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部と
を備え、
M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、
前記Lが、1以上の整数であり、
前記Hが、1以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
帯域合成装置。 - 前記Mが、前記Hと前記Lの和である
請求項1に記載の帯域合成装置。 - 前記Lが、2以上の整数であり、
L個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する
請求項1または請求項2に記載の帯域合成装置。 - 前記Hが、2以上の整数であり、
H個の前記行のM個の前記係数列が、それぞれ異なる位置にピークを有する
請求項1から請求項3の何れか1項に記載の帯域合成装置。 - 前記Lが3であり、
前記Hが1であり、
前記Mが4である
請求項1から請求項4の何れか1項に記載の帯域合成装置。 - S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、
前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタと、
L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部と
H個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部と
を備え、
前記Lが、1以上の整数であり、
前記Hが、1以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
帯域分割装置。 - 前記Mが、前記Hと前記Lの和である
請求項6に記載の帯域分割装置。 - 前記Lが、2以上の整数であり、
L個の前記低域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記低周波成分を抽出する
請求項6または請求項7に記載の帯域分割装置。 - 前記Hが、2以上の整数であり、
H個の前記高域抽出フィルタは、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで前記高周波成分を抽出する
請求項6から請求項8の何れか1項に記載の帯域分割装置。 - 前記Lが3であり、
前記Hが1であり、
前記Mが4である
請求項6から請求項9の何れか1項に記載の帯域分割装置。 - S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタと、
L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部と
を備え、
少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、
前記Lが、2以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
解像度変換装置。 - S×L個の標本を有する原信号に基づいて、当該原信号の高周波成分であるS×H個の標本を有する高域信号を抽出する高域抽出装置と、
前記原信号と前記高域信号とを帯域合成することでS×(L+H)個の標本を有する超解像信号を生成する請求項1に記載の帯域合成装置である超解像信号生成装置と
を備える超解像装置。 - 前記高域抽出装置が、
前記原信号を帯域分割することで前記高域出力信号を生成する請求項6に記載の帯域分割装置と、
前記高域出力信号と各標本の値がゼロであるゼロ信号とを帯域合成することで前記高域信号を抽出する請求項1に記載の帯域合成装置である補間拡大装置と
を備える請求項12に記載の超解像装置。 - コンピュータを、
目的信号の低周波成分であるS×L個の標本を有する低域入力信号と、前記目的信号の高周波成分であるS×H個の標本を有する高域入力信号との入力を受け付ける分割信号入力部、
前記低域入力信号のL個の標本と前記高域入力信号のH個の標本とからなる標本列の、標本位置に応じたL+H個の係数による加重和を出力するM個のフィルタ、
前記フィルタの出力を結合することでS×M個の標本を有する前記目的信号を生成する目的信号生成部
として機能させ、
M個の前記フィルタにおけるL+H個の前記係数を要素とする行列の逆行列または疑似逆行列が、低域抽出フィルタとして機能し得るM個の係数列を要素とするL個の行と高域抽出フィルタとして機能し得るL+H個の係数列を要素とするH個の行とを含む行列であり、
前記Lが、1以上の整数であり、
前記Hが、1以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
プログラム。 - コンピュータを、
S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、
前記入力信号のM個の標本からなる標本列ごとに、当該標本列の高周波成分を抽出するH個の高域抽出フィルタ、
L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部、
H個の前記高域抽出フィルタが抽出した前記高周波成分を結合することでS×H個の標本を有する高域出力信号を生成する高域信号生成部
として機能させ、
前記Lが、1以上の整数であり、
前記Hが、1以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
プログラム。 - コンピュータを、
S×M個の標本を有する入力信号のM個の標本からなる標本列ごとに、それぞれ異なる標本位置にピークを有する係数列による加重和を算出することで、当該標本列の低周波成分を抽出するL個の低域抽出フィルタ、
L個の前記低域抽出フィルタが抽出した前記低周波成分を結合することでS×L個の標本を有する低域出力信号を生成する低域信号生成部
として機能させ、
少なくとも1つの前記低域抽出フィルタの前記係数列のピークが、当該係数列の端部に存在し、当該係数列を構成する係数が、前記係数列の端部に近いほど大きな値であり、
前記Lが、2以上の整数であり、
前記Sが、1以上の整数であり、
前記Mが、3以上の整数である
プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015206215A JP6598365B2 (ja) | 2015-10-20 | 2015-10-20 | 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015206215A JP6598365B2 (ja) | 2015-10-20 | 2015-10-20 | 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017078939A JP2017078939A (ja) | 2017-04-27 |
JP6598365B2 true JP6598365B2 (ja) | 2019-10-30 |
Family
ID=58667030
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015206215A Active JP6598365B2 (ja) | 2015-10-20 | 2015-10-20 | 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6598365B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111281396B (zh) * | 2020-01-22 | 2022-09-06 | 哈尔滨理工大学 | 胸腹表面呼吸运动信号超分辨方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2522357B2 (ja) * | 1988-09-13 | 1996-08-07 | 日本電気株式会社 | 画像の拡大方式 |
JPH08294001A (ja) * | 1995-04-20 | 1996-11-05 | Seiko Epson Corp | 画像処理方法および画像処理装置 |
JP2005217532A (ja) * | 2004-01-27 | 2005-08-11 | Canon Inc | 解像度変換方法及び解像度変換装置 |
JP4429816B2 (ja) * | 2004-06-10 | 2010-03-10 | オリンパス株式会社 | 撮像装置および画像の高解像度化方法 |
-
2015
- 2015-10-20 JP JP2015206215A patent/JP6598365B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2017078939A (ja) | 2017-04-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4767345B2 (ja) | 画像処理装置及び方法、並びに画像表示装置及び方法 | |
WO2011111819A1 (ja) | 画像処理装置、画像処理プログラム、および、画像を生成する方法 | |
JPS60502022A (ja) | 潰れウオルシュ・アダマ−ル変換による画像処理方法 | |
JP4728744B2 (ja) | 画像処理装置 | |
KR20110008727A (ko) | 다중 대역 합성 필터를 이용한 고해상도 영상 획득 장치 및 방법 | |
Yoshikawa et al. | Super resolution image reconstruction using total variation regularization and learning-based method | |
JP2007096431A (ja) | 任意の変換比率を有するデジタル・ビデオ・フォーマット下方変換装置及び方法 | |
JP6598365B2 (ja) | 帯域合成装置、帯域分割装置、解像度変換装置、超解像装置およびプログラム | |
KR100298327B1 (ko) | 고속 컨벌루션 처리 방법 및 그 장치 | |
JPWO2008020487A1 (ja) | 画像処理装置、画像処理プログラム、および画像処理方法 | |
US8902474B2 (en) | Image processing apparatus, control method of the same, and program | |
JP5514132B2 (ja) | 画像縮小装置、画像拡大装置、及びこれらのプログラム | |
JP6580831B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP5203824B2 (ja) | 画像処理装置及び撮像システム | |
JPWO2007102244A1 (ja) | 画像拡大縮小装置 | |
JP4323808B2 (ja) | 二次元ピラミッド・フィルタ・アーキテクチャ | |
WO2015115168A1 (ja) | 画像処理装置 | |
JP2009008945A (ja) | 画像信号処理装置、画像信号処理方法およびプログラム | |
JP2004530206A (ja) | 二次元ピラミッド・フィルタ・アーキテクチャ | |
Azgin et al. | A high performance alternating projections image demosaicing hardware | |
JP2007188211A (ja) | 画像処理装置、撮像装置、画像処理方法およびそのプログラム | |
JP2012080255A (ja) | 画像処理装置及びその制御方法 | |
US10559066B2 (en) | Image processing device and image processing method | |
JP5624701B2 (ja) | 間引きフィルタおよび間引きプログラム | |
US20230153944A1 (en) | Super resolution image generating device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180827 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181026 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190711 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190903 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190930 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6598365 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |