JP6780073B2 - 画像処理装置、画像処理方法、およびプログラム - Google Patents
画像処理装置、画像処理方法、およびプログラム Download PDFInfo
- Publication number
- JP6780073B2 JP6780073B2 JP2019135370A JP2019135370A JP6780073B2 JP 6780073 B2 JP6780073 B2 JP 6780073B2 JP 2019135370 A JP2019135370 A JP 2019135370A JP 2019135370 A JP2019135370 A JP 2019135370A JP 6780073 B2 JP6780073 B2 JP 6780073B2
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- interest
- weight
- region
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 95
- 238000003672 processing method Methods 0.000 title claims description 5
- 238000009795 derivation Methods 0.000 claims description 56
- 230000009467 reduction Effects 0.000 claims description 31
- VLKZOEOYAKHREP-UHFFFAOYSA-N n-Hexane Chemical compound CCCCCC VLKZOEOYAKHREP-UHFFFAOYSA-N 0.000 claims description 9
- 238000000034 method Methods 0.000 description 85
- 230000008569 process Effects 0.000 description 37
- 230000006870 function Effects 0.000 description 33
- 238000009826 distribution Methods 0.000 description 17
- 238000006243 chemical reaction Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 13
- 238000004364 calculation method Methods 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 238000012937 correction Methods 0.000 description 5
- 238000011156 evaluation Methods 0.000 description 5
- 238000004321 preservation Methods 0.000 description 4
- 238000011946 reduction process Methods 0.000 description 4
- 238000007796 conventional method Methods 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 239000007787 solid Substances 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 230000009291 secondary effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/74—Image or video pattern matching; Proximity measures in feature spaces
- G06V10/75—Organisation of the matching processes, e.g. simultaneous or sequential comparisons of image or video features; Coarse-fine approaches, e.g. multi-scale approaches; using context analysis; Selection of dictionaries
- G06V10/751—Comparing pixel values or logical combinations thereof, or feature values having positional relevance, e.g. template matching
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20004—Adaptive image processing
- G06T2207/20012—Locally adaptive
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20192—Edge enhancement; Edge preservation
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Databases & Information Systems (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Health & Medical Sciences (AREA)
- Medical Informatics (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Image Processing (AREA)
- Picture Signal Circuits (AREA)
Description
同じ領域が設定された場合にブロックが完全に一致してしまう事に起因し、ノイズ低減効
果が十分でないという課題がある。また、着目画素周辺においていずれの参照画素についても、着目画素との類似度が同程度に低い場合、各参照画素の重みが小さくかつ同程度となる事がある。この場合、参照領域が着目画素と類似していないにも関わらずどの参照画素も同じように足し合わされて重み付き平均が導出されることになり、着目画素のシグナル成分とはかけ離れた値が出力される(あるいはぼける)という問題が生じる。
撮像で得られる画像データは、ノイズのない本来の値であるシグナル成分にノイズ成分が加わったものである。理想的なノイズ低減処理は、シグナル成分が同じである画素の画素値の平均を計算する事である。これによりシグナル成分はそのままに、ノイズ成分の標準偏差が低下してノイズ低減された画像データが得られる。ただし、撮像で得られる画像データにはノイズがあるために本来のシグナル成分が同じである画素がどれであるかは正確には分かり得ない。しかしながら、何らかの類似度を基に尤もらしい画素を選択して平均するか、又は平均の計算に類似度に応じた重みを持たせる事で、シグナル成分が同じである画素の画素値の平均を計算することに近い処理を行うことができる。それゆえ重み付き平均を計算する処理(重み付き平均処理)は、画像処理におけるノイズ低減処理の一般形となっている。以下、ノイズ低減をしようと着目している画素を着目画素とよび、平均計算に用いようとしている複数の画素のそれぞれを参照画素とよぶ。このとき、重み付き平均の式は以下のようになる。
次に、本実施例で解決しようとしているnon local means法の問題点について述べる。上述のように、non local means法は、着目領域と参照領域とのブロックマッチングを用いて着目画素と参照画素との類似度を算出する。これは、着目領域の各画素の画素値と参照領域の各画素の画素値とが同一である場合に、着目画素のシグナル成分と参照画素のシグナル成分とが同一であると仮定している。しかしながら、着目領域と、ある参照領域Aとのシグナル成分が同一である場合においても、着目領域と参照領域Aとの類似度が高くなるような状況は統計的に稀である。例えば、着目領域と参照領域Aとの各画素のシグナル成分が同一色のベタ領域である場合であっても、ノイズ成分に起因して着目領域と参照領域Aとの類似度がそれほど高くならないからである。一方、参照領域として、着目領域と同一の領域である参照領域B(すなわち、着目領域自身)を用いる場合、同一の領域を用いて各画素を比較するので着目領域と参照領域Bとの各画素は画素値が完全に一致することになる。non local means法では、類似度が高い参照領域を構成する参照画素には高い重みをつけるので、参照領域Bを構成する参照画素B’(すなわち、着目画素自身)には極めて高い重みがつく。一方、シグナル成分が同一であるはずの参照領域Aを構成する参照画素A’は、比較的類似度が高いものの、参照領域Bを構成する参照画素B’(すなわち、着目画素自身)と比較して低い重みにしかならない。結局のところ、着目画素自身の画素の重みのみが他の参照画素の重みよりも相対的に高くなってしまうので、十分なノイズ低減効果が得られない。
以上述べたように、従来のnon local means法では、参照領域として着目領域と同じ領域が設定された場合に導出される参照画素(この場合着目画素が参照画素となる)に対する重みが統計的には尤もではない。そのため、ノイズの低減とエッジの保存を両立した画像を得ることが困難である。本実施例では参照領域として着目領域と同じ領域が設定された場合、すなわち参照画素が着目画素自身となる場合の重みを相対的に従来よりも小さくする事によってこの課題を解決する。ここで相対的としたのは、重み付き平均においては、全ての重みを定数倍しても結果が変わらないという自由度をもつためである。本実施例の本質は、参照領域として着目領域と同じ領域を設定した場合に導出される着目画素に対する重みを単純に所定値より小さくする事ではなく、着目画素以外の参照画素に対応する重みとの間にある相対的な差を小さくすることである。従って、例えば着目画素以外の画素を参照画素として導出される重みを相対的に高くするように1に近い値にしてもよい。このような相対的な差を小さくすることによって着目領域と同じ領域を参照領域とした場合に導出される重みが統計的に尤もであることになる。したがって、ノイズの低減とエッジの保存を両立した画像を得ることができる。
Claims (13)
- 画像に対してノイズ低減処理をする画像処理装置であって、
前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定手段と、
前記参照画素の画素値と前記参照画素の重みとを用いた重み付き平均を実行する導出手段と、
前記導出手段による重み付き平均の結果か、前記着目画素の画素値かの何れか一方を出力する出力手段と、を有し、
前記出力手段は、前記参照画素の全てが前記着目画素に類似していないとみなせる場合には、前記着目画素の画素値を出力し、それ以外の場合には、前記重み付き平均の結果を出力する
ことを特徴とする画像処理装置。 - 前記出力手段は、前記参照画素の重みに応じて、前記導出手段による重み付き平均の結果か、前記着目画素の画素値かの何れか一方を出力する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記決定手段は、前記類似度に基づいて、前記参照画素が前記着目画素に類似していないとみなせる場合には、重みとして0を決定する
ことを特徴とする請求項1または2の何れか一項に記載の画像処理装置。 - 前記出力手段は、前記参照画素の重みが全て0の場合には、前記着目画素の画素値を出力する
ことを特徴とする請求項3に記載の画像処理装置。 - 前記類似度は、前記着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度である
ことを特徴とする請求項1乃至4の何れか一項に記載の画像処理装置。 - 前記導出手段は、前記参照画素の重みが全て0の場合は、前記重み付き平均を実行しないことを特徴とする請求項3または4に記載の画像処理装置。
- 前記導出手段は、前記参照画素の重みのうち少なくとも1つの重みが0より大きい値である場合には、前記重み付き平均を実行する
ことを特徴とする請求項1乃至6の何れか一項に記載の画像処理装置。 - 前記出力手段は、前記参照画素の重みのうち少なくとも1つの重みが0より大きい値である場合には、前記導出手段による重み付き平均の結果を出力することを特徴とする請求項1乃至7の何れか一項に記載の画像処理装置。
- 前記決定手段は、前記類似度が高い参照画素に対しては、前記類似度が低い参照画素の重みよりも大きい値を重みとして決定する
ことを特徴とする請求項1乃至8の何れか一項に記載の画像処理装置。 - 前記決定手段は、前記着目画素近傍の所定の領域に含まれる前記着目画素以外の画素を参照画素とすることを特徴とする請求項1乃至9の何れか一項に記載の画像処理装置。
- 前記決定手段は、前記着目画素を含む所定の領域に含まれる画素を参照画素として、重みを決定し、
前記出力手段は、前記参照画素に対応する重みに基づいて、前記導出手段による重み付き平均の結果か、前記着目画素の画素値かの何れか一方を出力することを特徴とする請求項1ないし9の何れか一項に記載の画像処理装置。 - 画像に対してノイズ低減処理をする画像処理方法であって、
前記画像における複数の画素を参照画素とし、着目画素に対応する着目領域と前記参照画素に対応する参照領域との類似度に基づいて、前記参照画素の重みを決定する決定ステップと、
前記参照画素の画素値と前記参照画素の重みとを用いた重み付き平均を実行する導出ステップと、
前記導出ステップにおいて導出された重み付き平均の結果か、前記着目画素の画素値かの何れか一方を出力する出力ステップと、を含み、
前記出力ステップでは、前記参照画素の全てが前記着目画素に類似していないとみなせる場合には、前記着目画素の画素値を出力し、それ以外の場合には、前記重み付き平均の結果を出力する
ことを特徴とする画像処理方法。 - コンピュータを、請求項1から11のいずれか一項に記載の画像処理装置として機能させるためのプログラム。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013026870 | 2013-02-14 | ||
JP2013026870 | 2013-02-14 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018123240A Division JP6625165B2 (ja) | 2013-02-14 | 2018-06-28 | 画像処理装置、画像処理方法、およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019176532A JP2019176532A (ja) | 2019-10-10 |
JP6780073B2 true JP6780073B2 (ja) | 2020-11-04 |
Family
ID=63923041
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018123240A Active JP6625165B2 (ja) | 2013-02-14 | 2018-06-28 | 画像処理装置、画像処理方法、およびプログラム |
JP2019135370A Active JP6780073B2 (ja) | 2013-02-14 | 2019-07-23 | 画像処理装置、画像処理方法、およびプログラム |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018123240A Active JP6625165B2 (ja) | 2013-02-14 | 2018-06-28 | 画像処理装置、画像処理方法、およびプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US11282173B2 (ja) |
JP (2) | JP6625165B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20210112042A (ko) * | 2020-03-04 | 2021-09-14 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 및 그의 동작 방법 |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001189944A (ja) | 1999-12-28 | 2001-07-10 | Sony Corp | 撮像装置 |
US7054501B1 (en) | 2000-11-14 | 2006-05-30 | Eastman Kodak Company | Estimating noise for a digital image utilizing updated statistics |
JP4170767B2 (ja) | 2001-04-19 | 2008-10-22 | 株式会社東芝 | 画像処理装置 |
JP4649781B2 (ja) | 2001-06-20 | 2011-03-16 | ソニー株式会社 | 画像処理方法および装置 |
US6858010B2 (en) | 2003-05-06 | 2005-02-22 | Siemens Medical Solutions Usa, Inc. | Identifying clinical markers in spatial compounding ultrasound imaging |
US7822285B2 (en) * | 2004-05-20 | 2010-10-26 | Omnivision Technologies, Inc. | Methods and systems for locally adaptive image processing filters |
KR100721543B1 (ko) | 2005-10-11 | 2007-05-23 | (주) 넥스트칩 | 통계적 정보를 이용하여 노이즈를 제거하는 영상 처리 방법및 시스템 |
TWI320914B (en) * | 2006-07-28 | 2010-02-21 | Via Tech Inc | Weight-adjusted apparatus and method thereof |
JP4440297B2 (ja) | 2007-03-23 | 2010-03-24 | 三菱電機株式会社 | テレビジョン映像信号のノイズ低減装置およびノイズ低減方法 |
FR2919943B1 (fr) | 2007-08-07 | 2010-02-26 | Dxo Labs | Procede de traitement d'objet numerique et systeme associe |
KR100872253B1 (ko) | 2007-08-23 | 2008-12-05 | 삼성전기주식회사 | 이미지 센서에 의해 생성된 이미지의 노이즈 제거 방법 |
KR101303660B1 (ko) * | 2007-10-01 | 2013-09-04 | 삼성전자주식회사 | 잡음제거를 고려한 선명도 향상 방법 및 장치 그리고 잡음가중치 계산 방법 및 장치 |
KR101481551B1 (ko) | 2008-06-03 | 2015-01-13 | 엘지전자 주식회사 | 영상 노이즈 제거 장치 및 방법 |
US8139650B2 (en) * | 2008-08-07 | 2012-03-20 | California Institute Of Technology | Fast noise reduction in digital images and video |
JP2010153969A (ja) | 2008-12-24 | 2010-07-08 | Sanyo Electric Co Ltd | 撮像装置 |
WO2010086973A1 (ja) * | 2009-01-28 | 2010-08-05 | 富士通株式会社 | 画像処理装置、画像処理プログラムおよび画像処理方法 |
EP2424438A4 (en) | 2009-04-30 | 2013-04-03 | Univ California | SYSTEM AND METHODS FOR RAPID IMPLEMENTATION OF EQUAL TILING TOMOGRAPHY |
TWI399079B (zh) | 2009-09-18 | 2013-06-11 | Altek Corp | Noise Suppression Method for Digital Image |
TWI393073B (zh) * | 2009-09-21 | 2013-04-11 | Pixart Imaging Inc | 影像雜訊濾除方法 |
TWI390466B (zh) * | 2009-09-21 | 2013-03-21 | Pixart Imaging Inc | 影像雜訊濾除方法 |
JP5289288B2 (ja) | 2009-11-27 | 2013-09-11 | 三菱電機株式会社 | ノイズ除去装置及びノイズ除去方法 |
KR101674078B1 (ko) | 2009-12-16 | 2016-11-08 | 삼성전자 주식회사 | 블록 기반의 영상 잡음 제거 방법 및 장치 |
US8885961B2 (en) * | 2010-09-07 | 2014-11-11 | Siemens Aktiengesellschaft | System and method for image denoising optimizing object curvature |
JP5517883B2 (ja) | 2010-10-20 | 2014-06-11 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
US8928813B2 (en) | 2010-10-28 | 2015-01-06 | Microsoft Corporation | Methods and apparatus for reducing structured noise in video |
US20120281923A1 (en) | 2011-05-02 | 2012-11-08 | Yeda Research And Development Co., Ltd. | Device, system, and method of image processing utilizing non-uniform image patch recurrence |
BR112013031215B8 (pt) | 2011-06-10 | 2022-07-19 | Mediatek Inc | Método e aparelho de codificação escalável de vídeo |
US9262815B2 (en) * | 2012-03-29 | 2016-02-16 | Nikon Corporation | Algorithm for minimizing latent sharp image cost function and point spread function cost function with a spatial mask in a regularization term |
KR101910870B1 (ko) | 2012-06-29 | 2018-10-24 | 삼성전자 주식회사 | 잡음 제거 장치, 시스템 및 방법 |
CN103686194B (zh) | 2012-09-05 | 2017-05-24 | 北京大学 | 基于非局部均值的视频去噪方法和装置 |
JP6253331B2 (ja) * | 2012-10-25 | 2017-12-27 | キヤノン株式会社 | 画像処理装置及び画像処理方法 |
JP6362333B2 (ja) | 2013-02-14 | 2018-07-25 | キヤノン株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP6161326B2 (ja) | 2013-02-27 | 2017-07-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
US9576346B2 (en) * | 2015-03-24 | 2017-02-21 | Intel Corporation | Non-local means image denoising with an adaptive directional spatial filter |
-
2018
- 2018-06-28 JP JP2018123240A patent/JP6625165B2/ja active Active
-
2019
- 2019-07-23 JP JP2019135370A patent/JP6780073B2/ja active Active
- 2019-11-08 US US16/677,923 patent/US11282173B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP6625165B2 (ja) | 2019-12-25 |
US11282173B2 (en) | 2022-03-22 |
JP2018166331A (ja) | 2018-10-25 |
JP2019176532A (ja) | 2019-10-10 |
US20200074597A1 (en) | 2020-03-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6362333B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
Shin et al. | Radiance–reflectance combined optimization and structure-guided $\ell _0 $-Norm for single image dehazing | |
Feng et al. | Speckle reduction via higher order total variation approach | |
US8908989B2 (en) | Recursive conditional means image denoising | |
Zhang et al. | Decision-based non-local means filter for removing impulse noise from digital images | |
WO2022016326A1 (zh) | 图像处理方法、电子设备和计算机可读介质 | |
Nair et al. | Direction based adaptive weighted switching median filter for removing high density impulse noise | |
JP6780073B2 (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP2021170284A (ja) | 情報処理装置及びプログラム | |
Pang et al. | A fast NL-means method in image denoising based on the similarity of spatially sampled pixels | |
Nair et al. | An efficient adaptive weighted switching median filter for removing high density impulse noise | |
CN112801890A (zh) | 一种视频处理方法、装置及设备 | |
Peng et al. | Detail enhancement for infrared images based on propagated image filter | |
CN113706428B (zh) | 一种图像生成方法及装置 | |
KR101462421B1 (ko) | 히스토그램 압축 평활화를 이용한 영상 명암대비 개선 방법 및 장치 | |
CN114764839A (zh) | 动态视频生成方法、装置、可读存储介质及终端设备 | |
Asha et al. | Satellite image enhancement using contrast limited adaptive histogram equalization | |
Sahragard et al. | Image restoration by variable splitting based on total variant regularizer | |
Castillo et al. | Morphological amoeba-based patches for exemplar-based inpainting | |
Verma et al. | An adaptive isotropic search window based NLM algorithm for image denoising | |
CN116228562A (zh) | 一种基于直方图峰度的红外图像增强方法 | |
Hiraoka | Generation of Contour-Like Images Using Euclidean Distance from Edges | |
JP2016110341A (ja) | 画像処理装置、画像処理方法及びプログラム | |
Chen et al. | A robust noise removal algorithm with consideration of contextual information | |
CN113887390A (zh) | 构建图像处理模型的方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190723 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200525 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200609 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200805 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200915 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201014 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6780073 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |