JP2016162420A - 注目領域検出装置、注目領域検出方法及びプログラム - Google Patents
注目領域検出装置、注目領域検出方法及びプログラム Download PDFInfo
- Publication number
- JP2016162420A JP2016162420A JP2015043745A JP2015043745A JP2016162420A JP 2016162420 A JP2016162420 A JP 2016162420A JP 2015043745 A JP2015043745 A JP 2015043745A JP 2015043745 A JP2015043745 A JP 2015043745A JP 2016162420 A JP2016162420 A JP 2016162420A
- Authority
- JP
- Japan
- Prior art keywords
- area
- saliency
- input image
- region
- background
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/26—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion
- G06V10/267—Segmentation of patterns in the image field; Cutting or merging of image elements to establish the pattern region, e.g. clustering-based techniques; Detection of occlusion by performing operations on regions, e.g. growing, shrinking or watersheds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/46—Descriptors for shape, contour or point-related descriptors, e.g. scale invariant feature transform [SIFT] or bags of words [BoW]; Salient regional features
- G06V10/462—Salient features, e.g. scale invariant feature transforms [SIFT]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
【解決手段】 本発明は、入力画像に設定した部分領域と背景領域との重複する領域における特徴量を算出し、この算出した特徴量と入力画像の各位置における特徴量とに基づいて、入力画像の各位置における顕著度を算出する。そして、この顕著度の大きさに基づいて、入力画像から注目領域を検出する。
【選択図】 図1
Description
以下、図面を参照して本発明の実施形態を詳細に説明する。図1は、本実施形態に係る注目領域検出装置の構成を示す概略ブロック図である。注目領域検出装置1は、領域分割部11、背景領域設定部12、重複率算出部13、特徴量算出部14、顕著度算出部15、検出部16を有する。
Sx,y=max(D1・W1,D2・W2,...,DN・WN) (数4)
ここで、距離Dnは、特徴量算出部14が算出した領域(Rn∩B)における特徴量Fn(n=1,...,N)と、入力画像中の着目点(x,y)における特徴量との相違に相当するものである。具体的には、数5式のように、領域(Rn∩B)における色特徴の平均値(A(Yn),A(Cbn),A(Crn))と、入力画像の着目点(x,y)における色特徴(Y,Cb,Cr)と、のユークリッド距離DEnまたはマンハッタン距離DMnで与えられる。
上述の説明において、顕著度算出部15は、重複率Wn(n=1,...,N)と特徴量Fn(n=1,...,N)とに基づいて、顕著度Sx,yを算出している。しかし、重複率の情報は用いずに、特徴量Fnから導出される距離Dn(n=1,...,N)に基づいて算出するようにしてもよい。例えば、以下の数6式のように、顕著度Sx,yを距離Dn(n=1,...,N)のうちの最小値として与えてもよい。
Sx,y=min(D1,D2,...,DN) (数6)
また、重複率Wn(n=1,...,N)が閾値T以上の部分領域Rn(n=1,...,N’)に注目するようにしてもよい。つまり、数7式のように、入力画像中の着目点(x,y)における色特徴(Y,Cb,Cr)と、閾値T以上の部分領域Rn(n=1,...,N’)の特徴量Fn(n=1,...,N’)との距離Dn(n=1,...,N’)のうちの最小値でもよい。ここで、閾値Tは、予め定められた所定値であてもよいし、画像中の注目領域の位置と大きさとが付与された学習用画像セットを用いて適切な値が求められるよう機械学習しておき、入力画像ごとに決定するようにしてもよい。
Sx,y=min(D1,D2,...,DN’) (数7)
このように、重複率の情報を用いずに顕著度Sx,yを算出することにより、重複率算出部13の構成およびその処理を省略することができる。
次に、本発明の第2の実施形態として、複数の背景領域Bk(k=1,...,K)を設定し、各背景領域に対して算出された顕著度Sk,x,y(k=1,...,K)を階層的に足し合わせて、統合顕著度ISx,yを算出する構成について説明を行う。なお、第1の実施形態において既に説明をした構成については、同一の符号を付し、その説明を省略する。
次に、本発明の第3の実施形態について説明を行う。本実施形態では、複数の部分領域Rk,n(k=1,...,K,n=1,...,N)を設定し、各部分領域に対して算出される顕著度Sk,x,y(k=1,...,K)を階層的に足し合わせて統合顕著度ISx,yを算出する。なお、第1、第2の実施形態において既に説明をした構成については、同一の符号を付し、その説明を省略する。
また、本発明は、上記実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行する処理である。また、本発明は、複数の機器から構成されるシステムに適用しても、1つの機器からなる装置に適用してもよい。本発明は上記実施例に限定されるものではなく、本発明の趣旨に基づき種々の変形(各実施例の有機的な組合せを含む)が可能であり、それらを本発明の範囲から除外するものではない。即ち、上述した各実施例及びその変形例を組み合わせた構成も全て本発明に含まれるものである。
11 領域分割部
12 背景領域設定部
13 重複率算出部
14 特徴量算出部
15 顕著度算出部
16 検出部
Claims (10)
- 入力画像を複数の部分領域に分割する領域分割手段と、
前記入力画像に背景領域を設定する背景領域設定手段と、
前記部分領域と前記背景領域との重複する領域における特徴量を算出する特徴量算出手段と、
前記算出した特徴量と前記入力画像の各位置における特徴量とに基づいて、前記入力画像の各位置における顕著度を算出する顕著度算出手段と、
前記算出した顕著度に基づいて、前記入力画像の注目領域を検出する検出手段と、
を有することを特徴とする注目領域検出装置。 - 前記背景領域は、前記入力画像の端部に設定される少なくとも1つの領域であることを特徴とする請求項1に記載の注目領域検出装置。
- 前記背景領域設定手段は、画像中の注目領域の位置と大きさとが付与された学習用画像セットを用いて予め機械学習されており、入力画像ごとに背景領域の大きさを決定することを特徴とする請求項1または2に記載の注目領域検出装置。
- 前記部分領域と前記背景領域とが重複する領域の重複率を算出する重複率算出手段を更に有し、
前記顕著度算出手段は、前記特徴量算出手段により算出した特徴量と、前記入力画像の各位置における特徴量と、前記重複率算出手段により算出した重複率とに基づいて、前記入力画像の各位置における顕著度を算出することを特徴とする請求項1から3のいずれか1項に記載の注目領域検出装置。 - 前記重複率は、前記背景領域の面積と、前記背景領域と前記部分領域とが重複する領域の面積と、の比であることを特徴とする請求項4に記載の注目領域検出装置。
- 前記顕著度は、前記特徴量算出手段により算出した特徴量と前記入力画像の各位置における特徴量との相違と、前記重複率と、の積和であることを特徴とする請求項4または5に記載の注目領域検出装置。
- 複数の前記顕著度を統合する統合手段を更に有し、
前記背景領域設定手段は、前記入力画像に大きさの異なる複数の背景領域を設定し、
前記徴量算出手段は、前記複数の背景領域ごとに、前記部分領域と重複する領域における特徴量を算出し、
前記顕著度算出手段は、前記複数の背景領域ごとに前記顕著度を算出し、
前記統合手段は、前記複数の背景領域ごとの顕著度を統合し、
前記検出手段は、前記統合された顕著度に基づいて、前記入力画像の注目領域を検出することを特徴とする請求項1から6のいずれか1項に記載の注目領域検出装置。 - 複数の前記顕著度を統合する統合手段を更に有し、
前記領域分割手段は、異なる複数の粒度により、前記入力画像を複数の部分領域に分割し、
前記徴量算出手段は、前記複数の粒度ごとに、前記部分領域と重複する領域における特徴量を算出し、
前記顕著度算出手段は、前記複数の粒度ごとに前記顕著度を算出し、
前記統合手段は、前記複数の粒度ごとの顕著度を統合し、
前記検出手段は、前記統合された顕著度に基づいて、前記入力画像の注目領域を検出することを特徴とする請求項1から6のいずれか1項に記載の注目領域検出装置。 - 入力画像を複数の部分領域に分割するステップと、
前記入力画像に背景領域を設定するステップと、
前記部分領域と前記背景領域との重複する領域における特徴量を算出するステップと、
前記算出した特徴量と前記入力画像の各位置における特徴量とに基づいて、前記入力画像の各位置における顕著度を算出するステップと、
前記算出した顕著度に基づいて、前記入力画像の注目領域を検出するステップと、
を有することを特徴とする注目領域検出方法。 - コンピュータを、請求項1から8のいずれか1項に記載の注目領域検出装置として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015043745A JP6642970B2 (ja) | 2015-03-05 | 2015-03-05 | 注目領域検出装置、注目領域検出方法及びプログラム |
US15/059,179 US10169673B2 (en) | 2015-03-05 | 2016-03-02 | Region-of-interest detection apparatus, region-of-interest detection method, and recording medium |
US16/200,437 US10748023B2 (en) | 2015-03-05 | 2018-11-26 | Region-of-interest detection apparatus, region-of-interest detection method, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015043745A JP6642970B2 (ja) | 2015-03-05 | 2015-03-05 | 注目領域検出装置、注目領域検出方法及びプログラム |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2016162420A true JP2016162420A (ja) | 2016-09-05 |
JP2016162420A5 JP2016162420A5 (ja) | 2018-04-19 |
JP6642970B2 JP6642970B2 (ja) | 2020-02-12 |
Family
ID=56845508
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015043745A Active JP6642970B2 (ja) | 2015-03-05 | 2015-03-05 | 注目領域検出装置、注目領域検出方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (2) | US10169673B2 (ja) |
JP (1) | JP6642970B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106599891A (zh) * | 2016-10-18 | 2017-04-26 | 华中科技大学 | 一种基于尺度相位谱显著性的遥感图像兴趣区快速提取方法 |
CN113222888A (zh) * | 2021-03-19 | 2021-08-06 | 复旦大学 | 基于深度纹理特征的纺织品纱织尺寸检测方法 |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10055666B2 (en) * | 2014-05-08 | 2018-08-21 | Aselsan Elektronik Sanayi Ve Ticaret Anonim Sirketi | Real-time, semi-automatic method for target tracking window initialization in thermal imagery |
JP6642970B2 (ja) * | 2015-03-05 | 2020-02-12 | キヤノン株式会社 | 注目領域検出装置、注目領域検出方法及びプログラム |
EP3611701A4 (en) * | 2017-04-11 | 2020-12-02 | Rakuten, Inc. | IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD AND PROGRAM |
US11200678B2 (en) * | 2019-09-17 | 2021-12-14 | Sony Corporation | Image-based mask frame interpolation |
JP7392368B2 (ja) * | 2019-10-03 | 2023-12-06 | 富士フイルムビジネスイノベーション株式会社 | 画像処理装置,システム,プログラム |
CN112053335B (zh) * | 2020-08-31 | 2023-05-12 | 中冶赛迪信息技术(重庆)有限公司 | 一种热轧棒材重叠检测方法、系统及介质 |
TWI800814B (zh) * | 2021-04-12 | 2023-05-01 | 宏碁股份有限公司 | 影像拼接方法 |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014215926A (ja) * | 2013-04-26 | 2014-11-17 | オムロン株式会社 | 画像処理装置、画像処理方法、プログラムおよび記録媒体 |
Family Cites Families (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
ES2140825T3 (es) * | 1995-01-31 | 2000-03-01 | United Parcel Service Inc | Procedimiento y aparato para separar el primer plano del fondo en imagenes que contienen texto. |
AUPN727295A0 (en) * | 1995-12-21 | 1996-01-18 | Canon Kabushiki Kaisha | Zone segmentation for image display |
US6301382B1 (en) * | 1996-06-07 | 2001-10-09 | Microsoft Corporation | Extracting a matte of a foreground object from multiple backgrounds by triangulation |
US5900953A (en) * | 1997-06-17 | 1999-05-04 | At&T Corp | Method and apparatus for extracting a foreground image and a background image from a color document image |
US6282317B1 (en) * | 1998-12-31 | 2001-08-28 | Eastman Kodak Company | Method for automatic determination of main subjects in photographic images |
US6721446B1 (en) * | 1999-04-26 | 2004-04-13 | Adobe Systems Incorporated | Identifying intrinsic pixel colors in a region of uncertain pixels |
US6504951B1 (en) * | 1999-11-29 | 2003-01-07 | Eastman Kodak Company | Method for detecting sky in images |
US7212668B1 (en) * | 2000-08-18 | 2007-05-01 | Eastman Kodak Company | Digital image processing system and method for emphasizing a main subject of an image |
AUPR212600A0 (en) * | 2000-12-18 | 2001-01-25 | Canon Kabushiki Kaisha | Efficient video coding |
EP1353516A1 (en) * | 2002-04-08 | 2003-10-15 | Mitsubishi Electric Information Technology Centre Europe B.V. | A method and apparatus for detecting and/or tracking one or more colour regions in an image or sequence of images |
US7627151B2 (en) * | 2003-04-04 | 2009-12-01 | Lumidigm, Inc. | Systems and methods for improved biometric feature definition |
US7844076B2 (en) * | 2003-06-26 | 2010-11-30 | Fotonation Vision Limited | Digital image processing using face detection and skin tone information |
US7171058B2 (en) * | 2003-07-31 | 2007-01-30 | Eastman Kodak Company | Method and computer program product for producing an image of a desired aspect ratio |
US7949186B2 (en) * | 2006-03-15 | 2011-05-24 | Massachusetts Institute Of Technology | Pyramid match kernel and related techniques |
US20080019575A1 (en) * | 2006-07-20 | 2008-01-24 | Anthony Scalise | Digital image cropping using a blended map |
JP5016541B2 (ja) * | 2008-04-01 | 2012-09-05 | 富士フイルム株式会社 | 画像処理装置および方法並びにプログラム |
US8135182B2 (en) * | 2008-04-22 | 2012-03-13 | Eastman Kodak Company | Method for creating photo cutouts and collages |
JP2010055194A (ja) * | 2008-08-26 | 2010-03-11 | Sony Corp | 画像処理装置および方法、学習装置および方法、並びにプログラム |
JP4868046B2 (ja) | 2009-08-31 | 2012-02-01 | カシオ計算機株式会社 | 画像処理装置、画像処理方法及びプログラム |
US8649606B2 (en) * | 2010-02-10 | 2014-02-11 | California Institute Of Technology | Methods and systems for generating saliency models through linear and/or nonlinear integration |
JP2011176748A (ja) * | 2010-02-25 | 2011-09-08 | Sony Corp | 画像処理装置および方法、並びにプログラム |
US8363984B1 (en) * | 2010-07-13 | 2013-01-29 | Google Inc. | Method and system for automatically cropping images |
AU2010241260B2 (en) * | 2010-10-29 | 2013-12-19 | Canon Kabushiki Kaisha | Foreground background separation in a scene with unstable textures |
JP5896661B2 (ja) * | 2011-09-14 | 2016-03-30 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
US9025880B2 (en) * | 2012-08-29 | 2015-05-05 | Disney Enterprises, Inc. | Visual saliency estimation for images and video |
EP2706503A3 (en) * | 2012-09-11 | 2017-08-30 | Thomson Licensing | Method and apparatus for bilayer image segmentation |
US9129148B1 (en) * | 2012-11-09 | 2015-09-08 | Orbeus Inc. | System, method and apparatus for scene recognition |
IL224896A (en) * | 2013-02-25 | 2017-09-28 | Agent Video Intelligence Ltd | Method for extracting objects |
US9191643B2 (en) * | 2013-04-15 | 2015-11-17 | Microsoft Technology Licensing, Llc | Mixing infrared and color component data point clouds |
US9330334B2 (en) * | 2013-10-24 | 2016-05-03 | Adobe Systems Incorporated | Iterative saliency map estimation |
US9349054B1 (en) * | 2014-10-29 | 2016-05-24 | Behavioral Recognition Systems, Inc. | Foreground detector for video analytics system |
US9460522B2 (en) * | 2014-10-29 | 2016-10-04 | Behavioral Recognition Systems, Inc. | Incremental update for background model thresholds |
AU2014271236A1 (en) * | 2014-12-02 | 2016-06-16 | Canon Kabushiki Kaisha | Video segmentation method |
JP6642970B2 (ja) * | 2015-03-05 | 2020-02-12 | キヤノン株式会社 | 注目領域検出装置、注目領域検出方法及びプログラム |
US9965865B1 (en) * | 2017-03-29 | 2018-05-08 | Amazon Technologies, Inc. | Image data segmentation using depth data |
-
2015
- 2015-03-05 JP JP2015043745A patent/JP6642970B2/ja active Active
-
2016
- 2016-03-02 US US15/059,179 patent/US10169673B2/en active Active
-
2018
- 2018-11-26 US US16/200,437 patent/US10748023B2/en active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014215926A (ja) * | 2013-04-26 | 2014-11-17 | オムロン株式会社 | 画像処理装置、画像処理方法、プログラムおよび記録媒体 |
Non-Patent Citations (2)
Title |
---|
柳原 徹也、前田 純治: ""画像領域における注視要素を基にした知覚的重要度の識別"", 電子情報通信学会技術研究報告, vol. 104, no. 648, JPN6019010072, 27 January 2005 (2005-01-27), JP, pages 13 - 18 * |
長谷川 尭史、該3名: ""顕微鏡画像中に含まれる底生生物の自動分類法"", 電子情報通信学会技術研究報告, vol. 110, no. 420, JPN6019010073, 14 February 2011 (2011-02-14), JP, pages 125 - 129 * |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106599891A (zh) * | 2016-10-18 | 2017-04-26 | 华中科技大学 | 一种基于尺度相位谱显著性的遥感图像兴趣区快速提取方法 |
CN113222888A (zh) * | 2021-03-19 | 2021-08-06 | 复旦大学 | 基于深度纹理特征的纺织品纱织尺寸检测方法 |
Also Published As
Publication number | Publication date |
---|---|
US20160259990A1 (en) | 2016-09-08 |
JP6642970B2 (ja) | 2020-02-12 |
US10748023B2 (en) | 2020-08-18 |
US10169673B2 (en) | 2019-01-01 |
US20190095741A1 (en) | 2019-03-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6642970B2 (ja) | 注目領域検出装置、注目領域検出方法及びプログラム | |
US9275281B2 (en) | Mobile image capture, processing, and electronic form generation | |
US9230148B2 (en) | Method and system for binarization of two dimensional code image | |
JP6547386B2 (ja) | 画像処理装置及び方法 | |
US8805077B2 (en) | Subject region detecting apparatus | |
US9928439B2 (en) | Facilitating text identification and editing in images | |
US8811751B1 (en) | Method and system for correcting projective distortions with elimination steps on multiple levels | |
US8897600B1 (en) | Method and system for determining vanishing point candidates for projective correction | |
US20100220927A1 (en) | Method of and apparatus for classifying image using histogram analysis, and method of and apparatus for recognizing text image using the histogram analysis | |
JP6569500B2 (ja) | 画像処理装置及び画像処理方法 | |
JP4694613B2 (ja) | 原稿方向判定装置、原稿方向判定方法、プログラムおよびその記録媒体 | |
WO2014160433A2 (en) | Systems and methods for classifying objects in digital images captured using mobile devices | |
JP2016517587A (ja) | モバイル装置を用いて取込まれたデジタル画像におけるオブジェクトの分類 | |
JP6277750B2 (ja) | 画像処理装置及び方法 | |
CN109697414B (zh) | 一种文本定位方法及装置 | |
CN107368829B (zh) | 确定输入图像中的矩形目标区域的方法和设备 | |
JP2011129114A (ja) | 検出装置、検出方法、検出プログラム、および記録媒体 | |
CN109948521B (zh) | 图像纠偏方法和装置、设备及存储介质 | |
US20120257822A1 (en) | Image processing apparatus, image processing method, and computer readable medium | |
US8913836B1 (en) | Method and system for correcting projective distortions using eigenpoints | |
US20180365837A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP2011065643A (ja) | 文字認識方法及び文字認識装置 | |
KR101377910B1 (ko) | 화상 처리 방법 및 화상 처리 장치 | |
JP6542230B2 (ja) | 投影ひずみを補正するための方法及びシステム | |
US9483834B1 (en) | Object boundary detection in an image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180302 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180302 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190315 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190326 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190524 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20190806 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191106 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20191115 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191203 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200106 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6642970 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |