JP6502511B2 - 計算装置、計算装置の制御方法および計算プログラム - Google Patents
計算装置、計算装置の制御方法および計算プログラム Download PDFInfo
- Publication number
- JP6502511B2 JP6502511B2 JP2017539082A JP2017539082A JP6502511B2 JP 6502511 B2 JP6502511 B2 JP 6502511B2 JP 2017539082 A JP2017539082 A JP 2017539082A JP 2017539082 A JP2017539082 A JP 2017539082A JP 6502511 B2 JP6502511 B2 JP 6502511B2
- Authority
- JP
- Japan
- Prior art keywords
- measurement point
- measurement
- image
- reference image
- range
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 76
- 238000004364 calculation method Methods 0.000 title claims description 60
- 238000005259 measurement Methods 0.000 claims description 466
- 238000003384 imaging method Methods 0.000 claims description 87
- 238000012545 processing Methods 0.000 description 31
- 238000004458 analytical method Methods 0.000 description 27
- 230000008569 process Effects 0.000 description 21
- 230000002093 peripheral effect Effects 0.000 description 12
- 238000000691 measurement method Methods 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 238000006073 displacement reaction Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000005401 electroluminescence Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000010420 art technique Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/245—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C3/00—Measuring distances in line of sight; Optical rangefinders
- G01C3/02—Details
- G01C3/06—Use of electric means to obtain final indication
- G01C3/08—Use of electric radiation detectors
- G01C3/085—Use of electric radiation detectors with electronic parallax measurement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/60—Analysis of geometric attributes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/97—Determining parameters from multiple pictures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/122—Improving the 3D impression of stereoscopic images by modifying image signal contents, e.g. by filtering or adding monoscopic depth cues
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/04—Indexing scheme for image data processing or generation, in general involving 3D image data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Electromagnetism (AREA)
- Remote Sensing (AREA)
- Geometry (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
- Measurement Of Optical Distance (AREA)
Description
以下、本発明の実施形態について、詳細に説明する。
図1は、本発明の第1の実施形態における計測装置(計算装置)1の構成を示すブロック図である。図1に示すように、本実施形態に係る計測装置1は、入力部10、計測部20、および表示部30を備えている。
上述のようにして撮像された第1画像と第2画像の視差値は、ステレオ方式によって算出することが可能である。ここで、本実施形態に係る計測方法を説明する前に、ステレオ方式による距離の算出について説明する。
以下では、図2〜図7を参照して、本実施形態に係る計測装置1を用いた計測方法(計算装置の制御方法)を説明する。図2は、計測装置1が実行する処理の一例を示すフローチャートである。なお、同図では、共通の被写体を撮像した複数の画像(第1画像と第2画像)が計測装置1に入力済みであり、かつ、初期基準画像を何れの画像とするかが既に決まっており、表示部30に初期基準画像が表示されている状態からの処理を示している。初期基準画像は、第1と第2のどちらの画像であってもよいが、本実施形態では、第1画像を初期基準画像とした例を説明する。また、本実施形態では、初期基準画像を撮像した第1撮像装置40のカメラ座標系を基準として計測結果の値を算出する例を説明する。
続いて、S108の処理内容を詳細に説明する。S108において、位置情報算出部204は、S108以前に設定された計測点の三次元位置情報を算出する。まず、位置情報算出部204は、三次元位置情報の算出にあたり、画像選択部202がS104で選択した基準画像と、もう一方の画像(参照画像)とを用い、ステレオ方式で計測点における両画像の視差値を算出する。
以下、本発明の第2の実施形態について詳細に説明する。なお、上記実施形態と同様の構成には同一の参照番号を付し、その説明を省略する。
本実施形態に係る計測装置(計算装置)2は、図1に示した第1の実施形態の計測装置1と同様の構成であるが、計測部20が計測部21に変更されている点で異なっている。計測部21は、計測部21が備える各ブロックに加えて、計測範囲設定部206を備えている。
以下では、図9を参照して、計測装置2による計測方法(計算装置の制御方法)を説明する。図9は、計測装置2が実行する処理の一例を示すフローチャートである。図9のフローチャートのS201〜S204、S207〜S211は、図2におけるS101〜S104、S106〜S110とそれぞれ同様の処理である。つまり、図9のフローチャートは、図2のフローチャートのS104の後にS205の処理を追加し、それに伴ってS105をS206に変更したものである。ここでは、図2との相違点であるS205およびS206について説明し、他の処理の説明は省略する。
続いて、S205の処理内容を詳細に説明する。S205において、計測範囲設定部206は、計測点候補位置を用いて基準画像上に計測点範囲を設定する。上述のように、S205に続くS206では、S205で設定した計測点範囲内で計測点位置を受け付ける。つまり、計測範囲設定部206による計測点範囲の設定により、計測点候補位置から大きく外れた範囲を除外してより適切な位置に計測点を設定させることが可能になる。
以下、本発明の第3の実施形態について、図10を参照して詳細に説明する。なお、上記実施形態と同様の構成には同一の参照番号を付し、その説明を省略する。
本実施形態に係る計測装置(計算装置)3は、図10に示すように、図8に示した第2の実施形態の計測装置2と同様の構成であるが、計測部21が計測部22に変更されている点で異なっている。計測部22は、計測部21が備える各ブロックに加えて、周辺視差値算出部207を備えている。周辺視差値算出部207は、計測点範囲の中心位置を補正するためのずれ量を算出する。
計測装置3の実行する計測方法は、計測装置2の実行する計測方法に処理手順がさらに追加されたものとなっており、計測装置3の実行する計測方法によれば、上述の計測点範囲をより好ましい範囲に設定できる。
以下では、図11を参照して、計測装置3による計測方法(計算装置の制御方法)の処理手順を説明する。図11は、計測装置3が実行する処理の一例を示すフローチャートである。図11のフローチャートのS301〜S303、S305〜S312は、図9におけるS201〜S203、S204〜S211とそれぞれ同様の処理である。つまり、図11のフローチャートは、図9のフローチャートのS203の後にS304の処理を追加したものである。ここでは、図9との相違点であるS304を中心に説明し、他の処理の詳細な説明は省略する。
続いて、処理S304の処理内容の詳細を説明する。前段階のS303で分析部201が、オクルージョン領域が存在すると判定した場合、S304において周辺視差値算出部207は、計測点範囲の中心位置を補正するためのずれ量を算出する。
上記の各実施形態で述べた計測装置では、入力される2つの画像は、水平面上に配置されたステレオカメラで撮像されたものとしたが、これに限定されない。例えば、2つの撮像装置が垂直方向に配置された場合であっても、上述の各実施形態で説明した計測方法を同様に適用できる。ステレオカメラが垂直軸上に配置されている場合には、視差の方向が垂直軸上にあるため、視差算出時の走査軸も当該垂直軸である。また、複数の撮像装置でそれぞれ撮像した複数の画像を用いる代わりに、1つの撮像装置を被写体と平行な方向に移動させて撮像した、撮像位置の異なる複数の画像を用いてもよい。
計測装置(計測装置1、2、および3)の制御ブロック(特に計測部20、21、および22)は、集積回路(Integrated Circuit)等に形成された論理回路(ハードウェア)によって実現してもよいし、CPUを用いてソフトウェアによって実現してもよい。前者の場合、FPGA(Field Programmable Gate Array)等のプログラム可能な集積回路で実現してもよい。また、後者の場合、上記計測装置は、各機能を実現するソフトウェアであるプログラムの命令を実行するCPU、上記プログラムおよび各種データがコンピュータ(またはCPU)で読み取り可能に記録されたROM(Read Only Memory)、または、記憶装置(これらを「記録媒体」と称する)、上記プログラムを展開するRAMなどを備えている。そして、コンピュータ(またはCPU)が上記プログラムを上記記録媒体から読み取って実行することにより、本発明の一態様の目的が達成される。上記記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、上記プログラムは、該プログラムを伝送可能な任意の伝送媒体(通信ネットワークや放送波等)を介して上記コンピュータに供給されてもよい。なお、本発明の一態様は、上記プログラムが電子的な伝送によって具現化された、搬送波に埋め込まれたデータ信号の形態でも実現され得る。
本発明の態様1に係る計算装置(計測装置1〜3)は、共通の被写体を撮像した複数の画像(第1画像、第2画像)を用いて、上記被写体上に設定された計測点の三次元位置を算出する計算装置であって、上記複数の画像を分析して、上記計算装置の使用者が上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定した計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在するか判定する分析部(201)と、上記分析部が、オクルージョン領域が存在すると判定した場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像とする画像選択部(202)と、該基準画像上に上記計測点を設定する計測点設定部(203)と、を備えている。
本出願は、2015年9月9日に出願された特願2015−177719に対して優先権の利益を主張するものであり、当該出願を参照することにより、その内容の全てが本書に含まれる。
201 分析部
202 画像選択部
203 計測点設定部
206 計測範囲設定部
207 周辺視差値算出部
Claims (6)
- 被写体を撮像した複数の画像を用いて、上記被写体上の計測点の三次元位置または該三次元位置を用いた計測値を算出する計算装置であって、
上記複数の画像の1つである初期基準画像を表示し、上記計測点の設定位置の候補として上記初期基準画像上に設定された計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在する場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像として表示する表示部と、
上記基準画像上に上記計測点を設定する計測点設定部と、を備えていることを特徴とする計算装置。 - 上記計測点設定部は、上記計測点候補位置を基準として上記基準画像上に設定した計測点範囲内の位置に上記計測点を設定する、ことを特徴とする請求項1に記載の計算装置。
- 上記計測点設定部は、上記計測点候補位置を、上記計測点候補位置の周辺のオクルージョン領域ではない位置と、上記複数の画像のうち上記初期基準画像以外の画像における、上記位置に対応する対応位置との間の視差値に応じて補正した位置を基準として上記計測点範囲を設定する、ことを特徴とする請求項2に記載の計算装置。
- 上記計測点設定部は、上記視差値の大小に応じて上記計測点範囲の広さを設定する、ことを特徴とする請求項3に記載の計算装置。
- 被写体を撮像した複数の画像を用いて、上記被写体上の計測点の三次元位置または該三次元位置を用いた計測値を算出する計算装置の制御方法であって、
上記複数の画像の1つである初期基準画像を表示し、上記計測点の設定位置の候補として、上記複数の画像の1つである初期基準画像上に設定された計測点候補位置、および該計測点候補位置から所定の範囲内の位置の少なくとも何れかにオクルージョン領域が存在する場合に、上記複数の画像のうち上記初期基準画像以外の画像を基準画像として表示する基準画像表示ステップと、
上記基準画像上に上記計測点を設定する計測点設定ステップと、を
含むことを特徴とする計算装置の制御方法。 - 請求項1から4の何れか1項に記載の計算装置としてコンピュータを機能させるための計算プログラムであって、上記計測点設定部としてコンピュータを機能させるための計算プログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015177719 | 2015-09-09 | ||
JP2015177719 | 2015-09-09 | ||
PCT/JP2016/073831 WO2017043258A1 (ja) | 2015-09-09 | 2016-08-15 | 計算装置および計算装置の制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2017043258A1 JPWO2017043258A1 (ja) | 2018-05-24 |
JP6502511B2 true JP6502511B2 (ja) | 2019-04-17 |
Family
ID=58240761
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017539082A Active JP6502511B2 (ja) | 2015-09-09 | 2016-08-15 | 計算装置、計算装置の制御方法および計算プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20190026921A1 (ja) |
JP (1) | JP6502511B2 (ja) |
WO (1) | WO2017043258A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6883767B2 (ja) * | 2017-02-28 | 2021-06-09 | パナソニックIpマネジメント株式会社 | 変位計測装置および変位計測方法 |
JP2018197674A (ja) * | 2017-05-23 | 2018-12-13 | オリンパス株式会社 | 計測装置の作動方法、計測装置、計測システム、3次元形状復元装置、およびプログラム |
JP6970568B2 (ja) * | 2017-09-22 | 2021-11-24 | 株式会社デンソー | 車両の周辺監視装置と周辺監視方法 |
US11182914B2 (en) | 2018-05-21 | 2021-11-23 | Facebook Technologies, Llc | Dynamic structured light for depth sensing systems based on contrast in a local area |
JP7119621B2 (ja) | 2018-06-18 | 2022-08-17 | オムロン株式会社 | 画像処理システムおよび画像処理方法 |
JP7441608B2 (ja) * | 2019-03-22 | 2024-03-01 | セコム株式会社 | 移動先設定装置、移動先設定方法、移動先設定プログラム及びロボット |
WO2021039088A1 (ja) * | 2019-08-28 | 2021-03-04 | パナソニックIpマネジメント株式会社 | 撮像パラメータ出力方法、及び、撮像パラメータ出力装置 |
WO2021181448A1 (ja) * | 2020-03-09 | 2021-09-16 | オリンパス株式会社 | 面推定方法、面推定装置、および記録媒体 |
JP2022020353A (ja) * | 2020-07-20 | 2022-02-01 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3551467B2 (ja) * | 1994-04-13 | 2004-08-04 | 松下電器産業株式会社 | 視差演算装置、視差演算方法及び画像合成装置 |
JP2011070415A (ja) * | 2009-09-25 | 2011-04-07 | Fujifilm Corp | 画像処理装置及び画像処理方法 |
JP5051670B2 (ja) * | 2010-02-15 | 2012-10-17 | Necシステムテクノロジー株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP5018980B2 (ja) * | 2010-04-08 | 2012-09-05 | カシオ計算機株式会社 | 撮像装置、長さ測定方法、及びプログラム |
WO2012114975A1 (ja) * | 2011-02-24 | 2012-08-30 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP5582101B2 (ja) * | 2011-06-23 | 2014-09-03 | コニカミノルタ株式会社 | 画像処理装置、そのプログラム、および画像処理方法 |
US20130308013A1 (en) * | 2012-05-18 | 2013-11-21 | Honeywell International Inc. d/b/a Honeywell Scanning and Mobility | Untouched 3d measurement with range imaging |
JP2014078095A (ja) * | 2012-10-10 | 2014-05-01 | Sony Corp | 画像処理装置、画像処理方法、及びプログラム |
US20140210950A1 (en) * | 2013-01-31 | 2014-07-31 | Qualcomm Incorporated | Systems and methods for multiview metrology |
-
2016
- 2016-08-15 JP JP2017539082A patent/JP6502511B2/ja active Active
- 2016-08-15 WO PCT/JP2016/073831 patent/WO2017043258A1/ja active Application Filing
- 2016-08-15 US US15/757,647 patent/US20190026921A1/en not_active Abandoned
Also Published As
Publication number | Publication date |
---|---|
JPWO2017043258A1 (ja) | 2018-05-24 |
WO2017043258A1 (ja) | 2017-03-16 |
US20190026921A1 (en) | 2019-01-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6502511B2 (ja) | 計算装置、計算装置の制御方法および計算プログラム | |
US10277889B2 (en) | Method and system for depth estimation based upon object magnification | |
US10074179B2 (en) | Image measurement device | |
US10091489B2 (en) | Image capturing device, image processing method, and recording medium | |
JP6016226B2 (ja) | 測長装置、測長方法、プログラム | |
US9633450B2 (en) | Image measurement device, and recording medium | |
US11321861B2 (en) | Method of operating measurement device, measurement device, measurement system, three-dimensional shape restoration device, and recording medium | |
CN112739976B (zh) | 尺寸测量装置以及尺寸测量方法 | |
WO2017199285A1 (ja) | 画像処理装置及び画像処理方法 | |
JP2016217944A (ja) | 計測装置、および計測方法 | |
US11100699B2 (en) | Measurement method, measurement device, and recording medium | |
KR20120066567A (ko) | 화상 처리 장치 및 프로그램 | |
JP2017090420A (ja) | 3次元情報復元装置及び3次元情報復元方法 | |
JP5996233B2 (ja) | 画像撮像装置 | |
CN112585423B (zh) | 测距摄像机 | |
WO2019093062A1 (ja) | 計測装置、計測装置の制御方法、計測プログラムおよび記録媒体 | |
US10346680B2 (en) | Imaging apparatus and control method for determining a posture of an object | |
JP6730029B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、および撮像装置 | |
JP6641485B2 (ja) | 位置指定装置および位置指定方法 | |
WO2018061430A1 (ja) | 計測装置、計測方法、計測プログラム、及び記録媒体 | |
JP2017067737A (ja) | 寸法計測装置、寸法計測方法およびプログラム | |
US9571738B2 (en) | Image processing apparatus | |
CN112424566B (zh) | 测距摄像机 | |
JP6639120B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP2015197429A (ja) | 画像処理装置、撮像装置、画像処理方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180131 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180131 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20181218 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190123 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190305 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190320 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6502511 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |