JP6921036B2 - レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置 - Google Patents

レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置 Download PDF

Info

Publication number
JP6921036B2
JP6921036B2 JP2018101661A JP2018101661A JP6921036B2 JP 6921036 B2 JP6921036 B2 JP 6921036B2 JP 2018101661 A JP2018101661 A JP 2018101661A JP 2018101661 A JP2018101661 A JP 2018101661A JP 6921036 B2 JP6921036 B2 JP 6921036B2
Authority
JP
Japan
Prior art keywords
laser
display
irradiation position
measuring device
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018101661A
Other languages
English (en)
Other versions
JP2019207127A (ja
Inventor
遼雅 鈴木
遼雅 鈴木
秀明 前原
秀明 前原
百代 日野
百代 日野
謙二 平
謙二 平
純雄 加藤
純雄 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Engineering Co Ltd
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Engineering Co Ltd
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Engineering Co Ltd, Mitsubishi Electric Corp filed Critical Mitsubishi Electric Engineering Co Ltd
Priority to JP2018101661A priority Critical patent/JP6921036B2/ja
Priority to PCT/JP2019/013295 priority patent/WO2019230171A1/ja
Priority to EP19811903.4A priority patent/EP3779504A4/en
Publication of JP2019207127A publication Critical patent/JP2019207127A/ja
Priority to US17/077,577 priority patent/US20210041543A1/en
Application granted granted Critical
Publication of JP6921036B2 publication Critical patent/JP6921036B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/86Combinations of lidar systems with systems other than lidar, radar or sonar, e.g. with direction finders
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/497Means for monitoring or calibrating
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Optical Radar Systems And Details Thereof (AREA)

Description

この発明は、レーザ計測装置とカメラの位置関係を算出するレーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置に関する。
レーザ計測装置とカメラの位置情報を算出する方法として、特許文献1に、キャリブレーションターゲットを用い、レーザ計測装置からキャリブレーションターゲットに対してレーザースキャンを実行してキャリブレーションターゲットの平面を算出し、カメラによりキャリブレーションターゲットを撮像してキャリブレーションターゲットの平面を算出し、それぞれの算出結果と測地座標におけるキャリブレーションターゲットの既知情報と照合し、レーザ計測装置とカメラの取付け位置及び取付け角度を算出する方法が示されている。
また、レーザ計測装置とカメラの位置関係を求めるために、レーザ計測装置の位置や方向を求める方法として、非特許文献1に、平らな地面に置いたターゲットを用い、レーザ計測装置がターゲットを2次元レーザスキャナで計測し、取得された点群データからターゲットの平面座標値を得、平面座標値を計測原点から平行移動及び回転させて平行移動量及び回転量を決定し、レーザ計測装置の位置や方向を算出する方法が示されている。
さらに、レーザ計測装置とカメラとの較正誤差を検出する方法として、特許文献2に、レーザ計測装置から較正誤差検証用パターンと同様なパターンである較正用パターンを物体の表面に形成し、物体の表面に形成された較正用パターンを不可視光透過フィルタが装着されたカメラにて撮像し、レーザ計測装置に対するカメラの相対位置及び相対姿勢を表す値を較正用パラメータとして算出する方法が示されている。
特開2017−26551号公報 特開2007−64723号公報
平岡透"ターゲット計測によるレーザスキャナのキャリブレーション" 写真測量とリモートセンシング 47.4 (2008): P.P.53−58
特許文献1及び非特許文献1に示されたものは、キャリブレーションターゲットを使用する必要がある。
また、特許文献2に示されたものは、不可視光を撮影するためのフィルタを用意する必要がある。
この発明は、上記した点に鑑みてなされたものであり、レーザ計測装置のレーザ光の照射位置の新しい算出方法により、レーザ計測装置とカメラの位置関係を算出することできるレーザ較正装置を得ることを目的とする。
この発明に係るレーザ較正装置は、レーザ光を出射し対象物からの反射光によって対象物の位置を計測するレーザ計測装置から出射されるレーザ光のレーザ照射位置を含む表示領域に、レーザ照射位置特定用パターンを表示するためのレーザ照射位置特定用パターン情報を出力するレーザ較正パターン表示用手段と、レーザ計測装置から出射され、表示領域に表示されたレーザ照射位置特定用パターンから反射されたレーザ光を受けたレーザ計測装置から出力される、レーザ光の反射強度値を含む反射強度値情報を受け、反射強度値情報における反射強度値に基づき、表示領域におけるレーザ照射位置を求めるレーザ照射位置特定手段と、表示領域にカメラ較正パターンを表示するためのカメラ較正パターン情報を出力するカメラ較正パターン表示用手段と、レーザ照射位置特定手段によって求められたレーザ照射位置を示すレーザ照射位置情報に基づき、カメラによって表示領域に表示されたカメラ較正パターンを撮影された撮影カメラ較正パターン情報を用いて、レーザ計測装置と前記カメラの位置関係を演算し、カメラに対するレーザ計測装置の位置関係情報を出力する位置関係演算手段と、を備える。
この発明によれば、例えば、キャリブレーションターゲット及び不可視光を撮影するためのフィルタを用いずに、レーザ計測装置とカメラの位置関係を算出でき、レーザ較正を自動的に行うことができるという効果がある。
この発明の実施の形態1に係るレーザ較正装置100を含む計算機3を備えた画像入力装置の構成例を示すブロック図である。 図1に示した画像入力装置の配置例を示す構成図である。 この発明の実施の形態1に係るレーザ較正装置100の構成要件を示す機能的に示したブロック図である。 この発明の実施の形態1に係るレーザ較正装置100の動作例を示すフローチャートである。 ディスプレイ4の表示画面41にカメラ較正パターン10が表示された状態を示す図である。 時刻t10において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t11において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t12において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t13において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t20において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t21において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t22において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 時刻t23において、ディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を示す図である。 レーザ計測装置1からのレーザ光の反射強度値と、柱状図系の表示位置との関係を示す図である。
実施の形態1.
この発明の実施の形態1に係るレーザ較正装置及びレーザ較正装置を含む画像入力装置を図に基づいて説明する。
まず、図1及び図2を用いて画像入力装置を説明する。画像入力装置は主として較正対象のレーザ計測装置1と、較正対象のディジタルカメラ2と、レーザ計測装置1とカメラ2の位置関係を算出することができるレーザ較正装置100を含み、位置関係を算出するプログラムを実行する計算機3と、計算機3のプログラムによって描画される較正パターンを表示画面に表示するディスプレイ4とを備えている。
レーザ計測装置1とカメラ2は固定器具5によって互いに固定される。固定器具5が三脚6に取り付けられ、保持される。
レーザ計測装置1はレーザ光を出射し、対象物から反射された反射光を受けて対象物の位置を計測する。レーザ計測装置1がレーザ光を出射する際、時刻データ及び照射角などを含む出力値を同時に計算機3に出力する。
カメラ2は対象物を撮像する。カメラ2の焦点距離、主点位置、歪み係数は、通常知られている算出方法によって事前に、つまり、レーザ計測装置1とカメラ2の位置関係を算出する前に算出される。
ディスプレイ4はカメラ2からの画像情報、レーザ計測装置1からの対象物の情報などを表示画面41に表示する。この実施の形態1ではディスプレイ4として液晶型ディスプレイを用いるが、原理的には映し出される色に応じてレーザ光の反射率を変えるディスプレイであれば液晶型ディスプレイでなくても良い。
計算機3は、1)レーザ計測装置1の出力値に含まれる時刻データに同期したレーザ照射位置特定用パターン20をディスプレイ4の表示画面41に表示するためのレーザ照射位置特定用パターン情報をディスプレイ4に出力し、2)レーザ計測装置1からディスプレイ4の表示画面41に出射され、ディスプレイ4の表示画面41に表示されたレーザ照射位置特定用パターン20(図6から図13参照)から反射されたレーザ光を受けたレーザ計測装置1から出力される、レーザ光の反射強度値を含む反射強度値情報を受け、3)反射強度値情報における反射強度値に基づきディスプレイ4の表示画面41におけるレーザ照射位置を求め、4)ディスプレイ4の表示画面41にカメラ較正パターン10を表示するためのカメラ較正パターン情報を出力し、5)ディスプレイ4の表示画面41に表示されたカメラ較正パターンをカメラ2によって撮影された撮影カメラ較正パターン情報2iを用い、レーザ照射位置に基づき、レーザ計測装置1とカメラ2の位置関係を演算し、カメラ2に対するレーザ計測装置1の位置関係情報を出力する。
この実施の形態1ではレーザ位置特定用パターン20をレーザ計測装置1の出力値に含まれる時刻データに同期して表示させるとしているが、レーザ計測装置1の出力値とレーザ位置特定用パターン20の表示内容を対応づけることができれば、レーザ位置特定用パターン20はレーザ計測装置1の出力値に含まれる時刻データに同期していなくても良い。
具体的には、計算機3は、演算及び制御を司る中央処理装置(CPU)31とROM及びRAMなどのメモリからなる記憶手段32と、入力用及び出力用のインターフェース(図示せず)を備えている。
記憶手段32は、図1に示すように、レーザ較正用プログラムP0、カメラ較正パターン表示プログラムP1、レーザ照射位置特定用パターン表示プログラムP2、レーザ照射位置特定プログラムP3、及びレーザ相対位置及び姿勢推定プログラムP4を記憶している。CPU31は、記憶手段32によって記憶されたレーザ較正用プログラムP0を読み出し、レーザ較正用プログラムP0に基づいてプログラムP1からP4を読み出し、プログラムP1からP4に従って、演算、制御する。
カメラ較正パターン表示プログラムP1は、ディスプレイ4の表示画面41に任意の大きさのカメラ較正パターン10を表示するためのプログラムである。
カメラ較正パターン表示プログラムP1によってディスプレイ4の表示画面41にカメラ較正パターン10が表示された状態を図5に示す。カメラ較正パターン10はチェッカーパターンであり、格子状に縦横交互に白黒が配置された格子状パターンである。チェッカーパターンのマス目の大きさはカメラ較正パターン表示プログラムP1の実行時に指定される。このチェッカーパターンからなるカメラ較正パターン10はカメラ2の位置及び姿勢を演算するために用いられるパターンである。
レーザ照射位置特定用パターン表示プログラムP2は、レーザ計測装置1の出力値に含まれる時刻データに同期して画面上を移動する白色の柱状図形21、22を有するレーザ照射位置特定用パターン20を、ディスプレイ4の表示画面41に表示するためのプログラムである。
レーザ照射位置特定用パターン表示プログラムP2によってディスプレイ4の表示画面41にレーザ照射位置特定用パターン20が表示された状態を図6から図9及び図10から図13に示す。レーザ照射位置特定用パターン20は背景が黒色であり、黒色の背景上に白色の柱状図形21、22が移動して表示される。図6から図9はレーザ計測装置1の出力値に含まれる時刻データを用いて算出された時刻t10からt13における、画面左端から画面右端に移動する白色の柱状図形21aから21dを示している。時刻t10からt13に表示される柱状図形21aから21dの表示が一定周期で繰り返される。図10から図13はレーザ計測装置1の出力値に含まれる時刻データを用いて算出された時刻t20からt23における、画面上端から画面下端に移動する白色の柱状図形22aから22dを示している。時刻t20からt23に表示される柱状図形22aから22dの表示が一定周期で繰り返される。
なお、時刻t10は画面左端から画面右端に移動する白色の柱状図形21aの開始時刻であり、時刻t11及び時刻t12は順次時刻t10後の柱状図形21b、21cが表示された時刻であり、時刻t13は柱状図形21dの終了時刻である。また、説明の都合上、時刻t10と時刻t13の間の時刻を2点示しているが、柱状図形は画面左端から画面右端に連続的に移動し、一定周期で繰り返される。画面左端から画面右端に連続的に移動する柱状図形を柱状図形21として説明する。
同様に、時刻t20は画面上端から画面下端に移動する白色の柱状図形22aの開始時刻であり、時刻t21及び時刻t22は順次一定周期後の柱状図形22b及び柱状図形22cが表示された時刻であり、時刻t23は柱状図形21dの終了時刻である。また、説明の都合上、時刻t20と時刻t23の間の時刻を2点示しているが、柱状図形は画面上端から画面下端に連続的に移動し、一定周期で繰り返される。画面上端から画面下端に連続的に移動する柱状図形を柱状図形22として説明する。
レーザ照射位置特定プログラムP3は、レーザ計測装置1の出力値を用いて、レーザ計測装置1が出射したレーザ光の照射位置を特定するためのプログラムである。
レーザ照射位置特定用パターン表示プログラムP2によって、柱状図形21が画面左端から画面右端に、又は柱状図形22が画面上端から画面下端に周期的に変化するレーザ照射位置特定用パターン20が表示されているディスプレイ4の表示画面41にレーザ計測装置1がレーザ光を出射し、レーザ計測装置1にて得られた、表示画面41から反射されたレーザ光の反射強度値の系列を足し合わせ、系列のピーク時刻を算出することで、レーザ照射位置を特定する。
すなわち、レーザ計測装置1からのレーザ光がディスプレイ4の表示画面41に表示される白色の柱状図形21又は柱状図形22に照射されて反射されたレーザ光を受けたレーザ計測装置1は、反射レーザ光の反射強度値を、背景である黒色の画面に照射されたレーザ光の反射強度値とは異なる値として出力する。本実施形態では、白色表示時の反射強度が黒色表示時の反射強度より大きいものとして記述を行うが、この特性が逆になるディスプレイも存在する。レーザ光の反射強度の値を見ることにより、レーザ光が照射されたディスプレイ4の表示画面41における柱状図形21又は柱状図形22の位置を知ることができ、その結果、レーザ計測装置1からのレーザ光のディスプレイ4の表示画面41における照射位置が特定できる。ただし、ディスプレイ上における反射強度値の変化は微弱であり、雑音の影響を受けやすいため、本実施形態では、ディスプレイの表示を周期的に変化させ、繰り返し周期ごとに反射強度の系列を足し合わせることで、レーザ照射位置の特定を行う。
具体的には、レーザ照射位置特定プログラムP3によって次のように行なわれる。
すなわち、レーザ計測装置1の出力値の中で、同一の照射角を持つ出力値をまとめ、反射強度値の系列を作成する。出力値が同一の照射角を持つ場合、それらは同一位置に照射されたレーザ光についての計測値である。
反射強度値の系列はレーザ照射位置特定用パターン表示プログラムP2によってディスプレイ4の表示画面41に表示される、周期的に変化し、繰り返されるレーザ照射位置特定用パターン20における柱状図形21及び柱状図形22の表示開始時刻を基準として、繰返し周期毎の反射強度系列を足し合わせる。
以下、反射強度系列の足し合わせについて詳しく述べる。柱状図形21の表示開始時刻は、画面左端から画面右端に移動する場合、図6に示した柱状図形21aが現れる時刻t10である。また、柱状図形22が画面上端から画面下端に移動する場合、柱状図形22の表示開始時刻は図10に示した柱状図形22aが現れる時刻t20である。柱状図形21の表示周期は、図9に示した柱状図形21dの表示終了時刻t13からt10を減じたものである。同様に、柱状図形22の表示周期は、図13に示した柱状図形22dの表示終了時刻t23からt20を減じたものである。
以下、柱状図形21の表示周期をT21、柱状図形22の表示周期をT22とする。柱状図形は周期的に表示されるため、nを自然数とするとき、時刻t11+T21×nにおける柱状図形21の表示位置は、時刻t11における柱状図形21の表示位置と同一である。これはt10≦t1P≦t13における任意の時刻t1Pについて成立する。また、柱状図形22についても同様に、t20≦t2Q≦t23における任意の時刻t2Qについて成立する。
そのため、照射角θ1で照射されたレーザ光が柱状図形21bの表示位置に照射される場合、照射角θ1及び時刻t11に対応する反射強度値に、照射角θ1及び時刻t11+T21×nに対応する反射強度値を足し合わせた値をAとし、t2P≠t11かつt10≦t2P≦t13である時刻t2Pについて、照射角θ1及び時刻t2Pに対応する反射強度値に、照射角θ1及び時刻t2P+T21×nに対応する反射強度値を足し合わせた値をBとしたとき、足し合わせの回数が十分に大きい場合、AはBよりも大きな値となる。これは任意の照射角について成立する。したがって、出力値の照射角それぞれについて反射強度系列の足し合わせを行い、反射強度値の和が最大となる時刻を調べることで、照射角と柱状図形の表示位置の対応を得ることができる。
柱状図形22が画面上端から画面下端に移動する場合、上記した柱状図形21が画面左端から画面右端に移動する場合と同様に、出力値の照射角それぞれについて反射強度系列の足し合わせを行い、反射強度値の和が最大となる時刻を調べることで、照射角と柱状図形の表示位置の対応を得ることができる。
このようにして得られた反射強度系列の一例を図14に示す。図14は、レーザ計測装置1の出力値の中で、照射角θを持つ出力値をまとめて作成した反射強度系列である。ここで、照射角θは、レーザ計測装置1が照射角θでレーザ光を照射した場合、柱状図形21cの表示位置にレーザ光が照射されるような値であるとする。また、ディスプレイの解像度は1920×1080であるとし、柱状図形21a、21b、21c、21dの中心位置のx座標はそれぞれ0、640、1280、1920であるとする。
図14は横軸に柱状図形の表示位置を、縦軸にレーザ計測装置1からの出力値であるレーザ光の反射強度値を示し、○印が柱状図形の表示位置に対応して演算にて求められた反射強度値の和を示す。
なお、図14はレーザ照射位置特定用パターン表示プログラムP2によって、ディスプレイ4の表示画面41を柱状図形21が画面左端から画面右端に周期的に移動している場合の反射強度系列の一例を示している。
同様に、レーザ照射位置特定用パターン表示プログラムP2によって、ディスプレイ4の表示画面41を柱状図形22が画面上端から画面下端に周期的に移動する場合の反射強度系列を得る。
以上のことから理解されるように、レーザ照射位置特定プログラムP3は、反射強度系列の足し合わせを行い、レーザ光が照射された位置に表示されている、柱状図形21及び22の表示位置を算出することにより、レーザ計測装置1が出射したレーザ光の照射位置を特定するためのプログラムである。
要するに、ディスプレイ4の表示画面41を画面左端から画面右端に移動する柱状図形21と、画面上端から画面下端に移動する柱状図形22の表示位置をそれぞれ算出し、レーザ計測装置1から出射されたレーザ光のディスプレイ4の表示画面41におけるレーザ照射位置の座標を特定する。
レーザ照射位置の座標を表現する座標系は、プログラムが表示位置を指定するための座標系とする。レーザ照射位置の座標と、レーザ計測装置1の出力値を対応付ける。レーザ照射位置の座標に対して、反射強度系列の作成に使用したレーザ計測装置1の出力値は複数存在するため、レーザ計測装置1の出力値のうち1つを選んでレーザ照射位置の座標と対応付ける。また、レーザ計測装置1の出力値のうち1つを選ぶ代わりに、レーザ計測装置1の出力値の平均値を算出するなどして、レーザ照射位置の座標との対応付けを行っても良い。
レーザ相対位置及び姿勢推定プログラムP4は、カメラ較正パターン表示プログラムP1によりディスプレイ4の表示画面に表示されたカメラ較正パターン10をカメラ2により撮影された画像データと、レーザ計測装置1の出力値と、レーザ照射位置特定プログラムP3で特定したレーザ照射位置を用いて、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢を算出するためのプログラムである。
具体的には、レーザ相対位置及び姿勢推定プログラムP4によって次のように行なわれる。
まず、カメラ較正パターン表示プログラムP1によってディスプレイ4の表示画面41に表示されたカメラ較正パターン10をカメラ2で撮影し、撮影されたカメラ較正パターン10の画像情報2iが計算機3に取り込まれる。
同時に、表示画面41に表示されたカメラ較正パターン10であるチェッカーパターンのマス目の大きさを実寸寸法として計算機3に入力する。
取り込まれた画像情報2iから、通常行なわれている方法により、チェッカーパターンの交点座標を抽出する。
抽出されたチェッカーパターンの交点座標を、ディスプレイ4の表示画面41を基準として定義された世界座標系におけるチェッカーパターンの交点座標として算出する。
算出された世界座標系におけるチェッカーパターンの交点座標により、通常知られている方法により、既知点を用いて世界座標系におけるカメラ2の位置と姿勢を算出する。
一方、レーザ照射位置特定プログラムP3によって算出されたレーザ照射位置の座標を、世界座標系におけるレーザ照射位置の座標として算出し、世界座標系におけるレーザ照射位置の座標とレーザ計測装置1の出力値を対応付ける。
次に、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢を算出する。このとき、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢は、カメラ2を基準としたカメラ2の座標系における、レーザ計測装置1の位置および姿勢とする。
具体的には、世界座標系において、レーザ計測装置1からのレーザ光のディスプレイ4の表示画面41におけるレーザ照射位置についての観測方程式を立式し、通常知られている非線形最適化の手法を用いて数値計算を行ない、解を求めることにより、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢を算出する。
以下に、観測方程式の立式について述べる。
レーザ計測装置1を基準としたレーザ座標系において、レーザ照射位置Llは式(1)で求められる。

Figure 0006921036
この時、レーザ計測装置1の出力値について、水平方向の照射角をθA、垂直方向の照射角をθV、反射物体、つまり、ディスプレイ4の表示画面41までの距離をdとする。
カメラ座標系におけるレーザ照射位置Lは式(2)により求められる。

Figure 0006921036
この時、カメラ座標系におけるレーザ計測装置1の座標を[Xcl、Ycl、Zclとし、カメラ座標系におけるレーザ計測装置1の姿勢を表す回転行列をRclとする。
世界座標系におけるレーザの照射位置Lは式(3)により求められる。

Figure 0006921036
このとき、世界座標系におけるカメラ2の座標を[Xwc、Ywc、Zwcとし、世界座標系におけるカメラ2の姿勢を表す回転行列をRwcとする。
レーザの照射位置Lは、式(3)に式(2)を代入し、さらに、式(1)を代入することにより、式(4)により求められる。

Figure 0006921036
式(4)は式(5)に変形でき、式(5)により、レーザ計測装置1の位置と姿勢を求めることができる。この求めた解により、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢が求められる。

Figure 0006921036
記憶手段32によって記憶されたプログラムP1からP4を中心に説明したが、以下に、レーザ較正装置100の構成要素について説明する。
レーザ較正装置100は、CPU31と記憶手段32によって記憶されたプログラムP1からP4によって構成され、図3に示す構成要素を含む。
すなわち、カメラ較正パターン表示用手段101は、CPU31と記憶手段32によって記憶されたカメラ較正パターン表示プログラムP1によって構成される。記憶手段32に記憶されたカメラ較正パターンを、マス目の大きさを指定してディスプレイ4にカメラ較正パターン情報10iを出力する。
レーザ較正パターン表示用手段102は、CPU31と記憶手段32によって記憶されたレーザ照射位置特定用パターン表示プログラムP2によって構成される。レーザ計測装置1の出力値に含まれる時刻データに同期し、レーザ計測装置1から出射されるレーザ光の照射位置であるディスプレイ4の表示画面41にレーザ照射位置特定用パターン20を表示するために、レーザ照射位置特定用パターン情報20iをディスプレイ4に出力する。
レーザ照射位置特定用パターン20は、黒色の背景に白色の柱状図形21が画面左端から画面右端への移動を周期的に繰り返すパターンと、白色の柱状図形22が画面上端から画面下端への移動を周期的に繰り返すパターンを有する。
レーザ照射位置特定手段103は、CPU31と記憶手段32によって記憶されたレーザ照射位置特定プログラムP3によって構成される。レーザ計測装置1から出射されたレーザ光がレーザ光の照射位置であるディスプレイ4の表示画面41から反射され、反射されたレーザ光をレーザ計測装置1が受け、レーザ計測装置1からの反射されたレーザ光の反射強度値を含む反射強度値情報1iを得る。得た反射強度値情報1iに基づき、ディスプレイ4の表示画面41上におけるレーザ光の照射位置を演算し、レーザ照射位置を特定し、レーザ照射位置情報30iを得る。
ディスプレイ4の表示画面41には、レーザ較正パターン表示用手段102によって出力されたレーザ照射位置特定用パターン20が表示され、レーザ照射位置特定用パターン20は図6から図9及び図10から図13に示すように、レーザ計測装置1のレーザ光を出射する出力値に含まれる時刻データに同期して柱状図形21又は柱状図形22が移動し、周期的に繰り返される。柱状図形21又は柱状図形22が移動し、周期的に変化するレーザ照射位置特定用パターン20に出射されたレーザ計測装置1のレーザ光が反射されたレーザ光をレーザ計測装置1が受けるため、白色の柱状図形21又は柱状図形22に照射されたレーザ光の反射されたレーザ光の反射強度値と、黒色の背景に照射されレーザ光の反射されたレーザ光の反射強度値とは異なる。
従って、レーザ照射位置特定手段103は、入力された反射レーザ光の反射強度値の系列を足し合わせ、系列のピーク時刻を算出することで、レーザ照射位置を特定できる。
レーザ照射位置特定手段103は、ディスプレイ4の表示画面41上を左右方向に柱状図形21が移動するレーザ照射位置特定用パターン20にレーザ計測装置1のレーザ光を照射している場合に、左右方向のレーザ照射位置を特定し、上下方向に柱状図形21が移動するレーザ照射位置特定用パターン20にレーザ計測装置1のレーザ光を照射している場合に、上下方向のレーザ照射位置を特定する。その結果、ディスプレイ4の表示画面41上のレーザ照射位置を特定している。
位置関係演算手段104は、CPU31と記憶手段32によって記憶されたレーザ相対位置及び姿勢推定プログラムP4によって構成される。レーザ照射位置特定手段103によって特定されたレーザ照射位置情報30iを用いて、レーザ計測装置1とカメラ2の位置関係を演算し、レーザ計測装置1とカメラ2の位置関係を求める。求めた位置関係をレーザ計測装置1に位置関係情報40iとして出力し、レーザ計測装置1は位置及び姿勢を較正する。
具体的には、カメラ較正パターン表示用手段101に従い、ディスプレイ4の表示画面に表示されたカメラ較正パターン10をカメラ2により撮影された画像情報2iと、レーザ計測装置1の出力値に含まれる出射するレーザ光の照射角情報11iと、レーザ照射位置特定手段103によって求められたディスプレイ4の表示画面41上のレーザ照射位置情報40iと、レーザ計測装置1からディスプレイ4の表示画面41までの距離dを用いて、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢を演算し、レーザ計測装置1とカメラ2の位置関係を求め、位置関係情報40iとしてレーザ計測装置1に出力する。
次に、このように構成されたレーザ較正装置100によるレーザ計測装置1とカメラ2の位置関係を求める動作を説明する。
まず、CPU31が記憶手段32に記憶されたレーザ較正用プログラムP0を読み出す。レーザ較正用プログラムP0は図4に示すフローチャートを行なうプログラムである。
従って、図4に示すフローチャートに従って、動作を説明する。
CPU31は、ステップST1に従い、チェッカーパターン表示を行なう。記憶手段32によって記憶されたカメラ較正パターン表示プログラムP1を読み出し実行する。つまり、記憶手段32に記憶されたカメラ較正パターン10をカメラ較正パターン表示用手段101が読み出し、ディスプレイ4にカメラ較正パターン情報10iを出力する。その結果、ディスプレイ4の表示画面41にチェッカーパターン10が表示される。
次に、ステップST2に従い、表示されたチェッカーパターン10をカメラ2が撮影する。カメラ2にて撮影された画像は、画像情報2iとして計算機3に入力される。画像情報2iが位置関係演算手段104に与えられることになる。
また、表示画面41に表示されたカメラ較正パターン10であるチェッカーパターンのマス目の大きさを実寸寸法として計算機3に入力される。
CPU31は、ステップST3に従い、レーザ照射位置特定用パターン表示を行なう。記憶手段32によって記憶されたレーザ照射位置特定用パターン表示プログラムP2を読み出し実行する。つまり、計算機3がレーザ計測装置1の出力値に含まれる時刻データtを受け、時刻データtに同期したレーザ照射位置特定用パターン20を表示するために、レーザ照射位置特定用パターン情報20iをディスプレイ4に出力する。具体的には計算機3にて構成されるレーザ較正パターン表示用手段102が、まず、時刻データtに同期して画面左側から画面右側に移動する柱状図形21を有するレーザ照射位置特定用パターン20を、一定周期毎に繰り返し、ディスプレイ4の表示画面41に表示させるためのレーザ照射位置特定用パターン情報20iをディスプレイ4に出力する。
CPU31は、ステップST4に従い、レーザ照射位置の特定を行なう。記憶手段32によって記憶されたレーザ照射位置特定プログラムP3を読み出し実行する。つまり、計算機3がレーザ計測装置1の出力値に含まれる時刻データtと、レーザ計測装置1から出射され、ディスプレイ4の表示画面41から反射されたレーザ光を受けたレーザ計測装置1からの反射されたレーザ光の反射強度値を含む反射強度値情報1iを受け、反射強度値情報1iに基づき、ディスプレイ4の表示画面41上における左右方向のレーザ光のレーザ照射位置を特定し、レーザ照射位置情報30iを得る。具体的には計算機3にて構成されるレーザ照射位置特定手段103が、反射強度値情報1iに基づき反射強度値のピーク時刻を算出することにより、ディスプレイ4の表示画面41上における柱状図形21の表示位置を求めて、左右方向のレーザ照射位置を特定する。
ディスプレイ4の表示画面41上における左右方向のレーザ光のレーザ照射位置を特定が終了すると、ステップST3に戻り、時刻データtに同期して画面上側から画面下側に移動する柱状図形22を有するレーザ照射位置特定用パターン20を、一定周期毎に繰り返し、ディスプレイ4の表示画面41に表示させるためのレーザ照射位置特定用パターン情報20iをディスプレイ4に出力する。ステップST4にて左右方向と同様にして、ディスプレイ4の表示画面41上における柱状図形22の表示位置を求めて、上下方向のレーザ照射位置を特定する。
ディスプレイ4の表示画面41上における柱状図形22の表示位置を求めて、左右方向及び上下方向のレーザ照射位置の特定が終了し、レーザ照射位置の座標が得られると、ステップST5に進む。
ステップST5では、カメラ2の位置及び姿勢を算出する。CPU31は、ステップST5に従い、記憶手段32によって記憶されたレーザ相対位置及び姿勢推定プログラムP4を読み出し実行する。つまり、計算機3がステップST2にて取得したカメラ2により撮影された画像情報2iと、ディスプレイ4の表示画面41上におけるチェッカーパターンのマス目の大きさを表す寸法情報とにより、カメラ2の位置と姿勢を算出する。具体的には、位置関係演算手段104が画像情報2iと寸法情報とにより、チェッカーパターンの交点座標を算出し、交点座標の算出結果に基づいて既知点を用いてカメラ2の位置及び姿勢を算出し、カメラ2の座標系を得る。
次に、CPU31は、ステップST6に従い、レーザ相対位置及び姿勢算出を行なう。ステップST3及びステップST4にて得られたレーザ照射位置情報30iを用いて、レーザ計測装置1とカメラ2の位置関係を演算し、レーザ計測装置1とカメラ2の位置関係を求める。求めた位置関係をレーザ計測装置1に位置関係情報40iとして出力し、レーザ計測装置1は位置及び姿勢を較正する。具体的には、位置関係演算手段104が、まずレーザ照射位置情報30iが示すレーザ照射位置の座標を、ステップST5にて得られたカメラ2の座標系に従い、カメラ2の座標系におけるレーザ照射位置の座標を求め、次に世界座標系におけるレーザ照射位置の座標を求める。この求められた座標の結果から、カメラ2に対するレーザ計測装置1の相対位置と相対姿勢が算出できる。この算出結果に基づいた位置関係情報40iをレーザ計測装置1に出力する。
上記のように構成されたレーザ較正装置100にあっては、レーザ計測装置1の出力値に含まれる時刻データに同期して移動する柱状図形21及び柱状図形22を有するレーザ照射位置特定用パターン20を一定周期毎に繰り返してディスプレイ4の表示画面41に表示させ、レーザ計測装置1のレーザ光をレーザ照射位置特定用パターン20に照射させてその反射されたレーザ光の反射強度値によってレーザ計測装置1のレーザ光のディスプレイ4の表示画面41上におけるレーザ照射位置を求めているので、レーザ照射位置の算出に、キャリブレーションターゲット及び不可視光を撮影するためのフィルタを用いずに、レーザ計測装置とカメラ2の位置関係に対するレーザ較正を自動的に行うことができるという効果がある。
なお、上記した実施の形態1では、レーザ照射位置特定用パターン20をディスプレイ4の表示画面41に表示するものとしたが、レーザ照射位置特定用パターン20に照射させてその反射されたレーザ光の反射強度値に基づき、レーザ照射位置を求めているものであり、ディスプレイ4に表示するものでなくとも良い。
なお、本発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、または実施の形態の任意の構成要素の省略が可能である。
本発明は、カメラに対するレーザ計測装置の相対位置と相対姿勢を自動的に算出できるレーザ較正装置であるので、レーザ計測装置1とカメラ2と本発明のレーザ較正装置を備える画像入力装置として種々利用可能である。
1 レーザ計測装置、2 カメラ、3 計算機、31 CPU、32 記憶手段、4 ディスプレイ、41 表示画面、10 カメラ較正パターン、20 レーザ照射位置特定用パターン、100 レーザ較正装置、101 カメラ較正パターン表示用手段、102 レーザ較正パターン表示用手段、103 レーザ照射位置特定手段、104 位置関係演算手段。

Claims (5)

  1. レーザ光を出射し対象物からの反射光によって対象物の位置を計測するレーザ計測装置から出射されるレーザ光のレーザ照射位置を含む表示領域に、レーザ照射位置特定用パターンを表示するためのレーザ照射位置特定用パターン情報を出力するレーザ較正パターン表示用手段、
    前記レーザ計測装置から出射され、前記表示領域に表示された前記レーザ照射位置特定用パターンから反射されたレーザ光を受けた前記レーザ計測装置から出力される、レーザ光の反射強度値を含む反射強度値情報を受け、前記反射強度値情報における反射強度値に基づき、前記表示領域における前記レーザ照射位置を求めるレーザ照射位置特定手段、
    前記表示領域にカメラ較正パターンを表示するためのカメラ較正パターン情報を出力するカメラ較正パターン表示用手段、
    前記レーザ照射位置特定手段によって求められたレーザ照射位置を示すレーザ照射位置情報に基づき、カメラによって前記表示領域に表示されたカメラ較正パターンを撮影された撮影カメラ較正パターン情報を用いて、前記レーザ計測装置と前記カメラの位置関係を演算し、前記カメラに対する前記レーザ計測装置の位置関係情報を出力する位置関係演算手段
    を備えるレーザ較正装置。
  2. 前記表示領域は、ディスプレイの表示画面であり、
    前記レーザ計測装置は、前記ディスプレイの表示画面にレーザ光を照射し、
    前記レーザ較正パターン表示用手段は、前記レーザ照射位置特定用パターン情報を前記ディスプレイに出力し、
    前記カメラ較正パターン表示用手段は、前記カメラ較正パターン情報を前記ディスプレイに出力することを特徴とする請求項1のレーザ較正装置。
  3. 前記レーザ照射位置特定用パターンは、移動する図形を有し、前記図形が周期的に繰り返し、
    前記レーザ照射位置特定手段は、前記レーザ照射位置特定用パターンから反射されたレーザ光を受けた前記レーザ計測装置から出力される前記反射強度値情報における反射強度値の系列を足し合わせ、系列のピークを算出することで、前記ディスプレイの表示画面上のレーザ照射位置を特定することを特徴とする請求項2記載のレーザ較正装置。
  4. カメラ較正パターンをディスプレイの表示画面に表示するステップ、
    レーザ照射位置特定用パターン表示を前記ディスプレイの表示画面に表示するステップ、
    レーザ計測装置から出射され、前記ディスプレイの表示画面から反射されたレーザ光を受けた前記レーザ計測装置からの反射されたレーザ光の反射強度値に基づき、前記ディスプレイの表示画面上における前記レーザ計測装置から出射されたレーザ光のレーザ照射位置を特定するステップ、
    特定された前記レーザ光のレーザ照射位置に基づき、カメラ較正パターンを撮影したカメラからの画像情報を用い、前記カメラに対する前記レーザ計測装置の位置関係を特定するステップ
    を備えたレーザ較正方法。
  5. レーザ光を出射し対象物からの反射光によって対象物の位置を計測するレーザ計測装置、
    固定器具によって前記レーザ計測装置と互いに固定されるカメラ、
    表示画面を有するディスプレイ、
    レーザ照射位置特定用パターンを前記ディスプレイの表示画面に表示するためのレーザ照射位置特定用パターン情報を前記ディスプレイに出力し、前記レーザ計測装置から前記ディスプレイの表示画面に出射され、前記ディスプレイの表示画面に表示された前記レーザ照射位置特定用パターンから反射されたレーザ光を受けた前記レーザ計測装置から出力される、レーザ光の反射強度値を含む反射強度値情報を受け、前記反射強度値情報における反射強度値に基づき、前記ディスプレイの表示画面におけるレーザ照射位置を求め、前記ディスプレイの表示画面にカメラ較正パターンを表示するためのカメラ較正パターン情報を出力し、前記ディスプレイの表示画面に表示されたカメラ較正パターンを前記カメラによって撮影された撮影カメラ較正パターン情報を用い、前記レーザ照射位置に基づき、前記レーザ計測装置と前記カメラの位置関係を演算し、前記カメラに対する前記レーザ計測装置の位置関係情報を出力する計算機、
    を備えた画像入力装置。
JP2018101661A 2018-05-28 2018-05-28 レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置 Active JP6921036B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018101661A JP6921036B2 (ja) 2018-05-28 2018-05-28 レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置
PCT/JP2019/013295 WO2019230171A1 (ja) 2018-05-28 2019-03-27 レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置
EP19811903.4A EP3779504A4 (en) 2018-05-28 2019-03-27 LASER CALIBRATION DEVICE, CALIBRATION METHOD FOR THEREOF, AND IMAGE INPUT DEVICE WITH A LASER CALIBRATION DEVICE
US17/077,577 US20210041543A1 (en) 2018-05-28 2020-10-22 Laser calibration device, calibration method therefor, and image input device including laser calibration device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018101661A JP6921036B2 (ja) 2018-05-28 2018-05-28 レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置

Publications (2)

Publication Number Publication Date
JP2019207127A JP2019207127A (ja) 2019-12-05
JP6921036B2 true JP6921036B2 (ja) 2021-08-18

Family

ID=68697443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018101661A Active JP6921036B2 (ja) 2018-05-28 2018-05-28 レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置

Country Status (4)

Country Link
US (1) US20210041543A1 (ja)
EP (1) EP3779504A4 (ja)
JP (1) JP6921036B2 (ja)
WO (1) WO2019230171A1 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023139946A1 (ja) * 2022-01-19 2023-07-27 ソニーセミコンダクタソリューションズ株式会社 測距装置および測距方法
CN115598626B (zh) * 2022-12-14 2023-03-14 成都量芯集成科技有限公司 一种激光测距仪偏差校准装置及方法

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4038726B2 (ja) * 2003-09-03 2008-01-30 株式会社日立プラントテクノロジー 画像対応付け方法
JP4533824B2 (ja) * 2005-08-30 2010-09-01 株式会社日立製作所 画像入力装置及び校正方法
JP5051493B2 (ja) * 2005-12-26 2012-10-17 株式会社Ihi 三次元計測用マーカとこれを用いた三次元計測方法
JP2009264898A (ja) * 2008-04-24 2009-11-12 Nissan Motor Co Ltd ワーク位置姿勢計測方法および計測装置
JP2013015413A (ja) * 2011-07-04 2013-01-24 Toshiba Transport Eng Inc 三次元形状計測装置及び三次元形状計測方法
US20140132723A1 (en) * 2012-11-13 2014-05-15 Osmose Utilities Services, Inc. Methods for calibrating a digital photographic image of utility structures
DE102014109432B4 (de) * 2014-04-10 2021-02-11 Zoller + Fröhlich GmbH Laserscanner und Verfahren
JP6512015B2 (ja) 2015-07-27 2019-05-15 日産自動車株式会社 キャリブレーション方法
EP3264360A1 (en) * 2016-06-28 2018-01-03 Dassault Systèmes Dynamical camera calibration

Also Published As

Publication number Publication date
EP3779504A1 (en) 2021-02-17
WO2019230171A1 (ja) 2019-12-05
US20210041543A1 (en) 2021-02-11
JP2019207127A (ja) 2019-12-05
EP3779504A4 (en) 2021-06-09

Similar Documents

Publication Publication Date Title
KR101604037B1 (ko) 카메라와 레이저 스캔을 이용한 3차원 모델 생성 및 결함 분석 방법
US8233041B2 (en) Image processing device and image processing method for performing three dimensional measurements
JP4885584B2 (ja) レンジファインダ校正方法及び装置
JP3624353B2 (ja) 3次元形状計測方法およびその装置
JP5580164B2 (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
JP6937642B2 (ja) 表面評価方法及び表面評価装置
JP2005215917A (ja) 施工図作成支援方法およびリプレースモデル作成方法
JP6519265B2 (ja) 画像処理方法
JP4038726B2 (ja) 画像対応付け方法
JP2013504752A (ja) 非接触物体検査
JP6895382B2 (ja) 観視対象の3次元形状を描画する画像と同時に観視対象の2次元画像を表示するための方法および機器
CN112102387B (zh) 一种基于深度相机深度估计性能的测试方法与测试系统
JP2016100698A (ja) 校正装置、校正方法、プログラム
JP2007322162A (ja) 3次元形状測定装置及び3次元形状測定方法
US9157874B2 (en) System and method for automated x-ray inspection
JP6921036B2 (ja) レーザ較正装置、その較正方法、及びレーザ較正装置を含む画像入力装置
WO2018168757A1 (ja) 画像処理装置、システム、画像処理方法、物品の製造方法、プログラム
JP5494267B2 (ja) 三次元形状計測装置、三次元形状計測装置のキャリブレーション方法、およびロボット装置
JP2012194145A (ja) 情報表示装置、情報表示方法、及びプログラム
WO2015159835A1 (ja) 画像処理装置、画像処理方法、プログラム
JP7179439B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP2015206654A (ja) 情報処理装置、情報処理方法、プログラム
JP2015064755A (ja) 3次元形状計測システム、及び色情報貼付方法
JP3487292B2 (ja) X線透視装置
KR20200032442A (ko) 자기보정이 가능한 3차원 정보 생성 장치 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201120

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20201120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210629

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210727

R150 Certificate of patent or registration of utility model

Ref document number: 6921036

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350