JP6772630B2 - 三次元計測装置及び三次元物体認識方法 - Google Patents
三次元計測装置及び三次元物体認識方法 Download PDFInfo
- Publication number
- JP6772630B2 JP6772630B2 JP2016149401A JP2016149401A JP6772630B2 JP 6772630 B2 JP6772630 B2 JP 6772630B2 JP 2016149401 A JP2016149401 A JP 2016149401A JP 2016149401 A JP2016149401 A JP 2016149401A JP 6772630 B2 JP6772630 B2 JP 6772630B2
- Authority
- JP
- Japan
- Prior art keywords
- region
- imaging
- size
- captured image
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000000034 method Methods 0.000 title claims description 48
- 238000003384 imaging method Methods 0.000 claims description 306
- 238000005259 measurement Methods 0.000 claims description 58
- 238000012545 processing Methods 0.000 claims description 39
- 238000001514 detection method Methods 0.000 description 33
- 230000003287 optical effect Effects 0.000 description 29
- 230000008569 process Effects 0.000 description 29
- 238000004891 communication Methods 0.000 description 21
- 230000008859 change Effects 0.000 description 12
- 239000012636 effector Substances 0.000 description 11
- 238000010586 diagram Methods 0.000 description 9
- 230000005540 biological transmission Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000012447 hatching Effects 0.000 description 2
- 238000012804 iterative process Methods 0.000 description 2
- 238000010521 absorption reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000005401 electroluminescence Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- QSHDDOUJBYECFT-UHFFFAOYSA-N mercury Chemical compound [Hg] QSHDDOUJBYECFT-UHFFFAOYSA-N 0.000 description 1
- 229910052753 mercury Inorganic materials 0.000 description 1
- 229910001507 metal halide Inorganic materials 0.000 description 1
- 150000005309 metal halides Chemical class 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000010363 phase shift Effects 0.000 description 1
- 238000012827 research and development Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Landscapes
- Manipulator (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
この構成により、三次元計測装置は、第1撮像画像と第2撮像画像に基づいて、第1撮像画像内において所定処理を行う対象となる第1対象領域のうち所定条件を満たす第1領域の大きさと、第2撮像画像内において所定処理を行う対象となる第2対象領域のうち所定条件を満たす第2領域の大きさとの少なくとも一方に基づいて、第1撮像部及び第2撮像部が対象物を撮像する際の撮像条件を変化させ三次元計測を行う。これにより、三次元計測装置は、対象物が光沢を有する物体や半透明な物体であっても、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1対象領域を第1領域の大きさに応じて変化させ、第2対象領域を第2領域の大きさに応じて変化させる。これにより、三次元計測装置は、第1領域の大きさに応じて変化させた第1対象領域のうちの所定条件を満たす第1領域の大きさと、第2領域の大きさに応じて変化させた第2対象領域のうちの所定条件を満たす第2領域の大きさとの少なくとも一方に基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置では、第1領域の大きさは、第1領域に含まれる画素数によって表され、第2領域の大きさは、第2領域に含まれる画素数によって表される。これにより、三次元計測装置は、第1領域に含まれる画素数と、第2領域に含まれる画素数の少なくとも一方に基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1領域の大きさと第2領域の大きさとの少なくとも一方に基づいて、撮像パラメーターを変化させる。これにより、三次元計測装置は、第1領域の大きさと第2領域の大きさとの少なくとも一方に基づく撮像パラメーターに基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1対象領域に対する第1領域の大きさの割合と、第2対象領域に対する第2領域の大きさの割合との少なくとも一方に基づいて撮像パラメーターを変化させる。これにより、三次元計測装置は、第1対象領域に対する第1領域の大きさの割合と、第2対象領域に対する第2領域の大きさの割合との少なくとも一方に基づく撮像パラメーターに基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1領域の大きさと第2領域の大きさとの少なくとも一方に基づいて、投射パラメーターを変化させる。これにより、三次元計測装置は、第1領域の大きさと第2領域の大きさとの少なくとも一方に基づく投射パラメーターに基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置では、第1対象領域に対する第1領域の大きさの割合と、第2対象領域に対する第2領域の大きさの割合との少なくとも一方に基づいて投射パラメーターを変化させる。これにより、三次元計測装置は、第1領域の大きさの割合と、第1対象領域に対する第1領域の大きさの割合との少なくとも一方に基づいて投射パラメーターを変化させ、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1撮像画像と第2撮像画像に基づいて、第1撮像画像内において所定処理を行う対象となる第1対象領域のうち第1所定閾値以上の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域である第1領域の大きさと、第2撮像画像内において所定処理を行う対象となる第2対象領域のうち第2所定閾値以下の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域である第2領域の大きさとの少なくとも一方に基づいて、第1撮像部及び第2撮像部が対象物を撮像する際の撮像条件を変化させ三次元計測を行う。これにより、三次元計測装置は、第1対象領域のうち第1所定閾値以上の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域である第1領域の大きさと、第2対象領域のうち第2所定閾値以下の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域である第2領域の大きさとの少なくとも一方に基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、第1撮像画像と第2撮像画像に基づいて、白飛びが生じている領域である第1領域の大きさと、白飛びが生じている領域である第2領域の大きさとの少なくとも一方に基づいて、第1撮像部及び第2撮像部が対象物を撮像する際の撮像条件を変化させ三次元計測を行う。これにより、三次元計測装置は、対象物の光学特性によって白飛びが生じている領域に基づいて、対象物の光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
この構成により、三次元計測装置は、撮像条件を変化させた後に第1撮像部によって撮像された第1撮像画像と、撮像条件を変化させた後に第2撮像部によって撮像された第2撮像画像とに基づいて対象物の三次元形状を表す三次元点群を生成し、生成した三次元点群に基づいて対象物の位置及び姿勢を算出する。これにより、三次元計測装置は、精度よく算出した対象物の位置及び姿勢を他の装置に出力することができる。
この構成により、ロボットは、三次元計測装置が算出した対象物の位置及び姿勢に基づいて所定作業を行う。これにより、ロボットは、高い精度で所定作業を行うことができる。
この構成により、ロボット制御装置は、ロボットに所定作業を行わせる。これにより、
ロボット制御装置は、高い精度で所定作業をロボットに行わせることができる。
この構成により、ロボットシステムは、三次元計測装置が三次元計測を行った結果に基づいてロボットに所定作業を行わせる。これにより、ロボットシステムは、高い精度で所定作業をロボットに行わせることができる。
また、ロボットは、三次元計測装置が算出した対象物の位置及び姿勢に基づいて所定作業を行う。これにより、ロボットは、高い精度で所定作業を行うことができる。
また、ロボット制御装置、及びロボットシステムは、三次元計測装置が三次元計測を行った結果に基づいてロボットに所定作業を行わせる。これにより、ロボット制御装置、及びロボットシステムは、高い精度で所定作業をロボットに行わせることができる。
本発明の一態様は、対象物を含む撮像領域が第1撮像部により撮像された第1撮像画像と、前記撮像領域が第2撮像部により撮像された第2撮像画像とに基づいて前記対象物の三次元形状を計測する三次元物体認識方法であって、前記第1撮像画像と前記第2撮像画像に基づいて、前記第1撮像画像内において所定処理を行う対象となる第1対象領域のうち所定条件を満たす第1領域の大きさと、前記第2撮像画像内において前記所定処理を行う対象となる第2対象領域のうち前記所定条件を満たす第2領域の大きさとの少なくとも一方に基づいて、前記第1撮像部及び前記第2撮像部が前記対象物を撮像する際の撮像条件を変化させ三次元計測する、三次元物体認識方法であり、前記第1対象領域を前記第1領域の大きさに応じて変化させ、前記第2対象領域を前記第2領域の大きさに応じて変化させる、ものであって、前記第1対象領域を前記第1領域の大きさに応じて小さくし、前記第2対象領域を前記第2領域の大きさに応じて小さくする、三次元物体認識方法である。
以下、本発明の実施形態について、図面を参照して説明する。
まず、三次元計測システム1の構成について説明する。
図1は、実施形態に係る三次元計測システム1の構成の一例を示す図である。三次元計測システム1は、投射部5と、撮像部10と、三次元計測装置30を備える。
第2撮像部12は、例えば、集光された光を電気信号に変換する撮像素子であるCCDやCMOS等を備えたカメラである。
以下、三次元計測装置30が行う処理の概要について説明する。三次元計測装置30は、投射範囲PA(この一例において、撮像範囲CAの一部)へ投射画像を投射部5に投射させる。三次元計測装置30は、投射部5が投射画像を投射した状態において、第1撮像部11及び第2撮像部12に撮像範囲CAをステレオ撮像させる。三次元計測装置30は、このステレオ撮像によって第1撮像部11により撮像された撮像画像を第1撮像画像として第1撮像部11から取得する。また、三次元計測装置30は、当該ステレオ撮像によって第2撮像部12により撮像された撮像画像を第2撮像画像として第2撮像部12から取得する。
以下、図3を参照し、三次元計測装置30のハードウェア構成について説明する。図3は、三次元計測装置30のハードウェア構成の一例を示す図である。
記憶部32は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)、EEPROM(Electrically Erasable Programmable Read−Only Memory)、ROM(Read−Only Memory)、RAM(Random Access Memory)等を含む。なお、記憶部32は、三次元計測装置30に内蔵されるものに代えて、USB等のデジタル入出力ポート等によって接続された外付け型の記憶装置であってもよい。記憶部32は、三次元計測装置30が処理する各種の情報、各種の画像、各種のプログラム等を格納する。
通信部34は、例えば、USB等のデジタル入出力ポートやイーサネット(登録商標)ポート等を含んで構成される。
表示部35は、例えば、液晶ディスプレイパネル、あるいは、有機EL(ElectroLuminescence)ディスプレイパネルである。
以下、図4を参照し、三次元計測装置30の機能構成について説明する。図4は、三次元計測装置30の機能構成の一例を示す図である。
撮像制御部363は、第1撮像部11及び第2撮像部12に撮像範囲CAをステレオ撮像させる。
画像取得部365は、第1撮像部11が撮像した第1撮像画像を第1撮像部11から取得する。また、画像取得部365は、第2撮像部12が撮像した第2撮像画像を第2撮像部12から取得する。
位置姿勢算出部377は、三次元点群生成部375が生成した三次元点群に基づいて、対象物Oのワールド座標系WCにおける位置及び姿勢を算出する。
以下、図5を参照し、三次元計測装置30が三次元計測を行う処理について説明する。図5は、三次元計測装置30が三次元計測を行う処理の流れの一例を示すフローチャートである。
また、撮像条件変更部369は、ステップS180において、第1撮像部11及び第2撮像部12の撮像パラメーターを変更する構成に代えて、投射部5が投射画像を投射する際の投射パラメーターを変更する構成であってもよい。この場合、撮像条件変更部369は、例えば、投射部5が投射画像を投射する際の当該投射画像の輝度を、現在の輝度に第1領域比と第2領域比とのうち少なくとも一方に基づく値を乗じた値に変更する。これにより、三次元計測装置30は、第1領域の大きさと第2領域の大きさとの少なくとも一方に基づいて、投射パラメーターを変化させ、対象物Oの光学特性による誤差を抑制し、三次元計測を精度よく行うことができる。
以下、図8〜図11を参照し、三次元計測装置30が取得する第1撮像画像と、当該第1撮像画像に基づいて生成される三次元点群について説明する。
以下、図12を参照し、実施形態の変形例について説明する。なお、実施形態の変形例では、実施形態と同様な構成部に対して同じ符号を付して説明を省略する。
エンドエフェクターEは、この一例において、物体を把持可能な指部を備えるエンドエフェクターである。なお、エンドエフェクターEは、当該指部を備えるエンドエフェクターに代えて、空気の吸引や磁力、治具等によって物体を持ち上げることが可能なエンドエフェクターや、他のエンドエフェクターであってもよい。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピューターシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
Claims (10)
- 対象物を含む撮像領域が第1撮像部により撮像された第1撮像画像と、前記撮像領域が第2撮像部により撮像された第2撮像画像とに基づいて前記対象物の三次元形状を計測する三次元計測装置であって、
前記第1撮像画像と前記第2撮像画像に基づいて、前記第1撮像画像内において所定処理を行う対象となる第1対象領域のうち所定条件を満たす第1領域の大きさと、前記第2撮像画像内において前記所定処理を行う対象となる第2対象領域のうち前記所定条件を満たす第2領域の大きさとの少なくとも一方に基づいて、前記第1撮像部及び前記第2撮像部が前記対象物を撮像する際の撮像条件を変化させ三次元計測する、三次元計測装置であり、
前記第1対象領域を前記第1領域の大きさに応じて変化させ、前記第2対象領域を前記第2領域の大きさに応じて変化させる、ものであって、
前記第1対象領域を前記第1領域の大きさに応じて小さくし、前記第2対象領域を前記第2領域の大きさに応じて小さくする、
三次元計測装置。 - 前記第1領域の大きさは、前記第1領域に含まれる画素数によって表され、
前記第2領域の大きさは、前記第2領域に含まれる画素数によって表される、
請求項1に記載の三次元計測装置。 - 前記撮像条件は、前記第1撮像部と前記第2撮像部との少なくとも一方の撮像に関するパラメーターである撮像パラメーターによって表され、
前記第1領域の大きさと前記第2領域の大きさとの少なくとも一方に基づいて、前記撮像パラメーターを変化させる、
請求項1又は2に記載の三次元計測装置。 - 前記第1対象領域に対する前記第1領域の大きさの割合と、前記第2対象領域に対する前記第2領域の大きさの割合との少なくとも一方に基づいて前記撮像パラメーターを変化させる、
請求項3に記載の三次元計測装置。 - 前記撮像領域には、投射部から投射画像が投射され、
前記撮像条件は、前記投射部の投射に関するパラメーターである投射パラメーターによって表され、
前記第1領域の大きさと前記第2領域の大きさとの少なくとも一方に基づいて、前記投射パラメーターを変化させる、
請求項1から4のうちいずれか一項に記載の三次元計測装置。 - 前記第1対象領域に対する前記第1領域の大きさの割合と、前記第2対象領域に対する前記第2領域の大きさの割合との少なくとも一方に基づいて前記投射パラメーターを変化させる、
請求項5に記載の三次元計測装置。 - 前記所定条件は、第1所定閾値以上の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域であることと、第2所定閾値以下の輝度値の画素のみを含む領域であって所定大きさ以上の大きさの当該領域であることとのうち少なくとも一方である、
請求項1から6のうちいずれか一項に記載の三次元計測装置。 - 前記第1領域及び前記第2領域は、白飛びが生じている領域である、
請求項1から7のうちいずれか一項に記載の三次元計測装置。 - 前記撮像条件を変化させた後に前記第1撮像部によって撮像された前記第1撮像画像と、前記撮像条件を変化させた後に前記第2撮像部によって撮像された前記第2撮像画像とに基づいて前記対象物の三次元形状を表す三次元点群を生成し、生成した三次元点群に基づいて前記対象物の位置及び姿勢を算出する、
請求項1から8のうちいずれか一項に記載の三次元計測装置。 - 対象物を含む撮像領域が第1撮像部により撮像された第1撮像画像と、前記撮像領域が第2撮像部により撮像された第2撮像画像とに基づいて前記対象物の三次元形状を計測する三次元物体認識方法であって、
前記第1撮像画像と前記第2撮像画像に基づいて、前記第1撮像画像内において所定処理を行う対象となる第1対象領域のうち所定条件を満たす第1領域の大きさと、前記第2撮像画像内において前記所定処理を行う対象となる第2対象領域のうち前記所定条件を満たす第2領域の大きさとの少なくとも一方に基づいて、前記第1撮像部及び前記第2撮像部が前記対象物を撮像する際の撮像条件を変化させ三次元計測する、三次元物体認識方法であり、
前記第1対象領域を前記第1領域の大きさに応じて変化させ、前記第2対象領域を前記第2領域の大きさに応じて変化させる、ものであって、
前記第1対象領域を前記第1領域の大きさに応じて小さくし、前記第2対象領域を前記第2領域の大きさに応じて小さくする、
三次元物体認識方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016149401A JP6772630B2 (ja) | 2016-07-29 | 2016-07-29 | 三次元計測装置及び三次元物体認識方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016149401A JP6772630B2 (ja) | 2016-07-29 | 2016-07-29 | 三次元計測装置及び三次元物体認識方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018017653A JP2018017653A (ja) | 2018-02-01 |
JP2018017653A5 JP2018017653A5 (ja) | 2019-06-13 |
JP6772630B2 true JP6772630B2 (ja) | 2020-10-21 |
Family
ID=61075882
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016149401A Expired - Fee Related JP6772630B2 (ja) | 2016-07-29 | 2016-07-29 | 三次元計測装置及び三次元物体認識方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6772630B2 (ja) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6770254B2 (ja) | 2018-02-07 | 2020-10-14 | オムロン株式会社 | 3次元測定装置、3次元測定方法及び3次元測定プログラム |
JP7316870B2 (ja) * | 2019-07-31 | 2023-07-28 | 清水建設株式会社 | トンネル掘削管理方法および掘削管理装置 |
KR102314742B1 (ko) * | 2020-08-19 | 2021-10-20 | 다래비젼주식회사 | 다관절 로봇용 dlp 시스템의 제어방법 |
KR102356209B1 (ko) * | 2020-08-19 | 2022-02-07 | 다래비젼주식회사 | 다관절 로봇용 dlp 시스템 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
IL230517A0 (en) * | 2014-01-19 | 2014-04-30 | Mantisvision Ltd | Synchronization of 3D imaging devices |
JP6470506B2 (ja) * | 2014-06-09 | 2019-02-13 | 株式会社キーエンス | 検査装置 |
JP2016075658A (ja) * | 2014-10-03 | 2016-05-12 | 株式会社リコー | 情報処理システムおよび情報処理方法 |
-
2016
- 2016-07-29 JP JP2016149401A patent/JP6772630B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2018017653A (ja) | 2018-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9652660B2 (en) | Control system, robot system, and control method | |
JP6772630B2 (ja) | 三次元計測装置及び三次元物体認識方法 | |
EP2963513B1 (en) | Teaching apparatus and robot system | |
US10132613B2 (en) | Information processing apparatus, method for controlling information processing apparatus, gripping system, and storage medium | |
TWI451750B (zh) | 攝影裝置、電腦可讀取記錄媒體及控制方法 | |
KR20140008262A (ko) | 로봇 시스템, 로봇, 로봇 제어 장치, 로봇 제어 방법 및 로봇 제어 프로그램 | |
JP2018051704A (ja) | ロボット制御装置、ロボット、及びロボットシステム | |
JP2013215866A (ja) | ロボットシステム、ロボットシステムのキャリブレーション方法、キャリブレーション装置およびデジタルカメラ | |
JP6699097B2 (ja) | ロボット及び制御装置 | |
JP2017170571A (ja) | ロボット、ロボット制御装置、及びロボットシステム | |
JP2015087321A (ja) | 制御装置、ロボット、制御システム、制御方法、及び制御プログラム | |
JP2017219365A (ja) | 位置姿勢算出装置、ロボット制御装置、及びロボット | |
US20180215044A1 (en) | Image processing device, robot control device, and robot | |
JP6897398B2 (ja) | 三次元形状測定装置、ロボットシステム、及び三次元形状測定方法 | |
JP2018017610A (ja) | 三次元計測装置、ロボット、ロボット制御装置、及びロボットシステム | |
JPWO2019012803A1 (ja) | 指定装置、及び、指定プログラム | |
JP2019063907A (ja) | ロボット、制御装置、及びロボットシステム | |
JP6488571B2 (ja) | 教示装置、及びロボットシステム | |
JP2017202549A (ja) | ロボット制御装置、ロボット、及びロボットシステム | |
JP2020091126A (ja) | 計測装置、システム、表示方法及びプログラム | |
US11478936B2 (en) | Image processing apparatus that processes image picked up by image pickup apparatus attached to robot, control method therefor, and storage medium storing control program therefor | |
JP2016120558A (ja) | ロボット、及びロボットシステム | |
JP2017219359A (ja) | 形状測定装置、ロボット制御装置、及びロボット | |
JP2016217778A (ja) | 制御システム、ロボットシステム、及び制御方法 | |
WO2024014080A1 (ja) | 推定システムおよび推定方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20181026 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190509 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190509 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200326 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20200407 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200522 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200901 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200914 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6772630 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |