JP6632208B2 - 情報処理装置、情報処理方法、プログラム - Google Patents
情報処理装置、情報処理方法、プログラム Download PDFInfo
- Publication number
- JP6632208B2 JP6632208B2 JP2015061687A JP2015061687A JP6632208B2 JP 6632208 B2 JP6632208 B2 JP 6632208B2 JP 2015061687 A JP2015061687 A JP 2015061687A JP 2015061687 A JP2015061687 A JP 2015061687A JP 6632208 B2 JP6632208 B2 JP 6632208B2
- Authority
- JP
- Japan
- Prior art keywords
- orientation
- model
- deriving
- measurement
- partial
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/75—Determining position or orientation of objects or cameras using feature-based methods involving models
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1612—Programme controls characterised by the hand, wrist, grip control
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
- B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
- B25J9/00—Programme-controlled manipulators
- B25J9/16—Programme controls
- B25J9/1694—Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
- B25J9/1697—Vision controlled systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/243—Classification techniques relating to the number of classes
- G06F18/24323—Tree-organised classifiers
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/42—Global feature extraction by analysis of the whole pattern, e.g. using frequency domain transformations or autocorrelation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05B—CONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
- G05B2219/00—Program-control systems
- G05B2219/30—Nc systems
- G05B2219/39—Robotics, robotics to robotics hand
- G05B2219/39543—Recognize object and plan hand shapes in grasping movements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
Description
本発明にかかる実施形態を説明するのに先立ち、各実施形態に示す情報処理装置1が実装されるハードウェア構成について、図17を用いて説明する。
ステップS901において、概略位置姿勢認識部102は、センサ部101が計測した計測対象物体201の計測情報を取得する。
ステップS902において、概略位置姿勢認識部102および位置姿勢算出部103は、部分モデルを用いて計測対象物体201の位置姿勢を算出する。
まず、概略位置姿勢認識部102は、部分モデル由来の認識辞書を利用した認識処理を行う。
ステップS903では、干渉判定部104は、全体モデルを利用した干渉判定を行う。
(ステップS701)
ステップS701では、干渉判定部104は、計測対象物体201を表したポリゴンを作成する。
ステップS702では、干渉判定部104は、ステップS701で作成されたポリゴンから、上面に対応する平面Tと、底面に対応する平面Bの間にあるポリゴンを抽出する。
ステップS703では、干渉判定部104は、ステップS702で抽出したポリゴンに関して、次に側面をなす平面S1〜S4の位置関係を調べる。各ポリゴンに関してS1〜S4に対して、パレット205の内側に位置しているかどうかをチェックする。各ポリゴンにおいてパレット205の内側に存在していると判断されたものは、排除して、残ったポリゴンに関して注目する。残存したポリゴンがなければ、ステップS704で計測対象物体201とパレット205には干渉はないと判断される。そして、その計測対象物体201は把持候補となる。
第1の実施形態では認識用のモデルと干渉判定用のモデルを別々に2つ持ち、認識用には部分モデルを使うため、全体モデルから切り出した部分モデルを利用することを述べた。
ステップS1601において、部分認識のためにはCADモデルの一部分を複数のある平面で切断した形でモデルを保持しておき、その切断平面も保持した内部データ構造にしておく。
ステップS1602において、モデル点を選択する。
ステップS1603において、ステップS1602で選択されたモデル点と切断面との距離を算出する。
ステップS1604では、ステップS1603で算出された距離が閾値以内であるか否かを判定する。閾値以内であれば、切断平面上に存在するものと判断する。そしてステップS1605に処理を進める。一方で、閾値よりも大きければステップS1606に処理を進める。
ステップS1605では、切断平面上に存在するモデル点、即ち、モデル面点及びモデルエッジは使用しないように設定する。
ステップS1606では、モデル点即ち、モデル面点及びモデルエッジを使用するように設定する。
第1の実施形態では認識用のモデルと干渉判定用のモデルを別々に2つ持ち、全体の位置姿勢計測装置を構成することを述べた。
第1の実施形態では干渉判定の際に一定のマージンを設けることについて述べた。本実施形態では干渉チェックのマージンmを計測対象物体201毎に動的に設定することについて述べる。
M=MAX(All.x/Part.x,All.y/Part.y,All.z/Part.z)
を算出し、
m’=m+P*Mとして、マージンmの代わりにm’を利用する。この式だけに限定するものではなく、部分部位の姿勢の揺らぎを、計測対象物体201全体の揺らぎに反映する形で、マージンを求めるものであればそれでよい。
また、本発明は、以下の処理を実行することによっても実現される。
Claims (11)
- 山積みされた複数の物体に対する距離情報を取得する距離情報取得手段と、
前記距離情報と、前記物体の部分的な形状を表す部分モデルとに基づいて、前記複数の物体のうちの計測対象物体の位置姿勢を導出する導出手段と、
前記物体の全体形状を表す全体モデルに基づいて、前記計測対象物体を保持する際の保持手段による保持動作の際に、前記計測対象物体と前記計測対象物体を格納する容器との間に干渉が生じるかを判定する干渉判定手段とを備えることを特徴とする情報処理装置。 - 前記導出手段は、前記計測対象物体の概略位置姿勢を導出する概略位置姿勢導出手段と、前記概略位置姿勢導出手段で得られた概略位置姿勢に基づいて、該概略位置姿勢よりも高精度の位置姿勢を導出する位置姿勢導出手段とを備え、
前記概略位置姿勢導出手段と、前記位置姿勢導出手段は、前記計測対象物体の一部を表すモデルに基づいて位置姿勢の導出の処理を行うことを特徴とする請求項1に記載の情報処理装置。 - 前記導出手段は、前記計測対象物体の概略位置姿勢を導出する概略位置姿勢導出手段と、前記概略位置姿勢導出手段で得られた概略位置姿勢に基づいて、より高精度の位置姿勢を導出する位置姿勢導出手段とを備え、
前記概略位置姿勢導出手段と前記位置姿勢導出手段は、前記全体モデルと前記部分モデルとのうち、それぞれ異なるモデルを用いて、処理を行うことを特徴とする請求項1に記載の情報処理装置。 - 前記概略位置姿勢導出手段は前記全体モデルを用いて処理を行い、前記位置姿勢導出手段は前記部分モデルを用いて処理を行うことを特徴とする請求項3に記載の情報処理装置。
- 前記位置姿勢導出手段は、前記概略位置姿勢に基づいて、前記部分モデルから抽出されるモデル点と前記距離情報に含まれる計測点とを対応付け、該対応づけられたモデル点と、前記計測点とのずれを少なくするように、前記概略位置姿勢を更新することにより、前記位置姿勢を導出することを特徴とする請求項2乃至4のいずれか1項に記載の情報処理装置。
- 前記部分モデルは、前記全体モデルを切断することにより生成され、
前記位置姿勢導出手段は、前記部分モデルのモデル点のうち、前記全体モデルから生成される際の切断面にあるモデル点は利用しないで前記位置姿勢を導出することを特徴とする請求項5に記載の情報処理装置。 - 情報処理装置であって、
容器に収納された物体の計測された3次元情報と、前記物体の一部の形状を表す部分モデルを用いて、前記物体の概略位置姿勢を導出し、
前記概略位置姿勢を用いて、前記概略位置姿勢よりも高精度の物体の位置姿勢を導出し、
前記物体の全体の形状を表す全体モデルを用いて、ロボットハンドが前記物体を移動させるときに前記物体と前記容器が接触するかどうかを判定する処理部を備えることを特徴とする情報処理装置。 - 山積みされた複数の物体に対して、距離計測を行って得られた距離情報を取得する距離情報取得工程と、
前記距離情報と、前記物体の部分的な形状を表す部分モデルとに基づいて、前記複数の物体のうちの計測対象物体の位置姿勢を導出する導出工程と、
前記物体の全体形状を表す全体モデルに基づいて、前記計測対象物体を保持する際の保持手段による保持動作の際に、前記計測対象物体と前記計測対象物体を格納する容器との間に干渉が生じるかを判定する干渉判定工程とを備えることを特徴とする情報処理方法。 - 容器に収納された物体の計測された3次元情報と、前記物体の一部の形状を表す部分モデルを用いて、前記物体の概略位置姿勢を導出する工程と、
前記概略位置姿勢を用いて、前記概略位置姿勢よりも高精度の物体の位置姿勢を導出する工程と、
前記物体の全体の形状を表す全体モデルを用いて、ロボットハンドが前記物体を移動させるときに前記物体と前記容器が接触するかどうかを判定する判定工程と、を備えることを特徴とする情報処理方法。 - コンピュータを、請求項1乃至6のいずれか1項に記載の情報処理装置の各手段として機能させるためのプログラム。
- 請求項9に記載の情報処理方法をコンピュータに実行させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015061687A JP6632208B2 (ja) | 2015-03-24 | 2015-03-24 | 情報処理装置、情報処理方法、プログラム |
US15/077,783 US9984291B2 (en) | 2015-03-24 | 2016-03-22 | Information processing apparatus, information processing method, and storage medium for measuring a position and an orientation of an object by using a model indicating a shape of the object |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015061687A JP6632208B2 (ja) | 2015-03-24 | 2015-03-24 | 情報処理装置、情報処理方法、プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016179534A JP2016179534A (ja) | 2016-10-13 |
JP6632208B2 true JP6632208B2 (ja) | 2020-01-22 |
Family
ID=56975480
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015061687A Active JP6632208B2 (ja) | 2015-03-24 | 2015-03-24 | 情報処理装置、情報処理方法、プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US9984291B2 (ja) |
JP (1) | JP6632208B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6411964B2 (ja) * | 2015-07-27 | 2018-10-24 | ファナック株式会社 | 工作機械とロボットのリアルタイム干渉確認システム |
CN106767584B (zh) * | 2015-11-20 | 2019-12-06 | 富泰华工业(深圳)有限公司 | 物体表面点三维坐标测量装置及测量方法 |
US9965051B2 (en) * | 2016-06-29 | 2018-05-08 | Microsoft Technology Licensing, Llc | Input device tracking |
US10325413B2 (en) * | 2017-02-28 | 2019-06-18 | United Technologies Corporation | Generating smooth optimized parts |
JP6438512B2 (ja) * | 2017-03-13 | 2018-12-12 | ファナック株式会社 | 機械学習により補正した計測データでワークの取り出しを行うロボットシステム、計測データ処理装置および計測データ処理方法 |
CN111226237A (zh) * | 2017-09-01 | 2020-06-02 | 加利福尼亚大学董事会 | 用于稳健抓取和瞄准物体的机器人系统和方法 |
JP7062418B2 (ja) * | 2017-11-29 | 2022-05-16 | 株式会社東芝 | 情報処理装置及び仕分システム |
JP7073742B2 (ja) * | 2018-01-25 | 2022-05-24 | 株式会社リコー | 情報処理システム、ピッキング箇所特定方法及びプログラム |
JP7119606B2 (ja) * | 2018-06-11 | 2022-08-17 | オムロン株式会社 | 計測システムおよび計測方法 |
JP7376268B2 (ja) * | 2019-07-22 | 2023-11-08 | ファナック株式会社 | 三次元データ生成装置及びロボット制御システム |
JP7123885B2 (ja) * | 2019-09-13 | 2022-08-23 | 株式会社東芝 | ハンドリング装置、制御装置、および保持方法 |
Family Cites Families (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2555824B2 (ja) | 1991-10-30 | 1996-11-20 | 日本電装株式会社 | 山積み部品の高速ピッキング装置 |
GB2261069B (en) * | 1991-10-30 | 1995-11-01 | Nippon Denso Co | High speed picking system for stacked parts |
US6721444B1 (en) * | 1999-03-19 | 2004-04-13 | Matsushita Electric Works, Ltd. | 3-dimensional object recognition method and bin-picking system using the method |
JP3377465B2 (ja) * | 1999-04-08 | 2003-02-17 | ファナック株式会社 | 画像処理装置 |
US6975971B2 (en) * | 2001-03-13 | 2005-12-13 | Ford Global Technologies Llc | System and method of section cutting and analysis of a computer model |
JP3782679B2 (ja) * | 2001-05-09 | 2006-06-07 | ファナック株式会社 | 干渉回避装置 |
JP3805302B2 (ja) * | 2002-12-13 | 2006-08-02 | ファナック株式会社 | ワーク取出し装置 |
JP3930490B2 (ja) * | 2004-04-23 | 2007-06-13 | ファナック株式会社 | 物品取出し装置 |
US7753191B2 (en) * | 2005-09-13 | 2010-07-13 | Crisplant A/S | System and method for automated handling of baggage objects |
US7663630B2 (en) * | 2005-12-08 | 2010-02-16 | Electronics And Telecommunications Research Institute | Apparatus and method for processing collision information in graphic system |
JP4087874B2 (ja) * | 2006-02-01 | 2008-05-21 | ファナック株式会社 | ワーク取り出し装置 |
JP4199264B2 (ja) * | 2006-05-29 | 2008-12-17 | ファナック株式会社 | ワーク取り出し装置及び方法 |
JP2007334678A (ja) * | 2006-06-15 | 2007-12-27 | Fanuc Ltd | ロボットシミュレーション装置 |
JP4413891B2 (ja) * | 2006-06-27 | 2010-02-10 | 株式会社東芝 | シミュレーション装置およびシミュレーション方法並びにシミュレーションプログラム |
JP4930100B2 (ja) * | 2007-02-27 | 2012-05-09 | ソニー株式会社 | 力触覚ディスプレイ、力触覚ディスプレイの制御方法、並びにコンピュータ・プログラム |
JP4309439B2 (ja) * | 2007-03-30 | 2009-08-05 | ファナック株式会社 | 対象物取出装置 |
JP4565023B2 (ja) * | 2008-07-04 | 2010-10-20 | ファナック株式会社 | 物品取り出し装置 |
JP5257335B2 (ja) * | 2009-11-24 | 2013-08-07 | オムロン株式会社 | 3次元視覚センサにおける計測有効領域の表示方法および3次元視覚センサ |
JP5480667B2 (ja) * | 2010-02-26 | 2014-04-23 | キヤノン株式会社 | 位置姿勢計測装置、位置姿勢計測方法、プログラム |
JP4870831B2 (ja) * | 2010-06-30 | 2012-02-08 | ファナック株式会社 | 塗布作業シミュレーション装置 |
KR101453234B1 (ko) * | 2010-11-17 | 2014-10-22 | 미쓰비시덴키 가부시키가이샤 | 워크 취출 장치 |
JP5767464B2 (ja) * | 2010-12-15 | 2015-08-19 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
GB201104312D0 (en) * | 2011-03-14 | 2011-04-27 | Bell Alexandra | Improved virtual try on simulation service |
JP2013099815A (ja) * | 2011-11-08 | 2013-05-23 | Fanuc Ltd | ロボットプログラミング装置 |
JP5854815B2 (ja) * | 2011-12-20 | 2016-02-09 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、およびプログラム |
JP5911299B2 (ja) * | 2011-12-27 | 2016-04-27 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法およびプログラム |
KR101733331B1 (ko) * | 2012-11-27 | 2017-05-08 | 도시바 미쓰비시덴키 산교시스템 가부시키가이샤 | 크레인 운전 지원 장치 |
US20140200863A1 (en) * | 2013-01-11 | 2014-07-17 | The Regents Of The University Of Michigan | Monitoring proximity of objects at construction jobsites via three-dimensional virtuality in real-time |
JP6192088B2 (ja) * | 2013-02-20 | 2017-09-06 | 国立大学法人九州工業大学 | 物体検出方法および物体検出装置 |
US9102055B1 (en) * | 2013-03-15 | 2015-08-11 | Industrial Perception, Inc. | Detection and reconstruction of an environment to facilitate robotic interaction with the environment |
JP5616478B1 (ja) * | 2013-04-18 | 2014-10-29 | ファナック株式会社 | ワークを搬送するロボットを備えるロボットシステム |
JP5788460B2 (ja) * | 2013-11-05 | 2015-09-30 | ファナック株式会社 | バラ積みされた物品をロボットで取出す装置及び方法 |
JP5860081B2 (ja) * | 2014-02-27 | 2016-02-16 | ファナック株式会社 | ロボットの動作経路を生成するロボットシミュレーション装置 |
JP6338421B2 (ja) * | 2014-03-31 | 2018-06-06 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、把持システムおよびプログラム |
JP5778311B1 (ja) * | 2014-05-08 | 2015-09-16 | 東芝機械株式会社 | ピッキング装置およびピッキング方法 |
JP6372198B2 (ja) * | 2014-07-01 | 2018-08-15 | セイコーエプソン株式会社 | ロボットシステム及び処理装置 |
JP5908544B2 (ja) * | 2014-08-11 | 2016-04-26 | ファナック株式会社 | 駆動軸のジャークを低下させるロボットプログラムを生成するロボットプログラム生成装置 |
JP6140204B2 (ja) * | 2015-02-06 | 2017-05-31 | ファナック株式会社 | 3次元センサを備えた搬送ロボットシステム |
JP6117853B2 (ja) * | 2015-05-13 | 2017-04-19 | ファナック株式会社 | バラ積みされた物品を取り出すための物品取出システム、および方法 |
JP6635690B2 (ja) * | 2015-06-23 | 2020-01-29 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
-
2015
- 2015-03-24 JP JP2015061687A patent/JP6632208B2/ja active Active
-
2016
- 2016-03-22 US US15/077,783 patent/US9984291B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US9984291B2 (en) | 2018-05-29 |
JP2016179534A (ja) | 2016-10-13 |
US20160283792A1 (en) | 2016-09-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6632208B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP6298035B2 (ja) | モデル生成装置、位置姿勢算出装置、およびハンドリングロボット装置 | |
JP6323993B2 (ja) | 情報処理装置、情報処理方法、及びコンピュータプログラム | |
JP6978330B2 (ja) | オブジェクト形状および設計からのずれの監視 | |
JP6642968B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP4677536B1 (ja) | 3次元物体認識装置及び3次元物体認識方法 | |
US8792726B2 (en) | Geometric feature extracting device, geometric feature extracting method, storage medium, three-dimensional measurement apparatus, and object recognition apparatus | |
JP6723061B2 (ja) | 情報処理装置、情報処理装置の制御方法およびプログラム | |
JP5480914B2 (ja) | 点群データ処理装置、点群データ処理方法、および点群データ処理プログラム | |
EP2430588B1 (en) | Object recognition method, object recognition apparatus, and autonomous mobile robot | |
US10452949B2 (en) | System and method for scoring clutter for use in 3D point cloud matching in a vision system | |
JP4900204B2 (ja) | 物体認識方法 | |
US11654571B2 (en) | Three-dimensional data generation device and robot control system | |
WO2012008618A1 (en) | Position/orientation measurement apparatus, measurement processing method thereof, and non-transitory computer-readable storage medium | |
CN111274943A (zh) | 一种检测方法、装置、电子设备及存储介质 | |
JP6091658B2 (ja) | 情報処理装置及び情報処理方法及びプログラム | |
JP2018091656A (ja) | 情報処理装置、計測装置、システム、算出方法、プログラムおよび物品の製造方法 | |
JP2017033429A (ja) | 3次元物体検査装置 | |
JP2019114103A (ja) | 物体認識処理装置、物体認識処理方法及びプログラム | |
JP5762099B2 (ja) | 姿勢認識装置、作業ロボット、姿勢認識方法、プログラム及び記録媒体 | |
JP2015111128A (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
JP5030183B2 (ja) | 3次元物体位置姿勢計測方法 | |
US20220230459A1 (en) | Object recognition device and object recognition method | |
JP2014178967A (ja) | 3次元物体認識装置及び3次元物体認識方法 | |
CN113592976A (zh) | 地图数据的处理方法、装置、家用电器和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20171222 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20181213 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190122 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190323 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190409 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190605 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191112 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191210 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6632208 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |