JP6621836B2 - 光パターンの強度変動を利用した体積内の物体の深さマッピング - Google Patents
光パターンの強度変動を利用した体積内の物体の深さマッピング Download PDFInfo
- Publication number
- JP6621836B2 JP6621836B2 JP2017544937A JP2017544937A JP6621836B2 JP 6621836 B2 JP6621836 B2 JP 6621836B2 JP 2017544937 A JP2017544937 A JP 2017544937A JP 2017544937 A JP2017544937 A JP 2017544937A JP 6621836 B2 JP6621836 B2 JP 6621836B2
- Authority
- JP
- Japan
- Prior art keywords
- intensity
- stripe
- light
- additional
- light pattern
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000013507 mapping Methods 0.000 title description 9
- 230000003287 optical effect Effects 0.000 claims description 59
- 238000000034 method Methods 0.000 claims description 46
- 230000000737 periodic effect Effects 0.000 claims description 27
- 238000009826 distribution Methods 0.000 claims description 25
- 238000001514 detection method Methods 0.000 claims description 19
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 23
- 230000006870 function Effects 0.000 description 19
- 230000007423 decrease Effects 0.000 description 9
- 238000004590 computer program Methods 0.000 description 6
- 230000001788 irregular Effects 0.000 description 6
- 238000004364 calculation method Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 4
- 230000036544 posture Effects 0.000 description 4
- 230000000875 corresponding effect Effects 0.000 description 3
- 230000000644 propagated effect Effects 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000002596 correlated effect Effects 0.000 description 2
- 210000003128 head Anatomy 0.000 description 2
- 238000005286 illumination Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000000926 separation method Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/14—Measuring arrangements characterised by the use of optical techniques for measuring distance or clearance between spaced objects or spaced apertures
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/22—Measuring arrangements characterised by the use of optical techniques for measuring depth
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T19/00—Manipulating 3D models or images for computer graphics
- G06T19/006—Mixed reality
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
- G06V40/28—Recognition of hand or arm movements, e.g. recognition of deaf sign language
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Human Computer Interaction (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Optics & Photonics (AREA)
- Artificial Intelligence (AREA)
- Software Systems (AREA)
- General Engineering & Computer Science (AREA)
- Computer Hardware Design (AREA)
- Computer Graphics (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
上述した実施形態の説明は、例示を目的として提示されるものであり、包括的であることまたは開示された正確な形態に特許権を限定することを意図するものではない。当業者であれば、上記の開示内容をもとに、多くの変更および変形が可能である。
Claims (17)
- 方法であって、
各々第1の次元に沿った所定の変動を含む複数の特徴を有した所定の構造からなる構造化光パターンを体積内に投影することであって、前記構造化光パターンの前記所定の構造が前記第1の次元に延びるストライプを含み、前記所定の変動が追加の次元における強度の周期を含み、前記周期内におけるストライプ群の各ストライプがそれぞれの強度で投影され、前記所定の構造がさらに前記各ストライプに沿った強度変動を含むとともに異なるストライプのピーク強度が互いに異なる位置に存在し、前記構造化光パターンがさらに、前記追加の次元にわたる追加の変動を含み、前記追加の変動も前記第1の次元に沿って変化する、前記構造化光パターンを体積内に投影すること、
前記体積内の1つ以上の物体で反射された光を検出することであって、検出光が、前記構造化光パターンの前記所定の構造の前記複数の特徴のうち1つ以上の特徴を含む、前記反射された光を検出すること、
前記検出光における前記1つ以上の特徴を前記所定の構造と相関付けること、
前記異なるストライプのピーク強度の位置に基づいて物体の深さ情報を決定すること、
を備える方法。 - 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
前記検出光における少なくとも1つの前記特徴を前記体積内に含まれる物体を含む検出画像内の対応する位置と比較することにより、前記検出光における前記1つ以上の特徴に関連付けられた物体の深さ情報を前記相関付けに基づいて取得することを含む、請求項1に記載の方法。 - 前記物体の深さ情報は、前記物体の3次元深さ情報を含む、請求項1に記載の方法。
- 前記構造化光パターンの前記所定の構造の前記1つ以上の特徴は強度レベルを含む、請求項1に記載の方法。
- 前記所定の変動または前記追加の変動が周期的な強度変動である、請求項1に記載の方法。
- 前記周期的な強度変動が、2値変動、3段階変動、4段階変動、5段階変動、6段階変動、7段階変動、および8段階変動からなる群から選択される、請求項5に記載の方法。
- 前記所定の変動は、前記第1の次元に沿って変化する均一ピーク強度の分布である、請求項1に記載の方法。
- 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
前記検出光における特徴と関連付けられた物体の深さ情報を、前記特徴の強度の値と、前記特徴内における前記追加の変動のピーク強度との比に基づいて計算することを含む、請求項1に記載の方法。 - 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
前記強度の周期に対して前記ストライプ群の相対的指標を決定すること、
前記相対的指標に基づいて前記物体の深さ情報を決定すること、
を含む、請求項1に記載の方法。 - 前記検出光における前記1つ以上の特徴の各々に関連付けられた物体の深さ情報を前記相関付けに基づいて決定することは、
前記強度の周期に対して前記ストライプ群の相対的指標を決定すること、
前記相対的指標と、異なるストライプのピーク強度の位置とに基づいて前記物体の深さ情報を決定すること、を含む、請求項1に記載の方法。 - 方法であって、
体積内に光パターンを投影することであって、前記光パターンは、第1の次元の周期的な強度変動と、追加の次元に沿った均一ピーク強度の分布とを含み、前記追加の次元に沿った前記分布も前記第1の次元によって変化する、前記光パターンを投影すること、
前記光パターンを反射する前記体積内の位置を見出すこと、
前記周期的な強度変動に従った前記位置における強度と、前記均一ピーク強度の分布に従った前記位置における強度との比を決定すること、
決定された前記比を用いて前記位置における深さを決定すること、
を備える方法。 - 前記光パターンは前記追加の次元に延びるストライプを含む、請求項11に記載の方法。
- 前記周期的な強度変動は、ストライプ群の各ストライプを異なる強度で投影すること、および少なくとも追加のストライプ群について異なる強度を繰り返すことを含む、請求項12に記載の方法。
- 前記追加の次元に沿った前記均一ピーク強度の分布は、ピーク強度を有するストライプに沿ったガウス強度の変動を含む、請求項13に記載の方法。
- 前記決定された比を用いて前記位置における深さを決定することは、
前記周期的な強度変動に対する前記ストライプ群の相対的指標を、物体セグメント化を用いて決定すること、
1つ以上のストライプにおける前記相対的指標およびピーク強度の位置とともに前記決定された比に基づいて、前記位置における深さを決定すること、を含む、請求項13に記載の方法。 - 装置であって、
或る方向に強度を変化させて変動強度の特徴を有する光ビームを生成するように構成された光源であって、前記光ビームは第1の次元に延びるストライプを含み、前記ストライプが前記光ビームの方向に直交する追加の次元における強度の周期を有する、前記光源と、
前記光ビームの方向と直交する方向に強度特性を適用して、第1の次元における周期的な強度変動を有するとともに、前記光ビームの方向と直交する前記追加の次元に沿った均一ピーク強度の分布を有する光パターンを生成するように構成された光学素子であって、前記追加の次元に沿った前記分布も前記第1の次元で変化する、前記光学素子と、を備えた装置。 - 前記光学素子によって適用された前記強度特性を有する前記光ビームに追加の強度特性を適用するように構成された追加の光学素子をさらに備え、前記追加の強度特性は、グリッド配列で適用され、前記追加の光学素子は、前記追加の強度特性が各特徴における異なる位置に生じるように前記方向に対してオフセットされている、請求項16に記載の装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562120500P | 2015-02-25 | 2015-02-25 | |
US62/120,500 | 2015-02-25 | ||
PCT/US2016/019375 WO2016138143A1 (en) | 2015-02-25 | 2016-02-24 | Using intensity variations in a light pattern for depth mapping of objects in a volume |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2018508019A JP2018508019A (ja) | 2018-03-22 |
JP2018508019A5 JP2018508019A5 (ja) | 2019-02-14 |
JP6621836B2 true JP6621836B2 (ja) | 2019-12-18 |
Family
ID=56789621
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017544937A Active JP6621836B2 (ja) | 2015-02-25 | 2016-02-24 | 光パターンの強度変動を利用した体積内の物体の深さマッピング |
Country Status (6)
Country | Link |
---|---|
US (1) | US9934574B2 (ja) |
EP (2) | EP4141793A1 (ja) |
JP (1) | JP6621836B2 (ja) |
KR (1) | KR101954855B1 (ja) |
CN (1) | CN107532885B (ja) |
WO (1) | WO2016138143A1 (ja) |
Families Citing this family (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102656543A (zh) * | 2009-09-22 | 2012-09-05 | 泊布欧斯技术有限公司 | 计算机装置的远程控制 |
EP3243188A4 (en) * | 2015-01-06 | 2018-08-22 | Facebook Inc. | Method and system for providing depth mapping using patterned light |
US10066933B2 (en) | 2015-05-04 | 2018-09-04 | Facebook, Inc. | Camera depth mapping using structured light patterns |
US10785393B2 (en) * | 2015-05-22 | 2020-09-22 | Facebook, Inc. | Methods and devices for selective flash illumination |
US9858672B2 (en) | 2016-01-15 | 2018-01-02 | Oculus Vr, Llc | Depth mapping using structured light and time of flight |
US10089738B2 (en) * | 2016-08-30 | 2018-10-02 | Microsoft Technology Licensing, Llc | Temperature compensation for structured light depth imaging system |
US10620316B2 (en) * | 2017-05-05 | 2020-04-14 | Qualcomm Incorporated | Systems and methods for generating a structured light depth map with a non-uniform codeword pattern |
CN110892716B (zh) * | 2017-07-12 | 2022-11-22 | 镜泰公司 | 从环境中用于获取信息的系统及方法 |
TWI647661B (zh) * | 2017-08-10 | 2019-01-11 | 緯創資通股份有限公司 | 影像深度感測方法與影像深度感測裝置 |
CN107450190B (zh) | 2017-09-08 | 2019-12-13 | 深圳奥比中光科技有限公司 | 一种衍射光学元件及配制方法 |
CN107703641B (zh) * | 2017-09-08 | 2019-12-13 | 深圳奥比中光科技有限公司 | 一种结构光投影模组和深度相机 |
US20190220677A1 (en) * | 2018-01-17 | 2019-07-18 | GM Global Technology Operations LLC | Structured light illumination system for object detection |
CN108594454B (zh) | 2018-03-23 | 2019-12-13 | 深圳奥比中光科技有限公司 | 一种结构光投影模组和深度相机 |
US11182914B2 (en) * | 2018-05-21 | 2021-11-23 | Facebook Technologies, Llc | Dynamic structured light for depth sensing systems based on contrast in a local area |
US10877622B2 (en) * | 2018-08-29 | 2020-12-29 | Facebook Technologies, Llc | Detection of structured light for depth sensing |
CN109712350B (zh) * | 2019-01-31 | 2024-06-11 | 浙江云澎科技有限公司 | 一种智能识别的自助结算机 |
JP7251240B2 (ja) * | 2019-03-20 | 2023-04-04 | 株式会社リコー | 光学装置、検出装置及び電子機器 |
US10890839B1 (en) * | 2019-11-06 | 2021-01-12 | Himax Technologies Limited | Structured light imaging device |
US20220233096A1 (en) * | 2021-01-27 | 2022-07-28 | Covidien Lp | Systems and methods for non-contact respiratory monitoring |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3388684B2 (ja) * | 1997-03-05 | 2003-03-24 | 株式会社オプトン | 3次元形状測定方法 |
US6341016B1 (en) * | 1999-08-06 | 2002-01-22 | Michael Malione | Method and apparatus for measuring three-dimensional shape of object |
KR100544979B1 (ko) * | 2003-11-28 | 2006-01-24 | 한국전자통신연구원 | 물체의 반사율 획득 시스템 및 물체 표현 방법 |
EP1994503B1 (en) * | 2006-03-14 | 2017-07-05 | Apple Inc. | Depth-varying light fields for three dimensional sensing |
US20090189858A1 (en) * | 2008-01-30 | 2009-07-30 | Jeff Lev | Gesture Identification Using A Structured Light Pattern |
US9582889B2 (en) * | 2009-07-30 | 2017-02-28 | Apple Inc. | Depth mapping based on pattern matching and stereoscopic information |
US9098931B2 (en) * | 2010-08-11 | 2015-08-04 | Apple Inc. | Scanning projectors and image capture modules for 3D mapping |
TWI435051B (zh) * | 2011-03-15 | 2014-04-21 | Largan Precision Co Ltd | 位置及深度之檢出裝置及其方法 |
US9628843B2 (en) | 2011-11-21 | 2017-04-18 | Microsoft Technology Licensing, Llc | Methods for controlling electronic devices using gestures |
DE112013000590B4 (de) * | 2012-01-17 | 2016-05-04 | Leap Motion, Inc. | Verbesserter Kontrast zur Objekterfassung und Charakterisierung durch optisches Abbilden |
EP2823462B1 (en) * | 2012-03-05 | 2019-10-16 | Microsoft Technology Licensing, LLC | Generation of depth images based upon light falloff |
US20140267701A1 (en) * | 2013-03-12 | 2014-09-18 | Ziv Aviv | Apparatus and techniques for determining object depth in images |
EP2799810A1 (de) * | 2013-04-30 | 2014-11-05 | Aimess Services GmbH | Vorrichtung und Verfahren zum simultanen dreidimensionalen Vermessen von Oberflächen mit mehreren Wellenlängen |
US10019843B2 (en) * | 2013-08-08 | 2018-07-10 | Facebook, Inc. | Controlling a near eye display |
-
2016
- 2016-02-24 JP JP2017544937A patent/JP6621836B2/ja active Active
- 2016-02-24 EP EP22197525.3A patent/EP4141793A1/en not_active Withdrawn
- 2016-02-24 EP EP16756287.5A patent/EP3262439B1/en active Active
- 2016-02-24 KR KR1020177026659A patent/KR101954855B1/ko active IP Right Grant
- 2016-02-24 US US15/052,659 patent/US9934574B2/en active Active
- 2016-02-24 CN CN201680023312.1A patent/CN107532885B/zh active Active
- 2016-02-24 WO PCT/US2016/019375 patent/WO2016138143A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
EP3262439A4 (en) | 2019-02-27 |
KR20170120655A (ko) | 2017-10-31 |
CN107532885A (zh) | 2018-01-02 |
JP2018508019A (ja) | 2018-03-22 |
EP3262439A1 (en) | 2018-01-03 |
EP4141793A1 (en) | 2023-03-01 |
US9934574B2 (en) | 2018-04-03 |
WO2016138143A1 (en) | 2016-09-01 |
US20160253812A1 (en) | 2016-09-01 |
KR101954855B1 (ko) | 2019-03-06 |
EP3262439B1 (en) | 2022-11-02 |
CN107532885B (zh) | 2020-03-03 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6621836B2 (ja) | 光パターンの強度変動を利用した体積内の物体の深さマッピング | |
EP3788403B1 (en) | Field calibration of a structured light range-sensor | |
EP3907702B1 (en) | Three-dimensional sensor system and three-dimensional data acquisition method | |
JP6377863B2 (ja) | 反射マップ表現による奥行きマップ表現の増補 | |
GB2564794B (en) | Image-stitching for dimensioning | |
US7768656B2 (en) | System and method for three-dimensional measurement of the shape of material objects | |
JP5587137B2 (ja) | 測定装置及び測定方法 | |
JP5631025B2 (ja) | 情報処理装置、その処理方法及びプログラム | |
KR101605224B1 (ko) | 패턴 광을 이용한 깊이 정보 획득 장치 및 방법 | |
KR102424135B1 (ko) | 2개의 카메라로부터의 곡선의 세트의 구조형 광 매칭 | |
US20130106833A1 (en) | Method and apparatus for optical tracking of 3d pose using complex markers | |
US12067083B2 (en) | Detecting displacements and/or defects in a point cloud using cluster-based cloud-to-cloud comparison | |
US20130147785A1 (en) | Three-dimensional texture reprojection | |
CN111971525A (zh) | 用立体镜测量物体的方法和系统 | |
JP6782239B2 (ja) | パターン光を用いた深さマップを提供するための方法およびシステム | |
CN110462688B (zh) | 使用基于模型的峰值选择的三维轮廓确定系统及方法 | |
KR101296365B1 (ko) | 카메라를 이용한 홀로그램 터치 인식방법 | |
KR101907057B1 (ko) | 구면 모델링을 통한 깊이 정보 보정 방법과 보정장치 | |
US11758077B1 (en) | Employing sequences of light patterns to synchronize cameras | |
KR20240077350A (ko) | 센서 융합 장치 및 방법 | |
TW201301078A (zh) | 體感偵測方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181227 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181227 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20181227 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190218 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190226 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190508 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190520 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190604 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190618 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190709 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191008 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20191105 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20191120 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6621836 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |