JP2018507399A - パターン光を用いた深さマップを提供するための方法およびシステム - Google Patents
パターン光を用いた深さマップを提供するための方法およびシステム Download PDFInfo
- Publication number
- JP2018507399A JP2018507399A JP2017535872A JP2017535872A JP2018507399A JP 2018507399 A JP2018507399 A JP 2018507399A JP 2017535872 A JP2017535872 A JP 2017535872A JP 2017535872 A JP2017535872 A JP 2017535872A JP 2018507399 A JP2018507399 A JP 2018507399A
- Authority
- JP
- Japan
- Prior art keywords
- depth map
- edge
- axis
- pattern
- depth
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 22
- 238000004458 analytical method Methods 0.000 claims abstract description 11
- 238000013213 extrapolation Methods 0.000 claims 1
- 210000003811 finger Anatomy 0.000 description 29
- 238000010586 diagram Methods 0.000 description 10
- 230000011218 segmentation Effects 0.000 description 10
- 230000000694 effects Effects 0.000 description 8
- 210000003813 thumb Anatomy 0.000 description 4
- 230000014509 gene expression Effects 0.000 description 2
- 238000003709 image segmentation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 241000272525 Anas platyrhynchos Species 0.000 description 1
- 210000004247 hand Anatomy 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Classifications
-
- G06T5/77—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/12—Edge-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/521—Depth or shape recovery from laser ranging, e.g. using interferometry; from the projection of structured light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10028—Range image; Depth image; 3D point clouds
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/12—Acquisition of 3D measurements of objects
Abstract
Description
本明細書で用いる用語「構造化光」は、既知の画素パターンをシーンに投影するプロセスとして定義される。これらが面に当たるときにどのように変形するかにより、シーン内における物体の深さおよび表面情報を映像システムにより計算することが可能となる。目に見えない構造化光は、投影パターンが複雑化する他のコンピュータ映像タスクを妨げることなく構造化光を使用する。
本発明のこれらの、付加的な、および/または他の態様および/または実施形態の利点は以下の詳細な説明で説明され、それらは、以下の詳細な説明から推測可能であり、および/または本発明の実施形態の実施よって理解可能である。
手のひらによるストライプのセグメント化によって生じたストライプセグメントの集合は、X軸においてユーザの手の指のストライプセグメントの集合との重なりを有する上部ストリップセグメントを含む。上部ストリップセグメントはX軸において4つの指の集合に重なるが、4つの指の集合の下部セグメントの最小X値や最大X値を超えていない。
図10は、本発明の実施形態による、非限定的な例示的な方法1000のステップを示すフローチャートである。方法1000は、例えば、ストライプ(他のパターンも使用することができる)を含む構造化光の解析に基づいて生成された物体の深さマップを取得すること(1010)、物体のエッジが与えられたとき、z軸値が不正確であるまたはz軸値が完全である深さマップの部分を判定すること(1020)、判定した深さマップの部分に関連付けられた物体の幾何学的特徴を、深さマップのラインのエッジに基づいて検出すること(1030)、検出した幾何学的特徴に基づいてテンプレート関数を選択すること(1040)、対応する深さマップの部分の局所的な幾何学的特徴に基づいて、選択したテンプレートに制約を適用すること(1050)、物体のパターン外の領域により反射された強度に基づいて、対応する深さマップの部分のxy平面のエッジ点を検出すること(1060)、対応する制約と、検出されたエッジ点とを用いて、選択したテンプレートに基づいて曲線近似を行うことによりエッジ点のx軸値を生成すること(1070)、深さマップ部分の点を外挿することによりエッジ点のz軸値を近似曲線に適用して、エッジ点と元の深さマップとの間のさらなる点のz軸値を推定すること(1080)、導出されたエッジ点のz軸値と、エッジと元の深さマップとの間のさらなる点とに基づいて、元の深さマップを完成させること(1090)を含む。
本発明の教示の原理および使用は、実施例や添付の図面を参照することによって、より良く理解され得る。
また、本発明は種々の方法で実行または実施することができ、上述した説明以外の実施形態でも実施することができる。
明細書または特許請求の範囲が「一つ」の要素を参照する場合、そのような参照は、その要素が1つのみ存在すると解釈されるべきではない。
特許請求の範囲および明細書に記載した説明、実施例、方法および材料は、限定として解釈されるべきでなく、単に例示として解釈されるべきである。
本発明は、本明細書で説明するものと同等または類似の方法および材料を用いて試験または実施において実施することができる。
Claims (6)
- 方法であって、
ストライプを含むパターンの構造化光の解析に基づいて生成された物体の深さマップを取得すること、
前記物体のエッジが与えられたとき、z軸値が不正確であるまたはz軸値が完全である前記深さマップの部分を判定すること、
判定した前記深さマップの部分に関連付けられた前記物体の幾何学的特徴を前記深さマップのエッジに基づいて検出すること、
検出した前記物体の幾何学的特徴に基づいて、前記物体のエッジに沿ったz軸データを推定すること
を備える方法。 - 検出した前記物体の幾何学的特徴に基づいてテンプレートの関数を選択すること、
対応する前記深さマップの部分の局所的な幾何学的特徴に基づいて、選択した前記テンプレートに制約を適用すること、
をさらに備える請求項1に記載の方法。 - パターン外の領域で反射された強度に基づいて、前記対応する前記深さマップの部分のxy平面のエッジを検出することをさらに備える請求項2に記載の方法。
- 対応する前記制約と検出した前記エッジとを用いて、選択した前記テンプレートに基づいて曲線近似関数を適用することをさらに備える請求項3に記載の方法。
- 前記深さマップの部分からの外挿に基づいてz軸データを近似曲線に適用することをさらに備える請求項4に記載の方法。
- 得られた前記エッジのz軸データに基づいて前記深さマップを完成させることをさらに備える請求項5に記載の方法。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201562100340P | 2015-01-06 | 2015-01-06 | |
US62/100,340 | 2015-01-06 | ||
PCT/US2016/012197 WO2016112019A1 (en) | 2015-01-06 | 2016-01-05 | Method and system for providing depth mapping using patterned light |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018507399A true JP2018507399A (ja) | 2018-03-15 |
JP6782239B2 JP6782239B2 (ja) | 2020-11-11 |
Family
ID=56286778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017535872A Active JP6782239B2 (ja) | 2015-01-06 | 2016-01-05 | パターン光を用いた深さマップを提供するための方法およびシステム |
Country Status (6)
Country | Link |
---|---|
US (1) | US20160196657A1 (ja) |
EP (1) | EP3243188A4 (ja) |
JP (1) | JP6782239B2 (ja) |
KR (1) | KR20170104506A (ja) |
CN (1) | CN107408204B (ja) |
WO (1) | WO2016112019A1 (ja) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102656543A (zh) * | 2009-09-22 | 2012-09-05 | 泊布欧斯技术有限公司 | 计算机装置的远程控制 |
US9842392B2 (en) * | 2014-12-15 | 2017-12-12 | Koninklijke Philips N.V. | Device, system and method for skin detection |
US10116915B2 (en) * | 2017-01-17 | 2018-10-30 | Seiko Epson Corporation | Cleaning of depth data by elimination of artifacts caused by shadows and parallax |
US10620316B2 (en) * | 2017-05-05 | 2020-04-14 | Qualcomm Incorporated | Systems and methods for generating a structured light depth map with a non-uniform codeword pattern |
US10535151B2 (en) | 2017-08-22 | 2020-01-14 | Microsoft Technology Licensing, Llc | Depth map with structured and flood light |
Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03186706A (ja) * | 1989-12-15 | 1991-08-14 | Toyota Central Res & Dev Lab Inc | 3次元形状寸法計測装置 |
JPH11108633A (ja) * | 1997-09-30 | 1999-04-23 | Peteio:Kk | 3次元形状計測装置及びそれを用いた3次元彫刻装置 |
JP2001012922A (ja) * | 1999-06-29 | 2001-01-19 | Minolta Co Ltd | 3次元データ処理装置 |
JP2001319245A (ja) * | 2000-05-02 | 2001-11-16 | Sony Corp | 画像処理装置および方法、並びに記録媒体 |
JP2003016463A (ja) * | 2001-07-05 | 2003-01-17 | Toshiba Corp | 図形の輪郭の抽出方法、パターン検査方法、パターン検査装置、プログラムおよびこれを格納したコンピュータ読み取り可能な記録媒体 |
EP2272417A1 (en) * | 2009-07-10 | 2011-01-12 | GE Inspection Technologies, LP | Fringe projection system and method for a probe suitable for phase-shift analysis |
DE102013205762A1 (de) * | 2012-04-03 | 2013-10-10 | Canon Kabushiki Kaisha | Informationsverarbeitungsvorrichtung, die eine dreidimensionale Formvermessung durchführt, Informationsverarbeitungsverfahren und Speichermedium |
JP2013228334A (ja) * | 2012-04-26 | 2013-11-07 | Topcon Corp | 三次元計測システム及び三次元計測方法及び三次元計測プログラム |
WO2014053157A1 (en) * | 2012-10-01 | 2014-04-10 | Telefonaktiebolaget L M Ericsson (Publ) | Method and apparatus for determining a depth of a target object |
JP2014120068A (ja) * | 2012-12-18 | 2014-06-30 | Canon Inc | 情報処理装置および情報処理方法 |
WO2014155715A1 (ja) * | 2013-03-29 | 2014-10-02 | 株式会社日立製作所 | 物体認識装置および物体認識方法並びにプログラム |
Family Cites Families (34)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6912293B1 (en) * | 1998-06-26 | 2005-06-28 | Carl P. Korobkin | Photogrammetry engine for model construction |
US20110057930A1 (en) * | 2006-07-26 | 2011-03-10 | Inneroptic Technology Inc. | System and method of using high-speed, high-resolution depth extraction to provide three-dimensional imagery for endoscopy |
JP5615552B2 (ja) * | 2006-11-21 | 2014-10-29 | コーニンクレッカ フィリップス エヌ ヴェ | 画像の深度マップの生成 |
JP5243612B2 (ja) * | 2008-10-02 | 2013-07-24 | フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ | 中間画像合成およびマルチビューデータ信号抽出 |
EP2184713A1 (en) * | 2008-11-04 | 2010-05-12 | Koninklijke Philips Electronics N.V. | Method and device for generating a depth map |
US8553973B2 (en) * | 2009-07-07 | 2013-10-08 | University Of Basel | Modeling methods and systems |
CN102656543A (zh) * | 2009-09-22 | 2012-09-05 | 泊布欧斯技术有限公司 | 计算机装置的远程控制 |
US9870068B2 (en) * | 2010-09-19 | 2018-01-16 | Facebook, Inc. | Depth mapping with a head mounted display using stereo cameras and structured light |
JP2014509119A (ja) * | 2011-01-21 | 2014-04-10 | トムソン ライセンシング | 幾何学ベースのイントラ予測の方法および装置 |
US8724887B2 (en) * | 2011-02-03 | 2014-05-13 | Microsoft Corporation | Environmental modifications to mitigate environmental factors |
US9536312B2 (en) * | 2011-05-16 | 2017-01-03 | Microsoft Corporation | Depth reconstruction using plural depth capture units |
US20120314031A1 (en) * | 2011-06-07 | 2012-12-13 | Microsoft Corporation | Invariant features for computer vision |
US9131223B1 (en) * | 2011-07-07 | 2015-09-08 | Southern Methodist University | Enhancing imaging performance through the use of active illumination |
US9002099B2 (en) * | 2011-09-11 | 2015-04-07 | Apple Inc. | Learning-based estimation of hand and finger pose |
US9117295B2 (en) * | 2011-12-20 | 2015-08-25 | Adobe Systems Incorporated | Refinement of depth maps by fusion of multiple estimates |
EP2674913B1 (en) * | 2012-06-14 | 2014-07-23 | Softkinetic Software | Three-dimensional object modelling fitting & tracking. |
US8805057B2 (en) * | 2012-07-31 | 2014-08-12 | Mitsubishi Electric Research Laboratories, Inc. | Method and system for generating structured light with spatio-temporal patterns for 3D scene reconstruction |
US9514522B2 (en) * | 2012-08-24 | 2016-12-06 | Microsoft Technology Licensing, Llc | Depth data processing and compression |
RU2012145349A (ru) * | 2012-10-24 | 2014-05-10 | ЭлЭсАй Корпорейшн | Способ и устройство обработки изображений для устранения артефактов глубины |
US8792969B2 (en) * | 2012-11-19 | 2014-07-29 | Xerox Corporation | Respiratory function estimation from a 2D monocular video |
RU2012154657A (ru) * | 2012-12-17 | 2014-06-27 | ЭлЭсАй Корпорейшн | Способы и устройство для объединения изображений с глубиной, генерированных с использованием разных способов формирования изображений с глубиной |
RU2013106513A (ru) * | 2013-02-14 | 2014-08-20 | ЭлЭсАй Корпорейшн | Способ и устройство для улучшения изображения и подтверждения границ с использованием по меньшей мере одного дополнительного изображения |
US9373171B2 (en) * | 2013-07-22 | 2016-06-21 | Stmicroelectronics S.R.L. | Method for generating a depth map, related system and computer program product |
CA2924622C (en) * | 2013-10-23 | 2020-03-10 | Oculus Vr, Llc. | Three dimensional depth mapping using dynamic structured light |
US20150193971A1 (en) * | 2014-01-03 | 2015-07-09 | Motorola Mobility Llc | Methods and Systems for Generating a Map including Sparse and Dense Mapping Information |
EP2894546B1 (en) * | 2014-01-13 | 2018-07-18 | Facebook Inc. | Sub-resolution optical detection |
US9519060B2 (en) * | 2014-05-27 | 2016-12-13 | Xerox Corporation | Methods and systems for vehicle classification from laser scans using global alignment |
US9582888B2 (en) * | 2014-06-19 | 2017-02-28 | Qualcomm Incorporated | Structured light three-dimensional (3D) depth map based on content filtering |
US9752864B2 (en) * | 2014-10-21 | 2017-09-05 | Hand Held Products, Inc. | Handheld dimensioning system with feedback |
CN107532885B (zh) * | 2015-02-25 | 2020-03-03 | 脸谱科技有限责任公司 | 光图案中的强度变化用于体积中的物体的深度绘制 |
CA2977374C (en) * | 2015-02-25 | 2019-04-16 | Facebook, Inc. | Identifying an object in a volume based on characteristics of light reflected by the object |
US9694498B2 (en) * | 2015-03-30 | 2017-07-04 | X Development Llc | Imager for detecting visual light and projected patterns |
US9679192B2 (en) * | 2015-04-24 | 2017-06-13 | Adobe Systems Incorporated | 3-dimensional portrait reconstruction from a single photo |
EP3295239B1 (en) * | 2015-05-13 | 2021-06-30 | Facebook Technologies, LLC | Augmenting a depth map representation with a reflectivity map representation |
-
2016
- 2016-01-05 WO PCT/US2016/012197 patent/WO2016112019A1/en active Application Filing
- 2016-01-05 EP EP16735304.4A patent/EP3243188A4/en not_active Withdrawn
- 2016-01-05 US US14/988,411 patent/US20160196657A1/en not_active Abandoned
- 2016-01-05 JP JP2017535872A patent/JP6782239B2/ja active Active
- 2016-01-05 KR KR1020177021149A patent/KR20170104506A/ko active IP Right Grant
- 2016-01-05 CN CN201680013804.2A patent/CN107408204B/zh active Active
Patent Citations (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH03186706A (ja) * | 1989-12-15 | 1991-08-14 | Toyota Central Res & Dev Lab Inc | 3次元形状寸法計測装置 |
JPH11108633A (ja) * | 1997-09-30 | 1999-04-23 | Peteio:Kk | 3次元形状計測装置及びそれを用いた3次元彫刻装置 |
JP2001012922A (ja) * | 1999-06-29 | 2001-01-19 | Minolta Co Ltd | 3次元データ処理装置 |
JP2001319245A (ja) * | 2000-05-02 | 2001-11-16 | Sony Corp | 画像処理装置および方法、並びに記録媒体 |
JP2003016463A (ja) * | 2001-07-05 | 2003-01-17 | Toshiba Corp | 図形の輪郭の抽出方法、パターン検査方法、パターン検査装置、プログラムおよびこれを格納したコンピュータ読み取り可能な記録媒体 |
EP2272417A1 (en) * | 2009-07-10 | 2011-01-12 | GE Inspection Technologies, LP | Fringe projection system and method for a probe suitable for phase-shift analysis |
DE102013205762A1 (de) * | 2012-04-03 | 2013-10-10 | Canon Kabushiki Kaisha | Informationsverarbeitungsvorrichtung, die eine dreidimensionale Formvermessung durchführt, Informationsverarbeitungsverfahren und Speichermedium |
JP2013228334A (ja) * | 2012-04-26 | 2013-11-07 | Topcon Corp | 三次元計測システム及び三次元計測方法及び三次元計測プログラム |
WO2014053157A1 (en) * | 2012-10-01 | 2014-04-10 | Telefonaktiebolaget L M Ericsson (Publ) | Method and apparatus for determining a depth of a target object |
JP2014120068A (ja) * | 2012-12-18 | 2014-06-30 | Canon Inc | 情報処理装置および情報処理方法 |
WO2014155715A1 (ja) * | 2013-03-29 | 2014-10-02 | 株式会社日立製作所 | 物体認識装置および物体認識方法並びにプログラム |
Non-Patent Citations (2)
Title |
---|
PARK, JIYOUNG, ET AL.: ""Using structured light for efficient depth edge detection"", IMAGE AND VISION COMPUTING, [ONLINE], vol. Volume 26, Issue 11, JPN6020037352, 1 November 2008 (2008-11-01), pages 1449 - 1465, ISSN: 0004358333 * |
WEIHAI CHEN, ET AL.: ""An improved edge detection algorithm for depth map inpainting"", OPTICS AND LASERS IN ENGINEERING, vol. 55, JPN7019003882, 1 April 2014 (2014-04-01), NL, pages 69 - 77, XP055282597, ISSN: 0004165251, DOI: 10.1016/j.optlaseng.2013.10.025 * |
Also Published As
Publication number | Publication date |
---|---|
CN107408204A (zh) | 2017-11-28 |
EP3243188A1 (en) | 2017-11-15 |
KR20170104506A (ko) | 2017-09-15 |
US20160196657A1 (en) | 2016-07-07 |
CN107408204B (zh) | 2021-03-09 |
JP6782239B2 (ja) | 2020-11-11 |
WO2016112019A1 (en) | 2016-07-14 |
EP3243188A4 (en) | 2018-08-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6782239B2 (ja) | パターン光を用いた深さマップを提供するための方法およびシステム | |
JP6621836B2 (ja) | 光パターンの強度変動を利用した体積内の物体の深さマッピング | |
US9898651B2 (en) | Upper-body skeleton extraction from depth maps | |
US9836645B2 (en) | Depth mapping with enhanced resolution | |
KR101606628B1 (ko) | 포인팅 방향 검출 장치 및 그 방법과, 프로그램 및 컴퓨터 판독가능한 매체 | |
US9947098B2 (en) | Augmenting a depth map representation with a reflectivity map representation | |
US20170308736A1 (en) | Three dimensional object recognition | |
US20140253679A1 (en) | Depth measurement quality enhancement | |
EP2956908A1 (en) | Model-based multi-hypothesis target tracker | |
CN110308817B (zh) | 一种触控动作识别方法及触控投影系统 | |
EP3345123B1 (en) | Fast and robust identification of extremities of an object within a scene | |
JP2014186715A (ja) | 情報処理装置、情報処理方法 | |
JP6425406B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP5620741B2 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
JP2021081791A5 (ja) | ||
Morshidi et al. | Feature points selection for markerless hand pose estimation | |
Lee et al. | ROBUST HAND-DRAWN SQUARE-ROI CONTOUR DETECTOR BASED ON ADAPTIVE THRESHOLDING | |
KR20120115063A (ko) | 깊이 영상을 이용한 동작 추정 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181228 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190517 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20190604 |
|
RD02 | Notification of acceptance of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7422 Effective date: 20190617 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20191120 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191203 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20200428 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20200828 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20200908 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20201006 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201019 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6782239 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |