JP2019082979A - 画像の改良されたセグメンテーション及び認識のための方法と装置 - Google Patents
画像の改良されたセグメンテーション及び認識のための方法と装置 Download PDFInfo
- Publication number
- JP2019082979A JP2019082979A JP2017214986A JP2017214986A JP2019082979A JP 2019082979 A JP2019082979 A JP 2019082979A JP 2017214986 A JP2017214986 A JP 2017214986A JP 2017214986 A JP2017214986 A JP 2017214986A JP 2019082979 A JP2019082979 A JP 2019082979A
- Authority
- JP
- Japan
- Prior art keywords
- room
- floor plan
- image
- size
- segmentation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/42—Document-oriented image-based pattern recognition based on the type of document
- G06V30/422—Technical drawings; Geographical maps
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/143—Segmentation; Edge detection involving probabilistic approaches, e.g. Markov random field [MRF] modelling
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
- G06V30/26—Techniques for post-processing, e.g. correcting the recognition result
- G06V30/262—Techniques for post-processing, e.g. correcting the recognition result using context analysis, e.g. lexical, syntactic or semantic context
- G06V30/274—Syntactic or semantic context, e.g. balancing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/40—Document-oriented image-based pattern recognition
- G06V30/41—Analysis of document content
- G06V30/414—Extracting the geometrical structure, e.g. layout tree; Block segmentation, e.g. bounding boxes for graphics or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V30/00—Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
- G06V30/10—Character recognition
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Computer Graphics (AREA)
- Geometry (AREA)
- Probability & Statistics with Applications (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
Description
先述したように、高解像度間取図画像を必要とせずに、間取図特徴を正確に特定し、間取図の大きさのデータを正確に抽出することは、間取図画像データを確実に処理するために大いに望まれることである。本明細書に記載の技術では、種々の間取図画像データから間取図の部屋の特徴及び大きさを確実に抽出するために、2つの異なる処理技術が使用される。
一般的に、エンジニアリング、ニューラルネットワーク、及び機械学習の分野においては、コスト関数は、ニューラルネットワークの出力の判定基準である限り、重要な概念である。CNNシステムの分野においては、コスト関数は、出力を正すためにネットワークが行う入力画像のマッピングの精度を表す数を返す。CNNシステムにより実行されるような学習アルゴリズムは、可能な限りコストを低くする答えを見つけるために、複数の回答を探索する。
先述したように、部屋サイズの無矛盾性に係る制約は、他から独立して決定又は推定された部屋サイズに基づくハードセグメンテーション仮説に対するエラーチェックとして機能する。入力画像からの第2のデータソースを利用し(即ち、部屋サイズの文字表現を抽出するために光学文字認識(OCR)を利用することによって)、当該文字表現の位置を知ることによって、このデータと、セグメンテーション出力によって決定された部屋サイズと、を比較することができる。他から独立して決定される部屋サイズの間の関連性が高いほど、画像セグメンテーション及び認識が正確に行われた確率は高くなる。
部屋サイズの制約に係る第2の実施形態を図4に示す。この実施形態は、同時にハードセグメンテーション仮説のセットを処理することができる。このため、部屋サイズの制約に係る第1の実施形態よりも、処理結果が早く決定される。
間取図のレイアウトを決定するにあたり、間取図を解析するまでもなく、いくつかの基本情報については既知である。例えば、全ての部屋は、出入口、廊下、階段といった入口を有する必要がある。間取図画像のセグメンテーション処理の後に、部屋とラベリングされたエリアが出入りのための通路を有していないとすれば、間取図のセグメンテーションの決定に際して間違いがあったとみなしても構わないであろう。
図8は、画素の推定に基づく部屋サイズの計算のプロセスを示すフローチャートである。このプロセスは、部屋サイズ比率の制約の計算と、部屋アクセシビリティの制約の計算と、の両方に有用である。図8の最初のステップ801に示すように、少なくとも1つの部屋サイズが示されたOCR画像が取得される。ステップ802においては、サイズが示された部屋の画素数がカウントされる。ステップ803と804において、部屋サイズ(面積)が画素数によって割られ、面積/画素が取得される。次に、ステップ805において、各部屋の画素数をカウントし、ステップ804において計算された面積/画素を掛け合わせることによって、間取図画像における他の部屋のサイズが決定される。
コスト関数は、予測値が実測値からずれている度合を定量化するために使用される。例えば、コスト関数は、理想的な部屋比率からのずれ具合を評価するために使用される。更に、コスト関数は、ハードセグメンテーション仮説HSnを用いて確率的セグメンテーションからのずれを評価するために使用される。コスト関数は、仮説を理想的なOCR結果と比較しときのずれを評価するためにも使用される。
図10は、アクセシビリティに関するハードセグメンテーション仮説のコストを決定するためのアクセシビリティコスト関数の一例を示す。ステップ1001及び1002に関しては、プロセスが同様であるため、先述したステップ901及び902を参照されたい。ステップ1003においては、アクセシビリティコストが所定のHSnについて決定される。図4を参照して説明したように、解析された各々の部屋へのアクセシビリティは、あるコストを有する。例えば、図6Cに示すように、解析された部屋である部屋nが最小サイズの出入り口を有する場合、アクセシビリティコストは低くなる。図6Bに示すように、解析された部屋が出入り口を有していても、最小サイズよりも小さければ、中程度のコストとなる。図6Aに示すように、解析された部屋がいかなる出入り口も有していないとすれば、関連するコストは高くなる。所定の部屋に対してのアクセシビリティの決定のためのコスト関数は、以下のように記されてもよい。
図11は、先述した2つの制約(部屋サイズの制約とアクセシビリティの制約)を使用してグローバルコストを計算する一例を示す。単一の制約を使用することが可能である一方で、ハードセグメンテーション仮説は、最小のコストを発見するように最適化することができる。最終的なハードセグメンテーション結果は、複数の制約を使用して改善することもできる。例えば、図11に示すように、確率的セグメンテーションコスト関数データはステップ1100で得られる。次に、部屋比率コスト関数データとアクセシビリティコスト関数データは、それぞれステップ1101及び1104で取得される。このデータは、先述した第1、第2、及び第3の実施形態におけるプロセスを実行することで取得される。図3の例では、ステップ311は、全てのハードセグメンテーション仮説HSnの中から、最小の部屋サイズコストの決定を模索する。
図3のステップ313に記載したように、画素を個別にサンプリングして繰り返し処理を実行することができる。画素の連続性を保つ繰り返しを探索することもできるが、それは既に確率的セグメンテーションに組み込まれている。このプロセスは、最小のHSnが見つかるまで繰り返すことが可能である。しかし、あらゆる可能なハードセグメンテーションを、画素ごとに繰り返すと、計算コストが非常に高くなる。本明細書で開示の実施形態においては、最適化プロセスにおけるハードセグメンテーションの無作為な反復サンプリングが使用される。
本明細書の詳細な記述から分かることであるが、コンピュータビジョン画像処理は、画像特徴をセグメント化して抽出するために、膨大な量の計算処理を必要とするのが技術的な課題となっている。計算技術として効率的かつ精確なセグメンテーション及び画像特徴認識のプロセスとすることによって、本明細書に記載の実施形態は、技術的な解決策を提供する。このような利点は、画像のセグメンテーション及び特徴の認識の精度及び計算速度を向上させるものであり、制限なく応用することができる。この技術の多様な応用は、間取図画像の処理から把握できる。
図15は、本発明の改良されたセグメンテーションデバイスを動かすことのできるデバイスの例である。改良されたセグメンテーションデバイスはコンピュータ、モバイルデバイス、若しくは他のいかなる処理プラットフォーム上にも実装できる。当該改良されたセグメンテーションデバイスはウェブブラウザ、携帯電話アプリ、大規模ネットワーク、等において動作することができる。
Claims (20)
- 互いに通信状態にあるプロセッサ、メモリ、及びディスプレイを含む、特別にプログラムされた装置を使用し、間取図を決定する方法であって、
第1の間取図画像を前記装置が取得し、
前記間取図画像のセマンティックセグメンテーションデータを取得し、
前記間取図画像の光学文字認識(OCR)データを取得し、
前記装置を使用し、部屋のサイズに関し、前記OCRデータの結果を前記セマンティックセグメンテーションデータと比較し、
比較結果に基づいて、第2の間取図画像を出力する、
方法。 - 前記セマンティックセグメンテーションデータは、前記間取図画像を解析するための畳み込みニューラルネットワークを使用することにより取得される、
請求項1に記載の方法。 - 前記OCRデータは、部屋のサイズに関連している数値である、
請求項1に記載の方法。 - 前記OCRデータの出力は、確率的セグメンテーションデータに従って、各部屋に関連付けられる、
請求項1に記載の方法。 - 前記関連付けられたOCRデータを有する各部屋は、前記第1の間取図画像における他の部屋の推測に使用される、
請求項4に記載の方法。 - 前記セマンティックセグメンテーションデータは、複数のセグメンテーション仮説を含む、
請求項5に記載の方法。 - コスト関数は、各セグメンテーション仮説のコストを決定するために使用される、
請求項6に記載の方法。 - 前記コスト関数は、各セグメンテーション仮説の相対的コストを計算し、最小コストを有する前記セグメンテーション仮説を出力する、
請求項7に記載の方法。 - 前記OCRデータは、部屋のサイズに関連づけられたユニットである、
請求項1に記載の方法。 - 互いに通信状態にあるプロセッサ、メモリ、及びディスプレイを含む、間取図決定装置であって、
第1の間取図画像を取得し、
前記第1の間取図画像のセマンティックセグメンテーションデータを取得し、
前記第1の間取図画像の光学文字認識(OCR)データを取得し、
部屋のアクセシビリティに関し、前記OCRデータの結果と前記セマンティックセグメンテーションデータとを比較し、
比較結果に基づいて、第2の間取図画像を出力する、
ようにプログラムされた間取図決定装置。 - 前記第1の間取図画像の画素のスケールを計算するように構成された、
請求項11に記載の間取図決定装置。 - 前記第1の間取図画像における2つの部屋の間の通路の幅を計算するように構成された、
請求項12に記載の間取図決定装置。 - 全ての部屋の組み合わせの中で最小の幅を、2つの部屋の間の通路の幅として決定するように構成された、
請求項13に記載の間取図決定装置。 - 前記OCRデータは、部屋のサイズである、 請求項11に記載の間取図決定装置。
- 画素のスケールは、前記部屋のサイズを前記部屋における画素数で割ることによって計算される、
請求項15に記載の間取図決定装置。 - 前記画素のスケールは、前記最小の幅を計算するために使用される、
請求項15に記載の間取図決定装置。 - 前記第2の間取図画像は、コスト関数の最小コストに基づいて出力される、
請求項17に記載の間取図決定装置。 - 互いに通信状態にあるプロセッサ、メモリ、及びディスプレイを含む、特別にプログラムされた装置を使用し、間取図を決定する方法であって、
第1の間取図画像を前記装置に取得させ、
前記第1の間取図画像のセマンティックセグメンテーションデータを取得し、
前記第1の間取図画像の光学文字認識(OCR)データを取得し、
前記装置を使用し、部屋アクセシビリティに関し、前記OCRデータと前記セマンティックセグメンテーションデータとを比較し、
前記装置を使用し、部屋サイズに関し、前記OCRデータと前記セマンティックセグメンテーションデータと比較し、
比較結果に基づいて、第2の間取図画像を出力する、
方法。 - 前記第2の間取図画像は、部屋サイズコストと部屋アクセシビリティコストが合成された最小のコストに基づいて、出力される、
請求項19に記載の方法。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/798,343 US10395147B2 (en) | 2017-10-30 | 2017-10-30 | Method and apparatus for improved segmentation and recognition of images |
US15/798,343 | 2017-10-30 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019082979A true JP2019082979A (ja) | 2019-05-30 |
JP6584478B2 JP6584478B2 (ja) | 2019-10-02 |
Family
ID=66243952
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2017214986A Active JP6584478B2 (ja) | 2017-10-30 | 2017-11-07 | 画像の改良されたセグメンテーション及び認識のための方法と装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10395147B2 (ja) |
JP (1) | JP6584478B2 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021039516A (ja) * | 2019-09-02 | 2021-03-11 | 株式会社Aiプランナー | 建築物の採点システム及びプログラム |
KR20220122671A (ko) | 2019-12-27 | 2022-09-02 | 가부시키가이샤 한도오따이 에네루기 켄큐쇼 | 뉴럴 네트워크 모델 및 그 학습 방법 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101638378B1 (ko) | 2014-11-28 | 2016-07-11 | 주식회사 어반베이스 | 2차원 도면에 기반한 3차원 자동 입체모델링 방법 및 프로그램 |
US10395147B2 (en) * | 2017-10-30 | 2019-08-27 | Rakuten, Inc. | Method and apparatus for improved segmentation and recognition of images |
WO2019241771A1 (en) * | 2018-06-15 | 2019-12-19 | Riegle Christopher | Methods and systems for recognizing geometric units in a computer image |
US10956626B2 (en) * | 2019-07-15 | 2021-03-23 | Ke.Com (Beijing) Technology Co., Ltd. | Artificial intelligence systems and methods for interior design |
US11763478B1 (en) | 2020-01-17 | 2023-09-19 | Apple Inc. | Scan-based measurements |
US11551422B2 (en) | 2020-01-17 | 2023-01-10 | Apple Inc. | Floorplan generation based on room scanning |
CN111814575B (zh) * | 2020-06-12 | 2023-02-03 | 上海品览数据科技有限公司 | 一种基于深度学习和图像处理的户型图识别方法 |
CN117744196A (zh) * | 2020-10-13 | 2024-03-22 | 弗莱瑞尔公司 | 通过自动分析传感器数据生成物理结构和环境的测量结果 |
US11797733B2 (en) | 2021-03-09 | 2023-10-24 | Togal.Ai Inc | Artificial intelligence determination of building metrics for code compliance |
US11481704B2 (en) | 2021-03-09 | 2022-10-25 | Togal.Ai Inc. | Methods and apparatus for artificial intelligence conversion of change orders into an actionable interface |
US11475174B2 (en) | 2021-03-09 | 2022-10-18 | Togal.Ai Inc. | Methods and apparatus for artificial intelligence conversion of a two-dimensional reference into an actionable interface |
CN113674418B (zh) * | 2021-08-26 | 2024-04-19 | 深圳须弥云图空间科技有限公司 | 针对户型图中元素的处理方法、装置、介质及电子设备 |
CN114973297A (zh) * | 2022-06-17 | 2022-08-30 | 广州市圆方计算机软件工程有限公司 | 一种平面户型图的墙体区域识别方法、系统、设备及介质 |
US11928395B1 (en) * | 2023-04-14 | 2024-03-12 | Hubstar International Limited | Floorplan drawing conversion and analysis for space management |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09128418A (ja) * | 1995-10-27 | 1997-05-16 | Ricoh Co Ltd | 建設図面の寸法情報認識方法及び認識装置 |
JP6116746B1 (ja) * | 2016-11-17 | 2017-04-19 | 株式会社ネクスト | 情報処理装置、情報処理方法、及びプログラム |
Family Cites Families (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5988862A (en) * | 1996-04-24 | 1999-11-23 | Cyra Technologies, Inc. | Integrated system for quickly and accurately imaging and modeling three dimensional objects |
US20100275018A1 (en) * | 2007-12-20 | 2010-10-28 | Pedersen Thomas Jam | System and method for conversion and distribution of graphical objects |
US8339417B2 (en) * | 2008-07-25 | 2012-12-25 | Navteq B.V. | Open area maps based on vector graphics format images |
US8229176B2 (en) * | 2008-07-25 | 2012-07-24 | Navteq B.V. | End user image open area maps |
US8099237B2 (en) * | 2008-07-25 | 2012-01-17 | Navteq North America, Llc | Open area maps |
US8774525B2 (en) * | 2012-02-03 | 2014-07-08 | Eagle View Technologies, Inc. | Systems and methods for estimation of building floor area |
WO2016205246A1 (en) * | 2015-06-15 | 2016-12-22 | Knit Health, Inc. | Remote biometric monitoring system |
CN106548127B (zh) * | 2015-09-18 | 2022-11-04 | 松下电器(美国)知识产权公司 | 图像识别方法 |
US10426364B2 (en) * | 2015-10-27 | 2019-10-01 | Cardiologs Technologies Sas | Automatic method to delineate or categorize an electrocardiogram |
US9965705B2 (en) * | 2015-11-03 | 2018-05-08 | Baidu Usa Llc | Systems and methods for attention-based configurable convolutional neural networks (ABC-CNN) for visual question answering |
US10115032B2 (en) * | 2015-11-04 | 2018-10-30 | Nec Corporation | Universal correspondence network |
US10192129B2 (en) * | 2015-11-18 | 2019-01-29 | Adobe Systems Incorporated | Utilizing interactive deep learning to select objects in digital visual media |
US9881234B2 (en) * | 2015-11-25 | 2018-01-30 | Baidu Usa Llc. | Systems and methods for end-to-end object detection |
CN108475415B (zh) | 2015-12-21 | 2022-05-27 | 商汤集团有限公司 | 用于图像处理的方法和系统 |
US10402700B2 (en) | 2016-01-25 | 2019-09-03 | Deepmind Technologies Limited | Generating images using neural networks |
US10657376B2 (en) | 2017-03-17 | 2020-05-19 | Magic Leap, Inc. | Room layout estimation methods and techniques |
US10395147B2 (en) * | 2017-10-30 | 2019-08-27 | Rakuten, Inc. | Method and apparatus for improved segmentation and recognition of images |
US10410350B2 (en) * | 2017-10-30 | 2019-09-10 | Rakuten, Inc. | Skip architecture neural network machine and method for improved semantic segmentation |
-
2017
- 2017-10-30 US US15/798,343 patent/US10395147B2/en active Active
- 2017-11-07 JP JP2017214986A patent/JP6584478B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09128418A (ja) * | 1995-10-27 | 1997-05-16 | Ricoh Co Ltd | 建設図面の寸法情報認識方法及び認識装置 |
JP6116746B1 (ja) * | 2016-11-17 | 2017-04-19 | 株式会社ネクスト | 情報処理装置、情報処理方法、及びプログラム |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021039516A (ja) * | 2019-09-02 | 2021-03-11 | 株式会社Aiプランナー | 建築物の採点システム及びプログラム |
KR20220122671A (ko) | 2019-12-27 | 2022-09-02 | 가부시키가이샤 한도오따이 에네루기 켄큐쇼 | 뉴럴 네트워크 모델 및 그 학습 방법 |
Also Published As
Publication number | Publication date |
---|---|
US10395147B2 (en) | 2019-08-27 |
JP6584478B2 (ja) | 2019-10-02 |
US20190130233A1 (en) | 2019-05-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6584478B2 (ja) | 画像の改良されたセグメンテーション及び認識のための方法と装置 | |
JP6765487B2 (ja) | 人工知能を用いるコンピュータ実施方法、aiシステム、及びプログラム | |
US10297070B1 (en) | 3D scene synthesis techniques using neural network architectures | |
Wang et al. | Uncertainty estimation for stereo matching based on evidential deep learning | |
US10796452B2 (en) | Optimizations for structure mapping and up-sampling | |
US10733431B2 (en) | Systems and methods for optimizing pose estimation | |
CN106204522B (zh) | 对单个图像的联合深度估计和语义标注 | |
US20220414911A1 (en) | Three-dimensional reconstruction method and three-dimensional reconstruction apparatus | |
US11003956B2 (en) | System and method for training a neural network for visual localization based upon learning objects-of-interest dense match regression | |
JP2019082978A (ja) | スキップアーキテクチャ・ニューラルネットワーク装置及び改良されたセマンティックセグメンテーションのための方法 | |
CN109858333B (zh) | 图像处理方法、装置、电子设备及计算机可读介质 | |
US20130223740A1 (en) | Salient Object Segmentation | |
Peng et al. | Model and context‐driven building extraction in dense urban aerial images | |
Lu et al. | Data-driven floor plan understanding in rural residential buildings via deep recognition | |
US20070025594A1 (en) | On optimizing template matching via performance characterization | |
CN111523169B (zh) | 一种装修方案生成方法、装置、电子设备及存储介质 | |
CN114120454A (zh) | 活体检测模型的训练方法、装置、电子设备及存储介质 | |
CN114387642A (zh) | 图像分割方法、装置、设备和存储介质 | |
Fond et al. | Model-image registration of a building’s facade based on dense semantic segmentation | |
Qian et al. | A reliable online method for joint estimation of focal length and camera rotation | |
CN111161238A (zh) | 图像质量评价方法及装置、电子设备、存储介质 | |
Miao et al. | Road centreline extraction from classified images by using the geodesic method | |
CN116188478A (zh) | 图像分割方法、装置、电子设备及存储介质 | |
Midwinter et al. | Unsupervised defect segmentation with pose priors | |
CN114693642A (zh) | 一种结节匹配方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A80 | Written request to apply exceptions to lack of novelty of invention |
Free format text: JAPANESE INTERMEDIATE CODE: A80 Effective date: 20171204 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180226 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190507 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190705 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190820 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190903 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6584478 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S533 | Written request for registration of change of name |
Free format text: JAPANESE INTERMEDIATE CODE: R313533 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |