JP6830561B1 - 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム - Google Patents
情報処理装置、情報処理方法、情報処理システム、情報処理プログラム Download PDFInfo
- Publication number
- JP6830561B1 JP6830561B1 JP2020155970A JP2020155970A JP6830561B1 JP 6830561 B1 JP6830561 B1 JP 6830561B1 JP 2020155970 A JP2020155970 A JP 2020155970A JP 2020155970 A JP2020155970 A JP 2020155970A JP 6830561 B1 JP6830561 B1 JP 6830561B1
- Authority
- JP
- Japan
- Prior art keywords
- information
- information processing
- photograph
- plan
- space
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000010365 information processing Effects 0.000 title claims abstract description 172
- 238000003672 processing method Methods 0.000 title description 19
- 238000004590 computer program Methods 0.000 claims description 9
- 238000011156 evaluation Methods 0.000 claims 2
- 238000010586 diagram Methods 0.000 abstract description 15
- 239000000284 extract Substances 0.000 abstract description 3
- 238000012545 processing Methods 0.000 abstract description 2
- 238000000034 method Methods 0.000 description 26
- 238000012986 modification Methods 0.000 description 11
- 230000004048 modification Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 10
- 238000013527 convolutional neural network Methods 0.000 description 8
- 238000004364 calculation method Methods 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000015654 memory Effects 0.000 description 5
- 238000013500 data storage Methods 0.000 description 4
- 239000003795 chemical substances by application Substances 0.000 description 3
- 238000009826 distribution Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000002452 interceptive effect Effects 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 238000013461 design Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 230000006399 behavior Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- 230000003936 working memory Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
Description
近時、物体の認識について、畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)は、画像のクラス分類(画像認識)だけでなく、物体の位置や大きさの検出(物体検出)や形状の抽出(領域抽出)にも用いられ、例えば、物体検出には、リージョンCNNであるR−CNN(さらに、Faster R−CNN)、Yoloなどが、領域抽出にはSegNetや画像のセグメンテーションを推定するU−Net(U字型の畳み込みネットワーク)などのニューラルネットワークが用いられるようになってきている。
本発明の実施形態に係るハードウェアの基本的な構成を説明する。まず、情報処理装置3は、サーバを念頭に置いているが、たとえば、スマートフォンやタブレット端末などのモバイル端末、ノートブックコンピュータ、デスクトップコンピュータなどの電子機器であってもよい。情報処理装置3は、物理的な演算装置(CPUおよび/またはGPU、図示せず)、一時的な作業内容を記憶しておく作業メモリ(RAM、図示せず)等、情報処理装置として必須の物理的構成を備えている。
本情報処理システムは、ユーザ端末装置5をさらに含んでも良い(図4)。ユーザ端末装置5(端末5aおよび端末5b)は、ユーザが入出力するためのクライアント端末を意味する。たとえば、スマートフォンやタブレット端末などのモバイル端末、ノートブックコンピュータ、デスクトップコンピュータ、ワークステーションなどの電子機器であってもよい。これらのユーザ端末装置5と情報処理装置3とは、ネットワーク4を介して接続される。なお、変形例2においては、端末装置5はカメラを搭載したロボットやカメラを搭載した自動運転車であるが、これも、情報処理装置3にネットワーク4を通じてアクセスすることができるクライアント端末の一例であることに変わりはない。
間取り図画像(以下、単に「間取り図」とも称する。)は、建物における部屋(複数の場合もあり得る。)の配置の図(たとえば、平面図)であり、通常は、一律の縮尺で描かれている。不動産小売業者、建築家、不動産仲介業者、不動産情報業者等によって用いられる様々なタイプ又はスタイルの間取り図がある。通常は部屋の平面的な形状のみならず、部屋内の一定の物体(たとえば、扉、扉の開閉方向、キッチン、トイレ、バスタブ、床暖房の位置など)の位置と種類が、一定のルールで記載されている。間取り図画像は、JPEG、TIFF、GIF、BMP、PNG等を含む任意の画像フォーマットのものとすることができる。
本発明において「部屋写真」は、部屋内部ないしは建物内部の空間を撮影したカラー、グレースケールまたはモノクロ等の写真を意味するものとする。部屋写真は、JPEG、TIFF、GIF、BMP、PNG等を含む任意の画像フォーマットのものとすることができる。
本発明においては、事前に推定を行う画像等に関する学習(重みの自動調整)をさせたデータ(「学習済みモデル」)を記憶部33に記憶することになる。たとえば、本発明の一実施形態では、事前に、パノラマ画像を入力とした部屋の種類を推定するタスクを畳み込みニューラルネットワークにより学習させ、その結果得られる学習済みモデルを記憶部33に記憶しておく(図6:「事前ステップ」)。学習は、情報処理装置3の制御部32において行われてもよいが、他の情報処理装置において行われ、情報処理装置3の記憶部33に記憶されてもよい。
以下では、実施形態1における情報処理の詳細を説明する。実施形態1の情報処理の概要は、情報処理装置3の制御部32が、学習済みモデルと、所定の部屋の間取り図20と、当該部屋の1枚以上の部屋写真10と、に基づいて、当該部屋写真10が、当該間取り図20でいえば、どの位置で撮影されたものであるのか、また、どの方向に向かって撮影されたものであるのかを推定するというものである。なお、上記した所定の部屋の「間取り図20(画像)」と当該部屋の「部屋写真10」は、あくまで本発明を説明するための具体的な例の一に過ぎない。本発明自体は、所定の部屋の「間取り図(画像)」と当該部屋の「部屋写真」に関する推定に限定されるものではなく、所定の物(複数でも構わない)の「平面図」と当該物(複数でも構わない)の「写真」の関連を推定、判断するという形態をも包含する。さらに、第1の情報と第2の情報とが存在し、両情報の特徴量の次元が異なる場合において、両情報の関連を推定ないし判断するという形態をも包含する。
[ステップ1]
本実施形態1において、まず、推定対象である部屋写真10と、当該部屋写真20に対応した間取り図とが、情報処理装置3に入力される(「ステップ1」)。入力方法には特に制限はない。たとえば、推定対象である部屋写真10と、当該部屋写真10に対応した間取り図20とは、メモリーカードやUSBメモリ等の外部記憶デバイスに保存され、当該外部記憶デバイスが直接情報処理装置3に接続されても良い。この場合、受信された部屋写真10と、間取り図20とは、記憶部33に記憶されてもよいし、そのまま外部記憶デバイスに保存されたままでも良い。
ステップ2において情報処理装置3の制御部32は、部屋写真10(パノラマ画像)を読み込む。ここで、一例において、情報処理装置3に入力された(すなわち、情報処理装置3が受信した)部屋写真10(パノラマ画像)がグレースケール画像である場合にはそのまま読み込んで後記情報処理を行うが、それがカラー画像である場合にはグレースケールで読み込む(「ステップ2」)。
読み込まれた部屋写真(グレースケール画像)から、制御部32において、学習済みモデルに基づいて、部屋写真(パノラマ画像)内の物体情報(channel方向の情報、すなわち、1階のテンソル情報)を抽出するとともに、パノラマ画像内の物体のそれぞれの位置情報(width方向の情報、すなわち、1階テンソル情報)を抽出するという計算が行われる(「ステップ3」)。この際の挙動をさらに補足する。
部屋写真10内の物体に対応するchannel方向の情報、及びパノラマ画像内の物体のそれぞれの位置に対応するwidth方向の情報は、所定のファイル100に保存され、該部屋写真10(パノラマ画像)と関連付けられて記憶部33に記憶される。
情報処理装置3に入力された間取り図20が畳み込まれてエンコードされる。一例において、間取り図20は、MobileNetをベースとしたアーキテクチャを用いて、エンコードされる。これにより相当量の演算量を削減することができる。なお、通常の畳み込みが空間方向とチャネル方向の畳み込みを同時に行うのに対して、本発明の一実施形態においては、MobileNet等により、畳み込みはwidth方向(パノラマ画像内の物体のそれぞれの位置情報)を行なったのちに、channel方向(つまり画像内の物体の情報)を行なう。すなわち、空間方向とチャネル方向の畳み込みを同時に行うのではなく、上記した記載の順に行うものとする。なお、畳み込みに用いられるアーキテクチャはMobileNetbに限定されるものではないが、仮にMobileNetを使用する場合にあっては、そのバージョンについて制限はない。好ましくは、MobileNetV1ではなくMobileNetV2を用いる。一般的に畳み込みでは層を重ねるごとにチャネル数が増加していきパラメータ量を圧迫していくが、MobileNetV1は最終的に形が7×7×1024になるのに対してMobileNetV2は7×7×320までしかならないためパラメータ数がMobileNetV1よりも小さくすることができる。そして、本発明において提供される推定の精度との関係では、MobileNetV2で圧縮される程度まで間取り図を圧縮したとしても、特に大きな問題は生じない。
当該ステップ5で得た情報と、ファイル100に記憶された部屋写真10(パノラマ画像)における上記特徴量(画像内の物体に対応するchannel方向の情報、及びパノラマ画像内の物体のそれぞれの位置に対応するwidth方向の情報)とを、それぞれコンカット(縦に連結)することで対応づけを行う。一例において、本コンカットは複数回(好ましくは2回)行われる。
当該コンカットされた情報をデコードし、間取り図と同サイズのヒートマップとして出力し、評価する。これらは、既存の手法によって実行することができ、たとえば、U字型の畳み込みネットワーク(U−Net)をベースにしたアーキテクチャにより実行することができる。ただし、一例において、この際、位置情報(2次元)と方向情報(1次元)とを分けて、ヒートマップで出力する。これにより、撮影位置情報(2次元)と撮影方向情報(1次元)とをヒートマップから評価する(すなわち、対照同士の確率分布の積分値の差分による比較をする)ことが可能となる。
これらにより、1つ以上の画像のセット、好ましくは、広視野を示すパノラマ画像のセットと、対応する間取り図画像とが、情報処理装置3の記憶部33に記憶される。次に、これらの1つ以上のパノラマ画像は、当該パノラマ画像が撮影された間取り図における特定の撮影位置および撮影方向とマッチングされる。当該マッチングに基づいて、間取り図上に矢印等のマークを表示し(図1の矢印参照)、パノラマ画像のセットと、対応する間取り図画像とをユーザに表示させることが可能となる。
間取り図内における撮影されたパノラマ画像のそれぞれの撮影位置及び撮影方向が特定されると、不動産物件の自動的及び/又はインタラクティブなツアーを提供するバーチャルツアーを作成することができる。バーチャルツアーでは、当該バーチャルツアーにおいて訪問される間取り図における特定の部屋(位置)における、対応するパノラマ画像によって提供され、ユーザ端末装置5からの方角(撮影方向)を変更する信号を受信することで撮影方向が異なるパノラマ画像を提供することもできる。また、情報処理装置3において、パノラマ画像を編集し、所定の方向からの写真を修正し、異なる方向からの写真を合成して表示することも可能である。また、パノラマ画像の広視野画像に変えて、クロッピングなどにより、ユーザの視野角に応じた標準的な視野を提供する事も可能である。
さらに別の実施形態として、部屋写真10Bおよび間取り図20Bの両方において物体を特定し、当該特定された物体の位置関係を元に、撮影位置および方向を特定する手法を提案する。たとえば、図1および図2において、撮影位置と間取り図上のキッチンの位置と、部屋写真においてキッチンが正面に写っていることを前提とすれば、これらの情報に基づいて、制御部32は撮影方向を推定することが可能である。
なお、本発明は上記実施の形態に限られたものではなく、要旨を逸脱しない範囲で適宜変更することが可能である。すなわち、本発明の一実施形態によれば、2つの入力の特徴量の次元が異なっていても、図10および対応する詳細な説明(たとえば上記「ステップ6」)で記載したとおり、両者をコンカットして評価を行うことが可能となるから、たとえば、インプットとして、画像と、画像の説明文章(例として「左に犬が走っていて、右に風船が飛んでいる」)が入力された場合に、「犬が走っているかどうか」「風船が飛んでいるかどうか」の判定ではなく、説明文書どおりの画像であるかどうか(すなわち、上記の例でいえば、「左に犬が走っていて、右に風船が飛んでいる」画像であるかどうか)を正確に判定することができる。その意味で、本発明は「間取り図」と「部屋写真」との情報処理に限定されるものではないし、「物の平面図」と「物の写真」との情報処理に限定されるものでもなく、2つの入力の特徴量の次元が異なる場合の情報処理に関するものである。
さらに、上記「ステップ7」において説明した、角度情報を一次元のヒートマップとして出力して評価するという手法は、正確な角度情報が必要とされる他の分野において広く適用することができる。具体的には、変形例として、ロボティクスや自動運転分野において、(端末)入力部54としてカメラを搭載した端末装置5(本変形例における「端末装置5」とは、たとえば、カメラを搭載したロボットやカメラを搭載した自動運転車である)について、当該端末の周囲の画像情報を情報処理装置3に与え、情報処理装置3の制御部32において当該端末に搭載されたカメラで撮影された画像と端末の周囲の画像情報とに基づいて当該端末5の現在の向きを計算し、そこから目的地に移動するための当該端末の向きを適切に変更させ、当該端末の向きを制御するという形態においても、その角度情報(すなわち、端末の向き)計算の精度向上に寄与する。この場合、上記実施形態において間取り図20として説明したものが「端末の周囲の画像情報」に対応し、本実施形態において部屋写真10(ないしパノラマ画像)として説明したものが「端末に搭載されたカメラで撮影された画像」に対応する。さらに、ヒートマップによる出力は、特定の画像における人物や物体が、どの方向を向いているのかを計算する際にも、有用である。
部屋写真 10
間取り図(画像) 20
情報処理装置 3
通信部 31
制御部 32
記憶部 33
ネットワーク 4
ユーザ端末装置 5
通信部 51
制御部 52
記憶部 53
入力部 54
表示部 55
ファイル 100
学習モデル G
Claims (6)
- 記憶部と制御部とを有する情報処理装置であって、
前記記憶部は、第1のN個の空間の平面図と、前記第1のN個の空間それぞれを撮影した1以上の写真との対応関係に基づいた学習済モデルを記憶し、
前記制御部が、前記学習済みモデルと、前記N個の空間と異なる第2の空間の写真および該第2の空間の平面図とに基づいて、
前記第2の空間の写真におけるchannel方向のベクトルに圧縮した情報とwidth方向のベクトルに圧縮した情報とを抽出し、前記第2の空間の平面図を圧縮した情報とコンカットすることにより前記第2の空間の平面図における前記第2の空間の写真が撮影された撮影位置と撮影方向を推定し、
前記推定することは、前記制御部が前記コンカットの結果を、前記撮影位置を推定するための2次元のヒートマップと、前記撮影方向を推定するための1次元のヒートマップとを出力して評価することを特徴とする、
情報処理装置。 - 前記コンカットは、
前記制御部が前記第2の空間の写真における前記channel方向のベクトルに圧縮した情報と前記width方向のベクトルに圧縮した情報とを、ぞれぞれ、前記第2の空間の平面図の幅方向および高さ方向に基づいて1以上複製し、当該複製した情報に基づいて前記第2の空間の平面図を圧縮した情報とコンカットすることである、
請求項1に記載の情報処理装置。 - 前記第1のN個の空間および前記第2の空間は、いずれも不動産物件の部屋であることを特徴とする、
請求項1または2に記載の情報処理装置。 - コンピュータを、
記憶部と制御部とを有し、
前記記憶部が、第1のN個の空間の平面図と、前記第1のN個の空間それぞれを撮影した1以上の写真との対応関係に基づいた学習済モデルを記憶し、
前記制御部が、前記学習済みモデルと、前記N個の空間と異なる第2の空間の写真および該第2の空間の平面図とに基づいて、
前記第2の空間の写真におけるchannel方向のベクトルに圧縮した情報とwidth方向のベクトルに圧縮した情報とを抽出し、前記第2の空間の平面図を圧縮した情報とコンカットすることにより前記第2の空間の平面図における前記第2の空間の写真が撮影された撮影位置と撮影方向を推定し、
前記推定することは、前記制御部が前記コンカットの結果を、前記撮影位置を推定するための2次元のヒートマップと、前記撮影方向を推定するための1次元のヒートマップとを出力して評価することを特徴とする情報処理装置として動作させる、
コンピュータプログラム。 - 前記コンカットは、
前記制御部が前記第2の空間の写真における前記channel方向のベクトルに圧縮した情報と前記width方向のベクトルに圧縮した情報とを、ぞれぞれ、前記第2の空間の平面図の幅方向および高さ方向に基づいて1以上複製し、当該複製した情報に基づいて前記第2の空間の平面図を圧縮した情報とコンカットすることである、
請求項4に記載のコンピュータプログラム。 - 前記第1のN個の空間および前記第2の空間は、いずれも不動産物件の部屋であることを特徴とする、
請求項4または5に記載のコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020155970A JP6830561B1 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
JP2021009953A JP2022050293A (ja) | 2020-09-17 | 2021-01-26 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020155970A JP6830561B1 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021009953A Division JP2022050293A (ja) | 2020-09-17 | 2021-01-26 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6830561B1 true JP6830561B1 (ja) | 2021-02-17 |
JP2022049767A JP2022049767A (ja) | 2022-03-30 |
Family
ID=74562346
Family Applications (2)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020155970A Active JP6830561B1 (ja) | 2020-09-17 | 2020-09-17 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
JP2021009953A Pending JP2022050293A (ja) | 2020-09-17 | 2021-01-26 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
Family Applications After (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021009953A Pending JP2022050293A (ja) | 2020-09-17 | 2021-01-26 | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム |
Country Status (1)
Country | Link |
---|---|
JP (2) | JP6830561B1 (ja) |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6753622B2 (ja) * | 2018-06-27 | 2020-09-09 | 株式会社Cybo | 表示制御装置、表示制御方法及び表示制御プログラム |
US10832437B2 (en) * | 2018-09-05 | 2020-11-10 | Rakuten, Inc. | Method and apparatus for assigning image location and direction to a floorplan diagram based on artificial intelligence |
US10387754B1 (en) * | 2019-01-23 | 2019-08-20 | StradVision, Inc. | Learning method and learning device for object detector based on CNN using 1×H convolution to be used for hardware optimization, and testing method and testing device using the same |
US10650548B1 (en) * | 2019-01-30 | 2020-05-12 | StradVision, Inc. | Method and device for localization of autonomous vehicle for route planning by using attention-driven landmark detection |
-
2020
- 2020-09-17 JP JP2020155970A patent/JP6830561B1/ja active Active
-
2021
- 2021-01-26 JP JP2021009953A patent/JP2022050293A/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
JP2022050293A (ja) | 2022-03-30 |
JP2022049767A (ja) | 2022-03-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10026218B1 (en) | Modeling indoor scenes based on digital images | |
US9886774B2 (en) | Photogrammetric methods and devices related thereto | |
EP3226211B1 (en) | Method and program of automatic three-dimensional solid modeling based on two-dimensional drawing | |
EP2580711B1 (en) | Distinguishing live faces from flat surfaces | |
US11645781B2 (en) | Automated determination of acquisition locations of acquired building images based on determined surrounding room data | |
US10580205B2 (en) | 3D model generating system, 3D model generating method, and program | |
US11632602B2 (en) | Automated determination of image acquisition locations in building interiors using multiple data capture devices | |
JPWO2019035155A1 (ja) | 画像処理システム、画像処理方法、及びプログラム | |
JP4677060B1 (ja) | 位置校正情報収集装置、位置校正情報収集方法、及び位置校正情報収集プログラム | |
EP3467788A1 (en) | Three-dimensional model generation system, three-dimensional model generation method, and program | |
JP4313758B2 (ja) | ステレオ画像中のエッジを結び付けてチェインにする方法 | |
CA3154186C (en) | Automated building floor plan generation using visual data of multiple building images | |
US20230206393A1 (en) | Automated Building Information Determination Using Inter-Image Analysis Of Multiple Building Images | |
US11688135B2 (en) | Computer vision systems and methods for generating building models using three-dimensional sensing and augmented reality techniques | |
JP6872660B1 (ja) | 情報処理装置及び、プログラム | |
CN106504265A (zh) | 运动估计优化方法、设备和系统 | |
JP6830561B1 (ja) | 情報処理装置、情報処理方法、情報処理システム、情報処理プログラム | |
JP5416489B2 (ja) | 三次元指先位置検出方法、三次元指先位置検出装置、およびプログラム | |
JP2018063675A (ja) | 画像処理装置および制御方法 | |
US11600063B1 (en) | Guided inspection system and method | |
JP6920949B2 (ja) | 物体分布推定装置 | |
US11861900B2 (en) | Multi-view visual data damage detection | |
JP4505616B2 (ja) | 固有空間学習装置、固有空間学習方法及び固有空間プログラム | |
US20240161348A1 (en) | Automated Inter-Image Analysis Of Multiple Building Images For Building Information Determination | |
KR20180055305A (ko) | 전자기기의 이동을 제어하는 방법 및 장치 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200930 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200930 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20201002 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201013 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201104 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201119 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201221 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210107 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210126 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6830561 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |