JP2020197979A - 三次元点群データに基づく三次元モデル生成装置 - Google Patents

三次元点群データに基づく三次元モデル生成装置 Download PDF

Info

Publication number
JP2020197979A
JP2020197979A JP2019104537A JP2019104537A JP2020197979A JP 2020197979 A JP2020197979 A JP 2020197979A JP 2019104537 A JP2019104537 A JP 2019104537A JP 2019104537 A JP2019104537 A JP 2019104537A JP 2020197979 A JP2020197979 A JP 2020197979A
Authority
JP
Japan
Prior art keywords
model
dimensional
point cloud
cloud data
abstracted
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019104537A
Other languages
English (en)
Other versions
JP7424573B2 (ja
Inventor
田中 成典
Shigenori Tanaka
成典 田中
諭 窪田
Satoshi Kubota
諭 窪田
義典 塚田
Yoshinori Tsukada
義典 塚田
龍一 今井
Ryuichi Imai
龍一 今井
中村 健二
Kenji Nakamura
健二 中村
神谷 大介
Daisuke Kamiya
大介 神谷
雄平 山本
Yuhei Yamamoto
雄平 山本
文渊 姜
Wenyuan Jiang
文渊 姜
晴可 井上
Haruyoshi Inoue
晴可 井上
伸介 中島
Shinsuke Nakajima
伸介 中島
真由美 上田
Mayumi Ueda
真由美 上田
佳奈 五藤
Kana Goto
佳奈 五藤
雅洋 蔭山
Masahiro Kageyama
雅洋 蔭山
俊秀 伊藤
Toshihide Ito
俊秀 伊藤
光宏 辻
Mitsuhiro Tsuji
光宏 辻
喜政 梅▲原▼
Yoshimasa Umehara
喜政 梅▲原▼
明 丸山
Akira Maruyama
明 丸山
啓一 西川
Keiichi Nishikawa
啓一 西川
宏一 岩佐
Koichi Iwasa
宏一 岩佐
孝弘 下庄
Takahiro Shimojo
孝弘 下庄
庄治 大月
Shoji Otsuki
庄治 大月
順俊 平野
Yoritoshi Hirano
順俊 平野
純三 山川
Junzo Yamakawa
純三 山川
伸三 戸口
Shinzo Toguchi
伸三 戸口
卓 三上
Taku Mikami
卓 三上
龍太 佐野
Ryuta Sato
龍太 佐野
利弘 藤原
Toshihiro Fujiwara
利弘 藤原
勝洋 平見
Katsuhiro Hirami
勝洋 平見
建 福住
Ken Fukuzumi
建 福住
忠雅 中山
Tadamasa Nakayama
忠雅 中山
智弘 清水
Toshihiro Shimizu
智弘 清水
敬 奥平
Toru Okuhira
敬 奥平
木村 泰三
Taizo Kimura
泰三 木村
英一 菊地
Hidekazu Kikuchi
英一 菊地
彰文 馬場
Akifumi Baba
彰文 馬場
文明 山崎
Fumiaki Yamazaki
文明 山崎
稔治 北田
Toshiharu Kitada
稔治 北田
泰夫 三浦
Yasuo Miura
泰夫 三浦
尚 相田
Takashi Aida
尚 相田
直樹 其田
Naoki SONODA
直樹 其田
西村 修
Osamu Nishimura
修 西村
嘉文 安井
Yoshifumi Yasui
嘉文 安井
克巳 松田
Katsumi Matsuda
克巳 松田
鳴尾 丈司
Takeshi Naruo
丈司 鳴尾
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Intelligent Style Co Ltd
Original Assignee
Intelligent Style Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Intelligent Style Co Ltd filed Critical Intelligent Style Co Ltd
Priority to JP2019104537A priority Critical patent/JP7424573B2/ja
Publication of JP2020197979A publication Critical patent/JP2020197979A/ja
Application granted granted Critical
Publication of JP7424573B2 publication Critical patent/JP7424573B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Generation (AREA)

Abstract

【課題】 汎用性が高くかつ精度よく三次元モデルを構築することのできる装置を提供する。【解決手段】 抽象化三次元モデル取得手段2は、対象物に対応する抽象化三次元モデルTPを取得する。抽象化三次元モデルTPは、前記対象物の外形に対応する外形を有し、各部分の寸法を変更することのできるようなモデルである。三次元モデル決定手段4は、前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルTMとして出力する。【選択図】 図1

Description

この発明は、レーザ測量装置などによって計測するなどで得られた三次元点群データに基づいて、三次元モデルを生成する技術に関するものである。
無人航空機(UAV)や地上移動体(例えば自動車)などにレーザ測量装置を搭載し、地表面の形状や地物を計測することが行われている。また、固定したレーザ測量装置によって、地表面の形状や地物を計測することも行われている。計測の結果、三次元点群データが得られる。
このようにして三次元点群データを得ることで、地物の外形形状などを把握することができる。しかし、三次元点群データであることから寸法や形状の正確性に欠けており、管理データとして用いるには適していない。
そこで、従来、三次元点群データに基づいて、平面や辺によって構成される三次元モデルを生成することが行われている。
たとえば、特許文献1には、対象物がどのような幾何要素(点、線、平面、トーラスなど)で構成されているかを予め与えておき、三次元点群データに基づいて、対象物を構成する幾何要素を推定し、三次元モデルを構築する技術が開示されている。
また、特許文献2には、三次元点群データを得た対象物の三次元CADデータに基づいて、三次元モデルを抽出する技術が開示されている。
特開2016−45781 特開2014−115915
しかしながら、特許文献1の技術では、各対象物について、当該対象物がどのような幾何要素(点、線、平面、トーラスなど)で構成されているかを予め与えておかなければならず、処理が煩雑であった。また、特許文献1の技術では、対象物の全ての面について三次元点群データがないと三次元モデルが構築できなかった。
また、特許文献2の技術では、三次元モデルを得る対象物を含む三次元CADデータがなければ、三次元モデルを生成できず汎用性が低いという問題があった。
この発明は、上記のような問題点を解決して、汎用性が高くかつ精度よく三次元モデルを構築することのできる装置を提供することを目的とする。
この発明の独立して適用可能ないくつかの特徴を列挙する。
(1)(2)この発明に係る三次元モデル生成装置は、対象物の三次元点群データに基づいて、当該対象物の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置であって、前記対象物の各外形と対応する外形を有する寸法可変の抽象化三次元モデルを取得する抽象化三次元モデル取得手段と、前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルとして決定する三次元モデル決定手段とを備えている。
したがって、点、線、面が接続した正確な三次元モデルを形成することができる。
(3)この発明に係る装置は、三次元モデル決定手段が、前記抽象化三次元モデルの面に対応する三次元点群データを特定し、当該三次元点群データの各点と当該面との距離の合計に基づいて、合致性を判断する合致性判断手段を備えることを特徴としている。
したがって、三次元点群データに合致する三次元モデルを適切に選択することができる。
(4)この発明に係る装置は、抽象化三次元モデル取得手段が、記録された複数の抽象化三次元モデルの中から、前記三次元点群データと図形的特徴が類似する抽象化三次元モデルを取得することを特徴としている。
したがって、検討すべき三次元モデルを絞り込むことができる。
(5)この発明に係る装置は、抽象化三次元モデル取得手段が、少なくともi)前記抽象化三次元モデルの平面の数と前記三次元点群データの平面の数、またはii)前記抽象化三次元モデルの二次元投影図と前記三次元点群データの二次元投影図を、図形的特徴として用いることを特徴としている。
したがって、より適切な抽象化三次元モデルを得ることができる。
(6)この発明に係る装置は、抽象化三次元モデルが、対象物の種類ごとにグループ化されており、前記抽象化三次元モデル取得手段は、前記三次元点群データが表す対象物の種類を推定する種類推定手段を有し、推定した種類の抽象化三次元モデルの中から抽象化三次元モデルを取得することを特徴としている。
したがって、検討すべき抽象化三次元モデルを絞り込むことができる。
(7)この発明に係る装置は、対象物が、地物の構成部位であることを特徴としている。
したがって、地物を部位ごとに分割して三次元モデルを構築することができる。
(8)(9)この発明に係る三次元モデル生成装置は、構造物の三次元点群データに基づいて、当該構造の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置であって、前記構造物の三次元点群データを前記構造物の部位ごとの三次元点群データに分割する三次元点群データ分割手段と、分割した三次元点群データに基づいて、各部位ごとの三次元モデルを生成する三次元モデル生成手段と、生成された各部位の三次元モデルを統合して構造物全体の三次元モデルを構築する三次元モデル統合手段とを備えている。
したがって、部位ごとの三次元モデルを推定し、これらを統合して全体としての三次元モデルを得ることができる。
(10)この発明に係る装置は、三次元モデル生成手段が、前記部位の外形と対応する外形を有する寸法可変の抽象化三次元モデルを取得する抽象化三次元モデル取得手段と、前記抽象化三次元モデルの寸法を変えながら、前記分割された三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを当該部位の三次元モデルとして決定する三次元モデル決定手段とを備えることを特徴としている。
したがって、抽象化三次元モデルによって、より正確な三次元モデルを得ることができる。
(11)(12)この発明に係る三次元モデル選択装置は、対象物の三次元点群データに基づいて、複数の対象物の各外形と対応する外形を有する寸法可変の複数の抽象化三次元モデルから、対応する抽象化三次元モデルを選択する抽象化三次元モデル選択装置であって、少なくとも、i)前記三次元点群データの平面の数と前記抽象化三次元モデルの平面の数とが合致する前記抽象化三次元モデル、または、ii)前記三次元点群データの二次元投影図と前記抽象化三次元モデルの二次元投影図が合致する前記抽象化三次元モデルを選択する手段を備えることを特徴としている。
したがって、三次元点群データに対応する抽象化三次元モデルを適切に選択することができる。
(13)(14)この発明に係る合致性判断装置は、対象物の三次元点群データと対象物の外形を有する三次元モデルとの合致性を判断する合致性判断装置であって、前記三次元点群データの各点ごとに近傍の点群に基づいて法線を決定する法線決定手段と、前記三次元モデルの面の法線に対して、所定角度以内にある法線を持つ前記三次元点群データの点を、前記三次元モデルの面に対応する三次元点群データとして特定する特定手段と、当該対応する三次元点群データの各点と当該面との距離の合計に基づいて、合致度を算出する合致度算出手段とを備えている。
したがって、より正確に合致性を判定することができる。
「抽象化三次元モデル取得手段」は、実施形態においては、ステップS2がこれに対応する。
「三次元モデル決定手段」は、実施形態においては、ステップS4がこれに対応する。
「分割手段」は、実施形態においては、ステップS6がこれに対応する。
「プログラム」とは、CPUにより直接実行可能なプログラムだけでなく、ソース形式のプログラム、圧縮処理がされたプログラム、暗号化されたプログラム等を含む概念である。
この発明の一実施形態による三次元モデル生成装置の機能ブロック図である。 三次元モデル生成装置のハードウエア構成である。 三次元モデル生成プログラムのフローチャートである。 三次元点群データの例である。 三次元モデルの例である。 抽象化三次元モデル取得のフローチャートである。 ボクセルグリッド内の点と近似平面を示す図である。 三次元点群データを二次元投影した二次元点群データである。 二次元投影した三次元モデルである。 抽象化三次元モデルのパラメータである。 マッチング処理の詳細フローチャートである。 マッチング処理の詳細フローチャートである。 パラメータを示す図である。 面についての法線ベクトル、線についての法線ベクトルを示す図である。 合致度の算出式を示す図である。 パラメータを示す図である。 他の例による抽象化三次元モデルの選択処理を示す図である。 第2の実施形態による三次元モデル生成装置の機能ブロック図である。 三次元モデル生成プログラムのフローチャートである。 三次元点群データの例である。 部位の学習を示すための図である、 地物分割処理のフローチャートである。 断面による部位推定を示す図である。 投影面を説明するための図である。 部位に分割された三次元点群データを示す図である。
1.第1の実施形態
1.1システム構成
図1に、この発明の一実施形態による三次元モデル生成装置10の機能ブロック図を示す。抽象化三次元モデル取得手段2は、対象物に対応する抽象化三次元モデルTPを取得する。抽象化三次元モデルTPは、前記対象物の外形に対応する外形を有し、各部分の寸法を変更することのできるようなモデルである。抽象化三次元モデルTPは、少なくとも、対象物の外形の辺または面を有するものである。
三次元モデル決定手段4は、前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルTMとして出力する。
図2に、三次元モデル生成装置10のハードウエア構成を示す。CPU20には、メモリ22、ディスプレイ24、通信回路26、ハードディスク28、DVD−ROMドライブ30、キーボード/マウス32が接続されている。
通信回路26は、インターネットに接続するためのものである。ハードディスク28には、オペレーティングシステム36、三次元モデル生成プログラム38が記録されている。三次元モデル生成プログラム38は、オペレーティングシステム36と協働してその機能を発揮するものである。これらプログラムは、DVD−ROM40に記録されていたものを、ハードディスク28にインストールしたものである。
1.2三次元モデル生成処理
図3に、三次元モデル生成プログラム38のフローチャートを示す。ここでは、構造物である橋脚を対象として、三次元点群データから三次元モデルを生成する場合について説明する。
まず、CPU20は、対象物の三次元点群データを取得する(ステップS1)。この三次元点群データは、ハードディスク28に記録されたものを取得してもよいし、インターネットを介して他の装置から取得してもよい。図4に、取得した橋脚の三次元点群データの例を示す。橋脚の上部面は他の部位と接触しているため三次元点群データが計測されない。同様に、下部面は地面に埋もれているので三次元点群データが計測されない。
次に、CPU20は、この三次元点群データに対応する抽象化三次元モデルを読み込む(ステップS2)。橋脚は、様々な形に分類される。この形状を表すのが抽象化三次元モデルである。この実施形態では、図5に示すように、抽象化三次元モデルB1、B2、B3・・・Bnが用意されている。抽象化三次元モデルは、ワイヤーフレーム、ソリッドモデルなどの形式にて用意することが好ましい。
抽象化三次元モデルB1、B2、B3・・・Bnは、ハードディスク28に記録されたものを読み込んでもよいし、インターネットを介して他の装置から読み込んでもよい。
次に、CPU20は、読み込んだ抽象化三次元モデルのうちから、三次元点群データに合致するものを取得する(ステップS3)。この処理の詳細を、図6に示す。
CPU20は、三次元点群データを、ボクセルグリッド(微小立方体)にて区切る(ステップS31)。次に、各ボクセルグリッド内の点について、近似平面を算出する(ステップS32)。図7に、一つのボクセルグリッドVGを示す。このボクセルグリッドVG内の点Dについて、その近似平面Pを算出する。
この近似平面Pの法線ベクトルVを求め、ボクセルグリッドVG内の各点Dにこれを付与する。このようにして求めた各点Dの法線ベクトルに基づいて、三次元点群データを回転させXYZ方向に整列させる(ステップS33)。
計測された三次元点群データは、概ねZ軸方向に沿って立ち上がることになる。すなわち、図4の面S1、面S2などは、Z軸方向に沿うことになる。ただし、計測誤差や、橋脚の傾きなどにより、三次元点群データの面S1、面S2がZ軸に平行にならない場合もある。そこで、面S1、面S2がZ軸に並行になるように三次元点群データを傾ける。
この際の処理は以下のとおりである。まず、Z軸にほぼ垂直な法線ベクトルVを持つ点を選択する。これにより、面S1、面S2、面S3(面S1に対向する面)、面S4(面S22に対向する面)の点が選択されることになる。
次に、三次元点群データをY軸周り、X軸周りに回転(たとえば−10度〜+10度の範囲)させ、上記選択された点の法線ベクトルがZ軸に対して垂直となるような(各法線ベクトルとZ軸の垂直方向との角度誤差の合計が最も小さくなるような)位置を見いだす。
上記のように垂直方向への立ち上がりを決めた三次元点群データを、Z軸まわりに回転(たとえば360度)させ、上記選択された点の法線ベクトルがX軸に対して水平(各法線ベクトルとX軸方向との角度誤差の合計が最も小さくなるような)であって、かつ、上記選択された点の法線ベクトルがY軸に対して水平(各法線ベクトルとY軸方向との角度誤差の合計が最も小さくなるような)位置を見いだす。
なお、対象物の形状が楕円円柱状であるような場合には、面S1、S2、S3、S4が形成されない。しかし、上記処理を行うことで、楕円の長軸方向がX軸またはY軸に合致するように位置が定まる。また、円柱状の場合には、いずれの位置に定まったとしても後の処理において問題は生じない。
以上のようにして、CPU20は、三次元点群データを、XYZ軸方向に整列させる。これにより、三次元点群データは、図4に示すように、XYZ軸に沿った方向となる。
CPU20は、この三次元点群データと形状が最もマッチする抽象化三次元モデルを選択する。その処理は以下のとおりである。
CPU20は、三次元点群データを、XY平面、YZ平面、XZ平面に投影し、二次元投影点群データを得る(ステップS34)。図8に、各面における得られた二次元投影点群データを示す。図8においては、点のあるエリアを面で示しているが、実際には、点のデータが集合したものである。また、上面、下面は三次元点群データがないため、XY平面においては、ほとんど点が現れていない。
一方、図5に示す抽象化三次元モデルのそれぞれについて、予め、図9に示すような二次元投影モデルが記録されている。これらの二次元投影モデルは、XYZ軸方向に整列させて二次元平面に投影したものである。抽象化三次元モデルの寸法は可変であるので、可変の際の中心値に基づいて形状を決定し、上記投影を行うようにしている。
CPU20は、二次元投影点群データと二次元投影モデルとを比較して(ステップS35)、最も良くマッチングした二次元投影モデル(抽象化三次元モデル)を選択する(ステップS36)。なお、マッチング度合いの算出には、SIFTやSURF等のアルゴリズムで算出した対応点数や、二次元投影点群データと二次元投影モデルの重なり度合い(オーバラップ率)を用いることができる。後者は、たとえば、二次元投影モデルを微小な矩形によって区切りその個数をXとする。これらの矩形のうち、点群データが一つでも存在する矩形の個数をYとする。重なり度合いは、Y/Xとして算出することができる。
また、マッチング度合いの高い複数の抽象化三次元モデルを複数提示し、操作者に選択させるようにしてもよい。
上記のようにして、抽象化三次元モデルが決定されると、CPU20は、当該抽象化三次元モデルの各寸法を変化させながら、三次元点群データとの適合度合いを算出する(図3、ステップS4)。
たとえば、図10に示すような抽象化三次元モデルが選択されたものとする。図に示すように、各部分の寸法P1〜P6を変えることができるようになっている。また、抽象化三次元モデルと三次元点群データの傾きや位置も合致させる必要があるので、図13に示すように、X、Y、Z方向への移動量、roll、pitch、yawなどの回転角度、sclaeによる拡大率も変化させるようにしている。
図13において、たとえば「P1」であれば、最小0.5mから0.5m刻みに最高4.0mまで8個のパターンを取り得ることが示されている。各パラメータは、二進数にて表現されることになる(必要ビット数参照)。
図13に示すように、組合せパターンが多く存在するので、その組合せ数は膨大なものとなり、処理に膨大な時間を要することになる。
そこで、この実施形態では、GA(遺伝的アルゴリズム)を用いて、検討を行うようにしている。図11に、GAを用いた寸法決定のフローチャートを示す。
まず、CPU20は、各パラメータについて探索範囲の中からランダムに初期値を選択し、初期集団を生成する(ステップS41)。これにより、全てのパラメータに値が与えられ、三次元モデルが形成されることになる。
次に、CPU20は、形成された三次元モデルの全ての面について法線ベクトルを算出する(ステップS42)。図14Aに、法線ベクトルの例を示す。図14Aでは、面FP、RSPについてのみ法線ベクトルを示しているが、他の全ての面についても法線ベクトルが生成される。
続いて、CPU20は、三次元点群データの点について法線ベクトルを生成する(ステップS44)。ここでは、注目する点の所定範囲内の点により疑似平面を生成し、当該疑似平面の法線ベクトルを、当該注目する点の法線ベクトルとしている。図14Bに、注目する点の法線ベクトルの例を示す。
次に、CPU20は、注目する点の法線ベクトルと、三次元モデルの各面の法線ベクトルとの角度差を算出し、所定角度よりも角度差の小さい面に注目する点を対応付ける(ステップS45)。
次に、当該対応づけられた面に対して点から垂線を降ろしてその距離を算出する(ステップS46)。ステップS45において、対応付けられた面が複数ある場合、ステップS46にて算出した距離の小さい方を選択して、点を対応付ける。
以上のステップS44〜S46の処理を全ての点について行う(ステップS43、S47)。
CPU20は、三次元モデルの各面ごとに、対応する点の総数を算出する(ステップS49)。この点の総数が少ない(他の面の点の数の5%以下など)面については、十分な三次元点群データが計測されていない可能性がある。したがって、この適合処理においては、外れ値とし、当該面および点を棄却する(ステップS50)。
続いて、CPU20は、三次元モデルと三次元点群データの適合度を算出する(ステップS51)。適合度は、面とこれに対応する点の距離の総和が小さいほど適合度が高いものとしている。この実施形態では、図15に示すような式により、正規化された適合度Fitnessを算出している。
図15において、nは三次元モデルの面数、RMSは点と面との距離の二乗平方根、RMSminはRMSの最小値、RMSmaxはRMSの最大値、面iのRMSをRMSiとする。
CPU20は、適合度が所定値より小さいかどうかを判断する(ステップS52)。適合度Fitnessが小さいほど、三次元モデルと三次元点群データの合致性が高いことになる。所定値より小さい場合、CPU20は、当該三次元モデルを、三次元点群データに対応する三次元モデルとして決定する(ステップS54)。
所定値より大きい場合、CPU20は、GA処理にて、各パラメータのビットを交叉、突然変異などの手法によって変更し、次世代の三次元モデルを生成する(ステップS53)。なお、このGA処理は、遺伝子アルゴリズムにおいて通常用いられている手法を用いることができる。
CPU20は、このようにして生成した次世代の三次元モデルについて、ステップS41以下の処理を繰り返す。このようにして、三次元点群データとよくマッチする三次元モデルを得ることができる。
CPU20は、このようにして決定した三次元点群モデル(パラメータ値を含む)を出力する(図3、ステップS5)。
この実施形態によれば、三次元点群データが不完全であって、全ての面が測定できていなくとも、完全な三次元モデルを得ることができる。
1.3その他
(1)上記実施形態では、遺伝子アルゴリズムを用いて適切な組合せを検討するようにしている。しかし、タブー検索や疑似アニーリング法などを用いるようにしてもよい。また、組合せの数が少ない場合には、全ての組合せを検討するようにしてもよい。
(2)上記実施形態では、地物を対象として、三次元点群データから三次元モデルを生成するようにしている。しかし、地物以外の構造物を対象として、三次元点群データから三次元モデルを生成するようにしてもよい。
(3)上記実施形態では、ステップS52において適合値が所定値以下になれば、そのパラメータを有する三次元モデルを選択するようにしている。しかし、直ちにそのパラメータにて三次元モデルを選択せず、当該パラメータを中心として、探索ステップを細かくしてパラメータ値を変化させ、より最適なパラメータ(より小さな所定値の適合値になるように)を選択するようにしてもよい。
たとえば、図16に示すように、第2段階では、探索ステップを1/10にしてより細かくパラメータを変化させる。第2段階における探索範囲は、第1段階にて得られた適切値を中心として、探索ステップを細かくし、第1段階と同じ数のパターン数を設定した範囲とする。
このようにすることで、より適切なパラメータ値を得ることができる。なお、上記では、第2段階まで行ったが、3段階以上行うようにしてもよい。
(4)上記実施形態では、ステップS3において抽象化三次元モデルを選択する際に、二次元投影画像を作成してその類似度により選択するようにしている。しかし、抽象化三次元モデルの面の数と、三次元点群モデルの面の数とを比較して合致するものを選択するようにしてもよい。また、これだけで抽象化三次元モデルを一つに決定できない場合には、上記の二次元投影画像による方法を組み合わせてもよい。また、複数の抽象化三次元モデルをディスプレイに表示し、操作者に選択させるようにしてもよい。
この場合のステップS3の詳細なフローチャートを図17に示す。CPU20は、まず、ボクセルグリッドにて、三次元点群データを区切る(ステップS31)。この処理は、図6のステップS31と同様である。
次に、CPU20は、各ボクセルグリッド内の点から近似平面を算出し、法線ベクトルを算出する。この法線ベクトルを、当該ボクセルグリッド内の全ての点に対して付与する(ステップS32)。この処理は、図6のステップS32と同様である。
続いて、CPU20は、全ての点を対象として、その位置と法線ベクトルによってクラスタリングを行う(ステップS36)。このようなクラスタリングにより、三次元点群データによって表される面の数が示されることになる。
次に、CPU20は、算出したクラスタ数と合致する面数を有する抽象化三次元モデルを選択する(ステップS37)。
なお、抽象化三次元モデルの面数をクラスタ数とみなして、k-means法を適用して、適合する面数を求めるようにしてもよい。
(5)上記実施形態では、用意している抽象化三次元モデルの全てについて三次元点群データとの類似度を判断し、抽象化三次元モデルを選択するようにしている。しかし、抽象化三次元モデルを対象物ごとに種類分けしておき、対象物の種類に応じて、当該種類の抽象化三次元モデルのみを抽出し、その中から三次元点群データに類似するものを選択するようにしてもよい。
(6)上記実施形態では、三次元モデル生成装置を、操作者が直接的に操作を行うことのできるコンピュータとして構築した。しかし、端末装置からインターネットなどを介して操作を行うことのできるサーバ装置として構築してもよい。
(7)上記実施形態では、ボクセルグリッドを形成し、ボクセルグリッド内の点については全て同じ法線ベクトルを与えるようにしている。しかし、全ての点についてそれぞれ法線ベクトルを与えるようにしてもよい。この場合、法線ベクトルを与える点について、当該点の周囲の所定距離内にある点に基づいて疑似平面を参照し、この法線ベクトルを当該点に与えるようにする。
(8)上記実施形態およびその変形例は、その本質に反しない限り、他の実施形態と組み合わせて実施可能である。
2.第2の実施形態
2.1システム構成
図18に、第2の実施形態による三次元モデル生成装置10の機能ブロック図を示す。分割手段6は、三次元点群データDDを対象物ごとあるいは対象物の部位ごとに分割する。その際、対象物あるいは部位の名称を与える。
抽象化三次元モデル取得手段2は、分割された対象物あるいは部位に対応する抽象化三次元モデルTPを取得する。抽象化三次元モデルTPは、前記対象物の外形に対応する外形を有し、各部分の寸法を変更することのできるようなモデルである。
三次元モデル決定手段4は、前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルTMとして出力する。
三次元モデル生成装置10のハードウエア構成は、図2と同様である。
2.2三次元モデル生成処理
図19に、三次元モデル生成プログラム38のフローチャートを示す。ここでは、構造物である橋梁全体を対象として、三次元点群データから三次元モデルを生成する場合について説明する。
まず、CPU20は、対象物の三次元点群データを取得する(ステップS1)。この三次元点群データは、ハードディスク28に記録されたものを取得してもよいし、インターネットを介して他の装置から取得してもよい。
図20に、取得した橋梁の三次元点群データの例を示す。橋梁以外の法面なども含めて三次元点群データが構成されている。
次に、CPU20は、この橋梁の三次元点群データを、橋梁を構成する部位ごとの三次元点群データに分割する(ステップS6)。この分割の手法としては、たとえば、図21に示すように、三次元点群データにおいて各部位(高欄、橋台、主桁・・・)を色分けなどにより明示した学習データを、様々な対象物について多数作成する。図21においては白黒によって示されているが、左の図面においては高欄の部分のみが赤色で示されており、中央の図面では橋台の部分のみがピンクで示されており、右の図面では主桁の部分のみが緑で示されている。この学習データによって学習したディープラーニングの学習済みモデルによって、与えられた三次元点群データの各部位を推定する。
なお、上記のように三次元のデータをディープラーニングにて推定するのは、処理時間を要することになる。そこで、この実施形態では、次のような手法にて、三次元点群データを各部位の三次元点群データに分割するようにしている。
この分割処理のフローチャートを図22に示す。CPU20は、まず、三次元点群データの横断面(横断面点群データ)を生成する(ステップS61)。横断面は、高さ方向に沿う面であり、地物を囲う矩形(バウンダリーボックス)の各面と水平若しくは垂直な面として決定される。
次に、この横断面点群データに基づいて、学習済みのディープラーニングのモデルによって各部位の推定を行う(ステップS62)。図23Aが与えられた三次元点群データであり、図23Bが推定された各部位である。ここでは、上から、高欄、主桁、橋台に分割されている。
ディープラーニングのモデルを学習するためには、多数の地物(対象物)の横断面を生成し、そこに現れた各部位を明示(色分けなどにより)したデータにて学習を行う。各部位の名称は、色分けを行った色によって特定する。
続いて、CPU20は、三次元点群データの縦断面(縦断面点群データ)を生成する(ステップS63)。縦断面は、高さ方向に沿う面であり、地物を囲う矩形(バウンダリーボックス)の各面と水平若しくは垂直な面として決定される。
次に、この縦断面点群データに基づいて、学習済みのディープラーニングのモデルによって各部位の推定を行う(ステップS64)。学習モデルの生成方法は、横断面と同様である。
なお、この実施形態では、断面のうち長さの長い方を縦断面、短い方を横断面としている。
さらに、CPU20は、三次元点群データの俯瞰図(俯瞰図点群データ)を生成する(ステップS65)。ここで、俯瞰図の考え方は、図24に示すとおりである。図24に示すように、バウンダリーボックスの長軸方向の中央を中心とし、高さ方向に上下に回転する線Lを想定する。なお、線Lによって形成される面(円)は、バウンダリーボックスの矩形の各面と水平または垂直になるように選択される。
この線Lに沿うように、投影面を所定個数設ける、たとえば、30度ごとに設けると、12個の投影面が形成されることになる。これらの投影面に三次元点群データを投影し、俯瞰図点群データを得る。
CPU20は、この各俯瞰図点群データについて、学習済みのディープラーニングのモデルによって各部位の推定を行う(ステップS66)。学習モデルの生成方法は、横断面と同様である。なお、この実施形態では、角度ごとの投影面ごとに学習済みモデルを形成するのではなく、全ての投影面についてまとめて学習済みモデルを形成するようにしている。もちろん、角度ごとの投影面について学習済みモデルを形成するようにしてもよい。
以上のようにして、各断面図、俯瞰図に基づく部位の推定結果を得ることができる。CPU20は、これらを統合して、三次元点群データを各部位に分割する(ステップS67)。
なお、この際、各断面図、俯瞰図における部位推定に矛盾がなければ、そのまま推定結果を統合して三次元点群データを各部位に分割する。矛盾がある場合、各図に基づく推定結果につき多数決にて部位を決定する。
以上のようにして、図20に示す三次元点群データが、図25に示すように、高欄、主桁、橋台の三次元点群データに分割される。
以下、このように部位ごとに分割された三次元点群データのそれぞれについて、三次元モデルを生成する(ステップS7、S2、S3、S4)。この処理は、第1の実施形態と同様である。生成した部位ごとの三次元モデルを、ハードディスク28に記録する(ステップS8)。
CPU20は、全ての部位について三次元モデルを得た後、これらを統合して橋梁全体の三次元モデルを構築し、これを出力する(ステップS10)。
2.3その他
(1)上記実施形態では、一つの地物の三次元点群データにつき、当該地物を構成する部位に分割して三次元モデルを得るようにしている。しかし、複数の地物の三次元点群データから、地物ごとに三次元点群データを分割し、三次元モデルを得るようにしてもよい。
(2)上記実施形態では、地物の部位ごとに三次元モデルを構築しているが、地物全体としての抽象化三次元モデルを用意しておき、三次元モデルを構築するようにしてもよい。
(3)上記実施形態では、地物を対象として、三次元点群データから三次元モデルを生成するようにしている。しかし、地物以外の構造物を対象として、三次元点群データから三次元モデルを生成するようにしてもよい。
(4)上記実施形態では、横断面、縦断面を区別して、学習モデルを構築している。しかし、横断面、縦断面を区別せずに、学習モデルを構築するようにしてもよい。
(5)上記実施形態およびその変形例は、その本質に反しない限り、他の実施形態と組み合わせて実施可能である。

Claims (14)

  1. 対象物の三次元点群データに基づいて、当該対象物の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置であって、
    前記対象物の各外形と対応する外形を有する寸法可変の抽象化三次元モデルを取得する抽象化三次元モデル取得手段と、
    前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルとして決定する三次元モデル決定手段と、
    を備えた三次元モデル生成装置。
  2. 対象物の三次元点群データに基づいて、当該対象物の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置を、コンピュータによって実現するための三次元モデル生成プログラムであって、コンピュータを、
    前記対象物の各外形と対応する外形を有する寸法可変の抽象化三次元モデルを取得する抽象化三次元モデル取得手段と、
    前記抽象化三次元モデルの寸法を変えながら、前記三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを三次元モデルとして決定する三次元モデル決定手段として機能させる三次元モデル生成プログラム。
  3. 請求項1の装置または請求項2のプログラムにおいて、
    前記三次元モデル決定手段は、前記抽象化三次元モデルの面に対応する三次元点群データを特定し、当該三次元点群データの各点と当該面との距離の合計に基づいて、合致性を判断する合致性判断手段を備えることを特徴とする装置またはプログラム。
  4. 請求項1〜3のいずれかの装置またはプログラムにおいて、
    前記抽象化三次元モデル取得手段は、記録された複数の抽象化三次元モデルの中から、前記三次元点群データと図形的特徴が類似する抽象化三次元モデルを取得することを特徴とする装置またはプログラム。
  5. 請求項4の装置またはプログラムにおいて、
    前記抽象化三次元モデル取得手段は、少なくともi)前記抽象化三次元モデルの平面の数と前記三次元点群データの平面の数、またはii)前記抽象化三次元モデルの二次元投影図と前記三次元点群データの二次元投影図を、図形的特徴として用いることを特徴とする装置またはプログラム。
  6. 請求項1〜5のいずれかの装置またはプログラムにおいて、
    前記抽象化三次元モデルは、対象物の種類ごとにグループ化されており、
    前記抽象化三次元モデル取得手段は、前記三次元点群データが表す対象物の種類を推定する種類推定手段を有し、推定した種類の抽象化三次元モデルの中から抽象化三次元モデルを取得することを特徴とする装置またはプログラム。
  7. 請求項1〜6のいずれかの装置またはプログラムにおいて、
    前記対象物は、地物の構成部位であることを特徴とする装置またはプログラム。
  8. 構造物の三次元点群データに基づいて、当該構造の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置であって、
    前記構造物の三次元点群データを前記構造物の部位ごとの三次元点群データに分割する三次元点群データ分割手段と、
    分割した三次元点群データに基づいて、各部位ごとの三次元モデルを生成する三次元モデル生成手段と、
    生成された各部位の三次元モデルを統合して構造物全体の三次元モデルを構築する三次元モデル統合手段と、
    を備えた三次元モデル生成装置。
  9. 構造物の三次元点群データに基づいて、当該構造の少なくとも外形を有する三次元モデルを生成する三次元モデル生成装置を、コンピュータによって実現するための三次元モデル生成プログラムであって、
    前記構造物の三次元点群データを前記構造物の部位ごとの三次元点群データに分割する三次元点群データ分割手段と、
    分割した三次元点群データに基づいて、各部位ごとの三次元モデルを生成する三次元モデル生成手段と、
    生成された各部位の三次元モデルを統合して構造物全体の三次元モデルを構築する三次元モデル統合手段とを備えた三次元モデル生成プログラム。
  10. 請求項8の装置または請求項9のプログラムにおいて、
    前記三次元モデル生成手段は、
    前記部位の外形と対応する外形を有する寸法可変の抽象化三次元モデルを取得する抽象化三次元モデル取得手段と、
    前記抽象化三次元モデルの寸法を変えながら、前記分割された三次元点群データとの合致性を判断し、合致性の高い抽象化三次元モデルを当該部位の三次元モデルとして決定する三次元モデル決定手段と、
    を備えることを特徴とする装置またはプログラム。
  11. 対象物の三次元点群データに基づいて、複数の対象物の各外形と対応する外形を有する寸法可変の複数の抽象化三次元モデルから、対応する抽象化三次元モデルを選択する抽象化三次元モデル選択装置であって、
    少なくとも、i)前記三次元点群データの平面の数と前記抽象化三次元モデルの平面の数とが合致する前記抽象化三次元モデル、または、ii)前記三次元点群データの二次元投影図と前記抽象化三次元モデルの二次元投影図が合致する前記抽象化三次元モデルを選択する手段を備えることを特徴とする三次元モデル選択装置。
  12. 対象物の三次元点群データに基づいて、複数の対象物の各外形と対応する外形を有する寸法可変の複数の抽象化三次元モデルから、対応する抽象化三次元モデルを選択する抽象化三次元モデル選択装置をコンピュータによって実現するための三次元モデル選択プログラムであって、コンピュータを、
    少なくとも、i)前記三次元点群データの平面の数と前記抽象化三次元モデルの平面の数とが合致する前記抽象化三次元モデル、または、ii)前記三次元点群データの二次元投影図と前記抽象化三次元モデルの二次元投影図が合致する前記抽象化三次元モデルを選択する手段として機能させるための三次元モデル選択プログラム。
  13. 対象物の三次元点群データと対象物の外形を有する三次元モデルとの合致性を判断する合致性判断装置であって、
    前記三次元点群データの各点ごとに近傍の点群に基づいて法線を決定する法線決定手段と、
    前記三次元モデルの面の法線に対して、所定角度以内にある法線を持つ前記三次元点群データの点を、前記三次元モデルの面に対応する三次元点群データとして特定する特定手段と、
    当該対応する三次元点群データの各点と当該面との距離の合計に基づいて、合致度を算出する合致度算出手段と、
    を備えた合致性判断装置。
  14. 対象物の三次元点群データと対象物の外形を有する三次元モデルとの合致性を判断する合致性判断装置をコンピュータによって実現するための合致性判断プログラムであって、コンピュータを、
    前記三次元点群データの各点ごとに近傍の点群に基づいて法線を決定する法線決定手段と、
    前記三次元モデルの面の法線に対して、所定角度以内にある法線を持つ前記三次元点群データの点を、前記三次元モデルの面に対応する三次元点群データとして特定する特定手段と、
    当該対応する三次元点群データの各点と当該面との距離の合計に基づいて、合致度を算出する合致度算出手段として機能させるための合致性判断プログラム。
JP2019104537A 2019-06-04 2019-06-04 三次元点群データに基づく三次元モデル生成装置 Active JP7424573B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019104537A JP7424573B2 (ja) 2019-06-04 2019-06-04 三次元点群データに基づく三次元モデル生成装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019104537A JP7424573B2 (ja) 2019-06-04 2019-06-04 三次元点群データに基づく三次元モデル生成装置

Publications (2)

Publication Number Publication Date
JP2020197979A true JP2020197979A (ja) 2020-12-10
JP7424573B2 JP7424573B2 (ja) 2024-01-30

Family

ID=73649273

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019104537A Active JP7424573B2 (ja) 2019-06-04 2019-06-04 三次元点群データに基づく三次元モデル生成装置

Country Status (1)

Country Link
JP (1) JP7424573B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113205548A (zh) * 2021-04-01 2021-08-03 广西壮族自治区自然资源遥感院 一种林区无人机和地基点云的自动化配准方法及系统
JP7133821B1 (ja) 2021-07-01 2022-09-09 株式会社岩崎 任意座標系点群による、自動採寸プログラム、自動採寸装置および自動採寸方法
EP4213057A1 (en) 2022-01-13 2023-07-19 Ricoh Company, Ltd. Three-dimensional shape generation apparatus, three-dimensional shape generation system, three-dimensional shape generation method, and carrier medium
EP4213058A1 (en) 2022-01-13 2023-07-19 Ricoh Company, Ltd. Three-dimensional shape generation apparatus, three-dimensional shape generation system, three-dimensional shape generation method, and carrier medium

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004133094A (ja) * 2002-10-09 2004-04-30 Zenrin Co Ltd 3次元電子地図データの生成方法
JP2009237397A (ja) * 2008-03-28 2009-10-15 Geo Technical Laboratory Co Ltd 地物抽出装置
JP2013092888A (ja) * 2011-10-25 2013-05-16 Toshiba Corp データ処理装置
JP2014056464A (ja) * 2012-09-13 2014-03-27 Univ Of Tokyo 物体認識装置、物体認識方法及び物体認識プログラム
US20140098094A1 (en) * 2012-10-05 2014-04-10 Ulrich Neumann Three-dimensional point processing and model generation
JP2014186567A (ja) * 2013-03-25 2014-10-02 Geo Technical Laboratory Co Ltd 3次元点群解析方法
WO2014155715A1 (ja) * 2013-03-29 2014-10-02 株式会社日立製作所 物体認識装置および物体認識方法並びにプログラム
US20170256100A1 (en) * 2016-03-02 2017-09-07 Electronics And Telecommunications Research Institute Apparatus and method for editing three-dimensional building data
JP2019091067A (ja) * 2019-02-01 2019-06-13 キヤノン株式会社 レンズ部およびその制御方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4686762B2 (ja) 2005-06-07 2011-05-25 独立行政法人産業技術総合研究所 三次元形状の位置あわせ方法及びプログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004133094A (ja) * 2002-10-09 2004-04-30 Zenrin Co Ltd 3次元電子地図データの生成方法
JP2009237397A (ja) * 2008-03-28 2009-10-15 Geo Technical Laboratory Co Ltd 地物抽出装置
JP2013092888A (ja) * 2011-10-25 2013-05-16 Toshiba Corp データ処理装置
JP2014056464A (ja) * 2012-09-13 2014-03-27 Univ Of Tokyo 物体認識装置、物体認識方法及び物体認識プログラム
US20140098094A1 (en) * 2012-10-05 2014-04-10 Ulrich Neumann Three-dimensional point processing and model generation
JP2014186567A (ja) * 2013-03-25 2014-10-02 Geo Technical Laboratory Co Ltd 3次元点群解析方法
WO2014155715A1 (ja) * 2013-03-29 2014-10-02 株式会社日立製作所 物体認識装置および物体認識方法並びにプログラム
US20170256100A1 (en) * 2016-03-02 2017-09-07 Electronics And Telecommunications Research Institute Apparatus and method for editing three-dimensional building data
JP2019091067A (ja) * 2019-02-01 2019-06-13 キヤノン株式会社 レンズ部およびその制御方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
塚田義典 外4名: "点群データを用いた橋梁の3次元モデルの生成に関する研究", 知能と情報 [ONLINE], vol. 27, no. 5, JPN6023018484, 2015, pages 796 - 812, ISSN: 0005050170 *

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113205548A (zh) * 2021-04-01 2021-08-03 广西壮族自治区自然资源遥感院 一种林区无人机和地基点云的自动化配准方法及系统
JP7133821B1 (ja) 2021-07-01 2022-09-09 株式会社岩崎 任意座標系点群による、自動採寸プログラム、自動採寸装置および自動採寸方法
JP2023007153A (ja) * 2021-07-01 2023-01-18 株式会社岩崎 任意座標系点群による、自動採寸プログラム、自動採寸装置および自動採寸方法
EP4213057A1 (en) 2022-01-13 2023-07-19 Ricoh Company, Ltd. Three-dimensional shape generation apparatus, three-dimensional shape generation system, three-dimensional shape generation method, and carrier medium
EP4213058A1 (en) 2022-01-13 2023-07-19 Ricoh Company, Ltd. Three-dimensional shape generation apparatus, three-dimensional shape generation system, three-dimensional shape generation method, and carrier medium

Also Published As

Publication number Publication date
JP7424573B2 (ja) 2024-01-30

Similar Documents

Publication Publication Date Title
JP7424573B2 (ja) 三次元点群データに基づく三次元モデル生成装置
JP5018721B2 (ja) 立体模型の作製装置
JP7290240B2 (ja) 対象物認識装置
JP7164045B2 (ja) 骨格認識方法、骨格認識プログラムおよび骨格認識システム
CN113450356B (zh) 用于识别目标部件安装状态的方法、设备和存储介质
CN112634340A (zh) 基于点云数据确定bim模型的方法、装置、设备和介质
US20200265634A1 (en) Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
CN112712592B (zh) 建筑物三维模型语义化方法
CN108256454A (zh) 一种基于cnn模型的训练方法、人脸姿态估测方法及装置
Poullis Large-scale urban reconstruction with tensor clustering and global boundary refinement
JP4619504B2 (ja) 3次元デジタル地図作成装置
JP2015184061A (ja) 抽出装置、方法及びプログラム
CN112396831B (zh) 一种交通标识的三维信息生成方法和装置
JP4385244B2 (ja) 地形形状抽出方法、地形形状抽出システム及びプログラム
JP6958993B2 (ja) 土木工事の出来形評価システム、出来形評価方法、及びプログラム
CN111402256B (zh) 一种基于模板的三维点云目标检测和姿态估计方法
JP2016142533A (ja) 測量成果生成装置
JP7407648B2 (ja) 物体認識装置及び物体認識方法
JP7204087B2 (ja) 対象物認識装置
WO2021250734A1 (ja) 座標変換装置、座標変換方法、及び座標変換プログラム
US11887387B2 (en) Mesh structure equipment detection apparatus, mesh structure equipment detection method and program
WO2020189703A1 (ja) 構造物検出装置、構造物検出方法および構造物検出処理プログラム
JP2021182243A (ja) 画像判定装置、方法、及びプログラム
EP3961556A1 (en) Object recognition device and object recognition method
CN117371949B (zh) 基于三维可视化模型的输电线路施工安全监测方法及系统

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20190606

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20200310

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20200310

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20200312

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220330

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230508

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230606

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231017

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231218

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20240110

R150 Certificate of patent or registration of utility model

Ref document number: 7424573

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150