JP6863634B1 - モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 - Google Patents
モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 Download PDFInfo
- Publication number
- JP6863634B1 JP6863634B1 JP2020092349A JP2020092349A JP6863634B1 JP 6863634 B1 JP6863634 B1 JP 6863634B1 JP 2020092349 A JP2020092349 A JP 2020092349A JP 2020092349 A JP2020092349 A JP 2020092349A JP 6863634 B1 JP6863634 B1 JP 6863634B1
- Authority
- JP
- Japan
- Prior art keywords
- feature
- data
- segment
- point
- point cloud
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003384 imaging method Methods 0.000 claims abstract description 27
- 238000000034 method Methods 0.000 claims description 33
- 238000001514 detection method Methods 0.000 claims description 29
- 230000011218 segmentation Effects 0.000 claims description 16
- 238000006243 chemical reaction Methods 0.000 claims description 15
- 238000003709 image segmentation Methods 0.000 claims description 15
- 238000010586 diagram Methods 0.000 abstract description 13
- 238000004891 communication Methods 0.000 description 12
- 238000013507 mapping Methods 0.000 description 10
- 238000012545 processing Methods 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000004590 computer program Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 230000001678 irradiating effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013135 deep learning Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Landscapes
- Image Generation (AREA)
- Traffic Control Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
Description
<モデル生成システムの構成>
図1は、実施の形態1に係るモデル生成システム10の構成の一例を示す図である。
図2は、実施の形態1に係るモデル生成装置100Aの構成の一例を示すブロック図である。
図3は、実施の形態1に係るモデル表示装置200の構成の一例を示すブロック図である。
図4は、実施の形態1に係るモデル生成装置100Aによる3Dモデルデータ130の生成処理の一例を示すフローチャートである。
実施の形態1によれば、レーザースキャナ11の位置と撮像装置12の位置との間にずれが存在する場合であっても、共通するセグメント3を基準として、3D点群データ121に撮像画像データ122を張り付けることできる。よって、自動的に3Dモデルデータ130を生成できる。
次に、実施の形態2に係るモデル生成装置100Bについて説明する。なお、実施の形態1又は2と共通する構成要素については、共通の参照符号を付し、説明を省略する場合がある。
図5は、実施の形態2に係るモデル生成装置100Bの構成の一例を示すブロック図である。
図6は、実施の形態2に係るモデル生成装置100Bによる3Dモデルデータ130の生成処理の一例を示すフローチャートである。
実施の形態2によれば、レーザースキャナ11の位置と撮像装置12の位置との間にずれが存在する場合であっても、3D特徴点162と2D特徴点165との対応関係を特定できる。よって、その特定した対応関係に基づいて3D点群データ121に撮像画像データ122を張り付け、3Dモデルデータ130を自動的に生成できる。
次に、実施の形態3に係る学習器生成装置300について説明する。学習器生成装置300は、実施の形態2の学習器154を生成するための装置である。なお、実施の形態1又は2と共通する構成要素については、共通の参照符号を付し、説明を省略する場合がある。
実施の形態3によれば、仮想空間内において、3D特徴量163を変換後2D特徴量167に変換する学習器154の学習を行うための教師データセットを、大量に得ることができる。すなわち、実物を3Dスキャンして3D点群データ121を取得したり、実物を撮影して撮像画像データ122を取得したりすることなく、コンピュータ内の処理によって、大量の教師データセットを得ることができる。よって、学習器生成部305は、当該大量の教師データセットを用いて、高精度の学習器154を生成できる。
以上、本開示に係る実施形態について図面を参照して詳述してきたが、上述したモデル生成装置100A、100B、モデル表示装置200、及び、学習器生成装置300の機能は、コンピュータプログラムにより実現され得る。
本開示に係る、地物(2)の3D(three-dimension)モデルデータ(130)を生成するモデル生成装置(100A)は、レーザースキャナ(11)が地物を3Dスキャンして生成した3D点群データ(121)を取得する点群取得部(102)と、撮像装置(12)が地物を撮像して生成した撮像画像データ(122)を取得する画像取得部(103)と、3D点群データから地物を構成するセグメント(3)を検出し、当該セグメントの点群データに関する情報を含む点群セグメント情報(123)を生成する点群セグメンテーション部(104)と、撮像画像データから地物を構成するセグメントを検出し、当該セグメントの画像データに関する情報を含む画像セグメント情報(126)を生成する画像セグメンテーション部(105)と、共通のセグメントから生成された点群セグメント情報及び画像セグメント情報を対応付ける共通セグメント特定部(106)と、点群セグメント情報が示すセグメントの点群データに、当該点群セグメント情報と対応付けられている画像セグメント情報が示すセグメントの画像データを張り付け、地物の3Dモデルデータを生成するモデル生成部(107)とを備える。
3、3A、3B、3C、3D セグメント
10 モデル生成システム
11 レーザースキャナ
12 撮像装置
13、14 通信ネットワーク
100A、100B モデル生成装置
101 情報格納部
102 点群取得部
103 画像取得部
104 点群セグメンテーション部
105 画像セグメンテーション部
106 共通セグメント特定部
107 モデル生成部
121 3D点群データ
122 撮像画像データ
123 点群セグメント情報
124 セグメント点群データ
126 画像セグメント情報
127 セグメント画像データ
128 セグメント識別情報
129 共通セグメント情報
130 3Dモデルデータ
151 点群特徴検出部
152 画像特徴検出部
153 特徴量変換部
154 学習器
155 共通特徴点特定部
161 点群特徴情報
162 3D特徴点
163 3D特徴量
164 画像特徴情報
165 2D特徴点
166 2D特徴量
167 変換後2D特徴量
168 特徴点対応情報
200 モデル表示装置
201 情報格納部
202 モデル取得部
203 モデル表示部
204 モデル操作部
300 学習器生成装置
301 情報格納部
302 仮想地物モデル配置部
303 仮想点群生成部
304 仮想画像生成部
305 学習器生成部
321 仮想地物モデルデータ
322 仮想3D点群データ
323 仮想撮像画像データ
1000 コンピュータ
1001 入力装置
1002 出力装置
1003 CPU
1007 記憶装置
1008 読取装置
1009 送受信装置
1010 バス
Claims (8)
- 地物の3D(three-dimension)モデルデータを生成するモデル生成装置であって、
レーザースキャナが前記地物を3Dスキャンして生成した3D点群データを取得する点群取得部と、
撮像装置が前記地物を撮像して生成した撮像画像データを取得する画像取得部と、
前記3D点群データから前記地物を構成するセグメントを検出し、当該セグメントの点群データに関する情報及び当該セグメントを識別するセグメント識別情報を含む点群セグメント情報を生成する点群セグメンテーション部と、
前記撮像画像データから前記地物を構成するセグメントを検出し、当該セグメントの画像データに関する情報及び当該セグメントを識別するセグメント識別情報を含む画像セグメント情報を生成する画像セグメンテーション部と、
共通の前記セグメント識別情報を含む前記点群セグメント情報及び前記画像セグメント情報を対応付ける共通セグメント特定部と、
前記点群セグメント情報が示すセグメントの点群データに、当該点群セグメント情報と対応付けられている前記画像セグメント情報が示すセグメントの画像データを張り付け、前記地物の3Dモデルデータを生成するモデル生成部と、を備える、
モデル生成装置。 - 地物の3Dモデルデータを生成するモデル生成装置であって、
レーザースキャナが前記地物を3Dスキャンして生成した3D点群データを取得する点群取得部と、
撮像装置が前記地物を撮像して生成した撮像画像データを取得する画像取得部と、
前記3D点群データから前記地物の3D形状に関する特徴的な部分を示す3D特徴点を検出し、当該3D特徴点の特徴を示す値である3D特徴量を算出する点群特徴検出部と、
前記撮像画像データから前記地物の2D(two-dimension)形状に関する特徴的な部分を示す2D特徴点を検出し、当該2D特徴点の特徴を示す値である2D特徴量を算出する画像特徴検出部と、
前記3D特徴量を、2D形状の特徴を示す値である変換後2D特徴量に変換する特徴量変換部と、
前記変換後2D特徴量との類似度が所定の閾値以上である前記2D特徴量を特定し、当該変換後2D特徴量を有する3D特徴点と、当該特定した前記2D特徴量を有する2D特徴点とを対応付ける共通特徴点特定部と、
前記3D特徴点と前記2D特徴点との対応関係に基づいて、前記3D点群データに前記撮像画像データを張り付け、前記地物の3Dモデルデータを生成するモデル生成部と、を備える、
モデル生成装置。 - 前記特徴量変換部は、前記3D特徴量を前記変換後2D特徴量に変換する予め生成された学習器を用いて、前記3D特徴量を前記変換後2D特徴量に変換する、
請求項2に記載のモデル生成装置。 - 請求項3に記載の学習器を生成する学習器生成装置であって、
仮想空間に予め配置された地物に関する3Dモデルデータである仮想地物モデルデータを前記仮想空間にて3Dスキャンし、仮想3D点群データを生成する仮想点群生成部と、
前記仮想空間において、前記3Dスキャンが行われた位置と同じ位置から、前記仮想地物モデルデータを撮像し、仮想撮像画像データを生成する仮想画像生成部と、
前記仮想3D点群データから前記仮想地物モデルデータの3D形状に関する特徴的な部分を示す3D特徴点を検出し、当該3D特徴点の特徴を示す値である3D特徴量を算出する点群特徴検出部と、
前記仮想撮像画像データから前記仮想地物モデルデータの2D形状の特徴的な部分を示す2D特徴点を検出し、当該2D特徴点の特徴を示す値である2D特徴量を算出する画像特徴検出部と、
前記3D特徴点が有する前記3D特徴量を入力データとし、当該3D特徴点と対応関係にある前記2D特徴点が有する前記2D特徴量を正解データとして、前記学習器を生成する学習器生成部と、を備える、
学習器生成装置。 - モデル生成装置によって地物の3D(three-dimension)モデルデータを生成するモデル生成方法であって、
レーザースキャナが前記地物を3Dスキャンして生成した3D点群データを取得し、
撮像装置が前記地物を撮像して生成した撮像画像データを取得し、
前記3D点群データから前記地物を構成するセグメントを検出し、当該セグメントの3D点群データに関する情報及び当該セグメントを識別するセグメント識別情報を含む点群セグメント情報を生成し、
前記撮像画像データから前記地物を構成するセグメントを検出し、当該セグメントの画像データに関する情報及び当該セグメントを識別するセグメント識別情報を含む画像セグメント情報を生成し、
共通の前記セグメント識別情報を含む前記点群セグメント情報及び前記画像セグメント情報を対応付け、
前記点群セグメント情報が示すセグメントの点群データに、当該点群セグメント情報と対応付けられている前記画像セグメント情報が示すセグメントの画像データを張り付け、前記地物の3Dモデルデータを生成する、
モデル生成方法。 - モデル生成装置によって地物の3Dモデルデータを生成するモデル生成方法であって、
レーザースキャナが前記地物を3Dスキャンして生成した3D点群データを取得し、
撮像装置が前記地物を撮像して生成した撮像画像データを取得し、
前記3D点群データから前記地物の3D形状に関する特徴的な部分を示す3D特徴点を検出し、当該3D特徴点の特徴を示す値である3D特徴量を算出し、
前記撮像画像データから前記地物の2D(two-dimension)形状に関する特徴的な部分を示す2D特徴点を検出し、当該2D特徴点の特徴を示す値である2D特徴量を算出し、
前記3D特徴量を、2D形状の特徴を示す値である変換後2D特徴量に変換し、
前記変換後2D特徴量との類似度が所定の閾値以上である前記2D特徴量を特定し、当該変換後2D特徴量を有する3D特徴点と、当該特定した前記2D特徴量を有する2D特徴点とを対応付け、
前記3D特徴点と前記2D特徴点との対応関係に基づいて、前記3D点群データに前記撮像画像データを張り付け、前記地物の3Dモデルデータを生成する、
モデル生成方法。 - 前記3D特徴量は、前記3D特徴量を前記変換後2D特徴量に変換する予め生成された学習器を用いて、前記変換後2D特徴量に変換される、
請求項6に記載のモデル生成方法。 - 請求項7に記載の学習器を学習器生成装置によって生成する学習器生成方法であって、
仮想空間に予め配置された地物に関する3Dモデルデータである仮想地物モデルデータを前記仮想空間にて3Dスキャンし、仮想3D点群データを生成し、
前記仮想空間において、前記3Dスキャンが行われた位置と同じ位置から、前記仮想地物モデルデータを撮像し、仮想撮像画像データを生成し、
前記仮想3D点群データから前記仮想地物モデルデータの3D形状に関する特徴的な部分を示す3D特徴点を検出し、当該3D特徴点の特徴を示す値である3D特徴量を算出し、
前記仮想撮像画像データから前記仮想地物モデルデータの2D形状の特徴的な部分を示す2D特徴点を検出し、当該2D特徴点の特徴を示す値である2D特徴量を算出し、
前記3D特徴点が有する前記3D特徴量を入力データとし、当該3D特徴点と対応関係にある前記2D特徴点が有する前記2D特徴量を正解データとして、前記学習器を生成する、
学習器生成方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020092349A JP6863634B6 (ja) | 2020-05-27 | 2020-05-27 | モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020092349A JP6863634B6 (ja) | 2020-05-27 | 2020-05-27 | モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP6863634B1 true JP6863634B1 (ja) | 2021-04-21 |
JP6863634B6 JP6863634B6 (ja) | 2021-06-02 |
JP2021189600A JP2021189600A (ja) | 2021-12-13 |
Family
ID=75520997
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020092349A Active JP6863634B6 (ja) | 2020-05-27 | 2020-05-27 | モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6863634B6 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6967816B1 (ja) * | 2021-05-07 | 2021-11-17 | シンメトリー・ディメンションズ・インク | 情報処理装置、及び、情報処理方法 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7170369B1 (ja) * | 2022-04-14 | 2022-11-14 | 株式会社センシンロボティクス | 情報処理システム及び移動体、情報処理方法、プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002074323A (ja) * | 2000-09-01 | 2002-03-15 | Kokusai Kogyo Co Ltd | 三次元市街地空間モデル作成方法およびシステム |
JP5593177B2 (ja) * | 2010-09-14 | 2014-09-17 | 株式会社トプコン | 点群位置データ処理装置、点群位置データ処理方法、点群位置データ処理システム、および点群位置データ処理プログラム |
JP5963353B2 (ja) * | 2012-08-09 | 2016-08-03 | 株式会社トプコン | 光学データ処理装置、光学データ処理システム、光学データ処理方法、および光学データ処理用プログラム |
-
2020
- 2020-05-27 JP JP2020092349A patent/JP6863634B6/ja active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6967816B1 (ja) * | 2021-05-07 | 2021-11-17 | シンメトリー・ディメンションズ・インク | 情報処理装置、及び、情報処理方法 |
JP2022172833A (ja) * | 2021-05-07 | 2022-11-17 | シンメトリー・ディメンションズ・インク | 情報処理装置、及び、情報処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2021189600A (ja) | 2021-12-13 |
JP6863634B6 (ja) | 2021-06-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Guan et al. | Automated pixel-level pavement distress detection based on stereo vision and deep learning | |
US11461964B2 (en) | Satellite SAR artifact suppression for enhanced three-dimensional feature extraction, change detection, and visualizations | |
Clapuyt et al. | Reproducibility of UAV-based earth topography reconstructions based on Structure-from-Motion algorithms | |
US9189862B2 (en) | Outline approximation for point cloud of building | |
US9135710B2 (en) | Depth map stereo correspondence techniques | |
KR20200070287A (ko) | 객체 인식 방법 | |
JP2015201192A (ja) | 物体の位置及び向きの検出 | |
JP6863634B1 (ja) | モデル生成装置、学習器生成装置、モデル生成方法、及び、学習器生成方法 | |
JPWO2019065536A1 (ja) | 再構成方法および再構成装置 | |
CN104157011A (zh) | 一种三维地形建模方法 | |
Weinmann et al. | Preliminaries of 3D point cloud processing | |
CN114761997A (zh) | 目标检测方法、终端设备和介质 | |
Razali et al. | A hybrid point cloud reality capture from terrestrial laser scanning and UAV-photogrammetry | |
Guan et al. | Full field-of-view pavement stereo reconstruction under dynamic traffic conditions: Incorporating height-adaptive vehicle detection and multi-view occlusion optimization | |
Ravanelli et al. | A high-resolution photogrammetric workflow based on focus stacking for the 3D modeling of small Aegean inscriptions | |
Li et al. | Towards automated extraction for terrestrial laser scanning data of building components based on panorama and deep learning | |
Gonzalez-Aguilera et al. | From point cloud to CAD models: Laser and optics geotechnology for the design of electrical substations | |
Ponto et al. | Opportunities for utilizing consumer grade 3D capture tools for insurance documentation | |
KR20220057060A (ko) | 라이다 깊이 이미지 채움 장치 및 방법 | |
KR20180065104A (ko) | 3차원 지형 및 지물 가시화 장치 및 그 방법 | |
Luis Lugo et al. | Evaluation of 3D reconstruction methods from terrestrial LiDAR point cloud data to create Digital Twins of civil infrastructure projects | |
JP6857924B1 (ja) | モデル生成装置、及び、モデル生成方法 | |
Wang et al. | Automatic measurement of grid structures displacement through fusion of panoramic camera and laser scanning data | |
JP2019191908A (ja) | 対象物認識装置 | |
WO2024047782A1 (ja) | 点群データ描画システム、サーバ、点群データ描画装置、および点群データ描画方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200529 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20200529 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201021 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20201022 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201124 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201207 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210224 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210325 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6863634 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |