JP7412651B1 - Point cloud joining device, point cloud joining method, point cloud joining program, and measurement vehicle - Google Patents

Point cloud joining device, point cloud joining method, point cloud joining program, and measurement vehicle Download PDF

Info

Publication number
JP7412651B1
JP7412651B1 JP2023550157A JP2023550157A JP7412651B1 JP 7412651 B1 JP7412651 B1 JP 7412651B1 JP 2023550157 A JP2023550157 A JP 2023550157A JP 2023550157 A JP2023550157 A JP 2023550157A JP 7412651 B1 JP7412651 B1 JP 7412651B1
Authority
JP
Japan
Prior art keywords
point group
laser
target
measurement
laser point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023550157A
Other languages
Japanese (ja)
Inventor
光伸 吉田
健一 須合
由華子 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Application granted granted Critical
Publication of JP7412651B1 publication Critical patent/JP7412651B1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

タイポイント抽出部(112)は、基準計測データに含まれる基準レーザ点群と対象計測データに含まれる対象レーザ点群のそれぞれから、タイポイントを抽出する。自己位置姿勢補正部(113)は、前記タイポイントの位置が一致するように、前記対象計測データに含まれる自己位置姿勢データを補正する。三次元化部(114)は、補正後の前記自己位置姿勢データを使って補正レーザ点群を生成する。前記基準レーザ点群と前記対象レーザ点群の少なくとも一方が、斜めレーザスキャナを使って得られる斜めレーザ点群と、水平レーザスキャナを使って得られる水平レーザ点群と、を含む。A tie point extraction unit (112) extracts tie points from each of the reference laser point group included in the reference measurement data and the target laser point group included in the target measurement data. A self-position and orientation correction unit (113) corrects self-position and orientation data included in the target measurement data so that the positions of the tie points match. A three-dimensional conversion unit (114) generates a corrected laser point group using the corrected self-position and orientation data. At least one of the reference laser point group and the target laser point group includes an oblique laser point group obtained using an oblique laser scanner and a horizontal laser point group obtained using a horizontal laser scanner.

Description

本開示は、モービルマッピングシステム(MMS)で得られる複数の点群を合体させるための技術に関するものである。 The present disclosure relates to a technique for merging multiple point clouds obtained with a mobile mapping system (MMS).

MMSの世界では、複数回の走行で得られた複数の点群を矛盾なく合体させる技術がトレンドである。
車線幅が広い道路またはインターチェンジなどでは、一回の走行で全域の点群を取得できない。このような場合、上記のような自動接合技術を用いることで、より広範囲の点群を使用することができるようになる。例えば、高速道路の全域の点群を得る場合に、自動接合技術が必要である。
In the world of MMS, a trend is toward technology that consistently combines multiple point clouds obtained through multiple runs.
On roads with wide lane widths or interchanges, it is not possible to acquire a point cloud for the entire area in one drive. In such cases, by using the automatic joining technique as described above, a wider range of point clouds can be used. For example, when obtaining a point cloud for the entire area of a highway, automatic joining technology is required.

自動接合は、高速道路および一般道路の点群の需要が高まっていくなかで、MMSのキーとなる技術である。 Automated splicing is a key technology for MMS as the demand for highway and road point clouds increases.

特許文献1は、計測車両を使って計測データを取得し、計測データを使って三次元点群を生成し、複数の三次元点群を接合することを開示している。 Patent Document 1 discloses acquiring measurement data using a measurement vehicle, generating a three-dimensional point group using the measurement data, and joining a plurality of three-dimensional point groups.

特開2021-135380号公報Japanese Patent Application Publication No. 2021-135380

従来の自動接合ソフトウェアは、レーザで斜め方向を計測して得られる点群から特徴物(電柱および白線など)を抽出し、点群同士の特徴物をマッチングさせる。
このため、特徴物を抽出できないと点群同士を接合できなくなってしまう。故に、電柱の間隔が長い道路または白線に切れ目がない道路に対して自動接合は機能しなくなってしまう。
Conventional automatic joining software extracts features (such as telephone poles and white lines) from a point cloud obtained by measuring diagonally with a laser, and matches the features between the point clouds.
For this reason, if features cannot be extracted, the point clouds cannot be joined together. Therefore, automatic joining will not work on roads with long distances between utility poles or roads with unbroken white lines.

本開示は、特徴物を抽出できないために自動接合が機能しなくなることを抑制することを目的とする。 The present disclosure aims to prevent automatic joining from malfunctioning due to inability to extract features.

本開示の点群接合装置は、
基準計測データに含まれる三次元点群である基準レーザ点群の中の1つ以上の特徴点と対象計測データに含まれる三次元点群である対象レーザ点群の中の1つ以上の特徴点のそれぞれから、共通する特徴点をタイポイントとして抽出するタイポイント抽出部と、
前記基準レーザ点群の前記タイポイントの位置と前記対象レーザ点群の前記タイポイントの位置が一致するように、前記対象計測データに含まれる自己位置姿勢データを補正する自己位置姿勢補正部と、
補正後の前記自己位置姿勢データを使って三次元点群である補正レーザ点群を生成する三次元化部と、を備える。
前記基準計測データと前記対象計測データの少なくとも一方が、斜めレーザスキャナと水平レーザスキャナが設置された特別計測車両を利用して得られる計測データである。
前記基準レーザ点群と前記対象レーザ点群の少なくとも一方が、前記斜めレーザスキャナを使って得られる三次元点群である斜めレーザ点群と、前記水平レーザスキャナを使って得られる三次元点群である水平レーザ点群と、を含む。
The point group joining device of the present disclosure includes:
One or more feature points in the reference laser point group, which is a three-dimensional point group included in the reference measurement data, and one or more features in the target laser point group, which is a three-dimensional point group included in the target measurement data. a tie point extraction unit that extracts common feature points from each of the points as tie points;
a self-position and orientation correction unit that corrects self-position and orientation data included in the target measurement data so that the position of the tie point of the reference laser point group matches the position of the tie point of the target laser point group;
and a three-dimensionalization unit that generates a corrected laser point group that is a three-dimensional point group using the corrected self-position and orientation data.
At least one of the reference measurement data and the target measurement data is measurement data obtained using a special measurement vehicle equipped with an oblique laser scanner and a horizontal laser scanner.
At least one of the reference laser point group and the target laser point group is a three-dimensional point group obtained using the oblique laser scanner, and a three-dimensional point group obtained using the horizontal laser scanner. and a horizontal laser point cloud.

本開示によれば、斜めレーザスキャナを使って得られる斜めレーザ点群の他に水平レーザスキャナを使って得られる水平レーザ点群が使用される。これにより、特徴物を抽出できないために自動接合が機能しなくなることを抑制できる。 According to the present disclosure, a horizontal laser point group obtained using a horizontal laser scanner is used in addition to an oblique laser point group obtained using an oblique laser scanner. This makes it possible to prevent automatic joining from failing due to inability to extract features.

実施の形態1における点群接合装置100の構成図。1 is a configuration diagram of a point group joining device 100 in Embodiment 1. FIG. 実施の形態1における記憶部120の構成図。FIG. 3 is a configuration diagram of storage unit 120 in Embodiment 1. 実施の形態1における計測車両400の構成図。FIG. 4 is a configuration diagram of measurement vehicle 400 in Embodiment 1. 実施の形態1における点群接合方法のフローチャート。1 is a flowchart of a point group joining method in Embodiment 1. 実施の形態1における点群接合方法によって生成される対象計測データ301の構成図。FIG. 3 is a configuration diagram of target measurement data 301 generated by the point cloud joining method in the first embodiment. 自動接合における2つの点群の整合を示す図。FIG. 3 is a diagram illustrating the alignment of two point clouds in automatic joining. 斜めレーザスキャナ421の有効範囲を示す図。FIG. 4 is a diagram showing an effective range of an oblique laser scanner 421. 斜めレーザスキャナ421と水平レーザスキャナ422のそれぞれの有効範囲を示す図。FIG. 4 is a diagram showing the respective effective ranges of a diagonal laser scanner 421 and a horizontal laser scanner 422. レーザ計測と中央分離帯の関係を示す図。A diagram showing the relationship between laser measurement and median strip. 水平レーザ点群の例を示す図。A diagram showing an example of a horizontal laser point group. 水平レーザ点群の例を示す図。A diagram showing an example of a horizontal laser point group. 水平レーザ点群の例を示す図。A diagram showing an example of a horizontal laser point group. 水平レーザ点群の例を示す図。A diagram showing an example of a horizontal laser point group. 基準点群と対象点群と接合後の対象点群(3パターン)を示す図。The figure which shows the reference point group, the target point group, and the target point group (3 patterns) after joining. 実施の形態1における点群接合装置100のハードウェア構成図。1 is a hardware configuration diagram of a point cloud joining device 100 in Embodiment 1. FIG.

実施の形態および図面において、同じ要素または対応する要素には同じ符号を付している。説明した要素と同じ符号が付された要素の説明は適宜に省略または簡略化する。図中の矢印はデータの流れ又は処理の流れを主に示している。 In the embodiments and drawings, the same or corresponding elements are denoted by the same reference numerals. Descriptions of elements assigned the same reference numerals as explained elements will be omitted or simplified as appropriate. Arrows in the figure mainly indicate the flow of data or processing.

実施の形態1.
点群接合装置100について、図1から図10に基づいて説明する。
Embodiment 1.
The point group joining device 100 will be explained based on FIGS. 1 to 10.

***構成の説明***
図1に基づいて、点群接合装置100の構成を説明する。
点群接合装置100は、プロセッサ101とメモリ102と補助記憶装置103と通信装置104と入出力インタフェース105といったハードウェアを備えるコンピュータである。これらのハードウェアは、信号線を介して互いに接続されている。
***Explanation of configuration***
The configuration of the point group joining device 100 will be explained based on FIG. 1.
The point cloud joining device 100 is a computer that includes hardware such as a processor 101, a memory 102, an auxiliary storage device 103, a communication device 104, and an input/output interface 105. These pieces of hardware are connected to each other via signal lines.

プロセッサ101は、演算処理を行うICであり、他のハードウェアを制御する。例えば、プロセッサ101はCPUである。
ICは、Integrated Circuitの略称である。
CPUは、Central Processing Unitの略称である。
The processor 101 is an IC that performs arithmetic processing and controls other hardware. For example, processor 101 is a CPU.
IC is an abbreviation for Integrated Circuit.
CPU is an abbreviation for Central Processing Unit.

メモリ102は揮発性または不揮発性の記憶装置である。メモリ102は、主記憶装置またはメインメモリとも呼ばれる。例えば、メモリ102はRAMである。メモリ102に記憶されたデータは必要に応じて補助記憶装置103に保存される。
RAMは、Random Access Memoryの略称である。
Memory 102 is a volatile or non-volatile storage device. Memory 102 is also called main storage or main memory. For example, memory 102 is a RAM. The data stored in memory 102 is saved in auxiliary storage device 103 as needed.
RAM is an abbreviation for Random Access Memory.

補助記憶装置103は不揮発性の記憶装置である。例えば、補助記憶装置103は、ROM、HDD、フラッシュメモリまたはこれらの組み合わせである。補助記憶装置103に記憶されたデータは必要に応じてメモリ102にロードされる。
ROMは、Read Only Memoryの略称である。
HDDは、Hard Disk Driveの略称である。
The auxiliary storage device 103 is a nonvolatile storage device. For example, the auxiliary storage device 103 is a ROM, an HDD, a flash memory, or a combination thereof. Data stored in the auxiliary storage device 103 is loaded into the memory 102 as needed.
ROM is an abbreviation for Read Only Memory.
HDD is an abbreviation for Hard Disk Drive.

通信装置104はレシーバ及びトランスミッタである。例えば、通信装置104は通信チップまたはNICである。点群接合装置100の通信は通信装置104を用いて行われる。
NICは、Network Interface Cardの略称である。
Communication device 104 is a receiver and transmitter. For example, communication device 104 is a communication chip or NIC. Communication between the point group joining device 100 is performed using a communication device 104.
NIC is an abbreviation for Network Interface Card.

入出力インタフェース105は、入力装置および出力装置が接続されるポートである。例えば、入出力インタフェース105はUSB端子であり、入力装置はキーボードおよびマウスであり、出力装置はディスプレイである。点群接合装置100の入出力は入出力インタフェース105を用いて行われる。
USBは、Universal Serial Busの略称である。
The input/output interface 105 is a port to which an input device and an output device are connected. For example, the input/output interface 105 is a USB terminal, the input device is a keyboard and a mouse, and the output device is a display. Input/output of the point group joining device 100 is performed using an input/output interface 105.
USB is an abbreviation for Universal Serial Bus.

点群接合装置100は、特徴点抽出部111とタイポイント抽出部112と自己位置姿勢補正部113と三次元化部114と三次元化精度予測部115とカメラ位置姿勢算出部116といった要素を備える。これらの要素はソフトウェアで実現される。 The point cloud joining device 100 includes elements such as a feature point extraction section 111, a tie point extraction section 112, a self-position and orientation correction section 113, a three-dimensionalization section 114, a three-dimensionalization accuracy prediction section 115, and a camera position and orientation calculation section 116. . These elements are implemented in software.

補助記憶装置103には、特徴点抽出部111とタイポイント抽出部112と自己位置姿勢補正部113と三次元化部114と三次元化精度予測部115とカメラ位置姿勢算出部116としてコンピュータを機能させるための点群接合プログラムが記憶されている。点群接合プログラムは、メモリ102にロードされて、プロセッサ101によって実行される。
補助記憶装置103には、さらに、OSが記憶されている。OSの少なくとも一部は、メモリ102にロードされて、プロセッサ101によって実行される。
プロセッサ101は、OSを実行しながら、点群接合プログラムを実行する。
OSは、Operating Systemの略称である。
The auxiliary storage device 103 includes computers that function as a feature point extraction section 111 , a tie point extraction section 112 , a self-position/orientation correction section 113 , a three-dimensionalization section 114 , a three-dimensionalization accuracy prediction section 115 , and a camera position/orientation calculation section 116 . A point cloud joining program is stored in the memory. The point cloud joining program is loaded into memory 102 and executed by processor 101.
The auxiliary storage device 103 further stores an OS. At least a portion of the OS is loaded into memory 102 and executed by processor 101.
The processor 101 executes the point cloud joining program while executing the OS.
OS is an abbreviation for Operating System.

点群接合プログラムの入出力データは記憶部120に記憶される。
補助記憶装置103は記憶部120として機能する。但し、メモリ102、プロセッサ101内のレジスタおよびプロセッサ101内のキャッシュメモリなどの記憶装置が、補助記憶装置103の代わりに、又は、補助記憶装置103と共に、記憶部120として機能してもよい。
Input/output data of the point group joining program is stored in the storage unit 120.
Auxiliary storage device 103 functions as storage section 120. However, a storage device such as the memory 102, a register in the processor 101, and a cache memory in the processor 101 may function as the storage unit 120 instead of or together with the auxiliary storage device 103.

点群接合プログラムは、光ディスクまたはフラッシュメモリ等の不揮発性の記録媒体にコンピュータ読み取り可能に記録(格納)することができる。 The point cloud joining program can be recorded (stored) in a computer-readable manner on a non-volatile recording medium such as an optical disk or a flash memory.

図2に基づいて、記憶部120の構成を説明する。
記憶部120には、基準計測データ200および対象計測データ300が記憶される。
基準計測データ200は、自己位置姿勢データ210と距離方位情報220と基準レーザ点群230と画像データ240とカメラ位置姿勢データ250を含む。基準レーザ点群230は斜めレーザ点群231と水平レーザ点群232を含む。
対象計測データ300は、自己位置姿勢データ310と距離方位情報320と対象レーザ点群330と画像データ340を含む。対象レーザ点群330は斜めレーザ点群331と水平レーザ点群332を含む。
The configuration of the storage unit 120 will be explained based on FIG. 2.
The storage unit 120 stores reference measurement data 200 and target measurement data 300.
The reference measurement data 200 includes self-position and orientation data 210, distance and orientation information 220, a reference laser point group 230, image data 240, and camera position and orientation data 250. The reference laser point group 230 includes an oblique laser point group 231 and a horizontal laser point group 232 .
The target measurement data 300 includes self-position and orientation data 310, distance/azimuth information 320, target laser point group 330, and image data 340. The target laser point group 330 includes an oblique laser point group 331 and a horizontal laser point group 332.

基準計測データ200は基準となる計測データであり、対象計測データ300は処理される計測データである。
計測データは、計測車両を利用して得られる。
計測車両は、各種センサが設置された車両であり、モービルマッピングシステム(MMS)で使用される。
The reference measurement data 200 is measurement data that serves as a reference, and the target measurement data 300 is measurement data to be processed.
Measurement data is obtained using a measurement vehicle.
The measurement vehicle is a vehicle equipped with various sensors and is used in a mobile mapping system (MMS).

基準計測データ200および対象計測データ300は、計測車両400を利用して得られる。
計測車両400は、斜めレーザスキャナ421と水平レーザスキャナ422が設置された計測車両(特別計測車両)である。計測車両は移動体計測装置ともいう。
The reference measurement data 200 and the target measurement data 300 are obtained using the measurement vehicle 400.
The measurement vehicle 400 is a measurement vehicle (special measurement vehicle) in which an oblique laser scanner 421 and a horizontal laser scanner 422 are installed. The measurement vehicle is also referred to as a mobile measurement device.

図3に基づいて、計測車両400の構成を説明する。
計測車両400には、位置姿勢計測装置が設置される。具体的には、受信機411とIMU412が計測車両400に設置される。
受信機411は、複数の測位衛星のそれぞれから送信される測位信号を受信して衛星測位を行う。
IMU412は、慣性計測装置であり、角速度および加速度を計測する。
受信機411によって得られる受信データとIMU412によって得られる慣性計測データを使って、各時刻の計測車両400の位置姿勢が算出される。
各時刻の計測車両400の位置姿勢を示すデータを、自己位置姿勢データと称する。
基準計測データ200に含まれる自己位置姿勢データを、自己位置姿勢データ210と称する。
対象計測データ300に含まれる自己位置姿勢データを、自己位置姿勢データ310と称する。
The configuration of measurement vehicle 400 will be explained based on FIG. 3.
A position and orientation measuring device is installed in the measurement vehicle 400. Specifically, a receiver 411 and an IMU 412 are installed in the measurement vehicle 400.
The receiver 411 performs satellite positioning by receiving positioning signals transmitted from each of a plurality of positioning satellites.
IMU 412 is an inertial measurement device and measures angular velocity and acceleration.
Using the received data obtained by receiver 411 and the inertial measurement data obtained by IMU 412, the position and orientation of measurement vehicle 400 at each time is calculated.
Data indicating the position and orientation of measurement vehicle 400 at each time is referred to as self-position and orientation data.
Self-position and orientation data included in the reference measurement data 200 is referred to as self-position and orientation data 210.
The self-position and orientation data included in the target measurement data 300 is referred to as self-position and orientation data 310.

計測車両400には、斜めレーザスキャナ421と水平レーザスキャナ422が設置される。
斜めレーザスキャナ421は、斜め方向に向けて設置され、斜め方向に位置する各計測点への距離方位を計測するレーザスキャナである。
水平レーザスキャナ422は、水平方向に向けて設置され、水平方向に位置する各計測点への距離方位を計測するレーザスキャナである。
計測点は、レーザスキャナによって計測される地点である。計測方向に存在する地物の表面の各地点が計測点となる。地物の具体例は、道路、電柱および壁面である。
レーザスキャナから各計測点への距離方位を示すデータを、距離方位情報と称する。
A diagonal laser scanner 421 and a horizontal laser scanner 422 are installed in the measurement vehicle 400.
The diagonal laser scanner 421 is a laser scanner that is installed facing in the diagonal direction and measures the distance and direction to each measurement point located in the diagonal direction.
The horizontal laser scanner 422 is a laser scanner that is installed facing the horizontal direction and measures the distance and direction to each measurement point located in the horizontal direction.
A measurement point is a point measured by a laser scanner. Each point on the surface of the feature that exists in the measurement direction becomes a measurement point. Specific examples of features are roads, utility poles, and walls.
Data indicating the distance and direction from the laser scanner to each measurement point is referred to as distance and direction information.

自己位置姿勢データと距離方位情報を使用して、各計測点の三次元座標値が算出される。
各計測点の三次元座標値を示すデータを、三次元点群と称する。三次元点群は複数の三次元点から成る。三次元点は計測点の三次元座標値を示す。
基準計測データ200に含まれる三次元点群を、基準レーザ点群230と称する。基準レーザ点群230は、自己位置姿勢データ210と距離方位情報220を使って生成される。
斜めレーザスキャナ421の距離方位情報220を使って生成された三次元点群を、斜めレーザ点群231と称する。水平レーザスキャナ422の距離方位情報220を使って生成された三次元点群を、水平レーザ点群232と称する。
対象計測データ300に含まれる三次元点群を、対象レーザ点群330と称する。対象レーザ点群330は、自己位置姿勢データ310と距離方位情報320を使って生成される。
斜めレーザスキャナ421の距離方位情報320を使って生成された三次元点群を、斜めレーザ点群331と称する。水平レーザスキャナ422の距離方位情報320を使って生成された三次元点群を、水平レーザ点群332と称する。
Three-dimensional coordinate values of each measurement point are calculated using the self-position and orientation data and distance and orientation information.
Data indicating the three-dimensional coordinate values of each measurement point is referred to as a three-dimensional point group. A 3D point cloud consists of multiple 3D points. The three-dimensional point indicates the three-dimensional coordinate value of the measurement point.
The three-dimensional point group included in the reference measurement data 200 is referred to as a reference laser point group 230. The reference laser point group 230 is generated using the self-position/orientation data 210 and the distance/azimuth information 220.
A three-dimensional point group generated using the distance/azimuth information 220 of the oblique laser scanner 421 is referred to as an oblique laser point group 231. A three-dimensional point group generated using the distance/azimuth information 220 of the horizontal laser scanner 422 is referred to as a horizontal laser point group 232.
The three-dimensional point group included in the target measurement data 300 is referred to as a target laser point group 330. The target laser point group 330 is generated using the self-position/orientation data 310 and the distance/azimuth information 320.
A three-dimensional point group generated using the distance/azimuth information 320 of the oblique laser scanner 421 is referred to as an oblique laser point group 331. A three-dimensional point group generated using the distance/azimuth information 320 of the horizontal laser scanner 422 is referred to as a horizontal laser point group 332.

計測車両400には、カメラが設置される。例えば、カメラ431と全周囲カメラ432が計測車両400に設置される。
カメラ431は、正面を撮影するカメラである。
全周囲カメラ432は、全周囲を撮影するカメラである。
カメラを使った撮影により、画像が得られる。各時刻の画像を含むデータを、画像データと称する。
基準計測データ200に含まれる画像データを画像データ240と称する。
対象計測データ300に含まれる画像データを画像データ340と称する。
A camera is installed in the measurement vehicle 400. For example, a camera 431 and an all-around camera 432 are installed in the measurement vehicle 400.
The camera 431 is a camera that photographs the front.
The all-around camera 432 is a camera that takes pictures of all the surroundings.
Images are obtained by taking pictures using a camera. Data including images at each time is referred to as image data.
The image data included in the reference measurement data 200 is referred to as image data 240.
Image data included in the target measurement data 300 is referred to as image data 340.

自己位置姿勢データを使用して、各時刻のカメラの位置姿勢が算出される。
各時刻のカメラの位置姿勢を示すデータを、カメラ位置姿勢データと称する。
基準計測データ200に含まれるカメラ位置姿勢データをカメラ位置姿勢データ250と称する。カメラ位置姿勢データ250は、自己位置姿勢データ210を使って生成される。
The position and orientation of the camera at each time is calculated using the self-position and orientation data.
Data indicating the position and orientation of the camera at each time is referred to as camera position and orientation data.
The camera position and orientation data included in the reference measurement data 200 is referred to as camera position and orientation data 250. Camera position and orientation data 250 is generated using self-position and orientation data 210.

***動作の説明***
点群接合装置100の動作の手順は点群接合方法に相当する。また、点群接合装置100の動作の手順は点群接合プログラムによる処理の手順に相当する。
***Operation explanation***
The operation procedure of the point group joining device 100 corresponds to a point group joining method. Further, the operation procedure of the point cloud joining device 100 corresponds to the processing procedure by the point cloud joining program.

図4に基づいて、点群接合方法の概要を説明する。
点群接合装置100は、基準計測データ200と対象計測データ300を使って、対象計測データ301を生成する。
対象計測データ301は、対象計測データ300に相当する計測データである。
An overview of the point group joining method will be explained based on FIG. 4.
The point cloud joining device 100 uses the reference measurement data 200 and the target measurement data 300 to generate target measurement data 301.
The target measurement data 301 is measurement data corresponding to the target measurement data 300.

図5に基づいて、対象計測データ301の構成を説明する。
対象計測データ301は、自己位置姿勢データ311と距離方位情報320と対象レーザ点群390と画像データ340とカメラ位置姿勢データ350と予測精度360を含む。
自己位置姿勢データ311は、補正された自己位置姿勢データ310である。
対象レーザ点群390は、自己位置姿勢データ311と距離方位情報320を使って生成される三次元点群である。
カメラ位置姿勢データ350は、自己位置姿勢データ311を使って生成されるカメラ位置姿勢データである。
予測精度360は、対象レーザ点群390の予測精度を示すデータである。
The structure of the target measurement data 301 will be explained based on FIG. 5.
The target measurement data 301 includes self-position and orientation data 311, distance and orientation information 320, target laser point group 390, image data 340, camera position and orientation data 350, and prediction accuracy 360.
Self-position and orientation data 311 is corrected self-position and orientation data 310.
The target laser point group 390 is a three-dimensional point group generated using the self-position/orientation data 311 and the distance/azimuth information 320.
Camera position and orientation data 350 is camera position and orientation data generated using self-position and orientation data 311.
The prediction accuracy 360 is data indicating the prediction accuracy of the target laser point group 390.

図4に戻り、点群接合方法の詳細を説明する。
ステップS110において、特徴点抽出部111は、基準レーザ点群230から1つ以上の特徴点を抽出する。
具体的には、特徴点抽出部111は、斜めレーザ点群231と水平レーザ点群232のそれぞれから1つ以上の特徴点を抽出する。
Returning to FIG. 4, details of the point group joining method will be explained.
In step S110, the feature point extraction unit 111 extracts one or more feature points from the reference laser point group 230.
Specifically, the feature point extraction unit 111 extracts one or more feature points from each of the diagonal laser point group 231 and the horizontal laser point group 232.

また、特徴点抽出部111は、対象レーザ点群330から1つ以上の特徴点を抽出する。
具体的には、特徴点抽出部111は、斜めレーザ点群331と水平レーザ点群332のそれぞれから1つ以上の特徴点を抽出する。
Further, the feature point extraction unit 111 extracts one or more feature points from the target laser point group 330.
Specifically, the feature point extraction unit 111 extracts one or more feature points from each of the diagonal laser point group 331 and the horizontal laser point group 332.

例えば、電柱または壁面(特に角部分)のレーザ点が特徴点となる。 For example, a laser point on a utility pole or wall (particularly at a corner) becomes a feature point.

ステップS120において、タイポイント抽出部112は、基準レーザ点群230の中の1つ以上の特徴点と対象レーザ点群330の中の特徴点のそれぞれから、共通する特徴点を抽出する。抽出される特徴点を、タイポイントと称する。 In step S120, the tie point extraction unit 112 extracts common feature points from each of one or more feature points in the reference laser point group 230 and feature points in the target laser point group 330. The extracted feature points are called tie points.

特に、タイポイント抽出部112は、共通の特徴点として信頼度が高い特徴点をタイポイントとして抽出する。 In particular, the tie point extraction unit 112 extracts feature points with high reliability as common feature points as tie points.

ステップS130において、自己位置姿勢補正部113は、基準レーザ点群230のタイポイントの位置と対象レーザ点群330のタイポイントの位置が一致するように、自己位置姿勢データ310を補正する。 In step S130, the self-position and orientation correction unit 113 corrects the self-position and orientation data 310 so that the positions of the tie points of the reference laser point group 230 and the tie points of the target laser point group 330 match.

自己位置姿勢データ310は以下のように補正される。
まず、自己位置姿勢補正部113は、基準レーザ点群230のタイポイントの位置と対象レーザ点群330のタイポイントの位置の差を誤差として算出する。
そして、自己位置姿勢補正部113は、自己位置姿勢データ310に示される各位置姿勢を誤差に応じて補正する。
Self-position and orientation data 310 is corrected as follows.
First, the self-position and orientation correction unit 113 calculates the difference between the tie point position of the reference laser point group 230 and the tie point position of the target laser point group 330 as an error.
Then, the self-position and orientation correction unit 113 corrects each position and orientation shown in the self-position and orientation data 310 according to the error.

ステップS130により、自己位置姿勢データ310が補正されて自己位置姿勢データ311が生成される。 In step S130, the self-position and orientation data 310 is corrected to generate self-position and orientation data 311.

ステップS140において、三次元化部114は、自己位置姿勢データ311と距離方位情報320を使って、対象レーザ点群390を生成する。
対象レーザ点群390は、複数の計測点に対応する複数の三次元点を示す。対象レーザ点群390は、補正後の対象レーザ点群330である。
三次元点は、計測点の三次元座標値を示す。
計測点は、計測時の自己位置姿勢から対象レーザ点に示される距離方位へ離れた地点として特定される。
In step S140, the three-dimensionalization unit 114 uses the self-position and orientation data 311 and the distance and orientation information 320 to generate a target laser point group 390.
The target laser point group 390 shows a plurality of three-dimensional points corresponding to a plurality of measurement points. The target laser point group 390 is the target laser point group 330 after correction.
The three-dimensional point indicates the three-dimensional coordinate value of the measurement point.
The measurement point is specified as a point distant from the self-position and orientation at the time of measurement in the distance and direction indicated by the target laser point.

ステップS150において、三次元化精度予測部115は、対象レーザ点群390の精度を予測して予測精度360を算出する。 In step S150, the three-dimensional accuracy prediction unit 115 predicts the accuracy of the target laser point group 390 and calculates the prediction accuracy 360.

予測精度360は以下のように算出される。
まず、特徴点抽出部111は、基準レーザ点群230と対象レーザ点群390のそれぞれから1つ以上の特徴点を抽出する。
次に、タイポイント抽出部112は、基準レーザ点群230の中の1つ以上の特徴点と対象レーザ点群390の中の1つ以上の特徴点のそれぞれからタイポイントを抽出する。
次に、三次元化精度予測部115は、基準レーザ点群230のタイポイントの位置と対象レーザ点群390のタイポイントの位置の差を誤差として算出する。
そして、三次元化精度予測部115は、誤差を使って予測精度360を算出する。誤差が大きいほど予測精度360は低く、誤差が小さいほど予測精度360は高い。
Prediction accuracy 360 is calculated as follows.
First, the feature point extraction unit 111 extracts one or more feature points from each of the reference laser point group 230 and the target laser point group 390.
Next, the tie point extraction unit 112 extracts tie points from each of the one or more feature points in the reference laser point group 230 and the one or more feature points in the target laser point group 390.
Next, the three-dimensional accuracy prediction unit 115 calculates the difference between the position of the tie point of the reference laser point group 230 and the position of the tie point of the target laser point group 390 as an error.
The three-dimensional accuracy prediction unit 115 then calculates the prediction accuracy 360 using the error. The larger the error, the lower the prediction accuracy 360, and the smaller the error, the higher the prediction accuracy 360.

ステップS160において、カメラ位置姿勢算出部116は、自己位置姿勢データ311を使ってカメラ位置姿勢データ350を生成する。
具体的には、カメラ位置姿勢算出部116は、各時刻の自己位置姿勢から計測車両400に対するカメラの相対位置姿勢をずらして、各時刻のカメラの位置姿勢を算出する。
In step S160, the camera position and orientation calculation unit 116 uses the self-position and orientation data 311 to generate camera position and orientation data 350.
Specifically, camera position/orientation calculation unit 116 calculates the position/orientation of the camera at each time by shifting the relative position/orientation of the camera with respect to measurement vehicle 400 from its own position/orientation at each time.

***実施の形態1の効果***
実施の形態1は、水平に設置したレーザを用いて特徴物の抽出および自動接合を行うことを特徴とする。つまり、実施の形態1では、自動接合の性能向上のために水平レーザを設置する。
水平レーザは、水平に取り付けられているので、斜めに設置されたレーザよりはるかに遠方の特徴物をとらえることができる。
このため、通常では捉えられなかった遠方の電柱などの特徴点を捉えられるようになり、自動接合の性能を向上できる。自動接合では、特に電柱の有効性が高く、遠方の電柱を捉えられることが優位に働く。
実施の形態1により、遠くの地物および遠くの壁面などを利用できるようになり、タイポイントを計測できないために点群を接合できない区間が減少する。さらに、接合精度の向上が見込める。
***Effects of Embodiment 1***
Embodiment 1 is characterized in that feature extraction and automatic joining are performed using a horizontally installed laser. That is, in the first embodiment, a horizontal laser is installed to improve the performance of automatic bonding.
Horizontal lasers, because they are mounted horizontally, can capture features much further away than lasers mounted at an angle.
This makes it possible to capture feature points such as distant telephone poles that could not be captured normally, improving the performance of automatic joining. Automatic joining is especially effective for utility poles, and the ability to capture distant utility poles is an advantage.
Embodiment 1 makes it possible to use distant features, distant walls, etc., and reduces the number of sections where point clouds cannot be joined because tie points cannot be measured. Furthermore, improvement in bonding accuracy can be expected.

***実施の形態1の実施例***
水平レーザスキャナ422は、基準計測データ200が得られた計測(基準計測)のときと対象計測データ300が得られた計測(対象計測)のときの両方で利用されると有効性が高い。
但し、水平レーザスキャナ422は、基準計測と対象計測のどちらかのみで利用されても有効である。
つまり、基準計測が水平レーザスキャナ422を設置されない計測車両(通常計測車両)を利用して行われ、基準レーザ点群230が水平レーザ点群232を含まなくてもよい。この場合、対象計測が水平レーザスキャナ422を設置された計測車両(特別計測車両)を利用して行われ、対象レーザ点群330が水平レーザ点群332を含む。
また、対象計測が通常計測車両を利用して行われ、対象レーザ点群330が水平レーザ点群332を含まなくてもよい。この場合、基準計測が特別計測車両を利用して行われ、基準レーザ点群230が水平レーザ点群232を含む。
***Example of Embodiment 1***
The horizontal laser scanner 422 is highly effective if it is used both during the measurement in which the reference measurement data 200 is obtained (reference measurement) and in the measurement in which the target measurement data 300 is obtained (object measurement).
However, the horizontal laser scanner 422 is effective even if it is used only for reference measurement or target measurement.
That is, the reference measurement is performed using a measurement vehicle (normal measurement vehicle) in which the horizontal laser scanner 422 is not installed, and the reference laser point group 230 does not need to include the horizontal laser point group 232. In this case, the target measurement is performed using a measurement vehicle (special measurement vehicle) installed with the horizontal laser scanner 422, and the target laser point group 330 includes the horizontal laser point group 332.
Further, the target measurement may be performed using a normal measurement vehicle, and the target laser point group 330 may not include the horizontal laser point group 332. In this case, the reference measurement is performed using a special measurement vehicle, and the reference laser point group 230 includes the horizontal laser point group 232 .

計測距離(レーザの飛距離)が長いレーザスキャナが水平レーザスキャナ422として使用されることが望ましい。ただし、水平レーザスキャナ422の距離精度はそれほど重要ではない。 It is desirable to use a laser scanner with a long measurement distance (laser flight distance) as the horizontal laser scanner 422. However, the distance accuracy of the horizontal laser scanner 422 is not so important.

***実施の形態1の補足***
図6に、2つの点群が自動接合によって整合される様子を示す。
自動接合は、全く別の2回の計測がずれた場所で行われた時に各計測で得られた点群を互いに整合させて一つの点群にまとめる技術である。
自動接合は、異なる位置情報を使って生成された複数の点群を使って一方の点群を他方の点群に整合するように作り替える。
自動接合は、各点群から特徴点を抽出してタイポイントマッチングを行う。例えば、自動接合は、衛星不可視の状況で車両が異なる車線を走行して車線ごとに計測が行われた場合に行われる。
自動接合は点群から特徴点を抽出してタイポイントマッチングすることにより行われる。そのため、自動接合には、特徴点の少ない道路の点群をマッチングできないという課題があった。
***Supplement to Embodiment 1***
FIG. 6 shows how two point clouds are aligned by automatic joining.
Automatic joining is a technique that aligns the point clouds obtained from two completely different measurements at different locations and combines them into one point cloud.
Automatic joining uses multiple point clouds generated using different location information to reshape one point cloud to match another point cloud.
Automatic joining extracts feature points from each point group and performs tie point matching. For example, automatic joining is performed when a vehicle drives in different lanes and measurements are taken for each lane in a situation where the satellite is not visible.
Automatic joining is performed by extracting feature points from a point cloud and performing tie point matching. Therefore, automatic joining has the problem of not being able to match point clouds of roads with few feature points.

図7に、斜めレーザスキャナ421を使って電柱を計測する様子を示す。
通常のMMSでは、斜めレーザスキャナ421のように、レーザが斜めに設置される。これは、計測車両400が走行してレーザがいろいろな所にレーザ光を照射するためである。そして、レーザ点群を使って空間が構築される。
ここで、斜めレーザスキャナ421が45度の傾きで設置され、斜めレーザスキャナ421の距離範囲が100メートルであると仮定する。この場合、レーザ光が後方の地面に当たってしまい、後方に対してはせいぜい数メートルしか計測できない。電柱が計測車両400の斜め前方に存在すると仮定する。電柱の高さは16メートル程度しかない。そのため、水平方向における斜めレーザスキャナ421の有効範囲は16メートル程度しかないこととなる。
これに対して、水平レーザスキャナ422を使用した場合には水平レーザスキャナ422の距離範囲そのものが水平方向における有効範囲となる。つまり、水平レーザスキャナ422の距離範囲が100メートルであれば、水平方向において±100メートルの範囲が有効範囲となる。
FIG. 7 shows how a utility pole is measured using the oblique laser scanner 421.
In a normal MMS, a laser is installed obliquely, such as in an oblique laser scanner 421. This is because the measurement vehicle 400 travels and the laser irradiates various locations with laser light. The space is then constructed using a cloud of laser points.
Here, it is assumed that the oblique laser scanner 421 is installed at an inclination of 45 degrees and that the distance range of the oblique laser scanner 421 is 100 meters. In this case, the laser beam hits the ground behind you, and you can only measure a few meters behind you at most. It is assumed that a utility pole exists diagonally in front of measurement vehicle 400. The height of the telephone pole is only about 16 meters. Therefore, the effective range of the oblique laser scanner 421 in the horizontal direction is only about 16 meters.
On the other hand, when the horizontal laser scanner 422 is used, the distance range of the horizontal laser scanner 422 itself becomes the effective range in the horizontal direction. In other words, if the distance range of the horizontal laser scanner 422 is 100 meters, the effective range is ±100 meters in the horizontal direction.

図8に、斜めレーザスキャナ421と水平レーザスキャナ422のそれぞれの水平方向の有効範囲を示す。
網掛けの濃い部分は斜めレーザスキャナ421の有効範囲を示し、網掛けの全体は水平レーザスキャナ422の有効範囲を示している。白丸は電柱を表している。
水平レーザスキャナ422は、斜めレーザスキャナ421よりも遥かに広い範囲でターゲット(電柱など)を捉えることができる。
図8では、斜めレーザスキャナ421が2本の電柱を捉えるのに対し、水平レーザスキャナ422は8本の電柱を捉えている。
勿論、水平レーザスキャナ422を使用しても何時でも±100メートルが有効範囲となるわけではなく、ビルなどの遮蔽物があれば有効範囲が狭まる。
FIG. 8 shows the effective ranges of the oblique laser scanner 421 and the horizontal laser scanner 422 in the horizontal direction.
The darkly shaded area indicates the effective range of the diagonal laser scanner 421, and the entire shaded area indicates the effective range of the horizontal laser scanner 422. The white circles represent telephone poles.
The horizontal laser scanner 422 can capture targets (such as utility poles) over a much wider range than the oblique laser scanner 421.
In FIG. 8, the diagonal laser scanner 421 captures two utility poles, while the horizontal laser scanner 422 captures eight utility poles.
Of course, even if the horizontal laser scanner 422 is used, the effective range is not always ±100 meters, and if there is a building or other obstruction, the effective range will be narrowed.

図9に、レーザ計測と中央分離帯の関係を示す。
斜めの破線は斜めレーザからのレーザ光を表している。水平の一点鎖線は水平レーザからのレーザ光を表している。
中央分離帯がある場合、斜めレーザからのレーザ光が遮蔽されるため、斜めレーザを利用して中央分離帯越しに反対車線の点群を取得することができない。これに対して、水平レーザが斜めレーザと同じ高さに設置されても、水平レーザからのレーザ光が遮蔽されないため、水平レーザを利用して中央分離帯越しに遠方の点群を取得することができる。このように、水平レーザの有効性は高い。
FIG. 9 shows the relationship between laser measurement and median strip.
The diagonal dashed line represents laser light from the diagonal laser. The horizontal dash-dotted line represents laser light from a horizontal laser.
If there is a median strip, the laser light from the diagonal laser is blocked, so it is not possible to use the diagonal laser to obtain a point group on the opposite lane across the median strip. On the other hand, even if the horizontal laser is installed at the same height as the diagonal laser, the laser light from the horizontal laser is not blocked, so it is difficult to use the horizontal laser to acquire a point cloud from a distance across the median strip. Can be done. Thus, the effectiveness of horizontal lasers is high.

水平レーザスキャナ422のレーザ光は地面に照射されないため、水平レーザ点を参照しても計測点の高さは不明である。そのため、水平レーザ点群のみを使って自己位置の高さを修正することはできない。
しかし、斜めレーザスキャナ421のレーザ光は地面に照射される。高さ修正では地面が基準となるので、斜めレーザ点群を利用して自己位置の高さを修正することが可能である。
Since the ground is not irradiated with the laser light from the horizontal laser scanner 422, the height of the measurement point is unknown even if the horizontal laser point is referred to. Therefore, the height of the self-position cannot be corrected using only the horizontal laser point group.
However, the laser beam from the oblique laser scanner 421 is irradiated onto the ground. Since the ground is used as a reference for height correction, it is possible to correct the height of one's own position using the oblique laser point group.

図10に、水平レーザ点群の例を示す。平行する2本の実線は、計測車両400の走行経路を表している。
水平レーザスキャナ422を使用することにより、水平レーザスキャナ422が設置された高さの断面が得られる。水平レーザスキャナ422を使用することにより、遠方のデータを取得できる。
FIG. 10 shows an example of a horizontal laser point cloud. Two parallel solid lines represent the travel route of measurement vehicle 400.
By using the horizontal laser scanner 422, a cross-section is obtained at the height at which the horizontal laser scanner 422 is installed. By using the horizontal laser scanner 422, distant data can be acquired.

図11に、電柱の水平レーザ点群の例を示す。バツ印は、検出された電柱中心を示している。
点群(1)は、非常に良好な計測環境で得られた点群である。
点群(2)は、まあ良好な計測環境で得られた点群である。
FIG. 11 shows an example of a horizontal laser point group on a utility pole. The cross mark indicates the center of the detected utility pole.
Point cloud (1) is a point cloud obtained in a very favorable measurement environment.
Point cloud (2) is a point cloud obtained in a reasonably good measurement environment.

図12に、壁面の水平レーザ点群の例を示す。白い直線は、検出された直線壁面を表している。
図13に、壁面の水平レーザ点群の例を示す。バツ印は、検出された壁面角を示している。
FIG. 12 shows an example of a horizontal laser point group on a wall surface. The white straight line represents the detected straight wall surface.
FIG. 13 shows an example of a horizontal laser point group on a wall surface. The cross mark indicates the detected wall angle.

図14は、5種類の点群を示している。
点群(1)は基準点群である。点群(2)は接合前の対象点群である。点群(3)は斜めレーザを利用した接合の後の対象点群である。点群(4)は水平レーザを利用した接合の後の対象点群である。点群(5)は斜めレーザと水平レーザを利用した接合の後の対象点群である。
点群(5)および点群(4)は点群(3)よりも点群(1)に近い。したがって、水平レーザの利用が有効であると言える。
FIG. 14 shows five types of point clouds.
Point group (1) is a reference point group. Point group (2) is a target point group before joining. Point group (3) is a target point group after bonding using an oblique laser. Point group (4) is the target point group after bonding using a horizontal laser. Point group (5) is a target point group after joining using an oblique laser and a horizontal laser.
Point group (5) and point group (4) are closer to point group (1) than point group (3). Therefore, it can be said that the use of a horizontal laser is effective.

図15に基づいて、点群接合装置100のハードウェア構成を説明する。
点群接合装置100は処理回路109を備える。
処理回路109は、特徴点抽出部111とタイポイント抽出部112と自己位置姿勢補正部113と三次元化部114と三次元化精度予測部115とカメラ位置姿勢算出部116を実現するハードウェアである。
処理回路109は、専用のハードウェアであってもよいし、メモリ102に格納されるプログラムを実行するプロセッサ101であってもよい。
The hardware configuration of the point group joining device 100 will be explained based on FIG. 15.
The point group joining device 100 includes a processing circuit 109 .
The processing circuit 109 is hardware that realizes the feature point extraction section 111, the tie point extraction section 112, the self-position and orientation correction section 113, the three-dimensionalization section 114, the three-dimensionalization accuracy prediction section 115, and the camera position and orientation calculation section 116. be.
The processing circuit 109 may be dedicated hardware or may be the processor 101 that executes a program stored in the memory 102.

処理回路109が専用のハードウェアである場合、処理回路109は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC、FPGAまたはこれらの組み合わせである。
ASICは、Application Specific Integrated Circuitの略称である。
FPGAは、Field Programmable Gate Arrayの略称である。
When processing circuit 109 is dedicated hardware, processing circuit 109 is, for example, a single circuit, a composite circuit, a programmed processor, a parallel programmed processor, an ASIC, an FPGA, or a combination thereof.
ASIC is an abbreviation for Application Specific Integrated Circuit.
FPGA is an abbreviation for Field Programmable Gate Array.

点群接合装置100は、処理回路109を代替する複数の処理回路を備えてもよい。 The point group joining device 100 may include a plurality of processing circuits that replace the processing circuit 109.

処理回路109において、一部の機能が専用のハードウェアで実現されて、残りの機能がソフトウェアまたはファームウェアで実現されてもよい。 In the processing circuit 109, some functions may be realized by dedicated hardware, and the remaining functions may be realized by software or firmware.

このように、点群接合装置100の機能はハードウェア、ソフトウェア、ファームウェアまたはこれらの組み合わせで実現することができる。 In this way, the functions of the point cloud joining device 100 can be realized by hardware, software, firmware, or a combination thereof.

実施の形態1は、好ましい形態の例示であり、本開示の技術的範囲を制限することを意図するものではない。実施の形態1は、部分的に実施してもよいし、他の形態と組み合わせて実施してもよい。フローチャート等を用いて説明した手順は、適宜に変更してもよい。 Embodiment 1 is an illustration of a preferred embodiment and is not intended to limit the technical scope of the present disclosure. Embodiment 1 may be implemented partially or in combination with other embodiments. The procedures described using flowcharts and the like may be modified as appropriate.

点群接合装置100の各要素の「部」は、「処理」、「工程」、「回路」または「サーキットリ」と読み替えてもよい。 The "section" of each element of the point group joining device 100 may be read as "process", "process", "circuit", or "circuitry".

100 点群接合装置、101 プロセッサ、102 メモリ、103 補助記憶装置、104 通信装置、105 入出力インタフェース、109 処理回路、111 特徴点抽出部、112 タイポイント抽出部、113 自己位置姿勢補正部、114 三次元化部、115 三次元化精度予測部、116 カメラ位置姿勢算出部、120 記憶部、200 基準計測データ、210 自己位置姿勢データ、220 距離方位情報、230 基準レーザ点群、231 斜めレーザ点群、232 水平レーザ点群、240 画像データ、250 カメラ位置姿勢データ、300 対象計測データ、301 対象計測データ、310 自己位置姿勢データ、311 自己位置姿勢データ、320 距離方位情報、330 対象レーザ点群、331 斜めレーザ点群、332 水平レーザ点群、340 画像データ、350 カメラ位置姿勢データ、360 予測精度、390 対象レーザ点群、391 斜めレーザ点群、392 水平レーザ点群、400 計測車両、411 受信機、412 IMU、421 斜めレーザスキャナ、422 水平レーザスキャナ、431 カメラ、432 全周囲カメラ。 100 point cloud joining device, 101 processor, 102 memory, 103 auxiliary storage device, 104 communication device, 105 input/output interface, 109 processing circuit, 111 feature point extraction unit, 112 tie point extraction unit, 113 self-position and orientation correction unit, 114 3-dimensional conversion unit, 115 3-dimensional accuracy prediction unit, 116 camera position and orientation calculation unit, 120 storage unit, 200 reference measurement data, 210 self-position and orientation data, 220 distance and orientation information, 230 reference laser point group, 231 oblique laser point group, 232 horizontal laser point group, 240 image data, 250 camera position and orientation data, 300 target measurement data, 301 target measurement data, 310 self-position and orientation data, 311 self-position and orientation data, 320 distance and orientation information, 330 target laser point group , 331 Oblique laser point group, 332 Horizontal laser point group, 340 Image data, 350 Camera position and orientation data, 360 Prediction accuracy, 390 Target laser point group, 391 Oblique laser point group, 392 Horizontal laser point group, 400 Measurement vehicle, 411 Receiver, 412 IMU, 421 Oblique laser scanner, 422 Horizontal laser scanner, 431 Camera, 432 All-around camera.

Claims (8)

基準計測で得られた基準計測データに含まれる三次元点群である基準レーザ点群に整合して前記基準レーザ点群と一つにまとめられる三次元点群である補正レーザ点群を生成し、前記基準レーザ点群に前記補正レーザ点群を接合する点群接合装置であり、
前記基準レーザ点群の中の1つ以上の特徴点と前記基準計測とは別に行われた対象計測で得られた対象計測データに含まれる三次元点群である対象レーザ点群の中の1つ以上の特徴点のそれぞれから、共通する特徴点をタイポイントとして抽出するタイポイント抽出部と、
前記基準レーザ点群の前記タイポイントの三次元座標値と前記対象レーザ点群の前記タイポイントの三次元座標値が一致するように、前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれる自己位置姿勢データを補正する自己位置姿勢補正部と、
補正後の前記自己位置姿勢データと前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれ対象計測時の複数の計測点に対する複数の距離方位を示す距離方位情報を使って、前記基準計測データに含まれる三次元点群と接合される三次元点群を前記補正レーザ点群として生成する三次元化部と、
を備え、
前記基準計測データと前記対象計測データのそれぞれが、斜めレーザスキャナが設置された計測車両を利用して得られる計測データであり、
前記基準計測データと前記対象計測データの少なくとも一方が、斜めレーザスキャナと水平レーザスキャナが設置された特別計測車両を利用して得られる計測データであり、
前記基準レーザ点群と前記対象レーザ点群のそれぞれが、前記斜めレーザスキャナを使って得られる三次元点群である斜めレーザ点群を含み、
前記基準レーザ点群と前記対象レーザ点群の少なくとも一方が、前記斜めレーザ点群と、前記水平レーザスキャナを使って得られる三次元点群である水平レーザ点群と、を含んで、前記斜めレーザ点群と前記水平レーザ点群を用いて抽出された前記タイポイントを含み、
前記水平レーザスキャナは、前記斜めレーザスキャナと同じ高さの位置もしくは前記斜めレーザスキャナより高い位置に設置され、
前記水平レーザ点群は、前記斜めレーザスキャナでは計測されないが前記水平レーザスキャナでは計測される地点の三次元点を含む
点群接合装置。
Generate a correction laser point group that is a three-dimensional point group that matches the reference laser point group that is a three-dimensional point group included in the reference measurement data obtained in the reference measurement and is combined with the reference laser point group. , a point group joining device for joining the correction laser point group to the reference laser point group,
One or more feature points in the reference laser point group and one in the target laser point group that is a three-dimensional point group included in target measurement data obtained by target measurement performed separately from the reference measurement. a tie point extraction unit that extracts a common feature point as a tie point from each of the three or more feature points;
The target measurement is performed separately from the reference measurement so that the three-dimensional coordinate value of the tie point of the reference laser point group matches the three-dimensional coordinate value of the tie point of the target laser point group. a self-position and orientation correction unit that corrects self-position and orientation data included in the target measurement data;
Distance/azimuth information included in the corrected self-position/orientation data and the target measurement data obtained in the target measurement performed separately from the reference measurement and indicating a plurality of distance/azimuths with respect to a plurality of measurement points at the time of the target measurement. a three-dimensionalization unit that generates a three-dimensional point group to be joined with the three-dimensional point group included in the reference measurement data as the corrected laser point group using the three-dimensional point group;
Equipped with
Each of the reference measurement data and the target measurement data is measurement data obtained using a measurement vehicle equipped with an oblique laser scanner,
At least one of the reference measurement data and the target measurement data is measurement data obtained using a special measurement vehicle equipped with an oblique laser scanner and a horizontal laser scanner,
Each of the reference laser point group and the target laser point group includes an oblique laser point group that is a three-dimensional point group obtained using the oblique laser scanner,
At least one of the reference laser point group and the target laser point group includes the oblique laser point group and a horizontal laser point group that is a three-dimensional point group obtained using the horizontal laser scanner, and including a laser point cloud and the tie point extracted using the horizontal laser point cloud ,
The horizontal laser scanner is installed at the same height as the diagonal laser scanner or at a higher position than the diagonal laser scanner,
The horizontal laser point group includes three-dimensional points at points that are not measured by the oblique laser scanner but are measured by the horizontal laser scanner.
前記点群接合装置は、前記基準レーザ点群から前記1つ以上の特徴点を抽出し、前記対象レーザ点群から前記1つ以上の特徴点を抽出する特徴点抽出部を備え、
前記タイポイント抽出部は、前記基準レーザ点群から抽出された前記1つ以上の特徴点と前記対象レーザ点群から抽出された前記1つ以上の特徴点のそれぞれから、前記タイポイントを抽出し、
前記タイポイントの少なくとも1つは、前記斜めレーザ点群と前記水平レーザ点群を用いて抽出される
請求項1に記載の点群接合装置。
The point group joining device includes a feature point extraction unit that extracts the one or more feature points from the reference laser point group and extracts the one or more feature points from the target laser point group,
The tie point extraction unit extracts the tie point from each of the one or more feature points extracted from the reference laser point group and the one or more feature points extracted from the target laser point group. ,
At least one of the tie points is extracted using the diagonal laser point cloud and the horizontal laser point cloud.
The point group joining device according to claim 1.
前記基準計測データと前記対象計測データの両方が、前記特別計測車両を利用して得られるデータであり、
前記基準レーザ点群と前記対象レーザ点群の両方が、前記斜めレーザ点群と前記水平レーザ点群を含む
請求項1または請求項2に記載の点群接合装置。
Both the reference measurement data and the target measurement data are data obtained using the special measurement vehicle,
The point group joining device according to claim 1 or 2, wherein both the reference laser point group and the target laser point group include the oblique laser point group and the horizontal laser point group.
通常計測車両は、前記斜めレーザスキャナが設置されて前記水平レーザスキャナが設置されない計測車両であり、
前記基準計測データが、前記通常計測車両を利用して得られるデータであり、
前記基準レーザ点群が、前記斜めレーザ点群を含んで前記水平レーザ点群を含まず、
前記対象計測データが、前記特別計測車両を利用して得られるデータであり、
前記対象レーザ点群が、前記斜めレーザ点群と前記水平レーザ点群を含む
請求項1または請求項2に記載の点群接合装置。
The normal measurement vehicle is a measurement vehicle in which the diagonal laser scanner is installed and the horizontal laser scanner is not installed,
The reference measurement data is data obtained using the normal measurement vehicle,
the reference laser point group includes the oblique laser point group but does not include the horizontal laser point group,
The target measurement data is data obtained using the special measurement vehicle,
The point group joining device according to claim 1 or 2, wherein the target laser point group includes the oblique laser point group and the horizontal laser point group.
通常計測車両は、前記斜めレーザスキャナが設置されて前記水平レーザスキャナが設置されない計測車両であり、
前記基準計測データが、前記特別計測車両を利用して得られるデータであり、
前記基準レーザ点群が、前記斜めレーザ点群と前記水平レーザ点群を含み、
前記対象計測データが、前記通常計測車両を利用して得られるデータであり、
前記対象レーザ点群が、前記斜めレーザ点群を含んで前記水平レーザ点群を含まない
請求項1または請求項2に記載の点群接合装置。
The normal measurement vehicle is a measurement vehicle in which the diagonal laser scanner is installed and the horizontal laser scanner is not installed,
The reference measurement data is data obtained using the special measurement vehicle,
The reference laser point group includes the oblique laser point group and the horizontal laser point group,
The target measurement data is data obtained using the normal measurement vehicle,
3. The point group joining device according to claim 1, wherein the target laser point group includes the oblique laser point group and does not include the horizontal laser point group.
基準計測で得られた基準計測データに含まれる三次元点群である基準レーザ点群に整合して前記基準レーザ点群と一つにまとめられる三次元点群である補正レーザ点群を生成し、前記基準レーザ点群に前記補正レーザ点群を接合する点群接合方法であり、
点群接合装置が、
前記基準レーザ点群の中の1つ以上の特徴点と前記基準計測とは別に行われた対象計測で得られた対象計測データに含まれる三次元点群である対象レーザ点群の中の1つ以上の特徴点のそれぞれから、共通する特徴点をタイポイントとして抽出し、
前記基準レーザ点群の前記タイポイントの三次元座標値と前記対象レーザ点群の前記タイポイントの三次元座標値が一致するように、前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれる自己位置姿勢データを補正し、
補正後の前記自己位置姿勢データと前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれ対象計測時の複数の計測点に対する複数の距離方位を示す距離方位情報を使って、前記基準計測データに含まれる三次元点群と接合される三次元点群を前記補正レーザ点群として生成し、
前記基準計測データと前記対象計測データのそれぞれが、斜めレーザスキャナが設置された計測車両を利用して得られる計測データであり、
前記基準計測データと前記対象計測データの少なくとも一方が、斜めレーザスキャナと水平レーザスキャナが設置された特別計測車両を利用して得られる計測データであり、
前記基準レーザ点群と前記対象レーザ点群のそれぞれが、前記斜めレーザスキャナを使って得られる三次元点群である斜めレーザ点群を含み、
前記基準レーザ点群と前記対象レーザ点群の少なくとも一方が、前記斜めレーザ点群と、前記水平レーザスキャナを使って得られる三次元点群である水平レーザ点群と、を含み、
前記タイポイントの抽出が、前記斜めレーザ点群と前記水平レーザ点群を用いて抽出されるタイポイントを含み、
前記水平レーザスキャナは、前記斜めレーザスキャナと同じ高さの位置もしくは前記斜めレーザスキャナより高い位置に設置され、
前記水平レーザ点群は、前記斜めレーザスキャナでは計測されないが前記水平レーザスキャナでは計測される地点の三次元点を含む
点群接合方法。
Generate a correction laser point group that is a three-dimensional point group that matches the reference laser point group that is a three-dimensional point group included in the reference measurement data obtained in the reference measurement and is combined with the reference laser point group. , a point group joining method of joining the correction laser point group to the reference laser point group,
The point cloud joining device
One or more feature points in the reference laser point group and one in the target laser point group that is a three-dimensional point group included in target measurement data obtained by target measurement performed separately from the reference measurement. Extract common feature points from each of the three or more feature points as tie points,
The target measurement is performed separately from the reference measurement so that the three-dimensional coordinate value of the tie point of the reference laser point group matches the three-dimensional coordinate value of the tie point of the target laser point group. correcting self-position and orientation data included in the target measurement data,
Distance/azimuth information included in the corrected self-position/orientation data and the target measurement data obtained in the target measurement performed separately from the reference measurement and indicating a plurality of distance/azimuths with respect to a plurality of measurement points at the time of the target measurement. to generate a three-dimensional point group to be joined with the three-dimensional point group included in the reference measurement data as the corrected laser point group ,
Each of the reference measurement data and the target measurement data is measurement data obtained using a measurement vehicle equipped with an oblique laser scanner,
At least one of the reference measurement data and the target measurement data is measurement data obtained using a special measurement vehicle equipped with an oblique laser scanner and a horizontal laser scanner,
Each of the reference laser point group and the target laser point group includes an oblique laser point group that is a three-dimensional point group obtained using the oblique laser scanner,
At least one of the reference laser point group and the target laser point group includes the oblique laser point group and a horizontal laser point group that is a three-dimensional point group obtained using the horizontal laser scanner,
The extraction of the tie points includes tie points extracted using the diagonal laser point group and the horizontal laser point group,
The horizontal laser scanner is installed at the same height as the diagonal laser scanner or at a higher position than the diagonal laser scanner,
The horizontal laser point group includes three-dimensional points at points that are not measured by the oblique laser scanner but are measured by the horizontal laser scanner.
基準計測で得られた基準計測データに含まれる三次元点群である基準レーザ点群に整合して前記基準レーザ点群と一つにまとめられる三次元点群である補正レーザ点群を生成するために、
前記基準レーザ点群の中の1つ以上の特徴点と前記基準計測とは別に行われた対象計測で得られた対象計測データに含まれる三次元点群である対象レーザ点群の中の1つ以上の特徴点のそれぞれから、共通する特徴点をタイポイントとして抽出するタイポイント抽出処理と、
前記基準レーザ点群の前記タイポイントの三次元座標値と前記対象レーザ点群の前記タイポイントの三次元座標値が一致するように、前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれる自己位置姿勢データを補正する自己位置姿勢補正処理と、
補正後の前記自己位置姿勢データと前記基準計測とは別に行われた前記対象計測で得られた前記対象計測データに含まれ対象計測時の複数の計測点に対する複数の距離方位を示す距離方位情報を使って、前記基準計測データに含まれる三次元点群と接合される三次元点群を前記補正レーザ点群として生成する三次元化処理と、
をコンピュータに実行させるための点群接合プログラムであり、
前記基準計測データと前記対象計測データのそれぞれが、斜めレーザスキャナが設置された計測車両を利用して得られる計測データであり、
前記基準計測データと前記対象計測データの少なくとも一方が、斜めレーザスキャナと水平レーザスキャナが設置された特別計測車両を利用して得られる計測データであり、
前記基準レーザ点群と前記対象レーザ点群のそれぞれが、前記斜めレーザスキャナを使って得られる三次元点群である斜めレーザ点群を含み、
前記基準レーザ点群と前記対象レーザ点群の少なくとも一方が、前記斜めレーザ点群と、前記水平レーザスキャナを使って得られる三次元点群データである水平レーザ点群と、を含み、
前記タイポイント抽出処理が、前記斜めレーザ点群と前記水平レーザ点群を用いて抽出されるタイポイントを含み、
前記水平レーザスキャナは、前記斜めレーザスキャナと同じ高さの位置もしくは前記斜めレーザスキャナより高い位置に設置され、
前記水平レーザ点群は、前記斜めレーザスキャナでは計測されないが前記水平レーザスキャナでは計測される地点の三次元点を含む
点群接合プログラム。
Generate a correction laser point group that is a three-dimensional point group that matches the reference laser point group that is a three-dimensional point group included in the reference measurement data obtained in the reference measurement and is combined with the reference laser point group. for,
One or more feature points in the reference laser point group and one in the target laser point group that is a three-dimensional point group included in target measurement data obtained by target measurement performed separately from the reference measurement. tie point extraction processing for extracting common feature points as tie points from each of the three or more feature points;
The target measurement is performed separately from the reference measurement so that the three-dimensional coordinate value of the tie point of the reference laser point group matches the three-dimensional coordinate value of the tie point of the target laser point group. self-position and orientation correction processing that corrects self-position and orientation data included in the target measurement data;
Distance/azimuth information included in the corrected self-position/orientation data and the target measurement data obtained in the target measurement performed separately from the reference measurement and indicating a plurality of distance/azimuths with respect to a plurality of measurement points at the time of the target measurement. a three-dimensional process of generating a three-dimensional point group to be joined with the three-dimensional point group included in the reference measurement data as the corrected laser point group using the three-dimensional point group;
It is a point cloud joining program that allows a computer to execute
Each of the reference measurement data and the target measurement data is measurement data obtained using a measurement vehicle equipped with an oblique laser scanner,
At least one of the reference measurement data and the target measurement data is measurement data obtained using a special measurement vehicle equipped with an oblique laser scanner and a horizontal laser scanner,
Each of the reference laser point group and the target laser point group includes an oblique laser point group that is a three-dimensional point group obtained using the oblique laser scanner,
At least one of the reference laser point group and the target laser point group includes the oblique laser point group and a horizontal laser point group that is three-dimensional point group data obtained using the horizontal laser scanner,
The tie point extraction process includes tie points extracted using the oblique laser point group and the horizontal laser point group,
The horizontal laser scanner is installed at the same height as the diagonal laser scanner or at a higher position than the diagonal laser scanner,
The horizontal laser point group includes three-dimensional points at points that are not measured by the oblique laser scanner but are measured by the horizontal laser scanner.
請求項6に記載の点群接合方法で前記特別計測車両として使用される計測車両であり、
前記斜めレーザスキャナと、
前記水平レーザスキャナと、
を備え、
前記水平レーザスキャナは、前記斜めレーザスキャナと同じ高さの位置もしくは前記斜めレーザスキャナより高い位置に設置される
計測車両。
A measurement vehicle used as the special measurement vehicle in the point cloud joining method according to claim 6 ,
the oblique laser scanner;
the horizontal laser scanner;
Equipped with
The horizontal laser scanner is a measurement vehicle installed at the same height as the diagonal laser scanner or at a higher position than the diagonal laser scanner.
JP2023550157A 2023-03-01 2023-03-01 Point cloud joining device, point cloud joining method, point cloud joining program, and measurement vehicle Active JP7412651B1 (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2023007455 2023-03-01

Publications (1)

Publication Number Publication Date
JP7412651B1 true JP7412651B1 (en) 2024-01-12

Family

ID=89451970

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023550157A Active JP7412651B1 (en) 2023-03-01 2023-03-01 Point cloud joining device, point cloud joining method, point cloud joining program, and measurement vehicle

Country Status (1)

Country Link
JP (1) JP7412651B1 (en)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015151770A1 (en) 2014-03-31 2015-10-08 株式会社日立産機システム Three-dimensional map generation system
JP2021105584A (en) 2019-12-27 2021-07-26 日産自動車株式会社 Position estimation method and position estimation device
JP2023006982A (en) 2021-07-01 2023-01-18 株式会社Soken Vehicle position estimation device, vehicle position estimation method, and computer program

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015151770A1 (en) 2014-03-31 2015-10-08 株式会社日立産機システム Three-dimensional map generation system
JP2021105584A (en) 2019-12-27 2021-07-26 日産自動車株式会社 Position estimation method and position estimation device
JP2023006982A (en) 2021-07-01 2023-01-18 株式会社Soken Vehicle position estimation device, vehicle position estimation method, and computer program

Similar Documents

Publication Publication Date Title
TWI634315B (en) Map data update device, map data update method, and map data update program product
WO2018142900A1 (en) Information processing device, data management device, data management system, method, and program
JP4391458B2 (en) Positioning device, positioning method and positioning program
US10482615B2 (en) Image processing device and image processing method
JP6589926B2 (en) Object detection device
JP4619962B2 (en) Road marking measurement system, white line model measurement system, and white line model measurement device
US20210342620A1 (en) Geographic object detection apparatus and geographic object detection method
JP2013186816A (en) Moving image processor, moving image processing method and program for moving image processing
JP5762131B2 (en) CALIBRATION DEVICE, CALIBRATION DEVICE CALIBRATION METHOD, AND CALIBRATION PROGRAM
CN111080784B (en) Ground three-dimensional reconstruction method and device based on ground image texture
JP2019096132A (en) Object recognition device
Sadeq Accuracy assessment using different UAV image overlaps
JP2019120629A (en) Position calculation device, position calculation program, and coordinate marker
JP2014089078A (en) Orientation method, orientation program, and orientation device
JP7412651B1 (en) Point cloud joining device, point cloud joining method, point cloud joining program, and measurement vehicle
CN114371484A (en) Vehicle positioning method and device, computer equipment and storage medium
JP6632413B2 (en) Point cloud positioning device and point cloud positioning program
CN116246029A (en) Data synchronization method, device, terminal equipment and computer readable storage medium
US11704815B2 (en) Tracking device, tracking method, and tracking system
CN115511944A (en) Single-camera-based size estimation method, device, equipment and storage medium
CN114814865A (en) Method and system for vehicle ranging, vehicle and program product
JP2003083744A (en) Imaging apparatus mounted to aircraft, and aircraft imaging data processing apparatus
JP2019138751A (en) Map complementing device and map complementing program
TWI836366B (en) Automatic parking mapping system mounted on vehicle
KR102664113B1 (en) Vehicle location estimation apparatus and method

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230819

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230819

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230819

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20231116

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231226

R150 Certificate of patent or registration of utility model

Ref document number: 7412651

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150