WO2025150362A1 - 点群処理装置および点群処理システム - Google Patents
点群処理装置および点群処理システムInfo
- Publication number
- WO2025150362A1 WO2025150362A1 PCT/JP2024/044597 JP2024044597W WO2025150362A1 WO 2025150362 A1 WO2025150362 A1 WO 2025150362A1 JP 2024044597 W JP2024044597 W JP 2024044597W WO 2025150362 A1 WO2025150362 A1 WO 2025150362A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- point cloud
- dimensional point
- dimensional
- terminal device
- marker
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C15/00—Surveying instruments or accessories not provided for in groups G01C1/00 - G01C13/00
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Definitions
- This technology relates to a point cloud processing device and a point cloud processing system.
- the sensor control unit 108 controls the acquisition of an image by the camera 105 and the acquisition of camera position information by the position information acquisition unit 106 to be performed in synchronization.
- the sensor control unit 108 also associates an image with camera position information acquired in synchronization with the capture of the image. Thus, each of the multiple images captured by the camera 105 is associated with camera position information.
- the sensor control unit 108 may also attach time information, such as a timestamp, to the image and camera position information, indicating that the image and camera position information are synchronized.
- the CPU 201, ROM 202, RAM 203, and non-volatile memory unit 204 are interconnected via a bus.
- an input/output interface 205 is connected to the bus.
- the feature extraction unit 302 extracts feature points from each of the multiple images.
- Feature points include, for example, corners of buildings or objects, boundaries of brightness changes, boundaries of color changes, etc.
- the sparse point cloud generator 304 generates a three-dimensional point cloud (three-dimensional sparse point cloud) in which points are sparsely distributed, using multiple images for which correspondences have been identified.
- the sparse point cloud generator 304 may also estimate the shooting position of the camera 105 based on multiple images using SfM (Structure From Motion) or the like.
- camera attitude information may be used in addition to camera position information.
- the moving body 100 transmits camera attitude information to the terminal device 200 along with the camera position information.
- the point cloud processing device 300 may also include an estimation processing unit that estimates the attitude of the camera 105 at the time of shooting based on the image. SfM is one method for determining the attitude of the camera 105 from an image.
- the image selection unit 305 also selects an image (partial area image) for generating a second three-dimensional point cloud of a partial area from the multiple images and supplies it to the second point cloud generation unit 307.
- the second three-dimensional point cloud is a three-dimensional point cloud of a partial area.
- the partial area image for generating the second three-dimensional point cloud is an image in which the terminal device 200 exists as a subject among the multiple images captured by the moving body 100.
- the image selection unit 305 selects a partial area image from multiple images using the three-dimensional coordinates of the terminal device 200 supplied from the GNSS device 206.
- the position at which the image was taken can be identified using camera position information acquired in synchronization with the image capture.
- the position of the terminal device 200 can be identified using the three-dimensional coordinates acquired by the GNSS device 206. Therefore, an image in which the terminal device 200 exists as a subject can be identified based on the three-dimensional coordinates and camera position information of the terminal device 200.
- the image selection unit 305 selects the image in which the terminal device 200 exists as a subject as a partial area image. There may be one partial area image or multiple partial area images.
- the image selection unit 305 can also detect the terminal device 200 from multiple images using AI for detecting terminal devices or a known subject detection method, without using the three-dimensional coordinates of the terminal device 200, and select an image in which the terminal device 200 exists as a subject as a partial area image based on the detection result. In this case, the GNSS device 206 does not need to supply the three-dimensional coordinates of the terminal device 200 to the image selection unit 305 of the point cloud processing device 300.
- the three-dimensional coordinates of the terminal device 200 and the detection results of the terminal device 200 in multiple images correspond to the information about the terminal device 200 in the claims.
- the first point cloud generation unit 306 generates a depth image of the target area based on the target area image supplied from the image selection unit 305, and further generates a first three-dimensional point cloud, which is a dense three-dimensional point cloud of the target area, using the depth image.
- the first point cloud generation unit 306 supplies the first three-dimensional point cloud to the point cloud correction unit 308.
- the second point cloud generation unit 307 generates a depth image of the partial region based on the partial region image supplied from the image selection unit 305, and uses the depth image to generate a second three-dimensional point cloud, which is a dense three-dimensional point cloud of the partial region.
- the image selection unit 305 supplying the partial region image to the second point cloud generation unit 307
- the second point cloud generation unit 307 can generate a second three-dimensional point cloud, which is a three-dimensional point cloud of the partial region in which the terminal device 200 is located.
- the second point cloud generation unit 307 supplies the second three-dimensional point cloud to the point cloud correction unit 308.
- FIG. 6 is a side view of the target area and the partial area shown in FIG. 1.
- the first point cloud generation unit 306 and the second point cloud generation unit 307 can generate three-dimensional point clouds by SfM.
- the second three-dimensional point cloud is of higher quality than the first three-dimensional point cloud.
- High quality means that the multiple points constituting the three-dimensional point cloud have less variation (small variance of the point cloud), high accuracy (high average positional accuracy of the point cloud), high density of points, etc.
- the second three-dimensional point cloud does not need to satisfy all of these, and may satisfy any one of them, all of them, or a combination of any two or more of them.
- the first three-dimensional point cloud and the second three-dimensional point cloud are generated in the same coordinate system.
- the quality of the point cloud can be improved by changing the parameter settings during depth calculation.
- One method for improving the quality of the point cloud during depth calculation is to gradually change the matching block size from large to small when calculating the matching cost for stereo matching, using a method known as a "coarse-to-fine search.” Another method is to change the settings for how many images to match with for stereo matching (matching more images). Another method is to increase the number of iterations of the matching cost minimization calculation, which is a nonlinear optimization calculation, in the process of finding a disparity map for the entire image by optimizing the stereo matching cost.
- the second 3D point cloud may be made denser and of higher quality than the first 3D point cloud by using a depth image generation algorithm in the second point cloud generation unit 307 that is different from the depth image generation algorithm in the first point cloud generation unit 306.
- the first point cloud generation unit 306 may use an algorithm that requires light processing and is moderately accurate, while the second point cloud generation unit 307 may use an algorithm that requires very heavy processing but is highly accurate and robust.
- the terminal device 200 Since the terminal device 200 is installed within the target area, when a three-dimensional point cloud of the target area is generated, the three-dimensional point cloud includes a point cloud corresponding to the top surface of the terminal device 200.
- the relationship between the three-dimensional point cloud of the target area and the top surface position of the terminal device 200 will be explained.
- the terminal device 200 is supported by a tripod or the like and installed on the ground surface of the target area.
- the three-dimensional point cloud includes a point cloud corresponding to the top surface of the terminal device 200, as shown in FIG. 7B.
- the relationship between the center position of the top surface of the terminal device 200, which can be identified from the three-dimensional coordinates of the terminal device 200 acquired by the GNSS device 206, and the three-dimensional point cloud corresponding to the top surface of the terminal device 200, will be as shown in Figure 7C. Since there is no error, the center position of the top surface of the terminal device 200 and the height in the Z direction of the first three-dimensional point cloud of the terminal device 200 match. It is desirable for the three-dimensional point cloud to be in this state, without any error.
- the terminal device 200 is installed on the ground surface of the target area.
- the three-dimensional point cloud includes a point cloud corresponding to the top surface of the terminal device 200, as shown in FIG. 9B.
- the relationship between the center position of the top surface of the terminal device 200, which can be identified from the three-dimensional coordinates of the terminal device 200 acquired by the GNSS device 206, and the three-dimensional point cloud corresponding to the top surface of the terminal device 200, will be as shown in Figure 9B. Since there is no error, the center position of the top surface of the terminal device 200 coincides with approximately the center of the three-dimensional point cloud of the top surface of the terminal device 200. It is desirable for the three-dimensional point cloud to be in this state, without any error.
- the center position of the top surface of the terminal device 200 will be misaligned with the position of the three-dimensional point cloud of the terminal device 200 in the X and Y directions.
- this technology by using a second three-dimensional point cloud, it is possible to correct such misalignment of the three-dimensional point cloud.
- the point cloud correction unit 308 then calculates a correction amount for correcting the first three-dimensional point cloud based on the second three-dimensional point cloud and the three-dimensional coordinates of the terminal device 200, and corrects the first three-dimensional point cloud based on the correction amount.
- the output unit 309 outputs the corrected first three-dimensional point cloud to an external device, a cloud server, or the like via a network or the like.
- the output unit 309 may also output the corrected first three-dimensional point cloud to the memory unit 208 of the terminal device 200, or to a storage medium such as a USB flash memory or an SD memory card.
- the top surface of the terminal device 200 shown in the image captured by the camera 105 of the moving body 100 may be provided with anti-aircraft signs, patterns, textures, etc. as shown in Figs. 13A to 13H. This improves the accuracy of recognizing the terminal device 200 from the image captured by the camera 105, and improves the accuracy of estimating the position of the terminal device 200.
- a depth image of the terminal device 200 can be generated more robustly and with high accuracy. As a result, the quality of the second three-dimensional point cloud can be further improved.
- the image selection unit 305 can also detect the marker 400 from multiple images using marker detection AI or a known subject detection method without using the three-dimensional coordinates of the marker 400, and select an image in which the marker 400 exists as a subject as the marker surrounding area image based on the detection result.
- the three-dimensional coordinates of the marker 400 and the detection results of the marker 400 in multiple images correspond to the information about the marker 400 in the claims.
- the first point cloud generation unit 306 generates a first three-dimensional point cloud, which is a three-dimensional point cloud of the target area, by processing similar to that in the first embodiment.
- the first point cloud generation unit 306 supplies the first three-dimensional point cloud to the output unit 309.
- a third three-dimensional point cloud for the marker surrounding region where the marker 400 exists is generated.
- the first point cloud generator 306 and the third point cloud generator 310 can generate three-dimensional point clouds by SfM.
- the third three-dimensional point cloud is of higher quality than the first three-dimensional point cloud.
- High quality means that the multiple points constituting the three-dimensional point cloud have less variation (small variance of the point cloud), high accuracy (high average positional accuracy of the point cloud), high density of points, etc.
- the third three-dimensional point cloud does not need to satisfy all of these, and may satisfy any one of them, all of them, or a combination of any two or more of them.
- the first three-dimensional point cloud and the third three-dimensional point cloud are generated in the same coordinate system.
- the quality of the point cloud can be adjusted by the resolution of the depth image and the parameter settings during depth calculation.
- the terminal device 200 is installed within the target area in FIG. 14, it is not essential to generate a second three-dimensional point cloud for a partial area that is an area that includes the terminal device 200.
- the terminal device 200 may be installed outside the target area.
- marker 400 is placed on the ground surface of the target area.
- the three-dimensional point cloud includes a three-dimensional point cloud corresponding to the top surface of marker 400 in addition to a three-dimensional point cloud of the ground surface.
- the relationship between the center position of the top surface of marker 400, which can be determined from the three-dimensional coordinates of marker 400, and the three-dimensional point cloud corresponding to the top surface of marker 400, will be as shown in FIG. 16B. Since there is no error, the center position of the top surface of marker 400 coincides with approximately the center of the three-dimensional point cloud of the top surface of marker 400. It is desirable for the three-dimensional point cloud to be in this state, without any error.
- Positional accuracy verification refers to verifying the degree of error between the first three-dimensional point cloud for the target area and the three-dimensional position of the actual target area.
- the third three-dimensional point cloud in the area surrounding the marker shown in FIG. 18A is clipped to a predetermined range.
- the predetermined range is, for example, a range with a side of s centered at the center position of the top surface of the marker 400, which can be identified from the three-dimensional coordinates of the marker 400.
- the third three-dimensional point cloud includes a point cloud corresponding to the top surface of the marker 400 and a point cloud of the ground surface, but by clipping, points outside the predetermined range among the points constituting the third three-dimensional point cloud as shown in FIG. 18B are excluded from the processing target.
- the Z direction may be clipped to a predetermined width based on the physical height information of the marker 400. Clipping in the Z direction is also effective in removing outlier noise and the like from the point cloud in the Z direction.
- the error between the predetermined values in the XY directions of the third three-dimensional point cloud and the top surface center position of marker 400 shown in FIG. 18D can be regarded as the error between the first three-dimensional point cloud and marker 400. Therefore, by checking the error between the predetermined values in the XY directions of the third three-dimensional point cloud and the top surface center position of marker 400, the accuracy of the position of the first three-dimensional point cloud can be verified. The smaller the error between the predetermined values in the XY directions of the third three-dimensional point cloud and the top surface center position of marker 400, the more accurate the position of the first three-dimensional point cloud can be said to be.
- the position of the first three-dimensional point cloud in the XY directions can be corrected, making the first three-dimensional point cloud highly accurate.
- the mobile object 100 may be a manned aerial vehicle, a glider, a helicopter, a balloon, an airship, a rocket, or a device capable of moving along a rail installed at a high position such as the ceiling of a building.
- the mobile object 100 is not limited to those that move in the sky, but may be an automobile, a motorcycle, a bicycle, personal mobility, an airplane, a ship, a robot, construction machinery, agricultural machinery, etc.
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Abstract
移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、複数の画像のうち、対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置である。
Description
本技術は、点群処理装置および点群処理システムに関する。
従来技術として、上空を飛行するドローン等の移動体に搭載したカメラで地表面を撮影した複数の画像データからその地表面を表す三次元点群を生成する技術がある。
三次元点群の生成においては、位置検出センサの位置検出精度などに基づく誤差が生じる場合がある。そこで、三次元点群生成の対象である領域にマーカ400を設置し、そのマーカ400が設置された領域を撮影して得られた画像からマーカ400を検出して三次元点群を生成する技術が提案されている(特許文献1)。
特許文献1に記載の技術では三次元点群を生成するためのマーカ400検出作業の効率化を図ることができるが、三次元点群の生成においては精度のさらなる向上が求められている。
本技術はこのような問題点に鑑みなされたものであり、三次元点群の精度を向上させるための、もう一つの三次元点群を生成することができる点群処理装置および点群処理システムを提供することを目的とする。
上述した課題を解決するために、第1の技術は、移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、複数の画像のうち、対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置である。
である。
である。
第2の技術は、カメラを備える移動体と、移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、複数の画像のうち、対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置とからなる点群処理システムである。
第3の技術は、移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、複数の画像のうち、対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部とを備える点群処理装置である。
第4の技術は、カメラを備える移動体と、移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、複数の画像のうち、対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部とを備える点群処理装置とからなる点群処理システムである。
以下、本技術の実施形態について図面を参照しながら説明する。なお、説明は以下の順序で行う。
<第1の実施形態>
[点群処理システム1000の構成]
[移動体100の構成]
[端末装置200の構成]
[点群処理装置300の構成と処理]
<第2の実施形態>
[点群処理システム1000の構成]
[点群処理装置300の構成と処理]
<変形例>
<第1の実施形態>
[点群処理システム1000の構成]
[移動体100の構成]
[端末装置200の構成]
[点群処理装置300の構成と処理]
<第2の実施形態>
[点群処理システム1000の構成]
[点群処理装置300の構成と処理]
<変形例>
<第1の実施形態>
[点群処理システム1000の構成]
図1および図2に示すように、点群処理システム1000は、移動体100と点群処理装置300としての機能を備える端末装置200により構成されている。
[点群処理システム1000の構成]
図1および図2に示すように、点群処理システム1000は、移動体100と点群処理装置300としての機能を備える端末装置200により構成されている。
移動体100は上空を飛行するドローンなどの無人航空機である。移動体100はカメラ105を備え、事前に設定されている移動経路に基づいて自動飛行して自動撮影を行うことができる。移動経路は既存の移動体用制御ソフトウェアなどにより設定することができる。
自動飛行および自動撮影を行う場合、経路情報、撮影位置、撮影方向、撮影タイミングなどを予め設定し、移動体100がその設定内容に従い移動制御および撮影制御を行う。移動体100は、図2に示すように、三次元点群を作成する対象である領域(対象領域)の上空を飛行して飛行中にカメラ105で定期的に地表面を撮影して複数の画像を取得する。なお、移動体100は自動飛行に加え、操縦者によるマニュアル操作で飛行可能なものでもよい。対象領域は、上空から地表面を撮影することができる領域である。
なお、移動体100は、移動中にユーザからの無線通信を介した指示などにより移動経路を変更しながら撮影することも可能である。更に、移動中にユーザからの無線通信を介した指示などにより撮影するタイミングを追加または変更することも可能である。
端末装置200は、図1に示すように、対象領域内において三脚や台などで支持されて固定基地局として設置されている。端末装置200は移動体100のカメラ105で撮影できるように、かつ、GNSS(Global Navigation Satellite System)デバイスでGNSS衛星と確実に通信が行えるように、屋外かつ他の物体に遮蔽されないように設置するのが望ましい。本実施の形態では端末装置200は平面視円形状であるとして説明を行うが、端末装置200の形状はこれに限られず、どのような形状でもよい。
端末装置200は点群処理装置300としての機能を備える。点群処理装置300は、移動体100のカメラ105が対象領域の地表面を撮影して得た複数の画像に基づいて対象領域についての三次元点群である第1三次元点群を作成する。また、点群処理装置300は、移動体100のカメラ105が対象領域の地表面を撮影した複数の画像に基づいて、対象領域内の一部領域についての三次元点群である第2三次元点群を作成する。一部領域とは、図1に示すように対象領域内に設置されている端末装置200を含み、対象領域よりも小さい領域である。実施の形態では対象領域と一部領域は矩形状の領域としてあるが、それらは例えば円形状、台形状、自由形状など他の形状でもよい。なお、地表面には建物や自動車などの物体などが存在していてもよい。
三次元点群とは、位置情報と色情報を有する複数の点の集合データである。地形や物体などを大量の点の集合として表現することができ、土木、建築、製造などの様々な分野で利用することができる点群データである。
本実施の形態では移動体100は上空を飛行する無人航空機であるため、移動体100は端末装置200と無線接続により接続されている。ただし、移動体100から端末装置200へのデータや情報の供給はUSBフラッシュメモリ、SDメモリカードなどの等の記録媒体を介して行ってもよい。
無線接続の方法としては例えばWi-Fi、無線LAN(Local Area Network)、4G(第4世代移動通信システム)、5G(第5世代移動通信システム)などのネットワーク、Bluetooth(登録商標)、NFC(Near Field Communication)、イーサネット(登録商標)などがある。
[移動体100の構成]
図3を参照して移動体100の構成について説明する。なお、図示は省略するが移動体100は外観構成として筐体、回転翼、回転翼支持軸などを備える。ただし、回転翼に限らず固定翼であってもよい。
図3を参照して移動体100の構成について説明する。なお、図示は省略するが移動体100は外観構成として筐体、回転翼、回転翼支持軸などを備える。ただし、回転翼に限らず固定翼であってもよい。
UAV(Unmanned Aerial Vehicle)制御部101はCPU(Central Processing Unit)、RAM(Random Access Memory)およびROM(Read Only Memory)などから構成され、プログラムに従い処理を実行してコマンドの発行を行うことによって、移動体100の全体および各部を制御する。また、UAV制御部101はアクチュエータ102の出力を制御する制御信号をアクチュエータ102に供給することにより移動体100の移動速度、移動方向、旋回方向などを制御する。
また、UAV制御部101は移動体100の現在位置と予め設定された移動経路の比較を行いながらアクチュエータ102の出力を制御することにより移動体100を事前移動経路に沿って移動するように制御する。
アクチュエータ102は回転翼を駆動させるための駆動源であり、回転翼支持軸の先端などに設けられている。アクチュエータ102はUAV制御部101の制御により動作する。
ジンバル103は、移動体100の下部などにおいてカメラ105を回転自在に支持するものである。ジンバル103は例えば2軸または3軸の軸で支持する支持具の一種である。
ジンバル制御部104は、カメラ105を支持するジンバル103の動作を制御する。ジンバル制御部104でジンバル103の軸の回転を制御することによりカメラ105の姿勢を自在に調整することができる。
カメラ105は、撮影素子、信号処理回路などを備え、RGB(Red,Green,Blue)または単色の画像を撮影する。撮影素子としては、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)などが用いられる。
カメラ105は対象領域の地表面を撮影するために、例えば移動体100の筐体の底面にジンバル103を介して吊り下げられるようにして搭載されている。カメラ105はジンバル103の駆動により360度水平方向から垂直下方向への全方向のいずれの方向にもレンズを向けて撮影することが可能となっている。なお、カメラ105は360度水平方向から垂直下方向への全方向にレンズを向けて撮影することができればどのような方法で移動体100に搭載されていてもよい。
位置情報取得部106は、例えばGNSSデバイスやGPS(Global Positioning System)デバイスを用いてカメラ105の位置(例えば緯度、経度、高度)を取得する。
姿勢情報取得部107は、例えばIMU(Inertial Measurement Unit)により構成され、2軸または3軸方向の加速度センサ、角度速度センサ、ジャイロセンサなどによって移動体100およびカメラ105の姿勢を取得する。姿勢情報は、例えば、移動体100の加速度および角速度から計算した三軸の回転ベクトル(Yaw、Pitch、Roll)である。なお、カメラ105の位置情報と姿勢情報の取得は、例えば三次元情報を取得できるレーザセンサと、そのレーザセンサの出力を基にしたSLAM(Simultaneous Localization and Mapping)技術によっても可能である。
センサ制御部108は、カメラ105の撮影による画像の取得と、位置情報取得部106によるカメラ位置情報の取得を同期して行うように制御する。またセンサ制御部108は、画像とその画像の撮影に同期して取得されたカメラ位置情報とを対応付ける。よって、カメラ105が撮影した複数の画像のそれぞれにはカメラ位置情報が対応付けられる。なお、センサ制御部108は、画像とカメラ位置情報とがそれらが同期していることを示すタイムスタンプなどの時刻情報を画像とカメラ位置情報に付してもよい。
通信部109は、インターネット等の伝送路を介しての通信処理や、各種機器との有線/無線通信、バス通信等による通信を行う各種通信用端子または通信モジュールである。移動体100は通信部109により画像とカメラ位置情報を点群処理装置300に送信する。なお、移動体100はそれらの情報をUSBフラッシュメモリ、SDメモリカードなどの外部記憶媒体を介して点群処理装置300に転送してもよい。
なお、半導体メモリ等の記録媒体を用いて、移動体100の着陸後に移動体100からその記録媒体を取り外し、点群処理装置300の図示しない記録媒体接続スロットに接続することで画像とカメラ位置情報を転送できるようにしてもよい。
例えばドローンである移動体100は、アクチュエータ102の出力を制御して所望の飛行を可能としている。空中に静止しているホバーリングの状態では、姿勢情報取得部107や別途設けたジャイロセンサなどで傾きを検知し、機体が下がった側のアクチュエータ102の出力を増加させ、上がった側のアクチュエータ102の出力を低下させることによって機体を水平に保つようにしている。さらに、前進の際には、進行方向のアクチュエータ102の出力を低下、逆方向のアクチュエータ102の出力を増加させることによって、前傾姿勢を取らせ、進行方向への推進力を発生させるようにしている。
[端末装置200の構成]
次に図4を参照して、端末装置200の構成について説明する。
次に図4を参照して、端末装置200の構成について説明する。
CPU201は、各種の処理を行う演算処理部として機能し、端末装置200の全体および各部の制御を行う。CPU201は、ROM202や不揮発性メモリ部204に記憶されているプログラム、又は記憶部208からRAM203にロードされたプログラムに従って各種の処理を実行する。不揮発性メモリ部204には、例えばEEPROM(Electrically Erasable Programmable Read Only Memory)等が使用される。また、RAM203には、CPU201が各種の処理を実行する上において必要なデータ等が、適宜、記憶される。
CPU201、ROM202、RAM203、不揮発性メモリ部204は、バスを介して相互に接続されている。また、バスには入出力インターフェース205が接続されている。
入出力インターフェース205には、GNSSデバイス206、入力部207、記憶部208、通信部209、ドライブ210が接続されている。
GNSSデバイス206は、衛星測位システムにおけるGNSS衛星から送信される衛星の位置や信号送信時刻などの情報を受信することにより、GNSS衛星を基準として端末装置200の三次元座標を取得する。GNSSデバイス206を備えていることにより、端末装置200は自身の三次元座標を取得することができる。GNSSデバイス206が取得した端末装置200の三次元座標は点群処理装置300の画像選択部305と点群補正部308に供給される。
入力部207は、例えば、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスである。入力部207によりユーザの操作が検知され、入力された操作に応じた信号はCPU201によって解釈される。
記憶部208は、例えばハードディスク、フラッシュメモリなどの大容量記憶媒体である。記憶部208には各種アプリケーション、データ、情報などが格納されている。
通信部209は、インターネット等の伝送路を介する通信処理や、各種機器との有線/無線通信、バス通信等による通信を行う各種通信用端子または通信モジュールである。点群処理装置300は、通信部209により移動体100から送信された画像とカメラ位置情報を受信する。また、点群処理装置300は通信部209により三次元点群を外部に送信することができる。点群処理装置300はUSBフラッシュメモリ、SDメモリカードなどの外部記憶媒体を介して移動体100と外部装置と情報やデータの転送を行ってもよい。
入出力インターフェース205には必要に応じてドライブ210が接続されている。ドライブ210を介して、リムーバブル記憶媒体211が適宜装着される。リムーバブル記憶媒体211には、磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が含まれる。
ドライブ210により、リムーバブル記憶媒体211から各処理に用いられるプログラム等のデータファイル等を読み出すことができる。読み出されたデータファイルは、記憶部208に記憶される。また、リムーバブル記憶媒体211から読み出されたコンピュータプログラム等は、必要に応じて記憶部208にインストールされる。
端末装置200では、例えば、本技術の処理のためのソフトウェアが通信部209によるネットワーク通信やリムーバブル記憶媒体211を介してインストール可能である。また、ソフトウェアは予めROM202、記憶部208等に記憶されてもよい。また、カメラ105で撮影された画像やAI画像処理による処理結果を受け取り、画像や処理結果は記憶部208やリムーバブル記憶媒体211に記憶させてもよい。
端末装置200はGNSSデバイス206で自己の三次元座標を取得することができる機能を備えている必要がある。また、物体などに遮蔽されず、移動体100のカメラ105で撮影可能な位置に設置されている必要がある。さらに、端末装置200は対象領域内の一部領域を特定するものとしての役割がある。よって、端末装置200は対象領域内に設置される必要があり、かつ、屋外に設置されるのが望ましい。
端末装置200としては、例えば土木現場や建築現場などに設置して使用するGNSS機能と点群生成機能を備える測量用装置などを用いることができる。
[点群処理装置300の構成と処理]
次に図5を参照して端末装置200において動作する点群処理装置300の構成と点群処理装置300における処理について説明する。
次に図5を参照して端末装置200において動作する点群処理装置300の構成と点群処理装置300における処理について説明する。
点群処理装置300における処理の前提として、まず、事前に作成された移動経路に基づいて移動体100が対象領域の上空を移動(飛行)してカメラ105による撮影を行う。
図2に示すように、カメラ105は移動体100が事前移動経路に沿って移動している間、予め定めた一定の間隔で繰り返し継続して撮影を行う。また、カメラ105による撮影と同期して位置情報取得部106は撮影時のカメラの位置であるカメラ位置情報を取得する。上述したように、カメラ105が撮影した複数の画像のそれぞれにはカメラ位置情報が対応付けられている。そして移動体100は複数の画像とカメラ位置情報を端末装置200に送信する。
情報取得部301は、移動体100から送信されて端末装置200が受信した複数の画像とカメラ位置情報を取得して特徴抽出部302に供給する。
特徴抽出部302は、複数の画像のそれぞれから特徴点を抽出する。特徴点としては例えば建築物や物体の角、輝度変化の境界、色変化の境界などである。
特徴マッチング部303は、特徴抽出部302が抽出した各画像における特徴点をマッチングさせることにより複数の画像の対応関係を特定する。また、特徴マッチング部303はカメラ位置情報を用いて複数の画像の対応関係を特定してもよいし、特徴点とカメラ位置情報の両方を用いて複数の画像の対応関係を特定してもよい。
疎点群生成部304は、対応関係が特定された複数の画像を用いて点の分布が疎である三次元点群(三次元疎点群)を生成する。また、疎点群生成部304はSfM(Structure From Motion)などにより複数の画像に基づいてカメラ105の撮影位置を推定してもよい。
画像選択部305は、カメラ105で撮影された複数の画像から三次元点群生成のための画像を選択して第1点群生成部306と第2点群生成部307に供給する。
画像選択部305は、カメラ位置情報に基づいて、複数の画像から対象領域の第1三次元点群を生成するための画像(対象領域画像)を選択して第1点群生成部306に供給する。画像選択部305はカメラ位置情報に基づいて、例えば、対象領域外を撮影した画像や重複している画像などを除外することで冗長性が排除された複数の画像を第1点群生成部306供給する。そのような対象領域外の画像や重複する画像がない場合にはカメラ105で撮影された複数の画像の全てを対象領域画像として第1点群生成部306に供給する。
画像選択部305が第1点群生成部306に供給する画像を選択するために、カメラ位置情報に加えてカメラの姿勢情報を用いてもよい。そのために移動体100はカメラ位置情報とともにカメラ姿勢情報も端末装置200に送信する。また、点群処理装置300が画像に基づいて撮影時のカメラ105の姿勢を推定する推定処理部を備えていてもよい。画像からカメラ105の姿勢を求める方法としてはSfMがある。
また、画像選択部305は、複数の画像から一部領域の第2三次元点群を生成するための画像(一部領域画像)を選択して第2点群生成部307に供給する。第2三次元点群は一部領域の三次元点群である。第2三次元点群を生成するための一部領域画像は、移動体100が撮影した複数の画像のうちの端末装置200が被写体として存在する画像である。
画像選択部305は、GNSSデバイス206から供給された端末装置200の三次元座標を用いて、複数の画像から一部領域画像を選択する。撮影と同期して取得されたカメラ位置情報により画像を撮影した位置を特定することができる。また、端末装置200の位置はGNSSデバイス206により取得した三次元座標により特定することができる。よって、端末装置200が被写体として存在する画像は、端末装置200の三次元座標とカメラ位置情報に基づいて特定することができる。画像選択部305はその端末装置200が被写体として存在する画像を一部領域画像として選択する。なお、一部領域画像は一つの場合もあれば複数の場合もある。
また、画像選択部305は、端末装置200の三次元座標を使用せずに、端末装置検出用AIや公知の被写体検出方法などによって複数の画像から端末装置200を検出し、その検出結果に基づいて端末装置200が被写体として存在する画像を一部領域画像として選択することもできる。この場合、GNSSデバイス206は端末装置200の三次元座標を点群処理装置300の画像選択部305に供給する必要がない。
端末装置200の三次元座標と、複数の画像内における端末装置200の検出結果は、特許請求の範囲における端末装置200に関する情報に相当するものである。
第1点群生成部306は、画像選択部305から供給された対象領域画像に基づいて対象領域のデプス画像を生成し、さらに、そのデプス画像を用いて対象領域の密な三次元点群である第1三次元点群を生成する。第1点群生成部306は第1三次元点群を点群補正部308に供給する。
第2点群生成部307は、画像選択部305から供給された一部領域画像に基づいて一部領域のデプス画像を生成し、そのデプス画像を用いて一部領域の密な三次元点群である第2三次元点群を生成する。画像選択部305が第2点群生成部307に一部領域画像を供給することにより、第2点群生成部307は端末装置200が存在する一部領域の三次元点群である第2三次元点群を生成することができる。第2点群生成部307は第2三次元点群を点群補正部308に供給する。
このようにして本技術では、図6に示すように、対象領域についての第1三次元点群に加え、端末装置200が存在する一部領域についての第2三次元点群を生成する。図6は、図1に示す対象領域と一部領域の側面図である。第1点群生成部306と第2点群生成部307はSfMにより三次元点群を生成することができる。第2三次元点群は第1三次元点群よりも高品質である。高品質とは、三次元点群を構成する複数の点のばらつきが少ない(点群の分散が少ない)ことや、精度が高い(点群の位置精度が平均的に高い)ことや、点が高密度なことなどである。第2三次元点群はこれらの全てを満たしている必要はなく、いずれか一つを満たしていてもよいし、全てを満たしていてもよいし、いずれか複数の組み合わせを満たしていてもよい。第1三次元点群と第2三次元点群は同一の座標系で生成される。
第1点群生成部306と第2点群生成部307は、同一のデプス画像生成アルゴリズムを用いた場合、デプス画像の解像度と、デプス計算時のパラメータ設定(ステレオ画像の対応付けを行う場合の反復演算処理の反復回数など)によって点群の品質を調整することができる。
具体的には、デプス画像の解像度を増加させることで点群の密度を増加させる(処理速度増加)。
また、デプス計算時のパラメータ設定変更により点群の品質を向上させる。デプス計算時における点群の品質を向上させるための方法としては、ステレオマッチング時のマッチングコスト計算時のマッチングブロックサイズを大から小へと段階的に変化させて対応させる、所謂「粗密探索」という方法で対応付けを行う、という方法がある。また、ステレオマッチングを何枚の画像と対応付けるかの設定を変える(より多くの画像と対応付けを行う)という方法もある。さらに、ステレオマッチングコスト最適化によって画像全体の視差マップを求める過程で、非線形最適化演算であるマッチングコスト最小化演算の反復処理回数を増加させる、という方法もある。
なお、第2点群生成部307におけるデプス画像生成アルゴリズムを第1点群生成部306におけるデプス画像生成アルゴリズムと異なるものにすることで第2三次元点群が第1三次元点群よりも高密度で高品質なものとなるようにしてもよい。例えば、第1点群生成部306においては、処理が軽量で精度が中程度のアルゴリズムを使用し、第2点群生成部307においては、処理が非常に重いが精度とロバスト性が高いアルゴリズムを使用する、などである。
端末装置200は対象領域内に設置されているため、対象領域の三次元点群を生成すると、その三次元点群は端末装置200の天面に対応する点群を含んでいる。ここで、対象領域の三次元点群と端末装置200の天面位置の関係について説明する。
まず側面視方向(Z方向)について説明する。図7Aに示すように、端末装置200は三脚などで支持されて対象領域の地表面に設置されている。その端末装置200が存在する対象領域について三次元点群を生成すると、図7Bに示すようにその三次元点群には端末装置200の天面に対応する点群が含まれる。
その三次元点群に誤差がない場合(誤差が所定量以下のわずかである場合も含む)、GNSSデバイス206で取得した端末装置200の三次元座標から特定できる端末装置200の天面の中心位置と端末装置200の天面に対応する三次元点群の関係は図7Cに示すようになる。誤差がないため、端末装置200の天面の中心位置と端末装置200の第1三次元点群のZ方向の高さが一致している。三次元点群は誤差が無くこのような状態であることが望ましい。
一方、三次元点群にZ方向の誤差がある場合、図8Bまたは図8Cに示すように、端末装置200の天面中心位置と端末装置200の三次元点群のZ方向における位置がずれてしまう。また、地表面の三次元点群と地表面自体にもずれが生じる。本技術では第2三次元点群を用いることにより、このような三次元点群のずれを補正することができる。
次に平面視方向(XY方向)について説明する。図9Aに示すように、端末装置200は対象領域の地表面に設置されている。その端末装置200が存在する対象領域について三次元点群を生成すると、図9Bに示すように、三次元点群には端末装置200の天面に対応する点群が含まれる。
その三次元点群に誤差がない場合(誤差が所定量以下のわずかである場合も含む)、GNSSデバイス206で取得した端末装置200の三次元座標から特定できる端末装置200の天面中心位置と端末装置200の天面に対応する三次元点群の関係は図9Bに示すようになる。誤差がないため、端末装置200の天面中心位置は端末装置200の天面の三次元点群の略中心と一致している。三次元点群は誤差が無くこのような状態であることが望ましい。
一方、三次元点群にXY方向の誤差がある場合、図10Bに示すように、端末装置200の天面中心位置と端末装置200の三次元点群のXY方向における位置がずれてしまう。本技術では第2三次元点群を用いることにより、このような三次元点群のずれを補正することができる。
図5の説明に戻る。次に点群補正部308は、第2三次元点群と端末装置200の三次元座標に基づいて第1三次元点群を補正するための補正量を算出し、その補正量に基づいて第1三次元点群を補正する。
図11を参照して第1三次元点群のZ方向の補正量を算出する方法について説明する。まず、図11Aに示す一部領域の第2三次元点群を所定範囲でクリップする。所定範囲とは、例えば、端末装置200の三次元座標から特定できる端末装置200の天面中心位置を中心とした半径rと高さhの円柱状の範囲である。これにより、図11Bに示すように、所定範囲外の第2三次元点群が処理対象から除外される。
次に図11Cに示すように、クリップされた第2三次元点群のZ方向の所定値を決定する。所定値は、クリップされた第2三次元点群を構成する複数の点のZ座標の平均または中央値、クリップされた第2三次元点群に対してXY平面と平行な平面を合わせた結果として得られる平面の高さ、などである。
第1三次元点群と第2三次元点群は同一の座標系で生成されているため、図11Dに示すように、そのZ方向の所定値と端末装置200の天面中心位置との差分が第1三次元点群を補正するためのZ方向の補正量となる。
このようにして算出したZ方向の補正量に基づいて第1三次元点群のZ方向の位置を調整することにより、第1三次元点群を補正して高精度なものにすることができる。
次に図12を参照して第1三次元点群のXY方向の補正量を算出する方法について説明する。まず、図12Aに示す一部領域の第2三次元点群を所定範囲でクリップする。所定範囲とは、例えば、端末装置200の三次元座標から特定できる端末装置200の天面中心位置を中心とした半径rの範囲である。これにより、図12Bに示すように、所定範囲外の第2三次元点群が処理対象から除外される。
次に図12Cに示すように、クリップされた第2三次元点群のXY方向の所定値を決定する。所定値は、クリップされた第2三次元点群を構成する複数の点のXY座標の平均または中央値、第2三次元点群をXY平面に投影した後その投影点に対して円を合わせた結果として得られる円の中心、などである。
第1三次元点群と第2三次元点群は同一の座標系で生成されているため、図12Dに示すように、そのXY方向の所定値と端末装置200の天面中心位置との差分が第1三次元点群を補正するためのXY方向の補正量となる。
このようにして算出したXY方向の補正量に基づいて第1三次元点群のXY方向の位置を調整することにより、第1三次元点群を補正して高精度なものにすることができる。
なお、点群補正部308は第1三次元点群のZ方向のみを補正してもよいし、XY方向のみを補正してもよい。ユーザがどちらの方向を補正するか選択できるようにしてもよい。
そして、出力部309は、補正された第1三次元点群をネットワークなどを介して外部装置、クラウドサーバなどに出力する。また、出力部309は補正された第1三次元点群を端末装置200の記憶部208や、USBフラッシュメモリ、SDメモリカードなどの記憶媒体に出力してもよい。
また、出力部309は、補正された第1三次元点群に代えて、または加えて、点群補正部308が算出した補正量を情報として外部装置などに出力してもよい。また、出力部309は補正第1三次元点群に代えて、または加えて、補正されていない第1三次元点群や第2三次元点群を外部装置などに出力してもよい。出力部309が第1三次元点群と補正量を外部装置に出力し、その外部装置で第1三次元点群の補正を行うようにしてもよい。
以上のようにして本技術における処理が行われる。本技術によれば、対象領域全体の三次元点群である第1三次元点群を補正して精度を向上させるための第2三次元点群を生成することができる。そして、その第2三次元点群を用いて算出した補正量を用いて第1三次元点群を補正することができる。
端末装置200は対象領域内に固定基地局として設置されるものなので、その端末装置200の三次元座標を利用して第2三次元点群を生成することで、別途、第2三次元点群生成用のマーカ400を対象領域内に設置する必要がない。
なお、点群生成部が一つであり、その点群生成部におけるデプス画像生成用に品質を優先するアルゴリズムを使用すると、点群が高密度かつ高品質になり、地表面や端末装置200の形状の復元度が高くなるが処理時間が長くなるという問題がある。
また、点群生成部が一つであり、その点群生成部におけるデプス画像生成用に処理速度を優先するアルゴリズムを使用すると、処理時間は短くなるが、点群が疎になり、さらにばらつきが生じて地表面や端末装置200の形状の復元度が低くなるという問題がある。
また、点群生成部が一つであり、その点群生成部におけるデプス画像生成用に処理速度を優先するアルゴリズムを使用し、さらにデプス画像にノイズフィルタ処理を施すと、処理時間は短くなり、点群のばらつきをおさえることができるが、地表面や端末装置200の形状の復元度が低くなるという問題がある。
また、点群生成部が一つであり、その点群生成部におけるデプス画像生成用に処理速度を優先するアルゴリズムを使用し、さらに点群にノイズフィルタ処理を施すと、処理時間は短くなり、点群のばらつきをおさえることができるが、地表面や端末装置200の形状の復元度が低くなるという問題がある。
それに対し、本技術では、点群処理装置300は第1点群生成部306と第2点群生成部307という2つの点群生成部を備える。第1点群生成部306におけるデプス計算用には処理速度を優先するアルゴリズムを使用し、第2点群生成部307におけるデプス計算用には点群の品質を優先するアルゴリズムを使用するとよい。さらに、第1点群生成部306は生成したデプス画像にノイズフィルタ処理を施すとよい。これにより、短い処理時間で、点群のばらつきが少なく品質がよく、地表面や端末装置200の形状の復元度が高い第1三次元点群および第2三次元点群を生成することができる。
点群処理装置300が合成処理部を備え、第1三次元点群と第2三次元点群を合成して合成三次元点群を生成してもよい。合成三次元点群は、第1三次元点群に第2三次元点群を重畳したものである。その合成三次元点群を表示することにより、第1三次元点群と第2三次元点群をまとめてユーザに提示することができる。これによりユーザは第1三次元点群と第2三次元点群の位置関係などを容易に把握することができる。なお、三次元点群の表示装置などにおいて表示する場合、それぞれ個別に表示してもよいし、第1三次元点群と第2三次元点群を合成して合成三次元点群を表示してもよい。ユーザがどの三次元点群を表示するかを選択できるようにしてもよい。
移動体100のカメラ105で撮影された画像に写る端末装置200の天面には、図13A乃至Hに示すような対空標識や模様やテクスチャなどを付与してもよい。これによりカメラ105で撮影した画像から端末装置200を認識する精度を高め、端末装置200の位置推定精度を高めることができる。また、第2三次元点群の生成時に、端末装置200のデプス画像をよりロバストかつ高精度に生成することができる。その結果として第2三次元点群の品質をさらに向上させることができる。画像から高精度で端末装置200の位置を推定することができる場合、その推定結果をGNSSデバイス206によって得られる三次元座標の代わりに用いてもよいし、その推定結果とGNSSデバイス206によって得られる三次元座標と併用してもよい。なお、図13に示す対空標識や模様やテクスチャはあくまで一例であり、ランダムなパターンを持つ模様やテクスチャであればどのようなものでもよい。
なお、端末装置200の天面が無地白色であってもそれ自体が画像におけるパターンになるため、テンプレートマッチングやAI認識処理によって、カメラ105で撮影した画像から端末装置200の位置を推定することができる。また、端末装置200の天面を特異な色で塗装することにより、色検出処理によって、カメラ105で撮影した画像から端末装置200を検出することができる。このように、画像から端末装置200の位置を推定する方法や、端末装置200を検出する方法があるが、端末装置200の天面に図13に示すような対空標識や模様やテクスチャを付与する方法を採用すれば、端末装置200を認識する精度をより高め、端末装置200の位置推定精度を高めることができる。
端末装置200は予め点群処理装置300としての機能を備えていてもよいし、端末装置200がプログラムを実行することにより点群処理装置300と点群処理方法が実現されてもよい。そのプログラムは予め端末装置200にインストールされていてもよいし、ダウンロード、記憶媒体などで配布されて、ユーザなどがインストールするようにしてもよい。
また、端末装置200は点群処理装置300としての機能を備えず、対象領域外に存在する情報処理機能および通信機能を有する電子機器が点群処理装置300として機能してもよい。その場合、移動体100は複数の画像とカメラ位置情報をその電子機器に送信し、端末装置200は自身の三次元座標をその電子機器を送信する。電子機器は、パーソナルコンピュータ、スマートフォン、タブレット端末などである。また、クラウドサーバが点群処理装置300として機能してもよい。ただし、対象領域内に設置されている端末装置200が点群処理装置300として機能する場合、対象領域である土木現場や建築現場など現地で三次元点群を生成することができるという利点がある。
また、コンピュータとしての機能を備える電子機器がプログラムを実行することにより点群処理装置300が実現されてもよい。そのプログラムは予め電子機器にインストールされていてもよいし、ダウンロード、記憶媒体などで配布されて、ユーザなどがインストールするようにしてもよい。
なお、端末装置200は、RTK(Real Time Kinematic)補正情報の配信機能を備え、外部の無線機やクラウドサーバで構成されたRTK補正情報配信サービスを利用して建機などにRTK補正情報を供給するようにしてもよい。
また、点群処理装置300は、作成した三次元点群を外部装置やクラウドサーバなどに送信してもよい。そしてその外部装置やクラウドサーバで三次元点群のデータフォーマットを変換して他の外部装置やクラウドサーバなどに送信するようにしてもよい。
クラウドサーバは、単一のコンピュータ装置により構成される場合に限らず、システム化された複数のコンピュータ装置により構成されてもよい。複数のコンピュータ装置は、例えば、LAN(Local Area Network)等によりシステム化されている。また、インターネット等を利用したVPN(Virtual Private Network)等により、遠隔地に配置された複数のコンピュータ装置がシステム化されてもよい。複数のコンピュータ装置には、クラウドコンピューティングサービスによって利用可能なサーバ群(クラウド)としてのコンピュータ装置が含まれてもよい。
<第2の実施形態>
[点群処理システム1000の構成]
次に本技術の第2の実施形態について説明する。第2の実施形態においては、図14に示すように対象領域内にマーカ400を設置する。マーカ400は、第2の実施形態において生成される第3三次元点群の基準となるものである。
[点群処理システム1000の構成]
次に本技術の第2の実施形態について説明する。第2の実施形態においては、図14に示すように対象領域内にマーカ400を設置する。マーカ400は、第2の実施形態において生成される第3三次元点群の基準となるものである。
点群処理装置300は、移動体100が備えるカメラ105が対象領域の地表面を撮影した複数の画像に基づいて、対象領域内のマーカ400の周囲の領域(マーカ周囲領域)についての三次元点群である第3三次元点群を作成する。マーカ周囲領域とは、図14に示すように対象領域内に設置されているマーカ400を含み、対象領域よりも小さい領域である。図14では対象領域とマーカ周囲領域は矩形状の領域としてあるが、それらは例えば円形状、台形状、自由形状など他の形状でもよい。なお、地表面には建物や自動車などの物体などが存在していてもよい。
マーカ400は、移動体100が備えるカメラ105で撮影可能に設置され、かつ、三次元座標が既知のものであればよい。
マーカ400としては、マーカ400の三次元座標を得ることができるGPS機能付き対空標識を用いることができる。また、GPS機能を持たない一般的な対空標識もマーカ400として用いることもできる。GPS機能の有無に関わらず、対空標識の外観は第1の実施形態で図13に示したものと同様のものである。ただし、GPS機能を持たない対空標識を用いる場合、予め外部装置やシステムを用いて対空標識の三次元座標を計測しておく必要がある。三次元座標を計測する方法としては、例えばSLAM(Simultaneous Localization and Mapping)、従来の測量法、LiDAR(Light Detection And Ranging)、既存の地図データを参照する方法などがあるが、マーカ400の三次元座標を得ることができればどのような方法を用いてもよい。
また、建築物など対象領域内に予め存在する物体や、ユーザが対象領域内に設置した物体などもマーカ400として用いることができる。そのような物体はGPS機能を持たないため、予め外部装置やシステムによりSLAM、従来の測量法、LiDAR、地図データなどを用いて三次元座標を計測しておく必要がある。
マーカ400がGPS機能と通信機能を備える場合、マーカ400は通信により三次元座標情報を点群処理装置300に送信する。また、マーカ400がGPS機能を備えず、予め外部装置やシステムで対空標識の三次元座標を計測する場合は、その外部装置やシステムから点群処理装置300にマーカ400の三次元座標情報を送信する必要がある。
マーカ400は対象領域内において、傾斜がない、または傾斜が少ない平らな面に設置するのが望ましい。マーカ400は対象領域内であればどこに設置してもよい。
検証点としてマーカ400を設置した場合、第3三次元点群を用いて第1三次元点群の位置の精度検証を行うことができる。また、GCP(Ground Control Point)や標定点としてマーカ400を設置した場合、第3三次元点群を用いて第1三次元点群の位置の補正を行うことができる。よって、ユーザは予め第1三次元点群の位置の精度検証用にマーカ400を設置するのか、第1三次元点群の位置の補正用にマーカ400を設置するのか、目的を特定してマーカ400を設置しておく必要がある。なお、マーカ400を位置の精度検証に用いる場合と位置の補正に用いる場合においてマーカ400の設置方法は同じである。
移動体100の構成および移動、移動体100が備えるカメラ105による撮影、移動体100から端末装置200への複数の画像とカメラ位置情報の送信は第1の実施形態と同様である。点群処理装置300における処理の前提として、まず、事前に作成された移動経路に基づいて移動体100が対象領域の上空を移動(飛行)してカメラ105による撮影を行う。
点群処理装置300としての機能を備える端末装置200の構成は第1の実施形態と同様である。
[点群処理装置300の構成と処理]
図15を参照して端末装置200において動作する点群処理装置300の構成と点群処理装置300における処理について説明する。
図15を参照して端末装置200において動作する点群処理装置300の構成と点群処理装置300における処理について説明する。
情報取得部301、特徴抽出部302、特徴マッチング部303、疎点群生成部304、出力部309の構成と処理は第1の実施形態と同様である。
画像選択部305は、カメラ105で撮影された複数の画像に基づいて三次元点群生成のための画像を選択して第1点群生成部306と第3点群生成部310に供給する。
画像選択部305は、第1の実施形態と同様にして、対象領域の第1三次元点群を生成するための画像(対象領域画像)を選択して第1点群生成部306に供給する。
また、画像選択部305は、マーカ周囲領域の第3三次元点群を生成するための画像(マーカ周辺領域画像)を選択して第3点群生成部310に供給する。第3三次元点群はマーカ周囲領域の三次元点群である。第3三次元点群を生成するためのマーカ周囲領域画像は、移動体100が撮影した複数の画像のうちのマーカ400が被写体として存在する画像である。
画像選択部305は、マーカ400の三次元座標を用いて、複数の画像からマーカ周囲領域画像を選択する。撮影と同期して取得されたカメラ位置情報により画像を撮影した位置を特定することができる。また、マーカ400の三次元座標はマーカ400が備えるGPS機能、または予め外部の装置やシステムを用いて計測しておくことにより取得できる。よって、マーカ400が被写体として存在する画像は、マーカ400の三次元座標とカメラ位置情報に基づいて特定することができる。画像選択部305はマーカ400が被写体として存在する画像をマーカ周囲領域画像として選択する。なお、マーカ周囲領域画像は一つの場合もあれば複数の場合もある。
なお、画像選択部305はマーカ400の三次元座標を使用せずにマーカ検出用AIや公知の被写体検出方法などによって複数の画像からマーカ400を検出し、その検出結果に基づいてマーカ400が被写体として存在する画像をマーカ周囲領域画像として選択することもできる。
マーカ400の三次元座標と、複数の画像内におけるマーカ400の検出結果は、特許請求の範囲におけるマーカ400に関する情報に相当するものである。
第1点群生成部306は、第1の実施形態と同様の処理で対象領域の三次元点群である第1三次元点群を生成する。第1点群生成部306は第1三次元点群を出力部309に供給する。
第3点群生成部310は、画像選択部305から供給されたマーカ周囲領域画像に基づいてマーカ周囲領域のデプス画像を生成し、そのデプス画像を用いてマーカ周囲領域の密な三次元点群である第3三次元点群を生成する。画像選択部305が第3点群生成部310にマーカ周囲領域画像を供給することにより、第3点群生成部310はマーカ400が存在するマーカ周囲領域の第3三次元点群を生成することができる。第3点群生成部310は第3三次元点群を出力部309に供給する。
このようにして第2の実施形態では、対象領域についての第1三次元点群に加え、マーカ400が存在するマーカ周囲領域についての第3三次元点群を生成する。第1点群生成部306と第3点群生成部310はSfMにより三次元点群を生成することができる。第3三次元点群は第1三次元点群よりも高品質である。高品質とは、三次元点群を構成する複数の点のばらつきが少ない(点群の分散が少ない)ことや、精度が高い(点群の位置精度が平均的に高い)ことや、点が高密度なことなどである。第3三次元点群はこれらの全てを満たしている必要はなく、いずれか一つを満たしていてもよいし、全てを満たしていてもよいし、いずれか複数の組み合わせを満たしていてもよい。第1三次元点群と第3三次元点群は同一の座標系で生成される。
第2の実施形態においては、第1の実施形態と同様に、第1点群生成部306と第3点群生成部310が同一のデプス画像生成アルゴリズムを用いた場合、デプス画像の解像度と、デプス計算時のパラメータ設定によって点群の品質を調整することができる。
なお、図14では対象領域内に端末装置200を設置しているが、端末装置200を含む領域である一部領域についての第2三次元点群を生成することは必須ではない。また、端末装置200は対象領域外に設置してもよい。
ここで、平面視方向(XY方向)における対象領域の三次元点群とマーカ400の天面位置の関係について説明する。
図16Aに示すように、マーカ400は対象領域の地表面に設置されている。そのマーカ400が存在する対象領域について三次元点群を生成すると、図16Bに示すように、三次元点群には地表面の三次元点群に加え、マーカ400の天面に対応する三次元点群が含まれる。
その三次元点群に誤差がない場合(誤差が所定量以下のわずかである場合も含む)、マーカ400の三次元座標から特定できるマーカ400の天面中心位置と、マーカ400の天面に対応する三次元点群の関係は図16Bに示すようになる。誤差がないため、マーカ400の天面中心位置はマーカ400の天面の三次元点群の略中心と一致している。三次元点群は誤差が無くこのような状態であることが望ましい。
一方、三次元点群にXY方向の誤差がある場合、図17Bに示すように、マーカ400の天面中心位置とマーカ400の三次元点群のXY方向における位置がずれてしまう。
次に図18を参照して第1三次元点群のXY方向の位置の精度検証を行う方法について説明する。位置の精度検証とは、対象領域についての第1三次元点群と現実の対象領域の三次元位置においてどれほどの誤差があるかを検証することである。
まず、図18Aに示すマーカ周囲領域の第3三次元点群を所定範囲でクリップする。所定範囲とは、例えば、マーカ400の三次元座標から特定できるマーカ400の天面中心位置を中心とした一辺がsの範囲である。第3三次元点群にはマーカ400の天面に対応する点群と地表面の点群が含まれるが、クリップにより、図18Bに示すように第3三次元点群を構成する点のうち、所定範囲外の点が処理対象から除外される。なお、マーカ400の物理的な高さ情報を基にZ方向を所定の幅でクリップしてもよい。Z方向のクリップはZ方向の点群の外れ値ノイズなどを除去する上でも有効である。
次に図18Cに示すように、クリップされた第3三次元点群のXY方向の所定値を算出する。所定値は、クリップされた第3三次元点群を構成する複数の点のXY座標の平均または中央値、第3三次元点群をXY平面に投影した後その投影点に対して円を合わせた結果として得られる円の中心、マーカ400の天面中心位置を囲む点列の重心や平均位置、などである。また、第3三次元点群を構成する複数の点のうち、マーカ400の三次元座標から特定できるマーカ400の天面中心位置に最も近い点の位置を所定値としてもよい。
第1三次元点群と第3三次元点群は同一の座標系で生成されているため、図18Dに示す、第3三次元点群のXY方向の所定値とマーカ400の天面中心位置の誤差を第1三次元点群とマーカ400の誤差とすることができる。よって、この第3三次元点群のXY方向の所定値とマーカ400の天面中心位置との誤差を確認することにより、第1三次元点群の位置の精度検証を行うことができる。第3三次元点群のXY方向の所定値とマーカ400の天面中心位置との誤差が少なければ少ないほど第1三次元点群の位置は高精度であるといえる。
このようにして得られる第3三次元点群のXY方向の所定値とマーカ400の天面中心位置との誤差を補正量とすることにより、第1三次元点群のXY方向の位置を補正して、第1三次元点群を高精度なものにすることができる。
第1三次元点群の位置の精度検証を行う際にマーカ400の周辺の第3三次元点群の密度が低いとXY方向の分解能が粗くなり、検証精度が低くなる。マーカ周囲領域についての第3三次元点群を高密度に生成することにより、第1三次元点群の位置の精度検証や補正を高精度に行うことができる。
第2の実施形態では、出力部309により第1三次元点群、第3三次元点群、マーカ400の三次元座標などを、ネットワークなどを介して外部装置やクラウドサーバなどに出力する。そして、その外部装置やクラウドサーバなどにおいて上述した方法で第1三次元点群の位置の精度検証や補正を行うことができる。
なお、出力部309は第1三次元点群、第3三次元点群、マーカ400の三次元座標などを端末装置200の記憶部208や、USBフラッシュメモリ、SDメモリカードなどの記憶媒体に出力してもよい。
以上のようにして第2の実施形態の処理が行われる。第2の実施形態によれば、マーカ400を検証点として使用する場合、生成密度に依らず、計算リソースを大きく増やすことなく、対象領域全体の三次元点群である第1三次元点群の位置の精度検証を高精度に行うことができる。また、マーカ400をGCPや標定点として使用する場合、補正を行うことで対象領域についての第1三次元点群の位置精度を向上させることができる。
なお、三次元点群の密度により位置の検証精度が異なる。この点について図19を参照して説明する。図19A~図19Cは第1三次元点群と第3三次元点群を示す模式図であり、破線枠外の点が地表面の第1三次元点群であり、破線枠内の点がマーカ400の第3三次元点群である。また、図19A~図19Cにおいては第3三次元点群の部分拡大図を示している。
図19Aは第1三次元点群と第3三次元点群の密度が同一またはほぼ同一の例である。図19Bは第1三次元点群と第3三次元点群の密度が同一またはほぼ同一であり、図19Aよりも密度が高い例である。図19Cは第1三次元点群よりも第3三次元点群の密度が高い例である。
図19において、「誤差を測るための理想的な位置」とは、マーカ400の三次元点群座標系において実際の天面中心に相当する座標位置である。「マーカ400の天面中心位置(三次元座標)」とは、三次元座標から特定されるマーカ400の天面中心位置である。「実際に誤差を測る位置」とは、上述した所定値である。所定値とは、実際に位置誤差を測るために用いる位置であり、上述したように、第3三次元点群を構成する複数の点のXY座標の平均、中央値、点列の重心や平均位置、マーカ400の天面中心位置に最も近い点の位置などである。
図19Aに示すように、第1三次元点群と第3三次元点群の両方が低密度である場合、位置の精度検証のための計算リソースは少なくなるが、検証精度も低くなる。第1三次元点群と第3三次元点群の両方が図19Aに示すように低密度である場合よりも図19Bに示すように両方が高密度である場合の方が実際の誤差を測る位置(所定値)とマーカ400の天面中心位置間の距離が短くなり、第1三次元点群の位置の検証精度が高くなる。ただし、第1三次元点群と第3三次元点群の両方を高密度なものとして生成しようとすると生成における処理負荷が大きくなり、計算リソースも多くなる。これにより、多くの計算リソースが必要とし、処理に要する時間も長くなる。そこで図19Cに示すように、第3三次元点群を高密度に生成し、第1三次元点群を第3三次元点群よりも低密度に生成することにより、三次元点群生成の処理負荷を第1三次元点群と第3三次元点群の両方が低密度である場合と同等に低減することができる。また、第1三次元点群の位置の検証精度を第1三次元点群と第3三次元点群の両方が高密度である場合と同等に高くすることができる。即ち、第3三次元点群を高密度に生成すれば、第1三次元点群を低密度に生成しても、計算リソースが少ない状態で検証精度を高くすることができる。よって、第1三次元点群の生成密度によらず、高精度な位置の精度検証が可能になる。これは第1の実施形態においても同様である。なお、図19を参照して説明した内容は三次元点群の位置の補正精度においても同様である。
図14では対象領域に設置されているマーカ400は一つであるが、対象領域にマーカ400を複数設置してもよい。複数のマーカ400を設置する場合、点群処理装置300は各マーカ400のマーカ周囲領域の第3三次元点群を生成するために複数の点群生成部を備える必要がある。複数のマーカ周囲領域それぞれの第3三次元点群を用いることにより、対象領域についての第1三次元点群の位置の検証精度や補正の精度を高めることができる。複数のマーカ400は対象領域内であればどこに設置してもよい。例えば、図20に示すように、対象領域が四角形状である場合、対象領域の四隅と略中央に合計五つのマーカ400を設置するのが好ましい。その場合、点群処理装置300は五つのマーカ周囲領域それぞれの第3三次元点群を生成する。
ここで、検証点としてマーカ400を設置し、第3三次元点群を用いて第1三次元点群の位置の精度検証を行う場合のGUI(Graphical User Interface)について説明する。
第3三次元点群を用いて第1三次元点群の位置の精度検証を行うためには上述したように、実際に第1三次元点群と第3三次元点群の位置誤差を測るために用いる位置(誤差測定用位置と称する)が必要である。その誤差測定用位置とは上述したように、第3三次元点群を構成する複数の点のXY座標の平均、中央値、点列の重心や平均位置、マーカ400の天面中心位置に最も近い点の位置などである。また、ユーザが実際に誤差測定用位置を入力により指定することもできる。GUIはユーザが誤差測定用位置を入力するために用いるものである。
GUIは表示装置500において表示されるものとする。表示部装置500は、例えば、液晶ディスプレイや有機EL(Electroluminescence)等のディスプレイデバイスなどである。表示装置500は、端末装置200が備えるものでもよいし、端末装置200に接続されるものでもよいし、精度検証処理を行う装置が備えるものでもよいし、精度検証処理を行う装置に接続されるものでもよい。また、表示装置500はGUI表示専用の装置でもよい。表示装置500がGUIの表示処理機能を備えていてもよいし、表示装置500を備えるまたは表示装置500が接続される端末装置200や精度検証処理を行う装置がGUIの表示処理機能を備えていてもよい。
図21Aに示すようにGUIの第1の表示態様において第1三次元点群をXY方向の2Dで表示している状態で、ユーザが第1三次元点群の精度検証を行うモードへの遷移を指示する入力を行うとGUIは第2の表示態様に遷移する。
図21Bに示すように、第2の表示態様では第3三次元点群をXY方向の2Dで表示する。この第2の表示態様によって図21Cに示すように、第3三次元点群におけるマーカの中心位置、すなわち誤差測定用位置が視認しやすくなり、ユーザは誤差測定用位置を入力により指定しやすくなる。
なお、第1三次元点群を2D表示している状態に限らず、第3三次元点群を表示する装置がどのような状態であってもユーザが第1三次元点群の精度検証を行うためのモードへの遷移を指示する入力を行うと第3三次元点群が表示されるようにしてもよい。
誤差測定用位置を指定するための入力は、表示装置500がタッチパネルである場合には表示装置500に対するタッチ入力でもよいし、表示装置500において第3三次元点群上に重畳表示したカーソルによる入力でもよいし、視線入力でもよいし、位置を指定することができる入力方法であればどのようなものでもよい。
ユーザは第3三次元点群を構成するいずれかの点を誤差測定用位置として選択するのではなく第3三次元点群における座標を指定する。よって、ユーザが指定するのは点である必要はなく、点と点の間であってもよい。座標はXY座標となる。
なお、ユーザが正確に誤差測定用位置として第3三次元点群の中心を指定することができるように、GUIにおいて第3三次元点群を拡大表示してもよい。拡大表示は、具体的な拡大率を数値で指定する方法でもよいし、表示装置500がタッチパネルである場合には、ユーザによるピンチイン操作に応じて拡大率を変化させてもよい。また、ユーザの入力に応じて第3三次元点群の表示範囲を調整できるようにしてもよい。
上述したように、第2の実施形態では、出力部309により第1三次元点群、第3三次元点群、マーカ400の三次元座標などをネットワークなどを介して外部装置やクラウドサーバなどに出力することで、外部で第1三次元点群の精度検証を行うことができる。よって、ユーザにより入力された誤差測定用位置もそれらの情報と合わせて外部装置やクラウドサーバに出力することにより、外部装置などで第1三次元点群の精度検証を行うことができる。なお、点群処理装置300が第1三次元点群の精度検証を行う機能を備えていてもよい。
図22Aに示すように誤差測定用位置が入力された場合、それを用いて第1三次元点群の精度検証を行う。第1三次元点群の精度検証を行うには図22Bに示すように誤差測定用位置の3D座標P=(XP,YP,ZP)が必要である。2D表示されている第3三次元点群に対するユーザの入力によりXY座標(XP,YP)は特定されているので、精度検証のためにはZ座標(ZP)を算出する必要がある。
Z座標は、例えば、第3三次元点群を構成する複数の点のうちユーザにより入力された誤差測定用位置の周囲N個(例えばN=4)の近傍点のZ座標の平均やMedian、近傍点とのXY距離に応じたZ座標の線形補間などにより算出することができる。
図23Aに示すように第1三次元点群を表示した状態で、ユーザがその表示を見て誤差測定用位置として第1三次元点群の中心を指定しようとすると、点群の密度が疎であるために、中心の周囲の点により形成される範囲(図23A中破線で示す)が大きくなり、入力位置と第1三次元点群の中心とにズレが生じてしまう。
一方、本技術のGUIによれば、図23Bに示すように、第1三次元点群よりも密度が高い第3三次元点群を表示するので、中心の周囲の点により形成される範囲(図23B中破線で示す)が小さくなり、誤差測定用位置の指定精度を高めることができる。よって、ユーザは誤差測定用位置としての第1三次元点群の中心を指定する入力を正確に行うことができる。これにより、第1三次元点群の精度検証をより正確に行うことができる。
第1三次元点群の精度検証においては、第1三次元点群上で誤差測定用位置の3D座標Pを基準として第1三次元点群とマーカ400の天面中心位置との位置誤差を計算する。
<変形例>
以上、本技術の実施形態について具体的に説明したが、本技術は上述の実施形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
以上、本技術の実施形態について具体的に説明したが、本技術は上述の実施形態に限定されるものではなく、本技術の技術的思想に基づく各種の変形が可能である。
図24は点群処理装置300の第1の変形例である。第1の変形例においては、点群処理装置300は点群補正部308の代わりに補正量算出部311を備える。補正量算出部311は実施の形態における点群補正部308と同じ方法で補正量を算出し、その補正量を第1点群生成部306に供給する。そして、第1点群生成部306が補正量に基づいてZ方向の位置とXY方向の位置のいずれか一方または両方を調整しながら第1三次元点群を生成する。
また、第1点群生成部306は、補正量算出部311が算出した補正量をカメラ位置情報に反映させて、補正したカメラ位置情報に基づいて第1三次元点群を生成してもよい。
また、第1点群生成部306は、三次元点群生成の過程で中間データとして生成されるデプス画像に対して補正量を反映させて第1三次元点群を生成してもよい。
図25は点群処理装置300の第2の変形例である。第2の変形例のように点群処理装置300は点群補正部308を備えない構成でもよい。その場合、出力部309は第1三次元点群と第2三次元点群を外部装置やシステムなどに出力し、その外部装置やシステムなどが補正量の算出と第1三次元点群の補正を行う。
図26は点群処理装置300の第3の変形例である。第3の変形例のように点群処理装置300は点群合成部312を備えてもよい。点群合成部312には第1点群生成部306から第1三次元点群が入力され、第2点群生成部307から第2三次元点群が入力される。点群合成部310は、それら複数の三次元点群を重ね合わせて合成三次元点群を生成する。合成三次元点群は複数の三次元点群を表示によりユーザに提示する際などにおいて有益である。なお、第1点群生成部306と第3点群生成部310を備える第2の実施形態の点群処理装置300が点群合成部312を備えていてもよい。また、点群処理装置300は点群補正部308と点群合成部312の両方を備えてもよいし、いずれか一方のみを備えてもよい。
図27は点群処理装置300の第4の変形例である。第4の変形例のように点群処理装置300は対象領域についての第1三次元点群を生成する第1点群生成部306と、一部領域についての第2三次元点群を生成する第2点群生成部307と、マーカ周囲領域についての第3三次元点群を生成する第3点群生成部310を備えてもよい。第2点群生成部307の処理は第1の実施形態と同様である。第3点群生成部310の処理は第2の実施形態と同様である。すなわち第1の実施形態と第2の実施形態を組み合わせてもよい。
第4の変形例によれば、第2三次元点群を用いて第1三次元点群のZ方向の位置の精度検証や補正を行い、第3三次元点群を用いて第1三次元点群のXY方向の位置の精度検証や補正を行うことができる。
第4の変形例では、対象領域内に端末装置200とマーカ400を設置する必要がある。画像選択部305は端末装置200の三次元座標に基づいて複数の画像から一部領域画像を選択して第2点群生成部307に出力する。また、画像選択部305はマーカ400の三次元座標に基づいて複数の画像からマーカ周囲領域画像を選択して第3点群生成部310に出力する。
なお、第4の変形例の点群処理装置300が点群合成部312を備えてもよい。
第2の実施形態の点群処理装置300は実施の形態で説明した方法で第1三次元点群の位置の精度検証を行う点群検証部や、第1三次元点群の補正を行う点群補正部を備えてもよい。その場合、出力部309は検証結果や補正された第1三次元点群を外部装置などに出力することができる。
また、第2の実施形態の点群処理装置300は、実施形態で説明した方法で第1三次元点群を補正するための補正量を算出する補正量算出部311を備え、補正量を情報として外部装置などに出力してもよい。その場合、その外部装置などで第1三次元点群の補正を行うことができる。また、第3の変形例、第4の変形例が上述した点群検証部、点群補正部、補正量算出部311のいずれかまたは複数を備えてもよい。
実施の形態では対象領域は上空から地表面を撮影することができる屋外の領域であるとしたが、屋内であっても移動体100が移動して撮影することができる空間であればどのような場所でもよい。その場合、屋内で端末装置200の三次元座標を取得するためにGNSSに代えてMBS(Metropolitan Beacon System)やBLE(Bluetooth Low Energy)ビーコンを用いる方法などの測位方法を用いるとよい。
移動体100は無人航空機以外にも、有人航空機、グライダー、ヘリコプター、気球、飛行船、ロケットなどでもよいし、建物内の天井など高い位置に設置したレールに沿って移動可能な装置でもよい。さらに、移動体100は上空を移動するものに限られず、自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、船舶、ロボット、建設機械、農業機械などであってもよい。
本技術は以下のような構成も取ることができる。
(1)
移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部と
を備える点群処理装置。
(2)
前記一部領域は前記端末装置を含み、前記対象領域よりも小さい領域である(1)に記載の点群処理装置。
(3)
前記第2点群生成部は、前記端末装置に関する情報である前記端末装置の三次元座標に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する(1)または(2)に記載の点群処理装置。
(4)
前記第2点群生成部は、前記端末装置に関する情報である前記画像内における前記端末装置の検出結果に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する(1)から(3)のいずれかに記載の点群処理装置。
(5)
前記第2三次元点群に基づいて前記第1三次元点群を補正するための補正量を算出する点群補正部を備える(1)から(4)のいずれかに点群処理装置。
(6)
前記点群補正部は、前記第2三次元点群のZ方向の所定値と、前記三次元座標のZ方向の値の差分を前記補正量として算出する(5)に記載の点群処理装置。
(7)
前記点群補正部は、前記第2三次元点群のXY方向の所定値と、前記三次元座標のXY方向の値の差分を前記補正量として算出する(5)または(6)に記載の点群処理装置。
(8)
前記点群補正部は、前記補正量を用いて前記第1三次元点群を補正する(5)から(7)のいずれかに記載の点群処理装置。
(9)
前記三次元座標は、衛星測位システムを利用して受信する情報に基づいて前記端末装置が取得する(3)に記載の点群処理装置。
(10)
前記端末装置は、前記衛星測位システムにおける前記情報を受信できる位置に設置される(9)に記載の点群処理装置。
(11)
前記第2三次元点群は前記第1三次元点群よりも高品質である(1)から(10)のいずれかに記載の点群処理装置。
(12)
前記端末装置は天面に特定の模様が付されている(1)から(11)のいずれかに記載の点群処理装置。
(13)
前記対象領域内に設置された前記端末装置において処理を行う(1)から(12)のいずれかに記載の点群処理装置。
(14)
前記第1三次元点群と前記第2三次元点群を合成する合成処理部を備える(1)から(13)のいずれかに記載の点群処理装置。
(15)
カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置と、
からなる点群処理システム。
(16)
移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部と
を備える点群処理装置。
(17)
前記マーカ周囲領域は前記マーカを含み、前記対象領域よりも小さい領域である(16)に記載の点群処理装置。
(18)
前記第3点群生成部は、前記マーカに関する情報である前記マーカの三次元座標に基づいて前記複数の画像から選択された、前記マーカが被写体として存在する画像を用いて前記第3三次元点群を生成する(16)または(17)に記載の点群処理装置。
(19)
前記マーカは位置情報検出機能を備える対空標識である(16)から(18)のいずれかに記載の点群処理装置。
(20)
前記マーカは、座標が既知である対空標識である(16)から(19)のいずれかに記載の点群処理装置。
(21)
前記マーカは、前記第1三次元点群の精度検証のための検証点として設置される(16)から(20)のいずれかに記載の点群処理装置。
(22)
前記マーカは、前記第1三次元点群を補正するためのGCP(Ground Control Point)または標定点として設置される(16)から(21)のいずれかに記載の点群処理装置。
(23)
前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部を備える(16)から(22)のいずれかに記載の点群処理装置。
(24)
前記第1三次元点群の精度検証のために前記第3三次元点群が表示部に表示される(16)に記載の点群処理装置。
(25)
前記第3三次元点群が表示されている状態で、ユーザによる前記第1三次元点群と前記第3三次元点群の位置誤差を測るために用いる位置の指定が可能である(24)に記載の点群処理装置。
(26)
前記位置は前記第3三次元点群における前記マーカの中心である(25)に記載の点群処理装置。
(27)
前記位置のXY座標に基づいて前記位置のZ座標が算出され、前記XY座標および前記Z座標に基づいて前記第1三次元点群と前記第3三次元点群の位置誤差が測定される(25)または(26)に記載の点群処理装置。
(28)
ユーザからの前記第1三次元点群の精度検証を指示する入力に応じて前記第3三次元点群が表示部に表示される(24)から(27)のいずれかに記載の点群処理装置。
(29)
カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部とを備える点群処理装置と、
からなる点群処理システム。
(1)
移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部と
を備える点群処理装置。
(2)
前記一部領域は前記端末装置を含み、前記対象領域よりも小さい領域である(1)に記載の点群処理装置。
(3)
前記第2点群生成部は、前記端末装置に関する情報である前記端末装置の三次元座標に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する(1)または(2)に記載の点群処理装置。
(4)
前記第2点群生成部は、前記端末装置に関する情報である前記画像内における前記端末装置の検出結果に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する(1)から(3)のいずれかに記載の点群処理装置。
(5)
前記第2三次元点群に基づいて前記第1三次元点群を補正するための補正量を算出する点群補正部を備える(1)から(4)のいずれかに点群処理装置。
(6)
前記点群補正部は、前記第2三次元点群のZ方向の所定値と、前記三次元座標のZ方向の値の差分を前記補正量として算出する(5)に記載の点群処理装置。
(7)
前記点群補正部は、前記第2三次元点群のXY方向の所定値と、前記三次元座標のXY方向の値の差分を前記補正量として算出する(5)または(6)に記載の点群処理装置。
(8)
前記点群補正部は、前記補正量を用いて前記第1三次元点群を補正する(5)から(7)のいずれかに記載の点群処理装置。
(9)
前記三次元座標は、衛星測位システムを利用して受信する情報に基づいて前記端末装置が取得する(3)に記載の点群処理装置。
(10)
前記端末装置は、前記衛星測位システムにおける前記情報を受信できる位置に設置される(9)に記載の点群処理装置。
(11)
前記第2三次元点群は前記第1三次元点群よりも高品質である(1)から(10)のいずれかに記載の点群処理装置。
(12)
前記端末装置は天面に特定の模様が付されている(1)から(11)のいずれかに記載の点群処理装置。
(13)
前記対象領域内に設置された前記端末装置において処理を行う(1)から(12)のいずれかに記載の点群処理装置。
(14)
前記第1三次元点群と前記第2三次元点群を合成する合成処理部を備える(1)から(13)のいずれかに記載の点群処理装置。
(15)
カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置と、
からなる点群処理システム。
(16)
移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部と
を備える点群処理装置。
(17)
前記マーカ周囲領域は前記マーカを含み、前記対象領域よりも小さい領域である(16)に記載の点群処理装置。
(18)
前記第3点群生成部は、前記マーカに関する情報である前記マーカの三次元座標に基づいて前記複数の画像から選択された、前記マーカが被写体として存在する画像を用いて前記第3三次元点群を生成する(16)または(17)に記載の点群処理装置。
(19)
前記マーカは位置情報検出機能を備える対空標識である(16)から(18)のいずれかに記載の点群処理装置。
(20)
前記マーカは、座標が既知である対空標識である(16)から(19)のいずれかに記載の点群処理装置。
(21)
前記マーカは、前記第1三次元点群の精度検証のための検証点として設置される(16)から(20)のいずれかに記載の点群処理装置。
(22)
前記マーカは、前記第1三次元点群を補正するためのGCP(Ground Control Point)または標定点として設置される(16)から(21)のいずれかに記載の点群処理装置。
(23)
前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部を備える(16)から(22)のいずれかに記載の点群処理装置。
(24)
前記第1三次元点群の精度検証のために前記第3三次元点群が表示部に表示される(16)に記載の点群処理装置。
(25)
前記第3三次元点群が表示されている状態で、ユーザによる前記第1三次元点群と前記第3三次元点群の位置誤差を測るために用いる位置の指定が可能である(24)に記載の点群処理装置。
(26)
前記位置は前記第3三次元点群における前記マーカの中心である(25)に記載の点群処理装置。
(27)
前記位置のXY座標に基づいて前記位置のZ座標が算出され、前記XY座標および前記Z座標に基づいて前記第1三次元点群と前記第3三次元点群の位置誤差が測定される(25)または(26)に記載の点群処理装置。
(28)
ユーザからの前記第1三次元点群の精度検証を指示する入力に応じて前記第3三次元点群が表示部に表示される(24)から(27)のいずれかに記載の点群処理装置。
(29)
カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部とを備える点群処理装置と、
からなる点群処理システム。
100・・・移動体
105・・・カメラ
200・・・端末装置
300・・・点群処理装置
306・・・第1点群生成部
307・・・第2点群生成部
310・・・第3点群生成部
308・・・点群補正部
400・・・マーカ
1000・・点群処理システム
105・・・カメラ
200・・・端末装置
300・・・点群処理装置
306・・・第1点群生成部
307・・・第2点群生成部
310・・・第3点群生成部
308・・・点群補正部
400・・・マーカ
1000・・点群処理システム
Claims (29)
- 移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部と
を備える点群処理装置。 - 前記一部領域は前記端末装置を含み、前記対象領域よりも小さい領域である
請求項1に記載の点群処理装置。 - 前記第2点群生成部は、前記端末装置に関する情報である前記端末装置の三次元座標に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する
請求項1に記載の点群処理装置。 - 前記第2点群生成部は、前記端末装置に関する情報である前記画像内における前記端末装置の検出結果に基づいて前記複数の画像から選択された、前記端末装置が被写体として存在する画像を用いて前記第2三次元点群を生成する
請求項1に記載の点群処理装置。 - 前記第2三次元点群に基づいて前記第1三次元点群を補正するための補正量を算出する点群補正部を備える
請求項1に点群処理装置。 - 前記点群補正部は、前記第2三次元点群のZ方向の所定値と、前記三次元座標のZ方向の値の差分を前記補正量として算出する
請求項5に記載の点群処理装置。 - 前記点群補正部は、前記第2三次元点群のXY方向の所定値と、前記三次元座標のXY方向の値の差分を前記補正量として算出する
請求項5に記載の点群処理装置。 - 前記点群補正部は、前記補正量を用いて前記第1三次元点群を補正する
請求項5に記載の点群処理装置。 - 前記三次元座標は、衛星測位システムを利用して受信する情報に基づいて前記端末装置が取得する
請求項3に記載の点群処理装置。 - 前記端末装置は、前記衛星測位システムにおける前記情報を受信できる位置に設置される
請求項9に記載の点群処理装置。 - 前記第2三次元点群は前記第1三次元点群よりも高品質である
請求項1に記載の点群処理装置。 - 前記端末装置は天面に特定の模様が付されている
請求項1に記載の点群処理装置。 - 前記対象領域内に設置された前記端末装置において処理を行う
請求項1に記載の点群処理装置。 - 前記第1三次元点群と前記第2三次元点群を合成する合成処理部を備える
請求項1に記載の点群処理装置。 - カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部とを備える点群処理装置と、
からなる点群処理システム。 - 移動体が備えるカメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、
前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部と
を備える点群処理装置。 - 前記マーカ周囲領域は前記マーカを含み、前記対象領域よりも小さい領域である
請求項16に記載の点群処理装置。 - 前記第3点群生成部は、前記マーカに関する情報である前記マーカの三次元座標に基づいて前記複数の画像から選択された、前記マーカが被写体として存在する画像を用いて前記第3三次元点群を生成する
請求項16に記載の点群処理装置。 - 前記マーカは位置情報検出機能を備える対空標識である
請求項16に記載の点群処理装置。 - 前記マーカは、座標が既知である対空標識である
請求項16に記載の点群処理装置。 - 前記マーカは、前記第1三次元点群の精度検証のための検証点として設置される
請求項16に記載の点群処理装置。 - 前記マーカは、前記第1三次元点群を補正するためのGCP(Ground Control Point)または標定点として設置される
請求項16に記載の点群処理装置。 - 前記複数の画像のうち、前記対象領域内に設置された端末装置に関する情報に基づいて選択された画像を用いて前記対象領域内の一部領域の第2三次元点群を生成する第2点群生成部を備える
請求項16に記載の点群処理装置。 - 前記第3三次元点群は、前記第1三次元点群の精度検証のために表示装置において表示される
請求項16に記載の点群処理装置。
- 前記第3三次元点群が表示されている状態で、ユーザによる前記第1三次元点群と前記第3三次元点群の位置誤差を測るために用いる位置の指定が可能である
請求項24に記載の点群処理装置。 - 前記位置は前記第3三次元点群における前記マーカの中心である
請求項25に記載の点群処理装置。 - 前記位置のXY座標に基づいて前記位置のZ座標が算出され、前記XY座標および前記Z座標に基づいて前記第1三次元点群と前記第3三次元点群の位置誤差が測定される
請求項25に記載の点群処理装置。 - ユーザからの前記第1三次元点群の精度検証を指示する入力に応じて前記第3三次元点群が前記表示装置において表示される
請求項24に記載の点群処理装置。 - カメラを備える移動体と、
前記移動体が備える前記カメラで撮影された複数の画像を用いて対象領域の第1三次元点群を生成する第1点群生成部と、前記複数の画像のうち、前記対象領域内に設置されたマーカに関する情報に基づいて選択された画像を用いて前記対象領域内のマーカ周囲領域の第3三次元点群を生成する第3点群生成部とを備える点群処理装置と、
からなる点群処理システム。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2025512028A JP7706037B1 (ja) | 2024-01-11 | 2024-12-17 | 点群処理装置および点群処理システム |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2024002330 | 2024-01-11 | ||
| JP2024-002330 | 2024-01-11 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2025150362A1 true WO2025150362A1 (ja) | 2025-07-17 |
Family
ID=96386726
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2024/044597 Pending WO2025150362A1 (ja) | 2024-01-11 | 2024-12-17 | 点群処理装置および点群処理システム |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2025109173A (ja) |
| WO (1) | WO2025150362A1 (ja) |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001004372A (ja) * | 1999-06-16 | 2001-01-12 | Asahi Optical Co Ltd | 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体 |
| WO2014141522A1 (ja) * | 2013-03-12 | 2014-09-18 | 富士フイルム株式会社 | 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム |
| JP2017049883A (ja) * | 2015-09-03 | 2017-03-09 | 国際航業株式会社 | ステレオペア画像表示装置 |
| JP2018159693A (ja) * | 2017-03-24 | 2018-10-11 | 富士通株式会社 | 情報処理プログラム、情報処理方法、および情報処理装置 |
| WO2020111139A1 (ja) * | 2018-11-29 | 2020-06-04 | Necソリューションイノベータ株式会社 | 座標算出装置、座標算出方法、及びコンピュータ読み取り可能な記録媒体 |
| JP2022129040A (ja) * | 2021-02-24 | 2022-09-05 | 国際航業株式会社 | 適正画像選択システム |
| WO2023223887A1 (ja) * | 2022-05-18 | 2023-11-23 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法、表示制御装置、表示制御方法 |
-
2024
- 2024-09-25 JP JP2024165949A patent/JP2025109173A/ja active Pending
- 2024-12-17 WO PCT/JP2024/044597 patent/WO2025150362A1/ja active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2001004372A (ja) * | 1999-06-16 | 2001-01-12 | Asahi Optical Co Ltd | 写真測量画像処理装置、写真測量画像処理方法、および写真測量画像処理プログラムを格納した記憶媒体 |
| WO2014141522A1 (ja) * | 2013-03-12 | 2014-09-18 | 富士フイルム株式会社 | 画像判定装置、撮像装置、3次元計測装置、画像判定方法、及びプログラム |
| JP2017049883A (ja) * | 2015-09-03 | 2017-03-09 | 国際航業株式会社 | ステレオペア画像表示装置 |
| JP2018159693A (ja) * | 2017-03-24 | 2018-10-11 | 富士通株式会社 | 情報処理プログラム、情報処理方法、および情報処理装置 |
| WO2020111139A1 (ja) * | 2018-11-29 | 2020-06-04 | Necソリューションイノベータ株式会社 | 座標算出装置、座標算出方法、及びコンピュータ読み取り可能な記録媒体 |
| JP2022129040A (ja) * | 2021-02-24 | 2022-09-05 | 国際航業株式会社 | 適正画像選択システム |
| WO2023223887A1 (ja) * | 2022-05-18 | 2023-11-23 | ソニーセミコンダクタソリューションズ株式会社 | 情報処理装置、情報処理方法、表示制御装置、表示制御方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2025109173A (ja) | 2025-07-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7706037B1 (ja) | 点群処理装置および点群処理システム | |
| EP2772725B1 (en) | Aerial Photographing System | |
| US11263761B2 (en) | Systems and methods for visual target tracking | |
| JP7556383B2 (ja) | 情報処理装置、情報処理方法、情報処理プログラム、画像処理装置および画像処理システム | |
| KR102001728B1 (ko) | 스테레오 카메라 드론을 활용한 무기준점 3차원 위치좌표 취득 방법 및 시스템 | |
| US10175042B2 (en) | Adaptive compass calibration based on local field conditions | |
| US9641810B2 (en) | Method for acquiring images from arbitrary perspectives with UAVs equipped with fixed imagers | |
| JP5748561B2 (ja) | 航空写真撮像方法及び航空写真撮像装置 | |
| WO2018195869A1 (en) | Systems and methods for generating real-time map using movable object | |
| CN109708622A (zh) | 基于Pixhawk利用无人机对建筑物进行三维建模的方法 | |
| CN106796112A (zh) | 检测车辆控制设备、控制方法和计算机程序 | |
| US11122209B2 (en) | Three-dimensional shape estimation method, three-dimensional shape estimation system, flying object, program and recording medium | |
| JP6675537B1 (ja) | 飛行経路生成装置、飛行経路生成方法とそのプログラム、構造物点検方法 | |
| WO2019189381A1 (ja) | 移動体、制御装置、および制御プログラム | |
| CN110487253A (zh) | 一种基于多旋翼无人机高精度不动产测量方法 | |
| CN106005455B (zh) | 一种基于地理坐标系指向控制的两轴吊舱系统 | |
| CN105758384A (zh) | 一种无人机摇摆式倾斜摄影系统 | |
| Lauterbach et al. | The Eins3D project—Instantaneous UAV-based 3D mapping for Search and Rescue applications | |
| CN112837378B (zh) | 一种基于多无人机编队的航拍相机姿态外部动态标定以及测绘方法 | |
| JPWO2018146803A1 (ja) | 位置処理装置、飛行体、位置処理システム、飛行システム、位置処理方法、飛行制御方法、プログラム、及び記録媒体 | |
| CN110296688A (zh) | 一种基于被动地理定位技术的侦测一体倾斜航测吊舱 | |
| JP2026042796A (ja) | 画像処理装置、画像処理方法及びプログラム | |
| CN110095659B (zh) | 深空探测巡视器通讯天线指向精度动态测试方法 | |
| CN115046531A (zh) | 一种基于无人机的杆塔测量方法、电子平台和存储介质 | |
| WO2020225979A1 (ja) | 情報処理装置、情報処理方法、プログラム、及び情報処理システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| ENP | Entry into the national phase |
Ref document number: 2025512028 Country of ref document: JP Kind code of ref document: A |
|
| WWE | Wipo information: entry into national phase |
Ref document number: 2025512028 Country of ref document: JP |
|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 24917046 Country of ref document: EP Kind code of ref document: A1 |