WO2018179423A1 - 点群処理システム - Google Patents

点群処理システム Download PDF

Info

Publication number
WO2018179423A1
WO2018179423A1 PCT/JP2017/013823 JP2017013823W WO2018179423A1 WO 2018179423 A1 WO2018179423 A1 WO 2018179423A1 JP 2017013823 W JP2017013823 W JP 2017013823W WO 2018179423 A1 WO2018179423 A1 WO 2018179423A1
Authority
WO
WIPO (PCT)
Prior art keywords
point cloud
point
cloud data
point group
dimensional
Prior art date
Application number
PCT/JP2017/013823
Other languages
English (en)
French (fr)
Inventor
俊二 菅谷
Original Assignee
株式会社オプティム
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社オプティム filed Critical 株式会社オプティム
Priority to JP2018550476A priority Critical patent/JP6495559B2/ja
Priority to PCT/JP2017/013823 priority patent/WO2018179423A1/ja
Publication of WO2018179423A1 publication Critical patent/WO2018179423A1/ja

Links

Images

Classifications

    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04—Interpretation of pictures
    • G—PHYSICS
    • G01—MEASURING; TESTING
    • G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C7/00—Tracing profiles
    • G01C7/02—Tracing profiles of land surfaces

Definitions

  • the present invention relates to a point cloud processing system, method, and program.
  • a technique is known in which an unmanned air vehicle such as a drone is used to photograph the sky and the distance to the ground is measured by a radar.
  • An attempt has been made to acquire three-dimensional point cloud data of a field such as a construction site using this technique (see, for example, Patent Document 1).
  • the point cloud data includes three-dimensional coordinate data and color data. Then, using these three-dimensional coordinate data and color data, a soil volume calculation for making the designed land is performed from an aerial image taken by an unmanned air vehicle.
  • the present invention has been made in view of such a demand, and an object of the present invention is to provide a system that makes it possible to accurately extract or delete a desired region from point cloud data.
  • the present invention provides the following solutions.
  • the invention is a point cloud processing system for processing three-dimensional point cloud data, Obtaining means for obtaining three-dimensional point cloud data including the color and three-dimensional coordinates of a point to be processed; Image display means for displaying the three-dimensional point cloud data in a predetermined dimension based on the three-dimensional coordinates; Accepting means for accepting a change in parameters relating to the analysis method of the point to be processed; A point cloud processing system comprising: a re-display unit that re-displays the point cloud reflecting the received parameter change.
  • the invention relating to the first feature, it is possible to change the parameters related to the analysis method of the point to be processed for the three-dimensional point cloud data and redisplay the point cloud reflecting the change. . Therefore, it is possible to provide a system that can accurately extract or delete an area desired by a user from a point cloud image.
  • the invention according to the second feature is the invention according to the first feature, Learning means for learning a correlation between the three-dimensional point cloud data and the parameter;
  • a point group processing system further comprising a recommendation unit that recommends a parameter to be set with new three-dimensional point group data based on a result learned by the learning unit.
  • the correlation between the 3D point cloud data and the parameters is learned, and parameters to be set in the new 3D point cloud data are recommended based on the learning result. Therefore, it is possible to further increase the accuracy of accurately extracting or deleting a region desired by the user from the point cloud image.
  • FIG. 1 is a block diagram showing a hardware configuration and software functions of a point cloud processing system 1 in the present embodiment.
  • FIG. 2 is a flowchart showing a point cloud processing method according to this embodiment.
  • FIG. 3 is an example when a two-dimensional image of three-dimensional point cloud data is displayed on the image display unit 34.
  • FIG. 4 is a display example on the image display unit 34 when a parameter change is received.
  • FIG. 5 is an example when the two-dimensional image of the three-dimensional point cloud data is redisplayed on the image display unit 34.
  • FIG. 1 is a block diagram for explaining the hardware configuration and software functions of a point cloud processing system 1 according to this embodiment.
  • the point cloud processing system 1 is a system for processing 3D point cloud data.
  • the point cloud processing system 1 is connected to an aerial imaging apparatus 10 that captures an imaging target, wirelessly communicates with the aerial imaging apparatus 10, a controller 20 that controls the aerial imaging apparatus 10, and the aerial imaging apparatus 10. And a point cloud processing device 30 for processing an image (three-dimensional point cloud data).
  • the aerial imaging device 10 is not particularly limited as long as it is a device that can shoot a subject to be photographed from the sky.
  • the aerial imaging apparatus 10 may be a radio controlled airplane or an unmanned aerial vehicle called a drone. In the following description, it is assumed that the aerial imaging apparatus 10 is a drone.
  • the aerial imaging apparatus 10 is powered by a battery 11 that functions as a power source for the aerial imaging apparatus 10, a motor 12 that operates with electric power supplied from the battery 11, and the motor 12. And a rotor 13.
  • the aerial imaging device 10 also includes a control unit 14 that controls the operation of the aerial imaging device 10, a position detection unit 15 that transmits position information of the aerial imaging device 10 to the control unit 14, and a control signal from the control unit 14.
  • a driver circuit 16 for driving the motor 12, a camera 17 for taking an aerial image of an object to be photographed in accordance with a control signal from the control unit 14, a control program executed by the microcomputer of the control unit 14, and the like are stored in advance. 17 includes a storage unit 18 for storing an image taken by the camera.
  • the aerial imaging apparatus 10 includes a wireless communication unit 19 that performs wireless communication with the controller 20.
  • a main body structure (frame or the like) having a predetermined shape.
  • a main body structure (frame or the like) having a predetermined shape a similar one to a known drone may be adopted.
  • the battery 11 is a primary battery or a secondary battery, and supplies power to each component in the aerial imaging apparatus 10.
  • the battery 11 may be fixed to the aerial imaging apparatus 100 or may be detachable.
  • the motor 12 functions as a drive source for rotating the rotor 13 with electric power supplied from the battery 11.
  • the aerial imaging device 10 can be levitated and flying.
  • the controller 14 includes a CPU (Central Processing Unit), a RAM (Random Access Memory), a ROM (Read Only Memory), and the like.
  • CPU Central Processing Unit
  • RAM Random Access Memory
  • ROM Read Only Memory
  • control unit 14 implements the photographing module 141 by reading a predetermined program.
  • the control unit 14 controls the motor 12 to perform flight control (control of ascending, descending, horizontal movement, etc.) of the aerial imaging apparatus 10.
  • the control unit 14 controls the attitude of the aerial imaging apparatus 10 by controlling the motor 12 using a gyro (not shown) mounted on the aerial imaging apparatus 10.
  • the position detection unit 15 includes a LIDAR (Laser Imaging Detection and Ranging) technique and a GPS (Global Positioning System) technique.
  • LIDAR Laser Imaging Detection and Ranging
  • GPS Global Positioning System
  • the driver circuit 16 has a function of applying a voltage designated by a control signal from the control unit 14 to the motor 12. As a result, the driver circuit 16 can drive the motor 12 in accordance with the control signal from the control unit 14.
  • the camera 17 has a function of converting (imaging) an optical image captured by a lens into an image signal by an imaging element such as a CCD or a CMOS.
  • the type of the camera 17 may be selected as appropriate according to the image analysis method to be photographed.
  • the storage unit 18 is a device that stores data and files, and includes a data storage unit such as a hard disk, a semiconductor memory, a recording medium, or a memory card.
  • the storage unit 18 stores a control program storage area (not shown) for storing in advance a control program executed by the microcomputer of the control unit 14, and image data captured by the camera 17.
  • a group data storage area (not shown) and the like are provided.
  • the data stored in the three-dimensional point cloud data storage area can be transferred to the point cloud processing device 30 through a portable recording medium such as a USB memory or an SD card.
  • the wireless communication unit 19 is configured to be able to perform wireless communication with the controller 20 and receives a remote control signal from the controller 20.
  • the controller 20 has a function of operating the aerial imaging apparatus 10.
  • the controller 20 includes an operation unit 21 that is used by a user to steer the aerial imaging apparatus 10, a control unit 22 that controls the operation of the controller 20, a control program that is executed by a microcomputer of the control unit 22, and the like.
  • a storage unit 23 to be stored, a wireless communication unit 24 that wirelessly communicates with the aerial imaging apparatus 10, and an image display unit 25 that displays a predetermined image to the user are provided.
  • the wireless communication unit 24 is configured to be capable of wireless communication with the aerial imaging apparatus 10 and receives a remote control signal toward the aerial imaging apparatus 10.
  • the image display unit 25 may be integrated with a control device that controls the aerial imaging device 10, or may be separate from the control device. If integrated with the control device, the number of devices used by the user can be reduced, and convenience is enhanced.
  • examples of the image display unit 25 include portable terminal devices such as smartphones and tablet terminals that can be wirelessly connected to the wireless communication unit 19 of the aerial imaging device 10.
  • the control device is separate from the control device, an existing control device that does not have the image display unit 25 can be applied.
  • the point cloud processing device 30 has a function of processing three-dimensional point cloud data of a photographed image photographed using the camera of the aerial imaging device 10.
  • the point cloud processing device 30 includes an input unit 31 for a user to input command information, a control unit 32 for controlling the operation of the point cloud processing device 30, a control program executed by a microcomputer of the control unit 32, and the like. Is stored in advance, and an image display unit 34 for displaying a predetermined image to the user.
  • the control unit 32 implements an acquisition module 321, an image display module 322, a reception module 323, a redisplay module 324, a learning module 325, and a recommendation module 326 by reading a predetermined program.
  • the storage unit 33 stores a 3D point cloud database 331 that stores the 3D point cloud data stored in the storage unit 18 of the aerial imaging apparatus 10 transferred through a portable recording medium such as a USB memory or an SD card.
  • a parameter setting area 332 that stores setting values of various parameters set by the user, a parameter learning area 333 that stores recommended values of parameters obtained by the execution of the learning module 325, and the like.
  • FIG. 2 is a flowchart showing a point cloud processing method using the point cloud processing system 1. The processing executed by each hardware and the software module described above will be described.
  • Step S10 Acquisition of Captured 3D Point Cloud Data
  • the control unit 14 of the aerial imaging apparatus 10 of the point cloud processing system 1 executes the imaging module 141 and controls the camera 17 to image the imaging target. Then, the control unit 14 converts the image data captured by the camera 17 into the three-dimensional coordinate data detected by the position detection unit 15 (the latitude of each point constituting the three-dimensional point cloud data of the image captured by the camera 17, The longitude and height (for example, the height of a tree) are stored in a three-dimensional point cloud data storage area (not shown) of the storage unit 18.
  • the information stored in the 3D point cloud data storage area is stored in the 3D point cloud database 331 of the point cloud processing device 30 via the recording medium after the aerial imaging device 10 has landed.
  • the control unit 32 of the point cloud processing device 30 executes the acquisition module 321 to acquire 3D point cloud data including the color and 3D coordinates of the point to be processed.
  • Step S11 Image Display of 3D Point Cloud Data
  • the control unit 32 of the point group processing apparatus 30 executes the image display module 322, and based on the three-dimensional coordinates included in the three-dimensional point group data, the three-dimensional point group data is displayed in a predetermined dimension. 34.
  • the dimension of the image to be displayed is not particularly limited.
  • the image display unit 34 may display a two-dimensional image as a two-dimensional image or three-dimensionally as a three-dimensional image.
  • FIG. 3 shows an example when a 2D image of 3D point cloud data is displayed on the image display unit 34.
  • the three-dimensional point cloud data includes color information.
  • the two-dimensional image includes a region 101 indicating a forest and a region 102 indicating a flat ground.
  • Step S12 Accept parameter change
  • FIG. 4 shows a display example on the image display unit 34 when a parameter change is received.
  • a parameter setting operation area 103 forest detection intensity, forest removal intensity, height resolution, color resolution is displayed.
  • the forest detection intensity is an intensity at which the control unit 32 detects the forest based on the point height (for example, tree height) and color for each point constituting the three-dimensional point cloud data. means.
  • the control unit 32 recognizes that the point is the region 101 indicating the forest only when the height of the point (for example, the height of the tree or crop) is high and the color is dark green. .
  • the area 102 is recognized as a flat area 102.
  • the control unit 32 is a region where the point indicates a forest even when the height of the point (for example, the height of a tree or the height of a crop) is low or the color is yellow-green. If the color is earthy, it is recognized as an area 102 indicating a flat ground.
  • Deforestation intensity means the extent to which the area 101 indicating the forest is excluded from the 3D point cloud data.
  • the control unit 32 has a high point height (for example, a tree height) and a low point height (for example, a tree height) as well as a region having a dark green color. In some cases, the region whose color is yellowish green is also changed from the display state to the non-display state as the region 101 indicating the forest.
  • the intensity determines that only a region having a high point height (for example, a tree height) and a dark green color is the region 101 indicating the forest, from the display state to the non-display state. Change to
  • a field or a vacant land with grass is not necessarily an area 101 indicating a forest even if the color is green.
  • the setting of the deforestation intensity is particularly important in order to prevent erroneous recognition of the region 101 indicating the forest in spite of the fact that the region 102 is actually flat.
  • the user-desired region (here, the region 101 indicating the forest) is deleted from the three-dimensional point cloud data.
  • the user desires from the three-dimensional point cloud data. It is good also as a setting which extracts an area.
  • ⁇ Height resolution means the function of adjusting the accuracy of point height (for example, tree height). If the accuracy is high, the height of a point (for example, the height of a tree) is determined in centimeters. If the accuracy is low, the height of the point (eg, the height of the tree) is determined in meters.
  • the color resolution means a function that determines how far a color is judged with respect to the color.
  • the color resolution is high, for example, the RGB value is determined in one unit.
  • the color resolution is low, for example, the RGB value is determined in units of 10 units.
  • the left side of the image display unit 34 displays the current image (image before update), that is, the image displayed on the image display unit 34 in the process of step S11.
  • an updated image that is, an image when various parameters are set under the conditions shown in the setting operation area 103 and the green area 101 indicating the forest is changed from the display state to the non-display state is shown.
  • a confirmation area 104 is provided below the setting operation area 103, and the letters “OK” are shown in the center.
  • the cursor 105 is clicked on the confirmation area 104, the changed parameter setting value is confirmed.
  • the changed parameter setting value is stored in the parameter setting area 332 of the storage unit 33.
  • Step S13 Redisplay of the point cloud reflecting the change
  • FIG. 5 is an example when the two-dimensional image of the three-dimensional point cloud data is redisplayed on the image display unit 34.
  • the area 101 indicating the forest that has been displayed is not displayed, and only the area 102 indicating the flat ground is displayed.
  • an area which is actually a flat land instead of a forest even if the color is green, such as a vacant land where fields and grass grow is an area 102 indicating a flat ground. It is displayed correctly.
  • the point cloud processing system 1 that can improve the accuracy that the redisplayed image of the point cloud is an image obtained by accurately deleting the region desired by the user.
  • Step S14 Learn the correlation between 3D point cloud data and parameters S14]
  • the setting operation area 103 is manually operated when a parameter change is accepted.
  • the control unit 32 of the point cloud processing device 30 executes the learning module 325 to execute the three-dimensional point cloud data and the step S12. It is preferable to learn the correlation with the parameters set in the process.
  • the learning result is stored in the parameter learning area 333 of the storage unit 33. Then, when executing the process of step S12 again, the control unit 32 of the point cloud processing device 30 executes the recommendation module 326, and based on the content stored in the parameter learning area 333, new three-dimensional point cloud data. It is preferable to recommend the parameter to be set to the operator.
  • the point cloud processing system 1 can operate the point cloud processing system 1 with peace of mind.
  • the means and functions described above are realized by a computer (including a CPU, an information processing apparatus, and various terminals) reading and executing a predetermined program.
  • the program is provided in a form recorded on a computer-readable recording medium such as a flexible disk, CD (CD-ROM, etc.), DVD (DVD-ROM, DVD-RAM, etc.).
  • the computer reads the program from the recording medium, transfers it to the internal storage device or the external storage device, stores it, and executes it.
  • the program may be recorded in advance in a storage device (recording medium) such as a magnetic disk, an optical disk, or a magneto-optical disk, and provided from the storage device to a computer via a communication line.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】点群データから所望の領域を正確に抽出又は削除可能なシステムを提供する。 【解決手段】本発明の点群処理システム１は、空撮装置１０と、コントローラ２０と、点群処理装置３０とを備える。点群処理装置３０の制御部３２は、取得モジュール３２１を実行し、空撮装置１０が撮影した処理対象における点の色及び３次元座標を含む３次元点群データを取得し、記憶部３３の３次元点群データベース３３１に記憶する。続いて、制御部３２は、画像表示モジュール３２２を実行し、画像表示部３４に３次元点群データを画像表示する。続いて、制御部３２は、受付モジュール３２３を実行し、処理の対象となる点の解析手法に関するパラメータの変更を受け付け、パラメータ設定領域３３２に記憶する。そして、制御部３２は、再表示モジュール３２４を実行し、パラメータの変更を反映させた点群を画像表示部３４に再表示する。

Description

点群処理システム
　本発明は、点群処理システム、方法及びプログラムに関する。
　ドローン等の無人飛行体で上空を撮影し、地面までの距離をレーダで測定する技術が知られている。この技術を利用して、建設現場等のフィールドの３次元点群データを取得する試みがされている（例えば、特許文献１参照）。点群データは、三次元座標データと色彩データとを含んで構成される。そして、これら三次元座標データと色彩データを用いて、無人飛行体による空撮画像から、設計した造成地にする為の土量計算が行われる。
特開２０１６－１９４５１５号公報
　ところで、点群データを取得した後に、所望の領域のみを抽出したい、削除したい等のニーズがある。例えば、ある空き地を撮影した場合に、撮影した空き地の画像から、森林部分のみを抽出したい、削除したい等のニーズがある。その際、所望する森林部分のみを画像解析で選択させるが、例えば、点の色彩や高度等で区別して、人工知能に選択させても、適切に森林等の所定の領域を選択するのが困難な場合が多い。
　本発明は、このような要望に鑑みてなされたものであり、その目的は、点群データから所望の領域を正確に抽出あるいは削除することを可能にするシステムを提供することである。
　本発明では、以下のような解決手段を提供する。
　第１の特徴に係る発明は、３次元点群データを処理する点群処理システムであって、
　処理の対象となる点の色及び３次元座標を含む３次元点群データを取得する取得手段と、
　前記３次元座標に基づいて、前記３次元点群データを所定の次元で画像表示する画像表示手段と、
　処理の対象となる点の解析手法に関するパラメータの変更を受け付ける受付手段と、
　前記受け付けたパラメータの変更を反映させた点群を再表示する再表示手段と、を備える点群処理システムを提供する。
　第１の特徴に係る発明によると、３次元点群データについて、処理の対象となる点の解析手法に関するパラメータの変更を施し、その変更を反映させた点群を再表示することが可能となる。そのため、点群の画像から、ユーザが所望する領域を正確に抽出あるいは削除することが可能なシステムを提供できる。
　第２の特徴に係る発明は、第１の特徴に係る発明であって、
　前記３次元点群データと前記パラメータとの相関関係を学習する学習手段と、
　前記学習手段によって学習された結果に基づいて、新たな３次元点群データで設定すべきパラメータを推薦する推薦手段と、をさらに備える、点群処理システムを提供する。
　第２の特徴に係る発明によると、３次元点群データとパラメータとの相関関係が学習され、その学習の結果に基づいて、新たな３次元点群データで設定すべきパラメータが推薦される。そのため、点群の画像から、ユーザが所望する領域を正確に抽出あるいは削除することの精度をよりいっそう高めることができる。
　本発明によれば、点群の画像から、ユーザが所望する領域を正確に抽出あるいは削除することが可能なシステムを提供できる。
図１は、本実施形態における点群処理システム１のハードウェア構成とソフトウェア機能を示すブロック図である。 図２は、本実施形態における点群処理方法を示すフローチャートである。 図３は、画像表示部３４に３次元点群データの２次元画像を表示したときの一例である。 図４は、パラメータの変更を受け付ける際における画像表示部３４での表示例である。 図５は、画像表示部３４に３次元点群データの２次元画像を再表示したときの一例である。
　以下、本発明を実施するための形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
＜点群処理システム１の構成＞
　図１は、本実施形態における点群処理システム１のハードウェア構成とソフトウェア機能を説明するためのブロック図である。点群処理システム１は、３次元点群データを処理するためのシステムである。
　点群処理システム１は、撮影対象を撮影する空撮装置１０と、この空撮装置１０と無線通信できるように接続され、空撮装置１０を操縦するコントローラ２０と、空撮装置１０が撮影した画像（３次元点群データ）を処理する点群処理装置３０とを含んで構成される。
〔空撮装置１０〕
　空撮装置１０は、撮影対象を空から撮影可能な装置であれば、特に限定されない。例えば、空撮装置１０は、ラジコン飛行機であってもよいし、ドローンと呼ばれる無人飛行体であってもよい。以下では、空撮装置１０がドローンであるものとして説明する。
　空撮装置１０は、空撮装置１０の電源として機能する電池１１と、電池１１から供給される電力で動作するモーター１２と、モーター１２の動作によって回転し、空撮装置１０を浮上及び飛行させるローター１３とを備える。
　また、空撮装置１０は、空撮装置１０の動作を制御する制御部１４と、制御部１４に空撮装置１０の位置情報を伝える位置検出部１５と、制御部１４からの制御信号にしたがってモーター１２を駆動するドライバー回路１６と、制御部１４からの制御信号にしたがって撮影対象を空撮するカメラ１７と、制御部１４のマイクロコンピューターで実行される制御プログラム等があらかじめ格納されるとともに、カメラ１７が撮影した画像を記憶する記憶部１８とを備える。
　そして、空撮装置１０は、コントローラ２０との間で無線通信する無線通信部１９を備える。
　これらの構成要素は、所定形状の本体構造体（フレーム等）に搭載されている。所定形状の本体構造体（フレーム等）については、既知のドローンと同様なものを採用すればよい。
［電池１１］
　電池１１は、１次電池又は２次電池であり、空撮装置１０内の各構成要素に電力を供給する。電池１１は、空撮装置１００に固定されていてもよいし、着脱可能としてもよい
［モーター１２、ローター１３］
　モーター１２は、電池１１から供給される電力でローター１３を回転させるための駆動源として機能する。ローター１３が回転することで、空撮装置１０を浮上及び飛行させることができる。
［制御部１４］
　制御部１４は、ＣＰＵ（Ｃｅｎｔｒａｌ　Ｐｒｏｃｅｓｓｉｎｇ　Ｕｎｉｔ）、ＲＡＭ（Ｒａｎｄｏｍ　Ａｃｃｅｓｓ　Ｍｅｍｏｒｙ）、ＲＯＭ（Ｒｅａｄ　Ｏｎｌｙ　Ｍｅｍｏｒｙ）等を備える。
　また、制御部１４は、所定のプログラムを読み込むことで、撮影モジュール１４１を実現する。
　制御部１４は、モーター１２を制御して空撮装置１０の飛行制御（上昇、下降、水平移動などの制御）を行う。また、制御部１４は、空撮装置１０に搭載されているジャイロ（図示省略）を使用して、モーター１２を制御して空撮装置１０の姿勢制御を行う。
［位置検出部１５］
　位置検出部１５は、ＬＩＤＡＲ（Ｌａｓｅｒ　Ｉｍａｇｉｎｇ　Ｄｅｔｅｃｔｉｏｎ　ａｎｄ　Ｒａｎｇｉｎｇ）技術と、ＧＰＳ（Ｇｌｏｂａｌ　Ｐｏｓｉｔｉｏｎｉｎｇ　Ｓｙｓｔｅｍ）技術とを含んで構成される。これらＬＩＤＡＲ技術とＧＰＳ技術とを併用して、カメラ１７が撮影した画像の３次元点群データを構成する各々の点の緯度、経度、高さ（例えば、木の高さ）を検出する。
［ドライバー回路１６］
　ドライバー回路１６は、制御部１４からの制御信号より指定された電圧をモーター１２に印加する機能を有する。これにより、ドライバー回路１６は、制御部１４からの制御信号にしたがってモーター１２を駆動させることができる。
［カメラ１７］
　カメラ１７は、レンズにより取り込んだ光学像をＣＣＤやＣＭＯＳ等の撮像素子によって画像信号に変換（撮像）する機能を有する。カメラ１７の種類は、撮影対象の画像解析手法によって適宜選択すればよい。
［記憶部１８］
　記憶部１８は、データやファイルを記憶する装置であって、ハードディスクや半導体メモリ、記録媒体、メモリカード等による、データのストレージ部を備える。記憶部１８には、制御部１４のマイクロコンピューターで実行される制御プログラム等をあらかじめ格納するための制御プログラム格納領域（図示せず）や、カメラ１７によって撮影された画像データを、位置検出部１５で検出した３次元座標データ（カメラ１７が撮影した画像の３次元点群データを構成する各々の点の緯度、経度、高さ（例えば、木の高さ）のデータ）とともに記憶する３次元点群データ格納領域（図示せず）等が設けられている。
　なお、３次元点群データ格納領域に格納されるデータは、ＵＳＢメモリ、ＳＤカード等、携帯型の記録媒体を通じ、点群処理装置３０に移すことができる。
［無線通信部１９］
　無線通信部１９は、コントローラ２０と無線通信可能に構成され、コントローラ２０から遠隔制御信号を受信する。
〔コントローラ２０〕
　コントローラ２０は、空撮装置１０を操縦する機能を有する。コントローラ２０は、ユーザが空撮装置１０を操縦するため等に使用する操作部２１と、コントローラ２０の動作を制御する制御部２２と、制御部２２のマイクロコンピューターで実行される制御プログラム等があらかじめ格納される記憶部２３と、空撮装置１０との間で無線通信する無線通信部２４と、ユーザに所定の画像を表示する画像表示部２５とを備える。
　無線通信部２４は、空撮装置１０と無線通信可能に構成され、空撮装置１０に向けて遠隔制御信号を受信する。
　画像表示部２５は、空撮装置１０を操縦する操縦装置と一体であってもよいし、操縦装置とは別体であってもよい。操縦装置と一体であれば、ユーザが使用する装置の数を少なくすることができ、利便性が高まる。操縦装置と別体である場合、画像表示部２５として、空撮装置１０の無線通信部１９と無線接続可能な、スマートフォン、タブレット端末等の携帯端末装置が挙げられる。操縦装置と別体である場合、画像表示部２５を有しない既存の操縦装置であっても応用可能というメリットを有する。
〔点群処理装置３０〕
　点群処理装置３０は、空撮装置１０のカメラを用いて撮影された撮影画像の３次元点群データを処理する機能を有する。点群処理装置３０は、ユーザが指令情報等を入力するための入力部３１と、点群処理装置３０の動作を制御する制御部３２と、制御部３２のマイクロコンピューターで実行される制御プログラム等があらかじめ格納される記憶部３３と、ユーザに所定の画像を表示する画像表示部３４とを備える。
　制御部３２は、所定のプログラムを読み込むことで、取得モジュール３２１と、画像表示モジュール３２２と、受付モジュール３２３と、再表示モジュール３２４と、学習モジュール３２５と、推薦モジュール３２６とを実現する。
　記憶部３３には、ＵＳＢメモリ、ＳＤカード等、携帯型の記録媒体を通じて移された、空撮装置１０の記憶部１８に記憶されていた３次元点群データを格納する３次元点群データベース３３１と、ユーザが設定した各種のパラメータの設定値を記憶するパラメータ設定領域３３２と、学習モジュール３２５の実行によって得られたパラメータの推薦値を記憶するパラメータ学習領域３３３と等が設けられている。
＜点群処理システム１を用いた点群処理方法を示すフローチャート＞
　図２は、点群処理システム１を用いた点群処理方法を示すフローチャートである。上述した各ハードウェアと、ソフトウェアモジュールが実行する処理について説明する。
〔ステップＳ１０：撮影された３次元点群データの取得〕
　まず、点群処理システム１の空撮装置１０の制御部１４は、撮影モジュール１４１を実行し、カメラ１７に対して撮影対象を撮影する制御を行う。そして、制御部１４は、カメラ１７によって撮影された画像データを、位置検出部１５で検出した３次元座標データ（カメラ１７が撮影した画像の３次元点群データを構成する各々の点の緯度、経度、高さ（例えば、木の高さ））とともに、記憶部１８の３次元点群データ格納領域（図示せず）に記憶する。
　３次元点群データ格納領域に記憶された情報は、空撮装置１０の着陸後、記録媒体を介して点群処理装置３０の３次元点群データベース３３１に記憶される。このようにして、点群処理装置３０の制御部３２は、取得モジュール３２１を実行し、処理の対象となる点の色及び３次元座標を含む３次元点群データを取得する。
〔ステップＳ１１：３次元点群データの画像表示〕
　続いて、点群処理装置３０の制御部３２は、画像表示モジュール３２２を実行し、３次元点群データに含まれる３次元座標に基づいて、３次元点群データを所定の次元で画像表示部３４に表示する。
　画像表示する画像の次元は、特に限定されるものではない。例えば、画像表示部３４は、２次元画像として平面的に画像を表示してもよいし、３次元画像として立体的に表示してもよい。
　図３は、画像表示部３４に３次元点群データの２次元画像を表示したときの一例である。３次元点群データには、色の情報を含まれている。図３の例では、２次元画像は、森林を示す領域１０１と、平地を示す領域１０２とを含む。
〔ステップＳ１２：パラメータの変更の受付〕
　図２に戻る。続いて、点群処理装置３０の制御部３２は、受付モジュール３２３を実行し、処理の対象となる点の解析手法に関するパラメータの変更を受け付ける。
　図４は、パラメータの変更を受け付ける際における画像表示部３４での表示例である。画像表示部３４の右には、パラメータ（森林検出強度、森林除去強度、高さ分解能、色分解能）の設定操作領域１０３が表示されている。
　森林検出強度は、３次元点群データを構成する各々の点について、制御部３２が、点の高さ（例えば、木の高さ）及び色彩に基づいて、森林であることを検出する強度を意味する。強度が低いと、制御部３２は、点の高さ（例えば、木や作物の高さ）が高く、色彩が濃い緑色である場合に限り、その点が森林を示す領域１０１であると認識する。他の場合は、平地の領域１０２であると認識する。強度が高いと、制御部３２は、点の高さ（例えば、木の高さや作物の高さ）が低い場合や、色彩が黄緑色である場合であっても、その点が森林を示す領域１０１であると認識し、色彩が土色である場合に、平地を示す領域１０２であると認識する。
　森林除去強度は、３次元点群データから、森林を示す領域１０１を除く程度を意味する。強度が高いと、制御部３２は、点の高さ（例えば、木の高さ）が高く、色彩が濃い緑色である領域だけでなく、点の高さ（例えば、木の高さ）が低い場合や、色彩が黄緑色である領域についても、森林を示す領域１０１であるとして、表示状態から非表示状態に変更する。強度が低いと、制御部３２は、点の高さ（例えば、木の高さ）が高く、色彩が濃い緑色である領域についてだけ、森林を示す領域１０１であるとして、表示状態から非表示状態に変更する。
　例えば、田畑や草が生えた空き地等は、色彩が緑色であっても、必ずしも森林を示す領域１０１であるとはいえない。実際には平地を示す領域１０２であるにもかかわらず、誤って森林を示す領域１０１であると認識されるのを防ぐため、森林除去強度の設定は、特に重要である。
　なお、本実施形態では、３次元点群データから、ユーザが所望する領域（ここでは森林を示す領域１０１）を削除するものとして説明しているが、３次元点群データから、ユーザが所望する領域を抽出する設定としてもよい。
　高さ分解能は、点の高さ（例えば、木の高さ）の精度を調整する機能を意味する。精度が高いと、点の高さ（例えば、木の高さ）をセンチメートル単位で判断する。精度が低いと、点の高さ（例えば、木の高さ）をメートル単位で判断する。
　色分解能は、色彩について、どこまでの色の違いで判断するかを定める機能を意味する。色分解能が高い場合、例えば、ＲＧＢ値で、１単位で判断する。色分解能が低い場合、例えば、ＲＧＢ値で、１０単位で判断する。
　画像表示部３４の左には、現在の画像（更新前の画像）、すなわち、ステップＳ１１の処理で画像表示部３４に表示していた画像を表示する。その右には、更新後の画像、すなわち、設定操作領域１０３に示す条件で各種パラメータを設定し、森林を示す緑色の領域１０１を表示状態から非表示状態に変更したときの画像を示す。
　設定操作領域１０３の下には、確認領域１０４が設けられ、中央に「ＯＫ」との文字が示されている。カーソル１０５を確認領域１０４に合わせてクリックすると、変更後のパラメータの設定値が確定する。変更後のパラメータの設定値は、記憶部３３のパラメータ設定領域３３２に記憶される。
〔ステップＳ１３：変更を反映させた点群の再表示〕
　図２に戻る。続いて、点群処理装置３０の制御部３２は、受け付けたパラメータの変更を反映させた点群を再表示する。
　図５は、画像表示部３４に３次元点群データの２次元画像を再表示したときの一例である。図３の表示例では表示されていた森林を示す領域１０１が非表示となり、平地を示す領域１０２だけが表示となっている。その際、地表がむき出しになっている領域だけでなく、田畑や草が生えた空き地等、色彩が緑色であっても、実際には森林でなく平地である領域も、平地を示す領域１０２として正しく表示されている。
　本実施形態によると、３次元点群データについて、処理の対象となる点の解析手法に関するパラメータの変更を施し、その変更を反映させた点群を再表示することが可能となる。そのため、再表示された点群の画像が、ユーザが所望する領域を正確に削除した画像であることの精度を高めることが可能な点群処理システム１を提供できる。
〔ステップＳ１４：３次元点群データとパラメータとの相関関係を学習　Ｓ１４〕
　図４の表示例では、パラメータの変更を受け付ける際、設定操作領域１０３を手動操作するものとしていた。しかしながら、点群処理システム１の操作に習熟しきれていない操作者をサポートするため、点群処理装置３０の制御部３２は、学習モジュール３２５を実行し、３次元点群データと、ステップＳ１２の処理で設定したパラメータとの相関関係を学習することが好ましい。
　学習の結果は、記憶部３３のパラメータ学習領域３３３に記憶される。そして、再びステップＳ１２の処理を実行する際、点群処理装置３０の制御部３２は、推薦モジュール３２６を実行し、パラメータ学習領域３３３に記憶される内容に基づいて、新たな３次元点群データで設定すべきパラメータを操作者に推薦することが好ましい。
　本実施形態によると、点群処理システム１の操作に習熟しきれていない操作者であっても、安心して点群処理システム１を操作できる。また、再表示された点群の画像が、ユーザが所望する領域を正確に削除した画像であることの精度をよりいっそう高めることが可能な点群処理システム１を提供できる。
　上述した手段、機能は、コンピュータ（ＣＰＵ、情報処理装置、各種端末を含む）が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、フレキシブルディスク、ＣＤ（ＣＤ－ＲＯＭなど）、ＤＶＤ（ＤＶＤ－ＲＯＭ、ＤＶＤ－ＲＡＭなど）等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置又は外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置（記録媒体）に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
　以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
　１　　点群処理システム
　１０　空撮装置
　１１　電池
　１２　モーター
　１３　ローター
　１４　制御部
　１４１　撮影モジュール
　１５　位置検出部
　１６　ドライバー回路
　１７　カメラ
　１８　記憶部
　１９　無線通信部
　２０　コントローラ
　３０　点群処理装置
　３１　入力部
　３２　制御部
　３２１　取得モジュール
　３２２　画像表示モジュール
　３２３　受付モジュール
　３２４　再表示モジュール
　３２５　学習モジュール
　３２６　推薦モジュール
　３３　記憶部
　３３１　３次元点群データベース
　３３２　パラメータ設定領域
　３３３　パラメータ学習領域
　３４　画像表示部

 

Claims (4)

  1. 　３次元点群データを処理する点群処理システムであって、
    　処理の対象となる点の色及び３次元座標を含む３次元点群データを取得する取得手段と、
    　前記３次元座標に基づいて、前記３次元点群データを所定の次元で画像表示する画像表示手段と、
    　処理の対象となる点の解析手法に関するパラメータの変更を受け付ける受付手段と、
    　前記受け付けたパラメータの変更を反映させた点群を再表示する再表示手段と、を備える点群処理システム。
  2. 　前記３次元点群データと前記パラメータとの相関関係を学習する学習手段と、
    　前記学習手段によって学習された結果に基づいて、新たな３次元点群データで設定すべきパラメータを推薦する推薦手段と、をさらに備える、請求項１に記載の点群処理システム。
  3. 　３次元点群データを処理する点群処理方法であって、
    　処理の対象となる点の色及び３次元座標を含む３次元点群データを取得するステップと、
    　前記３次元座標に基づいて、前記３次元点群データを所定の次元で画像表示するステップと、
    　処理の対象となる点の解析手法に関するパラメータの変更を受け付けるステップと、
    　前記受け付けたパラメータの変更を反映させた点群を再表示するステップと、を備える点群処理方法。
  4. 　点群処理システムに、
    　処理の対象となる点の色及び３次元座標を含む３次元点群データを取得するステップと、
    　前記３次元座標に基づいて、前記３次元点群データを所定の次元で画像表示するステップと、
    　処理の対象となる点の解析手法に関するパラメータの変更を受け付けるステップと、
    　前記受け付けたパラメータの変更を反映させた点群を再表示するステップと、
    を実行させるためのプログラム。

     
PCT/JP2017/013823 2017-03-31 2017-03-31 点群処理システム WO2018179423A1 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018550476A JP6495559B2 (ja) 2017-03-31 2017-03-31 点群処理システム
PCT/JP2017/013823 WO2018179423A1 (ja) 2017-03-31 2017-03-31 点群処理システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/013823 WO2018179423A1 (ja) 2017-03-31 2017-03-31 点群処理システム

Publications (1)

Publication Number Publication Date
WO2018179423A1 true WO2018179423A1 (ja) 2018-10-04

Family

ID=63674901

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/013823 WO2018179423A1 (ja) 2017-03-31 2017-03-31 点群処理システム

Country Status (2)

Country Link
JP (1) JP6495559B2 (ja)
WO (1) WO2018179423A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114111794A (zh) * 2021-11-23 2022-03-01 山东善思明科技发展股份有限公司 一种基于无人机的森林防火方法、系统、设备及存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010216838A (ja) * 2009-03-13 2010-09-30 Omron Corp 画像処理装置および方法
JP2010287156A (ja) * 2009-06-15 2010-12-24 Mitsubishi Electric Corp モデル生成装置、モデル生成方法、モデル生成プログラム、点群画像生成方法および点群画像生成プログラム
JP2013079857A (ja) * 2011-10-04 2013-05-02 Keyence Corp 画像処理装置および画像処理プログラム
JP2016146640A (ja) * 2016-02-29 2016-08-12 株式会社ニコン 領域抽出装置、撮像装置、及び領域抽出プログラム
JP2016194515A (ja) * 2015-04-01 2016-11-17 Ｔｅｒｒａ Ｄｒｏｎｅ株式会社 点群データ生成用画像の撮影方法、及び当該画像を用いた点群データ生成方法
WO2017014288A1 (ja) * 2015-07-21 2017-01-26 株式会社東芝 ひび割れ解析装置、ひび割れ解析方法及びひび割れ解析プログラム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010216838A (ja) * 2009-03-13 2010-09-30 Omron Corp 画像処理装置および方法
JP2010287156A (ja) * 2009-06-15 2010-12-24 Mitsubishi Electric Corp モデル生成装置、モデル生成方法、モデル生成プログラム、点群画像生成方法および点群画像生成プログラム
JP2013079857A (ja) * 2011-10-04 2013-05-02 Keyence Corp 画像処理装置および画像処理プログラム
JP2016194515A (ja) * 2015-04-01 2016-11-17 Ｔｅｒｒａ Ｄｒｏｎｅ株式会社 点群データ生成用画像の撮影方法、及び当該画像を用いた点群データ生成方法
WO2017014288A1 (ja) * 2015-07-21 2017-01-26 株式会社東芝 ひび割れ解析装置、ひび割れ解析方法及びひび割れ解析プログラム
JP2016146640A (ja) * 2016-02-29 2016-08-12 株式会社ニコン 領域抽出装置、撮像装置、及び領域抽出プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114111794A (zh) * 2021-11-23 2022-03-01 山东善思明科技发展股份有限公司 一种基于无人机的森林防火方法、系统、设备及存储介质
CN114111794B (zh) * 2021-11-23 2023-11-24 山东善思明科技发展股份有限公司 一种基于无人机的森林防火方法、系统、设备及存储介质

Also Published As

Publication number Publication date
JPWO2018179423A1 (ja) 2019-04-04
JP6495559B2 (ja) 2019-04-03

Similar Documents

Publication Publication Date Title
US11543836B2 (en) Unmanned aerial vehicle action plan creation system, method and program
US11649052B2 (en) System and method for providing autonomous photography and videography
CN111448476B (zh) 在无人飞行器与地面载具之间共享绘图数据的技术
US11644839B2 (en) Systems and methods for generating a real-time map using a movable object
EP3330823B1 (en) Flight and camera control method for an uav and electronic device for supporting the control method
CN111415409B (zh) 一种基于倾斜摄影的建模方法、系统、设备和存储介质
WO2018103689A1 (zh) 无人机相对方位控制方法及装置
US20180275659A1 (en) Route generation apparatus, route control system and route generation method
US11531340B2 (en) Flying body, living body detection system, living body detection method, program and recording medium
US11082639B2 (en) Image display method, image display system, flying object, program, and recording medium
WO2019230604A1 (ja) 検査システム
CN107205111B (zh) 摄像装置、移动装置、摄像系统、摄像方法和记录介质
EP4053664A1 (en) Method, apparatus, and computer program for defining geo-fencing data, and respective utility vehicle
US11354897B2 (en) Output control apparatus for estimating recognition level for a plurality of taget objects, display control system, and output control method for operating output control apparatus
JP7501535B2 (ja) 情報処理装置、情報処理方法、情報処理プログラム
JP6495559B2 (ja) 点群処理システム
US20220221857A1 (en) Information processing apparatus, information processing method, program, and information processing system
JP6495562B1 (ja) 無人飛行体による空撮システム、方法及びプログラム
JP6495560B2 (ja) 点群処理システム
JP6471272B1 (ja) 長尺画像生成システム、方法及びプログラム
CN116745722A (zh) 无人机的控制方法、装置、无人机及存储介质
Persson et al. Real-time image processing on handheld devices and UAV
JP2021087037A (ja) 表示制御装置、表示制御方法及び表示制御用プログラム

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2018550476

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17904034

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17904034

Country of ref document: EP

Kind code of ref document: A1