JP2023079733A - Mobile device and control method - Google Patents

Mobile device and control method Download PDF

Info

Publication number
JP2023079733A
JP2023079733A JP2021193336A JP2021193336A JP2023079733A JP 2023079733 A JP2023079733 A JP 2023079733A JP 2021193336 A JP2021193336 A JP 2021193336A JP 2021193336 A JP2021193336 A JP 2021193336A JP 2023079733 A JP2023079733 A JP 2023079733A
Authority
JP
Japan
Prior art keywords
drone
mobile device
flight
captured image
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2021193336A
Other languages
Japanese (ja)
Inventor
武弘 吉田
Takehiro Yoshida
雄資 白川
Yusuke Shirakawa
浩史 跡部
Hiroshi Atobe
裕介 春山
Yusuke HARUYAMA
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021193336A priority Critical patent/JP2023079733A/en
Publication of JP2023079733A publication Critical patent/JP2023079733A/en
Pending legal-status Critical Current

Links

Images

Abstract

To make it possible for a mobile device to determine in real time whether to perform capturing an image again.SOLUTION: The mobile device has an imaging unit and a detection unit for detecting a position, altitude, and flight attitude. The mobile device transmits the position, altitude, and flight attitude detected during flight to an external device, receives from the external device a past captured image selected by the external device on the basis of the position, altitude, and flight attitude transmitted by the external device, and determines, on the basis of a comparison result between the past captured image received from the external device and a currently captured image, whether to perform capturing an image again.SELECTED DRAWING: Figure 1

Description

本発明は、移動装置(ドローンなど)および当該移動装置の制御方法に関するものである。 The present invention relates to a mobile device (such as a drone) and a control method for the mobile device.

特許文献1には、無人航空機の移動速度を利用する場所に応じて抑制する方法が記載されている。特許文献2には、過去と現在の空撮画像を比較して対象物の劣化状態を診断する際に、診断の効率または精度を高める方法が記載されている。 Patent Literature 1 describes a method of suppressing the movement speed of an unmanned aerial vehicle according to the location of use. Patent Literature 2 describes a method for improving the efficiency or accuracy of diagnosis when diagnosing the deterioration state of an object by comparing past and present aerial images.

特開2019-121056号公報JP 2019-121056 A 特開2019-70631号公報JP 2019-70631 A

しかしながら、特許文献1および2に記載の方法では、再撮影を行うか否かの判定を移動装置(ドローンなど)でリアルタイムに判定することまではできないという課題があった。 However, the methods described in Patent Literatures 1 and 2 have a problem that it is not possible to determine in real time whether or not to perform re-imaging by a mobile device (such as a drone).

そこで、本発明は、再撮影を行うか否かの判定を移動装置でリアルタイムに判定できるようにすることを目的とする。 SUMMARY OF THE INVENTION Accordingly, it is an object of the present invention to enable a mobile device to determine in real time whether or not to perform re-imaging.

本発明に係る移動装置は、撮像部と、位置、高度および飛行姿勢を検出する検出部とを有し、飛行中に検出された位置、高度および飛行姿勢を外部装置に送信し、前記外部装置が前記外部装置に送信された位置、高度および飛行姿勢に基づいて選択した過去の撮像画像を前記外部装置から受信し、前記外部装置から受信された過去の撮像画像と現在の撮像画像との比較結果に基づき、再撮影を行うか否かの判定を行う。 A mobile device according to the present invention includes an imaging unit and a detection unit that detects a position, altitude, and flight attitude, transmits the position, altitude, and flight attitude detected during flight to an external device, receives from the external device a past captured image selected based on the position, altitude and flight attitude transmitted to the external device, and compares the past captured image received from the external device with the current captured image Based on the result, it is determined whether or not to perform re-imaging.

本発明によれば、再撮影を行うか否かの判定を移動装置でリアルタイムに判定することができる。 According to the present invention, it is possible to determine in real time whether or not to perform re-imaging by the mobile device.

実施形態1および2におけるドローン制御システムの構成要素を説明するためのブロック図である。FIG. 2 is a block diagram for explaining components of the drone control system in Embodiments 1 and 2; FIG. ドローン制御システムの制御フローを説明するための図である。FIG. 4 is a diagram for explaining the control flow of the drone control system; ドローン1の構成要素を説明するためのブロック図である。2 is a block diagram for explaining components of the drone 1; FIG. ドローン1の構成要素を説明するためのブロック図である。2 is a block diagram for explaining components of the drone 1; FIG. サーバー/クラウド4の構成要素を説明するためのブロック図である。4 is a block diagram for explaining components of a server/cloud 4; FIG. ドローンコントローラ2の構成要素を説明するためのブロック図である。2 is a block diagram for explaining components of the drone controller 2; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. サーバー/クラウド4の制御フローを説明するための図である。4 is a diagram for explaining the control flow of the server/cloud 4; FIG. サーバー/クラウド4の制御フローを説明するための図である。4 is a diagram for explaining the control flow of the server/cloud 4; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. ドローン1の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone 1; FIG. サーバー/クラウド4の制御フローを説明するための図である。4 is a diagram for explaining the control flow of the server/cloud 4; FIG. サーバー/クラウド4の制御フローを説明するための図である。4 is a diagram for explaining the control flow of the server/cloud 4; FIG. ドローンコントローラ2の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone controller 2; FIG. ドローンコントローラ2の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone controller 2; FIG. ドローンコントローラ2の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone controller 2; FIG. ドローンコントローラ2の制御フローを説明するための図である。4 is a diagram for explaining a control flow of the drone controller 2; FIG.

以下、図面を参照して本発明の実施形態を説明する。ただし、本発明は以下の実施形態に限定されるものではない。 Embodiments of the present invention will be described below with reference to the drawings. However, the present invention is not limited to the following embodiments.

[実施形態1]
図1は、実施形態1におけるドローン制御システムの構成要素を説明するための図である。図1に示すように、実施形態1におけるドローン制御システムは、移動装置であるドローン1と、制御装置であるドローンコントローラ2、5G基地局3、外部装置であるサーバー/クラウド4とを有する。
[Embodiment 1]
FIG. 1 is a diagram for explaining components of a drone control system according to Embodiment 1. FIG. As shown in FIG. 1, the drone control system in Embodiment 1 includes a drone 1 as a mobile device, a drone controller 2 as a control device, a 5G base station 3, and a server/cloud 4 as an external device.

手動にてドローン1を制御する場合には、ドローンコントローラ2により、操作者の指示により、ドローン1の飛行制御、並びに、撮影制御を行う。ドローン1を自動で走行する場合には、走行プログラムをドローン1に事前に設定しておいて、ドローン1は、ドローンコントローラ2からの起動が選択された場合に、ドローン1は、自動で走行する。ここで、ドローン1のカメラでの画像撮影は、ドローン1での判定で自動で行うケース、あるいは、ドローンコントローラ2からの操作者の指示により画像を撮影するケースがある。サーバー/クラウド4には、以前に、ドローン1で撮影した情報が格納されている。サーバー/クラウド4に格納されている情報は、5G基地局3を介して、ドロー1、あるいは、ドローンコントローラ2に高速大容量の伝送が実行される。 When the drone 1 is manually controlled, the drone controller 2 performs flight control and shooting control of the drone 1 according to instructions from the operator. When the drone 1 runs automatically, a running program is set in the drone 1 in advance, and when the drone 1 is selected to be activated from the drone controller 2, the drone 1 runs automatically. . Here, the image capturing by the camera of the drone 1 may be automatically performed by the determination of the drone 1 or may be performed according to an operator's instruction from the drone controller 2 . The server/cloud 4 stores information previously captured by the drone 1 . Information stored in the server/cloud 4 is transmitted to the draw 1 or drone controller 2 at high speed and large capacity via the 5G base station 3 .

図2は、ドローン制御システムの制御フローを説明するための図である。図2には、ドローンコントローラ2からの制御を含んだドローン1、5G基地局3、サーバー/クラウド4での流れを説明する。 FIG. 2 is a diagram for explaining the control flow of the drone control system. FIG. 2 illustrates the flow in the drone 1, 5G base station 3, and server/cloud 4 including control from the drone controller 2.

ドローン1は、飛行ルートを事前に入力し、GPSセンサを含む位置検出部、高度検出部、飛行姿勢検出部、撮像部、画像比較部、通知部、撮影情報記憶部を有する。サーバー/クラウド4は、ドローン1のGPSセンサの位置、高度および飛行姿勢から過去の飛行時の撮像画像を取り出す。ドローン1は、飛行ルートに従い、飛行中に、位置、高度および飛行姿勢に対応して撮影を行うと共に、位置、高度および飛行姿勢を5G通信(5G基地局3を介した通信)を用いて、サーバー/クラウド4に指定することができる。ドローン1はさらに、現在の撮像画像の位置、高度および飛行姿勢に対応する過去の撮像画像をサーバー/クラウド4から5G通信(5G基地局3を介した通信)を用いて受信し、現在の撮像画像と過去の撮像画像との違いを判定する。ドローン1は、現在の撮像画像と過去の撮像画像との違いを判定する。そして、ドローン1は、現在の撮像画像と過去の撮像画像との違いを検出した場合にはアラームを通知する。ドローン1はさらに、現在の撮像画像と過去の撮像画像との違いを検出していない場合には、ドローン1での撮影を継続し、現在の撮像画像と過去の撮像画像との違いを検出した場合には、ドローン1での念入りの撮影を行う。念入りの撮影とは、複数枚の注目画像を複数枚、角度を変えて撮影することである。 The drone 1 inputs a flight route in advance, and has a position detection unit including a GPS sensor, an altitude detection unit, a flight attitude detection unit, an imaging unit, an image comparison unit, a notification unit, and a shooting information storage unit. The server/cloud 4 extracts captured images from past flights from the position, altitude, and flight attitude of the GPS sensor of the drone 1 . The drone 1 shoots according to the position, altitude and flight attitude during flight according to the flight route, and uses 5G communication (communication via the 5G base station 3) to detect the position, altitude and flight attitude. It can be assigned to the server/cloud 4. The drone 1 further receives a past captured image corresponding to the position, altitude and flight attitude of the current captured image from the server/cloud 4 using 5G communication (communication via the 5G base station 3), A difference between an image and a previously captured image is determined. The drone 1 determines the difference between the current captured image and the past captured image. Then, the drone 1 notifies an alarm when detecting a difference between the current captured image and the past captured image. Further, when the drone 1 has not detected a difference between the current captured image and the past captured image, the drone 1 continues shooting and detects the difference between the current captured image and the past captured image. In such a case, the drone 1 will be used to shoot carefully. Careful photographing means photographing a plurality of images of interest at different angles.

現在の撮像画像の位置、高度および飛行姿勢に対応する過去の撮像画像は、高精細な画像であるので、5G通信(5G基地局3を介した通信)を用いての通信は有効である。5G通信では、下りの速度が4Gに比べて、かなり早いので、遅延の少ない制御が可能になった。 Since the past captured images corresponding to the position, altitude, and flight attitude of the current captured image are high-definition images, communication using 5G communication (communication via the 5G base station 3) is effective. In 5G communication, the downlink speed is considerably faster than that of 4G, so control with less delay has become possible.

再撮影を行う場合は、再撮影が正常に完了するまで、再撮影を行うべき撮影位置またはその近傍から移動しないようにドローン1の位置、高度および飛行姿勢が維持されるようにドローン1の飛行状態を制御する。すなわち、再撮影を行うべき撮影位置またはその近傍から移動しないとは、撮影画角が所定値以上ズレないようにする。そして、再撮影を行う場合は、再撮影が正常に完了するまで、少なくとも次の撮影位置まで移動しない。 In the case of re-shooting, the drone 1 is to fly so that the position, altitude and flight attitude of the drone 1 are maintained so that it does not move from the shooting position where the re-shooting should be performed or its vicinity until the re-shooting is completed normally. control the state. In other words, not moving from the imaging position where re-imaging should be performed or its vicinity means that the imaging angle of view does not deviate by a predetermined value or more. If re-imaging is to be performed, it does not move at least to the next imaging position until re-imaging is normally completed.

再撮影は、再撮影を行うか否かの判定、再撮影、再撮影時の飛行状態制御、次の撮影位置の移動制御の4つの一連の動作を、リアルタイムに順次を行うことである。 Re-imaging is to sequentially perform a series of four operations in real time: determination of whether or not re-imaging is to be performed, re-imaging, flight state control at the time of re-imaging, and movement control of the next imaging position.

ドローン1は、飛行ルートに基づいて、飛行し、撮影をしながら、以前に撮影した画像をサーバー/クラウド4から5G通信で受信して、これらの画像を比較する。 While the drone 1 flies and takes pictures based on the flight route, it receives previously taken images from the server/cloud 4 via 5G communication and compares these pictures.

図3および図4は、ドローン1の構成要素を説明するためのブロック図である。 3 and 4 are block diagrams for explaining the components of the drone 1. FIG.

図3において、102は、記憶媒体であり、ドローン1で撮影した動画、静止画がフォーマット化されて格納される。 In FIG. 3, 102 is a storage medium in which the moving images and still images taken by the drone 1 are formatted and stored.

103は、センサであり、撮影したときの画像を光信号から電気信号に変換して、さらに、この情報をアナログ情報からデジタル情報に変換して出力するものである。 A sensor 103 converts an optical signal of an image when it is photographed into an electrical signal, and further converts this information from analog information into digital information and outputs it.

104は、信号処理部であり、センサで読み取ったデジタル情報に対して、デバイスの補正をして出力するものである。 A signal processing unit 104 corrects the digital information read by the sensor and outputs the corrected information.

105は、センサ処理部であり、センサから情報を読み出すためのライン管理情報、センサがテータを出力するタイミング等を作成して、センサ103に入力する。 A sensor processing unit 105 creates line management information for reading out information from the sensor, the timing at which the sensor outputs data, and the like, and inputs the information to the sensor 103 .

106は、操作部である。ドローン1は、飛行ルート、あるいは、撮影ポイントを事前に設定する。あるいは、ドローン1への一般的な設定を行う。このような設定を操作部106によって行われる。 106 is an operation unit. The drone 1 sets a flight route or shooting points in advance. Alternatively, make general settings for the drone 1 . Such settings are performed by the operation unit 106 .

107は、無線通信部であり、ドローンコントローラ2との通信、サーバー/クラウド4との通信を実行する場合にこの無線通信部を使用する。ドローン1は、サーバー/クラウド4で撮影した画像を受信したり、ドローン1で撮影した画像をドローンコントローラ2に送信することも行う。 A wireless communication unit 107 is used when executing communication with the drone controller 2 and communication with the server/cloud 4 . The drone 1 also receives images captured by the server/cloud 4 and transmits images captured by the drone 1 to the drone controller 2 .

108は、ジンバルであり、ドローン1で撮影する場合などの振れを補正するものである。 Reference numeral 108 denotes a gimbal, which corrects shakes when photographing with the drone 1 or the like.

109は、ドローン1に設定する場合に設定された情報を表示したり、ドローン1で撮影された画像などを表示したりする表示部である。 A display unit 109 displays information set when the drone 1 is set, or displays an image captured by the drone 1 .

110は、ドローン1内の画像センサからのデータは、RAWデータを現像処理後、圧縮してJPEG画像ファイルやHEIF画像ファイルにする、あるいは、RAWデータのまま圧縮してRAW画像ファイルにする圧縮伸張部である。圧縮伸張部110は、RAW画像ファイルをカメラ内で現像処理してJPEG画像ファイルやHEIF画像ファイルを生成する場合、圧縮されている情報を伸張してRAWデータに戻す処理を行う。圧縮伸張部110は、静止画だけでなく、動画の圧縮、伸張も実行する。 110 compresses the data from the image sensor in the drone 1 after developing the RAW data into a JPEG image file or HEIF image file, or compresses the RAW data as it is into a RAW image file. Department. When a RAW image file is developed in the camera to generate a JPEG image file or HEIF image file, the compression/decompression unit 110 decompresses the compressed information and restores it to RAW data. The compression/decompression unit 110 compresses and decompresses moving images as well as still images.

111は、センサであり、加速度センサ・ジャイロセンサがあり、ドローン1の状態を認識することなどに使用される。 A sensor 111 includes an acceleration sensor and a gyro sensor, and is used for recognizing the state of the drone 1 and the like.

112は、モーターNで、例えば、Nは、1から4であり、4つのモーターである。 112 is motor N, for example N is 1 to 4, 4 motors.

113は、プロペラNで、例えば、Nは、1から4であり、4枚のプロペラである。これらの4枚のプロペラは、112のモータNによって、制御される。 113 is a propeller N, for example, N is 1 to 4, which is a 4-plate propeller. These four propellers are controlled by a 112 motor N.

114は、ドローン1の飛行位置、高度および飛行姿勢を検出する検出部である。これらの情報は、ドローンコントローラ2に送られ、ドローン1を制御している人がドローン1の飛行の位置、高度および飛行姿勢を認識できる。検出部114で検出した情報は、信号線150に出力されて、後述するCPU119でこれらの情報を取り込む。 A detection unit 114 detects the flight position, altitude, and flight attitude of the drone 1 . These information are sent to the drone controller 2 so that the person controlling the drone 1 can recognize the flight position, altitude and flight attitude of the drone 1 . Information detected by the detection unit 114 is output to the signal line 150, and the information is captured by the CPU 119, which will be described later.

115は、ドローン1が撮影している画像とドローン1が位置、高度および飛行姿勢をサーバー/クラウド4に送り、サーバー/クラウド4から位置、高度および飛行姿勢に基づいた過去の高精細な画像を比較する画像比較部である。画像が異なる部分を信号線150に出力される。 115 sends the image taken by the drone 1 and the position, altitude and flight attitude of the drone 1 to the server/cloud 4, and the past high-definition images based on the position, altitude and flight attitude are sent from the server/cloud 4. This is an image comparison unit for comparison. A portion with a different image is output to the signal line 150 .

116は、ドローン1を飛行する場合などに使用するバッテリである。ドローン1は、電源の状態を検出している。また、電源スイッチがオフの状態では、電源ボタンの押下のみを検出する。そして、電源ボタンの押下があると、ドローン1は、全体に電源を供給する。 116 is a battery used when the drone 1 flies. The drone 1 detects the state of the power supply. Also, when the power switch is off, only pressing of the power button is detected. Then, when the power button is pressed, the drone 1 supplies power to the entire drone.

117は、センサで読み取り信号処理した情報を入力して、画像処理された情報を信号線150に出力する画像処理部である。 An image processing unit 117 receives information read by a sensor and subjected to signal processing, and outputs image-processed information to a signal line 150 .

119は、後述するプログラムメモリ119上の制御プログラムに基づいて、以下に示す制御を実行するCPU(Central Processing Unit)である。CPU119は、表示制御部を兼ねており、表示部109に表示する撮像画像および情報を制御する。CPU119はさらに、フライトコントローラとして機能する。 Reference numeral 119 denotes a CPU (Central Processing Unit) that executes the following control based on a control program stored in a program memory 119, which will be described later. The CPU 119 also serves as a display control unit, and controls captured images and information displayed on the display unit 109 . CPU 119 also functions as a flight controller.

プログラムメモリ120は、制御を実行するためのプログラムが格納されている。 The program memory 120 stores programs for executing control.

データメモリ121は、ドローン1の飛行設定、ドローン1のカメラ機能の設定条件を格納したり、撮影した静止画、動画、さらには、静止画、動画の属性情報などを格納するためのデータメモリである。 The data memory 121 is a data memory for storing the flight settings of the drone 1 and the setting conditions of the camera function of the drone 1, as well as the captured still images and moving images, as well as the attribute information of the still images and moving images. be.

図4において、122は、撮影レンズ(レンズユニット)である。撮影レンズ(レンズユニット)は、固定1群レンズ123、ズームレンズ124、絞り127、固定3群レンズ130、フォーカスレンズ131、ズームモーター125、絞りモーター128、およびフォーカスモータ132を有する。固定1群レンズ123、ズームレンズ128、絞り127、固定3群レンズ130、フォーカスレン131は撮影光学系を構成する。なお、便宜上レンズ123、124、130、131は、1枚のレンズとして図示しているが、それぞれ複数のレンズで構成されてもよい。また、撮影レンズ122は、着脱可能な交換レンズとして構成されてもよい。 In FIG. 4, 122 is a photographing lens (lens unit). The taking lens (lens unit) has a fixed 1st group lens 123 , a zoom lens 124 , an aperture 127 , a fixed 3rd group lens 130 , a focus lens 131 , a zoom motor 125 , an aperture motor 128 , and a focus motor 132 . A fixed 1st group lens 123, a zoom lens 128, an aperture 127, a fixed 3rd group lens 130, and a focus lens 131 constitute a photographing optical system. For convenience, the lenses 123, 124, 130, and 131 are illustrated as one lens, but each may be composed of a plurality of lenses. Also, the photographing lens 122 may be configured as a detachable interchangeable lens.

絞り制御部129は、絞り127を駆動する絞りモータ128の動作を制御し、絞り127の開口径を変更する。 A diaphragm control unit 129 controls the operation of a diaphragm motor 128 that drives the diaphragm 127 to change the aperture diameter of the diaphragm 127 .

ズーム制御部126は、ズームレンズ124を駆動するズームモータ125の動作を制御し、撮影レンズ122の焦点距離(画角)を変更する。 A zoom control unit 126 controls the operation of a zoom motor 125 that drives the zoom lens 124 to change the focal length (angle of view) of the photographing lens 122 .

フォーカス制御部133は、センサ103から得られる1対の焦点検出用信号(A像およびB像)の位相差に基づいて撮影レンズ122のデフォーカス量およびデフォーカス方角を算出する。そしてフォーカス制御部133は、デフォーカス量およびデフォーカス方角をフォーカスモータ132の駆動量および駆動方角に変換する。この駆動量および駆動方角に基づいてフォーカス制御部133はフォーカスモータ132の動作を制御し、フォーカスレンズ131を駆動することにより、撮影レンズ122の焦点を制御する。このように、フォーカス制御部133は位相差検出方式の自動焦点(AF)を行う。なお、フォーカス制御部133は、センサ103から得られる画像信号が得られるコントラスト評価値に基づくコントラスト検出方式のAFを実行してもよい。 The focus control unit 133 calculates the defocus amount and the defocus direction of the photographing lens 122 based on the phase difference between the pair of focus detection signals (A image and B image) obtained from the sensor 103 . The focus control unit 133 then converts the defocus amount and defocus direction into the drive amount and drive direction of the focus motor 132 . The focus control unit 133 controls the operation of the focus motor 132 based on the drive amount and drive direction, and controls the focus of the photographing lens 122 by driving the focus lens 131 . In this manner, the focus control unit 133 performs phase difference detection autofocus (AF). Note that the focus control unit 133 may perform contrast detection AF based on a contrast evaluation value from which an image signal obtained from the sensor 103 is obtained.

図5は、サーバー/クラウド4の構成要素を説明するためのブロック図である。 FIG. 5 is a block diagram for explaining the components of the server/cloud 4. As shown in FIG.

502は、入力部である。過去の撮影情報などをサーバー/クラウド4が取り込むことを示している。 502 is an input unit. It shows that the server/cloud 4 captures past shooting information and the like.

503(基地局)は、ドローン1、あるいは、ドローンコントローラ2と無線で通信を行い、サーバー/クラウド4から画像をドローン1、あるいは、ドローンコントローラ2に画像を送る。 A base station 503 wirelessly communicates with the drone 1 or the drone controller 2 and sends images from the server/cloud 4 to the drone 1 or the drone controller 2 .

504は、ドローン1で撮影している画像を検出する撮像画像検出部である。検出部504は、例えば、ドローン1から送られる飛行位置、高度および飛行姿勢を受信して、ドローン1で撮影している画像を検出する。 A captured image detection unit 504 detects an image captured by the drone 1 . The detection unit 504 receives, for example, the flight position, altitude, and flight attitude sent from the drone 1 and detects images captured by the drone 1 .

505は、画像読み出しアドレス検出部であり、過去の飛行フライトの画像を読み出す場合にこのアドレスからの読み出しを行う。 Reference numeral 505 denotes an image reading address detection unit, which reads from this address when reading images of past flights.

506は、ドローン1が飛行している位置、高度および飛行姿勢を受信する受信部である。位置、高度および飛行姿勢は、信号線515に出力されて、後述するCPU511で位置、高度および飛行姿勢を取り込む。 A receiving unit 506 receives the flying position, altitude and flight attitude of the drone 1 . The position, altitude and flight attitude are output to the signal line 515, and the CPU 511, which will be described later, takes in the position, altitude and flight attitude.

507は、過去の飛行情報記憶部であり、ドローン1などから位置、高度および飛行姿勢が指定されると、この位置、高度および飛行姿勢に基づいた情報を出力する。 A past flight information storage unit 507 outputs information based on the position, altitude and flight attitude specified by the drone 1 or the like.

508は、過去の飛行情報を記憶する記憶部であり、信号線415を使用して、書き込んだり、読み出したりする。 A storage unit 508 stores past flight information, which is written and read using a signal line 415 .

510は、表示部であり、サーバー/クラウド4への設定をする場合に表示したり、ドローン1で撮影した画像を表示する場合などに使用する。 A display unit 510 is used to display settings for the server/cloud 4 and to display images captured by the drone 1 .

511は、CPU(Central Processing Unit)であり、後述するプログラムメモリ512上の制御プログラムに基づいて、以下に示す制御を実行する中央演算処理装置である。 Reference numeral 511 denotes a CPU (Central Processing Unit), which is a central processing unit that executes the following control based on a control program on a program memory 512, which will be described later.

プログラムメモリ512は、制御を実行するためのプログラムが格納されている。 A program memory 512 stores a program for executing control.

データメモリ513は、過去にドローン1が撮影した画像、そのメタデータなどを格納するためのデータメモリである。 The data memory 513 is a data memory for storing images captured by the drone 1 in the past, their metadata, and the like.

図6は、ドローンコントローラ2の構成要素を説明するためのブロック図である。 FIG. 6 is a block diagram for explaining the components of the drone controller 2. As shown in FIG.

図6おいて、ドローンコントローラ2は、ドローン1の飛行をコントロールしたり、ドローン1からの画像を受信して、表示するなどの制御を実行する。 In FIG. 6, the drone controller 2 controls the flight of the drone 1, receives images from the drone 1, and executes control such as displaying the images.

601は、操作部入力部である。ドローン1は、飛行ルート、あるいは、撮影ポイントをドローンコントローラ2から事前に設定する。あるいは、ドローンコントローラ2への一般的な設定を行う。 601 is an operation unit input unit. The drone 1 sets a flight route or a shooting point in advance from the drone controller 2 . Alternatively, general settings for the drone controller 2 are made.

602は、無線通信部であり、ドローン1との通信、サーバー/クラウド4との通信を実行する場合にこの無線通信部を使用する。ドローンコントローラ2は、サーバー/クラウド4で過去に撮影された画像を受信したり、ドローン1で撮影した画像をドローンコントローラ2に送信することも行う。 A wireless communication unit 602 is used when executing communication with the drone 1 and communication with the server/cloud 4 . The drone controller 2 also receives images captured in the past by the server/cloud 4 and transmits images captured by the drone 1 to the drone controller 2 .

603は、制御スティックであり、ドローン1で撮影する場合などにおいてドローン1の飛行を制御するものであり、ドローン1の遠隔制御をすることである。 A control stick 603 controls the flight of the drone 1 when shooting with the drone 1, and performs remote control of the drone 1. FIG.

604は、操作部出力部であり、ドローンコントローラ2に設定する場合に設定された情報を表示したり、ドローン1で撮影した情報などを受信して表示する表示部などがある。 Reference numeral 604 denotes an operation unit output unit, which displays information set in the drone controller 2, receives and displays information captured by the drone 1, and the like.

605は、ドローン1をホームポジションに戻るように指示するリターンホームボタンである。 605 is a return home button for instructing the drone 1 to return to the home position.

606は、ドローン1での撮影を指示するボタンである。 A button 606 instructs the drone 1 to shoot.

607は、ドローン1から送られる信号を受信して、ドローン1の飛行位置、高度および飛行姿勢を受信する受信部である。 A receiving unit 607 receives a signal sent from the drone 1 and receives the flight position, altitude and flight attitude of the drone 1 .

608は、ドローンコントローラ2を外に持ち出して、ドローン1を飛行する場合などに使用する電源管理部である。ドローンコントローラ2は、電源の状態を検出している。また、電源スイッチがオフの状態では、電源ボタン609の押下のみを検出する。そして、電源ボタンの押下があると、ドローンコントローラ2は、ドローンコントローラ2の構成要素に電力を供給する。 A power management unit 608 is used when the drone controller 2 is taken outside and the drone 1 flies. The drone controller 2 detects the state of the power supply. When the power switch is off, only pressing of the power button 609 is detected. Then, when the power button is pressed, the drone controller 2 supplies power to the components of the drone controller 2 .

610は、CPU(Central Processing Unit)であり、後述するプログラムメモリ611上の制御プログラムに基づいて、以下に示す制御を実行する中央演算処理装置である。また、表示制御部を兼ねており、表示部も兼ねている操作部604に表示する情報を制御する。 Reference numeral 610 denotes a CPU (Central Processing Unit), which is a central processing unit that executes the following control based on a control program on a program memory 611, which will be described later. It also serves as a display control unit and controls information to be displayed on an operation unit 604 that also serves as a display unit.

プログラムメモリ611は、制御を実行するためのプログラムが格納されている。 A program memory 611 stores a program for executing control.

データメモリ612は、ドローンコントローラ2の設置情報を格納したり、ドローン1の飛行設定、ドローン1のカメラ機能の設定条件を格納したりするためのデータメモリである。 The data memory 612 is a data memory for storing installation information of the drone controller 2 , flight settings of the drone 1 , and setting conditions of the camera function of the drone 1 .

613は、記憶媒体であり、ドローン1、あるいは、サーバー/クラウド4から送られた動画、静止画を格納する。 A storage medium 613 stores moving images and still images sent from the drone 1 or the server/cloud 4 .

図7~図11は、ドローン1の制御フローを説明するための図である。図12~図13はサーバー/クラウド4の制御フローを説明するための図である。 7 to 11 are diagrams for explaining the control flow of the drone 1. FIG. 12 and 13 are diagrams for explaining the control flow of the server/cloud 4. FIG.

手動にてドローン1を制御する場合には、ドローンコントローラ2により、操作者の指示により、ドローン1の飛行制御、並びに、撮影制御を行う。ドローン1を自動で走行する場合には、走行プログラムをドローン1に事前に設定しておいて、ドローン1は、ドローンコントローラ2からの起動が選択された場合に、ドローン1は、自動で走行する。ここで、ドローン1のカメラでの撮影は、ドローン1のカメラの判定で自動で行うケース、あるいは、ドローンコントローラ2からの操作者の指示により画像を撮影するケースがある。サーバー/クラウド4には、以前に、ドローン1で撮影した情報が格納されている。サーバー/クラウド4に格納されている情報は、5G基地局3を介して、ドロー1、あるいは、ドローンコントローラ2に高速大容量の伝送が実行される。 When the drone 1 is manually controlled, the drone controller 2 performs flight control and shooting control of the drone 1 according to instructions from the operator. When the drone 1 runs automatically, a running program is set in the drone 1 in advance, and when the drone 1 is selected to be activated from the drone controller 2, the drone 1 runs automatically. . Here, the shooting with the camera of the drone 1 may be performed automatically by the determination of the camera of the drone 1 or may be performed according to an operator's instruction from the drone controller 2 . The server/cloud 4 stores information previously captured by the drone 1 . Information stored in the server/cloud 4 is transmitted to the draw 1 or drone controller 2 at high speed and large capacity via the 5G base station 3 .

実施形態1においてのポイントは、再撮影を行うか否かの判定は、ドローン1がリアルタイムに行い、再撮影を行うか否かの判定は、クラウドからリアルタイムに取得した過去の撮像画像と、ドローン1で撮像した画像とを用いて行うことである。 The point in the first embodiment is that the drone 1 determines in real time whether or not to re-capture, and the determination of whether or not to re-capture is based on the past captured images acquired in real time from the cloud and the drone 1 is to be performed using the image captured in 1.

また、再撮影を行う場合は、再撮影が正常に完了するまで、再撮影を行うべき撮影位置またはその近傍から移動しないように、ドローン1の位置、高度および飛行姿勢が維持されるようにドローン1の飛行状態を制御することである。ここで、その近傍から移動しないとは、撮影画角が所定値以上ズレないようにすることである。さらに、少なくとも次の撮影位置まで移動しないことである。例えば、再撮影を行うか否かの判定(S118)、再撮影(S119)、再撮影時の飛行状態制御(S114)、次の撮影位置の移動制御(S126)の4つの一連の動作を、リアルタイムに順次を行う制御を実行する。これらにより、再撮影が正常に完了するまで、次の撮影位置に移動しないように制御することができる。位置、高度および飛行姿勢が維持されるような制御は、ドローン1だからこそ可能であり、このような制御にはドローン1の無駄な移動制御(Uターン移動など)が抑制できるというメリットがある。 Also, when performing re-shooting, the position, altitude, and flight attitude of the drone 1 are maintained so that it does not move from the shooting position where re-shooting should be performed or its vicinity until the re-shooting is completed normally. 1 to control the flight state. Here, not to move from the vicinity means to prevent the imaging angle of view from deviating more than a predetermined value. Furthermore, at least it should not move to the next photographing position. For example, a series of four operations of determining whether or not to perform re-imaging (S118), re-imaging (S119), flight state control during re-imaging (S114), and movement control of the next imaging position (S126) Perform real-time sequential control. With these, it is possible to control so as not to move to the next imaging position until re-imaging is normally completed. Control that maintains the position, altitude, and flight attitude is possible because of the drone 1, and such control has the advantage of suppressing unnecessary movement control (U-turn movement, etc.) of the drone 1.

図7のS101では、初期化処理を行う。S102では、ドローン1の操作部106により、飛行ルートの登録が選択されたか否かが判定される。飛行ルートの登録が選択されると、S103に進み、飛行ルートの登録が選択されていないとS109に進み、その他の処理を行う。 In S101 of FIG. 7, an initialization process is performed. In S102, it is determined whether or not flight route registration has been selected by the operation unit 106 of the drone 1 . If flight route registration is selected, the process proceeds to S103, and if flight route registration is not selected, the process proceeds to S109 to perform other processing.

S103では、飛行ルートに基づく飛行を記憶する。 In S103, the flight based on the flight route is stored.

S104では、飛行ルートに基づく飛行が選択されたか否かが判定される。飛行ルートに基づく飛行が選択されるとS105に進み、飛行ルートに基づく飛行が選択されていないとS102に進む。 At S104, it is determined whether or not flight based on the flight route has been selected. If the flight based on the flight route is selected, the process proceeds to S105, and if the flight based on the flight route is not selected, the process proceeds to S102.

S105では、現在の位置を鑑み、適切な飛行ルートの情報が記憶されているか否かが判定される。現在の位置を鑑み、適切な飛行ルートの情報が記憶されているとS106に進み、現在の位置を鑑み、適切な飛行ルートの情報が記憶されていないとS108に進む。 In S105, it is determined whether or not appropriate flight route information is stored in view of the current position. If appropriate flight route information is stored in view of the current position, the process proceeds to S106, and if appropriate flight route information is not stored in view of the current position, the process proceeds to S108.

S106では、飛行ルートを飛行した場合にバッテリはあるか否かが判定される。飛行ルートを飛行した場合にバッテリはあれば、S113に進み、飛行ルートを飛行した場合にバッテリは無くなる状況であるとS107に進む。 In S106, it is determined whether or not there is a battery when the flight route is flown. If there is a battery when the flight route is flown, the process proceeds to S113, and when the battery runs out when the flight route is flown, the process proceeds to S107.

S107では、手持ちの充電が終了しているバッテリに交換することを促す情報を表示部109に表示する。 In S107, information is displayed on the display unit 109 to prompt the user to replace the battery with one that has finished charging.

S108では、飛行ルートの設定が必要であることを示す情報を表示部109に表示する。 In S108, the display unit 109 displays information indicating that the flight route needs to be set.

図8のS110では、充電済みのバッテリはあるか否かが判定される。充電済みのバッテリはあれば、S111に進み、充電済みのバッテリがなければ、S115に進む。 In S110 of FIG. 8, it is determined whether or not there is a charged battery. If there is a charged battery, the process proceeds to S111, and if there is no charged battery, the process proceeds to S115.

S111においては、充電済みのバッテリへの交換は終了したか否かが判定される。充電済みのバッテリへの交換は終了するとS112に進み、充電済みのバッテリへの交換は終了していないとS111に進む。 In S111, it is determined whether or not the replacement with a charged battery has been completed. If the replacement with the charged battery has been completed, the process proceeds to S112, and if the replacement with the charged battery has not been completed, the process proceeds to S111.

S112では、飛行ルートにおけるバッテリ容量はあるか否かが判定される。飛行ルートにおけるバッテリ容量があるとS113に進み、飛行ルートにおけるバッテリ容量がないとS115に進む。 In S112, it is determined whether or not there is battery capacity on the flight route. If there is battery capacity on the flight route, the process proceeds to S113, and if there is no battery capacity on the flight route, the process proceeds to S115.

S113では、ドローン1は、飛行ルートに基づく飛行を開始する。位置、高度および飛行姿勢を5G通信を介して、サーバー/クラウド4に送る(位置情報通知)。これにより、サーバー/クラウド4に過去の撮像画像の送信を依頼する。 In S113, the drone 1 starts flying based on the flight route. Send position, altitude and flight attitude to server/cloud 4 via 5G communication (position information notification). As a result, the server/cloud 4 is requested to transmit past captured images.

S114では、ドローン1は、ドローン1の位置、高度および飛行姿勢が維持されるようにドローン1の飛行状態を制御する。 In S114, the drone 1 controls the flight state of the drone 1 so that the position, altitude and flight attitude of the drone 1 are maintained.

S115では、ドローン1は、サーバー/クラウド4から送られる飛行の位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G通信を介して受信する。 At S115, the drone 1 receives past high-definition images based on the flight position, altitude and flight attitude sent from the server/cloud 4 via 5G communication.

S116では、「飛行ルートを切り替えますか?」を示す情報を表示部109に表示する。 In S116, the display unit 109 displays information indicating "Do you want to switch the flight route?"

図9のS117では、ドローン1で撮影している画像とサーバー/クラウド4から5G回線を介して受信した画像を比較する。 In S117 of FIG. 9, the image captured by the drone 1 and the image received from the server/cloud 4 via the 5G line are compared.

S118では、S117において画像を比較した結果が異なるか否かが判定される。S117において画像を比較した結果が異なるとS119に進み、S117において画像を比較した結果が同じであるとS123に進む。 In S118, it is determined whether or not the results of comparing the images in S117 are different. If the result of comparing the images in S117 is different, the process proceeds to S119, and if the result of comparing the images in S117 is the same, the process proceeds to S123.

S119では、ドローン1は、自身のエッジドローン1で、画像の異なっている箇所、並びに周辺を飛行して撮影する(再撮影)。 In S119, the drone 1, with its own edge drone 1, flies and shoots a different part of the image and its surroundings (re-shooting).

S120では、S117において画像を比較した結果が異なっている周辺の情報をドローンコントローラ2にも送る。 In S120, the drone controller 2 is also sent information about the surroundings for which the result of comparing the images in S117 is different.

S121では、飛行の工程は終了したか否かが判定される。飛行の工程は終了するとS122に進み、飛行の工程は終了していないとS113に進む。 At S121, it is determined whether or not the flight process has ended. If the flight process is completed, the process proceeds to S122, and if the flight process is not completed, the process proceeds to S113.

S122では、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を記憶する。 In S122, necessary information is stored that can clarify points of difference from the previous photographing in the re-photographing.

図10のS123では、飛行の工程は終了したか否かが判定される。飛行の工程は終了するとS124に進み、飛行の工程は終了していないとS126に進む。 In S123 of FIG. 10, it is determined whether or not the flight process has ended. If the flight process is completed, the process proceeds to S124, and if the flight process is not completed, the process proceeds to S126.

S124では、ドローン1は、飛行工程が終了したことをサーバー/クラウド4、ドローンコントローラ2に通知する。 At S124, the drone 1 notifies the server/cloud 4 and the drone controller 2 that the flight process has ended.

S125では、ドローン1は、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を記憶する。この情報をサーバー/クラウド4、ドローンコントローラ2に送る。 In S125, the drone 1 stores necessary information for clarifying the points of difference from the previous photographing in the re-photographing. This information is sent to the server/cloud 4 and the drone controller 2 .

S126では、ドローン1は、飛行ルートに基づき、位置、高度、飛行姿勢を移動する。次の撮影位置への移動制御を行う。 In S126, the drone 1 changes its position, altitude, and flight attitude based on the flight route. Movement control to the next photographing position is performed.

図11のS127では、肯定応答であるか否かが判定される。S116の飛行ルートを切り替えますかの表示に対して、肯定応答であるとS128に進み、S116の飛行ルートを切り替えますかの表示に対して、肯定応答でないと、S130に進む。 In S127 of FIG. 11, it is determined whether or not there is an affirmative response. If there is an affirmative response to the display of whether to switch the flight route at S116, the process proceeds to S128.

S128では、飛行ルートを電源の容量から決定する。 At S128, the flight route is determined from the capacity of the power supply.

S129では、ドローン1は、決定した飛行ルートに基づく飛行に変更する。飛行の位置、高度および飛行姿勢を5G通信を介して、サーバー/クラウド4に送る。 In S129, the drone 1 changes to flight based on the determined flight route. Send flight position, altitude and flight attitude to server/cloud 4 via 5G communication.

S130では、ドローン1は、飛行を終了することをサーバー/クラウド4、ドローンコントローラ2に通知する。 At S130, the drone 1 notifies the server/cloud 4 and the drone controller 2 to end the flight.

S131では、ドローン1は、飛行を終了する。 At S131, the drone 1 ends the flight.

図12のS201では、初期化処理を行う。S202では、入力部601により、飛行ルートに基づいた画像、メタデータの登録が選択されたか否かが判定される。飛行ルートに基づいた画像、メタデータの登録が選択されているとS203に進み、飛行ルートに基づいた画像、メタデータの登録が選択されていないとS208に進み、その他の処理をする。 In S201 of FIG. 12, initialization processing is performed. In S202, the input unit 601 determines whether registration of images and metadata based on the flight route has been selected. If registration of images and metadata based on the flight route is selected, the process proceeds to S203, and if registration of images and metadata based on the flight route is not selected, the process proceeds to S208 to perform other processing.

S203では、サーバー/クラウド4は、ドローン1で記憶された飛行ルートに基づいた画像を記憶する。合わせて、飛行の位置、高度および飛行姿勢のメタデータも過去の飛行情報を記憶部508に記憶する。 At S<b>203 , the server/cloud 4 stores images based on the flight route stored by the drone 1 . In addition, the metadata of the flight position, altitude and flight attitude are also stored in the storage unit 508 as past flight information.

S204では、5G通信を介して、ドローン1から過去の飛行の画像の要求があるか否かが判定される。5G通信を介して、ドローン1から過去の飛行の画像の要求があるとS205に進み、5G回線を介して、ドローン1から過去の飛行の画像の要求がないとS202に進む。 In S204, it is determined whether or not there is a request for past flight images from the drone 1 via 5G communication. If there is a request for past flight images from the drone 1 via 5G communication, the process proceeds to S205, and if there is no request for past flight images from the drone 1 via the 5G line, the process proceeds to S202.

S205では、ドローン1から飛行の位置、高度および飛行姿勢5G回線を介して受信する。 In S205, the flight position, altitude and flight attitude are received from the drone 1 via the 5G line.

S206では、ドローン1から指定のあった飛行の位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G回線を介して、ドローン1に送る。 In S206, past high-definition images based on the flight position, altitude, and flight attitude specified by the drone 1 are sent to the drone 1 via the 5G line.

S207では、ドローン1から飛行が終了した通知があるか否かが判定される。ドローン1から飛行が終了した通知があるとS202に進み、ドローン1から飛行が終了した通知がないとS204に進む。 In S207, it is determined whether or not there is a notification from the drone 1 that the flight has ended. If there is a notification that the flight has ended from the drone 1, the process proceeds to S202, and if there is no notification that the flight has ended from the drone 1, the process proceeds to S204.

図13のS208では、ドローン1から、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を受信したか否かが判定される。ドローン1から、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を受信するとS209に進み、ドローン1から、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を受信していないとS210に進む。 In S208 of FIG. 13, it is determined whether or not necessary information has been received from the drone 1 to clarify the points of difference from the previous photographing in the re-photographing. From the drone 1, when the necessary information that can clarify the points of difference from the previous photographing is received, the process proceeds to S209, and from the drone 1, the points of difference from the previous photographing can be clarified. If the necessary information has not been received, the process proceeds to S210.

S209では、サーバー/クラウド4は、ドローン1から、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を記憶する。 In S209, the server/cloud 4 stores, from the drone 1, necessary information for clarifying points of difference from the previous photographing in the re-photographing.

S210においては、ドローン1から、飛行が終了した通知があるか否かが判定される。ドローン1から、飛行が終了した通知があるとS202に進み、ドローン1から、飛行が終了した通知がないと、S204に進む。 In S210, it is determined whether or not there is a notification from the drone 1 that the flight has ended. If there is a notification that the flight has ended from the drone 1, the process proceeds to S202, and if there is no notification that the flight has ended from the drone 1, the process proceeds to S204.

実施形態1によれば、ドローン1は、飛行ルートを入力する飛行ルート入力部、GPSセンサでの位置検出部、高度検出部、飛行姿勢検出部、撮像部、画像比較部、通知部、撮影情報記憶部を有する。サーバー/クラウド4は、ドローン1のGPSセンサの位置、高度および飛行姿勢から過去の飛行時の撮像画像を取り出す。ドローン1は、飛行ルートに従い、飛行中に、位置、高度および飛行姿勢に対応して撮影を行うと共に、位置、高度および飛行姿勢をサーバー/クラウド4に指定することができる。ドローン1はさらに、現在の撮像画像の位置、高度および飛行姿勢に対応する過去の撮像画像をサーバー/クラウド4から受信し、現在の撮像画像と過去の撮像画像との違いを判定する。これにより、実施形態1によれば、エッジであるところのドローン1にて、リアルタイムで、現在の撮像画像と過去の撮像画像とを比較でき、リアルタイムで、分析に必要な画像を獲得することが可能になった。 According to the first embodiment, the drone 1 includes a flight route input unit for inputting a flight route, a position detection unit using a GPS sensor, an altitude detection unit, a flight attitude detection unit, an imaging unit, an image comparison unit, a notification unit, and photographing information. It has a memory. The server/cloud 4 extracts captured images from past flights from the position, altitude, and flight attitude of the GPS sensor of the drone 1 . The drone 1 can take pictures corresponding to the position, altitude and flight attitude during flight according to the flight route, and specify the position, altitude and flight attitude to the server/cloud 4 . The drone 1 further receives past captured images corresponding to the position, altitude and flight attitude of the current captured image from the server/cloud 4 and determines the difference between the current captured image and the past captured image. As a result, according to the first embodiment, the drone 1, which is the edge, can compare the currently captured image and the past captured image in real time, and acquire the image necessary for analysis in real time. became possible.

実施形態1によれば、ドローン1は、現在の撮像画像と過去の撮像画像との違いを判定は、ドローン1がリアルタイムに行うことが可能になった。 According to the first embodiment, the drone 1 can determine the difference between the current captured image and the past captured image in real time.

実施形態1によれば、再撮影を行うか否かの判定は、サーバー/クラウド4からリアルタイムに取得した過去の撮像画像と、ドローン1で撮像した画像とを用いて行うことが可能になった。 According to the first embodiment, it is possible to determine whether or not to retake an image using the past captured image obtained in real time from the server/cloud 4 and the image captured by the drone 1. .

実施形態1によれば、再撮影を行う場合は、再撮影が正常に完了するまで、再撮影を行うべき撮影位置またはその近傍から移動しないようにドローン1の位置、高度および飛行姿勢が維持されるようにドローン1の飛行状態を制御することが可能になった。 According to the first embodiment, when performing re-imaging, the position, altitude, and flight attitude of the drone 1 are maintained so as not to move from the imaging position where re-imaging should be performed or in the vicinity thereof until re-imaging is completed normally. It became possible to control the flight state of the drone 1 as follows.

実施形態1によれば、再撮影を行うべき撮影位置またはその近傍から移動しないとは、撮影画角が所定値以上ズレないようにすることが可能になった。 According to the first embodiment, it is possible to prevent the imaging angle of view from deviating by a predetermined value or more by not moving from the imaging position where re-imaging should be performed or in the vicinity thereof.

実施形態1によれば、再撮影を行う場合は、再撮影が正常に完了するまで、少なくとも次の撮影位置まで移動しないことが可能になった。 According to the first embodiment, when re-imaging is performed, it is possible not to move at least to the next imaging position until re-imaging is normally completed.

実施形態1によれば、再撮影は、再撮影を行うか否かの判定、再撮影、再撮影時の飛行状態制御、次の撮影位置の移動制御の4つの一連の動作を、リアルタイムに順次を行うことが可能になった。 According to the first embodiment, re-imaging involves sequentially performing a series of four operations in real time: determining whether or not re-imaging is to be performed, re-imaging, flight state control at the time of re-imaging, and movement control of the next imaging position. has become possible.

なお、位置、高度および飛行姿勢が維持されるような制御はドローン1だからこそ可能であり、ドローン1の無駄な移動制御(Uターン移動など)も抑制できるようになった。 It should be noted that control that maintains the position, altitude, and flight attitude is possible because of the drone 1, and it has become possible to suppress unnecessary movement control of the drone 1 (U-turn movement, etc.).

[実施形態2]
実施形態1では、過去の飛行で撮影した画像と今回の飛行による撮影で画像が異なる場合に、ドローン1がエッジとなり、画像の撮影などの制御を自ら行った。この画像が異なるときに、ドローンコントローラ2にドローン1の遠隔での制御権を渡して、ドローンコントローラ2を使用している人によって、分析してもよい。
[Embodiment 2]
In the first embodiment, when the image captured in the past flight and the image captured in the current flight are different, the drone 1 acts as an edge and performs control such as image capturing by itself. When this image is different, it may be analyzed by a person using the drone controller 2, giving remote control of the drone 1 to the drone controller 2.

実施形態2では、ドローン1を制御するドローンコントローラ2は、ドローン1の画像を5G通信(5G基地局3を介した通信)を用いて受信して表示し、ドローン1の飛行を5G通信を用いて制御し、ドローン1での画像撮影を5G通信を用いて指定する。ドローン1は、飛行ルートに従い、飛行中に、解像度を落とした撮像画像を、位置、高度および飛行姿勢と共に5G通信を用いて、ドローンコントローラ2に送ることをしながら、現在の撮像画像と過去の撮像画像との違いを判定する。そして、ドローン1は、現在の撮像画像と過去の撮像画像との違いを検出していない場合には、ドローン1での撮影を継続し、現在の撮像画像と過去の撮像画像との違いを検出した場合には、ドローン1の制御権をドローンコントローラ2に渡す。 In the second embodiment, the drone controller 2 that controls the drone 1 receives and displays the image of the drone 1 using 5G communication (communication via the 5G base station 3), and the flight of the drone 1 is performed using 5G communication. , and specifies image shooting with the drone 1 using 5G communication. The drone 1 follows the flight route and sends captured images with reduced resolution during flight along with the position, altitude and flight attitude to the drone controller 2 using 5G communication, while the current captured images and the past images are sent. Determine the difference from the captured image. Then, when the drone 1 does not detect a difference between the current captured image and the past captured image, the drone 1 continues shooting and detects the difference between the current captured image and the past captured image. If so, the control right of the drone 1 is transferred to the drone controller 2 .

ドローンコントローラ2は、ドローン1の飛行をコントロールし、ドローン1に撮影指示を行い、ドローン1からの画像を5G通信を用いて受信し、ドローン1の飛行を制御しながらドローン1からの画像を受信する。 The drone controller 2 controls the flight of the drone 1, instructs the drone 1 to shoot, receives images from the drone 1 using 5G communication, and receives images from the drone 1 while controlling the flight of the drone 1. do.

ドローンコントローラ2は、ドローン1の飛行を制御しながら、ドローン1からの現在の撮像画像と、現在の撮像画像に対応する過去の飛行時の撮像画像とを5G通信(5G基地局3を介した通信)を用いて受信する。 While controlling the flight of the drone 1, the drone controller 2 performs 5G communication (via the 5G base station 3 communication).

ドローンコントローラ2は、ドローン1に、画像受信の場合の解像度を選択し、この解像度の選択情報をドローン1に5G通信(5G基地局3を介した通信)を用いて送信する。ドローン1からの画像を受信する場合、ドローンコントローラ2は、高精細での画像を5G通信(5G基地局3を介した通信)を用いて受信して表示する。 The drone controller 2 selects a resolution for image reception for the drone 1, and transmits selection information of this resolution to the drone 1 using 5G communication (communication via the 5G base station 3). When receiving an image from the drone 1, the drone controller 2 receives and displays a high-definition image using 5G communication (communication via the 5G base station 3).

ここで、ドローン1からサーバー/クラウド4に通知される位置、高度および飛行姿勢は、5G無線通信区間の上りで通知される。サーバー/クラウド4からドローン1に送信される過去の撮像画像であってドローン1から指定のあった過去の撮像画像は、5G無線通信区間の下りで送信されるため、4G通信に比べて、高速大容量通信が可能である。実施形態2におけるドローン制御システムは、5Gの通信性能を最大限、生かすことができるシステムである。 Here, the position, altitude and flight attitude notified from the drone 1 to the server/cloud 4 are notified in the uplink of the 5G wireless communication section. The past captured images that are transmitted from the server/cloud 4 to the drone 1 and specified by the drone 1 are transmitted in the downlink of the 5G wireless communication section, so they are faster than 4G communication. Large capacity communication is possible. The drone control system in Embodiment 2 is a system that can maximize the communication performance of 5G.

図14~図18は、ドローン1の制御フローを説明するための図である。図19~図20はサーバー/クラウド4の制御フローを説明するための図である。 14 to 18 are diagrams for explaining the control flow of the drone 1. FIG. 19 and 20 are diagrams for explaining the control flow of the server/cloud 4. FIG.

図14のS301では、初期化処理を行う。S302では、ドローン1の操作部106により、飛行ルートの登録が選択されたか否かが判定される。飛行ルートの登録が選択されると、S303に進み、飛行ルートの登録が選択されていないとS309に進み、その他の処理を行う。 In S301 of FIG. 14, initialization processing is performed. In S302, the operation unit 106 of the drone 1 determines whether or not flight route registration has been selected. If flight route registration is selected, the process advances to S303, and if flight route registration is not selected, the process advances to S309 to perform other processing.

S303では、飛行ルートに基づく飛行を記憶する。 In S303, the flight based on the flight route is stored.

S304では、飛行ルートに基づく飛行が選択されたか否かが判定される。飛行ルートに基づく飛行が選択されるとS305に進み、飛行ルートに基づく飛行が選択されていないとS302に進む。 At S304, it is determined whether flight based on the flight route has been selected. If the flight based on the flight route is selected, the process proceeds to S305, and if the flight based on the flight route is not selected, the process proceeds to S302.

S305では、現在の位置を鑑み、適切な飛行ルートの情報が記憶されているか否かが判定される。現在の位置を鑑み、適切な飛行ルートの情報が記憶されているとS306に進み、現在の位置を鑑み、適切な飛行ルートの情報が記憶されていないとS308に進む。 In S305, it is determined whether or not appropriate flight route information is stored in view of the current position. If appropriate flight route information is stored in view of the current position, the process proceeds to S306, and if appropriate flight route information is not stored in view of the current position, the process proceeds to S308.

S306では、飛行ルートを飛行した場合にバッテリはあるか否かが判定される。飛行ルートを飛行した場合にバッテリはあれば、S313に進み、飛行ルートを飛行した場合にバッテリは無くなる状況であるとS307に進む。 In S306, it is determined whether or not the battery will be present when the flight route is flown. If there is a battery when the flight route is flown, the process proceeds to S313, and if the battery runs out when the flight route is flown, the process proceeds to S307.

S307では、手持ちの充電が終了しているバッテリに交換することを促す情報を表示部109に表示する。 In S<b>307 , information is displayed on the display unit 109 to prompt the user to replace the battery with one that has finished charging.

S308では、飛行ルートの設定が必要であることを示す情報を表示部109に表示する。 In S308, the display unit 109 displays information indicating that the flight route needs to be set.

図15のS310では、充電済みのバッテリはあるか否かが判定される。充電済みのバッテリはあれば、S311に進み、充電済みのバッテリがなければ、S317に進む。 In S310 of FIG. 15, it is determined whether or not there is a charged battery. If there is a charged battery, the process proceeds to S311, and if there is no charged battery, the process proceeds to S317.

S311においては、充電済みのバッテリへの交換は終了したか否かが判定される。充電済みのバッテリへの交換は終了するとS312に進み、充電済みのバッテリへの交換は終了していないとS311に進む。 In S311, it is determined whether or not the replacement with a charged battery has been completed. If the replacement with the charged battery has been completed, the process proceeds to S312, and if the replacement with the charged battery has not been completed, the process proceeds to S311.

S312では、飛行ルートにおけるバッテリ容量はあるか否かが判定される。飛行ルートにおけるバッテリ容量があるとS313に進み、飛行ルートにおけるバッテリ容量がないとS316に進む。 At S312, it is determined whether or not there is battery capacity on the flight route. If there is battery capacity on the flight route, the process proceeds to S313, and if there is no battery capacity on the flight route, the process proceeds to S316.

S313では、ドローン1は、飛行ルートに基づく飛行を開始する。飛行の位置、高度および飛行姿勢を5G通信を介して、サーバー/クラウド4に送る(位置情報通知)。また、サーバー/クラウド4に過去の撮像画像の送信を依頼する。サーバー/クラウド4に、過去の撮像画像の送信をドローンコントローラ2にも送るように依頼する。 In S313, the drone 1 starts flying based on the flight route. Send the flight position, altitude and flight attitude to the server/cloud 4 via 5G communication (position information notification). It also requests the server/cloud 4 to send the past captured images. The server/cloud 4 is requested to send the past captured images to the drone controller 2 as well.

S314では、ドローン1は、ドローン1の位置、高度および飛行姿勢が維持されるようにドローン1の飛行状態を制御する。 In S314, the drone 1 controls the flight state of the drone 1 so that the position, altitude and flight attitude of the drone 1 are maintained.

S315では、解像度を落とした画像を位置、高度および飛行姿勢と共に、ドローンコントローラ2に送る。 At S315, the reduced resolution image is sent to the drone controller 2 along with the position, altitude and flight attitude.

S316では、ドローン1は、サーバー/クラウド4から送られる位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G通信を介して受信する。 At S316, the drone 1 receives past high-definition images based on position, altitude and flight attitude sent from the server/cloud 4 via 5G communication.

S317では、「飛行ルートを切り替えますか?」を示す情報を表示部109に表示する。 In S317, the display unit 109 displays information indicating "Do you want to switch the flight route?"

図16のS318では、ドローン1で撮影している画像とサーバー/クラウド4から5G回線を介して受信した画像を比較する。 In S318 of FIG. 16, the image captured by the drone 1 and the image received from the server/cloud 4 via the 5G line are compared.

S319では、S318で得られた比較結果が異なるか否か(再撮影を行うか否か)が判定される。S317において画像を比較した結果が異なるとS320に進み、S318で得られた比較結果が同じであるとS326に進む。 In S319, it is determined whether or not the comparison result obtained in S318 is different (whether or not re-imaging is to be performed). If the results of comparing the images in S317 are different, the process proceeds to S320, and if the comparison results obtained in S318 are the same, the process proceeds to S326.

S320では、ドローンコントローラ2に再撮影の結果が異なることを通知する。 In S320, the drone controller 2 is notified that the result of re-shooting is different.

S321においては、ドローンコントローラ2から制御権のリクエストがあるか否かが判定される。ドローンコントローラ2から制御権のリクエストがあるとS322に進み、ドローンコントローラ2から制御権のリクエストがないとS326に進む。 In S<b>321 , it is determined whether or not there is a request for control rights from the drone controller 2 . If there is a request for the control right from the drone controller 2, the process proceeds to S322, and if there is no request for the control right from the drone controller 2, the process proceeds to S326.

S322では、ドローン1の制御権をドローンコントローラ2に渡す。 In S322, the control right of the drone 1 is transferred to the drone controller 2.

S323では、ドローン1は、ドローンコントローラ2の指定に基づいて、飛行して撮影する(再撮影)。 In S323, the drone 1 flies and shoots (reshot) based on the designation of the drone controller 2. FIG.

S324では、ドローン1は、ドローンコントローラ2の指定に基づいて、撮影した画像を5G回線を介して送信する。 In S324, the drone 1 transmits the captured image via the 5G line based on the designation of the drone controller 2.

S325では、ドローンコントローラ2から、この位置での撮影が終了(再撮影は正常に終了)した通知があるか否かが判定される。ドローンコントローラ2から、この位置での撮影が終了(再撮影は正常に終了)した通知があるとS326に進み、ドローンコントローラ2から、この位置での撮影が終了(再撮影は正常に終了)した通知がないとS323に進む。 In S325, it is determined whether or not there is a notification from the drone controller 2 that imaging at this position has ended (re-imaging has ended normally). When the drone controller 2 notifies that the shooting at this position has ended (reshooting has ended normally), the process advances to S326, and the drone controller 2 has finished shooting at this position (reshooting has ended normally). If there is no notification, the process proceeds to S323.

図17のS326では、飛行の工程は終了するか否かが判定される。飛行の工程は終了するとS327に進み、飛行の工程は終了するのでないとS329に進む。 In S326 of FIG. 17, it is determined whether or not the flight process is finished. If the flight process is completed, the process proceeds to S327, and if the flight process is not completed, the process proceeds to S329.

S327では、ドローン1は、飛行工程が終了したことをサーバー/クラウド4、ドローンコントローラ2に通知する。 At S327, the drone 1 notifies the server/cloud 4 and the drone controller 2 that the flight process has ended.

S328では、ドローン1は、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を記憶する。この情報をサーバー/クラウド4、ドローンコントローラ2に送る。 In S328, the drone 1 stores necessary information for clarifying the points of difference from the previous photographing in the re-photographing. This information is sent to the server/cloud 4 and the drone controller 2 .

S329では、ドローン1は、飛行ルートに基づき、位置、高度、飛行姿勢を移動する。これは、次の撮影位置への移動制御である。 In S329, the drone 1 changes its position, altitude, and flight attitude based on the flight route. This is movement control to the next photographing position.

図18のS330では、肯定応答であるか否かが判定される。S317の飛行ルートを切り替えますかの表示に対して、肯定応答であるとS331に進み、S317の飛行ルートを切り替えますかの表示に対して、肯定応答でないと、S333に進む。 In S330 of FIG. 18, it is determined whether or not it is an affirmative response. If there is an affirmative response to the display of whether to switch the flight route at S317, the process proceeds to S331, and if there is no positive response to the display of whether to switch the flight route at S317, the process proceeds to S333.

S331では、ドローン1にセットされている電池の容量から飛行ルートを決定する。 In S331, the flight route is determined from the capacity of the battery set in the drone 1.

S332では、ドローン1は、決定した飛行ルートに基づく飛行を開始する。飛行の位置、高度および飛行姿勢を5G通信を介して、サーバー/クラウド4に送る。 In S332, the drone 1 starts flying based on the determined flight route. Send flight position, altitude and flight attitude to server/cloud 4 via 5G communication.

S333では、ドローン1は、飛行を終了することをサーバー/クラウド4、ドローンコントローラ2に通知する。 At S333, the drone 1 notifies the server/cloud 4 and the drone controller 2 to end the flight.

S334では、ドローン1は、飛行を終了する。 At S334, the drone 1 ends the flight.

図19および図20は、サーバー/クラウド4の制御フローを説明するための図である。 19 and 20 are diagrams for explaining the control flow of the server/cloud 4. FIG.

図19のS401では、初期化処理を行う。S402では、入力部601により、飛行ルートに基づいた画像、メタデータの登録が選択されたか否かが判定される。飛行ルートに基づいた画像、メタデータの登録が選択されているとS403に進み、飛行ルートに基づいた画像、メタデータの登録が選択されていないとS408に進み、その他の処理をする。 In S401 of FIG. 19, initialization processing is performed. In S402, the input unit 601 determines whether registration of images and metadata based on the flight route has been selected. If registration of images and metadata based on the flight route is selected, the process advances to S403, and if registration of images and metadata based on the flight route is not selected, the process advances to S408 to perform other processing.

S403では、サーバー/クラウド4は、ドローン1で記憶された飛行ルートに基づいた画像を記憶する。合わせて、飛行の位置、高度および飛行姿勢のメタデータも過去の飛行情報記憶部508に記憶する。 At S<b>403 , the server/cloud 4 stores images based on the flight route stored by the drone 1 . In addition, the flight position, altitude and flight attitude metadata are also stored in the past flight information storage unit 508 .

S404では、5G通信を介して、ドローン1から過去の飛行の画像の要求があるか否かが判定される。5G通信を介して、ドローン1から過去の飛行の画像の要求があるとS405に進み、5G回線を介して、ドローン1から過去の飛行の画像の要求がないとS408に進む。 In S404, it is determined whether or not there is a request for past flight images from the drone 1 via 5G communication. If there is a request for past flight images from the drone 1 via 5G communication, the process proceeds to S405, and if there is no request for past flight images from the drone 1 via the 5G line, the process proceeds to S408.

S405では、ドローン1から飛行の位置、高度および飛行姿勢を5G回線を介して受信する。 In S405, the flight position, altitude and flight attitude are received from the drone 1 via the 5G line.

S406では、ドローン1から指定のあった飛行の位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G回線を介して、ドローン1に送る。 In S406, past high-definition images based on the flight position, altitude, and flight attitude specified by the drone 1 are sent to the drone 1 via the 5G line.

S407では、ドローン1から飛行が終了した通知があるか否かが判定される。ドローン1から飛行が終了した通知があるとS402に進み、ドローン1から飛行が終了した通知がないとS404に進む。 In S407, it is determined whether or not there is a notification from the drone 1 that the flight has ended. If there is a notification that the flight has ended from the drone 1, the process proceeds to S402, and if there is no notification that the flight has ended from the drone 1, the process proceeds to S404.

図20のS409では、ドローンコントローラ2から過去の飛行の画像要求があるか否かが判定される。ドローンコントローラ2から過去の飛行の画像要求があるとS410に進み、ドローンコントローラ2から過去の飛行の画像要求がないとS404に進む。 In S409 of FIG. 20, it is determined whether or not the drone controller 2 has requested images of past flights. If there is a request for images of past flights from the drone controller 2, the process proceeds to S410, and if there is no request for images of past flights from the drone controller 2, the process proceeds to S404.

S410では、ドローンコントローラ2から飛行の位置、高度および飛行姿勢を5G回線を介して受信する。 In S410, the flight position, altitude and flight attitude are received from the drone controller 2 via the 5G line.

S411では、ドローンコントローラ2から指定のあった位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G回線を介して、ドローンコントローラ2に送る。 In S411, past high-definition images based on the position, altitude, and flight attitude specified by the drone controller 2 are sent to the drone controller 2 via the 5G line.

S412では、ドローンコントローラ2から、この位置での撮影が終了した通知があるか否かが判定される。ドローンコントローラ2から、この位置での撮影が終了した通知があるとS404に進み、ドローンコントローラ2から、この位置での撮影が終了した通知がないとS409に進む。 In S412, it is determined whether or not there is a notification from the drone controller 2 that shooting at this position has ended. If there is a notification from the drone controller 2 that shooting at this position has ended, the process advances to S404, and if there is no notification from the drone controller 2 that shooting at this position has ended, the process advances to S409.

図21~図24は、ドローンコントローラ2の制御フローを説明するための図である。 21 to 24 are diagrams for explaining the control flow of the drone controller 2. FIG.

図21のS501では、初期化処理を行う。S502では、飛行ルートに基づく飛行が選択されたか否かが判定される。飛行ルートに基づく飛行が選択されるとS503に進み、飛行ルートに基づく飛行が選択されていないと、S506に進み、その他の処理をする。 In S501 of FIG. 21, initialization processing is performed. At S502, it is determined whether flight based on the flight route has been selected. If the flight based on the flight route is selected, the process proceeds to S503, and if the flight based on the flight route is not selected, the process proceeds to S506 to perform other processing.

S503では、ドローン1から送られている情報を表示する。 In S503, information sent from the drone 1 is displayed.

S504においては、ドローン1から再撮影の結果が異なることの通知があったか否かが判定される。ドローン1から再撮影の結果が異なることの通知があるとS505に進み、ドローン1から再撮影の結果が異なることの通知がないとS503に進む。 In S504, it is determined whether or not there has been a notification from the drone 1 that the results of re-imaging are different. If the drone 1 notifies that the re-imaging result is different, the process advances to S505, and if the drone 1 does not notify that the re-imaging result is different, the process advances to S503.

S505では、ドローンコントローラ2でのドローン1制御が選択されたか否かが判定される。ドローンコントローラ2でのドローン1制御が選択されるとS507に進み、ドローンコントローラ2でのドローン1制御が選択されていないとS503に進む。 In S505, it is determined whether or not drone 1 control by the drone controller 2 has been selected. If the drone 1 control by the drone controller 2 is selected, the process proceeds to S507, and if the drone 1 control by the drone controller 2 is not selected, the process proceeds to S503.

図22のS507では、ドローンコントローラ2はドローン1に制御権をリクエストする。 In S507 of FIG. 22, the drone controller 2 requests the drone 1 for control rights.

S508では、ドローンコントローラ2はドローン1に飛行、撮影を指定する。 In S508, the drone controller 2 instructs the drone 1 to fly and shoot.

S509では、ドローンコントローラ2の指定に基づいて、撮影した画像をドローン1から5G回線を介して受信する。受信する画像の解像度は、ドローンコントローラ2から指摘できる。これは、再撮影である。 In S509, based on the designation of the drone controller 2, the captured image is received from the drone 1 via the 5G line. The resolution of the received image can be indicated by the drone controller 2 . This is a retake.

S510では、ドローンコントローラ2は、飛行の位置、高度および飛行姿勢を5G通信を介して、サーバー/クラウド4に送る。 At S510, the drone controller 2 sends the flight position, altitude and flight attitude to the server/cloud 4 via 5G communication.

S511では、ドローンコントローラ2は、サーバー/クラウド4から送られる位置、高度および飛行姿勢に基づいた過去の高精細な画像を5G通信を介して受信する。 At S511, the drone controller 2 receives past high-definition images based on position, altitude and flight attitude sent from the server/cloud 4 via 5G communication.

図23のS512では、ドローン1で撮影している画像とサーバー/クラウド4から5G回線を介して受信した画像を比較する。 In S512 of FIG. 23, the image captured by the drone 1 and the image received from the server/cloud 4 via the 5G line are compared.

S513においては、ドローンコントローラ2でのこの位置での撮影は終了したか否かが判定される。ドローンコントローラ2でのこの位置での撮影が終了するとS514に進み、ドローンコントローラ2から、この位置での撮影が終了していないとS508進む。 In S513, it is determined whether or not the drone controller 2 has finished shooting at this position. If the drone controller 2 has finished shooting at this position, the process advances to S514.

S514では、ドローンコントローラ2は、ドローン1にこの位置での撮影が終了した(再撮影は正常に終了した)旨を通知する。これにより、ドローン1は、飛行工程に戻る。 In S514, the drone controller 2 notifies the drone 1 that imaging at this position has ended (re-imaging has ended normally). Thereby, the drone 1 returns to the flight process.

図24のS515では、飛行の工程は終了するか否かが判定される。飛行の工程は終了するとS516に進み、飛行の工程は終了しないとS518に進む。 At S515 of FIG. 24, it is determined whether or not the flight process is finished. If the flight process is completed, the process proceeds to S516, and if the flight process is not completed, the process proceeds to S518.

S516では、ドローンコントローラ2は、飛行工程が終了したことをサーバー/クラウド4、ドローン1に通知する。 At S516, the drone controller 2 notifies the server/cloud 4 and the drone 1 that the flight process has ended.

S517では、ドローンコントローラ2は、再撮影にて、前回の撮影との異なる点を明確にできる必要な情報を記憶する。この情報をサーバー/クラウド4、ドローン1に送る。 In S517, the drone controller 2 stores necessary information for clarifying the difference from the previous shooting in the re-shooting. Send this information to Server/Cloud 4, Drone 1.

S518では、ドローンコントローラ2は、ドローン1に、飛行ルートに基づき、位置、高度、飛行姿勢を移動する指定をする。これは、次の撮影位置への移動制御を表している。 In S518, the drone controller 2 instructs the drone 1 to move the position, altitude, and flight attitude based on the flight route. This represents movement control to the next photographing position.

ドローン1の飛行ルートに従い、ドローン1の撮影情報と以前の撮像画像を比較でき、異なるときに、ドローン1は、詳細の状況を把握する。ドローン1は、エッジとして動作し、リアルタイムでの現場での分析を可能にした。ここで、実施形態2のように、ドローンコントローラ2からドローン1制御を行ってもよい。ドローン1からドローンコントローラ2へは、現在の撮影情報と以前の撮影情報を送っている。ドローンコントローラ2側で、リアルタイムでの比較が容易になるという効果がある。 According to the flight route of the drone 1, the shooting information of the drone 1 can be compared with the previous captured image, and the drone 1 can grasp the detailed situation when different. Drone 1 acted as an edge, enabling real-time on-site analysis. Here, the drone 1 may be controlled from the drone controller 2 as in the second embodiment. Current imaging information and previous imaging information are sent from the drone 1 to the drone controller 2 . There is an effect that real-time comparison becomes easier on the drone controller 2 side.

実施形態2によれば、5G通信の下りで、画像を送るため、5Gの高速大容量の特長を最大限に生かすことができる。ドローン1は、クラウドからは高精細画像を受信し、ドローンコントローラ2には、ラフ画像を送る。必要な情報のみを高精細で送る。例えば、静止画比較情報である。これにより、ドローンコントローラ2にスループットでの負担がかからないというメリットがある。過去の飛行時の撮像画像は、サーバー/クラウド4から5G通信の下り回線を利用して、受信するのでドローン1のバッファ少なくてよいという効果がある。過去の飛行ルートに基づいて、現在の状況を撮影しているので、状況報告のレポート、状況を分析した詳細画像を含んだレポートを自動で作成でき、これは、顧客のニーズでもある。 According to the second embodiment, since images are sent in the downlink of 5G communication, it is possible to make the most of the high-speed, large-capacity features of 5G. The drone 1 receives high definition images from the cloud and sends rough images to the drone controller 2 . Send only necessary information with high definition. For example, it is still image comparison information. As a result, there is an advantage that the drone controller 2 is not burdened with throughput. Images captured during past flights are received from the server/cloud 4 using the downlink of 5G communication, so there is an effect that the drone 1 may have a small buffer. Since the current situation is captured based on the past flight route, it is possible to automatically create a situation report and a report containing detailed images analyzing the situation, which is also the customer's need.

実施形態2によれば、ドローン1は、現在の撮像画像と過去の撮像画像の違いを判定し、これらの画像の違いを検出した場合にはアラームを通知することが可能になった。 According to the second embodiment, the drone 1 can determine the difference between the current captured image and the past captured image, and notify an alarm when the difference between these images is detected.

実施形態2によれば、ドローン1は、現在の撮像画像と過去の撮像画像の画像の違いを判定する。そして、ドローン1は、これらの画像の違いを検出していない場合には、ドローン1での撮影を継続し、これらの画像の違いを検出した場合には、ドローン1側での念入りの撮影を行うが可能になった。 According to the second embodiment, the drone 1 determines the difference between the current captured image and the past captured image. Then, if the drone 1 does not detect any difference between these images, the drone 1 continues to shoot, and if it detects a difference between these images, the drone 1 takes careful shots. became possible.

実施形態2によれば、念入りの撮影とは、複数枚の注目画像を複数枚、角度を変えて撮影することが可能になった。 According to the second embodiment, careful shooting means that a plurality of images of interest can be shot at different angles.

実施形態2によれば、現在の撮像画像の位置、高度および飛行姿勢に対応する過去の撮像画像は、高精細な画像であることが可能になった。 According to the second embodiment, the past captured image corresponding to the position, altitude and flight attitude of the current captured image can be a high-definition image.

実施形態2によれば、ドローンコントローラ2は、ドローン1の画像を受信して表示する表示部、ドローン1の飛行を制御する制御部、ドローン1での画像撮影を指定する指定部を有する。ドローン1は、飛行ルートに従い、飛行中に、解像度を落とした撮像画像を、位置、高度および飛行姿勢と共にコントロールに送ることをしながら、現在の撮像画像と過去の撮像画像との違いを判定することができる。これにより、現在の撮像画像と過去の撮像画像との違いを検出していない場合には、ドローン1での撮影を継続し、現在の撮像画像と過去の撮像画像との違いを検出した場合には、ドローン1の制御権をドローンコントローラ2に渡すことが可能になった。 According to the second embodiment, the drone controller 2 has a display unit that receives and displays an image of the drone 1 , a control unit that controls the flight of the drone 1 , and a designation unit that designates image capturing by the drone 1 . The drone 1 determines the difference between the current captured image and the past captured image while sending captured images with reduced resolution along with the position, altitude and flight attitude during flight according to the flight route. be able to. As a result, when the difference between the current captured image and the past captured image is not detected, the drone 1 continues shooting, and when the difference between the current captured image and the past captured image is detected, can pass the control right of the drone 1 to the drone controller 2.

実施形態2によれば、ドローンコントローラ2は、ドローン1の飛行をコントロールし、ドローン1に撮影指示を行い、ドローン1からの画像を受信し、ドローン1の飛行を制御しながらドローン1からの画像を受信することが可能になった。 According to the second embodiment, the drone controller 2 controls the flight of the drone 1, issues a photographing instruction to the drone 1, receives an image from the drone 1, and controls the flight of the drone 1 while capturing the image from the drone 1. became possible to receive

実施形態2によれば、ドローンコントローラ2は、ドローン1の飛行を制御しながら、ドローン1からの現在の撮像画像と、現在の撮像画像に対応する過去の飛行時の撮像画像とを受信することが可能になった。 According to the second embodiment, the drone controller 2 receives the current captured image from the drone 1 and the captured image during the past flight corresponding to the current captured image while controlling the flight of the drone 1. became possible.

実施形態2によれば、ドローンコントローラ2は、ドローン1の飛行を制御しながら、念入りのドローン1からの画像を受信することが可能になった。 According to the second embodiment, the drone controller 2 can receive images from the drone 1 while controlling the flight of the drone 1 .

実施形態2によれば、ドローンコントローラ2は、ドローン1からの画像を受信する場合、現在のドローン1が撮影している画像と共に、以前に撮影した画像を同時に受信し、表示することが可能になった。 According to the second embodiment, when receiving an image from the drone 1, the drone controller 2 can simultaneously receive and display an image currently captured by the drone 1 and an image captured previously. became.

実施形態2によれば、ドローンコントローラ2は、ドローン1に、画像受信時の解像度を選択する部により、この解像度の選択情報をドローン1に送り、ドローン1からの画像を受信する場合、高精細での画像を受信し、表示することが可能になった。 According to the second embodiment, the drone controller 2 sends the selection information of this resolution to the drone 1 by the unit for selecting the resolution at the time of image reception to the drone 1, and when receiving the image from the drone 1, the high-definition It is now possible to receive and display images from

実施形態2によれば、ドローンコントローラ2は、ドローン1に、再撮影終了後は、ドローン1の飛行計画に基づいてドローン1は飛行して、ドローン1からの画像を受信し、表示することが可能になった。 According to the second embodiment, the drone controller 2 instructs the drone 1 to fly based on the flight plan of the drone 1 after re-capturing, and to receive and display images from the drone 1. became possible.

実施形態2によれば、ドローン1からサーバー/クラウド4に通知される位置、高度および飛行姿勢は、5G無線通信区間の上りで通知される。サーバー/クラウド4からドローン1に送信される過去の撮像画像であってドローン1から指定のあった過去の撮像画像は、5G無線通信区間の下りで送信される。 According to Embodiment 2, the position, altitude and flight attitude notified from the drone 1 to the server/cloud 4 are notified in the uplink of the 5G wireless communication section. A past captured image that is a past captured image that is transmitted from the server/cloud 4 to the drone 1 and that has been specified by the drone 1 is transmitted in the downlink of the 5G wireless communication section.

実施形態2によれば、ドローン1が飛行工程を組んで、撮影をして前回の画像と異なる場合に、ドローンコントローラ2の人にドローン1の制御権を渡すことができる。これにより、ドローンコントローラ2を操作する人が、現在の撮像画像と過去の撮像画像との違いを認識することが可能になった。その後、ドローン1の飛行計画に従っての撮影に移行することが可能になった。 According to the second embodiment, when the drone 1 sets up a flight process and takes an image and the image is different from the previous image, the control right of the drone 1 can be handed over to the person of the drone controller 2 . This allows the person who operates the drone controller 2 to recognize the difference between the current captured image and the past captured image. After that, it became possible to shift to shooting according to the flight plan of Drone 1.

[実施形態3]
上述の実施形態で説明した様々な機能、処理または方法は、パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)またはマイクロプロセッサがプログラムを実行することによって実現することもできる。以下、実施形態3では、パーソナルコンピュータ、マイクロコンピュータ、CPUまたはマイクロプロセッサを「コンピュータX」と呼ぶ。実施形態3では、コンピュータXを制御するためのプログラムであって、上述の実施形態で説明した様々な機能、処理または方法を実現するためのプログラムを「プログラムY」と呼ぶ。
[Embodiment 3]
Various functions, processes, or methods described in the above-described embodiments can also be realized by a personal computer, microcomputer, CPU (Central Processing Unit), or microprocessor executing a program. Hereinafter, in Embodiment 3, a personal computer, microcomputer, CPU, or microprocessor will be referred to as "computer X". In Embodiment 3, a program for controlling computer X and for realizing various functions, processes, or methods described in the above embodiments is referred to as "program Y."

上述の実施形態で説明した様々な機能、処理または方法は、コンピュータXがプログラムYを実行することによって実現される。この場合において、プログラムYは、コンピュータ読み取り可能な記憶媒体を介してコンピュータXに供給される。実施形態3におけるコンピュータ読み取り可能な記憶媒体は、ハードディスク装置、磁気記憶装置、光記憶装置、光磁気記憶装置、メモリカード、揮発性メモリ、不揮発性メモリなどの少なくとも一つを含む。実施形態3におけるコンピュータ読み取り可能な記憶媒体は、non-transitoryな記憶媒体である。 Various functions, processes or methods described in the above-described embodiments are realized by computer X executing program Y. In this case, program Y is supplied to computer X via a computer-readable storage medium. A computer-readable storage medium in Embodiment 3 includes at least one of a hard disk device, a magnetic storage device, an optical storage device, a magneto-optical storage device, a memory card, a volatile memory, a non-volatile memory, and the like. A computer-readable storage medium in Embodiment 3 is a non-transitory storage medium.

1 ドローン1(移動装置)
2 ドローンコントローラ2(制御装置)
3 5G基地局3
4 サーバー/クラウド4
1 Drone 1 (mobile device)
2 Drone controller 2 (control device)
3 5G base station 3
4 Server/Cloud 4

Claims (19)

撮像部と、
位置、高度および飛行姿勢を検出する検出部と
を有し、
飛行中に検出された位置、高度および飛行姿勢を外部装置に送信し、前記外部装置が前記外部装置に送信された位置、高度および飛行姿勢に基づいて選択した過去の撮像画像を前記外部装置から受信し、前記外部装置から受信された過去の撮像画像と現在の撮像画像との比較結果に基づき、再撮影を行うか否かの判定を行うことを特徴とする移動装置。
an imaging unit;
a detection unit that detects position, altitude and flight attitude,
Position, altitude, and flight attitude detected during flight are transmitted to an external device, and past captured images selected by the external device based on the position, altitude, and flight attitude transmitted to the external device are sent from the external device. and determining whether or not to re-capture based on a comparison result between a past captured image received from the external device and a current captured image.
前記移動装置は、過去の撮像画像と現在の撮像画像との違いを判定は、前記移動装置がリアルタイムに行うことを特徴とする請求項1に記載の移動装置。 2. The mobile device according to claim 1, wherein said mobile device determines in real time whether there is a difference between a past captured image and a current captured image. 再撮影を行うか否かの判定は、前記外部装置からリアルタイムに取得した過去の撮像画像と、前記移動装置で撮像した画像とを用いて行うことを特徴とする請求項1または2に記載の移動装置。 3. The method according to claim 1, wherein the determination as to whether or not to re-capture is performed using a past captured image obtained in real time from the external device and an image captured by the mobile device. mobile device. 再撮影を行う場合は、再撮影が正常に完了するまで、再撮影を行うべき撮影位置またはその近傍から移動しないように前記移動装置の位置、高度および飛行姿勢が維持されるように前記移動装置の飛行状態を制御することすることを特徴とする請求項1~3のいずれか1項に記載の移動装置。 In the case of performing re-imaging, the moving device is maintained in its position, altitude and flight attitude so as not to move from the imaging position where re-imaging should be performed or in the vicinity thereof until re-imaging is completed normally. 4. The mobile device according to any one of claims 1 to 3, wherein the flight state of the aircraft is controlled. 再撮影を行うべき撮影位置またはその近傍から移動しないとは、撮影画角が所定値以上ズレないようにすることを特徴とする請求項1~4のいずれか1項に記載の移動装置。 5. The moving device according to claim 1, wherein the movement from the photographing position where re-photographing is to be performed or its vicinity means that the photographing angle of view does not deviate by a predetermined value or more. 再撮影を行う場合は、再撮影が正常に完了するまで、少なくとも次の撮影位置まで移動しないことを特徴とする請求項1~5のいずれか1項に記載の移動装置。 6. The moving device according to claim 1, wherein when re-imaging is to be performed, it does not move at least to the next imaging position until re-imaging is normally completed. 再撮影は、再撮影を行うか否かの判定、再撮影、再撮影時の飛行状態制御、次の撮影位置の移動制御の4つの一連の動作を、リアルタイムに順次を行うことを特徴とする請求項1~6のいずれか1項に記載の移動装置。 The re-shooting is characterized by sequentially performing a series of four operations in real time: determining whether or not to re-shoot, re-shooting, flight state control at the time of re-shooting, and movement control of the next shooting position. A mobile device according to any one of claims 1-6. 前記移動装置は、過去の撮像画像と現在の撮像画像との違いを検出した場合には、アラームを通知することを特徴とする請求項1~7のいずれか1項に記載の移動装置。 The mobile device according to any one of claims 1 to 7, wherein the mobile device notifies an alarm when detecting a difference between a past captured image and a current captured image. 前記移動装置は、過去の撮像画像と現在の撮像画像との違いを検出していない場合には、前記移動装置での撮影を継続し、過去の撮像画像と現在の撮像画像との違いを検出した場合には、前記移動装置で再撮影を行うことを特徴とする請求項1~8のいずれか1項に記載の移動装置。 When the mobile device has not detected a difference between the past captured image and the current captured image, the mobile device continues shooting with the mobile device and detects the difference between the past captured image and the current captured image. 9. The mobile device according to any one of claims 1 to 8, characterized in that, in the event that an image has been captured, the mobile device performs re-photographing. 撮像画像の位置、高度および飛行姿勢に対応する過去の撮像画像は、高精細な画像であることを特徴とする請求項1~9のいずれか1項に記載の移動装置。 The mobile device according to any one of claims 1 to 9, wherein the past captured image corresponding to the position, altitude and flight attitude of the captured image is a high-definition image. 制御装置をさらに有し、
前記移動装置は、飛行ルートに従い、飛行中に、位置、高度および飛行姿勢に対応して撮影を行うが解像度を落とした画像を、位置、高度および飛行姿勢と共にコントロールに送ることをしながら、過去の撮像画像と現在の撮像画像との違いを判定し、過去の撮像画像と現在の撮像画像との違いを検出していない場合には、前記移動装置での撮影を継続し、過去の撮像画像と現在の撮像画像との違いを検出した場合には、前記移動装置の制御権を前記制御装置に渡すことを特徴とする請求項1~10のいずれか1項に記載の移動装置。
further comprising a controller;
The mobile device follows the flight route and, during flight, takes pictures corresponding to the position, altitude and flight attitude, but sends reduced resolution images to the control along with the position, altitude and flight attitude. determining the difference between the captured image and the current captured image, and if the difference between the past captured image and the current captured image is not detected, continue shooting with the mobile device, and the past captured image 11. The mobile device according to any one of claims 1 to 10, wherein the control right of the mobile device is passed to the control device when detecting a difference between the captured image and the current captured image.
前記制御装置は、さらに、前記移動装置の飛行をコントロールする部、前記移動装置に撮影指示を行い、前記移動装置からの画像を受信する部を有し、前記移動装置の飛行を制御しながら前記移動装置からの画像を受信することを特徴とする請求項1~11のいずれか1項に記載の移動装置。 The control device further has a unit for controlling the flight of the mobile device, and a unit for instructing the mobile device to shoot and receiving an image from the mobile device. A mobile device as claimed in any one of claims 1 to 11, characterized in that it receives images from the mobile device. 前記制御装置は、前記移動装置の飛行を制御しながら、前記移動装置からの現在の撮像画像と、現在の撮像画像に対応する過去の飛行時の撮像画像を受信することを特徴とする請求項1~12のいずれか1項に記載の移動装置。 3. The control device, while controlling the flight of the mobile device, receives a current captured image from the mobile device and a captured image from a previous flight corresponding to the current captured image. 13. The mobile device according to any one of 1 to 12. 前記制御装置は、前記移動装置の飛行を制御しながら、前記移動装置で再撮影された画像を受信することを特徴とする請求項1~13のいずれか1項に記載の移動装置。 A mobile device according to any preceding claim, wherein the controller receives images re-captured by the mobile device while controlling flight of the mobile device. 前記制御装置は、前記移動装置からの画像を受信する場合、現在の前記移動装置が撮影している画像と共に、以前に撮影した画像を同時に受信し、表示することを特徴とする請求項1~14のいずれか1項に記載の移動装置。 1. The control device, when receiving an image from the mobile device, simultaneously receives and displays an image currently being captured by the mobile device and an image captured previously. 15. A mobile device according to any one of 14. 前記制御装置は、前記移動装置に、画像受信時の解像度を選択する部により、この解像度の選択情報を前記移動装置に送り、前記移動装置からの画像を受信する場合、高精細での画像を受信し、表示することを特徴とする請求項1~15のいずれか1項に記載の移動装置。 The control device sends the selection information of the resolution to the mobile device by the unit for selecting the resolution at the time of image reception, and when receiving the image from the mobile device, the high-definition image is sent to the mobile device. A mobile device as claimed in any one of claims 1 to 15 for receiving and displaying. 再撮影終了後、前記移動装置は前記移動装置の飛行計画に基づいて飛行し、前記制御装置は前記移動装置からの画像を受信して表示することを特徴とする請求項1~16のいずれか1項に記載の移動装置。 17. The mobile device flies according to the flight plan of the mobile device after re-capturing, and the control device receives and displays images from the mobile device. 2. A mobile device according to claim 1. ドローンから前記外部装置に通知する位置、高度および飛行姿勢は、5G無線通信区間は上りであり、前記外部装置からドローンに送るドローンから指定のあった過去の撮像画像は、5G無線通信区間は下りであることを特徴とする請求項1~17のいずれか1項に記載の移動装置。 The position, altitude, and flight attitude notified from the drone to the external device are uplink in the 5G wireless communication section, and the past captured image specified by the drone sent from the external device to the drone is downlink in the 5G wireless communication section. The mobile device according to any one of claims 1 to 17, characterized in that: 撮像部と、位置、高度および飛行姿勢を検出する検出部とを有する移動装置の制御方法であって、
飛行中に検出された位置、高度および飛行姿勢を外部装置に送信し、前記外部装置が前記外部装置に送信された位置、高度および飛行姿勢に基づいて選択した過去の撮像画像を前記外部装置から受信し、前記外部装置から受信された過去の撮像画像と現在の撮像画像との比較結果に基づき、再撮影を行うか否かの判定を行うことを特徴とする制御方法。
A control method for a mobile device having an imaging unit and a detection unit for detecting position, altitude and flight attitude,
Position, altitude, and flight attitude detected during flight are transmitted to an external device, and past captured images selected by the external device based on the position, altitude, and flight attitude transmitted to the external device are sent from the external device. and determining whether or not to perform re-shooting based on a comparison result between a past captured image received from the external device and a current captured image.
JP2021193336A 2021-11-29 2021-11-29 Mobile device and control method Pending JP2023079733A (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2021193336A JP2023079733A (en) 2021-11-29 2021-11-29 Mobile device and control method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021193336A JP2023079733A (en) 2021-11-29 2021-11-29 Mobile device and control method

Publications (1)

Publication Number Publication Date
JP2023079733A true JP2023079733A (en) 2023-06-08

Family

ID=86647351

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021193336A Pending JP2023079733A (en) 2021-11-29 2021-11-29 Mobile device and control method

Country Status (1)

Country Link
JP (1) JP2023079733A (en)

Similar Documents

Publication Publication Date Title
EP3635950B1 (en) Imaging device, camera-equipped drone, and mode control method, and program
JP2017011469A (en) Photographing device, photographing method, and program
CN110383810B (en) Information processing apparatus, information processing method, and information processing program
CN111567032A (en) Specifying device, moving object, specifying method, and program
CN111630838B (en) Specifying device, imaging system, moving object, specifying method, and program
JP6098104B2 (en) Auxiliary imaging device and program
JP2023079733A (en) Mobile device and control method
JP5428821B2 (en) Analysis device, imaging device, server device, analysis method, program, and analysis system
JP6726649B2 (en) Flight device, management device, shooting control method, and shooting control program
JP2012029033A (en) Camera
US20220417431A1 (en) Control device, control method, and information processing system
CN110622496A (en) Image fusion method, shooting device and movable platform system
JP5869046B2 (en) Imaging apparatus, control method thereof, and program
JP2019018664A (en) Imaging control system
JPWO2018198317A1 (en) Unmanned airborne aerial imaging system, method and program
CN110574365B (en) Image generation device and image generation method
CN111373735A (en) Shooting control method, movable platform and storage medium
US11810386B2 (en) Image capture apparatus and control method
JP2012216885A (en) Imaging apparatus and image sharing system
US11765454B2 (en) Image control method and device, and mobile platform
JP6899473B2 (en) Flight equipment, imaging control methods, and imaging control programs
JP2019008176A (en) Imaging device and control method of the same, lens device and control method of the same, and imaging system
JP2011197467A (en) Photographic device
JP6121004B2 (en) Imaging apparatus, control method thereof, and program
JP6528760B2 (en) INFORMATION PROCESSING APPARATUS, CONTROL METHOD THEREOF, AND PROGRAM

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213