WO2019082301A1 - 無人航空機制御システム、無人航空機制御方法、及びプログラム - Google Patents

無人航空機制御システム、無人航空機制御方法、及びプログラム

Info

Publication number
WO2019082301A1
WO2019082301A1 PCT/JP2017/038523 JP2017038523W WO2019082301A1 WO 2019082301 A1 WO2019082301 A1 WO 2019082301A1 JP 2017038523 W JP2017038523 W JP 2017038523W WO 2019082301 A1 WO2019082301 A1 WO 2019082301A1
Authority
WO
WIPO (PCT)
Prior art keywords
aerial vehicle
unmanned aerial
processing target
target portion
information
Prior art date
Application number
PCT/JP2017/038523
Other languages
English (en)
French (fr)
Inventor
裕章 岩瀬
Original Assignee
楽天株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 楽天株式会社 filed Critical 楽天株式会社
Priority to JP2018509869A priority Critical patent/JP6324649B1/ja
Priority to PCT/JP2017/038523 priority patent/WO2019082301A1/ja
Priority to US16/636,636 priority patent/US20200379487A1/en
Publication of WO2019082301A1 publication Critical patent/WO2019082301A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0004Transmission of traffic-related information to or from an aircraft
    • G08G5/0013Transmission of traffic-related information to or from an aircraft with a ground station
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05DSYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/10Simultaneous control of position or course in three dimensions
    • G05D1/101Simultaneous control of position or course in three dimensions specially adapted for aircraft
    • G05D1/106Change initiated in response to external conditions, e.g. avoidance of elevated terrain or of no-fly zones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/13Satellite images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/10Terrestrial scenes
    • G06V20/17Terrestrial scenes taken from planes or by drones
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0017Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
    • G08G5/0026Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located on the ground
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0078Surveillance aids for monitoring traffic from the aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0082Surveillance aids for monitoring traffic from a ground station
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0086Surveillance aids for monitoring terrain
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0073Surveillance aids
    • G08G5/0091Surveillance aids for monitoring atmospheric conditions
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/02Automatic approach or landing aids, i.e. systems in which flight data of incoming planes are processed to provide landing data
    • G08G5/025Navigation or guidance aids
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2101/00UAVs specially adapted for particular uses or applications
    • B64U2101/30UAVs specially adapted for particular uses or applications for imaging, photography or videography
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/10UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/10UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS]
    • B64U2201/104UAVs characterised by their flight controls autonomous, i.e. by navigating independently from ground or air stations, e.g. by using inertial navigation systems [INS] using satellite radio beacon positioning systems, e.g. GPS
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64UUNMANNED AERIAL VEHICLES [UAV]; EQUIPMENT THEREFOR
    • B64U2201/00UAVs characterised by their flight controls
    • B64U2201/20Remote controls
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0017Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information
    • G08G5/0021Arrangements for implementing traffic-related aircraft activities, e.g. arrangements for generating, displaying, acquiring or managing traffic information located in the aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0052Navigation or guidance aids for a single aircraft for cruising
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/0047Navigation or guidance aids for a single aircraft
    • G08G5/0069Navigation or guidance aids for a single aircraft specially adapted for an unmanned aircraft
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G5/00Traffic control systems for aircraft, e.g. air-traffic control [ATC]
    • G08G5/04Anti-collision systems
    • G08G5/045Navigation or guidance aids, e.g. determination of anti-collision manoeuvers

Definitions

  • the present invention relates to an unmanned aircraft control system, an unmanned aircraft control method, and a program.
  • Patent Document 1 describes a technique for determining whether a specific object is detected from an image captured by an unmanned aerial vehicle and causing the unmanned aerial vehicle to take an evasion action when the specific object is detected.
  • Such techniques require the quick detection of specific objects in order to increase flight safety.
  • an aircraft such as a passenger plane that basically flies in the front direction (does not fly basically in the vertical and left / right / back directions)
  • the unmanned aerial vehicle which can move in any direction does not necessarily travel in the front direction, it is necessary to take a picture of the surrounding area widely. For this reason, the range to be subjected to image processing is wide, and detection of a specific object tends to be delayed.
  • the present invention has been made in view of the above problems, and an object thereof is to quickly detect a specific object to enhance flight safety.
  • an unmanned aerial vehicle control system comprises an image acquisition means for acquiring an image obtained by photographing the surroundings of an unmanned aerial vehicle movable in any direction; A moving direction acquiring unit that acquires direction information; a specifying unit that specifies a processing target portion from the image based on the moving direction information; and a detection for detecting a specific object with respect to the processing target portion And processing means for performing processing, and flight control means for controlling the flight of the unmanned aerial vehicle based on the execution result of the detection processing.
  • an image acquisition step of acquiring an image obtained by capturing an image of the surroundings of the unmanned aerial vehicle movable in any direction, and movement direction acquisition of acquiring movement direction information regarding the movement direction of the unmanned aircraft A specifying step of specifying a processing target portion from the image based on the movement direction information; and a processing step of executing a detection process for detecting a specific object on the processing target portion; And f) controlling flight of the unmanned aerial vehicle based on the execution result of the detection process.
  • a program comprises an image acquisition means for acquiring an image of the surroundings of an unmanned aircraft movable in any direction, a movement direction acquisition means for acquiring movement direction information regarding the movement direction of the unmanned aircraft, the movement Specifying means for specifying a processing target portion from the image based on the direction information, processing means for executing detection processing for detecting a specific object on the processing target portion, execution results of the detection processing Based on this, the computer functions as flight control means for controlling the flight of the unmanned aerial vehicle.
  • the unmanned aerial vehicle control system further includes an external force acquiring unit for acquiring external force information on the external force with respect to the unmanned aerial vehicle, and the specifying unit further includes the processing target based on the external force information. Identifying the part.
  • the unmanned aerial vehicle control system further includes attitude acquisition means for acquiring attitude information on the attitude of the unmanned aircraft, and the specifying means further includes the process target based on the attitude information. Identifying the part.
  • the unmanned aerial vehicle control system further includes moving speed obtaining means for obtaining moving speed information regarding the moving speed of the unmanned aerial vehicle, and the specifying means further based on the moving speed information. And identifying the processing target portion.
  • Flying and the unmanned aerial vehicle control system further includes flight mode obtaining means for obtaining flight mode information on a current flight mode of the unmanned aerial vehicle, and the identifying means further includes the flight mode information based on the flight mode information. Identifying the processing target portion.
  • the unmanned aerial vehicle control system further includes an altitude acquiring means for acquiring altitude information on the in-flight altitude of the unmanned aerial vehicle, and the identifying means further based on the altitude information.
  • the processing target portion is identified.
  • the unmanned aerial vehicle control system further includes ground surface acquisition means for acquiring ground surface information on the ground surface of the area where the unmanned aircraft flies, and the identification means includes the ground surface information. And identifying the portion to be processed.
  • the unmanned aerial vehicle automatically flies based on a predetermined flight path, and the flight control means substitutes when the specific object is detected by the detection process. Creating a flight path, and controlling the flight of the unmanned aerial vehicle based on the alternative flight path.
  • the specifying unit is characterized in that, when the alternative flight path is created, the processing target is specified again based on the alternative flight path.
  • the unmanned aircraft control system further includes means for acquiring map data of a region where the unmanned aircraft flies, and the identification means further includes the processing object based on the map data. Identifying the part.
  • the unmanned aerial vehicle control system further includes distinction means for distinguishing, among the image, the sky portion where the sky is shot and the ground portion where the ground is shot,
  • the means is characterized in that the processing target portion is specified from the ground portion.
  • the specifying unit when the specific object is detected by the detection process executed in the past, the specifying unit further adds a portion where the specific object is detected in the image. And identifying the processing target portion based on the information.
  • the image is an image in which at least all the horizontal directions are captured.
  • the specific object is an object to be avoided by the unmanned aerial vehicle.
  • the processing means does not execute the detection process on parts other than the process target part, and executes the detection process only on the process target part. It is characterized by
  • the processing means executes the detection process on a portion other than the portion to be processed at a first frequency, and the portion to be processed is more than the first frequency.
  • the detection process is performed with a high second frequency.
  • FIG. 5 is a flow diagram illustrating an example of a process performed in an unmanned aerial vehicle control system.
  • the unmanned aerial vehicle control system may include a plurality of unmanned aerial vehicles and includes other computers. It may be The other computer may be a personal computer, a tablet terminal, a mobile phone such as a smartphone, or a server computer.
  • FIG. 1 is a diagram showing how an unmanned aerial vehicle flies.
  • the unmanned aerial vehicle 10 included in the unmanned aerial vehicle control system 1 automatically flies on a predetermined route, and flies over the area where the person H, the road R, etc. exist, as shown in FIG. .
  • the unmanned aerial vehicle 10 is an aircraft which a person does not board, for example, a battery-powered unmanned aerial vehicle (so-called drone) or an engine-powered unmanned aerial vehicle.
  • an unmanned aerial vehicle may be capable of carrying luggage such as goods and mail, and may fly to a delivery destination to deliver the luggage or fly to a collection destination to collect the luggage.
  • an unmanned aerial vehicle may fly to obtain the appearance of a flight destination, without carrying luggage in particular.
  • the unmanned aerial vehicle 10 is movable not only in the front direction, but also in any of vertical and horizontal directions. That is, the unmanned aerial vehicle 10 can also move in the direction of a predetermined angle (for example, 90 °) or more from the front direction, for example, can move in any direction of 360 ° in the horizontal direction and 360 ° in the vertical direction. .
  • a predetermined angle for example, 90 °
  • the unmanned aerial vehicle 10 is set as the origin and three axes (for example, roll axes, pitch axes, and yaw axes in FIG. 5 described later) are set, movement is possible in any three-dimensional vector direction. .
  • FIG. 2 is a diagram showing the hardware configuration of the unmanned aerial vehicle 10.
  • the unmanned aerial vehicle 10 includes a control unit 11, a storage unit 12, a communication unit 13, an imaging unit 14, and a sensor unit 15.
  • the unmanned aerial vehicle 10 also includes a propeller, a motor, a battery, and the like, the description is omitted here.
  • the control unit 11 includes, for example, at least one microprocessor.
  • the control unit 11 executes processing in accordance with programs and data stored in the storage unit 12.
  • the storage unit 12 includes a main storage unit and an auxiliary storage unit.
  • the main storage unit is a volatile memory such as a RAM
  • the auxiliary storage unit is a non-volatile memory such as a hard disk or a flash memory.
  • the communication unit 13 includes a communication interface for wired communication or wireless communication. The communication unit 13 performs data communication via a network.
  • the photographing unit 14 is at least one camera.
  • the imaging unit 14 includes an imaging element such as a CCD image sensor or a CMOS image sensor, and records an image captured by the imaging element as digital data.
  • the image may be a still image, or may be a moving image captured continuously at a predetermined frame rate.
  • the imaging unit 14 may include a wide-angle lens or a fisheye lens, and the angle of view and focal length of the imaging unit 14 may be arbitrary.
  • the imaging unit 14 may be an omnidirectional camera (omnidirectional camera) or may be capable of imaging a wide area by a plurality of cameras having different imaging directions.
  • the photographing unit 14 may be a thermography camera or an infrared camera. Therefore, the image may be an image showing heat distribution, or an image showing infrared flight time.
  • the sensor unit 15 includes, for example, a GPS sensor 15A.
  • the GPS sensor 15A includes a receiver that receives a signal from a satellite, and detects position information based on the signal received by the receiver, for example. Any sensor may be mounted on the unmanned aerial vehicle 10.
  • the sensor unit 15 includes an infrared sensor, an audio sensor (microphone), an acceleration sensor, a gyro sensor, a wind sensor, a geomagnetic sensor, an altitude sensor, a displacement sensor, and a feeling Any sensor such as a pressure sensor or a temperature sensor may be included.
  • the hardware configuration of the unmanned aerial vehicle 10 is not limited to the example of FIG. 1, and various hardware may be applied.
  • the unmanned aerial vehicle 10 may include an input device such as a touch panel or a button, or may include a liquid crystal display unit or an organic EL display unit.
  • the unmanned aerial vehicle 10 may include a reading unit (for example, a memory card slot or an optical disk drive) for reading a computer readable information storage medium, or an input / output unit for communicating with an external device (for example, a USB port) ) May be included.
  • the program and data described as being stored in the storage unit 12 may be supplied via a reading unit or an input / output unit, or may be supplied via a network. .
  • the unmanned aerial vehicle 10 analyzes the image captured by the imaging unit 14 and controls its flight based on the specific object detected from the image.
  • the object is an object on the ground or in the air, and is an object photographed by the photographing unit 14.
  • the object may be a stationary object or a moving object.
  • the specific object is an object serving as a reference for flight control, and may indicate an object that the unmanned aerial vehicle 10 should avoid or may indicate an object that the unmanned aerial vehicle 10 should approach.
  • An object that the unmanned aerial vehicle 10 should avoid is an object that the unmanned aerial vehicle 10 should not approach within a predetermined distance (for example, 30 meters) (that is, an object that the unmanned aerial vehicle 10 should keep a predetermined distance or more) 10 is an object that should not be landed or touched.
  • the object to which the unmanned aerial vehicle 10 should approach is an object which should be within the predetermined distance of the unmanned aerial vehicle 10, an object which is at a target point or passing point of the unmanned aerial vehicle 10, or an object which the unmanned aerial vehicle 10 should land or contact.
  • the specific object is an object that the unmanned aerial vehicle 10 should avoid, for example, animals such as humans and birds, buildings such as buildings, houses and factories, or cars, bikes, and other aircraft.
  • animals such as humans and birds
  • buildings such as buildings, houses and factories
  • cars, bikes, and other aircraft The case of a machine will be described.
  • the specific objects may be predetermined objects.
  • the unmanned aerial vehicle 10 analyzes the image captured by the imaging unit 14 and determines whether a specific object has been detected.
  • FIG. 3 is a view showing an image photographed by the photographing unit 14.
  • a two-dimensional coordinate axis (Xs axis-Ys axis) is set with an origin Os at the upper left of the image G, and the position in the image G is specified by two-dimensional coordinates.
  • the Xs coordinate value of the right end of the image G is Xmax
  • the Ys coordinate value of the lower end of the image G is Ymax.
  • the image G of the present embodiment is a panoramic image in which the 360 ° around the unmanned aerial vehicle 10 is uniformly taken.
  • a state in the front direction of the unmanned aerial vehicle 10 is captured in a region of Xs coordinate values X2 to X3.
  • the front direction may be a reference direction set in advance for the unmanned aerial vehicle 10, and is, for example, the direction of a roll axis (FIG. 5) described later.
  • the state of the left side (left side with respect to the front direction) of the unmanned aerial vehicle 10 is captured in the region of Xs coordinate values X1 to X2. Further, for example, the state of the right side (right side with respect to the front direction) of the unmanned aerial vehicle 10 is photographed in the region of Xs coordinate values X3 to X4. Further, for example, the state of the rear (the rear side with respect to the front direction) of the unmanned aerial vehicle 10 is photographed in the region of Xs coordinate values of 0 to X1 and the region of X4 to Xmax.
  • the image G is photographed in a wide range of states.
  • the range to be subjected to the detection process is wide, so the process takes time, and the detection of the specific object tends to be delayed.
  • the moving direction side of the UAV 10 is highly important since it approaches from here, for example, the opposite side of the moving direction of the UAV 10 is far from here, so the importance is so high Absent.
  • the unmanned aerial vehicle 10 can move not only in the front direction but in any direction, the important part in the image G changes according to the situation at that time.
  • the unmanned aircraft control system 1 of the present embodiment identifies a portion of the image G in which the moving direction side of the unmanned aircraft 10 is photographed, and executes a process of detecting a specific object with respect to the portion By narrowing the target parts to high importance parts, it is possible to quickly detect specific objects and improve flight safety.
  • the details of the technology will be described.
  • FIG. 4 is a functional block diagram showing an example of functions implemented by the unmanned aircraft control system 1.
  • a data storage unit 100 an image acquisition unit 101, a movement direction acquisition unit 102, a specification unit 103, a processing unit 104, and a flight control unit 105 are realized.
  • a case where each of these functions is realized in the unmanned aerial vehicle 10 will be described.
  • the data storage unit 100 is mainly implemented by the storage unit 12.
  • the data storage unit 100 stores data necessary for flight control of the unmanned aerial vehicle 10.
  • the data storage unit 100 stores object data for detecting a specific object.
  • Object data is data obtained by learning features of a specific object, and, for example, geometrical features of the particular object are defined.
  • the shape feature is indicated by, for example, feature points or outlines extracted from the image G.
  • object data defines the basic shapes of the animals, buildings, and machines.
  • features such as color, pattern, and size may be defined in addition to the feature in shape.
  • the data storage unit 100 may store data indicating the relationship between each position in the image G and the direction viewed from the unmanned aerial vehicle 10. Also, for example, when the unmanned aerial vehicle 10 automatically flies based on a predetermined flight route, the data storage unit 100 may store data regarding the flight route. In this case, the unmanned aerial vehicle 10 compares its position information detected by the GPS sensor 15A with the flight route, and performs flight control such that the difference between them is less than a threshold.
  • the image acquisition unit 101 is mainly implemented by the control unit 11.
  • the image acquisition unit 101 acquires an image G in which the surroundings of the unmanned aerial vehicle 10 movable in any direction are photographed.
  • the image acquisition unit 101 acquires an image G captured by the imaging unit 14. Note that the photographing unit 14 does not have to be incorporated inside the unmanned aerial vehicle 10, and exists outside the unmanned aerial vehicle 10.
  • the image acquiring unit 101 acquires the image G via the communication unit 13 or the input / output unit You may
  • the image acquisition unit 101 acquires the image G at regular intervals.
  • the frame rate may not be determined in particular in the imaging unit 14, and in this case, the image acquisition unit 101 irregularly acquires the image G.
  • the image G is an image in which at least all directions in the horizontal direction are captured, and a case where 360 ° in the horizontal direction is captured will be described.
  • a predetermined angle for example, any angle of 90 ° or more and 360 ° or less
  • the vertical direction does not have to be photographed in all directions, as long as a predetermined angle (for example, any angle of 90 ° or more and 360 ° or less) is photographed.
  • the image acquisition unit 101 may acquire an image G captured by the imaging unit 14 having a wide-angle lens (a so-called wide-angle camera) instead of 360 ° omnidirectional.
  • the image acquisition unit 101 may acquire the image G captured by the imaging unit 14 directed only in the front direction of the unmanned aerial vehicle 10.
  • the identification unit 103 described later does not have 360 °.
  • the portion to be processed is identified from the image G.
  • the image G may be any data format, for example, any format such as JPG format, BMP format, GIF format, AVI format, or MPEG format. Also, for example, the image G may not be rectangular as shown in FIG. 3 but may be square. Further, for example, when the imaging unit 14 includes a plurality of cameras, the image acquisition unit 101 may acquire the images G from the respective cameras and acquire a plurality of images G in which directions different from one another are photographed. In this case, the state of the predetermined angle (for example, any angle of 90 ° or more and 360 ° or less) described above may be taken as the whole of the plurality of images G, and each image G may be several tens of degrees or so The situation of may be photographed. Further, for example, the image acquisition unit 101 may record the history of the image G captured by the imaging unit 14 in the data storage unit 100.
  • the predetermined angle for example, any angle of 90 ° or more and 360 ° or less
  • the movement direction acquisition unit 102 is realized mainly by the control unit 11.
  • the movement direction acquisition unit 102 acquires movement direction information regarding the movement direction of the unmanned aerial vehicle 10.
  • the movement direction acquisition unit 102 acquires movement direction information based on the change in the image G or the detection result of the sensor unit 15.
  • the movement direction information may be indicated in a two-dimensional direction, a three-dimensional direction, or a two-dimensional coordinate in the image G.
  • movement direction information is indicated by a vector or a direction (direction).
  • the two-dimensional direction is a direction including only the horizontal direction component
  • the three-dimensional direction is a direction including not only the horizontal direction component but also the vertical direction component.
  • a vector a two-dimensional vector or a three-dimensional vector may be used.
  • any method such as a 360 ° type, a 90 ° type, or a point drawing type may be used.
  • FIG. 5 is a diagram for explaining movement direction information.
  • a predetermined position (for example, the center of gravity) of the unmanned aerial vehicle 10 is set as an origin Ow, and three axes of a roll axis, a pitch axis, and a yaw axis are set.
  • the roll axis indicates the longitudinal direction
  • the pitch axis indicates the horizontal direction
  • the yaw axis indicates the vertical direction.
  • movement direction information is indicated by a three-dimensional vector in a three-dimensional space defined by these three axes.
  • the three axes may be set in an arbitrary direction as viewed from the unmanned aerial vehicle 10.
  • the roll axis is set in the direction of the central point of the image G (the photographing direction) and is orthogonal to the roll axis.
  • Pitch and yaw axes may be set.
  • the movement direction acquisition unit 102 acquires movement direction information based on a change in the image G
  • the relationship between the change in the image G and the movement direction information is stored in the data storage unit 100 as program format data. It may be stored in the data storage unit 100 as data in a mathematical expression format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the movement direction acquisition unit 102 acquires movement direction information associated with a change in the image G.
  • the movement direction acquisition unit 102 extracts a plurality of feature points each time the image G is acquired, and acquires movement direction information based on the movement direction of each feature point.
  • the movement direction acquisition unit 102 extracts a plurality of feature points in the area of the image G in which the front direction of the unmanned aerial vehicle 10 is photographed (in the example of FIG. 3, the area of Xs coordinate values X2 to X3).
  • the movement direction information is acquired based on the movement direction of each feature point.
  • the movement direction acquisition unit 102 determines that the unmanned aircraft has moved in the front direction (roll axis positive direction), and each feature point moves upward. It is determined that the unmanned aerial vehicle 10 has moved backward (in the roll axis negative direction). Also, for example, when each feature point moves in the left direction, the movement direction acquisition unit 102 determines that the unmanned aerial vehicle 10 has moved in the right direction (pitch axis positive direction), and each feature point moves in the right direction. In this case, it is determined that the unmanned aerial vehicle 10 has moved in the left direction (pitch axis negative direction).
  • the movement direction acquisition unit 102 acquires movement direction information based on the detection result of the sensor unit 15
  • the relationship between the detection result of the sensor unit 15 and the movement direction information is data storage as program format data. It may be stored in unit 100, or may be stored in data storage unit 100 as data in the form of a mathematical expression or a table. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the movement direction acquisition unit 102 acquires movement direction information associated with the detection result of the sensor unit 15.
  • the movement direction acquisition unit 102 may acquire movement direction information based on the detection result of the GPS sensor 15A. In this case, the movement direction acquisition unit 102 acquires movement direction information based on a change in position information (latitude and longitude information) detected by the GPS sensor 15A. Further, for example, the movement direction acquisition unit 102 may acquire movement direction information corresponding to the current position based on the position information detected by the GPS sensor 15A and the flight route of the unmanned aerial vehicle 10. Also, for example, the movement direction acquisition unit 102 may acquire movement direction information based on the detection result of the acceleration sensor of the sensor unit 15. In this case, the movement direction acquisition unit 102 acquires movement direction information based on a change in acceleration detected by the acceleration sensor.
  • the acquisition method of movement direction information is not restricted to said example.
  • Various methods known in the art can be applied to the method of acquiring movement direction information.
  • the movement direction acquisition unit 102 The movement direction information may be acquired based on the difference in the rotational speed detected by the motor encoder attached to the above, or the movement direction information may be acquired based on the difference in the output voltage for each motor.
  • the identifying unit 103 is mainly implemented by the control unit 11.
  • the identifying unit 103 identifies the processing target portion from the image G based on the movement direction information.
  • the processing target portion is a portion to which a detection process of a specific object is applied, or a portion to which the detection process is preferentially applied, and is a part in the image G.
  • Preferentially means that the detection process is frequently performed, the time interval at which the detection process is performed is short, and the number of times the detection process is performed is large. Only one processing target portion may be set or a plurality of processing target portions may be set.
  • the shape and the size of the processing target portion may be arbitrary, for example, a square, pentagon or more such as a circle, triangle, square or trapezoid. It may be a polygon or the like. Further, for example, the shape and size of the processing target portion need not be fixed, but may be variable according to the position of the processing target portion in the image G, the performance, the flight mode, the weather, the flight area, etc. It may be.
  • the identifying unit 103 determines at least one of the position (position in the image G), the shape, and the size of the processing target portion based on the movement direction information.
  • the shape and size of the processing target portion are fixed, and the specifying unit 103 determines the position of the processing target portion based on the movement direction information.
  • the shape and size of the portion to be treated may be variable.
  • the relationship between the movement direction information and the processing target portion may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as data of a mathematical expression format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets a processing target portion associated with the movement direction information. For example, the specifying unit 103 sets the processing target portion so as to include the position associated with the movement direction information.
  • FIG. 6 to 9 are diagrams showing a method of setting the processing target part.
  • the specifying unit 103 displays the image G in the front direction of the unmanned aerial vehicle 10.
  • the processing target portion P is set in the region of X2 to X3 in which the Xs coordinate value is taken.
  • the specifying unit 103 captures an image of the rear of the unmanned aerial vehicle 10 in the image G
  • the processing target portion P is set in the region of 0 to X1 and the region of X4 to Xmax.
  • the identifying unit 103 displays the rightward state of the unmanned aerial vehicle 10 in the image G.
  • the processing target portion P is set in the region of X3 to X4 in which the Xs coordinate value obtained by photographing is taken.
  • the specifying unit 103 is a state of the unmanned aerial vehicle 10 in the left of the image G.
  • the processing target portion P is set in the region of X1 to X2 whose Xs coordinate values are captured.
  • the processing target portion P may be set in the area being photographed.
  • the specifying unit 103 sets the processing target portion P in the area where the condition obliquely forward to the right of the unmanned aerial vehicle 10 is captured;
  • the specifying unit 103 may set the processing target portion P in the area where the left diagonally front of the unmanned aerial vehicle 10 is photographed.
  • the specifying unit 103 may set the processing target portion P in consideration of not only the horizontal direction component of the movement direction but also the vertical direction component. For example, when the unmanned aerial vehicle 10 moves slightly upward with respect to the front direction, the specifying unit 103 may set the processing target portion P slightly above the position described in FIG. Further, for example, when the unmanned aerial vehicle 10 moves slightly downward with respect to the front direction, the specifying unit 103 may set the processing target portion P slightly lower than the position described in FIG. The processing target portion P may be set in the same manner for other moving directions.
  • the specifying unit 103 may divide the image G into a plurality of small areas in advance, and associate each area with the movement direction.
  • the small area may be a grid-like divided area, or may be any shape such as a circle.
  • the specifying unit 103 specifies the area associated with the movement direction indicated by the movement direction information as the processing target part P.
  • the specifying unit 103 may calculate the priority based on the movement direction information for each small area, and specify the small area having the priority equal to or higher than the threshold as the processing target portion P.
  • the identifying unit 103 may calculate the priority of each small area so that the priority of the small area photographed on the moving direction side of the unmanned aerial vehicle 10 is high.
  • the processing unit 104 is mainly implemented by the control unit 11.
  • the processing unit 104 executes detection processing for detecting a specific object on the processing target portion P.
  • the processing unit 104 does not execute the detection process on portions other than the process target portion P, but executes the detection process only on the process target portion P.
  • the processing unit 104 does not execute the detection process on portions other than the process target portion P, but executes the detection process only on the process target portion P.
  • the processing unit 104 determines whether a specific object is captured in the processing target portion P based on the processing target portion P in the image G and the object data.
  • the specific object detection method itself can apply a known object detection method, and for example, an object detection algorithm by deep learning (for example, an algorithm using CNN: Convolutional Neural Networks) may be used or pattern matching A method may be used.
  • the processing unit 104 calculates the similarity with the basic shape defined in the object data for the subject photographed in the processing target part P, and when the similarity is equal to or more than the reference value, the processing target part It is determined that a specific object is captured in P.
  • the processing unit 104 may calculate the degree of similarity for each region in the processing target portion P so that the degree of similarity is higher as the shape deviation with the basic shape is smaller.
  • the flight control unit 105 is mainly implemented by the control unit 11.
  • the flight control unit 105 controls the flight of the unmanned aerial vehicle 10 based on the execution result of the detection process.
  • the flight control unit 105 controls the flight of the unmanned aerial vehicle 10 so as to avoid the specific object when the specific object is detected. Do.
  • the relationship between the execution result of the detection process and the flight control method may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as mathematical format format or table format data. Good. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the flight control method is at least one control method of the moving direction, the moving speed, and the attitude of the unmanned aerial vehicle 10. Since the moving direction, moving speed, and attitude of the unmanned aerial vehicle 10 can be controlled by the rotation of each of the plurality of propellers of the unmanned aerial vehicle 10, the flight control unit 105 controls the rotation speed and rotational direction of each propeller according to flight control data. Will control. Since the rotational speed and rotational direction of each propeller change depending on the voltage for the motor that rotates the propeller, the flight control unit 105 can also determine the voltage for each motor according to the flight control data.
  • the flight control unit 105 controls the flight of the unmanned aerial vehicle 10 based on the flight control method associated with the execution result of the detection process. For example, when a specific object is detected, the flight control unit 105 may change the flight route away from the specific object. Further, for example, when a specific object is detected, the flight control unit 105 may control the moving direction of the unmanned aircraft 10 so as to move away from the specific object. Also, for example, the flight control unit 105 may reduce the moving speed when a specific object is detected. Also, for example, the flight control unit 105 may cause the unmanned aerial vehicle 10 to hover and stand by on the spot when a specific object is detected.
  • FIG. 10 is a flow chart showing an example of processing executed in the unmanned aircraft control system 1.
  • the unmanned aerial vehicle 10 executes the process shown in FIG. 10 will be described.
  • the processing illustrated in FIG. 10 is executed by the control unit 11 operating according to the program stored in the storage unit 12.
  • the process described below is an example of a process realized by the functional block shown in FIG. 4 and may be executed at predetermined time intervals.
  • the control unit 11 acquires an image G captured by the imaging unit 14 (S1).
  • the control unit 11 may acquire the image G and record the image G in the storage unit 12.
  • the images G may be recorded in the storage unit 12 in time series, or may be recorded in the storage unit 12 in association with the current time (acquisition time of wind information of the image G).
  • the control unit 11 acquires movement direction information of the unmanned aerial vehicle 10 (S2).
  • the control unit 11 acquires movement direction information based on a change in the image G, a detection result of the sensor unit 15, or the like.
  • the control unit 11 may obtain movement direction information and record the movement direction information in the storage unit 12.
  • the movement direction information may be recorded in the storage unit 12 in time series, or may be recorded in the storage unit 12 in association with the current time (acquisition time of movement direction information).
  • the control unit 11 specifies the processing target portion P from the image G acquired in S1 based on the movement direction information acquired in S2 (S3). In S ⁇ b> 3, the control unit 11 sets the processing target portion P in the area corresponding to the moving direction indicated by the moving direction information in the image G. Two-dimensional coordinates indicating the position of the processing target portion P are recorded in the storage unit 12.
  • the control unit 11 executes detection processing of a specific object on the processing target portion P specified in S3 in the image G (S4). That is, in the process example of FIG. 10, the control unit 11 does not execute the detection process for parts other than the processing target part P.
  • the control unit 11 calculates the degree of similarity between the subject of the processing target portion P and the basic shape of the specific object defined in the object data.
  • the control unit 11 determines whether or not a specific object is detected based on the processing result of S4 (S5). In S5, the control unit 11 determines whether or not a portion whose similarity calculated in S4 is equal to or greater than the reference value exists in the processing target portion P. If there is a portion whose similarity is equal to or higher than the reference value, it is determined that a specific object has been detected.
  • the control unit 11 controls the flight of the unmanned aerial vehicle 10 based on the specific object (S6).
  • the control unit 11 performs flight control for avoiding a specific object.
  • the control unit 11 specifies the relative position of the specific object with respect to the unmanned aerial vehicle 10 based on the position of the specific object in the image G or the position of the processing target portion P. Then, the control unit 11 moves the unmanned aerial vehicle 10 in a direction away from the position.
  • the control unit 11 determines whether a predetermined termination condition is satisfied (S7).
  • the termination condition may be any condition defined to terminate the present processing, for example, the unmanned aerial vehicle 10 may arrive at the destination, or the unmanned aerial vehicle 10 may land. Good.
  • S7; N the processing returns to S1.
  • S7; Y the present process ends.
  • the detection process is performed on the entire image G, but the detection process is performed on the processing target portion P having a particularly high degree of importance in the image G. It can quickly detect specific objects and enhance flight safety.
  • the processing load on the unmanned aircraft control system 1 is reduced and processing speed is improved by not performing detection processing on the processing target portion P with low importance or by reducing the frequency of detection processing. Can.
  • the image G is not a 360 ° omnidirectional image, when the wide-angle lens is used to capture a wide area, the area to be processed becomes wider by that amount. By setting the processing target portion P, it is possible to quickly detect a specific object and improve flight safety.
  • the unmanned aerial vehicle 10 when the unmanned aerial vehicle 10 detects a specific object to be avoided, the unmanned aerial vehicle 10 can be made to fly so as to avoid the specific object, thereby more effectively improving flight safety. Can.
  • the detection processing is not performed on the portions other than the processing target portion P, but the detection processing is performed only on the processing target portion P. Since the detection process is only performed, it is possible to quickly detect a specific object and improve flight safety. Further, since the detection processing is not performed on the processing target portion P having a low degree of importance, the processing load of the unmanned aircraft control system 1 can be reduced more effectively, and the processing speed can be improved.
  • FIG. 11 is a functional block diagram of a modification. As shown in FIG. 11, in the modification, in addition to the functions described in the embodiment, an external force acquisition unit 106, a posture acquisition unit 107, a movement speed acquisition unit 108, a flight mode acquisition unit 109, an altitude acquisition unit 110, and ground surface acquisition The unit 111, the map data acquisition unit 112, and the distinction unit 113 are realized. These functions are mainly realized by the control unit 11.
  • the unmanned aerial vehicle 10 may receive a wind and change the moving direction, and may move in an unintended direction. Therefore, the processing target portion P considering not only the moving direction information but also the external force information May be identified.
  • the unmanned aircraft control system 1 of the modified example (1) includes an external force acquisition unit 106.
  • the external force acquisition unit 106 acquires external force information on an external force on the unmanned aerial vehicle 10.
  • the external force information includes at least one of the strength of the external force and the direction of the external force. Since the external force on the unmanned aerial vehicle 10 works by wind, the intensity of the external force may be indicated by the wind intensity or by the force intensity considering the surface area of the unmanned aerial vehicle 10. The strength of the wind is indicated by any index such as wind speed, wind power, wind pressure, and wind volume, for example.
  • the direction of the external force may be indicated in the wind direction, or in the direction of force considering the surface shape of the unmanned aerial vehicle 10.
  • the strength of the external force is indicated by a numerical value indicating the external force itself or a symbol indicating the degree of the external force. If the external force is indicated by a symbol, the meaning of the symbol may be determined in advance, for example, no wind if A, slight wind if B, and strong wind if C. Also, for example, the direction of the external force may be indicated by a two-dimensional direction, a three-dimensional direction, or a vector or an orientation (direction).
  • the external force acquisition unit 106 acquires external force information based on the change of the image G or the detection result of the sensor unit 15. For example, the external force acquiring unit 106 acquires the wind speed and the wind direction detected by the wind sensor of the sensor unit 15 as external force information.
  • the wind sensor is a digital anemometer (electronic anemometer), includes a temperature sensor and a pressure sensor, and detects a wind speed and a wind direction by detecting a temperature change and a pressure change caused by wind.
  • the external force information may not be detected by the wind sensor of the sensor unit 15, and various methods known in the art may be applied as the method of acquiring the external force information.
  • external force information may be detected based on a change in the image G.
  • the external force information may be obtained based on the difference between the modeled acceleration (for example, the acceleration in the case of no wind) and the acceleration determined by the change of the feature point obtained from the image G.
  • external force information may be detected by sensors other than a wind sensor.
  • external force information may be acquired based on the difference between the modeled acceleration and the acceleration obtained from the acceleration sensor. More specifically, a physical model modeled by the relationship between motor output and acceleration, etc. is prepared in advance, and is obtained from predicted acceleration calculated based on the physical model, changes in acceleration sensor, image G, etc. External force information may be acquired based on the difference between the calculated actual accelerations.
  • the identifying unit 103 of the modification (1) identifies the processing target portion P further based on the external force information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based on the external force information as well as the movement direction information.
  • the relationship between the external force information and the processing target portion P may be stored in the data storage unit 100 as data of a program format, or may be stored in the data storage unit 100 as data of an equation format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the external force information. For example, the specifying unit 103 determines the position of the processing target portion P based on the external force information.
  • FIG. 12 is a diagram showing a setting method of the processing target portion P in the modification (1).
  • the example of FIG. 12 shows the case where the unmanned aerial vehicle 10 receives a wind from the left side, and the original flight path of the unmanned aerial vehicle 10 is indicated by a solid arrow, and the flight path changing due to the wind is indicated by a dotted arrow. It shows.
  • the specifying unit 103 sets the processing target portion P by moving the original processing target portion P to the right.
  • the original processing target portion P is the processing target portion P set based on the moving direction information as described in the embodiment, and is the processing target portion P set based only on the moving direction information. .
  • the specifying unit 103 predicts the movement direction after the external force acts, and sets the processing target portion P based on the predicted movement direction.
  • the identifying unit 103 may predict the moving direction after the change by changing the moving direction indicated by the moving direction information to the direction of the external force indicated by the external force information.
  • the amount of change in the movement direction may be a fixed value, or may be a value corresponding to the strength of the external force indicated by the external force information.
  • the specifying unit 103 temporarily sets the processing target portion P based on the movement direction information, and moves the processing target portion P set temporarily based on the external force information.
  • the identifying unit 103 sets the final processing target portion P by moving the processing target portion P, which has been temporarily set, in the direction of the external force indicated by the external force information.
  • the movement amount of the processing target portion P may be a fixed value, or may be a value according to the strength of the external force indicated by the external force information.
  • the unmanned aircraft control system 1 of the modification (2) includes an attitude acquisition unit 107.
  • the attitude acquisition unit 107 acquires attitude information on the attitude of the unmanned aerial vehicle 10.
  • the posture information may be indicated by angle information such as a roll angle, a pitch angle, and a yaw angle, or may be indicated by vector information such as a three-dimensional vector or a two-dimensional vector.
  • the posture acquisition unit 107 acquires posture information based on the change of the image G or the detection result of the sensor unit 15. For example, the posture acquisition unit 107 acquires posture information based on a detection signal of a gyro sensor or an acceleration sensor in the sensor unit 15. Further, for example, the posture acquiring unit 107 distinguishes the sky part and the ground part from the image G by the same method as the modification (10) described later, and acquires posture information based on the ratio of the sky part and the ground part. May be
  • the identifying unit 103 of the modification (2) identifies the processing target portion P further based on the posture information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based on the posture information as well as the movement direction information.
  • the relationship between the posture information and the processing target portion P may be stored in the data storage unit 100 as data of a program format, or may be stored in the data storage unit 100 as data of an equation format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the posture information. For example, the specifying unit 103 determines the position of the processing target portion P based on the posture information.
  • FIG. 13 is a diagram showing a method of setting the processing target portion P in the modification (2).
  • the unmanned aerial vehicle 10 faces upward, the object generally moves downward on the image G, so that the identifying unit 103 is lower than it should be.
  • the processing target portion P is set.
  • the identifying unit 103 sets the processing target portion P so as to be above the original.
  • the specifying unit 103 provisionally sets the processing target portion P based on the movement direction information, and moves the provisionally set processing target portion P based on the posture information. It is also good. In this case, the specifying unit 103 sets the final processing target portion P by moving the processing target portion P, which has been temporarily set, in the direction of the posture indicated by the posture information.
  • the movement amount of the processing target portion P may be a fixed value, or may be a value according to the amount of change in posture indicated by the posture information.
  • the identifying unit 103 changes the relationship between the directions viewed from the unmanned aerial vehicle 10 and the position on the image G (the relationship described in FIG. 3) based on the posture information, and the relationship and movement after the change.
  • the processing target portion P may be set based on the direction information.
  • the unmanned aircraft control system 1 of the modified example (3) includes a moving speed acquisition unit 108.
  • the moving speed acquisition unit 108 acquires moving speed information on the moving speed of the unmanned aerial vehicle 10.
  • the moving speed information is indicated by a numerical value indicating the moving speed itself or a symbol indicating the degree of the moving speed.
  • the meaning of the symbol may be determined in advance, for example, stop for A, low for B, and high for C.
  • the moving speed acquisition unit 108 acquires moving speed information based on the change of the image G or the detection result of the sensor unit 15. For example, the moving speed acquisition unit 108 acquires moving speed information based on the movement amount of the feature point extracted from the image G. Also, for example, the moving speed acquisition unit 108 acquires moving speed information based on the acceleration detected by the acceleration sensor in the sensor unit 15.
  • the identifying unit 103 of the modified example (3) identifies the processing target portion P further based on the moving speed information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based not only on the moving direction information but also on the moving speed information.
  • the relationship between the moving speed information and the processing target portion P may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as mathematical expression format or table format data. . That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the moving speed information. For example, the specifying unit 103 determines at least one of the shape and the size of the processing target portion P based on the moving speed information.
  • FIG. 14 is a diagram showing a setting method of the processing target portion P in the modification (3).
  • the higher the moving speed indicated by the moving speed information the shorter the time it takes to approach a specific object because the area that can be sharply turned is limited and the processing target portion P is faster.
  • the processing speed of the detection process may be prioritized.
  • the specifying unit 103 may change the processing target portion P to vertically long along the moving path of the unmanned aerial vehicle 10. Further, for example, as the moving speed indicated by the moving speed information is lower, the specifying unit 103 enlarges the area that can be sharply turned and the time to approach a specific object also becomes slower. Priority may be given to the range of application. Further, for example, the specifying unit 103 may change the processing target portion P horizontally along the moving path of the unmanned aerial vehicle 10 as the moving speed indicated by the moving speed information is lower.
  • the unmanned aircraft 10 flies in either the first flight mode in which the unmanned aircraft 10 flies automatically based on a predetermined flight path, or the second flight mode in which the unmanned aircraft 10 flies based on the operator's operation.
  • the processing target portion P may be specified in consideration of the flight mode as well as the movement direction information.
  • the first flight mode is the flight mode described in the embodiment.
  • the second flight mode is a mode in which the operator manually operates (pilots) the unmanned aerial vehicle 10.
  • the operator uses, for example, a tablet terminal, a smartphone, or a dedicated input device to input the moving direction, moving speed, and the like of the unmanned aerial vehicle 10.
  • the unmanned aerial vehicle 10 acquires the input content of the operator via the communication unit 13 and flies as instructed by the operator.
  • the unmanned aircraft control system 1 of the modification (4) includes a flight mode acquisition unit 109.
  • the flight mode acquisition unit 109 acquires flight mode information regarding the current flight mode of the unmanned aerial vehicle 10.
  • the flight mode information may be any information that can identify whether it is the first flight mode or the second flight mode, and is stored in the data storage unit 100. Switching of the flight mode may be instructed by the administrator.
  • the unmanned aerial vehicle 10 flies based on the flight path data stored in the data storage unit 100 as described in the embodiment.
  • the unmanned aerial vehicle 10 flies based on the input content of the operator acquired via the communication unit 13.
  • the input content is, for example, an instruction of movement direction, an instruction of movement speed, an instruction of hovering, an instruction of landing, an instruction of takeoff, or the like.
  • the relationship between the input contents of the operator and the flight control method may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as mathematical format format or table format data. Good. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the unmanned aerial vehicle 10 flies in a flight control method associated with the input contents of the operator.
  • the identifying unit 103 of the modification (4) identifies the processing target portion P further based on the flight mode information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based not only on the movement direction information but also on the flight mode information.
  • the relationship between the flight mode information and the processing target portion P may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as mathematical format format or table format data. . That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the flight mode information. For example, the specifying unit 103 sets at least one of the shape and the size of the processing target portion P based on the flight mode information.
  • FIG. 15 is a diagram showing a setting method of the processing target portion P in the modification (4).
  • the identifying unit 103 autonomously flies a predetermined route and it is difficult to think of a sudden turn, so the processing target portion P is small. Then, the processing speed of the detection process may be prioritized. Further, for example, in the case of the second flight mode, the specifying unit 103 may consider a sudden change of direction due to an operation error of the operator or the like. May be prioritized.
  • the unmanned aircraft control system 1 of the modification (5) includes an altitude acquisition unit 110.
  • the altitude acquisition unit 110 acquires altitude information on the altitude of the unmanned aircraft in flight.
  • the altitude information is indicated by a numerical value indicating the altitude itself or a symbol indicating the degree of altitude. If the moving speed is indicated by a symbol, the meaning of the symbol may be determined in advance, for example, a low altitude for A, a medium altitude for B, and a high altitude for C.
  • the altitude acquisition unit 110 acquires altitude information based on the change in the image G or the detection result of the sensor unit 15. For example, the altitude acquisition unit 110 acquires the altitude detected by the altitude sensor in the sensor unit 15 as altitude information.
  • the altitude sensor is a digital altimeter, and may be, for example, a barometric altimeter or a radio altimeter.
  • the altitude acquisition unit 110 acquires altitude information based on the size of the object extracted from the image G or the distance between feature points. In this case, the height is higher as the size of the object is smaller, and the height is higher as the distance between the feature points is shorter.
  • the identifying unit 103 of the modification (5) identifies the processing target portion P further based on the altitude information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based on not only the movement direction information but also the altitude information.
  • the relationship between the advanced information and the processing target portion P may be stored in the data storage unit 100 as data of a program format, or may be stored in the data storage unit 100 as data of an equation format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the altitude information. For example, the specifying unit 103 sets at least one of the shape and the size of the processing target portion P based on the height information.
  • FIG. 16 is a diagram showing a method of setting the processing target portion P in the modification (5).
  • the altitude indicated by the altitude information is high, the range captured in the image G is wide and the distance between the unmanned aerial vehicle 10 and the object is also large. And the processing speed of the detection process may be prioritized. Further, for example, if the altitude indicated by the altitude information is low, the identifying unit 103 narrows the range captured in the image G, and the distance between the unmanned aerial vehicle 10 and the object is short. The size of the range to which the processing is applied may be prioritized.
  • the unmanned aerial vehicle 10 may fly in an area where the specific object is likely to exist or in an area where the probability is low, not only the movement direction information but also the ground
  • the processing target portion P may be specified in consideration of the surface information.
  • the unmanned aircraft control system 1 of the modification (6) includes a ground surface acquisition unit 111.
  • the ground surface acquisition unit 111 acquires ground surface information on the ground surface of the area where the unmanned aerial vehicle 10 flies.
  • Ground surface information is information indicating an attribute of the ground surface.
  • the ground surface is classified into a plurality of categories, and the ground surface information indicates the category of the area in which the unmanned aerial vehicle 10 flies. Any category may be used as long as it is information that can classify what is on the ground. For example, categories such as urban area, rural area, mountain area, river area, coast area are prepared.
  • the ground surface acquisition unit 111 may acquire ground surface information based on the detection result of the image G or the sensor unit 15, or the ground surface information input by the administrator may be transmitted via the communication unit 13 or the like. You may get it.
  • the data storage unit 100 may store map data, and the relationship between each point on the ground and ground surface information may be stored in the map data.
  • the ground surface acquisition unit 111 acquires ground surface information associated with the position information detected by the GPS sensor in the sensor unit 15. Also, for example, the ground surface acquisition unit 111 may acquire ground surface information based on color information of the image G.
  • the identifying unit 103 of the modification (6) identifies the processing target portion P further based on the ground surface information.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based on not only movement direction information but also ground surface information.
  • the relationship between the ground surface information and the processing target portion P may be stored in the data storage unit 100 as program format data, or may be stored in the data storage unit 100 as mathematical format format or table format data. . That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets the processing target portion P associated with the ground surface information. For example, the specifying unit 103 sets the position of the processing target portion P based on the ground surface information.
  • the identifying unit 103 identifies the processing target portion P from among the entire image G. Also, for example, when the ground surface information indicates a river part, the probability that a specific object is present on the river is low, and the specifying unit 103 then processes the image G from among the parts other than the river. Identify P.
  • a specific object can be efficiently detected by setting the processing target portion P in consideration of ground surface information, and flight safety can be more effectively enhanced. it can.
  • the flight control unit 105 creates an alternative flight path when a specific object is detected by the detection process. And control the flight of the unmanned aerial vehicle based on the alternative flight path.
  • the flight control unit 105 creates an alternative flight path away from a specific object.
  • the flight control unit 105 obtains the relative position of the specific object with respect to the unmanned aerial vehicle 10 based on the position of the specific object in the image G. Then, the flight control unit 105 may create an alternative flight path away from the acquired position.
  • the identification unit 103 may re-specify the processing target portion P based on the alternative flight path.
  • the identifying unit 103 may identify the processing target portion P based on the movement direction information indicated by the alternative flight path.
  • the method itself of specifying the processing target portion P based on the movement direction information may be the same as the method described in the embodiment.
  • a portion with high probability that a specific object exists may be specified from the map data. For example, if a particular object is a person or a car, these are likely to be on the road. Therefore, the direction in which the road is present with respect to the unmanned aerial vehicle 10 may be specified from the map data, and the processing target portion P may be set preferentially in the direction.
  • the unmanned aircraft control system 1 of the modification (9) includes a map data acquisition unit 112.
  • the map data acquisition unit 112 acquires map data of the area where the unmanned aircraft 10 flies.
  • the map data acquisition unit 112 acquires map data from the data storage unit 100.
  • the map data acquisition unit 112 acquires the map data from the external computer.
  • the map data itself may be any data indicating a known map, for example, the relationship between the latitude and longitude information of each point on the earth and the object at the point is shown in the map data. You may
  • the identifying unit 103 of the modification (9) identifies the processing target portion P further based on the map data.
  • the identifying unit 103 determines at least one of the position, the shape, and the size of the processing target portion P based on not only the moving direction information but also the map data.
  • the relationship between the map data and the processing target portion P may be stored in the data storage unit 100 as data of a program format, or may be stored in the data storage unit 100 as data of an equation format or a table format. That is, the relationship may be defined as part of program code, or may be defined by a mathematical expression or a table.
  • the identifying unit 103 sets a processing target portion P associated with the map data. For example, the specifying unit 103 determines the position of the processing target portion P based on the map data.
  • the specifying unit 103 specifies an object with high probability that a specific object exists, based on the position information of the unmanned aerial vehicle 10 and the map data. For example, if the specific object is a person or a machine, the object with high probability that a person exists is a road, and if the specific object is a building, the object with a high probability of a building is a site surrounded by the road. It is.
  • the identifying unit 103 may set the processing target portion P at the identified position.
  • the unmanned aircraft control system 1 of the modified example (10) includes a distinction unit 113.
  • the distinction unit 113 distinguishes, in the image G, the sky part where the sky is photographed and the ground surface part where the ground is photographed.
  • the distinguishing unit 113 refers to the pixel value of each pixel of the image G, and classifies the pixel as an empty portion if it is within the range of pixel values representing the sky color, otherwise, the pixel It is classified as a surface part
  • the range of pixel values representing the sky color may be a fixed value or a variable value. In the case of a variable value, it may be changed depending on the date and time, the weather, the season, and the like.
  • the identifying unit 103 of the present variation identifies the processing target portion P from the ground portion.
  • the specifying unit 103 may set the processing target portion P not to be set for the empty portion in the image G, or set the priority of the empty portion to be lower than the priority of the ground portion. Good.
  • the identifying unit 103 identifies the specific object by the detection process executed in the past.
  • the processing target portion P may be specified further based on a portion of the image G in which the specific object is detected.
  • the specifying unit 103 sets the processing target portion P so as to include the position at which the specific object is detected within the latest time or within the predetermined time. That is, the specifying unit 103 sets the processing target portion P so as to track the specific object detected once.
  • the processing target portion P can be set so as to track the specific object detected once, and the certainty of detecting the specific object can be enhanced. Safety can be enhanced.
  • detection processing may be performed at low frequency to parts other than processing object part P.
  • the processing unit 104 executes detection processing at a first frequency on portions other than the processing target portion P, and performs detection processing at a second frequency higher than the first frequency on the processing target portion P. Run.
  • the processing unit 104 may set a plurality of processing target parts P, and determine the frequency of performing the detection processing on the processing target part P based on the priority of each processing target part P. In this case, the processing unit 104 may determine the frequency of each processing target portion P such that the frequency is higher as the priority is higher. That is, the processing unit 104 determines the frequency of each processing target portion P so that the processing target portion P becomes higher as the processing direction becomes closer to the moving direction, and becomes lower as the processing target portion P gets farther from the moving direction. Just do it.
  • the detection processing is executed at low frequency for the portions other than the processing target portion P, and the detection processing is executed at high frequency for the processing target portion P. Therefore, it is possible to quickly detect specific objects and improve flight safety. In addition, it is possible to detect a specific object even from less important parts, and it is possible to effectively improve flight safety.
  • the unmanned aerial vehicle control system 1 may include a computer other than the unmanned aerial vehicle 10, and flight control of each unmanned aerial vehicle 10 may be performed by the computer.
  • FIG. 17 is a diagram showing an overall configuration of the unmanned aircraft control system 1 according to the modification.
  • the unmanned aerial vehicle control system 1 includes an unmanned aerial vehicle 10 and a server 20.
  • the unmanned aerial vehicle 10 and the server 20 are connected to a network such as the Internet.
  • the number of servers 20 may be one or plural.
  • the server 20 is a server computer, and includes a control unit 21, a storage unit 22, and a communication unit 23.
  • the hardware configurations of the control unit 21, the storage unit 22, and the communication unit 23 are the same as those of the control unit 11, the storage unit 12, and the communication unit 13, respectively, and thus the description thereof is omitted here.
  • the data storage unit 100 may be implemented mainly by the storage unit 22 of the server 20.
  • each unmanned aerial vehicle 10 may acquire data stored in the data storage unit 100 of the server 20 via the network.
  • the image acquisition unit 101 may be realized mainly by the control unit 21 of the server 20.
  • the image acquisition unit 101 may acquire the image G from the unmanned aerial vehicle 10 via the network, or may obtain the image G from the imaging unit 14 when the imaging unit 14 has a communication function. It is also good.
  • the movement direction acquisition unit 102 may be realized mainly by the control unit 21 of the server 20.
  • the movement direction acquisition unit 102 acquires the detection result of the image G or the sensor unit 15 via the network, and acquires movement direction information.
  • the identifying unit 103 may be implemented mainly by the control unit 21 of the server 20. In this case, the identification unit 103 may acquire movement direction information from the movement direction acquisition unit 102 of the unmanned aircraft 10, or may acquire movement direction information from the movement direction acquisition unit 102 of the server 20.
  • the processing unit 104 may be implemented mainly by the control unit 21 of the server 20.
  • the processing unit 104 may acquire movement direction information from the identification unit 103 of the unmanned aerial vehicle 10, or may acquire movement direction information from the identification unit 103 of the server 20.
  • the flight control unit 105 may be implemented mainly by the control unit 21 of the server 20.
  • the flight control unit 105 may acquire the detection result of the specific object from the processing unit 104 of the unmanned aircraft 10, or may acquire the detection result of the specific object from the processing unit 104 of the server 20.
  • the flight control method itself may be the same process as the process described in the embodiment and the modification.
  • the flight control unit 105 performs flight control by transmitting commands such as the number of revolutions of the motor to the unmanned aerial vehicle 10.
  • the unmanned aerial vehicle 10 controls the motor based on the command received from the flight control unit 105 of the server 20.
  • each function described above may be realized by any computer of the unmanned aerial vehicle control system 1, and each function is shared by the unmanned aerial vehicle 10 and other computers such as the server 20. Each function may be shared by a plurality of unmanned aerial vehicles 10.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Remote Sensing (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Astronomy & Astrophysics (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Atmospheric Sciences (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
  • Traffic Control Systems (AREA)

Abstract

特定のオブジェクトを迅速に検出して飛行の安全性を高める。無人航空機制御システムの画像取得手段(101)は、任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する。移動方向取得手段(102)は、無人航空機の移動方向に関する移動方向情報を取得する。特定手段(103)は、移動方向情報に基づいて、画像の中から処理対象部分を特定する。処理手段(104)は、処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する。飛行制御手段(105)は、検出処理の実行結果に基づいて、無人航空機の飛行を制御する。

Description

無人航空機制御システム、無人航空機制御方法、及びプログラム
 本発明は、無人航空機制御システム、無人航空機制御方法、及びプログラムに関する。
 従来、上下・左右・前後の任意の方向に移動可能な無人航空機の飛行を制御する技術が知られている。例えば、特許文献1には、無人航空機が撮影した画像から特定のオブジェクトが検出されたかを判定し、特定のオブジェクトが検出された場合に無人航空機に回避行動を取らせる技術が記載されている。
特開2017-519297号公報
 上記のような技術では、飛行の安全性を高めるために、特定のオブジェクトを迅速に検出する必要がある。この点、例えば、基本的に正面方向に向けて飛行する(上下・左右・後方に向けては基本的に飛行しない)旅客機のような航空機であれば、正面方向の画像さえ撮影できれば十分だが、任意の方向を移動可能な無人航空機は、正面方向に進むとは限らないので、周囲の様子を広く撮影する必要がある。このため、画像処理の対象となる範囲が広くなり、特定のオブジェクトの検出が遅れがちであった。
 本発明は上記課題に鑑みてなされたものであって、その目的は、特定のオブジェクトを迅速に検出して飛行の安全性を高めることである。
 上記課題を解決するために、本発明に係る無人航空機制御システムは、任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得手段と、前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得手段と、前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定手段と、前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理手段と、前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御手段と、を含むことを特徴とする。
 本発明に係る無人航空機制御方法は、任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得ステップと、前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得ステップと、前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定ステップと、前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理ステップと、前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御ステップと、を含むことを特徴とする。
 本発明に係るプログラムは、任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得手段、前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得手段、前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定手段、前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理手段、前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御手段、としてコンピュータを機能させる。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機に対する外力に関する外力情報を取得する外力取得手段を更に含み、前記特定手段は、前記外力情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機の姿勢に関する姿勢情報を取得する姿勢取得手段を更に含み、前記特定手段は、前記姿勢情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機の移動速度に関する移動速度情報を取得する移動速度取得手段を更に含み、前記特定手段は、前記移動速度情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機は、予め定められた飛行経路に基づいて自動的に飛行する第1飛行モード、又は、操作者の操作に基づいて飛行する第2飛行モードの何れかで飛行し、前記無人航空機制御システムは、前記無人航空機の現在の飛行モードに関する飛行モード情報を取得する飛行モード取得手段を更に含み、前記特定手段は、前記飛行モード情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機の飛行中の高度に関する高度情報を取得する高度取得手段を更に含み、前記特定手段は、前記高度情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機が飛行する地域の地表面に関する地表面情報を取得する地表面取得手段を更に含み、前記特定手段は、前記地表面情報に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機は、予め定められた飛行経路に基づいて自動的に飛行し、前記飛行制御手段は、前記検出処理によって前記特定のオブジェクトが検出された場合に代替飛行経路を作成し、当該代替飛行経路に基づいて、前記無人航空機の飛行を制御する、ことを特徴とする。
 また、本発明の一態様では、前記特定手段は、前記代替飛行経路が作成された場合に、当該代替飛行経路に基づいて、前記処理対象部分を特定し直す、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記無人航空機が飛行する地域の地図データを取得する手段を更に含み、前記特定手段は、前記地図データに更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記無人航空機制御システムは、前記画像のうち、空が撮影された空部分と、地上が撮影された地表部分と、を区別する区別手段を更に含み、前記特定手段は、前記地上部分の中から前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記特定手段は、過去に実行された前記検出処理によって前記特定のオブジェクトが検出された場合に、前記画像のうち、当該特定のオブジェクトが検出された部分に更に基づいて、前記処理対象部分を特定する、ことを特徴とする。
 また、本発明の一態様では、前記画像は、少なくとも水平方向の全方向が撮影された画像である、ことを特徴とする。
 また、本発明の一態様では、前記特定のオブジェクトは、前記無人航空機が回避すべきオブジェクトである、ことを特徴とする。
 また、本発明の一態様では、前記処理手段は、前記処理対象部分以外の部分に対しては、前記検出処理を実行せず、前記処理対象部分に対してのみ、前記検出処理を実行する、ことを特徴とする。
 また、本発明の一態様では、前記処理手段は、前記処理対象部分以外の部分に対し、第1の頻度で前記検出処理を実行し、前記処理対象部分に対し、前記第1の頻度よりも高い第2の頻度で前記検出処理を実行する、ことを特徴とする。
 本発明によれば、特定のオブジェクトを迅速に検出して飛行の安全性を高めることが可能になる。
無人航空機が飛行する様子を示す図である。 無人航空機のハードウェア構成を示す図である。 撮影部が撮影した画像を示す図である。 無人航空機制御システムで実現される機能の一例を示す機能ブロック図である。 移動方向情報を説明するための図である。 処理対象部分の設定方法を示す図である。 処理対象部分の設定方法を示す図である。 処理対象部分の設定方法を示す図である。 処理対象部分の設定方法を示す図である。 無人航空機制御システムにおいて実行される処理の一例を示すフロー図である。 変形例の機能ブロック図である。 変形例(1)における処理対象部分の設定方法を示す図である。 変形例(2)における処理対象部分の設定方法を示す図である。 変形例(3)における処理対象部分の設定方法を示す図である。 変形例(4)における処理対象部分の設定方法を示す図である。 変形例(5)における処理対象部分の設定方法を示す図である。 変形例に係る無人航空機制御システムの全体構成を示す図である。
[1.無人航空機制御システムの全体構成]
 以下、本発明に関わる無人航空機制御システムの実施形態の例を説明する。本実施形態では、無人航空機制御システムに1台の無人航空機が含まれる場合を説明するが、無人航空機制御システムには、複数の無人航空機が含まれていてもよいし、他のコンピュータが含まれていてもよい。他のコンピュータとしては、パーソナルコンピュータ、タブレット型端末、スマートフォンなどの携帯電話、又はサーバコンピュータなどであってもよい。
 図1は、無人航空機が飛行する様子を示す図である。例えば、無人航空機制御システム1に含まれる無人航空機10は、予め定められた経路上を自動的に飛行し、図1に示すように、人Hや道路Rなどが存在する地域の上空を飛行する。
 無人航空機10は、人が搭乗しない航空機であり、例えば、バッテリーで駆動する無人航空機(いわゆるドローン)やエンジンで駆動する無人航空機である。例えば、無人航空機は、商品や郵便物などの荷物を搭載可能であってよく、配送先に飛行して荷物を配送したり、集荷先に飛行して荷物を集荷したりする。また例えば、無人航空機は、特に荷物を運搬せずに、飛行先の様子を取得するために飛行してもよい。
 無人航空機10は、正面方向だけでなく、上下・左右・前後の何れの方向にも移動可能である。即ち、無人航空機10は、正面方向から所定角度(例えば、90°)以上の方向にも移動可能であり、例えば、水平方向の360°及び垂直方向の360°の任意の方向に移動可能である。別の言い方をすれば、無人航空機10を原点として3軸(例えば、後述する図5のロール軸、ピッチ軸、ヨー軸)を設定した場合に、どの3次元ベクトルの方向にも移動可能である。
 図2は、無人航空機10のハードウェア構成を示す図である。図2に示すように、無人航空機10は、制御部11、記憶部12、通信部13、撮影部14、及びセンサ部15を含む。なお、無人航空機10は、プロペラ・モーター・バッテリーなども含むが、ここでは説明を省略する。
 制御部11は、例えば、少なくとも1つのマイクロプロセッサを含む。制御部11は、記憶部12に記憶されたプログラムやデータに従って処理を実行する。記憶部12は、主記憶部及び補助記憶部を含む。例えば、主記憶部はRAMなどの揮発性メモリであり、補助記憶部は、ハードディスクやフラッシュメモリなどの不揮発性メモリである。通信部13は、有線通信又は無線通信用の通信インタフェースを含む。通信部13は、ネットワークを介してデータ通信を行う。
 撮影部14は、少なくとも1台のカメラである。例えば、撮影部14は、CCDイメージセンサやCMOSイメージセンサなどの撮像素子を含み、当該撮像素子が撮影した画像をデジタルデータとして記録する。画像は、静止画であってもよいし、所定のフレームレートで連続的に撮影された動画であってもよい。撮影部14は、広角レンズ又は魚眼レンズを備えていてもよく、撮影部14の画角や焦点距離は任意であってよい。
 なお、撮影部14は、全天球カメラ(全方位カメラ)であってもよいし、互いに撮影方向が異なる複数台のカメラによって広範囲を撮影可能としてもよい。また、撮影部14は、サーモグラフィカメラであってもよいし、赤外線カメラであってもよい。このため、画像としては、熱分布を示す画像であってもよいし、赤外線の飛行時間を示す画像であってもよい。
 センサ部15は、例えば、GPSセンサ15Aを含む。GPSセンサ15Aは、衛星からの信号を受信する受信機を含み、例えば、受信機が受信した信号に基づいて位置情報を検出する。なお、無人航空機10には、任意のセンサが搭載されてよく、センサ部15は、赤外線センサ、音声センサ(マイク)、加速度センサ、ジャイロセンサ、風センサ、地磁気センサ、高度センサ、変位センサ、感圧センサ、又は温度センサ等の任意のセンサを含むようにしてもよい。
 なお、無人航空機10のハードウェア構成は、図1の例に限られず、種々のハードウェアを適用可能である。例えば、無人航空機10は、タッチパネルやボタンなどの入力デバイスを含んでいてもよいし、液晶表示部又は有機EL表示部を含んでいてもよい。また例えば、無人航空機10は、コンピュータ読み取り可能な情報記憶媒体を読み取る読取部(例えば、メモリカードスロットや光ディスクドライブ)を含んでもよいし、外部機器と通信するための入出力部(例えば、USBポート)を含んでいてもよい。また例えば、記憶部12に記憶されるものとして説明するプログラム及びデータは、読取部又は入出力部を介して供給されるようにしてもよいし、ネットワークを介して供給されるようにしてもよい。
[2.無人航空機制御システムの概要]
 本実施形態では、無人航空機10は、撮影部14が撮影した画像を解析し、画像から検出された特定のオブジェクトに基づいて、自身の飛行を制御する。オブジェクトとは、地上又は空中にある物体であり、撮影部14により撮影される被写体である。オブジェクトは、静止している物体であってもよいし、動く物体であってもよい。特定のオブジェクトとは、飛行制御の基準となるオブジェクトであり、無人航空機10が回避すべきオブジェクトを示してもよいし、無人航空機10が近づくべきオブジェクトを示してもよい。
 無人航空機10が回避すべきオブジェクトとは、無人航空機10が所定距離(例えば、30メートル)以内に近づいてはならないオブジェクト(即ち、無人航空機10が所定距離以上を保つべきオブジェクト)、又は、無人航空機10が着陸若しくは接触してはならないオブジェクトなどである。無人航空機10が近づくべきオブジェクトとは、無人航空機10が所定距離以内にいるべきオブジェクト、無人航空機10の目標地点若しくは経由地点にあるオブジェクト、又は、無人航空機10が着陸若しくは接触すべきオブジェクトである。
 本実施形態では、特定のオブジェクトが、無人航空機10が回避すべきオブジェクトであり、例えば、人・鳥などの動物、ビル・民家・工場などの建物、又は、自動車・バイク・他の航空機などの機械である場合を説明する。なお、これらは特定のオブジェクトの一例に過ぎず、特定のオブジェクトは、予め定められたオブジェクトであればよい。例えば、無人航空機10は、撮影部14が撮影した画像を解析し、特定のオブジェクトを検出したか否かを判定する。
 図3は、撮影部14が撮影した画像を示す図である。なお、本実施形態では、画像Gの左上を原点Osとした2次元座標軸(Xs軸-Ys軸)が設定され、画像G内の位置は、2次元座標によって特定されるものとする。ここでは、画像Gの右端部のXs座標値をXmaxとし、画像Gの下端部のYs座標値をYmaxとする。
 図3に示すように、本実施形態の画像Gは、無人航空機10の周囲360°の様子が万遍なく撮影されたパノラマ画像である。例えば、画像Gのうち、Xs座標値がX2~X3の領域内に、無人航空機10の正面方向の様子が撮影されている。なお、正面方向とは、無人航空機10に対して予め設定された基準方向であればよく、例えば、後述するロール軸(図5)の方向である。
 また例えば、画像Gのうち、Xs座標値がX1~X2の領域内に、無人航空機10の左側(正面方向に対しての左側)の様子が撮影されている。また例えば、Xs座標値がX3~X4の領域内に、無人航空機10の右側(正面方向に対しての右側)の様子が撮影されている。また例えば、Xs座標値が0~X1の領域及びX4~Xmaxの領域内に、無人航空機10の後方(正面方向に対しての後ろ側)の様子が撮影されている。
 図3に示すように、画像Gには広範囲の様子が撮影されている。画像Gの全体に対し、特定のオブジェクトの検出処理を実行しようとすると、検出処理の対象となる範囲が広いので、処理に時間がかかってしまい、特定のオブジェクトの検出が遅れがちである。
 この点、無人航空機10の周囲のうち、無人航空機10の移動方向側は、これから近づくので重要度が高いが、例えば無人航空機10の移動方向の逆側は、これから遠ざかるので、重要度はそれほど高くない。先述したように、無人航空機10は、正面方向だけではなく、任意の方向に移動可能なので、画像Gの中で重要な部分は、その時の状況に応じて変化する。
 このため、本実施形態の無人航空機制御システム1は、画像Gのうち、無人航空機10の移動方向側が撮影された部分を特定し、当該部分に対し、特定のオブジェクトの検出処理を実行し、処理対象とする部分を重要度の高い部分に絞ることで、特定のオブジェクトを迅速に検出して飛行の安全性を高めるようにしている。以降、当該技術の詳細について説明する。
[3.無人航空機制御システムにおいて実現される機能]
 図4は、無人航空機制御システム1で実現される機能の一例を示す機能ブロック図である。図4に示すように、無人航空機制御システム1では、データ記憶部100、画像取得部101、移動方向取得部102、特定部103、処理部104、及び飛行制御部105が実現される。本実施形態では、これら各機能が、無人航空機10において実現される場合を説明する。
[3-1.データ記憶部]
 データ記憶部100は、記憶部12を主として実現される。データ記憶部100は、無人航空機10の飛行制御に必要なデータを記憶する。例えば、データ記憶部100は、特定のオブジェクトを検出するためのオブジェクトデータを記憶する。
 オブジェクトデータは、特定のオブジェクトの特徴を学習させたデータであり、例えば、特定のオブジェクトの形状的な特徴が定義されている。形状的な特徴は、例えば、画像Gから抽出される特徴点や輪郭線によって示される。本実施形態では、動物・建物・機械が特定のオブジェクトの一例であるので、オブジェクトデータには、これら動物・建物・機械の基本形状が定義されている。なお、オブジェクトデータには、形状的な特徴以外にも、色・模様・サイズなどの特徴が定義されていてもよい。
 また例えば、データ記憶部100は、画像G内の各位置と無人航空機10から見た方向との関係を示すデータを記憶してもよい。また例えば、予め定められた飛行ルートに基づいて無人航空機10が自動的に飛行する場合には、データ記憶部100は、当該飛行ルートに関するデータを記憶してもよい。この場合、無人航空機10は、GPSセンサ15Aにより検出された自機の位置情報と飛行ルートとを比較し、これらの差が閾値未満となるように飛行制御することになる。
[3-2.画像取得部]
 画像取得部101は、制御部11を主として実現される。画像取得部101は、任意の方向に移動可能な無人航空機10の周囲が撮影された画像Gを取得する。画像取得部101は、撮影部14が撮影した画像Gを取得する。なお、撮影部14は、無人航空機10の内部に組み込まれている必要はなく、無人航空機10の外部に存在し、画像取得部101は、通信部13や入出力部を介して画像Gを取得してもよい。
 例えば、撮影部14が所定のフレームレートに基づいて繰り返し撮影する場合には、画像取得部101は、一定時間ごとに画像Gを取得する。なお、撮影部14は特にフレームレートが定められていなくてもよく、この場合には、画像取得部101は、不定期的に画像Gを取得することになる。
 本実施形態では、画像Gは、少なくとも水平方向の全方向が撮影された画像であり、水平方向の360°が撮影されている場合を説明する。ただし、必ずしも水平方向の全方向が撮影されている必要はなく、所定角度(例えば、90°以上360°以下の何れかの角度)の様子が撮影されていればよい。同様に、垂直方向についても、全方向が撮影されている必要はなく、所定角度(例えば、90°以上360°以下の何れかの角度)の様子が撮影されていればよい。
 例えば、画像取得部101は、360°の全方位ではなく、広角レンズを有する撮影部14(いわゆる広角カメラ)が撮影した画像Gを取得してもよい。この場合、例えば、画像取得部101は、無人航空機10の正面方向のみに向けられた当該撮影部14が撮影した画像Gを取得してもよく、後述する特定部103は、360°ではない当該画像Gから処理対象部分を特定することになる。
 また例えば、画像Gは、任意のデータ形式であってよく、例えば、JPG形式、BMP形式、GIF形式、AVI形式、又はMPEG形式等の任意の形式であってよい。また例えば、画像Gは、図3のような長方形でなくてもよく、正方形であってもよい。また例えば、撮影部14が複数のカメラを有する場合には、画像取得部101は、各カメラから画像Gを取得し、互いに異なる方向が撮影された複数の画像Gを取得してもよい。この場合、複数の画像G全体として、上記説明した所定角度(例えば、90°以上360°以下の何れかの角度)の様子が撮影されていればよく、個々の画像Gは、数十°程度の様子が撮影されていてもよい。また例えば、画像取得部101は、撮影部14が撮影した画像Gの履歴をデータ記憶部100に記録してもよい。
[3-3.移動方向取得部]
 移動方向取得部102は、制御部11を主として実現される。移動方向取得部102は、無人航空機10の移動方向に関する移動方向情報を取得する。例えば、移動方向取得部102は、画像Gの変化又はセンサ部15の検出結果に基づいて、移動方向情報を取得する。
 移動方向情報は、2次元的な方向で示されてもよいし、3次元的な方向で示されてもよいし、画像G内の2次元座標で示されてもよい。例えば、移動方向情報は、ベクトル又は方位(方角)で示される。2次元的な方向とは、水平方向成分のみを含む方向であり、3次元的な方向とは、水平方向成分だけでなく垂直方向成分も含む方向である。移動方向をベクトルで示す場合には、2次元ベクトル又は3次元ベクトルが用いられるようにすればよい。移動方向を方位で示す場合には、360°式、90°式、又は点画式などの任意の方式が用いられるようにすればよい。
 図5は、移動方向情報を説明するための図である。図5に示すように本実施形態では、無人航空機10の所定位置(例えば、重心)を原点Owとし、ロール軸、ピッチ軸、及びヨー軸の3軸が設定される。ロール軸は前後方向を示し、ピッチ軸は水平方向を示し、ヨー軸は垂直方向を示す。例えば、移動方向情報は、これら3軸によって定義される3次元空間の3次元ベクトルによって示される。なお、無人航空機10から見て任意の方向に3軸が設定されるようにすればよく、例えば、画像Gの中心点の方向(撮影方向)にロール軸が設定され、ロール軸と直行するようにピッチ軸とヨー軸が設定されてもよい。
 例えば、移動方向取得部102が画像Gの変化に基づいて移動方向情報を取得する場合には、画像Gの変化と移動方向情報との関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。移動方向取得部102は、画像Gの変化に関連付けられた移動方向情報を取得する。
 例えば、画像G内の特徴点の位置変化と、移動方向情報と、の関係が定められていてもよい。移動方向取得部102は、画像Gが取得されるたびに複数の特徴点を抽出し、各特徴点の移動方向に基づいて、移動方向情報を取得する。例えば、移動方向取得部102は、画像Gのうち、無人航空機10の正面方向が撮影された領域(図3の例では、Xs座標値がX2~X3の領域)内の複数の特徴点を抽出し、各特徴点の移動方向に基づいて、移動方向情報を取得する。
 例えば、移動方向取得部102は、各特徴点が下方向に移動した場合には、無人航空機が正面方向(ロール軸正方向)に移動したと判定し、各特徴点が上方向に移動した場合には、無人航空機10が後方(ロール軸負方向)に移動したと判定する。また例えば、移動方向取得部102は、各特徴点が左方向に移動した場合には無人航空機10が右方向(ピッチ軸正方向)に移動したと判定し、各特徴点が右方向に移動した場合には無人航空機10が左方向(ピッチ軸負方向)に移動したと判定する。
 また例えば、移動方向取得部102がセンサ部15の検出結果に基づいて移動方向情報を取得する場合には、センサ部15の検出結果と移動方向情報との関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。移動方向取得部102は、センサ部15の検出結果に関連付けられた移動方向情報を取得する。
 例えば、移動方向取得部102は、GPSセンサ15Aの検出結果に基づいて、移動方向情報を取得してもよい。この場合、移動方向取得部102は、GPSセンサ15Aにより検出された位置情報(緯度経度情報)の変化に基づいて、移動方向情報を取得する。また例えば、移動方向取得部102は、GPSセンサ15Aにより検出された位置情報と無人航空機10の飛行ルートとに基づいて、現在の位置に対応する移動方向情報を取得してもよい。また例えば、移動方向取得部102は、センサ部15の加速度センサの検出結果に基づいて、移動方向情報を取得してもよい。この場合、移動方向取得部102は、加速度センサにより検出された加速度の変化に基づいて、移動方向情報を取得する。
 なお、移動方向情報の取得方法は、上記の例に限られない。移動方向情報の取得方法自体は、公知の種々の手法を適用可能であり、例えば、無人航空機10はプロペラの回転数が相対的に少ない方に移動するので、移動方向取得部102は、各モータに付属したモータエンコーダにより検出される回転数の差に基づいて移動方向情報を取得してもよいし、各モータに対する出力電圧の差に基づいて移動方向情報を取得してもよい。
[3-4.特定部]
 特定部103は、制御部11を主として実現される。特定部103は、移動方向情報に基づいて、画像Gの中から処理対象部分を特定する。処理対象部分は、特定のオブジェクトの検出処理が施される部分、又は、当該検出処理が優先的に施される部分であり、画像G内の一部分である。優先的とは、検出処理が施される頻度が高いこと、検出処理が施される時間間隔が短いこと、検出処理が施される回数が多いことを意味する。処理対象部分は、1つだけ設定されてもよいし、複数個設定されてもよい。
 本実施形態では、処理対象部分が所定サイズの長方形である場合を説明するが、処理対象部分の形状及びサイズは任意であってよく、例えば、円形・三角形・正方形や台形などの四角形・五角形以上の多角形などであってもよい。また例えば、処理対象部分の形状及びサイズは、固定されている必要はなく、画像G内での処理対象部分の位置、無人航空機10の性能・飛行モード・天候・飛行地域などに応じて可変であってもよい。
 特定部103は、移動方向情報に基づいて、処理対象部分の位置(画像G内での位置)、形状、及びサイズの少なくとも1つを決定する。本実施形態では、説明の簡略化のために、処理対象部分の形状・サイズを固定とし、特定部103は、移動方向情報に基づいて、処理対象部分の位置を決定する場合を説明するが、処理対象部分の形状及びサイズは可変であってもよい。
 移動方向情報と処理対象部分との関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、移動方向情報に関連付けられた処理対象部分を設定する。例えば、特定部103は、移動方向情報に関連付けられた位置を含むように、処理対象部分を設定する。
 図6-図9は、処理対象部分の設定方法を示す図である。例えば、図6に示すように、無人航空機10が正面方向(ロール軸の正方向)に移動している場合には、特定部103は、画像Gのうち、無人航空機10の正面方向の様子が撮影されたXs座標値がX2~X3の領域内に、処理対象部分Pを設定する。また例えば、図7に示すように、無人航空機10が後方(ロール軸の負方向)に移動している場合には、特定部103は、画像Gのうち、無人航空機10の後方の様子が撮影されたXs座標値が0~X1の領域及びX4~Xmaxの領域内に、処理対象部分Pを設定する。
 また例えば、図8に示すように、無人航空機10が右方向(ピッチ軸の正方向)に移動している場合には、特定部103は、画像Gのうち、無人航空機10の右方向の様子が撮影されたXs座標値がX3~X4の領域内に、処理対象部分Pを設定する。また例えば、図9に示すように、無人航空機10が左方向(ピッチ軸の負方向)に移動している場合には、特定部103は、画像Gのうち、無人航空機10の左方向の様子が撮影されたXs座標値がX1~X2の領域内に、処理対象部分Pを設定する。
 なお、図6-図9では、無人航空機10が前後又は左右方向に移動する場合を説明したが、これらの間の方向に向けて移動する場合には、特定部103は、その時の移動方向側が撮影されている領域内に処理対象部分Pを設定すればよい。例えば、無人航空機10が正面方向に対して右斜め前に移動する場合には、特定部103は、無人航空機10の右斜め前の様子が撮影された領域内に処理対象部分Pを設定し、無人航空機10が正面方向に対して左斜め前に移動する場合には、特定部103は、無人航空機10の左斜め前の様子が撮影された領域内に処理対象部分Pを設定すればよい。
 また例えば、特定部103は、移動方向の水平方向成分だけでなく、垂直方向成分も考慮して処理対象部分Pを設定してもよい。例えば、無人航空機10が正面方向に対してやや上方向に移動する場合には、特定部103は、図6で説明した位置よりもやや上に、処理対象部分Pを設定すればよい。また例えば、無人航空機10が正面方向に対してやや下方向に移動する場合には、特定部103は、図6で説明した位置よりもやや下に、処理対象部分Pを設定すればよい。他の移動方向についても同様にして、処理対象部分Pが設定されるようにすればよい。
 また例えば、特定部103は、画像Gを予め複数の小領域に区切っておいて、各領域と移動方向とを対応づけておいてもよい。小領域は、碁盤の目状に区切られた領域であってもよいし、円形などの任意の形状であってよい。この場合、特定部103は、移動方向情報が示す移動方向に対応付けられた領域を処理対象部分Pとして特定することになる。更に、特定部103は、小領域ごとに、移動方向情報に基づいて優先度を計算し、優先度が閾値以上の小領域を処理対象部分Pとして特定してもよい。特定部103は、無人航空機10の移動方向側が撮影された小領域の優先度が高くなるように、各小領域の優先度を計算すればよい。
[3-5.処理部]
 処理部104は、制御部11を主として実現される。処理部104は、処理対象部分Pに対し、特定のオブジェクトを検出するための検出処理を実行する。本実施形態では、説明の簡略化のために、処理部104は、処理対象部分P以外の部分に対しては、検出処理を実行せず、処理対象部分Pに対してのみ、検出処理を実行する場合を説明する。
 処理部104は、画像G内の処理対象部分Pと、オブジェクトデータと、に基づいて、当該処理対象部分P内に特定のオブジェクトが撮影されているか否かを判定する。特定のオブジェクトの検出方法自体は、公知の物体検出法を適用可能であり、例えば、ディープラーニングによる物体検出アルゴリズム(例えば、CNN:Convolutional Neural Networksを用いたアルゴリズム)を利用してもよいしパターンマッチング法が用いられてもよい。
 例えば、処理部104は、処理対象部分Pに撮影された被写体に対し、オブジェクトデータに定義された基本形状との類似度を計算し、類似度が基準値以上であった場合に、処理対象部分P内に特定のオブジェクトが撮影されていると判定する。処理部104は、基本形状との形状的なずれが小さいほど類似度が高くなるように、処理対象部分P内の各領域に対して類似度を計算すればよい。
[3-6.飛行制御部]
 飛行制御部105は、制御部11を主として実現される。飛行制御部105は、検出処理の実行結果に基づいて、無人航空機10の飛行を制御する。本実施形態では、特定のオブジェクトは無人航空機10が回避すべきオブジェクトなので、飛行制御部105は、特定のオブジェクトが検出された場合に、特定のオブジェクトを回避するように無人航空機10の飛行を制御する。
 検出処理の実行結果と飛行制御方法との関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。
 飛行制御方法とは、無人航空機10の移動方向、移動速度、及び姿勢の少なくとも1つの制御方法である。無人航空機10の移動方向、移動速度、及び姿勢は、無人航空機10が有する複数のプロペラの各々の回転によって制御可能なので、飛行制御部105は、飛行制御データによって、各プロペラの回転数と回転方向を制御することになる。各プロペラの回転数と回転方向は、当該プロペラを回転させるモータに対する電圧によって変わるので、飛行制御部105は、飛行制御データによって、各モータに対する電圧を決定するということもできる。
 例えば、飛行制御部105は、検出処理の実行結果に関連付けられた飛行制御方法に基づいて、無人航空機10の飛行を制御する。例えば、飛行制御部105は、特定のオブジェクトが検出された場合に、当該特定のオブジェクトから遠ざかるように飛行ルートを変更してもよい。また例えば、飛行制御部105は、特定のオブジェクトが検出された場合に、当該特定のオブジェクトから遠ざかるように無人航空機10の移動方向を制御してもよい。また例えば、飛行制御部105は、特定のオブジェクトが検出された場合に、移動速度を落としてもよい。また例えば、飛行制御部105は、特定のオブジェクトが検出された場合に無人航空機10をホバリングさせてその場で待機させてもよい。
[4.無人航空機制御システムにおいて実行される処理]
 図10は、無人航空機制御システム1において実行される処理の一例を示すフロー図である。本実施形態では、無人航空機10が図10に示す処理を実行する場合を説明する。例えば、図10に示す処理は、制御部11が記憶部12に記憶されたプログラムに従って動作することによって実行される。本実施形態では、下記に説明する処理は、図4に示す機能ブロックにより実現される処理の一例であり、所定の時間間隔ごとに実行されてもよい。
 図10に示すように、まず、制御部11は、撮影部14が撮影した画像Gを取得する(S1)。S1においては、制御部11は、画像Gを取得して記憶部12に記録してもよい。画像Gは、時系列的に記憶部12に記録されてもよいし、現在時刻(画像Gの風情報の取得時刻)と関連付けられて記憶部12に記録されてもよい。
 制御部11は、無人航空機10の移動方向情報を取得する(S2)。S2においては、制御部11は、先述したように、画像Gの変化又はセンサ部15の検出結果などに基づいて、移動方向情報を取得する。なお、S2においては、制御部11は、移動方向情報を取得して記憶部12に記録してもよい。移動方向情報は、時系列的に記憶部12に記録されてもよいし、現在時刻(移動方向情報の取得時刻)と関連付けられて記憶部12に記録されてもよい。
 制御部11は、S2で取得した移動方向情報に基づいて、S1で取得した画像Gの中から処理対象部分Pを特定する(S3)。S3においては、制御部11は、画像Gのうち、移動方向情報が示す移動方向に対応する領域内に処理対象部分Pを設定する。処理対象部分Pの位置を示す2次元座標は、記憶部12に記録されるものとする。
 制御部11は、画像Gのうち、S3で特定した処理対象部分Pに対し、特定のオブジェクトの検出処理を実行する(S4)。即ち、図10の処理例では、制御部11は、処理対象部分P以外の部分については、検出処理を実行しない。S4においては、制御部11は、処理対象部分Pの被写体と、オブジェクトデータに定義された特定のオブジェクトの基本形状と、の類似度を計算する。
 制御部11は、S4の処理結果に基づいて、特定のオブジェクトが検出されたか否かを判定する(S5)。S5においては、制御部11は、処理対象部分Pの中に、S4で計算した類似度が基準値以上の部分が存在するか否かを判定する。類似度が基準値以上の部分が存在する場合には、特定のオブジェクトが検出されたと判定される。
 特定のオブジェクトが検出されたと判定された場合(S5;Y)、制御部11は、特定のオブジェクトに基づいて、無人航空機10の飛行を制御する(S6)。S6においては、制御部11は、特定のオブジェクトを回避するための飛行制御を行う。例えば、制御部11は、画像G内の特定のオブジェクトの位置又は処理対象部分Pの位置に基づいて、無人航空機10に対する特定のオブジェクトの相対的な位置を特定する。そして、制御部11は、当該位置から遠ざかる方向に無人航空機10を移動させる。
 制御部11は、所定の終了条件が満たされたか否かを判定する(S7)。終了条件は、本処理を終了するために定められた条件であればよく、例えば、無人航空機10が目的地に到着することであってもよいし、無人航空機10が着陸することであってもよい。終了条件が満たされたと判定されない場合(S7;N)、S1の処理に戻る。終了条件が満たされたと判定された場合(S7;Y)、本処理は終了する。
 以上説明した無人航空機制御システム1によれば、画像G全体に対して検出処理を実行するのではなく、画像Gのうち、特に重要度の高い処理対象部分Pに対して検出処理を実行するので、特定のオブジェクトを迅速に検出して飛行の安全性を高めることができる。また、重要度の低い処理対象部分Pに対しては検出処理をしなかったり検出処理の頻度を落としたりすることで、無人航空機制御システム1の処理負荷を軽減し、処理速度の向上を図ることができる。また、画像Gが360°の全方位画像ではなかったとしても、広角レンズによって広範囲が撮影されている場合には、その分だけ処理対象となる領域が広くなるので、このような画像Gについても、処理対象部分Pを設定することで特定のオブジェクトを迅速に検出して飛行の安全性を高めることができる。
 また、少なくとも水平方向の全方向が撮影された画像Gの場合には、特に広範囲の様子が撮影されているが、このような画像Gであったとしても、重要度の高い処理対象部分Pに対して検出処理を実行するので、特定のオブジェクトをより迅速に検出し、飛行の安全性をより効果的に高めることができる。
 また、無人航空機10が回避すべき特定のオブジェクトが検出された場合に、無人航空機10が当該特定のオブジェクトを回避するように飛行させることができるので、飛行の安全性をより効果的に高めることができる。
 また、画像Gのうち、処理対象部分P以外の部分に対しては検出処理を実行せず、処理対象部分Pに対してのみ検出処理が実行され、特に重要度の高い処理対象部分Pに対してのみ検出処理を実行するので、特定のオブジェクトを迅速に検出して飛行の安全性を高めることができる。また、重要度の低い処理対象部分Pに対しては検出処理をしないので、無人航空機制御システム1の処理負荷をより効果的に軽減し、処理速度の向上を図ることができる。
[5.変形例]
 なお、本発明は、以上に説明した実施の形態に限定されるものではない。本発明の趣旨を逸脱しない範囲で、適宜変更可能である。
 図11は、変形例の機能ブロック図である。図11に示すように、変形例では、実施形態で説明した機能に加え、外力取得部106、姿勢取得部107、移動速度取得部108、飛行モード取得部109、高度取得部110、地表面取得部111、地図データ取得部112、及び区別部113が実現される。これら各機能は、制御部11を主として実現される。
 (1)例えば、無人航空機10は、風を受けて移動方向が変化し、意図しない方向に移動してしまうことがあるので、移動方向情報だけでなく、外力情報も考慮して処理対象部分Pを特定してもよい。変形例(1)の無人航空機制御システム1は、外力取得部106を含む。外力取得部106は、無人航空機10に対する外力に関する外力情報を取得する。
 外力情報は、外力の強さと外力の方向との少なくとも一方を含む。無人航空機10に対する外力は風によって働くので、外力の強さは、風の強さで示されてもよいし、無人航空機10の表面積を考慮した力の強さで示されてもよい。風の強さは、例えば、風速・風力・風圧・風量などの任意の指標で示される。外力の方向は、風向きで示されてもよいし、無人航空機10の表面形状を考慮した力の方向で示されてもよい。
 外力の強さは、外力そのものを示す数値、又は、外力の程度を示す記号で示される。外力が記号で示される場合には、例えば、Aであれば無風、Bであれば微風、Cであれば強風といったように、予め記号の意味を定めておけばよい。また例えば、外力の方向は、2次元的な方向で示されてもよいし、3次元的な方向で示されてもよく、ベクトル又は方位(方角)で示される。
 外力取得部106は、画像Gの変化又はセンサ部15の検出結果に基づいて、外力情報を取得する。例えば、外力取得部106は、センサ部15の風センサにより検出された風速と風向きを、外力情報として取得する。風センサは、デジタル風速計(電子風速計)であり、温度センサや圧力センサを含み、風による温度変化や圧力変化を検出することによって風速と風向きを検出する。
 なお、外力情報は、センサ部15の風センサで検出されなくてもよく、外力情報の取得方法自体は、公知の種々の方法を適用可能である。例えば、外力情報は、画像Gの変化に基づいて検出されてもよい。この場合、モデル化された加速度(例えば、無風状態の場合の加速度)と、画像Gから得られた特徴点の変化によって定まる加速度と、の差に基づいて外力情報が取得されてもよい。また例えば、外力情報は、風センサ以外のセンサによって検出されてもよい。例えば、モデル化された加速度と、加速度センサから得られた加速度と、の差に基づいて外力情報が取得されてもよい。より具体的には、モータ出力と加速度の関係等によってモデル化された物理モデルを予め用意しておき、当該物理モデルに基づいて計算された予測加速度と、加速度センサや画像Gの変化などから得られた実加速度の差と、に基づいて外力情報が取得されてもよい。
 変形例(1)の特定部103は、外力情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、外力情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 外力情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、外力情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、外力情報に基づいて、処理対象部分Pの位置を決定する。
 図12は、変形例(1)における処理対象部分Pの設定方法を示す図である。図12の例は、無人航空機10が左側からの風を受けた場合を示しており、無人航空機10の本来の飛行経路を実線の矢印で示し、風の影響によって変わる飛行経路を点線の矢印で示している。
 図12に示すように、無人航空機10の移動方向は右側に変わることが予想されるため、特定部103は、本来の処理対象部分Pを右側に移動させることで、処理対象部分Pを設定する。なお、本来の処理対象部分Pとは、実施形態で説明したように移動方向情報に基づいて設定される処理対象部分Pであり、移動方向情報だけに基づいて設定される処理対象部分Pである。
 例えば、特定部103は、移動方向情報と外力情報に基づいて、外力が働いた後の移動方向を予想し、予想された移動方向に基づいて処理対象部分Pを設定する。この場合、特定部103は、移動方向情報が示す移動方向を外力情報が示す外力の方向に変化させることによって、変化後の移動方向を予想すればよい。移動方向の変化量は、固定値であってもよいし、外力情報が示す外力の強さに応じた値としてもよい。
 また例えば、特定部103は、実施形態と同様にして、移動方向情報に基づいて処理対象部分Pを仮で設定し、当該仮で設定された処理対象部分Pを、外力情報に基づいて移動させてもよい。この場合、特定部103は、仮で設定された処理対象部分Pを、外力情報が示す外力の方向に移動させることによって、最終的な処理対象部分Pを設定する。処理対象部分Pの移動量は、固定値であってもよいし、外力情報が示す外力の強さに応じた値としてもよい。
 変形例(1)によれば、無人航空機10に外力が働いた場合であったとしても、その影響を予想して処理対象部分Pを設定することで、外力によって変化した移動方向側にある特定のオブジェクトを検出しやすくなり、飛行の安全性をより効果的に高めることができる。
 (2)また例えば、無人航空機10の姿勢によって撮影部14の向きが変わり、画像G内の各位置と、無人航空機10から見たときの方向と、の関係が変わることがあるので、移動方向情報だけでなく、姿勢情報も考慮して処理対象部分Pを特定してもよい。変形例(2)の無人航空機制御システム1は、姿勢取得部107を含む。姿勢取得部107は、無人航空機10の姿勢に関する姿勢情報を取得する。
 姿勢情報は、ロール角、ピッチ角、及びヨー角といった角度情報で示されてもよいし、3次元ベクトルや2次元ベクトルといったベクトル情報で示されてもよい。姿勢取得部107は、画像Gの変化又はセンサ部15の検出結果に基づいて、姿勢情報を取得する。例えば、姿勢取得部107は、センサ部15内のジャイロセンサや加速度センサなどの検出信号に基づいて、姿勢情報を取得する。また例えば、姿勢取得部107は、後述する変形例(10)と同様の方法で画像Gから空部分と地表部分とを区別し、空部分と地表部分との割合に基づいて姿勢情報を取得してもよい。
 変形例(2)の特定部103は、姿勢情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、姿勢情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 姿勢情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、姿勢情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、姿勢情報に基づいて、処理対象部分Pの位置を決定する。
 図13は、変形例(2)における処理対象部分Pの設定方法を示す図である。図13に示すように、例えば、無人航空機10が上を向いた場合には、画像G上でオブジェクトが全体的に下方向に移動するので、特定部103は、本来よりも下側になるように、処理対象部分Pを設定する。また例えば、無人航空機10が下を向いた場合には、画像G上でオブジェクトは全体的に上方向に移動するので、特定部103は、本来よりも上側になるように、処理対象部分Pを設定する。
 例えば、特定部103は、実施形態と同様にして、移動方向情報に基づいて処理対象部分Pを仮で設定し、当該仮で設定された処理対象部分Pを、姿勢情報に基づいて移動させてもよい。この場合、特定部103は、仮で設定された処理対象部分Pを、姿勢情報が示す姿勢の方向に移動させることによって、最終的な処理対象部分Pを設定する。処理対象部分Pの移動量は、固定値であってもよいし、姿勢情報が示す姿勢の変化量に応じた値としてもよい。
 また例えば、特定部103は、姿勢情報に基づいて、無人航空機10から見た各方向と画像G上の位置との関係(図3で説明した関係)を変化させ、当該変化後の関係と移動方向情報とに基づいて、処理対象部分Pを設定してもよい。
 変形例(2)によれば、無人航空機10の姿勢が変わったとしても、その影響を考慮して処理対象部分Pを設定することで、画像G内の特定のオブジェクトを正確に検出することができ、飛行の安全性をより効果的に高めることができる。
 (3)また例えば、無人航空機10の移動速度によって、急旋回できる領域やオブジェクトに近づく速度が変わるので、移動方向情報だけでなく、移動速度情報も考慮して処理対象部分Pを特定してもよい。変形例(3)の無人航空機制御システム1は、移動速度取得部108を含む。移動速度取得部108は、無人航空機10の移動速度に関する移動速度情報を取得する。
 移動速度情報は、移動速度そのものを示す数値、又は、移動速度の程度を示す記号で示される。移動速度が記号で示される場合には、例えば、Aであれば停止、Bであれば低速、Cであれば高速といったように、予め記号の意味を定めておけばよい。
 移動速度取得部108は、画像Gの変化又はセンサ部15の検出結果に基づいて、移動速度情報を取得する。例えば、移動速度取得部108は、画像Gから抽出した特徴点の移動量に基づいて、移動速度情報を取得する。また例えば、移動速度取得部108は、センサ部15内の加速度センサにより検出された加速度に基づいて、移動速度情報を取得する。
 変形例(3)の特定部103は、移動速度情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、移動速度情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 移動速度情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、移動速度情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、移動速度情報に基づいて、処理対象部分Pの形状及びサイズの少なくとも一方を決定する。
 図14は、変形例(3)における処理対象部分Pの設定方法を示す図である。図14に示すように、例えば、特定部103は、移動速度情報が示す移動速度が速いほど、急旋回できる領域が限られて特定のオブジェクトに近づくまでの時間も早くなるので、処理対象部分Pを小さくして、検出処理の処理速度を優先してもよい。また例えば、特定部103は、移動速度情報が示す移動速度が速いほど、処理対象部分Pを無人航空機10の移動経路に沿って縦長に変化させてもよい。また例えば、特定部103は、移動速度情報が示す移動速度が遅いほど、急旋回できる領域が広くなり特定のオブジェクトに近づくまでの時間も遅くなるので、処理対象部分Pを広くして、検出処理を施す範囲の広さを優先してもよい。また例えば、特定部103は、移動速度情報が示す移動速度が遅いほど、処理対象部分Pを無人航空機10の移動経路に沿って横長に変化させてもよい。
 変形例(3)によれば、無人航空機10の移動速度を考慮して処理対象部分Pを設定することで、例えば検出処理の処理速度を優先したり、検出処理を施す範囲の広さを優先したりすることができ、飛行の安全性をより効果的に高めることができる。
 (4)また例えば、無人航空機10が、予め定められた飛行経路に基づいて自動的に飛行する第1飛行モード、又は、操作者の操作に基づいて飛行する第2飛行モードの何れかで飛行する場合には、無人航空機10の飛行モードによって注意すべき範囲が変わるので、移動方向情報だけでなく、飛行モードも考慮して処理対象部分Pを特定してもよい。
 第1飛行モードは、実施形態で説明した飛行モードである。第2飛行モードは、操作者が手動で無人航空機10を操作(操縦)するモードである。操作者は、例えば、タブレット端末、スマートフォン、又は専用の入力デバイスなどを利用して、無人航空機10の移動方向や移動速度などを入力する。無人航空機10は、通信部13を介して操作者の入力内容を取得し、操作者が指示した通りに飛行する。
 変形例(4)の無人航空機制御システム1は、飛行モード取得部109を含む。飛行モード取得部109は、無人航空機10の現在の飛行モードに関する飛行モード情報を取得する。飛行モード情報は、第1飛行モード又は第2飛行モードの何れであるかを識別可能な情報であればよく、データ記憶部100に記憶されているものとする。飛行モードの切り替えは、管理者によって指示されるようにすればよい。
 無人航空機10は、飛行モード情報が示す現在の飛行モードが第1飛行モードであれば、実施形態で説明したように、データ記憶部100に記憶された飛行経路データに基づいて飛行する。一方、無人航空機10は、飛行モード情報が示す現在の飛行モードが第2飛行モードであれば、通信部13を介して取得した操作者の入力内容に基づいて飛行する。入力内容は、例えば、移動方向の指示、移動速度の指示、ホバリングの指示、着陸指示、又は離陸指示などである。
 操作者の入力内容と飛行制御方法との関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。無人航空機10は、操作者の入力内容に関連付けられた飛行制御方法で飛行する。
 変形例(4)の特定部103は、飛行モード情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、飛行モード情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 飛行モード情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、飛行モード情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、飛行モード情報に基づいて、処理対象部分Pの形状及びサイズの少なくとも一方を設定する。
 図15は、変形例(4)における処理対象部分Pの設定方法を示す図である。図15に示すように、例えば、特定部103は、第1飛行モードであれば、予め定められた経路を自律的に飛行しており急な方向転換は考えにくいので、処理対象部分Pを小さくして、検出処理の処理速度を優先してもよい。また例えば、特定部103は、第2飛行モードであれば、操作者の操作ミスなどによる急な方向転換が考えられるので、処理対象部分Pを広くして、検出処理を施す範囲の広さを優先してもよい。
 変形例(4)によれば、無人航空機10の飛行モードを考慮して処理対象部分Pを設定することで、例えば検出処理の処理速度を優先したり、検出処理を施す範囲の広さを優先したりすることができ、飛行の安全性をより効果的に高めることができる。
 (5)また例えば、無人航空機10の高度によって、オブジェクトに近づくまでの時間が変わったり、画像G内のオブジェクトのサイズが変わったりするので、移動方向情報だけでなく、高度情報も考慮して処理対象部分Pを特定してもよい。変形例(5)の無人航空機制御システム1は、高度取得部110を含む。高度取得部110は、無人航空機の飛行中の高度に関する高度情報を取得する。
 高度情報は、高度そのものを示す数値、又は、高度の程度を示す記号で示される。移動速度が記号で示される場合には、例えば、Aであれば低い高度、Bであれば中程度の高度、Cであれば高い高度といったように、予め記号の意味を定めておけばよい。
 高度取得部110は、画像Gの変化又はセンサ部15の検出結果に基づいて、高度情報を取得する。例えば、高度取得部110は、センサ部15内の高度センサにより検出された高度を高度情報として取得する。高度センサは、デジタル高度計であり、例えば、気圧高度計であってもよいし、電波高度計であってもよい。また例えば、高度取得部110は、画像Gから抽出したオブジェクトのサイズ又は特徴点間の距離に基づいて、高度情報を取得する。この場合、オブジェクトのサイズが小さいほど高度が高くなり、特徴点間の距離が短いほど高度が高くなるものとする。
 変形例(5)の特定部103は、高度情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、高度情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 高度情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、高度情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、高度情報に基づいて、処理対象部分Pの形状及びサイズの少なくとも一方を設定する。
 図16は、変形例(5)における処理対象部分Pの設定方法を示す図である。図16に示すように、例えば、特定部103は、高度情報が示す高度が高ければ、画像Gに撮影される範囲が広くなり、無人航空機10とオブジェクトとの距離もあるので、処理対象部分Pを小さくして、検出処理の処理速度を優先してもよい。また例えば、特定部103は、高度情報が示す高度が低ければ、画像Gに撮影される範囲が狭くなり、無人航空機10とオブジェクトとの距離が近いので、処理対象部分Pを広くして、検出処理を施す範囲の広さを優先するようにしてもよい。
 変形例(5)によれば、無人航空機10の高度を考慮して処理対象部分Pを設定することで、例えば検出処理の処理速度を優先したり、検出処理を施す範囲の広さを優先したりすることができ、飛行の安全性をより効果的に高めることができる。
 (6)また例えば、無人航空機10は、特定のオブジェクトが存在する蓋然性が高い地域を飛行することもあれば、当該蓋然性が低い地域を飛行することもあるので、移動方向情報だけでなく、地表面情報も考慮して処理対象部分Pを特定してもよい。変形例(6)の無人航空機制御システム1は、地表面取得部111を含む。地表面取得部111は、無人航空機10が飛行する地域の地表面に関する地表面情報を取得する。
 地表面情報は、地表面の属性を示す情報である。例えば、地表面が複数にカテゴリ分けされており、地表面情報は、無人航空機10が飛行する地域のカテゴリを示す。カテゴリとしては、地上に何があるかを分類可能な情報であればよく、例えば、市街地・農村部・山間部・河川部・海岸部といったカテゴリが用意されている。
 例えば、地表面取得部111は、画像G又はセンサ部15の検出結果に基づいて、地表面情報を取得してもよいし、管理者が入力した地表面情報を、通信部13などを介して取得してもよい。例えば、データ記憶部100が地図データを記憶しており、当該地図データに地上の各地点と地表面情報との関係が格納されていてもよい。この場合には、地表面取得部111は、センサ部15内のGPSセンサにより検出された位置情報に関連付けられた地表面情報を取得する。また例えば、地表面取得部111は、画像Gの色情報に基づいて、地表面情報を取得してもよい。
 変形例(6)の特定部103は、地表面情報に更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、地表面情報に基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 地表面情報と処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、地表面情報に関連付けられた処理対象部分Pを設定する。例えば、特定部103は、地表面情報に基づいて、処理対象部分Pの位置を設定する。
 例えば、地表面情報が市街地を示している場合には、特定のオブジェクトが存在する蓋然性が高いので、特定部103は、画像G全体の中から処理対象部分Pを特定する。また例えば、地表面情報が河川部を示している場合には、河川上は特定のオブジェクトが存在する蓋然性が低いので、特定部103は、画像Gのうち河川以外の部分の中から処理対象部分Pを特定する。
 変形例(6)によれば、地表面情報を考慮して処理対象部分Pを設定することで、特定のオブジェクトを効率よく検出することができ、飛行の安全性をより効果的に高めることができる。
 (7)また例えば、無人航空機10が予め定められた飛行経路に基づいて自動的に飛行する際に、飛行制御部105は、検出処理によって特定のオブジェクトが検出された場合に代替飛行経路を作成し、当該代替飛行経路に基づいて、無人航空機の飛行を制御してもよい。
 例えば、飛行制御部105は、特定のオブジェクトから遠ざかるように代替飛行経路を作成する。飛行制御部105は、画像G内の特定のオブジェクトの位置に基づいて、無人航空機10に対する特定のオブジェクトの相対的な位置を取得する。そして、飛行制御部105は、取得した当該位置から遠ざかるように、代替飛行経路を作成すればよい。
 変形例(7)によれば、特定のオブジェクトが検出された場合に代替飛行経路を作成することによって、特定のオブジェクトを回避するように飛行することができ、飛行の安全性を高めることができる。
 (8)また例えば、特定部103は、変形例(7)において代替飛行経路が作成された場合に、当該代替飛行経路に基づいて、処理対象部分Pを特定し直すようにしてもよい。特定部103は、代替飛行経路が示す移動方向情報に基づいて、処理対象部分Pを特定すればよい。移動方向情報に基づいて処理対象部分Pを特定する方法自体は、実施形態で説明した方法と同じであってよい。
 変形例(8)によれば、代替飛行経路が作成された場合に処理対象部分Pが特定し直されるので、特定のオブジェクトをより確実に検出でき、飛行の安全性を高めることができる。
 (9)また例えば、画像Gのうち、特定のオブジェクトが存在する蓋然性の高い部分を地図データから特定してもよい。例えば、特定のオブジェクトが人や自動車だとすると、これらは道路上にいる蓋然性が高い。このため、無人航空機10に対して道路がある方向を地図データから特定し、当該方向に処理対象部分Pが優先的に設定されるようにしてもよい。
 変形例(9)の無人航空機制御システム1は、地図データ取得部112を含む。地図データ取得部112は、無人航空機10が飛行する地域の地図データを取得する。地図データを予めデータ記憶部100に記憶させておく場合には、地図データ取得部112は、データ記憶部100から地図データを取得する。地図データを外部コンピュータに記憶させておく場合には、地図データ取得部112は、当該外部コンピュータから地図データを取得する。なお、地図データ自体は、公知の地図を示すデータであればよく、例えば、地球上の各地点の緯度経度情報と、当該地点にある物体と、の関係が地図データに示されているようにしてよい。
 変形例(9)の特定部103は、地図データに更に基づいて、処理対象部分Pを特定する。特定部103は、移動方向情報だけでなく、地図データに基づいて、処理対象部分Pの位置、形状、及びサイズの少なくとも1つを決定する。
 地図データと処理対象部分Pとの関係は、プログラム形式のデータとしてデータ記憶部100に記憶されていてもよいし、数式形式又はテーブル形式のデータとしてデータ記憶部100に記憶されていてもよい。即ち、上記関係は、プログラムコードの一部として定義されていてもよいし、数式又はテーブルで定義されていてもよい。特定部103は、地図データに関連付けられた処理対象部分Pを設定する。例えば、特定部103は、地図データに基づいて、処理対象部分Pの位置を決定する。
 例えば、特定部103は、無人航空機10の位置情報と地図データとに基づいて、特定のオブジェクトが存在する蓋然性の高いオブジェクトを特定する。例えば、特定のオブジェクトが人や機械であれば、人が存在する蓋然性の高いオブジェクトは道路であり、特定のオブジェクトが建物であれば、建物が存在する蓋然性の高いオブジェクトは道路で囲まれた敷地である。特定部103は、当該特定した位置に処理対象部分Pを設定すればよい。
 変形例(9)によれば、地図データを利用して処理対象部分Pを設定することで、特定のオブジェクトを検出しやすくなり、飛行の安全性を効果的に高めることができる。
 (10)また例えば、画像Gには、地上の様子だけではなく、上空の様子も撮影されており、特定のオブジェクトが空中に存在する蓋然性が低ければ、空が撮影された部分については、処理対象部分Pが設定されないようにしてもよい。
 変形例(10)の無人航空機制御システム1は、区別部113を含む。区別部113は、画像Gのうち、空が撮影された空部分と、地上が撮影された地表部分と、を区別する。例えば、区別部113は、画像Gの各画素の画素値を参照し、空の色を示す画素値の範囲内であれば、当該画素を空部分として分類し、そうでなければ、当該画素を地表部分として分類する。なお、空の色を示す画素値の範囲は、固定値であってもよいし、可変値であってもよい。可変値である場合には、日時・天候・季節などによって変えるようにすればよい。
 本変形例の特定部103は、地上部分の中から処理対象部分Pを特定する。例えば、特定部103は、画像Gのうち空部分に対して処理対象部分Pが設定されないようにしてもよいし、空部分の優先度を地上部分の優先度よりも低く設定するようにしてもよい。
 変形例(10)によれば、地上部分の中から処理対象部分Pが設定されるので、処理対象部分Pを設定する処理を効率化することができる。
 (11)また例えば、画像G内に特定のオブジェクトが検出された場合には、特定のオブジェクトが急に消えることは原則としてないので、特定部103は、過去に実行された検出処理によって特定のオブジェクトが検出された場合に、画像Gのうち、当該特定のオブジェクトが検出された部分に更に基づいて、処理対象部分Pを特定するようにしてもよい。この場合、特定部103は、直近又は所定時間以内に特定のオブジェクトが検出された位置を含むように、処理対象部分Pを設定する。即ち、特定部103は、一度検出された特定のオブジェクトを追跡するように、処理対象部分Pを設定する。
 変形例(11)によれば、一度検出された特定のオブジェクトを追跡するようにして処理対象部分Pを設定することができ、特定のオブジェクトを検出する確実性を高めることができるので、飛行の安全性を高めることができる。
 (12)また例えば、実施形態では、処理対象部分Pに対してのみ検出処理が実行される場合を説明したが、処理対象部分P以外に対して低頻度で検出処理が実行されてもよい。この場合、処理部104は、処理対象部分P以外の部分に対し、第1の頻度で検出処理を実行し、処理対象部分Pに対し、第1の頻度よりも高い第2の頻度で検出処理を実行する。
 更に、処理部104は、複数の処理対象部分Pを設定し、各処理対象部分Pの優先度に基づいて、当該処理対象部分Pに対して検出処理を実行する頻度を決定してもよい。この場合、処理部104は、優先度が高いほど高頻度となるように、各処理対象部分Pの頻度を決定すればよい。即ち、処理部104は、処理対象部分Pが移動方向に近いほど高頻度となり、処理対象部分Pが移動方向から離れているほど低頻度となるように、各処理対象部分Pの頻度を決定すればよい。
 変形例(12)によれば、画像Gのうち、処理対象部分P以外の部分に対しては低頻度で検出処理が実行され、処理対象部分Pに対しては高頻度で検出処理が実行されるので、特定のオブジェクトを迅速に検出して飛行の安全性を高めることができる。また、重要度の低い部分からも特定のオブジェクトを検出することができ、飛行の安全性を効果的に高めることができる。
 (13)また例えば、上記変形例(1)~(12)の何れか2つ以上を組み合わせるようにしてもよい。
 また例えば、無人航空機制御システム1は、無人航空機10以外のコンピュータを含んでいてもよく、当該コンピュータによって各無人航空機10の飛行制御が実行されてもよい。
 図17は、変形例に係る無人航空機制御システム1の全体構成を示す図である。図17に示すように、無人航空機制御システム1は、無人航空機10とサーバ20とを含む。無人航空機10とサーバ20とは、インターネットなどのネットワークに接続されている。なお、サーバ20は、1台であってもよいし、複数台であってもよい。
 サーバ20は、サーバコンピュータであり、制御部21、記憶部22、及び通信部23を含む。制御部21、記憶部22、及び通信部23のハードウェア構成は、それぞれ制御部11、記憶部12、及び通信部13と同様のため、ここでは説明を省略する。
 例えば、データ記憶部100は、サーバ20の記憶部22を主として実現されてもよい。この場合は、各無人航空機10は、サーバ20のデータ記憶部100が記憶するデータをネットワーク経由で取得してもよい。また例えば、画像取得部101は、サーバ20の制御部21を主として実現されてもよい。この場合、画像取得部101は、ネットワークを介して無人航空機10から画像Gを取得してもよいし、撮影部14に通信機能を持たせる場合には、撮影部14から画像Gを取得してもよい。
 また例えば、移動方向取得部102は、サーバ20の制御部21を主として実現されてもよい。この場合、移動方向取得部102は、ネットワークを介して、画像G又はセンサ部15の検出結果を取得し、移動方向情報を取得する。また例えば、特定部103は、サーバ20の制御部21を主として実現されてもよい。この場合、特定部103は、無人航空機10の移動方向取得部102から移動方向情報を取得してもよいし、サーバ20の移動方向取得部102から移動方向情報を取得してもよい。
 また例えば、処理部104は、サーバ20の制御部21を主として実現されてもよい。この場合、処理部104は、無人航空機10の特定部103から移動方向情報を取得してもよいし、サーバ20の特定部103から移動方向情報を取得してもよい。また例えば、飛行制御部105は、サーバ20の制御部21を主として実現されてもよい。この場合、飛行制御部105は、無人航空機10の処理部104から特定のオブジェクトの検出結果を取得してもよいし、サーバ20の処理部104から特定のオブジェクトの検出結果を取得してもよい。飛行制御方法自体は、実施形態及び上記変形例で説明した処理と同様の処理であればよい。飛行制御部105は、モータの回転数などの指令を無人航空機10に送信することによって、飛行制御を行う。無人航空機10は、サーバ20の飛行制御部105から受信した指令に基づいて、モータを制御する。
 また例えば、上記説明した各機能は、無人航空機制御システム1の何れかのコンピュータで実現されるようにすればよく、無人航空機10とサーバ20などの他のコンピュータとで各機能が分担されていてもよいし、複数の無人航空機10同士で各機能が分担されていてもよい。

Claims (18)

  1.  任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得手段と、
     前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得手段と、
     前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定手段と、
     前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理手段と、
     前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御手段と、
     を含むことを特徴とする無人航空機制御システム。
  2.  前記無人航空機制御システムは、前記無人航空機に対する外力に関する外力情報を取得する外力取得手段を更に含み、
     前記特定手段は、前記外力情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1に記載の無人航空機制御システム。
  3.  前記無人航空機制御システムは、前記無人航空機の姿勢に関する姿勢情報を取得する姿勢取得手段を更に含み、
     前記特定手段は、前記姿勢情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1又は2に記載の無人航空機制御システム。
  4.  前記無人航空機制御システムは、前記無人航空機の移動速度に関する移動速度情報を取得する移動速度取得手段を更に含み、
     前記特定手段は、前記移動速度情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~3の何れかに記載の無人航空機制御システム。
  5.  前記無人航空機は、予め定められた飛行経路に基づいて自動的に飛行する第1飛行モード、又は、操作者の操作に基づいて飛行する第2飛行モードの何れかで飛行し、
     前記無人航空機制御システムは、前記無人航空機の現在の飛行モードに関する飛行モード情報を取得する飛行モード取得手段を更に含み、
     前記特定手段は、前記飛行モード情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~4の何れかに記載の無人航空機制御システム。
  6.  前記無人航空機制御システムは、前記無人航空機の飛行中の高度に関する高度情報を取得する高度取得手段を更に含み、
     前記特定手段は、前記高度情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~5の何れかに記載の無人航空機制御システム。
  7.  前記無人航空機制御システムは、前記無人航空機が飛行する地域の地表面に関する地表面情報を取得する地表面取得手段を更に含み、
     前記特定手段は、前記地表面情報に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~6の何れかに記載の無人航空機制御システム。
  8.  前記無人航空機は、予め定められた飛行経路に基づいて自動的に飛行し、
     前記飛行制御手段は、前記検出処理によって前記特定のオブジェクトが検出された場合に代替飛行経路を作成し、当該代替飛行経路に基づいて、前記無人航空機の飛行を制御する、
     ことを特徴とする請求項1~7の何れかに記載の無人航空機制御システム。
  9.  前記特定手段は、前記代替飛行経路が作成された場合に、当該代替飛行経路に基づいて、前記処理対象部分を特定し直す、
     ことを特徴とする請求項8に記載の無人航空機制御システム。
  10.  前記無人航空機制御システムは、前記無人航空機が飛行する地域の地図データを取得する手段を更に含み、
     前記特定手段は、前記地図データに更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~9の何れかに記載の無人航空機制御システム。
  11.  前記無人航空機制御システムは、前記画像のうち、空が撮影された空部分と、地上が撮影された地表部分と、を区別する区別手段を更に含み、
     前記特定手段は、前記地上部分の中から前記処理対象部分を特定する、
     ことを特徴とする請求項1~10の何れかに記載の無人航空機制御システム。
  12.  前記特定手段は、過去に実行された前記検出処理によって前記特定のオブジェクトが検出された場合に、前記画像のうち、当該特定のオブジェクトが検出された部分に更に基づいて、前記処理対象部分を特定する、
     ことを特徴とする請求項1~11の何れかに記載の無人航空機制御システム。
  13.  前記画像は、少なくとも水平方向の全方向が撮影された画像である、
     ことを特徴とする請求項1~12の何れかに記載の無人航空機制御システム。
  14.  前記特定のオブジェクトは、前記無人航空機が回避すべきオブジェクトである、
     ことを特徴とする請求項1~13の何れかに記載の無人航空機制御システム。
  15.  前記処理手段は、前記処理対象部分以外の部分に対しては、前記検出処理を実行せず、前記処理対象部分に対してのみ、前記検出処理を実行する、
     ことを特徴とする請求項1~14の何れかに記載の無人航空機制御システム。
  16.  前記処理手段は、前記処理対象部分以外の部分に対し、第1の頻度で前記検出処理を実行し、前記処理対象部分に対し、前記第1の頻度よりも高い第2の頻度で前記検出処理を実行する、
     ことを特徴とする請求項1~14の何れかに記載の無人航空機制御システム。
  17.  任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得ステップと、
     前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得ステップと、
     前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定ステップと、
     前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理ステップと、
     前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御ステップと、
     を含むことを特徴とする無人航空機制御方法。
  18.  任意の方向に移動可能な無人航空機の周囲が撮影された画像を取得する画像取得手段、
     前記無人航空機の移動方向に関する移動方向情報を取得する移動方向取得手段、
     前記移動方向情報に基づいて、前記画像の中から処理対象部分を特定する特定手段、
     前記処理対象部分に対し、特定のオブジェクトを検出するための検出処理を実行する処理手段、
     前記検出処理の実行結果に基づいて、前記無人航空機の飛行を制御する飛行制御手段、
     としてコンピュータを機能させるためのプログラム。
PCT/JP2017/038523 2017-10-25 2017-10-25 無人航空機制御システム、無人航空機制御方法、及びプログラム WO2019082301A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018509869A JP6324649B1 (ja) 2017-10-25 2017-10-25 検出システム、検出方法、及びプログラム
PCT/JP2017/038523 WO2019082301A1 (ja) 2017-10-25 2017-10-25 無人航空機制御システム、無人航空機制御方法、及びプログラム
US16/636,636 US20200379487A1 (en) 2017-10-25 2017-10-25 Unmanned aerial vehicle control system, unmanned aerial vehicle control method, and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/038523 WO2019082301A1 (ja) 2017-10-25 2017-10-25 無人航空機制御システム、無人航空機制御方法、及びプログラム

Publications (1)

Publication Number Publication Date
WO2019082301A1 true WO2019082301A1 (ja) 2019-05-02

Family

ID=62143921

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/038523 WO2019082301A1 (ja) 2017-10-25 2017-10-25 無人航空機制御システム、無人航空機制御方法、及びプログラム

Country Status (3)

Country Link
US (1) US20200379487A1 (ja)
JP (1) JP6324649B1 (ja)
WO (1) WO2019082301A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102268980B1 (ko) * 2020-12-31 2021-06-24 주식회사 위즈윙 Gps 음영지역에서 드론의 자율 주행을 위한 위치 추정 장치
KR20220063608A (ko) * 2020-11-10 2022-05-17 국방과학연구소 비행 안전 판단 시스템 및 방법
KR20220087764A (ko) * 2020-12-18 2022-06-27 한서대학교 산학협력단 지형정보 생성 시스템

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6712682B1 (ja) * 2018-12-25 2020-06-24 楽天株式会社 配置場所の決定方法、輸送システム、及び情報処理装置
JP7345153B2 (ja) * 2018-12-26 2023-09-15 学校法人立命館 飛翔体の地理座標推定装置、地理座標推定システム、地理座標推定方法、及びコンピュータプログラム
JP2020112934A (ja) * 2019-01-09 2020-07-27 株式会社アトラックラボ 移動体、移動体の制御方法及びコンピュータプログラム
US20220075370A1 (en) * 2019-01-24 2022-03-10 Xtend Reality Expansion Ltd. Systems, methods and programs for continuously directing an unmanned vehicle to an environment agnostic destination marked by a user
JP7447820B2 (ja) * 2019-02-13 2024-03-12 ソニーグループ株式会社 移動体、通信方法、およびプログラム
US11694563B2 (en) * 2019-07-09 2023-07-04 Here Global B.V. Method and apparatus to control one or more drones based on real-time or predictive position information
EP4330946A1 (en) * 2021-04-29 2024-03-06 Skygrid, LLC Unmanned aerial vehicle response to object detection

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07302325A (ja) * 1994-04-30 1995-11-14 Suzuki Motor Corp 車載用画像認識装置
JP2003267295A (ja) * 2002-03-14 2003-09-25 Foundation For Nara Institute Of Science & Technology 遠隔操縦システム
JP2017103751A (ja) * 2015-09-10 2017-06-08 パロット ドローンズ 姿勢に依存しない制御パラメータ、特に自動露出制御を伴う前方視カメラを含むドローン
JP2017163265A (ja) * 2016-03-08 2017-09-14 株式会社リコー 操縦支援システム、情報処理装置およびプログラム

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5182042B2 (ja) * 2008-11-28 2013-04-10 富士通株式会社 画像処理装置、画像処理方法及びコンピュータプログラム
US8509982B2 (en) * 2010-10-05 2013-08-13 Google Inc. Zone driving
US9396401B2 (en) * 2011-11-01 2016-07-19 Aisin Seiki Kabushiki Kaisha Obstacle alarm device
FR3041135B1 (fr) * 2015-09-10 2017-09-29 Parrot Drone avec camera a visee frontale avec segmentation de l'image du ciel pour le controle de l'autoexposition
JP6838248B2 (ja) * 2016-02-22 2021-03-03 日立Astemo株式会社 情報処理装置
FR3055077B1 (fr) * 2016-08-11 2018-10-05 Parrot Drones Procede de capture d'une video, programme d'ordinateur, et systeme electronique de capture d'une video associes
JP6838340B2 (ja) * 2016-09-30 2021-03-03 アイシン精機株式会社 周辺監視装置
US20180284234A1 (en) * 2017-03-29 2018-10-04 Luminar Technologies, Inc. Foveated Imaging in a Lidar System

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07302325A (ja) * 1994-04-30 1995-11-14 Suzuki Motor Corp 車載用画像認識装置
JP2003267295A (ja) * 2002-03-14 2003-09-25 Foundation For Nara Institute Of Science & Technology 遠隔操縦システム
JP2017103751A (ja) * 2015-09-10 2017-06-08 パロット ドローンズ 姿勢に依存しない制御パラメータ、特に自動露出制御を伴う前方視カメラを含むドローン
JP2017163265A (ja) * 2016-03-08 2017-09-14 株式会社リコー 操縦支援システム、情報処理装置およびプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20220063608A (ko) * 2020-11-10 2022-05-17 국방과학연구소 비행 안전 판단 시스템 및 방법
KR102419393B1 (ko) 2020-11-10 2022-07-11 국방과학연구소 비행 안전 판단 시스템 및 방법
KR20220087764A (ko) * 2020-12-18 2022-06-27 한서대학교 산학협력단 지형정보 생성 시스템
KR102550510B1 (ko) 2020-12-18 2023-06-30 한서대학교 산학협력단 지형정보 생성 시스템
KR102268980B1 (ko) * 2020-12-31 2021-06-24 주식회사 위즈윙 Gps 음영지역에서 드론의 자율 주행을 위한 위치 추정 장치

Also Published As

Publication number Publication date
JPWO2019082301A1 (ja) 2019-11-14
JP6324649B1 (ja) 2018-05-16
US20200379487A1 (en) 2020-12-03

Similar Documents

Publication Publication Date Title
JP6324649B1 (ja) 検出システム、検出方法、及びプログラム
US11748898B2 (en) Methods and system for infrared tracking
US11879737B2 (en) Systems and methods for auto-return
US10936869B2 (en) Camera configuration on movable objects
US20230360230A1 (en) Methods and system for multi-traget tracking
US20220091607A1 (en) Systems and methods for target tracking
US20210065400A1 (en) Selective processing of sensor data
EP3494443B1 (en) Systems and methods for controlling an image captured by an imaging device
JP2019507924A (ja) Uav軌道を調整するシステム及び方法
CN111194433A (zh) 用于构图和捕捉图像的方法和系统
DE202014011010U1 (de) Systeme zur Zielverfolgung

Legal Events

Date Code Title Description
ENP Entry into the national phase

Ref document number: 2018509869

Country of ref document: JP

Kind code of ref document: A

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17929734

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17929734

Country of ref document: EP

Kind code of ref document: A1