WO2023062747A1 - 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体 - Google Patents

無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体 Download PDF

Info

Publication number
WO2023062747A1
WO2023062747A1 PCT/JP2021/037905 JP2021037905W WO2023062747A1 WO 2023062747 A1 WO2023062747 A1 WO 2023062747A1 JP 2021037905 W JP2021037905 W JP 2021037905W WO 2023062747 A1 WO2023062747 A1 WO 2023062747A1
Authority
WO
WIPO (PCT)
Prior art keywords
path
blade
flight
route
aerial vehicle
Prior art date
Application number
PCT/JP2021/037905
Other languages
English (en)
French (fr)
Inventor
シャルマ ディパク ガイレ
ティトゥス ヴォイタラ
ニクラス ベリストロム
Original Assignee
株式会社Acsl
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社Acsl filed Critical 株式会社Acsl
Priority to PCT/JP2021/037905 priority Critical patent/WO2023062747A1/ja
Publication of WO2023062747A1 publication Critical patent/WO2023062747A1/ja

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64CAEROPLANES; HELICOPTERS
    • B64C39/00Aircraft not otherwise provided for
    • B64C39/02Aircraft not otherwise provided for characterised by special use
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B64AIRCRAFT; AVIATION; COSMONAUTICS
    • B64DEQUIPMENT FOR FITTING IN OR TO AIRCRAFT; FLIGHT SUITS; PARACHUTES; ARRANGEMENT OR MOUNTING OF POWER PLANTS OR PROPULSION TRANSMISSIONS IN AIRCRAFT
    • B64D47/00Equipment not otherwise provided for
    • B64D47/08Arrangements of cameras
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02EREDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
    • Y02E10/00Energy generation through renewable energy sources
    • Y02E10/70Wind energy
    • Y02E10/72Wind turbines with rotation axis in wind direction

Definitions

  • the present invention relates to a system, method, program, and storage medium storing the program for imaging blades of a wind power generator for inspection using an unmanned aerial vehicle.
  • the problem is how to create an effective and efficient flight plan route for blade inspection.
  • the imaging direction of the camera is set in advance with respect to the flight point. If it deviates from the path, the blade may be out of the field of view of the camera.
  • one object of the present invention is to provide a system and method for creating an effective and efficient flight plan route for blade inspection.
  • the present invention is capable of photographing the blade even when the set flight plan route deviates from the intended flight plan route.
  • One object is to provide a system and method for enabling.
  • One aspect of the present invention uses an unmanned aerial vehicle with an imager supported on a movable support member to image wind turbine blades for inspection using an unmanned aerial vehicle that flies based on a preset flight plan path.
  • the flight plan path includes, for at least one blade, a path along the blade at a predetermined distance from the blade, and at a predetermined point on the path, the imaging direction of the imaging device
  • the movable support member is arranged such that, during flight of the unmanned aerial vehicle, a point corresponding to the center of an object area in the field of view of the imaging device is located in the central region of the field of view.
  • the flight plan path includes, for each of the at least one blades, a first path extending along the blade forward and counterclockwise of the blade at a predetermined distance from the blade; a second path extending along the blade at a distance aft and counterclockwise from the blade; a third path extending along the blade at a distance aft and clockwise from the blade; for a fourth path extending along the blade at a distance from the blade, all of the first path, the second path, the third path, and the fourth path of the at least one blade; tip ends of the blades of the first path, the second path, the third path, and the fourth path selected to allow passage by the unmanned aerial vehicle and/or
  • the proximal ends of the blades may be connected with and/or without connecting paths.
  • the at least one blade is all the blades included in the wind power generator, and in the flight plan path, the tip end of each blade of each of the first path and the second path for each blade are connected via a connecting path, and the proximal end of the one blade of the first path for one of the adjacent blades and the other of the adjacent blades
  • a forward path is formed by connecting the second path with the proximal end of the other blade through a connecting path and/or without a connecting path, and the third blade for each blade.
  • the tip ends of the blades of each of the path and the fourth path are connected via a connecting path, and the base of the one blade of the third path with respect to one of the adjacent blades connecting the end portion and the proximal end portion of the other blade of the fourth path to the other of the adjacent blades through a connecting path and/or without a connecting path
  • a backward path is formed, one point on the forward path or the backward path is set as a flight starting point, and the flight starting point and the backward path or the backward path corresponding to the rear or forward of the flight starting point Points on the rearward path are connected via connecting paths, and the flight plan path is such that the unmanned aerial vehicle departs from the flight start point, circles the forward path or the rearward path, and reaches the flight start point.
  • the object area may be an area determined as a blade.
  • the region determined as the blade can be determined by semantic segmentation.
  • the imaging device may be zoomed in when the unmanned aerial vehicle approaches the hub of the wind turbine generator.
  • One aspect of the present invention is a flight plan path generation system for an unmanned aerial vehicle, the flight plan path comprising an imaging device supported on a movable support member that flies based on a preset flight plan path.
  • a flight plan path for imaging for inspection of blades of a wind turbine generator using an unmanned aerial vehicle for each of the at least one blades, a predetermined distance forward and counterclockwise from the blades; a second path extending along the blade forward and clockwise of the blade at a predetermined distance from the blade; and aft and counterclockwise of the blade at a predetermined distance from the blade.
  • a blade side path setting portion that sets a third path extending along the blade at a distance and a fourth path extending along the blade a predetermined distance to the rear and clockwise side of the blade; and said at least one the first path, the second path, such that the unmanned aerial vehicle can traverse all of the first path, the second path, the third path, and the fourth path of one blade; , the third path, and the fourth path between the ends on the distal side of the blade and/or the ends on the proximal side of the blade via a connecting path and/or via a connecting path.
  • the present invention provides a system comprising a route connecting part that connects without connecting.
  • the at least one blade is all the blades included in the wind power generator, and the path connecting portion is the tip end of each blade of each of the first path and the second path for each blade. are connected via a connecting path, and the proximal end of the one blade of the first path for one of the adjacent blades and the other of the adjacent blades
  • a forward path is formed by connecting the proximal end of the second path with the proximal end of the other blade through a connecting path when they are not coincident with the third path for each blade.
  • each blade on the distal side of each of the fourth paths are connected via a connecting path, and the proximal side of the one blade of the third path with respect to one of the adjacent blades and the proximal end of the fourth path to the other blade of the adjacent blades, when they do not coincide, by connecting them via a connecting path , forming a rearward route, and on the rearward route or the rearward route corresponding to the flight starting point and the rearward or forward of the flight starting point with respect to the flight starting point set on the forward route or the rearward route are connected via a connecting path, and the unmanned aerial vehicle departs from the flight starting point, circles the forward path or the backward path, returns to the flight starting point, and is forward or backward of the flight starting point.
  • a flight order setting unit may be further provided for setting a flight order of the unmanned aerial vehicle on the flight plan route so as to return to a point behind or ahead of the flight start point.
  • One aspect of the present invention provides an unmanned aerial vehicle equipped with the system.
  • One aspect of the present invention uses an unmanned aerial vehicle with an imager supported on a movable support member to image wind turbine blades for inspection using an unmanned aerial vehicle that flies based on a preset flight plan path.
  • the flight plan path includes, for at least one blade, a path along the blade at a predetermined distance from the blade, and at a predetermined point on the path, the imaging direction of the imager is the imager.
  • the flight plan path includes, for each of the at least one blades, a first path extending along the blade forward and counterclockwise of the blade at a predetermined distance from the blade; a second path extending along the blade at a distance aft and counterclockwise from the blade; a third path extending along the blade at a distance aft and clockwise from the blade; for a fourth path extending along the blade at a distance from the blade, all of the first path, the second path, the third path, and the fourth path of the at least one blade; tip ends of the blades of the first path, the second path, the third path, and the fourth path selected to allow passage by the unmanned aerial vehicle and/or
  • the proximal ends of the blades may be connected with and/or without connecting paths.
  • the at least one blade is all the blades included in the wind power generator, and in the flight plan path, the tip end of each blade of each of the first path and the second path for each blade are connected via a connecting path, and the proximal end of the one blade of the first path for one of the adjacent blades and the other of the adjacent blades
  • a forward path is formed by connecting the second path with the proximal end of the other blade through a connecting path and/or without a connecting path, and the third blade for each blade.
  • the tip ends of the blades of each of the path and the fourth path are connected via a connecting path, and the base of the one blade of the third path with respect to one of the adjacent blades connecting the end portion and the proximal end portion of the other blade of the fourth path to the other of the adjacent blades through a connecting path and/or without a connecting path
  • a backward path is formed, one point on the forward path or the backward path is set as a flight starting point, and the flight starting point and the backward path or the backward path corresponding to the rear or forward of the flight starting point Points on the rearward path are connected via connecting paths, and the flight plan path is such that the unmanned aerial vehicle departs from the flight start point, circles the forward path or the rearward path, and reaches the flight start point.
  • the object area may be an area determined as a blade.
  • the region determined as the blade can be determined by semantic segmentation.
  • the imaging device may be zoomed in when the unmanned aerial vehicle approaches the hub of the wind turbine generator.
  • One aspect of the present invention is a computer-implemented method for generating a flight-planned path for an unmanned aerial vehicle, said flight-planned path being flown based on a preset flight-planned path, comprising a movable support member ( A flight plan path for imaging for inspection of blades of a wind turbine generator using an unmanned aerial vehicle with an imaging device supported on a gimbal), for each of the at least one blades, forward and backward of the blades.
  • a first path extending along the blade a predetermined distance away from the blade in a clockwise direction; a second path extending along the blade a predetermined distance forward of the blade and in a clockwise direction; aft of the blade; setting a third path extending along the blade at a predetermined distance from the blade counterclockwise, and a fourth path extending along the blade at a predetermined distance behind and clockwise from the blade; and said first path such that said unmanned aerial vehicle can traverse all of said first path, said second path, said third path, and said fourth path of said at least one blade;
  • the distal ends of the blades and/or the proximal ends of the blades of the second route, the third route, and the fourth route are connected to each other via connecting routes and/ or connecting without a connecting path.
  • the at least one blade is all blades of the wind turbine generator, and connecting via the connecting path and/or not via the connecting path means that the first path for each blade and the The ends of each blade on the distal side of each second path are connected via a connecting path, and the proximal end of the one blade of the first path with respect to one of the adjacent blades.
  • One aspect of the present invention provides a program for causing a computer to execute the method.
  • One aspect of the present invention provides a computer-readable recording medium on which the program is recorded.
  • the terms “rear side of the blade” and “front side of the blade” refer to the nacelle side (+X direction in FIG. 8) of the blade in the direction of the rotor shaft of the wind power generator to which the blade belongs. side) and the opposite side ( ⁇ X direction side in FIG. 8), respectively.
  • FIG. 1 is an external view of an unmanned aerial vehicle according to one embodiment of the invention
  • FIG. 1 is a diagram showing the overall configuration of an unmanned aerial vehicle according to one embodiment of the present invention
  • FIG. 1 is a side view of a wind turbine generator according to one embodiment of the present invention
  • FIG. 1 is a diagram showing the functional configuration of a flight plan route generation system according to one embodiment of the present invention
  • FIG. 1 is a diagram showing the hardware configuration of a flight plan route generation system according to one embodiment of the present invention
  • FIG. 1 is a diagram showing the functional configuration of an imaging direction control system according to one embodiment of the present invention
  • 4 is a flowchart of an example of flight plan path processing of the flight plan path generation system according to one embodiment of the present invention; It is a figure which shows an example of a flight plan route.
  • 4 is a flowchart of an example of imaging direction control processing of the imaging direction control system according to one embodiment of the present invention;
  • 4 is a flowchart of an example of imaging direction control processing of the imaging direction control system according to one embodiment of the present invention;
  • the unmanned aerial vehicle of the present invention is not limited to the multicopter shown in FIG. 1, and may be any unmanned aerial vehicle such as a rotary wing aircraft or a fixed wing aircraft.
  • the system configuration of the unmanned aerial vehicle 1 is not limited to that shown in the figure, and any configuration can be adopted as long as similar operations are possible.
  • the function of the communication circuit may be integrated into the flight control unit, and the operation performed by multiple components may be executed by a single component, or the function of the main processing unit may be distributed to multiple processing units.
  • operations performed by a single component may be performed by multiple components.
  • the various data stored in the memory of the unmanned aerial vehicle 1 may be stored in a different location, and the information recorded in the various memories may be divided into a plurality of types by distributing one type of information. Alternatively, a plurality of types of information may be collectively stored as one type.
  • FIG. 1 is an external view of a multicopter, which is an example of an unmanned aerial vehicle (multicopter) 1 according to this embodiment.
  • a control unit 101 six motors 102 driven by control signals from the control unit 101, and six rotors (rotating wings) 103, six arms 104 connecting the control unit 101 and respective motors 102, and landing legs 105 supporting the unmanned aerial vehicle during landing.
  • the number of motors 102, rotors 103, and arms 104, respectively, can also be three or more, such as three, four, and so on.
  • a VSLAM processing unit 124 is attached below the control unit 101 .
  • a first camera 108 for photographing an object at high resolution via a gimbal 107, which is a movable support member attached to the bottom of the VSLAM processing unit 124.
  • a second camera 109 is attached for capturing an image of an object for performing Visual SLAM processing, which will be described later.
  • the unmanned aerial vehicle 1 also has a flight position sensor 110 and an antenna 117 .
  • FIG. 2 is a diagram showing the overall configuration of the unmanned aerial vehicle 1 shown in FIG.
  • the unmanned aerial vehicle 1 generally comprises a control unit 101, a motor 102 electrically connected to the control unit 101, a rotor 103 mechanically connected to the motor 102, a gimbal 107, a first camera 108, a second camera 109. , a flight position sensor 110 , an attitude sensor 111 , an orientation sensor 112 , an altitude sensor 113 , a distance sensor 115 and an antenna 117 .
  • the control unit 101 is a configuration for performing information processing for performing flight control of the unmanned aerial vehicle 1 and controlling electric signals for that purpose, and typically various electronic components are arranged and wired on a substrate. Therefore, it is a unit that constitutes a circuit necessary for realizing such a function.
  • the control unit 101 further comprises an information processing unit 120 , a communication circuit 121 , a control signal generator 122 , a speed controller 123 and an interface 125 .
  • the information processing unit 120 includes a CPU 120a, a RAM 120b, a ROM 120c, and an external memory 120d.
  • RAM 120b, ROM 120c, external memory 120d, communication circuit 121, control signal generator 122, and interface 125 are connected to CPU 120a via system bus 120h.
  • the control unit 101 is an example of an imaging direction control system according to one embodiment of the present invention, and each part of an imaging direction control system 7 shown in FIG.
  • Various programs are realized by using the CPU 120a, RAM 120b, ROM 120c, external memory 120d, communication circuit 121, control signal generator 122, speed controller 123, interface 125, etc. as resources.
  • the control unit 101 appropriately controls the flight of the unmanned aerial vehicle 1 based on control signals from the operator (during non-autonomous flight) and flight plan route data (during autonomous flight). Specifically, the attitude, speed, etc. of the unmanned aerial vehicle 1 are determined from information obtained from various sensors for flight control and the VSLAM processing unit 124, and the current flight position of the unmanned aerial vehicle 1 is determined from information obtained from the flight position sensor 107. etc., and compared with target values such as control signal, flight plan route, speed limit, altitude limit, etc., the information processing unit 120 calculates the control command value for each rotor 103, and controls the data indicating the control command value. Output to the signal generator 122 .
  • the control signal generator 122 converts the control command value into a pulse signal representing voltage and transmits the pulse signal to each speed controller 123 .
  • Each speed controller 123 converts the pulse signal into a drive voltage and applies it to each motor 102 , thereby controlling the drive of each motor 102 to control the rotation speed of each rotor 103 , thereby driving the unmanned aerial vehicle 1 . Flight is controlled.
  • the control unit 101 can control the first camera 108 and the second camera 109, and also control the gimbal 107, which will be described later, along at least one of the yaw, pitch, and roll axes.
  • the imaging direction of the first camera 108 can be controlled by rotating it around.
  • the flight-planned route data is data representing a three-dimensional (latitude, longitude, altitude) flight-planned route of the unmanned aerial vehicle 1, and is typically a series of waypoints existing on the flight-planned route.
  • a flight plan path is typically a set of straight lines connecting the plurality of waypoints in order, but it can also be a curve with a predetermined curvature within a predetermined range of waypoints.
  • the target position is in the vicinity of a particular waypoint on the flight plan path. Information is added to the waypoint to the effect that the vehicle will head to the target position after passing the waypoint.
  • the waypoint can also be the end point (turning point) of the flight plan path.
  • a certain waypoint can also be set as the target position.
  • information indicating that the waypoint is the target position is added to the waypoint data.
  • the flight plan route data may include data defining flight speeds at multiple waypoints. Flight-planned path data is typically used to define flight-planned paths in autonomous flight, but can also be used in non-autonomous flight for guidance during flight. Flight plan route data is typically input and stored in the unmanned aerial vehicle 1 prior to flight.
  • the first camera 108 is a camera for capturing images of objects with high resolution.
  • the first camera 108 is attached to the VSLAM processing unit 124 via a gimbal 107, which is a movable support member that rotatably supports the first camera 108 so that the imaging direction can be changed. ing.
  • the first camera 108 acquires image data of the imaging range of the unmanned aerial vehicle 1 during flight, and the acquired image is stored in the storage unit 707, which will be described later.
  • An image is a moving image consisting of frames, typically a series of still images. The images may be still images captured at arbitrary intervals.
  • the gimbal 107 can rotatably support the first camera 108 around the yaw, pitch and roll axes.
  • the gimbal 107 can change the imaging direction of the first camera 108 by rotating the first camera 108 about at least one of the yaw, pitch, and roll axes.
  • the second camera 109 is a camera for capturing an image of an object for performing Visual SLAM processing, which will be described later, and is attached so as to face the front of the fuselage.
  • a second camera 109 that takes low-resolution images is provided separately from the first camera 108 in order to reduce the burden of Visual SLAM processing.
  • the second camera 109 acquires image data of the imaging range of the unmanned aerial vehicle 1 during flight, and the acquired images are stored in the information processing unit 120 and the VSLAM processing unit 124 to be described later.
  • An image is a moving image consisting of frames, typically a series of still images. The images may be still images captured at arbitrary intervals.
  • the flight position sensor 110 is a sensor for navigation that senses the coordinates of the flight position of the unmanned aerial vehicle 1, such as a GPS (Global Positioning System) sensor. Flight position sensor 110 preferably senses coordinates in three dimensions. The flight position sensor 110 is mainly used to control the position of the unmanned aerial vehicle 1 as it flies along the flight plan route in an environment where GPS signals can be well received.
  • GPS Global Positioning System
  • the attitude sensor 111 is a sensor such as a 6-axis gyro (acceleration/angular velocity sensor) for detecting the movement and inclination of the unmanned aerial vehicle 1, and is used to control the attitude of the unmanned aerial vehicle 1 during flight. be done.
  • a 6-axis gyro acceleration/angular velocity sensor
  • the azimuth sensor 112 is a sensor for controlling the flight direction, such as a magnetic sensor.
  • the altitude sensor 113 is a sensor that detects the altitude of the unmanned aerial vehicle 1, such as an air pressure sensor, and is used to control the flight altitude of the unmanned aerial vehicle 1.
  • the unmanned aerial vehicle 1 may be equipped with a distance sensor such as an ultrasonic sensor.
  • the distance sensor 115 is a sensor, such as an ultrasonic sensor, for measuring the distance between obstacles and the ground, avoiding collisions with obstacles, and precisely measuring the ground altitude.
  • the antenna 117 is an antenna for receiving radio signals containing information and various data for operating and controlling the unmanned aerial vehicle 1 and transmitting radio signals containing telemetry signals from the unmanned aerial vehicle 1 .
  • the communication circuit 121 demodulates the operation signal, control signal, and various data for the unmanned aerial vehicle 1 from the radio signal received through the antenna 117 and inputs it to the information processing unit 120, or telemetry output from the unmanned aerial vehicle 1.
  • An electronic circuit typically a radio signal processing IC, for generating radio signals that carry signals and the like.
  • the communication of the steering signal and the communication of the control signal and various data may be performed by communication circuits in different frequency bands. For example, to communicate with the transmitter of the controller (propo) for manual operation at a frequency of 950 MHz band, and to communicate data communication at a frequency of 2 GHz band / 1.7 GHz band / 1.5 GHz band / 800 MHz band It is also possible to adopt a configuration
  • the control signal generator 122 is configured to convert the control command value data obtained by calculation by the information processing unit 120 into a pulse signal (PWM signal or the like) representing voltage, and typically includes an oscillation circuit and a switching circuit. is an IC containing
  • the speed controller 123 is configured to convert the pulse signal from the control signal generator 122 into a driving voltage for driving the motor 102, and is typically a smoothing circuit and an analog amplifier.
  • the unmanned aerial vehicle 1 includes a battery device such as a lithium polymer battery or a lithium ion battery, and a power supply system including a power distribution system for each element.
  • the VSLAM processing unit 124 includes a CPU 124a, a RAM 124b, a ROM 124c, an external memory 124d and an interface 124g.
  • the RAM 124b, ROM 124c, external memory 124d, and interface 124e are connected to the CPU 124a via a system bus 124f.
  • VSLAM processing unit 124 may comprise a GPU.
  • VSLAM processing unit 124 executes a program that implements such an algorithm, so that the second camera 109 Self-position estimation and map creation are performed by Visual SLAM using image signals. ), attitude (obtained by geometric calculation from the arrangement of a plurality of feature points in the photographed image), and other quantities representing the state of the unmanned aerial vehicle 1. Signals representing these quantities are sent to the information processing unit 120, and the information processing unit 120 utilizes the information input from the VSLAM processing unit 124.
  • the map information estimated by the VSLAM processing unit 124 is also output to the information processing unit 120 and recorded on a recording device.
  • a stereo camera may be used as the second camera 109 instead of a monocular camera, and in this case also, it is possible to estimate the self-position and the like by Visual SLAM based on the same principle.
  • Interface 125 interfaces with functional elements such as information processing unit 120 , flight position sensor 110 , attitude sensor 111 , orientation sensor 112 , altitude sensor 113 , distance sensor 115 , gimbal 107 , first camera 108 , second camera 109 . It is a configuration in which they are electrically connected by converting the form of signals so that signals can be transmitted and received between them.
  • the interface is shown as one configuration in the drawings, but usually different interfaces are used depending on the types of functional elements to be connected. Further, the interface 125 may not be necessary depending on the type of signal input/output by the functional element to be connected. In FIG. 2, even the information processing unit 120 connected without the interface 125 intervening may require an interface depending on the type of signal input/output by the functional element to be connected.
  • FIG. 3 is a side view of a wind turbine generator according to one embodiment of the present invention.
  • the wind turbine generator 3 includes three blades 31 that rotate under the wind: a first blade 31-1, a second blade 31-2, and a third blade 31-3 (hereinafter referred to as blades).
  • blade 31 when it is necessary to distinguish between each blade, “first blade 31-1", “second blade 31-2”, “third blade 31- 3”), a rotor 33 having a hub 32 connecting the proximal end of each blade 31, a nacelle 35 containing a generator 34 connected to the hub 32, and an installation location of the wind turbine generator 3 and a tower 36 installed on G (a platform provided on land or water) and rotatably supporting a nacelle 35 .
  • a proximal end of the blade 31 is connected to a rotor shaft 37 by a hub 32 .
  • the hub 32 is connected to the generator 34 via the rotor shaft 37, and the rotation of the rotor 33 is transmitted to the generator 34 via the rotor shaft 37 to generate power.
  • the wind turbine generator 3 shown in FIG. 3 is stopped for inspection, and is stopped at an azimuth angle of 0°.
  • the azimuth angle represents the rotational angular position of the rotor 33, and is 0° when the blades 31 are positioned directly above the hub 32 in the vertical direction.
  • the number of blades provided in the wind turbine generator 3 is three in this embodiment, the number of blades can be any appropriate number.
  • FIG. 4 is a diagram showing the functional configuration of a flight plan route generation system according to one embodiment of the present invention.
  • the flight plan route generation system 5 includes a blade side route setting unit 501 , a route connection unit 503 , a flight order setting unit 505 , an initial imaging direction calculation unit 507 , a transmission/reception unit 509 , a display unit 511 and a storage unit 513 .
  • the flight plan route generation system 5 is configured as any suitable device such as a ground station computer, PC, smartphone, tablet terminal, etc., a cloud computing system, or a combination thereof, which is separate from the unmanned aerial vehicle 1. can do.
  • the information processing unit 120 of the unmanned aerial vehicle 1 functions as the flight plan route generation system 5, or the flight plan route generation system 5 is mounted on the unmanned aerial vehicle 1 separately from the information processing unit 120. It is good also as a structure provided in.
  • the flight plan path generation system 5 or its components need not be configured as one physical device, but may be configured from multiple physical devices.
  • the blade lateral path setting portion 501 provides, for each of the at least one blade, a first path extending along the blade forward and counterclockwise of the blade at a predetermined distance from the blade, forward and clockwise of the blade. a second path extending along the blade a predetermined distance away from the blade to the side; a third path extending along the blade a predetermined distance from the blade to the rear and counterclockwise side of the blade; aft and clockwise of the blade; A fourth path is set up extending along the blade at a predetermined distance from the blade in the direction.
  • the route connection unit 503 connects the first route, the second route, the second route, the second route, the third route, and the fourth route so that the unmanned aerial vehicle 1 can pass through all of the first route, the second route, the third route, and the fourth route of at least one blade. between the distal ends of the blades and/or the proximal ends of the blades of the path of, the third path, and the fourth path with and/or without a connecting path Connecting.
  • the path connection unit 503 connects the ends of the blades of the first path and the second path to each blade on the tip end side of each of the blades of the wind turbine generator 3 via a connection path.
  • the proximal end of one blade of the first path for one of the adjacent blades and the base of the other blade of the second path for the other of the adjacent blades The tip side of each blade of each of the third and fourth paths for each blade to form a forward path by connecting them via connecting paths when they are not coincident with the end-side ends.
  • the ends of the are connected via a connecting path, and the proximal end of one blade of the third path for one of the adjacent blades and the second for the other of the adjacent blades
  • a connecting path to form a rearward path
  • flight set on the forward or rearward path To the starting point the flight starting point and a point on the rearward path or rearward path corresponding to the rear or front of the flight starting point can be connected via a connecting path.
  • the flight order setting unit 505 allows the unmanned aerial vehicle 1 to depart from the flight start point, go around the forward or backward route, return to the flight start point, and then return to the flight start point on the backward or forward route corresponding to the rear or forward of the flight start point. from the point on the backward or forward path corresponding to the rearward or forward of the flight starting point, then circle the backward or forward route and return to the point corresponding to the backward or forward of the flight starting point. set the flight order on the flight plan route.
  • the initial imaging direction calculation unit 507 is an imaging device for making each blade 31 come into the field of view of the first camera 108 at a waypoint where the unmanned aerial vehicle 1 enters the route for the blades 31 to be imaged for the first time.
  • the direction (initial imaging direction) to which one camera 108 should face is calculated based on the specification data regarding the wind turbine generator 3 stored in the storage unit 513 and the generated flight plan route, and is associated with each waypoint and stored in the storage unit. 513.
  • the transmission/reception unit 509 transmits and receives various data and various programs.
  • the display unit 511 displays the results of various processes performed by the flight plan route generation system 5 on various displays.
  • the storage unit 513 stores various data and various programs.
  • FIG. 5 is a diagram showing the hardware configuration of the flight plan route generation system according to one embodiment of the present invention.
  • the flight plan route generation system 5 includes a CPU 50a, a RAM 50b, a ROM 50c, an external memory 50d, an input section 50e, an output section 50f, and a communication section 50g.
  • the RAM 50b, ROM 50c, external memory 50d, input section 50e, output section 50f, and communication section 50g are connected to the CPU 50a via a system bus 50h.
  • the CPU 50a comprehensively controls each device connected to the system bus 50h.
  • the ROM 50c and the external memory 50d store the BIOS and OS, which are control programs for the CPU 50a, and various programs and data necessary for realizing the functions executed by the computer.
  • the RAM 50b functions as the main memory and work area of the CPU.
  • the CPU 50a loads necessary programs and the like from the ROM 50c and the external memory 50d to the RAM 50b and executes the loaded programs to realize various operations.
  • the external memory 50d is composed of, for example, flash memory, hard disk, DVD-RAM, USB memory, and the like.
  • the input unit 50e accepts operation instructions and the like from users and the like.
  • the input unit 50e includes input devices such as input buttons, a keyboard, a pointing device, a wireless remote controller, a microphone, and a camera.
  • the output unit 50f outputs data processed by the CPU 50a and data stored in the RAM 50b, ROM 50c, and external memory 50d.
  • the output unit 50f is composed of an output device such as a CRT display, LCD, organic EL panel, printer, speaker, or the like.
  • the communication unit 50g is an interface for connecting and communicating with external devices via a network or directly.
  • the communication unit 50g is composed of interfaces such as a serial interface and a LAN interface, for example.
  • FIG. 6 is a diagram showing the functional configuration of the imaging direction control system according to one embodiment of the present invention.
  • the imaging direction control system 7 includes an initial imaging direction setting unit 701 , an object region center equivalent point calculation unit 703 , an imaging direction control unit 705 and a storage unit 707 .
  • the initial imaging direction setting unit 701 reads the initial imaging direction associated with each waypoint calculated by the initial imaging direction calculation unit 507 and stored in the storage unit 707, and controls the gimbal 107, which is a movable support member. , the first camera 108, which is an imaging device, is directed in the read initial imaging direction.
  • the object area center equivalent point calculation unit 703 calculates a center point 83 that is the point equivalent to the center of the object area in the field of view of the first camera 108 during flight of the unmanned aerial vehicle 1 .
  • the imaging direction control unit 705 controls the gimbal 107, which is a movable support member, so that the center point 83, which is the calculated center-corresponding point, is positioned in the central region 85 of the frame, and the first camera 108, which is an imaging device, is controlled.
  • the storage unit 707 stores various data and various programs.
  • FIG. 7 is a flowchart of an example of flight plan path processing of the flight plan path generation system in accordance with one embodiment of the present invention.
  • FIG. 8 is a diagram showing an example of a flight plan route.
  • the storage unit 513 stores specification data relating to the wind turbine generator 3, such as the azimuth angle and nacelle azimuth angle of the rotor 33 when stopped, the installation position (latitude, longitude), the height of the tower 36, the length of the blades 31, and the like. remembered.
  • the flight plan route generation system 5 reads the specification data of the wind turbine generator 3 from the storage unit 513 and generates a flight plan route based on the read specification data.
  • the blade side path setting unit 501 moves forward and counterclockwise from the blade 31 with respect to the axis A of the blade 31 along the blade at a predetermined distance from the blade.
  • a first path extending forward and clockwise of the blade along the blade at a distance from the blade;
  • a second path extending along the blade aft and counterclockwise along the blade at a distance from the blade;
  • a third path extending along the blade and a fourth path extending along the blade at a predetermined distance behind the blade and in the clockwise direction are set (S101).
  • the first route R11 for the first blade 31-1 includes a waypoint P11 on the base end side of the first blade 31-1 and the first route R11.
  • the second route R12 for the first blade 31-1 is a route connecting the waypoint P12 on the tip side of the first blade 31-1 with a straight line.
  • the path is a straight line connecting the point P13 and the waypoint P14 on the base end side of the first blade 31-1.
  • the first route R21 for the second blade 31-2 includes a waypoint P14 on the proximal side of the first route for the first blade 31-1 and a waypoint P15 on the distal side of the second blade 31-2. is a route connected by a straight line
  • the second route R22 for the second blade 31-2 is a waypoint P16 on the distal side of the second blade 31-2 and the proximal end of the second blade 31-2.
  • the path is a straight line connecting the waypoint P17 on the side.
  • a first route R31 for the third blade 31-3 connects a waypoint P17 on the proximal side of the second blade 31-2 and a waypoint P18 on the distal side of the third blade 31-3 with a straight line.
  • a second route R32 for the third blade 31-3 includes a waypoint P19 on the distal side of the third blade 31-3 and a waypoint P11 on the proximal side of the first blade 31-1. is a path connected by straight lines.
  • the third route R13 for the first blade 31-1 is such that the waypoint P21 on the proximal side of the first blade 31-1 and the waypoint P22 on the distal side of the first blade 31-1 are straight lines.
  • a fourth route R14 for the first blade 31-1 is a connected route, which is a waypoint P23 on the distal side of the first blade 31-1 and a waypoint P23 on the proximal side of the first blade 31-1.
  • the route is a straight line connecting points P24.
  • a third route R23 for the second blade 31-2 includes a waypoint P24 on the proximal side of the third route for the first blade 31-1 and a waypoint P25 on the distal side of the second blade 31-2. is a route connected by a straight line, and a fourth route R24 for the second blade 31-2 is a waypoint P26 on the distal side of the second blade 31-2 and a proximal end of the second blade 31-2.
  • the path is a straight line connecting the waypoint P27 on the side.
  • a third route R33 for the third blade 31-3 connects a waypoint P27 on the proximal side of the second blade 31-2 and a waypoint P28 on the distal side of the third blade 31-3 with a straight line.
  • a fourth route R34 for the third blade 31-3 is a waypoint P29 on the distal side of the third blade 31-3 and a waypoint P21 on the proximal side of the first blade 31-1. is a path connected by straight lines.
  • the route connecting unit 503 connects the waypoints on the tip side of each blade of the first route and the second route for each blade via the connecting route RC to form the forward route RF.
  • the route connection unit 503 connects the waypoints on the tip side of each blade of the third route and the fourth route for each blade via the connection route RC to form the rear route RB ( S103).
  • the route connection unit 503 When the user designates one point on the forward route RF or the backward route RB as the flight starting point, the route connection unit 503 connects the flight starting point and the backward route RB corresponding to the rear or forward of the flight starting point.
  • the points on the forward route RF are connected via the connecting route RC (S105).
  • the route connection unit 503 connects the waypoint P11 and the waypoint P21 on the backward route RB corresponding to the waypoint P11. are connected via a connecting path RC.
  • the flight order setting unit 505 sets waypoints P12, P13, P14, P15, P16, P17, P18, P19, and P11 on the forward route RF starting from waypoint P11, which is the flight starting point, on the flight plan route. After circling the forward route and returning to the waypoint P11, which is the flight start point, the aircraft proceeds to the backward route RB. On the flight plan route of the unmanned aerial vehicle 1 so as to go around the backward route in order of waypoints P22, P23, P24, P25, P26, P27, P28, P29, and P21 and return to waypoint P21, which is the flight end point.
  • a flight order is set (S107).
  • the waypoint on the base end side of the first blade on the first path for the first blade is set as the flight start point, but the flight start point may be any other appropriate point. can be
  • the initial imaging direction calculation unit 507 calculates a waypoint at which the unmanned aerial vehicle 1 first enters the path to the blades to be imaged on each of the forward route RF and the rearward route RB (in this embodiment, the first route to each blade, the first At waypoints P11, P14, P17, P21, P24, and P27), which are waypoints entering the route No. 3 for the first time, the first camera 108 is used to ensure that each blade 31 is within the field of view of the first camera 108.
  • the direction (initial imaging direction) to which the wind turbine should face is calculated based on the specification data regarding the wind turbine generator 3 stored in the storage unit 513 and the generated flight plan route, and stored in the storage unit 513 in association with each waypoint. (S109).
  • the proximal end of one blade of the first path for one of the adjacent blades and the other of the second path for the other of the adjacent blades shall coincide with the proximal end of the blade, and the proximal end of one of the adjacent blades of the third path for one of the adjacent blades
  • the proximal end of the fourth path for the other blade was made to coincide with the other blade.
  • the side ends may not coincide, in which case they may be connected via connecting paths.
  • proximal end of one blade of the third path for one of the adjacent blades and the proximal end of the other blade of the fourth path for the other blade of the adjacent blades may not coincide, in which case they may be connected via connecting paths.
  • a first route, a second route, a third route, and a fourth route are set for all blades provided in the wind power generator, and all of these routes are set to the unmanned aerial vehicle.
  • the first route, the second establishing a path, a third path, and a fourth path, wherein all of the first path, the second path, the third path, and the fourth path of the at least one blade are traversable by the unmanned aerial vehicle; so that the distal ends of the blades and/or the proximal ends of the blades of the first, second, third, and fourth paths are connected to each other via a connecting path.
  • a flight plan path may be generated by connecting and/or not via a connecting path.
  • the flight plan route is generated in the order of setting the first route, second route, third route, and fourth route, connecting the routes by connecting routes, and setting the flight order.
  • generation of flight plan paths is not limited to generation in this order, and the order may be changed arbitrarily, and some of them may be performed simultaneously.
  • the position of each waypoint is calculated in order of flight, each waypoint is set, and a flight plan route is generated by connecting these waypoints.
  • waypoints may be set based on user input.
  • the first, second, third, and fourth paths are paths extending along the blade with the axis of the blade as the reference. It can be any other suitable path, such as, for example, along the edge of the blade.
  • a first path extending along the blade forward and counterclockwise of the blade at a predetermined distance from the blade; a second path extending along the blade at a distance aft and counterclockwise; a third path extending along the blade at a distance aft and counterclockwise of the blade; and a blade aft and clockwise of the blade.
  • Four lateral paths form the flight plan path for imaging, the fourth path extending along the blade at a predetermined distance from the .
  • the unmanned aerial vehicle flies along such a side route, it does not fly directly above the blades, so that in the unlikely event that the unmanned aerial vehicle crashes, it can be prevented from colliding with the blades and damaging the blades.
  • an effective and efficient flight plan route can be created for photographing blades of a wind power generator for inspection by autonomous flight based on the flight plan route.
  • FIG. 10 is a diagram showing an example of a frame of imaged moving image data.
  • an appropriate flight plan route is created, and a set of a series of waypoints existing on the flight plan route is stored in the information processing unit 120 as flight plan route data. .
  • the flight plan route data may also include altitude or ground altitude information at each waypoint.
  • the flight plan route data of the unmanned aerial vehicle 1 is stored in the information processing unit 120, they are transmitted to the unmanned aerial vehicle 1 by radio signals and read into the information processing unit 120 via the antenna 117 and the communication circuit 121. preferred. If the unmanned aerial vehicle 1 has another suitable interface, it may be read into the information processing unit 120 of the unmanned aerial vehicle 1 via that interface.
  • the flight plan route generated in the flight plan route generation process and each initial imaging direction calculated are stored in the storage unit 707 of the imaging direction control system 7 of the unmanned aerial vehicle 1 via appropriate means such as communication or a USB memory. be done.
  • the information processing unit 120 performs autonomous flight control along the flight plan route. That is, the information processing unit 120 reads the flight plan route data from the information processing unit 120 and controls the unmanned aerial vehicle 1 to fly to the target position along the flight plan route determined thereby. Specifically, the flight direction and altitude of the unmanned aerial vehicle 1 are controlled so that the unmanned aerial vehicle 1 flies through the waypoints determined by the flight plan route data in that order.
  • the flight-planned route preferably includes target flight speed data, and the unmanned aerial vehicle 1 is controlled to fly along the flight-planned route at that flight speed.
  • the information processing unit 120 can receive a manual operation from the user and execute non-autonomous flight during flight. In this case, the flight-planned route is used for guidance, and for example, the unmanned aerial vehicle 1 can be returned to the flight-planned route when the manual operation ends.
  • the initial imaging direction setting unit 701 calculates the flight plan route generation process described above, and stores it in the storage unit 707. , the initial imaging direction associated with the waypoint P11 is read, and the gimbal 107 is controlled to point the first camera 108 in the read initial imaging direction (S201).
  • the operator In preparation for the case where the first blade 31-1 is out of the field of view of the first camera 108 when the first camera 108 is directed in the initial imaging direction or deviates greatly from the center, the operator The captured image may be monitored so that the imaging direction can be adjusted so that the first blade 31-1 is within the field of view of the first camera 108 or positioned more centrally in the field of view.
  • the operator instead of controlling the gimbal by the initial imaging direction setting unit 701, the operator can move the first blade 31-1 into the field of view of the first camera 108 while viewing the captured image, or
  • the imaging direction may be set by controlling the gimbal so as to be positioned at .
  • the object center equivalent point calculation unit 703 calculates the center point of the object area in the field of view of the first camera 108 during flight of the unmanned aerial vehicle 1 .
  • moving image data captured by the first camera 108 is acquired during the flight of the unmanned aerial vehicle 1, and the area of the blade 31 within the frame of the acquired moving image data is identified as an object area ( S203).
  • the first camera 108 may capture still images at arbitrary intervals and acquire still image data captured at the arbitrary intervals from the first camera 108 .
  • Identification of the region of the blade 31 can be done using, for example, semantic segmentation. Semantic segmentation recognizes which class each pixel on an image belongs to, and can be performed using a convolutional neural network such as U-Net or ResNet.
  • the convolutional neural network is made to learn images of blades in advance.
  • the first blade 31 and the hub 32 are shown in the frame 8, and the area identified as the first blade 31 by semantic segmentation is identified as the object area.
  • the object center equivalent point calculation unit 703 calculates the center point 83 of the identified region 81 of the blade 31 (S205). Also, instead of the center point of the identified region, a point corresponding to the center point may be used.
  • the imaging direction control unit 705 controls the gimbal 107 to cause the imaging direction of the first camera 108 to follow the blade 31 so that the calculated center point 83 is located in the central region 85 of the frame (S207). .
  • the gimbal pitch value and/or yaw Change the value by a specified amount.
  • the pitch value and/or the yaw value of the gimbal is changed by a predetermined amount in the direction in which the center point 83 enters the center area 85 of the frame.
  • the gimbal 107 is controlled to follow the imaging direction of the first camera 108 so that the calculated center point 83 is located in the center area 85 of the frame.
  • the traveling direction of the unmanned aerial vehicle 1 may be considered.
  • Steps S203 to S207 described above are limited to a mode in which the imaging direction of the first camera 108 is continuously repeated immediately after the blade 31 enters the field of view of the first camera 108 in step S201. It may be repeated intermittently. Further, steps S203 to S207 described above are performed continuously or intermittently after a predetermined time has passed since the imaging direction of the first camera 108 is set so that the blade 31 enters the field of view of the first camera 108 in step S201. may be repeated indefinitely.
  • the process returns to step S201 to read out the initial imaging direction associated with the waypoint P14 that is the first to enter the path to the second blade 31-2 to be imaged, stored in the storage unit 707. , controls the gimbal 107 to point the first camera 108 in the read initial imaging direction.
  • the unmanned aerial vehicle 1 corresponds to the waypoint P11. (S215), return to step S201, and control the imaging direction of the first camera 108 until the waypoint P21 is reached again in the same manner as in the forward route RF.
  • the object region in the frame is identified by identifying the region of the blade by semantic segmentation, but the method of identifying the object region is not limited to this, and any other appropriate method can be used. method can be used. Also, the identified object region is not limited to the region within the contour of the object as in semantic segmentation, but can be any other suitable region.
  • the region 81 of the blade 31 in the frame is identified by semantic segmentation, and the center point 83 of the identified region 81 of the blade 31 is used as the point corresponding to the center of the object region.
  • a background region eg, sky
  • a region other than the identified background region may be identified as an object region
  • the center point of the object region may be used.
  • the object area which is the area other than the background area
  • the center point of the entire area of the blades 31 and the hub 32 corresponds to the center of the object area. You may use it as a point.
  • the object area will include the hub in addition to the blades.
  • the size of the hub is small as shown in FIG. The larger, the greater the difference in location between the center point of the identified object region and the center point of the region of the blade. Therefore, when flying close to the hub on the flight plan route, the effect of the size of the hub may be reduced by zooming in on the first camera.
  • the blade when the blade is photographed for inspection by autonomous flight based on the flight plan route, even if the set flight plan route deviates from the intended flight plan route, the blade can be Imaging can be made possible.
  • the actual azimuth angle of the blades when the wind power generator is stopped deviates from the estimated angle, the deviation increases toward the tip of the blades. Therefore, even if the deviation of the azimuth angle is small in this case, since the blade is as long as several tens of meters, at the tip of the blade, the deviation between the estimated position, which is the basis for generating the flight plan path, and the actual position of the blade is large. Therefore, the present embodiment is effective in such a case.
  • the above embodiment was for imaging for inspection of the blades of the wind power generator, but it goes without saying that it can be applied to imaging for inspection of the nacelle and tower of the wind power generator.

Landscapes

  • Engineering & Computer Science (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)

Abstract

予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、点検のために風力発電装置のブレードを撮像するためのシステムであって、前記飛行計画経路は、少なくとも1つのブレードについて、ブレードから所定距離離れてブレードに沿った経路を含み、前記経路の所定の点において、前記撮像装置の撮像方向が前記撮像装置の視野に前記ブレードが入るようにされた後に、前記無人航空機の飛行中、前記撮像装置の視野にある物体領域の中心相当点が視野の中心領域に位置するように、前記可動支持部材を制御するシステム。

Description

無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体
 本発明は、無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体に関する。
 近時ドローンにより風力発電装置のブレードを撮像してブレードを点検することが提案されている(下記特許文献1、2参照)。
特開2019-73999号公報 特開2020-118141号公報
 このドローンによるブレードの点検は自律飛行により行われることが望まれているが、自律飛行によるブレードの点検を実現するためには、解決すべき課題がある。
 まず、ブレード点検に効果的、効率的な飛行計画経路をどのように作成すればよいかが問題となる。
 また、飛行計画経路に基づく自律飛行によりブレードを点検のために撮影する場合、飛行地点に対してカメラの撮像方向が予め設定されることとなるが、設定した飛行計画経路が、意図した飛行計画経路とずれていた場合、ブレードがカメラの視野から外れてしまう場合が起こりうる。
 そこで、本発明は、ブレード点検に効果的、効率的な飛行計画経路を作成するためのシステム及び方法を提供することを目的の1つとする。
 また、本発明は、飛行計画経路に基づく自律飛行によりブレードを点検のために撮影する場合において、設定した飛行計画経路が、意図した飛行計画経路とずれていたときであっても、ブレードを撮像可能とするためのシステム及び方法を提供することを目的の1つとする。
 本発明の1つの態様は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、点検のために風力発電装置のブレードを撮像するためのシステムであって、前記飛行計画経路は、少なくとも1つのブレードについて、ブレードから所定距離離れてブレードに沿った経路を含み、前記経路の所定の点において、前記撮像装置の撮像方向が前記撮像装置の視野に前記ブレードが入るようにされた後に、前記無人航空機の飛行中、前記撮像装置の視野にある物体領域の中心相当点が視野の中心領域に位置するように、前記可動支持部材を制御するシステムを提供するものである。
 前記飛行計画経路は、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路について、前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように選択された、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続したものであるものとすることができる。
 前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、前記飛行計画経路において、各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、前方経路が形成され、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、後方経路が形成され、前記前方経路又は前記後方経路上の1点が飛行開始点として設定され、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点が連結経路を介して接続され、前記飛行計画経路は、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点に戻るようされたものであるものとすることができる。
 前記物体領域は、ブレードとして判別された領域であるものとすることができる。
 前記ブレードとして判別された領域は、セマンティックセグメンテーションにより判別されたものであるものとすることができる。
 前記無人航空機の飛行中、前記無人航空機が前記風力発電装置のハブに近づいたときに前記撮像装置をズームアップするものとすることができる。
 本発明の1つの態様は、無人航空機の飛行計画経路生成システムであって、前記飛行計画経路は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、風力発電装置のブレードの点検のために撮像するための飛行計画経路であり、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定するブレード側方経路設定部と、 前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続する経路接続部とを備えるシステムを提供するものである。
 前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、前記経路接続部は、各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、前方経路を形成し、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、後方経路を形成し、前記前方経路又は前記後方経路上に設定された飛行開始点に対して、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点を連結経路を介して接続し、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する点に戻るように前記無人航空機の前記飛行計画経路上での飛行順を設定する飛行順設定部を更に備えるものとすることができる。
 本発明の1つの態様は、前記システムを搭載した無人航空機を提供するものである。
 本発明の1つの態様は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、点検のために風力発電装置のブレードを撮像する方法であって、前記飛行計画経路は、少なくとも1つのブレードについて、ブレードから所定距離離れてブレードに沿った経路を含み、前記経路の所定の点において、前記撮像装置の撮像方向が前記撮像装置の視野に前記ブレードが入るようにされた後に、前記無人航空機の飛行中、前記撮像装置の視野にある物体領域の中心相当点が視野の中心領域に位置するように、前記可動支持部材を制御する方法を提供するものである。
 前記飛行計画経路は、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路について、前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように選択された、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続したものであるものとすることができる。
 前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、前記飛行計画経路において、各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、前方経路が形成され、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、後方経路が形成され、前記前方経路又は前記後方経路上の1点が飛行開始点として設定され、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点が連結経路を介して接続され、前記飛行計画経路は、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点に戻るようされたものであるものとすることができる。
 前記物体領域は、ブレードとして判別された領域であるものとすることができる。
 前記ブレードとして判別された領域は、セマンティックセグメンテーションにより判別されたものであるものとすることができる。
 前記無人航空機の飛行中、前記無人航空機が前記風力発電装置のハブに近づいたときに前記撮像装置をズームアップするものとすることができる。
 本発明の1つの態様は、コンピュータにより実行される、無人航空機の飛行計画経路の生成方法であって、前記飛行計画経路は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材(ジンバル)に支持された撮像装置を備えた無人航空機を用いて、風力発電装置のブレードの点検のために撮像するための飛行計画経路であり、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定することと、前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続することとを含む方法を提供するものである。
 前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、前記連結経路を介して及び/又は前記連結経路を介さずに接続することは、各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、前方経路を形成し、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、後方経路を形成することと、前記前方経路又は前記後方経路上に設定された飛行開始点に対して、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点を連結経路を介して接続することとを含み、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する点に戻るように前記飛行計画経路を生成するものとすることができる。
 本発明の1つの態様は、前記方法をコンピュータに実行させるためのプログラムを提供するものである。
 本発明の1つの態様は、前記プログラムを記録したコンピュータ読み取り可能な記録媒体を提供するものである。
 本明細書及び特許請求の範囲において、「ブレードの後方側」、「ブレードの前方側」とは、ブレードが属する風力発電装置のロータ軸の方向において、ブレードよりもナセル側(図8における+X方向側)、その反対側(図8における-X方向側)をそれぞれ意味する。
 上記構成による本発明によれば、ブレード点検に効果的、効率的な飛行計画経路を作成するためのシステム及び方法を提供することができる。
 また、上記構成による本発明によれば、飛行計画経路に基づく自律飛行によりブレードを点検のために撮影する場合において、設定した飛行計画経路が、意図した飛行計画経路とずれていたときであっても、ブレードを撮像可能とするためのシステム及び方法を提供することができる。
本発明の1つの実施形態に係る無人航空機の外観図である。 本発明の1つの実施形態に係る無人航空機の全体構成を示す図である。 本発明の1つの実施形態に係る風力発電装置の側面図である。 本発明の1つの実施形態に係る飛行計画経路生成システムの機能構成を示す図である。 本発明の1つの実施形態に係る飛行計画経路生成システムのハードウエア構成を示す図である。 本発明の1つの実施形態に係る撮像方向制御システムの機能構成を示す図である。 本発明の1つの実施形態に係る飛行計画経路生成システムの飛行計画経路処理の例のフローチャートである。 飛行計画経路の一例を示す図である。 本発明の1つの実施形態に係る撮像方向制御システムの撮像方向制御処理の例のフローチャートである。 本発明の1つの実施形態に係る撮像方向制御システムの撮像方向制御処理の例のフローチャートである。 撮像した動画像データのフレームの一例を示す図である。
 以下、本発明の実施形態について図面を参照して説明する。ただし、本発明は以下に説明する具体的態様に限定されるわけではなく、本発明の技術思想の範囲内で種々の態様を取り得る。例えば、本発明の無人航空機は、図1に示すマルチコプタに限らず、回転翼機、固定翼機等、任意の無人航空機であってもよい。また、無人航空機1のシステム構成も、図に示されるものに限らず同様の動作が可能であれば任意の構成を取ることができる。例えば通信回路の機能を飛行制御部に統合する等、複数の構成要素が実行する動作を単独の構成要素により実行してもよいし、あるいは主演算部の機能を複数の演算部に分散する等、単独の構成要素が実行する動作を複数の構成要素により実行してもよい。また、無人航空機1のメモリ内に記憶される各種データは、それとは別の場所に記憶されていてもよいし、各種メモリに記録される情報も、1種類の情報を複数の種類に分散して記憶してもよいし、複数の種類の情報を1種類にまとめて記憶してもよい。
 図1は、本実施形態に係る無人航空機(マルチコプタ)1の一例であるマルチコプタの外観図である。無人航空機1は、外観に関しては、制御ユニット101と、制御ユニット101からの制御信号により駆動される6つのモータ102と、各々のモータ102の駆動により回転して揚力を発生させる6つのロータ(回転翼)103と、制御ユニット101と各々のモータ102とを接続する6つのアーム104と、着陸時に無人航空機を支える着陸脚105とを備える。モータ102、ロータ103、及びアーム104の数は、それぞれ、3、4などのような3以上の数とすることもできる。制御ユニット101からの制御信号により6つのモータ102が回転させられ、それにより6つのロータ103の各々の回転数を制御することにより、上昇、下降、前後左右への飛行、旋回等、無人航空機1の飛行が制御される。また、制御ユニット101の下方にはVSLAM処理ユニット124が取り付けられている。VSLAM処理ユニット124の下方には、VSLAM処理ユニット124の下部に取り付けられた可動支持部材であるジンバル107を介して、高解像度で対象物を撮影するための第1のカメラ108が取り付けられている。また、VSLAM処理ユニット124の前方には、後述のVisual SLAM処理を行うための対象物の画像を撮影するための第2のカメラ109が取り付けられている。また、無人航空機1は、飛行位置センサ110、アンテナ117も有している。
 図2は、図1に示す無人航空機1の全体構成を示す図である。無人航空機1は、大きく、制御ユニット101、制御ユニット101に電気的に接続されたモータ102、モータ102に機械的に接続されたロータ103、ジンバル107、第1のカメラ108、第2のカメラ109、飛行位置センサ110、姿勢センサ111、方位センサ112、高度センサ113、距離センサ115、アンテナ117から構成される。
 制御ユニット101は、無人航空機1の飛行制御を行うための情報処理や、そのための電気信号の制御を行うための構成であり、典型的には基板上に各種の電子部品を配置して配線することによってそのような機能の実現に必要な回路を構成したユニットである。制御ユニット101は、さらに、情報処理ユニット120、通信回路121、制御信号生成部122、スピードコントローラ123、インターフェイス125から構成される。
 情報処理ユニット120は、CPU120a、RAM120b、ROM120c、外部メモリ120dを含む。RAM120b、ROM120c、外部メモリ120d、通信回路121、制御信号生成部122、インターフェイス125は、システムバス120hを介して、CPU120aに接続されている。
 制御ユニット101は、本発明の1つの実施形態に係る撮像方向制御システムの一例となるもので、後述の図6に示される撮像方向制御システム7の各部は、ROM120cや外部メモリ120dに記憶された各種プログラムが、CPU120a、RAM120b、ROM120c、外部メモリ120d、通信回路121、制御信号生成部122、スピードコントローラ123、インターフェイス125等を資源として使用することで実現される。
 制御ユニット101は、操作者からの操縦信号(非自律飛行時)や飛行計画経路データ(自律飛行時)などに基づいて無人航空機1の飛行を適切に制御する。具体的には、飛行制御用の各種センサやVSLAM処理ユニット124から得られる情報により無人航空機1の姿勢、速度等を判断し、飛行位置センサ107から得られる情報により無人航空機1の現在の飛行位置などを判断し、操縦信号、飛行計画経路、速度制限、高度制限等の目標値と比較することにより情報処理ユニット120で各ロータ103に対する制御指令値を演算し、制御指令値を示すデータを制御信号生成部122に出力する。制御信号生成部122は、その制御指令値を電圧を表わすパルス信号に変換して各スピードコントローラ123に送信する。各スピードコントローラ123は、そのパルス信号を駆動電圧へと変換して各モータ102に印加し、これにより各モータ102の駆動を制御して各ロータ103の回転数を制御することにより無人航空機1の飛行が制御される。また、制御ユニット101は、第1のカメラ108、第2のカメラ109を制御することができ、また、後述のジンバル107を、ヨー軸、ピッチ軸、及びロール軸のうちの少なくとも1つの軸の周りに回転させることにより第1のカメラ108の撮像方向を制御することができる。
 ここで、飛行計画経路データは、無人航空機1の三次元(緯度、経度、高度)の飛行計画経路を表すデータであり、典型的には、飛行計画経路上に存在する一連の複数のウェイポイントの集合のデータである。飛行計画経路は、典型的には、それらの複数のウェイポイントを順番に結んだ直線の集合であるが、ウェイポイントの所定範囲内においては所定の曲率の曲線とすることもできる。好適には、飛行計画経路の特定のウェイポイントの近傍に目標位置が存在すると良い。そのウェイポイントには、それを通過後に目標位置に向かう旨の情報が付加される。そのウェイポイントは、飛行計画経路の終点(折り返し点)とすることもできる。なお、あるウェイポイントを目標位置とすることもできる。この場合、そのウェイポイントのデータには、それが目標位置である旨の情報が付加される。飛行計画経路データは、複数のウェイポイントにおける飛行速度を定めるデータを含んでいてもよい。飛行計画経路データは、典型的には自律飛行において飛行計画経路を定めるために使用されるが、非自律飛行において飛行時のガイド用として使用することもできる。飛行計画経路データは、典型的には、飛行前に無人航空機1に入力されて記憶される。
 第1のカメラ108は、高解像度で対象物を撮像するためのカメラである。第1のカメラ108は、第1のカメラ108を回転可能に支持する可動支持部材であるジンバル107を介してVSLAM処理ユニット124に取り付けられていて、これにより撮像方向を変えることができるようになっている。第1のカメラ108は、無人航空機1の飛行中、それの撮影範囲の画像のデータを取得し、取得された画像は、後述の記憶部707に記憶される。画像は、典型的には一連の静止画像であるフレームからなる動画の画像である。画像は、任意の間隔で撮像した静止画像であってもよい。
 ジンバル107は、ヨー軸、ピッチ軸、及びロール軸の周りに第1のカメラ108を回転可能に支持することができる。ジンバル107により、ヨー軸、ピッチ軸、及びロール軸のうちの少なくとも1つの軸の周りに第1のカメラ108を回転させることで、第1のカメラ108の撮像方向を変えることができる。
 第2のカメラ109は、後述のVisual SLAM処理を行うための対象物の画像を撮影するためのカメラであり、機体の前方を向くように取り付けられている。Visual SLAM処理の負荷を低減するために、低解像度での撮像を行う第2のカメラ109が、第1のカメラ108とは別個に設けられている。第2のカメラ109は、無人航空機1の飛行中、それの撮影範囲の画像のデータを取得し、取得された画像は、情報処理ユニット120や後述のVSLAM処理ユニット124に記憶される。画像は、典型的には一連の静止画像であるフレームからなる動画の画像である。画像は、任意の間隔で撮像した静止画像であってもよい。
 飛行位置センサ110は、GPS(Global Positioning System)センサのような無人航空機1の飛行位置の座標を感知するナビゲーションのためのセンサである。飛行位置センサ110は、好適には、三次元的な座標を感知する。飛行位置センサ110は、主として、GPS信号が良好に受信可能な環境下で、無人航空機1が飛行計画経路に沿って飛行する時の位置を制御するために使用される。
 姿勢センサ111は、例えば6軸ジャイロ(加速度/角速度センサ)のような、無人航空機1の移動と傾きなどを検出するためのセンサであり、無人航空機1の飛行時の姿勢を制御するために使用される。
 方位センサ112は、例えば磁気センサのような、飛行方向を制御するためのセンサである。
 高度センサ113は、例えば気圧センサのような、無人航空機1の高度を検出するセンサであり、無人航空機1の飛行高度を制御するために使用される。
 無人航空機1は、超音波センサのような距離センサを備えていてもよい。距離センサ115は、例えば超音波センサのような、障害物や地面との間の距離を測定し、障害物との衝突を避けたり、対地高度を精密に測定するためのセンサである。
 アンテナ117は、無人航空機1を操縦したり制御するための情報や各種データを含む無線信号を受信したり、テレメトリ信号を含む無線信号を無人航空機1から送信するための空中線である。
 通信回路121は、アンテナ117を通じて受信した無線信号から、無人航空機1のための操縦信号、制御信号や各種データなどを復調して情報処理ユニット120に入力したり、無人航空機1から出力されるテレメトリ信号などを搬送する無線信号を生成するための電子回路であり、典型的には無線信号処理ICである。なお、例えば、操縦信号の通信と、制御信号、各種データの通信とを別の周波数帯の異なる通信回路で実行するようにしてもよい。例えば、手動での操縦を行うためのコントローラ(プロポ)の送信器と950MHz帯の周波数で通信し、データ通信を2GHz帯/1.7GHz帯/1.5GHz帯/800MHz帯の周波数で通信するような構成を採ることも可能である。
 制御信号生成部122は、情報処理ユニット120によって演算により得られた制御指令値データを、電圧を表わすパルス信号(PWM信号など)に変換する構成であり、典型的には、発振回路とスイッチング回路を含むICである。スピードコントローラ123は、制御信号生成部122からのパルス信号を、モータ102を駆動する駆動電圧に変換する構成であり、典型的には、平滑回路とアナログ増幅器である。図示していないが、無人航空機1は、リチウムポリマーバッテリやリチウムイオンバッテリ等のバッテリデバイスや各要素への配電系を含む電源系を備えている。
 VSLAM処理ユニット124は、CPU124a、RAM124b、ROM124c、外部メモリ124d、インターフェイス124gを含む。RAM124b、ROM124c、外部メモリ124d、インターフェイス124eは、システムバス124fを介して、CPU124aに接続されている。VSLAM処理ユニット124は、GPUを備えていてもよい。
 Visual SLAMについては、MonoSLAMやPTAM(Parallel Tracking and Mapping等、さまざまなアルゴリズムが開発されている。VSLAM処理ユニット124がそのようなアルゴリズムを実装したプログラムを実行することにより、第2のカメラ109からの画像信号を用いてVisual SLAMによる自己位置推定とマップ作成を行い、これにより推定された自己位置(無人航空機1の周囲に存在する要素に対する無人航空機1の相対位置)や速度(位置の時間微分により求められる。)、姿勢(撮影した画像における複数の特徴点の配置から幾何学計算により求められる。)等、無人航空機1の状態を表す量を決定する。これらの量を示す信号は情報処理ユニット120へと出力され、そして情報処理ユニット120は、VSLAM処理ユニット124から入力される情報を利用する。またVSLAM処理ユニット124が推定したマップ情報も情報処理ユニット120へと出力され、記録装置に記録される。なお、第2のカメラ109としては単眼カメラではなく、ステレオカメラを用いてもよく、この場合も同様の原理でVisual SLAMによる自己位置等の推定が可能である。
 インターフェイス125は、情報処理ユニット120、飛行位置センサ110、姿勢センサ111、方位センサ112、高度センサ113、距離センサ115、ジンバル107、第1のカメラ108、第2のカメラ109などの機能要素との間で信号の送受信ができるように信号の形態を変換することにより、それらを電気的に接続する構成である。なお、説明の都合上、図面においてインターフェイスは1つの構成として記載しているが、接続対象の機能要素の種類によって別のインターフェイスを使用することが通常である。また、接続対象の機能要素が入出力する信号の種類によってはインターフェイス125が不要な場合もある。また、図2において、インターフェイス125が媒介せずに接続されている情報処理ユニット120であっても、接続対象の機能要素が入出力する信号の種類によってはインターフェイスが必要となる場合もある。
 図3は、本発明の1つの実施形態に係る風力発電装置の側面図である。風力発電装置3は、風を受けて回転する3枚のブレード31である第1のブレード31-1、第2のブレード31-2、及び第3のブレード31-3(以下、各ブレードの区別が必要のない場合は「ブレード31」と呼び、各ブレードの区別が必要な場合は、「第1のブレード31-1」、「第2のブレード31-2」、「第3のブレード31-3」と区別して呼ぶ)、並びにそれぞれのブレード31の基端を連結するハブ32を備えるロータ33と、ハブ32と連結された発電機34を収納するナセル35と、風力発電装置3の設置場所G(陸上又は水上に設けられたプラットフォーム)に設置され、ナセル35を回転可能に支持するタワー36とを備える。ブレード31の基端は、ハブ32によって、ロータ軸37に連結されている。また、ハブ32は、ロータ軸37を介して発電機34に連結され、ロータ33の回転がロータ軸37を介して発電機34に伝達されて発電が行われる。
 図3に示される風力発電装置3は、点検のために停止させられており、アジマス角が0°で停止している。本実施形態では、アジマス角は、ロータ33の回転角度位置を表すものであり、ブレード31がハブ32の鉛直方向真上に位置する場合を0°としている。
 なお、本実施形態においては、風力発電装置3の備えるブレードの数は3つであるが、ブレードの数は、任意の適切な数とすることができる。
 図4は、本発明の1つの実施形態に係る飛行計画経路生成システムの機能構成を示す図である。飛行計画経路生成システム5は、ブレード側方経路設定部501、経路接続部503、飛行順設定部505、初期撮像方向算出部507、送受信部509、表示部511、記憶部513を備える。
 飛行計画経路生成システム5としては、無人航空機1とは別体の、地上局のコンピュータ、PC、スマートフォン、タブレット端末等の任意の適切な装置、クラウド・コンピューティングシステム、又はそれらの組み合わせ等として構成することができる。また、無人航空機1の情報処理ユニット120を飛行計画経路生成システム5として機能させたり、情報処理ユニット120とは別個に飛行計画経路生成システム5を無人航空機1に搭載する等して、無人航空機1に備えられる構成としてもよい。飛行計画経路生成システム5又はその構成要素は、1つの物理的な装置として構成される必要はなく、複数の物理的な装置から構成されてもよい。
 ブレード側方経路設定部501は、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定する。
 経路接続部503は、少なくとも1つのブレードの第1の経路、第2の経路、第3の経路、及び第4の経路のすべてを無人航空機1が通過できるように、第1の経路、第2の経路、第3の経路、及び第4の経路のブレードの先端側の端部同士及び/又はブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続する。
 また、経路接続部503は、風力発電装置3が備えるすべてのブレードに対して、各ブレードに対する第1の経路と第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する第1の経路の一方のブレードの基端側の端部と隣り合うブレードのうちの他方のブレードに対する第2の経路の他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、前方経路を形成し、各ブレードに対する第3の経路と第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する第3の経路の一方のブレードの基端側の端部と隣り合うブレードのうちの他方のブレードに対する第4の経路の他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、後方経路を形成し、前方経路又は後方経路上に設定された飛行開始点に対して、飛行開始点と飛行開始点の後方又は前方に対応する後方経路又は後方経路上の点を連結経路を介して接続することができる。
 飛行順設定部505は、無人航空機1が、飛行開始点から出発し、前方経路又は後方経路を一周して飛行開始点に戻り、飛行開始点の後方又は前方に対応する後方経路又は前方経路上の点に進み、飛行開始点の後方又は前方に対応する後方経路又は前方経路上の点から後方経路又は前方経路を一周して飛行開始点の後方又は前方に対応する点に戻るように無人航空機の飛行計画経路上での飛行順を設定する。
 初期撮像方向算出部507は、無人航空機1が、撮像するブレード31に対する経路に初めて進入するウェイポイントにおいて、各ブレード31が第1のカメラ108の視野に入るようにするために撮像装置である第1のカメラ108が向くべき方向(初期撮像方向)を、記憶部513に記憶された風力発電装置3に関する仕様データ及び生成された飛行計画経路に基づいて算出し、各ウェイポイントと関連付けて記憶部513に記憶する。
 送受信部509は、各種データや各種プログラムの送受信を行う。
 表示部511は、飛行計画経路生成システム5による各種処理の結果を各種ディスプレイ上に表示する。
 記憶部513は、各種データや各種プログラムを記憶する。
 図5は、本発明の1つの実施形態に係る飛行計画経路生成システムのハードウエア構成を示す図である。飛行計画経路生成システム5は、CPU50a、RAM50b、ROM50c、外部メモリ50d、入力部50e、出力部50f、通信部50gを含む。RAM50b、ROM50c、外部メモリ50d、入力部50e、出力部50f、通信部50gは、システムバス50hを介して、CPU50aに接続されている。
 CPU50aは、システムバス50hに接続される各デバイスを統括的に制御する。
 ROM50cや外部メモリ50dには、CPU50aの制御プログラムであるBIOSやOS、コンピュータが実行する機能を実現するために必要な各種プログラムやデータ等が記憶されている。
 RAM50bは、CPUの主メモリや作業領域等として機能する。CPU50aは、処理の実行に際して必要なプログラム等をROM50cや外部メモリ50dからRAM50bにロードして、ロードしたプログラムを実行することで各種動作を実現する。
 外部メモリ50dは、例えば、フラッシュメモリ、ハードディスク、DVD-RAM、USBメモリ等から構成される。
 入力部50eは、ユーザ等からの操作指示等を受け付ける。入力部50eは、例えば、入力ボタン、キーボード、ポインティングデバイス、ワイヤレスリモコン、マイクロフォン、カメラ等の入力デバイスから構成される。
 出力部50fは、CPU50aで処理されるデータや、RAM50b、ROM50cや外部メモリ50dに記憶されるデータを出力する。出力部50fは、例えば、CRTディスプレイ、LCD、有機ELパネル、プリンタ、スピーカ等の出力デバイスから構成される。
 通信部50gは、ネットワークを介して又は直接、外部機器と接続・通信するためのインタフェースである。通信部50gは、例えばシリアルインタフェース、LANインタフェース等のインタフェースから構成される。
 図4に示される飛行計画経路生成システム5の各部は、ROMや外部メモリに記憶された各種プログラムが、CPU、RAM、ROM、外部メモリ、入力部、出力部、通信部等を資源として使用することで実現される。
 図6は、本発明の1つの実施形態に係る撮像方向制御システムの機能構成を示す図である。撮像方向制御システム7は、初期撮像方向設定部701、物体領域中心相当点算出部703、撮像方向制御部705、記憶部707を備える。
 初期撮像方向設定部701は、初期撮像方向算出部507によって算出され、記憶部707に記憶された、各ウェイポイントに関連付けられた初期撮像方向を読み出し、可動支持部材であるジンバル107を制御して、読み出した初期撮像方向に撮像装置である第1のカメラ108を向ける。
 物体領域中心相当点算出部703は、無人航空機1の飛行中に第1のカメラ108の視野にある物体領域の中心相当点である中心点83を算出する。
 撮像方向制御部705は、算出された中心相当点である中心点83がフレームの中心領域85に位置するように、可動支持部材であるジンバル107を制御して撮像装置である第1のカメラ108の撮像方向をブレード31に追従させる
 記憶部707は、各種データや各種プログラムを記憶する。
 以上のシステム構成を前提に、本発明の1つの実施形態に係る飛行計画経路生成システムの飛行計画経路生成処理と撮像方向制御システムの撮像方向制御処理の例を図1~10を参照して、以下に説明する。
<飛行計画経路生成処理>
 図7は、本発明の1つの実施形態に係る飛行計画経路生成システムの飛行計画経路処理の例のフローチャートである。図8は、飛行計画経路の一例を示す図である。
 記憶部513には、風力発電装置3に関する仕様データである、停止時のロータ33のアジマス角やナセル方位角、設置位置(緯度、経度)、タワー36の高さ、ブレード31の長さ等が記憶されている。
 飛行計画経路生成システム5は、記憶部513から風力発電装置3の仕様データを読み出し、読み出した仕様データに基づいて、飛行計画経路を生成する。
 具体的には、ブレード側方経路設定部501は、それぞれのブレード31について、ブレード31の軸Aを基準として、ブレード31の前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定する(S101)。ここで、図8を参照して、例えば、本実施形態においては、第1のブレード31-1に対する第1の経路R11は、第1のブレード31-1の基端側のウェイポイントP11と第1のブレード31-1の先端側のウェイポイントP12が直線で結ばれた経路であり、第1のブレード31-1に対する第2の経路R12は、第1のブレード31-1の先端側のウェイポイントP13と第1のブレード31-1の基端側のウェイポイントP14が直線で結ばれた経路である。第2のブレード31-2に対する第1の経路R21は、第1のブレード31-1に対する第1の経路の基端側のウェイポイントP14と第2のブレード31-2の先端側のウェイポイントP15が直線で結ばれた経路であり、第2のブレード31-2に対する第2の経路R22は、第2のブレード31-2の先端側のウェイポイントP16と第2のブレード31-2の基端側のウェイポイントP17が直線で結ばれた経路である。第3のブレード31-3に対する第1の経路R31は、第2のブレード31-2の基端側のウェイポイントP17と第3のブレード31-3の先端側のウェイポイントP18が直線で結ばれた経路であり、第3のブレード31-3に対する第2の経路R32は、第3のブレード31-3の先端側のウェイポイントP19と第1のブレード31-1の基端側のウェイポイントP11が直線で結ばれた経路である。また、第1のブレード31-1に対する第3の経路R13は、第1のブレード31-1の基端側のウェイポイントP21と第1のブレード31-1の先端側のウェイポイントP22が直線で結ばれた経路であり、第1のブレード31-1に対する第4の経路R14は、第1のブレード31-1の先端側のウェイポイントP23と第1のブレード31-1の基端側のウェイポイントP24が直線で結ばれた経路である。第2のブレード31-2に対する第3の経路R23は、第1のブレード31-1に対する第3の経路の基端側のウェイポイントP24と第2のブレード31-2の先端側のウェイポイントP25が直線で結ばれた経路であり、第2のブレード31-2に対する第4の経路R24は、第2のブレード31-2の先端側のウェイポイントP26と第2のブレード31-2の基端側のウェイポイントP27が直線で結ばれた経路である。第3のブレード31-3に対する第3の経路R33は、第2のブレード31-2の基端側のウェイポイントP27と第3のブレード31-3の先端側のウェイポイントP28が直線で結ばれた経路であり、第3のブレード31-3に対する第4の経路R34は、第3のブレード31-3の先端側のウェイポイントP29と第1のブレード31-1の基端側のウェイポイントP21が直線で結ばれた経路である。
 続いて、経路接続部503は、各ブレードに対する第1の経路と第2の経路の各々の各ブレードの先端側のウェイポイント同士を連結経路RCを介して接続し、前方経路RFを形成する。同様に、経路接続部503は、各ブレードに対する第3の経路と第4の経路の各々の各ブレードの先端側のウェイポイント同士を連結経路RCを介して接続し、後方経路RBを形成する(S103)。
 ユーザにより、前方経路RF又は後方経路RB上の1点が飛行開始点として指定されると、経路接続部503は、その飛行開始点と飛行開始点の後方又は前方に対応する後方経路RB上又は前方経路RF上の点を連結経路RCを介して接続する(S105)。具体的には、例えば、ユーザにより、上記のウェイポイントP11が飛行開始点として指定されると、経路接続部503は、ウェイポイントP11と、ウェイポイントP11に対応する後方経路RB上のウェイポイントP21を連結経路RCを介して接続する。
 飛行順設定部505は、飛行計画経路において、飛行開始点であるウェイポイントP11から出発して、前方経路RF上をウェイポイントP12、P13、P14、P15、P16、P17、P18、P19、P11の順に前方経路を一周して、飛行開始点であるウェイポイントP11に戻ってくると、後方経路RBへ進み、つまり、飛行終了点となるウェイポイントP21に進み、ウェイポイントP21から後方経路RB上をウェイポイントP22、P23、P24、P25、P26、P27、P28、P29、P21の順に後方経路を一周して、飛行終了点であるウェイポイントP21に戻るように無人航空機1の飛行計画経路上での飛行順を設定する(S107)。なお、本実施形態においては、第1のブレードに対する第1の経路の第1のブレードの基端側のウェイポイントを飛行開始点に設定したが、飛行開始点は、他の任意の適切な点とすることができる。
 初期撮像方向算出部507は、無人航空機1が、前方経路RFと後方経路RBのそれぞれにおいて撮像するブレードに対する経路に初めて進入するウェイポイント(本実施形態においては、各ブレードに対する第1の経路、第3の経路に初めて進入するウェイポイントであるウェイポイントP11、P14、P17、P21、P24、P27)において、各ブレード31が第1のカメラ108の視野に入るようにするために第1のカメラ108が向くべき方向(初期撮像方向)を、記憶部513に記憶された風力発電装置3に関する仕様データ及び生成された飛行計画経路に基づいて算出し、各ウェイポイントと関連付けて記憶部513に記憶する(S109)。
 本実施形態においては、隣り合うブレードのうちの一方のブレードに対する第1の経路の一方のブレードの基端側の端部と、隣り合うブレードのうちの他方のブレードに対する第2の経路の他方のブレードの基端側の端部とを一致するものとし、且つ、隣り合うブレードのうちの一方のブレードに対する第3の経路の一方のブレードの基端側の端部と、隣り合うブレードのうちの他方のブレードに対する第4の経路の他方のブレードの基端側の端部とを一致するものとした。しかしながら、隣り合うブレードのうちの一方のブレードに対する第1の経路の一方のブレードの基端側の端部と、隣り合うブレードのうちの他方のブレードに対する第2の経路の他方のブレードの基端側の端部とが一致するものではなくてもよく、その場合、それらを連結経路を介して接続してもよい。また、隣り合うブレードのうちの一方のブレードに対する第3の経路の一方のブレードの基端側の端部と、隣り合うブレードのうちの他方のブレードに対する第4の経路の他方のブレードの基端側の端部とが一致するものではなくてもよく、その場合、それらを連結経路を介して接続してもよい。
 また、本実施形態においては、風力発電装置の備えるすべてのブレードについて、第1の経路、第2の経路、第3の経路、及び第4の経路を設定し、それらのすべての経路を無人航空機が通過できるように、連結経路を介して接続して飛行計画経路を生成したが、風力発電装置の備えるすべてのブレードについてではなく、少なくとも1つのブレードの各々について、第1の経路、第2の経路、第3の経路、及び第4の経路を設定し、その少なくとも1つのブレードの第1の経路、第2の経路、第3の経路、及び第4の経路のすべてを無人航空機が通過できるように、第1の経路、第2の経路、第3の経路、及び第4の経路のブレードの先端側の端部同士及び/又はブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続して飛行計画経路を生成してもよい。
 また、本実施形態においては、第1の経路、第2の経路、第3の経路、及び第4の経路の設定、連結経路による経路の接続、飛行順の設定の順で飛行計画経路を生成したが、飛行計画経路の生成は、この順序による生成に限定されるものではなく、順序は任意に変更することができるし、それらのいくつかを同時に行ってもよい。例えば、記憶部から読み出した風力発電装置の仕様データに基づいて、飛行順に各ウェイポイントの位置を算出して各ウェイポイントを設定し、それらのウェイポイントを接続することによって飛行計画経路を生成してもよい。また、ウェイポイントの設定はユーザの入力に基づいて行われてもよい。
 また、本実施形態においては、第1の経路、第2の経路、第3の経路、及び第4の経路をブレードの軸を基準としてブレードに沿って延びる経路としたが、ブレードの軸を基準とするものに限定されるものではなく、例えばブレードの縁に沿った経路等の他の任意の適切な経路とすることができる。
 上記実施形態においては、1つのブレードに対して、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路という4つの側方経路により撮像のための飛行計画経路が構成されている。このような構成により、以下の利点がある。まず、このような側方経路を飛行するため、ブレードの真上を飛行しないので、無人航空機が万一墜落した場合にブレードに衝突してブレードを損傷させることを防止することができる。次に、側方経路が2つであると、死角が生じてしまうが、本実施形態では、側方経路が4つであるので、死角が生ぜず、ブレードの全方位からの画像を得ることができる。したがって、本実施形態によれば、飛行計画経路に基づく自律飛行により風力発電装置のブレードを点検のために撮影するために効果的、効率的な飛行計画経路を作成することができる。
<撮像方向制御処理>
 図9A、図9Bは、本発明の1つの実施形態に係る撮像方向制御システムの撮像方向制御処理の例のフローチャートである。図10は、撮像した動画像データのフレームの一例を示す図である。
 無人航空機1の飛行前の事前準備として、適切な飛行計画経路を作成し、飛行計画経路上に存在する一連の複数のウェイポイントの集合を飛行計画経路データとして情報処理ユニット120に記憶させておく。飛行計画経路データは、それぞれのウェイポイントにおける高度あるいは対地高度の情報を含むこともできる。無人航空機1の飛行計画経路データを情報処理ユニット120に記憶させる際には、それらを無線信号で無人航空機1に送信し、アンテナ117及び通信回路121を経由して情報処理ユニット120に読み込ませると好適である。無人航空機1が他の適当なインターフェイスを有している場合、そのインターフェイスを経由して無人航空機1の情報処理ユニット120に読み込ませてもよい。上述の飛行計画経路生成処理で生成された飛行計画経路や算出された各初期撮像方向は、通信又はUSBメモリ等適切な手段を介して無人航空機1の撮像方向制御システム7の記憶部707に記憶される。
 飛行前の事前準備が完了すると、情報処理ユニット120により飛行計画経路に沿った自律飛行制御が行われる。すなわち、情報処理ユニット120は、情報処理ユニット120から飛行計画経路データを読み出し、それによって定められる飛行計画経路に沿って目標位置に飛行するように無人航空機1を制御する。具体的には、飛行計画経路データで定められるウェイポイントをその順番に経由して飛行するように無人航空機1の飛行方向及び高度を制御する。飛行計画経路は好適には目標となる飛行速度のデータを含んでおり、無人航空機1は、その飛行速度で飛行計画経路に沿って飛行するように制御される。なお、情報処理ユニット120は、飛行時に、ユーザからの手動の操作を受け付けて非自律飛行を実行させることができる。この場合、飛行計画経路はガイド用として使用することになり、例えば、手動の操作が終了したときに無人航空機1を飛行計画経路上に復帰させることなどができる。
 自律飛行又は操作者による操縦によって無人航空機1が飛行開始点であるウェイポイントP11に到達すると、初期撮像方向設定部701は、上述の飛行計画経路生成処理によって算出され、記憶部707に記憶された、ウェイポイントP11に関連付けられた初期撮像方向を読み出し、ジンバル107を制御して、読み出した初期撮像方向に第1のカメラ108を向ける(S201)。このとき、初期撮像方向に第1のカメラ108を向けた場合に第1のブレード31-1が第1のカメラ108の視野から外れたり、中心から大きくずれたりしたときに備えて、操作者が撮像画像をモニタして、第1のブレード31-1が第1のカメラ108の視野に入るように、又は視野のより中心に位置するように撮像方向を調整できるようにしてもよい。また、初期撮像方向設定部701によりジンバルを制御するのではなく、操作者が撮像画像を見ながら第1のブレード31-1が第1のカメラ108の視野に入るように、又は視野の中心部に位置するようにジンバルを制御して撮像方向を設定してもよい。
 物体中心相当点算出部703は、無人航空機1の飛行中に第1のカメラ108の視野にある物体領域の中心点を算出する。具体的には、無人航空機1の飛行中に第1のカメラ108が撮像している動画像データを取得し、取得された動画像データのフレーム内のブレード31の領域を物体領域として識別する(S203)。第1のカメラ108は、任意の間隔で静止画像を撮像し、その任意の間隔で撮像された静止画像データを第1のカメラ108から取得してもよい。ブレード31の領域の識別は、例えば、セマンティックセグメンテーションを用いて行うことができる。セマンティックセグメンテーションは、画像上の各画素が、どのクラスの物体であるかを認識するものであり、U-NetやResNet等の畳み込みニューラルネットワークを用いて行うことができる。本実施形態においては、畳み込みニューラルネットワークにブレードの画像を予め学習させておく。図10に示す例では、フレーム8内に、第1のブレード31とハブ32が映っており、セマンティックセグメンテーションにより第1のブレード31と識別された領域を物体領域として識別する。
 次いで、物体中心相当点算出部703は、識別されたブレード31の領域81の中心点83を算出する(S205)。また、識別された領域の中心点ではなく、中心点に相当する点を用いてもよい。
 次いで、撮像方向制御部705は、算出された中心点83がフレームの中心領域85に位置するように、ジンバル107を制御して第1のカメラ108の撮像方向をブレード31に追従させる(S207)。具体的には、例えば、中心点83がフレームの中心領域85から外れていると判定された場合、中心点83がフレームの中心領域85に入る方向に、ジンバルのピッチの値及び/又はヨーの値を所定量変化させる。この中心点83の算出と、中心点83が中心領域85から外れた場合に中心点83がフレームの中心領域85に入る方向に、ジンバルのピッチの値及び/又はヨーの値を所定量変化させる処理をフレーム毎に繰り返すことにより、算出された中心点83がフレームの中心領域85に位置するように、ジンバル107を制御して第1のカメラ108の撮像方向を追従させる。このとき、無人航空機1の進行方向を考慮してもよい。
 上記のステップS203からS207は、ステップS201において、第1のカメラ108の撮像方向が、第1のカメラ108の視野にブレード31が入るようにされた直後から連続して繰り返される形態に限定されるものではなく、間欠的に繰り返されてもよい。また、上記のステップS203からS207は、ステップS201において、第1のカメラ108の撮像方向が、第1のカメラ108の視野にブレード31が入るようにされて所定の時間後から連続的に又間欠的に繰り返されてもよい。
 無人航空機1が、第1のブレード31-1を撮像するための前方経路RF上の終点であるウェイポイントP14に到達すると(S209-Yes)、撮像するブレードが第1のブレード31-1から第2のブレード31-2に変わるので、ステップS201に戻り、記憶部707に記憶された、撮像する第2のブレード31-2に対する経路に初めて進入するウェイポイントP14に関連付けられた初期撮像方向を読み出し、ジンバル107を制御して、読み出した初期撮像方向に第1のカメラ108を向ける。前方経路RFについてすべてのブレードについてブレードの撮像のための経路を飛行し終えた、すなわち、ウェイポイントP11に再び到達すると(S211-Yes、S213-Yes)、無人航空機1は、ウェイポイントP11に対応する後方経路RB上のウェイポイントP21に進み(S215)、ステップS201に戻り、前方経路RFにおけるのと同様にして、再びウェイポイントP21に到達するまで第1のカメラ108の撮像方向を制御する。
 上記実施形態においては、フレーム中の物体領域の識別を、セマンティックセグメンテーションによりブレードの領域を識別することにより行ったが、物体領域の識別手法はこれに限定されるものではなく、他の任意の適切な手法を用いることができる。また、識別される物体領域は、セマンティックセグメンテーションのように物体の輪郭内の領域に限定されるものではなく、他の任意の適切な領域とすることができる。
 また、上記実施形態では、物体領域の中心相当点として、セマンティックセグメンテーションによりフレーム中のブレード31の領域81を識別し、識別されたブレード31の領域81の中心点83を用いたが、簡易的に、フレーム中の背景領域(例えば、空)を識別して、識別された背景領域以外の領域を物体領域と識別して、その物体領域の中心点を用いてもよい。例えば、図10に示す例では、背景領域以外の領域である物体領域は、ブレード31とハブ32の全体の領域となり、このブレード31とハブ32の全体の領域の中心点を物体領域の中心相当点として用いてもよい。
 また、ハブに近い位置を飛行中に撮像されたフレームにおいて、上述のように背景領域以外の領域を物体領域と識別する場合、物体領域にはブレード以外にハブが含まれることとなる。このとき、図10に示されるようにハブの大きさが小さい場合は、識別された物体領域の中心点とブレードの領域の中心点との位置の違いはそれほど大きくないが、ハブの大きさが大きくなると、識別された物体領域の中心点とブレードの領域の中心点との位置の違いが大きくなる。そこで、飛行計画経路上でハブに近い位置を飛行している場合は、第1のカメラをズームアップすることによってハブの大きさの影響を低減させてもよい。
 本実施形態によれば、飛行計画経路に基づく自律飛行によりブレードを点検のために撮影する場合において、設定した飛行計画経路が、意図した飛行計画経路とずれていたときであっても、ブレードを撮像可能とすることができる。特に、風力発電装置の停止時のブレードの実際のアジマス角が、推定された角度からずれた場合、ブレードの先端部に向かってずれが大きくなる。よって、この場合アジマス角のずれがわずかでも、ブレードは数十mと長いので、ブレードの先端部においては、飛行計画経路の生成の基礎となるその推定位置とブレードの実際の位置のずれが大きくなってしまうこととなるので、本実施形態は、このような場合について効果的である。
 上記実施形態は、風力発電装置のブレードの点検のための撮像のためのものであったが、風力発電装置のナセルやタワーの点検のための撮像に適用できることはいうまでもない。
 以上、本発明について、例示のためにいくつかの実施形態に関して説明してきたが、本発明はこれに限定されるものでなく、本発明の範囲及び精神から逸脱することなく、形態及び詳細について、様々な変形及び修正を行うことができることは、当業者に明らかであろう。
1 無人航空機
101 制御ユニット
102 モータ
103 ロータ
104 アーム
105 着陸脚
106 台座
107 ジンバル
108 第1のカメラ
109 第2のカメラ
110 飛行位置センサ
111 姿勢センサ
112 方位センサ
113 高度センサ
115 距離センサ
117 アンテナ
120 情報処理ユニット
120a CPU
120b RAM
120c ROM
120d 外部メモリ
120h システムバス
121 通信回路
122 制御信号生成部
123 スピードコントローラ
124 VSLAMユニット
124a CPU
124b RAM
124c ROM
124d 外部メモリ
124e インターフェイス
124f システムバス
125 インターフェイス
3 風力発電装置
31 ブレード
31-1 第1のブレード
31-2 第2のブレード
31-3 第3のブレード
32 ハブ
33 ロータ
34 発電機
35 ナセル
36 タワー
37 ロータ軸
G 設置場所
5 飛行計画経路生成システム
50a CPU
50b RAM
50c ROM
50d 外部メモリ
50e 入力部
50f 出力部
50g 通信部
50h システムバス
501 ブレード側方経路設定部
503 経路接続部
505 飛行順設定部
507 初期撮像方向算出部
509 送受信部
511 表示部
513 記憶部
7 撮像方向制御システム
701 初期撮像方向設定部
703 物体領域中心相当点算出部
705 撮像方向制御部
707 記憶部
8 フレーム
81 識別されたブレードの領域
83 中心点
85 中心領域
RC 連結経路
RF 前方経路
RB 後方経路

Claims (19)

  1.  予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、点検のために風力発電装置のブレードを撮像するためのシステムであって、
     前記飛行計画経路は、少なくとも1つのブレードについて、ブレードから所定距離離れてブレードに沿った経路を含み、
     前記経路の所定の点において、前記撮像装置の撮像方向が前記撮像装置の視野に前記ブレードが入るようにされた後に、前記無人航空機の飛行中、前記撮像装置の視野にある物体領域の中心相当点が視野の中心領域に位置するように、前記可動支持部材を制御するシステム。
  2.  前記飛行計画経路は、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路について、前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように選択された、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続したものである請求項1に記載のシステム。
  3.  前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、
     前記飛行計画経路において、
      各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、前方経路が形成され、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、後方経路が形成され、
      前記前方経路又は前記後方経路上の1点が飛行開始点として設定され、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点が連結経路を介して接続され、
     前記飛行計画経路は、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点に戻るようされたものである請求項2に記載のシステム。
  4.  前記物体領域は、ブレードとして判別された領域である請求項1~3のいずれか1項に記載のシステム。
  5.  前記ブレードとして判別された領域は、セマンティックセグメンテーションにより判別されたものである請求項4に記載のシステム。
  6.  前記無人航空機の飛行中、前記無人航空機が前記風力発電装置のハブに近づいたときに前記撮像装置をズームアップする請求項1~5のいずれか1項に記載のシステム。
  7.  無人航空機の飛行計画経路生成システムであって、前記飛行計画経路は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、風力発電装置のブレードの点検のために撮像するための飛行計画経路であり、
     少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定するブレード側方経路設定部と、
     前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続する経路接続部と、
    を備えるシステム。
  8.  前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、
     前記経路接続部は、
      各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、前方経路を形成し、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、後方経路を形成し、
      前記前方経路又は前記後方経路上に設定された飛行開始点に対して、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点を連結経路を介して接続し、
     前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する点に戻るように前記無人航空機の前記飛行計画経路上での飛行順を設定する飛行順設定部を更に備える請求項7に記載のシステム。
  9.  請求項1~8のいずれか1項に記載のシステムを搭載した無人航空機。
  10.  予め設定された飛行計画経路に基づいて飛行する、可動支持部材に支持された撮像装置を備えた無人航空機を用いて、点検のために風力発電装置のブレードを撮像する方法であって、
     前記飛行計画経路は、少なくとも1つのブレードについて、ブレードから所定距離離れてブレードに沿った経路を含み、
     前記経路の所定の点において、前記撮像装置の撮像方向が前記撮像装置の視野に前記ブレードが入るようにされた後に、前記無人航空機の飛行中、前記撮像装置の視野にある物体領域の中心相当点が視野の中心領域に位置するように、前記可動支持部材を制御する方法。
  11.  前記飛行計画経路は、少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路について、前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように選択された、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続したものである請求項10に記載の方法。
  12.  前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、
     前記飛行計画経路において、
      各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、前方経路が形成され、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とを連結経路を介して及び/又は連結経路を介さずに接続することによって、後方経路が形成され、
      前記前方経路又は前記後方経路上の1点が飛行開始点として設定され、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点が連結経路を介して接続され、
     前記飛行計画経路は、前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点に戻るようされたものである請求項11に記載の方法。
  13.  前記物体領域は、ブレードとして判別された領域である請求項10~12のいずれか1項に記載の方法。
  14.  前記ブレードとして判別された領域は、セマンティックセグメンテーションにより判別されたものである請求項13に記載の方法。
  15.  前記無人航空機の飛行中、前記無人航空機が前記風力発電装置のハブに近づいたときに前記撮像装置をズームアップする請求項10~14のいずれか1項に記載の方法。
  16.  コンピュータにより実行される、無人航空機の飛行計画経路の生成方法であって、前記飛行計画経路は、予め設定された飛行計画経路に基づいて飛行する、可動支持部材(ジンバル)に支持された撮像装置を備えた無人航空機を用いて、風力発電装置のブレードの点検のために撮像するための飛行計画経路であり、
     少なくとも1つのブレードの各々について、ブレードの前方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第1の経路、ブレードの前方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第2の経路、ブレードの後方且つ反時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第3の経路、ブレードの後方且つ時計回り方向側にブレードから所定距離離れてブレードに沿って延びる第4の経路を設定することと、
     前記少なくとも1つのブレードの前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路のすべてを前記無人航空機が通過できるように、前記第1の経路、前記第2の経路、前記第3の経路、及び前記第4の経路の前記ブレードの先端側の端部同士及び/又は前記ブレードの基端側の端部同士を、連結経路を介して及び/又は連結経路を介さずに接続することと、
    を含む方法。
  17.  前記少なくとも1つのブレードは、前記風力発電装置が備えるすべてのブレードであり、
     前記連結経路を介して及び/又は前記連結経路を介さずに接続することは、
      各ブレードに対する前記第1の経路と前記第2の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第1の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第2の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、前方経路を形成し、各ブレードに対する前記第3の経路と前記第4の経路の各々の各ブレードの先端側の端部同士を連結経路を介して接続し、隣り合うブレードのうちの一方のブレードに対する前記第3の経路の前記一方のブレードの基端側の端部と前記隣り合うブレードのうちの他方のブレードに対する前記第4の経路の前記他方のブレードの基端側の端部とが一致しないときに、それらを連結経路を介して接続することによって、後方経路を形成することと、
      前記前方経路又は前記後方経路上に設定された飛行開始点に対して、前記飛行開始点と前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点を連結経路を介して接続することと、
    を含み、
     前記無人航空機が、前記飛行開始点から出発し、前記前方経路又は前記後方経路を一周して前記飛行開始点に戻り、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記後方経路上の点に進み、前記飛行開始点の後方又は前方に対応する前記後方経路又は前記前方経路上の点から前記後方経路又は前記前方経路を一周して前記飛行開始点の後方又は前方に対応する点に戻るように前記飛行計画経路を生成する請求項16に記載の方法。
  18.  請求項10~17に記載の方法をコンピュータに実行させるためのプログラム。
  19.  請求項18に記載のプログラムを記録したコンピュータ読み取り可能な記録媒体。
PCT/JP2021/037905 2021-10-13 2021-10-13 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体 WO2023062747A1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/037905 WO2023062747A1 (ja) 2021-10-13 2021-10-13 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/037905 WO2023062747A1 (ja) 2021-10-13 2021-10-13 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体

Publications (1)

Publication Number Publication Date
WO2023062747A1 true WO2023062747A1 (ja) 2023-04-20

Family

ID=85987340

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/037905 WO2023062747A1 (ja) 2021-10-13 2021-10-13 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体

Country Status (1)

Country Link
WO (1) WO2023062747A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160305406A1 (en) * 2013-12-02 2016-10-20 Hgz Patentvermarktungs Gmbh Method for optically detecting a wind turbine for testing purposes using an aircraft
US20180003161A1 (en) * 2016-06-30 2018-01-04 Unmanned Innovation, Inc. Unmanned aerial vehicle wind turbine inspection systems and methods
CN108915959A (zh) * 2018-06-27 2018-11-30 上海扩博智能技术有限公司 通过无人机对风机叶尖区域绕行检测方法及系统
EP3454157A1 (en) * 2017-09-08 2019-03-13 Sulzer & Schmid Laboratories AG Method and unmanned aerial vehicle for acquiring sensor data related to a wind turbine
WO2021079794A1 (ja) * 2019-10-25 2021-04-29 ソニー株式会社 情報処理装置、情報処理方法、プログラムおよび飛行体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20160305406A1 (en) * 2013-12-02 2016-10-20 Hgz Patentvermarktungs Gmbh Method for optically detecting a wind turbine for testing purposes using an aircraft
US20180003161A1 (en) * 2016-06-30 2018-01-04 Unmanned Innovation, Inc. Unmanned aerial vehicle wind turbine inspection systems and methods
EP3454157A1 (en) * 2017-09-08 2019-03-13 Sulzer & Schmid Laboratories AG Method and unmanned aerial vehicle for acquiring sensor data related to a wind turbine
CN108915959A (zh) * 2018-06-27 2018-11-30 上海扩博智能技术有限公司 通过无人机对风机叶尖区域绕行检测方法及系统
WO2021079794A1 (ja) * 2019-10-25 2021-04-29 ソニー株式会社 情報処理装置、情報処理方法、プログラムおよび飛行体

Similar Documents

Publication Publication Date Title
CN110062919B (zh) 递送车辆的放下地点规划
US10447912B2 (en) Systems, methods, and devices for setting camera parameters
EP3158417B1 (en) Sensor fusion using inertial and image sensors
EP3521158B1 (en) Flight control device, unmanned aerial vehicle, flight control method, and computer program
JP6671375B2 (ja) 無人機の飛行補助方法
CN110347171B (zh) 一种飞行器控制方法及飞行器
EP3158293B1 (en) Sensor fusion using inertial and image sensors
EP2724204B1 (en) Method for acquiring images from arbitrary perspectives with uavs equipped with fixed imagers
EP3158411B1 (en) Sensor fusion using inertial and image sensors
JP2019128944A (ja) 目標追跡方法、目標追跡装置、目標追跡システム及びプログラム。
CN111819422A (zh) 用于确定用于垂直起降(vtol)飞行器的飞行计划的方法和系统
KR101574601B1 (ko) 비전센서가 결합된 다중회전익 무인비행체 및 다중회전익 무인비행체의 자율비행 제어방법, 그 방법을 수행하기 위한 프로그램이 기록된 기록매체
CN110733624A (zh) 无人驾驶飞行系统和用于无人驾驶飞行系统的控制系统
CN107624171A (zh) 无人机及控制无人机姿态的控制方法、控制装置
US11287261B2 (en) Method and apparatus for controlling unmanned aerial vehicle
CN106240807B (zh) 一种集光电探测一体化的无人机
US11906639B2 (en) Low-light and no-light aerial navigation
CN109032184A (zh) 飞行器的飞行控制方法、装置、终端设备及飞行控制系统
CN111665870A (zh) 一种轨迹跟踪方法及无人机
CN206202675U (zh) 无人飞行器
WO2023062747A1 (ja) 無人航空機を用いて点検のために風力発電装置のブレードを撮像するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体
JP7352908B2 (ja) 無人航空機の推定位置を修正するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体
WO2024004155A1 (ja) 風力発電装置の位置を推定するためのシステム、サブシステム、方法、プログラム及びプログラムを記憶した記憶媒体
WO2023188378A1 (ja) 無人航空機を用いて風力発電装置のロータ方向・アジマス角を推定するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体
JP7016081B2 (ja) 無人航空機の飛行計画経路を修正するためのシステム、方法、プログラム及びプログラムを記憶した記憶媒体

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21960606

Country of ref document: EP

Kind code of ref document: A1