WO2023181555A1 - ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム - Google Patents

ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム Download PDF

Info

Publication number
WO2023181555A1
WO2023181555A1 PCT/JP2022/047529 JP2022047529W WO2023181555A1 WO 2023181555 A1 WO2023181555 A1 WO 2023181555A1 JP 2022047529 W JP2022047529 W JP 2022047529W WO 2023181555 A1 WO2023181555 A1 WO 2023181555A1
Authority
WO
WIPO (PCT)
Prior art keywords
uav
velocity
gas
downwash
speed
Prior art date
Application number
PCT/JP2022/047529
Other languages
English (en)
French (fr)
Inventor
信幸 神原
宜彬 荒川
正幸 乾
秀和 渋谷
浩平 川添
崇之 森竹
Original Assignee
三菱重工業株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 三菱重工業株式会社 filed Critical 三菱重工業株式会社
Publication of WO2023181555A1 publication Critical patent/WO2023181555A1/ja

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M3/00Investigating fluid-tightness of structures
    • G01M3/02Investigating fluid-tightness of structures by using fluid or vacuum
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Definitions

  • the present disclosure relates to a gas monitoring method, a gas monitoring device, a gas monitoring system, and a gas monitoring program.
  • Gas may be monitored or monitored based on image data captured by an imaging device such as a camera.
  • Patent Document 1 discloses a black smoke detection system using optical flow estimation.
  • This black smoke detection system uses two consecutive time-series images of black smoke emitted from a flare stack, and uses optical flow estimation calculated between the two images to determine whether black smoke is generated due to gas movement.
  • a local velocity vector within the image is determined.
  • those whose magnitude and direction are within a predetermined range are extracted as velocity vectors indicating the movement of black smoke.
  • At least one embodiment of the present invention provides a gas monitoring method, a gas monitoring device, and a gas monitoring device capable of appropriately monitoring a gas to be monitored using image data acquired by an imaging device mounted on a UAV.
  • the purpose is to provide monitoring systems and gas monitoring programs.
  • a gas monitoring method includes: acquiring a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV; obtaining a downwash velocity u of the UAV based on at least one variable indicative of a flight condition of the UAV; extracting a gas velocity vector having a magnitude within a range determined based on the downwash velocity u from the plurality of velocity vectors; Equipped with
  • a gas monitoring device includes: a velocity vector acquisition unit that acquires a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV; a downwash speed acquisition unit that acquires a downwash speed u of the UAV based on at least one variable indicating a flight state of the UAV; an extraction unit that extracts a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors; Equipped with.
  • the gas monitoring system includes: A UAV equipped with an imaging device, an optical flow estimation processing unit configured to perform optical flow estimation processing on a plurality of image data obtained by imaging at a plurality of times with the imaging device to calculate a plurality of velocity vectors; the above gas monitoring device configured to extract the gas velocity vector from the plurality of velocity vectors; Equipped with.
  • a gas monitoring program includes: to the computer, a procedure for obtaining a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV; obtaining a downwash velocity u of the UAV based on at least one variable indicative of a flight condition of the UAV; extracting a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors; Let it run.
  • a gas monitoring method, a gas monitoring device, a gas monitoring system, and a gas monitoring method are capable of appropriately monitoring a gas to be monitored using image data acquired by an imaging device mounted on a UAV. program will be provided.
  • FIG. 1 is a schematic diagram of a UAV that constitutes a gas monitoring system according to an embodiment.
  • FIG. 1 is a schematic diagram of a gas monitoring system according to one embodiment.
  • 1 is a flowchart of a gas monitoring method according to one embodiment. It is a figure showing an example of an image photographed with an imaging device. This is an example of an image in which a plurality of velocity vectors calculated by optical flow estimation are superimposed on an image photographed by an imaging device. It is a graph showing an example of the correlation between the flight height H and flight speed v of the UAV and the downwash speed of the UAV. It is a chart showing an example of the correlation between the flight height H and flight speed v of the UAV and the downwash speed of the UAV.
  • FIG. 3 is a diagram for explaining a procedure for obtaining a downwash speed of a UAV.
  • FIG. 3 is a diagram for explaining a procedure for acquiring a corrected downwash speed of a UAV. It is a graph showing an example of the correlation between height from the ground surface and wind speed. This is an example of an image in which the gas velocity vector VG extracted in the extraction step is superimposed on an image photographed by an imaging device. It is a graph for explaining the procedure for extracting the gas velocity vector VG.
  • 3 is a histogram showing an example of a frequency distribution of magnitudes of a plurality of velocity vectors. 3 is a histogram showing an example of a frequency distribution of directions of a plurality of velocity vectors.
  • FIG. 3 is a diagram for explaining reframe processing of image data.
  • FIG. 3 is a diagram for explaining reframe processing of image data.
  • FIG. 3 is a diagram for explaining reframe processing of image data.
  • FIG. 3 is a diagram for explaining re
  • FIG. 1 is a schematic diagram of a UAV comprising a gas monitoring system according to some embodiments
  • FIG. 2 is a schematic diagram of a gas monitoring system according to some embodiments.
  • Gas monitoring devices and gas monitoring systems capture images based on image data obtained by photographing a field with an imaging device (such as a camera) mounted on a UAV (unmanned aerial vehicle). These are devices and systems that can identify the gas area (area where the gas to be monitored is flowing) within the area. With this gas monitoring device/gas monitoring system, it is possible to detect and monitor a gas to be monitored in a field area to be photographed (for example, detecting a gas leak from a facility, monitoring gas outflow, etc.). Note that the type of gas to be monitored is not particularly limited. In the following, a case where carbon dioxide (CO 2 ) gas is to be monitored will be described as an example.
  • CO 2 carbon dioxide
  • a gas monitoring system 100 includes a UAV 10, an imaging device 20 mounted on the UAV 10, and measurement data and images acquired by the UAV 10 and/or the imaging device 20, etc. a gas monitoring device 50 for processing signals indicative of data.
  • the UAV 10 includes a UAV main body 12 and a plurality of propellers 14 (usually three or more propellers 14) attached to the UAV main body 12.
  • Each of the plurality of propellers 14 is configured to be rotationally driven by a motor.
  • the flight height, flight speed, flight direction, etc. of the UAV 10 can be controlled by adjusting the current value of each motor for driving the plurality of propellers 14.
  • a signal indicating the current value of each motor may be sent to the gas monitoring device 50 by wireless communication.
  • a downwash D (downward airflow) is generated by the plurality of propellers 14.
  • the downwash D heading downward from the UAV 10 collides with the ground surface G, is turned horizontally, and flows radially along the ground surface G from a position Pc directly below the UAV 10 on the ground surface.
  • the UAV 10 may be provided with an altimeter (not shown) for measuring the flight height H of the UAV 10 or a speedometer (not shown) for measuring the flight speed v of the UAV 10.
  • a signal indicating the flight height H of the UAV 10 acquired by the altimeter and/or a signal indicating the flight speed v of the UAV 10 acquired by the speedometer is sent to the gas monitoring device 50 by wireless communication. Good too.
  • the imaging device 20 is capable of continuously photographing the field below the UAV 10 in chronological order while the UAV 10 is in flight.
  • Image data representing an image captured by the imaging device 20 may be sent to the gas monitoring device 50 via wireless communication.
  • the imaging device 20 may be an infrared camera equipped with a filter that selectively transmits infrared rays of a wavelength (4.3 ⁇ m in the case of CO 2 gas) that is absorbed by the gas to be monitored. In this way, by using an infrared camera that performs imaging by selectively filtering specific wavelengths, only specific gases of the fluid (gas) in the imaging field are imaged as image data.
  • the gas monitoring device 50 is configured to process measurement data such as flight height H or flight speed v sent from the UAV 10 or image data sent from the imaging device 20.
  • the gas monitoring device 50 according to one embodiment includes an image acquisition section 52, a reframe processing section 54, an optical flow processing section 56, a velocity vector acquisition section 58, and a noise component removal section 60. , a flight state acquisition section 62 , a downwash speed acquisition section 64 , an extraction section 66 , and a display image generation section 68 .
  • the gas monitoring device 50 includes a computer equipped with a processor (CPU, GPU, etc.), a storage device (memory device; RAM, etc.), an auxiliary storage section, an interface, and the like.
  • the gas monitoring device 50 is configured to receive signals from the UAV 10 or the imaging device 20 via an interface.
  • the processor is configured to process the signals received in this manner. Additionally, the processor is configured to process a program loaded onto the storage device. Thereby, the functions of each of the above-mentioned functional units (image acquisition unit 52 to display image generation unit 68) are realized.
  • the processing content of the gas monitoring device 50 is implemented as a program executed by a processor.
  • the program may be stored in the auxiliary storage unit. When programs are executed, these programs are expanded to a storage device.
  • a processor reads a program from a storage device and executes instructions included in the program.
  • the image acquisition unit 52 is configured to acquire a plurality of image data obtained by capturing images at a plurality of times with the imaging device 20 mounted on the UAV 10.
  • the reframe processing unit 54 is configured to perform reframe processing on the plurality of image data acquired by the image acquisition unit 52, as necessary.
  • the optical flow processing unit 56 is configured to perform optical flow estimation processing on a plurality of image data acquired by the image acquisition unit 52 and subjected to reframe processing as necessary.
  • the velocity vector acquisition unit 58 is configured to acquire a plurality of velocity vectors calculated by optical flow processing in the optical flow processing unit 56.
  • the noise component removal unit 60 is configured to remove noise components from the plurality of velocity vectors acquired by the velocity vector acquisition unit 58, as necessary.
  • the flight state acquisition unit 62 is configured to acquire a measured value of at least one variable indicating the flight state of the UAV 10. In one embodiment, the flight state acquisition unit 62 is configured to obtain measured values of the flight height H of the UAV 10 and/or the flight speed v of the UAV 10 as variables indicating the flight state of the UAV 10.
  • the downwash speed acquisition unit 64 is configured to acquire the downwash speed u of the UAV 10 based on at least one variable indicating the flight state of the UAV 10.
  • This downwash speed u is the speed of the downwash flow in the direction along the ground surface G in the vicinity of the position Pc directly below the UAV 10 on the ground surface.
  • the extraction unit 66 is configured to extract a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors acquired by the velocity vector acquisition unit 58.
  • the display image generation unit 68 indicates information regarding the gas to be monitored (for example, information regarding the gas region where the gas exists, the distribution of the gas velocity vector, etc.) based on the gas velocity vector extracted by the extraction unit 66. It is configured to generate image data (image data for monitoring). The image data generated by the display image generation section 68 may be output to a display section 70 for displaying the image.
  • the gas monitoring device 50 may also include a storage unit 69 for storing the correlation between variables indicating the flight state of the UAV 10 and the downwash speed of the UAV 10, the correlation between the height from the ground surface and the wind speed, etc. good.
  • the storage unit 69 may include a storage device (memory device; RAM, etc.) or an auxiliary storage device of a computer that constitutes the gas monitoring device 50, or may include a storage device connected to the computer via a network. .
  • the flow of the gas monitoring method will be described below.
  • the gas monitoring device 50 described above is used to monitor CO 2 gas, which is the gas to be monitored.
  • CO 2 gas which is the gas to be monitored.
  • some or all of the procedures described below may be performed using other devices.
  • the monitoring may be performed manually or manually, and the gas to be monitored may be a gas other than CO 2 .
  • FIG. 3 is a flowchart of a gas monitoring method according to one embodiment.
  • the imaging device 20 mounted on the UAV 10 captures images at a plurality of times (S100).
  • the imaging device 20 may continuously photograph the field below the UAV 10 in chronological order while the UAV 10 is in flight.
  • FIG. 4 is a diagram showing an example of an image photographed by the imaging device 20.
  • the image I0 shown in FIG. 4 is a photograph of a field below the UAV 10 in flight, and shows the ground surface G and the CO 2 gas cylinders B1 and B2 installed on the ground surface G.
  • an infrared camera equipped with a filter that selectively transmits infrared rays having a wavelength (4.3 ⁇ m) that is absorbed by CO 2 gas to be monitored is used as the imaging device 20 .
  • the image acquisition unit 52 acquires data of a plurality of images (a plurality of image data) captured by the imaging device 20 in this manner.
  • the reframe processing unit 54 may perform reframe processing on the plurality of image data acquired by the image acquisition unit 52 in step S100, if necessary (S200). Since the optical flow estimation process can be performed in step S300 described later after removing noise due to the wobbling of the UAV 10 in advance by performing reframe processing, the accuracy of extracting the gas velocity vector in step S800 described later can be further improved. I can do it. Note that the reframe processing in step S200 will be described later.
  • the optical flow processing unit 56 performs optical flow estimation on the plurality of image data acquired by the image acquisition unit 52 in step S100 or on the plurality of image data subjected to reframe processing in step S200. Processing is performed (S300).
  • optical flow estimation two temporally continuous time-series image data are used to calculate a plurality of velocity vectors each representing the movement of a plurality of pixels in the image between the two image data.
  • the optical flow estimation process can be performed, for example, by the method described in Patent Document 1.
  • Image I 1 shown in FIG. 5 is an example of an image in which a plurality of velocity vectors calculated by optical flow estimation are superimposed on the image targeted for optical flow estimation processing in step S300 (photographed by an imaging device). It is.
  • the velocity vector acquisition unit 58 acquires the plurality of velocity vectors calculated in the optical flow estimation process in step S300 (S400).
  • the noise component removal unit 60 removes noise components from the plurality of velocity vectors obtained in step S400, as necessary (S500). Thereby, the accuracy of extracting the gas velocity vector in step S800, which will be described later, can be improved. Note that noise component removal in step S500 will be described later.
  • the flight state acquisition unit 62 acquires the measured value of at least one variable indicating the flight state of the UAV 10 (S600).
  • measured values of the flight height H of the UAV 10 and/or the flight speed v of the UAV 10 as variables indicating the flight state of the UAV 10 may be acquired.
  • the downwash speed acquisition unit 64 acquires the downwash speed u of the UAV 10 based on at least one variable indicating the flight state of the UAV 10 acquired in step S600 (S700).
  • the correlation between the above-mentioned at least one variable indicating the flight state of the UAV 10 and the downwash speed u of the UAV 10 may be obtained in advance and stored in the storage unit 69.
  • the downwash speed acquisition unit 64 based on the measured value related to at least one variable indicating the flight state of the UAV 10 acquired in step S600 and the above-mentioned correlation acquired from the storage unit 69, A downwash speed u corresponding to the measured value may be obtained.
  • At least one variable indicating the flight state of the UAV 10 described above may include the flight height H of the UAV 10 and the flight speed v of the UAV 10.
  • FIGS. 6 and 7 are examples of graphs or charts showing the correlation between the flight height H of the UAV 10, the flight speed v of the UAV 10, and the downwash speed u of the UAV 10, respectively.
  • the downwash velocity u may be obtained based on the correlation shown in FIG. That is, the flight height H of the UAV 10, the flight speed v of the UAV 10, and the downwash speed u of the UAV 10 have a predetermined correlation as shown in FIG. 6, for example. According to this correlation, at the same flight speed v, the higher the flight height, the higher the downwash speed u, and the higher the flight speed, the higher the downwash speed u (however, in Fig. 6, the flight speed v is v0 ⁇ v1 ⁇ v2). This correlation is obtained in advance through a test using the UAV 10 and stored in the storage unit 69.
  • the downwash speed acquisition unit 64 applies the measured values of the flight height H and flight speed v of the UAV 10 acquired in step S600 to the correlation acquired from the storage unit 69, thereby determining the downwash speed of the UAV 10. u can be obtained.
  • the downwash velocity u at position P1 may be obtained based on the correlation shown in FIG.
  • the position P1 is a position near the position Pc directly below the UAV 10. That is, as shown in FIG. 7, for example, the downwash speed u is determined by the flight height H of the UAV 10 and the flight speed v of the UAV 10, as well as the distance r from the position Pc directly below the UAV 10 on the ground surface to P1, and the position on the ground surface. It has a predetermined correlation with the angle ⁇ (see FIG. 8) of the position P1 from the reference direction when the center is Pc. This correlation is obtained in advance through a test using the UAV 10 and stored in the storage unit 69.
  • the downwash speed acquisition unit 64 acquires from the storage unit 69 the measured values of the flight height H and flight speed v of the UAV 10 acquired in step S600, and the measured values of the above-mentioned distance r and angle ⁇ .
  • the measured values of the distance r and the angle ⁇ described above may be input into the gas monitoring device 50 by the measurer via an input device (keyboard, mouse, touch panel, etc.).
  • FIG. 8 is a diagram for explaining the procedure for obtaining the downwash speed u, and shows the distance r from the position Pc directly below the UAV 10 on the ground surface to P1, and the distance r of the position P1 when the position Pcwo is centered on the ground surface. It is a figure which shows the angle (theta) from a reference direction.
  • a corrected downwash speed ug which is a downwash speed that takes into account the wind speed Wg at the ground surface G, may be obtained.
  • the corrected downwash speed ug may be calculated based on the downwash speed u determined as described above and the wind speed Wg at the ground surface.
  • the corrected downwash velocity ug (vector) can be obtained, for example, as a composite vector of the downwash velocity u (vector) obtained as described above and the wind speed Wg (vector) at the ground surface (see FIG. 9).
  • FIG. 9 is a diagram for explaining the procedure for acquiring the corrected downwash speed ug.
  • the wind speed Wg (vector) at the ground surface may be acquired based on the wind speed W1 (vector) at the flight height of the UAV 10 and the correlation between the height from the ground surface and the wind speed.
  • FIG. 10 is a graph showing an example of the correlation between the height from the ground surface and the wind speed.
  • the wind speed and the height from the ground surface have a correlation as shown in FIG. 10, for example, via the wind speed correction coefficient ⁇ . That is, in the example shown in FIG. 10, the wind speed correction coefficient ⁇ (however, the wind speed correction coefficient ⁇ at the ground surface is set to zero) is expressed as a linear function with respect to the flight height of the UAV 10.
  • the above-mentioned correlation between the height from the ground surface and the wind speed may be obtained in advance and stored in the storage unit 69.
  • the above correlation between height from the ground surface and wind speed is based on the fact that the wind direction above the ground surface (field) is the same as the wind direction at the flight height of UAV 10, and the rate of change in wind speed in the height direction is the same as above the ground surface (field).
  • the wind speed W at the flight height H of the UAV 10 may be obtained at a plurality of points at arbitrary points in the field on the assumption that the wind speed W is the same regardless of the location.
  • the wind speed W1 (vector) at the flight height of the UAV 10 may be obtained from the motor current value of the UAV 10 (the current value of the motor for rotationally driving the propeller 14).
  • the UAV 10 can maintain a constant flight speed by controlling the motor current value of each propeller 14 for a specified flight speed (and direction), and even if there is wind in the surroundings, each propeller 14 can The flight speed can be kept constant by controlling the motor load. Therefore, the wind speed (the magnitude of the wind speed W1 (vector)) and the wind direction (the direction of the wind speed W1 (vector)) can be specified from the motor current value of each propeller 14 of the UAV 10.
  • the wind speed W1 at the flight height of the UAV 10 may be obtained based on the measurement results of an anemometer (not shown) and a wind vane (not shown) provided on the UAV 10 that are configured to measure wind speed and wind direction. good. Note that a signal indicating the measurement results of the anemometer and the wind vane may be sent to the gas monitoring device 50.
  • the downwash speed acquisition unit 64 may acquire the motor current value of the UAV 10, and calculate the wind speed W1 (vector) at the flight height of the UAV 10 based on the motor current value.
  • the downwash speed acquisition unit 64 may acquire the measurement results of an anemometer and a wind vane provided in the UAV 10, and calculate the wind speed W1 (vector) at the flight height of the UAV 10 based on the measurement values.
  • the downwash speed acquisition unit 64 acquires the correlation between the height from the ground surface and the wind speed from the storage unit 69, and based on the correlation and the wind speed W1 at the flight height of the UAV 10 described above, The wind speed Wg may also be obtained.
  • the downwash speed acquisition unit 64 may acquire the corrected downwash speed ug based on the wind speed Wg at the ground surface acquired in this way and the above-mentioned downwash speed u.
  • the extraction unit 66 extracts the downwash velocity u (or corrected A gas velocity vector VG having a magnitude within a range determined based on the downwash velocity ug is extracted (S800).
  • the downwash speed u (or corrected downwash speed ug) obtained in step S700 is determined from the plurality of velocity vectors from which the noise component has been removed in step S500.
  • a gas velocity vector VG having a magnitude within a range determined based on is extracted.
  • the image I2 shown in FIG. 11 is an image in which the gas velocity vector VG extracted in step S800 is superimposed on the image targeted for the optical flow estimation process in step S300 (photographed by the imaging device). This is an example.
  • step S800 for example, among the plurality of velocity vectors obtained in step S400, the velocity vector at the position of the downwash velocity u (or corrected downwash velocity ug) obtained in step S700 is determined.
  • the magnitude is assumed to be equal to the velocity magnitude of the downwash velocity u (or corrected downwash velocity ug).
  • one having a velocity magnitude close to the downwash velocity u (or corrected downwash velocity ug) is extracted.
  • a gas velocity vector VG having a size within a range determined based on the corrected downwash velocity ug is extracted.
  • a velocity vector having a magnitude of is extracted as a gas velocity vector VG (see FIG. 12).
  • FIG. 12 is a graph for explaining the procedure for extracting the gas velocity vector VG.
  • the distribution of the extracted gas velocity vector VG and the gas region AG, which is the region where the extracted gas velocity vector VG exists, are shown.
  • the gas velocity vector VG is a vector indicating the flow of CO 2 gas ejected from the CO 2 gas cylinder.
  • the display image generation unit 68 Based on the gas velocity vector VG extracted in step S800, the display image generation unit 68 generates information regarding the gas to be monitored (for example, a gas region where the gas exists) based on the gas velocity vector extracted in the extraction unit 66. It is also possible to generate image data (image data for monitoring; for example, data of image I2 shown in FIG. 11, etc.) indicating information related to gas velocity vector distribution, gas velocity vector distribution, etc. The image data generated in this manner may be sent to the display section 70 and output (displayed) on the display section 70 (S900).
  • image data image data for monitoring; for example, data of image I2 shown in FIG. 11, etc.
  • the directions and relative magnitudes of a plurality of velocity vectors can be calculated, but the absolute magnitudes (absolute values of velocities) cannot be calculated. This is because the distance between the imaging device 20 mounted on the UAV 10 and the object to be photographed is not constant, and furthermore, the scale used as a reference for speed calculation does not necessarily exist in the image.
  • the downwash speed u of the UAV 10 can be obtained based on at least one variable (for example, flight height H or flight speed v) indicating the flight state of the UAV 10.
  • the downwash velocity is A velocity vector having a magnitude within the range determined based on u (or a magnitude within the range determined based on the corrected downwash velocity ug found from the downwash velocity u) is the moving velocity and direction of the gas to be monitored. It can be specified as a gas velocity vector VG (gas region) indicating . Using the gas velocity vector VG extracted in this way, the gas can be appropriately monitored.
  • the downwash speed u of the UAV 10 has a correlation with the flight height H and flight speed v of the UAV. Therefore, based on the flight height H of the UAV 10 and the flight speed v of the UVA, the downwash speed u of the UAV 10 can be appropriately obtained from the correlation therebetween.
  • the wind speed Wg is calculated based on the downwash speed u obtained based on the variables (flight height H and flight speed v) indicating the flight state of the UAV 10 and the wind speed Wg at the ground surface. Calculate the corrected downwash speed ug taking into consideration. Then, a gas velocity vector VG having a size within a range determined based on the corrected downwash velocity ug is extracted from the plurality of vectors obtained by optical flow estimation. Therefore, a gas velocity vector indicating the moving speed and direction of the gas to be monitored can be extracted more appropriately.
  • step S500 from the plurality of vectors obtained in step S400 (the plurality of vectors calculated in the optical flow estimation process in step S300), a frequency distribution of the magnitude of the plurality of velocity vectors, Alternatively, the velocity vector of the noise component may be removed based on the frequency distribution of the directions of the plurality of velocity vectors.
  • the velocity vector of the noise component tends to have a predetermined pattern in terms of magnitude or direction.
  • noise components can be removed from the plurality of velocity vectors based on the frequency distribution of the magnitude or direction of the plurality of velocity vectors obtained by optical flow estimation.
  • the gas velocity vector is extracted based on the downwash velocity u from the plurality of vectors from which noise components have been removed, so that the extraction accuracy of the gas velocity vector VG can be improved.
  • FIG. 13 is a histogram showing an example of the frequency distribution of the magnitudes of the plurality of velocity vectors obtained in step S400
  • FIG. 14 is a histogram showing the frequency distribution of the directions of the plurality of velocity vectors obtained in step S400. This is a histogram showing an example.
  • step S500 in the frequency distribution of the magnitudes of the plurality of velocity vectors (see FIG. 13), the frequency belongs to a range of magnitudes greater than or equal to the first threshold value (threshold value 1 in FIG. 13), and In the frequency distribution of the directions of velocity vectors (see FIG. 14), velocity vectors belonging to a range of directions whose frequency is less than or equal to the second threshold value (threshold value 2 in FIG. 14) are used as noise components for the plurality of velocities obtained in step S400. Remove from vector.
  • the velocity vectors of noise components may have a pattern in which they have approximately the same size and vary in direction.
  • vectors that belong to a relatively large frequency range in the size frequency distribution and relatively small frequency range in the orientation frequency distribution are subjected to noise. It can be properly removed as a component.
  • each histogram may be used as the above-mentioned first threshold value or second threshold value.
  • the velocity vectors whose frequency is larger than the threshold value (for example, the peak indicated by P1 in FIG. 13, and the vector included in both the peaks indicated by P2 in FIG. 14) is likely to be the velocity vector of the gas to be monitored.
  • FIGS. 15 to 17 are diagrams for explaining reframe processing of a plurality of image data.
  • Images I 11 to I 13 shown in FIGS. 15 to 17 are images taken in chronological order by the imaging device 20 mounted on the UAV 10.
  • the image data of each image taken in chronological order is adjusted so that the reference point P0 is located at a predetermined position (for example, the center position of frame F) within frame F (image display area).
  • the position of the image relative to frame F is adjusted by adjusting the aspect ratio (a:b) (ie, cropping the area of the image outside of frame F).
  • the positions of the CO 2 gas cylinders B1 and B2 are set as the reference point P 0 , and the aspect ratio of the images is set so that the reference point P 0 is located at the center of the frame for each of the images I 11 to I 13 .
  • the positions of the images are adjusted so that they become a1:b1, a2:b2, and a3:b3, respectively.
  • the UAV 10 moves (for example, wobbles) while shooting with the imaging device 20, the shooting positions of multiple pieces of image data that are continuously shot with the imaging device 20 mounted on the UAV 10 may shift.
  • the position of the object to be photographed included in the plurality of image data in the frame F can be fixed (so-called blur correction).
  • the reframe processing to remove noise due to the wobbling of the UAV 10 in advance and then performing the optical flow estimation processing in step S300, it is possible to further improve the extraction accuracy of the gas velocity vector in step S800. can.
  • a gas monitoring method includes: a step (S400) of acquiring a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device (20) mounted on the UAV (10); obtaining a downwash speed u of the UAV based on at least one variable indicating a flight state of the UAV (S700); an extraction step (S800) of extracting a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors; Equipped with
  • a plurality of velocity vectors obtained by optical flow estimation processing of time-series image data captured by an imaging device mounted on a UAV are a velocity vector of a gas to be detected (a gas velocity vector ), other velocity vectors (velocity vectors indicating the movement of objects other than the gas to be detected, noise, etc.) are also included.
  • the magnitude of each of the plurality of speed vectors is determined by the optical It cannot be calculated using flow estimation.
  • the downwash speed u of the UAV can be obtained based on at least one variable indicating the flight state of the UAV. Therefore, among the plurality of velocity vectors having unknown magnitudes obtained by optical flow estimation, the downwash velocity u is calculated based on the magnitude of the vector indicating the downwash velocity of the UAV.
  • a velocity vector having a magnitude within the range determined based on can be specified as a gas velocity vector (gas region) indicating the moving speed and direction of the gas to be monitored. Gas velocity vectors thus extracted can be used to appropriately monitor the gas.
  • the at least one variable indicating the flight state of the UAV includes a flight height H of the UAV and a flight speed v of the UAV.
  • the downwash speed u of the UAV has a correlation with the flight height H and flight speed v of the UAV. According to the method (2) above, the downwash speed u of the UAV can be appropriately acquired based on the flight height H of the UAV and the flight speed v of the UVA from the correlation therebetween.
  • the gas monitoring method includes: a step (S700) of acquiring wind speed Wg at the ground surface; a step (S700) of calculating a corrected downwash speed ug, which is a downwash speed taking into account the wind speed Wg, based on the downwash speed u and the wind speed Wg; In the extraction step, a gas velocity vector having a size within a range determined based on the corrected downwash velocity ug is extracted from the plurality of velocity vectors.
  • a corrected downwash speed ug is calculated based on the downwash speed u obtained based on the variables indicating the flight state of the UAV and the wind speed Wg at the ground surface, taking into account the wind speed Wg, and the optical flow
  • a gas velocity vector having a size within a range determined based on the corrected downwash velocity ug is extracted from the plurality of estimated vectors. Therefore, a gas velocity vector indicating the moving speed and direction of the gas to be monitored can be extracted more appropriately.
  • the vector of the corrected downwash velocity ug is calculated by combining the vector of the downwash velocity u and the vector of the wind velocity Wg at the ground surface.
  • the corrected downwash speed ug can be appropriately calculated as a composite vector of the downwash speed u and the wind speed Wg.
  • the gas monitoring method includes: a step (S700) of obtaining a correlation between height from the ground surface and wind speed; a step (S700) of acquiring wind speed W1 at the flight height of the UAV; In the step of obtaining the wind speed Wg on the ground surface, the wind speed Wg on the ground surface is obtained based on the wind speed W1 and the correlation.
  • the wind speed Wg at the ground surface is obtained from the wind speed W1 at the flight height of the UAV, based on the correlation between the height from the ground surface and the wind speed. Based on the wind speed Wg at the ground surface acquired in this way, the above-mentioned corrected downwash speed ug can be appropriately calculated.
  • the wind speed W1 at the flight height of the UAV is calculated based on the motor current value of the UAV.
  • the wind speed W1 at the flight height of the UAV and the current value of the motor that drives the propeller of the UAV have a predetermined correlation. According to the method (6) above, the wind speed W1 at the flight height of the UAV can be appropriately acquired based on the UAV motor current value without using, for example, an anemometer or the like.
  • the imaging device includes an infrared camera equipped with a filter that selectively transmits infrared rays of a wavelength that is absorbed by the gas to be monitored.
  • the imaging device since an infrared camera equipped with a filter that selectively transmits infrared rays of wavelengths that are absorbed by the gas to be monitored is used as the imaging device, it is possible to photograph the gas to be monitored. . Then, by performing optical flow processing on the time-series image data obtained thereby, a velocity vector indicating the movement of the gas to be monitored can be obtained.
  • the gas monitoring method includes: Noise components are removed from the plurality of velocity vectors obtained by optical flow estimation processing of the plurality of image data based on a frequency distribution of magnitudes of the plurality of velocity vectors or a frequency distribution of directions of the plurality of velocity vectors. (S500), In the extraction step, the gas velocity vector is extracted from the plurality of velocity vectors from which the noise components have been removed.
  • the velocity vector of the noise component tends to have a predetermined pattern in terms of magnitude or direction.
  • noise components can be removed from the plurality of velocity vectors based on the frequency distribution of the magnitude or direction of the plurality of velocity vectors obtained by optical flow estimation. Further, since the gas velocity vector is extracted based on the downwash velocity u from a plurality of vectors from which noise components have been removed, the accuracy of extracting the gas velocity vector can be improved.
  • the frequency belongs to a range of magnitudes greater than or equal to a first threshold value, and in the frequency distribution of the orientations of the plurality of velocity vectors, the frequency is in a direction less than or equal to a second threshold value.
  • a velocity vector belonging to the range is removed from the plurality of velocity vectors as the noise component.
  • the velocity vectors of the noise components may have a pattern in which they have approximately the same size and vary in direction. According to method (9) above, vectors that belong to a relatively large frequency range in the size frequency distribution and relatively small frequency ranges in the orientation frequency distribution (i.e., vectors that match the above pattern) ) can be appropriately removed as a noise component.
  • the gas monitoring method includes: a step of acquiring a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV (S100); performing reframe processing on the plurality of image data (S200); performing optical flow estimation processing on the plurality of image data subjected to the reframe processing to obtain the plurality of velocity vectors (S300, S400); Equipped with
  • the UAV moves (for example, wobbles) while the imaging device is shooting, the shooting positions of multiple pieces of image data that are continuously shot by the imaging device mounted on the UAV may shift.
  • the method (10) above since reframe processing is performed on multiple image data, it is possible to fix the position in the frame of the object included in the multiple image data (so-called blur correction). can. In this way, by performing reframe processing to remove noise due to UAV wandering in advance and then performing optical flow estimation processing, it is possible to further improve the extraction accuracy of the gas velocity vector.
  • the gas monitoring device (50) includes: a velocity vector acquisition unit (58) that acquires a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV; a downwash speed acquisition unit (64) that acquires a downwash speed u of the UAV based on at least one variable indicating a flight state of the UAV; an extraction unit (66) that extracts a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors; Equipped with.
  • a plurality of velocity vectors obtained by optical flow estimation processing of time-series image data captured by an imaging device mounted on a UAV are a velocity vector of a gas to be detected (a gas velocity vector ), other velocity vectors (velocity vectors indicating the movement of objects other than the gas to be detected, noise, etc.) are also included.
  • the magnitude of each of the plurality of speed vectors is determined by the optical It cannot be calculated using flow estimation.
  • the downwash speed u of the UAV can be obtained based on at least one variable indicating the flight state of the UAV. Therefore, among the plurality of velocity vectors having unknown magnitudes obtained by optical flow estimation, the downwash velocity u is calculated based on the magnitude of the vector indicating the downwash velocity of the UAV.
  • a velocity vector having a magnitude within the range determined based on can be specified as a gas velocity vector (gas region) indicating the moving speed and direction of the gas to be monitored. Gas velocity vectors thus extracted can be used to appropriately monitor the gas.
  • the gas monitoring system (100) includes: A UAV (10) equipped with an imaging device (20), an optical flow estimation processing unit (56) configured to perform optical flow estimation processing on a plurality of image data obtained by imaging at a plurality of times with the imaging device to calculate a plurality of velocity vectors;
  • a plurality of velocity vectors obtained by optical flow estimation processing of time-series image data captured by an imaging device mounted on a UAV are a velocity vector of a gas to be detected (a gas velocity vector ), other velocity vectors (velocity vectors indicating the movement of objects other than the gas to be detected, noise, etc.) are also included.
  • the magnitude of each of the plurality of speed vectors is determined by the optical It cannot be calculated using flow estimation.
  • the downwash speed u of the UAV can be obtained based on at least one variable indicating the flight state of the UAV. Therefore, among the plurality of velocity vectors having unknown magnitudes obtained by optical flow estimation, the downwash velocity u is calculated based on the magnitude of the vector indicating the downwash velocity of the UAV.
  • a velocity vector having a magnitude within the range determined based on can be specified as a gas velocity vector (gas region) indicating the moving speed and direction of the gas to be monitored. Gas velocity vectors thus extracted can be used to appropriately monitor the gas.
  • the gas monitoring program includes: to the computer, a procedure for obtaining a plurality of velocity vectors obtained by performing optical flow estimation processing on a plurality of image data obtained by capturing images at a plurality of times with an imaging device mounted on the UAV; obtaining a downwash velocity u of the UAV based on at least one variable indicative of a flight condition of the UAV; extracting a gas velocity vector having a size within a range determined based on the downwash velocity u from the plurality of velocity vectors; Let it run.
  • the plurality of velocity vectors obtained by optical flow estimation processing of time-series image data captured by the imaging device mounted on the UAV are the velocity vectors of the gas to be detected (gas velocity vectors). ), other velocity vectors (velocity vectors indicating the movement of objects other than the gas to be detected, noise, etc.) are also included.
  • the magnitude of each of the plurality of speed vectors is determined by the optical It cannot be calculated using flow estimation.
  • the downwash speed u of the UAV can be obtained based on at least one variable indicating the flight state of the UAV. Therefore, among the plurality of velocity vectors having unknown magnitudes obtained by optical flow estimation, the downwash velocity u is calculated based on the magnitude of the vector indicating the downwash velocity of the UAV.
  • a velocity vector having a magnitude within the range determined based on can be specified as a gas velocity vector (gas region) indicating the moving speed and direction of the gas to be monitored. Gas velocity vectors thus extracted can be used to appropriately monitor the gas.
  • expressions expressing shapes such as a square shape or a cylindrical shape do not only mean shapes such as a square shape or a cylindrical shape in a strict geometric sense, but also within the range where the same effect can be obtained. , shall also represent shapes including uneven parts, chamfered parts, etc.
  • the expressions "comprising,””including,” or “having" one component are not exclusive expressions that exclude the presence of other components.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Image Analysis (AREA)
  • Indicating Or Recording The Presence, Absence, Or Direction Of Movement (AREA)

Abstract

ガス監視方法は、UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得するステップと、前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するステップと、前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出ステップと、を備える。

Description

ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム
 本開示は、ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラムに関する。
 本願は、2022年3月24日に日本国特許庁に出願された特願2022-047701号に基づき優先権を主張し、その内容をここに援用する。
 カメラなどの撮像装置で撮影された画像データに基づいてガスを監視したり監視したりすることがある。
 特許文献1には、オプティカルフロー推定を用いた黒煙検知システムが開示されている。この黒煙検知システムでは、フレアスタックから排出される黒煙に対して、連続して撮影された時系列の2画像を用いて、両画像間で演算したオプティカルフロー推定からガスの移動で生じた画像内局所の速度ベクトルが求められる。このようにして求められた速度ベクトルのうち、大きさ及び向きが所定範囲内であるものを、黒煙の移動を示す速度ベクトルとして抽出している。
特許第4266535号公報
 ところで、特許文献1の黒煙検知システムでは、固定された撮像装置(カメラ)を用いているため、撮像装置と撮影対象(煙突等)との距離が一定であり、また、撮影範囲内に速度算出の基準となるスケール(煙突等)が存在するため、オプティカルフロー推定から得られる複数の速度ベクトルの大きさ(速度の絶対値)を算出することができる。
 一方、UAV(無人航空機;unmanned aerial vehicle)に搭載された撮像装置を用いる場合、UAVの高さや位置は変化するためUAVと撮影対象の距離が一定でなく、また、速度算出の基準となるスケールが画像内に存在するとは限らないため、該複数の速度ベクトルの各々の大きさ(速度の絶対値)はオプティカルフロー推定では演算できず未知である。このため、オプティカルフロー推定で得られる複数の速度ベクトルから、監視対象のガスの移動を示すベクトルを適切に抽出することが難しい。
 上述の事情に鑑みて、本発明の少なくとも一実施形態は、UAVに搭載された撮像装置で取得した画像データを用いて監視対象のガスを適切に監視可能なガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラムを提供することを目的とする。
 本発明の少なくとも一実施形態に係るガス監視方法は、
 UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得するステップと、
 前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するステップと、
 前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出ステップと、
を備える。
 また、本発明の少なくとも一実施形態に係るガス監視装置は、
 UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する速度ベクトル取得部と、
 前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するダウンウォッシュ速度取得部と、
 前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出部と、
を備える。
 また、本発明の少なくとも一実施形態に係るガス監視システムは、
 撮像装置を搭載したUAVと、
 前記撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して複数の速度ベクトルを算出するように構成されたオプティカルフロー推定処理部と、
 前記複数の速度ベクトルから前記ガス速度ベクトルを抽出するように構成された上述のガス監視装置と、
を備える。
 また、本発明の少なくとも一実施形態に係るガス監視プログラムは、
 コンピュータに、
  UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する手順と、
  前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得する手順と、
  前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する手順と、
実行させる。
 本発明の少なくとも一実施形態によれば、UAVに搭載された撮像装置で取得した画像データを用いて監視対象のガスを適切に監視可能なガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラムが提供される。
一実施形態に係るガス監視システムを構成するUAVの概略図である。 一実施形態に係るガス監視システムの概略図である。 一実施形態に係るガス監視方法のフローチャートである。 撮像装置で撮影された画像の一例を示す図である。 撮像装置で撮影された画像にオプティカルフロー推定により算出された複数の速度ベクトルを重ねた画像の一例である。 UAVの飛行高さH及び飛行速度vとUAVのダウンウォッシュ速度との相関関係の一例を示すグラフである。 UAVの飛行高さH及び飛行速度vとUAVのダウンウォッシュ速度との相関関係の一例を示すチャートである。 UAVのダウンウォッシュ速度の取得手順を説明するための図である。 UAVの補正ダウンウォッシュ速度の取得手順を説明するための図である。 地表からの高さとの風速との相関関係の一例を示すグラフである。 撮像装置で撮影された画像に、抽出ステップで抽出されたガス速度ベクトルVGを重ねた画像の一例である。 ガス速度ベクトルVGの抽出の手順を説明するためのグラフである。 複数の速度ベクトルの大きさの度数分布の一例を示すヒストグラムである。 複数の速度ベクトルの向きの度数分布の一例を示すヒストグラムである。 画像データのリフレーム処理を説明するための図である。 画像データのリフレーム処理を説明するための図である。 画像データのリフレーム処理を説明するための図である。
 以下、添付図面を参照して本発明の幾つかの実施形態について説明する。ただし、実施形態として記載されている又は図面に示されている構成部品の寸法、材質、形状、その相対的配置等は、本発明の範囲をこれに限定する趣旨ではなく、単なる説明例にすぎない。
(ガス監視システム/ガス監視装置の構成)
 図1は、幾つかの実施形態に係るガス監視システムを構成するUAVの概略図であり、図2は、幾つかの実施形態に係るガス監視システムの概略図である。
 幾つかの実施形態に係るガス監視装置及びガス監視システムは、UAV(無人航空機;unmanned aerial vehicle)に搭載された撮像装置(カメラ等)でフィールドを撮影して得られる画像データに基づいて、画像内のガス領域(監視対象のガスが流れている領域)を特定することが可能な装置及びシステムである。このガス監視装置/ガス監視システムにより、撮影対象となるフィールド領域における監視対象ガスの検知や監視(例えば、施設からのガス漏れ検知や、ガス流出の監視等)をすることができる。なお、監視対象のガスの種類は特に限定されない。以下においては、一例として、二酸化炭素(CO)ガスを監視対象とする場合について説明する。
 図1及び図2に示すように、一実施形態に係るガス監視システム100は、UAV10と、UAV10に搭載された撮像装置20と、UAV10及び/又は撮像装置20等で取得された計測データや画像データを示す信号を処理するためのガス監視装置50と、を備える。
 図1に示すように、UAV10は、UAV本体12と、UAV本体12に取り付けられる複数のプロペラ14(通常、3つ以上のプロペラ14)と、を含む。複数のプロペラ14の各々は、モータによって回転駆動されるように構成される。UAV10の飛行高さ、飛行速度、飛行方向等は、複数のプロペラ14を駆動するための各モータの電流値を調節することによって制御可能になっている。各モータの電流値を示す信号は、無線通信によりガス監視装置50に送られるようになっていてもよい。
 UAV10が飛行するとき、複数のプロペラ14によってダウンウォッシュD(下方に向かう気流)が生成される。UAV10から下方に向かうダウンウォッシュDは、地表Gに衝突して水平方向に転向され、地表におけるUAV10の真下の位置Pcから地表Gに沿って放射状に広がるように流れる。
 UAV10には、UAV10の飛行高さHを計測するための高度計(不図示)、又は、UAV10の飛行速度vを計測するための速度計(不図示)が設けられていてもよい。高度計で取得されたUAV10の飛行高さHを示す信号、及び/又は、速度計で取得されたUAV10の飛行速度vを示す信号は、無線通信によりガス監視装置50に送られるようになっていてもよい。
 撮像装置20は、UAV10が飛行している状態で、UAV10の下方のフィールドを時系列で連続的に撮影可能なものである。撮像装置20によって撮像された画像を示す画像データは、無線通信によりガス監視装置50に送られるようになっていてもよい。
 撮像装置20は、監視対象のガスが吸収する波長(COガスの場合4.3μm)の赤外線を選択的に透過させるフィルタを備えた赤外線カメラであってもよい。このように、特定の波長を選択的にフィルタリングしてイメージングする赤外線カメラを用いることで、撮影視野の流体(気体)については特定のガスのみが画像データにイメージングされる。
 ガス監視装置50は、UAV10から送られた飛行高さH又は飛行速度v等の計測データ又は撮像装置20から送られた画像データを処理するように構成される。図2に示すように、一実施形態に係るガス監視装置50は、画像取得部52と、リフレーム処理部54と、オプティカルフロー処理部56と、速度ベクトル取得部58と、ノイズ成分除去部60と、飛行状態取得部62と、ダウンウォッシュ速度取得部64と、抽出部66と、表示画像生成部68と、を備える。
 ガス監視装置50は、プロセッサ(CPU又はGPU等)、記憶装置(メモリデバイス;RAM等)、補助記憶部及びインターフェース等を備えた計算機を含む。ガス監視装置50は、インターフェースを介して、UAV10又は撮像装置20からの信号を受け取るようになっている。プロセッサは、このようにして受け取った信号を処理するように構成される。また、プロセッサは、記憶装置に展開されるプログラムを処理するように構成される。これにより、上述の各機能部(画像取得部52~表示画像生成部68)の機能が実現される。
 ガス監視装置50での処理内容は、プロセッサにより実行されるプログラムとして実装される。プログラムは、補助記憶部に記憶されていてもよい。プログラム実行時には、これらのプログラムは記憶装置に展開される。プロセッサは、記憶装置からプログラムを読み出し、プログラムに含まれる命令を実行するようになっている。
 画像取得部52は、UAV10に搭載された撮像装置20で複数の時刻にそれぞれ撮像して得られる複数の画像データを取得するように構成される。
 リフレーム処理部54は、必要に応じ、画像取得部52によって取得された複数の画像データについてリフレーム処理を行うように構成される。
 オプティカルフロー処理部56は、画像取得部52によって取得され、必要に応じてリフレーム処理が施された複数の画像データについて、オプティカルフロー推定処理するように構成される。
 速度ベクトル取得部58は、オプティカルフロー処理部56でのオプティカルフロー処理で算出される複数の速度ベクトルを取得するように構成される。
 ノイズ成分除去部60は、必要に応じ、速度ベクトル取得部58で取得された複数の速度ベクトルからノイズ成分を除去するように構成される。
 飛行状態取得部62は、UAV10の飛行状態を示す少なくとも1つの変数の計測値を取得するように構成される。一実施形態では、飛行状態取得部62は、UAV10の飛行状態を示す変数としてのUAV10の飛行高さH及び/又はUAV10の飛行速度vの計測値を取得するように構成される。
 ダウンウォッシュ速度取得部64は、UAV10の飛行状態を示す少なくとも1つの変数に基づきUAV10のダウンウォッシュ速度uを取得するように構成される。このダウンウォッシュ速度uは、地表におけるUAV10の真下の位置Pcの近傍における、地表Gに沿った方向のダウンウォッシュの流れの速度である。
 抽出部66は、速度ベクトル取得部58で取得された複数の速度ベクトルから、ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出するように構成される。
 表示画像生成部68は、抽出部66で抽出されたガス速度ベクトルに基づいて、監視対象のガスに関する情報(例えば、ガスの存在するガス領域や、ガス速度ベクトルの分布等に係る情報)を示す画像データ(監視用の画像データ)を生成するように構成される。表示画像生成部68で生成された画像データは、画像を表示するための表示部70に出力されるようになっていてもよい。
 また、ガス監視装置50は、UAV10の飛行状態を示す変数とUAV10のダウンウォッシュ速度との相関関係や、地表からの高さと風速との相関関係等を記憶するための記憶部69を備えてもよい。記憶部69は、ガス監視装置50を構成する計算機の記憶装置(メモリデバイス;RAM等)又は補助記憶装置を含んでもよく、あるいは、該計算機とネットワークを介して接続されるストレージデバイスを含んでもよい。
(ガス監視方法のフロー)
 以下、幾つかの実施形態に係るガス監視方法のフローについて説明する。なお、以下においては、上述のガス監視装置50を用いて監視対象のガスであるCOガスを監視する場合について説明するが、以下に説明する手順の一部又は全部を、他の装置を用いて、あるいは手動で行ってもよく、監視対象のガスはCO以外のガスであってもよい。
 図3は、一実施形態に係るガス監視方法のフローチャートである。
 一実施形態では、まず、UAV10に搭載された撮像装置20で複数の時刻にそれぞれ撮像する(S100)。撮像装置20は、UAV10が飛行している状態で、UAV10の下方のフィールドを時系列で連続的に撮影してもよい。図4は、撮像装置20で撮影された画像の一例を示す図である。図4に示す画像Iは、飛行中のUAV10の下方のフィールドを撮影したものであり、地表Gと、地表Gに設置されたCOガスボンベB1,B2が写っている。本実施形態では、撮像装置20として、監視対象のCOガスが吸収する波長(4.3μm)の赤外線を選択的に透過させるフィルタを備えた赤外線カメラを用いる。
 画像取得部52は、このように撮像装置20で撮像された複数の画像のデータ(複数の画像データ)を取得する。
 次に、リフレーム処理部54は、必要に応じ、ステップS100にて画像取得部52によって取得された複数の画像データについてリフレーム処理を行ってもよい(S200)。リフレーム処理をして予めUAV10のふらつきによるノイズを除去してから、後述のステップS300でオプティカルフロー推定処理することができるため、後述のステップS800でのガス速度ベクトルの抽出精度をより向上することができる。なお、ステップS200のリフレーム処理については後述する。
 次に、オプティカルフロー処理部56は、ステップS100にて画像取得部52によって取得された複数の画像データについて、あるいは、ステップS200にてリフレーム処理が施された複数の画像データについて、オプティカルフロー推定処理を行う(S300)。オプティカルフロー推定では、時間的に連続した時系列の2つの画像データを用いて、この2つの画像データ間での、画像内の複数の画素の動きをそれぞれ示す複数の速度ベクトルが算出される。オプティカルフロー推定処理は、例えば特許文献1に記載の方法で行うことができる。図5に示す画像Iは、ステップS300のオプティカルフロー推定処理の対象となった画像(撮像装置で撮影されたもの)に、オプティカルフロー推定により算出された複数の速度ベクトルを重ねた画像の一例である。
 なお、本実施形態では、COガスが吸収する波長を選択的にフィルタリングしてイメージングする赤外線カメラを用いるため、撮影視野の流体(気体)についてはCOガスのみが画像データにイメージングされるとともに、オプティカルフロー推定の演算対象となる。
 次に、速度ベクトル取得部58は、ステップS300でのオプティカルフロー推定処理で算出された複数の速度ベクトルを取得する(S400)。
 次に、ノイズ成分除去部60は、必要に応じ、ステップS400で取得された複数の速度ベクトルからノイズ成分を除去する(S500)。これにより、後述のステップS800でのガス速度ベクトルの抽出精度を向上することができる。なお、ステップS500のノイズ成分除去については後述する。
 次に、飛行状態取得部62は、UAV10の飛行状態を示す少なくとも1つの変数の計測値を取得する(S600)。ステップS600では、UAV10の飛行状態を示す変数としてのUAV10の飛行高さH及び/又はUAV10の飛行速度vの計測値を取得してもよい。
 次に、ダウンウォッシュ速度取得部64は、ステップS600で取得されたUAV10の飛行状態を示す少なくとも1つの変数に基づきUAV10のダウンウォッシュ速度uを取得する(S700)。UAV10の飛行状態を示す上述の少なくとも1つの変数と、UAV10のダウンウォッシュ速度uとの相関関係は、予め取得され記憶部69に記憶されていてもよい。ステップS700において、ダウンウォッシュ速度取得部64は、ステップS600で取得されたUAV10の飛行状態を示す少なくとも1つの変数に係る計測値と、記憶部69から取得される上述の相関関係とに基づいて、該計測値に対応するダウンウォッシュ速度uを取得してもよい。
 上述のUAV10の飛行状態を示す少なくとも1つの変数は、UAV10の飛行高さH及びUAV10の飛行速度vを含んでもよい。ここで、図6及び図7は、それぞれ、UAV10の飛行高さH及びUAV10の飛行速度vと、UAV10のダウンウォッシュ速度uとの相関関係を示すグラフ又はチャートの一例である。
 一実施形態では、図6に示す相関関係に基づいてダウンウォッシュ速度uを取得してもよい。すなわち、UAV10の飛行高さH及びUAV10の飛行速度vとUAV10のダウンウォッシュ速度uとは、例えば図6に示すような所定の相関関係を有する。この相関関係によれば、同じ飛行速度vでは、飛行高さが高いほどダウンウォッシュ速度uは大きく、また、飛行速度が大きいほどダウンウォッシュ速度uは大きい(ただし、図6において飛行速度vはv0<v1<v2である)。この相関関係は、UAV10を用いた試験により予め取得し、記憶部69に記憶させておく。そして、ダウンウォッシュ速度取得部64は、ステップS600で取得されたUAV10の飛行高さH及び飛行速度vの計測値を、記憶部69から取得される相関関係に当てはめることで、UAV10のダウンウォッシュ速度uを取得することができる。
 一実施形態では、図7に示す相関関係に基づいて位置P1におけるダウンウォッシュ速度uを取得してもよい。なお、位置P1は、UAV10の真下の位置Pcの近傍の位置である。すなわち、例えば図7に示すように、ダウンウォッシュ速度uは、UAV10の飛行高さH及びUAV10の飛行速度vに加え、地表におけるUAV10真下の位置PcからP1までの距離r、及び、地表において位置Pcを中心としたときの位置P1の基準方位からの角度θ(図8参照)と所定の相関関係を有する。この相関関係は、UAV10を用いた試験により予め取得し、記憶部69に記憶させておく。そして、ダウンウォッシュ速度取得部64は、ステップS600で取得されたUAV10の飛行高さH及び飛行速度vの計測値、及び、上述の距離r及び角度θの計測値を、記憶部69から取得される相関関係に当てはめることで、UAV10のダウンウォッシュ速度uを取得することができる。なお、上述の距離r及び角度θの計測値は、測定者が入力装置(キーボード、マウス、又はタッチパネル等)を介してガス監視装置50に入力してもよい。
 なお、図8は、ダウンウォッシュ速度uの取得手順を説明するための図であり、地表におけるUAV10真下の位置PcからP1までの距離r、及び、地表において位置Pcwo中心としたときの位置P1の基準方位からの角度θを示す図である。
 幾つかの実施形態では、ステップS700では、地表Gにおける風速Wgを考慮したダウンウォッシュ速度である補正ダウンウォッシュ速度ugを取得してもよい。補正ダウンウォッシュ速度ugは、上述のようにして求めたダウンウォッシュ速度u及び地表における風速Wgに基づいて算出してもよい。
 補正ダウンウォッシュ速度ug(ベクトル)は、例えば、上述のようにして求めたダウンウォッシュ速度u(ベクトル)と、地表における風速Wg(ベクトル)との合成ベクトルとして取得することができる(図9参照)。ここで、図9は、補正ダウンウォッシュ速度ugの取得手順を説明するための図である。
 地表における風速Wg(ベクトル)は、UAV10の飛行高さにおける風速W1(ベクトル)と、地表からの高さと風速との相関関係とに基づいて取得してもよい。ここで、図10は、地表からの高さとの風速との相関関係の一例を示すグラフである。地表からの高さとの風速とは、風速補正係数αを介して、例えば図10に示すような相関関係を有する。すなわち、図10に示す例では、風速補正係数α(ただし地表における風速補正係数αをゼロとする)は、UAV10の飛行高さに対して線形の関数で表現される。この関数から、地表での風速Wgと、飛行高さH1における風速W1との関係は、飛行高さH1における風速補正係数α1とすれば、Wg=α1×W1で表すことができる。地表からの高さと風速との上述の相関関係は、予め取得され、記憶部69に記憶されていてもよい。
 地表からの高さと風速との上述の相関関係は、地表(フィールド)上における風向とUAV10の飛行高さにおける風向は同じであり、かつ、高さ方向における風速変化の割合は地表(フィールド)上の場所によらず同じであるとの仮定の下、フィールドの任意地点でUAV10の飛行高さHにおける風速Wを複数点取得することで、取得してもよい。
 UAV10の飛行高さにおける風速W1(ベクトル)は、UAV10のモータ電流値(プロペラ14を回転駆動するためのモータの電流値)から取得されてもよい。UAV10は、指定された飛行速度(及び方向)に対して、各プロペラ14のモータ電流値を制御して、一定の飛行速度を保つことができ、周囲に風がある場合でも、各プロペラ14のモータ負荷を制御して飛行速度一定に保つことができる。したがって、UAV10の各プロペラ14のモータ電流値から風速(風速W1(ベクトル)の大きさ)及び風向(風速W1(ベクトル)の向き)を特定することができる。
 あるいは、UAV10の飛行高さにおける風速W1は、UAV10に設けられた風速及び風向を計測するように構成された風速計(不図示)及び風向計(不図示)の計測結果に基づき取得されてもよい。なお、風速計及び風向計の計測結果を示す信号がガス監視装置50に送られるようになっていてもよい。
 すなわち、ダウンウォッシュ速度取得部64は、UAV10のモータ電流値を取得し、該モータ電流値に基づいてUAV10の飛行高さにおける風速W1(ベクトル)を算出してもよい。あるいは、ダウンウォッシュ速度取得部64は、UAV10に設けられた風速計及び風向計の計測結果を取得し、該計測値に基づいてUAV10の飛行高さにおける風速W1(ベクトル)を算出してもよい。そして、ダウンウォッシュ速度取得部64は、記憶部69から地表からの高さと風速との相関関係を取得し、該相関関係と、上述のUAV10の飛行高さにおける風速W1とに基づいて、地表における風速Wgを取得してもよい。ダウンウォッシュ速度取得部64は、このように取得した地表における風速Wgと、上述のダウンウォッシュ速度uとに基づいて、補正ダウンウォッシュ速度ugを取得してもよい。
 次に、抽出部66は、ステップS400で取得した複数の速度ベクトル(オプティカルフロー推定処理の結果得られた複数の速度ベクトル;図5参照)から、ステップS700で取得したダウンウォッシュ速度u(又は補正ダウンウォッシュ速度ug)に基づいて決定される範囲内の大きさを有するガス速度ベクトルVGを抽出する(S800)。なお、ステップS500でノイズ成分を除去した場合は、ステップS800では、ステップS500にてノイズ成分が除去された複数の速度ベクトルから、ステップS700で取得したダウンウォッシュ速度u(又は補正ダウンウォッシュ速度ug)に基づいて決定される範囲内の大きさを有するガス速度ベクトルVGを抽出する。ここで、図11に示す画像Iは、ステップS300のオプティカルフロー推定処理の対象となった画像(撮像装置で撮影されたもの)に、ステップS800で抽出されたガス速度ベクトルVGを重ねた画像の一例である。
 一実施形態では、ステップS800では、例えば、ステップS400で取得した複数の速度ベクトルのうち、ステップS700で取得したダウンウォッシュ速度u(又は補正ダウンウォッシュ速度ug)の位置における速度ベクトルについて、その速度の大きさがダウンウォッシュ速度u(又は補正ダウンウォッシュ速度ug)の速度の大きさと等しいものと見做す。そして、複数の速度ベクトルのうち、ダウンウォッシュ速度u(又は補正ダウンウォッシュ速度ug)に近い速度の大きさを有するものを抽出する。
 ガス速度ベクトルVGの抽出の仕方の一例として、ここでは、補正ダウンウォッシュ速度ugに基づいて決定される範囲内の大きさを有するガス速度ベクトルVGを抽出する場合について説明する。一例においては、複数の速度ベクトルから、補正ダウンウォッシュ速度ugと同じ大きさの速度ベクトル(VG_max)と、補正ダウンウォッシュ速度ugよりも小さい速度uminと同じ大きさの速度ベクトル(VG_min)との間の大きさを有する速度ベクトルを、ガス速度ベクトルVGとして抽出する(図12参照)。例えば、複数の速度ベクトルのうち、0.25×ug以上、かつ、1×ug以下の大きさを有するものを抽出する。なお、図12は、ガス速度ベクトルVGの抽出の手順を説明するためのグラフである。
 なお、図11に示す画像Iにおいては、抽出されたガス速度ベクトルVGの分布、及び、抽出されたガス速度ベクトルVGが存在する領域であるガス領域AGが示されている。また、ガス速度ベクトルVGは、COガスボンベから噴出されるCOガスの流れを示すベクトルである。
 ステップS800で抽出されたガス速度ベクトルVGに基づいて、表示画像生成部68は、抽出部66で抽出されたガス速度ベクトルに基づいて、監視対象のガスに関する情報(例えば、ガスの存在するガス領域や、ガス速度ベクトルの分布等に係る情報)を示す画像データ(監視用の画像データ;例えば図11に示す画像Iのデータ等)を生成してもよい。このように生成された画像データを、表示部70に送って表示部70にて出力する(表示する)ようにしてもよい(S900)。
 ステップS300のオプティカルフロー推定処理では、複数の速度ベクトルの向き及び相対的な大きさを算出することができるが、絶対的な大きさ(速度の絶対値)を算出することはできない。これは、UAV10に搭載される撮像装置20と撮影対象の距離が一定でなく、さらに速度算出の基準となるスケールが画像内に存在するとは限らないためである。
 この点、上述の実施形態では、UAV10の飛行状態を示す少なくとも1つの変数(例えば飛行高さHや飛行速度v)に基づき、UAV10のダウンウォッシュ速度uを取得することができる。そこで、オプティカルフロー推定で得られた未知の大きさを有する複数の速度ベクトルのうち、UAV10のダウンウォッシュの速度uを示すベクトルの大きさを基準にして、該複数の速度ベクトルから、ダウンウォッシュ速度uに基づき決定される範囲内の大きさ(又は、ダウンウォッシュ速度uから求まる補正ダウンウォッシュ速度ugに基づき決定される範囲内の大きさ)を有する速度ベクトルを監視対象のガスの移動速度及び方向を示すガス速度ベクトルVG(ガス領域)として特定することができる。このように抽出されたガス速度ベクトルVGを用いて、ガスを適切に監視することができる。
 また、一実施形態では、上述したように、UAV10のダウンウォッシュ速度uは、UAVの飛行高さHや飛行速度v及び相関関係を有する。したがって、UAV10の飛行高さH及びUVAの飛行速度vに基づいて、これらとの相関関係から、UAV10のダウンウォッシュ速度uを適切に取得することができる。
 また、地表においてダウンウォッシュとは別の風が吹いてる場合、地表におけるダウンウォッシュの流れは該風の影響を受け得る。この点、一実施形態では、上述したように、UAV10の飛行状態を示す変数(飛行高さHや飛行速度v)に基づき得られたダウンウォッシュ速度u及び地表における風速Wgに基づいて風速Wgを考慮した補正ダウンウォッシュ速度ugを算出する。そして、オプティカルフロー推定で得られた複数のベクトルから、該補正ダウンウォッシュ速度ugに基づいて決定される範囲内の大きさを有するガス速度ベクトルVGを抽出する。したがって、監視対象のガスの移動速度及び方向を示すガス速度ベクトルをより適切に抽出することができる。
(ノイズ成分除去について)
 ステップS500のノイズ成分を除去する処理について説明する。幾つかの実施形態では、ステップS500では、ステップS400で得られた複数のベクトル(ステップS300のオプティカルフロー推定処理で算出される複数のベクトル)から、該複数の速度ベクトルの大きさの度数分布、又は、該複数の速度ベクトルの向きの度数分布に基づいて、ノイズ成分の速度ベクトルを除去してもよい。
 ノイズ成分の速度ベクトルは、大きさ又は向きに関して所定のパターンを有する傾向がある。上述の実施形態では、オプティカルフロー推定により得られる複数の速度ベクトルの大きさ又は向きの度数分布に基づいて、該複数のベクトルからノイズ成分を除去することができる。また、ステップS800では、ノイズ成分が除去された複数のベクトルからダウンウォッシュ速度uに基づきガス速度ベクトルを抽出するので、ガス速度ベクトルVGの抽出精度を向上することができる。
 ここで、図13は、ステップS400で得られた複数の速度ベクトルの大きさの度数分布の一例を示すヒストグラムであり、図14は、ステップS400で得られた複数の速度ベクトルの向きの度数分布の一例を示すヒストグラムである。
 一実施形態では、ステップS500では、複数の速度ベクトルの大きさの度数分布(図13参照)において、度数が第1閾値(図13における閾値1)以上の大きさの範囲に属し、かつ、複数の速度ベクトルの向きの度数分布(図14参照)において、度数が第2閾値(図14における閾値2)以下の向きの範囲に属する速度ベクトルを、ノイズ成分としてステップS400で得られた複数の速度ベクトルから除去する。
 ノイズ成分の速度ベクトル(例えば、UAV10のふらつきを示す速度ベクトル)は、ほぼ同等の大きさを持ち、かつ、向きがばらついているパターンを有する場合がある。上述の実施形態では、大きさの度数分布において度数が比較的大きい範囲に属し、かつ、向きの度数分布において度数が比較的小さい範囲に属するベクトル(即ち上述のパターンに合致するベクトル)を、ノイズ成分として適切に除去することができる。
 なお、上述の第1閾値又は第2閾値として、各ヒストグラムの縦軸の平均値又は中央値を用いてもよい。
 なお、複数の速度ベクトルの大きさの度数分布(図13参照)及び向きの度数分布(図14参照)の両方において、度数が閾値よりも大きい速度ベクトル(例えば、図13においてP1で示すピーク、及び、図14においてP2で示すピークの両方に含まれるベクトル)は、監視対象のガスの速度ベクトルである可能性が高い。
(リフレーム処理について)
 ステップS200のリフレーム処理について説明する。ここで、図15~図17は、複数の画像データのリフレーム処理を説明するための図である。図15~図17に示す画像I11~I13は、UAV10に搭載された撮像装置20で時系列に撮影された画像である。リフレーム処理では、時系列に撮影された各画像の画像データについて、基準点PがフレームF(画像の表示領域)内の所定位置(例えばフレームFの中心位置)に位置するように画像の縦横比(a:b)を調節して(即ち、画像のうちフレームF外の領域をトリミングして)、フレームFに対する画像の位置を調整する。図示する例では、COガスボンベB1,B2の位置を基準点Pとして、各画像I11~I13の各々について基準点Pがフレームの中心に位置するように、画像の縦横比が、それぞれa1:b1、a2:b2、a3:b3となるように調節して画像の位置を調整している。
 撮像装置20での撮影中にUAV10は移動する(例えばふらつく)ため、UAV10に搭載された撮像装置20で連続的に撮影される複数の画像データは、撮影位置がずれる場合がある。この点、上述の実施形態によれば、複数の画像データについてリフレーム処理をするため、複数の画像データに含まれる撮影対象物のフレームF中の位置を固定(いわゆるブレ補正)することができる。このように、リフレーム処理をすることで、予めUAV10のふらつきによるノイズを除去してから、ステップS300でオプティカルフロー推定処理することで、ステップS800におけるガス速度ベクトルの抽出精度をより向上することができる。
 上記各実施形態に記載の内容は、例えば以下のように把握される。
(1)本発明の少なくとも一実施形態に係るガス監視方法は、
 UAV(10)に搭載された撮像装置(20)で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得するステップ(S400)と、
 前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するステップ(S700)と、
 前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出ステップ(S800)と、
を備える。
 上記(1)の方法では、UAVに搭載された撮像装置で撮像された時系列の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルは、検出対象のガスの速度ベクトル(ガス速度ベクトル)に加え、他の速度ベクトル(検出対象のガス以外の物体の移動を示す速度ベクトルやノイズ等)も含まれる。また、UAVと撮影対象の距離が一定でなく、さらに速度算出の基準となるスケールが画像内に存在するとは限らないため、該複数の速度ベクトルの各々の大きさ(速度の絶対値)はオプティカルフロー推定では演算できない。一方、上記(1)の構成では、UAVの飛行状態を示す少なくとも1つの変数に基づき、UAVのダウンウォッシュ速度uを取得することができる。そこで、オプティカルフロー推定で得られた未知の大きさを有する複数の速度ベクトルのうち、UAVのダウンウォッシュの速度を示すベクトルの大きさを基準にして、該複数の速度ベクトルから、ダウンウォッシュ速度uに基づき決定される範囲内の大きさを有する速度ベクトルを監視対象のガスの移動速度及び方向を示すガス速度ベクトル(ガス領域)として特定することができる。このように抽出されたガス速度ベクトルを用いて、ガスを適切に監視することができる。
(2)幾つかの実施形態では、上記(1)の方法において、
 前記UAVの飛行状態を示す前記少なくとも1つの変数は、前記UAVの飛行高さH及び前記UAVの飛行速度vを含む。
 UAVのダウンウォッシュ速度uは、UAVの飛行高さHや飛行速度v及び相関関係を有する。上記(2)の方法によれば、UAVの飛行高さH及びUVAの飛行速度vに基づいて、これらとの相関関係から、UAVのダウンウォッシュ速度uを適切に取得することができる。
(3)幾つかの実施形態では、上記(1)又は(2)の方法において、
 前記ガス監視方法は、
 地表における風速Wgを取得するステップ(S700)と、
 前記ダウンウォッシュ速度u及び前記風速Wgに基づいて、前記風速Wgを考慮したダウンウォッシュ速度である補正ダウンウォッシュ速度ugを算出するステップ(S700)と、を備え、
 前記抽出ステップでは、前記複数の速度ベクトルから、前記補正ダウンウォッシュ速度ugに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する。
 地表においてダウンウォッシュとは別の風が吹いてる場合、地表におけるダウンウォッシュの流れは該風の影響を受け得る。上記(3)の方法によれば、UAVの飛行状態を示す変数に基づき得られたダウンウォッシュ速度u及び地表における風速Wgに基づいて風速Wgを考慮した補正ダウンウォッシュ速度ugを算出し、オプティカルフロー推定で得られた複数のベクトルから、該補正ダウンウォッシュ速度ugに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する。したがって、監視対象のガスの移動速度及び方向を示すガス速度ベクトルをより適切に抽出することができる。
(4)幾つかの実施形態では、上記(3)の方法において、
 前記ダウンウォッシュ速度uのベクトルと前記地表における風速Wgのベクトルとを合成することで前記補正ダウンウォッシュ速度ugのベクトルを算出する。
 上記(4)の方法によれば、ダウンウォッシュ速度uと風速Wgの合成ベクトルとして、補正ダウンウォッシュ速度ugを適切に算出することができる。
(5)幾つかの実施形態では、上記(3)又は(4)の方法において、
 前記ガス監視方法は、
 地表からの高さと風速との相関関係を取得するステップ(S700)と、
 前記UAVの飛行高さにおける風速W1を取得するステップ(S700)と、を備え、
 前記地表における風速Wgを取得するステップでは、前記風速W1及び前記相関関係に基づいて前記地表における風速Wgを取得する。
 上記(5)の方法によれば、地表からの高さと風速との相関関係に基づいて、UAVの飛行高さにおける風速W1から、地表における風速Wgを取得する。このように取得した地表での風速Wgに基づいて、上述の補正ダウンウォッシュ速度ugを適切に算出することができる。
(6)幾つかの実施形態では、上記(5)の方法において、
 前記風速W1を取得するステップでは、前記UAVのモータ電流値に基づいて前記UAVの飛行高さにおける前記風速W1を算出する。
 UAVの飛行高さにおける風速W1と、UAVのプロペラを駆動するモータの電流値とは、所定の相関関係を有する。上記(6)の方法によれば、例えば風速計等を用いなくても、UAVのモータ電流値に基づいて、UAVの飛行高さにおける風速W1を適切に取得することができる。
(7)幾つかの実施形態では、上記(1)乃至(6)の何れかの方法において、
 前記撮像装置は、監視対象のガスが吸収する波長の赤外線を選択的に透過させるフィルタを備えた赤外線カメラを含む。
 上記(7)の方法によれば、撮像装置として、監視対象のガスが吸収する波長の赤外線を選択的に透過させるフィルタを備えた赤外線カメラを用いるので、監視対象のガスを撮影することができる。そして、これにより得られる時系列の画像データをオプティカルフロー処理することで、監視対象ガスの移動を示す速度ベクトルを取得することができる。
(8)幾つかの実施形態では、上記(1)乃至(7)の何れかの方法において、
 前記ガス監視方法は、
 前記複数の画像データをオプティカルフロー推定処理して得られる前記複数の速度ベクトルから、前記複数の速度ベクトルの大きさの度数分布又は前記複数の速度ベクトルの向きの度数分布に基づいてノイズ成分を除去するステップ(S500)を備え、
 前記抽出ステップでは、前記ノイズ成分が除去された前記複数の速度ベクトルから前記ガス速度ベクトルを抽出する。
 ノイズ成分の速度ベクトルは、大きさ又は向きに関して所定のパターンを有する傾向がある。上記(8)の方法によれば、オプティカルフロー推定により得られる複数の速度ベクトルの大きさ又は向きの度数分布に基づいて、該複数のベクトルからノイズ成分を除去することができる。また、ノイズ成分が除去された複数のベクトルからダウンウォッシュ速度uに基づきガス速度ベクトルを抽出するので、ガス速度ベクトルの抽出精度を向上することができる。
(9)幾つかの実施形態では、上記(8)の方法において、
 前記複数の速度ベクトルの大きさの度数分布において、度数が第1閾値以上の大きさの範囲に属し、かつ、前記複数の速度ベクトルの向きの度数分布において、度数が第2閾値以下の向きの範囲に属する速度ベクトルを、前記複数の速度ベクトルから前記ノイズ成分として除去する。
 ノイズ成分の速度ベクトルは、ほぼ同等の大きさを持ち、かつ、向きがばらついているパターンを有する場合がある。上記(9)の方法によれば、大きさの度数分布において度数が比較的大きい範囲に属し、かつ、向きの度数分布において度数が比較的小さい範囲に属するベクトル(即ち上述のパターンに合致するベクトル)を、ノイズ成分として適切に除去することができる。
(10)幾つかの実施形態では、上記(1)乃至(9)の何れかの方法において、
 前記ガス監視方法は、
 前記UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データを取得するステップ(S100)と、
 前記複数の画像データについてリフレーム処理を施すステップ(S200)と、
 前記リフレーム処理が施された複数の画像データをオプティカルフロー推定処理して前記複数の速度ベクトルを取得するステップ(S300,S400)と、
を備える。
 撮像装置での撮影中にUAVは移動する(例えばふらつく)ため、UAVに搭載された撮像装置で連続的に撮影される複数の画像データは、撮影位置がずれる場合がある。この点、上記(10)の方法によれば、複数の画像データについてリフレーム処理をするため、複数の画像データに含まれる撮影対象物のフレーム中の位置を固定(いわゆるブレ補正)することができる。このように、リフレーム処理をすることで、予めUAVのふらつきによるノイズを除去してから、オプティカルフロー推定処理することで、ガス速度ベクトルの抽出精度をより向上することができる。
(11)本発明の少なくとも一実施形態に係るガス監視装置(50)は、
 UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する速度ベクトル取得部(58)と、
 前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するダウンウォッシュ速度取得部(64)と、
 前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出部(66)と、
を備える。
 上記(11)の構成では、UAVに搭載された撮像装置で撮像された時系列の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルは、検出対象のガスの速度ベクトル(ガス速度ベクトル)に加え、他の速度ベクトル(検出対象のガス以外の物体の移動を示す速度ベクトルやノイズ等)も含まれる。また、UAVと撮影対象の距離が一定でなく、さらに速度算出の基準となるスケールが画像内に存在するとは限らないため、該複数の速度ベクトルの各々の大きさ(速度の絶対値)はオプティカルフロー推定では演算できない。一方、上記(11)の構成では、UAVの飛行状態を示す少なくとも1つの変数に基づき、UAVのダウンウォッシュ速度uを取得することができる。そこで、オプティカルフロー推定で得られた未知の大きさを有する複数の速度ベクトルのうち、UAVのダウンウォッシュの速度を示すベクトルの大きさを基準にして、該複数の速度ベクトルから、ダウンウォッシュ速度uに基づき決定される範囲内の大きさを有する速度ベクトルを監視対象のガスの移動速度及び方向を示すガス速度ベクトル(ガス領域)として特定することができる。このように抽出されたガス速度ベクトルを用いて、ガスを適切に監視することができる。
(12)本発明の少なくとも一実施形態に係るガス監視システム(100)は、
 撮像装置(20)を搭載したUAV(10)と、
 前記撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して複数の速度ベクトルを算出するように構成されたオプティカルフロー推定処理部(56)と、
 前記複数の速度ベクトルから前記ガス速度ベクトルを抽出するように構成された上記(11)に記載のガス監視装置(50)と、
を備える。
 上記(12)の構成では、UAVに搭載された撮像装置で撮像された時系列の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルは、検出対象のガスの速度ベクトル(ガス速度ベクトル)に加え、他の速度ベクトル(検出対象のガス以外の物体の移動を示す速度ベクトルやノイズ等)も含まれる。また、UAVと撮影対象の距離が一定でなく、さらに速度算出の基準となるスケールが画像内に存在するとは限らないため、該複数の速度ベクトルの各々の大きさ(速度の絶対値)はオプティカルフロー推定では演算できない。一方、上記(12)の構成では、UAVの飛行状態を示す少なくとも1つの変数に基づき、UAVのダウンウォッシュ速度uを取得することができる。そこで、オプティカルフロー推定で得られた未知の大きさを有する複数の速度ベクトルのうち、UAVのダウンウォッシュの速度を示すベクトルの大きさを基準にして、該複数の速度ベクトルから、ダウンウォッシュ速度uに基づき決定される範囲内の大きさを有する速度ベクトルを監視対象のガスの移動速度及び方向を示すガス速度ベクトル(ガス領域)として特定することができる。このように抽出されたガス速度ベクトルを用いて、ガスを適切に監視することができる。
(13)本発明の少なくとも一実施形態に係るガス監視プログラムは、
 コンピュータに、
  UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する手順と、
  前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得する手順と、
  前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する手順と、
実行させる。
 上記(13)の構成では、UAVに搭載された撮像装置で撮像された時系列の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルは、検出対象のガスの速度ベクトル(ガス速度ベクトル)に加え、他の速度ベクトル(検出対象のガス以外の物体の移動を示す速度ベクトルやノイズ等)も含まれる。また、UAVと撮影対象の距離が一定でなく、さらに速度算出の基準となるスケールが画像内に存在するとは限らないため、該複数の速度ベクトルの各々の大きさ(速度の絶対値)はオプティカルフロー推定では演算できない。一方、上記(13)の構成では、UAVの飛行状態を示す少なくとも1つの変数に基づき、UAVのダウンウォッシュ速度uを取得することができる。そこで、オプティカルフロー推定で得られた未知の大きさを有する複数の速度ベクトルのうち、UAVのダウンウォッシュの速度を示すベクトルの大きさを基準にして、該複数の速度ベクトルから、ダウンウォッシュ速度uに基づき決定される範囲内の大きさを有する速度ベクトルを監視対象のガスの移動速度及び方向を示すガス速度ベクトル(ガス領域)として特定することができる。このように抽出されたガス速度ベクトルを用いて、ガスを適切に監視することができる。
 以上、本発明の実施形態について説明したが、本発明は上述した実施形態に限定されることはなく、上述した実施形態に変形を加えた形態や、これらの形態を適宜組み合わせた形態も含む。
 本明細書において、「ある方向に」、「ある方向に沿って」、「平行」、「直交」、「中心」、「同心」或いは「同軸」等の相対的或いは絶対的な配置を表す表現は、厳密にそのような配置を表すのみならず、公差、若しくは、同じ機能が得られる程度の角度や距離をもって相対的に変位している状態も表すものとする。
 例えば、「同一」、「等しい」及び「均質」等の物事が等しい状態であることを表す表現は、厳密に等しい状態を表すのみならず、公差、若しくは、同じ機能が得られる程度の差が存在している状態も表すものとする。
 また、本明細書において、四角形状や円筒形状等の形状を表す表現は、幾何学的に厳密な意味での四角形状や円筒形状等の形状を表すのみならず、同じ効果が得られる範囲で、凹凸部や面取り部等を含む形状も表すものとする。
 また、本明細書において、一の構成要素を「備える」、「含む」、又は、「有する」という表現は、他の構成要素の存在を除外する排他的な表現ではない。
10   UAV
12   UAV本体
14   プロペラ
20   撮像装置
50   ガス監視装置
52   画像取得部
54   リフレーム処理部
56   オプティカルフロー処理部
58   速度ベクトル取得部
60   ノイズ成分除去部
62   飛行状態取得部
64   ダウンウォッシュ速度取得部
66   抽出部
68   表示画像生成部
69   記憶部
70   表示部
100  ガス監視システム
AG   ガス領域
B1   COガスボンベ
B2   COガスボンベ
D    ダウンウォッシュ
F    フレーム
G    地表
P0   基準点
VG   ガス速度ベクトル

Claims (13)

  1.  UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得するステップと、
     前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するステップと、
     前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出ステップと、
    を備えるガス監視方法。
  2.  前記UAVの飛行状態を示す前記少なくとも1つの変数は、前記UAVの飛行高さH及び前記UAVの飛行速度vを含む
    請求項1に記載のガス監視方法。
  3.  地表における風速Wgを取得するステップと、
     前記ダウンウォッシュ速度u及び前記風速Wgに基づいて、前記風速Wgを考慮したダウンウォッシュ速度である補正ダウンウォッシュ速度ugを算出するステップと、を備え、
     前記抽出ステップでは、前記複数の速度ベクトルから、前記補正ダウンウォッシュ速度ugに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する
    請求項1又は2に記載のガス監視方法。
  4.  前記ダウンウォッシュ速度uのベクトルと前記地表における風速Wgのベクトルとを合成することで前記補正ダウンウォッシュ速度ugのベクトルを算出する
    請求項3に記載のガス監視方法。
  5.  地表からの高さと風速との相関関係を取得するステップと、
     前記UAVの飛行高さにおける風速W1を取得するステップと、を備え、
     前記地表における風速Wgを取得するステップでは、前記風速W1及び前記相関関係に基づいて前記地表における風速Wgを取得する
    請求項3に記載のガス監視方法。
  6.  前記風速W1を取得するステップでは、前記UAVのモータ電流値に基づいて前記UAVの飛行高さにおける前記風速W1を算出する
    請求項5に記載のガス監視方法。
  7.  前記撮像装置は、監視対象のガスが吸収する波長の赤外線を選択的に透過させるフィルタを備えた赤外線カメラを含む
    請求項1又は2に記載のガス監視方法。
  8.  前記複数の画像データをオプティカルフロー推定処理して得られる前記複数の速度ベクトルから、前記複数の速度ベクトルの大きさの度数分布又は前記複数の速度ベクトルの向きの度数分布に基づいてノイズ成分を除去するステップを備え、
     前記抽出ステップでは、前記ノイズ成分が除去された前記複数の速度ベクトルから前記ガス速度ベクトルを抽出する
    請求項1又は2に記載のガス監視方法。
  9.  前記複数の速度ベクトルの大きさの度数分布において、度数が第1閾値以上の大きさの範囲に属し、かつ、前記複数の速度ベクトルの向きの度数分布において、度数が第2閾値以下の向きの範囲に属する速度ベクトルを、前記複数の速度ベクトルから前記ノイズ成分として除去する
    請求項8に記載のガス監視方法。
  10.  前記UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データを取得するステップと、
     前記複数の画像データについてリフレーム処理を施すステップと、
     前記リフレーム処理が施された複数の画像データをオプティカルフロー推定処理して前記複数の速度ベクトルを取得するステップと、
    を備える請求項1又は2に記載のガス監視方法。
  11.  UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する速度ベクトル取得部と、
     前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得するダウンウォッシュ速度取得部と、
     前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する抽出部と、
    を備えるガス監視装置。
  12.  撮像装置を搭載したUAVと、
     前記撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して複数の速度ベクトルを算出するように構成されたオプティカルフロー推定処理部と、
     前記複数の速度ベクトルから前記ガス速度ベクトルを抽出するように構成された請求項11に記載のガス監視装置と、
    を備えるガス監視システム。
  13.  コンピュータに、
      UAVに搭載された撮像装置で複数の時刻にそれぞれ撮像して得られる複数の画像データをオプティカルフロー推定処理して得られる複数の速度ベクトルを取得する手順と、
      前記UAVの飛行状態を示す少なくとも1つの変数に基づき前記UAVのダウンウォッシュ速度uを取得する手順と、
      前記複数の速度ベクトルから、前記ダウンウォッシュ速度uに基づいて決定される範囲内の大きさを有するガス速度ベクトルを抽出する手順と、
    実行させるためのガス監視プログラム。
PCT/JP2022/047529 2022-03-24 2022-12-23 ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム WO2023181555A1 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022047701A JP2023141392A (ja) 2022-03-24 2022-03-24 ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム
JP2022-047701 2022-03-24

Publications (1)

Publication Number Publication Date
WO2023181555A1 true WO2023181555A1 (ja) 2023-09-28

Family

ID=88100456

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2022/047529 WO2023181555A1 (ja) 2022-03-24 2022-12-23 ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム

Country Status (2)

Country Link
JP (1) JP2023141392A (ja)
WO (1) WO2023181555A1 (ja)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090471A (ja) * 2000-09-21 2002-03-27 Kokusai Kogyo Co Ltd 噴煙等の観測システム
US20160214715A1 (en) * 2014-11-21 2016-07-28 Greg Meffert Systems, Methods and Devices for Collecting Data at Remote Oil and Natural Gas Sites
WO2018008675A1 (ja) * 2016-07-07 2018-01-11 日本電気株式会社 ガス検知システム
US20210055180A1 (en) * 2018-02-01 2021-02-25 Bridger Photonics, Inc. Apparatuses and methods for gas flux measurements
US20210192175A1 (en) * 2019-12-20 2021-06-24 Volant Aerial, Inc. System and method for the early visual detection of forest fires using a deep convolutional neural network

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002090471A (ja) * 2000-09-21 2002-03-27 Kokusai Kogyo Co Ltd 噴煙等の観測システム
US20160214715A1 (en) * 2014-11-21 2016-07-28 Greg Meffert Systems, Methods and Devices for Collecting Data at Remote Oil and Natural Gas Sites
WO2018008675A1 (ja) * 2016-07-07 2018-01-11 日本電気株式会社 ガス検知システム
US20210055180A1 (en) * 2018-02-01 2021-02-25 Bridger Photonics, Inc. Apparatuses and methods for gas flux measurements
US20210192175A1 (en) * 2019-12-20 2021-06-24 Volant Aerial, Inc. System and method for the early visual detection of forest fires using a deep convolutional neural network

Also Published As

Publication number Publication date
JP2023141392A (ja) 2023-10-05

Similar Documents

Publication Publication Date Title
US20200208970A1 (en) Method and device for movable object distance detection, and aerial vehicle
JP5617100B2 (ja) センサ統合システム及びセンサ統合方法
EP2450832B1 (en) Image processing apparatus and image processing method
KR100898061B1 (ko) 하이브리드 터널 스캐닝 장치
JP2009143722A (ja) 人物追跡装置、人物追跡方法及び人物追跡プログラム
KR101796258B1 (ko) 소형 무인비행체를 이용한 비전 기반의 구조물 안정성 검사 방법
KR102177655B1 (ko) Mvs 기반의 무인항공기를 갖춘 객체 추적 시스템
JP2004005462A (ja) 映像信号から対象物を追跡する方法及びその装置
CN111047568A (zh) 一种漏汽缺陷检测识别方法及系统
CN105716625B (zh) 用于自动地检测飞行器的监测传感器的失准的方法和系统
KR20170136133A (ko) 무인비행체를 이용한 구조물 검사 장치 및 방법
JP2007310574A (ja) 衝突危険性判定システム及び警告システム
US11740315B2 (en) Mobile body detection device, mobile body detection method, and mobile body detection program
JP2006090957A (ja) 移動体の周囲物体検出装置及び移動体の周囲物体検出方法
WO2023181555A1 (ja) ガス監視方法、ガス監視装置、ガス監視システム及びガス監視プログラム
JP7484924B2 (ja) 撮像装置、画像処理システム、画像処理方法及びプログラム
KR101290517B1 (ko) 촬영장치 및 이의 대상 추적방법
KR101640527B1 (ko) 단일객체의 크기를 추정하는 영상 감시장치 및 방법
KR101996368B1 (ko) 영상 처리를 이용한 차량 속도 측정 방법 및 장치
KR100751096B1 (ko) 광흐름을 이용한 속도 측정 장치 및 그 방법
US9691247B2 (en) Fire detection apparatus, method for evaluating at least one fire detection feature and computer program
US12002371B2 (en) Neuromorphic cameras for aircraft
WO2021060136A1 (ja) 作業機械周辺検出対象物位置検出システム、作業機械周辺検出対象物位置検出プログラム
JP2002190027A (ja) 画像認識による速度測定システム及び速度測定方法
CN113469970A (zh) 一种涡激振动监测方法、系统、设备及存储介质

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 22933682

Country of ref document: EP

Kind code of ref document: A1