WO2019058863A1 - ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム - Google Patents
ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム Download PDFInfo
- Publication number
- WO2019058863A1 WO2019058863A1 PCT/JP2018/031286 JP2018031286W WO2019058863A1 WO 2019058863 A1 WO2019058863 A1 WO 2019058863A1 JP 2018031286 W JP2018031286 W JP 2018031286W WO 2019058863 A1 WO2019058863 A1 WO 2019058863A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- image
- time
- series
- gas
- representative
- Prior art date
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M3/00—Investigating fluid-tightness of structures
- G01M3/002—Investigating fluid-tightness of structures by using thermal means
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01M—TESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
- G01M3/00—Investigating fluid-tightness of structures
- G01M3/38—Investigating fluid-tightness of structures by using light
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
- G06T1/20—Processor architectures; Processor configuration, e.g. pipelining
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
Definitions
- the present invention relates to a technology for detecting gas using an image.
- Patent Document 1 includes an infrared camera that captures an inspection target area, and an image processing unit that processes an infrared image captured by the infrared camera.
- the part discloses a gas leak detection device having a fluctuation extraction part that extracts dynamic fluctuation due to gas leak from a plurality of infrared images arranged in time series.
- Patent Document 2 is a system for detecting a gas leak based on photographing by a long focus optical system, and a photographing means for continuously photographing a subject irradiated with parallel light or light close to parallel light by a camera of the long focus optical system And calculating means for converting continuous image data taken by the photographing means into vector display image data in which the motion of particles in the plurality of image data is vector-displayed by optical flow processing, and vector display image data converted by the arithmetic means And an output means for displaying an output.
- Gas regions extracted by image processing may be generated by events other than the appearance of the gas to be detected. For example, when the shadow of a vapor or the like reflected on a reflection surface on which sunlight is reflected is blurred by blocking the sun by a moving cloud, an image resulting therefrom may be included in the image as a gas region. Therefore, in the case of a gas detection technology based on a time-series image (for example, a moving image) which has been subjected to image processing for extracting a gas region, even when gas detection (gas region detection) is performed, the user In consideration of weather conditions (wind, weather), time zones (daytime, nighttime), etc., it may be judged that there is a possibility of false detection.
- a time-series image for example, a moving image
- the user looks at the gas region included in the image to determine whether or not the false detection is made.
- the false detection or not Sometimes I can not judge. Therefore, the user returns to the past from the time when the gas is detected, looks at the movement of the gas region, the change of the shape, and the like, and determines whether or not it is a false detection.
- the user detects a similar gas region and It is judged whether it is a false detection or not by checking whether it is present or not.
- the present invention provides an image processing apparatus for gas detection, an image processing method for gas detection, and a gas detection apparatus that allow a user to grasp the contents of a time-series image in a short time without missing the gas region included in the image.
- An object of the present invention is to provide an image processing program.
- a gas detection image processing apparatus reflecting one aspect of the present invention includes a first generation unit and a display control unit.
- the first generation unit acquires a first time-series image in which an imaging time is a first predetermined period, sets a plurality of second predetermined periods included in the first predetermined period, and arranged in time series; [2] Generation of a representative image of a second time-series image that is a part of the first time-series image corresponding to a predetermined period, with respect to a plurality of the second time-series images corresponding to a plurality of the second predetermined periods By executing the processing, a time-series representative image is generated.
- the first generation unit generates the representative image including the gas region when the representative image is generated using the second time-series image including the gas region.
- the display control unit causes the display unit to display the plurality of representative images constituting the time-series representative image in chronological order.
- FIG. 7 is a schematic view illustrating a process of generating a representative image moving image from a monitoring image moving image according to an embodiment. It is an image figure which shows the specific example of a part of monitoring image moving image. It is an image figure which shows the specific example of a part of monitoring image moving image. It is an image figure showing a representative picture animation generated using 50-second surveillance picture animation. It is an image figure showing the representative image generated using the 1st example of the generation method of a representative image. It is an image figure showing the representative image generated using the 2nd example of the generation method of a representative image.
- the 1st modification of an embodiment is a mimetic diagram explaining the process of generating a representation picture animation from surveillance picture animation.
- the 2nd modification of an embodiment is a mimetic diagram explaining the process of generating a representation picture animation from surveillance picture animation. It is a block diagram showing the composition of the gas detection system concerning the 3rd modification of an embodiment. It is explanatory drawing explaining an example of the method of converting the area
- the 3rd modification of an embodiment is a mimetic diagram explaining the process of generating a representation picture animation from a visible picture animation.
- FIG. 1A is a block diagram showing a configuration of a gas detection system 1 according to an embodiment.
- the gas detection system 1 includes an infrared camera 2 and an image processing device 3 for gas detection.
- the infrared camera 2 captures a moving image of an infrared image of a subject including a monitoring target of gas leak (for example, a portion where gas transport pipes are connected), and generates moving image data MD indicating the moving image. It may be a plurality of infrared images captured in time series, and is not limited to moving images.
- the infrared camera 2 includes an optical system 4, a filter 5, a two-dimensional image sensor 6, and a signal processing unit 7.
- the optical system 4 forms an infrared image of a subject on the two-dimensional image sensor 6.
- the filter 5 is disposed between the optical system 4 and the two-dimensional image sensor 6 and transmits only infrared light of a specific wavelength among the light having passed through the optical system 4.
- the wavelength band that passes through the filter 5 depends on the type of gas to be detected.
- a filter 5 is used which passes a wavelength band of 3.2 to 3.4 ⁇ m.
- the two-dimensional image sensor 6 is, for example, a cooled indium antimony (InSb) image sensor, and receives infrared light that has passed through the filter 5.
- the signal processing unit 7 converts an analog signal output from the two-dimensional image sensor 6 into a digital signal, and performs known image processing. This digital signal becomes moving image data MD.
- the gas detection image processing apparatus 3 is a personal computer, a smartphone, a tablet terminal or the like, and includes an image data input unit 8, an image processing unit 9, a display control unit 10, a display 11, and an input unit 12 as functional blocks.
- the image data input unit 8 is a communication interface that communicates with a communication unit (not shown) of the infrared camera 2.
- the image data input unit 8 receives moving image data MD sent from the communication unit of the infrared camera 2.
- the image data input unit 8 sends the moving image data MD to the image processing unit 9.
- the image processing unit 9 performs predetermined processing on the moving image data MD.
- the predetermined process is, for example, a process of generating time-series pixel data from the moving image data MD.
- FIG. 2 is an explanatory diagram for explaining the time-series pixel data D1.
- a moving image indicated by moving image data MD has a structure in which a plurality of frames are arranged in time series. Data obtained by arranging pixel data of pixels at the same position in time series in a plurality of frames (a plurality of infrared images) is referred to as time series pixel data D1.
- K be the number of frames of the infrared image.
- One frame is composed of M pixels, that is, a first pixel, a second pixel,..., An (M ⁇ 1) th pixel, and an Mth pixel. Physical quantities such as luminance and temperature are determined based on pixel data (pixel values).
- the pixels at the same position of the plurality (K) frames mean pixels in the same order.
- pixel data of the first pixel included in the first frame pixel data of the first pixel included in the second frame,..., K ⁇ 1 th frame
- the data obtained by arranging the pixel data of the first pixel contained in and the pixel data of the first pixel contained in the K-th frame in time series becomes the time-series pixel data D1 of the first pixel.
- pixel data of the Mth pixel included in the first frame pixel data of the Mth pixel included in the second frame,..., K ⁇ 1th frame
- the data obtained by arranging the pixel data of the Mth pixel contained in and the pixel data of the Mth pixel contained in the Kth frame in time series becomes the time series pixel data D1 of the Mth pixel.
- the number of time-series pixel data D1 is the same as the number of pixels constituting one frame.
- image processing unit 9 includes a first generation unit 91 and a second generation unit 92. These will be described later.
- the display control unit 10 causes the display 11 to display the moving image indicated by the moving image data MD and the moving image on which the predetermined processing is performed by the image processing unit 9.
- the input unit 12 receives various inputs related to gas detection. Although the image processing apparatus 3 for gas detection which concerns on embodiment is equipped with the display 11 and the input part 12, the image processing apparatus 3 for gas detection which is not equipped with these may be sufficient.
- FIG. 1B is a block diagram showing a hardware configuration of the gas detection image processing apparatus 3 shown in FIG. 1A.
- the gas detection image processing apparatus 3 includes a central processing unit (CPU) 3a, a random access memory (RAM) 3b, a read only memory (ROM) 3c, a hard disk drive (HDD) 3d, a liquid crystal display 3e, a communication interface 3f, and a keyboard. 3g, and a bus 3h connecting these.
- the liquid crystal display 3 e is hardware that implements the display 11. Instead of the liquid crystal display 3e, an organic EL display (Organic Light Emitting Diode display), a plasma display or the like may be used.
- the communication interface 3 f is hardware that implements the image data input unit 8.
- the keyboard 3 g is hardware that implements the input unit 12. Instead of the keyboard, a touch panel may be used.
- the HDD 3 d stores programs for realizing the functional blocks of the image processing unit 9 and the display control unit 10 and various data (for example, moving image data MD).
- the program for realizing the image processing unit 9 is a processing program for acquiring the moving image data MD and performing the predetermined processing on the moving image data MD.
- the program for realizing the display control unit 10 is, for example, display control for displaying a moving image indicated by the moving image data MD on the display 11 or displaying on the display 11 a moving image subjected to the predetermined processing by the image processing unit 9 It is a program. These programs are stored in advance in the HDD 3d, but are not limited thereto.
- a recording medium for example, an external recording medium such as a magnetic disk or an optical disk
- these programs may be stored in a server connected to the gas detection image processing apparatus 3 via a network, and these programs may be sent to the HDD 3 d via the network and stored in the HDD 3 d.
- These programs may be stored in the ROM 3 c instead of the HDD 3 d.
- the gas detection image processing apparatus 3 may include a flash memory instead of the HDD 3d, and these programs may be stored in the flash memory.
- the CPU 3a is an example of a hardware processor, and the image processing unit 9 and the display control unit 10 are realized by reading these programs from the HDD 3d and expanding them in the RAM 3b and executing the expanded programs.
- some or all of the functions are realized by processing by a DSP (Digital Signal Processor) instead of or together with processing by the CPU 3a. It is also good.
- part or all of each function may be realized by processing by a dedicated hardware circuit instead of or in addition to processing by software.
- the image processing unit 9 is composed of a plurality of elements shown in FIG. 1A. Therefore, a program for realizing these elements is stored in the HDD 3 d. That is, programs for realizing the first generation unit 91 and the second generation unit 92 are stored in the HDD 3 d. These programs are expressed as a first generation program and a second generation program.
- the HDD storing the first generation program may be different from the HDD storing the second generation program.
- a server having an HDD storing the first generation program and a server having an HDD storing the second generation program may be connected via a network (for example, the Internet).
- at least one HDD may be an external HDD connected to a USB port or the like, or a network compatible HDD (NAS: Network Attached Storage).
- the first generation unit 91 and the first generation program will be described as an example.
- the first generation unit 91 acquires a first time-series image whose imaging time is a first predetermined period, sets a plurality of second predetermined periods included in the first predetermined period, and arranged in time series, and [2] Generation of a representative image of a second time-series image that is a part of the first time-series image corresponding to a predetermined period, with respect to a plurality of the second time-series images corresponding to a plurality of the second predetermined periods By executing the processing, a time-series representative image is generated.
- the first generation program acquires a first time-series image in which the imaging time is a first predetermined period, sets a plurality of second predetermined periods included in the first predetermined period, and arranged in time series; Generation of a representative image of a second time-series image which is a portion of the first time-series image corresponding to a predetermined period is performed on a plurality of the second time-series images corresponding to a plurality of the second predetermined periods, respectively. It is a program which produces
- FIG. 12 A flowchart of these programs (a first generation program, a second generation program, etc.) executed by the CPU 3a is FIG. 12 described later.
- the inventor has found that, in gas detection using an infrared image, a gas leak and a background temperature change occur in parallel, and the background temperature change is larger than the temperature change due to the leaked gas. We found that it was not possible to display images of gas leaks without considering the change. This will be described in detail.
- FIG. 3 is an image diagram showing, in time series, an infrared image obtained by photographing an outdoor test place in a state in which gas leak and background temperature change occur in parallel. These are infrared images obtained by capturing a moving image with an infrared camera. At the test site, there is a point SP1 at which gas can be released. In order to compare with point SP1, point SP2 which gas does not eject is shown.
- the image I1 is an infrared image of the test site taken at time T1 immediately before the sunlight is blocked by a cloud.
- Image I2 is an infrared image of the test site taken at time T2 five seconds after time T1. At the time T2, since the sunlight is blocked by the clouds, the temperature of the background is lower than that at the time T1.
- the image I3 is an infrared image of the test site taken at time T3 ten seconds after time T1. Since the state in which sunlight is blocked by clouds continues from time T2 to time T3, the temperature of the background is lower at time T3 than at time T2.
- Image I4 is an infrared image of the test site taken at time T4 15 seconds after time T1. Since the state in which sunlight is blocked by clouds continues from time T3 to time T4, the temperature of the background is lower at time T4 than at time T3.
- the background temperature has dropped by about 4 ° C. in 15 seconds from time T1 to time T4. Therefore, it can be seen that the image I4 is dark overall as compared to the image I1 and the temperature of the background is lowered.
- FIG. 4A is a graph showing the temperature change of the test site point SP1
- FIG. 4B is a graph showing the temperature change of the test site point SP2.
- the vertical axes of these graphs indicate the temperature.
- the horizontal axes of these graphs indicate the order of the frames. For example, 45 means the 45th frame.
- the frame rate is 30 fps.
- the time from the first frame to the 450th frame is 15 seconds.
- the graph showing the temperature change of the point SP1 and the graph showing the temperature change of the point SP2 are different. Since no gas is ejected at the point SP2, the temperature change at the point SP2 indicates the temperature change of the background. On the other hand, since the gas is spouted at the point SP1, the gas is floating at the point SP1. Therefore, the temperature change at the point SP1 indicates the temperature change obtained by adding the temperature change of the background and the temperature change due to the leaked gas.
- the image I2 when the background temperature change is much larger than the temperature change due to the ejected gas (leaked gas), the image I2, the image I3 and the image I4 shown in FIG. I do not know how the gas is coming out.
- moving image data MD (FIG. 1A) is lower in frequency than this frequency component data, and low frequency component data D2 indicating change in background temperature Is included.
- the image shown by the low frequency component data D2 (the change of light and dark of the background) makes the image shown by the frequency component data disappear.
- the minute change included in the graph showing the temperature change at point SP1 corresponds to the frequency component data.
- the graph showing the temperature change of the point SP2 corresponds to the low frequency component data D2.
- the image processing unit 9 (FIG. 1A) generates, from the moving image data MD, a plurality of time series pixel data D1 (that is, a plurality of time series pixel data D1 constituting the moving image data MD) having different pixel positions.
- the low frequency component data D2 is removed from each of the plurality of time-series pixel data D1.
- a plurality of time-series pixel data with different pixel positions may be referred to as time-series pixel data D1 of the first pixel, time-series pixel data D1 of the second pixel,. It means time series pixel data D1 of pixels and time series pixel data D1 of Mth pixel.
- the frequency component data indicating a high frequency noise that is higher in frequency than the frequency of the frequency component data indicating a temperature change due to the leaked gas is set as the high frequency component data D3.
- the image processing unit 9 processes the high-frequency component data D3 in addition to the process excluding the low-frequency component data D2 on each of the plurality of time-series pixel data D1 constituting the moving image data MD.
- the image processing unit 9 does not process the low frequency component data D2 and the high frequency component data D3 in units of frames, but performs low frequency component data D2 and high frequency components data in units of time-series pixel data D1. Process except D3.
- the gas detection image processing apparatus 3 generates a monitoring image using an infrared image. If a gas leak has occurred, the monitoring image includes an image showing an area in which the gas appears due to the gas leak. The gas detection image processing apparatus 3 detects a gas leak based on the monitoring image. Although there are various methods for generating a surveillance image, an example of a method for generating a surveillance image will be described here.
- the surveillance image is generated using infrared images of the surveillance object and the background.
- FIG. 5 is a flowchart illustrating the process of generating a monitoring image.
- image processing unit 9 generates M pieces of time-series pixel data D1 from moving image data MD (step S1).
- Low frequency component data D2 M low frequency component data D2 corresponding to each of M time-series pixel data D1 are extracted (step S2).
- the first predetermined number of frames is, for example, 21 frames.
- the breakdown is a target frame, 10 consecutive frames before this, 10 consecutive frames after this.
- the first predetermined number may be any number capable of extracting the low frequency component data D2 from the time-series pixel data D1, and is not limited to 21 and may be more than 21 or less than 21.
- the image processing unit 9 calculates a simple moving average in units of a third predetermined number (for example, 3) of frames less than the first predetermined number (for example, 21) with respect to the time-series pixel data D1.
- the data extracted from the time-series pixel data D1 by this method is set as high-frequency component data D3, and M high-frequency component data D3 corresponding to each of the M time-series pixel data D1 are extracted (step S3).
- FIG. 6 shows time series pixel data D1 of a pixel corresponding to a point SP1 (FIG. 4A), low frequency component data D2 extracted from time series pixel data D1, and high frequency component data D3 extracted from time series pixel data D1.
- FIG. The vertical and horizontal axes of the graph are the same as the vertical and horizontal axes of the graph of FIG. 4A.
- the temperature indicated by the time-series pixel data D1 changes relatively rapidly (the period of change is relatively short), and the temperature indicated by the low frequency component data D2 changes relatively slowly (the period of change Is relatively long).
- the high frequency component data D3 appears to substantially overlap with the time-series pixel data D1.
- the third predetermined number of frames is, for example, three frames.
- the breakdown is a target frame, one frame immediately before this, and one frame immediately after this.
- the third predetermined number may be any number that can extract the third frequency component from the time-series pixel data, and is not limited to three and may be more than three.
- step S4 data obtained by calculating the difference between time-series pixel data D1 and low-frequency component data D2 extracted from time-series pixel data D1. Is a difference data D4, and M pieces of difference data D4 corresponding to M pieces of time-series pixel data D1 are calculated (step S4).
- the image processing unit 9 sets data obtained by calculating the difference between the time-series pixel data D1 and the high-frequency component data D3 extracted from the time-series pixel data D1 as difference data D5, and M pieces of time-series pixel data M difference data D5 corresponding to each of D1 are calculated (step S5).
- FIG. 7A is a graph showing difference data D4, and FIG. 7B is a graph showing difference data D5.
- the vertical and horizontal axes of these graphs are the same as the vertical and horizontal axes of the graph of FIG. 4A.
- the difference data D4 is data obtained by calculating the difference between the time-series pixel data D1 and the low frequency component data D2 shown in FIG. Before starting gas ejection at the point SP1 shown in FIG. 4A (up to the 90th frame), the repetition of the minute amplitude indicated by the difference data D4 mainly indicates the sensor noise of the two-dimensional image sensor 6. ing. After gas ejection is started at the point SP1 (90th and subsequent frames), the variation in the amplitude and waveform of the difference data D4 is large.
- the difference data D5 is data obtained by calculating the difference between the time-series pixel data D1 and the high frequency component data D3 shown in FIG.
- the difference data D4 includes frequency component data indicating a temperature change due to the leaked gas and high frequency component data D3 (data indicating high frequency noise).
- the difference data D5 does not include frequency component data indicating a temperature change due to the leaked gas, but includes high frequency component data D3.
- the difference data D4 includes frequency component data indicating a temperature change due to the leaked gas
- the variation in amplitude and waveform of the difference data D4 is large after the gas ejection is started at the point SP1 (90th and subsequent frames) It has become.
- the difference data D5 does not include frequency component data indicating a temperature change due to the leaked gas, such a situation does not occur.
- the difference data D5 repeats a minute amplitude. This is high frequency noise.
- the difference data D4 and the difference data D5 are correlated, they are not completely correlated. That is, in a certain frame, the value of the difference data D4 may be positive and the value of the difference data D5 may be negative or vice versa. Therefore, even if the difference between the difference data D4 and the difference data D5 is calculated, the high frequency component data D3 can not be removed. In order to remove the high frequency component data D3, it is necessary to convert the difference data D4 and the difference data D5 into values such as absolute values that can be subtracted.
- the image processing unit 9 sets data obtained by calculating the movement standard deviation in units of the second predetermined number of frames smaller than the K frames as the difference data D4 as the standard deviation data D6, M standard deviation data D6 corresponding to each of the M time-series pixel data D1 are calculated (step S6). Note that instead of the movement standard deviation, the movement variance may be calculated.
- the image processing unit 9 calculates, as a standard, data obtained by calculating, for the difference data D5, a movement standard deviation in units of a fourth predetermined number (for example, 21) of frames smaller than K frames.
- deviation data D7 M standard deviation data D7 corresponding to each of M time-series pixel data D1 are calculated (step S7).
- Moving variance may be used instead of moving standard deviation.
- FIG. 8 is a graph showing the standard deviation data D6 and the standard deviation data D7.
- the horizontal axis of the graph is the same as the horizontal axis of the graph of FIG. 4A.
- the vertical axis of the graph indicates the standard deviation.
- the standard deviation data D6 is data indicating the moving standard deviation of the difference data D4 shown in FIG. 7A.
- the standard deviation data D7 is data indicating the moving standard deviation of the difference data D5 shown in FIG. 7B.
- the number of frames used to calculate the movement standard deviation is 21 for both of the standard deviation data D6 and the standard deviation data D7, but any number that can be used to obtain a statistically significant standard deviation can be used. It is not limited.
- the standard deviation data D6 and the standard deviation data D7 do not include negative values because they are standard deviations. Therefore, the standard deviation data D6 and the standard deviation data D7 can be regarded as data converted so as to be able to subtract the difference data D4 and the difference data D5.
- the image processing unit 9 sets data obtained by calculating the difference between the standard deviation data D6 obtained from the same time-series pixel data D1 and the standard deviation data D7 as difference data D8, and sets M time-series pixel data D1. M pieces of difference data D8 corresponding to each are calculated (step S8).
- FIG. 9 is a graph showing the difference data D8.
- the horizontal axis of the graph is the same as the horizontal axis of the graph of FIG. 4A.
- the vertical axis of the graph is the difference of the standard deviation.
- the difference data D8 is data indicating the difference between the standard deviation data D6 and the standard deviation data D7 shown in FIG.
- the difference data D8 is data that has been processed except for the low frequency component data D2 and the high frequency component data D3.
- the image processing unit 9 generates a monitoring image (step S9). That is, the image processing unit 9 generates a moving image composed of the M pieces of difference data D8 obtained in step S8. Each frame constituting this moving image is a surveillance image.
- the monitoring image is an image in which the difference of the standard deviation is visualized.
- the image processing unit 9 outputs the moving image obtained in step S9 to the display control unit 10.
- the display control unit 10 causes the display 11 to display this moving image.
- surveillance images included in this moving image for example, there are an image I12 shown in FIG. 10 and an image I15 shown in FIG.
- FIG. 10 is an image diagram showing an image I10, an image I11 and an image I12 generated based on the frame at time T1.
- the image I10 is an image of a frame at time T1 in the moving image indicated by the M standard deviation data D6 obtained in step S6 of FIG.
- the image I11 is an image of a frame at time T1 in the moving image represented by the M standard deviation data D7 obtained in step S7 of FIG.
- the difference between the image I10 and the image I11 is an image I12 (monitoring image).
- FIG. 11 is an image diagram showing an image I13, an image I14, and an image I15 generated based on the frame at time T2.
- the image I13 is an image of a frame at time T2 in the moving image represented by the M standard deviation data D6 obtained in step S6.
- the image I14 is an image of a frame at time T2 in the moving image indicated by the M standard deviation data D7 obtained in step S7.
- the difference between the image I13 and the image I14 is an image I15 (monitoring image).
- Each of the images I10 to I15 shown in FIGS. 10 and 11 is an image in which the standard deviation is 5000 times.
- the image I12 shown in FIG. 10 is an image captured before the gas is ejected from the point SP1 shown in FIG. 4A, the image I12 does not show a state in which the gas is emitted from the point SP1.
- the image I15 shown in FIG. 11 is an image captured at the time when gas is ejected from the point SP1, the image I15 shows that gas is released from the point SP1.
- the image processing unit 9 processes the low frequency component data D2 included in the moving image data MD of the infrared image to generate moving image data
- the display control unit 10 causes the display 11 to display the moving image (moving image of the monitoring image) indicated by the moving image data. Therefore, according to the embodiment, the gas leakage and the temperature change of the background occur in parallel, and even if the temperature change of the background is larger than the temperature change due to the leaked gas, the monitoring image of the gas leaking Can be displayed as a movie.
- the sensor noise is different depending on the temperature since it becomes smaller as the temperature becomes higher.
- noise corresponding to the temperature sensed by the pixel is generated in each pixel. That is, the noise of all pixels is not the same. According to the embodiment, since high frequency noise can be removed from the moving image, even a slight gas leak can be displayed on the display 11.
- FIG. 12 is a flowchart for explaining various processes performed in the embodiment in order to realize this.
- FIG. 13 is a schematic view illustrating a process of generating the representative image moving image V2 from the monitoring image moving image V1 according to the embodiment.
- second generation unit 92 generates monitoring image moving image V1 using moving image data MD (step S100 in FIG. 12). Specifically, the second generation unit 92 acquires the moving image data MD input to the image data input unit 8.
- the moving image data MD (an example of the third time-series image) is a moving image of the gas monitoring target captured by the infrared camera 2 as described above. This moving image is, as shown in FIG. 2, composed of a plurality of infrared images (first frame to K-th frame) arranged in time series.
- the second generation unit 92 performs processing (image processing for extracting a gas region) of steps S1 to S9 shown in FIG. 5 on the moving image data MD. As a result, each frame constituting the moving image changes from the infrared image to the monitoring image Im1, and the monitoring image moving image V1 is generated.
- the monitoring image moving image V1 (an example of a first time-series image) is configured of a plurality of monitoring images Im1 arranged in time series.
- the monitoring image Im1 is, for example, an image I12 shown in FIG. 10 and an image I15 shown in FIG.
- a monitoring image moving image V1 includes a gas region in a period in which a gas to be detected appears or in a period in which an event causing an erroneous detection occurs. In the period in which the gas to be detected does not appear and the event causing the erroneous detection does not occur, the monitoring image moving image V1 does not include the gas region. Since the image I15 shown in FIG. 11 is an image captured at the time when gas is ejected from the point SP1, there is a gas region near the point SP1. The gas region is a region of relatively high luminance, which extends near the center of the image I15.
- the gas region is extracted by the processing of step S1 to step S9 shown in FIG. 5, but other image processing may be used as long as it is image processing for extracting the gas region with respect to the infrared image (for example, Image processing disclosed in Patent Document 1).
- first generation unit 91 generates representative image moving image V2 using monitoring image moving image V1 (step S101 in FIG. 12). More specifically, the image processing unit 9 performs noise removal processing (for example, morphology) on each of the plurality of monitoring images Im1 that constitute the monitoring image moving image V1, and then a gas region is displayed on the monitoring image moving image V1. It is determined in real time whether or not it is included. When there is a monitoring image Im1 including a gas region, the image processing unit 9 determines that the monitoring image moving image V1 includes a gas region.
- noise removal processing for example, morphology
- the gas detection image processing device 3 reports the gas detection to the user by issuing a predetermined notification.
- the user determines that the detection has a possibility of an erroneous detection
- the user operates the input unit 12 to input a first predetermined period and a second predetermined period, and an instruction to generate a representative image moving image V2 input.
- the first predetermined period is a period going back from the time of gas detection.
- the second predetermined period is a time unit of the monitoring image moving image V1 used to generate the representative image Im2.
- the first predetermined period is 24 hours
- the second predetermined period is 10 seconds.
- the first generation unit 91 acquires, of the monitoring image moving image V1 stored in the second generating unit 92, the monitoring image moving image V1 up to 24 hours before the gas detection image processing device 3 detects a gas. , 24 hours are divided at intervals of 10 seconds with respect to the acquired monitoring image moving image V1.
- a portion P1 (an example of a second time-series image) of the monitoring image moving image V1 corresponds to each 10 seconds.
- a part P1 of the monitoring image moving image V1 is composed of a plurality of monitoring images Im1 arranged in time series.
- FIGS. 14A and 14B are image diagrams showing a specific example of a part P1 of the monitoring image moving image V1.
- a part P1 of the monitoring image moving image V1 is formed of 300 monitoring images Im1 (frames) arranged in time series.
- FIGS. 14A and 14B are examples in which a portion of 300 sheets are sampled at approximately equal intervals. This corresponds to 10 seconds.
- the first surveillance image Im1 is sampled as the surveillance image Im1 at the start time of 10 seconds.
- the sixteenth surveillance image Im1 is sampled as the surveillance image Im1 at the end time of 10 seconds.
- the vicinity of the center of each monitoring image Im1 is a point SP1 (FIG. 3).
- the first generation unit 91 generates a representative image Im2 for a portion P1 of the monitoring image moving image V1 corresponding to each 10 seconds, thereby generating a representative image moving image V2 (time-series representative Generate an example of an image).
- FIG. 15 is an image diagram showing a representative image moving image V2 generated using the monitoring image moving image V1 for 50 seconds.
- the image indicated by “11:48” is a representative image Im2 of 10 seconds from 11 minutes and 48 seconds to 11 minutes and 58 seconds.
- the image indicated by “11:58” is a representative image Im2 of 10 seconds from 11 minutes and 58 seconds to 12 minutes and 08 seconds.
- the image indicated by “12:08” is a representative image Im2 of 10 seconds from 12 minutes 08 seconds to 12 minutes 18 seconds.
- the image shown by "12:18” is a representative image Im2 of 10 seconds from 12 minutes 18 seconds to 12 minutes 28 seconds.
- the image shown by "12: 28” is a representative image Im2 of 10 seconds from 12 minutes and 28 seconds to 12 minutes and 38 seconds.
- the first generation unit 91 causes the representative image Im2 to include the gas region if the gas region exists in at least a part of 10 seconds.
- a first example of a method of generating a representative image Im2 will be described. Referring to FIGS. 1A and 13, the first generation unit 91 is configured to select a plurality of monitoring images Im1 constituting a part P1 (second time-series image) of the monitoring image moving image V1 from among the pixels located in the same order. , Determine the maximum value of the value indicated by the pixel (here, the difference of the standard deviation). The first generation unit 91 sets this maximum value as the value of the pixels located in the above-described order of the representative image Im2.
- the first generation unit 91 determines the maximum value of the value indicated by the first pixel in the plurality of monitoring images Im1 constituting the part P1 of the monitoring image moving image V1, and this value is used as a representative image This is the value of the first pixel of Im2.
- the first generation unit 91 determines the maximum value of the value indicated by the second pixel in the plurality of monitoring images Im1 constituting a part P1 of the monitoring image moving image V1, and this value is used as the second pixel of the representative image Im2. And the value of The first generation unit 91 performs the same process on the third and subsequent pixels.
- FIG. 16 is an image diagram showing a representative image Im2 generated using the first example of the method for generating the representative image Im2.
- An area with high luminance is relatively widely spread near the center of the representative image Im2 (point SP1 in FIG. 3). This is the gas region. Since the value which the pixel which comprises a gas area
- the representative image Im2 is generated without determining whether a gas region is included in a part P1 (second time-series image) of the monitoring image moving image V1.
- the gas region included in the representative image Im2 is for each of the plurality of monitoring images Im1 constituting the part P1 of the monitoring image moving image V1.
- the gas region is such as to indicate the logical sum of the included gas regions. Therefore, it was found that when the gas is fluctuating due to a change in wind direction or the like, the area of the gas region included in the representative image Im2 can be increased. In such a case, the user can easily find out the gas region.
- the first generation unit 91 performs noise removal processing on each of a plurality of monitoring images Im1 constituting a part P1 (second time-series image) of the monitoring image moving image V1. After performing (for example, morphology), it is determined whether or not a gas region is included for each of the plurality of monitoring images Im1. When the gas region is included in at least one of the plurality of monitoring images Im1, the first generation unit 91 determines that the gas region is included in a part P1 of the monitoring image moving image V1.
- the first generation unit 91 selects the monitoring image Im1 including the gas region among the plurality of monitoring images Im1 configuring the part P1 of the monitoring image moving image V1
- the average luminance value of the gas region is calculated for The method of calculating the average luminance value of the gas region will be briefly described.
- the first generation unit 91 cuts out a gas region from the monitoring image Im1, and calculates an average value of luminance values of the respective pixels forming the gas region. This is the average luminance value of the gas region.
- the first generation unit 91 selects, as a representative image Im2, a monitoring image Im1 in which the average luminance value of the gas region is maximum.
- FIG. 17 is an image diagram showing a representative image Im2 generated using the second example of the method of generating the representative image Im2.
- a rectangular region R1 near the center of the representative image Im2 indicates the position of the gas region.
- a region where the luminance is large is a gas region.
- the average luminance value of the gas region included in the representative image Im2 can be increased. This allows the user to easily find out the gas region.
- a third example of the method of generating the representative image Im2 will be described.
- the third example uses the area of the gas region instead of the average luminance value of the gas region.
- the first generation unit 91 performs noise removal processing on each of a plurality of monitoring images Im1 constituting a part P1 (second time-series image) of the monitoring image moving image V1. After performing (for example, morphology), it is determined whether or not a gas region is included for each of the plurality of monitoring images Im1. When the gas region is included in at least one of the plurality of monitoring images Im1, the first generation unit 91 determines that the gas region is included in a part P1 of the monitoring image moving image V1.
- the first generation unit 91 selects the monitoring image Im1 including the gas region among the plurality of monitoring images Im1 configuring the part P1 of the monitoring image moving image V1. Calculate the area of the gas region. The method of calculating the area of the gas region will be briefly described.
- the first generation unit 91 cuts out a rectangular area surrounding the gas area from the monitoring image Im1, determines pixels having a predetermined value or more in the rectangle as the gas area, and calculates the number of pixels determined as the gas area. This is the area of the gas region.
- the first generation unit 91 selects, as a representative image Im2, the monitoring image Im1 in which the area of the gas region is the largest.
- the area of the gas area included in the representative image Im2 can be increased. This allows the user to easily find out the gas region.
- the first generation unit 91 determines whether a gas area is included in a part P1 of the monitoring image moving picture V1, and a gas area is included in a part P1 of the monitoring image moving picture V1. , And generates a representative image Im2 including a gas region.
- the first generation unit 91 is a part of the monitoring image moving picture V1 when no gas region is included in any of the plurality of monitoring images Im1 constituting the part P1 of the monitoring image moving picture V1. It is determined that P1 does not include a gas region.
- the first generation unit 91 determines a predetermined monitoring image Im1 (a plurality of monitoring images Im1 that constitute the part P1 of the monitoring image moving image V1).
- An arbitrary surveillance image Im1) is taken as a representative image Im2.
- the predetermined monitoring image Im1 may be any of a plurality of monitoring images Im1 constituting a part P1 of the monitoring image moving image V1 (for example, the first monitoring image Im1).
- the user looks at the representative image moving image V2 (time-series representative image) in order to grasp the contents of the monitoring image moving image V1 (first time-series image) in a short time. If there is a second predetermined period in which no gas region exists in the plurality of second predetermined periods (10 seconds), it is necessary to make the user recognize that. Therefore, in the case of the portion P1 of the monitoring image moving image V1 corresponding to the second predetermined period in which the gas region does not exist (the case where the gas region is not included in the portion of the monitoring image moving image V1), the first generation unit 91 monitors the Among a plurality of monitoring images Im1 that constitute a part P1 of the image moving image V1, a predetermined monitoring image Im1 is set as a representative image Im2.
- the first generation unit 91 acquires the first time-series image (monitoring image moving image V1) whose imaging time is the first predetermined period (24 hours), and is included in the first predetermined period, A plurality of second predetermined periods (10 seconds) arranged in series are set, and generation of a representative image Im2 of a second time-series image, which is a portion of the first time-series image corresponding to the second predetermined period, A time-series representative image (representative image moving image V2) is generated by executing the plurality of second time-series images corresponding to each of the predetermined periods.
- display control unit 10 reproduces representative image moving image V2 (step S102 in FIG. 12). Specifically, when the representative image moving image V2 is generated, the gas detection image processing apparatus 3 notifies the user that the representative moving image can be reproduced. The user operates the input unit 12 to command the reproduction of the representative image moving image V2. Thereby, the display control unit 10 displays a plurality of representative images Im2 constituting the representative image moving image V2 on the display 11 in chronological order (displays a plurality of representative images Im2 continuously). For example, the frame rate of reproduction is 4 fps. The reproduction time is 36 minutes as shown by the following equation. As described above, reference numeral 8640 denotes the number of representative images Im2 (frames) constituting the representative image moving image V2.
- the second predetermined period is extended.
- the regeneration time is 6 minutes as shown by the following equation.
- the maximum value of the pixel values in the second predetermined period is set as the pixel value of the representative image Im2. Therefore, in this case, when the second predetermined period is extended, noise is likely to be included in the representative image Im2.
- the representative image Im2 is an image representing a part P1 (second time-series image) of the monitoring image.
- the representative image moving image V2 time-series representative image
- the display control unit 10 causes the display 11 to display a plurality of representative images Im2 in chronological order. Therefore, the user can grasp the contents of the monitoring image moving image V1 (first time-series image) by viewing these representative images Im2.
- the representative image Im2 is an image representing a part P1 of the monitoring image moving image V1
- the number of representative images Im2 constituting the representative image moving image V2 is smaller than the number of monitoring images Im1 forming the monitoring image moving image V1. . Therefore, the representative image moving image V2 can have a shorter reproduction time than the monitoring image moving image V1.
- the user can grasp the content of the time-series image (monitored image moving image V1) in a short time.
- the first generation unit 91 generates a representative image Im2 including a gas region when a part P1 of the monitoring image moving image V1 includes a gas region. Therefore, according to the embodiment, it is possible to prevent the gas region from being overlooked.
- the embodiment it is possible to grasp the content of the monitoring image moving image V1 in a short time without the user missing the gas region included in the image. Therefore, the same effect as the effect of digest reproduction of the monitoring image moving image V1 can be obtained.
- a gas detection system 1 It is possible to use a gas detection system 1 to monitor a target of gas monitoring (for example, gas piping of a gas plant) for a long period of time and provide a user with facts generated during this period.
- a target of gas monitoring for example, gas piping of a gas plant
- the service provider does not have to visit the place where the gas monitoring target is.
- cloud computing it is not realistic to keep uploading all data of the monitoring image moving image V1 to the cloud from the data capacity and the bandwidth, and it is preferable to reduce the data amount.
- the representative image moving image V2 since the number of representative images Im2 constituting the representative image moving image V2 is smaller than the number of monitoring images Im1 constituting the monitoring image moving image V1, the representative image moving image V2 has a data amount more than the monitoring image moving image V1. It can be reduced.
- FIG. 13 is a schematic diagram illustrating a process of generating a representative image moving image V2 from the monitoring image moving image V1 according to the first modification of the embodiment.
- first generation unit 91 divides monitoring image moving image V1 for 24 hours into 2-minute intervals, and for the first 10 seconds of 2 minutes, 2 Set to a predetermined period.
- the first generation unit 91 sets a plurality of division periods (two minutes) obtained by dividing the first predetermined period (24 hours), is included in the division period, and is shorter than the division period A second predetermined period (10 seconds) is set for each of the plurality of division periods.
- 24 hours, 2 minutes, and 10 seconds are specific examples, and the first predetermined period, the division period, and the second predetermined period are not limited to these values.
- the second predetermined period is described as an example starting from the beginning (first) of the divided period, it may not be from the beginning.
- the first generation unit 91 generates a representative image Im2 using a part P1 of the monitoring image moving image V1 corresponding to each 10 seconds. This is similar to the embodiment.
- a period obtained by totaling a plurality of divided periods (two minutes) has the same length as the first predetermined period (24 hours).
- the first modification since the second predetermined period (10 seconds) is shorter than the division period, a plurality of second predetermined periods are set at predetermined intervals.
- the first modification can reduce the number of representative images Im2 when the length of the second predetermined period is the same as compared with the aspect (FIG. 13) in which the plurality of second predetermined periods are continuously set. Therefore, according to the first modification, even if the first predetermined period is long, the monitoring image moving image V1 (first time-series image) is displayed without lengthening the reproduction time of the representative image moving image V2 (time-series representative image). You can grasp the contents roughly.
- the first modification is effective when the first predetermined period is long (for example, one day).
- FIG. 19 is a schematic view illustrating a process of generating a representative image moving image V2 from the monitoring image moving image V1 according to a second modification of the embodiment.
- Gaseous regions may be present in some periods, but not all periods of the split period (2 minutes).
- the leading period (10 seconds) of the divided period (2 minutes) is set as the second predetermined period. In the leading period, no gas region may be generated, and in other than the leading period, the gas region may be generated. In this case, you will miss the gas region.
- the second variation can prevent the gas region from being overlooked, as described below.
- the first generation unit 91 sets this period as the second predetermined period, and the division period When there is no period in which the gas region exists inside, the second predetermined period is not set in this divided period. This will be described in detail by taking three continuous divided periods T1, T2 and T3 shown in FIG. 19 as an example.
- the first generation unit 91 determines whether or not a gas region is included in the monitoring image moving image V1 in the division period T1. It is assumed that a gas region is included in the monitoring image moving image V1 in the division period T1.
- the first generation unit 91 sets a second predetermined period (10 seconds) in a period in which a gas region first appears in the division period T1.
- the first generation unit 91 generates a representative image Im2 using a part P1 (second time-series image) of the monitoring image moving image V1 corresponding to the second predetermined period.
- the first generation unit 91 may set the second predetermined period (10 seconds) from the beginning of the division period to generate the representative image Im2. .
- the first generation unit 91 determines whether or not a gas region is included in the monitoring image moving image V1 in the division period T2. It is assumed that no gas region is included in the monitoring image moving image V1 in the division period T2.
- the first generation unit 91 sets a predetermined monitoring image Im1 as a representative image Im2 out of the plurality of monitoring images Im1 belonging to the divided period T2. For example, the first monitoring image Im1 is taken as a representative image Im2.
- the first generation unit 91 determines whether or not a gas region is included in the monitoring image moving image V1 in the division period T3. It is assumed that a gas region is included in the monitoring image moving image V1 in the division period T3.
- the first generation unit 91 sets a second predetermined period (10 seconds) in a period in which a gas region first appears in the division period T3.
- the first generation unit 91 generates a representative image Im2 using a part P1 of the monitoring image moving image V1 corresponding to the second predetermined period.
- the representative image Im2 not including the gas region is generated, and the gas region exists in at least a part of the division period.
- a representative image Im2 including a region is generated. Therefore, in part of the dividing period, when the gas region is present, it is possible to prevent the gas region from being overlooked.
- the second modification is based on the determination of whether or not the monitored image moving image V1 includes a gas region. Therefore, in the second modification, the second example (the representative image Im2 is determined based on the average luminance value of the gas region), the third example (the area of the gas region), and the second example of the method of generating the representative image Im2 described above.
- the representative image Im2 is determined on the basis of.
- FIG. 20 is a block diagram showing the configuration of a gas detection system 1a according to a third modification of the embodiment. The difference between the gas detection system 1a and the gas detection system 1 shown in FIG. 1A will be described.
- the gas detection system 1 a includes a visible camera 13.
- the visible camera 13 captures a moving image of the same monitoring target in parallel with the capturing of the moving image of the monitoring target by the infrared camera 2. Thereby, the moving image data md output from the visible camera 13 is input to the image data input unit 8.
- the image processing unit 9 of the gas detection system 1a includes a color processing unit 93.
- the color processing unit 93 performs image processing to color the gas region.
- the monitoring image Im1 shown in FIGS. 14A and 14B will be described in detail by way of example. Since the surveillance image Im1 is represented in grayscale, the gas region is also represented in grayscale.
- the color processing unit 93 performs noise removal processing (for example, morphology) on the first monitoring image Im1, and then cuts out a gas region from the first monitoring image Im1.
- the color processing unit 93 colorizes the gas region in accordance with the luminance value of each pixel constituting the cut out gas region.
- the color processing unit 93 regards a pixel having a luminance value equal to or less than a predetermined threshold as noise, and does not colorize the pixel. Therefore, the color processing unit 93 colorizes the pixel having the luminance value exceeding the predetermined threshold.
- FIG. 21 is an explanatory diagram for explaining an example of a method of converting a gray scale area into a color area.
- the horizontal axis of the graph shown in FIG. 21 indicates the original luminance value, and the vertical axis indicates the respective luminance values of RGB.
- the luminance value of R is 0 when the original luminance value is 0 to 127, and linearly increases from 0 to 255 when the original luminance value is 127 to 191, and the original luminance value is 191 to 255 It becomes 255 when.
- the luminance value of G increases linearly from 0 to 255 when the original luminance value is 0 to 63, and is 255 when the original luminance value is 63 to 191, and the original luminance value is 191 to 255 Decreases linearly from 255 to 0.
- the luminance value of B is 255 when the original luminance value is 0 to 63, and decreases linearly from 255 to 0 when the original luminance value is 63 to 127, and the original luminance value is 127 to 255. It becomes 0 at the time of.
- the color processing unit 93 sets adjacent three pixels as one set, and calculates an average value of luminance values of these pixels.
- This average value is the original luminance value. For example, when the average value (original luminance value) is 63, the color processing unit 93 sets the luminance value of the pixel corresponding to R to 0, the luminance of the pixel corresponding to G among the three pixels constituting the group. The value is set to 255, and the luminance value of the pixel corresponding to B is set to 255.
- the color processing unit 93 performs the same processing for the other sets. Thereby, the gas region is colored.
- the luminance value (pixel value) of each pixel constituting the gas region is relatively large, so the area of red in the gas region is large. If the gas concentration is low, the area of blue in the gas region is large because the luminance value (pixel value) of each pixel constituting the gas region is relatively small.
- the color processing unit 93 similarly colorizes the gas regions in the gas regions included in each of the second to sixteenth monitored images Im1.
- the color processing unit 93 combines the colored gas region (hereinafter, color gas region) into the visible image Im3. Specifically, the color processing unit 93 acquires, from the moving image data md, a frame (visible image Im3) captured at the same time as the monitoring image Im1 illustrated in FIGS. 14A and 14B. The color processing unit 93 combines the color gas area of the gas area cut out from the first monitoring image Im1 into a frame (visible image Im3) whose imaging time is the same as that of the first monitoring image Im1. The color processing unit 93 performs the same process also on the color gas area of the gas area cut out from the second to sixteenth monitor images Im1.
- 22A and 22B are image diagrams showing a specific example of the visible image Im3 in which the color gas region R2 is synthesized.
- the imaging time is the same for the visible image Im3 and the monitoring image Im1 in the same order.
- the first visible image Im3 and the first monitoring image Im1 have the same imaging time.
- the visible image Im3 is a color image.
- a color gas region R2 is synthesized near the center of the visible image Im3 (point SP1 in FIG. 3).
- the color gas region R2 clearly appears in the first to fifth visible images Im3 and the fifteenth to sixteenth visible images Im3 among the 16 samples sampled from 300 sheets for 10 seconds (see drawing However, in the actual image, the color gas region R2 does not clearly appear in the sixth to the fourteenth visible images Im3). This is because it reflects the gas region appearing in the monitoring image Im1 shown in FIGS. 14A and 14B.
- FIG. 23 is a schematic diagram for explaining a process of generating a representative image moving image V4 (an example of a time-series representative image) from a visible image moving image V3 (an example of a first time-series image) according to a third modification of the embodiment. .
- the first generation unit 91 generates a representative image Im4 for a portion P2 (second time-series image) of the visible image moving image V3 corresponding to 10 seconds.
- An image moving image V4 is generated.
- FIG. 24 is an image diagram showing a representative image moving image V4 generated using the 50 second visible image moving image V3.
- the image indicated by “11:48” is a representative image Im4 of 10 seconds from 11 minutes and 48 seconds to 11 minutes and 58 seconds.
- the image shown by “11:58” is a representative image Im4 of 10 seconds from 11 minutes and 58 seconds to 12 minutes and 08 seconds.
- the image shown by "12:08” is a representative image Im4 of 10 seconds from 12 minutes 08 seconds to 12 minutes 18 seconds.
- the image shown by "12:18” is a representative image Im4 of 10 seconds from 12 minutes 18 seconds to 12 minutes 28 seconds.
- the image shown by "12: 28” is a representative image Im4 of 10 seconds from 12 minutes and 28 seconds to 12 minutes and 38 seconds.
- the color gas region R2 clearly appears in the representative image Im4 indicated by "11:58” and the representative image Im4 indicated by "12:08” (not shown in the drawing, but in the actual image, the color gas region R2 is Appear).
- the first generation unit 91 causes the representative image Im4 to include the color gas area R2.
- a method of generating a representative image Im4 will be described. Referring to FIGS. 20 and 23, the first generation unit 91 performs processing (for example, morphology) to remove noise on each of a plurality of visible images Im3 constituting a part P2 of the visible image moving image V3. Thereafter, it is determined whether or not the color gas region R2 is included for each of the plurality of visible images Im3.
- the first generation unit 91 determines that the color gas region R2 is included in a part P2 of the visible image moving image V3.
- the first generation unit 91 selects the plurality of visible images Im3 that constitute the portion P2 of the visible image moving image V3.
- the area of the color gas region R2 is calculated for each of the visible images Im3 including the color gas region R2.
- the method of calculating the area of the color gas region R2 is the same as the method of calculating the area of the gas region.
- the first generation unit 91 selects a visible image Im3 in which the area of the color gas region R2 is the largest as a representative image Im4.
- FIG. 25 is an image diagram showing a representative image Im4 generated by the third modification. In the representative image Im4, the color gas area R2 clearly appears (the color gas area R2 appears in the actual image, although it is not known in the drawing).
- the first generation unit 91 When the color gas region R is not included in any of the plurality of visible images Im3 constituting the portion P2 of the visible image moving image V3, the first generation unit 91 generates the color gas region R2 in the portion P2 of the visible image moving image V3. Determined not to be included.
- the first generation unit 91 causes a predetermined visibility to be established among the plurality of visible images Im3 constituting the portion P2 of the visible image moving image V3.
- the image Im3 is a representative image.
- the predetermined visible image Im3 may be any of a plurality of visible images Im3 constituting a part P2 of the visible image moving image V3 (for example, the first visible image Im3).
- the third modification has a second form shown below in addition to the first form as described above.
- the first generation unit 91 and the second generation unit 92 shown in FIG. 20 generate the representative image moving image V2 by the method (first example of the method for generating the representative image Im2) described with reference to FIGS.
- the representative image moving image V4 may be generated based on the image moving image V2.
- the color processing unit 93 performs noise removal processing (for example, morphology) on each of the plurality of representative images Im2 that constitute the representative image moving image V2 (FIG. 13), and then the plurality of representative images For each of Im2, it is determined whether a gas region is included.
- the color processing unit 93 cuts out the gas region for the representative image Im2 including the gas region, and colorizes the gas region (generates the color gas region R2) using the method described above, and the imaging time corresponding to the representative image Im2 Color gas area
- This composite image is a representative image Im4 (FIG. 23).
- FIG. 26 is an image view showing a representative image Im4 generated by the second form of the third modification. In the representative image Im4, the color gas area R2 clearly appears (the color gas area R2 appears in the actual image, although it is not known in the drawing).
- the gas region included in the representative image Im4 is colored (color gas region R2)
- the gas region can be made conspicuous. This allows the user to easily find out the gas region.
- the third modification can be combined with the first modification shown in FIG. 18 and can be combined with the second modification shown in FIG.
- a color visible image Im3 is described as an example of the background of the color gas region R2, but a gray scale visible image Im3 may be used as the background.
- an infrared image captured by the infrared camera 2 may be used as a background. In the form which makes an infrared image a background, visible camera 13 becomes unnecessary.
- the image processing apparatus for gas detection acquires a first time-series image whose imaging time is a first predetermined period, and is included in the first predetermined period, and a plurality of the first time-series images are arranged in time series.
- a plurality of predetermined periods are set, and generation of a representative image of a second time-series image which is a part of the first time-series image corresponding to the second predetermined period corresponds to each of a plurality of the second predetermined periods
- a first generation unit configured to generate a time-series representative image by executing the second time-series image, the first generation unit using the second time-series image including a gas region
- the display control unit is configured to generate the representative image including the gas region, and further to cause the display unit to display the plurality of representative images constituting the time-series representative image in chronological order.
- the first time-series image an object of gas monitoring (for example, a gas pipe of a gas plant) is shown.
- the first time-series image may be a time-series image subjected to image processing for extracting a gas region, or may be a time-series image not subjected to such image processing. In the latter, for example, when liquefied natural gas leaks from the gas pipe, the first time-series image includes a misty image (gas area) even if image processing for extracting the gas area is not performed.
- the image processing for extracting the gas region is not limited to the image processing described in the embodiment, and may be known image processing.
- the first period of time in which the gas to be detected appears or in the period in which an event causing an erroneous detection occurs The sequence image includes the gas region.
- the first time-series image does not include the gas region in the period in which the gas to be detected does not appear and the event causing the false detection does not occur.
- the representative image is an image representing a second time-series image (a part of the first time-series image).
- the time-series representative image is composed of a plurality of representative images arranged in time series.
- the display control unit causes the display unit to display a plurality of representative images in chronological order (reproduces a time-series representative image). Therefore, the user can grasp the contents of the first time-series image by looking at these representative images.
- the representative image is an image representing the second time-series image which is a portion of the first time-series image
- the number of representative images constituting the time-series representative image is an image constituting the first time-series image Less than the number of
- the time-series representative image can have a shorter reproduction time than the first time-series image.
- the user can grasp the content of the time-series image (first time-series image) in a short time.
- the first generation unit generates a representative image including the gas region when the second time-series image includes the gas region. Therefore, according to the image processing apparatus for gas detection which concerns on the 1st aspect of embodiment, it can prevent the missing of a gas area
- the gas detection image processing apparatus determines whether the second time-series image includes the gas area, and whether the second time-series image includes the gas area There is a second mode in which it is not determined whether or not.
- the second aspect if the second time-series image includes the gas region, as a result, a representative image including the gas region is generated, and if the second time-series image does not include the gas region, the result is , Generate a representative image that does not include the gas region.
- composition it has further a processing part which performs image processing which colorizes the above-mentioned gas field.
- the gas region since the gas region is colored, the gas region can be made to stand out. This allows the user to easily find out the gas region.
- the gas region may be colored at the stage of the first time-series image (a plurality of images constituting the first time-series image may be processed to color the gas region), or At the stage of the series representative image, the gas area may be colored (a process of coloring the gas area may be performed on a plurality of representative images constituting the time series representative image).
- each of the first generation units when the gas region is included in the second time-series image, each of the first generation units includes an image including the gas region among a plurality of images constituting the second time-series image.
- the area of the gas region is calculated, and an image with the largest area of the gas region is selected as the representative image.
- This configuration is the first aspect described above. According to this configuration, when the gas region is included in the second time-series image, the area of the gas region included in the representative image can be increased. This allows the user to easily find out the gas region.
- each of the first generation units when the gas region is included in the second time-series image, each of the first generation units includes an image including the gas region among a plurality of images constituting the second time-series image.
- the average luminance value of the gas region is calculated, and an image with the largest average luminance value of the gas region is selected as the representative image.
- This configuration is the first aspect described above. According to this configuration, when the gas region is included in the second time-series image, the average luminance value of the gas region included in the representative image can be increased. This allows the user to easily find out the gas region.
- the first generation unit when the gas region is not included in the second time-series image, the first generation unit is configured to set a predetermined image among a plurality of images constituting the second time-series image. Select as a representative image.
- This configuration is the first aspect described above.
- the user views the time-series representative image in order to grasp the content of the first time-series image in a short time. Therefore, if there is a second predetermined period in which no gas region exists in the plurality of second predetermined periods, it is necessary to make the user recognize that. Therefore, in the case of the second time-series image corresponding to the second predetermined period in which the gas region does not exist (when the second time-series image does not include the gas region), the first generation unit generates the second time-series image.
- a predetermined image (arbitrary image) is set as a representative image.
- the predetermined image may be any of a plurality of images constituting the second time-series image (for example, the first image).
- the first generation unit sets a plurality of divided periods obtained by dividing the first predetermined period, and the plurality of divided second predetermined periods included in the divided periods and shorter than the divided periods are included in the divided periods. Set for each of the periods.
- a period obtained by summing a plurality of divided periods has the same length as the first predetermined period.
- the plurality of second predetermined periods are set at predetermined intervals.
- This configuration can reduce the number of representative images when the length of the second predetermined period is the same as compared with an aspect in which a plurality of second predetermined periods are continuously set. Therefore, according to this configuration, even if the first predetermined period is long, the content of the first time-series image can be roughly grasped without lengthening the reproduction time of the time-series representative image.
- This configuration is effective when the first predetermined period is long (for example, one day).
- the first generation unit when there is a period in which the gas region exists in the divided period, sets the period to the second predetermined period.
- the gas region may be present in some but not all of the split periods.
- the first generation unit generates a representative image including the gas region when the second predetermined period is set in the period in which the gas region exists, and sets the second predetermined period in the period when the gas region is not included, the gas A representative image that does not include the area will be generated.
- This configuration gives priority to the former. Therefore, the first generation unit generates a representative image not including the gas region when there is no gas region in the entire division period, and when the gas region exists in at least a part of the division period, the gas region To generate a representative image including According to this configuration, it is possible to prevent the gas region from being overlooked when at least a part of the division period is in the gas region.
- the first generation unit is configured to set the maximum value of the values indicated by the pixels located in the same order to the pixels located in the order in the representative image. Set as a value to generate the representative image.
- region comprised with the pixel which has a comparatively large value turns into a gas area
- This configuration is the second aspect described above, and the representative image is generated without determining whether the gas region is included in the second time-series image.
- the gas region included in the representative image is a logical sum of the gas regions included in each of the plurality of images constituting the second time-series image. It becomes a gas area as shown. Therefore, it has been found that when the gas is fluctuating due to a change in wind direction or the like, the area of the gas region included in the representative image can be increased. In such a case, the user can easily find out the gas region.
- the first generation unit sets a plurality of divided periods obtained by dividing the first predetermined period, and the plurality of divided second predetermined periods included in the divided periods and shorter than the divided periods are included in the divided periods. Set for each of the periods.
- the content of the first time-series image can be roughly grasped without lengthening the reproduction time of the time-series representative image.
- This configuration is effective when the first predetermined period is long (for example, one day).
- the gas field when the gas field is included in the representative picture, it further has a treating part which carries out image processing which colorizes the gas field.
- This configuration determines whether the representative image includes the gas region, and colors the gas region if the representative image includes the gas region. Therefore, according to this configuration, the gas region can be made conspicuous.
- the second generation unit that generates the first time-series image by further performing image processing for extracting the gas region on the third time-series image captured in the first predetermined period is further provided. Prepare.
- the time-series image subjected to the image processing for extracting the gas region becomes the first time-series image.
- the image processing method for gas detection acquires a first time-series image in which an imaging time is a first predetermined period, and is included in the first predetermined period and arranged in time series.
- a plurality of predetermined periods are set, and generation of a representative image of a second time-series image which is a part of the first time-series image corresponding to the second predetermined period corresponds to each of a plurality of the second predetermined periods
- the method further includes a display control step of generating the representative image including the gas region and displaying a plurality of representative images constituting the time-series representative image on the display unit in time-series order .
- the gas detection image processing method according to the second aspect of the embodiment defines the gas detection image processing apparatus according to the first aspect of the embodiment from the viewpoint of the method, and the gas detection according to the first aspect of the embodiment The same effects as those of the image processing apparatus are obtained.
- the gas detection image processing program acquires a first time-series image whose imaging time is a first predetermined period, and is included in the first predetermined period; (2) A plurality of predetermined periods are set, and generation of a representative image of a second time-series image which is a part of the first time-series image corresponding to the second predetermined period corresponds to each of a plurality of the second predetermined periods Performing on the second time-series image, causing the computer to execute a first generation step of generating a time-series representative image, the first generation step including the second time-series image including a gas region
- the display control When using the representative image to generate the representative image, the display control generates the representative image including the gas region, and further causes the display unit to display the plurality of representative images constituting the time-series representative image in chronological order Step To be executed by a computer.
- the gas detection image processing program according to the third aspect of the embodiment defines the gas detection image processing apparatus according to the first aspect of the embodiment from the viewpoint of the program, and the gas detection according to the first aspect of the embodiment The same effects as those of the image processing apparatus are obtained.
- the present invention it is possible to provide a gas detection image processing device, a gas detection image processing method, and a gas detection image processing program.
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Examining Or Testing Airtightness (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
- Investigating Or Analysing Materials By Optical Means (AREA)
Abstract
ガス検知用画像処理装置は、第1生成部と表示制御部とを備える。第1生成部は、撮像時間が第1所定期間である第1時系列画像を取得し、第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、第2所定期間に対応する第1時系列画像の一部分(第2時系列画像)の代表画像の生成を、複数の第2所定期間のそれぞれに対応する複数の第2時系列画像に対して実行することにより、時系列代表画像を生成する。第1生成部は、ガス領域を含む第2時系列画像を用いて、代表画像を生成する場合、ガス領域を含む代表画像を生成する。表示制御部は、時系列代表画像を構成する複数の代表画像を、時系列順に表示させる。
Description
本発明は、画像を利用してガスを検知する技術に関する。
ガス漏れが発生したとき、漏れたガスが漂っている領域では、わずかな温度変化が生じる。この原理を利用してガス検知する技術として、赤外画像を利用したガス検知が知られている。
赤外画像を利用したガス検知として、例えば、特許文献1は、検査対象領域を撮影する赤外線カメラと、赤外線カメラにより撮影された赤外画像を処理する画像処理部と、を有し、画像処理部は、時系列に並べられた複数の赤外画像からガス漏れによる動的なゆらぎを抽出するゆらぎ抽出部を有するガス漏れ検出装置を開示している。
赤外画像を利用したガス検知以外に、画像を利用したガス検知として、例えば、オプティカルフローを利用したガス検知が提案されている。特許文献2は、長焦点光学系の撮影に基づいてガス漏れを検知するシステムであって、平行光または平行光に近い光に照射された被写体を長焦点光学系のカメラによって連続撮影する撮影手段と、その撮影手段が撮影した連続画像データをオプティカルフロー処理によって複数の画像データにおける粒子の動きをベクトル表示したベクトル表示画像データに変換する演算手段と、その演算手段が変換したベクトル表示画像データを出力表示する出力手段と、を備えるガス漏れ検知システムを開示している。
画像処理により抽出されたガス領域は、検知対象となるガスの出現以外の事象により生じることがある。例えば、移動する雲によって太陽が遮られることにより、太陽光が反射する反射面に写された、蒸気等の影がゆらいでいるとき、これによる像がガス領域として画像に含まれることがある。従って、ガス領域を抽出する画像処理がされた、時系列画像(例えば、動画)を基にしたガス検知技術の場合、ガス検知(ガス領域が検知)がされても、ユーザーは、ガス検知時の気象条件(風、天候)、時間帯(昼間、夜間)等を考慮し、誤検知の可能性があると判断することがある。
このようなとき、ユーザーは、画像に含まれるガス領域を見て、誤検知か否かを判断することになるが、ガス検知された時点の画像だけを見ても、誤検知か否かを判断できないことがある。そこで、ユーザーは、ガス検知された時点から過去に戻り、ガス領域の動き、形状の変化等を見て、誤検知か否かを判断する。また、上記影のゆらぎの場合、太陽との位置関係が同じ位置で、違う日の同じ時間帯において、太陽が雲に遮られていないときに、ユーザーが、同じようなガス領域が検出されているか否かを見て、誤検知か否かを判断する。この判断をするために、ガス検知された時点より遡り、上記時系列画像を再生することが考えられる。しかし、遡る期間が長いとき(例えば、1日や1週間)、時系列画像の再生時間が長くなるので、ユーザーは、誤検知か否かを速やかに判断することができない。時系列画像を早送り再生すれば、画像に含まれるガス領域を見逃す可能性がある。
本発明は、ユーザーが画像に含まれるガス領域を見逃すことなく、時系列画像の内容を短時間で把握することができるガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラムを提供することを目的とする。
上述した目的を実現するために、本発明の一側面を反映したガス検知用画像処理装置は、第1生成部と表示制御部とを備える。前記第1生成部は、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する。前記第1生成部は、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成する。前記表示制御部は、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる。
発明の1又は複数の実施形態により与えられる利点及び特徴は以下に与えられる詳細な説明及び添付図面から十分に理解される。これら詳細な説明及び添付図面は、例としてのみ与えられるものであり本発明の限定の定義として意図されるものではない。
以下、図面を参照して、本発明の1又は複数の実施形態が説明される。しかし、発明の範囲は、開示された実施形態に限定されない。
各図において、同一符号を付した構成は、同一の構成であることを示し、その構成について、既に説明している内容については、その説明を省略する。図1Aは、実施形態に係るガス検知システム1の構成を示すブロック図である。ガス検知システム1は、赤外線カメラ2とガス検知用画像処理装置3とを備える。
赤外線カメラ2は、ガス漏れの監視対象(例えば、ガス輸送管どうしが接続されている箇所)を含む被写体について、赤外画像の動画を撮影し、動画を示す動画データMDを生成する。時系列に撮像された複数の赤外画像であればよく、動画に限定されない。赤外線カメラ2は、光学系4、フィルター5、二次元イメージセンサー6及び信号処理部7を備える。
光学系4は、被写体の赤外画像を二次元イメージセンサー6上で結像させる。フィルター5は、光学系4と二次元イメージセンサー6との間に配置され、光学系4を通過した光のうち、特定波長の赤外線のみを通過させる。赤外の波長帯のうち、フィルター5を通過させる波長帯は、検知するガスの種類に依存する。例えばメタンの場合、3.2~3.4μmの波長帯を通過させるフィルター5が用いられる。二次元イメージセンサー6は、例えば、冷却型インジウムアンチモン(InSb)イメージセンサーであり、フィルター5を通過した赤外線を受光する。信号処理部7は、二次元イメージセンサー6から出力されたアナログ信号を、デジタル信号に変換し、公知の画像処理をする。このデジタル信号が、動画データMDとなる。
ガス検知用画像処理装置3は、パーソナルコンピュータ、スマートフォン、タブレット端末等であり、機能ブロックとして、画像データ入力部8、画像処理部9、表示制御部10、ディスプレイ11及び入力部12を備える。
画像データ入力部8は、赤外線カメラ2の通信部(不図示)と通信する通信インターフェイスである。画像データ入力部8には、赤外線カメラ2の通信部から送られてきた動画データMDが入力される。画像データ入力部8は、動画データMDを画像処理部9へ送る。
画像処理部9は、動画データMDに所定の処理をする。所定の処理とは、例えば、動画データMDから時系列画素データを生成する処理である。
時系列画素データを具体的に説明する。図2は、時系列画素データD1を説明する説明図である。動画データMDで示される動画は、フレームが時系列に複数並べられた構造を有する。複数のフレーム(複数の赤外画像)において、同じ位置にある画素の画素データを時系列に並べたデータを、時系列画素データD1とする。赤外画像の動画のフレーム数をKとする。一つのフレームがM個の画素、すなわち、1番目の画素、2番目の画素、・・・、M-1番目の画素、M番目の画素で構成されている。画素データ(画素値)を基にして、輝度、温度等の物理量が定められる。
複数(K個)のフレームの同じ位置にある画素とは、同じ順番の画素を意味する。例えば、1番目の画素で説明すると、1番目のフレームに含まれる1番目の画素の画素データ、2番目のフレームに含まれる1番目の画素の画素データ、・・・、K-1番目のフレームに含まれる1番目の画素の画素データ、K番目のフレームに含まれる1番目の画素の画素データを、時系列に並べたデータが、1番目の画素の時系列画素データD1となる。また、M番目の画素で説明すると、1番目のフレームに含まれるM番目の画素の画素データ、2番目のフレームに含まれるM番目の画素の画素データ、・・・、K-1番目のフレームに含まれるM番目の画素の画素データ、K番目のフレームに含まれるM番目の画素の画素データを、時系列に並べたデータが、M番目の画素の時系列画素データD1となる。時系列画素データD1の数は、一つのフレームを構成する画素の数と同じである。
図1Aを参照して、画像処理部9は、第1生成部91及び第2生成部92を備える。これらについては、後で説明する。
表示制御部10は、動画データMDで示される動画、及び、画像処理部9で上記所定の処理がされた動画を、ディスプレイ11に表示させる。
入力部12は、ガス検知に関連する各種入力がされる。実施形態に係るガス検知用画像処理装置3は、ディスプレイ11及び入力部12を備えるが、これらを備えないガス検知用画像処理装置3でもよい。
図1Bは、図1Aに示すガス検知用画像処理装置3のハードウェア構成を示すブロック図である。ガス検知用画像処理装置3は、CPU(Central Processing Unit)3a、RAM(Random Access Memory)3b、ROM(Read Only Memory)3c、HDD(Hard Disk Drive)3d、液晶ディスプレイ3e、通信インターフェイス3f、キーボード等3g、及び、これらを接続するバス3hを備える。液晶ディスプレイ3eは、ディスプレイ11を実現するハードウェアである。液晶ディスプレイ3eの替わりに、有機ELディスプレイ(Organic Light Emitting Diode display)、プラズマディスプレイ等でもよい。通信インターフェイス3fは、画像データ入力部8を実現するハードウェアである。キーボード等3gは、入力部12を実現するハードウェアである。キーボードの替わりに、タッチパネルでもよい。
HDD3dには、画像処理部9及び表示制御部10について、これらの機能ブロックをそれぞれ実現するためのプログラム、及び、各種データ(例えば、動画データMD)が格納されている。画像処理部9を実現するプログラムは、動画データMDを取得し、動画データMDに上記所定の処理をする処理プログラムである。表示制御部10を実現するプログラムは、例えば、動画データMDで示される動画をディスプレイ11に表示させたり、画像処理部9によって上記所定の処理がされた動画をディスプレイ11に表示させたりする表示制御プログラムである。これらのプログラムは、HDD3dに予め記憶されているが、これに限定されない。例えば、これらのプログラムを記録している記録媒体(例えば、磁気ディスク、光学ディスクのような外部記録媒体)が用意されており、この記録媒体に記憶されているプログラムがHDD3dに記憶されてもよい。また、これらのプログラムは、ガス検知用画像処理装置3とネットワーク接続されたサーバに格納されており、ネットワークを介して、これらのプログラムがHDD3dに送られ、HDD3dに記憶されてもよい。これらのプログラムは、HDD3dの替わりにROM3cに記憶してもよい。ガス検知用画像処理装置3は、HDD3dの替わりに、フラッシュメモリを備え、これらのプログラムはフラッシュメモリに記憶してもよい。
CPU3aは、ハードウェアプロセッサの一例であり、これらのプログラムを、HDD3dから読み出してRAM3bに展開させ、展開されたプログラムを実行することによって、画像処理部9及び表示制御部10が実現される。但し、画像処理部9の機能及び表示制御部10の機能について、各機能の一部又は全部は、CPU3aによる処理に替えて、又は、これと共に、DSP(Digital Signal Processor)による処理によって実現されてもよい。又、同様に、各機能の一部又は全部は、ソフトウェアによる処理に替えて、又は、これと共に、専用のハードウェア回路による処理によって実現されてもよい。
なお、画像処理部9は、図1Aに示す複数の要素によって構成される。従って、HDD3dには、これらの要素を実現するためのプログラムが格納されている。すなわち、HDD3dには、第1生成部91及び第2生成部92のそれぞれを実現するためのプログラムが格納されている。これらのプログラムは、第1生成プログラム、第2生成プログラムと表現される。第1生成プログラムを記憶しているHDDと、第2生成プログラムを記憶しているHDDとが異なっていてもよい。この場合、第1生成プログラムを記憶しているHDDを有するサーバと、第2生成プログラムを記憶しているHDDを有するサーバとが、ネットワーク(例えば、インターネット)を介して接続されていてもよい。又は、少なくとも一方のHDDが、USBポートなどに接続された外付けHDDでもよいし、ネットワーク対応のHDD(NAS:Network Attached Storage)でもよい。
これらのプログラムは、要素の定義を用いて表現される。第1生成部91及び第1生成プログラムを例にして説明する。第1生成部91は、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する。第1生成プログラムは、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成するプログラムである。
CPU3aによって実行されるこれらのプログラム(第1生成プログラム、第2生成プログラム等)のフローチャートが、後で説明する図12である。
本発明者は、赤外画像を利用したガス検知において、ガス漏れと背景の温度変化とが並行して発生し、背景の温度変化が、漏れたガスによる温度変化よりも大きい場合、背景の温度変化を考慮しなければ、ガスが漏れている様子を画像で表示できないことを見出した。これについて詳しく説明する。
図3は、ガス漏れと背景の温度変化とが並行して発生している状態で、屋外の試験場所を撮影した赤外画像を時系列で示す画像図である。これらは、赤外線カメラで動画を撮影して得られた赤外画像である。試験場所には、ガスを噴出させることができる地点SP1がある。地点SP1と比較するために、ガスが噴出しない地点SP2を示している。
画像I1は、太陽光が雲で遮られる直前の時刻T1に撮影された試験場所の赤外画像である。画像I2は、時刻T1から5秒後の時刻T2に撮影された試験場所の赤外画像である。時刻T2は、太陽光が雲で遮られているので、時刻T1と比べて背景の温度が下がっている。
画像I3は、時刻T1から10秒後の時刻T3に撮影された試験場所の赤外画像である。時刻T2から時刻T3まで、太陽光が雲で遮られた状態が継続されているので、時刻T3は、時刻T2と比べて背景の温度が下がっている。
画像I4は、時刻T1から15秒後の時刻T4に撮影された試験場所の赤外画像である。時刻T3から時刻T4まで、太陽光が雲で遮られた状態が継続されているので、時刻T4は、時刻T3と比べて背景の温度が下がっている。
時刻T1から時刻T4までの15秒間で、背景の温度が約4℃下がっている。このため、画像I4は、画像I1と比べて全体的に暗くなっており、背景の温度が低下していることが分かる。
時刻T1後かつ時刻T2前の時刻に、地点SP1において、ガスの噴出を開始させている。噴出されたガスによる温度変化は、わずかである(約0.5℃)。このため、時刻T2、時刻T3、時刻T4では、地点SP1でガスが噴出しているが、噴出されたガスによる温度変化よりも、背景の温度変化の方がはるかに大きいので、画像I2、画像I3、画像I4を見ても地点SP1からガスが出ている様子が分からない。
図4Aは、試験場所の地点SP1の温度変化を示すグラフであり、図4Bは、試験場所の地点SP2の温度変化を示すグラフである。これらのグラフの縦軸は、温度を示している。これらのグラフの横軸は、フレームの順番を示している。例えば、45とは、45番目のフレームを意味する。フレームレートは、30fpsである。よって、1番目のフレームから450番目のフレームまでの時間は、15秒となる。
地点SP1の温度変化を示すグラフと地点SP2の温度変化を示すグラフとは異なる。地点SP2ではガスが噴出していないので、地点SP2の温度変化は、背景の温度変化を示している。これに対して、地点SP1では、ガスが噴出しているので、地点SP1には、ガスが漂っている。このため、地点SP1の温度変化は、背景の温度変化と漏れたガスによる温度変化とを加算した温度変化を示している。
図4Aに示すグラフからは、地点SP1でガスが噴出していることが分かる(すなわち、地点SP1でガス漏れが発生していることが分かる)。しかし、上述したように、図3に示す画像I2、画像I3、画像I4からは、地点SP1でガスが噴出していることが分からない(すなわち、地点SP1でガス漏れが発生していることが分からない)。
このように、噴出されたガス(漏れたガス)による温度変化よりも、背景の温度変化の方がはるかに大きい場合、図3に示す画像I2、画像I3、画像I4を見ても地点SP1からガスが出ている様子が分からない。
この原因は、動画データMD(図1A)には、漏れたガスによる温度変化を示す周波数成分データに加えて、この周波数成分データよりも周波数が低く、背景温度の変化を示す低周波成分データD2が含まれるからである。低周波成分データD2で示される像(背景の明暗の変化)により、前記周波数成分データで示される像が見えなくなるのである。図4A及び図4Bを参照して、地点SP1の温度変化を示すグラフに含まれる細かい変化が、前記周波数成分データに対応する。地点SP2の温度変化を示すグラフが低周波成分データD2に対応する。
そこで、画像処理部9(図1A)は、画素の位置がそれぞれ異なる複数の時系列画素データD1(すなわち、動画データMDを構成する複数の時系列画素データD1)を、動画データMDから生成し、複数の時系列画素データD1のそれぞれに対して、低周波成分データD2を除く処理をする。画素の位置がそれぞれ異なる複数の時系列画素データとは、図2を参照して、1番目画素の時系列画素データD1、2番目画素の時系列画素データD1、・・・、M-1番目画素の時系列画素データD1、M番目画素の時系列画素データD1を意味する。
漏れたガスによる温度変化を示す周波数成分データの周波数よりも周波数が高く、高周波ノイズを示す周波数成分データを、高周波成分データD3とする。画像処理部9は、動画データMDを構成する複数の時系列画素データD1のそれぞれに対して、低周波成分データD2を除く処理に加えて、高周波成分データD3を除く処理をする。
このように、画像処理部9は、フレームの単位で低周波成分データD2及び高周波成分データD3を除く処理をするのではなく、時系列画素データD1の単位で低周波成分データD2及び高周波成分データD3を除く処理をする。
ガス検知用画像処理装置3は、赤外画像を利用して、監視画像を生成する。ガス漏れが発生している場合、監視画像には、ガス漏れによりガスが出現している領域を示す像が含まれる。ガス検知用画像処理装置3は、監視画像を基にしてガス漏れを検知する。監視画像の生成方法として、様々な方法があるが、ここでは、監視画像の生成方法の一例を説明する。監視画像は、監視対象及び背景の赤外画像を利用して生成される。図5は、監視画像の生成処理を説明するフローチャートである。
図1A、図2及び図5を参照して、画像処理部9は、動画データMDからM個の時系列画素データD1を生成する(ステップS1)。
画像処理部9は、時系列画素データD1に対して、K個のフレームより少ない第1の所定数のフレームを単位とする単純移動平均を算出することにより時系列画素データD1から抽出されたデータを、低周波成分データD2とし、M個の時系列画素データD1のそれぞれに対応するM個の低周波成分データD2を抽出する(ステップS2)。
第1の所定数のフレームは、例えば、21フレームである。内訳は、ターゲットとなるフレーム、これより前の連続する10フレーム、これより後の連続する10フレームである。第1の所定数は、時系列画素データD1から低周波成分データD2を抽出できる数であればよく、21に限らず、21より多くてもよいし、21より少なくてもよい。
画像処理部9は、時系列画素データD1に対して、第1の所定数(例えば、21)より少ない第3の所定数(例えば、3)のフレームを単位とする単純移動平均を算出することにより時系列画素データD1から抽出されたデータを、高周波成分データD3とし、M個の時系列画素データD1のそれぞれに対応するM個の高周波成分データD3を抽出する(ステップS3)。
図6は、地点SP1(図4A)に対応する画素の時系列画素データD1、時系列画素データD1から抽出された低周波成分データD2、時系列画素データD1から抽出された高周波成分データD3を示すグラフである。グラフの縦軸及び横軸は、図4Aのグラフの縦軸及び横軸と同じである。時系列画素データD1で示される温度は、比較的急に変化し(変化の周期が比較的短く)、低周波成分データD2で示される温度は、比較的緩やかに変化している(変化の周期が比較的長い)。高周波成分データD3は、時系列画素データD1とほぼ重なって見える。
第3の所定数のフレームは、例えば、3フレームである。内訳は、ターゲットとなるフレーム、この直前の1フレーム、この直後の1フレームである。第3の所定数は、時系列画素データから第3の周波数成分を抽出できる数であればよく、3に限定されず、3より多くてもよい。
図1A、図2及び図5を参照して、画像処理部9は、時系列画素データD1とこの時系列画素データD1から抽出された低周波成分データD2との差分を算出して得られるデータを、差分データD4とし、M個の時系列画素データD1のそれぞれに対応するM個の差分データD4を算出する(ステップS4)。
画像処理部9は、時系列画素データD1とこの時系列画素データD1から抽出された高周波成分データD3との差分を算出して得られるデータを、差分データD5とし、M個の時系列画素データD1のそれぞれに対応するM個の差分データD5を算出する(ステップS5)。
図7Aは、差分データD4を示すグラフであり、図7Bは、差分データD5を示すグラフである。これらのグラフの縦軸及び横軸は、図4Aのグラフの縦軸及び横軸と同じである。差分データD4は、図6に示す時系列画素データD1と低周波成分データD2との差分を算出して得られたデータである。図4Aに示す地点SP1でガスの噴出を開始する前において(90番目くらいまでのフレーム)、差分データD4で示される微小な振幅の繰り返しは、主に、二次元イメージセンサー6のセンサーノイズを示している。地点SP1でガスの噴出を開始した後において(90番目以降のフレーム)、差分データD4の振幅及び波形のばらつきが大きくなっている。
差分データD5は、図6に示す時系列画素データD1と高周波成分データD3との差分を算出して得られたデータである。
差分データD4は、漏れたガスによる温度変化を示す周波数成分データ及び高周波成分データD3(高周波ノイズを示すデータ)を含む。差分データD5は、漏れたガスによる温度変化を示す周波数成分データを含まず、高周波成分データD3を含む。
差分データD4は、漏れたガスによる温度変化を示す周波数成分データを含むので、地点SP1でガスの噴出を開始した後において(90番目以降のフレーム)、差分データD4の振幅及び波形のばらつきが大きくなっている。これに対して、差分データD5は、漏れたガスによる温度変化を示す周波数成分データを含まないので、そのようなことはない。差分データD5は、微小な振幅を繰り返している。これが高周波ノイズである。
差分データD4と差分データD5とは、相関しているが、完全に相関していない。すなわち、あるフレームにおいて、差分データD4の値がプラス、差分データD5の値がマイナスとなり、又は、その逆となる場合がある。このため、差分データD4と差分データD5との差分を算出しても、高周波成分データD3を除去できない。高周波成分データD3を除去するには、差分データD4及び差分データD5を引き算できる絶対値のような値に変換する必要がある。
そこで、画像処理部9は、差分データD4に対して、K個のフレームより少ない第2の所定数のフレームを単位とする移動標準偏差を算出して得られるデータを、標準偏差データD6とし、M個の時系列画素データD1のそれぞれに対応するM個の標準偏差データD6を算出する(ステップS6)。なお、移動標準偏差の替わりに、移動分散を算出してもよい。
また、画像処理部9は、差分データD5に対して、K個のフレームより少ない第4の所定数(例えば、21)のフレームを単位とする移動標準偏差を算出して得られるデータを、標準偏差データD7とし、M個の時系列画素データD1のそれぞれに対応するM個の標準偏差データD7を算出する(ステップS7)。移動標準偏差の替わりに、移動分散を用いてもよい。
図8は、標準偏差データD6及び標準偏差データD7を示すグラフである。グラフの横軸は、図4Aのグラフの横軸と同じである。グラフの縦軸は、標準偏差を示している。標準偏差データD6は、図7Aに示す差分データD4の移動標準偏差を示すデータである。標準偏差データD7は、図7Bに示す差分データD5の移動標準偏差を示すデータである。移動標準偏差の算出に用いるフレーム数は、標準偏差データD6及び標準偏差データD7のいずれの場合も、21であるが、統計的に意義がある標準偏差が求められる数であればよく、21に限定されない。
標準偏差データD6及び標準偏差データD7は、標準偏差なので、マイナスの値を含まない。このため、標準偏差データD6及び標準偏差データD7は、差分データD4及差分データD5を引き算できるように変換したデータと見なすことができる。
画像処理部9は、同じ時系列画素データD1から得られた標準偏差データD6と標準偏差データD7との差分を算出して得られるデータを、差分データD8とし、M個の時系列画素データD1のそれぞれに対応するM個の差分データD8を算出する(ステップS8)。
図9は、差分データD8を示すグラフである。グラフの横軸は、図4Aのグラフの横軸と同じである。グラフの縦軸は、標準偏差の差分である。差分データD8は、図8に示す標準偏差データD6と標準偏差データD7との差分を示すデータである。差分データD8は、低周波成分データD2及び高周波成分データD3を除く処理がされたデータである。
画像処理部9は、監視画像を生成する(ステップS9)。すなわち、画像処理部9は、ステップS8で得られたM個の差分データD8で構成される動画を生成する。この動画を構成する各フレームが監視画像である。監視画像は、標準偏差の差分を可視化した画像である。画像処理部9は、ステップS9で得られた動画を表示制御部10に出力する。表示制御部10は、この動画をディスプレイ11に表示させる。この動画に含まれる監視画像として、例えば、図10に示す画像I12及び図11に示す画像I15がある。
図10は、時刻T1のフレームを基にして生成された、画像I10、画像I11及び画像I12を示す画像図である。画像I10は、図5のステップS6で得られたM個の標準偏差データD6で示される動画において、時刻T1のフレームの画像である。画像I11は、図5のステップS7で得られたM個の標準偏差データD7で示される動画において、時刻T1のフレームの画像である。画像I10と画像I11との差分が、画像I12(監視画像)となる。
図11は、時刻T2のフレームを基にして生成された、画像I13、画像I14及び画像I15を示す画像図である。画像I13は、ステップS6で得られたM個の標準偏差データD6で示される動画において、時刻T2のフレームの画像である。画像I14は、ステップS7で得られたM個の標準偏差データD7で示される動画において、時刻T2のフレームの画像である。画像I13と画像I14との差分が、画像I15(監視画像)となる。図10及び図11に示す画像I10~画像I15のいずれも、いずれも標準偏差を5000倍にした画像である。
図10に示す画像I12は、図4Aに示す地点SP1からガスが噴出される前に撮影された画像なので、画像I12には、地点SP1からガスが出ている様子が現れていない。これに対して、図11に示す画像I15は、地点SP1からガスが噴出されている時刻で撮影された画像なので、画像I15には、地点SP1からガスが出ている様子が現れている。
以上説明したように、実施形態によれば、画像処理部9(図1A)が、赤外画像の動画データMDに含まれる低周波成分データD2を除く処理をして、動画データを生成し、表示制御部10が、この動画データで示される動画(監視画像の動画)をディスプレイ11に表示させる。従って、実施形態によれば、ガス漏れと背景の温度変化とが並行して発生し、背景の温度変化が、漏れたガスによる温度変化よりも大きい場合でも、ガスが漏れている様子を監視画像の動画で表示できる。
センサーノイズは、温度が高くになるに従って小さくなるので、温度に応じて異なる。二次元イメージセンサー6(図1A)において、画素が感知している温度に応じたノイズが、各画素で発生する。すなわち、全ての画素のノイズが同じではない。実施形態によれば、動画から高周波ノイズを除くことができるので、僅かなガス漏れでもディスプレイ11に表示させることができる。
実施形態は、図12に示すステップS100~ステップS102を実行することにより、ユーザーは、画像に含まれるガス領域を見逃すことなく、時系列画像の内容を短時間で把握することができる。図12は、これを実現するために、実施形態で実行される各種処理を説明するフローチャートである。図13は、実施形態が、監視画像動画V1から代表画像動画V2を生成する工程を説明する模式図である。
図1A及び図13を参照して、第2生成部92は、動画データMDを用いて、監視画像動画V1を生成する(図12のステップS100)。詳しく説明すると、第2生成部92は、画像データ入力部8に入力された動画データMDを取得する。動画データMD(第3時系列画像の一例)は、上述したように、赤外線カメラ2により撮像されたガス監視対象の動画である。この動画は、図2に示すように、時系列に並ぶ複数の赤外画像(1番目フレームからK番目フレーム)により構成される。
第2生成部92は、動画データMDに対して、図5に示すステップS1~ステップS9の処理(ガス領域を抽出する画像処理)をする。これにより、動画を構成する各フレームは、赤外画像から監視画像Im1となり、監視画像動画V1が生成される。監視画像動画V1(第1時系列画像の一例)は、時系列に並ぶ複数の監視画像Im1により構成される。
監視画像Im1は、例えば、図10に示す画像I12、図11に示す画像I15である。検知対象となるガスが出現している期間、又は、誤検知の原因となる事象が発生している期間において、監視画像動画V1には、ガス領域が含まれる。検知対象となるガスが出現しておらず、かつ、誤検知の原因となる事象が発生していない期間において、監視画像動画V1には、ガス領域が含まれない。図11に示す画像I15は、地点SP1からガスが噴出されている時刻で撮影された画像なので、地点SP1付近にガス領域がある。ガス領域は、画像I15の中心付近に広がっている、輝度が比較的大きい領域である。
実施形態では、図5に示すステップS1~ステップS9の処理でガス領域を抽出しているが、赤外画像に対してガス領域を抽出する画像処理であれば、他の画像処理でもよい(例えば、特許文献1に開示された画像処理)。
図1A及び図13を参照して、第1生成部91は、監視画像動画V1を用いて、代表画像動画V2を生成する(図12のステップS101)。詳しく説明すると、画像処理部9が、監視画像動画V1を構成する複数の監視画像Im1のそれぞれに対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、監視画像動画V1にガス領域が含まれているか否かをリアルタイムで判定する。画像処理部9は、ガス領域を含む監視画像Im1があるとき、監視画像動画V1にガス領域が含まれていると判定する。
画像処理部9が、監視画像動画V1にガス領域が含まれていると判定したとき、ガス検知用画像処理装置3は、所定の発報をすることにより、ユーザーにガス検知を報知する。ユーザーは、その検知が誤検知の可能性があると判断したとき、入力部12を操作して、第1所定期間及び第2所定期間を入力し、そして、代表画像動画V2を生成する命令を入力する。第1所定期間は、ガス検知がされた時点から遡る期間である。第2所定期間は、代表画像Im2の生成に用いる監視画像動画V1の時間単位である。ここでは、第1所定期間が24時間とし、第2所定期間が10秒間とする。これらは具体例であり、第1所定期間及び第2所定期間は、これらの値に限定されない。
第1生成部91は、第2生成部92に記憶されている監視画像動画V1のうち、ガス検知用画像処理装置3がガス検知をした時点から24時間前までの監視画像動画V1を取得し、取得した監視画像動画V1に対して、24時間を10秒間隔で分割する。各10秒間には、監視画像動画V1の一部分P1(第2時系列画像の一例)が対応している。監視画像動画V1の一部分P1は、時系列に並ぶ複数の監視画像Im1により構成される。
図14A及び図14Bは、監視画像動画V1の一部分P1の具体例を示す画像図である。監視画像動画V1の一部分P1は、時系列に並ぶ300枚の監視画像Im1(フレーム)により構成される。図14A及び図14Bは、300枚の一部をおよそ等間隔にサンプリングした例である。これは、10秒分に相当する。1番目の監視画像Im1が10秒間の開始時点の監視画像Im1としてサンプリングされたものである。16番目の監視画像Im1が10秒間の終了時点の監視画像Im1としてサンプリングされたものである。各監視画像Im1の中心付近が地点SP1(図3)である。10秒間のうち、1番目から5番目の監視画像Im1、及び、15番目から16番目の監視画像Im1には、ガス領域が明確に現れているが(図面では分かりにくいが、実際の画像では、ガス領域が現れている)、6番目から14番目の監視画像Im1には、ガス領域が明確に現れていない。
図1A及び図13を参照して、第1生成部91は、各10秒間に対応する、監視画像動画V1の一部分P1について、代表画像Im2を生成することにより、代表画像動画V2(時系列代表画像の一例)を生成する。代表画像動画V2は、時系列に並ぶ複数の代表画像Im2により構成される。代表画像Im2は、10秒間単位で作成されるので、代表画像動画V2を構成する代表画像Im2(フレーム)の数は、8640(=24時間×60分×6)となる。
代表画像動画V2の具体例を図15に示す。図15は、50秒間の監視画像動画V1を用いて生成された代表画像動画V2を示す画像図である。「11:48」で示す画像は、11分48秒から11分58秒までの10秒間の代表画像Im2である。「11:58」で示す画像は、11分58秒から12分08秒までの10秒間の代表画像Im2である。「12:08」で示す画像は、12分08秒から12分18秒までの10秒間の代表画像Im2である。「12:18」で示す画像は、12分18秒から12分28秒までの10秒間の代表画像Im2である。「12:28」で示す画像は、12分28秒から12分38秒までの10秒間の代表画像Im2である。
ガス領域の見逃しを防ぐために、10秒間の少なくとも一部にガス領域が存在すれば、第1生成部91は、代表画像Im2にガス領域が含まれるようにする。代表画像Im2の生成方法の第1例を説明する。図1A及び図13を参照して、第1生成部91は、監視画像動画V1の一部分P1(第2時系列画像)を構成する複数の監視画像Im1において、同じ順番に位置する画素の中から、画素が示す値(ここでは、標準偏差の差分)の最大値を決定する。第1生成部91は、この最大値を、代表画像Im2の上記順番に位置する画素の値とする。具体的に説明すると、第1生成部91は、監視画像動画V1の一部分P1を構成する複数の監視画像Im1において、1番目の画素が示す値の最大値を決定し、この値を、代表画像Im2の1番目の画素の値とする。第1生成部91は、監視画像動画V1の一部分P1を構成する複数の監視画像Im1において、2番目の画素が示す値の最大値を決定し、この値を、代表画像Im2の2番目の画素の値とする。第1生成部91は、3番目以降の画素についても同様の処理をする。
図16は、代表画像Im2の生成方法の第1例を用いて生成された代表画像Im2を示す画像図である。代表画像Im2の中心付近(図3の地点SP1)に輝度が大きい領域が比較的大きく広がっている。これがガス領域である。ガス領域を構成する画素が示す値は、比較的大きいので、比較的大きい値を有する画素で構成される領域がガス領域となる。第1例は、監視画像動画V1の一部分P1(第2時系列画像)にガス領域が含まれるか否かを判定しないで、代表画像Im2を生成する。第1例によれば、監視画像動画V1の一部分P1にガス領域が含まれる場合、代表画像Im2に含まれるガス領域が、監視画像動画V1の一部分P1を構成する複数の監視画像Im1のそれぞれに含まれるガス領域の論理和を示すようなガス領域になる。従って、風向きの変化等でガスがゆらいでいる場合、代表画像Im2に含まれるガス領域の面積を大きくすることができることが分かった。このような場合、ユーザーは、ガス領域を容易に見つけ出すことができる。
代表画像Im2の生成方法の第2例を説明する。図1A及び図13を参照して、第1生成部91は、監視画像動画V1の一部分P1(第2時系列画像)を構成する複数の監視画像Im1のそれぞれに対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、複数の監視画像Im1のそれぞれ対して、ガス領域が含まれているか否かを判定する。第1生成部91は、複数の監視画像Im1の少なくとも1つにガス領域が含まれているとき、監視画像動画V1の一部分P1にガス領域が含まれていると判定する。第1生成部91は、監視画像動画V1の一部分P1にガス領域が含まれる場合、監視画像動画V1の一部分P1を構成する複数の監視画像Im1の中で、ガス領域を含む監視画像Im1のそれぞれについて、ガス領域の平均輝度値を算出する。ガス領域の平均輝度値の算出方法を簡単に説明する。第1生成部91は、監視画像Im1からガス領域を切り出し、ガス領域を構成する各画素の輝度値の平均値を算出する。これが、ガス領域の平均輝度値となる。
第1生成部91は、ガス領域の平均輝度値が最大となる監視画像Im1を代表画像Im2として選択する。図17は、代表画像Im2の生成方法の第2例を用いて生成された代表画像Im2を示す画像図である。代表画像Im2の中心付近(図3の地点SP1)にある矩形領域R1が、ガス領域の位置を示している。矩形領域R1内において、輝度が大きい領域がガス領域である。第2例によれば、監視画像動画V1の一部分P1(第2時系列画像)にガス領域が含まれる場合、代表画像Im2に含まれるガス領域の平均輝度値を大きくすることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。
代表画像Im2の生成方法の第3例を説明する。第3例は、ガス領域の平均輝度値の替わりに、ガス領域の面積を用いる。図1A及び図13を参照して、第1生成部91は、監視画像動画V1の一部分P1(第2時系列画像)を構成する複数の監視画像Im1のそれぞれに対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、複数の監視画像Im1のそれぞれ対して、ガス領域が含まれているか否かを判定する。第1生成部91は、複数の監視画像Im1の少なくとも1つにガス領域が含まれているとき、監視画像動画V1の一部分P1にガス領域が含まれていると判定する。第1生成部91は、監視画像動画V1の一部分P1にガス領域が含まれる場合、監視画像動画V1の一部分P1を構成する複数の監視画像Im1の中で、ガス領域を含む監視画像Im1のそれぞれについて、ガス領域の面積を算出する。ガス領域の面積の算出方法を簡単に説明する。第1生成部91は、監視画像Im1からガス領域を囲む矩形領域を切り出し、その矩形内で一定値以上の画素をガス領域と判断し、ガス領域と判断した画素の数を算出する。これが、ガス領域の面積となる。第1生成部91は、ガス領域の面積が最大となる監視画像Im1を代表画像Im2として選択する。
第3例によれば、監視画像動画V1の一部分P1(第2時系列画像)にガス領域が含まれる場合、代表画像Im2に含まれるガス領域の面積を大きくすることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。
第2例及び第3例において、第1生成部91は、監視画像動画V1の一部分P1にガス領域が含まれるか否かを判定し、監視画像動画V1の一部分P1にガス領域が含まれるとき、ガス領域を含む代表画像Im2を生成する。第2例及び第3例において、第1生成部91は、監視画像動画V1の一部分P1を構成する複数の監視画像Im1のいずれにもガス領域が含まれていないとき、監視画像動画V1の一部分P1にガス領域が含まれないと判定する。第1生成部91は、監視画像動画V1の一部分P1にガス領域が含まれない場合、監視画像動画V1の一部分P1を構成する複数の監視画像Im1の中で、予め定められた監視画像Im1(任意の監視画像Im1)を代表画像Im2とする。予め定められた監視画像Im1は、その監視画像動画V1の一部分P1を構成する複数の監視画像Im1であれば、いずれでもよい(例えば、先頭の監視画像Im1)。
ユーザーは、監視画像動画V1(第1時系列画像)の内容を短時間で把握するために、代表画像動画V2(時系列代表画像)を見る。複数の第2所定期間(10秒間)の中で、ガス領域が存在しない第2所定期間がある場合、そのことを、ユーザーに認識させる必要がある。そこで、第1生成部91は、ガス領域が存在しない第2所定期間に対応する、監視画像動画V1の一部分P1の場合(監視画像動画V1の一部分にガス領域が含まれない場合)、その監視画像動画V1の一部分P1を構成する複数の監視画像Im1の中で、予め定められた監視画像Im1を代表画像Im2とする。
以上説明したように、第1生成部91は、撮像時間が第1所定期間(24時間)である第1時系列画像(監視画像動画V1)を取得し、第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間(10秒間)を設定し、第2所定期間に対応する第1時系列画像の一部分である第2時系列画像の代表画像Im2の生成を、複数の第2所定期間のそれぞれに対応する複数の第2時系列画像に対して実行することにより、時系列代表画像(代表画像動画V2)を生成する。
図1A及び図13を参照して、表示制御部10は、代表画像動画V2を再生する(図12のステップS102)。詳しく説明すると、代表画像動画V2が生成されると、ガス検知用画像処理装置3は、ユーザーに代表動画画像の再生が可能である旨を報知する。ユーザーは、入力部12を操作して、代表画像動画V2の再生を命令する。これにより、表示制御部10は、代表画像動画V2を構成する複数の代表画像Im2を、時系列順にディスプレイ11に表示する(複数の代表画像Im2を連続表示する)。例えば、再生のフレームレートが4fpsとする。再生時間は、以下の式で示すように、36分となる。8640は、上述したように、代表画像動画V2を構成する代表画像Im2(フレーム)の数である。
8640フレーム÷4fps=2160秒=36分
なお、再生時間をさらに短くしたいとき、第2所定期間を長くする。例えば、第2所定期間が1分のとき、代表画像動画V2を構成する代表画像Im2(フレーム)の数は、1440(=24時間×60分)となる。再生時間は、以下の式で示すように、6分となる。
1440フレーム÷4fps=360秒=6分
上記第1例を用いて代表画像Im2を生成する場合、第2所定期間中の画素値の最大値を代表画像Im2の画素値にする。よって、この場合、第2所定期間を長くしたとき、代表画像Im2にノイズが含まれやすくなる。
図1A及び図13を参照して、実施形態の主な作用効果について説明する。代表画像Im2は、監視画像画像の一部分P1(第2時系列画像)を代表する画像である。代表画像動画V2(時系列代表画像)は、時系列に並ぶ複数の代表画像Im2により構成される。表示制御部10は、複数の代表画像Im2を時系列順にディスプレイ11に表示させる。従って、ユーザーは、これらの代表画像Im2を見ることにより、監視画像動画V1(第1時系列画像)の内容を把握することが可能となる。
また、代表画像Im2は、監視画像動画V1の一部分P1を代表する画像であるので、代表画像動画V2を構成する代表画像Im2の数は、監視画像動画V1を構成する監視画像Im1の数より少ない。よって、代表画像動画V2は、監視画像動画V1よりも、再生時間を短くできる。
このように、実施形態によれば、ユーザーは、時系列画像(監視画像動画V1)の内容を短時間で把握することができる。
第1生成部91は、監視画像動画V1の一部分P1がガス領域を含むとき、ガス領域を含む代表画像Im2を生成する。よって、実施形態によれば、ガス領域の見逃しを防ぐことができる。
以上より、実施形態によれば、ユーザーが画像に含まれるガス領域を見逃すことなく、監視画像動画V1の内容を短時間で把握することができる。よって、監視画像動画V1をダイジェスト再生した効果と同様の効果が得られる。
ガス検知システム1を用いて、ガス監視の対象(例えば、ガスプラントのガス配管)を長期間監視し、この期間中に発生した事実をユーザーに提供するサービスが考えられる。代表画像動画V2をクラウドコンピューティングのストレージに記憶させれば、サービス提供者は、ガス監視の対象がある場所に訪れる必要がない。クラウドコンピューティングを利用する場合、監視画像動画V1の全データをクラウドにアップロードし続けることはデータ容量や帯域から現実的ではなく、データ量を少なくすることが好ましい。上述したように、代表画像動画V2を構成する代表画像Im2の数は、監視画像動画V1を構成する監視画像Im1の数より少ないので、代表画像動画V2は、監視画像動画V1よりもデータ量を少なくすることができる。
実施形態の第1変形例を説明する。実施形態では、図13に示すように、24時間(第1所定期間)を10秒間隔に分割し、各10秒間を第2所定期間にしている。すなわち、実施形態では、複数の第2所定期間が連続している。これに対して、第1変形例では、複数の第2所定期間が所定間隔で設定される。図18は、実施形態の第1変形例が、監視画像動画V1から代表画像動画V2を生成する工程を説明する模式図である。
図1A及び図18を参照して、第1変形例において、第1生成部91は、24時間の監視画像動画V1を、2分間隔で分割し、2分間のうち、先頭の10秒間を第2所定期間に設定する。このように、第1変形例において、第1生成部91は、第1所定期間(24時間)を分割した複数の分割期間(2分間)を設定し、分割期間に含まれ、分割期間より短い第2所定期間(10秒間)を、複数の分割期間のそれぞれについて設定する。なお、24時間、2分間、10秒間は、具体例であり、第1所定期間、分割期間、第2所定期間は、これらの値に限定されない。また、第2所定期間は、分割期間の先頭(最初)から開始される例で説明しているが、先頭からでなくてもよい。
第1変形例において、第1生成部91は、各10秒間に対応する、監視画像動画V1の一部分P1を用いて、代表画像Im2を生成する。これは、実施形態と同様である。
複数の分割期間(2分間)を合計した期間は、第1所定期間(24時間)と同じ長さとなる。第1変形例によれば、第2所定期間(10秒間)が分割期間より短いので、複数の第2所定期間が所定間隔で設定されることになる。第1変形例は、複数の第2所定期間が連続に設定される態様(図13)と比べて、第2所定期間の長さが同じ場合、代表画像Im2の数を少なくすることができる。従って、第1変形例によれば、第1所定期間が長くても、代表画像動画V2(時系列代表画像)の再生時間を長くすることなく、監視画像動画V1(第1時系列画像)の内容を大まかに把握することができる。第1変形例は、第1所定期間が長い場合(例えば、1日)に有効となる。
実施形態の第2変形例を説明する。図19は、実施形態の第2変形例が、監視画像動画V1から代表画像動画V2を生成する工程を説明する模式図である。分割期間(2分間)の全期間でなく、一部の期間に、ガス領域が存在することがある。図18に示すように、第1変形例では、分割期間(2分間)のうち、先頭期間(10秒間)を第2所定期間にしている。先頭期間において、ガス領域が発生しておらず、先頭期間以外で、ガス領域が発生していることがある。この場合、ガス領域を見逃すことになる。第2変形例は、以下に説明するように、ガス領域の見逃しを防止することができる。
図1A及び図19を参照して、第2変形例において、第1生成部91は、分割期間内にガス領域が存在する期間があるとき、この期間を第2所定期間に設定し、分割期間内にガス領域が存在する期間がないとき、この分割期間に第2所定期間を設定しない。図19に示す連続する3つの分割期間T1,T2,T3を例にして、詳しく説明する。第1生成部91は、分割期間T1において、監視画像動画V1にガス領域が含まれているか否かを判定する。分割期間T1において、監視画像動画V1にガス領域が含まれているとする。第1生成部91は、分割期間T1において、最初にガス領域が現れる期間に、第2所定期間(10秒間)を設定する。第1生成部91は、第2所定期間に対応する、監視画像動画V1の一部分P1(第2時系列画像)を用いて、代表画像Im2を生成する。なお、分割期間内にガス領域が存在する期間がなくても、第1生成部91は、分割期間の先頭から第2所定期間(10秒間)を設定し、代表画像Im2を生成してもよい。
第1生成部91は、分割期間T2において、監視画像動画V1にガス領域が含まれているか否かを判定する。分割期間T2において、監視画像動画V1にガス領域が含まれていないとする。第1生成部91は、分割期間T2に属する複数の監視画像Im1の中から、予め定められた監視画像Im1を代表画像Im2とする。例えば、最初の監視画像Im1が代表画像Im2とされる。
第1生成部91は、分割期間T3において、監視画像動画V1にガス領域が含まれているか否かを判定する。分割期間T3において、監視画像動画V1にガス領域が含まれているとする。第1生成部91は、分割期間T3において、最初にガス領域が現れる期間に、第2所定期間(10秒間)を設定する。第1生成部91は、第2所定期間に対応する、監視画像動画V1の一部分P1を用いて、代表画像Im2を生成する。
第2変形例によれば、分割期間の全期間において、ガス領域が存在しないとき、ガス領域を含まない代表画像Im2を生成し、分割期間の少なくとも一部において、ガス領域が存在するとき、ガス領域を含む代表画像Im2を生成する。従って、分割期間の一部において、ガス領域が存在するとき、ガス領域の見逃しを防止することができる。
第2変形例は、監視画像動画V1にガス領域が含まれているか否かの判定を前提とする。このため、第2変形例には、上述した代表画像Im2の生成方法の第2例(ガス領域の平均輝度値を基にして代表画像Im2が決定される)、第3例(ガス領域の面積を基にして代表画像Im2が決定される)が適用される。
第3変形例について説明する。第3変形例は、ガス領域をカラー化する。図20は、実施形態の第3変形例に係るガス検知システム1aの構成を示すブロック図である。ガス検知システム1aが、図1Aに示すガス検知システム1と相違する点を説明する。ガス検知システム1aは、可視カメラ13を備える。可視カメラ13は、赤外線カメラ2による監視対象の動画の撮像と並行して、同じ監視対象の動画を撮像する。これにより、可視カメラ13から出力された動画データmdが画像データ入力部8に入力される。
ガス検知システム1aの画像処理部9は、カラー処理部93を備える。カラー処理部93は、ガス領域をカラー化する画像処理をする。図14A及び図14Bに示す監視画像Im1を例にして詳しく説明する。監視画像Im1がグレースケールで表されているので、ガス領域もグレースケールで表されている。カラー処理部93は、1番目の監視画像Im1に対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、1番目の監視画像Im1からガス領域を切り出す。
カラー処理部93は、切り出したガス領域を構成する各画素の輝度値に応じて、ガス領域をカラー化する。カラー処理部93は、所定の閾値以下の輝度値を有する画素をノイズとみなし、その画素はカラー化しない。よって、カラー処理部93は、所定の閾値を超える輝度値を有する画素をカラー化する。図21は、グレースケールの領域をカラーの領域に変換する方法の一例を説明する説明図である。図21に示すグラフの横軸が、元の輝度値を示し、縦軸が、RGBのそれぞれの輝度値を示す。Rの輝度値は、元の輝度値が0~127のとき、0であり、元の輝度値が127~191のとき、0から255に直線的に増加し、元の輝度値が191~255のとき、255となる。Gの輝度値は、元の輝度値が0~63のとき、0から255に直線的に増加し、元の輝度値が63~191のとき、255であり、元の輝度値が191~255のとき、255から0に直線的に減少する。Bの輝度値は、元の輝度値が0~63のとき、255であり、元の輝度値が63~127のとき、255から0に直線的に減少し、元の輝度値が127~255のとき、0となる。
カラー処理部93は、切り出したガス領域において、隣接する三つの画素を一組とし、これらの画素の輝度値の平均値を算出する。この平均値が元の輝度値となる。例えば、平均値(元の輝度値)が63のとき、カラー処理部93は、その組を構成する三つの画素のうち、Rに対応する画素の輝度値を0、Gに対応する画素の輝度値を255、Bに対応する画素の輝度値を255にする。カラー処理部93は、他の組につても同様の処理をする。これにより、ガス領域がカラー化される。ガス濃度が高ければ、ガス領域を構成する各画素の輝度値(画素値)が比較的大きいので、ガス領域は赤色の面積が大きくなる。ガス濃度が低ければ、ガス領域を構成する各画素の輝度値(画素値)が比較的小さいので、ガス領域は青色の面積が大きくなる。
カラー処理部93は、2番目から16番目の監視画像Im1のそれぞれに含まれるガス領域について、同様に、ガス領域をカラー化する。
カラー処理部93は、カラー化されたガス領域(以下、カラーガス領域)を可視画像Im3に合成する。詳しく説明すると、カラー処理部93は、動画データmdの中から、図14A及び図14Bに示す監視画像Im1と同じ時刻に撮像されたフレーム(可視画像Im3)を取得する。カラー処理部93は、1番目の監視画像Im1から切り出されたガス領域のカラーガス領域を、1番目の監視画像Im1と撮像時刻が同じであるフレーム(可視画像Im3)に合成する。カラー処理部93は、2番目から16番目の監視画像Im1から切り出されたガス領域のカラーガス領域についても、同様の処理をする。図22A及び図22Bは、カラーガス領域R2が合成された可視画像Im3の具体例を示す画像図である。同じ順番の可視画像Im3と監視画像Im1とは、撮像時刻が同じである。例えば、1番目の可視画像Im3と1番目の監視画像Im1とは、撮像時刻が同じである。
可視画像Im3は、カラー画像である。可視画像Im3の中心付近(図3の地点SP1)にカラーガス領域R2が合成されている。10秒分300枚からサンプリングされた16枚のうち、1番目から5番目の可視画像Im3、及び、15番目から16番目の可視画像Im3において、カラーガス領域R2が明確に現れているが(図面では分からないが、実際の画像では、カラーガス領域R2が現れている)、6番目から14番目の可視画像Im3において、カラーガス領域R2が明確に現れていない。これは、図14A及び図14Bに示す監視画像Im1に現れるガス領域を反映しているからである。
図22A及び図22Bに示すような、カラーガス領域R2が合成された可視画像Im3の動画を、可視画像動画V3と記載する。図23は、実施形態の第3変形例が、可視画像動画V3(第1時系列画像の一例)から代表画像動画V4(時系列代表画像の一例)を生成する工程を説明する模式図である。
図20及び図23を参照して、第1生成部91は、各10秒間に対応する、可視画像動画V3の一部分P2(第2時系列画像)について、代表画像Im4を生成することにより、代表画像動画V4を生成する。代表画像動画V4は、時系列に並ぶ複数の代表画像Im4により構成される。代表画像Im4は、10秒間単位で作成されるので、代表画像動画V4を構成する代表画像Im4(フレーム)の数は、8640(=24時間×60分×6)となる。
代表画像動画V4の具体例を図24に示す。図24は、50秒間の可視画像動画V3を用いて生成された代表画像動画V4を示す画像図である。「11:48」で示す画像は、11分48秒から11分58秒までの10秒間の代表画像Im4である。「11:58」で示す画像は、11分58秒から12分08秒までの10秒間の代表画像Im4である。「12:08」で示す画像は、12分08秒から12分18秒までの10秒間の代表画像Im4である。「12:18」で示す画像は、12分18秒から12分28秒までの10秒間の代表画像Im4である。「12:28」で示す画像は、12分28秒から12分38秒までの10秒間の代表画像Im4である。「11:58」で示す代表画像Im4及び「12:08」で示す代表画像Im4において、カラーガス領域R2が明確に現れている(図面では分からないが、実際の画像では、カラーガス領域R2が現れている)。
カラーガス領域R2の見逃しを防ぐために、10秒間の少なくとも一部にカラーガス領域R2が存在すれば、第1生成部91は、代表画像Im4にカラーガス領域R2が含まれるようにする。代表画像Im4の生成方法を説明する。図20及び図23を参照して、第1生成部91は、可視画像動画V3の一部分P2を構成する複数の可視画像Im3のそれぞれに対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、複数の可視画像Im3のそれぞれ対して、カラーガス領域R2が含まれているか否かを判定する。第1生成部91は、複数の可視画像Im3の少なくとも1つにカラーガス領域R2が含まれているとき、可視画像動画V3の一部分P2にカラーガス領域R2が含まれていると判定する。第1生成部91は、可視画像動画V3の一部分P2(第2時系列画像)にカラーガス領域R2が含まれる場合、その可視画像動画V3の一部分P2を構成する複数の可視画像Im3の中で、カラーガス領域R2を含む可視画像Im3のそれぞれについて、カラーガス領域R2の面積を算出する。カラーガス領域R2の面積を算出方法は、ガス領域の面積の算出方法と同じである。第1生成部91は、カラーガス領域R2の面積が最大となる可視画像Im3を代表画像Im4として選択する。図25は、第3変形例によって生成された代表画像Im4を示す画像図である。代表画像Im4において、カラーガス領域R2が明確に現れている(図面では分からないが、実際の画像では、カラーガス領域R2が現れている)。
第1生成部91は、可視画像動画V3の一部分P2を構成する複数の可視画像Im3のいずれにもカラーガス領域Rが含まれていないとき、可視画像動画V3の一部分P2にカラーガス領域R2が含まれないと判定する。第1生成部91は、可視画像動画V3の一部分P2にカラーガス領域R2が含まれない場合、その可視画像動画V3の一部分P2を構成する複数の可視画像Im3の中で、予め定められた可視画像Im3を代表画像とする。予め定められた可視画像Im3は、その可視画像動画V3の一部分P2を構成する複数の可視画像Im3であれば、いずれでもよい(例えば、先頭の可視画像Im3)。
第3変形例は、以上のような第1形態の他に、以下に示す第2形態がある。図20に示す第1生成部91及び第2生成部92が、図13~図16を用いて説明した方法(代表画像Im2の生成方法の第1例)で代表画像動画V2を生成し、代表画像動画V2を基にして、代表画像動画V4を生成してもよい。詳しく説明すると、カラー処理部93は、代表画像動画V2(図13)を構成する複数の代表画像Im2のそれぞれに対して、ノイズ除去をする処理(例えば、モルフォロジー)をした後、複数の代表画像Im2のそれぞれ対して、ガス領域が含まれているか否かを判定する。カラー処理部93は、ガス領域を含む代表画像Im2について、ガス領域を切り出し、上述した方法を用いて、ガス領域をカラー化し(カラーガス領域R2を生成)、この代表画像Im2に対応する撮像時刻と同じ時刻に撮像された可視画像Im3に、カラーガス領域R2を合成する。この合成画像が、代表画像Im4(図23)となる。図26は、第3変形例の第2形態によって生成された代表画像Im4を示す画像図である。代表画像Im4において、カラーガス領域R2が明確に現れている(図面では分からないが、実際の画像では、カラーガス領域R2が現れている)。
以上説明したように、第3変形例によれば、代表画像Im4に含まれるガス領域がカラー化されるので(カラーガス領域R2)、ガス領域を目立たせることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。
第3変形例は、図18に示す第1変形例と組み合わせることができ、また、図19に示す第2変形例と組み合わせることができる。
第3変形例では、カラーガス領域R2の背景として、カラーの可視画像Im3を例に説明したが、グレースケールの可視画像Im3を背景にしてもよい。また、赤外線カメラ2で撮像した赤外画像を背景にしてもよい。赤外画像を背景にする形態では、可視カメラ13は不要となる。
(実施形態の纏め)
実施形態の第1局面に係るガス検知用画像処理装置は、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成部を備え、前記第1生成部は、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御部を備える。
実施形態の第1局面に係るガス検知用画像処理装置は、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成部を備え、前記第1生成部は、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御部を備える。
第1時系列画像には、ガス監視の対象(例えば、ガスプラントのガス管)が写されている。第1時系列画像は、ガス領域を抽出する画像処理がされた時系列画像でもよいし、このような画像処理がされていない時系列画像でもよい。後者は、例えば、ガス管から液化天然ガスが漏れたとき、ガス領域を抽出する画像処理がされてなくても、第1時系列画像には霧状の像(ガス領域)が含まれる。ガス領域を抽出する画像処理は、実施形態で説明する画像処理に限らず、公知の画像処理でもよい。
第1所定期間(第1所定期間>第2所定期間)のうち、検知対象となるガスが出現している期間、又は、誤検知の原因となる事象が発生している期間において、第1時系列画像には、ガス領域が含まれる。第1所定期間のうち、検知対象となるガスが出現しておらず、かつ、誤検知の原因となる事象が発生していない期間において、第1時系列画像には、ガス領域が含まれない。
代表画像は、第2時系列画像(第1時系列画像の一部分)を代表する画像である。時系列代表画像は、時系列に並ぶ複数の代表画像により構成される。表示制御部は、複数の代表画像を時系列順に表示部に表示させる(時系列代表画像を再生させる)。従って、ユーザーは、これらの代表画像を見ることにより、第1時系列画像の内容を把握することが可能となる。
また、代表画像は、第1時系列画像の一部分である第2時系列画像を代表する画像であるので、時系列代表画像を構成する代表画像の数は、第1時系列画像を構成する画像の数より少ない。よって、時系列代表画像は、第1時系列画像よりも、再生時間を短くできる。
このように、実施形態の第1局面に係るガス検知用画像処理装置によれば、ユーザーは、時系列画像(第1時系列画像)の内容を短時間で把握することができる。
第1生成部は、ガス領域を含む第2時系列画像のとき、ガス領域を含む代表画像を生成する。よって、実施形態の第1局面に係るガス検知用画像処理装置によれば、ガス領域の見逃しを防ぐことができる。
実施形態の第1局面に係るガス検知用画像処理装置は、第2時系列画像にガス領域が含まれるか否かを判定する第1態様と、第2時系列画像にガス領域が含まれるか否かを判定しない第2態様とがある。第2態様は、第2時系列画像にガス領域が含まれていれば、結果として、ガス領域を含む代表画像を生成し、第2時系列画像にガス領域が含まれていなければ、結果として、ガス領域を含まない代表画像を生成する。
上記構成において、前記ガス領域をカラー化する画像処理をする処理部をさらに備える。
この構成によれば、ガス領域がカラー化されるので、ガス領域を目立たせることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。第1時系列画像の段階で、ガス領域がカラー化されてもよいし(第1時系列画像を構成する複数の画像に対して、ガス領域をカラー化する処理がされてもよい)、時系列代表画像の段階で、ガス領域がカラー化されてもよい(時系列代表画像を構成する複数の代表画像に対して、ガス領域をカラー化する処理がされてもよい)。
上記構成において、前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれる場合、前記第2時系列画像を構成する複数の画像の中で、前記ガス領域を含む画像のそれぞれについて、前記ガス領域の面積を算出し、前記ガス領域の面積が最大となる画像を前記代表画像として選択する。
この構成は、上述した第1態様である。この構成によれば、第2時系列画像にガス領域が含まれる場合、代表画像に含まれるガス領域の面積を大きくすることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。
上記構成において、前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれる場合、前記第2時系列画像を構成する複数の画像の中で、前記ガス領域を含む画像のそれぞれについて、前記ガス領域の平均輝度値を算出し、前記ガス領域の平均輝度値が最大となる画像を前記代表画像として選択する。
この構成は、上述した第1態様である。この構成によれば、第2時系列画像にガス領域が含まれる場合、代表画像に含まれるガス領域の平均輝度値を大きくすることができる。これにより、ユーザーは、ガス領域を容易に見つけ出すことができる。
上記構成において、前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれない場合、前記第2時系列画像を構成する複数の画像の中で、予め定められた画像を前記代表画像として選択する。
この構成は、上述した第1態様である。上述したように、ユーザーは、第1時系列画像の内容を短時間で把握するために、時系列代表画像を見る。よって、複数の第2所定期間の中で、ガス領域が存在しない第2所定期間がある場合、そのことを、ユーザーに認識させる必要がある。そこで、第1生成部は、ガス領域が存在しない第2所定期間に対応する第2時系列画像の場合(第2時系列画像にガス領域が含まれない場合)、その第2時系列画像を構成する複数の画像の中で、予め定められた画像(任意の画像)を代表画像とする。予め定められた画像は、その第2時系列画像を構成する複数の画像であれば、いずれでもよい(例えば、先頭の画像)。
上記構成において、前記第1生成部は、前記第1所定期間を分割した複数の分割期間を設定し、前記分割期間に含まれ、前記分割期間より短い前記第2所定期間を、複数の前記分割期間のそれぞれについて設定する。
複数の分割期間を合計した期間は、第1所定期間と同じ長さとなる。この構成によれば、第2所定期間が分割期間より短いので、複数の第2所定期間が所定間隔で設定されることになる。この構成は、複数の第2所定期間が連続に設定される態様と比べて、第2所定期間の長さが同じ場合、代表画像の数を少なくすることができる。従って、この構成によれば、第1所定期間が長くても、時系列代表画像の再生時間を長くすることなく、第1時系列画像の内容を大まかに把握することができる。この構成は、第1所定期間が長い場合(例えば、1日)に有効となる。
上記構成において、前記第1生成部は、前記分割期間内に前記ガス領域が存在する期間があるとき、前記期間を前記第2所定期間に設定する。
分割期間の全期間でなく、一部の期間に、ガス領域が存在することがある。第1生成部は、ガス領域が存在する期間に第2所定期間を設定したとき、ガス領域を含む代表画像を生成し、ガス領域が含まれない期間に第2所定期間を設定したとき、ガス領域を含まない代表画像を生成することになる。この構成は、前者を優先する。従って、第1生成部は、分割期間の全期間において、ガス領域が存在しないとき、ガス領域を含まない代表画像を生成し、分割期間の少なくとも一部において、ガス領域が存在するとき、ガス領域を含む代表画像を生成する。この構成によれば、分割期間の少なくとも一部の期間がガス領域が存在するとき、ガス領域の見逃しを防止できる。
上記構成において、前記第1生成部は、前記第2時系列画像を構成する複数の画像において、同じ順番に位置する画素が示す値の最大値を、前記代表画像の前記順番に位置する画素の値として設定して前記代表画像を生成する。
ガス領域を構成する画素が示す値は、比較的大きいので、比較的大きい値を有する画素で構成される領域がガス領域となる。この構成は、上述した第2態様であり、第2時系列画像にガス領域が含まれるか否かを判定しないで、代表画像を生成する。この構成によれば、第2時系列画像にガス領域が含まれる場合、代表画像に含まれるガス領域が、第2時系列画像を構成する複数の画像のそれぞれに含まれるガス領域の論理和を示すようなガス領域になる。従って、風向きの変化等でガスがゆらいでいる場合、代表画像に含まれるガス領域の面積を大きくすることができることが分かった。このような場合、ユーザーは、ガス領域を容易に見つけ出すことができる。
上記構成において、前記第1生成部は、前記第1所定期間を分割した複数の分割期間を設定し、前記分割期間に含まれ、前記分割期間より短い前記第2所定期間を、複数の前記分割期間のそれぞれについて設定する。
この構成によれば、上述したように、第1所定期間が長くても、時系列代表画像の再生時間を長くすることなく、第1時系列画像の内容を大まかに把握することができる。この構成は、第1所定期間が長い場合(例えば、1日)に有効となる。
上記構成において、前記代表画像に前記ガス領域が含まれる場合、前記ガス領域をカラー化する画像処理をする処理部をさらに備える。
この構成は、代表画像にガス領域が含まれるか否かを判定し、代表画像にガス領域が含まれる場合、ガス領域をカラー化する。従って、この構成によれば、ガス領域を目立たせることができる。
上記構成において、前記第1所定期間において撮像された第3時系列画像に対して、前記ガス領域を抽出する画像処理をすることにより、前記第1時系列画像を生成する第2生成部をさらに備える。
この構成によれば、ガス領域を抽出する画像処理がされた時系列画像が第1時系列画像となる。
実施形態の第2局面に係るガス検知用画像処理方法は、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成ステップを備え、前記第1生成ステップは、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御ステップを備える。
実施形態の第2局面に係るガス検知用画像処理方法は、実施形態の第1局面に係るガス検知用画像処理装置を方法の観点から規定しており、実施形態の第1局面に係るガス検知用画像処理装置と同様の作用効果を有する。
実施形態の第3局面に係るガス検知用画像処理プログラムは、撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成ステップをコンピュータに実行させ、前記第1生成ステップは、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御ステップをコンピュータに実行させる。
実施形態の第3局面に係るガス検知用画像処理プログラムは、実施形態の第1局面に係るガス検知用画像処理装置をプログラムの観点から規定しており、実施形態の第1局面に係るガス検知用画像処理装置と同様の作用効果を有する。
本発明の実施形態が詳細に図示され、かつ、説明されたが、それは単なる図例及び実例であって限定ではない。本発明の範囲は、添付されたクレームの文言によって解釈されるべきである。
2017年9月21日に提出された日本国特許出願特願2017-181283は、その全体の開示が、その全体において参照によりここに組み込まれる。
本発明によれば、ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラムを提供することができる。
Claims (13)
- 撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成部を備え、
前記第1生成部は、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、
さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御部を備えるガス検知用画像処理装置。 - 前記ガス領域をカラー化する画像処理をする処理部をさらに備える請求項1に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれる場合、前記第2時系列画像を構成する複数の画像の中で、前記ガス領域を含む画像のそれぞれについて、前記ガス領域の面積を算出し、前記ガス領域の面積が最大となる画像を前記代表画像として選択する、請求項1又は2に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれる場合、前記第2時系列画像を構成する複数の画像の中で、前記ガス領域を含む画像のそれぞれについて、前記ガス領域の平均輝度値を算出し、前記ガス領域の平均輝度値が最大となる画像を前記代表画像として選択する、請求項1に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第2時系列画像に前記ガス領域が含まれない場合、前記第2時系列画像を構成する複数の画像の中で、予め定められた画像を前記代表画像として選択する、請求項1~4のいずれか一項に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第1所定期間を分割した複数の分割期間を設定し、前記分割期間に含まれ、前記分割期間より短い前記第2所定期間を、複数の前記分割期間のそれぞれについて設定する、請求項1~5のいずれか一項に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記分割期間内に前記ガス領域が存在する期間があるとき、前記期間を前記第2所定期間に設定する、請求項6に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第2時系列画像を構成する複数の画像において、同じ順番に位置する画素が示す値の最大値を、前記代表画像の前記順番に位置する画素の値として設定して前記代表画像を生成する、請求項1に記載のガス検知用画像処理装置。
- 前記第1生成部は、前記第1所定期間を分割した複数の分割期間を設定し、前記分割期間に含まれ、前記分割期間より短い前記第2所定期間を、複数の前記分割期間のそれぞれについて設定する、請求項8に記載のガス検知用画像処理装置。
- 前記代表画像に前記ガス領域が含まれる場合、前記ガス領域をカラー化する画像処理をする処理部をさらに備える請求項8又は9に記載のガス検知用画像処理装置。
- 前記第1所定期間において撮像された第3時系列画像に対して、前記ガス領域を抽出する画像処理をすることにより、前記第1時系列画像を生成する第2生成部をさらに備える請求項1~10のいずれか一項に記載のガス検知用画像処理装置。
- 撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成ステップを備え、
前記第1生成ステップは、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、
さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御ステップを備えるガス検知用画像処理方法。 - 撮像時間が第1所定期間である第1時系列画像を取得し、前記第1所定期間に含まれ、時系列に並ぶ複数の第2所定期間を設定し、前記第2所定期間に対応する前記第1時系列画像の一部分である第2時系列画像の代表画像の生成を、複数の前記第2所定期間のそれぞれに対応する複数の前記第2時系列画像に対して実行することにより、時系列代表画像を生成する第1生成ステップをコンピュータに実行させ、
前記第1生成ステップは、ガス領域を含む前記第2時系列画像を用いて、前記代表画像を生成する場合、前記ガス領域を含む前記代表画像を生成し、
さらに、前記時系列代表画像を構成する複数の前記代表画像を、時系列順に表示部に表示させる表示制御ステップをコンピュータに実行させるガス検知用画像処理プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US16/639,367 US20200258267A1 (en) | 2017-09-21 | 2018-08-24 | Image processing device for gas detection, image processing method for gas detection, and image processing program for gas detection |
JP2019543494A JP7230813B2 (ja) | 2017-09-21 | 2018-08-24 | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017-181283 | 2017-09-21 | ||
JP2017181283 | 2017-09-21 |
Publications (1)
Publication Number | Publication Date |
---|---|
WO2019058863A1 true WO2019058863A1 (ja) | 2019-03-28 |
Family
ID=65810193
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
PCT/JP2018/031286 WO2019058863A1 (ja) | 2017-09-21 | 2018-08-24 | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US20200258267A1 (ja) |
JP (1) | JP7230813B2 (ja) |
WO (1) | WO2019058863A1 (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021107795A (ja) * | 2019-12-27 | 2021-07-29 | 株式会社メタルワン | 情報処理装置、情報処理方法及びプログラム |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020059448A1 (ja) * | 2018-09-18 | 2020-03-26 | パナソニックIpマネジメント株式会社 | 奥行取得装置、奥行取得方法およびプログラム |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000175149A (ja) * | 1998-12-09 | 2000-06-23 | Matsushita Electric Ind Co Ltd | 映像検出装置、及び要約映像生成装置 |
JP2006268200A (ja) * | 2005-03-22 | 2006-10-05 | Nagasaki Univ | 炎・ガス煙検出システムおよび炎・ガス煙検出方法 |
WO2016143754A1 (ja) * | 2015-03-09 | 2016-09-15 | コニカミノルタ株式会社 | ガス漏れ位置推定装置、ガス漏れ位置推定システム、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム |
WO2017122660A1 (ja) * | 2016-01-15 | 2017-07-20 | コニカミノルタ株式会社 | ガス可視化装置、ガス可視化方法およびガス可視化プログラム |
WO2017150565A1 (ja) * | 2016-03-03 | 2017-09-08 | コニカミノルタ株式会社 | ガス漏れ位置推定装置、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3783019B2 (ja) | 2003-03-07 | 2006-06-07 | 株式会社四国総合研究所 | ガス漏洩監視方法、及びそのシステム |
EP2590138B1 (en) | 2011-11-07 | 2019-09-11 | Flir Systems AB | Gas visualization arrangements, devices, and methods |
JP2014072642A (ja) | 2012-09-28 | 2014-04-21 | Jvc Kenwood Corp | 動画像データ処理システム、動画像データ送信装置、及び動画像データ受信装置 |
-
2018
- 2018-08-24 JP JP2019543494A patent/JP7230813B2/ja active Active
- 2018-08-24 US US16/639,367 patent/US20200258267A1/en not_active Abandoned
- 2018-08-24 WO PCT/JP2018/031286 patent/WO2019058863A1/ja active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000175149A (ja) * | 1998-12-09 | 2000-06-23 | Matsushita Electric Ind Co Ltd | 映像検出装置、及び要約映像生成装置 |
JP2006268200A (ja) * | 2005-03-22 | 2006-10-05 | Nagasaki Univ | 炎・ガス煙検出システムおよび炎・ガス煙検出方法 |
WO2016143754A1 (ja) * | 2015-03-09 | 2016-09-15 | コニカミノルタ株式会社 | ガス漏れ位置推定装置、ガス漏れ位置推定システム、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム |
WO2017122660A1 (ja) * | 2016-01-15 | 2017-07-20 | コニカミノルタ株式会社 | ガス可視化装置、ガス可視化方法およびガス可視化プログラム |
WO2017150565A1 (ja) * | 2016-03-03 | 2017-09-08 | コニカミノルタ株式会社 | ガス漏れ位置推定装置、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021107795A (ja) * | 2019-12-27 | 2021-07-29 | 株式会社メタルワン | 情報処理装置、情報処理方法及びプログラム |
JP7241011B2 (ja) | 2019-12-27 | 2023-03-16 | 株式会社メタルワン | 情報処理装置、情報処理方法及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
US20200258267A1 (en) | 2020-08-13 |
JP7230813B2 (ja) | 2023-03-01 |
JPWO2019058863A1 (ja) | 2020-09-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6245418B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法及びガス検知用画像処理プログラム | |
US11092507B2 (en) | Method of indicating gas movement in a scene | |
US9767768B2 (en) | Automated object selection and placement for augmented reality | |
WO2017122660A1 (ja) | ガス可視化装置、ガス可視化方法およびガス可視化プログラム | |
JP6579290B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム | |
JP7230813B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム | |
JPWO2014103731A1 (ja) | 画像処理装置および方法、並びにプログラム | |
JP6579291B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム | |
JPWO2015146111A1 (ja) | 検知装置、検知方法、及びコンピュータプログラム | |
JP7156291B2 (ja) | ガス検査レポート作成支援装置、ガス検査レポート作成支援方法、及び、ガス検査レポート作成支援プログラム | |
JP7056342B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法、及び、ガス検知用画像処理プログラム | |
JPWO2018123197A1 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法及びガス検知用画像処理プログラム | |
JP2020008326A (ja) | ガス可視化用画像処理装置、ガス可視化用画像処理方法、ガス可視化用画像処理プログラム、及び、ガス検知システム | |
Marnerides et al. | High Dynamic Range in Cultural Heritage Applications | |
JP2011193159A (ja) | 監視システム、画像処理装置、及び監視方法 | |
WO2018211778A1 (ja) | ガス漏れ位置推定装置、ガス漏れ位置推定方法及びガス漏れ位置推定プログラム | |
CN114782261B (zh) | 图像处理方法和装置、电子设备和可读存储介质 | |
JP6504325B2 (ja) | ガス検知用画像処理装置、ガス検知用画像処理方法及びガス検知用画像処理プログラム | |
JP5999879B2 (ja) | 監視装置、及びプログラム | |
JP5089648B2 (ja) | 映像比較装置,映像比較方法,映像比較プログラムおよび映像比較プログラムの記録媒体 | |
WO2010064479A1 (ja) | デジタル映像再生装置 | |
JP2005339202A (ja) | 画像表示装置、画像表示方法及び画像表示プログラム | |
KR101864318B1 (ko) | 감시 이미지 처리 장치 및 방법 | |
Patel et al. | Implementation of Frame Lapse Video in Cinematography Application | |
JP2014138398A (ja) | 監視装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 18858100 Country of ref document: EP Kind code of ref document: A1 |
|
ENP | Entry into the national phase |
Ref document number: 2019543494 Country of ref document: JP Kind code of ref document: A |
|
NENP | Non-entry into the national phase |
Ref country code: DE |
|
122 | Ep: pct application non-entry in european phase |
Ref document number: 18858100 Country of ref document: EP Kind code of ref document: A1 |