WO2022153852A1 - 画像解析装置、画像解析方法及びプログラム - Google Patents

画像解析装置、画像解析方法及びプログラム Download PDF

Info

Publication number
WO2022153852A1
WO2022153852A1 PCT/JP2021/048467 JP2021048467W WO2022153852A1 WO 2022153852 A1 WO2022153852 A1 WO 2022153852A1 JP 2021048467 W JP2021048467 W JP 2021048467W WO 2022153852 A1 WO2022153852 A1 WO 2022153852A1
Authority
WO
WIPO (PCT)
Prior art keywords
temperature
deformation
image
temperature change
distribution
Prior art date
Application number
PCT/JP2021/048467
Other languages
English (en)
French (fr)
Inventor
公人 勝山
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to CN202180090589.7A priority Critical patent/CN116710763A/zh
Priority to JP2022575515A priority patent/JPWO2022153852A1/ja
Priority to EP21919738.1A priority patent/EP4279908A4/en
Publication of WO2022153852A1 publication Critical patent/WO2022153852A1/ja
Priority to US18/344,823 priority patent/US20230342907A1/en

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N25/00Investigating or analyzing materials by the use of thermal means
    • G01N25/72Investigating presence of flaws
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete

Definitions

  • the present invention relates to an image analysis device, an image analysis method and a program.
  • the surface temperature of the repair mark may differ from the surface temperature of the surrounding concrete because the thermal conductivity of the repair material is different from that of the surrounding concrete.
  • the infrared emissivity of the repair mark is different from that of the surrounding concrete, the apparent surface temperature of the repair mark in the infrared thermal image may be different from that of the surrounding concrete. Even if foreign matter such as free lime is attached to the surface, the actual temperature and / or apparent temperature at that part may differ from that of the surrounding concrete.
  • the actual and / or apparent surface temperature may be caused by uneven color (mold, moss, release agent, water effect, etc.), joints, steps, glue, sand streaks, rust juice, rust, water leakage, surface unevenness, bean board, etc. Can produce parts that are different from the surroundings.
  • the infrared survey has a problem that the surface temperature is different from the surroundings, that is, there are many erroneous detections even though there are no defects such as floats inside the structure.
  • Patent Document 1 discloses the following method. Identify the factors that affect the thermal image of the structure and the relational expression of multivariate analysis that uses the information of this factor to determine the probability that the anomalous part extracted from the thermal image of the structure contains defects. do. Then, the structure is photographed with an infrared camera to acquire a thermal image, an abnormal part having a temperature different from that of the surroundings is extracted from the thermal image, and the factor information in the abnormal part is discriminated, and then the information of the discriminated factor is quantified. , Apply the numerical value to the relational expression of multivariate analysis, and find the probability that the extracted abnormal part contains a defect.
  • the "surface condition" means the presence or absence of deformation on the surface of the concrete structure such as uneven color, non-land surface, and free lime. Since most of the false positives (abnormal parts where the surface temperature is different from the surroundings even though there are no defects inside the structure) are caused by the deformation of the structure surface, it is determined whether or not the structure surface is deformed. Things are considered to be effective in reducing false positives.
  • the present invention has been made in view of such circumstances, and an object of the present invention is to provide an image analysis device, an image analysis method, and a program capable of reducing false detection of defective parts.
  • the image analysis device is an image analysis device including a processor, and the processor acquires an infrared thermal image of a structure to be inspected and obtains a visible image of the structure to be inspected.
  • the temperature change is determined from the acquired infrared thermal image, and the temperature change is determined based on at least the temperature change information obtained from the infrared thermal image and the surface deformation information obtained from the visible image. Estimate the cause.
  • the temperature deformation information includes information obtained from the temperature distribution and / or the temperature distribution of the infrared thermal image regarding the temperature change.
  • the temperature change information includes information on the shape and / or size of the temperature change.
  • the surface deformation information includes information obtained from the luminance distribution and / or the luminance distribution of the visible image.
  • the surface deformation information includes at least one information of the type, shape and position of the surface deformation.
  • the processor estimates the cause of the temperature deformation based on the similarity between the temperature deformation information and the surface deformation information.
  • the processor estimates that the cause of the temperature deformation is the surface deformation
  • the processor estimates the temperature distribution due to the surface deformation and reduces it from the infrared thermal image.
  • the similarity includes a partial similarity.
  • the processor determines that the surface deformation corresponding to the temperature deformation is a crack or peeling, evaluates the similarity between the temperature deformation information and the surface deformation information, and at least a part thereof. If they are similar, it is presumed that the cause of the temperature change is floating with cracks or peeling.
  • the processor determines that the surface deformation corresponding to the temperature change is a crack or peeling, and is within the magnitude of the temperature change and / or near the boundary of the temperature change. Evaluate the presence or absence of surface deformation, and if there is, presume that the cause of the temperature deformation is floating with cracks or peeling.
  • the processor estimates the cause of the temperature change based on the inclination of the temperature at the boundary of the temperature change.
  • the surface deformation includes at least one of repair marks, free lime, joints, steps, cracks and peeling.
  • the visible image is an image obtained by imaging the reflection intensity distribution in two or more different wavelength ranges in the wavelength range of visible light.
  • the image analysis device further includes a display device, and the processor displays the estimation result of the cause of the temperature change on the display device.
  • the image analysis method includes a step of acquiring an infrared thermal image of the structure to be inspected, a step of acquiring a visible image of the structure to be inspected, and a temperature change from the infrared thermal image.
  • the program to be executed by the computer according to the sixteenth aspect includes a step of acquiring an infrared thermal image of the structure to be inspected, a step of acquiring a visible image of the structure to be inspected, and infrared heat.
  • the cause of the temperature change is determined based on the step of determining the temperature change from the image and at least the temperature change information obtained from the infrared thermal image and the surface change information obtained from the visible image.
  • FIG. 1 is a block diagram showing an example of the hardware configuration of the image analysis device.
  • FIG. 2 is a block diagram showing a processing function realized by the CPU.
  • FIG. 3 is a diagram showing information stored in the storage unit.
  • FIG. 4 is a flow chart showing an analysis method using an image analysis device.
  • FIG. 5 is an infrared thermal image and a visible image of a structure to which rust juice is attached.
  • FIG. 6 is an image showing the deformed shape with respect to the image of FIG. 5 in binary.
  • FIG. 7 is an infrared thermal image and a visible image of the structure including the repaired portion.
  • FIG. 8 is an image showing the deformed shape of the image of FIG. 7 in binary values.
  • FIG. 5 is an infrared thermal image and a visible image of a structure to which rust juice is attached.
  • FIG. 6 is an image showing the deformed shape with respect to the image of FIG. 5 in binary.
  • FIG. 7 is an infrared thermal image and a
  • FIG. 9 is an infrared thermal image and a visible image of a structure including a peeled portion.
  • FIG. 10 is an infrared thermal image and a visible image of a structure including two peeled parts.
  • FIG. 11 is an image showing the deformed shape of the image of FIG. 9 in binary values.
  • FIG. 12 is an image showing the deformed shape with respect to the image of FIG. 10 in binary.
  • FIG. 13 is an infrared thermal image and a visible image of a structure including a cracked portion.
  • FIG. 14 is an infrared thermal image and a visible image of a structure including another cracked portion.
  • FIG. 15 is an image showing the deformed shape with respect to the image of FIG. 13 in binary.
  • FIG. 16 is an image showing the deformed shape with respect to the image of FIG. 14 in binary.
  • FIG. 17 is a diagram showing an example of a display result in which the estimation result is displayed on the display device.
  • the image analysis device is an image analysis device including a processor, and the processor acquires an infrared thermal image of a structure to be inspected and a visible image of the structure to be inspected. , Determine the temperature change based on the infrared thermal image, derive the temperature change information, derive the surface change information from the surface change based on the visible image of the part corresponding to the temperature change, and derive the temperature change information. And the cause of the temperature deformation is estimated based on the surface deformation information.
  • the present inventor has found the following as a result of diligent studies on reduction of erroneous detection of defective portions, and has reached the present invention.
  • the present inventor compared and investigated the infrared thermal image obtained by photographing the concrete structure and the visible image, and discriminated the surface deformation (color unevenness, joints, steps, rust juice, etc.) identified in the visible image and the infrared thermal image.
  • temperature deformation The relationship of temperature deformation (hereinafter, the part where the surface temperature is locally different from the surroundings in the infrared thermal image is called temperature deformation) differs depending on the thermal environment such as the position in the structure and the shooting time, that is, the concrete surface. It was found that the effect of surface deformation on the surface temperature differs depending on the thermal environment such as the position in the structure and the shooting time.
  • the present inventor thinks that this difference is due to the fact that there was solar radiation on the wall balustrade in the sunny daytime, and the amount of absorption was different between the part of color unevenness and rust juice and the other part.
  • the effect of surface deformation on the surface temperature differs depending on the thermal environment, so it is necessary to determine the effect (determine the cause of the temperature deformation), and therefore the positions of the surface deformation and temperature deformation.
  • the present inventor has found that it is indispensable to analyze relationships such as shape and shape.
  • FIG. 1 is a block diagram showing an example of the hardware configuration of the image analysis device according to the embodiment.
  • the image analysis device 10 shown in FIG. 1 a computer or a workstation can be used.
  • the image analysis device 10 of this example mainly includes an input / output interface 12, a storage unit 16, an operation unit 18, a CPU (Central Processing Unit) 20, a RAM (Random Access Memory) 22, a ROM (Read Only Memory) 24, and the like. It is composed of a display control unit 26.
  • a display device 30 is connected to the image analysis device 10, and a display device 30 is displayed under the command of the CPU 20 under the control of the display control unit 26.
  • the display device 30 is composed of, for example, a monitor.
  • the input / output interface 12 (input / output I / F in the figure) can input various data (information) to the image analysis device 10.
  • the data stored in the storage unit 16 is input via the input / output interface 12.
  • the CPU (processor) 20 collectively controls each unit by reading various programs stored in the storage unit 16 or the ROM 24 or the like, expanding them into the RAM 22, and performing calculations. Further, the CPU 20 reads a program stored in the storage unit 16 or the ROM 24, performs calculations using the RAM 22, and performs various processes of the image analysis device 10.
  • the infrared camera 32 shown in FIG. 1 photographs the structure 36 to be inspected and acquires an infrared thermal image of the surface of the structure.
  • the visible camera 34 photographs the structure 36 to be inspected and acquires a visible image of the structure 36.
  • the image analysis device 10 can acquire an infrared thermal image from the infrared camera 32 via the input / output interface 12. Further, the image analysis device 10 can acquire a visible image from the visible camera 34 via the input / output interface 12. The acquired infrared thermal image and visible image can be stored in the storage unit 16, for example.
  • FIG. 2 is a block diagram showing a processing function realized by the CPU 20.
  • the CPU 20 includes an infrared thermal image acquisition unit 51, a visible image acquisition unit 53, a temperature deformation information derivation unit 55, a surface deformation information derivation unit 57, a cause estimation unit 59, and an information display unit 61.
  • the specific processing functions of each part will be described later. Since the infrared thermal image acquisition unit 51, the visible image acquisition unit 53, the temperature deformation information derivation unit 55, the surface deformation information derivation unit 57, the cause estimation unit 59, and the information display unit 61 are a part of the CPU 20, the CPU 20 is a part of each unit. It can also be referred to as executing the processing of.
  • the storage unit 16 stores data and programs for operating the image analysis device 10, such as an operating system and a program for executing an image analysis method. Further, the storage unit 16 stores information and the like used in the embodiments described below.
  • FIG. 3 is a diagram showing information and the like stored in the storage unit 16.
  • the storage unit 16 is a memory composed of various semiconductor memories such as a CD (Compact Disk), a DVD (Digital Versatile Disk), a hard disk (Hard Disk), and a flash memory.
  • the storage unit 16 mainly stores the infrared thermal image 101, the temperature deformation information 102, the visible image 103, and the surface deformation information 104.
  • the infrared thermal image 101 is an image taken by the infrared camera 32, detects infrared radiant energy radiated from the structure 36, converts the infrared radiant energy into temperature, and heats the surface of the structure. It is an image showing the distribution.
  • the temperature change information 102 is information obtained from the temperature distribution and / or the temperature distribution of the infrared thermal image 101 regarding the temperature change.
  • the visible image 103 is an image taken by the visible camera 34 and shows the distribution of the reflection intensity of visible light from the surface of the structure 36.
  • a visible image is composed of an RGB image in which reflection intensity distributions in three different wavelength ranges are imaged in the wavelength range of visible light, that is, each pixel has color information (RGB signal value).
  • RGB signal value RGB signal value
  • the brightness of the visible image 103 which will be described later, indicates the signal value of the visible image 103, and the brightness of each pixel of the visible image 103 is at a position on the surface of the structure 36 to which each pixel corresponds. It reflects the reflection intensity of visible light.
  • the surface deformation information 104 is information on the surface deformation of the portion corresponding to the temperature change in the visible image 103, and is information obtained from the luminance distribution and / or the luminance distribution of the visible image 103.
  • the operation unit 18 shown in FIG. 1 includes a keyboard and a mouse, and the user can cause the image analysis device 10 to perform necessary processing via these devices.
  • the display device 30 can function as an operation unit.
  • the display device 30 is a device such as a liquid crystal display, and can display the result obtained by the image analysis device 10.
  • FIG. 4 is a flow chart showing an image analysis method using the image analysis device 10.
  • the image analysis method includes an infrared thermal image acquisition step (step S1), a visible image acquisition step (step S2), a temperature deformation information derivation step (step S3), and surface deformation information derivation. It includes a step (step S4), a cause estimation step (step S5), and an estimation result display step (step S6).
  • the infrared thermal image acquisition unit 51 acquires an infrared thermal image obtained by photographing the structure 36 to be inspected (infrared thermal image acquisition step: step S1).
  • the infrared thermal image is an infrared thermal image 101 stored in the storage unit 16.
  • the infrared thermal image 101 is acquired from the storage unit 16 by the infrared thermal image acquisition unit 51.
  • the infrared thermal image acquisition unit 51 acquires the infrared thermal image 101 from the outside.
  • the infrared thermal image acquisition unit 51 can acquire the infrared thermal image 101 through the network via the input / output interface 12, and the infrared thermal image acquisition unit 51 can acquire infrared rays from the infrared camera 32 via the input / output interface 12.
  • the thermal image 101 can be acquired.
  • the visible image acquisition unit 53 acquires a visible image obtained by photographing the structure to be inspected (visible image acquisition step: step S2).
  • the visible image is a visible image 103 stored in the storage unit 16.
  • the visible image 103 is acquired from the storage unit 16 by the visible image acquisition unit 53.
  • the visible image acquisition unit 53 acquires the visible image 103 from the outside.
  • the visible image acquisition unit 53 can acquire the visible image 103 through the network via the input / output interface 12, and the visible image acquisition unit 53 can acquire the visible image 103 from the visible camera 34 via the input / output interface 12. You can get it.
  • the temperature change information derivation unit 55 determines the temperature change based on the infrared thermal image 101 and derives the temperature change information 102 (temperature change information derivation step: step S3).
  • the temperature change information derivation unit 55 derives the temperature change information 102 from the infrared thermal image 101 by locally cohesively determining and extracting a portion having a difference in surface temperature from the surroundings as a temperature change.
  • a portion of the surface of the structure of the infrared thermal image 101 that exceeds a predetermined temperature difference from the average temperature (a portion having a higher temperature than the surroundings when the temperature rises such as in the daytime, and a temperature higher than the surroundings when the temperature drops such as at night).
  • the lower part can be determined as a temperature change and extracted.
  • a portion where the surface temperature is different from that of the surroundings and is spatially connected in a cohesive manner, or a portion where the surface temperature is distributed at a distance closer than a predetermined value even if they are not connected can be determined as one temperature change.
  • the temperature change is not necessarily the part where the actual surface temperature is different from the surroundings. That is, even if the actual surface temperature is the same as the surroundings, the infrared emissivity is different, so that the surface temperature is different from the surroundings in the infrared thermal image 101, and it may be determined that the temperature is deformed.
  • the infrared thermal image 101 may be the infrared thermal image itself obtained by photographing the target concrete structure 36 with the infrared camera 32. Further, in order to facilitate the determination of the temperature change and / or the derivation of the temperature change information, the original infrared thermal image 101 may be processed. For example, the surface temperature of the structure 36 often has an inclination (temperature gradient) due to a partial difference in the amount of heat received on the surface of the structure 36 or the amount of heat radiated from the surface of the structure 36. .. Therefore, the original infrared thermal image 101 may be processed so as to reduce the temperature gradient, and the temperature change may be determined and extracted from the processed image to derive the temperature change information 102.
  • the temperature change information 102 is information representing the temperature distribution (spatial distribution of temperature) of the temperature change, and extends to at least the range including the entire temperature change (the temperature change extends to the edge of the infrared thermal image 101). In the case, it is information representing the temperature distribution (range including the end). In the cause estimation step (step S5) described later, it is preferable that the information represents the temperature distribution in as wide a range as possible for the cause estimation.
  • the temperature deformation information 102 may be the temperature distribution itself in the original infrared thermal image 101, or may be a coarsely quantized distribution of the original temperature distribution, for example, a binarized, ternary, or quaternized distribution.
  • the temperature change information 102 may be information indicating the shape of the temperature change.
  • the binarized temperature distribution can be said to be information representing the shape of the temperature deformation.
  • the temperature change information may be information indicating the size when the temperature change is approximated by a rectangle or an ellipse.
  • the temperature change information 102 is information obtained from the temperature distribution and / or the temperature distribution of the infrared thermal image 101 regarding the temperature change.
  • the surface deformation information deriving unit 57 derives the surface deformation information 104 based on the visible image 103 (surface deformation information deriving step: step S4).
  • Deformation has the meaning of "a state changed from the initial state” or "a state different from the normal state", but in the embodiment, particularly, repair marks, foreign matter adhesion such as free lime, color unevenness (mold, rust, etc.) It affects the temperature of the concrete surface in infrared thermal images such as release agent, water effect, etc.), joints, steps, slag, sand streaks, rust juice or rust, water leakage, surface unevenness, bean plate, etc., causing temperature deformation.
  • the obtained surface condition is called “surface deformation”. Cracks and peeling are also called “surface deformation”.
  • the surface deformation information 104 is information indicating the presence / absence, type, shape, position, etc. of the surface deformation, and is obtained from the brightness distribution (spatial distribution of brightness) of the visible image 103. Further, in the case of surface deformation such as color unevenness, rust juice or rust in the visible image 103, the brightness distribution is effective in estimating the cause of the temperature deformation.
  • the brightness of each pixel of the visible image 103 reflects the reflection intensity of visible light at the position on the surface of the structure 36 to which each pixel corresponds.
  • the difference in brightness reflects the difference in reflection intensity with respect to visible light that uniformly illuminates the surface of the structure 36, that is, the difference in reflectance. That is, it reflects the difference in the absorption rate of visible light. Therefore, the brightness distribution on the surface of the structure 36 in the visible image 103 reflects the distribution of the absorption rate of visible light such as sunlight that uniformly illuminates the surface of the structure 36, that is, the distribution of the absorption amount, and similarly.
  • the surface deformation information 104 may be information representing the brightness distribution of the surface deformation, the brightness distribution of the visible image 103 itself, or a coarsely quantized distribution of the brightness distribution, for example, a binary value. It may be a quantized or quaternized distribution.
  • the surface deformation information 104 is information on the surface deformation of the portion corresponding to the temperature change in the visible image 103, and is information obtained from the luminance distribution and / or the luminance distribution of the visible image 103.
  • the luminance distribution of the location corresponding to the temperature deformation is the presence / absence, type, shape, position and luminance distribution of the surface deformation of the location. (Information to be included), and the luminance distribution may be the surface deformation information 104.
  • the peeled part has a distinctly different brightness than the original concrete surface, and the texture, contrast, and frequency spectrum of the brightness distribution are also different.
  • the portion exceeding the difference between the above is judged to be peeled and extracted. Since there is a step between the peeled part and the original concrete surface and the step part is dark (low brightness), the darkness of the boundary part (low brightness) can also be an effective feature for determining peeling. ..
  • the visible image 103 is locally cohesive, and the part where the brightness is different from the surroundings and / or the part where the texture of the brightness distribution is different and / or the part where the frequency spectrum of the brightness distribution is different and / Alternatively, a portion having a different contrast in the luminance distribution is determined and extracted.
  • a portion exceeding a predetermined brightness difference from the average brightness is determined to be another surface deformation and extracted.
  • One surface deformation is a part where one or more of the brightness, the texture of the brightness distribution, the frequency spectrum, and the contrast are different from the surroundings, and the part which is spatially connected in a cohesive manner or the part which is distributed at a distance closer than a predetermined even if it is not connected. And extract.
  • step S5 it is not always necessary to finely determine the type of surface deformations in the cause estimation step (step S5) described later (repair marks, free lime, color unevenness, joints, steps, rust, sand). Streaks, rust juice or rust, water leaks, surface irregularities, bean boards, etc.). However, if the type of surface deformation is determined, the cause can be estimated more appropriately in the cause estimation step (step S5).
  • the surface deformation in which the difference in the amount of visible light absorbed such as color unevenness, rust juice or rust from the surrounding concrete is the main cause of the difference in surface temperature from the surroundings in the infrared thermal image 101 is described above.
  • the luminance distribution reflects the distribution of the amount of visible light absorbed, the luminance distribution is effective for the cause estimation in the cause estimation step (step S5) as the surface deformation information 104.
  • the case of surface deformation in which the luminance distribution is not effective for estimating the cause is as follows.
  • the difference in thermal conductivity and infrared emissivity from the surrounding concrete such as repair marks and free lime is the main cause of the difference in surface temperature from the surroundings in the infrared thermal image 101.
  • the shape is effective as the surface deformation information 104 in the cause estimation step (step S5). Therefore, it is preferable to finely discriminate the types of other surface deformations.
  • the type can be finely discriminated based on the characteristics such as the average brightness, contrast, brightness dispersion, texture, frequency spectrum, and shape of the extracted surface deformation.
  • the visible image 103 usually consists of an RGB image in which reflection intensity distributions in three different wavelength ranges are imaged in the wavelength range of visible light. Cracks, peeling, and other surface deformations may be determined and extracted from any of the RGB brightness distributions, but surface deformations such as rust juice or rust have a difference in brightness (difference in reflection intensity) from concrete. Since it differs greatly depending on RGB, it is preferable to determine and extract from the luminance distribution of the channel having the largest difference. For example, in the case of rust juice or rust, the brightness of B is particularly low as compared with concrete, that is, the difference in absorption amount, which is the difference in reflection intensity in the wavelength range of B, is large, so it is preferable to judge from the brightness distribution of B.
  • the channels having a large difference in brightness from concrete differ depending on the type of surface deformation.
  • the difference in brightness of the R channel is particularly large, contrary to rust juice or rust. Therefore, it is preferable to evaluate the magnitude of the variation in brightness in the brightness distribution of each of the RGB channels, and determine and extract cracks, peeling, and other surface deformations from the channel with the largest variation.
  • the value obtained by dividing the standard deviation of the brightness at the location corresponding to the temperature change by the average brightness of the concrete, that is, the coefficient of variation, is obtained, and cracks, peeling, and peeling are performed from the channel having the largest coefficient of variation. And other surface deformations may be determined and extracted.
  • the average brightness of concrete the average value of the brightness in the portion corresponding to the temperature change may be adopted, or the average value of the brightness in a wider range including the portion corresponding to the temperature change may be adopted. ..
  • the type of other surface deformation When the type of other surface deformation is finely discriminated, it can be discriminated based on the characteristics such as the average brightness, contrast, luminance dispersion, texture, and frequency spectrum of each of the extracted RGB channels of the surface deformation. Similarly, when there are two or four or more types of visible image 103, cracks, peelings and other surface deformations are determined and extracted in the channels with the largest variation, and two or four or more types of each are used. Other types of surface deformation can be finely discriminated based on characteristics such as average brightness and contrast of channels.
  • the portion corresponding to the temperature change is larger than the spatial range corresponding to the temperature change when the temperature change is determined from the infrared thermal image 101 in the temperature change information derivation step (step S3). It is a wide range.
  • the cause estimation step (step S5) surface deformation information in a wider range than the range corresponding to the temperature deformation is required in the analysis of the cause estimation of the temperature deformation. In particular, for peeling, it is necessary to analyze the relationship between the temperature change and the peeling at a different position.
  • step S1 the order of the infrared thermal image acquisition step (step S1), the visible image acquisition step (step S2), the temperature deformation information derivation step (step S3), and the surface deformation information derivation step (step S4).
  • these orders can be changed as appropriate.
  • the cause estimation unit 59 estimates the cause of the temperature change based on the temperature change information 102 and the surface change information 104 (cause estimation step: step S5).
  • step S4 Since the process of estimating the cause is slightly different depending on the type of the surface deformation information 104 derived in the surface deformation information derivation step (step S4), the first aspect, the second aspect, and the third aspect will be described respectively.
  • ⁇ First aspect> As a first aspect, a case where the luminance distribution of the portion corresponding to the temperature deformation is used as the surface deformation information in the surface deformation information derivation step (step S4) will be described. The method of estimating the cause of cracks and peeling and other surface deformations will be described.
  • a range corresponding to the temperature deformation derived in the temperature deformation information derivation step (step S3) or a slightly wide range including the temperature deformation is extracted. ..
  • the similarity between the luminance distribution and the temperature distribution in this range is evaluated, and if they are similar, the cause of the temperature deformation is presumed to be this surface deformation. On the other hand, if they are not similar, it is presumed that the surface deformation is other than this, and it is presumed that it is an internal defect such as floating.
  • the similarity between the two distributions There are many methods for evaluating the similarity between the two distributions. For example, after standardizing each distribution so that the minimum and maximum values of the luminance distribution and the temperature distribution are the same, the following equation (1) Similarity can be evaluated by calculating the Euclidean distance given in. For example, the equation (1) may be calculated and determined to be similar when the distance is equal to or less than a predetermined value (the closer it is to 0, the more similar it can be determined).
  • the relationship between the brightness level and the temperature level may be the same or vice versa depending on the type of surface deformation and the timing of shooting, so it is necessary to calculate both cases.
  • the Euclidean distance is calculated for both the case where the brightness distribution is the same and the distribution where the brightness is reversed (for example, the distribution obtained by subtracting the original brightness value from 255), and when either distance is less than or equal to the predetermined value. Judge as similar.
  • v (x, y) is the pixel value of the coordinates (x, y) in the normalized luminance distribution
  • t (x, y) is the pixel value of the coordinates (x, y) in the normalized temperature distribution. Represents a value.
  • the product-moment correlation coefficient of Pearson given by the following equation (2) is calculated, and the absolute value of the correlation coefficient is equal to or more than a predetermined value (the closer it is to 1, the more similar it is). Then, it may be determined that it is similar to the case of).
  • the similarity can be evaluated regardless of whether the relationship between the brightness level and the temperature level is the same or vice versa.
  • v (x, y) is the pixel value of the coordinates (x, y) in the brightness distribution
  • v_ave is the average value of the brightness distribution
  • t (x, y) is the coordinate (x, y) in the temperature distribution.
  • the pixel value is represented by t_ave, which represents the average value of the temperature distribution.
  • FIG. 5 is an image of a concrete structure photographed in the daytime
  • FIG. 5 (A) is a visible image
  • FIG. 5 (B) is an infrared thermal image.
  • rust juice adheres to the surface of the photographed concrete structure to be inspected.
  • step S3 it is determined and extracted from the infrared thermal image (FIG. 5 (B)) as a temperature change having a higher surface temperature than the surroundings. Rust juice is reflected in the visible image (Fig. 5 (A)) of the part corresponding to the temperature change, and the brightness distribution and the temperature distribution of the temperature change are similar (relationship between the high and low brightness and the high and low temperature). The opposite), it is presumed that the cause of the temperature deformation is this surface deformation (rust juice).
  • FIG. 6 shows the deformed shape with respect to the image of FIG. 5 as binary values, and the pixel with the deformity is represented by 1 (white) and the pixel without the deformity is represented by 0 (black).
  • FIG. 6 (A) shows the shape of the surface deformation (rust juice) derived from the visible image (FIG. 5 (A)), and
  • FIG. 6 (B) shows the temperature derived from the infrared thermal image (FIG. 5 (B)). It represents a deformed shape. Comparing FIG. 6 (A) and FIG. 6 (B), it is determined that they are similar.
  • FIG. 7 is an image of a concrete structure photographed in the daytime
  • FIG. 7 (A) is a visible image
  • FIG. 7 (B) is an infrared thermal image.
  • the surface of the concrete structure to be inspected includes the repaired part.
  • step S3 it is determined and extracted from the infrared thermal image (FIG. 7 (B)) as a temperature change having a higher surface temperature than the surroundings.
  • the repair mark is shown in the visible image (Fig. 7 (A)) of the part corresponding to the temperature change, and the brightness distribution and the temperature distribution of the temperature change are similar (relationship between the high and low brightness and the high and low temperature). The same), it is presumed that the cause of the temperature deformation is this surface deformation (repair mark).
  • FIG. 8 shows the deformed shape with respect to the image of FIG. 7 as binary values, and similarly, the pixel with the deformity is represented by 1 (white) and the pixel without the deformity is represented by 0 (black).
  • FIG. 8 (A) shows the shape of the surface deformation (repair mark) derived from the visible image (FIG. 7 (A)), and
  • FIG. 8 (B) shows the temperature derived from the infrared thermal image (FIG. 7 (B)). It is a deformed shape. Comparing FIG. 8 (A) and FIG. 8 (B), it is determined that they are similar.
  • the temperature gradient at the boundary of the temperature change is steep.
  • the temperature deformation caused by the surface deformation is characterized by a steep temperature gradient at the boundary (however, it depends on the type of surface deformation).
  • internal defects such as floating
  • heat diffuses between the internal defects and the surface so the temperature gradient at the boundary of temperature deformation due to the internal defects is gentle, and the deeper the internal defects, that is, the internal defects. The wider the space between the surface and the surface, the more heat is diffused, and the gentler the temperature gradient becomes.
  • the cause of the temperature change may be estimated based on this feature (a feature in which the temperature slope is steep at the boundary of the temperature change).
  • the temperature distribution and the luminance distribution are similar in a range corresponding to the temperature deformation derived in the temperature deformation information derivation step (step S3) or a slightly wider range, and / or the temperature at the boundary of the temperature deformation.
  • a predetermined value a preset threshold value
  • the cause of the temperature deformation may be presumed to be the surface deformation.
  • the average value of the maximum slopes of each point on the boundary may be obtained. For example, at each point (x, y) on the boundary, the equation (3) may be calculated and the average value thereof may be obtained.
  • the slope of temperature can be indirectly evaluated by using the spatial second derivative of temperature. Any method may be used to evaluate the slope of temperature.
  • This feature is particularly noticeable in "repair marks,” “joints,” and “steps,” and is effective in estimating the cause.
  • FIGS. 9 and 10 are images of a concrete structure taken in the daytime.
  • FIG. 9A is a visible image and
  • FIG. 9B is an infrared thermal image.
  • FIG. 10A is a visible image
  • FIG. 10B is an infrared thermal image.
  • the photographed concrete structure to be inspected includes a peeled portion on the surface.
  • a portion having a high surface temperature (a portion having a light color in the infrared thermal image) can be seen adjacent to the peeled portion. It is considered that this part is in a floating state due to air entering from the peeled part. In this way, in the part where the surface is peeled off, there are many parts where air enters and floats from there.
  • step S3 From the temperature distribution derived in the temperature deformation information derivation step (step S3) and the brightness distribution derived in the surface deformation information derivation step (step S4), floating (or peeling with floating) with peeling is performed in this way. Can be judged. Specifically, the similarity between the temperature distribution and the luminance distribution is evaluated for each of the whole and the part of the temperature deformation, and when the whole is not similar but partially similar, it is determined that the float is accompanied by peeling.
  • the evaluation of the similarity of the entire temperature variation is performed by extracting the range corresponding to the temperature variation from the luminance distribution and evaluating the similarity between the luminance distribution and the temperature distribution in this range.
  • a predetermined range centered on each point on the boundary of the temperature-deformed is extracted from the brightness distribution based on the shape of the temperature-deformed, and the brightness distribution of each range is performed. It is done by evaluating the similarity between the temperature distribution and the temperature distribution. If any part is similar, it is judged to be a float with peeling. Since the shape of the boundary (step) of the peeled portion in the luminance distribution and the shape of the boundary of the temperature deformation in the temperature distribution match, it can be determined by such an evaluation. As described above, the evaluation of similarity is performed so as to cover the case where the relationship between the high and low brightness of the luminance distribution and the high and low temperature of the temperature distribution is the same or vice versa.
  • the surface temperature is lower than the surroundings at the locations separated from the infrared thermal images of FIGS. 9 and 10.
  • the surface temperature at the peeled spot is higher than that of the surroundings. It is considered that the reason why the surface temperature of the peeled portion is different from that of the surroundings is that the peeled portion is deeper than the surroundings. Since the surface temperature of the peeled portion is different from that of the surroundings, it is determined to be a temperature change and extracted. Temperature deformation caused by peeling can be distinguished from internal defects such as floating and other surface deformations because the temperature relationship with the surroundings is different.
  • the peeled part of the luminance distribution and the part different from the surroundings in the temperature distribution coincide with each other, the overall temperature distribution and the luminance distribution of the temperature deformation are clearly similar. Therefore, since peeling and other surface deformations can be distinguished from the characteristic brightness distribution accompanied by a dark portion due to a step, that is, a portion having low brightness, it can be easily determined that the cause of this temperature deformation is peeling. Note that in the case of a float with peeling, the temperature change and the peeling are adjacent and the positions are different.
  • the temperature gradient at the boundary of the temperature deformation is steep, so this feature is presumed to be the cause. Can be used for.
  • the temperature inclination is steep only in the portion adjacent to the peeling in the boundary of the temperature deformation, and the temperature inclination is gentle in the other portions as in the case of normal floating. Therefore, in the case of a float accompanied by peeling, the temperature slope at the entire boundary of the temperature deformation is gentle, but when the temperature slope at a part of the boundary is steep, it may be determined that the float is accompanied by peeling.
  • the temperature is determined for the whole and part of the temperature deformation. Evaluate the similarity between the distribution and the brightness distribution, and evaluate the slope of the temperature distribution when the whole is not similar but partially similar, and the whole and the part of the boundary of the temperature deformation are evaluated, and the total slope is When it is equal to or less than a predetermined value and the inclination is partially equal to or more than a predetermined value, the cause of the temperature change may be presumed to be floating accompanied by peeling.
  • the maximum slope that is, the magnitude of the temperature distribution gradient vector
  • the average value (the average value of the maximum slopes of all the points on the boundary of the temperature deformation) may be obtained.
  • the slope of the temperature at the boundary of the temperature deformation can be obtained by extracting a predetermined range centered on each point on the boundary and finding the average value of the maximum slopes of all the points on the boundary included in the extracted predetermined range. good.
  • the part similar to the luminance distribution and the part where the temperature slope of the boundary is steep are the same. That is, in the temperature distribution of the temperature deformation, the temperature distribution and the brightness distribution are similar in the portion adjacent to the peeling, and the inclination of the temperature at the boundary is steep. Therefore, for each part of the temperature deformation, the similarity with the luminance distribution and the evaluation of the temperature slope are performed at the same time, and when there is a part similar to the luminance distribution and the temperature slope is steep, the temperature deformation A method of presuming that the cause of the above is floating accompanied by peeling is preferable.
  • the temperature slope may be standardized by an absolute value or the like.
  • the similarity with the luminance distribution is evaluated including the feature that the temperature slope at the boundary is steep, but as described above.
  • the temperature gradient may be evaluated.
  • FIG. 11 shows the deformed shape with respect to the image of FIG. 9 in binary
  • FIG. 12 shows the deformed shape with respect to the image of FIG. 10 in binary
  • Pixels with deformation are represented by 1 (white)
  • pixels without deformation are represented by 0 (black).
  • FIG. 11 (A) shows the shape of the surface deformation (peeling) derived from the visible image (FIG. 9 (A))
  • FIG. 11 (B) shows the temperature variation derived from the infrared thermal image (FIG. 9 (B)). It represents the shape of the shape.
  • FIG. 11 when FIG. 11 (A) and FIG. 11 (B) are compared, they are not similar as a whole, but they are adjacent to the peeling at the upper right part of the temperature change, and are adjacent to the peeling. Since the shape of the boundary between the temperature change and the peeling is similar in the part where the temperature changes, it can be presumed that the floating is accompanied by the peeling.
  • FIG. 12 (A) shows the shape of the surface deformation (peeling) derived from the visible image (FIG. 10 (A)), and FIG. 12 (B) shows the temperature variation derived from the infrared thermal image (FIG. 10 (B)). It represents the shape of the shape.
  • FIG. 12 (A) and FIG. 12 (B) are compared, there is a small peeling on the left side in addition to the peeling on the right side, both of which are adjacent to each other due to the temperature change and are adjacent to each other. Since the shape is similar to the temperature deformation in the part, it can be estimated that both of the two temperature deformations are floating with peeling.
  • FIG. 13 and 14 are images of concrete structures taken in the daytime.
  • FIG. 13 (A) is a visible image
  • FIG. 13 (B) is an infrared thermal image
  • FIG. 14 (A) is a visible image
  • FIG. 14 (B) is an infrared thermal image.
  • 13 and 14 include cracks on the surface of the photographed concrete structure to be inspected.
  • the floating with cracks (or cracks with floating) can be determined.
  • a known edge is detected in the temperature distribution, and the boundary of the temperature deformation is extracted.
  • edge detection such as the Sobel method, the Laplacian method, and the Canny method.
  • the luminance distribution in a predetermined range centered on each point on the boundary of the temperature deformation and the distribution of the boundary extracted of the temperature deformation are extracted and the similarity is evaluated. .. If any part of the boundary is similar, it is determined that there is a crack along the boundary at that part, that is, a float with a crack.
  • the luminance distribution in a predetermined range centered on each point inside the temperature deformation and the edge-extracted distribution of the temperature deformation are extracted and the similarity is evaluated. do.
  • the evaluation of similarity is performed so as to cover the case where the values of the two distributions to be evaluated are the same or the opposite.
  • the similarity may be evaluated in consideration of the fact that the brightness of the crack is lower than that of the surroundings in the brightness distribution.
  • the temperature gradient at some boundaries is steeper than the temperature deformation caused by internal defects such as floating. That is, the temperature slope is steep at the cracked portion along the boundary of the temperature deformation. In addition, the temperature inclination is steep even in the cracked part inside the temperature deformation. Therefore, this feature may also be used to determine cracked floats. For example, after performing edge detection on the temperature distribution and extracting the boundary of the temperature change and the part where the temperature change is abrupt inside, the edge size is equal to or more than the predetermined value, that is, the temperature slope is equal to or more than the predetermined value. Extract the steep part.
  • the cause of the temperature deformation is other than the floating with cracks, and it is presumed that it is an internal defect such as a floating.
  • the similarity between each part and the brightness distribution is evaluated, and when it is similar in any part (there is a linear part with a steep temperature slope, and the linear part). If the shape of the portion matches the shape of the crack in the luminance distribution), the cause of the temperature change may be presumed to be a floating with a crack.
  • the temperature slope may be standardized by the absolute value of the temperature difference.
  • the visible image usually consists of an RGB image.
  • the cause may be estimated from any of the brightness distributions of RGB, but it is preferable to evaluate the magnitude of the variation in brightness in the brightness distribution of each channel of RGB and estimate the cause from the channel having the largest variation. The same applies when there are two types or four or more types of visible images.
  • FIG. 15 shows the deformed shape with respect to the image of FIG. 13 in binary
  • FIG. 16 shows the deformed shape with respect to the image of FIG. 14 in binary. Pixels with deformation are represented by 1 (white), and pixels without deformation are represented by 0 (black).
  • FIG. 15 (A) shows the shape of the surface deformation (crack) derived from the visible image (FIG. 13 (A)), and FIG. 15 (B) shows the temperature change derived from the infrared thermal image (FIG. 13 (B)). It represents the shape of the boundary of the shape.
  • FIG. 15 since the shape of the surface deformation (crack) in FIG. 15 (A) and the shape of the boundary of the temperature deformation in FIG. 15 (B) are at least partially similar, the floating with cracks. Can be estimated.
  • FIG. 16 (A) shows the shape of the surface deformation (crack) derived from the visible image (FIG. 14 (A)), and FIG. 16 (B) shows the temperature derived from the infrared thermal image (FIG. 14 (B)). It represents the shape of the edge (the part where the temperature changes suddenly) inside the deformation. In FIG. 16, the boundary of the temperature change is also extracted as an edge, but the boundary is omitted. Since the shape of the surface deformation (crack) in FIG. 16A and the shape of the edge inside the temperature deformation in FIG. 16B are at least partially similar, it can be presumed to be a floating with cracks.
  • step S4 From the brightness distribution derived in the surface deformation information derivation step (step S4), the range corresponding to the temperature deformation derived in the temperature deformation information derivation step (step S3) is extracted, and the brightness distribution in this range is used. Evaluate the similarity of temperature distribution. At that time, the temperature slope at the boundary of the temperature deformation may be evaluated.
  • the cause of the temperature deformation is presumed to be surface deformation. Further, it may be determined whether the surface deformation is peeling or another surface deformation based on the relationship of the temperature difference with the surroundings of the temperature deformation.
  • a predetermined range centered on each point on the boundary of the temperature deformation derived in the temperature deformation information derivation step (step S3) is set. Extract and evaluate the similarity between the brightness distribution and the temperature distribution in each range. At that time, the temperature slope of the boundary of the temperature change in each range may be evaluated.
  • edge detection is performed on the temperature distribution of the temperature deformation derived in the temperature deformation information derivation step (step S3).
  • a predetermined range centered on each point on and inside the temperature deformation boundary derived in the temperature deformation information derivation step (step S3) is extracted.
  • the similarity between the brightness distribution in each range and the temperature distribution detected at the edge is evaluated. At that time, only a portion having an edge size of a predetermined value or more may be extracted from the temperature distribution detected at the edge.
  • ⁇ Second aspect> As a second aspect, in the surface deformation information derivation step (step S4), the presence / absence, type, shape, position, and brightness distribution of the surface deformation are explicitly derived from the brightness distribution of the portion corresponding to the temperature change. The case where the type of other surface deformation is not discriminated will be described. The method of estimating the cause of cracks and peeling and other surface deformations will be described.
  • the range includes both the range of this surface deformation and the range corresponding to the temperature deformation derived in the temperature deformation information derivation step (step S3). Similarity may be evaluated. Also, based on the shape rather than the temperature distribution and brightness distribution, for example, a distribution in which pixels with temperature deformation are binarized to 1 and pixels without temperature deformation are binarized to 0, pixels with other surface deformation are set to 1, and pixels without other surface deformation are set to 0. The similarity of the binarized distribution may be evaluated.
  • the temperature deformation caused by other surface deformations is characterized by a steeper temperature inclination at the boundary than the temperature deformations caused by internal defects.
  • the cause of the temperature change may be estimated based on the above. Since the method has been described in the first aspect, the description thereof will be omitted.
  • the cause of the temperature change is presumed to be a cause without peeling, for example, an internal defect such as floating without peeling.
  • the position and shape of the temperature deformation derived in the temperature deformation information derivation step (step S3) are compared with the position and shape of the peeling, and the temperature deformation and the peeling position are different and adjacent to each other.
  • the cause of the temperature change is presumed to be floating with peeling.
  • a distribution in which pixels with temperature deformation are binarized to 1 and pixels without temperature deformation is binarized to 0, and a distribution in which pixels with peeling are binarized to 1 and pixels without peeling are binarized to 0, based on the shape of the temperature deformation.
  • a predetermined range centered on each point on the boundary of the deformation is extracted, and the temperature deformation shape distribution in each range (pixels with temperature deformation are binarized to 1 and pixels without temperature deformation are binarized to 0).
  • the similarity of the peeled shape distribution (the distribution in which the pixels with peeling are binarized to 1 and the pixels without peeling are binarized to 0) is evaluated, and if they are similar in any part, it is estimated that the floating is accompanied by peeling.
  • the temperature distribution and brightness distribution in a predetermined range centered on each point on the boundary of the temperature deformation are extracted, the similarity between the temperature distribution and brightness distribution in each range is evaluated, and they are similar in any part. It may be presumed that the floating is accompanied by peeling.
  • the peeling is outside the magnitude of the temperature deformation derived in the temperature deformation information derivation step (step S3) and the boundary of the peeling is located near the boundary of the magnitude of the temperature deformation, the peeling is accompanied. It may be presumed to be floating.
  • the temperature change caused by the floating accompanied by the peeling has a steep temperature slope in the portion adjacent to the peeling in the boundary of the temperature change. Therefore, the similarity between the shape or temperature distribution of the temperature deformation and the shape or brightness distribution of the peeling is evaluated in a predetermined range centered on each point on the boundary of the temperature deformation, and the temperature deformation in the predetermined range is evaluated. Evaluate the temperature gradient of the boundary, and if there is a portion where the temperature deformation shape or temperature distribution is similar to the peeling shape or brightness distribution and / or there is a steep temperature gradient, peeling is accompanied. It may be presumed to be floating.
  • the boundary of the peeling is located near the boundary of the magnitude of the temperature deformation, and the temperature gradient of the temperature deformation is steep near the boundary, the peeling is performed. It may be presumed to be an accompanying float.
  • temperature slope may be standardized as described in the first aspect.
  • the cause of the temperature change is presumed to be a cause without cracks, for example, an internal defect such as a float without cracks.
  • the similarity between the shape of the temperature deformation derived in the temperature deformation information derivation step (step S3), that is, the shape of the boundary and the shape of the crack is evaluated. Then, if any part of the temperature deformation boundary is similar, it is presumed that there is a crack along the boundary at that part, that is, a floating with a crack.
  • the evaluation of similarity is performed as follows, for example.
  • step S3 evaluate the similarity between the distribution obtained by edge detection on the temperature distribution of the temperature deformation and the brightness distribution of the cracks, and if they are similar at any part on the boundary of the temperature deformation, the boundary at that part It may be presumed that there is a crack along the line, that is, a floating with a crack. Further, if there is a crack inside the temperature deformation derived in the temperature deformation information derivation step (step S3), it is presumed that the float is accompanied by a crack. Alternatively, if the crack is near or inside the boundary of the magnitude of the temperature deformation derived in the temperature deformation information derivation step (step S3), it may be presumed to be a floating with a crack.
  • the temperature change caused by the floating with a crack has a steep temperature slope in the cracked part along the boundary of the temperature change and in the cracked part inside the temperature change. Is. Therefore, the similarity between the shape of the temperature deformation or the distribution obtained by edge detection of the temperature distribution in a predetermined range centered on each point on the boundary of the temperature deformation and the shape of the crack or the brightness distribution is evaluated. , The temperature inclination of the boundary of the temperature deformation in a predetermined range, for example, the size of the detected edge is evaluated, and the edge is detected in the shape or temperature distribution of the temperature deformation in any part, and the shape or brightness of the crack.
  • the distribution is similar and / or there is a portion with a steep temperature gradient, it may be presumed to be a floating with cracks. Further, if there is a crack inside the temperature deformation, the temperature gradient of the temperature distribution in the cracked portion may be evaluated, and if the temperature gradient is steep in the cracked portion, it may be presumed to be a floating with a crack. At that time, in a predetermined range including the cracked part, the similarity between the distribution obtained by edge detection in the temperature distribution and the shape or brightness distribution of the crack is also evaluated, and if they are similar and / or the temperature slope is steep. In some cases, it may be presumed to be a floating with cracks.
  • temperature slope may be standardized as described in the first aspect.
  • step S4 the presence or absence of other surface deformations derived in the surface deformation information derivation step (step S4), and if any, the surface deformations and the temperature deformations derived in the temperature deformation information derivation step (step S3). Evaluate similarity. At this time, the temperature slope at the boundary of the temperature deformation may be evaluated.
  • step S4 the presence or absence of peeling derived in the surface deformation information derivation step (step S4), and if there is, the partial similarity between the peeling and the temperature deformation derived in the temperature deformation information derivation step (step S3). Evaluate the positional relationship. At this time, the temperature slope of the boundary of the temperature change in each portion may be evaluated.
  • step S4 the presence or absence of cracks and the positional relationship (evaluating the presence or absence of cracks near the boundary of the temperature deformation or inside) derived in the surface deformation information derivation step (step S4) are evaluated, and if there are cracks, the cracks and temperature are evaluated.
  • the boundary and internal similarity of the temperature deformation derived in the deformation information derivation step (step S3) are evaluated. At this time, the temperature slope of the temperature change in each portion may be evaluated.
  • the cause of the temperature change is the floating with the crack. Presumed to be.
  • ⁇ Third aspect> As a third aspect, in the surface deformation information derivation step (step S4), the presence / absence, type, shape, position, and brightness distribution of the surface deformation are explicitly derived from the brightness distribution of the portion corresponding to the temperature change. Further, a case where the type of other surface deformation is discriminated will be described.
  • the cause estimation method for cracks and peeling is the same as the second aspect, and only the cause estimation method for other surface deformations is different from the second aspect.
  • the information effective for estimating the cause differs depending on the type of surface deformation as follows.
  • the brightness distribution is effective for estimating the cause as surface deformation information.
  • the brightness distribution is effective for estimating the cause, but for the repair mark in FIG. 7, the brightness distribution on the surface of the repair mark becomes noise, and it can be understood that only the shape is more effective. Therefore, in the third aspect, the cause is estimated for other surface deformations basically by the same method as in the second aspect, but the surface deformation information used for the evaluation of similarity is used properly depending on the type of surface deformation. Specifically, the brightness distribution or the shape should be used properly.
  • the temperature deformation caused by the surface deformation has a steeper slope of the temperature at the boundary than the temperature deformation caused by the internal defect.
  • there are some surface deformations such as the rust juice shown in FIG. 5 in which the temperature inclination of the boundary is not necessarily steep. Therefore, depending on the type of surface deformation, the temperature slope of the boundary of the temperature deformation is evaluated or not, and the temperature slope is evaluated for the surface deformation such as rust juice in which the temperature slope of the boundary is not necessarily steep. A method in which the above is not carried out is preferable.
  • Estimatiation result display step> The information display unit 61 displays the estimation result of the cause of the temperature change on the display device 30 via the display control unit 26 (estimation result display step: step S6).
  • the cause estimated in the cause estimation step (step S5) is displayed. It may be displayed near each temperature change on the infrared thermal image, or may be displayed together with the position and shape of the temperature change on the visible image. The infrared thermal image and the visible image may be displayed on any processed image and / or any other image. In the case of the third aspect (when the type of other surface deformation is determined), if the cause estimated in the cause estimation step (step S5) is "other surface deformation", the type (color unevenness). , Joints, steps, rust juice, etc.).
  • FIG. 17 is a diagram showing an example of a display result in which the estimation result is displayed on the display device 30.
  • FIG. 17 displays an infrared thermal image corresponding to FIG. 10 (B). Further, the part determined to be the temperature change in the temperature change information derivation step (step S3) and extracted is surrounded by a white frame and displayed, and the cause estimated in the cause estimation step (step S5) "floating with peeling" is displayed. Is displayed in white near the white frame.
  • FIG. 17 is just an example, and in order to make it easier to see the cause "floating with peeling", only the background of the character may be a white background, and there are innumerable variations in how to show it, and there is no particular limitation.
  • the cause of the temperature deformation is estimated to be another surface deformation so that the temperature difference due to the cause inside the structure can be discriminated, the temperature distribution due to the surface deformation is changed to the temperature. It may be estimated based on the information and surface deformation information and reduced from the original temperature distribution. There are various methods.
  • the brightness distribution of the surface deformation which is the surface deformation information
  • a predetermined blurring process the temperature distribution due to the surface deformation is blurred due to the cause such as heat conduction compared to the brightness distribution
  • the contrast may be adjusted to best match the original temperature distribution, and the contrast-optimized luminance distribution may be presumed to be the temperature distribution due to surface deformation and subtracted or removed from the original temperature distribution. ..
  • the method of estimating the temperature distribution from the luminance distribution of the surface deformation like this method is not suitable for the surface deformation whose luminance distribution and temperature distribution are not similar. That is, as described above, this method is suitable for surface deformation such as color unevenness, rust juice or rust, in which the difference in the amount of visible light absorbed from concrete is the main cause of the difference in temperature.
  • temperature differences due to surface deformations such as repair marks and free lime, which are the main causes of temperature differences due to differences in thermal conductivity and infrared emissivity from concrete, and structural causes such as joints and steps. Not suitable for surface deformations that occur.
  • various thermal parameters related to surface deformation are set according to the type of surface deformation, and thermal simulation (simulation including heat conduction, heat radiation, and convection) is performed based on these parameters and the shape of the surface deformation. May be performed to simulate the temperature distribution, and the temperature distribution in the simulation that best matches the original temperature distribution may be estimated as the temperature distribution due to surface deformation and subtracted from or removed from the original temperature distribution.
  • thermal conductivity and infrared emissivity are set as particularly important parameters, and structural joints, steps, etc. are set.
  • structural parameters such as the depth and height of the unevenness of the joint and the height of the step are set as particularly important parameters.
  • the original temperature distribution is represented by a temperature distribution that is approximated by a lower-order mathematical formula, for example, a low-order polynomial such as a linear equation (plane) or a quadratic equation (curved surface), and is the most similar to the original temperature distribution.
  • the matching temperature distribution may be estimated as the temperature distribution due to surface deformation and subtracted from the original temperature distribution.
  • a distribution obtained by subjecting the original temperature distribution to a predetermined blurring process may be estimated as a temperature distribution due to surface deformation and subtracted from the original temperature distribution.
  • step S3 the temperature deformation determination and temperature deformation information derivation in the temperature deformation information derivation step (step S3), the surface deformation information derivation in the surface deformation information derivation step (step S4), and the cause estimation step (step).
  • step S5 The method of performing each process of estimating the cause of S5) on a rule basis has been described.
  • each step of the temperature deformation information derivation step (step S3), the surface deformation information derivation step (step S4), and the cause estimation step (step S5) may be carried out by various machine learning methods. can.
  • FCN Frully Convolutional Network
  • SegNet A Deep Convolutional Encoder-Decoder
  • Architecture for Image Segmentation U-Net (Convolutional Networks for Biomedical Image Segmentation), and other machine learning methods that detect objects from images and extract their regions can be used.
  • the same machine learning method can be used for the method of deriving the surface deformation information from the visible image in the surface deformation information derivation step (step S4).
  • a visible image when there are a plurality of types of images such as an RGB image, all types of visible images may be input.
  • R-CNN (Regions with CNN (Convolutional Neural Network) features), Fast R-CNN, Yolo (Regions with CNN (Convolutional Neural Network) features), Fast R-CNN, Yolo (Regions with CNN (Convolutional Neural Network) features), Fast R-CNN, Yolo (Regions with CNN (Convolutional Neural Network) features) Machine learning methods such as You Only Look Once) and SSD (Single Shot MultiBox Detector) can also be used.
  • step S4 first, the surface deformation is determined, and the feature amount (feature amount such as average brightness, shape, texture of brightness distribution, contrast, frequency spectrum) is extracted from the brightness distribution.
  • feature amount feature amount such as average brightness, shape, texture of brightness distribution, contrast, frequency spectrum
  • discrimination method discriminating the type of surface deformation (other surface deformation, peeling, cracking, and other types of surface deformation such as uneven color, joints, steps, rust juice, etc.) from the feature amount, as the discrimination method.
  • Machine learning methods that classify objects based on features, such as logistic regression, linear discriminant analysis, K-nearest method, decision tree (classification tree), random forest, and support vector machine (SVM), can be used.
  • the method of estimating the cause of the temperature deformation from the temperature deformation information and the surface deformation information is also carried out by various machine learning methods according to the form of the temperature deformation information and the surface deformation information.
  • various machine learning methods for example, when inputting the temperature distribution of the temperature change as the temperature change information and the brightness distribution of the portion corresponding to the temperature change as the surface change information, a machine learning method such as DNN (Deep Neural Network) or CNN is used.
  • DNN Deep Neural Network
  • the causes of temperature deformation are "other surface deformation (when classifying other types of surface deformation," color unevenness "," joint “,” step “,” rust juice ", etc.)” "floating with peeling” " It can be classified into “floating with cracks” and "floating”.
  • the temperature deformation information derivation step (step S3), the surface deformation information derivation step (step S4), and the cause estimation step (step S5) can all be carried out by one machine learning method. That is, the infrared thermal image and the visible image (if there are multiple types of images such as RGB, all types of visible images) are input, and the FCN, SegNet, U-Net, R-CNN, and Fast mentioned above are input. It is possible to detect temperature changes by machine learning methods such as R-CNN, Yolo, and SSD, and to classify the causes. When executing machine learning, it is preferable that the learning data is abundant.
  • the causes of other surface deformations, peeling, and cracks were estimated in order, and one cause was estimated as the cause of the temperature deformation.
  • Multiple candidates may be estimated as the cause of the temperature change. That is, the cause may be estimated for each of the other surface deformations, peeling, and cracks, and a plurality of candidates such as other surface deformations, floating with peeling, and floating with cracks may be performed as the causes of the temperature deformation. May be estimated.
  • the cause may be estimated probabilistically instead of being estimated by alternatives. For example, for other surface deformations, peeling, and cracks, if they are not located at the locations corresponding to the temperature deformations in the visible image, the probability of being the cause of the temperature deformations is 0%, and if there are, the temperature deformations. As the probability that is the cause of The value obtained by converting (such as the probability correlation coefficient of) into a probability may be adopted.
  • a value converted into a probability may be adopted including the calculated value of the temperature gradient inside and the boundary of the temperature deformation.
  • the program of the above embodiment may be implemented by a dedicated analysis program, and the device to be implemented does not matter. For example, it can be carried out on a personal computer. Also, the devices or programs that perform each step may be integrated or separated.
  • the hardware structure of the processing unit that executes various processes is various processors as shown below.
  • the circuit configuration can be changed after manufacturing the CPU (Central Processing Unit), FPGA (Field Programmable Gate Array), etc., which are general-purpose processors that execute software (programs) and function as various processing units.
  • a dedicated electric circuit which is a processor having a circuit configuration specially designed to execute a specific process such as a programmable logic device (PLD) and an ASIC (Application Specific Integrated Circuit). Is done.
  • One processing unit may be composed of one of these various processors, or may be composed of two or more processors of the same type or different types (for example, a plurality of FPGAs or a combination of a CPU and an FPGA). You may. Further, a plurality of processing units can be configured by one processor. As an example of configuring a plurality of processing units with one processor, first, one processor is configured by a combination of one or more CPUs and software, as represented by a computer such as a client or a server. There is a form in which the processor functions as a plurality of processing units.
  • SoC System On Chip
  • a processor that realizes the functions of the entire system including a plurality of processing units with one IC (Integrated Circuit) chip is used.
  • the various processing units are configured by using one or more of the above-mentioned various processors as a hardware-like structure.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Investigating Or Analyzing Materials Using Thermal Means (AREA)

Abstract

欠陥部の誤検出を低減できる画像解析装置、画像解析方法、及びプログラムを提供する。プロセッサを備える画像解析装置であって、プロセッサは、点検対象の構造物を撮影した赤外線熱画像を取得し、点検対象の構造物を撮影した可視画像を取得し、赤外線熱画像から温度変状を判定し、温度変状について、少なくとも、赤外線熱画像から得られる温度変状情報と、可視画像から得られる表面変状情報と、に基づき、温度変状の原因を推定する。

Description

画像解析装置、画像解析方法及びプログラム
 本発明は、画像解析装置、画像解析方法及びプログラムに関する。
 赤外線カメラで、コンクリートなどの構造物を撮影した際に取得される赤外線熱画像を用いて、構造物に含まれる浮き、クラックなどの欠陥部と健全部とを判別する技術が知られている。構造物に欠陥部が有ると、昼間のような温度上昇時には欠陥部の表面温度が健全部の表面温度より高くなり、逆に、夜間のような温度下降時には欠陥部の表面温度が健全部の表面温度より低くなる。したがって、赤外線熱画像に、周囲と表面温度の相違する部分が存在すれば、その部位の内部に欠陥部が有ると判別できる。
 一方で、赤外線調査では、構造物の内部に浮きなどの欠陥部が存在しないにも関わらず、表面温度が周囲と異なる部分が有る。例えば、構造物が補修されている場合、補修材の熱伝導率が周囲のコンクリートと異なることにより、補修跡の表面温度が周囲のコンクリートの表面温度と異なる場合がある。また、補修跡における赤外線放射率が周囲のコンクリートと異なることにより、赤外線熱画像における補修跡の見かけの表面温度が周囲のコンクリートと異なる場合がある。表面に遊離石灰などの異物が付着している場合も、その部分における実際の温度及び/又は見かけの温度が周囲のコンクリートと異なる場合がある。他に、色ムラ(カビ、苔、剥離剤、水影響など)、目地、段差、ノロ、砂すじ、錆汁、錆、漏水、表面凹凸、豆板などによっても、実際及び/又は見かけの表面温度が周囲と異なる部分を生じ得る。このように赤外線調査には、構造物内部に浮きなどの欠陥部が存在しないにも関わらず表面温度が周囲と異なる部分、つまり誤検出が多いという問題がある。
 この課題に対して、特許文献1では、以下方法を開示している。構造物の熱画像に影響を及ぼす因子と、この因子の情報を用いて構造物の熱画像から抽出される異常部に不具合が含まれている確率を求める多変量解析の関係式と、を特定する。そして赤外線カメラで構造物を撮影して熱画像を取得し、その熱画像から周囲と温度が異なる異常部を抽出し、その異常部における因子の情報を判別したら、判別した因子の情報を数値化し、その数値を多変量解析の関係式に当てはめて、抽出した異常部に不具合が含まれている確率を求める。
特開2013-096741公報
 特許文献1では、赤外線熱画像において周囲と表面温度の相違する異常部を抽出した後に、外観画像(可視画像)または人の目視で「ひび割れの有無」及び「表面状態」を判別し多変量解析の式に当てはめて、異常部に不具合が含まれる確率を求める方法を開示している。ここで「表面状態」とは色ムラ、不陸面、遊離石灰など、コンクリート構造物表面における変状の有無を意味している。誤検出(構造物内部の欠陥が存在しないにも関わらず周囲と表面温度が相違する異常部)の多くは構造物表面の変状に起因するため、構造物表面の変状の有無を判別する事は誤検出を減らすために有効であると考えられる。
 しかしながら、特許文献1の発明では、判別した構造物表面の変状(ひび割れを含む)の有無の情報に基づいて統計的に不具合の確率を求めるに留まっており、この方法では誤検出を減らすのには不十分である。
 本発明はこのような事情に鑑みてなされたもので、その目的は、欠陥部の誤検出を低減できる画像解析装置、画像解析方法及びプログラムを提供することである。
 第1の態様に係る画像解析装置は、プロセッサを備える画像解析装置であって、プロセッサは、点検対象の構造物を撮影した赤外線熱画像を取得し、点検対象の構造物を撮影した可視画像を取得し、赤外線熱画像から温度変状を判定し、温度変状について、少なくとも、赤外線熱画像から得られる温度変状情報と、可視画像から得られる表面変状情報と、に基づき温度変状の原因を推定する。
 第2の態様に係る画像解析装置において、温度変状情報は、温度変状について、赤外線熱画像の温度分布及び/又は温度分布から得られる情報を含む。
 第3の態様に係る画像解析装置において、温度変状情報は、温度変状の形状及び/又は大きさの情報を含む。
 第4の態様に係る画像解析装置において、表面変状情報は、可視画像の輝度分布及び/又は輝度分布から得られる情報を含む。
 第5の態様に係る画像解析装置において、表面変状情報は、表面変状の種類、形状及び位置の少なくとも一つの情報を含む。
 第6の態様に係る画像解析装置において、プロセッサは、温度変状情報と表面変状情報との類似性に基づき温度変状の原因を推定する。
 第7の態様に係る画像解析装置において、プロセッサは、温度変状の原因を表面変状であると推定した場合、表面変状による温度分布を推定し、赤外線熱画像から低減する。
 第8の態様に係る画像解析装置において、類似性は部分的な類似性を含む。
 第9の態様に係る画像解析装置において、プロセッサは、温度変状に対応する表面変状をひび又は剥離と判定し、温度変状情報と表面変状情報との類似性を評価し、少なくとも一部分が類似する場合に、温度変状の原因が、ひび又は剥離を伴う浮きであると推定する。
 第10の態様に係る画像解析装置において、プロセッサは、温度変状に対応する表面変状をひび又は剥離と判定し、温度変状の大きさの中に、及び/又は温度変状の境界付近に表面変状の有無を評価し、有りの場合に温度変状の原因が、ひび又は剥離を伴う浮きであると推定する。
 第11の態様に係る画像解析装置において、プロセッサは、温度変状の境界の温度の傾きに基づき温度変状の原因を推定する。
 第12の態様に係る画像解析装置において、表面変状は補修跡、遊離石灰、目地、段差、ひび及び剥離の少なくとも一つを含む。
 第13の態様に係る画像解析装置において、可視画像は可視光の波長域において2種類以上の異なる波長域での反射強度分布を画像化した画像である。
 第14の態様に係る画像解析装置において、さらに、表示装置を備え、プロセッサは、表示装置に温度変状の原因の推定結果を表示する。
 第15の態様に係る画像解析方法は、点検対象の構造物を撮影した赤外線熱画像を取得するステップと、点検対象の構造物を撮影した可視画像を取得するステップと、赤外線熱画像から温度変状を判定するステップと、温度変状について、少なくとも、赤外線熱画像から得られる温度変状情報と、可視画像から得られる表面変状情報と、に基づき、温度変状の原因を推定するステップと、を含む。
 第16の態様に係るコンピュータに実行させるためのプログラムは、点検対象の構造物を撮影した赤外線熱画像を取得するステップと、点検対象の構造物を撮影した可視画像を取得するステップと、赤外線熱画像から温度変状を判定するステップと、温度変状について、少なくとも、赤外線熱画像から得られる温度変状情報と、可視画像から得られる表面変状情報と、に基づき、温度変状の原因を推定するステップと、をコンピュータに実行させる。
 本発明の画像解析装置、画像解析方法及びプログラムによれば、欠陥部の誤検出を低減できる。
図1は画像解析装置のハードウェア構成の一例を示すブロック図である。 図2はCPUで実現される処理機能を示すブロック図である。 図3は記憶部に記憶される情報を示す図である。 図4は画像解析装置を使用した解析方法を示すフロー図である。 図5は錆汁が付着した構造物を撮影した赤外線熱画像と可視画像である。 図6は図5の画像に対する変状の形状を2値で示した画像である。 図7は補修された箇所を含む構造物を撮影した赤外線熱画像と可視画像である。 図8は図7の画像に対する変状の形状を2値で示した画像である。 図9は剥離した箇所を含む構造物を撮影した赤外線熱画像と可視画像である。 図10は二つの剥離した箇所を含む構造物を撮影した赤外線熱画像と可視画像である。 図11は図9の画像に対する変状の形状を2値で示した画像である。 図12は図10の画像に対する変状の形状を2値で示した画像である。 図13はひびが有る箇所を含む構造物を撮影した赤外線熱画像と可視画像である。 図14は、別のひびが有る箇所を含む構造物を撮影した赤外線熱画像と可視画像である。 図15は図13の画像に対する変状の形状を2値で示した画像である。 図16は図14の画像に対する変状の形状を2値で示した画像である。 図17は表示装置に推定結果を表示させた表示結果の一例を示す図である。
 実施形態に係る画像解析装置は、プロセッサを備える画像解析装置であって、プロセッサは、点検対象の構造物を撮影した赤外線熱画像を取得し、点検対象の構造物を撮影した可視画像を取得し、赤外線熱画像に基づいて温度変状を判定し、温度変状情報を導出し、温度変状に対応する箇所の可視画像に基づく表面変状から表面変状情報を導出し、温度変状情報と表面変状情報とに基づき、温度変状の原因を推定する。
 上記構成の実施形態に係る発明に関し、本発明者は、欠陥部の誤検出の低減について鋭意検討した結果、以下を見出し、本発明に至っている。
 誤検出を減らすためには、判別した構造物表面の変状(以降は表面変状とも呼ぶ)が赤外線熱画像に及ぼす影響を判定する(異常部の原因を判定する)必要がある。そのために赤外線熱画像から抽出した異常部と可視画像から判別した表面変状の位置や形状などの関係を解析することが不可欠である。本発明者は、コンクリート構造物を撮影した赤外線熱画像と可視画像を比較調査し、可視画像において判別した表面変状(色ムラ、目地、段差、錆汁など)と、赤外線熱画像において判別した温度変状(以降は、赤外線熱画像において局所的に周囲と表面温度の相違する部分を温度変状と呼ぶ)の関係が構造物における位置や撮影時期などの熱環境によって異なること、つまりコンクリート表面の表面変状が表面温度に及ぼす影響が、構造物における位置や撮影時期などの熱環境によって異なることを知見した。
 例えば、橋梁の壁高欄を晴れた昼間に撮影した際に、可視画像から判別した色ムラや錆汁と赤外線熱画像から判別した温度変状の位置、形状が明確に一致、つまり色ムラや錆汁が表面温度に大きく影響していたが、一方で、同時期に同じ橋梁の床版下面を撮影した際に、可視画像には壁高欄と同様の色ムラや錆汁が見られたものの、赤外線熱画像に、それに対応する温度変状が見られない場合があった。この違いについて、晴れた昼間において壁高欄には日射があり、その吸収量が色ムラや錆汁の部分と、他の部分とで異なっていたためと本発明者は考えている。この様に、表面変状が表面温度に及ぼす影響は熱環境によって異なるため、その影響を判定する(温度変状の原因を判定する)必要があり、そのために表面変状と温度変状の位置や形状などの関係を解析することが不可欠であることを本発明者は見出した。
 以下、添付図面に従って本発明に係る画像解析装置、画像解析方法及びプログラムの好ましい実施形態について説明する。
 [画像解析装置のハードウェア構成]
 図1は、実施形態に係る画像解析装置のハードウェア構成の一例を示すブロック図である。
 図1に示す画像解析装置10としては、コンピュータ又はワークステーションを使用できる。本例の画像解析装置10は、主として入出力インターフェイス12、記憶部16、操作部18、CPU(Central Processing Unit)20と、RAM(Random Access Memory)22と、ROM(Read Only Memory)24と、表示制御部26とから構成されている。画像解析装置10には、表示装置30が接続され、CPU20の指令の下、表示制御部26の制御により表示装置30に表示が行われる。表示装置30は、例えばモニタで構成される。
 入出力インターフェイス12(図中の入出力I/F)は、画像解析装置10に様々なデータ(情報)を入力できる。例えば、記憶部16に記憶されるデータが入出力インターフェイス12を介して入力される。
 CPU(プロセッサ)20は、記憶部16、又はROM24等に記憶された各種のプログラムを読み出し、RAM22に展開して計算を行うことにより、各部を統括制御する。また、CPU20は、記憶部16、又はROM24に記憶されているプログラムを読み出して、RAM22を使用して計算を行い画像解析装置10の各種処理を行う。
 図1に示される赤外線カメラ32は、点検対象である構造物36を撮影し、構造物表面の赤外線熱画像を取得する。可視カメラ34は、点検対象である構造物36を撮影し、構造物36の可視画像を取得する。
 画像解析装置10は、入出力インターフェイス12を介して赤外線熱画像を赤外線カメラ32から取得できる。また、画像解析装置10は、入出力インターフェイス12を介して可視画像を可視カメラ34から取得できる。取得された赤外線熱画像及び可視画像は、例えば、記憶部16に記憶できる。
 図2は、CPU20で実現される処理機能を示すブロック図である。
 CPU20は、赤外線熱画像取得部51、可視画像取得部53、温度変状情報導出部55、表面変状情報導出部57、原因推定部59及び情報表示部61を有する。各部の具体的な処理機能の説明は後で行う。赤外線熱画像取得部51、可視画像取得部53、温度変状情報導出部55、表面変状情報導出部57、原因推定部59及び情報表示部61はCPU20の一部であるので、CPU20が各部の処理を実行するとも称することができる。
 図1に戻って、記憶部16には、オペレーティングシステム、画像解析方法を実行させるプログラム等、画像解析装置10を動作させるデータ及びプログラムが記憶されている。また記憶部16は、以下で説明する実施形態で使用する情報等を記憶する。
 図3は、記憶部16に記憶される情報等を示す図である。記憶部16はCD(Compact Disk)、DVD(Digital Versatile Disk)、ハードディスク(Hard Disk)、フラッシュメモリ等の各種半導体メモリ等から構成されるメモリである。
 記憶部16は、主に、赤外線熱画像101、温度変状情報102、可視画像103及び表面変状情報104を記憶する。
 赤外線熱画像101は、赤外線カメラ32により撮影された画像であって、構造物36から放射される赤外放射エネルギーを検出し、その赤外放射エネルギーを温度に変換して、構造物表面の温度分布を示した画像である。
 温度変状情報102は、温度変状について、赤外線熱画像101の温度分布及び/又は温度分布から得られる情報である。
 可視画像103は、可視カメラ34により撮影された画像であって、構造物36の表面からの可視光の反射強度の分布を示した画像である。通常、可視画像は、可視光の波長域において3種類の異なる波長域での反射強度分布をそれぞれ画像化したRGB画像から成り、つまり画素ごとに色情報(RGB信号値)を持つ。本例においても色情報を持つものとする。なお、後述する可視画像103の輝度とは、可視画像103の信号値の事を示しており、可視画像103の各画素の輝度は、夫々の画素が対応する構造物36の表面上の位置における可視光の反射強度を反映している。
 また、表面変状情報104は、可視画像103において、温度変状に対応する箇所の表面変状の情報であり、可視画像103の輝度分布及び/又は輝度分布から得られる情報である。
 図1に示す操作部18はキーボード及びマウスを含み、ユーザはこれらのデバイスを介して、画像解析装置10に必要な処理を行わせることができる。タッチパネル型のデバイスを用いることにより、表示装置30が操作部として機能できる。
 表示装置30は、例えば液晶ディスプレイ等のデバイスであり、画像解析装置10によって得られた結果を表示できる。
 図4は、画像解析装置10を使用した画像解析方法を示すフロー図である。図4に示すように、画像解析方法は、赤外線熱画像取得ステップ(ステップS1)と、可視画像取得ステップ(ステップS2)と、温度変状情報導出ステップ(ステップS3)と、表面変状情報導出ステップ(ステップS4)と、原因推定ステップ(ステップS5)と、推定結果表示ステップ(ステップS6)と、を備える。
 <赤外線熱画像取得ステップ>
 赤外線熱画像取得部51は、点検対象の構造物36を撮影した赤外線熱画像を取得する(赤外線熱画像取得ステップ:ステップS1)。赤外線熱画像は、記憶部16に記憶された赤外線熱画像101である。赤外線熱画像101が、赤外線熱画像取得部51により記憶部16から取得される。なお、記憶部16に赤外線熱画像101が記憶されていない場合には、赤外線熱画像取得部51は外部から赤外線熱画像101を取得する。例えば、赤外線熱画像取得部51は、入出力インターフェイス12を介してネットワークを通して、赤外線熱画像101を取得でき、また、赤外線熱画像取得部51は、入出力インターフェイス12を介して赤外線カメラ32から赤外線熱画像101を取得できる。
 <可視画像取得ステップ>
 可視画像取得部53は、点検対象の構造物を撮影した可視画像を取得する(可視画像取得ステップ:ステップS2)。可視画像は、記憶部16に記憶された可視画像103である。可視画像103が、可視画像取得部53により記憶部16から取得される。なお、記憶部16に可視画像103が記憶されていない場合には、可視画像取得部53は外部から可視画像103を取得する。例えば、可視画像取得部53は、入出力インターフェイス12を介してネットワークを通して、可視画像103を取得でき、また、可視画像取得部53は、入出力インターフェイス12を介して可視カメラ34から可視画像103を取得できる。
 <温度変状情報導出ステップ>
 次に、温度変状情報導出部55は、赤外線熱画像101に基づいて温度変状を判定し、温度変状情報102を導出する(温度変状情報導出ステップ:ステップS3)。
 温度変状情報導出部55は、赤外線熱画像101から、局所的にまとまりをもって、周囲と表面温度の相違する部分を温度変状と判定して抽出し、温度変状情報102を導出する。
 例えば、赤外線熱画像101の構造物表面の所定範囲において平均の温度から所定の温度差を超える部分(昼間のような温度上昇時には周囲より温度の高い部分、夜間のような温度下降時には周囲より温度の低い部分)を温度変状と判定して抽出できる。周囲と表面温度が相違し、空間的にまとまりをもって連結する部分、又は連結していなくとも所定より近い距離で分布する部分を一つの温度変状と判定できる。なお、温度変状は、必ずしも実際の表面温度が周囲と相違する部分とは限らない。つまり、実際の表面温度は周囲と同じでも赤外線放射率が異なる事により、赤外線熱画像101において周囲と表面温度が相違し、温度変状と判定される場合もあり得る。
 ここで赤外線熱画像101は赤外線カメラ32で対象のコンクリートの構造物36を撮影した赤外線熱画像そのものでもよい。また、温度変状の判定及び/又は温度変状情報導出を容易にするため、元の赤外線熱画像101を加工した画像でもよい。例えば、構造物36の表面の受熱量又は構造物36の表面からの放熱量が部分的に異なることに起因して構造物36の表面温度には傾き(温度勾配)が生じていることが多い。そのため、元の赤外線熱画像101に対し温度勾配を低減するように加工し、その加工した画像から温度変状を判定して抽出し、温度変状情報102を導出してもよい。
 温度変状情報102は温度変状の温度分布(温度の空間的な分布)を表す情報であり、少なくとも温度変状の全体を含む範囲(温度変状が赤外線熱画像101の端まで広がっている場合は、端まで含めた範囲)の温度分布を表す情報である。後述する原因推定ステップ(ステップS5)において、なるべく広い範囲の温度分布を表す情報であることが、原因推定のために好ましい。
 温度変状情報102は、元の赤外線熱画像101における温度分布そのものでもよいし、元の温度分布を粗く量子化した分布、例えば2値化、3値化又は4値化した分布でもよい。温度変状情報102は温度変状の形状を表す情報でもよい。例えば、2値化した温度分布は温度変状の形状を表す情報とも言える。温度変状情報は温度変状を長方形や楕円などで近似した場合の大きさを表す情報でもよい。
 したがって、温度変状情報102は、温度変状に関し、赤外線熱画像101の温度分布及び/又はその温度分布から得られる情報である。
 温度変状情報導出部55は、複数の温度変状(i=1,2,3,・・・N)を判定し、温度変状情報102を導出できる。
 <表面変状情報導出ステップ>
 表面変状情報導出部57は、可視画像103に基づいて表面変状情報104を導出する(表面変状情報導出ステップ:ステップS4)。
 表面変状情報導出部57は、可視画像103から温度変状(i=1,2,3,・・・N)に対応する箇所の表面変状情報104を導出する。変状とは「当初の状態から変化した状態」又は「普通とは異なった状態」といった意味を持つが、実施形態では特に、補修跡、遊離石灰等の異物付着、色ムラ(カビ、苔、剥離剤、水影響など)、目地、段差、ノロ、砂すじ、錆汁又は錆、漏水、表面凹凸、豆板など、赤外線熱画像におけるコンクリート表面の温度に影響を及ぼし、温度変状の原因になり得る表面の状態を「表面変状」と呼ぶ。またひびや剥離も「表面変状」と呼ぶ。
 表面変状情報104は表面変状の有無、種類、形状、位置などを表す情報であり、可視画像103の輝度分布(輝度の空間的な分布)から得られる。また、可視画像103における色ムラ、錆汁又は錆などの表面変状においては、その輝度分布が温度変状の原因の推定に有効である。
 可視画像103の各画素の輝度は、夫々の画素が対応する構造物36の表面上の位置における可視光の反射強度を反映している。そして輝度の違いは、構造物36の表面を一様に照らす可視光に対する反射強度の違い、つまり反射率の違いを反映する。つまり、可視光の吸収率の違いを反映している。したがって、可視画像103における構造物36の表面の輝度分布は、構造物36の表面を一様に照らす日射などの可視光の吸収率の分布、つまり吸収量の分布を反映しており、同様に、構造物36の表面上の各表面変状の輝度分布は、その表面変状における可視光の吸収量の分布を反映しているため、温度変状の原因の推定に有効である。このことから、表面変状情報104は表面変状の輝度分布を表す情報であってもよく、可視画像103の輝度分布そのものでもよいし、その輝度分布を粗く量子化した分布、例えば、2値化、3値化又は4値化した分布でもよい。
 したがって、表面変状情報104は、可視画像103において、温度変状に対応する箇所の表面変状の情報であり、可視画像103の輝度分布及び/又は輝度分布から得られる情報である。
 温度変状に対応する箇所の輝度分布(可視画像103の輝度分布そのもの、又は、その輝度分布を粗く量子化した分布)は、その箇所の表面変状の有無、種類、形状、位置及び輝度分布を表す情報(内包する情報)であり、その輝度分布を表面変状情報104としてもよい。
 表面変状情報104として、温度変状に対応する箇所の輝度分布から、表面変状の有無、種類、形状、位置及び輝度分布の少なくとも一つを明示的に導出する場合は、表面変状の中で、ひび及び剥離と、他の表面変状(赤外線熱画像101におけるコンクリート表面の温度に影響を及ぼし、構造物36の内部の欠陥の判別の誤検出の原因となり得る表面の状態)を区別して判定、抽出する。可視画像103から、周囲より所定の輝度差を超えて輝度が低く、所定値以上の長さで線状に繋がる部分をひびと判定して抽出する。ひびの抽出方法については機械学習を使った種々の方法や、線形状に着目して、その特徴に基づき抽出する種々の方法が提案されており、何れの方法を用いてもよい。
 剥離した箇所は、元のコンクリート表面と比べ明確に輝度が相違し、輝度分布のテクスチャやコントラスト、周波数スペクトルも異なることから、まとまりをもって周囲より所定の輝度差、輝度分布のテクスチャ、コントラスト、周波数スペクトルの差を超える部分を剥離と判定して抽出する。剥離した箇所と元のコンクリート表面とには段差が有り、その段差の部分が暗い(輝度が低い)ことから、境界部分の暗さ(輝度の低さ)も剥離の判定に有効な特徴となり得る。また他の表面変状として、可視画像103から局所的にまとまりをもって、周囲と輝度の相違する部分及び/又は輝度分布のテクスチャの相違する部分及び/又は輝度分布の周波数スペクトルの相違する部分及び/又は輝度分布のコントラストの相違する部分を判定して抽出する。例えば、平均の輝度から所定の輝度差を超える部分を他の表面変状と判定して抽出する。周囲と輝度、輝度分布のテクスチャ、周波数スペクトル、コントラストの何れか又は複数が相違し、空間的にまとまりをもって連結する部分又は連結していなくとも所定より近い距離で分布する部分を一つの表面変状と判定して抽出する。
 上記の処理により、ひび、剥離及び他の表面変状の夫々について有無、形状、位置及び輝度分布の少なくともひとつが得られる。ここで他の表面変状について、後述する原因推定ステップ(ステップS5)において、必ずしも表面変状の種類を細かく判別する必要はない(補修跡、遊離石灰、色ムラ、目地、段差、ノロ、砂すじ、錆汁又は錆、漏水、表面凹凸、豆板など)。しかしながら、表面変状の種類を判別した方が、原因推定ステップ(ステップS5)において、より適切に原因推定が可能になる。
 具体的には、色ムラ、錆汁又は錆など可視光の吸収量の周囲コンクリートとの違いが、赤外線熱画像101における周囲との表面温度の差異の主原因となる表面変状については、上述した通り、輝度分布が可視光の吸収量の分布を反映していることから、輝度分布が表面変状情報104として、原因推定ステップ(ステップS5)において、原因推定に有効である。
 一方で、輝度分布が原因推定に有効でない表面変状、すなわち輝度分布が寧ろノイズになる表面形状の場合は以下の通りである。例えば補修跡、遊離石灰など熱伝導率や赤外線放射率の周囲コンクリートとの違いが、赤外線熱画像101における周囲との表面温度の差異の主原因となる表面変状や、目地、段差など構造的な原因により赤外線熱画像における周囲との表面温度の差異を生じる表面変状については、形状が表面変状情報104として、原因推定ステップ(ステップS5)において、原因推定に有効である。したがって、他の表面変状について、種類を細かく判別しておくことが好ましい。抽出した表面変状の平均輝度、コントラスト、輝度分散、テクスチャ、周波数スペクトル、形状などの特徴に基づき、その種類を細かく判別可能である。
 ここで、可視画像103は通常、可視光の波長域において3種類の異なる波長域での反射強度分布をそれぞれ画像化したRGB画像から成る。RGBの何れの輝度分布からひび、剥離、および他の表面変状を判定、抽出してもよいが、錆汁又は錆などの表面変状はコンクリートとの輝度の差異(反射強度の差異)がRGBによって大きく異なるため、最も差異の大きいチャンネルの輝度分布から判定、抽出することが好ましい。例えば、錆汁又は錆の場合、コンクリートと比べBの輝度が特に低い、すなわちBの波長域での反射強度の差異である吸収量の差異が大きいため、Bの輝度分布から判定することが好ましい。しかしながら、表面変状の種類によってコンクリートとの輝度の差異が大きいチャンネルは異なると考えられる。例えば、色ムラの種類によっては、錆汁又は錆とは逆にRチャンネルの輝度の差異が特に大きい場合も考えられる。したがって、RGBの夫々のチャンネルの輝度分布において輝度のばらつきの大きさを評価し、最もばらつきの大きいチャンネルからひび、剥離及び他の表面変状を判定、抽出することが好ましい。例えば、RGBの夫々のチャンネルの輝度分布において温度変状に対応する箇所における輝度の標準偏差をコンクリートの平均輝度で割った値、つまり変動係数を求め、変動係数の最も大きいチャンネルからひび、剥離、および他の表面変状を判定、抽出してもよい。コンクリートの平均輝度として、温度変状に対応する箇所における輝度の平均値を採用してもよいし、温度変状に対応する箇所を含む、より広い範囲における輝度の平均値を採用してもよい。他の表面変状について、その種類を細かく判別する場合、抽出した表面変状のRGB夫々のチャンネルの平均輝度、コントラスト、輝度分散、テクスチャ、周波数スペクトルなどの特徴に基づき判別可能である。可視画像103が2種類、または4種類以上ある場合も、同様に、最もばらつきの大きいチャンネルでひび、剥離及び他の表面変状を判定、抽出し、また2種類、または4種類以上の夫々のチャンネルの平均輝度、コントラストなどの特徴に基づき他の表面変状の種類を細かく判別できる。
 ここで、温度変状に対応する箇所は、温度変状情報導出ステップ(ステップS3)において、赤外線熱画像101から温度変状を判定した際の、温度変状に該当する空間的な範囲よりも広い範囲である。後述するように、原因推定ステップ(ステップS5)において、温度変状の原因推定の解析では温度変状に該当する範囲より広い範囲の表面変状情報が必要となる。特に、剥離については温度変状と異なる位置の剥離との関係の解析が必要となる。
 なお、上述では、赤外線熱画像取得ステップ(ステップS1)と、可視画像取得ステップ(ステップS2)と、温度変状情報導出ステップ(ステップS3)と、表面変状情報導出ステップ(ステップS4)の順序で説明したが、実施形態の範囲内において、これらの順序は適宜変更できる。
 <原因推定ステップ>
 原因推定部59は、温度変状情報102と表面変状情報104とに基づき、温度変状の原因を推定する(原因推定ステップ:ステップS5)。
 なお、表面変状情報導出ステップ(ステップS4)で導出された表面変状情報104の種類によって原因推定の処理が若干異なるため、第一態様、第二態様及び第三態様として夫々説明する。
 <第一態様>
 第一態様として、表面変状情報導出ステップ(ステップS4)で温度変状に対応する箇所の輝度分布を表面変状情報とした場合を説明する。ひび及び剥離と、他の表面変状の夫々について原因推定の方法を説明する。
 (他の表面変状)
 表面変状情報導出ステップ(ステップS4)で導出した輝度分布から、温度変状情報導出ステップ(ステップS3)で導出した温度変状に該当する範囲、または温度変状を含むやや広い範囲を抽出する。この範囲の輝度分布と温度分布の類似性を評価し、類似する場合、温度変状の原因をこの表面変状であると推定する。一方で、類似しない場合、この表面変状以外であると推定し、例えば浮きなどの内部欠陥であると推定する。
 2つの分布の類似性を評価する手法は多くあるが、例えば、輝度分布と温度分布の最小値と最大値が同じになるように夫々の分布を規格化した上で、以下の式(1)で与えられるユークリッド距離を計算することで類似性を評価できる。例えば、式(1)を計算し、距離が所定値以下(0に近い程、類似すると判定できる)の場合に類似すると判定してもよい。
 なお、表面変状の種類や撮影の時期によって輝度の高低と温度の高低との関係は同じ場合も逆の場合もあるため、両方の場合を計算する必要がある。つまり輝度分布をそのままの場合と、輝度の高低を逆にした分布(例えば255から元の輝度値を引いた分布)の両方についてユークリッド距離を計算し、どちらかの距離が所定値以下の場合に類似すると判定する。
 sqrt((v(1,1)-t(1,1))2+ (v(2,1)-t(2,1))2 + ・・・) 式(1)
ここで、v(x,y)は規格化した輝度分布における座標(x,y)の画素の値を、t(x,y)は規格化した温度分布における座標(x,y)の画素の値を表す。
 また、別の類似性の評価方法として、例えば、以下の式(2)で与えられるピアソンの積率相関係数を計算し、相関係数の絶対値が所定値以上(1に近い程、類似すると判定できる)の場合に類似すると判定してもよい。ここで、相関係数の絶対値を計算することで、輝度の高低と温度の高低との関係が同じ場合も逆の場合も類似性を評価できる。
 Σ(v(x,y) - v_ave) * (t(x,y) - t_ave) / sqrt(Σ(v(x,y) - v_ave)2) / sqrt(Σ(t(x,y) - t_ave)2) 式(2)
ここでv(x,y)は輝度分布における座標(x,y)の画素の値を、v_aveは輝度分布の平均値を、t(x,y)は温度分布における座標(x,y)の画素の値を、t_aveは温度分布の平均値を表す。
 図5は昼間にコンクリート構造物を撮影した画像であり、図5(A)は可視画像であり、図5(B)は赤外線熱画像である。なお、図5では、撮影された点検対象のコンクリート構造物の表面に錆汁が付着している。
 本例では、温度変状情報導出ステップ(ステップS3)において、赤外線熱画像(図5(B))から周囲より表面温度の高い温度変状と判定、抽出される。温度変状に対応する箇所の可視画像(図5(A))に錆汁が映っており、その輝度分布と温度変状の温度分布が類似するため(輝度の高低と温度の高低との関係は逆)、温度変状の原因がこの表面変状(錆汁)であると推定される。
 図6は、図5の画像に対する変状の形状を2値で示しており、変状の有る画素を1(白)、無い画素を0(黒)で表している。図6(A)は可視画像(図5(A))から導出した表面変状(錆汁)の形状を表し、図6(B)は赤外線熱画像(図5(B))から導出した温度変状の形状を表している。図6(A)と図6(B)とを比較すると類似すると判定される。
 図7は昼間にコンクリート構造物を撮影した画像であり、図7(A)は可視画像であり、図7(B)は赤外線熱画像である。撮影された点検対象のコンクリート構造物の表面には補修された箇所を含んでいる。
 本例では、温度変状情報導出ステップ(ステップS3)において、赤外線熱画像(図7(B))から周囲より表面温度の高い温度変状と判定、抽出される。温度変状に対応する箇所の可視画像(図7(A))に補修跡が映っており、その輝度分布と温度変状の温度分布が類似するため(輝度の高低と温度の高低との関係は同じ)、温度変状の原因がこの表面変状(補修跡)であると推定される。
 図8は、図7の画像に対する変状の形状を2値で示しており、上述と同様に変状の有る画素を1(白)、無い画素を0(黒)で表している。図8(A)は可視画像(図7(A))から導出した表面変状(補修跡)の形状であり、図8(B)は赤外線熱画像(図7(B))から導出した温度変状の形状である。図8(A)と図8(B)とを比較すると類似すると判定される。
 図7(B)の補修跡の赤外線熱画像において、温度変状の境界における温度の傾きが急なことが分かる。この様に表面変状に起因する温度変状は、その境界において温度の傾きが急なことが特徴である(但し、表面変状の種類に依る)。浮きなどの内部欠陥の場合、内部欠陥と表面との間で熱が拡散するために、内部欠陥に依る温度変状の境界における温度の傾きは緩やかであり、内部欠陥が深い程、すなわち内部欠陥と表面との間が拡がる程、より熱が拡散するため、温度の傾きが緩やかになる。
 しかしながら、表面変状の場合、表面変状の熱吸収率、熱伝導率、赤外全放射率などの周囲との相違に起因する、表面変状の周囲との表面温度の相違を直接撮影することとなるため、その表面温度の相違の傾きは、内部欠陥の場合より急になる。したがって、この特徴(温度変状の境界において温度傾きが急である特徴)に基づいて温度変状の原因を推定してもよい。
 具体的には、温度変状情報導出ステップ(ステップS3)において導出した温度変状に該当する範囲又はやや広い範囲において温度分布と輝度分布が類似し、且つ/又は、温度変状の境界における温度の傾きが所定値(あらかじめ設定された閾値)以上の場合に、温度変状の原因を表面変状であると推定してもよい。
 温度変状の境界における温度の傾きとして、例えば、温度分布をf(x,y)として温度変状の境界上の各点における最大の傾き、つまりfの勾配ベクトルgrad f(x,y) = ∇f(x,y) =  (∂f/∂x, ∂f/∂y)の大きさであるsqrt((∂f/∂x)2+ (∂f/∂y)2)を算出し、境界上の各点の最大傾きの平均値を求めればよい。例えば、境界上の各点(x,y)において、式(3)を算出し、その平均値を求めてもよい。
 sqrt((f(x+1,y)- f(x,y))2 + (f(x,y+1)- f(x,y))2) 式(3)
 なお、温度変状の境界における温度の傾きは、日射や外気温などの熱環境によって大きく変化する。そこで温度変状と周囲の温度の差分の絶対値や、温度変状と温度変状を含む広い所定範囲における構造物表面の平均温度の差分の絶対値などを計算し、その差分絶対値の最大値や平均値などによって境界における温度の傾きを規格化し(例えば除する)、規格化した温度の傾きが所定値以上の場合に、温度変状の原因を表面変状であると推定してもよい。
 温度変状の温度分布と輝度分布の類似性を評価する際に、表面変状に起因する温度変状の境界における温度傾きが急である特徴も含めて評価されているが、更に上記の様にして本特徴を評価してもよい。なお、温度の傾きを評価する方法として、上記の方法は一例であり、その方法は上記の方法に限定されない。例えば、温度の空間的な2次微分値を用いても間接的に温度の傾きを評価可能である。何れの方法を用いて温度の傾きを評価してもよい。
 本特徴は、特に「補修跡」「目地」「段差」で顕著であり原因推定に有効である。
 (剥離)
 図9と図10とは、昼間にコンクリート構造物を撮影した画像である。図9(A)は可視画像であり、図9(B)は赤外線熱画像である。また、図10(A)は可視画像であり、図10(B)は赤外線熱画像である。図9及び図10では、撮影された点検対象のコンクリート構造物の表面に剥離した箇所を含んでいる。
 図9(A)の可視画像に示すように、右上の箇所で剥離しており、段差の有ることが理解できる。また、図10(A)の可視画像に示すように、右側に剥離している箇所があり、左側にも小さいが剥離している箇所があり、共に段差が有ることが理解できる。
 図9(B)及び図10(B)の赤外線熱画像から、剥離している箇所に隣接して表面温度の高い部分(赤外線熱画像で色の薄い部分)が見られる。この部分は剥離している箇所から空気が入り、浮いている状態と考えられる。この様に、表面が剥離した箇所では、そこから空気が入り浮いている部分が多く見られる。
 温度変状情報導出ステップ(ステップS3)で導出した温度分布と、表面変状情報導出ステップ(ステップS4)で導出した輝度分布とから、この様に剥離を伴う浮き(若しくは浮きを伴う剥離)を判定できる。具体的には、温度変状の全体と部分の夫々において温度分布と輝度分布の類似性を評価し、全体は類似せずに部分的に類似する場合に剥離を伴う浮きと判定する。
 温度変状全体の類似性の評価は、輝度分布から温度変状に該当する範囲を抽出し、この範囲の輝度分布と温度分布の類似性を評価する事で行われる。温度変状の部分の類似性の評価は、輝度分布から、温度変状の形状に基づき、温度変状の境界上の夫々の点を中心とした所定範囲を抽出し、夫々の範囲の輝度分布と温度分布の類似性を評価する事で行われる。何れかの部分において類似する場合に剥離を伴う浮きと判定する。輝度分布における剥離している箇所の境界(段差)と、温度分布における温度変状の境界の形状が一致するため、この様な評価により判定できる。なお、類似性の評価は、既に説明した通り輝度分布の輝度の高低と温度分布の温度の高低との関係が同じ場合も逆の場合もカバーする様に行う。
 図9及び図10の赤外線熱画像から剥離した箇所においては表面温度が周囲より低いことが分かる。同じ箇所を夜間に赤外撮影した場合には、逆に剥離した箇所における表面温度が周囲より高くなる。この様に剥離した箇所の表面温度が周囲と異なる理由は、剥離した箇所が周囲より奥にあるためと考えている。この様に剥離した箇所の表面温度は周囲と異なるため温度変状と判定され抽出される。剥離に起因する温度変状は、浮きなどの内部欠陥や他の表面変状とは、周囲との温度の高低関係が異なるため区別できる。また、輝度分布の剥離の箇所と温度分布における周囲と異なる個所が一致することから、温度変状の全体の温度分布と輝度分布とが明確に類似している。そのため、段差による暗い部分、すなわち輝度の低い部分を伴う特徴的な輝度分布から剥離と他の表面変状とは区別できるため、この温度変状の原因が剥離であると容易に判定できる。剥離を伴う浮きの場合、温度変状と剥離は隣接しており、位置が異なることに留意する。
 図9及び図10から理解されるように、剥離を伴う浮きの場合も、他の表面変状の場合と同様に、温度変状の境界における温度の傾きが急なため、この特徴を原因推定に利用できる。但し、剥離を伴う浮きの場合、温度変状の境界の内、剥離に隣接する部分のみ温度傾きが急であり、他の部分は通常の浮きと同様に温度傾きが緩やかである。そこで、剥離を伴う浮きの場合、温度変状の境界の全体における温度傾きは緩やかだが、一部の境界における温度傾きが急な場合に剥離を伴う浮きと判定すればよい。
 具体的には温度変状情報導出ステップ(ステップS3)で導出した温度分布と、表面変状情報導出ステップ(ステップS4)で導出した輝度分布とから、温度変状の全体と部分の夫々で温度分布と輝度分布の類似性を評価し、全体は類似せずに部分的に類似する場合、且つ、温度変状の境界の全体と部分の夫々で温度分布の傾きを評価し、全体の傾きは所定値以下であり部分的に傾きが所定値以上の場合に、温度変状の原因を、剥離を伴う浮きであると推定してもよい。温度変状の境界の全体の温度の傾きは、他の表面変状の場合と同様に、温度変状の境界上の各点において、最大の傾き、つまり温度分布の勾配ベクトルの大きさを求め、その平均値(温度変状の境界上の全点の最大傾きの平均値)を求めればよい。温度変状の境界の部分における温度の傾きは、境界上の夫々の点を中心とした所定範囲を抽出し、抽出した所定範囲に含まれる境界上の全点の最大傾きの平均値を求めればよい。
 ここで、温度変状の温度分布において、輝度分布と類似する部分と、境界の温度の傾きが急な部分は同じである。つまり、温度変状の温度分布において、剥離と隣接する部分において、温度分布と輝度分布が類似し、且つ、境界の温度の傾きが急である。したがって、温度変状の各部分について、輝度分布との類似性の評価と温度傾きの評価を同時に行い、輝度分布と類似し、且つ、温度傾きが急な部分が存在する場合に、温度変状の原因を、剥離を伴う浮きであると推定する方法が好ましい。
 なお、剥離を伴う浮きの場合も、他の表面変状の場合と同様に、温度変状と周囲の温度の差分絶対値や、温度変状と、より広範囲の構造物表面の平均温度の差分絶対値などによって温度傾きを規格化してもよい。剥離を伴う浮きの場合も、他の表面温度の場合と同様に、輝度分布との類似性の評価において、境界における温度傾きが急である特徴も含めて評価されているが、更に上記の様にして温度傾きを評価してもよい。
 図11は図9の画像に対する変状の形状を2値で示し、図12は図10の画像に対する変状の形状を2値で示している。変状の有る画素を1(白)、無い画素を0(黒)で表している。図11(A)は可視画像(図9(A))から導出した表面変状(剥離)の形状を表し、図11(B)は赤外線熱画像(図9(B))から導出した温度変状の形状を表している。
 図11に示すように、図11(A)と図11(B)とを比較すると、全体として類似していないが、温度変状の右上の箇所で、剥離に隣接しており、剥離と隣接する部分において温度変状と剥離の境界の形状が類似するため、剥離を伴う浮きと推定できる。
 図12(A)は可視画像(図10(A))から導出した表面変状(剥離)の形状を表し、図12(B)は赤外線熱画像(図10(B))から導出した温度変状の形状を表している。
 図12に示すように、図12(A)と図12(B)とを比較すると、右の剥離の他に、左にも小さな剥離があり、共に温度変状に隣接しており、隣接する部分において温度変状と形状が類似するため、2か所有る温度変状は共に剥離を伴う浮きと推定できる。
 (ひび)
 図13と図14とは、昼間にコンクリート構造物を撮影した画像である。図13(A)は可視画像であり、図13(B)は赤外線熱画像である。また、図14(A)は可視画像であり、図14(B)は赤外線熱画像である。図13及び図14では、撮影された点検対象のコンクリート構造物の表面にひびが有る箇所を含んでいる。
 図13(A)の可視画像から横方向にひびが入っていること、また、図13(B)の赤外線熱画像からひびの上側で表面温度が高い(赤外線熱画像で色の薄い部分)ことが理解できる。この、表面温度の高い部分は浮いている状態である。図13に示すように、浮きにはひびを伴うものが多く見られ、浮きの境界の一部に境界に沿ってひびが有る場合が多い。また、図14に示すように、浮いている領域の範囲の内部にひびが有る場合も見られる。
 温度変状情報導出ステップ(ステップS3)で導出した温度分布と、表面変状情報導出ステップ(ステップS4)で導出した輝度分布とから、ひびを伴う浮き(若しくは浮きを伴うひび)を判定できる。まず、温度分布に公知のエッジ検出を行い、温度変状の境界を抽出する。なお、エッジ検出にはソーベル法、ラプラシアン法、キャニー法など公知の様々な方法がある。次に、温度変状の形状に基づき、温度変状の境界上の夫々の点を中心とした所定範囲の輝度分布と、温度変状の境界抽出した分布とを抽出し、類似性を評価する。境界上の何れかの部分において類似する場合に、その部分で境界に沿ってひびが有る、つまりひびを伴う浮きと判定する。
 図14に示すように、浮きの範囲の内部にひびが有る場合も以下の様にして判定できる。図14から理解できるように、浮きの範囲の内部において、ひびの有る部分で温度が急変化している。したがって、温度分布にエッジ検出を行った分布において、温度変状の境界のみでなく、温度変状の内部にもエッジとして抽出される線状の部分があり、その線状の部分の形状が、輝度分布のひびの形状と一致する場合にひびを伴う浮きと判定できる。
 具体的には、温度変状の形状に基づき、温度変状の内部の夫々の点を中心とした所定範囲の輝度分布と、温度変状のエッジ抽出した分布とを抽出し、類似性を評価する。温度変状の内部の少なくとも一部分において類似する場合に、温度変状の内部にひびが有る、つまりひびを伴う浮きと判定する。なお、類似性の評価は、上述した様に、評価する2つの分布の値の高低が同じ場合も逆の場合もカバーする様に行う。若しくは輝度分布においてひびの輝度が周囲より低いことを考慮して類似性を評価してもよい。
 ひびを伴う浮きの場合も、剥離の場合と同様に、浮きなどの内部欠陥に依る温度変状と比べて一部の境界における温度の傾きが急である。つまり、温度変状の境界に沿ってひびのある部分において温度傾きが急である。また温度変状の内部のひびが有る部分においても温度傾きが急である。したがって、この特徴も利用してひびを伴う浮きを判定してもよい。例えば、温度分布にエッジ検出を行い、温度変状の境界および内部の温度変化が急な部分を抽出した後に、その内、エッジの大きさが所定値以上、つまり温度の傾きが所定値以上に急な部分を抽出する。温度変状の境界および内部に温度傾きが所定値以上の部分が無い場合、温度変状の原因を、ひびを伴う浮き以外であると推定し、例えば浮きなどの内部欠陥であると推定する。温度傾きが所定値以上の部分が有る場合、そのそれぞれの部分と輝度分布の類似性を評価し、何れかの部分において類似する場合(温度傾きが急な線状の部分があり、その線状の部分の形状が、輝度分布のひびの形状と一致する場合)に、温度変状の原因を、ひびを伴う浮きであると推定してもよい。
 ひびを伴う浮きの場合も、他の表面変状や剥離を伴う浮きの場合と同様に、温度変状と周囲の温度の差分絶対値や、温度変状と、より広範囲の構造物表面の平均温度の差分絶対値などによって温度傾きを規格化してもよい。温度分布のエッジ検出した分布と輝度分布との類似性の評価において、ひびの有る部分で温度分布の温度傾きが急である特徴も含めて評価されているが、更に上記のようにして温度傾きを評価してもよい。
 上述に説明したように、可視画像は通常、RGB画像から成る。RGBの何れの輝度分布から原因推定してもよいが、RGBの夫々のチャンネルの輝度分布において輝度のばらつきの大きさを評価し、最もばらつきの大きいチャンネルから原因推定することが好ましい。可視画像が2種類、又は4種類以上ある場合も同様である。
 図15は図13の画像に対する変状の形状を2値で示し、図16は図14の画像に対する変状の形状を2値で示している。変状の有る画素を1(白)、無い画素を0(黒)で表している。
 図15(A)は可視画像(図13(A))から導出した表面変状(ひび)の形状を表し、図15(B)は赤外線熱画像(図13(B))から導出した温度変状の境界の形状を表している。図15に示すように、図15(A)の表面変状(ひび)の形状と図15(B)の温度変状の境界の形状とが、少なくとも部分的に類似するため、ひびを伴う浮きと推定できる。
 図16(A)は可視画像(図14(A))から導出した表面変状(ひび)の形状を表し、図16(B)は、赤外線熱画像(図14(B))から導出した温度変状の内部におけるエッジ(温度が急変化する部分)の形状を表している。なお、図16においては、温度変状の境界もエッジとして抽出されるが、境界を省略している。図16(A)の表面変状(ひび)の形状と図16(B)の温度変状の内部におけるエッジの形状とが、少なくとも部分的に類似するため、ひびを伴う浮きと推定できる。
 ひび、剥離及び他の表面変状について原因推定のフローを説明する。ひび、剥離、他の表面変状について原因推定の順序は問わないが、例として、他の表面変状、剥離、ひびの順序で原因推定する場合のフローを説明する。
 最初に、表面変状情報導出ステップ(ステップS4)で導出した輝度分布から、温度変状情報導出ステップ(ステップS3)で導出した温度変状に該当する範囲を抽出し、この範囲の輝度分布と温度分布の類似性を評価する。その際に、温度変状の境界の温度傾きを評価してもよい。
 類似する場合(且つ/又は境界の温度傾きが急な場合)、温度変状の原因を表面変状であると推定する。更に、温度変状の周囲との温度差の関係に基づき表面変状が剥離か、他の表面変状か判別しても良い。
 類似しない場合(且つ/又は境界の温度傾きが緩やかな場合)、次のステップに進む。
 次に、表面変状情報導出ステップ(ステップS4)で導出した輝度分布において、温度変状情報導出ステップ(ステップS3)で導出した温度変状の境界上の夫々の点を中心とした所定範囲を抽出し、夫々の範囲の輝度分布と温度分布の類似性を評価する。その際に、夫々の範囲における温度変状の境界の温度傾きを評価してもよい。
 何れかの部分において類似する場合(且つ境界の温度傾きが急な場合)、温度変状の原因を、剥離を伴う浮きであると推定する。何れの部分でも類似しない場合(又は境界の温度傾きが緩やかな場合)、次のステップに進む。
 次に、温度変状情報導出ステップ(ステップS3)で導出した温度変状の温度分布にエッジ検出を行う。表面変状情報導出ステップ(ステップS4)で導出した輝度分布において、温度変状情報導出ステップ(ステップS3)で導出した温度変状の境界上および内部の夫々の点を中心とした所定範囲を抽出し、夫々の範囲の輝度分布とエッジ検出した温度分布の類似性を評価する。その際に、エッジ検出した温度分布から、エッジの大きさが所定値以上の部分のみを抽出してもよい。
 何れかの部分において類似する場合、温度変状の原因を、ひびを伴う浮きであると推定する。類似しない場合、浮きであると推定する。
 温度変状に対応する箇所の輝度分布から、ひび、剥離、他の表面変状について有無、種類、形状、位置、輝度分布を明示的に導出した後に原因推定することも可能である。しかしながら、その方法は、表面変状情報導出ステップ(ステップS4)で表面変状の有無、種類などを明示的に導出した後に原因推定する方法と同じため、説明を省略する。
 <第二態様>
 第二態様として、表面変状情報導出ステップ(ステップS4)で、温度変状に対応する箇所の輝度分布から、表面変状の有無、種類、形状、位置、輝度分布を明示的に導出し、他の表面変状について種類判別しなかった場合を説明する。ひび及び剥離と、他の表面変状の夫々について原因推定の方法を説明する。
 (他の表面変状)
 他の表面変状が無い場合、温度変状の原因を、この表面変状以外であると推定し、例えば浮きなどの内部欠陥であると推定する。他の表面変状が有る場合、第一態様で説明した同様の方法で表面変状の輝度分布と温度分布の類似性を評価し、類似する場合、温度変状の原因をこの表面変状であると推定し、類似しない場合、この表面変状以外、例えば浮きなどの内部欠陥であると推定する。但し、他の表面変状の形状を既に導出してあるので、この表面変状の範囲と温度変状情報導出ステップ(ステップS3)で導出した温度変状に該当する範囲の両方を含む範囲で類似性を評価してもよい。また温度分布と輝度分布ではなく形状に基づき、例えば温度変状の有る画素を1、無い画素を0に2値化した分布と、他の表面変状の有る画素を1、無い画素を0に2値化した分布の類似性を評価してもよい。
 第一態様で説明した通り、他の表面変状に起因する温度変状は、内部欠陥に起因する温度変状と比べ、その境界において温度の傾きが急な事が特徴であるため、この特徴に基づいて温度変状の原因推定をしてもよい。その方法は第一態様で説明したため、その説明を省略する。
 (剥離)
 剥離が無い場合、温度変状の原因を、剥離を伴わない原因、例えば剥離の伴わない浮きなどの内部欠陥であると推定する。剥離が有る場合、温度変状情報導出ステップ(ステップS3)で導出した温度変状の位置及び形状と、剥離の位置及び形状とを比較し、温度変状と剥離の位置が異なり、且つ、隣接して境界の形状が部分的に類似する場合に、温度変状の原因を、剥離を伴う浮きと推定する。
 例えば温度変状の有る画素を1、無い画素を0に2値化した分布と、剥離の有る画素を1、無い画素を0に2値化した分布について、温度変状の形状に基づき、温度変状の境界上の夫々の点を中心とした所定範囲を抽出し、夫々の範囲の温度変状形状分布(温度変状の有る画素を1、無い画素を0に2値化した分布)と剥離形状分布(剥離の有る画素を1、無い画素を0に2値化した分布)の類似性を評価し、何れかの部分において類似する場合に剥離を伴う浮きと推定する。又は、温度変状と剥離の位置が異なり、且つ隣接して、温度変状の境界の一部において、温度変状の温度分布と剥離の輝度分布が類似する場合、例えば温度変状の形状に基づき、温度変状の境界上の夫々の点を中心とした所定範囲の温度分布および輝度分布を抽出し、夫々の範囲の温度分布と輝度分布の類似性を評価し、何れかの部分において類似する場合に剥離を伴う浮きと推定してもよい。また、剥離が、温度変状情報導出ステップ(ステップS3)で導出した温度変状の大きさの外にあり、剥離の境界が温度変状の大きさの境界付近に位置する場合に剥離を伴う浮きと推定してもよい。
 第一態様で説明した通り、剥離を伴う浮きに起因する温度変状は、温度変状の境界の内、剥離に隣接する部分において温度傾きが急である。したがって、温度変状の境界上の夫々の点を中心とした所定範囲において温度変状の形状又は温度分布と剥離の形状又は輝度分布との類似性を評価すると共に、所定範囲における温度変状の境界の温度傾きを評価し、何れかの部分において温度変状の形状又は温度分布と剥離の形状又は輝度分布が類似し、且つ/又は、温度傾きが急な部分が存在する場合に剥離を伴う浮きと推定してもよい。又は、剥離が温度変状の大きさの外にあり剥離の境界が温度変状の大きさの境界付近に位置し、且つ、その境界付近において温度変状の温度傾きが急な場合に剥離を伴う浮きと推定してもよい。
 なお、第一態様で説明した通り、温度傾きを規格化してもよい。
 (ひび)
 ひびが無い場合、温度変状の原因を、ひびを伴わない原因、例えばひびの伴わない浮きなどの内部欠陥であると推定する。ひびが有る場合、温度変状情報導出ステップ(ステップS3)で導出した温度変状の形状すなわち、境界の形状と、ひびの形状との類似性を評価する。そして、温度変状の境界上の何れかの部分において類似する場合、その部分で境界に沿ってひびが有る、つまりひびを伴う浮きと推定する。類似性の評価は、例えばいかの通り行う。温度変状の境界の画素を1、それ以外の画素を0とした分布と、ひびの有る画素を1、無い画素を0とした分布について、温度変状の境界上の夫々の点を中心とした所定範囲を抽出する。そして、夫々の範囲の温度変状境界形状分布、すなわち温度変状の境界の画素を1、それ以外の画素を0とした分布と、ひび形状分布、すなわちひびの有る画素を1、無い画素を0とした分布との類似性を評価することにより行う。又は、温度変状の温度分布にエッジ検出を行った分布と、ひびの輝度分布との類似性を評価し、温度変状の境界上の何れかの部分において類似する場合、その部分において境界に沿ってひびが有る、つまりひびを伴う浮きと推定してもよい。また、温度変状情報導出ステップ(ステップS3)で導出した温度変状の内部にひびが有る場合、ひびを伴う浮きと推定する。又は、ひびが、温度変状情報導出ステップ(ステップS3)で導出した温度変状の大きさの境界付近又は内部に有る場合にひびを伴う浮きと推定してもよい。
 第一態様で説明した通り、ひびを伴う浮きに起因する温度変状は、温度変状の境界に沿ってひびの有る部分において、また温度変状の内部のひびが有る部分において温度傾きが急である。したがって、温度変状の境界上の夫々の点を中心とした所定範囲において温度変状の形状又は温度分布にエッジ検出を行った分布と、ひびの形状又は輝度分布との類似性を評価すると共に、所定範囲における温度変状の境界の温度傾き、例えば検出したエッジの大きさを評価し、何れかの部分において温度変状の形状又は温度分布にエッジ検出を行った分布とひびの形状又は輝度分布が類似し、且つ/又は、温度傾きが急な部分が存在する場合にひびを伴う浮きと推定してもよい。また、温度変状の内部にひびが有る場合、そのひびの部分における温度分布の温度傾きを評価し、ひびの部分において温度傾きが急な場合にひびを伴う浮きと推定してもよい。その際に、そのひびの部分を含む所定範囲において、温度分布にエッジ検出を行った分布とひびの形状又は輝度分布との類似性も評価し、類似する場合、且つ/又は、温度傾きが急な場合にひびを伴う浮きと推定してもよい。
 なお、第一態様で説明した通り、温度傾きを規格化してもよい。
 ひび、剥離及び他の表面変状について原因推定のフローを説明する。ひび、剥離、他の表面変状について原因推定の順序は問わないが、例として、他の表面変状、剥離、ひびの順序で原因推定する場合のフローを説明する。
 最初に、表面変状情報導出ステップ(ステップS4)で導出した他の表面変状の有無、及び有る場合、表面変状と、温度変状情報導出ステップ(ステップS3)で導出した温度変状の類似性評価する。この際に、温度変状の境界の温度傾きを評価してもよい。
 他の表面変状が無い、又は類似しない場合(且つ/又は境界の温度傾きが緩やかな場合)、次のステップに進む。
 類似する場合(且つ/又は境界の温度傾きが急な場合)、温度変状の原因を他の表面変状であると推定する。
 次に、表面変状情報導出ステップ(ステップS4)で導出した剥離の有無、及び、有る場合、剥離と温度変状情報導出ステップ(ステップS3)で導出した温度変状の部分的な類似性や位置関係を評価する。この際に、夫々の部分における温度変状の境界の温度傾きを評価してもよい。
 剥離が無い、又は何れの部分でも類似しない場合(且つ/又は境界の温度傾きが緩やかな場合)、次のステップに進む。
 何れかの部分において類似する場合(且つ/又は境界の温度傾きが急な場合)、温度変状の原因を、剥離を伴う浮きであると推定する。
 次に、表面変状情報導出ステップ(ステップS4)で導出したひびの有無や位置関係(温度変状の境界付近や内部のひび有無を評価する)を評価し、ひびが有る場合、ひびと温度変状情報導出ステップ(ステップS3)で導出した温度変状の境界や内部における部分的な類似性を評価する。この際に、夫々の部分における温度変状の温度傾きを評価してもよい。
 ひびが温度変状境界付近に無い場合、又は温度変状境界付近に有るが、温度変状境界の何れの部分もひびと類似しない場合(且つ/又は境界の温度傾きが緩やかな場合)且つ、ひびが温度変状内部に無い場合(又は温度変状内部に有るが、ひび部分において温度分布にエッジ検出を行った分布とひびが類似しない場合、且つ/又は、ひびの部分における温度傾きが緩やかな場合)、温度変状の原因を浮きであると推定する。
 ひびが温度変状境界付近に有り、温度変状境界の何れかの部分においてひびと類似する場合(且つ/又は境界の温度傾きが急な場合)、又は、ひびが温度変状内部に有る場合(且つ、ひび部分において温度分布にエッジ検出を行った分布とひびが類似する場合、且つ/又は、ひびの部分における温度傾きが急な場合)、温度変状の原因を、ひびを伴う浮きであると推定する。
 <第三態様>
 第三態様として、表面変状情報導出ステップ(ステップS4)で、温度変状に対応する箇所の輝度分布から、表面変状の有無、種類、形状、位置、輝度分布を明示的に導出し、更に他の表面変状について種類判別した場合を説明する。
 ひび及び剥離についての原因推定方法は、第二態様と同じであり、他の表面変状の原因推定方法のみ第二態様と異なる。
 上述した通り、表面変状の種類によって原因推定に有効な情報は以下の様に異なる。
 可視光の吸収量のコンクリートとの違いが表面温度の差異の主原因となる表面変状、例えば色ムラ、錆汁又は錆などは、輝度分布が表面変状情報として原因推定に有効である。
 熱伝導率や赤外線放射率のコンクリートとの違いが表面温度の差異の主原因となる表面変状、例えば補修跡、遊離石灰など、また構造的な原因により表面温度の差異を生じる表面変状、例えば目地、段差などは、形状が表面変状情報として原因推定に有効である。
 例えば、図5の錆汁については輝度分布が原因推定に有効だが、図7の補修跡については補修跡表面の輝度分布がノイズとなり形状のみの方が有効なことが理解できる。そこで、第三態様では、基本的には第二態様と同じ方法で他の表面変状について原因推定するが、表面変状の種類によって類似性の評価に利用する表面変状情報を使いわける、具体的には輝度分布か形状か、を使いわけるようにする。
 第一態様で説明した通り、表面変状に起因する温度変状は、内部欠陥に起因する温度変状と比べ、境界における温度の傾きが急である。しかしながら、図5に示した錆汁のように、必ずしも境界の温度傾きが急ではない表面変状もある。したがって、表面変状の種類によって、温度変状の境界の温度傾きの評価を実施する、しないを切り替え、錆汁のように必ずしも境界の温度傾きが急ではない表面変状については温度傾きの評価を実施しない方法が好ましい。
 <推定結果表示ステップ>
 情報表示部61は、温度変状の原因の推定結果を、表示制御部26を介して表示装置30に表示する(推定結果表示ステップ:ステップS6)。
 温度変状情報導出ステップ(ステップS3)で判定、抽出した夫々の温度変状について、原因推定ステップ(ステップS5)で推定した原因を表示する。赤外線熱画像上の夫々の温度変状の近くに表示してもよいし、可視画像上に温度変状の位置及び形状と共に表示してもよい。赤外線熱画像と可視画像を加工した任意の画像及び/又は他の任意の画像上に表示してよい。第三態様の場合(他の表面変状の種類を判別した場合)は、原因推定ステップ(ステップS5)で推定した原因が「他の表面変状」である場合には、その種類(色ムラ、目地、段差、錆汁など)を表示することが好ましい。
 図17は表示装置30に推定結果を表示させた表示結果の一例を示す図である。図17には、図10(B)に対応する赤外線熱画像が表示されている。さらに、温度変状情報導出ステップ(ステップS3)で温度変状と判定して抽出した箇所を白枠で囲んで表示すると共に、原因推定ステップ(ステップS5)で推定した原因「剥離を伴う浮き」を白字で白枠の近くに表示している。
 図17では、赤外線熱画像の一部分のみを表示しているが、撮影された赤外線熱画像全体を表示して、その中で、温度変状と判定して抽出した夫々の箇所について原因を表示することもでき、もっと広い範囲で表示してもよい。
 図17の例は、あくまで一例であり、原因「剥離を伴う浮き」を見易くするために、その文字の背景だけ白地にしてもよく、その見せ方には無数のバリエーションがあり、特に限定されない。
 <他の態様>
 浮きなどのコンクリート構造物内部の原因による構造物表面温度の差異が、表面変状に起因する構造物表面温度の差異に埋もれ、構造物内部の原因による温度の差異を判別できないことが生じうる。例えば、コンクリート表面において剥離した箇所は補修材が充てんされ補修されるが、その補修材が数年後に元のコンクリート構造物から浮いてくる場合がある。その浮きによる温度の差異は判別できることが望ましいが、補修材自体の熱伝導率や赤外線放射率が周囲のコンクリートと異なることで発生する温度の差異に埋もれて判別できないことが生じる。
 この様な場合でも、構造物内部の原因による温度の差異を判別できるように、温度変状の原因を他の表面変状であると推定した場合に、表面変状による温度分布を温度変状情報と表面変状情報に基づき推定し、元の温度分布から低減してもよい。その方法には種々の方法がある。
 例えば、表面変状情報である表面変状の輝度分布に所定のぼかし処理を行い(表面変状による温度分布は輝度分布と比べて熱伝導などの原因によりぼけている)、ぼかした輝度分布のコントラストを調整して、元の温度分布に最も合うように最適化し、そしてコントラスト最適化した輝度分布を、表面変状による温度分布と推定して元の温度分布から差し引く、又は除してもよい。
 但し、本手法のように表面変状の輝度分布から、それによる温度分布を推定する方法は、輝度分布と温度分布が類似しない表面変状については適さない。つまり上述した様に、色ムラ、錆汁又は錆など、可視光の吸収量のコンクリートとの違いが温度の差異の主原因となる表面変状については本手法が適している。
 一方で、補修跡、遊離石灰など、熱伝導率や赤外線放射率のコンクリートとの違いが温度の差異の主原因となる表面変状や、目地、段差など、構造的な原因により温度の差異を生じる表面変状については適さない。その様な表面変状は、表面変状の輝度分布を使わずに温度分布を推定することが好ましい。例えば、表面変状の種類に応じて、表面変状に関する熱的なパラメタを種々に設定して、それらパラメタと表面変状の形状に基づき熱シミュレーション(熱伝導、熱放射、対流を含むシミュレーション)を行って温度分布をシミュレートし、元の温度分布に最も合うシミュレーションの温度分布を表面変状による温度分布と推定して元の温度分布から差し引く、又は除してもよい。
 補修跡、遊離石灰など熱伝導率や赤外線放射率が温度の差異の主原因となる表面変状については熱伝導率や赤外線放射率を特に重要なパラメタとして設定し、目地、段差など構造的な原因により温度の差異を生じる表面変状については目地の凹凸の深さや高さ、段差の高さといった構造のパラメタを特に重要なパラメタとして設定する。
 単純に、元の温度分布を、より低次な数式によって近似した温度分布、例えば1次式(平面)や2次式(曲面)などの低次の多項式によって表され、元の温度分布に最も合う温度分布を表面変状による温度分布と推定して元の温度分布から差し引いてもよい。元の温度分布に所定のぼかし処理を行った分布を表面変状による温度分布と推定して元の温度分布から差し引いてもよい。
 上述の実施形態では、温度変状情報導出ステップ(ステップS3)の温度変状判定と温度変状情報導出、表面変状情報導出ステップ(ステップS4)の表面変状情報導出及び原因推定ステップ(ステップS5)の原因推定、の夫々の工程をルールベースで行う方法を説明した。
 これに限定されず、温度変状情報導出ステップ(ステップS3)、表面変状情報導出ステップ(ステップS4)及び原因推定ステップ(ステップS5)の夫々の工程は様々な機械学習手法によって実施することもできる。
 例えば、温度変状情報導出ステップ(ステップS3)において、赤外線熱画像から温度変状を判定し、その形状を含む情報を導出する方法としてFCN(Fully Convolutional Network)、SegNet(A Deep Convolutional Encoder-Decoder Architecture for Image Segmentation)、U-Net(Convolutional Networks for Biomedical Image Segmentation)など、画像から物体を検出し、その領域を抽出する機械学習手法を利用できる。
 また、表面変状情報導出ステップ(ステップS4)の可視画像から表面変状情報を導出する方法にも同じ機械学習手法を利用できる。可視画像の場合、RGB画像など、複数の種類の画像が有る場合、その全ての種類の可視画像を入力とすればよい。
 温度変状情報導出ステップ(ステップS3)において温度変状を判定し、その大きさを導出するのみであればR-CNN (Regions with CNN(Convolutional Neural Network) features)、Fast R-CNN 、Yolo (You Only Look Once)、SSD (Single Shot MultiBox Detector)などの機械学習手法も利用できる。
 表面変状情報導出ステップ(ステップS4)において、まず表面変状を判定し、その輝度分布から特徴量(平均輝度、形状、輝度分布のテクスチャ、コントラスト、周波数スペクトルなどの特徴量)を抽出し、その特徴量から表面変状の種類(他の表面変状、剥離、ひび。また他の表面変状の種類として色ムラ、目地、段差、錆汁など)を判別する場合は、その判別方法としてロジスティック回帰、線形判別分析、K最近傍法、決定木(分類木)、ランダムフォレスト、サポートベクターマシン(SVM)など、特徴量から物体を分類する機械学習手法を利用できる。
 原因推定ステップ(ステップS5)において、温度変状情報と表面変状情報から温度変状の原因推定する方法も、温度変状情報と表面変状情報の形態に応じて様々な機械学習手法によって実施できる。例えば、温度変状情報として温度変状の温度分布、表面変状情報として温度変状に対応する箇所の輝度分布を入力とする場合、DNN(Deep Neural Network)、CNNなどの機械学習手法によって、温度変状の原因を「他の表面変状(他の表面変状の種類も分類する場合には「色ムラ」「目地」「段差」「錆汁」など)」「剥離を伴う浮き」「ひびを伴う浮き」「浮き」などに分類する事ができる。
 温度変状情報導出ステップ(ステップS3)、表面変状情報導出ステップ(ステップS4)及び原因推定ステップ(ステップS5)を全てまとめて一つの機械学習手法により実施することもできる。つまり、赤外線熱画像と可視画像(RGBなど、複数の種類の画像が有る場合はその全ての種類の可視画像)を入力として、先に挙げたFCN、SegNet、U-Net、R-CNN、Fast R-CNN 、Yolo、SSDなどの機械学習手法によって温度変状を検出すると共に、その原因を分類することができる。なお、機械学習を実行する場合、学習データが豊富であることが好ましい。
 上述の実施形態では、他の表面変状、剥離及びひびの夫々について原因推定を順番に行い、温度変状の原因として一つの原因を推定する実施例を説明した。温度変状の原因として複数の候補を推定してもよい。つまり、他の表面変状、剥離、及びひびの夫々について原因推定を行ってもよく、温度変状の原因として、他の表面変状、剥離を伴う浮き、ひびを伴う浮きなどの複数の候補を推定してもよい。
 また、原因を二者択一で推定するのではなく確率的に推定してもよい。例えば、他の表面変状、剥離、およびひびの夫々について、可視画像の温度変状に対応する箇所に無い場合は、温度変状の原因である確率0%とし、有る場合は、温度変状の原因である確率として、その輝度分布及び/又は形状と温度変状の温度分布及び/又は形状(又はエッジ検出を行った分布)との類似性の計算値(例えば、上述したユークリッド距離やピアソンの確率相関係数など)を確率に換算した値を採用すればよい。
 また温度変状の境界および内部における温度傾きの計算値も含めて確率に換算した値を採用してもよい。この様な実施例の場合、推定結果表示ステップ(ステップS6)では、温度変状情報導出ステップ(ステップS3)で判定、抽出した夫々の温度変状について、その原因として推定した複数の候補や、その確率を表示する。
 上記の実施形態のプログラムは、専用の解析プログラムにより実施されてもよく、また、実施する装置は問わない。例えば、パーソナルコンピューターでも実施できる。また、各ステップを実施する装置、又はプログラムは一体であっても、分離されていてもよい。
 <その他>
 上記実施形態において、各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
 1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部は1つのプロセッサで構成できる。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。
 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。
 上述の各構成及び機能は、任意のハードウェア、ソフトウェア、或いは両者の組み合わせによって適宜実現可能である。例えば、上述の処理ステップ(処理手順)をコンピュータに実行させるプログラム、そのようなプログラムを記録したコンピュータ読み取り可能な記録媒体(非一時的記録媒体)、或いはそのようなプログラムをインストール可能なコンピュータに対しても本発明を適用することが可能である。
 以上で本発明の例に関して説明してきたが、本発明は上述した実施の形態に限定されず、本発明の趣旨を逸脱しない範囲で種々の変形が可能であることは言うまでもない。
10 画像解析装置
12 入出力インターフェイス
16 記憶部
18 操作部
20 CPU
22 RAM
24 ROM
26 表示制御部
30 表示装置
32 赤外線カメラ
34 可視カメラ
36 構造物
51 赤外線熱画像取得部
53 可視画像取得部
55 温度変状情報導出部
57 表面変状情報導出部
59 原因推定部
61 情報表示部
101 赤外線熱画像
102 温度変状情報
103 可視画像
104 表面変状情報
S1 ステップ
S2 ステップ
S3 ステップ
S4 ステップ
S5 ステップ
S6 ステップ

Claims (16)

  1.  プロセッサを備える画像解析装置であって、
     前記プロセッサは、
     点検対象の構造物を撮影した赤外線熱画像を取得し、
     点検対象の前記構造物を撮影した可視画像を取得し、
     前記赤外線熱画像から温度変状を判定し、
     前記温度変状について、
     少なくとも、前記赤外線熱画像から得られる温度変状情報と、
     前記可視画像から得られる表面変状情報と、に基づき、
     前記温度変状の原因を推定する、画像解析装置。
  2.  前記温度変状情報は、前記温度変状について、前記赤外線熱画像の温度分布及び/又は前記温度分布から得られる情報を含む、請求項1に記載の画像解析装置。
  3.  前記温度変状情報は、前記温度変状の形状及び/又は大きさの情報を含む、請求項2に記載の画像解析装置。
  4.  前記表面変状情報は、前記可視画像の輝度分布及び/又は輝度分布から得られる情報を含む、請求項1から3のいずれか一項に記載の画像解析装置。
  5.  前記表面変状情報は、前記表面変状の種類、形状及び位置の少なくとも一つの情報を含む、請求項4に記載の画像解析装置。
  6.  前記プロセッサは、
     前記温度変状情報と前記表面変状情報との類似性に基づき前記温度変状の原因を推定する、請求項1から5のいずれか一項に記載の画像解析装置。
  7.  前記プロセッサは、
     前記温度変状の原因を前記表面変状であると推定した場合、
     前記表面変状による温度分布を推定し、前記赤外線熱画像から低減する、請求項6に記載の画像解析装置。
  8.  前記類似性は部分的な類似性を含む、請求項6に記載の画像解析装置。
  9.  前記プロセッサは、
     前記温度変状に対応する前記表面変状をひび又は剥離と判定し、
     前記温度変状情報と前記表面変状情報との類似性を評価し、
     少なくとも一部分が類似する場合に、前記温度変状の原因が、前記ひび又は剥離を伴う浮きであると推定する、
     請求項1から5のいずれか一項に記載の画像解析装置。
  10.  前記プロセッサは、
     前記温度変状に対応する前記表面変状をひび又は剥離と判定し、
     前記温度変状の大きさの中に、及び/又は前記温度変状の境界付近に前記表面変状の有無を評価し、
     有りの場合に前記温度変状の原因が、前記ひび又は剥離を伴う浮きであると推定する、
     請求項1から5のいずれか一項に記載の画像解析装置。
  11.  前記プロセッサは、
     前記温度変状の境界の温度の傾きに基づき前記温度変状の原因を推定する、
     請求項1から10のいずれか一項に記載の画像解析装置。
  12.  前記表面変状は補修跡、遊離石灰、目地、段差、ひび及び剥離の少なくとも一つを含む、請求項11に記載の画像解析装置。
  13.  前記可視画像は可視光の波長域において2種類以上の異なる波長域での反射強度分布を画像化した画像である、請求項1から12のいずれか一項に記載の画像解析装置。
  14.  さらに、表示装置を備え、
     前記プロセッサは、前記表示装置に前記温度変状の原因の推定結果を表示する、請求項1から13のいずれか一項に記載の画像解析装置。
  15.  点検対象の構造物を撮影した赤外線熱画像を取得するステップと、
     点検対象の前記構造物を撮影した可視画像を取得するステップと、
     前記赤外線熱画像から温度変状を判定するステップと、
     前記温度変状について、
     少なくとも、前記赤外線熱画像から得られる温度変状情報と、
     前記可視画像から得られる表面変状情報と、に基づき、
     前記温度変状の原因を推定するステップと、
     を含む画像解析方法。
  16.  点検対象の構造物を撮影した赤外線熱画像を取得するステップと、
     点検対象の前記構造物を撮影した可視画像を取得するステップと、
     前記赤外線熱画像から温度変状を判定するステップと、
     前記温度変状について、
     少なくとも、前記赤外線熱画像から得られる温度変状情報と、
     前記可視画像から得られる表面変状情報と、に基づき、
     前記温度変状の原因を推定するステップと、
     をコンピュータに実行させるためのプログラム。
PCT/JP2021/048467 2021-01-14 2021-12-27 画像解析装置、画像解析方法及びプログラム WO2022153852A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202180090589.7A CN116710763A (zh) 2021-01-14 2021-12-27 图像分析装置、图像分析方法及程序
JP2022575515A JPWO2022153852A1 (ja) 2021-01-14 2021-12-27
EP21919738.1A EP4279908A4 (en) 2021-01-14 2021-12-27 IMAGE ANALYSIS DEVICE, IMAGE ANALYSIS METHOD AND PROGRAM
US18/344,823 US20230342907A1 (en) 2021-01-14 2023-06-29 Image analysis apparatus, image analysis method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021-004419 2021-01-14
JP2021004419 2021-01-14

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US18/344,823 Continuation US20230342907A1 (en) 2021-01-14 2023-06-29 Image analysis apparatus, image analysis method, and program

Publications (1)

Publication Number Publication Date
WO2022153852A1 true WO2022153852A1 (ja) 2022-07-21

Family

ID=82447283

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2021/048467 WO2022153852A1 (ja) 2021-01-14 2021-12-27 画像解析装置、画像解析方法及びプログラム

Country Status (5)

Country Link
US (1) US20230342907A1 (ja)
EP (1) EP4279908A4 (ja)
JP (1) JPWO2022153852A1 (ja)
CN (1) CN116710763A (ja)
WO (1) WO2022153852A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220099588A1 (en) * 2020-09-29 2022-03-31 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and non-transitory computer-readable storage medium

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113167742B (zh) * 2018-11-29 2024-02-27 富士胶片株式会社 混凝土构造物的点检辅助装置、点检辅助方法及记录介质
US20240255932A1 (en) * 2022-08-03 2024-08-01 Industrial Video Solutions Inc. Systems and methods for monitoring and controlling industrial processes
US20240212356A1 (en) * 2022-08-03 2024-06-27 Industrial Video Solutions Inc. Systems and methods for monitoring and controlling industrial processes
CN117462086B (zh) * 2023-10-30 2024-07-26 北京鹰之眼智能健康科技有限公司 红外图像处理系统、电子设备及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05307013A (ja) * 1992-04-28 1993-11-19 Jeol Ltd サーモグラフィ装置を用いた検査方法
JP2011099687A (ja) * 2009-11-04 2011-05-19 Daiwa Odakyu Construction Co Ltd 赤外線法によるコンクリート表層部の変状部検出方法
JP2013096741A (ja) 2011-10-28 2013-05-20 West Nippon Expressway Engineering Shikoku Co Ltd 構造物の赤外線調査方法及び赤外線調査用演算装置
JP2013224849A (ja) * 2012-04-20 2013-10-31 West Nippon Expressway Engineering Shikoku Co Ltd 構造物の不具合確率演算方法および不具合確率演算装置、構造物の不具合範囲判定方法および不具合範囲判定装置
JP2017203761A (ja) * 2016-05-11 2017-11-16 直人 今西 物体内変状部分検出装置

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10497109B2 (en) * 2015-10-07 2019-12-03 Fuchs Consulting, Inc. Time-lapse infrared thermography system and method for damage detection in large-scale objects
US10191014B2 (en) * 2016-08-23 2019-01-29 The Boeing Company System and method for nondestructive evaluation of a test object

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05307013A (ja) * 1992-04-28 1993-11-19 Jeol Ltd サーモグラフィ装置を用いた検査方法
JP2011099687A (ja) * 2009-11-04 2011-05-19 Daiwa Odakyu Construction Co Ltd 赤外線法によるコンクリート表層部の変状部検出方法
JP2013096741A (ja) 2011-10-28 2013-05-20 West Nippon Expressway Engineering Shikoku Co Ltd 構造物の赤外線調査方法及び赤外線調査用演算装置
JP2013224849A (ja) * 2012-04-20 2013-10-31 West Nippon Expressway Engineering Shikoku Co Ltd 構造物の不具合確率演算方法および不具合確率演算装置、構造物の不具合範囲判定方法および不具合範囲判定装置
JP2017203761A (ja) * 2016-05-11 2017-11-16 直人 今西 物体内変状部分検出装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4279908A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220099588A1 (en) * 2020-09-29 2022-03-31 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and non-transitory computer-readable storage medium
US11898966B2 (en) * 2020-09-29 2024-02-13 Canon Kabushiki Kaisha Information processing apparatus, information processing method, and non-transitory computer-readable storage medium

Also Published As

Publication number Publication date
US20230342907A1 (en) 2023-10-26
EP4279908A1 (en) 2023-11-22
EP4279908A4 (en) 2024-07-10
CN116710763A (zh) 2023-09-05
JPWO2022153852A1 (ja) 2022-07-21

Similar Documents

Publication Publication Date Title
WO2022153852A1 (ja) 画像解析装置、画像解析方法及びプログラム
US11221107B2 (en) Method for leakage detection of underground pipeline corridor based on dynamic infrared thermal image processing
Li et al. A visual detection system for rail surface defects
KR102058427B1 (ko) 검사 장치 및 방법
He et al. Deep regression neural network for industrial surface defect detection
CN106228546B (zh) 一种板卡的检测方法及装置
Ichi et al. Effectiveness of infrared thermography for delamination detection in reinforced concrete bridge decks
CN111862064A (zh) 一种基于深度学习的银质丝材表面瑕疵识别方法
Miao et al. An image processing-based crack detection technique for pressed panel products
US20130034305A1 (en) Image-based crack quantification
US11747284B2 (en) Apparatus for optimizing inspection of exterior of target object and method thereof
Yang et al. An accurate mura defect vision inspection method using outlier-prejudging-based image background construction and region-gradient-based level set
US20170278235A1 (en) Fast density estimation method for defect inspection application
TW201512649A (zh) 偵測晶片影像瑕疵方法及其系統與電腦程式產品
KR101677070B1 (ko) 형태학적 영상 처리와 레이블링을 이용한 얼룩 결함 자동 검출 시스템 및 방법
Xia et al. An automatic machine vision-based algorithm for inspection of hardwood flooring defects during manufacturing
CN109900363A (zh) 一种基于轮廓提取的目标物红外测温方法和装置
KR102242996B1 (ko) 자동차 사출제품의 비정형 불량 검출 방법
CN116188379A (zh) 边缘缺陷检测方法、装置、电子设备及存储介质
CN110426395B (zh) 一种太阳能el电池硅片表面检测方法及装置
Chiu et al. An innovative blemish detection system for curved LED lenses
JP2017062181A (ja) 表面疵検査装置及び表面疵検査方法
Chen et al. An effective image segmentation method for noisy low-contrast unbalanced background in Mura defects using balanced discrete-cosine-transfer (BDCT)
TW201510517A (zh) 用於改善晶圓表面檢查靈敏度之方法及系統
CN109785290A (zh) 基于局部光照归一化的钢板缺陷检测方法

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 21919738

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2022575515

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 202180090589.7

Country of ref document: CN

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2021919738

Country of ref document: EP

Effective date: 20230814