WO2020110717A1 - 構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ - Google Patents

構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ Download PDF

Info

Publication number
WO2020110717A1
WO2020110717A1 PCT/JP2019/044449 JP2019044449W WO2020110717A1 WO 2020110717 A1 WO2020110717 A1 WO 2020110717A1 JP 2019044449 W JP2019044449 W JP 2019044449W WO 2020110717 A1 WO2020110717 A1 WO 2020110717A1
Authority
WO
WIPO (PCT)
Prior art keywords
damage
cause
similar
information
unit
Prior art date
Application number
PCT/JP2019/044449
Other languages
English (en)
French (fr)
Inventor
修平 堀田
Original Assignee
富士フイルム株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 富士フイルム株式会社 filed Critical 富士フイルム株式会社
Priority to CN201980075325.7A priority Critical patent/CN113039538A/zh
Priority to JP2020558314A priority patent/JP7351849B2/ja
Priority to EP19891104.2A priority patent/EP3889801A4/en
Publication of WO2020110717A1 publication Critical patent/WO2020110717A1/ja
Priority to US17/319,187 priority patent/US20210272262A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • EFIXED CONSTRUCTIONS
    • E01CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
    • E01DCONSTRUCTION OF BRIDGES, ELEVATED ROADWAYS OR VIADUCTS; ASSEMBLY OF BRIDGES
    • E01D22/00Methods or apparatus for repairing or strengthening existing bridges ; Methods or apparatus for dismantling bridges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0008Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings of bridges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01MTESTING STATIC OR DYNAMIC BALANCE OF MACHINES OR STRUCTURES; TESTING OF STRUCTURES OR APPARATUS, NOT OTHERWISE PROVIDED FOR
    • G01M5/00Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings
    • G01M5/0091Investigating the elasticity of structures, e.g. deflection of bridges or air-craft wings by using electromagnetic excitation or detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/08Construction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/74Image or video pattern matching; Proximity measures in feature spaces
    • G06V10/761Proximity, similarity or dissimilarity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30132Masonry; Concrete
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation
    • G06T2207/30184Infrastructure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Definitions

  • the present invention relates to a structure damage cause estimation system, a damage cause estimation method, and a damage cause estimation server, and in particular, damage that estimates a damage cause using a database including results of damage causes of structures that have been inspected in the past.
  • the present invention relates to a cause estimation system, a damage cause estimation method, and a damage cause estimation server.
  • An object of the present invention is to provide a damage cause estimation system for a structure, a damage cause estimation method, and a damage cause estimation server capable of estimating the cause of damage with high probability.
  • the system for estimating the cause of damage to a structure includes a captured image of damage before repair of the structure and a database having data on the cause of damage to the structure, and an inspection.
  • An image acquisition unit that acquires a captured image of the target structure to be performed, an actual size of a characteristic portion of the target structure in the captured image, or an actual size information acquisition unit that acquires the actual length of the target structure,
  • a damage detection unit that detects damage from the captured image acquired by the image acquisition unit and calculates the degree of damage based on the information acquired by the actual size information acquisition unit, and the damage detected by the damage detection unit in the database.
  • Presents the similar damage extraction unit that extracts one or more similar damages with high similarity by determining the similarity with the damage of the provided structure, and the damage cause of the similar damage extracted by the similar damage extraction unit.
  • a damage cause presentation unit is a damage cause presentation unit.
  • a method for estimating a cause of damage to a structure is configured such that an image acquisition unit includes an image acquisition step of acquiring a captured image of a target structure to be inspected and an actual size information acquisition unit.
  • the actual size information acquisition step of acquiring the actual size of the characteristic part of the target structure in the captured image or the actual length of the target structure, and the damage detection unit from the captured image acquired in the image acquisition step.
  • a database that includes a damage detection process that detects damage and calculates the degree of damage based on the information acquired in the actual size information acquisition process, a captured image of the structure before repair, and data of the cause of damage to the structure.
  • the similar damage extraction unit determines the similarity between the damage detected in the damage detection step and the damage of the structure provided in the database by using
  • the similar damage extraction step of extracting, and the damage cause presentation unit include a damage cause presentation step of presenting the damage cause of the similar damage extracted in the similar damage extraction step.
  • the structure damage cause estimation server is a damage cause estimation server that is connected to a user terminal via a network and estimates the cause of damage of a target structure to be inspected.
  • An actual size information acquisition unit that acquires the actual size of a characteristic part of the structure or the actual length of the target structure, and a damage is detected from the captured image acquired by the image acquisition unit, and an actual size information acquisition unit Based on the information acquired in, the damage detection unit that calculates the degree of damage, and the damage detected by the damage detection unit, by determining the similarity between the damage of the structure provided in the database, A similar damage extraction unit that extracts one or more similar damages, a damage cause presentation unit that presents a damage cause of the similar damages extracted by the similar damage extraction unit, and a reception that receives a captured image from a user terminal via a network. And a communication unit having a transmission unit that transmits the cause of damage presented to the user terminal by the damage cause presentation unit.
  • the structure damage cause estimation system of the present invention it is possible to extract a damage example similar to the damage situation of the target structure to be inspected by using the database including the damage causes identified in the past inspection.
  • the user can refer to the results when identifying the damage causes, which improves the accuracy of damage cause estimation. it can.
  • FIG. 1 is a perspective view showing a state in which a bridge 1 which is one of structures is viewed from below.
  • the bridge 1 shown in FIG. 1 has a three-dimensional structure including a main girder 2, a horizontal girder 3, an inclined structure 4, a lateral structure 5, and a floor slab 6, and these members are bolts, rivets, and welding. Etc. are connected and configured.
  • a floor slab 6 for driving a vehicle or the like is placed on the upper part of the main girder 2 and the like.
  • the floor slab 6 is generally a floor slab made of reinforced concrete.
  • the main girder 2 is a member that is passed between abutments or piers to support the load of a vehicle or the like on the floor slab 6, and has a surface (vertical surface) orthogonal to the surface (horizontal surface) of the floor slab 6.
  • the lateral girders 3 are members that connect the main girders 2 in order to support the load by the plurality of main girders 2.
  • the anti-tilt structure 4 and the lateral structure 5 are members that connect the main girders 2 to each other in order to resist lateral loads of wind and earthquake, respectively.
  • the structure is not limited to a bridge, and may be a tunnel, a building, or a road.
  • FIG. 2 is a block diagram showing a schematic configuration of the damage cause estimation system 100 and the digital camera 200 according to the embodiment of the present invention.
  • the damage cause estimation system 100 includes a database 110, an image acquisition unit 115, an actual size information acquisition unit 120, a damage detection unit 125, a similar damage extraction unit 130, and a damage cause presentation unit 135.
  • the information acquisition unit 140 that acquires information on the structure to be inspected, which is the damage cause corresponding to the structure held in the database 110 and other information such as structure information, and the estimated damage cause are displayed.
  • the display control unit 145 for controlling the output and the output unit 150 for outputting the estimated cause of damage may be provided.
  • the damage cause estimation system 100 is a system that detects damage from an image obtained by capturing an image of a target structure to be inspected and estimates the cause of the damage, and includes a digital camera, a smartphone, a tablet terminal, It can be applied to a personal computer or the like.
  • the image acquired by the image acquisition unit 115 can be acquired by the digital camera 200.
  • the digital camera 200 may be incorporated in a separate housing from the damage cause estimation system 100, or may be integrated. Further, the digital camera 200 may be incorporated as a part of the damage cause estimation system 100 to configure the structure damage cause estimation system of the present embodiment.
  • the digital camera 200 acquires an image by an image pickup optical system 210 including a taking lens and an image pickup device (not shown).
  • the image pickup device include a CCD (Charge Coupled Device) type image pickup device and a CMOS (Complementary Metal-Oxide Semiconductor) type image pickup device.
  • An R (red), G (green), or B (blue) color filter is provided on the light receiving surface of the image sensor, and a color image of the subject can be acquired based on the signals of the respective colors.
  • the digital camera 200 performs wireless communication with the damage cause estimation system 100 via the wireless communication unit 220 and the antenna 222, the captured image is input to the image acquisition unit 115, and the processing described below is performed.
  • the image acquisition unit 115 includes a panorama synthesis unit 116, and an image obtained by subjecting the image group to the panorama synthesis process can also be used.
  • the digital camera 200 may be, for example, a general-purpose compact digital camera having the number of pixels of about 5000 ⁇ 4000 pixels.
  • the damage cause estimation system 100 mainly includes a database 110, an image acquisition unit 115, an actual size information acquisition unit 120, a damage detection unit 125, a similar damage extraction unit 130, and a damage cause presentation unit 135. These are connected to each other and necessary information is transmitted and received.
  • the damage cause estimation system 100 wirelessly communicates with the digital camera 200 via the antenna 117, and acquires a captured image captured by the digital camera 200.
  • the database 110 is a recording unit that stores a photographed image of a structure before repair and a cause of damage to the structure.
  • Examples of the cause of damage include (1) fatigue (repetitive load), salt damage, neutralization, alkali-aggregate reaction, frost damage, and chemical erosion deterioration (2) during construction. Hydration heat and the factors during construction such as drying shrinkage, (3) the action of excessive external force, and structural factors such as improper design.
  • Examples of causes of damage to steel members include (1) fatigue (repetitive load) and deterioration due to salt damage, (2) action of excessive external force, and structural factors such as improper design. Be done.
  • the damage information of the structure may include a damage type, a damage position, and a damage degree (length, width, area, density and depth, etc., and an average value or maximum value thereof).
  • Other information may include structure information, environment information, and history information.
  • structural information (1) type of structure, for example, in the case of bridge, girder bridge, ramen bridge, truss bridge, arch bridge, cable-stayed bridge, suspension bridge, etc., (2) type of member, for example, in case of bridge, (3) materials such as floor slabs, bridge piers, abutments, girders, and the like, for example, steel, reinforced concrete, PC (Prestressed Concrete) and the like.
  • the environmental information includes traffic volume such as daily, monthly, yearly, cumulative, etc., distance from the sea, average temperature, average humidity, climate such as rainfall, snowfall, etc. ..
  • construction conditions such as temperature during construction, age, repair history, disaster history such as earthquake, typhoon, flood, etc.
  • monitoring information such as deflection, vibration amplitude, vibration cycle, etc. Be done.
  • the database 110 can also store at least one of captured images and damage information at a plurality of past points of damage to the structure. By storing the past photographed image and the damage information, it is possible to use the temporal change of the target structure for determining the similarity when determining the similarity.
  • the image acquisition unit 115 acquires a captured image of the target structure to be inspected.
  • the captured image is obtained by the structure unit of the target structure or the member unit.
  • the image acquisition unit 115 acquires a captured image of the bridge 1 from the digital camera 200 (or recording medium, network, etc.).
  • the captured image may be an image obtained by capturing the entire image once, and when the region for which the captured image is to be captured cannot be covered by the single image capturing at a predetermined resolution, the captured image is divided into a plurality of divided images of the target structure. It can be an image.
  • the panorama compositing unit 116 performs panorama compositing processing. In the panorama combining process, corresponding points between images are detected, and the captured images are combined based on the corresponding points between the images.
  • the image acquisition unit 115 may periodically acquire a captured image of the target structure and acquire a temporal image of the target structure.
  • the similar damage extraction unit 130 which will be described later, when the similar damage is detected, the change over time of the target structure can also be used to determine the degree of similarity. It should be noted that as the time-lapse image, at least an image at the time of the previous inspection and an image at the time of the current inspection may be acquired.
  • the actual size information acquisition unit 120 acquires the actual size of the characteristic portion of the target structure in the captured image acquired by the image acquisition unit 115 or the actual length of the target structure.
  • the actual size information acquisition unit 120 can be obtained by acquiring the resolution indicating the actual length of the target structure per unit pixel of the captured image.
  • it can be performed by taking an image together with a substance whose structure length is known, or by taking an image by projecting a scale.
  • the damage detection unit 125 detects damage from the captured image acquired by the image acquisition unit 115. Further, the degree of damage is calculated based on the information acquired by the actual size information acquisition unit 120.
  • the damage to be detected when the structure is a concrete member, cracks, water leakage and free lime, peeling and rebar exposure, and damage such as plow are detected.
  • the structure is a steel member, damages such as cracks, corrosion, and deterioration of anticorrosion function are detected. Detect any one or more of these damages.
  • the detection can be detected by a machine learning detector and a detection algorithm.
  • items to be measured to detect cracks include a position, a size, a direction, a range, and a shape, which can be set according to conditions such as the type and characteristics of the structure.
  • cracks can be detected by various methods, for example, the crack detection method described in Japanese Patent No. 4006007 can be used.
  • This method is a crack detection method including a step of creating a wavelet image and a step of determining a crack area based on the wavelet image.
  • a wavelet coefficient corresponding to two densities to be compared is calculated, and each wavelet coefficient when the two densities are changed is calculated to create a wavelet coefficient table.
  • Wavelet transform an input image of the concrete surface that is the object of crack detection.
  • the average density of the neighboring pixels in the local area and the wavelet coefficient corresponding to the density of the target pixel are used as a threshold value, and the wavelet coefficient of the target pixel is compared with the threshold value.
  • a cracked area and a non-cracked area are determined.
  • the similar damage extraction unit 130 determines the similarity based on the type of damage, the position of the damage, and the degree of damage, and extracts one or more similar damages having a high similarity from the database 110.
  • the degree of similarity may be determined based on the change over time in the position of damage and the degree of damage. Further, the degree of similarity can be determined and extracted based on one or more of the structural information, environment information, history information, disaster information, and inspection information in the database 110.
  • Similarity is determined by calculating the distance between the structure to be inspected and the damage to other structures stored in the database in the feature space using the above information as the feature vector, and this distance is a threshold value. The following damages are extracted as similar damages.
  • FIG. 3 is a graph showing the concept of determining the degree of similarity.
  • the feature space based on the feature vector is used to determine the degree of similarity, the type of damage, the position of damage, the degree of damage, the change in position of damage and the degree of damage over time, structural information, environmental information, history information, and disasters. It can be a multidimensional space of parameters selected from information and inspection information. Incidentally. FIG. 3 is illustrated in a two-dimensional space for ease of explanation.
  • the horizontal axis is the feature vector (1), and the maximum width of the crack is plotted, and the vertical axis is the feature vector (2), and the years after the start of service are plotted. Then, a predetermined distance around the target structure to be inspected is set as a threshold value, and damages less than this threshold value are extracted as similar damages. In FIG. 3, the circle indicated by the broken line centering on the target structure is below the threshold value.
  • the distance not weighted to the parameter may be used, or the weighted distance (Mahalanobis distance) may be used. What kind of weighting is applied to which parameter may be determined by a statistical method such as principal component analysis.
  • the damage cause presentation unit 135 presents the damage cause of the similar damage extracted by the similar damage extraction unit 130.
  • a method of presenting the cause of damage for example, the following can be presented.
  • FIG. 4 is a diagram illustrating a method of presenting the cause of damage.
  • the similar damages extracted by the similar damage extracting unit 130 the information of the similar damages having a high similarity, for example, the similarity damages having the highest 100th similarity are listed in descending order of the similarity (Example 1).
  • the frequency (proportion) of the damage cause is calculated for the similar damages having a high similarity, for example, the similarity damages having the top 100th similarity, and presented together with the damage cause.
  • the similar damages having a high similarity for example, the similarity damages having the top 100th similarity
  • the frequency (proportion) of the damage cause is calculated for the similar damages having a high similarity, for example, the similarity damages having the top 100th similarity, and presented together with the damage cause.
  • the causes of damage may be listed without rearranging the order.
  • 10 damage cases A to J are shown and described as damage cases to simplify the description, but in reality, 100 cases up to the 100th rank as described above are extracted, It is preferable to indicate the cause of damage.
  • the information to be presented should include information such as a captured image of the target structure and damage information (type of damage, location of damage, extent of damage (length, width, area, etc.)). You can
  • the cause of damage to be presented indicates a cause that may be repaired by repairing.
  • causes of damage to concrete members include deterioration, fatigue, salt damage, neutralization, alkali-aggregate reaction, frost damage, and chemical erosion.
  • Factors at the time of construction include heat of hydration at the time of construction and drying shrinkage.
  • Structural factors include problematic external force effects and improper design.
  • causes of damage to steel members include fatigue and salt damage as deterioration.
  • Structural factors include problematic external force effects and improper design.
  • the information acquisition unit 140 acquires structural information, environmental information, and history information (hereinafter, also referred to as “structure information etc.”) of the target structure to be inspected. As the structure information, the environment information, and the history information, the same information as the information included in the database 110 described above is acquired.
  • Information acquisition by the information acquisition unit 140 can be input by an operation unit (not shown).
  • the operation unit includes a keyboard and a mouse as input devices.
  • the monitor display unit 146 described later has a touch panel, the touch panel and the like are also included.
  • the user can input information on the structure or the like via the screens of these devices and the monitor display unit 146, and the information acquisition unit 140 acquires the input structure information or the like.
  • the display control unit 145 includes a monitor display unit 146, and displays the acquired captured image, the damage cause of the extracted similar damage, and the information of the target structure to be inspected. It also controls the entire display screen, such as control of information displayed on the monitor display unit 146.
  • the monitor display unit 146 is a display device such as a liquid crystal display.
  • the output unit 150 outputs the damage cause presented by the damage cause presentation unit 135 as characters or table data. In addition, the acquired captured image is output. Note that these pieces of information may be output as drawing data.
  • FIG. 5 is a flowchart showing the procedure of the damage cause estimation method.
  • the image acquisition step is a step of acquiring a captured image of the target structure to be inspected (step S12).
  • the captured image is captured by the digital camera 200.
  • the damage cause estimation system 100 acquires a captured image via the digital camera 200 (imaging optical system 210, wireless communication unit 220, antenna 222), antenna 117, and image acquisition unit 115.
  • the captured images are a plurality of captured images (image groups)
  • panorama composition processing is performed to combine the plurality of captured images into one image.
  • the synthesis information is calculated, for example, the corresponding points between the captured images and the projective transformation matrix calculated based on the corresponding points are calculated, and the images are synthesized based on the corresponding points.
  • the actual size information acquisition step acquires the actual size of a characteristic portion of the target structure in the captured image acquired in the image acquisition step, or the actual length of the target structure (step S14).
  • the damage detection step is a step of detecting damage from the captured image from the image acquired in the image acquisition step (step S16). In addition, the degree of damage is calculated based on the information acquired in the actual size information acquisition process.
  • the similar damage extraction step uses the database 110 to determine the degree of similarity between the damage detected in the damage detection step and the damage of the structure provided in the database 110, and determines one or more similar damages with high similarity. Is extracted (step S18).
  • the extraction of similar damage can also be performed by periodically inspecting the repaired structure, recording this inspection history in the database 110, and determining the degree of similarity from changes over time based on this inspection record.
  • the damage cause presentation step presents the damage cause of the similar damage extracted in the similar damage extraction step.
  • Step S20 Presentation of the cause of damage, presenting the cause of damage corresponding to the order of high similarity of similar damage, or, in the extracted similar damage, presenting the proportion of each damage cause together with the cause of damage, etc. It can be presented so that the cause of damage can be easily determined.
  • FIG. 6 is a block diagram showing a schematic configuration of the damage cause estimation server 300 according to the embodiment of the present invention.
  • the same components as those in the damage cause estimation system 100 shown in FIG. 2 are designated by the same reference numerals, and description thereof will be omitted below.
  • the damage cause estimation server 300 communicates with the database 110, the image acquisition unit 115, the actual size information acquisition unit 120, the damage detection unit 125, the similar damage extraction unit 130, the damage cause presentation unit 135, and the communication. And a portion 305. It is also possible to provide an information acquisition unit 140 that acquires information about the structure to be inspected and other information such as the structure information of the structure held in the database 110.
  • the damage cause estimation server 300 has a communication unit 305 and is connected to the user terminal 400 via a network.
  • the communication unit 305 includes a receiving unit 306 and a transmitting unit 307.
  • the receiving unit 306 receives a captured image of the target structure to be inspected from the user terminal 400.
  • the received captured image is transmitted to the image acquisition unit 115, processed in the same manner as the damage cause estimation system 100 in FIG. 2, and the damage cause presenting unit 135 presents the cause of damage to the target structure to be inspected.
  • the receiving unit 306 can also receive the structure information or the like input to the user terminal 400, transmit it to the information acquiring unit 140, and use it for the similarity determination in the similar damage extracting unit 130.
  • the damage cause presented by the damage cause presentation unit 135 is transmitted to the communication unit 305, and the transmission unit 307 transmits the presented damage cause to the user terminal 400.
  • the user can improve the accuracy of determining the cause of damage by checking the user terminal 400.
  • similar similar damages are extracted from the database 110, and the extracted similar damages are damaged.
  • the user can determine the cause of damage with high accuracy.
  • the database 110 the image acquisition unit 115, the panorama synthesis unit 116, the actual size information acquisition unit 120, the damage detection unit 125, the similar damage extraction unit 130, the damage cause presentation unit 135, the information acquisition unit 140, and the display control.
  • the hardware structure of the processing unit (processing unit) that executes various processes is as follows. ).
  • the circuit configuration of various processors can be changed after manufacturing such as CPU (Central Processing Unit) and FPGA (Field Programmable Gate Array), which are general-purpose processors that execute software (programs) and function as various processing units.
  • a programmable logic device (PLD) which is a simple processor, and a dedicated electric circuit, which is a processor having a circuit configuration specifically designed to execute a specific process such as an ASIC (Application Specific Integrated Circuit). Be done.
  • One processing unit may be configured by one of these various processors, or may be configured by two or more processors of the same type or different types (for example, a plurality of FPGAs or a combination of CPU and FPGA). May be. Further, the plurality of processing units may be configured by one processor. As an example of configuring a plurality of processing units by one processor, firstly, as represented by a computer such as a client or a server, one processor is configured by a combination of one or more CPUs and software. There is a form in which the processor functions as a plurality of processing units.
  • SoC system on chip
  • a processor that realizes the function of the entire system including a plurality of processing units by one IC (Integrated Circuit) chip is used.
  • IC Integrated Circuit
  • the various processing units are configured by using one or more of the above various processors as a hardware structure.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Quality & Reliability (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Multimedia (AREA)
  • Software Systems (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Geometry (AREA)
  • Library & Information Science (AREA)
  • General Business, Economics & Management (AREA)
  • Chemical & Material Sciences (AREA)
  • Strategic Management (AREA)
  • Tourism & Hospitality (AREA)
  • Marketing (AREA)
  • Architecture (AREA)
  • Civil Engineering (AREA)
  • Structural Engineering (AREA)
  • Signal Processing (AREA)
  • Primary Health Care (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Human Resources & Organizations (AREA)

Abstract

損傷原因を高い確率で推定することができる構造物の損傷原因推定システム、損傷原因推定方法、及び、損傷原因推定サーバを提供する。構造物の撮影画像及び損傷原因のデータを有するデータベース(110)と、点検対象の対象構造物の撮影画像を取得する画像取得部(115)と、撮影画像から損傷を検出する損傷検出部(125)と、データベース(110)を用いて損傷に類似する類似損傷を抽出する類似損傷抽出部(130)と、類似損傷の損傷原因を提示する損傷原因提示部(135)と、を備える構造物の損傷原因推定システム(100)である。また、構造物の損傷原因推定システム(100)を用いた損傷原因推定方法、及び、損傷原因推定サーバである。

Description

構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ

 本発明は、構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバに係り、特に、過去に点検した構造物の損傷原因の結果を含むデータベースを用いて損傷原因を推定する損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバに関する。

 橋梁等の社会インフラ構造物は、定期的に点検を行う必要がある。定期点検においては、目視点検の結果から、損傷の原因を推定及び特定し、対策区分の判定(補修の必要性の判断)等の診断をしている。

 損傷原因の推定及び特定には、高度な技量及び経験が必要であり、検査員(診断員)により結果がばらつくなど、損傷原因を推定することが困難な場合があった。また熟練した検査員の人手不足も適切な損傷原因の推定が行えないことの要因となっていた。

 道路等の構造物を含むインフラストラクチャ―の変状を評価するシステムとして、例えば、下記の特許文献1には、変状情報に対する共起確率である共起性情報と、処理対象となる変状情報とに基づいて、処理対象となる変状情報に類似度の高い変状情報の推薦順位のリストを生成するインフラストラクチャ―の変状の評価を支援するシステムが記載されている。

特開2015-95143号公報

 特許文献1に記載されている変状情報の中には、ひび割れ、遊離石灰等の損傷項目名称の他に、構造種別名称、又は、他の情報として、「交通量」、「構造物の情報」、「建設年」等も含んで良いことが記載されている。しかしながら、例えば、交通量や、構造物の情報は、損傷原因を特定するための一つの条件にすぎず、交通量が多いから疲労による劣化であると判定することができず、純粋に損傷原因のみを求めるシステムがもとめられていた。

 本発明はこのような事情に鑑みてなされ、過去の点検時の損傷原因を特定したデータベースを用いて、今回の点検対象の構造物の損傷状況と類似の損傷例を抽出し、列挙することにより、損傷原因を高い確率で推定することができる構造物の損傷原因推定システム、損傷原因推定方法、及び、損傷原因推定サーバを提供することを目的とする。

 本発明の目的を達成するために、本発明に係る構造物の損傷原因推定システムは、構造物の補修前の損傷の撮影画像、及び、構造物の損傷原因のデータを有するデータベースと、点検を行う対象構造物の撮影画像を取得する画像取得部と、撮影画像中の対象構造物における特徴的な部分の実寸サイズ、又は、対象構造物の実際の長さを取得する実寸情報取得部と、画像取得部で取得した撮影画像から損傷を検出し、かつ、実寸情報取得部で取得した情報に基づき、損傷の程度を算出する損傷検出部と、損傷検出部で検出した損傷の、データベース内に設けられた構造物の損傷との類似度を判定することにより、類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出部と、類似損傷抽出部で抽出した類似損傷の損傷原因を提示する損傷原因提示部と、を備える。

 本発明の目的を達成するために、本発明に係る構造物の損傷原因推定方法は、画像取得部が、点検を行う対象構造物の撮影画像を取得する画像取得工程と、実寸情報取得部が、撮影画像中の対象構造物における特徴的な部分の実寸サイズ、又は、対象構造物の実際の長さを取得する実寸情報取得工程と、損傷検出部が、画像取得工程で取得した撮影画像から損傷を検出し、かつ、実寸情報取得工程で取得した情報に基づき、損傷の程度を算出する損傷検出工程と、構造物の補修前の撮影画像、及び、構造物の損傷原因のデータを有するデータベースを用いて、類似損傷抽出部が、損傷検出工程で検出した損傷の、データベース内に設けられた構造物の損傷との類似度を判定することにより、類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出工程と、損傷原因提示部が、類似損傷抽出工程で抽出した類似損傷の損傷原因を提示する損傷原因提示工程と、を備える。

 本発明の目的を達成するために、本発明に係る構造物の損傷原因推定サーバは、ネットワークを介してユーザ端末に接続され、点検を行う対象構造物の損傷原因を推定する損傷原因推定サーバであって、構造物の補修前の損傷の撮影画像、及び、構造物の損傷原因のデータを有するデータベースと、点検を行う対象構造物の撮影画像を取得する画像取得部と、撮影画像中の対象構造物における特徴的な部分の実寸サイズ、又は、対象構造物の実際の長さを取得する実寸情報取得部と、画像取得部で取得した撮影画像から損傷を検出し、かつ、実寸情報取得部で取得した情報に基づき、損傷の程度を算出する損傷検出部と、損傷検出部で検出した損傷の、データベース内に設けられた構造物の損傷との類似度を判定することにより、類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出部と、類似損傷抽出部で抽出した類似損傷の損傷原因を提示する損傷原因提示部と、ネットワークを介してユーザ端末から撮影画像を受信する受信部と、ユーザ端末に損傷原因提示部で提示する損傷原因を送信する送信部と、を有する通信部と、を備える。

 本発明の構造物の損傷原因推定システムによれば、過去の点検時に特定した損傷原因を含むデータベースを用いて、点検を行う対象構造物の損傷状況と類似の損傷例を抽出することができる。データベースから点検対象の損傷と類似度の高い損傷を抽出し、損傷原因を列挙することにより、ユーザが損傷原因を特定する際に、結果を参考にできるので、損傷原因推定の精度を高めることができる。

橋梁を下側から見た外観図である。 構造物の損傷原因推定システムの構成を示すブロック図である。 損傷の類似度を判定する概念を示すグラフ図である。 損傷原因を提示する方法を説明する図である。 構造物の損傷原因推定方法のフローチャートである。 構造物の損傷原因推定サーバの構成を示すブロック図である。

 以下、添付図面に従って、本発明の一実施形態に係る構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバについて説明する。

 <橋梁の構造>

 図1は、構造物の一つである橋梁1を下から見た状態を示す斜視図である。図1に示す橋梁1は、主桁2と、横桁3と、対傾構4と、横構5と、床版6と、による立体的構造を有し、これらの部材がボルト、リベット、溶接等により連結されて構成されている。主桁2等の上部には、車輌等が走行するための床版6が打設されている。床版6は、鉄筋コンクリート製の床版が一般的である。主桁2は橋台又は橋脚の間に渡されて床版6上の車輌等の荷重を支える部材であり、また床版6の面(水平面)と直交する面(鉛直方向の面)を有する。横桁3は、荷重を複数の主桁2で支持するため、主桁2を連結する部材である。対傾構4及び横構5は、それぞれ風及び地震の横荷重に抵抗するため、主桁2を相互に連結する部材である。なお、本実施形態において、構造物は、橋梁に限らずトンネル、ビル等、及び、道路等でもよい。

 <構造物の損傷原因推定システム>

 図2は、本発明の一実施形態に係る損傷原因推定システム100、及び、デジタルカメラ200の概略構成を示すブロック図である。

 本実施形態に係る損傷原因推定システム100は、データベース110と、画像取得部115と、実寸情報取得部120と、損傷検出部125と、類似損傷抽出部130と、損傷原因提示部135と、を有する。また、点検を行う対象構造物の情報であって、データベース110内に保有する構造物に対応する損傷原因及び構造情報等の他の情報を取得する情報取得部140、推定される損傷原因を表示する表示制御部145、及び、推定される損傷原因を出力する出力部150を備えることもできる。

 損傷原因推定システム100は、点検を行う対象となる対象構造物を撮影して取得した画像から、損傷を検出し、その損傷の損傷原因を推定するシステムであり、デジタルカメラ、スマートフォン、タブレット端末、パーソナルコンピュータ等に適用することができる。画像取得部115で取得する画像は、デジタルカメラ200で取得することができる。デジタルカメラ200は、損傷原因推定システム100と別々の筺体に組み込んでもよいし、一体化してもよい。また、デジタルカメラ200を損傷原因推定システム100の一部として組み込み、本実施形態の構造物の損傷原因推定システムを構成してもよい。

 <デジタルカメラの構成>

 デジタルカメラ200は、図示せぬ撮影レンズ及び撮像素子を備える撮像光学系210により画像を取得する。撮像素子の例としては、CCD(Charge Coupled Device)型の撮像素子及びCMOS(Complementary Metal-Oxide Semiconductor)型の撮像素子を挙げることができる。撮像素子の受光面上にはR(赤),G(緑),又はB(青)のカラーフィルタが設けられており、各色の信号に基づいて被写体のカラー画像を取得することができる。デジタルカメラ200は、無線通信部220及びアンテナ222を介して損傷原因推定システム100との無線通信を行い、撮影された画像が画像取得部115に入力されて後述する処理が行われる。

 デジタルカメラ200での撮影において、1回の撮影で対象となる構造物、又は、部位の全体画像が取得できない場合、対象となる構造物又は部位を分割撮影した画像群を取得する。画像取得部115は、パノラマ合成部116を備え、パノラマ合成部116で画像群をパノラマ合成処理した画像を用いることもできる。デジタルカメラ200は、例えば、5000×4000画素程度の画素数を有する汎用のコンパクトデジタルカメラでよい。

 <構造物の損傷原因推定システムの各構成>

 損傷原因推定システム100は、主として、データベース110、画像取得部115、実寸情報取得部120、損傷検出部125、類似損傷抽出部130、及び、損傷原因提示部135から構成されている。これらは、互いに接続されて必要な情報が送受信される。また、損傷原因推定システム100は、アンテナ117を介してデジタルカメラ200との間で無線通信を行い、デジタルカメラ200で撮影された撮影画像を取得する。

 ≪データベース≫

 データベース110は、構造物の補修前の撮影画像、及び、構造物の損傷原因が格納される記録手段である。

 損傷原因としては、コンクリート部材の損傷原因の例として、(1)疲労(繰り返し荷重)、塩害、中性化、アルカリ骨材反応、凍害、及び、化学的浸食等の劣化、(2)施工時の水和熱、及び、乾燥収縮等の施工時要因、(3)過大な外力の作用、及び、不適切な設計等の構造的要因、が挙げられる。また、鋼部材の損傷原因の例として、(1)疲労(繰り返し荷重)、及び、塩害等の劣化、(2)過大な外力の作用、及び、不適切な設計等の構造的要因、が挙げられる。

 また、構造物の損傷情報を含むことができる。構造物の損傷情報としては、損傷の種類、損傷の位置、損傷の程度(長さ、幅、面積、密度及び深さなど、また、これらの平均値又は最大値など)を含むことができる。

 その他の情報として、構造情報、環境情報、及び、履歴情報を含んでもよい。構造情報としては、(1)構造の種類、例えば、橋梁の場合、桁橋、ラーメン橋、トラス橋、アーチ橋、斜張橋、吊橋等、(2)部材の種類、例えば、橋梁の場合、床版、橋脚、橋台、桁など、(3)材料、例えば、鋼、鉄筋コンクリート、PC(プレストレストコンクリート(Prestressed Concrete))等、が挙げられる。

 また、環境情報としては、1日あたり、1ヶ月あたり、1年あたり、累積、等の交通量、海からの距離、平均気温、平均湿度、降雨量、降雪量等の気候、等が挙げられる。

 また、履歴情報としては、施工時の気温等の施工時条件、経年数、補修履歴、地震、台風、洪水などの災害履歴、たわみ、振動の振幅、振動の周期等のモニタリング情報、等が挙げられる。

 さらに、データベース110内には、構造物の損傷の過去の複数時点の撮影画像及び損傷情報の少なくともいずれか一方を記憶することもできる。過去の撮影画像及び損傷情報を記憶することにより、類似度を判定する際に、対象構造物の経時変化についても類似度の判定に用いることができる。

 ≪画像取得部≫

 画像取得部115は、点検を行う対象構造物の撮影画像を取得する。撮影画像は、対象構造物の構造物単位、又は、部材単位で画像を取得する。

 画像取得部115は、デジタルカメラ200(又は記録媒体、ネットワーク等)から橋梁1の撮影画像を取得する。撮影画像は、1回の撮影で全体を取得した画像でもよく、撮影画像を取得する領域を所定の解像度で1回の撮影でカバーできない時は、画像群として対象構造物を分割撮影した複数の画像でもよい。複数の画像を取得した場合は、パノラマ合成部116でパノラマ合成処理を行う。パノラマ合成処理は、画像同士の対応点を検出し、画像同士の対応点に基づいて撮影画像を合成する。

 また、画像取得部115は、定期的に対象構造物の撮影画像を取得し、対象構造物の経時画像を取得してもよい。後述する類似損傷抽出部130にて、類似損傷を検出する際に、対象構造物の経時変化も類似度の判定に用いることができる。なお、経時画像は、少なくとも前回の点検時の画像と今回の点検時の画像を取得できていればよい。

 ≪実寸情報取得部≫

 実寸情報取得部120は、画像取得部115で取得した撮影画像中の対象構造物における特徴的部分の実寸サイズ、又は、対象構造物の実際の長さを取得する。対象構造物の実際の長さを求める方法としては、撮影画像の単位画素当りの対象構造物の実際の長さを示す解像度を取得することにより、求めることができる。他の方法としては、構造物の長さがわかる物質と一緒に撮影する、又は、スケールを投影して撮影する等により行うことができる。

 ≪損傷検出部≫

 損傷検出部125は、画像取得部115で取得した撮影画像から損傷を検出する。また、実寸情報取得部120で取得した情報に基づき損傷の程度を算出する。

 検出する損傷としては、構造物がコンクリート部材の場合は、ひび割れ、漏水及び遊離石灰、剥離及び鉄筋露出、及び、うき等の損傷を検出する。構造物が鋼部材の場合は、亀裂、腐食、及び、防食機能の劣化等の損傷を検出する。これらの損傷のいずれか一つ以上を検出する。

 検出は、機械学習による検出器、及び、検出アルゴリズムによって検出することができる。

 例えば、ひび割れの検出を行うために計測する項目としては、位置、大きさ、方向、範囲、形状等があるが、構造物の種類、特徴等の条件に応じて設定することができる。ひび割れの検出は、種々の手法により行うことができるが、例えば、特許4006007号公報に記載されたひび割れ検出方法を用いることができる。この方法は、ウェーブレット画像を作成する工程と、ウェーブレット画像に基づいてひび割れ領域を判定する工程と、を有するひび割れ検出方法である。ウェーブレット画像を作成する工程では、対比される2つの濃度に対応したウェーブレット係数を算定し、かつ、その2つの濃度をそれぞれ変化させた場合のそれぞれのウェーブレット係数を算定してウェーブレット係数テーブルを作成し、ひび割れ検出対象であるコンクリート表面を撮影した入力画像をウェーブレット変換する。ひび割れ領域を判定する工程では、ウェーブレット係数テーブル内において、局所領域内の近傍画素の平均濃度と注目画素の濃度に対応するウェーブレット係数を閾値として、注目画素のウェーブレット係数と閾値とを比較することによりひび割れ領域とひび割れでない領域とを判定する。

 ≪類似損傷抽出部≫

 類似損傷抽出部130は、損傷の種類、損傷の位置、損傷の程度に基づいて、類似度を判定し、データベース110から類似度の高い1つ以上の類似損傷を抽出する。

 また、損傷情報に加えて、損傷の位置及び損傷の程度の経時変化に基づいて類似度を判定してもよい。さらに、データベース110内の構造情報、環境情報、履歴情報、災害情報、検査情報のいずれか一つ以上に基づいて類似度を判定し、抽出することもできる。

 類似度の判定は、上記の情報を特徴ベクトルとする特徴空間で、点検対象の構造物とデータベースに保存されている他の構造物の損傷との間の距離を算出し、この距離がある閾値以下となる損傷を類似損傷として抽出する。

 図3は、類似度を判定する概念を示すグラフ図である。特徴ベクトルによる特徴空間は、類似度を判定する際に用いられる、損傷の種類、損傷の位置、損傷の程度、損傷の位置及び損傷の程度の経時変化、構造情報、環境情報、履歴情報、災害情報、及び、検査情報から選択されるパラメータの多次元の空間とすることができる。なお。図3については、説明を容易にするため、2次元の空間で図示している。

 図3においては、横軸を特徴ベクトル(1)として、ひび割れの最大幅をプロットし、縦軸を特徴ベクトル(2)として、供用開始後の年数をプロットしている。そして、点検を行う対象構造物を中心とした所定の距離を閾値とし、この閾値以下の損傷を類似損傷として抽出する。図3においては、対象構造物を中心に破線で示す円が閾値以下であることを示す。

 なお、類似損傷を抽出する際は、パラメータに重みづけされていない距離(ユークリッド距離)としてもよく、重みづけされている距離(マハラノビス距離)としてもよい。どのパラメータにどのような重みづけをするかは、主成分分析等の統計的手法で決定されてもよい。

 ≪損傷原因提示部≫

 損傷原因提示部135は、類似損傷抽出部130で抽出した類似損傷の損傷原因を提示する。損傷原因を提示する方法としては、例えば、次のように提示することができる。図4は、損傷原因を提示する方法を説明する図である。

 (1)類似度の高い順に類似損傷の情報を列挙して提示する。

 類似損傷抽出部130で抽出した類似損傷の中で、類似度が高い、例えば、類似度が上位100位までの類似損傷の情報を類似度が高い順に列挙する(例1)。

 (2)類似損傷の損傷原因の割合を提示する。

 類似損傷抽出部130で抽出した類似損傷の中で、類似度が高い、例えば、類似度が上位100位までの類似損傷に対して、損傷原因の頻度(割合)を算出し、損傷原因とともに提示する。例えば、図4の例2においては、10件の類似損傷(A~J)に対して、疲労が7件、塩害が2件、アルカリ骨材反応1件であるため、疲労(70%)、塩害(20%)、アルカリ骨材反応(10%)と提示する。

 (3)抽出した類似損傷対し、データベース上の損傷原因を列挙する。

 類似損傷抽出部130で抽出した類似損傷に対し、順番を並べ替えることなく、損傷原因を列挙してもよい。

 なお、図4においては、記載を簡略化するために、損傷事例として損傷事例A~Jの10件を示して説明しているが、実際は上述したような100位までの100件を抽出し、損傷原因を提示することが好ましい。

 また、提示する情報は損傷原因のみでなく、対象構造物の撮影画像、損傷情報(損傷の種類、損傷の位置、損傷の程度(長さ、幅及び面積等))等の情報も提示することができる。

 本発明の一実施形態において、提示する損傷原因は、補修することにより、直せる可能性がある原因を提示する。例えば、コンクリート部材の損傷原因の例では、劣化として、疲労、塩害、中性化、アルカリ骨材反応、凍害、化学的浸食等が挙げられる。施工時要因として、施工時の水和熱、乾燥収縮等が挙げられる。構造的要因として、課題な外力の作用、不適切な設計等が挙げられる。鋼部材の損傷原因の例では、劣化として、疲労、塩害等が挙げられる。構造的要因として、課題な外力の作用、不適切な設計が挙げられる。

 ≪情報取得部≫

 情報取得部140は、点検を行う対象構造物の構造情報、環境情報、及び、履歴情報(以下、「構造物情報等」ともいう)を取得する。構造情報、環境情報、及び、履歴情報としては、上述したデータベース110内に含まれる情報と同様の情報を取得する。

 情報取得部140での情報の取得は、不図示の操作部により入力することができる。操作部は、入力デバイスとしてキーボード及びマウスを含む。また、後述するモニタ表示部146がタッチパネルを有する場合には、そのタッチパネル等も含む。ユーザはこれらのデバイス及びモニタ表示部146の画面を介して、構造物等の情報を入力することができ、情報取得部140は、入力された構造物情報等を取得する。

 ≪表示制御部≫

 表示制御部145は、モニタ表示部146を備えており、取得した撮影画像、抽出した類似損傷の損傷原因、及び、点検を行う対象構造物の情報を表示させる。また、モニタ表示部146に表示する情報の制御等、表示画面全般を制御する。モニタ表示部146は、液晶ディスプレイ等のディスプレイ装置である。

 ≪出力部≫

 出力部150は、損傷原因提示部135で提示する損傷原因を文字、又は、表のデータとして出力する。また、取得した撮影画像を、出力する。なお、これらの情報は、図面のデータとして出力してもよい。

 <損傷原因推定方法の手順>

 損傷原因推定システムによる損傷原因推定方法について説明する。図5は、損傷原因推定方法の手順を示すフローチャートである。

 (画像取得工程)

 画像取得工程は、点検を行う対象構造物の撮影画像を取得する工程である(ステップS12)。撮影画像は、デジタルカメラ200により撮影される。損傷原因推定システム100は、デジタルカメラ200(撮像光学系210、無線通信部220、アンテナ222)、アンテナ117及び画像取得部115を介して、撮影画像を取得する。

 撮影された画像が、複数の撮影画像(画像群)である場合、複数の撮影画像を1つの画像に合成するパノラマ合成処理を行う。撮影画像の合成は、合成情報の算出、例えば、撮影画像同士の対応点、及び、対応点に基づいて算出した射影変換行列等を算出し、対応点に基づいて画像を合成する。

 (実寸情報取得工程)

 実寸情報取得工程は、画像取得工程で取得した撮影画像中の対象構造物における特徴的な部分の実寸サイズ、又は、対象構造物の実際の長さを取得する(ステップS14)。

 (損傷検出工程)

 損傷検出工程は、画像取得工程で取得した画像から撮影画像から損傷を検出する工程である(ステップS16)。また、実寸情報取得工程で取得した情報に基づいて、損傷の程度を算出する。

 (類似損傷抽出工程)

 類似損傷抽出工程は、損傷検出工程で検出した損傷を、データベース110を用いて、データベース110内に設けられた構造物の損傷との類似度を判定し、類似度の高い1つ以上の類似損傷を抽出する(ステップS18)。

 類似損傷の抽出は、補修後の構造物を定期的に点検し、この点検履歴をデータベース110内に記録し、この点検記録に基づいた経時変化により、類似度を判定することもできる。

 (損傷原因提示工程)

 損傷原因提示工程は、類似損傷抽出工程で抽出した類似損傷の損傷原因を提示する。(ステップS20)。損傷原因の提示は、類似損傷の類似度が高い順に対応する損傷原因を提示する、又は、抽出した類似損傷の中で、各損傷原因の占める割合を損傷原因とともに提示する、等の方法により、損傷原因を決定しやすいように提示させることができる。

 <構造物の損傷原因推定サーバ>

 図6は、本発明の一実施形態に係る損傷原因推定サーバ300の概略構成を示すブロック図である。なお、図2に示した損傷原因推定システム100と同じ構成要素には、同じ符号を付してあり、以下では説明を省略する。

 本実施形態に係る損傷原因推定サーバ300は、データベース110と、画像取得部115と、実寸情報取得部120と、損傷検出部125と、類似損傷抽出部130と、損傷原因提示部135と、通信部305と、を有する。また、点検を行う対象構造物の情報であって、データベース110内に保有する構造物の構造情報等の他の情報を取得する情報取得部140を備えることもできる。

 損傷原因推定サーバ300は、通信部305を有し、ネットワークを介してユーザ端末400に接続されている。通信部305は、受信部306及び送信部307を備える。受信部306は、ユーザ端末400から点検を行う対象構造物の撮影画像を受信する。受信した撮影画像は、画像取得部115に送信し、図2の損傷原因推定システム100と同様に処理され、損傷原因提示部135で、点検を行う対象構造物の損傷原因が提示される。受信部306は、ユーザ端末400に入力された構造物情報等を受信し、情報取得部140に送信し、類似損傷抽出部130での類似度の判定に用いることもできる。

 損傷原因提示部135で提示された損傷原因は、通信部305に送信され、送信部307は提示された損傷原因をユーザ端末400に送信する。ユーザは、ユーザ端末400を確認することにより、損傷原因決定の精度を高めることができる。

 以上説明したとおり、本実施形態の構造物の損傷原因推定システム、損傷原因推定方法、及び、損傷原因推定サーバによれば、データベース110内から類似する類似損傷を抽出し、抽出した類似損傷の損傷原因を提示することにより、ユーザは高い精度で損傷原因の決定を行うことができる。

 上述の各実施形態において、データベース110、画像取得部115、パノラマ合成部116、実寸情報取得部120、損傷検出部125、類似損傷抽出部130、損傷原因提示部135、情報取得部140、表示制御部145、出力部150、通信部305、受信部306、及び送信部307といった各種の処理を実行する処理部(processing unit)のハードウェア的な構造は、次に示すような各種のプロセッサ(processor)である。各種のプロセッサには、ソフトウェア(プログラム)を実行して各種の処理部として機能する汎用的なプロセッサであるCPU(Central Processing Unit)、FPGA(Field Programmable Gate Array)などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス(Programmable Logic Device:PLD)、ASIC(Application Specific Integrated Circuit)などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。

 1つの処理部は、これら各種のプロセッサのうちの1つで構成されていてもよいし、同種または異種の2つ以上のプロセッサ(例えば、複数のFPGA、あるいはCPUとFPGAの組み合わせ)で構成されてもよい。また、複数の処理部を1つのプロセッサで構成してもよい。複数の処理部を1つのプロセッサで構成する例としては、第1に、クライアントやサーバなどのコンピュータに代表されるように、1つ以上のCPUとソフトウェアの組合せで1つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第2に、システムオンチップ(System On Chip:SoC)などに代表されるように、複数の処理部を含むシステム全体の機能を1つのIC(Integrated Circuit)チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを1つ以上用いて構成される。

 さらに、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路(circuitry)である。

 上記記載から、以下の付記項1に記載の構造物の損傷原因推定システムを把握することができる。

 [付記項1]

 構造物の補修前の損傷の撮影画像、及び、前記構造物の損傷原因のデータを記憶するメモリと、

 プロセッサと、を備え、

 前記プロセッサは、

 点検を行う対象構造物の撮影画像を取得し、

 撮影画像中の前記対象構造物における特徴的な部分の実寸サイズ、又は、前記対象構造物の実際の長さを取得し、

 前記画像取得部で取得した前記撮影画像から損傷を検出し、かつ、前記実寸情報取得部で取得した情報に基づき、前記損傷の程度を算出し、

 前記検出した前記損傷の、前記メモリに記憶された前記構造物の損傷との類似度を判定することにより、前記類似度の高い1つ以上の類似損傷を抽出し、

 前記抽出した前記類似損傷の損傷原因を提示する構造物の損傷原因推定システム。

1 橋梁

2 主桁

3 横桁

4 対傾構

5 横構

6 床版

100 損傷原因推定システム

110 データベース

115 画像取得部

116 パノラマ合成部

117、222 アンテナ

120 実寸情報取得部

125 損傷検出部

130 類似損傷抽出部

135 損傷原因提示部

140 情報取得部

145 表示制御部

146 モニタ表示部

150 出力部

200 デジタルカメラ

210 撮像光学系

220 無線通信部

300 損傷原因推定サーバ

305 通信部

306 受信部

307 送信部

400 ユーザ端末

Claims (10)


  1.  構造物の補修前の損傷の撮影画像、及び、前記構造物の損傷原因のデータを有するデータベースと、

     点検を行う対象構造物の撮影画像を取得する画像取得部と、

     撮影画像中の前記対象構造物における特徴的な部分の実寸サイズ、又は、前記対象構造物の実際の長さを取得する実寸情報取得部と、

     前記画像取得部で取得した前記撮影画像から損傷を検出し、かつ、前記実寸情報取得部で取得した情報に基づき、前記損傷の程度を算出する損傷検出部と、

     前記損傷検出部で検出した前記損傷の、前記データベース内に設けられた前記構造物の損傷との類似度を判定することにより、前記類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出部と、

     前記類似損傷抽出部で抽出した前記類似損傷の損傷原因を提示する損傷原因提示部と、を備える構造物の損傷原因推定システム。

  2.  前記データベースは、前記構造物の、損傷の種類、損傷の位置、及び、損傷の程度を含む損傷情報を有する請求項1に記載の構造物の損傷原因推定システム。

  3.  前記対象構造物の構造情報、環境情報、及び、履歴情報の少なくとも1つ以上の情報を取得する情報取得部を備え、

     前記データベースは、前記構造物の構造情報、環境情報、及び、履歴情報の少なくとも1つ以上の情報を有し、

     前記類似損傷抽出部は、前記損傷情報に加えて、前記情報取得部で取得した前記構造情報、前記環境情報、及び、前記履歴情報の少なくとも1つ以上の情報に基づいて前記類似度を判定する請求項2に記載の構造物の損傷原因推定システム。

  4.  前記損傷原因提示部は、前記類似度の高い順に、前記類似損傷の損傷原因及び前記類似損傷の情報を提示する請求項1から3のいずれか1項に記載の構造物の損傷原因推定システム。

  5.  前記損傷原因提示部は、前記類似損傷抽出部で抽出された前記類似損傷の前記損傷原因の頻度を算出し、前記損傷原因及び前記頻度を提示する請求項1から3のいずれか1項に記載の構造物の損傷原因推定システム。

  6.  前記画像取得部は、前記対象構造物を分割撮影した画像群を取得し、

     前記画像群をパノラマ合成処理するパノラマ合成部を有する請求項1から5のいずれか1項に記載の構造物の損傷原因推定システム。

  7.  前記データベースは、前記構造物の前記損傷の過去の複数時点の撮影画像及び損傷情報の少なくともいずれか一方を有し、

     前記画像取得部は、前記対象構造物の経時画像を取得し、

     前記類似損傷抽出部は、前記構造物の前記損傷の過去の複数時点の前記撮影画像及び前記損傷情報から求めた前記損傷の位置又は前記損傷の程度の経時変化を、前記類似度の判定に用いる請求項1から6のいずれか1項に記載の構造物の損傷原因推定システム。

  8.  前記類似損傷抽出部は、それぞれの情報に重みづけされている請求項1から7のいずれか1項に記載の構造物の損傷原因推定システム。

  9.  画像取得部が、点検を行う対象構造物の撮影画像を取得する画像取得工程と、

     実寸情報取得部が、撮影画像中の前記対象構造物における特徴的な部分の実寸サイズ、又は、前記対象構造物の実際の長さを取得する実寸情報取得工程と、

     損傷検出部が、前記画像取得工程で取得した前記撮影画像から損傷を検出し、かつ、前記実寸情報取得工程で取得した情報に基づき、前記損傷の程度を算出する損傷検出工程と、

     構造物の補修前の撮影画像、及び、前記構造物の損傷原因のデータを有するデータベースを用いて、類似損傷抽出部が、前記損傷検出工程で検出した前記損傷の、前記データベース内に設けられた前記構造物の損傷との類似度を判定することにより、前記類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出工程と、

     損傷原因提示部が、前記類似損傷抽出工程で抽出した前記類似損傷の損傷原因を提示する損傷原因提示工程と、を備える構造物の損傷原因推定方法。

  10.  ネットワークを介してユーザ端末に接続され、点検を行う対象構造物の損傷原因を推定する損傷原因推定サーバであって、

     構造物の補修前の損傷の撮影画像、及び、前記構造物の損傷原因のデータを有するデータベースと、

     点検を行う対象構造物の撮影画像を取得する画像取得部と、

     撮影画像中の前記対象構造物における特徴的な部分の実寸サイズ、又は、前記対象構造物の実際の長さを取得する実寸情報取得部と、

     前記画像取得部で取得した前記撮影画像から損傷を検出し、かつ、前記実寸情報取得部で取得した情報に基づき、前記損傷の程度を算出する損傷検出部と、

     前記損傷検出部で検出した前記損傷の、前記データベース内に設けられた前記構造物の損傷との類似度を判定することにより、前記類似度の高い1つ以上の類似損傷を抽出する類似損傷抽出部と、

     前記類似損傷抽出部で抽出した前記類似損傷の損傷原因を提示する損傷原因提示部と、

     前記ネットワークを介して前記ユーザ端末から前記撮影画像を受信する受信部と、前記ユーザ端末に前記損傷原因提示部で提示する前記損傷原因を送信する送信部と、を有する通信部と、を備える構造物の損傷原因推定サーバ。
PCT/JP2019/044449 2018-11-29 2019-11-13 構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ WO2020110717A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201980075325.7A CN113039538A (zh) 2018-11-29 2019-11-13 构造物的损伤原因推定系统、损伤原因推定方法及损伤原因推定服务器
JP2020558314A JP7351849B2 (ja) 2018-11-29 2019-11-13 構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ
EP19891104.2A EP3889801A4 (en) 2018-11-29 2019-11-13 SYSTEM FOR EVALUATION OF CAUSE OF DAMAGE TO A STRUCTURE, METHOD OF EVALUATION OF CAUSE OF DAMAGE AND SERVER FOR EVALUATION OF CAUSE OF DAMAGE
US17/319,187 US20210272262A1 (en) 2018-11-29 2021-05-13 Structure damage cause estimation system, structure damage cause estimation method, and structure damage cause estimation server

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-223786 2018-11-29
JP2018223786 2018-11-29

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/319,187 Continuation US20210272262A1 (en) 2018-11-29 2021-05-13 Structure damage cause estimation system, structure damage cause estimation method, and structure damage cause estimation server

Publications (1)

Publication Number Publication Date
WO2020110717A1 true WO2020110717A1 (ja) 2020-06-04

Family

ID=70852387

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2019/044449 WO2020110717A1 (ja) 2018-11-29 2019-11-13 構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ

Country Status (5)

Country Link
US (1) US20210272262A1 (ja)
EP (1) EP3889801A4 (ja)
JP (1) JP7351849B2 (ja)
CN (1) CN113039538A (ja)
WO (1) WO2020110717A1 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022065276A1 (ja) * 2020-09-25 2022-03-31 富士フイルム株式会社 構造物の補修支援装置、方法及びプログラム
WO2022107485A1 (ja) * 2020-11-19 2022-05-27 富士フイルム株式会社 構造物の点検支援装置、構造物の点検支援方法及びプログラム
JP7495081B2 (ja) 2021-02-24 2024-06-04 五洋建設株式会社 損傷度予測装置、学習済モデル、学習済モデルの生成方法、及び損傷度予測方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11657373B2 (en) * 2020-08-21 2023-05-23 Accenture Global Solutions Limited System and method for identifying structural asset features and damage
CN112883608B (zh) * 2021-01-27 2023-08-08 宁波工程学院 一种桁架桥的健康指数评估方法与系统

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0843316A (ja) * 1994-07-26 1996-02-16 Boshoku Eng:Kk 塗膜劣化自動診断方法及び装置
JP4006007B2 (ja) 2004-11-10 2007-11-14 大成建設株式会社 ひび割れ検出方法
JP2012225889A (ja) * 2011-04-22 2012-11-15 Taiheiyo Consultant:Kk コンクリート構造物の劣化診断用画像表示システム
JP2015095143A (ja) 2013-11-13 2015-05-18 国立大学法人北海道大学 変状評価支援システム
WO2017056804A1 (ja) * 2015-09-29 2017-04-06 富士フイルム株式会社 点検結果検索装置及び方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000018921A (ja) * 1998-07-06 2000-01-21 Hitachi Ltd 寸法測定方法及び装置
WO2001031467A1 (fr) * 1999-10-29 2001-05-03 Freyssinet International Stup Procede et dispositif d'assistance au controle d'un ouvrage de construction
US7257247B2 (en) * 2002-02-21 2007-08-14 International Business Machines Corporation Mask defect analysis system
JP4528492B2 (ja) 2003-03-20 2010-08-18 財団法人鉄道総合技術研究所 事故分析支援システム
US20050226521A1 (en) * 2004-03-31 2005-10-13 Chipworks Inc. Method and apparatus for producing a 3-D model of a semiconductor chip from mosaic images
US7570796B2 (en) * 2005-11-18 2009-08-04 Kla-Tencor Technologies Corp. Methods and systems for utilizing design data in combination with inspection data
US20070280526A1 (en) * 2006-05-30 2007-12-06 Irfan Malik Determining Information about Defects or Binning Defects Detected on a Wafer after an Immersion Lithography Process is Performed on the Wafer
TWI532116B (zh) * 2010-04-11 2016-05-01 肯提克有限公司 晶圓對齊方法及系統
JP2014085730A (ja) * 2012-10-19 2014-05-12 Mitsubishi Heavy Ind Ltd 機器の損傷解析支援システム及び損傷解析支援方法
JP6368207B2 (ja) * 2014-09-25 2018-08-01 前田建設工業株式会社 コンクリート構造物の点検支援装置、点検支援方法、及びプログラム
JP2016133294A (ja) 2015-01-22 2016-07-25 ジョンソンコントロールズ ヒタチ エア コンディショニング テクノロジー(ホンコン)リミテッド 空調機の保守・メンテナンスシステム及びその方法
EP3348986A4 (en) * 2015-09-10 2018-10-17 FUJIFILM Corporation Damage information extraction device, damage information extraction method and damage information extraction program
WO2017047315A1 (ja) * 2015-09-16 2017-03-23 富士フイルム株式会社 健全度判定装置、健全度判定方法および健全度判定プログラム
JP6543729B2 (ja) * 2015-12-25 2019-07-10 富士フイルム株式会社 類似損傷検索装置及び類似損傷検索方法
US11047806B2 (en) * 2016-11-30 2021-06-29 Kla-Tencor Corporation Defect discovery and recipe optimization for inspection of three-dimensional semiconductor structures
US10726558B2 (en) * 2017-02-27 2020-07-28 Dolphin AI, Inc. Machine learning-based image recognition of weather damage

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0843316A (ja) * 1994-07-26 1996-02-16 Boshoku Eng:Kk 塗膜劣化自動診断方法及び装置
JP4006007B2 (ja) 2004-11-10 2007-11-14 大成建設株式会社 ひび割れ検出方法
JP2012225889A (ja) * 2011-04-22 2012-11-15 Taiheiyo Consultant:Kk コンクリート構造物の劣化診断用画像表示システム
JP2015095143A (ja) 2013-11-13 2015-05-18 国立大学法人北海道大学 変状評価支援システム
WO2017056804A1 (ja) * 2015-09-29 2017-04-06 富士フイルム株式会社 点検結果検索装置及び方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022065276A1 (ja) * 2020-09-25 2022-03-31 富士フイルム株式会社 構造物の補修支援装置、方法及びプログラム
WO2022107485A1 (ja) * 2020-11-19 2022-05-27 富士フイルム株式会社 構造物の点検支援装置、構造物の点検支援方法及びプログラム
JP7495081B2 (ja) 2021-02-24 2024-06-04 五洋建設株式会社 損傷度予測装置、学習済モデル、学習済モデルの生成方法、及び損傷度予測方法

Also Published As

Publication number Publication date
JPWO2020110717A1 (ja) 2021-11-04
JP7351849B2 (ja) 2023-09-27
EP3889801A1 (en) 2021-10-06
US20210272262A1 (en) 2021-09-02
CN113039538A (zh) 2021-06-25
EP3889801A4 (en) 2022-01-26

Similar Documents

Publication Publication Date Title
WO2020110717A1 (ja) 構造物の損傷原因推定システム、損傷原因推定方法、及び損傷原因推定サーバ
WO2020110587A1 (ja) 構造物の補修工法選定システム、補修工法選定方法、及び補修工法選定サーバ
Jahanshahi et al. A new methodology for non-contact accurate crack width measurement through photogrammetry for automated structural safety evaluation
Prasanna et al. Computer-vision based crack detection and analysis
JP4675949B2 (ja) 映像処理技法を利用した構造物及び製品のクラック幅測定方法および装置
JP2023139099A (ja) 学習用データ収集装置、学習用データ収集方法、及びプログラム
WO2010046967A1 (ja) 赤外線熱画像解析装置
US11714024B2 (en) Vision-based fatigue crack detection using feature tracking
WO2019163329A1 (ja) 画像処理装置及び画像処理方法
Valença et al. Damage assessment on concrete surfaces using multi-spectral image analysis
Jeong et al. Literature review and technical survey on bridge inspection using unmanned aerial vehicles
JP6937391B2 (ja) 補修長の決定方法及び補修長の決定装置
CN113167742A (zh) 混凝土构造物的点检辅助装置、点检辅助方法及点检辅助程序
US11315218B2 (en) Composition processing system, composition processing apparatus, and composition processing method
Kong et al. Investigation of the condominium building collapse in Surfside, Florida: A video feature tracking approach
Hosseinzadeh et al. Pixel-based operating modes from surveillance videos for structural vibration monitoring: A preliminary experimental study
Kromanis et al. Condition assessment of structures using smartphones: a position independent multi-epoch imaging approach
Zhang et al. Multi-resource fusion of nondestructive evaluation data for bridge deck assessment using discrete wavelet transform and Dempster-Shafer theory
CN110360979B (zh) 一种混凝土裂缝监测方法及系统
Salem et al. Optical image analysis based concrete damage detection
Kim et al. A feasibility study on crack identification utilizing images taken from camera mounted on a mobile robot
Kapadia et al. Implementation of Computer Vision Technique for Crack Monitoring in Concrete Structure
Prasanna Computer vision for automated surface evaluation of concrete bridge decks
Liu et al. Automatic detection on the bolt loose based on digital image processing
Yu et al. Multi-feature driven rapid inspection of earthquake-induced damage on building facades using UAV-derived point cloud

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 19891104

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2020558314

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2019891104

Country of ref document: EP

Effective date: 20210629