JPWO2019049316A1 - Deformation detection apparatus and deformation detection method - Google Patents
Deformation detection apparatus and deformation detection method Download PDFInfo
- Publication number
- JPWO2019049316A1 JPWO2019049316A1 JP2019514061A JP2019514061A JPWO2019049316A1 JP WO2019049316 A1 JPWO2019049316 A1 JP WO2019049316A1 JP 2019514061 A JP2019514061 A JP 2019514061A JP 2019514061 A JP2019514061 A JP 2019514061A JP WO2019049316 A1 JPWO2019049316 A1 JP WO2019049316A1
- Authority
- JP
- Japan
- Prior art keywords
- candidate
- contour
- deformed
- unit
- rectangle
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- E—FIXED CONSTRUCTIONS
- E01—CONSTRUCTION OF ROADS, RAILWAYS, OR BRIDGES
- E01D—CONSTRUCTION OF BRIDGES, ELEVATED ROADWAYS OR VIADUCTS; ASSEMBLY OF BRIDGES
- E01D22/00—Methods or apparatus for repairing or strengthening existing bridges ; Methods or apparatus for dismantling bridges
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Chemical & Material Sciences (AREA)
- Structural Engineering (AREA)
- Civil Engineering (AREA)
- Theoretical Computer Science (AREA)
- Architecture (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Analytical Chemistry (AREA)
- Biochemistry (AREA)
- General Health & Medical Sciences (AREA)
- Immunology (AREA)
- Pathology (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Abstract
対象物の表面が撮影された可視画像を分割する複数の矩形ブロックを設定する矩形設定部(1031)と、対象物の表面が撮影された可視画像の背景輝度値と、矩形設定部が設定した各矩形ブロック内の平均輝度値とに基づき、複数の矩形ブロックのうち、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する候補矩形判定部(103)と、候補矩形判定部が判定した変状候補矩形のうち、互いに隣接する変状候補矩形の領域を統合した変状候補領域を設定する候補矩形統合部(104)と、候補矩形統合部が設定した変状候補領域の外周を形成する輪郭ブロックを抽出する候補輪郭抽出部(105)と、候補輪郭抽出部が抽出した各輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該各輪郭ブロックが変状矩形であるかどうかを判定し、変状矩形であると判定した輪郭ブロックで囲まれた領域を前記変状領域と確定する候補輪郭判定部(106)とを備えた。A rectangular setting unit (1031) that sets a plurality of rectangular blocks that divide a visible image in which the surface of the object is photographed, a background luminance value of a visible image in which the surface of the object is photographed, and a rectangle setting unit are set. A candidate rectangle determination unit (103) that determines a deformed candidate rectangle that is a candidate for a deformed rectangle that forms a deformed region among a plurality of rectangular blocks based on the average luminance value in each rectangular block, and a candidate rectangle Among the candidate deformation rectangles determined by the determination unit, a candidate rectangle integration unit (104) for setting a modification candidate region obtained by integrating regions of the modification candidate rectangles adjacent to each other, and a modification candidate set by the candidate rectangle integration unit A candidate contour extracting unit (105) that extracts a contour block that forms the outer periphery of the region, and each contour block is based on the luminance feature amount in each rectangular block around each contour block extracted by the candidate contour extracting unit. Deformation Determining whether the shape, with a candidate contour determination unit and (106) of the region surrounded by the contour block determined as the Deformation region it is determined that the Henjo rectangular.
Description
この発明は、対象物の表面の変状箇所を検出する変状検出装置および変状検出方法に関するものである。 The present invention relates to a deformation detection apparatus and a deformation detection method for detecting a deformation location on the surface of an object.
従来、対象物の表面を撮像した画像データに基づき、当該対象物の表面の変状箇所を検出する技術が知られている。
例えば、特許文献1には、コンクリート表面を撮像したコンクリート表面画像に対して横方向に強い平滑化処理を行い、当該平滑化処理を実施した画像に対し、背景に比べてより黒い領域を漏水候補領域として抽出し、当該漏水候補領域について、輝度値、面積、幅および高さを特定して、指定した条件の範囲内にある領域を漏水領域として抽出し、領域の穴埋めおよび周囲領域の閉合処理等を行って、最終的な漏水領域を表示するコンクリート表面の変状領域の検出方法が開示されている。2. Description of the Related Art Conventionally, a technique for detecting a deformed portion on the surface of an object based on image data obtained by imaging the surface of the object is known.
For example, in
特許文献1に開示されているような技術では、漏水領域は横幅が広いことを前提にしており、漏水領域の判定を、平滑化した画像から判定するため、判定漏れが発生し得るという課題があった。また、漏水候補領域に対して、輝度値、面積、幅および高さに基づく固定値の閾値によって漏水領域であるかどうかの判定を行うため、小さな漏水領域を見逃す可能性があるという課題があった。また、撮影条件等によっても、微細な領域に対する漏水の検出が困難となるという課題があった。
In the technology as disclosed in
この発明は上記のような課題を解決するためになされたもので、微細な領域に対しても、変状領域の検出を可能とする変状検出装置および変状検出方法を提供することを目的とする。 The present invention has been made to solve the above-described problems, and an object thereof is to provide a deformation detection apparatus and a deformation detection method that can detect a deformed area even in a minute area. And
この発明に係る変状検出装置は、対象物の表面が撮影された可視画像を分割する複数の矩形ブロックを設定する矩形設定部と、対象物の表面が撮影された可視画像の背景輝度値と、矩形設定部が設定した各矩形ブロック内の平均輝度値とに基づき、複数の矩形ブロックのうち、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する候補矩形判定部と、候補矩形判定部が判定した変状候補矩形のうち、互いに隣接する変状候補矩形の領域を統合した変状候補領域を設定する候補矩形統合部と、候補矩形統合部が設定した変状候補領域の外周を形成する輪郭ブロックを抽出する候補輪郭抽出部と、候補輪郭抽出部が抽出した各輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該各輪郭ブロックが変状矩形であるかどうかを判定し、変状矩形であると判定した輪郭ブロックで囲まれた領域を変状領域と確定する候補輪郭判定部とを備えたものである。 The deformation detection device according to the present invention includes a rectangular setting unit that sets a plurality of rectangular blocks that divide a visible image in which the surface of the object is photographed, and a background luminance value of the visible image in which the surface of the object is photographed. A candidate rectangle determining unit that determines a deformed candidate rectangle that is a deformed rectangle candidate that forms a deformed region among a plurality of rectangular blocks based on the average luminance value in each rectangular block set by the rectangle setting unit Among the candidate deformation rectangles determined by the candidate rectangle determination unit, a candidate rectangle integration unit that sets a modification candidate region obtained by integrating regions of the modification candidate rectangles adjacent to each other, and a modification set by the candidate rectangle integration unit A candidate contour extracting unit that extracts a contour block that forms the outer periphery of the candidate region, and each contour block is deformed based on a feature value of luminance in each rectangular block around each contour block extracted by the candidate contour extracting unit Is a rectangle UGA determined, in which a region surrounded by the contour blocks is determined that Henjo rectangle and a candidate contour determination unit for determining a Henjo region.
この発明によれば、微細な領域に対しても、変状領域の検出を可能とすることができる。 According to the present invention, it is possible to detect a deformed region even for a fine region.
以下、この発明の実施の形態について、図面を参照しながら詳細に説明する。
実施の形態1.
変状検出装置10は、対象物の表面を撮影した可視画像に基づき、対象物の表面における変状領域を検出する。実施の形態1では、一例として、対象物をコンクリート製のトンネルの内壁、対象物の表面をトンネルの内壁の表面とする。以下の説明では、「トンネルの内壁」とは、「トンネルの内壁の表面」を意味するものとする。また、実施の形態1では、変状検出装置10は、トンネルの内壁における漏水領域を変状領域として検出するものとする。Hereinafter, embodiments of the present invention will be described in detail with reference to the drawings.
The
図1は、実施の形態1に係る変状検出装置10の構成の一例を示す図である。
図1に示すように、変状検出装置10は、画像処理部1と、可視画像生成部2と、データ記録部3と、データ出力部4と、画像出力部5とを備える。
可視画像生成部2は、カメラ(図1では図示省略)から、トンネルの内壁が撮像された複数枚の撮影画像を取得し、一枚に統合して、可視画像を生成する。
具体的には、ユーザが、トンネル内において、トンネルの内壁をカメラによって撮影する。この際、ユーザは、トンネルの内壁を複数回に分けて撮影する。可視画像生成部2は、カメラから、ユーザによって撮影された複数枚の撮影画像を取得し、取得した複数枚の撮影画像について、画像同士の位置合わせ、または、歪み補正等を実施して、当該複数枚の撮影画像を統合し、トンネルの内壁を撮影した1枚の可視画像とする。このとき、可視画像生成部2は、可視画像を、256階調のグレイスケール画像として生成する。なお、可視画像におけるトンネルの内壁の範囲が広い場合、可視画像生成部2は、例えば、「スパン」と呼ばれる10m×10m程度の覆工コンクリート単位毎に1つの可視画像を生成する。
可視画像生成部2は、可視画像を画像処理部1に出力する。FIG. 1 is a diagram illustrating an example of a configuration of a
As shown in FIG. 1, the
The visible
Specifically, the user photographs the inner wall of the tunnel with a camera in the tunnel. At this time, the user shoots the inner wall of the tunnel in a plurality of times. The visible
The visible
画像処理部1は、可視画像生成部2から出力された可視画像に基づき、トンネルの内壁の漏水領域(以下「変状領域」という。)を検出する。
画像処理部1は、画像変換部101と、背景輝度値算出部102と、候補矩形判定部103と、候補矩形統合部104と、候補輪郭抽出部105と、候補輪郭判定部106と、輪郭間距離判定部107と、領域統合部108と、データ生成部109と、画像生成部110とを有する。候補矩形判定部103は、矩形設定部1031を有する。
画像変換部101は、可視画像生成部2から出力された可視画像について、輝度値の分布(以下「輝度分布」という。)を求める。そして、画像変換部101は、求めた輝度分布に基づき、可視画像の輝度の変換を行い、変換後可視画像を生成する。画像変換部101は、生成した変換後可視画像を背景輝度値算出部102および候補矩形判定部103に出力する。
背景輝度値算出部102は、画像変換部101から出力された変換後可視画像の背景輝度値を算出する。具体的には、背景輝度値算出部102は、変換後可視画像について、輝度値のヒストグラムを作成し、最大画素数となる輝度値を背景輝度値とする。背景輝度値算出部102は、背景輝度値の情報を候補矩形判定部103に出力する。The
The
The
The background luminance
候補矩形判定部103は、画像変換部101から出力された変換後可視画像と、背景輝度値算出部102から出力された背景輝度値とに基づき、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する。
具体的には、まず、候補矩形判定部103の矩形設定部1031は、変換後可視画像を分割する複数の矩形ブロックを設定する。
そして、候補矩形判定部103は、背景輝度値算出部102が算出した変換後可視画像の背景輝度値と、矩形設定部1031が設定した各矩形ブロック内の平均輝度値に基づき、複数の矩形ブロックのうち、変状候補矩形となる矩形ブロックを判定する。具体的には、漏水領域を変状領域とする場合、候補矩形判定部103は、矩形ブロック内の平均輝度値が、変状領域を判定するための閾値(以下「第1の閾値」という。)より小さい場合に、当該矩形ブロックを、変状候補矩形と判定する。The candidate
Specifically, first, the rectangle setting unit 1031 of the candidate
The candidate
なお、矩形設定部1031は、カメラがトンネルの内壁を撮影した撮影画像の撮影解像度に応じて、矩形ブロックの矩形の大きさを可変とする。例えば、撮影解像度が1画素あたり0.25mmの場合、矩形設定部1031は、1ブロックを8画素×8ラインとしてブロック分けし、撮影解像度が1画素あたり0.5mmの場合、矩形設定部1031は、1ブロックを4画素×4ラインとしてブロック分けする等である。矩形設定部1031は、撮影解像度の情報を、カメラから取得するようにすればよい。
矩形ブロックの矩形の大きさを、撮影画像の撮影解像度に応じて可変とすることで、実際の単位面積当たりの領域に割り当てるブロックの大きさを最適にすることができる。
一方、矩形ブロックのサイズを大きく取ることにより、変状の特徴である輝度勾配または分散の大きなブロックの個数が、変状領域と判定される判定条件を満たさないケースも発生する。そのため、サイズを小さく取ることで、変状領域の判定の精度を高めることもできる。
候補矩形判定部103は、変状候補矩形の情報を、候補矩形統合部104に出力する。Note that the rectangle setting unit 1031 changes the size of the rectangle of the rectangle block in accordance with the shooting resolution of the shot image obtained by shooting the inner wall of the tunnel by the camera. For example, when the shooting resolution is 0.25 mm per pixel, the rectangular setting unit 1031 divides one block into 8 pixels × 8 lines, and when the shooting resolution is 0.5 mm per pixel, the rectangular setting unit 1031 For example, one block is divided into 4 pixels × 4 lines. The rectangle setting unit 1031 may acquire information on the shooting resolution from the camera.
By making the rectangular size of the rectangular block variable according to the imaging resolution of the captured image, the size of the block allocated to the actual area per unit area can be optimized.
On the other hand, by increasing the size of the rectangular block, there may be a case where the number of blocks having a large luminance gradient or variance, which is a characteristic of deformation, does not satisfy the determination condition for determining a deformed area. Therefore, the accuracy of determination of the deformed region can be increased by reducing the size.
The candidate
候補矩形統合部104は、候補矩形判定部103から出力された変状候補矩形の情報に基づき、互いに隣接する複数の変状候補矩形の領域を1つの領域として統合し、統合した領域を、変状領域の候補となる変状候補領域と設定する。候補矩形統合部104は、変状候補領域の情報を、候補輪郭抽出部105に出力する。
The candidate
候補輪郭抽出部105は、候補矩形統合部104から出力された変状候補領域の情報に基づき、変状候補領域の輪郭ブロックを抽出する。
実施の形態1において、領域の輪郭とは領域の外周をいい、当該領域の輪郭を形成する変状候補矩形を輪郭ブロックという。実施の形態1において、領域の輪郭を形成する輪郭ブロックとは、矩形ブロックが有する4辺のうち、少なくとも1辺が、領域の輪郭を形成している矩形ブロックである。
このとき、候補輪郭抽出部105は、変状候補領域の輪郭ブロックに、輪郭ラベルを付与する。
候補輪郭抽出部105は、抽出した、変状候補領域の輪郭ブロックの情報と、変状候補領域の輪郭ブロックに付与された輪郭ラベルの情報とを、変状候補輪郭情報として、変状候補領域および変状候補矩形の情報に付与し、候補輪郭判定部106に出力する。The candidate
In the first embodiment, the outline of a region refers to the outer periphery of the region, and a deformed candidate rectangle that forms the contour of the region is referred to as a contour block. In
At this time, the candidate
The candidate
候補輪郭判定部106は、候補輪郭抽出部105から出力された変状候補輪郭情報に基づき、変状候補領域の再判定を行う。具体的には、候補輪郭判定部106は、変状候補領域の輪郭ブロックについて、当該輪郭ブロックの周囲の各矩形ブロックの輝度の特徴量に基づき、当該輪郭ブロックが変状矩形であるかどうかの判定を行う。特徴量の詳細については後述する。
候補輪郭判定部106は、変状矩形であると判定した輪郭ブロックで囲まれた領域を変状領域と確定する。また、候補輪郭判定部106は、変状領域を形成する変状候補矩形を、変状矩形と確定する。このとき、候補輪郭判定部106は、変状矩形であると確定した輪郭ブロックに、輪郭ラベルを再付与する。
候補輪郭判定部106は、変状領域の輪郭ブロックの情報と、変状領域の輪郭ブロックに付与された輪郭ラベルの情報とを、判定後変状輪郭情報として、変状領域および変状矩形の情報に付与し、輪郭間距離判定部107に出力する。The candidate
The candidate
The candidate
輪郭間距離判定部107は、候補輪郭判定部106から出力された判定後変状輪郭情報に基づき、変状領域のうちの2つの変状領域間の最短距離を求め、求めた最短距離と閾値(以下「第2の閾値」という。)とに基づき、当該2つの変状領域を統合するか否かの判定を行う。
輪郭間距離判定部107は、統合すると判定した変状領域に統合フラグを付与し、統合フラグを付与した変状領域の情報を、判定後変状輪郭情報および変状矩形の情報とともに、領域統合部108に出力する。The inter-contour
The inter-contour
領域統合部108は、輪郭間距離判定部107から出力された変状領域の情報に基づき、統合フラグが付与されている変状領域を統合して統合後変状領域とし、変状領域の輪郭ブロックに付与されている輪郭ラベルの再付与を行う。
領域統合部108は、統合後変状領域の情報、当該統合後変状領域に含まれる変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報を、データ生成部109および画像生成部110に出力する。The
The
データ生成部109は、領域統合部108から出力された統合後変状領域の情報、変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報に基づき、変状データを生成する。変状データとは、具体的には、例えば、統合後変状領域の輪郭および当該輪郭に付与されたラベルの情報、および、統合後変状領域の位置情報等を含むデータである。データ生成部109は、変状データを、データ出力部4に出力する。
The
画像生成部110は、領域統合部108から出力された統合後変状領域の情報、変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報に基づき、変状領域に関する情報を画像として表示させるための画像用データを生成する。
画像生成部110は、画像用データを、画像出力部5に出力する。The
The
データ記録部3は、可視画像生成部2から出力された可視画像を記録する。また、データ記録部3は、画像処理部1において生成され、変状領域の判定に用いられる変換後可視画像等、画像処理部1の処理で用いられるデータおよび画像処理部1の処理において出力される中間データを記録する。また、データ記録部3は、画像処理部1が変状領域を検出し、最終結果として出力する、変状データ、および、画像用データを記録する。
なお、この実施の形態1では、データ記録部3は、変状検出装置10が備えるものとしているが、これに限らず、データ記録部3は、変状検出装置10の外部の、変状検出装置10が参照可能な場所に備えられるものとしてもよい。The
In the first embodiment, the
データ出力部4は、画像処理部1のデータ生成部109から出力された変状データを外部の記録装置等(図示省略)に出力する。データ出力部4は、変状データを、データ記録部3に記録させるようにしてもよい。
画像出力部5は、画像処理部1の画像生成部110から出力された画像データを、外部の表示装置等(図示省略)に出力する。画像出力部5は、画像用データを、データ記録部3に記録させるようにしてもよい。The
The
次に、実施の形態1の変状検出装置10の動作について説明する。
図2は、実施の形態1において、変状検出装置10の動作を説明するためのフローチャートである。Next, the operation of the
FIG. 2 is a flowchart for explaining the operation of the
可視画像生成部2は、カメラから、トンネルの内壁が撮像された複数枚の撮影画像を取得し、一枚に統合して、可視画像を生成する(ステップST201)。このとき、可視画像生成部2は、可視画像を、256階調のグレイスケール画像とする。
可視画像生成部2は、可視画像を画像処理部1に出力する。The visible
The visible
画像処理部1の画像変換部101は、ステップST201において可視画像生成部2から出力された可視画像における輝度を変換して、変換後可視画像を生成する(ステップST202)。
ここで、図3および図4は、実施の形態1において、画像変換部101が変換後可視画像を生成する動作を説明するための図である。
まず、画像変換部101は、可視画像生成部2から出力された可視画像について、輝度レベルの変換を行う。具体的には、画像変換部101は、可視画像について、可視画像上の水平方向に並んだ画素のライン単位に平均輝度値を求め、当該平均輝度値が256階調の中間レベルの輝度値である128となるように可視画像内の輝度値をシフトする補正を行う。これにより、画像変換部101は、撮影光源とトンネルの内壁との関係において、垂直方向の輝度値のムラを軽減する。
図4Aは、可視画像生成部2から出力された可視画像の一例を示す図であり、図3Aは、図4Aに示すような可視画像の輝度値のヒストグラムを示す図である。なお、図3において、横軸は輝度値を示し、縦軸は各輝度値における画素の個数を示している。
画像変換部101が、可視画像に対して、ライン単位の平均輝度値を128とした補正を行うと、補正後の可視画像は、図4Bに示すような画像となる。また、図4Bに示すような、補正後の可視画像の輝度値のヒストグラムは、図3Bに示すようになる。The
Here, FIG. 3 and FIG. 4 are diagrams for describing an operation in which the
First, the
4A is a diagram illustrating an example of a visible image output from the visible
When the
続いて、画像変換部101は、可視画像について、補正後の可視画像に対しての、画素データの輝度値から、累積ヒストグラムを求め、当該累積ヒストグラムの累積度数のグラフの傾きが一定となるよう、可視画像の輝度値を変換し、変換後可視画像を生成する。
累積ヒストグラムとは、図3Bのヒストグラムに関し、最初の輝度値0から輝度値ごとの画素数を累積したものである。画像変換部101は、当該累積ヒストグラムの累積画素数のグラフの傾きが一定となるように、可視画像の輝度値を変換する。
具体的には、画像変換部101は、以下の変換式を用いて、可視画像の輝度値を変換する。
x’=INT((hist(x)−xmin)×(L−1)/(1−xmin))
x’:変換後の輝度値
hist(x):変換前輝度値xに対する累積画素数÷補正後の可視画像の総画素数
xmin:hist(x)の最小値
L:階調数(=256)
INT():整数化関数
図4Cは、画像変換部101が可視画像の輝度値を変換した変換後可視画像を示す図であり、図3Cは、図4Cに示すような変換後可視画像のヒストグラムを示す図である。
このように、累積ヒストグラムの累積度数のグラフの傾きが一定となるよう、可視画像の輝度値を変換し、変換後可視画像とする処理は、照明条件、または、トンネル内壁とカメラとの位置関係等によって、撮影画像の輝度値の濃淡が相違してくることによる影響を取り除き、画像の全体的なバランスを改善するために行う。
画像変換部101は、生成した変換後可視画像を背景輝度値算出部102および候補矩形判定部103に出力する。Subsequently, the
The cumulative histogram is obtained by accumulating the number of pixels for each luminance value from the
Specifically, the
x ′ = INT ((hist (x) −xmin) × (L−1) / (1−xmin))
x ′: luminance value after conversion hist (x): cumulative number of pixels with respect to luminance value x before conversion ÷ total number of pixels of visible image after correction xmin: minimum value of hist (x) L: number of gradations (= 256)
INT (): integerization function
FIG. 4C is a diagram illustrating a converted visible image obtained by converting the luminance value of the visible image by the
As described above, the luminance value of the visible image is converted so that the slope of the cumulative frequency graph of the cumulative histogram is constant, and the converted visible image is processed by the illumination condition or the positional relationship between the tunnel inner wall and the camera. This is performed in order to remove the influence of the difference in the brightness value of the photographed image and improve the overall balance of the image.
The
背景輝度値算出部102は、ステップST202において画像変換部101から出力された変換後可視画像の背景輝度値を算出する(ステップST203)。具体的には、背景輝度値算出部102は、変換後可視画像の輝度値のヒストグラムを作成し、最大画素数となる輝度値を背景輝度値とする。背景輝度値算出部102は、背景輝度値の情報を候補矩形判定部103に出力する。
The background luminance
候補矩形判定部103は、ステップST202において画像変換部101から出力された変換後可視画像と、ステップST203において背景輝度値算出部102から出力された背景輝度値とに基づき、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する(ステップST204)。
具体的には、まず、候補矩形判定部103の矩形設定部1031は、変換後可視画像を分割して複数の矩形ブロックを設定する。
そして、候補矩形判定部103は、背景輝度値算出部102が算出した変換後可視画像の背景輝度値と、矩形設定部1031が設定した各矩形ブロック内の平均輝度値とに基づき、複数の矩形ブロックのうち、変状候補矩形となる矩形ブロックを判定する。具体的には、漏水領域を変状領域とする場合、候補矩形判定部103は、矩形ブロック内の平均輝度値が、第1の閾値より小さい場合に、当該矩形ブロックを、変状候補矩形と判定する。
候補矩形判定部103は、変状領域を判定するための第1の閾値を、例えば、背景輝度値からオフセット値を減算した値(背景輝度値−Thlow1)とする。オフセット値であるThlow1は、比較的、背景輝度値に近い値を設定するものとする。当該値は、予め、ユーザが設定しておくようにすればよい。
なお、候補矩形判定部103が変状候補矩形と判定する矩形ブロックには、漏水以外の、汚れまたは色むら等による変状も含まれ得る。漏水以外の変状によって変状候補矩形と判定された矩形ブロックは、後述する候補輪郭判定部106の処理において除外される。
候補矩形判定部103は、変状候補矩形の情報を、候補矩形統合部104に出力する。Candidate
Specifically, first, the rectangle setting unit 1031 of the candidate
The candidate
The candidate
Note that the rectangular block that is determined by the candidate
The candidate
候補矩形統合部104は、ステップST204において候補矩形判定部103から出力された変状候補矩形の情報に基づき、互いに隣接する複数の変状候補矩形の領域を1つの領域として統合し、統合した領域を、変状候補領域と設定する(ステップST205)。
ある1つの変状候補矩形について、当該1つの変状候補矩形と隣接する他の変状候補矩形が存在しない場合は、候補矩形統合部104は、当該1つの変状候補矩形を変状候補領域とする。すなわち、1つの変状候補領域は、1つ以上の変状候補矩形によって形成されることになる。Candidate
If there is no other deformation candidate rectangle adjacent to the one deformation candidate rectangle for one certain deformation candidate rectangle, the candidate
ここで、図5は、実施の形態1において、候補矩形統合部104が、変状候補矩形の領域を統合する動作を具体的に説明するための図である。
図5は、複数の矩形ブロックが設定された変換後可視画像上で変状候補矩形を示したイメージの一例を示している。
なお、図5において、変状候補矩形は、矩形ブロックを太枠で囲むことで表現している。
まず、候補矩形統合部104は、候補矩形判定部103によって変状候補矩形と判定された矩形ブロックのうち、1つの矩形ブロックを選択し、当該選択された矩形ブロック(以下「注目ブロック」という。図5では501で示す)の領域を、当該注目ブロックと隣接する8つの他の矩形ブロックのうち変状候補矩形と判定された矩形ブロックの領域と統合する。Here, FIG. 5 is a diagram for specifically explaining the operation of the candidate
FIG. 5 shows an example of an image showing a deformed candidate rectangle on the converted visible image in which a plurality of rectangular blocks are set.
In FIG. 5, the deformation candidate rectangle is expressed by surrounding a rectangular block with a thick frame.
First, the candidate
例えば、図5において、注目ブロック501の位置を、Xi,jの座標であらわすとすると、候補矩形統合部104は、当該注目ブロック501の領域と、当該注目ブロック501と隣接する8つの矩形ブロック(Xi−1,j−1〜Xi+1,j+1)のうち、変状候補矩形と判定された矩形ブロック(Xi−1,j−1、Xi,j−1、Xi+1,j−1、Xi−1,j)の領域とを統合する。
さらに、候補矩形統合部104は、現在の注目ブロック501の領域と隣接する矩形ブロックの領域とを統合した領域と隣接する、すでに形成されている他の領域があれば、あわせて統合する。
例えば、図5において、すでに統合されている矩形ブロック群(図5において502で示す矩形ブロックの矩形ブロック群)の領域があるので、候補矩形統合部104は、当該矩形ブロック群の領域についても、あわせて統合する。
そして、候補矩形統合部104は、統合した領域を、変状候補領域とし、当該変状候補領域の情報を、候補輪郭抽出部105に出力する。For example, in FIG. 5, if the position of the
Further, the candidate
For example, in FIG. 5, since there is a region of a rectangular block group that has already been integrated (a rectangular block group of the rectangular block indicated by 502 in FIG. 5), the candidate
Then, the candidate
候補輪郭抽出部105は、ステップST205において候補矩形統合部104から出力された変状候補領域の情報に基づき、変状候補領域の輪郭を形成する輪郭ブロックを抽出する(ステップST206)。
このとき、候補輪郭抽出部105は、輪郭ブロックに、輪郭ラベルを付与する。Candidate
At this time, the candidate
例えば、変状候補領域が、図5に示すような内容であったとすると、候補輪郭抽出部105は、当該変状候補領域の輪郭ブロックとして、(Xi−1,j−4、Xi+1,j−4、Xi+2,j−4、Xi+2,j−3、Xi+2,j−2、Xi+2,j−1、Xi+1,j−1、Xi,j、Xi−1,j、Xi−2,j−1、Xi−3,j、Xi−3,j+1、Xi−2,j+2、Xi−4,j+1、Xi−5,j、Xi−4,j−1、Xi−5,j−2、Xi−6,j−2、Xi−6,j−3、Xi−5,j−3、Xi−4,j−2、Xi−3,j−2、Xi−2,j−2、Xi−1,j−2、Xi,j−3)の変状候補矩形を抽出し、抽出した輪郭ブロックに、輪郭ラベルを付与する。
なお、候補輪郭抽出部105は、変状候補領域が複数ある場合は、変状候補領域毎に、それぞれ異なる輪郭ラベルを付与する。
候補輪郭抽出部105は、抽出した、変状候補領域の輪郭ブロックの情報と、変状候補領域の輪郭ブロックに付与された輪郭ラベルの情報とを、変状候補輪郭情報として、変状候補領域および変状候補矩形の情報に付与し、候補輪郭判定部106に出力する。For example, if the deformation candidate area has the contents as shown in FIG. 5, the candidate
Note that, when there are a plurality of deformation candidate areas, the candidate
The candidate
候補輪郭判定部106は、ステップST206において候補輪郭抽出部105から出力された変状候補輪郭情報に基づき、変状候補領域の再判定を行う(ステップST207)。具体的には、候補輪郭判定部106は、変状候補領域の輪郭ブロックについて、当該輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該輪郭ブロックが、漏水によって変状した変状領域を形成する変状矩形であるかどうかの判定を行う。ステップST207における、候補輪郭判定部106による変状候補領域の再判定処理は、漏水以外の変状による変状候補矩形を変状候補領域から除外し、漏水によって変状した変状領域および当該変状領域に含まれる変状矩形を確定することを目的としている。
Candidate
ここで、図6は、実施の形態1において、候補輪郭判定部106によるステップST207の動作を詳細に説明するフローチャートである。
候補輪郭判定部106は、複数の輪郭ブロックのうち、1つの輪郭ブロックを選択し、当該選択された輪郭ブロック(以下「注目輪郭ブロック」という。)の周辺に存在する24の矩形ブロック(以下「参照ブロック」という。)について、各参照ブロック内の平均輝度値、および、輝度値の分散の値(以下「分散値」という。)を算出する(ステップST601)。
図7は、実施の形態1において、候補輪郭判定部106が、変状候補領域の輪郭ブロックについて、漏水によって変状した変状矩形であるかどうかの判定を行う動作を説明するための図である。図7では、複数の矩形ブロックが設定された変換後可視画像上で、例えば、図5で示したような変状候補領域が判定され、判定された変状候補領域の輪郭ブロックには輪郭ラベル「1」が付与されているイメージを示している。Here, FIG. 6 is a flowchart for explaining in detail the operation of step ST207 by the candidate
The candidate
FIG. 7 is a diagram for explaining an operation in which the candidate
まず、候補輪郭判定部106は、ステップST601において、輪郭ラベル「1」が付与された輪郭ブロックである注目輪郭ブロック501(Xi,j)の周辺に存在する24の矩形ブロック(Xi−2,j−2〜Xi+2,j+2)を参照ブロックとし、各参照ブロック内の平均輝度値および分散値を算出する。First, in step ST601, the candidate
次に、候補輪郭判定部106は、以下の設定条件(1)および(2)にあてはまる参照ブロックの個数をそれぞれ算出する(ステップST602)。
(1)参照ブロックの平均輝度値<背景輝度値−Thlow2(Thlow2<Thlow1)
(2)参照ブロックの分散値>背景分散値+Thvariance
なお、Thlow2は、背景輝度値とThlow1の中間の値とする。例えば、背景輝度値が128、Thlow1が86とすると、Thlow2は68、または、50等とする。
また、背景分散値は、変換後可視画像の全矩形ブロックの分散値のヒストグラムにて、設定された範囲を単位として区切った場合に、当該区切られた範囲の分散値を有する矩形ブロックの数が最大となる範囲の中間値とする。例えば、変換後可視化像の全矩形ブロックに対する分散値のヒストグラムにて、設定された範囲を50とすると、分散値200〜249を有する矩形ブロックの数が最大となった場合、背景分散値を255とする。
また、Thvarianceは、いくつかの可視画像のサンプルの背景領域に該当する矩形ブロックの分散値に基づき予め設定されている。Next, candidate
(1) Average luminance value of the reference block <background luminance value -Th low2 (Th low2 <Th low1 )
(2) variance value of the reference block> background variance + Th variance
Th low2 is an intermediate value between the background luminance value and Th low1 . For example, if the background luminance value is 128 and Th low1 is 86, Th low2 is 68, 50, or the like.
The background variance value is the number of rectangular blocks having a variance value in the divided range when the set range is divided as a unit in the histogram of variance values of all rectangular blocks in the converted visible image. The intermediate value of the maximum range. For example, if the set range is 50 in the histogram of variance values for all rectangular blocks in the converted visualized image, the background variance value is 255 when the number of rectangular blocks having
Also, Th variance is previously set based on the variance value of the rectangular block corresponding to the background area of a sample of some of the visible image.
候補輪郭判定部106は、ステップST602で算出した参照ブロックの個数が、以下の判定条件(3)および(4)を満たすかどうかを判定する(ステップST603)。
(3)上記(1)の設定条件にあてはまる参照ブロックの個数≦Thbinarize1
(4)上記(2)の設定条件にあてはまる参照ブロックの個数>Thbinarize2
ここでは、例えば、Thbinarize1=8、Thbinarize2=8とする。なお、Thbinarize1およびThbinarize2の値は適宜設定可能とする。
Candidate
(3) Number of reference blocks satisfying the setting condition of (1) ≦ Th binarize1
(4) Number of reference blocks satisfying the setting condition of (2)> Th binarize2
Here, for example, Th binarize1 = 8 and Th binarize2 = 8. Note that the values of Th binarize1 and Th binarize2 can be set as appropriate.
ここで、図8および図9は、注目輪郭ブロック内の平均輝度値と各参照ブロック内の平均輝度値を、各矩形ブロック平均輝度順に並べた一例を示す図である。
図8に示すような場合、上記の設定条件(3)を満たす。図9に示すような場合、上記の設定条件(3)を満たさない。Here, FIG. 8 and FIG. 9 are diagrams illustrating an example in which the average luminance value in the target contour block and the average luminance value in each reference block are arranged in the order of the rectangular block average luminance.
In the case as shown in FIG. 8, the above setting condition (3) is satisfied. In the case shown in FIG. 9, the setting condition (3) is not satisfied.
ステップST603において、(3)および(4)の両方の設定条件を満たす場合(ステップST603の“YES”の場合)、候補輪郭判定部106は、注目輪郭ブロック501を、漏水によって変状した変状領域を形成する変状矩形と判定する。(ステップST604)。
例えば、図7の場合において、上記(1)の設定条件にあてはまる参照ブロックの個数が「3」、上記(2)の設定条件にあてはまる参照ブロックの個数が「10」であったとすると、当該個数は、判定条件(3)および(4)の両方の設定条件を満たすので、候補輪郭判定部106は、注目輪郭ブロック501を漏水によって変状した変状領域を形成する変状矩形と判定する。このとき、候補輪郭判定部106は、当該注目輪郭ブロック501に付与された輪郭ラベルはそのままとしておく。すなわち、注目輪郭ブロック501の輪郭ラベルは「1」のままである。In step ST603, when both the setting conditions of (3) and (4) are satisfied (in the case of “YES” in step ST603), the candidate
For example, in the case of FIG. 7, if the number of reference blocks that satisfy the setting condition (1) is “3” and the number of reference blocks that satisfy the setting condition (2) is “10”, Since both of the determination conditions (3) and (4) are satisfied, the candidate
一方、ステップST603において、(3)または(4)のいずれかの判定条件を満たさない場合(ステップST603の“NO”の場合)、候補輪郭判定部106は、注目輪郭ブロック501は、漏水によって変状した変状領域の変状矩形ではないと判定し、注目輪郭ブロック501に付与されている輪郭ラベルの情報を削除し、当該注目輪郭ブロック501を、変状候補領域から除外する(ステップST605)。すなわち、候補輪郭判定部106は、注目輪郭ブロック501を、変状候補矩形から除外する。
例えば、図7の場合において、上記(1)の設定条件にあてはまる参照ブロックの個数が「20」であったとすると、当該個数は、判定条件(3)の判定条件を満たさないので、候補輪郭判定部106は、注目輪郭ブロック501に付与されている輪郭ラベル「1」を削除し、当該注目輪郭ブロック501を、変状候補領域から除外する。
漏水領域を変状領域とする場合、変状領域は、一般的に、輪郭ブロックにて輝度勾配が急峻であることが多く、シミ等による漏水以外の輪郭ブロックでは、輝度勾配が緩やかなことが多い。候補輪郭判定部106は、注目輪郭ブロック周辺の各参照ブロックで輝度勾配を算出し、輝度勾配が緩やか(上記設定条件(1)を満たす)な参照ブロックの個数が多い(上記判定条件(3)を満たさない)場合、当該注目輪郭ブロックは変状領域ではないと判断する。
また、漏水領域を変状領域とする場合、変状領域は、一般的に、背景よりも輝度値の散らばりが大きい傾向にある。候補輪郭判定部106は、注目輪郭ブロック周辺の各参照ブロックの分散値を算出し、当該参照ブロックの分散値の散らばりが大きい(上記設定条件(2)を満たす)参照ブロックの個数が少ない(上記判定条件(4)を満たさない)場合、当該注目輪郭ブロックは変状領域ではないと判断する。
このように、漏水領域を変状領域とする場合、変状領域は、一般的に、背景輝度値よりも輝度値が低く、背景分散値よりも大きな分散値となる傾向があるため、候補輪郭判定部106は、上記判定条件(3)および判定条件(4)で判定し、参照ブロックを含め、当該判定条件(3)および判定条件(4)に該当する参照ブロックが閾値以上の個数あれば、注目輪郭ブロックは変状領域の可能性が高いと判断する。On the other hand, if any of the determination conditions (3) or (4) is not satisfied in step ST603 (in the case of “NO” in step ST603), the candidate
For example, in the case of FIG. 7, if the number of reference blocks satisfying the setting condition (1) is “20”, the number does not satisfy the determination condition of the determination condition (3). The
When the water leakage area is a deformed area, the deformed area generally has a sharp brightness gradient in the contour block, and the brightness gradient may be gentle in the contour block other than the water leak due to a stain or the like. Many. The candidate
In addition, when the water leakage area is a deformed area, the deformed area generally tends to have a larger dispersion of luminance values than the background. The candidate
As described above, when the water leakage area is a deformed area, the deformed area generally has a luminance value lower than the background luminance value and tends to be a larger variance value than the background variance value. The
候補輪郭判定部106は、以上の処理を、全ての輪郭ブロックに対して行い、新たに変状候補領域の輪郭ブロックとなった変状候補矩形があるかどうか判定する(ステップST606)。
ステップST606において、新たに輪郭ブロックとなった変状候補矩形がある場合(ステップST606の“YES”の場合)、候補輪郭判定部106は、当該新たな輪郭ブロックを注目輪郭ブロックとして、ステップST601〜ステップST605の処理を繰り返す。
候補輪郭判定部106は、新たに輪郭ブロックとなった変状候補矩形が存在しなくなるまで、ステップST601〜ステップST605の処理を繰り返す。
例えば、図7に示すように、輪郭ブロック(Xi−4,j−3、Xi−4,j−1、Xi−5,j、Xi−4,j+1、Xi−3,j+1、および、Xi−3,j+2)が、変状候補領域の変状候補矩形から除外されたとする。
この場合、新たに、変状候補矩形(Xi−3,j−1、および、Xi−4,j)が、輪郭ブロックとなる。そこで、候補輪郭判定部106は、新たな輪郭ブロック(Xi−3,j−1、および、Xi−4,j)について、ステップST601〜ステップST605の処理を行うことになる。Candidate
In step ST606, when there is a deformed candidate rectangle that has newly become a contour block (in the case of “YES” in step ST606), the candidate
Candidate
For example, as shown in FIG. 7, contour blocks (X i−4, j−3 , X i−4, j−1 , X i−5, j , X i−4, j + 1 , X i−3, j + 1) , And X i−3, j + 2 ) are excluded from the deformation candidate rectangles of the deformation candidate area.
In this case, the transformation candidate rectangles (X i−3, j−1 and X i−4, j ) are newly contour blocks. Therefore, the candidate
ステップST606において、新たに輪郭ブロックとなった変状候補矩形がない場合(ステップST606の“NO”の場合)、すなわち、全ての輪郭ブロックについて、漏水によって変状した変状領域を形成する変状矩形であるかどうかの判定を終了した場合、候補輪郭判定部106は、変状候補領域の輪郭ブロックに対して、輪郭ラベルの再付与を行う(ステップST607)。具体的には、候補輪郭判定部106は、ステップST206において候補輪郭抽出部105が同一の輪郭ラベルを付与した輪郭ブロックで囲まれた変状候補領域が複数に分かれた場合、分かれた変状候補領域の輪郭ブロックについて、別の輪郭ラベルを付与する。
例えば、図7において、701および702で示す変状候補領域に含まれる変状候補矩形は、もともと1つの変状候補領域に属しており、ステップST206において、当該変状候補領域の輪郭ブロックには「1」の輪郭ラベルが付与されていた(図5参照)。しかし、候補輪郭判定部106が、輪郭ブロックは、漏水によって変状した変状領域の変状矩形かどうかを判定する処理を行った結果、当該1つの変状候補領域が、701に示す変状候補領域と702に示す変状候補領域に分かれた。
そこで、候補輪郭判定部106は、例えば、702に示す変状候補領域の輪郭ブロックについては、輪郭ラベル「3」を付与する。なお、候補輪郭判定部106は、候補輪郭抽出部105同様、異なる変状候補領域にはそれぞれ異なる輪郭ラベルを付与する。今、図7に示すように、輪郭ブロックに輪郭ラベル「2」が付与されている変状候補領域703があるので、候補輪郭判定部106は、変状候補領域702の輪郭ブロックには、例えば、他の変状候補領域の輪郭ブロックと重複しない輪郭ラベル「3」を付与する。
なお、候補輪郭判定部106は、特定の輪郭ラベル(例えば「1」)が付与されていた輪郭ブロックについて、そのまま当該特定の輪郭ラベルを当該輪郭ブロックに輪郭ラベルとして再付与しても、他の変状候補領域の輪郭ブロックの輪郭ラベルと重複しない場合は、当該特定の輪郭ラベルが付与されていた輪郭ブロックには、当該特定の輪郭ラベルを再付与してもよい。例えば、図7に示す変状候補領域701の輪郭ブロックには、「1」の輪郭ラベルが再付与される。
そして、候補輪郭判定部106は、漏水によって変状したと判定し、輪郭ラベルを再付与した輪郭ブロックで囲まれた領域を変状領域と確定する。また、候補輪郭判定部106は、変状領域を形成する変状候補矩形を、変状矩形と確定する。
その後、ステップST204に戻り、候補矩形判定部103は、変状矩形と確定されなかった輪郭ブロックを除外した変状候補領域の輪郭ブロックとなる変状候補矩形について、オフセット値であるThlow1の値を、1回目に変状候補矩形となる矩形ブロックを判定した際の値よりも小さい値に設定して、2回目の変状候補矩形となる矩形ブロックの判定を行う。そして、以降の処理を再び行い、候補輪郭判定部106は、ステップST207において、1回目の判定で変状矩形と確定されなかった輪郭ブロックを除外した変状候補矩形が統合された変状候補領域の輪郭ブロックについて、漏水によって変状した変状領域の変状矩形かどうかを判定する。候補輪郭判定部106は、2回目の判定で、漏水によって変状した変状領域の変状矩形と判断した輪郭ブロックに輪郭ラベルを付与し、当該輪郭ブロックで囲まれた領域を変状領域と確定する。
1回目の判定で除外された輪郭ブロックは、漏水以外の、汚れまたは色むら等によって変状した矩形ブロックと判断された矩形ブロックである。2回目の判定で、さらに、漏水以外の、汚れまたは色むら等によって変状した矩形ブロックで囲まれた領域内に存在する、漏水によって変状した矩形ブロックで囲まれた変状領域の判定を行う。
以降、汚れまたは色むら等によって変状したと判断した矩形ブロックを除外した変状候補領域の輪郭ブロックがなくなるまで、当該判定を繰り返す。In step ST606, when there is no deformation candidate rectangle that has newly become a contour block (in the case of “NO” in step ST606), that is, a deformation that forms a deformed region that has been deformed due to water leakage in all the contour blocks. When the determination of whether or not the shape is rectangular is completed, the candidate
For example, in FIG. 7, the modification candidate rectangles included in the modification candidate areas indicated by 701 and 702 originally belong to one modification candidate area, and in step ST206, the contour block of the modification candidate area includes An outline label of “1” was given (see FIG. 5). However, as a result of performing processing for determining whether the contour block is a deformed rectangle of the deformed region that has been deformed due to water leakage, the candidate
Therefore, the candidate
Note that the candidate
And the candidate
Thereafter, the process returns to step ST204, and the candidate
The contour block excluded in the first determination is a rectangular block determined to be a rectangular block deformed due to dirt or uneven color other than water leakage. In the second determination, the determination of the deformed region surrounded by the rectangular block deformed due to water leakage, which is present in the region surrounded by the rectangular block deformed due to dirt or uneven color other than the water leak, is performed. Do.
Thereafter, the determination is repeated until there is no contour block in the deformable candidate area excluding the rectangular block determined to be deformed due to dirt or uneven color.
候補輪郭判定部106は、変状領域の輪郭ブロックの情報と、変状領域の輪郭ブロックに付与された輪郭ラベルの情報とを、判定後変状輪郭情報として、変状領域および変状矩形の情報に付与し、輪郭間距離判定部107に出力する。
The candidate
図2のフローチャートに戻る。
輪郭間距離判定部107は、ステップST207において候補輪郭判定部106から出力された判定後変状輪郭情報に基づき、変状領域のうちの2つの変状領域間の最短距離を求め、求めた最短距離と第2の閾値とに基づき、当該2つの変状領域を統合するか否かの判定を行う(ステップST208)。Returning to the flowchart of FIG.
The inter-contour
ここで、図10は、実施の形態1において、輪郭間距離判定部107の動作の一例を説明するための図である。
例えば、図10に示すように、候補輪郭判定部106によって、4つの変状領域が確定されて、それぞれ、輪郭ブロックに輪郭ラベル「1」〜「4」が付与されていたとする。
まず、輪郭間距離判定部107は、変状領域ごとに、隣接する領域間の最短距離を求める。
例えば、図10の例でいうと、輪郭間距離判定部107は、以下のとおり隣接する変状領域間の最短距離を求める。
輪郭ラベル1の変状領域と輪郭ラベル2の変状領域の領域間の最短距離:3
輪郭ラベル1の変状領域と輪郭ラベル3の変状領域の領域間の最短距離:2
輪郭ラベル1の変状領域と輪郭ラベル4の変状領域の領域間の最短距離:10
輪郭ラベル2の変状領域と輪郭ラベル3の変状領域の領域間の最短距離:17
輪郭ラベル2の変状領域と輪郭ラベル4の変状領域の領域間の最短距離:8
輪郭ラベル3の変状領域と輪郭ラベル4の変状領域の領域間の最短距離:21Here, FIG. 10 is a diagram for explaining an example of the operation of the inter-contour
For example, as shown in FIG. 10, it is assumed that four deformed regions are determined by the candidate
First, the inter-contour
For example, in the example of FIG. 10, the inter-contour
Minimum distance between the deformed area of the
Minimum distance between the deformed area of the
Shortest distance between the deformed area of the
Shortest distance between the deformed area of the
Shortest distance between the deformed area of the
Shortest distance between the deformed area of the
次に、輪郭間距離判定部107は、求めた、隣接する変状領域間の最短距離が、予め設定された第2の閾値Thconnected以下の場合、当該隣接する変状領域について、統合すると判定し、該当の変状領域に統合フラグを付与する。
例えば、Thconnected=8であったとすると、輪郭間距離判定部107は、輪郭ラベル1の変状領域と輪郭ラベル2の変状領域、および、輪郭ラベル1の変状領域と輪郭ラベル3の変状領域を統合すると判定する。そして、輪郭間距離判定部107は、統合すると判定した変状領域に統合フラグを付与する。すなわち、輪郭ラベル1〜輪郭ラベル3の変状領域に、統合フラグが付与される。Next, when the obtained shortest distance between adjacent deformed areas is equal to or less than a preset second threshold Th connected , the contour
For example, when Th connected = 8, the inter-contour
輪郭間距離判定部107は、統合フラグを付与した変状領域の情報を、判定後変状輪郭情報および変状矩形の情報とともに、領域統合部108に出力する。
The contour-to-contour
領域統合部108は、輪郭間距離判定部107から出力された変状領域の情報に基づき、統合フラグが付与されている変状領域を統合して統合後変状領域とし、変状領域の輪郭ブロックに付与されている輪郭ラベルの再付与を行う(ステップST209)。
例えば、図10の例でいうと、領域統合部108は、輪郭ラベル1〜輪郭ラベル3の変状領域を統合し、統合した統合後変状領域の輪郭ブロックに輪郭ラベル「1」を再付与する。
領域統合部108は、統合後変状領域の情報、当該統合後変状領域に含まれる変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報を、データ生成部109および画像生成部110に出力する。The
For example, in the example of FIG. 10, the
The
データ生成部109は、ステップST209において領域統合部108から出力された統合後変状領域の情報、変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報に基づき、変状データを生成する(ステップST210)。変状データとは、具体的には、例えば、統合後変状領域の輪郭および当該輪郭に付与された輪郭ラベルの情報、および、統合後変状領域の位置情報等を含むデータである。
データ生成部109は、例えば、各統合後変状領域について、同じ輪郭ラベルが付与された全ての輪郭ブロックを含み、かつ、当該全ての輪郭ブロックと最短の直線で外接する線を統合後変状領域の輪郭包囲線とする。また、データ生成部109は、輪郭ブロックと凸性の欠如部分の面積が最小となる端点に存在する輪郭ブロックの座標を、統合後変状領域の位置情報とする。例えば、図10の例でいうと、データ生成部109は、図11に太線で示す線を、統合後変状領域の統合後輪郭1101とし、白丸1102で示す輪郭ブロックの座標を、統合後変状領域の位置情報とする。
なお、輪郭ブロックの座標は、変換後可視画像上における画素単位の座標であり、輪郭を含む当該輪郭ブロックの端点となる、左上、左下、右上、右下のいずれかの座標となる。
輪郭包囲線のデータ、および、統合後変状領域の位置情報は、変状データに含まれる。
そして、データ生成部109は、変状データを、データ出力部4に出力する。For example, the
Note that the coordinates of the contour block are the coordinates of the pixel unit on the converted visible image, and are the coordinates of the upper left, lower left, upper right, and lower right, which are the end points of the contour block including the contour.
The data of the contour encircling line and the positional information of the post-integration deformed area are included in the deformed data.
Then, the
データ出力部4は、ステップST210においてデータ生成部109から出力された変状データを、外部の記録装置等(図示省略)に出力する(ステップST212)。データ出力部4は、変状データを、データ記録部3に記録させるようにしてもよい。
このように、統合後変状領域の輪郭に対する位置情報等をデータ化し、記録しておくことにより、例えば、他の分析装置等が、当該外部の記録装置等に記録している変状データを参照し、変状領域の解析処理等に用いることができる。The
In this way, by converting the positional information and the like for the outline of the deformed region after integration into data and recording it, for example, the deformed data recorded in the external recording device or the like by other analyzers or the like can be stored. It can be referred to and used for deformation region analysis processing or the like.
画像生成部110は、ステップST209において領域統合部108から出力された統合後変状領域の情報、変状矩形の情報、輪郭ブロックの情報、および、輪郭ラベルの情報に基づき、変状領域に関する情報を画像として表示させるための画像用データを生成する(ステップST211)。画像用データで示される画像は、具体的には、図12に示すように、変換後可視画像上において、変状領域の輪郭を重畳した画像である。すなわち、画像用データとは、例えば、図12に示すようなイメージの画像を表示させるためのデータである。
画像生成部110は、画像用データを、画像出力部5に出力する。The
The
画像出力部5は、ステップST211において画像生成部110から出力された画像データを、外部の表示装置等(図示省略)に出力する(ステップST213)。画像出力部5は、画像用データを、データ記録部3に記録させるようにしてもよい。
例えば、変状領域に関する情報を、イメージとして画像で表示させることで、ユーザは、表示装置等を確認し、変状領域の解析等を行うことができる。The
For example, by displaying information on the deformed area as an image as an image, the user can check the display device and analyze the deformed area.
なお、以上の実施の形態1では、変状検出装置10は、トンネルの内壁の漏水領域を変状領域として検出するものとしたが、これは一例に過ぎず、変状検出装置10は、コンクリート表面において白華等の析出物が出現している領域を変状領域として検出することもできる。
なお、この場合、白華等の析出物は輝度が高いとされるため、候補矩形判定部103は、変状候補矩形を判定する際の第1の閾値には、背景輝度値にオフセット値を加算した値(背景輝度値+Thhigh1)を用いるようにし、矩形ブロックの平均輝度値が第1の閾値よりも大きい場合に、当該矩形ブロックを変状候補矩形と判定するようにする。
また、候補輪郭判定部106は、変状候補領域の輪郭ブロックについて、析出物によって変状した変状領域の変状矩形であるかどうかの判定を行う際の設定条件(1)として、以下の設定条件を用いるようにする。
参照ブロックの平均輝度値>背景輝度値+Thhigh2(Thhigh2>Thhigh1)
また、以上の実施の形態1では、変状検出装置10は、画像変換部101を備えるようにしたが、画像変換部101は必須ではない。
例えば、変状を検出する対象となる、元々の画像が、トンネルの内壁の画像のような、ムラが想定される画像とは異なり、ムラのないような画像である場合には、画像変換部101を備えないようにすることもできる。画像変換部101による変換後可視画像の生成処理は、撮影環境または状況等により必要に応じて実施される。In the first embodiment described above, the
In this case, since the precipitate such as white flower has high luminance, the candidate
In addition, the candidate
Average luminance value of reference block> background luminance value + Th high2 (Th high2 > Th high1 )
In the first embodiment, the
For example, in the case where the original image to be detected for deformation is an image that does not have unevenness unlike an image that is supposed to be uneven, such as an image of an inner wall of a tunnel, the
図12A,図12Bは、実施の形態1に係る変状検出装置10のハードウェア構成の一例を示す図である。
この発明の実施の形態1において、画像処理部1と、可視画像生成部2と、データ出力部4と、画像出力部5の各機能は、処理回路1201により実現される。すなわち、変状検出装置10は、カメラから取得した複数枚の撮影画像に基づき、トンネルの内壁の漏水領域を変状領域として検出し、検出した変状領域に関する情報をイメージ画像として表示あるいは記憶させる制御を行うための処理回路1201を備える。
処理回路1201は、図12Aに示すように専用のハードウェアであっても、図12Bに示すようにメモリ1205に格納されるプログラムを実行するCPU(Central Processing Unit)1206であってもよい。12A and 12B are diagrams illustrating an example of a hardware configuration of the
In the first embodiment of the present invention, the functions of the
The
処理回路1201が専用のハードウェアである場合、処理回路1201は、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field−Programmable Gate Array)、またはこれらを組み合わせたものが該当する。
When the
処理回路1201がCPU1206の場合、画像処理部1と、可視画像生成部2と、データ出力部4と、画像出力部5の各機能は、ソフトウェア、ファームウェア、または、ソフトウェアとファームウェアとの組み合わせにより実現される。すなわち、画像処理部1と、可視画像生成部2と、データ出力部4と、画像出力部5は、HDD(Hard Disk Drive)1202、メモリ1205等に記憶されたプログラムを実行するCPU1206、システムLSI(Large−Scale Integration)等の処理回路により実現される。また、HDD1202、メモリ1205等に記憶されたプログラムは、画像処理部1と、可視画像生成部2と、データ出力部4と、画像出力部5の手順または方法をコンピュータに実行させるものであるとも言える。ここで、メモリ1205とは、例えば、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、EEPROM(Electrically Erasable Programmable Read−Only Memory)等の、不揮発性または揮発性の半導体メモリ、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、および、DVD(Digital Versatile Disc)等が該当する。
When the
なお、画像処理部1と、可視画像生成部2と、データ出力部4と、画像出力部5の各機能について、一部を専用のハードウェアで実現し、一部をソフトウェアまたはファームウェアで実現するようにしてもよい。例えば、画像処理部1については専用のハードウェアとしての処理回路1201でその機能を実現し、可視画像生成部2と、データ出力部4と、画像出力部5については処理回路がメモリ1205に格納されたプログラムを読み出して実行することによってその機能を実現することが可能である。
データ記録部3は、例えば、HDD1202を使用する。なお、これは一例にすぎず、データ記録部3は、DVD、メモリ1205等によって構成されるものであってもよい。さらに、変状検出装置10とネットワークで接続されているHDD等であってもよい。
また、変状検出装置10は、カメラ、外部の記録装置、または、外部の表示装置等の外部機器との通信を行う入力インタフェース装置1203、出力インタフェース装置1204を有する。Note that some of the functions of the
The
In addition, the
以上のように、実施の形態1によれば、変状検出装置10は、対象物の表面が撮影された可視画像を分割する複数の矩形ブロックを設定する矩形設定部1031と、対象物の表面が撮影された可視画像の背景輝度値と、矩形設定部1031が設定した各矩形ブロック内の平均輝度値とに基づき、複数の矩形ブロックのうち、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する候補矩形判定部103と、候補矩形判定部103が判定した変状候補矩形のうち、互いに隣接する変状候補矩形の領域を統合した変状候補領域を設定する候補矩形統合部104と、候補矩形統合部104が設定した変状候補領域の外周を形成する輪郭ブロックを抽出する候補輪郭抽出部105と、候補輪郭抽出部105が抽出した各輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該各輪郭ブロックが変状矩形であるかどうかを判定し、変状矩形であると判定した輪郭ブロックで囲まれた領域を変状領域と確定する候補輪郭判定部106とを備えるようにした。これにより、微細な領域に対しても、変状領域の検出を可能とすることができる。
As described above, according to the first embodiment, the
なお、本願発明はその発明の範囲内において、実施の形態の任意の構成要素の変形、もしくは実施の形態の任意の構成要素の省略が可能である。 In the present invention, any constituent element of the embodiment can be modified or any constituent element of the embodiment can be omitted within the scope of the invention.
この発明に係る変状検出装置は、微細な領域に対しても、変状領域の検出を可能とできるように構成したため、対象物の表面の変状箇所を検出する変状検出装置に適用することができる。 Since the deformation detection device according to the present invention is configured to be able to detect a deformation region even for a fine region, the deformation detection device is applied to a deformation detection device that detects a deformation location on the surface of an object. be able to.
1 画像処理部、2 可視画像生成部、3 データ記録部、4 データ出力部、5 画像出力部、10 変状検出装置、101 画像変換部、102 背景輝度値算出部、103 候補矩形判定部、104 候補矩形統合部、105 候補輪郭抽出部、106 候補輪郭判定部、107 輪郭間距離判定部、108 領域統合部、109 データ生成部、110 画像生成部、1031 矩形設定部、1201 処理回路、1202 HDD、1203 入力インタフェース装置、1204 出力インタフェース装置、1205 メモリ、1206 CPU。
DESCRIPTION OF
Claims (8)
対象物の表面が撮影された可視画像の背景輝度値と、前記矩形設定部が設定した各矩形ブロック内の平均輝度値とに基づき、前記複数の矩形ブロックのうち、変状領域を形成する変状矩形の候補となる変状候補矩形を判定する候補矩形判定部と、
前記候補矩形判定部が判定した変状候補矩形のうち、互いに隣接する変状候補矩形の領域を統合した変状候補領域を設定する候補矩形統合部と、
前記候補矩形統合部が設定した変状候補領域の外周を形成する輪郭ブロックを抽出する候補輪郭抽出部と、
前記候補輪郭抽出部が抽出した各輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該各輪郭ブロックが前記変状矩形であるかどうかを判定し、前記変状矩形であると判定した輪郭ブロックで囲まれた領域を前記変状領域と確定する候補輪郭判定部
とを備えた変状検出装置。A rectangular setting unit that sets a plurality of rectangular blocks that divide a visible image in which the surface of the object is captured;
Based on the background luminance value of the visible image obtained by photographing the surface of the object and the average luminance value in each rectangular block set by the rectangular setting unit, a variable that forms a deformed area among the plurality of rectangular blocks is formed. A candidate rectangle determination unit that determines a deformed candidate rectangle that is a candidate for a rectangular shape;
A candidate rectangle integration unit for setting a deformation candidate region obtained by integrating the regions of the deformation candidate rectangles adjacent to each other among the deformation candidate rectangles determined by the candidate rectangle determination unit;
A candidate contour extraction unit that extracts a contour block that forms the outer periphery of the deformed candidate region set by the candidate rectangle integration unit;
Based on the luminance feature amount in each rectangular block around each contour block extracted by the candidate contour extraction unit, it is determined whether each contour block is the deformed rectangle, and the deformed rectangle is A deformation detection apparatus comprising: a candidate contour determination unit that determines a region surrounded by the determined contour block as the deformation region.
前記矩形設定部は、前記画像変換部が生成した変換後可視画像を分割する複数の矩形ブロックを設定し、
前記候補矩形判定部は、前記画像変換部が生成した変換後可視画像の背景輝度値と、前記矩形設定部が設定した各矩形ブロック内の平均輝度値とに基づき、前記変状候補矩形を判定する
ことを特徴とする請求項1記載の変状検出装置。An image conversion unit that generates a converted visible image obtained by converting luminance in a visible image obtained by photographing the surface of the object;
The rectangle setting unit sets a plurality of rectangular blocks for dividing the converted visible image generated by the image conversion unit,
The candidate rectangle determination unit determines the deformation candidate rectangle based on a background luminance value of the converted visible image generated by the image conversion unit and an average luminance value in each rectangular block set by the rectangle setting unit. The deformation detection device according to claim 1, wherein:
前記可視画像の解像度に応じて、前記矩形ブロックの大きさを可変とする
ことを特徴とする請求項1記載の変状検出装置。The rectangle setting unit
The deformation detection device according to claim 1, wherein the size of the rectangular block is variable according to the resolution of the visible image.
前記輪郭間距離判定部が、前記2つの変状領域を統合すると判定した場合に、当該2つの変状領域を統合し、統合後変状領域とする領域統合部と、
前記領域統合部が統合した統合後変状領域に関する情報からなる変状データを生成する変状データ生成部と、
前記領域統合部が統合した統合後変状領域に関する情報に基づく画像データを生成する画像生成部
とを備えた請求項1から請求項3のうちのいずれか1項記載の変状検出装置。Whether the candidate contour determination unit determines the shortest distance between two deformed regions out of the plurality of deformed regions, and whether to integrate the two deformed regions based on the determined shortest distance and a threshold value An inter-contour distance determination unit for determining whether or not
When the inter-contour distance determining unit determines that the two deformed regions are integrated, a region integrating unit that integrates the two deformed regions into a post-integrated deformed region;
A deformation data generation unit that generates deformation data composed of information related to the post-integration deformation region integrated by the region integration unit;
The deformation detection device according to claim 1, further comprising: an image generation unit configured to generate image data based on information related to the post-integration deformed region integrated by the region integration unit.
前記候補矩形判定部は、
前記矩形ブロック内の平均輝度値が、前記背景輝度値からオフセット値を減算した閾値より小さい場合に、当該矩形ブロックを前記変状候補矩形と判定する
ことを特徴とする請求項1記載の変状検出装置。The deformed region is a region deformed due to water leakage,
The candidate rectangle determination unit
2. The deformation according to claim 1, wherein when the average luminance value in the rectangular block is smaller than a threshold value obtained by subtracting an offset value from the background luminance value, the rectangular block is determined as the deformation candidate rectangle. Detection device.
前記候補矩形判定部は、
前記矩形ブロック内の平均輝度値が、前記背景輝度値にオフセット値を加算した閾値より大きい場合に、当該矩形ブロックを前記変状候補矩形と判定する
ことを特徴とする請求項1記載の変状検出装置。The deformed region is a region deformed by precipitates,
The candidate rectangle determination unit
2. The deformation according to claim 1, wherein when the average luminance value in the rectangular block is larger than a threshold obtained by adding an offset value to the background luminance value, the rectangular block is determined as the deformation candidate rectangle. Detection device.
を備えた請求項1記載の変状検出装置。The variable according to claim 1, further comprising: a visible image generation unit configured to acquire a plurality of photographed images obtained by photographing the target object from a camera, and combine the plurality of photographed images into one sheet to generate the visible image. Status detector.
候補矩形判定部が、対象物の表面が撮影された可視画像の背景輝度値と、前記矩形設定部が設定した各矩形ブロック内の平均輝度値とに基づき、前記複数の矩形ブロックのうち、変状領域を形成する変状矩形の候補となる変状候補矩形を判定するステップと、
候補矩形統合部が、前記候補矩形判定部が判定した変状候補矩形のうち、互いに隣接する変状候補矩形の領域を統合した変状候補領域を設定するステップと、
候補輪郭抽出部が、前記候補矩形統合部が設定した変状候補領域の外周を形成する輪郭ブロックを抽出するステップと、
候補輪郭判定部が、前記候補輪郭抽出部が抽出した各輪郭ブロックの周囲の各矩形ブロック内の輝度の特徴量に基づき、当該各輪郭ブロックが前記変状矩形であるかどうかを判定し、前記変状矩形であると判定した輪郭ブロックで囲まれた領域を前記変状領域と確定するステップ
とを備えた変状検出方法。A step of setting a plurality of rectangular blocks by which the rectangular setting unit divides the visible image in which the surface of the object is captured;
The candidate rectangle determination unit is configured to change a variable among the plurality of rectangular blocks based on a background luminance value of a visible image obtained by photographing the surface of the target object and an average luminance value in each rectangular block set by the rectangle setting unit. Determining a deformed candidate rectangle that is a deformed rectangle candidate forming the deformed region;
A candidate rectangle integration unit setting a transformation candidate region obtained by integrating regions of transformation candidate rectangles adjacent to each other among the transformation candidate rectangles determined by the candidate rectangle determination unit;
A candidate contour extracting unit extracting a contour block forming an outer periphery of the deformed candidate region set by the candidate rectangle integrating unit;
The candidate contour determination unit determines whether each contour block is the deformed rectangle based on the luminance feature amount in each rectangular block around each contour block extracted by the candidate contour extraction unit, A deformation detection method comprising: determining an area surrounded by a contour block determined to be a deformed rectangle as the deformed area.
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2017/032493 WO2019049316A1 (en) | 2017-09-08 | 2017-09-08 | Deformation detection device and deformation detection method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP6548857B1 JP6548857B1 (en) | 2019-07-24 |
JPWO2019049316A1 true JPWO2019049316A1 (en) | 2019-11-07 |
Family
ID=65633824
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019514061A Active JP6548857B1 (en) | 2017-09-08 | 2017-09-08 | Deformation detection device and deformation detection method |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP6548857B1 (en) |
WO (1) | WO2019049316A1 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112614115B (en) * | 2020-12-28 | 2024-03-26 | 中国第一汽车股份有限公司 | Power battery water seepage monitoring method |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004264237A (en) * | 2003-03-04 | 2004-09-24 | Matsushita Electric Ind Co Ltd | Crack detection device |
JP4751991B2 (en) * | 2005-07-20 | 2011-08-17 | 財団法人北九州産業学術推進機構 | Method and apparatus for detecting and discriminating defects inside a tube |
US8873837B2 (en) * | 2011-08-04 | 2014-10-28 | University Of Southern California | Image-based crack detection |
SG11201709275YA (en) * | 2015-05-26 | 2017-12-28 | Mitsubishi Electric Corp | Detection apparatus and detection method |
-
2017
- 2017-09-08 JP JP2019514061A patent/JP6548857B1/en active Active
- 2017-09-08 WO PCT/JP2017/032493 patent/WO2019049316A1/en active Application Filing
Also Published As
Publication number | Publication date |
---|---|
JP6548857B1 (en) | 2019-07-24 |
WO2019049316A1 (en) | 2019-03-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20180255254A1 (en) | Automatic lens flare detection and correction for light-field images | |
JP6469678B2 (en) | System and method for correcting image artifacts | |
JP5825172B2 (en) | Image determination apparatus, image determination method, and computer program for image determination | |
JP5768590B2 (en) | Image processing apparatus, image processing method, and program | |
JP5870745B2 (en) | Image processing apparatus, binarization threshold value calculation method, and computer program | |
JP2012073997A (en) | Object tracking device, object tracking method, and program thereof | |
JP2011250013A (en) | Image quality evaluation method, image quality evaluation apparatus, and program | |
JP6564284B2 (en) | Image processing apparatus and image processing method | |
CN113888509A (en) | Method, device and equipment for evaluating image definition and storage medium | |
JP6478639B2 (en) | IMAGE PROCESSING APPARATUS, IMAGE PROCESSING METHOD, AND PROGRAM | |
JP2005345290A (en) | Streak-like flaw detecting method and streak-like flaw detector | |
JP6548857B1 (en) | Deformation detection device and deformation detection method | |
US20150145983A1 (en) | Image acquisition device, image acquisition method, and computer-readable storage medium | |
JP2016164709A (en) | Image processing device, imaging apparatus, and image processing program | |
JP6657622B2 (en) | Image processing apparatus and image processing method | |
JP5927265B2 (en) | Image processing apparatus and program | |
JP2017103756A (en) | Image data processing apparatus and method | |
JP2006302115A (en) | Object detection method and object detection device | |
JP2017162391A (en) | Image processing method and image processing program | |
JP2017054431A (en) | Image processing device, image processing method, and program | |
US10380463B2 (en) | Image processing device, setting support method, and non-transitory computer-readable media | |
JP6105960B2 (en) | Image processing apparatus, image processing method, and imaging apparatus | |
JP2018072942A (en) | Image processing apparatus, image processing method, program, and storage medium | |
JP2017098900A (en) | Image processing apparatus, image processing method, and program | |
JP6827778B2 (en) | Image processing equipment, image processing methods and programs |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190312 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190312 |
|
A871 | Explanation of circumstances concerning accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A871 Effective date: 20190312 |
|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20190418 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190528 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190625 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6548857 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |