JPH0843316A - Automatic diagnosing method for coating film deterioration and its device - Google Patents

Automatic diagnosing method for coating film deterioration and its device

Info

Publication number
JPH0843316A
JPH0843316A JP6174524A JP17452494A JPH0843316A JP H0843316 A JPH0843316 A JP H0843316A JP 6174524 A JP6174524 A JP 6174524A JP 17452494 A JP17452494 A JP 17452494A JP H0843316 A JPH0843316 A JP H0843316A
Authority
JP
Japan
Prior art keywords
image
deterioration
processing
data
coating film
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP6174524A
Other languages
Japanese (ja)
Other versions
JP3342581B2 (en
Inventor
Teruzou Sugano
照造 菅野
Sadao Degawa
定男 出川
Yukihiro Kono
幸弘 河野
Takaaki Akai
隆晃 赤井
Hiroshi Fujiwara
博 藤原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
BOSHOKU ENG KK
IHI Corp
Original Assignee
BOSHOKU ENG KK
IHI Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by BOSHOKU ENG KK, IHI Corp filed Critical BOSHOKU ENG KK
Priority to JP17452494A priority Critical patent/JP3342581B2/en
Publication of JPH0843316A publication Critical patent/JPH0843316A/en
Application granted granted Critical
Publication of JP3342581B2 publication Critical patent/JP3342581B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Abstract

PURPOSE:To provide an automatic diagnosing method for coating film deterioration and its device which can conduct automatic setting of calibration and a process range in evaluation of a deterioration part of painting surface based on image information taken into a computer. CONSTITUTION:The device, in which a painting surface 2 applied to a structure such as a steel bridge is taken into an image input device 3 and a deterioration part of the painting surface 2 is diagnosed based on the image, is provided with an object structure data base 9 wherein dimensions of characteristic parts of a structure to be inspected are stored; an image processing device 4 which takes in an image from the image input device 3 and detects characteristic parts in the image; and a calculating-diagnosing device 6 into which image data of the image processing device 4 as well as data of the object structure data base 9 are inputted and which conducts calibration based on both the data, determines a process range of the painting surface 2, and diagnoses deterioration of coating film.

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【産業上の利用分野】本発明は、鋼橋等の構造物の塗装
面の劣化度を検出するための塗膜劣化自動診断方法及び
その装置に関するものである。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a coating film deterioration automatic diagnosing method and apparatus for detecting the degree of deterioration of a painted surface of a structure such as a steel bridge.

【0002】[0002]

【従来の技術】鋼橋等の構造物を構成する鋼材には、防
錆のために塗装が施されるが、施された塗装面は、年数
が経つにつれて劣化し、塗膜の割れ、ハガレ、サビ等が
生じるため、定期的に塗膜面の劣化を検査し、その検査
に基づいて再塗装などのメンテナンスを行うようにして
いる。
2. Description of the Related Art A steel material constituting a structure such as a steel bridge is coated for rust prevention, but the coated surface is deteriorated with the lapse of years, and the coating film is cracked or peeled. Since rust and the like occur, the coating film surface is regularly inspected for deterioration, and maintenance such as repainting is performed based on the inspection.

【0003】従来、塗装面の検査は、検査対象となる塗
装面を目視観察することにより、劣化度を判定していた
が、担当者によって個人差をなくすことができず、客観
性に欠ける問題がある。
Conventionally, in the inspection of the coated surface, the degree of deterioration has been judged by visually observing the coated surface to be inspected. However, the person in charge cannot eliminate the individual difference, resulting in lack of objectivity. There is.

【0004】そこで、目視評価結果をデータベースとし
て蓄積し、塗膜劣化診断システムを開発する試みが提案
されている。
Therefore, an attempt has been proposed to accumulate a visual evaluation result as a database and develop a coating film deterioration diagnosis system.

【0005】この塗膜劣化診断システムは、特願平4−
271847号(発明の名称:塗膜劣化診断方法及び装
置)に提案されるように、検査対象とする塗装面をCC
Dカメラなどで撮像し、この画像情報をコンピュータに
取り込み、画像から劣化部を抽出すると共にその劣化部
を、予め定めた判定基準より作成したデータベースを基
に劣化度を診断するようにしたものである。特に、取り
込んだ画像には光の明暗、例えば、影等によって生じる
塗装面の濃淡差など、撮影上及び塗装面の構造上生じる
シェーディングの影響を受けるため、先願の診断システ
ムでは、画像に濃淡モフォロジィ処理を行ってシーディ
ングの影響を除いて、塗装面より純粋に、割れ、ハガ
レ、サビ等により生じる濃淡変化領域を個別変状部とし
て抽出し、その個別変状部(劣化部)の面積、平均濃淡
値に対する濃淡値の差などを算出すると共に上述のデー
タベースと比較して塗装面の劣化度を診断するものであ
る。
This coating film deterioration diagnosis system is disclosed in Japanese Patent Application No. 4-
No. 271847 (Title of Invention: Method and apparatus for diagnosing coating film deterioration), the coated surface to be inspected is CC
The image is taken by a D camera or the like, this image information is taken into a computer, the deteriorated portion is extracted from the image, and the deteriorated portion is diagnosed on the basis of a database created based on a predetermined criterion. is there. In particular, the captured image is affected by the shading that occurs on the shooting and the structure of the painted surface, such as the contrast of the painted surface caused by light and shade of light, such as shadows. The morphology process is applied to remove the effect of seeding, and the gray-scale change area that is caused by cracks, peeling, rust, etc. is extracted as an individual deformed portion, and the area of the individual deformed portion (deteriorated portion) is extracted purely from the painted surface. The difference between the average gray value and the gray value is calculated, and the degree of deterioration of the coated surface is diagnosed by comparing with the above database.

【0006】この先願の発明においては、塗装面を診断
する際に、劣化部の実寸法を求めるが、画像より実寸法
を求めるには、操作員が、画像のキャリブレーション設
定を行う必要がある。そこで、塗装面を撮影するに当た
って、塗装面の一部にスケールを取り付け、操作員が、
画像上のスケールを見て実寸法キャリブレーションの設
定を行うようにしている。
In the invention of this prior application, when diagnosing the coated surface, the actual dimension of the deteriorated portion is obtained, but in order to obtain the actual dimension from the image, the operator needs to perform calibration setting of the image. . Therefore, when photographing the painted surface, an operator attached a scale to a part of the painted surface and the operator
The actual size calibration is set by looking at the scale on the image.

【0007】[0007]

【発明が解決しようとする課題】しかしながら、検査す
る塗装面は、何枚もあり、塗装面ごとスケールを貼り付
けていたのでは、能率が悪くなる問題がある。またスケ
ールを用いずに、操作員が、画像の特徴的部分を見てキ
ャリブレーションの操作を行うことも可能であるが、画
像毎に操作したのでは、その操作が大変であり、また個
人差も避けられない問題も生じる。
However, there are many painted surfaces to be inspected, and if the scale is attached to each painted surface, there is a problem that the efficiency becomes poor. It is also possible for the operator to perform the calibration operation by looking at the characteristic part of the image without using a scale, but if it is operated for each image, the operation is difficult and there are individual differences. However, there are some problems that cannot be avoided.

【0008】さらに、先願においては、画像から塗装面
の劣化診断の処理領域を設定するには、操作員が、その
処理範囲を手動で設定しなければならず、操作員に負担
をかけやすい問題があった。
Further, in the prior application, in order to set the processing area for the deterioration diagnosis of the painted surface from the image, the operator must manually set the processing range, which is easy to burden the operator. There was a problem.

【0009】そこで、本発明の目的は、上記課題を解決
し、コンピュータに取り込んだ画像情報から塗装面の劣
化部を評価するにおいて、自動的にキャリブレーション
の設定が行えると共に処理範囲を自動的に設定すること
ができる塗膜劣化自動診断方法及び装置を提供すること
にある。
Therefore, an object of the present invention is to solve the above-mentioned problems and to automatically set calibration and to automatically set a processing range when evaluating a deteriorated portion of a painted surface from image information taken in a computer. An object is to provide a coating film deterioration automatic diagnosis method and apparatus that can be set.

【0010】[0010]

【課題を解決するための手段】上記目的を達成するため
に、請求項1の発明は、鋼橋等の構造物に施された塗装
面を画像入力装置を介してコンピュータに取り込んで、
塗装面の劣化部を診断する方法において、検査すべき構
造物の特徴的な部分の寸法をデータとして格納し、取り
込んだ画像より特徴的な部分を検出すると共に上記デー
タを基にキャリブレーションを行い、しかる後、検査す
べき塗装面の処理範囲を設定して塗膜の劣化を診断する
ことを特徴とする塗膜劣化自動診断方法である。
In order to achieve the above-mentioned object, the invention of claim 1 takes in a coated surface applied to a structure such as a steel bridge into a computer through an image input device,
In the method of diagnosing the deteriorated part of the painted surface, the dimensions of the characteristic part of the structure to be inspected are stored as data, the characteristic part is detected from the captured image, and calibration is performed based on the above data. Then, the coating film deterioration automatic diagnosis method is characterized in that the processing range of the coating surface to be inspected is set and the deterioration of the coating film is diagnosed.

【0011】請求項2の発明は、鋼橋等の構造物に施さ
れた塗装面を画像入力装置に取り込み、その画像より塗
装面の劣化部を診断する装置において、検査すべき構造
物の特徴的な部分の寸法が格納された対象構造物データ
ベースと、画像入力装置からの画像を取り込むと共に画
像中の特徴部分を検出する画像処理装置と、その画像処
理装置の画像データが入力されると共に対象構造物デー
タベースのデータが入力され、両データより基にキャリ
ブレーションを行うと共に検査すべき塗装面の処理範囲
を設定して塗膜の劣化を診断する演算・診断装置とを備
えたことを特徴とする塗膜劣化自動診断装置である。
According to a second aspect of the present invention, in a device for inspecting a deteriorated portion of the painted surface from the image by taking in the painted surface applied to the structure such as a steel bridge into an image input device, the feature of the structure to be inspected Target structure database in which the dimensions of specific parts are stored, an image processing device that captures an image from an image input device and detects a characteristic part in the image, and image data of the image processing device is input and the target Data of the structure database is input, calibration based on both data is set, and a processing / diagnosis device for diagnosing coating film deterioration by setting the processing range of the painted surface to be inspected is provided. It is a coating film deterioration automatic diagnosis device that does.

【0012】[0012]

【作用】上記構成によれば、撮影する構造物の塗装面の
形状は、例えばI型鋼材のフランジ部の下面等であり、
その鋼材の下面の幅寸法を特徴部分の寸法として対象構
造物データベースに格納しておき、取り込んだ画像より
画像処理にてフランジ部の縁を検出することで特徴的部
分の寸法を求め、この画像上の寸法とデータベースから
の実寸法とから、上記画像上の寸法に相当する画素数が
実寸法で何mmとなるかを換算するためのキャリブレー
ションを行うと共に、画面から検査に不要な部分を除い
て、検査すべき処理範囲を設定することで、劣化診断を
自動的に行える。
According to the above construction, the shape of the painted surface of the structure to be photographed is, for example, the lower surface of the flange of the I-shaped steel material,
The width dimension of the bottom surface of the steel material is stored in the target structure database as the dimension of the characteristic portion, and the dimension of the characteristic portion is obtained by detecting the edge of the flange portion by image processing from the captured image. From the above dimensions and the actual dimensions from the database, calibration is performed to convert how many mm the number of pixels corresponding to the above-mentioned dimensions in the actual dimensions will be. Except for this, deterioration diagnosis can be performed automatically by setting the processing range to be inspected.

【0013】[0013]

【実施例】以下、本発明の一実施例を添付図面に基づい
て詳述する。
An embodiment of the present invention will be described in detail below with reference to the accompanying drawings.

【0014】本システムの主な構成を図1により説明す
る。
The main configuration of this system will be described with reference to FIG.

【0015】先ず、1は、構造物の塗装面2を含む塗装
面画像を示し、その塗装面画像1が画像入力装置3に取
り込まれる。この画像入力装置3は、コンピュータの画
像処理装置4に入力するものであればいかなる形式のも
のでもよく、例えば画像を画像処理装置4に直接入力す
るCCDカメラ、塗装面画像を撮影したVTRテープを
ビデオデッキの再生画像から画像処理装置4に入力する
形式のものでも、塗装面画像1の写真をスキャナなどで
読み取って画像処理装置4に入力しても或いは写真のネ
ガをフォトCDに納め、そのフォトCDをCD−ROM
ドライブで再生し、その画像信号を画像処理装置4に入
力する形式のものでも、さらにパソコン通信にて画像処
理装置4に取り込む等、いずれの形式のものでもよい。
First, reference numeral 1 denotes a painted surface image including a painted surface 2 of a structure, and the painted surface image 1 is taken into an image input device 3. The image input device 3 may be of any type as long as it can be input to the image processing device 4 of the computer. For example, a CCD camera for directly inputting an image to the image processing device 4 or a VTR tape on which a painted surface image is photographed is used. Even in the format in which the image reproduced from the video deck is input to the image processing apparatus 4, the photograph of the painted surface image 1 is read by a scanner or the like and input to the image processing apparatus 4, or the negative of the photograph is stored in the photo CD. Photo CD to CD-ROM
The format may be one in which the image is reproduced by a drive and the image signal is input to the image processing apparatus 4, or one in which the image signal is captured by the image processing apparatus 4 by personal computer communication.

【0016】画像入力装置3からの画像情報は、コンピ
ュータの画像処理装置4に取り込まれ、画像処理装置4
により種々の画像処理がなされて、劣化部の抽出、塗装
面2の特徴部分であるエッジ2aを検出、検出したエッ
ジ2aの幅(寸法)hの検出等がなされる。画像処理装
置4に取り込まれた画像は、画像フレームメモリ5と演
算・診断装置6に送られる。
The image information from the image input device 3 is taken into the image processing device 4 of the computer, and the image processing device 4
Thus, various image processings are performed to extract a deteriorated portion, detect an edge 2a which is a characteristic portion of the painted surface 2, and detect a width (dimension) h of the detected edge 2a. The image captured by the image processing device 4 is sent to the image frame memory 5 and the calculation / diagnosis device 6.

【0017】画像フレームメモリ5は、画像処理装置4
と演算・診断装置6につながっており、コンピュータに
取り込まれた複数枚の画像を管理すると共に画像処理装
置4側にある現画像、画像処理後の結果画像等を演算・
診断装置6からも参照できるようになっている。
The image frame memory 5 includes an image processing device 4
Is connected to the calculation / diagnosis device 6, and manages a plurality of images captured by the computer, and calculates the current image on the image processing device 4 side, the result image after image processing, etc.
The diagnostic device 6 can also refer to it.

【0018】演算・診断装置6には、キーボード7が接
続されると共に表示装置8が接続される。この演算・診
断装置6は、対象構造物データベース9、検査履歴デー
タベース10、判定基準データベース11とアクセスで
き、画像処理装置4からの画像より実寸法キャリブレー
ション処理、処理範囲の設定、劣化部の幾何学的特徴量
及び劣化度の評価処理を行うようになっており、またこ
れら検査結果を表、グラフ、画像の形で表示装置8に表
示するようになっている。また処理結果のデータは、逐
次検査履歴データベース10、判定基準データベース1
1に蓄積され、以後の検査のデータベースとして格納す
るようになっている。
A keyboard 7 and a display device 8 are connected to the arithmetic / diagnosis device 6. The arithmetic / diagnosis device 6 can access the target structure database 9, the inspection history database 10, and the judgment reference database 11, and the actual size calibration process, the setting of the processing range, and the geometry of the deteriorated portion are performed from the image from the image processing device 4. The evaluation process of the biological characteristic amount and the deterioration degree is performed, and these inspection results are displayed on the display device 8 in the form of a table, a graph, or an image. Further, the data of the processing results are the inspection history database 10 and the judgment standard database 1
It is stored in 1 and stored as a database of subsequent examinations.

【0019】対象構造物データベース9は、検査対象と
なる構造物の塗装面における鋼材の特徴部分の寸法、例
えばI形鋼材のフランジ部の寸法や設置環境等の情報を
記録しており、演算・診断装置6は、このデータベース
9からの情報と画像処理装置4からの特徴部分の寸法デ
ータより、実寸法キャリブレーション、処理範囲の設定
を行うと共に、劣化部の抽出、劣化度の評価にも使用す
る。
The target structure database 9 records the dimensions of the characteristic portions of the steel material on the painted surface of the structure to be inspected, for example, the dimensions of the flange portion of the I-shaped steel material and the installation environment. The diagnostic device 6 uses the information from the database 9 and the dimension data of the characteristic portion from the image processing device 4 to perform actual dimension calibration and setting of a processing range, and also to extract a deteriorated portion and evaluate the degree of deterioration. To do.

【0020】判定基準データベース11は、劣化部の幾
何学的特徴量を基に、劣化度を評価するための判定基準
が格納しており、劣化度の評価において使用される。
The criteria database 11 stores criteria for evaluating the degree of deterioration based on the geometrical feature of the deteriorated portion, and is used in the evaluation of the degree of deterioration.

【0021】検査履歴データベース10は、検査に用い
た現画像、処理後の画像、及び検査結果等を記録したも
のであり、演算・診断装置6による診断時には過去の検
査結果も参照できるようになっている。
The inspection history database 10 records the current image used in the inspection, the processed image, the inspection result, and the like, and the past inspection result can be referred to during the diagnosis by the arithmetic / diagnosis device 6. ing.

【0022】次に、本発明の診断方法の図2に示した処
理フロー20〜26の概略を説明する。
Next, an outline of the processing flows 20 to 26 shown in FIG. 2 of the diagnostic method of the present invention will be described.

【0023】画像入力20:現場で撮影した塗装面の写
真、ビデオテープから、或いは直接現場から、塗装面の
画像情報を画像入力装置3を介してシステムに入力す
る。入力する画像情報が複数枚ある場合には、一括して
入力する。また図1では、画像処理装置4に入力される
ようになっているが、画像フレームメモリ5を介して複
数枚の画像を入力し、その画像を順次画像処理装置4に
送るようにしてもよい。
Image input 20: Image information of the painted surface is input to the system through the image input device 3 from a photograph of the painted surface taken on site, a video tape, or directly from the site. If there are multiple pieces of image information to be input, input them all at once. In FIG. 1, the image is input to the image processing apparatus 4, but a plurality of images may be input via the image frame memory 5 and the images may be sequentially sent to the image processing apparatus 4. .

【0024】入力された画像は、画像処理後、画像フレ
ームメモリ5に転送される。
The input image is transferred to the image frame memory 5 after image processing.

【0025】実寸法算出21(実寸法キャリブレーショ
ン):キャリブレーション作業は、既知寸法の2点の画
像上における特徴部分の位置と2点間の実寸法を設定す
ることにより行う。
Actual dimension calculation 21 (actual dimension calibration): The calibration operation is performed by setting the positions of the characteristic portions on the image of two points of known dimensions and the actual dimension between the two points.

【0026】特徴部分の既知寸法の2点としては、塗装
面である鋼材の両端エッジ部、或いは画像上に現れてい
る既知の特徴部分の寸法(例えばスケールがあればその
スケール寸法)を用いてもよい。
As the two known dimensions of the characteristic portion, the edges of both ends of the steel material which is the painted surface, or the dimension of the known characteristic portion appearing on the image (for example, the scale dimension of the scale) is used. Good.

【0027】両端部エッジの位置、及びエッジ間の画像
上での距離(幅寸法)は、画像処理技術を用いて求め、
両端エッジ部の実寸法は、対象構造物データベース9か
ら求める。
The positions of the edges at both ends and the distance (width dimension) on the image between the edges are obtained by using an image processing technique,
The actual dimensions of both edge portions are obtained from the target structure database 9.

【0028】すなわち、図1でエッジ2a間の寸法hに
相当する画素数に対して実寸法が何mmであるか、例え
ば寸法hに相当する画素数が400で、実寸法が300
mmであれば、1画素数が約1.33mmであり、この
換算値に基づいてキャリブレーションを行う。
That is, in FIG. 1, how many millimeters the actual dimension is with respect to the number of pixels corresponding to the dimension h between the edges 2a, for example, the number of pixels corresponding to the dimension h is 400 and the actual dimension is 300.
If it is mm, the number of one pixel is about 1.33 mm, and the calibration is performed based on this converted value.

【0029】処理範囲の設定22 塗装面の画像データから画像処理技術を用いることによ
って、鋼材の両端エッジ部を求め、処理範囲を鋼材の内
側に自動的に設定する。最終的には、処理範囲部分のみ
を有効とするマスク画像を作成し、画像フレームメモリ
5に転送する。
Setting of processing range 22 By using the image processing technique from the image data of the coated surface, both edge portions of the steel material are obtained, and the processing area is automatically set inside the steel material. Finally, a mask image that makes only the processing range effective is created and transferred to the image frame memory 5.

【0030】この処理範囲の設定においては、濃淡モフ
ォロジィ処理する際、処理範囲に対してフィルタサイズ
(16×16ドットのマス、上記例では、実寸法で約2
1×21mm角)で、それぞれの領域の平均濃度値を求
めるため、画像上の処理範囲の行と列の幅が、それぞれ
フィルタサイズの整数倍となり、かつその処理範囲が、
全てエッジの内側、画像の左右幅の内側になるように設
定する。
In setting the processing range, when performing the density morphology processing, the filter size (16 × 16 dot mass, in the above example, the actual size is about 2) with respect to the processing range.
(1 × 21 mm square), the average density value of each area is obtained. Therefore, the row and column widths of the processing range on the image are each an integral multiple of the filter size, and the processing range is
Set them so that they are all inside the edge and inside the left and right width of the image.

【0031】鋼材のエッジ部の抽出法としては、 塗装面の画像データに対して、微分フィルタリング
処理(sobelフィルタ等) 2値化処理を順に施して濃
淡値が急変する部分を求める。
As a method for extracting the edge portion of the steel material, differential filtering processing (sobel filter or the like) binarization processing is sequentially performed on the image data of the coated surface to obtain a portion where the gray value suddenly changes.

【0032】 最小2乗法、Hough 変換などの直線検
出処理を施すことによって、長い2本の直線部分を求め
る。
Two long straight line portions are obtained by performing a straight line detection process such as the least squares method and the Hough transform.

【0033】などの処理を行う。Processing such as the above is performed.

【0034】処理範囲は、予め定めた幅の画像周辺部を
除き、かつ、鋼材の両端エッジ部の間(余裕を見て若干
内側とする)とする。
The processing range is set to be between the edge portions at both ends of the steel material (slightly inside) with the exception of the peripheral portion of the image having a predetermined width.

【0035】なお、対象塗装面内部に人工的なラベル等
不要部がある場合には、操作員が不要部の外周多角形の
頂点をマウスの操作やカーソルキーの操作などで順次指
定することによって、マニュアル操作により対処するこ
ともできるようになっている。
If there is an unnecessary portion such as an artificial label inside the target coated surface, the operator sequentially specifies the vertices of the outer peripheral polygon of the unnecessary portion by operating the mouse or the cursor keys. It can also be dealt with manually.

【0036】劣化部の抽出処理23 画像処理装置4は、入力した塗装面の現画像と画像フレ
ームメモリ5上の処理範囲マスク画像を基に、塗装面画
像の処理範囲内部に対して、画像処理技術を用いること
によって、劣化部を抽出する。
Deterioration processing 23: The image processing device 4 performs image processing on the inside of the processing range of the painted surface image based on the input current image of the painted surface and the processing range mask image on the image frame memory 5. By using the technique, the deteriorated portion is extracted.

【0037】劣化部の抽出方法の例としては、鋼材など
の影などのような照射ムラの影響を受けずに劣化部を抽
出するため、周囲に比べて局所的に暗い部分のみ抽出す
る濃淡モフォロジィ処理などの適用が考えられる。
As an example of the method of extracting the deteriorated portion, since the deteriorated portion is extracted without being affected by the irradiation unevenness such as the shadow of the steel material, etc., the dark and light morphology in which only the dark portion is locally extracted from the surroundings is extracted. Application of treatment etc. is considered.

【0038】処理後の劣化部画像は、画像フレームメモ
リに転送される。
The deteriorated portion image after processing is transferred to the image frame memory.

【0039】特徴量算出24:劣化部画像を基に、劣化
度評価に必要な各種幾何学的特徴量、及びその統計量を
算出する。基本手順は、以下の通りである。
Characteristic amount calculation 24: Various geometrical characteristic amounts necessary for the deterioration degree evaluation and their statistical amounts are calculated based on the deteriorated portion image. The basic procedure is as follows.

【0040】 劣化部画像に対してラベリング処理を
施す。
Labeling processing is performed on the deteriorated portion image.

【0041】 各ラベル毎に面積、周囲長、円形度の
幾何学的特徴量を求める。
Geometrical feature quantities such as area, perimeter, and circularity are calculated for each label.

【0042】 上記各種特徴量について、最大値、最
小値、平均値、分散などの統計量、及び劣化部の個数を
求める。
With respect to the above-mentioned various feature amounts, the maximum value, the minimum value, the average value, the statistic amount such as the variance, and the number of deteriorated parts are obtained.

【0043】 処理領域全体の面積と劣化部全体の面
積から劣化部の面積占有率を求める。
The area occupancy of the deteriorated portion is obtained from the area of the entire processing region and the area of the entire deteriorated portion.

【0044】 ラベル毎に粒径を求め、粒径毎に劣化
部の面積占有率を求める。
The particle size is calculated for each label, and the area occupancy of the deteriorated portion is calculated for each particle size.

【0045】画像単位の劣化度の評価25:判定基準デ
ータベースの内容と得られた各種特徴量を比較すること
によって、画像1枚についての劣化度を評価する。劣化
度の評価基準の例としては、画像全体に占める劣化部分
の面積占有率や劣化部を粒径毎に分類し、各グループ毎
の面積占有率を基に評価する。
Evaluation of Degradation Degree in Image Unit 25: Degradation degree of one image is evaluated by comparing the contents of the judgment reference database with the obtained various feature amounts. As an example of the evaluation criterion of the deterioration degree, the area occupancy rate of the deteriorated part in the entire image and the deteriorated part are classified according to the particle size, and the deterioration rate is evaluated based on the area occupancy rate of each group.

【0046】劣化度の総合評価26:先ず、鋼材単位で
評価し、次に構造物全体について評価する。
Comprehensive evaluation 26 of deterioration degree: First, evaluation is made in units of steel material, and then evaluation is made of the entire structure.

【0047】鋼材単位の評価は、同一鋼材に含まれる複
数枚の画像の判定結果を統計処理することによって算出
する。この時、判定結果が平均値から偏差が著しい画像
については、劣化部の抽出などの処理が適切に行われて
いないと判断して鋼材の評価から除外する。必要に応じ
て、操作員が画像の良否を判断できるようにもなってい
る。
The evaluation for each steel material is calculated by statistically processing the judgment results of a plurality of images contained in the same steel material. At this time, with respect to the image in which the determination result has a large deviation from the average value, it is determined that the processing such as extraction of the deteriorated portion is not properly performed, and the image is excluded from the evaluation of the steel material. If necessary, the operator can judge the quality of the image.

【0048】構造物全体の評価は、対象構造物データベ
ース9から各鋼材の重要性の度合いを表した重み計数を
入手し、部材毎の評価結果を重み付け平均などの統計処
理することによって算出する。これによって、構造物全
体の劣化度を偏りなく評価できると共に各鋼材の評価も
行っているため、部分塗替え等の判定も行うことができ
る。
The evaluation of the entire structure is calculated by obtaining a weighting factor representing the degree of importance of each steel material from the target structure database 9 and statistically processing the evaluation result of each member such as a weighted average. As a result, the degree of deterioration of the entire structure can be evaluated without deviation and the evaluation of each steel material can be performed, so that it is possible to judge partial repainting.

【0049】その他の処理:検査した塗装面の画像情
報、及び検査情報は、必要に応じて表示装置8上に表示
すると共に検査履歴データベース10に蓄積する。ま
た、検査履歴データベース10から過去の検査結果を参
照したり、再検査を行うことができるようになってい
る。
Other processing: The image information of the inspected coated surface and the inspection information are displayed on the display device 8 as necessary and are stored in the inspection history database 10. Further, the past inspection result can be referred to from the inspection history database 10 and the reinspection can be performed.

【0050】次に図3により図2に示した処理フローの
フローチャートを説明する。
Next, the flow chart of the processing flow shown in FIG. 2 will be described with reference to FIG.

【0051】図3(a)において、診断の開始30する
際に、塗装面の撮影31を行う。本発明においては、画
像毎にエッジ寸法を求めてキャリブレーションを行う
が、ロボットなどによる塗装面の自動撮影等で撮影倍率
が鋼橋の一乃至数径間で同一条件で撮影が可能であり、
この場合、後のキャリブレーションの省力化のために、
極力同一条件で写真撮影を行う。
In FIG. 3A, when the diagnosis is started 30, a photograph 31 of the coated surface is taken. In the present invention, the edge dimension is obtained and calibrated for each image, but it is possible to photograph under the same conditions with a photographing magnification of one or several diameters of the steel bridge by automatic photographing of the painted surface by a robot or the like,
In this case, in order to save the labor of calibration later,
Take pictures under the same conditions as much as possible.

【0052】このキャリブレーションアルゴリズムにつ
いて説明する。
This calibration algorithm will be described.

【0053】撮影画像としては、画像を大きく、 鋼橋の設置環境を表す全景参照用画像 既知寸法の物差し部材を含めた実寸法算出用画像 検査対象となる塗装面を写した劣化度評価用画像 の3種類を撮影する。As a photographed image, a large image is used for a panoramic reference image showing the installation environment of a steel bridge. An image for calculating actual dimensions including a ruler member of a known dimension. Take 3 types.

【0054】画像の入力手順は、基本的に、実寸法算出
用の画像を最初にシステムに取り込み、その後でスケー
ル条件(レンズの焦点距離、塗装面とカメラとの距離な
ど)を同一条件にして撮影した劣化度評価用画像を取り
込むようにする。
The image input procedure is basically such that the image for actual size calculation is first loaded into the system and then the scale conditions (focal length of lens, distance between painting surface and camera, etc.) are set to the same conditions. The captured deterioration evaluation image is captured.

【0055】すなわち、実寸法算出用画像の後に取り込
まれた劣化度評価用画像は、全てこの実寸法算出用画像
と寸法が同一となるよう撮像され、カメラレンズの焦点
距離を変更した場合には、劣化度評価用画像を撮影する
前に対応する寸法比で実寸法算出用画像を算出し、適切
な寸法比率が算出できるようにしておく。
That is, all the deterioration degree evaluation images captured after the actual size calculation image are imaged so as to have the same dimensions as the actual size calculation image, and when the focal length of the camera lens is changed. Before the deterioration degree evaluation image is captured, the actual dimension calculation image is calculated with the corresponding dimension ratio so that the appropriate dimension ratio can be calculated.

【0056】但し、全景参照用画像は、参考用の画像で
あるため、評価の対象とはしないが、この全景参照用画
像より全検査範囲を設定し、対象構造物データベースに
上記実寸法算出用画像及びそれに付随する劣化度評価用
画像の入力順データを格納する際に使用する。
However, since the full view reference image is a reference image, it is not an object of evaluation, but the whole inspection range is set from this full view reference image, and the above-mentioned actual size calculation is made in the target structure database. It is used when storing the input order data of an image and the image for deterioration degree evaluation accompanying it.

【0057】さて図3のフローチャートを説明すると上
述のように実寸法算出用画像及びそれに付随する劣化度
評価用画像画像が入力20され、step1で、入力さ
れた全画像検査終了が判断される。全画像の検査が終了
しない場合(no)、図3(b)に示すサブルーチンの
step2に移り、実寸法算出画像かどうかが判断され
る。先ず最初に入力される画像は上述のように実画像で
あり(yes)、次に実寸法キャリブレーション21が
なされる。
The flow chart of FIG. 3 will now be described. As described above, the actual size calculation image and the deterioration degree evaluation image image associated therewith are input 20, and in step 1, it is determined that the input entire image inspection is completed. If the inspection of all the images is not completed (no), the process moves to step 2 of the subroutine shown in FIG. 3B, and it is determined whether the image is an actual size calculation image. The first input image is a real image as described above (yes), and then the real size calibration 21 is performed.

【0058】このキャリブレーション21を図5により
説明すると、実寸法算出画像35は、塗装面2と、斜線
で示した背景部分36及び塗装は施されていても検査に
は不要な部分37などから構成され、かつその塗装面2
のエッジ部2a,2aの寸法hは、写真撮影或いは撮影
した鋼材の種類から分かっており、この実寸法データ
は、予め対象構造物データベース9に格納され、検査の
際に読み出されて、実寸法データ38が得られる。他方
実寸法算出画像35からは、画像処理装置4でエッジ部
2aの位置が検出されると共にその画面上の寸法hが求
められる。この画像上の寸法hと実寸法データ38よ
り、実寸法換算値39が得られキャリブレーションが完
了する。
This calibration 21 will be described with reference to FIG. 5. The actual size calculation image 35 includes the painted surface 2, the background portion 36 indicated by diagonal lines, and the portion 37 which is painted but is unnecessary for inspection. Composed and its painted surface 2
The dimension h of the edge portions 2a, 2a of the is known from the photograph or the type of the steel material photographed, and the actual dimension data is stored in the target structure database 9 in advance and read at the time of the inspection. The dimension data 38 is obtained. On the other hand, from the actual size calculation image 35, the position of the edge portion 2a is detected by the image processing device 4 and the size h on the screen is obtained. The actual dimension conversion value 39 is obtained from the dimension h on the image and the actual dimension data 38, and the calibration is completed.

【0059】次に図3(b)に示すように処理範囲の設
定22がなされ、その後、劣化部抽出23、特徴量算出
24、画像劣化度評価25がなされてサブルーチンを抜
けて、step1に戻される。この後、次の劣化度評価
用画像の検査が行われ、この際step2の判断では、
実画像でない(no)ため、キャリブレーション21を
行うことなく、処理範囲設定22がなされる。
Next, as shown in FIG. 3B, the processing range is set 22, and then the deteriorated portion extraction 23, the characteristic amount calculation 24, and the image deterioration degree evaluation 25 are performed, and the process exits the subroutine and returns to step 1. Be done. After that, the next deterioration degree evaluation image is inspected. At this time, in the determination of step 2,
Since it is not an actual image (no), the processing range setting 22 is made without performing the calibration 21.

【0060】この処理範囲設定22は、図6(a)に示
すように、画像40は、図5で説明した実寸法算出画像
35と略同様であり、図6(b)に示すように実寸法算
出画像35の画像処理で解析したエッジ部42aが同様
な位置にあり、そのエッジ部42aの内側の斜線で示し
た領域を処理設定範囲22とし、他の背景部分36や不
要な部分37は、取り除いて画像フレームメモリ5に格
納すると共に図3(b)に示すように、劣化部抽出23
から画像劣化度評価25までの処理がなされる。同様に
して次の劣化度評価用画像のキャリブレーション21を
行うことなく、処理範囲設定22から画像劣化度評価2
5までの処理がなされる。
This processing range setting 22, as shown in FIG. 6 (a), the image 40 is substantially the same as the actual size calculation image 35 described in FIG. 5, and as shown in FIG. 6 (b). The edge portion 42a analyzed by the image processing of the dimension calculation image 35 is located at the same position, and the shaded area inside the edge portion 42a is set as the processing setting range 22, and other background portions 36 and unnecessary portions 37 are , Removed and stored in the image frame memory 5, and as shown in FIG.
To image deterioration degree evaluation 25 are performed. Similarly, without performing the calibration 21 of the next deterioration degree evaluation image, the image deterioration degree evaluation 2 is performed from the processing range setting 22.
Processing up to 5 is performed.

【0061】このようにしてに順次劣化度評価用画像の
画像劣化度評価25をしていくが、step2で再度実
画像と判断された場合(yes)、再度キャリブレーシ
ョン21を行い、以下そのキャリブレーション21に基
づて、以後の劣化度評価用画像の検査を行う。
In this way, the image deterioration degree evaluation 25 of the deterioration degree evaluation image is sequentially performed. However, if it is determined that the image is an actual image again in step 2 (yes), the calibration 21 is performed again, and then the calibration is performed. Then, the image for deterioration degree evaluation is inspected based on section 21.

【0062】なお、処理画像の全てについてキャリブレ
ーションを行う場合には、step2の判断は、不要で
あることは勿論である。
It is needless to say that the determination of step 2 is unnecessary when the calibration is performed on all the processed images.

【0063】図4は、図3のフローチャートに基づいて
検査を行う、5枚の画像45−1〜45−5を示したも
ので、画像45−1と画像4−3がキャリブレーション
を行う実寸法算出画像であり、画像45−2が、初めに
キャリブレーションを行った画像45−1と同一スケー
ルの劣化度評価用画像であり、画像45−4と画像45
−5が、次にキャリブレーションを行った画像45−3
と同一スケールの劣化度評価用画像を示している。この
ように順次画像順に実寸法算出画像と劣化度評価用画像
を検査することで、一枚毎にキャリブレーションの設定
を行わずに能率的な検査診断ができる。
FIG. 4 shows five images 45-1 to 45-5 to be inspected based on the flow chart of FIG. 3, and the images 45-1 and 4-3 are actually calibrated. The image 45-2 is a dimension calculation image, and the image 45-2 and the image 45-4 are images for deterioration degree evaluation on the same scale as the image 45-1 that was initially calibrated.
-5 is an image 45-3 that has been calibrated next
The image for deterioration degree evaluation of the same scale as is shown. In this manner, by inspecting the actual size calculation image and the deterioration degree evaluation image in order of image order, efficient inspection diagnosis can be performed without setting calibration for each sheet.

【0064】次に、図3(a)のstep1で全画像検
査が終了したならば(yes)、劣化度の総合評価2
6、結果の表示・保存27を行って診断を終了32す
る。
Next, if the entire image inspection is completed in step 1 of FIG. 3A (yes), the comprehensive evaluation 2 of the deterioration degree is given.
6. The result is displayed and saved 27, and the diagnosis is finished 32.

【0065】[0065]

【発明の効果】以上要するに本発明によれば、取り込ん
だ画像より画像処理にて塗装面の特徴的部分の寸法を求
め、この画像上の寸法とデータベースからの実寸法とか
らキャリブレーションを行うと共に、画面から検査に不
要な部分を除いて、検査すべき処理範囲を設定すること
で、劣化診断を自動的に行えるようにしたものである。
In summary, according to the present invention, the dimensions of the characteristic portion of the painted surface are obtained from the captured image by image processing, and the calibration is performed from the dimensions on this image and the actual dimensions from the database. The deterioration diagnosis is automatically performed by setting the processing range to be inspected by excluding the portion unnecessary for inspection from the screen.

【図面の簡単な説明】[Brief description of drawings]

【図1】本発明の一実施例を示すシステム構成図であ
る。
FIG. 1 is a system configuration diagram showing an embodiment of the present invention.

【図2】本発明の処理フローの概略図である。FIG. 2 is a schematic diagram of a processing flow of the present invention.

【図3】本発明のフローチャートを示す図である。FIG. 3 is a diagram showing a flowchart of the present invention.

【図4】本発明において、診断する画像のキャリブレー
ションを行う実寸法画像と劣化度評価用画像の関係を説
明する図である。
FIG. 4 is a diagram illustrating a relationship between a real size image for calibrating an image to be diagnosed and a deterioration degree evaluation image in the present invention.

【図5】本発明において、画像からキャリブレーション
設定を行う際の説明図である。
FIG. 5 is an explanatory diagram when performing calibration setting from an image in the present invention.

【図6】本発明において、画像から処理範囲を設定する
際の説明図である。
FIG. 6 is an explanatory diagram for setting a processing range from an image in the present invention.

【符号の説明】[Explanation of symbols]

2 塗装面 3 画像入力装置 4 画像処理装置 6 演算・診断装置 9 対象構造物データベース 2 Painted surface 3 Image input device 4 Image processing device 6 Calculation / diagnosis device 9 Target structure database

フロントページの続き (72)発明者 河野 幸弘 東京都江東区豊洲三丁目1番15号 石川島 播磨重工業株式会社東二テクニカルセンタ ー内 (72)発明者 赤井 隆晃 東京都江東区豊洲三丁目1番15号 石川島 播磨重工業株式会社東二テクニカルセンタ ー内 (72)発明者 藤原 博 東京都三鷹市下連雀1丁目19番5号Front page continuation (72) Inventor Yukihiro Kono 3-15-1, Toyosu, Koto-ku, Tokyo Ishikawajima Harima Heavy Industries Ltd. Toni Technical Center (72) Inventor Takaaki Akai 3-1-1, Toyosu, Koto-ku, Tokyo No. 15 Ishikawajima Harima Heavy Industries Co., Ltd. Toni Technical Center (72) Inventor Hiroshi Fujiwara 1-19-5 Shimorenjaku, Mitaka City, Tokyo

Claims (2)

【特許請求の範囲】[Claims] 【請求項1】 鋼橋等の構造物に施された塗装面を画像
入力装置を介してコンピュータに取り込んで、塗装面の
劣化部を診断する方法において、検査すべき構造物の特
徴的な部分の寸法をデータとして格納し、取り込んだ画
像より特徴的な部分を検出すると共に上記データを基に
キャリブレーションを行い、しかる後、検査すべき塗装
面の処理範囲を設定して塗膜の劣化を診断することを特
徴とする塗膜劣化自動診断方法。
1. A characteristic part of a structure to be inspected in a method of diagnosing a deteriorated part of a painted surface by loading a painted surface applied to a structure such as a steel bridge into a computer through an image input device. The size of the data is stored as data, the characteristic part is detected from the captured image, and the calibration is performed based on the above data.After that, the processing range of the painted surface to be inspected is set to prevent the deterioration of the coating film. A method for automatically diagnosing coating film deterioration, which comprises diagnosing.
【請求項2】 鋼橋等の構造物に施された塗装面を画像
入力装置に取り込み、その画像より塗装面の劣化部を診
断する装置において、検査すべき構造物の特徴的な部分
の寸法が格納された対象構造物データベースと、画像入
力装置からの画像を取り込むと共に画像中の特徴部分を
検出する画像処理装置と、その画像処理装置の画像デー
タが入力されると共に対象構造物データベースのデータ
が入力され、両データより基にキャリブレーションを行
うと共に検査すべき塗装面の処理範囲を設定して塗膜の
劣化を診断する演算・診断装置とを備えたことを特徴と
する塗膜劣化自動診断装置。
2. A dimension of a characteristic portion of a structure to be inspected in a device for recognizing a deteriorated portion of a painted surface from an image by inputting a painted surface applied to a structure such as a steel bridge to an image input device. The target structure database in which is stored, the image processing device that captures the image from the image input device and detects the characteristic portion in the image, and the image data of the image processing device is input and the data of the target structure database Is input, calibration is performed based on both data, and the coating / processing device is equipped with a calculator / diagnostic device for diagnosing coating film deterioration by setting the processing range of the coating surface to be inspected. Diagnostic device.
JP17452494A 1994-07-26 1994-07-26 Automatic coating film deterioration diagnosis method and apparatus Expired - Lifetime JP3342581B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP17452494A JP3342581B2 (en) 1994-07-26 1994-07-26 Automatic coating film deterioration diagnosis method and apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP17452494A JP3342581B2 (en) 1994-07-26 1994-07-26 Automatic coating film deterioration diagnosis method and apparatus

Publications (2)

Publication Number Publication Date
JPH0843316A true JPH0843316A (en) 1996-02-16
JP3342581B2 JP3342581B2 (en) 2002-11-11

Family

ID=15980036

Family Applications (1)

Application Number Title Priority Date Filing Date
JP17452494A Expired - Lifetime JP3342581B2 (en) 1994-07-26 1994-07-26 Automatic coating film deterioration diagnosis method and apparatus

Country Status (1)

Country Link
JP (1) JP3342581B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005030891A (en) * 2003-07-11 2005-02-03 Toshiba Corp Surface non-destructive inspection apparatus and surface non-destructive inspection method
JP2009236609A (en) * 2008-03-26 2009-10-15 Dainippon Toryo Co Ltd Coating film diagnosing system
JP2010032511A (en) * 2008-06-30 2010-02-12 Denro Corp Method and device for diagnosing coating degradation
JP2015010456A (en) * 2013-07-02 2015-01-19 日本電気株式会社 Rail inspection device, and rail inspection method
JP2015034428A (en) * 2013-08-09 2015-02-19 一般財団法人土木研究センター System and method for checking state of damage to bridge, and aerial movement apparatus
JPWO2016143861A1 (en) * 2015-03-10 2017-10-05 ホヤ レンズ タイランド リミテッドHOYA Lens Thailand Ltd Spectacle wearing parameter measurement system, measurement program, measurement method thereof, and spectacle lens manufacturing method
WO2020110717A1 (en) * 2018-11-29 2020-06-04 富士フイルム株式会社 System for assessing cause of damage to structure, method for assessing cause of damage, and server for assessing cause of damage

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005030891A (en) * 2003-07-11 2005-02-03 Toshiba Corp Surface non-destructive inspection apparatus and surface non-destructive inspection method
JP2009236609A (en) * 2008-03-26 2009-10-15 Dainippon Toryo Co Ltd Coating film diagnosing system
JP2010032511A (en) * 2008-06-30 2010-02-12 Denro Corp Method and device for diagnosing coating degradation
JP2015010456A (en) * 2013-07-02 2015-01-19 日本電気株式会社 Rail inspection device, and rail inspection method
JP2015034428A (en) * 2013-08-09 2015-02-19 一般財団法人土木研究センター System and method for checking state of damage to bridge, and aerial movement apparatus
JPWO2016143861A1 (en) * 2015-03-10 2017-10-05 ホヤ レンズ タイランド リミテッドHOYA Lens Thailand Ltd Spectacle wearing parameter measurement system, measurement program, measurement method thereof, and spectacle lens manufacturing method
US10955690B2 (en) 2015-03-10 2021-03-23 Hoya Lens Thailand Ltd. Spectacle wearing parameter measurement system, measurement program, measurement method thereof, and manufacturing method of spectacle lens
WO2020110717A1 (en) * 2018-11-29 2020-06-04 富士フイルム株式会社 System for assessing cause of damage to structure, method for assessing cause of damage, and server for assessing cause of damage
JPWO2020110717A1 (en) * 2018-11-29 2021-11-04 富士フイルム株式会社 Structure damage cause estimation system, damage cause estimation method, and damage cause estimation server

Also Published As

Publication number Publication date
JP3342581B2 (en) 2002-11-11

Similar Documents

Publication Publication Date Title
JP5228490B2 (en) Defect inspection equipment that performs defect inspection by image analysis
US6735745B2 (en) Method and system for detecting defects
US5774177A (en) Textile fabric inspection system
JP4616201B2 (en) Deterioration evaluation method and evaluation apparatus for metal material surface
JP2011020455A (en) Method for automatically determining print quality of image printed on deformable carrier
JP3533722B2 (en) Failure inspection method and device
JPH0843316A (en) Automatic diagnosing method for coating film deterioration and its device
JP3396960B2 (en) Automatic coating deterioration diagnosis method
JP2541735B2 (en) Method and apparatus for diagnosing coating film deterioration
JP2006155579A (en) Image processing method and image processing apparatus
JP3127598B2 (en) Method for extracting density-varying constituent pixels in image and method for determining density-fluctuation block
US6335982B1 (en) Method and apparatus for inspecting streak
JP2002008029A (en) Image inspection device
JP7362324B2 (en) Inspection method, manufacturing method and inspection device for image display device
JP3253752B2 (en) Pattern evaluation method
US5146311A (en) Method of indentifying and quantifying oxides on rolled metal strip
JP3584507B2 (en) Pattern unevenness inspection equipment
JP3015325B2 (en) Streak inspection method and device
JPH0735699A (en) Method and apparatus for detecting surface defect
JP2638121B2 (en) Surface defect inspection equipment
KR100351129B1 (en) System for Examination printing inferior using Circumference Mask
CN114745500B (en) Image processing method and output detection system
JPH06281595A (en) Apparatus for detecting flaw on surface of object
JP3409695B2 (en) Surface defect inspection method
JP4457194B2 (en) Defect inspection equipment

Legal Events

Date Code Title Description
S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20070823

Year of fee payment: 5

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080823

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080823

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090823

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100823

Year of fee payment: 8

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100823

Year of fee payment: 8

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110823

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110823

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120823

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120823

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130823

Year of fee payment: 11

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term