JP2010249685A - Flaw detector, flaw detection method and program - Google Patents

Flaw detector, flaw detection method and program Download PDF

Info

Publication number
JP2010249685A
JP2010249685A JP2009099851A JP2009099851A JP2010249685A JP 2010249685 A JP2010249685 A JP 2010249685A JP 2009099851 A JP2009099851 A JP 2009099851A JP 2009099851 A JP2009099851 A JP 2009099851A JP 2010249685 A JP2010249685 A JP 2010249685A
Authority
JP
Japan
Prior art keywords
wrinkle
unit
candidate
metal plate
candidates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2009099851A
Other languages
Japanese (ja)
Other versions
JP5299046B2 (en
Inventor
Takamichi Kobayashi
尊道 小林
Yusuke Konno
雄介 今野
Yoshihiro Furuya
順弘 古家
Kohei Sato
公平 佐藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Steel Corp
Original Assignee
Nippon Steel Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Steel Corp filed Critical Nippon Steel Corp
Priority to JP2009099851A priority Critical patent/JP5299046B2/en
Publication of JP2010249685A publication Critical patent/JP2010249685A/en
Application granted granted Critical
Publication of JP5299046B2 publication Critical patent/JP5299046B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a flaw detector for detecting micro flaws generated on the surface of a metal plate and enabling an inspector to easily recognize the degree of harmfulness thereof, a flaw detection method and a program. <P>SOLUTION: A flaw detector 10 detects micro flaws generated on the surface of a metal plate F which are difficult to be detected by visual observation. The flaw detector 10 includes a flaw candidate extraction part 110 for extracting flaw candidates which are candidates of micro flaws based on at least one of a regular reflection image and an irregular reflection image obtained by photographing the surface of the transported metal plate F; a classification part 120 for classifying a plurality of flaw candidates into a plurality of groups based on a combination of a regular reflection brightness value and an irregular reflection brightness value corresponding to each flaw candidate; and a total number calculation part 140 for calculating the total number of flaw candidates of each of the plurality of groups for each unit area of a predetermined size of the metal plate surface. <P>COPYRIGHT: (C)2011,JPO&INPIT

Description

本発明は、金属板表面に発生する微小疵を検出する疵検出装置、疵検出方法及びプログラムに関する。   The present invention relates to a wrinkle detection device, a wrinkle detection method, and a program for detecting minute wrinkles generated on a metal plate surface.

様々な分野で、様々な種類の金属板が使用されており、その金属板製造時の品質管理の重要度が増している。一方、金属板の製造過程では、その金属板の表面に予期せぬ疵が発生することがあり、金属板の品質保証をする上で、このような疵を検出することが非常に重要である。また、金属板が使用される製品の技術向上や科学技術の発展等に伴い、金属板に許容される疵の大きさは、ますます小さくなる傾向にある。   Various types of metal plates are used in various fields, and the importance of quality control at the time of manufacturing the metal plates is increasing. On the other hand, in the process of manufacturing a metal plate, unexpected flaws may occur on the surface of the metal plate, and it is very important to detect such wrinkles in quality assurance of the metal plate. . In addition, with the technical improvement of products using metal plates and the development of science and technology, the size of wrinkles allowed for metal plates tends to become smaller.

金属板表面に形成された疵を検出するために、疵検出装置が使用されることもあるが、この疵検出装置の目的は、金属板の品質保証として、例えば鋼板の場合、客先で問題となるヘゲ疵・スリバー・合金化不良などのような大型疵を検出することにあった。このような大型疵は、例えば、数cm以上の長さや幅を有していたり、又は、数cm以上の面積を有し、一つ一つの疵が有害であった。そこで、検査員が、製造ライン又は検査ラインにおいて、疵検出装置の検出結果と実疵とを目視で確認し、出荷の可否判断を実施したり、出荷先を当初計画から変更したり、金属板を切断して疵部を切り取るなどの処理を実施している。 In order to detect wrinkles formed on the surface of the metal plate, a wrinkle detection device is sometimes used. The purpose of this wrinkle detection device is to guarantee the quality of the metal plate, for example, in the case of a steel plate, it is a problem at the customer's site. It was to detect large wrinkles such as beards, slivers, and poor alloying. Such large flaws, for example, or have several cm or more in length and width, or has a number cm 2 or more areas, each one of the flaws was detrimental. Therefore, the inspector visually confirms the detection result of the flaw detection device and the actual flaw on the production line or the inspection line, determines whether the shipment is possible, changes the shipping destination from the original plan, Processing such as cutting the buttock and cutting the buttocks.

このような大型疵に対して検査員が上記のアクション等をとるために、疵の形態や大きさを確認することが非常に重要であり、特許文献1,2などのように、疵検出結果の表示方法や疵検出アルゴリズムなどに関して、以前から様々な技術が開発されている。   It is very important for the inspector to take the above actions for such a large bag, and it is very important to check the shape and size of the bag. Various techniques have been developed for the display method and wrinkle detection algorithm.

特許文献1に開示された疵検出装置は、操業ラインと検査ラインにおいて実疵と検出結果との照合を容易にするために、疵位置に対応する部分の被検体が所定位置に達したときに、その疵位置に係る疵情報を表示する表示手段を有する。そして、この疵検出装置は、疵位置の接近を、操業ラインの撮像画像又はグラフィック画像で表示し、かつ、鋼板の通板に対してトラッキングを取りながらコイル展開図を動かすことで、疵が接近していることを視覚的に検査員に認識させる。また、特許文献2に開示された疵検出装置は、周期的に発生する疵をマップ(コイル展開図)に表示する手法を有する。   The eyelid detection device disclosed in Patent Document 1 is used when the subject corresponding to the eyelid position reaches a predetermined position in order to facilitate the comparison between the actual eyelash and the detection result in the operation line and the inspection line. And display means for displaying wrinkle information relating to the wrinkle position. And this wrinkle detection device displays the approach of the wrinkle position as a captured image or graphic image of the operation line, and moves the coil development view while tracking the plate through the steel plate, so that the wrinkle approaches Make the inspector visually recognize that you are doing. In addition, the wrinkle detection device disclosed in Patent Document 2 has a method of displaying wrinkles generated periodically on a map (coil development view).

特開平5−149892号公報Japanese Patent Laid-Open No. 5-149892 特開2005−241356号公報JP 2005-241356 A 特開平11−211674号公報Japanese Patent Application Laid-Open No. 11-21174

一方、上述の通り、許容される疵の大さは小さくなる傾向にあり、近年では、0.5mmφ程度の大きさの疵をも許容できないケースが増えている。このような疵をここでは「微小疵」と呼ぶ。微小疵とされる疵のサイズは、金属板の使用用途などにより異なり、かつ、搬送速度や検査員が検査に費やせる時間等によっても異なる。しかし、このような微小疵を、ライン上を搬送される金属板から検査員が目視で検出することは難しいのが実情である。   On the other hand, as described above, the allowable wrinkle size tends to be small, and in recent years, the number of cases where a wrinkle having a size of about 0.5 mmφ is not allowed is increasing. Such wrinkles are referred to herein as “micro wrinkles”. The size of the wrinkles that are regarded as minute wrinkles varies depending on the usage of the metal plate and the like, and also varies depending on the conveyance speed, the time that the inspector can spend on inspection, and the like. However, in reality, it is difficult for an inspector to visually detect such minute wrinkles from a metal plate conveyed on the line.

このような微小疵は、大型疵と異なり単独で発生しても問題とならない場合が多い(無害)。しかし、多数の微小疵が密集して発生すると疵の許容範囲を超えてしまい問題となる場合がある(有害)。そこで、従来では、図13に示すように、操業ラインや検出ラインなどにおいて、金属板Fの表面の所定の検出範囲Ar(約5mの長さなど)を所定間隔で複数個所(約2〜3個所など)に設けて、各個所で金属板Fの通板を停止し、検査員がルーペなどを使用して目視で観察することにより、品質保証を行っている場合が多い。   Such small wrinkles often do not pose a problem even if they occur independently of large wrinkles (harmless). However, when a large number of minute wrinkles are generated in a dense manner, the allowable range of wrinkles may be exceeded, which may be problematic (harmful). Therefore, conventionally, as shown in FIG. 13, in an operation line, a detection line, or the like, a predetermined detection range Ar (length of about 5 m, etc.) on the surface of the metal plate F is set at a plurality of locations (about 2-3) at predetermined intervals. In many cases, quality assurance is performed by stopping the plate of the metal plate F at each location and visually observing it using a loupe or the like.

このように微小疵は目視で検出することが難しいが、その微小疵を発見するために、上記のようにラインを停止して検出を行ったのでは、金属板の製造効率が低下してしまうばかりか検査員の負担は非常に大きい。しかも、上記のようなサンプリングによる検出では、金属板全域を検査するのは難しく、検出範囲にない微小疵等を見逃してしまう恐れもある。かといって、上述の通り、疵検出装置の大半は、大型疵の検出を目的としているため、このような微小疵を検出することはやはり難しいのも事実である。   As described above, it is difficult to visually detect the minute wrinkles. However, if the detection is performed with the line stopped as described above in order to find the minute wrinkles, the metal plate manufacturing efficiency decreases. In addition, the burden on the inspector is very large. Moreover, in the detection by sampling as described above, it is difficult to inspect the entire metal plate, and there is a possibility that a minute wrinkle or the like not in the detection range may be missed. However, as described above, since most of the wrinkle detection devices are intended to detect large wrinkles, it is also a fact that it is difficult to detect such minute wrinkles.

例えば、上記特許文献1に記載の疵検出装置は、単独の大型疵が接近する場合にラインを自動で停止して、大型疵の照合を効率的に行うことを目的としており、微小疵を検出することは難しい。特に、微小疵は上述の通り1つ1つが問題となるよりもその発生密度や数等が問題となることが多い。しかしながら、この特許文献1に記載の疵検出装置は、微小疵を検出することが難しいばかりか、その密集度や発生領域を検査員にガイダンスすることは難しい。従って、微小疵の検出には必ずしも適さないのが実情である。   For example, the wrinkle detection device described in Patent Document 1 is designed to automatically stop a line when a single large wrinkle approaches, and efficiently collate large wrinkles, and detect minute wrinkles. Difficult to do. In particular, as described above, the generation density and the number of minute wrinkles are more problematic than one by one. However, it is difficult for the wrinkle detection apparatus described in Patent Document 1 to detect minute wrinkles, and it is difficult to provide guidance to the inspector about the density and the generation area. Therefore, the actual situation is not necessarily suitable for detecting minute wrinkles.

また、上記特許文献2に記載の疵検出装置は、やはり大型疵を対象として、周期的に発生した疵の発生領域を表示する。従って、特許文献1に記載の疵検出装置と同様に、微小疵を検出することは難しく、かつ、やはり、微小疵の密集度や発生領域を検査員にガイダンスすることは難しい。また、周期的な疵に特化した特別な処理が必要となるため、処理が複雑化してしまう。   In addition, the wrinkle detection device described in Patent Document 2 displays a wrinkle generation region that occurs periodically for large wrinkles. Therefore, as with the wrinkle detection device described in Patent Document 1, it is difficult to detect minute wrinkles, and it is also difficult to provide guidance to the inspector on the density and generation area of minute wrinkles. Moreover, since special processing specialized for periodic wrinkles is required, the processing becomes complicated.

一方、微小疵を検出することはやはり難しいが、大型疵の発生を集合として扱う疵検出装置が、上記特許文献3に開示されている。   On the other hand, although it is still difficult to detect minute wrinkles, a wrinkle detection device that handles the generation of large wrinkles as a set is disclosed in Patent Document 3 described above.

この特許文献3に記載の疵検出装置は、弁別・抽出された各疵部の特徴パラメータに基づいて疵種を判定し、同一の疵種と判定された疵相互間の距離を算出し、所定距離以内の疵を一つの疵に連結し、連結後の疵の特徴パラメータを計算し、この計算結果に基づいて疵グレードを判定する   The wrinkle detection device described in Patent Document 3 determines the wrinkle type based on the characteristic parameters of the respective wrinkle parts that have been discriminated and extracted, calculates the distance between the wrinkles determined to be the same wrinkle type, Connect the ridges within the distance to a single ridge, calculate the characteristic parameters of the ridge after linking, and determine the heel grade based on this calculation result

このように、特許文献3に記載の疵検出装置は、密集して発生する疵の特徴量を表現するために、単独の疵画像からその疵種を判定し、その疵種に基づいて特徴量を再計算する。しかし、この装置を、微小疵検出に適用した場合、微小疵が小さいため、金属板の撮像画像から個々の疵の有意な特徴パラメータを抽出することは難しく、疵の弁別精度が低くなる。また、一つ一つの疵毎に特徴パラメータに基づいて疵種を判定してから距離計算を行うため計算時間が膨大となり、ラインの通板速度でリアルタイムに判定して検出・ガイダンスすることはやはり難しい。   As described above, the wrinkle detection device described in Patent Literature 3 determines the wrinkle type from a single wrinkle image and expresses the feature amount based on the wrinkle type in order to express the feature amount of densely generated wrinkles. Is recalculated. However, when this apparatus is applied to the detection of minute wrinkles, since the minute wrinkles are small, it is difficult to extract significant feature parameters of individual wrinkles from the captured image of the metal plate, and the accuracy of distinguishing the wrinkles is lowered. In addition, since the distance calculation is performed after determining the type of each bag based on the characteristic parameter, the calculation time becomes enormous, and it is still possible to detect and provide guidance by determining in real time using the line passing speed of the line. difficult.

そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、金属板の表面に発生する微小疵を検出して、その有害度を検査員に容易に認識させることにある。   Accordingly, the present invention has been made in view of the above problems, and an object of the present invention is to detect minute wrinkles generated on the surface of a metal plate and easily recognize the harmfulness thereof to an inspector. There is to make it.

上記課題を解決するために、本発明のある観点によれば、金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出装置であって、
搬送される上記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる上記微小疵の候補である疵候補を抽出する疵候補抽出部と、
上記疵候補抽出部により抽出された複数の上記疵候補それぞれを、該疵候補に対応する上記正反射画像における正反射輝度値と上記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類部と、
上記複数のグループそれぞれについての上記疵候補の合計数を、上記金属板表面における所定の大きさの単位領域毎に算出する合計数算出部と、
を有することを特徴とする、疵検出装置が提供される。
In order to solve the above problems, according to one aspect of the present invention, there is provided a wrinkle detection device that detects minute wrinkles that are difficult to detect visually on a metal plate surface,
Based on at least one of a specular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extraction that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image And
Each of the plurality of wrinkle candidates extracted by the wrinkle candidate extraction unit is divided into a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image and a diffuse reflection luminance value in the irregular reflection image corresponding to the wrinkle candidate. A classification unit for classifying into
A total number calculating unit that calculates the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
A wrinkle detecting device is provided.

また、上記分類部は、上記金属板表面における上記正反射輝度値及び上記乱反射輝度値を、別途定められた正反射最大閾値及び乱反射最大閾値に対してそれぞれ比較した高低の組み合わせに基づいて、上記複数の疵候補それぞれを上記複数のグループに分類してもよい。   Further, the classification unit is based on a combination of high and low comparing the specular reflection luminance value and the irregular reflection luminance value on the surface of the metal plate with respect to a specular reflection maximum threshold and an irregular reflection maximum threshold separately determined, respectively. Each of the plurality of wrinkle candidates may be classified into the plurality of groups.

また、上記複数のグループそれぞれについて、該グループに分類される微小疵の重要度の指標である重要度係数を設定する重要度設定部と、
上記合計数算出部が上記グループ毎及び上記単位領域毎に算出した合計数と、該合計数に対応するグループの重要度係数とに基づいて、上記単位領域毎に上記疵候補の発生度合を算出する発生度合算出部と、
を有してもよい。
Further, for each of the plurality of groups, an importance setting unit that sets an importance coefficient that is an index of the importance of minute wrinkles classified into the group,
Based on the total number calculated for each group and each unit area by the total number calculation unit and the importance coefficient of the group corresponding to the total number, the occurrence degree of the wrinkle candidate is calculated for each unit area An occurrence degree calculation unit to perform,
You may have.

また、上記発生度合算出部は、上記グループ毎及び上記単位領域毎に、上記グループの上記合計数に該グループの重要度係数を乗算又は除算した値を、全上記グループに対して加算することにより、上記単位領域毎に上記疵候補の発生度合を算出してもよい。   In addition, for each group and each unit area, the occurrence degree calculation unit adds a value obtained by multiplying or dividing the total number of the groups by the importance coefficient of the group to all the groups. The occurrence degree of the wrinkle candidate may be calculated for each unit area.

また、上記発生度合算出部が算出した発生度合を色彩又は濃淡で表して、上記単位領域毎に表示画面に表示する表示制御部を更に有してもよい。   Moreover, you may further have a display control part which displays on the display screen for every said unit area, expressing the degree of occurrence which the said degree-of-occurrence calculation part calculated with the color or the shading.

また、上記発生度合算出部が算出した発生度合が記録される発生度合記録部と、
上記発生度合の時間に対する変化を表したグラフを作成する経時変化作成部と、
を更に有してもよい。
Also, an occurrence degree recording unit in which the occurrence degree calculated by the occurrence degree calculation unit is recorded,
A time-dependent change creation unit for creating a graph representing a change in the occurrence degree with respect to time;
May further be included.

また、上記複数のグループそれぞれについて、該グループに含まれる複数の疵候補間の距離に基づいて、該複数の疵候補から密集した複数の疵候補を特定する密集疵特定部を更に有し、
上記合計数算出部は、上記複数のグループそれぞれについての上記疵候補の合計数として、上記複数のグループそれぞれについて上記密集疵特定部により特定された複数の疵候補の合計数を算出してもよい。
Further, for each of the plurality of groups, further comprising a dense cocoon identification unit that identifies a plurality of cocoon candidates dense from the plurality of cocoon candidates based on distances between the plurality of cocoon candidates included in the group,
The total number calculating unit may calculate the total number of the plurality of wrinkle candidates specified by the dense wrinkle specifying unit for each of the plurality of groups as the total number of the wrinkle candidates for each of the plurality of groups. .

また、上記疵候補抽出部は、縦横のサイズが上記画像の画素サイズのそれぞれ8倍以下である微小疵を上記疵候補として抽出してもよい。   Further, the wrinkle candidate extraction unit may extract a fine wrinkle having a vertical and horizontal size that is not more than eight times the pixel size of the image as the wrinkle candidate.

また、上記課題を解決するために、本発明の別の観点によれば、金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出方法であって、
搬送される上記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる上記微小疵の候補である疵候補を抽出する疵候補抽出ステップと、
上記疵候補抽出ステップで抽出された複数の上記疵候補それぞれを、該疵候補に対応する上記正反射画像における正反射輝度値と上記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類ステップと、
上記複数のグループそれぞれについての上記疵候補の合計数を、上記金属板表面における所定の大きさの単位領域毎に算出する合計数算出ステップと、
を有することを特徴とする、疵検出方法が提供される。
In order to solve the above problem, according to another aspect of the present invention, there is a wrinkle detection method for detecting minute wrinkles that are difficult to detect visually on a metal plate surface,
Based on at least one of a specular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extraction that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image Steps,
Each of the plurality of wrinkle candidates extracted in the wrinkle candidate extraction step is divided into a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image and a diffuse reflection luminance value in the irregular reflection image corresponding to the wrinkle candidate. A classification step to classify into,
A total number calculating step of calculating the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
There is provided a method for detecting wrinkles.

また、上記課題を解決するために、本発明の別の観点によれば、コンピュータに、金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出機能を実現させるためのプログラムであって、
コンピュータに、
搬送される上記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる上記微小疵の候補である疵候補を抽出する疵候補抽機能と、
上記疵候補抽出機能により抽出された複数の上記疵候補それぞれを、該疵候補に対応する上記正反射画像における正反射輝度値と上記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類機能と、
上記複数のグループそれぞれについての上記疵候補の合計数を、上記金属板表面における所定の大きさの単位領域毎に算出する合計数算出機能と、
を実現させるためのプログラムが提供される。
In order to solve the above problem, according to another aspect of the present invention, there is provided a program for causing a computer to realize a wrinkle detection function for detecting minute wrinkles that are difficult to detect visually on a metal plate surface. There,
On the computer,
Based on at least one of a regular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extractor that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image Function and
Each of the plurality of wrinkle candidates extracted by the wrinkle candidate extraction function is divided into a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image corresponding to the wrinkle candidate and a diffuse reflection luminance value in the irregular reflection image. A classification function to classify
A total number calculation function for calculating the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
A program for realizing the above is provided.

以上説明したように本発明によれば、疵候補それぞれの正反射輝度値と乱反射輝度値により、その疵候補を複数のグループに分類することができ、所定の領域毎に各グループ内の疵候補の合計数を算出することができる。よって、その合計数等により検査員は、そのグループに含まれる疵候補の有害度などを合計数等に基づいて認識することができる。従って、本発明によれば、金属板の表面に発生する微小疵を検出して、その有害度を検査員に容易に認識させることができる。   As described above, according to the present invention, the wrinkle candidates can be classified into a plurality of groups based on the specular reflection luminance value and the irregular reflection luminance value of each of the wrinkle candidates, and the wrinkle candidates in each group for each predetermined region The total number can be calculated. Therefore, the inspector can recognize the harmfulness of the wrinkle candidate included in the group based on the total number or the like based on the total number or the like. Therefore, according to the present invention, it is possible to detect minute wrinkles generated on the surface of the metal plate, and to make the inspector easily recognize the degree of harmfulness.

本発明の第1実施形態に係る疵検出装置が配置されるラインの一例について説明するための説明図である。It is explanatory drawing for demonstrating an example of the line by which the wrinkle detection apparatus which concerns on 1st Embodiment of this invention is arrange | positioned. 同実施形態に係る疵検出装置の構成について説明するための説明図である。It is explanatory drawing for demonstrating the structure of the wrinkle detection apparatus which concerns on the same embodiment. 同実施形態に係る分類部による分類について説明するための説明図である。It is explanatory drawing for demonstrating the classification | category by the classification | category part based on the embodiment. 同実施形態に係る分類部による分類について説明するための説明図である。It is explanatory drawing for demonstrating the classification | category by the classification | category part based on the embodiment. 同実施形態に係る密集疵特定部による密集疵特定について説明するための説明図である。It is explanatory drawing for demonstrating crowded crowd identification by the crowded crowd identification part which concerns on the same embodiment. 同実施形態に係る疵検出装置の動作について説明するための説明図である。It is explanatory drawing for demonstrating operation | movement of the wrinkle detection apparatus which concerns on the same embodiment. 同実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。It is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on the same embodiment displays. 同実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。It is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on the same embodiment displays. 同実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。It is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on the same embodiment displays. 同実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。It is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on the same embodiment displays. 同実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。It is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on the same embodiment displays. プログラムを実行することにより一連の処理を実現するコンピュータの構成例を説明するための説明図である。And FIG. 14 is an explanatory diagram for explaining a configuration example of a computer that realizes a series of processes by executing a program. 検査員の目視により行われる微小疵検出方法について説明するための説明図である。It is explanatory drawing for demonstrating the micro wrinkle detection method performed by an inspector's visual observation.

以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。   Exemplary embodiments of the present invention will be described below in detail with reference to the accompanying drawings. In addition, in this specification and drawing, about the component which has the substantially same function structure, duplication description is abbreviate | omitted by attaching | subjecting the same code | symbol.

本発明の第1実施形態に係る疵検出装置は、例えば、鉄鋼業で製造される鋼板や、その他の非鉄金属材料の板材などの金属板の表面に形成された微小疵を検出して、その有害度を判定することができる。なお、微小疵のサイズは、上述の通り、金属板の使用用途などにより異なり、かつ、搬送速度や検査員が検査に費やせる時間等によっても異なる。そして、このような微小疵を、ライン上を搬送される金属板から検査員が目視で検出することは難しいが、本発明の第1実施形態に係る疵検出装置は、このような微小疵をも検出して、更に有害度を判定することができる。本発明の第1実施形態に係る疵検出装置が検出対象とする微小疵のサイズは、目視による検出が難しいサイズであれば特に限定されるものではないが、例えば、縦横のサイズが撮像画像の画素サイズのそれぞれ8倍以下である大きさを有するものであることが望ましい。縦横のサイズそれぞれが画素サイズの8倍を超過する場合、各疵の画像から、個々の疵のパラメータを抽出することが可能となるため、本発明の第1実施形態に係る疵検出装置では、このような疵は大型疵であるとして処理し、それ以下の大きさの疵を微小疵として処理することが望ましい。   The wrinkle detection device according to the first embodiment of the present invention detects, for example, a fine wrinkle formed on the surface of a metal plate such as a steel plate manufactured in the steel industry or a plate of other non-ferrous metal material. The degree of harm can be determined. As described above, the size of the minute ridge varies depending on the use application of the metal plate and the like, and also varies depending on the conveyance speed and the time that the inspector can spend for the inspection. And although it is difficult for an inspector to visually detect such a fine wrinkle from a metal plate conveyed on the line, the wrinkle detection device according to the first embodiment of the present invention has such a fine wrinkle. Can also be detected to further determine the degree of harm. The size of the minute wrinkle to be detected by the wrinkle detection device according to the first embodiment of the present invention is not particularly limited as long as it is difficult to detect visually, but for example, the vertical and horizontal sizes are those of the captured image. It is desirable that each pixel has a size of 8 times or less. When the vertical and horizontal sizes each exceed 8 times the pixel size, it is possible to extract individual wrinkle parameters from each wrinkle image. Therefore, in the wrinkle detection device according to the first embodiment of the present invention, It is desirable to treat such wrinkles as large wrinkles, and treat wrinkles of a size smaller than that as fine wrinkles.

なお、本発明の第1実施形態に係る疵検出装置の効果等の理解が容易になるように、ここではまず、微小疵検出時の問題点等について説明し、その後、鋼板を例に挙げて、微小疵検出が実施されるライン等について説明する。その後、本発明の第1実施形態に係る疵検出装置について構成、動作、効果等の順で説明する。なお、この疵検出装置が検査員等に提示する表示例等については、疵検出装置の動作の説明において併せて説明することとする。つまり、以下では、次の順序で説明する。   In order to facilitate understanding of the effect and the like of the wrinkle detection device according to the first embodiment of the present invention, here, first, problems and the like at the time of detecting a minute wrinkle will be described, and then a steel plate will be taken as an example. Next, a line where fine wrinkle detection is performed will be described. Thereafter, the wrinkle detection apparatus according to the first embodiment of the present invention will be described in the order of configuration, operation, effect, and the like. In addition, the display example etc. which this wrinkle detection apparatus presents to an inspector will be described together in the description of the operation of the wrinkle detection apparatus. That is, below, it demonstrates in the following order.

<1.微小疵検出時の問題点等についてのまとめ>
<2.微小疵検出が行われるラインの一例>
<3.第1実施形態に係る疵検出装置の構成>
<4.第1実施形態に係る疵検出装置の動作>
<5.第1実施形態に係る疵検出装置による効果の例>
<1. Summary of problems when detecting minute wrinkles>
<2. An example of a line where minute wrinkles are detected>
<3. Configuration of Wrinkle Detection Device According to First Embodiment>
<4. Operation of Wrinkle Detection Device According to First Embodiment>
<5. Example of effect by wrinkle detection device according to first embodiment>

<1.微小疵検出時の問題点等についてのまとめ>
上述の通り、近年は、約2mm×2mm以下の大きさ、例えば0.5mmφ以下の微小疵が、金属板の品質保証上重要な疵となっている。これらの微小疵は、金属板の搬送中に一つ一つの疵を目視で確認することが困難であり、単に検出するだけも、対象とする微小疵のサイズの倍以上(例えば0.5mmφの疵であれば0.25mm×0.25mm程度以上)の高解像度を有する疵検出装置を使用する必要がある。そして、微小疵の検出漏れをなくすためには、部分的な検査を行うのではなく、金属板を全長検査することが望まれている。
<1. Summary of problems when detecting minute wrinkles>
As described above, in recent years, a fine wrinkle having a size of about 2 mm × 2 mm or less, for example, 0.5 mmφ or less, has become an important flaw for quality assurance of metal plates. These minute wrinkles are difficult to visually check each wrinkle during the conveyance of the metal plate, and simply detecting it is more than twice the size of the target minute wrinkles (for example, 0.5 mmφ). It is necessary to use a wrinkle detection device having a high resolution of about 0.25 mm × 0.25 mm or more if it is a wrinkle. And in order to eliminate the detection omission of minute wrinkles, it is desired to inspect the metal plate for the entire length instead of performing a partial inspection.

また、これらの微小疵は多発する傾向があり、ラインの搬送速度にあわせてリアルタイムに検出・ガイダンスするためには、微小疵を検出する画像処理を高速化する必要もある。加えて、微小疵は、撮像画像中で数画素を占めるのみであることが多く、その画像から認識される幅や長さなどのパラメータを抽出するための目安となる画素サイズは、上述の通り、概ね8画素×8画素(64画素)程度が必要であるが、画像サイズの小さな微小疵画像から認識される幅や長さなどのパラメータでは、有意な特徴を抽出できず、精度の高い疵種判定が難しいため、有意な特徴が少ない中で、微小疵の分類や有害度の判定を行うことも望まれている。   In addition, these fine wrinkles tend to occur frequently, and in order to detect and provide guidance in real time according to the conveyance speed of the line, it is necessary to speed up the image processing for detecting the fine wrinkles. In addition, the minute wrinkles often occupy only a few pixels in the captured image, and the pixel size that serves as a standard for extracting parameters such as width and length recognized from the image is as described above. In general, about 8 pixels × 8 pixels (64 pixels) are necessary, but with a parameter such as width and length recognized from a small cocoon image having a small image size, a significant feature cannot be extracted, and the accuracy is high. Since species determination is difficult, it is also desired to perform classification of micro-pox and determination of harmfulness while there are few significant features.

また、微小疵は、単独で有害になることは少なく、金属板のコイルの中で疵が密集している領域・分布、密集度、密集している疵の特徴、疵と鋼板表面の画像などを抽出することが望まれている。更に、このような微小疵の有害度を的確かつ容易に検査員に認識させることも望まれている。   In addition, micro wrinkles are rarely harmful by themselves, areas and distribution of dense wrinkles in metal plate coils, density, features of dense wrinkles, images of wrinkles and steel plate surfaces, etc. Is desired to be extracted. Furthermore, it is also desired that the inspector recognizes the degree of harmfulness of such minute fistula accurately and easily.

なお、これらの微小疵が多発すると、不合格となる金属板のコイルが連続することが知られている。この場合、操業条件の変更や通板ロールの手入れをするなど、操業改善をする必要がある。そのためには、操業ラインにおいて、早期に有害な微小疵を検出し、検査員にガイダンスすることや、検査ラインにおいて、どのコイルから微小疵が連続しているかなど、微小疵の発生状況の時系列変化を検査員に認識させることも望まれている。   It is known that when these fine wrinkles occur frequently, the coil of the metal plate that is rejected continues. In this case, it is necessary to improve the operation, such as changing the operation conditions and cleaning the threading roll. To that end, it is possible to detect harmful micro-wrinkles early in the operation line and provide guidance to the inspector, and the time series of micro-wrinkle occurrence status, such as which coils are continuous from the coil in the inspection line. It is also desirable to have the inspector recognize changes.

なお、ここで説明した微小疵検出時の問題点等は、あくまで一例であり、これらの問題点を解消することが可能な本発明の第1実施形態に係る疵検出装置を限定するものではないことを付言しておく。   The problems at the time of detecting minute wrinkles described here are merely examples, and are not intended to limit the wrinkle detection apparatus according to the first embodiment of the present invention that can solve these problems. I will add that.

<2.微小疵検出が行われるラインの一例>
まず、図1を参照しつつ、本発明の第1実施形態に係る疵検出装置を使用して微小疵検出が行われるラインの一例について説明する。図1は、本発明の第1実施形態に係る疵検出装置が配置されるラインの一例について説明するための説明図である。
<2. An example of a line where minute wrinkles are detected>
First, an example of a line where fine wrinkle detection is performed using the wrinkle detection apparatus according to the first embodiment of the present invention will be described with reference to FIG. FIG. 1 is an explanatory diagram for explaining an example of a line on which the wrinkle detection device according to the first embodiment of the present invention is arranged.

本実施形態では、微小疵検出が行われる検出対象である金属板Fとして、鋼板を例に挙げ、かつ、その鋼板が搬送されるラインとして、鉄鋼業の操業ラインと検査ラインを例に挙げて説明する。鉄鋼業における「操業ライン」は、製造された金属板Fを搬送ロールR等で搬送してコイルCに捲き取るラインであり、「検査ライン」は、操業ラインで捲き取られたコイルCを逆に捲き戻して金属板Fに発生した疵などを検査員Uが検査するラインである。   In the present embodiment, a steel plate is taken as an example of the metal plate F that is a detection target in which minute wrinkle detection is performed, and an operation line and an inspection line of the steel industry are taken as an example as a line through which the steel plate is conveyed. explain. The “operation line” in the steel industry is a line in which the manufactured metal plate F is transported by the transport roll R etc. and scraped to the coil C, and the “inspection line” is the reverse of the coil C scraped by the operation line. This is a line where the inspector U inspects wrinkles and the like generated on the metal plate F.

本実施形態に係る疵検出装置10は、操業ラインを搬送される金属板Fを撮像して、その撮像画像から微小疵を検出し、その検出結果と微小疵の有害度とを、検査員Uにとって容易に認識可能な形態でガイダンス表示する。この際、本実施形態では、疵検出装置10は、操業ラインで検査を行う検査員Uだけでなく、検査ラインで検査を行う検査員Uに対しても上記のガイダンスを表示することが可能である。ただし、疵検出装置10がガイダンスする相手(検査員等)はもちろん特に限定されるものではない。   The wrinkle detection apparatus 10 according to the present embodiment images the metal plate F transported along the operation line, detects a minute wrinkle from the captured image, and detects the detection result and the harmfulness of the minute wrinkle as an inspector U. The guidance is displayed in an easily recognizable form. At this time, in this embodiment, the wrinkle detection device 10 can display the above guidance not only for the inspector U who performs the inspection on the operation line but also for the inspector U who performs the inspection on the inspection line. is there. However, the partner (inspector or the like) to which the wrinkle detection device 10 provides guidance is not particularly limited.

<3.第1実施形態に係る疵検出装置の構成>
次に、図2を参照しつつ、本発明の第1実施形態に係る疵検出装置の構成について説明する。図2は、本実施形態に係る疵検出装置の構成について説明するための説明図である。
<3. Configuration of Wrinkle Detection Device According to First Embodiment>
Next, the configuration of the wrinkle detection apparatus according to the first embodiment of the present invention will be described with reference to FIG. FIG. 2 is an explanatory diagram for describing a configuration of the wrinkle detection device according to the present embodiment.

(3−1.構成の概要)
図2に示すように、本実施形態に係る疵検出装置10は、照明部11と、撮像部12A,12Bと、制御部13と、記憶部14と、表示部15A,15Bと、信号処理部100と、を有する。
(3-1. Outline of configuration)
As shown in FIG. 2, the eyelid detection device 10 according to the present embodiment includes an illumination unit 11, imaging units 12 </ b> A and 12 </ b> B, a control unit 13, a storage unit 14, display units 15 </ b> A and 15 </ b> B, and a signal processing unit. 100.

照明部11は、搬送される金属板Fに光を照射する。本実施形態において照明部11は、ロールRに捲き付いた状態の金属板Fを照明している。金属板Fをどの位置で照明するのかは、特に限定されるものではないが、本実施形態のように照明する場合、ロールRで金属板Fが支持されているため、ロールRのばたつきや振動を抑えた撮像を行うことができ、微小疵の検出精度を向上させることができる。   The illumination part 11 irradiates light to the metal plate F to be conveyed. In the present embodiment, the illuminating unit 11 illuminates the metal plate F in a state of being rubbed against the roll R. The position at which the metal plate F is illuminated is not particularly limited. However, when the illumination is performed as in the present embodiment, the roll R supports the metal plate F, so that the roll R flutters or vibrates. Imaging can be performed, and the detection accuracy of minute wrinkles can be improved.

撮像部12A,12Bは、照明部11により照明された金属板Fを撮像する。この際、撮像部12Aは、照明部11から発せられた光が鏡面反射(正反射とも言う。)した光を撮像するように配置される。この正反射光を撮像部12Aが撮像して得られる撮像画像を「正反射画像」とも言う。一方、撮像部12Bは、照明部11から発せられた光が拡散反射(乱反射とも言う。)した光を撮像するように配置される。この乱反射光を撮像部12Bが撮像して得られる撮像画像を「乱反射画像」とも言う。   The imaging units 12A and 12B image the metal plate F illuminated by the illumination unit 11. At this time, the imaging unit 12A is arranged so as to capture light that is specularly reflected (also referred to as regular reflection) from the light emitted from the illumination unit 11. A captured image obtained by imaging the regular reflection light by the imaging unit 12A is also referred to as a “regular reflection image”. On the other hand, the imaging unit 12B is arranged so as to capture light that is diffusely reflected (also referred to as irregular reflection) by the light emitted from the illumination unit 11. A captured image obtained by imaging the irregularly reflected light by the imaging unit 12B is also referred to as a “diffuse reflected image”.

これらの照明部11及び撮像部12A,12Bは、制御部13により制御される。この制御部13は、ライン制御装置(図示せず)等からの入力に従い、所定のタイミングで照明部11による照明と撮像部12A,12Bによる撮像とを制御する。なお、撮像部12A,12Bは、同時に金属板Fの同一個所を撮像するように制御される。そして、制御部13は、金属板Fの全域に対して微小疵検出が行われるように、つまり、金属板Fの全域が撮像部12A,12Bにより撮像されるように、撮像部12A,12B等を制御することが望ましい。また、この制御部13は、信号処理部100をも制御する。   The illumination unit 11 and the imaging units 12A and 12B are controlled by the control unit 13. The control unit 13 controls illumination by the illumination unit 11 and imaging by the imaging units 12A and 12B at a predetermined timing in accordance with an input from a line control device (not shown) or the like. Note that the imaging units 12A and 12B are controlled so as to capture the same portion of the metal plate F at the same time. And the control part 13 is image pick-up part 12A, 12B etc. so that the fine wrinkle detection may be performed with respect to the whole region of the metal plate F, that is, so that the whole region of the metal plate F may be imaged by the image pick-up parts 12A, 12B. It is desirable to control. The control unit 13 also controls the signal processing unit 100.

信号処理部100は、撮像部12A,12Bから正反射画像及び乱反射画像を取得して、これらの画像に所定の信号処理を施すことにより微小疵を抽出し、その微小疵の有害度を表した情報を算出して、記憶部14(発生度合記録部の一例)に記録する。そして、この記憶部14に記録した情報を、検査員Uが認識しやすい形態の画像や情報に加工して、操業ラインの表示部15A,及び、検査ラインの表示部15Bの表示画面に表示することができる。この際、どの画像・情報等を、どの表示部15A,15Bに表示させるのかは、検査員Uの操作や上記のライン制御装置等の入力に基づいた制御部13により制御される。   The signal processing unit 100 acquires specular reflection images and irregular reflection images from the imaging units 12A and 12B, extracts minute wrinkles by performing predetermined signal processing on these images, and represents the harmfulness of the minute wrinkles. The information is calculated and recorded in the storage unit 14 (an example of the occurrence degree recording unit). Then, the information recorded in the storage unit 14 is processed into an image and information in a form that can be easily recognized by the inspector U, and displayed on the display screens of the operation line display unit 15A and the inspection line display unit 15B. be able to. At this time, which image / information or the like is to be displayed on which display unit 15A, 15B is controlled by the control unit 13 based on the operation of the inspector U or the input of the line control device or the like.

(3−2.信号処理部の構成)
この信号処理部100についてより詳細に説明する。
図2に示すように、信号処理部100は、疵候補抽出部110と、分類部120と、密集疵特定部130と、合計数算出部140と、重要度設定部150と、発生度合算出部160と、経時変化作成部170と、表示制御部180とを有する。
(3-2. Configuration of signal processing unit)
The signal processing unit 100 will be described in more detail.
As illustrated in FIG. 2, the signal processing unit 100 includes a wrinkle candidate extraction unit 110, a classification unit 120, a dense wrinkle identification unit 130, a total number calculation unit 140, an importance setting unit 150, and an occurrence degree calculation unit. 160, a temporal change creation unit 170, and a display control unit 180.

疵候補抽出部110は、金属板Fの同一部位を撮像して得られた正反射画像及び乱反射画像を撮像部12A,12Bから取得する。そして、疵候補抽出部110は、少なくとも一方の画像から、その画像中に含まれる微小疵の候補である「疵候補」を抽出する。この際、疵候補抽出部110は、正反射画像及び乱反射画像の両画像に対して、疵候補抽出処理や後続の処理における精度を向上させるために、所定の画像処理を施してノイズを除去することが望ましい。   The eyelid candidate extraction unit 110 acquires the regular reflection image and the irregular reflection image obtained by imaging the same part of the metal plate F from the imaging units 12A and 12B. Then, wrinkle candidate extraction section 110 extracts a “wrinkle candidate” that is a candidate for a fine wrinkle included in the image from at least one of the images. At this time, the eyelid candidate extraction unit 110 performs predetermined image processing on both the regular reflection image and the irregular reflection image to remove the noise in order to improve accuracy in the eyelid candidate extraction processing and subsequent processing. It is desirable.

より具体的には、まず、疵候補抽出部110は、両画像に対して、例えば、輝度ムラを補正するシェーディング補正、特定方向が長手となる疵を強調する空間フィルタリング処理などを施す。この画像処理後、疵候補抽出部110は、少なくともどちらか一方の画像に対して、疵候補の抽出処理を行う。この抽出処理としては、例えば、画像輝度の二値化が挙げられる。二値化処理では、疵候補抽出部110は、疵が形成されていない領域の輝度値(例えば平均値などであってもよい。)に対する高低両者の閾値を予め設けておき、この閾値に基づいて、画像を二値化する。より具体的には、高低両閾値の間の輝度値については「正常」として「0」とし、高閾値を超えたり、低閾値未満の輝度値については「異常」として「1」とする。その結果、疵候補抽出部110は、疵候補を抽出することができる。なお、ここで「疵候補」とは、金属板Fに形成された微小疵であることが予想される輝度値を取る領域を意味し、必ずしも微小疵だけでなく、大型疵や汚れなど撮像され得るものが含まれることになる。   More specifically, first, the wrinkle candidate extraction unit 110 performs, for example, shading correction that corrects luminance unevenness, spatial filtering processing that emphasizes wrinkles whose longitudinal direction is a specific direction, and the like on both images. After this image processing, wrinkle candidate extraction unit 110 performs wrinkle candidate extraction processing on at least one of the images. As this extraction processing, for example, binarization of the image luminance can be mentioned. In the binarization process, the eyelid candidate extraction unit 110 sets both high and low threshold values for the luminance value (for example, an average value) of an area where no wrinkles are formed in advance, and based on this threshold value. To binarize the image. More specifically, the luminance value between the high and low thresholds is set to “0” as “normal”, and the luminance value exceeding the high threshold or less than the low threshold is set to “1” as “abnormal”. As a result, the wrinkle candidate extraction unit 110 can extract the wrinkle candidate. Here, the “cancellation candidate” means a region that takes a luminance value that is expected to be a fine crease formed on the metal plate F, and is not necessarily captured as a fine crease, but a large crease or a stain is captured. What you get will be included.

そして、疵候補抽出部110は、各疵候補に対してラベリングを行う。ただし、この際、疵候補抽出部110は、ノイズを更に低減させるために所定の閾値(例えば1画素)以下の画素数の疵候補を取り除き、残った疵候補に対してラベリングを行うことも可能である。   Then, cocoon candidate extraction unit 110 performs labeling on each cocoon candidate. However, at this time, the eyelid candidate extraction unit 110 can also remove the eyelid candidates having the number of pixels equal to or less than a predetermined threshold (for example, one pixel) and label the remaining eyelid candidates in order to further reduce noise. It is.

また、このように抽出した疵候補に対して、疵候補抽出部110は、その疵候補の特徴情報を正反射画像及び乱反射画像それぞれから抽出する。特徴情報としては、例えば、金属板Fの各面における疵候補の位置(疵候補の外接長方形の中心又は二値画像の重心など。)を表す位置情報(幅方向座標及び長手方向座標)と、各画像から抽出可能な疵候補の特徴量を表す特徴量情報とが含まれる。また、特徴量情報としては、例えば、疵候補の幅方向座標における幅・疵候補の長手方向座標における長さ・疵候補の面内における形状・疵候補位置の最高輝度・最低輝度・疵候補の輝度の分布のヒストグラムなどが挙げられる。この際、一方の画像に基づいた疵候補抽出処理が行われる場合、他方の画像における疵候補は、一方の画像から抽出された位置情報に基づいて特定することになる。   In addition, for the wrinkle candidate extracted in this way, the wrinkle candidate extraction unit 110 extracts the feature information of the wrinkle candidate from each of the regular reflection image and the irregular reflection image. As the feature information, for example, position information (width direction coordinate and longitudinal direction coordinate) indicating the position of the eyelid candidate (the center of the circumscribed rectangle of the eyelid candidate or the center of gravity of the binary image) on each surface of the metal plate F; And feature amount information representing the feature amount of the wrinkle candidate that can be extracted from each image. Further, as the feature amount information, for example, the width in the width direction coordinate of the heel candidate, the length in the longitudinal coordinate of the heel candidate, the shape in the surface of the heel candidate, the highest brightness, the lowest brightness, and the heel candidate For example, a histogram of luminance distribution. At this time, when the wrinkle candidate extraction process based on one image is performed, the wrinkle candidate in the other image is specified based on the position information extracted from the one image.

分類部120は、疵候補抽出部110により抽出された複数の疵候補それぞれを、その疵候補に対応する正反射画像における輝度値(「正反射輝度値」とも言う。)と乱反射画像における輝度値(「乱反射輝度値」とも言う。)との組み合わせに基づいて、複数のグループに分類数する。   The classification unit 120, for each of the plurality of wrinkle candidates extracted by the wrinkle candidate extraction unit 110, the luminance value (also referred to as “regular reflection luminance value”) corresponding to the wrinkle candidate and the luminance value in the irregular reflection image. (Also referred to as “diffuse reflection luminance value”), the number of classification into a plurality of groups.

この分類部120による分類過程についてより詳細に説明する。
分類部120は、金属板F表面における疵候補以外の位置からの輝度値(例えば平均値であってもよく、この場合疵候補位置の輝度値も含んでもよい。)に対する正反射輝度値及び乱反射輝度値それぞれの高低の組み合わせに基づいて、複数の疵候補それぞれを複数のグループに分類する。図3は、本実施形態に係る分類部による分類について説明するための説明図である。疵候補は、少なからずそれ以外の面に対して凹凸を有していたり反射率が異なる。よって、図3に示すように、正反射輝度値及び乱反射輝度値は、それぞれ他の部位に比べて低くなるか高くなる。図3では、その輝度値の組み合わせの一例を示している。反射光が強いと疵候補は、周囲の輝度値に比べて強い輝度値となる。このように輝度値が強くなることをここでは「白」とも言い、図3では白丸(○)で表している。一方、反射光が弱いと疵候補は、周囲の輝度値に比べて弱い輝度値となる。このように輝度値が弱くなることをここでは「黒」とも言い、図3では黒丸(●)で表している。図3(A)では、正反射画像では白く、乱反射画像では黒く写る疵候補を示しており、このような疵は、メッキ不良であることが多い。また、図3(B)では、正反射画像では白く、乱反射画像でも白く写る疵候補を示しており、このような疵は、溶接ゴミであることが多い。また、図3(C)では、正反射画像では白く、乱反射画像では周囲と同程度の輝度(以下「灰色」とも言う。)に写る疵候補を示しており、このような疵は、他のメッキ不良であることが多い。そして、図3(D)では、正反射画像では黒く、乱反射画像でも黒く写る疵候補を示しており、このような疵は、ロールゴミ付着であることが多い。
The classification process by the classification unit 120 will be described in more detail.
The classification unit 120 performs regular reflection luminance values and irregular reflection on luminance values from positions other than the wrinkle candidates on the surface of the metal plate F (for example, average values may be included, and in this case, the luminance values at the wrinkle candidate positions may also be included). Each of the plurality of wrinkle candidates is classified into a plurality of groups based on the combination of the brightness values. FIG. 3 is an explanatory diagram for explaining classification by the classification unit according to the present embodiment. The wrinkle candidate has irregularities on the other surfaces, and has a different reflectance. Therefore, as shown in FIG. 3, the regular reflection luminance value and the irregular reflection luminance value are lower or higher than the other parts, respectively. FIG. 3 shows an example of the combination of the luminance values. If the reflected light is strong, the wrinkle candidate has a higher luminance value than the surrounding luminance value. Such an increase in luminance value is also referred to as “white” here, and is represented by a white circle (◯) in FIG. On the other hand, when the reflected light is weak, the wrinkle candidate has a weak luminance value compared to the surrounding luminance values. Such a decrease in luminance value is also referred to as “black” here, and is represented by a black circle (●) in FIG. FIG. 3A shows wrinkle candidates that appear white in the regular reflection image and black in the irregular reflection image, and such wrinkles are often poorly plated. FIG. 3B shows wrinkle candidates that are white in the regular reflection image and white in the irregular reflection image, and such wrinkles are often welding dust. In addition, FIG. 3C shows a wrinkle candidate that is white in a regular reflection image and appears in brightness (hereinafter, also referred to as “gray”) in the diffuse reflection image. In many cases, plating is defective. FIG. 3D shows wrinkle candidates that appear black in the regular reflection image and black in the irregular reflection image, and such wrinkles are often attached to dust rolls.

疵候補抽出部110により、各疵候補の特徴情報が抽出されるが、上述の通り、微小疵の場合、その疵種や有害度を特定するのに有意な特徴情報を抽出することは難しい。そこで、分類部120は、このような正乱輝度値の白黒灰色の組み合わせにより、複数の疵候補を複数のグループに分類する。   The cocoon candidate extraction unit 110 extracts feature information of each cocoon candidate. As described above, in the case of a micro cocoon, it is difficult to extract feature information that is significant for specifying the type and degree of harmfulness of the cocoon. Therefore, the classification unit 120 classifies the plurality of wrinkle candidates into a plurality of groups based on such a combination of black and white gray of the regular luminance value.

図4に、複数のグループの組み合わせを表で示す。図4は、本実施形態に係る分類部による分類について説明するための説明図である。   FIG. 4 is a table showing combinations of a plurality of groups. FIG. 4 is an explanatory diagram for explaining classification by the classification unit according to the present embodiment.

分類部120は、この分類を行う際、上述の通り、正反射輝度値及び乱反射輝度値を使用するが、この正反射輝度値及び乱反射輝度値として、それぞれの最大輝度値(正最大輝度及び乱最大輝度)又は最小輝度値(正最小輝度及び乱最小輝度)を使用する。つまり、白の疵候補では、最大輝度値が使用され、黒の疵候補では、最小輝度値が使用される。そして、分類部120は、正反射輝度値及び乱反射輝度値それぞれに対して、最大輝度値の閾値(正最大閾値及び乱最大閾値)、及び、最小輝度値の閾値(正最小閾値及び乱最小閾値)を別途設けておき、この閾値と比較する。その結果、分類部120は、正反射輝度値及び乱反射輝度値それぞれの各閾値に対する大小の組み合わせにより、疵候補1つ1つを分類する。   When performing this classification, the classification unit 120 uses the regular reflection luminance value and the irregular reflection luminance value as described above. As the regular reflection luminance value and the irregular reflection luminance value, the maximum luminance value (positive maximum luminance and irregular reflection luminance value) is used. Maximum brightness) or minimum brightness values (positive minimum brightness and random minimum brightness) are used. That is, the maximum luminance value is used for the white haze candidate, and the minimum luminance value is used for the black haze candidate. Then, the classification unit 120, for each of the regular reflection luminance value and the irregular reflection luminance value, has a maximum luminance value threshold (positive maximum threshold and irregular maximum threshold) and a minimum luminance value threshold (positive minimum threshold and irregular minimum threshold). ) Is provided separately and compared with this threshold value. As a result, the classification unit 120 classifies the eyelid candidates one by one based on a combination of magnitudes for the respective threshold values of the regular reflection luminance value and the irregular reflection luminance value.

最大輝度値の閾値(正最大閾値及び乱最大閾値)は、例えば以下のように決定される。
まず、正反射画像、乱反射画像それぞれにおける正常部の輝度値を、画像処理により256階調の中間である128に決定し、最大輝度値の閾値は、256階調の最大値である256と128との中間の192とする。
同様に、最小輝度値の閾値(正最小閾値及び乱最小閾値)は、正反射画像、乱反射画像それぞれにおける正常部の輝度値を、画像処理により256階調の中間である128に決定し、最小輝度値の閾値は、256階調の最小値である1と128との中間の64とする。
なお、これらの閾値やその設定方法は、鋼板の材質や出荷するコイルの向け先などによって変更することが可能である。
The threshold value of the maximum luminance value (positive maximum threshold value and maximum disturbance threshold value) is determined as follows, for example.
First, the luminance value of the normal part in each of the regular reflection image and the irregular reflection image is determined to be 128 which is the middle of 256 gradations by image processing, and the threshold value of the maximum luminance value is 256 and 128 which are the maximum values of 256 gradations. 192 in between.
Similarly, the threshold value of the minimum luminance value (positive minimum threshold value and irregular minimum threshold value) is determined by determining the luminance value of the normal part in each of the regular reflection image and the irregular reflection image to 128 which is the middle of 256 gradations by image processing. The threshold value of the luminance value is 64, which is an intermediate value between 1 and 128, which is the minimum value of 256 gradations.
In addition, these threshold values and the setting method thereof can be changed depending on the material of the steel plate, the destination of the coil to be shipped, and the like.

更に、分類部120は、各疵候補について面積に対する閾値(つまり画素数に対する閾値)を設けておき、各疵候補の面積でも分類を行う。なお、図4では、この面積の閾値を「白白閾値、白黒閾値、正白系閾値、黒白閾値、黒黒閾値、正黒系閾値、乱白系閾値、乱黒系閾値」として示しており、各閾値は、各グループに含まれうる疵候補の最大面積を規定する。   Further, the classification unit 120 sets a threshold value for the area (that is, a threshold value for the number of pixels) for each wrinkle candidate, and performs classification on the area of each wrinkle candidate. In FIG. 4, the area threshold is shown as “white / white threshold, black and white threshold, normal white threshold, black / white threshold, black / black threshold, positive black threshold, white threshold, and black threshold”. Prescribes the maximum area of wrinkle candidates that can be included in each group.

その結果、分類部120は、これらの条件を満たすか否かにより、複数の疵候補それぞれをグループG1〜G8へと分類する。ただし、いずれの条件をも満たさない疵候補について、分類部120は、微小疵ではないと判断し、輝度値の条件を満たさないものは除外し、面積の条件を満たさないものは大型疵であるとして、その大型疵の疵情報(撮像画像や特徴情報等)を記憶部14に記録する。   As a result, the classification unit 120 classifies each of the plurality of wrinkle candidates into groups G1 to G8 depending on whether or not these conditions are satisfied. However, for the wrinkle candidate that does not satisfy any of the conditions, the classification unit 120 determines that it is not a fine wrinkle, excludes those that do not satisfy the luminance value condition, and those that do not satisfy the area condition are large wrinkles. The heel information (captured image, feature information, etc.) of the large heel is recorded in the storage unit 14.

この際、分類部120は、大型疵の特徴情報等に基づいて、その大型疵である疵候補の種類及び程度を判別して、その結果をも記憶部14に記録することが望ましい。この際、大型疵に対する種類及び程度の判別は、様々な分類アルゴリズムによる方法により実現することが可能である。例えば、判定処理としては、if thenルール・ニューラルネット・決定木・サポートベクターマシンなどが挙げられるが、これら以外の分類アルゴリズムを使用することももちろん可能である。これらの分類アルゴリズムでは、特徴情報等を入力値として、所定のアルゴリズムで疵候補の種類及び程度を出力することができる。この分類アルゴリズムを確立するために、分類部120は、種類及び程度の少なくとも一方が既知の疵候補に対する特徴情報と、その特徴情報に対する正しい判定結果とを含む教師情報が複数入力されて、その分類アルゴリズムを確立する。なお、分類アルゴリズムの確立方法や、各アルゴリズムの特性等は、アルゴリズム毎で異なるため、ここでの詳しい説明は省略する。   At this time, it is desirable that the classification unit 120 discriminates the type and degree of the cocoon candidate that is the large cocoon based on the feature information of the large cocoon and records the result in the storage unit 14 as well. At this time, it is possible to determine the type and degree of the large bag by various classification algorithm methods. For example, examples of the determination process include if the rule, neural network, decision tree, support vector machine, and the like. Of course, other classification algorithms may be used. In these classification algorithms, the type and degree of wrinkle candidates can be output with a predetermined algorithm using feature information and the like as input values. In order to establish this classification algorithm, the classification unit 120 receives a plurality of pieces of teacher information including feature information for a wrinkle candidate whose type and degree are known, and a correct determination result for the feature information. Establish an algorithm. Note that the classification algorithm establishment method, the characteristics of each algorithm, and the like are different for each algorithm, and thus detailed description thereof is omitted here.

密集疵特定部130は、複数のグループG1〜G8それぞれについて、各グループに含まれる複数の疵候補間の距離に基づいて、その複数の疵候補から、密集した複数の疵候補を特定する。この密集した微小疵の特定は、例えば、最近傍距離計算により行われる。   For each of the plurality of groups G <b> 1 to G <b> 8, the crowded soot identifying unit 130 identifies a plurality of crowded soot candidates from the plurality of soot candidates based on the distance between the plurality of soot candidates included in each group. The identification of the dense minute folds is performed, for example, by nearest neighbor distance calculation.

この最近傍距離計算について図5を参照して説明する。まず、1の疵候補D0を選択して、その疵候補D0に近接した他の疵候補を2つ(2つ以上でもよい。)を抽出する。そして、基準となる疵候補D0からそれぞれの疵候補D1,D2までの距離l1,l2を算出する。そして、その距離の和(l1+l2)を他の疵候補の個数(2個)で割った値を、予め設けられた閾値Lと比較し、閾値L以下で有れば、これらの疵候補は密集疵であると判定し、閾値Lを超過していれば密集疵でないと判定する。密集疵特定部130は、このような判定を、全ての疵候補について行うことにより、密集疵を特定する。なお、図5では、密集疵を黒丸(●)で表し、密集疵でない微小疵を白丸(○)で表している。つまり、非密集疵について言えば、(l3+l4)/2>Lとなり、結果、密集疵でないと判定される。   This nearest neighbor distance calculation will be described with reference to FIG. First, one cocoon candidate D0 is selected, and two other cocoon candidates close to the cocoon candidate D0 (two or more may be extracted) are extracted. Then, the distances l1 and l2 from the reference wrinkle candidate D0 to the respective wrinkle candidates D1 and D2 are calculated. Then, the value obtained by dividing the sum of the distances (l1 + l2) by the number of other wrinkle candidates (2) is compared with a threshold L provided in advance. It is determined that the bag is a bag and if the threshold value L is exceeded, it is determined that the bag is not a crowded bag. The crowded soot identification unit 130 identifies such crowded soot by making such a determination for all of the soot candidates. In FIG. 5, dense folds are represented by black circles (●), and fine folds that are not dense folds are represented by white circles (◯). In other words, in the case of non-dense crowding, (l3 + l4) / 2> L, and as a result, it is determined that there is no crowded crowding.

なお、この密集疵特定部130による処理は、計算負荷がかかるため、必ずしも行われる必要はなく、分類部120が行った分類結果を直接合計数算出部140に送ってもよい。ただし、上述の通り、微小疵は、密集している場合に品質に影響を与える場合が多いため、このような密集疵特定処理が行われると、微小疵の有害度の判定精度を向上させることができる。   It should be noted that the processing by the crowded density identification unit 130 is not necessarily performed because a calculation load is applied, and the classification result performed by the classification unit 120 may be directly sent to the total number calculation unit 140. However, as described above, micro cocoons often affect the quality when they are dense. Therefore, when such dense cocoon identification processing is performed, the accuracy of determining the degree of harmfulness of micro cocoons can be improved. Can do.

合計数算出部140は、複数のグループG1〜G8それぞれについての疵候補の合計数を、金属板F表面における所定の大きさの単位領域毎に算出する。つまり、合計数算出部140は、まず、金属板Fの表面を所定の単位領域毎に分割する。この単位領域としては適宜設定可能であるが、例えば、金属板Fの幅方向は、板幅を1〜16分割、長手方向(コイルの通板方向)は、1〜100m毎の任意の大きさの領域に設定されることが望ましい。ただし、ここでは、単位領域として金属板Fを幅方向で8分割し長手方向で10m毎に区画する領域に設定される場合について説明する。そして、合計数算出部140は、各単位領域毎に、各グループG1〜G8に含まれた疵候補の合計数N1〜N8を算出する。   The total number calculation unit 140 calculates the total number of wrinkle candidates for each of the plurality of groups G1 to G8 for each unit region of a predetermined size on the surface of the metal plate F. That is, the total number calculation unit 140 first divides the surface of the metal plate F into predetermined unit areas. The unit area can be set as appropriate. For example, the width direction of the metal plate F is divided into 1 to 16 in the width direction, and the longitudinal direction (coil passing direction) is an arbitrary size of 1 to 100 m. It is desirable to be set in the area. However, here, a case will be described in which the metal plate F is set as a unit region in a region divided into eight in the width direction and divided every 10 m in the longitudinal direction. And the total number calculation part 140 calculates the total number N1-N8 of the wrinkle candidate contained in each group G1-G8 for every unit area | region.

なお、上述の通り、ここでカウントされる疵候補は、密集疵特定部130により密集疵であると判定された微小疵だけであってもよく、この密集疵特定処理が行われていないグループ内の微小疵であってもよい。更に、密集疵特定部130による密集疵の特定は、合計数算出部140による単位領域への分割後に、その分割された単位領域毎に行われてもよい。更に言えば、上記密集疵特定部130は、グループ内の疵候補だけでなく、グループ間を跨いで密集疵を特定することも可能である。   Note that, as described above, the wrinkle candidates counted here may be only minute wrinkles that are determined to be dense wrinkles by the dense wrinkle identification unit 130, and in the group where the dense flaw identification processing is not performed. It may be a fine wrinkle. Further, the dense crowd identification by the dense crowd identification unit 130 may be performed for each divided unit area after the total number calculation unit 140 divides the unit area. Furthermore, the densely crowded identification unit 130 can identify a crowded cluster not only among the candidates for a group within a group but also across groups.

重要度設定部150は、複数のグループG1〜G8それぞれについて、そのグループに分類される微小疵の重要度の指標である重要度係数C1〜C8を設定する。なお、ここで重要度係数C1〜C8は、数値で表され、そのグループ内の微小疵をどの程度重要視するのかを表した指標や重みとして使用することができる。そして、この重要度係数C1〜C8は、予め設定されるか、又は、出荷するコイルの向け先に応じて、自動的に適宜設定されることが望ましい。   The importance setting unit 150 sets importance coefficients C1 to C8 that are indices of the importance of the minute wrinkles classified into the groups for each of the plurality of groups G1 to G8. Here, the importance coefficients C1 to C8 are represented by numerical values, and can be used as an index or a weight representing how much the minute wrinkles in the group are regarded as important. The importance coefficients C1 to C8 are preferably set in advance or automatically set appropriately according to the destination of the coil to be shipped.

発生度合算出部160は、合計数算出部140がグループ毎及び単位領域毎に算出した合計数N1〜N8と、その合計数に対応するグループの重要度係数C1〜C8とに基づいて、単位領域毎に疵候補の発生度合Pを算出する。より具体的には、発生度合算出部160は、単位領域毎に、下記式1に示すように、各グループG1〜G8について合計数N1〜N8に重要度係数C1〜C8を乗算又は除算した値を、全グループG1〜G8に対して加算して、疵候補の発生度合を算出する。
P=C1×N1+C2×N2+C3×N3+C4×N4
+C5×N5+C6×N6+C7×N7+C8×N8 (式1)
The degree-of-occurrence calculation unit 160 calculates the unit area based on the total numbers N1 to N8 calculated by the total number calculation unit 140 for each group and each unit area, and the importance coefficients C1 to C8 of the groups corresponding to the total number. The occurrence degree P of the wrinkle candidate is calculated every time. More specifically, for each unit region, the occurrence degree calculation unit 160 multiplies or divides the total numbers N1 to N8 by importance factors C1 to C8 for each group G1 to G8, as shown in the following formula 1. Are added to all the groups G1 to G8 to calculate the occurrence degree of the wrinkle candidate.
P = C1 * N1 + C2 * N2 + C3 * N3 + C4 * N4
+ C5 × N5 + C6 × N6 + C7 × N7 + C8 × N8 (Formula 1)

そして、発生度合算出部160は、単位領域毎に算出した発生度合を記憶部14に記録する。なお、「発生度合」とは、微小疵がどの程度発生しているのかを数値として表した値で、上述の通り、グループ毎の重要度により重み付けが加えられているため、重要なグループの微小疵を強調して表すことが可能である。また、重要度係数C1〜C8は、例えば0〜10の間で設定されてもよく、式1のように乗算が使用される場合には、重要度係数C1〜C8が大きければ大きいほどそのグループ内の微小疵は強調されることになる。   Then, the occurrence degree calculation unit 160 records the occurrence degree calculated for each unit area in the storage unit 14. Note that the “occurrence degree” is a numerical value indicating how much minute wrinkles have occurred, and as described above, weighting is added according to the importance of each group, so that the minute groups of important groups It is possible to express 疵 with emphasis. The importance coefficients C1 to C8 may be set, for example, between 0 and 10, and when multiplication is used as in Expression 1, the larger the importance coefficients C1 to C8, the larger the group. The minute wrinkles inside will be emphasized.

また、発生度合算出部160は、この発生度合Pとは別に、何れかのグループに分類された疵候補、つまり、微小疵であると判定された疵候補の合計数を算出し、1m×1mなどの所定の範囲の発生密度の、コイル片面毎の最大値(最大発生密度)や平均値(平均発生密度)を算出することも可能である。更に、これらの合計数・密度等は、コイル片面単位で集計され、記憶部14に記録される。   In addition to the occurrence degree P, the occurrence degree calculation unit 160 calculates the total number of wrinkle candidates classified into any group, that is, the number of wrinkle candidates determined to be minute wrinkles, and is 1 m × 1 m. It is also possible to calculate the maximum value (maximum generation density) or the average value (average generation density) for each side of the coil within a predetermined range of generation density. Further, the total number, density, and the like of these are aggregated in units of one side of the coil and recorded in the storage unit 14.

経時変化作成部170は、記憶部14に記録された発生度合Pや合計数・密度等を、金属板FのコイルC毎、又は、所定時間間隔毎にデータ処理して、それらの値のコイル毎の変化又は経時的変化(時間的変化)を表すデータへと変換し、そのデータによりグラフを作成する。この経時変化作成部170が作成するグラフ等については、疵検出装置10の動作等において説明する。   The temporal change creation unit 170 processes the degree of occurrence P and the total number / density recorded in the storage unit 14 for each coil C of the metal plate F or every predetermined time interval, and the coil of those values is processed. It converts into the data showing every change or time-dependent change (time change), and creates a graph with the data. The graph and the like created by the temporal change creation unit 170 will be described in the operation of the wrinkle detection device 10.

表示制御部180は、検査員Uの操作や上記のライン制御装置等の入力に基づいた制御部13により制御され、記憶部14に記録された情報、又は、経時変化作成部170が作成したグラフ等を表示部15A,15Bの表示画面に表示する。この際、表示制御部180は、特に所定の単位領域毎に算出された発生度合を、コイル展開図上に色彩やその色の濃淡で表すことにより、微小疵の発生度合を検査員Uが視覚的に認識しやすい形で表示することが可能である。なお、この表示制御部180による表示例等についても、疵検出装置10の動作等において説明する。   The display control unit 180 is controlled by the control unit 13 based on the operation of the inspector U and the input of the above-described line control device and the like, or the information recorded in the storage unit 14 or the graph created by the temporal change creation unit 170 Are displayed on the display screens of the display units 15A and 15B. At this time, the display control unit 180 expresses the degree of occurrence of the minute wrinkles especially by the inspector U by expressing the degree of occurrence calculated for each predetermined unit area with colors and shades of the color on the coil development diagram. Display in a form that is easy to recognize. Note that examples of display by the display control unit 180 will be described in the operation of the eyelid detection device 10.

<4.第1実施形態に係る疵検出装置の動作>
以上、本発明の第1実施形態に係る疵検出装置の構成等について説明した。
次に、図6〜図10を参照しつつ、本発明の第1実施形態に係る疵検出装置の動作等について説明する。図6は、本実施形態に係る疵検出装置の動作について説明するための説明図である。図7〜図10は、本実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。
<4. Operation of Wrinkle Detection Device According to First Embodiment>
The configuration and the like of the wrinkle detection device according to the first embodiment of the present invention have been described above.
Next, operations and the like of the wrinkle detection device according to the first embodiment of the present invention will be described with reference to FIGS. FIG. 6 is an explanatory diagram for explaining the operation of the wrinkle detection device according to the present embodiment. 7-10 is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on this embodiment displays.

金属板Fが操業ラインを搬送されている際に、制御部13は、照明部11及び撮像部12A,12Bを制御して、金属板Fの表面を撮像させる。そして、撮像した結果得られる正反射画像及び乱反射画像を取得した信号処理部100は、図6に示すステップS01を処理する。   When the metal plate F is transported along the operation line, the control unit 13 controls the illumination unit 11 and the imaging units 12A and 12B to image the surface of the metal plate F. And the signal processing part 100 which acquired the regular reflection image and irregular reflection image obtained as a result of imaging process step S01 shown in FIG.

ステップS01では、疵候補抽出部110が、正反射画像及び乱反射画像に所定の画像処理を施す。更に、疵候補抽出部110は、少なくとも一方の画像輝度に基づいて、微小疵を含む疵候補を抽出し、その疵候補にラベリングを行う。そして、疵候補抽出部110は、各疵候補について特徴情報を抽出する。このステップS01の処理後は、ステップS03に進む。   In step S01, the eyelid candidate extraction unit 110 performs predetermined image processing on the regular reflection image and the irregular reflection image. Further, wrinkle candidate extraction unit 110 extracts a wrinkle candidate including a fine wrinkle based on at least one image luminance, and performs labeling on the wrinkle candidate. Then, cocoon candidate extraction unit 110 extracts feature information for each cocoon candidate. After the process of step S01, the process proceeds to step S03.

ステップS03では、分類部120は、複数の疵候補を、各疵候補の正反射輝度値及び乱反射輝度値の組み合わせに基づいて、複数のグループG1〜G8に分類する。そして、ステップS05に進む。   In step S03, the classification unit 120 classifies the plurality of wrinkle candidates into a plurality of groups G1 to G8 based on the combination of the regular reflection luminance value and the irregular reflection luminance value of each wrinkle candidate. Then, the process proceeds to step S05.

ステップS05では、分類部120は、疵候補をステップS03でいずれかのグループG1〜G8に分類されたか否かを確認し、いずれのグループG1〜G8にも分類されていない場合には、微小疵でないとして、ステップS07に進む。一方、いずれかのグループG1〜G8に分類された微小疵である場合には、ステップS09に進む。   In step S05, the classification unit 120 confirms whether or not the wrinkle candidate is classified into any of the groups G1 to G8 in step S03, and if it is not classified into any of the groups G1 to G8, the minute wrinkle is determined. If not, the process proceeds to step S07. On the other hand, if it is a micro cocoon classified into any of the groups G1 to G8, the process proceeds to step S09.

ステップS05で微小疵ではないとされてステップS07に進んだ場合、このステップS07では、その微小疵ではない疵候補(例えば大型疵や汚れなど)の特徴情報等が、記憶部14に記録される。この際、分類部120は、これらの疵候補の種類及び程度を所定の分類アルゴリズムで判定し、その判定結果をも記憶部14に記録することが望ましい。そして、このステップS07の処理後は、ステップS09に進む。   If it is determined in step S05 that it is not a fine wrinkle and the process proceeds to step S07, in this step S07, feature information or the like of a wrinkle candidate that is not the fine wrinkle (for example, large wrinkles or dirt) is recorded in the storage unit 14. . At this time, the classification unit 120 preferably determines the type and degree of these wrinkle candidates using a predetermined classification algorithm, and records the determination result in the storage unit 14 as well. After step S07, the process proceeds to step S09.

ステップS09では、疵候補抽出部110が、正反射画像及び乱反射画像の少なくとも一方から全ての疵候補を抽出したか否かを確認する。そして、全ての疵候補を抽出していない場合には、ステップS01以降の処理を繰り返し、全ての疵候補を抽出している場合には、ステップS11に進む。   In step S09, the eyelid candidate extraction unit 110 confirms whether or not all eyelid candidates have been extracted from at least one of the regular reflection image and the irregular reflection image. If not all the wrinkle candidates have been extracted, the processing from step S01 is repeated, and if all the wrinkle candidates have been extracted, the process proceeds to step S11.

ステップS11では、密集疵特定部130が、各グループG1〜G8毎に、そのグループG1〜G8内の疵候補から密集疵を特定する。そして、ステップS13に進む。なお、このステップS11は、省略されてもよく、また、ステップS13の処理後に、各単位領域毎に行われてもよい。また、ステップS11では、グループG1〜G8毎ではなく、全グループG1〜G8にわたって密集疵を特定することも可能である。   In step S11, the dense crowd identifying unit 130 identifies the dense crowd from the candidates in the groups G1 to G8 for each group G1 to G8. Then, the process proceeds to step S13. This step S11 may be omitted, or may be performed for each unit area after the process of step S13. Moreover, in step S11, it is also possible to specify crowding over all groups G1-G8 instead of every group G1-G8.

ステップS13では、合計数算出部140が、金属板Fを複数の単位領域に分割する。そして、ステップS15に進む。   In step S13, the total number calculation unit 140 divides the metal plate F into a plurality of unit regions. Then, the process proceeds to step S15.

ステップS15では、合計数算出部140が、単位領域毎に、グループG1〜G8内の疵候補の合計数N1〜N8を算出する。そして、ステップS17に進む。   In step S15, the total number calculation unit 140 calculates the total number N1 to N8 of wrinkle candidates in the groups G1 to G8 for each unit region. Then, the process proceeds to step S17.

ステップS17では、重要度設定部150が、各グループG1〜G8の重要度係数C1〜C8を設定して、ステップS19に進み、発生度合算出部160が、各単位領域毎に発生度合Pを算出する。この際、発生度合算出部160は、微小疵の合計数を算出し、例えば、1m×1m範囲の発生密度の、コイル片面毎の最大値(最大発生密度)や平均値(平均発生密度)を算出し、これらの合計数・密度等は、コイル片面単位で集計されることが望ましい。そして、ステップS21に進み、発生度合Pや密度等は、記憶部14に記録される。このステップS21の処理後は、ステップS23に進む。   In step S17, the importance setting unit 150 sets the importance coefficients C1 to C8 of the groups G1 to G8, and proceeds to step S19. The occurrence degree calculation unit 160 calculates the occurrence degree P for each unit area. To do. At this time, the generation degree calculation unit 160 calculates the total number of minute wrinkles, for example, the maximum value (maximum generation density) and average value (average generation density) of each generation surface of the generation density in the range of 1 m × 1 m. It is desirable that the total number, density, and the like of these are calculated and totaled in units of one side of the coil. Then, the process proceeds to step S21, and the occurrence degree P, density, and the like are recorded in the storage unit 14. After the process of step S21, the process proceeds to step S23.

ステップS23では、表示制御部180が、検査員Uの操作や上記のライン制御装置等の入力に基づいた制御部13により制御され、上記の発生度合P、例えば1m×1m範囲の発生密度のコイル片面毎の最大値(最大発生密度)・平均値(平均発生密度)・コイル片面単位の微小疵の合計数、最大発生密度、平均発生密度等、又は、経時変化作成部170が作成するグラフ等を、表示部15A,15Bの表示画面に表示させる。なお、表示部15A,15B共に、検査員Uの前を通過する位置における各情報を、金属板Fの搬送と同期して表示することが望ましい。   In step S23, the display control unit 180 is controlled by the control unit 13 based on the operation of the inspector U and the input of the line control device or the like, and the generation degree P, for example, a coil having a generation density in the range of 1 m × 1 m. Maximum value (maximum generation density), average value (average generation density) for each side, total number of minute wrinkles on each side of the coil, maximum generation density, average generation density, etc., graph created by the time change creation unit 170, etc. Is displayed on the display screens of the display units 15A and 15B. In addition, it is desirable to display each information in the position which passes in front of the inspector U in synchronism with conveyance of the metal plate F with both display part 15A, 15B.

(4−1.表示例)
ここで、図7〜図11を参照しつつ、表示制御部180が表示部15A,15Bに表示させる表示例について説明する。ただし、ここで説明する表示例はあくまで一例であり、様々な変更例等が考えられることは言うまでもない。図7〜図11は、本実施形態に係る疵検出装置が表示させる表示例について説明するための説明図である。
(4-1. Display example)
Here, display examples that the display control unit 180 displays on the display units 15A and 15B will be described with reference to FIGS. However, the display examples described here are merely examples, and it is needless to say that various modification examples can be considered. 7-11 is explanatory drawing for demonstrating the example of a display which the wrinkle detection apparatus which concerns on this embodiment displays.

本実施形態に係る表示制御部180は、例えば、操業ラインにおける金属板Fの搬送、又は、検査ラインにおける金属板Fの搬送に同期して、検査員Uの前を通過する金属板Fの部位に対応する疵候補の検出結果を、図7に示すような表示画面として表示させる。   The display control unit 180 according to the present embodiment, for example, a part of the metal plate F that passes in front of the inspector U in synchronization with the transport of the metal plate F on the operation line or the transport of the metal plate F on the inspection line. The detection result of the wrinkle candidate corresponding to is displayed as a display screen as shown in FIG.

図7に示す表示画面(疵検出画面)には、搬送されている金属板Fの識別番号として「生産番号」が表示され、その金属板Fの品質や材料も表示される。そして、この金属板Fの出荷先も「向先」として表示される。   On the display screen (wrinkle detection screen) shown in FIG. 7, “production number” is displayed as the identification number of the metal plate F being conveyed, and the quality and material of the metal plate F are also displayed. The shipping destination of the metal plate F is also displayed as “destination”.

一方、上述の通り、疵検出装置10は、微小疵だけでなく大型疵をも検出して、その大型疵の疵種や程度、その特徴情報等が記憶部14に記憶されている。そこで、表示制御部180は、表示画面に金属板Fの展開図(コイル展開図)を表示し、その展開図上の位置に、その位置に発生した大型疵の種類(A,Bなど)を表示させる。それと共に、表示制御部180は、表示画面に大型疵の正反射画像及び乱反射画像を表示させている。図7の疵検出画面では、検査員Uの選択によるか、疵が発見されるたび、その疵が検査員Uの前を通過するたびなど、所定のタイミングで大型疵が更新される場合を示しており、2の大型疵(最新の疵及びひとつ前の疵)の画像が表示されている場合を例示している。しかし、この大型疵の表示方法は、この例に限定されるものではなく、例えば、大型疵が一覧表示されてもよい。   On the other hand, as described above, the wrinkle detection device 10 detects not only a fine wrinkle but also a large wrinkle, and the type and degree of the large wrinkle, its characteristic information, and the like are stored in the storage unit 14. Therefore, the display control unit 180 displays a development view (coil development view) of the metal plate F on the display screen, and shows the type of large ridges (A, B, etc.) generated at that position on the development view. Display. At the same time, the display control unit 180 displays the regular reflection image and the irregular reflection image of the large bag on the display screen. The bag detection screen of FIG. 7 shows a case where a large bag is updated at a predetermined timing, such as by selection of the inspector U, whenever a bag is found, or when the bag passes in front of the inspector U, etc. In this example, an image of two large bags (the latest bag and the previous bag) is displayed. However, the display method of the large bag is not limited to this example, and for example, the large bag may be displayed as a list.

上述の通り、大型疵は、1つの発生でも品質等に影響を与える恐れがあるため、本実施形態に係る疵検出装置10は、このように大型疵を発見すると、その1つ1つを認識し易いように位置などの所定の特徴情報を含めて検査員Uにガイダンスする。その結果、適切に大型疵を検査員Uに認識させることができ、より効果的に金属板Fの品質管理を行うことが可能である。   As described above, even if one large flaw may affect the quality or the like, the flaw detection device 10 according to the present embodiment recognizes each large flaw when it finds such a large flaw. Guidance is given to the inspector U including predetermined feature information such as the position so that it can be easily performed. As a result, it is possible to make the inspector U recognize the large-sized ridge appropriately, and the quality control of the metal plate F can be performed more effectively.

一方、上述の通り、微小疵は、1つ1つの発生が品質に影響を与える場合よりも、多数発生した場合に品質に影響を与えることが多い。そこで、表示制御部180は、図7に示すように、1つ1つの微小疵をガイダンスするのではなく、金属板Fの展開図(コイル展開図)の右方に、各長手方向位置に対応する単位領域の発生度合Pの幅方向の合計を、長手方向位置毎に表示する(密度表示欄)。その結果、検査員Uは、図7に示す表示画面を参照して、大型疵の1つ1つを認識しつつも、微小疵の発生度合Pを認識することができる。なお、図7では、発生度合Pの合計数を数値として表示するのではなく、その数値の応じた色彩又は濃淡として表示して、検査員Uに警告する。なお、発生度合Pが多ければ多いほど、例えば色彩を「赤」に近くしてその赤を「濃く」するなどの表示方法が望ましい。   On the other hand, as described above, micro wrinkles often affect quality when a large number of micro wrinkles occur, rather than when each occurrence affects quality. Accordingly, as shown in FIG. 7, the display control unit 180 does not provide guidance for each minute wrinkle, but corresponds to each longitudinal position on the right side of the development view of the metal plate F (coil development view). The total in the width direction of the generation degree P of the unit area to be displayed is displayed for each position in the longitudinal direction (density display column). As a result, the inspector U can recognize the generation degree P of the minute wrinkles while recognizing each large wrinkle with reference to the display screen shown in FIG. In FIG. 7, the total number of occurrence degrees P is not displayed as a numerical value, but is displayed as a color or shading corresponding to the numerical value to warn the inspector U. It should be noted that as the degree of occurrence P increases, a display method such as making the color closer to “red” and making the red “darker” is desirable.

また、図7の「密度」ボタンがマウスなどの入力装置で選択されると、表示制御部180は、図8に示す微小疵画面を表示させる。   Further, when the “density” button in FIG. 7 is selected by an input device such as a mouse, the display control unit 180 displays the minute wrinkle screen shown in FIG.

この図8に示す微小疵画面では、図7の金属板Fの展開図(コイル展開図)の右方に表示された各長手方向位置に対する各微小疵の発生度合Pが、金属板Fの各単位領域毎又は複数の単位領域毎に表示される。従って、疵検出装置10は、このような微小疵画面を表示することにより、微小疵が高い発生度合Pで発生している金属板Fの個所を、容易に検査員Uに認識させることが可能である。なお、図8でも、図7と同様に発生度合Pを色彩又は濃淡として表示することが望ましい。また、図8では、図7のコイル展開図と同程度の長手方向分解能で単位領域を表示しているが、この分解能を上げて表示することで、微小疵の発生度合P等をより詳細に検査員Uに認識させることも可能である。なお、本実施形態では、図7の疵検出画面と図8の微小疵画面とが順次表示される場合を説明しているが、例えば、表示画面を複数設けて両画面を同時に表示させることも可能である。   In the minute wrinkle screen shown in FIG. 8, the degree P of occurrence of each minute wrinkle with respect to each longitudinal position displayed on the right side of the development view (coil development view) of the metal plate F in FIG. It is displayed for each unit area or for each unit area. Therefore, the wrinkle detection device 10 can cause the inspector U to easily recognize the location of the metal plate F in which the minute wrinkles are generated by displaying such a fine wrinkle screen. It is. In FIG. 8, it is desirable to display the degree of occurrence P as a color or shade as in FIG. Further, in FIG. 8, the unit area is displayed with the longitudinal resolution similar to that of the coil development view of FIG. 7, but by increasing the resolution, the degree of occurrence of fine wrinkles P and the like are shown in more detail. It is also possible to make the inspector U recognize. In the present embodiment, the case where the wrinkle detection screen of FIG. 7 and the fine wrinkle screen of FIG. 8 are sequentially displayed has been described. For example, a plurality of display screens may be provided to display both screens simultaneously. Is possible.

更に、図8に示す単位領域がマウスなどの入力装置で選択されると、表示制御部180は、図9に示すようにその単位領域の撮像画像を表示させる。従って、疵検出装置10は、検査員Uに微小疵の発生状態を実際の画像で認識させることができ、適切に検査員Uによる品質判断やその後の処置判断等の補助を行うことが可能である。なお、図9に示す撮像画像では、正反射画像のみが表示されている場合を例示しているが、例えば、乱反射画像のみを表示したり、正反射画像及び乱反射画像を同時に表示させてもよいことは言うまでもない。また、表示制御部180は、発生度合P・疵候補が多いグループ・実際の微小疵の個数・微小疵の実際の密度などに応じて、その微小疵発生状態の有害度合(グレード)・微小疵が多いグループ名(疵分類)・最大発生密度・平均発生密度など、検査員Uによる品質判断やその後の処置判断等に役立つ情報をあわせて表示させることが望ましい。また、どの微小疵であるのかという識別情報(No(Number))や検出エリア(コイル内領域の識別情報の一例:図9に示す単位領域はコイル先頭から長手方向に1110mの位置で幅8分割中の8番目であることを意味する。)などが表示されることが望ましい。   Further, when the unit area shown in FIG. 8 is selected by an input device such as a mouse, the display control unit 180 displays a captured image of the unit area as shown in FIG. Therefore, the wrinkle detection device 10 can cause the inspector U to recognize the occurrence state of the minute wrinkles with an actual image, and can appropriately assist the inspector U in quality judgment and subsequent treatment judgment. is there. In addition, although the case where only the regular reflection image is displayed is illustrated in the captured image illustrated in FIG. 9, for example, only the irregular reflection image may be displayed, or the regular reflection image and the irregular reflection image may be displayed simultaneously. Needless to say. In addition, the display control unit 180 determines the degree of harmfulness (grade) and minute wrinkles in the state of occurrence of minute wrinkles according to the occurrence degree P, the group having a large number of wrinkle candidates, the actual number of minute wrinkles, the actual density of minute wrinkles, and the like. It is desirable to display information useful for quality judgment by the inspector U and subsequent treatment judgment, such as the group name (疵 classification), the maximum occurrence density, and the average occurrence density. In addition, identification information (No (Number)) indicating which minute wrinkles or detection area (an example of identification information of the in-coil area: the unit area shown in FIG. 9 is divided into 8 widths at a position of 1110 m in the longitudinal direction from the top of the coil. It means that it is the eighth in the middle.) Etc.

従って、この微小疵画面を参照した検査員Uは、微小疵が発生したエリア(単位領域)等について詳細に目視点検を行うか否かを判断して、金属板Fの品質判断やその後の処置判断を行うことができる。よって、本実施形態に係る疵検出装置10によれば、検査員Uは、微小疵の発生を認識することができるだけでなく、その有害度をも容易に認識することができる。   Therefore, the inspector U who refers to the minute wrinkle screen determines whether or not to perform a detailed visual inspection on the area (unit region) where the minute wrinkles occur, and determines the quality of the metal plate F and the subsequent treatment. Judgment can be made. Therefore, according to the wrinkle detection apparatus 10 according to the present embodiment, the inspector U can not only recognize the occurrence of minute wrinkles, but also can easily recognize the degree of harm.

一方、経時変化作成部170が作成したグラフを、表示制御部180が表示画面に表示させた場合の例を、図10及び図11に示す。上述の通り、経時変化作成部170は、微小疵の発生度合Pや合計数、密度等を、コイル毎の変化又は経時的変化を表すデータへと変換し、そのデータによりグラフを作成する。そして、表示制御部180は、経時変化作成部170が作成したグラフを表示させることができる。   On the other hand, an example in the case where the display control unit 180 displays the graph created by the temporal change creation unit 170 on the display screen is shown in FIGS. As described above, the temporal change creation unit 170 converts the degree of occurrence P, the total number, the density, and the like of minute wrinkles into data representing changes or changes with time for each coil, and creates a graph based on the data. Then, the display control unit 180 can display the graph created by the temporal change creation unit 170.

図10では、経時変化作成部170が、コイル片面に対する微小疵の最大発生密度を、日ごとで集計してグラフを作成した場合を例示している。また、各日付のデータ点が、マウス等の入力装置により選択されると、表示制御部180は、図7に示した疵検出画面や図8に示した微小疵画面を表示させることが望ましい。一方、経時変化作成部170は、各コイルC毎に微小疵の発生状況について、例えば最大発生密度や平均発生密度などの値を算出し、その値によるグラフを作成してもよい。このグラフの例を、図11に示す。   FIG. 10 illustrates a case where the temporal change creation unit 170 creates a graph by counting the maximum occurrence density of minute wrinkles on one side of the coil every day. In addition, when the data point of each date is selected by an input device such as a mouse, it is desirable that the display control unit 180 display the wrinkle detection screen shown in FIG. 7 or the fine wrinkle screen shown in FIG. On the other hand, the temporal change creation unit 170 may calculate a value such as a maximum generation density or an average generation density for the generation state of minute wrinkles for each coil C, and create a graph based on the values. An example of this graph is shown in FIG.

なお、経時変化作成部170でグラフ化される情報(最大発生密度や平均発生密度等)は、発生度合算出部160等において、分類部120が微小疵であると判定した疵候補の実際の個数から算出されてもよいが、重要度係数C1〜C8が加味された発生度合Pから算出されてもよい。   It should be noted that the information graphed by the temporal change creation unit 170 (maximum occurrence density, average occurrence density, etc.) is the actual number of wrinkle candidates that the classification unit 120 has determined to be a minute wrinkle in the occurrence degree calculation unit 160 or the like. However, it may be calculated from the degree of occurrence P in which importance factors C1 to C8 are added.

<5.第1実施形態に係る疵検出装置による効果の例>
以上、本発明の第1実施形態に係る疵検出装置10について説明した。
この疵検出装置10によれば、微小疵を適切に分類し、その分類結果を基に発生度合Pを算出して、検査員Uに通知することができる。従って、微小疵の金属板Fの全長にわたる品質保証が可能となり、操業条件の変更や通板ロールの手入れなどの対策を早期に講じることで、操業の生産性、歩留まりを向上させることが可能である。更に、発生度合Pを算出する際に、各グループG1〜G8の重要度係数C1〜C8を適宜調整することが可能であり、重点的に検出したい疵種を設定することも可能である。
<5. Example of effect by wrinkle detection device according to first embodiment>
The wrinkle detection device 10 according to the first embodiment of the present invention has been described above.
According to this wrinkle detection device 10, it is possible to appropriately classify micro wrinkles, calculate the occurrence degree P based on the classification result, and notify the inspector U. Therefore, it is possible to guarantee quality over the entire length of the fine metal plate F, and it is possible to improve operational productivity and yield by taking early measures such as changing the operating conditions and cleaning the threaded rolls. is there. Furthermore, when calculating the degree of occurrence P, it is possible to adjust the importance coefficients C1 to C8 of the groups G1 to G8 as appropriate, and it is possible to set the species to be detected with priority.

また、正反射画像及び乱反射画像の少なくとも一方から微小疵を含む疵候補を抽出し、その疵候補の正反射輝度値及び乱反射輝度値の最大値又は最小値の組み合わせだけで、疵候補を分類することができる。よって、計算負荷を低減しつつ適切な疵候補の分類が可能である。その結果、この疵検出装置10では、リアルタイム性を損なうことなく、大量に発生しうる微小疵の分類が可能である。   In addition, a wrinkle candidate including a fine wrinkle is extracted from at least one of the regular reflection image and the irregular reflection image, and the wrinkle candidate is classified only by a combination of the maximum or minimum value of the regular reflection luminance value and the irregular reflection luminance value of the wrinkle candidate. be able to. Therefore, it is possible to classify appropriate wrinkle candidates while reducing the calculation load. As a result, this wrinkle detection device 10 can classify micro wrinkles that can occur in large quantities without impairing real-time performance.

また、微小疵の検出結果を表示する際に、コイル展開図に微小疵の発生領域、発生度合P、発生密度等を表示することができるため、各個所の微小疵の発生状況を検査員Uが認識し易いかたちで通知することが可能である。更に、その微小疵の発生状況の経時的変化やコイル毎の変化を表示することができ、検査員Uは、微小疵の発生原因等の究明や対策立案にこれらの情報を使用することが可能である。   Further, when displaying the detection result of minute wrinkles, the generation area of the minute wrinkles, the degree of occurrence P, the generation density, and the like can be displayed on the coil development view. Can be notified in a form that is easy to recognize. Furthermore, it is possible to display changes over time in the occurrence state of the minute flaws and changes for each coil, and the inspector U can use this information for investigation of the cause of the occurrence of the minute flaws and planning of countermeasures. It is.

以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されないことは言うまでもない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても当然に本発明の技術的範囲に属するものと了解される。   As mentioned above, although preferred embodiment of this invention was described in detail, referring an accompanying drawing, it cannot be overemphasized that this invention is not limited to this example. It is obvious that a person having ordinary knowledge in the technical field to which the present invention pertains can come up with various changes or modifications within the scope of the technical idea described in the claims. Of course, it is understood that these also belong to the technical scope of the present invention.

なお、上記各実施形態で説明した一連の処理は、専用のハードウエアにより実行させてもよいが、ソフトウエアにより実行させてもよい。一連の処理をソフトウエアにより行う場合、図12に示すような汎用又は専用のコンピュータにプログラムを実行させることにより、上記の一連の処理を実現することができる。   The series of processes described in the above embodiments may be executed by dedicated hardware, but may be executed by software. When a series of processing is performed by software, the above-described series of processing can be realized by causing a general-purpose or dedicated computer as shown in FIG. 12 to execute the program.

図12は、プログラムを実行することにより一連の処理を実現するコンピュータの構成例を説明するための説明図である。一連の処理を行うプログラムのコンピュータによる実行について説明すれば、以下のようになる。   FIG. 12 is an explanatory diagram for describing a configuration example of a computer that realizes a series of processes by executing a program. The execution of a program for performing a series of processes by a computer will be described as follows.

図12に示すように、コンピュータは、例えば、バス901と、CPU(Central Processing Unit)902と、記録装置と、入出力インターフェイス906と、通信装置907と、入力装置909と、ドライブ910と、出力装置となどを有する。これらの各構成は、バス901や入出力インターフェイス906等を介して相互に情報を伝達可能に接続されている。   As illustrated in FIG. 12, the computer includes, for example, a bus 901, a CPU (Central Processing Unit) 902, a recording device, an input / output interface 906, a communication device 907, an input device 909, a drive 910, and an output Equipment and so on. These components are connected to each other through a bus 901, an input / output interface 906, and the like so as to be able to transmit information to each other.

プログラムは、例えば、記録装置の一例である、HDD(Hard Disk Drive)903・ROM(Read Only Memory)904・RAM(Random Access Memory)905等に記録しておくことがきる。   The program can be recorded in, for example, an HDD (Hard Disk Drive) 903, ROM (Read Only Memory) 904, RAM (Random Access Memory) 905, which is an example of a recording device.

また、プログラムは、例えば、フレキシブルディスクなどの磁気ディスク、各種のCD(Compact Disc)・MO(Magneto Optical)ディスク・DVD(Digital Versatile Disc)等の光ディスク、半導体メモリ等のリムーバブル記憶媒体911に、一時的又は永続的に記録しておくこともできる。このようなリムーバブル記憶媒体911は、いわゆるパッケージソフトウエアとして提供することもできる。この場合、これらのリムーバブル記憶媒体911に記録されたプログラムは、ドライブ910により読み出されて、入出力インターフェイス906・バス901等を介して上記の記録装置に記録されてもよい。   The program is temporarily stored in a removable storage medium 911 such as a magnetic disk such as a flexible disk, an optical disk such as various CDs (Compact Discs), MO (Magneto Optical) disks, and DVDs (Digital Versatile Discs). Can also be recorded manually or permanently. Such a removable storage medium 911 can also be provided as so-called package software. In this case, the program recorded in these removable storage media 911 may be read by the drive 910 and recorded in the recording device via the input / output interface 906, the bus 901, and the like.

更に、プログラムは、例えば、ダウンロードサイト・他のコンピュータ・他の記録装置等(図示せず)に記録しておくこともできる。この場合、プログラムは、LAN(Local Area Network)・インターネット等のネットワーク908を介して転送され、通信装置907がこのプログラムを受信する。そして、通信装置907が受信したプログラムは、入出力インターフェイス906・バス901等を介して上記の記録装置に記録されてもよい。   Furthermore, the program can be recorded in, for example, a download site, another computer, another recording device, etc. (not shown). In this case, the program is transferred via a network 908 such as a LAN (Local Area Network) or the Internet, and the communication device 907 receives the program. The program received by the communication device 907 may be recorded in the recording device via the input / output interface 906, the bus 901, and the like.

そして、CPU902が、上記の記録装置に記録されたプログラムに従い各種の処理を実行することにより、上記の一連の処理が、実現される。この際、CPU902は、例えば、上記の記録装置からプログラムを、直接読み出して実行してもよく、RAM905に一旦ロードした上で実行してもよい。更にCPU902は、例えば、プログラムを通信装置907やドライブ910を介して受信する場合、受信したプログラムを記録装置に記録せずに直接実行してもよい。   Then, the CPU 902 executes various processes according to the program recorded in the recording device, thereby realizing the series of processes. At this time, for example, the CPU 902 may directly read and execute the program from the above-described recording apparatus, or may be executed after being once loaded into the RAM 905. Further, for example, when the program is received via the communication device 907 or the drive 910, the CPU 902 may directly execute the received program without recording it in the recording device.

更に、CPU902は、必要に応じて、例えば撮像装置・マウス・キーボード・マイク(図示せず)等の入力装置909から入力する信号や情報に基づいて各種の処理を行ってもよい。   Furthermore, the CPU 902 may perform various processes based on signals and information input from the input device 909 such as an imaging device, a mouse, a keyboard, and a microphone (not shown) as necessary.

そして、CPU902は、上記の一連の処理を実行した結果を、例えばモニタなどの表示装置912・スピーカやヘッドホンなどの音声出力装置913・照明装置等の出力装置から出力してもよく、更にCPU902は、必要に応じてこの処理結果を通信装置907から送信してもよく、上記の記録装置やリムーバブル記憶媒体911に記録させてもよい。   The CPU 902 may output the result of executing the above-described series of processing from, for example, a display device 912 such as a monitor, an audio output device 913 such as a speaker or headphones, or an output device such as a lighting device. If necessary, the processing result may be transmitted from the communication device 907 or may be recorded in the recording device or the removable storage medium 911.

尚、本明細書において、フローチャートに記述されたステップは、記載された順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的に又は個別的に実行される処理をも含む。また時系列的に処理されるステップでも、場合によっては適宜順序を変更することが可能であることは言うまでもない。   In this specification, the steps described in the flowcharts are executed in parallel or individually even if they are not necessarily processed in time series, as well as processes performed in time series in the described order. Including processing to be performed. Further, it goes without saying that the order can be appropriately changed even in the steps processed in time series.

10 疵検出装置
11 照明部
12A,12B 撮像部
13 制御部
14 記憶部
15A,15B 表示部
100 信号処理部
110 疵候補抽出部
120 分類部
130 密集疵特定部
140 合計数算出部
150 重要度設定部
160 発生度合算出部
170 経時変化作成部
180 表示制御部
Ar 検出範囲
C コイル
F 金属板
R ロール
U 検査員
DESCRIPTION OF SYMBOLS 10 疵 detection apparatus 11 Illumination part 12A, 12B Image pick-up part 13 Control part 14 Storage part 15A, 15B Display part 100 Signal processing part 110 110 Candidate extraction part 120 Classification part 130 Congestion determination part 140 Total number calculation part 150 Importance setting part 160 Occurrence Degree Calculation Unit 170 Time Change Creation Unit 180 Display Control Unit Ar Detection Range C Coil F Metal Plate R Roll U Inspector

Claims (10)

金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出装置であって、
搬送される前記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる前記微小疵の候補である疵候補を抽出する疵候補抽出部と、
前記疵候補抽出部により抽出された複数の前記疵候補それぞれを、該疵候補に対応する前記正反射画像における正反射輝度値と前記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類部と、
前記複数のグループそれぞれについての前記疵候補の合計数を、前記金属板表面における所定の大きさの単位領域毎に算出する合計数算出部と、
を有することを特徴とする、疵検出装置。
A wrinkle detection device that detects minute wrinkles that are difficult to detect visually on the surface of a metal plate,
Based on at least one of a regular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extraction that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image And
Each of the plurality of wrinkle candidates extracted by the wrinkle candidate extraction unit is divided into a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image and a diffuse reflection luminance value in the irregular reflection image corresponding to the wrinkle candidate. A classification unit for classifying into
A total number calculating unit that calculates the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
An apparatus for detecting wrinkles, comprising:
前記分類部は、前記金属板表面における前記正反射輝度値及び前記乱反射輝度値を、別途定められた正反射最大閾値及び乱反射最大閾値に対してそれぞれ比較した高低の組み合わせに基づいて、前記複数の疵候補それぞれを前記複数のグループに分類することを特徴とする、請求項1に記載の疵検出装置。   The classifying unit is configured to compare the specular reflection luminance value and the irregular reflection luminance value on the surface of the metal plate with respect to a combination of high and low, which are respectively compared with a specular reflection maximum threshold value and an irregular reflection maximum threshold value separately defined. The wrinkle detection device according to claim 1, wherein each of the wrinkle candidates is classified into the plurality of groups. 前記複数のグループそれぞれについて、該グループに分類される微小疵の重要度の指標である重要度係数を設定する重要度設定部と、
前記合計数算出部が前記グループ毎及び前記単位領域毎に算出した合計数と、該合計数に対応するグループの重要度係数とに基づいて、前記単位領域毎に前記疵候補の発生度合を算出する発生度合算出部と、
を有することを特徴とする、請求項1又は2に記載の疵検出装置。
For each of the plurality of groups, an importance setting unit that sets an importance coefficient that is an index of the importance of minute wrinkles classified into the group,
Based on the total number calculated by the total number calculation unit for each group and each unit area and the importance coefficient of the group corresponding to the total number, the occurrence degree of the wrinkle candidate is calculated for each unit area An occurrence degree calculation unit to perform,
The wrinkle detection device according to claim 1, wherein the wrinkle detection device comprises:
前記発生度合算出部は、前記グループ毎及び前記単位領域毎に、前記グループの前記合計数に該グループの重要度係数を乗算又は除算した値を、全前記グループに対して加算することにより、前記単位領域毎に前記疵候補の発生度合を算出することを特徴とする、請求項3に記載の疵検出装置。   The degree of occurrence calculation unit adds, for each group and each unit area, a value obtained by multiplying or dividing the importance number coefficient of the group by the total number of the groups, and adding the value to all the groups. The wrinkle detection apparatus according to claim 3, wherein the degree of occurrence of the wrinkle candidate is calculated for each unit region. 前記発生度合算出部が算出した発生度合を色彩又は濃淡で表して、前記単位領域毎に表示画面に表示する表示制御部を更に有することを特徴とする、請求項3又は4に記載の疵検出装置。   5. The wrinkle detection according to claim 3, further comprising: a display control unit that displays the occurrence degree calculated by the occurrence degree calculation unit in color or shade and displays the unit area on a display screen. apparatus. 前記発生度合算出部が算出した発生度合が記録される発生度合記録部と、
前記発生度合の時間に対する変化を表したグラフを作成する経時変化作成部と、
を更に有することを特徴とする、請求項3〜5に記載の疵検出装置。
An occurrence degree recording unit in which the occurrence degree calculated by the occurrence degree calculation unit is recorded;
A time-dependent change creating unit for creating a graph representing a change in the occurrence degree with respect to time;
The wrinkle detection device according to claim 3, further comprising:
前記複数のグループそれぞれについて、該グループに含まれる複数の疵候補間の距離に基づいて、該複数の疵候補から密集した複数の疵候補を特定する密集疵特定部を更に有し、
前記合計数算出部は、前記複数のグループそれぞれについての前記疵候補の合計数として、前記複数のグループそれぞれについて前記密集疵特定部により特定された複数の疵候補の合計数を算出することを特徴とする、請求項1〜5のいずれかに記載の疵検出装置。
For each of the plurality of groups, it further includes a dense cocoon identification unit that identifies a plurality of cocoon candidates densely gathered from the plurality of cocoon candidates based on distances between the plurality of cocoon candidates included in the group,
The total number calculating unit calculates a total number of a plurality of wrinkle candidates specified by the dense wrinkle specifying unit for each of the plurality of groups as a total number of the wrinkle candidates for each of the plurality of groups. The wrinkle detection device according to any one of claims 1 to 5.
前記疵候補抽出部は、縦横のサイズが前記画像の画素サイズのそれぞれ8倍以下である微小疵を前記疵候補として抽出することを特徴とする、請求項1〜7のいずれかに記載の疵検出装置。   The cocoon candidate extraction unit extracts a cocoon as a cocoon candidate having a vertical and horizontal size that is 8 times or less of the pixel size of the image, respectively. Detection device. 金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出方法であって、
搬送される前記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる前記微小疵の候補である疵候補を抽出する疵候補抽出ステップと、
前記疵候補抽出ステップで抽出された複数の前記疵候補それぞれを、該疵候補に対応する前記正反射画像における正反射輝度値と前記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類ステップと、
前記複数のグループそれぞれについての前記疵候補の合計数を、前記金属板表面における所定の大きさの単位領域毎に算出する合計数算出ステップと、
を有することを特徴とする、疵検出方法。
A wrinkle detection method for detecting minute wrinkles that are difficult to detect visually on a metal plate surface,
Based on at least one of a regular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extraction that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image Steps,
Each of the plurality of wrinkle candidates extracted in the wrinkle candidate extraction step includes a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image and a diffuse reflection luminance value in the irregular reflection image corresponding to the wrinkle candidate. A classification step to classify into,
A total number calculating step for calculating the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
A wrinkle detection method comprising:
コンピュータに、金属板表面に発生する目視での検出が難しい微小疵を検出する疵検出機能を実現させるためのプログラムであって、
コンピュータに、
搬送される前記金属板表面を撮像して得られた正反射画像及び乱反射画像の少なくとも一方の画像に基づいて、該画像中に含まれる前記微小疵の候補である疵候補を抽出する疵候補抽機能と、
前記疵候補抽出機能により抽出された複数の前記疵候補それぞれを、該疵候補に対応する前記正反射画像における正反射輝度値と前記乱反射画像における乱反射輝度値との組み合わせに基づいて、複数のグループに分類する分類機能と、
前記複数のグループそれぞれについての前記疵候補の合計数を、前記金属板表面における所定の大きさの単位領域毎に算出する合計数算出機能と、
を実現させるためのプログラム。
A program for causing a computer to realize a wrinkle detection function that detects minute wrinkles that are difficult to detect visually on a metal plate surface,
On the computer,
Based on at least one of a regular reflection image and a diffuse reflection image obtained by imaging the surface of the metal plate to be conveyed, a wrinkle candidate extractor that extracts a wrinkle candidate that is a candidate for the minute wrinkle included in the image Function and
Each of the plurality of wrinkle candidates extracted by the wrinkle candidate extraction function includes a plurality of groups based on a combination of a regular reflection luminance value in the regular reflection image and a diffuse reflection luminance value in the irregular reflection image corresponding to the wrinkle candidate. A classification function to classify
A total number calculating function for calculating the total number of the wrinkle candidates for each of the plurality of groups for each unit region of a predetermined size on the surface of the metal plate;
A program to realize
JP2009099851A 2009-04-16 2009-04-16 Wrinkle detection device, wrinkle detection method and program Active JP5299046B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009099851A JP5299046B2 (en) 2009-04-16 2009-04-16 Wrinkle detection device, wrinkle detection method and program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009099851A JP5299046B2 (en) 2009-04-16 2009-04-16 Wrinkle detection device, wrinkle detection method and program

Publications (2)

Publication Number Publication Date
JP2010249685A true JP2010249685A (en) 2010-11-04
JP5299046B2 JP5299046B2 (en) 2013-09-25

Family

ID=43312183

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009099851A Active JP5299046B2 (en) 2009-04-16 2009-04-16 Wrinkle detection device, wrinkle detection method and program

Country Status (1)

Country Link
JP (1) JP5299046B2 (en)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013134190A (en) * 2011-12-27 2013-07-08 Kddi Corp Inspection auxiliary device and method
WO2016158873A1 (en) * 2015-03-31 2016-10-06 日新製鋼株式会社 Device for examining surface defect in hot-dipped steel plate, and method for examining surface defect
JP6117398B1 (en) * 2016-03-30 2017-04-19 日新製鋼株式会社 Steel plate surface defect inspection apparatus and surface defect inspection method
JP2017146209A (en) * 2016-02-17 2017-08-24 リコーエレメックス株式会社 Inspection device and inspection method
CN111598827A (en) * 2019-02-19 2020-08-28 富泰华精密电子(郑州)有限公司 Appearance flaw detection method, electronic device and storage medium
JP2021156757A (en) * 2020-03-27 2021-10-07 日鉄ステンレス株式会社 Scratch inspection device, inspection result display device, method for inspecting scratch, and method for displaying inspection result
CN114002225A (en) * 2021-10-19 2022-02-01 业成科技(成都)有限公司 Optical detection system and method

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS50161292A (en) * 1974-06-18 1975-12-27
JPH06308051A (en) * 1993-04-20 1994-11-04 Nippon Steel Corp Detection method for surface flaw on steel plate
JPH07218451A (en) * 1994-01-31 1995-08-18 Nippon Steel Corp Device for optically inspecting steel plate for surface flaw
JPH0882604A (en) * 1994-09-12 1996-03-26 Nippon Steel Corp Method for inspecting surface defect of steel plate
JPH09138200A (en) * 1995-11-14 1997-05-27 Nkk Corp Method for determining surface defect of strip material
JPH11211674A (en) * 1998-01-22 1999-08-06 Kawasaki Steel Corp Method and apparatus for inspection of flaw on surface
JP2004219177A (en) * 2003-01-10 2004-08-05 Nippon Steel Corp Flaw detector and flaw detecting method
JP2008145373A (en) * 2006-12-13 2008-06-26 Jfe Steel Kk Apparatus and method for inspecting surface defect on stainless steel plate
JP2008267972A (en) * 2007-04-19 2008-11-06 Jfe Steel Kk Surface defect inspection device and method

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS50161292A (en) * 1974-06-18 1975-12-27
JPH06308051A (en) * 1993-04-20 1994-11-04 Nippon Steel Corp Detection method for surface flaw on steel plate
JPH07218451A (en) * 1994-01-31 1995-08-18 Nippon Steel Corp Device for optically inspecting steel plate for surface flaw
JPH0882604A (en) * 1994-09-12 1996-03-26 Nippon Steel Corp Method for inspecting surface defect of steel plate
JPH09138200A (en) * 1995-11-14 1997-05-27 Nkk Corp Method for determining surface defect of strip material
JPH11211674A (en) * 1998-01-22 1999-08-06 Kawasaki Steel Corp Method and apparatus for inspection of flaw on surface
JP2004219177A (en) * 2003-01-10 2004-08-05 Nippon Steel Corp Flaw detector and flaw detecting method
JP2008145373A (en) * 2006-12-13 2008-06-26 Jfe Steel Kk Apparatus and method for inspecting surface defect on stainless steel plate
JP2008267972A (en) * 2007-04-19 2008-11-06 Jfe Steel Kk Surface defect inspection device and method

Cited By (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013134190A (en) * 2011-12-27 2013-07-08 Kddi Corp Inspection auxiliary device and method
CN107533012A (en) * 2015-03-31 2018-01-02 日新制钢株式会社 Melt the surface defect inspection apparatus and surface defect inspection method of coated steel sheet
WO2016158873A1 (en) * 2015-03-31 2016-10-06 日新製鋼株式会社 Device for examining surface defect in hot-dipped steel plate, and method for examining surface defect
JP6027295B1 (en) * 2015-03-31 2016-11-16 日新製鋼株式会社 Surface defect inspection apparatus and surface defect inspection method for hot dip galvanized steel sheet
EP3279645A4 (en) * 2015-03-31 2018-09-26 Nisshin Steel Co., Ltd. Device for examining surface defect in hot-dipped steel plate, and method for examining surface defect
US10041888B2 (en) 2015-03-31 2018-08-07 Nisshin Steel Co., Ltd. Surface defect inspecting device and method for hot-dip coated steel sheets
KR101800597B1 (en) 2015-03-31 2017-11-22 닛신 세이코 가부시키가이샤 Apparatus for inspecting surface defects of a hot-dip coated steel sheet and method for inspecting surface defects
TWI627399B (en) * 2015-03-31 2018-06-21 Nisshin Steel Co Ltd Surface defect inspection device and surface defect inspection method of molten-plated steel plate
JP2017146209A (en) * 2016-02-17 2017-08-24 リコーエレメックス株式会社 Inspection device and inspection method
WO2017168780A1 (en) * 2016-03-30 2017-10-05 日新製鋼株式会社 Device and method for inspecting surface defect in steel plate
CN107533013A (en) * 2016-03-30 2018-01-02 日新制钢株式会社 The surface defect inspection apparatus and surface defect inspection method of steel plate
JP2017181222A (en) * 2016-03-30 2017-10-05 日新製鋼株式会社 Steel plate surface defect inspection device and surface defect inspection method
JP6117398B1 (en) * 2016-03-30 2017-04-19 日新製鋼株式会社 Steel plate surface defect inspection apparatus and surface defect inspection method
CN107533013B (en) * 2016-03-30 2018-11-27 日新制钢株式会社 The surface defect inspection apparatus and surface defect inspection method of steel plate
US10267747B2 (en) 2016-03-30 2019-04-23 Nisshin Steel Co., Ltd. Surface defect inspecting device and method for steel sheets
CN111598827A (en) * 2019-02-19 2020-08-28 富泰华精密电子(郑州)有限公司 Appearance flaw detection method, electronic device and storage medium
JP2021156757A (en) * 2020-03-27 2021-10-07 日鉄ステンレス株式会社 Scratch inspection device, inspection result display device, method for inspecting scratch, and method for displaying inspection result
JP7496702B2 (en) 2020-03-27 2024-06-07 日鉄ステンレス株式会社 Defect inspection device and defect inspection method
CN114002225A (en) * 2021-10-19 2022-02-01 业成科技(成都)有限公司 Optical detection system and method
CN114002225B (en) * 2021-10-19 2023-05-12 业成科技(成都)有限公司 Optical detection system and method

Also Published As

Publication number Publication date
JP5299046B2 (en) 2013-09-25

Similar Documents

Publication Publication Date Title
JP5299046B2 (en) Wrinkle detection device, wrinkle detection method and program
JP5351673B2 (en) Appearance inspection device, appearance inspection method
JP6533363B2 (en) Artifact detection method and video artifact detector
Priya et al. A novel approach to fabric defect detection using digital image processing
JP6208426B2 (en) Automatic unevenness detection apparatus and automatic unevenness detection method for flat panel display
JP7226493B2 (en) Contact wire wear inspection method
JP5257179B2 (en) Surface defect inspection apparatus and surface defect inspection method
JP2008175588A (en) Visual examination device
KR101929669B1 (en) The method and apparatus for analyzing an image using an entropy
JP5354187B2 (en) Traveling material surface quality judging device and surface quality judging method
JP6643856B2 (en) Classification method, inspection method, inspection device, and program
JP2011013007A (en) Magnetic particle flaw inspection apparatus
JP2021143884A (en) Inspection device, inspection method, program, learning device, learning method, and trained dataset
JP2020085774A (en) Method for inspecting tube glass, method for learning, and tube glass inspection device
JP2004045356A (en) Surface defect detection method
Castejón-Limas et al. Texture descriptors for automatic estimation of workpiece quality in milling
CN117036259A (en) Metal plate surface defect detection method based on deep learning
JP4623809B2 (en) Wafer surface inspection apparatus and wafer surface inspection method
JP4346379B2 (en) Defect inspection method
Prabha et al. Defect detection of industrial products using image segmentation and saliency
JP7356010B2 (en) Surface texture inspection device and surface texture inspection method
JP4247993B2 (en) Image inspection apparatus, image inspection method, control program, and readable storage medium
CN114235810A (en) Automatic cloth flaw detection method based on area array industrial camera
Sánchez-González et al. Local binary pattern features to detect anomalies in machined workpiece
TWM606740U (en) Defect detection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20110816

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120913

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120925

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121126

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130521

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130603

R151 Written notification of patent or utility model registration

Ref document number: 5299046

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350