JP5481012B2 - Surface inspection device - Google Patents

Surface inspection device Download PDF

Info

Publication number
JP5481012B2
JP5481012B2 JP2006156676A JP2006156676A JP5481012B2 JP 5481012 B2 JP5481012 B2 JP 5481012B2 JP 2006156676 A JP2006156676 A JP 2006156676A JP 2006156676 A JP2006156676 A JP 2006156676A JP 5481012 B2 JP5481012 B2 JP 5481012B2
Authority
JP
Japan
Prior art keywords
main scanning
image data
light source
light sources
line
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2006156676A
Other languages
Japanese (ja)
Other versions
JP2007322402A (en
Inventor
吉郎 山田
Original Assignee
吉郎 山田
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 吉郎 山田 filed Critical 吉郎 山田
Priority to JP2006156676A priority Critical patent/JP5481012B2/en
Publication of JP2007322402A publication Critical patent/JP2007322402A/en
Application granted granted Critical
Publication of JP5481012B2 publication Critical patent/JP5481012B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、イメージセンサを有するカメラを用いて自動車の車体のような検査対象物の表面の形状及び色彩の欠陥などの表面検査を行う表面検査装置に関する。   The present invention relates to a surface inspection apparatus that performs surface inspections such as surface defects and color defects of an inspection object such as an automobile body using a camera having an image sensor.

自動車の製造現場における車体の表面検査は、車体の表面形状(凹凸)や色彩の僅かな欠陥についても確実に発見するために、従来から多数の検査者の目視によって行われている。   Conventionally, surface inspection of a vehicle body at an automobile manufacturing site has been performed visually by a large number of inspectors in order to surely detect even surface defects (unevenness) and slight defects in color.

一方、車体の表面検査を自動化する技術も種々提案されている。例えば、特開2000−241147号公報(特許文献1)には、車体のプレス形成により生じる車体表面の傾斜角度の緩やかな凹凸や突起等の表面欠陥をインラインで検査するために、車体の搬送方向の前後から被検査面に対して照明光を一定の照射角度αで照射する広角度照明手段と、広角度照明手段を間にして前後にαよりも大きい撮像角度βで照明光の反射光を撮像する撮像手段を配置し、前後の撮像手段により得た受光画像に基づいて被検査面の表面欠陥を抽出する技術が記載されている。
特開2000−241147号公報
On the other hand, various techniques for automating the surface inspection of the vehicle body have been proposed. For example, Japanese Laid-Open Patent Publication No. 2000-241147 (Patent Document 1) discloses a vehicle body transport direction for in-line inspection of surface defects such as irregularities and protrusions with a gentle inclination angle of a vehicle body surface caused by press forming of the vehicle body. A wide-angle illuminating unit that irradiates the surface to be inspected with a certain irradiation angle α from before and after the light, and a reflected light of the illuminating light at an imaging angle β larger than α before and after the wide-angle illuminating unit A technique is described in which imaging means for imaging are arranged and surface defects on the surface to be inspected are extracted based on received light images obtained by the preceding and following imaging means.
JP 2000-241147 A

目視による表面検査では、多大な労力と時間を必要とする。また、目視による欠陥の発見のためには、車体を両側に多数の照明光源を配置したいわゆる光のトンネルに通しながら検査を行う必要があり、設備コストも高くなってしまう。   Visual inspection of the surface requires a lot of labor and time. In addition, in order to detect defects visually, it is necessary to perform inspection while passing the vehicle body through a so-called light tunnel in which a large number of illumination light sources are arranged on both sides, which increases the equipment cost.

特許文献1に記載された技術では、凹凸のような形状的な欠陥を検査することはできるが、色むらなどの色彩の欠陥を検査することはできない。   With the technique described in Patent Document 1, it is possible to inspect a shape defect such as unevenness, but it is not possible to inspect a color defect such as color unevenness.

本発明は、車体のような検査対象物の形状及び色彩に関する表面状態を同時に検査できる表面検査装置を提供することを目的とする。   An object of this invention is to provide the surface inspection apparatus which can test | inspect simultaneously the surface state regarding the shape and color of a test subject like a vehicle body.

本発明の一態様に係る表面検査装置は、検査対象物の表面を一定の周期で主走査方向に走査するラインセンサを有し、画像データを出力するカメラと、前記主走査方向と直交する副走査方向に前記カメラと前記検査対象物とを相対的に移動させる副走査手段と、前記被検査対象物の表面の主走査領域を、前記表面より起立する法線からの角度がそれぞれ異なる照明角度で照明するように配置された複数の光源を含む照明手段と、前記複数の光源を切り替えて少なくとも一つずつ選択的に点灯させる駆動手段と、前記駆動手段による前記光源の選択的な点灯毎に前記カメラから出力される画像データに対し演算処理を施して前記検査対象物の表面状態を示す処理結果を出力する演算処理手段と、前記光源のそれぞれの選択的な各点灯に対応する前記処理結果を個別に表示する表示手段とを具備し、前記複数の光源は、前記法線からの前記照明角度が相対的に大きい第1光源と前記法線からの前記照明角度が相対的に小さい第2光源を含み、かつ前記第1の光源及び前記第2の光源は複数であってそれぞれが異なる方向から前記検査対象物の同じ照射位置を照射するように配置されており、前記駆動手段は、前記複数の光源のそれぞれを前記ラインセンサによる前記主走査方向の走査に同期した主走査周期の整数倍の点灯周期で選択的に点灯させ、前記演算処理手段は前記駆動手段による前記第1光源の点灯時には形状に関する表面状態を示す処理結果を出力し、前記第2光源の点灯時には色彩に関する表面状態を示す処理結果を出力し、前記表示手段は、前記複数の光源がそれぞれ照射したときに得られた各光源に対応する画像を1画面の異なる表示領域に同時表示する。 A surface inspection apparatus according to an aspect of the present invention includes a line sensor that scans the surface of an inspection object in a main scanning direction at a constant cycle, a camera that outputs image data, and a secondary sensor that is orthogonal to the main scanning direction. The sub-scanning means for relatively moving the camera and the inspection object in the scanning direction, and the main scanning area of the surface of the inspection object, the illumination angles differing from the normal line rising from the surface Illuminating means including a plurality of light sources arranged so as to illuminate, driving means for selectively lighting at least one of the plurality of light sources by switching, and for each selective lighting of the light sources by the driving means Corresponding to each selective lighting of each of the light sources, arithmetic processing means for performing processing on the image data output from the camera and outputting a processing result indicating the surface state of the inspection object Display means for individually displaying the processing results, wherein the plurality of light sources have a relatively large illumination angle from the normal line and a relatively large illumination angle from the normal line. A plurality of first light sources and a plurality of second light sources, each of which is arranged to irradiate the same irradiation position of the inspection object from different directions; Selectively turns on each of the plurality of light sources at a lighting cycle that is an integral multiple of a main scanning cycle synchronized with scanning in the main scanning direction by the line sensor, and the arithmetic processing means is the first driving means by the driving means. When the light source is turned on, a processing result indicating the surface state related to the shape is output. When the second light source is turned on, a processing result indicating the surface state related to the color is output. Simultaneous to display an image corresponding to each light source obtained when the different display areas of one screen.

本発明によれば、被検査対象物表面の主走査領域を順次異なる照明角度で照明して各照明角度での処理結果を個別に生成して表示するため、複数の異なる照明角度に依存して、検査対象物の形状及び色彩に関する表面状態、すなわち検査対象物表面の形状的及び色彩的な欠陥を同時に検査することができる。   According to the present invention, the main scanning region on the surface of the object to be inspected is sequentially illuminated at different illumination angles, and the processing results at each illumination angle are individually generated and displayed, so depending on a plurality of different illumination angles The surface state relating to the shape and color of the inspection object, that is, the shape and color defects on the surface of the inspection object can be simultaneously inspected.

以下、図面を参照して本発明の実施の形態を説明する。
図1は、本発明の一実施形態に係る表面検査装置を示している。検査対象物1は、これに限られるものではないが例えば自動車の車体である。検査対象物1は検査時には搬送路2に載せられ、図示しない副走査装置によって搬送路2と共に矢印Yに示す方向(副走査方向)に移動する。搬送路2の側方には、検査対象物1の側面を撮影するカメラ(ディジタルカメラ)3が設置されている。カメラ3に加えて、さらに検査対象物1の上面を撮影するカメラを設置してもよい。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 shows a surface inspection apparatus according to an embodiment of the present invention. The inspection object 1 is not limited to this, but is, for example, a car body. The inspection object 1 is placed on the conveyance path 2 at the time of inspection, and is moved together with the conveyance path 2 in the direction indicated by the arrow Y (sub-scanning direction) by a sub scanning device (not shown). A camera (digital camera) 3 for photographing the side surface of the inspection object 1 is installed on the side of the conveyance path 2. In addition to the camera 3, you may install the camera which image | photographs the upper surface of the test target object 1 further.

カメラ3の前方、すなわちカメラ3に対して検査対象物1に寄った側に、照明装置4が配置されている。照明装置4は、図2に詳細を示すように線状の複数の光源5A、5B、5C及び5Dと、光源5A、5B、5C及び5Dを支持する支持部材6を有する。光源5A、5B、5C及び5Dは、いずれも例えば複数のLED(発光ダイオード)をライン状に配列したLEDアレイである。照明装置4は、LEDアレイのアレイ方向がほぼ垂直となるように設置される。なお、LEDアレイに代えて例えば冷陰極放電管のような放電管を用いても構わない。   The illumination device 4 is arranged in front of the camera 3, that is, on the side close to the inspection object 1 with respect to the camera 3. The illumination device 4 includes a plurality of linear light sources 5A, 5B, 5C, and 5D and a support member 6 that supports the light sources 5A, 5B, 5C, and 5D as shown in detail in FIG. Each of the light sources 5A, 5B, 5C, and 5D is, for example, an LED array in which a plurality of LEDs (light emitting diodes) are arranged in a line. The illumination device 4 is installed so that the array direction of the LED array is substantially vertical. Note that a discharge tube such as a cold cathode discharge tube may be used instead of the LED array.

支持部材6は例えば半円筒状の形状をなし、その内面上に光源5A、5B、5C及び5Dが支持される。支持部材6の光源5Bと5Cとの間の領域には、検査対象物1の表面からの反射光を通過させてカメラ3に導くためのスリットSが設けられている。なお、支持部材はこのような形状に限られず、例えば光源5A、5B、5C及び5Dの両側を支持するようなものでもよい。この場合、スリットSは必要でなく、単に光源5A、5B、5C及び5Dの間の隙間を通して検査対象物1の表面からの反射光をカメラ3に導くようにすればよい。   The support member 6 has, for example, a semi-cylindrical shape, and the light sources 5A, 5B, 5C, and 5D are supported on the inner surface thereof. In a region between the light sources 5 </ b> B and 5 </ b> C of the support member 6, a slit S is provided for allowing the reflected light from the surface of the inspection object 1 to pass and guide it to the camera 3. The support member is not limited to such a shape, and may be one that supports both sides of the light sources 5A, 5B, 5C, and 5D, for example. In this case, the slit S is not necessary, and it is only necessary to guide the reflected light from the surface of the inspection object 1 to the camera 3 through the gap between the light sources 5A, 5B, 5C and 5D.

ここで、光源5A、5B、5C及び5Dは検査対象物1の表面上の線状の領域(カメラ3の主走査領域という)Lを主走査領域Lに対してそれぞれ異なる角度の方向から照明するように配置される。すなわち、光源5A、5B、5C及び5Dのうち両側二つの光源5A及び5Dの照明角度は相対的に大きく、他の光源5B及び5Cの照明角度は相対的に小さい。ここで照明角度とは、主走査領域Lの正面方向(0°方向)に対する照明方向(照明光の光軸方向)の角度である。このように照明装置4は、主走査領域Lを大きい照明角度で斜め方向から照明する光源5A及び5Dと、主走査領域Lを小さい照明角度(垂直に近い角度)で正面の近い方向から照明する光源5B及び5Cを備えている。ここでは照明装置4は4個の光源5A、5B、5C及び5Dを備えているが、さらに多数の光源を照明角度を異ならせて配置してもよい。   Here, the light sources 5 </ b> A, 5 </ b> B, 5 </ b> C, and 5 </ b> D illuminate a linear region (referred to as a main scanning region of the camera 3) L on the surface of the inspection object 1 from different angles with respect to the main scanning region L. Are arranged as follows. That is, among the light sources 5A, 5B, 5C, and 5D, the illumination angles of the two light sources 5A and 5D on both sides are relatively large, and the illumination angles of the other light sources 5B and 5C are relatively small. Here, the illumination angle is an angle of the illumination direction (the optical axis direction of illumination light) with respect to the front direction (0 ° direction) of the main scanning region L. As described above, the illumination device 4 illuminates the main scanning region L from the oblique direction with a large illumination angle and the main scanning region L from a direction near the front with a small illumination angle (an angle close to vertical). Light sources 5B and 5C are provided. Here, the illumination device 4 includes four light sources 5A, 5B, 5C, and 5D. However, a larger number of light sources may be arranged with different illumination angles.

カメラ3は、結像レンズ11、CCDラインイメージセンサのようなラインイメージセンサ12、増幅器13及びA/Dコンバータ14を有し、検査対象物1の表面の画像が結像レンズ11を介してラインイメージセンサ12上に結像される。ラインイメージセンサ12は、複数個(例えば、5120個)の光電変換素子を副走査方向Yと直交する矢印Xで示す方向(主走査方向)に配列して構成される。ラインイメージセンサ12は、コントローラ9による制御の下で検査対象物1の表面上を例えば2,000走査/秒の周期(主走査周期)で主走査方向Xに走査して検査対象物1の表面状態を画像として読み取り、画像信号を出力する。検査対象物1が自動車の車体の場合、カメラ3から検査対象物1までの距離(対物距離)は、例えば3,600mm程度に設定される。また、主走査領域Lの長さ(主走査幅という)は、例えば2,400mm程度に設定される。   The camera 3 includes an imaging lens 11, a line image sensor 12 such as a CCD line image sensor, an amplifier 13, and an A / D converter 14. An image of the surface of the inspection object 1 is lined through the imaging lens 11. An image is formed on the image sensor 12. The line image sensor 12 is configured by arranging a plurality (for example, 5120) of photoelectric conversion elements in a direction (main scanning direction) indicated by an arrow X orthogonal to the sub-scanning direction Y. The line image sensor 12 scans the surface of the inspection object 1 in the main scanning direction X with a period of 2,000 scans / second (main scanning period), for example, under the control of the controller 9. The state is read as an image and an image signal is output. When the inspection object 1 is an automobile body, the distance (objective distance) from the camera 3 to the inspection object 1 is set to about 3,600 mm, for example. Further, the length of the main scanning region L (referred to as main scanning width) is set to about 2,400 mm, for example.

ラインイメージセンサ12から出力される画像信号は、増幅器13によって増幅された後、さらにA/Dコンバータ14により例えば8ビットパラレルのディジタルデータに変換され、カメラ3から画像データとして出力される。   The image signal output from the line image sensor 12 is amplified by the amplifier 13, further converted to, for example, 8-bit parallel digital data by the A / D converter 14, and output from the camera 3 as image data.

照明装置4の光源5A、5B、5C及び5Dには、光源切替器7を介して光源駆動回路8が接続される。光源切替器7はコントローラ9によって制御され、光源5A、5B、5C及び5Dをラインイメージセンサ12の主走査に同期して主走査周期の整数倍の点灯周期で順次点灯させる。すなわち、光源切替器7は主走査に同期して主走査周期の整数倍(例えば1倍)の点灯周期で切り替えられ、光源駆動回路8から出力される駆動電流を選択的に光源5A、5B、5C及び5Dに供給する。LEDアレイや冷陰極放電管は非常に応答速度が速いため、光源5A、5B、5C及び5Dを上記のように速い周期で点滅させることは容易である。   A light source drive circuit 8 is connected to the light sources 5A, 5B, 5C, and 5D of the illumination device 4 via a light source switch 7. The light source switch 7 is controlled by the controller 9, and sequentially turns on the light sources 5A, 5B, 5C, and 5D at a lighting cycle that is an integral multiple of the main scanning cycle in synchronization with the main scanning of the line image sensor 12. That is, the light source switch 7 is switched in a lighting cycle that is an integral multiple (for example, 1 time) of the main scanning period in synchronization with the main scanning, and the driving current output from the light source driving circuit 8 is selectively changed to the light sources 5A, 5B, Supply to 5C and 5D. Since the LED array and the cold cathode discharge tube have a very fast response speed, it is easy to blink the light sources 5A, 5B, 5C and 5D at a fast cycle as described above.

主走査領域Lは、光源5A、5B、5C及び5Dのうち点灯した一つの光源によって照明される。カメラ3は、こうして照明された主走査領域Lからの反射光を検出して主走査領域Lを撮影する。カメラ3から出力される画像データは、演算処理装置16に入力される。演算処理装置16は、入力される画像データに対し後述するような演算処理を施すことにより、検査対象物1の表面状態を示す処理結果を出力する。演算処理装置16から出力される処理結果は、液晶ディスプレイまたはCRTディスプレイのような表示装置16に供給され、画像として表示される。   The main scanning region L is illuminated by one of the light sources 5A, 5B, 5C, and 5D that is lit. The camera 3 captures the main scanning area L by detecting the reflected light from the illuminated main scanning area L. Image data output from the camera 3 is input to the arithmetic processing unit 16. The arithmetic processing device 16 outputs a processing result indicating the surface state of the inspection object 1 by performing arithmetic processing as will be described later on the input image data. The processing result output from the arithmetic processing unit 16 is supplied to a display device 16 such as a liquid crystal display or a CRT display and displayed as an image.

演算処理装置16は、コントローラ9による制御の下で、ラインイメージセンサ12による主走査に同期して、言い換えれば光源切替器7による光源5A、5B、5C及び5Dのそれぞれの点灯毎に演算処理を行う。光源5A、5B、5C及び5Dのそれぞれの点灯毎に得られる処理結果は表示装置16において個別に、すなわち図3に示すように表示装置16の画面上の異なる領域10A、10B、10C及び10Dに画像として表示される。
The arithmetic processing unit 16 performs arithmetic processing in synchronization with the main scanning by the line image sensor 12 under the control of the controller 9, in other words, for each lighting of the light sources 5A, 5B, 5C and 5D by the light source switch 7. Do. The processing results obtained for each lighting of the light sources 5A, 5B, 5C and 5D are individually displayed in the display device 16, that is, in different areas 10A, 10B, 10C and 10D on the screen of the display device 16 as shown in FIG. Displayed as an image.

一般に物体の平滑な表面を観察する場合、(a)斜め方向から観察すると表面形状は認識できるが、角度によっては光源からの光の反射により光源の色を観察することになってしまうため、物体表面の実際の色彩を認識することはできない。一方、(b)物体表面を正面あるいはそれに近い角度の方向から観察すると、実際の色彩を認識することはできるが、凹凸のような形状を認識することは難しい。   In general, when observing the smooth surface of an object, (a) the surface shape can be recognized by observing from an oblique direction, but depending on the angle, the color of the light source is observed due to reflection of the light from the light source. The actual color of the surface cannot be recognized. On the other hand, (b) when the surface of the object is observed from the front or near the direction of the angle, the actual color can be recognized, but it is difficult to recognize the shape such as the unevenness.

本発明の一実施形態によると、照明角度の大きい光源5A及び5Dの点灯時には、上記(a)の原理により、検査対象物1の形状に関する表面状態を示す処理結果が演算処理装置16から出力される。照明角度の小さい光源5B及び5Cの点灯時には、上記(b)の原理から、色彩に関する表面状態を示す処理結果が演算処理装置16から出力される。従って、これらの処理結果を図4に示したように個別に画像として表示することにより、形状と色彩に関する表面状態を同時に観察することができる。 According to one embodiment of the present invention, when the light sources 5A and 5D having a large illumination angle are turned on, a processing result indicating the surface state relating to the shape of the inspection object 1 is output from the arithmetic processing device 16 according to the principle (a). The When the light sources 5B and 5C having a small illumination angle are turned on, a processing result indicating the surface state relating to the color is output from the arithmetic processing unit 16 from the principle of (b). Therefore, by displaying these processing results individually as images as shown in FIG. 4, it is possible to simultaneously observe the surface state regarding the shape and color.

なお、上記の説明では光源5A、5B、5C及び5Dを一個ずつ点灯させるようにしたが、複数個同時に点灯させるモードを含んでいてもよい。例えば、(1)5Aのみを点灯、(2)5Aと5Bを同時点灯、(3)5Bのみを点灯、(4)5Bと5Cを同時点灯、(5)5Cのみを点灯、(6)5Cと5Dを同時点灯、というように点灯させてもよい。このようにすると、一つの主走査領域Lに対して演算処理装置16から4つの処理結果が出力され(光源5A、5B、5C及び5Dを一個ずつ点灯させる場合には、6つの処理結果が出力される)、より多数の方向からの主走査が行われることになる。   In the above description, the light sources 5A, 5B, 5C, and 5D are turned on one by one. However, a mode in which a plurality of light sources are turned on simultaneously may be included. For example, (1) Only 5A is lit, (2) 5A and 5B are lit simultaneously, (3) Only 5B is lit, (4) 5B and 5C are lit simultaneously, (5) Only 5C is lit, (6) 5C And 5D may be turned on at the same time. In this way, four processing results are output from the arithmetic processing unit 16 for one main scanning region L (when the light sources 5A, 5B, 5C and 5D are turned on one by one, six processing results are output. Main scanning is performed from a larger number of directions.

検査対象物1である自動車の車体は、色彩が種々異なる。また、同じ車体でも塗装前のいわゆるホワイトボディと塗装後では色彩が異なる。色彩が異なれば明度も異なることになり、光源5A、5B、5C及び5Dで主走査領域Lを照明した場合の反射光の強度も異なることになる。また、自動車の車体は表面の粗さが種々異なり、例えば表面が光沢性の場合とマット状がある。表面が光沢性の場合はカメラ3に入射する反射光の強度が高く、またマット状の場合は光が拡散するためカメラ3に入射する反射光の強度が低下する。   The car body of the automobile which is the inspection object 1 has various colors. Even in the same car body, the color differs between the so-called white body before painting and after painting. If the colors are different, the lightness will be different, and the intensity of the reflected light when the main scanning region L is illuminated with the light sources 5A, 5B, 5C and 5D will also be different. In addition, the body of an automobile has various surface roughnesses. For example, the surface of the automobile is glossy and has a mat shape. When the surface is glossy, the intensity of the reflected light incident on the camera 3 is high. When the surface is matte, the intensity of the reflected light incident on the camera 3 decreases because the light diffuses.

そこで、コントローラ9により検査対象物1の表面の色彩(明度)や表面の粗さ(光沢性かマット状か)に応じて光源駆動回路8から出力される駆動電流を変化させ、表面の明度が高い場合あるいは表面が光沢性の場合は駆動電流を下げて光源5A、5B、5C及び5Dの発光強度を下げ、明度が低い場合あるいは表面がマット状のように粗い場合は発光強度をあげることが望ましい。このように光源5A、5B、5C及び5Dの発光強度を検査対象物1の色彩(明度)や表面の粗さに応じて変えることによって、明度や粗さによらずほぼ一定の感度で検査を行うことができる。   Therefore, the controller 9 changes the driving current output from the light source driving circuit 8 in accordance with the surface color (brightness) and surface roughness (glossy or matte) of the inspection object 1, and the surface brightness is changed. If it is high or the surface is glossy, the drive current is lowered to reduce the light emission intensity of the light sources 5A, 5B, 5C and 5D. If the lightness is low or the surface is rough like a mat, the light emission intensity may be increased. desirable. Thus, by changing the light emission intensity of the light sources 5A, 5B, 5C and 5D according to the color (brightness) of the inspection object 1 and the surface roughness, the inspection can be performed with a substantially constant sensitivity regardless of the brightness and roughness. It can be carried out.

さらに、検査対象物1が自動車の車体の場合、表面形状は平坦でなく、一般に曲面であり、しかも長さ方向においても変化している。すなわち、主走査領域Lの形状は一定でなく、検査対象物1によってまた検査対象物1の長さ方向位置によって異なる。従って、光源5A、5B、5C及び5Dの形状を可変とすることが望ましい。具体的には、例えば照明装置4の光源5A、5B、5C及び5D及び支持部材6をフレキシブルなものとし、検査対象物1や主走査領域Lの位置に応じて主走査領域Lの形状に合わせて光源5A、5B、5C及び5D及び支持部材6の形状を変えるようにしてもよい。   Further, when the inspection object 1 is a car body of an automobile, the surface shape is not flat, generally a curved surface, and also changes in the length direction. That is, the shape of the main scanning region L is not constant and varies depending on the inspection object 1 and the position in the length direction of the inspection object 1. Therefore, it is desirable to make the shapes of the light sources 5A, 5B, 5C and 5D variable. Specifically, for example, the light sources 5A, 5B, 5C, and 5D of the illumination device 4 and the support member 6 are made flexible and matched to the shape of the main scanning region L according to the position of the inspection object 1 or the main scanning region L. Thus, the shapes of the light sources 5A, 5B, 5C and 5D and the support member 6 may be changed.

次に、演算処理装置16について具体的に説明する。ラインイメージセンサ12を用いたカメラ3においては、イメージセンサ12による明度の読み取り精度に光電変換素子によってばらつきがある。このばらつきはイメージセンサ12を構成する個々の光電変換素子の感度の差などの原因によるものであり、素子ばらつきと呼ばれ、通常3%程度の値をとる。一般的な表面検査装置では、この素子ばらつきの範囲を越えた明度変化がないと、微細な欠陥などの検出を行うことができない。目視による明暗検出精度は1/1500〜1/2000と言われているので、ラインイメージセンサを用いた表面検査装置は目視の1/60の精度しかないことになり、目視検査の代替は不可能とされてきた。   Next, the arithmetic processing unit 16 will be specifically described. In the camera 3 using the line image sensor 12, the lightness reading accuracy by the image sensor 12 varies depending on the photoelectric conversion element. This variation is caused by a difference in sensitivity among the individual photoelectric conversion elements constituting the image sensor 12, which is called element variation and normally takes a value of about 3%. In a general surface inspection apparatus, a fine defect or the like cannot be detected unless there is a change in brightness exceeding the range of element variation. Since it is said that the visual light / dark detection accuracy is 1/1500 to 1/2000, the surface inspection device using the line image sensor has only 1/60 of the visual accuracy, and cannot be substituted for the visual inspection. It has been said.

この課題を解決すべくイメージセンサの素子ばらつきを補償する方法の一例として、ラインイメージセンサによって得られる画像データ列のうち主走査方向に連続する複数の画素からなるブロックの画像データを加算し、かつ隣接するブロックの加算データの相関演算を行う技術が知られている。しかし、この方法は一つの主走査ライン上で隣接する画素にまたがっている欠陥に対しては検出が可能であるが、隣接する主走査ラインにまたがっている欠陥や、主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥に対しては検出を行うことができない。このため、検査精度の向上に限界がある。   As an example of a method for compensating for the element variation of the image sensor to solve this problem, the image data of a block composed of a plurality of pixels continuous in the main scanning direction in the image data sequence obtained by the line image sensor is added, and A technique for performing a correlation operation on addition data of adjacent blocks is known. However, this method can detect a defect that extends over adjacent pixels on one main scanning line, but it is possible to detect a defect that extends across adjacent main scanning lines or adjacent on the main scanning line. It is not possible to detect a defect that straddles pixels and straddles adjacent main scanning lines. For this reason, there is a limit in improving inspection accuracy.

ここで説明する演算処理装置16を含む表面検査装置は、検査対象物上の欠陥を隣接する主走査ラインにまたがっている欠陥や主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥を検出可能である。従って、先のように検査対象物1の表面の主走査領域Lを照明装置4により順次異なる照明角度で照明し、各照明角度での処理結果を個別に生成して表示することと相まって、形状及び色彩に関する表面状態の検査を精度よく行うことを可能とする。   The surface inspection apparatus including the arithmetic processing unit 16 described here has a defect on the inspection object that extends over adjacent main scanning lines, adjacent main scanning lines, and adjacent main scanning lines. It is possible to detect defects that straddle. Accordingly, as described above, the main scanning region L on the surface of the inspection object 1 is sequentially illuminated by the illumination device 4 at different illumination angles, and the processing result at each illumination angle is individually generated and displayed. In addition, it is possible to accurately inspect the surface condition regarding colors.

さらに、ここで説明する演算処理装置16は分解能を例えば点について100μm径、線に対して20μm幅程度(髪の毛の幅を識別できる)と非常に高くとることができ、これは人間が目視で400〜500mm程度まで対象物に近づいて検査を行う場合の分解能と同程度である。また、これに伴い被写界深度(合焦状態が得られる範囲)についても、カメラ3から検査対象物1までの対物距離が3,600mmで、かつ主走査幅が2,400mmの場合、被写界深度は1,300mm程度と大きい。このため、自動車の車体のように表面形状が起伏に富む検査対象物の表面状態を、対物距離3,600mmというように検査対象物1から対物比較的遠い定位置に置かれたカメラ3を用いて検査することは十分に可能である。   Furthermore, the arithmetic processing unit 16 described here can have a resolution as high as, for example, a diameter of 100 μm for a point and a width of about 20 μm for a line (the width of the hair can be identified). This is about the same resolution as when an inspection is performed by approaching the object up to about 500 mm. Accordingly, with regard to the depth of field (the range in which the in-focus state can be obtained), the object distance from the camera 3 to the inspection object 1 is 3,600 mm and the main scanning width is 2,400 mm. The depth of field is as large as about 1,300 mm. For this reason, the camera 3 placed on a fixed position relatively far from the inspection object 1 such as an object distance of 3,600 mm is used for the surface state of the inspection object having a rough surface like an automobile body. It is fully possible to inspect.

なお、本実施形態ではカメラ3から検査対象物1に寄った側に光源5A、5B、5C及び5Dを配置したが、カメラ3と光源5A、5B、5C及び5Dの位置関係はこれに限られるものではない。例えばカメラ3を搬送路2の側方に配置し、光源5A、5B、5C及び5Dの前方に配置したミラーによって検査対象物1の表面の主走査領域Lからの反射光をカメラ3に導くようにしてもよい。   In this embodiment, the light sources 5A, 5B, 5C, and 5D are arranged on the side closer to the inspection object 1 from the camera 3, but the positional relationship between the camera 3 and the light sources 5A, 5B, 5C, and 5D is limited to this. It is not a thing. For example, the camera 3 is arranged on the side of the conveyance path 2 and the reflected light from the main scanning region L on the surface of the inspection object 1 is guided to the camera 3 by a mirror arranged in front of the light sources 5A, 5B, 5C and 5D. It may be.

次に、演算処理装置16の幾つかの具体例について説明する。
(演算処理装置の第1の具体例)
第1の具体例による演算処理装置16は、図4に示されるようにラインメモリ17、加算器18、演算器19及び判定器20を有する。ラインメモリ17は、カメラ3から入力される画像データを光源5A、5B、5C及び5Dの数(厳密には、一つの主走査領域Lの走査回数)に相当する複数(nとする)の主走査ライン分記憶するメモリであり、シフトレジスタまたはFIFO(先入れ・先出し)メモリが用いられる。
Next, some specific examples of the arithmetic processing unit 16 will be described.
(First specific example of arithmetic processing unit)
The arithmetic processing unit 16 according to the first specific example includes a line memory 17, an adder 18, an arithmetic unit 19, and a determination unit 20 as shown in FIG. 4. The line memory 17 converts the image data input from the camera 3 into a plurality (n) of main data corresponding to the number of light sources 5A, 5B, 5C, and 5D (strictly speaking, the number of scans of one main scanning region L). A memory for storing scan lines, and a shift register or FIFO (first-in / first-out) memory is used.

カメラ3から出力される画像データは、加算器18の第1入力端に供給されると共に、ラインメモリ17に供給される。ラインメモリ17の出力は、加算器18の第2入力端に供給される。加算器17は、ラインメモリ17の入力の画像データと出力の画像データとを加算する。   Image data output from the camera 3 is supplied to the first input terminal of the adder 18 and also supplied to the line memory 17. The output of the line memory 17 is supplied to the second input terminal of the adder 18. The adder 17 adds the input image data and the output image data of the line memory 17.

ここで、加算器18の第1入力A及び第2入力Bにそれぞれ入力される画像データは、ラインイメージセンサ12の同一素子から得られる画像信号に対応している。すなわち、加算器18の入力Aに対して入力Bはラインメモリ17によりn主走査ライン分の時間遅れている。例えば、入力Aにラインイメージセンサ12のi番目(i=1,2,…)の素子に対応する画像データが入力されるとき、入力Bには同じi番目の素子に対応する1主走査ライン前の画像データがラインメモリ17から入力される。従って、加算器18では図5に示すように入力A、Bにそれぞれ入力される時間的に隣接する2つの主走査ライン(Nライン目とN+1ライン目、N+1ライン目とN+1ライン目、…)の画像データ21が加算され、画像データ列22が生成される。ここで、時間的に隣接する2つの主走査ラインとは、同一光源の点灯に対応してカメラ3から出力される画像データの時間的に隣接するデータをいう。例えば、光源5Aの点灯に対応してカメラ3から出力される第1画像データと、次に同じ光源5Aの点灯に対応してカメラ3から出力される第2画像データとは時間的に隣接しているとする。これは以降の具体例においても同様である。   Here, the image data respectively input to the first input A and the second input B of the adder 18 corresponds to an image signal obtained from the same element of the line image sensor 12. That is, the input B is delayed by the time corresponding to n main scanning lines by the line memory 17 with respect to the input A of the adder 18. For example, when image data corresponding to the i-th (i = 1, 2,...) Element of the line image sensor 12 is input to the input A, one main scanning line corresponding to the same i-th element is input to the input B. Previous image data is input from the line memory 17. Accordingly, in the adder 18, as shown in FIG. 5, two main scanning lines temporally adjacent to each of the inputs A and B (the Nth line and the N + 1th line, the N + 1th line and the N + 1th line,...) Are input. Are added to generate an image data string 22. Here, the two main scanning lines that are temporally adjacent are data that are temporally adjacent to the image data output from the camera 3 in response to lighting of the same light source. For example, the first image data output from the camera 3 corresponding to the lighting of the light source 5A and the second image data output from the camera 3 corresponding to the next lighting of the same light source 5A are temporally adjacent. Suppose that The same applies to the following specific examples.

こうしてラインメモリ17と加算器18により構成される画像データ列生成器によって生成された画像データ列22は、演算器19に入力される。演算器19は、加算器18からの画像データ列に主走査方向Xに連続する複数の画素からなるブロックの画像データを加算(積算)してブロック内加算データを生成し、それをブロック内の最初の画素の画素データとし、かつ主走査方向で互いに隣接するブロック内加算データの相関値を算出する処理を、ブロックの位置を主走査方向にシフトさせて繰り返し行う。   The image data sequence 22 thus generated by the image data sequence generator constituted by the line memory 17 and the adder 18 is input to the arithmetic unit 19. The computing unit 19 adds (accumulates) the image data of the block composed of a plurality of pixels continuous in the main scanning direction X to the image data string from the adder 18 to generate in-block addition data, The process of calculating the correlation value of the intra-block addition data adjacent to each other in the main scanning direction and the pixel data of the first pixel is repeatedly performed by shifting the block position in the main scanning direction.

具体的には、演算器19は図6に示すように、加算器18からの画像データ列22(図参照)が初段に入力されるように接続されたM段のシフトレジスタ31及び2M段のシフトレジスタ32と、シフトレジスタ31の各段の出力を加算する加算器33と、シフトレジスタ32の後段のM段の出力を加算する加算器34と、加算器33、34の出力が供給される相関器35によって構成される。ここで、1主走査ラインの画像データの画素を主走査方向に連続する複数の画素からなるブロックに分割したとき、Mは1ブロックを構成する画素数である。このMの値は、任意に変更可能であることが望ましく、例えば1〜111というような値をとる。   Specifically, as shown in FIG. 6, the arithmetic unit 19 includes an M-stage shift register 31 and a 2M-stage shift register 31 connected so that the image data sequence 22 (see the figure) from the adder 18 is input to the first stage. The shift register 32, an adder 33 for adding the outputs of the respective stages of the shift register 31, an adder 34 for adding the outputs of the M stages subsequent to the shift register 32, and the outputs of the adders 33 and 34 are supplied. The correlator 35 is used. Here, when the pixel of the image data of one main scanning line is divided into blocks composed of a plurality of pixels continuous in the main scanning direction, M is the number of pixels constituting one block. It is desirable that the value of M can be arbitrarily changed. For example, the value of 1-111 is taken.

図7を用いて演算器19の動作を説明する。加算器33では、加算器18から出力される画像データ列22のうち主走査方向に連続するM画素からなる一つのブロックの画像データが加算される。加算器34では、画像データ列22のうち加算器33で画像データが加算されるブロックに対して主走査方向に隣接した次のブロックの画像データが加算される。ここで、加算器33,34から出力されるブロック内加算データをb1,b2とすると、相関器35においては、例えば両者の差b1−b2が相関値36として求められる。   The operation of the arithmetic unit 19 will be described with reference to FIG. The adder 33 adds the image data of one block composed of M pixels continuous in the main scanning direction in the image data string 22 output from the adder 18. The adder 34 adds the image data of the next block adjacent in the main scanning direction to the block to which the image data is added by the adder 33 in the image data sequence 22. Here, if the intra-block addition data output from the adders 33 and 34 are b1 and b2, the correlator 35 obtains, for example, the difference b1−b2 between them as the correlation value 36.

画像データ列22の新たな画素のデータがシフトレジスタ31,32に入力される毎に、図7に示すように加算器33,34で画像データが加算されるブロックの位置が順次主走査方向にシフトされ、同様の動作が行われる。このような動作により、加算器33,34からブロック内加算データc1,c2;d1,d2;e1,e2;…が順次出力され、相関器35からはc1−c2、d1−d2、e1−e2が相関値36として順次求められることになる。   Each time new pixel data in the image data string 22 is input to the shift registers 31 and 32, the positions of the blocks to which the image data is added by the adders 33 and 34 are sequentially shifted in the main scanning direction as shown in FIG. Shifted and the same operation is performed. By such operations, the adders 33 and 34 sequentially output the intra-block addition data c1, c2; d1, d2; e1, e2;..., And the correlator 35 outputs c1-c2, d1-d2, e1-e2. Are sequentially obtained as the correlation value 36.

ここでは、相関器25は隣接するブロック内加算データの差を相関値36として求めたが、隣接するブロック内加算データの比(b1/b2、…)を相関値36として求めてもよい。相関器25から出力される相関値36は、図4中の判定器20に入力される。判定器20は、例えばコンパレータによって構成され、相関器26から出力される相関値36を適当なしきい値と比較することによって、検査対象物10の表面欠陥の有無を判定し、表面状態を示す処理結果を出力する。   Here, the correlator 25 calculates the difference between the adjacent intra-block addition data as the correlation value 36, but the ratio (b 1 / b 2,...) Of the adjacent intra-block addition data may be calculated as the correlation value 36. The correlation value 36 output from the correlator 25 is input to the determiner 20 in FIG. The determiner 20 is configured by a comparator, for example, and compares the correlation value 36 output from the correlator 26 with an appropriate threshold value to determine the presence / absence of a surface defect on the inspection object 10 and to indicate a surface state. Output the result.

すなわち、検査対象物10上に欠陥があると、その欠陥の近傍ではラインイメージセンサ12の同一の素子に対応する画像データの大きさが副走査に伴って、つまり検査対象物10の相対的移動に伴って時間的に変化することにより、相関器35で得られる相関値36が大きくなって、判定器20においてしきい値を越えるため、判定器20でこの欠陥を認識することができる。判定器20の判定結果(処理結果)は、例えばパーソナルコンピュータにより処理されて図示しない表示装置により表示される。   That is, if there is a defect on the inspection object 10, the size of the image data corresponding to the same element of the line image sensor 12 in the vicinity of the defect is accompanied by sub-scanning, that is, the relative movement of the inspection object 10. Accordingly, the correlation value 36 obtained by the correlator 35 increases and exceeds the threshold value in the determiner 20, so that the defect can be recognized by the determiner 20. The determination result (processing result) of the determination device 20 is processed by, for example, a personal computer and displayed on a display device (not shown).

上記のように構成された演算処理装置15によると、まず演算器19においてブロック内加算を行うことによる累積機能と、主走査方向で隣接するブロック内加算データの相関をとることによる自己相関機能によって、ラインイメージセンサ12の素子ばらつきの影響を除去すると共に、相関器35で得られる相関値36が大きくなり、欠陥の検出感度を高めることができる。   According to the arithmetic processing unit 15 configured as described above, first, an accumulation function by performing intra-block addition in the arithmetic unit 19 and an autocorrelation function by correlating adjacent intra-block addition data in the main scanning direction. In addition to removing the influence of element variations of the line image sensor 12, the correlation value 36 obtained by the correlator 35 is increased, and the defect detection sensitivity can be increased.

さらに、特にラインメモリ17と加算器18を用いて副走査方向に隣接する2つの主走査ラインの画像データを加算し、これにより得られた画像データ列を演算器19に入力することによって、図8Aに示すように検査対象物10上の欠陥51が一つの主走査ライン(図ではN番目のライン)内にのみ存在する場合は勿論、図8Bのように隣接する2つの主走査ライン(図ではN番目のラインとN+1番目のライン)にまたがっている欠陥52や、図5Cのように主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがっている欠陥53を含めて検出可能として、さらなる高精度の検査が可能となる。   Further, the image data of two main scanning lines adjacent in the sub-scanning direction are added using the line memory 17 and the adder 18 in particular, and an image data string obtained thereby is input to the arithmetic unit 19. Of course, when the defect 51 on the inspection object 10 exists only in one main scanning line (Nth line in the figure) as shown in FIG. 8A, two adjacent main scanning lines (FIG. 8B) In FIG. 5C, a defect 52 that straddles adjacent pixels on the main scanning line and straddles two adjacent main scanning lines as shown in FIG. 5C. As a result of the detection, it is possible to perform inspection with higher accuracy.

以下、この原理を詳細に説明する。
まず、図8Aに示すように検査対象物10上の欠陥51が一つの主走査ライン内にのみ存在する場合、図9Aに示すように一つの画素内に存在する欠陥50に対応する画像データ(カメラ3出力)に比較して、2つの画素にまたがって存在する欠陥51に対応する画像データの出力が小さくなる。1画素のデータが2画素に分配されるので、出力レベルは半分になる。次のラインでは欠陥が無いので、出力は0であり、副走査方向に隣接する2ラインの画像データを加算する加算器18の出力(画像データ列22)はNラインの画像信号と同じである。この画像データ列22が演算器19の累積機能によって主走査方向のブロック内の画素データが累積されて、当該ブロック内の所定の、例えば最初の1画素の画素データとされる。
Hereinafter, this principle will be described in detail.
First, when the defect 51 on the inspection object 10 exists only in one main scanning line as shown in FIG. 8A, image data (FIG. 9A) corresponding to the defect 50 existing in one pixel ( Compared with (camera 3 output), the output of the image data corresponding to the defect 51 existing across two pixels becomes smaller. Since the data for one pixel is distributed to two pixels, the output level is halved. Since there is no defect in the next line, the output is 0, and the output of the adder 18 (image data string 22) for adding the image data of two lines adjacent in the sub-scanning direction is the same as the image signal of the N line. . The pixel data in the block in the main scanning direction is accumulated in the image data string 22 by the accumulation function of the computing unit 19 to obtain predetermined, for example, first pixel data in the block.

ここで、説明の便宜上、ブロックは2画素からなるとすると、加算器33は図9Bに示すように、1画素ずれた2つの画像データ列を加算する。このため、各画素データに次の画素データが加算されることになり、欠陥51に対応する画素c6′の画像データのレベルは欠陥50に対応する画素c2′の画像データと同じとなる(レベルが大きくなる)ため、欠陥50は勿論、欠陥51についても容易に検出することができる。   Here, for convenience of explanation, assuming that the block consists of two pixels, the adder 33 adds two image data strings shifted by one pixel as shown in FIG. 9B. Therefore, the next pixel data is added to each pixel data, and the level of the image data of the pixel c6 ′ corresponding to the defect 51 is the same as the image data of the pixel c2 ′ corresponding to the defect 50 (level). Therefore, not only the defect 50 but also the defect 51 can be easily detected.

次に、図8Bに示すように隣接する2つの主走査ラインにまたがった欠陥52が存在する場合、図10Aに示すように一つの主走査ライン内の一つの画素内に存在する欠陥50に対応する画像データに比較して、欠陥52に対応する画像データの出力が小さくなる。これは、Nラインでも(N+1)ラインでも同じである。しかし、副走査方向に隣接する2ラインの画像データを加算する加算器18により、欠陥52に対応する画像データ列22の出力は欠陥51に対応する画像データ列22の出力と同じになる。このため、2つの主走査ラインにまたがって存在する欠陥52も、容易に検出することができる。図10Bはブロック内加算データを示すが、この例の場合は主走査方向の2つの画素にまたがっている欠陥が存在しないので、ブロック内加算は不要である。   Next, as shown in FIG. 8B, when there is a defect 52 extending over two adjacent main scanning lines, it corresponds to the defect 50 existing in one pixel in one main scanning line as shown in FIG. 10A. The output of the image data corresponding to the defect 52 is smaller than the image data to be processed. This is the same for both the N line and the (N + 1) line. However, the output of the image data sequence 22 corresponding to the defect 52 becomes the same as the output of the image data sequence 22 corresponding to the defect 51 by the adder 18 that adds the image data of two lines adjacent in the sub-scanning direction. For this reason, it is possible to easily detect the defect 52 existing across the two main scanning lines. FIG. 10B shows intra-block addition data, but in this example, no intra-block addition is necessary because there is no defect across two pixels in the main scanning direction.

さらに、図8Cのように主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがった欠陥53が存在する場合、図11Aに示すように一つの主走査ライン内の一つの画素内に存在する欠陥50に対応する画像データに比較して、欠陥53に対応する画像データの出力が小さくなる。1画素のデータが4画素に分配されるので、Nライン、(N+1)ラインとも欠陥53に対応する画像データの出力レベルは1/4になる。しかし、副走査方向に隣接する2ラインの画像データを加算する加算器18により、欠陥53に対応する画像データ列22の出力レベルは1/2まで増幅される。この画像データ列22が演算器19の主走査方向での累積機能による効果によって、当該ブロック内の所定の、例えば最初の1画素の画素データとされる。   Furthermore, when there is a defect 53 that spans adjacent pixels on the main scan line and extends across two adjacent main scan lines as shown in FIG. 8C, one defect in one main scan line is shown in FIG. 11A. The output of the image data corresponding to the defect 53 is smaller than the image data corresponding to the defect 50 existing in one pixel. Since the data for one pixel is distributed to four pixels, the output level of the image data corresponding to the defect 53 is 1/4 for both the N line and the (N + 1) line. However, the output level of the image data string 22 corresponding to the defect 53 is amplified to ½ by the adder 18 that adds two lines of image data adjacent in the sub-scanning direction. The image data string 22 is converted into pixel data of a predetermined, for example, first pixel in the block by the effect of the accumulation function in the main scanning direction of the calculator 19.

ここで、説明の便宜上、ブロックは2画素からなるとすると、加算器33は図11Bに示すように、1画素ずれた2つの画像データ列を加算する。このため、各画素データに次の画素データが加算されることになり、欠陥53に対応する画素c6′の画像データのレベルは欠陥50に対応する画素c2′の画像データと同じとなる(レベルが大きくなる)ため、欠陥50は勿論、欠陥53についても容易に検出することができる。   Here, for convenience of explanation, assuming that the block consists of two pixels, the adder 33 adds two image data strings shifted by one pixel as shown in FIG. 11B. Therefore, the next pixel data is added to each pixel data, and the level of the image data of the pixel c6 ′ corresponding to the defect 53 is the same as the image data of the pixel c2 ′ corresponding to the defect 50 (level). Therefore, not only the defect 50 but also the defect 53 can be easily detected.

(演算処理装置の第2の具体例)
次に、図12を参照して演算処理装置16の第2の具体例について説明する。先に述べた第1の具体例では、カメラ3から出力される画像データ21について、ラインメモリ17及び加算器18を用いて時間的に隣接する2つの主走査ラインの画像データを加算して画像データ列22を生成する際、これら2つの主走査ラインの副走査方向Yに隣接する2つの画素(主走査方向の位置が同じ画素)の画像データを加算している。
(Second specific example of the arithmetic processing unit)
Next, a second specific example of the arithmetic processing unit 16 will be described with reference to FIG. In the first specific example described above, the image data 21 output from the camera 3 is added to the image data of two main scanning lines that are temporally adjacent using the line memory 17 and the adder 18. When the data string 22 is generated, image data of two pixels adjacent to the two main scanning lines in the sub-scanning direction Y (pixels having the same position in the main scanning direction) are added.

しかし、副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する方法は、これに限られるものではなく、例えば図12に示すような方法で画像データ列を生成してもよい。この方法では、副走査方向Yに隣接する2つの主走査ラインの画像データ21について、副走査方向に隣接しかつ主走査方向に隣接する4つの画素の画像データを加算する処理を該4つの画素の位置を一画素単位で主走査方向にシフトして行うことにより、画像データ列22Aを生成する。   However, the method of generating the image data string by adding the image data of two main scanning lines adjacent in the sub-scanning direction is not limited to this. For example, the image data string is generated by the method shown in FIG. It may be generated. In this method, for the image data 21 of two main scanning lines adjacent in the sub-scanning direction Y, the process of adding the image data of four pixels adjacent in the sub-scanning direction and adjacent in the main scanning direction is the four pixels. Is shifted in the main scanning direction in units of one pixel to generate the image data string 22A.

この方法によると、画像データ列の各データの大きさが大きくなるため、検査精度をさらに高めることができ、また例えば図8C、図11Aで説明したような主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがって存在する欠陥53を検出する上で特に有効である。   According to this method, since the size of each data in the image data sequence is increased, the inspection accuracy can be further increased, and the image data straddles adjacent pixels on the main scanning line as described with reference to FIGS. 8C and 11A, for example. In addition, it is particularly effective in detecting a defect 53 existing across adjacent main scanning lines.

(演算処理装置の第3の具体例)
第3の具体例では、時間的に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する際、第1の具体例と同様に図13Aに示すように時間的に隣接する2つの主走査ライン(ここでは、便宜上NラインとN+1ラインとしている)の副走査方向に隣接する2つの画素(主走査方向の位置が同じ画素)の画像データを加算して画像データ列を生成する処理に加えて、図13B、図13Cの処理を併用する。図13Bは、副走査方向に対して斜め右上がりの方向(第1の方向)で隣接する画素の画像データを加算して画像データ列を生成する処理である。図13Cは、副走査方向に対して斜め左上がりの方向(第2の方向)で隣接する画素の画像データを加算して画像データ列を生成する処理である。
(Third specific example of the arithmetic processing unit)
In the third specific example, when the image data strings are generated by adding the image data of two main scan lines that are temporally adjacent, as shown in FIG. Image data of two pixels (pixels having the same position in the main scanning direction) adjacent to each other in the sub-scanning direction of the two main scanning lines (here, the N line and the N + 1 line are used for convenience) In addition to the processing to be generated, the processing in FIGS. 13B and 13C is used in combination. FIG. 13B is a process for generating an image data string by adding image data of adjacent pixels in a direction (first direction) obliquely upward to the sub-scanning direction. FIG. 13C is a process for generating an image data string by adding image data of adjacent pixels in a direction obliquely upward to the left (second direction) with respect to the sub-scanning direction.

図14は、第3の具体例における演算処理装置16Aの構成を示す図であり、ラインメモリ17Aは1主走査ライン分の画素数(この例では、5120画素)+1=5121段のシフトレジスタにより構成される。このシフトレジスタの入力と、5120段目の出力、5121段目の出力、5119段目の出力が加算器18A,18B,18Cによりそれぞれ加算される。これにより、加算器18Aからは図10Aに示す2つの主走査ラインの副走査方向に隣接する2つの画素の画像データを加算した画像データ列、加算器18Bからは図13Bに示す副走査方向に対して斜め右上がりの方向で隣接する画素の画像データを加算した画像データ列、加算器18Cからは図13Cに示すように副走査方向に対して斜め左上がりの方向で隣接する画素の画像データを加算した画像データ列が出力される。   FIG. 14 is a diagram showing the configuration of the arithmetic processing unit 16A in the third specific example. The line memory 17A is composed of the number of pixels for one main scanning line (in this example, 5120 pixels) + 1 = 5121 stages of shift registers. Composed. The input of this shift register, the 5120th stage output, the 5121st stage output, and the 5119th stage output are added by the adders 18A, 18B, and 18C, respectively. As a result, the adder 18A adds the image data of two pixels adjacent to each other in the sub-scanning direction of the two main scanning lines shown in FIG. 10A, and the adder 18B in the sub-scanning direction shown in FIG. 13B. An image data string obtained by adding the image data of pixels adjacent in the diagonally upward direction, and the image data of the pixels adjacent in the diagonally upward direction as shown in FIG. 13C from the adder 18C. An image data string obtained by adding is output.

これらの画像データ列は、それぞれ第1具体例で説明したと同様の演算器19A,19B,19Cを経て判定器20A,20B,20Cに入力され、閾値判定される。これら判定器20A,20B,20Cの判定結果は、例えばパーソナルコンピュータにより処理されて図示しない表示装置により表示される。この場合、判定器20A,20B,20Cの判定結果を互いに区別が付くように色を変えて表示してもよい。   These image data strings are respectively input to the determiners 20A, 20B, and 20C through the same arithmetic units 19A, 19B, and 19C as described in the first specific example, and are subjected to threshold determination. The determination results of these determiners 20A, 20B, and 20C are processed by, for example, a personal computer and displayed on a display device (not shown). In this case, the determination results of the determiners 20A, 20B, and 20C may be displayed in different colors so that they can be distinguished from each other.

第3の具体例によると、例えば検査対象物10上に存在する線状のような非常に細い欠陥であって、ラインイメージセンサ12上を斜めに横切るような欠陥に対しても、容易に検出が可能となる。すなわち、このような欠陥は2つの主走査ライン上で図13Bまたは図13Cに示すように副走査方向に対して斜めの方向で隣接する画素にまたがって現れるため、これらの画素の画像データを加算した後に演算器で処理することにより、容易に検出されることになる。   According to the third specific example, for example, a very thin defect such as a line existing on the inspection object 10 and a defect that crosses the line image sensor 12 at an angle is easily detected. Is possible. That is, such a defect appears across two adjacent pixels in the diagonal direction with respect to the sub-scanning direction as shown in FIG. 13B or 13C on the two main scanning lines, and the image data of these pixels are added. After that, it is easily detected by processing with an arithmetic unit.

これまでの説明では、ラインメモリと加算器を用いて時間的に隣接する2つの主走査ラインの画像データを加算した画像データ列を演算器を介してブロック内加算を行った後、判定器に入力したが、演算器を介さずに判定器に入力しても構わない。   In the description so far, the image data sequence obtained by adding the image data of two main scanning lines temporally adjacent to each other using the line memory and the adder is subjected to intra-block addition via the arithmetic unit, and then to the determination unit. Although it is input, it may be input to the determiner without going through the calculator.

人間の眼球は、固視微動と呼ばれる微小な震動を行っている。すなわち、眼球は上下左右を見るときの運動とは別に、固視微動を行うことによって、網膜が刺激に慣れないようにすることで、精度を上げていると考えられている。固視微動の主たる運動成分は、上下方向である。   The human eyeball performs a minute tremor called fixation fixation. That is, it is considered that the eyeball improves accuracy by performing fixation fixation fine movement separately from the movement when looking up, down, left, and right, thereby preventing the retina from getting used to stimulation. The main movement component of fixation fine movement is the vertical direction.

隣接する2つの主走査ラインの画像データを加算する処理は、このような人間の眼球の固視微動に相当している。すなわち、本実施形態では電子的な処理ないしは機械的な処理によって副走査方向の移動(微動)を行いつつ、隣接した2つの主走査ラインの画像データを加算した画像データ列を処理して表面検査を行うことにより、検査精度を上げているのである。   The process of adding the image data of two adjacent main scanning lines corresponds to such a human eyeball fine movement. That is, in the present embodiment, surface inspection is performed by processing an image data sequence obtained by adding image data of two adjacent main scanning lines while performing movement (fine movement) in the sub-scanning direction by electronic processing or mechanical processing. By doing this, the inspection accuracy is increased.

上述したような演算処理装置によれば、検査対象物1上の主走査ラインにまたがっている欠陥や、主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥を含めて検出することが可能である。従って、検査対象物1の表面の主走査領域Lを照明装置4により順次異なる照明角度で照明して各照明角度での処理結果を個別に生成して表示することと相まって、検査対象物1の形状及び色彩に関する表面状態の検査をより一層精度よく行うことができる。   According to the arithmetic processing apparatus as described above, a defect that extends over the main scanning line on the inspection object 1 or a defect that extends over adjacent pixels on the main scanning line and extends over adjacent main scanning lines. It is possible to detect. Therefore, coupled with the fact that the main scanning region L on the surface of the inspection object 1 is sequentially illuminated by the illumination device 4 at different illumination angles and the processing results at the respective illumination angles are individually generated and displayed. Inspection of the surface state regarding the shape and color can be performed with higher accuracy.

本発明の一実施形態に係る表面検査装置の構成を示すブロック図The block diagram which shows the structure of the surface inspection apparatus which concerns on one Embodiment of this invention. 図1中の照明装置の詳細を示す斜視図The perspective view which shows the detail of the illuminating device in FIG. 図1中の表示装置における画像表示例を示す図The figure which shows the example of an image display in the display apparatus in FIG. 図1中の演算処理装置の第1の具体例を示すブロック図The block diagram which shows the 1st specific example of the arithmetic processing unit in FIG. 同実施形態における副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する動作を説明する図FIG. 6 is a diagram for explaining an operation of generating an image data string by adding image data of two main scanning lines adjacent in the sub-scanning direction in the embodiment. 図4中の演算器の構成を示すブロック図The block diagram which shows the structure of the calculator in FIG. 図6に示す演算器の動作を説明する図The figure explaining operation | movement of the calculator shown in FIG. 検査対象物上の欠陥の例について説明する図The figure explaining the example of the defect on the inspection object 検査対象物上の他の欠陥の例について説明する図A diagram explaining examples of other defects on the inspection object 検査対象物上のさらに別の欠陥の例について説明する図The figure explaining the example of another defect on a test subject 一つの主走査ライン内にのみ存在する欠陥とそれに対応する画像データ及びブロック内加算データの関係を示す図The figure which shows the relationship between the defect which exists only in one main scanning line, the image data corresponding to it, and the addition data in a block 一つの主走査ライン内にのみ存在する欠陥に対応する画像データ及びブロック内加算データの関係を示す図The figure which shows the relationship between the image data corresponding to the defect which exists only in one main scanning line, and the addition data in a block 隣接する2つの主走査ラインにまたがって存在する欠陥とそれに対応する画像データ及びブロック内加算データの関係を示す図The figure which shows the relationship between the defect which exists over two adjacent main scanning lines, the image data corresponding to it, and the addition data in a block 隣接する2つの主走査ラインにまたがって存在する欠陥に対応する画像データ及びブロック内加算データの関係を示す図The figure which shows the relationship between the image data corresponding to the defect which exists over two adjacent main scanning lines, and the addition data in a block は主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがった欠陥とそれに対応する画像データ及びブロック内加算データの関係を示す図FIG. 4 is a diagram showing the relationship between a defect that spans adjacent pixels on the main scanning line and spans two adjacent main scanning lines, and corresponding image data and intra-block addition data. は主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがった欠陥に対応する画像データ及びブロック内加算データの関係を示す図FIG. 4 is a diagram showing the relationship between image data and intra-block addition data corresponding to a defect that spans adjacent pixels on the main scanning line and spans two adjacent main scanning lines. 演算処理装置の第2の具体例における副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する動作を説明する図The figure explaining the operation | movement which adds the image data of two main scanning lines adjacent in the subscanning direction in the 2nd specific example of an arithmetic processing unit, and produces | generates an image data sequence. 演算処理装置の第3の具体例における副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する変形例を説明する図The figure explaining the modification which adds the image data of two main scanning lines adjacent in the subscanning direction in the 3rd specific example of an arithmetic processing unit, and produces | generates an image data sequence. 演算処理装置の第3の具体例における副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する変形例を説明する図The figure explaining the modification which adds the image data of two main scanning lines adjacent in the subscanning direction in the 3rd specific example of an arithmetic processing unit, and produces | generates an image data sequence. 演算処理装置の第3の具体例における副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する変形例を説明する図The figure explaining the modification which adds the image data of two main scanning lines adjacent in the subscanning direction in the 3rd specific example of an arithmetic processing unit, and produces | generates an image data sequence. 演算処理装置の第3の具体例を示すブロック図Block diagram showing a third specific example of the arithmetic processing unit

符号の説明Explanation of symbols

1・・・検査対象物
2・・・搬送路
3・・・カメラ
4・・・照明装置
5A、5B、5C、5D・・・光源
6・・・支持体
7・・・光源切替器
8・・・光源駆動回路
9・・・コントローラ
10A、10B、10C、10D・・・表示領域
11・・・結像レンズ
12・・・ラインイメージセンサ
13・・・増幅器
14・・・A/Dコンバータ
15・・・演算処理装置
16・・・表示装置
DESCRIPTION OF SYMBOLS 1 ... Inspection object 2 ... Conveyance path 3 ... Camera 4 ... Illumination device 5A, 5B, 5C, 5D ... Light source 6 ... Support body 7 ... Light source switcher 8. ··· Light source drive circuit 9 ··· Controller 10A, 10B, 10C, 10D · · · Display area 11 · · · Imaging lens 12 · · · Line image sensor 13 · · · Amplifier 14 · · · A / D converter 15 ... Operation processing unit 16 ... Display device

Claims (2)

検査対象物の表面を一定の周期で主走査方向に走査するラインセンサを有し、画像データを出力するカメラと、
前記主走査方向と直交する副走査方向に前記カメラと前記検査対象物とを相対的に移動させる副走査手段と、
前記被検査対象物の表面の主走査領域を、前記表面より起立する法線からの角度がそれぞれ異なる照明角度で照明するように配置された複数の光源を含む照明手段と、
前記複数の光源を切り替えて少なくとも一つずつ選択的に点灯させる駆動手段と、
前記駆動手段による前記光源の選択的な点灯毎に前記カメラから出力される画像データに対し演算処理を施して前記検査対象物の表面状態を示す処理結果を出力する演算処理手段と、
前記光源のそれぞれの選択的な各点灯に対応する前記処理結果を個別に表示する表示手段とを具備し、
前記複数の光源は、前記法線からの前記照明角度が相対的に大きい第1光源と前記法線からの前記照明角度が相対的に小さい第2光源を含み、
かつ前記第1の光源及び前記第2の光源は複数であってそれぞれが異なる方向から前記検査対象物の同じ照射位置を照射するように配置されており、
前記駆動手段は、前記複数の光源のそれぞれを前記ラインセンサによる前記主走査方向の走査に同期した主走査周期の整数倍の点灯周期で選択的に点灯させ、
前記演算処理手段は前記駆動手段による前記第1光源の点灯時には形状に関する表面状態を示す処理結果を出力し、前記第2光源の点灯時には色彩に関する表面状態を示す処理結果を出力し、
前記表示手段は、前記複数の光源がそれぞれ照射したときに得られた各光源に対応する画像を1画面の異なる表示領域に同時表示する、表面検査装置。
A camera that has a line sensor that scans the surface of the inspection object in the main scanning direction at a constant cycle, and that outputs image data;
Sub-scanning means for relatively moving the camera and the inspection object in a sub-scanning direction orthogonal to the main scanning direction;
Illuminating means including a plurality of light sources arranged so as to illuminate the main scanning region of the surface of the object to be inspected at illumination angles different from each other from the normal rising from the surface;
Driving means for selectively lighting at least one by switching the plurality of light sources;
Arithmetic processing means for performing arithmetic processing on image data output from the camera for each selective lighting of the light source by the driving means and outputting a processing result indicating a surface state of the inspection object;
Display means for individually displaying the processing result corresponding to each selective lighting of the light source,
The plurality of light sources include a first light source having a relatively large illumination angle from the normal and a second light source having a relatively small illumination angle from the normal,
And there are a plurality of the first light source and the second light source, each of which is arranged to irradiate the same irradiation position of the inspection object from different directions,
The driving means selectively turns on each of the plurality of light sources at a lighting cycle that is an integral multiple of a main scanning cycle synchronized with scanning in the main scanning direction by the line sensor,
The arithmetic processing means outputs a processing result indicating a surface state relating to a shape when the first light source is turned on by the driving means, and outputs a processing result indicating a surface state relating to a color when the second light source is turned on.
The surface inspection apparatus, wherein the display means simultaneously displays an image corresponding to each light source obtained when each of the plurality of light sources is irradiated on different display areas of one screen.
前記第1及び第2の光源は、それぞれ複数のLEDをライン状に配列したLEDアレイであり、半円筒状の支持部材の内面上であって円筒の軸方向へ前記ライン状に支持されている請求項1記載の表面検査装置。   Each of the first and second light sources is an LED array in which a plurality of LEDs are arranged in a line, and is supported on the inner surface of a semi-cylindrical support member and in the line in the axial direction of the cylinder. The surface inspection apparatus according to claim 1.
JP2006156676A 2006-06-05 2006-06-05 Surface inspection device Active JP5481012B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006156676A JP5481012B2 (en) 2006-06-05 2006-06-05 Surface inspection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006156676A JP5481012B2 (en) 2006-06-05 2006-06-05 Surface inspection device

Publications (2)

Publication Number Publication Date
JP2007322402A JP2007322402A (en) 2007-12-13
JP5481012B2 true JP5481012B2 (en) 2014-04-23

Family

ID=38855345

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006156676A Active JP5481012B2 (en) 2006-06-05 2006-06-05 Surface inspection device

Country Status (1)

Country Link
JP (1) JP5481012B2 (en)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106415248B (en) * 2013-10-24 2020-08-18 飞利浦灯具控股公司 Defect inspection system and method
CN107278261B (en) 2014-12-22 2020-08-28 倍耐力轮胎股份公司 Method and apparatus for inspecting tyres in a production line
CN107110639B (en) 2014-12-22 2020-10-09 倍耐力轮胎股份公司 Device for inspecting tyres on a tyre production line
CN105116114B (en) * 2015-09-21 2017-10-10 江苏英诺华医疗技术有限公司 A kind of Biochemical Analyzer intelligent light source breakdown judge and the method for replacing
JP6705301B2 (en) * 2016-06-13 2020-06-03 富士ゼロックス株式会社 Measuring device
BR112020019442A2 (en) * 2018-03-28 2021-01-05 Transitions Optical, Ltd. DIAGNOSTIC STATION FOR PRODUCTION LINE
IT202000004786A1 (en) * 2020-03-06 2021-09-06 Geico Spa SCANNING HEAD FOR DETECTION OF DEFECTS ON SURFACES AND DETECTION STATION WITH THIS HEAD
CN115361494B (en) * 2022-10-09 2023-03-17 浙江双元科技股份有限公司 High-speed stroboscopic image processing system and method of multi-line scanning image sensor

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS59162702U (en) * 1983-04-16 1984-10-31 本田技研工業株式会社 Illumination device for visual inspection of objects to be painted
JPS63120217A (en) * 1986-11-07 1988-05-24 Iseki & Co Ltd Image sensor
JPH087155B2 (en) * 1990-09-11 1996-01-29 松下電器産業株式会社 Wiring pattern inspection device
US5172005A (en) * 1991-02-20 1992-12-15 Pressco Technology, Inc. Engineered lighting system for tdi inspection comprising means for controlling lighting elements in accordance with specimen displacement
JPH0792101A (en) * 1993-09-24 1995-04-07 Mazda Motor Corp Surface inspection apparatus
JPH07128241A (en) * 1993-11-05 1995-05-19 Konica Corp Inspection device of electrophotographic photoreceptor defect
JP3657694B2 (en) * 1995-03-31 2005-06-08 リンテック株式会社 Lighting device
JPH0997363A (en) * 1995-10-02 1997-04-08 Oki Electric Ind Co Ltd Coin image pickup device
JP3870494B2 (en) * 1997-06-30 2007-01-17 スズキ株式会社 Surface defect inspection equipment
JPH11326055A (en) * 1998-05-08 1999-11-26 Toyota Motor Corp Color inspecting method and coating defect inspecting method
JP2000009655A (en) * 1998-06-25 2000-01-14 Kobe Steel Ltd Visual inspection device
JP2000121574A (en) * 1998-10-13 2000-04-28 Nippon Steel Corp Flaw inspection apparatus for steel plate
JP2002131238A (en) * 2000-10-25 2002-05-09 Honda Motor Co Ltd Visual inspection apparatus
CN1247987C (en) * 2001-07-09 2006-03-29 山田吉郎 Surface inspection apparatus and method
JP2004153462A (en) * 2002-10-29 2004-05-27 Keyence Corp Magnifying observation apparatus, operating method of the magnifying observation apparatus, magnifying observation apparatus operating program, and computer-readable recording medium
DE10324104B4 (en) * 2003-05-27 2014-01-16 Byk Gardner Gmbh Apparatus and method for determining surface properties
JP2005337957A (en) * 2004-05-28 2005-12-08 Dainippon Screen Mfg Co Ltd Substrate inspection device
DE102004034160A1 (en) * 2004-07-15 2006-02-09 Byk Gardner Gmbh Device for studying optical surface properties
JP2006046942A (en) * 2004-07-30 2006-02-16 Dainippon Screen Mfg Co Ltd Determining device and surface data recording apparatus

Also Published As

Publication number Publication date
JP2007322402A (en) 2007-12-13

Similar Documents

Publication Publication Date Title
JP5481012B2 (en) Surface inspection device
JP4932819B2 (en) Surface inspection apparatus and method
JP5806808B2 (en) Imaging optical inspection device
US20100302364A1 (en) Three dimensional shape measurement apparatus and method
JP2006329919A (en) Lighting apparatus and image processing apparatus and method using the same
JP5068731B2 (en) Surface flaw inspection apparatus, surface flaw inspection method and program
JP2001304835A (en) Illuminating device for measuring unevenness, unevenness measuring device, illuminating device for inspecting defect, defect inspection device and illuminating method therefor
JP5824278B2 (en) Image processing device
US8189937B2 (en) Line-scanning confocal microscope apparatus
JP4932595B2 (en) Surface flaw inspection device
JP2009156872A (en) Inspection device of body to be inspected
JP2009287980A (en) Visual inspection device
US10247678B1 (en) Arrangement and procedure for the inspection of moving plate-shaped objects
TWI687672B (en) Optical inspection system and image processing method thereof
JP2008180578A (en) Cyclic pattern nonuniformity inspection device
JP2012063190A (en) Surface unevenness detection apparatus and surface unevenness detection method
JP2004138417A (en) Method and apparatus for inspecting scratch in steel plate
JP7306620B2 (en) Surface defect inspection device and surface defect inspection method
JP2004132801A (en) Surface defect inspection device for band like body
JP4165932B2 (en) Light / dark inspection apparatus and light / dark inspection method
JP2005274325A (en) Optical type defect inspection method for metal band
JP2010175283A (en) Device for producing plane image
JP2004132800A (en) Surface defect inspection device for band like body
JP2002022665A (en) Method and apparatus for inspection of surface defect
JP2701872B2 (en) Surface inspection system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090302

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110708

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120131

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120323

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20120529

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20121009

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121205

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130730

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131030

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20131114

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20131204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140217

R150 Certificate of patent or registration of utility model

Ref document number: 5481012

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250