JP5481012B2 - Surface inspection device - Google Patents
Surface inspection device Download PDFInfo
- Publication number
- JP5481012B2 JP5481012B2 JP2006156676A JP2006156676A JP5481012B2 JP 5481012 B2 JP5481012 B2 JP 5481012B2 JP 2006156676 A JP2006156676 A JP 2006156676A JP 2006156676 A JP2006156676 A JP 2006156676A JP 5481012 B2 JP5481012 B2 JP 5481012B2
- Authority
- JP
- Japan
- Prior art keywords
- main scanning
- image data
- light source
- light sources
- line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007689 inspection Methods 0.000 title claims description 75
- 238000005286 illumination Methods 0.000 claims description 34
- 230000000630 rising effect Effects 0.000 claims description 2
- 230000001360 synchronised effect Effects 0.000 claims description 2
- 230000007547 defect Effects 0.000 description 63
- 238000000034 method Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 9
- 238000003384 imaging method Methods 0.000 description 7
- 230000008569 process Effects 0.000 description 5
- 239000003086 colorant Substances 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 3
- 210000005252 bulbus oculi Anatomy 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000035945 sensitivity Effects 0.000 description 3
- 230000003746 surface roughness Effects 0.000 description 3
- 238000010422 painting Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000011179 visual inspection Methods 0.000 description 2
- 206010044565 Tremor Diseases 0.000 description 1
- 238000005311 autocorrelation function Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003111 delayed effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 235000019592 roughness Nutrition 0.000 description 1
- 230000000638 stimulation Effects 0.000 description 1
Images
Description
本発明は、イメージセンサを有するカメラを用いて自動車の車体のような検査対象物の表面の形状及び色彩の欠陥などの表面検査を行う表面検査装置に関する。 The present invention relates to a surface inspection apparatus that performs surface inspections such as surface defects and color defects of an inspection object such as an automobile body using a camera having an image sensor.
自動車の製造現場における車体の表面検査は、車体の表面形状(凹凸)や色彩の僅かな欠陥についても確実に発見するために、従来から多数の検査者の目視によって行われている。 Conventionally, surface inspection of a vehicle body at an automobile manufacturing site has been performed visually by a large number of inspectors in order to surely detect even surface defects (unevenness) and slight defects in color.
一方、車体の表面検査を自動化する技術も種々提案されている。例えば、特開2000−241147号公報(特許文献1)には、車体のプレス形成により生じる車体表面の傾斜角度の緩やかな凹凸や突起等の表面欠陥をインラインで検査するために、車体の搬送方向の前後から被検査面に対して照明光を一定の照射角度αで照射する広角度照明手段と、広角度照明手段を間にして前後にαよりも大きい撮像角度βで照明光の反射光を撮像する撮像手段を配置し、前後の撮像手段により得た受光画像に基づいて被検査面の表面欠陥を抽出する技術が記載されている。
目視による表面検査では、多大な労力と時間を必要とする。また、目視による欠陥の発見のためには、車体を両側に多数の照明光源を配置したいわゆる光のトンネルに通しながら検査を行う必要があり、設備コストも高くなってしまう。 Visual inspection of the surface requires a lot of labor and time. In addition, in order to detect defects visually, it is necessary to perform inspection while passing the vehicle body through a so-called light tunnel in which a large number of illumination light sources are arranged on both sides, which increases the equipment cost.
特許文献1に記載された技術では、凹凸のような形状的な欠陥を検査することはできるが、色むらなどの色彩の欠陥を検査することはできない。
With the technique described in
本発明は、車体のような検査対象物の形状及び色彩に関する表面状態を同時に検査できる表面検査装置を提供することを目的とする。 An object of this invention is to provide the surface inspection apparatus which can test | inspect simultaneously the surface state regarding the shape and color of a test subject like a vehicle body.
本発明の一態様に係る表面検査装置は、検査対象物の表面を一定の周期で主走査方向に走査するラインセンサを有し、画像データを出力するカメラと、前記主走査方向と直交する副走査方向に前記カメラと前記検査対象物とを相対的に移動させる副走査手段と、前記被検査対象物の表面の主走査領域を、前記表面より起立する法線からの角度がそれぞれ異なる照明角度で照明するように配置された複数の光源を含む照明手段と、前記複数の光源を切り替えて少なくとも一つずつ選択的に点灯させる駆動手段と、前記駆動手段による前記光源の選択的な点灯毎に前記カメラから出力される画像データに対し演算処理を施して前記検査対象物の表面状態を示す処理結果を出力する演算処理手段と、前記光源のそれぞれの選択的な各点灯に対応する前記処理結果を個別に表示する表示手段とを具備し、前記複数の光源は、前記法線からの前記照明角度が相対的に大きい第1光源と前記法線からの前記照明角度が相対的に小さい第2光源を含み、かつ前記第1の光源及び前記第2の光源は複数であってそれぞれが異なる方向から前記検査対象物の同じ照射位置を照射するように配置されており、前記駆動手段は、前記複数の光源のそれぞれを前記ラインセンサによる前記主走査方向の走査に同期した主走査周期の整数倍の点灯周期で選択的に点灯させ、前記演算処理手段は前記駆動手段による前記第1光源の点灯時には形状に関する表面状態を示す処理結果を出力し、前記第2光源の点灯時には色彩に関する表面状態を示す処理結果を出力し、前記表示手段は、前記複数の光源がそれぞれ照射したときに得られた各光源に対応する画像を1画面の異なる表示領域に同時表示する。 A surface inspection apparatus according to an aspect of the present invention includes a line sensor that scans the surface of an inspection object in a main scanning direction at a constant cycle, a camera that outputs image data, and a secondary sensor that is orthogonal to the main scanning direction. The sub-scanning means for relatively moving the camera and the inspection object in the scanning direction, and the main scanning area of the surface of the inspection object, the illumination angles differing from the normal line rising from the surface Illuminating means including a plurality of light sources arranged so as to illuminate, driving means for selectively lighting at least one of the plurality of light sources by switching, and for each selective lighting of the light sources by the driving means Corresponding to each selective lighting of each of the light sources, arithmetic processing means for performing processing on the image data output from the camera and outputting a processing result indicating the surface state of the inspection object Display means for individually displaying the processing results, wherein the plurality of light sources have a relatively large illumination angle from the normal line and a relatively large illumination angle from the normal line. A plurality of first light sources and a plurality of second light sources, each of which is arranged to irradiate the same irradiation position of the inspection object from different directions; Selectively turns on each of the plurality of light sources at a lighting cycle that is an integral multiple of a main scanning cycle synchronized with scanning in the main scanning direction by the line sensor, and the arithmetic processing means is the first driving means by the driving means. When the light source is turned on, a processing result indicating the surface state related to the shape is output. When the second light source is turned on, a processing result indicating the surface state related to the color is output. Simultaneous to display an image corresponding to each light source obtained when the different display areas of one screen.
本発明によれば、被検査対象物表面の主走査領域を順次異なる照明角度で照明して各照明角度での処理結果を個別に生成して表示するため、複数の異なる照明角度に依存して、検査対象物の形状及び色彩に関する表面状態、すなわち検査対象物表面の形状的及び色彩的な欠陥を同時に検査することができる。 According to the present invention, the main scanning region on the surface of the object to be inspected is sequentially illuminated at different illumination angles, and the processing results at each illumination angle are individually generated and displayed, so depending on a plurality of different illumination angles The surface state relating to the shape and color of the inspection object, that is, the shape and color defects on the surface of the inspection object can be simultaneously inspected.
以下、図面を参照して本発明の実施の形態を説明する。
図1は、本発明の一実施形態に係る表面検査装置を示している。検査対象物1は、これに限られるものではないが例えば自動車の車体である。検査対象物1は検査時には搬送路2に載せられ、図示しない副走査装置によって搬送路2と共に矢印Yに示す方向(副走査方向)に移動する。搬送路2の側方には、検査対象物1の側面を撮影するカメラ(ディジタルカメラ)3が設置されている。カメラ3に加えて、さらに検査対象物1の上面を撮影するカメラを設置してもよい。
Embodiments of the present invention will be described below with reference to the drawings.
FIG. 1 shows a surface inspection apparatus according to an embodiment of the present invention. The
カメラ3の前方、すなわちカメラ3に対して検査対象物1に寄った側に、照明装置4が配置されている。照明装置4は、図2に詳細を示すように線状の複数の光源5A、5B、5C及び5Dと、光源5A、5B、5C及び5Dを支持する支持部材6を有する。光源5A、5B、5C及び5Dは、いずれも例えば複数のLED(発光ダイオード)をライン状に配列したLEDアレイである。照明装置4は、LEDアレイのアレイ方向がほぼ垂直となるように設置される。なお、LEDアレイに代えて例えば冷陰極放電管のような放電管を用いても構わない。
The illumination device 4 is arranged in front of the
支持部材6は例えば半円筒状の形状をなし、その内面上に光源5A、5B、5C及び5Dが支持される。支持部材6の光源5Bと5Cとの間の領域には、検査対象物1の表面からの反射光を通過させてカメラ3に導くためのスリットSが設けられている。なお、支持部材はこのような形状に限られず、例えば光源5A、5B、5C及び5Dの両側を支持するようなものでもよい。この場合、スリットSは必要でなく、単に光源5A、5B、5C及び5Dの間の隙間を通して検査対象物1の表面からの反射光をカメラ3に導くようにすればよい。
The
ここで、光源5A、5B、5C及び5Dは検査対象物1の表面上の線状の領域(カメラ3の主走査領域という)Lを主走査領域Lに対してそれぞれ異なる角度の方向から照明するように配置される。すなわち、光源5A、5B、5C及び5Dのうち両側二つの光源5A及び5Dの照明角度は相対的に大きく、他の光源5B及び5Cの照明角度は相対的に小さい。ここで照明角度とは、主走査領域Lの正面方向(0°方向)に対する照明方向(照明光の光軸方向)の角度である。このように照明装置4は、主走査領域Lを大きい照明角度で斜め方向から照明する光源5A及び5Dと、主走査領域Lを小さい照明角度(垂直に近い角度)で正面の近い方向から照明する光源5B及び5Cを備えている。ここでは照明装置4は4個の光源5A、5B、5C及び5Dを備えているが、さらに多数の光源を照明角度を異ならせて配置してもよい。
Here, the
カメラ3は、結像レンズ11、CCDラインイメージセンサのようなラインイメージセンサ12、増幅器13及びA/Dコンバータ14を有し、検査対象物1の表面の画像が結像レンズ11を介してラインイメージセンサ12上に結像される。ラインイメージセンサ12は、複数個(例えば、5120個)の光電変換素子を副走査方向Yと直交する矢印Xで示す方向(主走査方向)に配列して構成される。ラインイメージセンサ12は、コントローラ9による制御の下で検査対象物1の表面上を例えば2,000走査/秒の周期(主走査周期)で主走査方向Xに走査して検査対象物1の表面状態を画像として読み取り、画像信号を出力する。検査対象物1が自動車の車体の場合、カメラ3から検査対象物1までの距離(対物距離)は、例えば3,600mm程度に設定される。また、主走査領域Lの長さ(主走査幅という)は、例えば2,400mm程度に設定される。
The
ラインイメージセンサ12から出力される画像信号は、増幅器13によって増幅された後、さらにA/Dコンバータ14により例えば8ビットパラレルのディジタルデータに変換され、カメラ3から画像データとして出力される。
The image signal output from the
照明装置4の光源5A、5B、5C及び5Dには、光源切替器7を介して光源駆動回路8が接続される。光源切替器7はコントローラ9によって制御され、光源5A、5B、5C及び5Dをラインイメージセンサ12の主走査に同期して主走査周期の整数倍の点灯周期で順次点灯させる。すなわち、光源切替器7は主走査に同期して主走査周期の整数倍(例えば1倍)の点灯周期で切り替えられ、光源駆動回路8から出力される駆動電流を選択的に光源5A、5B、5C及び5Dに供給する。LEDアレイや冷陰極放電管は非常に応答速度が速いため、光源5A、5B、5C及び5Dを上記のように速い周期で点滅させることは容易である。
A light
主走査領域Lは、光源5A、5B、5C及び5Dのうち点灯した一つの光源によって照明される。カメラ3は、こうして照明された主走査領域Lからの反射光を検出して主走査領域Lを撮影する。カメラ3から出力される画像データは、演算処理装置16に入力される。演算処理装置16は、入力される画像データに対し後述するような演算処理を施すことにより、検査対象物1の表面状態を示す処理結果を出力する。演算処理装置16から出力される処理結果は、液晶ディスプレイまたはCRTディスプレイのような表示装置16に供給され、画像として表示される。
The main scanning region L is illuminated by one of the
演算処理装置16は、コントローラ9による制御の下で、ラインイメージセンサ12による主走査に同期して、言い換えれば光源切替器7による光源5A、5B、5C及び5Dのそれぞれの点灯毎に演算処理を行う。光源5A、5B、5C及び5Dのそれぞれの点灯毎に得られる処理結果は表示装置16において個別に、すなわち図3に示すように表示装置16の画面上の異なる領域10A、10B、10C及び10Dに画像として表示される。
The
一般に物体の平滑な表面を観察する場合、(a)斜め方向から観察すると表面形状は認識できるが、角度によっては光源からの光の反射により光源の色を観察することになってしまうため、物体表面の実際の色彩を認識することはできない。一方、(b)物体表面を正面あるいはそれに近い角度の方向から観察すると、実際の色彩を認識することはできるが、凹凸のような形状を認識することは難しい。 In general, when observing the smooth surface of an object, (a) the surface shape can be recognized by observing from an oblique direction, but depending on the angle, the color of the light source is observed due to reflection of the light from the light source. The actual color of the surface cannot be recognized. On the other hand, (b) when the surface of the object is observed from the front or near the direction of the angle, the actual color can be recognized, but it is difficult to recognize the shape such as the unevenness.
本発明の一実施形態によると、照明角度の大きい光源5A及び5Dの点灯時には、上記(a)の原理により、検査対象物1の形状に関する表面状態を示す処理結果が演算処理装置16から出力される。照明角度の小さい光源5B及び5Cの点灯時には、上記(b)の原理から、色彩に関する表面状態を示す処理結果が演算処理装置16から出力される。従って、これらの処理結果を図4に示したように個別に画像として表示することにより、形状と色彩に関する表面状態を同時に観察することができる。
According to one embodiment of the present invention, when the
なお、上記の説明では光源5A、5B、5C及び5Dを一個ずつ点灯させるようにしたが、複数個同時に点灯させるモードを含んでいてもよい。例えば、(1)5Aのみを点灯、(2)5Aと5Bを同時点灯、(3)5Bのみを点灯、(4)5Bと5Cを同時点灯、(5)5Cのみを点灯、(6)5Cと5Dを同時点灯、というように点灯させてもよい。このようにすると、一つの主走査領域Lに対して演算処理装置16から4つの処理結果が出力され(光源5A、5B、5C及び5Dを一個ずつ点灯させる場合には、6つの処理結果が出力される)、より多数の方向からの主走査が行われることになる。
In the above description, the
検査対象物1である自動車の車体は、色彩が種々異なる。また、同じ車体でも塗装前のいわゆるホワイトボディと塗装後では色彩が異なる。色彩が異なれば明度も異なることになり、光源5A、5B、5C及び5Dで主走査領域Lを照明した場合の反射光の強度も異なることになる。また、自動車の車体は表面の粗さが種々異なり、例えば表面が光沢性の場合とマット状がある。表面が光沢性の場合はカメラ3に入射する反射光の強度が高く、またマット状の場合は光が拡散するためカメラ3に入射する反射光の強度が低下する。
The car body of the automobile which is the
そこで、コントローラ9により検査対象物1の表面の色彩(明度)や表面の粗さ(光沢性かマット状か)に応じて光源駆動回路8から出力される駆動電流を変化させ、表面の明度が高い場合あるいは表面が光沢性の場合は駆動電流を下げて光源5A、5B、5C及び5Dの発光強度を下げ、明度が低い場合あるいは表面がマット状のように粗い場合は発光強度をあげることが望ましい。このように光源5A、5B、5C及び5Dの発光強度を検査対象物1の色彩(明度)や表面の粗さに応じて変えることによって、明度や粗さによらずほぼ一定の感度で検査を行うことができる。
Therefore, the controller 9 changes the driving current output from the light
さらに、検査対象物1が自動車の車体の場合、表面形状は平坦でなく、一般に曲面であり、しかも長さ方向においても変化している。すなわち、主走査領域Lの形状は一定でなく、検査対象物1によってまた検査対象物1の長さ方向位置によって異なる。従って、光源5A、5B、5C及び5Dの形状を可変とすることが望ましい。具体的には、例えば照明装置4の光源5A、5B、5C及び5D及び支持部材6をフレキシブルなものとし、検査対象物1や主走査領域Lの位置に応じて主走査領域Lの形状に合わせて光源5A、5B、5C及び5D及び支持部材6の形状を変えるようにしてもよい。
Further, when the
次に、演算処理装置16について具体的に説明する。ラインイメージセンサ12を用いたカメラ3においては、イメージセンサ12による明度の読み取り精度に光電変換素子によってばらつきがある。このばらつきはイメージセンサ12を構成する個々の光電変換素子の感度の差などの原因によるものであり、素子ばらつきと呼ばれ、通常3%程度の値をとる。一般的な表面検査装置では、この素子ばらつきの範囲を越えた明度変化がないと、微細な欠陥などの検出を行うことができない。目視による明暗検出精度は1/1500〜1/2000と言われているので、ラインイメージセンサを用いた表面検査装置は目視の1/60の精度しかないことになり、目視検査の代替は不可能とされてきた。
Next, the
この課題を解決すべくイメージセンサの素子ばらつきを補償する方法の一例として、ラインイメージセンサによって得られる画像データ列のうち主走査方向に連続する複数の画素からなるブロックの画像データを加算し、かつ隣接するブロックの加算データの相関演算を行う技術が知られている。しかし、この方法は一つの主走査ライン上で隣接する画素にまたがっている欠陥に対しては検出が可能であるが、隣接する主走査ラインにまたがっている欠陥や、主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥に対しては検出を行うことができない。このため、検査精度の向上に限界がある。 As an example of a method for compensating for the element variation of the image sensor to solve this problem, the image data of a block composed of a plurality of pixels continuous in the main scanning direction in the image data sequence obtained by the line image sensor is added, and A technique for performing a correlation operation on addition data of adjacent blocks is known. However, this method can detect a defect that extends over adjacent pixels on one main scanning line, but it is possible to detect a defect that extends across adjacent main scanning lines or adjacent on the main scanning line. It is not possible to detect a defect that straddles pixels and straddles adjacent main scanning lines. For this reason, there is a limit in improving inspection accuracy.
ここで説明する演算処理装置16を含む表面検査装置は、検査対象物上の欠陥を隣接する主走査ラインにまたがっている欠陥や主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥を検出可能である。従って、先のように検査対象物1の表面の主走査領域Lを照明装置4により順次異なる照明角度で照明し、各照明角度での処理結果を個別に生成して表示することと相まって、形状及び色彩に関する表面状態の検査を精度よく行うことを可能とする。
The surface inspection apparatus including the
さらに、ここで説明する演算処理装置16は分解能を例えば点について100μm径、線に対して20μm幅程度(髪の毛の幅を識別できる)と非常に高くとることができ、これは人間が目視で400〜500mm程度まで対象物に近づいて検査を行う場合の分解能と同程度である。また、これに伴い被写界深度(合焦状態が得られる範囲)についても、カメラ3から検査対象物1までの対物距離が3,600mmで、かつ主走査幅が2,400mmの場合、被写界深度は1,300mm程度と大きい。このため、自動車の車体のように表面形状が起伏に富む検査対象物の表面状態を、対物距離3,600mmというように検査対象物1から対物比較的遠い定位置に置かれたカメラ3を用いて検査することは十分に可能である。
Furthermore, the
なお、本実施形態ではカメラ3から検査対象物1に寄った側に光源5A、5B、5C及び5Dを配置したが、カメラ3と光源5A、5B、5C及び5Dの位置関係はこれに限られるものではない。例えばカメラ3を搬送路2の側方に配置し、光源5A、5B、5C及び5Dの前方に配置したミラーによって検査対象物1の表面の主走査領域Lからの反射光をカメラ3に導くようにしてもよい。
In this embodiment, the
次に、演算処理装置16の幾つかの具体例について説明する。
(演算処理装置の第1の具体例)
第1の具体例による演算処理装置16は、図4に示されるようにラインメモリ17、加算器18、演算器19及び判定器20を有する。ラインメモリ17は、カメラ3から入力される画像データを光源5A、5B、5C及び5Dの数(厳密には、一つの主走査領域Lの走査回数)に相当する複数(nとする)の主走査ライン分記憶するメモリであり、シフトレジスタまたはFIFO(先入れ・先出し)メモリが用いられる。
Next, some specific examples of the
(First specific example of arithmetic processing unit)
The
カメラ3から出力される画像データは、加算器18の第1入力端に供給されると共に、ラインメモリ17に供給される。ラインメモリ17の出力は、加算器18の第2入力端に供給される。加算器17は、ラインメモリ17の入力の画像データと出力の画像データとを加算する。
Image data output from the
ここで、加算器18の第1入力A及び第2入力Bにそれぞれ入力される画像データは、ラインイメージセンサ12の同一素子から得られる画像信号に対応している。すなわち、加算器18の入力Aに対して入力Bはラインメモリ17によりn主走査ライン分の時間遅れている。例えば、入力Aにラインイメージセンサ12のi番目(i=1,2,…)の素子に対応する画像データが入力されるとき、入力Bには同じi番目の素子に対応する1主走査ライン前の画像データがラインメモリ17から入力される。従って、加算器18では図5に示すように入力A、Bにそれぞれ入力される時間的に隣接する2つの主走査ライン(Nライン目とN+1ライン目、N+1ライン目とN+1ライン目、…)の画像データ21が加算され、画像データ列22が生成される。ここで、時間的に隣接する2つの主走査ラインとは、同一光源の点灯に対応してカメラ3から出力される画像データの時間的に隣接するデータをいう。例えば、光源5Aの点灯に対応してカメラ3から出力される第1画像データと、次に同じ光源5Aの点灯に対応してカメラ3から出力される第2画像データとは時間的に隣接しているとする。これは以降の具体例においても同様である。
Here, the image data respectively input to the first input A and the second input B of the
こうしてラインメモリ17と加算器18により構成される画像データ列生成器によって生成された画像データ列22は、演算器19に入力される。演算器19は、加算器18からの画像データ列に主走査方向Xに連続する複数の画素からなるブロックの画像データを加算(積算)してブロック内加算データを生成し、それをブロック内の最初の画素の画素データとし、かつ主走査方向で互いに隣接するブロック内加算データの相関値を算出する処理を、ブロックの位置を主走査方向にシフトさせて繰り返し行う。
The
具体的には、演算器19は図6に示すように、加算器18からの画像データ列22(図参照)が初段に入力されるように接続されたM段のシフトレジスタ31及び2M段のシフトレジスタ32と、シフトレジスタ31の各段の出力を加算する加算器33と、シフトレジスタ32の後段のM段の出力を加算する加算器34と、加算器33、34の出力が供給される相関器35によって構成される。ここで、1主走査ラインの画像データの画素を主走査方向に連続する複数の画素からなるブロックに分割したとき、Mは1ブロックを構成する画素数である。このMの値は、任意に変更可能であることが望ましく、例えば1〜111というような値をとる。
Specifically, as shown in FIG. 6, the
図7を用いて演算器19の動作を説明する。加算器33では、加算器18から出力される画像データ列22のうち主走査方向に連続するM画素からなる一つのブロックの画像データが加算される。加算器34では、画像データ列22のうち加算器33で画像データが加算されるブロックに対して主走査方向に隣接した次のブロックの画像データが加算される。ここで、加算器33,34から出力されるブロック内加算データをb1,b2とすると、相関器35においては、例えば両者の差b1−b2が相関値36として求められる。
The operation of the
画像データ列22の新たな画素のデータがシフトレジスタ31,32に入力される毎に、図7に示すように加算器33,34で画像データが加算されるブロックの位置が順次主走査方向にシフトされ、同様の動作が行われる。このような動作により、加算器33,34からブロック内加算データc1,c2;d1,d2;e1,e2;…が順次出力され、相関器35からはc1−c2、d1−d2、e1−e2が相関値36として順次求められることになる。
Each time new pixel data in the
ここでは、相関器25は隣接するブロック内加算データの差を相関値36として求めたが、隣接するブロック内加算データの比(b1/b2、…)を相関値36として求めてもよい。相関器25から出力される相関値36は、図4中の判定器20に入力される。判定器20は、例えばコンパレータによって構成され、相関器26から出力される相関値36を適当なしきい値と比較することによって、検査対象物10の表面欠陥の有無を判定し、表面状態を示す処理結果を出力する。
Here, the correlator 25 calculates the difference between the adjacent intra-block addition data as the
すなわち、検査対象物10上に欠陥があると、その欠陥の近傍ではラインイメージセンサ12の同一の素子に対応する画像データの大きさが副走査に伴って、つまり検査対象物10の相対的移動に伴って時間的に変化することにより、相関器35で得られる相関値36が大きくなって、判定器20においてしきい値を越えるため、判定器20でこの欠陥を認識することができる。判定器20の判定結果(処理結果)は、例えばパーソナルコンピュータにより処理されて図示しない表示装置により表示される。
That is, if there is a defect on the inspection object 10, the size of the image data corresponding to the same element of the
上記のように構成された演算処理装置15によると、まず演算器19においてブロック内加算を行うことによる累積機能と、主走査方向で隣接するブロック内加算データの相関をとることによる自己相関機能によって、ラインイメージセンサ12の素子ばらつきの影響を除去すると共に、相関器35で得られる相関値36が大きくなり、欠陥の検出感度を高めることができる。
According to the
さらに、特にラインメモリ17と加算器18を用いて副走査方向に隣接する2つの主走査ラインの画像データを加算し、これにより得られた画像データ列を演算器19に入力することによって、図8Aに示すように検査対象物10上の欠陥51が一つの主走査ライン(図ではN番目のライン)内にのみ存在する場合は勿論、図8Bのように隣接する2つの主走査ライン(図ではN番目のラインとN+1番目のライン)にまたがっている欠陥52や、図5Cのように主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがっている欠陥53を含めて検出可能として、さらなる高精度の検査が可能となる。
Further, the image data of two main scanning lines adjacent in the sub-scanning direction are added using the
以下、この原理を詳細に説明する。
まず、図8Aに示すように検査対象物10上の欠陥51が一つの主走査ライン内にのみ存在する場合、図9Aに示すように一つの画素内に存在する欠陥50に対応する画像データ(カメラ3出力)に比較して、2つの画素にまたがって存在する欠陥51に対応する画像データの出力が小さくなる。1画素のデータが2画素に分配されるので、出力レベルは半分になる。次のラインでは欠陥が無いので、出力は0であり、副走査方向に隣接する2ラインの画像データを加算する加算器18の出力(画像データ列22)はNラインの画像信号と同じである。この画像データ列22が演算器19の累積機能によって主走査方向のブロック内の画素データが累積されて、当該ブロック内の所定の、例えば最初の1画素の画素データとされる。
Hereinafter, this principle will be described in detail.
First, when the
ここで、説明の便宜上、ブロックは2画素からなるとすると、加算器33は図9Bに示すように、1画素ずれた2つの画像データ列を加算する。このため、各画素データに次の画素データが加算されることになり、欠陥51に対応する画素c6′の画像データのレベルは欠陥50に対応する画素c2′の画像データと同じとなる(レベルが大きくなる)ため、欠陥50は勿論、欠陥51についても容易に検出することができる。
Here, for convenience of explanation, assuming that the block consists of two pixels, the
次に、図8Bに示すように隣接する2つの主走査ラインにまたがった欠陥52が存在する場合、図10Aに示すように一つの主走査ライン内の一つの画素内に存在する欠陥50に対応する画像データに比較して、欠陥52に対応する画像データの出力が小さくなる。これは、Nラインでも(N+1)ラインでも同じである。しかし、副走査方向に隣接する2ラインの画像データを加算する加算器18により、欠陥52に対応する画像データ列22の出力は欠陥51に対応する画像データ列22の出力と同じになる。このため、2つの主走査ラインにまたがって存在する欠陥52も、容易に検出することができる。図10Bはブロック内加算データを示すが、この例の場合は主走査方向の2つの画素にまたがっている欠陥が存在しないので、ブロック内加算は不要である。
Next, as shown in FIG. 8B, when there is a
さらに、図8Cのように主走査ライン上で隣接する画素にまたがり、かつ隣接する2つの主走査ラインにまたがった欠陥53が存在する場合、図11Aに示すように一つの主走査ライン内の一つの画素内に存在する欠陥50に対応する画像データに比較して、欠陥53に対応する画像データの出力が小さくなる。1画素のデータが4画素に分配されるので、Nライン、(N+1)ラインとも欠陥53に対応する画像データの出力レベルは1/4になる。しかし、副走査方向に隣接する2ラインの画像データを加算する加算器18により、欠陥53に対応する画像データ列22の出力レベルは1/2まで増幅される。この画像データ列22が演算器19の主走査方向での累積機能による効果によって、当該ブロック内の所定の、例えば最初の1画素の画素データとされる。
Furthermore, when there is a
ここで、説明の便宜上、ブロックは2画素からなるとすると、加算器33は図11Bに示すように、1画素ずれた2つの画像データ列を加算する。このため、各画素データに次の画素データが加算されることになり、欠陥53に対応する画素c6′の画像データのレベルは欠陥50に対応する画素c2′の画像データと同じとなる(レベルが大きくなる)ため、欠陥50は勿論、欠陥53についても容易に検出することができる。
Here, for convenience of explanation, assuming that the block consists of two pixels, the
(演算処理装置の第2の具体例)
次に、図12を参照して演算処理装置16の第2の具体例について説明する。先に述べた第1の具体例では、カメラ3から出力される画像データ21について、ラインメモリ17及び加算器18を用いて時間的に隣接する2つの主走査ラインの画像データを加算して画像データ列22を生成する際、これら2つの主走査ラインの副走査方向Yに隣接する2つの画素(主走査方向の位置が同じ画素)の画像データを加算している。
(Second specific example of the arithmetic processing unit)
Next, a second specific example of the
しかし、副走査方向に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する方法は、これに限られるものではなく、例えば図12に示すような方法で画像データ列を生成してもよい。この方法では、副走査方向Yに隣接する2つの主走査ラインの画像データ21について、副走査方向に隣接しかつ主走査方向に隣接する4つの画素の画像データを加算する処理を該4つの画素の位置を一画素単位で主走査方向にシフトして行うことにより、画像データ列22Aを生成する。
However, the method of generating the image data string by adding the image data of two main scanning lines adjacent in the sub-scanning direction is not limited to this. For example, the image data string is generated by the method shown in FIG. It may be generated. In this method, for the
この方法によると、画像データ列の各データの大きさが大きくなるため、検査精度をさらに高めることができ、また例えば図8C、図11Aで説明したような主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがって存在する欠陥53を検出する上で特に有効である。
According to this method, since the size of each data in the image data sequence is increased, the inspection accuracy can be further increased, and the image data straddles adjacent pixels on the main scanning line as described with reference to FIGS. 8C and 11A, for example. In addition, it is particularly effective in detecting a
(演算処理装置の第3の具体例)
第3の具体例では、時間的に隣接する2つの主走査ラインの画像データを加算して画像データ列を生成する際、第1の具体例と同様に図13Aに示すように時間的に隣接する2つの主走査ライン(ここでは、便宜上NラインとN+1ラインとしている)の副走査方向に隣接する2つの画素(主走査方向の位置が同じ画素)の画像データを加算して画像データ列を生成する処理に加えて、図13B、図13Cの処理を併用する。図13Bは、副走査方向に対して斜め右上がりの方向(第1の方向)で隣接する画素の画像データを加算して画像データ列を生成する処理である。図13Cは、副走査方向に対して斜め左上がりの方向(第2の方向)で隣接する画素の画像データを加算して画像データ列を生成する処理である。
(Third specific example of the arithmetic processing unit)
In the third specific example, when the image data strings are generated by adding the image data of two main scan lines that are temporally adjacent, as shown in FIG. Image data of two pixels (pixels having the same position in the main scanning direction) adjacent to each other in the sub-scanning direction of the two main scanning lines (here, the N line and the N + 1 line are used for convenience) In addition to the processing to be generated, the processing in FIGS. 13B and 13C is used in combination. FIG. 13B is a process for generating an image data string by adding image data of adjacent pixels in a direction (first direction) obliquely upward to the sub-scanning direction. FIG. 13C is a process for generating an image data string by adding image data of adjacent pixels in a direction obliquely upward to the left (second direction) with respect to the sub-scanning direction.
図14は、第3の具体例における演算処理装置16Aの構成を示す図であり、ラインメモリ17Aは1主走査ライン分の画素数(この例では、5120画素)+1=5121段のシフトレジスタにより構成される。このシフトレジスタの入力と、5120段目の出力、5121段目の出力、5119段目の出力が加算器18A,18B,18Cによりそれぞれ加算される。これにより、加算器18Aからは図10Aに示す2つの主走査ラインの副走査方向に隣接する2つの画素の画像データを加算した画像データ列、加算器18Bからは図13Bに示す副走査方向に対して斜め右上がりの方向で隣接する画素の画像データを加算した画像データ列、加算器18Cからは図13Cに示すように副走査方向に対して斜め左上がりの方向で隣接する画素の画像データを加算した画像データ列が出力される。
FIG. 14 is a diagram showing the configuration of the arithmetic processing unit 16A in the third specific example. The
これらの画像データ列は、それぞれ第1具体例で説明したと同様の演算器19A,19B,19Cを経て判定器20A,20B,20Cに入力され、閾値判定される。これら判定器20A,20B,20Cの判定結果は、例えばパーソナルコンピュータにより処理されて図示しない表示装置により表示される。この場合、判定器20A,20B,20Cの判定結果を互いに区別が付くように色を変えて表示してもよい。
These image data strings are respectively input to the
第3の具体例によると、例えば検査対象物10上に存在する線状のような非常に細い欠陥であって、ラインイメージセンサ12上を斜めに横切るような欠陥に対しても、容易に検出が可能となる。すなわち、このような欠陥は2つの主走査ライン上で図13Bまたは図13Cに示すように副走査方向に対して斜めの方向で隣接する画素にまたがって現れるため、これらの画素の画像データを加算した後に演算器で処理することにより、容易に検出されることになる。
According to the third specific example, for example, a very thin defect such as a line existing on the inspection object 10 and a defect that crosses the
これまでの説明では、ラインメモリと加算器を用いて時間的に隣接する2つの主走査ラインの画像データを加算した画像データ列を演算器を介してブロック内加算を行った後、判定器に入力したが、演算器を介さずに判定器に入力しても構わない。 In the description so far, the image data sequence obtained by adding the image data of two main scanning lines temporally adjacent to each other using the line memory and the adder is subjected to intra-block addition via the arithmetic unit, and then to the determination unit. Although it is input, it may be input to the determiner without going through the calculator.
人間の眼球は、固視微動と呼ばれる微小な震動を行っている。すなわち、眼球は上下左右を見るときの運動とは別に、固視微動を行うことによって、網膜が刺激に慣れないようにすることで、精度を上げていると考えられている。固視微動の主たる運動成分は、上下方向である。 The human eyeball performs a minute tremor called fixation fixation. That is, it is considered that the eyeball improves accuracy by performing fixation fixation fine movement separately from the movement when looking up, down, left, and right, thereby preventing the retina from getting used to stimulation. The main movement component of fixation fine movement is the vertical direction.
隣接する2つの主走査ラインの画像データを加算する処理は、このような人間の眼球の固視微動に相当している。すなわち、本実施形態では電子的な処理ないしは機械的な処理によって副走査方向の移動(微動)を行いつつ、隣接した2つの主走査ラインの画像データを加算した画像データ列を処理して表面検査を行うことにより、検査精度を上げているのである。 The process of adding the image data of two adjacent main scanning lines corresponds to such a human eyeball fine movement. That is, in the present embodiment, surface inspection is performed by processing an image data sequence obtained by adding image data of two adjacent main scanning lines while performing movement (fine movement) in the sub-scanning direction by electronic processing or mechanical processing. By doing this, the inspection accuracy is increased.
上述したような演算処理装置によれば、検査対象物1上の主走査ラインにまたがっている欠陥や、主走査ライン上で隣接する画素にまたがり、かつ隣接する主走査ラインにまたがっている欠陥を含めて検出することが可能である。従って、検査対象物1の表面の主走査領域Lを照明装置4により順次異なる照明角度で照明して各照明角度での処理結果を個別に生成して表示することと相まって、検査対象物1の形状及び色彩に関する表面状態の検査をより一層精度よく行うことができる。
According to the arithmetic processing apparatus as described above, a defect that extends over the main scanning line on the
1・・・検査対象物
2・・・搬送路
3・・・カメラ
4・・・照明装置
5A、5B、5C、5D・・・光源
6・・・支持体
7・・・光源切替器
8・・・光源駆動回路
9・・・コントローラ
10A、10B、10C、10D・・・表示領域
11・・・結像レンズ
12・・・ラインイメージセンサ
13・・・増幅器
14・・・A/Dコンバータ
15・・・演算処理装置
16・・・表示装置
DESCRIPTION OF
Claims (2)
前記主走査方向と直交する副走査方向に前記カメラと前記検査対象物とを相対的に移動させる副走査手段と、
前記被検査対象物の表面の主走査領域を、前記表面より起立する法線からの角度がそれぞれ異なる照明角度で照明するように配置された複数の光源を含む照明手段と、
前記複数の光源を切り替えて少なくとも一つずつ選択的に点灯させる駆動手段と、
前記駆動手段による前記光源の選択的な点灯毎に前記カメラから出力される画像データに対し演算処理を施して前記検査対象物の表面状態を示す処理結果を出力する演算処理手段と、
前記光源のそれぞれの選択的な各点灯に対応する前記処理結果を個別に表示する表示手段とを具備し、
前記複数の光源は、前記法線からの前記照明角度が相対的に大きい第1光源と前記法線からの前記照明角度が相対的に小さい第2光源を含み、
かつ前記第1の光源及び前記第2の光源は複数であってそれぞれが異なる方向から前記検査対象物の同じ照射位置を照射するように配置されており、
前記駆動手段は、前記複数の光源のそれぞれを前記ラインセンサによる前記主走査方向の走査に同期した主走査周期の整数倍の点灯周期で選択的に点灯させ、
前記演算処理手段は前記駆動手段による前記第1光源の点灯時には形状に関する表面状態を示す処理結果を出力し、前記第2光源の点灯時には色彩に関する表面状態を示す処理結果を出力し、
前記表示手段は、前記複数の光源がそれぞれ照射したときに得られた各光源に対応する画像を1画面の異なる表示領域に同時表示する、表面検査装置。 A camera that has a line sensor that scans the surface of the inspection object in the main scanning direction at a constant cycle, and that outputs image data;
Sub-scanning means for relatively moving the camera and the inspection object in a sub-scanning direction orthogonal to the main scanning direction;
Illuminating means including a plurality of light sources arranged so as to illuminate the main scanning region of the surface of the object to be inspected at illumination angles different from each other from the normal rising from the surface;
Driving means for selectively lighting at least one by switching the plurality of light sources;
Arithmetic processing means for performing arithmetic processing on image data output from the camera for each selective lighting of the light source by the driving means and outputting a processing result indicating a surface state of the inspection object;
Display means for individually displaying the processing result corresponding to each selective lighting of the light source,
The plurality of light sources include a first light source having a relatively large illumination angle from the normal and a second light source having a relatively small illumination angle from the normal,
And there are a plurality of the first light source and the second light source, each of which is arranged to irradiate the same irradiation position of the inspection object from different directions,
The driving means selectively turns on each of the plurality of light sources at a lighting cycle that is an integral multiple of a main scanning cycle synchronized with scanning in the main scanning direction by the line sensor,
The arithmetic processing means outputs a processing result indicating a surface state relating to a shape when the first light source is turned on by the driving means, and outputs a processing result indicating a surface state relating to a color when the second light source is turned on.
The surface inspection apparatus, wherein the display means simultaneously displays an image corresponding to each light source obtained when each of the plurality of light sources is irradiated on different display areas of one screen.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006156676A JP5481012B2 (en) | 2006-06-05 | 2006-06-05 | Surface inspection device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006156676A JP5481012B2 (en) | 2006-06-05 | 2006-06-05 | Surface inspection device |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2007322402A JP2007322402A (en) | 2007-12-13 |
JP5481012B2 true JP5481012B2 (en) | 2014-04-23 |
Family
ID=38855345
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006156676A Active JP5481012B2 (en) | 2006-06-05 | 2006-06-05 | Surface inspection device |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5481012B2 (en) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106415248B (en) * | 2013-10-24 | 2020-08-18 | 飞利浦灯具控股公司 | Defect inspection system and method |
CN107278261B (en) | 2014-12-22 | 2020-08-28 | 倍耐力轮胎股份公司 | Method and apparatus for inspecting tyres in a production line |
CN107110639B (en) | 2014-12-22 | 2020-10-09 | 倍耐力轮胎股份公司 | Device for inspecting tyres on a tyre production line |
CN105116114B (en) * | 2015-09-21 | 2017-10-10 | 江苏英诺华医疗技术有限公司 | A kind of Biochemical Analyzer intelligent light source breakdown judge and the method for replacing |
JP6705301B2 (en) * | 2016-06-13 | 2020-06-03 | 富士ゼロックス株式会社 | Measuring device |
BR112020019442A2 (en) * | 2018-03-28 | 2021-01-05 | Transitions Optical, Ltd. | DIAGNOSTIC STATION FOR PRODUCTION LINE |
IT202000004786A1 (en) * | 2020-03-06 | 2021-09-06 | Geico Spa | SCANNING HEAD FOR DETECTION OF DEFECTS ON SURFACES AND DETECTION STATION WITH THIS HEAD |
CN115361494B (en) * | 2022-10-09 | 2023-03-17 | 浙江双元科技股份有限公司 | High-speed stroboscopic image processing system and method of multi-line scanning image sensor |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS59162702U (en) * | 1983-04-16 | 1984-10-31 | 本田技研工業株式会社 | Illumination device for visual inspection of objects to be painted |
JPS63120217A (en) * | 1986-11-07 | 1988-05-24 | Iseki & Co Ltd | Image sensor |
JPH087155B2 (en) * | 1990-09-11 | 1996-01-29 | 松下電器産業株式会社 | Wiring pattern inspection device |
US5172005A (en) * | 1991-02-20 | 1992-12-15 | Pressco Technology, Inc. | Engineered lighting system for tdi inspection comprising means for controlling lighting elements in accordance with specimen displacement |
JPH0792101A (en) * | 1993-09-24 | 1995-04-07 | Mazda Motor Corp | Surface inspection apparatus |
JPH07128241A (en) * | 1993-11-05 | 1995-05-19 | Konica Corp | Inspection device of electrophotographic photoreceptor defect |
JP3657694B2 (en) * | 1995-03-31 | 2005-06-08 | リンテック株式会社 | Lighting device |
JPH0997363A (en) * | 1995-10-02 | 1997-04-08 | Oki Electric Ind Co Ltd | Coin image pickup device |
JP3870494B2 (en) * | 1997-06-30 | 2007-01-17 | スズキ株式会社 | Surface defect inspection equipment |
JPH11326055A (en) * | 1998-05-08 | 1999-11-26 | Toyota Motor Corp | Color inspecting method and coating defect inspecting method |
JP2000009655A (en) * | 1998-06-25 | 2000-01-14 | Kobe Steel Ltd | Visual inspection device |
JP2000121574A (en) * | 1998-10-13 | 2000-04-28 | Nippon Steel Corp | Flaw inspection apparatus for steel plate |
JP2002131238A (en) * | 2000-10-25 | 2002-05-09 | Honda Motor Co Ltd | Visual inspection apparatus |
CN1247987C (en) * | 2001-07-09 | 2006-03-29 | 山田吉郎 | Surface inspection apparatus and method |
JP2004153462A (en) * | 2002-10-29 | 2004-05-27 | Keyence Corp | Magnifying observation apparatus, operating method of the magnifying observation apparatus, magnifying observation apparatus operating program, and computer-readable recording medium |
DE10324104B4 (en) * | 2003-05-27 | 2014-01-16 | Byk Gardner Gmbh | Apparatus and method for determining surface properties |
JP2005337957A (en) * | 2004-05-28 | 2005-12-08 | Dainippon Screen Mfg Co Ltd | Substrate inspection device |
DE102004034160A1 (en) * | 2004-07-15 | 2006-02-09 | Byk Gardner Gmbh | Device for studying optical surface properties |
JP2006046942A (en) * | 2004-07-30 | 2006-02-16 | Dainippon Screen Mfg Co Ltd | Determining device and surface data recording apparatus |
-
2006
- 2006-06-05 JP JP2006156676A patent/JP5481012B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2007322402A (en) | 2007-12-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5481012B2 (en) | Surface inspection device | |
JP4932819B2 (en) | Surface inspection apparatus and method | |
JP5806808B2 (en) | Imaging optical inspection device | |
US20100302364A1 (en) | Three dimensional shape measurement apparatus and method | |
JP2006329919A (en) | Lighting apparatus and image processing apparatus and method using the same | |
JP5068731B2 (en) | Surface flaw inspection apparatus, surface flaw inspection method and program | |
JP2001304835A (en) | Illuminating device for measuring unevenness, unevenness measuring device, illuminating device for inspecting defect, defect inspection device and illuminating method therefor | |
JP5824278B2 (en) | Image processing device | |
US8189937B2 (en) | Line-scanning confocal microscope apparatus | |
JP4932595B2 (en) | Surface flaw inspection device | |
JP2009156872A (en) | Inspection device of body to be inspected | |
JP2009287980A (en) | Visual inspection device | |
US10247678B1 (en) | Arrangement and procedure for the inspection of moving plate-shaped objects | |
TWI687672B (en) | Optical inspection system and image processing method thereof | |
JP2008180578A (en) | Cyclic pattern nonuniformity inspection device | |
JP2012063190A (en) | Surface unevenness detection apparatus and surface unevenness detection method | |
JP2004138417A (en) | Method and apparatus for inspecting scratch in steel plate | |
JP7306620B2 (en) | Surface defect inspection device and surface defect inspection method | |
JP2004132801A (en) | Surface defect inspection device for band like body | |
JP4165932B2 (en) | Light / dark inspection apparatus and light / dark inspection method | |
JP2005274325A (en) | Optical type defect inspection method for metal band | |
JP2010175283A (en) | Device for producing plane image | |
JP2004132800A (en) | Surface defect inspection device for band like body | |
JP2002022665A (en) | Method and apparatus for inspection of surface defect | |
JP2701872B2 (en) | Surface inspection system |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20090302 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110425 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110510 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110708 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120131 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120323 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20120529 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20121009 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20121205 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20130730 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20131030 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A821 Effective date: 20131114 |
|
A911 | Transfer to examiner for re-examination before appeal (zenchi) |
Free format text: JAPANESE INTERMEDIATE CODE: A911 Effective date: 20131204 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20140204 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20140217 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5481012 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |