JP6857079B2 - 画像検査装置 - Google Patents

画像検査装置 Download PDF

Info

Publication number
JP6857079B2
JP6857079B2 JP2017093359A JP2017093359A JP6857079B2 JP 6857079 B2 JP6857079 B2 JP 6857079B2 JP 2017093359 A JP2017093359 A JP 2017093359A JP 2017093359 A JP2017093359 A JP 2017093359A JP 6857079 B2 JP6857079 B2 JP 6857079B2
Authority
JP
Japan
Prior art keywords
image
inspection
lighting
unit
color
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017093359A
Other languages
English (en)
Other versions
JP2018189561A (ja
Inventor
木戸 学
学 木戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2017093359A priority Critical patent/JP6857079B2/ja
Priority to US15/925,803 priority patent/US10416086B2/en
Publication of JP2018189561A publication Critical patent/JP2018189561A/ja
Application granted granted Critical
Publication of JP6857079B2 publication Critical patent/JP6857079B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2509Color coding
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2545Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/30Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces
    • G01B11/303Measuring arrangements characterised by the use of optical techniques for measuring roughness or irregularity of surfaces using photoelectric detection means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/17Systems in which incident light is modified in accordance with the properties of the material investigated
    • G01N21/25Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands
    • G01N21/27Colour; Spectral properties, i.e. comparison of effect of material on the light at two or more different wavelengths or wavelength bands using photo-electric detection ; circuits for computing concentration
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/586Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • G01N2021/8845Multiple wavelengths of illumination or detection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/06Illumination; Optics
    • G01N2201/061Sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Description

本発明は、画像検査装置に係り、マルチスペクトルイメージングやフォトメトリックステレオを用いて検査対象物を検査する技術に関する。
検査対象物であるワークを撮像してワーク画像を取得し、ワーク画像に画像処理を施してワークの外観検査が広く実施されている。ワークの欠陥は、ワークの表面の反射率(色)の不均一として現れたり、形状の不均一(表面の凹凸)として現れたりする。特許文献1によれば印刷物などの検査対象物を撮像して色情報を取得し、高精度に色検査を実行する色検査装置が提案されている。特許文献2によればフォトメトリックステレオ(PS)の原理を使ってワーク(検査対象製品)について正確な三次元形状を計測することが提案されている。
特開平09−126890号公報 特開2007−206797号公報
一つのワークに色欠陥と形状欠陥とが存在する場合、従来は、色欠陥を検査する画像検査装置と形状欠陥を検査する画像検査装置との両方が必要になっていた。この場合、画像検査装置ごとに専用の照明とカメラを設置し、かつ、それぞれカメラのピントなどを適切に設定しなければならず、ユーザビリティーに欠けていた。そこで、本発明は、色欠陥と形状欠陥とを検査する画像検査装置の設定に関するユーザの負担を軽減することを目的とする。
本発明の第1の態様による画像検査装置は、
それぞれ異なる方向から対象物に照明光を照射する三つ以上の照明ブロックを有し、各照明ブロックにはそれぞれ波長の異なる照明光を発生する複数の発光素子が備えられている、照明部と、
前記照明光により照明された前記対象物からの反射光を受光して前記対象物の画像を生成する撮像部と、
前記照明部を制御することで前記三つ以上の照明ブロックに含まれているそれぞれ異なる波長の発光素子から照明光を順番に前記対象物に照射させるとともに、前記撮像部を制御することでそれぞれ照明光の波長が異なる、複数の波長画像を生成させるとともに、前記照明部を制御することで前記三つ以上の照明ブロックをブロック単位で順番に点灯させて前記対象物に照明光を照射させるとともに、前記撮像部を制御することでそれぞれ照明光の照射方向が異なる、複数の方向画像を生成させる制御部と、
前記複数の波長画像に基づいて各画素が前記対象物の色に応じた値を有する色検査画像を生成するとともに、前記複数の方向画像に基づいて前記対象物の凹凸に応じた値を有する形状検査画像を生成する画像生成部と、
前記画像生成部により生成された色検査画像を用いて前記対象物の色検査を実行するとともに、前記画像生成部により生成された形状検査画像を用いて前記対象物の形状検査を実行する検査部と
を有することを特徴とする。
本発明によれば、色検査画像と形状検査画像とを生成するために照明部と撮像部とが共用されるため、ユーザの負担が軽減される。
画像検査装置を示す図 照明装置を示す図 照明装置を構成する部品を示す図 照明装置の電気的な構成を示す図 画像処理システムの機能を示す図 マルチスペクトルイメージングにおけるカラー濃淡変換の原理を示す図 フォトメトリックステレオの原理を説明する図 フォトメトリックステレオの原理を説明する図 フォトメトリックステレオの原理を説明する図 画像検査に関する設定手順を示すフローチャート 波長を選択するためのユーザインタフェースを示す図 波長を選択するためのユーザインタフェースを示す図 画像検査方法を示すフローチャート 色検査画像の作成手順を示す図 形状検査画像の作成手順を示す図 移動補正が必要な理由を説明する図 移動補正の概念を説明する図 移動補正を含む画像検査方法を示すフローチャート 検査ツールを設定するためのユーザインタフェースを示す図 検査ツールを設定するためのユーザインタフェースを示す図 照明装置の点灯パターンを示す図 画像処理システムの機能を示す図 画像処理システムの機能を示す図 画像処理システムの機能を示す図 照明装置を示す図
以下に本発明の一実施形態を示す。以下で説明される個別の実施形態は、本発明の上位概念、中位概念および下位概念など種々の概念を理解するために役立つであろう。また、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。
図1は外観検査システム(画像検査装置8)の一例を示す図である。ライン1は検査対象物であるワーク2を搬送する搬送ベルトなどである。照明装置3は互いに異なる波長の検査光(照明光)を発生する複数の発光素子を有し、各波長の照明光を個別に対象物に照射する照明部の一例である。なお、複数の方向から同時または順番に照明光をワーク2に対して照射するために、複数の同一波長の発光素子が設けられてもよい。カメラ4は照明光により照明された検査対象物からの反射光を受光して輝度画像(分光画像)を生成する撮像手段の一例である。画像処理装置5は、各波長について設定された照明強度で発光素子を順番に点灯させることで画像検査の対象となる検査対象物を照明し、撮像部により取得された複数の検査画像を用いて画像検査を実行する検査部を有する。表示部7は検査に関連する制御パラメータを設定するためのユーザインタフェースや検査画像などを表示する表示装置である。入力部6は、コンソール、ポインティングデバイス、キーボードなどであり、制御パラメータを設定するために使用される。
<照明装置の構成>
図2(A)は照明装置3の斜視図である。図2(B)は照明装置3の上面図である。図2(C)は照明装置3の底面図である。図2(D)は照明装置3の側面図である。照明装置3の筐体は上ケース21と下ケース22を有している。下ケース22の下部には複数の光源(LEDなどの発光素子)のそれぞれが出力する光を拡散させる光拡散部材23が配置されている。図2(A)や図2(C)が示すように上ケース21や下ケース22と同様に光拡散部材23も円環状を成している。図2(B)や図2(D)が示すように上ケース21の上面にはコネクタ24が設けられている。コネクタ24には照明装置3に格納されている照明制御基板と画像処理装置5とが通信するためのケーブルが接続される。照明制御基板に実装される一部の機能は照明装置3の外部に照明コントローラとして設けられていてもよい。つまり、照明装置3と画像処理装置5との間には照明コントローラが介在してもよい。
図3(A)は照明装置3に格納されている制御基板31とLED基板32とを示す側面図である。制御基板31は点灯制御部が実装された第二基板の一例である。LED基板32は複数の光源が実装された第一基板の一例である。図3(B)はLED基板32の上面図である。図3(C)は照明装置3のうちLED33の付近を拡大した断面図である。図3(D)はLED基板32の底面図である。図3(E)はLED基板32のうちLED33の付近を拡大した側面図である。
制御基板31には照明制御基板やコネクタ24が配置されている。光源群を構成するLEDなどの発光素子はLED基板32に搭載されている。図3(B)が示すように、本実施例では四方向から照明光を照射するために四つのLED基板32が設けられている。つまり、一つのLED基板32が一つの照明ブロックを形成している。四方向から照明光を照射可能とすることでフォトメトリックステレオ用の画像を取得できるようになる。つまり、照明装置3はマルチスペクトルイメージング(MSI)だけでなく、フォトメトリックステレオのために利用されてもよい。一つのLED基板32には四つのLED33が配置されている場合、光源群は16個の発光素子により構成される。ただし、より多数の発光素子が設けられてもよい。たとえば、一つのLED基板32には8つのLED33が配置されており、8つのLED33が発光する光の波長はいずれも異なっていてもよい。図3(C)、図3(D)および図3(E)が示すように、複数のLED33のうち隣り合った二つのLED33の間には遮光部材35が配置されている。多数のLED33を密接に配置すると、隣り合った二つのLED33からそれぞれ照射される照明光が光拡散部材23の同一の領域を通過することがある。この場合、点灯パターンに応じて一方のLED33を非点灯とし、かつ、他方のLED33を点灯した場合と、他方のLED33を非点灯とし、かつ、一方のLED33を点灯した場合とで、ワーク2の表面には同一の照明方向から同一の光量で照明光が照射されてしまう。これでは高い精度で検査画像を生成することが難しくなる。そこで、隣り合った二つのLED33の間に遮光部材35を配置することで、隣り合った二つのLED33について光量の均一性と光源の独立性とのバランスを取っている。図3(C)が示すようにLED33の光の射出方向A1と、主な照明方向A2とは一致していない。そこで、反射鏡34を配置することでLED33から射出される光を光拡散部材23の方向へ偏向している。これによりLED33が発光した光を効率よくワーク2へ照射できるようになろう。この例では射出方向A1と反射鏡34の反射方向とが概ね直交しているが、これは光拡散部材23の断面形状が円弧を成しており(図3(C))、円弧に関する角度(中心角)が約90度になっているからである。このように中心角を大きくすることで、照明装置3をワーク2に対して遠ざけたり、近づけたりしてもワーク2の表面に対してほぼ均一な平行光を照射しやすくなる。
図25は照明装置3の模式平面図である。照明装置3のLED基板32の上には互いに異なる波長の光を発する複数のLED33が環状に配置されている。制御基板31に設けられた照明制御基板(図4)は同一波長の複数のLED33を同時に点灯させる。同一波長の複数のLED33はLED基板32上にそれぞれ等間隔に配置されている。各波長の複数のLED33が同時に点灯することで、ワーク2の斜め上方から略均一な照明光がワーク2に照射される。これにより、カメラ4は照射方向に依存しない各波長に対応したワーク2の全方向照明画像を撮影することができる。
照明装置3はそれぞれ複数のLED33を有する4つの照明ブロックTB1〜TB4から構成されている。各照明ブロックには互いに異なる波長の光を発する複数のLED33が配置される。各照明ブロックには、照明装置3が有する全ての波長種別のLED33が含まれている。各照明ブロックには光量フィードバック制御用の受光素子PD1〜PD4が配置されている。照明制御基板は受光素子PD1〜PD4が受光した光の受光量に基づいて、各照明ブロックの光量が予め設定された光量に維持されるように、各LED33に流す電流値を制御する。
各波長のLED33は各照明ブロック内において同数かつ等間隔に配置される。図25が示す例では、各照明ブロックには8波長のLED33がそれぞれ1つずつ等間隔に配置されている。各照明ブロックが同一波長のLED33を2つ以上備えてもよい。この場合、波長数の倍数、例えば16個(8波長×2個)、24個(8波長×3個)、あるいは32個(8波長×4個)のLED33が各照明ブロックに設けられる。同一波長の複数のLED33は各照明ブロック内において等間隔に配置される。上述したLED33の配置は全ての照明ブロックで共通である。複数の照明ブロックを環状に配置することでリング型の照明が構成される。つまり、同一波長のLED33が環状に等間隔に配列される。
照明制御基板は、照明装置3を波長単位で個別に点灯制御することができる。単一波長、例えば赤色のLED33が点灯される場合、照明制御基板は、全ての照明ブロックに含まれる赤色のLED33を同時に点灯させる。照明制御基板は各波長のLED33を順次に点灯させることにより、ワーク2に対して異なる波長の光を順次に照射することができる。また、照明制御基板は、各照明ブロックを個別に点灯制御することもできる。例えば、照明制御基板は照明ブロックTB1に含まれるLED33を点灯させ、照明ブロックTB2〜TB4に含まれるLED33を消灯させてもよい。また、照明制御基板は、照明ブロックTB1からTB4を順次に点灯させることもできる(TB1−>TB2−>TB3−>TB4)。照明制御基板が点灯させる照明ブロックを切り替えることにより、それぞれ異なる方向から照明されたワーク2についての複数の輝度画像が取得され、検査に用いられてもよい。更に、照明制御基板は、波長単位および照明ブロック単位でLED33を個別に点灯制御することもできる。照明制御基板は、例えば、照明ブロックTB1に含まれる赤色のLED33のみを点灯させることができる。
このように、照明装置3は各波長単位でLED33を点灯制御することで、異なる波長の光をワーク2に照射する。また、各照明ブロック単位でLED33を点灯制御することで、異なる照射方向から光をワーク2に照射することができる。
制御基板31には単色のLED33だけではなく、複数の波長の光が混じりあった白色光を出射する白色LED33を配置してもよい。照明制御基板は白色LED33のみを選択的に点灯させることで、通常の白色リング照明と同じように本実施の形態における照明装置3を機能させてもよい。更に、照明制御基板は全ての波長のLED33を同時に点灯させて、ワーク2に対して実質的に白色光を照射することもできる。
本明細書において、照明制御基板が単色波長の照明光をワーク2に照射して得られた画像は分光画像と呼ばれる。また、全ての波長のLED33を点灯させるか、白色LED33を点灯させて得られた画像は分光画像とは区別され、白色画像と呼ばれる。分光画像と白色画像は輝度画像と総称されうる。輝度画像の各画素はカメラ4から得られた輝度値を示す。
各照明ブロックにはそれぞれ照明制御基板が設けられている。各照明ブロックが同一波長の複数のLED33を含む場合、各照明制御基板には同一波長のLED33が直列に接続され、異なる波長のLED33が並列に接続されている。
以上の図面によれば、複数のLED33が、ある円周上に並べられているが、半径の異なる別の円周上にも複数のLED33が配置されていてもよい。これにより、波長ごとのLED33の数が増えるため、照明光量を増加させることが可能となる。また、第一の円周上にはマルチスペクトルイメージング用のLED33が配置され、第二の円周上には白色LEDが配置されていてもよい。第一の円周の半径と第二の円周の半径とは異なっている。
なお、照明装置3において、同一の点灯色の照明光を出力する複数の発光素子は等間隔で配置されている。これにより、複数の同一の点灯色の照明光が均一にワーク2に照射されるようになる。これは、マルチスペクトルイメージング用の分光画像を精度よく生成する上で役に立つ。また、各照明ブロックにはそれぞれ点灯色の異なる照明光を発生する複数の発光素子が等間隔で配置されている。このように一つの照明ブロック内に配置される複数の発光素子も等間隔で配置されてもよい。これにより、複数の照明ブロックから照射される照明光がさらに均一化される。また、各照明ブロックが備える複数の発光素子の数と、複数の発光素子の点灯色の種類とは一致している。つまり、四つのLED基板32は同一部品であり、部品の管理効率と生産効率が向上する。
<照明装置の回路構成>
図4は照明装置3の回路構成の一例を示している。この例では光源群を構成する4つの照明ブロックのうち1つの照明ブロックを示しており、各照明ブロックは同一波長のLEDが4つ(LED33a〜LED33d)設けられている。4つのLED33a〜LED33dは直列に接続されている。異なる波長のLEDが同様に直列接続されたものが、図4の回路構成と並列に接続されているが、図4からは省略してある。電圧が可変の可変電源41は照明制御基板40によって指定される電圧値(例:2V〜20V)の電圧を生成して出力する。可変定電流源42は、照明制御基板40によって指定される電流値(例:0A〜1A)となるように照明ブロックに流れる電流を調整する。このような電流制御方式を採用することでリニアリティの高い調光を実現しやすくなる。また、可変定電流源42は、可変定電流源42に印加されている電圧の値を検出して照明制御基板40にフィードバックし、過電圧から可変定電流源42を保護している。LED33a〜LED33dのそれぞれには並列にスイッチ43a〜スイッチ43dが接続されている。照明制御基板40の点灯制御部45はこれらのスイッチ43a〜スイッチ43dを個別に開閉させることで、LED33a〜LED33dのそれぞれを個別に点灯と非点灯とを切り替えることができる。このように、LED33a〜LED33dのそれぞれに並列にスイッチ43a〜スイッチ43dを接続することで、LED33a〜LED33dのいずれか一つを点灯させたり、すべてを点灯させたりするといった個別点灯が可能となる。これは様々な点灯パターンを実現するのに役立っている。なお、点灯制御部45は可変定電流源42とグランドとの間に挿入されたメインスイッチ43eのオン/オフを切り替えることで一つの照明ブロック単位での点灯制御を実行する。通信部44は点灯パターンを指示する制御信号や点灯の開始を指示するトリガー信号を画像処理装置5の照明制御部から受信し、点灯制御部45に渡す。点灯制御部45は、制御信号に対応する点灯パターンデータ47を記憶部46から読み出し、点灯パターンデータ47に従ってスイッチ43a〜スイッチ43dを制御する。なお、一つの照明ブロックが8つのLED33により構成される場合、8個のスイッチ43が設けられ、8個のスイッチ43は点灯制御部45によって制御される。
<機能ブロック>
図5は検査装置のブロック図である。この例では照明装置3、カメラ4および画像処理装置5がそれぞれ個別の筐体に収容されているが、これは一例に過ぎず、適宜に一体化されてもよい。照明装置3は、マルチスペクトルイメージングを実現する照明装置であるが、フォトメトリックステレオ法に従って検査対象物を照明する照明手段として利用されてもよい。照明装置3は光源群501とこれを制御する照明制御基板40を備えている。すでに図3に示したように、複数の発光素子で一つの照明ブロックが構成され、さらに複数の照明ブロックによって光源群501が構成されていてもよい。照明ブロックの数は一般的には四つであるが、三つ以上であればよい。これは3方向以上の照明方向からワーク2に照明光を照射できれば、フォトメトリックステレオ法により検査画像を生成できるからである。各照明ブロックにはそれぞれ波長が異なる照明光を出力する複数の発光素子(LED33)が設けられている。複数の発光素子には白色LEDが含まれていてもよい。白色LEDはマルチスペクトルイメージングには使用されず、他の検査画像を作成したり、ワーク2の移動補正用の画像を作成するために使用されたりする。図1や図3に示したように照明装置3の外形はリング状をしていてもよい。また、照明装置3は、それぞれ分離した複数の照明ユニットにより構成されていてもよい。照明制御基板40は、画像処理装置5から受信した制御コマンドに応じて光源群501の点灯タイミングや照明パターン(点灯パターン)を制御する。マルチスペクトルイメージングで分光画像を取得するには択一的に選択された波長の照明光をワーク2に照射するが、マルチスペクトルイメージング以外の手法が採用される場合は、複数の点灯色(波長)の照明光が同時に照射されてもよい。照明制御基板40は照明装置3に内蔵されているものとして説明するが、カメラ4に内蔵されていてもよいし、画像処理装置5に内蔵されていてもよいし、これらからは独立した筐体に収容されていてもよい。
照明装置3には記憶装置502が内蔵されており、ユーザにより設定された光源群501の点灯タイミングや照明パターンが記憶されている。照明制御基板40は、画像処理装置5からトリガー信号を受け取り、記憶装置502に記憶されている内容に応じて、光源群501を制御することができる。このような構成により、画像処理装置5は、トリガー信号を送信するだけで照明装置3を制御することができるので、画像処理装置5と照明装置3を接続する信号線の数を少なくすることができ、ケーブルの取り回しがよくなる。
より具体的には、記憶装置502は、各波長の光源群501の点灯タイミング情報(点灯時間、点灯間隔)、照明強度情報、照明パターン情報(点灯させる波長の識別情報)、照明ブロック情報(点灯させるブロックの識別情報)を含む照明設定データを記憶している。この照明設定データはいずれも、照明設定用のユーザインタフェースを表示部7に表示し、ユーザによる調整を照明設定手段が受け付ける。
点灯タイミング情報とは、各波長に対応する光源群を周期的に点灯させる際の各波長の点灯タイミングを規定する情報であり、各波長の光源群を点灯させる点灯時間(パルス幅)と、点灯させる波長を切り替える際に、前の波長の光源群を消灯させてから次の波長の光源群を点灯させるまでの点灯間隔(インターバル)とからなる。例えば、ユーザが赤色と緑色の光を発する光源群を用いて検査を行う場合、赤色波長の光源群の点灯時間、緑色波長の光源群の点灯時間と、両点灯時間の間隔をユーザが設定できる。点灯時間の設定は、ユーザが各波長の点灯時間を個別に設定できるようにしてもよいし、全ての波長において共通としてもよい。点灯間隔の設定は、ユーザが直接点灯間隔を指定するようにしてもよいし、検査に用いる全ての波長の光源群を順次点灯させる1つの点灯サイクルの長さと、各波長の点灯時間とから、点灯間隔が自動的に算出されるようにしてもよい。
照明強度情報とは、各波長の照明強度を示す情報である。本実施の形態では、各波長の照明強度を個別に設定することができるため、各波長で最適な照明強度でワークに光を照射することができる。
照明パターン情報とは、点灯させる波長の種別を示す識別情報であり、各点灯タイミングにおいて、どの波長に対応した光源群を点灯させるべきかを決定する情報である。例えば、ユーザが赤色と緑色と紫色の3色を用いて検査を行う設定を行っている場合、記憶装置502は、これらの3波長を示す識別情報を各点灯タイミング(点灯パルス)の情報と関連付けて記憶する。記憶装置502は、例えば、最初の点灯パルスでは赤色の光源群を点灯させ、次の点灯パルスでは緑色の光源群を点灯させ、最後の点灯パルスでは紫色の光源群が点灯されるように、照明パターン情報を点灯タイミング情報と関連付けて記憶している。照明パターン情報には、点灯波長の順序を示す情報が含まれていてもよい。上記の例では、赤、緑、紫の順序がユーザにより設定されてもよいし、予め設定可能な波長の点灯順序は固定して決められていてもよい。画像処理装置5の記憶装置520は照明パターン情報を照明装置3と共有する。上記の例では、最初に取得した画像を赤色波長で得られた画像として処理し、次に取得した画像を緑色波長で得られた画像として処理し、最後に取得した画像を紫色波長で得られた画像として処理する。
照明ブロック情報とは、点灯させる照明ブロックの識別情報である。本実施の形態では、波長単位での点灯を個別に制御できることに加えて、照明ブロック単位での点灯を個別に制御できる。ユーザは、点灯させる照明ブロックを任意に選択することにより、偏斜照明による検査が実行できる。また全ての照明ブロックを順次に点灯させて、異なる照明方向から光を照明して得られた複数の輝度画像に基づいて、フォトメトリックステレオの原理を用いた形状画像を生成することもできる。ユーザが点灯させる照明ブロックの順序を設定することもできる。各点灯タイミングにおいて点灯させる照明ブロックを任意に指定できるようにしてもよいし、点灯の回転方向(時計回り、または反時計回り)が固定されており、最初に点灯する照明ブロックをユーザが指定できるようにしてもよい。
上記の照明設定手段による照明設定データは、照明装置3に接続されたPC(パーソナルコンピュータ)などの入力部から設定されてもよいし、照明装置3に接続された画像処理装置5から設定されてもよい。また、画像処理装置5とは別体に設けられた照明用のコントローラを介して照明装置3が設定を受け付けてもよい。また、カメラ4、照明装置3、画像処理装置5が一体に設けられた検査装置の場合は、入力部6を介して検査装置に直接照明の設定を行うことも可能である。
上記の例では、記憶装置502は照明装置3に設けられているが、画像処理装置5に設けられていてもよい。また照明装置3とカメラ4が一体に設けられている場合は、カメラ4に設けられていてもよい。照明装置3、カメラ4、画像処理装置5が一つのハウジングに一体に設けられた検査装置の場合は、ハウジング内に記憶装置502が設けられる。
カメラ4は照明装置3により照明された検査対象物からの反射光を受光して輝度画像を生成する撮像手段の一例であり、画像処理装置5からの制御コマンドに応じて撮像処理を実行する。カメラ4はワーク2の輝度画像を作成して画像処理装置5に転送してもよいし、カメラ4の撮像素子から得られる輝度信号を画像処理装置5に転送し、画像処理装置5が輝度画像を生成してもよい。輝度信号は輝度画像の元になる信号であるため、広義には輝度信号も輝度画像である。また、カメラ4は、照明装置3が出力する各波長の照明光ごとに対象物からの反射光を受光して対象物の画像(分光画像)を生成する撮像部として機能する。
画像処理装置5は、コンピュータの一種であり、CPUやASICなどのプロセッサ510と、RAM、ROM、可搬記憶媒体などの記憶装置520と、ASICなどの画像処理部530と、ネットワークインタフェースなどの通信部550とを有している。プロセッサ510は検査ツールの設定や、制御パラメータの調整、検査画像の生成などを担当する。とりわけ、MSI処理部511は、マルチスペクトルイメージング(MSI)に従って、カメラ4により取得された複数の輝度画像(分光画像)からワーク2のグレー画像を作成したり、グレー画像を画像処理(例:二値化など)して検査画像を作成したりする。グレー画像自体が検査画像であってもよい。照明制御部512は、照明制御基板40に対して制御コマンドを送信することで点灯パターンや照明切り替えタイミングなどを制御する。すなわち、照明制御部512は照明装置3に照明開始のトリガー信号を送信する。撮像制御部513は、照明制御部512から発せられるトリガー信号と同期した撮像開始のためのトリガー信号をカメラ4に送信し、カメラ4を制御する。
UI管理部514は、検査ツールを設定するためのユーザインタフェース(UI)や検査画像を生成するために必要となるパラメータを設定するためのUIなどを表示部7に表示し、入力部6から入力された情報従って検査ツールやパラメータを設定する。検査ツールには、ワーク2が備える特定の特徴(例:ピン)の長さを計測するツールや特徴の面積を計測するツールや、ある特徴から別の特徴までの距離(例:ピン間隔)を計測するツールや、特定の特徴の数を計測するツールや、特定の特徴に傷が有るか無いかを検査するツールなどが含まれてもよい。とりわけ、UI管理部514はマルチスペクトルイメージングや移動補正に関する制御パラメータを設定するためのUIを表示部7に表示する。画像選択部515はUIを通じてユーザにより選択された画像の画像データを記憶装置520から読み出してUI内の画像表示領域に表示する。領域指定部516は表示された画像に対して検査ツールの検査領域IW、移動補正や位置補正のための特徴パターンを登録するためのパターン領域PW、サーチ領域SWなどの指定をユーザから受け付ける。また、領域指定部516は、これらの指定領域の形状(例:矩形、円、楕円、任意形状)の選択を受け付けて指定領域を示す枠線の形状をUIに反映させたりする。点灯色設定部517は、ユーザの指示に従って移動補正用の照明光の点灯色を設定する。UI管理部514はユーザにより設定されたこれらの制御パラメータを設定情報523に保存する。このようにUI管理部514は照明条件や撮像条件を設定する設定部として機能したり、検査ツールを設定する設定部として機能したりする。
画像処理部530はマルチスペクトルイメージングにより取得された検査画像に対して検査ツールを適用して各種の計測を実行する検査部531などを有している。サーチ部532は画像検査の前に設定された特徴または画像検査中に動的に設定された特徴を、検査画像に配置されたサーチ領域SW内でサーチし、見つかった特徴の位置を求める。検査部531は、見つかった特徴の位置に応じて検査領域(計測領域)の位置を補正する。移動補正部533は、移動補正用の画像から見つかった特徴の位置の変化量に基づきマルチスペクトルイメージング用の複数の分光画像の座標系またはワーク2の座標(位置)を補正する。この補正作業は、補正のための変換式(補正式)を作成する工程と、変換式を用いて座標を変換する工程とに分かれていてもよい。これらの二つの工程はいずれも移動補正部533により実行されてもよいし、前者が移動補正部533により実行され、後者がMSI処理部511により実行されてもよいし、両者ともがMSI処理部511により実行されてもよい。なお、画像処理部530の機能はプロセッサ510に実装されてもよい。あるいは、プロセッサ510の機能が画像処理部530に実装されてもよい。また、プロセッサ510とプロセッサ510とが協働して単一または複数の機能を実現してもよい。たとえば、移動補正に関する一部の演算を画像処理部530が担当し、残りの演算をプロセッサ510が担当してもよい。なお、移動補正部533は、移動補正用の画像から見つかった特徴の位置の変化量に基づきフォトメトリックステレオ用の複数の輝度画像(方向画像)の座標系またはワーク2の座標(位置)を補正してもよい。
判定部540は検査画像を用いてワーク2の良否を判定する判定手段として機能する。たとえば、判定部540は画像処理部530において検査画像を用いて実行された検査の結果を受け取って検査結果が良品条件(公差など)を満たしているかどうかを判定する。
記憶装置520は、カメラ4によって取得された分光画像のデータである分光画像データ521、MSI処理部511により生成されたグレー画像のデータであるグレー画像データ522や各種の制御パラメータを保持する設定情報523を記憶する。また、記憶装置520は各種の設定データやユーザインタフェースを生成するためのプログラムコードなども記憶している。記憶装置520はグレー画像から生成された検査画像なども記憶して保持していてもよい。記憶装置520は、カメラ4によって取得された方向画像(輝度画像)のデータである輝度画像データ524や、輝度画像から作成された形状検査画像である形状画像データ525を記憶してもよい。
図22ないし図24は、本発明の画像処理装置に係る他の構成例を示す図である。図22は照明装置3とカメラ4が一体化され、カメラ4に照明装置3を制御するための照明制御基板40が設けられている例を示す図である。この構成では照明装置3とカメラ4が一体に設けられているため、照明装置3とカメラ4を設置する際に、位置合わせをする必要がない。また、照明装置3側には光源群501を制御するための照明制御基板40や記憶装置502は不要となり、これらを有さない汎用的な照明装置3も利用することができる。ユーザはカメラ4に接続されている照明装置3を取り外し、別の種類の照明装置に交換することができる。例えば、本発明におけるマルチスペクトルイメージングに用いる照明装置3に変えて、白色光のみを照射するリング照明など他の種類の照明装置を適宜に選択できる。カメラ4は接続された照明装置3の種類を認識し、設定ユーザインタフェースに反映することが好ましい。これにより、ユーザは接続されている照明装置3に設定が可能な項目に対応したユーザインタフェース上で、照明の設定を行うことができる。認識の方法としては、照明装置3が照明種別情報を記憶しており、カメラ4がその情報を参照する方法などが考えられる。また、画像処理装置5が有する照明制御部512と撮像制御部513を、カメラ4の内部に設ける構成とし、撮像・照明系の制御を画像処理装置5とは独立して実行させる構成としてもよい。
図23は画像処理装置5の一部の機能を、カメラ4側に設けた構成例を示している。カメラ4は分光画像データ521、グレー画像データ522、設定情報523、輝度画像データ524、形状画像データ525を記憶する記憶装置502を備え、カメラ4内部で分光画像データ521からグレー画像データ522を生成する処理をMSI処理部511が実行する。PS処理部560は輝度画像データ524から形状画像データ525を作成する。照明装置3はカメラ4の照明制御部512が制御する。検査設定時に、カメラ4は画像処理装置5に各波長で撮像された分光画像データ521と、MSI処理部511により生成されたグレー画像データ522を画像処理装置5に送信する。設定時には、各波長の照明強度や、各波長の分光画像データ521が検査に必要か否かをユーザが確認するために、画像処理装置5はカメラ4から分光画像データ521を取得し、表示部7に表示する。一方、検査運用時には、カメラ4から画像処理装置5への分光画像データ521の送信を行わず、検査対象であるグレー画像データ522のみを画像処理装置5に送信するようにしてもよい。このように、カメラ4に画像処理装置5の一部の機能を負担させることにより、カメラ4と画像処理装置5間の通信負荷が低減され、分散処理により処理が高速化する。なお、グレー画像データ522や形状画像データ525を作成する際に移動補正が適用される場合、サーチ部532や移動補正部533はカメラ4にも設けられていてもよい。
図24は画像処理装置5の全ての機能をカメラ4に内蔵した構成例である。ユーザはカメラ4と照明装置3のみを設置するだけで良いため、設置時の手間がかからない。たとえば、カメラ4の大型化が許容され、高度な画像演算処理が不要な場合に、この構成は有利であろう。
<マルチスペクトルイメージング>
マルチスペクトルイメージングでは点灯色(波長)の異なる照明光が一つずつ順番にワーク2に照射され、各波長ごとの画像が取得される。たとえば、8種類の波長の照明光が照射される場合、8個の画像(分光画像)が取得される。なお、四つの照明ブロックが存在する場合、四つの照明ブロックは同時に点灯する。つまり、同一の波長の四つのLED33が同時に点灯するため、四つの方向から同一波長の照明光がワーク2に照射される。
8種類の波長は、たとえば、紫外波長から近赤外波長までの8種類の狭帯域波長である。狭帯域波長とは、白色LEDが発光する光の波長(広帯域波長)の幅と比較して狭い波長をいう。たとえば、青色LEDが発光する光の波長の幅は、白色LEDが発光する光の波長幅よりもずっと狭いため、青色LEDが発光する光の波長は狭帯域波長である。なお、画像検査の中には8個の分光画像のすべてを必要としない画像検査もありうる。この場合、必要な波長の照明光だけがワーク2に照射される。
一般に、8個の画像がそのまま画像検査に利用されることは少なく、8個の画像から一個のグレー画像が作成され(カラー濃淡変換)、このグレー画像(カラー濃淡画像)が画像検査に利用される。
カラー濃淡変換はカラーグレー変換と呼ばれることもある。たとえば、カラー濃淡画像に対して二値化処理が実行されたり、エッジ検出処理が実行されたり、ブロブ処理が実行されたりして、ワーク2における特徴(例:ピン)の位置や寸法(長さや面積)、色がそれぞれ公差の範囲内に収まっているかが検査される。
図6を用いてカラー濃淡変換の一例を説明する。検査対象物であるワーク2のグレー画像を作成するには、良品(モデル)の登録色が必要となる。グレー画像は、登録色の色情報を基準に8個の分光画像を変換することで作成されるからである。
まず、設定モードにおいて、良品から取得された8個の分光画像においてユーザが指定した画像領域(指定領域)から登録色の色情報が抽出される。
たとえば、良品がインスタント食品(例:ラーメン)であり、ある具材(例:海老)の数を画像検査により計数する場合、ユーザは、良品の画像を表示し、良品の画像おいて当該具材が含まれる矩形の指定領域を指定し、指定領域に含まれる画素から登録色の色情報が抽出される。登録色の色情報は、平均画素行列、分散共分散行列および指定領域に含まれる画素の数を含む。なお、色情報は、いわゆるスポイトツールにより抽出されてもよい。スポイトツールのUIは領域指定部516に実装されてもよい。
次に、検査モードにおいて、検査対象物であるワーク2について8個の分光画像が取得される。各分光画像に含まれるすべての画素について登録色に対する距離d(x)が求められる(xは8枚の分光画像の各画素値を要素とした8次元ベクトルである)。さらに、距離d(x)に予め定められたゲインgを乗算して積を求め、必要に応じてオフセットaを加え、各画素がとりうる最大階調Gmaxから積を減算することで得られる差Gが注目画素xのグレー階調となる。これは、G = Gmax − (g・d(x) + a)と表記される。
なお、複数の登録色が存在する場合は、各登録色を基準として複数のグレー画像が作成されてもよいし、単一のグレー画像が作成されてもよい。
<フォトメトリクスステレオの原理>
一般的なフォトメトリックステレオ法では、図7に示すように、ワーク2に対して4方向から照明光L1〜L4を順番に切り替えながら照射し、4枚の輝度画像を生成する。4枚の輝度画像はそれぞれ照明方向が異なっているため方向画像と呼ばれてもよい。各輝度画像を撮影する際に使用される照明光の方向は一方向だけである。なお、輝度画像は複数の画素により構成されており、4枚の輝度画像において座標が一致する四つの画素は同一のワーク表面に対応している。四つの画素の画素値(輝度値)I1、I2、I3、I4と、法線ベクトルnとの間には図7に示した式1が成り立つ。
ここでρは反射率である。Lは各方向からの照明光の光量であり、既知である。ここでは4方向とも光量は同一である。Sは照明方向行列であり、既知である。この数式を解くことで各座標(ワーク表面)ごとの反射率ρと法線ベクトルnが求められる。その結果、反射率画像(アルベド画像)と傾き画像とが得られる。
本実施形態では、さらに、傾き画像から高さ成分を抽出し、ワーク2の形状を示す形状画像を検査画像として作成する。検査画像は、図7に示した式2である積み上げ演算式により求められる。ここで、znはn回目の積み上げ結果であり、ワーク表面の形状を示している。x、yは画素の座標を示している。nは何回目の繰り返し計算であるかを示している。pは水平方向の傾き成分を示し、qは垂直方向の傾き成分を示している。p、qは法線ベクトルnから求められる。wは重みである。また、1回目の積み上げ演算では1/1の傾き画像を用い、2回目の積み上げには1/2の縮小傾き画像を用い、3回目の積み上げには1/4の縮小傾き画像を用いる。縮小画像を作成する際にはガウシアン処理を施してから縮小処理が施されてもよい。
図8はフォトメトリックステレオ法による検査画像の作成工程を示す図である。輝度画像801〜804はそれぞれ照明方向の異なる照明光によりワーク2を照明して取得された輝度画像である。なお、輝度画像800は4方向から同時に照明して得られた輝度画像である。それぞれ照明方向の異なる照明光によりワーク2を照明して取得された複数の輝度画像から演算によりワーク表面の法線ベクトルが求められる。傾き画像811は、輝度画像801〜804から求められた法線ベクトルのX方向の傾き成分を画素値とした傾き画像である。傾き画像812は、輝度画像801〜804から求められた法線ベクトルのY方向の傾き成分を画素値とした傾き画像である。反射率画像810は、輝度画像801〜804から求められた法線ベクトルから、ワーク表面の傾きによる輝度値の変動分を除去し、ワーク表面の反射率を画像にした反射率画像である。検査画像821〜823は傾き画像811、812から求められたそれぞれ特徴サイズの異なる画像(表面形状画像)である。なお、検査画像821〜823も傾き成分に基づく画素により構成されているため、傾き画像の一種である。このような手順でワーク2の検査画像が生成される。なお、検査ツールに依存して全方向照明画像である輝度画像800や反射率画像810が検査画像として採用されてもよい。全方向照明画像とは、照明装置3が備える複数の光源をすべて点灯させて取得された輝度画像のことである。
<テクスチャ情報>
テクスチャ情報とはワーク2の表面の反射率ρに基づく情報である。式1によって反射率ρが求められる、つまり4枚の輝度画像から1枚の反射率画像が得られる。反射率画像はワーク表面の反射率ρに比例した画素値を有する画像である。図9に示すように、4枚の輝度画像901〜904から法線ベクトルを算出し、算出された法線ベクトルと複数の輝度画像の各々対応する画素の輝度値に基づいて各画素の反射率に比例した画素値を算出することで反射率画像であるテクスチャ画像911、912が求められる。この合成方法としては4枚の輝度画像の画素平均によってテクスチャ画像を求める方法や、4枚の輝度画像からハレーションを除去してから画素平均によってテクスチャ画像を求める方法などがある。テクスチャ画像911は画像平均によって求められたものであり、テクスチャ画像912はハレーション除去によって求められたものの一例である。4枚の輝度画像において座標が一致する画素が四つ存在する。四つの画素のうち画素値が1番大きい画素を除外したり、画素値の大きい順に1番目からN番目(Nは3以下の自然数)までの画素を除外したりすることでハレーションを除去することが可能である。ハレーションは高い輝度として画像に表れるからである。テクスチャ画像911、912はともに反射率に基づく画素により構成されているため、反射率画像(アルベド画像)の一種である。
<設定モード>
図10は画像検査装置8の設定手順を示している。S1001でユーザはカメラ4の固定位置を調整することで、カメラ4からワーク2までの距離を調整する。UI管理部514はカメラ4により取得されたリアルタイム画像を表示部7に表示することで、ユーザを補助してもよい。S1002でユーザはカメラ4のピントや絞りを調整する。撮像制御部513はカメラ4のオートフォーカス機能を利用してピント調整を実行してもよい。UI管理部514はユーザにより指定された絞り値を受け付けて撮像制御部513に設定してもよい。なお、この段階での絞り値は仮の値であり、最終的な絞り値は露光時間を調整する際に決定される。S1003でユーザはマルチスペクトルイメージング用の点灯色を選択する。UI管理部514(点灯色設定部517)は、選択可能な点灯色の候補を表示部7に表示し、ユーザによる点灯色の選択を受け付けてもよい。たとえば、UVからIR2までの8つの点灯色からいくつかの点灯色が選択されうる。UVは紫外線点灯色の照明光により取得された分光画像を示している。Bは青点灯色の照明光により取得された分光画像を示している。Gは緑点灯色の照明光により取得された分光画像を示している。AMはアンバー点灯色の照明光により取得された分光画像を示している。ORはオレンジ点灯色の照明光により取得された分光画像を示している。Rは赤点灯色の照明光により取得された分光画像を示している。IR1、IR2はそれぞれ赤外点灯色の照明光により取得された分光画像を示している。ただし、IR1の点灯色はIR2の点灯色よりも短い。S1004でユーザはマルチスペクトルイメージング用の露光時間とカメラゲインを決定する。UI管理部514は各点灯色に共通の露光時間とカメラゲインとをユーザが選択するためのUIを表示部7に表示して各点灯色に共通の露光時間とカメラゲインを受け付けてもよい。また、UI管理部514は各点灯色ごとに露光時間とカメラゲインとをユーザが選択するためのUIを表示部7に表示して各点灯色ごとの露光時間とカメラゲインと受け付けてもよい。なお、露光時間とカメラゲインとの調整を容易にするために、UI管理部514は仮に設定された露光時間とカメラゲインでワーク2を撮像して、撮像結果(ワーク2の画像)を表示部7に表示してもよい。ステップS1005でユーザはフォトメトリックステレオ用の点灯色を選択する。たとえば、UI管理部514は、選択可能な点灯色の候補を表示部7に表示し、ユーザによる点灯色の選択を受け付けてもよい。たとえば、UVからIR2までの8つの点灯色の発光素子と、白色発光素子とのうちからいくつかの発光素子が選択されうる。S1006でユーザはフォトメトリックステレオ用の露光時間とカメラゲインを決定する。
UI管理部514は露光時間とカメラゲインとをユーザが選択するためのUIを表示部7に表示して露光時間とカメラゲインを受け付けてもよい。
S1007でユーザは検査設定を実行する。検査部531は複数の検査ツールを備えているため、UI管理部514は各検査ツールが検査を実行するために必要となるパラメータ(検査領域、登録色、公差など)の指定を受け付ける。なお、検査領域は検査ツールに設定される。登録色はMSI処理部511に設定される。公差は判定部540に設定される。また、後述する移動補正に関するパラメータについてもUI管理部514は受け付ける。
●マルチスペクトルイメージング用の点灯色選択UI
図11はマルチスペクトルイメージング用の波長(点灯色)を選択するためのユーザインタフェースを示している。点灯色選択UI1100はUI管理部514によって表示部7に表示される。画像選択ボタン1102は、画像表示領域1101に表示される画像を選択するためのUIであり、画像選択部515に選択結果を渡す。図11においてCは複数の分光画像から合成して作成されたカラー画像を示している。ALは8種類あるすべての分光画像を示している。ALがポインタ1106によって操作されると、画像選択部515はすべての分光画像を並べて画像表示領域1101に表示する。UVは紫外線波長の照明光により取得された分光画像を示している。Bは青波長の照明光により取得された分光画像を示している。Gは緑波長の照明光により取得された分光画像を示している。AMはアンバー波長の照明光により取得された分光画像を示している。ORはオレンジ波長の照明光により取得された分光画像を示している。Rは赤波長の照明光により取得された分光画像を示している。IR1、IR2はそれぞれ赤外波長の照明光により取得された分光画像を示している。ただし、IR1の波長はIR2の波長よりも短い。図11においては画像表示領域1101にワーク2の画像が表示されている。この例では、ワーク2の特徴1104(例:海老などの具材)も示されている。この特徴1104の色を登録色として登録したり、検査したりする場合に、ユーザは、プルダウン形式の領域形状選択メニュー1111を操作して指定領域の形状を選択する。形状としては、たとえば、矩形、円、楕円、任意形状などがある。領域指定部516は、領域形状選択メニュー1111から選択された形状に応じた枠線を画像表示領域1101に配置する。
また、領域指定部516は、ポインタ1106により枠線1105がドラッグされると、枠線1105の位置を変更したり、枠線1105のサイズを変更したりする。チェックボックス1113はマルチスペクトルイメージングに使用される点灯色を選択するためのチェックボックスである。点灯色設定部517はチェックボックス1113にチェックが付与されている点灯色をユーザにより選択された点灯色と認識する。確定ボタン1116が操作されると、点灯色設定部517は、点灯色設定部517はチェックが付与されている点灯色を設定情報523に書き込む。キャンセルボタン1117が操作されると、点灯色設定部517は、チェックボックスの状態(点灯色の選択状態)を取り消し、設定情報523に保持されている直前の設定に戻す。スライドバー1118は露光時間をマニュアルで調整するためのUIである。スライドバー1118を左右に移動させることで露光時間を増減できる。スライドバー1119はカメラゲインをマニュアルで調整するためのUIである。スライドバー1119を左右に移動させることでカメラゲインを増減できる。
ここでは、点灯色を選択するためのUIと指定領域を選択するためのUIとが共通化されているが、これらは別々のUIであってもよい。
●フォトメトリックステレオ用の点灯色選択UI
図12はマルチスペクトルイメージング用の点灯色を選択するためのユーザインタフェースを示している。図12と図11において共通する要素には、説明の重複を避けるために、同一の参照符号が付与されている。点灯色選択UI1200はUI管理部514によって表示部7に表示される。点灯色選択UI1200が点灯色選択UI1100と異なる点の一つは画像種類選択部1201が設けられている点である。画像種類選択部1201は、形状画像や反射率画像など、フォトメトリックステレオに関連した画像を選択可能なプルダウンメニューである。画像種類選択部1201により選択された種類の画像が画像表示領域1101に表示される。画像更新ボタン1202は、ユーザにより更新された点灯色、照明強度、露光時間、カメラゲインなどのパラメータに従ってカメラ4によりワーク2を再び撮像し、画像表示領域1101に表示されている画像を新しい画像に更新するボタンである。この例では、複数の画像が表示されているが、チェックボックス1113により選択された点灯色の照明光により照明されて取得された画像だけが画像表示領域1101に表示されてもよい。なお、照明光の異なる複数の画像を表示することで、どの点灯色の照明光がワーク2の表面の凹凸を正確に表現できるかをユーザが判断しやすくなろう。なお、照明装置3の各照明ブロックに白色LEDが設けられている場合、点灯色選択UI1200は白色LEDを選択するためのチェックボックスを有することになる。
<検査モード(運転モード)>
図13は検査モードを示すフローチャートである。ここでは同一のワーク2に対してマルチスペクトルイメージングによる画像検査とフォトメトリックステレオによる画像検査とが実行されることが想定されている。なお、図13を説明する前に、ワーク2の例と画像検査の例を説明する。
図14はマルチスペクトルイメージングによる色検査画像1405の作成概念を示している。この例のワーク2はカードである。また、あるシートに印刷されたカードに形成された「しみ」の面積が閾値を超えているかどうかが検査される。ここでは四つの点灯色が選択されているものとする。分光画像1401は第一の点灯色W1の照明光により取得された分光画像である。RC1はシートの色(第一の登録色)を示している。RC2はカードの下地の色(第二の登録色)を示している。RC3は文字の色(第三の登録色)を示している。これらの三つの色が登録色の集合を形成し、設定情報523により保持されている。分光画像1402は第二の点灯色W2の照明光により取得された分光画像である。分光画像1403は第三の点灯色W3の照明光により取得された分光画像である。分光画像1404は第四の点灯色W1の照明光により取得された分光画像である。しみ1410は、分光画像1401、1404では顕在化していないが、分光画像1402、1403では顕在化している。分光画像1401ないし分光画像1404は、三つの登録色を用いてカラーグレー変換され、色検査画像1405が生成される。色検査画像1405では、三つの登録色から最も距離(マハラノビス距離)のある、しみ1410の色が抽出されている。色検査画像1405におけるしみ1410の面積(ブロブ)が計算され、当該面積が閾値を超えているかどうかが判定される。
図15はフォトメトリックステレオによる形状検査画像1507の作成概念を示している。ここでは四方向から個別に照明光を照射されて四つの輝度画像1501〜1504が生成されている。輝度画像1501は第一方向からワーク2に照明光を照射して取得された画像である。輝度画像1502は第二方向からワーク2に照明光を照射して取得された画像である。輝度画像1503は第三方向からワーク2に照明光を照射して取得された画像である。輝度画像1504は第四方向からワーク2に照明光を照射して取得された画像である。第一方向、第二方向、第三方向、第四方向はそれぞれ、北、東、南、西に対応していてもよい。つまり、輝度画像1501と輝度画像1503がY方向ペアとなり、輝度画像1502と輝度画像1504がX方向ペアとなる。なお、ワーク2には凹み1510が形成されている。凹み1510は照明光の方向に応じて顕在化したり、しなかったりする。輝度画像1501と輝度画像1503からY方向の傾き画像1505が作成される。傾き画像1505では横方向に伸びるエッジが抽出されている。同様に、輝度画像1502と輝度画像1504からX方向の傾き画像1506が作成される。傾き画像1506では縦方向に伸びるエッジが検出されている。最終的に、傾き画像1505と傾き画像1506とから輪郭抽出画像である形状検査画像1507が作成される。形状検査画像1507を用いて凹み1510などの傷の有無が検査される。形状検査画像1507は形状画像データ525として記憶装置520に記憶される。
以上の事例を用いて図13を説明する。S1301でプロセッサ510(MSI処理部511)は設定情報523に従ってマルチスペクトルイメージング用の分光画像1401〜1404を取得する。MSI処理部511は、設定情報523に従ってカメラゲインや露光時間を撮像制御部513に設定する。撮像制御部513は設定されたカメラゲインや露光時間に従ってカメラ4を制御し、分光画像を取得する。また、MSI処理部511は、設定情報523に従って点灯すべき点灯色(発光素子)とその照明強度を照明制御部512に設定する。照明制御部512は、光源群501に含まれる発光素子のうち、設定された照明強度で、設定された点灯色の発光素子を点灯する。これにより、UVからIR2のうちユーザにより予め選択された点灯色の照明光が順番にワーク2に対して照射され、点灯色ごとの分光画像が生成される。取得された分光画像は分光画像データ521として記憶装置520に記憶される。
S1302でプロセッサ510(MSI処理部511)は取得された複数の分光画像1401〜1404を、登録色RC1〜RC3を用いてカラーグレー変換することで色検査画像1405(グレー画像)を作成し、グレー画像データ522として記憶装置520に格納する。
S1303でプロセッサ510(MSI処理部511)は検査部531に画像検査を実行するよう指示する。検査部531は、色検査画像1405におけるしみ1410の面積を計測し、判定部540に渡す。判定部540は、しみ1410の面積が閾値を超えていれば、不合格と判定し、しみ1410の面積が閾値以下であれば合格と判定する。
S1304でプロセッサ510(PS処理部560)は設定情報523に従ってフォトメトリックステレオ用の輝度画像1501〜1504を取得する。PS処理部560は、設定情報523に従ってカメラゲインや露光時間を撮像制御部513に設定する。撮像制御部513は設定されたカメラゲインや露光時間に従ってカメラ4を制御し、輝度画像を取得する。また、PS処理部560は、設定情報523に従って点灯すべき点灯色(発光素子)とその照明強度を照明制御部512に設定する。照明制御部512は、光源群501に含まれる発光素子のうち、設定された照明強度で、設定された点灯色の発光素子を点灯する。なお、フォトメトリックステレオでは、点灯色の異なる複数の発光素子が同時に点灯してもよい。また、白色の照明光を出力する白色発光素子が点灯してもよい。ただし、各輝度画像について照明光の照射方向はそれぞれ異なっている。つまり、照明制御部512は、第一方向から照明光を照射するように選択された点灯色の発光素子を点灯する。これにより撮像制御部513は輝度画像1501を取得する。次に、照明制御部512は、第二方向から照明光を照射するように選択された点灯色の発光素子を点灯する。これにより撮像制御部513は輝度画像1502を取得する。次に、照明制御部512は、第三方向から照明光を照射するように選択された点灯色の発光素子を点灯する。これにより撮像制御部513は輝度画像1503を取得する。最後に、照明制御部512は、第四方向から照明光を照射するように選択された点灯色の発光素子を点灯する。これにより撮像制御部513は輝度画像1504を取得する。取得された複数の輝度画像は輝度画像データ524として記憶装置520に記憶される。
S1305でプロセッサ510(PS処理部560)は取得された複数の輝度画像1501〜1504から形状検査画像1507を作成し、形状画像データ525として記憶装置520に格納する。図15に示したように、PS処理部560は輝度画像1501〜1504からY方向の傾き画像1505とX方向の傾き画像1506とを作成し、これらから形状検査画像1507を作成する。
S1306でプロセッサ510(PS処理部560)は検査部531に画像検査を実行するよう指示する。検査部531は、形状検査画像1507における凹みの面積を計測し、判定部540に渡す。判定部540は、凹みの面積が閾値を超えていれば、傷ありと判定し、凹みの面積が閾値以下であれば傷なしと判定する。
S1307でプロセッサ510(UI管理部514)はマルチスペクトルイメージングによる画像検査の結果と、フォトメトリックステレオによる画像検査の結果とを表示部7に表示する。
この例では、最初にマルチスペクトルイメージングに関する処理であるS1301ないしS1303が実行され、その後に、フォトメトリックステレオに関する処理であるS1305ないしS1306が実行されている。しかし、これらの順番は逆でもよい。さらに、S1301とS1304が最初に実行され、その後にS1302とS1305が実行され、最後に、1303とS1306とが実行されてもよい。たとえば、撮像制御部513は画像検査装置8に接続されたPLC(プログラマブルコントローラ)やコンソールから入力されたトリガー信号に基づき形状検査画像1507と色検査画像1405とを連続的に生成してもよい。なお、形状検査画像1507と色検査画像1405とでそれぞれ個別にトリガー信号が入力されてもよい。また、分光画像ごとや方向画像ごとにトリガー信号が入力されてもよい。
<移動体補正>
マルチスペクトルイメージングでは多数の点灯色の照明光が一つずつワーク2に照射されて、多数の分光画像が生成される。たとえば、図16が示すようにUVからIR2までの8種類の点灯色の照明光が順次にワーク2に照射されて8枚の分光画像が得られ、そこからさらに一枚のグレー画像が作成される。ワーク2がライン1を搬送される場合、一枚目のUV画像におけるワーク2の位置と8枚目のIR2画像におけるワーク2の位置はずれている。点灯色の数が増加するほど、また、ライン1の搬送速度が増加するほど、ワーク2の位置のずれ量は大きくなる。このずれを無視してグレー画像G1を作成すると、正しいグレー画像が得られないため、画像検査の精度が低下してしまう。従って、ワーク2について移動補正を行ってからグレー画像が作成されれば、正しいグレー画像が作成される。フォトメトリックステレオでは異なる方向からワークを照明して多数の輝度画像が生成される。よって、フォトメトリックステレオについても移動補正が必要となる。
図17は移動補正の概念を示している。この例では、マルチスペクトルイメージング用の8種類の分光画像を取得する前と取得した後に移動補正のための画像MC1、MC2が取得される。ライン1におけるワーク2の搬送速度は一定であるため、各画像内でのワーク2の位置は線形の軌跡を描く。従って、各分光画像におけるワーク2を構成する画素の座標の対応関係(x方向のずれ量とy方向のずれ量)を求めておけば、各分光画像におけるワーク2の位置を重ねて、グレー画像G2を作成することができる。より具体的には、補正画像MC1、MC2においてワーク2の特徴fがサーチ部532によるパターンサーチにより検知され、それぞれ特徴fの位置p1、p2が求められる。特徴fはパターンサーチにより検知可能な形状やエッジ(二つの特徴的なエッジ間の間隔)などであればよい。位置p1、p2の変化を示す直線の方程式を求めれば、各分光画像におけるワーク2の位置を補正することができる。つまり、各分光画像における座標系の対応関係を示す座標の変換式が決定される。
なお、ワーク2が線形に移動する場合は二つの移動補正用画像により移動補正が可能である。ワーク2が非線形に移動する場合は三つ以上の移動補正用画像が必要となる。ここでは、説明の簡明化のために、二つの移動補正用画像が使用されるケースが主に説明される。
図18は移動補正を含む画像検査を示すフローチャートである。S1801でプロセッサ510は第一の移動補正用画像MC1を取得する。プロセッサ510は、設定情報523に従って第一の移動補正用画像MC1の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第一の移動補正用画像MC1を取得し、記憶装置520に書き込む。
S1802でプロセッサ510(MSI処理部511)はマルチスペクトルイメージング用の分光画像を取得する。S1802はS1301と同じ処理である。S1803でプロセッサ510(PS処理部560)はフォトメトリックステレオ用の分光画像を取得する。S1803はS1305と同じ処理である。
S1804でプロセッサ510は第二の移動補正用画像を取得する。プロセッサ510は、設定情報523に従って第二の移動補正用画像MC2の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第二の移動補正用画像MC2を取得し、記憶装置520に書き込む。
S1805でプロセッサ510は画像処理部530(移動補正部533)に移動補正のためのパラメータを算出させ、当該パラメータを用いて各分光画像に移動補正を適用する。移動補正部533は、サーチ部532に第一の移動補正用画像MC1における特徴をサーチさせるとともに、第二の移動補正用画像MC2における特徴をサーチさせる。移動補正部533は、第一の移動補正用画像MC1における特徴の位置と第二の移動補正用画像MC2における特徴の位置との変化量を算出する。移動補正部533は、この変化量に基づき複数の分光画像における各画素の座標の対応関係を補正する。たとえば、UV画像におけるワーク2の座標と、IR1画像におけるワーク2の座標との対応関係とが求められる。求められた対応関係(座標変換式)を用いて各分光画像における座標を補正することで、図17に示したように各分光画像におけるワーク2の位置が重なり、正確なグレー画像が作成される。
S1806でプロセッサ510(PS処理部560)はフォトメトリックステレオ用の輝度画像に移動補正を適用する。S1805で移動補正のための対応関係は取得されているため、この対応関係を用いてフォトメトリックステレオ用の四つの輝度画像の座標を補正する。S1807はS1302とS1305に相当する処理であり、移動補正された分光画像に基づき色検査画像が生成され、移動補正された輝度画像に基づき形状検査画像やアルベド画像が生成される。S1808はS1303とS1306に相当する。S1809はS1307に相当する。
●点灯パターン
図21によれば、移動補正を行いながら分光画像と輝度画像を取得するための発光素子の点灯パターンの一例が示されている。ここではマルチスペクトルイメージングには四つの点灯色R、G、B、Yが使用されるものとする。YはRGB以外のいずれかの点灯色である。MC1、MC2、MC2、MC3は移動補正用の共通の点灯色である。D1、D2、D3、D4はフォトメトリックステレオ用の点灯色の照明光の照明方向を示している。R、G、B、Y、D1、D2、D3、D4、MC1、MC2、MC3、MC4は画像を示すものと理解されてもよい。
ケース(1)、(2)は線形補正のため点灯パターンである。ケース(1)、(2)はマルチスペクトルイメージング用の画像とフォトメトリックステレオ用の画像とを取得する前後において移動補正用の点灯色の発光素子が点灯し、二つの移動補正用画像が取得されることを示している。ケース(1)ではマルチスペクトルイメージング用の画像がフォトメトリックステレオ用の画像よりも先に取得されている。ケース(2)ではフォトメトリックステレオ用の画像がマルチスペクトルイメージング用の画像よりも先に取得されている。ケース(1)、(2)では共通の二つの移動補正用画像が使用されて、マルチスペクトルイメージング用の画像とフォトメトリックステレオ用の画像の移動補正が実行される。なお、移動補正を実行するために各画像の取得間隔が等間隔(一定の時間間隔)である必要がある。
ケース(3)は、マルチスペクトルイメージング用の分光画像を移動補正用画像として兼用するケースである。これによりトータルでの画像枚数が削減され、撮像時間が短縮される。つまり、短時間でより多くの画像検査を実行可能となる。
ケース(4)、(5)は3枚の移動補正用画像が取得されるケースを示している。ケース(4)では、移動補正用画像MC1と移動補正用画像MC2とを用いてフォトメトリックステレオ用の画像の移動補正(線形補正)が実行される。また、移動補正用画像MC2と移動補正用画像MC3とを用いてマルチスペクトルイメージング用の画像の移動補正(線形補正)が実行される。ケース(5)では、移動補正用画像MC1と移動補正用画像MC2とを用いてマルチスペクトルイメージング用の画像の移動補正が実行される。また、移動補正用画像MC2と移動補正用画像MC3とを用いてフォトメトリックステレオ用の画像の移動補正が実行される。なお、線形補正に代えて、2次関数補正の様な非線形補正が採用されてもよい。
ケース(6)、(7)は4枚の移動補正用画像が取得されるケースを示している。ケース(6)では、移動補正用画像MC1と移動補正用画像MC2とを用いてフォトメトリックステレオ用の画像の移動補正(線形補正)が実行される。また、移動補正用画像MC3と移動補正用画像MC4とを用いてマルチスペクトルイメージング用の画像の移動補正(線形補正)が実行される。ケース(7)では、移動補正用画像MC1と移動補正用画像MC2とを用いてマルチスペクトルイメージング用の画像の移動補正が実行される。また、移動補正用画像MC3と移動補正用画像MC4とを用いてフォトメトリックステレオ用の画像の移動補正が実行される。
<検査ツールの設定UI>
図19は検査ツールのパラメータを設定するための設定UI1900を示している。ここでは説明の便宜上、複数の検査ツールが単一の設定UI1900を通じて設定されるものとするが、それぞれ個別の設定UIを通じて設定されてもよい。ユーザにより設定モードが選択されると、UI管理部514は表示部7に設定UI1900を表示する。設定タブ1920は傷検査ツールに関するパラメータを設定するためのUIである。設定タブ1930はエリア検査ツールに関するパラメータを設定するためのUIである。図19においては設定タブ1920がポインタ1906により選択されている。画像種類設定部1911は、検査ツールが適用される検査画像を選択するためのプルダウメニューである。プルダウメニューには、形状検査画像、アルベド画像、色検査画像などが登録されている。図19においてはワーク2の傷(凹みなど)を検査するためにフォトメトリックステレオにより生成された形状検査画像が選択されている。UI管理部514の画像選択部515は、画像種類設定部1911により選択された画像を記憶装置520から読み出し、画像表示領域1901に表示する。編集ボタン1912はサーチ部532によるパターンサーチの対象となる特徴fを含む領域であるパターン領域PWのサイズと位置を編集するためのボタンである。パターン領域PWにより囲まれた特徴fは登録パターンとして記憶装置520に記憶される。編集ボタン1913は特徴fをサーチする範囲(サーチ領域SW)のサイズと位置を編集するためのボタンである。領域指定部516はユーザ操作に応じてパターン領域PWやサーチ領域SWのサイズと位置を調整し、調整結果を設定情報523に保存する。カメラ4により取得された画像においてワーク2の位置と角度は一定ではない。ただし、当該画像内のある一定の領域内に特徴fが収まっていることが多い。そのため、サーチ部532は、サーチ領域SW内で、登録パターン(特徴f)をサーチすることで、登録パターンの位置と角度を求める。この位置と角度は傷の検査領域IW1の位置と角度を補正(位置補正)するために利用される。編集ボタン1914は傷検査領域IW1のサイズと位置を編集するためのボタンである。領域指定部516はユーザ操作に応じて傷検査領域IW1のサイズと位置を調整し、調整結果を設定情報523に保存する。検査部531は、傷検査領域IW1における傷の面積を算出する。公差入力部1915は判定部540による傷の有無の判定基準となる公差(閾値)の入力を受け付けるテキストボックスである。確定ボタン1917は、検査ツールに関する設定を確定するためのボタンである。キャンセルボタン1918は今回の設定を取り消し、直前の設定やデフォルト設定に戻すためのボタンである。
図20は検査ツールのパラメータを設定するための設定UI1900を示している。ここでは、説明の便宜上、単一のUIによってエリア検査ツールに関する設定とパターンサーチの設定とが受け付けられているが、それぞれ異なるUIによって受け付けられてもよい。また、この例では、エリア検査ツールに関するパラメータを設定するための設定タブ1930がポインタ1906により選択されている。設定タブ1930における設定項目のうち設定タブ1920と共通する項目については同一の参照符号が付与されている。この例では、エリア検査ツールによってしみの有無を検査するために、画像種類設定部1911によって色検査画像が選択されている。編集ボタン2014は色検査領域IW2の位置とサイズを編集するためのボタンである。UI管理部514は編集ボタン2014がクリックされると、ポインタ1906の操作に応じて色検査領域IW2の位置とサイズを変更する。領域指定部516はユーザ操作に応じて色検査領域IW2のサイズと位置を調整し、調整結果を設定情報523に保存する。公差入力部2015はしみの有無の判定基準となる公差(閾値)の入力を受け付けるテキストボックスである。チェックボックス2003は、他の検査ツールによって特定された検査領域の位置補正結果をエリア計測ツールの色検査領域IW2の位置補正に利用するかどうかを選択するためのチェックボックスである。チェックボックス2003がチェックされると、検査部531は、傷検査ツールにおいて特定されたワーク2の位置情報(位置や角度)を用いて色検査領域IW2の位置と角度を補正する。なお、チェックボックス2003は、設定タブ1920に設けられていてもよい。この場合、検査部531は、エリア検査ツールにおいて特定されたワーク2の位置情報(位置や角度)を用いて傷検査領域IW1の位置と角度を補正する。とりわけ、ワーク2がオフラインで検査され、かつ、フォトメトリックステレオ用の輝度画像とマルチスペクトルイメージング用の分光画像とが連続して取得される場合、これらの画像を取得している最中にワーク2の位置と角度が変化することはほとんどない。したがって、複数の検査ツール間で検査領域の位置補正結果を共有することが可能となり、トータルでの検査時間が短縮される。
<まとめ>
本実施例によれば、照明装置3は、それぞれ異なる方向から対象物(例:ワーク2)に照明光を照射する三つ以上の照明ブロックを有する照明部の一例である。各照明ブロックにはそれぞれ点灯色の異なる照明光を発生する複数の発光素子(例:LED33)が備えられている。カメラ4は照明光により照明された対象物からの反射光を受光して対象物の画像を生成する撮像部の一例である。プロセッサ510は照明部を制御することで三つ以上の照明ブロックにそれぞれ含まれている同一の点灯色の発光素子を同時に点灯させ、かつ、点灯色を変えながら順番に対象物に照明光を照射させるとともに、撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の分光画像を生成可能な制御部の一例である。また、プロセッサ510は照明部を制御することで三つ以上の照明ブロックのそれぞれに含まれる同一の点灯色の発光素子を順番に点灯させ、対象物に照明光を照射させるとともに、撮像部を制御することでそれぞれ照明光の照射方向が異なる、複数の方向画像を生成可能な制御部の一例である。このように、プロセッサ510はマルチスペクトルイメージングにしたがった分光画像の取得だけでなく、フォトメトリックステレオのための方向画像や反射率画像の取得を実行する。なお、プロセッサ510は、分光画像の取得と反射率画像の取得とを常に実行する必要は無い。プロセッサ510(MSI処理部511やPS処理部560)は複数の分光画像または複数の方向画像に基づく検査画像を生成する画像生成部の一例である。検査部531は画像生成部により形成された検査画像を用いて対象物を検査する検査部の一例である。図3などに関連して説明したように、照明装置3において、同一の点灯色の照明光を出力する複数の発光素子が等間隔で配置されている。これにより、分光画像に関しては対象物に対して均一な方向から照明光を照射することが可能となる。また、方向画像に関しては各方向について均一な光量の照明光を対象物に対して照射することが可能となる。このように、本実施例によれば、マルチスペクトルイメージングとフォトメトリックステレオとでカメラ4と照明装置3を共用できるため、カメラと照明装置の設置数を削減できる。また、撮像部と対象物との間の距離の調整や撮像部のピント調整などのユーザ作業も削減される。つまり、ユーザ負担が軽減され、ユーザビリティーが向上する。
なお、MSI処理部511は複数の点灯色画像に基づいて各画素が対象物の色に応じた値を有する色検査画像を生成する画像生成部の一例である。検査部531は画像生成部により生成された色検査画像を用いて対象物の色検査を実行する検査部の一例である。
PS処理部560は複数の方向画像に基づいて対象物の凹凸に応じた値を有する形状検査画像を生成する画像生成部の一例である。検査部531は画像生成部により生成された形状検査画像を用いて対象物の形状検査を実行する検査部の一例である。
プロセッサ510は、方向画像を生成する際に、点灯すべき照明ブロックに含まれているすべての発光素子を点灯させてもよい。一般にフォトメトリックステレオ用の照明光としては白色光が使用される。本実施例の照明装置は、一つのブロックには点灯色の異なる複数の発光素子が設けられている。よって、ある照明方向を担当している一つのブロックに設けられている複数の発光素子を同時に点灯することで、疑似的な白色光を実現できる。つまり、白色光源を省略することが可能となる。
本実施例では照明装置3が四つの照明ブロックを有しているものとして説明したが、三つ以上の照明ブロックが存在すればよい。また、これらの照明ブロックはそれぞれ白色発光素子(白色LEDなど)を有していてもよい。この場合にプロセッサ510は、方向画像を生成する際に、点灯すべき照明ブロックに含まれている白色発光素子を点灯させてもよい。これにより、点灯色の異なる複数の発光素子を同時に点灯する必要がなくなり、照明光に関する消費電力を削減することが可能となりうる。
プロセッサ510は、方向画像を生成する際に、点灯すべき照明ブロックに含まれている特定の点灯色の照明光を発生する発光素子を点灯させる。フォトメトリックステレオにより形状検査画像やアルベド画像を生成する際に、ワーク2の表面性に依存して適切な点灯色が異なることも考えられる。したがって、特定の点灯色の照明光をワーク2に照射することで、正確な形状検査画像やアルベド画像が得られやすくなる場合がある。
図11や図12に示したように、ユーザによる特定の点灯色の選択を受け付ける点灯色受付部(チェックボックス1113)が設けられてもよい。これによりユーザは照明光の点灯色を指定できるようになる。
プロセッサ510や画像処理部530は、凹みの有無の検査など、形状検査を設定する設定モードにおいて取得された形状検査画像を解析してもよい。さらに、プロセッサ510や画像処理部530は、この解析結果に基づいて、形状検査を実行する運転モードにおいて点灯される特定の点灯色を選択する点灯色選択部として機能してもよい。たとえば、UV〜IR2のうち、最も高いコントラストが得られた点灯色を、プロセッサ510や画像処理部530が選択してもよい。
図19や図20を用いて説明したように、表示部7は、形状検査に必要となるパラメータを設定する設定モードにおいて形状検査画像と色検査画像とを切り替えて表示する表示部として機能する。
表示部7は、形状検査画像と色検査画像とを同時に表示してもよい。形状検査画像と色検査画像を比較することで、ユーザは、形状検査に必要となるパラメータを適切に設定できるようになろう。
図19や図20を用いて説明したように、UI管理部514は、ユーザの指示に従って、各検査ツールが適用される画像の種類を選択する。つまり、UI管理部514は、形状検査画像と色検査画像とにそれぞれ異なる検査ツールを設定する設定部として機能する。
検査部531は、様々な検査ツールを備えている。たとえば、形状検査画像に設定される検査ツールには少なくとも傷(凸凹など)を検査する検査ツールが含まれてもよい。凹みなどの傷は形状検査画像において明確に表れることがある。よって、傷の検査には形状検査画像が適している。また、色検査画像に設定される検査ツールには少なくとも面積(しみなどのブロブやエリア)を検査する検査ツールが含まれてもよい。しみなどは色の変化として現れるため、しみなどの検査には色検査画像が適している。
図20に関連して説明したように、ワーク2の位置情報は複数の検査ツール間で共有されてもよい。つまり、画像処理部530(検査部531またはサーチ部532)は、形状検査画像に設定された検査ツールと色検査画像に設定された検査ツールとのうち一方の検査ツールにおける対象物の位置情報を用いて、形状検査画像に設定された検査ツールと色検査画像に設定された検査ツールとのうち他方の検査ツールの検査領域の位置を補正する補正部として機能してもよい。これにより各検査ツールの検査領域の位置を、より少ない情報で補正することが可能となる。また、特徴パターンの位置を検出しやすい画像が使用されることで、位置の検出精度が向上し、さらには移動補正精度が向上する。もちろん、色検査画像と形状検査画像とでそれぞれ個別にワーク2の位置がサーチされて、サーチ結果に応じて個別に検査領域の位置が補正されてもよい。
プロセッサ510は、同一のトリガー信号に基づき照明部、撮像部および画像生成部を制御して、形状検査画像と色検査画像とを連続的に生成してもよい。上述したように画像検査装置に接続されたPLCやコンソールから、撮像タイミングを示すトリガー信号が入力されることがある。この場合、一つのトリガー信号を契機として、必要な数の分光画像と輝度画像とが取得されてもよい。これにより、ユーザは形状検査画像と色検査画像とで個別に撮像の実施を指示する必要がなくなり、ユーザの負担が軽減されよう。
図3に関して説明したように、照明部と対象物との間に拡散板が設置されてもよい。たとえば、照明装置3の底面が拡散板として機能してもよい。
PS処理部560は、複数の方向画像から対象物の表面の反射率を画素値とするアルベド画像を作成する画像生成部として機能してもよい。検査部531は、画像生成部により生成されたアルベド画像を用いて対象物の画像検査を実行してもよい。
図3に関連して説明したように、各照明ブロックにはそれぞれ点灯色の異なる照明光を発生する複数の発光素子が等間隔で配置されている。また、各照明ブロックが備える前記複数の発光素子の数は、当該複数の発光素子の点灯色の種類の数のn倍(nは1以上の整数)であってもよい。たとえば、点灯色が16種類あれば、一つの照明ブロックには16個、32個、64個・・・の発光素子が設けられる。この場合に一つの照明ブロックにおけるある種類の点灯色の発光素子の数はn個となる。
2...ワーク、3...照明装置、4...カメラ、5...画像処理装置、511...MSI処理部、512...照明制御部、513...撮像制御部、531...検査部、560...PS処理部

Claims (18)

  1. それぞれ異なる方向から対象物に照明光を照射する三つ以上の照明ブロックを有し、各照明ブロックにはそれぞれ点灯色の異なる照明光を発生する複数の発光素子が備えられている、照明部と、
    前記照明光により照明された前記対象物からの反射光を受光して前記対象物の画像を生成する撮像部と、
    前記照明部を制御することで前記三つ以上の照明ブロックにそれぞれ含まれている同一の点灯色の発光素子を同時に点灯させ、かつ、点灯色を変えながら順番に前記対象物に照明光を照射させるとともに、前記撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の分光画像を生成可能であるとともに、前記照明部を制御することで前記三つ以上の照明ブロックのそれぞれに含まれる同一の点灯色の発光素子を順番に点灯させ、前記対象物に照明光を照射させるとともに、前記撮像部を制御することでそれぞれ照明光の照射方向が異なる、複数の方向画像を生成可能である制御部と、
    前記複数の分光画像または前記複数の方向画像に基づく検査画像を生成する画像生成部と、
    前記画像生成部により形成された検査画像を用いて前記対象物を検査する検査部と
    を有し、
    前記照明部において、同一の点灯色の照明光を出力する複数の発光素子が等間隔で配置されていることを特徴とする画像検査装置。
  2. 前記画像生成部は、前記複数の分光画像を合成して各画素が前記対象物の色に応じた値を有する色検査画像を生成し、
    前記検査部は、前記画像生成部により生成された色検査画像を用いて前記対象物の色検査を実行することを特徴とする請求項1に記載の画像検査装置。
  3. 前記画像生成部は、前記複数の方向画像に基づいて前記対象物の凹凸に応じた値を有する形状検査画像を生成し、
    前記検査部は、前記画像生成部により生成された形状検査画像を用いて前記対象物の形状検査を実行することを特徴とする請求項2に記載の画像検査装置。
  4. 前記制御部は、前記複数の方向画像のそれぞれを生成する際に、点灯すべき照明ブロックに含まれているすべての発光素子を点灯させることを特徴とする請求項1ないし3のいずれか一項に記載の画像検査装置。
  5. 前記三つ以上の照明ブロックはそれぞれ白色発光素子を有し、
    前記制御部は、前記複数の方向画像のそれぞれを生成する際に、点灯すべき照明ブロックに含まれている前記白色発光素子を点灯させることを特徴とする請求項1ないし3のいずれか一項に記載の画像検査装置。
  6. 前記制御部は、前記複数の方向画像のそれぞれを生成する際に、点灯すべき照明ブロックに含まれている特定の点灯色の照明光を発生する発光素子を点灯させることを特徴とする請求項3に記載の画像検査装置。
  7. ユーザによる前記特定の点灯色の選択を受け付ける点灯色受付部をさらに有することを特徴とする請求項6に記載の画像検査装置。
  8. 前記形状検査を設定する設定モードにおいて取得された形状検査画像を解析することで、前記形状検査を実行する運転モードにおいて点灯される前記特定の点灯色を選択する点灯色選択部をさらに有することを特徴とする請求項6に記載の画像検査装置。
  9. 前記形状検査を設定する設定モードにおいて前記形状検査画像と前記色検査画像とを同時または切り替えて表示する表示部と、
    前記形状検査画像と前記色検査画像とにそれぞれ異なる検査ツールを設定する設定部と
    をさらに有することを特徴とする請求項3に記載の画像検査装置。
  10. 前記形状検査画像に設定される検査ツールには少なくとも傷を検査する検査ツールが含まれることを特徴とする請求項9に記載の画像検査装置。
  11. 前記色検査画像に設定される検査ツールには少なくとも面積を検査する検査ツールが含まれることを特徴とする請求項3に記載の画像検査装置。
  12. 前記形状検査画像に設定された検査ツールと前記色検査画像に設定された検査ツールとのうち一方の検査ツールにおける対象物の位置情報を用いて、前記形状検査画像に設定された検査ツールと前記色検査画像に設定された検査ツールとのうち他方の検査ツールの検査領域の位置を補正する補正部をさらに有することを特徴とする請求項11に記載の画像検査装置。
  13. 前記制御部は、同一のトリガー信号に基づき前記照明部、前記撮像部および前記画像生成部を制御して、前記形状検査画像と前記色検査画像とを連続的に生成することを特徴とする請求項3に記載の画像検査装置。
  14. 前記照明部と前記対象物との間に設置される拡散板をさらに有することを特徴とする請求項1ないし13のいずれか一項に記載の画像検査装置。
  15. 前記画像生成部は、前記複数の方向画像から前記対象物の表面の反射率を画素値とするアルベド画像を作成するように構成されており、
    前記検査部は、前記画像生成部により生成された前記アルベド画像を用いて前記対象物の画像検査を実行することを特徴とする請求項1ないし14のいずれか一項に記載の画像検査装置。
  16. 各照明ブロックにはそれぞれ点灯色の異なる照明光を発生する複数の発光素子が等間隔で配置されていることを特徴とする請求項1ないし15のいずれか一項に記載の画像検査装置。
  17. 各照明ブロックが備える前記複数の発光素子の数は、当該複数の発光素子の点灯色の種類の数のn倍(nは1以上の整数)であることを特徴とする請求項1ないし16のいずれか一項に記載の画像検査装置。
  18. 前記制御部は、
    前記照明部を制御することで前記三つ以上の照明ブロックのそれぞれに含まれる同一の点灯色の発光素子を順番に点灯させることで前記対象物に照射方向の異なる同一の点灯色の照明光を照射させ、前記撮像部を制御することでそれぞれ照射方向が異なる複数の方向画像を生成させ、
    前記画像生成部は、前記複数の方向画像に基づいて前記対象物の凹凸に応じた値を有する形状検査画像を生成し、
    前記検査部は、前記画像生成部により生成された形状検査画像を用いて前記対象物の形状検査を実行し、
    前記制御部は、前記照明部を制御することで前記三つ以上の照明ブロックにそれぞれ含まれている同一の点灯色の発光素子を同時に点灯させ、かつ、点灯色を変えながら順番に前記対象物に照明光を照射させるとともに、前記撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の分光画像を生成させ、
    前記画像生成部は、前記複数の分光画像を合成して各画素が前記対象物の色に応じた値を有する色検査画像を生成し、
    前記検査部は、前記画像生成部により生成された色検査画像を用いて前記対象物の色検査を実行する
    ことを特徴とする請求項1に記載の画像検査装置。
JP2017093359A 2017-05-09 2017-05-09 画像検査装置 Active JP6857079B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017093359A JP6857079B2 (ja) 2017-05-09 2017-05-09 画像検査装置
US15/925,803 US10416086B2 (en) 2017-05-09 2018-03-20 Image inspection device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017093359A JP6857079B2 (ja) 2017-05-09 2017-05-09 画像検査装置

Publications (2)

Publication Number Publication Date
JP2018189561A JP2018189561A (ja) 2018-11-29
JP6857079B2 true JP6857079B2 (ja) 2021-04-14

Family

ID=64097154

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017093359A Active JP6857079B2 (ja) 2017-05-09 2017-05-09 画像検査装置

Country Status (2)

Country Link
US (1) US10416086B2 (ja)
JP (1) JP6857079B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
WO2018035612A1 (en) 2016-08-24 2018-03-01 Mimosa Diagnostics Inc. Multispectral mobile tissue assessment
JP2019083501A (ja) * 2017-10-27 2019-05-30 ソニーセミコンダクタソリューションズ株式会社 撮像装置
CN113474639A (zh) * 2019-02-27 2021-10-01 京瓷株式会社 照明系统、照明设备和照明控制方法
US11852591B2 (en) 2019-03-15 2023-12-26 Omron Corporation Inspection device and method
JP7231462B2 (ja) * 2019-04-05 2023-03-01 株式会社キーエンス 画像検査システム及び画像検査方法
WO2020230319A1 (ja) * 2019-05-16 2020-11-19 三菱電機株式会社 画像処理装置及び方法、並びに画像読み取り装置、並びにプログラム及び記録媒体
US11734812B2 (en) * 2021-03-18 2023-08-22 UnitX, Inc. Fused imaging device and method
TWI770906B (zh) * 2021-03-26 2022-07-11 環球晶圓股份有限公司 晶圓表面缺陷檢測方法及其裝置
US11717973B2 (en) 2021-07-31 2023-08-08 Cognex Corporation Machine vision system with multispectral light assembly
DE102021004071B3 (de) * 2021-08-06 2023-01-19 Baumer Inspection Gmbh Vorrichtung und Verfahren zum Erzeugen photometrischer Stereobilder und eines Farbbildes
CN113793333B (zh) * 2021-11-15 2022-02-18 常州微亿智造科技有限公司 应用于工业质检的缺陷图片生成方法及装置
WO2023105849A1 (ja) * 2021-12-07 2023-06-15 パナソニックIpマネジメント株式会社 検査方法および検査装置
EP4202424A1 (en) * 2021-12-21 2023-06-28 Fundacion Centro de Tecnologias de Interaccion Visual y Communicaciones VICOMTECH Method and system for inspection of welds

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH09126890A (ja) * 1995-11-01 1997-05-16 Toshiba Corp 色検査装置
DE19962779B4 (de) * 1999-12-23 2009-06-25 Byk-Gardner Gmbh Vorrichtung zur quantifizierten Bestimmung der Qualität von Oberflächen
US6781687B2 (en) * 2002-09-26 2004-08-24 Orbotech Ltd. Illumination and image acquisition system
US7019826B2 (en) * 2003-03-20 2006-03-28 Agilent Technologies, Inc. Optical inspection system, apparatus and method for reconstructing three-dimensional images for printed circuit board and electronics manufacturing inspection
US7359545B2 (en) * 2003-12-31 2008-04-15 Tokyo Electron Limited Method and system to compensate for lamp intensity differences in a photolithographic inspection tool
JP3867724B2 (ja) * 2004-02-27 2007-01-10 オムロン株式会社 表面状態検査方法およびその方法を用いた表面状態検査装置ならびに基板検査装置
EP1612569A3 (en) * 2004-06-30 2006-02-08 Omron Corporation Method and apparatus for substrate surface inspection using multi-color light emission system
JP2007206797A (ja) * 2006-01-31 2007-08-16 Omron Corp 画像処理方法および画像処理装置
FI121151B (fi) * 2007-11-22 2010-07-30 Valtion Teknillinen Menetelmä ja laitteisto liikkuvan pinnan topografian ja optisten ominaisuuksien määrittämiseksi
US8077307B2 (en) * 2008-04-09 2011-12-13 Orbotech Ltd. Illumination system for optical inspection
KR100902170B1 (ko) * 2008-05-19 2009-06-10 (주)펨트론 표면형상 측정장치
US20120056994A1 (en) * 2010-08-30 2012-03-08 University Of Southern California Single-shot photometric stereo by spectral multiplexing
US8615125B2 (en) * 2010-10-08 2013-12-24 Omron Corporation Apparatus and method for inspecting surface state
JP6242098B2 (ja) * 2013-07-16 2017-12-06 株式会社キーエンス 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器
JP6408259B2 (ja) * 2014-06-09 2018-10-17 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6403445B2 (ja) * 2014-06-09 2018-10-10 株式会社キーエンス 検査装置、検査方法およびプログラム
JP6864549B2 (ja) * 2017-05-09 2021-04-28 株式会社キーエンス 画像検査装置
JP6917762B2 (ja) * 2017-05-09 2021-08-11 株式会社キーエンス 画像検査装置
JP6919982B2 (ja) * 2017-05-09 2021-08-18 株式会社キーエンス 画像検査装置

Also Published As

Publication number Publication date
US20180328855A1 (en) 2018-11-15
JP2018189561A (ja) 2018-11-29
US10416086B2 (en) 2019-09-17

Similar Documents

Publication Publication Date Title
JP6857079B2 (ja) 画像検査装置
JP6917762B2 (ja) 画像検査装置
JP6864549B2 (ja) 画像検査装置
US10156525B2 (en) Inspection apparatus, inspection method, and program
JP6917761B2 (ja) 画像検査装置
JP6919982B2 (ja) 画像検査装置
US20170236269A1 (en) Inspection Apparatus, Inspection Method, And Program
JP6981775B2 (ja) 画像検査装置および画像検査方法
JP7117420B2 (ja) 画像検査装置
JP2017122614A (ja) 画像生成方法及び検査装置
JP6280451B2 (ja) 検査装置
JP6638098B2 (ja) 検査装置
JP6931552B2 (ja) 画像検査装置
JP2020042053A (ja) 画像検査装置および画像検査方法
JP6825067B2 (ja) 検査装置およびその制御方法
JP6475875B2 (ja) 検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200326

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210301

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210319

R150 Certificate of patent or registration of utility model

Ref document number: 6857079

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250