JP6917762B2 - 画像検査装置 - Google Patents

画像検査装置 Download PDF

Info

Publication number
JP6917762B2
JP6917762B2 JP2017093358A JP2017093358A JP6917762B2 JP 6917762 B2 JP6917762 B2 JP 6917762B2 JP 2017093358 A JP2017093358 A JP 2017093358A JP 2017093358 A JP2017093358 A JP 2017093358A JP 6917762 B2 JP6917762 B2 JP 6917762B2
Authority
JP
Japan
Prior art keywords
image
inspection
movement correction
lighting
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017093358A
Other languages
English (en)
Other versions
JP2018189560A (ja
Inventor
木戸 学
学 木戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2017093358A priority Critical patent/JP6917762B2/ja
Priority to US15/925,804 priority patent/US20180330489A1/en
Publication of JP2018189560A publication Critical patent/JP2018189560A/ja
Application granted granted Critical
Publication of JP6917762B2 publication Critical patent/JP6917762B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G06T5/70
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T3/153
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20172Image enhancement details
    • G06T2207/20201Motion blur correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30128Food products
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Description

本発明は、マルチスペクトルイメージングを用いた画像検査装置に関する。
商品(ワーク)が設計通りに生産されたかどうかを判定するためにワークを撮像して得られた画像を検査する画像検査装置は非常に有用である。このような画像検査ではワークの形状や寸法、色などが検査される。特許文献1によれば印刷物などの検査対象物を撮像して色情報を取得し、高精度に色検査を実行する色検査装置が提案されている。
特開平09−126890号公報
ところで所望の色情報は、カメラ側のカラーフィルタによる波長の選別または照明光の波長の選択により実現される。たとえば、前者は、白色光源により白色光をワークに照射し、ワークからの反射光のうち所望の波長の反射光を分光光学系により選択する。これは、それぞれ通過波長の異なる複数のカラーフィルタを備えた撮像素子を用いることで実現されてもよい。RGBのカラーフィルタを用いれば、R画像、G画像およびB画像が得られる。後者は、たとえば、赤色LEDにより赤色の照明光をワークに照射することでR画像を取得し、緑色LEDにより緑色の照明光をワークに照射することでG画像を取得し、青色LEDにより青色の照明光をワークに照射することでB画像を取得する。後者の撮像手法はマルチスペクトルイメージングと呼ばれており、基本的に、各色のLEDは択一的に点灯される。さらに多数の波長の異なる光源を採用すれば、多数の分光画像が得られるため、微妙な色差も判別可能となる。
このように波長が異なる複数の光源を備えた画像検査装置は、照明光の波長を変えながら多数の分光画像を取得する。そのため、一つ目の画像から最後の画像を取得するまでに長時間を要する。一般にワークはベルトコンベイヤーによって搬送されながら検査されるため、一つ目の画像におけるワークの位置と最後の画像におけるワークの位置はずれてしまう。ワークの位置を補正せずに、多数の分光画像から検査用画像を生成すると、正しい検査用画像が得られず、画像検査の精度が低下しうる。そこで、本発明は、波長(点灯色)が異なる複数の光源を備えた画像検査装置において移動するワークについての画像検査の精度を向上させることを目的とする。
本発明は、たとえば、
検査領域を一方向に移動するワークの外観を検査するための画像検査装置であって、
互いに異なる3つ以上の点灯色の照明光を発生する複数の発光素子を有し、各点灯色の照明光を対象物に照射する照明部と、
一つ以上の点灯色の照明光ごとに前記対象物からの反射光を受光して前記対象物の画像を生成する撮像部と、
前記照明部を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、前記撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の検査用画像を一定の時間間隔で生成させるとともに、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された画像を第一の移動補正用画像とし、当該第一の移動補正用画像よりも後に、前記第一の移動補正用画像と同一の点灯色の照明光の下で取得され、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された第二の移動補正用画像を生成させる制御部と、
前記第一の移動補正用画像と、前記第二の移動補正用画像とのそれぞれについて特徴パターンの位置をサーチするサーチ部と、
前記第一の移動補正用画像における前記特徴パターンの位置と前記第二の移動補正用画像における前記特徴パターンの位置との変化量に基づき前記複数の検査用画像における各画素の座標の対応関係を補正する補正部と、
前記補正部により各画素の座標の対応関係が補正された前記複数の検査用画像に基づき前記対象物の画像検査を実行する検査部と
前記制御部が前記照明部および前記撮像部を制御して、互いに異なる3つ以上の点灯色の照明光ごとに生成された前記対象物の画像を同時または切り替え可能に表示部に表示させながら、前記第一の移動補正用画像および前記第二の移動補正用画像を生成するための点灯色の選択を受け付けるUI管理部と、を備え、
前記制御部は、前記UI管理部にて選択された点灯色の照明光により前記第一の移動補正用画像および前記第二の移動補正用画像を生成させることを特徴とする画像検査装置を提供する。
本発明によれば、点灯色が異なる複数の光源を備えた画像検査装置において移動するワークについての画像検査の精度が向上する。
画像検査装置を示す図 照明装置を示す図 照明装置を構成する部品を示す図 照明装置の電気的な構成を示す図 画像処理システムの機能を示す図 マルチスペクトルイメージングにおけるカラー濃淡変換の原理を示す図 ワークが移動することの問題点を説明する図 マルチスペクトルイメージングにおける移動補正の原理を説明する図 移動補正に関するユーザインタフェースを示す図 移動補正に関するユーザインタフェースを示す図 移動補正に関するユーザインタフェースを示す図 画像検査を示すフローチャート 点灯パターンを示す図 画像処理システムの機能を示す図 画像処理システムの機能を示す図 画像処理システムの機能を示す図 照明装置を示す図
以下に本発明の一実施形態を示す。以下で説明される個別の実施形態は、本発明の上位概念、中位概念および下位概念など種々の概念を理解するために役立つであろう。また、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。
図1は外観検査システム(画像検査装置)の一例を示す図である。ライン1は検査対象物であるワーク2を搬送する搬送ベルトなどである。ワーク2は検査領域を一方向に移動する。照明装置3は互いに異なる波長の検査光(照明光)を発生する複数の発光素子を有し、各波長の照明光を個別に対象物に照射する照明部の一例である。なお、複数の方向から照明光をワーク2に対して照射するために、複数の同一波長の発光素子が設けられてもよい。カメラ4は照明光により照明された検査対象物からの反射光を受光して輝度画像(分光画像)を生成する撮像手段の一例である。画像処理装置5は、各波長について設定された照明強度で発光素子を順番に点灯させることで画像検査の対象となる検査対象物を照明し、撮像部により取得された複数の検査用画像を用いて画像検査を実行する検査部を有する検査装置である。表示部7は検査に関連する制御パラメータを設定するためのユーザインタフェースや検査用画像などを表示する表示装置である。入力部6は、コンソール、ポインティングデバイス、キーボードなどであり、制御パラメータを設定するために使用される。
<照明装置の構成>
図2(A)は照明装置3の斜視図である。図2(B)は照明装置3の上面図である。図2(C)は照明装置3の底面図である。図2(D)は照明装置3の側面図である。照明装置3の筐体は上ケース21と下ケース22を有している。下ケース22の下部には複数の光源(LEDなどの発光素子)のそれぞれが出力する光を拡散させる光拡散部材23が配置されている。図2(A)や図2(C)が示すように上ケース21や下ケース22と同様に光拡散部材23も円環状を成している。図2(B)や図2(D)が示すように上ケース21の上面にはコネクタ24が設けられている。コネクタ24には照明装置3に格納されている照明制御基板と画像処理装置5とが通信するためのケーブルが接続される。照明制御基板に実装される一部の機能は照明装置3の外部に照明コントローラとして設けられていてもよい。つまり、照明装置3と画像処理装置5との間には照明コントローラが介在してもよい。
図3(A)は照明装置3に格納されている制御基板31とLED基板32とを示す側面図である。制御基板31は点灯制御部が実装された第二基板の一例である。LED基板32は複数の光源が実装された第一基板の一例である。図3(B)はLED基板32の上面図である。図3(C)は照明装置3のうちLED33の付近を拡大した断面図である。図3(D)はLED基板32の底面図である。図3(E)はLED基板32のうちLED33の付近を拡大した側面図である。
制御基板31には照明制御基板やコネクタ24が配置されている。光源群を構成するLEDなどの発光素子はLED基板32に搭載されている。図3(B)が示すように、本実施例では四方向から照明光を照射するために4つのLED基板32が設けられている。四方向から照明光を照射可能とすることでフォトメトリックステレオ用の画像を取得できるようになる。つまり、照明装置3はマルチスペクトルイメージングだけでなく、フォトメトリックステレオのために利用されてもよい。1つのLED基板32には4つのLED33が配置されているものとする。これにより光源群は16個の発光素子により構成されている。ただし、より多数の発光素子が設けられてもよい。たとえば、一つのLED基板32には8つのLED33が配置されており、8つのLED33が発光する光の波長はいずれも異なっていてもよい。図3(C)、図3(D)および図3(E)が示すように、複数のLED33のうち隣り合った2つのLED33の間には遮光部材35が配置されている。多数のLED33を密接に配置すると、隣り合った2つのLED33からそれぞれ照射される照明光が光拡散部材23の同一の領域を通過することがある。この場合、点灯パターンに応じて一方のLED33を非点灯とし、かつ、他方のLED33を点灯した場合と、他方のLED33を非点灯とし、かつ、一方のLED33を点灯した場合とで、ワーク2の表面には同一の照明方向から同一の光量で照明光が照射されてしまう。これでは高い精度で検査画像を生成することが難しくなる。そこで、隣り合った2つのLED33の間に遮光部材35を配置することで、隣り合った2つのLED33について光量の均一性と光源の独立性とのバランスを取っている。図3(C)が示すようにLED33の光の射出方向A1と、主な照明方向A2とは一致していない。そこで、反射鏡34を配置することでLED33から射出される光を光拡散部材23の方向へ偏向している。これによりLED33が発光した光を効率よくワーク2へ照射できるようになろう。この例では射出方向A1と反射鏡34の反射方向とが概ね直交しているが、これは光拡散部材23の断面形状が円弧を成しており(図3(C))、円弧に関する角度(中心角)が約90度になっているからである。このように中心角を大きくすることで、照明装置3をワーク2に対して遠ざけたり、近づけたりしてもワーク2の表面に対してほぼ均一な平行光を照射しやすくなる。
図16は照明装置3の模式平面図である。照明装置3のLED基板32の上には互いに異なる波長の光を発する複数のLED33が環状に配置されている。制御基板31に設けられた照明制御基板(図4)は同一波長の複数のLED33を同時に点灯させる。同一波長の複数のLED33はLED基板32上にそれぞれ等間隔に配置されている。各波長の複数のLED33が同時に点灯することで、ワーク2の斜め上方から略均一な照明光がワーク2に照射される。これにより、カメラ4は照射方向に依存しない各波長に対応したワーク2の全方向照明画像を撮影することができる。
照明装置3はそれぞれ複数のLED33を有する4つの照明ブロックTB1〜TB4から構成されている。各照明ブロックには互いに異なる波長の光を発する複数のLED33が配置される。各照明ブロックには、照明装置3が有する全ての波長種別のLED33が含まれている。各照明ブロックには光量フィードバック制御用の受光素子PD1〜PD4が配置されている。照明制御基板は受光素子PD1〜PD4が受光した光の受光量に基づいて、各照明ブロックの光量が予め設定された光量に維持されるように、各LED33に流す電流値を制御する。
各波長のLED33は各照明ブロック内において同数かつ等間隔に配置される。図16が示す例では、各照明ブロックには8波長のLED33がそれぞれ1つずつ等間隔に配置されている。各照明ブロックが同一波長のLED33を2つ以上備えてもよい。この場合、波長数の倍数、例えば16個(8波長×2個)、24個(8波長×3個)、あるいは32個(8波長×4個)のLED33が各照明ブロックに設けられる。同一波長の複数のLED33は各照明ブロック内において等間隔に配置される。上述したLED33の配置は全ての照明ブロックで共通である。複数の照明ブロックを環状に配置することでリング型の照明が構成される。つまり、同一波長のLED33が環状に等間隔に配列される。
照明制御基板は、照明装置3を波長単位で個別に点灯制御することができる。単一波長、例えば赤色のLED33が点灯される場合、照明制御基板は、全ての照明ブロックに含まれる赤色のLED33を同時に点灯させる。照明制御基板は各波長のLED33を順次に点灯させることにより、ワーク2に対して異なる波長の光を順次に照射することができる。また、照明制御基板は、各照明ブロックを個別に点灯制御することもできる。例えば、照明制御基板は照明ブロックTB1に含まれるLED33を点灯させ、照明ブロックTB2〜TB4に含まれるLED33を消灯させてもよい。また、照明制御基板は、照明ブロックTB1からTB4を順次に点灯させることもできる(TB1−>TB2−>TB3−>TB4)。照明制御基板が点灯させる照明ブロックを切り替えることにより、それぞれ異なる方向から照明されたワーク2についての複数の輝度画像が取得され、検査に用いられてもよい。更に、照明制御基板は、波長単位および照明ブロック単位でLED33を個別に点灯制御することもできる。照明制御基板は、例えば、照明ブロックTB1に含まれる赤色のLED33のみを点灯させることができる。
このように、照明装置3は各波長単位でLED33を点灯制御することで、異なる波長の光をワーク2に照射する。また、各照明ブロック単位でLED33を点灯制御することで、異なる照射方向から光をワーク2に照射することができる。
制御基板31には単色のLED33だけではなく、複数の波長の光が混じりあった白色光を出射する白色LED33を配置してもよい。照明制御基板は白色LED33のみを選択的に点灯させることで、通常の白色リング照明と同じように本実施の形態における照明装置3を機能させてもよい。更に、照明制御基板は全ての波長のLED33を同時に点灯させて、ワーク2に対して実質的に白色光を照射することもできる。
本明細書において、照明制御基板が単色波長の照明光をワーク2に照射して得られた画像は分光画像と呼ばれる。また、全ての波長のLED33を点灯させるか、白色LED33を点灯させて得られた画像は分光画像とは区別され、白色画像と呼ばれる。分光画像と白色画像は輝度画像と総称されうる。輝度画像の各画素はカメラ4から得られた輝度値を示す。
各照明ブロックにはそれぞれ照明制御基板が設けられている。各照明ブロックが同一波長の複数のLED33を含む場合、各照明制御基板には同一波長のLED33が直列に接続され、異なる波長のLED33が並列に接続されている。
<照明装置の回路構成>
図4は照明装置3の回路構成の一例を示している。この例では光源群を構成する4つの照明ブロックのうち1つの照明ブロックを示しており、各照明ブロックは同一波長のLEDが4つ(LED33a〜LED33d)設けられている。4つのLED33a〜LED33dは直列に接続されている。異なる波長のLEDが同様に直列接続されたものが、図4の回路構成と並列に接続されているが、図4からは省略してある。電圧が可変の可変電源41は照明制御基板40によって指定される電圧値(例:2V〜20V)の電圧を生成して出力する。可変定電流源42は、照明制御基板40によって指定される電流値(例:0A〜1A)となるようにLEDグループに流れる電流を調整する。このような電流制御方式を採用することでリニアリティの高い調光を実現しやすくなる。また、可変定電流源42は、可変定電流源42に印加されている電圧の値を検出して照明制御基板40にフィードバックし、過電圧から可変定電流源42を保護している。LED33a〜LED33dのそれぞれには並列にスイッチ43a〜スイッチ43dが接続されている。照明制御基板40の点灯制御部45はこれらのスイッチ43a〜スイッチ43dを個別に開閉させることで、LED33a〜LED33dのそれぞれを個別に点灯と非点灯とを切り替えることができる。このように、LED33a〜LED33dのそれぞれに並列にスイッチ43a〜スイッチ43dを接続することで、LED33a〜LED33dのいずれか1つを点灯させたり、すべてを点灯させたりするといった個別点灯が可能となる。これは様々な点灯パターンを実現するのに役立っている。なお、点灯制御部45は可変定電流源42とグランドとの間に挿入されたメインスイッチ43eのオン/オフを切り替えることで1つのLEDグループ単位での点灯制御を実行する。通信部44は点灯パターンを指示する制御信号や点灯の開始を指示するトリガー信号を画像処理装置5の照明制御部から受信し、点灯制御部45に渡す。点灯制御部45は、制御信号に対応する点灯パターンデータ47を記憶部46から読み出し、点灯パターンデータ47に従ってスイッチ43a〜スイッチ43dを制御する。
<機能ブロック>
図5は検査装置のブロック図である。この例では照明装置3、カメラ4および画像処理装置5がそれぞれ個別の筐体に収容されているが、これは一例に過ぎず、適宜に一体化されてもよい。照明装置3は、マルチスペクトルイメージングを実現する照明装置であるが、フォトメトリックステレオ法に従って検査対象物を照明する照明手段として利用されてもよい。照明装置3は光源群501とこれを制御する照明制御基板40を備えている。すでに図3に示したように、複数の発光素子で1つのセグメントが構成され、さらに複数のセグメントによって光源群501が構成されていてもよい。セグメントの数は一般的には4つであるが、3つ以上であればよい。これは3方向以上の照明方向からワーク2に照明光を照射できれば、フォトメトリックステレオ法により検査画像を生成できるからである。各セグメントにはそれぞれ波長が異なる照明光を出力する複数の発光素子(LED33)が設けられている。複数の発光素子には白色LEDが含まれていてもよい。白色LEDはマルチスペクトルイメージングには使用されず、他の検査画像を作成したり、ワーク2の移動補正用の画像を作成するために使用されたりする。図1や図3に示したように照明装置3の外形はリング状をしていてもよい。また、照明装置3は、それぞれ分離した複数の照明ユニットにより構成されていてもよい。照明制御基板40は、画像処理装置5から受信した制御コマンドに応じて光源群501の点灯タイミングや照明パターン(点灯パターン)を制御する。マルチスペクトルイメージングで分光画像を取得するには択一的に選択された波長の照明光をワーク2に照射するが、マルチスペクトルイメージング以外の手法が採用される場合は、複数の波長の照明光が同時に照射されてもよい。照明制御基板40は照明装置3に内蔵されているものとして説明するが、カメラ4に内蔵されていてもよいし、画像処理装置5に内蔵されていてもよいし、これらからは独立した筐体に収容されていてもよい。
照明装置3には記憶装置502が内蔵されており、ユーザにより設定された光源群501の点灯タイミングや照明パターンが記憶されている。照明制御基板40は、画像処理装置5からトリガー信号を受け取り、記憶装置502に記憶されている内容に応じて、光源群501を制御することができる。このような構成により、画像処理装置5は、トリガー信号を送信するだけで照明装置3を制御することができるので、画像処理装置5と照明装置3を接続する信号線の数を少なくすることができ、ケーブルの取り回しがよくなる。
より具体的には、記憶装置502は、各波長の光源群501の点灯タイミング情報(点灯時間、点灯間隔)、照明強度情報、照明パターン情報(点灯させる波長の識別情報)、照明ブロック情報(点灯させるブロックの識別情報)を含む照明設定データを記憶している。この照明設定データはいずれも、照明設定用のユーザインタフェースを表示部7に表示し、ユーザによる調整を照明設定手段が受け付ける。
点灯タイミング情報とは、各波長に対応する光源群を周期的に点灯させる際の各波長の点灯タイミングを規定する情報であり、各波長の光源群を点灯させる点灯時間(パルス幅)と、点灯させる波長を切り替える際に、前の波長の光源群を消灯させてから次の波長の光源群を点灯させるまでの点灯間隔(インターバル)とからなる。例えば、ユーザが赤色と緑色の光を発する光源群を用いて検査を行う場合、赤色波長の光源群の点灯時間、緑色波長の光源群の点灯時間と、両点灯時間の間隔をユーザが設定できる。点灯時間の設定は、ユーザが各波長の点灯時間を個別に設定できるようにしてもよいし、全ての波長において共通としてもよい。点灯間隔の設定は、ユーザが直接点灯間隔を指定するようにしてもよいし、検査に用いる全ての波長の光源群を順次点灯させる1つの点灯サイクルの長さと、各波長の点灯時間とから、点灯間隔が自動的に算出されるようにしてもよい。
照明強度情報とは、各波長の照明強度を示す情報である。本実施の形態では、各波長の照明強度を個別に設定することができるため、各波長で最適な照明強度でワークに光を照射することができる。
照明パターン情報とは、点灯させる波長の種別を示す識別情報であり、各点灯タイミングにおいて、どの波長に対応した光源群を点灯させるべきかを決定する情報である。例えば、ユーザが赤色と緑色と紫色の3色を用いて検査を行う設定を行っている場合、記憶装置502は、これらの3波長を示す識別情報を各点灯タイミング(点灯パルス)の情報と関連付けて記憶する。記憶装置502は、例えば、最初の点灯パルスでは赤色の光源群を点灯させ、次の点灯パルスでは緑色の光源群を点灯させ、最後の点灯パルスでは紫色の光源群が点灯されるように、照明パターン情報を点灯タイミング情報と関連付けて記憶している。照明パターン情報には、点灯波長の順序を示す情報が含まれていてもよい。上記の例では、赤、緑、紫の順序がユーザにより設定されてもよいし、予め設定可能な波長の点灯順序は固定して決められていてもよい。画像処理装置5の記憶装置520は照明パターン情報を照明装置3と共有する。上記の例では、最初に取得した画像を赤色波長で得られた画像として処理し、次に取得した画像を緑色波長で得られた画像として処理し、最後に取得した画像を紫色波長で得られた画像として処理する。
照明ブロック情報とは、点灯させる照明ブロックの識別情報である。本実施の形態では、波長単位での点灯を個別に制御できることに加えて、照明ブロック単位での点灯を個別に制御できる。ユーザは、点灯させる照明ブロックを任意に選択することにより、偏斜照明による検査が実行できる。また全ての照明ブロックを順次に点灯させて、異なる照明方向から光を照明して得られた複数の輝度画像に基づいて、フォトメトリックステレオの原理を用いた形状画像を生成することもできる。ユーザが点灯させる照明ブロックの順序を設定することもできる。各点灯タイミングにおいて点灯させる照明ブロックを任意に指定できるようにしてもよいし、点灯の回転方向(時計回り、または反時計回り)が固定されており、最初に点灯する照明ブロックをユーザが指定できるようにしてもよい。
上記の照明設定手段による照明設定データは、照明装置3に接続されたPC(パーソナルコンピュータ)などの入力部から設定されてもよいし、照明装置3に接続された画像処理装置5から設定されてもよい。また、画像処理装置5とは別体に設けられた照明用のコントローラを介して照明装置3が設定を受け付けてもよい。また、カメラ4、照明装置3、画像処理装置5が一体に設けられた検査装置の場合は、入力部6を介して検査装置に直接照明の設定を行うことも可能である。
上記の例では、記憶装置502は照明装置3に設けられているが、画像処理装置5に設けられていてもよい。また照明装置3とカメラ4が一体に設けられている場合は、カメラ4に設けられていてもよい。照明装置3、カメラ4、画像処理装置5が一つのハウジングに一体に設けられた検査装置の場合は、ハウジング内に記憶装置502が設けられる。
カメラ4は照明装置3により照明された検査対象物からの反射光を受光して輝度画像を生成する撮像手段の一例であり、画像処理装置5からの制御コマンドに応じて撮像処理を実行する。カメラ4はワーク2の輝度画像を作成して画像処理装置5に転送してもよいし、撮像素子から得られる輝度信号を画像処理装置5に転送し、画像処理装置5が輝度画像を生成してもよい。輝度信号は輝度画像の元になる信号であるため、広義には輝度信号も輝度画像である。また、カメラ4は、照明装置3が出力する各波長の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部として機能する。
画像処理装置5は、コンピュータの一種であり、CPUやASICなどのプロセッサ510と、RAM、ROM、可搬記憶媒体などの記憶装置520と、ASICなどの画像処理部530と、ネットワークインタフェースなどの通信部550とを有している。プロセッサ510は検査ツールの設定や、制御パラメータの調整、検査画像の生成などを担当する。とりわけ、MSI処理部511は、マルチスペクトルイメージング(MSI)に従って、カメラ4により取得された複数の輝度画像(分光画像)からワーク2のグレー画像を作成したり、グレー画像から検査画像を作成したりする。すなわち、照明制御部512は照明装置3に照明開始のトリガー信号を送信する。撮像制御部513は、照明制御部512から発せられるトリガー信号と同期した撮像開始のためのトリガー信号をカメラ4に送信し、カメラ4を制御する。
UI管理部514は、検査ツールを設定するためのユーザインタフェース(UI)や検査画像を生成するために必要となるパラメータを設定するためのUIなどを表示部7に表示し、入力部6から入力された情報従って検査ツールやパラメータを設定する。検査ツールには、ワーク2が備える特定の特徴(例:ピン)の長さを計測するツールや特徴の面積を計測するツールや、ある特徴から別の特徴までの距離(例:ピン間隔)を計測するツールや、特定の特徴の数を計測するツールや、特定の特徴に傷が有るか無いかを検査するツールなどが含まれてもよい。とりわけ、UI管理部514はマルチスペクトルイメージングや移動補正に関する制御パラメータを設定するためのUIを表示部7に表示する。画像選択部515はUIを通じてユーザにより選択された画像の画像データを記憶装置520から読み出してUI内の画像表示領域に表示する。領域指定部516は表示された画像に対して検査ツールの検査領域(測定領域)、パターン領域PW、サーチ領域SW、追跡領域TWなどの指定をユーザから受け付ける。なお、パターン領域PWや追跡領域TWは移動補正のための特徴パターンを登録するための領域である。サーチ領域SWは特徴パターンがサーチされる領域である。また、領域指定部516は、これらの指定領域の形状(例:矩形、円、楕円、任意形状)の選択を受け付けて指定領域を示す枠線の形状をUIに反映させたりする。点灯色設定部517は、ユーザの指示に従って移動補正用の照明光の波長を設定する。UI管理部514はユーザにより設定されたこれらの制御パラメータを設定情報523に保存する。
画像処理部530はマルチスペクトルイメージングにより取得された検査画像に対して検査ツールを適用して各種の計測を実行する検査部531などを有している。サーチ部532は画像検査の前に設定された特徴または画像検査中に動的に設定された特徴を、検査画像に配置されたサーチ領域SW内でサーチし、見つかった特徴の位置を求める。移動補正部533は、移動補正用の画像から見つかった特徴の位置の変化量に基づきマルチスペクトルイメージング用の複数の分光画像の座標系またはワーク2の座標(位置)を補正する。この補正作業は、補正のための変換式(補正式)を作成する工程と、変換式を用いて座標を変換する工程とに分かれていてもよい。これらの二つの工程はいずれも移動補正部533により実行されてもよいし、前者が移動補正部533により実行され、後者がMSI処理部511により実行されてもよいし、両者ともがMSI処理部511により実行されてもよい。なお、画像処理部530の機能はプロセッサ510に実装されてもよい。あるいは、プロセッサ510の機能が画像処理部530に実装されてもよい。また、プロセッサ510とプロセッサ510とが協働して単一または複数の機能を実現してもよい。たとえば、移動補正に関する一部の演算を画像処理部530が担当し、残りの演算をプロセッサ510が担当してもよい。
判定部540は検査画像を用いてワーク2の良否を判定する判定手段として機能する。たとえば、判定部540は画像処理部530において検査画像を用いて実行された検査の結果を受け取って検査結果が良品条件(公差など)を満たしているかどうかを判定する。
記憶装置520は、カメラ4によって取得された分光画像のデータである分光画像データ521、MSI処理部511により生成されたグレー画像のデータであるグレー画像データ522や各種の制御パラメータを保持する設定情報523を記憶する。また、記憶装置520は各種の設定データやユーザインタフェースを生成するためのプログラムコードなども記憶している。記憶装置520はグレー画像から生成された検査画像なども記憶して保持していてもよい。
図13ないし図15は、本発明の画像処理装置に係る他の構成例を示す図である。図13は照明装置3とカメラ4が一体化され、カメラ4に照明装置3を制御するための照明制御基板40が設けられている例を示す図である。この構成では照明装置3とカメラ4が一体に設けられているため、照明装置3とカメラ4を設置する際に、位置合わせをする必要がない。また、照明装置3側には光源群501を制御するための照明制御基板40や記憶装置502は不要となり、これらを有さない汎用的な照明装置3も利用することができる。ユーザはカメラ4に接続されている照明装置3を取り外し、別の種類の照明装置に交換することができる。例えば、本発明におけるマルチスペクトルイメージングに用いる照明装置3に変えて、白色光のみを照射するリング照明など他の種類の照明装置を適宜に選択できる。カメラ4は接続された照明装置3の種類を認識し、設定ユーザインタフェースに反映することが好ましい。これにより、ユーザは接続されている照明装置3に設定が可能な項目に対応したユーザインタフェース上で、照明の設定を行うことができる。認識の方法としては、照明装置3が照明種別情報を記憶しており、カメラ4がその情報を参照する方法などが考えられる。また、画像処理装置5が有する照明制御部512と撮像制御部513を、カメラ4の内部に設ける構成とし、撮像・照明系の制御を画像処理装置5とは独立して実行させる構成としてもよい。
図14は画像処理装置5の一部の機能を、カメラ4側に設けた構成例を示している。カメラ4は分光画像データ521、グレー画像データ522、設定情報523を記憶する記憶装置502を備え、カメラ4内部で分光画像データ521からグレー画像データ522を生成する処理をMSI処理部511が実行する。照明装置3はカメラ4の照明制御部512が制御する。検査設定時に、カメラ4は画像処理装置5に各波長で撮像された分光画像データ521と、MSI処理部511により生成されたグレー画像データ522を画像処理装置5に送信する。設定時には、各波長の照明強度や、各波長の分光画像データ521が検査に必要か否かをユーザが確認するために、画像処理装置5はカメラ4から分光画像データ521を取得し、表示部7に表示する。一方、検査運用時には、カメラ4から画像処理装置5への分光画像データ521の送信を行わず、検査対象であるグレー画像データ522のみを画像処理装置5に送信するようにしてもよい。このように、カメラ4に画像処理装置5の一部の機能を負担させることにより、カメラ4と画像処理装置5間の通信負荷が低減され、分散処理により処理が高速化する。なお、グレー画像データ522をカメラ4で生成するためにサーチ部532や移動補正部533がカメラ4に設けられてもよい。
図15は画像処理装置5の全ての機能をカメラ4に内蔵した構成例である。ユーザはカメラ4と照明装置3のみを設置するだけで良いため、設置時の手間がかからない。たとえば、カメラ4の大型化が許容され、高度な画像演算処理が不要な場合に、この構成は有利であろう。
<マルチスペクトルイメージング>
マルチスペクトルイメージングでは点灯色(波長)の異なる照明光が一つずつ順番にワーク2に照射され、各波長ごとの画像が取得される。たとえば、8種類の波長の照明光が照射される場合、8個の画像(分光画像)が取得される。8種類の波長は、紫外波長から近赤外波長までの8種類の狭帯域波長である。狭帯域波長とは、白色LEDが発光する光の波長(広帯域波長)の幅と比較して狭い波長をいう。たとえば、青色LEDが発光する光の波長の幅は、白色LEDが発光する光の波長幅よりもずっと狭いため、青色LEDが発光する光の波長は狭帯域波長である。なお、画像検査の中には8個の分光画像のすべてを必要としない画像検査もありうる。この場合、必要な波長の照明光だけがワーク2に照射される。一般に、8個の画像がそのまま画像検査に利用されることは少なく、8個の画像から一個のグレー画像が作成され(カラー濃淡変換)、このグレー画像(カラー濃淡画像)が画像検査に利用される。カラー濃淡変換はカラーグレー変換と呼ばれることもある。たとえば、カラー濃淡画像に対して二値化処理が実行されたり、エッジ検出処理が実行されたり、ブロブ処理が実行されたりして、ワーク2における特徴(例:ピン)の位置や寸法(長さや面積)、色がそれぞれ公差の範囲内に収まっているかが検査される。
図6を用いてカラー濃淡変換の一例を説明する。検査対象物であるワーク2のグレー画像を作成するには、良品(モデル)の登録色が必要となる。グレー画像は、登録色の色情報を基準に8個の分光画像を変換することで作成されるからである。
まず、設定モードにおいて、良品から取得された8個の分光画像においてユーザが指定した画像領域(指定領域)から登録色の色情報が抽出される。たとえば、良品がインスタント食品(例:ラーメン)であり、ある具材(例:海老)の数を画像検査により計数する場合、ユーザは、良品の画像を表示し、良品の画像おいて当該具材が含まれる矩形の指定領域を指定し、指定領域に含まれる画素から登録色の色情報が抽出される。登録色の色情報は、平均画素行列、分散共分散行列および指定領域に含まれる画素の数を含む。なお、色情報は、いわゆるスポイトツールにより抽出されてもよい。スポイトツールのUIは領域指定部516に実装されてもよい。
次に、検査モードにおいて、検査対象物であるワーク2について8個の分光画像が取得される。各分光画像に含まれるすべての画素について登録色に対する距離d(x)が求められる(xは8枚の分光画像の各画素値を要素とした8次元ベクトルである)。さらに、距離d(x)に予め定められたゲインgを乗算して積を求め、必要に応じてオフセットaを加え、各画素がとりうる最大階調Gmaxから積を減算することで得られる差Gが注目画素xのグレー階調となる。これは、G = Gmax − (g・d(x) + a)と表記される。
なお、複数の登録色が存在する場合は、各登録色を基準として複数のグレー画像が作成される。
<移動補正>
マルチスペクトルイメージングでは多数の点灯色の照明光が一つずつワーク2に照射されて、多数の分光画像が生成される。たとえば、図7が示すようにUVからIR2までの8種類の点灯色の照明光が順次にワーク2に照射されて8枚の分光画像が得られ、8枚の分光画像を合成することで一枚のグレー画像が作成される。ワーク2がライン1を搬送される場合、一枚目のUV画像におけるワーク2の位置と8枚目のIR2画像におけるワーク2の位置はずれている。点灯色の数が増加するほど、また、ライン1の搬送速度が増加するほど、ワーク2の位置のずれ量は大きくなる。このずれを無視してグレー画像G1を作成すると、正しいグレー画像が得られないため、画像検査の精度が低下してしまう。従って、ワーク2について移動補正を行ってからグレー画像が作成されれば、正しいグレー画像が作成される。
図8は移動補正の概念を示している。この例では、マルチスペクトルイメージング用の8種類の分光画像を取得する前と取得した後に移動補正のための画像MC1、MC2が取得される。ライン1におけるワーク2の搬送速度は一定であるため、各画像内でのワーク2の位置は線形の軌跡を描く。従って、各分光画像におけるワーク2を構成する画素の座標の対応関係(x方向のずれ量とy方向のずれ量)を求めておけば、各分光画像におけるワーク2の位置を重ねて、グレー画像G2を作成することができる。
より具体的には、補正画像MC1、MC2においてワーク2の特徴fがパターンサーチにより検知され、それぞれ特徴fの位置p1、p2が求められる。特徴fはパターンサーチにより検知可能な形状やエッジ(二つの特徴的なエッジ間の間隔)などであればよい。位置p1、p2の変化を示す直線の方程式を求めれば、各分光画像におけるワーク2の位置を補正することができる。つまり、各分光画像における座標系の対応関係を示す座標の変換式が決定される。
なお、ワーク2が線形に移動する場合は二つの移動補正用画像により移動補正が可能である。ワーク2が非線形に移動する場合は三つ以上の移動補正用画像が必要となる。ここでは、説明の簡明化のために、二つの移動補正用画像が使用されるケースが主に説明される。
●ユーザインタフェース
図9A、図9Bおよび図10は移動補正に関するパラメータを設定するためのユーザインタフェースを示している。図9Aは設定モードにおいて登録パターンが登録されるパターンサーチモード(事前登録モード)の設定UIを示している。図9Aにおいて設定UI900は、画像検査を実行する前に、UI管理部514によって表示部7に表示される。図9Bは運転モードにおいて登録パターンを動的に登録する追跡モードの設定UIを示している。図9Bが示すように、追跡モードでは、移動補正の基準となる特徴パターンが、画像検査を実行する運転モードにおいて登録される。UI管理部514は、設定UI900のうち特徴パターンの登録UIを運転モードにおいて表示部7に表示する。ユーザは運転モードにおいて登録パターンを抽出するための追跡領域TWを配置(設定)する。これにより追跡領域TW内の特徴が抽出される。図9Aと図9Bにおいて共通する事項には同一の参照符号が付与されている。
画像選択ボタン902は、画像表示領域901に表示される画像を選択するためのUIであり、画像選択部515に選択結果を渡す。
図9A、図9BにおいてCは複数の分光画像から合成して作成されたカラー画像を示している。ALは8種類あるすべての分光画像を示している。
ALがポインタ906によって操作されると、図10が示すように、画像選択部515はすべての分光画像を並べて画像表示領域901に表示する。このように並べて表示された複数の分光画像の中から複数の移動補正用画像がポインタ906によりクリックされることで選択されてもよい。UI管理部514や設定UI900は第一の移動補正用画像と第二の移動補正用画像との選択を受け付ける受付部として機能してもよい。
図9A、図9Bおよび図10においてUVは紫外線波長の照明光により取得された分光画像を示している。Bは青波長の照明光により取得された分光画像を示している。Gは緑波長の照明光により取得された分光画像を示している。AMはアンバー波長の照明光により取得された分光画像を示している。ORはオレンジ波長の照明光により取得された分光画像を示している。Rは赤波長の照明光により取得された分光画像を示している。IR1、IR2はそれぞれ赤外波長の照明光により取得された分光画像を示している。ただし、IR1の波長はIR2の波長よりも短い。MC1は第一の移動補正用画像である。MC2は第一の移動補正用画像である。図9A、図9Bにおいては画像表示領域901にはワーク2の画像が表示されている。
画像名の表示欄911は画像表示領域901に表示される画像の名称を表示するテキストボックスである。画像選択部515が画像の名称をテキストボックスに入力する。
図9Aにおいて編集ボタン912はパターンサーチの対象となる特徴を含む領域であるパターン領域PWのサイズと位置を編集するためのボタンである。
編集ボタン913は第一の移動補正用画像MC1において移動補正用の特徴fをサーチする範囲(サーチ領域SW)のサイズと位置を編集するためのボタンである。
図9Bにおいて編集ボタン914は第二の移動補正用画像MC2において移動補正用の特徴fを動的に登録するための範囲(追跡領域TW)のサイズと位置を編集するためのボタンである。なお、パターン領域PWと追跡領域TWとはそれぞれ移動補正ための特徴fを抽出する領域であり、機能としては共通している。
このようにワーク2の位置を検出するために利用される特徴fは設定モードにおいて事前登録されてもよいし、運転モードにおいて動的に登録されてもよい。
サーチ領域SWやパターン領域PWの登録は、原則として、設定モードにおいて実行される。これの編集ボタンがポインタ906によって押し下げられたことを検知すると、領域指定部516はポインタ906の動きに応じて各領域を設定する。また、画像処理部530は、パターン領域PWまたは追跡領域TW内の特徴を抽出して設定情報523に書き込む。抽出される特徴は画像そのものであってもよいし、輪郭であってもよいし、複数のエッジであってもよい。
点灯色選択部915は移動補正用画像を取得するために使用される照明光の波長(点灯色)を選択するためのプルダウンメニューである。点灯色設定部517は点灯色選択部915のプルダウンメニューから選択された点灯色の識別情報を照明光用の点灯色を指定する識別情報として設定情報523に書き込む。
照明装置3が白色LEDを搭載している場合、点灯色選択部915において、照明光の点灯色として、白色LEDを示すWが選択されうる。また、すべての点灯色の発光素子を点灯させることを意味するALが点灯色選択部915において選択されてもよい。WまたはALが選択されることで移動補正用の特徴のサーチが安定することが多い。なお、UVからIR2までのいずれかの狭帯域波長が選択される場合、移動補正用画像と検査用画像を作成するための分光画像とが兼用されてもよい。たとえば、UVが選択されると、UV画像は移動補正用画像として使用されるだけでなく、検査用画像を作成するための要素画像としても使用される。これにより、取得される画像の数が削減され、移動補正に関する作業時間が短縮される。
編集ボタン916は詳細設定を編集するためのボタンである。詳細設定としては、複数ある移動補正手法のうちから一つの移動補正手法を選択すること、パターンサーチにおけるサーチ角度を設定することなどが含まれてもよい。確定ボタン917は、移動補正に関する設定を確定するためのボタンである。キャンセルボタン918は今回の設定を取り消し、直前の設定やデフォルト設定に戻すためのボタンである。
●フローチャート
図11はプロセッサ510が実行する画像検査(運転モード)を示すフローチャートである。なお、ここでは移動補正のためのサーチモードはパターンサーチモードが適用されるものとする。そのため、移動補正に関する制御パラメータは設定モードにおいて既に決定されているものとする。なお、S1101ないしS1103の順番は、移動補正を実現できる限り、自由に入れ替え可能である。ただし、S1103はS1101の後に実行されるものとする。
S1101でプロセッサ510は第一の移動補正用画像を取得する。プロセッサ510は、設定情報523に従って第一の移動補正用画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。
照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第一の移動補正用画像を取得し、記憶装置520に書き込む。
S1102でプロセッサ510(MSI処理部511)はマルチスペクトルイメージング用の分光画像を取得する。MSI処理部511は設定情報523に従って照明光の点灯色を照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。
プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である分光画像を取得し、記憶装置520に書き込む。なお、分光画像は、原則として8種類の点灯色のすべてについて取得されてもよいし、一部の点灯色について取得されてもよい。分光画像を取得するために使用される点灯色は設定情報523に依存する。設定情報523により指定されたすべての分光画像が取得されると、プロセッサ510はS1103に進む。
S1103でプロセッサ510は第二の移動補正用画像を取得する。プロセッサ510は、設定情報523に従って第二の移動補正用画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第二の移動補正用画像を取得し、記憶装置520に書き込む。
S1104でプロセッサ510は画像処理部530に移動補正のためのパラメータを算出させ、当該パラメータを用いて各分光画像に移動補正を適用する。
たとえば、パターンサーチモードにおいて、移動補正部533は、サーチ部532に第一の移動補正用画像における特徴をサーチさせるとともに、第二の移動補正用画像における特徴をサーチさせる。なお、追跡モードで、移動補正部533は、第一の移動補正用画像から登録した特徴を第二の移動補正用画像においてサーチ部532にサーチさせる。移動補正部533は、第一の移動補正用画像における特徴の位置と第二の移動補正用画像における特徴の位置との変化量を算出する。
移動補正部533は、この変化量に基づき複数の分光画像における各画素の座標の対応関係を補正する。たとえば、UV画像におけるワーク2の座標と、IR1画像におけるワーク2の座標との対応関係とが求められる。求められた対応関係(座標変換式)を用いて各分光画像における座標を補正することで、図8に示したように各分光画像におけるワーク2の位置が重なり、正確なグレー画像が作成される。
S1105でプロセッサ510(MSI処理部511)は移動補正された複数の分光画像を変換してグレー画像(検査用画像)を作成する。なお、グレー画像に対していくつかの画像処理が適用されて検査用画像が作成されてもよい。
S1106でプロセッサ510は検査部531に画像検査を実行させる。検査部531は、MSI処理部511により作成された検査用画像に対して設定情報523により指定された検査ツールを用いて画像検査を実行する。判定部540は、検査部531から画像検査の結果を受け取り、ワーク2が良品条件を満たしているかどうかを判定する。
●点灯パターン
図8によれば、移動補正を行いながら分光画像を取得するための発光素子の点灯パターンの一例が示されている。この例によれば、第一の移動補正用画像に対して指定された点灯色の発光素子が点灯する。その後、UV、B、G、AM、OR、R、IR1、IR2の各発光素子が点灯する。最後に、第二の移動補正用画像に対して指定された点灯色の発光素子が点灯する。
図12は6つの点灯パターンを示している。ここではマルチスペクトルイメージングには4つの点灯色R、G、B、Yが使用されるものとする。YはRGB以外のいずれかの点灯色である。MCは移動補正用の共通の点灯色である。なお、図12は複数の分光画像が等間隔(一定の時間間隔)で取得されることを暗示している。
ケース(1)、(2)は線形補正のため点灯パターンである。ケース(1)はマルチスペクトルイメージングの前後において移動補正用の点灯色の発光素子が点灯し、2つの移動補正用画像が取得されることを示している。ケース(2)はマルチスペクトルイメージングの前に移動補正用の点灯色の発光素子が点灯し、2つの移動補正用画像が取得されることを示している。
ケース(3)ないし(5)は非線形補正のための点灯パターンを示している。上述したように非線形補正を実行するためには少なくとも三つの移動補正用画像が必要となる。移動補正用画像の枚数が増加すればするほど、移動補正の精度が高まるが、撮像時間が長くなる。なお、ケース(3)、(5)のように移動補正用画像が分散して取得されると、移動補正の精度が高まるであろう。
ケース(6)は、マルチスペクトルイメージング用の分光画像を移動補正用画像として兼用するケースである。これによりトータルでの画像枚数が削減され、撮像時間が短縮される。つまり、短時間でより多くの画像検査を実行可能となる。
<まとめ>
図1などが示すように、照明装置3は、互いに異なる点灯色の照明光を発生する複数の発光素子(LED33)を有し、各点灯色の照明光を個別に対象物(例:ワーク2の良品)に照射する照明部の一例である。
カメラ4は、一つ以上の点灯色の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部の一例である。プロセッサ510(照明制御部512、撮像制御部513など)は照明装置3を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、カメラ4を制御することでそれぞれ照明光の点灯色が同一または異なる複数の画像を生成させる制御部の一例である。なお、プロセッサ510は、撮像制御部513を介してカメラ4を制御し、カメラ4に複数の分光画像を一定の時間間隔で生成させる。このように、プロセッサ510は、照明部を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の検査用画像を一定の時間間隔で生成させるとともに、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された画像を第一の移動補正用画像とし、当該第一の移動補正用画像よりも後に、第一の移動補正用画像と同一の点灯色の照明光の下で取得され、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された第二の移動補正用画像を生成させる制御部として機能する。
サーチ部532は、複数の画像のうち同一の点灯色の照明光の下で取得された第一の移動補正用画像と、当該第一の移動補正用画像よりも後に生成された第二の移動補正用画像とのそれぞれについて特徴パターンの位置をサーチする。
MSI処理部511や移動補正部533などは、第一の移動補正用画像における特徴パターンの位置と第二の移動補正用画像における特徴パターンの位置との変化量に基づき複数の画像における各画素の座標の対応関係を補正する。
検査部531は補正部により各画素の座標の対応関係が補正された複数の画像に基づき対象物の画像検査を実行する。たとえば、検査部531はMSI処理部511が複数の分光画像を合成することでグレー画像を生成し、グレー画像を用いて、またはグレー画像をさらに画像処理して得られる検査画像を用いて画像検査を実行する。
これにより、点灯色が異なる複数の光源を備えた画像検査装置において移動するワークについての画像検査の精度が向上する。
上述したように、第一の移動補正用画像を生成するために対象物に照射された照明光の点灯色と、第二の移動補正用画像を生成するために対象物に照射された照明光の点灯色とは同一の点灯色である。これにより、移動補正の精度が向上する。つまり、移動補正用の少なくとも2つの画像については同一の点灯色を使用することで照明条件が整合するため、特徴パターンが精度よく検出され、移動補正の精度が向上する。
なお、複数の画像のうち、第一の移動補正用画像と第二の移動補正用画像とを除いた残りの複数の画像を生成するために対象物に照射された照明光の点灯色はそれぞれ異なっている。このように、残りの複数の画像はマルチスペクトルイメージング用の分光画像であってもよい。
プロセッサ510は、第一の移動補正用画像と第二の移動補正用画像を生成する際に複数の発光素子を同時に点灯してもよい。これにより疑似的に白色光に近い照明光が実現される。つまり、白色光源を省略することができる。
もちろん、照明装置3は、さらに白色の照明光を発生する白色発光素子(白色LEDなど)を有していてもよい。プロセッサ510は、第一の移動補正用画像と第二の移動補正用画像を生成する際に白色発光素子を点灯する。白色光により明確化される特徴パターンもある。このような特徴については白色光が適している。
第一の移動補正用画像を生成するために対象物に照射された照明光の点灯色と、第二の移動補正用画像を生成するために対象物に照射された照明光の点灯色とは、それぞれ同一の狭帯域波長(狭波長帯域)に属する点灯色であってもよい。たとえば、第一の移動補正用画像と第二の移動補正用画像との双方がUVの照明光により取得されてもよい。
ただし、移動補正の精度が十分に確保できるのであれば、第一の移動補正用画像の点灯色と第二の移動補正用画像の点灯色とが異なっていてもよい。たとえば、第一の移動補正用画像と第二の移動補正用画像がそれぞれIR1やIR2などの照明光により取得されてもよい。
第一の移動補正用画像においても第二の移動補正用画像においてもサーチされるのは同一の特徴パターンである。そのため、同一または類似した点灯色が使用されると、特徴パターンのサーチ精度が向上しよう。
表示部7は複数の画像を並べて表示してもよい。UI管理部514は、表示部7に表示された複数の画像から第一の移動補正用画像と第二の移動補正用画像との選択を受け付ける受付部して機能してもよい。このように複数の画像が並べて表示されることで、ユーザは、移動補正用画像に適した画像を容易に選択できるようになろう。
UI管理部514や領域指定部516は、画像検査に関する設定を実行する設定モードにおいて、表示された対象物の画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する登録部として機能してもよい。画像検査を実行する運転モードにおいて、サーチ部532は、登録部により予め登録された特徴パターンをサーチする。このように特徴パターンは検査モード(運転モード)の前に実行される設定モードにおいて登録されてもよい。
UI管理部514は、設定モードにおいて生成された第一の移動補正用画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する。また、UI管理部514や領域指定部516は、設定モードにおいて生成された第一の移動補正用画像または第二の移動補正用画像に対してユーザにより指定されたサーチ領域を受け付けてもよい。サーチ領域の座標は、一般に、ワーク2の位置に依存しない座標であり、たとえば、画像の左上を基準とした座標である。この場合に、サーチ部532は、運転モードにおいて、サーチ領域内で特徴パターンをサーチする。
サーチ部532は、運転モードにおいて、第一の移動補正用画像のサーチ領域において特徴パターンをサーチするとともに、第二の移動補正用画像についても当該サーチ領域において特徴パターンをサーチする。
なお、特徴パターンは画像検査を実行する運転モードにおいて動的に登録されてもよい。ただし、特徴パターンをサーチするためのサーチ領域については設定モードにおいて設定される。
UI管理部514や領域指定部516は、画像検査が実行される運転モードにおいて動的に検査対象物の特徴が取得される追跡領域の指定を受け付ける領域受付部として機能する。UI管理部514や領域指定部516は、運転モードにおいて取得された第一の移動補正用画像の追跡領域内に存在する特徴を特徴パターンとして登録する登録部としても機能する。この時点で第一の移動補正用画像における特徴の座標が確定する。
さらに、サーチ部532は、運転モードにおいて取得された第二の移動補正用画像において、登録部により登録された特徴パターンをサーチする。これにより、第二の移動補正用画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。
なお、領域受付部は、第一の移動補正用画像または第二の移動補正用画像とのうち当該第二の移動補正用画像に対してユーザにより指定された追跡領域を受け付けてもよい。この時点で第二の移動補正用画像における特徴の座標が確定する。
サーチ部532は、運転モードにおいて生成された第一の移動補正用画像において、登録部により登録された特徴パターンをサーチする。これにより、第一の移動補正用画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。
第一の移動補正用画像は、複数の画像のうち最初に生成された画像であってもよい。また、第二の移動補正用画像は、複数の画像のうち最後に生成された画像であってもよい。このように、複数の分光画像を取得する前と後において移動補正用画像が取得されることで、移動補正の精度が向上しよう。これは、内挿による特徴の位置の推定精度は、外挿による特徴の位置の推定精度よりも高いからである。
サーチ部532は、さらに、第二の移動補正用画像よりも後に生成された第三の移動補正用画像について特徴パターンの位置をサーチしてもよい。移動補正部533は、第一の移動補正用画像における特徴パターンの位置と第二の移動補正用画像における特徴パターンの位置との変化量に基づき、第一の移動補正用画像から記第二の移動補正用画像までの複数の画像における各画素の座標の対応関係を補正する。また、移動補正部533は、第二の移動補正用画像における特徴パターンの位置と第三の移動補正用画像における特徴パターンの位置との変化量に基づき、第二の移動補正用画像から記第三の移動補正用画像までの複数の画像における各画素の座標の対応関係を補正する。このように3つ以上の移動補正用画像を使用することで、ワーク2の位置が非線形に変化するケースにおいても精度よく移動補正が実現されよう。
2...ワーク、3...照明装置、4...カメラ、5...画像処理装置、511...MSI処理部、512...照明制御部、513...撮像制御部、531...検査部

Claims (13)

  1. 検査領域を一方向に移動するワークの外観を検査するための画像検査装置であって、
    互いに異なる3つ以上の点灯色の照明光を発生する複数の発光素子を有し、各点灯色の照明光を対象物に照射する照明部と、
    一つ以上の点灯色の照明光ごとに前記対象物からの反射光を受光して前記対象物の画像を生成する撮像部と、
    前記照明部を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、前記撮像部を制御することでそれぞれ照明光の点灯色が異なる複数の検査用画像を一定の時間間隔で生成させるとともに、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された画像を第一の移動補正用画像とし、当該第一の移動補正用画像よりも後に、前記第一の移動補正用画像と同一の点灯色の照明光の下で取得され、当該複数の検査用画像の内のいずれか、またはいずれかの点灯色の照明光を別途に対象物に照射して取得された第二の移動補正用画像を生成させる制御部と、
    前記第一の移動補正用画像と、前記第二の移動補正用画像とのそれぞれについて特徴パターンの位置をサーチするサーチ部と、
    前記第一の移動補正用画像における前記特徴パターンの位置と前記第二の移動補正用画像における前記特徴パターンの位置との変化量に基づき前記複数の検査用画像における各画素の座標の対応関係を補正する補正部と、
    前記補正部により各画素の座標の対応関係が補正された前記複数の検査用画像に基づき前記対象物の画像検査を実行する検査部と
    前記制御部が前記照明部および前記撮像部を制御して、互いに異なる3つ以上の点灯色の照明光ごとに生成された前記対象物の画像を同時または切り替え可能に表示部に表示させながら、前記第一の移動補正用画像および前記第二の移動補正用画像を生成するための点灯色の選択を受け付けるUI管理部と、を備え、
    前記制御部は、前記UI管理部にて選択された点灯色の照明光により前記第一の移動補正用画像および前記第二の移動補正用画像を生成させることを特徴とする画像検査装置。
  2. 前記画像検査装置はさらに、グレー画像を生成するための処理部を備え、
    前記UI管理部は、前記表示部に前記対象物の画像を表示させて、該対象物の画像において検査領域の指定を受け付け、
    前記補正部は、前記UI管理部にて選択された点灯色の照明光により生成された前記第一の移動補正用画像における前記特徴パターンの位置と前記第二の移動補正用画像における前記特徴パターンの位置との変化量に基づき前記複数の検査用画像における各画素の座標の対応関係を補正し、
    前記処理部は、前記対象物の画像において指定された前記検査領域に含まれる画素から色情報を抽出して、該色情報を登録色とするとともに、前記補正部にて補正された前記複数の検査用画像それぞれの各画素の色情報と該登録色の色情報との色空間上における距離に基づいて算出したグレー階調を各画素の階調とするグレー画像を生成し、
    前記検査部は、前記グレー画像に基づいて画像検査を実行することを特徴とする請求項1に記載の画像検査装置。
  3. 前記処理部は、前記第一の移動補正用画像および前記複数の検査用画像それぞれの各画素の色情報と前記登録色の色情報との色空間上における距離に基づいて算出したグレー階調を各画素の階調とするグレー画像を生成し、
    前記検査部は、前記グレー画像に基づいて画像検査を実行することを特徴とする請求項2に記載の画像検査装置。
  4. 前記複数の検査用画像のうち、前記第一の移動補正用画像と前記第二の移動補正用画像とを除いた残りの複数の検査用画像を生成するために前記対象物に照射された照明光の点灯色はそれぞれ異なっていることを特徴とする請求項1ないし3のいずれか一項に記載の画像検査装置。
  5. 前記第一の移動補正用画像を生成するために前記対象物に照射された照明光の点灯色と、前記第二の移動補正用画像を生成するために前記対象物に照射された照明光の点灯色とは、それぞれ同一の狭帯域波長に属する点灯色であることを特徴とする請求項1に記載の画像検査装置。
  6. 前記画像検査に関する設定を実行する設定モードにおいて、前記UI管理部は、前記表示部に表示された前記対象物の画像において領域の指定を受け付け、該指定された領域の特徴を特徴パターンとして登録し、
    前記画像検査を実行する運転モードにおいて、前記サーチ部は、前記登録された特徴パターンをサーチすることを特徴とする請求項1ないし5のいずれか一項に記載の画像検査装置。
  7. 前記UI管理部は、前記設定モードにおいて生成された前記第一の移動補正用画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録することを特徴とする請求項6に記載の画像検査装置。
  8. 前記UI管理部は、前記設定モードにおいて生成された前記第一の移動補正用画像または前記第二の移動補正用画像に対してユーザにより指定されたサーチ領域を受け付け、
    前記サーチ部は、前記運転モードにおいて、前記サーチ領域で前記特徴パターンをサーチすることを特徴とする請求項6に記載の画像検査装置。
  9. 前記UI管理部は、前記画像検査が実行される運転モードにおいて動的に検査対象物の特徴が取得される追跡領域の指定を受け付け、運転モードにおいて取得された前記第一の移動補正用画像の追跡領域内に存在する特徴を取得して特徴パターンとして登録し、
    前記サーチ部は、前記運転モードにおいて取得された前記第二の移動補正用画像に対して、前記登録された特徴パターンをサーチすることを特徴とする請求項1ないし5のいずれか一項に記載の画像検査装置。
  10. 前記UI管理部は、前記画像検査が実行される運転モードにおいて動的に検査対象物の特徴が取得される追跡領域の指定を受け付け、運転モードにおいて取得された前記第二の移動補正用画像の該追跡領域内に存在する特徴を取得して特徴パターンとして登録し、
    前記サーチ部は、前記運転モードにおいて取得された前記第一の移動補正用画像に対して、前記登録された特徴パターンをサーチすることを特徴とする請求項1ないし5のいずれか一項に記載の画像検査装置。
  11. 前記第一の移動補正用画像は、前記複数の検査用画像のうち最初に生成された画像である請求項1ないし10のいずれか一項に記載の画像検査装置。
  12. 前記第二の移動補正用画像は、前記複数の検査用画像のうち最後に生成された画像である請求項1ないし11のいずれか一項に記載の画像検査装置。
  13. 前記サーチ部は、さらに、前記第二の移動補正用画像よりも後に生成された第三の移動補正用画像について前記特徴パターンの位置をサーチし、
    前記補正部は、前記第一の移動補正用画像における前記特徴パターンの位置と前記第二の移動補正用画像における前記特徴パターンの位置との変化量に基づき、前記第一の移動補正用画像から記第二の移動補正用画像までの複数の検査用画像における各画素の座標の対応関係を補正し、前記第二の移動補正用画像における前記特徴パターンの位置と前記第三の移動補正用画像における前記特徴パターンの位置との変化量に基づき、前記第二の移動補正用画像から記第三の移動補正用画像までの複数の検査用画像における各画素の座標の対応関係を補正する
    ことを特徴とする請求項1ないし12のいずれか一項に記載の画像検査装置。
JP2017093358A 2017-05-09 2017-05-09 画像検査装置 Active JP6917762B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2017093358A JP6917762B2 (ja) 2017-05-09 2017-05-09 画像検査装置
US15/925,804 US20180330489A1 (en) 2017-05-09 2018-03-20 Image Inspection Device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017093358A JP6917762B2 (ja) 2017-05-09 2017-05-09 画像検査装置

Publications (2)

Publication Number Publication Date
JP2018189560A JP2018189560A (ja) 2018-11-29
JP6917762B2 true JP6917762B2 (ja) 2021-08-11

Family

ID=64096140

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017093358A Active JP6917762B2 (ja) 2017-05-09 2017-05-09 画像検査装置

Country Status (2)

Country Link
US (1) US20180330489A1 (ja)
JP (1) JP6917762B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
JP6499139B2 (ja) * 2016-10-14 2019-04-10 矢崎総業株式会社 検査装置
JP6857079B2 (ja) * 2017-05-09 2021-04-14 株式会社キーエンス 画像検査装置
CN112533317B (zh) * 2018-12-29 2023-09-08 中国计量大学 一种场景式教室智能照明优化方法
JP7231462B2 (ja) * 2019-04-05 2023-03-01 株式会社キーエンス 画像検査システム及び画像検査方法
IT201900005536A1 (it) * 2019-04-10 2020-10-10 Doss Visual Solution S R L Metodo di acquisizione immagini per una macchina di ispezione ottica
JP7273659B2 (ja) * 2019-08-29 2023-05-15 株式会社キーエンス 画像計測システム
US11689818B2 (en) * 2020-01-16 2023-06-27 Quantum Corporation System and method for evaluating the internal state of a media library
CN111521616B (zh) * 2020-04-28 2023-03-21 成都国铁电气设备有限公司 一种用于绝缘器缺陷检测的触发方法和系统
DE102020131463A1 (de) * 2020-11-27 2022-06-02 evotron GmbH & Co. KG Anordnung zum Betreiben von segmentierten Ringbeleuchtungen oder segmentierten Drei- oder Vierseitenbeleuchtungen
FR3118489A1 (fr) * 2020-12-28 2022-07-01 Safran Procédé de contrôle non destructif pour une pièce aéronautique
US11717973B2 (en) * 2021-07-31 2023-08-08 Cognex Corporation Machine vision system with multispectral light assembly
CN113793333B (zh) * 2021-11-15 2022-02-18 常州微亿智造科技有限公司 应用于工业质检的缺陷图片生成方法及装置
WO2023105849A1 (ja) * 2021-12-07 2023-06-15 パナソニックIpマネジメント株式会社 検査方法および検査装置
CN115307554B (zh) * 2022-10-12 2023-03-24 山东创新精密科技有限公司 基于目标图像处理的铝型材宽度检测设备及方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001229381A (ja) * 2000-02-15 2001-08-24 Matsushita Electric Works Ltd 画像処理検査システムおよびその方法
JP2003121371A (ja) * 2001-10-10 2003-04-23 Nippon Steel Corp 疵検査装置及び疵検査方法
JP4521858B2 (ja) * 2004-02-12 2010-08-11 株式会社キーエンス 画像処理装置
JP3140462U (ja) * 2008-01-11 2008-03-27 名古屋電機工業株式会社 基板検査装置
KR100902170B1 (ko) * 2008-05-19 2009-06-10 (주)펨트론 표면형상 측정장치
JP5370056B2 (ja) * 2008-11-04 2013-12-18 オムロン株式会社 画像処理装置
CA2913116A1 (en) * 2013-05-23 2014-11-27 Centro Sviluppo Materiali S.P.A. Method for the surface inspection of long products and apparatus suitable for carrying out such a method
JP6444027B2 (ja) * 2013-12-09 2018-12-26 キヤノン株式会社 情報処理装置、情報処理装置の制御方法、情報処理システムおよびプログラム
JP6470506B2 (ja) * 2014-06-09 2019-02-13 株式会社キーエンス 検査装置
JP6424020B2 (ja) * 2014-06-09 2018-11-14 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6408259B2 (ja) * 2014-06-09 2018-10-17 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6403445B2 (ja) * 2014-06-09 2018-10-10 株式会社キーエンス 検査装置、検査方法およびプログラム
WO2016092646A1 (ja) * 2014-12-10 2016-06-16 株式会社ニレコ 魚種判別装置および魚種判別方法

Also Published As

Publication number Publication date
JP2018189560A (ja) 2018-11-29
US20180330489A1 (en) 2018-11-15

Similar Documents

Publication Publication Date Title
JP6917762B2 (ja) 画像検査装置
JP6857079B2 (ja) 画像検査装置
US10304176B2 (en) Image inspection device
JP6917761B2 (ja) 画像検査装置
JP6981775B2 (ja) 画像検査装置および画像検査方法
JP6919982B2 (ja) 画像検査装置
JP6403445B2 (ja) 検査装置、検査方法およびプログラム
JP7117420B2 (ja) 画像検査装置
JP2019168285A (ja) 画像処理装置
JP6601264B2 (ja) 照明条件設定装置、照明条件設定方法及び照明条件設定用コンピュータプログラム
JP6280451B2 (ja) 検査装置
JP6931552B2 (ja) 画像検査装置
JP6669523B2 (ja) ダイボンダおよび半導体装置の製造方法
JP6638098B2 (ja) 検査装置
JP6269816B2 (ja) Pos端末、情報処理装置、ホワイトバランス調整方法およびプログラム
JP6432968B2 (ja) 物体形状推定装置及びプログラム
US10896499B2 (en) Image processing system, image processing device and image processing program
JP6475875B2 (ja) 検査装置
JP2016018559A (ja) 物体検出用撮像システム
US20230252637A1 (en) System and method for improving image segmentation

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200326

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210519

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210702

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210720

R150 Certificate of patent or registration of utility model

Ref document number: 6917762

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150