JP6981775B2 - 画像検査装置および画像検査方法 - Google Patents

画像検査装置および画像検査方法 Download PDF

Info

Publication number
JP6981775B2
JP6981775B2 JP2017093362A JP2017093362A JP6981775B2 JP 6981775 B2 JP6981775 B2 JP 6981775B2 JP 2017093362 A JP2017093362 A JP 2017093362A JP 2017093362 A JP2017093362 A JP 2017093362A JP 6981775 B2 JP6981775 B2 JP 6981775B2
Authority
JP
Japan
Prior art keywords
image
color
unit
lighting
light
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017093362A
Other languages
English (en)
Other versions
JP2018189564A (ja
Inventor
学 木戸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Keyence Corp
Original Assignee
Keyence Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Keyence Corp filed Critical Keyence Corp
Priority to JP2017093362A priority Critical patent/JP6981775B2/ja
Publication of JP2018189564A publication Critical patent/JP2018189564A/ja
Application granted granted Critical
Publication of JP6981775B2 publication Critical patent/JP6981775B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、マルチスペクトルイメージングを用いた画像検査装置および画像検査方法に関する。
商品(ワーク)が設計通りに生産されたかどうかを判定するためにワークを撮像して得られた画像を検査する画像検査装置は非常に有用である。このような画像検査ではワークの形状や寸法、色などが検査される。特許文献1によれば印刷物などの検査対象物を撮像して色情報を取得し、高精度に色検査を実行する色検査装置が提案されている。
特開平09−126890号公報
画像検査装置は適切に調整された照明装置によりワークを照明してワークの画像を取得し、ワークが合格基準を満たしているかどうかを判定する。画像検査装置はワークが照明装置により照明されることを前提としているため、外乱光がワークに照射されてしまうと検査精度が低下する。とくにマルチスペクトルイメージングでは、それぞれ点灯色の異なる照明光が個別にワークに照射されて複数の分光画像が生成されるため、点灯色とは異なる色の外乱光は検査精度を低下させる大きな要因となりうる。画像検査装置はワークを製造する工場に設置されるため、工場内に設置された蛍光灯の光や工場の窓から入射する太陽光などは外乱光となりうる。これらの外乱光は時間の経過とともに変化することがある。たとえば、午前には太陽光が入射するが、午後には太陽光が入射しないような設置環境も存在するだろう。そこで、本発明は、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響を低減することで画像検査の精度が向上させることを目的とする。
本発明の画像検査装置は、たとえば、
互いに異なる3つ以上の点灯色の照明光を発生する複数の発光素子を有し、各点灯色の照明光を対象物に照射する照明部と、
前記対象物からの反射光を受光して前記3つ以上の点灯色それぞれに対応する複数の前記対象物の分光画像を生成する撮像部と、
前記照明部と前記撮像部を制御して、前記複数の発光素子が消灯した状態で前記撮像部に外乱光による前記対象物からの反射光を受光させて前記対象物の外乱光画像を取得させる制御部と、
複数の分光画像のそれぞれから前記外乱光画像を減算する減算部と、
前記外乱光画像を減算された複数の分光画像に基づいて生成される前記対象物のカラー画像を表示する表示部と、
前記表示部に表示された対象物のカラー画像に対して登録色を抽出するための抽出領域の指定を受け付ける受付部と、
前記外乱光画像を減算された複数の分光画像のそれぞれから前記抽出領域に含まれる画素の色の分布に基づく登録色を抽出する抽出部と、
前記外乱光画像を減算された複数の分光画像の各画素の色情報と前記登録色の色情報との色空間上における距離に基づいてグレー画像を生成する合成部と
前記グレー画像を用いて前記対象物を検査する検査部と
を有する画像検査装置を提供する。
本発明によれば、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響が低減されるため、画像検査の精度が向上する。
画像検査装置を示す図 照明装置を示す図 照明装置を構成する部品を示す図 照明装置の電気的な構成を示す図 画像処理装置の機能を示す図 マルチスペクトルイメージングにおけるカラー濃淡変換の原理を示す図 前景背景画像の作成工程を示す図 色抽出UIを示す図 外乱光の低減処理を含む色抽出処理を示す図 画像検査を示すフローチャート ワークが移動することの問題点を説明する図 マルチスペクトルイメージングにおける移動補正の原理を説明する図 移動補正に関するユーザインタフェースを示す図 移動補正に関するユーザインタフェースを示す図 移動補正に関するユーザインタフェースを示す図 画像検査を示すフローチャート 点灯パターンを示す図
以下に本発明の一実施形態を示す。以下で説明される個別の実施形態は、本発明の上位概念、中位概念および下位概念など種々の概念を理解するために役立つであろう。また、本発明の技術的範囲は、特許請求の範囲によって確定されるのであって、以下の個別の実施形態によって限定されるわけではない。
図1は外観検査システム(画像検査装置)の一例を示す図である。ライン1は検査対象物であるワーク2を搬送する搬送ベルトなどである。照明装置3は互いに異なる波長の検査光(照明光)を発生する複数の発光素子を有し、各波長の照明光を個別に対象物に照射する照明部の一例である。なお、複数の方向から照明光をワーク2に対して照射するために、複数の同一波長の発光素子が設けられてもよい。カメラ4は照明光により照明された検査対象物からの反射光を受光して輝度画像(分光画像)を生成する撮像手段の一例である。画像処理装置5は、各波長について設定された照明強度で発光素子を順番に点灯させることで画像検査の対象となる検査対象物を照明し、撮像部により取得された複数の検査用画像を用いて画像検査を実行する検査部を有する検査装置である。表示部7は検査に関連する制御パラメータを設定するためのユーザインタフェースや検査用画像などを表示する表示装置である。入力部6は、コンソール、ポインティングデバイス、キーボードなどであり、制御パラメータを設定するために使用される。
<照明装置の構成>
図2(A)は照明装置3の斜視図である。図2(B)は照明装置3の上面図である。図2(C)は照明装置3の底面図である。図2(D)は照明装置3の側面図である。照明装置3の筐体は上ケース21と下ケース22を有している。下ケース22の下部には複数の光源(LEDなどの発光素子)のそれぞれが出力する光を拡散させる光拡散部材23が配置されている。図2(A)や図2(C)が示すように上ケース21や下ケース22と同様に光拡散部材23も円環状を成している。図2(B)や図2(D)が示すように上ケース21の上面にはコネクタ24が設けられている。コネクタ24には照明装置3に格納されている照明制御基板と画像処理装置5とが通信するためのケーブルが接続される。照明制御基板に実装される一部の機能は照明装置3の外部に照明コントローラとして設けられていてもよい。つまり、照明装置3と画像処理装置5との間には照明コントローラが介在してもよい。
図3(A)は照明装置3に格納されている制御基板31とLED基板32とを示す側面図である。制御基板31は点灯制御部が実装された第二基板の一例である。LED基板32は複数の光源が実装された第一基板の一例である。図3(B)はLED基板32の上面図である。図3(C)は照明装置3のうちLED33の付近を拡大した断面図である。図3(D)はLED基板32の底面図である。図3(E)はLED基板32のうちLED33の付近を拡大した側面図である。
制御基板31には照明制御基板やコネクタ24が配置されている。光源群を構成するLEDなどの発光素子はLED基板32に搭載されている。図3(B)が示すように、本実施例では四方向から照明光を照射するために4つのLED基板32が設けられている。四方向から照明光を照射可能とすることでフォトメトリックステレオ用の画像を取得できるようになる。つまり、照明装置3はマルチスペクトルイメージングだけでなく、フォトメトリックステレオのために利用されてもよい。1つのLED基板32には4つのLED33が配置されているものとする。これにより光源群は16個の発光素子により構成されている。ただし、より多数の発光素子が設けられてもよい。たとえば、一つLED基板32には8つのLED33が配置されており、8つのLED33が発光する光の波長はいずれも異なっていてもよい。図3(C)、図3(D)および図3(E)が示すように、複数のLED33のうち隣り合った2つのLED33の間には遮光部材35が配置されている。多数のLED33を密接に配置すると、隣り合った2つのLED33からそれぞれ照射される照明光が光拡散部材23の同一の領域を通過することがある。この場合、点灯パターンに応じて一方のLED33を非点灯とし、かつ、他方のLED33を点灯した場合と、他方のLED33を非点灯とし、かつ、一方のLED33を点灯した場合とで、ワーク2の表面には同一の照明方向から同一の光量で照明光が照射されてしまう。これでは高い精度で検査画像を生成することが難しくなる。そこで、隣り合った2つのLED33の間に遮光部材35を配置することで、隣り合った2つのLED33について光量の均一性と光源の独立性とのバランスを取っている。図3(C)が示すようにLED33の光の射出方向A1と、主な照明方向A2とは一致していない。そこで、反射鏡34を配置することでLED33から射出される光を光拡散部材23の方向へ偏向している。これによりLED33が発光した光を効率よくワーク2へ照射できるようになろう。この例では射出方向A1と反射鏡34の反射方向とが概ね直交しているが、これは光拡散部材23の断面形状が円弧を成しており(図3(C))、円弧に関する角度(中心角)が約90度になっているからである。このように中心角を大きくすることで、照明装置3をワーク2に対して遠ざけたり、近づけたりしてもワーク2の表面に対してほぼ均一な平行光を照射しやすくなる。
<照明装置の回路構成>
図4は照明装置3の回路構成の一例を示している。この例では光源群を構成する4つのLEDグループのうち1つのグループを示している。4つのLED33a〜LED33dは直列に接続されている。電圧が可変の可変電源41は照明制御基板40によって指定される電圧値(例:2V〜20V)の電圧を生成して出力する。可変定電流源42は、照明制御基板40によって指定される電流値(例:0A〜1A)となるようにLEDグループに流れる電流を調整する。このような電流制御方式を採用することでリニアリティの高い調光を実現しやすくなる。また、可変定電流源42は、可変定電流源42に印加されている電圧の値を検出して照明制御基板40にフィードバックし、過電圧から可変定電流源42を保護している。LED33a〜LED33dのそれぞれには並列にスイッチ43a〜スイッチ43dが接続されている。照明制御基板40の点灯制御部45はこれらのスイッチ43a〜スイッチ43dを個別に開閉させることで、LED33a〜LED33dのそれぞれを個別に点灯と非点灯とを切り替えることができる。このように、LED33a〜LED33dのそれぞれに並列にスイッチ43a〜スイッチ43dを接続することで、LED33a〜LED33dのいずれか1つを点灯させたり、すべてを点灯させたりするといった個別点灯が可能となる。これは様々な点灯パターンを実現するのに役立っている。なお、点灯制御部45は可変定電流源42とグランドとの間に挿入されたメインスイッチ43eのオン/オフを切り替えることで1つのLEDグループ単位での点灯制御を実行する。通信部44は点灯パターンを指示する制御信号や点灯の開始を指示するトリガー信号を画像処理装置5の照明制御部から受信し、点灯制御部45に渡す。点灯制御部45は、制御信号に対応する点灯パターンデータ47を記憶部46から読み出し、点灯パターンデータ47に従ってスイッチ43a〜スイッチ43dを制御する。
<機能ブロック>
図5は検査装置のブロック図である。この例では照明装置3、カメラ4および画像処理装置5がそれぞれ個別の筐体に収容されているが、これは一例に過ぎず、適宜に一体化されてもよい。照明装置3は、マルチスペクトルイメージングを実現する照明装置であるが、フォトメトリックステレオ法に従って検査対象物を照明する照明手段として利用されてもよい。照明装置3は光源群501とこれを制御する照明制御基板40を備えている。すでに図3に示したように、複数の発光素子で1つのセグメントが構成され、さらに複数のセグメントによって光源群501が構成されていてもよい。セグメントの数は一般的には4つであるが、3つ以上であればよい。これは3方向以上の照明方向からワーク2に照明光を照射できれば、フォトメトリックステレオ法により検査画像を生成できるからである。各セグメントにはそれぞれ波長が異なる照明光を出力する複数の発光素子(LED33)が設けられている。複数の発光素子には白色LEDが含まれていてもよい。白色LEDはマルチスペクトルイメージングには使用されず、他の検査画像を作成したり、ワーク2の移動補正用の画像を作成するために使用されたりする。図1や図3に示したように照明装置3の外形はリング状をしていてもよい。また、照明装置3は、それぞれ分離した複数の照明ユニットにより構成されていてもよい。照明制御基板40は、画像処理装置5から受信した制御コマンドに応じて光源群501の点灯タイミングや照明パターン(点灯パターン)を制御する。マルチスペクトルイメージングで分光画像を取得するには択一的に選択された波長の照明光をワーク2に照射するが、マルチスペクトルイメージング以外の手法が採用される場合は、複数の波長の照明光が同時に照射されてもよい。照明制御基板40は照明装置3に内蔵されているものとして説明するが、カメラ4に内蔵されていてもよいし、画像処理装置5に内蔵されていてもよいし、これらからは独立した筐体に収容されていてもよい。
カメラ4は照明装置3により照明された検査対象物からの反射光を受光して輝度画像を生成する撮像手段の一例であり、画像処理装置5からの制御コマンドに応じて撮像処理を実行する。カメラ4はワーク2の輝度画像を作成して画像処理装置5に転送してもよいし、撮像素子から得られる輝度信号を画像処理装置5に転送し、画像処理装置5が輝度画像を生成してもよい。輝度信号は輝度画像の元になる信号であるため、広義には輝度信号も輝度画像である。また、カメラ4は、照明装置3が出力する各波長の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部として機能する。
画像処理装置5は、コンピュータの一種であり、CPUやASICなどのプロセッサ510と、RAM、ROM、可搬記憶媒体などの記憶装置520と、ASICなどの画像処理部530と、ネットワークインタフェースなどの通信部550とを有している。プロセッサ510は検査ツールの設定や、制御パラメータの調整、検査画像の生成などを担当する。とりわけ、MSI処理部511は、マルチスペクトルイメージング(MSI)に従って、カメラ4により取得された複数の輝度画像(分光画像)からワーク2のグレー画像を作成したり、グレー画像から検査画像を作成したりする。減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。外乱光画像は、照明装置3が有する複数の発光素子のすべてを消灯し、外乱光だけが照射されているワーク2を撮像することで取得された画像である。合成部562は外乱光画像を減算された複数の分光画像を合成して検査画像を生成する。色抽出部563は複数の分光画像のそれぞれから抽出領域に含まれる画素の色の分布に基づく登録色を抽出する。合成部562は登録色を使用して複数の分光画像をグレー画像(カラー濃淡画像)に変換する変換部564を有していてもよい。照明制御部512は、照明制御基板40に対して制御コマンドを送信することで点灯パターンや照明切り替えタイミングなどを制御する。撮像制御部513は、カメラ4を制御する。
UI管理部514は、検査ツールを設定するためのユーザインタフェース(UI)や検査画像を生成するために必要となるパラメータを設定するためのUIなどを表示部7に表示し、入力部6から入力された情報従って検査ツールやパラメータを設定する。検査ツールには、ワーク2が備える特定の特徴(例:ピン)の長さを計測するツールや特徴の面積を計測するツールや、ある特徴から別の特徴までの距離(例:ピン間隔)を計測するツールや、特定の特徴の数を計測するツールや、特定の特徴に傷が有るか無いかを検査するツールなどが含まれてもよい。とりわけ、UI管理部514はマルチスペクトルイメージングや移動補正に関する制御パラメータを設定するためのUIを表示部7に表示する。画像選択部515はUIを通じてユーザにより選択された画像の画像データを記憶装置520から読み出してUI内の画像表示領域に表示する。領域指定部516は表示された画像に対して検査ツールの検査領域(測定領域)、パターン領域PW、サーチ領域SW、追跡領域TWなどの指定をユーザから受け付ける。なお、パターン領域PWや追跡領域TWは移動補正のための特徴パターンを登録するための領域である。サーチ領域SWは特徴パターンがサーチされる領域である。また、領域指定部516は、これらの指定領域の形状(例:矩形、円、楕円、任意形状)の選択を受け付けて指定領域を示す枠線の形状をUIに反映させたりする。点灯色設定部517は、ユーザの指示に従って移動補正用の照明光の波長(点灯色)を設定する。UI管理部514はユーザにより設定されたこれらの制御パラメータを設定情報523に保存する。
画像処理部530はマルチスペクトルイメージングにより取得された検査画像に対して検査ツールを適用して各種の計測を実行する検査部531などを有している。サーチ部532は画像検査の前に設定された特徴または画像検査中に動的に設定された特徴を、検査画像に配置されたサーチ領域SW内でサーチし、見つかった特徴の位置を求める。移動補正部533は、移動補正用の画像から見つかった特徴の位置の変化量に基づきマルチスペクトルイメージング用の複数の分光画像の座標系またはワーク2の座標(位置)を補正する。この補正作業は、補正のための変換式(補正式)を作成する工程と、変換式を用いて座標を変換する工程とに分かれていてもよい。これらの二つの工程はいずれも移動補正部533により実行されてもよいし、前者が移動補正部533により実行され、後者がMSI処理部511により実行されてもよいし、両者ともがMSI処理部511により実行されてもよい。なお、画像処理部530の機能はプロセッサ510に実装されてもよい。あるいは、プロセッサ510の機能が画像処理部530に実装されてもよい。また、プロセッサ510とプロセッサ510とが協働して単一または複数の機能を実現してもよい。たとえば、移動補正に関する一部の演算を画像処理部530が担当し、残りの演算をプロセッサ510が担当してもよい。
判定部540は検査画像を用いてワーク2の良否を判定する判定手段として機能する。たとえば、判定部540は画像処理部530において検査画像を用いて実行された検査の結果を受け取って検査結果が良品条件(公差など)を満たしているかどうかを判定する。
記憶装置520は、カメラ4によって取得された分光画像のデータである分光画像データ521、MSI処理部511により生成されたグレー画像のデータであるグレー画像データ522や各種の制御パラメータを保持する設定情報523を記憶する。また、記憶装置520は各種の設定データやユーザインタフェースを生成するためのプログラムコードなども記憶している。記憶装置520はグレー画像から生成された検査画像なども記憶して保持していてもよい。
<マルチスペクトルイメージング>
マルチスペクトルイメージングでは点灯色(波長)の異なる照明光が一つずつ順番にワーク2に照射され、各波長ごとの画像が取得される。たとえば、8種類の波長の照明光が照射される場合、8個の画像(分光画像)が取得される。8種類の波長は、紫外波長から近赤外波長までの8種類の狭帯域波長である。狭帯域波長とは、白色LEDが発光する光の波長(広帯域波長)の幅と比較して狭い波長をいう。たとえば、青色LEDが発光する光の波長の幅は、白色LEDが発光する光の波長幅よりもずっと狭いため、青色LEDが発光する光の波長は狭帯域波長である。なお、画像検査の中には8個の分光画像のすべてを必要としない画像検査もありうる。この場合、必要な波長の照明光だけがワーク2に照射される。一般に、8個の画像がそのまま画像検査に利用されることは少なく、8個の画像から一個のグレー画像が作成され(カラー濃淡変換)、このグレー画像(カラー濃淡画像)が画像検査に利用される。カラー濃淡変換はカラーグレー変換と呼ばれることもある。たとえば、カラー濃淡画像に対して二値化処理が実行されたり、エッジ検出処理が実行されたり、ブロブ処理が実行されたりして、ワーク2における特徴(例:ピン)の位置や寸法(長さや面積)、色がそれぞれ公差の範囲内に収まっているかが検査される。
図6を用いてカラー濃淡変換の一例を説明する。検査対象物であるワーク2のグレー画像を作成するには、良品(モデル)の登録色が必要となる。グレー画像は、登録色の色情報を基準に8個の分光画像を変換することで作成されるからである。
まず、設定モードにおいて、良品から取得された8個の分光画像においてユーザが指定した画像領域(指定領域)から登録色の色情報が抽出される。たとえば、良品がインスタント食品(例:ラーメン)であり、ある具材(例:海老)の数を画像検査により計数する場合、ユーザは、良品の画像を表示し、良品の画像おいて当該具材が含まれる矩形の指定領域を指定し、指定領域に含まれる画素から登録色の色情報が抽出される。登録色の色情報は、平均画素行列、分散共分散行列および指定領域に含まれる画素の数を含む。
次に、検査モードにおいて、検査対象物であるワーク2について8個の分光画像が取得される。各分光画像に含まれるすべての画素について登録色に対する距離d(x)が求められる(xは8枚の分光画像の各画素値を要素とした8次元ベクトルである)。さらに、距離d(x)に予め定められたゲインgを乗算して積を求め、各画素がとりうる最大階調Gmaxから積を減算することで得られる差Gが注目画素xのグレー階調となる。
なお、複数の登録色が存在する場合は、各登録色を基準として複数のグレー画像が作成される。
<前景背景画像>
カラー濃淡変換は、背景色と前景色とが分離された前景背景画像を作成するためにも使用される。たとえば、前景色がエビや貝であり、背景色が乾麺や乾燥ネギであったと仮定する。この場合に複数の前景色と複数の背景色とが登録されることになろう。また、エビや貝の数を画像検査によりカウントするには、エビや貝が背景から適切に分離されることが必要となる。
図7は検査画像の一種である前景背景画像FBimgの作成工程を示している。検査画像生成部として機能するMSI処理部511は前景グループFGに属する前景色FC1〜FC9それぞれとワーク2のカラー画像の各画素の色との距離(マハラノビス距離)を演算し、前景色FC1〜FC9に対応する九個の距離画像を作成する。上述した変換部564は距離画像生成部を有していてもよい。距離画像生成部は前景色FC1とワーク2のカラー画像の各画素の色との距離を演算し、前景色FC1に対応する1個の距離画像を作成する。同様に、距離画像生成部は前景色FC2とワーク2のカラー画像の各画素の色との距離を演算し、前景色FC2に対応する1個の距離画像を作成する。距離画像生成部は残りの前景色FC3〜FC9についてもそれぞれ距離画像を作成する。さらに、距離画像生成部は、背景グループBGに属する背景色BC1〜BC3それぞれとワーク2のカラー画像の各画素の色との距離(マハラノビス距離)を演算し、背景色BC1〜BC3に対応する三個の距離画像を作成する。上述したように距離画像を構成する各画素の値は距離である。また、前景色や背景色などの登録色に対する距離は、登録色の分布における代表色(分布の中心座標)を基準とした距離である。
変換部564は前景画像生成部や背景画像生成部、前景背景画像生成部を有していてもよい。前景画像生成部は、前景色FC1〜FC9に対応する九個の距離画像を比較し、各座標についての九個の距離のうちで最小距離を求め、各座標の代表距離として最小距離を採用し、最小距離からなる前景距離画像Fimgを作成する。たとえば、九個の距離画像から注目座標(xi,yi)の距離を読み出し、読み出された九個の距離のうちで最小の距離が、前景距離画像Fimgにおける注目座標(xi,yi)の画素の値に採用される。同様に、背景画像生成部は、背景色BC1〜BC3に対応する三個の距離画像を比較し、各座標についての三個の距離のうちで最小距離を求め、各座標の代表距離として最小距離を採用し、最小距離からなる背景距離画像Bimgを作成する。
前景背景画像生成部は、背景距離画像Fimgと背景距離画像Bimgとの差分演算を実行して前景背景画像FBimgを作成する。たとえば、前景背景画像FBimgにおける注目座標(xi,yi)における画素の値をG(xi,yi)は次式から演算される。
G(xi,yi)=g(db(xi,yi)−df(xi,yi))+Gmid ・・・(1)
ここでgは調整タブ720においてユーザにより調整されるゲインである。db(xi,yi)は背景距離画像Bimgにおける注目座標(xi,yi)における画素の値である。df(xi,yi)は前景距離画像Fimgにおける注目座標(xi,yi)における画素の値である。Gmidは中間階調である。たとえば、最大階調が255であれば、Gmidは128である。
<色抽出>
色抽出とは、ワーク2の画像から前景色や背景色として選択可能な色を抽出して登録することをいう。この作業により抽出された色が登録色である。
図8はユーザによる色抽出を補助するためにUI管理部514が表示部7に表示する色抽出UI800を示している。画像表示領域801は、プルダウンメニュー811により選択された画像を表示する領域である。プルダウンメニュー811は、記憶装置520に記憶されているカラー画像やカメラ4により取得されたカラー画像などを指定するためのUIである。プルダウンメニュー811に登録されていない画像はプルダウンメニュー811内の"参照"を選択することにより、指定可能となっている。画像選択部515はプルダウンメニュー811により選択された画像を画像表示領域801に表示する。プルダウンメニュー812は登録色が抽出される抽出領域802の形状を選択するためのUIである。形状の選択肢としては、たとえば、矩形や円形、楕円形などがある。抽出ボタン813は、色抽出の実行を指示するボタンである。UI管理部514は、抽出ボタン813が押されると、ポインタのアイコン(矢印形状)をスポイト803に変更する。領域指定部516は、スポイト803によって指定された領域を抽出領域802として受け付ける。色抽出部563は、抽出領域802内の画素の色に基づき登録色の色情報を作成し、記憶装置520に格納する。なお、前景色を抽出するための抽出ボタン813と背景色を抽出するための抽出ボタン813とが個別に設けられていてもよい。確定ボタン815は、色抽出結果の確定を指示するボタンである。キャンセルボタン814は、色抽出結果を破棄するボタンである。
<外乱光の低減>
上述したように複数の分光画像は予め定められた点灯色の照明光をワーク2に照射することでモノクロのカメラ4によって取得される。また、点灯色と分光画像とは一対一で対応している。したがって、ある分光画像を取得するために使用されることが定められている点灯色の照明光に、照明装置3とは異なる光源からの光(外乱光)が混合してしまうと、分光画像と点灯色との関係が崩れてしまう。そこで、本実施形態では、分光画像が取得される際には、外乱光画像も合わせて取得し、分光画像から外乱光画像を減算することで、分光画像における外乱光の影響が低減される。
図9は外乱光の低減処理を含む色抽出方法を示すフローチャートである。ここではワーク2の良品から取得された分光画像に基づき登録色が抽出される。MSI処理部511はPLC(プログラマブルコントローラ)などの外部機器から入力されたトリガー信号に基づき外乱光画像や分光画像の取得を開始する。
S901でMSI処理部511は外乱光画像を取得する。照明制御部512に照明装置3を消灯させる。照明装置3がすでに消灯しているときは、消灯処理は省略される。これによりワーク2には照明装置3とは異なる光源から外乱光のみが照射される。MSI処理部511は撮像制御部513に外乱光画像の撮像を指示する。撮像制御部513はカメラ4に撮像を指示する。これによりカメラ4により取得された画像は外乱光画像として記憶装置520に格納される。
S902でMSI処理部511は照明制御部512と撮像制御部513とを通じて分光画像を取得する。照明制御部512は照明装置3を制御することで一定のインターバルで点灯色を切り替えながらワーク2に照明光を照射させる。撮像制御部513も点灯色の切り替えタイミングと同期した一定のインターバルでカメラ4に分光画像を取得させる。撮像制御部513は取得した複数の分光画像を分光画像データ521として記憶装置520に格納する。これによりUVからIR2までの点灯色に対応した分光画像が取得される。
S903でMSI処理部511の減算部561は、複数の分光画像のそれぞれに対して外乱光の低減処理を実行する。たとえば、減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。UVの点灯色に対応する分光画像(UV画像)において各画素はUVの点灯色の照明光がワーク2で反射することで生じる反射光の輝度値を有している。ただし、この輝度値は外乱光が加算された輝度値である。外乱光画像において各画素は外乱光がワーク2で反射することで生じる反射光の輝度値を有している。したがって、外乱光が加算されているUVの輝度値から外乱光の輝度値を減算することで正味のUVの輝度値が得られる。他の点灯色についても同様に低減処理が実行される。
S904でMSI処理部511の色抽出部563は表示部7に外乱光の低減された分光画像に基づく良品のカラー画像を表示し、ユーザにより指定された抽出領域802から登録色を抽出する。
このように登録色が抽出される前に複数の分光画像から外乱光の影響が低減されるため、登録色の精度が向上する。
図10は外乱光の低減処理を含む画像検査方法を示すフローチャートである。なお、図10においてS901からS903までは図9のS901からS903と同じ処理である。ただし、被写体は検査対象物となるワーク2である。検査対象となるワーク2についてS901からS903までの処理が完了すると、MSI処理部511はS1001に進む。
S1001でMSI処理部511の変換部564は登録色と検査対象物のカラー画像とに基づき検査画像を作成する。検査対象物のカラー画像とは、外乱光が低減された複数の分光画像のことである。検査画像は検査ツールごとに異なってもよい。たとえば、変換部564は色空間における前景領域の登録色(前景色)とカラー画像の各画素の色とのマハラノビス距離に応じてカラー画像をグレー画像(前景画像)に変換してもよい。また、変換部564は色空間における背景領域の登録色(背景色)とカラー画像の各画素の色とのマハラノビス距離に応じてカラー画像をグレー画像(背景画像)に変換してもよい。これらの画像はさらに二値化などのさらなる画像処理が施されてもよい。
S1002で検査部531は検査画像に対して検査ツールを適用して画像検査を実行する。一例として、検査対象物が樹脂板に設けられた金属端子であり、検査部531が備えるエリア検査ツールにより金属端子の面積と、その周囲の面積を求めることを考える。前景色は金属端子の代表色であり、背景色は樹脂板の代表色である。検査部531は、前景画像を二値化することで樹脂板の色を白に変換し、金属端子の色を黒に変換し、黒の画素の数をカウントすることで金属端子の面積を算出する。同様に、検査部531は、背景画像を二値化することで樹脂板の色を黒に変換し、金属端子の色を白に変換し、黒の画素の数をカウントすることで金属端子の周囲の樹脂板の面積を算出する。判定部540は金属端子の面積を公差などの閾値と比較して合否を判定する。また、判定部540は金属端子の周囲の面積を公差などの閾値と比較して合否を判定する。
このように検査対象物から取得された複数の分光画像から外乱光の影響が低減されるため、検査画像の精度が向上する。これは画像検査の精度を向上させる。
<移動補正>
マルチスペクトルイメージングでは多数の点灯色の照明光が一色ずつ順番にワーク2に照射されて、多数の分光画像が生成される。たとえば、図11が示すようにUVからIR2までの8種類の点灯色の照明光が順次にワーク2に照射されて8枚の分光画像が得られ、8枚の分光画像を合成することで一枚のグレー画像が作成される。ワーク2がライン1を搬送される場合、一枚目のUV画像におけるワーク2の位置と8枚目のIR2画像におけるワーク2の位置はずれている。点灯色の数が増加するほど、また、ライン1の搬送速度が増加するほど、ワーク2の位置のずれ量は大きくなる。このずれを無視してグレー画像G1を作成すると、正しいグレー画像が得られないため、画像検査の精度が低下してしまう。従って、ワーク2について移動補正を行ってからグレー画像が作成されれば、正しいグレー画像が作成される。
なお、外乱光画像も一連の分光画像を取得する過程において取得されなければならない。つまり、ワーク2が移動するため外乱光画像についてもワーク2の位置を補正する必要がある。
ワーク2が静止している場合や、ライン1におけるワーク2の搬送速度が極めて遅い場合は移動補正が省略されてもよい。
図12は外乱光画像ABの取得を伴う移動補正の概念を示している。この例では、マルチスペクトルイメージング用の8種類の分光画像を取得する前と取得した後に移動補正用画像(補正画像MC1、MC2)が取得される。また、補正画像MC1を取得するタイミングと、補正画像MC2を取得するタイミングとの間で外乱光画像ABが取得される。図12では補正画像MC1とUV画像との間で外乱光画像ABが取得される。
ライン1におけるワーク2の搬送速度は一定である。また、カメラ4が画像を取得するインターバルも一定である。そのため、各画像におけるワーク2の位置は異なり、これらの位置は線形の軌跡を描く。従って、各分光画像におけるワーク2を構成する画素の座標の対応関係(x方向のずれ量とy方向のずれ量)を求めておけば、各分光画像におけるワーク2の位置を重ねて、グレー画像G2を作成することができる。ここで各分光画像は移動補正された外乱光画像ABにより外乱光が低減されているものとする。
移動補正では、補正画像MC1、MC2においてワーク2の特徴fがサーチ部532によるパターンサーチにより検知され、それぞれ特徴fの位置p1、p2が求められる。特徴fはパターンサーチにより検知可能な形状やエッジ(二つの特徴的なエッジ間の間隔)などであればよい。位置p1、p2の変化を示す直線の方程式を求めれば、各分光画像におけるワーク2の位置を補正することができる。つまり、各分光画像における座標系の対応関係を示す座標の変換式が決定される。
なお、ワーク2が線形に移動する場合は二つの補正画像により移動補正が可能である。ワーク2が非線形に移動する場合は三つ以上の補正画像が必要となる。ここでは、説明の簡明化のために、二つの補正画像が使用されるケースが主に説明される。
●ユーザインタフェース
図13、図14および図15は移動補正に関するパラメータを設定するためのユーザインタフェースを示している。図13は設定モードにおいて登録パターンが登録されるパターンサーチモード(事前登録モード)の設定UIを示している。図13において設定UI900は、画像検査を実行する前に、UI管理部514によって表示部7に表示される。図14は運転モードにおいて登録パターンを動的に登録する追跡モードの設定UIを示している。図14が示すように、追跡モードでは、移動補正の基準となる特徴パターンが、画像検査を実行する運転モードにおいて登録される。UI管理部514は、設定UI900のうち特徴パターンの登録UIを運転モードにおいて表示部7に表示する。ユーザは運転モードにおいて登録パターンを抽出するための追跡領域TWを配置(設定)する。これにより追跡領域TW内の特徴が抽出される。図13と図14において共通する事項には同一の参照符号が付与されている。
画像選択ボタン902は、画像表示領域901に表示される画像を選択するためのUIであり、画像選択部515に選択結果を渡す。図13、図14においてCは複数の分光画像から合成して作成されたカラー画像を示している。ALは8種類あるすべての分光画像を示している。ALがポインタ906によって操作されると、図15が示すように、画像選択部515はすべての分光画像を並べて画像表示領域901に表示する。このように並べて表示された複数の分光画像の中から複数の補正画像がポインタ906によりクリックされることで選択されてもよい。UI管理部514や設定UI900は第一の補正画像と第二の補正画像との選択を受け付ける受付部として機能してもよい。
図13、図14および図15においてUVは紫外線波長の照明光により取得された分光画像を示している。Bは青波長の照明光により取得された分光画像を示している。Gは緑波長の照明光により取得された分光画像を示している。AMはアンバー波長の照明光により取得された分光画像を示している。ORはオレンジ波長の照明光により取得された分光画像を示している。Rは赤波長の照明光により取得された分光画像を示している。IR1、IR2はそれぞれ赤外波長の照明光により取得された分光画像を示している。ただし、IR1の波長はIR2の波長よりも短い。MC1は第一の補正画像である。MC2は第二の補正画像である。ABは外乱光画像を示している。図13、図14においては画像表示領域901にはワーク2の画像が表示されている。
画像名の表示欄911は画像表示領域901に表示される画像の名称を表示するテキストボックスである。画像選択部515が画像の名称をテキストボックスに入力する。図13において編集ボタン912はパターンサーチの対象となる特徴を含む領域であるパターン領域PWのサイズと位置を編集するためのボタンである。編集ボタン913は第一の補正画像MC1において移動補正用の特徴fをサーチする範囲(サーチ領域SW)のサイズと位置を編集するためのボタンである。図14において編集ボタン914は第二の補正画像MC2において移動補正用の特徴fを動的に登録するための範囲(追跡領域TW)のサイズと位置を編集するためのボタンである。なお、パターン領域PWと追跡領域TWとはそれぞれ移動補正ための特徴fを抽出する領域であり、機能としては共通している。このようにワーク2の位置を検出するために利用される特徴fは設定モードにおいて事前登録されてもよいし、運転モードにおいて動的に登録されてもよい。サーチ領域SWやパターン領域PWの登録は、原則として、設定モードにおいて実行される。これの編集ボタンがポインタ906によって押し下げられたことを検知すると、領域指定部516はポインタ906の動きに応じて各領域を設定する。また、画像処理部530は、パターン領域PWまたは追跡領域TW内の特徴を抽出して設定情報523に書き込む。抽出される特徴は画像そのものであってもよいし、輪郭であってもよいし、複数のエッジであってもよい。
点灯色選択部915は補正画像を取得するために使用される照明光の波長(点灯色)を選択するためのプルダウンメニューである。点灯色設定部517は点灯色選択部915のプルダウンメニューから選択された点灯色の識別情報を照明光用の点灯色を指定する識別情報として設定情報523に書き込む。照明装置3が白色LEDを搭載している場合、点灯色選択部915において、照明光の点灯色として、白色LEDを示すWが選択されうる。また、すべての点灯色の発光素子を点灯させることを意味するALが点灯色選択部915において選択されてもよい。WまたはALが選択されることで移動補正用の特徴のサーチが安定することが多い。なお、UVからIR2までのいずれかの狭帯域波長が選択される場合、補正画像と検査用画像を作成するための分光画像とが兼用されてもよい。たとえば、UVが選択されると、UV画像は補正画像として使用されるだけでなく、検査用画像を作成するための要素画像としても使用される。これにより、取得される画像の数が削減され、移動補正に関する作業時間が短縮される。
編集ボタン916は詳細設定を編集するためのボタンである。詳細設定としては、複数ある移動補正手法のうちから一つの移動補正手法を選択すること、パターンサーチにおけるサーチ角度を設定することなどが含まれてもよい。確定ボタン917は、移動補正に関する設定を確定するためのボタンである。キャンセルボタン918は今回の設定を取り消し、直前の設定やデフォルト設定に戻すためのボタンである。
●フローチャート
図16はプロセッサ510が実行する画像検査(運転モード)を示すフローチャートである。なお、ここでは移動補正のためのサーチモードはパターンサーチモードが適用されるものとする。そのため、移動補正に関する制御パラメータは設定モードにおいて既に決定されているものとする。なお、S1601ないしS1604の順番は、移動補正を実現できる限り、自由に入れ替え可能である。ただし、S1604はS1601の後に実行されるものとする。MSI処理部511はPLC(プログラマブルコントローラ)などの外部機器から入力されたトリガー信号に基づき以下の処理を開始する。
S1601でプロセッサ510は第一の補正画像を取得する。プロセッサ510は、設定情報523に従って第一の補正画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第一の補正画像を取得し、記憶装置520に書き込む。
S1602でMSI処理部511は外乱光画像を取得する。MSI処理部511は照明制御部512を通じて照明装置3を消灯させる。これによりワーク2には外乱光のみが照射される。MSI処理部511は撮像制御部513に外乱光画像の撮像を指示する。撮像制御部513はカメラ4に撮像を指示する。これによりカメラ4により取得された画像は外乱光画像として記憶装置520に格納される。
S1603でMSI処理部511はマルチスペクトルイメージング用の分光画像を取得する。MSI処理部511は設定情報523に従って照明光の点灯色を照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である分光画像を取得し、記憶装置520に書き込む。なお、分光画像は、原則として8種類の点灯色のすべてについて取得されてもよいし、一部の点灯色について取得されてもよい。分光画像を取得するために使用される点灯色は設定情報523に依存する。設定情報523により指定されたすべての分光画像が取得されると、プロセッサ510はS1103に進む。
S1604でプロセッサ510は第二の補正画像を取得する。プロセッサ510は、設定情報523に従って第二の補正画像の照明光の点灯色を決定し、照明制御部512に設定する。照明制御部512は指定された点灯色の発光素子を点灯するよう照明制御基板40に指示する。照明制御基板40は指定された点灯色の発光素子を点灯する。プロセッサ510は、設定情報523に従った撮像条件(露出条件など)を撮像制御部513に設定し、ワーク2の画像を取得させる。撮像制御部513は指定された撮像条件に従ってカメラ4を制御してワーク2の画像である第二の補正画像を取得し、記憶装置520に書き込む。
S1605でプロセッサ510は画像処理部530に移動補正のためのパラメータを算出させ、当該パラメータを用いて外乱光画像と各分光画像に移動補正を適用する。たとえば、パターンサーチモードにおいて、移動補正部533は、サーチ部532に第一の補正画像における特徴をサーチさせるとともに、第二の補正画像における特徴をサーチさせる。なお、追跡モードで、移動補正部533は、第一の補正画像から登録した特徴を第二の補正画像においてサーチ部532にサーチさせる。移動補正部533は、第一の補正画像における特徴の位置と第二の補正画像における特徴の位置との変化量を算出する。移動補正部533は、この変化量に基づき複数の分光画像と外乱光画像とにおける各画素の座標の対応関係を補正する。たとえば、UV画像におけるワーク2の座標と、IR1画像におけるワーク2の座標との対応関係とが求められる。求められた対応関係(座標変換式)を用いて各分光画像と外乱光画像における座標を補正することで、図12に示したように各分光画像におけるワーク2の位置が重なり、正確に外乱光が低減されるとともに、正確なグレー画像が作成される。
S1606でMSI処理部511の減算部561は、複数の分光画像のそれぞれに対して外乱光の低減処理を実行する。ここで使用される複数の分光画像と外乱光画像はそれぞれ移動補正されたものである。減算部561は、複数の分光画像のそれぞれから外乱光画像を減算する。
S1607でMSI処理部511は移動補正と外乱光の低減処理が適用された複数の分光画像を変換してグレー画像(検査用画像)を作成する。なお、グレー画像に対していくつかの画像処理が適用されて検査用画像が作成されてもよい。
S1608でプロセッサ510は検査部531に画像検査を実行させる。検査部531は、MSI処理部511により作成された検査用画像に対して設定情報523により指定された検査ツールを用いて画像検査を実行する。判定部540は、検査部531から画像検査の結果を受け取り、ワーク2が良品条件を満たしているかどうかを判定する。
●点灯パターン
図12を用いて、移動補正を行いながら分光画像を取得するための発光素子の点灯パターンの一例について説明したが、これは一例にすぎない。図12に示した例によれば、第一の補正画像に対して指定された点灯色の発光素子が点灯する。その後、外乱光画像を取得するために照明装置3が備えるすべての発光素子が消灯する。さらにその後で、UV、B、G、AM、OR、R、IR1、IR2の各発光素子が点灯する。最後に、第二の補正画像に対して指定された点灯色の発光素子が点灯する。
図17は6つの点灯パターンを示している。ここではマルチスペクトルイメージングには4つの点灯色R、G、B、Yが使用されるものとする。YはRGB以外のいずれかの点灯色である。MCは移動補正用の共通の点灯色である。なお、図12は複数の分光画像が等間隔(一定の時間間隔)で取得されることを暗示している。
ケース(1)、(2)は線形補正のため点灯パターンである。ケース(1)はマルチスペクトルイメージングの前後において移動補正用の点灯色の発光素子が点灯し、2つの補正画像が取得されることを示している。なお、OFFは外乱光画像を取得するために照明装置3が備えるすべての発光素子が消灯されることを意味する。ケース(1)は図12に示された事例である。ケース(2)は外乱光画像とマルチスペクトルイメージング用の分光画像とを取得する前に移動補正用の点灯色の発光素子が点灯し、2つの補正画像が取得されることを示している。
ケース(3)ないし(5)は非線形補正のための点灯パターンを示している。上述したように非線形補正を実行するためには少なくとも三つの補正画像が必要となる。補正画像の枚数が増加すればするほど、移動補正の精度が高まるが、撮像時間が長くなる。なお、ケース(3)、(5)のように補正画像が分散して取得されると、移動補正の精度が高まるであろう。
ケース(6)は、マルチスペクトルイメージング用の分光画像を補正画像として兼用するケースである。これによりトータルでの画像枚数が削減され、撮像時間が短縮される。つまり、短時間でより多くの画像検査を実行可能となる。
<まとめ>
図1などが示すように、照明装置3は、互いに異なる点灯色の照明光を発生する複数の発光素子(LED33)を有し、各点灯色の照明光を個別に対象物(例:ワーク2の良品)に照射する照明部の一例である。カメラ4は、一つ以上の点灯色の照明光ごとに対象物からの反射光を受光して対象物の画像を生成する撮像部の一例である。なお、カメラ4はモノクロカメラであるため、カラーフィルタを有するカメラと比較して感度が良い。プロセッサ510(MSI処理部511、照明制御部512、撮像制御部513など)は照明装置3を制御することでそれぞれ点灯色が異なる複数の照明光を対象物に照射させるとともに、カメラ4を制御することでそれぞれ照明光の点灯色が同一または異なる複数の画像を生成させる制御部の一例である。なお、プロセッサ510は、撮像制御部513を介してカメラ4を制御し、カメラ4に複数の分光画像を一定の時間間隔で生成させる。なお、MSI処理部511は撮像部により取得された複数の分光画像を合成して検査画像を生成する生成部の一例である。MSI処理部511は、複数の発光素子を消灯させ、撮像部に外乱光による対象物からの反射光を受光させて対象物の外乱光画像を取得させる。MSI処理部511は複数の分光画像のそれぞれから外乱光画像を減算する減算部561と、外乱光画像を減算された複数の分光画像を合成して検査画像を生成する合成部562とを有してる。したがって、本実施形態によれば、点灯色が異なる複数の光源を備えた画像検査装置において外乱光の影響が低減されるため、画像検査の精度が向上する。
表示部7は外乱光画像を減算された複数の分光画像を表示してもよい。また、表示部7は外乱光画像を減算された複数の分光画像から生成されたトゥルーカラー画像またはフォルスカラー画像を表示してもよい。フォルスカラー画像はトゥルーカラー画像に対して色クラスタリングを施すことで生成されるカラー画像である。領域指定部516は表示部7に表示された画像に対して登録色を抽出するための抽出領域802の指定を受け付ける受付部として機能する。色抽出部563は複数の分光画像のそれぞれから抽出領域802に含まれる画素の色の分布に基づく登録色を抽出する。合成部562は、抽出領域802から抽出された登録色にしたがって複数の分光画像をカラーグレー変換することで検査画像を生成する変換部564を有しもよい。複数の分光画像は外乱光画像を減算されている。このように、登録色は、外乱光の低減処理を施された複数の分光画像から抽出される色情報であるため、登録色の精度が向上する。
領域指定部516は前景色が抽出される前景領域の指定と、背景色が抽出される背景領域の指定とを受け付けてもよい。色抽出部563は、登録色として、前景領域から前景色を抽出し、背景領域から背景色を抽出する。変換部564は、前景色に対する複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした前景距離画像を生成する。変換部564は、背景色に対する複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした背景距離画像を生成する。変換部564は、前景距離画像と背景距離画像との差分画像を検査画像として生成してもよい。
MSI処理部511は、PLCなどから単一のトリガー信号を入力されると、照明部と撮像部とを制御し、外乱光画像と複数の分光画像とを連続的に取得してもよい。これにより外乱光画像の取得時刻と分光画像の取得時刻とが近接するため、外乱光画像における外乱光成分と分光画像における外乱光成分とはほぼ同じものとなろう。つまり、外乱光の低減精度が向上する。
上述したように外乱光の低減処理は移動補正と組み合わされてもよい。MSI処理部511および移動補正部533は、複数の分光画像と外乱光画像における各画素の座標を補正するために、一定の搬送速度で移動している対象物についての第一補正画像と第二補正画像とを撮像部に取得させる。MSI処理部511および移動補正部533は、第一補正画像における補正目標物の位置と第二補正画像における当該補正目標物との位置とから、複数の分光画像と外乱光画像における各画素の座標を補正する座標補正部を有してもよい。とりわけ、移動補正部533は座標補正部の一例である。減算部561は、移動補正部533により各座標を補正された複数の分光画像それぞれから、移動補正部533により各座標を補正された外乱光画像を減算する。これによりワーク2が高速に搬送されているケースにおいても適切に外乱光の影響が低減される。
カメラ4は、一定のタイムインターバルで第一補正画像、第二補正画像、複数の分光画像および外乱光画像を連続的に取得してもよい。これにより移動補正の計算が非常に容易となる。また、移動補正の精度も向上するため、外乱光の低減処理の精度も向上しよう。
カメラ4は、第一補正画像を最初に取得し、第二補正画像を最後に取得してもよい。つまり、第一補正画像が取得された後であって、第二補正画像が取得される前に、外乱光画像と分光画像が取得される。これは、外乱光画像と分光画像におけるワーク2の座標が内挿により補正されることを意味する。一般に外挿と内挿とでは内挿が有利である。したがって、内挿を採用することで、外乱光画像と分光画像の移動補正の精度が向上する。
照明装置3は、第一補正画像と第二補正画像とを取得する際に同一の点灯色の照明光を対象物に照射してもよい。また、このときの点灯色は白色であっても。これらはいずれも移動補正の精度を向上させることに寄与する。
第一補正画像と第二補正画像とのうちいずれか一つが複数の分光画像のうちの一つの分光画像と兼用されてもよい。これによりカメラ4によって取得され画像の枚数が削減されるため、処理の効率化が達成される。また、第一補正画像を取得した時刻と第二補正画像が取得した時刻との間の時間差が小さくなるため、移動補正の精度が向上する。
ところで、サーチ部532は、複数の画像のうち同一の点灯色の照明光の下で取得された第一の補正画像と、当該第一の補正画像よりも後に生成された第二の補正画像とのそれぞれについて特徴パターンの位置をサーチする。MSI処理部511や移動補正部533などは、第一の補正画像における特徴パターンの位置と第二の補正画像における特徴パターンの位置との変化量に基づき複数の画像における各画素の座標の対応関係を補正する。検査部531は補正部により各画素の座標の対応関係が補正された複数の画像に基づき対象物の画像検査を実行する。たとえば、検査部531はMSI処理部511が複数の分光画像を合成することでグレー画像を生成し、グレー画像を用いて、またはグレー画像をさらに画像処理して得られる検査画像を用いて画像検査を実行する。これにより、点灯色が異なる複数の光源を備えた画像検査装置において移動するワークについての画像検査の精度が向上する。
上述したように、第一の補正画像を生成するために対象物に照射された照明光の点灯色と、第二の補正画像を生成するために対象物に照射された照明光の点灯色とは同一の点灯色である。これにより、移動補正の精度が向上する。つまり、移動補正用の少なくとも2つの画像については同一の点灯色を使用することで照明条件が整合するため、特徴パターンが精度よく検出され、移動補正の精度が向上する。なお、複数の画像のうち、第一の補正画像と第二の補正画像とを除いた残りの複数の画像を生成するために対象物に照射された照明光の点灯色はそれぞれ異なっている。このように、残りの複数の画像はマルチスペクトルイメージング用の分光画像であってもよい。
プロセッサ510は、第一の補正画像と第二の補正画像を生成する際に複数の発光素子を同時に点灯してもよい。これにより疑似的に白色光に近い照明光が実現される。つまり、白色光源を省略することができる。
もちろん、照明装置3は、さらに白色の照明光を発生する白色発光素子(白色LEDなど)を有していてもよい。プロセッサ510は、第一の補正画像と第二の補正画像を生成する際に白色発光素子を点灯する。白色光により明確化される特徴パターンもある。このような特徴については白色光が適している。
第一の補正画像を生成するために対象物に照射された照明光の点灯色と、第二の補正画像を生成するために対象物に照射された照明光の点灯色とは、それぞれ同一の狭帯域波長(狭波長帯域)に属する点灯色であってもよい。たとえば、第一の補正画像と第二の補正画像との双方がUVの照明光により取得されてもよい。ただし、移動補正の精度が十分に確保できるのであれば、第一の補正画像の点灯色と第二の補正画像の点灯色とが異なっていてもよい。たとえば、第一の補正画像と第二の補正画像がそれぞれIR1やIR2などの照明光により取得されてもよい。
第一の補正画像においても第二の補正画像においてもサーチされるのは同一の特徴パターンである。そのため、同一または類似した点灯色が使用されると、特徴パターンのサーチ精度が向上しよう。
表示部7は複数の画像を並べて表示してもよい。UI管理部514は、表示部7に表示された複数の画像から第一の補正画像と第二の補正画像との選択を受け付ける受付部して機能してもよい。このように複数の画像が並べて表示されることで、ユーザは、補正画像に適した画像を容易に選択できるようになろう。
UI管理部514や領域指定部516は、画像検査に関する設定を実行する設定モードにおいて、表示された対象物の画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する登録部として機能してもよい。画像検査を実行する運転モードにおいて、サーチ部532は、登録部により予め登録された特徴パターンをサーチする。このように特徴パターンは検査モード(運転モード)の前に実行される設定モードにおいて登録されてもよい。UI管理部514は、設定モードにおいて生成された第一の補正画像に対してユーザにより指定された領域の特徴を特徴パターンとして登録する。また、UI管理部514や領域指定部516は、設定モードにおいて生成された第一の補正画像または第二の補正画像に対してユーザにより指定されたサーチ領域を受け付けてもよい。サーチ領域の座標は、一般に、ワーク2の位置に依存しない座標であり、たとえば、画像の左上を基準とした座標である。この場合に、サーチ部532は、運転モードにおいて、サーチ領域内で特徴パターンをサーチする。サーチ部532は、運転モードにおいて、第一の補正画像のサーチ領域において特徴パターンをサーチするとともに、第二の補正画像についても当該サーチ領域において特徴パターンをサーチする。
なお、特徴パターンは画像検査を実行する運転モードにおいて動的に登録されてもよい。ただし、特徴パターンをサーチするためのサーチ領域については設定モードにおいて設定される。UI管理部514や領域指定部516は、画像検査が実行される運転モードにおいて動的に検査対象物の特徴が取得される追跡領域の指定を受け付ける領域受付部として機能する。UI管理部514や領域指定部516は、運転モードにおいて取得された第一の補正画像の追跡領域内に存在する特徴を特徴パターンとして登録する登録部としても機能する。この時点で第一の補正画像における特徴の座標が確定する。さらに、サーチ部532は、運転モードにおいて取得された第二の補正画像において、登録部により登録された特徴パターンをサーチする。これにより、第二の補正画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。なお、領域受付部は、第一の補正画像または第二の補正画像とのうち当該第二の補正画像に対してユーザにより指定された追跡領域を受け付けてもよい。この時点で第二の補正画像における特徴の座標が確定する。サーチ部532は、運転モードにおいて生成された第一の補正画像において、登録部により登録された特徴パターンをサーチする。これにより、第一の補正画像における特徴の座標が確定する。つまり、線形補正に必要となるパラメータが確定する。
第一の補正画像は、複数の画像のうち最初に生成された画像であってもよい。また、第二の補正画像は、複数の画像のうち最後に生成された画像であってもよい。このように、複数の分光画像を取得する前と後において補正画像が取得されることで、移動補正の精度が向上しよう。これは、内挿による特徴の位置の推定精度は、外挿による特徴の位置の推定精度よりも高いからである。
サーチ部532は、さらに、第二の補正画像よりも後に生成された第三の補正画像について特徴パターンの位置をサーチしてもよい。移動補正部533は、第一の補正画像における特徴パターンの位置と第二の補正画像における特徴パターンの位置との変化量に基づき、第一の補正画像から記第二の補正画像までの複数の画像における各画素の座標の対応関係を補正する。また、移動補正部533は、第二の補正画像における特徴パターンの位置と第三の補正画像における特徴パターンの位置との変化量に基づき、第二の補正画像から記第三の補正画像までの複数の画像における各画素の座標の対応関係を補正する。このように3つ以上の補正画像を使用することで、ワーク2の位置が非線形に変化するケースにおいても精度よく移動補正が実現されよう。
2…ワーク、3…照明装置、4…カメラ、5…画像処理装置、511…MSI処理部、512…照明制御部、513…撮像制御部、531…検査部

Claims (11)

  1. 互いに異なる3つ以上の点灯色の照明光を発生する複数の発光素子を有し、各点灯色の照明光を対象物に照射する照明部と、
    前記対象物からの反射光を受光して前記3つ以上の点灯色それぞれに対応する複数の前記対象物の分光画像を生成する撮像部と、
    前記照明部と前記撮像部を制御して、前記複数の発光素子が消灯した状態で前記撮像部に外乱光による前記対象物からの反射光を受光させて前記対象物の外乱光画像を取得させる制御部と、
    複数の分光画像のそれぞれから前記外乱光画像を減算する減算部と、
    前記外乱光画像を減算された複数の分光画像に基づいて生成される前記対象物のカラー画像を表示する表示部と、
    前記表示部に表示された対象物のカラー画像に対して登録色を抽出するための抽出領域の指定を受け付ける受付部と、
    前記外乱光画像を減算された複数の分光画像のそれぞれから前記抽出領域に含まれる画素の色の分布に基づく登録色を抽出する抽出部と、
    前記外乱光画像を減算された複数の分光画像の各画素の色情報と前記登録色の色情報との色空間上における距離に基づいてグレー画像を生成する合成部と
    前記グレー画像を用いて前記対象物を検査する検査部と
    を有する画像検査装置。
  2. 前記受付部は、前景色が抽出される前景領域の指定と、背景色が抽出される背景領域の指定とを受け付け、
    前記抽出部は、前記登録色として、前記前景領域から前景色を抽出し、前記背景領域から背景色を抽出し、
    前記合成部は、前記前景色に対する前記複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした前景距離画像を生成し、前記背景色に対する前記複数の分光画像における各画素の色の距離を求め、各画素ごとに求められた距離を各画素の値とした背景距離画像を生成し、前記前景距離画像と前記背景距離画像との差分画像を前記グレー画像として生成することを特徴とする請求項に記載の画像検査装置。
  3. 前記撮像部はモノクロカメラであることを特徴とする請求項1ないしのいずれか一項に記載の画像検査装置。
  4. 前記制御部は、単一のトリガー信号を入力されると、前記照明部と前記撮像部とを制御し、前記外乱光画像と前記複数の分光画像とを連続的に取得することを特徴とする請求項1ないしのいずれか一項に記載の画像検査装置。
  5. 前記制御部は、前記複数の分光画像と前記外乱光画像における各画素の座標を補正するために、一定の搬送速度で移動している前記対象物についての第一補正画像と第二補正画像とを前記撮像部に取得させ、前記第一補正画像における補正目標物の位置と前記第二補正画像における当該補正目標物との位置とから、前記複数の分光画像と前記外乱光画像における各画素の座標を補正する座標補正部を有し、
    前記減算部は、前記座標補正部により各座標を補正された前記複数の分光画像それぞれから、前記座標補正部により各座標を補正された前記外乱光画像を減算することを特徴とする請求項に記載の画像検査装置。
  6. 前記撮像部は、一定のタイムインターバルで前記第一補正画像、前記第二補正画像、前記複数の分光画像および前記外乱光画像を連続的に取得することを特徴とする請求項に記載の画像検査装置。
  7. 前記撮像部は、前記第一補正画像を最初に取得し、前記第二補正画像を最後に取得することを特徴とする請求項に記載の画像検査装置。
  8. 前記照明部は、前記第一補正画像と前記第二補正画像とを取得する際に同一の点灯色の照明光を前記対象物に照射することを特徴とする請求項ないしのいずれか一項に記載の画像検査装置。
  9. 前記点灯色は白色であることを特徴とする請求項に記載の画像検査装置。
  10. 前記第一補正画像と前記第二補正画像とのうちいずれか一つが前記複数の分光画像のうちの一つの分光画像と兼用されることを特徴とする請求項ないしのいずれか一項に記載の画像検査装置。
  11. 互いに異なる3つ以上の点灯色の照明光を対象物に照射しながら各点灯色に対応する前記対象物についての複数の分光画像を取得する工程と、
    前記3つ以上の点灯色の照明光が照射されないことで外乱光のみが照射されている前記対象物の外乱光画像を取得する工程と、
    前記複数の分光画像のそれぞれから前記外乱光画像を減算する工程と、
    前記外乱光画像を減算された複数の分光画像に基づいて生成される前記対象物のカラー画像を表示部に表示する工程と、
    前記表示部に表示された対象物のカラー画像に対して登録色を抽出するための抽出領域の指定を受け付ける工程と、
    前記外乱光画像を減算された複数の分光画像のそれぞれから前記抽出領域に含まれる画素の色の分布に基づく登録色を抽出する工程と、
    前記外乱光画像を減算された複数の分光画像の各画素の色情報と前記登録色の色情報との色空間上における距離に基づいてグレー画像を生成する工程と、
    前記グレー画像を用いて前記対象物を検査する工程と
    を有することを特徴とする画像検査方法。
JP2017093362A 2017-05-09 2017-05-09 画像検査装置および画像検査方法 Active JP6981775B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017093362A JP6981775B2 (ja) 2017-05-09 2017-05-09 画像検査装置および画像検査方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017093362A JP6981775B2 (ja) 2017-05-09 2017-05-09 画像検査装置および画像検査方法

Publications (2)

Publication Number Publication Date
JP2018189564A JP2018189564A (ja) 2018-11-29
JP6981775B2 true JP6981775B2 (ja) 2021-12-17

Family

ID=64478575

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017093362A Active JP6981775B2 (ja) 2017-05-09 2017-05-09 画像検査装置および画像検査方法

Country Status (1)

Country Link
JP (1) JP6981775B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6919982B2 (ja) * 2017-05-09 2021-08-18 株式会社キーエンス 画像検査装置
JP7252755B2 (ja) * 2018-12-27 2023-04-05 株式会社小糸製作所 アクティブセンサ、物体識別システム、車両、車両用灯具
JP7215218B2 (ja) * 2019-02-25 2023-01-31 セイコーエプソン株式会社 分光検査方法、画像処理装置、及びロボットシステム
JP7231462B2 (ja) * 2019-04-05 2023-03-01 株式会社キーエンス 画像検査システム及び画像検査方法
JP7295983B1 (ja) 2022-02-15 2023-06-21 株式会社トヨタプロダクションエンジニアリング 物体検査システム及び表示制御方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4139571B2 (ja) * 2001-02-28 2008-08-27 大日本スクリーン製造株式会社 カラー画像の領域分割
CN100458423C (zh) * 2003-03-21 2009-02-04 中国印钞造币总公司 彩色印刷质量检查方法
JP2012237680A (ja) * 2011-05-12 2012-12-06 Ihi Corp 塗布状態検査装置及び方法並びにプログラム
JP6408259B2 (ja) * 2014-06-09 2018-10-17 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器

Also Published As

Publication number Publication date
JP2018189564A (ja) 2018-11-29

Similar Documents

Publication Publication Date Title
JP6917762B2 (ja) 画像検査装置
JP6981775B2 (ja) 画像検査装置および画像検査方法
US10416086B2 (en) Image inspection device
JP6919982B2 (ja) 画像検査装置
US10304176B2 (en) Image inspection device
US20200043157A1 (en) Inspection Apparatus, Inspection Method, And Program
JP6917761B2 (ja) 画像検査装置
US9494528B2 (en) Inspection apparatus, inspection method, and program
JP7117420B2 (ja) 画像検査装置
US10746599B2 (en) System and method for spectral interpolation using multiple illumination sources
WO2018119345A1 (en) Compensating for vignetting
EP3460753A1 (en) Photometric stereo system and method for inspecting objects with a one-shot camera and a computer program
JP6931552B2 (ja) 画像検査装置
EP3560184B1 (en) Compensating for vignetting
US10708561B2 (en) POS terminal, information processing device, white balance adjustment method, and recording medium
US10663837B2 (en) Method for operating a light source for a camera, light source, camera
US20230252637A1 (en) System and method for improving image segmentation
CN104601853A (zh) 图像扫描装置
CN112304430A (zh) 一种照明现场实时智能监测方法及装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200326

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20210113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20210331

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210416

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211025

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211118

R150 Certificate of patent or registration of utility model

Ref document number: 6981775

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150