JP6973205B2 - 画像処理システム、画像処理装置、画像処理プログラム - Google Patents
画像処理システム、画像処理装置、画像処理プログラム Download PDFInfo
- Publication number
- JP6973205B2 JP6973205B2 JP2018047629A JP2018047629A JP6973205B2 JP 6973205 B2 JP6973205 B2 JP 6973205B2 JP 2018047629 A JP2018047629 A JP 2018047629A JP 2018047629 A JP2018047629 A JP 2018047629A JP 6973205 B2 JP6973205 B2 JP 6973205B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- unit
- reflection profile
- profile information
- light
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/17—Systems in which incident light is modified in accordance with the properties of the material investigated
- G01N21/55—Specular reflectivity
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8806—Specially adapted optical and illumination features
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8851—Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01N—INVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
- G01N21/00—Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
- G01N21/84—Systems specially adapted for particular applications
- G01N21/88—Investigating the presence of flaws or contamination
- G01N21/8806—Specially adapted optical and illumination features
- G01N2021/8835—Adjustable illumination, e.g. software adjustable screen
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10152—Varying illumination
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30108—Industrial image inspection
- G06T2207/30164—Workpiece; Machine component
Landscapes
- Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Immunology (AREA)
- Pathology (AREA)
- General Health & Medical Sciences (AREA)
- Biochemistry (AREA)
- Analytical Chemistry (AREA)
- Chemical & Material Sciences (AREA)
- Health & Medical Sciences (AREA)
- Signal Processing (AREA)
- Quality & Reliability (AREA)
- Multimedia (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Stroboscope Apparatuses (AREA)
- Image Input (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Description
上述の開示において、反射プロファイル基準情報は、属性が既知である対象物、または、対象物の特定部位を撮像して得られる画像から生成される反射プロファイル情報であってもよい。
まず、図1および図2を参照して、本発明が適用される場面の一例について説明する。図1は、本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。図2は、反射プロファイル情報70を模式的に示した図である。
[A.画像処理システムが適用される生産ラインの一例]
次に、本実施の形態に係る画像処理システムの一例について説明する。図3は、本実施の形態に係る画像処理システム1が適用される生産ラインの一例を示す模式図である。
図4は、制御装置100のハードウェア構成について示す模式図である。制御装置100は、CPU(Central Processing Unit)110、メインメモリ120、ハードディスク130、カメラインターフェイス(I/F)180、照明I/F140、表示コントローラ172、入力I/F174、通信I/F150、外部メモリI/F160、および光学ドライブ164を含む。これらの各部は、バス190を介して、互いにデータ通信可能に接続される。
図5は、本実施の形態に係る照明装置4の一部を拡大した模式図である。照明装置4は、マトリクス状に配置された複数の照明要素41を含む。照明装置4は、各照明要素41を独立に点灯させることができる。本実施の形態における照射パターンとは、複数の照明要素41のうちの点灯させる照明要素41により決定されるものをいう。また、本実施の形態においては、各照明要素41からは、白色光が照射されるものとして説明し、照射パターンとは発光面40の濃淡パターンをいうこととする。また、本実施の形態において、照明装置4は、各照明要素41を独立して、点灯または消灯させることができる。なお、照明装置4は、各照明要素41の発光強度を調整できるようにしてもよい。
制御装置100は、撮像視野81内に設定される計測位置bについて得られる反射プロファイル情報72に基づいて、計測位置bに対応する対象物Wの計測部位Bの状態を検査する。撮像視野81内に設定される計測位置bは、ユーザが撮像視野81の画像に対して設定する位置であってもよく、また、対象物Wに対して予め設定された位置であってもよい。対象物Wに対して予め設定された位置である場合、制御装置100は、撮像視野81の画像に含まれる対象物Wの姿勢をパターンマッチングなどの既知の方法により特定し、特定した対象物Wの姿勢に基づいて、対象物Wに対して予め設定された位置を計測位置bに変換してもよい。
図6は、反射プロファイル情報72を得るための工程の一例を示す図である。反射プロファイル情報72を得るための工程は、データを取得する工程Ph1と、データを抽出する工程Ph2と、抽出したデータから反射プロファイル情報72を生成する工程Ph3を含む。なお、以下では、対象物Wの注目部位Arに対応する撮像視野81内の注目位置arに対応する反射プロファイル情報72を生成するものとして説明する。
図7は、データの取得方法を説明するための図である。なお、図7においては、カメラ8の図示を省略している。照明装置4は、発光面40内に設定された部分領域43だけを発光させることができる。発光面40は、全ての照明要素41の集合からなる。一方、部分領域43は、1または複数の照明要素41からなる。つまり、部分領域43は、全ての照明要素41の集合に対する部分集合となっている。照明装置4は、複数の照明要素41の各々を独立して点灯させることができるため、発光面40上に設定される部分領域43内に含まれるすべての照明要素41を点灯することで、設定された部分領域43だけを発光させることができる。なお、照明装置4は、部分領域43に含まれる全照明要素41を同じ発光強度で点灯させてもよく、また、互いに異なる発光強度で点灯させてもよい。
図8は、データの抽出方法を説明するための図である。制御装置100は、入力画像D(X1,Y1)〜入力画像D(Xm,Yn)のうち、所定の範囲に含まれる入力画像Dから対象物Wの注目部位Arに対応する部分画像Mを抽出する。ここで対象物Wの注目部位Arに対応する部分画像Mは、入力画像D内の対象物Wの注目部位Arのカメラ座標系内における注目位置ar(xr,yr)を含むように抽出された部分領域である。入力画像D(X1,Y1)〜入力画像D(Xm,Yn)は、いずれも、同じ撮像視野81の下で撮影されることで得られる。そのため、注目部位Arに対応する部分画像Mのカメラ座標位置(xr,yr)は、入力画像D(X1,Y1)〜入力画像D(Xm,Yn)の各々で共通する。
ここで、撮像視野81内の位置(x,y)と発光面40上の位置(X,Y)との対応関係を求めるキャリブレーション方法の一例について説明する。
図9は、反射プロファイル情報72の生成方法を説明するための図である。制御装置100は、部分画像M(Xr−w,Yr−w|xr,yr)〜部分画像M(Xr+w,Yr+w|xr,yr)の各々から、特徴量pを抽出する。特徴量pは、発光面40上に設定された部分領域43から注目部位Aに入射する光がこの注目部位Aに反射してカメラ8に入射する光の強度を示す値であって、たとえば、輝度値、または輝度値を規格化したものを含む。また、特徴量pは、部分画像Mに対して空間フィルタなどの前処理を行なった後に得られる情報であってもよい。ここで、特徴量p(x,y|X,Y)は、部分画像M(X,Y|x,y)から抽出された特徴量であることを意味する。
反射プロファイル情報72に基づいて実行される画像計測方法を説明する。本実施の形態においては、属性ごとに予め登録されている反射プロファイル基準情報80に基づいて、計測位置bの属性を検査する。ここで、属性とは、対象物の状態を示すものである。属性は、単に欠陥があるか否かによって分類されてもよく、また、傷があるのか否か、あるいは汚れているか否かなどより詳細に分類されてもよい。また、反射プロファイル基準情報80は、画像計測を行なう際のレファレンスとなる情報である。
制御装置100は、反射プロファイル情報72と反射プロファイル基準情報80との類似度Sを算出する。具体的には、反射プロファイル基準情報80の一例であるモデル画像810と、反射プロファイル情報72をij座標にマッピングした表現形態で示されるマッピング画像540とを既知のパターンマッチングにより比較することで、類似度Sは算出される。
図10は、反射プロファイル情報72をマッピング画像540に変換する方法の一例を示す図である。図10に示す例において、制御装置100は、計測位置br(xr,yr)に対応する発光面40上の位置(Xr,Yr)を基準位置とした座標系をij座標に、特徴量pをマッピングすることでマッピング画像540を生成する。ここで、計測位置brとは、計測部位Brの撮像視野81内の位置であって、注目位置aに対応する。マッピング画像540は、特徴量pの大きさに応じた濃淡度合いで示された濃淡値56を、ij座標にマッピングした画像である。たとえば、特徴量p(br|−w,−w)の大きさに応じた濃淡値56(br|−w,−w)は、ij座標の位置(−w,−w)にマッピングされる。制御装置100は、特徴量p(br|−w,−w)〜特徴量p(br|w,w)の各々を濃淡値56に変換して、濃淡値56(br|−w,−w)〜濃淡値56(br|w,w)を得る。制御装置100は、濃淡値56(br|−w,−w)〜濃淡値56(br|w,w)の各々をij座標にマッピングすることで、マッピング画像540を生成する。なお、図10においては、濃淡値56がマッピングされていく様子を分かり易くするために、濃淡値56を所定の面積を有する画像として示しているものとする(図11〜図14、図16、図19、および図20においても同様)。
モデル画像810は、属性が予め既知の特定部位Bkに対する反射プロファイル情報72をマッピング画像540に変換した画像である。なお、特定部位Bkは、属性が予め既知の注目部位Aである。
制御装置100は、生成したマッピング画像540と、モデル画像810とを比較し、マッピング画像540とモデル画像810との類似度Sを算出する。類似度Sの算出は、パターンマッチングにより行なわれる。類似度Sは、たとえば、マッピング画像540のモデル画像810との相関値であってもよい。相関値は、たとえば、正規化相互相関を用いて算出される。また、類似度Sは、たとえば、マッピング画像540およびモデル画像810の各々に対して空間フィルタなどの前処理を行った後に得られる情報同士の一致度であってもよい。
図12は、モデル画像810を用いた画像計測の一例を示す図である。たとえば、計測位置b1〜計測位置b4が予め設定されているとする。制御装置100は、計測位置b1〜計測位置b4の各々のマッピング画像540を生成し、第1マッピング画像541〜第4マッピング画像544を取得する。ここで、第1マッピング画像541は計測位置b1に対するマッピング画像540を意味し、同様に第2マッピング画像542は計測位置b2、第3マッピング画像543は計測位置b3、第4マッピング画像544は計測位置b4、のマッピング画像540をそれぞれ意味する。
モデル画像810を生成する際の特定位置bkは、予め設定されていてもよく、また、ユーザによって指定されてもよい。たとえば、対象物Wを撮像して得られる画像から、ユーザが目視で所定の属性に分類される特定部位Bkを画像から指定し、指定した位置を特定位置bkとしてもよい。また、特定位置bkのマッピング画像540をモデル画像810として登録する際に、ユーザが、対象物Wを撮像して得られる画像から属性を特定して、特定した属性とモデル画像810とを対応付けて記憶させてもよい。なお、以下では、モデル画像810を記憶部に記憶させることを、モデル画像810の登録ともいう。
図16は、計測結果の表示方法の一例を示す図である。制御装置100は、撮像視野81内の全ての位置についてマッピング画像540を生成し、マッピング画像540に基づいて登録されているモデル画像810との類似度Sに基づいて各位置に対応する対象物W上の部位(表面)がモデル画像810に対応する属性(カテゴリ)に分類されるか否かを判断する。撮像視野81内の全ての位置は、撮像視野81内の各画素位置であってもよく、また、複数画素から構成される領域であってもよい。また、撮像視野81内の全領域を計測対象としなくとも、少なくとも、対象物Wが位置する領域を計測対象とすればよい。また、ユーザによって、計測する範囲を指定できるような構成であってもよい。
図17は、制御装置100の機能構成を示す模式図である。制御装置100は、画像処理プログラム132を実行することで、図17に示す各構成を制御して、画像計測を行う。
図18は、画像計測処理のフローチャートである。画像計測処理は、CPU110が、画像処理プログラム132を実行することによって実現される処理である。画像計測処理は、所定の検査位置まで対象物Wが搬送されたことを示す信号(検査開始信号)がPLC200から通知されるたびに実行される。
本実施の形態において、反射プロファイル基準情報80の一例として反射プロファイル情報72をマッピング画像540に変換したモデル画像810を示した。すなわち、本実施の形態において、反射プロファイル基準情報80を反射プロファイル情報72と直接比較できる表現形態で表されるものを例に挙げたが、反射プロファイル基準情報80は、反射プロファイル情報72と直接比較できる表現形態で表される情報に限られない。
本実施の形態および第1の変形例においては、いずれも、属性が既知の特定部位Bkの反射プロファイル情報である反射プロファイル基準情報80に基づいて画像計測が行なわれる例を示した。すなわち、反射プロファイル基準情報80を利用して、画像計測を行なう例を示した。なお、反射プロファイル基準情報80を利用しなくともよい。
本実施の形態においては、カメラ8と対象物Wとの間に照明装置4が配置されている例を示した。なお、照明装置4とカメラ8と対象物Wとの位置関係は同軸上に限るものではなく、照明装置4からの光が対象物Wに照射され、カメラ8の撮像視野81に対象物Wの少なくとも一部が含まれるような位置関係であればよい。
本実施の形態においては、照明装置4の一例として透明な有機EL照明を例に挙げた。なお、カメラ8と対象物Wとの間に照明装置4を配置する場合、照明装置4は、少なくとも撮像時の視野を遮らないような形状および、視野を遮らないような光学特性のうち少なくともいずれか一方を有していればよい。たとえば、一部に開口部が設けられた照明装置4や、一部が同軸落射照明で構成された照明装置4などであってもよい。図23は、照明装置の変形例を示す図である。変形例の照明装置400は、一部が同軸落射照明410で構成されており、他の部分は、透光性を有しない照明420で構成されている。
本実施の形態においては、各部分領域43は他の部分領域43と重ならないように設定されるものとした。なお、各部分領域43はその一部を他の部分領域43と重なるように設定されてもよい。たとえば、各部分領域43を他の部分領域43と重なるように設定することで、反射プロファイル情報の分解能を下げることなく、一の部分領域43を発光させたときの光量を確保することができる。
本実施の形態において、計測部位Bや特定部位Bkである注目部位Aは特定の位置を示すものであって、注目部位Aに対応する注目位置aは1点を示す情報であるとした。なお、注目部位Aは、特定の範囲を示す情報であってもよく、この場合に、注目位置aは特定の範囲に対応する画像内のある範囲を示す、範囲a’であってもよい。この場合、注目部位Aの反射プロファイル情報は、たとえば、範囲aに含まれる複数の注目位置aの各々について得られる反射プロファイル情報に基づいて生成してもよい。たとえば、注目部位Aの反射プロファイル情報は、複数の注目位置aの各々について得られる反射プロファイル情報を規格化した情報であってもよく、また、各反射プロファイル情報をij座標にマッピングしたときに得られる複数のマッピング画像を合成したような表現形態で表される情報であってもよい。また、部分画像Mの範囲を範囲aに対応させた範囲とすることで、注目部位Aの反射プロファイル情報を取得してもよい。
本実施の形態において、反射プロファイル情報72は、計測位置bと対応関係にある発光面40上の位置を基準位置としたij座標で表現されるものとしたが、発光面40上のXY座標で表現されるものであってもよい。
以上のように、制御装置100は、反射プロファイル情報72という計測部位Bの反射特性を示す情報に基づいて画像計測を行なう。反射プロファイル情報72は、複数種類の部分領域43の各々を発光させた状態でカメラ8が撮像して得られる入力画像Dに基づいて生成される。つまり、発光面から照射された光が対象物に反射して撮像部に入る経路を通る光の度合いを、照射された発光面の位置ごと独立して得られ、その情報に基づいて対象物の画像計測を行なうため、多くの情報量に基づいた画像計測を行なうことができる。その結果、画像計測の性能を向上させることができる。さらに、画像計測において、対象物の種類に応じた照明条件を設定する必要がなく、撮像条件の決定に要する労力を軽減することができる。
以上のように、本実施の形態は以下のような開示を含む。
画像計測を行なう画像処理システム(1)であって、
対象物(W)を撮像する撮像部(8)と、
前記対象物(W)に向けられた発光面(40)を有する発光部(4)と、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(4)を制御する発光制御部(12)と、
前記複数種類の部分領域(43)の各々の発光に同期して撮像するように、前記撮像部(8)を制御する撮像制御部(14)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(Li)が当該対象物(W)の注目部位(A,B,Bk)に反射して前記撮像部(8)に入射する光(Lc)の度合いとの関係を示す反射プロファイル情報(70,72)を生成する生成部(18,16,17)と、
前記生成部(18,16,17)が生成した前記反射プロファイル情報(70,72)に基づいて前記対象物(W)の前記画像計測を行なう画像計測部(15)とを備える、画像処理システム。
前記画像計測部(15)は、
前記対象物(15)を撮像した画像(D)から生成された前記反射プロファイル情報(72,540)と、予め設定された反射プロファイル基準情報(80,810)との類似度(S)を算出する算出部(152)と、
前記算出部(152)が算出した前記類似度(S)を用いて、前記対象物(W)、または、前記注目部位(B)の属性を判断する判定部(154)とをさらに備える、構成1に記載の画像処理システム。
前記反射プロファイル基準情報(80,810)は、属性が既知である対象物(Wk)、または、当該対象物の特定部位(Bk)を撮像して得られる画像(D)から生成される前記反射プロファイル情報(72,540)である、構成2に記載の画像処理システム。
前記反射プロファイル基準情報(80)は、属性が互いに等しい複数の部位ごとに生成される複数の前記反射プロファイル情報を統計的に表現した情報である、構成3に記載の、画像処理システム。
前記反射プロファイル情報(72)は、前記複数の画像(D)の各々から得られる、当該画像(D)内の撮像視野内の注目点(a)に対応する輝度情報(p)および当該画像が撮像されたときに発光している前記部分領域(43)の当該注目点(a)に対する相対位置(i,j)に基づく情報であって、
前記相対位置(i,j)に対応する2軸以上の座標系に、前記輝度情報に対応する情報(56)を出力した表現形態により前記反射プロファイル情報(72)を出力する出力部(19)をさらに備え、
前記出力部(19)は、前記反射プロファイル基準情報(810)および前記対象物の前記反射プロファイル情報(540)を前記座標系上に順次または同時に出力する(720,730)、構成3または構成4に記載の画像処理システム。
前記反射プロファイル基準情報(810)は、第1属性に対応する1または複数の第1反射プロファイル基準情報(811)と、第2属性に対応する1または複数の第2反射プロファイル基準情報(812)とを含み、
前記判定部(154)は、前記対象物(W)上の複数の注目部位(B1〜Bn)の各々について生成される前記反射プロファイル情報(72,540)に基づいて、当該複数の注目部位の属性を注目部位ごとに分類する、構成2〜構成5のうちいずれか1項に記載の、画像処理システム。
前記画像計測部(154)は、前記対象物上の複数の注目部位の各々について生成される前記反射プロファイル情報(72)の特徴量(R)を抽出するとともに、各注目部位に対応する前記特徴量を評価することで、前記複数の注目部位の各々の属性を判断する、構成1に記載の画像処理システム。
対象物(W)を撮像する撮像部(8)と、前記対象物(W)に向けられた発光面(40)を有する発光部(4)とを制御して画像計測を行なう画像処理装置(100)に実行される画像処理プログラム(132)であって、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(4)を制御するステップ(S11,S12)と、
前記複数種類の部分領域(43)の各々の発光に同期して撮像するように、前記撮像部(8)を制御するステップ(S13)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(Li)が当該対象物(W)の注目部位(A,B,Bk)に反射して前記撮像部(8)に入射する光(Lc)の度合いとの関係を示す反射プロファイル情報(70,72)を生成するステップ(S15,S16)と、
生成された前記反射プロファイル情報(70,72)に基づいて前記対象物(W)の前記画像計測を行なうステップ(S17,S18)とを備える、画像処理プログラム。
対象物(W)を撮像する撮像部(8)と、前記対象物(W)に向けられた発光面(40)を有する発光部(4)とを制御して画像計測を行なう画像処理装置(100)であって、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(4)を制御する発光制御部(12)と、
前記複数種類の部分領域(43)の発光の各々に同期して撮像するように、前記撮像部(8)を制御する撮像制御部(14)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(Li)が当該対象物(W)の注目部位(A,B,Bk)に反射して前記撮像部(8)に入射する光(Lc)の度合いとの関係を示す反射プロファイル情報(70,72)を生成する生成部(18,16,17)と、
前記生成部(18,16,17)が生成した前記反射プロファイル情報(70,72)に基づいて前記対象物(W)の前記画像計測を行なう画像計測部(15)とを備える、画像処理装置。
対象物(W)の外観画像を用いて画像計測を行なう画像処理システム(1)であって、
前記対象物(W)を撮像する撮像部(8)と、
前記撮像部(8)と前記対象物(W)までの間に配置されるとともに、前記対象物に向けられた発光面(40)を有する発光部(4)と、
予め定められた大きさの単位部分領域(43)を前記発光面(40)上の異なる位置(X,Y)に順次設定して発光させるように、前記発光部(4)を制御する発光制御部(12)と、
前記単位部分領域(43)の順次発光に対応して撮像視野(81)の画像である入力画像(D)を順次生成するように、前記撮像部(8)を制御する撮像制御部(14)と、
前記撮像視野(81)に設定される1または複数の計測位置(b)の各々について、順次生成された前記入力画像(D)の少なくとも一部から、当該計測位置(b)に対応する部分画像(M)をそれぞれ抽出する抽出部(16)と、
前記抽出部(16)により抽出された各々の部分画像(M)が示す特徴量(p)を、各部分画像(M)の抽出元の入力画像(D)を生成する時に発光させた前記単位部分領域(43)の位置(X,Y、i,j)に対応付けてマッピングしたマッピング画像(540)を、前記計測位置(b)ごとに生成する生成部(17)と、
計測結果が既知である領域(bk)を撮像した画像から生成された前記マッピング画像(540)であるモデル画像(810)と、前記計測位置(b)ごとの前記マッピング画像(540)との類似度(S)を算出することで、前記対象物(W)の各計測位置(b)が前記既知の計測結果に相当する状態であるか否かを判断する画像計測部(15)とを備える、画像処理システム。
前記計測位置ごとの前記マッピング画像(540)は、前記計測位置(x,y)と対応関係にある前記発光面上の位置(X,Y)を基準位置として生成される、構成10に記載の画像処理システム。
前記生成部(17)は、前記順次生成された入力画像(D)のうち、前記基準位置(X,Y)を中心とした予め定められた範囲(Xr−w≦X≦Xr+w,Yr−w≦Y≦Yr+w)内に含まれる位置に設定された前記単位部分領域(43)を発光した時に生成された入力画像(D)から抽出された前記部分画像(M)を用いて、前記マッピング画像(540)を生成する、構成11に記載の画像処理システム。
前記モデル画像(810)は、第1計測結果に対応する第1モデル画像(811)と、第2計測結果に対応する第2モデル画像(812)とを含み、
前記画像計測部(15)は、
前記マッピング画像(540)の前記第1モデル画像(811)に対する第1類似度(S1|1)に基づいて、前記計測位置(b1)が前記第1計測結果に相当する状態であるか否かを判断し、
前記マッピング画像(540)の前記第2モデル画像(812)に対する第2類似度(S1|2)に基づいて、前記計測位置(b1)が前記第2計測結果に相当する状態であるか否かを判断する、構成10〜構成12のうちいずれか1に記載の画像処理システム。
計測結果が予め既知である基準計測位置(bk)に対する前記マッピング画像(810)を、当該計測結果のモデル画像(810)として登録する登録部(13)を備える、構成10〜構成13のうちいずれか1に記載の画像処理システム。
ユーザによる入力を受け付ける入力部(104)と、
前記撮像部(8)により撮像された撮像視野の画像を表示する表示部(102)とをさらに備え、
前記生成部(18)は、前記入力部(102)により受け付けられた前記表示部に表示された前記撮像視野の画像に対する位置の指定(622)に基づいて、指定された当該位置から抽出される前記部分画像(M)に基づいて前記マッピング画像(540)を生成し、
前記登録部(13)は、前記生成部が生成した指定された前記位置(622)から抽出される前記部分画像(M)に基づく前記マッピング画像(540,640)を、前記入力部が受け付けた計測結果(664)のモデル画像(810)として登録する(686)、構成14に記載の画像処理システム。
Claims (9)
- 画像計測を行なう画像処理システムであって、
対象物を撮像する撮像部と、
前記対象物に向けられた発光面を有する発光部と、
前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御する発光制御部と、
前記複数種類の部分領域の各々の発光に同期して前記対象物の注目部位を撮像するように、前記撮像部を制御する撮像制御部と、
前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像に基づき、反射プロファイル情報を生成する生成部と、
前記生成部が生成した前記反射プロファイル情報に基づいて前記対象物の前記画像計測を行なう画像計測部とを備え、
前記生成部は、
前記複数の画像の各々に含まれる前記注目部位の画像から、前記複数種類の部分領域の各々の位置から前記対象物に照射される光が当該対象物の前記注目部位に反射して前記撮像部に入射する光の輝度値に関する値を抽出し、
前記複数種類の部分領域の各々の位置と、抽出した前記光の輝度値に関する値との関係を示す前記反射プロファイル情報を生成する、画像処理システム。 - 前記画像計測部は、
前記注目部位の画像から生成された前記反射プロファイル情報と、予め設定された反射プロファイル基準情報との類似度を算出する算出部と、
前記算出部が算出した前記類似度を用いて、前記対象物、または、前記対象物の前記注目部位における状態を判断する判定部とをさらに備える、請求項1に記載の画像処理システム。 - 前記反射プロファイル基準情報は、状態が既知である対象物、または、当該対象物の特定部位を撮像して得られる画像から生成される前記反射プロファイル情報である、請求項2に記載の画像処理システム。
- 前記反射プロファイル基準情報は、状態が互いに等しい複数の部位ごとに生成される複数の前記反射プロファイル情報を統計的に表現した情報である、請求項3に記載の画像処理システム。
- 前記反射プロファイル情報は、前記複数の画像の各々から得られる、当該画像内の撮像視野内の注目点に対応する輝度情報および当該画像が撮像されたときに発光している前記部分領域の当該注目点に対する相対位置に基づく情報であって、
前記相対位置に対応する2軸以上の座標系に、前記輝度情報に対応する情報を出力した表現形態により前記反射プロファイル情報を出力する出力部をさらに備え、
前記出力部は、前記反射プロファイル基準情報および前記対象物の前記反射プロファイル情報を前記座標系上に順次または同時に出力する、請求項3または請求項4に記載の画像処理システム。 - 前記反射プロファイル基準情報は、第1状態に対応する1または複数の第1反射プロファイル基準情報と、第2状態に対応する1または複数の第2反射プロファイル基準情報とを含み、
前記判定部は、前記対象物上の複数の前記注目部位の各々について生成される前記反射プロファイル情報に基づいて、当該複数の前記注目部位の状態を前記注目部位ごとに分類する、請求項2〜請求項5のうちいずれか1項に記載の画像処理システム。 - 前記画像計測部は、前記対象物上の複数の前記注目部位の各々について生成される前記反射プロファイル情報の特徴量を抽出するとともに、各前記注目部位に対応する前記特徴量を評価することで、複数の前記注目部位の各々の状態を判断する、請求項1に記載の画像処理システム。
- 対象物を撮像する撮像部と、前記対象物に向けられた発光面を有する発光部とを制御して画像計測を行なう画像処理装置であって、
前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御する発光制御部と、
前記複数種類の部分領域の発光の各々に同期して前記対象物の注目部位を撮像するように、前記撮像部を制御する撮像制御部と、
前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像に基づき、反射プロファイル情報を生成する生成部と、
前記生成部が生成した前記反射プロファイル情報に基づいて前記対象物の前記画像計測を行なう画像計測部とを備え、
前記生成部は、
前記複数の画像の各々に含まれる前記注目部位の画像から、前記複数種類の部分領域の各々の位置から前記対象物に照射される光が当該対象物の前記注目部位に反射して前記撮像部に入射する光の輝度値に関する値を抽出し、
前記複数種類の部分領域の各々の位置と、抽出した前記光の輝度値に関する値との関係を示す前記反射プロファイル情報を生成する、画像処理装置。 - 対象物を撮像する撮像部と、前記対象物に向けられた発光面を有する発光部とを制御して画像計測を行なう画像処理装置に実行される画像処理プログラムであって、
前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御するステップと、
前記複数種類の部分領域の各々の発光に同期して前記対象物の注目部位を撮像するように、前記撮像部を制御するステップと、
前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像に基づき、反射プロファイル情報を生成するステップと、
生成された前記反射プロファイル情報に基づいて前記対象物の前記画像計測を行なうステップとを備え、
前記生成するステップは、
前記複数の画像の各々に含まれる前記注目部位の画像から、前記複数種類の部分領域の各々の位置から前記対象物に照射される光が当該対象物の前記注目部位に反射して前記撮像部に入射する光の輝度値に関する値を抽出するステップと、
前記複数種類の部分領域の各々の位置と、抽出した前記光の輝度値に関する値との関係を示す前記反射プロファイル情報を生成するステップとを含む、画像処理プログラム。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018047629A JP6973205B2 (ja) | 2018-03-15 | 2018-03-15 | 画像処理システム、画像処理装置、画像処理プログラム |
CN201910111266.6A CN110274911B (zh) | 2018-03-15 | 2019-02-12 | 图像处理系统、图像处理装置、存储介质 |
EP19156619.9A EP3540689B1 (en) | 2018-03-15 | 2019-02-12 | Measurement of an object based on a reflection profile |
US16/275,334 US10939024B2 (en) | 2018-03-15 | 2019-02-14 | Image processing system, image processing device and image processing program for image measurement |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018047629A JP6973205B2 (ja) | 2018-03-15 | 2018-03-15 | 画像処理システム、画像処理装置、画像処理プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019158711A JP2019158711A (ja) | 2019-09-19 |
JP6973205B2 true JP6973205B2 (ja) | 2021-11-24 |
Family
ID=65628521
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018047629A Active JP6973205B2 (ja) | 2018-03-15 | 2018-03-15 | 画像処理システム、画像処理装置、画像処理プログラム |
Country Status (4)
Country | Link |
---|---|
US (1) | US10939024B2 (ja) |
EP (1) | EP3540689B1 (ja) |
JP (1) | JP6973205B2 (ja) |
CN (1) | CN110274911B (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2021081259A (ja) * | 2019-11-18 | 2021-05-27 | 株式会社寺岡精工 | ラベル検査装置 |
CN118010637B (zh) * | 2024-04-09 | 2024-06-07 | 江苏迪莫工业智能科技有限公司 | 一种生产工具用螺母检测系统及其检测方法 |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US4873651A (en) * | 1987-04-21 | 1989-10-10 | Case Western Reserve University | Method and apparatus for reconstructing three-dimensional surfaces from two-dimensional images |
JPH11148807A (ja) * | 1997-07-29 | 1999-06-02 | Toshiba Corp | バンプ高さ測定方法及びバンプ高さ測定装置 |
JP3668383B2 (ja) * | 1998-02-27 | 2005-07-06 | 松下電器産業株式会社 | 電子部品実装装置 |
US6788411B1 (en) * | 1999-07-08 | 2004-09-07 | Ppt Vision, Inc. | Method and apparatus for adjusting illumination angle |
EP1277042B1 (en) * | 2000-04-28 | 2011-04-06 | Electro Scientific Industries, Inc. | Directional lighting and method to distinguish three dimensional information |
US7019826B2 (en) * | 2003-03-20 | 2006-03-28 | Agilent Technologies, Inc. | Optical inspection system, apparatus and method for reconstructing three-dimensional images for printed circuit board and electronics manufacturing inspection |
US7171037B2 (en) * | 2003-03-20 | 2007-01-30 | Agilent Technologies, Inc. | Optical inspection system and method for displaying imaged objects in greater than two dimensions |
JP2005214720A (ja) * | 2004-01-28 | 2005-08-11 | Fuji Photo Film Co Ltd | 表面検査装置及び方法 |
DE102004056698B3 (de) * | 2004-11-24 | 2006-08-17 | Stratus Vision Gmbh | Inspektionsvorrichtung für ein Substrat, das mindestens eine aufgedruckte Schicht aufweist |
JP2007206797A (ja) * | 2006-01-31 | 2007-08-16 | Omron Corp | 画像処理方法および画像処理装置 |
JP4843399B2 (ja) * | 2006-07-31 | 2011-12-21 | 株式会社日立ハイテクノロジーズ | 検査装置及び検査方法 |
US20080062424A1 (en) * | 2006-09-07 | 2008-03-13 | Mark Richard Shires | Compact Ringlight |
JP5853374B2 (ja) * | 2010-03-12 | 2016-02-09 | オムロン株式会社 | 照明装置 |
JP5807772B2 (ja) * | 2011-06-23 | 2015-11-10 | アイシン精機株式会社 | 欠陥検出装置およびその方法 |
JP5900037B2 (ja) * | 2012-03-08 | 2016-04-06 | オムロン株式会社 | 画像処理装置およびその制御方法 |
US9513215B2 (en) * | 2013-05-30 | 2016-12-06 | Seagate Technology Llc | Surface features by azimuthal angle |
KR101797423B1 (ko) * | 2014-03-07 | 2017-11-13 | 신닛테츠스미킨 카부시키카이샤 | 표면 성상 지표화 장치, 표면 성상 지표화 방법 및 프로그램 |
JP6290720B2 (ja) * | 2014-06-09 | 2018-03-07 | 株式会社キーエンス | 検査装置、検査方法およびプログラム |
JP6424020B2 (ja) * | 2014-06-09 | 2018-11-14 | 株式会社キーエンス | 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 |
JP6403445B2 (ja) * | 2014-06-09 | 2018-10-10 | 株式会社キーエンス | 検査装置、検査方法およびプログラム |
US9838612B2 (en) * | 2015-07-13 | 2017-12-05 | Test Research, Inc. | Inspecting device and method for inspecting inspection target |
US20170069075A1 (en) * | 2015-09-04 | 2017-03-09 | Canon Kabushiki Kaisha | Classifier generation apparatus, defective/non-defective determination method, and program |
JP2017067633A (ja) * | 2015-09-30 | 2017-04-06 | キヤノン株式会社 | 検査装置および物品製造方法 |
JP2017067632A (ja) * | 2015-09-30 | 2017-04-06 | キヤノン株式会社 | 検査装置および物品製造方法 |
JP2017120232A (ja) * | 2015-12-28 | 2017-07-06 | キヤノン株式会社 | 検査装置 |
JP6597469B2 (ja) * | 2016-04-25 | 2019-10-30 | 株式会社デンソー | 欠陥検査装置 |
JP2017198612A (ja) * | 2016-04-28 | 2017-11-02 | キヤノン株式会社 | 検査装置、検査システム、および物品製造方法 |
JP6684158B2 (ja) | 2016-06-13 | 2020-04-22 | 株式会社キーエンス | 画像処理センサ、画像処理方法 |
JP6745173B2 (ja) * | 2016-09-06 | 2020-08-26 | 株式会社キーエンス | 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器 |
GB2560951B (en) * | 2017-03-29 | 2020-06-17 | Redlux Ltd | Inspection of components for imperfections |
-
2018
- 2018-03-15 JP JP2018047629A patent/JP6973205B2/ja active Active
-
2019
- 2019-02-12 EP EP19156619.9A patent/EP3540689B1/en active Active
- 2019-02-12 CN CN201910111266.6A patent/CN110274911B/zh active Active
- 2019-02-14 US US16/275,334 patent/US10939024B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
CN110274911B (zh) | 2022-12-02 |
EP3540689A1 (en) | 2019-09-18 |
US20190289178A1 (en) | 2019-09-19 |
US10939024B2 (en) | 2021-03-02 |
CN110274911A (zh) | 2019-09-24 |
EP3540689B1 (en) | 2022-04-27 |
JP2019158711A (ja) | 2019-09-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111220582A (zh) | 荧光渗透检查系统和方法 | |
US11295434B2 (en) | Image inspection system and image inspection method | |
US20070176927A1 (en) | Image Processing method and image processor | |
JP7010057B2 (ja) | 画像処理システムおよび設定方法 | |
JP5432864B2 (ja) | 検査装置及び検査方法 | |
JP7514259B2 (ja) | カメラ部品が損傷しているかどうかを判定するためのシステムおよび方法 | |
US8315457B2 (en) | System and method for performing multi-image training for pattern recognition and registration | |
CN114136975A (zh) | 一种微波裸芯片表面缺陷智能检测系统和方法 | |
JP6917780B2 (ja) | 画像検査装置 | |
JP6973205B2 (ja) | 画像処理システム、画像処理装置、画像処理プログラム | |
US11012612B2 (en) | Image inspection system and image inspection method | |
JP2021043010A (ja) | 光学条件決定システム、及び光学条件決定方法 | |
JP6045429B2 (ja) | 撮像装置、画像処理装置及び画像処理方法 | |
JP7127046B2 (ja) | モデルベースのピーク選択を使用した3dプロファイル決定のためのシステム及び方法 | |
JP7342616B2 (ja) | 画像処理システム、設定方法およびプログラム | |
JP6835020B2 (ja) | 画像処理システム、画像処理装置、画像処理プログラム | |
JP4715703B2 (ja) | 光学フレア検査装置および検査方法 | |
JP7362324B2 (ja) | 画像表示装置の検査方法、製造方法及び検査装置 | |
JP2008111705A (ja) | 欠陥検出方法、欠陥検出プログラムおよび検査装置 | |
JP7079218B2 (ja) | 撮像装置 | |
JP2018205001A (ja) | 画像検査装置 | |
JP4967132B2 (ja) | 対象物表面の欠陥検査方法 | |
US11816827B2 (en) | User interface device for autonomous machine vision inspection | |
JP7306858B2 (ja) | 画像検査システム及び画像検査方法 | |
JP6284428B2 (ja) | 顕微鏡システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20200309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20210225 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20210316 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210423 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20211005 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20211018 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6973205 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |