JP7056131B2 - 画像処理システム、画像処理プログラム、および画像処理方法 - Google Patents

画像処理システム、画像処理プログラム、および画像処理方法 Download PDF

Info

Publication number
JP7056131B2
JP7056131B2 JP2017240595A JP2017240595A JP7056131B2 JP 7056131 B2 JP7056131 B2 JP 7056131B2 JP 2017240595 A JP2017240595 A JP 2017240595A JP 2017240595 A JP2017240595 A JP 2017240595A JP 7056131 B2 JP7056131 B2 JP 7056131B2
Authority
JP
Japan
Prior art keywords
image data
image
light emitting
unit
lighting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017240595A
Other languages
English (en)
Other versions
JP2019109071A (ja
Inventor
豊 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2017240595A priority Critical patent/JP7056131B2/ja
Priority to EP18199588.7A priority patent/EP3499178B1/en
Priority to CN201811194958.3A priority patent/CN109945794B/zh
Priority to US16/161,096 priority patent/US10853935B2/en
Publication of JP2019109071A publication Critical patent/JP2019109071A/ja
Application granted granted Critical
Publication of JP7056131B2 publication Critical patent/JP7056131B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B2210/00Aspects not specifically covered by any group under G01B, e.g. of wheel alignment, caliper-like sensors
    • G01B2210/52Combining or merging partially overlapping images to an overall image
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20021Dividing image into blocks, subimages or windows
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Description

本発明は、画像処理システム、画像処理プログラム、および画像処理方法に関する。
FA(Factory Automation)分野などにおいては、対象物(以下、「ワーク」とも称す。)を照明装置からの光による照明下で撮像し、生成された画像データからワークに関する情報を取得する画像処理技術が利用されている。
画像処理技術分野において利用される照明装置として、多種多様な照明装置が開発されている。例えば、特開2015-232487(特許文献1)には、照明方向が異なる複数の照明を備える照明装置が開示されている。
また、照明条件を決定する方法には、一般的に、ユーザが照明条件を変えて、試行錯誤して設定する方法と、照明パターンを変えて複数の画像データを取得して、得られた画像データを評価する方法があった。
特開2015-232487号公報
照明条件を決定する場合、1の画像データに対して、1の照明条件を決定することを前提としている。しかし、複数の照明からなる照明装置において、一の照明から照射される光は、対象物の表面形状によっては、表面領域ごとに入射角が異なる。それにより、同じ対象物に対して同じ照明から光を照射する場合であっても、表面領域ごとに、その光に基づいて計測される画像計測の精度が異なることが考えられる。例えば、同じ照明条件下でも、1領域の表面形状は精度よく得られても、他の領域の表面形状の計測精度は低くなることが考えられる。
発明者は、同じ対象物であっても、対象物の表面領域ごとに最適な照明条件は異なるため、表面領域に対応する画像データの位置に関連付けて、画像データを生成するにあたっての条件を設定する必要があることを見出した。
本発明は、画像データの位置に関連付けて、画像データを生成する際の条件を設定することができる画像処理システム、画像処理プログラム、および画像処理方法を提供することを目的とする。
本開示の一例によれば、画像計測を行なう画像計測システムが提供される。画像計測システムは、対象物を撮像して画像データを出力する撮像部と、対象物に照明光を照射するための発光部が複数配置された照明部と、照明条件にしたがって複数の発光部の発光状態を複数に異ならせるように前記照明部を制御するとともに、複数の異なる発光状態の各々で対象物を撮像するように撮像部を制御する、制御部と、画像データ内の位置に関連付けて規定される生成条件に基づいて、複数の異なる発光状態の各々で撮像された複数の画像データから画像計測に利用する画像データを生成する生成部と、生成部から画像計測の目的に適合する画像データが生成されるように、照明条件および生成条件のうちの少なくとも一方を決定する決定部とを含む。
この開示によれば、画像データ全体ではなく画像データ内の位置に関連づけて、画像計測に適した照明条件および合成条件のうちの少なくとも一方を決定することができるため、画像データの位置に関連付けて、画像データを生成する際の条件を設定することができる。
上述の開示において、決定部は、外観の状態が既知の基準対象物が複数の異なる発光状態の各々で撮像された複数の基準画像データから生成部により生成される画像データが示す当該基準対象物の外観の状態が、既知の外観の状態と一致するように、照明条件および生成条件のうちの少なくとも一方を決定してもよい。
この開示によれば、正解となる基準対象物に関する情報にしたがって照明条件および生成条件のうちの少なくとも一方を決定することができるため、外観の状態を正確に示した画像データを生成することができる。
上述の開示において、決定部は、生成部により生成される画像データを画像計測した場合の計測精度を示すファクタを含むコスト関数が示す値が最大化するように、照明条件および合成条件のうちの少なくとも一方を決定してもよい。
この開示によれば、画像データ全体ではなく画像データの部分領域ごとに、計測精度の高い画像計測を行なうことができる。
上述の開示において、コスト関数は、生成部により生成される画像データに含まれる画素間の連続性を示すファクタをさらに含んでもよい。
この開示によれば、コスト関数に計測精度を示すファクタだけでなく、画像データに含まれる画素間の連続性を示すファクタが含まれるため、照明条件および合成条件のうちの少なくとも一方の条件を決定する際に、局所的に最適化されてしまうことを防止することができる。
上述の開示において、照明条件は、複数の発光部のうちの1の発光部を順次発光させることを含んでもよい。生成条件は、発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、画像データ内の位置に関連付けられた合成パラメータを含んでもよい。生成部は、複数の画像データを、当該複数の画像データの各々に対して規定された合成パラメータにしたがって合成することで、画像計測に利用する画像データを生成してもよい。決定部は、複数の画像データの各々に対して規定される合成パラメータを決定してもよい。
この開示によれば、照明条件は、複数の発光部のうちの1の発光部を順次発光させることであって、固定の条件である。すなわち、決定部は、合成パラメータのみを決定すればよいため、照明条件および生成条件の両方を決定する場合に比べて処理を軽減することができる。また、発光部の数が多く、発光状態のパターンが多くある場合に、発光状態を変えることなく、規定の複数の発光状態の下で撮像された複数の画像データを合成する条件を変えていくだけで、合成パラメータを決定することができる。
上述の開示において、照明条件は、画像データ内の位置ごとに規定された、複数の発光部の発光状態を含んでもよい。生成条件は、画像データ内の位置ごとに規定された発光状態の各々で撮像された複数の画像データのうち、画像データ内の注目位置に対応する発光状態で撮像された1の画像データから、当該注目位置に対応する部分画像データを抽出することを含んでもよい。生成部は、画像データ内の位置ごとに部分画像データを抽出することで、画像計測に利用する画像データを生成してもよい。決定部は、画像データ内の位置ごとに規定される複数の発光部の発光状態を決定してもよい。
この開示によれば、生成条件は、注目位置に対応する発光状態で撮像された1の画像データから当該注目位置に対応する部分画像データを抽出することであって、固定の条件である。すなわち、決定部は、画像データ内の位置ごとに規定される複数の発光部の発光状態のみを決定すればよく、照明条件および生成条件の両方を決定する場合に比べて処理を軽減することができる。また、発光部の数が少なく、発光状態のパターンが少ない場合には、発光状態のパターンを変えて、画像データ内の位置ごとに適当な発光状態を容易に決定することができる。
上述の開示において、生成条件は、画像データ内の隣接する複数画素からなる部分領域ごとに規定されてもよい。生成部は、画像計測に利用する画像データとして、部分領域ごとに当該部分領域に対応する部分領域画像データを生成してもよい。決定部は、部分領域画像データの各々について、生成条件および照明条件のうちの少なくとも一方を決定してもよい。
この開示によれば、複数画素からなる部分領域ごとに生成条件および照明条件を決定するため、一画素ごとに決定する場合に比べて処理が軽減される。
本開示の別の一例によれば、対象物を撮像して画像データを出力する撮像装置と、当該対象物に照明光を照射するための発光部が複数配置された照明装置とを制御するコンピュータで実行される画像計測を行なうための画像処理プログラムが提供される。画像処理プログラムは、コンピュータに、照明条件にしたがって複数の発光部の発光状態を複数に異ならせるように照明装置を制御する機能と、複数の異なる発光状態の各々で対象物を撮像するように撮像装置を制御する機能と、画像データ内の位置に関連付けて規定される生成条件に基づいて、複数の異なる発光状態の各々で撮像された複数の画像データから画像計測に利用する画像データを生成する機能と、画像計測の目的に適合する画像データが生成されるように、照明条件および生成条件のうちの少なくとも一方を決定する機能とを実行させる。
この開示によれば、画像データ全体ではなく画像データ内の位置に関連づけて、画像計測に適した照明条件および合成条件のうちの少なくとも一方を決定することができるため、画像データの位置に関連付けて、画像データを生成する際の条件を設定することができる。
本開示の別の一例によれば、画像計測を行なう画像処理方法が提供される。画像処理方法は、照明条件にしたがって複数の発光部の発光状態を複数に異ならせ、複数の異なる発光状態の各々で対象物を撮像して複数の画像データを取得し、画像データ内の位置に関連付けて規定される生成条件に基づいて、複数の異なる発光状態の各々で撮像された複数の画像データから画像計測に利用する画像データを生成し、画像計測の目的に適合する画像データが生成されるように、照明条件および生成条件のうちの少なくとも一方を決定する。
この開示によれば、画像データ全体ではなく画像データ内の位置に関連づけて、画像計測に適した照明条件および合成条件のうちの少なくとも一方を決定することができるため、画像データの位置に関連付けて、画像データを生成する際の条件を設定することができる。
画像データの位置に関連付けて、画像データを生成する際の条件を設定することができる。
本開示の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解される本発明に関する次の詳細な説明から明らかとなるであろう。
本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。 本発明の実施の形態に係る画像処理システムの基本構成を示す模式図である。 照明装置の構成を示す図である。 画像処理装置のハードウェア構成について示す模式図である。 第1の具体例における画像計測の流れを説明するための図である。 第1の具体例における第1パラメータセットの位置補正について説明するための図である。 第1の具体例における画像計測に用いられる画像処理装置の機能構成を示す図である。 第1の具体例における第1パラメータセットの決定方法を説明するための図である。 第1の具体例における第1パラメータセット決定時の画像処理装置の機能構成を示す図である。 第2の具体例における画像計測の流れを説明するための図である。 第2の具体例における第2パラメータセットの位置補正について説明するための図である。 第2の具体例における画像計測に用いられる画像処理装置の機能構成を示す図である。 第2の具体例における第2パラメータセットの決定方法を説明するための図である。 第2の具体例における第2パラメータ決定時の画像処理装置の機能構成を示す図である。 部分領域riの規定方法の変形例を説明するための図である。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
§1 適用例
まず、図1を参照して、本発明が適用される場面の一例について説明する。図1は、本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。
画像処理システム1は、撮像部の一例であるカメラ8と、照明部の一例である照明装置4と、カメラ8および照明装置4を制御する制御部12と、カメラ8が撮像した画像データ81から画像計測に利用する画像データRを生成する生成部10と、生成部10から画像計測の目的に適合する画像データRが生成されるように画像データRを生成するための条件を決定する決定部30とを備える。制御部12、生成部10および決定部30は、一例として、汎用的なコンピュータアーキテクチャに従う構造を有している画像処理装置100に設けられている。
カメラ8は、撮像視野内にワークWの少なくとも一部が含まれるように配置されている。照明装置4には、ワークWに照明光を照射するための発光部41が複数配置されている。一の発光部41は、一の光源から構成されてもよく、あるいは複数の光源から構成されてもよい。また、一の発光部41に含まれる光源の種類は、一種類であってもよく、また複数種類であってもよい。
制御部12は、照明条件にしたがって複数の発光部41の発光状態を制御して、発光部41の発光状態を複数に異ならせる。また、制御部12は、異なる複数の発光状態の各々で対象物を撮像するようにカメラ8を制御する。すなわち、制御部12が、照明装置4とカメラ8とを制御することで、画像処理装置100は、異なる発光状態の下で撮像された対象物であるワークWの複数の画像データ81を取得することができる。ここで、発光状態が異なるとは、各発光部41から照射される光の輝度および波長のうちの少なくともいずれか一方が異なることをいう。たとえば、1の発光部41から照射される光の輝度および波長のうちの少なくともいずれか一方が異なれば、当該1の発光部41以外の発光部41から照射される光の輝度および波長のいずれもが等しくても、発光状態は異なるといえる。
生成部10は、異なる発光状態の下で撮像して得られる複数の画像データ81を取得する。生成部10は、画像データの位置に関連付けて規定される生成条件に基づいて、取得した複数の画像データ81から画像計測に利用する画像データRを生成する。
「画像データ内の位置に関連付けて規定される」とは、画像データ内の画素によって規定されるものと、画像データ内に映されたワークWの位置に関連付けて規定されるものとを含む。
決定部30は、画像データRを生成するための条件として、生成条件および照明条件のうちの少なくとも一方を決定する。決定部30は、たとえば、生成条件および/または照明条件を変えた結果、生成部10から得られる画像データRが画像計測の目的に適合する画像データとなるように、生成条件および/または照明条件をフィッティングしていく。
ここで、「画像計測の目的に適合する画像データ」とは、実際のワークWの表面形状を正確に表した画像データや、ノイズの少ない画像データ、また、検査として抽出したい特徴量を正確に抽出することのできる画像データなどである。具体的には、キズ検査を行う場合にあっては、キズとして認識させたい箇所ははっきりと映し出され、キズとして認識させたくない箇所はキズとして映らないような画像データが、画像計測の目的に適合する画像データである。
決定部30は、たとえば、総当り法、ニューラルネットワークを利用した方法、山登り法など、種々のフィッティング方法を採用することができる。
また、決定部30は、予め照明条件および/または生成条件のパターンを複数記憶しておき、記憶されているパターンの中から、生成部10から画像計測の目的に適合する画像データRが生成されるように選択することで、照明条件および/または生成条件を決定してもよい。
ここで、照明条件とは、ワークWを撮像するときの発光状態を規定するための条件であって、たとえば、各発光部41から照射される光の発光強度を規定する条件を含む。また、生成条件は、複数の発光状態の各々で撮像された複数の画像データ81のうち、特定の画像データ81から所定の領域の画像データを抽出すること、また、複数の画像データ81のうちの複数の画像データ81の各々から所定の領域の画像データを抽出するとともに予め定められた合成パラメータにしたがって合成して一の画像データを生成することを含む。
図1の例では、生成条件は、画像データ81の位置(x、y)ごとに規定された条件Pの集合である。決定部30は、たとえば、照明条件を固定し、当該照明条件において得られた複数の画像データ81から生成部10が生成する画像データRが画像計測の目的に適合する画像データとなるように、画像データ81の位置(x、y)ごとに条件Pを設定することで、生成条件を決定してもよい。
また、照明条件として、画像データ81の位置(x、y)ごとに対応する発光状態を設定し、生成部10は、複数の発光状態のうち、注目位置(x、y)に対応する発光状態の下で撮像された画像データ81から注目位置(x、y)に対応するデータを抽出することで画像計測に利用する画像データRを生成してもよい。このような場合に、決定部30は、注目位置(x、y)に対応するデータが画像計測の目的に適合するように発光状態を決定し、発光状態を注目位置(x、y)ごとに決定してもよい。
このように、画像処理システム1において、決定部30は、画像データ81全体ではなく画像データ81の位置に関連付けて、画像データを生成する際の条件を決定することができる。これにより、ワークWの表面領域に対応する画像データ81の位置ごとに、画像計測の目的に適合した画像データを生成することができる。
なお、以下では、説明の便宜上、画像データ81内の隣接する複数画素からなる部分領域riに含まれる複数画素の各々には共通する生成条件が規定されているものとして説明する。
§2 具体例
以下、本発明のより具体的な一応用例として、本実施の形態に係る画像処理システム1のより詳細な構成および処理について説明する。
[A.画像処理システム1の基本構成]
図2は、本発明の実施の形態に係る画像処理システム1の基本構成を示す模式図である。画像処理システム1は、主たる構成要素として、画像処理装置100と、カメラ8と、照明装置4とを含む。画像処理装置100とカメラ8と照明装置4とは互いにデータ通信可能に接続される。
照明装置4は、検査対象物(以下、「ワークW」ともいう。)の少なくとも一部が照明装置4の照射領域に位置するように配置されている。なお、ワークWがベルトコンベアのような搬送装置によって搬送される場合、搬送装置の少なくとも一部が照射領域に位置するように照明装置4は配置される。図2の例では、ワークWは、テーパ部W1と、平面部W2とを備える四角垂台の形状をした物体である。なお、ワークWの形状は一例であって、画像処理システム1は任意のワークWに対して用いられる。
カメラ8は、ワークWの少なくとも一部がカメラ8の撮像視野に位置し、かつ、照明装置4の照射領域の少なくとも一部がカメラ8の撮像視野に含まれるように配置されている。カメラ8は、撮像視野に存在する被写体を撮像し、撮像により得られた画像信号(1または複数の静止画像および動画像を含み得る)を画像処理装置100へ出力する。カメラ8は、撮像部の一例であって、所定の撮像視野に含まれる光を画像信号に変換する光電変換器であり、典型的には、レンズや絞りなどの光学系と、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの受光素子とを含む。
図2の例では、ワークWと照明装置4とカメラ8とが互いに同軸上に位置するように配置されている。照明装置4には、カメラ8が照明装置4の上部からワークWを撮像することができるように、開口部48(図3参照)が設けられている。カメラ8は、開口部48を通してワークWが撮像視野内に含まれるように配置されている。なお、ワークWと照明装置4とカメラ8との位置関係は一例であって、互いに同軸上に位置していなくともよい。たとえば、照明装置4を紙面の右側に配置されており、カメラ8が紙面の左側に配置されているような構成であってもよい。
画像処理装置100は、画像処理システム1全体の処理を司る。たとえば、画像処理装置100は、照明装置4およびカメラ8を制御するとともに、カメラ8から出力された画像信号に基づいて、ワークW上の欠陥や汚れの有無の検査、ワークWの大きさや配置や向きなどの計測、ワークW表面上の文字や図形などの認識といった画像処理を行う。
なお、図2の例では、照明装置4およびカメラ8を制御する機能と、画像処理を行う機能とを一の装置が行うとしたが、画像処理システム1は、機能ごとに別々の装置を備えてもよい。たとえば、画像処理システム1は、照明装置4を制御する照明制御装置と、カメラ8を制御する撮像制御装置と、画像処理を行う装置とを備えてもよい。また、一の機能を他の装置が備えてもよい。
[B.照明装置4の構成]
図3を参照して、照明装置4の構成について説明する。図3は、照明装置4の構成を示す図である。照明装置4は複数の発光部41を含む。図3の例では、照明装置4は、合計34個の発光部41を含む。また、照明装置4の中央には、照明装置4の上部からワークWを撮像することができるように開口部48が設けられている。
図3の例では、各発光部41は所定の位置を基準に規則的に照明装置4に配列されている。たとえば、図3の例では、照明装置4を構成する辺と点のうち、一の点を基準に縦と横に規則的に発光部41は配列されている。なお、開口部48を基準に、発光部41は、開口部48の周囲を円状に配列されていてもよい。
発光部41同士の間隔は、ワークWに対して様々な角度から光を入射させるために、可能な限り狭い方がよい。また、複数の発光部41の各々は互いに同じ構造であることが好ましく、また、各発光部41は同じ高さに配置されていることが好ましい。
本実施の形態においては、説明の便宜上、照明装置4の短辺をx軸、長辺をy軸として、照明装置4に含まれる複数の発光部41の各々を座標(x、y)で区別することがある。
画像処理装置100は、複数の発光部41をそれぞれ独立して制御することができる。たとえば、画像処理装置100は、一部の発光部41のみを点灯させて、他の発光部41は消灯させることができる。また、画像処理装置100は、複数の発光部41を互いに異なる発光強度で点灯させることができる。
本実施の形態において、各発光部41からは共通する波長の照明光がワークWに対して照射されるものとする。なお、発光部41から照射される照明光の波長を複数の発光部41のそれぞれで異なるように制御できるような構成であってもよい。
また、本実施の形態においては、四角形状の照明装置4を例に挙げたが、リング状の照明装置であってもよい。また、有機EL(Electro Luminescence)からなる透過型の照明装置であってもよい。透過型の照明装置を用いた場合、本実施例のような開口部48を設ける必要がない。また、ドーム形状の照明装置であってもよい。また、画像処理システム1は、好ましくは、カメラ8と、照明装置4と、ワークWとを同軸上に配置可能な照明装置4を備えるものの、同軸上に配置することができない照明装置4を備えてもよい。
[C.画像処理装置100のハードウェア構成]
図4は、画像処理装置100のハードウェア構成について示す模式図である。画像処理装置100は、CPU(Central Processing Unit)110、メインメモリ120、ハードディスク130、カメラインターフェイス(I/F)180、照明I/F140、および外部メモリI/F160を含む。これらの各部は、バス190を介して、互いにデータ通信可能に接続される。
CPU110は、ハードディスク130にインストールされた画像処理プログラム132および設定プログラム134を含むプログラム(コード)をメインメモリ120に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ120は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置である。
ハードディスク130は、画像処理装置100が備える内部メモリであって、不揮発性の記憶装置である。画像処理プログラム132、設定プログラム134、照明パラメータデータベース(DB)136、および設定用パラメータDB138を含む。なお、ハードディスク130に加えて、あるいは、ハードディスク130に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
カメラI/F180は、CPU110とカメラ8との間のデータ伝送を仲介する。すなわち、カメラI/F180は、画像データを生成するカメラ8と接続される。また、カメラI/F180は、CPU110からの内部コマンドに従って、接続されているカメラ8における撮像動作を制御するコマンドを与える。
照明I/F140は、CPU110と照明装置4との間のデータ伝送を仲介する。すなわち、照明I/F140は、照明装置4と接続される。また、照明I/F140は、CPU110からの内部コマンドに従って、接続されている照明装置4に含まれる複数の発光部41の各々の点灯を制御するコマンドを与える。なお、照明装置4は、カメラ8を介して画像処理装置100と接続されてもよい。また、カメラ8は、照明装置4を介して画像処理装置100と接続されてもよい。
外部メモリI/F160は、外部メモリ6と接続され、外部メモリ6に対するデータの読み込み/書き込みの処理をする。外部メモリ6は、画像処理装置100に着脱可能であって、典型的には、USB(Universal Serial Bus)メモリ、メモリカードなどの不揮発性の記憶装置である。また、画像処理プログラム132や設定プログラム134等の各種プログラムおよび照明パラメータDB136や設定用パラメータDB138等の各種パラメータDBは、ハードディスク130に保存されている必要はなく、画像処理装置100と通信可能なサーバや、画像処理装置100と直接接続可能な外部メモリ6に保存されていてもよい。たとえば、外部メモリ6に画像処理装置100で実行される各種プログラムおよび各種プログラムで用いられる各種パラメータが格納された状態で流通し、外部メモリI/F160は、この外部メモリ6から各種プログラムおよび各種パラメータを読み出す。あるいは、画像処理装置100と通信可能に接続されたサーバなどからダウンロードしたプログラムやパラメータを画像処理装置100にインストールしてもよい。
なお、本実施の形態に係る画像処理プログラム132および設定プログラム134は、他のプログラムの一部に組み込まれて提供されるものであってもよい。
また、代替的に、画像処理プログラム132および設定プログラム134の実行により提供される機能の一部もしくは全部を専用のハードウェア回路として実装してもよい。
[概要]
ワークWの外観画像からワークWの外観検査を画像処理により行なう場合に、照明装置4とカメラ8とワークWとの位置関係および、ワークWの材質や、検出したい傷の種類等の検査項目などによって、照射する光の強度、および照射する光の波長を変えることで、検査に応じた画像データを取得することができる。
従来は、ワークWに対してカメラ8を動かすことなく画像処理を行なう場合、1回の撮像に対して、1の照明条件が設定されていた。しかし、照明装置4とカメラ8とワークWとの位置関係は、ワークWの領域ごとに異なる。そのため、1回の撮像で、ある領域の画像データからは検査に適した特徴量を抽出できたとしても、別の領域の画像データからは検査に適した特徴量を抽出できていないおそれがある。
たとえば、カメラ8の撮像視野内であっても、位置によって、カメラ8の視線方向や、照明装置4からの光の放射方向が異なる。また、ワークWの形状によっては、位置によってカメラ8の視線方向や、照明装置4からの光の放射方向が異なる。そのため、カメラ8の撮像視野内のうちのいずれの位置においても検査に適した画像データとなるようには同時には実現することができていなかった。
本実施の形態における画像処理システム1は、撮像視野内の位置ごとに画像計測の目的に適合した画像データを生成することで、画像データ内のどの位置においても検査に適した画像データを取得することができる。
[第1の具体例]
撮像視野内のどの位置においても検査に適した画像データを取得して画像計測を行うための第1の具体例について説明する。第1の具体例における画像処理システム1において、カメラ8は、照明条件を変えて複数の画像データ81を生成する。画像処理装置100は、画像データ81に規定される部分領域riごとに、部分領域riに対応する部分画像データ82を複数の画像データ81の各々から抽出して、複数の部分画像データ82を部分領域riごとに規定された第1パラメータセットρiにしたがって合成することで部分領域画像データRiを生成する。また、画像処理装置100は、生成された部分領域画像データRiに対して画像計測を行なう。
(画像計測の流れ)
図5を参照して、第1の具体例における画像処理システム1が行なう画像計測の流れを説明する。図5は、第1の具体例における画像計測の流れを説明するための図である。
画像処理装置100は、複数の発光部41を1つずつ順次発光させ、発光部41の順次発光に対応して対象物を撮像して画像データ81を取得する。たとえば、画像処理装置100は、発光部41(x1、y1)だけを所定の発光強度で点灯させた発光状態1において撮像された画像データ81(x1、y1)、発光部41(x2、y1)だけを所定の発光強度で点灯させた発光状態2において撮像された画像データ81(x2、y1)等をカメラ8から取得する。なお、以下、発光部41(x、y)を所定の発光強度で点灯させた点灯条件下で撮像して得られた画像データ81を画像データ81(x、y)と表現する。
画像データ81は、予め規定された複数の部分領域riを含む。この部分領域riは、カメラ8の撮像視野の一部分に相当する。画像処理装置100は、複数の画像データ81(x、y)から生成対象の部分領域riに対応する部分画像データ82i(x、y)をそれぞれ抽出する。画像処理装置100は、部分領域riごとに各発光部41からの影響を規定した第1パラメータセットρiに従って、複数の画像データ81(x、y)のそれぞれから抽出した複数の部分画像データ82i(x、y)を合成することで、部分領域riごとに部分領域画像データRiを生成する。
部分領域riごとに各発光部41からの影響を規定した第1パラメータセットρiとは、たとえば、異なる発光状態の各々において撮像されて得られた複数の画像データ81(x、y)の部分領域riに対応する各部分画像データ82i(x、y)が画像計測の目的に適合した画像データであるかを相対的に示したものである。画像計測の目的に適合しているか否かは、たとえば、得られるはずの特徴量が部分画像データ82i(x、y)に含まれているか、得られるはずのない特徴量が部分画像データ82i(x、y)に含まれているかなどによって判断することができる。
発光部41(x1、y1)から照射された光に基づいて生成される画像データ81(x1、y1)のうちの部分領域r1に含まれる部分画像データ821(x1、y1)からは、画像計測に適した特徴量が抽出されるにも関わらず、発光部41(x5、y1)から照射された光に基づいて生成される画像データ81(x5、y1)のうち、部分領域r1に含まれる部分画像データ821(x5、y1)からは、画像計測に適さない特徴量が抽出されることがある。これは、領域riに対応するワークWの表面領域と、カメラ8と、発光部41との位置関係が、発光部41(x1、y1)と発光部41(x5、y1)とで異なることにより生じる。この場合に、第1パラメータセットρiは、画像計測に適した特徴量が抽出される部分画像データ821(x1、y1)の影響が大きく、画像計測に適さない特徴量が抽出される部分画像データ821(x5、y1)の影響が小さくなるように、設定される。
たとえば、第1パラメータセットρiは、画像データ81(x、y)ごとに設定された第1パラメータρi(x、y)の集合である。画像処理装置100は、この第1パラメータセットρiを部分領域riごとに備える。画像処理装置100は、たとえば、部分領域画像データRiを以下の式(1)に基づいて算出する。
Figure 0007056131000001
画像処理装置100は、得られた部分領域画像データRiに基づいて画像計測を行なう。たとえば、画像処理装置100は、得られた部分領域画像データRiに含まれる特徴量を抽出し、当該特徴量に基づいて、ワークWの表面状態について計測する。
ここで、第1パラメータセットρiを用いて部分領域画像データRiを合成する際に線形和で合成するとしたが、合成方法はこれに限られない。例えば、複数の線形和を求めて、互いに掛け算や割り算を行うことで合成しても良い。また、第1パラメータセットρiは、正の値でも、負の値であっても良い。また、合成する際の演算に最大値または最小値を用いても良い。また、画像計測を行うにあたって、部分領域画像データRiを個別に評価してもよく、また、すべての部分領域画像データRiを合成して、カメラ8の撮像視野全体の画像データを生成した上で画像計測を行っても良い。
(第1パラメータセットρiの補正)
画像処理装置100は、ワークWの撮像視野内における配置状況に応じて第1パラメータセットρiを補正してもよい。たとえば、第1パラメータセットρi設定時のワークWの撮像視野内における配置状況と、計測時のワークWの撮像視野内における配置状況とが異なる場合に、発光部41とワークWとの位置関係が第1パラメータセットρi設定時と異なるにも関わらず、第1パラメータセットρiを補正せずに用いた場合に、画像計測の精度が本来の精度に比較して下がってしまう。
図6は、第1の具体例における第1パラメータセットρiの位置補正について説明するための図である。たとえば、図6(1)に示すように、第1パラメータセットρi設定時において、ワークWの領域aの上部に位置する発光部41(x、y)で撮像した画像データ81(x、y)の領域aに対応する画像データ81(x、y)内の位置に対して第1パラメータρa(x,y)が設定されたものとする。この場合に、図6(2)に示すように、計測時にワークWの配置状況が変化して、ワークWの領域aの上部に発光部41(x’、y’)が位置することとなったとする。計測時には、発光部41(x’、y’) で撮像した画像データ81(x’、y’)の領域aに対応する画像データ81(x’、y’)内の位置に対する第1パラメータρa(x’、y’)を第1パラメータρa(x、y)に補正することで、ワークWと発光部41との位置関係に応じた第1パラメータρaを設定することができる。
ここで、(x、y)と(x’、y’)との関係は、たとえば、式(2)で表される。
Figure 0007056131000002
図6(3)に示すように、wは、設定時におけるワークWが、計測時においてどの程度回転したかを示す回転成分であって、たとえば、回転ベクトルによって示される。また、Tは、ワークWの中心がどの程度平行移動したかを示す並進成分である。なお、第1パラメータセットρiは既知の他の手法によって補正されてもよい。
(第1の具体例における画像計測に用いられる画像処理装置の機能構成)
図7は、第1の具体例における画像計測に用いられる画像処理装置100の機能構成を示す図である。画像処理装置100は、生成部10と、画像計測部20とを含む。生成部10は、照明装置4に含まれる複数の発光部41の発光状態を異ならせた、複数の照明条件下で撮像して得られる複数の画像データ81を取得し、複数の画像データ81から、部分領域画像データRiを生成する。
生成部10は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)から部分領域画像データRiを合成する合成処理部14とを備えてもよい。
制御部12は、たとえば、発光部41を1つずつ順次発光させるように照明装置4を制御する照明制御部122と、発光部41の順次発光に対応してワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
合成処理部14は、たとえば、カメラ8によって生成された複数の画像データ81(x、y)の各々から、合成対象の部分領域riに対応する部分画像データ82i(x、y)を抽出する抽出部142と、抽出した複数の部分画像データ82i(x、y)を部分領域riに対応する第1パラメータセットρiに従って合成することで、部分領域画像データRiを生成する合成部144とを備える。
また、生成部10は、ワークWの配置状況に応じて部分領域画像データRiの生成に関する条件を補正する補正部16を備えてもよい。第1の具体例においては、補正部16は、第1パラメータセットρiをワークWの配置状況に応じて補正する。補正部16は、ワークWの配置状況を特定する位置特定部162と、位置特定部162が特定したワークWの配置状況に基づいて、ワークWが基準となるワークWの配置状況からどの程度移動したかに基づいて部分領域画像データRiの生成に関する条件を補正するパラメータ補正部164とを備える。第1の具体例において、パラメータ補正部164は、第1パラメータセットρiを補正する。第1パラメータセットρiは、たとえば、照明パラメータDB136に記憶されている。
基準となるワークWの配置状況は、たとえば、第1パラメータセットρiの設定時のワークWの配置状況である。設定時のワークWの配置状況は、たとえば、ワークWの重心位置と、カメラ8と、照明装置4とが同軸上に配置された状況である。
第1の具体例において、合成処理部14は、パラメータ補正部164が補正したパラメータセットρ’iに従って部分領域画像データRiを生成してもよい。
また、生成部10は、ワークWを含む領域を特定し、ワークWを含む領域内にある部分領域riに対応する部分領域画像データRiだけを生成してもよい。このようにすることで、部分領域画像データRiを生成する数を減らすことができ、生成部10が実行する処理を軽減することができる。
画像計測部20は、部分領域画像データRiを画像計測して画像計測結果を出力する。画像計測部20は、たとえば、部分領域画像データRiごとに特徴量を抽出して、当該特徴量に基づいて、ワークWの外観を計測してもよい。また、生成された複数の部分領域画像データRiをすべて合成した後、特徴量を抽出して、当該特徴量に基づいて、ワークWの外観を計測してもよい。画像計測結果の出力先は、画像計測結果に基づいて所定の制御を行う制御装置や、携帯式の端末、印刷器、ディスプレイ等の表示部、メモリなどの記憶部などが挙げられる。
(第1パラメータセットρiの決定方法)
図8は、第1の具体例における第1パラメータセットρiの決定方法を説明するための図である。第1パラメータセットρiは、第1パラメータセットρiにしたがって生成された画像データRが画像計測の目的に適合した画像データとなるように決定される。
「画像計測の目的に適合した画像データ」とは、たとえば、画像計測の目的が傷の有無を調べる検査である場合においては、傷が有る領域には所定の特徴量が含まれ、傷の無い領域には当該特徴量が含まれないような画像データである。
決定方法としては、たとえば、外観の状態が既知の教示用サンプルWkを撮像して得られた画像データから生成される画像データRが示す教示用サンプルの外観の状態と、実際の教示用サンプルWkの外観の状態とを一致させていくように、第1パラメータセットρiをフィッティングする。なお、教示用サンプルWkを用いずとも、たとえば、特徴量が所定の閾値を超えるか否かによって、画像計測結果が2つの結果に分かれる場合に、閾値に対して特徴量が離れた値を取るように第1パラメータセットρiを決定してもよい。すなわち、複数のサンプルに対して画像計測を行なった場合に、第1の結果となる集合に含まれるサンプルから抽出される特徴量と、第2の結果となる集合に含まれるサンプルから抽出される特徴量とが、離れた値となるように第1パラメータセットρiを決定してもよい。
なお、以下では、外観の状態が既知の教示用サンプルWkを撮像し、当該教示用サンプルWkの実際の外観の状態と、画像データRが示す教示用サンプルの外観の状態とが一致するように第1パラメータセットρiを決定する方法を例に説明する。
画像処理装置100は、複数の発光部41を1つずつ順次発光させ、発光部41の順次発光に対応して外観の状態が既知である教示用サンプルWkを撮像して得られる複数の画像データ81に基づいて、第1パラメータセットρiを決定する。画像処理装置100は、たとえば、予め定められたコスト関数E(ρi)が示す値が最大となるように、第1パラメータセットρiをフィッティングすることで、第1パラメータセットρiを決定する。
コスト関数E(ρi)は、部分領域画像データRiと隣接する部分領域画像データRi+1、Ri-1との連続性を示す関数f(ρi)と、部分領域画像データRiを画像計測した場合の計測精度を示す関数g(ρi)とからなる。コスト関数E(ρi)においては、部分領域画像データRiの連続性に関するファクタと、計測精度に関するファクタとのうち、第1パラメータセットρiを決定する上でいずれのファクタを重要とするかを定数αおよび定数βを各関数に乗算することで示すことができる。
計測精度に関する関数について、詳細に説明する。たとえば、外観にキズがあるか否かを、特徴量を抽出して、特徴量が予め定められた閾値を超えていればキズありと判定し、閾値未満であればキズなしと判断するような場合を考える。この場合に、計測精度に関する関数は、キズのある部分領域riに対応する部分領域画像データRiに含まれる特徴量が大きいほど、また、キズのない部分領域riに対応する部分領域画像データRiに含まれる特徴量が小さいほど、関数g(ρi)が示す値が大きくなるような関数である。
計測精度に関する関数g(ρi)は、たとえば、式(3)で表される。
Figure 0007056131000003
Sikは教師用データであって、教示用サンプルWk中の部分領域riに相当する表面にキズがあるか否かを示す値である。Sikは、教示用サンプルWk中の部分領域riに相当する表面にキズがある場合は「S=1」となり、キズがない場合は「S=-1」となる。また、Varとは、画像の濃度分散、または濃度分散を2値化したものであって、部分領域画像データRi内の画素値の濃度分散、または濃度分散を2値化したものである。なお、Varとしては、部分領域画像データRiに含まれる特徴量であってもよい。
コスト関数E(ρi)に連続性を示す関数f(ρi)を含めることで、第1パラメータセットρiが局所的に最適化されてしまうことを防止することができる。
図8に示す例では、コスト関数E(ρi)に連続性を示す関数f(ρi)を含めるものとしたが、連続性を示す関数f(ρi)を含めなくとも良い。また、第1パラメータセットρiを調整するにあたっては、勾配法に準じた方法、ニューラルネットワークを用いた方法など、種々の既知の方法を採用することができる。
(第1の具体例における第1パラメータセットρi決定時の画像処理装置の機能構成)
図9は、第1の具体例における第1パラメータセットρi決定時の画像処理装置100の機能構成を示す図である。画像処理装置100は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)から部分領域画像データRiを合成する合成処理部14と、決定部30とを備える。
制御部12は、たとえば、発光部41を1つずつ順次発光させるように照明装置4を制御する照明制御部122と、発光部41の順次発光に対応してワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
決定部30は、コスト関数E(ρi)に従ってコストEを演算する演算部32と、コストEの値が大きくなるように条件をフィッティングする調整部34と、条件を決定する条件決定部36とを備える。条件には、第1パラメータセットρiを含み、第1パラメータセットρiとは換言すると、画像データ81の位置ごとに規定された合成パラメータセットである。第1の具体例においては、調整部34は第1パラメータρiをフィッティングして、条件決定部36が部分領域riごとに第1パラメータセットρiを決定する。
合成処理部14は、たとえば、カメラ8によって生成された複数の画像データ81(x、y)の各々から、合成対象の部分領域riに対応する部分画像データ82i(x、y)を抽出する抽出部142と、抽出した複数の部分画像データ82i(x、y)を部分領域riに対応する第1パラメータセットρiに従って合成することで、部分領域画像データRiを生成する合成部144とを備える。
演算部32は、調整部34が調整した第1パラメータセットρiに従って、抽出部142が抽出した複数の部分画像データ82から部分領域画像データRiを合成部144に生成させ、合成部144が生成した部分領域画像データRiと、抽出部142が抽出した部分画像データ82とからコストEを算出する。
調整部34は、演算部32が算出したコストEに基づいて第1パラメータセットρiを調整する。条件決定部36は、演算部32が算出したコストEを評価して、第1パラメータセットρiを決定し、決定した第1パラメータセットρiを照明パラメータDB136として、記憶部の一例であるハードディスク130に保存する。
第1の具体例においては、部分領域riごとに第1パラメータセットρiを設けるものを例にあげたが、1画素ごとに第1パラメータセットρiを設けるものであってもよい。また、第1パラメータセットρiは画像データ81の位置に関連付けて規定されていればよく、たとえば、位置に関連した連続する関数であってもよい。
[第2の具体例]
撮像視野内のどの位置においても検査に適した画像データを取得して画像計測を行うための第2の具体例について説明する。第1の具体例においては、照明条件の異なる複数枚の画像データ81の各々から部分画像データ82を抽出し、抽出した複数の部分画像データ82を第1パラメータセットρに従って合成することで部分領域画像データRiを生成するものとした。
第2の具体例において、画像処理装置100は、部分領域riごとに設定された発光状態を示す第2パラメータセットPiに従って、部分領域riごとに発光状態を変更してワークWを撮像し、得られた画像データ81から部分領域riに対応する部分領域画像データRiを生成する。
(画像計測の流れ)
図10を参照して、第2の具体例における画像処理システム1が行なう画像計測の流れを説明する。図10は、第2の具体例における画像計測の流れを説明するための図である。
画像処理装置100は、複数の発光部41の発光状態を規定する第2パラメータセットPiに従って照明装置4を制御する。具体的に第2パラメータセットPiは、発光部41(x、y)ごとの発光強度を示すパラメータであって、第2パラメータセットPiには、発光部41(x、y)ごとに設けられた発光部41(x、y)の発光強度を示す第2パラメータPi(x、y)が含まれる。
第2パラメータセットPiは、画像データ81に規定される部分領域riごとに設けられている。画像処理装置100は、部分領域riごとに設けられた第2パラメータセットPiの各々に従って照明装置4を制御し、各第2パラメータPiに従って発光状態を変える。カメラ8は、各発光状態の下で対象物を撮像し、画像データ81iを生成する。画像処理装置100は、各照明条件下で生成された画像データ81iから、部分領域riに対応する部分画像データ82iを部分領域画像データRiとして抽出する。画像処理装置100は、生成した部分領域画像データRiを画像計測して画像計測結果を出力する。
たとえば、部分領域riに対応する部分領域画像データRiを生成する場合、画像処理装置100は、照明装置4の各発光部41(x、y)の発光強度を第2パラメータセットPiに対応する発光強度で発光させる。この照明条件下で撮像して生成された画像データ81iから、画像処理装置100は、部分領域riに対応する部分画像データを部分領域画像データRiとして抽出する。
(第2パラメータセットPiの補正)
画像処理装置100は、ワークWの撮像視野内における配置状況に応じて第2パラメータセットPiを補正してもよい。たとえば、第2パラメータセットPi設定時のワークWの撮像視野内における配置状況と、計測時のワークWの撮像視野内における配置状況とが異なる場合に、発光部41とワークWとの位置関係が第2パラメータセットPi設定時と異なるにも関わらず、第2パラメータセットPiを補正せずに用いた場合に、画像計測の精度が本来の精度に比較して下がってしまう。
図11は、第2の具体例における第2パラメータセットPiの位置補正について説明するための図である。たとえば、図11(1)に示すように、第2パラメータセットPi設定時において、ワークWの領域aに対応する部分領域raの部分領域画像Raを生成する場合の照明条件として、発光部41(x1、y1)を第2パラメータPa(x1、y1)に従って点灯させ、発光部41(x2、y1)を第2パラメータPa(x2、y1)に従って点灯させ・・・というように、複数の発光部41のそれぞれに対して第2パラメータPa(x、y)が設定されているものとする。
この場合に、計測時にワークWの配置状況が変化して、ワークWの領域aに対応する部分領域raの位置が、設定時と比較して平行方向にT、回転方向にw移動したものとする。すなわち、ワークWと照明装置との位置関係が平行方向にT、回転方向にw分変化したこととなる。
画像処理装置100は、その位置関係の変化に合わせて、第2パラメータPa(x、y)と、発光部41(x、y)との関係を設定しなおすことで、第2パラメータセットPiを補正することができる。
たとえば、設定時において発光部41(x、y)を第2パラメータPa(x、y)で発光することが設定されているものとする。この場合に、第2パラメータPa(x、y)が発光強度Laと発光部41(x、y)で表現されるものとする。補正後のPa(x’、y’)は式(4)で表現される。
Figure 0007056131000004
ここで、wとTが示す係数は、式(2)のwとTが示す係数と等しいため、説明を割愛する。
(第2の具体例における画像計測に用いられる画像処理装置100の機能構成)
図12は、第2の具体例における画像計測に用いられる画像処理装置100の機能構成を示す図である。画像処理装置100は、生成部10と、画像計測部20とを含む。
生成部10は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81のうちの少なくとも1つの画像データ81から、生成対象の部分領域riに対応する部分領域画像データRiを生成する生成処理部18とを備えてもよい。
制御部12は、照明装置4を制御する照明制御部122と、カメラ8を制御する撮像制御部124とを備える。照明制御部122は、部分領域riごとに設定された第2パラメータセットPiに従って複数の発光部41(x、y)の各々の発光強度を制御する。撮像制御部124は、第2パラメータセットPiに従って照明装置4が制御されているときに、ワークWをカメラ8に撮像させて画像データ81iを生成させる。
生成処理部18は、画像データ81iを撮像した照明条件に対応する第2パラメータセットPiに対応する部分領域riに対応する画像データを部分領域画像データRiとして生成する。
また、生成部10は、ワークWの配置状況に応じて部分領域画像データRiの生成に関する条件を補正する補正部16を備えてもよい。第2の具体例においては、補正部16は、第2パラメータセットPiをワークWの配置状況に応じて補正する。補正部16は、ワークWの配置状況を特定する位置特定部162と、位置特定部162が特定したワークWの配置状況に基づいて、ワークWが基準となるワークWの配置状況からどの程度移動したかに基づいて部分領域画像データRiの生成に関する条件を補正するパラメータ補正部164とを備える。第2の具体例において、パラメータ補正部164は、第2パラメータセットPiを補正する。第2パラメータセットPiは、たとえば、照明パラメータDB136に記憶されている。
基準となるワークWの配置状況は、たとえば、第2パラメータセットPiの設定時のワークWの配置状況である。設定時のワークWの配置状況は、たとえば、ワークWの重心位置と、カメラ8と、照明装置4とが同軸上に配置された状況である。
照明制御部122は、パラメータ補正部164が補正した第2パラメータセットP’iに従って照明装置4の発光状態を制御してもよい。
また、生成部10は、ワークWを含む領域を特定し、ワークWを含む領域内にある部分領域riに対応する部分領域画像データRiに対応する照明条件下だけで撮像してもよい。このようにすることで、撮像回数を減らすことができ、生成部10が実行する処理を軽減することができる。
(第2パラメータセットPiの決定方法)
図13は、第2の具体例における第2パラメータセットPiの決定方法を説明するための図である。第2パラメータセットPiは、第2パラメータセットPiにしたがって照明装置4を制御し、各発光状態の下で撮像して得られる画像データ81から生成される画像データRが画像計測の目的に適合した画像データとなるように決定される。
「画像計測の目的に適合した画像データ」とは、たとえば、画像計測の目的が傷の有無を調べる検査である場合においては、傷が有る領域には所定の特徴量が含まれ、傷の無い領域には当該特徴量が含まれないような画像データである。
決定方法としては、第1の具体例と同様、外観の状態が既知の教示用サンプルWkを撮像して得られた画像データ81に基づいて生成された画像データRが示す外観の状態と、教示用サンプルWkの実際の外観の状態とが一致するように第2パラメータセットPiをフィッティングする。また、教示用サンプルWkを用いずとも、たとえば、特徴量が所定の閾値を超えるか否かによって、画像計測結果が2つの結果に分かれる場合に、閾値に対して特徴量が離れた値を取るように第2パラメータセットPiを決定してもよい。
なお、以下では、教示用サンプルWkを撮像して得られた画像データ81に基づいて生成される画像データRが示す外観の状態と、教示用サンプルWkの実際の外観の状態とが一致するように第2パラメータセットPiを決定する方法を例に説明する。
画像処理装置100は、適当な第2パラメータセットPiに従って発光部41を点灯させた状態で外観の状態が既知である教示用サンプルWkを撮像して得られる画像データ81に基づいて、第2パラメータセットPiを決定する。画像処理装置100は、コスト関数E(Pi)が示す値が最大となるように、照明条件を変化させて、第2パラメータセットPiをフィッティングすることで、第2パラメータセットPiを決定する。
第2の具体例においては、コスト関数E(Pi)は、部分領域画像データRiを画像計測した場合の計測精度を示す関数g(Pi)からなる。計測精度を示す関数g(Pi)は、第1の具体例における関数g(ρi)と同様であって、キズのある部分領域riに対応する部分領域画像データRiに含まれる特徴量が大きいほど、また、キズのない部分領域riに対応する部分領域画像データRiに含まれる特徴量が小さいほど、一致度合いに関する関数が示す値が大きくなるような関数である。
計測精度に関する関数g(Pi)は、たとえば、式(5)で表される。
Figure 0007056131000005
Sikは教師用データであって、教示用サンプルWk中の部分領域riに相当する表面にキズがあるか否かを示す値である。Sikは、教示用サンプルWk中の部分領域riに相当する表面にキズがある場合は「S=1」となり、キズがない場合は「S=-1」となる。また、Varとは、画像の濃度分散、または濃度分散を2値化したものであって、部分領域画像データRi内の画素値の濃度分散、または濃度分散を2値化したものである。なお、Varとしては、部分領域画像データRiに含まれる特徴量であってもよい。
ここで、第2パラメータセットPiを決定する場合には、部分領域画像データRiについて、当該部分領域画像データRiから得られるコストEiが最大となるように第2パラメータセットPiが決定される。
なお、第2パラメータセットPiを算出するにあたっては、総当たりで複数の発光部41の各々の発光強度を総当たりで変化させることで求めてもよく、また、山登り法に準じた方法で第2パラメータセットPiを調整することで求めても良い。
(第2の具体例における第2パラメータセットPi決定時の画像処理装置の機能構成)
図14は、第2の具体例における第2パラメータPi決定時の画像処理装置100の機能構成を示す図である。画像処理装置100は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)のうちの少なくとも一の画像データ81から、生成対象の部分領域riに対応する部分領域画像データRiを生成する生成処理部18と、決定部30とを備える。
第2の具体例における制御部12は、たとえば、発光部41を指定された第2パラメータセットPiにしたがって照明装置4を制御する照明制御部122と、指定された第2パラメータセットPiにしたがって制御された照明条件下でワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
第2の具体例における照明制御部122は、部分領域riごとに設定される第2パラメータPiにしたがって照明装置4を制御する。第2パラメータPiにしたがって照明装置4が制御された照明条件下でカメラ8が撮像して得られる画像データ81を、画像データ81iともいう。
決定部30は、コスト関数E(Pi)に従ってコストEを演算する演算部32と、コストEの値が大きくなるように条件をフィッティングする調整部34と、条件を決定する条件決定部36とを備える。第2の具体例において、条件には、第2パラメータセットPiを含む。第2の具体例においては、調整部34は第2パラメータPiをフィッティングして、条件決定部36が第2パラメータセットPiを部分領域riごとに決定する。
生成処理部18は、たとえば、カメラ8によって生成された複数の画像データ81iから、部分領域riに対応する部分画像データ82iを抽出して、部分領域画像データRiを生成する。
演算部32は、調整部34が調整した第2パラメータセットPiに従って制御された照明条件下で撮像された画像データ81から生成処理部18が生成した部分領域画像データRiからコストEを算出する。
調整部34は、演算部32が算出したコストEに基づいて第2パラメータセットPiを調整する。具体的には、調整部34は、コストEが大きくなるように第2パラメータセットPiを再設定し、当該再設定した第2パラメータセットPiにしたがった照明条件下で再度教示用サンプルWkを撮像し、画像データ81を取得する。取得した画像データ81に基づいて条件決定部36は、演算部32が算出したコストEを評価して、第2パラメータセットPiを決定し、決定した第2パラメータセットPiを照明パラメータDB136として、記憶部の一例であるハードディスク130に保存する。
第2の具体例においては、部分領域riごとに第2パラメータセットPiを設けるものを例にあげたが、1画素ごとに第2パラメータセットPiを設けるものであってもよい。また、第2パラメータセットPiは、画像データ81の位置に関連付けて規定されていればよく、たとえば、位置に関連した連続する関数であってもよい。
[利用例]
本実施の形態においては、異なる照明条件下で撮像した複数の画像データ81のうちの少なくとも一の画像データ81から部分領域画像データRiを生成するとしたが、照度差ステレオ法の計算に準じて、部分領域riに含まれるワークWの表面の法線ベクトルを求めても良い。
カメラ8の位置とワークWとの位置関係を変えることなく、互いに照明条件の異なる複数の画像データ81を得ることができるため、照度差ステレオ法に準じた演算方法で画像データ81を処理することで、ワークW表面の法線ベクトルを求めることができる。すなわち、照明条件が固定されている画像処理システム1に比べて、本実施の形態における画像処理システム1は、ワークWについての情報を多く取得することができる。
また、第1の具体例における画像計測も、第2の具体例における画像計測も、いずれにおいても、異なる照明条件下でワークWを撮像して、複数の画像データ81取得したのち、複数の画像データ81のうちの少なくとも1の画像データ81に基づいて部分領域riごとに部分領域画像データRiが生成される。そのため、撮像視野の全体(画像データ81の全体)で、適切な照明条件を設定することができる。
[変形例]
(部分領域riについて)
本実施の形態において、部分領域riについては一定間隔で画像データ81に規定されるものとした。図15は、部分領域riの規定方法の変形例を説明するための図である。例えば、1画素ずつ規定されるものであっても良い。また、図15の例のように、ワークWに基づいて部分領域riを規定してもよい。たとえば、ワークWのモデル画像(CADデータ)を用いて規定しても良い。具体的には、ワークW表面の法線ベクトルを求め、法線方向が共通する領域を一の領域として分割しても良い。図15においては、領域r1、r2、r3、r4、r5は互いに法線方向が異なる領域であって、r5~r8は法線方向が共通する領域である。また、法線方向が共通する一の領域の面積に応じて、さらに分割しても良い。分割するにあたっては、法線方向が急激に変化する境界Qを部分領域riの境界に設定することが好ましい。また、一定以上の面積を有する領域は複数に分割することが好ましい。たとえば、図15に示す例では、r5~r8は互いに法線方向が共通するものの、r5~r8の合計面積が特定の面積値以上であれば、境界Uによって分割される。
また、第1の具体例においては、発光部41を一つずつ点灯させた上で、画像データ81を取得し、各画像データ81内の対応する領域ごとに濃度ベクトルを抽出した上で、抽出した濃度ベクトルの相関が高い範囲を一の部分領域riに設定しても良い。
(パラメータの設定方法)
第1パラメータセットρiまたは第2パラメータセットPiを設定するにあたって、部分領域riの数を減らした上で、フィッティングしたのち、部分領域riの数を増やして再度フィティングをしても良い。このようにすることで、フィッティングの時間を短縮することができる。
教示用サンプルWk用いる場合に、教示用サンプルWkの数は、任意の数であれば良い。教示用サンプルWkの姿勢を変化させて撮像することで、教示用サンプルWkの数を減らしても良い。また、教示用サンプルWkは、好ましくは、法線方向が異なる領域ごとに良品表面と不良品表面の組み合わせができるようなものであることが好ましい。すなわち、法線方向が共通しない表面を2つ備えるワークWに対してパラメータを設定する場合は、第1の表面は不良品表面であり、第2の表面が良品表面であるサンプルと、第2の表面は不良品表面であり、第1の表面が良品表面であるサンプルと、を用いて設定することが好ましい。
第1の具体例においては、コスト関数E(ρi)は、計測精度に関する関数g(ρi)と、連続性に関する関数f(ρi)とを含むとしたが、計測精度に関する関数g(ρi)だけからなる関数であってもよい。また、第2の具体例においても、コスト関数E(Pi)は、計測精度に関する関数g(Pi)からなるとしたが、関数g(Pi)に加えて、連続性に関する関数f(Pi)を含んでもよい。
また、第1パラメータセットρiを設定するにあたって、第1の具体例においては、部分領域画像データRi間の連続性と、計測精度とを同時に評価するものを例にあげたが、部分領域riごとに計測精度が最も高くなるように第1パラメータセットρiを設定したのち、部分領域ri内の第1パラメータセットρiを緩やかに変化させることで、隣接する部分領域画像データRiとの連続性が高くなるような補正をしてもよい。
また、第1パラメータセットρiおよび第2パラメータセットPiとは別に、各部分領域画像データRiを合成するための条件を設定してもよい。本実施の形態においては、部分領域画像データRiとの境界部分にギャップが生じてしまい、このギャップによって計測精度が下がってしまうおそれがある。このギャップを埋めるために、各部分領域画像データRiを合成するための条件を設定してもよい。
また、部分領域riごとに第1パラメータセットρiまたは第2パラメータセットPiを設定したのちに、各部分領域ri間に位置する画素ごとに、部分領域ri間のギャップが低減するように第1パラメータセットρiまたは第2パラメータセットPiを設定しなおしてもよい。
(合成方法)
本実施の形態においては、線形和で画像間演算を行い合成する例を示したが、照度差ステレオに準じて画像間演算を行ってもよい。また、画像計測を行なうにあたって、画像間演算を行ったのちに、空間フィルタリング処理を行ってもよい。
(撮像回数について)
第1の具体例においては、発光部41の数だけ撮像することとしたが、複数の発光部41から得られた画像データ81のうち、ワークWと発光部41との位置関係から部分領域画像データRiの生成に寄与しない画像データ81が存在する場合に、当該画像データ81に対応する発光部41を点灯させた時の撮像を行わなくとも良い。具体的には、発光部41(x、y)に対応する第1発光パラメータρiのすべてが0の値をとる場合は、当該発光部41(x、y)の画像データを生成しなくとも良い。
また、すべての照明パラメータから共通する要素の一例として、基底ベクトルを求め、基底ベクトルの線形和で照明パラメータを近似しても良い。これにより、基底ベクトルの数だけ撮像すれば良いため、撮像回数を減らすことができる。具体的には、部分領域riを3つ規定しており、発光部41が4つある場合に、照明パラメータとして(1、2、-1、0)、(2、4、1、3)、(1、2、1、2)と設定されている場合、基底ベクトルは(1、2、0、1)と(0、0、1、1)となる。基底ベクトルに対応するパラメータで撮像し、すなわち2回撮像し、得られた画像データに所定の係数をかけて加算または減算することで、(1、2、-1、0)条件で撮像した画像データ、(2、4、1、3)条件で撮像した画像データ、(1、2、1、2)条件で撮像した画像データを近似的に求める。
[付記]
以上のように、本実施の形態は以下のような開示を含む。
(構成1)
画像計測を行なう画像計測システム(1)であって、
対象物(W)を撮像して画像データを出力する撮像部(8)と、
前記対象物に照明光を照射するための発光部(41)が複数配置された照明部(4)と、
照明条件にしたがって前記複数の発光部の発光状態を制御して当該発光部の発光状態を複数に異ならせるように前記照明部を制御するとともに、前記複数の異なる発光状態の各々で前記対象物を撮像するように前記撮像部を制御する、制御部(12)と、
前記画像データ内の位置に関連付けて規定される生成条件(P)に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データ(R)を生成する生成部(10)と、
前記生成部(10)から前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する決定部(30)とを備える、画像計測システム。
(構成2)
前記決定部(30)は、外観の状態が既知の基準対象物(Wk)が前記複数の異なる発光状態の各々で撮像された複数の基準画像データ(81)から前記生成部により生成される画像データが示す当該基準対象物の外観の状態が、前記既知の外観の状態と一致するように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、構成1に記載の画像処理システム。
(構成3)
前記決定部(30)は、前記生成部により生成される画像データ(R)を画像計測した場合の計測精度を示すファクタ(g)を含むコスト関数(E)の値が最大化するように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、構成1また構成2に記載の画像計測システム。
(構成4)
前記コスト関数(E)は、前記生成部により生成される画像データに含まれる画素間の連続性を示すファクタ(f)をさらに含む、構成3に記載の画像計測システム。
(構成5)
前記照明条件は、複数の前記発光部のうちの1の発光部を順次発光させることを含み、
前記生成条件は、前記発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、前記画像データ内の位置に関連付けられた合成パラメータ(ρi)を含み、
前記生成部は、前記複数の画像データを、当該複数の画像データの各々に対して規定された前記合成パラメータにしたがって合成することで、前記画像計測に利用する画像データを生成し(14)、
前記決定部は、前記複数の画像データの各々に対して規定される前記合成パラメータを決定する(36)、構成1~構成3のうちいずれかに記載の画像処理システム。
(構成6)
前記照明条件は、前記画像データ内の位置ごとに規定された、前記複数の発光部の発光状態(Pi)を含み、
前記生成条件は、前記画像データ内の位置ごとに規定された発光状態の各々で撮像された複数の画像データのうち、前記画像データ内の注目位置に対応する発光状態で撮像された1の画像データから、当該注目位置に対応する部分画像データ(82)を抽出すること(18)を含み、
前記生成部は、前記画像データ内の位置ごとに前記部分画像データを抽出することで、前記画像計測に利用する画像データ(R)を生成し(18)、
前記決定部は、前記画像データ内の位置ごとに規定される前記複数の発光部の発光状態(Pi)を決定する(36)、構成1~構成4のうちいずれかに記載の画像処理システム。
(構成7)
前記生成条件は、前記画像データ内の隣接する複数画素からなる部分領域(ri)ごとに規定され、
前記生成部は、前記画像計測に利用する画像データ(R)として、前記部分領域ごとに当該部分領域に対応する部分領域画像データ(Ri)を生成し、
前記決定部(30)は、前記部分領域画像データの各々について、前記生成条件および前記照明条件のうちの少なくとも一方を決定する、構成1~構成6のうちいずれかに記載の画像処理システム。
(構成8)
対象物(W)を撮像して画像データを出力する撮像装置(8)と、当該対象物(W)に照明光を照射するための発光部(41)が複数配置された照明装置(4)とを制御するコンピュータ(100)で実行される画像計測を行なうための画像処理プログラム(132,134)であって、
コンピュータに、
照明条件にしたがって前記複数の発光部の発光状態を制御して当該発光部の発光状態を複数に異ならせるように前記照明装置を制御する機能(122)と、
前記複数の異なる発光状態の各々で前記対象物を撮像するように前記撮像装置を制御する機能(124)と、
前記画像データ内の位置に関連付けて規定される生成条件(P)に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データ(81)から前記画像計測に利用する画像データ(R)生成する機能(10)と、
前記画像計測の目的に適合する画像データ(R)が生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する機能(30)とを実行させるための画像処理プログラム。
(構成9)
画像計測を行なう画像処理方法であって、
照明条件にしたがって複数の発光部(41)の発光状態を複数に異ならせ(4、122)、
前記複数の異なる発光状態の各々で対象物を撮像して複数の画像データ(81)を取得し、(8,124)、
前記画像データ内の位置に関連付けて規定される生成条件(P)に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データ(R)を生成し(10)、
前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する(30)、画像処理方法。
今回開示された各実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。また、実施の形態および各変形例において説明された発明は、可能な限り、単独でも、組み合わせても、実施することが意図される。
1 画像処理システム、4 照明装置、6 外部メモリ、8 カメラ、10 生成部、12 制御部、14 合成処理部、16 補正部、20 画像計測部、41 発光部、48 開口部、81 画像データ、82 部分画像データ、100 画像処理装置、110 CPU、120 メインメモリ、122 照明制御部、124 撮像制御部、130 ハードディスク、132 画像処理プログラム、134 設定プログラム、136 照明パラメータDB、138 設定用パラメータDB、142 抽出部、144 生成部、162 位置特定部、164 パラメータ補正部、190 バス、140 照明I/F、160 外部メモリI/F、180 カメラI/F、Ri 部分領域画像データ、W ワーク、ri 部分領域。

Claims (13)

  1. 画像計測を行なう画像処理システムであって、
    対象物を撮像して画像データを出力する撮像部と、
    前記対象物に照明光を照射するための複数の発光部が配置された照明部と、
    照明条件にしたがって前記複数の発光部の発光状態を複数に異ならせるように前記照明部を制御するとともに、複数の異なる発光状態の各々で前記対象物を撮像するように前記撮像部を制御する、制御部と、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成する生成部と、
    前記生成部から前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する決定部とを備え
    前記決定部は、前記生成部により生成される画像データを前記画像計測した場合の計測精度を示すファクタを含むコスト関数の値が最大化するように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、画像処理システム。
  2. 前記決定部は、外観の状態が既知の基準対象物が前記複数の異なる発光状態の各々で撮像された複数の基準画像データから前記生成部により生成される画像データが示す当該基準対象物の外観の状態が、前記既知の外観の状態と一致するように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、請求項1に記載の画像処理システム。
  3. 前記コスト関数は、前記生成部により生成される画像データに含まれる画素間の連続性を示すファクタをさらに含む、請求項1または請求項2に記載の画像処理システム。
  4. 前記照明条件は、複数の前記発光部のうちの1の発光部を順次発光させることを含み、
    前記生成条件は、前記発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、前記画像データ内の位置に関連付けられた合成パラメータを含み、
    前記生成部は、前記複数の画像データを、当該複数の画像データの各々に対して規定された前記合成パラメータにしたがって合成することで、前記画像計測に利用する画像データを生成し、
    前記決定部は、前記複数の画像データの各々に対して規定される前記合成パラメータを決定する、請求項1~請求項のうちいずれかに記載の画像処理システム。
  5. 前記照明条件は、前記画像データ内の位置ごとに規定された、前記複数の発光部の発光状態を含み、
    前記生成条件は、前記画像データ内の位置ごとに規定された発光状態の各々で撮像された複数の画像データのうち、前記画像データ内の注目位置に対応する発光状態で撮像された1の画像データから、当該注目位置に対応する部分画像データを抽出することを含み、
    前記生成部は、前記画像データ内の位置ごとに前記部分画像データを抽出することで、前記画像計測に利用する画像データを生成し、
    前記決定部は、前記画像データ内の位置ごとに規定される前記複数の発光部の発光状態を決定する、請求項1~請求項のうちいずれかに記載の画像処理システム。
  6. 前記生成条件は、前記画像データ内の隣接する複数画素からなる部分領域ごとに規定され、
    前記生成部は、前記画像計測に利用する画像データとして、前記部分領域ごとに当該部分領域に対応する部分領域画像データを生成し、
    前記決定部は、前記部分領域画像データの各々について、前記生成条件および前記照明条件のうちの少なくとも一方を決定する、請求項1~請求項のうちいずれかに記載の画像処理システム。
  7. 画像計測を行なう画像処理システムであって、
    対象物を撮像して画像データを出力する撮像部と、
    前記対象物に照明光を照射するための複数の発光部が配置された照明部と、
    照明条件にしたがって前記複数の発光部の発光状態を複数に異ならせるように前記照明部を制御するとともに、複数の異なる発光状態の各々で前記対象物を撮像するように前記撮像部を制御する、制御部と、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成する生成部と、
    前記生成部から前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する決定部とを備え、
    前記照明条件は、複数の前記発光部のうちの1の発光部を順次発光させることを含み、
    前記生成条件は、前記発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、前記画像データ内の位置に関連付けられた合成パラメータを含み、
    前記生成部は、前記複数の画像データを、当該複数の画像データの各々に対して規定された前記合成パラメータにしたがって合成することで、前記画像計測に利用する画像データを生成し、
    前記決定部は、前記複数の画像データの各々に対して規定される前記合成パラメータを決定する、画像処理システム。
  8. 前記決定部は、外観の状態が既知の基準対象物が前記複数の異なる発光状態の各々で撮像された複数の基準画像データから前記生成部により生成される画像データが示す当該基準対象物の外観の状態が、前記既知の外観の状態と一致するように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、請求項7に記載の画像処理システム。
  9. 前記生成条件は、前記画像データ内の隣接する複数画素からなる部分領域ごとに規定され、
    前記生成部は、前記画像計測に利用する画像データとして、前記部分領域ごとに当該部分領域に対応する部分領域画像データを生成し、
    前記決定部は、前記部分領域画像データの各々について、前記生成条件および前記照明条件のうちの少なくとも一方を決定する、請求項7または請求項8に記載の画像処理システム。
  10. 対象物を撮像して画像データを出力する撮像装置と、当該対象物に照明光を照射するための複数の発光部が配置された照明装置とを制御するコンピュータで実行される画像計測を行なうための画像処理プログラムであって、
    コンピュータに、
    照明条件にしたがって前記複数の発光部の発光状態を複数に異ならせるように前記照明装置を制御する機能と、
    数の異なる発光状態の各々で前記対象物を撮像するように前記撮像装置を制御する機能と、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成する機能と、
    生成される画像データを前記画像計測した場合の計測精度を示すファクタを含むコスト関数の値が最大化するようにして、前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する機能とを実行させるための画像処理プログラム。
  11. 対象物を撮像して画像データを出力する撮像装置と、当該対象物に照明光を照射するための複数の発光部が配置された照明装置とを制御するコンピュータで実行される画像計測を行なうための画像処理プログラムであって、
    コンピュータに、
    照明条件にしたがって前記複数の発光部の発光状態を複数に異ならせるように前記照明装置を制御する機能と、
    数の異なる発光状態の各々で前記対象物を撮像するように前記撮像装置を制御する機能と、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成する機能と、
    前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する機能とを実行させ
    前記照明条件は、複数の前記発光部のうちの1の発光部を順次発光させることを含み、
    前記生成条件は、前記発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、前記画像データ内の位置に関連付けられた合成パラメータを含み、
    前記複数の画像データを、当該複数の画像データの各々に対して規定された前記合成パラメータにしたがって合成することで、前記画像計測に利用する画像データを生成する機能と、
    前記複数の画像データの各々に対して規定される前記合成パラメータを決定する機能とを実行させるための画像処理プログラム。
  12. 画像計測を行なう画像処理方法であって、
    照明条件にしたがって複数の発光部の発光状態を複数に異ならせ、
    数の異なる発光状態の各々で対象物を撮像して複数の画像データを取得し、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成し、
    生成される画像データを前記画像計測した場合の計測精度を示すファクタを含むコスト関数の値が最大化するようにして、前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定する、画像処理方法。
  13. 画像計測を行なう画像処理方法であって、
    照明条件にしたがって複数の発光部の発光状態を複数に異ならせ、
    数の異なる発光状態の各々で対象物を撮像して複数の画像データを取得し、
    前記画像データ内の位置に関連付けて規定される生成条件に基づいて、前記複数の異なる発光状態の各々で撮像された複数の画像データから前記画像計測に利用する画像データを生成し、
    前記画像計測の目的に適合する画像データが生成されるように、前記照明条件および前記生成条件のうちの少なくとも一方を決定し、
    前記照明条件は、複数の前記発光部のうちの1の発光部を順次発光させることを含み、
    前記生成条件は、前記発光部の順次発光に対応して撮像された複数の画像データの各々に対して規定された、前記画像データ内の位置に関連付けられた合成パラメータを含み、
    前記複数の画像データを、当該複数の画像データの各々に対して規定された前記合成パラメータにしたがって合成することで、前記画像計測に利用する画像データを生成し、
    前記複数の画像データの各々に対して規定される前記合成パラメータを決定する、画像処理方法。
JP2017240595A 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法 Active JP7056131B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017240595A JP7056131B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法
EP18199588.7A EP3499178B1 (en) 2017-12-15 2018-10-10 Image processing system, image processing program, and image processing method
CN201811194958.3A CN109945794B (zh) 2017-12-15 2018-10-15 图像处理系统、计算机可读记录介质及图像处理方法
US16/161,096 US10853935B2 (en) 2017-12-15 2018-10-16 Image processing system, computer readable recording medium, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017240595A JP7056131B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法

Publications (2)

Publication Number Publication Date
JP2019109071A JP2019109071A (ja) 2019-07-04
JP7056131B2 true JP7056131B2 (ja) 2022-04-19

Family

ID=64023923

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017240595A Active JP7056131B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法

Country Status (4)

Country Link
US (1) US10853935B2 (ja)
EP (1) EP3499178B1 (ja)
JP (1) JP7056131B2 (ja)
CN (1) CN109945794B (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019132966A (ja) * 2018-01-31 2019-08-08 コニカミノルタ株式会社 画像形成装置
JP2020020680A (ja) * 2018-08-01 2020-02-06 ソニーセミコンダクタソリューションズ株式会社 光源装置、撮像装置、センシングモジュール
IT201900005536A1 (it) * 2019-04-10 2020-10-10 Doss Visual Solution S R L Metodo di acquisizione immagini per una macchina di ispezione ottica

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040184032A1 (en) 2003-03-20 2004-09-23 James Mahon Optical inspection system and method for displaying imaged objects in greater than two dimensions
JP2006220427A (ja) 2005-02-08 2006-08-24 Omron Corp 基板検査装置
US20080137101A1 (en) 2004-11-03 2008-06-12 Heriot-Watt University Apparatus and Method for Obtaining Surface Texture Information
JP2014206388A (ja) 2013-04-10 2014-10-30 オリンパス株式会社 撮像装置、画像処理装置及び画像処理方法
JP2015232484A (ja) 2014-06-09 2015-12-24 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2015232482A (ja) 2014-06-09 2015-12-24 株式会社キーエンス 検査装置、検査方法およびプログラム
US20170191946A1 (en) 2014-06-05 2017-07-06 University Of The West Of England, Bristol Apparatus for and method of inspecting surface topography of a moving object
JP2017156212A (ja) 2016-03-02 2017-09-07 キヤノン株式会社 検査装置、検査方法及び物品の製造方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0953999A (ja) * 1995-08-11 1997-02-25 Furukawa Electric Co Ltd:The 光式外力検知装置
FR2852389B1 (fr) * 2003-03-12 2005-05-13 Commissariat Energie Atomique Procede de mesure d'objets tridimensionnels par ombroscopie optique a une seule vue
EP1665145A1 (en) * 2003-09-09 2006-06-07 Philips Intellectual Property & Standards GmbH System for automatic generation of a change schedule for a plurality of lighting means
TWI431263B (zh) * 2005-03-28 2014-03-21 Shibaura Mechatronics Corp 應變矽晶圓表面檢查方法及檢查裝置
JP2007206797A (ja) * 2006-01-31 2007-08-16 Omron Corp 画像処理方法および画像処理装置
EP2700283B1 (en) * 2011-04-19 2023-03-01 Signify Holding B.V. Oln light change/optimization system
JP6099115B2 (ja) * 2011-10-26 2017-03-22 学校法人福岡工業大学 三次元表面検査装置および三次元表面検査方法
JP5868801B2 (ja) * 2012-07-19 2016-02-24 株式会社 東京ウエルズ 外観検査装置および外観検査方法
JP6232982B2 (ja) * 2013-12-02 2017-11-22 オムロン株式会社 画像処理装置、画像処理方法およびプログラム
JP6395456B2 (ja) 2014-06-09 2018-09-26 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6424020B2 (ja) * 2014-06-09 2018-11-14 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US10456530B2 (en) * 2014-10-06 2019-10-29 Sanofi-Aventis Deutschland Gmbh Supplementary device for attachment to a drug injection device for monitoring injection doses having OCR imaging system with glare reduction
CN104574393B (zh) * 2014-12-30 2017-08-11 北京恒达锦程图像技术有限公司 一种三维路面裂缝图像生成系统和方法
CN107105987B (zh) * 2015-01-08 2019-11-15 奥林巴斯株式会社 图像处理装置及其工作方法、记录介质和内窥镜装置

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040184032A1 (en) 2003-03-20 2004-09-23 James Mahon Optical inspection system and method for displaying imaged objects in greater than two dimensions
US20080137101A1 (en) 2004-11-03 2008-06-12 Heriot-Watt University Apparatus and Method for Obtaining Surface Texture Information
JP2006220427A (ja) 2005-02-08 2006-08-24 Omron Corp 基板検査装置
JP2014206388A (ja) 2013-04-10 2014-10-30 オリンパス株式会社 撮像装置、画像処理装置及び画像処理方法
US20170191946A1 (en) 2014-06-05 2017-07-06 University Of The West Of England, Bristol Apparatus for and method of inspecting surface topography of a moving object
JP2015232484A (ja) 2014-06-09 2015-12-24 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2015232482A (ja) 2014-06-09 2015-12-24 株式会社キーエンス 検査装置、検査方法およびプログラム
JP2017156212A (ja) 2016-03-02 2017-09-07 キヤノン株式会社 検査装置、検査方法及び物品の製造方法

Also Published As

Publication number Publication date
US20190188841A1 (en) 2019-06-20
EP3499178A1 (en) 2019-06-19
CN109945794B (zh) 2021-01-22
CN109945794A (zh) 2019-06-28
EP3499178B1 (en) 2021-06-23
US10853935B2 (en) 2020-12-01
JP2019109071A (ja) 2019-07-04

Similar Documents

Publication Publication Date Title
TWI440847B (zh) 檢測方法
JP6519265B2 (ja) 画像処理方法
JP4872035B2 (ja) 撮像装置、撮像画像距離測定方法、撮像画像距離測定プログラム、及び記録媒体
JP7056131B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
KR101196219B1 (ko) 3차원 형상 측정장치의 높이 측정방법 및 이를 이용한 3차원 형상 측정장치
TWI699318B (zh) 電子零件搬送裝置及電子零件檢查裝置
JP7010057B2 (ja) 画像処理システムおよび設定方法
JP5342413B2 (ja) 画像処理方法
CN114636385B (zh) 基于光场相机的三维成像方法和系统及三维成像测量产线
KR20110089486A (ko) 실장기판 검사장치 및 검사방법
JP6904263B2 (ja) 画像処理システム
KR101624120B1 (ko) 3차원 형상 계측용 구조광의 국소 영역별 패턴 광원 조사 시스템 및 방법
KR101237497B1 (ko) 검사영역의 설정방법
JP6877936B2 (ja) 処理装置、処理システム、撮像装置、処理方法、プログラム、および記録媒体
JP2015059849A (ja) 色と三次元形状の計測方法及び装置
JP6939501B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
JP2017156161A (ja) 照明条件設定装置、照明条件設定方法及び照明条件設定用コンピュータプログラム
JP7118776B2 (ja) 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体
US20180130230A1 (en) Recognition apparatus, determination method, and article manufacturing method
TW202113344A (zh) 外觀檢查裝置及其校正方法、及電腦可讀取的記錄媒體
JP2020129187A (ja) 外形認識装置、外形認識システム及び外形認識方法
JP6386837B2 (ja) 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法
KR101311255B1 (ko) 측정대상물 검사방법
KR101216453B1 (ko) 측정대상물 검사방법
JP2024055569A (ja) 3次元計測装置、3次元計測方法、プログラム、システム、及び物品の製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20211021

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220308

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220321

R150 Certificate of patent or registration of utility model

Ref document number: 7056131

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150