JP2019109070A - 画像処理システム、画像処理プログラム、および画像処理方法 - Google Patents

画像処理システム、画像処理プログラム、および画像処理方法 Download PDF

Info

Publication number
JP2019109070A
JP2019109070A JP2017240594A JP2017240594A JP2019109070A JP 2019109070 A JP2019109070 A JP 2019109070A JP 2017240594 A JP2017240594 A JP 2017240594A JP 2017240594 A JP2017240594 A JP 2017240594A JP 2019109070 A JP2019109070 A JP 2019109070A
Authority
JP
Japan
Prior art keywords
image data
image
unit
image processing
parameter set
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017240594A
Other languages
English (en)
Other versions
JP6939501B2 (ja
Inventor
加藤 豊
Yutaka Kato
豊 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2017240594A priority Critical patent/JP6939501B2/ja
Priority to EP18199579.6A priority patent/EP3499408B1/en
Priority to CN201811185741.6A priority patent/CN109931881B/zh
Priority to US16/162,408 priority patent/US10859506B2/en
Publication of JP2019109070A publication Critical patent/JP2019109070A/ja
Application granted granted Critical
Publication of JP6939501B2 publication Critical patent/JP6939501B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N2201/00Features of devices classified in G01N21/00
    • G01N2201/12Circuits of general importance; Signal processing
    • G01N2201/121Correction signals
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Analytical Chemistry (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)

Abstract

【課題】画像データ内の位置に応じて適当な条件で画像計測を行うことを目的とする。【解決手段】画像処理装置は、照明装置に含まれる複数の発光部の発光状態を異ならせた各々で撮像して得られる複数の画像データを取得する。画像処理装置は、取得した複数の画像データと、画像データ内の位置に関連付けて規定される生成条件と基づいて、画像計測に利用する画像データを生成する。【選択図】図1

Description

本発明は、画像処理システム、画像処理プログラム、および画像処理方法に関する。
FA(Factory Automation)分野などにおいては、対象物(以下、「ワーク」とも称す。)を照明装置からの光による照明下で撮像し、生成された画像データからワークに関する情報を取得する画像処理技術が利用されている。
画像処理技術分野において利用される照明装置として、多種多様な照明装置が開発されている。例えば、特開2015−232487(特許文献1)には、照明方向が異なる複数の照明を備える照明装置が開示されている。
特開2015−232487号公報
複数の照明からなる照明装置において、一の照明から照射される光は、対象物の表面形状によっては、表面領域ごとに入射角が異なる。それにより、同じ対象物に対して同じ照明から光を照射する場合であっても、表面領域ごとに、その光に基づいて計測される画像計測の精度が異なることが考えられる。例えば、同じ照明条件下でも、1領域の表面形状は精度よく得られても、他の領域の表面形状の計測精度は低くなることが考えられる。
発明者は、同じ対象物であっても、対象物の表面領域ごとに最適な照明条件は異なるため、表面領域に対応する画像データ内の位置に応じて適当な条件で画像計測を行う必要があることを見出した。
本発明は、上述したように、画像データ内の位置に応じて適当な条件で画像計測を行うことができる画像処理システム、画像処理プログラム、および画像処理方法を提供することを目的とする。
本開示の一例によれば、画像計測を行なう画像処理システムが提供される。画像処理システムは、対象物を撮像して画像データを生成する撮像部と、対象物に照明光を照射するための発光部が複数配置された照明部と、複数の発光部の発光状態を複数に異ならせた各々において撮像部が対象物を撮像することで生成される複数の画像データを取得するとともに、取得した当該複数の画像データと、画像データ内の位置に関連付けて規定される生成条件と基づいて、画像計測に利用する画像データを生成する生成部とを含む。
この開示によれば、画像データ内の位置に関連付けて規定される生成条件に基づいて、画像計測に利用する画像データが生成されるため、画像データ内の位置に応じた適当な条件で画像計測を行なうことができる。
上述の開示において、生成条件は、画像データ内の隣接する複数画素からなる部分領域ごとに規定されてもよい。生成部は、画像計測に利用する画像データとして、部分領域ごとに当該部分領域に対応する部分領域画像データを生成してもよい。
この開示によれば、複数画素からなる部分領域ごとに部分領域画像データを生成するため、一画素ごとに生成する場合に比べて処理が軽減される。
上述の開示において、生成部は、画像計測に利用する画像データを、部分領域ごとに生成した複数の部分領域画像データを1の画像データに合成することで生成してもよい。
この開示によれば、部分領域画像データごとに画像計測を行なう場合に比べて、処理を軽減することができる。
上述の開示において、生成部は、複数の発光部のうちの1の発光部を順次発光させるように照明部を制御するとともに、発光部の順次発光に対応して対象物を撮像するように撮像部を制御する制御部と、撮像部により生成される複数の画像データから生成対象の部分領域に対応する部分画像データをそれぞれ抽出するとともに、各発光部からの影響を部分領域ごとに規定した第1のパラメータセットにしたがって、抽出した複数の部分画像データを合成することで部分領域画像データを生成する合成処理部とを含んでもよい。
この開示によれば、部分領域ごとに各発光部からの影響を考慮して部分領域画像データを生成することができるため、部分領域ごとに適当な部分領域画像データを生成することができ、部分領域ごとに適当な条件で画像計測を行なうことができる。
上述の開示において、生成部は、画像データから対象物の配置状況を特定する位置特定部と、位置特定部が特定した対象物の配置状況と、第1のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量を求めるとともに、当該移動量に基づいて第1のパラメータセットを補正するパラメータ補正部とをさらに含んでもよい。
この開示によれば、計測対象である対象物の配置状況が、第1のパラメータセットの取得時における対象物の配置状況と変わった場合であっても、その変化に応じて第1のパラメータセットを補正することができる。
上述の開示において、生成部は、複数の発光状態を規定する第2のパラメータセットにしたがって照明部を制御するとともに、それぞれの発光状態において対象物を撮像するように撮像部を制御する制御部と、
撮像部により生成される複数の画像データのうちの少なくとも1の画像データから、生成対象の部分領域に対応する部分画像データを抽出するとともに、抽出した部分画像データに基づいて部分領域画像データを生成する生成処理部とを含んでもよい。
この開示によれば、部分領域に応じて、適当な発光状態で画像計測を行なうことができる。
上述の開示において、生成部は、画像データから対象物の配置状況を特定する位置特定部と、位置特定部が特定した対象物の配置状況と、第2のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量を求めるとともに、当該移動量に基づいて第2のパラメータセットを補正するパラメータ補正部とをさらに含んでもよい。
この開示によれば、計測対象である対象物の配置状況が、第2のパラメータセットの取得時における対象物の配置状況と変わった場合であっても、その変化に応じて第2のパラメータセットを補正することができる。
上述の開示において、第1のパラメータセットに含まれるパラメータは、負の値を含んでもよい。
この開示によれば、所定の発光部からの影響を排除して、部分領域画像データを生成することができる。
上述の開示において、部分領域は、対象物の形状に基づいて規定されてもよい。
この開示によれば、対象物の表面に応じた照明条件で画像計測を行なうことができる。
上述の開示において、複数の発光部は、所定の位置を基準に規則的に照明部に設けられていてもよい。
この開示によれば、第1パラメータまたは第2パラメータを補正する場合に、発光部が規則的に並んでいることにより、これらのパラメータを所定の規則にしたがって補正することができる。
本開示の別の一例によれば、対象物を撮像して画像データを出力する撮像装置と、当該対象物に照明光を照射するための発光部が複数配置された照明装置とを制御するコンピュータで実行される画像計測を行なうための画像処理プログラムが提供される。画像処理プログラムは、コンピュータに、複数の発光部の発光状態を複数に異ならせた各々において撮像装置が対象物を撮像することで生成される複数の画像データを取得する機能と、取得した複数の画像データと、画像データ内の位置に関連付けて規定される生成条件とに基づいて、画像計測に利用する画像データを生成する機能とを実行させる。
この開示によれば、画像データ内の位置に応じた生成条件に基づいて、画像計測に利用する画像データが生成されるため、画像データ内の位置に応じた適当な条件で画像計測を行なうことができる。
本開示の別の一例によれば、画像計測を行なう画像処理方法が提供される。画像処理方法は、複数の発光部の発光状態を複数に異ならせ、複数の異なる発光状態の各々で対象物を撮像して複数の画像データを取得し、取得した複数の画像データと、画像データ内の位置に関連付けて規定される生成条件とに基づいて、画像計測に利用する画像データを生成する。
この開示によれば、画像データ内の位置に応じた生成条件に基づいて、画像計測に利用する画像データが生成されるため、画像データ内の位置に応じた適当な条件で画像計測を行なうことができる。
画像データ内の位置に応じて適当な条件で画像計測を行うことができる。
本開示の上記および他の目的、特徴、局面および利点は、添付の図面と関連して理解される本発明に関する次の詳細な説明から明らかとなるであろう。
本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。 本発明の実施の形態に係る画像処理システムの基本構成を示す模式図である。 照明装置の構成を示す図である。 画像処理装置のハードウェア構成について示す模式図である。 第1の具体例における画像計測の流れを説明するための図である。 第1の具体例における第1パラメータセットの位置補正について説明するための図である。 第1の具体例における画像計測に用いられる画像処理装置の機能構成を示す図である。 第1の具体例における第1パラメータセットの決定方法を説明するための図である。 第1の具体例における第1パラメータセット決定時の画像処理装置の機能構成を示す図である。 第2の具体例における画像計測の流れを説明するための図である。 第2の具体例における第2パラメータセットの位置補正について説明するための図である。 第2の具体例における画像計測に用いられる画像処理装置の機能構成を示す図である。 第2の具体例における第2パラメータセットの決定方法を説明するための図である。 第2の具体例における第2パラメータ決定時の画像処理装置の機能構成を示す図である。 部分領域riの規定方法の変形例を説明するための図である。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
§1 適用例
まず、図1を参照して、本発明が適用される場面の一例について説明する。図1は、本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。
画像処理システム1は、撮像部の一例であるカメラ8と、照明部の一例である照明装置4と、対象物であるワークWに対する画像計測に利用する画像データRを生成する生成部10とを備える。生成部10は、一例として、汎用的なコンピュータアーキテクチャに従う構造を有している画像処理装置100に設けられている。
カメラ8は、撮像視野内にワークWの少なくとも一部が含まれるように配置されている。照明装置4には、ワークWに照明光を照射するための発光部41が複数配置されている。一の発光部41は、一の光源から構成されてもよく、あるいは複数の光源から構成されてもよい。また、一の発光部41に含まれる光源の種類は、一種類であってもよく、また複数種類であってもよい。
生成部10は、照明条件にしたがって照明装置4に含まれる複数の発光部41の発光状態を複数に異ならせた各々において撮像して得られる複数の画像データ81を取得する。ここで、発光状態が異なるとは、各発光部41から照射される光の輝度および波長のうちの少なくともいずれか一方が異なることをいう。たとえば、1の発光部41から照射される光の輝度および波長のうちの少なくともいずれか一方が異なれば、当該1の発光部41以外の発光部41から照射される光の輝度および波長のいずれもが等しくても、発光状態は異なるといえる。
図1の例では、照明条件として発光状態1〜発光状態mが規定されている。生成部10は、発光状態1〜発光状態mの各々で撮像された画像データ81−1〜画像データ81−mを取得する。なお、説明の便宜のため、以下では、画像データ81−1〜画像データ81−mの各々について区別する必要がない場合は、画像データ81と称する。
生成部10は、画像データ81内の位置に関連付けて規定される生成条件と、取得した複数の画像データ81−1〜81−mとに基づいて、画像計測に利用するための画像データRを生成する。
「画像データ内の位置に関連付けて規定される」とは、画像データ内の画素によって規定されるものと、画像データ内に映されたワークWの位置に関連付けて規定されるものとを含む。
図1の例では、画像データ81の位置として(x、y)が規定されており、各位置ごとに条件が設定されている。すなわち、生成条件として、画像データ81の位置(x、y)ごとに規定された条件Pが設定されている。
たとえば、図1の例では、生成部10は、画像データ81−1〜81−mから、画像データ81の位置(x、y)ごとに規定された条件Pに基づいて画像データRを生成する。
ここで、画像データ81の位置(x、y)ごとに規定された条件Pは、取得した複数の画像データ81のうちから一または複数の画像データ81を選択することと、選択した一または複数の画像データ81から対応する位置の画像を生成する方法とを含む条件である。
画像処理システム1において、生成部10は、照明条件にしたがって異なる発光状態の各々で撮像された複数の画像データ81と、画像データ81の位置に対応付けて規定された生成条件とに基づいて画像計測に利用する画像データRを生成する。そのため、画像処理システム1においては、画像データ81の位置ごとに適当な条件で生成された画像データを利用して画像計測を行なうことができるため、精度の高い画像計測を行なうことができる。
また、画像処理システム1においては、1のワークWに対して、異なる発光状態の各々で撮像された複数の画像データ81を取得することができるため、照度差ステレオ法に準じた演算によりワークWの表面の法線ベクトルを求めることができる。
なお、以下では、説明の便宜上、画像データ81内の隣接する複数画素からなる部分領域riに含まれる複数画素の各々には共通する生成条件が規定されているものとして説明する。
§2 具体例
以下、本発明のより具体的な一応用例として、本実施の形態に係る画像処理システム1のより詳細な構成および処理について説明する。
[A.画像処理システム1の基本構成]
図2は、本発明の実施の形態に係る画像処理システム1の基本構成を示す模式図である。画像処理システム1は、主たる構成要素として、画像処理装置100と、カメラ8と、照明装置4とを含む。画像処理装置100とカメラ8と照明装置4とは互いにデータ通信可能に接続される。
照明装置4は、検査対象物(以下、「ワークW」ともいう。)の少なくとも一部が照明装置4の照射領域に位置するように配置されている。なお、ワークWがベルトコンベアのような搬送装置によって搬送される場合、搬送装置の少なくとも一部が照射領域に位置するように照明装置4は配置される。図2の例では、ワークWは、テーパ部W1と、平面部W2とを備える四角垂台の形状をした物体である。なお、ワークWの形状は一例であって、画像処理システム1は任意のワークWに対して用いられる。
カメラ8は、ワークWの少なくとも一部がカメラ8の撮像視野に位置し、かつ、照明装置4の照射領域の少なくとも一部がカメラ8の撮像視野に含まれるように配置されている。カメラ8は、撮像視野に存在する被写体を撮像し、撮像により得られた画像信号(1または複数の静止画像および動画像を含み得る)を画像処理装置100へ出力する。カメラ8は、撮像部の一例であって、所定の撮像視野に含まれる光を画像信号に変換する光電変換器であり、典型的には、レンズや絞りなどの光学系と、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの受光素子とを含む。
図2の例では、ワークWと照明装置4とカメラ8とが互いに同軸上に位置するように配置されている。照明装置4には、カメラ8が照明装置4の上部からワークWを撮像することができるように、開口部48(図3参照)が設けられている。カメラ8は、開口部48を通してワークWが撮像視野内に含まれるように配置されている。なお、ワークWと照明装置4とカメラ8との位置関係は一例であって、互いに同軸上に位置していなくともよい。たとえば、照明装置4を紙面の右側に配置されており、カメラ8が紙面の左側に配置されているような構成であってもよい。
画像処理装置100は、画像処理システム1全体の処理を司る。たとえば、画像処理装置100は、照明装置4およびカメラ8を制御するとともに、カメラ8から出力された画像信号に基づいて、ワークW上の欠陥や汚れの有無の検査、ワークWの大きさや配置や向きなどの計測、ワークW表面上の文字や図形などの認識といった画像処理を行う。
なお、図2の例では、照明装置4およびカメラ8を制御する機能と、画像処理を行う機能とを一の装置が行うとしたが、画像処理システム1は、機能ごとに別々の装置を備えてもよい。たとえば、画像処理システム1は、照明装置4を制御する照明制御装置と、カメラ8を制御する撮像制御装置と、画像処理を行う装置とを備えてもよい。また、一の機能を他の装置が備えてもよい。
[B.照明装置4の構成]
図3を参照して、照明装置4の構成について説明する。図3は、照明装置4の構成を示す図である。照明装置4は複数の発光部41を含む。図3の例では、照明装置4は、合計34個の発光部41を含む。また、照明装置4の中央には、照明装置4の上部からワークWを撮像することができるように開口部48が設けられている。
図3の例では、各発光部41は所定の位置を基準に規則的に照明装置4に配列されている。たとえば、図3の例では、照明装置4を構成する辺と点のうち、一の点を基準に縦と横に規則的に発光部41は配列されている。なお、開口部48を基準に、発光部41は、開口部48の周囲を円状に配列されていてもよい。
発光部41同士の間隔は、ワークWに対して様々な角度から光を入射させるために、可能な限り狭い方がよい。また、複数の発光部41の各々は互いに同じ構造であることが好ましく、また、各発光部41は同じ高さに配置されていることが好ましい。
本実施の形態においては、説明の便宜上、照明装置4の短辺をx軸、長辺をy軸として、照明装置4に含まれる複数の発光部41の各々を座標(x、y)で区別することがある。
画像処理装置100は、複数の発光部41をそれぞれ独立して制御することができる。たとえば、画像処理装置100は、一部の発光部41のみを点灯させて、他の発光部41は消灯させることができる。また、画像処理装置100は、複数の発光部41を互いに異なる発光強度で点灯させることができる。
本実施の形態において、各発光部41からは共通する波長の照明光がワークWに対して照射されるものとする。なお、発光部41から照射される照明光の波長を複数の発光部41のそれぞれで異なるように制御できるような構成であってもよい。
また、本実施の形態においては、四角形状の照明装置4を例に挙げたが、リング状の照明装置であってもよい。また、有機EL(Electro Luminescence)からなる透過型の照明装置であってもよい。透過型の照明装置を用いた場合、本実施例のような開口部48を設ける必要がない。また、ドーム形状の照明装置であってもよい。また、画像処理システム1は、好ましくは、カメラ8と、照明装置4と、ワークWとを同軸上に配置可能な照明装置4を備えるものの、同軸上に配置することができない照明装置4を備えてもよい。
[C.画像処理装置100のハードウェア構成]
図4は、画像処理装置100のハードウェア構成について示す模式図である。画像処理装置100は、CPU(Central Processing Unit)110、メインメモリ120、ハードディスク130、カメラインターフェイス(I/F)180、照明I/F140、および外部メモリI/F160を含む。これらの各部は、バス190を介して、互いにデータ通信可能に接続される。
CPU110は、ハードディスク130にインストールされた画像処理プログラム132および設定プログラム134を含むプログラム(コード)をメインメモリ120に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ120は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置である。
ハードディスク130は、画像処理装置100が備える内部メモリであって、不揮発性の記憶装置である。画像処理プログラム132、設定プログラム134、照明パラメータデータベース(DB)136、および設定用パラメータDB138を含む。なお、ハードディスク130に加えて、あるいは、ハードディスク130に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
カメラI/F180は、CPU110とカメラ8との間のデータ伝送を仲介する。すなわち、カメラI/F180は、画像データを生成するカメラ8と接続される。また、カメラI/F180は、CPU110からの内部コマンドに従って、接続されているカメラ8における撮像動作を制御するコマンドを与える。
照明I/F140は、CPU110と照明装置4との間のデータ伝送を仲介する。すなわち、照明I/F140は、照明装置4と接続される。また、照明I/F140は、CPU110からの内部コマンドに従って、接続されている照明装置4に含まれる複数の発光部41の各々の点灯を制御するコマンドを与える。なお、照明装置4は、カメラ8を介して画像処理装置100と接続されてもよい。また、カメラ8は、照明装置4を介して画像処理装置100と接続されてもよい。
外部メモリI/F160は、外部メモリ6と接続され、外部メモリ6に対するデータの読み込み/書き込みの処理をする。外部メモリ6は、画像処理装置100に着脱可能であって、典型的には、USB(Universal Serial Bus)メモリ、メモリカードなどの不揮発性の記憶装置である。また、画像処理プログラム132や設定プログラム134等の各種プログラムおよび照明パラメータDB136や設定用パラメータDB138等の各種パラメータDBは、ハードディスク130に保存されている必要はなく、画像処理装置100と通信可能なサーバや、画像処理装置100と直接接続可能な外部メモリ6に保存されていてもよい。たとえば、外部メモリ6に画像処理装置100で実行される各種プログラムおよび各種プログラムで用いられる各種パラメータが格納された状態で流通し、外部メモリI/F160は、この外部メモリ6から各種プログラムおよび各種パラメータを読み出す。あるいは、画像処理装置100と通信可能に接続されたサーバなどからダウンロードしたプログラムやパラメータを画像処理装置100にインストールしてもよい。
なお、本実施の形態に係る画像処理プログラム132および設定プログラム134は、他のプログラムの一部に組み込まれて提供されるものであってもよい。
また、代替的に、画像処理プログラム132および設定プログラム134の実行により提供される機能の一部もしくは全部を専用のハードウェア回路として実装してもよい。
[概要]
ワークWの外観画像からワークWの外観検査を画像処理により行なう場合に、照明装置4とカメラ8とワークWとの位置関係および、ワークWの材質や、検出したい傷の種類等の検査項目などによって、照射する光の強度、および照射する光の波長を変えることで、検査に応じた画像データを取得することができる。
従来は、ワークWに対してカメラ8を動かすことなく画像処理を行なう場合、1回の撮像に対して、1の照明条件が設定されていた。しかし、照明装置4とカメラ8とワークWとの位置関係は、ワークWの領域ごとに異なる。そのため、1回の撮像で、ある領域の画像データからは検査に適した特徴量を抽出できたとしても、別の領域の画像データからは検査に適した特徴量を抽出できていないおそれがある。
たとえば、カメラ8の撮像視野内であっても、位置によって、カメラ8の視線方向や、照明装置4からの光の放射方向が異なる。また、ワークWの形状によっては、位置によってカメラ8の視線方向や、照明装置4からの光の放射方向が異なる。そのため、カメラ8の撮像視野内のうちのいずれの位置においても検査に適した画像データとなるようには同時には実現することができていなかった。
本実施の形態における画像処理システム1は、撮像視野内の位置ごとに画像計測の目的に適合した画像データを生成することで、画像データ内のどの位置においても検査に適した画像データを取得することができる。
[第1の具体例]
撮像視野内のどの位置においても検査に適した画像データを取得して画像計測を行うための第1の具体例について説明する。第1の具体例における画像処理システム1において、カメラ8は、照明条件を変えて複数の画像データ81を生成する。画像処理装置100は、画像データ81に規定される部分領域riごとに、部分領域riに対応する部分画像データ82を複数の画像データ81の各々から抽出して、複数の部分画像データ82を部分領域riごとに規定された第1パラメータセットρiにしたがって合成することで部分領域画像データRiを生成する。また、画像処理装置100は、生成された部分領域画像データRiに対して画像計測を行なう。
(画像計測の流れ)
図5を参照して、第1の具体例における画像処理システム1が行なう画像計測の流れを説明する。図5は、第1の具体例における画像計測の流れを説明するための図である。
画像処理装置100は、複数の発光部41を1つずつ順次発光させ、発光部41の順次発光に対応して対象物を撮像して画像データ81を取得する。たとえば、画像処理装置100は、発光部41(x1、y1)だけを所定の発光強度で点灯させた発光状態1において撮像された画像データ81(x1、y1)、発光部41(x2、y1)だけを所定の発光強度で点灯させた発光状態2において撮像された画像データ81(x2、y1)等をカメラ8から取得する。なお、以下、発光部41(x、y)を所定の発光強度で点灯させた点灯条件下で撮像して得られた画像データ81を画像データ81(x、y)と表現する。
画像データ81は、予め規定された複数の部分領域riを含む。この部分領域riは、カメラ8の撮像視野の一部分に相当する。画像処理装置100は、複数の画像データ81(x、y)から生成対象の部分領域riに対応する部分画像データ82i(x、y)をそれぞれ抽出する。画像処理装置100は、部分領域riごとに各発光部41からの影響を規定した第1パラメータセットρiに従って、複数の画像データ81(x、y)のそれぞれから抽出した複数の部分画像データ82i(x、y)を合成することで、部分領域riごとに部分領域画像データRiを生成する。
部分領域riごとに各発光部41からの影響を規定した第1パラメータセットρiとは、たとえば、異なる発光状態の各々において撮像されて得られた複数の画像データ81(x、y)の部分領域riに対応する各部分画像データ82i(x、y)が画像計測の目的に適合した画像データであるかを相対的に示したものである。画像計測の目的に適合しているか否かは、たとえば、得られるはずの特徴量が部分画像データ82i(x、y)に含まれているか、得られるはずのない特徴量が部分画像データ82i(x、y)に含まれているかなどによって判断することができる。
発光部41(x1、y1)から照射された光に基づいて生成される画像データ81(x1、y1)のうちの部分領域r1に含まれる部分画像データ821(x1、y1)からは、画像計測に適した特徴量が抽出されるにも関わらず、発光部41(x5、y1)から照射された光に基づいて生成される画像データ81(x5、y1)のうち、部分領域r1に含まれる部分画像データ821(x5、y1)からは、画像計測に適さない特徴量が抽出されることがある。これは、領域riに対応するワークWの表面領域と、カメラ8と、発光部41との位置関係が、発光部41(x1、y1)と発光部41(x5、y1)とで異なることにより生じる。この場合に、第1パラメータセットρiは、画像計測に適した特徴量が抽出される部分画像データ821(x1、y1)の影響が大きく、画像計測に適さない特徴量が抽出される部分画像データ821(x5、y1)の影響が小さくなるように、設定される。
たとえば、第1パラメータセットρiは、画像データ81(x、y)ごとに設定された第1パラメータρi(x、y)の集合である。画像処理装置100は、この第1パラメータセットρiを部分領域riごとに備える。画像処理装置100は、たとえば、部分領域画像データRiを以下の式(1)に基づいて算出する。
Figure 2019109070
画像処理装置100は、得られた部分領域画像データRiに基づいて画像計測を行なう。たとえば、画像処理装置100は、得られた部分領域画像データRiに含まれる特徴量を抽出し、当該特徴量に基づいて、ワークWの表面状態について計測する。
ここで、第1パラメータセットρiを用いて部分領域画像データRiを合成する際に線形和で合成するとしたが、合成方法はこれに限られない。例えば、複数の線形和を求めて、互いに掛け算や割り算を行うことで合成しても良い。また、第1パラメータセットρiは、正の値でも、負の値であっても良い。また、合成する際の演算に最大値または最小値を用いても良い。また、画像計測を行うにあたって、部分領域画像データRiを個別に評価してもよく、また、すべての部分領域画像データRiを合成して、カメラ8の撮像視野全体の画像データを生成した上で画像計測を行っても良い。
(第1パラメータセットρiの補正)
画像処理装置100は、ワークWの撮像視野内における配置状況に応じて第1パラメータセットρiを補正してもよい。たとえば、第1パラメータセットρi設定時のワークWの撮像視野内における配置状況と、計測時のワークWの撮像視野内における配置状況とが異なる場合に、発光部41とワークWとの位置関係が第1パラメータセットρi設定時と異なるにも関わらず、第1パラメータセットρiを補正せずに用いた場合に、画像計測の精度が本来の精度に比較して下がってしまう。
図6は、第1の具体例における第1パラメータセットρiの位置補正について説明するための図である。たとえば、図6(1)に示すように、第1パラメータセットρi設定時において、ワークWの領域aの上部に位置する発光部41(x、y)で撮像した画像データ81(x、y)の領域aに対応する画像データ81(x、y)内の位置に対して第1パラメータρa(x,y)が設定されたものとする。この場合に、図6(2)に示すように、計測時にワークWの配置状況が変化して、ワークWの領域aの上部に発光部41(x’、y’)が位置することとなったとする。計測時には、発光部41(x’、y’) で撮像した画像データ81(x’、y’)の領域aに対応する画像データ81(x’、y’)内の位置に対する第1パラメータρa(x’、y’)を第1パラメータρa(x、y)に補正することで、ワークWと発光部41との位置関係に応じた第1パラメータρaを設定することができる。
ここで、(x、y)と(x’、y’)との関係は、たとえば、式(2)で表される。
Figure 2019109070
図6(3)に示すように、wは、設定時におけるワークWが、計測時においてどの程度回転したかを示す回転成分であって、たとえば、回転ベクトルによって示される。また、Tは、ワークWの中心がどの程度平行移動したかを示す並進成分である。なお、第1パラメータセットρiは既知の他の手法によって補正されてもよい。
(第1の具体例における画像計測に用いられる画像処理装置の機能構成)
図7は、第1の具体例における画像計測に用いられる画像処理装置100の機能構成を示す図である。画像処理装置100は、生成部10と、画像計測部20とを含む。生成部10は、照明装置4に含まれる複数の発光部41の発光状態を異ならせた、複数の照明条件下で撮像して得られる複数の画像データ81を取得し、複数の画像データ81から、部分領域画像データRiを生成する。
生成部10は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)から部分領域画像データRiを合成する合成処理部14とを備えてもよい。
制御部12は、たとえば、発光部41を1つずつ順次発光させるように照明装置4を制御する照明制御部122と、発光部41の順次発光に対応してワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
合成処理部14は、たとえば、カメラ8によって生成された複数の画像データ81(x、y)の各々から、合成対象の部分領域riに対応する部分画像データ82i(x、y)を抽出する抽出部142と、抽出した複数の部分画像データ82i(x、y)を部分領域riに対応する第1パラメータセットρiに従って合成することで、部分領域画像データRiを生成する合成部144とを備える。
また、生成部10は、ワークWの配置状況に応じて部分領域画像データRiの生成に関する条件を補正する補正部16を備えてもよい。第1の具体例においては、補正部16は、第1パラメータセットρiをワークWの配置状況に応じて補正する。補正部16は、ワークWの配置状況を特定する位置特定部162と、位置特定部162が特定したワークWの配置状況に基づいて、ワークWが基準となるワークWの配置状況からどの程度移動したかに基づいて部分領域画像データRiの生成に関する条件を補正するパラメータ補正部164とを備える。第1の具体例において、パラメータ補正部164は、第1パラメータセットρiを補正する。第1パラメータセットρiは、たとえば、照明パラメータDB136に記憶されている。
基準となるワークWの配置状況は、たとえば、第1パラメータセットρiの設定時のワークWの配置状況である。設定時のワークWの配置状況は、たとえば、ワークWの重心位置と、カメラ8と、照明装置4とが同軸上に配置された状況である。
第1の具体例において、合成処理部14は、パラメータ補正部164が補正したパラメータセットρ’iに従って部分領域画像データRiを生成してもよい。
また、生成部10は、ワークWを含む領域を特定し、ワークWを含む領域内にある部分領域riに対応する部分領域画像データRiだけを生成してもよい。このようにすることで、部分領域画像データRiを生成する数を減らすことができ、生成部10が実行する処理を軽減することができる。
画像計測部20は、部分領域画像データRiを画像計測して画像計測結果を出力する。画像計測部20は、たとえば、部分領域画像データRiごとに特徴量を抽出して、当該特徴量に基づいて、ワークWの外観を計測してもよい。また、生成された複数の部分領域画像データRiをすべて合成した後、特徴量を抽出して、当該特徴量に基づいて、ワークWの外観を計測してもよい。画像計測結果の出力先は、画像計測結果に基づいて所定の制御を行う制御装置や、携帯式の端末、印刷器、ディスプレイ等の表示部、メモリなどの記憶部などが挙げられる。
(第1パラメータセットρiの決定方法)
図8は、第1の具体例における第1パラメータセットρiの決定方法を説明するための図である。第1パラメータセットρiは、第1パラメータセットρiにしたがって生成された画像データRが画像計測の目的に適合した画像データとなるように決定される。
「画像計測の目的に適合した画像データ」とは、たとえば、画像計測の目的が傷の有無を調べる検査である場合においては、傷が有る領域には所定の特徴量が含まれ、傷の無い領域には当該特徴量が含まれないような画像データである。
決定方法としては、たとえば、外観の状態が既知の教示用サンプルWkを撮像して得られた画像データから生成される画像データRが示す教示用サンプルの外観の状態と、実際の教示用サンプルWkの外観の状態とを一致させていくように、第1パラメータセットρiをフィッティングする。なお、教示用サンプルWkを用いずとも、たとえば、特徴量が所定の閾値を超えるか否かによって、画像計測結果が2つの結果に分かれる場合に、閾値に対して特徴量が離れた値を取るように第1パラメータセットρiを決定してもよい。すなわち、複数のサンプルに対して画像計測を行なった場合に、第1の結果となる集合に含まれるサンプルから抽出される特徴量と、第2の結果となる集合に含まれるサンプルから抽出される特徴量とが、離れた値となるように第1パラメータセットρiを決定してもよい。
なお、以下では、外観の状態が既知の教示用サンプルWkを撮像し、当該教示用サンプルWkの実際の外観の状態と、画像データRが示す教示用サンプルの外観の状態とが一致するように第1パラメータセットρiを決定する方法を例に説明する。
画像処理装置100は、複数の発光部41を1つずつ順次発光させ、発光部41の順次発光に対応して外観の状態が既知である教示用サンプルWkを撮像して得られる複数の画像データ81に基づいて、第1パラメータセットρiを決定する。画像処理装置100は、たとえば、予め定められたコスト関数E(ρi)が示す値が最大となるように、第1パラメータセットρiをフィッティングすることで、第1パラメータセットρiを決定する。
コスト関数E(ρi)は、部分領域画像データRiと隣接する部分領域画像データRi+1、Ri−1との連続性を示す関数f(ρi)と、部分領域画像データRiを画像計測した場合の計測精度を示す関数g(ρi)とからなる。コスト関数E(ρi)においては、部分領域画像データRiの連続性に関するファクタと、計測精度に関するファクタとのうち、第1パラメータセットρiを決定する上でいずれのファクタを重要とするかを定数αおよび定数βを各関数に乗算することで示すことができる。
計測精度に関する関数について、詳細に説明する。たとえば、外観にキズがあるか否かを、特徴量を抽出して、特徴量が予め定められた閾値を超えていればキズありと判定し、閾値未満であればキズなしと判断するような場合を考える。この場合に、計測精度に関する関数は、キズのある部分領域riに対応する部分領域画像データRiに含まれる特徴量が大きいほど、また、キズのない部分領域riに対応する部分領域画像データRiに含まれる特徴量が小さいほど、関数g(ρi)が示す値が大きくなるような関数である。
計測精度に関する関数g(ρi)は、たとえば、式(3)で表される。
Figure 2019109070
Sikは教師用データであって、教示用サンプルWk中の部分領域riに相当する表面にキズがあるか否かを示す値である。Sikは、教示用サンプルWk中の部分領域riに相当する表面にキズがある場合は「S=1」となり、キズがない場合は「S=−1」となる。また、Varとは、画像の濃度分散、または濃度分散を2値化したものであって、部分領域画像データRi内の画素値の濃度分散、または濃度分散を2値化したものである。なお、Varとしては、部分領域画像データRiに含まれる特徴量であってもよい。
コスト関数E(ρi)に連続性を示す関数f(ρi)を含めることで、第1パラメータセットρiが局所的に最適化されてしまうことを防止することができる。
図8に示す例では、コスト関数E(ρi)に連続性を示す関数f(ρi)を含めるものとしたが、連続性を示す関数f(ρi)を含めなくとも良い。また、第1パラメータセットρiを調整するにあたっては、勾配法に準じた方法、ニューラルネットワークを用いた方法など、種々の既知の方法を採用することができる。
(第1の具体例における第1パラメータセットρi決定時の画像処理装置の機能構成)
図9は、第1の具体例における第1パラメータセットρi決定時の画像処理装置100の機能構成を示す図である。画像処理装置100は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)から部分領域画像データRiを合成する合成処理部14と、決定部30とを備える。
制御部12は、たとえば、発光部41を1つずつ順次発光させるように照明装置4を制御する照明制御部122と、発光部41の順次発光に対応してワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
決定部30は、コスト関数E(ρi)に従ってコストEを演算する演算部32と、コストEの値が大きくなるように条件をフィッティングする調整部34と、条件を決定する条件決定部36とを備える。条件には、第1パラメータセットρiを含み、第1パラメータセットρiとは換言すると、画像データ81の位置ごとに規定された合成パラメータセットである。第1の具体例においては、調整部34は第1パラメータρiをフィッティングして、条件決定部36が部分領域riごとに第1パラメータセットρiを決定する。
合成処理部14は、たとえば、カメラ8によって生成された複数の画像データ81(x、y)の各々から、合成対象の部分領域riに対応する部分画像データ82i(x、y)を抽出する抽出部142と、抽出した複数の部分画像データ82i(x、y)を部分領域riに対応する第1パラメータセットρiに従って合成することで、部分領域画像データRiを生成する合成部144とを備える。
演算部32は、調整部34が調整した第1パラメータセットρiに従って、抽出部142が抽出した複数の部分画像データ82から部分領域画像データRiを合成部144に生成させ、合成部144が生成した部分領域画像データRiと、抽出部142が抽出した部分画像データ82とからコストEを算出する。
調整部34は、演算部32が算出したコストEに基づいて第1パラメータセットρiを調整する。条件決定部36は、演算部32が算出したコストEを評価して、第1パラメータセットρiを決定し、決定した第1パラメータセットρiを照明パラメータDB136として、記憶部の一例であるハードディスク130に保存する。
第1の具体例においては、部分領域riごとに第1パラメータセットρiを設けるものを例にあげたが、1画素ごとに第1パラメータセットρiを設けるものであってもよい。また、第1パラメータセットρiは画像データ81の位置に関連付けて規定されていればよく、たとえば、位置に関連した連続する関数であってもよい。
[第2の具体例]
撮像視野内のどの位置においても検査に適した画像データを取得して画像計測を行うための第2の具体例について説明する。第1の具体例においては、照明条件の異なる複数枚の画像データ81の各々から部分画像データ82を抽出し、抽出した複数の部分画像データ82を第1パラメータセットρに従って合成することで部分領域画像データRiを生成するものとした。
第2の具体例において、画像処理装置100は、部分領域riごとに設定された発光状態を示す第2パラメータセットPiに従って、部分領域riごとに発光状態を変更してワークWを撮像し、得られた画像データ81から部分領域riに対応する部分領域画像データRiを生成する。
(画像計測の流れ)
図10を参照して、第2の具体例における画像処理システム1が行なう画像計測の流れを説明する。図10は、第2の具体例における画像計測の流れを説明するための図である。
画像処理装置100は、複数の発光部41の発光状態を規定する第2パラメータセットPiに従って照明装置4を制御する。具体的に第2パラメータセットPiは、発光部41(x、y)ごとの発光強度を示すパラメータであって、第2パラメータセットPiには、発光部41(x、y)ごとに設けられた発光部41(x、y)の発光強度を示す第2パラメータPi(x、y)が含まれる。
第2パラメータセットPiは、画像データ81に規定される部分領域riごとに設けられている。画像処理装置100は、部分領域riごとに設けられた第2パラメータセットPiの各々に従って照明装置4を制御し、各第2パラメータPiに従って発光状態を変える。カメラ8は、各発光状態の下で対象物を撮像し、画像データ81iを生成する。画像処理装置100は、各照明条件下で生成された画像データ81iから、部分領域riに対応する部分画像データ82iを部分領域画像データRiとして抽出する。画像処理装置100は、生成した部分領域画像データRiを画像計測して画像計測結果を出力する。
たとえば、部分領域riに対応する部分領域画像データRiを生成する場合、画像処理装置100は、照明装置4の各発光部41(x、y)の発光強度を第2パラメータセットPiに対応する発光強度で発光させる。この照明条件下で撮像して生成された画像データ81iから、画像処理装置100は、部分領域riに対応する部分画像データを部分領域画像データRiとして抽出する。
(第2パラメータセットPiの補正)
画像処理装置100は、ワークWの撮像視野内における配置状況に応じて第2パラメータセットPiを補正してもよい。たとえば、第2パラメータセットPi設定時のワークWの撮像視野内における配置状況と、計測時のワークWの撮像視野内における配置状況とが異なる場合に、発光部41とワークWとの位置関係が第2パラメータセットPi設定時と異なるにも関わらず、第2パラメータセットPiを補正せずに用いた場合に、画像計測の精度が本来の精度に比較して下がってしまう。
図11は、第2の具体例における第2パラメータセットPiの位置補正について説明するための図である。たとえば、図11(1)に示すように、第2パラメータセットPi設定時において、ワークWの領域aに対応する部分領域raの部分領域画像Raを生成する場合の照明条件として、発光部41(x1、y1)を第2パラメータPa(x1、y1)に従って点灯させ、発光部41(x2、y1)を第2パラメータPa(x2、y1)に従って点灯させ・・・というように、複数の発光部41のそれぞれに対して第2パラメータPa(x、y)が設定されているものとする。
この場合に、計測時にワークWの配置状況が変化して、ワークWの領域aに対応する部分領域raの位置が、設定時と比較して平行方向にT、回転方向にw移動したものとする。すなわち、ワークWと照明装置との位置関係が平行方向にT、回転方向にw分変化したこととなる。
画像処理装置100は、その位置関係の変化に合わせて、第2パラメータPa(x、y)と、発光部41(x、y)との関係を設定しなおすことで、第2パラメータセットPiを補正することができる。
たとえば、設定時において発光部41(x、y)を第2パラメータPa(x、y)で発光することが設定されているものとする。この場合に、第2パラメータPa(x、y)が発光強度Laと発光部41(x、y)で表現されるものとする。補正後のPa(x’、y’)は式(4)で表現される。
Figure 2019109070
ここで、wとTが示す係数は、式(2)のwとTが示す係数と等しいため、説明を割愛する。
(第2の具体例における画像計測に用いられる画像処理装置100の機能構成)
図12は、第2の具体例における画像計測に用いられる画像処理装置100の機能構成を示す図である。画像処理装置100は、生成部10と、画像計測部20とを含む。
生成部10は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81のうちの少なくとも1つの画像データ81から、生成対象の部分領域riに対応する部分領域画像データRiを生成する生成処理部18とを備えてもよい。
制御部12は、照明装置4を制御する照明制御部122と、カメラ8を制御する撮像制御部124とを備える。照明制御部122は、部分領域riごとに設定された第2パラメータセットPiに従って複数の発光部41(x、y)の各々の発光強度を制御する。撮像制御部124は、第2パラメータセットPiに従って照明装置4が制御されているときに、ワークWをカメラ8に撮像させて画像データ81iを生成させる。
生成処理部18は、画像データ81iを撮像した照明条件に対応する第2パラメータセットPiに対応する部分領域riに対応する画像データを部分領域画像データRiとして生成する。
また、生成部10は、ワークWの配置状況に応じて部分領域画像データRiの生成に関する条件を補正する補正部16を備えてもよい。第2の具体例においては、補正部16は、第2パラメータセットPiをワークWの配置状況に応じて補正する。補正部16は、ワークWの配置状況を特定する位置特定部162と、位置特定部162が特定したワークWの配置状況に基づいて、ワークWが基準となるワークWの配置状況からどの程度移動したかに基づいて部分領域画像データRiの生成に関する条件を補正するパラメータ補正部164とを備える。第2の具体例において、パラメータ補正部164は、第2パラメータセットPiを補正する。第2パラメータセットPiは、たとえば、照明パラメータDB136に記憶されている。
基準となるワークWの配置状況は、たとえば、第2パラメータセットPiの設定時のワークWの配置状況である。設定時のワークWの配置状況は、たとえば、ワークWの重心位置と、カメラ8と、照明装置4とが同軸上に配置された状況である。
照明制御部122は、パラメータ補正部164が補正した第2パラメータセットP’iに従って照明装置4の発光状態を制御してもよい。
また、生成部10は、ワークWを含む領域を特定し、ワークWを含む領域内にある部分領域riに対応する部分領域画像データRiに対応する照明条件下だけで撮像してもよい。このようにすることで、撮像回数を減らすことができ、生成部10が実行する処理を軽減することができる。
(第2パラメータセットPiの決定方法)
図13は、第2の具体例における第2パラメータセットPiの決定方法を説明するための図である。第2パラメータセットPiは、第2パラメータセットPiにしたがって照明装置4を制御し、各発光状態の下で撮像して得られる画像データ81から生成される画像データRが画像計測の目的に適合した画像データとなるように決定される。
「画像計測の目的に適合した画像データ」とは、たとえば、画像計測の目的が傷の有無を調べる検査である場合においては、傷が有る領域には所定の特徴量が含まれ、傷の無い領域には当該特徴量が含まれないような画像データである。
決定方法としては、第1の具体例と同様、外観の状態が既知の教示用サンプルWkを撮像して得られた画像データ81に基づいて生成された画像データRが示す外観の状態と、教示用サンプルWkの実際の外観の状態とが一致するように第2パラメータセットPiをフィッティングする。また、教示用サンプルWkを用いずとも、たとえば、特徴量が所定の閾値を超えるか否かによって、画像計測結果が2つの結果に分かれる場合に、閾値に対して特徴量が離れた値を取るように第2パラメータセットPiを決定してもよい。
なお、以下では、教示用サンプルWkを撮像して得られた画像データ81に基づいて生成される画像データRが示す外観の状態と、教示用サンプルWkの実際の外観の状態とが一致するように第2パラメータセットPiを決定する方法を例に説明する。
画像処理装置100は、適当な第2パラメータセットPiに従って発光部41を点灯させた状態で外観の状態が既知である教示用サンプルWkを撮像して得られる画像データ81に基づいて、第2パラメータセットPiを決定する。画像処理装置100は、コスト関数E(Pi)が示す値が最大となるように、照明条件を変化させて、第2パラメータセットPiをフィッティングすることで、第2パラメータセットPiを決定する。
第2の具体例においては、コスト関数E(Pi)は、部分領域画像データRiを画像計測した場合の計測精度を示す関数g(Pi)からなる。計測精度を示す関数g(Pi)は、第1の具体例における関数g(ρi)と同様であって、キズのある部分領域riに対応する部分領域画像データRiに含まれる特徴量が大きいほど、また、キズのない部分領域riに対応する部分領域画像データRiに含まれる特徴量が小さいほど、一致度合いに関する関数が示す値が大きくなるような関数である。
計測精度に関する関数g(Pi)は、たとえば、式(5)で表される。
Figure 2019109070
Sikは教師用データであって、教示用サンプルWk中の部分領域riに相当する表面にキズがあるか否かを示す値である。Sikは、教示用サンプルWk中の部分領域riに相当する表面にキズがある場合は「S=1」となり、キズがない場合は「S=−1」となる。また、Varとは、画像の濃度分散、または濃度分散を2値化したものであって、部分領域画像データRi内の画素値の濃度分散、または濃度分散を2値化したものである。なお、Varとしては、部分領域画像データRiに含まれる特徴量であってもよい。
ここで、第2パラメータセットPiを決定する場合には、部分領域画像データRiについて、当該部分領域画像データRiから得られるコストEiが最大となるように第2パラメータセットPiが決定される。
なお、第2パラメータセットPiを算出するにあたっては、総当たりで複数の発光部41の各々の発光強度を総当たりで変化させることで求めてもよく、また、山登り法に準じた方法で第2パラメータセットPiを調整することで求めても良い。
(第2の具体例における第2パラメータセットPi決定時の画像処理装置の機能構成)
図14は、第2の具体例における第2パラメータPi決定時の画像処理装置100の機能構成を示す図である。画像処理装置100は、照明装置4とカメラ8とをそれぞれ制御する制御部12と、制御部12からの制御に従ってカメラ8が撮像して生成した複数の画像データ81(x、y)のうちの少なくとも一の画像データ81から、生成対象の部分領域riに対応する部分領域画像データRiを生成する生成処理部18と、決定部30とを備える。
第2の具体例における制御部12は、たとえば、発光部41を指定された第2パラメータセットPiにしたがって照明装置4を制御する照明制御部122と、指定された第2パラメータセットPiにしたがって制御された照明条件下でワークWを撮像するようにカメラ8を制御する撮像制御部124とを備える。
第2の具体例における照明制御部122は、部分領域riごとに設定される第2パラメータPiにしたがって照明装置4を制御する。第2パラメータPiにしたがって照明装置4が制御された照明条件下でカメラ8が撮像して得られる画像データ81を、画像データ81iともいう。
決定部30は、コスト関数E(Pi)に従ってコストEを演算する演算部32と、コストEの値が大きくなるように条件をフィッティングする調整部34と、条件を決定する条件決定部36とを備える。第2の具体例において、条件には、第2パラメータセットPiを含む。第2の具体例においては、調整部34は第2パラメータPiをフィッティングして、条件決定部36が第2パラメータセットPiを部分領域riごとに決定する。
生成処理部18は、たとえば、カメラ8によって生成された複数の画像データ81iから、部分領域riに対応する部分画像データ82iを抽出して、部分領域画像データRiを生成する。
演算部32は、調整部34が調整した第2パラメータセットPiに従って制御された照明条件下で撮像された画像データ81から生成処理部18が生成した部分領域画像データRiからコストEを算出する。
調整部34は、演算部32が算出したコストEに基づいて第2パラメータセットPiを調整する。具体的には、調整部34は、コストEが大きくなるように第2パラメータセットPiを再設定し、当該再設定した第2パラメータセットPiにしたがった照明条件下で再度教示用サンプルWkを撮像し、画像データ81を取得する。取得した画像データ81に基づいて条件決定部36は、演算部32が算出したコストEを評価して、第2パラメータセットPiを決定し、決定した第2パラメータセットPiを照明パラメータDB136として、記憶部の一例であるハードディスク130に保存する。
第2の具体例においては、部分領域riごとに第2パラメータセットPiを設けるものを例にあげたが、1画素ごとに第2パラメータセットPiを設けるものであってもよい。また、第2パラメータセットPiは、画像データ81の位置に関連付けて規定されていればよく、たとえば、位置に関連した連続する関数であってもよい。
[利用例]
本実施の形態においては、異なる照明条件下で撮像した複数の画像データ81のうちの少なくとも一の画像データ81から部分領域画像データRiを生成するとしたが、照度差ステレオ法の計算に準じて、部分領域riに含まれるワークWの表面の法線ベクトルを求めても良い。
カメラ8の位置とワークWとの位置関係を変えることなく、互いに照明条件の異なる複数の画像データ81を得ることができるため、照度差ステレオ法に準じた演算方法で画像データ81を処理することで、ワークW表面の法線ベクトルを求めることができる。すなわち、照明条件が固定されている画像処理システム1に比べて、本実施の形態における画像処理システム1は、ワークWについての情報を多く取得することができる。
また、第1の具体例における画像計測も、第2の具体例における画像計測も、いずれにおいても、異なる照明条件下でワークWを撮像して、複数の画像データ81取得したのち、複数の画像データ81のうちの少なくとも1の画像データ81に基づいて部分領域riごとに部分領域画像データRiが生成される。そのため、撮像視野の全体(画像データ81の全体)で、適切な照明条件を設定することができる。
[変形例]
(部分領域riについて)
本実施の形態において、部分領域riについては一定間隔で画像データ81に規定されるものとした。図15は、部分領域riの規定方法の変形例を説明するための図である。例えば、1画素ずつ規定されるものであっても良い。また、図15の例のように、ワークWに基づいて部分領域riを規定してもよい。たとえば、ワークWのモデル画像(CADデータ)を用いて規定しても良い。具体的には、ワークW表面の法線ベクトルを求め、法線方向が共通する領域を一の領域として分割しても良い。図15においては、領域r1、r2、r3、r4、r5は互いに法線方向が異なる領域であって、r5〜r8は法線方向が共通する領域である。また、法線方向が共通する一の領域の面積に応じて、さらに分割しても良い。分割するにあたっては、法線方向が急激に変化する境界Qを部分領域riの境界に設定することが好ましい。また、一定以上の面積を有する領域は複数に分割することが好ましい。たとえば、図15に示す例では、r5〜r8は互いに法線方向が共通するものの、r5〜r8の合計面積が特定の面積値以上であれば、境界Uによって分割される。
また、第1の具体例においては、発光部41を一つずつ点灯させた上で、画像データ81を取得し、各画像データ81内の対応する領域ごとに濃度ベクトルを抽出した上で、抽出した濃度ベクトルの相関が高い範囲を一の部分領域riに設定しても良い。
(パラメータの設定方法)
第1パラメータセットρiまたは第2パラメータセットPiを設定するにあたって、部分領域riの数を減らした上で、フィッティングしたのち、部分領域riの数を増やして再度フィティングをしても良い。このようにすることで、フィッティングの時間を短縮することができる。
教示用サンプルWk用いる場合に、教示用サンプルWkの数は、任意の数であれば良い。教示用サンプルWkの姿勢を変化させて撮像することで、教示用サンプルWkの数を減らしても良い。また、教示用サンプルWkは、好ましくは、法線方向が異なる領域ごとに良品表面と不良品表面の組み合わせができるようなものであることが好ましい。すなわち、法線方向が共通しない表面を2つ備えるワークWに対してパラメータを設定する場合は、第1の表面は不良品表面であり、第2の表面が良品表面であるサンプルと、第2の表面は不良品表面であり、第1の表面が良品表面であるサンプルと、を用いて設定することが好ましい。
第1の具体例においては、コスト関数E(ρi)は、計測精度に関する関数g(ρi)と、連続性に関する関数f(ρi)とを含むとしたが、計測精度に関する関数g(ρi)だけからなる関数であってもよい。また、第2の具体例においても、コスト関数E(Pi)は、計測精度に関する関数g(Pi)からなるとしたが、関数g(Pi)に加えて、連続性に関する関数f(Pi)を含んでもよい。
また、第1パラメータセットρiを設定するにあたって、第1の具体例においては、部分領域画像データRi間の連続性と、計測精度とを同時に評価するものを例にあげたが、部分領域riごとに計測精度が最も高くなるように第1パラメータセットρiを設定したのち、部分領域ri内の第1パラメータセットρiを緩やかに変化させることで、隣接する部分領域画像データRiとの連続性が高くなるような補正をしてもよい。
また、第1パラメータセットρiおよび第2パラメータセットPiとは別に、各部分領域画像データRiを合成するための条件を設定してもよい。本実施の形態においては、部分領域画像データRiとの境界部分にギャップが生じてしまい、このギャップによって計測精度が下がってしまうおそれがある。このギャップを埋めるために、各部分領域画像データRiを合成するための条件を設定してもよい。
また、部分領域riごとに第1パラメータセットρiまたは第2パラメータセットPiを設定したのちに、各部分領域ri間に位置する画素ごとに、部分領域ri間のギャップが低減するように第1パラメータセットρiまたは第2パラメータセットPiを設定しなおしてもよい。
(合成方法)
本実施の形態においては、線形和で画像間演算を行い合成する例を示したが、照度差ステレオに準じて画像間演算を行ってもよい。また、画像計測を行なうにあたって、画像間演算を行ったのちに、空間フィルタリング処理を行ってもよい。
(撮像回数について)
第1の具体例においては、発光部41の数だけ撮像することとしたが、複数の発光部41から得られた画像データ81のうち、ワークWと発光部41との位置関係から部分領域画像データRiの生成に寄与しない画像データ81が存在する場合に、当該画像データ81に対応する発光部41を点灯させた時の撮像を行わなくとも良い。具体的には、発光部41(x、y)に対応する第1発光パラメータρiのすべてが0の値をとる場合は、当該発光部41(x、y)の画像データを生成しなくとも良い。
また、すべての照明パラメータから共通する要素の一例として、基底ベクトルを求め、基底ベクトルの線形和で照明パラメータを近似しても良い。これにより、基底ベクトルの数だけ撮像すれば良いため、撮像回数を減らすことができる。具体的には、部分領域riを3つ規定しており、発光部41が4つある場合に、照明パラメータとして(1、2、-1、0)、(2、4、1、3)、(1、2、1、2)と設定されている場合、基底ベクトルは(1、2、0、1)と(0、0、1、1)となる。基底ベクトルに対応するパラメータで撮像し、すなわち2回撮像し、得られた画像データに所定の係数をかけて加算または減算することで、(1、2、-1、0)条件で撮像した画像データ、(2、4、1、3)条件で撮像した画像データ、(1、2、1、2)条件で撮像した画像データを近似的に求める。
[付記]
以上のように、本実施の形態は以下のような開示を含む。
(構成1)
画像計測を行なう画像処理システム(1)であって、
対象物を撮像して画像データを生成する撮像部(8)と、
前記対象物に照明光を照射するための発光部(41)が複数配置された照明部(4)と、
前記複数の発光部の発光状態を複数に異ならせた各々において前記撮像部が前記対象物を撮像することで生成される複数の画像データ(81)を取得するとともに、取得した当該複数の画像データと、前記画像データ内の位置に関連付けて規定される生成条件(P)とに基づいて、前記画像計測に利用する画像データ(R)を生成する生成部(10)とを備える、画像処理システム。
(構成2)
前記生成条件(P)は、前記画像データ内の隣接する複数画素からなる部分領域(ri)ごとに規定され、
前記生成部(10)は、前記画像計測に利用する画像データ(R)として、前記部分領域ごとに当該部分領域に対応する部分領域画像データ(Ri)を生成する、構成1に記載の画像処理システム。
(構成3)
前記生成部(10)は、前記画像計測に利用する画像データ(R)を、前記部分領域(ri)ごとに生成した複数の前記部分領域画像データ(Ri)を1の画像データに合成することで生成する、構成2に記載の画像処理システム。
(構成4)
前記生成部(10)は、
複数の前記発光部(41)のうちの1の発光部を順次発光させるように前記照明部を制御する(122)とともに、前記発光部の順次発光に対応して前記対象物を撮像するように前記撮像部を制御する(124)制御部(12)と、
前記撮像部により生成される複数の画像データ(81)から生成対象の前記部分領域(ri)に対応する部分画像データ(82i)をそれぞれ抽出する(142)とともに、各発光部からの影響を前記部分領域ごとに規定した第1のパラメータセット(ρi)にしたがって、抽出した複数の前記部分画像データ(82i)を合成することで前記部分領域画像データ(Ri)を生成する(144)合成処理部(14)とを含む、構成2または構成3に記載の画像処理システム。
(構成5)
前記生成部(10)は、
前記画像データ(81)から前記対象物の配置状況を特定する位置特定部(162)と、
前記位置特定部が特定した前記対象物の配置状況と、前記第1のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量(w、T)を求めるとともに、当該移動量に基づいて前記第1のパラメータセットを補正するパラメータ補正部(164)とをさらに含む、構成4に記載の画像処理システム。
(構成6)
前記生成部(10)は、
前記複数の発光状態を規定する第2のパラメータセット(Pi)にしたがって前記照明部(4)を制御するとともに、それぞれの発光状態において前記対象物(W)を撮像するように前記撮像部(8)を制御する制御部(12)と、
前記撮像部(8)により生成される複数の画像データ(81)のうちの少なくとも1の画像データ(81i)から、生成対象の前記部分領域に対応する部分画像データ(82i)を抽出するとともに、抽出した前記部分画像データ(82i)に基づいて前記部分領域画像データ(Ri)を生成する生成処理部(18)とを含む、構成2または構成3に記載の画像処理システム。
(構成7)
前記生成部(10)は、
前記画像データ(81)から前記対象物の配置状況を特定する位置特定部(162)と、
前記位置特定部が特定した前記対象物の配置状況と、前記第2のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量(w、T)を求めるとともに、当該移動量に基づいて前記第2のパラメータセットを補正するパラメータ補正部(164)とをさらに含む、構成6に記載の画像処理システム。
(構成8)
前記第1のパラメータセット(ρi)に含まれるパラメータは、負の値を含む、構成4または構成5に記載の画像処理システム。
(構成9)
前記部分領域(ri)は、前記対象物の形状に基づいて規定される(Q,U)、構成2〜構成8のうちいずれかに記載の画像処理システム。
(構成10)
複数の前記発光部(41)は、所定の位置を基準に規則的に前記照明部(41)に設けられている、構成1〜構成9のうちいずれかに記載の画像処理システム。
(構成11)
対象物を撮像して画像データ(81)を出力する撮像装置(8)と、当該対象物に照明光を照射するための発光部(41)が複数配置された照明装置(4)とを制御するコンピュータ(100)で実行される画像計測を行なうための画像処理プログラム(132)であって、
コンピュータに、
前記複数の発光部の発光状態を複数に異ならせた各々において前記撮像装置が前記対象物を撮像することで生成される複数の画像データを取得する機能(12)と、
取得した前記複数の画像データ(81)と、前記画像データ内の位置に関連付けて規定される生成条件(P)とに基づいて、前記画像計測に利用する画像データ(R)を生成する機能(10)とを実行させるための画像処理プログラム。
(構成12)
画像計測を行なう画像処理方法であって、
複数の発光部(41)の発光状態を複数に異ならせ、
前記複数の異なる発光状態の各々で対象物を撮像して複数の画像データ(81)を取得し(12)、
取得した前記複数の画像データ(81)と、前記画像データ内の位置に関連付けて規定される生成条件(P)とに基づいて、前記画像計測に利用する画像データ(R)を生成する、画像処理方法。
今回開示された各実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。また、実施の形態および各変形例において説明された発明は、可能な限り、単独でも、組み合わせても、実施することが意図される。
1 画像処理システム、4 照明装置、6 外部メモリ、8 カメラ、10 生成部、12 制御部、14 合成処理部、16 補正部、20 画像計測部、41 発光部、48 開口部、81 画像データ、82 部分画像データ、100 画像処理装置、110 CPU、120 メインメモリ、122 照明制御部、124 撮像制御部、130 ハードディスク、132 画像処理プログラム、134 設定プログラム、136 照明パラメータDB、138 設定用パラメータDB、142 抽出部、144 生成部、162 位置特定部、164 パラメータ補正部、190 バス、140 照明I/F、160 外部メモリI/F、180 カメラI/F、Ri 部分領域画像データ、W ワーク、ri 部分領域。

Claims (12)

  1. 画像計測を行なう画像処理システムであって、
    対象物を撮像して画像データを生成する撮像部と、
    前記対象物に照明光を照射するための発光部が複数配置された照明部と、
    前記複数の発光部の発光状態を複数に異ならせた各々において前記撮像部が前記対象物を撮像することで生成される複数の画像データを取得するとともに、取得した当該複数の画像データと、前記画像データ内の位置に関連付けて規定される生成条件とに基づいて、前記画像計測に利用する画像データを生成する生成部とを備える、画像処理システム。
  2. 前記生成条件は、前記画像データ内の隣接する複数画素からなる部分領域ごとに規定され、
    前記生成部は、前記画像計測に利用する画像データとして、前記部分領域ごとに当該部分領域に対応する部分領域画像データを生成する、請求項1に記載の画像処理システム。
  3. 前記生成部は、前記画像計測に利用する画像データを、前記部分領域ごとに生成した複数の前記部分領域画像データを1の画像データに合成することで生成する、請求項2に記載の画像処理システム。
  4. 前記生成部は、
    複数の前記発光部のうちの1の発光部を順次発光させるように前記照明部を制御するとともに、前記発光部の順次発光に対応して前記対象物を撮像するように前記撮像部を制御する制御部と、
    前記撮像部により生成される複数の画像データから生成対象の前記部分領域に対応する部分画像データをそれぞれ抽出するとともに、各発光部からの影響を前記部分領域ごとに規定した第1のパラメータセットにしたがって、抽出した複数の前記部分画像データを合成することで前記部分領域画像データを生成する合成処理部とを含む、請求項2または請求項3に記載の画像処理システム。
  5. 前記生成部は、
    前記画像データから前記対象物の配置状況を特定する位置特定部と、
    前記位置特定部が特定した前記対象物の配置状況と、前記第1のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量を求めるとともに、当該移動量に基づいて前記第1のパラメータセットを補正するパラメータ補正部とをさらに含む、請求項4に記載の画像処理システム。
  6. 前記生成部は、
    前記複数の発光状態を規定する第2のパラメータセットにしたがって前記照明部を制御するとともに、それぞれの発光状態において前記対象物を撮像するように前記撮像部を制御する制御部と、
    前記撮像部により生成される複数の画像データのうちの少なくとも1の画像データから、生成対象の前記部分領域に対応する部分画像データを抽出するとともに、抽出した前記部分画像データに基づいて前記部分領域画像データを生成する生成処理部とを含む、請求項2または請求項3に記載の画像処理システム。
  7. 前記生成部は、
    前記画像データから前記対象物の配置状況を特定する位置特定部と、
    前記位置特定部が特定した前記対象物の配置状況と、前記第2のパラメータセットの取得時における基準対象物の配置状況とを比較して、当該対象物の移動量を求めるとともに、当該移動量に基づいて前記第2のパラメータセットを補正するパラメータ補正部とをさらに含む、請求項6に記載の画像処理システム。
  8. 前記第1のパラメータセットに含まれるパラメータは、負の値を含む、請求項4または請求項5に記載の画像処理システム。
  9. 前記部分領域は、前記対象物の形状に基づいて規定される、請求項2〜請求項8のうちいずれかに記載の画像処理システム。
  10. 複数の前記発光部は、所定の位置を基準に規則的に前記照明部に設けられている、請求項1〜請求項9のうちいずれかに記載の画像処理システム。
  11. 対象物を撮像して画像データを出力する撮像装置と、当該対象物に照明光を照射するための発光部が複数配置された照明装置とを制御するコンピュータで実行される画像計測を行なうための画像処理プログラムであって、
    コンピュータに、
    前記複数の発光部の発光状態を複数に異ならせた各々において前記撮像装置が前記対象物を撮像することで生成される複数の画像データを取得する機能と、
    取得した前記複数の画像データと、前記画像データ内の位置に関連付けて規定される生成条件とに基づいて、前記画像計測に利用する画像データを生成する機能とを実行させるための画像処理プログラム。
  12. 画像計測を行なう画像処理方法であって、
    複数の発光部の発光状態を複数に異ならせ、
    前記複数の異なる発光状態の各々で対象物を撮像して複数の画像データを取得し、
    取得した前記複数の画像データと、前記画像データ内の位置に関連付けて規定される生成条件とに基づいて、前記画像計測に利用する画像データを生成する、画像処理方法。
JP2017240594A 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法 Active JP6939501B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2017240594A JP6939501B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法
EP18199579.6A EP3499408B1 (en) 2017-12-15 2018-10-10 Image processing system and image processing program
CN201811185741.6A CN109931881B (zh) 2017-12-15 2018-10-11 图像处理系统、计算机可读记录介质及图像处理方法
US16/162,408 US10859506B2 (en) 2017-12-15 2018-10-17 Image processing system for processing image data generated in different light emission states, non-transitory computer readable recording medium, and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017240594A JP6939501B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法

Publications (2)

Publication Number Publication Date
JP2019109070A true JP2019109070A (ja) 2019-07-04
JP6939501B2 JP6939501B2 (ja) 2021-09-22

Family

ID=63832318

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017240594A Active JP6939501B2 (ja) 2017-12-15 2017-12-15 画像処理システム、画像処理プログラム、および画像処理方法

Country Status (4)

Country Link
US (1) US10859506B2 (ja)
EP (1) EP3499408B1 (ja)
JP (1) JP6939501B2 (ja)
CN (1) CN109931881B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7073785B2 (ja) * 2018-03-05 2022-05-24 オムロン株式会社 画像検査装置、画像検査方法及び画像検査プログラム

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040184032A1 (en) * 2003-03-20 2004-09-23 James Mahon Optical inspection system and method for displaying imaged objects in greater than two dimensions
US20080137101A1 (en) * 2004-11-03 2008-06-12 Heriot-Watt University Apparatus and Method for Obtaining Surface Texture Information
JP2014206388A (ja) * 2013-04-10 2014-10-30 オリンパス株式会社 撮像装置、画像処理装置及び画像処理方法
JP2015232482A (ja) * 2014-06-09 2015-12-24 株式会社キーエンス 検査装置、検査方法およびプログラム
JP2015232484A (ja) * 2014-06-09 2015-12-24 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
US20170191946A1 (en) * 2014-06-05 2017-07-06 University Of The West Of England, Bristol Apparatus for and method of inspecting surface topography of a moving object
JP2017156212A (ja) * 2016-03-02 2017-09-07 キヤノン株式会社 検査装置、検査方法及び物品の製造方法

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3807721B2 (ja) * 2000-02-21 2006-08-09 シャープ株式会社 画像合成装置
JP2008116274A (ja) * 2006-11-02 2008-05-22 Juki Corp 電子部品の三次元測定装置
US7769205B2 (en) * 2006-11-28 2010-08-03 Prefixa International Inc. Fast three dimensional recovery method and apparatus
KR100827119B1 (ko) * 2006-12-13 2008-05-06 삼성전자주식회사 입체 영상 서비스 시스템 및 방법과 입체 영상 생성 장치 및 입체 영상 출력장치
US8005263B2 (en) * 2007-10-26 2011-08-23 Honda Motor Co., Ltd. Hand sign recognition using label assignment
DE102008042145A1 (de) * 2008-09-17 2010-03-18 Robert Bosch Gmbh Verfahren und Messanordnung zum Bestimmen der Rad-oder Achsgeometrie eines Fahrzeugs
JP5370056B2 (ja) * 2008-11-04 2013-12-18 オムロン株式会社 画像処理装置
US9674458B2 (en) * 2009-06-03 2017-06-06 Flir Systems, Inc. Smart surveillance camera systems and methods
DE102010064640B3 (de) * 2009-05-13 2018-05-09 Koh Young Technology Inc. Verfahren zur Messung eines Messungsziels
US8611005B2 (en) * 2010-01-19 2013-12-17 Disney Enterprises, Inc. Compensation for self-scattering on concave screens
JP2012037484A (ja) * 2010-08-11 2012-02-23 Sumitomo Chemical Co Ltd 形状評価方法
KR20120067888A (ko) * 2010-12-16 2012-06-26 한국전자통신연구원 스테레오 영상 처리 장치 및 그 방법
WO2012124055A1 (ja) * 2011-03-15 2012-09-20 富士通フロンテック株式会社 撮像装置、撮像方法及び撮像プログラム
US20130202190A1 (en) * 2012-02-02 2013-08-08 Sheng-Chun Niu Image processing apparatus and image processing method
US20150085080A1 (en) * 2012-04-18 2015-03-26 3Shape A/S 3d scanner using merged partial images
US9571818B2 (en) * 2012-06-07 2017-02-14 Nvidia Corporation Techniques for generating robust stereo images from a pair of corresponding stereo images captured with and without the use of a flash device
US20140192158A1 (en) * 2013-01-04 2014-07-10 Microsoft Corporation Stereo Image Matching
JP5855035B2 (ja) * 2013-02-28 2016-02-09 株式会社東芝 固体撮像装置
US8995749B2 (en) * 2013-03-28 2015-03-31 Mitutoyo Corporation Enhanced edge detection tool for edges of irregular surfaces
US20140307055A1 (en) * 2013-04-15 2014-10-16 Microsoft Corporation Intensity-modulated light pattern for active stereo
WO2014171438A1 (ja) * 2013-04-19 2014-10-23 凸版印刷株式会社 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
CN104279978B (zh) * 2013-07-12 2018-01-19 上海微电子装备(集团)股份有限公司 三维图形检测装置及测量方法
JP6395456B2 (ja) 2014-06-09 2018-09-26 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6290720B2 (ja) * 2014-06-09 2018-03-07 株式会社キーエンス 検査装置、検査方法およびプログラム
US10346963B2 (en) * 2014-09-11 2019-07-09 Cyberoptics Corporation Point cloud merging from multiple cameras and sources in three-dimensional profilometry
CN204404998U (zh) * 2015-01-06 2015-06-17 济南时代百超科技有限公司 一种自动检测装置
JP6425586B2 (ja) * 2015-03-04 2018-11-21 株式会社キーエンス 光学式変位計測システム、撮像条件最適化方法および撮像条件最適化プログラム
CN106821405B (zh) * 2017-01-23 2019-12-06 深圳先进技术研究院 一种x光机的参数标定方法、装置及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040184032A1 (en) * 2003-03-20 2004-09-23 James Mahon Optical inspection system and method for displaying imaged objects in greater than two dimensions
US20080137101A1 (en) * 2004-11-03 2008-06-12 Heriot-Watt University Apparatus and Method for Obtaining Surface Texture Information
JP2014206388A (ja) * 2013-04-10 2014-10-30 オリンパス株式会社 撮像装置、画像処理装置及び画像処理方法
US20170191946A1 (en) * 2014-06-05 2017-07-06 University Of The West Of England, Bristol Apparatus for and method of inspecting surface topography of a moving object
JP2015232482A (ja) * 2014-06-09 2015-12-24 株式会社キーエンス 検査装置、検査方法およびプログラム
JP2015232484A (ja) * 2014-06-09 2015-12-24 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP2017156212A (ja) * 2016-03-02 2017-09-07 キヤノン株式会社 検査装置、検査方法及び物品の製造方法

Also Published As

Publication number Publication date
US20190187064A1 (en) 2019-06-20
CN109931881B (zh) 2021-05-07
JP6939501B2 (ja) 2021-09-22
US10859506B2 (en) 2020-12-08
EP3499408B1 (en) 2022-02-16
EP3499408A1 (en) 2019-06-19
CN109931881A (zh) 2019-06-25

Similar Documents

Publication Publication Date Title
JP6576059B2 (ja) 情報処理、情報処理方法、プログラム
US20070176927A1 (en) Image Processing method and image processor
JP6519265B2 (ja) 画像処理方法
JP4872035B2 (ja) 撮像装置、撮像画像距離測定方法、撮像画像距離測定プログラム、及び記録媒体
JP2010122158A (ja) 物体表面法線ベクトルマップ作成方法
RU2013101791A (ru) Получение пространственных топографических изображений следов от инструмента с использованием нелинейного фотометрического стереоспособа
JP5342413B2 (ja) 画像処理方法
JP2019100917A (ja) 検査プログラム生成システム、検査プログラムの生成方法、及び検査プログラムの生成用プログラム
KR20120014886A (ko) 검사 레시피 생성 및 검사 레시피를 기반으로 한 검사
CN109945794B (zh) 图像处理系统、计算机可读记录介质及图像处理方法
JP2015068668A (ja) 外観検査装置
US20210148694A1 (en) System and method for 3d profile determination using model-based peak selection
JP6601264B2 (ja) 照明条件設定装置、照明条件設定方法及び照明条件設定用コンピュータプログラム
JP6771905B2 (ja) 検査装置、検査方法及び物品の製造方法
JP2015059849A (ja) 色と三次元形状の計測方法及び装置
JP6939501B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
US10909702B2 (en) Inspection device
JP7118776B2 (ja) 撮像装置、画像処理方法、画像処理プログラムおよび記録媒体
Sayanca et al. Indirect light intensity distribution measurement using image merging
JP2020129187A (ja) 外形認識装置、外形認識システム及び外形認識方法
US20230107571A1 (en) Machine Vision-Based Method and System for Locating Objects within a Scene Containing the Objects
KR20110088943A (ko) 3차원 형상 검사방법
JP7151873B2 (ja) 検査装置
JP2011041036A (ja) 画像処理装置、画像処理方法、及び電子機器
KR20210021171A (ko) 제품 검사 장치 및 방법과, 이를 이용한 반도체 제조 시스템 및 제조 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201217

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210126

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210326

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210803

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210816

R150 Certificate of patent or registration of utility model

Ref document number: 6939501

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150