JP2019120643A - 画像処理システム - Google Patents

画像処理システム Download PDF

Info

Publication number
JP2019120643A
JP2019120643A JP2018002091A JP2018002091A JP2019120643A JP 2019120643 A JP2019120643 A JP 2019120643A JP 2018002091 A JP2018002091 A JP 2018002091A JP 2018002091 A JP2018002091 A JP 2018002091A JP 2019120643 A JP2019120643 A JP 2019120643A
Authority
JP
Japan
Prior art keywords
image data
light
irradiation pattern
image
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018002091A
Other languages
English (en)
Other versions
JP6904263B2 (ja
Inventor
加藤 豊
Yutaka Kato
豊 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2018002091A priority Critical patent/JP6904263B2/ja
Priority to CN201811194959.8A priority patent/CN110033429B/zh
Priority to EP18200831.8A priority patent/EP3511772B1/en
Priority to US16/162,410 priority patent/US10839538B2/en
Publication of JP2019120643A publication Critical patent/JP2019120643A/ja
Application granted granted Critical
Publication of JP6904263B2 publication Critical patent/JP6904263B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/95Investigating the presence of flaws or contamination characterised by the material or shape of the object to be examined
    • G01N21/956Inspecting patterns on the surface of objects
    • G01N21/95684Patterns showing highly reflecting parts, e.g. metallic elements
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B15/00Special procedures for taking photographs; Apparatus therefor
    • G03B15/02Illuminating scene
    • G03B15/03Combinations of cameras with lighting apparatus; Flash units
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B17/00Details of cameras or camera bodies; Accessories therefor
    • G03B17/48Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus
    • G03B17/54Details of cameras or camera bodies; Accessories therefor adapted for combination with other photographic or optical apparatus with projector
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/586Depth or shape recovery from multiple images from multiple light sources, e.g. photometric stereo
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G03PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
    • G03BAPPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
    • G03B2215/00Special procedures for taking photographs; Apparatus therefor
    • G03B2215/05Combinations of cameras with electronic flash units
    • G03B2215/0564Combinations of cameras with electronic flash units characterised by the type of light source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Immunology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • Pathology (AREA)
  • Geometry (AREA)
  • Quality & Reliability (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Analysis (AREA)
  • Image Input (AREA)

Abstract

【課題】適用可能な設備の選定に制約を受けることを極力回避する画像処理システムを提供することを目的とする。【解決手段】ワークを撮像するカメラと、カメラとワークとの間に設けられた透光性を有する照明装置と、カメラおよび照明装置を制御する制御装置とを備える画像処理システムである。照明装置は、制御装置からの指示に従って照射パターンを変更することができる。制御装置は、各照射パターンの下で撮像されるようにカメラを制御する。【選択図】図1

Description

本発明は、画像処理システムに関する。
FA(Factory Automation)分野などにおいては、対象物(以下、「ワーク」とも称す。)を照明装置からの光による照明下で撮像し、生成された画像データからワークに関する情報を取得する画像処理技術が利用されている。
たとえば、特開2007−206797号公報(特許文献1)は、対象物に対する光軸が斜め下方に向くように複数の光源を取り付け、各光源で対象物を照明する度に、対象物の真上に配置されたカメラによって対象物を撮影し、得られた複数枚の撮影画像を用いて対象物の外観を検査する画像処理装置を開示する。
特開2007−206797号公報
上述した従来の装置では、カメラを対象物の真上に配置する一方で、カメラの周辺において、対象物に対する光軸の角度を異ならせるように複数の光源を互いに異なる位置に配置する必要があり、装置全体として大型にならざるを得ない。このため、装置を適用可能な設備の選定に制約を受ける虞があった。
本発明は、適用可能な設備の選定に制約を受けることを極力回避する画像処理システムを提供することを目的とする。
本開示の一例によれば、対象物を撮像して得られる画像データを用いて当該対象物を画像計測する画像処理システムが提供される。画像処理システムは、対象物を撮像する撮像部と、撮像部から対象物までの間に配置されるとともに、撮像部から対象物に向かう光軸とは異なる向きに広がりをもつ発光面を有する、透光性の発光部と、撮像部および発光部を制御する制御部とを含む。制御部は、発光部から対象物に対して第1の照射パターンの光を照射させるとともに、撮像部に対象物を撮像させて第1の画像データを取得し、発光部から対象物に対して第1の照射パターンとは異なる第2の照射パターンの光を照射させるとともに、撮像部に対象物を撮像させて第2の画像データを取得する。
この開示によれば、撮像部から対象物までの間に発光部が配置されていることにより、撮像部から対象物までの間に発光部が配置されていない場合に比べて、全体的にコンパクトな画像処理システムを提供することができる。その結果、適用可能な設備の選定に制約を受けることを極力回避することができる。
上述の開示において、制御部は、第1の画像データおよび第2の画像データを少なくとも含む複数の画像データを用いて、対象物についての画像計測処理を実行してもよい。第1の画像データは、撮像部の撮像視野内の第1の注目位置に対応付けられていてもよい。第2の画像データは、撮像視野内の第2の注目位置に対応付けられていてもよい。第1の照射パターンは、第1の注目位置に応じて決定されてもよい。第2の照射パターンは、第2の注目位置に応じて決定されてもよい。
この開示によれば、撮像視野内の注目位置ごとに照射パターンが決定されるため、注目位置に応じた照明環境を提供することができる。その結果、画像計測の精度を高めることができる。
上述の開示において、発光部から第1の注目位置へ照射される光の入射方向が、発光部から第2の注目位置へ照射される光の入射方向と実質的に同一となるように、第1の照射パターンおよび第2の照射パターンが決定されてもよい。
この開示によれば、撮像視野内の各注目位置に入射される光の入射方向が、注目位置ごとに実質的に同一となるため、各注目位置における照明環境を実質的に同じにすることができる。
上述の開示において、制御部は、発光部から対象物に対して照射する光の照射パターンを順次変更するとともに、当該照射パターンの順次変更に対応して、撮像部に対象物を順次撮像させてもよい。
この開示によれば、異なる照射パターンの下で撮像された画像データを順次取得することができ、順次取得された複数の画像データに基づいて画像計測を実行することができる。
上述の開示において、撮像部は、撮像視野内に含まれる光を画像信号に変換する複数の受光素子のうち一部の受光素子から当該画像信号を読み出す読出回路を含んでもよい。制御部は、発光部から第1の照射パターンの光を照射させた状態で撮像部に含まれる複数の受光素子のうち第1の注目位置に対応する第1の受光素子を少なくとも露光させ、続いて、複数の受光素子のうち少なくとも第1の受光素子から画像信号を読み出してもよい。また、制御部は、発光部から第2の照射パターンの光を照射させた状態で複数の受光素子のうち第2の注目位置に対応する第2の受光素子を少なくとも露光させ、続いて、複数の受光素子のうち少なくとも第2の受光素子から画像信号を読み出してもよい。
この開示によれば、照射された注目位置に対応する受光素子から画像信号を読み出すことができるため、全ての受光素子から画像信号を読み出す場合に比べて、画像信号の読み出しに要する時間を短縮することができる。
上述の開示において、第1の受光素子の信号を読み出す処理の少なくとも一部と、発光部から第2の照射パターンの光を照射させた状態で第2の受光素子を露光させる処理の少なくとも一部とは、同時に実行されてもよい。
この開示によれば、信号を読み出す処理の一部と、受光素子を露光させる処理の一部とを同時に実行することができるため、画像処理に利用する画像データを得るために必要な時間を短縮することができる。
上述の開示において、第1の画像データは、第1の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含んでもよい。第2の画像データは、第2の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含んでもよい。
この開示によれば、撮像視野全体の画像を取得するために必要な撮像回数を減らすことができる。
上述の開示において、第1の画像データに含まれる複数の画素と、第2の画像データに含まれる複数の画素とのうち、少なくとも一部の画素が共通していてもよい。制御部は、第1の画像データと第2の画像データとに基づいて、共通する画素に対応する撮像部の位置における画像計測結果を出力してもよい。
この開示によれば、制御部は、第1の画像データと第2の画像データとに基づいて、共通する画素に対応する撮像部の位置における画像計測結果を出力するため、第1の注目位置と第2の注目位置との間に位置する領域に対する画像計測の精度を上げることができる。
上述の開示において、各注目位置に対応する照射パターンを照射する場合、制御部は、発光部の発光面の当該注目位置に対応する基準位置からの距離に応じて、照射する光の色を異ならせてもよい。
この開示によれば、注目位置を含む対象物の表面の三次元形状を、照射した光の波長に応じた色相情報として検出することができる。
上述の開示において、照射パターンを含む照明条件は、対象物の種別に応じて決定されてもよい。画像処理システムは、対象物の種別ごとに設定された照明条件を複数記憶する記憶部と、対象物の種別に関する情報の入力に応じて、当該対象物の種別に対応する照明条件を設定する設定部とをさらに含んでもよい。
この開示によれば、対象物の種別に関わらず用いることが可能な汎用性の高い画像処理システムを提供できる。
適用可能な設備の選定に制約を受けることを極力回避することができる画像処理システムを提供することができる。
本実施の形態に係る画像処理システムの適用場面を模式的に示す図である。 本実施の形態に係る画像処理システムが適用される生産ラインの一例を示す模式図である。 制御装置のハードウェア構成について示す模式図である。 本実施の形態に係る照明装置の一部拡大した模式図である。 照明装置によって形成される照射パターンの一例を説明するための図である。 検査画像データの生成方法の一例を説明するための図である。 CMOSイメージセンサを示す模式図である。 フォトダイオードから画像信号を読み出すタイミングを示すタイミングチャートである。 注目位置ごとの照射パターンの決定方法を説明するための模式図である。 制御装置の機能構成の一例を示す図である。 キャリブレーション結果の一例を説明するための図である。 照射パターンの補正について説明するための図である。 照射パターンの他の補正方法について説明するための図である。 基準照射パターンの第1変形例を示す図である。 第1変形例の基準照射パターンを補正した照射パターンを示す図である。 基準照射パターンの第2変形例を示す図である。 変形例における画像処理システムの一例を示す模式図である。
§1 適用例
まず、図1を参照して、本発明が適用される場面の一例について説明する。図1は、本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。
画像処理システム1は、対象物であるワークWを撮像して得られる画像データを用いてワークWを画像計測する。画像処理システム1は、撮像部の一例であるカメラ8と、発光部の一例である照明装置4と、カメラ8と照明装置4とを制御する制御部の一例である制御装置100とを備える。
照明装置4は、カメラ8とワークWとの間に配置されており、カメラ8からワークWに向かう光軸lとは異なる向きに広がりをもつ発光面40を有する。発光面40からワークWに対して光が照射される。また、照明装置4は透光性を有している。照明装置4は、カメラ8が照明装置4を通してワークWを撮像することが出来る程度の透光性を有していればよい。照明装置4は、たとえば、有機エレクトロルミネッセンス(以下、有機ELと呼ぶ。)照明、LED照明など、既知の照明を用いることができる。
照射パターンとは、照明装置4からワークWに照射される光の濃淡パターンであって、本実施の形態においては、発光面40の発光強度の分布のパターンをいう。なお、「発光強度」は、光を発する程度や光の強さを一例とし、たとえば、輝度(cd/m)、光度(cd)などが挙げられる。
照明装置4は、制御装置100からの指示に従って照射パターンを変更することができる。制御装置100は、各照射パターンの下で撮像されるようにカメラ8を制御する。すなわち、制御装置100は、照明装置4からワークWに対して第1照射パターンの光を照射させるとともに、第1照射パターンが照射された状態でカメラ8にワークWを撮像させて第1画像データを取得する。また、制御装置100は、照明装置4からワークWに対して第2照射パターンの光を照射させるとともに、第2照射パターンが照射された状態でカメラ8にワークWを撮像させて第2画像データを取得する。
このように、照明装置4が透光性を有していることにより、カメラ8とワークWと照明装置4とを同軸上に配置することができ、カメラ8と照明装置4との配置場所を自由に設定することができる。特に、同軸上に配置することができないような画像処理システムに比べて、本実施の形態にかかる画像処理システム1は、各装置を比較的自由には配置することができる。これにより、画像処理システム全体をコンパクトにすることができる。また、カメラ8を照明装置4の場所に関係なく配置することができるため、配置の自由度という面で汎用性の高い画像処理システムを提供することができる。その結果、適用可能な設備の選定に制約を受けることを極力回避することができる。
また、制御装置100は、照明装置4から照射される光の照射パターンを制御するとともに、各照射パターンの下で撮像して画像データを取得することができる。そのため、ワークWの局所表面の形状に応じて照射パターンを変えることができる。たとえば、ワークWを構成する面のうち、発光面40に対して平行な面と、発光面40に対して平行ではない面とで、共通する照射パターンで光を照射した場合、平行な面に入射する光と、平行ではない面に入射する光とでは、その入射角が互いに異なり、各面で照明条件が変わってしまう。本実施の形態においては、照射パターンを変えることができるため、ワークWを構成する表面の局所表面ごとに同じ照明条件にすることができる。その結果、計測精度を向上させることができる。
さらに、制御装置100は、照明装置4から照射される光の照射パターンを制御するとともに、各照射パターンの下で撮像して画像データを取得することができるため、どのようなワークに対しても使用することのできる汎用性の高い画像処理システムを提供することができる。たとえば、照射パターンを変えることができないような照明装置においては、生産ラインに載せるワークの種類が変わる度に照明の位置を調整して、照射する光のパターンを変える必要がある。一方、本実施の形態に係る画像処理システムは、制御装置によって照射パターンを変えることができる。また、各照射パターンの下で撮像して画像データを取得できるため、ワークの種類が変わった場合には、照射パターンを変えるだけでよく、照明装置4の位置などを調整する必要がない。
§2 具体例
<A.画像処理システムが適用される生産ラインの一例>
次に、本実施の形態に係る画像処理システムの一例について説明する。まず、図2を参照しながら、画像処理システムの一例である画像処理システム1を適用して生産ラインによって搬送されるワークWの外観検査を行う方法の一例を説明する。図2は、本実施の形態に係る画像処理システム1が適用される生産ラインの一例を示す模式図である。
図2に示すように、本実施の形態に係る画像処理システム1は、連続的に搬入されるワークWを撮影するカメラ8と、ワークWを照明する照明装置4と、照明装置4およびカメラ8を制御する制御装置100とを備える。カメラ8は、主たる構成要素として、レンズや絞りなどの光学系と、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサ82(図8参照)などの光電変換器を含む。光電変換器は、カメラ8の撮像視野81に含まれる光を画像信号に変換する装置である。
照明装置4は、ステージ300に配置されたワークWに対して照明光を照射する。照明装置4は、カメラ8からワークWに向かう光軸lとは異なる向きに、光の広がりをもつ発光面40を有する。発光面40から照射される照明光は、制御装置100から指示された照射パターンにしたがって任意に変更可能になっている。照明装置4は透光性を有しており、典型的には、透明な有機EL照明である。照明装置4が配置されている位置を基準にカメラ8が配置されている方を上とし、ワークWが配置されている方を下とすると、照明装置4は、カメラ8が照明装置4を介して照明装置4よりも下に位置するものを撮像することができる程度に透光性を有していればよい。
検査対象となるワークWは、移動可能なステージ300によって、カメラ8および照明装置4が固定された検査位置まで移動する。ステージ300は、PLC200(Programmable Logic Controller)に制御される。PLC200は、ワークWを検査位置まで搬送すると、画像処理システム1による外観検査が終了するまでその場で停止するようにステージ300を制御する。このとき、制御装置100は、照明装置4によってワークWに光を照射しながら、カメラ8でワークWを撮影する。制御装置100は、照明装置4から照射される光の照射パターンを変化させるように照明装置4を制御し、光の照射パターンを変化させる度にカメラ8でワークWを撮影するようにカメラ8を制御する。制御装置100は、このようにして得られた複数枚の撮影画像を用いることで、ワークWの外観を検査する。また、制御装置100は、外観検査が終了すると、PLC200に検査結果を出力する。PLC200は、制御装置100からの検査結果の出力に基づいて、次のワークWを検査位置まで搬送させる。
<B.制御装置のハードウェア構成の一例>
図3は、制御装置100のハードウェア構成について示す模式図である。制御装置100は、CPU(Central Processing Unit)110、メインメモリ120、ハードディスク130、カメラインターフェイス(I/F)180、照明I/F140、通信I/F150および外部メモリI/F160を含む。これらの各部は、バス190を介して、互いにデータ通信可能に接続される。
CPU110は、ハードディスク130にインストールされた画像処理プログラム132を含むプログラム(コード)をメインメモリ120に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ120は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置である。
ハードディスク130は、制御装置100が備える内部メモリであって、不揮発性の記憶装置であって、画像処理プログラム132を含む。なお、ハードディスク130に加えて、あるいは、ハードディスク130に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
カメラI/F180は、CPU110とカメラ8との間のデータ伝送を仲介する。すなわち、カメラI/F180は、画像データを生成するカメラ8と接続される。また、カメラI/F180は、CPU110からの内部コマンドに従って、接続されているカメラ8における撮像動作を制御するコマンドを与える。
照明I/F140は、CPU110と照明装置4との間のデータ伝送を仲介する。すなわち、照明I/F140は、照明装置4と接続される。また、照明I/F140は、CPU110からの内部コマンドに従って、接続されている照明装置4に対して、照射パターンについての指令を送信する。照明装置4は、受信した指令に基づく照射パターンの光を照射する。なお、照明装置4は、カメラ8を介して制御装置100と接続されてもよい。また、カメラ8は、照明装置4を介して制御装置100と接続されてもよい。
通信I/F150は、PLC200とCPU110との間で各種データを遣り取りする。なお、通信I/F150は、サーバとCPU110との間でデータを遣り取りしてもよい。通信I/F150は、PLC200との間で各種データをやり取りするためのネットワークに対応するハードウェアを含む。
外部メモリI/F160は、外部メモリ6と接続され、外部メモリ6に対するデータの読み込み/書き込みの処理をする。外部メモリ6は、制御装置100に着脱可能であって、典型的には、USB(Universal Serial Bus)メモリ、メモリカードなどの不揮発性の記憶装置である。また、画像処理プログラム132等の各種プログラムは、ハードディスク130に保存されている必要はなく、制御装置100と通信可能なサーバや、制御装置100と直接接続可能な外部メモリ6に保存されていてもよい。たとえば、外部メモリ6に制御装置100で実行される各種プログラムおよび各種プログラムで用いられる各種パラメータが格納された状態で流通し、外部メモリI/F160は、この外部メモリ6から各種プログラムおよび各種パラメータを読み出す。あるいは、制御装置100と通信可能に接続されたサーバなどからダウンロードしたプログラムやパラメータを制御装置100にインストールしてもよい。
なお、本実施の形態に係る画像処理プログラム132は、他のプログラムの一部に組み込まれて提供されるものであってもよい。また、代替的に、画像処理プログラム132の実行により提供される機能の一部もしくは全部を専用のハードウェア回路として実装してもよい。
<C.照明装置4の構造>
図4は、本実施の形態に係る照明装置4の一部拡大した模式図である。照明装置4は、マトリクス状に配置された複数の照明要素41を含む。照明装置4は、各照明要素41を独立に点灯させることができる。本実施の形態における照射パターンとは、複数の照明要素41のうちの点灯させる照明要素41により決定されるものをいう。なお、各照明要素41から照射される光の波長を変えることができる照明装置4においては、照射パターンは、複数の照明要素41のうちの点灯させる照明要素41と、点灯させる各照明要素41から照射させる光の波長とによって決定される。本実施の形態においては、発光面40の濃淡パターンを照射パターンという。
各照明要素41は、たとえば、発光領域と透明領域とを含み、発光領域を発光させることで、照明要素41全体を発光させることができる構造となっている。また、透明領域を備えることにより、透光性が保たれることとなる。
<D.照明装置4から照射される照射パターンの一例>
図5は、照明装置4によって形成される照射パターンの一例を説明するための図である。制御装置100は、照明装置4から照射される光の照射パターンが順次変更するように照明装置4を制御するとともに、各照射パターンの下でワークWを撮像するようにカメラ8を制御する。制御装置100は、複数の照射パターンの各々において撮像された複数の画像データに基づいてワークWの外観検査を行なう。
照射パターンLは、カメラ8の撮像視野81内の注目位置aごとに設定されている。外観検査に利用する検査画像データ51は、各照射パターンLの下でそれぞれ撮像して得られた複数の画像データ52から生成される。検査画像データ51内の注目位置aに対応する位置a’の画像データは、注目位置aに対応付けて設定された照射パターンLの下で撮像された画像データ52から生成される。
照射パターンLは、注目位置aに入射する光の入射角θが、いずれの注目位置aでも実質的に同一となるように決定される。たとえば、注目位置a1を含む微小平面に入射する光の入射角の範囲がθ1〜θ2となるように照射パターンL1が設定されている場合、照射パターンL2は、注目位置a2を含む微小平面に入射する光の入射角の範囲がθ1〜θ2となるよう設定される。
<E.検査画像データ51の生成方法の一例>
図6は、検査画像データ51の生成方法の一例を説明するための図である。図6の例では、撮像視野81内の注目位置aとして、注目位置a1〜注目位置anが設定されている。照射パターンLは、注目位置aごとに設定されている。制御装置100は、各照射パターンL1〜Lnの下で撮像された各画像データ52−1〜52−nを取得する。
制御装置100は、取得した複数の画像データ52−1〜52−nから検査画像データ51を生成する。制御装置100は、検査画像データ51内の注目位置a1に対応する位置a’1の画像データを、画像データ52−1内の注目位置a1に対応する位置a’1を含む部分画像データ53−1に基づいて生成する。同様に、制御装置100は、検査画像データ51内の注目位置a2に対応する位置a’2の画像データを部分画像データ53−2に基づいて、検査画像データ51内の注目位置anに対応する位置a’nの画像データを部分画像データ53−nに基づいて生成する。
換言すると、検査画像データ51は、部分画像データ53−1〜部分画像データ53−nから生成される。部分画像データ53に含まれる画素は、1画素であっても、複数画素であってもよい。部分画像データ53の範囲は、注目位置aと当該注目位置aに隣接する注目位置との距離に応じて設定され、部分画像データ53−1〜部分画像データ53−nから一の検査画像データ51が生成されるように設定される。
ここで、部分画像データ53に含まれる画素が、複数画素である場合、撮像回数および照射パターンの変更回数を減らすことができる。なお、部分画像データ53同士が互いに重なるように部分画像データ53の範囲を設定してもよい。この場合にあっては、重なる部分の画素情報は、部分画像データ53に基づいて生成される。
照射パターンL1〜照射パターンLnのうち、一の照射パターンは、「第1の照射パターン」の一例であり、他の照射パターンは、「第2の照射パターン」の一例である。また、画像データ52−1〜画像データ52−nおよび部分画像データ53−1〜部分画像データ53−nのうち、一の画像データまたは部分画像データは、「第1の画像データ」の一例であり、他の画像データまたは部分画像データは、「第2の画像データ」の一例である。注目位置a1〜anのうち、一の注目位置は、「第1の注目位置」の一例であり、他の注目位置は、「第2の注目位置」の一例である。
このように、注目位置ごとに照射パターンが決定され、各照射パターンの下で撮像された複数の画像データを用いて画像計測に利用する検査画像データ51を生成する。すなわち、各照射パターンの下で撮像された複数の画像データを用いて画像計測が行われる。そのため、注目位置に応じた照明環境の下で撮像された画像データを用いることができ、画像計測の精度を向上させることができる。
また、照射パターンを決定するにあたって、注目位置a1を含む微小平面に入射する光の入射角の範囲がθ1〜θ2となるように照射パターンL1が設定されている場合、照射パターンL2は、注目位置a2を含む微小平面に入射する光の入射角の範囲がθ1〜θ2となるよう設定される。そのため、注目位置ごとに照明環境を実質的に同一にすることができる。
なお、本実施の形態においては、制御装置100は、撮像視野81内全体を示す画像データ52を生成するための画像信号をカメラ8から取得せずに、部分画像データ53を生成するための画像信号のみをカメラ8から取得してもよい。すなわち、制御装置100は、各照射パターンL1〜Lnの下で撮像された部分画像データ53−1〜53−nだけを取得するようにしてもよい。以下、制御装置100が部分画像データ53−1〜53−nだけをカメラ8から読み出す機能について説明する。
<F.部分読み出し機能>
制御装置100がカメラ8から特定の画像データに対応する画像信号のみを読み出す部分読み出し機能について説明する。図7は、CMOSイメージセンサ82を示す模式図である。カメラ8は、部分読み出し方式を採用可能なCMOSイメージセンサ82と、CMOSイメージセンサ82の部分領域を読み出す読出回路84とを備える。CMOSイメージセンサ82は、複数のフォトダイオード83を備える。CMOSイメージセンサ82の部分領域には、1または複数のフォトダイオード83が含まれる。また、CMOSイメージセンサ82の部分領域を読み出すとは、具体的には、部分領域に含まれる1または複数のフォトダイオード83から画像信号を読み出すことを意味する。また、フォトダイオードは「受光素子」の一例であって、光エネルギーを電荷に変換する機能を有するものであれば、フォトダイオードに限られない。
制御装置100は、光が照射されている状態ですべてのフォトダイオード83に光を受光させる。その後、照射されている光の照射パターンに対応する部分画像データ53を取得するため、部分画像データに対応するフォトダイオード83から画像信号を読み出す処理を行なう。部分読出し機能を備えることにより、全フォトダイオード83から画像信号を読み出す場合に比べて、読み出しに要する時間を短縮することができる。
なお、部分読出し機能を有するカメラ8として、CMOSイメージセンサ82を備えるカメラ8を例に挙げたが、読出回路84を備えていれば、CCDイメージセンサのような他のイメージセンサを備えるカメラ8であってもよい。
<G.照射パターンLの切り替えタイミングと画像信号の読み出しタイミング>
カメラ8が、画像信号の読み出しを行なっている間に次の露光を開始することができる場合、制御装置100は、特定のフォトダイオード83から画像信号を読み出す処理の少なくとも一部と、フォトダイオード83に光を受光させる処理の少なくとも一部とを同時に行なってもよい。これにより、読み出し処理を行っている間に露光をすることができるため、全てのフォトダイオード83から画像信号を取得するのに要する時間を短縮することができる。
具体的に、図8を参照して、読み出し処理を行っている間に露光をすることについて説明する。図8は、フォトダイオード83から画像信号を読み出すタイミングを示すタイミングチャートである。図8中のフォトダイオード83−1からは、部分画像データ53−1を生成するための画像信号が読み出され、フォトダイオード83−2からは、部分画像データ53−2を生成するための画像信号が読み出されるものとする。また、部分画像データ53−1は、照射パターンL1に対応し、部分画像データ53−2に対応するものとする。制御装置100は、照射パターンL1、L2、…Lnの順で照射パターンLを切り替えるものとする。
図8に示す複数のラインは、紙面の上から順に、照明装置4から照射される光の照射パターンを示すライン、露光しているか否かを示すライン、画像信号を読み出しているか否かを示すラインである。露光しているとは、フォトダイオード83が光を受光して電荷を蓄積していることを意味する。
制御装置100は、照射パターンL1の光が照射されている状態で、フォトダイオード83に光を照射し、露光を開始したタイミングt1から予め定められた露光時間が経過したタイミングt2で、フォトダイオード83−1から画像信号を読み出す処理を開始する。次に、照射パターンL1を照射パターンL2に切り替えて、フォトダイオード83に光を照射し、露光を開始したタイミングt3から予め定められた露光時間が経過したタイミングt5で、フォトダイオード83−2から画像信号を読み出す処理を開始する。
なお、画像信号の読み出し中に露光を開始させる機能を有していないCMOSイメージセンサやCCDイメージセンサを備えるカメラ8を用いる場合は、読み出す処理が完了した後に、露光を開始すればよい。具体的には、フォトダイオード83−1から画像信号を読み出す処理が完了したタイミングt3から、露光を開始するようにすればよい。
また、一部のフォトダイオード83のみに電荷を蓄積させることができるようなイメージセンサを備えるカメラ8を用いる場合は、照射されている光のパターンに対応するフォトダイオード83に電荷を蓄積させるようにし、全てのフォトダイオード83に電荷が蓄積されたタイミングで、全てのフォトダイオード83から画像信号を読み出すようにしてもよい。また、照射されている光のパターンに対応するフォトダイオード83に電荷を蓄積させた後、そのフォトダイオード83から画像信号を読み出す処理と、次の照射パターンに切り替える処理と、次の照射パターンに対応するフォトダイオード83に電荷を蓄積させる処理とを実行するようにしてもよい。
<H.照射パターンの決定方法>
前述のように、照射パターンLは、注目位置aに入射する光の入射角θが、いずれの注目位置aでも実質的に同一となるように決定される。なお、本実施の形態におけるカメラ8は、テレセントリックレンズを採用しているものとする。説明の便宜上、ワークWは直方体形状をしており、照明装置4の発光面40とカメラ8の光軸とは互いに直交するものとする。
図9は、注目位置ごとの照射パターンの決定方法を説明するための模式図である。注目位置aに入射する光の入射角θの範囲が、いずれの注目位置aでも実質的に同一となるようにするため、本実施例においては、注目位置aを含む微小平面の垂線nを中心とした照射パターンL0が、注目位置aごとに共通するように照射パターンLを決定する。
制御装置100は、注目位置arに対応する照射パターンLrを決定する。注目位置arがカメラ8の撮像視野81を規定するカメラ座標系(x、y)において定義され、注目位置arのカメラ座標系内の位置は(xr,yr)である。
注目位置arを含む微小平面の垂線nrと発光面40との交点Aは、照射パターンを規定する照明座標系(X,Y)において定義され、交点Aの照明座標系内の位置は(Xr,Yr)である。
注目位置arのカメラ座標系内の位置は(xr,yr)と、交点Aの照明座標系内の位置は(Xr,Yr)との間には、たとえば、式(1)の関係が成立する。そのため、カメラ座標系内の位置から、照明座標系内の位置に変換することができる。
Figure 2019120643
係数A、Bは、キャリブレーションパラメータであって、カメラ8と照明装置4との位置を固定した後に、カメラ8と照明装置4との位置関係に基づいて計算によって算出するか、あるいは、キャリブレーション操作を行なうことで求めることができる。なお、照明装置4の発光面40と、カメラ8の光軸lとが直交しない場合は、式(1)の替わりに、透視変換などの既知の方法を用いればよい。
照射パターンLrは、(Xr,Yr)を中心に照射パターンL0が作られるように決定される。具体的には、基準となる基準照射パターンL0の形状を示す関数をL0(i,j)と定義した場合に、照射パターンLrは、式(2)のように表現することができる。
Figure 2019120643
よって、注目位置arにおける照射パターンLrは、式(1)と式(2)とから求めることができる。カメラ座標系(xr、yr)は、CMOSイメージセンサ82に含まれる複数のフォトダイオード83と対応関係にある。制御装置100は、カメラ座標系(xr、yr)を含む部分画像データ53−rを生成するための画像信号を得るために、照射パターンLrの光を照射させるように照明装置4を制御するとともに、フォトダイオード83−rを露光させるようにカメラ8を制御する。このとき、制御装置100は、カメラ座標系(xr、yr)と、基準照射パターンL0とから照明装置4に指示する照射パターンLrを特定することができる。
なお、テレセントリックレンズを採用しているものとしたが、テレセントリックレンズ以外の光学系を用いたカメラ8であってもよく、この場合には、カメラ視線とカメラ8の光軸Lとが平行ではないため、後述するキャリブレーションを行なってキャリブレーションパラメータを設定することが好ましい。
<I.制御装置100の機能構成>
図10は、制御装置100の機能構成の一例を示す図である。制御装置100は、制御部10と画像計測部20とを備える。CPU110は、画像処理プログラム132をメインメモリ120に展開して、実行することで、制御部10および画像計測部20としての機能を果たす。
制御部10は、検査画像データ51を得るために、カメラ8と照明装置4とを制御する。画像計測部20は、制御部10によって得られた検査画像データ51に基づいて予め定められた画像計測を行ない、計測結果をPLC200に出力する。なお、計測結果の出力先はPLC200である必要はなく、たとえば、制御装置100と通信可能に接続された携帯端末や、印刷機などであってもよい。
制御部10は、検出部11と、処理部12と、照明制御部14と、撮像制御部16と、生成部18とを備える。検出部11は、所定の検査位置までワークWが搬送されたことを示す信号がPLC200から通知されたことを検出する。検出部11は、PLC200からの信号を検出したことに基づいて、処理部12に検査画像データ51を得るための処理の開始を通知する。
処理部12は、注目位置ごとに照射パターンLrを設定する設定部122と、撮像制御部16に注目位置arを特定可能な情報を、照明制御部14に注目位置arに対応する照射パターンLrを特定可能な情報を送る指示部124とを備える。
撮像制御部16は、指示部124から送られた注目位置arに関する情報から、注目位置arに対応するフォトダイオード83を露光状態にするとともに、所定の露光時間が経過したことに基づいて画像信号を取得したことを指示部124に通知する。また、撮像制御部16は、注目位置arに対応するフォトダイオード83を露光状態にした後、続いて読出状態にして、画像信号を読み出して、生成部18に送信する。
照明制御部14は、指示部124から送られた照射パターンLrで光を照射するように照明装置4を制御する。
指示部124は、撮像制御部16から画像信号を取得したことの通知がされたことに基づいて、設定部122に次の注目位置arを特定可能な情報を通知する。設定部122は、通知された注目位置arに対応する照射パターンLrを設定するとともに、指示部124に通知する。ここで、設定部122は、予め設定されている基準照射パターンL0、およびキャリブレーションパラメータに基づいて照射パターンLrを設定する。換言すると、設定部122は、各注目位置に入射する光の入射角が実質的に同一となるように、照射パターンLrを設定する。
指示部124は、撮像制御部16に注目位置arを特定可能な情報を、照明制御部14に注目位置arに対応する照射パターンLrを特定可能な情報を送る。指示部124は、画像信号の取得が完了していない注目位置arが無くなるまで、処理を続ける。すなわち指示部124は、照射パターンLrを順次変更するとともに、順次変更に伴って、カメラ8にワークWを順次撮像させる。
生成部18は、撮像制御部16から送られた画像信号に基づいて検査画像データ51を生成し、画像計測部20に生成した検査画像データ51を送る。
ここで、生成部18は、部分画像データ53同士が互いに重なる場合、すなわち、部分画像データ53−1に含まれる画素のうち一部の画素と、部分画像データ53−2に含まれる画素のうち一部の画素とが共通する場合には、共通部分の画素情報を部分画像データ53−1と、部分画像データ53−2とに基づいて生成して、検査画像データ51を生成する。検査画像データ51は、画像計測に利用される画像データであるから、共通部分の画像計測は、部分画像データ53−1と、部分画像データ53−2とに基づいて行われるともいえる。
このように、部分画像データ53同士が互いに重なる場合に、重なる部分の画素情報を複数の部分画像データ53に基づいて生成することにより、隣接する部分画像データ53間の連続性を確保することできる。また、これにより、部分画像データ53と隣接する部分画像データ53との間に生じるギャップを小さくすることができ、このギャップによる誤計測を防止することができる。
<J.キャリブレーション方法>
カメラ座標系(x,y)と照明座標系(X,Y)との対応関係を求めるキャリブレーション方法の一例について説明する。カメラ座標系(x,y)と照明座標系(X,Y)との対応関係とは、換言すると、フォトダイオード83と照明要素41との対応関係ともいえる。
制御装置100は、照明要素41を1つずつ順次点灯させるように照明装置4を制御するとともに、順次点灯に応じて撮像するようにカメラ8を制御する。なお、照明要素41を1つだけ点灯させるだけでは十分な光量が得られず、カメラ8が適当な画像データを生成できない場合、照明要素41に隣接する複数の照明要素41を一の照明要素の単位としてもよい。このとき、検査位置には、キャリブレーション用のターゲットプレートと呼ばれる基準対象物を設置してキャリブレーションを行なう。
制御装置100は、順次点灯に応じて得られた複数の画像データに含まれる複数の画素の各々から輝度値を抽出する。制御装置100は、画像データ内の複数の画素のうち、最も輝度値が高い輝度値を示す画素を特定する。画素はカメラ座標系に対応する。また、照明要素41は、照明座標系に対応する。制御装置100は、画素が位置するカメラ座標系の座標と、照明要素41が位置する照明座標系の座標とを対応付ける。制御装置100は、取得した全ての画像データに対して、同じ処理を行なうことで、カメラ座標系と照明座標系との対応関係を得ることができる。カメラ座標系と照明座標系との対応関係を線形近似させることで、キャリブレーションパラメータを算出してもよい。
検査に使用するカメラ8が備える光学系がテレセントリックレンズである場合、カメラ視線は、ワークW上のどの位置においてもカメラの光軸と平行となるため、基準対象物の材質は、検査対象のワークの材質以外の材質であってもよい。一方、検査に使用するカメラ8が備える光学系がテレセントリックレンズではない通常のレンズである場合は、カメラ視線がワークW上の位置によって変わるため、基準対象物の材質は、検査対象のワークの材質と同じ材質を選択することが好ましい。
図11は、キャリブレーション結果の一例を説明するための図である。図11に示す例は、テレセントリックレンズ以外のレンズを備えるカメラ8を対象にキャリブレーションを行なったものとする。基準対象物が拡散反射物体である場合は、カメラ座標位置B(x、y)に位置する注目位置abに対応する照明要素の位置は、注目位置abの略真上に位置することとなる。
一方、基準対象物が鏡面反射物体である場合は、カメラ座標位置B(x、y)に位置する注目位置abに対応する照明要素の位置は、注目位置abの真上からずれた位置となる。このズレ量は、カメラの光軸から離れた位置となればなるほど、大きくなる。
テレセントリックレンズ以外のレンズを備えるカメラ8において、カメラ8とワーク表面の注目点との位置関係によっては、カメラ視線が、カメラの光軸と平行にならない。また、鏡面反射物体においては、注目位置abを含む平面に反射した光の反射角と、注目位置abを含む平面に入射した光の入射角とがほぼ等しくなる。そのため、注目位置abにおけるカメラ視線と注目位置abにおける法線との交わりによって作られる角度が、カメラ座標位置B(x、y)に位置する注目位置abに対応する照明要素の位置から照射される光の反射光の角度と一致するように、照明要素の位置は決定される。その結果、注目位置abに対応する照明要素の位置は、注目位置abの真上からずれた位置となる。
なお、注目位置abに対応する照明要素の位置は、注目位置abの真上からずれた位置となる場合には、注目位置abの真上から照射する場合の照射パターンとは異なる照射パターンで照射するように、基準照射パターンL0を補正してもよい。図12は、照射パターンの補正について説明するための図である。注目位置a1に対応する照明要素の位置を位置A1とし、注目位置a2に対応する照明要素の位置を位置A2とする。位置A1は、注目位置a1のほぼ真上に位置するものとする。位置A2は、注目位置a2のほぼ真上の位置A’2からずれたところに位置しているものとする。
また、位置A1と注目位置a1との位置関係のように、位置Aが注目位置aのほぼ真上(発光面40の鉛直方向)にある場合の、位置Aを原点として規定される照射パターンの形状を基準照射パターンL0とする。
この場合に、位置A2を中心に基準照射パターンL0が作られるような照射パターンでワークを照射した場合、注目位置a2に入射する光の照射角は、位置A1を中心に基準照射パターンL0が作られるような照射パターンでワークを照射した場合に注目位置a1に入射する光の照射角と異なってしまう。
そこで、照明要素の位置Aと注目位置aとの位置関係に応じて、基準照射パターンL0を補正して、基準照射パターンL’0とすることで、注目位置ごとの照明条件を同じにすることができる。
具体的には、位置Aと注目位置aとを結ぶ直線を中心に注目位置aに入射する光のパターンが各注目位置で等しくなるように基準照射パターンL0を照明要素の位置Aと注目位置aとの位置関係に応じて補正する。なお、注目位置a1に基準照射パターンL0で照射したときに注目位置a1に入射する光の強度と、注目位置a2に基準照射パターンL’0で照射させたときに注目位置a2に入射する光の強度とが実質的に等しくなるように、照明装置4から照射する光の強度についても補正してもよい。
なお、ワークWの形状を直方体としたが、ワークWの形状はこれに限るものではない。たとえば、平面部分とテーパ部分とを備えるワークWであってもよい。たとえば、キャリブレーションを行う場合に、検査対象のワークを基準対象物として用いてもよい。
また、ワークを基準対象物として用いない場合には、照明要素の位置をワークの形状に基づいて補正してもよい。図13は、照射パターンの他の補正方法について説明するための図である。たとえば、図13に示す例では、キャリブレーションを行う際に平板状の基準対象物を利用し、注目位置a1に対応する照明要素の位置が位置A1であったとする。検査対象のワークWにおける注目位置a1に対応する注目位置a1を含む平面が発光面40に対して平行でない場合は、平面の傾きθと、注目位置a1と照明装置4との距離とに応じて、照明要素の位置を補正して、照明要素の位置を位置A’1としてもよい。
<K.変形例>
[a.照射パターン]
本実施の形態においては、各注目位置aに入射する光のうち、どの入射角θで入射する光の波長も共通している基準照射パターンL0を例に挙げた。各注目位置aに照射させる光の照射パターンは、これに限らず、どのような照射パターンであってもよい。
図14は、基準照射パターンL0の第1変形例を示す図である。たとえば、基準照射パターンL0の形状を示す関数L0(i,j)の原点を中心に照射される光の波長が同心円状に変化していくパターンを基準照射パターンとしてもよい。
図14に示す基準照射パターンL0でワークWを照射することで、注目位置aに対応するワークWの基準位置からの距離に応じて、照射する光の色を異ならせることができ、いわゆる、カラーハイライト方式と呼ばれる検査を行なうことができる。光の色は、光の波長または光の波長分布によって規定される。照射する光の色は、照射する光の波長または光の波長分布を異ならせることで、変えることができる。
カラーハイライト方式とは、色の異なる光を互いに異なる入射角で照射し、各色の反射光をカメラ8で撮像することで、ワークWの三次元形状を二次元の色相情報として検出する方法である。
すなわち、注目位置aに対応するワークWの基準位置からの距離に応じて、照射する光の色を異ならせることで、光が照射される領域の三次元形状を二次元の色相情報として検出することができる。
なお、図14に示す基準照射パターンL0を用いる場合であっても、注目位置aと、注目位置aに対応する照明要素の位置Aとの位置関係に応じて、基準照射パターンL0を図14に示すような照射パターンL’0に補正してもよい。図15は、第1変形例の基準照射パターンを補正した照射パターンを示す図である。
また、各注目位置aに対して、異なる照射方向から光を照射し、注目位置aごとに複数の画像データ取得するようにしてもよい。このようにすることで、いわゆる照度差ステレオ法に準じて、注目位置aを含む領域の三次元形状を計測することができる。
図16は、基準照射パターンL0の第2変形例を示す図である。たとえば、一の基準照射パターンL0を、照射方向を異ならせるように複数の基準照射パターンL1〜L4に分解し、各基準照射パターンL1〜L4の下で、注目位置aに対応する部分画像データ53を取得するようにしてもよい。取得した複数の部分画像データ53を合成することで、一の部分画像データ53を生成するようにしてもよい。
[b.ワークの種類に応じた照射パターン]
本実施の形態においては、ステージ300によって、同じ種類のワークWしか搬送されないものを例に挙げた。たとえば、ステージ300によって複数のワークWを順次搬送されるようにしてもよい。
この場合に、制御装置100は、ワークWの種類に応じて照射パターンを設定し、設定した照射パターンの下でワークWを撮像するようにしてもよい。図17は、変形例における画像処理システム1の一例を示す模式図である。本実施の形態に係る制御装置100は、記憶部の一例であるハードディスク130に、ワークの種類(種別)ごとに設定された照射パラメータセットを記憶してもよい。照射パラメータセットは照明条件であって、たとえば、検査内容または/およびワークの種類に応じた基準照射パターンL0と、注目位置aごとに設けられた当該注目位置aを含む微小平面に対する垂線と、キャリブレーションパラメータとを含む。
設定部122は、対象物の種別に関する情報の入力に応じて、入力された対象物の種別に対応する照射パラメータセットを選択し、選択した照射パラメータセットに基づいて照明条件を設定する。対象物の種別に関する情報は、ワークWの種別を特定するための識別情報であって、たとえば、製品番号、製品の種類ごとに設定された番号などを含む。
図17に示す例においては、対象物の種別に関する情報は、PLC200から送られ、受付部112が対象物の種別に関する情報を受け付けることで入力される。PLC200は、たとえば、ワークWの種類を特定可能な特定部210を備える。特定部210は、たとえば、ワークWに設けられたワークWの種類を特定するための識別情報を読み取る読取部400から送られる識別情報に基づいてワークWの種類を特定する。読取部400は、たとえば、RFID(Radio frequency identification)などのタグや、2次元コード等を読み取るリーダーである。
なお、制御装置100が、対象物に関する情報を特定する特定部210の機能を有してもよい。この場合、対象物の種別に関する情報は特定部210から入力される。また、制御装置100が特定部210を備える場合、特定部210は、PLC200を介して送られる識別情報に基づいてワークWの種類を特定してもよい。また、特定部210は、たとえば、カメラ8からの情報に基づいてワークWの種類を特定してもよい。具体的には、特定部210は、ワークWの外観画像に基づいてパターンマッチングや、ワークWに設けられた2次元コードなどでワークWの種類を特定してもよい。
このように、制御装置100は、ワークWの種類に応じた照明条件を設定することができるため、記憶部に記憶されている照射パラメータセットに対応するワークのうち、いずれのワークが搬送されたとしても、各ワークに応じた照明条件で検査を行なうことができる。そのため、どのようなワークに対しても適用可能な汎用性の高い画像処理システムを提供できる。
設定部122は、ワークWの位置を特定する位置特定部122aをさらに備えてもよい。また、照射パラメータセットにワークWのCADデータが含まれてもよい。位置特定部122aは、カメラ8にワークWを撮像させて画像データを取得し、取得した画像データと、照射パラメータセットに含まれるワークWのCADデータとから画像データ内のワークの位置を特定してもよい。
設定部122は、画像データ内のワークの位置と、CADデータとから、画像データ内の各位置におけるワーク表面の傾斜を特定することができる。画像データ内の各位置におけるワーク表面の傾斜に基づいて、基準照射パターンL0を補正してL’0を求める。これにより、設定部122は、画像データ内の位置ごとに基準照射パターンを設定することができる。
設定部122は、キャリブレーションパラメータと、位置ごとに設定された基準照射パターンと、各位置のカメラ座標系の座標位置とに基づいて、各位置における照射パターンLrを設定する。
<L.付記>
以上のように、本実施の形態は以下のような開示を含む。
(構成1)
対象物(W)を撮像して得られる画像データ(51)を用いて当該対象物を画像計測する画像処理システム(1)であって、
前記対象物(W)を撮像する撮像部(8)と、
前記撮像部(8)から前記対象物(W)までの間に配置されるとともに、前記撮像部(8)から前記対象物(W)に向かう光軸(l)とは異なる向きに広がりをもつ発光面(40)を有する、透光性の発光部(4)と、
前記撮像部(8)および前記発光部(4)を制御する制御部(100)とを備え、
前記制御部(100)は、
前記発光部(4)から前記対象物(W)に対して第1の照射パターン(L1)の光を照射させるとともに、前記撮像部(8)に前記対象物(W)を撮像させて第1の画像データ(52−1,53−1)を取得し、
前記発光部(4)から前記対象物(W)に対して前記第1の照射パターン(L1)とは異なる第2の照射パターン(L2)の光を照射させるとともに、前記撮像部(8)に前記対象物(W)を撮像させて第2の画像データ(52−2,53−2)を取得する、画像処理システム。
(構成2)
前記制御部(100)は、前記第1の画像データ(52−1,53−1)および前記第2の画像データ(52−2,53−2)を少なくとも含む複数の画像データを用いて、前記対象物(W)についての画像計測処理を実行し(20)、
前記第1の画像データ(52−1,53−1)は、前記撮像部(8)の撮像視野(81)内の第1の注目位置(a1)に対応付けられており、
前記第2の画像データ(52−1,53−1)は、前記撮像視野(81)内の第2の注目位置(a2)に対応付けられており、
前記第1の照射パターン(L1)は、前記第1の注目位置(a1)に応じて決定され、
前記第2の照射パターン(L2)は、前記第2の注目位置(a2)に応じて決定される、構成1に記載の画像処理システム。
(構成3)
前記発光部(4)から前記第1の注目位置(a1)へ照射される光の入射方向(θ)が、前記発光部(4)から前記第2の注目位置(a2)へ照射される光の入射方向(θ)と実質的に同一となるように、前記第1の照射パターンおよび前記第2の照射パターンが決定される(122)、構成2に記載の画像処理システム。
(構成4)
前記制御部(100)は、前記発光部(4)から前記対象物(W)に対して照射する光の照射パターンを順次変更するとともに、当該照射パターンの順次変更に対応して、前記撮像部に前記対象物を順次撮像させる(124)、構成2または構成3に記載の画像処理システム。
(構成5)
前記撮像部は、撮像視野(81)内に含まれる光を画像信号に変換する複数の受光素子(83)のうち一部の受光素子から当該画像信号を読み出す読出回路(84)とを含み、
前記制御部(100)は、
前記発光部(4)から前記第1の照射パターン(L1)の光を照射させた状態で前記撮像部(8)に含まれる複数の受光素子(83)のうち前記第1の注目位置(a1)に対応する第1の受光素子(83−1)を少なくとも露光させ、続いて、前記複数の受光素子のうち少なくとも前記第1の受光素子(83−1)から信号を読み出し(16)、
前記発光部(4)から前記第2の照射パターン(L2)の光を照射させた状態で前記複数の受光素子(83)のうち前記第2の注目位置(a2)に対応する第2の受光素子(83−2)を少なくとも露光させ、続いて、前記複数の受光素子のうち少なくとも前記第2の受光素子(83−2)から信号を読み出す(16)、構成2〜構成4のうちのいずれか1項に記載の画像処理システム。
(構成6)
前記第1の受光素子(83−1)から画像信号を読み出す処理の少なくとも一部と、前記発光部から前記第2の照射パターンの光を照射させた状態で前記第2の受光素子(83−2)を露光させる処理の少なくとも一部とは、同時に実行される、構成5に記載の画像処理システム。
(構成7)
前記第1の画像データ(53−1)は、前記第1の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含み、
前記第2の画像データ(53−2)は、前記第2の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含む、構成2〜構成6のうちのいずれか1に記載の画像処理システム。
(構成8)
前記第1の画像データ(53−1)に含まれる複数の画素と、前記第2の画像データ(53−2)に含まれる複数の画素とのうち、少なくとも一部の画素が共通し、
前記制御部(100、18、20)は、前記第1の画像データと前記第2の画像データとに基づいて、前記共通する画素に対応する前記撮像部の位置における画像計測結果を出力する、構成7に記載の画像処理システム。
(構成9)
各注目位置に対応する照射パターンを照射する場合、前記制御部は、前記発光部の発光面の当該注目位置に対応する基準位置からの距離に応じて、照射する光の色を異ならせる、構成2〜構成8のうちのいずれか1に記載の画像処理システム。
(構成10)
前記照射パターンを含む照明条件は、対象物の種別に応じて決定され、
前記対象物の種別ごとに設定された照明条件を複数記憶する記憶部(130)と、
前記対象物の種別に関する情報の入力に応じて、当該対象物の種別に対応する照明条件を設定する設定部(122)をさらに備える、構成1に記載の画像処理システム。
1 画像処理システム、4 照明装置、6 外部メモリ、8 カメラ、10 制御部、11 検出部、12 処理部、14 照明制御部、16 撮像制御部、18 生成部、20 画像計測部、40 発光面、41 照明要素、51 検査画像データ、52 画像データ、53 部分画像データ、81 撮像視野、82 CMOSイメージセンサ、83 フォトダイオード、84 読出回路、100 制御装置、110 CPU、112 受付部、120 メインメモリ、122 設定部、124 指示部、130 ハードディスク、132 画像処理プログラム、140 照明I/F、150 通信I/F、160 外部メモリI/F、180 カメラI/F、190 バス、200 PLC、210 特定部、300 ステージ、400 読取部、L 照射パターン、W ワーク、a 注目位置、l 光軸。

Claims (10)

  1. 対象物を撮像して得られる画像データを用いて当該対象物を画像計測する画像処理システムであって、
    前記対象物を撮像する撮像部と、
    前記撮像部から前記対象物までの間に配置されるとともに、前記撮像部から前記対象物に向かう光軸とは異なる向きに広がりをもつ発光面を有する、透光性の発光部と、
    前記撮像部および前記発光部を制御する制御部とを備え、
    前記制御部は、
    前記発光部から前記対象物に対して第1の照射パターンの光を照射させるとともに、前記撮像部に前記対象物を撮像させて第1の画像データを取得し、
    前記発光部から前記対象物に対して前記第1の照射パターンとは異なる第2の照射パターンの光を照射させるとともに、前記撮像部に前記対象物を撮像させて第2の画像データを取得する、画像処理システム。
  2. 前記制御部は、前記第1の画像データおよび前記第2の画像データを少なくとも含む複数の画像データを用いて、前記対象物についての画像計測処理を実行し、
    前記第1の画像データは、前記撮像部の撮像視野内の第1の注目位置に対応付けられており、
    前記第2の画像データは、前記撮像視野内の第2の注目位置に対応付けられており、
    前記第1の照射パターンは、前記第1の注目位置に応じて決定され、
    前記第2の照射パターンは、前記第2の注目位置に応じて決定される、請求項1に記載の画像処理システム。
  3. 前記発光部から前記第1の注目位置へ照射される光の入射方向が、前記発光部から前記第2の注目位置へ照射される光の入射方向と実質的に同一となるように、前記第1の照射パターンおよび前記第2の照射パターンが決定される、請求項2に記載の画像処理システム。
  4. 前記制御部は、前記発光部から前記対象物に対して照射する光の照射パターンを順次変更するとともに、当該照射パターンの順次変更に対応して、前記撮像部に前記対象物を順次撮像させる、請求項2または請求項3に記載の画像処理システム。
  5. 前記撮像部は、撮像視野内に含まれる光を画像信号に変換する複数の受光素子のうち一部の受光素子から当該画像信号を読み出す読出回路を含み、
    前記制御部は、
    前記発光部から前記第1の照射パターンの光を照射させた状態で前記撮像部に含まれる複数の受光素子のうち前記第1の注目位置に対応する第1の受光素子を少なくとも露光させ、続いて、前記複数の受光素子のうち少なくとも前記第1の受光素子から画像信号を読み出し、
    前記発光部から前記第2の照射パターンの光を照射させた状態で前記複数の受光素子のうち前記第2の注目位置に対応する第2の受光素子を少なくとも露光させ、続いて、前記複数の受光素子のうち少なくとも前記第2の受光素子から画像信号を読み出す、請求項2〜請求項4のうちいずれか1項に記載の画像処理システム。
  6. 前記第1の受光素子から画像信号を読み出す処理の少なくとも一部と、前記発光部から前記第2の照射パターンの光を照射させた状態で前記第2の受光素子を露光させる処理の少なくとも一部とは、同時に実行される、請求項5に記載の画像処理システム。
  7. 前記第1の画像データは、前記第1の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含み、
    前記第2の画像データは、前記第2の注目位置に対応する1の画素と当該画素に隣接する1または複数の画素とを含む、請求項2〜請求項6のうちいずれか1項に記載の画像処理システム。
  8. 前記第1の画像データに含まれる複数の画素と、前記第2の画像データに含まれる複数の画素とのうち、少なくとも一部の画素が共通し、
    前記制御部は、前記第1の画像データと前記第2の画像データとに基づいて、前記共通する画素に対応する前記撮像部の位置における画像計測結果を出力する、請求項7に記載の画像処理システム。
  9. 各注目位置に対応する照射パターンを照射する場合、前記制御部は、前記発光部の発光面の当該注目位置に対応する基準位置からの距離に応じて、照射する光の色を異ならせる、請求項2〜請求項8のうちいずれか1項に記載の画像処理システム。
  10. 前記照射パターンを含む照明条件は、対象物の種別に応じて決定され、
    前記対象物の種別ごとに設定された照明条件を複数記憶する記憶部と、
    前記対象物の種別に関する情報の入力に応じて、当該対象物の種別に対応する照明条件を設定する設定部とをさらに備える、請求項1に記載の画像処理システム。
JP2018002091A 2018-01-10 2018-01-10 画像処理システム Active JP6904263B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018002091A JP6904263B2 (ja) 2018-01-10 2018-01-10 画像処理システム
CN201811194959.8A CN110033429B (zh) 2018-01-10 2018-10-15 图像处理系统
EP18200831.8A EP3511772B1 (en) 2018-01-10 2018-10-16 Image processing system
US16/162,410 US10839538B2 (en) 2018-01-10 2018-10-17 Image processing system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018002091A JP6904263B2 (ja) 2018-01-10 2018-01-10 画像処理システム

Publications (2)

Publication Number Publication Date
JP2019120643A true JP2019120643A (ja) 2019-07-22
JP6904263B2 JP6904263B2 (ja) 2021-07-14

Family

ID=63878462

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018002091A Active JP6904263B2 (ja) 2018-01-10 2018-01-10 画像処理システム

Country Status (4)

Country Link
US (1) US10839538B2 (ja)
EP (1) EP3511772B1 (ja)
JP (1) JP6904263B2 (ja)
CN (1) CN110033429B (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021153056A1 (ja) * 2020-01-28 2021-08-05 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
WO2021153057A1 (ja) * 2020-01-28 2021-08-05 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP2022054938A (ja) * 2020-09-28 2022-04-07 株式会社リコー 検査装置、検査システム、検査方法

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220314659A1 (en) * 2019-09-05 2022-10-06 Hewlett-Packard Development Company, L.P. Determine relative positions between parts by using light sensors
TW202119019A (zh) * 2019-11-05 2021-05-16 華碩電腦股份有限公司 外觀取像裝置及包含其的外觀檢測裝置

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005091049A (ja) * 2003-09-12 2005-04-07 Ccs Inc 画像処理用光照射装置及び画像処理用光照射方法
JP2008309580A (ja) * 2007-06-13 2008-12-25 Omron Corp はんだフィレットの検査方法および基板外観検査装置
JP2012253007A (ja) * 2011-03-15 2012-12-20 Ebara Corp 検査装置
JP2017152483A (ja) * 2016-02-23 2017-08-31 富士機械製造株式会社 部品装着機
JP2019002762A (ja) * 2017-06-14 2019-01-10 キヤノン株式会社 画像処理装置及び方法

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4778755B2 (ja) * 2005-09-09 2011-09-21 株式会社日立ハイテクノロジーズ 欠陥検査方法及びこれを用いた装置
JP2007206797A (ja) 2006-01-31 2007-08-16 Omron Corp 画像処理方法および画像処理装置
JP2008298623A (ja) * 2007-05-31 2008-12-11 Hitachi High-Technologies Corp 検査装置および検査方法
JP2010178842A (ja) * 2009-02-04 2010-08-19 Toshiba Corp 医用画像データ処理装置及び医用画像データ処理方法
CN103124515B (zh) * 2010-09-30 2015-11-25 奥林巴斯株式会社 摄像装置
KR101295760B1 (ko) * 2011-03-10 2013-08-13 주식회사 미르기술 다중 격자 무늬를 이용한 비전검사장치
JP2012244196A (ja) * 2011-05-13 2012-12-10 Sony Corp 画像処理装置及び方法
IN2014DN10174A (ja) * 2012-05-09 2015-08-21 Univ Duke
US20140307100A1 (en) * 2013-04-12 2014-10-16 Kari MYLLYKOSKI Orthographic image capture system
US20140340639A1 (en) * 2013-05-06 2014-11-20 Langbourne Rust Research Inc. Method and system for determining the relative gaze-attracting power of visual stimuli
JP6408259B2 (ja) * 2014-06-09 2018-10-17 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
CN105120146B (zh) * 2015-08-05 2018-06-26 普宙飞行器科技(深圳)有限公司 一种利用无人机进行运动物体自动锁定拍摄装置及拍摄方法
CN106569763B (zh) * 2016-10-19 2020-03-20 华为机器有限公司 一种图像显示方法及终端
JP2019082452A (ja) * 2017-10-31 2019-05-30 キヤノン株式会社 画像生成方法、画像生成装置、及びそれらを用いた欠陥判定方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005091049A (ja) * 2003-09-12 2005-04-07 Ccs Inc 画像処理用光照射装置及び画像処理用光照射方法
JP2008309580A (ja) * 2007-06-13 2008-12-25 Omron Corp はんだフィレットの検査方法および基板外観検査装置
JP2012253007A (ja) * 2011-03-15 2012-12-20 Ebara Corp 検査装置
JP2017152483A (ja) * 2016-02-23 2017-08-31 富士機械製造株式会社 部品装着機
JP2019002762A (ja) * 2017-06-14 2019-01-10 キヤノン株式会社 画像処理装置及び方法

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021153056A1 (ja) * 2020-01-28 2021-08-05 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
WO2021153057A1 (ja) * 2020-01-28 2021-08-05 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP2021117158A (ja) * 2020-01-28 2021-08-10 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP2021117157A (ja) * 2020-01-28 2021-08-10 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP7424074B2 (ja) 2020-01-28 2024-01-30 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP7459525B2 (ja) 2020-01-28 2024-04-02 オムロン株式会社 三次元形状計測装置、三次元形状計測方法及びプログラム
JP2022054938A (ja) * 2020-09-28 2022-04-07 株式会社リコー 検査装置、検査システム、検査方法

Also Published As

Publication number Publication date
CN110033429B (zh) 2023-05-23
CN110033429A (zh) 2019-07-19
US20190213748A1 (en) 2019-07-11
EP3511772B1 (en) 2021-11-24
JP6904263B2 (ja) 2021-07-14
EP3511772A1 (en) 2019-07-17
US10839538B2 (en) 2020-11-17

Similar Documents

Publication Publication Date Title
JP6904263B2 (ja) 画像処理システム
KR101808388B1 (ko) 프로브 장치 및 프로브 방법
JP6462823B2 (ja) 画像検査装置
CN110248056B (zh) 图像检查装置
JP2017122614A (ja) 画像生成方法及び検査装置
KR100956547B1 (ko) 3차원형상 측정장치 및 방법
JP4675436B1 (ja) 表面検査用照明・撮像システム及びデータ構造
JP2008058248A (ja) 回折光検出装置および検査システム
JP2009092485A (ja) 印刷半田検査装置
JP7056131B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
CN112964635B (zh) 一种芯片检测方法以及系统
US10909702B2 (en) Inspection device
KR20100121560A (ko) 실장 검사 데이터 형성방법, 이를 저장한 저장매체 및 이를 이용하는 검사장치
JP7231462B2 (ja) 画像検査システム及び画像検査方法
JP6835020B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
JP6939501B2 (ja) 画像処理システム、画像処理プログラム、および画像処理方法
KR101132792B1 (ko) 기판 검사방법
KR100340013B1 (ko) 가동거울을 이용한 컴퓨터 비젼 시스템
JP2006184019A (ja) 外観検査装置
JP2018109550A (ja) 電子部品搬送装置および電子部品検査装置
JP7306857B2 (ja) 画像検査システム
JP2018087737A (ja) 電子部品搬送装置および電子部品検査装置
JP7311360B2 (ja) 画像計測システム
JP2022143840A (ja) 光学検査方法、光学検査装置、および光学検査プログラム
JP2009069063A (ja) 計測方法、形状計測方法、計測装置及び形状計測装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210226

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210525

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210607

R150 Certificate of patent or registration of utility model

Ref document number: 6904263

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250