JP6835020B2 - 画像処理システム、画像処理装置、画像処理プログラム - Google Patents

画像処理システム、画像処理装置、画像処理プログラム Download PDF

Info

Publication number
JP6835020B2
JP6835020B2 JP2018047628A JP2018047628A JP6835020B2 JP 6835020 B2 JP6835020 B2 JP 6835020B2 JP 2018047628 A JP2018047628 A JP 2018047628A JP 2018047628 A JP2018047628 A JP 2018047628A JP 6835020 B2 JP6835020 B2 JP 6835020B2
Authority
JP
Japan
Prior art keywords
image
light emitting
unit
light
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018047628A
Other languages
English (en)
Other versions
JP2019161526A (ja
Inventor
加藤 豊
豊 加藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2018047628A priority Critical patent/JP6835020B2/ja
Priority to EP19156650.4A priority patent/EP3540647B1/en
Priority to CN201910111609.9A priority patent/CN110278384B/zh
Priority to US16/278,154 priority patent/US10896499B2/en
Publication of JP2019161526A publication Critical patent/JP2019161526A/ja
Application granted granted Critical
Publication of JP6835020B2 publication Critical patent/JP6835020B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/141Control of illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/74Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/04Synchronising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10141Special mode during image acquisition
    • G06T2207/10152Varying illumination
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/06Recognition of objects for industrial automation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Quality & Reliability (AREA)
  • Studio Devices (AREA)
  • Image Input (AREA)
  • Image Analysis (AREA)
  • Stroboscope Apparatuses (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)

Description

本発明は、画像処理システム、画像処理装置、および画像処理プログラムに関する。
FA(Factory Automation)分野などにおいては、対象物を照明装置からの光による照明下で撮像し、生成された画像データからワークに関する情報を取得する画像処理技術が利用されている。
画像処理技術分野において利用される照明装置として、多種多様な照明装置が開発されている。例えば、特開2015−232487(特許文献1)には、照明方向が異なる複数の照明を備える照明装置が開示されている。
特開2015−232487号公報
照明方向が異なる複数の照明を備える照明装置を用いる場合、照明条件を決定するときに、選択可能な照明のパターンが多く、照明条件の設定が複雑になる虞がある。
本発明は、上述したように、照明条件の設定を容易にする画像処理システム、画像処理装置、および画像処理プログラムを提供することを目的とする。
本開示の一例によれば、対象物を撮像する撮像部と、対象物に向けられた発光面を有する発光部とを有する画像処理システムが提供される。画像処理システムは、発光面のうち予め設定した複数種類の部分領域の各々が発光するように、発光部を制御する発光制御部と、複数種類の部分領域の各々の発光に同期して撮像するように、撮像部を制御する撮像制御部と、撮像部が複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、発光面内の位置と、その位置から対象物に照射される光が対象物の注目部位に反射して撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力する出力部とを含む。
この開示によれば、照明条件を決定するうえで参考となる反射プロファイル情報が出力されるため、照明条件の設定が容易になる。
上述の開示において、反射プロファイル情報は、複数の画像の各々から得られる、画像内の撮像視野内の注目点に対応する輝度情報および画像が撮像されたときに発光している部分領域の注目点に対する相対位置に基づく情報であってもよい。
この開示によれば、発光面と注目点との位置関係に関わらず、注目点ごとに得られる反射プロファイル情報を互いに同じ次元で比較することができる。
上述の開示において、出力部は、相対位置に対応する2軸以上の座標系に、輝度情報に対応する情報を出力した表現形態により反射プロファイル情報を出力してもよい。
この開示によれば、発光面40と注目点との位置関係に関わらず、同じ座標系で表現されるため、注目点ごとに反射プロファイル情報を比較する際に、容易に比較ができる。
上述の開示において、出力部は、撮像部により撮像された撮像視野の画像に対してユーザが指定した画像上の位置情報に基づいて決定された注目点に対応する反射プロファイル情報を、相対位置に対応する2軸以上の座標系に、輝度情報に対応する情報を出力した表現形態により出力してもよい。
この開示によれば、ユーザは、注目点を容易に指定することができる。
上述の開示において、出力部は、撮像視野内の複数の注目点の各々について得られる反射プロファイル情報を、同時または順次に座標系上に出力してもよい。
この開示によれば、注目点ごとの反射プロファイル情報が同じ座標系上に同時または順次に出力されるため、注目点ごとの反射プロファイル情報を比較することが容易である。
上述の開示において、画像処理システムは、反射プロファイル情報を用いて、発光部の発光条件を決定する決定部をさらに含んでもよい。
この開示によれば、反射プロファイル情報に基づいて発光部の発光条件が決定されるため、決定された発光条件に対する説明性を確保することができる。
上述の開示において、発光部は、撮像部と対象物までの間に配置されるとともに、発光部は撮像時の視野を遮らないような形状および、視野を遮らないような光学特性のうち少なくともいずれか一方を有してもよい。
この開示によれば、撮像部から対象物までの間に発光部が配置されていることにより、撮像部から対象物までの間に発光部が配置されていない場合に比べて、全体的にコンパクトな画像処理システムを提供することができる。その結果、適用可能な設備の選定に制約を受けることを極力回避することができる。
本開示の別の一例によれば、対象物を撮像する撮像部と、対象物に向けられた発光面を有する発光部とを制御して画像処理を行なう画像処理装置が提供される。画像処理装置は、発光面のうち予め設定した複数種類の部分領域の各々が発光するように、発光部を制御する発光制御部と、複数種類の部分領域の各々の発光に同期して撮像するように、撮像部を制御する撮像制御部と、撮像部が複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、発光面内の位置と、その位置から対象物に照射される光が対象物の注目部位に反射して撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力する出力部とを含む。
この開示によれば、照明条件を決定するうえで参考となる反射プロファイル情報が出力されるため、照明条件の設定が容易になる。
本開示の別の一例によれば、対象物を撮像する撮像部と、対象物に向けられた発光面を有する発光部とを制御して画像処理を行なう画像処理装置に実行される画像処理プログラムが提供される。画像処理プログラムは、発光面のうち予め設定した複数種類の部分領域の各々が発光するように、発光部を制御するステップと、複数種類の部分領域の各々の発光に同期して撮像するように、撮像部を制御するステップと、撮像部が複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、発光面内の位置と、その位置から対象物に照射される光が対象物の注目部位に反射して撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力するステップとを含む。
この開示によれば、照明条件を決定するうえで参考となる反射プロファイル情報が出力されるため、照明条件の設定が容易になる。
照明条件を決定するうえで参考となる反射プロファイル情報が出力されるため、照明条件の設定が容易になる。
本実施の形態に係る画像処理システムの適用場面を模式的に示す図である。 反射プロファイル情報を模式的に示した図である。 本実施の形態に係る画像処理システムが適用される生産ラインの一例を示す模式図である。 制御装置のハードウェア構成について示す模式図である。 本実施の形態に係る照明装置の一部を拡大した模式図である。 第1の具体例における反射プロファイル情報を得るための工程の一例を示す図である。 データの取得方法を説明するための図である。 データの抽出方法を説明するための図である。 反射プロファイル情報の生成方法を説明するための図である。 反射プロファイル情報の出力方法の一例を示す図である。 設定時のユーザインターフェイス画面の一例を示す図である。 検査画像の生成方法の一例を説明するための図である。 制御装置の機能構成を模式的に示した図である。 指定された注目位置の反射プロファイル情報を出力する処理のフローチャートである。 相対位置について説明するための図である。 第2の具体例における反射プロファイル情報の生成方法を示す図である。 第2の具体例における反射プロファイル情報をマッピング画像として出力する例を示す図である。 基準照射パターンを用いた注目位置ごとの照射パターンの決定方法を説明するための図である。 基準照射パターンを利用した検査画像の生成方法を説明するための図である。 基準照射パターン設定時のユーザインターフェイス画面を示す図である。 基準照射パターンの設定の流れの一例を示す図である。 第2の具体例における制御装置の機能構成を模式的に示した図である。 指定された注目位置の第2の具体例における反射プロファイル情報を出力する処理のフローチャートである。 照明装置とカメラと対象物との位置関係の変形例を示す図である。 照明装置の変形例を示す図である。
§1 適用例
まず、図1および図2を参照して、本発明が適用される場面の一例について説明する。図1は、本実施の形態に係る画像処理システム1の適用場面を模式的に示す図である。図2は、反射プロファイル情報70を模式的に示した図である。
本実施の形態に係る画像処理システム1は、撮像部の一例であるカメラ8と、発光部の一例である照明装置4と、画像処理システム1において実行される処理を制御する制御装置100とを備える。また、制御装置100は、照明装置4を制御する発光制御部12と、カメラ8を制御する撮像制御部14と、反射プロファイル情報を出力する出力部18とを備える。発光制御部12、撮像制御部14および出力部18は、一例として、汎用的なコンピュータアーキテクチャに従う構造を有している制御装置100に設けられている。
照明装置4は、対象物Wに向けられた発光面40を有する。照明装置4は、発光面40の任意の領域を発光させることが可能であって、たとえば、有機EL(Electro Luminescence)から成る。
発光制御部12は、発光面40上に設定された複数種類の部分領域43の各々が発光するように照明装置4を制御する。複数種類の部分領域43の各々は、少なくとも発光面40内における位置が異なる。複数種類の部分領域43の各々の大きさは、互いに共通していてもよく、また、互いに異なっていてもよい。また、複数種類の部分領域43の各々の形状は、互いに共通していてもよく、また、互いに異なっていてもよい。また、1の部分領域43の一部は、隣接する部分領域43の一部と共通する領域であってもよい。
撮像制御部14は、複数種類の部分領域43の各々の発光に同期して対象物Wを撮像するようにカメラ8を制御する。ここで「同期して対象物Wを撮像する」とは、発光している部分領域43の種類が変わる度に対象物Wを撮像することを意味する。
発光制御部12と撮像制御部14とが上述のように照明装置4とカメラ8とを制御することで、発光している部分領域ごとに入力画像Dが生成され、複数の入力画像Dが得られる。
出力部18は、複数の入力画像Dをもとに得られる反射プロファイル情報70を出力する。反射プロファイル情報70は、発光面40内の位置と、その位置から対象物Wに照射される光が対象物Wの注目部位Aに反射してカメラ8に入射する光の度合いとの関係を示す情報である。
具体的に、反射プロファイル情報70について、図2を参照して説明する。図2に示す例では、一の種類の部分領域43が、発光面40上の位置(X,Y)に設定されているものとする。位置(X,Y)に設定されて部分領域43を発光させたときに得られる入力画像D(X,Y)は、位置(X,Y)から照射された光Lが対象物Wに反射してカメラ8に入射する光Lによって生成される。よって、入力画像D(X,Y)からは、発光面40上の位置(X,Y)から照射された光Lが対象物Wの注目部位Aに反射してカメラ8に入射する光Lの度合いである特徴量Pが得られる。同様に、位置(X,Y)に設定されて部分領域43を発光させたときに得られる入力画像D(X,Y)からは、位置(X,Y)から照射された光Lが対象物Wの注目部位Aに反射してカメラ8に入射する光Lの度合いである特徴量Pが得られる。
複数の入力画像Dの各々から、発光面40上の位置(X,Y)と、特徴量Pとの関係が得られる。すなわち、反射プロファイル情報70は、発光面上の位置(X,Y)と、特徴量Pとからなる情報の集合である。図2に示す例では、発光面40上の位置(X,Y)〜位置(X,Y)の各々について特徴量P〜特徴量Pが得られ、特徴量P〜特徴量Pの集合が反射プロファイル情報70といえる。
反射プロファイル情報70が得られると、発光面40上のいずれの位置から対象物Wに光を照射すれば、どのくらいの光がカメラ8に入射するかの目安が分かる。そのため、反射プロファイル情報70は、照射条件を決定するための参考になる。その結果、照明条件の設定が容易になる。さらに、反射プロファイル情報70に基づいて照明条件の設定を行なうことができるため設定した照明条件に対する説明性を確保することができる。
§2 具体例
[A.画像処理システムが適用される生産ラインの一例]
次に、本実施の形態に係る画像処理システムの一例について説明する。図3は、本実施の形態に係る画像処理システム1が適用される生産ラインの一例を示す模式図である。
図3に示すように、本実施の形態に係る画像処理システム1は、連続的に搬入される対象物Wを撮影するカメラ8と、対象物Wを照明する照明装置4と、照明装置4およびカメラ8を制御する制御装置100とを備える。
カメラ8は、主たる構成要素として、レンズや絞りなどの光学系と、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサなどの光電変換器を含む。光電変換器は、カメラ8の撮像視野81に含まれる光を画像信号に変換する装置である。
照明装置4は、ステージ300に配置された対象物Wに対して光を照射する。発光面40から照射される光の照射パターンは、制御装置100から指示された照射パターンにしたがって任意に変更可能になっている。
照明装置4は透光性を有しており、典型的には、透明な有機EL照明である。照明装置4が配置されている位置を基準にカメラ8が配置されている方を上とし、対象物Wが配置されている方を下とすると、照明装置4は、カメラ8が照明装置4を介して照明装置4よりも下に位置するものを撮像することができる程度に透光性を有していればよい。
検査対象となる対象物Wは、移動可能なステージ300によって、カメラ8および照明装置4が固定された検査位置まで移動する。ステージ300は、PLC200(Programmable Logic Controller)に制御される。PLC200は、対象物Wを検査位置まで搬送すると、画像処理システム1による外観検査が終了するまでその場で停止するようにステージ300を制御する。このとき、制御装置100は、照明装置4によって対象物Wに光を照射しながら、カメラ8で対象物Wを撮影する。制御装置100は、照明装置4から照射される光の照射パターンを変化させるように照明装置4を制御し、光の照射パターンを変化させる度にカメラ8で対象物Wを撮影するようにカメラ8を制御する。制御装置100は、このようにして得られた複数枚の撮影画像を用いることで、対象物Wの外観を検査する。また、制御装置100は、外観検査が終了すると、PLC200に検査結果を出力する。PLC200は、制御装置100からの検査結果の出力に基づいて、次の対象物Wを検査位置まで搬送させる。
制御装置100は、表示部102および入力部104と電気的に接続されている。表示部102は、典型的には液晶ディスプレイからなり、たとえば、ユーザに設定内容を表示する。入力部104は、典型的にはマウスからなり、各種の設定に関する情報を入力するために機能する。たとえば、ユーザは、表示部102に表示された情報に基づいて入力部104を操作することで、検査条件の設定に関する設定情報を入力することができる。なお、入力部104はマウスから構成されるとしたが、タッチパネル、キーボード、あるいは、これらを組み合わせて構成されるものであってもよい。
[B.制御装置のハードウェア構成の一例]
図4は、制御装置100のハードウェア構成について示す模式図である。制御装置100は、CPU(Central Processing Unit)110、メインメモリ120、ハードディスク130、カメラインターフェイス(I/F)180、照明I/F140、表示コントローラ172、入力I/F174、通信I/F150、外部メモリI/F160、および光学ドライブ164を含む。これらの各部は、バス190を介して、互いにデータ通信可能に接続される。
CPU110は、ハードディスク130にインストールされた画像処理プログラム132および設定プログラム134を含むプログラム(コード)をメインメモリ120に展開して、これらを所定順序で実行することで、各種の演算を実施する。メインメモリ120は、典型的には、DRAM(Dynamic Random Access Memory)などの揮発性の記憶装置である。
ハードディスク130は、制御装置100が備える内部メモリであって、不揮発性の記憶装置である。ハードディスク130は、画像処理プログラム132および設定プログラム134に加えて、検査条件に関する検査情報136を含む。なお、ハードディスク130に加えて、あるいは、ハードディスク130に代えて、フラッシュメモリなどの半導体記憶装置を採用してもよい。
カメラI/F180は、CPU110とカメラ8との間のデータ伝送を仲介する。すなわち、カメラI/F180は、画像を生成するカメラ8と接続される。また、カメラI/F180は、CPU110からの内部コマンドに従って、接続されているカメラ8における撮像動作を制御するコマンドを与える。
照明I/F140は、CPU110と照明装置4との間のデータ伝送を仲介する。すなわち、照明I/F140は、照明装置4と接続される。また、照明I/F140は、CPU110からの内部コマンドに従って、接続されている照明装置4に対して、照射パターンについての指令を送信する。照明装置4は、受信した指令に基づく照射パターンの光を照射する。なお、照明装置4は、カメラ8を介して制御装置100と接続されてもよい。また、カメラ8は、照明装置4を介して制御装置100と接続されてもよい。
表示コントローラ172は、表示部102と接続され、CPU110における処理結果などをユーザに通知する。すなわち、表示コントローラ172は、表示部102に接続され、表示部102での表示を制御する。
入力I/F174は、入力部104と接続され、CPU110と入力部104との間のデータ伝送を仲介する。すなわち、入力I/F174は、ユーザが入力部104を操作することで与えられる操作指令を受付ける。操作指令は、たとえば、検査条件を設定するための操作指令が含まれる。
通信I/F150は、PLC200とCPU110との間で各種データをやり取りする。なお、通信I/F150は、サーバとCPU110との間でデータをやり取りしてもよい。通信I/F150は、PLC200との間で各種データをやり取りするためのネットワークに対応するハードウェアを含む。
外部メモリI/F160は、外部メモリ6と接続され、外部メモリ6に対するデータの読み込み/書き込みの処理をする。外部メモリ6は、制御装置100に着脱可能であって、典型的には、USB(Universal Serial Bus)メモリ、メモリカードなどの不揮発性の記憶装置である。また、画像処理プログラム132等の各種プログラムは、ハードディスク130に保存されている必要はなく、制御装置100と通信可能なサーバや、制御装置100と直接接続可能な外部メモリ6、または、光学ディスク164Aに保存されていてもよい。たとえば、外部メモリ6に制御装置100で実行される各種プログラムおよび各種プログラムで用いられる各種パラメータが格納された状態で流通し、外部メモリI/F160は、この外部メモリ6から各種プログラムおよび各種パラメータを読み出す。あるいは、制御装置100と通信可能に接続されたサーバなどからダウンロードしたプログラムやパラメータを制御装置100にインストールしてもよい。また、制御装置100は、光学ディスク164Aから光学ドライブ164を介してプログラムやパラメータを制御装置100にインストールしてもよい。
光学ドライブ164は、光学ディスク164Aなどから、その中に格納されている各種プログラムを読み出して、ハードディスク130にインストールする。
なお、本実施の形態に係る画像処理プログラム132および設定プログラム134は、他のプログラムの一部に組み込まれて提供されるものであってもよい。また、代替的に、画像処理プログラム132の実行により提供される機能の一部もしくは全部を専用のハードウェア回路として実装してもよい。
[C.照明装置4の構造]
図5は、本実施の形態に係る照明装置4の一部を拡大した模式図である。照明装置4は、マトリクス状に配置された複数の照明要素41を含む。照明装置4は、各照明要素41を独立に点灯させることができる。本実施の形態における照射パターンとは、複数の照明要素41のうちの点灯させる照明要素41により決定されるものをいう。また、本実施の形態においては、各照明要素41からは、白色光が照射されるものとして説明し、照射パターンとは発光面40の濃淡パターンをいうこととする。また、本実施の形態において、照明装置4は、各照明要素41を独立して、点灯または消灯させることができる。なお、照明装置4は、各照明要素41の発光強度を調整できるようにしてもよい。
各照明要素41は、たとえば、発光領域と透明領域とを含み、発光領域を発光させることで、対象物Wに対する照明効果として照明要素41全体が発光したものと近似できる。また、透明領域を備えることにより、透光性が保たれることとなる。
[D.第1の具体例]
以下、第1の具体例における反射プロファイル情報72について説明する。
<反射プロファイル情報72の取得方法>
反射プロファイル情報72は、発光面40内の位置と、その位置から対象物Wに照射される光が対象物Wの注目部位Aに反射してカメラ8に入射する光の度合いとの関係を示す情報である。図6は、第1の具体例における反射プロファイル情報72を得るための工程の一例を示す図である。反射プロファイル情報72を得るための工程は、データを取得する工程Ph1と、データを抽出する工程Ph2と、抽出したデータから反射プロファイル情報72を生成する工程Ph3を含む。
(データを取得する工程Ph1)
図7は、データの取得方法を説明するための図である。なお、図7においては、カメラ8の図示を省略している。照明装置4は、発光面40内に設定された部分領域43だけを発光させることができる。発光面40は、全ての照明要素41の集合からなる。一方、部分領域43は、1または複数の照明要素41からなる。つまり、部分領域43は、全ての照明要素41の集合に対する部分集合となっている。照明装置4は、複数の照明要素41の各々を独立して点灯させることができるため、発光面40上に設定される部分領域43内に含まれるすべての照明要素41を点灯することで、設定された部分領域43だけを発光させることができる。なお、照明装置4は、部分領域43に含まれる全照明要素41を同じ発光強度で点灯させてもよく、また、互いに異なる発光強度で点灯させてもよい。
制御装置100は、発光面40上に設定された複数種類の部分領域43の各々を点灯させるように照明装置4を制御する。複数種類の部分領域43の各々は、少なくとも発光面40内における位置が異なる。ここで、部分領域43の発光面40内における位置は、部分領域43の中心を意味する。複数種類の部分領域43の各々の大きさは、互いに共通していてもよく、また、互いに異なっていてもよい。また、複数種類の部分領域43の各々の形状は、互いに共通していてもよく、また、互いに異なっていてもよい。また、1の部分領域43の一部は、隣接する部分領域43の一部と共通する領域であってもよい。本実施の形態において、複数種類の部分領域43の各々の形状および大きさは互いに等しく、各部分領域43は他の部分領域43と重なっていないものとする。部分領域43の大きさは、部分領域43を発光させたときに、対象物Wの少なくとも一部を認識できる画像をカメラ8が撮像することができる程度の光量を確保できる大きさであればよい。ここで、照射パターンとは発光面40の濃淡パターンをいうことから、一の部分領域43を発光させることは、一の照射パターンで発光面40を発光させることともいえる。また、複数種類の部分領域43の各々は、互いに異なる照射パターンであるともいえる。
図7に示す例では、制御装置100は、発光面40上の位置(X,Y)〜位置(X,Y)の各々に部分領域43を設定し、合計m×n個の部分領域43を独立して発光させる。制御装置100は、複数種類の部分領域43の各々の発光に同期して撮像するように、カメラ8を制御し、合計m×n個の入力画像Dを取得する。ここで、本実施の形態においては、便宜上、発光面40上のX方向を図3中の対象物Wの移動方向とし、Y方向をX方向と照射方向とに直交する方向として説明する。入力画像D(X,Y)は、位置(X,Y)に設定された部分領域43を発光させた状態で撮像して得られる画像を意味する。ここで、図7において、カメラ8、照明装置4、および対象物Wの各々の位置は、固定されている。つまり、入力画像D(X,Y)〜入力画像D(X,Y)が撮像されたときの撮像条件は、少なくとも、発光している発光面40上の位置が異なる。
(データを抽出する工程Ph2)
図8は、データの抽出方法を説明するための図である。制御装置100は、入力画像D(X,Y)〜入力画像D(X,Y)の各々から、対象物Wの注目部位Aに対応する部分画像Mを抽出する。ここで対象物Wの注目部位Aに対応する部分画像Mは、入力画像D内の対象物Wの注目部位Aに対応する注目位置a(x,y)を含むように抽出された部分領域である。入力画像D(X,Y)〜入力画像D(X,Y)は、いずれも、同じ撮像視野81の下で撮影されることで得られる。そのため、注目部位Aに対応する部分画像Mのカメラ座標位置(x,y)は、入力画像D(X,Y)〜入力画像D(X,Y)の各々で共通する。
部分画像Mは、1画素から構成されるデータであってもよく、また、複数画素から構成されるデータであってもよく、少なくとも、注目部位Aに対応する注目位置a(x,y)の画素を含んでいればよい。なお、注目部位Aは、ある特定の位置を示すものであっても、所定の範囲を示すものであってもよい。
制御装置100は、注目部位Aに対応するカメラ座標内の注目位置a(x,y)の部分画像Mを入力画像D(X,Y)〜D(X,Y)の各々から抽出し、部分画像M(X,Y|x,y)〜部分画像M(X,Y|x,y)を取得する。ここで、部分画像M(X,Y|x,y)の括弧内のバーティカルバーの左側は、抽出元の入力画像Dを撮像したときに発光している発光面40の位置(X,Y)を意味する。部分画像M(X,Y|x,y)の括弧内のバーティカルバーの右側は、部分画像Mを抽出する際の目標となる入力画像D内の注目位置a(x,y)を意味する。すなわち、部分画像M(X,Y|x,y)は、入力画像D(X,Y)内の注目位置a(x,y)を含むように抽出された、入力画像D(X,Y)の部分領域を意味する。
(抽出したデータから反射プロファイル情報72を生成する工程Ph3)
図9は、反射プロファイル情報72の生成方法を説明するための図である。制御装置100は、部分画像M(X,Y|x,y)〜部分画像M(X,Y|x,y)の各々から、特徴量pを抽出する。特徴量pは、発光面40上に設定された部分領域43から注目部位Aに入射する光がこの注目部位Aに反射してカメラ8に入射する光の強度を示す値であって、たとえば、輝度値、または輝度値を規格化したものを含む。また、特徴量pは、部分画像Mに対して空間フィルタなどの前処理を行なった後に得られる情報であってもよい。ここで、特徴量p(x,y|X,Y)は、部分画像M(X,Y|x,y)から抽出された特徴量であることを意味する。
本実施の形態においては、特徴量p(x,y|X,Y)〜特徴量p(x,y|X,Y)の集合が反射プロファイル情報72である。すなわち、制御装置100は、部分画像M(X,Y|x,y)〜部分画像M(X,Y|x,y)から特徴量p(x,y|X,Y)〜特徴量p(x,y|X,Y)を抽出することで反射プロファイル情報72を生成する。
ここで、特徴量p(x,y|X,Y)の括弧内のバーティカルバーの左側は、注目部位Aの撮像視野81内での位置である注目位置a(x,y)を意味する。特徴量p(x,y|X,Y)の括弧内のバーティカルバーの右側は、発光面40上のいずれの位置(X,Y)を発光させたときに得られた特徴量pであるかを意味する。すなわち、特徴量p(x,y|X,Y)は、注目部位A(注目位置a(x,y))に入射する光のうち、発光面40上の位置(X,Y)から入射する光に基づく値であるともいえる。
また、入力画像D(X,Y)は、発光面40上の位置(X,Y)に設定された部分領域43から照射されて注目部位Aに反射した光のうち、カメラ8に入射する光によって生成される。また、特徴量p(x,y|X,Y)は、発光面40上の位置(X,Y)から対象物Wに入射する光が注目部位Aに反射してカメラ8に入射する光の強度を示す値である。すなわち、特徴量p(x,y|X,Y)は、位置(X,Y)から照射された光が注目部位Aに反射してカメラ8に入射する光の度合いを示す情報といえる。よって、特徴量p(x,y|X,Y)〜特徴量p(x,y|X,Y)の集合によって構成された反射プロファイル情報72は、照射位置である発光面40内の位置(X,Y)と、その照射位置から照射された光が注目部位Aに反射してカメラ8に入射する光の度合いとの関係を示す情報といえる。
<反射プロファイル情報72の出力方法>
図10は、反射プロファイル情報72の出力方法の一例を示す図である。図10に示す例において、制御装置100は、発光面40上の座標系であるXY座標に、特徴量pをマッピングしたマッピング画像542を反射プロファイル情報72として出力する。マッピング画像542は、特徴量pの大きさに応じた濃淡度合いで示された濃淡値56を、XY座標にマッピングした画像である。たとえば、特徴量p(x,y|X,Y)の大きさに応じた濃淡値56(x,y|X,Y)は、XY座標の位置(X,Y)にマッピングされる。制御装置100は、特徴量p(x,y|X,Y)〜特徴量p(x,y|X,Y)の各々を濃淡値56に変換して、濃淡値56(x,y|X,Y)〜濃淡値56(x,y|X,Y)を得る。制御装置100は、濃淡値56(x,y|X,Y)〜濃淡値56(x,y|X,Y)の各々をXY座標にマッピングすることで、マッピング画像542を生成する。なお、図10においては、濃淡値56がマッピングされていく様子を分かり易くするために、濃淡値56を所定の面積を有する画像として示しているものとする(図11においても同様)。
制御装置100は、表示部102にマッピング画像542を表示することで、反射プロファイル情報72を出力する。なお、マッピング画像542の出力先は、たとえば、制御装置100に接続された表示部102に限られず、プリンタ、PLC200、または携帯端末などであってもよい。
特徴量pは、発光面40上に設定された部分領域43から対象物Wに入射する光が注目部位Aに反射してカメラ8に入射する光の強度を示す値である。そのため、ユーザは、マッピング画像542に基づいて、注目部位Aの画像を生成するにあたって、どの照射位置から照射される光の影響が強いかを直感的に把握することができる。たとえば、特徴量pが大きいほど濃い色の画像となるように設定した場合に、ユーザは、濃い色の画像でマッピングされた位置に設定された部分領域43を発光させることで、大きな特徴量を含む画像を取得することができることをマッピング画像542から直感的に把握することができる。
<反射プロファイル情報72を用いた照明条件の決定>
反射プロファイル情報72は、発光面40内の位置と、その位置から対象物Wに照射される光が対象物Wの注目部位Aに反射して、その反射光がカメラ8に入射する光の度合いとの関係を示す情報である。そのため、画像計測を行なう際の照明条件を設定する場合に、いずれの方向からの注目部位Aに光を入射させれば、画像計測に利用する画像として適した画像が得られるかを反射プロファイル情報72から予測することができる。以下、注目部位Aの画像計測を行なう場合に、反射プロファイル情報72を利用した照明条件の設定方法について説明する。
図11は、設定時のユーザインターフェイス画面600の一例を示す図である。図11に示すユーザインターフェイス画面600は、照明設定タブ610が選択されることで、表示部102に表示される。なお、図10においては、照明設定タブ610以外のタブを省略しているものの、他に、カメラ8に対する設定を行なうための「カメラ設定」タブや、取得した画像に対し実行する処理内容を設定するための「画像処理設定」タブなどの他の設定に関するタブを設けてもよい。
ユーザインターフェイス画面600は、画像表示領域620と、編集領域630と、ツール選択領域640と、表示選択領域650と、指示領域660と、を含む。
画像表示領域620は、カメラ8が撮像した撮像視野81の画像を表示する領域である。ユーザは、入力部104の一例であるマウスなどを操作して、画像表示領域620に表示された画像から注目部位Aに対応する注目位置aを選択する。図11においては、選択された注目部位Aを含む領域が、選択領域622として、画像表示領域620に表示されている。なお、注目部位Aは、ある特定の位置を示すものであっても、所定の範囲を示すものであってもよい。すなわち、注目部位Aに対応する注目位置aは1画素から構成されるものであっても、複数画素から構成されるものであってもよい。なお、選択領域622は、注目位置aの範囲に対応した形状であることが好ましい。たとえば、選択領域622は、注目位置aが1画素から構成される場合は、選択領域622は点で示され、注目位置aが複数画素から構成される場合は、選択領域622は所定の範囲の領域で示される。
編集領域630は、画像表示領域620に対する操作により選択された注目位置aのマッピング画像542を表示可能な領域であって、表示されたマッピング画像542に基づいて照明条件を設定するための領域である。すなわち、注目部位Aの撮像視野81内の位置(注目位置a)を示す表示と、画像表示領域620に対する操作により選択された注目部位Aのマッピング画像542とが同じユーザインターフェイス画面600上に表示される。そのため、ユーザは、表示されているマッピング画像542が撮像視野81内のいずれの位置(注目位置a)にある注目部位Aに対するマッピング画像542であるかを容易に把握することができる。
マッピング画像542の座標系は、発光面40を示す座標系である。すなわち、編集領域630の座標系も発光面40を示す座標系である。たとえば、ユーザは、入力部104を操作して、ツール選択領域640に表示された四角形ツール642、扇形ツール644、三角形ツール646などを用いて、発光面40を示す座標系で表示された編集領域630内に発光させる領域(発光領域)を描くことができる。このとき、発光領域632は、マッピング画像542に描かれることとなる。換言すると、入力部104から、発光領域の指定を受け付けると、受け付けた発光領域がマッピング画像542に反映される。なお、編集領域630に対して発光範囲である発光領域を指定するとしたが、発光面40上の座標系に対して指定できればよく、指定した発光範囲をマッピング画像542に表示しなくともよい。発光範囲の指定とは、発光面40上の位置ごとに発光強度を指定することを意味する。なお、図11には、発光強度として、発光させるか否かの指定受け付ける例を示したが、発光強度を調整できるようにしてもよい。
指定した発光範囲がマッピング画像542に反映されることにより、指定した発光範囲を点灯させた照射パターンで注目位置aの画像を取得した場合に、どのような特徴量pを示す画像が得られるかを確認しながら発光範囲を指定することができる。
また、画像表示領域620と、編集領域630とは、図11に示すように、互いに隣り合う領域である。つまり、撮像視野81の画像と、マッピング画像542の画像とは並べて表示されることとなる。そのため、マッピング画像542が撮像視野81内のいずれの位置(注目位置a)の注目部位Aに対するマッピング画像542であるかをユーザが容易に把握することができる。
ツール選択領域640は、発光領域632を描くためのツール(四角形ツール642、扇形ツール644、三角形ツール646)を選択するための領域である。ユーザは、発光領域632を描くために利用したいツールにカーソルを合わせてクリックすることで、ツールを選択することができる。ユーザは選択したツールを用いて発光範囲を指定することができる。
表示選択領域650は、編集領域630に表示する内容を決定するための領域である。表示選択領域650には、マッピング表示タブ652と、照射パターン表示タブ654とが設けられている。マッピング表示タブ652が選択されると、画像表示領域620において選択された注目部位Aのマッピング画像542が編集領域630に表示される。照射パターン表示タブ654が選択されると、画像表示領域620において選択された注目部位Aに対して設定された照射パターンが編集領域630に表示される。マッピング表示タブ652および照射パターン表示タブ654の両方を選択可能に構成されてもよく、両方が選択されると、編集領域630にマッピング画像542と登録された発光範囲の領域を示す画像(発光領域632)とが重なって表示される。
指示領域660は、取得ボタン662、撮影ボタン664、登録ボタン666、および戻るボタン668を含む。
取得ボタン662は、複数種類の部分領域43の各々を発光させて上述した方法で反射プロファイル情報72を生成するためのボタンである。制御装置100は、取得ボタン662が選択されたことを検出すると、反射プロファイル情報72を生成するための処理を実行する。また、取得ボタン662が選択されたときに、画像表示領域620において注目部位A(注目位置a)が選択されており、かつ、表示選択領域650においてマッピング表示タブ652が選択されている場合、制御装置100は、編集領域630の表示を選択されている注目部位Aに対するマッピング画像542に更新する。
撮影ボタン664は、編集領域630において設定されている発光面40内の範囲を発光させた状態で撮像するためのボタンである。制御装置100は、撮影ボタン664が選択されたことを検出したことに基づいて、照明装置4に編集領域630に表示された発光領域632を発光させる照射パターンで光を照射するように指示するとともに、カメラ8に当該照射パターンの下で撮像することを指示する。
登録ボタン666は、編集領域630に表示された発光領域632を発光させる照射パターンを、画像表示領域620において選択されている注目部位A(選択領域622が示す注目位置a)の照射パターンとして登録するためのタブである。戻るボタン668は、編集領域630に表示された照射パターンを登録することなく破棄するためのボタンである。戻るボタン668が選択された場合、たとえば、ユーザインターフェイス画面600が表示部102から消去される。
このように、ユーザは、撮像視野81内に注目位置aを設定し、選択した注目位置aに対応する注目部位Aの反射特性に応じた照明条件を設定することができる。たとえば、ユーザは、表示部102に表示されたマッピング画像542により、発光面40上のいずれの領域を発光させれば、特徴量pを含む、或いは、含まない画像を得られるかを認識することができ、入力部104を介して特徴量pを含む、或いは、含まない画像を得るための照明条件を設定することができる。制御装置100は、設定された照明条件である照射パターンと注目部位Aの撮像視野81内における注目位置aとを対応させて記憶する。なお、制御装置100は、設定された照明条件である照射パターンと注目部位Aの対象物W内における位置とを対応付けて記憶し、撮像視野81内における対象物Wの配置状況と、注目部位Aの対象物W内における位置とから撮像視野81内における位置(注目位置a)を特定するようにしてもよい。
<画像計測方法の一例>
ユーザは、撮像視野81内に複数の注目位置aを設定し、複数の注目位置aの各々に対応する注目部位Aの反射特性に応じて照明条件である照射パターンLを設定することができる。図12を参照して、照射パターンLを利用して生成される検査画像51の生成方法を説明する。ここで、検査画像51は、画像処理システム1が実行する画像計測において用いられる画像である。図12は、検査画像51の生成方法の一例を説明するための図である。
制御装置100は、照明装置4から照射される光の照射パターンを順次変更するように照明装置4を制御するとともに、各照射パターンの下で対象物Wを撮像するようにカメラ8を制御する。制御装置100は、複数の照射パターンの各々において撮像された複数の画像から生成される検査画像51に基づいて対象物Wの外観検査を行なう。
照射パターンLは、カメラ8の撮像視野81内の注目位置a(x、y)ごとに設定されている。ここで、(x,y)とは、撮像視野81内の注目位置aの座標値を意味する。外観検査に利用する検査画像51は、各照射パターンLの下でそれぞれ撮像して得られた複数の元画像52から生成される。検査画像51内の注目位置aの画像は、注目位置aに対応付けて設定された照射パターンLの下で撮像された元画像52から生成される。
図12に示す例では、撮像視野81内の注目位置aとして、注目位置a(x,y)〜注目位置a(x,y)が設定されている。照射パターンLは、注目位置aごとに設定されている。制御装置100は、照射パターンL〜照射パターンLの下で撮像された元画像52(x,y)〜元画像52(x,y)を取得する。
制御装置100は、取得した複数の元画像52(x,y)〜元画像52(x,y)から検査画像51を生成する。制御装置100は、検査画像51内の注目位置a(x,y)の画像を、元画像52(x,y)内の位置(x,y)を含む抽出画像53(x,y)に基づいて生成する。同様に、制御装置100は、検査画像51内の注目位置a(x,y)の画像を抽出画像53(x,y)に基づいて生成し、検査画像51内の注目位置a(x,y)の画像を抽出画像53(x,y)に基づいて生成する。
換言すると、検査画像51は、抽出画像53(x,y)〜抽出画像53(x,y)から生成される。抽出画像53に含まれる画素は、1画素であっても、複数画素であってもよい。抽出画像53の範囲は、注目位置aと当該注目位置aに隣接する注目位置との距離に応じて設定され、抽出画像53(x,y)〜抽出画像53(x,y)から一の検査画像51が生成されるように設定される。なお、抽出画像53同士が互いに重なるように抽出画像53の範囲を設定してもよい。この場合にあっては、重なる部分の画素情報は、重なる2以上の抽出画像53に基づいて生成される。
注目位置aについて設定された照射パターンLは、注目位置aに対応する対象物の注目部位Aの反射特性に応じて設定される。そのため、注目部位Aの反射特性に適した照明条件の下で撮像された画像に基づいて、注目部位Aの計測を行なうことができる。このように、対象物W上の複数の注目部位Aの各々の反射特性に適した照明条件の下で撮像することができるため、精度の高い画像計測を行なうことができる。
<制御装置100の機能構成>
図13は、制御装置100の機能構成を模式的に示した図である。制御装置100は、設定プログラム134を実行することで、図13に示す各構成を制御して、照射パターンを設定する。
制御装置100は、たとえば、発光制御部12と、撮像制御部14と、検出部11と、抽出部16と、出力部18とを備える。
検出部11は、入力部104から入力される撮像視野80内の位置(x,y)の指定を検出する。たとえば、図10に示した、取得ボタン662が操作されると、検出部11は、マッピング画像542を取得する上で必要な入力画像Dがメインメモリ120に保存されているか否かを判断し、保存されていなければ、入力画像Dを取得するための工程Ph1を実行するため、発光制御部12および撮像制御部14に取得指示がされたことを通知する。発光制御部12と、撮像制御部14とが、工程Ph1を実行するための取得部として機能する。
発光制御部12は、取得指示に従い、発光面40上に設定された複数の部分領域43を順次発光させるように照明装置4を制御する。
撮像制御部14は、部分領域43の順次発光に対応して撮像視野81の画像を順次生成するようにカメラ8を制御する。撮像制御部14は、カメラ8が生成した入力画像Dと、入力画像Dが撮影されたときに発光していた部分領域43の発光面40上の位置(X,Y)とを対応付けて、記憶部の一種であるメインメモリ120に保存する。
検出部11は、マッピング画像542を取得する上で必要な入力画像Dがメインメモリ120に保存されていると判断した場合に、入力部104から入力された位置(x,y)に対応する部分画像Mを抽出するように抽出部16に指示する(抽出指示)。入力部104から入力された位置(x,y)は、撮像視野81内の注目位置aの位置であって、画像表示領域620内の選択領域622の位置(x,y)である。
抽出部16は、抽出指示に従って、メインメモリ120に保存されている複数の入力画像Dの各々から、カメラ座標(x,y)の位置に対応する部分画像Mを抽出する。抽出部16は、部分画像Mを抽出すると、指定された注目位置aに対するマッピング画像542を出力するように、出力部18に指示する(出力指示)。
出力部18は、出力指示に従って、部分画像Mが示す特徴量pを、部分画像Mの抽出元の入力画像Dが生成されたときに発光された部分領域43の位置(X,Y)に対応付けた反射プロファイル情報74をマッピング画像542として出力する。具体的に、出力部18は、XY座標上の対応する位置(X,Y)に、位置(X,Y)に対応する入力画像D(X,Y)から抽出される注目位置a(x,y)の部分画像M(X,Y|x,y)が示す特徴量p(x,y|X,Y)の大きさに応じた濃淡値56(x,y|X,Y)をマッピングしたマッピング画像542を表示部102に表示する。
制御装置100は、注目位置aごとに照射パターンを決定し、検査情報136としてハードディスク130に格納する決定部13をさらに備えてもよい。検出部11は、図10の登録ボタン666が操作されたことを検出すると、決定部13に、照射パターンの登録を指示する(登録指示)。
決定部13は、登録ボタン666が操作されたタイミングに、画面表示領域620内で指定されている注目位置a(x,y)と、編集領域630において設定された照射パターンLとを対応付けて決定し、検査情報136としてハードディスク130に格納する。
制御装置100は、画像計測を行なうための画像計測部15を備える。検出部11が所定の検査位置まで対象物Wが搬送されたことを示す信号(検査開始信号)がPLC200から通知されたことを検出する。検出部11は、検査開始信号を検出すると、画像計測部15に、画像計測の開始を指示する(計測指示)。
画像計測部15は、ハードディスク130に格納されている検査情報136にしたがって画像計測を行なう。具体的に、画像計測部15は、検査情報136にしたがって照射パターンLを発光制御部12に設定させ、設定された照射パターンLに対応する注目位置aに対応する位置(x,y)の抽出画像53を生成するように撮像制御部14に指示をする。これにより、画像計測部15は、抽出画像53を複数得られ、得られた抽出画像53に基づいて検査画像51を生成するとともに、生成した検査画像51に基づいて対象物Wの外観を計測する。なお、検査画像51は、複数の抽出画像53から生成されるため、画像計測部15は、照射パターンLに対応する注目位置aの抽出画像53に基づいて、注目位置aを含む領域の画像計測を行なっているともいえる。得られた画像計測結果は、PLC200などに送られる。
<フローチャート>
図14は、指定された注目位置aの反射プロファイル情報72を出力する処理のフローチャートである。反射プロファイル情報72を出力する処理は、CPU110が設定プログラム134をメインメモリに展開して実行することによって実現される処理である。反射プロファイル情報72を出力する処理は、取得ボタン662が操作される度に実行される。
ステップS11において、CPU110は、入力画像Dがメインメモリ120に保存されているか否かを判定する。入力画像Dがメインメモリ120に保存されていないと判定した場合(ステップS11においてNO)、CPU110は処理をステップS12に切り換える。
ステップS12において、CPU110は、発光面40上にすべての部分領域43を設定したか否かを判断する。すべての部分領域43とは、予め設定されている複数種類の部分領域43のすべてを意味する。たとえば、発光面40上の異なる位置に設定されている各部分領域43が、設定されている全ての位置に設定されたか否かを、CPU110は判断する。複数種類の部分領域43は、複数種類の部分領域43のすべてを発光した場合に、予め定められた範囲の発光面40上の範囲が発光されるように設定されればよい。予め定められた範囲は、対象物Wの大きさや、撮像視野81などによって任意に設定される範囲である。発光面40上に設定されていない部分領域43があると判定した場合(ステップS12においてNO)、CPU110は処理をステップS13に切り換える。
ステップS13において、部分領域43を発光面40上に設定して、設定された部分領域43を発光させる。
ステップS14において、CPU110は、カメラ8に、入力画像Dを生成させる。CPU110は、ステップS12においてYESと判定するまで、ステップS13とステップS14とを繰り返す。これにより、CPU110は、複数種類の部分領域43の各々を発光させることができるとともに、複数種類の部分領域43の各々の発光に同期して入力画像Dを生成することができる。
入力画像Dがメインメモリ120に保存されていると判定した場合(ステップS11においてYES)、あるいは、発光面40上にすべての部分領域43を設定したと判定した場合(ステップS12においてYES)、CPU110は処理をステップS15に切り換える。
ステップS15において、CPU110は、複数の入力画像Dの各々から、指定された注目位置aに対応する部分画像Mを抽出する。
ステップS16において、CPU110は、部分画像Mが示す特徴量pを、部分画像Mの抽出元の入力画像Dを生成したときに発光された部分領域43の位置に対応付けた反射プロファイル情報72を出力する。
[E.第2の具体例]
第1の具体例における反射プロファイル情報72は、発光面40上の位置に対応付けられた情報である。第2の具体例における反射プロファイル情報74は、注目部位Aの撮像視野内における位置(注目位置a)に対する相対位置(i,j)に対応付けられた情報である点で反射プロファイル情報70と異なる。なお、入力画像Dの撮像方法、部分画像Mの抽出方法、特徴量pの抽出方法は反射プロファイル情報70と共通するため、一部説明を省略する。
<相対位置について>
相対位置について説明する。相対位置はij座標により表現される。図15は、相対位置について説明するための図である。ij座標は、具体的には、注目位置aと対応関係にある発光面40上の位置を基準位置とした座標である。ここで基準位置とは、たとえば、原点(0,0)を意味する。注目部位Aのカメラ座標系内における注目位置a(x,y)と、対応する発光面40上の位置(X,Y)との間には、たとえば、式(1)の関係が成立する。そのため、注目位置aから、対応する発光面40上の位置(X,Y)を求めることができる。
Figure 0006835020
係数A、Bは、キャリブレーションパラメータであって、カメラ8と照明装置4との位置を固定した後に、カメラ8と照明装置4との位置関係に基づいて計算によって算出するか、あるいは、キャリブレーション操作を行なうことで求めることができる。なお、式(1)は一例であって、式(1)を用いなくとも、カメラ座標系内の位置に対応する発光面40上の位置を予め定めておいてもよい。
<キャリブレーション方法>
注目位置aと発光面40上の位置(X,Y)との対応関係を求めるキャリブレーション方法の一例について説明する。注目位置aとは、撮像視野81内の位置(x,y)に相当するため、キャリブレーションにより発光面40上の位置(X,Y)と、撮像視野81内の位置(x,y)との対応関係が得られる。
制御装置100は、部分領域43を前記発光面40上の異なる位置に順次設定して発光させるとともに、順次発光に対応して撮像視野81の画像を順次生成するように、カメラ8を制御する。検査位置には、キャリブレーション用のターゲットプレートと呼ばれる基準対象物を設置してキャリブレーションを行なってもよく、あるいは、検査対象の対象物Wを設置して行ってもよい。
制御装置100は、順次点灯に応じて得られた複数の画像に含まれる複数の画素の各々から輝度値を抽出する。制御装置100は、複数の画像内の(x,y)に位置する画素の輝度値を互いに比較し、最も輝度値の高い画素を特定する。制御装置100は、特定した画素に対応する画像を取得した際に部分領域43が設定された位置(X,Y)と、当該画素の画像内の位置(x,y)とを対応付ける。制御装置100は、取得した画像内のすべての画素に対して、同じ処理を行なうことで、カメラ座標系と照明座標系との対応関係を得ることができる。カメラ座標系と照明座標系との対応関係を線形近似させることで、キャリブレーションパラメータを算出してもよい。なお、画素ごとに行なうとしたが、複数の画素を一の単位として、複数の画素ごとに上記処理を行なってもよい。
キャリブレーションが上述のように行なわれるため、注目位置aに対応する発光面40上の位置(X,Y)から照射される光は、注目位置aに入射する光のうち、注目位置aに反射してカメラ8に入射する光量がもっとも高い光であるといえる。
<反射プロファイル情報74の生成>
図16は、第2の具体例における反射プロファイル情報74の生成方法を示す図である。なお、反射プロファイル情報74を生成するために利用される入力画像D,部分画像M,および特徴量pの取得方法は、第1の具体例と一部共通するため、一部、説明を省略する。
第2の具体例における反射プロファイル情報74に含まれる特徴量pの範囲は式(2)に示す範囲に設定される。
Figure 0006835020
図16に示す例では、撮像視野81内の注目位置a(x,y)の反射プロファイル情報74が生成される。制御装置100は、式(3)に示す範囲に含まれる入力画像Dを生成し、各々の入力画像Dから注目位置a(x,y)の部分画像Mを抽出する。具体的には、制御装置100は、入力画像D(X−w,Y−w)〜入力画像D(X+w,Y+w)の各々から注目位置a(x,y)の部分画像Mを抽出して、部分画像M(X−w,Y−w|x,y)〜部分画像M(X+w,Y+w|x,y)を抽出する。なお、入力画像D(X,Y)〜入力画像D(X,Y)から、式(3)に示す範囲に含まれる入力画像Dを抽出することで、入力画像D(X−w,Y−w)〜入力画像D(X+w,Y+w)を得てもよい。
Figure 0006835020
ここで、式(3)に示す範囲は、式(2)に基づいて規定される。また、式(3)に示す範囲の入力画像Dは、式(3)に示す範囲内に設定される部分領域43を発光させたときに得られる入力画像Dを意味する。
制御装置100は、部分画像M(X−w,Y−w|x,y)〜部分画像M(X+w,Y+w|x,y)の各々から特徴量pを抽出して、反射プロファイル情報74を生成する。ここで、XY座標をij座標に変換すると、特徴量p(x,y|X−w,Y−w)〜特徴量p(x,y|X+w,Y+w)は、特徴量p(a|−w,−w)〜特徴量p(a|w,w)と表現することができる。特徴量p(ar|−w,−w)とは、注目部位Arに入射する光のうち、注目位置ar(xr,yr)に対応する発光面40上の位置(Xr,Yr)を基準位置としたij座標内の位置(−w、−w)から入射する光に基づく値であるともいえる。
反射プロファイル情報74は、発光面40上のXY座標ではなく、注目位置aと対応関係にある発光面40上の位置を基準位置としたij座標で表現される点で第1の具体例における反射プロファイル情報72と異なる。反射プロファイル情報74がij座標で表現されるため、発光面40と注目部位Aとの位置関係の変化を反映させた反射プロファイル情報74を取得することができる。その結果、発光面40と注目部位Aとの位置関係に関わらず、注目部位Aごとに得られる反射プロファイル情報74を互いに同じ次元で比較することができる。
また、反射プロファイル情報74に含まれる特徴量pの範囲は式(2)に示す範囲に設定されているため、注目部位Aごとに得られる反射プロファイル情報74は、互いに、同じ範囲の情報である。その結果、制御装置100は、注目部位Aごとに得られる反射プロファイル情報74を互いに直接比較することができる。
<反射プロファイル情報74の出力方法>
図17は、第2の具体例における反射プロファイル情報74をマッピング画像544として出力する例を示す図である。制御装置100は、抽出した複数の部分画像Mの各々が示す特徴量pの大きさに応じた濃淡値56を位置(Xr,Yr)を原点としたij座標にマッピングする。たとえば、特徴量p(a|−w,−w)の濃淡値56(a|−w,−w)は、ij座標内の(−w,−w)にマッピングされる。なお、図17においては、濃淡値56がマッピングされていく様子を分かり易くするために、濃淡値56を所定の面積を有する画像として示しているものとする(図20および図21においても同様)。
<反射プロファイル情報74を利用した照明条件の決定方法>
第1の具体例においては、反射プロファイル情報70が撮像視野81内に設定される複数の注目位置aごとに異なる照射パターンLを設定するために利用される例を示した。第2の具体例における反射プロファイル情報74は、基準照射パターンLを設定するために利用される。基準照射パターンLは、注目位置aごとの照射パターンLを決定するために利用される基準となる照射パターンである。以下、基準照射パターンLを用いた注目位置aごとの照射パターンLの決定方法を説明するとともに、基準照射パターンLの設定方法を説明する。
(基準照射パターンLから照射パターンLを決定する方法)
制御装置100は、注目位置aに対応する抽出画像53を取得する場合に、注目位置aと予め対応関係にある発光面40上の位置に基準照射パターンLが示す発光領域を設定することで、照射パターンLを設定する。
図18は、基準照射パターンLを用いた注目位置aごとの照射パターンLの決定方法を説明するための図である。照射パターンLは、注目位置a(x,y)に対応する発光面40上の位置(X,Y)を中心に照射パターンLが作られるように決定される。具体的には、基準となる基準照射パターンLの形状(発光範囲)を示す関数をL(i,j)と定義した場合に、照射パターンLと基準照射パターンLとの間には式(4)の関係が成立する。
Figure 0006835020
制御装置100は、注目位置a(x,y)および基準照射パターンL、ならびに、式(1)および式(4)から照射パターンLを算出することができる。
図19は、基準照射パターンLを利用した検査画像51の生成方法を説明するための図である。注目位置aに対応する発光面40上の位置(X,Y)を基準位置として、基準照射パターンLが示す発光範囲を設定し、元画像52が生成され、元画像52から抽出される抽出画像53に基づいて、検査画像51の注目位置aに対応する位置の画像が生成される。すなわち、注目位置aを順次変えていくことで、基準照射パターンLが示す発光範囲も、発光面40上の異なる位置に順次設定される。
(基準照射パターンLの設定方法)
図20は、基準照射パターンL設定時のユーザインターフェイス画面700を示す図である。ユーザインターフェイス画面700は、図11に示すユーザインターフェイス画面600と比較して、編集領域630の代わりに編集領域730を備え、撮影ボタン664の代わりに撮影ボタン764を備える点で異なる。
編集領域730には、ij座標系のマッピング画像544が表示される。登録ボタン666が操作されると、編集領域730において設定されている発光領域732を基準照射パターンLとして保存する。
撮影ボタン764が操作されると、編集領域730内に描かれた発光領域732が示す基準照射パターンLの下で撮像され、生成された検査画像51が、画像表示領域620に表示される。ユーザは、これにより、設定した基準照射パターンLで所望の画像が得られるか否かを判断することができる。
図21は、基準照射パターンLの設定の流れの一例を示す図である。図21に示す対象物Wは、表面に加工痕が形成された金属である。図21に示す例では、入力画像Dについて、既に取得されているものとする。また、図21には、ユーザインターフェイス画面700の画像表示領域620および編集領域730だけを代表して示している。
対象物Wの注目部位Aに画像計測において検出したい傷が、注目部位Aに画像計測において検出したくない加工痕が設けられているものとする。ユーザは、入力部104を操作して、画像表示領域520内に表示されている対象物Wの画像をもとに、注目部位Aに対応する注目位置aを選択する。注目位置aが選択されると、図21(a)に示すように、制御装置100は、編集領域630に注目位置aに対応するマッピング画像544を表示する。ユーザは、ij座標系で表示された編集領域730内に発光させる領域(発光領域732)を描く。
図21に示す例では、特徴量pが示す大きさが大きいほど濃い色で示されており、特徴量pが示す大きさが大きいと傷があると判断されるものとする。注目位置aには、検出したい傷が設けられているため、画像計測において注目位置aからは大きな特徴量pが抽出されることが望ましい。そのため、ユーザが濃い色で示されている部分を含むように発光領域732を描けば、注目部位Aのような傷を検出しやすい照明条件を設定することができる。図21(b)には、ユーザが濃い色で示されている部分を含むように発光領域732を描いた例を示す。
ここで、注目部位Aのような加工痕を撮像した場合には、小さな特徴量pが抽出されるような照射パターンであることが好ましい。図21(b)に示した状態で、ユーザが、入力部104を操作して、画像表示領域520内に表示されている対象物Wの画像をもとに、注目部位Aに対応する注目位置aを選択すると、図21(c)に示した状態に切り替わる。
図21(c)に示す編集領域730には、注目位置aに対応するマッピング画像544に、傷を検出しやすいように設定された発光領域732が描かれている。ユーザは、図21(c)に示された編集領域730に対して、図21(d)に示すように、濃い色で示されている部分を含まないように、発光領域732を調整する。
このようにすることで、ユーザは、画像計測において、傷として検出したいものは検出でき、検出したくないものは検出されないような照明条件を設定できる。
<第2の具体例における制御装置100の機能構成図>
図22は、第2の具体例における制御装置100の機能構成を模式的に示した図である。制御装置100は、図13に示す機能構成に加えて抽出範囲決定部17を備えてもよい。
抽出範囲決定部17は、入力されたカメラ座標(x,y)に対応する発光面40上の位置(X,Y)を基準位置とした基準座標系(i,j)でのマッピング画像544を作成するため、抽出の範囲を決定する。具体的には、抽出範囲決定部17は、ハードディスク130などの記憶部に記憶されているカメラ座標位置と発光面40上の位置との対応関係を示す対応情報138に基づいてカメラ座標(x,y)に対応する発光面40上の位置(X,Y)を特定する。対応情報138とは、たとえば、キャリブレーションパラメータを含む。抽出範囲決定部17は、特定した位置(X,Y)を基準位置として、抽出する範囲(X−w<X<X+w,Y−w<Y<Y+w)を決定する。
抽出部16は、抽出範囲(X−w<X<X+w,Y−w<Y<Y+w)に含まれる入力画像Dの各々から、カメラ座標(x,y)における部分画像Mを抽出する。抽出部16は、部分画像Mを抽出すると、指定された注目位置a(x,y)に対する反射プロファイル情報74をマッピング画像544として出力するように、出力部18に指示する(出力指示)。
出力部18は、出力指示に従って、部分画像Mが示す特徴量pを、部分画像Mの抽出元の入力画像Dが生成されたときに発光された部分領域43の位置(X,Y)を相対位置(i,j)に対応付けて出力する。出力部18は、注目位置aと対応関係にある発光面40上の位置を基準位置としたij座標に、部分画像Mが示す特徴量pの大きさに応じた濃淡値56をマッピングしたマッピング画像544を表示部102に表示することで、反射プロファイル情報74を出力する。
また、図20の登録ボタン666が操作されると、登録ボタン666の操作中に、編集領域630において設定された基準照射パターンLを検査情報136として記憶する。
制御装置100は、さらに、キャリブレーション部19を備えてもよい。キャリブレーション部19は、対応情報138を生成する。検出部11がキャリブレーションの指示を検出すると、キャリブレーション部19にキャリブレーションの実行を指示する。
キャリブレーション部19は、発光制御部12および撮像制御部14に入力画像Dの取得を指示し、取得した入力画像Dから各画素位置(x,y)に対応する発光面40上の位置を設定し、対応情報138としてハードディスク130などに記憶する。
また、制御装置100は、図13に示す機能構成と比較して、画像計測部15の替わりに、画像計測部15aを備える点で異なる。画像計測部15aは、ハードディスク130に格納されている検査情報136にしたがって画像計測を行なう。具体的に、画像計測部15aは、検査情報136にしたがって、発光制御部12に基準照射パターンLが示す発光範囲を発光面40上の異なる位置(X,Y)に設定させ、発光範囲が設定された発光面40上の位置(X,Y)に対応するカメラ座標内の位置(x,y)の抽出画像53を生成するように撮像制御部14に指示をする。これにより、画像計測部15は、抽出画像53を複数得られ、得られた抽出画像53に基づいて検査画像51を生成するとともに、生成した検査画像51に基づいて対象物Wの外観を計測する。得られた画像計測結果は、PLC200などに送られる。
<第2の具体例におけるフローチャート>
図23は、指定された注目位置aの第2の具体例における反射プロファイル情報74を出力する処理のフローチャートである。図23に示すフローチャートにおいては、図14に示すフローチャートと、ステップS15−1が設けられている点で異なる。
ステップS15−1において、CPU110は、抽出範囲を設定する。抽出範囲として、CPU110は、指定された注目位置aに対応する発光面40上の位置を基準位置に所定の範囲を指定する。以下、ステップS15では、ステップS15−1において指定された抽出範囲にしたがって、部分画像Mが抽出される。
[F.照明装置とカメラと対象物との位置関係の変形例]
本実施の形態においては、カメラ8と対象物Wとの間に照明装置4が配置されている例を示した。なお、照明装置4とカメラ8と対象物Wとの位置関係は同軸上に限るものではなく、照明装置4からの光が対象物Wに照射され、カメラ8の撮像視野81に対象物Wの少なくとも一部が含まれるような位置関係であればよい。
図24は、照明装置4とカメラ8と対象物Wとの位置関係の変形例を示す図である。たとえば、カメラ8の光軸上に照明装置4を配置しなくともよい。図24に示す例では、カメラ8の光軸上に照明装置4が配置されていないため、照明装置4として、透過性を有しないものを採用することができる。
[G.照明装置の変形例]
本実施の形態においては、照明装置4の一例として透明な有機EL照明を例に挙げた。なお、カメラ8と対象物Wとの間に照明装置4を配置する場合、照明装置4は、少なくとも撮像時の視野を遮らないような形状および、視野を遮らないような光学特性のうち少なくともいずれか一方を有していればよい。たとえば、一部に開口部が設けられた照明装置4や、一部が同軸落射照明で構成された照明装置4などであってもよい。図25は、照明装置の変形例を示す図である。変形例の照明装置400は、一部が同軸落射照明410で構成されており、他の部分は、透光性を有しない照明420で構成されている。
[H.反射プロファイル情報70を出力する方法の変形例]
本実施の形態においては、反射プロファイル情報70の出力方法として、所定の座標系に特徴量pをマッピングしたものを出力する方法を例に挙げたが、たとえば、発光面40上の位置と、特徴量Pとの関係を表した近似式などで出力してもよい。
また、マッピング画像を二次元の平面画像としたが、3次元以上で反射プロファイル情報70を表現してもよい。たとえば、発光面40上の位置に対応する座標軸に加えて、特徴量Pの大きさを示す座標軸からなる座標系に特徴量Pをプロットした表現形態であってもよい。
[I.注目位置ごとのマッピング画像544の出力方法]
第2の具体例において、マッピング画像544は、複数の注目位置の各々について得られるマッピング画像544の一例として、順次切替わるものとしたが、複数のマッピング画像544を重ねて表示するようにしてもよい。
[J.部分領域43の設定方法の変形例]
本実施の形態においては、各部分領域43は他の部分領域43と重ならないように設定されるものとした。なお、各部分領域43はその一部を他の部分領域43と重なるように設定されてもよい。たとえば、各部分領域43を他の部分領域43と重なるように設定することで、反射プロファイル情報の分解能を下げることなく、一の部分領域43を発光させたときの光量を確保することができる。
また、各照明要素41の発光強度を調整可能であって、各部分領域43を他の部分領域43と重なるように設定する場合に、照明装置4は、部分領域43の境界から中央に向かうに従って照明要素41の発光強度が大きくなるように部分領域43を発光させてもよい。この場合、部分領域の濃淡パターンは、ガウス分布のような形となる。このようにすることで、部分領域43を均等に発光させた場合に比べて、反射プロファイル情報の分解能を下げることなく、一の部分領域43を発光させたときの光量をさらに上げることができる。
[K.注目部位Aが特定の範囲を示す場合の反射プロファイル情報の生成方法]
本実施の形態において、注目部位Aは特定の位置を示すものであって、注目部位Aに対応する注目位置aは1点を示す情報であるとした。なお、注目部位Aは、特定の範囲を示す情報であってもよく、この場合に、注目位置aは特定の範囲に対応する画像内のある範囲を示す、範囲a’であってもよい。この場合、注目部位Aの反射プロファイル情報は、たとえば、範囲aに含まれる複数の注目位置aの各々について得られる反射プロファイル情報に基づいて生成してもよい。たとえば、注目部位Aの反射プロファイル情報は、複数の注目位置aの各々について得られる反射プロファイル情報を規格化した情報であってもよく、また、各反射プロファイル情報をij座標にマッピングしたときに得られる複数のマッピング画像を合成したような表現形態で表される情報であってもよい。また、部分画像Mの範囲を範囲aに対応させた範囲とすることで、注目部位Aの反射プロファイル情報を取得してもよい。
[L.作用・効果]
以上のように、制御装置100が出力する第1の具体例における反射プロファイル情報72および第2の具体例における反射プロファイル情報74(以下、総じて反射プロファイル情報70ともいう)は、いずれも、発光面40内の位置(X,Y)と、その位置(X,Y)から対象物Wに照射される光が対象物Wの注目部位Aに反射してカメラ8に入射する光の度合いを示す特徴量Pとの関係を示す情報である。
そのため、反射プロファイル情報70に基づいて、発光面40上のいずれの位置から対象物Wに光を照射すれば、どのくらいの光がカメラ8に入射するかの目安が分かり、反射プロファイル情報70は、照明条件を決定するための参考情報となる。その結果、照明条件の設定が容易になる。
また、特徴量pは、撮像視野81内の注目位置aに対応する入力画像D内の輝度情報から得られる。また、第2の具体例における反射プロファイル情報74は、注目部位Aの撮像視野内の位置(注目位置a)に対する相対位置(i,j)に対応付けられた情報である。そのため、発光面40と注目部位Aとの位置関係に関わらず、注目部位Aごとに得られる反射プロファイル情報74を互いに同じ次元で比較することができる。
制御装置100は、相対位置に対応するij座標系に、特徴量pを出力したマッピング画像544という表現形態で反射プロファイル情報74を出力する。そのため、発光面40と注目部位Aとの位置関係に関わらず、同じ座標系で表現されるため、注目部位Aごとに比較する際に、容易に比較ができる。
画像表示領域620に表示された対象物Wに対して、注目位置aの指定ができ、指定された注目位置aのマッピング画像544が編集領域630や編集領域730に表示される。そのため、撮像視野81内のいずれの位置の注目部位Aについてのマッピング画像544であるかをユーザは容易に把握できる。
図21に示すように、ユーザは、画像表示領域620に表示された対象物Wの画像に対して、注目位置aを複数設定することができ、設定した複数の注目位置aのマッピング画像を順次、編集領域に表示することができる。これにより、注目位置aごとのマッピング画像を比較することが容易である。なお、図21に示す例では、注目位置aを1つ選択しては、マッピング画像544が1つ表示される例を示したが、複数の注目位置aを同時に選択し、選択した複数の注目位置aに対応するマッピング画像544を同時にまたは、順次に出力してもよい。
照射パターンLは、反射プロファイル情報72に基づいて決定される。そのため、決定された照明条件に対する説明性を確保することができる。なお、反射プロファイル情報74に基づいて決定される基準照射パターンLについても、同様に、説明性を確保することができる。
照明装置として、カメラ8と対象物Wとの間に配置することができる照明装置4を用いることで、カメラ8から対象物Wまでの間に照明装置4が配置できない場合に比べて、全体的にコンパクトな画像処理システム1を提供することができる。その結果、適用可能な設備の選定に制約を受けることを極力回避することができる。
[M.付記]
以上のように、本実施の形態は以下のような開示を含む。
(構成1)
対象物(W)を撮像する撮像部(8)と、
前記対象物(W)に向けられた発光面(40)を有する発光部(4,400)と、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(40)を制御する発光制御部(12)と、
前記複数種類の部分領域(43)の各々の発光に同期して撮像するように、前記撮像部(8)を制御する撮像制御部(14)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(L)が当該対象物(W)の注目部位(A)に反射して前記撮像部(8)に入射する光(L)の度合いとの関係を示す反射プロファイル情報(70,72,74)を出力する出力部(18)とを備える、画像処理システム。
(構成2)
前記反射プロファイル情報(74)は、前記複数の画像(D)の各々から得られる、当該画像(D)内の撮像視野内の注目点(a)に対応する輝度情報(p)および当該画像が撮像されたときに発光している前記部分領域(43)の当該注目点(a)に対する相対位置(i,j)に基づく情報である、構成1に記載の画像処理システム。
(構成3)
前記出力部(18)は、前記相対位置(i,j)に対応する2軸以上の座標系に、前記輝度情報に対応する情報(56)を出力した表現形態(544)により前記反射プロファイル情報(74)を出力する、構成2に記載の画像処理システム。
(構成4)
前記出力部(18)は、前記撮像部(8)により撮像された撮像視野(81)の画像(620)に対してユーザが指定した当該画像上の位置情報に基づいて決定された前記注目点(a)に対応する前記反射プロファイル情報(74)を前記表現形態(544,730)によって出力する、構成3に記載の画像処理システム。
(構成5)
前記出力部(18)は、撮像視野(81)内の複数の注目点(a)の各々について得られる前記反射プロファイル情報(74)を、同時または順次に前記座標系(i,j)上に出力する(730)、構成3または構成4に記載の画像処理システム。
(構成6)
前記反射プロファイル情報(72,74)を用いて、前記発光部(4,400)の発光条件(L)を決定する決定部(13)をさらに備える、構成1〜構成5のうちいずれか1に記載の画像処理システム。
(構成7)
前記発光部(4,400)は、前記撮像部と前記対象物までの間に配置されるとともに、前記発光部は撮像時の視野を遮らないような形状および、視野を遮らないような光学特性のうち少なくともいずれか一方を有する、構成1〜構成6のうちいずれか1項に記載の画像処理システム。
(構成8)
対象物(W)を撮像する撮像部(8)と、前記対象物(W)に向けられた発光面(40)を有する発光部(4,400)とを制御して画像処理を行なう画像処理装置(100)であって、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(4,400)を制御する発光制御部(12)と、
前記複数種類の部分領域(43)の各々の発光に同期して撮像するように、前記撮像部(8)を制御する撮像制御部(14)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(L)が当該対象物(W)の注目部位(A)に反射して前記撮像部(8)に入射する光(L)の度合いとの関係を示す反射プロファイル情報(70,72,74)を出力する出力部(18)とを備える、画像処理装置。
(構成9)
対象物(W)を撮像する撮像部(8)と、前記対象物(W)に向けられた発光面(40)を有する発光部(4,400)とを制御して画像処理を行なう画像処理装置(100)に実行される画像処理プログラム(134)であって、
前記発光面(40)のうち予め設定した複数種類の部分領域(43)の各々が発光するように、前記発光部(8)を制御するステップ(S13)と、
前記複数種類の部分領域(43)の各々の発光に同期して撮像するように、前記撮像部(8)を制御するステップ(S14)と、
前記撮像部(8)が前記複数種類の部分領域(43)の各々の発光に同期させて撮像した複数の画像(D)をもとに得られる、前記発光面(40)内の位置(X,Y、i,j)と、当該位置から前記対象物(W)に照射される光(L)が当該対象物(W)の注目部位(A)に反射して前記撮像部(8)に入射する光(L)の度合いとの関係を示す反射プロファイル情報(70,72,74)を出力するステップ(S16)とを備える、画像処理プログラム。
(構成10)
対象物(W)を撮像する撮像部(8)と、
前記撮像部(8)と前記対象物(W)までの間に配置されるとともに、前記対象物(W)に向けられた発光面(40)を有する発光部(4)と、
予め定められた大きさの単位部分領域(43)を前記発光面(40)上の異なる位置(X,Y)に順次設定して発光させるように、前記発光部(4)を制御する発光制御部(12)と、
前記単位部分領域(43)の順次発光に対応して撮像視野の画像である入力画像(D)を順次生成するように、前記撮像部を制御する撮像制御部(14)と、
前記撮像視野に対する注目位置(a)の指定に応じて、順次生成された前記入力画像(D)の少なくとも一部から、前記注目位置(a)に対応する部分画像(M)を抽出する抽出部(16)と、
前記抽出部(16)により抽出された前記部分画像(M)が示す特徴量(P)を、前記部分画像(M)の抽出元の前記入力画像(D)を生成するときに発光させた前記単位部分領域(43)の位置(X,Y)に対応付けて出力する出力部(16)とを備える、画像処理システム。
(構成11)
前記特徴量(P)は、前記発光面(40)上に設定された単位部分領域(43)から前記注目位置(a)に入射する光が前記注目位置(a)に反射して前記撮像部に入射する光の強度を示す値である、構成10に記載の画像処理システム。
(構成12)
表示部(102)をさらに備え、
前記出力部(16)は、前記発光面(40)を示す第1の座標系(XY,ij)上の対応する単位部分領域(43)の位置(X,Y)を、当該単位部分領域(43)の位置に対応する特徴量(P)の大きさに応じた表示態様で表現した第1の画像(542,544)を前記表示部(102)に表示させる、構成10または構成11に記載の画像処理システム。
(構成13)
前記表示部(102)に表示される前記第1の座標系(XY,ij)上において、発光面(40)上の位置ごとに発光強度の指定を受け付ける入力部(104)と、
前記入力部(104)による指定に応じて、前記対象物(W)の画像計測において用いられる照射パターン(L)を決定する決定部(13)とをさらに備える、構成12に記載の画像処理システム。
(構成14)
前記出力部(16)は、前記入力部(104)による指定を前記第1の画像(542,544)に反映する、構成13に記載の画像処理システム。
(構成15)
前記表示部(102)には、前記撮像部(8)により撮像された撮像視野の画像(620)が表示され、
前記入力部(104)は、前記表示部(102)に表示された前記撮像視野の画像(620)に対するユーザ指定(622,662)を受け付け、
前記抽出部(16)は、前記入力部が受け付けたユーザ指定(622,662)に基づいて前記注目位置(a)を特定する、構成13または構成14に記載の画像処理システム。
(構成16)
前記表示部には、前記撮像部により撮像された撮像視野の画像(620)と、前記第1の画像(542,544)とが並べて表示される、構成15に記載の画像処理システム。
(構成17)
前記決定部(13)は、指定された前記注目位置(a)と対応付けて前記照射パターン(L)を決定し、
前記決定部(13)が決定した前記照射パターン(L)で前記発光面(40)を発光した時に、前記撮像部(8)が生成した前記照射パターン(L)に対応する前記注目位置(a)の画像(53)に基づいて、前記注目位置(a)を含む領域の画像計測を行なう画像計測部(15)をさらに備える、構成13〜構成16のうちいずれか1に記載の画像処理システム。
(構成18)
前記発光部(4)が前記発光面(40)上の異なる位置に前記決定部(13)が決定した前記照射パターン(L)が示す発光領域を順次設定して発光させて、前記撮像部(8)が前記発光領域の順次発光に応じて設定された前記発光面(40)上の位置と対応関係にある撮像視野内の位置(x,y)に対応する画像(53)を順次生成し、
前記撮像部(8)が前記発光領域の順次発光に応じて生成した複数の画像に基づいて前記対象物の画像計測を行なう画像計測部(15a)をさらに備える、構成13〜構成16のうちいずれか1に記載の画像処理システム。
(構成19)
前記抽出部(16)は、指定された前記注目位置(a)と対応関係にある前記発光面上の位置(X,Y)を基準位置とする予め定められた範囲(X−w≦X≦X+w,Y−w≦Y≦Y+w)内に含まれる位置に設定された前記単位部分領域を発光した時に生成された前記入力画像(D)から前記部分画像(M)を抽出する、構成18に記載の画像処理システム。
今回開示された各実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。また、実施の形態および各変形例において説明された発明は、可能な限り、単独でも、組合わせても、実施することが意図される。
1 画像処理システム、4,400 照明装置、6 外部メモリ、8 カメラ、11 検出部、12 発光制御部、13 決定部、14 撮像制御部、15,15a 画像計測部、16 抽出部、17 抽出範囲決定部、18 出力部、19 キャリブレーション部、40 発光面、41 照明要素、43 部分領域、51 検査画像、52 元画像、53 抽出画像、542,544 マッピング画像、56 濃淡値、70,72,74 反射プロファイル情報、81 撮像視野、100 制御装置、102 表示部、104 入力部、110 CPU、120 メインメモリ、130 ハードディスク、132 画像処理プログラム、134 設定プログラム、136 検査情報、138 対応情報、140 照明I/F、150 通信I/F、160 外部メモリI/F、164 光学ドライブ、172 表示コントローラ、174 入力I/F、164A 光学ディスク、180 カメラI/F、190 バス、200 PLC、300 ステージ、600,700 ユーザインターフェイス、610 照明設定タブ、620 画像表示領域、630,730 編集領域、640 ツール選択領域、650 表示選択領域、660 指示領域、D 入力画像、L 照射パターン、L 基準照射パターン、M 部分画像、P,p 特徴量、W 対象物、a 注目位置。

Claims (9)

  1. 対象物を撮像する撮像部と、
    前記対象物に向けられた発光面を有する発光部と、
    前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御する発光制御部と、
    前記複数種類の部分領域の各々の発光に同期して撮像するように、前記撮像部を制御する撮像制御部と、
    前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、前記発光面内の位置と、当該位置から前記対象物に照射される光が当該対象物の注目部位に反射して前記撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力する出力部とを備える、画像処理システム。
  2. 前記反射プロファイル情報は、前記複数の画像の各々から得られる、当該画像内の撮像視野内の注目点に対応する輝度情報および当該画像が撮像されたときに発光している前記部分領域の当該注目点に対する相対位置に基づく情報である、請求項1に記載の画像処理システム。
  3. 前記出力部は、前記相対位置に対応する2軸以上の座標系に、前記輝度情報に対応する情報を出力した表現形態により前記反射プロファイル情報を出力する、請求項2に記載の画像処理システム。
  4. 前記出力部は、前記撮像部により撮像された撮像視野の画像に対してユーザが指定した当該画像上の位置情報に基づいて前記注目点を決定するとともに、決定した前記注目点に対応する前記反射プロファイル情報を前記表現形態によって出力する、請求項3に記載の画像処理システム。
  5. 前記出力部は、撮像視野内の複数の注目点の各々について得られる前記反射プロファイル情報を、同時または順次に前記座標系上に出力する、請求項3または請求項4に記載の画像処理システム。
  6. 前記反射プロファイル情報を用いて、前記発光部の発光条件を決定する決定部をさらに備える、請求項1〜請求項5のうちいずれか1に記載の画像処理システム。
  7. 前記発光部は、前記撮像部と前記対象物までの間に配置されるとともに、前記発光部は撮像時の視野を遮らないような形状および、視野を遮らないような光学特性のうち少なくともいずれか一方を有する、請求項1〜請求項6のうちいずれか1項に記載の画像処理システム。
  8. 対象物を撮像する撮像部と、前記対象物に向けられた発光面を有する発光部とを制御して画像処理を行なう画像処理装置であって、
    前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御する発光制御部と、
    前記複数種類の部分領域の各々の発光に同期して撮像するように、前記撮像部を制御する撮像制御部と、
    前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、前記発光面内の位置と、当該位置から前記対象物に照射される光が当該対象物の注目部位に反射して前記撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力する出力部とを備える、画像処理装置。
  9. 対象物を撮像する撮像部と、前記対象物に向けられた発光面を有する発光部とを制御して画像処理を行なう画像処理装置に実行される画像処理プログラムであって、
    前記発光面のうち予め設定した複数種類の部分領域の各々が発光するように、前記発光部を制御するステップと、
    前記複数種類の部分領域の各々の発光に同期して撮像するように、前記撮像部を制御するステップと、
    前記撮像部が前記複数種類の部分領域の各々の発光に同期させて撮像した複数の画像をもとに得られる、前記発光面内の位置と、当該位置から前記対象物に照射される光が当該対象物の注目部位に反射して前記撮像部に入射する光の度合いとの関係を示す反射プロファイル情報を出力するステップとを備える、画像処理プログラム。
JP2018047628A 2018-03-15 2018-03-15 画像処理システム、画像処理装置、画像処理プログラム Active JP6835020B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018047628A JP6835020B2 (ja) 2018-03-15 2018-03-15 画像処理システム、画像処理装置、画像処理プログラム
EP19156650.4A EP3540647B1 (en) 2018-03-15 2019-02-12 Image processing system and image processing program
CN201910111609.9A CN110278384B (zh) 2018-03-15 2019-02-12 图像处理系统、图像处理装置、图像处理方法
US16/278,154 US10896499B2 (en) 2018-03-15 2019-02-17 Image processing system, image processing device and image processing program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018047628A JP6835020B2 (ja) 2018-03-15 2018-03-15 画像処理システム、画像処理装置、画像処理プログラム

Publications (2)

Publication Number Publication Date
JP2019161526A JP2019161526A (ja) 2019-09-19
JP6835020B2 true JP6835020B2 (ja) 2021-02-24

Family

ID=65411810

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018047628A Active JP6835020B2 (ja) 2018-03-15 2018-03-15 画像処理システム、画像処理装置、画像処理プログラム

Country Status (4)

Country Link
US (1) US10896499B2 (ja)
EP (1) EP3540647B1 (ja)
JP (1) JP6835020B2 (ja)
CN (1) CN110278384B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102019128710B4 (de) * 2019-10-24 2023-02-23 Sick Ag Kamera und Verfahren zur Erfassung von Bilddaten aus einem Erfassungsbereich

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08201044A (ja) * 1995-01-31 1996-08-09 Nippei Toyama Corp 半田付け検査用画像入力装置
JP2006313147A (ja) * 2005-04-08 2006-11-16 Omron Corp 欠陥検査方法およびその方法を用いた欠陥検査装置
JP4412236B2 (ja) * 2005-05-30 2010-02-10 ソニー株式会社 画像処理装置、画像処理方法および画像処理プログラム
EP2688278A4 (en) * 2011-03-15 2014-08-13 Fujitsu Frontech Ltd IMAGING DEVICE, IMAGING METHOD, AND IMAGING PROGRAM
EP2512121B1 (en) * 2011-04-13 2013-06-05 Axis AB Illumination device
JP5900037B2 (ja) * 2012-03-08 2016-04-06 オムロン株式会社 画像処理装置およびその制御方法
ES2890649T3 (es) * 2013-05-23 2022-01-21 Rina Consulting Centro Sviluppo Mat S P A Método para la inspección de superficie de productos largos y aparato adecuado para llevar a cabo dicho método
CN105247852B (zh) * 2013-06-07 2019-03-08 松下知识产权经营株式会社 图像获取装置、图像获取方法以及记录介质
EP2887645A1 (en) * 2013-12-19 2015-06-24 Thomson Licensing Method and apparatus for acquiring a set of images illuminated by a flash
JP6398248B2 (ja) * 2014-01-21 2018-10-03 セイコーエプソン株式会社 位置検出システム、及び、位置検出システムの制御方法
JP6408259B2 (ja) * 2014-06-09 2018-10-17 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6395456B2 (ja) 2014-06-09 2018-09-26 株式会社キーエンス 画像検査装置、画像検査方法、画像検査プログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器
JP6403445B2 (ja) * 2014-06-09 2018-10-10 株式会社キーエンス 検査装置、検査方法およびプログラム

Also Published As

Publication number Publication date
EP3540647B1 (en) 2023-12-27
CN110278384B (zh) 2021-01-22
JP2019161526A (ja) 2019-09-19
EP3540647A1 (en) 2019-09-18
US10896499B2 (en) 2021-01-19
CN110278384A (zh) 2019-09-24
US20190287236A1 (en) 2019-09-19

Similar Documents

Publication Publication Date Title
US9959451B2 (en) Image inspection device, image inspection method and image inspection program
US20170030706A1 (en) Measurement Target Measuring Program, Measurement Target Measuring Method, And Magnifying Observation Device
US20070176927A1 (en) Image Processing method and image processor
JP7010057B2 (ja) 画像処理システムおよび設定方法
JP5432864B2 (ja) 検査装置及び検査方法
JP6791631B2 (ja) 画像生成方法及び検査装置
JP6233824B1 (ja) 画像検査装置、生産システム、画像検査方法、プログラム及び記憶媒体
JP6904263B2 (ja) 画像処理システム
JP6392922B1 (ja) 検査システムの検査対象外となる領域を算出する装置、および検査対象外となる領域を算出する方法
US20130100170A1 (en) Image Processing Apparatus And Image Processing Program
JP6835020B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
JP2023077054A (ja) 外観検査装置及び外観検査方法
JP4954738B2 (ja) 電極パッド位置の検出方法及び電極パッド位置検出装置
JP7154084B2 (ja) 三次元形状測定装置および三次元形状測定プログラム
JP2011191170A (ja) 画像処理装置
JP6973205B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
JP5867123B2 (ja) 3次元形状計測装置およびキャリブレーション方法
JP7342616B2 (ja) 画像処理システム、設定方法およびプログラム
JP6590455B1 (ja) 検査ユニット、プログラム及び記憶媒体
JP7151873B2 (ja) 検査装置
JP6284428B2 (ja) 顕微鏡システム
JPH05296745A (ja) 形状測定装置
JP7306858B2 (ja) 画像検査システム及び画像検査方法
JP2023077055A (ja) 外観検査装置及び外観検査方法
JP2021032835A (ja) 画像計測システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20201218

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210118

R150 Certificate of patent or registration of utility model

Ref document number: 6835020

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150