JP6540557B2 - 画像計測システムおよびコントローラ - Google Patents

画像計測システムおよびコントローラ Download PDF

Info

Publication number
JP6540557B2
JP6540557B2 JP2016043191A JP2016043191A JP6540557B2 JP 6540557 B2 JP6540557 B2 JP 6540557B2 JP 2016043191 A JP2016043191 A JP 2016043191A JP 2016043191 A JP2016043191 A JP 2016043191A JP 6540557 B2 JP6540557 B2 JP 6540557B2
Authority
JP
Japan
Prior art keywords
area
image
illumination light
mask
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016043191A
Other languages
English (en)
Other versions
JP2017161232A (ja
Inventor
白水 岳
岳 白水
勇樹 谷保
勇樹 谷保
直哉 越智
直哉 越智
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp filed Critical Omron Corp
Priority to JP2016043191A priority Critical patent/JP6540557B2/ja
Priority to EP16206552.8A priority patent/EP3217661B1/en
Priority to US15/391,022 priority patent/US10313569B2/en
Publication of JP2017161232A publication Critical patent/JP2017161232A/ja
Application granted granted Critical
Publication of JP6540557B2 publication Critical patent/JP6540557B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2504Calibration devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/25Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
    • G01B11/2513Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/69Control of means for changing angle of the field of view, e.g. optical zoom objectives or electronic zooming

Description

本技術は、指示された照射パターンに従って照明光を変更できる、画像計測システムおよびコントローラに関する。
FA(Factory Automation)分野では、画像計測技術を用いた自動制御技術が広く利用されている。例えば、ワークなどの対象物を撮像し、その撮像された画像に対してパターンマッチングなどの画像計測処理を実行することで、各種の制御指令を生成するといった自動化処理が実現されている。このような画像計測技術を実現する視覚センサでは、外乱光の影響を抑制して、画像計測の精度を高めるなどの目的で、対象物に対して適切な照明光を照射する構成が採用されることが多い。
視覚センサの分野ではないが、プロジェクタを用いて任意の照明光を照射する照明装置が提案されている。例えば、特開2009−099510号公報(特許文献1)は、光源部として投影式プロジェクタを採用した、物体の色をより鮮やかに見せるための照明装置を開示する。投影式プロジェクタを採用することで、対象物に含まれる複数の色を鮮やかに見せることができるといった効果を奏する。
特開2009−099510号公報
特許文献1に開示される照明装置は、照明される対象物に含まれる複数の色を鮮やかに見せることを目的としており、上述したような視覚センサに用いることは何ら想定されていない。
本技術は、任意の照明光を照射可能なプロジェクタを用いて、画像計測処理が可能な対象物のバリエーションを拡大することができる画像計測システムおよびそれに用いられるコントローラを提供することを目的とする。
本発明のある局面に従う画像計測システムは、コントローラと、コントローラから指示された照射パターンに従って照明光を照射するプロジェクタと、照明光が照射される領域を撮像視野に含む撮像部と、画像を表示可能な表示部とを含む。コントローラは、照明光が照射されている状態で撮像部により撮像された撮像視野の画像を表示部に表示する表示制御手段と、表示部に表示される画像に関連付けて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定を受付ける受付手段と、プロジェクタの照射パターンと当該照射パターンにより撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、設定されたマスク領域に従って、照射パターンを更新する更新手段とを含む。
好ましくは、表示制御手段は、撮像視野の画像に加えて、設定されたマスク領域を示す表示領域を、当該撮像視野の画像の表示領域に関連付けて表示する。
好ましくは、表示制御手段は、撮像視野の画像に加えて、設定されたマスク領域を撮像視野の画像に合成した画像を表示する。
好ましくは、表示制御手段は、撮像視野の画像と、設定されたマスク領域を撮像視野の画像に合成した画像とを選択的に表示する。
好ましくは、受付手段は、さらに、プロジェクタから照射される照明光の光量の大きさの設定を受付ける。
好ましくは、受付手段は、互いに異なる複数のマスク領域の設定を受付けることができるように構成されている。
好ましくは、受付手段は、複数のマスク領域の別に、プロジェクタから照射される照明光の光量の大きさの設定を受付ける。
好ましくは、受付手段は、予め規定された複数の形状の選択を受付けるとともに、選択された形状の領域の大きさおよび位置の指定を受付ける。
好ましくは、画像計測システムは、撮像視野の画像内の所定条件に適合する画素値を有する領域をマスク領域の候補として抽出する抽出手段をさらに含む。
好ましくは、抽出手段は、プロジェクタから照射される照明光の光量を複数に異ならせた状態で、それぞれ撮像された撮像視野の画像に基づいて、所定条件を決定する。
好ましくは、受付手段は、抽出されたマスク領域の候補の形状を変更する操作を受付ける。
好ましくは、受付手段は、画像計測処理の対象となる領域である検査領域の設定を受付けるとともに、撮像視野のうち当該検査領域を除く領域をマスク領域として設定する。
好ましくは、コントローラは、設定されたマスク領域に対応する照射パターンに従って照明光が照射されている状態で、複数の撮像条件下で撮像されたそれぞれの画像を合成して合成画像を生成する合成手段と、マスク領域の大きさおよび位置の少なくとも一方を変化させつつ、各マスク領域に対応する照射パターンに従う照明光が照射されている状態で生成された合成画像のコントラストを評価することで、マスク領域の大きさまたは位置を最適化する最適化手段とを含む。
好ましくは、コントローラは、プロジェクタから予め定められた基準の照射パターンに従って照明光を照射させるとともに、撮像部により撮像された画像に現れる投影パターンに基づいて、位置についての対応関係を決定する決定手段をさらに含む。
本発明の別の局面に従う画像計測システムは、コントローラと、コントローラから指示された照射パターンに従って照明光を照射するプロジェクタと、照明光が照射される領域を撮像視野に含む撮像部と、画像を表示可能な表示部とを含む。コントローラは、照明光が照射されている状態で撮像部により撮像された撮像視野の画像内の所定輝度を超える画素からなる領域を抽出する抽出手段と、抽出された領域に基づいて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域を決定する決定手段と、プロジェクタの照射パターンと当該照射パターンにより撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、決定されたマスク領域に従って、照射パターンを更新する更新手段とを含む。
本発明のさらに別の局面に従えば、照明光を照射するプロジェクタと、照明光が照射される領域を撮像視野に含む撮像部とを含む画像計測システムに用いられるコントローラが提供される。コントローラは、プロジェクタに対して照射パターンに従う照明光の照射を指示する照明制御手段と、照明光が照射されている状態で撮像部により撮像された撮像視野の画像を表示部に表示する表示制御手段と、表示部に表示される画像に関連付けて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定を受付ける受付手段と、プロジェクタの照射パターンと当該照射パターンにより撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、設定されたマスク領域に従って、照射パターンを更新する更新手段とを含む。
本発明のさらに別の局面に従えば、照明光を照射するプロジェクタと、照明光が照射される領域を撮像視野に含む撮像部とを含む画像計測システムに用いられるコントローラが提供される。コントローラは、プロジェクタに対して照射パターンに従う照明光の照射を指示する照明制御手段と、照明光が照射されている状態で撮像部により撮像された撮像視野の画像内の所定輝度を超える画素からなる領域を抽出する抽出手段と、抽出された領域に基づいて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域を決定する決定手段と、プロジェクタの照射パターンと当該照射パターンにより撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、決定されたマスク領域に従って、照射パターンを更新する更新手段とを含む。
本技術によれば、任意の照明光を照射可能なプロジェクタを用いて、画像計測処理が可能な対象物のバリエーションを拡大することができる画像計測システムおよびそれに用いられるコントローラを提供できる。
本実施の形態に係る画像計測システムの基本構成を示す模式図である。 図1に示すコントローラのハードウェア構成例を示す模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域の設定方法の一例を説明するための模式図である。 本実施の形態に係る画像計測システムにおける照射パターンと投影パターンとの関係の一例を説明するための模式図である。 本実施の形態に係る画像計測システムを用いた画像計測処理の操作手順の一例を示すフローチャートである。 本実施の形態に係る画像計測システムにおけるキャリブレーション処理を説明するための模式図である。 本実施の形態に係る画像計測システムにおけるキャリブレーションの確認手順を説明するための模式図である。 図5のステップS1のより詳細な手順を示すフローチャートである。 本実施の形態に係る画像計測システムにおけるマスク領域を設定するためのユーザインターフェイスの一例を示す模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域を設定するためのユーザインターフェイスの一例を示す模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域を設定するためのユーザインターフェイスの一例を示す模式図である。 図5のステップS3のより詳細な手順を示すフローチャートである。 光の滲み出しについて説明する模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域を半自動操作によって設定するためのユーザインターフェイスの一例を示す模式図である。 図14に示すマスク候補領域に対する編集操作を行うためのユーザインターフェイスの一例を示す模式図である。 図14および図15に示すマスク領域設定の手順を示すフローチャートである。 本実施の形態に係る画像計測システムが対象物を撮像することで得られたカメラ画像の一部を例示する図である。 本実施の形態に係る画像計測システムにおけるマスク領域を自動設定するための処理手順を説明する模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域を自動設定するための処理手順を説明する模式図である。 本実施の形態に係るマスク領域の自動設定の処理手順を示すフローチャートである。 本実施の形態に係る画像計測システムにおけるマスク領域の自動設定処理に適した光学系を示す模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域の自動設定処理に向けられたユーザインターフェイスの一例を示す模式図である。 本実施の形態に係る画像計測システムにおける検査領域に対応してマスク領域を設定する処理を説明するための模式図である。 本実施の形態に係る画像計測システムにおける検査領域に対応したマスク領域の最適化の処理を説明するための模式図である。 本実施の形態に係る画像計測システムにおける検査領域に対応したマスク領域の最適化の処理手順を示すフローチャートである。 本実施の形態に係る画像計測システムにおいて複数のマスク領域を設定する場合の操作例を説明するための模式図である。 本実施の形態に係る画像計測システムにおけるマスク領域の抽出方法の一例を説明するための模式図である。 本実施の形態に係る画像計測システムにおいて設定したマスク領域に対する変更の操作例を説明するための模式図である。 本実施の形態に係る画像計測システムにおいて設定される複数の領域間での照明光量の反映方法を説明するための模式図である。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
<A.基本構成>
まず、本実施の形態に係る画像計測システムの基本構成について説明する。図1は、本実施の形態に係る画像計測システム1の基本構成を示す模式図である。
図1を参照して、画像計測システム1は、コントローラ100と、コントローラ100に接続された撮像部4およびプロジェクタ6を含む。コントローラ100は、画像計測システム1全体の処理を司る。
撮像部4は、試料台2に配置された任意の対象物を撮像し、撮像により得られた画像信号(1または複数の静止画像および動画像を含み得る)をコントローラ100へ出力する。撮像部4は、所定の撮像視野41に含まれる光を画像信号に変換する光電変換器であり、典型的には、CCD(Charge-Coupled Device)イメージセンサ、CMOS(Complementary Metal-Oxide-Semiconductor)イメージセンサなどから構成される。
プロジェクタ6は、試料台2に配置された任意の対象物に対して照明光61を照射する。プロジェクタ6から照射される照明光61は、コントローラ100から指示された照射パターンに従って任意に変更可能になっている。プロジェクタ6は、基本的には、白色LED(Light Emitting Diode)、キセノンランプなどの発光波長の幅が比較的広い光源と、当該光源の前面に配置されて任意の照射パターンを形成するパターン形成部とを含む。パターン形成部は、典型的には、透過率もしくは反射率を部分的に変化可能な透過層もしくは反射層、または、反射率を任意に変更可能な画素毎に配置されたデバイスなどを用いて構成される。プロジェクタ6の構成については、特に制限されることなく、公知の構成を採用できる。
図1に示すように、プロジェクタ6は、コントローラ100から指示された照射パターンに従って照明光61を照射するとともに、撮像部4は、照明光61が照射される領域を撮像視野41に含む。この図1に示す構成例においては、撮像部4の撮像方向は光軸AX1であり、プロジェクタ6の照明光61の照射方向は光軸AX1とは異なる光軸AX2である。そのため、プロジェクタ6が照射した照明光61のパターン、すなわちプロジェクタ6の射出窓から射出された照明光61の光軸AX2断面における濃淡パターンと、試料台2または対象物に到達して照射される照明光61を撮像部4が撮像することで得られる画像内の濃淡パターンとは必ずしも一致しない。以下では、説明の便宜上、プロジェクタ6の射出窓から射出された照明光61の光軸AX2断面における濃淡パターンを「照射パターン」とも称し、照明光61が試料台2または対象物に投影されて生じる濃淡パターンを「投影パターン」とも称す。
画像計測システム1は、さらに、コントローラ100に接続された表示部120および操作部122を含む。表示部120は、画像を表示可能な液晶パネルなどで構成される。操作部122は、ユーザからの操作を受付ける。操作部122は、典型的には、タッチパネル、キーボード、マウスなどで構成される。なお、表示部120および操作部122を、表示設定器として一体化して構成してもよい。
表示部120および操作部122を介したユーザインターフェイスの詳細については、後述する。
コントローラ100は、典型的には、汎用的なコンピュータをベースに構成することができる。図2は、図1に示すコントローラ100のハードウェア構成例を示す模式図である。図2を参照して、コントローラ100は、主たるコンポーネントとして、プロセッサ102と、ハードディスクドライブ(HDD:Hard Disk Drive)118と、主メモリ108と、カメラインターフェイス104と、照明インターフェイス106と、表示インターフェイス110と、操作インターフェイス112と、通信インターフェイス114と、光学ドライブ124とを含む。これらのコンポーネントは、内部バス116を介して互いにデータ通信可能に接続される。
プロセッサ102は、CPU(Central Processing Unit)、MPU(Micro Processing Unit)などの演算処理部であり、ハードディスクドライブ118から読み出したプログラムを主メモリ108に展開して実行することで、後述するような各種処理を実現する。主メモリ108は、典型的には、DRAM(Dynamic Random Access Memory)などの不揮発性メモリで構成される。
ハードディスクドライブ118には、典型的には、画像計測処理プログラム1181および設定パラメータ1182が格納される。画像計測処理プログラム1181が実行されることにより実現される処理、および、設定パラメータ1182の決定方法などについては、後述する。
カメラインターフェイス104は、撮像部4と接続され、撮像部4の撮像により得られる画像信号を取込むとともに、撮像部4に対して、撮像タイミングなどの指令を送出する。
照明インターフェイス106は、プロジェクタ6と接続され、プロジェクタ6に対して、照明パターンなどの指令を与えるとともに、プロジェクタ6から状態値などを取込む。
表示インターフェイス110は、表示部120と接続され、プロセッサ102などからの指令に従って、表示部120に対して、画像を表示するための画像信号を送出する。
操作インターフェイス112は、操作部122と接続され、操作部122からのユーザ操作を示す信号を取込む。
通信インターフェイス114は、図示しないネットワークなどに接続され、ネットワーク上のサーバ装置などとのデータの遣り取りを仲介する。
光学ドライブ124は、DVD−ROM(Digital Versatile Disc-Read Only Memory)などの光学ディスク126からプログラムを読み取って、ハードディスクドライブ118などにインストールする。本実施の形態に係る画像計測システム1を実現するためのプログラムを格納する記憶媒体としては、光学ディスク126に限らず、任意の記憶媒体を採用することができる。光学ディスク126以外の記憶媒体が採用される場合には、当該採用された記憶媒体に応じた読込装置が実装されてもよい。
図2には、光学ディスク126などの記憶媒体を介して必要なプログラムをコントローラ100へインストールする構成例を示すが、これに限られることなく、ネットワーク上のサーバ装置などからダウンロードするようにしてもよい。
図2に示すように、汎用的なコンピュータを用いてコントローラ100を実装する場合には、本実施の形態に係る機能を提供するためのプログラムに加えて、コンピュータの基本的な機能を提供するためのOS(Operating System)がインストールされていてもよい。この場合には、本実施の形態に係るプログラムは、OSの一部として提供されるプログラムモジュールのうち、必要なプログラムモジュールを所定の順序および/またはタイミングで呼出して処理を実行するものであってもよい。すなわち、本実施の形態に係るプログラムは、上記のようなプログラムモジュールを含んでおらず、OSと協働して処理が実行されるように実装されることもある。すなわち、本実施の形態に係るプログラムとしては、一部のプログラムモジュールを含まないように構成されてもよい。
本実施の形態に係るプログラムは、他のプログラムの一部に組込まれて提供されるものであってもよい。その場合にも、プログラム自体には、上記のような組み合わせ対象の他のプログラムに含まれているプログラムモジュールを含んでおらず、当該他のプログラムと協働して処理が実行されてもよい。
図2に示すような汎用的なコンピュータを用いてコントローラ100を実装する構成に代えて、その全部または一部の機能を専用回路(例えば、ASIC(Application Specific Integrated Circuit)など)を用いて実現してもよい。さらに、一部の処理を外部装置に担わせるようにしてもよい。
以上のとおり、コントローラ100の実装形態については、本実施の形態に係る発明が具現化される時代に応じた構成を採用すればよい。
<B.課題および解決手段の概要>
次に、本実施の形態に係る画像計測システム1が解決する課題およびその解決手段の概要について説明する。
図1に示すような画像計測システム1では、撮像して画像計測処理の対象となる対象物のバリエーションは広い方が好ましい。一方で、対象物の材質や構造などに応じて、局所的に正反射が生じ、撮像された画像内に部分的な白潰れ(すなわち、ハレーション)が生じる場合がある。そこで、画像計測システム1では、プロジェクタ6を用いて、対象物に適した照明光を照射することで、ハレーションの発生を抑制する。
すなわち、本実施の形態に係る画像計測システム1は、局所的なハレーションが発生する対象物に対して、当該ハレーションの発生を抑制するための投影パターンを手動、半自動、全自動で決定するユーザ支援機能を提供する。より具体的には、プロジェクタ6から照射される照明光の投影パターン内にマスク領域を設定する操作をより容易化する。
本明細書において、「マスク領域」は、照射される照明光の濃淡パターンのうち、他の領域に比較して照明光の光量を低下させるべき領域を意味する。「他の領域に比較して照明光の光量を低下させる」には、他の領域に比較して照明光の光量をゼロではないある値まで下げることに加えて、照明光の光量をゼロにすることも含み得る。なお、以下の説明では、照明光の光量を、単に「照明光量」と記載することもある。
照明光に設定される「マスク領域」は、単一の領域に限定される必要はなく、互いに隔離された複数の領域であってもよい。この場合には、それぞれの領域に対応する光量は、互いに同一であってもよいし、異なるものであってもよい。「マスク領域」の位置、範囲、光量などは、撮像部4にて対象物を撮像したときにハレーションが生じないように設定されれば、どのように設定されてもよい。
図3は、本実施の形態に係る画像計測システム1におけるマスク領域の設定方法の一例を説明するための模式図である。図3(A)には、面内の光量が一定(均一)である投影パターン801を有する照明光を対象物に対して照射した状態で、撮像部4により当該対象物を撮像することで得られる画像であるカメラ画像401を示す。カメラ画像401においては、対象物の中心部付近にハレーションが発生しており、当該中央部付近の画像情報を取得することができていない。
そこで、図3(A)に示すように、カメラ画像401と位置について関連付けた状態で、マスク領域が設定される。このマスク領域の設定に応じて、図3(B)に示すような、投影パターン802を有する照明光が対象物に対して照射される。投影パターン802を有する照明光を対象物に対して照射することで、カメラ画像402に示すように、ハレーションが発生していた対象物の中心部付近についても、画像情報が取得できていることが分かる。さらに、図3(B)に示すカメラ画像402においては、ハレーションが発生していた反射率が相対的に高い領域(高反射率領域)の画像情報に加えて、反射率が相対的に低い領域(低反射率領域)の画像情報についても取得できていることが分かる。
このように、本実施の形態に係る画像計測システム1においては、プロジェクタ6が対象物に照射する照明光の投影パターンを調整することで、表面の反射率が局所的に変化するような対象物であっても、適切に画像情報を取得できることが分かる。言い換えれば、照明光の投影パターンを調整することで、実質的に撮像のダイナミックレンジを向上させることができる。
上述したように、撮像部4の撮像方向と、プロジェクタ6の照明光61の照射方向とが一致しない場合には、照射パターンと投影パターンとについても一致しない。そこで、指示されたマスク領域を含む投影パターンを実現するために、対応する照射パターンを更新する必要がある。
図4は、本実施の形態に係る画像計測システム1における照射パターンと投影パターンとの関係の一例を説明するための模式図である。例えば、図1に示すような構成を採用した場合には、図4(A)に示すように、矩形状の投影パターン801を実現するために、台形状の照射パターン601を設定する必要がある。ここで、図4(B)に示すように、投影パターン801内に円形状のマスク領域が設定されると、対応する照射パターン602内においては、投影パターン801と照射パターン601との間の写像関係に応じて、楕円状のマスク領域が設定される。このように、画像計測システム1は、プロジェクタ6の照射パターンと当該照射パターンにより撮像部4の撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、設定されたマスク領域に従って、照射パターンを更新する。
本実施の形態に係る画像計測システム1における操作手順を概略すると、以下のようになる。図5は、本実施の形態に係る画像計測システム1を用いた画像計測処理の操作手順の一例を示すフローチャートである。図5を参照して、まず、キャリブレーションが実施される(ステップS1)。このキャリブレーションは、プロジェクタ6の照射パターンと当該照射パターンにより撮像部4の撮像視野において生じる投影パターンとの位置についての対応関係を決定する処理を含む。
続いて、照明光が照射されている状態で撮像部4により撮像された撮像視野の画像が表示部120に表示される(ステップS2)。すなわち、ステップS2において、コントローラ100は、撮像部4により撮像された画像を表示部120に表示する。
表示部120に撮像視野の画像が表示された状態でマスク領域が設定される(ステップS3)。ステップS3においては、コントローラ100は、表示部120に表示される画像に関連付けて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定を受付ける。さらに、必要に応じて、プロジェクタ6から照射される照明光の光量の大きさが設定される(ステップS4)。すなわち、ステップS3において、コントローラ100は、プロジェクタ6から照射される照明光の光量の大きさについての設定を受付ける。
マスク領域の設定および照明光の光量の設定が完了すると、マスク領域が設定された投影パターンに対応する照射パターンが決定される(ステップS5)。すなわち、ステップS5において、コントローラ100は、プロジェクタ6の照射パターンと当該照射パターンにより撮像部4の撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、設定されたマスク領域に従って、照射パターンを更新する。
そして、更新後の照射パターンに従ってプロジェクタ6から照明光が照射されるとともに、当該照明光が照射されている状態で撮像部4により撮像された画像に対する画像計測処理が実施される(ステップS6)。ステップS6の画像計測処理は、必要な回数だけ繰返し実施されてもよい。
<C.キャリブレーション>
次に、図5に示すキャリブレーション(ステップS1)のより詳細な処理手順について説明する。このキャリブレーションでは、プロジェクタ6の照射パターンと当該照射パターンにより撮像部4の撮像視野において生じる投影パターンとを相互に変換可能な変換パラメータ(典型的には、係数行列)が算出される。
キャリブレーションにおいては、予め定められた1または複数の基準の照射パターンが照射される。基準の照射パターンの各々が照射されている状態を撮像部4が撮像することで得られるカメラ画像に現れる投影パターンと、対応する基準の照射パターンとの対応関係から、変換パラメータが決定される。
図6は、本実施の形態に係る画像計測システム1におけるキャリブレーション処理を説明するための模式図である。例えば、図6(A)に示すように、矩形状の基準の照射パターン1が設定され、当該基準の照射パターン1に対応する投影パターン1が撮像されたとする。
照射パターン1のそれぞれの頂点がa(x1,y1),b(x2,y2),c(x3,y3),d(x4,y4)として定義されており、撮像部4により撮像された画像内の投影パターン1の対応するそれぞれの頂点がA(X1,Y1),B(X2,Y2),C(X3,Y3),D(X4,Y4)として抽出されたとする。頂点a,b,c,dの各座標は、照射パターンを規定する座標系において定義されており、頂点A,B,C,Dの各座標は、撮像部4の撮像視野を規定する座標系において定義されている。これらの頂点間の変換パラメータは、以下のような関係が成立するように決定される。なお、決定された変換パラメータから逆方向に変換する変換パラメータを算出することもできる。
変換行列X×a(x1,y1)→A(X1,Y1)
変換行列X×b(x2,y2)→A(X2,Y2)
変換行列X×c(x3,y3)→A(X3,Y3)
変換行列X×d(x4,y4)→A(X4,Y4)
図6(A)に示すような照射パターン1に限らず、別の照射パターンを採用してもよい。例えば、図6(B)に示すような離散的な部分からなる照射パターン2を採用してもよい。この場合には、各領域の中心点がe(x5,y5),f(x6,y6),g(x7,y7),h(x8,y8)として定義されているとする。このとき、図6(B)に示すような投影パターン2が撮像されたとする。投影パターン2の対応するそれぞれの領域の中心点がE(X5,Y5),F(X6,Y6),G(X7,Y7),H(X8,Y8)として抽出されたとする。この場合にも、上述と同様の手順に従って、変換パラメータが算出される。
なお、変換パラメータの算出精度を高める観点からは、複数の基準の照射パターンを照射し、それぞれの照射にて得られる投影パラメータから変換パラメータをそれぞれ算出した上で、統計処理することが好ましい。
最終的に、ユーザが設定した投影パターンに対応する照明光が照射されているか否かを確認できるようにすることが好ましい。図7は、本実施の形態に係る画像計測システム1におけるキャリブレーションの確認手順を説明するための模式図である。図7(A)に示すように、ユーザは、撮像部4にて撮像された画像(カメラ画像)に関連付けて、投影パターンを指定する。このような投影パターンの指定に応じて、キャリブレーションによって決定された変換パラメータに基づいて照射パターンが更新される。図7(B)は、更新後の照射パターンに従ってプロジェクタ6から照明光が照射された状態を撮像部4にて撮像することで得られるカメラ画像が表示されている状態を示す。
なお、表示部120において、投影パターンが現実のカメラ画像と関連付けて表示される必要があるので、変換パラメータに従って変換される投影パターンをさらに、その画像重心について縮小または拡大するようにしてもよい。この場合には、ユーザがその縮小または拡大の程度を指定するようにしてもよい。
ユーザは、カメラ画像内において、自身が指定した投影パターンと、照射された照明光とが一致していることを確認し、両者が概ね一致していれば、キャリブレーション完了と判断する。
このように、本実施の形態に係る画像計測システム1のコントローラ100は、プロジェクタ6から予め定められた基準の照射パターンに従って照明光を照射させるとともに、撮像部4により撮像された画像に現れる投影パターンに基づいて、位置についての対応関係(変換パラメータ)を決定する。
上述したキャリブレーション手順の詳細は、以下のようになる。図8は、図5のステップS1のより詳細な手順を示すフローチャートである。図8を参照して、コントローラ100は、プロジェクタ6に対して、1または複数の予め定められた基準の照射パターンの照射を指示する(ステップS11)。コントローラ100は、撮像部4により撮像された画像を取得し(ステップS12)、取得した画像に含まれる投影パターンの特徴点の座標を抽出する(ステップS13)。コントローラ100は、抽出した投影パターンの特徴点の座標(図6に示す投影パターン内の各頂点の座標)と、対応する照射パターンの各頂点の座標とに基づいて、変換パラメータを算出する(ステップS14)。
ユーザは、撮像部4により撮像された画像に関連付けて、任意の投影パターンを指定する(図7(A)参照)。すなわち、コントローラ100は、ユーザが指定する投影パターンの設定を受付ける(ステップS15)とともに、ステップS14において算出された変換パラメータに基づいて、当該指定された投影パターンから対応する投影パターンを決定する(ステップS16)。
コントローラ100は、プロジェクタ6に対して、ステップS16において決定された投影パターンの照射を指示するとともに、当該照明光が照射されている状態で撮像部4により撮像された画像を表示部120に表示する(ステップS17)。そして、ユーザは、表示部120に表示される画像を見ながら、指定した投影パターンと実際に照射されている照明光の輪郭とが一致しているか否かを入力する。すなわち、コントローラ100は、実際に照射されている照明光が指定された投影パターンと一致しているか否かの指定を受付ける(ステップS18)。実際に照射されている照明光が指定された投影パターンと一致していていなければ(ステップS18においてNOの場合)、ステップS11以下の処理が繰返される。
これに対して、実際に照射されている照明光が指定された投影パターンと一致していれば(ステップS18においてYESの場合)、キャリブレーション処理は終了する。
<D.マスク領域を設定するためのユーザインターフェイス例(手動操作)>
次に、図5に示す、照明光が照射されている状態で撮像された画像の表示(ステップS2)、および、マスク領域の設定(ステップS3)に係るユーザインターフェイスの一例について説明する。以下に示すユーザインターフェイス例は、主として、ユーザの手動操作によって、マスク領域を設定するものである。
図9〜図11は、本実施の形態に係る画像計測システム1におけるマスク領域を設定するためのユーザインターフェイスの一例を示す模式図である。
(d1:ユーザインターフェイス画面その1)
図9に示すユーザインターフェイス画面200は、表示部120に表示され、任意の方法でユーザ操作を受付ける。より具体的には、ユーザインターフェイス画面200は、ユーザが所望する投影パターンを設定するための編集ウィンドウ220と、撮像部4により撮像された画像(カメラ画像)を表示するための参照ウィンドウ230とを含む。図9の編集ウィンドウ220には、マスク領域222が設定されている状態を示す。編集ウィンドウ220に表示される投影パターンと、参照ウィンドウ230に表示されるカメラ画像とは、位置について関連付けられている。すなわち、コントローラ100は、参照ウィンドウ230に表示される撮像視野の画像(カメラ画像)に加えて、設定されたマスク領域222を示す表示領域(編集ウィンドウ220)を、カメラ画像の表示領域(参照ウィンドウ230)に関連付けて表示する。
この状態において、ユーザが編集ウィンドウ220内で任意の投影パターン(すなわち、マスク領域)を設定すれば、コントローラ100は、当該設定に対応する位置に指定された投影パターン(照明光)が生じるように、照射パターンを決定または更新する。
ユーザインターフェイス画面200は、マスク領域設定フィールド210をさらに含む。マスク領域設定フィールド210は、マスク領域222を設定するための各種操作を受付可能になっている。
マスク領域設定フィールド210でのマスク領域の設定関して、コントローラ100は、予め規定された複数の形状の選択を受付けるとともに、選択された形状の領域の大きさおよび位置の指定を受付ける。より具体的には、マスク領域設定フィールド210は、マスク領域形状選択ボタン群212と、形状サイズ選択フィールド214とを含む。ユーザは、マスク領域形状選択ボタン群212に含まれる所望のボタンを選択することで、マスク領域222として所望の形状(例えば、円、四角形、扇形など)を選択することができる。そして、ユーザは、形状サイズ選択フィールド214に含まれるボタンおよび/または入力ボックスに対する操作により、所望の大きさおよび位置にマスク領域222を設定することができる。
マスク領域設定フィールド210は、照明光量スライダ216をさらに含む。ユーザは、照明光量スライダ216を操作することで、照明光の光量を調整することができる。例えば、いずれのマスク領域も選択することなく、照明光量スライダ216を操作することで、プロジェクタ6から照射される照明光の照射パターン内の光量の最大値(あるいは、基準値)を調整できる。すなわち、コントローラ100は、プロジェクタ6から照射される照明光の光量の大きさの設定を受付ける。
また、マスク領域内の照明光の光量をゼロにする場合には、対象のマスク領域を選択した上で、照明光量スライダ216を操作することで設定できる。マスク領域に対する照明光の光量の調整方法については、後述する。
マスク領域設定フィールド210は、スルー/フリーズ画像切替ボタン218を含む。ユーザがスルー/フリーズ画像切替ボタン218を選択する毎に、参照ウィンドウ230に表示されるカメラ画像が、スルー表示(リアルタイム表示)とフリーズ表示(静止表示)との間で交互に切り替わる。例えば、ユーザは、何らかのタイミングでスルー/フリーズ画像切替ボタン218を選択して、当該タイミングのカメラ画像を参照ウィンドウ230に固定表示し、その状態でマスク領域を設定する。そして、マスク領域の設定が完了すると、スルー/フリーズ画像切替ボタン218を再度選択して、カメラ画像をスルー表示して、設定したマスク領域の適否を確認する。
図9に示すように、編集ウィンドウ220および参照ウィンドウ230を含むユーザインターフェイス画面200を採用することで、ユーザは、設定したマスク領域に対応して、照明光がどのように照射されるのかをリアルタイムで確認することができ、マスク領域の設定をより迅速に行うことができる。なお、図9には、編集ウィンドウ220と参照ウィンドウ230とが横方向に並べて配置されている例を示すが、縦方向に並べるようにしてもよいし、表示部120の画面サイズに応じて、ウィンドウを並べる方向を決定してもよい。
(d2:ユーザインターフェイス画面その2)
図10に示すユーザインターフェイス画面202は、図9に示すユーザインターフェイス画面200に比較して、合成結果ウィンドウ240がさらに表示されるようになっている。合成結果ウィンドウ240には、参照ウィンドウ230に表示されるカメラ画像上に、編集ウィンドウ220内で設定されたマスク領域222が重複して表示される。すなわち、コントローラ100は、参照ウィンドウ230に表示される撮像視野の画像(カメラ画像)に加えて、設定されたマスク領域222をカメラ画像に合成した画像を合成結果ウィンドウ240内に表示する。
このような合成結果ウィンドウ240を表示することで、ユーザは、カメラ画像と投影パターンとの位置についての関連付けをより容易に把握することができる。すなわち、図10に示すように、合成結果ウィンドウ240を表示することで、設定したマスク領域がカメラ画像に対してどのように反映されるのかを即座に確認することができ、マスク領域の設定をより迅速に行うことができる。なお、編集ウィンドウ220、参照ウィンドウ230、合成結果ウィンドウ240の配置方向および配置順などをユーザが任意に変更できるようにしてもよい。
(d3:ユーザインターフェイス画面その3)
図11に示すユーザインターフェイス画面204は、編集/合成結果ウィンドウ250を含む。編集/合成結果ウィンドウ250には、図10に示すユーザインターフェイス画面202に含まれる編集ウィンドウ220および合成結果ウィンドウ240が選択的に表示される。より具体的には、選択フォーム252に対するユーザ操作に応じて、編集/合成結果ウィンドウ250に表示される内容は順次切り替えられる。
すなわち、コントローラ100は、撮像部4により撮像された撮像視野の画像(カメラ画像)と、設定されたマスク領域222をカメラ画像に合成した画像とを編集/合成結果ウィンドウ250内で選択的に表示する。
ユーザインターフェイス画面204では、マスク領域222の状態と、設定されているマスク領域222をカメラ画像に重ねた状態とを選択的に表示することができる。ユーザは、選択フォーム252の選択を適宜切り替えることで、所望するマスク領域222が設定されているか否かを容易に確認することができる。
ユーザインターフェイス画面204は、透過量スライダ254をさらに含む。透過量スライダ254を操作することで、カメラ画像に重ねられるマスク領域222の透過量が調整でき、これによって、ユーザは、カメラ画像に含まれるハレーションが発生している領域とマスク領域222との対応関係を容易に確認することができる。
図11に示すような共通の編集/合成結果ウィンドウ250を配置し、編集/合成結果ウィンドウ250内に表示される内容を適宜切り替えるようにすることで、必要な表示領域をコンパクトに抑えつつ、マスク領域222を容易に設定することができる。
なお、図11には、編集ウィンドウ220および合成結果ウィンドウ240が切り替え対象である例を示すが、さらに、図9および図10に示す参照ウィンドウ230を切り替え対象としてもよい。あるいは、さらに別の情報を選択的に表示するようにしてもよい。
(d4:処理手順)
上述したマスク領域の設定手順の詳細は、以下のようになる。図12は、図5のステップS3のより詳細な手順を示すフローチャートである。図12を参照して、ユーザは、図5のステップS2において撮像部4により撮像されたカメラ画像がスルー表示されている状態を確認しつつ、適当なタイミングで、フリーズ表示に切り替える(ステップS31)。続いて、ユーザは、操作部122(図9〜図11のマスク領域設定フィールド210)を操作して、所望の形状のマスク領域を配置し(ステップS32)、カメラ画像内のハレーションが発生している領域に応じて、その位置およびサイズを適宜調整する(ステップS33)。マスク領域の位置およびサイズの調整完了後、ユーザは、カメラ画像をスルー表示に切り替えて(ステップS34)、カメラ画像内のハレーションの発生が抑制されているか否かを確認する(ステップS35)。カメラ画像内のハレーションの発生が抑制されていなければ(ステップS35においてNOの場合)、ステップS31以下の処理が再度実行される。
これに対して、カメラ画像内のハレーションの発生が抑制されていれば(ステップS35においてYESの場合)、マスク領域の設定処理は完了する。
(d5:滲み出し)
上述の操作例においては、カメラ画像内でハレーションが発生している領域に対応させてマスク領域を設定するような場合を典型例として説明したが、対象物の材質あるいは対象物を構成する材質間での反射率の相違などに起因して、光の滲み出しが生じる場合がある。
図13は、光の滲み出しについて説明する模式図である。図13(A)に示すように、例えば、2種類の材質で構成される対象物を取り上げる。図13(A)に示す対象物は、内径側に高反射材質(例えば、樹脂など)が配置され、外周側に低反射材質(例えば、金属など)が配置されているとする。このような対象物に対して照明光を照射すると、内径側の高反射材質の部分からの反射が相対的に大きくなる。このような反射率の相違によって、図13(B)に示すように、高反射材質の部分からの反射光が低反射材質の部分まで滲み出す場合がある。このような光の滲み出しにより、材質の境界の外側までハレーションが生じることになる。
そのため、上述のようなユーザインターフェイスを利用して、対象物により適したマスク領域を設定することで、同一の対象物内に高反射材質および低反射材質が混在していても、画像情報を失うことなく取得することができる。
すなわち、高反射材質および低反射材質が撮像部4の同一視野内に存在する場合には、高反射材質からなる領域で反射された光の滲み出しにより、低反射材質からなる領域についても見えなくなってしまい、当該領域の画像情報が失われてしまう場合がある。このような状況においては、高反射材質からなる領域に対応して照明光の光量を低下させる必要がある。一般的に、高反射材質からなる領域の位置は対象物の品種毎に変化するため、一律に設定することが難しいが、本実施の形態に係る画像計測システム1は、プロジェクタ6を照明として用いるとともに、上述したようなユーザインターフェイスなどを提供することで、対象物に応じて適切なマスク領域を自由に設定できるので、対象物として複数の品種が存在する場合であっても、高反射材質で生じるハレーションの影響を低減しつつ、低反射材質からなる領域の画像情報についても失うことなく適切に取得することができる。
<E.マスク領域を設定するためのユーザインターフェイス例(半自動操作)>
次に、図5に示す、照明光が照射されている状態で撮像された画像の表示(ステップS2)、および、マスク領域の設定(ステップS3)に係るユーザインターフェイスの別の一例について説明する。以下に示すユーザインターフェイス例は、主として、半自動操作によって、マスク領域を設定するものである。より具体的には、コントローラ100がカメラ画像内からマスク領域を抽出し、その抽出したマスク領域に対して、ユーザが必要な変更を加えるような構成を示す。すなわち、コントローラ100は、撮像視野の画像であるカメラ画像内の所定条件に適合する画素値を有する領域をマスク領域の候補として抽出する機能を有している。
図14は、本実施の形態に係る画像計測システム1におけるマスク領域を半自動操作によって設定するためのユーザインターフェイスの一例を示す模式図である。図14に示すユーザインターフェイス画面206には、ユーザが設定した投影パターン(マスク領域)および撮像部4により撮像されたカメラ画像の一方または両方が選択的に表示される。
ユーザインターフェイス画面206は、投影パターンの表示を有効化するための照明パターン表示有効化ボタン266と、カメラ画像の表示を有効化するためのカメラ画像表示有効化ボタン268と含む。ユーザは、これらのボタンを適宜選択することで、ユーザインターフェイス画面206に表示される画像を切り替える。
ユーザインターフェイス画面206は、マスク候補領域抽出機能ボタン262と、マスク生成ボタン264とをさらに含む。マスク候補領域抽出機能ボタン262は、後述するようなマスク領域の候補(以下、「マスク候補領域」とも称す。)を抽出する機能を有効化する。マスク生成ボタン264は、抽出されたマスク候補領域からマスク領域として設定すべき範囲が定まると、その定まった範囲をマスク領域として決定する機能を有効化する。以下、図14を参照して、マスク領域の設定手順などについて説明する。
まず、図14(A)に示すように、ユーザは、マスク候補領域抽出機能ボタン262を選択し、マスク候補領域の選択機能を有効化する(図14(A)内の(1))。続いて、ユーザは、表示されているカメラ画像内でマスク候補領域の境界を定義するエッジを選択する(図14(A)内の(2))。
すると、図14(B)に示すように、選択されたエッジ近傍にある輝度が相対的に高い領域(典型的には、ハレーションが発生している領域)が抽出され、マスク候補領域として抽出される(図14(B)内の(3))。この抽出されたマスク候補領域については、後述するようなユーザ操作によって、その形状や範囲などを任意に変更することができる。
そして、図14(C)に示すように、ユーザがマスク生成ボタン264を選択すると、当該選択時に設定されているマスク候補領域がマスク領域として設定される(図14(C)内の(4))。コントローラ100は、上述したような処理手順に従って、設定されたマスク領域を含む投影パターンから照射パターンを算出する。
最終的に、図14(D)に示すように、ユーザは、投影パターンの表示を無効化して、設定したマスク領域に応じた照明光が対象物に照射されている状態で撮像されたカメラ画像を確認することで、マスク領域が適切に設定されているか否かを判断する。
上述の説明においては、マスク候補領域を抽出するための所定条件として輝度の大きさを用いる例について説明したが、画像内の輝度分布または別の事前情報を用いるようにしてもよい。
以上のような手順によって、ユーザは、マスク領域、すなわち投影パターンをより迅速かつ容易に設定することができる。
図15は、図14に示すマスク候補領域に対する編集操作を行うためのユーザインターフェイスの一例を示す模式図である。図15(A)に示すように、抽出されたマスク候補領域はパスに変換されてもよい。すなわち、マスク候補領域を定義する境界(輪郭)は、複数のポイントの集合体を用いて定義されており、任意のポイントが選択可能になっている。ユーザは1または複数のポイントを選択してその位置を変更することで、マスク候補領域を任意に変更することができる。
また、図15(B)に示すように、マスク候補領域、すなわちマスク候補領域を定義するポイント全体を選択することで、領域全体としての縮小拡大を任意に行うこともできる。
さらに、図15に示す操作に加えて、または、図15に示す操作に代えて、一般的な描画アプリケーションなどで採用されている各種の移動変形操作などを採用してもよい。このように、コントローラ100は、抽出されたマスク候補領域(あるいは、マスク領域)の形状を変更する操作を受付ける。
上述したマスク領域の設定手順の詳細は、以下のようになる。図16は、図14および図15に示すマスク領域設定の手順を示すフローチャートである。図16を参照して、コントローラ100は、マスク候補領域の選択機能の有効化が指示されたか否か(すなわち、マスク候補領域抽出機能ボタン262が選択されたか否か)を判断する(ステップS51)。マスク候補領域の選択機能の有効化が指示されていなければ(ステップS51においてNOの場合)、ステップS51の処理が繰返される。
マスク候補領域の選択機能の有効化が指示されていれば(ステップS51においてYESの場合)、コントローラ100は、ユーザによりエッジが選択されたか否かを判断する(ステップS52)。ユーザによりエッジが選択されていなければ(ステップS52においてNOの場合)、ステップS52の処理が繰返される。
ユーザによりエッジが選択されていれば(ステップS52においてYESの場合)、コントローラ100は、選択されたエッジに隣接するハレーションが発生している領域を抽出し、ユーザインターフェイス画面206上に対応する領域をマスク候補領域として表示する(ステップS53)。抽出した領域(マスク候補領域)の輪郭は、複数のポイントの集合として定義される。
コントローラ100は、マスク候補領域に対してユーザによる変更操作がなされたか否かを判断する(ステップS54)。マスク候補領域に対してユーザによる変更操作がなされると(ステップS54においてYESの場合)、コントローラ100は、入力された変更操作に従って、マスク候補領域の形状、大きさ、位置などを更新する(ステップS55)。
マスク候補領域に対してユーザによる変更操作がなされていなければ(ステップS54においてNOの場合)、あるいは、ステップS55の実行後、コントローラ100は、マスク生成がユーザによって指示されたか否かを判断する(ステップS56)。マスク生成がユーザによって指示されると(ステップS56においてYESの場合)、コントローラ100は、現在設定されているマスク候補領域に対応するマスク領域および投影パターンを決定し(ステップS57)、対応する照射パターンを決定する(ステップS58)。そして、マスク領域の設定処理は終了する。
これに対して、マスク生成がユーザによって指示されていなければ(ステップS56においてNOの場合)、ステップS54以下の処理が繰返される。
<F.マスク領域の自動設定処理>
次に、マスク領域の設定を自動的に実行する場合の処理手順などについて説明する。すなわち、コントローラ100が撮像部4により撮像されるカメラ画像に基づいて、投影パターンに含まれるマスク領域を自動的に設定する場合の処理について説明する。
図17は、本実施の形態に係る画像計測システム1が対象物を撮像することで得られたカメラ画像の一部を例示する図である。図17に示す対象物は、上述の図3に示す対象物と同様である。図17には、対象物に対して光量が均一である投影パターンを有する照明光が照射されている状態を示す。図13を参照して例示したように、例えば、対象物の中心部付近に反射率が相対的に高い領域(高反射率領域)が存在し、当該部分にハレーションが発生している状態を想定する。このとき、光の滲み出しにより、外周側の領域にもハレーションが発生しているとする。
一方で、光の滲み出しが生じている部分を含む領域をそのままマスク領域に設定してしまうと、本来照明光を照射する方が好ましい低反射率領域についても、照明光が照射されなくなる。そのため、マスク領域を自動で設定する場合には、以下のような処理を実施して、マスク領域として最適な範囲を決定することが好ましい。
より具体的には、照明光量を複数段階に異ならせつつ、撮像部4にてそれぞれ撮像されるカメラ画像の状態に基づいて、マスク領域を決定する。すなわち、コントローラ100は、撮像視野の画像であるカメラ画像内の所定条件に適合する画素値を有する領域をマスク候補領域として抽出する機能を有している。この所定条件を決定する手法の一例として、コントローラ100は、プロジェクタ6から照射される照明光の光量を複数に異ならせた状態で、それぞれ撮像されたカメラ画像に基づいて、当該所定条件の一例であるしきい値を決定する。
図18および図19は、本実施の形態に係る画像計測システム1におけるマスク領域を自動設定するための処理手順を説明する模式図である。
図18(A)〜図18(C)に示すように、照明光の光量(照明光量)を複数段階に変化させると、ハレーションが発生する領域も変化し、それに伴って、カメラ画像において画像情報が取得できる領域も変化する。本実施の形態においては、一例として、対象物の表面に設定されるA−A’線上の輝度(輝度プロファイル)を評価することで、マスク領域を設定するためのしきい値を決定する。
より具体的には、図19(A)に示すように、照明光量を複数段階に異ならせたときの輝度プロファイルをそれぞれ取得する。図19(B)に示すように、これらの輝度プロファイルを同一の位置について平均化(加重平均)し、さらに、図19(C)に示すように、正規化する。図19(C)に示される正規化後の輝度プロファイルに対して、予め定められたしきい値THを適用し、当該しきい値THより高い輝度を有する領域をハレーションが発生する領域、すなわち高反射率領域として決定する。
しきい値THについては、予め定められた固定値でもよいし、算出された正規化後の輝度プロファイルに基づいて動的に決定した値でもよい。例えば、正規化後の輝度プロファイルのダイナミックレンジ(最小値から最大値までの範囲)の上位90%となる値をしきい値THとして決定してもよい。
上述したマスク領域の自動設定に係る処理手順の詳細は、以下のようになる。図20は、本実施の形態に係るマスク領域の自動設定の処理手順を示すフローチャートである。図20に示す各ステップは、基本的には、コントローラ100によって実行される。図20に示す処理は、図5のステップS3の処理に代えて、あるいは、ステップS3の処理の前段階で実行されてもよい。
図20を参照して、コントローラ100は、マスク領域の自動設定の処理開始が指示されると、撮像部4から得られるカメラ画像内に存在するハレーションが生じている領域(ハレーション領域)を抽出する(ステップS100)。コントローラ100は、ハレーション領域が複数抽出されたか否かを判断する(ステップS101)。ハレーション領域が複数抽出されている場合(ステップS101においてYESの場合)には、コントローラ100は、ユーザからいずれのハレーション領域を対象にするのかという指示を受付けて(ステップS102)、対象のハレーション領域を決定する。
続いて、コントローラ100は、プロジェクタ6から照射する照明光の照明光量を変化させる範囲および段階数を決定する(ステップS103)。コントローラ100は、プロジェクタ6から決定した照明光量の照明光を照射させるとともに、撮像部4に撮像視野の画像を撮像させる(ステップS104)。コントローラ100は、撮像部4により取得されたカメラ画像を対応する照明光量と関連付けて格納する(ステップS105)。
コントローラ100は、決定した照明光量のすべてについて処理が完了したか否かを判断する(ステップS106)。決定した照明光量のうち処理が完了していないものが残っていれば(ステップS106においてNOの場合)には、ステップS104以下の処理が繰返される。
決定した照明光量のすべてについて処理が完了していれば(ステップS106においてYESの場合)、コントローラ100は、ステップS105において格納したカメラ画像から輝度プロファイルをそれぞれ抽出し、加重平均を算出するとともに、正規化することで、正規化後の輝度プロファイルを算出する(ステップS107)(図19(A)〜図19(C)参照)。そして、コントローラ100は、正規化後の輝度プロファイルに対して、しきい値THを適用して、ハレーション領域を特定するとともに、当該特定したハレーション領域をマスク領域として決定する(ステップS108)。すなわち、コントローラ100は、照明光が照射されている状態で撮像部により撮像された撮像視野の画像内の所定輝度を超える画素からなる領域を抽出する。そして、コントローラ100は、抽出された領域に基づいて、撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域として決定する。
コントローラ100は、決定したマスク領域および当該マスク領域を反映した投影パターンを決定し、対応する照射パターンを決定する(ステップS109)。すなわち、コントローラ100は、プロジェクタ6の照射パターンと当該照射パターンにより撮像視野において生じる投影パターンとの位置についての対応関係(典型的には、上述した変換パラメータ)に基づいて、決定されたマスク領域に従って、照射パターンを更新する。これによって、マスク領域の自動設定処理は終了する。
上述のマスク領域の自動設定処理において、カメラ画像内の対象物の範囲、および、複数のハレーション領域のうち対象となるハレーション領域などの設定については、以下のような光学系およびユーザインターフェイス画面を採用してもよい。
図21は、本実施の形態に係る画像計測システム1におけるマスク領域の自動設定処理に適した光学系を示す模式図である。図21に示すように、撮像部4およびプロジェクタ6の光軸を共通にする同軸光学系を採用すると、マスク領域を自動設定するために必要な各種設定を容易に行うことができる。
図22は、本実施の形態に係る画像計測システム1におけるマスク領域の自動設定処理に向けられたユーザインターフェイスの一例を示す模式図である。図22を参照して、ユーザインターフェイス画面208は、編集ウィンドウ270を含む。編集ウィンドウ270には、撮像部4により撮像されたカメラ画像とともに、ユーザにより設定される、マスク領域を抽出する対象となる領域272の範囲が示されている。
ユーザインターフェイス画面208は、抽出領域設定フィールド211をさらに含む。抽出領域設定フィールド211は、図9〜図11に示すマスク領域設定フィールド210と同様のコンポーネントを有しており、ユーザは、マスク領域形状選択ボタン群212に含まれる所望のボタンを選択することで、マスク領域を抽出する対象となる領域272の形状および位置などを指定する。
領域272の設定が完了すると、ユーザは、自動抽出ボタン219を選択する。すると、上述の図20に示すような、マスク領域の自動設定の処理が開始される。このようなユーザインターフェイス画面208を採用することで、ユーザは、より容易にマスク領域を設定することができる。
上述したようなマスク領域の自動設定の処理を利用することで、画像計測などについて専門知識を有していないユーザであっても、照明光の投影パターンをより適切かつ迅速に決定することができる。
<G.検査領域に対応したマスク領域の設定および最適化>
本実施の形態に係る画像計測システムは、典型的には、カメラ画像に含まれる対象物の特定の領域に対して画像計測処理(例えば、文字認識など)を実行するようなアプリケーションが想定される。このようなアプリケーションにおいては、ハレーションを生じる領域に対して局所的にマスク領域を設定するのではなく、画像計測処理の対象となる領域以外をマスク領域に設定するような処理が好ましい場合もある。
そこで、画像計測処理の対象となる領域(以下、「検査領域」とも称す。)のユーザ設定に応じて、マスク領域を設定する処理について説明する。加えて、マスク領域を動的に最適化する処理についても説明する。
これらのマスク領域の設定処理および最適化処理においては、撮像条件を複数に異ならせて、同一の被写体を撮像して得られるカメラ画像を合成することで、ダイナミックレンジを向上させるHDR(High Dynamic Range)撮像の技術が応用される。なお、HDRの用語にとらわれることなく、本質的に同様の技術を採用できる。
図23は、本実施の形態に係る画像計測システムにおける検査領域に対応してマスク領域を設定する処理を説明するための模式図である。図23(A)を参照して、撮像部4の撮像視野41にワークなどの対象物を配置し、HDR撮像を行う。対象物の表面には、その特定の領域に特徴部分422が存在しているとする。HDR撮像によって得られるカメラ画像410では、画像を構成する画素が有する輝度の範囲が所定の階調範囲に収まるように全体が調整されている。その結果、特徴部分422を含む検査領域のコントラストは画像全体の輝度分布に引きずられて低い状態になっているとする。
図23(A)において撮像されたカメラ画像410に対して、ユーザは、図23(B)に示すように、特徴部分422を含む領域を検査領域420として指定する。この検査領域420の指定に応答して、指定された検査領域以外がすべてマスク領域610として設定される。コントローラ100は、画像計測処理の対象となる領域である検査領域420の設定を受付けるとともに、撮像視野のうち当該検査領域を除く領域をマスク領域として設定する。この設定されたマスク領域610に対応する投影パターンが決定され、対応する照射パターンに基づいて照明光が照射される。このようなマスク領域610に基づく照明光が照射されることで、実質的に検査領域420のみに照明光が照射され、それ以外の領域には照明光が照射されなくなる。
検査領域420のみに照明光を照射した状態で、HDR撮像されることで、図23(C)に示すようなカメラ画像412が取得される。図23(C)に示すような状態で取得されるカメラ画像412では、検査領域420以外の領域には照明光が照射されていないので、検査領域420以外の領域における輝度分布に影響を受けず、特徴部分422についてのコントラストだけを高めることができる。
このように、検査領域420に関連付けてマスク領域(すなわち、投影パターン)を設定するとともに、対象物をHDR撮像することで、検査領域420に含まれる特徴部分422の画像計測の精度を高めることができる。
さらに、カメラ画像内の対象物の輝度プロファイルに応じて、検査領域420の大きさおよび範囲を最適化してもよい。以下、検査領域420(および、マスク領域610)の最適化処理について説明する。
図24は、本実施の形態に係る画像計測システムにおける検査領域に対応したマスク領域の最適化の処理を説明するための模式図である。ユーザが検査領域420を設定することで生成されるマスク領域に従って、照射パターンおよび投影パターンが決定される。そして、決定された照射パターンを有する照明光が照射された状態で、対象物がHDR撮像されることで、図24(A)に示すような、特徴部分422の少なくとも一部を含む検査領域420のコントラストを高めることができる。検査領域420のコントラストとしては、検査領域420の輝度プロファイルの最小値と最大値との差として定義できる(図24(A)に示す例では、輝度プロファイルのコントラストC1)。
この輝度プロファイルのコントラストの大きさを評価することで、検査領域420を最適化することができる。
図24(B)には、検査領域420を図24(A)に比較して狭くした状態を示し、図24(C)には、検査領域420を図24(A)に比較して狭くした状態を示す。検査領域420以外の領域はマスクされるので、実質的に、検査領域420として指定された領域に照明光が照射されることになる。検査領域420の大きさおよび位置などを調整しつつ、対象物に対する画像計測処理に適した検査領域420を探索する。
図24(B)に示す状態においては、コントラストC2は、図24(A)のコントラストC1と同様の大きさであるのに対して、図24(C)に示す状態においては、コントラストC3は、図24(A)のコントラストC1より大幅に増加していることが分かる。
このように、コントローラ100は、設定されたマスク領域に対応する照射パターンに従って照明光が照射されている状態で、複数の撮像条件下で撮像されたそれぞれの画像を合成して合成画像(HDR画像)を生成する機能を有している。そして、コントローラ100は、マスク領域の大きさおよび位置の少なくとも一方を変化させつつ、各マスク領域に対応する照射パターンに従う照明光が照射されている状態で生成されたHDR画像のコントラストを評価することで、マスク領域の大きさまたは位置を最適化する。すなわち、コントラストが最も高くなるように検査領域420の大きさおよび位置などが調整される。
上述した検査領域420の最適化に係る処理手順の詳細は、以下のようになる。図25は、本実施の形態に係る画像計測システムにおける検査領域に対応したマスク領域の最適化の処理手順を示すフローチャートである。図25に示す各ステップは、基本的には、コントローラ100によって実行される。図20に示す処理は、図5のステップS3の処理に代えて、あるいは、ステップS3の処理の前段階で実行されてもよい。
図25を参照して、コントローラ100は、検査領域420の最適化に係る処理開始が指示されると、プロジェクタ6から撮像視野の全体に一様な照明光量を有する照明光を照射した状態で、HDR撮像を実行する(ステップS200)。より具体的には、コントローラ100は、プロジェクタ6に対して、照明光の照明光量を複数段階に異ならせる指示を与えるとともに、撮像部4に対して、各照明光量の照明光が照射されている状態において撮像するための指示を与える。そして、コントローラ100は、撮像部4がそれぞれ撮像したカメラ画像を合成した結果を、HDR撮像によるカメラ画像として出力する。
続いて、コントローラ100は、ステップS200において生成したHDR撮像によるカメラ画像を表示部120に表示させるとともに、ユーザによる検査領域420の指定を受付ける(ステップS202)。検査領域420が指定されると、コントローラ100は、指定された検査領域420以外の領域をマスク領域として設定する(ステップS204)。このマスク領域の設定に伴って、コントローラ100は、投影パターンおよび対応する照射パターンを更新し、プロジェクタ6に対して、更新後の照射パターンに基づく照明光の照射を指示する。
そして、コントローラ100は、実質的にプロジェクタ6から検査領域420のみに照明光量を有する照明光を照射した状態で、HDR撮像を実行し(ステップS206)、得られたHDR撮像によるカメラ画像のコントラストを算出する(ステップS208)。
続いて、検査領域420を順次膨張または収縮させつつ、HDR撮像およびコントラストの算出を繰返すことで、最適な検査領域420を探索する。検査領域420を膨張または収縮させる方法の一例として、本実施の形態においては、検査領域420と外接する四角形(外接矩形)を基準として、所定倍率に拡大または縮小するという方法を採用する。例えば、ユーザが設定した検査領域420を包含する外接矩形の大きさを100%として、80%から120%まで変化させるような方法が考えられる。
このような探索処理において、コントローラ100は、まず基準の外接矩形に対する縮小率または拡大率を規定する倍率(以下、「領域倍率」とも称す。)を基準値(例えば、80%)に設定する(ステップS210)。そして、コントローラ100は、検査領域420を設定されている領域倍率に応じて膨張または収縮させるとともに、膨張または収縮後の検査領域420に応じたマスク領域を決定する(ステップS212)。コントローラ100は、決定されたマスク領域に応じて、投影パターンおよび対応する照射パターンを更新し、プロジェクタ6に対して、更新後の照射パターンに基づく照明光の照射を指示する。
続いて、コントローラ100は、実質的に、膨張または収縮された検査領域420のみに照明光量を有する照明光が照射されている状態で、HDR撮像を実行し(ステップS214)、得られたHDR撮像によるカメラ画像のコントラストを算出する(ステップS216)。そして、コントローラ100は、ステップS216において算出したコントラストが前回の算出処理において算出されたコントラストより大きいか否かを判断する(ステップS218)。
今回算出したコントラストが前回算出されたコントラストより大きい場合(ステップS218においてYESの場合)、コントローラ100は、領域倍率が変化範囲の上限に達しているか否かを判断する(ステップS220)。領域倍率が変化範囲の上限に達していなければ(ステップS220においてNOの場合)、コントローラ100は、領域倍率を所定値だけ増加させて(ステップS222)、ステップS212以下の処理を繰返す。
これに対して、領域倍率が変化範囲の上限に達していれば(ステップS220においてYESの場合)、コントローラ100は、現在の検査領域420を最終的な検査領域として出力する(ステップS224)。そして、検査領域420の最適化に係る処理は終了する。
一方、今回算出したコントラストが前回算出されたコントラストより小さい場合(ステップS218においてNOの場合)、コントローラ100は、現在の検査領域420を前回の検査領域420に戻した(ステップS226)上で、最終的な検査領域として出力する(ステップS228)。そして、検査領域420の最適化に係る処理は終了する。
最終的に、コントローラ100は、最終的に出力した検査領域420に基づいて、マスク領域を決定し、当該マスク領域を反映した投影パターンおよび照射パターンを更新する。
以上のように、検査領域420(すなわち、マスク領域)をコントラストに基づいて自動的に最適化する処理を採用することで、画像計測などについて専門知識を有していないユーザであっても、画像計測の精度をより高めることができる。
<H.複数のマスク領域/複数の照明光量の設定>
以下では、1または複数のマスク領域を任意に設定する方法、および、複数のマスク領域に対してそれぞれ照明光量を設定する方法などについて説明する。
図26は、本実施の形態に係る画像計測システム1において複数のマスク領域を設定する場合の操作例を説明するための模式図である。図26には、上述の図14に示すユーザインターフェイス画面206を用いる場合を示す。
まず、図26(A)に示すように、ユーザは、マスク候補領域抽出機能ボタン262を選択し、マスク候補領域の選択機能を有効化する(図26(A)内の(1))。続いて、ユーザは、表示されているカメラ画像内でマスク候補領域の境界を定義するエッジを選択する(図26(B)内の(2))と、図26(B)に示すように、選択されたエッジ近傍にある輝度が相対的に高い領域(典型的には、ハレーション領域)がマスク候補領域224として抽出される(マスク領域化)。
さらに、ユーザが表示されているカメラ画像内で別のマスク候補領域の境界を定義するエッジを追加選択する(図26(C)内の(2))と、図26(C)に示すように、当該選択されたエッジ近傍にある輝度が相対的に高い別の領域がマスク候補領域226として抽出される(追加のマスク領域化)。
コントローラ100は、上述したような処理手順に従って、1または複数のマスク領域が設定されると、それらのマスク領域を含む投影パターンを規定し、当該規定した投影パターンから投影パターンを算出する。
図26(B)および図26(C)に示すようなエッジ選択およびマスク領域化の処理は、任意の回数だけ繰返すことができる。すなわち、コントローラ100では、互いに異なる複数のマスク領域の設定を受付けることができるようになっている。
最終的に、図26(D)に示すように、ユーザは、投影パターンの表示を無効化して、設定したマスク領域に応じた照明光が対象物に照射されている状態で撮像されたカメラ画像を確認することで、マスク領域が適切に設定されているか否かを判断する。
マスク候補領域またはマスク領域として抽出される領域は、カメラ画像内の輝度プロファイルなどに基づいて決定してもよい。
図27は、本実施の形態に係る画像計測システム1におけるマスク領域の抽出方法の一例を説明するための模式図である。図27(A)に示すように、カメラ画像内の対象物に対して設定される線上(例えば、A−A’線上)の輝度(輝度プロファイル)のうち、予め定められたしきい値THを連続して超えている範囲を、ハレーション領域として認識するようにしてもよい。図27(B)に示す例では、対象物の中心部分を含む所定範囲がハレーション領域として決定される。
抽出されたマスク候補領域については、ユーザ操作によって、その形状、位置、範囲などを任意に変更することができる。すなわち、コントローラ100は、抽出されたマスク候補領域の形状を変更する操作を受付ける。
図28は、本実施の形態に係る画像計測システム1において設定したマスク領域に対する変更の操作例を説明するための模式図である。図28(A)に示すように、ユーザがカメラ画像内でエッジを選択することで、マスク候補領域が抽出される。ユーザが抽出されたマスク候補領域を選択すると、図28(B)に示すように、選択されたマスク候補領域が選択可能になる。なお、複数の領域が重なって配置されている場合(レイヤ化されている場合)には、より上側に配置されている領域が優先的に選択されることになる。
より具体的には、選択されて編集可能状態になると、マスク候補領域に外接する編集用の外接矩形228が表示されるとともに、当該外接矩形の各頂点には編集用の矩形229が表示される。
さらに、選択されて編集可能状態にあるマスク候補領域については、その照明光量についても任意に変更できる。すなわち、コントローラ100は、設定されている複数のマスク領域の別に、プロジェクタ6から照射される照明光の光量の大きさの設定を受付ける。
より具体的には、図28(C)に示すように、ユーザが照明光量スライダ216を操作することで、選択されているマスク候補領域に設定される照明光量が変更される。各領域に対する照明光量の設定に応じて、表示部120(ユーザインターフェイス画面)に表示される領域を示すオブジェクトの表示(濃淡値または表示色など)も、対応する照明光量の設定値に応じて変更される。
図28(C)には、照明光量スライダ216を用いて照明光量を変更する例を示すが、これに限らず、数値ボックスあるいは矢印ボタンなどを用いて、選択されたマスク候補領域の照明光量を設定できるようにしてもよい。照明光量については、基準の照明光量に対して、0%〜100%の範囲で任意に設定可能である。なお、照明光量を0%にすると、完全なマスク、すなわち照明光が当該領域には照射されない状態となる。
ユーザが図28(B)に示す外接矩形228の頂点に配置される矩形229を操作することで、マスク候補領域の縮小または拡大が可能である。すなわち、図28(D)に示すように、選択されているマスク候補領域の外接矩形228の頂点にある矩形229を所望の位置までドラッグすることで、マスク候補領域を縦方向および/または横方向に縮小または拡大が可能である。
図28に示すように、複数のマスク候補領域(または、複数のマスク領域)を設定した場合、隣接するマスク候補領域同士が重なる場合も生じ得る。このような場合には、より上側に配置されているマスク候補領域の設定が優先される。
図29は、本実施の形態に係る画像計測システム1において設定される複数の領域間での照明光量の反映方法を説明するための模式図である。図29(A)には、3つの領域1,2,3が設定されている例を示す。これらの領域はレイヤ化されており、その重なり方向の位置(重なり順序)も定義されている。
図29(B)には、図29(A)に示すような設定によって生成される照射パターンを示す。図29(B)に示すように、複数の領域が重複している部分については、重なり順序が最も上である領域の照明光量が優先して適用される。
以上のように、本実施の形態に係る画像計測システム1においては、1または複数のマスク候補領域を自由に設定できるとともに、各マスク候補領域の照明光量についてもそれぞれ独立に設定できる。このような領域設定の自由度によって、ユーザは、対象物表面の反射率の状態などに応じて、より適切な投影パターンを設定することができる。
<I.その他の実施の形態>
上述の実施の形態においては、複数の機能について言及したが、上述した機能のすべてを単一の画像処理システムに組み入れる必要はなく、上述した機能の一部を選択的に組み入れるようにしてもよい。また、上述した機能の一部同士を適宜組み合わせることも可能である。
<J.利点>
本実施の形態に係る画像計測システム1では、プロジェクタ6を用いて、対象物に対して照射パターンに従う照明光を照射するプロジェクタ方式を採用する。このようなプロジェクタ方式を採用することで、特定の領域について照明強度を弱めた照射パターンを作成し、その照射パターンによって生じる投影パターンを含む撮像視野を撮像することで、画像計測処理の対象となるカメラ画像が取得される。本実施の形態においては、このような画像計測システム1におけるプロジェクタ6の設定をより容易化するユーザインターフェイスなどを提供する。
特に、複数の方法でマスク領域または投影パターンを決定できることで、画像計測などについて専門知識を有していないユーザであっても、照明光の投影パターンをより適切かつ迅速に決定することができる。
このようなユーザインターフェイスを採用することで、高反射率領域と低反射率領域とが同一の撮像視野内に混在する対象物に対して、高反射率領域に対応する領域の照明光量を低減することで、高反射率領域の正反射によるハレーションの影響を低減しつつ、高反射率領域以外の領域についてのコントラスト(視認性)を高めることができる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 画像計測システム、2 試料台、4 撮像部、6 プロジェクタ、41 撮像視野、61 照明光、100 コントローラ、102 プロセッサ、104 カメラインターフェイス、106 照明インターフェイス、108 主メモリ、110 表示インターフェイス、112 操作インターフェイス、114 通信インターフェイス、116 内部バス、118 ハードディスクドライブ、120 表示部、122 操作部、124 光学ドライブ、126 光学ディスク、1181 画像計測処理プログラム、1182 設定パラメータ、AX1,AX2 光軸。

Claims (14)

  1. コントローラと、
    前記コントローラから指示された照射パターンに従って照明光を照射するプロジェクタと、
    前記照明光が照射される領域を撮像視野に含む撮像部と、
    画像を表示可能な表示部とを備え、
    前記コントローラは、
    前記照明光が照射されている状態で前記撮像部により撮像された前記撮像視野の画像を前記表示部に表示する表示制御手段と、
    前記表示部に表示される画像に関連付けて、前記撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定をユーザから受付ける受付手段と、
    前記プロジェクタの照射パターンと当該照射パターンにより前記撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、前記設定されたマスク領域に従って、前記照射パターンを更新する更新手段と
    前記撮像視野の画像内の所定条件に適合する画素値を有する領域をマスク領域の候補として抽出する抽出手段とを含
    前記抽出手段は、前記プロジェクタから照射される照明光の光量を複数に異ならせた状態で、それぞれ撮像された前記撮像視野の画像に基づいて、前記所定条件を決定する、画像計測システム。
  2. 前記表示制御手段は、前記撮像視野の画像に加えて、設定されたマスク領域を示す表示領域を、当該撮像視野の画像の表示領域に関連付けて表示する、請求項1に記載の画像計測システム。
  3. 前記表示制御手段は、前記撮像視野の画像に加えて、設定されたマスク領域を前記撮像視野の画像に合成した画像を表示する、請求項1または2に記載の画像計測システム。
  4. 前記表示制御手段は、前記撮像視野の画像と、設定されたマスク領域を前記撮像視野の画像に合成した画像とを選択的に表示する、請求項1に記載の画像計測システム。
  5. 前記受付手段は、さらに、前記プロジェクタから照射される照明光の光量の大きさの設定を受付ける、請求項1〜4のいずれか1項に記載の画像計測システム。
  6. 前記受付手段は、互いに異なる複数のマスク領域の設定を受付けることができるように構成されている、請求項1〜5のいずれか1項に記載の画像計測システム。
  7. 前記受付手段は、前記複数のマスク領域の別に、前記プロジェクタから照射される照明光の光量の大きさの設定を受付ける、請求項6に記載の画像計測システム。
  8. 前記受付手段は、予め規定された複数の形状の選択を受付けるとともに、選択された形状の領域の大きさおよび位置の指定を受付ける、請求項1〜7のいずれか1項に記載の画像計測システム。
  9. 前記受付手段は、前記抽出されたマスク領域の候補の形状を変更する操作を受付ける、請求項1〜8のいずれか1項に記載の画像計測システム。
  10. 前記受付手段は、画像計測処理の対象となる領域である検査領域の設定を受付けるとともに、前記撮像視野のうち当該検査領域を除く領域をマスク領域として設定する、請求項1〜のいずれか1項に記載の画像計測システム。
  11. 前記コントローラは、
    前記設定されたマスク領域に対応する照射パターンに従って照明光が照射されている状態で、複数の撮像条件下で撮像されたそれぞれの画像を合成して合成画像を生成する合成手段と、
    前記マスク領域の大きさおよび位置の少なくとも一方を変化させつつ、各マスク領域に対応する照射パターンに従う照明光が照射されている状態で生成された合成画像のコントラストを評価することで、前記マスク領域の大きさまたは位置を最適化する最適化手段とを含む、請求項10に記載の画像計測システム。
  12. 前記コントローラは、前記プロジェクタから予め定められた基準の照射パターンに従って照明光を照射させるとともに、前記撮像部により撮像された画像に現れる投影パターンに基づいて、前記位置についての対応関係を決定する決定手段をさらに含む、請求項1〜8のいずれか1項に記載の画像計測システム。
  13. コントローラと、
    前記コントローラから指示された照射パターンに従って照明光を照射するプロジェクタと、
    前記照明光が照射される領域を撮像視野に含む撮像部と、
    画像を表示可能な表示部とを備え、
    前記コントローラは、
    前記照明光が照射されている状態で前記撮像部により撮像された前記撮像視野の画像を前記表示部に表示する表示制御手段と、
    前記表示部に表示される画像に関連付けて、前記撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定を受付ける受付手段と、
    前記プロジェクタの照射パターンと当該照射パターンにより前記撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、前記設定されたマスク領域に従って、前記照射パターンを更新する更新手段と、
    前記撮像視野の画像内の所定条件に適合する画素値を有する領域をマスク領域の候補として抽出する抽出手段とを含み、
    前記抽出手段は、前記プロジェクタから照射される照明光の光量を複数に異ならせた状態で、それぞれ撮像された前記撮像視野の画像に基づいて、前記所定条件を決定する、画像計測システム。
  14. 照明光を照射するプロジェクタと、前記照明光が照射される領域を撮像視野に含む撮像部とを含む画像計測システムに用いられるコントローラであって、
    前記プロジェクタに対して照射パターンに従う照明光の照射を指示する照明制御手段と、
    前記照明光が照射されている状態で前記撮像部により撮像された前記撮像視野の画像を表示部に表示する表示制御手段と、
    前記表示部に表示される画像に関連付けて、前記撮像視野内の他の領域に比較して照明光の光量を低下させるべき領域であるマスク領域の設定をユーザから受付ける受付手段と、
    前記プロジェクタの照射パターンと当該照射パターンにより前記撮像視野において生じる投影パターンとの位置についての対応関係に基づいて、前記設定されたマスク領域に従って、前記照射パターンを更新する更新手段と
    前記撮像視野の画像内の所定条件に適合する画素値を有する領域をマスク領域の候補として抽出する抽出手段とを含
    前記抽出手段は、前記プロジェクタから照射される照明光の光量を複数に異ならせた状態で、それぞれ撮像された前記撮像視野の画像に基づいて、前記所定条件を決定する、コントローラ。
JP2016043191A 2016-03-07 2016-03-07 画像計測システムおよびコントローラ Active JP6540557B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016043191A JP6540557B2 (ja) 2016-03-07 2016-03-07 画像計測システムおよびコントローラ
EP16206552.8A EP3217661B1 (en) 2016-03-07 2016-12-23 Image measurement system and controller
US15/391,022 US10313569B2 (en) 2016-03-07 2016-12-27 Image measurement system and controller

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016043191A JP6540557B2 (ja) 2016-03-07 2016-03-07 画像計測システムおよびコントローラ

Publications (2)

Publication Number Publication Date
JP2017161232A JP2017161232A (ja) 2017-09-14
JP6540557B2 true JP6540557B2 (ja) 2019-07-10

Family

ID=58231321

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016043191A Active JP6540557B2 (ja) 2016-03-07 2016-03-07 画像計測システムおよびコントローラ

Country Status (3)

Country Link
US (1) US10313569B2 (ja)
EP (1) EP3217661B1 (ja)
JP (1) JP6540557B2 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE112017002855T5 (de) * 2016-06-07 2019-02-28 Olympus Corporation Bildverarbeitungsvorrichtung, Endoskopsystem, Bildverarbeitungsverfahren und Programm
JP7297441B2 (ja) * 2018-12-20 2023-06-26 キヤノン株式会社 電子機器、電子機器の制御方法およびプログラム
JP7007324B2 (ja) * 2019-04-25 2022-01-24 ファナック株式会社 画像処理装置、画像処理方法、及びロボットシステム
CN111811433B (zh) * 2020-07-15 2022-03-08 河北工业大学 基于红蓝正交条纹的结构光系统标定方法及装置和应用
WO2023189068A1 (ja) * 2022-03-30 2023-10-05 ソニーグループ株式会社 情報処理装置、情報処理方法および情報処理プログラム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07301513A (ja) * 1994-05-02 1995-11-14 Komatsu Ltd 対象物の認識装置
US7245325B2 (en) 2000-03-17 2007-07-17 Fujifilm Corporation Photographing device with light quantity adjustment
JP2001333329A (ja) * 2000-03-17 2001-11-30 Fuji Photo Film Co Ltd 撮影装置
US6674474B2 (en) 2000-10-23 2004-01-06 Hitachi Kokusai Electric Inc. Method of controlling transmission light amount and television camera apparatus using the method
JP2002204391A (ja) * 2000-10-23 2002-07-19 Hitachi Kokusai Electric Inc 透過光量制御方法およびその方法を用いたテレビジョンカメラ装置
JP3871115B2 (ja) * 2001-11-13 2007-01-24 株式会社リコー 形状測定装置、文書スキャナ及びプロジェクタ
JP4335024B2 (ja) * 2004-01-27 2009-09-30 オリンパス株式会社 3次元形状測定方法及びその装置
JP4611782B2 (ja) * 2005-03-28 2011-01-12 シチズンホールディングス株式会社 3次元形状測定方法及び測定装置
JP2009099510A (ja) 2007-02-15 2009-05-07 Toshiba Lighting & Technology Corp 照明装置
WO2009041171A1 (ja) 2007-09-26 2009-04-02 Toshiba Lighting & Technology Corporation 照明装置
US8294762B2 (en) 2008-10-10 2012-10-23 Fujifilm Corporation Three-dimensional shape measurement photographing apparatus, method, and program
JP5161024B2 (ja) * 2008-10-10 2013-03-13 富士フイルム株式会社 3次元形状計測用撮影装置および方法並びにプログラム
TWI467128B (zh) * 2009-07-03 2015-01-01 Koh Young Tech Inc 用於檢查測量物件之方法(一)
JP5869281B2 (ja) 2011-04-11 2016-02-24 株式会社ミツトヨ 光学式プローブ
JP5881235B2 (ja) * 2011-08-05 2016-03-09 Jukiオートメーションシステムズ株式会社 3次元測定装置、3次元測定方法及びプログラム
JP6112807B2 (ja) * 2012-09-11 2017-04-12 株式会社キーエンス 形状測定装置、形状測定方法および形状測定プログラム
US9857166B2 (en) 2012-09-19 2018-01-02 Canon Kabushiki Kaisha Information processing apparatus and method for measuring a target object
JP6071363B2 (ja) * 2012-09-19 2017-02-01 キヤノン株式会社 距離計測装置及び方法
JP6091866B2 (ja) * 2012-11-30 2017-03-08 株式会社キーエンス 計測顕微鏡装置、画像生成方法及び計測顕微鏡装置操作プログラム並びにコンピュータで読み取り可能な記録媒体
KR20140142575A (ko) * 2013-06-04 2014-12-12 삼성전기주식회사 휨측정용 보정 블럭, 그를 이용한 휨 측정 장치 및 그 방법
JP6506914B2 (ja) * 2013-07-16 2019-04-24 株式会社キーエンス 三次元画像処理装置、三次元画像処理方法及び三次元画像処理プログラム並びにコンピュータで読み取り可能な記録媒体及び記録した機器

Also Published As

Publication number Publication date
EP3217661A1 (en) 2017-09-13
JP2017161232A (ja) 2017-09-14
US20170257540A1 (en) 2017-09-07
US10313569B2 (en) 2019-06-04
EP3217661B1 (en) 2019-10-02

Similar Documents

Publication Publication Date Title
JP6540557B2 (ja) 画像計測システムおよびコントローラ
JP6139017B2 (ja) 光源の特性を決定する方法及びモバイルデバイス
JP6681844B2 (ja) 遠隔視覚検査画像捕捉システムおよび方法
RU2577533C1 (ru) Устройство обработки изображений, проектор и способ управления проектором
JP7010057B2 (ja) 画像処理システムおよび設定方法
JP2009245429A (ja) 画像処理装置
JP2014093147A (ja) 照明システムおよび照明制御方法
JP5956911B2 (ja) 形状測定装置、形状測定方法および形状測定プログラム
JP2005114531A (ja) 画像表示装置及び画像表示方法
JP2023176008A (ja) 像解析装置、解析装置、形状測定装置、像解析方法、測定条件決定方法、形状測定方法及びプログラム
JP7154084B2 (ja) 三次元形状測定装置および三次元形状測定プログラム
US7589330B2 (en) Ultraviolet microscope apparatus
JP6835020B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
JP5867123B2 (ja) 3次元形状計測装置およびキャリブレーション方法
CN111145332B (zh) 一种针对家装设计测光的通用方法
JP2014134389A (ja) 形状測定装置、形状測定方法および形状測定プログラム
JP7119621B2 (ja) 画像処理システムおよび画像処理方法
JP7427822B2 (ja) 投影装置及び方法
JP6973205B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
WO2020241844A1 (ja) 画像処理装置及び画像処理プログラム
JP5917072B2 (ja) 画像処理装置および画像処理プログラム
JP5917080B2 (ja) 画像処理装置、拡大観察装置および画像処理プログラム
JP7360316B2 (ja) 光照射システム及び制御装置
JP2022120606A (ja) 投影装置及び投影方法
JP2009222399A (ja) 画像ゲイン調整装置およびその方法、並びに三次元形状測定装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171026

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180912

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181002

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181203

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190401

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190409

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190514

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190527

R150 Certificate of patent or registration of utility model

Ref document number: 6540557

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250