JP2019215180A - 計測システムおよび計測方法 - Google Patents

計測システムおよび計測方法 Download PDF

Info

Publication number
JP2019215180A
JP2019215180A JP2018111124A JP2018111124A JP2019215180A JP 2019215180 A JP2019215180 A JP 2019215180A JP 2018111124 A JP2018111124 A JP 2018111124A JP 2018111124 A JP2018111124 A JP 2018111124A JP 2019215180 A JP2019215180 A JP 2019215180A
Authority
JP
Japan
Prior art keywords
model
partial
work
measurement
models
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018111124A
Other languages
English (en)
Other versions
JP7119606B2 (ja
Inventor
智規 有吉
Tomonori Ariyoshi
智規 有吉
豊男 飯田
Toyoo Iida
豊男 飯田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2018111124A priority Critical patent/JP7119606B2/ja
Priority to US16/413,608 priority patent/US11093730B2/en
Publication of JP2019215180A publication Critical patent/JP2019215180A/ja
Application granted granted Critical
Publication of JP7119606B2 publication Critical patent/JP7119606B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/75Determining position or orientation of objects or cameras using feature-based methods involving models
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects
    • G06V20/653Three-dimensional objects by matching three-dimensional models, e.g. conformal mapping of Riemann surfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Multimedia (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】より精度の高い物体認証を実現できる構成が要望されている。【解決手段】計測システムは、計測する形状計測部と、ワーク種別毎に全体モデルを格納する記憶部と、形状計測部により計測された三次元形状が記憶部に格納されたいずれかの全体モデルと合致するかに基づいて物体認証を実行する認識処理部とを含む。ワーク種別毎の全体モデルは、複数の部分モデルの組合せにより規定されており、複数の部分モデルの各々には、対応する重要度が付与されている。認識処理部は、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断する。【選択図】図1

Description

本技術は、所定位置に配置されたワークの三次元形状を光学的に計測する計測システムおよび計測方法に関する。
所定位置に配置されたワークの三次元形状を光学的に計測する技術が知られている。計測された三次元形状と予め登録されたモデルデータとを照合することで、指定された種類のワークが存在しているか否か、あるいは、存在しているワークがいずれの種別に属するのか、といった処理が実行される。
例えば、特開2010−218016号公報(特許文献1)は、個々の視覚センサの設置環境や計測条件に適合し、認識精度が確保されたモデルデータを容易に作成する構成を開示する。
特開2010−218016号公報
特許文献1に開示される手法によれば、基本モデルから不要情報を削除することで、登録対象のモデルデータを生成する。すなわち、特許文献1に開示される手法によれば、基本モデルに含まれる部分のうち照合対象の部分のみがモデルデータとして登録されることになる。
このようなモデルデータを用いる場合に比較して、より精度の高い物体認証を実現できる構成が要望されている。
本技術の一つの実施形態に従う計測システムは、所定位置に配置されたワークの三次元形状を光学的に計測する形状計測部と、ワーク種別毎に全体モデルを示す三次元形状を予め格納する記憶部と、形状計測部により計測された三次元形状が記憶部に格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行する認識処理部とを含む。ワーク種別毎の全体モデルは、複数の部分モデルの組合せにより規定されており、複数の部分モデルの各々には、対応する重要度が付与されている。認識処理部は、認識処理部は、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断する。
この開示によれば、重要度がそれぞれ付与された1または複数の部分モデルを用いて全体モデルを規定するので、重要度が付与されていない部分モデルを用いた場合に生じ得る誤検知を抑制できるとともに、全体モデルのみを用いた場合に生じ得る不検知を抑制できる。
上述の開示において、形状計測部は、所定位置に配置されたワークを撮像する撮像部を有しており、ワーク種別毎の全体モデルは、撮像部の視野または解像度に応じて、含まれる部分モデルの数が異なっている。
この開示によれば、撮像部の視野の大きさに依存して変化する計測密度(分解能)に応じた部分モデルからなる全体モデルを採用できるので、物体認証の精度を高めることができる。
上述の開示において、各部分モデルに付与される重要度は、撮像部の視野または解像度に応じて、異なる値に設定されている。
この開示によれば、撮像部の視野の大きさに依存して変化する計測密度(分解能)に応じた各部分モデルに付与する重要度を最適化できるので、物体認証の精度を高めることができる。
上述の開示において、重要度は、形状計測部により計測されたワーク表面の計測点の数を反映したものである。
この開示によれば、濃淡パターンをワークに投影して三次元形状計測を行う構成に適した判断基準を採用できる。
上述の開示において、認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと計測された三次元形状との合致度合いのそれぞれが、各部分モデルに対応する重要度に基づいて決定されるそれぞれの判断基準を満たすときに、当該全体モデルと合致すると判断してもよい。
この開示によれば、認識処理部は、各部分モデルについての合致度合いを対応する重要度に基づいて評価することで、全体モデルとの合致の有無を正確に判断できる。
上述の開示において、認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと計測された三次元形状との合致度合いのそれぞれと、各部分モデルに対応するそれぞれの重要度と、に基づいて算出される全体モデルについての合致度が、予め定められた判断基準を満たすときに、当該全体モデルと合致すると判断してもよい。
この開示によれば、認識処理部は、各部分モデルについての合致度合いに基づいて、全体モデルについての合致度を算出することで、全体モデルとの合致の有無を正確に判断できる。
上述の開示において、計測システムは、ワークの設計データを受入れるとともに、ユーザ操作に応じて、当該受入れた設計データにより規定される三次元形状を複数の部分形状に分割するモデル登録部をさらに含む。
この開示によれば、設計データに基づいて1または複数の部分モデルを登録できるので、実際に撮像等により部分モデルを登録する場合に比較して、精度の向上および登録作業に要する時間の短縮を実現できる。
上述の開示において、モデル登録部は、ユーザ操作に応じて、分割された各部分形状に対して、重要度を付与する。
この開示によれば、ユーザがワークの各部の用途などに応じて、適切な重要度を設定できる。
上述の開示において、モデル登録部は、仮想空間上に登録すべきワークの形状を表示する手段と、仮想空間上に表示されたワークに対して部分モデルを規定するための境界の設定を受付ける手段とを含む。
この開示によれば、ユーザは仮想空間上に表示されるワークを見ながら、部分モデルとして登録すべき範囲を任意に設定できるので、部分モデルの登録作業に要する時間を短縮できる。
上述の開示において、モデル登録部は、部分モデルを規定する境界を定義する図形種類の設定を受付ける手段をさらに含む。
この開示によれば、ユーザは、先に図形種類を特定した上で、部分モデルを規定する際に入力する境界を設定できるので、部分モデルの登録作業に要する時間を短縮できる。
上述の開示において、モデル登録部は、全体モデルに含めるべき部分モデルを規定するための境界、および、全体モデルに含めるべきではない部分モデルを規定するための境界の設定を受付ける。
この開示によれば、ユーザは、全体モデルに含めるべき部分モデル、および、全体モデルに含めるべきではない部分モデルを設定すれば、全体モデルを規定するのに必要な情報が登録できるので、部分モデルの登録作業に要する時間を短縮できる。
本技術の別の実施形態に従う計測方法は、所定位置に配置されたワークの三次元形状を光学的に計測するステップと、計測された三次元形状が予め格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行するステップとを含む。ワーク種別毎に全体モデルを示す三次元形状が予め格納されるとともに、ワーク種別毎の全体モデルは、複数の部分モデルの組合せにより規定されており、複数の部分モデルの各々には、対応する重要度が付与されている。実行するステップは、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断するステップを含む。
この開示によれば、重要度がそれぞれ付与された1または複数の部分モデルを用いて全体モデルを規定するので、重要度が付与されていない部分モデルを用いた場合に生じ得る誤検知を抑制できるとともに、全体モデルのみを用いた場合に生じ得る不検知を抑制できる。
本技術によれば、従来技術に比較して、より精度の高い物体認証を実現できる。
本実施の形態に従う計測システムの適用例を示す模式図である。 本実施の形態に従うピッキングシステムの全体構成を示す模式図である。 本実施の形態に従う計測システムに含まれる計測ヘッドの構成例を示す模式図である。 本実施の形態に従う計測システムに含まれる画像計測装置の構成例を示す模式図である。 本実施の形態に従う計測システムによる物体認識の概要を説明するための図である。 本実施の形態に従う計測システムにおけるモデル登録の処理手順を示すフローチャートである。 本実施の形態に従う計測システムにおける物体認識の処理手順を示すフローチャートである。 本実施の形態に従う計測システムが管理するカメラモデル設定の一例を示す図である。 本実施の形態に従う計測システムの物体認識の対象とするワークの例を示す図である。 本実施の形態に従う計測システムにおける全体モデルおよび部分モデルの登録処理手順を説明するための図である。 本実施の形態に従う計測システムにおける重み付け係数(優先度)を説明するための図である。 本実施の形態に従う計測システムにおける重み付け係数(優先度)を利用した物体認識の認識精度の向上を説明するための図である。 本実施の形態に従う計測システムにおける撮像部の視野に応じた計測結果の一例を示す図である。 本実施の形態に従う計測システムにおける撮像部の視野に応じた部分モデルの登録例を示す図である。 本実施の形態に従う計測システムにおいてモデル登録を行うためのユーザインターフェイス画面の一例を示す模式図である。 本実施の形態に従う計測システムにおいてモデル登録を行うためのユーザインターフェイス画面の別の一例を示す模式図である。 本実施の形態に従う計測システムにおいてモデル登録を行うためのユーザインターフェイス画面のさらに別の一例を示す模式図である。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
<A.適用例>
まず、本発明が適用される場面の一例について説明する。
図1は、本実施の形態に従う計測システム2の適用例を示す模式図である。図1を参照して、計測システム2は、所定位置に配置されたワークWの三次元形状を計測し、その計測した三次元形状に基づいて後述するような物体認識を実行する。計測システム2は、形状計測部50と、記憶部60と、認識処理部56とを含む。
形状計測部50は、所定位置に配置されたワークWの三次元形状を光学的に計測する装置であり、光学系を有する計測ヘッド52と、計測ヘッド52からの電気信号を処理する計測処理部54とを含む。形状計測部50は、所定位置に配置されたワークWを撮像する撮像部(計測ヘッド52)を有している。
記憶部60は、ワーク種別毎に全体モデル62を示す三次元形状を予め格納する。ワーク種別毎の全体モデル62は、複数の部分モデル64の組合せにより規定されている。さらに、複数の部分モデル64の各々には、対応する重要度66が付与されている。
認識処理部56は、形状計測部50により計測された三次元形状が記憶部60に格納されたいずれかの全体モデル62と合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行する。
本明細書においては、計測された三次元形状と予め登録された全体モデルとの照合により、ワークWの存在検出やワーク種別の特定を行う処理を「物体認識」あるいは「物体認識処理」と総称する。
認識処理部56は、いずれかの全体モデル62に含まれる1以上の部分モデル64に対応する重要度66に基づいて、当該全体モデルと合致するか否かを判断する(処理70)。
典型的には、各部分モデル64と計測された三次元形状との合致度合いが、各部分モデル64に付与された重要度66に基づいて算出されるしきい値を超える場合には、当該部分モデル64は計測された三次元形状と合致すると判断される。全体モデル62に含まれる部分モデル64のすべてについて対応する判断基準を満たす場合に、当該全体モデル62に合致すると判断してもよい。
あるいは、一部の部分モデル64が対応する判断基準を満たす場合に、当該全体モデル62に合致すると判断してもよい。例えば、全体モデル62を構成する複数の部分モデル64のうち、所定割合の部分モデル64が判断基準を満たす、あるいは、優先度が上位にある部分モデル64について判断基準を満たす場合には、対応する全体モデル62と合致すると判断するようにしてもよい。
このような構成を採用することで、全体モデルを用いて物体認識を行う場合には、外乱などで不認識(すなわち、ワークの存在を検出できない)が生じる場合があるが、本実施の形態によれば、このような不認識を抑制できる。また、重要度を考慮することなく部分モデルを用いた場合には、誤認識(すなわち、誤ったワーク種別を出力する)を生じる可能性があるが、本実施の形態によれば、このような誤認識を抑制できる。
<B.ピッキングシステム1の全体構成>
まず、本実施の形態に従うピッキングシステム1の全体構成について説明する。
図2は、本実施の形態に従うピッキングシステム1の全体構成を示す模式図である。図2を参照して、ピッキングシステム1は、ピッキング位置に配置されたワークWをロボット300が把持して、図示しないプレイス位置に移動および配置する。ワークWは、典型的には、図示しない搬送装置などによって適宜搬送されてバラ積みされる。
ピッキングシステム1は、ワークWの三次元形状を光学的に計測する計測システム2を有しており、計測システム2がピッキング位置を計測することで得られる三次元形状と予め登録した全体モデルとを照合することで、ピッキング位置におけるワークWの存在検出やワーク種別の特定(物体認識)を行う。
計測システム2が制御装置200に対して、認識したワークWの位置や向きを指示することで、制御装置200はロボット300に対して認識したワークWの把持および移動を行うための指令を与える。
計測システム2は、計測ヘッド10と、計測ヘッド10に接続される画像計測装置100とを含む。計測ヘッド10および画像計測装置100が形状計測部50に相当する。画像計測装置100は、認識処理部56および記憶部60を有している。
典型例として、計測システム2は、構造化照明と称される手法を用いて三次元計測を実現する。構造化照明の手法では、計測光をワークに照射するともに、計測光が投影された状態でワークを撮像することで得られる画像に基づいて、ワークまでの距離を計測する。このような構造化照明の手法としては、空間コード化法、位相シフト法、光切断法などを用いることができる。
計測ヘッド10は、計測光を照射する投光部と、計測光が投影された状態でワークを撮像する撮像部とを有している。投光部から計測光が照射される範囲と、撮像部が撮像する範囲とは実質的に一致するように構成されている。投光部から照射される計測光は、所定の濃淡パターンを有するパターン光であってもよいし、所定の幅を有するスリット光であってもよい。
画像計測装置100は、計測ヘッド10の撮像部により撮像された画像に基づいて、撮像部の視野内に存在するワークの三次元形状を示す計測結果を算出する。画像計測装置100は、計測された三次元形状と予め登録したモデルデータとを照合することで、物体認識、すなわち、ワークWの存在検出やワーク種別の特定を行う。
さらに、画像計測装置100は、認識したワークWの位置や向きを、ネットワーク4を介して接続された制御装置200に出力する。
制御装置200は、典型的には、PLC(プログラマブルコントローラ)などで構成され、画像計測装置100からのワークWの位置や向きの情報に基づいて、ロボット300に対して動作指令(認識したワークWの把持および移動を行うための指令)を与える。
<C.計測システム2の構成例>
次に、計測システム2に含まれる装置構成の一例について説明する。
(c1:計測ヘッド10)
図3は、本実施の形態に従う計測システム2に含まれる計測ヘッド10の構成例を示す模式図である。図3を参照して、計測ヘッド10は、処理部12と、投光部14と、撮像部16と、表示部18と、記憶部20とを含む。
処理部12は、計測ヘッド10における全体処理を司る。処理部12は、典型的には、プロセッサと、プロセッサで実行される命令コードを格納するストレージと、命令コードを展開するメモリとを含む。この場合、処理部12において、プロセッサが命令コードをメモリ上に展開して実行することで各種処理を実現する。処理部12の全部または一部を専用のハードウェア回路(例えば、ASIC(Application Specific Integrated Circuit)またはFPGA(Field-Programmable Gate Array)など)を用いて実装してもよい。
表示部18は、計測ヘッド10において取得あるいは算出された各種情報を外部へ通知する。
記憶部20は、撮像部16により撮像された画像や予め設定されるキャリブレーションパラメータなどを格納する。
通信インターフェイス(I/F)部22は、計測ヘッド10と画像計測装置100との間のデータの遣り取りを担当する。
(c2:画像計測装置100)
図4は、本実施の形態に従う計測システム2に含まれる画像計測装置100の構成例を示す模式図である。画像計測装置100は、典型的には、汎用コンピュータを用いて実現される。図4を参照して、画像計測装置100は、プロセッサ102と、メインメモリ104と、ストレージ106と、入力部108と、表示部110と、光学ドライブ112と、通信インターフェイス(I/F)部114とを含む。これらのコンポーネントは、プロセッサバス116を介して接続されている。
プロセッサ102は、CPU(Central Processing Unit)やGPU(Graphics Processing Unit)などで構成され、ストレージ106に格納されたプログラム(一例として、OS1060および三次元計測プログラム1062)を読出して、メインメモリ104に展開して実行することで、後述するような各種処理を実現する。
メインメモリ104は、DRAM(Dynamic Random Access Memory)やSRAM(Static Random Access Memory)などの揮発性記憶装置などで構成される。ストレージ106は、例えば、HDD(Hard Disk Drive)やSSD(Solid State Drive)などの不揮発性記憶装置などで構成される。
ストレージ106には、基本的な機能を実現するためのOS1060に加えて、画像計測装置100としての機能を提供するための三次元計測プログラム1062、および、物体認識に用いられるモデルデータ1064が格納される。
入力部108は、キーボードやマウスなどで構成され、ユーザ操作を受付ける。表示部110は、ディスプレイ、各種インジケータ、プリンタなどで構成され、プロセッサ102からの処理結果などを出力する。
通信インターフェイス部114は、ネットワーク4(図2参照)を介して他の装置との間のデータの遣り取りを担当する。
画像計測装置100は、光学ドライブ212を有しており、コンピュータ読取可能なプログラムを非一過的に格納する記録媒体213(例えば、DVD(Digital Versatile Disc)などの光学記録媒体)から、その中に格納されたプログラムが読取られてストレージ106などにインストールされる。
画像計測装置100で実行される三次元計測プログラム1062などは、コンピュータ読取可能な記録媒体113を介してインストールされてもよいが、ネットワーク上のサーバ装置などからダウンロードする形でインストールするようにしてもよい。また、本実施の形態に従う三次元計測プログラム1062が提供する機能は、OSが提供するモジュールの一部を利用する形で実現される場合もある。
図4には、プロセッサ102がプログラムを実行することで、画像計測装置100として必要な機能が提供される構成例を示したが、これらの提供される機能の一部または全部を、専用のハードウェア回路(例えば、ASICまたはFPGAなど)を用いて実装してもよい。
<D.概要>
次に、本実施の形態に従う計測システム2による物体認識の概要について説明する。図5は、本実施の形態に従う計測システム2による物体認識の概要を説明するための図である。
図5を参照して、CAD(Computer-Aided Design)データなどから得られる設計データ400が全体モデル410として登録される。併せて、設計データ400を1または複数の部分に分割することで得られる部分モデル420も登録される。
部分モデル420は、例えば、設計データ400に対して、モデル登録範囲402,404,406をユーザが任意に設定することで生成される。
本実施の形態においては、全体モデルを構成する1または複数の部分モデルに対して、それぞれ重要度が設定される。
本明細書において、「重要度」は、物体認識処理の照合処理における優先度あるいは重み付け係数を意味するものであり、より高い重要度が設定されている部分モデルと計測された三次元形状とが合致するほど、対応する全体モデルと合致していると判断される可能性が高くなる。言い換えれば、重要度の低い部分モデルについては、計測された三次元形状と合致しなくとも、全体モデルと合致しているとの判断に与える影響は小さくなる。以下の説明においては、「重要度」の典型例として「重み付け係数」を用いる。
図5に示すモデル登録範囲402,404,406は、重要度の高い部分モデルを規定するものであり、モデル登録範囲402,404,406で囲まれる領域は、重要度の高い部分モデルとして登録される。
一方、モデル登録範囲402,404,406で囲まれる領域以外の領域については、計測ヘッド10の撮像部16から隠れたり(視野範囲外)、計測が不安定になったりする部分であり、部分モデルとして登録する際の重要度を下げることになる。
本実施の形態に従う計測システム2においては、それぞれ重要度が付与された複数の部分モデルの集合として全体モデルを登録しておき、計測された三次元形状とそれぞれの部分モデルとの合致の有無(あるいは度合い)、ならびに、対応する重要度に基づいて、当該計測された三次元形状がいずれかの全体モデルと合致するか否かが判断される。
<E.処理手順>
次に、本実施の形態に従う計測システム2における処理手順について説明する。本実施の形態に従う計測システム2において実行される処理は、基本的には、モデルを登録する処理および登録されたモデルを用いて物体認識を行う処理の2つからなる。
(e1:モデル登録)
図6は、本実施の形態に従う計測システム2におけるモデル登録の処理手順を示すフローチャートである。図6に示す各ステップは、典型的には、画像計測装置100のプロセッサ102が三次元計測プログラム1062を実行することで実現される。
図6を参照して、画像計測装置100は、ユーザからカメラモデル設定を受付ける(ステップS100)。カメラモデル設定は、計測ヘッド10の光学系の種類を示す情報である。後述するように、カメラモデル設定に基づいて、撮像視野および画角などに応じて、撮像される画像内に写るワークの大きさなどに応じて、最適な部分モデルおよび重要度(重み付け係数)が設定される。
画像計測装置100は、ステップS100において与えられたカメラモデル設定に対応するパラメータを読み出す(ステップS102)。ステップS102において読み出されるパラメータは、現在のカメラ設定における計測精度である、最小計測幅を含む。
画像計測装置100は、計測対象のワークのCADデータから全体モデルを生成して登録する(ステップS104)。続いて、画像計測装置100は、登録された全体モデルを構成する部分に応じて、1または複数の部分モデルの範囲設定を受付ける(ステップS106)。そして、画像計測装置100は、部分モデルの範囲設定に基づいて、全体モデルの一部である部分モデルを登録する(ステップS108)。
さらに、画像計測装置100は、ステップS108において登録した各部分モデルに対する重み付け係数の設定を受付ける(ステップS110)。そして、画像計測装置100は、受付けた重み付け係数の設定に基づいて、登録されている各部分モデルに対する重み係数を付与する(ステップS112)。
以上の手順によりモデル登録の処理は完了する。複数種類のワークを物体認識の対象とする場合には、図6に示す処理手順がワークの種類だけ繰返し実行されることになる。
(e2:物体認識)
図7は、本実施の形態に従う計測システム2における物体認識の処理手順を示すフローチャートである。図7に示す各ステップは、典型的には、画像計測装置100のプロセッサ102が三次元計測プログラム1062を実行することで実現される。
図7を参照して、まず、画像計測装置100は、計測ヘッド10に計測光の照射指令を与えるとともに、計測ヘッド10の撮像部16により撮像された画像を取得する(ステップS200)。画像計測装置100は、取得された画像に基づいて三次元計測処理を実行して、計測ヘッド10の撮像部16の視野内に存在するワークの三次元形状を示す計測結果を算出する(ステップS202)。すなわち、ステップS200およびS202においては、所定位置に配置されたワークの三次元形状を光学的に計測する処理が実行される。
画像計測装置100は、予め登録された全体モデルのうち1つを選択し(ステップS204)、当該選択した全体モデルに含まれる各部分モデルと算出された三次元形状との合致度をそれぞれ算出する(ステップS206)。そして、画像計測装置100は、各部分モデルについて算出されたすべての合致度が対応するそれぞれの重み付け係数を超えるか否かを判断する(ステップS208)。すなわち、ステップS206およびS208においては、計測された三次元形状が予め格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方が実行される。
ステップS208においては、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重み付け係数(重要度)に基づいて、当該全体モデルと合致するか否かを判断する。
各部分モデルについて算出されたすべての合致度が対応するそれぞれの重み付け係数を超えている場合(ステップS208においてYESの場合)には、画像計測装置100は、選択されている全体モデルを物体認識結果として出力する(ステップS210)。そして、処理は終了する。
一方、部分モデルについて算出されたいずれかの合致度が対応する重み付け係数以下である場合(ステップS208においてNOの場合)には、画像計測装置100は、選択されている全体モデルとは合致しないと判断する。このように、重み付け係数が判断基準として用いられてもよい。重み付け係数は、後述するように計測点の密度を意味するので、重要度は、形状計測部50により計測されたワークW表面の計測点の数を反映したものとなる。
そして、画像計測装置100は、予め登録された全体モデルのうちすべての全体モデルが選択済であるか否かを判断する(ステップS212)。予め登録されている全体モデルのうち未だ選択されていない全体モデルが存在する場合(ステップS212においてNOの場合)には、画像計測装置100は、予め登録された全体モデルのうち別の1つを選択し(ステップS214)、ステップS206以下の処理を繰返す。
予め登録された全体モデルのうちすべての全体モデルが選択済である場合(ステップS212においてYESの場合)には、画像計測装置100は、同一のワークに対する三次元計測の繰返し実行回数が予め定められた上限値を超えたか否かを判断する(ステップS216)。
同一のワークに対する三次元計測の繰返し実行回数が予め定められた上限値を超えていない場合(ステップS216においてNOの場合)には、ステップS200以下の処理が繰返される。
これに対して、同一のワークに対する三次元計測の繰返し実行回数が予め定められた上限値を超えている場合(ステップS216においてYESの場合)には、現在のワークに対する物体認識が失敗であることを出力する(ステップS218)。そして、処理は終了する。
<F.モデル登録>
次に、図6に示すモデル登録の処理内容について詳述する。
(f1:カメラモデル設定)
まず、図6のステップS102で利用されるカメラモデル設定について説明する。図8は、本実施の形態に従う計測システム2が管理するカメラモデル設定440の一例を示す図である。図8に示す例では、3種類のカメラモデル442が規定されている。具体的には、狭視野タイプ、中視野タイプ、広視野タイプの3種類である。
各カメラモデル442に対応付けて、視野スペック444が規定されている。視野スペック444は、各カメラモデル442に対応する光学系を採用した場合の視野範囲を規定する。各カメラモデル442に対応付けて、最小計測幅446がさらに規定されている。最小計測幅446は、計測可能な最小幅を規定するものであり、対応する視野範囲と解像度とに基づいて決定される。
各カメラモデル442に対応付けて、重み付け係数範囲448がさらに規定されている。重み付け係数範囲448は、各カメラモデル442の視野範囲などに応じて定められる、重み付け係数の範囲を規定する。重み付け係数は、計測ヘッド10の撮像部16で撮像可能な点(計測ヘッド10の投光部14が投影する濃淡パターン(計測光)に含まれる計測点の数)の密度により規定され、後述するような点群比率を意味する。
図8に示すように、カメラモデル設定に対応するパラメータは、視野スペック444、最小計測幅446、重み付け係数範囲448を含む。
(f2:全体モデルおよび部分モデル)
次に、図6のステップS104〜S108に示される全体モデルおよび部分モデルについて説明する。
図9は、本実施の形態に従う計測システム2の物体認識の対象とするワークWの例を示す図である。図9に示すように、複数の部分を組合せたようなワークWを想定する。
図10は、本実施の形態に従う計測システム2における全体モデルおよび部分モデルの登録処理手順を説明するための図である。図10の図中には、ワークの各部を示す数字が記入されているが、これは便宜上のものであり、本件の本質的な技術思想に影響を与えるものではない。
図10(A)には、ワークであるワークのCADデータの一例を示す。一般的に、CADデータはワークの三次元形状を示す情報であり、任意の方向に視点を設定して表現することができる。図10(A)には、ワークの正面図450およびワークの側面図452を示す。図10(A)に示すようなCADデータからワークの全体モデルが作成および登録される。
図10(B)には、図10(A)に示されるCADデータに対して、複数の領域460〜465が設定されている状態を示す。より具体的には、図10(B)には、複数の領域460〜465の設定により、3つの部分モデル470,472,474(部分A、部分B、部分C)が設定されている例を示す。
すなわち、ワークの正面図に対して設定される領域460およびワークの側面図に対して設定される領域461により部分モデル470(部分A)が設定される。同様に、ワークの正面図に対して設定される領域462およびワークの側面図に対して設定される領域463により部分モデル472(部分B)が設定される。同様に、ワークの正面図に対して設定される領域464およびワークの側面図に対して設定される領域465により部分モデル474(部分C)が設定される。
物体認識の対象となるワークの種別数だけ、図10(A)および図10(B)に示す部分モデルの設定手順が繰返される。
図10に示すように、本実施の形態に従う計測システム2は、ワークの設計データ(CADデータ)を受入れるとともに、ユーザ操作に応じて、当該受入れた設計データにより規定される三次元形状を複数の部分形状(部分モデル)に分割するモデル登録機能を有している。計測システム2のモデル登録機能は、さらに、ユーザ操作に応じて、分割された各部分形状に対して重要度を付与するようにしてもよい。
このように、ワークのCADデータから生成される全体モデルを分割することで、1または複数の部分モデルが設定および登録される。そのため、実際にワークを撮像する場合に比較して、全体モデルおよび部分モデルの登録処理を簡素化できる。
(f3:重み付け係数(優先度))
次に、図6のステップS108〜S110に示される各部分モデルに付与される重み付け係数(優先度)について説明する。
図11は、本実施の形態に従う計測システム2における重み付け係数(優先度)を説明するための図である。
図11(A)を参照して、重み付け係数は、点群比率を意味し、単位面積あたりの理想点群数に対する期待点群数の比率を意味する。
単位面積あたりの理想点群数は、計測光が投影する濃淡パターンに含まれる空間周波数、および、計測ヘッド10の撮像部16の光学系により規定される視野範囲などによって定まる、検出可能な計測点の最大数を意味する。期待点群数は、対応する部分モデルの重要度に応じて、計測されるべき計測点の単位面積あたりの数を意味する。
計測点毎に高さ情報(計測ヘッド10からの距離情報)が算出される場合には、単位面積あたりの理想点群数は、計測精度、あるいは検出の解像度を意味する。また、重み付け係数(点群比率)は、本来計測されるべき解像度に対して、どの程度の解像度で計測結果が得られているのかを示すことになる。
このような重み付け係数を用いることで、部分モデルと合致すると判断するための基準の計測精度、すなわち許容される不確定性を規定できる。すなわち、誤認識が許容されない部分モデルほど高い計測精度(重要度)が設定されることになる。
アプリケーション毎に各部分モデルが担う役割に応じて、重み付け係数(すなわち、重要度)を適切に付与することで、ワークに対する物体認識の誤認識(すなわち、誤ったワーク種別を出力する)を防止するとともに、不認識(すなわち、ワークの存在を検出できない)を低減できる。
図11(B)には、アプリケーション毎に各部分モデルが担う役割と点群数の数との関係の一例を示す。図11(B)には、点群数の数に応じて4種類の重み付け係数の係数区分481,482,483,484が示されている。
係数区分481は、点群数が最も多い区分であり、例えば、認識物の把持する部分を検出する部分に相当する部分モデルに付与される。
係数区分482は、点群数が2番目に多い区分であり、例えば、類似物との差異を検出する部分に相当する部分モデルに付与される。
係数区分483は、点群数が3番目に多い区分であり、例えば、認識物の向きを検出する部分に相当する部分モデルに付与される。
係数区分484は、点群数が最も少ない区分であり、認識できなくても支障がない部分に相当する部分モデルに付与される。
このような係数区分481〜484を各部分モデルに適切に付与することで、誤認識および不認識を抑制できる。
図12は、本実施の形態に従う計測システム2における重み付け係数(優先度)を利用した物体認識の認識精度の向上を説明するための図である。例えば、対象のワーク(対象品501)および当該対象品501に類似した形状を有する類似品502が混在して提供されるアプリケーションを想定する((1)CADデータの列参照)。この場合、対象品501についても、どのような向きで配置されるのかは不定である。
対象品501の主部(ロボット300に把持される部分)を部分モデル(図10に示す部分Aに相当)として規定するとともに、当該部分モデルに対して、最も高い重み付け係数(点群比率)を付与する。このような重み付け係数を付与することで、何らかのワークWの三次元計測の計測結果511((2)三次元計測の列参照)が得られた場合には、計測結果511に含まれる部分結果514が部分Aと合致すると判断される。そして、部分結果514が部分Aと合致するとの判断に基づいて、対象のワークが対象品501であるとの物体認識結果521が得られる((3)物体認識の列参照)。併せて、部分結果514の位置から把持部分が特定されるとともに、部分結果514の方向から対象のワークの姿勢が特定される。
対象品501の主部の近傍(類似品502と相違する部分)を部分モデル(図10に示す部分Bに相当)として規定するとともに、当該部分モデルに対して、2番目に高い重み付け係数(点群比率)を付与する。このような重み付け係数を付与することで、何らかのワークWの三次元計測の計測結果512((2)三次元計測の列参照)が得られた場合には、計測結果512に含まれる部分結果515が部分Aと合致すると判断される。また、計測結果512に含まれる部分結果516が部分Bと合致すると判断される。このとき、部分結果515が部分Aと合致するとともに、部分結果516が部分Bと合致するとの判断に基づいて、対象のワークが類似品502ではなく、対象品501であるとの物体認識結果522が得られる((3)物体認識の列参照)。このように、図12に示す例では、部分Bに対応する部分モデルの情報は、対象品501を類似品502と区別するための情報として用いられる。
また、図12に示す例では、部分Bに対応する部分モデルの情報は、対象品501の向き違いを特定するための情報としても用いられる。例えば、何らかのワークWの三次元計測の計測結果513((2)三次元計測の列参照)が得られた場合には、計測結果513に含まれる部分結果517が部分Aと合致すると判断される。また、計測結果513に含まれる部分結果518が部分Bと合致すると判断される。このとき、部分結果517が部分Aと合致するとともに、部分結果518が部分Bと合致するとの判断、ならびに、部分結果517と部分結果518との位置関係に基づいて、対象のワークが対象品501であり、また、その向きが登録されている全体モデルの向きとは反対になっているとの物体認識結果523が得られる((3)物体認識の列参照)。このように、図12に示す例では、部分Bに対応する部分モデルの情報は、対象品501の向き違いを特定するための情報としても用いられる。
このように、全体モデルに含まれる1または複数の部分モデルを登録するとともに、各部分モデルに対して重み付け係数を付与することで、アプリケーションに応じた物体認識を実現できる。
(f4:撮像部の視野または解像度に応じた部分モデルの登録)
次に、計測ヘッド10の撮像部16の視野範囲に応じた部分モデルの登録例について説明する。
図13は、本実施の形態に従う計測システム2における撮像部16の視野に応じた計測結果の一例を示す図である。図13(a)には狭視野タイプの計測ヘッド10を用いた場合の計測結果の一例を示し、図13(b)には中視野タイプの計測ヘッド10を用いた場合の計測結果の一例を示し、図13(c)には広視野タイプの計測ヘッド10を用いた場合の計測結果の一例を示す。
計測ヘッド10の視野範囲が狭い場合には、計測精度が相対的に高くなるので、図13(a)に示すように、対象のワークの三次元形状を適切に計測できる。
図13(a)に示す例に比較して、計測ヘッド10の視野範囲が広くなると、計測精度が相対的に低くなるので、図13(b)に示すように、対象のワークの一部に照射される計測点の密度が低下して、三次元形状の計測精度も低下する。但し、図13(b)に示す計測結果によれば、対象のワーク全体の三次元形状は計測できている。
図13(b)に示す例に比較して、計測ヘッド10の視野範囲がさらに広くなると、図13(c)に示すように、対象のワークの一部にはしかるべき密度の計測点を照射できなくなり、ワークの一部についてはその三次元形状を適切に計測できていない。
なお、図13(b)および図13(c)には示していないが、視野範囲を広げることによって、複数のワークを一度に撮像できるという利点もある。
図14は、本実施の形態に従う計測システム2における撮像部16の視野に応じた部分モデルの登録例を示す図である。図14には、ワークの全体モデルを3つの部分モデル(部分A、部分B、部分C)を用いて規定した例を示す。
図14(a)には狭視野タイプを採用した場合の部分モデルの登録例を示し、図14(b)には中視野タイプを採用した場合の部分モデルの登録例を示し、図14(c)には広視野タイプを採用した場合の部分モデルの登録例を示す。
図14(a)に示す登録モデルは、3つの部分モデルにより規定され、計測精度が最も高い計測結果と照合されることが想定されているため、それぞれの部分モデルに対して相対的に高い重み付け係数が設定されている。
図14(b)に示す登録モデルについても3つの部分モデルにより規定されているが、それぞれの部分モデルに対して設定されている重み付け係数の値は相対的に低くなっている。
図14(c)に示す登録モデルについては、計測精度が最も低い計測結果と照合されることが想定されているため、十分な計測精度が得られないと想定される部分Cについては、登録対象から除外されている。
図13および図14においては、視野の広狭に応じた計測精度について説明したが、同様の作用は解像度を異ならせることでも実現できる。例えば、同一の視野であっても、解像度を高めることで、上述の狭視野と同様に計測精度を増加させることができ、逆に、解像度を下げることで、上述の広視野と同様に計測精度が低下する。このような撮像部の解像度を異ならせる場合においても、含まれる部分モデルの数を最適化するようにしてもよい。
このように、本実施の形態に従う計測システム2においては、ワーク種別毎の全体モデルは、撮像部の視野または解像度に応じて、含まれる部分モデルの数を異なるようにしてもよい。なお、撮像部16の視野および撮像部16の両方に応じた部分モデルを設定するようにしてもよい。このような撮像部16の視野または解像度に応じた部分モデルを設定することで、より適切な物体認識を実現できる。
また、本実施の形態に従う計測システム2においては、各部分モデルに付与される重み付け係数(重要度)は、撮像部16の視野に応じて異なる値に設定してもよい。このような撮像部16の視野に応じた重み係数を設定することで、より適切な物体認識を実現できる。同様に、各部分モデルに付与される重み付け係数(重要度)は、撮像部16の解像度に応じて異なる値に設定してもよい。
このように、本実施の形態においては、登録される部分モデルの数および付与される重み係数の大きさを計測ヘッド10の撮像部16の視野または解像度に応じて決定してもよい。なお、撮像部16の視野および撮像部16の両方に応じた重み係数を設定するようにしてもよい。このような撮像部16の視野または解像度に応じた重み係数を設定することで、より適切な物体認識を実現できる。
(f5:モデル登録用のユーザインターフェイス画面例)
次に、本実施の形態に従う計測システム2において利用される全体モデルおよび部分モデルを登録するためのユーザインターフェイス画面の一例について説明する。
図15は、本実施の形態に従う計測システム2においてモデル登録を行うためのユーザインターフェイス画面の一例を示す模式図である。図15に示すユーザインターフェイス画面600においては、3DCADの表示態様を利用しつつ、形状を規定する点をユーザが任意に指定する方法を採用する。すなわち、ユーザは、3DCAD上に表示されるワーク上の点をマウスなどで指定することにより、部分モデルとして登録すべき要素の境界を用意に指定および登録できる。
より具体的には、図15を参照して、ユーザインターフェイス画面600は、3DCAD表示領域610と、第1選択項目領域620と、第2選択項目領域630と、登録ボタン606と、キャンセルボタン608とを含む。
計測システム2のモデル登録機能は、仮想空間上に登録すべきワークの形状を表示する機能として、3DCAD表示領域610を提供する。
第1選択項目領域620は、部分モデル毎の重み係数の設定を受付ける要素であり、第1部分領域から第3部分領域のそれぞれに対応する重み係数の設定領域621〜623を含む。図15に示す例では、部分A、部分B、部分Cとの名称が付されている。
第2選択項目領域630は、部分モデルの範囲を規定する境界の種類を受付ける要素であり、直線指定631と、円筒指定632と、部分円指定633とを含む。
部分モデルの具体的な手順例としては、まず、ユーザは、第1選択項目領域620内のチェックボックス624を操作して登録すべき部分モデルを選択(図15に示す例では、部分Aが選択されている)する。続いて、ユーザは、第2選択項目領域630内のチェックボックス634を操作して、選択されている部分モデルの境界を規定するための図形種類を選択(図15に示す例では、「直線」が選択されている)し、3DCAD表示領域610内のカーソル612で境界とすべき位置に順次配置および選択(典型的には、クリック動作)を繰返すことで、部分モデル614を規定する境界が設定される。
このように、計測システム2のモデル登録機能は、部分モデルを規定する境界を定義する図形種類の設定を受付ける機能を有している。
計測システム2のモデル登録機能は、仮想空間上に表示されたワークに対して部分モデルを規定するための境界の設定を受付ける機能を有している。
最終的に、ユーザが登録ボタン606を選択することで、設定されている部分モデル614および対応する重み係数が対応付けて登録される。なお、キャンセルボタン608が選択されることで、選択中の内容が一旦解除される。
ユーザは、以上のような設定処理を全体モデルに含まれる部分モデルの数だけ繰返すことで、物体認証に必要な全体モデルおよび部分モデルの登録が完了する。
図16は、本実施の形態に従う計測システム2においてモデル登録を行うためのユーザインターフェイス画面の別の一例を示す模式図である。図16に示すユーザインターフェイス画面602においては、形状を規定する点をユーザが任意に座標値を直接指定する方法を採用する。
より具体的には、図16を参照して、ユーザインターフェイス画面602は、3DCAD表示領域610と、第1選択項目領域620と、第2選択項目領域630と、第3選択項目領域640と、登録ボタン606と、キャンセルボタン608とを含む。
第1選択項目領域620は、設定対象の部分モデルと対応する重み係数の設定を受付ける要素である。図16に示す例では、部分A、部分B、部分Cとの名称が付されている。第1選択項目領域620は、重み係数の設定領域625を含む。
第2選択項目領域630は、部分モデルの範囲を規定する境界の種類を受付ける要素であり、直線指定631と、円筒指定632と、部分円指定633とを含む。
第3選択項目領域640は、部分モデルの範囲を規定する点の座標値を受付ける要素であり、X軸座標641と、Y軸座標642と、Z軸座標643とを含む。
部分モデルの具体的な手順例としては、まず、ユーザは、第1選択項目領域620内のチェックボックス624を操作して登録すべき部分モデルを選択(図16に示す例では、部分Aが選択されている)する。そして、ユーザは、選択した部分モデルに付与する重み係数を設定領域625に入力する。
続いて、ユーザは、第2選択項目領域630内のチェックボックス634を操作して、選択されている部分モデルの境界を規定するための図形種類を選択(図16に示す例では、「直線」が選択されている)する。さらに、ユーザは、各部分モデルの境界を規定する座標値を第3選択項目領域640内のX軸座標641と、Y軸座標642と、Z軸座標643とにそれぞれ入力する。境界とすべき位置を、第2選択項目領域630および第3選択項目領域640に対する設定を繰返すこと順次入力することで、部分モデル614を規定する境界が設定される。
最終的に、ユーザが登録ボタン606を選択することで、設定されている部分モデル614および対応する重み係数が対応付けて登録される。なお、キャンセルボタン608が選択されることで、選択中の内容が一旦解除される。
ユーザは、以上のような設定処理を全体モデルに含まれる部分モデルの数だけ繰返すことで、物体認証に必要な全体モデルおよび部分モデルの登録が完了する。
図16に示すようなユーザインターフェイス画面602を用いることで、各部分モデルの境界を精度よく登録できる。
図17は、本実施の形態に従う計測システム2においてモデル登録を行うためのユーザインターフェイス画面のさらに別の一例を示す模式図である。図17に示すユーザインターフェイス画面604においては、ユーザが登録すべき部分モデルと登録すべきではない部分モデルとを設定する方法を採用する。
より具体的には、図17を参照して、ユーザインターフェイス画面604は、3DCAD表示領域610と、第1選択項目領域620と、第2選択項目領域630と、第3選択項目領域640と、登録ボタン606と、キャンセルボタン608とを含む。
第1選択項目領域620は、登録すべき部分モデルおよび登録すべきではない部分モデルにそれぞれ対応する重み係数の設定を受付ける要素である。図17に示す例では、部分A(登録すべき部分モデル)、部分D(登録すべきではない部分モデル)との名称が付されている。第1選択項目領域620は、重み係数の設定領域626,627を含む。
第2選択項目領域630は、部分モデルの範囲を規定する境界の種類を受付ける要素であり、直線指定631と、円筒指定632と、部分円指定633とを含む。
第3選択項目領域640は、部分モデルの範囲を規定する点の座標値を受付ける要素であり、X軸座標641と、Y軸座標642と、Z軸座標643とを含む。
部分モデルの具体的な手順例としては、まず、ユーザは、第1選択項目領域620内のチェックボックス624を操作して、登録すべき部分モデル、または、登録すべきではない部分モデルを選択(図17に示す例では、部分Aが選択されている)する。そして、ユーザは、選択した部分モデルに付与する重み係数を設定領域626または設定領域627に入力する。部分Aおよび部分D以外の領域に対する重み係数は、部分Aおよび部分Dにそれぞれ付与される重み係数から算出される(典型的には、両者の平均値)。
続いて、ユーザは、第2選択項目領域630内のチェックボックス634を操作して、選択されている部分モデルの境界を規定するための図形種類を選択(図17に示す例では、「直線」が選択されている)する。さらに、ユーザは、各部分モデルの境界を規定する座標値を第3選択項目領域640内のX軸座標641と、Y軸座標642と、Z軸座標643とにそれぞれ入力する。境界とすべき位置を、第2選択項目領域630および第3選択項目領域640に対する設定を繰返すこと順次入力することで、部分モデル618(登録すべき部分モデル)または部分モデル619(登録すべきではない部分モデル)を規定する境界が設定される。
図17に示すユーザインターフェイス画面604においては、全体モデルに含めるべき部分モデルを規定するための境界、および、全体モデルに含めるべきではない部分モデルを規定するための境界の設定を受付ける。
最終的に、ユーザが登録ボタン606を選択することで、設定されている部分モデル618および部分モデル619、ならびに対応する重み係数が対応付けて登録される。なお、キャンセルボタン608が選択されることで、選択中の内容が一旦解除される。このとき、部分Aおよび部分D以外の部分については、自動的に領域を規定されて、先に計算された重み係数とともに登録されるようにしてもよい。
図17に示すようなユーザインターフェイス画面604を用いることで、ユーザは、3DCAD上でワークの面を指定することで、例えば、吸着や把持に必要な部位のみを簡単に登録ができる。
<G.合致度の判断>
次に、計測された三次元形状に対して適用される合致度の判断のいくつかの例について説明する。この合致度の判断は、図7のステップS206,S208の処理に相当する。
本実施の形態においては、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重み付け係数(重要度)に基づいて、当該全体モデルと合致するか否かを判断する。
このような重要度に基づく判断方法として、認識処理部56は、いずれかの全体モデルに含まれる一部または全部の部分モデルと計測された三次元形状との合致度合いのそれぞれが、各部分モデルに対応する重要度に基づいて決定されるそれぞれの判断基準を満たすときに、当該全体モデルと合致すると判断するようにしてもよい。
例えば、ある全体モデルが上述したような3つの部分モデル(部分A、部分B、部分C)から構成されると定義されている場合に、部分A、部分B、部分Cと計測された三次元形状との合致度合いM、M、Mがそれぞれ得られたとする。また、部分A、部分B、部分Cにそれぞれ対応付けられた重み付け係数(重要度)に基づいて、しきい値TH、M、Mがそれぞれ決定されるとする。ここで、合致度合いM>しきい値TH、合致度合いM>しきい値TH、合致度合いM>しきい値THの全部または一部が成立するという判断基準を適用することで、対象の全体モデルと合致するか否かを判断するようにしてもよい。
このように、各部分モデルと計測された三次元形状との合致度合いが、各部分モデルに付与された重み付け係数(重要度)に基づいて算出されるしきい値を超えるか否かといった判断基準を採用してもよいし、一部の部分モデルが対応するしきい値を超えるか否かといった判断基準を採用してもよい。
重要度に基づく別の判断方法として、認識処理部56は、いずれかの全体モデルに含まれる一部または全部の部分モデルと計測された三次元形状との合致度合いのそれぞれと、各部分モデルに対応するそれぞれの重要度と、に基づいて算出される全体モデルについての合致度が、予め定められた判断基準を満たすときに、当該全体モデルと合致すると判断するようにしてもよい。
例えば、ある全体モデルが上述したような3つの部分モデル(部分A、部分B、部分C)から構成されると定義されている場合に、部分A、部分B、部分Cと計測された三次元形状との合致度合いM、M、Mがそれぞれ得られたとする。ここで、全体モデルと計測された三次元形状との合致度合いMを、合致度合いM=合致度合いM×重み係数W+合致度合いM×重み係数W+合致度合いM×重み係数Wに従って算出できる。そして、このように算出された合致度合いMが予め定められたしきい値THを超えるか否かという判断基準を適用して、対象の全体モデルと合致するか否かを判断するようにしてもよい。
このように、各部分モデルと計測された三次元形状とのそれぞれの合致度合いに、対応する重み付け係数を乗じて得られる、重み付け平均を算出し、その算出した重み付け平均が予め定められたしきい値を超えるか否かといった基準を採用してもよい。
なお、判断基準の適用については、木構造を用いた判断シーケンスや論理的な判断手法を用いて実装できるし、その他にも任意の実装形態を採用できる。
<H.付記>
上述したような本実施の形態は、以下のような技術思想を含む。
[構成1]
所定位置に配置されたワーク(W)の三次元形状を光学的に計測する形状計測部(50;10,100)と、
ワーク種別毎に全体モデル(62)を示す三次元形状を予め格納する記憶部(60;106)と、
前記形状計測部により計測された三次元形状が前記記憶部に格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行する認識処理部(56;102)とを備え、
前記ワーク種別毎の全体モデル(62)は、複数の部分モデル(64)の組合せにより規定されており、前記複数の部分モデル(64)の各々には、対応する重要度(66)が付与されており、
前記認識処理部は、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断する(70)、計測システム。
[構成2]
前記形状計測部は、前記所定位置に配置されたワークを撮像する撮像部(52;14)を有しており、
前記ワーク種別毎の全体モデルは、前記撮像部の視野または解像度に応じて、含まれる部分モデルの数が異なっている、構成1に記載の計測システム。
[構成3]
各部分モデルに付与される重要度は、前記撮像部の視野または解像度に応じて、異なる値に設定されている、構成2に記載の計測システム。
[構成4]
前記重要度は、前記形状計測部により計測されたワーク表面の計測点の数を反映したものである、構成1〜3のいずれか1項に記載の計測システム。
[構成5]
前記認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと前記計測された三次元形状との合致度合いのそれぞれが、各部分モデルに対応する重要度に基づいて決定されるそれぞれの判断基準を満たすときに、当該全体モデルと合致すると判断する、構成1〜4のいずれか1項に記載の計測システム。
[構成6]
前記認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと前記計測された三次元形状との合致度合いのそれぞれと、各部分モデルに対応するそれぞれの重要度と、に基づいて算出される全体モデルについての合致度が、予め定められた判断基準を満たすときに、当該全体モデルと合致すると判断する、構成1〜4のいずれか1項に記載の計測システム。
[構成7]
ワークの設計データを受入れるとともに、ユーザ操作に応じて、当該受入れた設計データにより規定される三次元形状を複数の部分形状に分割するモデル登録部(102;600,602,604)をさらに備える、構成1〜6のいずれか1項に記載の計測システム。
[構成8]
前記モデル登録部は、ユーザ操作に応じて、分割された各部分形状に対して、重要度を付与する(600,602,604)、構成7に記載の計測システム。
[構成9]
前記モデル登録部は、
仮想空間上に登録すべきワークの形状を表示する手段(610)と、
前記仮想空間上に表示されたワークに対して部分モデルを規定するための境界の設定を受付ける手段(612;640)とを含む、構成1〜8のいずれか1項に記載の計測システム。
[構成10]
前記モデル登録部は、前記部分モデルを規定する境界を定義する図形種類の設定を受付ける手段(630)をさらに含む、構成9に記載の計測システム。
[構成11]
前記モデル登録部は、前記全体モデルに含めるべき部分モデルを規定するための境界、および、前記全体モデルに含めるべきではない部分モデルを規定するための境界の設定を受付ける(604)、構成9または10に記載の計測システム。
[構成12]
所定位置に配置されたワークの三次元形状を光学的に計測するステップ(S200,S202)と、
前記計測された三次元形状が予め格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行するステップ(S206,S208)とを備え、
ワーク種別毎に全体モデル(62)を示す三次元形状が予め格納されるとともに、前記ワーク種別毎の全体モデル(62)は、複数の部分モデル(64)の組合せにより規定されており、前記複数の部分モデル(64)の各々には、対応する重要度(66)が付与されており、
前記実行するステップは、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断するステップ(S208)を含む、計測方法。
<I.利点>
例えば、三次元形状を計測してワークを把持するピッキングシステムにおいては、ワークが存在しているにもかかわらず、存在を認識できず、動作を継続できない場合がある。このような事態が発生する理由としては、ワーク同士の相互隠蔽による点群の欠損、光学条件による点群の欠損(反射、光沢、低コントラスト)、微細形状による計測分解能不足などが想定される。
このような課題に対して、撮像時間や撮像方法の調整などにより、撮像条件の改善を試みる方法がある。撮像が可能になる場合もあるが、処理時間が伸びてしまうという課題がある。また、ワークのかき混ぜやコンテナに振動を与えるなどの外部機器によりワーク条件を変更する方法もある。このような手法を採用した場合も処理時間が伸びてしまうという課題がある。
このような課題に対して、本実施の形態に従う計測システム2においては、それぞれ優先度が付与された1または複数の部分モデルによりワークの全体モデルを構成することで、認識精度を高める。すなわち、異なったワークであると誤認識してしまう可能、および、ワークが存在しているにもかかわらずワークが存在していないと認識してしまう可能性を低減できる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 ピッキングシステム、2 計測システム、4 ネットワーク、10,52 計測ヘッド、12 処理部、14 投光部、16 撮像部、18,110 表示部、20,60 記憶部、22,114 通信インターフェイス部(通信インターフェイス(I/F)部)、50 形状計測部、54 計測処理部、56 認識処理部、62,410 全体モデル、64,420,470,472,474,614,618,619 部分モデル、66 重要度、70 処理、100 画像計測装置、102 プロセッサ、104 メインメモリ、106 ストレージ、108 入力部、112,212 光学ドライブ、113,213 記録媒体、116 プロセッサバス、200 制御装置、300 ロボット、400 設計データ、402,404,406 モデル登録範囲、440 カメラモデル設定、442 カメラモデル、444 視野スペック、446 最小計測幅、448 重み付け係数範囲、450 正面図、452 側面図、460,461,462,463,464,465 領域、481,482,483,484 係数区分、501 対象品、502 類似品、511,512,513 計測結果、514,515,516,517,518 部分結果、521,522,523 物体認識結果、600,602,604 ユーザインターフェイス画面、606 登録ボタン、608 キャンセルボタン、610 表示領域、612 カーソル、620 第1選択項目領域、621,623,625,626,627 設定領域、624,634 チェックボックス、630 第2選択項目領域、631 直線指定、632 円筒指定、633 部分円指定、640 第3選択項目領域、641,642,643 軸座標、1060 OS、1062 三次元計測プログラム、1064 モデルデータ、W ワーク。

Claims (12)

  1. 所定位置に配置されたワークの三次元形状を光学的に計測する形状計測部と、
    ワーク種別毎に全体モデルを示す三次元形状を予め格納する記憶部と、
    前記形状計測部により計測された三次元形状が前記記憶部に格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行する認識処理部とを備え、
    前記ワーク種別毎の全体モデルは、複数の部分モデルの組合せにより規定されており、前記複数の部分モデルの各々には、対応する重要度が付与されており、
    前記認識処理部は、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断する、計測システム。
  2. 前記形状計測部は、前記所定位置に配置されたワークを撮像する撮像部を有しており、
    前記ワーク種別毎の全体モデルは、前記撮像部の視野または解像度に応じて、含まれる部分モデルの数が異なっている、請求項1に記載の計測システム。
  3. 各部分モデルに付与される重要度は、前記撮像部の視野または解像度に応じて、異なる値に設定されている、請求項2に記載の計測システム。
  4. 前記重要度は、前記形状計測部により計測されたワーク表面の計測点の数を反映したものである、請求項1〜3のいずれか1項に記載の計測システム。
  5. 前記認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと前記計測された三次元形状との合致度合いのそれぞれが、各部分モデルに対応する重要度に基づいて決定されるそれぞれの判断基準を満たすときに、当該全体モデルと合致すると判断する、請求項1〜4のいずれか1項に記載の計測システム。
  6. 前記認識処理部は、いずれかの全体モデルに含まれる一部または全部の部分モデルと前記計測された三次元形状との合致度合いのそれぞれと、各部分モデルに対応するそれぞれの重要度と、に基づいて算出される全体モデルについての合致度が、予め定められた判断基準を満たすときに、当該全体モデルと合致すると判断する、請求項1〜4のいずれか1項に記載の計測システム。
  7. ワークの設計データを受入れるとともに、ユーザ操作に応じて、当該受入れた設計データにより規定される三次元形状を複数の部分形状に分割するモデル登録部をさらに備える、請求項1〜6のいずれか1項に記載の計測システム。
  8. 前記モデル登録部は、ユーザ操作に応じて、分割された各部分形状に対して、重要度を付与する、請求項7に記載の計測システム。
  9. 前記モデル登録部は、
    仮想空間上に登録すべきワークの形状を表示する手段と、
    前記仮想空間上に表示されたワークに対して部分モデルを規定するための境界の設定を受付ける手段とを含む、請求項7または8に記載の計測システム。
  10. 前記モデル登録部は、前記部分モデルを規定する境界を定義する図形種類の設定を受付ける手段をさらに含む、請求項9に記載の計測システム。
  11. 前記モデル登録部は、前記全体モデルに含めるべき部分モデルを規定するための境界、および、前記全体モデルに含めるべきではない部分モデルを規定するための境界の設定を受付ける、請求項9または10に記載の計測システム。
  12. 所定位置に配置されたワークの三次元形状を光学的に計測するステップと、
    前記計測された三次元形状が予め格納されたいずれかの全体モデルと合致するかに基づいて、ワークの存在検出およびワーク種別の特定の少なくとも一方を実行するステップとを備え、
    ワーク種別毎に全体モデルを示す三次元形状が予め格納されるとともに、前記ワーク種別毎の全体モデルは、複数の部分モデルの組合せにより規定されており、前記複数の部分モデルの各々には、対応する重要度が付与されており、
    前記実行するステップは、いずれかの全体モデルに含まれる1以上の部分モデルに対応する重要度に基づいて、当該全体モデルと合致するか否かを判断するステップを含む、計測方法。
JP2018111124A 2018-06-11 2018-06-11 計測システムおよび計測方法 Active JP7119606B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018111124A JP7119606B2 (ja) 2018-06-11 2018-06-11 計測システムおよび計測方法
US16/413,608 US11093730B2 (en) 2018-06-11 2019-05-16 Measurement system and measurement method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018111124A JP7119606B2 (ja) 2018-06-11 2018-06-11 計測システムおよび計測方法

Publications (2)

Publication Number Publication Date
JP2019215180A true JP2019215180A (ja) 2019-12-19
JP7119606B2 JP7119606B2 (ja) 2022-08-17

Family

ID=68765099

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018111124A Active JP7119606B2 (ja) 2018-06-11 2018-06-11 計測システムおよび計測方法

Country Status (2)

Country Link
US (1) US11093730B2 (ja)
JP (1) JP7119606B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021128542A (ja) * 2020-02-13 2021-09-02 エヌエイチエヌ コーポレーション 情報処理プログラムおよび情報処理システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111626995B (zh) * 2020-05-19 2024-03-01 上海艾豚科技有限公司 一种针对工件的智能嵌件检测方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005305613A (ja) * 2004-04-23 2005-11-04 Fanuc Ltd 物品取出し装置
JP2011179908A (ja) * 2010-02-26 2011-09-15 Canon Inc 3次元計測装置、その処理方法及びプログラム
JP2011185650A (ja) * 2010-03-05 2011-09-22 Omron Corp モデル作成装置およびモデル作成プログラム
JP2012125886A (ja) * 2010-12-15 2012-07-05 Canon Inc 物体把持装置、物体把持装置の制御方法、およびプログラム
US20150262012A1 (en) * 2014-03-12 2015-09-17 Electronics And Telecommunications Research Institute Object picking system, object detecting device, object detecting method
JP2018091656A (ja) * 2016-11-30 2018-06-14 キヤノン株式会社 情報処理装置、計測装置、システム、算出方法、プログラムおよび物品の製造方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5282614B2 (ja) * 2009-03-13 2013-09-04 オムロン株式会社 視覚認識処理用のモデルデータの登録方法および視覚センサ
JP6415026B2 (ja) * 2013-06-28 2018-10-31 キヤノン株式会社 干渉判定装置、干渉判定方法、コンピュータプログラム
JP6642968B2 (ja) * 2014-03-20 2020-02-12 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
JP6632208B2 (ja) * 2015-03-24 2020-01-22 キヤノン株式会社 情報処理装置、情報処理方法、プログラム
JP6846949B2 (ja) * 2017-03-03 2021-03-24 株式会社キーエンス ロボットシミュレーション装置、ロボットシミュレーション方法、ロボットシミュレーションプログラム及びコンピュータで読み取り可能な記録媒体並びに記録した機器

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005305613A (ja) * 2004-04-23 2005-11-04 Fanuc Ltd 物品取出し装置
JP2011179908A (ja) * 2010-02-26 2011-09-15 Canon Inc 3次元計測装置、その処理方法及びプログラム
JP2011185650A (ja) * 2010-03-05 2011-09-22 Omron Corp モデル作成装置およびモデル作成プログラム
JP2012125886A (ja) * 2010-12-15 2012-07-05 Canon Inc 物体把持装置、物体把持装置の制御方法、およびプログラム
US20150262012A1 (en) * 2014-03-12 2015-09-17 Electronics And Telecommunications Research Institute Object picking system, object detecting device, object detecting method
JP2018091656A (ja) * 2016-11-30 2018-06-14 キヤノン株式会社 情報処理装置、計測装置、システム、算出方法、プログラムおよび物品の製造方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021128542A (ja) * 2020-02-13 2021-09-02 エヌエイチエヌ コーポレーション 情報処理プログラムおよび情報処理システム

Also Published As

Publication number Publication date
US11093730B2 (en) 2021-08-17
US20190377931A1 (en) 2019-12-12
JP7119606B2 (ja) 2022-08-17

Similar Documents

Publication Publication Date Title
US10532459B2 (en) Information processing apparatus, information processing method, and storage medium for grasping an object
US7246034B2 (en) Surveying apparatus and method of analyzing measuring data
JP6506731B2 (ja) ビジョンシステムで3dポイントクラウドマッチングに使用するクラッタをスコアリングするためのシステム及び方法
US20170173798A1 (en) Information processing apparatus, information processing method, and storage medium
CN107704638B (zh) 电梯机械室图生成装置及方法、建模数据生成装置及方法
US9984291B2 (en) Information processing apparatus, information processing method, and storage medium for measuring a position and an orientation of an object by using a model indicating a shape of the object
JP6717425B2 (ja) 距離情報処理装置、距離情報処理方法および距離情報処理プログラム
US20180150969A1 (en) Information processing device, measuring apparatus, system, calculating method, storage medium, and article manufacturing method
CN108573471B (zh) 图像处理装置、图像处理方法以及记录介质
KR101794148B1 (ko) 효율적인 자유 공간 손가락 인식
KR101918168B1 (ko) 3차원 계측 방법 및 그 장치
JP6054831B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
US20170323456A1 (en) Information processing apparatus, information processing method, program, system, and article manufacturing method
JP6185385B2 (ja) 空間構造推定装置、空間構造推定方法及び空間構造推定プログラム
JP2019153290A (ja) ビジョンシステムにより画像特徴におけるエッジと法線を同時に考慮するためのシステム及び方法
JP2019215180A (ja) 計測システムおよび計測方法
US11189053B2 (en) Information processing apparatus, method of controlling information processing apparatus, and non-transitory computer-readable storage medium
US20210200232A1 (en) Method of generating scan path of autonomous mobile robot and computing device
JP2017004065A (ja) サムネイル画像作成装置、3次元造形システム
CN111742349B (zh) 信息处理装置、信息处理方法以及信息处理存储介质
JP6890849B2 (ja) 情報処理システム
JP6512852B2 (ja) 情報処理装置、情報処理方法
US12019958B2 (en) Method and apparatus for automated test plan generation to measure a measurement object
US20230281854A1 (en) Measurement system
WO2024023950A1 (ja) 線状物検出装置、線状物検出方法、及び線状物検出プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201211

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20211125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220104

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220705

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220718

R150 Certificate of patent or registration of utility model

Ref document number: 7119606

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150