JP7202966B2 - 三次元測定装置及び三次元測定方法 - Google Patents
三次元測定装置及び三次元測定方法 Download PDFInfo
- Publication number
- JP7202966B2 JP7202966B2 JP2019086036A JP2019086036A JP7202966B2 JP 7202966 B2 JP7202966 B2 JP 7202966B2 JP 2019086036 A JP2019086036 A JP 2019086036A JP 2019086036 A JP2019086036 A JP 2019086036A JP 7202966 B2 JP7202966 B2 JP 7202966B2
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- code
- light
- black
- white
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Analysis (AREA)
Description
三次元測定装置1は、三次元ロボットビジョンシステムなどと呼ばれており、ばら積みされたワークWKや段積みされたワークWKの他、平積みされたワークWKの三次元形状を測定して三次元形状データを取得する装置である。この実施形態では、三次元測定装置1がロボットビジョンとして使用される場合について説明するが、これに限らず、三次元測定装置1は、それ単独で使用することもできるし、他の装置と組み合わせて使用することもできる。三次元測定装置1をロボットビジョンとして使用する場合には、測定対象物がワークWKや、ワークWKが収容された箱、ワークWKが載置された台やパレット等になる。
図3に示すように、センサ部2は、所定のパターン光をワークWKに照射する照明部PRJと、照明部PRJから投影されたパターン光のワークWKからの反射光を受光してパターン画像を取得する撮像部CME1~4とを備えている。図3に示す例では、照明部PRJと撮像部CME1~4とが一体化されているが、この例に限らず、照明部PRJと撮像部CME1~4とを別体にして個別に設置可能にしてもよい。また、図3に示す例では、第1撮像部CME1、第2撮像部CME2、第3撮像部CME3及び第4撮像部CME4の4つの撮像部を備えている場合を示しているが、撮像部の数は特に限定されるものではない。また、照明部PRJについても2以上設けることができる。
図2に示すように、センサ制御部20は、照明制御部21と、位相画像生成部22と、測定部23と、高さ画像生成部24とを備えている。センサ制御部20を構成する照明制御部21、位相画像生成部22、測定部23及び高さ画像生成部24のうち、任意の1つまたは2つ以上の部分をセンサ部2に組み込むこともできる。また、照明制御部21、位相画像生成部22、測定部23及び高さ画像生成部24のうち、任意の1つまたは2つ以上の部分をロボットコントローラ6に組み込むようにしてもよい。また、図2に示すように、センサ制御部20をロボット設定装置100に組み込むことができるが、ロボット設定装置100とは別体にしてロボット設定装置100の外部に設けることもできる。
照明制御部21は、照明部PRJを制御することにより、所望の位相シフトパターン光及び空間コードパターン光を照明部PRJに生成させるための部分であり、本発明のパターン光生成部は、照明制御部21で構成することができる。
図2に示す位相画像生成部22は、図6に示すパターン画像セットに基づいてワークWKの表面の位相データを含む位相画像を生成する。尚、位相画像生成部22は、各画素の位相値を計算する部分であり、必ずしも目に見える形で位相画像を生成しなくてもよく、位相画像を生成可能な演算、もしくは画素毎の位相値を算出する演算を行うことができればよい。位相画像の生成方法としては、例えば、パターン画像セットを構成する最低3枚のパターン画像から画素毎に正弦波の位相を求める方法があり、この方法は従来から周知の方法である。
位相シフト法と空間コード法とを併用する際、空間コード法によるパターン検出に誤りが生じると絶対的な位置が大きくずれてしまうため、測定結果に不正なノイズが含まれたり、異常データとして一部が除外されるなどし、有効なデータとして得られない状態になる。このため、空間コードパターンの各ビットの明部、暗部の検出ロバスト性を上げることが求められる。空間コードパターンの各ビットの明部、暗部の検出ロバスト性を上げる方法として、本実施形態では、相補パターン投影法と呼ばれる2値化処理を用いている。相補パターン投影法では、図7に示すように、空間コードパターンの各ビットの明暗を反転させたネガ・ポジパターンを生成してワークWKに照射し、その結果、取得されたネガパターン画像とポジパターン画像の輝度差の正負によって明暗を判定する。
多重反射の影響を抑制する方法として、図9の(B)に示すように、空間コードパターンの各ビットの白コードに対応する部分に明暗が周期的に変化する高周波パターンを付与する方法がある。尚、高周波パターンとは、空間コードパターンの周波数よりも高い周波数のパターンのことである。しかし、この方法も万能ではなく、反射光の輝度が高く、飽和状態に近い条件で撮像された場合、元の空間コードパターンの明部と暗部間のコントラストよりも、高周波パターンのコントラストが大きく下がるような状態になり、それが原因となり、空間コードパターンの境界部分の判定が不安定となる場合がある。
この実施形態では、三次元形状測定時における多重反射の影響抑制と、高いロバスト性とを両立させるために、特殊空間コードパターン光をワークWKに照射するようにしている。この方法を本明細書では特殊空間コード法と呼ぶ。特殊空間コードパターン光は照明制御部21によって生成される。特殊空間コードパターン光は、一般的な空間コード法の各ビットの白コードに対応する部分と黒コードに対応する部分のそれぞれに、明暗が周期的に変化するパターンを付与することを前提とし、白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせないパターン光である。照明制御部21は、白コードに対応する部分のパターンが異なる複数のパターン光を生成して順次ワークWKに照射するように構成されている。
この実施形態では、位相シフト法と特殊空間コード法とで一部のパターン光を共用している。図14の(A)は、図10に示すステップSA2で照射されるポジパターン光を示し、図14の(B)は、図10に示すステップSA2で照射されるネガパターン光を示している。図14の(A)、(B)のパターン光は同じパターンを有している。また、位相シフト法に基づいてワークWKに照射する位相シフトパターン光の1つと、図14の(A)、(B)のパターン光とを同じにしている。従って、図14の(A)、(B)のパターン光を特殊空間コード法において照射する必要はなく、撮像枚数を削減することができる。特殊空間コード法では、図14の(C)、(D)のパターン光をワークWKに照射するだけでよいので、一般のネガ・ポジパターンを用いる場合と同じ撮像枚数で特殊空間コード法を実現することができる。
図16は、特殊空間コードパターン光の一例を示す図である。図中の「暗部の範囲」は空間コードパターン光の各ビットの黒コードに対応する部分であり、「明部の範囲」は空間コードパターン光の各ビットの白コードに対応する部分である。この例では、白コードに対応する部分に、位相をシフトさせた4つのパターンを付与しており、これらパターンの位相は、0度、90度、180度、270度となっている。一方、黒コードに対応する部分は、位相が固定されたパターンが付与されている。尚、白コードに対応する部分に付与するパターンの数は4つに限定されるものではなく、2つ(0度、180度)、3つ(0度、120度、240度)であってもよいし、8つ(0度、45度、90度、135度、180度、225度、270度、315度)であってもよい。
図2に示す高さ画像生成部24は、測定部23の一部として構成することができ、位相画像生成部22で生成された位相画像と、上述した各画素へのコードの割り当て結果とに基づいてワークWKの高さ情報を含む高さ画像を生成することができるように構成されている。例えば、高さ測定点の各明度値をパターン毎に撮像した画像から得て、各明度値よりパターン光の位相値を計算すると、測定点の高さに応じて、測定点に投影されたパターン光の位相が変化し、基準となる位置で反射されたパターン光により観察される位相とは異なった位相の光が観察されることになる。そこで、測定点におけるパターン光の位相を計算し、三角測量の原理を利用して、幾何関係式に代入することにより測定点の高さを測定し、これにより、ワークWKの三次元形状を測定することができる。高さ画像とは、画像を構成する各画素値に、高さの値が格納されている画像である。典型的には、高さを輝度値で表現した画像とすることができる。
図17の(A)は、一般的な空間コード法と位相シフト法とを併用してワークWKの三次元形状を測定した場合を示している。一般的な空間コード法とは、空間コード法の各ビットの白コードに対応する部分と黒コードに対応する部分に高周波パターンを付与していないパターン光を用いた方法である。この場合、特に白丸で囲んだ部分の高さを測定できていないことが分かる。
次に、図2に示すロボット設定装置100について説明する。ロボット設定装置100は、センサ部2で得られたワークWKの三次元形状データに基づいて、三次元サーチ、干渉判定、把持解算出等を行う。このロボット設定装置100は、専用の画像処理プログラムをインストールした汎用のコンピュータや、専用に設計された画像処理コントローラ、専用のハードウェアで構成することができる。
ロボットシステム1000は、作業空間に積み上げられた複数のワークWKをロボットRBTによって順次取り出すばら積みピッキング動作をシミュレーションするためのロボットシミュレーション装置200を備えている。ロボットシミュレーション装置200は、ロボット設定装置100の内部に設けることができる。画像処理装置300は、作業空間に積み上げられた複数のワークWKを把持して順次取り出すピッキング動作を行うロボットRBTの制御に用いられる装置である。
サーチ処理部205は、上述したピッキング動作シミュレーションで使用されているが、実運用時でも使用することができる。サーチ処理部205をピッキング動作シミュレーションで使用したものとは別に構成することもできる。
干渉判定部31は、サーチ処理部205でサーチ処理に成功したサーチモデルに対応付けられたワーク表面に設定された把持候補位置をロボットRBTが周囲の物体と干渉することなく把持が可能か判定する。この干渉判定部206による判定手法は、ピッキング動作シミュレーションで行った手法と同じにすることができる。
把持位置決定部207は、干渉判定部206により周囲の物体と干渉することなく把持が可能と判定された把持候補位置を実際の把持位置として決定するように構成されている。
次に、実運用時について説明する。図1に示すようにセンサ部2を用いて収納容器BXにばら積みされているワークWKを三次元測定する。その後、生成された高さ画像に対して三次元サーチを実施し、ワークの位置及び姿勢を検出する。ワークモデルの位置と、登録してあるワークモデルの把持姿勢とに基づいて、ハンド部を配置すべき位置と姿勢を計算する。計算された位置において、ハンド部が周囲の物体と干渉しないかどうかを判定する。具体的には、高さ画像の各1点1点のpixelデータが示す三次元点群と、ハンドモデルとが干渉するか否かを、ハンドの断面モデルを用いて判定する。ハンド部が周囲の物体と干渉していない場合には、把持解有りとして終了する。この把持解がロボットコントローラ6に送信され、ロボットコントローラ6がアーム部ARM及びハンド部を制御してワークWKをピックして搬送する。
以上説明したように、この実施形態に係る三次元測定装置1及び三次元測定方法によれば、空間コード法の各ビットの白コードに対応する部分と黒コードに対応する部分のそれぞれに、明暗が周期的に変化するパターンが付与され、白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせない複数のパターン光をワークWKに照射することができる。これにより、パターンの明部と暗部が、平均的に同程度に明るさになるため、明部と暗部の間に生じるコントラストと、高周波パターン内で生じるコントラストが同程度となる。
2 センサ部
20 センサ制御部
21 照明制御部(パターン光生成部)
22 位相画像生成部
23 測定部
CME1~4 撮像部
PRJ 照明部
WK ワーク(計測対象物)
Claims (9)
- 空間コード法に基づいて測定対象物の三次元形状を測定する三次元測定装置において、
光源と、
前記光源から出射された光を受けて、空間コード法の各ビットの白コードに対応する部分と黒コードに対応する部分のそれぞれに、明暗が周期的に変化するパターンを付与し、白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせない複数のパターン光を生成して測定対象物に照射するパターン光生成部と、
測定対象物から反射したパターン光を順次受光し、複数のパターン画像を取得する撮像部と、
複数の前記パターン画像の同一座標に位置する画素値のコントラストに基づいて、各画素が白コードに対応するか、黒コードに対応するか白黒判定を行い、当該白黒判定結果に基づき、各画素にコードを割り当て、割り当てられたコードに基づいて、測定対象物の三次元形状を測定する測定部とを備えることを特徴とする三次元測定装置。 - 請求項1に記載の三次元測定装置において、
前記パターン光生成部は、空間コード法の各ビットについて、白コードに対応する部分と黒コードに対応する部分とのパターンを反転させたパターン光を測定対象物に照射可能に構成され、
前記測定部は、パターン画像の前記同一座標に位置する画素値のコントラスト値をパターンの反転前と反転後とで求め、反転前と反転後のコントラスト値の差分に基づいて、各画素の白黒判定を行うことを特徴とする三次元測定装置。 - 請求項2に記載の三次元測定装置において、
前記測定部は、前記反転前と反転後のコントラスト値の差分を示す差分画像を生成し、当該差分画像に対して、前記白コードに対応する部分のパターンの位相の周期方向に膨張処理を行った後、同方向に収縮処理を行うように構成されていることを特徴とする三次元測定装置。 - 請求項1から3のいずれか1つに記載の三次元測定装置において、
前記パターン光生成部は、位相シフト法に基づいて、明暗が周期的に変化するパターン光を、位相を変化させて複数生成して測定対象物に照射するように構成されるとともに、空間コード法で生成するパターン光のうち、少なくとも1つを位相シフト法で生成するパターン光と共用するように構成され、
前記測定部は、空間コード法と位相シフト法とを併用して測定対象物の三次元形状を測定するように構成されていることを特徴とする三次元測定装置。 - 請求項1から3のいずれか1つに記載の三次元測定装置において、
前記パターン光生成部は、白コードと黒コードとが所定のパターンで繰り返されるポジパターンと、白コードと黒コードとが前記ポジパターンと反対のネガパターンとを設定し、前記ポジパターンの白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせないパターン光を生成するとともに、前記ネガパターンの白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせないパターン光を生成して測定対象物に照射するように構成されていることを特徴とする三次元測定装置。 - 請求項5に記載の三次元測定装置において、
前記パターン光生成部は、位相シフト法に基づいて、明暗が周期的に変化するパターン光を、位相を変化させて複数生成して測定対象物に照射するように構成されるとともに、空間コード法で生成するパターン光のうち、前記ポジパターンで照射するパターン光と前記ネガパターンで照射するパターン光とを、位相シフト法で生成するパターン光と共用するように構成されていることを特徴とする三次元測定装置。 - 請求項6に記載の三次元測定装置において、
前記パターン光生成部は、空間コード法で生成するパターン光のうち、前記ポジパターンで照射するパターン光と前記ネガパターンで照射するパターン光とを共用するように構成されていることを特徴とする三次元測定装置。 - 請求項1に記載の三次元測定装置において、
前記パターン光生成部は、白コードに対応する部分のパターンの位相をシフトさせた3つ以上のパターン光を生成して測定対象物に順次照射するように構成され、
前記測定部は、前記撮像部で取得された3つ以上のパターン画像の同一座標に位置する画素値のうち、最大値と最小値の差分に基づいて、各画素の白黒判定を行うように構成されていることを特徴とする三次元測定装置。 - 空間コード法に基づいて測定対象物の三次元形状を測定する三次元測定方法において、
光源からの光を受けて、空間コード法の各ビットの白コードに対応する部分と黒コードに対応する部分のそれぞれに、明暗が周期的に変化するパターンを付与し、白コードに対応する部分のパターンの位相をシフトさせる一方、黒コードに対応する部分のパターンの位相はシフトさせない複数のパターン光を生成して測定対象物に照射するパターン光照射ステップと、
前記パターン光照射ステップで測定対象物に照射されて当該測定対象物から反射したパターン光を順次受光し、複数のパターン画像を取得する撮像ステップと、
前記撮像ステップで取得された複数の前記パターン画像の同一座標に位置する画素値のコントラストに基づいて、各画素が白コードに対応するか、黒コードに対応するか白黒判定を行い、当該白黒判定結果に基づき、各画素にコードを割り当て、割り当てられたコードに基づいて、測定対象物の三次元形状を測定する測定ステップとを備えることを特徴とする三次元測定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019086036A JP7202966B2 (ja) | 2019-04-26 | 2019-04-26 | 三次元測定装置及び三次元測定方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019086036A JP7202966B2 (ja) | 2019-04-26 | 2019-04-26 | 三次元測定装置及び三次元測定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020180948A JP2020180948A (ja) | 2020-11-05 |
JP7202966B2 true JP7202966B2 (ja) | 2023-01-12 |
Family
ID=73023935
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019086036A Active JP7202966B2 (ja) | 2019-04-26 | 2019-04-26 | 三次元測定装置及び三次元測定方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7202966B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7448824B2 (ja) | 2020-12-11 | 2024-03-13 | 株式会社デンソーウェーブ | 三次元計測システムおよび三次元計測方法 |
JPWO2023017740A1 (ja) * | 2021-08-13 | 2023-02-16 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005091176A (ja) | 2003-09-17 | 2005-04-07 | Ricoh Co Ltd | 光学的形状計測装置 |
JP2016003889A (ja) | 2014-06-13 | 2016-01-12 | キヤノン株式会社 | 計測装置およびその方法 |
JP2018146348A (ja) | 2017-03-03 | 2018-09-20 | 株式会社キーエンス | 三次元形状計測装置、三次元形状計測方法、及びコンピュータプログラム |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2921748B2 (ja) * | 1996-04-30 | 1999-07-19 | 村田機械株式会社 | 画像認識装置 |
-
2019
- 2019-04-26 JP JP2019086036A patent/JP7202966B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005091176A (ja) | 2003-09-17 | 2005-04-07 | Ricoh Co Ltd | 光学的形状計測装置 |
JP2016003889A (ja) | 2014-06-13 | 2016-01-12 | キヤノン株式会社 | 計測装置およびその方法 |
JP2018146348A (ja) | 2017-03-03 | 2018-09-20 | 株式会社キーエンス | 三次元形状計測装置、三次元形状計測方法、及びコンピュータプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP2020180948A (ja) | 2020-11-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6970551B2 (ja) | 形状測定装置及び形状測定方法 | |
JP6548422B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
TWI620627B (zh) | 機器人及用於機器人之定位之方法 | |
US9415511B2 (en) | Apparatus and method for picking up article randomly piled using robot | |
JP6271953B2 (ja) | 画像処理装置、画像処理方法 | |
JP2020201930A (ja) | 第1のカメラによって生成された第1の画像を第2のカメラによって生成された第2の画像に基づいて更新する方法及び処理システム | |
JP7202966B2 (ja) | 三次元測定装置及び三次元測定方法 | |
JP6892286B2 (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
JP7346133B2 (ja) | ロボット設定装置及びロボット設定方法 | |
JP2007206797A (ja) | 画像処理方法および画像処理装置 | |
JP6576050B2 (ja) | 物体移動方法及びシステム | |
JP6919987B2 (ja) | 画像処理装置 | |
JP6857101B2 (ja) | ロボットシミュレーション装置及びロボットシミュレーション方法 | |
JP7164451B2 (ja) | 三次元計測装置 | |
US20230016639A1 (en) | System and method for controlling automatic inspection of articles | |
TWI480508B (zh) | 物體位置資訊的量測方法及裝置 | |
JP7180783B2 (ja) | コンピュータビジョンシステムのキャリブレーション方法及びこれに用いる基準立体物 | |
JP2019028773A (ja) | ロボットシミュレーション装置及びロボットシミュレーション方法 | |
EP4094904A1 (en) | Robot system control device, robot system control method, computer control program, and robot system | |
JP7233508B2 (ja) | 形状測定装置及び形状測定方法 | |
EP4245480A1 (en) | Measuring system, measuring device, measuring method, and measuring program | |
JP2021091056A (ja) | 測定装置 | |
JP4892687B2 (ja) | 物体検出方法 | |
JP2022017738A (ja) | 画像処理装置 | |
JP2009186404A (ja) | 画像情報生成装置及び画像情報生成方法。 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220309 |
|
TRDD | Decision of grant or rejection written | ||
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20221208 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221213 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7202966 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |