JP5757157B2 - 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム - Google Patents
検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム Download PDFInfo
- Publication number
- JP5757157B2 JP5757157B2 JP2011113616A JP2011113616A JP5757157B2 JP 5757157 B2 JP5757157 B2 JP 5757157B2 JP 2011113616 A JP2011113616 A JP 2011113616A JP 2011113616 A JP2011113616 A JP 2011113616A JP 5757157 B2 JP5757157 B2 JP 5757157B2
- Authority
- JP
- Japan
- Prior art keywords
- axis
- input image
- head
- candidate
- extracting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 123
- 238000001514 detection method Methods 0.000 title claims description 38
- 238000003384 imaging method Methods 0.000 claims description 61
- 238000005286 illumination Methods 0.000 claims description 23
- 239000000284 extract Substances 0.000 claims description 3
- 230000001678 irradiating effect Effects 0.000 claims 1
- 238000012545 processing Methods 0.000 description 90
- 230000008569 process Effects 0.000 description 81
- 238000000605 extraction Methods 0.000 description 31
- 238000005259 measurement Methods 0.000 description 29
- 230000008859 change Effects 0.000 description 16
- 238000010586 diagram Methods 0.000 description 14
- 238000007781 pre-processing Methods 0.000 description 12
- 230000010363 phase shift Effects 0.000 description 9
- 230000011218 segmentation Effects 0.000 description 7
- 238000003672 processing method Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 238000004891 communication Methods 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 239000004065 semiconductor Substances 0.000 description 3
- 238000004364 calculation method Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 229910052736 halogen Inorganic materials 0.000 description 1
- 150000002367 halogens Chemical class 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Description
本実施の形態に係る画像処理方法は、第1の径を有する軸部分と、軸部分の一端に設けられた第1の径より大きな第2の径を有する頭部分とを含む検出対象物(ワークW)について、頭部分の位置および軸部分の方向を算出する方法に向けられている。本実施の形態に係る画像処理方法においては、一種の面光源であるプロジェクタからワークWに対して照明光(白色光)を投影し、撮像装置を用いて、当該照明光の投影によって生じる反射光を撮像する。この撮像によって得られた入力画像に対して、軸部分に相当する領域(軸領域)および頭部分の候補位置(典型的には、入力画像内において単独で相対的に明るさが強い部分)が抽出される。以下では、抽出された(複数の)頭部分の可能性が高い部分(位置)を単に「頭候補」とも称す。さらに、軸領域および候補位置についての高さ情報(すなわち、三次元座標系における座標値)が取得される。最終的に、軸領域との間の相対的な位置関係から、軸領域に対応するワークWの頭部分に相当する位置が候補位置から抽出される。そして、抽出された頭部分に相当する位置および対応する軸領域(軸部分)の方向が算出される。
図1は、本発明の実施の形態に係る画像処理装置100を含む把持システムSYSの全体構成を示す概略図である。図1に例示される把持システムSYSは、生産ラインなどに組み込まれ、トレーなどにバラ積みされた検出対象物(ワークW)を1個ずつ把持するような処理を行う。なお、図1には、理解を容易にするため、トレー内に2つのワークWのみが存在する場合を図示するが、多数のワークWが重なった状態で配置されていてもよい。
図3は、本実施の形態に係る画像処理装置100において実行される全体処理手順を示すフローチャートである。図3に示す各ステップは、基本的には、画像処理装置100のCPU110によって実行される。
続いて、画像処理装置100のCPU110は、三次元座標計測処理を実行する(ステップS4)。この三次元座標計測処理は、ステップS2およびS3において抽出された、ワークWの軸領域および頭候補についての三次元座標値を計測する処理である。二次元画像処理において抽出された軸領域および頭候補の二次元座標値については取得されているので、本質的には、これらについての高さ情報が取得される。すなわち、三次元座標計測処理は、ワークWの軸領域および候補位置についての高さ情報を取得する処理を含む。
まず、図3に示す前処理(ステップS1)の詳細について説明する。上述したように、前処理は、環境光から撮像装置8に入射する光の影響を取り除き、プロジェクタ7からの照明光がワークWで反射して生じる光(反射光)のみを観測するための処理である。このような環境光の影響を取り除くため、プロジェクタ7から照明光を照射していない状態で取得される画像と、プロジェクタ7から照明光を照射している状態で取得される画像との差分から差分画像(シェーディング画像)が生成される。
次に、図3に示す軸領域抽出処理(ステップS2)の詳細について説明する。上述したように、軸領域抽出処理は、入力画像に含まれるワークWの軸部分を特定するための処理である。なお、入力画像としては、上述したような処理によって得られるシェーディング画像が用いられる。
次に、図3に示す頭候補抽出処理(ステップS3)の詳細について説明する。この頭候補抽出処理は入力画像に含まれるワークWの頭部分を特定するための処理である。本実施の形態においては、二段階の処理を経ることで、頭候補が抽出される。
(f1:入力画像内の輝度変化に基づく抽出処理)
上述したように、まず、入力画像内の輝度変化に基づいて頭候補が抽出される。ワークWの頭部分の形状は、半球状のものなど、その表面の法線が色々な方向となっているものが多い。そのため、この半球状の表面で反射する光によって、入力画像内では頭部分に対応する領域の輝度変化が相対的に大きくなり、かつ入力画像全体として見れば、点状に観測されることになる。
(f2:軸領域の両端との相対位置に基づく抽出処理)
続いて、軸領域の両端との相対位置に基づいて、第一段階で抽出された頭候補が絞られる。すなわち、第一段階において説明した入力画像内の輝度変化に基づいて抽出される頭候補は、その数が多くなりすぎる場合があり、かつ、誤って抽出されたものも含まれ得る。そこで、第二段階として頭候補を選別する。
図8は、本実施の形態に係る画像処理装置100において実行される頭候補抽出処理のより詳細な手順を示すフローチャートである。図8に示す処理手順は、図3に示すステップS3の処理内容をより詳細に示すものである。
次に、図3に示す三次元座標計測処理(ステップS4)の詳細について説明する。上述したように、三次元座標計測処理は、ワークWについて抽出された軸領域および頭候補についての三次元座標値を取得するための処理である。本実施の形態においては、このような三次元座標値を取得する処理の具体例として、位相シフト法が採用される。この位相シフト法は、照射面内において正弦波状に濃淡を変化させたパターンを有する照明光を照射した状態で撮像された画像(正弦波投影画像)を用いる方法である。
次に、図3に示す頭候補判別処理(ステップS5)の詳細について説明する。上述したように、頭候補判別処理は、軸領域の各々に対応付けられている頭候補のうち、頭部分であるとされる確率の高いものを判別する処理である。この頭候補判別処理については、軸領域および頭候補の三次元情報(三次元座標値)を利用して、ワークWの確からしい頭部分が判別される。なお、1つの軸領域について、複数の頭候補が判別されてもよい。
次に、図3に示す出力処理(ステップS6)の詳細について説明する。上述したように、出力処理は、ワークWについて頭部分の位置および軸部分の方向の情報をロボットコントローラ200(図2)などへ出力する処理である。
図13は、本発明の実施の形態に係る画像処理によって生成された認識結果の一例を示す図である。図13に示す認識結果は、複数のワークW(図4に示すような多数のボルト)がバラ積みされている状態を撮像した入力画像から得られたものである。なお、図13に示す線は、上述した処理によって算出されたワークWの軸部分の位置および方向を示し、その周辺に描かれている円は、検出された頭部分の位置や方向などを示す。
上述の説明では、各ワークWについて、算出された頭部分の位置および頭部分の方向などをそのまま出力するような形態について説明したが、いずれの一方の情報のみを出力するようにしてもよい。あるいは、これらの情報にさらに別の情報を付加した出力してもよい。
本実施の形態に係る画像処理装置によれば、二次元画像に対する画像処理と、同一のワークWに対する三次元座標計測処理とを組合せることで、第1の径を有する軸部分と、軸部分の一端に設けられた第1の径より大きな第2の径を有する頭部分とを含むワークWについて、その頭部分の位置およびその軸部分の方向をより高速に算出することができる。
8 撮像装置
100 画像処理装置
102 ディスプレイ
104 マウス
106 メモリカード
110 CPU
112 メインメモリ
114 ハードディスク
116 カメラインターフェイス
116a 画像バッファ
118 入力インターフェイス
120 表示コントローラ
122 プロジェクタインターフェイス
124 通信インターフェイス
126 データリーダ/ライタ
128 バス
200 ロボットコントローラ
300 ロボット
SYS 把持システム
W ワーク
Claims (7)
- 第1の径を有する軸部分と、前記軸部分の一端に設けられた前記第1の径より大きな第2の径を有する頭部分とを含む検出対象物について、前記頭部分の位置および前記軸部分の方向を算出する方法であって、
少なくとも1つの前記検出対象物に対して予め定められた距離だけ離れた位置に配置された撮像装置を用いて撮像された入力画像を取得するステップと、
前記入力画像内の明るさの情報および前記検出対象物の形状の情報に基づいて、前記入力画像から、前記軸部分に相当する領域を軸領域として抽出するステップと、
前記入力画像内において隣接する領域に比較して、相対的に明るい位置のうち、前記軸領域のいずれかの端からの距離が予め定められた値以内で、かつ、前記軸領域を基準に設定される予め定められた角度内に存在するものを前記頭部分の候補位置として抽出するステップと、
前記少なくとも1つの検出対象物に対して、複数の異なる濃淡パターンを照射するとともに、それぞれの照射時に前記撮像装置によりそれぞれ撮像された複数の画像を用いて、前記軸領域および前記候補位置についての高さ情報を取得するステップと、
前記軸領域との間の相対的な位置関係から、前記軸領域に対応する検出対象物の前記頭部分に相当する位置を前記候補位置から抽出するステップとを備え、
前記頭部分に相当する位置を前記候補位置から抽出するステップは、前記軸領域に比較して前記撮像装置の側に位置する前記候補位置を前記頭部分に相当する位置として抽出するステップを含む、方法。 - 前記候補位置を抽出するステップでは、前記入力画像についてのヘッシアンの値が予め定められた値を超える点を前記候補位置として抽出する、請求項1に記載の方法。
- 前記軸領域の高さ情報から対応する検出対象物の軸部分の方向を決定するステップをさらに備える、請求項1または2に記載の方法。
- 前記軸領域と対応して抽出された少なくとも1つ前記候補位置との組の各々について、前記頭部分の位置および前記軸部分を関連付けて出力するステップをさらに備える、請求項1〜3のいずれか1項に記載の方法。
- 前記入力画像を取得するステップは、前記少なくとも1つの検出対象物に対して照明光を照射しない状態で前記撮像装置により取得された第1の画像と、前記少なくとも1つの検出対象物に対して照明光を照射した状態で前記撮像装置により取得された第2の画像との差分から前記入力画像を生成するステップを含む、請求項1〜4のいずれか1項に記載の方法。
- 第1の径を有する軸部分と、前記軸部分の一端に設けられた前記第1の径より大きな第2の径を有する頭部分とを含む検出対象物について、前記頭部分の位置および前記軸部分の方向を算出する装置であって、
少なくとも1つの前記検出対象物に対して予め定められた距離だけ離れた位置に配置された撮像装置と接続され、当該撮像装置を用いて撮像された入力画像を取得するインターフェイスと、
前記入力画像内の明るさの情報および前記検出対象物の形状の情報に基づいて、前記入力画像から、前記軸部分に相当する領域を軸領域として抽出する手段と、
前記入力画像内において隣接する領域に比較して、相対的に明るい位置のうち、前記軸領域のいずれかの端からの距離が予め定められた値以内で、かつ、前記軸領域を基準に設定される予め定められた角度内に存在するものを前記頭部分の候補位置として抽出する手段と、
前記少なくとも1つの検出対象物に対して、複数の異なる濃淡パターンを照射するとともに、それぞれの照射時に前記撮像装置によりそれぞれ撮像された複数の画像を用いて、前記軸領域および前記候補位置についての高さ情報を取得する手段と、
前記軸領域との間の相対的な位置関係から、前記軸領域に対応する検出対象物の前記頭部分に相当する位置を前記候補位置から抽出する手段とを備え、
前記頭部分に相当する位置を前記候補位置から抽出する手段は、前記軸領域に比較して前記撮像装置の側に位置する前記候補位置を前記頭部分に相当する位置として抽出する、装置。 - 第1の径を有する軸部分と、前記軸部分の一端に設けられた前記第1の径より大きな第2の径を有する頭部分とを含む検出対象物について、前記頭部分の位置および前記軸部分の方向を算出するためのプログラムであって、当該プログラムは、コンピュータに、
少なくとも1つの前記検出対象物に対して予め定められた距離だけ離れた位置に配置された撮像装置を用いて撮像された入力画像を取得するステップと、
前記入力画像内の明るさの情報および前記検出対象物の形状の情報に基づいて、前記入力画像から、前記軸部分に相当する領域を軸領域として抽出するステップと、
前記入力画像内において隣接する領域に比較して、相対的に明るい位置のうち、前記軸領域のいずれかの端からの距離が予め定められた値以内で、かつ、前記軸領域を基準に設定される予め定められた角度内に存在するものを前記頭部分の候補位置として抽出するステップと、
前記少なくとも1つの検出対象物に対して、複数の異なる濃淡パターンを照射するとともに、それぞれの照射時に前記撮像装置によりそれぞれ撮像された複数の画像を用いて、前記軸領域および前記候補位置についての高さ情報を取得するステップと、
前記軸領域との間の相対的な位置関係から、前記軸領域に対応する検出対象物の前記頭部分に相当する位置を前記候補位置から抽出するステップとを実行させ、
前記頭部分に相当する位置を前記候補位置から抽出するステップは、前記軸領域に比較して前記撮像装置の側に位置する前記候補位置を前記頭部分に相当する位置として抽出するステップを含む、プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011113616A JP5757157B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011113616A JP5757157B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2012242282A JP2012242282A (ja) | 2012-12-10 |
JP5757157B2 true JP5757157B2 (ja) | 2015-07-29 |
Family
ID=47464140
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011113616A Active JP5757157B2 (ja) | 2011-05-20 | 2011-05-20 | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5757157B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5757156B2 (ja) * | 2011-05-20 | 2015-07-29 | オムロン株式会社 | 検出対象物の中心位置を算出する方法、装置およびプログラム |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09105608A (ja) * | 1995-10-09 | 1997-04-22 | Nippon Steel Corp | 荷物の位置計測方法 |
JPH09146644A (ja) * | 1995-11-28 | 1997-06-06 | Matsushita Electric Ind Co Ltd | コイル状部品の位置調整方法 |
JP4319031B2 (ja) * | 2001-09-06 | 2009-08-26 | コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ | 対象のセグメンテーション方法及び装置 |
JP4060615B2 (ja) * | 2002-03-05 | 2008-03-12 | 株式会社東芝 | 画像処理装置及び超音波診断装置 |
JP4555762B2 (ja) * | 2005-10-11 | 2010-10-06 | ニッテツ北海道制御システム株式会社 | 長さ測定装置、長さ測定方法および長さ測定用コンピュータプログラム |
JP4959520B2 (ja) * | 2007-11-26 | 2012-06-27 | 三菱電機株式会社 | 位置姿勢認識装置及び方法、並びに部品ピッキングシステム |
JP2009281925A (ja) * | 2008-05-23 | 2009-12-03 | Mitsubishi Heavy Ind Ltd | 検査装置 |
JP5757156B2 (ja) * | 2011-05-20 | 2015-07-29 | オムロン株式会社 | 検出対象物の中心位置を算出する方法、装置およびプログラム |
-
2011
- 2011-05-20 JP JP2011113616A patent/JP5757157B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2012242282A (ja) | 2012-12-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4309439B2 (ja) | 対象物取出装置 | |
JP5458885B2 (ja) | 物体検出方法と物体検出装置およびロボットシステム | |
JP6011102B2 (ja) | 物体姿勢推定方法 | |
JP4868186B2 (ja) | マーカ生成及びマーカ検出のシステム、方法とプログラム | |
US20180260669A1 (en) | Image processing apparatus, image processing method, template generation apparatus, object recognition processor, and object recognition processing program | |
EP3258441B1 (en) | Template creation device and template creation method | |
US11654571B2 (en) | Three-dimensional data generation device and robot control system | |
JP5757156B2 (ja) | 検出対象物の中心位置を算出する方法、装置およびプログラム | |
JP2015147256A (ja) | ロボット、ロボットシステム、制御装置、及び制御方法 | |
JP2021170404A (ja) | 画像処理方法および撮影装置 | |
JP2007206797A (ja) | 画像処理方法および画像処理装置 | |
JP6054831B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP5093591B2 (ja) | 三次元位置姿勢計測方法および装置 | |
JP5794427B2 (ja) | マーカ生成装置、マーカ生成検出システム、マーカ生成検出装置、マーカ、マーカ生成方法及びそのプログラム | |
JP2021086432A (ja) | 情報処理装置、情報処理方法、コンピュータプログラム、計測装置、システムおよび物品の製造方法 | |
CA3202375A1 (en) | Pick and place systems and methods | |
JP2020179441A (ja) | 制御システム、情報処理装置および制御方法 | |
JP2018195070A (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP6237122B2 (ja) | ロボット、画像処理方法及びロボットシステム | |
JP5083715B2 (ja) | 三次元位置姿勢計測方法および装置 | |
KR20150003573A (ko) | 영상 패턴 검출 방법 및 그 장치 | |
JP5757157B2 (ja) | 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム | |
Lutz et al. | Probabilistic object recognition and pose estimation by fusing multiple algorithms | |
JP2018146347A (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
US20220230459A1 (en) | Object recognition device and object recognition method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140307 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141114 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141125 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150126 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20150217 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150413 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150507 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150520 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5757157 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |