JP2021056165A - 線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム - Google Patents

線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム Download PDF

Info

Publication number
JP2021056165A
JP2021056165A JP2019181544A JP2019181544A JP2021056165A JP 2021056165 A JP2021056165 A JP 2021056165A JP 2019181544 A JP2019181544 A JP 2019181544A JP 2019181544 A JP2019181544 A JP 2019181544A JP 2021056165 A JP2021056165 A JP 2021056165A
Authority
JP
Japan
Prior art keywords
linear object
image
cable
linear
measurement method
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2019181544A
Other languages
English (en)
Other versions
JP7312663B2 (ja
Inventor
永井 亮
Akira Nagai
亮 永井
基善 北井
Motoyoshi Kitai
基善 北井
坂本 淳一
Junichi Sakamoto
淳一 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kurabo Industries Ltd
Kurashiki Spinning Co Ltd
Original Assignee
Kurabo Industries Ltd
Kurashiki Spinning Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kurabo Industries Ltd, Kurashiki Spinning Co Ltd filed Critical Kurabo Industries Ltd
Priority to JP2019181544A priority Critical patent/JP7312663B2/ja
Publication of JP2021056165A publication Critical patent/JP2021056165A/ja
Application granted granted Critical
Publication of JP7312663B2 publication Critical patent/JP7312663B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Manipulator (AREA)

Abstract

【課題】反射率が異なる部位を少なくとも2以上有する線状物の三次元形状を正確に計測する線状物の三次元計測方法を提供する。【解決手段】ステレオカメラでケーブルCの逆光画像を撮像する工程111と、逆光画像からケーブルCのシルエット像を抽出する工程112と、シルエット像の形状を確認する工程113と、ケーブルCの三次元形状を算出する工程114とを有する線状物の三次元計測方法。【選択図】図2

Description

本発明は、先端に光沢部を有する線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システムに関する。
線状物を三次元計測装置で計測し、その三次元形状に基づいてロボットアームに線状物を把持させるロボットシステムが知られている。例えば、特許文献1には、複数の線状物の中から1本の目標線状物を選択して把持する線状物把持方法が開示されている。このようなロボットシステムの三次元計測装置として、異なる位置に固定された2台のカメラで対象物を撮像し、2台のカメラの相対的位置関係から三角測量の原理で対象物の三次元形状を求めるステレオカメラが用いられている。
このようなステレオカメラを用いたロボットシステムにおいて、金属端子を備えたケーブルを把持し、例えば、金属端子をコネクタに接続したり、金属端子を基板のランドと当接させてはんだ付けしたりすることなどが求められている。
しかし、実用化されているロボットシステムでは、把持する対象物として、光沢のない表面を有することを前提としている。その理由としては、金属など光沢のある表面の反射光は、正反射方向の成分が強くなるため、一般的なカメラで撮像すると、露光量が過剰になり、画像中の金属などの光沢部分に白飛びが生じる場合がある。詳しくは、当該画素に入射する光量を画像データとして処理できる値を超えてしまい、例えば、RGB成分が全て上限と認識され、白と認識される。このような白飛びが生じると、画像において対象物の形状が不明確となる。さらに、ステレオカメラは、位置関係の異なる2台のカメラを用いているため、カメラ・照明・撮像対象物の位置関係によって、一方のカメラの画像には対象物の光沢部が写っても、他方のカメラの画像には対象物の光沢部が白飛びして写らない場合がある。この場合、2台のカメラの画像における対象物の画素情報をマッチングすることができず、対象物の精確な三次元形状を取得することができない。
このように金属端子を備えたケーブルの場合は、カメラ・照明・撮像対象物の位置関係によって、光沢部の形状、および、光沢部とケーブル本体の境界が不明確となったり、三次元形状を取得できなかったりするため、安定してロボットアームにケーブルを認識させて、ケーブルの所定の位置を把持させることが困難であった。
このような表面に光沢がある対象物の三次元形状を特定し、ロボットシステムに利用する方法として、例えば、特許文献2の画像処理方法が知られている。
特許文献2には、対象物を撮像した二次元画像データ中に正反射領域に相当する輝度の閾値を示す対象領域を検出したとき、所定の割合で露光時間を短縮して対象物を撮像した比較二次元画像データ中の対象領域に相当する比較領域を抽出し、その比較二次元画像データ中の領域が正反射領域に想到する輝度の閾値以下であったとき、その短縮した露光時間の長さにより二次元画像中の対象領域が正反射領域かを判定する画像処理方法が開示されている。そして、正反射領域の無い画像に基づいて三次元形状画像データを生成する方法が開示されている。
WO2019/098074 特開2011−75311号公報
しかし、特許文献2に記載された画像処理方法は、露光時間を小さくして画像を取得するため、感度の高い特殊なセンサを用いなければ、画像全体が暗くなり、撮像対象物と背景とのコントラストが低くなる。また例え、特殊なセンサを用いたとしても、露光時間を徐々に減少させて複数回撮像しなければならず、また、撮像した画像毎に正反射領域があるかを判断しなければならない。さらに、最終的に、露光時間を減少させて所定の輝度以下の画像を取得したとしても、その画像内には、光源が写り込んでいる場合があり、そのような虚像を対象物の形状と区別して、対象物の形状を特定するさらなる処理が必要となる。このように理論上、可能であるが一般的なステレオカメラを用いる場合は現実的ではない。
本発明は、先端に光沢部を有する線状物の三次元形状を正確に計測する線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システムを提供することを目的としている。
本発明の線状物の三次元計測方法は、反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、ステレオカメラで前記線状物の逆光画像を撮像する工程と、前記逆光画像に基づいて線状物の三次元座標を取得する工程とを有することを特徴としている。
ここで「反射率が異なる部位を少なくとも2以上有する線状物」とは、材質の異なる部位が表面に混在している線状物であって、他の部位より光を強く反射する部位を有する線状物をいう。このような線状物として、製造工程等において、線状物の表面に変化が与えられたものも含まれる。例えば、電線の製造工程において、タルクと呼ばれる白い粉が付着したものや、電線の製造工程において、被覆が破け金属線が露出したものなどの線状物の表面に不良があるものが含まれる。このようにタルクが付着した場合、あるいは、被覆が破け金属線が露出した場合、その領域は他の領域より強く反射する。
ここで「逆光」とは、計測する線状物に遮蔽されず線状物のない空間を通過してカメラに到達する光をいう。「逆光画像」とは、すなわち上記の逆光をカメラで撮像した線状物のシルエット画像(透過光画像)のことである。また「三次元座標」とは、計算機上で処理可能なものであり、対象物上の少なくとも2点の立体的位置関係を表すものであればよく、例えば、3次元座標の集合(いわゆる点群データ)で表現したものであってもよいし、ポリゴンメッシュや平面/曲面の数式やパラメータ表現、またはボリュームデータ表現(ボクセル等)、およびそれらの組み合わせであってもよい。
本発明の線状物の三次元計測方法は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の三次元計測方法であって、前記ステレオカメラで前記線状物の順光画像を撮像する工程と、前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、前記順光画像における線状物部位情報に基づいて、前記線状物の三次元座標における反射率が異なる部位を特定する工程とをさらに有する方法が好ましい。
ここで「順光画像」とは、ステレオカメラと同じ側から線状物に光を照射して、線状物で反射した光をカメラで撮像した画像である。
「反射率が異なる部位を特定した線状物部位情報」とは、反射率が異なる部位のうち少なくとも1つの部位の位置を特定した情報をいい、全ての部位の位置を特定してもよい。例えば、線状物における非光沢部および/または光沢部を特定した線状物部位情報が挙げられる。具体的には、線状物の画像において、線状物の非光沢部および/または光沢部の位置を特定したものが挙げられる。なお、位置情報としては、画像上の位置情報のほか、三次元座標の情報などが挙げられる。
発明の線状物の三次元計測方法の第2の態様は、反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、ステレオカメラで前記線状物の逆光画像を撮像する工程と、前記ステレオカメラで前記線状物の順光画像を撮像する工程と、前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、前記順光画像における線状物部位情報に基づいて、前記逆光画像における反射率が異なる部位を特定した線状物部位情報を取得する工程と、前記逆光画像における線状物部位情報に基づいて、前記線状物の反射率が異なる部位を特定した線状物の三次元座標を取得する工程とを有することを特徴としている。
本発明の線状物の三次元計測方法の第2の態様は、一部に光沢部を有している線状物に適しており、特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の三次元計測方法の第1または第2の態様において、前記順光画像の色に基づいて前記順光画像における線状物部位情報を取得するのが好ましい。
本発明の線状物の三次元計測方法の第1または第2の態様において、前記ステレオカメラで前記線状物の順光画像を撮像する工程は、照明条件が異なる複数の順光画像を撮像する工程であり、前記複数の順光画像に基づいて前記順光画像における線状物部位情報を取得するのが好ましい。ここで「照明条件が異なる順光画像」とは、位置の異なる順光照射部材を切り替えて撮像する少なくとも2つの画像、あるいは、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替えて撮像した少なくとも2つの画像、あるいは、光の波長の異なる照明を同時に照射し、得られた画像を波長分解して生成する少なくとも2つの画像などが挙げられる。
本発明の線状物の三次元計測方法の第3の態様は、反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、ステレオカメラで前記線状物の画像を複数の照明条件で撮像する工程と、前記複数の照明条件で撮像された画像に基づいて前記線状物の三次元座標を取得する工程とを有することを特徴としている。
ここで「複数の照明条件」とは、逆光照射部材と順光照射部材を切り替える、あるいは、位置が異なる複数の順光照射部材を切り替える、あるいは、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替える、あるいは、異なる波長の光を照射するなどが挙げられる。
本発明の線状物の三次元計測方法の第3の態様は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の三次元計測方法の第3の態様において、前記複数の照明条件で撮像された画像のうち少なくとも1枚の画像に基づいて前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程をさらに有するものが好ましい。
本発明の線状物の作業位置決定方法は、本発明の線状物の三次元計測方法によって前記線状物の三次元座標を取得する工程と、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する工程とを有することを特徴としている。この場合、前記線状物の三次元座標に基づいて、前記線状物に対する作業方向を決定する作業方向決定工程をさらに有するのが好ましい。
本発明のロボットの制御方法は、本発明の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、前記作業位置に対してロボットハンドに作業させる工程とを有することを特徴としている。
本発明の線状物の固定方法は、本発明の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、ロボットハンドで前記作業位置を把持させ、前記ロボットハンドで把持した線状物を移動させて、前記線状物を相手部材に当接させ、前記線状物と前記相手部材とをはんだによって固定する工程とを有することを特徴としている。
本発明の線状物の作業位置決定装置は、ステレオカメラと、前記ステレオカメラに対して逆光となるように反射率が異なる部位を少なくとも2以上有する線状物に光を照射する逆光照射部材と、前記ステレオカメラで撮像した前記線状物の逆光画像に基づいて線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部とを備えることを特徴としている。
本発明の作業位置決定装置であって、前記線状物は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の作業位置決定装置の第2の態様は、ステレオカメラと、反射率が異なる部位を少なくとも2以上有する線状物に異なる照明条件で光を照射する照射部材と、前記ステレオカメラで撮像した前記線状物の照明条件が異なる複数の画像に基づいて前記線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部とを備えることを特徴としている。
本発明の作業位置決定装置の第2の態様であって、前記線状物は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物把持システムは、本発明の線状物の作業位置決定装置と、前記線状物を把持するロボットハンドを備えるロボットとを備え、前記ロボットハンドは、前記演算部が算出した前記作業位置を把持することを特徴としている。
本発明の線状物の三次元計測方法は、逆光画像を用いて線状物の三次元形状を取得しているため、線状物が光を強く反射する領域を有していても、その領域を正確に特定できる。例えば、光沢を有する金属端子を備えたケーブルにおいて、金属端子の形状を正確に特定できる。特に、汎用のステレオカメラを用いても正確に測定することができる。本発明の線状物の作業位置決定方法は、本発明の線状物の三次元計測方法を利用しているため、正確に作業位置を算出することができる。本発明のロボット制御方法は、本発明の作業位置決定方法を利用しているため、安定した操作が可能である。本発明の線状物の固定方法は、本発明の作業位置決定方法を利用しているため、確実に線状物を固定することができる。本発明の線状物の作業位置決定装置は、反射率が異なる部位を少なくとも2以上有する線状物の作業位置を算出するのに適している。本発明の線状物把持システムは、反射率が異なる部位を少なくとも2以上有する線状物を作業するロボットの制御に適している。
本発明のロボット制御方法の第1実施形態を実施するためのロボットシステムを示す概略図である。 図2aは本発明のロボット制御方法の第1実施形態を示すフロー図であり、図2bは本発明の線状物の三次元計測方法の第1実施形態を示すフロー図である。 図3aはロボットアームの把持姿勢を示す概略図であり、図3bは把持手前位置にあるロボットアームを示す概略図である。 図4aは本発明のロボット制御方法の第2実施形態を実施するためのロボットシステムを示す概略図であり、図4bは本発明のロボット制御方法の第3実施形態を実施するためのロボットシステムを示す概略図である。 図5aは本発明のロボット制御方法の第2実施形態を示すフロー図であり、図5bは本発明の線状物の三次元計測方法の第2実施形態を示すフロー図である。 図6aは本発明の線状物の三次元計測方法の第3実施形態を示すフロー図であり、図6bは本発明の線状物の三次元計測方法の第4実施形態を示すフロー図である。 図7aは本発明の線状物の三次元計測方法の第5実施形態を示すフロー図であり、図7bは本発明のロボット制御方法の第4実施形態を実施するためのロボットシステムを示す概略図である。 本発明のロボット制御方法によって把持したケーブルを、基板に固定している状態を示す概略図である。
図1に、金属端子を有する線状物の三次元計測方法の第1実施形態およびその方法を用いたロボット制御方法の第1実施形態に用いられるロボットシステムを示す。
図1aのロボットシステム1は、ロボットハンド12を有するロボット10と、ステレオカメラ20と、制御装置30と、逆光照射部材40と、ケーブル支持台50とを有する。
ロボットシステム1で把持するケーブル(線状物)Cは可撓性を有するものである。ケーブルCは、図1bに示すように、可撓性を有するケーブル本体C1と、その端部に設けられる金属端子C2とを備えている。ケーブル本体C1は、金属線とそれを覆う合成樹脂製の被膜とからなる。金属端子C2は、金属筒をケーブル本体C1の端部に被せ、カシメることによりケーブル本体C1の端部に固定される。符号Gは、後述するようにロボットハンド12に把持される部分である。
ロボット10は、多関節アーム11と、その先端に設けられたロボットハンド12とを有し、ロボットハンド12が一対のフィンガ(把持部)12aを備えた公知のものである。フィンガ12aとしては、特に限定されるものではなく、ケーブル(線状物)Cを面状または線状で接触して把持するものや、点で把持するものが挙げられる。
ステレオカメラ20は、第1カメラ21及び第2カメラ22と、カメラ制御部23とを有する。第1カメラ21はカラーの二次元画像である第1画像を撮像し、第2カメラ22はカラーの二次元画像である第2画像を撮像し、それぞれ異なる位置に固定されている。カメラ制御部23は、第1カメラ21および第2カメラ22を制御し、2つの画像から対象物の三次元形状を算出し、制御装置30と通信を行う。詳しくは、制御装置30から撮像指示を受信して第1カメラ21および第2カメラ22に撮像を指示し、第1画像および第2画像からケーブルCの三次元形状を算出し、その三次元形状を制御装置30に送信する。
制御装置30は、ステレオカメラ20と通信し、ステレオカメラ20から取得したケーブルCの三次元形状に基づいてロボット10に指示する。また各種演算を行う演算部31および各種データを記憶する記憶部32を備えている。なお、制御装置30は、ロボット10およびステレオカメラ20と独立した制御装置としても、ステレオカメラ20が備えるカメラ制御部23、ロボット10が備えるロボット制御装置のいずれであってもよい。
逆光照射部材40は、上面が開口した枠体41と、その開口に設けられる矩形の拡散板42と、枠体内に固定される光源(図示せず)とを備えたフラット型の照明にユニットである。そして、この逆光照射部材40は、ステレオカメラ20との間にケーブルCを挟んだ状態で、ステレオカメラ20に対してケーブルCの裏側に光を照射する。
つまり、ステレオカメラ20はケーブルCが存在しない位置の光のみ透過して撮像する。さらに言えば、ステレオカメラ20の第1カメラ21および第2カメラ22でケーブルCのシルエット像(輪郭)を撮像する。
逆光照射部材40の光源としては、例えば、自ら光を発光する通常の照明、または、間接的に光を照射する反射板等が挙げられる。また逆光照射部材40は、面光源であるが、点光源であってもよい。
逆光照射部材40から照射する光としては、特に限定されないが、白色光が好ましい。しかし、ケーブルCの被覆が白色の場合、上手くケーブルCのシルエット像が撮像できない場合も考えられる。その場合、ケーブルCの被覆以外に用いられている色の光が用いられる。
ケーブル支持台50は、ケーブルCを実質的に水平方向に支持し、かつ、測定するケーブルCの部分を逆光照射部材40に対して若干上方に、宙に浮いた状態で支持するものである。符号51は、ケーブルCを保持する冶具である。ケーブル支持台50の高さは、特に限定されるものではない。
次に、図2aに基づいて、線状物の把持するロボット制御方法の第1実施形態について説明する。
このケーブルC(線状物)を把持するロボット制御方法は、ケーブルCの三次元形状を測定する工程110と、ケーブルCの把持される部分Gを特定する工程120と、ロボットハンドの把持姿勢および把持位置を算出する工程130と、ロボットハンドのケーブルCに対するアプローチ方向を算出する工程140と、ロボットハンドでケーブルCを把持する工程150とを有する。この把持方法は、特に、金属端子C2の長さL(図1b参照)が分かっている場合、ケーブルCの本体C1もしくは金属端子C2のどちらか所望する部位を確実に把持できる方法である。この場合、金属端子C2の長さLは、予め記憶部32に登録される。この制御方法において、工程120、工程130、工程140の処理の順番は、特に限定されない。
ケーブルCの三次元形状の測定(工程110)は、線状物の三次元計測方法の第1実施形態である。工程110は、図2bに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程111)、逆光画像からケーブルCのシルエット像を抽出し(工程112)、シルエット像の形状を確認し(工程113)、ケーブルCの三次元形状を算出する(工程114)ことによって行われる。
ケーブルCの逆光画像の撮像(工程111)は、逆光照射部材40でケーブルCを照射し、その状態でステレオカメラ20によってケーブルCを撮影することにより行う。詳しくは、ステレオカメラ20の第1カメラ21によってケーブルCの輪郭を示す第1シルエット像を含む第1逆光画像を撮像し、ステレオカメラ20の第2カメラ22によってケーブルCの輪郭を示す第2シルエット像を含む第2逆光画像を撮像する。
次に、逆光画像からケーブルCのシルエット像を抽出する(工程112)。逆光画像は、ケーブルCによって光が遮断されたシルエット像と、ケーブルCが存在しない位置の透過光の像とからなる。そのため、透過光の像を分離することにより、シルエット像を抽出することができる。つまり、第1逆光画像から第1シルエット像を抽出し、第2逆光画像から第2シルエット像を抽出する。
各逆光画像からのシルエット像の抽出方法は、逆光画像におけるシルエット像と透過光の像の色の違いを利用する。具体的には、測定前に、ケーブルCが存在しない状態で撮像して透過光の像の色の輝度(RGB値)を測定し、この透過光の像の色に基づいて色の範囲を定める。そして、逆光画像の各画素の色の輝度(RGB値)を確認し、定めた透過光の像の色の範囲以外の画素を抽出する。例えば、赤・緑・青(RGB)の輝度をそれぞれ8ビット(256段階)で表す24ビットカラーにおいて、白色はRGB全ての輝度が最大値の255で表される。そのため、逆光照射部材の光を白色光とする場合、RGBの全てが255を示す画素以外を抽出する。これにより逆光画像において、シルエット像が残る。なお、逆光画像を透過光の像の色とそれ以外とで二値化してもよい。
シルエット像の抽出後、孤立した画素等を除去するノイズ処理を行うのが好ましい。またシルエット像において、例えば、ケーブル幅の中心に位置する画素を選択した中心線を求めるのが好ましい。
次に、シルエット像の形状を確認する(工程113)。逆光を照射してステレオカメラ20でケーブルCを撮像する場合、金属端子C2の向きによっては、カメラから透過光の輝度に近い反射光が見られ、金属端子C2の形状が不明確になる場合がある。
そのため、第1シルエット像または第2シルエット像のいずれかの形状において、確認が困難な部位がある場合、例えば、シルエット像が連続的でない場合、あるいは、シルエット像の中心線を求めたときに、中心線を認識しない場合、ケーブルCの三次元形状の計測を停止する。そして、例えば、図1aに示すように、ケーブルCを軸回りに回転させるなどケーブルCの姿勢を変えて再度、ケーブルCの逆光画像を撮像する工程111に戻る。
第1シルエット像および第2シルエット像の形状が確認できた場合、第1シルエット像および第2シルエット像に基づいてケーブルCの三次元形状を算出する(工程114)。
三次元形状の表現方法については、計算機上で処理可能なものであり、ケーブル上の少なくとも2点の立体的位置関係を表すものであれば特に限定されない。例えば、3次元座標の集合(いわゆる点群データ)で表現したものであってもよいし、ポリゴンメッシュや平面/曲面の数式やパラメータ表現、またはボリュームデータ表現(ボクセル等)、およびそれらの組み合わせであってもよい。
なお、第1逆光画像および第2逆光画像における各ケーブルCの第1シルエット像および第2シルエット像は、ケーブル本体C1および金属端子C2が特定されていない。そのため、ケーブルCの三次元形状もケーブル本体C1および金属端子C2が特定されていない。
図2aに戻って、ケーブルCの把持される部分Gの特定(工程120)について説明する。
ケーブルCの把持される部分G(作業部位)は、本実施形態では、図1bに示すように、ケーブル本体C1の部分であり、好ましくはケーブル本体C1の端部(ケーブル本体C1と金属端子C2の境界)付近のケーブル本体C1の部分である。例えば、ケーブル本体C1の端部(ケーブル本体C1と金属端子C2の境界)から距離Xmmである。この距離Xmmは、予め記憶部32に登録する。しかし、ケーブルCの把持される部分Gは、特に限定されるものではなく、線状物の形状や性質、その後の処理によって適宜定めることができる。例えば、ケーブル本体の端部に金属コネクタの雄部材が付いているケーブルをコネクタの雌部材に挿入する場合、ケーブル本体を把持させるよりも雄部材を把持させたほうが安定して挿入動作を実行することができる。
このようなケーブルCの把持される部分G(作業部位)は、ケーブルCの三次元形状で特定できる1点に基づいて算出する。工程110によって算出されるケーブルCの三次元形状は、上述したように、ケーブル本体C1および金属端子C2が特定されていないため、ケーブル本体C1と金属端子C2との境界は特定できず、ケーブルCの先端Eに基づいて算出する。つまり、このケーブルCの先端Eから金属端子C2の長さLと距離Xとを足した所定の長さをケーブルCの把持される部分Gと定めることができる。
具体的な操作としては、例えば、三次元座標上にケーブルCの三次元像を表現し、その三次元像の先端Eから予め登録された所定の長さ(L+Xmm)の点(図1b参照)を特定することにより、ケーブルCの把持される部分Gを求めることができる。なお、金属端子の先端からの距離(L+Xmm)ではなく、ケーブル本体C1の端部から金属端子側への距離またはケーブル本体側への距離を登録しておくことで、金属端子C2の長さを予め記憶部に登録していない線状物を把持する場合でも、所望に応じて金属端子上または線状物本体上を把持することができる。
次にロボットハンドの把持姿勢および把持位置の算出について説明する(工程130)。
ロボットハンド12の把持姿勢は、図3aに示すように、ロボットハンド12のフィンガ12aでケーブルCを把持したときのロボットハンド12の姿勢をいう。つまり、ロボットハンド12のケーブルCに対する作業方向である。詳しくは、ロボットハンド12のフィンガ12aの向きF1とケーブルCの把持される部分Gの向きD1との角度、および、フィンガ12aのケーブルCの把持される部分Gの軸回りの角度である。ロボットハンド12のフィンガ12aの向きF1とケーブルCの把持される部分Gの向きD1との角度は、特に限定されるものではないが、ケーブルCを把持した後にハンドリングがしやすいため、略垂直とするのが好ましい。フィンガ12aのケーブルCの把持される部分Gの軸回りの角度も、特に限定されるものではないが、ケーブルCを水平に支持している場合、そのケーブルCに対してフィンガ12aの向きF1が鉛直方向下側に向くように90度とするのが好ましい。
ロボットハンドの把持位置は、一対のフィンガ12aの幅を狭めてケーブルCを挟持する際の、フィンガ12aの把持点の中点座標である。本実施形態では、工程120で算出したケーブルCの把持される部分Gの座標を把持位置とした。ロボットハンドがケーブルCの他の部位および隣接した器具と接触しないように算出される。
ロボットハンドのケーブルCに対するアプローチ方向を算出する(工程140)。ここでは、ロボットハンドの把持手前位置を算出し、その把持手前位置からケーブルCに向かうアプローチ方向を算出する。
ロボットハンドの把持手前位置は、図3bに示すように、ロボットハンド12のフィンガ12aがケーブルCを把持する際にケーブルCに向かってアプローチする位置をいう。把持手前位置は、特に限定されるものではないが、ケーブルCの把持位置における把持姿勢からフィンガ12aの向きF1と逆向きに所定の距離だけ離れた位置とするのが好ましい。つまり、アプローチする方向は、把持姿勢におけるフィンガ12aの向きF1とするのが好ましい。このように把持手前位置およびアプローチ方向を特定することにより、ケーブルCが撓んでいたとしてもフィンガ12aが他の部位に干渉せず、また、隣接する器具と干渉することなく、ロボットハンドのフィンガ12aをケーブルCの把持される部分Gに近づけることができる。
ロボットハンドによるケーブルCの把持(工程150)は、ロボットハンド12を待機位置から把持手前位置を介して把持位置まで移動させ、把持位置においてケーブルCの把持される部分Gを把持する。
ロボットハンド12の待機位置は、特に限定されるものではなく、ロボットの各リンクの角度などによって予め定めて制御装置に登録してもよく、あるいは、ケーブルCから把持方向とは逆向きに所定の位置離れた位置(把持手前位置)に決定するなどケーブルCの三次元形状に基づいて決定させてもよい。
ロボットハンド12の待機位置から把持手前位置までの軌跡は、特に限定されるものではなく、周囲と接触しないように接近させればよい。例えば、直線補間、円弧補間、関節補間などによって把持位置にて漸次向かわせるのが好ましい。そして、把持手前位置から把持位置までの軌跡は、上述したようにアプローチ方向(フィンガ12aの向きF1)に直線補間させるのが好ましい。
このように線状物の三次元計測方法は、逆光画像を用いてケーブルCの三次元形状を求めているため、光沢のある金属端子C2の形状を正確に確認することができる。またケーブルCの三次元形状の先端に基づいて把持される部分Gを算出しているため、ケーブルCの把持される部分Gも正確に特定できる。したがって、ロボットアームによる自動制御に好ましく用いることができる。
図4aに、金属端子を有する線状物の三次元計測方法の第2実施形態およびその方法を用いたロボット制御方法の第2実施形態に用いられるロボットシステム1Aを示す。ロボットシステム1Aは、順光照射部材60を備えている点で、ロボットシステム1と異なる。ロボット10、ステレオカメラ20、制御装置30、逆光照射部材40、ケーブル支持台50は、図1のロボットシステム1と実質的に同じものである。
順光照射部材60は、ステレオカメラ20に対してケーブルCの表側に光を照射するものである。つまり、ステレオカメラ20は、ケーブルCの表面で反射した光を撮像する。順光照射部材60としては、特に限定されるものではないが、例えば、一般的な面光源の照明装置が挙げられる。
次に、図5aに基づいて、線状物の把持するロボット制御方法の第2実施形態について説明する。
このケーブルC(線状物)を把持するロボット制御方法は、ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状を取得する工程210と、ケーブルCの把持される部分Gの座標を算出する工程220と、ロボットハンドの把持姿勢および把持位置を算出する工程230と、ロボットハンドのケーブルCに対するアプローチ方向を算出する工程240と、ロボットハンドでケーブルCを把持する工程250とを有する。この制御方法は、第1実施形態と異なり、任意の規格のケーブルを把持させることができる。工程230、工程240、工程250は、それぞれ第1実施形態の工程130、工程140、工程150と実質的に同じである。なおこの実施形態において、工程220、工程230、工程240の処理は、どのような順番で処理してもよい。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状の測定(工程210)は、線状物の三次元計測方法の第2実施形態である。工程210は、図5bに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程211)、逆光画像からケーブルCのシルエット像を抽出し(工程212)、シルエット像の形状を確認し(工程213)、次いでステレオカメラ20でケーブルCの順光画像を撮像し(工程214)、順光画像におけるケーブル本体C1を特定した線状物部位情報を取得し(工程215)、順光画像の線状物部位情報に基づいて、逆光画像におけるケーブルCのケーブル本体C1および金属端子C2とを特定した線状物部位情報を取得し(工程216)、逆光画像における線状物部位情報に基づいてケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程217)ことによって行われる。すなわち、ケーブル本体の三次元形状と金属端子の三次元形状とを算出する。工程211〜工程213は、それぞれ第1実施形態の工程111〜工程113と実質的に同じである。なお、後の工程で必要となる情報がケーブル本体および金属端子の一方のみの三次元形状であれば、必要な部位の三次元形状のみ算出すればよく、計算処理スピードが速まる。
ここでは、工程214以降の工程について、詳細を説明する。ケーブルCの順光画像の撮像(工程214)は、順光照射部材60でケーブルCを照射し、その状態でステレオカメラ20によってケーブルCを撮影することにより行う。詳しくは、ステレオカメラ20の第1カメラ21によって第1順光画像を撮像し、ステレオカメラ20の第2カメラ22によって第2順光画像を撮像する。なお、工程S211の逆光画像および工程214の順光画像は、同じ位置に固定されたステレオカメラ20の第1カメラ21および第2カメラ22によって撮像する。
次に、順光画像におけるケーブル本体C1を特定した線状物部位情報を取得する(工程215)。具体的には、順光画像からケーブル本体像を抽出することによって線状物部位情報を取得する。
順光画像は、ケーブル本体像、金属端子像、および、背景像からなる。そして、ケーブル本体像および金属端子像は、それぞれケーブルCの表面で反射した光の像である。そのため、金属端子像には、所定の輝度以上の反射光による白飛びが見られる。一方、ケーブル本体像には、そのような白飛びは見られない。そのため、順光画像から明確な形状が取得できるケーブル本体像は、順光画像におけるケーブル本体C1を特定した線状物部位情報となる。ここで白飛びとは、撮像素子に入射する光量が上限値を超えてしまう状態をいい、例えば、RGBの全てが上限と認識されて色の濃淡を表すことができずに画像上に白塗り部ができるもの以外にも、RGBのいずれかが上限と認識されて当該色の濃淡を表すことができない状態も含む。
ケーブル本体像の抽出方法は、順光画像の色を利用する。詳しくは、測定前に、ケーブル本体C1の色の輝度(RGB値)を、色テーブルとして記憶部32に予め登録する。2種類以上のケーブルを対象とする場合は、それらを全て登録する。例えば、必要な色が含まれるRGBの範囲を設定して登録してもよい。そして、順光画像において、該当する特定の色の領域だけをケーブル本体C1として特定し、ケーブル本体像として抽出する。具体的には、順光画像の各画素の色の輝度(RGB値)を色テーブルの色の輝度(RGB値)と比較し、その画素の色が色テーブルの色と同じ場合は残し、異なる場合は消去する。色が同じであるか異なるかの判断は、両者の差によって判断する。例えば、各画素におけるRGB値と色テーブルのRGB値との差が所定の範囲以内である場合は、同じと判断し、両者の差が所定の範囲以上である場合は、異なると判断する。ケーブル本体像を抽出した後、ノイズを除去するのが好ましい。なお、二値化処理をしてケーブル本体像を抽出してもよい。
次に、順光画像におけるケーブル本体を特定した線状物部位情報(ケーブル本体像)に基づいて、逆光画像におけるケーブルCのケーブル本体C1および金属端子C2を特定した線状物部位情報を取得する(工程216)。
上述したように逆光画像と順光画像とは、同じ位置のステレオカメラ20から撮像されているため、第1順光画像と第1逆光画像におけるケーブルCの位置、形状、および、第2順光画像と第2逆光画像におけるケーブルCの位置、形状は一致する。そのため、逆光画像から抽出したシルエット像と順光画像から抽出したケーブル本体像とを比較し、シルエット像におけるケーブル本体C1と金属端子C2とを特定して逆光画像における線状物部位情報を取得する。
具体的な操作としては、第1シルエット像と第1ケーブル本体像とを重ね、第1シルエット像において、第1ケーブル本体像と重なった領域がケーブル本体C1であると判断でき、第1ケーブル本体像と重ならなかった領域が金属端子C2であると判断できる。同様に第2シルエット像と第2ケーブル本体像とを重ねて、第2シルエット像におけるケーブル本体C1と金属端子C2とを特定する。
逆光画像における線状物部位情報に基づいてケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状を算出する(工程217)。
詳しくは、ケーブル本体C1と金属端子C2とを特定した線状物部位情報を備えた第1シルエット像およびケーブル本体C1と金属端子C2とを特定した線状物部位情報を備えた第2シルエット像に基づいて、ケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状を算出する。
次にケーブルCの把持される部分Gを算出について説明する(工程220)。ここでも工程120と同様に、ケーブルCの三次元形状で特定できる1点に基づいて算出する。詳しくは、ケーブル本体C1と金属端子C2とが特定されたケーブルCの三次元形状からケーブル本体C1と金属端子C2の境界(ケーブル本体C1の端部)を見出し、この境界からXmmである把持される部分Gを直接算出する。なお、境界からの距離Xmmは、予め登録しておく。
このように順光画像を用いてケーブル本体C1と金属端子C2とが特定されたケーブルCの特定済み三次元形状を取得することにより、異なる色のケーブルや、金属端子C2の形状が異なるケーブルなど規格の異なるケーブルを同じシステムを用いて取り扱うことができる。そして、これらの規格の異なるケーブルを安定してロボットアームで把持させることができる。
なお、第2実施形態では、工程211〜工程217の順番に説明したが、工程214〜工程217(順光画像の処理)を工程211〜工程215(逆光画像の処理)より先に行ってもよい。
次に、図6aに基づいて、金属端子を有する線状物の三次元計測方法の第3実施形態について説明する。この方法は、図4のロボットシステム1Aが用いられ、ロボット制御方法の第2実施形態の工程210と同様に、ケーブルCのケーブル本体C1と金属端子C2とを特定した三次元形状を求めるものであり、ロボット制御方法の第2実施形態において工程210の代わりになる方法である。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状の取得(工程310)は、図6aに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程311)、逆光画像からケーブルCのシルエット像を抽出し(工程312)、シルエット像の形状を確認し(工程313)、シルエット像に基づいてケーブルCの三次元形状を算出し(工程314)、次いでステレオカメラ20でケーブルCの順光画像を撮像し(工程315)、順光画像におけるケーブル本体C1を特定した線状物部位情報を取得し(工程316)、順光画像における線状物部位情報に基づいて、ケーブルCの三次元形状におけるケーブル本体C1と金属端子C2とを特定する(工程317)ことによって行われる。
ここで工程311〜工程314は、それぞれ第1実施形態の工程111〜工程114と実質的に同じであり、工程315、工程316は、それぞれ第2実施形態の工程214、工程215と実質的に同じである。
ここでは、工程317以降の工程について、詳細を説明する。順光画像における線状物部位情報に基づいて、ケーブルCの三次元形状におけるケーブル本体C1と金属端子C2とを特定する(工程317)。
工程314で算出されるケーブルCの三次元形状は、逆光画像のシルエット像に基づいて算出されているため、ケーブル本体C1と金属端子C2とは特定されていない。しかし、ステレオカメラ20は同じ位置から各順光画像および逆光画像を撮像しているため、各順光画像より抽出した第1ケーブル本体像および第2ケーブル本体像の各点と、ケーブルCの三次元形状の各点とは対応している。そのため、第1ケーブル本体像と第2ケーブル本体像の各点と対応するケーブルCの三次元形状の領域をケーブル本体C1と判断する。そして、残りの領域を金属端子C2と判断する。これにより、第2実施形態の工程210と同様のケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を取得することができる。
なお、第1ケーブル本体像と第2ケーブル本体像からケーブル本体C1の三次元形状を取得し、ケーブルCの三次元形状、ケーブル本体C1の三次元形状とを重ね、ケーブルCの三次元形状において重なっている部分をケーブル本体C1と判断し、その他の領域を金属端子C2と判断して、ケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を取得してもよい。
次に、図6bに基づいて、金属端子を有する線状物の三次元計測方法の第4実施形態について説明する。この方法も特定済み三次元形状を求めるものであり、ロボット制御方法の第2実施形態の工程210の代わりに使用することができる。しかし、順光画像における光沢部を特定した線状物部位情報を用いる点でこれまでと異なる。また図4bのロボットシステム1Bを使用する。ロボットシステム1Bは、複数の順光照射部材60a、60b、60cを備えており、それ以外はロボットシステム1Aと実質的に同じである。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの特定済み三次元形状の取得(工程410)は、図6bに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程411)、逆光画像からケーブルCのシルエット像を抽出し(工程412)、シルエット像の形状を確認し(工程413)、次いでステレオカメラ20で照明条件が異なるケーブルCの順光画像を撮像し(工程414)、複数の順光画像から金属端子C2を特定した線状物部位情報を取得し(工程415)、順光画像における金属端子を特定した線状物部位情報に基づいて、逆光画像におけるケーブルCのケーブル本体C1および金属端子C2を特定した線状物部位情報を取得し(工程416)、逆光画像における線状物部位情報に基づいてケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程417)ことによって行われる。
ここで工程411〜工程413は、それぞれ第1実施形態の工程111〜工程113と実質的に同じであり、工程417は、第2実施形態の工程217と実質的に同じである。
工程414以降の工程について、詳細を説明する。
照明条件が異なるケーブルCの順光画像の撮像(工程414)は、異なる位置に配置された各順光照射部材60に照射された状態で撮像した複数の順光画像を撮像する。つまり、順光照射部材60aで照射した状態においてステレオカメラ20で順光画像を撮像し、光源を切り替えて順光照射部材60bで照射した状態においてステレオカメラ20で順光画像を撮像し、さらに光源を切り替えて順光照射部材60cで照射した状態においてステレオカメラ20で順光画像を撮像する。
次に、複数の順光画像から順光画像における金属端子C2を特定した線状物部位情報を取得する(工程415)。
複数の順光照射部材は異なる位置に配置されているため、各順光画像の金属端子像の表面に現れる白飛びの位置が異なる。そのため、複数の順光画像から金属端子像の白飛びしていない部分を抽出することによって、金属端子の形状を確認することができる。つまり、ケーブルCの金属端子C2を特定した線状物部位情報が取得できる。なお、各順光画像における金属端子C2の特定は、工程215のように、測定前に、金属端子C2の色の輝度(RGB値)を色テーブルとして登録し、各画素の色の輝度(RGB値)を色テーブルの色の輝度(RGB値)と比較して特定する。また各画像における白飛びの判断は、色の輝度(RGB値)が閾値以上となっているかで判断する。ここでは3つの順光照射部材60a、60b、60cを設けているが、順光照射部材の数を多くする方が金属端子像を正確に特定することができる。
次に、順光画像における金属端子を特定した線状物部位情報に基づいて、逆光画像におけるケーブルCのケーブル本体C1および金属端子C2を特定した線状物部位情報の取得する(工程416)。この工程は、工程415において、ケーブルCの金属端子C2を特定した線状物部位情報と、逆光画像のシルエット像とを比較することにより、シルエット像におけるケーブル本体C1と金属端子C2とを特定する。
具体的な操作としては、線状物部位情報の各位置と、それに対応するシルエット像の位置を金属端子C2と判断し、それ以外をケーブル本体C1と判断することによって、シルエット像におけるケーブル本体C1と金属端子C2とを特定する。
線状物の三次元計測方法の第4実施形態の変形例として、逆光画像のシルエット像に基づいてケーブルCの三次元形状を算出し、順光画像における金属端子C2を特定した線状物部位情報に基づいて、ケーブルCの三次元形状のケーブル本体C1および金属端子C2を特定してもよい。
また線状物の三次元計測方法の第4実施形態の変形例として、異なる位置に配置された複数の順光照射部材60a、60b、60cを切り替えて撮像する代わりに、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替えて撮像してもよい。さらに、複数の順光照射部材60a、60b、60cの光を異なる波長とし、同時に照射した状態で撮像し、得られた画像を波長分解して、複数の順光画像を取得させてもよい。
次に、図7aに基づいて、金属端子を有する線状物の三次元計測方法の第5実施形態について説明する。この方法もケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を求めるものであり、ロボット制御方法の第2実施形態の工程210の代わりに使用することができる。しかし、この方法は、逆光画像を用いない点でこれまでと異なる。そして、図7bのロボットシステム1Cを使用する。図7bのロボットシステム1Cは、逆光照射部材40を備えておらず、それ以外はロボットシステム1Bと実質的に同じである。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状の取得(工程510)は、図7aに示すように、ステレオカメラ20で照明条件が異なるケーブルCの順光画像を撮像し(工程511)、複数の順光画像から順光画像におけるケーブル本体C1および金属端子C2を特定した線状物部位情報を取得し(工程512)、順光画像における線状物部位情報に基づいて、ケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程513)ことによって行われる。ここで工程511は、それぞれ第3実施形態の工程414と実質的に同じである。
次に工程512から説明する。
複数の順光画像から順光画像におけるケーブル本体C1および金属端子C2の両方を特定した線状物部位情報を取得する(工程512)。
工程415で説明したように、複数の順光画像からケーブルCの金属端子C2を特定した線状物部位情報は取得できる。同時に、少なくとも1つの順光画像から工程215で説明したように、ケーブルCのケーブル本体C1を特定した線状物部位情報(ケーブル本体像)が取得できる。ここでは、その両方の情報を合わせた、ケーブル本体C1および金属端子C2を特定した線状物部位情報を取得する。例えば、両方を特定した線状物部位情報に基づいて、白飛びを除いた補完順光画像を作成してもよい。
順光画像におけるケーブル本体C1および金属端子C2を特定した線状物部位情報に基づいて、ケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程513)について説明する。
つまり、第1順光画像におけるケーブル本体C1と金属端子C2を特定した線状物部位情報と、第2順光画像におけるケーブル本体C1と金属端子C2を特定した線状物部位情報に基づいて算出する。例えば、補完第1順光画像と、補完第2順光画像に基づいてケーブルCの三次元形状を算出することなどが挙げられる。
この場合、逆光画像を用いることなくケーブル本体C1および金属端子C2を特定した三次元形状を算出することができる。
ケーブルCのケーブル本体C1および金属端子C2を特定した線状物部位情報を取得する工程512は、線状物の三次元計測方法の第4実施形態の変形例として、工程415の代わりにもなりえる。
図8は、上述したいずれかのロボット制御方法によって、ケーブルCをロボットハンド12に把持させ、その把持させた状態でケーブルCを移動させ、ケーブルCの金属端子C2を基板PのランドL(接続部)に当接させ、はんだ吐出ヘッドHから溶融はんだSを吐出し、金属端子C2とランドL(接続部)とをはんだによって固定した状態を示す。
本発明のロボット制御方法を用いれば、基板Pに短い間隔で設けられたランドLに、ケーブルCの金属端子C2を合わせ、ケーブルCと基板Pとをロボット10を用いて固定することができる。
なお、把持した部位に溶融したはんだを吐出するはんだ吐出ヘッドを兼ねているロボットハンドが知られている。このロボットハンドを上述のいずれかの線状物の把持方法に用いてもよい。なお、このロボットハンドを用いる場合、ケーブルCの把持される部分を金属端子C2とする。そして、ロボットハンドに、ケーブルCの金属端子C2を直接把持させた状態で、金属端子C2を基板Pのランドと当接するようにケーブルCを移動させ、吐出孔から溶融したはんだを吐出し、金属端子C2とランドを固定させる。
本実施形態では、各画像の色の輝度(RGB値)に基づいて各画像から像(例えば、シルエット像、ケーブル本体像)の抽出を行っているが、各画像の色相、彩度、明度(HSV)のいずれかに基づいて像を抽出してもよい。
本実施形態では、線状物として、ケーブルを挙げているが、特に限定されるものではない。例えば、電線、ワイヤーハーネス、チューブ、紐、糸、繊維、ガラス繊維、光ファイバなどが挙げられる。
本実施形態では、先端の光沢部として、金属端子を挙げているが、特に限定されるものではない。例えば、電線に被覆されるストリップ部が挙げられる。
本実施形態では、1本のケーブル(線状物)の三次元形状を計測し、ロボットアームに把持させているが、複数本のケーブルから1本のケーブル、または、ワイヤーハーネスから1本の電線を把持させてもよい。例えば、特許文献1に示すように、注目線状物を決定して把持させてもよい。
なお、監督者が正しく認識が行えているかを監視するため、認識結果をディスプレイなどの表示装置に表示することが好ましい。この場合、ケーブル本体C1と金属端子C2とを特定したシルエット像や立体画像を表示し、これらの領域が目視できるように別の色等で表すなど、マーキングしておくのが好ましい。
1、1A、1B、1C ロボットシステム
10 ロボット
11 多関節アーム
12 ロボットハンド
12a フィンガ
20 ステレオカメラ
21 第1カメラ
22 第2カメラ
23 カメラ制御部
30 制御装置
31 演算部
32 記憶部
40 逆光照射部材
41 枠体
42 拡散板
50 ケーブル支持台
51 冶具
60、60a、60b、60c 順光照射部材
C ケーブル
C1 ケーブル本体
C2 金属端子
E 先端
G 把持される部分
H はんだ吐出ヘッド
L 基板のランド
P 基板
S はんだ

Claims (19)

  1. 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
    ステレオカメラで前記線状物の逆光画像を撮像する工程と、
    前記逆光画像に基づいて前記線状物の三次元座標を取得する工程とを有する、
    線状物の三次元計測方法。
  2. 前記線状物は、一部に光沢部を有する、
    請求項1に記載の線状物の三次元計測方法。
  3. 前記ステレオカメラで前記線状物の順光画像を撮像する工程と、
    前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
    前記順光画像における線状物部位情報に基づいて、前記線状物の三次元座標における反射率が異なる部位を特定する工程とを有する、
    請求項1または2に記載の線状物の三次元計測方法。
  4. 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
    ステレオカメラで前記線状物の逆光画像を撮像する工程と、
    前記ステレオカメラで前記線状物の順光画像を撮像する工程と、
    前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
    前記順光画像における線状物部位情報に基づいて、前記逆光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
    前記逆光画像における線状物部位情報に基づいて、前記線状物の反射率が異なる部位を特定した線状物の三次元座標を取得する工程とを有する、
    線状物の三次元計測方法。
  5. 前記線状物は、一部に光沢部を有する、
    請求項4に記載の線状物の三次元計測方法。
  6. 前記順光画像の色に基づいて前記順光画像における線状物部位情報を取得する、
    請求項3から5のいずれか一項に記載の線状物の三次元計測方法。
  7. 前記ステレオカメラで前記線状物の順光画像を撮像する工程は、照明条件が異なる複数の順光画像を撮像する工程であり、
    前記複数の順光画像に基づいて前記順光画像における線状物部位情報を取得する、
    請求項3から5のいずれか一項に記載の線状物の三次元計測方法。
  8. 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
    ステレオカメラで前記線状物の画像を複数の照明条件で撮像する工程と、
    前記複数の照明条件で撮像された画像に基づいて前記線状物の三次元座標を取得する工程とを有する、
    線状物の三次元計測方法。
  9. 前記線状物は、一部に光沢部を有する、
    請求項8に記載の線状物の三次元計測方法。
  10. 前記複数の照明条件で撮像された画像のうち少なくとも1枚の画像に基づいて前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程をさらに有する、
    請求項8または9に記載の線状物の三次元計測方法。
  11. 請求項1から10のいずれか一項に記載の線状物の三次元計測方法によって前記線状物の三次元座標を取得する工程と、
    前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する工程とを有する、
    線状物の作業位置決定方法。
  12. 前記線状物の三次元座標に基づいて、前記線状物に対する作業方向を決定する作業方向決定工程をさらに備える、
    請求項11に記載の線状物の作業位置決定方法。
  13. 請求項11または12に記載の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、
    前記作業位置に対してロボットハンドに作業させる工程とを有する、
    ロボットの制御方法。
  14. 請求項11または12に記載の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、
    ロボットハンドで前記作業位置を把持させ、前記ロボットハンドで把持した線状物を移動させて、前記線状物を相手部材に当接させ、前記線状物と前記相手部材とをはんだによって固定する工程とを有する、
    線状物の固定方法。
  15. ステレオカメラと、
    前記ステレオカメラに対して逆光となるように反射率が異なる部位を少なくとも2以上有する線状物に光を照射する逆光照射部材と、
    前記ステレオカメラで撮像した前記線状物の逆光画像に基づいて線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部と、を備える、
    線状物の作業位置決定装置。
  16. 前記線状物は、一部に光沢部を有する、
    請求項15に記載の線状物の作業位置決定装置。
  17. ステレオカメラと、
    反射率が異なる部位を少なくとも2以上有する線状物に異なる照明条件で光を照射する照射部材と、
    前記ステレオカメラで撮像した前記線状物の照明条件が異なる複数の画像に基づいて前記線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部と、を備える、
    線状物の作業位置決定装置。
  18. 前記線状物は、一部に光沢部を有する、
    請求項17に記載の線状物の作業位置決定装置。
  19. 請求項15から18のいずれか一項に記載の線状物の作業位置決定装置と、
    前記線状物を把持するロボットハンドを備えるロボットと、を備え、
    前記ロボットハンドは、前記演算部が算出した前記作業位置を把持する、
    線状物把持システム。
JP2019181544A 2019-10-01 2019-10-01 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム Active JP7312663B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019181544A JP7312663B2 (ja) 2019-10-01 2019-10-01 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019181544A JP7312663B2 (ja) 2019-10-01 2019-10-01 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム

Publications (2)

Publication Number Publication Date
JP2021056165A true JP2021056165A (ja) 2021-04-08
JP7312663B2 JP7312663B2 (ja) 2023-07-21

Family

ID=75272512

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019181544A Active JP7312663B2 (ja) 2019-10-01 2019-10-01 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム

Country Status (1)

Country Link
JP (1) JP7312663B2 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04191607A (ja) * 1990-11-26 1992-07-09 Toshiba Corp 3次元計測方法
JP2009300124A (ja) * 2008-06-10 2009-12-24 Keyence Corp 画像計測装置、画像計測方法及びコンピュータプログラム
WO2019098074A1 (ja) * 2017-11-16 2019-05-23 倉敷紡績株式会社 線状物把持方法および制御装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04191607A (ja) * 1990-11-26 1992-07-09 Toshiba Corp 3次元計測方法
JP2009300124A (ja) * 2008-06-10 2009-12-24 Keyence Corp 画像計測装置、画像計測方法及びコンピュータプログラム
WO2019098074A1 (ja) * 2017-11-16 2019-05-23 倉敷紡績株式会社 線状物把持方法および制御装置

Also Published As

Publication number Publication date
JP7312663B2 (ja) 2023-07-21

Similar Documents

Publication Publication Date Title
JP2014526706A (ja) 非接触式部品検査装置及び部品検査方法
CN102735138B (zh) 测量结构以及用于至少确定压接触头的导线压接体的压接高度的方法
JP5156601B2 (ja) 形状測定装置およびプログラム
JP6791631B2 (ja) 画像生成方法及び検査装置
JP4539355B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
CN108701346B (zh) 接线检查作业支援系统
KR20160108644A (ko) 디바이스 결함 검출장치
KR101622628B1 (ko) 부품이 실장된 기판 검사방법 및 검사장치
CN106226326A (zh) 检测sip模组表面缺陷、露铜表面缺陷的方法及系统
JP7312663B2 (ja) 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム
JP2000146787A (ja) 引張り試験の絞り計測方法
JPH05272939A (ja) 圧着端子画像処理検査における照明方法及び画像処理方法
JP2020112470A (ja) 先端部材位置推定方法、先端部材把持方法、先端部材接続方法、先端部材位置推定システム、および、先端部材把持システム
JP2016070723A (ja) 半田検査装置および方法
TWI833973B (zh) 用於基板的線路量測系統及方法
CN113466227A (zh) 压接端子的外观检查装置以及外观检查方法
US20200257923A1 (en) Contour recognition device, contour recognition system and contour recognition method
EP3779355A1 (en) Three-dimensional measurement device for linear object and three-dimensional measurement method for linear object
JP4507785B2 (ja) 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置
KR100605027B1 (ko) 카메라 또는 검사 대상의 이동 중 영상 획득에 의한영상검사방법 및 영상검사장치
JP2001324455A (ja) 実装基板外観検査装置
JP5280918B2 (ja) 形状測定装置
JP7159159B2 (ja) 線状物の3次元計測方法および装置
WO2024121903A1 (ja) 画像処理装置
TWI806325B (zh) 螢光線路量測系統及方法

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20200210

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220721

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230329

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230522

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230704

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230710

R150 Certificate of patent or registration of utility model

Ref document number: 7312663

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150