JP2021056165A - 線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム - Google Patents
線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム Download PDFInfo
- Publication number
- JP2021056165A JP2021056165A JP2019181544A JP2019181544A JP2021056165A JP 2021056165 A JP2021056165 A JP 2021056165A JP 2019181544 A JP2019181544 A JP 2019181544A JP 2019181544 A JP2019181544 A JP 2019181544A JP 2021056165 A JP2021056165 A JP 2021056165A
- Authority
- JP
- Japan
- Prior art keywords
- linear object
- image
- cable
- linear
- measurement method
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 76
- 238000000691 measurement method Methods 0.000 title claims abstract description 49
- 238000005286 illumination Methods 0.000 claims description 9
- 230000013011 mating Effects 0.000 claims description 4
- 238000005476 soldering Methods 0.000 claims 1
- 238000003384 imaging method Methods 0.000 abstract description 5
- 239000002184 metal Substances 0.000 description 113
- 238000012545 processing Methods 0.000 description 8
- 238000013459 approach Methods 0.000 description 7
- 238000005259 measurement Methods 0.000 description 7
- 229910000679 solder Inorganic materials 0.000 description 7
- 230000001678 irradiating effect Effects 0.000 description 6
- 239000000758 substrate Substances 0.000 description 6
- 239000011248 coating agent Substances 0.000 description 5
- 238000000576 coating method Methods 0.000 description 5
- 230000000295 complement effect Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000004519 manufacturing process Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 239000000454 talc Substances 0.000 description 2
- 229910052623 talc Inorganic materials 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 239000003365 glass fiber Substances 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 239000000843 powder Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 229920003002 synthetic resin Polymers 0.000 description 1
- 239000000057 synthetic resin Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Manipulator (AREA)
Abstract
Description
このようなステレオカメラを用いたロボットシステムにおいて、金属端子を備えたケーブルを把持し、例えば、金属端子をコネクタに接続したり、金属端子を基板のランドと当接させてはんだ付けしたりすることなどが求められている。
このように金属端子を備えたケーブルの場合は、カメラ・照明・撮像対象物の位置関係によって、光沢部の形状、および、光沢部とケーブル本体の境界が不明確となったり、三次元形状を取得できなかったりするため、安定してロボットアームにケーブルを認識させて、ケーブルの所定の位置を把持させることが困難であった。
特許文献2には、対象物を撮像した二次元画像データ中に正反射領域に相当する輝度の閾値を示す対象領域を検出したとき、所定の割合で露光時間を短縮して対象物を撮像した比較二次元画像データ中の対象領域に相当する比較領域を抽出し、その比較二次元画像データ中の領域が正反射領域に想到する輝度の閾値以下であったとき、その短縮した露光時間の長さにより二次元画像中の対象領域が正反射領域かを判定する画像処理方法が開示されている。そして、正反射領域の無い画像に基づいて三次元形状画像データを生成する方法が開示されている。
本発明は、先端に光沢部を有する線状物の三次元形状を正確に計測する線状物の三次元計測方法、それを用いた線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システムを提供することを目的としている。
ここで「反射率が異なる部位を少なくとも2以上有する線状物」とは、材質の異なる部位が表面に混在している線状物であって、他の部位より光を強く反射する部位を有する線状物をいう。このような線状物として、製造工程等において、線状物の表面に変化が与えられたものも含まれる。例えば、電線の製造工程において、タルクと呼ばれる白い粉が付着したものや、電線の製造工程において、被覆が破け金属線が露出したものなどの線状物の表面に不良があるものが含まれる。このようにタルクが付着した場合、あるいは、被覆が破け金属線が露出した場合、その領域は他の領域より強く反射する。
ここで「逆光」とは、計測する線状物に遮蔽されず線状物のない空間を通過してカメラに到達する光をいう。「逆光画像」とは、すなわち上記の逆光をカメラで撮像した線状物のシルエット画像(透過光画像)のことである。また「三次元座標」とは、計算機上で処理可能なものであり、対象物上の少なくとも2点の立体的位置関係を表すものであればよく、例えば、3次元座標の集合(いわゆる点群データ)で表現したものであってもよいし、ポリゴンメッシュや平面/曲面の数式やパラメータ表現、またはボリュームデータ表現(ボクセル等)、およびそれらの組み合わせであってもよい。
本発明の線状物の三次元計測方法は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
ここで「順光画像」とは、ステレオカメラと同じ側から線状物に光を照射して、線状物で反射した光をカメラで撮像した画像である。
「反射率が異なる部位を特定した線状物部位情報」とは、反射率が異なる部位のうち少なくとも1つの部位の位置を特定した情報をいい、全ての部位の位置を特定してもよい。例えば、線状物における非光沢部および/または光沢部を特定した線状物部位情報が挙げられる。具体的には、線状物の画像において、線状物の非光沢部および/または光沢部の位置を特定したものが挙げられる。なお、位置情報としては、画像上の位置情報のほか、三次元座標の情報などが挙げられる。
本発明の線状物の三次元計測方法の第2の態様は、一部に光沢部を有している線状物に適しており、特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の三次元計測方法の第1または第2の態様において、前記ステレオカメラで前記線状物の順光画像を撮像する工程は、照明条件が異なる複数の順光画像を撮像する工程であり、前記複数の順光画像に基づいて前記順光画像における線状物部位情報を取得するのが好ましい。ここで「照明条件が異なる順光画像」とは、位置の異なる順光照射部材を切り替えて撮像する少なくとも2つの画像、あるいは、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替えて撮像した少なくとも2つの画像、あるいは、光の波長の異なる照明を同時に照射し、得られた画像を波長分解して生成する少なくとも2つの画像などが挙げられる。
ここで「複数の照明条件」とは、逆光照射部材と順光照射部材を切り替える、あるいは、位置が異なる複数の順光照射部材を切り替える、あるいは、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替える、あるいは、異なる波長の光を照射するなどが挙げられる。
本発明の線状物の三次元計測方法の第3の態様は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の線状物の三次元計測方法の第3の態様において、前記複数の照明条件で撮像された画像のうち少なくとも1枚の画像に基づいて前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程をさらに有するものが好ましい。
本発明の作業位置決定装置であって、前記線状物は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
本発明の作業位置決定装置の第2の態様であって、前記線状物は、一部に光沢部を有している線状物に適している。特に、非光沢部の先端に光沢部を有している線状物に適している。
図1aのロボットシステム1は、ロボットハンド12を有するロボット10と、ステレオカメラ20と、制御装置30と、逆光照射部材40と、ケーブル支持台50とを有する。
ロボットシステム1で把持するケーブル(線状物)Cは可撓性を有するものである。ケーブルCは、図1bに示すように、可撓性を有するケーブル本体C1と、その端部に設けられる金属端子C2とを備えている。ケーブル本体C1は、金属線とそれを覆う合成樹脂製の被膜とからなる。金属端子C2は、金属筒をケーブル本体C1の端部に被せ、カシメることによりケーブル本体C1の端部に固定される。符号Gは、後述するようにロボットハンド12に把持される部分である。
つまり、ステレオカメラ20はケーブルCが存在しない位置の光のみ透過して撮像する。さらに言えば、ステレオカメラ20の第1カメラ21および第2カメラ22でケーブルCのシルエット像(輪郭)を撮像する。
逆光照射部材40の光源としては、例えば、自ら光を発光する通常の照明、または、間接的に光を照射する反射板等が挙げられる。また逆光照射部材40は、面光源であるが、点光源であってもよい。
逆光照射部材40から照射する光としては、特に限定されないが、白色光が好ましい。しかし、ケーブルCの被覆が白色の場合、上手くケーブルCのシルエット像が撮像できない場合も考えられる。その場合、ケーブルCの被覆以外に用いられている色の光が用いられる。
このケーブルC(線状物)を把持するロボット制御方法は、ケーブルCの三次元形状を測定する工程110と、ケーブルCの把持される部分Gを特定する工程120と、ロボットハンドの把持姿勢および把持位置を算出する工程130と、ロボットハンドのケーブルCに対するアプローチ方向を算出する工程140と、ロボットハンドでケーブルCを把持する工程150とを有する。この把持方法は、特に、金属端子C2の長さL(図1b参照)が分かっている場合、ケーブルCの本体C1もしくは金属端子C2のどちらか所望する部位を確実に把持できる方法である。この場合、金属端子C2の長さLは、予め記憶部32に登録される。この制御方法において、工程120、工程130、工程140の処理の順番は、特に限定されない。
各逆光画像からのシルエット像の抽出方法は、逆光画像におけるシルエット像と透過光の像の色の違いを利用する。具体的には、測定前に、ケーブルCが存在しない状態で撮像して透過光の像の色の輝度(RGB値)を測定し、この透過光の像の色に基づいて色の範囲を定める。そして、逆光画像の各画素の色の輝度(RGB値)を確認し、定めた透過光の像の色の範囲以外の画素を抽出する。例えば、赤・緑・青(RGB)の輝度をそれぞれ8ビット(256段階)で表す24ビットカラーにおいて、白色はRGB全ての輝度が最大値の255で表される。そのため、逆光照射部材の光を白色光とする場合、RGBの全てが255を示す画素以外を抽出する。これにより逆光画像において、シルエット像が残る。なお、逆光画像を透過光の像の色とそれ以外とで二値化してもよい。
シルエット像の抽出後、孤立した画素等を除去するノイズ処理を行うのが好ましい。またシルエット像において、例えば、ケーブル幅の中心に位置する画素を選択した中心線を求めるのが好ましい。
そのため、第1シルエット像または第2シルエット像のいずれかの形状において、確認が困難な部位がある場合、例えば、シルエット像が連続的でない場合、あるいは、シルエット像の中心線を求めたときに、中心線を認識しない場合、ケーブルCの三次元形状の計測を停止する。そして、例えば、図1aに示すように、ケーブルCを軸回りに回転させるなどケーブルCの姿勢を変えて再度、ケーブルCの逆光画像を撮像する工程111に戻る。
三次元形状の表現方法については、計算機上で処理可能なものであり、ケーブル上の少なくとも2点の立体的位置関係を表すものであれば特に限定されない。例えば、3次元座標の集合(いわゆる点群データ)で表現したものであってもよいし、ポリゴンメッシュや平面/曲面の数式やパラメータ表現、またはボリュームデータ表現(ボクセル等)、およびそれらの組み合わせであってもよい。
なお、第1逆光画像および第2逆光画像における各ケーブルCの第1シルエット像および第2シルエット像は、ケーブル本体C1および金属端子C2が特定されていない。そのため、ケーブルCの三次元形状もケーブル本体C1および金属端子C2が特定されていない。
ケーブルCの把持される部分G(作業部位)は、本実施形態では、図1bに示すように、ケーブル本体C1の部分であり、好ましくはケーブル本体C1の端部(ケーブル本体C1と金属端子C2の境界)付近のケーブル本体C1の部分である。例えば、ケーブル本体C1の端部(ケーブル本体C1と金属端子C2の境界)から距離Xmmである。この距離Xmmは、予め記憶部32に登録する。しかし、ケーブルCの把持される部分Gは、特に限定されるものではなく、線状物の形状や性質、その後の処理によって適宜定めることができる。例えば、ケーブル本体の端部に金属コネクタの雄部材が付いているケーブルをコネクタの雌部材に挿入する場合、ケーブル本体を把持させるよりも雄部材を把持させたほうが安定して挿入動作を実行することができる。
このようなケーブルCの把持される部分G(作業部位)は、ケーブルCの三次元形状で特定できる1点に基づいて算出する。工程110によって算出されるケーブルCの三次元形状は、上述したように、ケーブル本体C1および金属端子C2が特定されていないため、ケーブル本体C1と金属端子C2との境界は特定できず、ケーブルCの先端Eに基づいて算出する。つまり、このケーブルCの先端Eから金属端子C2の長さLと距離Xとを足した所定の長さをケーブルCの把持される部分Gと定めることができる。
具体的な操作としては、例えば、三次元座標上にケーブルCの三次元像を表現し、その三次元像の先端Eから予め登録された所定の長さ(L+Xmm)の点(図1b参照)を特定することにより、ケーブルCの把持される部分Gを求めることができる。なお、金属端子の先端からの距離(L+Xmm)ではなく、ケーブル本体C1の端部から金属端子側への距離またはケーブル本体側への距離を登録しておくことで、金属端子C2の長さを予め記憶部に登録していない線状物を把持する場合でも、所望に応じて金属端子上または線状物本体上を把持することができる。
ロボットハンド12の把持姿勢は、図3aに示すように、ロボットハンド12のフィンガ12aでケーブルCを把持したときのロボットハンド12の姿勢をいう。つまり、ロボットハンド12のケーブルCに対する作業方向である。詳しくは、ロボットハンド12のフィンガ12aの向きF1とケーブルCの把持される部分Gの向きD1との角度、および、フィンガ12aのケーブルCの把持される部分Gの軸回りの角度である。ロボットハンド12のフィンガ12aの向きF1とケーブルCの把持される部分Gの向きD1との角度は、特に限定されるものではないが、ケーブルCを把持した後にハンドリングがしやすいため、略垂直とするのが好ましい。フィンガ12aのケーブルCの把持される部分Gの軸回りの角度も、特に限定されるものではないが、ケーブルCを水平に支持している場合、そのケーブルCに対してフィンガ12aの向きF1が鉛直方向下側に向くように90度とするのが好ましい。
ロボットハンドの把持位置は、一対のフィンガ12aの幅を狭めてケーブルCを挟持する際の、フィンガ12aの把持点の中点座標である。本実施形態では、工程120で算出したケーブルCの把持される部分Gの座標を把持位置とした。ロボットハンドがケーブルCの他の部位および隣接した器具と接触しないように算出される。
ロボットハンドの把持手前位置は、図3bに示すように、ロボットハンド12のフィンガ12aがケーブルCを把持する際にケーブルCに向かってアプローチする位置をいう。把持手前位置は、特に限定されるものではないが、ケーブルCの把持位置における把持姿勢からフィンガ12aの向きF1と逆向きに所定の距離だけ離れた位置とするのが好ましい。つまり、アプローチする方向は、把持姿勢におけるフィンガ12aの向きF1とするのが好ましい。このように把持手前位置およびアプローチ方向を特定することにより、ケーブルCが撓んでいたとしてもフィンガ12aが他の部位に干渉せず、また、隣接する器具と干渉することなく、ロボットハンドのフィンガ12aをケーブルCの把持される部分Gに近づけることができる。
ロボットハンド12の待機位置は、特に限定されるものではなく、ロボットの各リンクの角度などによって予め定めて制御装置に登録してもよく、あるいは、ケーブルCから把持方向とは逆向きに所定の位置離れた位置(把持手前位置)に決定するなどケーブルCの三次元形状に基づいて決定させてもよい。
ロボットハンド12の待機位置から把持手前位置までの軌跡は、特に限定されるものではなく、周囲と接触しないように接近させればよい。例えば、直線補間、円弧補間、関節補間などによって把持位置にて漸次向かわせるのが好ましい。そして、把持手前位置から把持位置までの軌跡は、上述したようにアプローチ方向(フィンガ12aの向きF1)に直線補間させるのが好ましい。
順光照射部材60は、ステレオカメラ20に対してケーブルCの表側に光を照射するものである。つまり、ステレオカメラ20は、ケーブルCの表面で反射した光を撮像する。順光照射部材60としては、特に限定されるものではないが、例えば、一般的な面光源の照明装置が挙げられる。
このケーブルC(線状物)を把持するロボット制御方法は、ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状を取得する工程210と、ケーブルCの把持される部分Gの座標を算出する工程220と、ロボットハンドの把持姿勢および把持位置を算出する工程230と、ロボットハンドのケーブルCに対するアプローチ方向を算出する工程240と、ロボットハンドでケーブルCを把持する工程250とを有する。この制御方法は、第1実施形態と異なり、任意の規格のケーブルを把持させることができる。工程230、工程240、工程250は、それぞれ第1実施形態の工程130、工程140、工程150と実質的に同じである。なおこの実施形態において、工程220、工程230、工程240の処理は、どのような順番で処理してもよい。
順光画像は、ケーブル本体像、金属端子像、および、背景像からなる。そして、ケーブル本体像および金属端子像は、それぞれケーブルCの表面で反射した光の像である。そのため、金属端子像には、所定の輝度以上の反射光による白飛びが見られる。一方、ケーブル本体像には、そのような白飛びは見られない。そのため、順光画像から明確な形状が取得できるケーブル本体像は、順光画像におけるケーブル本体C1を特定した線状物部位情報となる。ここで白飛びとは、撮像素子に入射する光量が上限値を超えてしまう状態をいい、例えば、RGBの全てが上限と認識されて色の濃淡を表すことができずに画像上に白塗り部ができるもの以外にも、RGBのいずれかが上限と認識されて当該色の濃淡を表すことができない状態も含む。
ケーブル本体像の抽出方法は、順光画像の色を利用する。詳しくは、測定前に、ケーブル本体C1の色の輝度(RGB値)を、色テーブルとして記憶部32に予め登録する。2種類以上のケーブルを対象とする場合は、それらを全て登録する。例えば、必要な色が含まれるRGBの範囲を設定して登録してもよい。そして、順光画像において、該当する特定の色の領域だけをケーブル本体C1として特定し、ケーブル本体像として抽出する。具体的には、順光画像の各画素の色の輝度(RGB値)を色テーブルの色の輝度(RGB値)と比較し、その画素の色が色テーブルの色と同じ場合は残し、異なる場合は消去する。色が同じであるか異なるかの判断は、両者の差によって判断する。例えば、各画素におけるRGB値と色テーブルのRGB値との差が所定の範囲以内である場合は、同じと判断し、両者の差が所定の範囲以上である場合は、異なると判断する。ケーブル本体像を抽出した後、ノイズを除去するのが好ましい。なお、二値化処理をしてケーブル本体像を抽出してもよい。
上述したように逆光画像と順光画像とは、同じ位置のステレオカメラ20から撮像されているため、第1順光画像と第1逆光画像におけるケーブルCの位置、形状、および、第2順光画像と第2逆光画像におけるケーブルCの位置、形状は一致する。そのため、逆光画像から抽出したシルエット像と順光画像から抽出したケーブル本体像とを比較し、シルエット像におけるケーブル本体C1と金属端子C2とを特定して逆光画像における線状物部位情報を取得する。
具体的な操作としては、第1シルエット像と第1ケーブル本体像とを重ね、第1シルエット像において、第1ケーブル本体像と重なった領域がケーブル本体C1であると判断でき、第1ケーブル本体像と重ならなかった領域が金属端子C2であると判断できる。同様に第2シルエット像と第2ケーブル本体像とを重ねて、第2シルエット像におけるケーブル本体C1と金属端子C2とを特定する。
詳しくは、ケーブル本体C1と金属端子C2とを特定した線状物部位情報を備えた第1シルエット像およびケーブル本体C1と金属端子C2とを特定した線状物部位情報を備えた第2シルエット像に基づいて、ケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状を算出する。
なお、第2実施形態では、工程211〜工程217の順番に説明したが、工程214〜工程217(順光画像の処理)を工程211〜工程215(逆光画像の処理)より先に行ってもよい。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状の取得(工程310)は、図6aに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程311)、逆光画像からケーブルCのシルエット像を抽出し(工程312)、シルエット像の形状を確認し(工程313)、シルエット像に基づいてケーブルCの三次元形状を算出し(工程314)、次いでステレオカメラ20でケーブルCの順光画像を撮像し(工程315)、順光画像におけるケーブル本体C1を特定した線状物部位情報を取得し(工程316)、順光画像における線状物部位情報に基づいて、ケーブルCの三次元形状におけるケーブル本体C1と金属端子C2とを特定する(工程317)ことによって行われる。
ここで工程311〜工程314は、それぞれ第1実施形態の工程111〜工程114と実質的に同じであり、工程315、工程316は、それぞれ第2実施形態の工程214、工程215と実質的に同じである。
工程314で算出されるケーブルCの三次元形状は、逆光画像のシルエット像に基づいて算出されているため、ケーブル本体C1と金属端子C2とは特定されていない。しかし、ステレオカメラ20は同じ位置から各順光画像および逆光画像を撮像しているため、各順光画像より抽出した第1ケーブル本体像および第2ケーブル本体像の各点と、ケーブルCの三次元形状の各点とは対応している。そのため、第1ケーブル本体像と第2ケーブル本体像の各点と対応するケーブルCの三次元形状の領域をケーブル本体C1と判断する。そして、残りの領域を金属端子C2と判断する。これにより、第2実施形態の工程210と同様のケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を取得することができる。
なお、第1ケーブル本体像と第2ケーブル本体像からケーブル本体C1の三次元形状を取得し、ケーブルCの三次元形状、ケーブル本体C1の三次元形状とを重ね、ケーブルCの三次元形状において重なっている部分をケーブル本体C1と判断し、その他の領域を金属端子C2と判断して、ケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を取得してもよい。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの特定済み三次元形状の取得(工程410)は、図6bに示すように、ステレオカメラ20でケーブルCの逆光画像を撮像し(工程411)、逆光画像からケーブルCのシルエット像を抽出し(工程412)、シルエット像の形状を確認し(工程413)、次いでステレオカメラ20で照明条件が異なるケーブルCの順光画像を撮像し(工程414)、複数の順光画像から金属端子C2を特定した線状物部位情報を取得し(工程415)、順光画像における金属端子を特定した線状物部位情報に基づいて、逆光画像におけるケーブルCのケーブル本体C1および金属端子C2を特定した線状物部位情報を取得し(工程416)、逆光画像における線状物部位情報に基づいてケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程417)ことによって行われる。
ここで工程411〜工程413は、それぞれ第1実施形態の工程111〜工程113と実質的に同じであり、工程417は、第2実施形態の工程217と実質的に同じである。
照明条件が異なるケーブルCの順光画像の撮像(工程414)は、異なる位置に配置された各順光照射部材60に照射された状態で撮像した複数の順光画像を撮像する。つまり、順光照射部材60aで照射した状態においてステレオカメラ20で順光画像を撮像し、光源を切り替えて順光照射部材60bで照射した状態においてステレオカメラ20で順光画像を撮像し、さらに光源を切り替えて順光照射部材60cで照射した状態においてステレオカメラ20で順光画像を撮像する。
複数の順光照射部材は異なる位置に配置されているため、各順光画像の金属端子像の表面に現れる白飛びの位置が異なる。そのため、複数の順光画像から金属端子像の白飛びしていない部分を抽出することによって、金属端子の形状を確認することができる。つまり、ケーブルCの金属端子C2を特定した線状物部位情報が取得できる。なお、各順光画像における金属端子C2の特定は、工程215のように、測定前に、金属端子C2の色の輝度(RGB値)を色テーブルとして登録し、各画素の色の輝度(RGB値)を色テーブルの色の輝度(RGB値)と比較して特定する。また各画像における白飛びの判断は、色の輝度(RGB値)が閾値以上となっているかで判断する。ここでは3つの順光照射部材60a、60b、60cを設けているが、順光照射部材の数を多くする方が金属端子像を正確に特定することができる。
具体的な操作としては、線状物部位情報の各位置と、それに対応するシルエット像の位置を金属端子C2と判断し、それ以外をケーブル本体C1と判断することによって、シルエット像におけるケーブル本体C1と金属端子C2とを特定する。
また線状物の三次元計測方法の第4実施形態の変形例として、異なる位置に配置された複数の順光照射部材60a、60b、60cを切り替えて撮像する代わりに、複数のLEDを直列、面状、あるいは、リング状に並べた1つの順光照射部材を用い、発光させるLEDを切り替えて撮像してもよい。さらに、複数の順光照射部材60a、60b、60cの光を異なる波長とし、同時に照射した状態で撮像し、得られた画像を波長分解して、複数の順光画像を取得させてもよい。
ケーブルCのケーブル本体C1と金属端子C2とを特定したケーブルCの三次元形状の取得(工程510)は、図7aに示すように、ステレオカメラ20で照明条件が異なるケーブルCの順光画像を撮像し(工程511)、複数の順光画像から順光画像におけるケーブル本体C1および金属端子C2を特定した線状物部位情報を取得し(工程512)、順光画像における線状物部位情報に基づいて、ケーブルCのケーブル本体C1および金属端子C2を特定した三次元形状を算出する(工程513)ことによって行われる。ここで工程511は、それぞれ第3実施形態の工程414と実質的に同じである。
複数の順光画像から順光画像におけるケーブル本体C1および金属端子C2の両方を特定した線状物部位情報を取得する(工程512)。
工程415で説明したように、複数の順光画像からケーブルCの金属端子C2を特定した線状物部位情報は取得できる。同時に、少なくとも1つの順光画像から工程215で説明したように、ケーブルCのケーブル本体C1を特定した線状物部位情報(ケーブル本体像)が取得できる。ここでは、その両方の情報を合わせた、ケーブル本体C1および金属端子C2を特定した線状物部位情報を取得する。例えば、両方を特定した線状物部位情報に基づいて、白飛びを除いた補完順光画像を作成してもよい。
つまり、第1順光画像におけるケーブル本体C1と金属端子C2を特定した線状物部位情報と、第2順光画像におけるケーブル本体C1と金属端子C2を特定した線状物部位情報に基づいて算出する。例えば、補完第1順光画像と、補完第2順光画像に基づいてケーブルCの三次元形状を算出することなどが挙げられる。
本発明のロボット制御方法を用いれば、基板Pに短い間隔で設けられたランドLに、ケーブルCの金属端子C2を合わせ、ケーブルCと基板Pとをロボット10を用いて固定することができる。
なお、把持した部位に溶融したはんだを吐出するはんだ吐出ヘッドを兼ねているロボットハンドが知られている。このロボットハンドを上述のいずれかの線状物の把持方法に用いてもよい。なお、このロボットハンドを用いる場合、ケーブルCの把持される部分を金属端子C2とする。そして、ロボットハンドに、ケーブルCの金属端子C2を直接把持させた状態で、金属端子C2を基板Pのランドと当接するようにケーブルCを移動させ、吐出孔から溶融したはんだを吐出し、金属端子C2とランドを固定させる。
本実施形態では、線状物として、ケーブルを挙げているが、特に限定されるものではない。例えば、電線、ワイヤーハーネス、チューブ、紐、糸、繊維、ガラス繊維、光ファイバなどが挙げられる。
本実施形態では、先端の光沢部として、金属端子を挙げているが、特に限定されるものではない。例えば、電線に被覆されるストリップ部が挙げられる。
本実施形態では、1本のケーブル(線状物)の三次元形状を計測し、ロボットアームに把持させているが、複数本のケーブルから1本のケーブル、または、ワイヤーハーネスから1本の電線を把持させてもよい。例えば、特許文献1に示すように、注目線状物を決定して把持させてもよい。
なお、監督者が正しく認識が行えているかを監視するため、認識結果をディスプレイなどの表示装置に表示することが好ましい。この場合、ケーブル本体C1と金属端子C2とを特定したシルエット像や立体画像を表示し、これらの領域が目視できるように別の色等で表すなど、マーキングしておくのが好ましい。
10 ロボット
11 多関節アーム
12 ロボットハンド
12a フィンガ
20 ステレオカメラ
21 第1カメラ
22 第2カメラ
23 カメラ制御部
30 制御装置
31 演算部
32 記憶部
40 逆光照射部材
41 枠体
42 拡散板
50 ケーブル支持台
51 冶具
60、60a、60b、60c 順光照射部材
C ケーブル
C1 ケーブル本体
C2 金属端子
E 先端
G 把持される部分
H はんだ吐出ヘッド
L 基板のランド
P 基板
S はんだ
Claims (19)
- 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
ステレオカメラで前記線状物の逆光画像を撮像する工程と、
前記逆光画像に基づいて前記線状物の三次元座標を取得する工程とを有する、
線状物の三次元計測方法。 - 前記線状物は、一部に光沢部を有する、
請求項1に記載の線状物の三次元計測方法。 - 前記ステレオカメラで前記線状物の順光画像を撮像する工程と、
前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
前記順光画像における線状物部位情報に基づいて、前記線状物の三次元座標における反射率が異なる部位を特定する工程とを有する、
請求項1または2に記載の線状物の三次元計測方法。 - 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
ステレオカメラで前記線状物の逆光画像を撮像する工程と、
前記ステレオカメラで前記線状物の順光画像を撮像する工程と、
前記順光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
前記順光画像における線状物部位情報に基づいて、前記逆光画像における前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程と、
前記逆光画像における線状物部位情報に基づいて、前記線状物の反射率が異なる部位を特定した線状物の三次元座標を取得する工程とを有する、
線状物の三次元計測方法。 - 前記線状物は、一部に光沢部を有する、
請求項4に記載の線状物の三次元計測方法。 - 前記順光画像の色に基づいて前記順光画像における線状物部位情報を取得する、
請求項3から5のいずれか一項に記載の線状物の三次元計測方法。 - 前記ステレオカメラで前記線状物の順光画像を撮像する工程は、照明条件が異なる複数の順光画像を撮像する工程であり、
前記複数の順光画像に基づいて前記順光画像における線状物部位情報を取得する、
請求項3から5のいずれか一項に記載の線状物の三次元計測方法。 - 反射率が異なる部位を少なくとも2以上有する線状物の三次元計測方法であって、
ステレオカメラで前記線状物の画像を複数の照明条件で撮像する工程と、
前記複数の照明条件で撮像された画像に基づいて前記線状物の三次元座標を取得する工程とを有する、
線状物の三次元計測方法。 - 前記線状物は、一部に光沢部を有する、
請求項8に記載の線状物の三次元計測方法。 - 前記複数の照明条件で撮像された画像のうち少なくとも1枚の画像に基づいて前記線状物の反射率が異なる部位を特定した線状物部位情報を取得する工程をさらに有する、
請求項8または9に記載の線状物の三次元計測方法。 - 請求項1から10のいずれか一項に記載の線状物の三次元計測方法によって前記線状物の三次元座標を取得する工程と、
前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する工程とを有する、
線状物の作業位置決定方法。 - 前記線状物の三次元座標に基づいて、前記線状物に対する作業方向を決定する作業方向決定工程をさらに備える、
請求項11に記載の線状物の作業位置決定方法。 - 請求項11または12に記載の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、
前記作業位置に対してロボットハンドに作業させる工程とを有する、
ロボットの制御方法。 - 請求項11または12に記載の線状物の作業位置決定方法によって前記線状物の作業位置を算出する工程と、
ロボットハンドで前記作業位置を把持させ、前記ロボットハンドで把持した線状物を移動させて、前記線状物を相手部材に当接させ、前記線状物と前記相手部材とをはんだによって固定する工程とを有する、
線状物の固定方法。 - ステレオカメラと、
前記ステレオカメラに対して逆光となるように反射率が異なる部位を少なくとも2以上有する線状物に光を照射する逆光照射部材と、
前記ステレオカメラで撮像した前記線状物の逆光画像に基づいて線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部と、を備える、
線状物の作業位置決定装置。 - 前記線状物は、一部に光沢部を有する、
請求項15に記載の線状物の作業位置決定装置。 - ステレオカメラと、
反射率が異なる部位を少なくとも2以上有する線状物に異なる照明条件で光を照射する照射部材と、
前記ステレオカメラで撮像した前記線状物の照明条件が異なる複数の画像に基づいて前記線状物の三次元座標を取得し、前記線状物の三次元座標の少なくとも1点に基づいて、前記線状物の作業位置を算出する演算部と、を備える、
線状物の作業位置決定装置。 - 前記線状物は、一部に光沢部を有する、
請求項17に記載の線状物の作業位置決定装置。 - 請求項15から18のいずれか一項に記載の線状物の作業位置決定装置と、
前記線状物を把持するロボットハンドを備えるロボットと、を備え、
前記ロボットハンドは、前記演算部が算出した前記作業位置を把持する、
線状物把持システム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019181544A JP7312663B2 (ja) | 2019-10-01 | 2019-10-01 | 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019181544A JP7312663B2 (ja) | 2019-10-01 | 2019-10-01 | 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021056165A true JP2021056165A (ja) | 2021-04-08 |
JP7312663B2 JP7312663B2 (ja) | 2023-07-21 |
Family
ID=75272512
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019181544A Active JP7312663B2 (ja) | 2019-10-01 | 2019-10-01 | 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7312663B2 (ja) |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04191607A (ja) * | 1990-11-26 | 1992-07-09 | Toshiba Corp | 3次元計測方法 |
JP2009300124A (ja) * | 2008-06-10 | 2009-12-24 | Keyence Corp | 画像計測装置、画像計測方法及びコンピュータプログラム |
WO2019098074A1 (ja) * | 2017-11-16 | 2019-05-23 | 倉敷紡績株式会社 | 線状物把持方法および制御装置 |
-
2019
- 2019-10-01 JP JP2019181544A patent/JP7312663B2/ja active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04191607A (ja) * | 1990-11-26 | 1992-07-09 | Toshiba Corp | 3次元計測方法 |
JP2009300124A (ja) * | 2008-06-10 | 2009-12-24 | Keyence Corp | 画像計測装置、画像計測方法及びコンピュータプログラム |
WO2019098074A1 (ja) * | 2017-11-16 | 2019-05-23 | 倉敷紡績株式会社 | 線状物把持方法および制御装置 |
Also Published As
Publication number | Publication date |
---|---|
JP7312663B2 (ja) | 2023-07-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014526706A (ja) | 非接触式部品検査装置及び部品検査方法 | |
CN102735138B (zh) | 测量结构以及用于至少确定压接触头的导线压接体的压接高度的方法 | |
JP5156601B2 (ja) | 形状測定装置およびプログラム | |
JP6791631B2 (ja) | 画像生成方法及び検査装置 | |
JP4539355B2 (ja) | 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置 | |
CN108701346B (zh) | 接线检查作业支援系统 | |
KR20160108644A (ko) | 디바이스 결함 검출장치 | |
KR101622628B1 (ko) | 부품이 실장된 기판 검사방법 및 검사장치 | |
CN106226326A (zh) | 检测sip模组表面缺陷、露铜表面缺陷的方法及系统 | |
JP7312663B2 (ja) | 線状物の作業位置決定方法、ロボットの制御方法、線状物の固定方法、線状物の作業位置決定装置および線状物把持システム | |
JP2000146787A (ja) | 引張り試験の絞り計測方法 | |
JPH05272939A (ja) | 圧着端子画像処理検査における照明方法及び画像処理方法 | |
JP2020112470A (ja) | 先端部材位置推定方法、先端部材把持方法、先端部材接続方法、先端部材位置推定システム、および、先端部材把持システム | |
JP2016070723A (ja) | 半田検査装置および方法 | |
TWI833973B (zh) | 用於基板的線路量測系統及方法 | |
CN113466227A (zh) | 压接端子的外观检查装置以及外观检查方法 | |
US20200257923A1 (en) | Contour recognition device, contour recognition system and contour recognition method | |
EP3779355A1 (en) | Three-dimensional measurement device for linear object and three-dimensional measurement method for linear object | |
JP4507785B2 (ja) | 基板検査装置並びにそのパラメータ設定方法およびパラメータ設定装置 | |
KR100605027B1 (ko) | 카메라 또는 검사 대상의 이동 중 영상 획득에 의한영상검사방법 및 영상검사장치 | |
JP2001324455A (ja) | 実装基板外観検査装置 | |
JP5280918B2 (ja) | 形状測定装置 | |
JP7159159B2 (ja) | 線状物の3次元計測方法および装置 | |
WO2024121903A1 (ja) | 画像処理装置 | |
TWI806325B (zh) | 螢光線路量測系統及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20200210 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220721 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230329 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230404 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230522 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230704 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230710 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7312663 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |