JP2018005579A - 電子機器の製造装置、及びケーブル形状推定プログラム - Google Patents

電子機器の製造装置、及びケーブル形状推定プログラム Download PDF

Info

Publication number
JP2018005579A
JP2018005579A JP2016132052A JP2016132052A JP2018005579A JP 2018005579 A JP2018005579 A JP 2018005579A JP 2016132052 A JP2016132052 A JP 2016132052A JP 2016132052 A JP2016132052 A JP 2016132052A JP 2018005579 A JP2018005579 A JP 2018005579A
Authority
JP
Japan
Prior art keywords
cable
point
data
unit
cross
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016132052A
Other languages
English (en)
Other versions
JP6729092B2 (ja
Inventor
照秋 西岡
Teruaki Nishioka
照秋 西岡
卓 武藤
Taku Muto
卓 武藤
満 久保
Mitsuru Kubo
満 久保
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016132052A priority Critical patent/JP6729092B2/ja
Publication of JP2018005579A publication Critical patent/JP2018005579A/ja
Application granted granted Critical
Publication of JP6729092B2 publication Critical patent/JP6729092B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Supply And Installment Of Electrical Components (AREA)
  • Image Analysis (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Manipulator (AREA)

Abstract

【課題】正確なケーブルフォーミングを実現する。【解決手段】電子機器の製造装置は、電子機器の部品の一部にケーブルが接続された状態で、ケーブルを撮影した画像データから、2次元面内の格子点に対応するケーブルの表面上の点の3D点群データを取得するケーブル3Dデータ取得部20と、ケーブルの延伸方向に所定幅を有するサーチボリュームを設定するサーチボリューム設定部24と、サーチボリューム内に存在する3次元位置データが取得された点からケーブルの断面形状を推定し、該断面形状に基づいて、ケーブルの延伸方向を新たに算出するケーブル断面・延伸方向算出部26と、設定部と算出部による繰り返し処理の結果に基づいて、ケーブルの形状を推定するケーブル形状推定部30と、推定部の推定結果に基づいて把持装置にケーブルを把持させ、把持装置を移動させることで、ケーブルを予め定めた状態に遷移させるロボットコントローラ16と、を備える。【選択図】図2

Description

本発明は、電子機器の製造装置、及びケーブル形状推定プログラムに関する。
情報処理装置などの電子機器は、ハードディスク装置、メモリ、CPU、電源装置等の多数の部品と、部品を収容する筐体とを有し、筐体内には配線用のケーブルが設けられている。
電子機器を製造する際には、ケーブルを所定位置(例えば筐体の壁部近傍)に這わせるなどして、ケーブルが邪魔にならないようにする必要がある。この作業は、ケーブルフォーミングと呼ばれている。ケーブルフォーミングをロボットを用いて行う場合、ロボットが把持すべきケーブルの位置や姿勢を正確に把握する必要がある。
なお、従来、柔軟で長尺な部材の形状を記述する3Dデータを得るための技術や、ロボットによるワークの搬送に関する技術が知られている(例えば、特許文献1,2等参照)。
特開2003−242185号公報 特開2008−15683号公報
ケーブルを撮像した画像からケーブルの形状認識を行う場合、ケーブルは不定形であるため、直線や円弧等を用いたマッチング処理を行うことが難しい。このため、従来は、ケーブルの端部からケーブルと背景との境目であるエッジを抽出し、追跡する処理により、ケーブルの形状を認識する方法が採用されている。
しかしながら、ケーブルは、断面円形であることが多いため、エッジ近傍の濃淡変化が緩やかである。したがって、ノイズの影響を受けやすく、画像データにおいてケーブルと背景とを分離することが難しいことから、ケーブルを誤認識する可能性がある。また、誤認識が発生した場合、ロボットを用いたケーブルフォーミングに失敗する可能性が高くなる。
1つの側面では、本発明は、ケーブルを予め定めた状態に遷移させる作業を正確に行うことが可能な電子機器の製造装置、及びケーブル形状を精度よく推定することが可能なケーブル形状推定プログラムを提供することを目的とする。
一つの態様では、電子機器の製造装置は、電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて、前記ケーブルの延伸方向を新たに算出する算出部と、前記設定部と前記算出部による繰り返し処理の結果に基づいて、前記ケーブルの形状データを生成する推定部と、前記形状データに基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、を備えている。
一つの側面として、ケーブルを予め定めた状態に遷移させる作業を正確に行うことができる。
一実施形態に係る電子機器の製造装置の構成を示す概略図である。 図2(a)は、ケーブル認識装置のハードウェア構成を示す図であり、図2(b)は、ケーブル認識装置の機能ブロック図である。 3D画像及び3D点群データを示す図である。 図4(a)〜図4(c)は、ケーブル認識装置の処理について説明するための図(その1)である。 ケーブル認識装置の処理について説明するための図(その2)である。 電子機器の製造装置により実行される一連の処理を示すフローチャートである。 図7(a)〜図7(c)は、電子機器の製造装置の一連の処理の概要を示す図である。 図6のステップS14の具体的な処理を示すフローチャートである。 図8のステップS40、S54の具体的な処理を示すフローチャートである。 図10(a)〜図10(d)は、図8の処理を説明するための図(その1)である。 図11(a)〜図11(c)は、図9の処理を説明するための図である。 図12(a)〜図12(c)は、図8の処理を説明するための図(その2)である。 図13(a)、図13(b)は、図8の処理を説明するための図(その3)である。 ケーブル差分長D(i)を模式的に(平面的に)示す図である。 図15(a)は、3D点群データの一例を示す図であり、図15(b)は、図15(a)の一部を切り出して示す図である。
以下、電子機器の製造装置の一実施形態について、図1〜図15に基づいて詳細に説明する。
本実施形態に係る電子機器の製造装置100は、図1に示すように、把持装置としてのロボット10と、3Dカメラ12と、ケーブル認識装置14と、制御部としてのロボットコントローラ16と、を備えている。
ロボット10は、一例として、ケーブル44の一端及び他端に設けられているコネクタ46A,46Bをプリント基板42に設けられたコネクタに接続するとともに、ケーブルフォーミングを実行するロボットである。ケーブルフォーミングは、ケーブル44を予め定められた状態に遷移させる配線作業を意味する。本実施形態では、ケーブルフォーミングは、図7(c)に示すように、プリント基板42の外周の一部に沿ってケーブル44を這わせる作業であるものとする。なお、ケーブル44は、太さが一定で断面円形の柔軟な紐状部材であり、形状が不定で随時3次元的に変形する。なお、ケーブル44が延びる方向(延伸方向)には連続性がある(曲げには一定の曲率がある)。
3Dカメラ12は、例えば、3D点群カメラや3Dスキャナ等であり、ケーブル44近傍の3D画像を撮影する。3Dカメラ12が撮影した3D画像は、ケーブル認識装置14に送信される。
ケーブル認識装置14は、3Dカメラ12が撮影した3D画像から3D点群データを取得し、3D点群データに基づいてケーブル44の状態を認識し、認識結果をロボットコントローラ16に出力する。この場合、ケーブル認識装置14は、ケーブル44の一端(コネクタ46A近傍)からケーブル44の追跡処理を行い、一端から所定長さの箇所の姿勢や存在位置(XYZ座標)を認識する。
ロボットコントローラ16は、ロボット10を制御して、プリント基板42へのケーブル44の組み付け(接続)作業を実行する。また、ロボットコントローラ16は、ケーブル認識装置14の認識結果に基づいてロボット10を制御し、ケーブル44を予め定めた状態(図7(c)の状態)に遷移させるケーブルフォーミングを実行する。
ここで、ケーブル認識装置14について、詳細に説明する。図2(a)には、ケーブル認識装置14のハードウェア構成が示されている。図2(a)に示すように、ケーブル認識装置14は、CPU(Central Processing Unit)90、ROM(Read Only Memory)92、RAM(Random Access Memory)94、記憶部(ここではHDD(Hard Disk Drive))96、ネットワークインタフェース97、及び可搬型記憶媒体用ドライブ99等を備えている。これらケーブル認識装置14の構成各部は、バス98に接続されている。ケーブル認識装置14では、ROM92あるいはHDD96に格納されているプログラム(ケーブル形状推定プログラムを含む)、或いは可搬型記憶媒体用ドライブ99が可搬型記憶媒体91から読み取ったプログラム(ケーブル形状推定プログラムを含む)をCPU90が実行することにより、図2(b)に示す各部の機能が実現されている。
図2(b)には、ケーブル認識装置14の機能ブロック図が示されている。ケーブル認識装置14は、CPU90がプログラムを実行することにより、図2(b)に示す、取得部としてのケーブル3Dデータ取得部20、特定部としてのケーブル端点延伸方向計測部22、設定部としてのサーチボリューム設定部24、算出部としてのケーブル断面・延伸方向算出部26、更新部としての着目点更新部28、推定部としてのケーブル形状推定部30、及び通信部32、として機能する。
ケーブル3Dデータ取得部20は、3Dカメラ12によって撮影された画像データ(3D画像)を取得する。なお、3D画像は、少なくともケーブル44全体を撮影したものである。また、ケーブル3Dデータ取得部20は、取得した3D画像から、2次元面内の格子点に対応するケーブル44の表面上の点の3次元位置データ(「3D点群データ」と呼ぶ)を取得する。図3には、3D画像の一例が示されている。図3に示す格子点は、3Dカメラ12のピクセルに対応する点である。ケーブル3Dデータ取得部20は、図3に示すように、3Dカメラ12のピクセルに対応する2次元面(XY面)内の格子点ごとにケーブル44表面の高さ位置(Z座標)を取得し、格子点それぞれのXY座標及び取得したZ座標を含む3次元データを3D点群データとする。
図15(a)には、3D点群データの一例(ケーブル44付近を拡大した画像)が示されており、図15(b)には、図15(a)の一部を切り出し、視線を変えてケーブル44の断面を垂直に見た状態が示されている。図15(b)において点線にて示すように、3D点群データにはケーブル44の断面上半分(円弧状部分)のデータが含まれていることが明らかである。
図2(b)に戻り、ケーブル端点延伸方向計測部22は、3D画像データからケーブル44の一端近傍の点を着目点とし、該着目点においてケーブル44が延びる方向(延伸方向)を特定する。なお、「着目点」とは、ケーブル44の形状探索の基準となる点である。ケーブル端点延伸方向計測部22は、予め用意してあるコネクタ46Aの3D CADモデルを用いたモデルマッチングにより、3D画像からコネクタ46Aの位置、姿勢を特定する。そして、ケーブル端点延伸方向計測部22は、コネクタ46Aの位置、姿勢から定まるケーブルの所定位置(例えば、図4(a)に示すようなケーブル44とコネクタ46Aの境目部分のうち最も高い位置)を着目点とする。また、ケーブル端点延伸方向計測部22は、コネクタ46Aの姿勢に基づいて、着目点におけるケーブル44の延伸方向を特定する。ここで、着目点と延伸方向とにより規定される所定長さのベクトルを主軸ベクトル(図4(a)参照)と呼ぶものとする。
サーチボリューム設定部24は、ケーブル44の断面形状を推定するために着目すべき範囲として、サーチボリュームを生成(設定)する。サーチボリュームは、着目点を内部に含み、ケーブル44の延伸方向に所定幅を有する直方体状の空間データである。具体的には、サーチボリュームは、図4(b)において点線で示すような一辺がbの正方形の面を有する所定幅aの空間である。ここで、サーチボリュームの所定幅a(図4(b)参照)は、例えば、カメラの1ピクセルの寸法(図3の格子点間距離)の1.5倍程度であり、正方形の面の一辺の寸法bは、ケーブル44の直径に所定値αを加算した程度の寸法であるものとする。
ケーブル断面・延伸方向算出部26は、サーチボリューム内に存在する3D点群データからケーブル44の断面形状データを生成し、該断面形状データに基づいて、ケーブル44の延伸方向を新たに算出する(図4(c)参照)。また、ケーブル44の特徴点(サーチボリューム内に存在する3D点群データのうち最も高い位置にある点)を特定する。
着目点更新部28は、ケーブル断面・延伸方向算出部26が算出した新たな延伸方向と特徴点とに基づいて、図4(c)に示すような新たな着目点を設定する(着目点を更新する)。
ケーブル形状推定部30は、サーチボリューム設定部24、ケーブル断面・延伸方向算出部26、着目点更新部28が処理を繰り返し実行した結果に基づいて、ケーブル44の形状データを生成(推定)する。すなわち、ケーブル形状推定部30は、図5に示すようにケーブル44の延伸方向に沿って順次設定されるサーチボリュームを用いて順次算出された、ケーブル44の断面形状及び延伸方向の情報を取得する。そして、ケーブル形状推定部30は、取得した情報に基づいて、ケーブル44の端部から所定長さm(図7(a)参照)よりも離れた箇所を特定する。更にケーブル形状推定部30は、特定した箇所が存在する位置(XYZ座標)と当該箇所におけるケーブル44の姿勢、すなわちロボット10がケーブルフォーミングにおいて把持すべきケーブル44の位置及び姿勢を推定する。
通信部32は、ケーブル形状推定部30の推定結果に基づく指示をロボットコントローラ16に送信する。ロボットコントローラ16は、ロボット10を制御してロボット10にケーブル44を把持させ、ケーブル44を把持したロボット10を移動させることで、ケーブル44を予め定めた状態に遷移させる(ケーブルフォーミングを実行する)。
(電子機器の製造装置100の処理)
次に、本実施形態の電子機器の製造装置100が実行する処理について、詳細に説明する。
図6には、電子機器の製造装置100により実行される一連の処理がフローチャートにて示されている。以下、図6に基づいて、電子機器の製造装置100の処理の概要について説明する。
図6の処理では、まず、ステップS10において、ロボットコントローラ16が、予め定められた手順でロボット10を駆動し、ケーブル44の両端のコネクタ46A,46Bをプリント基板42上のコネクタに挿入する。これにより、プリント基板42にケーブル44が接続される。なお、ケーブル44をプリント基板42に接続する作業は、ケーブルフォーミングを実行するロボットとは別のロボットが実行してもよいし、人(作業者)が実行してもよい。図7(a)には、ケーブル44がプリント基板42に接続された状態が示されている。
次いで、ステップS14では、ケーブル認識装置14が、ケーブルの認識処理を実行する。ケーブルの認識処理は、図8のフローチャートに沿って実行されるが、詳細については後述する。
次いで、ステップS16では、ケーブル認識装置14が、ケーブル44の一端から所定長さ(m)の箇所の位置、姿勢の情報(具体的には、図7(a)に示すベクトルV(n)の情報)を取得する。ケーブル認識装置14は、取得したケーブル44の位置、姿勢の情報をロボットコントローラ16に送信する。
次いで、ステップS18では、ロボットコントローラ16が、ケーブル認識装置14から受信した情報に基づいて、ケーブル44の一端から所定長さ(m)の箇所にロボット10のハンドを移動する。次いで、ステップS20では、ロボットコントローラ16は、ロボット10のハンドでケーブル44を把持する。図7(b)には、ロボット10のハンドがケーブル44を把持した状態が示されている。なお、ロボットコントローラ16は、ケーブル44を把持する際に、ロボット10のハンドがベクトルV(n)に略直交する方向に開くようにロボット10の姿勢を制御する。
次いで、ステップS22では、ロボットコントローラ16は、ロボット10を図7(c)に示す位置まで駆動し、ケーブル44をプリント基板42の角部に引っ掛ける。
次いで、ステップS24では、ロボットコントローラ16はロボット10を制御して、ケーブル44の把持を解除し、ロボット10をプリント基板42上から退避させる。
以上により、電子機器の製造装置100による一連の処理が終了する。
(ステップS14の処理について)
次に、ステップS14の処理(ケーブルの認識処理)について、図8、図9のフローチャートに沿って、その他図面を適宜参照しつつ詳細に説明する。
図8の処理では、まず、ステップS30において、ケーブル端点延伸方向計測部22が、3Dカメラ12から3D画像を取得し、一端のコネクタ46Aの3D姿勢を計測する。この場合、予め用意してあるコネクタ46Aの3D CADモデルを用いたモデルマッチングにより、コネクタ46Aの位置、姿勢を特定する。
次いで、ステップS32では、ケーブル端点延伸方向計測部22が、ケーブル端の主軸ベクトルを取得する。具体的には、ケーブル端点延伸方向計測部22は、図4(a)に示すようなケーブル44とコネクタ46Aの境目部分のうち最も高い位置を着目点とし、コネクタ46Aの姿勢と、部品の設計情報からケーブル44の延伸方向を特定し、着目点と延伸方向とにより規定されるベクトルをケーブル端の主軸ベクトルとする。なお、ケーブル端点延伸方向計測部22は、例えば、コネクタ46Aの特定の辺が延びる方向をケーブル44の延伸方向として特定することができる。
次いで、ステップS34では、ケーブル3Dデータ取得部20が、3Dカメラ12から3D点群データを取得する。
次いで、ステップS36では、サーチボリューム設定部24が、ケーブル端の主軸ベクトルを用いてサーチボリュームを設定する。サーチボリューム設定部24は、図10(a)に示すように、ケーブル端(着目点)を含み、主軸ベクトルの方向に所定幅aを有する直方体状のサーチボリュームを設定する。なお、図10(a)において、白丸は3D点群データを示している。
次いで、ステップS38では、ケーブル断面・延伸方向算出部26が、カウンタiを0に設定する。
次いで、ステップS40では、ケーブル断面・延伸方向算出部26が、断面探索処理を実行する。ステップS40においては、図9のフローチャートに沿った処理が実行される。
図9の処理において、ケーブル断面・延伸方向算出部26は、まずステップS70において、3D点群データからサーチボリューム内の点を抽出する。図10(a)の例では、図10(b)に示すように、サーチボリューム内に含まれる黒丸で示す3D点群データが抽出されたものとする。
次いで、ステップS72では、ケーブル断面・延伸方向算出部26が、図10(c)において一点鎖線で示すように、抽出した点を用いて楕円フィッティングし、ケーブルの断面形状データ(楕円形状データ)を得る。図11(a)には、ケーブル44の3D画像の例が示されている。例えば、ステップS70において抽出された点が、黒丸で示されているとする。この場合、抽出された点を含む断面(A−A線断面であり、YZ断面)は、ケーブル44の垂直断面(B−B線断面)からずれているため、図11(b)に示すように、楕円形となる。一方、垂直断面は、図11(c)に示すように、真円となる。
次いで、ステップS74では、ケーブル断面・延伸方向算出部26が、抽出した点のうち最も高い位置にある点を特徴点P(i)(ここではP(0))として抽出する。図10(d)においては、特徴点P(0)が黒丸にて示されている。
次いで、ステップS76では、ケーブル断面・延伸方向算出部26が、取得した楕円形状データの歪からケーブル44の垂直断面を計算する。次いで、ステップS78では、ケーブル断面・延伸方向算出部26が、ケーブル44の垂直断面の法線ベクトルを主軸ベクトルV(i)(ここではV(0))とする。これらステップS76、S78では、ケーブル断面・延伸方向算出部26は、ステップS72で取得した楕円形状データの長軸、短軸の比及び長軸、短軸の方向から楕円面の法線ベクトルと、垂直断面(真円面)との差(図11(a)の角度θ)を算出する。そして、ケーブル断面・延伸方向算出部26は、格子方向(図11(a)ではX方向)に延びるベクトルを差(θ)の分だけずらしたベクトルを主軸ベクトルV(i)とする。ステップS78の後は、図8のステップS46に移行する。
図8のステップS46に移行すると、着目点更新部28が、iを1インクリメントする(i=i+1)。
次いで、ステップS48では、着目点更新部28が、主軸ベクトルV(i−1)(ここでは、V(0))を中心とする小型サーチボリュームを設定する。小型サーチボリュームは、図12(a)に示すように、特徴点P(0)から延びる主軸ベクトルV(0)を中心軸とする断面正方形(又は長方形)の直方体状の空間であるものとする。なお、小型サーチボリュームは、例えば円柱状の空間データであってもよい。
次いで、ステップS50では、着目点更新部28が、小型サーチボリュームに含まれる点(新たな着目点)を探索する。ここでは、図12(b)において黒丸で示す点が新たな着目点として探索されたものとする。なお、小型サーチボリュームの大きさとしては、複数の点が含まれないような大きさとすることが好ましい。ただし、これに限らず、小型サーチボリュームに複数の点が含まれる場合には、例えば、複数の点のうち特徴点P(i)に最も近い点を探索し、新たな着目点とすればよい。
次いで、ステップS52では、サーチボリューム設定部24が、探索された着目点を含み、主軸ベクトルV(i−1)(ここでは、V(0))の方向に所定幅を有するサーチボリュームを設定する。図12(b)には、新たに設定されたサーチボリュームが示されている。
次いで、ステップS54では、ケーブル断面・延伸方向算出部26が、断面探索処理(図9)を実行する。なお、断面探索処理については、前述したのと同様の手順で実行される。したがって、断面探索処理により、図12(c)において黒丸で示すようにサーチボリューム内の点が抽出され、特徴点P(i)と、主軸ベクトルV(i)が取得される。なお、ステップS50において探索された着目点(図12(b)の黒丸の点)と特徴点P(i)とは、同一の場合もあれば、異なる場合もある。図13(a)には、楕円形状データに基づいて、黒丸で示す特徴点P(i)(=P(1))が取得された状態が示されており、図13(b)には、楕円形状データに基づいて、主軸ベクトルV(i)(=V(1))が取得された状態が示されている。
次いで、ステップS56では、ケーブル形状推定部30が、1つ前の特徴点P(i−1)と今回の特徴点P(i)のケーブル差分長D(i)を算出する。この場合、特徴点P(i−1)のXYZ座標を(x(i-1),y(i-1),z(i-1))、特徴点P(i)のXYZ座標を(x(i),y(i),z(i))とすると、次式(1)を用いて、D(i)を算出することができる。
D(i)={(x(i-1)−x(i))2+(y(i-1)−y(i))2+(z(i-1)−z(i))2}1/2 …(1)
なお、図14には、ケーブル差分長D(i)が模式的に(平面的に)示されている。
次いで、ステップS58では、ケーブル形状推定部30が、ケーブル端(特徴点P(0))からi番目の特徴点(P(i))までのケーブル差分長の総和を求め、L(i)とする。すなわち、ケーブル形状推定部30は、D(1)、D(2)、…、D(i)の和を求め、L(i)とする。
次いで、ステップS60では、ケーブル形状推定部30が、長さL(i)の値が長さmの値より大きいか否かを判断する。ここで、長さmとは、図7(a)に示すように、プリント基板42の一辺(図7(a)では短辺)の長さであるものとする。すなわち、ステップS60では、図7(c)に示すように、ケーブルフォーミングの際にプリント基板42の角部に位置する箇所までケーブル44の形状を追跡できたか否かを判断しているといえる。ステップS60の判断が否定された場合には、ケーブル形状推定部30は、ステップS46に戻り、ステップS46〜S60の処理・判断を繰り返し実行する。一方、ステップS60の判断が肯定された場合、すなわち、ケーブル44の一端から長さmよりも離れた箇所までケーブル44を追跡できた場合には、ステップS62に移行する。なお、ここでは、ステップS62に移行した段階のiの値がi=nであったものとして以下説明する。
ステップS62に移行すると、通信部32は、ケーブル形状推定部30の指示の下、主軸ベクトルV(i)(ここではV(n))をロボットコントローラ16に送信する。なお、主軸ベクトルV(n)のデータには、特徴点P(n)の座標値も含まれている。
以上により、ステップS14のケーブルの認識処理が終了する。
なお、主軸ベクトルV(n)を取得したロボットコントローラ16は、図6のステップS16以降の処理を実行する。これにより、ロボット10は、正確に推定されたケーブルの位置、姿勢に基づいて、ケーブル44を図7(c)の状態に遷移させる処理(ケーブルフォーミング)を正確に行うことができる。
以上、詳細に説明したように、本実施形態によると、ケーブル3Dデータ取得部20が、ケーブル44を撮影した3D画像から、ケーブル44の表面上の点の3D点群データを取得し、ケーブル端点延伸方向計測部22が、3D画像からケーブル44の一端近傍の着目点と該着目点におけるケーブル44の延伸方向とを特定する。また、サーチボリューム設定部24による、サーチボリュームを設定(生成)する処理と、ケーブル断面・延伸方向算出部26による、サーチボリューム内に存在する3D点群データから推定した断面形状データに基づいて、ケーブル44の延伸方向を新たに算出する処理と、着目点更新部28による、新たに算出した延伸方向に基づいて着目点を更新する処理とを繰り返した結果に基づいてケーブル形状推定部30がケーブル44の形状データを生成(形状を推定)する。そして、通信部32は、生成(推定)結果をロボットコントローラ16に送信する。ロボットコントローラ16は、推定結果に基づいてロボット10にケーブル44を把持させ、ロボット10の移動により、ケーブルフォーミング作業を行う。これにより、本実施形態では、3D点群データを用いた楕円フィッティングを行うことで、ケーブル44のエッジ部分を用いずにケーブル44の形状を一端近傍から延伸方向に沿って追跡することができる。したがって、ノイズ等の影響を受けずに、精度よくケーブル44の形状を特定することが可能となる。また、精度よく特定された形状を用いることで、ケーブルフォーミングを正確に行うことができる。
また、本実施形態では、ケーブル44の一端にコネクタ46Aが設けられ、ケーブル端点延伸方向計測部22は、3D画像から特定されるコネクタ46Aの位置及び姿勢に基づいて、ケーブルの一端近傍の着目点と延伸方向とを特定する。このように、定型の物体であるコネクタ46Aの位置及び姿勢を用いることで、不定形のケーブル44の一端近傍の着目点と延伸方向とを精度よく特定することができる。
また、本実施形態では、ケーブル形状推定部30は、ケーブル44の一端から所定長さ(m)を超える箇所の姿勢及や位置を推定する。これにより、ケーブルフォーミングに必要な情報を推定することができる。
また、本実施形態では、ケーブル形状推定部30は、特徴点間の距離(ケーブル差分長)の合計L(i)に基づいて、姿勢や位置を推定する箇所を特定する。これにより、ケーブル44の形状を一端から追跡しつつ、姿勢や位置を推定する箇所を特定することができる。
また、本実施形態では、着目点更新部28は、着目点を更新する際に、図12(a)に示すような小型サーチボリュームを用いる。これにより、主軸ベクトルが通る点や主軸ベクトルとの距離が最短である点などを新たな着目点とするような場合と比べ、簡易な処理で新たな着目点を設定することができる。
なお、上記実施形態では、3Dカメラ12を用いる場合について説明したが、これに限らず、2次元画像を撮影可能なカメラを用いることとしてもよい。この場合、2次元画像の色の濃淡や輝度等に基づいて、格子点に対応するケーブル表面の点の高さ位置を検出することで、3D点群データを生成することとしてもよい。
なお、上記実施形態では、ケーブル44の両端にコネクタ46A,46Bが設けられている場合について説明したが、これに限られるものではない。すなわち、ケーブル44の両端は、プリント基板42等にはんだ付け等されてもよい。この場合、ケーブル44の端部がプリント基板42の面に対してほぼ垂直に接続される場合には、図8のステップS32において、ケーブル端点延伸方向計測部22は、ケーブル端の特徴点の延伸方向をプリント基板42の法線方向に設定してもよい。
なお、上記実施形態では、ケーブルの特徴点が、サーチボリューム内に存在する3D点群データのうち最も高い位置にある点である場合について説明したが、これに限られるものではない。例えば、ケーブルの特徴点は、サーチボリューム内に存在する3D点群データの中央値や平均値であってもよい。
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、処理装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体(ただし、搬送波は除く)に記録しておくことができる。
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD−ROM(Compact Disc Read Only Memory)などの可搬型記録媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。
なお、以上の実施形態の説明に関して、更に以下の付記を開示する。
(付記1) 電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて、前記ケーブルの延伸方向を新たに算出する算出部と、
前記設定部と前記算出部による繰り返し処理の結果に基づいて、前記ケーブルの形状データを生成する推定部と、
前記形状データに基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
を備える電子機器の製造装置。
(付記2) 前記画像データから前記ケーブルの一端近傍の着目点と該着目点における前記ケーブルの延伸方向とを特定する特定部を更に備え、
前記設定部は、前記空間データを最初に生成する際に、前記特定部が特定した着目点を含み、前記特定部が特定した延伸方向に所定幅を有する空間データを生成する、ことを特徴とする付記1に記載の電子機器の製造装置。
(付記3) 前記算出部が算出した前記ケーブルの延伸方向に基づいて、前記着目点を更新する更新部を更に備え、
前記設定部は、2回目以降に前記空間データを生成する際に、前記更新部が直前に更新した着目点を含み、前記算出部が直前に算出した延伸方向に所定幅を有する空間データを生成する、ことを特徴とする付記2に記載の電子機器の製造装置。
(付記4) 前記ケーブルの一端には、コネクタが設けられ、
前記特定部は、前記画像データから特定される前記コネクタの位置及び姿勢に基づいて、前記ケーブルの一端近傍の着目点と前記延伸方向とを特定する、ことを特徴とする付記2又は3に記載の電子機器の製造装置。
(付記5) 前記推定部は、
前記ケーブルの一端から所定長さの箇所の姿勢及び該箇所の存在する位置を推定することを特徴とする付記1〜4のいずれかに記載の電子機器の製造装置。
(付記6) 前記ケーブルは断面円形であり、
前記算出部は、前記空間データ内に存在する前記3次元位置データが取得された点を含む前記ケーブルの断面の楕円形状データを生成し、該楕円形状データに基づいて、前記延伸方向を算出する、ことを特徴とする付記1〜5のいずれかに記載の電子機器の製造装置。
(付記7)ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて、前記ケーブルの延伸方向を新たに算出し、
前記空間データを生成する処理と前記算出する処理を繰り返した結果に基づいて、前記ケーブルの形状データを生成する、
処理をコンピュータに実行させることを特徴とするケーブル形状推定プログラム。
(付記8) 前記画像データから前記ケーブルの一端近傍の着目点と該着目点における前記ケーブルの延伸方向とを特定する処理を前記コンピュータに更に実行させ、
前記空間データを生成する処理において前記空間データを最初に生成する際に、前記特定する処理で特定された着目点を含み、特定された延伸方向に所定幅を有する空間データを生成する、ことを特徴とする付記7に記載のケーブル形状推定プログラム。
(付記9) 前記算出する処理において算出した前記ケーブルの延伸方向に基づいて、前記着目点を更新する処理を前記コンピュータに更に実行させ、
前記空間データを生成する処理において2回目以降に前記空間データを生成する際に、前記更新する処理で直前に更新された着目点を含み、前記算出する処理で直前に算出された延伸方向に所定幅を有する空間データを生成する、ことを特徴とする付記8に記載のケーブル形状推定プログラム。
(付記10) 前記ケーブルの一端には、コネクタが設けられ、
前記特定する処理において、前記画像データから特定される前記コネクタの位置及び姿勢に基づいて、前記ケーブルの一端近傍の着目点と前記延伸方向とを特定する、ことを特徴とする付記8又は9に記載のケーブル形状推定プログラム。
(付記11) 前記形状データを生成する処理において、前記ケーブルの一端から所定長さの箇所の姿勢及び該箇所の存在する位置を推定することを特徴とする付記7〜10のいずれかに記載のケーブル形状推定プログラム。
(付記12) 前記ケーブルは断面円形であり、
前記算出する処理において、前記空間データ内に存在する前記3次元位置データが取得された点を含む前記ケーブルの断面の楕円形状データを生成し、該楕円形状データに基づいて、前記延伸方向を算出する、ことを特徴とする付記7〜11のいずれかに記載のケーブル形状推定プログラム。
10 ロボット(把持装置)
16 ロボットコントローラ(制御部)
20 ケーブル3Dデータ取得部(取得部)
22 ケーブル端点延伸方向計測部(特定部)
24 サーチボリューム設定部(設定部)
26 ケーブル断面・延伸方向算出部(算出部)
28 着目点更新部(更新部)
30 ケーブル形状推定部(推定部)
44 ケーブル
46A コネクタ
100 電子機器の製造装置

Claims (7)

  1. 電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
    前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
    前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて、前記ケーブルの延伸方向を新たに算出する算出部と、
    前記設定部と前記算出部による繰り返し処理の結果に基づいて、前記ケーブルの形状データを生成する推定部と、
    前記形状データに基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
    を備える電子機器の製造装置。
  2. 前記画像データから前記ケーブルの一端近傍の着目点と該着目点における前記ケーブルの延伸方向とを特定する特定部を更に備え、
    前記設定部は、前記空間データを最初に生成する際に、前記特定部が特定した着目点を含み、前記特定部が特定した延伸方向に所定幅を有する空間データを生成する、ことを特徴とする請求項1に記載の電子機器の製造装置。
  3. 前記算出部が算出した前記ケーブルの延伸方向に基づいて、前記着目点を更新する更新部を更に備え、
    前記設定部は、2回目以降に前記空間データを生成する際に、前記更新部が直前に更新した着目点を含み、前記算出部が直前に算出した延伸方向に所定幅を有する空間データを生成する、ことを特徴とする請求項2に記載の電子機器の製造装置。
  4. 前記ケーブルの一端には、コネクタが設けられ、
    前記特定部は、前記画像データから特定される前記コネクタの位置及び姿勢に基づいて、前記ケーブルの一端近傍の着目点と前記延伸方向とを特定する、ことを特徴とする請求項2又は3に記載の電子機器の製造装置。
  5. 前記推定部は、
    前記ケーブルの一端から所定長さの箇所の姿勢及び該箇所の存在する位置を推定することを特徴とする請求項1〜4のいずれか一項に記載の電子機器の製造装置。
  6. 前記ケーブルは断面円形であり、
    前記算出部は、前記空間データ内に存在する前記3次元位置データが取得された点を含む前記ケーブルの断面の楕円形状データを生成し、該楕円形状データに基づいて、前記延伸方向を算出する、ことを特徴とする請求項1〜5のいずれか一項に記載の電子機器の製造装置。
  7. ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
    前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
    前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて、前記ケーブルの延伸方向を新たに算出し、
    前記空間データを生成する処理と前記算出する処理を繰り返した結果に基づいて、前記ケーブルの形状データを生成する、
    処理をコンピュータに実行させることを特徴とするケーブル形状推定プログラム。
JP2016132052A 2016-07-01 2016-07-01 電子機器の製造装置、及びケーブル形状推定プログラム Expired - Fee Related JP6729092B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016132052A JP6729092B2 (ja) 2016-07-01 2016-07-01 電子機器の製造装置、及びケーブル形状推定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016132052A JP6729092B2 (ja) 2016-07-01 2016-07-01 電子機器の製造装置、及びケーブル形状推定プログラム

Publications (2)

Publication Number Publication Date
JP2018005579A true JP2018005579A (ja) 2018-01-11
JP6729092B2 JP6729092B2 (ja) 2020-07-22

Family

ID=60946418

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016132052A Expired - Fee Related JP6729092B2 (ja) 2016-07-01 2016-07-01 電子機器の製造装置、及びケーブル形状推定プログラム

Country Status (1)

Country Link
JP (1) JP6729092B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021028809A (ja) * 2019-08-09 2021-02-25 東日本旅客鉄道株式会社 点群処理装置、点群処理方法及び点群処理プログラム
JPWO2021038647A1 (ja) * 2019-08-23 2021-03-04

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021028809A (ja) * 2019-08-09 2021-02-25 東日本旅客鉄道株式会社 点群処理装置、点群処理方法及び点群処理プログラム
JP7346151B2 (ja) 2019-08-09 2023-09-19 東日本旅客鉄道株式会社 点群処理装置、点群処理方法及び点群処理プログラム
JPWO2021038647A1 (ja) * 2019-08-23 2021-03-04
WO2021038647A1 (ja) * 2019-08-23 2021-03-04 日本電信電話株式会社 地上高測定方法、地上高測定装置、及びプログラム

Also Published As

Publication number Publication date
JP6729092B2 (ja) 2020-07-22

Similar Documents

Publication Publication Date Title
JP5297403B2 (ja) 位置姿勢計測装置、位置姿勢計測方法、プログラムおよび記憶媒体
JP6622503B2 (ja) カメラモデルパラメータ推定装置及びそのプログラム
JP6503906B2 (ja) 画像処理装置、画像処理方法および画像処理プログラム
CN112161619B (zh) 位姿检测方法、三维扫描路径规划方法和检测系统
JP2011129082A (ja) 3次元物体認識装置及び3次元物体認識方法
US20150134303A1 (en) Three-dimensional scanning system and method with hole-filling function for point cloud using contact probe
JP2004213332A (ja) キャリブレーション装置、キャリブレーション方法、キャリブレーション用プログラム、及び、キャリブレーション治具
JP4234059B2 (ja) カメラキャリブレーション方法およびカメラキャリブレーション装置
JP2012002683A (ja) ステレオ画像処理方法およびステレオ画像処理装置
JP2019190974A (ja) キャリブレーション装置、キャリブレーション方法、及びプログラム
JP6677113B2 (ja) 電子機器の製造装置、及びケーブル形状推定プログラム
JP2008217544A (ja) 物体検出方法、物体検出装置、及びそれを備えたロボット
JP2018005579A (ja) 電子機器の製造装置、及びケーブル形状推定プログラム
JP2006350465A (ja) 画像マッチング装置、画像マッチング方法および画像マッチング用プログラム
US11145048B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable storage medium for storing program
JP2003089086A (ja) ロボット制御装置
WO2020166424A1 (ja) 位置座標導出装置、位置座標導出方法、位置座標導出プログラム及びシステム
CN116160458B (zh) 一种移动机器人多传感器融合快速定位方法、设备及系统
JP2010145219A (ja) 運動推定装置及びプログラム
JP6253847B1 (ja) レーザ加工装置、レーザ加工方法、及びレーザ加工プログラム
KR20080001794A (ko) 강건한 대응점을 이용한 기본행렬 추정 장치 및 그 방법
JP2017182113A (ja) ワーク判定装置及び方法
CN113884025B (zh) 增材制造结构光回环检测方法、装置、电子设备和存储介质
JP2011022066A (ja) 3次元物体位置姿勢計測方法
KR102196286B1 (ko) 3차원 형상 계측 시스템 및 계측 시간 설정 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200318

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200331

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200430

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200615

R150 Certificate of patent or registration of utility model

Ref document number: 6729092

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees