JP6677113B2 - Electronic device manufacturing apparatus and cable shape estimation program - Google Patents

Electronic device manufacturing apparatus and cable shape estimation program Download PDF

Info

Publication number
JP6677113B2
JP6677113B2 JP2016141642A JP2016141642A JP6677113B2 JP 6677113 B2 JP6677113 B2 JP 6677113B2 JP 2016141642 A JP2016141642 A JP 2016141642A JP 2016141642 A JP2016141642 A JP 2016141642A JP 6677113 B2 JP6677113 B2 JP 6677113B2
Authority
JP
Japan
Prior art keywords
cable
data
point
feature point
cross
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016141642A
Other languages
Japanese (ja)
Other versions
JP2018014362A (en
Inventor
満 久保
満 久保
照秋 西岡
照秋 西岡
尾崎 行雄
行雄 尾崎
卓 武藤
卓 武藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2016141642A priority Critical patent/JP6677113B2/en
Publication of JP2018014362A publication Critical patent/JP2018014362A/en
Application granted granted Critical
Publication of JP6677113B2 publication Critical patent/JP6677113B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、電子機器の製造装置、及びケーブル形状推定プログラムに関する。   The present invention relates to an electronic device manufacturing apparatus and a cable shape estimation program.

情報処理装置などの電子機器は、ハードディスク装置、メモリ、CPU、電源装置等の多数の部品と、部品を収容する筐体とを有し、筐体内には配線用のケーブルが設けられている。   2. Description of the Related Art An electronic device such as an information processing device includes a large number of components such as a hard disk device, a memory, a CPU, and a power supply device, and a housing for housing the components, and a wiring cable is provided in the housing.

電子機器を製造する際には、ケーブルを所定位置(例えば筐体の壁部近傍)に這わせるなどして、ケーブルが邪魔にならないようにする必要がある。この作業は、ケーブルフォーミングと呼ばれている。ケーブルフォーミングをロボットを用いて行う場合、ロボットが把持すべきケーブルの位置や姿勢を正確に把握する必要がある。   When manufacturing an electronic device, it is necessary to lay the cable at a predetermined position (for example, near the wall of the housing) so that the cable does not get in the way. This operation is called cable forming. When performing cable forming using a robot, it is necessary to accurately grasp the position and posture of the cable to be gripped by the robot.

なお、従来、柔軟で長尺な部材の形状を記述する3Dデータを得るための技術や、ロボットによるワークの搬送に関する技術が知られている(例えば、特許文献1,2等参照)。また、三次元形状の測定に関する技術も知られている(例えば、特許文献3〜5等参照)。   Conventionally, a technique for obtaining 3D data describing the shape of a flexible and long member and a technique for transporting a workpiece by a robot are known (for example, see Patent Documents 1 and 2). Further, a technique related to measurement of a three-dimensional shape is also known (for example, see Patent Documents 3 to 5).

特開2003−242185号公報JP 2003-242185 A 特開2008−15683号公報JP 2008-15683 A 国際公開第2010/071139号International Publication No. 2010/071139 特開2005−258643号公報JP 2005258643 A 特開2007−80132号公報JP 2007-80132 A

ケーブルを撮像した画像からケーブルの形状認識を行う場合、ケーブルは不定形であるため、直線や円弧等を用いたマッチング処理を行うことが難しい。このため、従来は、ケーブルの端部からケーブルと背景との境目であるエッジを抽出し、追跡する処理により、ケーブルの形状を認識する方法が採用されている。   When recognizing the shape of a cable from an image of the cable, since the cable is indefinite, it is difficult to perform a matching process using a straight line, an arc, or the like. For this reason, conventionally, a method of recognizing the shape of a cable by extracting and tracking an edge which is a boundary between the cable and the background from the end of the cable has been adopted.

しかしながら、形状認識対象のケーブルの上に別のケーブルが交差している場合や、形状認識対象のケーブルが輪を形成し、一部が交差した状態になっている場合には、交差部分でケーブルを正確に追跡できず、ケーブルの形状を誤認識するおそれがある。また、誤認識が発生した場合、ロボットを用いたケーブルフォーミングに失敗する可能性が高くなる。   However, if another cable intersects the shape-recognition cable or if the shape-recognition cable forms a loop and partially crosses over, the cable Cannot be accurately tracked, and the shape of the cable may be erroneously recognized. Further, when erroneous recognition occurs, there is a high possibility that cable forming using a robot will fail.

1つの側面では、本発明は、ケーブルを予め定めた状態に遷移させる作業を正確に行うことが可能な電子機器の製造装置、及びケーブル形状を精度よく推定することが可能なケーブル形状推定プログラムを提供することを目的とする。   In one aspect, the present invention provides an electronic device manufacturing apparatus capable of accurately performing an operation of transitioning a cable to a predetermined state, and a cable shape estimation program capable of accurately estimating a cable shape. The purpose is to provide.

一つの態様では、電子機器の製造装置は、電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する処理部と、前記処理部の生成結果に基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、を備え、前記処理部は、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、該特徴点と前記延伸方向に基づいて前記空間データを移動せず、前記空間データの前回の移動に使用した延伸方向に沿って、前記空間データ所定距離移動する、電子機器の製造装置である。 In one embodiment, the manufacturing apparatus of the electronic device, in a state where the cable is connected to a part of the electronic device, from the image data obtained by shooting the cable, from the image data of the cable corresponding to a lattice point in a two-dimensional plane An acquisition unit that acquires three-dimensional position data of a point on a surface; a setting unit that generates spatial data having a predetermined width in a direction in which the cable extends in the vicinity of one end of the cable; and an acquiring unit that exists in the spatial data. The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data is obtained, the extending direction of the cable is specified based on the cross-sectional shape data, and a characteristic point satisfying a predetermined condition among the cross-sectional shape data is specified. The spatial data is moved based on the specified feature points and the extending direction, and the process is repeatedly executed. And a control unit that causes a gripping device to grip the cable based on a generation result of the processing unit, and moves the gripping device to move the cable. If the bend radius of the cable which is calculated based on the feature point of the cross-sectional shape data is less than the predetermined threshold, without moving the spatial data based on the drawing direction and the feature point, the spatial data The electronic device manufacturing apparatus moves the spatial data by a predetermined distance along the stretching direction used for the previous movement .

一つの側面として、ケーブルを予め定めた状態に遷移させる作業を正確に行うことができる。   As one aspect, the operation of transitioning the cable to a predetermined state can be performed accurately.

一実施形態に係る電子機器の製造装置の構成を示す概略図である。It is a schematic diagram showing the composition of the manufacturing device of the electronic equipment concerning one embodiment. 図2(a)は、ケーブル認識装置のハードウェア構成を示す図であり、図2(b)は、ケーブル認識装置の機能ブロック図である。FIG. 2A is a diagram illustrating a hardware configuration of the cable recognition device, and FIG. 2B is a functional block diagram of the cable recognition device. 3D画像及び3D点群データを示す図である。It is a figure showing a 3D image and 3D point group data. 図4(a)〜図4(c)は、ケーブル認識装置の処理について説明するための図(その1)である。FIGS. 4A to 4C are diagrams (part 1) for describing processing of the cable recognition device. ケーブル認識装置の処理について説明するための図(その2)である。It is FIG. (2) for demonstrating the process of a cable recognition apparatus. 電子機器の製造装置により実行される一連の処理を示すフローチャートである。9 is a flowchart illustrating a series of processes performed by the manufacturing apparatus of the electronic device. 図7(a)〜図7(c)は、電子機器の製造装置の一連の処理の概要を示す図である。FIGS. 7A to 7C are diagrams illustrating an outline of a series of processes performed by the electronic device manufacturing apparatus. 図6のステップS14の具体的な処理を示すフローチャートである。7 is a flowchart showing a specific process of step S14 in FIG. 図8のステップS40、S54の具体的な処理を示すフローチャートである。9 is a flowchart showing specific processing of steps S40 and S54 in FIG. 図10(a)〜図10(d)は、図8の処理を説明するための図(その1)である。FIGS. 10A to 10D are diagrams for explaining the process of FIG. 8 (part 1). 図11(a)〜図11(c)は、図9の処理を説明するための図である。FIGS. 11A to 11C are diagrams for explaining the processing in FIG. 9. 図12(a)〜図12(c)は、図8の処理を説明するための図(その2)である。FIGS. 12A to 12C are diagrams (part 2) for explaining the processing in FIG. 図13(a)、図13(b)は、図8の処理を説明するための図(その3)である。FIGS. 13A and 13B are diagrams (part 3) for explaining the processing in FIG. ケーブル差分長D(i)を模式的に(平面的に)示す図である。It is a figure which shows cable difference length D (i) typically (in plane). 図15(a)は、3D点群データの一例を示す図であり、図15(b)は、図15(a)の一部を切り出して示す図である。FIG. 15A is a diagram illustrating an example of 3D point group data, and FIG. 15B is a diagram illustrating a part of FIG. 15A cut out. 図8のステップS56の具体的処理を示すフローチャートである。9 is a flowchart showing a specific process of step S56 in FIG. 曲げ半径rについて説明するための図である。It is a figure for explaining bending radius r. 図18(a)は、ケーブルの交差状態を示す図であり、図18(b)は、ケーブルが交差している場合の正しい追跡方向と誤った追跡方向を示す図である。FIG. 18A is a diagram illustrating a crossing state of the cables, and FIG. 18B is a diagram illustrating a correct tracking direction and an incorrect tracking direction when the cables cross. 図16の処理について具体的に説明するための図(その1)である。FIG. 17 is a diagram (part 1) for specifically explaining the processing in FIG. 16; 図20(a)〜図20(d)は、図16の処理について具体的に説明するための図(その2)である。FIGS. 20A to 20D are diagrams (part 2) for specifically explaining the processing of FIG. 16. 所定距離について説明するための図である。It is a figure for explaining a predetermined distance. 所定距離の別例について説明するための図である。It is a figure for explaining another example of a predetermined distance. 図16の処理の変形例について具体的に説明するための図(その1)である。FIG. 17 is a diagram (part 1) for specifically describing a modification of the process in FIG. 16; 図24(a)〜図24(e)は、図16の処理の変形例について具体的に説明するための図(その2)である。FIGS. 24A to 24E are diagrams (part 2) for specifically describing a modification of the process in FIG.

以下、電子機器の製造装置の一実施形態について、図1〜図22に基づいて詳細に説明する。   Hereinafter, an embodiment of an electronic device manufacturing apparatus will be described in detail with reference to FIGS.

本実施形態に係る電子機器の製造装置100は、図1に示すように、把持装置としてのロボット10と、3Dカメラ12と、ケーブル認識装置14と、制御部としてのロボットコントローラ16と、を備えている。   As shown in FIG. 1, the electronic device manufacturing apparatus 100 according to the present embodiment includes a robot 10 as a gripping device, a 3D camera 12, a cable recognition device 14, and a robot controller 16 as a control unit. ing.

ロボット10は、一例として、ケーブル44の一端及び他端に設けられているコネクタ46A,46Bをプリント基板42に設けられたコネクタに接続するとともに、ケーブルフォーミングを実行するロボットである。ケーブルフォーミングは、ケーブル44を予め定められた状態に遷移させる配線作業を意味する。本実施形態では、ケーブルフォーミングは、図7(c)に示すように、プリント基板42の外周の一部に沿ってケーブル44を這わせる作業であるものとする。なお、ケーブル44は、太さが一定で断面円形の柔軟な紐状部材であり、形状が不定で随時3次元的に変形する。なお、ケーブル44が延びる方向(延伸方向)には連続性がある(曲げには一定の曲率がある)。   As an example, the robot 10 is a robot that connects the connectors 46A and 46B provided at one end and the other end of the cable 44 to the connector provided on the printed circuit board 42, and executes cable forming. Cable forming refers to a wiring operation for transitioning the cable 44 to a predetermined state. In the present embodiment, as shown in FIG. 7C, the cable forming is an operation of laying the cable 44 along a part of the outer periphery of the printed circuit board 42. The cable 44 is a flexible string-like member having a constant thickness and a circular cross section, and has an irregular shape and is deformed three-dimensionally as needed. The direction in which the cable 44 extends (stretching direction) has continuity (bending has a certain curvature).

3Dカメラ12は、例えば、3D点群カメラや3Dスキャナ等であり、ケーブル44近傍の3D画像を撮影する。3Dカメラ12が撮影した3D画像は、ケーブル認識装置14に送信される。   The 3D camera 12 is, for example, a 3D point cloud camera or a 3D scanner, and captures a 3D image near the cable 44. The 3D image captured by the 3D camera 12 is transmitted to the cable recognition device 14.

ケーブル認識装置14は、3Dカメラ12が撮影した3D画像から3D点群データを取得し、3D点群データに基づいてケーブルフォーミング対象のケーブル44の状態を認識し、認識結果をロボットコントローラ16に出力する。この場合、ケーブル認識装置14は、ケーブル44の一端(コネクタ46A近傍)からケーブル44の追跡処理を行い、一端から所定長さの箇所の姿勢や存在位置(XYZ座標)を認識する。   The cable recognition device 14 acquires 3D point cloud data from the 3D image captured by the 3D camera 12, recognizes the state of the cable 44 to be subjected to cable forming based on the 3D point cloud data, and outputs a recognition result to the robot controller 16. I do. In this case, the cable recognizing device 14 performs the tracking process of the cable 44 from one end of the cable 44 (near the connector 46A), and recognizes the posture and the existing position (XYZ coordinates) of a predetermined length from one end.

ロボットコントローラ16は、ロボット10を制御して、プリント基板42へのケーブル44の組み付け(接続)作業を実行する。また、ロボットコントローラ16は、ケーブル認識装置14の認識結果に基づいてロボット10を制御し、ケーブル44を予め定めた状態(図7(c)の状態)に遷移させるケーブルフォーミングを実行する。   The robot controller 16 controls the robot 10 to perform an operation of attaching (connecting) the cable 44 to the printed circuit board 42. Further, the robot controller 16 controls the robot 10 based on the recognition result of the cable recognition device 14 and executes cable forming for transitioning the cable 44 to a predetermined state (the state of FIG. 7C).

ここで、ケーブル認識装置14について、詳細に説明する。図2(a)には、ケーブル認識装置14のハードウェア構成が示されている。図2(a)に示すように、ケーブル認識装置14は、CPU(Central Processing Unit)90、ROM(Read Only Memory)92、RAM(Random Access Memory)94、記憶部(ここではHDD(Hard Disk Drive))96、ネットワークインタフェース97、及び可搬型記憶媒体用ドライブ99等を備えている。これらケーブル認識装置14の構成各部は、バス98に接続されている。ケーブル認識装置14では、ROM92あるいはHDD96に格納されているプログラム(ケーブル形状推定プログラムを含む)、或いは可搬型記憶媒体用ドライブ99が可搬型記憶媒体91から読み取ったプログラム(ケーブル形状推定プログラムを含む)をCPU90が実行することにより、図2(b)に示す各部の機能が実現されている。   Here, the cable recognition device 14 will be described in detail. FIG. 2A shows a hardware configuration of the cable recognition device 14. As shown in FIG. 2A, the cable recognition device 14 includes a CPU (Central Processing Unit) 90, a ROM (Read Only Memory) 92, a RAM (Random Access Memory) 94, and a storage unit (here, an HDD (Hard Disk Drive)). )) 96, a network interface 97, a portable storage medium drive 99, and the like. Each component of the cable recognition device 14 is connected to a bus 98. In the cable recognizing device 14, a program (including a cable shape estimation program) stored in the ROM 92 or the HDD 96 or a program (including the cable shape estimation program) read from the portable storage medium 91 by the portable storage medium drive 99. Is executed by the CPU 90, thereby realizing the function of each unit shown in FIG.

図2(b)には、ケーブル認識装置14の機能ブロック図が示されている。ケーブル認識装置14は、CPU90がプログラムを実行することにより、図2(b)に示す、取得部としてのケーブル3Dデータ取得部20、特定部としてのケーブル端点延伸方向計測部22、設定部としてのサーチボリューム設定部24、ケーブル断面・延伸方向算出部26、着目点更新部28、ケーブル形状推定部30、及び通信部32、として機能する。   FIG. 2B shows a functional block diagram of the cable recognition device 14. When the CPU 90 executes the program, the cable recognition device 14 receives the cable 3D data acquisition unit 20 as an acquisition unit, the cable end point extension direction measurement unit 22 as a specific unit, and the setting unit as illustrated in FIG. It functions as a search volume setting unit 24, a cable section / stretching direction calculation unit 26, a point of interest update unit 28, a cable shape estimation unit 30, and a communication unit 32.

ケーブル3Dデータ取得部20は、3Dカメラ12によって撮影された画像データ(3D画像)を取得する。なお、3D画像は、少なくともケーブルフォーミング対象(追跡対象)のケーブル44全体を撮影したものである。また、ケーブル3Dデータ取得部20は、取得した3D画像から、2次元面内の格子点に対応するケーブル44の表面上の点の3次元位置データ(「3D点群データ」と呼ぶ)を取得する。図3には、3D画像の一例が示されている。図3に示す格子点は、3Dカメラ12のピクセルに対応する点である。ケーブル3Dデータ取得部20は、図3に示すように、3Dカメラ12のピクセルに対応する2次元面(XY面)内の格子点ごとにケーブル44表面の高さ位置(Z座標)を取得し、格子点それぞれのXY座標及び取得したZ座標を含む3次元データを3D点群データとする。   The cable 3D data acquisition unit 20 acquires image data (3D image) captured by the 3D camera 12. Note that the 3D image is obtained by photographing at least the entire cable 44 to be subjected to cable forming (tracking target). In addition, the cable 3D data acquisition unit 20 acquires three-dimensional position data (referred to as “3D point group data”) of a point on the surface of the cable 44 corresponding to a lattice point in a two-dimensional plane from the acquired 3D image. I do. FIG. 3 shows an example of a 3D image. The grid points shown in FIG. 3 are points corresponding to the pixels of the 3D camera 12. The cable 3D data acquisition unit 20 acquires a height position (Z coordinate) on the surface of the cable 44 for each grid point in a two-dimensional plane (XY plane) corresponding to a pixel of the 3D camera 12, as shown in FIG. The three-dimensional data including the XY coordinates of each of the grid points and the acquired Z coordinates is defined as 3D point group data.

図15(a)には、3D点群データの一例(ケーブル44付近を拡大した画像)が示されており、図15(b)には、図15(a)の一部を切り出し、視線を変えてケーブル44の断面を垂直に見た状態が示されている。図15(b)において点線にて示すように、3D点群データにはケーブル44の断面上半分(円弧状部分)のデータが含まれていることが明らかである。   FIG. 15A shows an example of a 3D point group data (an image in which the vicinity of the cable 44 is enlarged). FIG. 15B shows a part of FIG. Alternately, a state in which the cross section of the cable 44 is viewed vertically is shown. As shown by the dotted line in FIG. 15B, it is clear that the 3D point group data includes data of the upper half (arc-shaped portion) of the cross section of the cable 44.

図2(b)に戻り、ケーブル端点延伸方向計測部22は、3D画像データからケーブル44の一端近傍の点を着目点とし、該着目点においてケーブル44が延びる方向(延伸方向)を特定する。なお、「着目点」とは、ケーブル44の形状探索の基準となる点である。ケーブル端点延伸方向計測部22は、予め用意してあるコネクタ46Aの3D CADモデルを用いたモデルマッチングにより、3D画像からコネクタ46Aの位置、姿勢を特定する。そして、ケーブル端点延伸方向計測部22は、コネクタ46Aの位置、姿勢から定まるケーブルの所定位置(例えば、図4(a)に示すようなケーブル44とコネクタ46Aの境目部分のうち最も高い位置)を着目点とする。また、ケーブル端点延伸方向計測部22は、コネクタ46Aの姿勢に基づいて、着目点におけるケーブル44の延伸方向を特定する。ここで、着目点と延伸方向とにより規定される所定長さのベクトルを主軸ベクトル(図4(a)参照)と呼ぶものとする。   Returning to FIG. 2B, the cable end point extension direction measuring unit 22 sets a point near one end of the cable 44 as a point of interest from the 3D image data, and specifies a direction in which the cable 44 extends (an extension direction) at the point of interest. The “point of interest” is a point serving as a reference for searching for the shape of the cable 44. The cable end point extension direction measuring unit 22 specifies the position and orientation of the connector 46A from the 3D image by model matching using a 3D CAD model of the connector 46A prepared in advance. Then, the cable end point extension direction measuring unit 22 determines a predetermined position of the cable determined from the position and the posture of the connector 46A (for example, the highest position in the boundary between the cable 44 and the connector 46A as shown in FIG. 4A). This is the point of interest. Also, the cable end point extension direction measuring unit 22 specifies the extension direction of the cable 44 at the point of interest based on the attitude of the connector 46A. Here, a vector having a predetermined length defined by the point of interest and the stretching direction is referred to as a main axis vector (see FIG. 4A).

サーチボリューム設定部24は、ケーブル44の断面形状を推定するために着目すべき範囲として、サーチボリュームを生成(設定)する。サーチボリュームは、着目点を内部に含み、ケーブル44の延伸方向に所定幅を有する直方体状の空間データである。具体的には、サーチボリュームは、図4(b)において点線で示すような一辺がbの正方形の面を有する所定幅aの空間である。ここで、サーチボリュームの所定幅a(図4(b)参照)は、例えば、カメラの1ピクセルの寸法(図3の格子点間距離)の1.5倍程度であり、正方形の面の一辺の寸法bは、ケーブル44の直径に所定値αを加算した程度の寸法であるものとする。   The search volume setting unit 24 generates (sets) a search volume as a range to be noted for estimating the cross-sectional shape of the cable 44. The search volume is a rectangular parallelepiped spatial data including a point of interest therein and having a predetermined width in the extending direction of the cable 44. Specifically, the search volume is a space having a predetermined width a having a square surface with one side b as shown by a dotted line in FIG. 4B. Here, the predetermined width a of the search volume (see FIG. 4B) is, for example, about 1.5 times the size of one pixel of the camera (distance between grid points in FIG. 3), and one side of a square surface Is a dimension obtained by adding a predetermined value α to the diameter of the cable 44.

ケーブル断面・延伸方向算出部26は、サーチボリューム内に存在する3D点群データからケーブル44の断面形状データを生成し、該断面形状データに基づいて、ケーブル44の延伸方向を新たに算出する(図4(c)参照)。また、ケーブル44の特徴点(サーチボリューム内に存在する3D点群データのうち最も高い位置にある点)を特定する。ケーブル断面・延伸方向算出部26は、算出した延伸方向と特定した特徴点の情報(主軸ベクトルの情報)をデータ格納部36に格納する。また、ケーブル断面・延伸方向算出部26は、ケーブルフォーミング対象のケーブル(追跡しているケーブル)44の上に別のケーブル又は追跡しているケーブル44自身が交差しているか否かを判定する。そして、交差していると判定した場合には、ケーブル断面・延伸方向算出部26は、サーチボリューム設定部24と協働して、交差による影響を受けないように処理を実行する。   The cable section / extension direction calculation unit 26 generates section shape data of the cable 44 from the 3D point group data present in the search volume, and newly calculates the extension direction of the cable 44 based on the section shape data ( FIG. 4C). Further, a characteristic point of the cable 44 (a point located at the highest position in the 3D point group data existing in the search volume) is specified. The cable section / stretching direction calculator 26 stores the calculated stretching direction and the information of the specified characteristic point (information of the principal axis vector) in the data storage 36. In addition, the cable section / stretching direction calculation unit 26 determines whether another cable or the tracking cable 44 itself crosses the cable forming target cable (tracking cable) 44. Then, when it is determined that they intersect, the cable section / extension direction calculation unit 26 executes processing in cooperation with the search volume setting unit 24 so as not to be affected by the intersection.

着目点更新部28は、ケーブル断面・延伸方向算出部26が算出した新たな延伸方向と特徴点とに基づいて、図4(c)に示すような新たな着目点を設定する(着目点を更新する)。   The point-of-interest update unit 28 sets a new point of interest as shown in FIG. 4C based on the new extension direction and the feature point calculated by the cable cross-section / extension direction calculation unit 26 (the point of interest is Update).

ケーブル形状推定部30は、サーチボリューム設定部24、ケーブル断面・延伸方向算出部26、着目点更新部28が処理を繰り返し実行した結果に基づいて、ケーブル44の形状データを生成(推定)する。すなわち、ケーブル形状推定部30は、図5に示すようにケーブル44の延伸方向に沿って順次設定されるサーチボリュームを用いて順次算出された、ケーブル44の主軸ベクトルの情報をデータ格納部36から取得する。そして、ケーブル形状推定部30は、取得した情報に基づいて、ケーブル44の端部から所定長さm(図7(a)参照)よりも離れた箇所を特定する。更にケーブル形状推定部30は、特定した箇所が存在する位置(XYZ座標)と当該箇所におけるケーブル44の姿勢、すなわちロボット10がケーブルフォーミングにおいて把持すべきケーブル44の位置及び姿勢を推定する。   The cable shape estimating unit 30 generates (estimates) the shape data of the cable 44 based on the result of repeatedly executing the processing by the search volume setting unit 24, the cable section / stretching direction calculating unit 26, and the point of interest updating unit 28. That is, as shown in FIG. 5, the cable shape estimating unit 30 stores, from the data storage unit 36, information on the main axis vector of the cable 44 sequentially calculated using the search volume sequentially set along the extending direction of the cable 44. get. Then, based on the acquired information, the cable shape estimating unit 30 specifies a location that is more than a predetermined length m (see FIG. 7A) from the end of the cable 44. Further, the cable shape estimating unit 30 estimates the position (XYZ coordinates) where the specified location exists and the posture of the cable 44 at the location, that is, the position and posture of the cable 44 to be gripped by the robot 10 in the cable forming.

通信部32は、ケーブル形状推定部30の推定結果に基づく指示をロボットコントローラ16に送信する。ロボットコントローラ16は、ロボット10を制御してロボット10にケーブル44を把持させ、ケーブル44を把持したロボット10を移動させることで、ケーブル44を予め定めた状態に遷移させる(ケーブルフォーミングを実行する)。   The communication unit 32 transmits an instruction based on the estimation result of the cable shape estimation unit 30 to the robot controller 16. The robot controller 16 controls the robot 10 to cause the robot 10 to grip the cable 44 and move the robot 10 gripping the cable 44, thereby causing the cable 44 to transition to a predetermined state (execute cable forming). .

(電子機器の製造装置100の処理)
次に、本実施形態の電子機器の製造装置100が実行する処理について、詳細に説明する。
(Process of Electronic Equipment Manufacturing Apparatus 100)
Next, the processing executed by the electronic device manufacturing apparatus 100 of the present embodiment will be described in detail.

図6には、電子機器の製造装置100により実行される一連の処理がフローチャートにて示されている。以下、図6に基づいて、電子機器の製造装置100の処理の概要について説明する。   FIG. 6 is a flowchart illustrating a series of processes performed by the electronic device manufacturing apparatus 100. Hereinafter, an outline of the processing of the electronic device manufacturing apparatus 100 will be described with reference to FIG.

図6の処理では、まず、ステップS10において、ロボットコントローラ16が、予め定められた手順でロボット10を駆動し、ケーブル44の両端のコネクタ46A,46Bをプリント基板42上のコネクタに挿入する。これにより、プリント基板42にケーブル44が接続される。なお、ケーブル44をプリント基板42に接続する作業は、ケーブルフォーミングを実行するロボットとは別のロボットが実行してもよいし、人(作業者)が実行してもよい。図7(a)には、ケーブル44がプリント基板42に接続された状態が示されている。   In the process of FIG. 6, first, in step S10, the robot controller 16 drives the robot 10 according to a predetermined procedure, and inserts the connectors 46A and 46B at both ends of the cable 44 into the connectors on the printed circuit board 42. Thus, the cable 44 is connected to the printed circuit board 42. The operation of connecting the cable 44 to the printed circuit board 42 may be performed by a robot different from the robot performing the cable forming, or may be performed by a person (operator). FIG. 7A shows a state where the cable 44 is connected to the printed circuit board 42.

次いで、ステップS14では、ケーブル認識装置14が、ケーブルの認識処理を実行する。ケーブルの認識処理は、図8のフローチャートに沿って実行されるが、詳細については後述する。   Next, in step S14, the cable recognition device 14 executes a cable recognition process. The cable recognition process is executed according to the flowchart of FIG. 8, and details will be described later.

次いで、ステップS16では、ケーブル認識装置14が、ケーブル44の一端から所定長さ(m)の箇所の位置、姿勢の情報(具体的には、図7(a)に示すベクトルV(n)の情報)を取得する。ケーブル認識装置14は、取得したケーブル44の位置、姿勢の情報をロボットコントローラ16に送信する。   Next, in step S16, the cable recognizing device 14 obtains information on the position and orientation of a location having a predetermined length (m) from one end of the cable 44 (specifically, the vector V (n) shown in FIG. Information). The cable recognition device 14 transmits the acquired information on the position and posture of the cable 44 to the robot controller 16.

次いで、ステップS18では、ロボットコントローラ16が、ケーブル認識装置14から受信した情報に基づいて、ケーブル44の一端から所定長さ(m)の箇所にロボット10のハンドを移動する。次いで、ステップS20では、ロボットコントローラ16は、ロボット10のハンドでケーブル44を把持する。図7(b)には、ロボット10のハンドがケーブル44を把持した状態が示されている。なお、ロボットコントローラ16は、ケーブル44を把持する際に、ロボット10のハンドがベクトルV(n)に略直交する方向に開くようにロボット10の姿勢を制御する。   Next, in step S18, the robot controller 16 moves the hand of the robot 10 to a location of a predetermined length (m) from one end of the cable 44 based on the information received from the cable recognition device 14. Next, in step S20, the robot controller 16 holds the cable 44 with the hand of the robot 10. FIG. 7B shows a state where the hand of the robot 10 holds the cable 44. Note that the robot controller 16 controls the posture of the robot 10 so that the hand of the robot 10 is opened in a direction substantially orthogonal to the vector V (n) when gripping the cable 44.

次いで、ステップS22では、ロボットコントローラ16は、ロボット10を図7(c)に示す位置まで駆動し、ケーブル44をプリント基板42の角部に引っ掛ける。   Next, in step S22, the robot controller 16 drives the robot 10 to the position shown in FIG. 7C, and hooks the cable 44 on the corner of the printed circuit board 42.

次いで、ステップS24では、ロボットコントローラ16はロボット10を制御して、ケーブル44の把持を解除し、ロボット10をプリント基板42上から退避させる。   Next, in step S24, the robot controller 16 controls the robot 10, releases the grip of the cable 44, and retreats the robot 10 from the printed circuit board 42.

以上により、電子機器の製造装置100による一連の処理が終了する。   Thus, a series of processes by the electronic device manufacturing apparatus 100 is completed.

(ステップS14の処理について)
次に、ステップS14の処理(ケーブルの認識処理)について、図8、図9、図16のフローチャートに沿って、その他図面を適宜参照しつつ詳細に説明する。
(About the process of step S14)
Next, the process of step S14 (cable recognition process) will be described in detail along the flowcharts of FIGS. 8, 9, and 16 while appropriately referring to other drawings.

図8の処理では、まず、ステップS30において、ケーブル端点延伸方向計測部22が、3Dカメラ12から3D画像を取得し、形状を推定するケーブル(追跡対象のケーブル)の一端に設けられたコネクタ46Aの3D姿勢を計測する。この場合、予め用意してあるコネクタ46Aの3D CADモデルを用いたモデルマッチングにより、コネクタ46Aの位置、姿勢を特定する。   In the process of FIG. 8, first, in step S30, the cable end point extension direction measuring unit 22 acquires a 3D image from the 3D camera 12, and estimates the shape of the connector (tracking target cable). 3D posture is measured. In this case, the position and orientation of the connector 46A are specified by model matching using a 3D CAD model of the connector 46A prepared in advance.

次いで、ステップS32では、ケーブル端点延伸方向計測部22が、ケーブル端の主軸ベクトルを取得する。具体的には、ケーブル端点延伸方向計測部22は、図4(a)に示すようなケーブル44とコネクタ46Aの境目部分のうち最も高い位置を着目点とし、コネクタ46Aの姿勢と、部品の設計情報からケーブル44の延伸方向を特定し、着目点と延伸方向とにより規定されるベクトルをケーブル端の主軸ベクトルとする。なお、ケーブル端点延伸方向計測部22は、例えば、コネクタ46Aの特定の辺が延びる方向をケーブル44の延伸方向として特定することができる。   Next, in step S32, the cable end point extension direction measuring unit 22 acquires a main axis vector of the cable end. Specifically, the cable end point extension direction measuring unit 22 regards the highest position in the boundary between the cable 44 and the connector 46A as shown in FIG. The extension direction of the cable 44 is specified from the information, and a vector defined by the point of interest and the extension direction is defined as a main axis vector of the cable end. The cable end point extension direction measuring unit 22 can specify, for example, a direction in which a specific side of the connector 46A extends as an extension direction of the cable 44.

次いで、ステップS34では、ケーブル3Dデータ取得部20が、3Dカメラ12から3D点群データを取得する。   Next, in step S34, the cable 3D data acquisition unit 20 acquires 3D point cloud data from the 3D camera 12.

次いで、ステップS36では、サーチボリューム設定部24が、ケーブル端の主軸ベクトルを用いてサーチボリュームを設定する。サーチボリューム設定部24は、図10(a)に示すように、ケーブル端(着目点)を含み、主軸ベクトルの方向に所定幅aを有する直方体状のサーチボリュームを設定する。なお、図10(a)において、白丸は3D点群データを示している。   Next, in step S36, the search volume setting unit 24 sets a search volume using the main shaft vector at the cable end. The search volume setting unit 24 sets a rectangular parallelepiped search volume including the cable end (point of interest) and having a predetermined width a in the direction of the main axis vector, as shown in FIG. In FIG. 10A, white circles indicate 3D point group data.

次いで、ステップS38では、ケーブル断面・延伸方向算出部26が、カウンタiを0に設定する。   Next, in step S38, the cable section / stretching direction calculator 26 sets the counter i to 0.

次いで、ステップS40では、ケーブル断面・延伸方向算出部26が、断面探索処理を実行する。ステップS40においては、図9のフローチャートに沿った処理が実行される。   Next, in step S40, the cable section / extension direction calculation unit 26 performs a section search process. In step S40, processing according to the flowchart in FIG. 9 is performed.

図9の処理では、ケーブル断面・延伸方向算出部26は、まずステップS70において、3D点群データからサーチボリューム内の点を抽出する。図10(a)の例では、図10(b)に示すように、サーチボリューム内に含まれる黒丸で示す3D点群データが抽出されたものとする。   In the process of FIG. 9, the cable section / extension direction calculation unit 26 first extracts points in the search volume from the 3D point group data in step S70. In the example of FIG. 10A, as shown in FIG. 10B, it is assumed that 3D point group data indicated by black circles included in the search volume has been extracted.

次いで、ステップS72では、ケーブル断面・延伸方向算出部26が、図10(c)において一点鎖線で示すように、抽出した点を用いて楕円フィッティングし、ケーブルの断面形状データ(楕円形状データ)を得る。図11(a)には、ケーブル44の3D画像の例が示されている。例えば、ステップS70において抽出された点が、黒丸で示されているとする。この場合、抽出された点を含む断面(A−A線断面であり、YZ断面)は、ケーブル44の垂直断面(B−B線断面)からずれているため、図11(b)に示すように、楕円形となる。一方、垂直断面は、図11(c)に示すように、真円となる。   Next, in step S72, the cable cross-section / extension direction calculation unit 26 performs elliptical fitting using the extracted points as shown by the dashed line in FIG. 10C, and converts the cross-sectional shape data (elliptical shape data) of the cable. obtain. FIG. 11A shows an example of a 3D image of the cable 44. For example, it is assumed that the points extracted in step S70 are indicated by black circles. In this case, since a cross section including the extracted points (a cross section taken along the line AA and a YZ cross section) is shifted from a vertical cross section (a cross section taken along the line BB) of the cable 44, as shown in FIG. Then, it becomes elliptical. On the other hand, the vertical cross section is a perfect circle as shown in FIG.

次いで、ステップS74では、ケーブル断面・延伸方向算出部26が、抽出した点のうち最も高い位置にある点を特徴点P(i)(ここではP(0))として抽出する。図10(d)においては、特徴点P(0)が黒丸にて示されている。   Next, in step S74, the cable section / extending direction calculation unit 26 extracts the point at the highest position among the extracted points as a feature point P (i) (here, P (0)). In FIG. 10D, the feature point P (0) is indicated by a black circle.

次いで、ステップS76では、ケーブル断面・延伸方向算出部26が、取得した楕円形状データの歪からケーブル44の垂直断面を計算する。次いで、ステップS78では、ケーブル断面・延伸方向算出部26が、ケーブル44の垂直断面の法線ベクトルを主軸ベクトルV(i)(ここではV(0))とする。これらステップS76、S78では、ケーブル断面・延伸方向算出部26は、ステップS72で取得した楕円形状データの長軸、短軸の比及び長軸、短軸の方向から楕円面の法線ベクトルと、垂直断面(真円面)との差(図11(a)の角度θ)を算出する。そして、ケーブル断面・延伸方向算出部26は、格子方向(図11(a)ではX方向)に延びるベクトルを差(θ)の分だけずらしたベクトルを主軸ベクトルV(i)とする。なお、ケーブル断面・延伸方向算出部26は、ステップS74で抽出した特徴点とステップS78で抽出した主軸ベクトルの情報をデータ格納部36に格納する。ステップS78の後は、図8のステップS46に移行する。   Next, in step S76, the cable section / stretching direction calculation unit 26 calculates a vertical section of the cable 44 from the distortion of the obtained elliptical shape data. Next, in step S78, the cable section / extension direction calculation unit 26 sets the normal vector of the vertical section of the cable 44 to the main axis vector V (i) (here, V (0)). In these steps S76 and S78, the cable section / stretching direction calculator 26 calculates the ratio of the major axis to the minor axis and the normal vector of the elliptical surface from the major axis and minor axis directions obtained in step S72, The difference (angle θ in FIG. 11A) from the vertical cross section (the perfect circular surface) is calculated. Then, the cable section / extension direction calculation unit 26 sets a vector obtained by shifting the vector extending in the grid direction (the X direction in FIG. 11A) by the difference (θ) as the main axis vector V (i). Note that the cable section / stretching direction calculation unit 26 stores the information of the feature point extracted in step S74 and the information of the spindle vector extracted in step S78 in the data storage unit 36. After step S78, the process proceeds to step S46 in FIG.

ステップS46に移行すると、着目点更新部28が、iを1インクリメントする(i=i+1)。   In step S46, the point of interest updating unit 28 increments i by one (i = i + 1).

次いで、ステップS48では、着目点更新部28が、主軸ベクトルV(i−1)(ここでは、V(0))を中心とする小型サーチボリュームを設定する。小型サーチボリュームは、図12(a)に示すように、特徴点P(0)から延びる主軸ベクトルV(0)を中心軸とする断面正方形(又は長方形)の直方体状の空間であるものとする。なお、小型サーチボリュームは、例えば円柱状の空間データであってもよい。   Next, in step S48, the point-of-interest update unit 28 sets a small search volume centered on the main axis vector V (i-1) (here, V (0)). As shown in FIG. 12 (a), the small search volume is a rectangular parallelepiped space having a square (or rectangular) cross section centered on the principal axis vector V (0) extending from the feature point P (0). . The small search volume may be, for example, cylindrical spatial data.

次いで、ステップS50では、着目点更新部28が、小型サーチボリュームに含まれる点(新たな着目点)を探索する。ここでは、図12(b)において黒丸で示す点が新たな着目点として探索されたものとする。なお、小型サーチボリュームの大きさとしては、複数の点が含まれないような大きさとすることが好ましい。ただし、これに限らず、小型サーチボリュームに複数の点が含まれる場合には、例えば、複数の点のうち特徴点P(i)に最も近い点を探索し、新たな着目点とすればよい。   Next, in step S50, the point of interest updating unit 28 searches for a point (a new point of interest) included in the small search volume. Here, it is assumed that a point indicated by a black circle in FIG. 12B has been searched as a new point of interest. Note that the size of the small search volume is preferably a size that does not include a plurality of points. However, the present invention is not limited to this. When a plurality of points are included in the small search volume, for example, a point closest to the feature point P (i) may be searched for among the plurality of points and set as a new point of interest. .

次いで、ステップS52では、サーチボリューム設定部24が、探索された着目点を含み、主軸ベクトルV(i−1)(ここでは、V(0))の方向に所定幅を有するサーチボリュームを設定する。図12(b)には、新たに設定されたサーチボリュームが示されている。   Next, in step S52, the search volume setting unit 24 sets a search volume including the searched point of interest and having a predetermined width in the direction of the main axis vector V (i-1) (here, V (0)). . FIG. 12B shows a newly set search volume.

次いで、ステップS54では、ケーブル断面・延伸方向算出部26が、断面探索処理(図9)を実行する。なお、断面探索処理については、前述したのと同様の手順で実行される。したがって、断面探索処理により、図12(c)において黒丸で示すようにサーチボリューム内の点が抽出され、特徴点P(i)と、主軸ベクトルV(i)が取得される。なお、ステップS50において探索された着目点(図12(b)の黒丸の点)と特徴点P(i)とは、同一の場合もあれば、異なる場合もある。図13(a)には、楕円形状データに基づいて、黒丸で示す特徴点P(i)(=P(1))が取得された状態が示されており、図13(b)には、楕円形状データに基づいて、主軸ベクトルV(i)(=V(1))が取得された状態が示されている。   Next, in step S54, the cable section / extension direction calculation unit 26 executes a section search process (FIG. 9). Note that the cross-section search processing is executed in the same procedure as described above. Therefore, the points in the search volume are extracted by the cross-section search processing as indicated by the black circles in FIG. 12C, and the feature point P (i) and the main axis vector V (i) are obtained. The point of interest (the black circle point in FIG. 12B) searched in step S50 and the feature point P (i) may be the same or different. FIG. 13A shows a state in which feature points P (i) (= P (1)) indicated by black circles have been acquired based on the elliptical shape data, and FIG. The state where the main axis vector V (i) (= V (1)) is obtained based on the elliptical shape data is shown.

次いで、図8のステップS55では、ケーブル断面・延伸方向算出部26が、現在の特徴点(P(i))の前に2つの特徴点が得られているか否かを判断する。このステップS55の判断が否定された場合、すなわち、i<2の場合には、後述するステップS56において算出する必要のあるケーブルの曲げ半径を算出できず、ケーブルの交差の有無を判定できないため、ケーブル断面・延伸方向算出部26は、ステップS56をスキップして、ステップS57に移行する。   Next, in step S55 of FIG. 8, the cable section / stretching direction calculation unit 26 determines whether two feature points have been obtained before the current feature point (P (i)). If the determination in step S55 is denied, that is, if i <2, the bending radius of the cable that needs to be calculated in step S56 described below cannot be calculated, and it is not possible to determine the presence or absence of intersection of the cables. The cable section / stretching direction calculator 26 skips step S56 and proceeds to step S57.

ステップS57に移行すると、ケーブル形状推定部30は、1つ前の特徴点P(i−1)と今回の特徴点P(i)のケーブル差分長D(i)を算出する。この場合、特徴点P(i−1)のXYZ座標を(x(i-1),y(i-1),z(i-1))、特徴点P(i)のXYZ座標を(x(i),y(i),z(i))とすると、次式(1)を用いて、D(i)を算出することができる。
D(i)={(x(i-1)−x(i))2+(y(i-1)−y(i))2+(z(i-1)−z(i))2}1/2 …(1)
In step S57, the cable shape estimating unit 30 calculates a cable difference length D (i) between the immediately preceding feature point P (i-1) and the current feature point P (i). In this case, the XYZ coordinates of the feature point P (i-1) are (x (i-1), y (i-1), z (i-1)), and the XYZ coordinates of the feature point P (i) are (x (i), y (i), z (i)), D (i) can be calculated using the following equation (1).
D (i) = {(x (i-1) -x (i)) 2 + (y (i-1) -y (i)) 2 + (z (i-1) -z (i)) 2 } 1/2 … (1)

なお、図14には、ケーブル差分長D(i)が模式的に(平面的に)示されている。   In FIG. 14, the cable differential length D (i) is schematically (in plan view).

次いで、ステップS58では、ケーブル形状推定部30が、ケーブル端(特徴点P(0))からi番目の特徴点(P(i))までのケーブル差分長の総和を求め、L(i)とする。すなわち、ケーブル形状推定部30は、D(1)、D(2)、…、D(i)の和を求め、L(i)とする。   Next, in step S58, the cable shape estimating unit 30 obtains the sum of the cable difference lengths from the cable end (feature point P (0)) to the i-th feature point (P (i)), and calculates L (i) and L (i). I do. That is, the cable shape estimating unit 30 calculates the sum of D (1), D (2),..., D (i) and sets the sum to L (i).

次いで、ステップS60では、ケーブル形状推定部30が、長さL(i)の値が長さmの値より大きいか否かを判断する。ここで、長さmとは、図7(a)に示すように、プリント基板42の一辺(図7(a)では短辺)の長さであるものとする。すなわち、ステップS60では、図7(c)に示すように、ケーブルフォーミングの際にプリント基板42の角部に位置する箇所までケーブル44の形状を追跡できたか否かを判断しているといえる。ステップS60の判断が否定された場合には、ケーブル形状推定部30は、ステップS46に戻り、ステップS46〜S60の処理・判断を繰り返し実行する。   Next, in step S60, the cable shape estimating unit 30 determines whether or not the value of the length L (i) is larger than the value of the length m. Here, the length m is the length of one side (the short side in FIG. 7A) of the printed circuit board 42 as shown in FIG. 7A. That is, in step S60, as shown in FIG. 7C, it can be said that it is determined whether or not the shape of the cable 44 has been traced to a position located at a corner of the printed circuit board 42 at the time of cable forming. If the determination in step S60 is negative, the cable shape estimating unit 30 returns to step S46 and repeatedly executes the processing and determination in steps S46 to S60.

(ステップS56の処理について)
次に、ステップS55の判断が肯定された場合に実行されるステップS56の処理について、図16のフローチャートに沿って詳細に説明する。このステップS56においては、ケーブル断面・延伸方向算出部26及びサーチボリューム設定部24が、ケーブル交差認識処理を実行する。本処理においては、追跡しているケーブルの曲げ半径を算出した結果に基づいてケーブルが交差しているか否かを判定し、交差している場合に当該交差を考慮した処理を実行する。
(About the process of step S56)
Next, the processing of step S56 executed when the determination of step S55 is affirmed will be described in detail with reference to the flowchart of FIG. In this step S56, the cable section / extending direction calculation unit 26 and the search volume setting unit 24 execute a cable intersection recognition process. In this processing, it is determined whether or not the cables intersect based on the result of calculating the bending radius of the cable being tracked, and when the cables intersect, processing is performed in consideration of the intersection.

図16の処理では、まず、ステップS102において、ケーブル断面・延伸方向算出部26は、現在の特徴点P(i)及び直前2つの特徴点P(i−1)、P(i−2)の3点から曲げ半径rを計算する。この場合、図17に示すように、3つの特徴点P(i)〜P(i−2)の座標から、円の方程式を求め、求めた方程式が示す円の半径を曲げ半径rとする。   In the process of FIG. 16, first, in step S102, the cable section / stretch direction calculation unit 26 calculates the current feature point P (i) and the two immediately preceding feature points P (i-1) and P (i-2). The bending radius r is calculated from the three points. In this case, as shown in FIG. 17, a circle equation is obtained from the coordinates of the three feature points P (i) to P (i-2), and the radius of the circle indicated by the obtained equation is defined as a bending radius r.

次いで、ステップS104では、ケーブル断面・延伸方向算出部26は、曲げ半径rがケーブルの最小曲げ半径R以上(r≧R)か否かを判断する。ステップS104の判断が肯定される場合とは、ケーブルが交差している可能性が低いことを意味する。この場合、図16の処理を終了し、図8のステップS57に移行する。   Next, in step S104, the cable section / stretching direction calculator 26 determines whether or not the bending radius r is equal to or larger than the minimum bending radius R of the cable (r ≧ R). If the determination in step S104 is affirmative, it means that there is a low possibility that the cables cross. In this case, the processing in FIG. 16 ends, and the flow shifts to step S57 in FIG.

一方、ステップS104の判断が否定された場合、すなわち、曲げ半径rが最小曲げ半径R未満であった場合には、ケーブル断面・延伸方向算出部26は、ステップS106に移行する。ステップS106に移行する場合とは、図18(a)に示すように追跡しているケーブル(形状推定を行っているケーブル)の上にケーブルが交差している可能性が高いことを意味している。ケーブルが交差している場合、図18(b)において実線矢印で示す正しい追跡方向に沿ってケーブルを追跡すべき(サーチボリュームを移動させるべき)ところ、誤った追跡方向(破線矢印方向)に沿ってケーブルを追跡するおそれがある。したがって、本実施形態では、ケーブルが交差している場合には、正しくケーブルを追跡するために、図16のステップS106〜S110の処理を実行することとしている。   On the other hand, if the determination in step S104 is negative, that is, if the bending radius r is smaller than the minimum bending radius R, the cable section / stretching direction calculation unit 26 proceeds to step S106. Moving to step S106 means that there is a high possibility that the cable crosses the tracked cable (the cable whose shape is being estimated) as shown in FIG. I have. When the cables intersect, the cable should be tracked (the search volume should be moved) in the correct tracking direction indicated by the solid arrow in FIG. 18B, but along the wrong tracking direction (the direction of the broken arrow). Cable may be tracked. Therefore, in the present embodiment, when cables intersect, the processes of steps S106 to S110 in FIG. 16 are executed to correctly track the cables.

ステップS106に移行すると、ケーブル断面・延伸方向算出部26は、最新の主軸ベクトルを破棄し(データ格納部36に格納せず)、1つ前の主軸ベクトルを最新の主軸ベクトルとする。すなわち、ケーブル断面・延伸方向算出部26は、最新の主軸ベクトルを、直前に得られた主軸ベクトルV(i)では更新しないこととする。   In step S106, the cable section / stretch direction calculation unit 26 discards the latest spindle vector (not stored in the data storage unit 36) and sets the immediately preceding spindle vector as the latest spindle vector. That is, the cable section / stretching direction calculation unit 26 does not update the latest main axis vector with the main axis vector V (i) obtained immediately before.

次いで、ステップS108では、ケーブル断面・延伸方向算出部26が、ステップS104の判断が連続して否定されているか否かを判断する。このステップS108の判断が否定された場合には、ステップS110に移行するが、肯定された場合には、図16の処理を終了し、図8のステップS57に移行する。   Next, in step S108, the cable section / stretching direction calculator 26 determines whether or not the determination in step S104 is continuously negative. If the determination in step S108 is denied, the process proceeds to step S110. If the determination is affirmative, the process in FIG. 16 ends, and the process proceeds to step S57 in FIG.

ステップS108の判断が否定され、ステップS110に移行すると、サーチボリューム設定部24は、ケーブル断面・延伸方向算出部26の指示の下、サーチボリュームを所定距離だけ最新の主軸ベクトルの方向にスキップする。なお、所定距離の具体例については、後述する。   When the determination in step S108 is denied and the process proceeds to step S110, the search volume setting unit 24 skips the search volume by a predetermined distance in the direction of the latest main axis vector under the instruction of the cable section / stretching direction calculation unit 26. A specific example of the predetermined distance will be described later.

ここで、図19、図20に基づいて、図16の処理について具体的に説明する。なお、図19、図20においては、説明の簡素化のため、追跡しているケーブルの延伸方向がY軸方向と一致した状態が示されている。   Here, the processing of FIG. 16 will be specifically described based on FIGS. 19 and 20. 19 and 20 show a state in which the extending direction of the tracked cable coincides with the Y-axis direction for simplification of the description.

例えば、図19において、(1)で示す位置にサーチボリュームがある場合(S52)、サーチボリューム内の3D点群データの全てが、追跡しているケーブル上の点のデータである。したがって、この場合には、図20(a)において破線で示すような、追跡しているケーブルの形状を反映した楕円形状データが得られる(S72)。この場合の主軸ベクトルは、図19、図20(a)に示すように、特徴点P(s)を基点とする主軸ベクトルV(s)となる(S74〜S78)。ケーブル断面・延伸方向算出部26は、取得した主軸ベクトルのデータ(特徴点のデータを含む)をデータ格納部36に格納する。   For example, in FIG. 19, when there is a search volume at the position indicated by (1) (S52), all of the 3D point group data in the search volume is data of points on the tracked cable. Therefore, in this case, elliptical shape data that reflects the shape of the cable being tracked as shown by the broken line in FIG. 20A is obtained (S72). The main axis vector in this case is a main axis vector V (s) starting from the feature point P (s) as shown in FIGS. 19 and 20 (a) (S74 to S78). The cable section / stretching direction calculator 26 stores the acquired data of the spindle vector (including the data of the feature points) in the data storage 36.

次いで、図19において(2)で示す位置にサーチボリュームが移動した場合(S52)、サーチボリューム内の3D点群データには、追跡しているケーブル上の点のデータ(●)と、交差しているケーブル上の点のデータ(△)が含まれている。この場合、3D点群データを楕円フィッティングすると図20(b)において破線で示すような、追跡しているケーブルの形状を反映していない楕円形状データが得られ(S72)、特徴点P(s+1)を基点とする主軸ベクトルV(s+1)が得られる(S74〜S78)。ただし、この場合には、主軸ベクトルV(s+1)の方向がV(s)と比べて極端に異なっており、曲げ半径rが最小曲げ半径R未満になる(S104:否定)ので、主軸ベクトルV(s+1)及び特徴点P(s+1)を破棄して(データ格納部36に格納せず)、V(s)を最新の主軸ベクトルのままとする(S106)。また、サーチボリュームについては、主軸ベクトルV(s)の方向に沿って所定距離だけスキップさせ、図19において(3)で示す位置に移動させる(S110)。   Next, when the search volume moves to the position indicated by (2) in FIG. 19 (S52), the 3D point group data in the search volume intersects with the data (●) of the point on the tracked cable. Data (点) of the point on the cable that is connected. In this case, when the 3D point group data is subjected to elliptic fitting, elliptical shape data that does not reflect the shape of the tracked cable as shown by the broken line in FIG. 20B is obtained (S72), and the feature point P (s + 1) ) Is obtained as the base axis vector V (s + 1) (S74 to S78). However, in this case, the direction of the main axis vector V (s + 1) is extremely different from V (s), and the bending radius r becomes smaller than the minimum bending radius R (S104: No). (S + 1) and the feature point P (s + 1) are discarded (not stored in the data storage unit 36), and V (s) remains as the latest main axis vector (S106). The search volume is skipped by a predetermined distance along the direction of the main axis vector V (s), and is moved to the position indicated by (3) in FIG. 19 (S110).

次いで、図19において(3)で示す位置にサーチボリュームが移動した場合、サーチボリューム内の3D点群データには、追跡しているケーブル上の点のデータ(●)と、交差しているケーブル上の点のデータ(△)が含まれている。この場合、3D点群データを楕円フィッティングすると図20(c)において破線で示すような、追跡しているケーブルの形状を反映していない楕円形状データが得られ、特徴点P(s+2)を基点とする主軸ベクトルV(s+2)が得られる。ただし、この場合には、主軸ベクトルV(s+2)の方向がV(s)と比べて極端に異なっており、曲げ半径rが最小曲げ半径R未満になる(S104:否定)ので、主軸ベクトルV(s+2)及び特徴点P(s+2)は破棄して(データ格納部36に格納せず)、V(s)を最新の主軸ベクトルのままとする(S106)。なお、この段階では、ステップS104の判断が連続して否定されているため、サーチボリュームは所定距離スキップさせずに、図8のステップS57に移行する。   Next, when the search volume moves to the position indicated by (3) in FIG. 19, the 3D point group data in the search volume includes the data (●) of the point on the tracked cable and the crossing cable. The data of the upper point (△) is included. In this case, when the 3D point group data is subjected to elliptic fitting, elliptical shape data that does not reflect the shape of the cable being tracked as shown by a broken line in FIG. 20C is obtained, and the feature point P (s + 2) is used as the base point. Is obtained as the main axis vector V (s + 2). However, in this case, the direction of the main axis vector V (s + 2) is extremely different from V (s), and the bending radius r becomes smaller than the minimum bending radius R (S104: No). (S + 2) and the feature point P (s + 2) are discarded (not stored in the data storage unit 36), and V (s) remains as the latest main axis vector (S106). At this stage, since the determination in step S104 is continuously denied, the process proceeds to step S57 in FIG. 8 without skipping the search volume by the predetermined distance.

次いで、図19において(4)で示す位置にサーチボリュームが移動した場合(S52)、サーチボリューム内の3D点群データのすべてが、追跡しているケーブル上の点のデータであるので、図20(d)において破線で示すような追跡しているケーブルの形状を反映した楕円形状データが得られる(S72)。この場合、特徴点P(s+3)を基点とする主軸ベクトルV(s+3)が得られる。ここで、主軸ベクトルV(s+3)の方向は、V(s)と近似し、曲げ半径rが最小曲げ半径R以上になる(S104:肯定)ので、最新の主軸ベクトルを主軸ベクトルV(s+3)で更新する(データ格納部36に格納する)。   Next, when the search volume moves to the position indicated by (4) in FIG. 19 (S52), all of the 3D point group data in the search volume is data of points on the tracked cable, and therefore, FIG. In (d), elliptical shape data reflecting the shape of the tracked cable as indicated by the broken line is obtained (S72). In this case, a main axis vector V (s + 3) starting from the feature point P (s + 3) is obtained. Here, the direction of the main axis vector V (s + 3) is approximated to V (s), and the bending radius r is equal to or larger than the minimum bending radius R (S104: Yes), so the latest main axis vector is set to the main axis vector V (s + 3). (Stored in the data storage unit 36).

なお、図19のようなサーチボリュームのスキップが行われた場合、図8のステップS57においては、ケーブル形状推定部30は、特徴点P(s+3)とデータ格納部36に格納されている直前の特徴点P(s)との差分長を算出するものとする。   When the search volume is skipped as shown in FIG. 19, in step S57 of FIG. 8, the cable shape estimating unit 30 determines whether the feature point P (s + 3) and the immediately before stored in the data storage unit 36 are present. It is assumed that the difference length from the feature point P (s) is calculated.

ここで、ステップS110においてサーチボリュームをスキップさせる距離(所定距離)の一例について、図21、図22に基づいて説明する。   Here, an example of the distance (predetermined distance) at which the search volume is skipped in step S110 will be described with reference to FIGS.

図21に示すようにケーブルが交差した場合において、Y軸方向に関して重なる幅が最小となるのは、ケーブルが直交するときである。また、そのときの幅は、交差しているケーブル(上側に位置するケーブル)の横幅(ケーブルの断面が円形であれば直径)Qと同値である。したがって、ケーブル断面・延伸方向算出部26は、サーチボリュームをスキップさせる所定距離をQとする。これにより、ケーブルの形状推定精度を維持しつつ、処理量(サーチボリュームを用いた処理の回数)を削減することが可能となる。なお、交差しているケーブルは、近傍に位置する他のケーブルの場合もあれば、追跡しているケーブル自身である場合もある。このように交差する可能性のあるケーブルが複数存在する場合には、複数のケーブルの直径のうち最も小さい値だけサーチボリュームをスキップさせるようにすればよい。   As shown in FIG. 21, when the cables cross each other, the overlapping width in the Y-axis direction is minimized when the cables are orthogonal. The width at that time is the same value as the width (diameter if the cross section of the cable is circular) Q of the intersecting cable (the cable located on the upper side). Therefore, the cable cross-section / extension direction calculation unit 26 sets the predetermined distance for skipping the search volume as Q. This makes it possible to reduce the amount of processing (the number of times of processing using the search volume) while maintaining the cable shape estimation accuracy. The intersecting cable may be another cable located in the vicinity, or may be the cable itself being tracked. When there are a plurality of cables that may intersect, the search volume may be skipped by the smallest value among the diameters of the plurality of cables.

なお、サーチボリュームをスキップする方法としては、図22に示すような方法を採用してもよい。すなわち、ケーブル断面・延伸方向算出部26は、まず、図22(a)に示すように、最新の主軸ベクトルの方向に延びるエッジ抽出領域を現在のサーチボリュームの近傍に設定する。そして、ケーブル断面・延伸方向算出部26は、画像データのエッジ抽出領域内において、交差しているケーブルのエッジ候補を抽出する。ここで、エッジ候補とは、ケーブルと背景との境目部分と推定される箇所を意味し、画像データの明度の変化や色彩の変化等に基づいて推定することができる。次いで、ケーブル断面・延伸方向算出部26は、エッジ候補のうち、交差しているケーブルの横幅(直径)Qだけ離れた平行なエッジ候補を、2本のエッジとして抽出する。図22(b)には、抽出された2本のエッジが太線にて示されている。次いで、ケーブル断面・延伸方向算出部26は、サーチボリューム設定部24を介して、最新の主軸ベクトルと、現在のサーチボリュームから遠い側のエッジとが交差する点まで、サーチボリュームをスキップする。このようにサーチボリュームをスキップすることで、図21の場合と同様、ケーブルの形状推定精度を維持しつつ、処理量(サーチボリュームを用いた処理の回数)を削減することができる。   As a method of skipping the search volume, a method as shown in FIG. 22 may be adopted. That is, the cable section / stretching direction calculation unit 26 first sets an edge extraction area extending in the direction of the latest main axis vector near the current search volume, as shown in FIG. Then, the cable cross-section / direction-of-extension calculation unit 26 extracts an edge candidate of the intersecting cable in the edge extraction area of the image data. Here, the edge candidate means a portion estimated as a boundary portion between the cable and the background, and can be estimated based on a change in brightness or a change in color of image data. Next, the cable section / extending direction calculation unit 26 extracts parallel edge candidates separated by the width (diameter) Q of the intersecting cable from the edge candidates as two edges. In FIG. 22B, the two extracted edges are indicated by thick lines. Next, the cable section / extending direction calculation unit 26 skips the search volume through the search volume setting unit 24 until the latest main axis vector intersects with the edge farther from the current search volume. By skipping the search volume in this way, the processing amount (the number of processes using the search volume) can be reduced while maintaining the cable shape estimation accuracy, as in the case of FIG.

図8に戻り、ステップS46〜S60の処理・判断が繰り返し実行され、ステップS60の判断が肯定された場合、すなわち、ケーブル44の一端から長さmよりも離れた箇所までケーブル44を追跡できた場合には、ステップS62に移行する。なお、ここでは、一例として、L(i)がmを超えた段階のiの値がnであったとする。ステップS62では、通信部32は、ケーブル形状推定部30の指示の下、主軸ベクトルV(i)(ここではV(n))をロボットコントローラ16に送信する。なお、主軸ベクトルV(n)のデータには、特徴点P(n)の座標値も含まれている。   Returning to FIG. 8, the processes and determinations of steps S46 to S60 are repeatedly performed, and when the determination of step S60 is affirmative, that is, the cable 44 can be traced to a position further than the length m from one end of the cable 44. In this case, the process proceeds to step S62. Here, as an example, it is assumed that the value of i at the stage when L (i) exceeds m is n. In step S62, the communication unit 32 transmits the spindle vector V (i) (here, V (n)) to the robot controller 16 under the instruction of the cable shape estimation unit 30. The data of the main axis vector V (n) also includes the coordinate value of the feature point P (n).

以上により、ステップS14のケーブルの認識処理が終了する。   Thus, the cable recognition processing in step S14 ends.

なお、主軸ベクトルV(n)のデータを取得したロボットコントローラ16は図6のステップS16以降の処理を実行する。これにより、ロボット10は、正確に推定されたケーブルの位置、姿勢に基づいて、ケーブル44を図7(c)の状態に遷移させる処理(ケーブルフォーミング)を正確に行うことができる。   Note that the robot controller 16 that has acquired the data of the spindle vector V (n) executes the processing after step S16 in FIG. Thereby, the robot 10 can accurately perform the process (cable forming) of transitioning the cable 44 to the state illustrated in FIG. 7C based on the accurately estimated position and posture of the cable.

なお、上記実施形態では、サーチボリューム設定部24、ケーブル断面・延伸方向算出部26、着目点更新部28、ケーブル形状推定部30を含んで、ケーブルの形状データを生成する処理部としての機能が実現されている。   In the above embodiment, the function as a processing unit for generating cable shape data including the search volume setting unit 24, the cable section / stretching direction calculating unit 26, the point of interest updating unit 28, and the cable shape estimating unit 30 is included. Has been realized.

以上、詳細に説明したように、本実施形態によると、ケーブル3Dデータ取得部20が、ケーブル44を撮影した3D画像から、ケーブル44の表面上の点の3D点群データを取得し、サーチボリューム設定部24が、3D画像からケーブル44の一端近傍において、サーチボリュームを設定(生成)する。また、ケーブル形状推定部30は、ケーブル断面・延伸方向算出部26の処理(主軸ベクトルの更新処理)と、サーチボリューム設定部24の処理(サーチボリュームを移動する処理)との繰り返し結果に基づいてケーブル44の形状データを生成(形状を推定)する。この場合、ケーブル断面・延伸方向算出部26は、特徴点に基づいてケーブルの曲げ半径rを算出し、該曲げ半径rが所定の閾値(最小曲げ半径R)未満の場合には、最新の主軸ベクトルを更新せず、サーチボリューム設定部24を介して、サーチボリュームを最新の主軸ベクトルの方向に所定距離だけスキップする。このように、ケーブルの曲げ半径rが最小曲げ半径R未満の場合に、最新の主軸ベクトルを更新しないこととしているので、ケーブルが交差する場合でも、追跡しているケーブルを正確に追跡し、形状を推定することができる。また、サーチボリュームをスキップすることにより、ケーブルを追跡する際の処理量(サーチボリュームを用いた楕円フィッティングの回数)を低減することができる。また、本実施形態では、3D点群データを用いた楕円フィッティングを行うことで、ケーブル44のエッジ部分を用いずにケーブル44の形状を一端近傍から延伸方向に沿って追跡することができる。したがって、ノイズ等の影響を受けずに、精度よくケーブル44の形状を特定することが可能となる。更に、精度よく特定された形状を用いることで、ケーブルフォーミングを正確に行うことができる。   As described above in detail, according to the present embodiment, the cable 3D data acquisition unit 20 acquires 3D point group data of points on the surface of the cable 44 from the 3D image obtained by capturing the cable 44, and sets the search volume. The setting unit 24 sets (generates) a search volume in the vicinity of one end of the cable 44 from the 3D image. Further, the cable shape estimating unit 30 is based on the repetition result of the processing of the cable section / stretching direction calculating unit 26 (main axis vector updating processing) and the processing of the search volume setting unit 24 (processing of moving the search volume). The shape data of the cable 44 is generated (shape is estimated). In this case, the cable section / stretching direction calculation unit 26 calculates the bending radius r of the cable based on the characteristic points, and when the bending radius r is smaller than a predetermined threshold (minimum bending radius R), the latest spindle. The search volume is skipped by a predetermined distance in the direction of the latest main axis vector via the search volume setting unit 24 without updating the vector. As described above, when the bending radius r of the cable is smaller than the minimum bending radius R, the latest main axis vector is not updated. Therefore, even if the cables intersect, the tracked cable can be accurately tracked and the shape can be determined. Can be estimated. Further, by skipping the search volume, it is possible to reduce the processing amount (the number of elliptical fittings using the search volume) when tracking the cable. Further, in the present embodiment, by performing the elliptical fitting using the 3D point cloud data, the shape of the cable 44 can be tracked from the vicinity of one end in the extending direction without using the edge portion of the cable 44. Therefore, the shape of the cable 44 can be accurately specified without being affected by noise or the like. Further, by using a shape specified with high accuracy, cable forming can be performed accurately.

また、本実施形態では、サーチボリュームをスキップさせる距離を、交差しているケーブルの直径Qと同一の距離としている。これにより、ケーブルの形状推定精度を落とさずに、処理量を低減することが可能となっている。   In the present embodiment, the distance for skipping the search volume is the same as the diameter Q of the intersecting cables. This makes it possible to reduce the amount of processing without lowering the accuracy of estimating the shape of the cable.

また、本実施形態では、ケーブル44の一端にコネクタ46Aが設けられ、ケーブル端点延伸方向計測部22は、3D画像から特定されるコネクタ46Aの位置及び姿勢に基づいて、ケーブルの一端近傍の着目点と延伸方向とを特定する。このように、定型の物体であるコネクタ46Aの位置及び姿勢を用いることで、不定形のケーブル44の一端近傍の着目点と延伸方向とを精度よく特定することができる。   In the present embodiment, a connector 46A is provided at one end of the cable 44, and the cable end point extension direction measuring unit 22 determines a point of interest near one end of the cable based on the position and orientation of the connector 46A specified from the 3D image. And the stretching direction. In this way, by using the position and orientation of the connector 46A, which is a fixed object, the point of interest near the one end of the indefinite cable 44 and the extension direction can be accurately specified.

また、本実施形態では、ケーブル形状推定部30は、ケーブル44の一端から所定長さ(m)を超える箇所の姿勢及や位置を推定する。これにより、ケーブルフォーミングに必要な情報を推定することができる。   Further, in the present embodiment, the cable shape estimating unit 30 estimates the posture and the position of a portion exceeding a predetermined length (m) from one end of the cable 44. This makes it possible to estimate information required for cable forming.

また、本実施形態では、着目点更新部28は、着目点を更新する際に、図12(a)に示すような小型サーチボリュームを用いる。これにより、主軸ベクトルが通る点や主軸ベクトルとの距離が最短である点などを新たな着目点とするような場合と比べ、簡易な処理で新たな着目点を設定することができる。   Further, in the present embodiment, the point of interest updating unit 28 uses a small search volume as shown in FIG. 12A when updating the point of interest. This makes it possible to set a new point of interest by simple processing compared to a case where a point through which the main axis vector passes or a point at which the distance from the main axis vector is the shortest is set as a new point of interest.

なお、上記実施形態では、3Dカメラ12を用いる場合について説明したが、これに限らず、2次元画像を撮影可能なカメラを用いることとしてもよい。この場合、2次元画像の色の濃淡や輝度等に基づいて、格子点に対応するケーブル表面の点の高さ位置を検出することで、3D点群データを生成することとしてもよい。   In the above embodiment, the case where the 3D camera 12 is used has been described. However, the present invention is not limited to this, and a camera capable of capturing a two-dimensional image may be used. In this case, the 3D point group data may be generated by detecting the height position of the point on the cable surface corresponding to the grid point based on the color density, brightness, and the like of the two-dimensional image.

なお、上記実施形態では、ケーブル44の両端にコネクタ46A,46Bが設けられている場合について説明したが、これに限られるものではない。すなわち、ケーブル44の両端は、プリント基板42等にはんだ付け等されてもよい。この場合、ケーブル44の端部がプリント基板42の面に対してほぼ垂直に接続される場合には、図8のステップS32において、ケーブル端点延伸方向計測部22は、ケーブル端の特徴点の延伸方向をプリント基板42の法線方向に設定してもよい。   In the above embodiment, the case where the connectors 46A and 46B are provided at both ends of the cable 44 has been described, but the present invention is not limited to this. That is, both ends of the cable 44 may be soldered to the printed circuit board 42 or the like. In this case, when the end of the cable 44 is connected substantially perpendicularly to the surface of the printed circuit board 42, in step S32 of FIG. The direction may be set to the normal direction of the printed circuit board 42.

なお、上記実施形態では、図20に示すように、サーチボリューム内の3D点群データの全てを用いて楕円フィッティングを行う場合について説明したが、これに限られるものではない。例えば、図23、図24に示すような方法で楕円フィッティングを行うこととしてもよい。   In the above embodiment, as shown in FIG. 20, the case where the elliptic fitting is performed using all the 3D point group data in the search volume has been described, but the present invention is not limited to this. For example, elliptical fitting may be performed by a method as shown in FIGS.

図23には、サーチボリューム(1)〜(5)が示され、図24(a)〜(e)には、サーチボリューム(1)〜(5)に対応する楕円フィッティングの例が示されている。   FIG. 23 shows search volumes (1) to (5), and FIGS. 24 (a) to (e) show examples of elliptic fitting corresponding to search volumes (1) to (5). I have.

図23において、(1)で示す位置にサーチボリュームがある場合、サーチボリューム内の3D点群データは、追跡しているケーブル上の点のデータであるので、図24(a)において破線で示すような楕円形状データが得られる。この場合の主軸ベクトルは、図24(a)においてV(s)で示されている。次いで、図23において(2)で示す位置にサーチボリュームが移動した場合、サーチボリューム内の3D点群データには、追跡しているケーブル上の点のデータ(●)と、交差しているケーブル上の点のデータ(△)が含まれている。この場合、楕円フィッティングの際にノイズ除去処理等を行うことにより、図24(b)に示すように、追跡しているケーブル断面の楕円フィッティングと交差しているケーブル断面の楕円フィッティングとを行うことができる。図24(b)においては、2つの楕円の特徴点のうち、ケーブル曲げ半径が大きくなる特徴点を有する方の楕円の主軸ベクトルV(s+1)を最新の主軸ベクトルとし、それ以外の主軸ベクトルV(k+1)は破棄する。   In FIG. 23, when the search volume is located at the position indicated by (1), the 3D point group data in the search volume is data of points on the tracked cable, and is indicated by a broken line in FIG. Such elliptical shape data is obtained. The main axis vector in this case is indicated by V (s) in FIG. Next, when the search volume moves to the position indicated by (2) in FIG. 23, the 3D point group data in the search volume includes the data (●) of the point on the tracked cable and the crossing cable. The data of the upper point (△) is included. In this case, by performing noise removal processing or the like at the time of the elliptical fitting, as shown in FIG. 24B, the elliptical fitting of the track cross section and the elliptical fitting of the intersecting cable cross section are performed. Can be. In FIG. 24 (b), among the two elliptical feature points, the principal axis vector V (s + 1) of the ellipse having the feature point with the larger cable bending radius is set as the latest principal axis vector, and the other principal axis vectors V (K + 1) is discarded.

次いで、図23において(3)で示す位置にサーチボリュームが移動した場合、サーチボリューム内の3D点群データには、交差しているケーブル上の点のデータ(△)のみが含まれている。この場合、3D点群データを楕円フィッティングすると図24(c)において破線で示すような楕円形状データが得られ、主軸ベクトルV(k+2)が得られる。ただし、この場合には、主軸ベクトルV(k+2)の方向が最新の主軸ベクトルV(s+1)と比べて極端に異なっており、曲げ半径rが最小曲げ半径R未満になる(S104:否定)ので、主軸ベクトルV(k+2)は破棄して、V(s+1)を最新の主軸ベクトルとする(S106)。また、サーチボリュームについては、主軸ベクトルV(s+1)の方向に沿って所定距離だけスキップさせ、図23において(4)で示す位置に移動させる(S110)。   Next, when the search volume moves to the position indicated by (3) in FIG. 23, the 3D point group data in the search volume includes only data (△) of points on the intersecting cable. In this case, when the 3D point group data is subjected to elliptic fitting, elliptical shape data as indicated by a broken line in FIG. 24C is obtained, and a main axis vector V (k + 2) is obtained. However, in this case, the direction of the main axis vector V (k + 2) is extremely different from the latest main axis vector V (s + 1), and the bending radius r becomes smaller than the minimum bending radius R (S104: No). , The main axis vector V (k + 2) is discarded, and V (s + 1) is set as the latest main axis vector (S106). Further, the search volume is skipped by a predetermined distance along the direction of the main axis vector V (s + 1), and is moved to the position indicated by (4) in FIG. 23 (S110).

次いで、図23において(4)で示す位置にサーチボリュームが移動した場合、サーチボリューム内の3D点群データには、追跡しているケーブル上の点のデータ(●)と、交差しているケーブル上の点のデータ(△)が含まれている。この場合、楕円フィッティングの際にノイズ除去処理等を行うことにより、図24(d)に示すように、追跡しているケーブル断面の楕円フィッティングと交差しているケーブル断面の楕円フィッティングとを行うことができる。図24(d)においては、2つの楕円の特徴点のうち、ケーブル曲げ半径が大きくなる特徴点を有する方の楕円の主軸ベクトルV(s+3)を最新の主軸ベクトルとし、それ以外の主軸ベクトルV(k+3)は破棄する。   Next, when the search volume moves to the position indicated by (4) in FIG. 23, the 3D point group data in the search volume includes the data (●) of the point on the tracked cable and the crossing cable. The data of the upper point (△) is included. In this case, by performing noise removal processing or the like at the time of the elliptical fitting, as shown in FIG. 24D, the elliptical fitting of the track cross section and the elliptical fitting of the crossing cable cross section are performed. Can be. In FIG. 24D, among the two elliptical feature points, the principal axis vector V (s + 3) of the ellipse having the feature point with the larger cable bending radius is set as the latest principal axis vector, and the other principal axis vectors V (K + 3) is discarded.

次いで、図23において(5)で示す位置にサーチボリュームが移動した場合、サーチボリューム内の3D点群データは、追跡しているケーブル上の点のデータであるので、図24(e)において破線で示すような楕円形状データが得られる。この場合の主軸ベクトルは、図24(a)においてV(s+4)で示されている。この場合、主軸ベクトルV(s+4)の方向がV(s+3)と近似し、曲げ半径rが最小曲げ半径R以上になる(S104:肯定)ので、主軸ベクトルV(s+4)を最新の主軸ベクトルとする。   Next, when the search volume moves to the position indicated by (5) in FIG. 23, the 3D point group data in the search volume is data of a point on the tracked cable, and thus the broken line in FIG. The elliptical shape data as shown by is obtained. The main axis vector in this case is indicated by V (s + 4) in FIG. In this case, the direction of the main axis vector V (s + 4) is close to V (s + 3), and the bending radius r is equal to or larger than the minimum bending radius R (S104: Yes). I do.

以上のようなノイズ除去処理等を用いた楕円フィッティングを行うこととしても、上記実施形態と同様、ケーブルが交差している場合に、正確にケーブルを追跡することができる。   Even when the elliptical fitting using the above-described noise removal processing or the like is performed, similarly to the above-described embodiment, when the cables cross, the cables can be accurately tracked.

なお、上記実施形態では、特徴点を楕円の最高点とする場合について説明したが、これに限らず、特徴点は、その他の所定条件を満たす点(例えば楕円の中心点など)であってもよい。   In the above embodiment, the case where the characteristic point is the highest point of the ellipse has been described. However, the present invention is not limited to this. Good.

なお、上記の処理機能は、コンピュータによって実現することができる。その場合、処理装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体(ただし、搬送波は除く)に記録しておくことができる。   Note that the above processing functions can be realized by a computer. In this case, a program describing the processing contents of the functions that the processing device should have is provided. By executing the program on a computer, the processing functions are realized on the computer. The program describing the processing content can be recorded on a computer-readable recording medium (excluding a carrier wave).

プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD−ROM(Compact Disc Read Only Memory)などの可搬型記録媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。   When the program is distributed, it is sold in the form of a portable recording medium such as a DVD (Digital Versatile Disc) or a CD-ROM (Compact Disc Read Only Memory) on which the program is recorded. Alternatively, the program may be stored in a storage device of a server computer, and the program may be transferred from the server computer to another computer via a network.

プログラムを実行するコンピュータは、例えば、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。   The computer that executes the program stores, for example, the program recorded on the portable recording medium or the program transferred from the server computer in its own storage device. Then, the computer reads the program from its own storage device and executes processing according to the program. Note that the computer can also read the program directly from the portable recording medium and execute processing according to the program. Further, the computer can also execute processing in accordance with the received program each time the program is transferred from the server computer.

上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。   The above embodiment is a preferred embodiment of the present invention. However, the present invention is not limited to this, and various modifications can be made without departing from the spirit of the present invention.

なお、以上の実施形態の説明に関して、更に以下の付記を開示する。
(付記1) 電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する処理部と、
前記処理部の生成結果に基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
を備え、
前記処理部は、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、該特徴点と前記延伸方向を前記形状データの生成に使用せず、前記空間データを破棄されていない最新の延伸方向に沿って所定距離移動する、
ことを特徴とする電子機器の製造装置。
(付記2) 前記ケーブルは垂直断面の形状が円形であり、
前記所定距離は、前記垂直断面の直径と同一の距離であることを特徴とする付記1に記載の電子機器の製造装置。
(付記3) 前記処理部は、前記曲げ半径が所定の閾値未満の場合に、前記画像データから前記ケーブルと交差するケーブルのエッジ部分を特定し、特定した前記エッジ部分に基づく距離だけ前記空間データを移動する、ことを特徴とする付記1に記載の電子機器の製造装置。
(付記4) 前記処理部は、
前記曲げ半径が所定の閾値以上であった場合に特定された特徴点を記憶部に記憶しておき、
前記記憶部に記憶されている特徴点のうち、直前に記憶された2以上の特徴点と、新たに特定された前記特徴点とに基づいて前記ケーブルの曲げ半径を算出する、ことを特徴とする付記1〜3のいずれかに記載の電子機器の製造装置。
(付記5) 電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する処理部と、
前記処理部の生成結果に基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
を備え、
前記処理部は、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、前記特徴点と前記延伸方向とを前記形状データの生成に使用しない、
ことを特徴とする電子機器の製造装置。
(付記6) 前記処理部は、
前記曲げ半径が所定の閾値以上であった場合に特定された特徴点を記憶部に記憶しておき、
前記記憶部に記憶されている特徴点のうち、直前に記憶された2以上の特徴点と、新たに特定された前記特徴点とに基づいて前記ケーブルの曲げ半径を算出する、ことを特徴とする付記5に記載の電子機器の製造装置。
(付記7) ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する、
処理をコンピュータに実行させ、
前記ケーブルの形状データを生成する処理では、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、該特徴点と前記延伸方向を前記形状データの生成に使用せず、前記空間データを破棄されていない最新の延伸方向に沿って所定距離移動する、
ことを特徴とするケーブル形状推定プログラム。
(付記8) 前記ケーブルは垂直断面の形状が円形であり、
前記所定距離は、前記垂直断面の直径と同一の距離であることを特徴とする付記7に記載のケーブル形状推定プログラム。
(付記9) 前記ケーブルの形状データを生成する処理において、前記曲げ半径が所定の閾値未満の場合に、前記画像データから前記ケーブルと交差するケーブルのエッジ部分を特定し、特定した前記エッジ部分に基づく距離だけ前記空間データを移動する、ことを特徴とする付記7に記載のケーブル形状推定プログラム。
(付記10) 前記ケーブルの形状データを生成する処理において、
前記曲げ半径が所定の閾値以上であった場合に特定された特徴点を記憶部に記憶しておき、
前記記憶部に記憶されている特徴点のうち、直前に記憶された2以上の特徴点と、新たに特定された前記特徴点とに基づいて前記ケーブルの曲げ半径を算出する、ことを特徴とする付記7〜9のいずれかに記載のケーブル形状推定プログラム。
(付記11) ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する、
処理をコンピュータに実行させ、
前記ケーブルの形状データを生成する処理では、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、前記特徴点と前記延伸方向とを前記形状データの生成に使用しない、
ことを特徴とするケーブル形状推定プログラム。
In addition, regarding the description of the above embodiments, the following supplementary notes are further disclosed.
(Supplementary Note 1) A three-dimensional position of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable in a state where the cable is connected to a part of an electronic device. An acquisition unit for acquiring data;
A setting unit that generates spatial data having a predetermined width in a direction in which the cable extends in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and A processing unit that specifies a feature point that satisfies a predetermined condition, moves the spatial data based on the specified feature point and the extending direction, repeatedly executes a process, and generates shape data of the cable from a processing result; ,
A control unit that causes the gripping device to grip the cable based on a generation result of the processing unit, and moves the gripping device to move the cable.
With
The processing unit uses the characteristic point and the stretching direction to generate the shape data when the bending radius of the cable calculated based on the characteristic point of the specified cross-sectional shape data is less than a predetermined threshold. Without moving the spatial data a predetermined distance along the latest stretching direction that has not been discarded,
An apparatus for manufacturing an electronic device, comprising:
(Supplementary Note 2) The cable has a circular vertical cross section,
The apparatus according to claim 1, wherein the predetermined distance is the same as a diameter of the vertical section.
(Supplementary Note 3) When the bending radius is smaller than a predetermined threshold, the processing unit specifies an edge portion of the cable that intersects with the cable from the image data, and determines the spatial data by a distance based on the specified edge portion. 3. The apparatus for manufacturing an electronic device according to claim 1, further comprising:
(Supplementary Note 4) The processing unit includes:
The feature point specified when the bending radius is equal to or larger than a predetermined threshold is stored in the storage unit,
Among the feature points stored in the storage unit, the bending radius of the cable is calculated based on two or more feature points stored immediately before and the newly specified feature point, The apparatus for manufacturing an electronic device according to any one of Supplementary Notes 1 to 3.
(Supplementary Note 5) A three-dimensional position of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable in a state where the cable is connected to a part of an electronic device. An acquisition unit for acquiring data;
A setting unit that generates spatial data having a predetermined width in a direction in which the cable extends in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and A processing unit that specifies a feature point that satisfies a predetermined condition, moves the spatial data based on the specified feature point and the extending direction, repeatedly executes a process, and generates shape data of the cable from a processing result; ,
A control unit that causes the gripping device to grip the cable based on a generation result of the processing unit, and moves the gripping device to move the cable.
With
The processing unit, when the bending radius of the cable calculated based on the identified feature point of the cross-sectional shape data is less than a predetermined threshold, the feature point and the stretching direction to generate the shape data do not use,
An apparatus for manufacturing an electronic device, comprising:
(Supplementary Note 6) The processing unit includes:
The feature point specified when the bending radius is equal to or larger than a predetermined threshold is stored in the storage unit,
Among the feature points stored in the storage unit, the bending radius of the cable is calculated based on two or more feature points stored immediately before and the newly specified feature point, 6. The electronic device manufacturing apparatus according to supplementary note 5, wherein
(Supplementary Note 7) Acquiring three-dimensional position data of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable;
Generate spatial data having a predetermined width in the extending direction of the cable in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and Identifying a feature point that satisfies a predetermined condition, moving the spatial data based on the identified feature point and the extending direction, repeatedly executing a process, and generating shape data of the cable from a processing result,
Let the computer execute the process,
In the process of generating the shape data of the cable, when the bending radius of the cable calculated based on the feature point of the identified cross-sectional shape data is less than a predetermined threshold, the feature point and the stretching direction Move a predetermined distance along the latest stretching direction that is not used for generating shape data and the spatial data is not discarded,
A cable shape estimation program characterized by the above-mentioned.
(Supplementary Note 8) The cable has a circular vertical cross section,
The cable shape estimation program according to claim 7, wherein the predetermined distance is the same distance as a diameter of the vertical section.
(Supplementary Note 9) In the process of generating the shape data of the cable, when the bending radius is smaller than a predetermined threshold, an edge portion of the cable intersecting with the cable is specified from the image data, and the specified edge portion is determined. The cable shape estimation program according to claim 7, wherein the space data is moved by a distance based on the distance.
(Supplementary Note 10) In the process of generating the shape data of the cable,
The feature point specified when the bending radius is equal to or larger than a predetermined threshold is stored in the storage unit,
Among the feature points stored in the storage unit, the bending radius of the cable is calculated based on two or more feature points stored immediately before and the newly specified feature point, 10. The cable shape estimation program according to any one of supplementary notes 7 to 9.
(Supplementary Note 11) Acquiring three-dimensional position data of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable;
Generate spatial data having a predetermined width in the extending direction of the cable in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, the extending direction of the cable is specified based on the cross-sectional shape data, and the cross-sectional shape data is included. Identifying a feature point that satisfies a predetermined condition, moving the spatial data based on the identified feature point and the extending direction, repeatedly executing a process, and generating shape data of the cable from a processing result,
Let the computer execute the process,
In the process of generating the shape data of the cable, when the bending radius of the cable calculated based on the feature point of the specified cross-sectional shape data is less than a predetermined threshold, the feature point and the stretching direction Not used to generate the shape data,
A cable shape estimation program characterized by the above-mentioned.

10 ロボット(把持装置)
16 ロボットコントローラ(制御部)
20 ケーブル3Dデータ取得部(取得部)
24 サーチボリューム設定部(設定部)
26 ケーブル断面・延伸方向算出部(処理部の一部)
28 着目点更新部(処理部の一部)
30 ケーブル形状推定部(処理部の一部)
36 データ格納部(記憶部)
44 ケーブル
100 電子機器の製造装置
10 Robot (gripping device)
16 Robot controller (control unit)
20 Cable 3D data acquisition unit (acquisition unit)
24 Search volume setting section (setting section)
26 Cable section / stretch direction calculation unit (part of processing unit)
28 Point-of-interest update unit (part of the processing unit)
30 Cable shape estimation unit (part of processing unit)
36 Data storage unit (storage unit)
44 Cable 100 Electronic equipment manufacturing equipment

Claims (7)

電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する処理部と、
前記処理部の生成結果に基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
を備え、
前記処理部は、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、該特徴点と前記延伸方向に基づいて前記空間データを移動せず、前記空間データの前回の移動に使用した延伸方向に沿って、前記空間データ所定距離移動する、
ことを特徴とする電子機器の製造装置。
With a cable connected to a part of an electronic device, three-dimensional position data of a point on the surface of the cable corresponding to a grid point in a two-dimensional plane is obtained from image data obtained by photographing the cable. An acquisition unit;
A setting unit that generates spatial data having a predetermined width in a direction in which the cable extends in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and A processing unit that specifies a feature point that satisfies a predetermined condition, moves the spatial data based on the specified feature point and the extending direction, repeatedly executes a process, and generates shape data of the cable from a processing result; ,
A control unit that causes the gripping device to grip the cable based on a generation result of the processing unit, and moves the gripping device to move the cable.
With
The processing unit moves the spatial data based on the characteristic point and the extending direction when a bending radius of the cable calculated based on the characteristic point of the specified cross-sectional shape data is less than a predetermined threshold. Without moving the spatial data a predetermined distance along the stretching direction used for the previous movement of the spatial data,
An apparatus for manufacturing an electronic device, comprising:
前記ケーブルは垂直断面の形状が円形であり、
前記所定距離は、前記垂直断面の直径と同一の距離であることを特徴とする請求項1に記載の電子機器の製造装置。
The cable has a circular vertical cross section,
The apparatus according to claim 1, wherein the predetermined distance is the same as a diameter of the vertical cross section.
前記処理部は、前記曲げ半径が所定の閾値未満の場合に、前記画像データから前記ケーブルと交差するケーブルのエッジ部分を特定し、特定した前記エッジ部分に基づく距離だけ前記空間データを移動する、ことを特徴とする請求項1に記載の電子機器の製造装置。   The processing unit, when the bending radius is less than a predetermined threshold, specifies an edge portion of the cable that intersects with the cable from the image data, moves the spatial data by a distance based on the specified edge portion, The electronic device manufacturing apparatus according to claim 1, wherein: 前記処理部は、
前記曲げ半径が所定の閾値以上であった場合に特定された特徴点を記憶部に記憶しておき、
前記記憶部に記憶されている特徴点のうち、直前に記憶された2以上の特徴点と、新たに特定された前記特徴点とに基づいて前記ケーブルの曲げ半径を算出する、ことを特徴とする請求項1〜3のいずれか一項に記載の電子機器の製造装置。
The processing unit includes:
The feature point specified when the bending radius is equal to or larger than a predetermined threshold is stored in the storage unit,
Among the feature points stored in the storage unit, the bending radius of the cable is calculated based on two or more feature points stored immediately before and the newly specified feature point, The apparatus for manufacturing an electronic device according to claim 1.
電子機器の部品の一部にケーブルが接続された状態で、前記ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得する取得部と、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成する設定部と、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する処理部と、
前記処理部の生成結果に基づいて把持装置に前記ケーブルを把持させ、前記把持装置を移動させて前記ケーブルを移動させる制御部と、
を備え、
前記処理部は、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、前記特徴点と前記延伸方向とを前記形状データの生成に使用しない、
ことを特徴とする電子機器の製造装置。
With a cable connected to a part of an electronic device, three-dimensional position data of a point on the surface of the cable corresponding to a grid point in a two-dimensional plane is obtained from image data obtained by photographing the cable. An acquisition unit;
A setting unit that generates spatial data having a predetermined width in a direction in which the cable extends in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and A processing unit that specifies a feature point that satisfies a predetermined condition, moves the spatial data based on the specified feature point and the extending direction, repeatedly executes a process, and generates shape data of the cable from a processing result; ,
A control unit that causes the gripping device to grip the cable based on a generation result of the processing unit, and moves the gripping device to move the cable.
With
The processing unit, when the bending radius of the cable calculated based on the identified feature point of the cross-sectional shape data is less than a predetermined threshold, the feature point and the stretching direction to generate the shape data do not use,
An apparatus for manufacturing an electronic device, comprising:
ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する、
処理をコンピュータに実行させ、
前記ケーブルの形状データを生成する処理では、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、該特徴点と前記延伸方向に基づいて前記空間データを移動せず、前記空間データの前回の移動に使用した延伸方向に沿って、前記空間データ所定距離移動する、
ことを特徴とするケーブル形状推定プログラム。
Acquiring three-dimensional position data of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable;
Generate spatial data having a predetermined width in the extending direction of the cable in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and Identifying a feature point that satisfies a predetermined condition, moving the spatial data based on the identified feature point and the extending direction, repeatedly executing a process, and generating shape data of the cable from a processing result,
Let the computer execute the process,
In the process of generating the shape data of the cable, when the bending radius of the cable calculated based on the feature point of the specified cross-sectional shape data is less than a predetermined threshold, the process is performed based on the feature point and the stretching direction . Move the spatial data a predetermined distance along the stretching direction used for the previous movement of the spatial data without moving the spatial data,
A cable shape estimation program characterized by the above-mentioned.
ケーブルを撮影した画像データから、2次元面内の格子点に対応する前記ケーブルの表面上の点の3次元位置データを取得し、
前記ケーブルの一端部近傍において前記ケーブルの延伸方向に所定幅を有する空間データを生成し、
前記空間データ内に存在する前記3次元位置データが取得された点から前記ケーブルの断面形状データを生成し、該断面形状データに基づいて前記ケーブルの延伸方向を特定するとともに前記断面形状データのうち所定条件を満たす特徴点を特定し、特定した前記特徴点と前記延伸方向に基づいて前記空間データを移動する、処理を繰り返し実行して、処理結果から前記ケーブルの形状データを生成する、
処理をコンピュータに実行させ、
前記ケーブルの形状データを生成する処理では、特定した前記断面形状データの特徴点に基づいて算出した前記ケーブルの曲げ半径が所定の閾値未満であった場合に、前記特徴点と前記延伸方向とを前記形状データの生成に使用しない、
ことを特徴とするケーブル形状推定プログラム。
Acquiring three-dimensional position data of a point on the surface of the cable corresponding to a lattice point in a two-dimensional plane from image data obtained by photographing the cable;
Generate spatial data having a predetermined width in the extending direction of the cable in the vicinity of one end of the cable,
The cross-sectional shape data of the cable is generated from the point at which the three-dimensional position data present in the spatial data is obtained, and the extending direction of the cable is specified based on the cross-sectional shape data, and Identifying a feature point that satisfies a predetermined condition, moving the spatial data based on the identified feature point and the extending direction, repeatedly executing a process, and generating shape data of the cable from a processing result,
Let the computer execute the process,
In the process of generating the shape data of the cable, when the bending radius of the cable calculated based on the feature point of the identified cross-sectional shape data is less than a predetermined threshold, the feature point and the stretching direction Not used to generate the shape data,
A cable shape estimation program characterized by the above-mentioned.
JP2016141642A 2016-07-19 2016-07-19 Electronic device manufacturing apparatus and cable shape estimation program Active JP6677113B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016141642A JP6677113B2 (en) 2016-07-19 2016-07-19 Electronic device manufacturing apparatus and cable shape estimation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016141642A JP6677113B2 (en) 2016-07-19 2016-07-19 Electronic device manufacturing apparatus and cable shape estimation program

Publications (2)

Publication Number Publication Date
JP2018014362A JP2018014362A (en) 2018-01-25
JP6677113B2 true JP6677113B2 (en) 2020-04-08

Family

ID=61021337

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016141642A Active JP6677113B2 (en) 2016-07-19 2016-07-19 Electronic device manufacturing apparatus and cable shape estimation program

Country Status (1)

Country Link
JP (1) JP6677113B2 (en)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7196631B2 (en) * 2019-01-23 2022-12-27 日本電気株式会社 WIRING WORK INSPECTION SYSTEM, INFORMATION PROCESSING DEVICE, WIRING WORK INSPECTION METHOD, AND PROGRAM
WO2023199623A1 (en) * 2022-04-13 2023-10-19 ソニーグループ株式会社 Information processing device and information processing method
CN115908431B (en) * 2023-03-09 2023-05-16 国网山东省电力公司东营供电公司 Cable positioning and storing method for power transmission and transformation project

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0374900A (en) * 1989-08-15 1991-03-29 Yutaka Arima Electric circuit three-dimensional automatic wiring
JPH06274613A (en) * 1993-03-19 1994-09-30 Fujitsu Ltd Curve approximating device
JP2004005061A (en) * 2002-05-30 2004-01-08 Yaskawa Electric Corp Object detection method
JP4421203B2 (en) * 2003-03-20 2010-02-24 株式会社東芝 Luminous structure analysis processing device
US7756308B2 (en) * 2005-02-07 2010-07-13 Stereotaxis, Inc. Registration of three dimensional image data to 2D-image-derived data
JP4285486B2 (en) * 2006-01-31 2009-06-24 住友電気工業株式会社 Cable shape state measuring method, cable shape state measuring system used therefor, cable shape state measuring program, cable state evaluating method
JP5046133B2 (en) * 2009-07-09 2012-10-10 独立行政法人産業技術総合研究所 3D curved surface recognition method and manipulation system
JP5919949B2 (en) * 2012-03-28 2016-05-18 住友電気工業株式会社 Cable analysis system, cable analysis method, and computer program
JPWO2013187204A1 (en) * 2012-06-13 2016-02-04 株式会社島精機製作所 Synthetic parameter generator for 3D measuring device
JP6003531B2 (en) * 2012-10-25 2016-10-05 富士通株式会社 Information processing apparatus, drawing method, and program

Also Published As

Publication number Publication date
JP2018014362A (en) 2018-01-25

Similar Documents

Publication Publication Date Title
US10810734B2 (en) Computer aided rebar measurement and inspection system
JP5726378B2 (en) Method for estimating the pose of an object
US9302391B2 (en) Object gripping apparatus, method of controlling the same and storage medium
JP6677113B2 (en) Electronic device manufacturing apparatus and cable shape estimation program
US11667036B2 (en) Workpiece picking device and workpiece picking method
CN109598264B (en) Object grabbing method and device
JP6192088B2 (en) Object detection method and object detection apparatus
JP2011179907A (en) Device and method for measuring position and attitude, and program
US10957067B2 (en) Control apparatus, object detection system, object detection method and program
US10740649B2 (en) Object attitude detection device, control device, and robot system
EP4166281A1 (en) Method and apparatus for robot to grab three-dimensional object
JP2008217544A (en) Object detection method, object detector, and robot provided with the same
JP2019213082A (en) Sensor control device, object search system, object search method, and program
JP2006244074A (en) Moving object close-up frame detection method and program, storage medium storing program, moving object close-up shot detection method, moving object close-up frame or shot detection method and program, and storage medium storing program
JP6922348B2 (en) Information processing equipment, methods, and programs
JP6729092B2 (en) Electronic equipment manufacturing device and cable shape estimation program
JP2009229226A (en) Object detection device and method for detecting object
JP2018195070A (en) Information processing apparatus, information processing method, and program
CN116160458B (en) Multi-sensor fusion rapid positioning method, equipment and system for mobile robot
JP2010145219A (en) Movement estimation device and program
CN104346797A (en) Key pixel point matching method and device, and image matching method and device
JP2020071739A (en) Image processing apparatus
JP2018059767A (en) Image processing device, image processing method and program
JP2013037658A (en) Edge detection device and program thereof
JP5716434B2 (en) Shape recognition device, shape recognition method, and program thereof

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190409

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191125

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200107

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200212

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200225

R150 Certificate of patent or registration of utility model

Ref document number: 6677113

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150