JPWO2008026722A1 - 3次元モデルデータ生成方法及び3次元モデルデータ生成装置 - Google Patents

3次元モデルデータ生成方法及び3次元モデルデータ生成装置 Download PDF

Info

Publication number
JPWO2008026722A1
JPWO2008026722A1 JP2008532130A JP2008532130A JPWO2008026722A1 JP WO2008026722 A1 JPWO2008026722 A1 JP WO2008026722A1 JP 2008532130 A JP2008532130 A JP 2008532130A JP 2008532130 A JP2008532130 A JP 2008532130A JP WO2008026722 A1 JPWO2008026722 A1 JP WO2008026722A1
Authority
JP
Japan
Prior art keywords
model data
machine tool
dimensional
attachment
shape feature
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2008532130A
Other languages
English (en)
Other versions
JP5049975B2 (ja
Inventor
シャオドン ティアン
シャオドン ティアン
藤嶋 誠
誠 藤嶋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
DMG Mori Co Ltd
Original Assignee
DMG Mori Co Ltd
Mori Seiki Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by DMG Mori Co Ltd, Mori Seiki Co Ltd filed Critical DMG Mori Co Ltd
Publication of JPWO2008026722A1 publication Critical patent/JPWO2008026722A1/ja
Application granted granted Critical
Publication of JP5049975B2 publication Critical patent/JP5049975B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/50Depth or shape recovery
    • G06T7/55Depth or shape recovery from multiple images
    • G06T7/593Depth or shape recovery from multiple images from stereo images
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/35Nc in input of data, input till input file format
    • G05B2219/35074Display object, recognition of geometric forms
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/35Nc in input of data, input till input file format
    • G05B2219/35493Display workpiece and tool data together
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37563Ccd, tv camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Abstract

本発明は、工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを正確且つ効率的に生成することができる3次元モデルデータ生成装置などに関する。3次元モデルデータ生成装置(1)は、所定間隔を隔てて配置され、工作機械に取り付けられた被取付物を撮像して2次元画像データを生成するCCDカメラ(13,14)と、被取付物のモデルデータを記憶する第1モデルデータ記憶部(19)と、少なくとも工作機械の一部に係るモデルデータを記憶する第2モデルデータ記憶部(21)と、エッジを検出するエッジ検出部(17)と、形状特徴を認識する形状特徴認識部(18)と、認識された形状特徴を備えた被取付物のモデルデータを認識するオブジェクト認識部(20)と、認識された被取付物のモデルデータ及び工作機械のモデルデータを基に、被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成するモデルデータ生成部(22)とを備える。

Description

本発明は、工作機械に取り付けられたワークやワーク取付具などの被取付物、及び少なくとも工作機械の一部を含む3次元モデルデータを生成する3次元モデルデータ生成方法及び生成装置に関する。
工作機械は、例えば、ワーク取付具によって上面にワークが載置,固定されるテーブルと、工具を保持する主軸と、テーブル及び主軸(ワーク及び工具)を相対移動させる駆動機構部と、予め作成されたNCプログラムに基づいて駆動機構部を制御する制御装置などから構成される。
前記NCプログラムは、オペレータやプログラミング装置などによって作成されるものであるが、これに誤りがあると、工具とワーク又はワーク取付具とが干渉するといった事故が起こる恐れがある。このため、特開2006−4128号公報に開示されているように、工作機械の3次元モデルデータを用いてコンピュータ上で干渉シミュレーションを行うことによりNCプログラムに誤りがあるか否かを確認している。
特開2006−4128号公報
ところで、3次元モデルデータを用いた干渉シミュレーションでは、加工対象となるワーク(テーブル上のワーク)やこれを取り付けるためのワーク取付具を変更すると、これに合わせて、工作機械の3次元モデルデータの少なくともワーク部分やワーク取付具部分を修正,更新しなければならない。
しかしながら、ワークやワーク取付具などの被取付物の3次元モデルデータを新規に作成し、作成した3次元モデルデータを用いて工作機械の3次元モデルデータを修正,更新していたのでは、非効率である。また、修正,更新に使用される被取付物の3次元モデルデータは、例えば、これを作成したオペレータのミスや、被取付物の3次元モデルデータ作成後における設計変更などによって実際の形状と一致していないことがあり、このような場合には、正確な干渉シミュレーションを行うことができない。また、更に、工作機械の3次元モデル上における被取付物の取付状態と実際の取付状態とが異なっている場合もあり、このような場合にも干渉シミュレーションを正確に行うことができない。
したがって、工作機械の実際の状態に即した3次元モデルデータを容易且つ効率的に生成することができれば好都合である。
本発明は、以上の実情に鑑みなされたものであって、工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを正確且つ効率的に生成することができる3次元モデルデータ生成方法及び生成装置の提供をその目的とする。
上記目的を達成するための本発明は、
工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを生成する方法であって、
前記少なくとも工作機械の一部及び前記工作機械に取り付けられる被取付物の3次元モデルに関するデータであり、これらの形状を定義する形状データを少なくとも含んだモデルデータをそれぞれ記憶手段に格納する第1工程と、
撮像手段を用いて、前記工作機械に取り付けられた被取付物を、第1視点及びこれと離れた第2視点の2つの視点から撮像し、各視点における2次元画像データを生成する第2工程と、
前記第2工程で生成した2つの2次元画像データを基に前記被取付物の形状特徴を認識する第3工程と、
前記第3工程で認識した形状特徴及び前記記憶手段に格納した被取付物のモデルデータを基に、この形状特徴を備えた被取付物のモデルデータを認識する第4工程と、
前記第3工程及び第4工程でそれぞれ認識した形状特徴及びモデルデータを基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における位置及び姿勢を算出した後、算出した位置及び姿勢、前記第4工程で認識したモデルデータ、並びに前記記憶手段に格納した前記少なくとも工作機械の一部に係るモデルデータを基に、前記被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成する第5工程とを順次行うようにしたことを特徴とする3次元モデルデータ生成方法に係る。
そして、このモデルデータ生成方法は、以下のモデルデータ生成装置によってこれを好適に実施することができる。
即ち、このモデルデータ生成装置は、
工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを生成する装置であって、
前記工作機械に取り付けられた被取付物を撮像して2次元画像データを生成する第1撮像手段と、
前記第1撮像手段と間隔を隔てて配置され、前記工作機械に取り付けられた被取付物を撮像して2次元画像データを生成する第2撮像手段と、
前記工作機械に取り付けられる被取付物の3次元モデルに関するデータであり、この被取付物の形状を定義する形状データを少なくとも含んだモデルデータを記憶する第1モデルデータ記憶手段と、
前記少なくとも工作機械の一部に係る3次元モデルに関するデータであり、少なくとも工作機械の一部に係る形状を定義する形状データを少なくとも含んだモデルデータを記憶する第2モデルデータ記憶手段と、
前記第1撮像手段及び第2撮像手段によってそれぞれ生成された2次元画像データを基に前記被取付物の形状特徴を認識する画像処理手段と、
前記第1モデルデータ記憶手段に格納されたモデルデータ、及び前記画像処理手段によって認識された形状特徴を基に、この形状特徴を備えた被取付物のモデルデータを認識するオブジェクト認識手段と、
前記オブジェクト認識手段によって認識されたモデルデータ、及び前記画像処理手段によって認識された形状特徴を基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における位置及び姿勢を算出した後、算出した位置及び姿勢、前記オブジェクト認識手段によって認識されたモデルデータ、並びに前記第2モデルデータ記憶手段に格納されたモデルデータを基に、前記被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成するモデルデータ生成手段とを備えてなることを特徴とする3次元モデルデータ生成装置に係る。
この3次元モデルデータ生成装置によれば、第1モデルデータ記憶手段に、工作機械に取り付けられる被取付物のモデルデータ(3次元モデルデータ)が、第2モデルデータ記憶手段に、少なくとも工作機械の一部に係るモデルデータ(3次元モデルデータ)(例えば、ワークが載置されるテーブルを少なくとも含むマシニングセンタのモデルデータ、或いはワークを保持する主軸を少なくとも含む旋盤のモデルデータ)が予め格納される。尚、第1モデルデータ記憶手段には、1種類の被取付物についてのみモデルデータが格納されていても、工作機械に取り付けられる可能性のある複数の被取付物についてモデルデータが格納されていても良い。また、前記被取付物としては、例えば、ワークやワーク取付具などを挙げることができるが、これらに限定されるものではない。前記被取付物を、ワークやワーク取付具とした場合、前記第1モデルデータ記憶手段には、ワークのモデルデータ、ワーク取付具のモデルデータ、ワーク及びワーク取付具が一体的に構成されたモデルデータの内の少なくとも1つが格納される。
第1撮像手段及び第2撮像手段によって、工作機械に取り付けられた被取付物が撮像され、2次元画像データが生成されると、それぞれ生成された2次元画像データを基に、画像処理手段によって被取付物の形状特徴が認識される。この後、オブジェクト認識手段によって、第1モデルデータ記憶手段に格納されたモデルデータ、及び画像処理手段によって認識された形状特徴を基に、この形状特徴を備えた被取付物のモデルデータが認識される。
ついで、モデルデータ生成手段によって、まず、オブジェクト認識手段によって認識されたモデルデータ、及び画像処理手段によって認識された形状特徴を基に、被取付物3次元モデルの、工作機械3次元モデル上における位置及び姿勢が算出された後、算出された位置及び姿勢、オブジェクト認識手段によって認識されたモデルデータ、並びに第2モデルデータ記憶手段に格納されたモデルデータを基に、被取付物と少なくとも工作機械の一部とを含む3次元モデルデータが生成される。
斯くして、本発明に係る3次元モデルデータ生成方法及び生成装置によれば、撮像手段から得られる2次元画像データを基に、工作機械に取り付けられた被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成しているので、被取付物の形状,取付位置及び取付姿勢が実際の状態に合った正確な3次元モデルデータを容易且つ効率的に生成することができる。また、工作機械の実際の状態に即した3次元モデルデータを用いて干渉シミュレーションを行うことが可能となり、高精度なシミュレーション結果を得ることができる。
尚、前記画像処理手段は、前記第1撮像手段及び第2撮像手段によってそれぞれ生成された2次元画像データを基に前記被取付物のコーナを抽出して、抽出したコーナ間を結ぶエッジを検出することにより、前記各2次元画像における前記被取付物のエッジをそれぞれ検出するエッジ検出手段と、前記エッジ検出手段によって検出された各2次元画像におけるエッジを基にこの2次元画像間におけるエッジの対応関係を求め、対応関係があると判断したエッジを基に被取付物の形状特徴を認識する形状特徴認識手段とから構成されていても良い。
この場合、被取付物のコーナを抽出するに当たっては、例えば、まず、各2次元画像において、被取付物を含む、撮像された対象物のコーナを検出した後、検出したコーナと、被取付物が工作機械に取り付けられていないときに撮像される対象物のコーナとを比較することで、被取付物のコーナのみを抽出することができる。また、被取付物の形状特徴を認識するに当たっては、例えば、対応関係があると判断したエッジを基に三角測量の原理により3次元空間内における被取付物エッジ部分の位置情報を算出することで、被取付物の形状特徴を認識することができる。
また、前記オブジェクト認識手段は、前記第1モデルデータ記憶手段に格納されたモデルデータを基にモデルデータに係る被取付物の形状特徴を抽出して、抽出した形状特徴と前記画像処理手段によって認識された形状特徴とが一致しているか否かを確認することにより、前記第1モデルデータ記憶手段に格納されたモデルデータの中から、前記画像処理手段によって認識された形状特徴と一致する形状特徴を備えた被取付物のモデルデータを認識するように構成されていても良い。
また、前記モデルデータ生成手段は、前記画像処理手段によって認識された被取付物の形状特徴、及び前記オブジェクト認識手段によって認識された被取付物のモデルデータを基に、これらによって特定される形状の互いに対応する部分が重なるように回転移動及び平行移動させたときの、回転角度を表す行列及び平行移動量を表す行列の各成分を算出して、算出した各行列の成分を基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における姿勢及び位置を算出するように構成されていても良い。
また、前記第2撮像手段は、その光軸が前記第1撮像手段の光軸と平行となるように且つ前記第1撮像手段の光軸と直交する方向にこの第1撮像手段と間隔を隔てて配置されていても良い。
尚、本発明において、ワーク及びワーク取付具を含む工作機械の3次元モデルデータを生成する場合には、例えば、ワークのモデルデータ及びワーク取付具のモデルデータを第1モデルデータ記憶手段にそれぞれ格納し、まず、ワークを撮像手段により撮像して、ワークを含む工作機械の3次元モデルデータを生成した後、ワーク取付具を撮像手段により撮像して、ワーク及びワーク取付具を含む工作機械の3次元モデルデータを生成したり、逆に、まず、ワーク取付具を撮像手段により撮像して、ワーク取付具を含む工作機械の3次元モデルデータを生成した後、ワークを撮像手段により撮像して、ワーク及びワーク取付具を含む工作機械の3次元モデルデータを生成すると良い。また、この他、ワーク及びワーク取付具が一体的に構成されたモデルデータを第1モデルデータ記憶手段に格納し、ワーク及びワーク取付具を撮像手段により撮像して、ワーク及びワーク取付具を含む工作機械の3次元モデルデータを生成するようにしても良い。
以上のように、本発明に係る3次元モデルデータ生成方法及び生成装置によれば、工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを正確且つ効率的に生成することができる。
本発明の一実施形態に係る3次元モデルデータ生成装置の概略構成を示したブロック図である。 本実施形態の3次元モデルデータ生成装置及びこれが設けられる工作機械を示した斜視図である。 本実施形態のエッジ検出部における一連の処理を示したフローチャートである。 本実施形態のエッジ検出部における一連の処理を示したフローチャートである。 コーナの検出を説明するための説明図である。 コーナの検出を説明するための説明図である。 コーナの検出を説明するための説明図である。 エッジの検出を説明するための説明図である。 エッジの検出を説明するための説明図である。 本実施形態の形状特徴認識部における一連の処理を示したフローチャートである。 ワークの形状特徴の認識を説明するための説明図である。 ワークの形状特徴の認識を説明するための説明図である。 ワークの形状特徴の認識を説明するための説明図である。 三角測量の原理を用いた位置情報の算出を説明するための説明図である。 本実施形態のオブジェクト認識部における一連の処理を示したフローチャートである。 本実施形態のモデルデータ生成部における一連の処理を示したフローチャートである。 ワークの位置及び姿勢の算出を説明するための説明図である。 三角測量の原理を用いた位置情報の算出を説明するための説明図である。
符号の説明
1 3次元モデルデータ生成装置
10 コンピュータ
11 入力装置
12 画面表示装置
13 第1CCDカメラ
14 第2CCDカメラ
15 画像データ記憶部
16 カメラパラメータ記憶部
17 エッジ検出部
18 形状特徴認識部
19 第1モデルデータ記憶部
20 オブジェクト認識部
21 第2モデルデータ記憶部
22 モデルデータ生成部
23 第3モデルデータ記憶部
30 工作機械
31 ベッド
32 基部
33 左側壁
34 右側壁
35 後側壁
36 第1サドル
37 第2サドル
38 主軸頭
39 主軸
40 テーブル
T 工具
W ワーク
以下、本発明の具体的な実施形態について、添付図面に基づき説明する。尚、図1は、本発明の一実施形態に係る3次元モデルデータ生成装置の概略構成を示したブロック図である。
図1に示すように、本例の3次元モデルデータ生成装置1は、図2に示す工作機械30に付設されたコンピュータ10,第1CCDカメラ13及び第2CCDカメラ14からなり、コンピュータ10は、マウス11aやキーボード11bなどの入力装置11と画面表示装置12とを備え、画像データ記憶部15,カメラパラメータ記憶部16,エッジ検出部17,形状特徴認識部18,第1モデルデータ記憶部19,オブジェクト認識部20,第2モデルデータ記憶部21,モデルデータ生成部22及び第3モデルデータ記憶部23として機能するようになっている。
まず、前記工作機械30について説明する。
図2に示すように、前記工作機械30は、立形マシニングセンタと呼ばれるタイプのものであり、ベッド31と、ベッド31に配設され、前後方向(Y軸方向)に移動自在となった第1サドル36と、第1サドル36に配設され、左右方向(X軸方向)に移動自在となった第2サドル37と、第2サドル37に配設され、鉛直方向(Z軸方向)に移動自在となった主軸頭38と、主軸頭38によって自身の中心軸を中心に回転自在に支持され、工具Tを保持する主軸39と、ベッド31に配設され、ワークWが上面に載置,固定されるテーブル40などを備え、テーブル40は、ワークWの載置,固定される載置部40aがZ軸と平行な回転中心軸回り(C軸方向)に回転自在となるように構成されている。
また、工作機械30は、更に、第1サドル36をY軸方向に移動させるY軸送り機構41と、第2サドル37をX軸方向に移動させるX軸送り機構42と、主軸頭38をZ軸方向に移動させるZ軸送り機構43と、主軸39をその軸線中心に回転させる第1回転駆動機構(図示せず)と、テーブル40の載置部40aをC軸方向に回転させて所定の回転角度位置に割り出す第2回転駆動機構(図示せず)とを備えている。
前記ベッド31は、平面視矩形状をした基部32と、基部32の左右両側に立設された側壁33,34(左側壁33及び右側壁34)と、基部32の奥側に立設され、左右両側の側壁33,34間に設けられる側壁(後側壁)35とからなる。前記テーブル40は、後側壁35の前面に設けられ、各側壁33,34,35に囲まれた空間に配置される。
前記第1サドル36は、Y軸方向に移動自在に前記左側壁33及び右側壁34に支持され、前記第2サドル37は、X軸方向に移動自在に第1サドル36に支持され、前記主軸頭38は、Z軸方向に移動自在に第2サドル37に支持され、前記主軸39は、テーブル40の上面よりも上方で軸線がZ軸と平行に配置され、主軸頭38の下端部に前記中心軸を中心に回転自在に支持される。
次に、前記3次元モデルデータ生成装置1について説明する。
上記のように、前記3次元モデルデータ生成装置1は、第1CCDカメラ13,第2CCDカメラ14,画像データ記憶部15,カメラパラメータ記憶部16,エッジ検出部17,形状特徴認識部18,第1モデルデータ記憶部19,オブジェクト認識部20,第2モデルデータ記憶部21,モデルデータ生成部22及び第3モデルデータ記憶部23を備える。
前記第1CCDカメラ13及び第2CCDカメラ14は、ベッド31の左側壁33と後側壁35との隅部であって左側壁33及び後側壁35の上部にブラケット24を介して取り付けられ、光軸が斜め下方に傾いてテーブル40(載置部40a)の上面に載置,固定されたワークWを撮像する。第2CCDカメラ14は、光軸が第1CCDカメラ13の光軸と平行となるように、撮像面が第1CCDカメラ13の撮像面と同一平面内に位置するように、且つ第1CCDカメラ13と一定間隔を隔てるように設けられる。尚、ワークWの撮像時には、ワークWだけでなく、テーブル40の一部も撮像される。また、第1CCDカメラ13の光軸と第2CCDカメラ14の光軸との間の距離が光軸間距離記憶部(図示せず)に格納される。
前記各CCDカメラ13,14は、多行多列の2次元に配置された複数の光電変換素子を備え、受光強度に応じて各光電変換素子から出力される電圧信号をデジタル化した後、これを濃淡レベル値に変換して、前記光電変換素子の配列と同配列の2次元濃淡画像データとして出力する。そして、前記画像データ記憶部15には、前記各CCDカメラ13,14から出力された2次元濃淡画像データがそれぞれ格納される。
前記カメラパラメータ記憶部16は、各CCDカメラ13,14固有のパラメータである内部パラメータ(例えば、焦点距離,主点の座標値,放射方向歪補正係数及び接線方向歪補正係数など)と、工作機械30の座標系におけるCCDカメラ13,14の位置や姿勢を表す外部パラメータ(例えば、回転行列及び平行移動ベクトルなど)とを記憶する。これらのパラメータは、例えば、較正処理により予め算出されて格納される。
前記エッジ検出部17は、図3及び図4に示すような一連の処理を行って、画像データ記憶部15に格納された各2次元濃淡画像データ、及びカメラパラメータ記憶部16に格納された各CCDカメラ13,14の内部パラメータを基に、各2次元濃淡画像のそれぞれについてワークWのエッジを検出する。
即ち、エッジ検出部17は、まず、画像データ記憶部15に格納された各2次元濃淡画像データを読み出し(ステップS1)、各2次元濃淡画像の歪補正を行う(ステップS2)。この歪補正は、例えば、カメラパラメータ記憶部16に格納された内部パラメータ(放射方向歪補正係数及び接線方向歪補正係数など)を基に行ったり、双線形補間により行う。
この後、各2次元濃淡画像において撮像対象物(ワークW及びテーブル40の一部)のコーナを検出する(図5参照)(ステップS3)。これは、例えば、ハリスのコーナ検出式(数1)を用いて検出することができる。尚、数1において、I(x,y)は、濃淡レベル値を示す。また、図5において、(a)は2次元濃淡画像を、(b)は検出されたコーナをそれぞれ示す。
Figure 2008026722
次に、ワークWがテーブル40(載置部40a)に載置,固定されていないときの、即ち、テーブル40のみの2次元濃淡画像データをテーブルデータ記憶部(図示せず)から読み出し(ステップS4)、読み出した各2次元濃淡画像においてテーブル40のコーナを検出する(図6参照)(ステップS5)。尚、図6において、(a)は2次元濃淡画像を、(b)は検出されたコーナをそれぞれ示す。
尚、前記テーブルデータ記憶部(図示せず)には、各CCDカメラ13,14によりテーブル40のみが撮像されて生成される2次元濃淡画像データであって歪補正が行われた後の2次元濃淡画像データを格納するようにしても、テーブル40の3次元モデルデータを基に生成されるテーブル40の仮想画像データであって、前記各CCDカメラ13,14と同視点からテーブル40をそれぞれ撮像したときに得られる2次元濃淡画像データを格納するようにしても良い。前者の場合には、テーブルデータ記憶部(図示せず)からテーブル40の2次元濃淡画像データを読み出した後、上記と同様にしてコーナを検出する。一方、後者の場合には、テーブルデータ記憶部(図示せず)からテーブル40の2次元濃淡画像データを読み出した後、テーブル40の3次元モデルデータを基にコーナを検出する。また、この他、前記テーブルデータ記憶部(図示せず)にテーブル40のコーナに関する情報を予め格納しておき、上記ステップS4及びS5の処理に代えて、テーブル40のコーナに関する情報をテーブルデータ記憶部(図示せず)から読み出すようにしても良い。
ついで、ステップS3で検出されたコーナ(ワークW及びテーブル40の一部のコーナ)と、ステップS5で検出されたコーナ(テーブル40のコーナ)とを比較して、同じ位置に存在していないコーナ、即ち、ワークWのコーナのみを抽出する(図7参照)(ステップS6)。尚、図7において、(a)はワークのみの2次元濃淡画像を、(b)は抽出されたワークWのコーナをそれぞれ示す。
この後、抽出したコーナを基に2つのコーナの組み合わせをすべて認識し、認識したすべてのコーナの組み合わせについて各コーナ間を結ぶエッジが存在すると仮定する(ステップS7)。そして、カウンタnを1に設定し(ステップS8)、1番目の組み合わせについて仮定が正しいかどうか、即ち、各コーナ間にエッジが存在しているか否かを検証する(ステップS9)。
この検証は、以下のようにして行う。即ち、まず、図8に示すように、コーナ(x,y)、(x,y)間を結ぶエッジLijの方向及び長さ、エッジLij上のすべてのピクセルPを検出する。ついで、検出した各ピクセルPについてそのX軸方向及びY軸方向における両隣の計4つのピクセルを認識し、検出及び認識した各ピクセルを基に濃淡レベル値の勾配(変化量)の最大値をそれぞれ算出する。
次に、エッジLij上のすべてのピクセルPとこれに隣接するすべてのピクセルの濃淡レベル値の勾配を基にしきい値を設定する。この後、エッジLij上の各ピクセルPについて、勾配の最大値を示すピクセルと隣接しており且つ勾配の最大値がしきい値よりも高いかどうか、及び、隣接する8つのピクセルの内、少なくとも1つはしきい値よりも濃淡レベル値の勾配が大きいかどうかを確認し、勾配の最大値を示すピクセルと隣接しており且つ勾配の最大値がしきい値よりも高い場合、又は、隣接するピクセルの内、その少なくとも1つがしきい値よりも濃淡レベル値の勾配が大きい場合に該当するピクセルPの数をカウントする。
そして、エッジLij上のピクセルPの総数に対する、カウントされたピクセルPの数の割合がエッジLijの長さに応じて決定される所定の割合よりも高い場合には、仮定は正しい(コーナ間にエッジが存在する)と判断し、低い場合には、仮定は間違っている(コーナ間にエッジは存在しない)と判断する。
このようにして検証を行い、仮定は正しいと判断したときには(ステップS10)、エッジLijを実在するエッジとして認識して(ステップS11)、ステップS12に進む。このとき、既に認識しているエッジ(実在するエッジ)がある場合には、今回認識したエッジと既に認識しているエッジとの間の幾何学的関係についても認識する。一方、仮定は間違っていると判断すると(ステップS11)、ステップS12に進む。
以降、カウンタnを更新しながら、認識したすべてのコーナの組み合わせについて仮定が正しいかどうかを検証する(ステップS12,S13)。そして、すべての組み合わせについて検証すると、ステップS11で認識した、実在する各エッジを、濃淡レベル値の勾配が最大であるピクセルを基に最小二乗法によりそれぞれ最適化して形状特徴認識部18に送信し(ステップS14)、上記一連の処理を終了する。このようにして、例えば、図9に示すように、ワークWのエッジが検出される。図9において、(a)は、第1CCDカメラ13により生成された2次元濃淡画像データから得られるエッジ(符号L11,L12,L13,L14,L21,L22,L23,L24,L25,L31)を、(b)は、第2CCDカメラ14により生成された2次元濃淡画像データから得られるエッジ(符号R11,R12,R13,R14,R21,R22,R23,R24,R25,R31)をそれぞれ示している。
尚、前記エッジ検出部17は、自動的にコーナやエッジを検出する他、オペレータの入力に基づいてコーナやエッジを検出するように構成することもできる。この場合、エッジ検出部17は、コーナ選択画面やエッジ選択画面を画面表示装置12に表示させるとともに、入力装置11から入力される信号を基に、オペレータによって選択されたコーナやエッジを認識して、認識したコーナを検出コーナとして追加したり、認識したコーナを検出コーナから削除し、或いは、認識したエッジを検出エッジとして追加したり、認識したエッジを検出エッジから削除する。
コーナやエッジが追加されると、追加されたコーナやエッジを、前記ステップS6で抽出したコーナや、前記ステップS7でコーナ間に存在していると仮定したエッジとみなして上記処理を行う。また、コーナが削除されると、このコーナに接続しているエッジも削除する。また、コーナの追加や削除、エッジの削除は、例えば、画面表示装置12に表示されたカーソルをマウス11aにより動かしてコーナやエッジをクリックすることで行うことができ、エッジの追加は、画面表示装置12に表示されたカーソルをマウス11aにより動かして、エッジの両端となる各コーナを連続してクリックすることで行うことができる。
前記形状特徴認識部18は、図10に示すような一連の処理を行い、エッジ検出部17によって各2次元濃淡画像からそれぞれ検出されたワークWのエッジを基に、ワークWの形状特徴を認識する。
即ち、形状特徴認識部18は、まず、エッジ検出部17から、各2次元濃淡画像で検出されたワークWのエッジを受信し(ステップS21)、図9に示すように、検出されたエッジを第1クラス,第2クラス及び第3クラスの3つのクラスに分類する(ステップS22)。第1クラスには、エッジの両端が他のエッジと接続しているものが、第2クラスには、エッジの一端のみが他のエッジと接続しているものが、第3クラスには、エッジの端部がどのエッジとも接続していないものが属する。図9では、符号L11,L12,L13,L14,R11,R12,R13,R14で示したエッジが第1クラスに、符号L21,L22,L23,L24,L25,R21,R22,R23,R24,R25で示したエッジが第2クラスに、符号L31,R31で示したエッジが第3クラスに属する。
次に、第1クラスのエッジについて、以下に説明するようないくつかの拘束条件をすべて満たすエッジの組み合わせ(一方の2次元濃淡画像で検出されたエッジLと、他方の2次元濃淡画像で検出されたエッジRとの組み合わせ)を求める(ステップS23)。
1つ目は、エピポーラ拘束である。図11に示すように、一方の2次元濃淡画像で検出されたエッジをLと、他方の2次元濃淡画像で検出されたエッジをRと、エッジLとエッジRの各中間点のY軸座標値の差をΔYijと、エッジLのY軸方向の長さをΔYLと、エッジRのY軸方向の長さをΔYRとし、下式(数2)により得られる値(EC(L,R)の値)が所定のしきい値よりも大きい場合にこれを満たす。
Figure 2008026722
2つ目は、長さの拘束である。前記エッジLの長さをL(L)と、前記エッジRの長さをL(R)とし、下式(数3)により得られる値(LC(L,R)の値)が所定のしきい値よりも大きい場合にこれを満たす。
Figure 2008026722
3つ目は、方位の拘束である。前記エッジLと前記エッジRとの間の角度をγijとし、下式(数4)により得られる値(OC(L,R)の値)が所定のしきい値よりも小さい場合にこれを満たす。
Figure 2008026722
そして、これらの拘束条件をすべて満たすエッジの組み合わせが求まると、この組み合わせに係るエッジL,Rが対応関係にあると判断する。図9では、符号L11とR11のエッジが、符号L12とR12のエッジが、符号L13とR13のエッジが、符号L14とR14のエッジがそれぞれ対応関係にあると判断される。尚、このようにしてエッジの組み合わせを求めるに当たっては、すべての組み合わせの中からこれらの条件を満足するものを求める。
この後、第2クラスのエッジについて、上記1〜3の拘束条件(エピポーラ拘束,長さの拘束及び方位の拘束)をすべて満たすエッジの組み合わせ(一方の2次元濃淡画像で検出されたエッジLと、他方の2次元濃淡画像で検出されたエッジRとの組み合わせ)を求める(ステップS24)。
尚、上記1〜3の拘束条件の内、1つでも満たさないものがあると、相対的な方位の拘束を満たすかどうかを確認する。この拘束は、1〜3の拘束条件の1つ以上を満たさない組み合わせに係るエッジと、第1クラスのエッジであって1〜3の拘束条件をすべて満たす組み合わせに係るエッジとの間における相対的な方位の拘束である。図12及び図13に示すように、1〜3の拘束条件をすべて満たす、第1クラスに属するエッジの組み合わせの数をkと、1〜3の拘束条件をすべて満たす組み合わせに係る第1クラスのエッジをL及びRと、エッジLの中点を通りエッジLに平行な線とエッジLとの間の角度をθ(L,L)と、エッジRの中点を通りエッジRに平行な線とエッジRとの間の角度をθ(R,R)と、エッジL及びLにそれぞれ平行な線がなす角度をφ(L,L)と、エッジR及びRにそれぞれ平行な線がなす角度をφ(R,R)とし、下式(数5)により得られる値(LOC(L,R)の値)が所定のしきい値よりも小さい場合にこれを満たす。
Figure 2008026722
そして、前記1〜3の拘束条件をすべて満たすエッジの組み合わせ、又は、前記相対的な方位の拘束を満たすエッジの組み合わせが求まると、この組み合わせに係るエッジL,Rが対応関係にあると判断する。図9では、符号L21とR21のエッジが、符号L22とR22のエッジが、符号L23とR23のエッジが、符号L24とR24のエッジが、符号L25とR25のエッジがそれぞれ対応関係にあると判断される。尚、第1クラスと同様、すべての組み合わせの中からこれらの条件を満足するものが求められる。
そして、最後に、第3クラスのエッジについて、第2クラスと同様にしてエッジの組み合わせ(一方の2次元濃淡画像で検出されたエッジLと、他方の2次元濃淡画像で検出されたエッジRとの組み合わせ)を求める(ステップS25)。尚、この第3クラスにおいて、前記相対的な方位の拘束は、1〜3の拘束条件の1つ以上を満たさない組み合わせに係るエッジと、第1クラス及び第2クラスのエッジであって1〜3の拘束条件をすべて満たす組み合わせ(第2クラスについては、1〜3の拘束条件のいずれか1つを満たさなくても、前記相対的な方位の拘束を満たす組み合わせが含まれる)に係るエッジとの間における相対的な方位の拘束となる。
そして、前記1〜3の拘束条件をすべて満たすエッジの組み合わせ、又は、前記相対的な方位の拘束を満たすエッジの組み合わせが求まると、この組み合わせに係るエッジL,Rが対応関係にあると判断する。図9では、符号L31とR31のエッジが対応関係にあると判断される。尚、第1クラス及び第2クラスと同様、すべての組み合わせの中からこれらの条件を満足するものが求められる。
このようにして、一方の2次元濃淡画像で検出されたエッジLと、他方の2次元濃淡画像で検出されたエッジRとの対応関係を認識する(各2次元濃淡画像間におけるエッジの対応関係が求まる)と、カメラパラメータ記憶部16に格納された内部パラメータを読み出すとともに、第1CCDカメラ13の光軸と第2CCDカメラ14の光軸との間の距離を前記光軸間距離記憶部(図示せず)から読み出した後(ステップS26)、対応関係があると判断したエッジ、読み出した内部パラメータ及び光軸間の距離を基に、三角測量の原理により3次元空間内におけるワークWのエッジ部分の位置情報を算出して、算出した位置情報を基にワークWの形状特徴を認識し、認識したワークWの形状特徴をオブジェクト認識部20に送信して(ステップS27)、上記一連の処理を終了する。
尚、ここで、三角測量の原理を用いた3次元空間内における位置情報(座標位置)を算出する手法について簡単に説明する。図14に示すように、空間中のある点P(X,Y,Z)が、各CCDカメラ13,14の撮像面13a,14a上の点P(X,Y)及びP(X,Y)に投影されたとき、各CCDカメラ13,14の焦点距離をfと、各CCDカメラ13,14の光軸13b,14b間の距離をBとすると、前記点P(X,Y,Z)は以下のように表され、これにより、各CCDカメラ13,14を基準にした点Pの位置を算出することができる。
Figure 2008026722
Figure 2008026722
Figure 2008026722
図示例では、各CCDカメラ13,14の光軸13b,14bと撮像面13a,14aとの交点を撮像面13a,14a上における座標系の原点とし、第1CCDカメラ13の焦点をX,Y,Z座標系の原点とした。また、撮像面13a,14a上における座標系は、X軸及びY軸と平行とした。
前記第1モデルデータ記憶部19には、テーブル40(載置部40a)に載置,固定されるワークWの3次元モデルに関するデータであり、このワークWの形状を定義する形状データを少なくとも含んだモデルデータが格納される。尚、この第1モデルデータ記憶部19には、1種類のワークWについてのみモデルデータを格納するようにしても、テーブル40に載置,固定される複数のワークWについてモデルデータを格納するようにしても良い。
前記オブジェクト認識部20は、図15に示すような一連の処理を行い、前記形状特徴認識部18によって認識されたワークWの形状特徴、及び前記第1モデルデータ記憶部19に格納されたワークWのモデルデータを基に、この形状特徴を備えたワークWのモデルデータを認識する。
即ち、オブジェクト認識部20は、形状特徴認識部18から送信されるワークW(テーブル40に載置,固定されたワークW)の形状特徴を受信し(ステップS31)、次に、第1モデルデータ記憶部19に格納されたワークWのモデルデータを読み出して、読み出したモデルデータを基に、モデルデータに係るワークWの形状特徴(例えば、エッジに関するデータ)を抽出する(ステップS32)。
この後、マッチング処理を行い、抽出した形状特徴と受信した形状特徴とを比較して、これらが一致しているか否かを確認する(ステップS33)。具体的には、5つの拘束条件をすべて満たす場合に、抽出した形状特徴と受信した形状特徴とが一致すると判断する。1つ目は、エッジの長さ、2つ目はエッジの接続関係、3つ目はエッジの角度関係、4つ目はエッジの距離関係、5つ目はエッジの共通平面関係に関する拘束である。
そして、一致していると判断したときには(ステップS34)、前記抽出した形状特徴を備えたモデルデータを認識した後(ステップS35)、ステップS36に進み、一致していないと判断したときには(ステップS34)、ステップS36に進む。
ステップS36では、第1モデルデータ記憶部19に格納されたすべてのワークWのモデルデータについてマッチング処理を行ったかどうかを確認し、行っていないと判断したときには、ステップS32以降の処理を繰り返す。一方、行ったと判断したときには、ステップS31で受信したワークWの形状特徴、ステップS35で認識したモデルデータを前記モデルデータ生成部22に送信して(ステップS37)、上記一連の処理を終了する。このようにして、第1モデルデータ記憶部19に格納されたワークWのモデルデータの中から、形状特徴認識部18によって認識された形状特徴と一致する形状特徴を備えたワークWのモデルデータを認識する。
前記第2モデルデータ記憶部21は、工作機械30の3次元モデルに関するデータであり、この工作機械30の形状を定義する形状データを少なくとも含んだモデルデータが格納される。尚、この工作機械30のモデルデータは、例えば、ベッド31,第1サドル36,第2サドル37,主軸頭38,主軸39(工具Tを含む)及びテーブル40といった工作機械30の構成要素に係るモデルデータがそれぞれ相互に関連付けられて構成される。また、工作機械30のモデルデータは、その座標系が実際の工作機械30と同じになるように設定されている。
前記モデルデータ生成部22は、図16に示すような一連の処理を行い、前記カメラパラメータ記憶部16に格納された各CCDカメラ13,14の外部パラメータ(CCDカメラ13,14の位置や姿勢を示すパラメータ)、形状特徴認識部18によって認識されたワークWの形状特徴、オブジェクト認識部20によって認識されたワークWのモデルデータ、第2モデルデータ記憶部21に格納された工作機械30のモデルデータを基に、ワークWを含む工作機械30全体の3次元モデルデータ(本例では、工作機械30のカバーや扉などを除き、工作機械30の主要な構成要素とワークWとを含む3次元モデルデータ)を生成する。
即ち、モデルデータ生成部22は、まず、オブジェクト認識部20から送信されるワークWのモデルデータ及びワークWの形状特徴を受信し(ステップS41)、図17に示すように、ワークWのモデルデータ22aについてはXm,Ym,Zm座標系で認識するとともに、ワークWの形状特徴22bについてはXs,Ys,Zs座標系で認識する(ステップS42)。
ついで、ワークWのモデルデータ22a及びワークWの形状特徴22bについてそれぞれ中心点(基準点)を算出し、これを原点とする(ステップS43)。この後、ワークWのモデルデータ22a及びワークWの形状特徴22bを基に、これらによって特定される形状の互いに対応する部分間の距離が最小となるとき、即ち、これらによって特定される形状の互いに対応する部分が重なるように回転移動させたときの、回転角度を表す回転行列の各成分を算出する(ステップS44)(図17参照)。尚、前記距離を最小とするに当たっては、最小二乗法を用いて最小値を求めることができる。
次に、前記ワークWのモデルデータ22aの中心点とワークWの形状特徴22bの中心点との差を基に平行移動行列の各成分を算出する、即ち、ワークWのモデルデータ22a及びワークWの形状特徴22bによって特定される形状の互いに対応する部分が重なるように平行移動させたときの、平行移動量を表す平行移動行列の各成分を算出する(ステップS45)。
そして、カメラパラメータ記憶部16に格納された各CCDカメラ13,14の外部パラメータを読み出し(ステップS46)、ステップS44で算出した回転行列の各成分及びステップS46で読み出した外部パラメータを基に、ワーク3次元モデルの、工作機械3次元モデル上における姿勢(工作機械30の座標系における姿勢)を算出するとともに、ステップS45で算出した平行移動行列の各成分及びステップS46で読み出した外部パラメータを基に、ワーク3次元モデルの、工作機械3次元モデル上における位置(工作機械30の座標系における位置)を算出する(ステップS47)。
この後、第2モデルデータ記憶部21に格納された工作機械30のモデルデータを読み出し(ステップS48)、読み出した工作機械30のモデルデータ、ステップS41で受信したワークWのモデルデータ、及びステップS47で算出した、ワーク3次元モデルの姿勢及び位置を基に、工作機械30のモデルデータとワークWのモデルデータとを組み合わせて、ワークWを含む工作機械30全体の3次元モデルデータを生成し、生成した3次元モデルデータを前記第3モデルデータ記憶部23に格納して(ステップS49)、上記一連の処理を終了する。
以上のように構成された本例の3次元モデルデータ生成装置1によれば、カメラパラメータ記憶部16に各CCDカメラ13,14の内部パラメータ及び外部パラメータが、第1モデルデータ記憶部19にワークWのモデルデータが、第2モデルデータ記憶部21に工作機械30のモデルデータが予め格納される。
そして、各CCDカメラ13,14によりテーブル40上のワークWが撮像されると、テーブル40を一部含んだワークWの2次元濃淡画像データが生成され、画像データ記憶部15に格納される。
ついで、エッジ検出部17により、画像データ記憶部15に格納された各2次元濃淡画像データ、及びカメラパラメータ記憶部16に格納された各CCDカメラ13,14の内部パラメータを基に各2次元濃淡画像のそれぞれについてワークW部分のエッジが検出され、形状特徴認識部18により、エッジ検出部17によって検出されたワークW部分のエッジを基にワークWの形状特徴が認識される。
この後、オブジェクト認識部20により、形状特徴認識部18によって認識されたワークWの形状特徴、及び第1モデルデータ記憶部19に格納されたワークWのモデルデータを基に、この形状特徴を備えたワークWのモデルデータが認識される。
次に、モデルデータ生成部22により、カメラパラメータ記憶部16に格納された各CCDカメラ13,14の外部パラメータ、形状特徴認識部18によって認識されたワークWの形状特徴、オブジェクト認識部20によって認識されたワークWのモデルデータ、第2モデルデータ記憶部21に格納された工作機械30のモデルデータを基に、ワークWを含む工作機械30全体の3次元モデルデータが生成され、生成された3次元モデルデータが第3モデルデータ記憶部23に格納される。
このように、本例の3次元モデルデータ生成装置1によれば、CCDカメラ13,14から得られる2次元濃淡画像データを基に、テーブル40上に固定されたワークWを含む工作機械30全体の3次元モデルデータを生成しているので、ワークWの形状,取付位置及び取付姿勢が実際の状態に合った正確な3次元モデルデータを容易且つ効率的に生成することができる。また、工作機械30の実際の状態に即した3次元モデルデータを用いて干渉シミュレーションを行うことが可能となり、高精度なシミュレーション結果を得ることができる。
以上、本発明の一実施形態について説明したが、本発明の採り得る具体的な態様は、何らこれに限定されるものではない。
上例では、テーブル40上のワークWを含む工作機械30全体の3次元モデルデータを生成するようにしたが、これに限られるものではない。通常、ワークWをテーブル40に固定するにはワーク取付具が使用されるため、このワーク取付具及びこれによって固定されたワークWを含む工作機械30全体の3次元モデルデータを生成するようにしても良い。この場合、例えば、テーブル40上にワークWを載置してCCDカメラ13,14により撮像し、上述のようにして、まず、ワークWを含む工作機械30全体の3次元モデルデータを生成する。次に、テーブル40上にワーク取付具を設けてワーク取付具及びワークWをCCDカメラ13,14により撮像し、エッジ検出部17によりワーク取付具部分のエッジを検出し、形状特徴認識部18によりワーク取付具の形状特徴を認識し、オブジェクト認識部20によりワーク取付具の3次元モデルデータを特定し、モデルデータ生成部22によりワーク取付具及びワークWを含む工作機械30全体の3次元モデルデータを生成する。また、これとは逆に、まず、テーブル40上にワーク取付具を設けてワーク取付具をCCDカメラ13,14により撮像し、モデルデータ生成部22によりワーク取付具を含む工作機械30全体の3次元モデルデータを生成した後、テーブル40上にワークWを設けてワーク取付具及びワークWをCCDカメラ13,14により撮像し、モデルデータ生成部22によりワーク取付具及びワークWを含む工作機械30全体の3次元モデルデータを生成しても良い。尚、第1モデルデータ記憶部19には、ワークWのモデルデータに加えてワーク取付具のモデルデータも格納される。
また、この他、第1モデルデータ記憶部19に、ワークW及びワーク取付具が一体的に構成されたモデルデータを格納し、テーブル40上のワークW及びワーク取付具をCCDカメラ13,14により撮像し、エッジ検出部17により前記ワークW及びワーク取付具のエッジを検出し、形状特徴認識部18により前記ワークW及びワーク取付具の形状特徴を認識し、オブジェクト認識部20により前記ワークW及びワーク取付具の3次元モデルデータを特定し、モデルデータ生成部22により前記ワークW及びワーク取付具を含む工作機械30全体の3次元モデルデータを生成するようにしても良い。
また、第1モデルデータ記憶部19に格納されたワークWのモデルデータの中から、CCDカメラ13,14によって撮像されたワークWのモデルデータを特定するに当たっては、テーブル40の載置部40aをC軸方向に回転させてワークWを複数の視点から撮像し、各視点におけるワークWの形状特徴をそれぞれ認識して、これらの形状特徴をすべて備えたワークWのモデルデータを特定するようにすれば、より精度良くワークWのモデルデータを特定することができる。
また、CCDカメラ13,14は、必ずしも2台設ける必要はない。1台のCCDカメラ13,14を用いる場合には、前記第1CCDカメラ13の配置位置に相当する位置と、前記第2CCDカメラ14の配置位置に相当する位置とにおいてワークWを撮像するようにすれば、異なる2視点での2次元濃淡画像を得ることができる。
また、形状特徴認識部18が各2次元濃淡画像間におけるエッジの対応関係を求めたり、オブジェクト認識部20が、第1モデルデータ記憶部19に格納されたワークWのモデルデータの中から、形状特徴認識部18によって認識された形状特徴と一致する形状特徴を備えたワークWのモデルデータを特定するに当たっては、上記以外の拘束条件のみを用いたり、上記以外の拘束条件を追加的に用いたり、上記拘束条件の一部を省略するようにしても良い。
また、前記3次元モデルデータ生成装置1が設けられる工作機械30は、何ら限定されるものではなく、どのような工作機械30であっても良い。例えば、上例のような立形マシニングセンタではなく、旋盤などに設けるようにしても良い。
また、CCDカメラ13,14が2次元濃淡画像データを出力するのではなく、2次元のカラー画像を出力するように構成し、この2次元カラー画像を基にワークWのエッジを検出したり、ワークWの形状特徴を認識するように構成しても良い。
また、上例では、第1CCDカメラ13及び第2CCDカメラ14を、これらの光軸が平行となるように配置したが、これに限られるものではなく、光軸が平行となる状態から所定角度傾いた状態に配置しても良い。例えば、図18に示すように、第2CCDカメラ14を、その光軸14b’が第1CCDカメラ13の光軸と平行となる状態からαの角度だけ傾いた状態で配置した場合を考え、このとき、空間中のある点P(X,Y,Z)が、第2CCDカメラ14の撮像面14a’上の点P’(X’,Y’)に投影されたとすると、下式により、第2CCDカメラ14の光軸14bが第1CCDカメラ13の光軸と平行であるときに撮像面14a上に投影されるべき点P(X,Y)を算出することができる。このように、下式を用いて、第2CCDカメラ14の光軸14b’が第1CCDカメラ13の光軸と平行でないときに撮像面14a’上に投影される点を補正し、第2CCDカメラ14の光軸14bが第1CCDカメラ13の光軸と平行であるときに撮像面14a上に投影されるべき点の座標値を算出するようにしても、上述した数6〜数8の式により点P(X,Y,Z)を求めることができる。尚、符号fは焦点距離であり、符号Bは焦点での、各CCDカメラ13,14の光軸13b,14b間の距離である。
Figure 2008026722
Figure 2008026722
以上詳述したように、本発明は、工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを生成する3次元モデルデータ生成方法及び生成装置に好適に適用することができる。

Claims (6)

  1. 工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを生成する方法であって、
    前記少なくとも工作機械の一部及び前記工作機械に取り付けられる被取付物の3次元モデルに関するデータであり、これらの形状を定義する形状データを少なくとも含んだモデルデータをそれぞれ記憶手段に格納する第1工程と、
    撮像手段を用いて、前記工作機械に取り付けられた被取付物を、第1視点及びこれと離れた第2視点の2つの視点から撮像し、各視点における2次元画像データを生成する第2工程と、
    前記第2工程で生成した2つの2次元画像データを基に前記被取付物の形状特徴を認識する第3工程と、
    前記第3工程で認識した形状特徴及び前記記憶手段に格納した被取付物のモデルデータを基に、この形状特徴を備えた被取付物のモデルデータを認識する第4工程と、
    前記第3工程及び第4工程でそれぞれ認識した形状特徴及びモデルデータを基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における位置及び姿勢を算出した後、算出した位置及び姿勢、前記第4工程で認識したモデルデータ、並びに前記記憶手段に格納した前記少なくとも工作機械の一部に係るモデルデータを基に、前記被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成する第5工程とを順次行うようにしたことを特徴とする3次元モデルデータ生成方法。
  2. 工作機械に取り付けられた被取付物及び少なくとも工作機械の一部を含む3次元モデルデータを生成する装置であって、
    前記工作機械に取り付けられた被取付物を撮像して2次元画像データを生成する第1撮像手段と、
    前記第1撮像手段と間隔を隔てて配置され、前記工作機械に取り付けられた被取付物を撮像して2次元画像データを生成する第2撮像手段と、
    前記工作機械に取り付けられる被取付物の3次元モデルに関するデータであり、この被取付物の形状を定義する形状データを少なくとも含んだモデルデータを記憶する第1モデルデータ記憶手段と、
    前記少なくとも工作機械の一部に係る3次元モデルに関するデータであり、少なくとも工作機械の一部に係る形状を定義する形状データを少なくとも含んだモデルデータを記憶する第2モデルデータ記憶手段と、
    前記第1撮像手段及び第2撮像手段によってそれぞれ生成された2次元画像データを基に前記被取付物の形状特徴を認識する画像処理手段と、
    前記第1モデルデータ記憶手段に格納されたモデルデータ、及び前記画像処理手段によって認識された形状特徴を基に、この形状特徴を備えた被取付物のモデルデータを認識するオブジェクト認識手段と、
    前記オブジェクト認識手段によって認識されたモデルデータ、及び前記画像処理手段によって認識された形状特徴を基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における位置及び姿勢を算出した後、算出した位置及び姿勢、前記オブジェクト認識手段によって認識されたモデルデータ、並びに前記第2モデルデータ記憶手段に格納されたモデルデータを基に、前記被取付物と少なくとも工作機械の一部とを含む3次元モデルデータを生成するモデルデータ生成手段とを備えてなることを特徴とする3次元モデルデータ生成装置。
  3. 前記第2撮像手段は、その光軸が前記第1撮像手段の光軸と平行となるように且つ前記第1撮像手段の光軸と直交する方向にこの第1撮像手段と間隔を隔てて配置されてなることを特徴とする請求項2記載の3次元モデルデータ生成装置。
  4. 前記画像処理手段は、
    前記第1撮像手段及び第2撮像手段によってそれぞれ生成された2次元画像データを基に前記被取付物のコーナを抽出して、抽出したコーナ間を結ぶエッジを検出することにより、前記各2次元画像における前記被取付物のエッジをそれぞれ検出するエッジ検出手段と、
    前記エッジ検出手段によって検出された各2次元画像におけるエッジを基にこの2次元画像間におけるエッジの対応関係を求め、対応関係があると判断したエッジを基に被取付物の形状特徴を認識する形状特徴認識手段とから構成されてなることを特徴とする請求項2記載の3次元モデルデータ生成装置。
  5. 前記オブジェクト認識手段は、前記第1モデルデータ記憶手段に格納されたモデルデータを基にモデルデータに係る被取付物の形状特徴を抽出して、抽出した形状特徴と前記画像処理手段によって認識された形状特徴とが一致しているか否かを確認することにより、前記第1モデルデータ記憶手段に格納されたモデルデータの中から、前記画像処理手段によって認識された形状特徴と一致する形状特徴を備えた被取付物のモデルデータを認識するように構成されてなることを特徴とする請求項2記載の3次元モデルデータ生成装置。
  6. 前記モデルデータ生成手段は、前記画像処理手段によって認識された被取付物の形状特徴、及び前記オブジェクト認識手段によって認識された被取付物のモデルデータを基に、これらによって特定される形状の互いに対応する部分が重なるように回転移動及び平行移動させたときの、回転角度を表す行列及び平行移動量を表す行列の各成分を算出して、算出した各行列の成分を基に、前記被取付物3次元モデルの、前記工作機械3次元モデル上における姿勢及び位置を算出するように構成されてなることを特徴とする請求項2記載の3次元モデルデータ生成装置。
JP2008532130A 2006-09-01 2007-08-31 3次元モデルデータ生成方法及び3次元モデルデータ生成装置 Expired - Fee Related JP5049975B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US82428506P 2006-09-01 2006-09-01
US60/824,285 2006-09-01
US86310706P 2006-10-26 2006-10-26
US60/863,107 2006-10-26
PCT/JP2007/066987 WO2008026722A1 (fr) 2006-09-01 2007-08-31 Procédé de génération de données de modèle tridimensionnel, et appareil de génération de données de modèle tridimensionnel

Publications (2)

Publication Number Publication Date
JPWO2008026722A1 true JPWO2008026722A1 (ja) 2010-01-21
JP5049975B2 JP5049975B2 (ja) 2012-10-17

Family

ID=39136004

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2008532131A Active JP5049976B2 (ja) 2006-09-01 2007-08-31 3次元モデルデータ確認方法及び3次元モデルデータ確認装置
JP2008532130A Expired - Fee Related JP5049975B2 (ja) 2006-09-01 2007-08-31 3次元モデルデータ生成方法及び3次元モデルデータ生成装置

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2008532131A Active JP5049976B2 (ja) 2006-09-01 2007-08-31 3次元モデルデータ確認方法及び3次元モデルデータ確認装置

Country Status (4)

Country Link
US (2) US8310534B2 (ja)
JP (2) JP5049976B2 (ja)
DE (2) DE112007001977T5 (ja)
WO (2) WO2008026723A1 (ja)

Families Citing this family (37)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8310534B2 (en) * 2006-09-01 2012-11-13 Mori Seiki Co., Ltd. Three-dimensional model data confirming method, and three-dimensional model data confirming apparatus
JP5384178B2 (ja) * 2008-04-21 2014-01-08 株式会社森精機製作所 加工シミュレーション方法及び加工シミュレーション装置
JP5465957B2 (ja) * 2008-09-05 2014-04-09 Dmg森精機株式会社 加工状態確認方法及び加工状態確認装置
JP5337636B2 (ja) * 2008-09-05 2013-11-06 株式会社森精機製作所 加工状況監視方法及び加工状況監視装置
DE102008048776B4 (de) * 2008-09-24 2020-12-17 E. Zoller GmbH & Co. KG Einstell- und Messgeräte Mess- und/oder Einstellgerät mit einer Messvorrichtung und mit einer Steuer- und/oder Programmiervorrichtung zur Simulation eines Messablaufs
US8310539B2 (en) * 2009-05-29 2012-11-13 Mori Seiki Co., Ltd Calibration method and calibration device
JP5393318B2 (ja) * 2009-07-28 2014-01-22 キヤノン株式会社 位置姿勢計測方法及び装置
US20110295408A1 (en) * 2010-05-27 2011-12-01 Toyota Motor Engineering & Manufacturing North America, Inc. Process for positioning a workpiece
JP2012053508A (ja) * 2010-08-31 2012-03-15 Mitsubishi Heavy Ind Ltd 数値制御工作機械
EP2619724A2 (en) * 2010-09-23 2013-07-31 Stryker Corporation Video monitoring system
JP5547601B2 (ja) * 2010-10-07 2014-07-16 オークマ株式会社 数値制御装置
DE102011002625A1 (de) 2011-01-13 2012-07-19 Dr. Johannes Heidenhain Gmbh Vorrichtung und Verfahren zum Erfassen der Lage eines Objekts in einer Werkzeugmaschine
US9026242B2 (en) 2011-05-19 2015-05-05 Taktia Llc Automatically guided tools
US9160979B1 (en) * 2011-05-27 2015-10-13 Trimble Navigation Limited Determining camera position for a photograph having a displaced center of projection
US20130278725A1 (en) * 2012-04-24 2013-10-24 Connecticut Center for Advanced Technology, Inc. Integrated Structured Light 3D Scanner
WO2013163588A1 (en) 2012-04-26 2013-10-31 Alec Rothmyer Rivers Systems and methods for performing a task on a material, or locating the position of a device relative to the surface of the material
DE102012211734A1 (de) 2012-07-05 2014-01-23 Dr. Johannes Heidenhain Gmbh Verfahren und Vorrichtung zum Erfassen der Lage eines Objekts in einer Werkzeugmaschine
JP6044293B2 (ja) * 2012-11-19 2016-12-14 株式会社Ihi 3次元物体認識装置および3次元物体認識方法
JP6043234B2 (ja) * 2013-04-15 2016-12-14 オークマ株式会社 数値制御装置
JP6329419B2 (ja) * 2014-04-14 2018-05-23 中村留精密工業株式会社 複数の主軸を備えた複合旋盤の機械状態表示装置
CN105303384A (zh) * 2014-07-21 2016-02-03 上海羽舟网络科技有限公司 一种产品的3d展示方法及系统
US11144041B2 (en) * 2014-11-05 2021-10-12 The Boeing Company 3D visualizations of in-process products based on machine tool input
CN104460525B (zh) * 2014-11-11 2017-07-14 Abb技术有限公司 用于构建零件加工方法的方法和系统
JP6375920B2 (ja) * 2014-12-11 2018-08-22 富士通株式会社 ベッド領域抽出方法、ベッド領域抽出装置及びベッド領域抽出プログラム
JP6501529B2 (ja) * 2015-01-16 2019-04-17 Dmg森精機株式会社 工作機械を用いたワークの加工方法及び工作機械
JP6968700B2 (ja) 2015-05-13 2021-11-17 シェイパー ツールズ, インク.Shaper Tools, Inc. 案内工具用のシステム、方法、および装置
US11054802B2 (en) 2015-10-21 2021-07-06 Mitsubishi Electric Research Laboratories, Inc. System and method for performing operations of numerical control machines
CN114879598A (zh) 2016-08-19 2022-08-09 整形工具股份有限公司 用于共享工具制造和设计数据的系统、方法和装置
DE102017211038A1 (de) * 2017-06-29 2019-01-03 Robert Bosch Gmbh Verfahren zum Einstellen einer Kamera
JP6570592B2 (ja) 2017-09-29 2019-09-04 株式会社牧野フライス製作所 工作機械の機上測定方法および制御装置
JP2019125202A (ja) * 2018-01-17 2019-07-25 日本電信電話株式会社 検出装置、検出方法およびプログラム
JP6697501B2 (ja) 2018-03-26 2020-05-20 ファナック株式会社 工作システム
JP6875056B2 (ja) * 2018-08-28 2021-05-19 株式会社オプティム コンピュータシステム、動作検証方法及びプログラム
US20220141445A1 (en) * 2018-08-30 2022-05-05 Gene Malkin Calibration of depth-sensing computer vision systems
WO2020065854A1 (ja) * 2018-09-27 2020-04-02 株式会社牧野フライス製作所 ワーク位置検出方法及び工作機械
JP7120894B2 (ja) * 2018-11-21 2022-08-17 ファナック株式会社 3次元モデル作成装置、加工シミュレーション装置、工具経路自動生成装置
US11100704B2 (en) 2018-12-14 2021-08-24 Hover Inc. Generating and validating a virtual 3D representation of a real-world structure

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07237158A (ja) * 1993-12-28 1995-09-12 Hitachi Ltd 位置・姿勢検出方法及びその装置並びにフレキシブル生産システム
JP2001154715A (ja) * 1999-11-25 2001-06-08 Toshiba Corp 3次元cad装置、3次元cam装置及び記憶媒体
JP2004185123A (ja) * 2002-11-29 2004-07-02 Mori Seiki Co Ltd 3次元モデルデータ生成装置
JP2004326314A (ja) * 2003-04-23 2004-11-18 Shimizu Corp 3次元位置姿勢の画像推定方法
JP2006004128A (ja) * 2004-06-17 2006-01-05 Mori Seiki Co Ltd 干渉確認装置

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA1284383C (en) * 1986-08-04 1991-05-21 Fmc Corporation Computer integrated gaging system
WO1995017995A1 (fr) 1993-12-28 1995-07-06 Hitachi, Ltd. Procede et appareil de detection de position et d'orientation et systeme de production flexible utilisant ledit appareil
JPH09212219A (ja) 1996-01-31 1997-08-15 Fuji Facom Corp 三次元仮想モデル作成装置及び制御対象物の監視制御装置
US6046745A (en) * 1996-03-25 2000-04-04 Hitachi, Ltd. Three-dimensional model making device and its method
JP3104638B2 (ja) * 1996-03-25 2000-10-30 株式会社日立製作所 3次元画像作成装置
US5969753A (en) * 1998-04-24 1999-10-19 Medar, Inc. Method and system for detecting errors in a sample image
JP4329248B2 (ja) * 2000-09-05 2009-09-09 株式会社森精機製作所 Nc加工シミュレーション装置
DE10044306A1 (de) * 2000-09-07 2002-04-04 Juergen Roeders Werkzeugmaschine
JP2005078441A (ja) * 2003-09-01 2005-03-24 Mitsubishi Electric Engineering Co Ltd 比較検定装置
US8310534B2 (en) * 2006-09-01 2012-11-13 Mori Seiki Co., Ltd. Three-dimensional model data confirming method, and three-dimensional model data confirming apparatus
US8487927B2 (en) * 2008-05-19 2013-07-16 Microsoft Corporation Validating user generated three-dimensional models

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07237158A (ja) * 1993-12-28 1995-09-12 Hitachi Ltd 位置・姿勢検出方法及びその装置並びにフレキシブル生産システム
JP2001154715A (ja) * 1999-11-25 2001-06-08 Toshiba Corp 3次元cad装置、3次元cam装置及び記憶媒体
JP2004185123A (ja) * 2002-11-29 2004-07-02 Mori Seiki Co Ltd 3次元モデルデータ生成装置
JP2004326314A (ja) * 2003-04-23 2004-11-18 Shimizu Corp 3次元位置姿勢の画像推定方法
JP2006004128A (ja) * 2004-06-17 2006-01-05 Mori Seiki Co Ltd 干渉確認装置

Also Published As

Publication number Publication date
JPWO2008026723A1 (ja) 2010-01-21
DE112007001964T5 (de) 2009-09-10
US20090070077A1 (en) 2009-03-12
WO2008026722A1 (fr) 2008-03-06
JP5049975B2 (ja) 2012-10-17
JP5049976B2 (ja) 2012-10-17
DE112007001977T5 (de) 2009-07-23
US20090015668A1 (en) 2009-01-15
US8310534B2 (en) 2012-11-13
US8335666B2 (en) 2012-12-18
WO2008026723A1 (fr) 2008-03-06
DE112007001964B4 (de) 2016-06-02

Similar Documents

Publication Publication Date Title
JP5049975B2 (ja) 3次元モデルデータ生成方法及び3次元モデルデータ生成装置
JP5273196B2 (ja) 画像処理装置
JP4811272B2 (ja) 3次元計測を行う画像処理装置および画像処理方法
TWI555379B (zh) 一種全景魚眼相機影像校正、合成與景深重建方法與其系統
JP4095491B2 (ja) 距離測定装置、距離測定方法、及び距離測定プログラム
EP0782100B1 (en) Three-dimensional shape extraction apparatus and method
JP5580164B2 (ja) 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム
JP6222898B2 (ja) 3次元計測装置及びロボット装置
JP6223169B2 (ja) 情報処理装置、情報処理方法およびプログラム
EP1424656B1 (en) Apparatus for generating three-dimensional model data for a machine tool
US20090187276A1 (en) Generating device of processing robot program
US11625842B2 (en) Image processing apparatus and image processing method
JP2009053147A (ja) 3次元計測方法および3次元計測装置
JP4737763B2 (ja) 多視点画像を用いた自由視点画像生成方法、装置及びプログラム
CN109213090B (zh) 位置控制系统、位置检测装置及记录介质
CN110415363A (zh) 一种基于三目视觉的散乱物识别定位方法
KR20110089299A (ko) 스테레오 매칭 처리 시스템, 스테레오 매칭 처리 방법, 및 기록 매체
US6999072B2 (en) Data processing method, data processing program and recording medium
JP7427370B2 (ja) 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体
JP2012071394A (ja) シミュレーションシステムおよびそのためのシミュレーションプログラム
CN113196165A (zh) 信息投影系统、控制装置以及信息投影方法
JP4788475B2 (ja) 画像処理装置および画像処理方法
CN112184793B (zh) 深度数据的处理方法、装置及可读存储介质
CN113793266A (zh) 一种多目机器视觉图像拼接方法、系统及存储介质
JPH11101641A (ja) カメラおよびカメラのキャリブレーション方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100225

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20100225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120201

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120405

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120704

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120723

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150727

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 5049975

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees