JP2011185650A - モデル作成装置およびモデル作成プログラム - Google Patents

モデル作成装置およびモデル作成プログラム Download PDF

Info

Publication number
JP2011185650A
JP2011185650A JP2010049256A JP2010049256A JP2011185650A JP 2011185650 A JP2011185650 A JP 2011185650A JP 2010049256 A JP2010049256 A JP 2010049256A JP 2010049256 A JP2010049256 A JP 2010049256A JP 2011185650 A JP2011185650 A JP 2011185650A
Authority
JP
Japan
Prior art keywords
dimensional
data
model
dimensional model
model data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010049256A
Other languages
English (en)
Inventor
Kazuhiro Shono
和博 醤野
Toyoo Iida
豊男 飯田
Kengo Ichimura
研吾 市村
Reiji Takahashi
玲治 高橋
Akira Ishida
晃 石田
Yasuyuki Ikeda
泰之 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Omron Corp
Original Assignee
Omron Corp
Omron Tateisi Electronics Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Omron Corp, Omron Tateisi Electronics Co filed Critical Omron Corp
Priority to JP2010049256A priority Critical patent/JP2011185650A/ja
Priority to US13/030,512 priority patent/US8825452B2/en
Publication of JP2011185650A publication Critical patent/JP2011185650A/ja
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/10Constructive solid geometry [CSG] using solid primitives, e.g. cylinders, cubes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/20Design optimisation, verification or simulation
    • G06F30/23Design optimisation, verification or simulation using finite element methods [FEM] or finite difference methods [FDM]

Abstract

【課題】対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、3次元モデルデータを容易に作成することが可能なモデル作成装置およびモデル作成プログラムを提供する。
【解決手段】本実施の形態に従う3次元モデルデータ作成処理においては、認識すべき対象物の設計データ(CADデータ)を用いて、3次元モデルデータを作成する。この作成処理は、コンピュータ上で実行される設計データに対する変換処理および編集の処理と、実用環境で実行されるティーチングの処理とを含む。3次元モデルデータの作成処理においては、ワークモデルWMを撮像する必要がない。
【選択図】図7

Description

本発明は、対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、3次元モデルデータを作成するための技術に関する。
従来から、画像処理技術の1つとして、現実の対象物を複数のカメラで撮像し、各カメラの撮像により得られた複数の画像データに基づいて、当該対象物の3次元情報を取得(復元)する方法が提案されている。そして、このような3次元情報を用いて、当該対象物の種別の認識(特定)や、当該対象物の位置や姿勢の特定といった処理が行われる。
このような対象物の種別、位置、姿勢などを特定する場合には、当該対象物を定義する3次元モデルデータを予め用意しておき、この3次元モデルデータと取得された3次元情報とを照合することで実現される。
たとえば、特開2000−099760号公報(特許文献1)には、複数の異なる方向から物体を観測したステレオ画像に基づいて、3次元物体モデルを作成する方法が開示されている。より具体的には、特許文献1は、認識対象物の実物モデルに対し、複数の方向からのステレオ計測を行って、各計測により取得した3次元情報を位置合わせして統合することにより、物体全体の幾何モデルを作成することを開示する。
また、非特許文献1には、取得された3次元情報を予め登録された3次元モデルデータと照合して、物体の位置や姿勢を認識する手法が開示されている。
特開2000−099760号公報
河合良浩、外4名、「セグメントベーストステレオにおける連結性に基づく対応評価」、情報処理学会論文誌、社団法人情報処理学会、1999年8月、第40巻、第8号、p.3219−3229
しかしながら、上述の特許文献1に開示される3次元物体生成方法では、現実に存在する対象物を撮像することで、3次元モデルを作成するため、3次元モデルの作成に要する処理量が多いという課題があった。また、非特許文献1に開示される「セグメントベーストステレオ」と称される手法では、ステレオ画像中のエッジを「セグメント」と称される単位に分割し、セグメント単位でステレオ対応検索を行って、輪郭線の3次元情報を取得する。そのため、特に、対象物を撮像する際の条件が時間的にばらつくような場合などにおいては、誤差が蓄積された3次元モデルが作成されてしまうという課題もあった。
そこで、本発明は、これらの問題を解決するためになされたものであり、その目的は、対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、3次元モデルデータを容易に作成することが可能なモデル作成装置およびモデル作成プログラムを提供することである。
本発明のある局面によれば、対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、当該3次元モデルデータを作成するためのモデル作成装置を提供する。モデル作成装置は、境界に区分された第1の要素の組合せとして対象物の構造を定義した設計データを受付ける入力手段と、受付けた設計データにおいて定義された1つまたは複数の第1の要素からなる第2の要素と当該第2の要素に隣接する他の第2の要素との境界を、階層的に定義することで3次元モデルデータを生成する生成手段と、設計データにより定義される対象物と生成された3次元モデルデータにより定義される3次元モデルとを並べて立体的に表示する表示手段とを含む。
好ましくは、生成手段は、対象物および3次元モデルが並べて立体的に表示される状態で、外部からの指示に従って3次元モデルデータを変更する。
好ましくは、生成手段は、設計データに含まれる第1および/または第2の要素のうち、予め定められた生成条件を満たす第1および/または第2の要素を抽出し、抽出した第1および/または第2の要素から3次元モデルデータを生成する。
さらに好ましくは、生成条件は、設計データに含まれる第1の要素の面積についてのしきい値を含み、生成手段は、設計データに含まれる第1の要素のうち、しきい値より面積の小さい第1の要素を3次元モデルデータの生成対象から除去する。
あるいは、さらに好ましくは、生成条件は、設計データに含まれる特定の幾何形状を示す情報を含み、生成手段は、当該特定の幾何形状に相当する部分を3次元モデルデータの生成対象から除去する。
好ましくは、設計データにおいて定義された第2の要素は、対象物を構成する面の情報を含み、生成手段は、設計データにおいて定義される面のうちその法線方向が他の面と交差するものを抽出し、当該抽出した面を対象物の外部から視認されない部分であるとして、3次元モデルデータの生成対象から除去する。
好ましくは、表示手段は、作成された3次元モデルデータを用いた3次元認識の実行により得られた認識結果を当該3次元モデルと対応付けて表示し、生成手段は、認識結果と対応付けて表示される3次元モデルに対する編集操作に従って、当該3次元モデルデータを変更する。
好ましくは、設計データにより定義される対象物が指示された撮像条件に従って視認される状態をシミュレーションするシミュレーション手段をさらに含み、表示手段は、3次元モデルデータにより定義される3次元モデルとを並べて、シミュレーション手段によって得られた対象物の視認される状態を表示する。
この発明の別の局面に従えば、対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、当該3次元モデルデータを作成するためのモデル作成プログラムを提供する。モデル作成プログラムは、コンピュータに、境界に区分された第1の要素の組合せとして対象物の構造を定義した設計データを受付けるステップと、受付けた前記設計データにおいて定義された1つまたは複数の第1の要素からなる第2の要素と当該第2の要素に隣接する他の第2の要素との境界を、階層的に定義することで前記3次元モデルデータを生成するステップと、設計データにより定義される対象物と生成された3次元モデルデータにより定義される3次元モデルとを並べて立体的に表示するステップとを実行させる。
本発明によれば、3次元認識を行う処理に用いられる3次元モデルデータを容易に作成することができる。
本実施の形態に従うピッキングシステムの全体構成を示す模式図である。 図1に示すセンサコントローラを中心とするハードウェア構成を示す模式図である。 図1に示すロボットコントローラを中心とするハードウェア構成を示す模式図である。 本発明の実施の形態に従う3次元認識処理の処理手順を示すフローチャートである。 本発明に関連する現実モデルに基づく3次元モデルデータ作成処理の手順を説明するための図である。 図5に示すモデル用計測環境において実行される処理を説明するための図である。 本発明の実施の形態に従う3次元モデルデータ作成処理の手順を説明するための図である。 この発明の実施の形態に従うモデル作成装置を実現するコンピュータの概略構成図である。 本発明の実施の形態に従うモデル作成装置の制御構造を示す機能ブロック図である。 本発明の実施の形態に従うCADデータのデータ構造を説明するための図である。 本発明の実施の形態に従う3次元モデルデータのデータ構造を説明するための図である。 本実施の形態に従うモデル作成装置において提供されるユーザインターフェイス画面の一例を示す図である。 本実施の形態に従うモデル作成装置において提供されるユーザインターフェイス画面の一例を示す図である。 本実施の形態に従うモデル作成装置において提供される自由編集機能を説明するための図である。 本実施の形態に従うモデル作成装置において提供されるユーザインターフェイス画面の一例を示す図である。 本実施の形態に従うモデル作成装置において提供されるユーザインターフェイス画面の一例を示す図である。 本実施の形態に従うモデル作成装置において提供される不要領域除去機能に含まれる1つの処理を説明するための図である。 本実施の形態に従うモデル作成装置において提供されるユーザインターフェイス画面の一例を示す図である。 本実施の形態に従うモデル作成装置において提供される完全陰線除去機能を説明するための図である。 図19に示す完全陰線除去機能の1つの実現方法を説明するための図である。 本実施の形態に従うモデル作成装置において提供される認識結果フィードバック機能を説明するための図である。 本実施の形態に従うモデル作成装置において提供されるシミュレーション情報反映機能でのシミュレーション例を示す図である。 本実施の形態に従うモデル作成装置において提供されるシミュレーション情報反映機能による効果を説明するための図である。 本実施の形態に従うモデル作成装置において実行される3次元モデルデータ作成処理の処理手順を示すフローチャートである。
本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰返さない。
<A.ピッキングシステム>
まず、本実施の形態に従う3次元モデルデータ作成処理により取得される3次元モデルデータを適用するシステムの一例として、ピッキングシステムについて説明する。なお、以下の説明においては、対象物を複数のカメラで撮像して得られる画像データから取得される3次元情報を予め取得された3次元モデルデータと照合することで、当該対象物の位置および姿勢の認識や種別の認識を行う処理を「3次元認識処理」とも称す。この3次元モデルデータには、認識対象となる物体の3次元形状を示す情報が含まれる。なお、3次元モデルデータにより定義される情報を視覚化したものまたはその実体を「3次元モデル」とも称す。
図1は、本実施の形態に従うピッキングシステム100の全体構成を示す模式図である。図1に示すように、本実施の形態に従うピッキングシステム100は、たとえば、生産ラインなどにおいて、複数のワークWを収容する収容ボックス6から、1つずつワークWを取り出して所定の位置に移動させるような作業を行う。
より具体的には、ピッキングシステム100は、ステレオカメラ1と、センサコントローラ2と、ロボットコントローラ3と、多関節ロボット4とを含む。ステレオカメラ1およびセンサコントローラ2は、3次元認識処理の対象となるワークWの種別、位置、姿勢など認識するためのピンキングセンサに相当する。
ステレオカメラ1は、複数のカメラ(図1に示す例では、カメラ11,12,13の計3台のカメラ)からなり、収容ボックス6に収納されているワークWを撮像する。3台のカメラ11,12,13は、互いの位置関係が固定されている。3台のカメラ11,12,13の撮像によりそれぞれ取得された画像データは、センサコントローラ2へ送られる。
センサコントローラ2は、3台のカメラ11,12,13によるそれぞれの撮像によって取得された3つの画像データに対して、3台のカメラ11,12,13の位置関係および光軸の向きなどを表す情報に基づいて、被写体の3次元情報を取得する。後述するように、取得される3次元情報は、主として、被写体の輪郭線(画像内のエッジ部分)を示す情報を含む。
そして、センサコントローラ2は、認識すべきワークWの3次元モデルデータ10を予め登録しており、取得された3次元情報とこの3次元モデルデータ10とを照合してワークWの種別、位置、姿勢など認識する。なお、ワークWの種別とは、収容ボックス6内に複数種類のワークWが収納される場合に、この収納されるワークWの種類別に3次元モデルデータ10を登録しておき、取得された3次元情報がいずれの3次元モデルデータ10と一致するかを判断することで、ワークWの種類を特定する。
さらに、センサコントローラ2は、認識されたワークWの位置や姿勢に基づいて、多関節ロボット4がワークWのピッキングに必要な制御コマンドをロボットコントローラ3へ出力する。すなわち、センサコントローラ2は、認識結果に基づいてロボットコントローラ3に対して、多関節ロボット4の動作を制御するための指令を出力する。
ロボットコントローラ3は、センサコントローラ2からの制御コマンドに従って、多関節ロボット4を制御する。多関節ロボット4は、センサコントローラ2からの制御指令に従って、アーム40を動作させて、認識されたワークWを目的の位置に移動する。
特に、本実施の形態に従うピッキングシステム100においては、予め登録される3次元モデルデータ10を取得するために、現実のワークW(基準ワーク)を撮像する必要はない。それに代えて、認識対象のワークWの設計データ9に基づいて、3次元モデルデータ10が作成される。典型的には、センサコントローラ2と接続可能なコンピュータ8上で、設計データ9に基づいて3次元モデルデータ10が作成される。そして、この作成された3次元モデルデータ10は、コンピュータ8からセンサコントローラ2へ転送される。この3次元モデルデータの作成処理の詳細については、後述する。
図2は、図1に示すセンサコントローラ2を中心とするハードウェア構成を示す模式図である。図2を参照して、センサコントローラ2は、3台のカメラ11,12,13のそれぞれに対応する3つの画像入力部21,22,23を含む。画像入力部21,22,23の各々は、対応するカメラでの撮像により得られた画像データを一時的に格納するとともに、対応するカメラにおける撮像動作(撮像タイミングや露光時間など)を制御する。
センサコントローラ2は、3次元認識処理の実行主体となるCPU(Central Processing Unit)24と、CPU24で実行されるプログラムやワークデータを保持するためのメモリ25と、コンピュータ8から3次元モデルデータ10を受付けるための入力部26と、認識結果などを通知するための表示部27と、ロボットコントローラ3と通信するための通信インターフェイス(I/F)28とを含む。また、各部は、バス29で互いにデータ通信可能となっている。
すなわち、CPU24は、メモリ25に格納されたプログラムに従って、カメラ11,12,13によるワークWの撮像およびワークWの認識に関する一連の処理を実行し、認識結果(具体的には、ワークWの種別、ワークWの位置を表す3次元座標、および、3次元モデルデータに対する回転角度)を含む3次元モデルデータ10を、通信I/F28を介して、ロボットコントローラ3へ出力する。
典型的には、メモリ25は、不揮発性のROM(Read Only Memory)、揮発性のRAM(Random Access Memory)、および、ハードディスクなどからなる。また、入力部26は、キーボードやマウスからなり、表示部27は、液晶モニタからなる。
図3は、図1に示すロボットコントローラ3を中心とするハードウェア構成を示す模式図である。図3には、3軸の多関節ロボット4の例を示す。すなわち、多関節ロボット4は、各関節を駆動するための3台のモータ41,42,43を有する。ロボットコントローラ3は、3台のモータ41,42,43のそれぞれに対応する3つのドライバ31,32,33を含む。モータ41,42,43の各々は、典型的には、ステッピングモータからなり、ドライバ31,32,33の各々は、対応するモータ(関節)が移動すべき変位量に応じたパルス列を出力する。
ロボットコントローラ3は、多関節ロボット4を動作させるための処理を主として実行するCPU(Central Processing Unit)34と、CPU34で実行されるプログラムやワークデータを保持するためのメモリ35と、センサコントローラ2と通信を行って制御コマンドを受信するための通信インターフェイス(I/F)36と、多関節ロボット4の動作状態などを通知するための表示部37とを含む。また、各部は、バス38で互いにデータ通信可能となっている。
すなわち、CPU34は、メモリ35に格納されたプログラム、および、センサコントローラ2から受信した制御コマンドに従って、モータ41,42,43を駆動するための一連の処理を実行する。メモリ35は、不揮発性のROM、揮発性のRAM、および、ハードディスクなどからなる。また、入力部36は、キーボードやマウスからなり、表示部37は、液晶モニタからなる。
<B.3次元認識処理>
次に、本実施の形態に従うセンサコントローラ2において実行される3次元認識処理の概要について説明する。
センサコントローラ2は、3台のカメラ11,12,13によるそれぞれの撮像によって取得された3つの画像データ(ステレオ画像)から、ワークWの輪郭線に相当するエッジを検出する。続いて、センサコントローラ2は、「セグメント」と称される単位毎に3次元情報を生成(復元)する。さらに、センサコントローラ2は、セグメント単位で、生成された3次元情報と3次元モデルデータとを照合する。
図4は、本発明の実施の形態に従う3次元認識処理の処理手順を示すフローチャートである。図4を参照して、まず、センサコントローラ2は、3台のカメラ11,12,13に対して撮像(ステレオ撮像)を行わせる(ステップS1)。続いて、センサコントローラ2は、3台のカメラ11,12,13の撮像によってそれぞれ取得された画像データに対して、エッジを抽出する(ステップS2)。典型的には、このエッジ抽出は、画像データに対してエッジ抽出用のフィルタを適用することで実現される。さらに、センサコントローラ2は、抽出されたそれぞれのエッジを細線化(1画素幅のデータに変換)し(ステップS3)、連結点および/または分岐点を基準にして、細線化後のエッジを直線または曲線のセグメントに分割する(ステップS4)。
以上のような処理によって得られたセグメントを、以下では「2次元セグメント」と称す。
次に、センサコントローラ2は、複数の画像データ間で対応する2次元セグメント同士を対応付けるための処理を実行する(ステップS5)。より具体的には、センサコントローラ2は、3台のカメラ11,12,13からそれぞれ取得された3つの画像データのうち、1つの画像データを基準として、当該基準の画像データに含まれる2次元セグメントの順序に従って、着目すべき2次元セグメントを順次選択する。そして、センサコントローラ2は、着目する2次元セグメント毎に、他の2つの画像データの中から対応する2次元セグメントを特定する。すなわち、基準の画像データに含まれる着目した2次元セグメントの各々について、所定条件(いわゆる、エピポーラ条件)を満足し、かつ、その近傍にある他のセグメントとの連結関係が整合する2次元セグメントを、他の2つの画像データから抽出する。
上述のような処理が完了すると、センサコントローラ2は、互いに対応付けられた2次元セグメントの組合せ毎に、その対応関係に基づいて、3次元情報を生成するための処理を実行する(ステップS6)。より具体的には、センサコントローラ2は、対応付けられた2次元セグメントの組合せ毎に、そのセグメント間で対応関係にある画素の3次元座標を算出する。そして、センサコントローラ2は、算出された3次元座標の分布状態を直線および円弧のモデルと照合して、これらの3次元座標の集合が直線および曲線のいずれに該当するかを判断する。この判断処理により、2次元セグメントの組合せ毎に、その組合せに対応する直線または曲線の3次元セグメントが特定される。
さらに、ステップS6における処理においては、センサコントローラ2は、3次元セグメントの各々について、それぞれそのセグメントを予め設定された間隔毎にサンプリングし、セグメントの種別(直線または曲線)とサンプリング点の3次元座標とを対応付けた情報を取得する。これにより、2次元セグメントから算出された3次元座標の数が少なかった3次元セグメントについても、サンプリング間隔を細かくすることで、当初より多くの3次元座標を取得することが可能になる。
上記の処理を実行することで取得された3次元セグメントの集合が、カメラ11,12,13の視野内にある対象物を示す3次元情報に相当する。
その後、センサコントローラ2は、3次元座標系の予め定められた基準位置に3次元モデルデータを設定し、この3次元モデルデータと取得された3次元情報とを照合することによって、3次元モデルデータに対する視野内にある対象物(ワークW)の位置ずれ量および回転角度を算出する(ステップS7)。すなわち、3次元モデルデータは、それに含まれる要素間の位置関係を独立した3次元座標系において定義しているため、ステレオカメラ1の撮像により得られる3次元情報との間で比較するためには、共通の3次元座標系において両者を比較できるようにする必要がある。そのため、ステップS7においては、取得される3次元情報を定義するための3次元座標系を共通の座標系として、3次元モデルデータの定義を再構成する。このステップS7における照合処理においては、3次元セグメントの交点の各々を特徴点として、各特徴点を総当たり的に対応付けながら、その対応付けを行った場合の各3次元セグメントの一致度が算出され、一致度が最大になったときの対応付けを正しい対応関係として特定される。
より具体的には、視野内にある対象物(ワークW)についての3次元情報の特徴点の順序に従って、各特徴点を対応付けていき、対応付け毎に、3次元モデルデータ側の特徴点を対応点に移動させるのに必要なシフト量および回転角度を算出する。これらの値は、いずれもX,Y,Zの軸毎に算出される。次に、算出したシフト量および回転角度に基づいて、3次元モデルデータに含まれる全ての座標を変換し、変換後の3次元モデルデータと照合対象の3次元情報との一致度を算出する。
上述した処理を、3次元モデルデータ側のすべての特徴点につき実行することにより、特徴点が総当たり的に対応付けられ、対応付け毎に一致度を求めることができる。この後、最終的に最も高い一致度が得られたときの座標変換に用いたシフト量および回転角度を、視野内にある対象物(ワークW)についての3次元モデルデータに対する位置ずれ量および回転角度として認識する。
この後、センサコントローラ2は、認識した位置ずれ量および回転角度に基づいて、制御コマンドをロボットコントローラ3へ出力する(ステップS8)。そして、処理は終了する。
<C.従来の3次元モデルデータ作成処理>
まず、本実施の形態に従う3次元モデルデータの作成処理を説明するにあたって、従来の3次元モデルデータの作成処理について説明する。
図5は、本発明に関連する現実モデルに基づく3次元モデルデータ作成処理の手順を説明するための図である。図6は、図5に示すモデル用計測環境において実行される処理を説明するための図である。
現実モデルに基づいて3次元モデルデータを作成する場合には、ワークWの実物モデル(以下、「ワークモデルWM」と称す。)を種々の方向からステレオ撮像し、各ステレオ撮像によって得られた画像データから認識された計測結果を統合することで、3次元モデルデータが作成される。
より具体的には、図5に示すように、従来の3次元モデルデータの作成処理は、モデル用計測環境(実用環境と実質的に同一)で実行される(1)画像取得、および、(2)計測認識の処理と、コンピュータ上で実行される(3)計測結果結合、および、(4)結合結果編集の処理と、実用環境で実行される(5)ティーチングの処理とを含む。
図5に示すモデル用計測環境での(1)画像取得の処理は、図6に示すように、ワークモデルWMを3次元認識処理が実行される環境と実質的に同一の環境、すなわち、図1に示すような環境において、3台のカメラ11,12,13を用いて撮像する。
より具体的には、図6に示すように、ステレオカメラ1の位置および光軸方向を固定して、ステレオカメラ1に対するワークモデルWMの姿勢を変更しながら複数回のステレオ撮像を行う。
図6に示すX−Y−Z軸で定義される3次元座標系は、3次元座標を算出するための座標系であり、ステレオカメラ1に対して一意に定められる。一方、X1−Y1−Z1軸で定義される3次元座標系は、ワークモデルWMに対して一意に定められる座標系である。たとえば、X1−Z1平面に沿う特定の面が常にワーク支持面(この例ではX−Z平面)に接するものとして、X−Z平面に直交するY1軸に対してワークモデルWMを1回転させ、その間に、複数回のステレオ撮像が行われる。
また、図6に示す例では、ワークモデルWMの表面上に位置を特定するためのマークMを貼付してステレオ撮像が行われる。それぞれのステレオ撮像位置(ワークモデルWMの姿勢)は、ステレオカメラ1を構成する3台のカメラ11,12,13のすべての視野内にマークMが含まれることを条件に決定される。これにより、後述する(2)計測認識の処理においては、すべての画像データについて、マークMを表す3次元セグメントを含む3次元情報を取得することができる。
再度、図5を参照して、(2)計測認識の処理においては、ステレオ撮像が行われた複数の撮像方向(ステレオカメラ1に対するワークモデルWMの姿勢)の別に、被写体の輪郭線(画像内のエッジ部分)を示す3次元情報を生成する(3次元計測)。この3次元情報は、3次元座標系上における輪郭線を示す各座標を含む。たとえば、図5には、3つの撮像方向A,B,Cについて、3次元情報(計測結果)が生成されている例を示す。
上述の(1)および(2)の処理によって生成される3次元情報の各々は、複数のカメラにより撮像された画像データを再構成するので、誤差が生じ易いという課題がある。また、ワークモデルWMの姿勢を異ならせて複数回のステレオ撮像を行うので、撮像環境の時間的な変化などの影響も受け易い。
続いて、コンピュータ上で、上述の(1)および(2)の処理によって生成された、異なる撮像方向についての3次元情報がワークモデルWMについて結合される。より具体的には、(3)計測結果結合の処理においては、たとえば、撮像方向Aについての計測結果Aと撮像方向Bについての計測結果Bとの間で、共通の3次元特徴(特徴点の3次元座標系上の座標(X,Y,X)および角度(θ,γ,ε))の情報に基づいて、対応付け(位置合せ)を行う。これにより、撮像方向Aおよび撮像方向Bについて得られた3次元情報を結合した、結合結果(AB)が生成される。さらに、結合結果(AB)と撮像方向Cについての計測結果Cとの間で、上述と同様に、共通の3次元特徴の情報に基づいて、対応付け(位置合せ)を行う。これにより、撮像方向A、撮像方向B、および撮像方向Cについて得られた3次元情報を結合した、結合結果(ABC)が生成される。さらに、生成された結合結果(ABC)に対して、編集操作((4)の結合結果編集)が行われる。そして、ワークモデルWMの3次元モデルデータが完成する。
上述の(3)計測結果結合の処理においては、位置合せ誤差が生じ易く、結合結果が必ずしもワークモデルWMの輪郭線を正しく表わしているとは限らない。また、(4)の結合結果編集において、誤差を除去するために結合結果を編集することは可能であるが、結合結果をどのように編集すればよいかということは、経験に依存することが大きく、モデルデータ作成者によって3次元モデルデータの品質がばらつくという課題もある。
したがって、(5)ティーチングの処理によって、実用環境に適用される3次元モデルデータには、上述のような各種の原因に依存する誤差が累積している可能性が高い。
<D.本実施の形態に従う3次元モデルデータ作成処理>
上述のように、ワークWの実物モデル(ワークモデルWM)を用いて3次元モデルデータを作成する場合には、現実にワークモデルWMを撮像しなければならないという点や、作成された3次元モデルデータに誤差が累積されてしまうという点に課題があった。そこで、本実施の形態においては、ワークWの設計データに基づいて3次元モデルデータを作成する。
図1に示すようなピッキングシステム100が取り扱うワークWは、工業プロセスによって製造されるものであり、設計図が用意されていることが普通である。現在、多くの製品設計は、コンピュータ上で行われており、電子的に取扱うことのできる設計情報を予め取得することは容易である。典型的には、いわゆるCAD(Computer Aided Design)を用いてコンピュータ上で製品の設計(あるいは、製図)が行われる。
そこで、本実施の形態に従う3次元モデルデータ作成処理においては、認識すべき対象物の設計データ(CADデータ)を用いて、3次元モデルデータを作成する。
図7は、本発明の実施の形態に従う3次元モデルデータ作成処理の手順を説明するための図である。図7を参照して、本実施の形態に従う3次元モデルデータの作成処理は、コンピュータ上で実行される設計データに対する変換処理および編集の処理と、実用環境で実行されるティーチングの処理とを含む。すなわち、本実施の形態に従う3次元モデルデータの作成処理においては、ワークモデルWMを撮像する必要がないので、3次元モデルデータの作成に要する手間を低減できる。また、計測認識や計測結果結合といった処理も必要がないので、生成される3次元モデルデータに誤差が蓄積することを回避できる。そのため、作成される3次元モデルデータの品質を安定化できる。
<E.3次元モデルデータ作成処理の実行環境>
本実施の形態に従うモデル作成装置200は、典型的に、インストールされたプログラムをコンピュータ(プロセッサ)が実行することで具現化される。なお、代替的に、コンピュータがプログラムを実行することで提供される機能の一部もしくは全部を専用のハードウェア回路として具現化してもよい。
図8は、この発明の実施の形態に従うモデル作成装置200を実現するコンピュータの概略構成図である。図8を参照して、モデル作成装置200を実現するコンピュータは、表示装置としてのモニタ202と、入力装置としてのキーボード203およびマウス204と、演算装置(プロセッサ)としてのCPU205と、記憶装置としてのメモリ206および固定ディスク207と、記録媒体からのデータ読出装置としてのFD駆動装置211およびCD−ROM駆動装置213とを含む。これらの各部は、バスを介して相互にデータ通信可能に接続されている。
モデル作成装置200(コンピュータ)で実行されるプログラムは、典型的には、フレキシブルディスク(FD:Flexible Disk)212もしくはCD−ROM(Compact Disk Read Only Memory)214に格納されて流通し、またはネットワーク接続された配信サーバ装置などからのダウンロードといった形で流通する。フレキシブルディスク212およびCD−ROM214に格納されたプログラムは、それぞれFD駆動装置211およびCD−ROM駆動装置213から読出されて、固定ディスク207に一旦格納される。さらに、固定ディスク207からメモリ206に展開されて、CPU205により実行される。
CPU205は、プログラムされた命令を逐次実行することで、各種の演算を実施する。メモリ206は、CPU205でのプログラム実行に応じて、各種の情報についても一時的に格納する。固定ディスク207は、CPU205で実行されるプログラムの他に、処理対象の設計データ(CADデータ)や各種設定値などを格納する不揮発性の記憶装置である。
キーボード203は、入力されるキーに応じたユーザからの指令を受付ける。マウス204は、クリックやスライドなどの動作に応じたユーザからの指令を受付ける。このように、キーボード203およびマウス204で受付けられた指令は、CPU205へ与えられる。さらに、モデル作成装置200には、必要に応じて、プリンタなどの他の出力装置が接続されてもよい。
<F.3次元モデルデータ作成処理に係る機能ブロック>
次に、本実施の形態に従うモデル作成装置200における機能を提供するための機能ブロックについて説明する。
図9は、本発明の実施の形態に従うモデル作成装置200の制御構造を示す機能ブロック図である。図9を参照して、モデル作成装置200は、設計データ(CADデータ)を受付けて、当該設計データを3次元モデルデータに変換するとともに、ユーザ操作などに応じて、変換によって得られた3次元モデルデータに対して編集操作などを行う。
より具体的には、モデル作成装置200は、その制御構造として、入力モジュール250と、バッファ252,270,274と、生成モジュール260と、出力モジュール272と、シミュレーションモジュール276と、表示モジュール278とを含む。
入力モジュール250は、ユーザ操作を受付けて、その操作内容を生成モジュール260、出力モジュール272および表示モジュール278へ与える。
バッファ252は、入力されるCADデータ252aを一時的に保持する。CADデータ252aの入力方法としては、ユーザが、モデル作成装置200において実行されているOS(Operating System)上で3次元モデルデータの作成対象となるワークについてCADデータを選択する。あるいは、ネットワークなどを介して、他の装置から対象のCADデータを受信するようにしてもよい。
生成モジュール260は、バッファ252に保持されているCADデータ252aの情報に基づいて、3次元モデルデータ270aを生成する。この3次元モデルデータ270aは、バッファ270に保持される。
CADデータ252aは、ワークを3次元的に表現するための情報を含んでいる。より具体的には、CADデータ252aは、それぞれの要素を境界線表現(Boundary-Representation)として定義する。本実施の形態においては、CADデータ252aは、少なくとも、ワークの外表面を連続的に配置された複数の三角形状の小領域(以下「三角パッチ」とも称す。)の組合せとして表現する。なお、小領域としては、三角形以外の形状を採用してもよい。この小領域の大きさは、表現すべき形状に応じて変化する。すなわち、表面形状がより複雑化するほど、より小さな三角パッチが用いられる。生成モジュール260は、CADデータ252aに対して構造解析を行うことで、隣接する三角パッチ間の境界部分をセグメント化していくことで、3次元モデルデータを生成する。データ構造の詳細については、後述する。
生成モジュール260は、自由編集機能262と、不要領域除去機能264と、完全陰線除去機能266と、認識結果フィードバック機能268とを含む。
自由編集機能262は、ユーザ操作に応じて、CADデータ252aの変換により生成された3次元モデルデータに対して、3次元認識処理での認識に用いられる部分とそれ以外の部分とを任意に選択するための機能である。
不要領域除去機能264は、CADデータ252aに含まれる要素(部品や形状)のうち、3次元認識処理での認識に不要な部分を除去する機能である。典型的には、不要領域除去機能264は、CADデータ252aに含まれる要素のうち、ユーザが指定する条件を満たすものだけを、3次元モデルデータに含めるようにする。
完全陰線除去機能266は、CADデータ252aに含まれる要素(部品や形状)のうち、3次元認識処理での認識に使用されない部分を除去する。典型的には、CADデータ252aにより定義されるオブジェクト(ワーク)の内部構造といった、ワークがいずれの姿勢であっても、ステレオカメラ1で撮像することのできない部分を除去する。このとき、ワークを構成する各面についての法線が交差する位置を算出することで、完全陰線となっている面(外部へ露出されない面)が特定される。
認識結果フィードバック機能268は、先に作成された3次元モデルデータに基づいて現実に3次元認識処理が実行されることで得られた認識結果274aを、3次元モデルデータの編集時に反映することで、3次元モデルデータの手直しをより容易化するものである。認識結果274aは、バッファ274に保持される。
上述の各機能の詳細については、後述する。
出力モジュール272は、バッファ270に保持される3次元モデルデータ270aを3次元モデルデータとして出力する。より具体的には、出力モジュール272は、3次元モデルデータ270aに含まれる冗長な情報を削除して、3次元認識処理にのみ使用される情報を出力する。
シミュレーションモジュール276は、CADデータ252aに対してシミュレーションを行うことで、現実に3次元認識処理が行われるピッキングシステム100での撮像条件(実用環境)において認識される状態をユーザに通知する。典型的には、ワークWに対するステレオカメラ1の位置関係や照明装置の位置関係などの条件を反映してシミュレーションすることで、現実のステレオカメラ1で撮像を行った場合に認識されるエッジなどを確認する。
表示モジュール278は、モニタ202(図8)などに、3次元モデルデータ作成に必要な情報を通知する。
<G.CADデータおよび3次元モデルのデータ構造>
図10は、本発明の実施の形態に従うCADデータ252aのデータ構造を説明するための図である。図11は、本発明の実施の形態に従う3次元モデルデータのデータ構造を説明するための図である。
図10を参照して、CADデータ252aは、表現するオブジェクトを示す、(A)三角パッチの定義、および、(B)面の定義を含む。この(A)三角パッチの定義としては、各三角パッチを構成する頂点の座標(少なくとも3点)を含む。すなわち、各三角パッチは、隣接する頂点間を結ぶ線(辺)を境界線として定義される。そして、(B)面の定義としては、1または複数の三角パッチを特定するための情報(三角パッチ1,2,…)、すなわち、同一の面として取扱うべき三角パッチが定義される。さらに、各面について法線ベクトルが定義される。この法線ベクトルは、対応する面の広がり方向などを特定するための情報であり、後述する、完全陰線除去機能においても利用される。
なお、CADデータ252aとしては、(B)面の定義を含まず、(A)三角パッチの定義のみを含むものであってもよい。この場合、後述するように、(A)三角パッチの定義から(B)面の定義を生成することができる。このように、CADデータ252aにおいては、表現すべきオブジェクトが複数の点の3次元座標値の集合として構造的に定義される。
図11を参照して、3次元モデルデータについても、図10に示すCADデータ252aと同様に、境界線表現が利用される。また、3次元モデルデータにおいては、境界線、セグメント、境界点の順に階層的に領域が定義される。
たとえば、図11(a)に示すように、略正方形の領域Rについて、外周側に矩形状の境界線Bを設定し、内周側に矩形状の境界線Bを設定した場合を考える。このとき、境界線Bは、4つのセグメントS,S,S,Sの集合として定義され、境界線Bは、4つのセグメントS,S,S,Sの集合として定義されるものとする。さらに、各セグメントは、1つまたは複数の境界点を含むものとする。たとえば、セグメントSは、境界点P,P,P,…を含む。
図11(a)に示すような各要素を定義するために、図11(b)に示すようなデータ構造が採用される。すなわち、領域Rの下位層として境界線BおよびBが関連付けられる。さらに、各境界線の下位層として、各境界線を定義するセグメントが位置関係に対応する順序に従って関連付けられる。たとえば、境界線Bについては、セグメントS→セグメントS→セグメントS→セグメントSの順に関連付けられる。さらに、各セグメントについても、各セグメントを定義する境界点が位置関係に対応する順序に従って関連付けられる。たとえば、セグメントSについては、境界点P→境界点P→境界点P→…の順に関連付けられる。
図10および図11に示すように、CADデータおよび3次元モデルデータのいずれにおいても、オブジェクトを構成する点の位置関係が構造的に定義されているので、CADデータ252aに対して構造解析を行うことで、3次元モデルデータの生成が可能である。すなわち、設計データであるCADデータ252aは、境界に区分された第1の要素(三角パッチ)、および/または、1つまたは複数の第1の要素からなる第2の要素(面)の組合せとして対象物(ワーク)の構造を定義する。したがって、生成モジュール260は、CADデータ252aに含まれる第1の要素および/または第2の要素の情報に基づいて、対象物(ワーク)の輪郭から3次元モデルデータを生成する。
具体的には、生成モジュール260は、受付けた設計データ(CADデータ252a)において定義された1つまたは複数の第1の要素からなる第2の要素と当該第2の要素に隣接する他の第2の要素との境界を、階層的に定義することで3次元モデルデータを生成する。
より詳細には、生成モジュール260は、CADデータ252aに図10(B)で示された面の定義がない場合には、まず図10(A)おいて定義された複数の三角パッチについて法線ベクトルを求め、隣接しており、かつ、方向が同じもしくは一定の角度範囲にある法線ベクトルを持つ三角パッチ(第1の要素)を、同一の面を構成する第2の要素としてまとめていき、面の定義を生成する。もちろん、CADデータ252aに面の定義が存在する場合には、この手続きは省略される。この各面の定義から、その面を構成する複数の境界点の連結としてのセグメントが生成される。次に、隣接する2つの面の境界として、境界線のデータが生成される。以上のように、CADデータから、境界を階層的に定義するための、境界線・セグメント・境界点の階層的データからなる3次元モデルデータが生成される。
このように、本実施の形態に従うモデル作成装置200は、CADデータを変換して3次元モデルデータを生成するので、ユーザビリティを向上させることができる。すなわち、ユーザが3次元モデルデータを作成する手間を低減できるとともに、生成される3次元モデルデータの品質がユーザの経験に依存して大きくばらつくといったことを回避できる。
<H.3次元モデルデータ作成におけるユーザ支援機能>
次に、本実施の形態に従うモデル作成装置200を用いて、ユーザが3次元モデルデータを作成する際に、ユーザを支援する機能について説明する。
(h1.表示機能)
本実施の形態に従うモデル作成装置200は、CADデータを変換することで3次元モデルデータを生成する。図12および図13は、本実施の形態に従うモデル作成装置200において提供されるユーザインターフェイス画面の一例を示す図である。なお、このようなユーザインターフェイス画面は、表示モジュール278(図9)が主として提供する。
図12に示すように、モデル作成装置200は、変換対象のCADデータの内容(記述されているオブジェクト)と変換によって作成された3次元モデルデータとを比較可能なユーザインターフェイス画面301を提供する。このように、CADデータにより定義されるオブジェクトと作成された3次元モデルデータとを並べて表示することで、ユーザは、変換処理の前後の状態を比較することができ、これによって、変換の正しさや適切さを容易に評価することができる。すなわち、表示モジュール278は、CADデータ(設計データ)により定義される対象物(ワーク)と生成された3次元モデルデータにより定義される3次元モデルとを並べて立体的に表示する。
より具体的には、ユーザインターフェイス画面301は、CADデータからの変換実行を指示するためのボタン340と、変換により生成された3次元モデルデータを編集するためのボタン350とを含む。ユーザがボタン340を選択し、変換対象のCADデータを選択すると、変換処理が実行され、図12に示すような3次元モデルデータが表示される。
さらに、ユーザインターフェイス画面301は、変換対象のCADデータにより定義される3次元オブジェクトを表示するオブジェクト表示エリア360と、変換処理によって得られた3次元モデルを表示するモデル表示エリア370とを含む。オブジェクト表示エリア360に表示される3次元オブジェクトは、典型的には、いわゆるソリッド表示となっている。これに対して、モデル表示エリア370に表示される3次元オブジェクトは、輪郭を示す線画表示となっている。
ユーザインターフェイス画面301には、オブジェクト表示エリア360およびモデル表示エリア370での表示内容をユーザが自由に変更等できるように、表示設定タブ310と、空間設定タブ320と、操作設定タブ330とが用意されている。図12には、表示設定タブ310が選択されている状態を示す。
表示設定タブ310は、「基本表示」、「3次元オブジェクト表示」、「モデル表示」の各項目を含む。
「基本表示」は、オブジェクト表示エリア360およびモデル表示エリア370に付加的に表示する情報の有効/無効を設定するためのチェックボックスを含む。「座標平面」のチェックボックス311が選択されると、3次元座標に対応するメッシュ状の表示が有効化される。「座標軸」のチェックボックス312が選択されると、3次元座標の座標軸の表示が有効化される。図12には、いずれの情報も表示が有効化されている状態を示す。
「3次元オブジェクト表示」は、オブジェクト表示エリア360に付加的に表示する情報の有効/無効を設定するためのチェックボックスを含む。「境界線」のチェックボックス313が選択されると、CADデータにおいて定義されているオブジェクトの境界線(各面の範囲を示す線)の表示が有効化される。「三角パッチ」のチェックボックス314が選択されると、CADデータにおいて定義されているオブジェクトを構成する各三角パッチの表示が有効化される。「法線」のチェックボックス316が選択されると、CADデータにおいて定義されているオブジェクトを構成する各面についての法線の表示が有効化される。
「モデル表示」は、モデル表示エリア370に付加的に表示する情報の有効/無効を設定するためのチェックボックスを含む。「法線」のチェックボックス316が選択されると、3次元モデルデータに含まれるセグメントについての法線の表示が有効化される。
また、3次元オブジェクトおよび3次元モデルデータについて、その描画方法や視点を変更することもできる。これにより、3次元で定義されるオブジェクトおよびモデルについて、ユーザは、複数の視点からその内容をチェックすることができる。
図13に示すユーザインターフェイス画面302は、空間設定タブ320が選択されている状態に対応する。空間設定タブ320は、「投影法(遠近感)の設定」および「視点の配置設定」の各項目を含む。
「投影法(遠近感)の設定」は、オブジェクト表示エリア360およびモデル表示エリア370での描画方法を選択するためのラジオボタンを含む。「平行投影法(遠近感のない描画)」のラジオボタン321が選択されると、オブジェクト表示エリア360およびモデル表示エリア370においては、それぞれオブジェクトおよびモデルが平面的に描画される。一方、「透視投影法(遠近感のある描画)」のラジオボタン322が選択されると、オブジェクト表示エリア360およびモデル表示エリア370においては、図13に示すように、それぞれオブジェクトおよびモデルが立体的に描画される。このような遠近感のある描画を行うことで、ユーザは、オブジェクトおよびモデルの状態を直感的に認識することができる。
「視点の配置の設定」は、オブジェクト表示エリア360およびモデル表示エリア370での描画の基準となる視点を選択するためのラジオボタン322〜327を含む。「第1象限」、「第2象限」、「第3象限」、「第4象限」のそれぞれのラジオボタン322〜325のいずれかが選択されると、オブジェクト表示エリア360およびモデル表示エリア370においては、3次元座標上の対応する象限に視点を配置した場合に見える状態が描画される。また、「正面」のラジオボタン326、または、「真上」のラジオボタン327が選択されると、オブジェクトの正面または真上に視点を配置した場合に見える状態が描画される。さらに、「初期位置にリセット」のボタンが選択されると、初期状態の描画に戻る。
(h2.自由編集機能)
本実施の形態に従うモデル作成装置200は、3次元認識処理の処理速度の向上や認識精度の向上のために、3次元モデルデータをユーザが自由に編集する機能を提供する。具体的には、生成モジュール260(図9)は、自由編集機能262として、設計データ(CADデータ262a)において定義される対象物(オブジェクト)と3次元モデルとを並べて立体的に表示される状態で、外部からの(典型的には、ユーザからの)指示に従って3次元モデルデータを変更する。
図14は、本実施の形態に従うモデル作成装置200において提供される自由編集機能を説明するための図である。図15は、本実施の形態に従うモデル作成装置200において提供されるユーザインターフェイス画面の一例を示す図である。
[h2−1]:3次元モデル要素の有効化/無効化
モデル作成装置200においては、CADデータを変換することで作成された3次元モデルデータのうち、任意のセグメントおよび/または境界線について、3次元認識処理での3次元モデルデータとしての有効/無効を設定することができる。より具体的には、図14(a)に示すように、ユーザは、オブジェクト表示エリア360に表示される3次元オブジェクトを参照しながら、モデル表示エリア370に表示される3次元モデルデータを構成する部分(セグメントまたは境界線)のうち、3次元認識処理において重要でないと思う部分を無効化することができる。
なお、図11(b)に示すデータ構造のうち、セグメントまたは境界線に対応付けて、3次元モデルデータとして有効であるか否かを示すフラグが付与されている。そして、図14(a)に示すような操作がユーザによってなされると、指定された部分に対応するセグメントまたは境界線に付与されるフラグの値が「有効」を示す値から「無効」を示す値に変更される。そのため、一旦、ユーザが「無効」と判断した部分であっても、事後的に「有効」に変更することができる。すなわち、ユーザは、3次元モデルデータを可逆的に編集できる。
[h2−2]:位置・姿勢の変更
CADデータを変換して生成される3次元モデルデータでは、基本的には、CADデータに定義されている3次元オブジェクトの位置や姿勢の情報が引継がれる。しかしながら、ユーザは、CADデータにおいて定義されている3次元オブジェクトの位置や姿勢とは異なる位置や姿勢で3次元モデルを確認したい場合もある。そのようなニーズにも対応するため、本実施の形態に従うモデル作成装置200においては、作成された3次元モデルの位置および姿勢を、変換対象のCADデータとは独立して変更することが可能である。
すなわち、図14(b)に示すように、生成された3次元モデルデータに対して、ユーザがマウス操作などを行うことによって、その3次元モデルの位置および姿勢を任意に変更することができる。この場合、オブジェクト表示エリア360に表示される3次元オブジェクトの位置や姿勢は元のまま維持される。
ユーザが上述な自由編集機能を実行した場合の処理例を図15に示す。図15に示すユーザインターフェイス画面303においては、オブジェクト表示エリア360に表示される3次元オブジェクトに対して、その一部分が無効化されており、かつ、位置および姿勢を変更された3次元モデルがモデル表示エリア370に表示されている。
(h3.不要領域除去機能)
上述の自由編集機能においては、3次元モデルデータをユーザが自由に編集することで、3次元認識処理の処理速度および認識精度を向上する操作について説明した。これに対して、ユーザが予め設定した3次元モデルデータの生成条件に基づいて、3次元認識処理に用いられない不要領域(部品や形状)を除去するようにしてもよい。
具体的には、生成モジュール260(図9)は、不要領域除去機能264として、CADデータ(設計データ)に含まれる第1の要素(三角パッチ)および/または第2の要素(面)のうち、予め定められた生成条件を満たす要素を抽出し、抽出した要素から3次元モデルデータを生成する。以下、このような不要領域除去機能について説明する。
図16および図18は、本実施の形態に従うモデル作成装置200において提供されるユーザインターフェイス画面の一例を示す図である。図17は、本実施の形態に従うモデル作成装置200において提供される不要領域除去機能に含まれる1つの処理を説明するための図である。
[h3−1]:三角パッチ条件
モデル作成装置200においては、ユーザがCADデータに含まれる3次元オブジェクトを構成する各三角パッチに対する条件を設定すると、当該条件を満足する三角パッチに基づいて、3次元モデルデータを作成する。より具体的には、CADデータ(設計データ)に含まれる第1の要素(三角パッチ)の面積についてのしきい値を含み、生成モジュール260は、CADデータに含まれる要素のうち、生成条件により指定された面積についてのしきい値より小さい要素を3次元モデルデータの生成対象から除去する。
図16に示すユーザインターフェイス画面304においては、3次元モデルデータを作成するための条件を入力するためのダイアログ390が表示されている。このダイアログ390は、「モデル生成の精度」および「小領域除去しきい値設定」の各項目を含む。
「モデル生成の精度」は、3次元モデルデータの生成精度を設定するためのラジオボタン391,392,393を含む。「低」、「中」、「高」のそれぞれのラジオボタン391,392,393のいずれかが選択されると、選択された精度に応じた条件を満たす三角パッチを利用して3次元モデルデータが生成される。
すなわち、「低」のラジオボタン391が選択されると、相対的に面積の小さな三角パッチは、3次元モデルデータには反映されなくなる。より具体的には、相対的に面積の小さな三角パッチは隣接する三角パッチの一部として取扱われる。これに対して、「高」のラジオボタン393が選択されると、相対的に面積の小さな三角パッチについても、3次元モデルデータに反映される。
「小領域除去しきい値設定」は、3次元モデルデータの生成に利用する三角パッチ(小領域)の抽出条件(三角パッチの面積のしきい値)を設定するためのスライドバー394とを含む。また、ユーザがスライドバー394を操作して設定したしきい値は、表示ボックス395において数値表示される。また、スライドバー394により設定されたしきい値は、「OK」ボタン396または「適用」ボタン398が選択されることで、有効化される。また、「キャンセル」ボタン397が選択されると、設定されたしきい値はキャンセルされる。
モデル作成装置200は、CADデータを構造解析することで、3次元オブジェクトを構成する各三角パッチの面積を設定されたしきい値と比較する。そして、設定されたしきい値より小さい面積の三角パッチについては、3次元モデルデータの生成には利用しない。
以上のように、CADデータに含まれる3次元オブジェクトを構成する三角パッチのうち、予め設定された面積のしきいレベル(低・中・高の3レベル)、あるいは、ユーザが指定する具体的なしきい値の条件に基づいて、条件を満たす三角パッチのみを抽出して、3次元モデルデータが生成される。
これにより、ユーザが生成された3次元モデルデータに対して編集する場合に比較して、より少ない作業量で、より適切な3次元モデルデータを作成することができる。そして、3次元認識処理の処理速度や認識精度を向上させることができる。
[h3−2]:幾何形状条件
上述のように三角パッチの面積等に基づく条件を設定してもよいが、特定の幾何形状を予め設定しておき、このよう幾何形状に相当する部分を、3次元モデルデータの生成対象から除去するようにしてもよい。すなわち、3次元モデルデータの生成条件には、CADデータ(設計データ)に含まれる特定の幾何形状を示す情報が含まれ、生成モジュール260は、CADデータに含まれる当該特定の幾何形状に相当する部分を3次元モデルデータの生成対象から除去する。
典型的な使用形態としては、CADデータ上では、複数の部品を組合せることで1つのワークを構成するように設計されることが多く、各部品について、独立してその形状が定義される。このような場合には、3次元モデルデータの生成対象から除去すべき部品の情報(幾何形状)を予めユーザが設定しておくことで、当該設定された幾何形状に相当する部品は、3次元モデルデータに反映されない。
図17(a)に示すように、あるワークが、本体部に3つの付加的な部品が組合せられたものであるとし、この3つの付加的な部品を、除去すべき部品として予め指定しておくと、モデル作成装置200は、CADデータに含まれる設計情報のうち、これらの部品の設計情報を除去する。すなわち、モデル作成装置200は、図17(b)に示すようなワークであるとみなし、この部品が除去された状態のワークから、図17(c)に示すような、3次元モデルデータを生成する。
なお、ユーザが除去すべき部品を指定する方法としては、CADアプリケーション上で除去すべき部品を直接的に指定し、その指定された情報をモデル作成装置200において実行されるモデル作成処理に渡すようにしてもよい。あるいは、除去すべき部品を示す幾何形状の情報を外部のファイルなどから取得するようにしてもよい。さらにあるいは、オブジェクト表示エリア360に表示される3次元オブジェクトに対して、ユーザが除去すべき部品を直接的に指定してもよい。
この場合、図18に示すように、モデル表示エリア370に表示される3次元モデルと比較しながら、オブジェクト表示エリア360に表示される3次元オブジェクトに対して、除去される部分を指定するような形態が好ましい。
[h3−3]:カメラ分解能条件
本実施の形態に従う3次元認識処理は、ステレオカメラ1によって撮像された画像データに対して適用されるので、この3次元認識処理に用いられる3次元モデルデータの精度は、ステレオカメラ1の視野分解能に応じて定めることが好ましい。すなわち、ステレオカメラ1の視野分解能より微細な部分は、ステレオカメラ1にて認識することができないからである。
そこで、本実施の形態に従うモデル作成装置200は、ステレオカメラ1の視野分解能の情報に基づいて、CADデータのうち、当該視野分解能より微細な部分については、3次元モデルデータに反映しない。
より具体的には、ステレオカメラ1の視野分解能に応じて、三角パッチ単体、あるい、複数の三角パッチの集合である面の面積についてのしきい値を算出し、このしきい値より面積の小さい三角パッチまたは面については、3次元モデルデータへの変換に使用しない。なお、視野分解能は、各画素に対応する現実の大きさである。
このように、ステレオカメラ1の視野分解能に応じた条件を適用することで、3次元認識処理の処理速度および認識精度を向上することができる。
(h4.完全陰線除去機能)
CADデータから3次元モデルデータを生成した場合には、オブジェクト(ワーク)の内部構造についても輪郭線として出力されてしまう場合がある。しかしながら、このような内部構造は、オブジェクトの外部には露出する部分ではないので、いずれの姿勢であっても、ステレオカメラ1で撮像することができない。このような輪郭線を完全陰線とも称す。
図19は、本実施の形態に従うモデル作成装置200において提供される完全陰線除去機能を説明するための図である。図20は、図19に示す完全陰線除去機能の1つの実現方法を説明するための図である。
モデル作成装置200は、このような3次元認識処理での認識に使用されない完全陰線を除去する。すなわち、CADデータ(設計データ)においてワークを定義するための第2の要素(面)についての法線ベクトルの情報を用いて、CADデータにおいて定義される面のうちその法線方向が他の面と交差するものを抽出し、当該抽出した面をワークの外部から視認されない部分であるとして、3次元モデルデータの生成対象から除去する。
たとえば、図19に示すような立体物のオブジェクトの内部に、立方形状の内部構造が含まれていたとする。この場合、この立方形状の内部構造は、いずれの姿勢であっても、ステレオカメラ1で撮像することはできない。そこで、このような内部構造を完全陰線であると判断して、3次元モデルデータの生成対象からは除去する。その結果、生成される3次元モデルデータは、図19の右側に示すような立体形状に相当するものとなる。
CADデータで定義される部分のうち、いずれの部分が完全陰線(内部構造)であるかを判断する方法として、本実施の形態においては、面または三角パッチの法線の交差する点の評価を採用する。
具体的には、図20に示すように、CADデータによって定義されるオブジェクトを構成するそれぞれの面の法線ベクトルを順次評価する。すなわち、ある面の法線ベクトルを延長した場合に、何らの他の面と交差しない場合には、当該面は、オブジェクトの外側に位置していると判断される。一方、ある面の法線ベクトルを延長した場合に、いずれかの他の面と交差する場合には、当該面は、オブジェクトの内部に存在していると判断される。そこで、このような面については、3次元モデルデータの生成対象から除去される。
なお、オブジェクトを構成する面の各々について、法線ベクトルの情報が存在する場合には、そのままその情報を利用することができる。一方、オブジェクトの面の単位ではなく、面を構成する複数の三角パッチの各々について、法線ベクトルの情報が存在する場合には、ある面を構成する三角パッチの有する法線ベクトルの平均値を当該面の法線ベクトルとすることができる。あるいは、各三角パッチの法線ベクトルのすべてについて、上述のような交差判定を行い、ある面を構成する三角パッチのうち、他の面と交差する三角パッチの割合に基づいて、当該面が完全陰線であるか否かを判断してもよい。
なお、法線は、オブジェクトの外側に向かうように設定されているが、この法線の向きが不正であるか否かを事前に判断して、不正である法線についてはその向きを反転するように修正してもよい。
このように、3次元認識処理に利用されない情報を3次元モデルデータに含ませないようにすることで、3次元認識処理の処理速度や認識精度を向上させることができる。
(h5.認識結果フィードバック機能)
上述のような処理によって作成された3次元モデルデータを適用して現実に3次元認識処理を実行することで得られた認識結果に基づいて、3次元モデルデータを編集するようにしてもよい。このような現実の認識結果をフィードバックすることで、3次元認識処理の認識速度および認識性能を最適化することができる。
すなわち、モデル作成装置200は、作成された3次元モデルデータを用いた3次元認識処理の実行により得られた認識結果を当該3次元モデルと対応付けて表示するとともに、認識結果と対応付けて表示される3次元モデルに対する編集操作に従って、当該3次元モデルデータへの変更を受付ける。
図21は、本実施の形態に従うモデル作成装置200において提供される認識結果フィードバック機能を説明するための図である。
図21を参照して、本実施の形態に従う認識結果フィードバック機能においては、ステレオカメラ1において撮像されたワーク、3次元認識処理に用いられた3次元モデルデータ、および、当該3次元モデルデータを用いて実行された3次元認識処理の認識結果の3つがオーバーラップ(重合せ)表示される。ユーザは、このオーバーラップ表示により、3次元モデルデータに対して、ステレオカメラ1において現実に撮像されたワークの状態および3次元認識処理の認識結果の状態を把握することができる。
ワークの設計変更により、3次元モデルデータの生成に用いたCADデータが実際のワークの形状と一致しなくなってしまった場合には、3次元モデルデータと認識結果とが一致しなくなる。そのため、オーバーラップ表示において、3次元モデルと認識結果との間の不一致部を強調表示してもよい。図21に示す例では、正面側に配置された部品の形状および位置が、ワークと3次元モデルとの間で異なっている例を示す。
ここで、3次元モデルデータを調整する場合、現実のワークには存在しないが、3次元モデルデータに存在する要素については、無効化する必要がある。この場合には、ユーザが3次元モデルと認識結果とを比較することで、3次元モデルにのみ存在する要素を指定することで、当該要素を無効化することができる。代替的に、モデル作成装置200が3次元モデルと認識結果との間の不一致部を自動的に無効化してもよい。
一方、3次元モデルには存在しないが、現実のワークには存在する要素については、3次元モデルデータに追加する必要がある。この場合においても、ユーザが3次元モデルと認識結果とを比較することで、3次元モデルに存在しない要素(プリミティブな図形)を手動入力することができる。代替的に、モデル作成装置200が3次元モデルと認識結果との間の差分によって得られた3次元モデルに存在しない要素を自動的に追加してもよい。
図21に示すように、ユーザが確認できるように、上述のような処理によって修正された3次元モデルを表示してもよい。
さらに、設定されている3次元モデルに対して、認識結果との一致度合い(認識度)をグラフィカルに表示してもよい(図21に示す認知度のオーバーラップ表示)。これにより、ユーザは、3次元モデルデータを構成するセグメントのうち、より認識される可能性が高いセグメントを特定できる。これにより、3次元モデルデータを構成する特定のセグメント(部分または形状)に対して、より認識結果に対して影響度を高く/低くするような重み付けを設定してもよい。
たとえば、3次元モデルデータに含まれる複数のセグメントのうち、重要度の高いセグメントと重要度の低いセグメントとを区別しておき、重要度の高いセグメントについて認識が成功していれば、重要度の低いセグメントについては、認識が失敗していても、全体としては、認識が成功したと判断することもできる。
(h6.シミュレーション情報反映機能)
上述の図12および図13に示すユーザインターフェイス画面においては、オブジェクト表示エリア360に表示されるオブジェクトは、予め定められた条件で描画される。これに対して、ステレオカメラ1による現実の撮像条件(ワーク表面の色、照明条件、生じる影の状態、背景の色など)を反映したオブジェクトを表示することで、より現実に即した3次元モデルデータを作成することができる。
すなわち、モデル作成装置200は、CADデータにより定義されるワークが指示された撮像条件に従って視認される状態をシミュレーションする機能を有しており、生成された3次元モデルデータにより定義される3次元モデルとを並べて、シミュレーション機能によって得られたワークの視認される状態を表示する。そして、この状態で、3次元モデルデータに対する編集を受付ける。
図22は、本実施の形態に従うモデル作成装置200において提供されるシミュレーション情報反映機能でのシミュレーション例を示す図である。図23は、本実施の形態に従うモデル作成装置200において提供されるシミュレーション情報反映機能による効果を説明するための図である。
図22(a)は、ある撮像条件下においてステレオカメラ1を用いてワークWを撮像した結果を示す図である。図22(a)に示すように、ワークWの表面の色と背景の色との差や、照明の位置や向きなどによって、ワークWの見え方は変化し得る。そこで、CADデータに対して、このような撮像条件に基づいて見え方をシミュレーションすることで、現実にステレオカメラ1にて視認され得るワークWの状態を推定する。たとえば、図22(b)には、ある撮像条件下のシミュレーション結果を示す図である。
このようなシミュレーション結果を、ユーザインターフェイス画面のオブジェクト表示エリア360(図12および図13など)に表示することで、現実の撮像によって得られる画像に現れる輪郭線(画像内のエッジ部分)を予測して、3次元モデルデータを作成することができる。
このようなシミュレーションによって得られる画像を考慮して3次元モデルデータを作成することで、たとえば、面取り部分などの輪郭線を適切に3次元モデルデータに反映することができる。すなわち、図23に示すような面取り部分を含む形状を考えると、CADデータ上においては、複数の三角パッチ(あるいは、面)の集合として半径rの面取り部を定義する。そのため、CADデータ上では、この面取り部の表面に複数の境界線が現れることになる。しかしながら、現実にステレオカメラ1にて視認される輪郭線(エッジ部分)は、面取り部上にある1本の線となると考えられる。そこで、シミュレーションによって得られた画像と対比して表示することで、3次元モデルデータにおけるこのような面取り部の輪郭線を最適化(単一化)できる。
このように、現実の撮像条件でのシミュレーション結果を表示して、3次元モデルデータを修正することで、3次元認識処理の処理速度や認識精度を向上させることができる。
<I.全体処理手順>
図24は、本実施の形態に従うモデル作成装置200において実行される3次元モデルデータ作成処理の処理手順を示すフローチャートである。なお、図24に示す各ステップは、図8に示すCPU205が固定ディスク207またはメモリ206に保持されるプログラム(コード/命令セット)を順次実行することで実現される。
図24を参照して、まず、CPU205は、3次元モデルデータを作成する元になるCADデータを受付ける(ステップS100)。
続いて、CPU205は、不要領域除去機能が有効化されているか否かを判断する(ステップS102)。不要領域除去機能が有効化されている場合(ステップS102においてYESの場合)には、CPU205は、CADデータにより定義されるオブジェクトのうち、3次元モデルデータに反映する要素から除去するための除去条件を受付ける(ステップS104)。続いて、CPU205は、CADデータにより定義されるオブジェクトに含まれる面または三角パッチの各々について、除去条件に合致しているか否かを順次判断する(ステップS106)。そして、CADデータにより定義されるオブジェクトのうち、除去条件に合致している面または三角パッチについて、3次元モデルデータの作成対象から除去する(ステップS108)。
不要領域除去機能が有効化されていない場合(ステップS102においてNOの場合)、または、ステップS108の処理後、CPU205は、完全陰線機能が有効化されているか否かを判断する(ステップS110)。完全陰線除去機能が有効化されている場合(ステップS110においてYESの場合)には、CPU205は、CADデータにより定義されるオブジェクトに含まれる面または三角パッチの各々について、その法線が他の面または三角パッチと交差するか否かを順次判断する(ステップS112)。そして、CADデータにより定義されるオブジェクトのうち、その法線が他の面または三角パッチと交差する面または三角パッチについて、3次元モデルデータの作成対象から除去する(ステップS114)。
完全陰線除去機能が有効化されていない場合(ステップS110においてNOの場合)、または、ステップS114の処理後、CPU205は、CADデータにより定義されるオブジェクトのうち、作成対象から除去された面および三角パッチを除く部分に基づいて、3次元オブジェクトデータを生成する(ステップS116)。そして、CPU205は、CADデータに基づくオブジェクトを描画するとともに、ステップS116において生成した3次元オブジェクトデータを描画する(ステップS118)。
続いて、CPU205は、自由編集機能が有効化されているか否かを判断する(ステップS120)。自由編集機能が有効化されている場合(ステップS120においてYESの場合)には、CPU205は、ユーザ操作に従って、作成済のオブジェクトデータを変更する(ステップS122)。
自由編集機能が有効化されていない場合(ステップS120においてNOの場合)、または、ステップS122の処理後、CPU205は、認識結果フィードバック機能が有効化されているか否かを判断する(ステップS124)。認識結果フィードバック機能が有効化されている場合(ステップS124においてYESの場合)には、CPU205は、実行済の3次元認識処理の認識結果およびそのときに使用された画像データを受付ける(ステップS126)。続いて、CPU205は、ワークの画像データ上に、3次元モデルデータおよび認識結果をオーバーラップ表示するための表示データを生成する(ステップS128)。このとき、CPU205は、3次元モデルと認識結果との間の不一致部などの付加情報についても生成する。さらに続いて、CPU205は、ユーザ操作に従って、作成済のオブジェクトデータを変更する(ステップS130)。
認識結果フィードバック機能が有効化されていない場合(ステップS124においてNOの場合)、または、ステップS130の処理後、CPU205は、シミュレーション情報反映機能が有効化されているか否かを判断する(ステップS132)。シミュレーション情報反映機能が有効化されている場合(ステップS132においてYESの場合)には、CPU205は、現実の撮像条件を受付ける(ステップS134)。続いて、CPU205は、ステップS134において受付けた撮像条件における、CADデータにより定義されるオブジェクトの見え方を示す画像データをシミュレーションにより生成する(ステップS136)。さらに続いて、CPU205は、ステップS136において生成した画像データを描画する(ステップS138)。そして、CPU205は、ユーザ操作に従って、作成済のオブジェクトデータを変更する(ステップS140)。
シミュレーション情報反映機能が有効化されていない場合(ステップS132においてNOの場合)、または、ステップS140の処理後、CPU205は、3次元モデルデータの出力指示を受けたか否かを判断する(ステップS142)。
3次元モデルデータの出力指示を受けていない場合(ステップS142においてYESの場合)には、ステップS120以下の処理が繰返される。
一方、3次元モデルデータの出力指示を受けた場合(ステップS142においてYESの場合)には、CPU205は、現在の3次元モデルデータを3次元モデルとして、センサコントローラ2などへ出力する(ステップS144)。そして、処理は終了する。
<J.作用効果>
本実施の形態に従うモデル作成装置200は、ワークの設計に用いるCADデータから直接的に3次元モデルデータを生成するので、現実にワークを撮像して3次元モデルデータを生成する場合のように誤差が蓄積するといった問題が生じない。また、本実施の形態に従うモデル作成装置200は、CADデータにより定義されるオブジェクトと3次元モデルとを対比して表示するので、完成した3次元モデルの精度などを一見して把握できるとともに、任意に編集することもできる。これにより、ユーザは、3次元認証処理に用いられる3次元モデルデータを容易に作成することができる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は、上記した説明ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 ステレオカメラ、2 センサコントローラ、3 ロボットコントローラ、4 関節ロボット、6 収容ボックス、8 コンピュータ、9 設計データ、10,270a 3次元モデルデータ、11,12,13 カメラ、21,22,23 画像入力部、24,34,205 CPU、25,35,206 メモリ、26,36 入力部、27,37 表示部、28 通信I/F、29,38 バス、31,32,33 ドライバ、40 アーム、41,42,43 モータ、100 ピッキングシステム、200 モデル作成装置、202 モニタ、203 キーボード、204 マウス、207 固定ディスク、211 FD駆動装置、212 フレキシブルディスク、213 ROM駆動装置、214 ROM、250 入力モジュール、252,252,270,274,270,274 バッファ、260 生成モジュール、262 自由編集機能、264 不要領域除去機能、266 完全陰線除去機能、268 認識結果フィードバック機能、272 出力モジュール、274a 認識結果、276 シミュレーションモジュール、278 表示モジュール。

Claims (9)

  1. 対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、当該3次元モデルデータを作成するためのモデル作成装置であって、
    境界に区分された第1の要素の組合せとして前記対象物の構造を定義した設計データを受付ける入力手段と、
    受付けた前記設計データにおいて定義された1つまたは複数の前記第1の要素からなる第2の要素と当該第2の要素に隣接する他の第2の要素との境界を、階層的に定義することで前記3次元モデルデータを生成する生成手段と、
    前記設計データにより定義される前記対象物と生成された前記3次元モデルデータにより定義される3次元モデルとを並べて立体的に表示する表示手段とを備える、モデル作成装置。
  2. 前記生成手段は、前記対象物および前記3次元モデルが並べて立体的に表示される状態で、外部からの指示に従って前記3次元モデルデータを変更する、請求項1に記載のモデル作成装置。
  3. 前記生成手段は、前記設計データに含まれる第1および/または第2の要素のうち、予め定められた生成条件を満たす第1および/または第2の要素を抽出し、抽出した第1および/または第2の要素から前記3次元モデルデータを生成する、請求項1または2に記載のモデル作成装置。
  4. 前記生成条件は、前記設計データに含まれる第1の要素の面積についてのしきい値を含み、
    前記生成手段は、前記設計データに含まれる第1の要素のうち、前記しきい値より面積の小さい第1の要素を前記3次元モデルデータの生成対象から除去する、請求項3に記載のモデル作成装置。
  5. 前記生成条件は、前記設計データに含まれる特定の幾何形状を示す情報を含み、
    前記生成手段は、当該特定の幾何形状に相当する部分を前記3次元モデルデータの生成対象から除去する、請求項3に記載のモデル作成装置。
  6. 前記設計データにおいて定義された第2の要素は、前記対象物を構成する面の情報を含み、
    前記生成手段は、前記設計データにおいて定義される面のうちその法線方向が他の面と交差するものを抽出し、当該抽出した面を前記対象物の外部から視認されない部分であるとして、前記3次元モデルデータの生成対象から除去する、請求項1または2に記載のモデル作成装置。
  7. 前記表示手段は、作成された前記3次元モデルデータを用いた前記3次元認識の実行により得られた認識結果を当該3次元モデルと対応付けて表示し、
    前記生成手段は、前記認識結果と対応付けて表示される前記3次元モデルに対する編集操作に従って、当該3次元モデルデータを変更する、請求項1に記載のモデル作成装置。
  8. 前記設計データにより定義される前記対象物が指示された撮像条件に従って視認される状態をシミュレーションするシミュレーション手段をさらに備え、
    前記表示手段は、前記3次元モデルデータにより定義される前記3次元モデルとを並べて、前記シミュレーション手段によって得られた前記対象物の視認される状態を表示する、請求項1に記載のモデル作成装置。
  9. 対象物を複数のカメラで撮像して得られる画像データから3次元情報を取得し、当該取得した3次元情報を3次元モデルデータと照合することで、当該対象物について3次元認識を行う処理に用いられる、当該3次元モデルデータを作成するためのモデル作成プログラムであって、前記モデル作成プログラムは、コンピュータに、
    境界に区分された第1の要素の組合せとして前記対象物の構造を定義した設計データを受付けるステップと、
    受付けた前記設計データにおいて定義された1つまたは複数の前記第1の要素からなる第2の要素と当該第2の要素に隣接する他の第2の要素との境界を、階層的に定義することで前記3次元モデルデータを生成するステップと、
    前記設計データにより定義される前記対象物と生成された前記3次元モデルデータにより定義される3次元モデルとを並べて立体的に表示するステップとを実行させる、モデル作成プログラム。
JP2010049256A 2010-03-05 2010-03-05 モデル作成装置およびモデル作成プログラム Pending JP2011185650A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2010049256A JP2011185650A (ja) 2010-03-05 2010-03-05 モデル作成装置およびモデル作成プログラム
US13/030,512 US8825452B2 (en) 2010-03-05 2011-02-18 Model producing apparatus, model producing method, and computer-readable recording medium in which model producing program is stored

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010049256A JP2011185650A (ja) 2010-03-05 2010-03-05 モデル作成装置およびモデル作成プログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014200895A Division JP2015062017A (ja) 2014-09-30 2014-09-30 モデル作成装置、モデル作成プログラム、および画像認識システム

Publications (1)

Publication Number Publication Date
JP2011185650A true JP2011185650A (ja) 2011-09-22

Family

ID=44532059

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010049256A Pending JP2011185650A (ja) 2010-03-05 2010-03-05 モデル作成装置およびモデル作成プログラム

Country Status (2)

Country Link
US (1) US8825452B2 (ja)
JP (1) JP2011185650A (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015022462A (ja) * 2013-07-18 2015-02-02 スパンション エルエルシー 描画方法、描画装置、および描画プログラム
KR101988372B1 (ko) * 2018-11-30 2019-06-12 주식회사 큐픽스 사진 이미지를 이용한 3차원 건축물 모델 역설계 장치 및 방법
JP2019215180A (ja) * 2018-06-11 2019-12-19 オムロン株式会社 計測システムおよび計測方法
JP2021033501A (ja) * 2019-08-21 2021-03-01 日立Geニュークリア・エナジー株式会社 プラント設備機器認識システムおよびプラント設備機器認識方法
US11145048B2 (en) 2019-07-24 2021-10-12 Fujitsu Limited Image processing apparatus, image processing method, and non-transitory computer-readable storage medium for storing program

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9679410B1 (en) * 2007-08-22 2017-06-13 Trimble Inc. Systems and methods for parametric modeling of three dimensional objects
US20100088429A1 (en) * 2008-09-03 2010-04-08 Chih-Hsing Chu Method for constructing a decomposition data structure of multiple levels of detail design feature of 3d cad model and streaming thereof
JP5245938B2 (ja) * 2009-03-12 2013-07-24 オムロン株式会社 3次元認識結果の表示方法および3次元視覚センサ
JP5714232B2 (ja) * 2009-03-12 2015-05-07 オムロン株式会社 キャリブレーション装置および3次元計測のためのパラメータの精度の確認支援方法
JP2010210585A (ja) * 2009-03-12 2010-09-24 Omron Corp 3次元視覚センサにおけるモデル表示方法および3次元視覚センサ
JP5316118B2 (ja) 2009-03-12 2013-10-16 オムロン株式会社 3次元視覚センサ
JP5282614B2 (ja) * 2009-03-13 2013-09-04 オムロン株式会社 視覚認識処理用のモデルデータの登録方法および視覚センサ
JP6080407B2 (ja) * 2012-07-03 2017-02-15 キヤノン株式会社 3次元計測装置及びロボット装置
US9177418B1 (en) * 2013-03-15 2015-11-03 Lockheed Martin Corporation System and method for converting computer aided design data into a three dimensional model
CN103292733B (zh) * 2013-05-27 2016-03-02 华中科技大学 一种基于相移和三视张量的对应点查找方法
WO2015079740A1 (ja) * 2013-11-28 2015-06-04 三菱電機株式会社 ロボットシステムおよびロボットシステムの制御方法
JP5850958B2 (ja) * 2014-01-24 2016-02-03 ファナック株式会社 ワークを撮像するためのロボットプログラムを作成するロボットプログラミング装置
TWI518583B (zh) * 2014-04-18 2016-01-21 三緯國際立體列印科技股份有限公司 立體列印裝置及其列印異常偵測方法
CN104268319B (zh) * 2014-09-16 2017-08-29 上海卫星工程研究所 卫星电缆三维标注方法
CN104268321B (zh) * 2014-09-16 2017-08-29 上海卫星工程研究所 卫星电缆轻量化建模方法
CN104463963A (zh) * 2014-12-10 2015-03-25 天津大学 一种控制三维模型显示的方法
US9933256B2 (en) 2015-04-09 2018-04-03 Mitutoyo Corporation Inspection program editing environment including real-time feedback related to throughput
US9952586B2 (en) * 2015-04-09 2018-04-24 Mitutoyo Corporation Inspection program editing environment with simulation status and control continually responsive to selection operations
JP6333871B2 (ja) * 2016-02-25 2018-05-30 ファナック株式会社 入力画像から検出した対象物を表示する画像処理装置
CN106003025A (zh) * 2016-05-31 2016-10-12 上海未来伙伴机器人有限公司 三维机器人模型创建方法和装置
JP6798826B2 (ja) * 2016-08-31 2020-12-09 株式会社ミマキエンジニアリング 三次元造形物製造方法
JP6571616B2 (ja) * 2016-09-05 2019-09-04 ファナック株式会社 ロボットシミュレーション装置
JP6693981B2 (ja) * 2018-02-19 2020-05-13 ファナック株式会社 ロボットの動作をシミュレーションするシミュレーション装置
KR102129206B1 (ko) 2019-06-14 2020-07-01 주식회사 큐픽스 사진 이미지를 이용한 3차원 좌표 계산 방법 및 3차원 좌표 계산 장치
JP2021022057A (ja) * 2019-07-25 2021-02-18 ファナック株式会社 設置支援装置、設置支援システム及び設置支援プログラム
CN111177813B (zh) * 2019-12-31 2023-09-29 湖南特能博世科技有限公司 图元识别的方法、装置和电子系统
US20230043591A1 (en) * 2020-01-08 2023-02-09 Sony Group Corporation Information processing apparatus and method
CN114265586B (zh) * 2021-12-09 2023-12-05 深圳模德宝科技有限公司 一种切割自动编程方法、装置及计算机可读存储介质

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0410070A (ja) * 1990-04-27 1992-01-14 Hitachi Ltd 3次元設計データ作成方法及びその装置
JPH09128563A (ja) * 1995-10-30 1997-05-16 Chokosoku Network Computer Gijutsu Kenkyusho:Kk 三次元図形データ転送方法
JP2001273523A (ja) * 2000-03-23 2001-10-05 Hitachi Eng Co Ltd 三次元データ削減装置及び方法
JP2002215696A (ja) * 2001-01-19 2002-08-02 Komatsu Ltd 3次元cadシステム
JP2003030645A (ja) * 2001-07-11 2003-01-31 Hitachi Ltd 画像照合装置
JP2004038408A (ja) * 2002-07-01 2004-02-05 Ricoh Co Ltd 3次元形状処理装置、3次元形状処理方法、プログラム及び記憶媒体
JP2005056083A (ja) * 2003-08-01 2005-03-03 Ricoh Co Ltd n次元形状モデル、n次元形状モデル格納装置、n次元形状モデル格納方法、n次元形状モデル表示装置、n次元形状モデル表示方法、n次元形状モデルのデータ構造、n次元形状モデル処理システム、プログラムおよび記録媒体
JP2006113802A (ja) * 2004-10-14 2006-04-27 Canon Inc メッシュ生成方法および情報処理装置
JP2009037466A (ja) * 2007-08-02 2009-02-19 Hitachi Ltd 参照画像作成表示装置

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6166719A (en) * 1998-04-09 2000-12-26 Hewlett-Packard Company Consistently ordered adjustment of a digitally represented image
US6879324B1 (en) * 1998-07-14 2005-04-12 Microsoft Corporation Regional progressive meshes
JP2961264B1 (ja) 1998-09-21 1999-10-12 工業技術院長 3次元物体モデル生成方法及び3次元物体モデル生成プログラムを記録したコンピュータ読み取り可能な記録媒体
US6980690B1 (en) * 2000-01-20 2005-12-27 Canon Kabushiki Kaisha Image processing apparatus
US20010047251A1 (en) * 2000-03-03 2001-11-29 Kemp William H. CAD system which designs 3-D models
US7023432B2 (en) * 2001-09-24 2006-04-04 Geomagic, Inc. Methods, apparatus and computer program products that reconstruct surfaces from data point sets
JP3673749B2 (ja) * 2001-11-12 2005-07-20 ファナック株式会社 シミュレーション装置
US20050034084A1 (en) * 2003-08-04 2005-02-10 Toshikazu Ohtsuki Mobile terminal device and image display method
US8004517B1 (en) * 2005-06-24 2011-08-23 Geomagic, Inc. Methods, apparatus and computer program products that model three-dimensional surface structures
US20070091119A1 (en) * 2005-10-24 2007-04-26 Matthew Jezyk Integrated massing and design CAD models
US8015125B2 (en) * 2006-08-31 2011-09-06 Drexel University Multi-scale segmentation and partial matching 3D models
CN101535032B (zh) * 2006-10-10 2012-02-08 株式会社松风 造型数据生成系统、制造方法以及造型数据生成程序
JP5089478B2 (ja) * 2008-04-28 2012-12-05 キヤノン株式会社 解析モデル作成装置及び解析モデル作成方法
US8514222B2 (en) * 2008-08-13 2013-08-20 Autodesk, Inc. Device, system, and method of computer aided design (CAD)
US8433128B2 (en) * 2008-11-04 2013-04-30 Omron Corporation Method of creating three-dimensional model and object recognizing device
JP2010121999A (ja) * 2008-11-18 2010-06-03 Omron Corp 3次元モデルの作成方法および物体認識装置
JP5570190B2 (ja) * 2009-11-30 2014-08-13 キヤノン株式会社 形状簡略化装置、形状簡略化方法及びプログラム
JP5713159B2 (ja) * 2010-03-24 2015-05-07 独立行政法人産業技術総合研究所 ステレオ画像による3次元位置姿勢計測装置、方法およびプログラム

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0410070A (ja) * 1990-04-27 1992-01-14 Hitachi Ltd 3次元設計データ作成方法及びその装置
JPH09128563A (ja) * 1995-10-30 1997-05-16 Chokosoku Network Computer Gijutsu Kenkyusho:Kk 三次元図形データ転送方法
JP2001273523A (ja) * 2000-03-23 2001-10-05 Hitachi Eng Co Ltd 三次元データ削減装置及び方法
JP2002215696A (ja) * 2001-01-19 2002-08-02 Komatsu Ltd 3次元cadシステム
JP2003030645A (ja) * 2001-07-11 2003-01-31 Hitachi Ltd 画像照合装置
JP2004038408A (ja) * 2002-07-01 2004-02-05 Ricoh Co Ltd 3次元形状処理装置、3次元形状処理方法、プログラム及び記憶媒体
JP2005056083A (ja) * 2003-08-01 2005-03-03 Ricoh Co Ltd n次元形状モデル、n次元形状モデル格納装置、n次元形状モデル格納方法、n次元形状モデル表示装置、n次元形状モデル表示方法、n次元形状モデルのデータ構造、n次元形状モデル処理システム、プログラムおよび記録媒体
JP2006113802A (ja) * 2004-10-14 2006-04-27 Canon Inc メッシュ生成方法および情報処理装置
JP2009037466A (ja) * 2007-08-02 2009-02-19 Hitachi Ltd 参照画像作成表示装置

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2015022462A (ja) * 2013-07-18 2015-02-02 スパンション エルエルシー 描画方法、描画装置、および描画プログラム
JP2019215180A (ja) * 2018-06-11 2019-12-19 オムロン株式会社 計測システムおよび計測方法
JP7119606B2 (ja) 2018-06-11 2022-08-17 オムロン株式会社 計測システムおよび計測方法
KR101988372B1 (ko) * 2018-11-30 2019-06-12 주식회사 큐픽스 사진 이미지를 이용한 3차원 건축물 모델 역설계 장치 및 방법
US11145048B2 (en) 2019-07-24 2021-10-12 Fujitsu Limited Image processing apparatus, image processing method, and non-transitory computer-readable storage medium for storing program
JP2021033501A (ja) * 2019-08-21 2021-03-01 日立Geニュークリア・エナジー株式会社 プラント設備機器認識システムおよびプラント設備機器認識方法
JP7233343B2 (ja) 2019-08-21 2023-03-06 日立Geニュークリア・エナジー株式会社 プラント設備機器認識システムおよびプラント設備機器認識方法

Also Published As

Publication number Publication date
US20110218776A1 (en) 2011-09-08
US8825452B2 (en) 2014-09-02

Similar Documents

Publication Publication Date Title
JP2011185650A (ja) モデル作成装置およびモデル作成プログラム
JP6940047B2 (ja) コンピュータによる鉄筋測定検査システム及び鉄筋測定検査方法
JP5248806B2 (ja) 情報処理装置、情報処理方法
JP4492654B2 (ja) 3次元計測方法および3次元計測装置
US10262417B2 (en) Tooth axis estimation program, tooth axis estimation device and method of the same, tooth profile data creation program, tooth profile data creation device and method of the same
JP6298035B2 (ja) モデル生成装置、位置姿勢算出装置、およびハンドリングロボット装置
CN106797458B (zh) 真实对象的虚拟改变
US9135519B2 (en) Pattern matching method and pattern matching apparatus
CN112839764A (zh) 用于焊接路径生成的系统和方法
JP7073850B2 (ja) 入力装置および入力装置の入力方法
JP6836561B2 (ja) 画像処理装置及び画像処理方法
JP2003187265A (ja) 画像処理装置
US20180290300A1 (en) Information processing apparatus, information processing method, storage medium, system, and article manufacturing method
Ozbay et al. A hybrid method for skeleton extraction on Kinect sensor data: Combination of L1-Median and Laplacian shrinking algorithms
JP3764773B2 (ja) 注視点を用いた頑健な認識装置
JP2015062017A (ja) モデル作成装置、モデル作成プログラム、および画像認識システム
JP2007286715A (ja) 画像合成装置及び画像合成プログラム
KR20200098596A (ko) 입체를 인식하기 위한 프로그램, 시스템, 전자 장치 및 방법
KR101792701B1 (ko) 도면 검사 장치 및 방법
US20230015238A1 (en) Method and Apparatus for Vision-Based Tool Localization
JP6204781B2 (ja) 情報処理方法、情報処理装置、およびコンピュータプログラム
JP6282157B2 (ja) 形状認識装置
Khawaldeh et al. Complete end-to-end low cost solution to a 3d scanning system with integrated turntable
JP2000306106A (ja) 3次元有向体の定位方法及び画像処理装置
Balzer et al. Volumetric reconstruction applied to perceptual studies of size and weight

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120306

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131203

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140124

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140701