JP2012215394A - 三次元計測装置および三次元計測方法 - Google Patents
三次元計測装置および三次元計測方法 Download PDFInfo
- Publication number
- JP2012215394A JP2012215394A JP2011078999A JP2011078999A JP2012215394A JP 2012215394 A JP2012215394 A JP 2012215394A JP 2011078999 A JP2011078999 A JP 2011078999A JP 2011078999 A JP2011078999 A JP 2011078999A JP 2012215394 A JP2012215394 A JP 2012215394A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- pattern
- workpiece
- dimensional
- imaging mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
- 238000000034 method Methods 0.000 title abstract description 45
- 238000003384 imaging method Methods 0.000 claims abstract description 175
- 238000005259 measurement Methods 0.000 claims abstract description 93
- 238000004364 calculation method Methods 0.000 claims description 24
- 238000000691 measurement method Methods 0.000 claims description 7
- 238000005286 illumination Methods 0.000 abstract description 47
- 238000012545 processing Methods 0.000 description 23
- 238000003860 storage Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 19
- 238000009826 distribution Methods 0.000 description 16
- 238000001514 detection method Methods 0.000 description 8
- 238000004519 manufacturing process Methods 0.000 description 8
- 230000005540 biological transmission Effects 0.000 description 6
- 230000006870 function Effects 0.000 description 5
- 239000004973 liquid crystal related substance Substances 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 238000007796 conventional method Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000003908 quality control method Methods 0.000 description 2
- FGRBYDKOBBBPOI-UHFFFAOYSA-N 10,10-dioxo-2-[4-(N-phenylanilino)phenyl]thioxanthen-9-one Chemical compound O=C1c2ccccc2S(=O)(=O)c2ccc(cc12)-c1ccc(cc1)N(c1ccccc1)c1ccccc1 FGRBYDKOBBBPOI-UHFFFAOYSA-N 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000001678 irradiating effect Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 229910052751 metal Inorganic materials 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 238000002310 reflectometry Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- GGCZERPQGJTIQP-UHFFFAOYSA-N sodium;9,10-dioxoanthracene-2-sulfonic acid Chemical compound [Na+].C1=CC=C2C(=O)C3=CC(S(=O)(=O)O)=CC=C3C(=O)C2=C1 GGCZERPQGJTIQP-UHFFFAOYSA-N 0.000 description 1
- 238000002834 transmittance Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
Abstract
【課題】 最適パターン光投影のような強度変調パターン光投影手法による静止物体の三次元画像計測を行う。
【解決手段】 ワークWにパターン光を投影するパターン投影機21と全面照明機22と、パターン光が投影されたワークWを撮像して画像を撮像するカメラ23、24により撮像した画像のデータを処理するデータ処理装置42とから構成され、パターン投影機21によりパターン光を投影して画像を撮影する第1撮像モードと、全面照明機22による全照明反射画像を撮像する第2撮像モードがワークWの種類の特定によって判定される。その撮像結果によって三次元情報が算出されるので、精度の高い三次元情報を得ることができる。
【選択図】図1
【解決手段】 ワークWにパターン光を投影するパターン投影機21と全面照明機22と、パターン光が投影されたワークWを撮像して画像を撮像するカメラ23、24により撮像した画像のデータを処理するデータ処理装置42とから構成され、パターン投影機21によりパターン光を投影して画像を撮影する第1撮像モードと、全面照明機22による全照明反射画像を撮像する第2撮像モードがワークWの種類の特定によって判定される。その撮像結果によって三次元情報が算出されるので、精度の高い三次元情報を得ることができる。
【選択図】図1
Description
本発明は、物体に所定のパターン光を投影し、三次元情報を計測する三次元計測装置および三次元計測方法に関する。
近年、品質管理、安全防犯やセキュリティ管理などの様々な分野において、生産ラインや生産現場などで生産物の形状計測や所在空間位置の計測などを行ったり、部品などの三次元形状データの取得を行ったりすることが要求されており、これらの物体の非接触かつ高速な三次元計測装置の開発が期待されている。
従来から、対象物体の形状を測定する三次元計測では、三角測量の原理が幅広く応用されている。また、三次元計測の手法としては、計測する対象物体に計測の補助となる特定の光や電波などを照射することなく計測を行う受動型のものと、光、音波や電波などを対象物体に照射し、その情報を利用して計測を行う能動型のものとがあり、受動式三次元画像計測の代表的な方法はステレオ視方法である。
一方、能動型のものとして、対象物体に基準となる光のパターンを投影してこの基準となるパターン光が投影された方向とは異なる方向からCCDカメラなどで撮影を行うパターン投影法と呼ばれる手法がある。この手法では、撮影されたパターンは物体の形状によって変形を受けたものとなる。この撮影された変形パターンと投影パターンとの対応づけを行うことで、物体の3次元計測を行うことができる。パターン投影法では計測精度は高いが、変形パターンと投影したパターンとの対応付けをいかに誤対応を少なく、かつ簡便に行うかが課題となっている。そこで様々なパターン投影法が従来提案されている。
例えば特許文献1に開示される手法においては、コード化されたパターンを投影する投光器と、投光器の光軸方向から投影パターンを撮影する第1のカメラと、投光器の光軸方向と異なる方向から投影パターンを撮影する第2のカメラとを準備し、投影パターンに対する第1のカメラによる撮影パターンの変化量が所定値以上の領域について新たなコードを割り付け、割り付けコードを用いて第2のカメラによる撮影パターンから第1の距離情報を生成し、第1の距離情報および第1のカメラより得られた輝度情報に基づいて3次元画像を得るように3次元画像撮影装置を構成する。
また、特許文献2は、計測対象物にパターン光を投影する投影手段としてのパターン投影機と、パターン光が投影された計測対象物を撮像して画像を撮像する撮像手段としてのカメラと、このカメラにより撮像した画像のデータを処理するコンピュータとから構成される。コンピュータにより、撮像された画像から検出された投影パターン光の強度値から投影パターン光を形成している個別パターン光の方向角が算出されるとともに強度分布が分割され、分割されたパターンの各計測点における位相値から奥行き距離が算出される。
一方、パターン投影法では、カメラに観測されている対象物体の全ての部分にパターン光を投影すれば、全視野計測を行うことが可能である。これはパターン投影法の一番優れている特長である。しかし、従来のスポットパターン光投影法、スリットパターン光投影法や空間コード化パターン光投影法などの手法では、計測に複数回のパターン光投影と撮影が必要であり、計測に時間がかかる。
即ち、上記のような複数レベルのパターンを投影する場合、複数レベルのパターンのストライプが1セットとなり、これの繰り返しパターンを投影することになる。このように繰り返しの周期が小さいと、コードの探索処理の際誤ってマッチングする確立が増大するという問題が生じる。この問題を回避するためにパターンのレベル数を増やすことなる。
しかしこのようにパターンのレベル数を増やしていくと、表面色が暗い物体を測定する場合には、反射率が小さくなるのでカメラに取り込む画像上ではパターンのダイナミックレンジが小さくなり、ストライプごとの階調段差が縮小してコード処理で誤った値を算出するなどの問題もある。
そこで正確なパターン検出を可能にすることを目的として、特許文献3では、2つのストライプパターンがメモリに記憶され、パターン切替部によりストライプパターンが切り替えられ、2つのストライプパターンを連続して投射し、それぞれのストライプパターンの投影像を撮像して2つの撮像画像を得る。それぞれの撮像画像にエッジ抽出処理とコード付与処理を行い、2組のコード化エッジ画像を獲得する。得られた2組のコード化エッジ画像を重畳して、エッジ密度が高く、コード分布の良好なひとつの統合コード化エッジ画像を獲得する。求められた統合コード化エッジ画像に対して距離計測の計算を実施することで、距離算出時のアルゴリズムに起因するエラーの発生を少なくすることができる。
上述のように、パターン投影法による形状計測方式において獲得される形状データ点は、投影されるパターンによってマーキングされる箇所に限定され、実際上はストライプ間のエッジ位置に対応した点のみとなる。すなわち、測定密度(エッジ密度)を増加させ、また、複数のストライプパターン間でエッジの区別ができるようにしなければならない。しかしながら、パターンの密度を増加しても対象物体の形状が任意であると、エッジの誤検出が避けられない。
特に、対象物体がエッジの多い部位と少ない部位が混在しているような形状の場合、同一のストライプパターンを投影すると、特にエッジの多い部位で複数の画像において階調段差が得られない問題が発生する。例えば、ストライプパターンの輝度が大きくエッジの輝度の方が小さい組み合わせが発生して階調段差が得られなかった。
そこで、本発明においては、上記誤検出の問題を解決したパターン光投影法による物体の三次元計測装置および三次元計測方法を提供することを目的とする。
本発明の三次元計測装置は、計測対象物体に投影手段によりパターン光を投影することにより前記パターン光が投影された計測対象物を撮像する第1撮像モードと、前記計測対象物体をステレオカメラで撮像する第2撮像モードとを有する撮像部と、前記撮像部による計測対象物体の撮像に先立って計測対象物体の種類の特定を行い撮像モードを判定する第1認識手段と、前記第1認識手段による判定に応じて撮像部による撮像モードを変更しつつ、計測対象物を第1撮像モードまたは第2撮像モードで撮像させる撮像制御手段と、前記撮像制御手段による第1と第2撮像モードでの撮像結果に基づいて、前記計測対象物体の三次元情報を算出する三次元情報算出手段と、を備えるものである。
ここで、前記第1認識手段は、計測対象物体のエッジ領域の大きさによって種類が特定されるものである。
本発明の三次元計測方法は、撮像部による計測対象物体の撮像に先立って計測対象物体の種類の特定を行い撮像モードを判定する撮像モード判定工程と、計測対象物体に投影手段によりパターン光を投影することにより前記パターン光が投影された計測対象物を撮像する第1撮像モードと、前記計測対象物体をステレオカメラで撮像する第2撮像モードとを有する撮像部を有し、前記撮像モード判定工程による判定に応じて撮像部による撮像モードを変更しつつ、計測対象物を第1撮像モードまたは第2撮像モードで撮像させる撮像工程と、撮像工程による第1と第2撮像モードでの撮像結果に基づいて、計測対象物体の三次元情報を算出する三次元情報算出工程と、を備えるものである。
本発明では、パターン光が計測対象物体に投影される第1撮像モードと、計測対象物体をステレオカメラで撮像する第2撮像モードとを有し、計測対象物体の種類の特定によって撮像モードが判定される。そのため、最適な撮像モードで撮像することができる。つまり、撮像結果に基づいて計測対象物体の三次元情報を算出するにあたって、三次元情報を良好に算出可能な撮像結果を撮像モードの判定によって変更可能となる。
ここで、第1認識手段による計測対象物体の種類の特定は、計測対象物体のエッジ領域の大きさによって行われることが望ましい。計測対象物体のエッジ領域が大きくなるとパターン光の投光による撮像結果からエッジ領域の誤検出が起こり易い。一方、エッジ領域が少ないと、パターン光の投影によってエッジ領域の検出精度を向上させることができ、三次元画像計測の精度をさらに向上させることができる。
本発明の三次元計測方法によれば、上記本発明の三次元計測装置と同様の作用効果を得ることができる。
パターン光を計測対象物体に投影する撮像モードと、投影しない撮像モードを計測対象物体によって判定し変更することで、精度良く物体の三次元画像計測を行うことが可能となる。
以下、本発明の実施の形態における三次元計測装置について、図面を用いて説明する。図1は、三次元計測装置を適用したピッキングロボットシステムの例を示す。このピッキングロボットシステム1は、工場内で作業台9上に配置されたワークWを1つずつ取り出して所定の位置に搬送する作業を行うためのもので、実際の作業を行う多関節ロボット3や、このロボット3の動作を制御するロボット制御装置5が含まれる。さらに、このピッキングロボットシステム1には、計測対象物体であるワークWの位置および姿勢を認識するために、ステレオカメラを含む撮像部2および物体認識装置4が設けられる。
図1に示すように、本実施形態の三次元計測装置は、照明装置を有する撮像部2と処理装置である物体認識装置4からなる。撮像部2は照明装置としてワークWにパターン光を投影する投影手段としてのパターン投影機21と、ワークWの全体に照明光を投影する全面照明機22とを有し、また、パターン光または照明光が投影されたワークWを撮像する撮像手段としてのカメラ23、24とより構成される。
また、物体認識装置4は、カメラ23、24やパターン投影機21と全面照明機22の操作を制御する撮像制御手段41と、カメラ23、24により撮像した画像のデータを処理するデータ処理装置42とから構成される。パターン投影機21と物体認識装置4、全面照明機22と物体認識装置4、カメラ22、24と物体認識装置4は、各データを伝送することができる伝送ケーブル431、432、433、434によって接続されている。
次に、ピッキングロボットシステム1の三次元計測装置に関して図2を参照して詳細に説明する。図2は図1の三次元計測装置の詳細な構成を示すブロック図である。本発明では、2台のカメラで同時に例えば床面に置かれた立体形状のワークWを撮像し、1対のステレオ視対を用意し、そのステレオ視対で距離を計算する。まず対象のワークWがパターン投影法を必要とする領域を有する形状かを判別し、ついでステレオ視対において3次元形状画像データを生成する。
撮像部2は、2台のカメラ23、24を一体的に備える。これらのカメラ23、24は、光学系を介して結像するワークWの2次元画像を撮像(撮影)するCCDやCMOSなどを有する公知のデジタルカメラである。2つのカメラ23、24は、床面に置かれたワークWに対して互いに視点が異なるように配置され、互いに視差のある二次元画像データFD1、FD2を取得する。なお、カメラはデジタル式カメラであれば8ビット、10ビット、12ビット、16ビットのものや、3CCD、1CCD、CMOS等や、静止画カメラ、動画カメラ、ビデオカメラ等のどのようなものでもよい。
パターン投影機21は、撮像制御手段41により形成されたパターンデータをパターン光に変換し、ワークWに投影する装置、もしくは、データ処理装置42の命令を受け、所定のパターン光をワークWに投影する装置である。例えば、液晶プロジェクタ、レーザ光プロジェクタ、LED(半導体)プロジェクタやフィルムプロジェクタなど市販の簡単な装置を用いることができる。
パターン光は、縞の強度変化があるもしくは色の異なるストライプ状パターンや、振幅の変化がある正弦波状強度分布パターンあるいは余弦波状強度分布パターンなどの強度変調パターンを形成する。このパターン光をパターン投影機21は投影し、カメラ23、24で撮像していく。この実施例では、後述するようにストライプパターンは1つ用いるが、これに限定されず、2つ以上としても良い。図3に、液晶プロジェクタへ入力するパターンデータの水平方向の輝度プロファイルを模式的に示す。投影パターン(パターンデータ)は256階調を8段階に分けた9種類の輝度ストライプP1からP9を組み合わせたものとしている。このストライプパターンP1からP9では、隣り合うストライプ同士が1段階のレベル差にならないように配置している。投影パターンは、模式的には、図3の輝度プロファイルより図4に示すような濃淡のあるストライプパターンP1からP9が生成される。これを用い、ワークWにパターンを投影する。スライドプロジェクタを用いる場合、投影パターンはスライドフィルム上へ形成するか、ガラスパターンに金属膜などを蒸着し膜厚や網膜点パターンなどによって透過率をコントロールする。
全面照明機22は、ワークWに照明光を照射するもので、本実施例において、ワークWの撮像が室内で行なわれるため、撮像における適正露出が得られる撮像環境を得るために撮像部2による撮像時に光を照射するものである。なお、この全面照明機22による光量は撮像環境によって変わるもので、ワークWの撮像が室外で行なわれるときには、天候によって変わるが自然光による光量が多い環境で適正露出を得るのに全面照明機22による光量は少なくとも良い。
次に、パターン投影機21と全面照明機22は、ワークWに対して互いに異なる角度で照明光を照射する。これら照明装置は、カメラ23、24による撮影に際して、それぞれ照明が行なわれる動作と、両方を同時に点灯する動作が可能である。これら、カメラ23、24および照明装置の動作は、撮像制御手段41によって制御される。
撮像制御手段41は、図2に示すように、パターン投影機21と全面照明機22およびカメラ23、24と接続するためのインターフェース44を備え、更に、強度値または色が均一である全面投影用のパターンの光(全面照明光)を全面照明機22により投影するとともに、この全面照明光投影時の反射光をカメラ23、24によって撮影することにより画像(全面照明反射画像)を取得する全面照明光投影撮影手段46と、強度値または色の異なるパターンの光(強度変調パターン光)をパターン投影機21により投影するとともに、この強度変調パターン光投影時の反射光をカメラ23、24によって撮影することにより画像(反射パターン画像)を取得するパターン光投影撮影手段47と、を備える。
また、撮像制御手段41は、カメラ23、24の動作を制御する。例えば、カメラ23、24のシャッタを制御し、露出タイミング、露出時間などを制御する。そして、各照明装置を制御する。例えば、カメラ23、24による撮影に際して、露光時間や照明光量やパターン投影機21と全面照明機22を順次オンするように切り換える。
全面照明光投影撮影手段46は、縞がない光の強度値もしくは色が均一の全面投影用のパターン光を形成し、インターフェース44を介して全面照明機22に出力し、この全面投影用のパターンの光(全面照明光)を全面照明機22によりワークWに投影するものである。あるいは、全面照明光投影撮影手段46は、データ処理装置41からの命令を受け、所定の全面照明光を全面照明機22によりワークWに投影するものとすることも可能である。また、全面照明光投影撮影手段46は、この全面照明光を投影したワークWからの反射光をカメラ23、24によって撮影し、この撮影した画像(全照明反射画像)をインターフェース44を介して取り込み、記憶手段45に記憶する。即ち、この全面照明機22による撮像がワークWをステレオカメラで撮像する第2撮像モードに該当する。
パターン光投影撮影手段47は、ストライプパターンをインターフェース44を介してパターン投影機21に出力し、図4に示すこの強度変調パターンの光をパターン投影機21によりワークWに投影する。あるいは、パターン光投影撮影手段47は、データ処理装置41からの命令を受け、所定の時刻で強度変調パターン光をパターン投影機21によりワークWに投影するものとすることも可能である。また、パターン光投影撮影手段47は、これらの強度変調パターンのいずれかの光を投影したワークWからの反射光をカメラ23、24によって撮影し、この撮影した画像(反射パターン画像)を、インターフェース44を介して取り込み、記憶手段45に記憶する。即ち、このパターン投影機21による撮像がパターン光の投影された計測対象物を撮像する第1撮像モードに該当する。
データ処理装置42は、図2に示すように、図示しない三次元画像計測プログラムの実行により、カメラ23、24から伝送された画像のデータや後述する各手段により算出された結果のデータ等を記憶する記憶手段45と、さらに、パターン光をパターン投影機21により投影し撮影する第1撮像モードと、全面照明光を全面照明機22により投影し撮影する第2撮像モードとをワークWの形状によって切り替える第1認識手段48と、記憶手段45から全面照明反射画像および反射パターン画像を取得してそれぞれワークWを抽出し三次元情報を生成する三次元情報算出手段49と、を備える。
データ処理装置42は、その他、三次元計測装置の全体を制御する。カメラ23、24の位置関係や光軸の向きなどを表す情報や、認識対象のワークWの3次元モデルが登録されており、各カメラ23、24から入力したステレオ画像を処理して、ワークWの位置や姿勢を認識する。この認識結果を示す情報は、物体認識装置4からロボット制御装置5に出力され、ロボット制御装置5において、ロボット3のアーム31の動作を制御する処理に使用される。
記憶手段45は、撮像部2から出力される複数組みの二次元画像データ、その他のデータおよびプログラムを記憶する。また、三次元情報算出手段49からの指令によって、記憶した二次元画像データを三次元情報算出手段49に出力する。
三次元情報算出手段49は、二次元画像データFD1、FD2に基づいて、三次元形状画像データDTを生成する。三次元情報算出手段49のこのような機能は、従来から公知である。この三次元形状画像データDTを生成する基となる二次元画像データFD1、FD2の対応点は各々の画像から探索される。
カメラ23、24により取得された視差を有する2つの二次元画像データFD1、FD2に基づいて、三次元情報算出手段49において、ステレオ相関法によって三次元形状画像データDTが生成される。なお、3つ以上のカメラを用い、それらから得られる2つの二次元画像データFDに基づいて三次元形状画像データDTを生成し、他の1つの二次元画像データFDを各点の信頼性データの取得に用いることも可能である。このようにすると、データの欠落部分の評価が容易である。
言い換えると、三次元情報算出手段49は、ワークWの全面照明光投影撮影手段46により得られた全面照明反射画像およびパターン光投影撮影手段47により得られた反射パターン画像を記憶手段45から取得して、三次元情報算出手段49により抽出されたワークWの形状と位置により、算出された計測点の位置情報からワークWの三次元情報を算出する。
第1認識手段48は、ワークWの種類を特定する手段として機能する。図5に示すワークWにおいてワークWの種類の特定を説明する。図5(a)はワークの平面図、同図(b)は一部断面側面図である。ワークWは長方体の本体W1に1つの円筒孔W2を形成された形状である。また、この図5に示すワークWの三次元モデルとしては、ワークWが工業製品の場合にはそのCADデータなどを利用可能である。ここで、ワークWの種類を特定するには例えば、図6に示すように、モデル点群(白丸)の個数で判別する。図6は、モデル点群を説明する模式図で、上段に形状データ71と判別データ72、下段にワークモデル点群73と判別モデル点群74を示す。
具体的にはCADデータからワークWのカメラ23、24に正対する面の形状データ71を抽出し、この形状データ71のモデル点群としてワークモデル点群73を生成する。モデル点群73は、形状データ71において画像の画素においてエッジに相当する画素を点で表示したものである。このワークモデル点群73のモデル点の総数をカウントし、このカウント値C1を設定する。これに対して形状データ71の外形のみの形状を判別データ72として予め操作者によって設定する。判別データ72が設定されると第1認識手段48は、判別データ72に対応する判別モデル点群74を生成する。この判別モデル点群74のモデル点の総数の倍数を閾カウント値C2と設定する。即ち、カウント値C1がこの閾カウント値C2を超えた場合、カウント値C1の対象となるワークWはエッジに対応する対応点が多い、即ち、エッジ領域が多い形状でありエッジ領域が大きいと判断される。一方、閾カウント値C2よりカウント値C1が小さい場合、カウント値C1の対象となるワークWは対応点が少ない、即ちエッジ領域が少ない形状でありエッジ領域が小さいと判断される。
この閾カウント値C2の設定は、操作者によって予め判別データ72の設定に換えて、閾カウント値C2を数字で入力可能に構成するようにしてもよい。この場合、予め操作者によってエッジが多い複雑な形状のモデル点群をシュミレーションし求めることで実行される。
記憶手段45は、ワークWのCADデータを記憶するとともに、ワークWの形状データ71に対応したワークモデル点群73を記憶するとともに、ワークモデル点群73の各点の三次元位置情報を記憶する。
次に、第1認識手段48は、パターン光をパターン投影機21により投影し撮影する第1撮像モードと、全面照明光を全面照明機22により投影し撮影する第2撮像モードと切り替えを判定する。エッジ領域が多い形状の場合は、全面照射による第2撮像モードが選択され、エッジ領域が少ない形状の場合は、パターン投影による第1撮像モードが選択される。即ち、エッジ領域が多いワークは、パターン投影によってエッジ領域がパターン光によって誤検出されるので、全面照射による撮像が好ましい。よって、第1認識手段48によってワークWの形状によって第2撮像モードを選択するか、精度の高いパターン投影による第1撮像モードを選択するかが判別される。
このような物体認識装置4は、CPU、RAM、ROM、磁気ディスク装置、光磁気ディスク装置、媒体ドライブ装置、入力装置、ディスプレイ装置、および適当なインターフェースなどを用い、CPUがプログラムを実行することによって実現することができる。パーソナルコンピュータなどを用いて構成することも可能である。そのようなプログラムは、適当な記録媒体によって供給することが可能であり、また、ネットワークを介して他のサーバからダウンロードすることも可能である。
次に、本実施形態の三次元計測装置の計測の流れについて、図7にしたがって説明する。図7は本実施形態における三次元計測装置を用いた三次元計測の流れを示す処理フロー図であり、三次元認識のための撮像から、ワークWの三次元情報を算出するまでのアルゴリズムを示している。
まず、ワークWと撮像部2がステレオ視方法に示す幾何関係となるように、パターン投影機21と全面照明機22とカメラ23、24とを一定の距離だけ離して配置する。三角測量の関係を保つことができれば、パターン投影機21と全面照明機22とカメラ23、24とをそれぞれ逆に設置することや、他の位置に設置することもできる。
ピッキングロボットシステム1の多関節ロボット3のワーク31でワークWをピックアップしたい場合、ロボット制御装置5にワークWの三次元位置情報を供給する。そのため、三次元計測装置でワークWの三次元形状画像データDTを作成する場合、操作者は三次元計測装置の図示しない動作スイッチをオンする。そのオンに続いて、三次元計測装置は物体認識装置4によって自動的に以下の動作を行なう。
図1において、照明装置の両方を消灯して撮像部2による1回目の撮像を行う。この時、照明による照明光量が無いので、ワークWを室内において外来光のみで撮像される。
カメラ23、24を介して得られた2つの二次元画像データFD1、FD2を、記憶手段45の所定のメモリ領域に記憶し、後述する第1認識手段48による撮像モードの判定が実行される時に利用される(工程S10)。
第1認識手段48は、二次元画像データFD1、FD2からワークWの上面の形状を抽出し、記憶手段45のCADデータから近似する形状データ71を選択する。ワークWの上面の形状を抽出するには、例えば、二次元画像データFD1、FD2においてデータの一致度から共通となるデータを抽出することで上面形状と判断する。形状データ71が選択されると判別モデル点群74の倍数から設定された閾カウント値C2から、ワークモデル点群73のカウント値C1よる撮像モードの判定が実行される。(工程S20)。図5に示すワークWにおいてワークWの種類の特定では、ワークWはエッジ領域の少ない形状と特定され、第1撮像モードではなく全面照射による第2撮像モードが選択される。
次に、第2撮像モードでは、全面照明機22をON、パターン投影機21をOFFにしてカメラ23、24による2回目の撮像を行う。この時、全面照明機22による初期露光時間と初期照明光量は、ワークWを室内においてカメラ23、24で撮影する際の通常の撮像条件が設定される。即ち、一般的にカメラは対象物を撮影するのに適正露出となるよう公知の自動露出機能を有している。本発明では、カメラ23、24に自動露出により適正露出が設定されることで、初期露光時間と初期照射光量が設定される。続いて、カメラ23、24を介して得られた図8に示す2つの二次元画像データFD11、FD12を、記憶手段45の所定のメモリ領域に記憶される(工程S30)。
撮像制御手段41の全面照明光投影撮影手段46により強度均一の全照明パターンを形成する。形成された全照明パターンは記憶手段45に記憶されるとともに伝送ケーブル433により全面照明機22に送られる。全面照明機22に送られた全照明パターンはワークWに投影される。
次に、三次元情報算出手段49は、2次元画像データFD11、FD12に基づいて、三次元形状画像データDTを生成する。三次元情報算出手段49のこのような機能は、従来から公知である。この三次元形状画像データDTを生成する基となる2次元画像データFD11、FD12の対応点は、エッジ領域が誤検出無く抽出される画像から探索される。それによって、正確な三次元形状データを生成することが可能となる(工程S40)。
そして、多関節ロボット3が、ワークWをアーム31で掴む動作を開始する。即ち、撮像モードの判定を行なった上で生成された二次元画像データより三次元情報算出手段49が、三次元画像データを生成する。三次元形状画像データが形成され、ワークW上の対応点の三次元座標値が計算できる。その結果、アーム31のワークWまでの動作距離が計算されることで正確にアーム31がワークWを掴むことが可能となる(工程S50)。一連の工程は、ワークWが無くなるまで行われるが、ワークWの種類が変わらないので第1の撮像工程は行われず繰り返される(工程S60)。
なお、すべての計測結果は、データ処理装置41に接続された記録メディアに保存することができる。また、ディスプレイなどの出力手段を用いて画面上に表示したり、プリンタなどの別の出力手段によって、文章ファイルや図面ファイルとして出力したりすることができる。
以上、本発明によれば、ワークWの形状によってエッジ領域が多い形状かどうかを判定し、その判定結果によって撮像モードを選択し変更するので三次元情報の算出において誤検出の無い二次元画像データを生成することが可能となる。その結果、正確な三次元形状データを得ることが出来る。
次に、本発明に係る第2の実施形態を図9乃至図12に基づいて説明する。図9は計測対象物体となるワークW10を示す。図9(a)はワークの平面図、同図(b)は一部断面側面図である。ワークW10は長方体の本体W11に1つの円筒孔W12と、二つの大きさの異なる長方形孔W13、W14を形成される。第2の実施形態では、第1認識手段48による、ワークW10の種類を特定する方法が異なる。第1の実施形態では、ワークW全体に対して撮像モードを切り替えたが、第2の実施形態では、ワークW10の領域によって撮像モードを切り替える。
この図9に示すワークWの三次元モデルとしては、ワークWが工業製品の場合にはそのCADデータなどを利用可能である。ここで、ワークWの種類を特定するには例えば、図10に示すように、モデル点群(白丸)を生成しモデル点の個数で判別する。図10は、モデル点群を説明する模式図である。第1の実施形態と同様にワークW10のカメラ23、24に正対する面の形状データをCADデータから抽出しワークモデル点群83を生成する。
図11は、図示しない液晶ディスプレイ装置に表示されたワークモデル点群83とモデル点のカウント値C3を説明するイメージ図である。下段のプロット図は生成されたワークモデル点群83をワークW10の長手方向(図11中左右の方向)に個数の分布を示したものであり、ワークモデル点群83においてエッジ領域の多い箇所はカウント値C3が多くなり、分布線C4が二点鎖線C5よりも上方に位置する範囲が多くなる。二点鎖線C5はワークモデル点群83の外形形状のエッジのみを示すモデル点群のカウント値の分布を示すものである。具体的には、エッジが理想的に1個のモデル点が直線上に配置されて表されるとした場合、この外形形状による影響を除去するために二点鎖線C5のカウント値は「3」を示すものとして設定される。ただし、ワークモデル点群83の左右端部は外形のエッジに相当し、ワークW10の形状の複雑さを示す指標とならないので、二点鎖線C5に含まれていない。
操作者は、図11の液晶ディスプレイ装置のプロット図から第1撮像モードの対象領域と第2撮像モードの対象領域を設定する。具体的には、図11に示す領域A1を第1撮像モード、領域A2を第2撮像モードに設定する。即ち、ワークW10において領域A1に対応する部位にはエッジ領域が少ないことがプロット図から判定できる。そのため、領域A1の撮像においては精度の高いパターン投影による撮像が好ましい。一方、ワークW10において領域A2に対応する部位にはエッジ領域が多いことがプロット図から判定できる。そのため、領域A2の撮像においてはパターン投影によってエッジ領域が誤検出されるので、全面照明光照射による撮像が好ましい。
次に、第2の実施形態の三次元計測装置の計測の流れについて説明する。なお、ワークW10の上面の形状に近似する形状データを選択する工程までは第1の実施形態と同じであるため説明を省略する。操作者によってワークモデル点群83の分布線C4よるプロット図を用いて領域A1を第1撮像モード、領域A2を第2撮像モードに設定される。
投影するパターン光は、三次元画像計測の計測速度および精度を左右する重要な役割を有する。本実施形態では、図4に示すような縦縞状の白黒系のパターン光を用いる。このパターン光における個別パターンは強度変化のあるストライプ状の縞である。
図12は、パターン投影機21がストライプパターンをワークW10に投影した状態を示す図である。このストライプパターンは記憶手段45に記憶される。カメラ23、24により、ワークW10上の投影パターンの反射光を撮像してそれぞれ記憶手段45に記憶する。なお、図12において正確にはワークW10の上面領域をはみ出たストライプパターンと円筒孔W12の内側に相当するストライプパターンの部位は、ワークW10の上面と同一面に位置していないため色彩が変化して現れるが、便宜上、図12においては省略している。
撮像されたパターン光反射画像は、伝送ケーブル432、434を通じて、データ処理装置42に送られ、記憶手段45に記憶される。
データ処理装置42のパターン光投影撮影手段47により強度変調パターンを形成する。形成された強度変調パターンは記憶手段45に記憶されるとともに伝送ケーブル433によりパターン投影機21に送られる。パターン投影機21に送られた強度変調パターンはワークW10に投影される。なお、強度変調パターンはデータ処理装置42により生成してパターン投影機21に送るだけでなく、パターン投影機21側でデータ処理装置42からの命令を受けて、自分自身に備える投影機能により、ワークW10に投影することも可能である。
ここで、パターン投影機21によりワークW10に投影される領域は、ワークW10の領域A1に対して位置設定される。具体的には、図11の液晶ディスプレイ装置のプロット図から第1撮像モードの対象領域として領域A1が設定されると、データ処理装置42は、ワークW10のカメラ23、24に正対する面のCADデータから、パターン投影機21とワークW10の領域A1との位置関係を計算する。その計算結果でもってパターン光投影撮像手段47はパターン投影機21の向きを設定する。こうすることで、図12に示すように、パターン光が領域A1のみに投影される。
次に、パターン投影機21によってワークW10に投影された強度変調パターンの反射光をカメラ23、24により撮像する。撮像された反射パターン画像は、伝送ケーブル432、434を通じて、データ処理装置42に送られ、記憶手段45に記憶される。
次に、第2の実施形態としてパターン光を用いて三次元計測を行った結果について説明する。三次元形状算出手段49は、反射パターン画像から、ワークW10を抽出する。なお、以下の説明においてワークW10は、領域A2からの反射画像における像を画像A20とし、領域A1からの反射パターン画像における像を画像A10とする。
このパターン光を投影して撮影された反射パターン画像は、図12に示されるように、8本の反射パターンにより構成される縞状パターンであったが、この反射パターン画像は、ワークW10の表面色分布、反射特性の影響やワークW10の形状などの影響によって縞の色強度の変化が生じている。そのため、この反射パターン画像A10から単純に縞の色分布と投影パターンの色分布の比較によって、パターン光の輝度の変化点を判断することでワークW10のエッジ領域を判別することができる。
そこで、本実施例では、まず記憶手段45のパターン画像を、パターン投影機21からの投影パターン(光)が十分に届いている領域(画像A10)と届いていない領域(画像A20)に分割する。例えば、隣り合うストライプ間の強度差が閾値以下である領域については、投影パターンが十分に届いていないと判別し、ストライプ間の強度差が閾値以上である領域を投影パターンが十分に届いている領域と判別する。投影パターンが十分に届いている領域に関し、以下に述べるように、境界線となるエッジ画素算出を行い、距離計算を行う。投影パターンが十分に届いていない領域については、別途、視差に基づく距離計算を行う。ここではとくに説明しない。
注目点の縞の色および注目点前後の縞の色強度情報を用い、投影パターンの複数の個別パターンの縞の色分布との比較を行い、分布の規則性を調べ、類似度の一番高い色は注目する個別パターンの縞の色とする。これにより、処理後の8本の縞状の反射パターンの色分布は、反射パターンの色分布を総合的に分析すれば、エッジ領域が判別できる。こうして、エッジ領域が分かれば、上述の方法により三次元情報を求めることができる。
なお、本実施形態では、パターン光を投影する前に全面照明光を投影し、全面照明反射画像を撮影した後にパターン光を投影し、反射パターン画像を撮影する投影撮影方法を用いるが、まず、全面照明光を投影し、全面照明反射画像を撮影した後にパターン光と全面照明光を投影して反射パターン画像と全面照明反射画像が混在した状態を撮影する投影撮影方法を用いることもできる。
本実施形態における三次元計測装置を用いた静止物体の三次元画像計測では、良好な結果を得ることができた。本実施形態における三次元画像計測精度は、カメラの写真撮影速度やパターン光投影の切り替え速度、計測システムのキャリブレーションにも依存するが、本実施例のように、全面照明光と強度変調パターン光の投影撮影を切り替えることで、計測対象物体が全面照明反射画像と反射パターン画像の両方の画像上にきちんと撮影される場合では、エッジ領域の認識率で誤検出が格段に減少する。
次に、本発明に係る第3の実施形態を図13及び図14に基づいて説明する。図13は計測対象物体となるワークW10の撮像画像を示す。図14はワークW10の種類の特定を行うイメージ図で同図(a)は判別領域75を示し、同図(b)は判定処理を説明するイメージ図である。第3の実施形態では、第1認識手段48による、ワークW10の種類を特定する方法が異なる。第3の実施形態では、ワークW10の撮像画像からデータ処理によって撮像モードを切り替える。
通常、ワークW10のCADデータが有る場合、作業台9上の予め設定された所定位置にワークW10が載置される。よって、撮像部2と作業台9との位置関係に関して物体認識装置4にその情報が入力されている。CADデータからワークW10の上面形状と位置が判別されると撮像部2はカメラ23、24の一方がワークW10の上面に対して正対位置に移動され照射光の投影無しに撮像(第1撮像工程)が行われる。
この第1撮像によって撮像画像として図13に示す画像データFD20が得られる。画像データFD20はカメラ23、24の撮像領域とワークW10の上面領域がほぼ一致するように撮像される。そして、第1認識手段48は、ワークW10の種類を特定する手段として、ここで、ワークW10の種類を特定するのに、例えば、図14に示すように、画像データFD20中の判別領域75を用いる。具体的には、画像データFD20の一辺751、752がそれぞれ1200mm×1400mmの大きさの場合、判別領域75の一辺753、754はそれぞれ20mm×20mmの大きさで抽出される。
次に、抽出された判別領域75と画像データFD20の画像比較を行う。即ち、判別領域75を画像データFD20の同一大きさの部位と画素の階調値総計の比較を行う。例えば、判別領域75の全面にワークW10のエッジ領域が無い場合、判別領域75は全て白色となりこれは表面輝度値の階調値で判断できる。一方、この領域においてエッジ領域がありエッジによってワークW10上面と同一平面になく表面輝度値が低くなり黒に近い色と成る領域があると、これも表面輝度値の階調値で判断できる。そこで、エッジ領域の割合を設定する。判別領域75を画像データFD20のエッジ領域の無い領域から抽出し、この領域の階調値総計を「0(ゼロ)%」と、エッジ領域が多い場合、即ち全体が黒色の階調値総計を「100%」として階調値総計を「0(ゼロ)%」から「100%」までの分布として対応させて、この範囲から閾値を選択する。仮に50%を設定すると、階調値総計で白色(画像データFD20でエッジ領域が無い領域に相当する)と黒色の中間を示し、判別領域75の領域にエッジもしくはエッジによってワークW10上面と同一平面になく表面輝度値が低くなり黒に近い色と成る領域があり、約半分の領域にあると判別される。
次に、画像データFD20を判別領域75と同じ大きさで分割した領域ごとに判別領域75と同様にエッジ領域の割合を階調値総計から検出する。図14(b)に示すように画像データFD20ではX軸に7分割、Y軸に6分割され、X1Y1領域からX7Y6領域までの47領域に分割される。それぞれの領域にエッジ領域の割合が図14(b)の値であった場合、この値が50%以上であればエッジ領域が多く、50%未満であればエッジ領域が少ないと判定される。この結果、画像データFD20上の50%未満の領域の集合を第1撮像モードの対象領域と判別する。この、集合の設定は操作者が入力装置を用いて設定するようにしてもよいし、50%未満の領域が所定個数隣接している状態を自動的に判断するようにしてもよい。
一方、判別領域75と画像データFD20の部位を比較して50%以上の領域では、画像データFD20上の対応する領域は第2撮像モードの対象領域と判別する。この画像比較を画像データFD20内での分割に応じて全ての領域で実施する。こうすることで、画像データFD20内において閾値との比較が得られ、エッジの少ない部品であれば、閾値との比較は画像データFD20のどの領域においても低くなり、結果的に画像データFD20の全体においても第1撮像モードの対象となる。他方、エッジの多い部品であれば、画像データFD20内で全体的に比較は高くなり、第2撮像モードの対象となる。
このように第3実施形態では、第1撮像工程で撮像されたワークW10の上面画像データを用いて、その一部において階調値総計から領域判別の指標とし、全体との比較を画像比較によって行うことでワークW10の種類の特定が行われる。言い換えると領域の階調値総計が所定値未満であれば第1撮像モードが選択され、階調値総計が所定値以上であれば第2撮像モードが選択される。
即ち、閾値を超えた場合、対象となるワークW10はエッジに対応する対応点が多い、即ち、エッジ領域が多い形状であると判断される。一方、閾値より小さい場合、対象となるワークW10は対応点が少ない、即ちエッジ領域が少ない形状であると判断される。よって、撮像モード判定が完了し、以後、第1実施形態と同様に第2撮像工程が行われる。
この閾値の設定は、操作者によって予め第1認識手段48に数字で入力可能に構成する。この場合、予め操作者によってエッジが多い複雑な形状をシュミレーションし求めることで実行される。また、判別領域75の抽出は画像データFD20の分割にのみに用いて、階調値総計の「0(ゼロ)%」は白色の場合の階調値総計として設定してもよい。そして、単純に画像データFD20の分割領域の階調値総計を「0(ゼロ)%」から「100%」に対応させてもよい。
この実施形態においては、ワークW10の形状がいかなるものであってもパターン投影による撮像モードの対象領域であるかを簡単に判定することができる。また、カメラによる画像データFD20の設定によってワークW10の領域判別を容易に行うことが出来る。例えば、画像データFD20をワークW10の上面領域の右半分の領域として撮像すると、右半分の領域のみの種類の特定を行うこととなる。その次に、左半分を撮像することで左半分の領域の種類の特定を行える。このように、ワークW10全体での判定と領域による判定を簡単な構成でもって実現できる。
次に、本発明に係る第4の実施形態を図15に基づいて説明する。図15は本実施形態における三次元計測装置を用いた三次元計測の流れを示す処理フロー図であり、撮像モードの判定から、ワークWの三次元情報を算出するまでのアルゴリズムを示している。
通常、ワークWのCADデータ有る場合、CADデータからワークWの種類の特定を行う。即ち、第1実施形態の第1撮像工程(工程S10)に変えて、ワーク判定(工程S10)が行われる。ワーク判定(工程S100)は、記憶手段45に予め第1撮像モードに対応したワークWの形状特徴が記憶される。例えば、ビス穴があれば第1撮像モードを実行すると設定し、第1認識手段48がCADデータからワークWにビス穴がある情報を得ると、記憶手段45の対応関係から第1撮像モードが撮像モード判定される(工程S200)。
次に、第1撮像モードでカメラ23、24を介して得られた2つの二次元画像データFD11、FD12を、記憶手段45の所定のメモリ領域に記憶される(工程S300)。三次元情報算出手段49は、2次元画像データFD11、FD12に基づいて、三次元形状画像データDTを生成する(工程S400)。そして、多関節ロボット3が、ワークWをアーム31で掴む動作を開始する(工程S500)。一連の工程は、ワークWが無くなるまで行われるが、ワークWの種類が変わらないのでワーク判定工程は行われず繰り返される(工程S600)。
以上、第4実施形態によれば、ワークWの特徴的な形状によってCADデータとの比較によってエッジ領域が多い形状かどうかを判定し、その判定結果によって撮像モードを選択し変更するので三次元情報の算出において誤検出の無い二次元画像データを生成することが可能となる。その結果、正確な三次元形状データを得ることが出来る。
なお、本実施形態では、パターン投影機21と全面照明機22をそれぞれ1台ずつ用いたが、計測精度をさらに向上させるために、複数台のパターン投影機21と複数台の全面照明機22を用いて、ワークを局所ごとに撮像して合成してもよい。こうすることにより、高解像度画像を得ることができ、この画像を用いることにより、より高精度の三次元情報を算出することができる。
また、パターン投影機21とカメラ23、24とのペアをワークの周辺に複数セットを設置してもよい。これにより、より短時間で様々な方向から広範囲の計測を実現することができ、ワークの三次元情報を全周に渡って短時間で高精度に得ることもできる。また、生産ラインにおける生産物の計測の際に、短時間で広範囲もしくはワークの全周計測を行うことが可能である。
また、本実施形態では、白黒系の強度変調パターン光を用いたが、これに限らず、投影パターンにおける各縞を区別することができれば、色の異なる縞状パターンにより構成される色変調パターンを用いてもよい。
また、本実施形態では、投影するパターン光は横縞状のものを用いたが、これに限らず、縦縞状、斜めに形成された縞状のものなど直線状の縞で形成されたパターンや、大きさの異なる同心円状、円形状、楕円状などの模様による円形パターンおよび多角形による角形パターンや、格子状などの複雑な模様によるパターンを用いてもよい。
また、本実施形態では、多関節ロボットと撮像部を別配置のものを用いたが、これに限らず撮像部を産業用ロボットのアーム部に配置して構成してもよい。即ち、アームは、伸縮自在の多間接アームより構成され、その先端に装着されたワークを挟むことが可能な挟持動作をするハンドより構成され、このハンドに撮像部がユニットとして装着される。
この産業用ロボットによれば、ワークをハンドで掴む動作の開始にあたって、三次元形状生成装置が第1の実施形態と同様の種類の判定を行なった上で、二次元画像データを生成する。その二次元画像データに基づいて,三次元形状画像データが形成され、ワーク上の対応点の三次元座標値が計算できる。その結果、アームのワークまでの動作距離が計算されることで正確にハンドがワークを掴むことが可能となる。
工業製品をロボット等の自動機械で取り扱おうとする場合、工業製品の計測や認識を自動的に行う必要がある。従来の二次元あるいは三次元の画像による物体の三次元計測および認識技術では、画像中にエッジ領域の誤検地があると、カメラによる撮像結果が著しく異なるので対応点の探索が困難になる。そのため、生産ラインの自動化は限られていた。
本発明により立体的なワークの位置姿勢を計測できるようになれば、生産ラインにおいて対象を選ばない自動化が可能になる。これは、生産コストの削減と同時に、従来法では自動化が難しかったため労働条件が悪くても人間による作業が必要だった分野においても作業を機械化できることで、労働者を悪条件から解放する効果がある。
また、本実施形態において、照明装置として、キセノン管、その他の発光素子を用いたフラッシュ装置、ランプを用いた照明装置、マスクシャッタを備えた照明装置など、公知の種々のものを用いることができる。
また、本実施形態において、撮影部としてデジタルカメラを用いたが、銀塩式カメラを用いて撮影し、得られた二次元画像データをスキャナーなどを用いてデジタル化してもよい。
本発明は、パターン光投影法を三次元計測に応用する三次元計測装置として有用である。例えば、本発明の三次元画像計測装置を工場に設置し、生産ラインにおける生産物のリアルタイム三次元形状計測と品質管理に使ったり、口腔形状計測を行ってぴったりした入れ歯を作ったりするなどのように、生産現場、交通分野、セキュリティ分野、医療分野、衣服設計、生活環境整備などの分野での利用が可能である。
W ワーク
2 撮像部
21 パターン投影機
23,24 カメラ
3 データ処理装置
4 物体認識装置
44 インターフェース
431,432,433,434 伝送ケーブル
45 記憶手段
46 全照明光投影撮影手段
47 パターン光投影撮影手段
48 第1認識手段
49 三次元情報算出手段
41 撮像制御手段
42 データ処理手段
5 ロボット制御装置
2 撮像部
21 パターン投影機
23,24 カメラ
3 データ処理装置
4 物体認識装置
44 インターフェース
431,432,433,434 伝送ケーブル
45 記憶手段
46 全照明光投影撮影手段
47 パターン光投影撮影手段
48 第1認識手段
49 三次元情報算出手段
41 撮像制御手段
42 データ処理手段
5 ロボット制御装置
Claims (3)
- 計測対象物体に投影手段によりパターン光を投影することにより前記パターン光が投影された計測対象物を撮像する第1撮像モードと、前記計測対象物体をステレオカメラで撮像する第2撮像モードとを有する撮像部と、
前記撮像部による計測対象物体の撮像に先立って計測対象物体の種類の特定を行い撮像モードを判定する第1認識手段と、
前記第1認識手段による判定に応じて撮像部による撮像モードを変更しつつ、計測対象物を第1撮像モードまたは第2撮像モードで撮像させる撮像制御手段と、
前記撮像制御手段による第1と第2撮像モードでの撮像結果に基づいて、前記計測対象物体の三次元情報を算出する三次元情報算出手段と、
を備える三次元計測装置。 - 前記第1認識手段は、計測対象物体のエッジ領域の大きさによって種類が特定される請求項1記載の三次元計測装置。
- 撮像部による計測対象物体の撮像に先立って計測対象物体の種類の特定を行い撮像モードを判定する撮像モード判定工程と、
計測対象物体に投影手段によりパターン光を投影することにより前記パターン光が投影された計測対象物を撮像する第1撮像モードと、前記計測対象物体をステレオカメラで撮像する第2撮像モードとを有する撮像部を有し、前記撮像モード判定工程による判定に応じて撮像部による撮像モードを変更しつつ、計測対象物を第1撮像モードまたは第2撮像モードで撮像させる撮像工程と、
前記撮像工程による第1と第2撮像モードでの撮像結果に基づいて、前記計測対象物体の三次元情報を算出する三次元情報算出工程と、
を備える三次元計測方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011078999A JP2012215394A (ja) | 2011-03-31 | 2011-03-31 | 三次元計測装置および三次元計測方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011078999A JP2012215394A (ja) | 2011-03-31 | 2011-03-31 | 三次元計測装置および三次元計測方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2012215394A true JP2012215394A (ja) | 2012-11-08 |
Family
ID=47268295
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011078999A Abandoned JP2012215394A (ja) | 2011-03-31 | 2011-03-31 | 三次元計測装置および三次元計測方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2012215394A (ja) |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR101456550B1 (ko) | 2014-05-19 | 2014-10-31 | 윤주영 | 물체 전방위 촬영 3차원 실물화상기 |
| JP2015206654A (ja) * | 2014-04-18 | 2015-11-19 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
| JP2016020888A (ja) * | 2014-06-20 | 2016-02-04 | 株式会社リコー | 計測システム、物体取出システム、計測方法およびプログラム |
| JP2016020012A (ja) * | 2014-07-14 | 2016-02-04 | スターテクノ株式会社 | ワーク加工処理装置 |
| JP2016061567A (ja) * | 2014-09-12 | 2016-04-25 | キヤノン株式会社 | 計測装置及びその調整方法 |
| JP2016099306A (ja) * | 2014-11-26 | 2016-05-30 | 株式会社ミツトヨ | 画像測定装置及び測定装置 |
| JP2016166784A (ja) * | 2015-03-09 | 2016-09-15 | キヤノン株式会社 | 計測装置 |
| JP2017013205A (ja) * | 2015-07-03 | 2017-01-19 | 株式会社デンソーウェーブ | ロボットシステム |
| JP2017013203A (ja) * | 2015-07-03 | 2017-01-19 | 株式会社デンソーウェーブ | ロボットシステム |
| EP3199911A1 (en) * | 2016-01-27 | 2017-08-02 | Ricoh Company, Ltd. | Irradiation apparatus |
| EP3009886B1 (en) * | 2014-10-17 | 2018-01-31 | Ricoh Company, Ltd. | Handling system |
| JP2019158427A (ja) * | 2018-03-09 | 2019-09-19 | セイコーエプソン株式会社 | 制御装置、ロボット、ロボットシステム,及び、物体を認識する方法 |
| CN110825028A (zh) * | 2018-08-08 | 2020-02-21 | 发那科株式会社 | 三维模型生成装置 |
| US10834378B2 (en) | 2017-01-31 | 2020-11-10 | Fujifilm Corporation | Three-dimensional information detection device |
| JP2022504688A (ja) * | 2018-10-11 | 2022-01-13 | ナノトロニクス イメージング インコーポレイテッド | マクロ検査システム、装置および方法 |
| US11593919B2 (en) | 2019-08-07 | 2023-02-28 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| US11663703B2 (en) | 2019-08-07 | 2023-05-30 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| JP2025029169A (ja) * | 2019-06-11 | 2025-03-05 | マイクロ-エプシロン・メステヒニク・ゲーエムベーハー・ウント・コンパニー・カー・ゲー | 鏡面反射面および/または部分鏡面反射面を有する物体を光学的に測定する方法およびシステムならびにこれに対応する測定装置 |
| WO2025083858A1 (ja) * | 2023-10-19 | 2025-04-24 | 株式会社Fuji | 画像処理装置、画像処理方法およびロボット制御システム |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010091491A (ja) * | 2008-10-10 | 2010-04-22 | Fujifilm Corp | 3次元形状計測用撮影装置および方法並びにプログラム |
-
2011
- 2011-03-31 JP JP2011078999A patent/JP2012215394A/ja not_active Abandoned
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010091491A (ja) * | 2008-10-10 | 2010-04-22 | Fujifilm Corp | 3次元形状計測用撮影装置および方法並びにプログラム |
Cited By (27)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015206654A (ja) * | 2014-04-18 | 2015-11-19 | キヤノン株式会社 | 情報処理装置、情報処理方法、プログラム |
| KR101456550B1 (ko) | 2014-05-19 | 2014-10-31 | 윤주영 | 물체 전방위 촬영 3차원 실물화상기 |
| JP2016020888A (ja) * | 2014-06-20 | 2016-02-04 | 株式会社リコー | 計測システム、物体取出システム、計測方法およびプログラム |
| JP2016020012A (ja) * | 2014-07-14 | 2016-02-04 | スターテクノ株式会社 | ワーク加工処理装置 |
| JP2016061567A (ja) * | 2014-09-12 | 2016-04-25 | キヤノン株式会社 | 計測装置及びその調整方法 |
| EP3009886B1 (en) * | 2014-10-17 | 2018-01-31 | Ricoh Company, Ltd. | Handling system |
| JP2016099306A (ja) * | 2014-11-26 | 2016-05-30 | 株式会社ミツトヨ | 画像測定装置及び測定装置 |
| JP2016166784A (ja) * | 2015-03-09 | 2016-09-15 | キヤノン株式会社 | 計測装置 |
| US10434666B2 (en) | 2015-07-03 | 2019-10-08 | Denso Wave Incorporated | Industrial robot system optically indicating motion area of robot |
| JP2017013203A (ja) * | 2015-07-03 | 2017-01-19 | 株式会社デンソーウェーブ | ロボットシステム |
| JP2017013205A (ja) * | 2015-07-03 | 2017-01-19 | 株式会社デンソーウェーブ | ロボットシステム |
| EP3199911A1 (en) * | 2016-01-27 | 2017-08-02 | Ricoh Company, Ltd. | Irradiation apparatus |
| US10834378B2 (en) | 2017-01-31 | 2020-11-10 | Fujifilm Corporation | Three-dimensional information detection device |
| JP2019158427A (ja) * | 2018-03-09 | 2019-09-19 | セイコーエプソン株式会社 | 制御装置、ロボット、ロボットシステム,及び、物体を認識する方法 |
| JP7040147B2 (ja) | 2018-03-09 | 2022-03-23 | セイコーエプソン株式会社 | 制御装置、ロボット、ロボットシステム,及び、物体を認識する方法 |
| CN110825028A (zh) * | 2018-08-08 | 2020-02-21 | 发那科株式会社 | 三维模型生成装置 |
| CN110825028B (zh) * | 2018-08-08 | 2024-04-26 | 发那科株式会社 | 三维模型生成装置 |
| TWI837190B (zh) * | 2018-10-11 | 2024-04-01 | 美商奈米創尼克影像公司 | 巨觀檢查系統、裝置及方法 |
| US11656184B2 (en) | 2018-10-11 | 2023-05-23 | Nanotronics Imaging, Inc. | Macro inspection systems, apparatus and methods |
| JP7454265B2 (ja) | 2018-10-11 | 2024-03-22 | ナノトロニクス イメージング インコーポレイテッド | マクロ検査システム、装置および方法 |
| JP2022504688A (ja) * | 2018-10-11 | 2022-01-13 | ナノトロニクス イメージング インコーポレイテッド | マクロ検査システム、装置および方法 |
| JP2025029169A (ja) * | 2019-06-11 | 2025-03-05 | マイクロ-エプシロン・メステヒニク・ゲーエムベーハー・ウント・コンパニー・カー・ゲー | 鏡面反射面および/または部分鏡面反射面を有する物体を光学的に測定する方法およびシステムならびにこれに対応する測定装置 |
| US11663703B2 (en) | 2019-08-07 | 2023-05-30 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| US11593919B2 (en) | 2019-08-07 | 2023-02-28 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| US11961210B2 (en) | 2019-08-07 | 2024-04-16 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| US11995802B2 (en) | 2019-08-07 | 2024-05-28 | Nanotronics Imaging, Inc. | System, method and apparatus for macroscopic inspection of reflective specimens |
| WO2025083858A1 (ja) * | 2023-10-19 | 2025-04-24 | 株式会社Fuji | 画像処理装置、画像処理方法およびロボット制御システム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2012215394A (ja) | 三次元計測装置および三次元計測方法 | |
| JP4986679B2 (ja) | 非静止物体の三次元画像計測装置、三次元画像計測方法および三次元画像計測プログラム | |
| JP5132832B1 (ja) | 計測装置および情報処理装置 | |
| US11388375B2 (en) | Method for calibrating image capturing sensor consisting of at least one sensor camera, using time coded patterned target | |
| CA2875820C (en) | 3-d scanning and positioning system | |
| JP3624353B2 (ja) | 3次元形状計測方法およびその装置 | |
| JP6548422B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
| JP5570126B2 (ja) | 物体の姿勢を求める方法及び装置 | |
| JP5342413B2 (ja) | 画像処理方法 | |
| JP2005534026A (ja) | 光学式マーカーを用いた三次元測定データ自動整列装置及びその方法 | |
| CN109341591A (zh) | 一种基于手持式三维扫描仪的边缘检测方法及系统 | |
| CN115082538A (zh) | 基于线结构光投影的多目视觉平衡环零件表面三维重建系统及方法 | |
| CN114494468B (zh) | 三维彩色点云构建方法、装置、系统及存储介质 | |
| JP2014085115A (ja) | 寸法計測装置、寸法計測方法及び寸法計測装置用のプログラム | |
| JP5336325B2 (ja) | 画像処理方法 | |
| KR20120068014A (ko) | 표면 검사용 조명·촬상 시스템 및 데이터 구조 | |
| WO2020012707A1 (ja) | 3次元測定装置及び方法 | |
| CN117640915A (zh) | 用于改进选择特征扫描的有立体摄像机视野的激光扫描仪 | |
| US11717970B2 (en) | Controller, control method using controller, and control system | |
| CN111536895B (zh) | 外形识别装置、外形识别系统以及外形识别方法 | |
| JP5342977B2 (ja) | 画像処理方法 | |
| CN114264243B (zh) | 一种检测压接焊点以及测量压接焊点之间线弧高度的方法 | |
| JP6061631B2 (ja) | 計測装置、情報処理装置、計測方法、情報処理方法、および、プログラム | |
| US20180130230A1 (en) | Recognition apparatus, determination method, and article manufacturing method | |
| JP2018160145A (ja) | 3次元計測装置、3次元計測プログラム、および3次元計測システム |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20140303 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20141110 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20141114 |
|
| A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20141216 |