JP2018194544A - 情報処理装置、情報処理方法、コンピュータプログラム - Google Patents
情報処理装置、情報処理方法、コンピュータプログラム Download PDFInfo
- Publication number
- JP2018194544A JP2018194544A JP2018080820A JP2018080820A JP2018194544A JP 2018194544 A JP2018194544 A JP 2018194544A JP 2018080820 A JP2018080820 A JP 2018080820A JP 2018080820 A JP2018080820 A JP 2018080820A JP 2018194544 A JP2018194544 A JP 2018194544A
- Authority
- JP
- Japan
- Prior art keywords
- image
- luminance unevenness
- information processing
- luminance
- measurement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
【課題】 物体の三次元形状の計測をより高精度に行うための技術を提供すること。【解決手段】 三次元形状計測用のパターン光が投影されている物体の第1の画像の輝度ムラを補正するか否かを、第1の画像もしくはパターン光が投影されていない物体の第2の画像に基づいて判断する。補正する場合は第2の画像に基づいて第1の画像の輝度ムラを補正した補正画像を用いて、補正しないと場合には第1の画像を用いて、物体の三次元形状の計測を行う。【選択図】 図1
Description
本発明は、物体の三次元形状を計測するための技術に関するものである。
近年のロボット技術の発展とともに、形状が小さい工業部品の組立のように、これまで人間が行っていた複雑なタスクをロボットが代わりに行うようになりつつある。ロボットがこれらの部品を把持するためには、把持の対象となる部品の三次元形状を高精度に計測する必要がある。
計測対象とする物体の三次元形状を計測する手法の代表例として、撮像装置と投影装置とを組み合わせて用いるアクティブ型計測手法がある。アクティブ型計測手法では、投影装置から計測対象物に向けてパターン光を投光し、この計測対象物により反射された投影パターンの反射光を撮像装置の位置検出素子により受光する。そして、この位置検出素子で受光した撮像パターンの位置情報と撮像装置と投影装置の相対位置姿勢に基づいて、三角測量の原理で計測対象物までの距離を測定することができる。
従来、この種の三次元形状測定装置においては、計測対象物表面の反射率分布のばらつきや光源の照度分布の偏り等によってパターン画像の輝度にムラが生じてしまい、計測精度が低下してしまう、といった問題があった。この問題に対して特許文献1では、計測対象物表面の全面にパターン光の光源と同一照度分布の光を照射する全照射部により光を全照射して撮像して得られる全照射時の部品の濃淡画像を用いてパターン画像の輝度ムラを補正し、三次元計測精度向上を図っている。
しかし、部品表面の輝度ムラが小さい場合や部品の表面反射率が低くパターンの反射輝度が低くなってしまう場合は、輝度ムラ補正方法によって補正すると却って計測精度が低下してしまう。本発明はこのような問題に鑑みてなされたものであり、物体の三次元形状の計測をより高精度に行うための技術を提供する。
本発明の一様態は、三次元形状計測用のパターン光が投影されている物体の第1の画像の輝度ムラを補正するか否かを、前記第1の画像もしくは前記パターン光が投影されていない前記物体の第2の画像に基づいて判断する判断手段と、前記判断手段により補正すると判断した場合には前記第2の画像に基づいて前記第1の画像の輝度ムラを補正した補正画像を用いて、前記判断手段により補正しないと判断した場合には前記第1の画像を用いて、前記物体の三次元形状の計測を行う計測手段とを備えることを特徴とする。
本発明の構成によれば、物体の三次元形状の計測をより高精度に行うことができる。
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施例の1つである。
[第1の実施形態]
本実施形態では、単一の計測対象物に三次元形状計測用のパターン光と補正用画像取得用の均一な照明光とを投影し、該パターン光が投影された計測対象物の撮像画像内の輝度のばらつきに基づき輝度ムラ補正モードのON/OFFを切り替える構成を説明する。パターン光が投影された計測対象物の撮像画像の輝度ムラの大きさを示す指標として、本実施形態では該撮像画像における輝度のばらつきを評価し、輝度のばらつきが不均一な状態のときにのみ輝度ムラ補正モードをONにする。具体的には、輝度のばらつきが大きい場合は輝度ムラ補正モードをONにし、逆に輝度のばらつきが小さい場合は輝度ムラ補正モードをOFFにする。このようにすることで、パターン光が投影された計測対象物の撮像画像における輝度ムラが小さい場合には、該撮像画像に対する補正をしないようになるため、高精度に三次元計測ができるようになる。
本実施形態では、単一の計測対象物に三次元形状計測用のパターン光と補正用画像取得用の均一な照明光とを投影し、該パターン光が投影された計測対象物の撮像画像内の輝度のばらつきに基づき輝度ムラ補正モードのON/OFFを切り替える構成を説明する。パターン光が投影された計測対象物の撮像画像の輝度ムラの大きさを示す指標として、本実施形態では該撮像画像における輝度のばらつきを評価し、輝度のばらつきが不均一な状態のときにのみ輝度ムラ補正モードをONにする。具体的には、輝度のばらつきが大きい場合は輝度ムラ補正モードをONにし、逆に輝度のばらつきが小さい場合は輝度ムラ補正モードをOFFにする。このようにすることで、パターン光が投影された計測対象物の撮像画像における輝度ムラが小さい場合には、該撮像画像に対する補正をしないようになるため、高精度に三次元計測ができるようになる。
先ず、本実施形態に係る三次元形状計測システムの機能構成例について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係る三次元形状計測システムは、撮像装置30、投影装置20、情報処理装置1、を有する。
先ず、投影装置20について説明する。投影装置20は、本実施形態においては、第1波長の光からなる計測用パターン光と、第1波長とは異なる第2波長の光からなる均一の照明光と、を計測対象物10に対して投影するものである。計測用パターン光は、計測対象物10の三次元形状を計測するために該計測対象物10に投影するパターン光であり、上記の「三次元形状計測用のパターン光」に対応する。また、均一な照明光は、計測用パターン光が投影された計測対象物10の撮像画像を補正するために用いる該計測対象物10の撮像画像を得るために該計測対象物10に照射する光で、上記の「補正用画像取得用の均一な照明光」に対応する。
第1光源21a及び第2光源21bはそれぞれ異なる波長の光を射出する。本実施形態では、第1光源21aは第1波長の光を射出し、第2光源21bは第2波長の光を射出する。照明光学系22aは、第1光源21aからの第1波長の光でパターンマスク23を均一に照明する光学系であり、照明光学系22bは、第2光源21bからの第2波長の光で均一に照明する光学系である。照明光学系22a及び照明光学系22bは、例えば、ケーラー照明となるように構成されている。パターンマスク23は、例えば、ガラス基板をクロムメッキすることによって、計測対象物10に投影する計測用パターン光に対応する透過部が形成されている。ダイクロイックプリズム24は、照明光学系22aからのパターンマスク23の透過光と照明光学系22bからの均一の照明光とを合成する光学素子である。投影光学系25は、ダイクロイックプリズム24で合成した光を計測対象物10に結像する光学系であって、パターンマスク23を透過した第1波長の計測用パターン光と第2の波長の均一の照明光とを計測対象物10に投影する。このような構成により、ほぼ同一の位置から計測対象物10に対して計測用パターン光と均一の照明光とを同時に投影することが可能となる。均一な照明光は、計測対象物10の全面に均一の照度分布の光として投影される。
投影装置20が投影する計測用パターン光が表すパターン(計測用パターン)は、例えば図2(a)に示す如くマルチラインパターンであり、各ラインの方向は投影装置20と撮像装置30との間の基線方向に対して概垂直方向である。
次に、撮像装置30について説明する。撮像装置30は、計測対象物10に投影された計測用パターン光と均一の照明光とを波長により分離して同時刻に撮像し、それぞれ同一視点のパターン画像40および補正用画像50として取得する。パターン画像40は、計測用パターン光が投影された計測対象物10の撮像画像(均一な照明光は含まない)であり、補正用画像50は、均一な照明光が投影された計測対象物10の撮像画像(計測用パターン光は含まない)である。
撮像光学系31は、計測対象物10に投影された計測用パターン光を第1画像センサ33aに結像し、計測対象物10に投影された均一な照明光を第2画像センサ33bに結像するための光学系である。ダイクロイックプリズム32は、計測対象物10に投影された計測用パターン光と均一の照明光とを分離する光学素子である。第1画像センサ33aは、ダイクロイックプリズム32によって分離された計測用パターン光を撮像してパターン画像40を生成する撮像素子である。第2画像センサ33bは、ダイクロイックプリズム32によって分離された均一な照明光を撮像して補正用画像50を生成する撮像素子である。第1画像センサ33a及び第2画像センサ33bは、例えば、CMOSセンサやCCDセンサなどで構成されている。生成する画像の方式は、グレイスケールやカラーなど、反射光の像が得られるものであれば如何なる方式であっても構わない。そして第1画像センサ33a及び第2画像センサ33bはそれぞれ、生成したパターン画像40及び補正用画像50を情報処理装置1に対して送出する。
なお、予め投影装置20および撮像装置30の焦点距離や主点位置、レンズ歪みパラメータなどの内部パラメータおよび装置間の相対位置姿勢は、例えば、以下に示す文献に記載の方法によって事前にキャリブレーションしておく。
R. Y. Tsai, "A versatile camera calibration technique for high−accuracy 3D machine vision metrology using off−the−shelf TV cameras and lenses, " IEEE Journal of Robotics and Automation, vol.RA−3, no.4, 1987.
ここでいうところの投影装置20と撮像装置30との間の相対位置姿勢は、オイラー角で示された回転成分(α、β、γ)と並進成分(x、y、z)で表される6自由度のパラメータである。
ここでいうところの投影装置20と撮像装置30との間の相対位置姿勢は、オイラー角で示された回転成分(α、β、γ)と並進成分(x、y、z)で表される6自由度のパラメータである。
次に、情報処理装置1について説明する。画像取得部100は、第1画像センサ33aから送出されたパターン画像40を取得する。画像取得部110は、第2画像センサ33bから送出された補正用画像50を取得する。図2(b)に示す如く、パターン画像40中の計測対象物10上に計測用パターン光の反射光が観測される。設定部120は、パターン画像40における輝度のぱらつきに基づいて、輝度ムラ補正モードをON若しくはOFFに切り替える。ここで、「パターン画像40における輝度のぱらつき」は、パターン画像40におけるピーク輝度の分散値で評価する。具体的には、まず輝度ムラ補正モードのON/OFFを切り替える基準の「輝度のばらつき」を予め情報処理装置1に登録しておく。そして、計測対象物10の三次元形状計測時では、パターン画像40から計測用パターン光を抽出し、該抽出した計測用パターン光のピーク輝度の分散値を算出する。そして、該算出したピーク輝度の分散値が上記の登録済みの基準以上の場合は、輝度ムラ補正モードをONにし、小さい場合は、輝度ムラ補正モードをOFFにする。
補正部130は、輝度ムラ補正モードがONの場合には、画像取得部100が取得したパターン画像40の輝度ムラを画像取得部110が取得した補正用画像50を用いて補正し、該補正後のパターン画像40を距離計算用画像60として出力する。一方、輝度ムラ補正モードがOFFの場合、補正部130は、画像取得部100が取得したパターン画像40の輝度ムラは補正せずに、該パターン画像40を距離計算用画像60として出力する。
距離算出部140は、補正部130から出力された距離計算用画像60を用いて光切断法によって計測対象物10の三次元形状を求める。計測用パターン光が投影された物体の撮像画像を用いて光切断法により該物体の三次元形状を計測する技術については周知であるため、これに係る説明は省略する。
次に、情報処理装置1が計測対象物10の三次元形状計測を行うために行う全体処理について、図3のフローチャートに従って説明する。ステップS1000では、設定部120は、輝度ムラ補正モードを切り替える基準となる輝度のばらつきとして、基準分散値を情報処理装置1に登録する。
ステップS1100では、画像取得部100は、第1画像センサ33aから送出されたパターン画像40を取得する。ステップS1200では、画像取得部110は、第2画像センサ33bから送出された補正用画像50を取得する。
ステップS1300では、設定部120は、ステップS1100で取得したパターン画像40におけるピーク輝度の分散値と、ステップS1000において情報処理装置1に登録した基準分散値と、の大小比較を行う。そして設定部120は、該大小比較の結果に応じて、輝度ムラ補正モードをON若しくはOFFに切り替える(選択する)。ステップS1300における処理の詳細については、図4を用いて後述する。
ステップS1400では、補正部130は、輝度ムラ補正モードがONの場合には、以下の式1に従ってパターン画像40の輝度ムラを補正用画像50を用いて補正し、該補正後のパターン画像40(補正画像)を距離計算用画像60として出力する。
ここで(u, v)は画像中の画素位置を表している。また、Ipat(u, v)、Igray(u, v)、Idiv(u, v)はそれぞれ、画素位置(u, v)におけるパターン画像40の輝度値、補正用画像50の輝度値、輝度ムラ補正後のパターン画像40の輝度値を表している。式1では、分母が0になるケースを回避するため、Igray(u, v)に1を加算している。
一方、輝度ムラ補正モードがOFFの場合、補正部130は、ステップS1100で取得したパターン画像40の輝度ムラは補正せずに、該パターン画像40を距離計算用画像60として出力する。
ステップS1500では、距離算出部140は、ステップS1400において補正部130から出力された距離計算用画像60を用いて光切断法によって計測対象物10の三次元形状を求める。
次に、上記のステップS1300における処理に詳細について、図4のフローチャートに従って説明する。ステップS1301では、設定部120は、パターン画像40内に含まれる計測用パターン(パターン群)のピーク座標を求める。計測用パターンのピーク座標を算出する方法として、本実施形態では、パターン画像40において計測対象物10に投影された計測用パターンのうち輝度が極値となる画像座標をピーク座標として検出する方法を採用する。この画像座標を検出する方法としては、例えば、以下の文献に記載のBR2 Detectorを用いる。
D.K.Naidu,R.B.Fisher,“A Comparative Analysis of Algorithms for Determining the Peak Position of a Stripe to Sub−pixel Accuracy”, British Machine Vision Conf 1991,pp.217−225,1991
ステップS1302では、設定部120は、ステップS1301で求めたピーク座標における輝度のばらつきとして、該輝度の分散値Vを求める。ステップS1303では、設定部120は、ステップS1302で求めた分散値Vと、ステップS1000において情報処理装置1に登録した基準分散値との大小比較を行う。この大小比較の結果、分散値V≧基準分散値(規定の分散以上)の場合には、設定部120は、輝度ムラ補正モードをONに設定し、分散値V<基準分散値の場合には、設定部120は、輝度ムラ補正モードをOFFに設定する。
ステップS1302では、設定部120は、ステップS1301で求めたピーク座標における輝度のばらつきとして、該輝度の分散値Vを求める。ステップS1303では、設定部120は、ステップS1302で求めた分散値Vと、ステップS1000において情報処理装置1に登録した基準分散値との大小比較を行う。この大小比較の結果、分散値V≧基準分散値(規定の分散以上)の場合には、設定部120は、輝度ムラ補正モードをONに設定し、分散値V<基準分散値の場合には、設定部120は、輝度ムラ補正モードをOFFに設定する。
このように、本実施形態によれば、パターン画像40の輝度ムラが小さい場合にはパターン画像40を補正しないようにすることができるため、高精度に三次元計測ができるようになる。
なお、本実施形態における投影装置20は、波長の異なる計測用パターン光と均一な照明光とを同時に投影し、撮像装置30で同時にかつ同一視点のパターン画像40と補正用画像50とを取得するものであった。しかし、パターン画像40及び補正用画像50の取得方法は、このような取得方法に限らない。例えば液晶プロジェクタなど照明パターンを切り替える投影装置を用いることで、同一の波長の計測用パターン光を投影したときと均一な照明光を投影したときとそれぞれ1回ずつ撮像し、同一視点のパターン画像40および補正用画像50を取得してもよい。また補正用画像50は必ずしも投影装置20を用いて計測対象物10に均一な照明光を投影したときの撮像画像である必要はない。例えば、計測用パターン光を投影せず、撮影時の周囲の環境光で照明されたときの計測対象物10の撮像画像を補正用画像50としてもよい。
また、計測用パターンとして本実施形態ではラインパターンを挙げたが、計測用パターンはラインパターンに限るものではない。例えば、上記の実施形態を、空間コード化法や位相シフト法、ランダムドットパターンなど、明暗の光パターンを投影して計測対象物の三次元形状を計測する手法に適応しても構わない。
また、本実施形態では、パターン画像40からパターンピーク輝度のばらつきを算出し、該ばらつきに応じて輝度ムラ補正モードのON/OFFを切り替えていた。しかし、パターン画像40におけるパターンピーク輝度のばらつきの代わりに補正用画像50における輝度のばらつきを用いて輝度ムラ補正モードをONにするのかOFFにするのかを判断しても良い。
また、本実施形態では、上記の式1に従って、パターン画像40を補正用画像50を用いて補正していたが、パターン画像40の補正方法は上記の式1に従った方法に限らない。例えば、投影装置20によって、補正用画像として計測用パターン光と同一の波長の均一な照明光を当てた時の全照射画像と照明を当てないときに撮影して得られる無照射画像を取得し、特許文献1に記載の方法により輝度ムラを補正してもよい。
また、パターン画像40は、三次元計測用のパターンが計測対象物に投影された対象像が得られる画像であれば、どのような形式の画像であっても良く、例えば、グレー画像であっても良いし、カラー画像であっても良い。また、パターン画像40及び補正用画像50は、撮像装置30からリアルタイムで取得することに限らず、予め撮像して記憶装置に保存しておいた画像であっても良い。
<第1の実施形態の変形例1>
第1の実施形態では、パターン画像40における輝度のばらつきに基づいて輝度ムラ補正モードのON/OFFを切り替えていた。しかし、計測時の背景輝度によって輝度ムラは大きく変化する。例えば、計測時の環境光の明るさによっては画像中の背景輝度が高くなってしまい、輝度のばらつきでは正しく評価されず精度が低下してしまう場合がある。そこで本変形例では、パターン画像40から計測用パターン光の輝度コントラストを算出し、該算出した輝度コントラストに基づいて輝度ムラ補正モードのON/OFFを切り替える。本変形例を含め、以下に説明する変形例や実施形態では、第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。
第1の実施形態では、パターン画像40における輝度のばらつきに基づいて輝度ムラ補正モードのON/OFFを切り替えていた。しかし、計測時の背景輝度によって輝度ムラは大きく変化する。例えば、計測時の環境光の明るさによっては画像中の背景輝度が高くなってしまい、輝度のばらつきでは正しく評価されず精度が低下してしまう場合がある。そこで本変形例では、パターン画像40から計測用パターン光の輝度コントラストを算出し、該算出した輝度コントラストに基づいて輝度ムラ補正モードのON/OFFを切り替える。本変形例を含め、以下に説明する変形例や実施形態では、第1の実施形態との差分について重点的に説明し、以下で特に触れない限りは第1の実施形態と同様であるものとする。
本変形例では、設定部120は、パターン画像40における計測用パターン光の輝度コントラストのばらつきに基づいて、輝度ムラ補正モードのON/OFFを切り替える。本変形例では、輝度コントラストとして、計測用パターン光の輝度勾配を用いる。まず、設定部120は、輝度ムラ補正モードのON/OFFを切り替える基準となる輝度勾配のばらつきを予め、基準分散値として情報処理装置1に登録しておく。そして計測時には設定部120は、パターン画像40におけるピーク座標(パターン画像40において計測対象物10に投影された計測用パターンのうち輝度が極値となる画像座標)における輝度の傾斜値すなわち輝度勾配をラインごとに抽出する。そして設定部120は、ラインごとの輝度勾配の分散値Vを算出する。そして設定部120は、分散値Vと、情報処理装置1に登録した基準分散値(輝度勾配のばらつき)と、の大小比較を行う。この大小比較の結果、分散値V≧基準分散値の場合には、設定部120は、輝度ムラ補正モードをONに設定し、分散値V<基準分散値の場合には、設定部120は、輝度ムラ補正モードをOFFに設定する。
なお、輝度コントラストの算出方法は上記の方法に限らない。例えば、計測用パターンの極小の輝度値C1と極大の輝度値C2をパターンの垂直方向に走査して特定し、(C2−C1)を輝度コントラストとして算出してもよい。あるいは事前にパターンを投影しないときの背景画像を撮影しておき、パターンピーク位置におけるパターン輝度と背景輝度との差を輝度コントラストとして用いてもよい。いずれにしても、背景輝度とパターンピーク位置におけるパターン輝度との差を表すものであれば如何なる指標を輝度コントラストとして用いてもよい。このような変形例によれば、計測時の環境光の明るさによらずに輝度ムラを正しく評価することができるため、高精度な三次元計測が可能となる。
<第1の実施形態の変形例2>
第1の実施形態及びその変形例1では、パターン画像40全体の輝度や輝度コントラストのばらつきを一様に評価して輝度ムラ補正モードを設定する方法について説明した。しかし、ロボットによるピッキングにおいては、バラ積み・山積み状態で置かれている計測対象物を撮像・計測する場合がある。この場合、計測対象物は異なる姿勢で設置されている。そのため、第1の実施形態及びその変形例1のように画像全体の輝度又は輝度コントラストのばらつきに応じて輝度ムラ補正モードのON/OFFを決定してしまうと、計測対象物によっては計測精度が低下してしまう。そこで第1の実施形態の変形例2では、パターン画像40内の計測対象物10の領域毎にパターン反射光の輝度のばらつきに基づいて輝度ムラ補正モードのON/OFFを切り替えることで、領域ごとに輝度ムラ補正を行う/行わないを切り替える方法を説明する。
第1の実施形態及びその変形例1では、パターン画像40全体の輝度や輝度コントラストのばらつきを一様に評価して輝度ムラ補正モードを設定する方法について説明した。しかし、ロボットによるピッキングにおいては、バラ積み・山積み状態で置かれている計測対象物を撮像・計測する場合がある。この場合、計測対象物は異なる姿勢で設置されている。そのため、第1の実施形態及びその変形例1のように画像全体の輝度又は輝度コントラストのばらつきに応じて輝度ムラ補正モードのON/OFFを決定してしまうと、計測対象物によっては計測精度が低下してしまう。そこで第1の実施形態の変形例2では、パターン画像40内の計測対象物10の領域毎にパターン反射光の輝度のばらつきに基づいて輝度ムラ補正モードのON/OFFを切り替えることで、領域ごとに輝度ムラ補正を行う/行わないを切り替える方法を説明する。
設定部120は、パターン画像40における計測対象物10の領域におけるピーク輝度の分散値Vを第1の実施形態と同様にして求め、該求めた分散値Vと、ステップS1000において情報処理装置1に登録した基準分散値との大小比較を行う。この大小比較の結果、分散値V≧基準分散値の場合、設定部120は、パターン画像40における計測対象物10の領域に含まれる画像座標に対しては輝度ムラ補正モード=ONを設定する。一方、分散値V<基準分散値の場合、設定部120は、パターン画像40における計測対象物10の領域に含まれる画像座標に対しては輝度ムラ補正モード=OFFを設定する。なお、パターン画像40において計測対象物10の領域外の画像座標に対しては輝度ムラ補正モード=OFFを設定する。そして設定部120は、各画像座標について設定した輝度ムラ補正モードを登録したテーブルを作成する。
なお、パターン画像40における計測対象物10の領域の取得方法は、特定の取得方法に限らない。例えば、設定部120が補正用画像50から計測対象物10を認識することで補正用画像50における計測対象物10の領域を取得する。補正用画像50における計測対象物10の領域の取得については、例えば以下の文献に記載の方法でもって実施することができる。
C. Rother, V. Kolmogorov, A. Blake,““GrabCut” − Interactive Foreground Extraction using Iterated Graph Cuts”,ACM Trans. Graph.,23,3,pp.309−314(2004)
また、補正用画像50における計測対象物10の領域は、補正用画像50を情報処理装置1の表示画面上に表示し、ユーザが補正用画像50上で指定した領域を、補正用画像50における計測対象物10の領域として取得するようにしても良い。補正用画像50における計測対象物10の領域の位置はパターン画像40における計測対象物10の領域の位置と同位置であるため、これらの処理により、パターン画像40における計測対象物10の領域の位置を特定することができる。
また、補正用画像50における計測対象物10の領域は、補正用画像50を情報処理装置1の表示画面上に表示し、ユーザが補正用画像50上で指定した領域を、補正用画像50における計測対象物10の領域として取得するようにしても良い。補正用画像50における計測対象物10の領域の位置はパターン画像40における計測対象物10の領域の位置と同位置であるため、これらの処理により、パターン画像40における計測対象物10の領域の位置を特定することができる。
なお、設定部120は、パターン画像40に複数の計測対象物10が含まれている場合には、それぞれの計測対象物10の領域について輝度ムラ補正モードを上記のようにして設定する。
そして補正部130は、上記のテーブルを参照して、パターン画像40における画素ごとに、該画素に対する輝度ムラ補正モードがONであるのかOFFであるのかを特定する。そして補正部130は、輝度ムラ補正モード=ONの画素については、上記の式1に従って輝度ムラ補正し、輝度ムラ補正モード=OFFの画素については何も処理を施さない。
以上説明した本変形例によれば、例えば、バラ積み・山積み状態の部品を含むパターン画像40であっても画像領域ごとに適切に輝度ムラ補正を行う/行わないを切り替えることができるため、部品の姿勢によらず安定的に三次元計測ができるようになる。
[第2の実施形態]
計測対象物が多数の面を有する場合、それぞれの面の方向に応じてパターンの反射輝度が異なる。計測対象物を撮像するカメラの撮像面(センサ面)に対して面が傾いている場合は反射輝度が低下するため、このような面に対して輝度ムラ補正を行うとカメラノイズが強調されてしまい、かえって計測精度が低下してしまう。そこで本実施形態では、計測対象物の表面の法線方向を取得し、パターン画像40において該表面に対する輝度ムラ補正モードのON/OFFを該法線方向に基づいて切り替える方法について説明する。本実施形態では、計測対象物の表面の法線方向を、該計測対象物の形状を模した三次元形状モデルから取得する。
計測対象物が多数の面を有する場合、それぞれの面の方向に応じてパターンの反射輝度が異なる。計測対象物を撮像するカメラの撮像面(センサ面)に対して面が傾いている場合は反射輝度が低下するため、このような面に対して輝度ムラ補正を行うとカメラノイズが強調されてしまい、かえって計測精度が低下してしまう。そこで本実施形態では、計測対象物の表面の法線方向を取得し、パターン画像40において該表面に対する輝度ムラ補正モードのON/OFFを該法線方向に基づいて切り替える方法について説明する。本実施形態では、計測対象物の表面の法線方向を、該計測対象物の形状を模した三次元形状モデルから取得する。
本実施形態に係る三次元形状計測システムの機能構成例について、図5のブロック図を用いて説明する。本実施形態に係る三次元形状計測システムは、図1の三次元形状計測システムにおける情報処理装置1の代わりに情報処理装置2を用いたものとなっている。情報処理装置2は、情報処理装置1に入力部250及び設定部260を加えたものである。
入力部250は、計測対象物10の形状を模したモデルである三次元形状モデルを入力する。三次元形状モデルは、三次元形状モデルを構成する各面の該三次元形状モデル上における局所的な情報である局所面特徴と、三次元形状モデルを構成する各辺の該三次元形状モデル上における局所的な情報である局所線特徴と、を含む。
局所面特徴とは、三次元形状モデルを構成する面の法線ベクトルの(三次元形状モデルのローカル座標系における)始点の三次元位置と三次元方向成分とを有する三次元平面情報であり、三次元形状モデルの面ごとに存在する。ここで、三次元形状モデルのローカル座標系とは、例えば三次元形状モデルにおける1点を原点とし、該原点で直交する3軸をそれぞれx軸、y軸、z軸とする座標系である。局所線特徴とは、三次元形状モデルを構成する辺の三次元位置(辺の一端若しくは両端の三次元位置)と三次元方向成分とを有する三次元線情報であり、三次元形状モデルの辺ごとに存在する。なお、以下の説明において、単に幾何特徴と称した場合は、局所面特徴と局所線特徴の両方を指すものとする。
設定部260は、パターン画像40中に写っている計測対象物10の位置姿勢を設定する。設定する位置姿勢はオイラー角で示された回転成分(α、β、γ)と並進成分(x、y、z)とで表せられる6自由度のパラメータである。設定部260は、例えば、ユーザがキーボードやマウスなどの操作部を用いてユーザインタフェースを操作することで入力した位置姿勢を、パターン画像40中に写っている計測対象物10の位置姿勢として設定しても良い。例えば、情報処理装置2の表示画面上にパターン画像40に重ねて三次元形状モデルを表示する。ユーザは操作部を用いてGUI(グラフィカルユーザインターフェース)を操作することで、表示画面上における計測対象物10の位置姿勢と一致するように三次元形状モデルを移動させたり回転させたりする。そしてユーザが、表示画面上で三次元形状モデルの位置姿勢が計測対象物10の位置姿勢と一致したと判断したことに応じて、操作部を操作して決定指示を入力する。該入力に応じて設定部260は、この時点における三次元形状モデルの位置姿勢を、パターン画像40中に写っている計測対象物10の位置姿勢として設定する。
そして設定部120は、上記設定した位置姿勢で配置した三次元形状モデルをパターン画像40上に投影する。そして設定部120は、パターン画像40上に投影した三次元形状モデルの面のうち輝度ムラ補正モード=ON/OFFとする面を、該面の法線方向及び撮像装置30のセンサ面の方向(例えば撮像装置30の撮像方向ベクトル)に基づいて決定する。
そして設定部120はパターン画像40において輝度ムラ補正モード=ONとする面に属する画素に対しては輝度ムラ補正モード=ON、輝度ムラ補正モード=ONとする面に属さない画素であれば輝度ムラ補正モード=OFF、を登録したテーブルを作成する。
そして補正部130は、設定部120が作成したテーブルを参照して、パターン画像40における画素ごとに、該画素に対する輝度ムラ補正モードがONであるのかOFFであるのかを特定する。そして補正部130は、パターン画像40において輝度ムラ補正モード=ONの画素については、上記の式1に従って輝度ムラ補正し、輝度ムラ補正モード=OFFの画素については何も処理を施さないようにすることで距離計算用画像60を生成する。
次に、情報処理装置2が計測対象物10の三次元形状計測を行うために行う全体処理について、図6のフローチャートに従って説明する。ステップS2000では、設定部120は、テーブルを初期化(全ての画素に対する輝度ムラ補正モードをOFFにする)すると共に、輝度ムラ補正モードを切り替える基準となる「法線の一致度」を情報処理装置2に登録する。「法線の一致度」については後述する。
ステップS2100では、画像取得部100は、第1画像センサ33aから送出されたパターン画像40を取得する。ステップS2200では、画像取得部110は、第2画像センサ33bから送出された補正用画像50を取得する。ステップS2300では、入力部250は、計測対象物10の形状を模したモデルである三次元形状モデルを入力する。
ステップS2400では、設定部260は、パターン画像40中に写っている計測対象物10の位置姿勢を設定する。ステップS2500では、設定部120は、ステップS2400で設定した位置姿勢で配置した三次元形状モデルをパターン画像40上に投影する。そして設定部120は、パターン画像40上に投影した三次元形状モデルの面の法線ベクトルと、撮像装置30のセンサ面の方向ベクトルと、の一致度と、ステップS2000で登録した「法線の一致度」と、の大小関係に応じて、上記のテーブルを作成する。ステップS2500における処理の詳細については、図7を用いて後述する。
ステップS2600で補正部130は、設定部120が作成したテーブルを参照し、パターン画像40において輝度ムラ補正モード=ONの画素については上記の式1に従って輝度ムラ補正し、輝度ムラ補正モード=OFFの画素については何も処理を施さない。ステップS2700では、距離算出部140は、上記のステップS1500と同様にして、計測対象物10の三次元形状を求める。
次に、上記のステップS2500における処理の詳細について、図7のフローチャートを用いて説明する。ステップS2501では、設定部120は、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴を1つ、選択局所面特徴として選択する。
ステップS2502で設定部120は、ステップS2501で選択した選択局所面特徴が含む三次元位置(Xm,Ym,Zm)及び三次元方向成分(Nxm,Nym,Nzm)を、設定部260で設定した位置(Tcm)及び姿勢(Rcm)に基づいて変換する。この変換は、以下の式に従って行われる。
ここでTcmは3×1の列ベクトルで表し、Rcmは3×3の回転行列で表される。また(X′m,Y′m,Z′m)及び(N′xm,N′ym,N′zm)はそれぞれ、変換後の三次元位置および三次元方向成分を表す。法線ベクトルのノルムは1で正規化する。このような変換により、選択局所面特徴に対応する面の法線ベクトルの位置及び姿勢を取得することができる。
ステップS2503で設定部120は、選択局所面特徴に対応する面(対応する局所線特徴によって規定される辺で囲まれた面)を、予めキャリブレーションされた撮像装置30の位置姿勢に基づいて変換することで、パターン画像40上に投影する。
ステップS2504では、設定部120は、ステップS2502における変換で取得した法線ベクトルと、撮像装置30のセンサ面の方向ベクトル(0,0,1)と、の一致度を示すN′zmを求める。2つのベクトルの一致度を求める方法は特定の方法に限らない。例えば、2つのベクトルの差分を一致度としても良いし、2つのベクトルが成す角度を一致度としても良い。そして設定部120は、一致度がステップS2000で登録した「法線の一致度」よりも大きい場合には、輝度ムラ補正モードをONにする。一方、設定部120は、一致度がステップS2000で登録した「法線の一致度」以下の場合には、輝度ムラ補正モードをOFFにする。
ステップS2505で設定部120は、ステップS2503でパターン画像40上に投影した面に属する画素についてステップS2504で決定した輝度ムラ補正モードをテーブルに登録する。
ステップS2506では、設定部120は、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択したか否かを判断する。この判断の結果、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択した場合には、処理はステップS2600に進む。一方、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴が残っている場合には、処理はステップS2501に戻る。
なお、本実施形態では、入力部250は、ユーザがGUIを操作することで入力した三次元形状モデルの位置姿勢を取得していたが、三次元形状モデルの位置姿勢は他の方法でもって取得するようにしても良い。例えば、以下の文献に記載の方法により、補正用画像50上のエッジ、パターン画像40を直接距離算出部140に入力することにより得られる距離点群データ、三次元形状モデルの局所線特徴及び局所面特徴を用いて、計測対象物10の位置姿勢を求めてもよい。
立野,小竹,内山,“実部品のビンピッキングのための距離・濃淡画像を最尤に統合する高精度高安定なモデルフィッティング手法”,画像の認識・理解シンポジウム−MIRU2010,OS5−1(2010).7
また濃淡画像上のエッジと距離点群データどちらか一方でのみで照合して位置姿勢を算出してもよい。また別の部品認識装置や慣性センサなどにより、計測対象物10の位置姿勢を示すパラメータを入力してもよい。入力方式としては、6自由度の位置姿勢のパラメータを与えることができれば良い。
また濃淡画像上のエッジと距離点群データどちらか一方でのみで照合して位置姿勢を算出してもよい。また別の部品認識装置や慣性センサなどにより、計測対象物10の位置姿勢を示すパラメータを入力してもよい。入力方式としては、6自由度の位置姿勢のパラメータを与えることができれば良い。
また、三次元形状モデルの各面の法線ベクトルの方向成分は、計測対象物10の各面の法線ベクトルの方向成分の一例であり、計測対象物10の各面の法線ベクトルの方向成分を表すデータであれば、他の方法でもって取得したデータであっても良い。例えば、パターン画像40を補正せずに距離算出部140に入力することで得られる計測対象物10の三次元点群データからメッシュを推定し、その垂線を法線として取得してもよい。また撮像装置30から取得した画像からではなく、別の三次元計測装置を用いて計測対象物10の法線を推定した結果を用いてもよい。また三次元点群データからではなく、照度差ステレオ法などによって計測対象物10の法線を推定する方法を用いてもよい。いずれにしても計測対象物10表面の法線方向を推定する方法であれば何でもよい。
また、本実施形態では、パターン画像40における画素ごとに輝度ムラ補正モードを設定していたが、輝度ムラ補正モードを設定する単位は画素単位に限らない。例えば、計測対象物10を構成する面の数が少ない場合は、計測対象物10全体に対して1つの輝度ムラ補正モードを設定してもよい。例えば三次元形状モデルの各面の法線ベクトルから代表的な法線ベクトルである代表法線ベクトルを特定し、該代表法線ベクトルの向きと撮像装置30のセンサ面の向きとの一致度に対応する輝度ムラ補正モードを設定しても良い。代表法線ベクトルは、例えば、三次元形状モデルの各面の法線ベクトルから成分ごとの中央値若しくは平均値を特定し、該特定した中央値若しくは平均値を代表法線ベクトルの該成分として決定しても良い。いずれにしても、三次元形状モデルの面の向きとセンサ面の向きとの一致度に基づいて輝度ムラ補正モードが設定できれば何でもよい。このように、第2の実施形態によれば、計測対象物の計測面が撮像の向きに対して傾いてパターンの反射輝度が低下する場合は補正しないようにするため、高精度に三次元計測が可能となる。
<第2の実施形態の変形例1>
第2の実施形態では、計測対象物の面の法線の向きに基づいて輝度ムラ補正モードのON/OFFを決定していた。しかし、実際には面の材質によって反射の配光特性が異なるため、これを考慮して輝度ムラ補正モードを決定する必要がある。そこで本実施形態では、第2の実施形態で述べた面の法線の向きに加えて面の反射率を考慮して反射輝度を推定し、輝度ムラ補正モードをON/OFFを切り替える方法について説明する。以下では、第2の実施形態との差分について説明する。
第2の実施形態では、計測対象物の面の法線の向きに基づいて輝度ムラ補正モードのON/OFFを決定していた。しかし、実際には面の材質によって反射の配光特性が異なるため、これを考慮して輝度ムラ補正モードを決定する必要がある。そこで本実施形態では、第2の実施形態で述べた面の法線の向きに加えて面の反射率を考慮して反射輝度を推定し、輝度ムラ補正モードをON/OFFを切り替える方法について説明する。以下では、第2の実施形態との差分について説明する。
本実施形態では、三次元形状モデルは、三次元形状モデルの各面の反射率特性を示す情報を含む。具体的には、本変形例における反射強度はTorrance−Sparrowの反射モデルを用いて推定されるため、拡散反射成分の色、鏡面反射成分の色、面の表面粗さ、をパラメータとして予め情報処理装置2に登録しておく。
設定部120は、設定部260が設定した位置姿勢で配置した三次元形状モデルをパターン画像40上に投影する。そして設定部120は、パターン画像40上に投影した三次元形状モデルの面の法線の向き、該面の反射率、投影装置20から投影されるパターン光の光源の向き、撮像装置30におけるセンサ面の向き、に基づいて、該面におけるパターン光の輝度を決定する。そして設定部120は、該面の輝度ムラ補正モードを、該決定した輝度に基づいて設定する。
本変形例では、ステップS2000及びステップS2500における処理が第2の実施形態と異なる。ステップS2000では設定部120は次のような処理を行う。即ち、設定部120は、テーブルを初期化(全ての画素に対する輝度ムラ補正モードをOFFにする)すると共に、輝度ムラ補正モードを切り替える基準となる「反射強度の範囲」を情報処理装置2に登録する。「反射強度の範囲」については後述する。
ステップS2500では、設定部120は、図8のフローチャートに従った処理を行う。ステップS2511では、設定部120は、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴を1つ、選択局所面特徴として選択する。
ステップS2512では設定部120は、ステップS2511で選択した選択局所面特徴が含む三次元位置(Xm,Ym,Zm)及び三次元方向成分(Nxm,Nym,Nzm)を、上記のステップS2502と同様にして変換する。
ステップS2513で設定部120は、選択局所面特徴に対応する面(対応する局所線特徴によって規定される辺で囲まれた面)を、予めキャリブレーションされた撮像装置30の位置姿勢に基づいて変換することで、パターン画像40上に投影する。
ステップS2514では、設定部120は、選択局所面特徴に対応する面について以下の式4に従った計算を行うことで、該面からの反射光強度(反射光の色信号の強度を表すRGB値)Iを求める。
本変形例においてはTorrance−Sparrowの反射モデルを用いて推定する。θiは、パターン光の光源の向きとステップS2512で求めた法線ベクトルの向きとがなす角である。θrは、撮像装置30のセンサ面の向きとステップS2512で求めた法線ベクトルの向きとがなす角、αはパターン光の光源の向きと撮像装置30のセンサ面の向きとの2分線とステップS2512で求めた法線ベクトルの向きとがなす角である。Torrance−Sparrowの2色性反射モデルでは、選択局所面特徴に対応する面からの反射光強度は、上記の式4で表される。
上記の式4の右辺第1項が拡散反射成分、第2項が鏡面反射成分を表している。式4においてKd=(Kdr,Kdg,Kdb)は拡散反射成分のRGBの強度、Ks=(Ksr,Ksg,Ksb)は鏡面反射成分のRGBの強度を表しており、σは計測対象物10の表面上の粗さ(微小面の傾きの標準偏差)を表している。
そして設定部120は、式4に基づいて求めた反射光強度IがステップS2000で登録した「反射強度の範囲」内であれば、選択局所面特徴に対する輝度ムラ補正モードをONにする。一方、設定部120は、式4に基づいて求めた反射光強度IがステップS2000で登録した「反射強度の範囲」外であれば、選択局所面特徴に対する輝度ムラ補正モードをOFFにする。
ステップS2515で設定部120は、ステップS2513でパターン画像40上に投影した面に属する画素についてステップS2514で決定した輝度ムラ補正モードをテーブルに登録する。
ステップS2516では、設定部120は、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択したか否かを判断する。この判断の結果、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択した場合には、処理はステップS2600に進む。一方、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴が残っている場合には、処理はステップS2511に戻る。
なお、本変形例では、反射強度をTorrance−Sparrowの反射モデルを用いて推定していたが、反射強度の推定方法は特定の推定方法に限らない。例えば、Phongの反射モデルやLambertの拡散反射モデルなど他の反射モデルを用いて反射輝度を推定してもよい。いずれにしても局所面特徴に対応する面における反射強度を推定できる方法であれば何でもよい。
また、本変形例では、パターン画像40における画素ごとに輝度ムラ補正モードを設定していたが、輝度ムラ補正モードを設定する単位は画素単位に限らない。例えば、計測対象物10を構成する面の数が少ない場合は、第1の実施形態において述べたように、計測対象物10全体に対して1つの輝度ムラ補正モードを設定してもよい。例えば三次元形状モデルの各面の反射輝度から代表的な反射輝度である代表反射輝度を特定し、該代表反射輝度がステップS2000で登録した範囲内であるか否かに応じて輝度ムラ補正モードを設定しても良い。代表反射輝度は、例えば、三次元形状モデルの各面の反射輝度の中央値若しくは平均値を用いる。いずれにしても局所面特徴に対応する面における反射強度を推定できる方法であれば何でもよい。このように、本変形例によれば、計測対象物の面の反射輝度が小さい場合は補正しないようにするため、高精度に三次元計測が可能となる。
<第2の実施形態の変形例2>
以下では、第2の実施形態との差分について説明する。第2の実施形態及びその変形例1では、計測対象物の三次元形状モデルを用いて、面の法線の向きに加えて反射強度をも参酌して輝度ムラ補正モードのON/OFFを切り替える方法について説明した。しかし輝度ムラは、計測対象物の同一面内で素材の色や反射率が異なるために反射輝度が不均一になることが原因で発生する。輝度ムラ補正モードのON/OFFの切り替えは単に反射輝度の大きさではだけではなく、反射輝度の不均一性も考慮して決める方が好ましい。そこで本変形例では、計測対象物の素材パラメータ分布を更に参酌して輝度ムラ補正モードのON/OFFを決定する方法について説明する。
以下では、第2の実施形態との差分について説明する。第2の実施形態及びその変形例1では、計測対象物の三次元形状モデルを用いて、面の法線の向きに加えて反射強度をも参酌して輝度ムラ補正モードのON/OFFを切り替える方法について説明した。しかし輝度ムラは、計測対象物の同一面内で素材の色や反射率が異なるために反射輝度が不均一になることが原因で発生する。輝度ムラ補正モードのON/OFFの切り替えは単に反射輝度の大きさではだけではなく、反射輝度の不均一性も考慮して決める方が好ましい。そこで本変形例では、計測対象物の素材パラメータ分布を更に参酌して輝度ムラ補正モードのON/OFFを決定する方法について説明する。
本変形例では三次元形状モデルの各面の局所面特徴は、Torrance−Sparrowの反射モデルに関わる拡散反射成分の色(3成分)、鏡面反射成分の色(3成分)、面の表面粗さ(1成分)、計7つの値(成分)を保持する素材パラメータを複数含む。
本変形例では、ステップS2000及びステップS2500における処理が第2の実施形態と異なる。ステップS2000では設定部120は次のような処理を行う。即ち、設定部120は、テーブルを初期化(全ての画素に対する輝度ムラ補正モードをOFFにする)すると共に、輝度ムラ補正モードを切り替える基準となる「各成分のばらつきの大きさ」を情報処理装置2に登録する。「各成分のばらつきの大きさ」については後述する。
ステップS2500では、設定部120は、図9のフローチャートに従った処理を行う。ステップS2521では、設定部120は、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴を1つ、選択局所面特徴として選択する。
ステップS2522では設定部120は、ステップS2521で選択した選択局所面特徴が含む三次元位置(Xm,Ym,Zm)及び三次元方向成分(Nxm,Nym,Nzm)を、上記のステップS2502と同様にして変換する。
ステップS2523で設定部120は、選択局所面特徴に対応する面(対応する局所線特徴によって規定される辺で囲まれた面)を、予めキャリブレーションされた撮像装置30の位置姿勢に基づいて変換することで、パターン画像40上に投影する。
ステップS2524では、設定部120は、選択局所面特徴に含まれているそれぞれの素材パラメータにおいて同種の成分ごとに、該成分のばらつきが該成分に対応する上記基準を超えているか否かを判断する。そして設定部120は、ばらつきが上記の基準を超えている成分が1つ以上存在する場合には、選択局所面特徴に対する輝度ムラ補正モードをONにする。一方、設定部120は、ばらつきが上記の基準を超えている成分が1つもない場合には、選択局所面特徴に対する輝度ムラ補正モードをOFFにする。
ステップS2525で設定部120は、ステップS2523でパターン画像40上に投影した面に属する画素についてステップS2524で決定した輝度ムラ補正モードをテーブルに登録する。
ステップS2526では、設定部120は、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択したか否かを判断する。この判断の結果、三次元形状モデルの全ての面の局所面特徴を選択局所面特徴として選択した場合には、処理はステップS2600に進む。一方、三次元形状モデルの各面の局所面特徴のうち未選択の局所面特徴が残っている場合には、処理はステップS2521に戻る。
なお本変形例では、Torrance−Sparrowの反射モデルに関わるパラメータを素材パラメータとして扱っていたが、これに限るものではない。例えばPhongの反射モデルに関わる光沢度合いを表すパラメータを用いるなど、反射強度に関わるパラメータであれば何でもよい。また第2の実施形態の変形例1のように反射強度まで算出してそのばらつきをもって決定してもよい。また全ての成分を用いなくても、少なくとも1つの成分のばらつきに基づいて輝度ムラ補正モードのON/OFFを決定してもよい。いずれにしても面内で反射率の異なる複数種の素材が組み合わさっている場合に、該面における反射率に係る複数の特性のそれぞれのばらつきに基づいて該面に対する輝度ムラ補正モードのON/OFFを決定することができればよい。
また、本変形例では、素材パラメータは局所面特徴が含むものとしたが、これに限らない。例えば、同一視点から撮像したカラー画像を用いて、局所面特徴に対応する面をカラー画像に投影した先の座標から色情報を取得してもよい。またユーザが視認しながら素材パラメータを与えてもよい。いずれにしても計測対象物10表面の素材情報を与えさえすれば何でもよい。本変形例によれば、計測対象物の素材が均一であるときは輝度ムラ補正をしないようにできるため、高精度に三次元計測が可能となる。
[第3の実施形態]
本実施形態では、上記の実施形態や変形例において使用した様々な基準を設定するためのGUI(グラフィカルユーザインターフェース)について説明する。基準設定用のGUIの一例について、図10を用いて説明する。図10のGUIは、情報処理装置1(2)が有する不図示の表示画面に表示しても良いし、情報処理装置1(2)とは別個の装置の表示画面に表示しても良い。
本実施形態では、上記の実施形態や変形例において使用した様々な基準を設定するためのGUI(グラフィカルユーザインターフェース)について説明する。基準設定用のGUIの一例について、図10を用いて説明する。図10のGUIは、情報処理装置1(2)が有する不図示の表示画面に表示しても良いし、情報処理装置1(2)とは別個の装置の表示画面に表示しても良い。
ユーザがキーボードやマウス等の操作部を操作して画像入力ボタン1006を指示すると、表示画面にはパターン画像40の候補が一覧表示される。そして、ユーザが操作部を操作してこの一覧から1つを指定すると、該指定した画像が領域1001内に表示される。
領域1004内には「輝度のばらつき」について、領域1001内でユーザが指定した範囲1003内の「輝度のばらつき」が「9」(左側)であること、「輝度のばらつき」の基準(閾値)として「8」(右側)が設定されていることが表示されている。また、領域1004内には、「表面荒さ」について、領域1001内でユーザが指定した範囲1003内の「表面荒さ」が「16」(左側)であること、「表面荒さ」の基準(閾値)として「10」(右側)が設定されていること、が表示されている。これらの閾値は、ユーザが操作部を操作することで適宜変更することができる。閾値の変更方法については特定の変更方法に限らない。例えば、それぞれの閾値に対してスライダバーを設け、ユーザが操作部を操作して該スライダバーを左右に操作することで対応する閾値を増減させて設定しても良い。また、各閾値に対してテキストボックスを設け、ユーザが操作部を操作して該テキストボックスに直接数値を入力することで対応する閾値を設定しても良い。
ユーザが操作部を操作して開始ボタン1007を指示すると、領域1004内で設定した基準の値に基づいて上記の実施形態や変形例の何れかの方法でもって、領域1001内に表示されているパターン画像40から距離計算用画像60が生成される。生成された距離計算用画像60は領域1002内に補正後画像として表示される。ユーザは、領域1001内に表示されている画像と領域1002内に表示されている画像とを見比べながら、領域1004内で設定した基準の値を調整することができる。
なお、領域1001内に表示された画像において輝度ムラ補正を行う範囲を、ユーザが操作部を用いて領域1001内で指定した範囲1003内としても良い。この場合、開始ボタン1007が指示されると、領域1001内に表示された画像のうち範囲1003内の部分画像のみが上記の実施形態や変形例における処理の対象となる。そして、領域1001内の画像のうち範囲1003の外側の部分画像についてはそのまま領域1002内に表示され、範囲1003内の部分画像については上記の実施形態や変形例を適用した結果が領域1002内に表示される。なお、何れの装置において基準設定を行っても、設定した基準は情報処理装置1(2)に登録されることになる。
[第4の実施形態]
図1,5に示した情報処理装置1,2の各機能部はハードウェアで実装しても良いが、ソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このコンピュータプログラムを実行可能なコンピュータ装置は、情報処理装置1,2に適用することができる。情報処理装置1,2に適用可能なコンピュータ装置のハードウェア構成例について、図11のブロック図を用いて説明する。
図1,5に示した情報処理装置1,2の各機能部はハードウェアで実装しても良いが、ソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このコンピュータプログラムを実行可能なコンピュータ装置は、情報処理装置1,2に適用することができる。情報処理装置1,2に適用可能なコンピュータ装置のハードウェア構成例について、図11のブロック図を用いて説明する。
CPU1101は、RAM1102やROM1103に格納されているコンピュータプログラムやデータを用いて処理を実行する。これによりCPU1101は、コンピュータ装置全体の動作制御を行うと共に、情報処理装置1,2が行うものとして上述した各処理を実行若しくは制御する。
RAM1102は、ROM1103や外部記憶装置1106からロードされたコンピュータプログラムやデータ、I/F(インターフェース)1107を介して外部から受信したデータ、を格納するためのエリアを有する。更にRAM1102は、CPU1101が各種の処理を実行する際に用いるワークエリアを有する。このようにRAM1102は、各種のエリアを適宜提供することができる。ROM1103には、書換不要の本コンピュータ装置の設定データやコンピュータプログラムが格納されている。
操作部1104は、キーボードやマウスなどのユーザインターフェースにより構成されており、ユーザが操作することで各種の指示をCPU1101に対して入力することができる。
表示部1105は、CRTや液晶画面などにより構成されており、CPU1101による処理結果を画像や文字などでもって表示することができる。例えば、表示部1105には、図10に例示した上記のGUIを表示することができる。また、操作部1104と表示部1105とを一体化させてタッチパネル画面を構成しても良い。
外部記憶装置1106は、ハードディスクドライブ装置に代表される大容量情報記憶装置である。外部記憶装置1106には、OS(オペレーティングシステム)や、情報処理装置1,2が行うものとして上述した各処理をCPU1101に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。該コンピュータプログラムには、上記の画像取得部100,110、設定部120、補正部130、距離算出部140、設定部260、入力部250の機能をCPU1101に実現させる為のコンピュータプログラムが含まれている。また、外部記憶装置1106に保存されているデータには、上記の基準など、上記の説明において既知の情報として取り扱ったものが含まれている。外部記憶装置1106に保存されているコンピュータプログラムやデータは、CPU1101による制御に従って適宜RAM1102にロードされ、CPU1101による処理対象となる。
I/F1107は、本コンピュータ装置が外部の装置とのデータ通信を行うためのインターフェースとして機能するものであり、例えば、本コンピュータ装置は、I/F1107を介して撮像装置30からのパターン画像40及び補正用画像50を取得する。CPU1101、RAM1102、ROM1103、操作部1104、表示部1105、外部記憶装置1106、I/F1107は何れもバス1108に接続されている。
[第5の実施形態]
本実施形態では、単一の計測対象物に三次元形状計測用のパターン光と補正用画像取得用の均一な照明光とを投影し、該パターン光が投影された計測対象物の撮像画像内の輝度のばらつきに基づき輝度ムラ補正の度合いを変化させる構成を説明する。パターン光が投影された計測対象物の撮像画像の輝度ムラの大きさを示す指標として、本実施形態では該撮像画像における輝度のばらつきを評価し、輝度のばらつきが大きいほど輝度ムラ補正の度合いを大きくする。具体的には、輝度のばらつきが大きい場合は輝度ムラ補正の度合いを大きくし、逆に輝度のばらつきが小さい場合は輝度ムラ補正の度合いを小さくする。このようにすることで、パターン光が投影された計測対象物の撮像画像における輝度ムラが小さい場合には、該撮像画像に対する補正度合いが小さくなるようにするため、高精度に三次元計測ができるようになる。
本実施形態では、単一の計測対象物に三次元形状計測用のパターン光と補正用画像取得用の均一な照明光とを投影し、該パターン光が投影された計測対象物の撮像画像内の輝度のばらつきに基づき輝度ムラ補正の度合いを変化させる構成を説明する。パターン光が投影された計測対象物の撮像画像の輝度ムラの大きさを示す指標として、本実施形態では該撮像画像における輝度のばらつきを評価し、輝度のばらつきが大きいほど輝度ムラ補正の度合いを大きくする。具体的には、輝度のばらつきが大きい場合は輝度ムラ補正の度合いを大きくし、逆に輝度のばらつきが小さい場合は輝度ムラ補正の度合いを小さくする。このようにすることで、パターン光が投影された計測対象物の撮像画像における輝度ムラが小さい場合には、該撮像画像に対する補正度合いが小さくなるようにするため、高精度に三次元計測ができるようになる。
本実施形態に係る三次元形状計測システムの機能構成例について、図12のブロック図を用いて説明する。本実施形態に係る三次元形状計測システムは、図1の三次元形状計測システムにおける情報処理装置1の代わりに情報処理装置5を用いたものとなっている。情報処理装置5は、情報処理装置1の設定部120を設定部520に、補正部130を補正部530に変えたものである。なお、本実施形態において第1の実施形態で使用した参照番号と同じ参照番号を付した構成の機能は第1の実施形態で説明した機能と同じ機能を有するものとして説明を省略する。
設定部520は、パターン画像40における輝度のばらつきに基づいて、輝度ムラ補正の度合いWを設定する。ここで、「パターン画像40における輝度のばらつき」は、パターン画像40におけるピーク輝度の分散値で評価する。具体的には、計測対象物10の三次元形状計測時では、パターン画像40から計測用パターン光を抽出し、該抽出した計測用パターン光のピーク輝度の分散値を算出する。そして、該算出したピーク輝度の分散値に応じて輝度ムラ補正の度合いWを設定する。輝度ムラ補正の度合いWを設定するための分散値の最大値と最小値はあらかじめ情報処理装置5に登録しておく。
補正部530は、設定部520で設定した輝度ムラ補正の度合いWに応じて、画像取得部100が取得したパターン画像40の輝度ムラを画像取得部110が取得した補正用画像50を用いて補正し、該補正後のパターン画像40を距離計算用画像として出力する。
次に、情報処理装置5が計測対象物10の三次元形状計測を行うために行う全体処理について、図13のフローチャートに従って説明する。なお、本実施形態において第1の実施形態で使用した参照番号と同じ参照番号を付したステップでは第1の実施形態で説明した処理と同じ処理を行うものとして説明を省略する。
ステップS5000では、設定部520は、輝度ムラ補正の度合いWを決めるための分散値の最大値と最小値を情報処理装置5に登録する。
ステップS5300では、設定部520は、ステップS1100で取得したパターン画像40におけるピーク輝度の分散値に基づき輝度ムラ補正の度合いWを設定する。ステップS5300における処理の詳細については、図14を用いて説明する。
ステップS5303では、設定部520は、ステップS1302で求めた分散値Vと、ステップS5000において予め情報処理装置5に登録した分散値の最大値と最小値とから輝度ムラ補正の度合いWを、以下の式5に従って設定する。
ここでWは輝度ムラ補正の度合いであり、小さいほど輝度ムラ補正の度合いが小さく、大きいほど輝度ムラ補正の度合いは大きくなる。VはステップS1302で求める分散値であり、小さいほど輝度ムラが小さく、大きいほど輝度ムラが大きい。Vmax、VminはステップS5000において情報処理装置5に登録した分散値の最大値と最小値である。Vmax、Vminは、予めユーザが設定しても良い。あるいは、Vmax、Vminは、計測対象物10(あるいは計測対象物10と同じ素材の基準物体)と投影装置20と撮像装置30とを用いて、予め物体に投影したパターン光を撮像した画像から求めておいても良い。またWは、計測対象物10(あるいは計測対象物10と同じ素材の基準物体)と投影装置20と撮像装置30とを用いて、予め物体に投影したパターン光を撮像した画像からテーブル化して設定しておいても良い。いずれにしても、分散値すなわち輝度ムラが小さい場合は輝度ムラ補正の度合いWが小さくなるようにして、分散値すなわち輝度ムラが大きい場合は輝度ムラ補正の度合いWが大きくなるようにする。
ステップS5400では、補正部530は、輝度ムラの補正度合いWに応じて、以下の式6に従ってパターン画像40の輝度ムラを補正用画像50を用いて補正し、該補正後のパターン画像40(補正画像)を距離計算用画像として出力する。
ここで(u, v)は画像中の画素位置を表している。また、Ipat(u, v)、Idiv(u, v)、Irev(u, v)はそれぞれ、画素位置(u, v)におけるパターン画像40の輝度値、第1の実施形態で輝度ムラ補正ONの場合の補正後のパターン画像40の輝度値(式1)、本実施形態での輝度ムラ補正後のパターン画像40の輝度値、を表している。
また、本実施形態では、パターン画像40からパターンピーク輝度のばらつきを算出し、該ばらつきに応じて輝度ムラの補正度合いを変化させて設定していた。しかし、パターン画像40におけるパターンピーク輝度のばらつきの代わりに補正用画像50における輝度のばらつきを用いて輝度ムラの補正度合いを設定しても良い。
また、本実施形態では、Wが十分に0に近い(予め定めた閾値より小さい)、あるいは十分に1に近い(予め定めた閾値より大きい)場合は、それぞれWを0あるいは1としても良い。
また、本実施形態では、分散値すなわち輝度ムラが小さい場合はWが小さくなるようにして、分散値すなわち輝度ムラが大きい場合はWが大きくなるようにしていた。しかし、分散値すなわち輝度ムラが小さい場合は輝度ムラ補正の度合いが小さくなるようにして、分散値すなわち輝度ムラが大きい場合は輝度ムラ補正の度合いが大きくなるようにするのであれば、Wの変化が逆になっても良いことは言うまでもない。
このようにすることで、パターン光が投影された計測対象物の撮像画像における輝度ムラが小さい場合には、該撮像画像に対する補正度合いが小さくなるようにするため、高精度に三次元計測ができるようになる。
なお、図12に示した情報処理装置5の各機能部はハードウェアで実装しても良いが、ソフトウェア(コンピュータプログラム)で実装しても良い。後者の場合、このコンピュータプログラムを実行可能なコンピュータ装置は、情報処理装置5に適用することができる。第4の実施形態では、図11のコンピュータ装置が情報処理装置1,2に適用可能であることを説明したが、情報処理装置5にも同様に適用可能である。
また、以上説明した実施形態や変形例は、その一部若しくは全部を適宜組み合わせて使用しても構わないし、選択的に使用しても構わない。
(その他の実施例)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
100:画像取得部 110:画像取得部 120:設定部 130:補正部 140:距離算出部
Claims (12)
- 三次元形状計測用のパターン光が投影されている物体の第1の画像の輝度ムラを補正するか否かを、前記第1の画像もしくは前記パターン光が投影されていない前記物体の第2の画像に基づいて判断する判断手段と、
前記判断手段により補正すると判断した場合には前記第2の画像に基づいて前記第1の画像の輝度ムラを補正した補正画像を用いて、前記判断手段により補正しないと判断した場合には前記第1の画像を用いて、前記物体の三次元形状の計測を行う計測手段と
を備えることを特徴とする情報処理装置。 - 前記判断手段は、前記第1の画像もしくは前記第2の画像において極値となる輝度の分散が規定の分散以上の場合には、前記第1の画像の輝度ムラを補正すると判断することを特徴とする請求項1に記載の情報処理装置。
- 前記判断手段は、前記第1の画像における輝度のコントラストの分散が規定の分散よりも大きい場合には、前記第1の画像の輝度ムラを補正すると判断することを特徴とする請求項1に記載の情報処理装置。
- 前記判断手段は、前記第1の画像中の前記物体の領域において極値となる輝度の分散が規定の分散以上の場合には、該領域の輝度ムラを補正すると判断し、
前記計測手段は、前記判断手段により補正すると判断した場合には、前記第2の画像に基づいて前記領域の輝度ムラを補正する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記判断手段は、前記第1の画像内における前記物体の面の向きに応じて前記第1の画像における該面の輝度ムラを補正するか否かを判断し、
前記計測手段は、前記判断手段により補正すると判断した場合には、前記第2の画像に基づいて前記面の輝度ムラを補正する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記判断手段は、前記第1の画像内における前記物体の面の向きと該面の反射強度とに応じて該面の輝度ムラを補正するか否かを判断し、
前記計測手段は、前記判断手段により補正すると判断した場合には、前記第2の画像に基づいて前記面の輝度ムラを補正する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記判断手段は、前記第1の画像内における前記物体の面の特性に応じて該面の輝度ムラを補正するか否かを判断し、
前記計測手段は、前記判断手段により補正すると判断した場合には、前記第2の画像に基づいて前記面の輝度ムラを補正する
ことを特徴とする請求項1に記載の情報処理装置。 - 前記第2の画像は、均一な照明光が照射された前記物体の画像であることを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。
- 前記第2の画像は、環境光で照明された前記物体の画像であることを特徴とする請求項1乃至7の何れか1項に記載の情報処理装置。
- 情報処理装置が行う情報処理方法であって、
前記情報処理装置の判断手段が、三次元形状計測用のパターン光が投影されている物体の第1の画像の輝度ムラを補正するか否かを、前記第1の画像もしくは前記パターン光が投影されていない前記物体の第2の画像に基づいて判断する判断工程と、
前記情報処理装置の計測手段が、前記判断工程で補正すると判断した場合には前記第2の画像に基づいて前記第1の画像の輝度ムラを補正した補正画像を用いて、前記判断工程で補正しないと判断した場合には前記第1の画像を用いて、前記物体の三次元形状の計測を行う計測工程と
を備えることを特徴とする情報処理方法。 - コンピュータを、請求項1乃至9の何れか1項に記載の情報処理装置の各手段として機能させるためのコンピュータプログラム。
- 三次元形状計測用のパターン光が投影されている物体の第1の画像の輝度ムラを補正する度合いを、前記第1の画像もしくは前記パターン光が投影されていない前記物体の第2の画像に基づいて設定する設定手段と、
前記設定手段により設定した、輝度ムラを補正する度合いと、前記第2の画像と、に基づいて前記第1の画像の輝度ムラを補正した補正画像を用いて、前記物体の三次元形状の計測を行う計測手段と
を備えることを特徴とする情報処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US15/976,302 US10726569B2 (en) | 2017-05-16 | 2018-05-10 | Information processing apparatus, information processing method, and non-transitory computer-readable storage medium |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017097514 | 2017-05-16 | ||
JP2017097514 | 2017-05-16 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2018194544A true JP2018194544A (ja) | 2018-12-06 |
Family
ID=64571484
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018080820A Pending JP2018194544A (ja) | 2017-05-16 | 2018-04-19 | 情報処理装置、情報処理方法、コンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2018194544A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023243430A1 (ja) * | 2022-06-14 | 2023-12-21 | ソニーグループ株式会社 | 情報処理方法、情報処理装置、およびプログラム |
-
2018
- 2018-04-19 JP JP2018080820A patent/JP2018194544A/ja active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023243430A1 (ja) * | 2022-06-14 | 2023-12-21 | ソニーグループ株式会社 | 情報処理方法、情報処理装置、およびプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10288418B2 (en) | Information processing apparatus, information processing method, and storage medium | |
JP5612916B2 (ja) | 位置姿勢計測装置、その処理方法、プログラム、ロボットシステム | |
US9207069B2 (en) | Device for generating a three-dimensional model based on point cloud data | |
JP5671281B2 (ja) | 位置姿勢計測装置、位置姿勢計測装置の制御方法及びプログラム | |
JP6594129B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
US20150213606A1 (en) | System and method for determining 3d surface features and irregularities on an object | |
WO2012066769A1 (en) | Information processing apparatus and information processing method | |
JP2007206797A (ja) | 画像処理方法および画像処理装置 | |
JP7339316B2 (ja) | ビジョンシステムにより画像特徴におけるエッジと法線を同時に考慮するためのシステム及び方法 | |
US10726569B2 (en) | Information processing apparatus, information processing method, and non-transitory computer-readable storage medium | |
JP2014199584A (ja) | 画像処理装置および画像処理方法 | |
JP6817742B2 (ja) | 情報処理装置およびその制御方法 | |
JP6894672B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
WO2016135856A1 (ja) | 3次元形状計測システムおよびその計測方法 | |
US20220180499A1 (en) | System and method for determining 3d surface features and irregularities on an object | |
JP6237032B2 (ja) | 色と三次元形状の計測方法及び装置 | |
JP6180158B2 (ja) | 位置姿勢計測装置、位置姿勢計測装置の制御方法、およびプログラム | |
JP4379626B2 (ja) | 3次元形状計測方法及びその装置 | |
US9560250B2 (en) | Information processing apparatus, measurement system, control system, light amount determination method and storage medium | |
JP5976089B2 (ja) | 位置姿勢計測装置、位置姿勢計測方法、およびプログラム | |
JP6425406B2 (ja) | 情報処理装置、情報処理方法、プログラム | |
JP2018194544A (ja) | 情報処理装置、情報処理方法、コンピュータプログラム | |
EP3062516A1 (en) | Parallax image generation system, picking system, parallax image generation method, and computer-readable recording medium | |
JP6184339B2 (ja) | 外観検査装置、外観検査方法およびプログラム | |
JP2018077168A (ja) | シミュレーション装置、シミュレーション方法およびシミュレーションプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |