JP2013217671A - 3次元物体位置・姿勢検出方法及び装置 - Google Patents
3次元物体位置・姿勢検出方法及び装置 Download PDFInfo
- Publication number
- JP2013217671A JP2013217671A JP2012085921A JP2012085921A JP2013217671A JP 2013217671 A JP2013217671 A JP 2013217671A JP 2012085921 A JP2012085921 A JP 2012085921A JP 2012085921 A JP2012085921 A JP 2012085921A JP 2013217671 A JP2013217671 A JP 2013217671A
- Authority
- JP
- Japan
- Prior art keywords
- color
- image
- posture
- normal vector
- photographed
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
【課題】3次元物体の位置及びその姿勢を検出することができる3次元物体位置・姿勢検出方法及び装置を提供する。
【解決手段】入力部からシステム制御部に制御信号を入力することで処理が開始される(S11)。次にシステム制御部がカメラ制御部に指示を与えてカメラで画像を撮影し、撮影した画像データをシステム制御部を介して記憶部内の画像メモリに記憶する(S12)。次に記憶部内に記憶された画像データをシステム制御部内に読出し、公知のカラーセグメンテーション処理を実行して領域の切り出し処理を行う(S13)。さらにシステム制御部は、切り出した領域ごとに記憶部内の色・姿勢対応表を参照して法線ベクトルを算出する(S14)。次にシステム制御部は領域ごとに位置・姿勢情報を算出する(S15)。システム制御部はステップS15で算出した位置・姿勢情報を出力部に制御信号として出力する(S16)。
【選択図】図5
【解決手段】入力部からシステム制御部に制御信号を入力することで処理が開始される(S11)。次にシステム制御部がカメラ制御部に指示を与えてカメラで画像を撮影し、撮影した画像データをシステム制御部を介して記憶部内の画像メモリに記憶する(S12)。次に記憶部内に記憶された画像データをシステム制御部内に読出し、公知のカラーセグメンテーション処理を実行して領域の切り出し処理を行う(S13)。さらにシステム制御部は、切り出した領域ごとに記憶部内の色・姿勢対応表を参照して法線ベクトルを算出する(S14)。次にシステム制御部は領域ごとに位置・姿勢情報を算出する(S15)。システム制御部はステップS15で算出した位置・姿勢情報を出力部に制御信号として出力する(S16)。
【選択図】図5
Description
本発明は、赤,緑,青の3種類の光源の下で平面状の対象物の画像を1台のカメラ(カラー画像を取得し得るカメラ)によって撮影し、その画像から対象物の3次元位置・姿勢を検出する方法及び装置に関する。
従来、対象物の3次元位置・姿勢を認識する技術は、(a)レーザースキャナーにより測定された対象物の3次元点群データから位置・姿勢を認識する技術(特許文献1参照)、(b)ステレオビジョンにより測定された対象物の距離画像から位置・姿勢を認識する技術(特許文献2参照)、(c)1つのカメラで撮影された2次元画像と事前に想定される複数の姿勢を撮影した2次元画像を2次元パターンマッチにより対応付けることにより姿勢を認識する技術(特許文献3参照)、などが知られている。また、赤,緑,青の3種類の光源を配置することによって対象物の3次元形状をカラーで表現した画像を撮影し、事前に用意した正常な状態の対象物のカラー画像と比較することにより、対象物の形状変化を検査する技術(特許文献4参照)も知られている。
上記した(a)〜(c)の技術は、対象物が複数存在する場合に、1つの部品(個別の対象物)を切り出す処理に複雑なアルゴリズムと大きな計算量を必要とするという問題がある。
さらに上記特許文献4に示される検査技術は、赤,緑,青の3つの光源を配置し画像を1つのカメラで撮影することにより、各画素の光源位置に対する傾斜角度により撮影された画像のカラー(色)が異なることを利用して正常な対象物のカラー画像と検査対象のカラー画像を比較し、3次元の形状変化を検査するようにしているが、この方式では形状の差異(変化)を検出することはできるが、対象物を切り出したり対象物の姿勢を検出することはできない。
そこで本発明は、3次元物体の位置及びその姿勢を検出することができる3次元物体位置・姿勢検出方法及び装置を提供することを目的とする。
上記課題を解決するために本発明は、1台のカメラからZ軸方向に所定距離だけ離れた載置台に配置した複数個の平面状の対象物に向け、同じくZ軸方向に上記載置台から所定距離だけ離れたX-Y平面上において互いに離して配置した赤(red),緑(green),青(blue)の3種の光源で照射し、上記カメラで複数個の上記平面状の対象物を撮影し、該撮影された撮影画像において、上記対象物の色が上記載置台に配置された上記対象物の傾斜角度に応じて異なることを利用して該撮影画像からセグメンテーション技法により対象物画像を切り出し、切り出された該対象物画像の色から上記載置台に配置された上記対象物の姿勢を検出することを特徴とする。
本発明を従来の3次元姿勢を認識する上述した3つの手法と比較すると、本発明は公知のセグメンテーションアルゴリズムを応用した単純なアルゴリズムにより、少ない計算量で対象物を切り出すことができる。また、従来の3種類の光源を利用した3次元の形状変化を検査する検査技術では対象物の姿勢を検出できないが、本発明によれば測定された色を光源と対象物の傾斜角度に関係付けた情報を用いることで対象物の姿勢の検出ができる。
本発明によれば、公知のセグメンテーションアルゴリズムを応用した単純なアルゴリズムにより、少ない計算量で対象物を切り出すことができ、また測定された色を光源と対象物の傾斜角度に関係付けた情報を用いることにより対象物の姿勢を検出することができる。
以下、本発明の実施の形態について、詳細に説明する。
図1は、本発明の実施形態に係る3次元物体位置・姿勢検出装置の構成概要を示すブロック図である。図1において、本発明の実施形態に係る3次元物体位置・姿勢検出装置100は、1台のカメラ(カラー画像を取得し得るカメラ)1と、該カメラ1の撮影制御を行うカメラ制御部6と、カメラ位置を原点とする3次元のカメラ座標系のX-Y平面上に配置され、Z軸方向の所定距離に配置された対象物(例.ワーク)を照らすための光源赤R(2)、光源緑G(3)、光源青B(4)の3種の光源と、それら3種の光源を制御する光源制御部7と、カメラ設置位置からZ軸方向の所定距離に設定された測定領域に対象物を載置するための台であって、後述する色・姿勢の対応表を作成する際に上記対象物を回転可能にする回転機能付きワーク載置台5と、該ワーク載置台5を制御するワーク載置台制御部8と、カメラ1で撮影したカラー画像を記憶するとともに、上記した色・姿勢の対応表及び後述する補正値を記憶する記憶部10と、上記したカメラ制御部6、光源制御部7、ワーク載置台制御部8、及び、記憶部10とデータをやりとりしてシステム全体を制御するシステム制御部9と、該システム制御部9への制御信号の入力を行う入力部11と、システム制御部9からの制御信号の出力を受ける出力部12とで構成される。
図1は、本発明の実施形態に係る3次元物体位置・姿勢検出装置の構成概要を示すブロック図である。図1において、本発明の実施形態に係る3次元物体位置・姿勢検出装置100は、1台のカメラ(カラー画像を取得し得るカメラ)1と、該カメラ1の撮影制御を行うカメラ制御部6と、カメラ位置を原点とする3次元のカメラ座標系のX-Y平面上に配置され、Z軸方向の所定距離に配置された対象物(例.ワーク)を照らすための光源赤R(2)、光源緑G(3)、光源青B(4)の3種の光源と、それら3種の光源を制御する光源制御部7と、カメラ設置位置からZ軸方向の所定距離に設定された測定領域に対象物を載置するための台であって、後述する色・姿勢の対応表を作成する際に上記対象物を回転可能にする回転機能付きワーク載置台5と、該ワーク載置台5を制御するワーク載置台制御部8と、カメラ1で撮影したカラー画像を記憶するとともに、上記した色・姿勢の対応表及び後述する補正値を記憶する記憶部10と、上記したカメラ制御部6、光源制御部7、ワーク載置台制御部8、及び、記憶部10とデータをやりとりしてシステム全体を制御するシステム制御部9と、該システム制御部9への制御信号の入力を行う入力部11と、システム制御部9からの制御信号の出力を受ける出力部12とで構成される。
上記構成において、入力部11からシステム制御部9に制御信号を入力することで3次元物体位置・姿勢検出装置としての処理を開始する。入力部11は、情報処理分野で周知のマウス、キーボード、トラックポインタなどの入力装置を利用する。システム制御部9は、例えばカメラ制御部6に指示を与えてカメラ1が画像を撮影し、撮影した画像データをシステム制御部9を介して記憶部10内の画像メモリ(図示せず)に記憶する。またシステム制御部9は、記憶部10内に記憶された画像データを読出し、公知のカラーセグメンテーション処理を実行して領域の切り出し処理を行う。なおシステム制御部9が行う領域の切り出し処理等に必要なプログラムは記憶部10または外部メモリ(図示せず)から事前にシステム制御部9内の内部メモリ(図示せず)に格納される。
さらにシステム制御部9は、切り出した領域ごとに記憶部10内の色・姿勢対応表を参照して法線ベクトルを算出する。説明が遅れたが、システム制御部9は情報処理装置分野で周知の中央処理装置(CPU)を用いて構成することができる。
またシステム制御部9は、領域ごとに位置・姿勢情報を算出する。これについては後述する。そしてシステム制御部9は、算出した位置・姿勢情報を制御信号として出力部12に出力する。出力された制御信号は公知の液晶、プラズマ、有機EL等のディスプレイ装置に表示することができる。またディスプレイ装置でなくカラープリンタを利用することもできる。
図2は、図1に示した本発明の実施形態に係る3次元物体位置・姿勢検出装置におけるカメラ及び3つの光源の配置関係を説明する図である。すなわち、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、カメラ1、及び赤2,緑3,青4の3つの光源を以下に示すように配置する。
(イ)カメラ、光源の配置
図2においては、カメラ1を原点とし、垂直方向がZ軸、画像面がX-Y平面となる3次元空間をカメラ座標系とする。対象物までのワークディスタンスは既知(Z= Zw)とする。
(イ)カメラ、光源の配置
図2においては、カメラ1を原点とし、垂直方向がZ軸、画像面がX-Y平面となる3次元空間をカメラ座標系とする。対象物までのワークディスタンスは既知(Z= Zw)とする。
次に、光源の配置条件について説明する。すなわち赤(R=red)1、緑(G=green)2、青(B=blue)3の3種の光源は、カメラ座標系においてカメラ1を中心にX-Y平面上にできるだけ相互に離れた位置に配置される。相互の位置関係やワークディスタンスとの関係は厳密に規定する必要はないが、カメラ座標系における距離及び方向がワークディスタンスである点の近傍を測定領域、つまり、3次元のカメラ座標系の、X=Y=0,Z=ワークディスタンス(Z= Zw)の近傍の領域を測定領域21として上述の回転機能付きワーク載置台5上に設定し、測定領域21内では各光源の照度は均一であるとする。
(ロ)切り出し
図3は、本発明の実施形態に係る3次元物体位置・姿勢検出装置で取り扱う物体が直方体状の対象物(例.ワーク)で複数個存在する場合の様子及び当該対象物の画像例を示す図である。本発明の実施形態に係る3次元物体位置・姿勢検出装置は、カメラ設定位置をX-Y平面の原点(X=Y=0)とした3次元のカメラ座標系を想定している。このようなカメラ座標系において、図3に示すように高さ成分(厚み)をほとんど考えなくて良い薄い直方体状の物体を想定する。そうすることで、物体を長方形で表わせるものとなる。具体的には、図3の左部には、3次元物体31〜35が複数配置されたときの様子が示されており、図3の右部には、配置された複数の3次元物体31〜35を上記(イ)に示す撮影環境下でカメラ1により撮影したときの画像例が示されている。
(ロ)切り出し
図3は、本発明の実施形態に係る3次元物体位置・姿勢検出装置で取り扱う物体が直方体状の対象物(例.ワーク)で複数個存在する場合の様子及び当該対象物の画像例を示す図である。本発明の実施形態に係る3次元物体位置・姿勢検出装置は、カメラ設定位置をX-Y平面の原点(X=Y=0)とした3次元のカメラ座標系を想定している。このようなカメラ座標系において、図3に示すように高さ成分(厚み)をほとんど考えなくて良い薄い直方体状の物体を想定する。そうすることで、物体を長方形で表わせるものとなる。具体的には、図3の左部には、3次元物体31〜35が複数配置されたときの様子が示されており、図3の右部には、配置された複数の3次元物体31〜35を上記(イ)に示す撮影環境下でカメラ1により撮影したときの画像例が示されている。
図3の右部に示されるように、3次元物体31〜35が配置された際の傾斜角度により、赤,緑,青の3種の光源からの光のあたる割合(光の強度)がそれぞれ異なるため、傾斜角度に応じて、出力される撮影された画像の色が異なるように表わされる(図1出力部12参照)。
そこで、撮影後の画像処理において当該技術分野で公知のセグメンテーションアルゴリズムを用いることにより、色の異なる領域ごとに3次元物体31〜35を切り分けることができ、その結果、各対象物(部品)を切り出すことができる。当該技術分野で公知のセグメンテーションアルゴリズムについては、例えばWatershed アルゴリズム(参考書籍:詳細Open CV、オライリージャパン、pp.299-300)などを参照されたい。なお、上記では、高さ成分(厚み)をほとんど考えなくて良い薄い直方体状の物体を想定したが、実際の物体には上記と同じ形状でも厚みに差異があったり、平面に対して突起物や穴などがある。そしてこれら物体を取り扱う場合には、重なり度合いに応じて角度に微差が生じ、その結果、カメラで撮影した場合の色が異なったものになる。つまり実際には、同じ姿勢(色)になる可能性はほとんど想定されないものとなる。
(ハ)姿勢検出1(請求項2関連)
図4は、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、対象物の法線ベクトルの位置と対象物の色の組合せの対応表を作成する際の概念図である。
(ハ)姿勢検出1(請求項2関連)
図4は、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、対象物の法線ベクトルの位置と対象物の色の組合せの対応表を作成する際の概念図である。
上記(イ)で説明したカメラ及び光源が設定配置された撮影環境において、図4に示すように、ワークディスタンス位置、すなわち3次元のカメラ座標系の、X=Y=0,Z=ワークディスタンス(Z= Zw)の近傍、すなわち測定領域21に対象物30を配置する。そして対象物30を回転させ、対象物30の法線ベクトルの位置と対象物の色の関係を、事前に測定する。これに関与する図1に示すハードウェア構成は、回転機能付ワーク載置台5、ワーク載置台制御部8、システム制御部9及び記憶部10である。そして測定した法線ベクトルの位置と対象物の色の関係を色・姿勢の対応表として記憶部10内に記憶する。
法線ベクトルの位置としては、X,Y,Zそれぞれ0〜180度まで、何度刻みにするかを所与の条件としてそれぞれ回転して測定する。例えば5度刻みの場合は、36*36*36通りの組合せについて対象物の法線ベクトルの位置と対象物の色の関係が必要になり、それらの組合せを対応表として事前に作成しておいてから、実際の測定結果を得るようにする。実際には、図1に示す入力部11から対象物の回転角度の設定データを入力し、入力部11からシステム制御部9、ワーク載置台制御部8を介して回転機能付ワーク載置台5に指示を与え、上述の所与の刻み毎に対象物31〜35の法線ベクトルの位置と対象物の色の関係を抽出する(事前準備)。
そして実運用時に測定された色に対し、事前に作成しておいた対応表から最も近似する色を探索し、その色に対応する法線ベクトルを、測定された対象物の姿勢であると決定(すなわち姿勢検出)する。
ここまでにおける本発明の実施形態に係る3次元物体位置・姿勢検出装置の処理動作をフローチャート(その1)で示すと図5のようになる。図5において、処理を開始する前に、検出領域に置いた対象物について事前に色・姿勢の対応表を作成して図1の記憶部10内に記憶しておく。そのうえで、ステップS11において入力部11からシステム制御部9に制御信号を入力することで処理が開始される。なお、入力部11は、情報処理分野で周知のマウス、キーボード、トラックポインタなどの入力装置を利用する。次に、ステップS12においてシステム制御部9がカメラ制御部6に指示を与えてカメラ1で画像を撮影し、撮影した画像データをシステム制御部9を介して記憶部10内の画像メモリ(図示せず)に記憶する。次に、ステップS13において、記憶部10内に記憶された画像データをシステム制御部9内に読出し、公知のカラーセグメンテーション処理を実行して領域の切り出し処理を行う。
さらにステップS14において、システム制御部9は、切り出した領域ごとに記憶部10内の色・姿勢対応表を参照して法線ベクトルを算出する。システム制御部9は情報処理装置分野で周知の中央処理装置(CPU)を用いて構成することができる。次に、ステップS15において、システム制御部9は領域ごとに位置・姿勢情報を算出する。そしてステップS16において、システム制御部9はステップS15で算出した位置・姿勢情報を出力部12に制御信号として出力する。出力された制御信号は公知の液晶、プラズマ、有機EL等のディスプレイ装置に表示することができる。またディスプレイ装置でなくカラープリンタを利用しても良い。
(ニ)姿勢検出2(請求項3関連)
図6は、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、赤,緑,青の3つの光源の方向ベクトルの概要を説明する図である。
(ニ)姿勢検出2(請求項3関連)
図6は、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、赤,緑,青の3つの光源の方向ベクトルの概要を説明する図である。
上記(ハ)に示した姿勢検出1では、対象物の法線ベクトルの位置と対象物の色を関連付けた対応表が膨大になる可能性があるのでそれを回避する方策について以下で説明する。
上記(イ)で説明したカメラ及び光源が設定配置された撮影環境において、図6では、それぞれの光源の位置をワークディスタンス位置(Z= Zw)における方向ベクトルとして規定する。すなわち、赤色の光源R(2)の方向を示すベクトルをr0、緑色の光源G(3)の方向を示すベクトルをg0、青色の光源B(4)の方向を示すベクトルをb0とする。そのうえで、本例では、以下の(a)〜(f)に示す姿勢の検出手順を実行する。すなわち、
(a)事前処理(補正値の決定)
対象物の法線がカメラ方向を向くように、あるいは法線ベクトルがZ軸と並行になるように、対象物を測定位置に配置した場合のカラー画像の値を(R0,G0,B0)とする。
(a)事前処理(補正値の決定)
対象物の法線がカメラ方向を向くように、あるいは法線ベクトルがZ軸と並行になるように、対象物を測定位置に配置した場合のカラー画像の値を(R0,G0,B0)とする。
図7は、本発明の実施形態に係る3次元物体位置・姿勢検出装置における、検出領域に置いた対象物のカラー画像の測定値が所定の値W0になるように補正する際の補正値の決定方法を説明する図である。その場合、W0は、飽和しない値、例えば8ビットであれば0〜255の間において200程度の値に予め設定しておき、後述の補正結果が255を超えないように補正する。図7に示すように、測定値がすべてW0になるように、各色の補正値Wr,Wg,Wbを、赤はWr=W0/R0,緑はWg=W0/G0,青はWb=W0/B0とする。すなわち、補正後の値では、(R0*Wr,G0*Wg,B0*Wb)=(W0,W0,W0)ということになる。
(b)対象物の姿勢(= 法線ベクトル)
対象物30のX-Y平面における位置は、画像上における位置と等しいので既知と考えることができる。それゆえ対象物の法線ベクトルが求まれば、それにより対象物の位置と姿勢が求まることになる。図8Aは、対象物(面)と法線ベクトルとの関係を示す図である。上述したように、配置された3次元物体の傾斜角度により画像上の色が異なって表わされる結果、対象物(面)30について測定された色から、その法線ベクトルを求めることで対象物30の姿勢が求まる。
(c)法線ベクトルと色の関係(1)
法線ベクトルと色の関係について、赤Rを例にして説明する。他の色、すなわち緑Gも青Bも同様であるので、代表して赤Rについて説明し他の色についての法線ベクトルと色の関係についてはその説明を省略する。
(b)対象物の姿勢(= 法線ベクトル)
対象物30のX-Y平面における位置は、画像上における位置と等しいので既知と考えることができる。それゆえ対象物の法線ベクトルが求まれば、それにより対象物の位置と姿勢が求まることになる。図8Aは、対象物(面)と法線ベクトルとの関係を示す図である。上述したように、配置された3次元物体の傾斜角度により画像上の色が異なって表わされる結果、対象物(面)30について測定された色から、その法線ベクトルを求めることで対象物30の姿勢が求まる。
(c)法線ベクトルと色の関係(1)
法線ベクトルと色の関係について、赤Rを例にして説明する。他の色、すなわち緑Gも青Bも同様であるので、代表して赤Rについて説明し他の色についての法線ベクトルと色の関係についてはその説明を省略する。
対象物(面)30について測定される色は、補正することで得られる上記した(a)の状態を基準値W0としたが、配置された対象物(面)30の傾斜角度によっては測定されるカラー画像の値がW0より大きくなる場合がある。Z軸方向の単位ベクトルをZ0=(0,0,1)とするとき、光源R(2)の方向ベクトルr0と単位ベクトルZ0のなす角をφrとする。方向ベクトルr0と単位ベクトルZ0の内積がφrの余弦に等しいことから、光源R(2)の方向ベクトルr0と単位ベクトルZ0のなす角度φrを求めることができる。
そしてW0が測定値Rmより大きいときには法線ベクトルNは、図8Bに示されるように表され、また、W0が測定値Rmより小さいときには法線ベクトルNは、図8Cに示されるように表される。それぞれの場合において、赤色成分の強度がW0に対して減少(図8B参照)あるいは増加(図8C参照)することから、測定値の赤色成分であるRmから、方向ベクトルr0と法線ベクトルNのなす角θrを求めることができる。
(d)法線ベクトルと色の関係(2)
図9は、赤Rについて、光源の方向ベクトルr0と法線ベクトルNのなす角度θrを計算する式を模式的に示す図である。いま、光源の強さを仮想的にIRと置く。図9の左図は、赤Rについて、補正値W0を求めたときの図であり、補正値の計算式からIRを既知のW0とφrで示すことができる。すなわち、
W0=IR*cos φr
図9の中央図及び図9の右図は、測定値RmがW0より小さい場合と大きい場合を示しているが、いずれも同じ式で記述することができ、θrを求めることができる。
(d)法線ベクトルと色の関係(2)
図9は、赤Rについて、光源の方向ベクトルr0と法線ベクトルNのなす角度θrを計算する式を模式的に示す図である。いま、光源の強さを仮想的にIRと置く。図9の左図は、赤Rについて、補正値W0を求めたときの図であり、補正値の計算式からIRを既知のW0とφrで示すことができる。すなわち、
W0=IR*cos φr
図9の中央図及び図9の右図は、測定値RmがW0より小さい場合と大きい場合を示しているが、いずれも同じ式で記述することができ、θrを求めることができる。
すなわち、
Rm=IR*cos θr=W0÷cos φr*cos θr
で表され、この式に基づいてθrを求めることができる。
(e)3つの色に対する法線ベクトル(1)
図10は、上記(c)に示した赤Rにおける光源の方向ベクトルr0と法線ベクトルNのなす角度θrを求める処理(図10の左図、図8B及び図8C参照)を、光源緑G、光源青Bに対しても同様に実施して光源の方向ベクトルと法線ベクトルのなす角度を計算する式を模式的に示す図である。光源赤R(2)の方向ベクトルr0と法線ベクトルNのなす角度θrを求める処理を、図10の中央図及び右図に示すように、光源緑G(3)の方向ベクトルg0と法線ベクトルNのなす角θg、及び、光源青B(4)の方向b0と法線ベクトルNのなす角θbを求めるに際して、同様に実施することにより、角度θg及び角度θbをそれぞれ求めることができる。
(f)3つの色に対する法線ベクトル(2)
ここまでの説明において、光源赤R(2)の方向ベクトルr0と法線ベクトルNのなす角度θr、光源緑G(3)の方向ベクトルg0と法線ベクトルNのなす角度θg、光源青B(4)の方向ベクトルb0と法線ベクトルNのなす角度θbが求められることを示した。3次元空間における法線ベクトルN=(Nx,Ny,Nz)の未知の3要素Nx,Ny,Nzを求めるには、以下の連立方程式を解けばよい。すなわち、
{ベクトルr0×(−1)}とNの内積=cosθr
{ベクトルg0×(−1)}とNの内積=cosθg
{ベクトルb0×(−1)}とNの内積=cosθb
これらの連立方程式の解から対象物の法線ベクトルNを求めることができる。これにより上記(ハ)における処理では、対象物の法線ベクトルの位置と対象物の色を関連付けた対応表が膨大になる可能性があったが、本例によりそれを回避することができる。
Rm=IR*cos θr=W0÷cos φr*cos θr
で表され、この式に基づいてθrを求めることができる。
(e)3つの色に対する法線ベクトル(1)
図10は、上記(c)に示した赤Rにおける光源の方向ベクトルr0と法線ベクトルNのなす角度θrを求める処理(図10の左図、図8B及び図8C参照)を、光源緑G、光源青Bに対しても同様に実施して光源の方向ベクトルと法線ベクトルのなす角度を計算する式を模式的に示す図である。光源赤R(2)の方向ベクトルr0と法線ベクトルNのなす角度θrを求める処理を、図10の中央図及び右図に示すように、光源緑G(3)の方向ベクトルg0と法線ベクトルNのなす角θg、及び、光源青B(4)の方向b0と法線ベクトルNのなす角θbを求めるに際して、同様に実施することにより、角度θg及び角度θbをそれぞれ求めることができる。
(f)3つの色に対する法線ベクトル(2)
ここまでの説明において、光源赤R(2)の方向ベクトルr0と法線ベクトルNのなす角度θr、光源緑G(3)の方向ベクトルg0と法線ベクトルNのなす角度θg、光源青B(4)の方向ベクトルb0と法線ベクトルNのなす角度θbが求められることを示した。3次元空間における法線ベクトルN=(Nx,Ny,Nz)の未知の3要素Nx,Ny,Nzを求めるには、以下の連立方程式を解けばよい。すなわち、
{ベクトルr0×(−1)}とNの内積=cosθr
{ベクトルg0×(−1)}とNの内積=cosθg
{ベクトルb0×(−1)}とNの内積=cosθb
これらの連立方程式の解から対象物の法線ベクトルNを求めることができる。これにより上記(ハ)における処理では、対象物の法線ベクトルの位置と対象物の色を関連付けた対応表が膨大になる可能性があったが、本例によりそれを回避することができる。
上記(ニ)からここまでにおける本発明の実施形態に係る3次元物体位置・姿勢検出装置の処理動作をフローチャート(その2)で示すと図11のようになる。図11において、処理を開始する前に、検出領域に置いた対象物のカラー画像の測定値が所定の値W0になるように事前に補正値を作成して図1の記憶部10内に記憶しておく。そのうえで、ステップS41において入力部11からシステム制御部9に制御信号を入力することで処理を開始する。次に、ステップS42においてシステム制御部9がカメラ制御部6に指示を与えてカメラ1で画像を撮影し、撮影した画像データをシステム制御部9を介して記憶部10内の画像メモリ(図示せず)に記憶する。次に、ステップS43において、記憶部10内に記憶された画像データをシステム制御部9内に読出し、公知のカラーセグメンテーション処理を実行して領域の切り出し処理を行う。システム制御部9が行う領域の切り出し処理に必要なプログラム等は記憶部10または外部メモリ(図示せず)から事前にシステム制御部9内の内部メモリ(図示せず)に格納されるようにしている。
そしてステップS44において、システム制御部9は、切り出した領域ごとに、事前に作成し記憶部10内に記憶しておいた補正値を参照して、(1)色別の法線ベクトルの構成要素、すなわち上記した(e)で説明した各色ごとの方向ベクトルと法線ベクトルNのなす角度、を算出し、次いで、(2)該算出した構成要素を基に上記(f)で説明した算出式に基づいて法線ベクトルを算出する。次にステップS45において、システム制御部9は領域ごとに位置・姿勢情報を算出する。そしてステップS46において、システム制御部9はステップS45で算出した位置・姿勢情報にかかる制御信号を出力部12に出力する。
1 カメラ
2 光源赤R
3 光源緑G
4 光源青B
5 回転機能付ワーク載置台
6 カメラ制御部
7 光源制御部
8 ワーク載置台制御部
9 システム制御部
10 記憶部
11 制御信号(入力部)
12 制御信号(出力部)
21 測定領域
30〜35 対象物
100 3次元物体位置・姿勢検出装置
2 光源赤R
3 光源緑G
4 光源青B
5 回転機能付ワーク載置台
6 カメラ制御部
7 光源制御部
8 ワーク載置台制御部
9 システム制御部
10 記憶部
11 制御信号(入力部)
12 制御信号(出力部)
21 測定領域
30〜35 対象物
100 3次元物体位置・姿勢検出装置
Claims (6)
- 1台のカメラからZ軸方向に所定距離だけ離れた載置台に配置した複数個の平面状の対象物に向け、同じくZ軸方向に前記載置台から所定距離だけ離れたX-Y平面上において互いに離して配置した赤,緑,青の3種の光源で照射する過程、
前記カメラで複数個の前記平面状の対象物を撮影する過程、
該撮影された撮影画像において、前記対象物の色が前記載置台に配置された前記対象物の傾斜角度に応じて異なることを利用して該撮影画像からセグメンテーション技法により対象物画像を切り出す過程、
切り出された該対象物画像の色から前記載置台に配置された前記対象物の姿勢を検出する過程、
を含む3次元物体位置・姿勢検出方法。 - 請求項1記載の方法において、
前記平面状の対象物の任意の姿勢における撮影画像から、撮影された対象物画像の色と前記対象物の傾斜角度との関係を事前に対応付けて対応表として記憶しておく過程、
前記撮影された対象物画像の色について前記対応表を参照することで前記対象物に対応する傾斜角度を求める過程、
前記対象物に対応する前記傾斜角度を基に前記対象物の姿勢を検出する過程、
を含む3次元物体位置・姿勢検出方法。 - 請求項1記載の方法において、
前記平面状の対象物を前記載置台に置き、該対象物のカラー画像の測定値に補正を加えることで所定の値となるように事前に補正値を作成し記憶する過程、
撮影された前記対象物のカラー画像において、前記対象物の色が前記対象物の傾斜角度に応じて異なることを利用して前記対象物のカラー画像からセグメンテーション技法により対象物のカラー画像を切り出す過程、
切り出した該対象物のカラー画像の各光源の色ごとの方向ベクトルと法線ベクトルのなす角度を前記補正値を参照して算出する過程、
該算出された各光源の色ごとの方向ベクトルと法線ベクトルのなす角度を基に法線ベクトルを算出する過程、
算出された前記法線ベクトルに基づいて前記対象物の姿勢を検出する過程、
を含む3次元物体位置・姿勢検出方法。 - 1台のカメラからZ軸方向に所定距離だけ離れた載置台に配置した複数個の平面状の対象物に向け、同じくZ軸方向に前記載置台から所定距離だけ離れたX-Y平面上において互いに離して配置した赤,緑,青の3種の光源で照射する光源照射手段と、
前記カメラで複数個の前記平面状の対象物を撮影する対象物撮影手段と、
該撮影された撮影画像において、前記対象物の色が前記載置台に配置された前記対象物の傾斜角度に応じて異なることを利用して該撮影画像からセグメンテーション技法により対象物画像を切り出す対象物画像切出し手段と、
切り出された該対象物画像の色から前記載置台に配置された前記対象物の姿勢を検出する姿勢検出手段と、
を備えることを特徴とする3次元物体位置・姿勢検出装置。 - 請求項4記載の装置において、
前記平面状の対象物の任意の姿勢における撮影画像から、撮影された対象物画像の色と前記対象物の傾斜角度との関係を事前に対応付けて記憶しておく色・姿勢対応記憶手段と、
前記撮影された対象物画像の色について前記色・姿勢対応記憶手段を参照して前記対象物に対応する姿勢を求める姿勢算出手段と、
前記対象物に対応する前記傾斜角度を基に前記対象物の姿勢を検出する対象物姿勢検出手段と、
を備えることを特徴とする3次元物体位置・姿勢検出装置。 - 請求項4記載の装置において、
前記平面状の対象物を前記載置台に置き、該対象物のカラー画像の測定値に補正を加えることで所定の値となるように事前に補正値を作成し記憶する補正値記憶手段と、
撮影された前記対象物のカラー画像において、前記対象物の色が前記対象物の傾斜角度に応じて異なることを利用して前記対象物のカラー画像からセグメンテーション技法により対象物のカラー画像を切り出す対象物カラー画像切出し手段と、
該対象物カラー画像切出し手段が切り出した前記対象物カラー画像の各光源の色ごとの方向ベクトルと法線ベクトルのなす角度を前記補正値記憶手段に記憶された補正値を参照して算出する角度算出手段と、
該角度算出手段により算出された各光源の色ごとの方向ベクトルと法線ベクトルのなす角度を基に法線ベクトルを算出する法線ベクトル算出手段と、
該法線ベクトル算出手段により算出された前記法線ベクトルに基づいて前記対象物の姿勢を検出する対象物姿勢検出手段と、
を備えることを特徴とする3次元物体位置・姿勢検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012085921A JP2013217671A (ja) | 2012-04-04 | 2012-04-04 | 3次元物体位置・姿勢検出方法及び装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012085921A JP2013217671A (ja) | 2012-04-04 | 2012-04-04 | 3次元物体位置・姿勢検出方法及び装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2013217671A true JP2013217671A (ja) | 2013-10-24 |
Family
ID=49589947
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012085921A Pending JP2013217671A (ja) | 2012-04-04 | 2012-04-04 | 3次元物体位置・姿勢検出方法及び装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2013217671A (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022030615A (ja) * | 2020-08-07 | 2022-02-18 | トヨタ自動車株式会社 | 色味補正システム及び色味補正方法 |
-
2012
- 2012-04-04 JP JP2012085921A patent/JP2013217671A/ja active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022030615A (ja) * | 2020-08-07 | 2022-02-18 | トヨタ自動車株式会社 | 色味補正システム及び色味補正方法 |
JP7310750B2 (ja) | 2020-08-07 | 2023-07-19 | トヨタ自動車株式会社 | 色味補正システム及び色味補正方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102069022B1 (ko) | 카메라 캘리브레이션 시스템 | |
TWI528028B (zh) | 用於機器視覺檢驗的檢驗設備、方法和電腦程式產品 | |
US20180194007A1 (en) | Calibration device, calibration method, and computer readable medium for visual sensor | |
US10326979B2 (en) | Imaging system comprising real-time image registration | |
JP2011253376A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
US11637967B2 (en) | Information processing apparatus, information processing method, and calibration apparatus | |
US10027954B2 (en) | Registering cameras in a multi-camera imager | |
JPWO2008078537A1 (ja) | ブレ測定システムおよびブレ測定方法 | |
JP2012088114A (ja) | 光学情報処理装置、光学情報処理方法、光学情報処理システム、光学情報処理プログラム | |
JP2004004043A (ja) | カメラ補正装置 | |
US10339662B2 (en) | Registering cameras with virtual fiducials | |
JP2009250740A (ja) | 画像合成方法及びタイヤの外観検査装置 | |
JP5783567B2 (ja) | 直線検出装置、直線検出方法、直線検出プログラム及び撮影システム | |
JP2020052046A (ja) | 測量データ処理装置、測量データ処理方法、測量データ処理用プログラム | |
JP2006250722A (ja) | キャリブレーション装置及びその方法、キャリブレーション用プログラム | |
CN114299156A (zh) | 无重叠区域下多相机的标定与坐标统一方法 | |
JP2016213535A (ja) | カメラキャリブレーション装置、方法及びプログラム | |
JP2013217671A (ja) | 3次元物体位置・姿勢検出方法及び装置 | |
JP7336253B2 (ja) | 据付物の施工方法 | |
CN104677911A (zh) | 用于机器视觉检验的检验设备和方法 | |
JP2014010100A (ja) | 画像処理装置及び方法、並びに撮像装置 | |
JP2017156311A (ja) | 3次元計測装置、3次元計測システム、3次元計測方法及びプログラム | |
JP2018032991A (ja) | 画像表示装置、画像表示方法及び画像表示用コンピュータプログラム | |
TW201644271A (zh) | 測試系統及測試方法 | |
JP7139953B2 (ja) | 三次元形状測定装置、三次元形状測定方法及びプログラム |