JP2004046772A - 画像処理方法、画像処理システム、及び画像処理装置 - Google Patents
画像処理方法、画像処理システム、及び画像処理装置 Download PDFInfo
- Publication number
- JP2004046772A JP2004046772A JP2002289178A JP2002289178A JP2004046772A JP 2004046772 A JP2004046772 A JP 2004046772A JP 2002289178 A JP2002289178 A JP 2002289178A JP 2002289178 A JP2002289178 A JP 2002289178A JP 2004046772 A JP2004046772 A JP 2004046772A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- light
- image processing
- light emitting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2545—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/08—Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
Abstract
【課題】画像における特徴点の抽出、画像間での特徴点の対応付けを容易にする画像処理方法、画像処理システム、及び画像処理装置の提供。
【解決手段】撮像対象物Tを撮像する撮像装置10P,10Qと、複数の発光部L1 〜L8 及び該発光部L1 〜L8 の点灯及び消灯を制御する制御部21を有する発光装置20と、画像処理機能を有する画像処理装置30とを備え、発光装置20により撮像対象物Tに照射された光像に基づき特徴点を抽出し、複数の画像間で特徴点同士の対応付けを行う。また、対応付けを行った特徴点に基づき、撮像装置10P,10Qの位置及び姿勢を求める。
【選択図】 図1
【解決手段】撮像対象物Tを撮像する撮像装置10P,10Qと、複数の発光部L1 〜L8 及び該発光部L1 〜L8 の点灯及び消灯を制御する制御部21を有する発光装置20と、画像処理機能を有する画像処理装置30とを備え、発光装置20により撮像対象物Tに照射された光像に基づき特徴点を抽出し、複数の画像間で特徴点同士の対応付けを行う。また、対応付けを行った特徴点に基づき、撮像装置10P,10Qの位置及び姿勢を求める。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は複数の画像間の対応関係を求める際の特徴点を人工的に作り出して画像処理を行う画像処理方法、画像処理システム、及び画像処理装置に関する。
【0002】
【従来の技術】
近年の画像処理技術の発達に伴い、複数の2次元画像から3次元形状モデルを作成する技術、3次元形状を計測する技術、及び複数の2次元画像を貼り合わせて2次元のパノラマ画像を合成する技術の開発が盛んに行われている。
【0003】
以下、従来の3次元形状モデルの作成方法について説明する。3次元形状モデルを作成する際、まず、撮像対象となるものをデジタルカメラ又は銀塩カメラを用いて複数の視点から撮像し、撮像して得られた複数の2次元画像をパーソナルコンピュータのような画像処理を行うことができる画像処理装置に読込む。銀塩カメラにより得られた2次元画像は、スキャナ装置等の光学式読取り装置によって予めデジタル化した後、画像処理装置に読込む。
【0004】
図12は撮像対象を撮像する際の配置を示す模式図であり、図13は撮像して得られた2次元画像間の関係を説明する模式図である。図中10P,10Qは、撮像対象物Tを撮像するためのデジタルカメラ、銀塩カメラ等の撮像装置である。撮像装置10P,10Qにより撮像された画像は、前述した方法により画像処理装置に読込まれる。図12に示した如く立方体と三角錐とからなる撮像対象物Tを撮像装置10P,10Qにより撮像した場合、撮像した視点により画像に現れる撮像対象物Tの形状の向きが異なる。例えば、撮像装置10Pにより撮像された画像100Pは撮像対象物Tの正面近傍から撮像されたものであり、撮像装置10Qにより撮像された画像100Qは、撮像対象物Tの斜め上方から撮像されたものである。
【0005】
このような画像(2次元画像)を用いて3次元形状モデルを作成する場合、まず、異なる2つの視点から撮像された2次元画像上で互いに対応する対応点を求め、求めた対応点から撮像対象物Tを撮像する際の撮像装置10P,10Qの位置及び姿勢を導き出す。次いで、導き出した撮像装置10P,10Qの位置及び姿勢に基づき、立体視の原理を利用して形状のモデリングを行う。
【0006】
このように3次元形状モデルを作成する場合には、2次元画像上で互いに対応する対応点を求める必要がある。従来では、まず、読込んだ画像から2値画像、明暗画像、エッジ画像等を生成して、2次元画像に写っている形状の輪郭を抽出し、その輪郭情報を元に形状の特徴的な点(特徴点)を求める。そして、各画像間で求めた特徴点間の対応付けを行い、対応点を求めることを行っていた(例えば、非特許文献1参照)。
【0007】
図13に示した例では、各2次元画像から立方体及び三角錐が持つ頂点を特徴点として抽出する。画像100Pからは、点P1 〜点P11を特徴点として抽出することが可能であり、画像100Qからは、点Q1 〜点Q11を特徴点として抽出することが可能である。そして、撮像した際の撮像装置10P,10Qの位置及び姿勢を求めるために、特徴点間の対応付けを行い、(P1 ,Q1 )、(P2 ,Q2 )、(P3 ,Q3 )、…のように互いに対応する特徴点(対応点)の組を求める。
【0008】
【非特許文献1】
井口征士,佐藤宏介共著,「三次元画像計測」,初版,株式会社昭晃堂,1990年11月20日,p120−p141
【0009】
【発明が解決しようとする課題】
撮像対象物Tの形状が立方体、三角錐のように頂点を有するものである場合、特徴点の抽出が比較的容易であるが、撮像対象の形状が、球状、円柱状、又はそれらの組合せからなる場合には、画像処理装置により自動的に特徴点を抽出することが困難であるため、必ずしも撮像装置10P,10Qの位置及び姿勢を求める際に必要な数の対応点の組を求めることが出来ない場合がある。
【0010】
また、対応点を求める際には、例えば、読込んだ2次元画像から2値画像、明暗画像等を生成して、2次元画像に含まれる形状から特徴点を抽出し、抽出した特徴点の対応付けを行う必要があり、対応点を求める際の計算時間が長くなる場合が生じていた。
【0011】
本発明は斯かる事情に鑑みてなされたものであり、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を読込まれた各画像から算出し、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求め、求めた対応点からの撮像した際の撮像装置の位置及び姿勢を算出する構成とすることにより、撮像対象に特徴点を見出せない場合であっても、照射した光の光像に基づき各画像間で対応する対応点を求めることができ、求めた対応点に基づいて撮像装置の位置及び姿勢を求めることができる画像処理方法、画像処理システム、及び画像処理装置を提供することを目的とする。
【0012】
本発明の他の目的は、スポット光を撮像対象に照射して撮像する構成とすることにより、撮像対象に特徴点を見出せない場合であっても、照射した光の光像に基づき各画像間で対応する対応点を求めることができ、求めた対応点に基づいて撮像装置の位置及び姿勢を求めることができる画像処理システムを提供することにある。
【0013】
本発明の更に他の目的は、各別に固有の色を有する複数のスポット光を撮像対象に照射して撮像する構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0014】
本発明の更に他の目的は、照射するスポット光毎の点灯及び消灯を制御する制御手段を更に備える構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0015】
本発明の更に他の目的は、計時手段により出力された時間に基づきスポット光毎の点灯及び消灯を制御する構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0016】
本発明の更に他の目的は、算出した撮像装置の位置及び姿勢に基づいて3次元画像を求める構成とすることにより、容易に3次元画像を求めることができる画像処理装置を提供することにある。
【0017】
本発明の更に他の目的は、算出した撮像装置の位置及び姿勢に基づいて合成画像を求める構成とすることにより、容易に合成画像を求めることができる画像処理装置を提供することにある。
【0018】
【課題を解決するための手段】
第1発明に係る画像処理方法は、撮像対象を撮像装置により撮像するステップと、撮像して得られた画像を画像処理装置に読込むステップと、該ステップにより読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を算出するステップとを有する画像処理方法において、前記撮像対象に光を照射するステップと、光を照射して撮像した複数の画像を読込むステップと、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出するステップと、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求めるステップと、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出するステップとを有することを特徴とする。
【0019】
第2発明に係る画像処理システムは、撮像対象を撮像する撮像装置と、該撮像装置により撮像して得られた画像を読込む手段、及び該手段により読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を求める手段を有する画像処理装置とを備える画像処理システムにおいて、前記撮像対象に光を照射する発光装置を備え、前記画像処理装置は、前記発光装置により光を照射して撮像した複数の画像を読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする。
【0020】
第3発明に係る画像処理システムは、第2発明に係る画像処理システムにおいて、前記発光装置は、1又は複数のスポット光を照射する手段を備えることを特徴とする。
【0021】
第4発明に係る画像処理システムは、第2発明に係る画像処理システムにおいて、前記発光装置は、各別に固有の色を有する複数のスポット光を照射する手段を備えることを特徴とする。
【0022】
第5発明に係る画像処理システムは、第3発明又は第4発明に係る画像処理システムにおいて、前記発光装置は、照射するスポット光毎の点灯及び消灯を制御する制御手段を更に備えることを特徴とする。
【0023】
第6発明に係る画像処理システムは、第5発明に係る画像処理システムにおいて、計時手段を更に備え、前記制御手段は前記計時手段が出力した時間に基づき制御すべくなしてあることを特徴とする。
【0024】
第7発明に係る画像処理装置は、撮像装置により撮像対象を撮像した画像を読込む読込手段と、該読込手段により読込まれた複数の画像に基づいて、撮像対象を撮像した際の撮像装置の位置及び姿勢を求める手段とを備える画像処理装置において、撮像対象に光を照射して撮像した複数の画像を前記読込手段により読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする。
【0025】
第8発明に係る画像処理装置は、第7発明に係る画像処理装置において、算出した撮像装置の位置及び姿勢に基づき、前記撮像対象の3次元画像を求める手段を更に備えることを特徴とする。
【0026】
第9発明に係る画像処理装置は、第7発明に係る画像処理装置において、算出した撮像装置の位置及び姿勢に基づき、前記画像から合成画像を生成する手段を更に備えることを特徴とする。
【0027】
第1発明、第2発明、及び第7発明にあっては、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を各画像から算出し、算出した光像の位置に基づき撮像した際の撮像装置の位置及び姿勢を求めるようにしている。したがって、撮像対象に特徴点を見出せない場合であっても、発光装置により照射した光の光像を特徴点の代わりとして利用することが可能であり、それらの特徴点に基づき各画像上で互いに対応する対応点を求めることが可能となる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0028】
第3発明にあっては、発光装置が複数のスポット光を照射する手段を備えているため、撮像対象に特徴点を見出せない場合であっても、照射したスポット光の光像を特徴点の代わりとして利用することが可能であり、この特徴点に基づき各画像間での対応点を算出することができる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0029】
第4発明にあっては、各別に固有の色を有する複数のスポット光を照射する手段を備えているため、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0030】
第5発明にあっては、照射するスポット光毎の点灯及び消灯を制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0031】
第6発明にあっては、照射するスポット光毎の点灯及び消灯を時間により制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0032】
第8発明にあっては、算出した撮像装置の位置及び姿勢に基づき、3次元画像を生成するようにしているため、各画像における対応点を利用した3次元画像の生成が容易となる。
【0033】
第9発明にあっては、算出した撮像装置の位置及び姿勢に基づき、合成画像を生成するようにしているため、各画像における対応点を利用した合成画像の生成が容易となる。
【0034】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
実施の形態1.
図1は本実施の形態に係る画像処理システムを説明するブロック図であり、図中10P,10Qは撮像対象物Tを撮像するための銀塩カメラ、デジタルカメラ等の撮像装置である。ここで撮像対象物Tには3次元の形状を有する物体の他、背景を含むものとする。撮像装置10P,10Qを用いて撮像対象物Tを撮像する際、発光装置20により撮像対象物Tに所定の光像が現れるように光を照射する。光を照射した後に撮像して得られた2次元画像は、パーソナルコンピュータのような画像処理機能を有する画像処理装置30に読込まれる。画像処理装置30では、読込まれた複数の2次元画像上に現れている光像の位置情報を求め、撮像対象物Tを撮像した際の撮像装置10P,10Qの位置及び姿勢を算出する。画像処理装置30は、更に、算出した撮像装置10P,10Qの位置及び姿勢に基づいて撮像対象物Tの3次元形状モデルを作成する。また、3次元形状を計測するようにしても良く、複数の2次元画像を貼り合わせた2次元のパノラマ画像を作成するようにしても良い。
【0035】
発光装置20は、8つの発光部L1 ,L2 ,…,L8 と該発光部L1 ,L2 ,…,L8 の点灯及び消灯を制御する制御部21とを備えている。各発光部L1 ,L2 ,…,L8 は、撮像対象物Tに点状の光像を形成できるようにレーザポインタのようなスポット光を照射する光源を備えていることが望ましい。本実施の形態では、発光部L1 ,L2 ,…,L8 の数を8つとしたが、これらの数は8つに限定されるものではないことは勿論である。
【0036】
制御部21は、例えば、各発光部L1 ,L2 ,…,L8 を点灯及び消灯させるためのボタンスイッチ(不図示)を有しており、人の手により各発光部L1 ,L2 ,…,L8 を点灯又は消灯することができるようになっている。
【0037】
画像処理装置30はCPU31を備えており、該CPU31にバス32を介してROM33、RAM34、入力部35、表示部36、画像入力部37、記憶部38等のハードウェアが接続されている。ROM33には各種制御プログラムが格納されており、CPU31が該制御プログラムを読込むことによって、前記ハードウェアを制御する。RAM34はSRAM又はフラッシュメモリ等で構成され、ROM33に格納された制御プログラムの実行時に発生するデータを記憶する。
【0038】
入力部35は、キーボード、マウス、タブレット等の入力装置からなり、画像処理をする際の指示を入力し、選択操作等を行う。表示部36は、CRT又は液晶表示装置等の表示装置からなり、画像処理を行った結果の画像等を表示する。
【0039】
画像入力部37は、光学式の画像読取り装置であるスキャナ装置、フィルムスキャナ等であって、撮像装置10P,10Qにより得られた銀塩写真、写真フィルム等を2次元の画像データに変換する。画像入力部37を用いて画像データを入力する代わりに、デジタルカメラで撮像された画像データを記録する可搬型メモリを利用し、該可搬型メモリの読取り装置を用いて画像データを入力する形態であっても良い。入力された画像データはハードディスク等の記憶部38に記憶される。
【0040】
図2は発光装置20の外観斜視図である。発光装置20は前述の制御部21を内蔵する直方体の筐体からなり、その一側面に8つの発光部L1 〜L8 を設けている。図2に示した如く、4つの発光部L1 〜L4 を適宜間隔を隔てて水平方向に配列しており、それらの4つの発光部L1 〜L4 の下側に他の4つの発光部L5 〜L8 を適宜間隔を隔てて水平方向に配列している。
【0041】
図2に示した如く整列させることにより、各発光部L1 ,L2 ,…,L8 の位置関係が容易に把握できるため、撮像対象物Tに形成された光像の位置関係も把握しやすくなる。その結果、複数の画像間の光像の対応関係を容易に見いだすことが可能となる。なお、各発光部L1 ,L2 ,…,L8 の光軸は必ずしも発光装置20の筐体に対して固定されている必要はなく、必要に応じて光軸の向きを変えることができるようにしてあっても良い。
【0042】
本実施の形態では、8つの発光部L1 〜L8 の構成を2段4列の配列構成としたが、必ずしもこのような配列に限定する必要はない。例えば、配列をランダムにして発光部L1 〜L8 を設置ことも可能である。この場合、画像処理を行う際に、2つの画像間にて対応関係がある光像を特定することが容易でないため、各発光部L1 ,L2 ,…,L8 が発する光の色を変えておくことが望ましい。撮像対象物Tに現れる光像の色を識別することで容易に対応関係が見出せるからである。出力する光の色を変える方法は主として2つある。一つは、発光色そのものの色を変更する方法であり、出力する光の周波数特性が異なる発光素子、レーザ等を利用することによって実現することができる。もう一つは、発光装置20から外部へ出力する直前でカラーフィルム等のフィルタを通すことによって変更する方法である。この場合、周波数特性が異なる発光素子、レーザ等を用意する必要がなくなるため、比較的安価に実現することが可能である。
【0043】
図3は、撮像装置10P,10Qにより得られた2つの画像の関係を説明する模式図である。球状の物体、円柱状の物体、及びそれらの背景を撮像対象物Tとして撮像した場合について説明する。発光装置20の8つの発光部L1 〜L8 から照射した光によって、球状の物体、円柱状の物体、及びその背景に光像が形成されるように発光装置20の位置及び光軸を調節する。そして、撮像した画像に発光部L1 〜L8 からの光による光像が含まれるように撮像装置10P,10Qを利用して撮像対象物Tを撮像する。
【0044】
例えば、図3の上段に示した如き画像100Pは撮像装置10Pにより撮像されたものであり、下段に示した如き画像100Qは撮像装置10Qにより撮像されたものである。画像100Pにおいて、各発光部L1 ,L2 ,…,L8 から発せられた光による光像は、夫々×印で示されている点P1 ,P2 ,…,P8 の位置に現れている。同様に、画像100Qにおいて、各発光部L1 ,L2 ,…,L8 から発せられた光による光像は、夫々×印で示されている点Q1 ,Q2 ,…,Q8 の位置に現れている。
【0045】
本実施の形態では、画像100Pに現れた点P1 〜P8 と、画像100Qに現れた点Q1 〜Q8 とを後述する手法により対応付けを行い、2つの画像100P,100Q間にて対応する点(対応点)の組合わせ(P1 ,Q1 ),(P2 ,Q2 ),…,(P8 ,Q8 )を求める。
【0046】
図4は撮像装置10P,10Qにより得られた2つの画像100P,100Q間の関係を説明する模式図である。図中Mは、撮像対象物T上に現れた光像の位置座標であり、撮像装置10P,10Qの位置によらない物体座標系によって表された3次元空間の座標である。また、前記光像の位置に対応した位置座標m,m’は、それぞれ画像100P,100Qに固定された2次元座標で表した座標であり、2つの画像100P,100Q間で対応する点となっている。
【0047】
3次元空間の位置座標Mと2次元画像の位置座標mとの関係は、射影行列Pを用いることによって、
【0048】
【数1】
【0049】
と表すことができ、射影行列Pは、
【0050】
【数2】
【0051】
と表すことができる。ここで、Aはカメラパラメータを要素とした内部行列、t及びRは両撮像装置10P,10Qの並進ベクトル及び回転行列を表している。なお、内部行列Aの要素であるカメラパラメータには、焦点距離、画素サイズ、画像の中心座標等のパラメータが含まれているが、近年のカメラ製造技術の進歩により、画像サイズ及び画像の中心座標を既知の量として取り扱うことが可能となってきており、カメラパラメータとして未知のパラメータは焦点距離のみとみなすことができる。
【0052】
また、射影幾何学により、2つの画像における対応点の位置座標m,m’間には、次式で表される関係式が成り立つことが知られている。
【0053】
【数3】
【0054】
ここで、Fは基礎行列であり、数式(3)は2つの画像100P,100Q間のエピポーラ拘束条件を示している。基礎行列Fは3×3の行列であり、特異値の一つがゼロであり、基礎行列Fのスケールが任意であるため、数式(3)は7つの拘束条件を与える。すなわち、2つの画像100P,100Q間で7組以上の対応点が存在する場合には、基礎行列Fを求めることが可能である。しかしながら、実際には、光像が有限の大きさを持つこと、撮像装置10P,10Qから得られた画像100P,100Qにノイズ等が含まれていること等を考慮した場合、必ずしも位置座標mと位置座標m’とが厳密な意味で対応しないことがある。そこで、7組より多くの対応点を利用して数式(3)による連立方程式を立て、最小2乗法により基礎行列Fを良好に求めることが望ましい。
【0055】
更に、基礎行列Fは、前述した内部行列A、並進ベクトルt、及び回転行列R、並びに基本行列E(=[t]x R)を用いて、以下のように表すことができる。
【0056】
【数4】
【0057】
すなわち、数式(3)を利用することによって、基礎行列Fを求めることができ、求めた基礎行列Fから基本行列Eを求めることができる。更に、基本行列Eから並進ベクトルt及び回転行列Rを求めることができる。
【0058】
並進ベクトルt及び回転行列Rが求まった場合、それらを用いて画像100P,100Q上の位置座標m,m’を物体座標系における位置座標Mに変換することができる。しかしながら、画像100P,100Qに含まれるノイズ等の影響により、変換後の位置座標は3次元空間で一致しないことが多い。言い換えると、物体座標系における位置座標Mを並進ベクトルt及び回転行列Rを用いて各画像100P,100Qに射影した場合、射影後の位置座標は前記位置座標m,m’からずれていることが多い。そのため、並進ベクトルt、及び回転行列Rの各要素のバンドル調整(最適化)を行うことが望ましい。具体的には以下のようにしてバンドル調整を行う。
【0059】
まず、物体座標系における3次元空間の位置座標Mi (i=1,2,…)を、並進ベクトルt及び回転行列Rを利用して各画像100P,100Qに射影し、夫々の画像100P,100Q上の位置座標mi ,mi ’を求める。そして、求めた位置座標mi (位置座標mi ’)と、撮像対象物Tに生じた光像に関して実測した位置座標との間で距離の2乗和に関する評価関数を設定し、設定した評価関数の値が最小になるように並進ベクトルt及び回転行列Rの各要素を定めるようにしている。
【0060】
このように、本実施の形態では、異なる2つの視点から撮像された画像100P,100Qを用いることによって、物体座標系における撮像装置10P,10Qの位置及び姿勢を、並進ベクトルt及び回転行列Rとして求めることができ、各撮像装置10P,10Qに固定したカメラ座標系と物体座標系との関係が求まる。
【0061】
図5は画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30のCPU31は、2つの画像100P,100Qを読込む(ステップS1)。読込む画像は、撮像装置10P,10Qにより撮像されて画像入力部37から入力された画像、又は予め撮像されて記憶部38に記憶された画像である。
【0062】
次いで、CPU31は、読込まれた2つの画像100P,100Qから特徴点の抽出を行う(ステップS2)。特徴点の抽出は、読込まれた画像100P,100Qから最大輝度値を有する画素を検出することによって行う。また、発光装置20の各発光部L1 〜L8 がそれぞれ異なる色の光を発するようにしている場合には、当該色の情報に基づいて発光装置20による光像を検出することも可能である。
【0063】
次いで、各画像100P,100Qにおいて抽出した特徴点間の対応付けを行う(ステップS3)。特徴点間の対応付けは、例えば、以下のようにして求めることができる。すなわち、各画像100P,100Qには有限個の特徴点が存在し、考えられる特徴点間の対応関係は有限の組合せに限定される。それらの組合せの中から一つの組合せを選択し、選択した組合せに含まれる複数組の特徴点に基づき、数式(3)を利用して基礎行列Fを求める。仮に適切な組合せを選択した場合には、互いに対応関係にある他の特徴点の位置座標を数式(3)に代入したときに1つの基礎行列Fを共有することができ、適切でない組合せを選択した場合には、基礎行列Fを共有できないことになる。このように、各組合せに含まれる複数の特徴点を利用して求めた基礎行列Fが、他の特徴点間でも共有できるか否かを調べることによって、特徴点間の対応付けが適切であるか否かを検討することができ、画像100P,100Q間における特徴点の対応付けを行うことが可能となる。
【0064】
次いで、求めた複数組の対応点に基づき、前述の手法を利用して撮像装置10P,10Qの位置及び姿勢を算出する(ステップS4)。すなわち、本実施の形態では、8組の対応点を各画像から求めることができ、その8組の対応点を利用して基礎行列Fを求めて、撮像装置10P,10Qの並進ベクトルt及び回転行列Rを求めることができる。
【0065】
次いで、算出した撮像装置10P,10Qの位置及び姿勢に基づいて、3次元画像の生成を行う(ステップS5)。ステップS4で撮像装置10P,10Qの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、画像上の位置座標を物体座標系における3次元空間の位置座標に変換することができ、3次元画像の再構成を行うことができる。
【0066】
尚、本実施の形態では、3次元画像を求める構成としたが、撮像装置10P,10Qの並進ベクトル及び回転行列Rを求めているため、撮像対象物T上の位置座標を求める3次元計測も可能であり、求めた位置座標により3次元のCADデータ(CAD : Computer Aided Design)を作成することも可能である。また、2つの画像100P,100Q間の幾何学的関係が求まっているため、一方の画像100P(又は100Q)を並進及び回転させて他方の画像100Q(100P)に合成する画像合成も可能である。
【0067】
本実施の形態では、発光装置20はレーザポインタのようなスポット光を照射できる発光部L1 〜L8 を備える形態としたが、必ずしも撮像対象物Tに点状の光像が形成される必要はなく、スリット状、グリッド状の光像が撮像対象物Tに形成されるような光を照射できる発光装置を利用しても良い。また、発光装置20の代わりに所定の光像が形成できるようなプロジェクタを利用することも可能である。
【0068】
また、本実施の形態では、2台の撮像装置10P,10Qを利用して異なる視点から撮像対象物Tを撮像する形態であったが、3台以上の撮像装置を利用してもよく、1台の撮像装置を用いて順次視点を変えて撮像する形態であってもよい。
【0069】
また、従来法により抽出した特徴点と、本発明による手法を用いて抽出した特徴点とを混在して利用する形態であってもよい。
【0070】
実施の形態2.
本実施の形態では、発光装置20の各発光部L1 ,L2 ,…,L8 を時間制御し、画像間の特徴点の対応付けを容易にした画像処理システムについて説明する。画像処理システム全体の概略構成は実施の形態1と同じである。図6に本実施の形態に係る画像処理システムで利用される発光装置20のブロック図を示す。発光装置20は、8つの発光部L1 ,L2 ,…,L8 を備えており、各発光部L1 ,L2 ,…,L8 は夫々スイッチ部SW1 ,SW2 ,…,SW8 を介して制御部21に接続されている。制御部21にはタイマ22が接続されており、タイマ22から出力される時間情報に基づいて、スイッチ部SW1 〜SW8 の開閉を制御する。例えば、スイッチ部SW1 が閉路した場合、発光部L1 が点灯し、スイッチ部SW1 が開路した場合、発光部L1 が消灯するようになしてあり、各発光部L1 ,…,L8 の点灯・消灯を各別に時間制御するようにしている。
【0071】
図7は、発光部L1 〜L8 の点灯タイミングと撮像装置10P,10Qによる撮像タイミングとを示すタイムチャートである。最上段のタイムチャートは、発光部L1 の点灯タイミングを表しており、所定時刻(t=t0 とする)から時間t1 が経過したとき、制御部21はスイッチ部SW1 を閉路し、発光部L1 を点灯させる。そして、所定時間(例えば5秒)が経過したとき、制御部21はスイッチ部SW1 を開路して、発光部L1 を消灯させる。次いで、時刻t=t0 から時間t2 が経過したとき、スイッチSW2 を閉路して、発光部L2 を点灯させ、更に所定時間が経過したときに発光部L2 を消灯させる。そして、発光部L3 〜L8 を順次、点灯及び消灯させる。
【0072】
一方、撮像装置10P,10Qは、発光部L1 〜L8 の何れかが点灯するタイミングで撮像対象物Tを撮像する。発光部L1 〜L8 が点灯するタイミングに同期させて自動的に撮像する形態であってもよく、また、人の手によりタイミングを計って撮像する形態であってもよい。
【0073】
図8は、本実施の形態に係る画像処理システムにより撮像された画像間の関係を説明する模式図である。図8(a)は、t=t1 のときに撮像された画像であり、左側の画像100Pは、撮像装置10Pにより撮像対象物Tを撮像したもの、右側の画像100Qは、撮像装置10Qにより前記撮像対象物Tを撮像したものである。図7のタイムチャートを用いて説明したように、t=t1 のときには発光部L1 のみを点灯させて両撮像装置10P,10Qにより撮像する構成であるため、発光部L1 から照射された光の光像のみがそれぞれ点P1 ,Q1 の位置に現れる。これらの光像の位置を示す点P1 ,Q1 は、撮像装置10P,10Qの位置及び姿勢を求める際の特徴点として採用することができ、それらの特徴点を対応点として対応付けることが容易となる。
【0074】
同様に、図8(b)に示した如くt=t2 では、発光部L2 のみを点灯させるため、発光部L2 から照射された光の光像のみがそれぞれ点P2 ,Q2 の位置に現れ、特徴点として採用することができる。以降t=t3 ,t4 ,…,t8 において撮像された画像100P,100Qから夫々の特徴点を抽出して対応付けを行うことができる。
【0075】
以上のように、本実施の形態では、撮像対象物Tの画像を2つの撮像装置10P,10Qにより撮像する際、複数の発光部L1 〜L8 を有する発光装置20において、各発光部L1 ,L2 ,…L8 の発光タイミングを時間制御するようにしている。したがって、撮像対象物Tに現れる光像が各画像につき1つに限定されるため、特徴点の抽出及び特徴点間の対応付けが容易となる。
【0076】
なお、各画像の特徴点の対応付けに基づく撮像装置10P,10Qの位置及び姿勢の算出手法、三次元画像の生成等は実施の形態1と同様に行うことができるため説明を省略する。
【0077】
実施の形態3.
実施の形態1及び実施の形態2では銀塩カメラ、デジタルカメラ等の静止画を撮像する撮像装置10P,10Qを用いて撮像対象物Tの2次元画像を取得する形態であったが、アナログビデオカメラ、デジタルビデオカメラ等の動画像を撮像するための撮像装置を利用することも可能である。
【0078】
図9は、本実施の形態に係る画像処理システムの構成を示すブロック図である。実施の形態1と同様に、画像処理システムは、2つの撮像装置50P,50Q、発光装置20、及び画像処理装置30を備えている。
【0079】
撮像装置50P,50Qは、アナログビデオカメラ、デジタルビデオカメラ等であり、撮像装置50P,50Qにより得られた映像は、撮像装置50P,50Qに接続された画像処理装置30へ送信される。
【0080】
発光装置20は、発光部L1 〜L8 の点灯及び消灯を制御する制御部21、該制御部21に接続されているタイマ22を備え、制御部21は、各発光部L1 ,L2 ,…,L8 に接続されているスイッチ部SW1 ,SW2 ,…,SW8 を開閉させることにより点灯及び消灯の制御を行う。また、制御部21には通信部23が接続されており、画像処理装置30から送信された制御信号を受信できるようになっている。制御部21では、受信した制御信号に基づき点灯すべきか、又は消灯すべきかの判断を行い、スイッチ部SW1 〜SW8 の開閉を制御する。
【0081】
画像処理装置30は、撮像装置50P,50Qから送られた映像フレームを受信するための第1通信部39a、及び発光装置20の通信部23へ接続されている第2通信部39bを備えている。第1通信部39aにて受信した映像フレームは、RAM34又は記憶部38に記憶されるようになっている。また、CPU31は、発光部L1 〜L8 を点灯及び消灯させるタイミングの情報を含んだ制御信号を生成し、第2通信部39bから送信するようにしている。
【0082】
画像処理装置30では、発光部L1 〜L8 により照射された光の光像が写っている映像フレームを解析し、前述した如く特徴点の抽出、各特徴点間の対応付けを行う。
【0083】
図10及び図11は、本実施の形態に係る画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30は、撮像装置50P,50Qからの映像フレームを第1通信部39aにより受付け、映像フレームの入力を開始する(ステップS11)。そして、カウンタをi=1にセットしたうえで(ステップS12)、図に示していないタイマをリセットする(ステップS13)。
【0084】
画像処理装置30のCPU31は、タイマが示す時間を参照することにより所定時間が経過したか否かを判断し(ステップS14)、所定時間が経過していない場合(S14:NO)、所定時間が経過するまで待機する。
【0085】
所定時間が経過した場合(S14:YES)、発光部Li を点灯及び消灯させるための制御信号を第2通信部39bを介して発光装置20へ送信する(ステップS15)。そして、発光部Li が点灯した時刻Ti をRAM34に記憶させる(ステップS16)。
【0086】
次いで、カウンタの値iが所定値n(例えば、n=8)に達したか否かを判断し(ステップS17)、所定値nに達していない場合(S17:NO)、カウンタの値iを1だけ増やし(ステップS18)、処理をS13へ戻す。
【0087】
カウンタの値iが所定値nに達した場合(S17:YES)、別のカウンタの値jを1にセットし(ステップS19)、撮像装置50P,50Qにより撮像された時刻Tj の映像フレームを検索して読込み(ステップS20)、画像処理装置30の記憶部38に一時的に記憶させる。
そして、画像処理装置30のCPU31は、ステップS20において読込まれた2つの映像フレームから夫々特徴点を抽出し(ステップS21)、それらの特徴点間の対応付けを行う(ステップS22)。ステップS12からステップS17において、タイミングをずらして各発光部L1 〜L8 を点灯及び消灯するように制御しているため、各映像フレームには、発光部Li (i=1〜8)からの光像が一つだけ現れる。したがって、その光像に基づき抽出した特徴点を利用して、映像フレーム間の対応付けを容易に行うことができる。
【0088】
次いで、CPU31は、カウンタの値jが所定値nに達したか否かを判断し(ステップS23)、所定値nに達していない場合(S23:NO)、カウンタの値jを1だけ増やした後(ステップS24)、処理をステップS20へ戻す。
【0089】
カウンタの値jが所定値に達した場合(S23:YES)、求めた複数組の対応点に基づき、前述した手法を利用して撮像装置10P,10Qの位置及び姿勢を算出する(ステップS25)。すなわち、本実施の形態では、8組の対応点を各映像フレームから求めることができ、その8組の対応点を利用して基礎行列Fを求めて、撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めることができる。
【0090】
次いで、算出した撮像装置50P,50Qの位置及び姿勢に基づいて、3次元画像の生成を行う(ステップS26)。ステップS25で撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、画像(映像フレーム)上の位置座標を物体座標系における3次元空間の位置座標に変換することができ、3次元画像の再構成を行うことができる。
尚、本実施の形態では、3次元画像を求める構成としたが、撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めているため、撮像対象物T上の位置座標を求める3次元計測も可能であり、求めた位置座標により3次元のCADデータを作成することも可能である。また、2つの画像間の幾何学的関係が求まっているため、一方の画像を並進及び回転させて他方の画像に合成する画像合成も可能である。
【0091】
このように本実施の形態では、動画像を撮像する撮像装置50P,50Qを利用しているため、発光装置20の各発光部L1 ,L2 ,…,L8 の発光タイミングに同期させて撮像する必要はないが、発光したタイミングに係る情報を通信部23から第2通信部39bへ送信するようにした場合、その情報を元に照射した光の光像が現れる映像フレームの検索を行うことができ、映像フレーム間の特徴点の対応付けが容易となる。
【0092】
【発明の効果】
以上、詳述したように、第1発明、第2発明、及び第7発明による場合は、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を各画像から算出し、算出した光像の位置に基づき撮像した際の撮像装置の位置及び姿勢を求めるようにしている。したがって、撮像対象に特徴点を見出せない場合であっても、発光装置により照射した光の光像を特徴点の代わりとして利用することが可能であり、それらの特徴点に基づき各画像上で互いに対応する対応点を求めることが可能となる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0093】
第3発明による場合は、発光装置が複数のスポット光を照射する手段を備えているため、撮像対象に特徴点を見出せない場合であっても、照射したスポット光の光像を特徴点の代わりとして利用することが可能であり、この特徴点に基づき各画像間での対応点を算出することができる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0094】
第4発明による場合は、各別に固有の色を有する複数のスポット光を照射する手段を備えているため、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0095】
第5発明による場合は、照射するスポット光毎の点灯及び消灯を制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0096】
第6発明による場合は、照射するスポット光毎の点灯及び消灯を時間により制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0097】
第8発明による場合は、算出した撮像装置の位置及び姿勢に基づき、3次元画像を生成するようにしているため、各画像における対応点を利用した3次元画像の生成が容易となる。
【0098】
第9発明による場合は、算出した撮像装置の位置及び姿勢に基づき、合成画像を生成するようにしているため、各画像における対応点を利用した合成画像の生成が容易となる等、本発明は優れた効果を奏する。
【図面の簡単な説明】
【図1】本実施の形態に係る画像処理システムを説明するブロック図である。
【図2】発光装置の外観斜視図である。
【図3】撮像装置により得られた2つの画像の関係を説明する模式図である。
【図4】撮像装置により得られた2つの画像間の関係を説明する模式図である。
【図5】画像処理装置の処理手順を説明するフローチャートである。
【図6】本実施の形態に係る画像処理システムで利用される発光装置のブロック図を示す。
【図7】発光部の点灯タイミングと撮像装置による撮像タイミングとを示すタイムチャートである。
【図8】本実施の形態に係る画像処理システムにより撮像された画像間の関係を説明する模式図である。
【図9】本実施の形態に係る画像処理システムの構成を示すブロック図である。
【図10】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図11】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図12】撮像対象を撮像する際の配置を示す模式図である。
【図13】撮像して得られた2次元画像間の関係を説明する模式図である。
【符号の説明】
10P,10Q 撮像装置
20 発光装置
21 制御部
22 タイマ
23 通信部
L1 〜L8 発光部
SW1 〜SW2 スイッチ部
30 画像処置装置
31 CPU
37 画像入力部
50P,50Q 撮像装置
T 撮像対象物
【発明の属する技術分野】
本発明は複数の画像間の対応関係を求める際の特徴点を人工的に作り出して画像処理を行う画像処理方法、画像処理システム、及び画像処理装置に関する。
【0002】
【従来の技術】
近年の画像処理技術の発達に伴い、複数の2次元画像から3次元形状モデルを作成する技術、3次元形状を計測する技術、及び複数の2次元画像を貼り合わせて2次元のパノラマ画像を合成する技術の開発が盛んに行われている。
【0003】
以下、従来の3次元形状モデルの作成方法について説明する。3次元形状モデルを作成する際、まず、撮像対象となるものをデジタルカメラ又は銀塩カメラを用いて複数の視点から撮像し、撮像して得られた複数の2次元画像をパーソナルコンピュータのような画像処理を行うことができる画像処理装置に読込む。銀塩カメラにより得られた2次元画像は、スキャナ装置等の光学式読取り装置によって予めデジタル化した後、画像処理装置に読込む。
【0004】
図12は撮像対象を撮像する際の配置を示す模式図であり、図13は撮像して得られた2次元画像間の関係を説明する模式図である。図中10P,10Qは、撮像対象物Tを撮像するためのデジタルカメラ、銀塩カメラ等の撮像装置である。撮像装置10P,10Qにより撮像された画像は、前述した方法により画像処理装置に読込まれる。図12に示した如く立方体と三角錐とからなる撮像対象物Tを撮像装置10P,10Qにより撮像した場合、撮像した視点により画像に現れる撮像対象物Tの形状の向きが異なる。例えば、撮像装置10Pにより撮像された画像100Pは撮像対象物Tの正面近傍から撮像されたものであり、撮像装置10Qにより撮像された画像100Qは、撮像対象物Tの斜め上方から撮像されたものである。
【0005】
このような画像(2次元画像)を用いて3次元形状モデルを作成する場合、まず、異なる2つの視点から撮像された2次元画像上で互いに対応する対応点を求め、求めた対応点から撮像対象物Tを撮像する際の撮像装置10P,10Qの位置及び姿勢を導き出す。次いで、導き出した撮像装置10P,10Qの位置及び姿勢に基づき、立体視の原理を利用して形状のモデリングを行う。
【0006】
このように3次元形状モデルを作成する場合には、2次元画像上で互いに対応する対応点を求める必要がある。従来では、まず、読込んだ画像から2値画像、明暗画像、エッジ画像等を生成して、2次元画像に写っている形状の輪郭を抽出し、その輪郭情報を元に形状の特徴的な点(特徴点)を求める。そして、各画像間で求めた特徴点間の対応付けを行い、対応点を求めることを行っていた(例えば、非特許文献1参照)。
【0007】
図13に示した例では、各2次元画像から立方体及び三角錐が持つ頂点を特徴点として抽出する。画像100Pからは、点P1 〜点P11を特徴点として抽出することが可能であり、画像100Qからは、点Q1 〜点Q11を特徴点として抽出することが可能である。そして、撮像した際の撮像装置10P,10Qの位置及び姿勢を求めるために、特徴点間の対応付けを行い、(P1 ,Q1 )、(P2 ,Q2 )、(P3 ,Q3 )、…のように互いに対応する特徴点(対応点)の組を求める。
【0008】
【非特許文献1】
井口征士,佐藤宏介共著,「三次元画像計測」,初版,株式会社昭晃堂,1990年11月20日,p120−p141
【0009】
【発明が解決しようとする課題】
撮像対象物Tの形状が立方体、三角錐のように頂点を有するものである場合、特徴点の抽出が比較的容易であるが、撮像対象の形状が、球状、円柱状、又はそれらの組合せからなる場合には、画像処理装置により自動的に特徴点を抽出することが困難であるため、必ずしも撮像装置10P,10Qの位置及び姿勢を求める際に必要な数の対応点の組を求めることが出来ない場合がある。
【0010】
また、対応点を求める際には、例えば、読込んだ2次元画像から2値画像、明暗画像等を生成して、2次元画像に含まれる形状から特徴点を抽出し、抽出した特徴点の対応付けを行う必要があり、対応点を求める際の計算時間が長くなる場合が生じていた。
【0011】
本発明は斯かる事情に鑑みてなされたものであり、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を読込まれた各画像から算出し、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求め、求めた対応点からの撮像した際の撮像装置の位置及び姿勢を算出する構成とすることにより、撮像対象に特徴点を見出せない場合であっても、照射した光の光像に基づき各画像間で対応する対応点を求めることができ、求めた対応点に基づいて撮像装置の位置及び姿勢を求めることができる画像処理方法、画像処理システム、及び画像処理装置を提供することを目的とする。
【0012】
本発明の他の目的は、スポット光を撮像対象に照射して撮像する構成とすることにより、撮像対象に特徴点を見出せない場合であっても、照射した光の光像に基づき各画像間で対応する対応点を求めることができ、求めた対応点に基づいて撮像装置の位置及び姿勢を求めることができる画像処理システムを提供することにある。
【0013】
本発明の更に他の目的は、各別に固有の色を有する複数のスポット光を撮像対象に照射して撮像する構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0014】
本発明の更に他の目的は、照射するスポット光毎の点灯及び消灯を制御する制御手段を更に備える構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0015】
本発明の更に他の目的は、計時手段により出力された時間に基づきスポット光毎の点灯及び消灯を制御する構成とすることにより、複数の画像に夫々現れるスポット光の光像の位置を容易に対応付けることができる画像処理システムを提供することにある。
【0016】
本発明の更に他の目的は、算出した撮像装置の位置及び姿勢に基づいて3次元画像を求める構成とすることにより、容易に3次元画像を求めることができる画像処理装置を提供することにある。
【0017】
本発明の更に他の目的は、算出した撮像装置の位置及び姿勢に基づいて合成画像を求める構成とすることにより、容易に合成画像を求めることができる画像処理装置を提供することにある。
【0018】
【課題を解決するための手段】
第1発明に係る画像処理方法は、撮像対象を撮像装置により撮像するステップと、撮像して得られた画像を画像処理装置に読込むステップと、該ステップにより読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を算出するステップとを有する画像処理方法において、前記撮像対象に光を照射するステップと、光を照射して撮像した複数の画像を読込むステップと、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出するステップと、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求めるステップと、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出するステップとを有することを特徴とする。
【0019】
第2発明に係る画像処理システムは、撮像対象を撮像する撮像装置と、該撮像装置により撮像して得られた画像を読込む手段、及び該手段により読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を求める手段を有する画像処理装置とを備える画像処理システムにおいて、前記撮像対象に光を照射する発光装置を備え、前記画像処理装置は、前記発光装置により光を照射して撮像した複数の画像を読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする。
【0020】
第3発明に係る画像処理システムは、第2発明に係る画像処理システムにおいて、前記発光装置は、1又は複数のスポット光を照射する手段を備えることを特徴とする。
【0021】
第4発明に係る画像処理システムは、第2発明に係る画像処理システムにおいて、前記発光装置は、各別に固有の色を有する複数のスポット光を照射する手段を備えることを特徴とする。
【0022】
第5発明に係る画像処理システムは、第3発明又は第4発明に係る画像処理システムにおいて、前記発光装置は、照射するスポット光毎の点灯及び消灯を制御する制御手段を更に備えることを特徴とする。
【0023】
第6発明に係る画像処理システムは、第5発明に係る画像処理システムにおいて、計時手段を更に備え、前記制御手段は前記計時手段が出力した時間に基づき制御すべくなしてあることを特徴とする。
【0024】
第7発明に係る画像処理装置は、撮像装置により撮像対象を撮像した画像を読込む読込手段と、該読込手段により読込まれた複数の画像に基づいて、撮像対象を撮像した際の撮像装置の位置及び姿勢を求める手段とを備える画像処理装置において、撮像対象に光を照射して撮像した複数の画像を前記読込手段により読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする。
【0025】
第8発明に係る画像処理装置は、第7発明に係る画像処理装置において、算出した撮像装置の位置及び姿勢に基づき、前記撮像対象の3次元画像を求める手段を更に備えることを特徴とする。
【0026】
第9発明に係る画像処理装置は、第7発明に係る画像処理装置において、算出した撮像装置の位置及び姿勢に基づき、前記画像から合成画像を生成する手段を更に備えることを特徴とする。
【0027】
第1発明、第2発明、及び第7発明にあっては、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を各画像から算出し、算出した光像の位置に基づき撮像した際の撮像装置の位置及び姿勢を求めるようにしている。したがって、撮像対象に特徴点を見出せない場合であっても、発光装置により照射した光の光像を特徴点の代わりとして利用することが可能であり、それらの特徴点に基づき各画像上で互いに対応する対応点を求めることが可能となる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0028】
第3発明にあっては、発光装置が複数のスポット光を照射する手段を備えているため、撮像対象に特徴点を見出せない場合であっても、照射したスポット光の光像を特徴点の代わりとして利用することが可能であり、この特徴点に基づき各画像間での対応点を算出することができる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0029】
第4発明にあっては、各別に固有の色を有する複数のスポット光を照射する手段を備えているため、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0030】
第5発明にあっては、照射するスポット光毎の点灯及び消灯を制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0031】
第6発明にあっては、照射するスポット光毎の点灯及び消灯を時間により制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0032】
第8発明にあっては、算出した撮像装置の位置及び姿勢に基づき、3次元画像を生成するようにしているため、各画像における対応点を利用した3次元画像の生成が容易となる。
【0033】
第9発明にあっては、算出した撮像装置の位置及び姿勢に基づき、合成画像を生成するようにしているため、各画像における対応点を利用した合成画像の生成が容易となる。
【0034】
【発明の実施の形態】
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
実施の形態1.
図1は本実施の形態に係る画像処理システムを説明するブロック図であり、図中10P,10Qは撮像対象物Tを撮像するための銀塩カメラ、デジタルカメラ等の撮像装置である。ここで撮像対象物Tには3次元の形状を有する物体の他、背景を含むものとする。撮像装置10P,10Qを用いて撮像対象物Tを撮像する際、発光装置20により撮像対象物Tに所定の光像が現れるように光を照射する。光を照射した後に撮像して得られた2次元画像は、パーソナルコンピュータのような画像処理機能を有する画像処理装置30に読込まれる。画像処理装置30では、読込まれた複数の2次元画像上に現れている光像の位置情報を求め、撮像対象物Tを撮像した際の撮像装置10P,10Qの位置及び姿勢を算出する。画像処理装置30は、更に、算出した撮像装置10P,10Qの位置及び姿勢に基づいて撮像対象物Tの3次元形状モデルを作成する。また、3次元形状を計測するようにしても良く、複数の2次元画像を貼り合わせた2次元のパノラマ画像を作成するようにしても良い。
【0035】
発光装置20は、8つの発光部L1 ,L2 ,…,L8 と該発光部L1 ,L2 ,…,L8 の点灯及び消灯を制御する制御部21とを備えている。各発光部L1 ,L2 ,…,L8 は、撮像対象物Tに点状の光像を形成できるようにレーザポインタのようなスポット光を照射する光源を備えていることが望ましい。本実施の形態では、発光部L1 ,L2 ,…,L8 の数を8つとしたが、これらの数は8つに限定されるものではないことは勿論である。
【0036】
制御部21は、例えば、各発光部L1 ,L2 ,…,L8 を点灯及び消灯させるためのボタンスイッチ(不図示)を有しており、人の手により各発光部L1 ,L2 ,…,L8 を点灯又は消灯することができるようになっている。
【0037】
画像処理装置30はCPU31を備えており、該CPU31にバス32を介してROM33、RAM34、入力部35、表示部36、画像入力部37、記憶部38等のハードウェアが接続されている。ROM33には各種制御プログラムが格納されており、CPU31が該制御プログラムを読込むことによって、前記ハードウェアを制御する。RAM34はSRAM又はフラッシュメモリ等で構成され、ROM33に格納された制御プログラムの実行時に発生するデータを記憶する。
【0038】
入力部35は、キーボード、マウス、タブレット等の入力装置からなり、画像処理をする際の指示を入力し、選択操作等を行う。表示部36は、CRT又は液晶表示装置等の表示装置からなり、画像処理を行った結果の画像等を表示する。
【0039】
画像入力部37は、光学式の画像読取り装置であるスキャナ装置、フィルムスキャナ等であって、撮像装置10P,10Qにより得られた銀塩写真、写真フィルム等を2次元の画像データに変換する。画像入力部37を用いて画像データを入力する代わりに、デジタルカメラで撮像された画像データを記録する可搬型メモリを利用し、該可搬型メモリの読取り装置を用いて画像データを入力する形態であっても良い。入力された画像データはハードディスク等の記憶部38に記憶される。
【0040】
図2は発光装置20の外観斜視図である。発光装置20は前述の制御部21を内蔵する直方体の筐体からなり、その一側面に8つの発光部L1 〜L8 を設けている。図2に示した如く、4つの発光部L1 〜L4 を適宜間隔を隔てて水平方向に配列しており、それらの4つの発光部L1 〜L4 の下側に他の4つの発光部L5 〜L8 を適宜間隔を隔てて水平方向に配列している。
【0041】
図2に示した如く整列させることにより、各発光部L1 ,L2 ,…,L8 の位置関係が容易に把握できるため、撮像対象物Tに形成された光像の位置関係も把握しやすくなる。その結果、複数の画像間の光像の対応関係を容易に見いだすことが可能となる。なお、各発光部L1 ,L2 ,…,L8 の光軸は必ずしも発光装置20の筐体に対して固定されている必要はなく、必要に応じて光軸の向きを変えることができるようにしてあっても良い。
【0042】
本実施の形態では、8つの発光部L1 〜L8 の構成を2段4列の配列構成としたが、必ずしもこのような配列に限定する必要はない。例えば、配列をランダムにして発光部L1 〜L8 を設置ことも可能である。この場合、画像処理を行う際に、2つの画像間にて対応関係がある光像を特定することが容易でないため、各発光部L1 ,L2 ,…,L8 が発する光の色を変えておくことが望ましい。撮像対象物Tに現れる光像の色を識別することで容易に対応関係が見出せるからである。出力する光の色を変える方法は主として2つある。一つは、発光色そのものの色を変更する方法であり、出力する光の周波数特性が異なる発光素子、レーザ等を利用することによって実現することができる。もう一つは、発光装置20から外部へ出力する直前でカラーフィルム等のフィルタを通すことによって変更する方法である。この場合、周波数特性が異なる発光素子、レーザ等を用意する必要がなくなるため、比較的安価に実現することが可能である。
【0043】
図3は、撮像装置10P,10Qにより得られた2つの画像の関係を説明する模式図である。球状の物体、円柱状の物体、及びそれらの背景を撮像対象物Tとして撮像した場合について説明する。発光装置20の8つの発光部L1 〜L8 から照射した光によって、球状の物体、円柱状の物体、及びその背景に光像が形成されるように発光装置20の位置及び光軸を調節する。そして、撮像した画像に発光部L1 〜L8 からの光による光像が含まれるように撮像装置10P,10Qを利用して撮像対象物Tを撮像する。
【0044】
例えば、図3の上段に示した如き画像100Pは撮像装置10Pにより撮像されたものであり、下段に示した如き画像100Qは撮像装置10Qにより撮像されたものである。画像100Pにおいて、各発光部L1 ,L2 ,…,L8 から発せられた光による光像は、夫々×印で示されている点P1 ,P2 ,…,P8 の位置に現れている。同様に、画像100Qにおいて、各発光部L1 ,L2 ,…,L8 から発せられた光による光像は、夫々×印で示されている点Q1 ,Q2 ,…,Q8 の位置に現れている。
【0045】
本実施の形態では、画像100Pに現れた点P1 〜P8 と、画像100Qに現れた点Q1 〜Q8 とを後述する手法により対応付けを行い、2つの画像100P,100Q間にて対応する点(対応点)の組合わせ(P1 ,Q1 ),(P2 ,Q2 ),…,(P8 ,Q8 )を求める。
【0046】
図4は撮像装置10P,10Qにより得られた2つの画像100P,100Q間の関係を説明する模式図である。図中Mは、撮像対象物T上に現れた光像の位置座標であり、撮像装置10P,10Qの位置によらない物体座標系によって表された3次元空間の座標である。また、前記光像の位置に対応した位置座標m,m’は、それぞれ画像100P,100Qに固定された2次元座標で表した座標であり、2つの画像100P,100Q間で対応する点となっている。
【0047】
3次元空間の位置座標Mと2次元画像の位置座標mとの関係は、射影行列Pを用いることによって、
【0048】
【数1】
【0049】
と表すことができ、射影行列Pは、
【0050】
【数2】
【0051】
と表すことができる。ここで、Aはカメラパラメータを要素とした内部行列、t及びRは両撮像装置10P,10Qの並進ベクトル及び回転行列を表している。なお、内部行列Aの要素であるカメラパラメータには、焦点距離、画素サイズ、画像の中心座標等のパラメータが含まれているが、近年のカメラ製造技術の進歩により、画像サイズ及び画像の中心座標を既知の量として取り扱うことが可能となってきており、カメラパラメータとして未知のパラメータは焦点距離のみとみなすことができる。
【0052】
また、射影幾何学により、2つの画像における対応点の位置座標m,m’間には、次式で表される関係式が成り立つことが知られている。
【0053】
【数3】
【0054】
ここで、Fは基礎行列であり、数式(3)は2つの画像100P,100Q間のエピポーラ拘束条件を示している。基礎行列Fは3×3の行列であり、特異値の一つがゼロであり、基礎行列Fのスケールが任意であるため、数式(3)は7つの拘束条件を与える。すなわち、2つの画像100P,100Q間で7組以上の対応点が存在する場合には、基礎行列Fを求めることが可能である。しかしながら、実際には、光像が有限の大きさを持つこと、撮像装置10P,10Qから得られた画像100P,100Qにノイズ等が含まれていること等を考慮した場合、必ずしも位置座標mと位置座標m’とが厳密な意味で対応しないことがある。そこで、7組より多くの対応点を利用して数式(3)による連立方程式を立て、最小2乗法により基礎行列Fを良好に求めることが望ましい。
【0055】
更に、基礎行列Fは、前述した内部行列A、並進ベクトルt、及び回転行列R、並びに基本行列E(=[t]x R)を用いて、以下のように表すことができる。
【0056】
【数4】
【0057】
すなわち、数式(3)を利用することによって、基礎行列Fを求めることができ、求めた基礎行列Fから基本行列Eを求めることができる。更に、基本行列Eから並進ベクトルt及び回転行列Rを求めることができる。
【0058】
並進ベクトルt及び回転行列Rが求まった場合、それらを用いて画像100P,100Q上の位置座標m,m’を物体座標系における位置座標Mに変換することができる。しかしながら、画像100P,100Qに含まれるノイズ等の影響により、変換後の位置座標は3次元空間で一致しないことが多い。言い換えると、物体座標系における位置座標Mを並進ベクトルt及び回転行列Rを用いて各画像100P,100Qに射影した場合、射影後の位置座標は前記位置座標m,m’からずれていることが多い。そのため、並進ベクトルt、及び回転行列Rの各要素のバンドル調整(最適化)を行うことが望ましい。具体的には以下のようにしてバンドル調整を行う。
【0059】
まず、物体座標系における3次元空間の位置座標Mi (i=1,2,…)を、並進ベクトルt及び回転行列Rを利用して各画像100P,100Qに射影し、夫々の画像100P,100Q上の位置座標mi ,mi ’を求める。そして、求めた位置座標mi (位置座標mi ’)と、撮像対象物Tに生じた光像に関して実測した位置座標との間で距離の2乗和に関する評価関数を設定し、設定した評価関数の値が最小になるように並進ベクトルt及び回転行列Rの各要素を定めるようにしている。
【0060】
このように、本実施の形態では、異なる2つの視点から撮像された画像100P,100Qを用いることによって、物体座標系における撮像装置10P,10Qの位置及び姿勢を、並進ベクトルt及び回転行列Rとして求めることができ、各撮像装置10P,10Qに固定したカメラ座標系と物体座標系との関係が求まる。
【0061】
図5は画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30のCPU31は、2つの画像100P,100Qを読込む(ステップS1)。読込む画像は、撮像装置10P,10Qにより撮像されて画像入力部37から入力された画像、又は予め撮像されて記憶部38に記憶された画像である。
【0062】
次いで、CPU31は、読込まれた2つの画像100P,100Qから特徴点の抽出を行う(ステップS2)。特徴点の抽出は、読込まれた画像100P,100Qから最大輝度値を有する画素を検出することによって行う。また、発光装置20の各発光部L1 〜L8 がそれぞれ異なる色の光を発するようにしている場合には、当該色の情報に基づいて発光装置20による光像を検出することも可能である。
【0063】
次いで、各画像100P,100Qにおいて抽出した特徴点間の対応付けを行う(ステップS3)。特徴点間の対応付けは、例えば、以下のようにして求めることができる。すなわち、各画像100P,100Qには有限個の特徴点が存在し、考えられる特徴点間の対応関係は有限の組合せに限定される。それらの組合せの中から一つの組合せを選択し、選択した組合せに含まれる複数組の特徴点に基づき、数式(3)を利用して基礎行列Fを求める。仮に適切な組合せを選択した場合には、互いに対応関係にある他の特徴点の位置座標を数式(3)に代入したときに1つの基礎行列Fを共有することができ、適切でない組合せを選択した場合には、基礎行列Fを共有できないことになる。このように、各組合せに含まれる複数の特徴点を利用して求めた基礎行列Fが、他の特徴点間でも共有できるか否かを調べることによって、特徴点間の対応付けが適切であるか否かを検討することができ、画像100P,100Q間における特徴点の対応付けを行うことが可能となる。
【0064】
次いで、求めた複数組の対応点に基づき、前述の手法を利用して撮像装置10P,10Qの位置及び姿勢を算出する(ステップS4)。すなわち、本実施の形態では、8組の対応点を各画像から求めることができ、その8組の対応点を利用して基礎行列Fを求めて、撮像装置10P,10Qの並進ベクトルt及び回転行列Rを求めることができる。
【0065】
次いで、算出した撮像装置10P,10Qの位置及び姿勢に基づいて、3次元画像の生成を行う(ステップS5)。ステップS4で撮像装置10P,10Qの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、画像上の位置座標を物体座標系における3次元空間の位置座標に変換することができ、3次元画像の再構成を行うことができる。
【0066】
尚、本実施の形態では、3次元画像を求める構成としたが、撮像装置10P,10Qの並進ベクトル及び回転行列Rを求めているため、撮像対象物T上の位置座標を求める3次元計測も可能であり、求めた位置座標により3次元のCADデータ(CAD : Computer Aided Design)を作成することも可能である。また、2つの画像100P,100Q間の幾何学的関係が求まっているため、一方の画像100P(又は100Q)を並進及び回転させて他方の画像100Q(100P)に合成する画像合成も可能である。
【0067】
本実施の形態では、発光装置20はレーザポインタのようなスポット光を照射できる発光部L1 〜L8 を備える形態としたが、必ずしも撮像対象物Tに点状の光像が形成される必要はなく、スリット状、グリッド状の光像が撮像対象物Tに形成されるような光を照射できる発光装置を利用しても良い。また、発光装置20の代わりに所定の光像が形成できるようなプロジェクタを利用することも可能である。
【0068】
また、本実施の形態では、2台の撮像装置10P,10Qを利用して異なる視点から撮像対象物Tを撮像する形態であったが、3台以上の撮像装置を利用してもよく、1台の撮像装置を用いて順次視点を変えて撮像する形態であってもよい。
【0069】
また、従来法により抽出した特徴点と、本発明による手法を用いて抽出した特徴点とを混在して利用する形態であってもよい。
【0070】
実施の形態2.
本実施の形態では、発光装置20の各発光部L1 ,L2 ,…,L8 を時間制御し、画像間の特徴点の対応付けを容易にした画像処理システムについて説明する。画像処理システム全体の概略構成は実施の形態1と同じである。図6に本実施の形態に係る画像処理システムで利用される発光装置20のブロック図を示す。発光装置20は、8つの発光部L1 ,L2 ,…,L8 を備えており、各発光部L1 ,L2 ,…,L8 は夫々スイッチ部SW1 ,SW2 ,…,SW8 を介して制御部21に接続されている。制御部21にはタイマ22が接続されており、タイマ22から出力される時間情報に基づいて、スイッチ部SW1 〜SW8 の開閉を制御する。例えば、スイッチ部SW1 が閉路した場合、発光部L1 が点灯し、スイッチ部SW1 が開路した場合、発光部L1 が消灯するようになしてあり、各発光部L1 ,…,L8 の点灯・消灯を各別に時間制御するようにしている。
【0071】
図7は、発光部L1 〜L8 の点灯タイミングと撮像装置10P,10Qによる撮像タイミングとを示すタイムチャートである。最上段のタイムチャートは、発光部L1 の点灯タイミングを表しており、所定時刻(t=t0 とする)から時間t1 が経過したとき、制御部21はスイッチ部SW1 を閉路し、発光部L1 を点灯させる。そして、所定時間(例えば5秒)が経過したとき、制御部21はスイッチ部SW1 を開路して、発光部L1 を消灯させる。次いで、時刻t=t0 から時間t2 が経過したとき、スイッチSW2 を閉路して、発光部L2 を点灯させ、更に所定時間が経過したときに発光部L2 を消灯させる。そして、発光部L3 〜L8 を順次、点灯及び消灯させる。
【0072】
一方、撮像装置10P,10Qは、発光部L1 〜L8 の何れかが点灯するタイミングで撮像対象物Tを撮像する。発光部L1 〜L8 が点灯するタイミングに同期させて自動的に撮像する形態であってもよく、また、人の手によりタイミングを計って撮像する形態であってもよい。
【0073】
図8は、本実施の形態に係る画像処理システムにより撮像された画像間の関係を説明する模式図である。図8(a)は、t=t1 のときに撮像された画像であり、左側の画像100Pは、撮像装置10Pにより撮像対象物Tを撮像したもの、右側の画像100Qは、撮像装置10Qにより前記撮像対象物Tを撮像したものである。図7のタイムチャートを用いて説明したように、t=t1 のときには発光部L1 のみを点灯させて両撮像装置10P,10Qにより撮像する構成であるため、発光部L1 から照射された光の光像のみがそれぞれ点P1 ,Q1 の位置に現れる。これらの光像の位置を示す点P1 ,Q1 は、撮像装置10P,10Qの位置及び姿勢を求める際の特徴点として採用することができ、それらの特徴点を対応点として対応付けることが容易となる。
【0074】
同様に、図8(b)に示した如くt=t2 では、発光部L2 のみを点灯させるため、発光部L2 から照射された光の光像のみがそれぞれ点P2 ,Q2 の位置に現れ、特徴点として採用することができる。以降t=t3 ,t4 ,…,t8 において撮像された画像100P,100Qから夫々の特徴点を抽出して対応付けを行うことができる。
【0075】
以上のように、本実施の形態では、撮像対象物Tの画像を2つの撮像装置10P,10Qにより撮像する際、複数の発光部L1 〜L8 を有する発光装置20において、各発光部L1 ,L2 ,…L8 の発光タイミングを時間制御するようにしている。したがって、撮像対象物Tに現れる光像が各画像につき1つに限定されるため、特徴点の抽出及び特徴点間の対応付けが容易となる。
【0076】
なお、各画像の特徴点の対応付けに基づく撮像装置10P,10Qの位置及び姿勢の算出手法、三次元画像の生成等は実施の形態1と同様に行うことができるため説明を省略する。
【0077】
実施の形態3.
実施の形態1及び実施の形態2では銀塩カメラ、デジタルカメラ等の静止画を撮像する撮像装置10P,10Qを用いて撮像対象物Tの2次元画像を取得する形態であったが、アナログビデオカメラ、デジタルビデオカメラ等の動画像を撮像するための撮像装置を利用することも可能である。
【0078】
図9は、本実施の形態に係る画像処理システムの構成を示すブロック図である。実施の形態1と同様に、画像処理システムは、2つの撮像装置50P,50Q、発光装置20、及び画像処理装置30を備えている。
【0079】
撮像装置50P,50Qは、アナログビデオカメラ、デジタルビデオカメラ等であり、撮像装置50P,50Qにより得られた映像は、撮像装置50P,50Qに接続された画像処理装置30へ送信される。
【0080】
発光装置20は、発光部L1 〜L8 の点灯及び消灯を制御する制御部21、該制御部21に接続されているタイマ22を備え、制御部21は、各発光部L1 ,L2 ,…,L8 に接続されているスイッチ部SW1 ,SW2 ,…,SW8 を開閉させることにより点灯及び消灯の制御を行う。また、制御部21には通信部23が接続されており、画像処理装置30から送信された制御信号を受信できるようになっている。制御部21では、受信した制御信号に基づき点灯すべきか、又は消灯すべきかの判断を行い、スイッチ部SW1 〜SW8 の開閉を制御する。
【0081】
画像処理装置30は、撮像装置50P,50Qから送られた映像フレームを受信するための第1通信部39a、及び発光装置20の通信部23へ接続されている第2通信部39bを備えている。第1通信部39aにて受信した映像フレームは、RAM34又は記憶部38に記憶されるようになっている。また、CPU31は、発光部L1 〜L8 を点灯及び消灯させるタイミングの情報を含んだ制御信号を生成し、第2通信部39bから送信するようにしている。
【0082】
画像処理装置30では、発光部L1 〜L8 により照射された光の光像が写っている映像フレームを解析し、前述した如く特徴点の抽出、各特徴点間の対応付けを行う。
【0083】
図10及び図11は、本実施の形態に係る画像処理装置30の処理手順を説明するフローチャートである。まず、画像処理装置30は、撮像装置50P,50Qからの映像フレームを第1通信部39aにより受付け、映像フレームの入力を開始する(ステップS11)。そして、カウンタをi=1にセットしたうえで(ステップS12)、図に示していないタイマをリセットする(ステップS13)。
【0084】
画像処理装置30のCPU31は、タイマが示す時間を参照することにより所定時間が経過したか否かを判断し(ステップS14)、所定時間が経過していない場合(S14:NO)、所定時間が経過するまで待機する。
【0085】
所定時間が経過した場合(S14:YES)、発光部Li を点灯及び消灯させるための制御信号を第2通信部39bを介して発光装置20へ送信する(ステップS15)。そして、発光部Li が点灯した時刻Ti をRAM34に記憶させる(ステップS16)。
【0086】
次いで、カウンタの値iが所定値n(例えば、n=8)に達したか否かを判断し(ステップS17)、所定値nに達していない場合(S17:NO)、カウンタの値iを1だけ増やし(ステップS18)、処理をS13へ戻す。
【0087】
カウンタの値iが所定値nに達した場合(S17:YES)、別のカウンタの値jを1にセットし(ステップS19)、撮像装置50P,50Qにより撮像された時刻Tj の映像フレームを検索して読込み(ステップS20)、画像処理装置30の記憶部38に一時的に記憶させる。
そして、画像処理装置30のCPU31は、ステップS20において読込まれた2つの映像フレームから夫々特徴点を抽出し(ステップS21)、それらの特徴点間の対応付けを行う(ステップS22)。ステップS12からステップS17において、タイミングをずらして各発光部L1 〜L8 を点灯及び消灯するように制御しているため、各映像フレームには、発光部Li (i=1〜8)からの光像が一つだけ現れる。したがって、その光像に基づき抽出した特徴点を利用して、映像フレーム間の対応付けを容易に行うことができる。
【0088】
次いで、CPU31は、カウンタの値jが所定値nに達したか否かを判断し(ステップS23)、所定値nに達していない場合(S23:NO)、カウンタの値jを1だけ増やした後(ステップS24)、処理をステップS20へ戻す。
【0089】
カウンタの値jが所定値に達した場合(S23:YES)、求めた複数組の対応点に基づき、前述した手法を利用して撮像装置10P,10Qの位置及び姿勢を算出する(ステップS25)。すなわち、本実施の形態では、8組の対応点を各映像フレームから求めることができ、その8組の対応点を利用して基礎行列Fを求めて、撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めることができる。
【0090】
次いで、算出した撮像装置50P,50Qの位置及び姿勢に基づいて、3次元画像の生成を行う(ステップS26)。ステップS25で撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めているため、数式(1)及び数式(2)を用いることによって、画像(映像フレーム)上の位置座標を物体座標系における3次元空間の位置座標に変換することができ、3次元画像の再構成を行うことができる。
尚、本実施の形態では、3次元画像を求める構成としたが、撮像装置50P,50Qの並進ベクトルt及び回転行列Rを求めているため、撮像対象物T上の位置座標を求める3次元計測も可能であり、求めた位置座標により3次元のCADデータを作成することも可能である。また、2つの画像間の幾何学的関係が求まっているため、一方の画像を並進及び回転させて他方の画像に合成する画像合成も可能である。
【0091】
このように本実施の形態では、動画像を撮像する撮像装置50P,50Qを利用しているため、発光装置20の各発光部L1 ,L2 ,…,L8 の発光タイミングに同期させて撮像する必要はないが、発光したタイミングに係る情報を通信部23から第2通信部39bへ送信するようにした場合、その情報を元に照射した光の光像が現れる映像フレームの検索を行うことができ、映像フレーム間の特徴点の対応付けが容易となる。
【0092】
【発明の効果】
以上、詳述したように、第1発明、第2発明、及び第7発明による場合は、撮像対象に光を照射して撮像した複数の画像を読込み、照射した光により撮像対象に生じた光像の位置を各画像から算出し、算出した光像の位置に基づき撮像した際の撮像装置の位置及び姿勢を求めるようにしている。したがって、撮像対象に特徴点を見出せない場合であっても、発光装置により照射した光の光像を特徴点の代わりとして利用することが可能であり、それらの特徴点に基づき各画像上で互いに対応する対応点を求めることが可能となる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0093】
第3発明による場合は、発光装置が複数のスポット光を照射する手段を備えているため、撮像対象に特徴点を見出せない場合であっても、照射したスポット光の光像を特徴点の代わりとして利用することが可能であり、この特徴点に基づき各画像間での対応点を算出することができる。また、特徴点を抽出する際、2値画像、明暗画像等を生成する処理を省くことができ、計算時間を短縮することができる。
【0094】
第4発明による場合は、各別に固有の色を有する複数のスポット光を照射する手段を備えているため、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0095】
第5発明による場合は、照射するスポット光毎の点灯及び消灯を制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0096】
第6発明による場合は、照射するスポット光毎の点灯及び消灯を時間により制御する手段を備えている。したがって、スポット光を照射した場合の画像とスポット光を照射しない場合の画像とを比較することによって、各画像上に現れる特徴点間の対応付けが容易となり、対応点を算出する際の時間を短縮することが可能となる。
【0097】
第8発明による場合は、算出した撮像装置の位置及び姿勢に基づき、3次元画像を生成するようにしているため、各画像における対応点を利用した3次元画像の生成が容易となる。
【0098】
第9発明による場合は、算出した撮像装置の位置及び姿勢に基づき、合成画像を生成するようにしているため、各画像における対応点を利用した合成画像の生成が容易となる等、本発明は優れた効果を奏する。
【図面の簡単な説明】
【図1】本実施の形態に係る画像処理システムを説明するブロック図である。
【図2】発光装置の外観斜視図である。
【図3】撮像装置により得られた2つの画像の関係を説明する模式図である。
【図4】撮像装置により得られた2つの画像間の関係を説明する模式図である。
【図5】画像処理装置の処理手順を説明するフローチャートである。
【図6】本実施の形態に係る画像処理システムで利用される発光装置のブロック図を示す。
【図7】発光部の点灯タイミングと撮像装置による撮像タイミングとを示すタイムチャートである。
【図8】本実施の形態に係る画像処理システムにより撮像された画像間の関係を説明する模式図である。
【図9】本実施の形態に係る画像処理システムの構成を示すブロック図である。
【図10】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図11】本実施の形態に係る画像処理装置の処理手順を説明するフローチャートである。
【図12】撮像対象を撮像する際の配置を示す模式図である。
【図13】撮像して得られた2次元画像間の関係を説明する模式図である。
【符号の説明】
10P,10Q 撮像装置
20 発光装置
21 制御部
22 タイマ
23 通信部
L1 〜L8 発光部
SW1 〜SW2 スイッチ部
30 画像処置装置
31 CPU
37 画像入力部
50P,50Q 撮像装置
T 撮像対象物
Claims (9)
- 撮像対象を撮像装置により撮像するステップと、撮像して得られた画像を画像処理装置に読込むステップと、該ステップにより読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を算出するステップとを有する画像処理方法において、
前記撮像対象に光を照射するステップと、光を照射して撮像した複数の画像を読込むステップと、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出するステップと、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求めるステップと、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出するステップとを有することを特徴とする画像処理方法。 - 撮像対象を撮像する撮像装置と、該撮像装置により撮像して得られた画像を読込む手段、及び該手段により読込まれた複数の画像に基づいて、前記撮像対象を撮像した際の前記撮像装置の位置及び姿勢を求める手段を有する画像処理装置とを備える画像処理システムにおいて、
前記撮像対象に光を照射する発光装置を備え、前記画像処理装置は、前記発光装置により光を照射して撮像した複数の画像を読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、前記撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする画像処理システム。 - 前記発光装置は、1又は複数のスポット光を照射する手段を備えることを特徴とする請求項2に記載の画像処理システム。
- 前記発光装置は、各別に固有の色を有する複数のスポット光を照射する手段を備えることを特徴とする請求項2に記載の画像処理システム。
- 前記発光装置は、照射するスポット光毎の点灯及び消灯を制御する制御手段を更に備えることを特徴とする請求項3又は請求項4に記載の画像処理システム。
- 計時手段を更に備え、前記制御手段は前記計時手段が出力した時間に基づき制御すべくなしてあることを特徴とする請求項5に記載の画像処理システム。
- 撮像装置により撮像対象を撮像した画像を読込む読込手段と、該読込手段により読込まれた複数の画像に基づいて、撮像対象を撮像した際の撮像装置の位置及び姿勢を求める手段とを備える画像処理装置において、
撮像対象に光を照射して撮像した複数の画像を前記読込手段により読込むべくなしてあり、照射した光により前記撮像対象に生じた光像の位置情報を読込まれた各画像から算出する手段と、算出した光像の位置情報に基づき各画像上で互いに対応する対応点を求める手段とを備え、求めた対応点に基づき、撮像装置の位置及び姿勢を算出すべくなしてあることを特徴とする画像処理装置。 - 算出した撮像装置の位置及び姿勢に基づき、前記撮像対象の3次元画像を求める手段を更に備えることを特徴とする請求項7に記載の画像処理装置。
- 算出した撮像装置の位置及び姿勢に基づき、前記画像から合成画像を生成する手段を更に備えることを特徴とする請求項7に記載の画像処理装置。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002289178A JP2004046772A (ja) | 2002-05-13 | 2002-10-01 | 画像処理方法、画像処理システム、及び画像処理装置 |
US10/340,647 US20030210407A1 (en) | 2002-05-13 | 2003-01-13 | Image processing method, image processing system and image processing apparatus |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002137673 | 2002-05-13 | ||
JP2002289178A JP2004046772A (ja) | 2002-05-13 | 2002-10-01 | 画像処理方法、画像処理システム、及び画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004046772A true JP2004046772A (ja) | 2004-02-12 |
Family
ID=29405335
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002289178A Pending JP2004046772A (ja) | 2002-05-13 | 2002-10-01 | 画像処理方法、画像処理システム、及び画像処理装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US20030210407A1 (ja) |
JP (1) | JP2004046772A (ja) |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006098255A (ja) * | 2004-09-30 | 2006-04-13 | Ricoh Co Ltd | 撮影方法、撮影システム、複合装置、3次元形状復元方法、プログラム及び情報記録媒体 |
JP2006098256A (ja) * | 2004-09-30 | 2006-04-13 | Ricoh Co Ltd | 3次元サーフェスモデル作成システム、画像処理システム、プログラム及び情報記録媒体 |
JP2006138735A (ja) * | 2004-11-12 | 2006-06-01 | Central Res Inst Of Electric Power Ind | カメラアングル変化の検出方法および装置およびプログラム並びにこれを利用した画像処理方法および設備監視方法および測量方法およびステレオカメラの設定方法 |
KR100633797B1 (ko) | 2004-07-07 | 2006-10-16 | 최종주 | 물체 표면 외곽단면과 입체 형상의 측정장치 및 방법 |
JP2007219765A (ja) * | 2006-02-15 | 2007-08-30 | Toyota Motor Corp | 画像処理装置、その方法、および画像処理用プログラム |
KR101155816B1 (ko) * | 2005-06-17 | 2012-06-12 | 오므론 가부시키가이샤 | 3차원 계측을 행하는 화상 처리 장치 및 화상 처리 방법 |
JP2013187860A (ja) * | 2012-03-09 | 2013-09-19 | Ricoh Co Ltd | 画像合成装置及びプログラム |
JP2014112798A (ja) * | 2012-12-05 | 2014-06-19 | Secom Co Ltd | カメラシステム |
JP2016003930A (ja) * | 2014-06-16 | 2016-01-12 | 日本電信電話株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP2016223935A (ja) * | 2015-06-01 | 2016-12-28 | 株式会社Nttファシリティーズ | 画像処理システム、画像処理方法及びプログラム |
JP6132221B1 (ja) * | 2016-10-12 | 2017-05-24 | 国際航業株式会社 | 画像取得方法、及び画像取得装置 |
JP2021503603A (ja) * | 2017-11-17 | 2021-02-12 | トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング | 少なくとも1つの物体の位置を決定するための検出器 |
KR20220150132A (ko) * | 2021-05-03 | 2022-11-10 | (주)이레에프에이 | 캘리브레이션의 기준점을 획득하는 카메라 제어 장치 및 방법 |
Families Citing this family (40)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20020163573A1 (en) * | 2001-04-11 | 2002-11-07 | Bieman Leonard H. | Imaging system |
US20060033906A1 (en) * | 2002-11-15 | 2006-02-16 | Fuji Photo Film Co., Ltd. | Exposure device |
US7519907B2 (en) * | 2003-08-04 | 2009-04-14 | Microsoft Corp. | System and method for image editing using an image stack |
US20050254032A1 (en) * | 2003-11-13 | 2005-11-17 | Fuji Photo Film Co., Ltd. | Exposure device |
US7555331B2 (en) * | 2004-08-26 | 2009-06-30 | Stereotaxis, Inc. | Method for surgical navigation utilizing scale-invariant registration between a navigation system and a localization system |
WO2008054496A2 (en) * | 2006-04-05 | 2008-05-08 | California Institute Of Technology | 3- dimensional imaging by acoustic warping and defocusing |
DE102006036671A1 (de) | 2006-08-03 | 2008-02-07 | Dürr Assembly Products GmbH | Verfahren zur Bestimmung der Achsgeometrie eines Fahrzeugs |
US8089635B2 (en) | 2007-01-22 | 2012-01-03 | California Institute Of Technology | Method and system for fast three-dimensional imaging using defocusing and feature recognition |
WO2008091691A1 (en) | 2007-01-22 | 2008-07-31 | California Institute Of Technology | Method and apparatus for quantitative 3-d imaging |
WO2008133960A1 (en) * | 2007-04-23 | 2008-11-06 | California Institute Of Technology | An aperture system with spatially-biased aperture shapes for 3-d defocusing-based imaging |
JP2010044180A (ja) * | 2008-08-12 | 2010-02-25 | Victor Co Of Japan Ltd | 液晶表示装置及びこれに用いる映像信号処理方法 |
EP2428932A1 (en) | 2008-08-27 | 2012-03-14 | California Institute of Technology | Method and device for high-resolution three-dimensional imaging which obtains camera pose using defocusing |
US20100061593A1 (en) * | 2008-09-05 | 2010-03-11 | Macdonald Willard S | Extrapolation system for solar access determination |
US8773507B2 (en) | 2009-08-11 | 2014-07-08 | California Institute Of Technology | Defocusing feature matching system to measure camera pose with interchangeable lens cameras |
WO2011031538A2 (en) * | 2009-08-27 | 2011-03-17 | California Institute Of Technology | Accurate 3d object reconstruction using a handheld device with a projected light pattern |
DE102010013498B4 (de) * | 2010-03-31 | 2016-06-02 | Siemens Aktiengesellschaft | Verfahren zum Ermitteln von dreidimensionalen Volumendaten, Bildgebungsvorrichtung und Datenträger |
US9229106B2 (en) | 2010-08-13 | 2016-01-05 | Ryan Dotson | Enhancement of range measurement resolution using imagery |
CN107103622B (zh) | 2010-09-03 | 2021-08-03 | 加州理工学院 | 三维成像系统 |
JP5158223B2 (ja) * | 2011-04-06 | 2013-03-06 | カシオ計算機株式会社 | 三次元モデリング装置、三次元モデリング方法、ならびに、プログラム |
CN102269572A (zh) * | 2011-04-26 | 2011-12-07 | 中国科学院上海光学精密机械研究所 | 光盘翘曲测试装置和测试方法 |
CN102538672B (zh) * | 2011-12-16 | 2015-05-20 | 中北大学 | 一种基于cmos机器视觉零件尺寸测量系统及测量检验方法 |
US10046700B2 (en) * | 2012-05-22 | 2018-08-14 | Mitsubishi Electric Corporation | Image processing device |
KR20140075163A (ko) * | 2012-12-11 | 2014-06-19 | 한국전자통신연구원 | 구조광 방식을 활용한 패턴 프로젝팅 방법 및 장치 |
US9644942B2 (en) * | 2012-11-29 | 2017-05-09 | Mitsubishi Hitachi Power Systems, Ltd. | Method and apparatus for laser projection, and machining method |
CN103471509A (zh) * | 2013-03-25 | 2013-12-25 | 深圳信息职业技术学院 | 一种应用于贴片机的图像分析测试方法及系统 |
CN103383730A (zh) * | 2013-06-03 | 2013-11-06 | 上海索广映像有限公司 | 一种bnc端子自动检测机及其工作方法 |
CN103383239A (zh) * | 2013-06-03 | 2013-11-06 | 上海索广映像有限公司 | 一种bnc端子图像识别装置及识别方法 |
US9254682B2 (en) * | 2013-10-28 | 2016-02-09 | Eastman Kodak Company | Imaging module with aligned imaging systems |
US9189711B2 (en) * | 2013-10-28 | 2015-11-17 | Eastman Kodak Company | Method for aligning imaging systems |
CN103673923B (zh) * | 2013-12-25 | 2017-02-15 | 裘钧 | 基于数字图像处理的曲线纤维网络结构形貌特征测量方法 |
CN104132612B (zh) * | 2014-07-01 | 2017-01-04 | 西安电子科技大学 | 一种丝杠尺寸参数检测方法与设备 |
CN104316530A (zh) * | 2014-11-04 | 2015-01-28 | 无锡港湾网络科技有限公司 | 一种零部件检测方法及应用 |
CN105300316B (zh) * | 2015-09-22 | 2017-10-13 | 大连理工大学 | 基于灰度重心法的光条中心快速提取方法 |
CN105092608B (zh) * | 2015-09-24 | 2017-11-03 | 哈尔滨工业大学 | 终端光学元件损伤在线检测中孪生像的剔除方法 |
WO2017132165A1 (en) | 2016-01-25 | 2017-08-03 | California Institute Of Technology | Non-invasive measurement of intraocular pressure |
WO2017149850A1 (ja) * | 2016-02-29 | 2017-09-08 | 富士フイルム株式会社 | 情報処理装置、情報処理方法、及びプログラム |
CN106066153A (zh) * | 2016-05-25 | 2016-11-02 | 武汉理工大学 | 一种检测仓储货物尺寸和重量的装置 |
US10388027B2 (en) * | 2016-06-01 | 2019-08-20 | Kyocera Corporation | Detection method, display apparatus, and detection system |
CN106767399B (zh) * | 2016-11-11 | 2018-11-09 | 大连理工大学 | 基于双目立体视觉和点激光测距的物流货物体积的非接触测量方法 |
JP6713015B2 (ja) * | 2018-04-13 | 2020-06-24 | 株式会社大気社 | 自動研磨システム |
-
2002
- 2002-10-01 JP JP2002289178A patent/JP2004046772A/ja active Pending
-
2003
- 2003-01-13 US US10/340,647 patent/US20030210407A1/en not_active Abandoned
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100633797B1 (ko) | 2004-07-07 | 2006-10-16 | 최종주 | 물체 표면 외곽단면과 입체 형상의 측정장치 및 방법 |
JP2006098256A (ja) * | 2004-09-30 | 2006-04-13 | Ricoh Co Ltd | 3次元サーフェスモデル作成システム、画像処理システム、プログラム及び情報記録媒体 |
JP2006098255A (ja) * | 2004-09-30 | 2006-04-13 | Ricoh Co Ltd | 撮影方法、撮影システム、複合装置、3次元形状復元方法、プログラム及び情報記録媒体 |
JP4680558B2 (ja) * | 2004-09-30 | 2011-05-11 | 株式会社リコー | 撮影及び3次元形状復元方法、並びに撮影及び3次元形状復元システム |
JP2006138735A (ja) * | 2004-11-12 | 2006-06-01 | Central Res Inst Of Electric Power Ind | カメラアングル変化の検出方法および装置およびプログラム並びにこれを利用した画像処理方法および設備監視方法および測量方法およびステレオカメラの設定方法 |
KR101155816B1 (ko) * | 2005-06-17 | 2012-06-12 | 오므론 가부시키가이샤 | 3차원 계측을 행하는 화상 처리 장치 및 화상 처리 방법 |
US8233041B2 (en) | 2005-06-17 | 2012-07-31 | Omron Corporation | Image processing device and image processing method for performing three dimensional measurements |
JP2007219765A (ja) * | 2006-02-15 | 2007-08-30 | Toyota Motor Corp | 画像処理装置、その方法、および画像処理用プログラム |
JP4715539B2 (ja) * | 2006-02-15 | 2011-07-06 | トヨタ自動車株式会社 | 画像処理装置、その方法、および画像処理用プログラム |
JP2013187860A (ja) * | 2012-03-09 | 2013-09-19 | Ricoh Co Ltd | 画像合成装置及びプログラム |
JP2014112798A (ja) * | 2012-12-05 | 2014-06-19 | Secom Co Ltd | カメラシステム |
JP2016003930A (ja) * | 2014-06-16 | 2016-01-12 | 日本電信電話株式会社 | 画像処理装置、画像処理方法および画像処理プログラム |
JP2016223935A (ja) * | 2015-06-01 | 2016-12-28 | 株式会社Nttファシリティーズ | 画像処理システム、画像処理方法及びプログラム |
JP6132221B1 (ja) * | 2016-10-12 | 2017-05-24 | 国際航業株式会社 | 画像取得方法、及び画像取得装置 |
JP2018063162A (ja) * | 2016-10-12 | 2018-04-19 | 国際航業株式会社 | 画像取得方法、及び画像取得装置 |
JP2021503603A (ja) * | 2017-11-17 | 2021-02-12 | トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング | 少なくとも1つの物体の位置を決定するための検出器 |
JP7254799B2 (ja) | 2017-11-17 | 2023-04-10 | トリナミクス ゲゼルシャフト ミット ベシュレンクテル ハフツング | 少なくとも1つの物体の位置を決定するための検出器 |
KR20220150132A (ko) * | 2021-05-03 | 2022-11-10 | (주)이레에프에이 | 캘리브레이션의 기준점을 획득하는 카메라 제어 장치 및 방법 |
KR102535300B1 (ko) * | 2021-05-03 | 2023-05-26 | (주)이레에프에이 | 캘리브레이션의 기준점을 획득하는 카메라 제어 장치 및 방법 |
Also Published As
Publication number | Publication date |
---|---|
US20030210407A1 (en) | 2003-11-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2004046772A (ja) | 画像処理方法、画像処理システム、及び画像処理装置 | |
CN111060023B (zh) | 一种高精度3d信息采集的设备及方法 | |
EP2620915B1 (en) | Three-dimensional scan recovery | |
JP6429772B2 (ja) | 3d走査および位置決めシステム | |
US7742635B2 (en) | Artifact mitigation in three-dimensional imaging | |
US6930685B1 (en) | Image processing method and apparatus | |
JP5921271B2 (ja) | 物体測定装置、及び物体測定方法 | |
US20120242795A1 (en) | Digital 3d camera using periodic illumination | |
US20030202120A1 (en) | Virtual lighting system | |
JP2009515493A (ja) | カメラ動きの決定 | |
CN105190229B (zh) | 三维形状计测装置、三维形状计测方法及三维形状计测程序 | |
US11182945B2 (en) | Automatically generating an animatable object from various types of user input | |
JP7241933B2 (ja) | 画像レジストレーション方法及びそれに関係するモデルトレーニング方法、デバイス、装置 | |
CN111292239A (zh) | 一种三维模型拼接设备及方法 | |
JP6541920B1 (ja) | 情報処理装置、プログラム及び情報処理方法 | |
JP2012185772A (ja) | 非固定ズームカメラを用いた自由視点映像の合成画質高精度化方法およびプログラム | |
JP2023511670A (ja) | 多視点カメラシステムからのデータを用いるなどで深度センサからの深度データを増強する方法及びシステム | |
CN111028341A (zh) | 一种三维模型生成方法 | |
JP2003202216A (ja) | 三次元画像処理方法、三次元画像処理装置、三次元画像処理システムおよび三次元画像処理プログラム | |
CN111340959B (zh) | 一种基于直方图匹配的三维模型无缝纹理贴图方法 | |
US11645800B2 (en) | Advanced systems and methods for automatically generating an animatable object from various types of user input | |
Bartczak et al. | Integration of a time-of-flight camera into a mixed reality system for handling dynamic scenes, moving viewpoints and occlusions in real-time | |
JP2005063041A (ja) | 3次元モデリング装置、方法、及びプログラム | |
JP5506371B2 (ja) | 画像処理装置、画像処理方法およびプログラム | |
JP2005031044A (ja) | 三次元誤差測定装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050331 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20050412 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20050809 |