JP2004342067A - 画像処理方法、画像処理装置、及びコンピュータプログラム - Google Patents
画像処理方法、画像処理装置、及びコンピュータプログラム Download PDFInfo
- Publication number
- JP2004342067A JP2004342067A JP2003305384A JP2003305384A JP2004342067A JP 2004342067 A JP2004342067 A JP 2004342067A JP 2003305384 A JP2003305384 A JP 2003305384A JP 2003305384 A JP2003305384 A JP 2003305384A JP 2004342067 A JP2004342067 A JP 2004342067A
- Authority
- JP
- Japan
- Prior art keywords
- image
- images
- captured
- image processing
- corrected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000004590 computer program Methods 0.000 title claims abstract description 18
- 238000003672 processing method Methods 0.000 title claims abstract description 10
- 239000011159 matrix material Substances 0.000 claims abstract description 47
- 230000009466 transformation Effects 0.000 claims abstract description 47
- 239000002131 composite material Substances 0.000 claims abstract description 12
- 238000012545 processing Methods 0.000 claims description 131
- 238000003384 imaging method Methods 0.000 claims description 102
- 238000000034 method Methods 0.000 claims description 35
- 230000015572 biosynthetic process Effects 0.000 claims description 19
- 238000003786 synthesis reaction Methods 0.000 claims description 19
- 238000013519 translation Methods 0.000 claims description 19
- 230000002194 synthesizing effect Effects 0.000 claims description 14
- 238000010586 diagram Methods 0.000 description 18
- 238000012935 Averaging Methods 0.000 description 8
- 238000011156 evaluation Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 7
- 238000006243 chemical reaction Methods 0.000 description 5
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 239000003550 marker Substances 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000007812 deficiency Effects 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 238000010422 painting Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000012937 correction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000002184 metal Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000000123 paper Substances 0.000 description 1
- 229920003002 synthetic resin Polymers 0.000 description 1
- 239000000057 synthetic resin Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
- 239000002023 wood Substances 0.000 description 1
Images
Abstract
【課題】 複数の撮像画像を合成して一の合成画像を生成する画像処理方法、画像処理装置、及びコンピュータプログラムの提供。
【解決手段】 所定のパターンが形成されたシート上に対象物を載置し、撮像画像が重なる領域を有するように撮像して得られた複数の撮像画像を画像処理装置内に読込む(S1)。そして、撮像装置の校正を行った上で(S2)、各撮像画像上の特徴点とパターン上の特徴点の対応付けを行い(S3)、射影変換行列の各要素の初期値を算出する(S4)。そして、変換先の位置座標に関する評価関数を設定した後(S5)、設定した評価関数に基づいて、射影変換行列の各要素の最適化を行い(S6)、各撮像画像に対して正面画像の生成処理を行って(S7)、生成した正面画像を用いて合成画像の生成処理を行う(S9)。
【選択図】 図5
【解決手段】 所定のパターンが形成されたシート上に対象物を載置し、撮像画像が重なる領域を有するように撮像して得られた複数の撮像画像を画像処理装置内に読込む(S1)。そして、撮像装置の校正を行った上で(S2)、各撮像画像上の特徴点とパターン上の特徴点の対応付けを行い(S3)、射影変換行列の各要素の初期値を算出する(S4)。そして、変換先の位置座標に関する評価関数を設定した後(S5)、設定した評価関数に基づいて、射影変換行列の各要素の最適化を行い(S6)、各撮像画像に対して正面画像の生成処理を行って(S7)、生成した正面画像を用いて合成画像の生成処理を行う(S9)。
【選択図】 図5
Description
本発明は、互いに重なる領域を有する複数の撮像画像から一の画像を合成する画像処理方法、画像処理装置、及び該画像処理装置を実現するためのコンピュータプログラムに関する。
近年、デジタルカメラの普及に伴い、複数の撮像画像を貼り合わせて視野が広く、解像度が高い画像を作成する手法が提案されている。例えば、2次元剛体変換、アフィン変換のような幾何変換を2枚の撮像画像間について算出し、算出した幾何変換を利用して2枚の撮像画像を貼り合わせた合成画像を作成する。3枚以上の撮像画像がある場合も同様であり、まず、隣り合う2枚の撮像画像間について幾何変換を求めて画像合成を施し、その後、合成された画像と該画像に貼り合わせるべき撮像画像との間の幾何変換を求めて画像合成を行う。そして、合成された画像と該画像に貼り合わせる撮像画像との間の幾何変換を求めて、順次的に画像合成を行う(例えば、特許文献1参照)。
特開2000−155831号公報
しかしながら、撮像対象が一方向に長い場合、前述の剛体変換、アフィン変換を用いた手法では必ずしも精度良く撮像画像を合成することができない。この原因は撮像環境にあり、撮影対象が撮像装置から十分に遠い場合、又は非常に焦点距離が長い望遠レンズで撮像した場合、撮像して得られた画像は平行投影と仮定することができるため、問題を簡略化することができるが、実際には有限の距離から撮像したものであるため一般に透視投影歪を含んだ画像となる。このとき、透視投影歪が厳密に考慮されていない剛体変換、アフィン変換等の幾何変換を用いて画像合成を行っても、良好な合成画像を得ることができない。
そこで、透視投影歪を考慮した手法として平面射影変換が提案されている。平面射影変換により画像変換して画像合成を行う場合も前述と同様に、まず、合成すべき2枚の撮像画像間について平面射影変換を求めて画像合成を行う。次いで、合成された画像と次に貼り合わせるべき撮像画像との間の平面射影変換を求めて、画像合成を行う。そして、合成された画像と該画像に貼り合わせるべき撮像画像との間の平面射影変換を求めて、順次的に画像合成を行う。
しかしながら、平面射影変換を用いた手法では、剛体変換、アフィン変換等の幾何変換で除去されない透視投影歪を除去することができるものの、合成した画像はある視点から広角レンズで撮像したような画像となる。すなわち、最初に合成した画像の歪みは少ないが、当該画像からの距離が大きくなるに従って、画像の歪みが大きくなるという問題点を有していた。
本発明は斯かる事情に鑑みてなされたものであり、撮像対象が有する特徴点の位置情報を予め記憶しておき、前記特徴点の位置情報と該特徴点に対応する撮像画像上の対応点の位置情報との間に成立つ関係を求め、求めた関係に基づいて各撮像画像の歪みを補正した補正画像を生成し、生成した各補正画像を前記特徴点に基づいて合成する構成とすることにより、多数の撮像画像を合成する場合であっても精度良く合成することが可能な画像処理方法、画像処理装置、及び該画像処理装置を実現するためのコンピュータプログラムを提供することを目的とする。
第1発明に係る画像処理方法は、互いに重なる領域を有すべく撮像して得られた複数の特徴点を有する撮像対象の撮像画像を画像処理装置に複数取込み、取込んだ撮像画像上の特徴点に基づいて前記撮像画像を互いに重なる領域にて合成する画像処理方法において、前記撮像対象が有する特徴点の位置情報を予め記憶しておき、前記特徴点に対応する各撮像画像上の対応点の位置情報を受付け、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づいて各撮像画像の歪みを補正した補正画像を生成し、生成した各補正画像を前記特徴点に基づいて合成することを特徴とする。
第1発明にあっては、撮像対象が有する特徴点と各撮像画像上で前記特徴点に対応する対応点との間の対応付けを行い、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づき各撮像画像から歪みを除去した補正画像を生成し、生成した補正画像を互いに重なる領域にて合成するようにしているため、多数の撮像画像を合成する際に歪みの拡大が防止され、画像合成の精度が向上する。
第2発明に係る画像処理方法は、第1発明に係る画像処理方法において、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係は、射影変換行列で表した関係であることを特徴とする。
第2発明にあっては、撮像対象の特徴点の位置情報と対応点の位置情報との間に成立つ関係として射影変換行列を求めるようにしている。したがって、撮像対象を撮像する際の撮像装置の位置及び姿勢のずれに伴う歪みが撮像画像に生じている場合であっても、各撮像画像上の点を求めた射影変換行列によって変換することによって歪みが除去される。また、歪みを除去して得られた補正画像を利用して画像合成を行うため、多数の画像を合成する場合でも精度が高くなる。
第3発明に係る画像処理装置は、撮像装置により互いに重なる領域を有すべく撮像して得られた複数の特徴点を有する撮像対象の撮像画像を複数取込み、取込んだ撮像画像上の特徴点に基づいて各撮像画像を互いに重なる領域にて合成して一の合成画像を生成する画像処理装置において、前記撮像対象が有する特徴点の位置情報を予め記憶する手段と、前記特徴点に対応する各撮像画像上の対応点の位置情報を受付ける手段と、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求める手段と、求めた関係に基づいて各撮像画像の歪みを補正した補正画像を生成する手段と、生成した各補正画像を前記特徴点に基づいて合成する合成手段とを備えることを特徴とする。
第3発明にあっては、撮像対象が有する特徴点と各撮像画像上で前記特徴点に対応する対応点との間の対応付けを行い、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づき各撮像画像から歪みを除去した補正画像を生成し、生成した補正画像を互いに重なる領域にて合成するようにしているため、多数の撮像画像を合成する際に歪みの拡大が防止され、画像合成の精度が向上する。
第4発明に係る画像処理装置は、第3発明に係る画像処理装置において、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係は、射影変換行列で表した関係であることを特徴とする。
第4発明にあっては、撮像対象の特徴点の位置情報と対応点の位置情報との間に成立つ関係として射影変換行列を求めるようにしている。したがって、撮像対象を撮像する際の撮像装置の位置及び姿勢のずれに伴う歪みが撮像画像に生じている場合であっても、各撮像画像上の点を求めた射影変換行列によって変換することによって歪みが除去される。また、歪みを除去して得られた補正画像を利用して画像合成を行うため、多数の画像を合成するでも精度が高くなる。
第5発明に係る画像処理装置は、第3発明又は第4発明に係る画像処理装置において、生成すべき補正画像上の点を前記関係に従って変換する手段と、変換した点の色情報を前記撮像画像から取得する手段とを備え、取得した色情報に基づいて補正画像を生成すべくなしてあることを特徴とする。
第5発明にあっては、生成する補正画像上の点の色情報は、補正画像上の点を幾何学的関係に従って変換し、変換した点の色情報を撮像画像から取得するようにしているため、生成すべき補正画像を構成する全ての点の色情報が過不足なく定まる。
第6発明に係る画像処理装置は、第3発明乃至第5発明の何れかに記載の画像処理装置において、前記合成手段は、前記特徴点に対する前記補正画像上の任意の点の相対的な位置情報を前記関係に基づいて求める手段と、異なる補正画像間で共通の位置情報を有する点の色情報を前記補正画像から取得する手段とを備え、取得した色情報に基づいて前記補正画像を合成すべくなしてあることを特徴とする。
第6発明にあっては、異なる補正画像間で共通の位置情報を有する点の色情報を前記補正画像から取得し、取得した色情報に基づいて補正画像を合成するようにしている。したがって、異なる2枚の補正画像が互いに重なる領域で色情報の平均、加重平均等の処理を行うことにより両補正画像が合成される。
第7発明に係る画像処理装置は、第3発明乃至第5発明の何れかに記載の画像処理装置において、前記合成手段は、前記関係に基づいて前記特徴点に対応する前記補正画像上の点を求める手段と、求めた点に基づいて各補正画像間の幾何学的関係を求める手段とを備え、求めた幾何学的関係に基づいて前記補正画像を合成すべくなしてあることを特徴とする。
第7発明にあっては、歪みを除去した補正画像上で前記特徴点に対応する点を求め、求めた各補正画像上の点の間の幾何学的関係を求め、求めた幾何学的関係に基づいて補正画像を合成するようにしている。したがって、歪みが除去された補正画像を用いて画像合成を行うため、例えば、合成すべき2枚の画像間の関係を並進ベクトル及び回転行列により表すことができ、対応点同士が互いに重なり合うような並進ベクトルと回転行列とを見いだすことにより画像合成が可能となる。
第8発明に係る画像処理装置は、第7発明に係る画像処理装置において、前記幾何学的関係は、並進ベクトル及び回転行列で表した関係であることを特徴とする。
第8発明にあっては、歪みを除去した補正画像上で前記特徴点に対応する点同士の幾何学的関係を並進ベクトル及び回転行列で表すようにしているため、対応点同士が互いに重なり合うような並進ベクトル及び回転行列を見いだすことにより画像合成が可能となる。
第9発明に係る画像処理装置は、第3発明乃至第8発明の何れかに記載の画像処理装置において、前記撮像対象は、所定のパターンを形成してある撮像対象面を含むことを特徴とする。
第9発明にあっては、撮像対象に所定のパターンを含めるようにしているため、当該パターンに含まれる形状についての位置情報を記憶させておくことにより、撮像画像に歪みが生じている場合であっても、記憶させておいた位置情報と撮像画像に写されているパターン上の対応点の位置情報とに基づき、容易に撮像画像の歪みを除去することが可能となる。また、歪みを除去して得られた補正画像を用いることにより精度が高い合成画像が容易に得られる。
第10発明に係る画像処理装置は、第9発明に係る画像処理装置において、前記パターンは格子状の画像であることを特徴とする。
第10発明にあっては、撮像対象に含めるパターンとして格子状の画像を用いているため、その格子点を撮像対象の特徴点として採用することができ、予めその格子点の位置情報を記憶させておくことで、撮像対象と撮像画像との間の対応付けが容易となり、歪みを除去した補正画像の生成が容易となる。また、歪みを除去して得られた補正画像を用いることにより精度が高い合成画像が容易に得られる。
第11発明に係る画像処理装置は、第3発明乃至第8発明の何れかに記載の画像処理装置において、前記撮像対象は、複数の標識体を含み、該標識体の位置情報を予め記憶してあることを特徴とする。
第11発明にあっては、撮像対象に複数の標識体を含んでいるため、予めその標識体の位置情報を記憶させておくことで、撮像対象と撮像画像との間の対応付けが容易となり、歪みを除去した補正画像の生成が容易となる。また、歪みを除去して得られた補正画像を用いることによって精度が高い合成画像が容易に得られる。
第12発明に係るコンピュータプログラムは、コンピュータに、受付けた互いに重なるべき領域を有する複数の撮像画像を前記領域にて合成して一の合成画像を生成させるステップを有するコンピュータプログラムにおいて、コンピュータに、撮像対象が有する特徴点に対応する各撮像画像上の対応点の位置情報を受付けさせるステップと、コンピュータに、予め記憶された前記特徴点の位置情報と前記対応点の位置情報との間の関係を求めさせるステップと、コンピュータに、求めさせた関係に基づいて各撮像画像の歪みを補正した補正画像を生成させるステップと、コンピュータに、生成させた各補正画像を前記特徴点に基づいて合成させるステップとを有することを特徴とする。
第12発明にあっては、撮像対象が有する特徴点と各撮像画像上で前記特徴点に対応する対応点との間の対応付けを行い、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づき各撮像画像から歪みを除去した補正画像を生成し、生成した補正画像を互いに重なる領域にて合成するようにしているため、多数の撮像画像を合成する際に歪みの拡大が防止され、画像合成の精度が向上する。
第1発明、第3発明、及び第12発明による場合は、撮像対象が有する特徴点と各撮像画像上で前記特徴点に対応する対応点との間の対応付けを行い、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づき各撮像画像から歪みを除去した補正画像を生成し、生成した補正画像を互いに重なる領域にて合成するようにしているため、画像合成に係る撮像画像の枚数が多い場合であっても歪みの拡大を防止することができ、精度良く撮像画像を合成することが可能となる。
第2発明及び第4発明による場合は、撮像対象の特徴点の位置情報と対応点の位置情報との間に成立つ関係として射影変換行列を求めるようにしている。したがって、撮像対象を撮像する際の位置及び姿勢のずれに伴う歪みが撮像画像に生じている場合であっても、求めた射影変換行列に基づいてその歪みを除去することが可能であるため、撮像対象を正面から撮像したような正面画像を生成することができ、生成した正面画像を用いて画像合成を行うことにより精度良く撮像画像を合成することが可能となる。
第5発明による場合は、生成する補正画像上の点の色情報は、補正画像上の点を幾何学的関係に従って変換し、変換した点の色情報を撮像画像から取得するようにしているため、生成すべき補正画像を構成する全ての点の色情報を過不足なく定めることができる。
第6発明による場合は、異なる補正画像間で共通の位置情報を有する点の色情報を前記補正画像から取得し、取得した色情報に基づいて補正画像を合成するようにしている。したがって、異なる2枚の補正画像が互いに重なる領域で色情報の平均、加重平均等の処理を行うことにより両補正画像が合成される。
第7発明による場合は、歪みを除去した補正画像上で前記特徴点に対応する点を求め、求めた各補正画像上の点の間の幾何学的関係を求め、求めた幾何学的関係に基づいて補正画像を合成するようにしている。したがって、歪みが除去された補正画像を用いて画像合成を行うため、例えば、合成すべき2枚の画像間の関係を並進ベクトル及び回転行列により表すことができ、対応点同士が互いに重なり合うような並進ベクトルと回転行列とを見いだすことにより画像合成が可能となる。
第8発明による場合は、歪みを除去した補正画像上で前記特徴点に対応する点同士の幾何学的関係を並進ベクトル及び回転行列で表すようにしているため、対応点同士が互いに重なり合うような並進ベクトル及び回転行列を見いだすことにより画像合成が可能となる。
第9発明による場合は、撮像対象に所定のパターンを含めるようにしているため、当該パターンに含まれる形状についての位置情報を記憶させておくことにより、撮像画像に歪みが生じている場合であっても、記憶させておいた位置情報と撮像画像に写されているパターン上の対応点の位置情報とに基づき、容易に撮像画像の歪みを除去することが可能となる。また、歪みを除去して得られた補正画像を用いることにより精度が高い合成画像を容易に生成することができる。
第10発明による場合は、撮像対象に含めるパターンとして格子状の画像を用いているため、その格子点を撮像対象の特徴点として採用することができ、予めその格子点の位置情報を記憶させておくことで、撮像対象と撮像画像との間の対応付けが容易となり、歪みを除去した補正画像の生成が容易となる。また、歪みを除去して得られた補正画像を用いることにより精度が高い合成画像が容易に生成することができる。
第11発明による場合は、撮像対象に複数の標識体を含んでいるため、予めその標識体の位置情報を記憶させておくことで、撮像対象と撮像画像との間の対応付けが容易となり、歪みを除去した補正画像の生成が容易となる。また、歪みを除去して得られた補正画像を用いることによって精度が高い合成画像が容易に生成することができる。
以下、本発明をその実施の形態を示す図面に基づいて具体的に説明する。
実施の形態1.
図1は本実施の形態に係る画像処理システムの構成を示す模式図である。図中Tは、本画像処理システムにて画像合成の対象となる対象物であり、この対象物TをシートSに載置した状態で撮像装置20により分割撮像し、得られた複数の撮像画像を画像処理装置10に取込み、画像処理装置10内部で画像処理を行うことによって撮像画像の合成を行う。
図1は本実施の形態に係る画像処理システムの構成を示す模式図である。図中Tは、本画像処理システムにて画像合成の対象となる対象物であり、この対象物TをシートSに載置した状態で撮像装置20により分割撮像し、得られた複数の撮像画像を画像処理装置10に取込み、画像処理装置10内部で画像処理を行うことによって撮像画像の合成を行う。
対象物Tは、例えば、絵画、絵巻物、地図、原稿等のシート状のものであり、撮像装置20により一度に撮像することが困難な大きさを有するもの、又は高解像度の画像データが必要となるものを対象としている。シートSは合成樹脂、金属、木材、紙等の材料により任意の平面形状(例えば、長方形)に形成されており、当該シートSの表面には等間隔のピッチで配した格子線からなる格子状のパターンが形成されている。撮像装置20はデジタルカメラであり、撮像時にデジタル形式の画像データを生成する。ここで、撮像装置20が生成する画像データは任意の画素数を持ち、各画素がRGB値等の色情報を有する画素の集合からなるデータである。画像処理装置10はパーソナルコンピュータ等で構成され、撮像装置20が生成した画像データを取込んで画像処理を行い、撮像画像の合成を行う。
前述したように、本実施の形態ではシートS上に載置した対象物Tを撮像装置20により撮像する。このとき、撮像して得られた各撮像画像が互いに重なる領域を持つように撮像領域を順次的にずらしながら撮像する。図1に示した例では、まず、対象物Tの一端側を撮像装置20により撮像して撮像領域A1の撮像画像を取得し、次いで、対象物Tの中央近傍を撮像して撮像領域A1と重なる領域を有する撮像領域A2の撮像画像を取得し、そして、対象物Tの他端側を撮像して撮像領域A2と重なる領域を有する撮像領域A3の撮像画像を取得している。
本実施の形態では、これらの撮像画像を画像処理装置10に取込んだ後、撮像時の撮像装置20の位置及び姿勢のずれに伴う撮像画像の歪みを除去することにより、対象物Tを正面から撮像したような正面画像を生成し、生成した各正面画像が互いに重なり合う領域にて合成するようにしている。
図2はシートS上に形成されたパターンについて説明する模式図である。シートSの表面には前述したように等間隔のピッチで配した格子線からなる格子状のパターンが描かれている。図2に示した例では、7行13列の正方格子(縦方向に7個、横方向に13個とする)によるパターンが描かれており、画像処理装置10にはこのパターンの幾何学的形状に関する情報が予め記憶されている。前記幾何学的形状に関する情報は、各格子点の位置座標、格子点間の距離の実測値等が含まれる。各格子点の位置座標は、例えば、紙面左下の格子点P00の位置座標を(0,0)、右下の格子点P130 の位置座標を(1,0)、右上の格子点P137 の位置座標を(1,1)、左上の格子点P07の位置座標を(0,1)とした相対座標系により表すことができる。また、格子間の距離については、例えば、格子点P00と格子点P130 との間の距離、及び格子点P00と格子点P07との間の距離を予め計測して画像処理装置10に記憶させておく。
なお、本実施の形態では7行13列の正方格子をパターンとして用いる構成としたが、格子の配列は必ずしも7行13列に限定されないことは勿論のことである。各撮像画像につき少なくとも4つ以上の格子点が対象物Tとともに撮像される構成であれば画像処理による歪みの除去、及び各撮像画像の合成処理が可能となる。また、パターンとしては、前述の正方格子からなるパターンの他に、三角格子からなるパターン、長方形状の格子からなるパターン、有限の大きさを有する点を規則的に配置したパターン等を用いることも可能である。
図3は画像処理装置10に読込まれた撮像画像の一例を説明する模式図である。撮像装置20を用いて適宜の位置及び姿勢から前述のシートS及び対象物Tを撮像した場合、対象物Tに対して真正面から撮像しない限り、撮像して得られた撮像画像200a〜200cは、撮像時の位置及び姿勢に応じて図3(a)〜図3(c)に示したような歪み(台形歪み)を生じた画像となる。
本実施の形態では、対象物Tとともに撮像したパターンの格子点Pxy(x=0〜13,y=0〜7)の位置情報に基づいて、まず、撮像画像200a〜200cの歪みを補正し、その後、得られた正面画像(補正画像)を利用して画像合成を行う。すなわち、歪んでいない状態でのパターンの格子点の位置情報が画像処理装置10に予め記憶されているため、その位置情報と実際に撮像して得られた撮像画像200a〜200c上の格子点Pxyの位置情報とに基づいて歪みを補正することができ、正面画像を取得することができる。
図4は画像処理装置10の内部構成を説明するブロック図である。画像処理装置10はCPU11を備えており、該CPU11にはROM13、RAM14、操作部15、表示部16、画像入力部17、補助記憶部18、記憶部19等の各種ハードウェアがバス12を介して接続されている。CPU11は、ROM13に格納された各種制御プログラムに従って前述のハードウェアを制御するとともに、記憶部19にインストールされた本発明のコンピュータプログラムをRAM14上のロードすることにより、画像入力部17を通じて入力された撮像画像に対して画像処理を施して正面画像を生成し、得られた正面画像を用いて一の合成画像を生成する。なお、当該画像処理は必ずしもCPU11が行う必要はなく、画像処理専用のASIC(Application Specifide Integrated Circiut)を設けて、CPU11から指示を与えることにより、画像処理専用のASICに画像処理を行わせる形態であってもよい。RAM14はSRAM又はフラッシュメモリ等で構成され、ROM13に格納された制御プログラムの実行時に発生するデータ等を記憶する。
操作部15は、キーボード、マウス、タブレット等の入力装置からなり、画像処理をする際の指示、選択操作等を受付ける。表示部16は、CRTディスプレイ又は液晶ディスプレイ等の表示装置からなり、操作部15を通じて入力された各種の情報が表示されるとともに、外部から入力された撮像画像、及び画像処理中の画像等が表示される。
画像入力部17は、撮像装置20が生成した画像データを入力するための入力装置を備えている。前記入力装置として、USB(Universal Serial Bus)の規格に準拠した接続ポート、可搬型の半導体メモリに記憶された画像データを読取るための読取装置等を採用することができる。撮像装置20がUSBのインタフェースを持ち、通信ケーブルを介して外部に画像データを送出できるようになっている場合には、前述の接続ポートに通信ケーブルを接続して画像データを通信により受信する。また、撮像装置20がUSBのインタフェースを持たず、可搬型の半導体メモリにより画像データの受渡しが行われる場合には、前述の読取装置が利用される。なお、この読取装置は画像処理装置10に内蔵したものであってもよく、外付けにしたものであってもよい。
補助記憶部18は、本発明のコンピュータプログラムを記録したFD、CD−ROM等の記録媒体Mからコンピュータプログラムを読取るFDドライブ、CD−ROMドライブ等からなり、読取られたコンピュータプログラムは記憶部19に記憶される。CPU11が当該コンピュータプログラムを実行する場合、記憶部19に記憶されたコンピュータプログラムを一旦RAM14上に展開し、CPU11が前記コンピュータプログラムに含まれる命令コードをデコードすることによって一連のプログラムとして解釈し、前記コンピュータプログラムを実行する。
記憶部19は、HDD装置等の記憶装置を備えており、前述のコンピュータプログラム、及び画像入力部17から入力された画像データを適宜の記憶領域に格納するとともに、シートSに形成されたパターン上の特徴点P00〜P137 の位置情報が予め格納されており、当該位置情報に基づき、表示部16にパターンの画像を再現できるようにしている。
図5は本実施の形態に係る画像処理システムによる画像処理の処理手順を説明するフローチャートである。まず、画像処理装置10は、撮像装置20により撮像して得られた撮像画像の読込みを行う(ステップS1)。撮像画像の読込みは、画像入力部17を通じて入力された撮像画像をRAM14上に読込む形態であってもよく、また、予め記憶部19に記憶させておいた撮像画像をRAM14上に読込む形態であってもよい。
次いで、撮像装置20の校正を行い(ステップS2)、撮像装置20の内部パラメータに起因する歪みの除去を行う。一般に、撮像装置によって得られる画像には、撮像装置のレンズ系等の影響を受けて円形歪み、樽型歪み等の種々の歪みが発生する。そこで、本実施の形態ではこれらの歪みを除去した上で、撮像した際の位置及び姿勢に伴う撮像画像の歪みの除去を行う。
撮像装置20の校正には公知の手法を用いることができる。例えば、既知のパターンを撮像し、撮像して得られた画像とパターンとに基づいて撮像装置20の内部パラメータ(焦点距離、主点の位置座標等)、及び歪み量を規定するパラメータを予め算出する。そして、校正の際には予め求めておいたこれらのパラメータを利用して校正を行う。なお、予め校正を行った撮像装置20を利用して撮像する場合、本ステップを省略することも可能である。
次いで、画像処理装置10は撮像画像の特徴点とパターンの特徴点との間の対応付けを受付ける(ステップS3)。具体的には、図3に示したような撮像画像200a〜200c及びシートS上のパターンの画像を画像処理装置10の表示部16に表示させ、撮像画像200a〜200cとパターンとの間で対応する特徴点を、操作部15が備えるマウス等によりユーザに選択させる。
次いで、画像処理装置10のCPU11は、射影変換行列の各要素の初期値を求める(ステップS4)。射影変換行列の各要素の初期値は、以下のようにして求めることができる。
撮像画像上の特徴点の位置座標(ui ,vi )は、パターン上の特徴点の位置座標(xi ,yi )、及び射影変換行列Hを用いて次式のように表すことができる。
ここで、右辺のH11,H12,…,H33は射影変換行列Hの各要素を表している。また、数式(1)においてはスケール因子を考慮していない。ui 及びvi について展開した場合、数式(2)及び数式(3)のように表すことができる。
更に、射影変換行列Hの各要素についてまとめた場合、以下の行列式で表すことができる。
ここで、左辺の2n行×9列の行列をAで表し、射影変換行列Hの各要素H11,H12,…,H33で表されるベクトルをhで表した場合、数式(4)は、
となる。数式(5)を用いることによって、ベクトルhを、AT Aの最小固有値に対応する固有ベクトルとして求めることができる。
次いで、画像処理装置10のCPU11は、射影変換行列Hの各要素H11,H12,…,H33を最適化するために評価関数の設定を行う(ステップS5)。ここで、撮像画像上の点の位置座標(ui ,vi )とステップS4で求めた射影変換行列による変換先の位置座標との間の距離の二乗和を評価関数として設定し(数式(6))、当該評価関数が最小となるように射影変換行列の各要素H11,H12,…,H33の最適化を行う(ステップS6)。
次いで、画像処理装置10のCPU11は、最適化して得られた射影変換行列Hを用いて歪みを補正し、正面画像の生成処理を行う(ステップS7)。なお、正面画像の生成処理については後に詳述することにする。
次いで、CPU11は、すべての撮像画像について正面画像を生成したか否かを判断する(ステップS8)。正面画像を生成していない撮像画像が残っている場合(S8:NO)、処理をステップS2へ戻し、ステップS2からステップS7までの処理を実行することによって残りの撮像画像の歪みを補正して、正面画像を生成する。
すべての撮像画像について正面画像を生成した場合(S8:YES)、生成した正面画像から一の合成画像を生成する(ステップS9)。なお、合成画像の生成処理については後に詳述することとする。
図6は正面画像の生成処理を説明する説明図である。前述したフローチャートのステップS6で最適化した射影変換行列Hが求まるため、この射影変換行列Hの逆行列を用いて撮像画像上の各点の位置座標を変換するより、歪みがない正面画像(補正画像)が得られることとなる。しかしながら、撮像画像は元々歪んだものであるから元のパターンと比較した場合、画素が足りない領域及び画素が過剰な領域が存在している。したがって、撮像画像を元に射影変換行列Hの逆行列を用いて変換したとき、隙間のない完全な正面画像を得ることができない場合が生じる。
そこで、本実施の形態では、撮像画像200aを出発点とするのではなく、元のパターンを出発点とし、パターン上の任意の画素の位置座標(ai ,bj )を射影変換行列Hにより変換し、撮像画像200aにおいて対応する点の位置座標(αi ,βj )を求め、その位置座標(αi ,βj )での点の色情報を取得し、取得した色情報を生成すべき正面画像100a上の点の色情報として記憶する。
図7は正面画像の生成処理ルーチンの処理手順を説明するフローチャートである。まず、画像処理装置10のCPU11は、カウンタi,jを0に設定し(ステップS11)、復元先の画像(正面画像)上の点の位置座標(ai ,bj )を射影変換行列Hにより変換する(ステップS12)。変換後の点は撮像画像上の点に移るため、その変換後の点の位置座標(αi ,βj )に対応する色情報を取得する(ステップS13)。そして取得した色情報を復元先の画像の点の位置座標(ai ,bj )の色情報として記憶する(ステップS14)。
次いで、CPU11はカウンタiがX以上であるか否かを判断する(ステップS15)。ここで、Xは生成すべき正面画像の横方向の総画素数を表す。iがX以上でないと判断した場合(S15:NO)、カウンタiを1つだけ増やして(ステップS16)、処理をステップS12へ戻す。
カウンタiがX以上であると判断した場合(S15:YES)、カウンタiの値を0に設定し(ステップS17)、カウンタjがY以上であるか否かを判断する(ステップS18)。ここで、Yは生成すべき正面画像の縦方向の総画素数を表す。カウンタjがY以上でないと判断した場合(S18:NO)、カウンタjを1つだけ増やして(ステップS19)、処理をステップS12へ戻し、カウンタjがY以上であると判断した場合(S18:YES)、本ルーチンを終了する。
図8は合成画像の生成処理ルーチンの処理手順を説明するフローチャートである。まず、画像処理装置10のCPU11は、カウンタnを1に設定する(ステップS21)。そして、前述の正面画像の生成処理ルーチンで生成したn番目の正面画像、及びn+1番目の正面画像を読込む(ステップS22,S23)。
次いで、CPU11は、n番目及びn+1番目の重なり領域の色情報を平均する(ステップS24)。具体的には、n番目の正面画像の任意の画素に着目し、n+1番目の正面画像に同一の位置情報を有する画素が存在する場合、両画素の画素値を平均する処理を行う。この処理をn番目の正面画像の全ての画素について行うことによって、前記重なり領域において両画像を合成する。なお、本実施の形態では、画素値の平均をとることで画像の合成を行う構成としたが、重なり領域の境界からの平均すべき画素までの距離に応じた加重平均をとる構成であっても良いことは勿論である。
次いで、CPU11は、合成する正面画像があるか否かを判断する(ステップS25)。合成する正面画像がある場合(S25:YES)、カウンタnの値を1つだけ増やし(ステップS26)、処理をステップS23へ戻す。また、合成する正面画像がない場合(S25:NO)、全ての正面画像を合成したとして本ルーチンによる処理を終了する。
なお、本実施の形態では、シートS上に載置した対象物Tを撮像する構成としたが、対象物Tを載置するものは必ずしもシートSに限定されず、テーブル等の台状のものであっても良く、また、床面、壁面等にパターンを形成して利用する構成であっても良い。
実施の形態2.
実施の形態1では、撮像対象となる対象物TをシートS上に載置して撮像装置20により撮像する構成であったが、対象物Tが大きい場合、その対象物Tを載置できるようなシートSを用意しなければならず、現実的でないことがある。また、様々な大きさの対象物Tについて合成画像を生成する必要がある場合には、それぞれの対象物Tに対して適当な大きさの正方格子から格子されるパターンを用意する必要があり、必ずしも利便性が良くない。そこで、本実施の形態では、任意の大きさの対象物Tに対応するために、前述のシートSの代わりに複数のマーカ(標識体)を利用して撮像画像の合成を行う。
実施の形態1では、撮像対象となる対象物TをシートS上に載置して撮像装置20により撮像する構成であったが、対象物Tが大きい場合、その対象物Tを載置できるようなシートSを用意しなければならず、現実的でないことがある。また、様々な大きさの対象物Tについて合成画像を生成する必要がある場合には、それぞれの対象物Tに対して適当な大きさの正方格子から格子されるパターンを用意する必要があり、必ずしも利便性が良くない。そこで、本実施の形態では、任意の大きさの対象物Tに対応するために、前述のシートSの代わりに複数のマーカ(標識体)を利用して撮像画像の合成を行う。
図9は本実施の形態に係る画像処理システムの構成を示す模式図である。図中Tは、本画像処理システムにて画像合成の対象となる対象物であり、この対象物Tの周囲に複数のマーカm1〜m16を付した状態で撮像装置20により分割撮像し、得られた複数の撮像画像を画像処理装置10に取込み、画像処理装置10内部で画像処理を行うことによって撮像画像の合成を行う。
対象物Tは、例えば、絵画、絵巻物、地図、原稿等のシート状のものであり、撮像装置20により一度に撮像することが困難な大きさを有するもの、又は高解像度の画像データが必要となるものを対象としている。マーカm1〜m16は、任意の材料により形成された適宜の大きさの標識体であり、対象物Tと同一の平面内に載置される。
撮像装置20はデジタルカメラであり、撮像時にデジタル形式の画像データを生成する。ここで、撮像装置20が生成する画像データは任意の画素数を持ち、各画素がRGB値等の色情報を有する画素の集合からなるデータである。画像処理装置10はパーソナルコンピュータ等で構成され、撮像装置20が生成した画像データを取得して画像処理を行い、撮像画像の合成を行う。なお、画像処理装置10の内部構成は実施の形態1と全く同様であるため、その説明を省略することとする。
本実施の形態では、マーカm1〜m16の位置情報を実測することにより事前に取得し、取得した位置情報を画像処理装置10に記憶させている。従って、対象物Tを撮像する際、マーカm1〜m16を撮像対象に含めて撮像することで、それらのマーカm1〜m16の位置情報は、実施の形態1で説明したパターンの格子点の位置情報の代わりとして利用することが可能となる。したがって、撮像画像を画像処理装置10に取込んだ後は実施の形態1と同様の処理により画像合成を行うことができる。
本実施の形態では、対象物Tの周囲にマーカm1〜m16を配置して撮像する構成としたが、合成して得られた合成画像を利用する際に支障がない場合には、対象物T上にマーカを配置することも可能である。また、マーカの数は16個の限定されず、対象物Tの大きさ、必要とする合成画像の解像度等を考慮して利用者が任意に設定することが可能である。
実施の形態3.
実施の形態2では、対象物Tの周囲に付されているマーカm1〜m16の位置情報と各マーカm1〜m16に対応する撮像画像上の対応点の位置情報とに基づき、両者の間に成立つ幾何学的関係を定めて各撮像画像から正面画像を合成し、マーカm1〜m16に対する各正面画像の相対的な位置を定めることにより重なり領域を求め、求めた重なり領域にて合成することにより、合成画像を生成するようにしていた。しかしながら、異なる2つの撮像画像間に共通のマーカが複数撮像されている場合には、これらのマーカの位置情報に基づいて合成画像を生成することも可能である。
実施の形態2では、対象物Tの周囲に付されているマーカm1〜m16の位置情報と各マーカm1〜m16に対応する撮像画像上の対応点の位置情報とに基づき、両者の間に成立つ幾何学的関係を定めて各撮像画像から正面画像を合成し、マーカm1〜m16に対する各正面画像の相対的な位置を定めることにより重なり領域を求め、求めた重なり領域にて合成することにより、合成画像を生成するようにしていた。しかしながら、異なる2つの撮像画像間に共通のマーカが複数撮像されている場合には、これらのマーカの位置情報に基づいて合成画像を生成することも可能である。
図10は本実施の形態に係る画像処理システムの構成を示す模式図である。本実施の形態に係る画像処理システムは、デジタルカメラ等の撮像装置20と、該撮像装置20により撮像される対象物Tと、撮像装置20が取得した複数の撮像画像を合成する画像処理装置10とにより構成されている。撮像される対象物Tには2つのマーカM1,M2が適宜位置に付されており、マーカM1,M2を付した状態にて撮像装置20により撮像して撮像画像を取得する。対象物Tを撮像する際、撮像装置20の位置及び姿勢、並びにマーカM1,M2の位置の調整することにより、2枚の撮像画像が互いに重なる領域を持ち、その領域内に双方のマーカM1,M2による像が含まれるようにして撮像する。また、2枚の撮像画像を得るために、1枚目の撮像画像を取得した後、撮像装置20を移動させて2枚目を撮像するようにしても良く、また、1枚目の撮像画像を取得した後、対象物Tを移動させて2枚目を撮像するようにしても良い。得られた2枚の撮像画像は画像処理装置10内に取込まれ、画像処理装置10にて画像処理を行うことにより両撮像画像の合成を行う。画像処理装置10の内部構成については実施の形態1と全く同様であるため、その説明を省略することとする。
なお、本実施の形態では、説明を簡略化するために撮像枚数を2枚としたが、これらの数に限定されないことは勿論のことである。
図11は画像処理装置10が行う画像処理の手順を模式的に説明した説明図であり、図12は処理手順を説明するフローチャートである。まず、画像処理装置10は、撮像処理装置20により撮像して得られた2枚の撮像画像の読込みを行う(ステップS31)。撮像画像の読込みは、画像入力部17を通じて入力された撮像画像をRAM14上に読込む形態であっても良く、予め記憶部19に記憶させておいた撮像画像をRAM14上に読込む形態であっても良い。撮像した対象物Tには2つのマーカM1,M2が付されているため、RAM14上に読込まれた2枚の撮像画像201a,202aには、それぞれマーカM1による像m11,m12と、マーカM2による像m21,m22とが写されている(図11(a)参照)。
次いで、読込まれた撮像画像201a,202aから正面画像201b,202bの生成を行う(ステップS32)。撮像画像201a,202aから正面画像201b,202bを生成する手法としては公知の手法、又は実施の形態1で説明した手法を利用することができる。実施の形態1で説明した手法を用いる場合には、対象物Tを載置している載置面と撮像画像との間の幾何学的関係を求める必要があるため、例えば、前述したようなパターンを形成したシートSを撮像し、前記パターンと撮像画像とを用いて前述した手法により両者の間に成立つ幾何学的関係を予め求めておく。そして、撮像装置20の位置及び姿勢を保った状態で対象物Tを撮像した撮像画像を取得し、前記幾何学的関係を表す射影変換行列によって撮像画像の各画素を変換することにより正面画像201b,202bを生成する。
次いで、画像処理装置10のCPU11は、一方の対応点同士を一致させるような並進ベクトルtを算出する(ステップS33)。2枚の正面画像201b,202b間で対応する対応点としては、各正面画像201b,202bに写されているマーカM1,M2の像m11〜m22を採用することができる。すなわち、図11に示した如く像m11と像m12とを一方の対応点の組として採用することができ、像m21と像m22とを他方の対応点の組として採用することができる。そして、一方の対応点同士を一致させるような並進ベクトルを求めるためには、正面画像201b,202bの各画素を一つの座標系で表し、像m11の位置座標と像m12の位置座標とを前記座標系において求めることにより、並進ベクトルtを算出することができる(図11(b)参照)。次いで、正面画像202bの各画素を算出した並進ベクトルtにより並進移動させる(ステップS34)。
ステップS33にて算出した並進ベクトルtにより正面画像202bの各画素を移動させた場合、像m11の位置座標と像m12の位置座標とは一致することとなるが、互いに重なる領域にて双方の画素を一致させるためには、一般的には回転の自由度が残ることとなる(図11(c)参照)。そこで、画像処理装置10のCPU11は、像m12の位置座標を中心に正面画像202bの各画素を回転させたとき、他方の対応点同士を一致させるような回転行列を算出する(ステップS35)。具体的には、像m11及び像m21を結ぶ線分と、像m12及び像m22を結ぶ線分との間のなす角度を算出して前記回転行列を算出する。次いで、正面画像202bの各画素を算出した回転行列により回転移動させる(ステップS36)。
回転移動させた結果、双方の対応点が一致し、その対応点の周囲の領域にて2枚の正面画像201b,202bは互いに重なり合う領域を持つこととなる。画像処理装置10は、前記領域にて2枚の正面画像201b,202bを合成し、1枚の合成画像203を生成する(ステップS37)。具体的には、双方の正面画像201b,202bにおいて同一の位置座標を有する画素を選択し、選択した画素の色情報(画素値)を平均するこにより合成を行う。また、図11(d)の破線に示した如き重なり領域の境界からの距離に応じて画素値の加重平均をとることも可能である。
実施の形態4.
実施の形態3では、マーカM1,M2の像を利用して2枚の撮像画像を合成する構成であったが、2つのマーカM1,M2の像を用いた場合にはそれらの対応付けが必ずしも一意には定まらない。例えば、図11に示した例では、像m11に対して像m12、像m21に対して像m22を選択した場合に正しい対応付けとなるが、実際には、像m11に対して像m22、像m21に対して像m12を選択する場合も起こりえる。そのため、本実施の形態では、対応付けが一意に定まるように3つ以上のマーカを利用して画像合成を行う形態について説明する。
実施の形態3では、マーカM1,M2の像を利用して2枚の撮像画像を合成する構成であったが、2つのマーカM1,M2の像を用いた場合にはそれらの対応付けが必ずしも一意には定まらない。例えば、図11に示した例では、像m11に対して像m12、像m21に対して像m22を選択した場合に正しい対応付けとなるが、実際には、像m11に対して像m22、像m21に対して像m12を選択する場合も起こりえる。そのため、本実施の形態では、対応付けが一意に定まるように3つ以上のマーカを利用して画像合成を行う形態について説明する。
図13は画像処理装置10が行う画像処理の手順を模式的に説明した説明図であり、図14は処理手順を説明するフローチャートである。画像処理装置10は、撮像処理装置20により対象物Tを撮像して得られた2枚の撮像画像を読込み(ステップS41)、読込んだ撮像画像に基づいて正面画像を生成する(ステップS42)。撮像画像の読込みは、画像入力部17を通じて入力された撮像画像をRAM14上に読込む形態であっても良く、予め記憶部19に記憶させておいた撮像画像をRAM14上に読込む形態であっても良い。本実施の形態では、対象物Tに4つのマーカを付しており、読込まれた2枚の撮像画像、及び生成した正面画像211,212には、マーカによる像u1〜u4、及び像v1〜v4が写されている(図13(a)参照)。
次いで、正面画像211上の像u1〜u4の位置座標と正面画像212上の像v1〜v4の位置座標とに関する評価関数を設定する(ステップS43)。正面画像211上の任意の点の位置座標を(ux ,uy )、該位置座標に対応する正面画像212上の点の位置座標を(vx ,vy )とした場合、両位置座標の間に成立つ関係は、回転行列Rと並進ベクトルtとを用いて次式のように表すことができる。
そこで、正面画像211上の像u1〜u4の位置座標と正面画像212上の像v1〜v4の位置座標とに関する評価関数としては、各像u1〜u4,v1〜v4の位置ベクトルを夫々ui ,vi (i=1,2,3,4)とした場合、次式で表す評価関数を設定することができる。
次いで、数式(8)で表した評価関数が最小となるように並進ベクトルt及び回転行列Rを最適化し(ステップS44)、最適化した並進ベクトルt及び回転行列Rに従って、正面画像212の各画素を移動させる(ステップS45)。正面画像212の各画素を移動させた後、正面画像211上の像u1〜u4と正面画像212上の像v1〜v4とは略一致することとなり、その周囲の領域において両正面画像211,212は互いに重なり領域を有することとなる。画像処理装置10は、前記領域にて2枚の正面画像211,212を合成し、1枚の合成画像213を生成する(ステップS46)。具体的には、双方の正面画像211,212において同一の位置座標を有する画素を選択し、当該画素の色情報(画素値)を平均することにより合成を行う。また、図13(b)の破線に示した如き重なり領域の境界からの距離に応じて画素値の加重平均をとることも可能である。
10 画像処理装置
11 CPU
12 バス
13 ROM
14 RAM
15 操作部
16 表示部
17 画像入力部
18 補助記憶部
19 記憶部
20 撮像装置
S シート
T 対象物
11 CPU
12 バス
13 ROM
14 RAM
15 操作部
16 表示部
17 画像入力部
18 補助記憶部
19 記憶部
20 撮像装置
S シート
T 対象物
Claims (12)
- 互いに重なる領域を有すべく撮像して得られた複数の特徴点を有する撮像対象の撮像画像を画像処理装置に複数取込み、取込んだ撮像画像上の特徴点に基づいて前記撮像画像を互いに重なる領域にて合成する画像処理方法において、
前記撮像対象が有する特徴点の位置情報を予め記憶しておき、前記特徴点に対応する各撮像画像上の対応点の位置情報を受付け、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求め、求めた関係に基づいて各撮像画像の歪みを補正した補正画像を生成し、生成した各補正画像を前記特徴点に基づいて合成することを特徴とする画像処理方法。 - 前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係は、射影変換行列で表した関係であることを特徴とする請求項1に記載の画像処理方法。
- 撮像装置により互いに重なる領域を有すべく撮像して得られた複数の特徴点を有する撮像対象の撮像画像を複数取込み、取込んだ撮像画像上の特徴点に基づいて各撮像画像を互いに重なる領域にて合成して一の合成画像を生成する画像処理装置において、
前記撮像対象が有する特徴点の位置情報を予め記憶する手段と、前記特徴点に対応する各撮像画像上の対応点の位置情報を受付ける手段と、前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係を求める手段と、求めた関係に基づいて各撮像画像の歪みを補正した補正画像を生成する手段と、生成した各補正画像を前記特徴点に基づいて合成する合成手段とを備えることを特徴とする画像処理装置。 - 前記特徴点の位置情報と前記対応点の位置情報との間に成立つ関係は、射影変換行列で表した関係であることを特徴とする請求項3に記載の画像処理装置。
- 生成すべき補正画像上の点を前記関係に従って変換する手段と、変換した点の色情報を前記撮像画像から取得する手段とを備え、取得した色情報に基づいて補正画像を生成すべくなしてあることを特徴とする請求項3又は請求項4に記載の画像処理装置。
- 前記合成手段は、前記特徴点に対する前記補正画像上の任意の点の相対的な位置情報を前記関係に基づいて求める手段と、異なる補正画像間で共通の位置情報を有する点の色情報を前記補正画像から取得する手段とを備え、取得した色情報に基づいて前記補正画像を合成すべくなしてあることを特徴とする請求項3乃至請求項5の何れかに記載の画像処理装置。
- 前記合成手段は、前記関係に基づいて前記特徴点に対応する前記補正画像上の点を求める手段と、求めた点に基づき各補正画像間の幾何学的関係を求める手段とを備え、求めた幾何学的関係に基づいて前記補正画像を合成すべくなしてあることを特徴とする請求項3乃至請求項5の何れかに記載の画像処理装置。
- 前記幾何学的関係は、並進ベクトル及び回転行列で表した関係であることを特徴とする請求項7に記載の画像処理装置。
- 前記撮像対象は、所定のパターンを形成してある撮像対象面を含むことを特徴とする請求項3乃至請求項8の何れかに記載の画像処理装置。
- 前記パターンは格子状の画像であることを特徴とする請求項9に記載の画像処理装置。
- 前記撮像対象は、複数の標識体を含み、該標識体の位置情報を予め記憶してあることを特徴とする請求項3乃至請求項8の何れかに記載の画像処理装置。
- コンピュータに、受付けた互いに重なるべき領域を有する複数の撮像画像を前記領域にて合成して一の合成画像を生成させるステップを有するコンピュータプログラムにおいて、
コンピュータに、撮像対象が有する特徴点に対応する各撮像画像上の対応点の位置情報を受付けさせるステップと、コンピュータに、予め記憶された前記特徴点の位置情報と前記対応点の位置情報との間の関係を求めさせるステップと、コンピュータに、求めさせた関係に基づいて各撮像画像の歪みを補正した補正画像を生成させるステップと、コンピュータに、生成させた各補正画像を前記特徴点に基づいて合成させるステップとを有することを特徴とするコンピュータプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003305384A JP2004342067A (ja) | 2003-04-22 | 2003-08-28 | 画像処理方法、画像処理装置、及びコンピュータプログラム |
PCT/JP2004/002677 WO2004079653A1 (ja) | 2003-03-05 | 2004-03-03 | 画像処理方法、画像処理システム、画像処理装置、及びコンピュータプログラム |
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003117521 | 2003-04-22 | ||
JP2003305384A JP2004342067A (ja) | 2003-04-22 | 2003-08-28 | 画像処理方法、画像処理装置、及びコンピュータプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004342067A true JP2004342067A (ja) | 2004-12-02 |
Family
ID=33543137
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003305384A Withdrawn JP2004342067A (ja) | 2003-03-05 | 2003-08-28 | 画像処理方法、画像処理装置、及びコンピュータプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004342067A (ja) |
Cited By (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006082825A1 (ja) * | 2005-02-02 | 2006-08-10 | Canon Kabushiki Kaisha | 指標配置計測方法、位置姿勢推定方法、指標配置計測装置、位置姿勢推定装置 |
JP2007041120A (ja) * | 2005-08-01 | 2007-02-15 | Keyence Corp | 共焦点走査型顕微鏡 |
EP1954063A2 (en) | 2007-02-01 | 2008-08-06 | Sanyo Electric Co., Ltd. | Apparatus and method for camera calibration, and vehicle |
EP1968011A2 (en) | 2007-01-31 | 2008-09-10 | Sanyo Electric Co., Ltd. | Method and apparatus for camera calibration, and vehicle |
JP2009140060A (ja) * | 2007-12-04 | 2009-06-25 | Sony Computer Entertainment Inc | 画像処理装置、画像評価方法、プログラム及び情報記憶媒体 |
JP2009146328A (ja) * | 2007-12-18 | 2009-07-02 | Panasonic Corp | 電子部品実装用装置および1次元バーコードの読取り方法 |
WO2009116328A1 (ja) | 2008-03-19 | 2009-09-24 | 三洋電機株式会社 | 画像処理装置及び方法、運転支援システム、車両 |
JP2011061688A (ja) * | 2009-09-14 | 2011-03-24 | Toshiba Corp | 画像合成方法及び画像合成装置 |
JP2011165007A (ja) * | 2010-02-10 | 2011-08-25 | Seiko Epson Corp | 検査システム、その方法及びプログラム |
JP2012175667A (ja) * | 2011-02-24 | 2012-09-10 | Ohbayashi Corp | 画像合成方法 |
JP2014164363A (ja) * | 2013-02-22 | 2014-09-08 | Hitachi Ltd | マルチカメラ撮影装置およびマルチカメラ撮影方法 |
WO2015040917A1 (ja) * | 2013-09-17 | 2015-03-26 | 株式会社日立製作所 | マルチカメラ撮影画像合成装置およびマルチカメラ撮影画像の合成方法 |
WO2018055743A1 (ja) * | 2016-09-23 | 2018-03-29 | 堺ディスプレイプロダクト株式会社 | 生成システム、生成方法及びコンピュータプログラム |
JP2018088605A (ja) * | 2016-11-28 | 2018-06-07 | キヤノン株式会社 | 情報処理装置、表示制御装置、制御方法、及びプログラム |
EP3416099A1 (en) | 2017-06-14 | 2018-12-19 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and a program |
CN109872340A (zh) * | 2019-01-03 | 2019-06-11 | 广东智媒云图科技股份有限公司 | 构图方法及其电子设备、计算机可读存储介质 |
CN110313172A (zh) * | 2017-02-22 | 2019-10-08 | 索尼公司 | 信息处理设备和方法 |
CN111869198A (zh) * | 2018-03-15 | 2020-10-30 | 株式会社村上开明堂 | 合成影像制作装置、合成影像制作方法以及合成影像制作程序 |
JP7336788B2 (ja) | 2020-03-23 | 2023-09-01 | 五洋建設株式会社 | 水中画像生成方法及びプログラム |
-
2003
- 2003-08-28 JP JP2003305384A patent/JP2004342067A/ja not_active Withdrawn
Cited By (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2006082825A1 (ja) * | 2005-02-02 | 2006-08-10 | Canon Kabushiki Kaisha | 指標配置計測方法、位置姿勢推定方法、指標配置計測装置、位置姿勢推定装置 |
JP2006214832A (ja) * | 2005-02-02 | 2006-08-17 | Canon Inc | 指標配置計測方法、位置姿勢推定方法、指標配置計測装置、位置姿勢推定装置 |
US7664341B2 (en) | 2005-02-02 | 2010-02-16 | Canon Kabushiki Kaisha | Index layout measurement method, position and orientation estimation method, index layout measurement apparatus, and position and orientation estimation apparatus |
JP4599184B2 (ja) * | 2005-02-02 | 2010-12-15 | キヤノン株式会社 | 指標配置計測方法、指標配置計測装置 |
JP2007041120A (ja) * | 2005-08-01 | 2007-02-15 | Keyence Corp | 共焦点走査型顕微鏡 |
EP1968011A2 (en) | 2007-01-31 | 2008-09-10 | Sanyo Electric Co., Ltd. | Method and apparatus for camera calibration, and vehicle |
EP1954063A2 (en) | 2007-02-01 | 2008-08-06 | Sanyo Electric Co., Ltd. | Apparatus and method for camera calibration, and vehicle |
JP2009140060A (ja) * | 2007-12-04 | 2009-06-25 | Sony Computer Entertainment Inc | 画像処理装置、画像評価方法、プログラム及び情報記憶媒体 |
JP2009146328A (ja) * | 2007-12-18 | 2009-07-02 | Panasonic Corp | 電子部品実装用装置および1次元バーコードの読取り方法 |
WO2009116328A1 (ja) | 2008-03-19 | 2009-09-24 | 三洋電機株式会社 | 画像処理装置及び方法、運転支援システム、車両 |
JP2011061688A (ja) * | 2009-09-14 | 2011-03-24 | Toshiba Corp | 画像合成方法及び画像合成装置 |
JP2011165007A (ja) * | 2010-02-10 | 2011-08-25 | Seiko Epson Corp | 検査システム、その方法及びプログラム |
JP2012175667A (ja) * | 2011-02-24 | 2012-09-10 | Ohbayashi Corp | 画像合成方法 |
JP2014164363A (ja) * | 2013-02-22 | 2014-09-08 | Hitachi Ltd | マルチカメラ撮影装置およびマルチカメラ撮影方法 |
WO2015040917A1 (ja) * | 2013-09-17 | 2015-03-26 | 株式会社日立製作所 | マルチカメラ撮影画像合成装置およびマルチカメラ撮影画像の合成方法 |
CN109983531A (zh) * | 2016-09-23 | 2019-07-05 | 堺显示器制品株式会社 | 生成系统、生成方法和计算机程序 |
WO2018055743A1 (ja) * | 2016-09-23 | 2018-03-29 | 堺ディスプレイプロダクト株式会社 | 生成システム、生成方法及びコンピュータプログラム |
US10770034B2 (en) | 2016-09-23 | 2020-09-08 | Sakai Display Products Corporation | Generation system, generation method, and storage medium |
JP2018088605A (ja) * | 2016-11-28 | 2018-06-07 | キヤノン株式会社 | 情報処理装置、表示制御装置、制御方法、及びプログラム |
US11037270B2 (en) | 2016-11-28 | 2021-06-15 | Canon Kabushiki Kaisha | Information processing apparatus and control method |
CN110313172A (zh) * | 2017-02-22 | 2019-10-08 | 索尼公司 | 信息处理设备和方法 |
EP3416099A1 (en) | 2017-06-14 | 2018-12-19 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and a program |
US10970845B2 (en) | 2017-06-14 | 2021-04-06 | Canon Kabushiki Kaisha | Image processing apparatus, image processing method, and storage medium |
CN111869198A (zh) * | 2018-03-15 | 2020-10-30 | 株式会社村上开明堂 | 合成影像制作装置、合成影像制作方法以及合成影像制作程序 |
CN111869198B (zh) * | 2018-03-15 | 2021-12-14 | 株式会社村上开明堂 | 合成影像制作装置、合成影像制作方法以及记录介质 |
CN109872340A (zh) * | 2019-01-03 | 2019-06-11 | 广东智媒云图科技股份有限公司 | 构图方法及其电子设备、计算机可读存储介质 |
JP7336788B2 (ja) | 2020-03-23 | 2023-09-01 | 五洋建設株式会社 | 水中画像生成方法及びプログラム |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4832878B2 (ja) | 画像合成処理装置及び方法 | |
JP2004342067A (ja) | 画像処理方法、画像処理装置、及びコンピュータプログラム | |
JP6299124B2 (ja) | 投影システム、画像処理装置、投影方法およびプログラム | |
JP4164703B2 (ja) | 広視野画像入力方法及び装置 | |
KR102328020B1 (ko) | 하나의 룩업 테이블을 이용한 파노라마 영상 출력 시스템 및 방법 | |
JP4637845B2 (ja) | マルチプロジェクションシステムにおける幾何補正方法 | |
JP4435145B2 (ja) | 幾何情報を校正してパノラマ映像を提供する方法および装置 | |
WO2017122500A1 (ja) | 投影システム、画像処理装置、投影方法およびプログラム | |
US7317558B2 (en) | System and method for image processing of multiple images | |
US8554012B2 (en) | Image processing apparatus and image processing method for correcting distortion in photographed image | |
JP4010754B2 (ja) | 画像処理装置と画像処理方法及びコンピュータ読み取り可能な記録媒体 | |
JP2014131257A (ja) | 画像補正システム、画像補正方法及びプログラム | |
JPH08237407A (ja) | 画像タイルの相対的なアラインメントを見当合わせすると共に透視歪みを修正するための方法 | |
JP2011118553A (ja) | 画像処理装置、画像処理方法及びコンピュータプログラム | |
JP2010288063A (ja) | プロジェクター、プログラム、情報記憶媒体および台形歪み補正方法 | |
JP2004015205A (ja) | マルチプロジェクションシステム及びマルチプロジェクションシステムにおける補正データ取得方法 | |
JP2009075646A (ja) | 映像表示システム及び該システムのパラメータ生成方法 | |
JP2020068514A (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2008216158A (ja) | 変位計測装置 | |
JP4776983B2 (ja) | 画像合成装置及び画像合成方法 | |
JP2004288148A (ja) | 画像処理方法、画像処理システム、画像処理装置、及びコンピュータプログラム | |
JP2006113001A (ja) | 写真測量による3次元計測方法及び装置 | |
JP4135934B2 (ja) | 電子機器 | |
JP2010154461A (ja) | 投影画像変換器及びプロジェクタ装置 | |
JP4324271B2 (ja) | 画像処理装置およびその方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20061107 |