JP2006338284A - 画像合成装置及び画像合成方法 - Google Patents

画像合成装置及び画像合成方法 Download PDF

Info

Publication number
JP2006338284A
JP2006338284A JP2005161540A JP2005161540A JP2006338284A JP 2006338284 A JP2006338284 A JP 2006338284A JP 2005161540 A JP2005161540 A JP 2005161540A JP 2005161540 A JP2005161540 A JP 2005161540A JP 2006338284 A JP2006338284 A JP 2006338284A
Authority
JP
Japan
Prior art keywords
image
enlarged
information
whole
orthographic projection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2005161540A
Other languages
English (en)
Other versions
JP4776983B2 (ja
Inventor
Manabu Kondo
学 近藤
Kazumi Nakayama
和美 中山
Hideo Kinoshita
英雄 木ノ下
Yasuhiro Michimasa
泰弘 道正
Toshio Motoma
敏雄 源間
Hideshi Hosaka
秀史 保坂
Reiji Takahei
玲児 高幣
Shinji Takeda
信治 武田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kozo Keikaku Engineering Inc
Tokyo Power Technology Ltd
Tokyo Electric Power Company Holdings Inc
Original Assignee
Tokyo Electric Power Co Inc
Kozo Keikaku Engineering Inc
Toden Kogyo Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Electric Power Co Inc, Kozo Keikaku Engineering Inc, Toden Kogyo Co Ltd filed Critical Tokyo Electric Power Co Inc
Priority to JP2005161540A priority Critical patent/JP4776983B2/ja
Publication of JP2006338284A publication Critical patent/JP2006338284A/ja
Application granted granted Critical
Publication of JP4776983B2 publication Critical patent/JP4776983B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Image Processing (AREA)

Abstract

【課題】撮影対象物を分割して撮影した拡大画像を合成して得られる撮影対象物の全体画像を高精細の画像とすることができるようにする。
【解決手段】全体正射投影手段11により、画角を広げて撮影された傾きを持つ全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像が正射投影され、位置検出手段12により、画角を狭めて撮影された拡大画像の、全体画像上での位置が検出され、拡大正射投影手段13により、その位置情報を元に拡大画像の傾きが検出され、その傾きに基づき拡大画像が正射投影され、合成手段15により、位置情報を元に、拡大画像を合成して正射投影の全体画像が得られるようにした。
【選択図】図1

Description

本発明は、たとえばデジタルスチルカメラで撮影した複数枚の撮影画像を合成する画像合成装置及び画像合成方法に関する。
画像の合成においては、広域の画像上に画角の違う高解像度の映像を落とし込むことで行われる合成方法がある。この場合の入力条件としては、広域が撮影された画像の撮影条件が整っていること、極力高解像度の画像は同じ位置で撮影されていること等が上げられる。
このような画像の合成を行うものとして、特許文献1では、被検査物を複数に分割して撮像する撮像手段と、撮像手段により撮像された複数画像データに、該画像データの各々に対応する位置情報や撮影情報を画像データ付加情報として付加された画像データを記憶する画像データ記憶手段と、被検査物の所望の検査位置及びその周辺の複数の画像データとをつなぎ合わせ画像データとして表示する画像データ選択表示手段と、を備え、作業者が表示されたつなぎ合わせ画像データ上で構造物の劣化度合いを検査する構造物用検査装置を提案している。
特開平11−132961号公報
ところが、上述した特許文献1に示されるものでは、複数の画像データをつなぎ合わせるための具体的な手段を備えていないため、撮影対象物を分割して撮影した拡大画像を合成して得られる撮影対象物の全体画像を高精細の画像とすることができないという問題があった。
本発明は、このような状況に鑑みてなされたものであり、上記問題点を解決することができる画像合成装置及び画像合成方法を提供することを目的とする。
本発明の画像合成装置は、撮影対象物を分割して撮影した拡大画像を合成して前記撮影対象物の全体画像を得る画像合成装置であって、画角を広げて撮影された傾きを持つ前記全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、前記全体画像を正射投影する全体正射投影手段と、画角を狭めて撮影された前記拡大画像の、前記全体画像上での位置を検出する位置検出手段と、該位置検出手段にて検出された位置の情報である位置情報を元に前記拡大画像の傾きを検出し、その傾きに基づき前記拡大画像を正射投影する拡大正射投影手段と、前記位置情報を元に、前記拡大画像を合成して正射投影の前記全体合成画像を得る画像合成手段とを備えることを特徴とする。
また、前記全体正射投影手段は、前記全体画像の正射投影を、前記矩形情報と前記撮影対象物の縦横の寸法とを元に行い、前記位置検出手段は、前記拡大画像の、前記全体画像上での位置をテンプレートマッチングで取得し、前記拡大正射投影手段は、前記拡大画像の正射投影を、前記全体画像に対する前記拡大画像の寸法比を示すスケール情報と前記全体画像の矩形情報と縦横寸法とを元に行い、前記画像合成手段は、前記スケール情報を用いて前記拡大画像を合成するようにすることができる。
また、前記全体正射投影手段は、透視3点問題を利用し、前記矩形情報から撮影手段のレンズ中心を原点とした前記撮影対象物の壁面の3次元情報を取得し、前記位置検出手段は、前記拡大画像を、前記撮影手段のレンズ中心からの焦点距離情報を元に前記全体画像のスケールに合わせて縮小し、縮小した画像の全体画像上での位置を各画像のピクセル情報を検索して算出するようにすることができる。
また、前記位置検出手段は、前記拡大画像を、一定範囲内で移動及び/又は回転させ、併せてサイズ拡大又はサイズ縮小し、前記拡大画像と前記全体画像とのRGB値の二乗誤差が最小となる前記位置情報を得るようにすることができる。
また、前記全体画像と前記拡大画像の色成分分析を行い、前記拡大画像の色を前記全体画像の色にシフトさせる色補正手段を備えるようにすることができる。
本発明の画像合成方法は、撮影対象物を分割して撮影した拡大画像を合成して前記撮影対象物の全体画像を得る画像合成方法であって、画角を広げて撮影された傾きを持つ前記全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、前記全体画像を正射投影し、画角を狭めて撮影された前記拡大画像の、前記全体画像上での位置を検出し、該位置検出手段にて検出された位置の情報である位置情報を元に前記拡大画像の傾きを検出し、その傾きに基づき前記拡大画像を正射投影し、前記位置情報を元に、前記拡大画像を合成して正射投影の前記全体合成画像を得ることを特徴とする。
また、前記全体画像の正射投影を、前記矩形情報と前記撮影対象物の縦横の寸法とを元に行い、前記拡大画像の、前記全体画像上での位置をテンプレートマッチングで取得し、前記拡大画像の正射投影を、前記全体画像に対する前記拡大画像の寸法比を示すスケール情報と前記全体画像の矩形情報と縦横寸法とを元に行い、前記スケール情報を用いて前記拡大画像を合成するようにすることができる。
また、透視3点問題を利用し、前記矩形情報から撮影手段のレンズ中心を原点とした前記撮影対象物の壁面の3次元情報を取得し、前記拡大画像を、前記撮影手段のレンズ中心からの焦点距離情報を元に前記全体画像のスケールに合わせて縮小し、縮小した画像の全体画像上での位置を各画像のピクセル情報を検索して算出するようにすることができる。
また、前記拡大画像を、一定範囲内で移動及び/又は回転させ、併せてサイズ拡大又はサイズ縮小し、前記拡大画像と前記全体画像とのRGB値の二乗誤差が最小となる前記位置情報を得るようにすることができる。
また、前記全体画像と前記拡大画像の色成分分析を行い、前記拡大画像の色を前記全体画像の色にシフトさせるようにすることができる。
本発明では、全体正射投影手段により、画角を広げて撮影された傾きを持つ全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像が正射投影され、位置検出手段により、画角を狭めて撮影された拡大画像の、全体画像上での位置が検出され、拡大正射投影手段により、その位置情報を元に拡大画像の傾きが検出され、その傾きに基づき拡大画像が正射投影され、合成手段により、位置情報を元に、拡大画像を合成して正射投影の全体画像が得られる。
本発明によれば、全体正射投影手段により、画角を広げて撮影された傾きを持つ全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像が正射投影され、位置検出手段により、画角を狭めて撮影された拡大画像の、全体画像上での位置が検出され、拡大正射投影手段により、その位置情報を元に拡大画像の傾きが検出され、その傾きに基づき拡大画像が正射投影され、合成手段により、位置情報を元に、拡大画像を合成して正射投影の全体画像が得られるようにしたので、撮影対象物を分割して撮影した拡大画像を合成して得られる撮影対象物の全体画像を高精細の画像とすることができる。
本実施形態では、全体正射投影手段により、画角を広げて撮影された傾きを持つ全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像が正射投影され、位置検出手段により、画角を狭めて撮影された拡大画像の、全体画像上での位置が検出され、拡大正射投影手段により、その位置情報を元に拡大画像の傾きが検出され、拡大正射投影手段により、その傾きに基づき拡大画像が正射投影され、合成手段により、位置情報を元に、拡大画像を合成して正射投影の全体画像が得られるようにし、撮影対象物を分割して撮影した拡大画像を合成して得られる撮影対象物の全体画像を高精細の画像とするようにした。
以下、本発明の実施の形態について説明する。
図1は、本発明の画像合成装置の一実施形態を示すブロック図、図2〜図10は、図1の画像合成装置による画像合成方法を説明するための図である。
図1に示すように、画像合成装置10は、デジタルカメラ20による、撮影対象物を分割して撮影した拡大画像を合成して撮影対象物の全体画像を得るものであり、全体正射投影手段11、位置検出手段12、拡大正射投影手段13、色補正手段14、合成手段15を備えている。
全体正射投影手段11は、画角を広げて撮影された傾きを持つ1枚の全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像を正射投影する。また、全体正射投影手段11は、全体画像の正射投影を、矩形情報と撮影対象物の縦横の寸法とを元に行う。また、全体正射投影手段11は、透視3点問題を利用し、矩形情報からデジタルカメラ20を原点とした撮影対象物の壁面の3次元情報を取得する。なお、全体正射投影手段11による正射投影の詳細については、後述する。
位置検出手段12は、画角を狭めて撮影されたn枚の拡大画像の、全体画像上での位置を検出する。また、位置検出手段12は、拡大画像の、全体画像上での位置をテンプレートマッチングで取得する。また、位置検出手段12は、拡大画像を、デジタルカメラ20からの焦点距離情報を元に全体画像のスケールに合わせて縮小し、縮小した画像の全体画像上での位置を各画像のピクセル情報を検索して算出する。また、位置検出手段12は、拡大画像を、一定範囲内で移動及び/又は回転させ、併せてサイズ拡大又はサイズと縮小し、拡大画像と全体画像との差が最小となる位置情報を得る。なお、位置検出手段12による位置検出の詳細については、後述する。
拡大正射投影手段13は、位置検出手段12によって検出された位置情報を元に拡大画像の傾きを検出し、その傾きに基づき拡大画像を正射投影する。また、拡大正射投影手段13は、全体画像に対する拡大画像のスケール情報を取得する。なお、拡大正射投影手段13による正射投影の詳細については、後述する。
色補正手段14は、全体画像と拡大画像の色成分分析を行い、拡大画像の色を全体画像の色にシフトさせる。なお、色補正手段14による色補正の詳細については、後述する。
合成手段15は、位置検出手段12によって検出された位置情報を元に、拡大画像を合成して正射投影の全体画像を得る。
次に、画像合成方法の概要について説明する。
まず、デジタルカメラ20により、図2(a)に示すような対象となる壁面を全体画像(1枚)と、図2(b)(c)に示すような拡大画像(n枚)とを撮影し、入力画像とする。
ここで、デジタルカメラ20での撮影には、次のような条件がある。
(撮影画像の前提条件)
1.撮影画像は、全体画像(1枚)、分割された拡大画像(n枚)とも、同じ場所から撮影すること。
2.撮影画像は、全体画像(1枚)、分割された拡大画像(n枚)とも、撮影時の焦点距離が全て既知であること。
3.全体画像中に含まれる矩形部位の実際の寸法が既知であること。
なお、最近のデジタルカメラ20では、撮影画像ファイルに焦点距離情報が記録されているため、その撮影画像ファイルから焦点距離情報を取得するようにすればよい。
次いで、図2(d)での全体画像中の矩形情報(ピクセル座標と実際の縦×横の寸法)を元に、図2(e)のように正射投影する。この場合、透視3点問題を利用し、矩形情報からデジタルカメラ20を原点とした壁面の3次元情報を取得すればよい。
次いで、図2(f)に示すように、拡大画像の全体画像での位置を取得する。この場合、撮影した拡大画像の全体画像上での位置(ズレ)をテンプレートマッチングで取得することができる。
次いで、図2(g)に示すように、図2(e)での正射投影と、図2(f)での拡大画像の位置合わせの結果を用いて拡大画像の正射投影を行い、拡大画像(高精細画像)上での全体画像に対する位置とスケール情報とを取得する。この場合、図2(f)で取得した全体画像に対する各拡大画像のズレを基に、図2(e)での3次元情報を用いて正射投影を行うことで、拡大画像上の全体画像での位置、実際の寸法を取得することができる。
正射投影方法は、次の通りである。
正射投影した画像を作成するために、壁面の直行する4隅の位置から、透視3点問題を使用して壁面の3次元座標を取得する。基準点を用いた立体認識の方法である透視3点問題では、画像中の点の3次元空間中の座標が既知の場合、それらの点を基準として用いることで、3次元データを再編成することができる場合がある。
そこで、本実施形態では、図3に示すように、壁面を斜めから撮影した画像から、視点Oと対象物体の3点A,B,Cまでの距離la,lb,lcを未知パラメータとして解き、視点Oの3次元座標と視線の方向とを求めるようにしている。
ただし、解を得るために、次の事柄が既知であるとした条件がある。
1.辺AB,BC,対角線CAの長さ(直交する撮影壁面の寸法)
2.デジタルカメラ20の焦点距離(画像面と視点Oの間の距離)
3.視点Oから△ABCの各辺を見込む角θab,θbc,θca(これは、画像面の各点a,b,cの座標を用い、余弦定理により算出可能)
上記の3点は、それぞれ既知であるため、3次元座標を取得することができる。
次に、壁面の3次元座標の算出方法について説明する。
図4に示すように、視点Oから対象物体の3点A,B,Cまでの距離la,lb,lcを未知数とする。ここで、対角線AC,BDの交点をP、線分AP、CPの長さをl、∠AOP、∠COP、∠APOをそれぞれα、β、γとすると、正弦定理により、la,lcは数1のように表される。

ここで、数2の余弦定理を用いて、数3にてlaを求めることができる。




このとき、視点Oと壁面の対角線間の角度α(∠AOP)、β(∠COP)は画像上の矩形4隅のピクセル座標である矩形情報より、辺の長さlは壁面の寸法から算出できる。以上の算出方法を用いて、各点A,Cまでの距離la,lcを求めることができ、点Bまでの距離lbも同様の算出方法で求めることができる。
物体の各点A,B,Cまでの距離la,lb,lcが求められた後、視点Oから画像面上の各点a,b,cまでの距離ka,kb,kcとの比と、各点a,b,cの画像面の座標(xa,ya,za)、(xb,yb,zb)、(xc,yc,zc)から、数(座標)4を用いて視点Oを原点とした壁面の座標値を求める。

これらの3次元座標データを用いることで、正射投影することができる。
ただし、計算に使用した3点(A,B,C)によっては、上記の数3のように、右辺の分母がゼロの場合やla<0という場合があり、正確な値を算出できない場合がある。
そこで、このような場合には、4点中別の3点の組み合わせ(たとえばA,B,D)を用いて再計算することにより、できる限り適切な解が算出されるようにすることができる。
ここで、画像の3次元座標を取得するための手順を、図5のフローにより説明する。
まず、画像上の矩形領域の座標から、画像上の矩形の中心座標を算出する(ステップS1)。
次いで、視点と画像上の矩形の中心座標、2点の矩形座標と実際の距離から、視点と、壁面上の2点の実際の距離を算出する(ステップS2)。
次いで、算出時に異常がある場合(ステップS3)、別の2点の組み合わせを選択し(ステップS4)、(ステップS2)に戻って実際の距離を算出する。これに対し、(ステップS3)において、異常がない場合、残り2点の組み合わせにて(ステップS2)と同様の処理を行い、実際の距離を算出する(ステップS5)。
次いで、算出時に異常がある場合(ステップS6)、2点の3次元座標をもとに、壁面の矩形が直角であることを利用して、残りの2点の3次元座標を算出する(ステップS7)。これに対し、(ステップS6)において、異常がない場合、算出した壁面上の距離と焦点距離をもとに、視点を原点とした壁面の4点の3次元座標を取得する(ステップS8)。
次に、拡大画像の全体画像での位置を取得する位置取得方法(テンプレートマッチング)について説明する。
まず、撮影した拡大画像を、焦点距離情報を元に全体画像のスケールに合わせて縮小させ、縮小させた画像の全体画像上での位置(ズレ)を、各画像のピクセル情報をサーチして算出する(テンプレートマッチング)。
テンプレートマッチングの手法は、次の通りである。
図6に示すように、全体画像I上で、拡大画像Iを一定範囲で移動させ(移動量d)、重なり部(M×N)において、数5により画素当たりの二乗誤差(E)を求める。Eが最も小さいときの移動量(d)を、2つの画像の最適な位置とする。

ただし、次のような理由から、単純なRGB値どうしの判定では適切な解(位置)が算出できない場合がある。
1.撮影時の露出の違いなどにより、全体画像と拡大画像の同一箇所の色が違う。
2.前提条件として撮影位置は固定としているが、運用上カメラの原点がずれる場合があり、焦点距離情報に基づいた画像の縮小時に誤差が生じる(この状態は、図8(a)(b)を参照)。
そこで、上記1.を解消するために、全体画像と拡大画像の色成分分析を行い、自動的に近い色に拡大画像をシフトさせる色補正処理を追加している。この場合の処理を、図7のフローにより説明する。
まず、拡大画像のRGB値の各平均値を算出する(ステップS1)。次いで、拡大画像エリアのバックグランド領域(全体画像のエリアの一部)のRGB値の平均値を算出する(ステップS2)。次いで、(ステップS1)での平均値と、(ステップS2)での平均値との差により、色差を抽出する(ステップS3)。そして、拡大画像の色差分だけRGB値をシフトさせる(ステップS4)。
また、上記2.を解消するために、テンプレートマッチング時にスケールの補正を考慮して、拡大画像を一定範囲内での移動、回転に加えて、サイズの変更(拡大、縮小)を行い、拡大画像と全体画像の差が最小のときを正解とする。
この場合の処理を、図9のフローにより説明する。
まず、探索範囲が設定されると、スケールを変えて二乗誤差を算出する(ステップS1)。次いで、ある位置での二乗誤差を求め(ステップS2)、RGB値の二乗誤差を計算(回転も考慮)し(ステップS3)、拡大画像の矩形領域ピクセル数分繰り返す(ステップS4)。
ここで、探索範囲内のある位置での二乗誤差sDiffが最小二乗誤差minDiffより小さいか否かが判断され(ステップS5)、小さい場合には、minDiff=sDiffとして位置を保存する(ステップS6)。そして、スケールの変更回数分二乗誤差の算出を繰り返し(ステップS7)、その算出を終えると二乗誤差の最小位置が決定される(ステップS8)。
次に、拡大画像の正射投影について説明する。
図10は、図3で説明したデジタルカメラ20を原点とする3次元座標と、図6で説明した全体画像に対する拡大画像のズレを元に、拡大画像の正射投影を行う場合を示している。
このような拡大画像の正射投影を行うことで、正射投影画像上で、全体画像に対する拡大画像の位置や、1ピクセル当たり何mmに相当するのかを取得することができる。
このように、本実施形態では、全体正射投影手段11により、画角を広げて撮影された傾きを持つ全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、全体画像が正射投影され、位置検出手段12により、画角を狭めて撮影された拡大画像の、全体画像上での位置が検出され、拡大正射投影手段13により、その位置情報を元に拡大画像の傾きが検出され、その傾きに基づき拡大画像が正射投影され、合成手段15により、位置情報を元に、拡大画像を合成して正射投影の全体画像が得られるようにしたので、撮影対象物を分割して撮影した拡大画像を合成して得られる撮影対象物の全体画像を高精細の画像とすることができる。
ちなみに、横方向のみ及び縦方向のみのパノラマ合成をサポートするアプリケーションは世の中に数多く存在している。また、正射投影をパンアップ、パンダウン(上下方向のパンニング)のみサポートしたアプリケーションも存在している。画角領域を制限した複数画像の合成を実現しているアプリケーションも存在している。
これに対し、本実施形態でのアルゴリズムの複合体は、横方向と縦方向の両者のパノラマ合成を同時に実現し(撮影機材の傾き補正+透視3点問題と分割合成のアルゴリズムにて解決)、同様に上パン、下パンのミックスされた画像の正射投影を実現している点で、従来の合成手法とは異なっている。
また、本実施形態での合成手法は、撮影条件や入力条件も、レンズ長と矩形領域情報の入力のみであり、このような制限された入力条件の少ない状況で、他のアプリケーションで実現し得ない解を得ることができる点でユニークであり、とくにカメラ撮影時の色誤差、撮影位置の誤差を補正する処理がユニークである。
なお、本実施形態で採用したアルゴリズムそのものは一般的なものであると通常は解釈されるであろうが、たとえばコンクリート壁面の劣化診断に応用されているケースは少なく、解を求めるツールとして極めて有効である。
なお、応用例としては、高解像度エリアマップの作成に適用できる。
すなわち、現状では広域のマップを高解像度で生成することはできないが、本手法の応用で、高い解像度での広域のエリアマップを生成することが可能となる。また、傾き・画角補正のアルゴリズムが入っていることでヘリコプター等での空撮にも対応可能である。
また、画像を用いた多重解像度の3次元モデル空間の作成に適用できる。
すなわち、実際に撮影した画像を用いた3次元モデル空間の作成は非常に面倒で時間のかかる作業となっている。簡単に3次元モデル空間の作成を謳うソフトウェアでも、いくつかのユーザによる処理が必要となる。
この場合、本手法を応用し、予めサイズを定めた矩形マーカを、たとえば室内の各面に貼り、デジタル画像で撮影することで、自動でマーカを認識し、室内の3次元モデル空間を作成することができる。
さらに、室内の各面の拡大画像を撮影し、本手法を用いて位置認識させることで、より高解像度のテクスチャを作成することができる。
また、DVカメラを用いた壁面画像の作成に適用できる。
すなわち、本手法のアルゴリズムを用いることで、DVカメラで撮影した動画を元に大きな壁面の高精細画像を作成することができる。撮影する動画は、対象壁面全体と、そこからズームした壁面の拡大映像が連続して撮影されているものとする。本手法のアルゴリズムを用いて、まず全体画像を正射投影し、その後、ズームした画像の全体画像からの位置を検出、正射投影することで、連続した動画から、高精細な壁面の画像を生成することができる。これにより、現場での撮影作業は、通常のデジタルスチルカメラを用いた場合より容易に行うことができる。
本発明の画像合成装置の一実施形態を示すブロック図である。 図1の画像合成装置による画像合成方法を説明するための図である。 図1の画像合成装置による画像合成方法を説明するための図である。 図1の画像合成装置による画像合成方法を説明するための図である。 図1の画像合成装置による画像合成方法を説明するためのフローチャートである。 図1の画像合成装置による画像合成方法を説明するための図である。 図1の画像合成装置による画像合成方法を説明するためのフローチャートである。 図1の画像合成装置による画像合成方法を説明するための図である。 図1の画像合成装置による画像合成方法を説明するためのフローチャートである。 図1の画像合成装置による画像合成方法を説明するための図である。
符号の説明
10 画像合成装置
11 全体正射投影手段
12 位置検出手段
13 拡大正射投影手段
14 色補正手段
15 合成手段
20 デジタルカメラ(撮影手段)

Claims (10)

  1. 撮影対象物を分割して撮影した拡大画像を合成して前記撮影対象物の全体画像を得る画像合成装置であって、
    画角を広げて撮影された傾きを持つ前記全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、前記全体画像を正射投影する全体正射投影手段と、
    画角を狭めて撮影された前記拡大画像の、前記全体画像上での位置を検出する位置検出手段と、
    該位置検出手段にて検出された位置の情報である位置情報を元に前記拡大画像の傾きを検出し、その傾きに基づき前記拡大画像を正射投影する拡大正射投影手段と、
    前記位置情報を元に、前記拡大画像を合成して正射投影の全体合成画像を得る画像合成手段とを備える
    ことを特徴とする画像合成装置。
  2. 前記全体正射投影手段は、前記全体画像の正射投影を、前記矩形情報と前記撮影対象物の縦横の寸法とを元に行い、
    前記位置検出手段は、前記拡大画像の、前記全体画像上での位置をテンプレートマッチングで取得し、
    前記拡大正射投影手段は、前記拡大画像の正射投影を、前記全体画像に対する前記拡大画像の寸法比を示すスケール情報と前記全体画像の矩形情報と縦横寸法とを元に行い、
    前記画像合成手段は、前記スケール情報を用いて前記拡大画像を合成する
    ことを特徴とする請求項1に記載の画像合成装置。
  3. 前記全体正射投影手段は、透視3点問題を利用し、前記矩形情報から撮影手段のレンズ中心を原点とした前記撮影対象物の壁面の3次元情報を取得し、
    前記位置検出手段は、前記拡大画像を、前記撮影手段のレンズ中心からの焦点距離情報を元に前記全体画像のスケールに合わせて縮小し、縮小した画像の全体画像上での位置を各画像のピクセル情報を検索して算出する
    ことを特徴とする請求項1又は2に記載の画像合成装置。
  4. 前記位置検出手段は、前記拡大画像を、一定範囲内で移動及び/又は回転させ、併せてサイズ拡大又はサイズ縮小し、前記拡大画像と前記全体画像とのRGB値の二乗誤差が最小となる前記位置情報を得ることを特徴とする請求項1〜3のいずれかに記載の画像合成装置。
  5. 前記全体画像と前記拡大画像の色成分分析を行い、前記拡大画像の色を前記全体画像の色にシフトさせる色補正手段を備えることを特徴とする請求項1〜4のいずれかに記載の画像合成装置。
  6. 撮影対象物を分割して撮影した拡大画像を合成して前記撮影対象物の全体画像を得る画像合成方法であって、
    画角を広げて撮影された傾きを持つ前記全体画像から得られる、全体画像の矩形4隅のピクセル座標である矩形情報と縦横寸法とに基づき、前記全体画像を正射投影し、
    画角を狭めて撮影された前記拡大画像の、前記全体画像上での位置を検出し、
    該位置検出手段にて検出された位置の情報である位置情報を元に前記拡大画像の傾きを検出し、その傾きに基づき前記拡大画像を正射投影し、
    前記位置情報を元に、前記拡大画像を合成して正射投影の前記全体合成画像を得る
    ことを特徴とする画像合成方法。
  7. 前記全体画像の正射投影を、前記矩形情報と前記撮影対象物の縦横の寸法とを元に行い、
    前記拡大画像の、前記全体画像上での位置をテンプレートマッチングで取得し、
    前記拡大画像の正射投影を、前記全体画像に対する前記拡大画像の寸法比を示すスケール情報と前記全体画像の矩形情報と縦横寸法とを元に行い、
    前記スケール情報を用いて前記拡大画像を合成する
    ことを特徴とする請求項6に記載の画像合成方法。
  8. 透視3点問題を利用し、前記矩形情報から撮影手段のレンズ中心を原点とした前記撮影対象物の壁面の3次元情報を取得し、
    前記拡大画像を、前記撮影手段のレンズ中心からの焦点距離情報を元に前記全体画像のスケールに合わせて縮小し、縮小した画像の全体画像上での位置を各画像のピクセル情報を検索して算出する
    ことを特徴とする請求項6又は7に記載の画像合成装方法。
  9. 前記拡大画像を、一定範囲内で移動及び/又は回転させ、併せてサイズ拡大又はサイズ縮小し、前記拡大画像と前記全体画像とのRGB値の二乗誤差が最小となる前記位置情報を得ることを特徴とする請求項6〜8のいずれかに記載の画像合成装方法。
  10. 前記全体画像と前記拡大画像の色成分分析を行い、前記拡大画像の色を前記全体画像の色にシフトさせることを特徴とする請求項6〜9のいずれかに記載の画像合成方法。

JP2005161540A 2005-06-01 2005-06-01 画像合成装置及び画像合成方法 Active JP4776983B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005161540A JP4776983B2 (ja) 2005-06-01 2005-06-01 画像合成装置及び画像合成方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005161540A JP4776983B2 (ja) 2005-06-01 2005-06-01 画像合成装置及び画像合成方法

Publications (2)

Publication Number Publication Date
JP2006338284A true JP2006338284A (ja) 2006-12-14
JP4776983B2 JP4776983B2 (ja) 2011-09-21

Family

ID=37558795

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005161540A Active JP4776983B2 (ja) 2005-06-01 2005-06-01 画像合成装置及び画像合成方法

Country Status (1)

Country Link
JP (1) JP4776983B2 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2011065169A1 (ja) 2009-11-26 2011-06-03 株式会社 日立製作所 画像撮影システム、画像撮影方法、および画像撮影プログラムを格納する記憶媒体
JP2014106888A (ja) * 2012-11-29 2014-06-09 Brother Ind Ltd 作業補助システムおよびプログラム
KR101411317B1 (ko) 2008-04-30 2014-06-25 삼성전자주식회사 디지털 영상 처리기에서 촬영 범위 확대 장치 및 방법
JP2016039424A (ja) * 2014-08-06 2016-03-22 日本電気株式会社 画像生成システム、合成画像出力方法、画像切出位置検出装置、画像切出位置を検出する方法、及びプログラム
JPWO2021199793A1 (ja) * 2020-03-31 2021-10-07

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05130339A (ja) * 1991-11-01 1993-05-25 Fuji Xerox Co Ltd 画像読取方法及び画像処理方法
JPH11132961A (ja) * 1997-10-29 1999-05-21 Nikon Corp 構造物用検査装置
JP2002328096A (ja) * 2001-04-27 2002-11-15 Tokyo Electric Power Co Inc:The 構造物に形成されたひび割れ欠陥検出プログラム、ひび割れ欠陥検出方法及びひび割れ欠陥検出システム
JP2004318790A (ja) * 2003-04-16 2004-11-11 Im Soft Kk 構造物用検査装置及び検査方法、並びに記録媒体

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05130339A (ja) * 1991-11-01 1993-05-25 Fuji Xerox Co Ltd 画像読取方法及び画像処理方法
JPH11132961A (ja) * 1997-10-29 1999-05-21 Nikon Corp 構造物用検査装置
JP2002328096A (ja) * 2001-04-27 2002-11-15 Tokyo Electric Power Co Inc:The 構造物に形成されたひび割れ欠陥検出プログラム、ひび割れ欠陥検出方法及びひび割れ欠陥検出システム
JP2004318790A (ja) * 2003-04-16 2004-11-11 Im Soft Kk 構造物用検査装置及び検査方法、並びに記録媒体

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101411317B1 (ko) 2008-04-30 2014-06-25 삼성전자주식회사 디지털 영상 처리기에서 촬영 범위 확대 장치 및 방법
WO2011065169A1 (ja) 2009-11-26 2011-06-03 株式会社 日立製作所 画像撮影システム、画像撮影方法、および画像撮影プログラムを格納する記憶媒体
JP2014106888A (ja) * 2012-11-29 2014-06-09 Brother Ind Ltd 作業補助システムおよびプログラム
JP2016039424A (ja) * 2014-08-06 2016-03-22 日本電気株式会社 画像生成システム、合成画像出力方法、画像切出位置検出装置、画像切出位置を検出する方法、及びプログラム
JPWO2021199793A1 (ja) * 2020-03-31 2021-10-07
WO2021199793A1 (ja) * 2020-03-31 2021-10-07 日本電気株式会社 劣化診断装置、劣化診断システム、及び、記録媒体
JP7364045B2 (ja) 2020-03-31 2023-10-18 日本電気株式会社 劣化診断装置、劣化診断システム、劣化診断方法、及び、プログラム

Also Published As

Publication number Publication date
JP4776983B2 (ja) 2011-09-21

Similar Documents

Publication Publication Date Title
JP5770486B2 (ja) 全周画像計測装置
USRE45785E1 (en) Virtual reality camera
JP4832878B2 (ja) 画像合成処理装置及び方法
Barazzetti et al. Can we use low-cost 360 degree cameras to create accurate 3D models?
US7317558B2 (en) System and method for image processing of multiple images
JP4508049B2 (ja) 360°画像撮影装置
JP5740884B2 (ja) 繰り返し撮影用arナビゲーション及び差異抽出のシステム、方法及びプログラム
US20150116691A1 (en) Indoor surveying apparatus and method
JP2005094048A (ja) 画像補正機能付撮影装置及び方法、並びに撮影装置及び方法
WO2022242395A1 (zh) 图像处理方法、装置、电子设备和计算机可读存储介质
JP2017058843A (ja) 画像処理装置、画像処理方法および画像処理用プログラム
JP4776983B2 (ja) 画像合成装置及び画像合成方法
JP2016099235A (ja) 正置画像処理システムおよび構造物維持管理業務システム
US20090059018A1 (en) Navigation assisted mosaic photography
JP2008216158A (ja) 変位計測装置
JP2009253715A (ja) カメラ校正装置、カメラ校正方法、カメラ校正プログラムおよびそのプログラムを記録した記録媒体
JP7192526B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP6099281B2 (ja) 書籍読み取りシステム及び書籍読み取り方法
US8532432B2 (en) Mobile communication terminal having image conversion function and method
JP4135934B2 (ja) 電子機器
JP7259498B2 (ja) 情報処理装置、情報処理方法及びプログラム
US11900635B2 (en) Organic camera-pose mapping
JP4796295B2 (ja) カメラアングル変化の検出方法および装置およびプログラム並びにこれを利用した画像処理方法および設備監視方法および測量方法およびステレオカメラの設定方法
US20230370562A1 (en) Image recording device
JP2004340753A (ja) キャリブレーションチャート画像表示装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080528

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110119

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110125

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110323

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110621

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110629

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4776983

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140708

Year of fee payment: 3

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313115

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313117

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350