JP2017034576A - 画像撮影システム、撮影装置、および画像処理装置 - Google Patents
画像撮影システム、撮影装置、および画像処理装置 Download PDFInfo
- Publication number
- JP2017034576A JP2017034576A JP2015154692A JP2015154692A JP2017034576A JP 2017034576 A JP2017034576 A JP 2017034576A JP 2015154692 A JP2015154692 A JP 2015154692A JP 2015154692 A JP2015154692 A JP 2015154692A JP 2017034576 A JP2017034576 A JP 2017034576A
- Authority
- JP
- Japan
- Prior art keywords
- marker
- image
- facing
- laser
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Accessories Of Cameras (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
Abstract
【課題】傾斜した被写体の撮影画像からの正対化画像への変換の簡便化を図ること。【解決手段】撮影装置は、被写体を撮影するカメラと、撮影領域に少なくとも4地点にマーカを付与し、そのマーカの3次元座標を導出するための距離あるいはマーカ付与のパン角度あるいはチルト角度などの物理パラメータが計測可能なマーカ付与部と、を有し、マーカ付与地点の画像位置にマーカが付与されたマーカ画像とマーカが付与されていないマーカ無し画像を撮影し、画像処理装置では、マーカ画像のマーカ像座標と3次元座標から正対化画像のマーカ座標を求め、これらから正対化画像への投影変換補正値導出し、これをマーカ無し画像に適用し、正対化画像を生成する。【選択図】図1
Description
本発明は、カメラで撮影した被写体の1箇所または連続的な複数個所の撮影画像を正面から見た正対化画像に変換する撮影システム、撮影装置および画像処理装置に関する。
近年、高度成長期に建築されたビルや橋梁、トンネル、ダムなどのコンクリート構造物が耐用年数に達し始めたため、これら構造物の損傷状態を点検し、修復や補修の必要性を判定する必要性が増大している。従来の構造物の損傷状態の点検において、点検作業員が地上や路上から容易には構造物を点検できない場合には、足場を組んだり、橋梁点検車などのクレーンの先にあるデッキに乗り込んだりして、点検作業員が高所や橋の下などの点検対象の近接目視で観察していた。しかし、近年では、足場構築や点検車輌利用の費用や時間の削減と点検作業員の安全性確保のため、カメラ撮影による観察技術が導入されてきている。
構造物の損傷状態の点検では、点検範囲は、例えば数[m]〜数十[m]と広く、点検すべき亀裂幅は、例えば髪の毛よりも細い0.2[mm]幅などのように細かい。単一の撮影画像では、広範囲を撮影すると解像度が不足する、一方、解像度を高くすると狭い範囲しか撮影できない。そこで、カメラ撮影による観察技術としては、カメラを構造物から離れた見通しの効く安定した地点に設置して遠隔から撮影した複数の高解像度の画像を使って観察することにより、近接目視を代替することが進められている。
遠隔からカメラで撮影するときには、必ずしも被写体表面に正対した位置で撮影できるとは限らず、傾斜した撮影角度で撮影する場面が多々ある。傾斜して撮影した画像では遠近効果により画像の寸法が歪むために正しいひび割れの長さや幅を画面から測ることができなくなる。特に、遠隔から広い範囲に亘り高精細な画像を得るためにマルチ画像撮影すると、必ずこの傾斜撮影が付きまとう。
遠隔地点から撮影した画像を被写体に正対化した画像に合成する方法としては、特許文献1にカメラの光軸方向での被写体までの距離、方位角、仰角を計測しならが、隣接する互いの撮影領域の一部が重複するように最低3箇所の撮影領域を撮影して、重複領域の画像情報を使って合成した画像について得られる3つのカメラの光軸上の被写体点の座標位置から、三角関数処理を行い、正対画像化することが記載されている。特許文献1の[0009]には、カメラの光軸(1)に対する測定点(S2),(S2),(S3)までの距離と水平角、垂直角を計算して被調査面(A)の傾斜角を求め、演算処理により被調査面(A)を正面から正対して見た画像となるように表示するとある。また、装置構成は、特許文献1の図3に見るように垂直ロータリーインデックス、ロータリエンコーダや水平ロータリーインデックスやロータリエンコーダ、光学距離計に連動させるようにカメラを載せて一体化した光軸を基準にした構成である。また、遠隔撮影ではないが、傾斜した撮影画像の正対化技法にとしては特許文献2に、被写体に照射した光の被写体からの反射光の向きに基づいて照射点の3次元位置を特定、具体的にはカメラ光軸と光照射方向とカメラと光源の間隔から三角測量し、その3点の三次元座標に基づいて基準画像の座標変換処理を行い正対画像化することが示されている。
詳しい斜め撮影による歪みの補正に関して、特許文献2に示されている。特許文献2の[0048]〜[0059]に記載された手法について特許文献2の図5および図6を参照して説明する。撮影カメラの視点を原点Oとする画像処理装置基準で取得した被写体面上の3点の反射点の3次元座標を算出して、平面方程式の係数パラメータ(a,b,c)を求める。具体的には、撮影画像の画像座標(x,y)に対応する視線の向き(カメラの光軸:z軸)として撮影原点Oと光学中心の距離fとする中心射影モデルとし、装置座標のz軸を被投影面(被写体面)の単位法線ベクトル(a,b,c)に変換するための行列Rを求め、パラメータ(a,b,c)を用いて、画像座標中の画像の1点pへの3次元ベクトルを延長して被投影面との交差する点Pを座標変換後の画像座標として、光学中心Oから被投影面までの距離を表す拡大係数kを用いて特許文献2の式(9)で表し、さらに、回転行列Rを用いて、被写体面に正対させたときの3次元ベクトルP’に変換することで、補正変換後の(X,Y)を特許文献2の式(11)として求めている。
撮影カメラの撮影画像座標に対して被投影面への投射を行うために撮影方向(カメラの光軸)を基準として、被写体面の平面方程式を求め、被写体面上で法線上の視点から法線と逆方向に見た投射画像の座標に変換する基本的な手法を述べている。さらに、特許文献2の[0064]〜[0067]には互いに重複した領域を持つ2つの隣接画像の合成方法について示されている。ここでは重複した領域の被写体像からブロックマッチングにより両画像の共通の特徴点を4点検出して隣接画像に基準画像で求めた正対化の補正値を特許文献2の式(13)における8つのパラメータを求めて貼り合わせることで、最初に撮影した被写体面に正対する画像へ射影変換されることが記載されている。
両者の文献で共通していることは、カメラの撮影方向を基準とする座標系を使っている点である。実際には、カメラ自身に距離計や角度計を直接置くことができないために、カメラの周囲や光源との三角法などの間接的な構成を使って座標系を間接的に構成するしかない。カメラ自体が座標を求める機械系の中心として計測系を含む必要あるために、大きな望遠カメラを使う場合には全体の装置が大掛かりになる。また、特許文献1では、一部の隣接する撮影領域において重複する共通領域を持たせた3つの別アングルの撮影画像を組み合わせて正対画像化するため、最低3回撮影しないと正対化画像を得ることができない。このため、被写体上の適切な位置に目印がない撮影ではカメラ自身を動かす必要があるため前の撮影領域との重複部分が分からなくなる。これを回避するためにはカメラの撮影方向を正確に制御する仕組みが必要であった。特許文献2では、基準画像に隣接する参照画像の貼り合わせにおいて重複した狭い画像領域の4つ以上の特徴点を得て、基準画像で得た平面上に貼り合わせる手法が示しされているが、この手法において適した特徴点が被写体にあるとは限らないし、狭い領域の4点では合わせ誤差が大きくなる危険性があり、また、原理上に基本画像と参照画像の撮影領域において被写体が全て平坦な同一平面上であれば使えるが、湾曲した構造物表面の合成に適用できない。
構造物の表面を遠隔地点から撮影した画像を正面から実寸の分かる被写体自体の表面画像とした正対化画像を得ること、さらに複数の連続して撮影した隣接画像の正対化した接合画像を容易に、確実に得ることを目的とする。
本願において開示される発明の一側面となる画像撮影システムは、撮影装置と画像処理装置を有する画像撮影システムであって、
前記撮影装置は、被写体の一部の撮影領域を撮影する少なくとも一つのカメラを有するカメラ装置と、前記撮影領域内の少なくとも4つの地点にレーザビームを照射してマーカを付与する少なくとも一つのマーカレーザと、前記付与されたマーカまでのマーカレーザの基準位置からの距離、あるいは、隣接する前記マーカレーザの照射方向の相互のパン角度またはチルト角度、を含む、各付与マーカの3次元座標を得るための物理パラメータを計測する計測部とからなるマーカ付与部と、を有し、前記マーカ付与部により、前記撮影領域の少なくとも4つの前記マーカ付与地点に対して同時または順次にマーカを付与した撮影画像と、同時または順次にマーカを付与しない撮影画像を前記カメラで撮影すると共に前記マーカ付与地点へのマーカの付与毎に前記物理パラメータの計測を実行し、
前記画像処理装置は、前記撮影装置から、前記撮影画像群と前記物理パラメータの計測値を取得する取得部と、前記マーカを付与した撮影画像のマーカ像を構成する画素集合に基づいて、前記撮影画像から前記マーカ像座標を抽出する撮影画像マーカ座標抽出部と、前記物理パラメータの計測値から、前記マーカ像に対応するマーカの3次元座標を導出し、前記3次元座標から前記マーカが構成する被写体表面の平面の座標に変換し、さらに前記被写体表面の平面に正対する特定の視点位置からの透視画像として前記マーカを見たときの正対化画像のマーカ座標を算出する正対化画像マーカ座標算出部、少なくとも4つの前記撮影画像のマーカ像座標と対応する前記正対化画像のマーカ座標から、撮影画像を正対化画像に投影変換するための正対化補正値を算出する正対化補正値算出部、前記正対化補正値を前記マーカ付与地点にマーカを付与しない画像に適用して、マーカ像の写り込みのない前記撮影領域の正対化画像を生成する正対化画像変換部、を有することを特徴とする。
前記撮影装置は、被写体の一部の撮影領域を撮影する少なくとも一つのカメラを有するカメラ装置と、前記撮影領域内の少なくとも4つの地点にレーザビームを照射してマーカを付与する少なくとも一つのマーカレーザと、前記付与されたマーカまでのマーカレーザの基準位置からの距離、あるいは、隣接する前記マーカレーザの照射方向の相互のパン角度またはチルト角度、を含む、各付与マーカの3次元座標を得るための物理パラメータを計測する計測部とからなるマーカ付与部と、を有し、前記マーカ付与部により、前記撮影領域の少なくとも4つの前記マーカ付与地点に対して同時または順次にマーカを付与した撮影画像と、同時または順次にマーカを付与しない撮影画像を前記カメラで撮影すると共に前記マーカ付与地点へのマーカの付与毎に前記物理パラメータの計測を実行し、
前記画像処理装置は、前記撮影装置から、前記撮影画像群と前記物理パラメータの計測値を取得する取得部と、前記マーカを付与した撮影画像のマーカ像を構成する画素集合に基づいて、前記撮影画像から前記マーカ像座標を抽出する撮影画像マーカ座標抽出部と、前記物理パラメータの計測値から、前記マーカ像に対応するマーカの3次元座標を導出し、前記3次元座標から前記マーカが構成する被写体表面の平面の座標に変換し、さらに前記被写体表面の平面に正対する特定の視点位置からの透視画像として前記マーカを見たときの正対化画像のマーカ座標を算出する正対化画像マーカ座標算出部、少なくとも4つの前記撮影画像のマーカ像座標と対応する前記正対化画像のマーカ座標から、撮影画像を正対化画像に投影変換するための正対化補正値を算出する正対化補正値算出部、前記正対化補正値を前記マーカ付与地点にマーカを付与しない画像に適用して、マーカ像の写り込みのない前記撮影領域の正対化画像を生成する正対化画像変換部、を有することを特徴とする。
本発明の代表的な実施の形態によれば、構造物の表面を遠隔地点から撮影した画像を正面から実寸の分かる被写体自体の表面画像とした正対化画像を得ること、さらに複数の連続して撮影した隣接画像の正対化した接合画像を容易に、確実に得ることができる。これにより、被写体から離れた遠隔地点からの撮影により構造物表面のひび割れなどの寸法が容易に正確に計測できる画像が得られ、安全かつ簡単に目視点検ができるようになる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
以降、本発明の実施例を、各図を参照して詳細に説明する。実施例として、被写体構造物としてのコンクリート構造物の表面を、三脚上の雲台に載せたカメラの撮影の方向やズームによる倍率を変えて撮影する撮影装置と画像処理装置からなる画像撮影・画像処理システムを示す。各実施例では、カメラ装置部とマーカ付与部からなる撮影装置と画像処理装置とを含んだシステムを例に挙げて説明するが、撮影装置と画像処理装置とは独立した構成であってもよい。すなわち、画像処理装置と有線通信または無線通信で接続して、撮影装置による撮影後に撮影装置で撮影された画像を撮影現場から離れた地点の画像処理装置に送信してもよい。また、撮影装置にUSBメモリなどの可搬型記憶媒体を接続して撮影画像を可搬型記憶媒体に格納させ、撮影画像を格納した可搬型記憶媒体を画像処理装置に接続することで、画像処理装置が撮影画像を取得することとしてもよい。
また、以下の説明において、同一構成要素が複数存在する場合には、その符号に枝番がつけられる。マーカpを例に挙げると、マーカpが2個ある場合は、マーカp1、マーカp2のように分けて表記する。なお、説明上、複数の同一構成要素を区別しない場合は枝番を省略して、たとえば、マーカpと表記する。
また、時系列な同一構成要素にもその符号に枝番がつけられる。この場合の枝番において「0」は初期位置を示す。マーカp1を例に挙げると、時系列順に、マーカp1−0、p1−1、…、p1−n、p1−(n+1)、…と表記する。なお、nは、移動の時系列を示す値で、0以上の整数である。
図1は、実施例1における画像撮影・画像処理システムの外観を示す説明図である。
基本的な構成は、撮影装置部5と画像処理部6からなる。撮影装置部5は、被写体表面4を撮影するカメラ2とカメラ2を搭載して撮影方向を安定に変えるカメラ雲台15とからなるカメラ装置部7、被写体表面4上にマーカp1〜p4を付与しながらその照射点までの距離を計測する機能を有する2つの距離計測機能付きマーカレーザ3−1と3−2、その2つのマーカレーザ3をセットでその照射方向のパン方向角度を変えて、パン角度を計測するロータリーエンコーダ11と取り付け台18を含むパン方向回転ステージ19、ロータリーエンコーダ11の値をPC(Personal Computer)データとして変換するアダプタ13とからなるマーカ付与部8、カメラ装置部7とマーカ付与部8の動作のタイミングを制御したり、取得された計測情報をPCに取り込んだりする制御部9、からなる。
基本的な構成は、撮影装置部5と画像処理部6からなる。撮影装置部5は、被写体表面4を撮影するカメラ2とカメラ2を搭載して撮影方向を安定に変えるカメラ雲台15とからなるカメラ装置部7、被写体表面4上にマーカp1〜p4を付与しながらその照射点までの距離を計測する機能を有する2つの距離計測機能付きマーカレーザ3−1と3−2、その2つのマーカレーザ3をセットでその照射方向のパン方向角度を変えて、パン角度を計測するロータリーエンコーダ11と取り付け台18を含むパン方向回転ステージ19、ロータリーエンコーダ11の値をPC(Personal Computer)データとして変換するアダプタ13とからなるマーカ付与部8、カメラ装置部7とマーカ付与部8の動作のタイミングを制御したり、取得された計測情報をPCに取り込んだりする制御部9、からなる。
また、画像処理部6は、計測情報と撮影画像を加工して正対化画像を生成するが、制御部9と画像処理部6は本実施例ではPCで実施している。PCの機能、PCによる処理については別の制御回路や処理回路で実現してもよい。本構成図のマーカ付与部6は縦に平行に並んだマーカレーザ3−1と3−2をパン角度方向に回転させることにより、撮影領域10−0の4つのマーカp1〜p4を形成する形態をとる。カメラ雲台15の角度を操作してカメラ2による撮影領域10の位置を変える。例えば、最初にカメラ2の撮影領域10−0を設定しておき、この撮影領域10−0に対して最初にマーカレーザ3−1,3−2のパン角度を調整して、マーカp1,p2を撮影領域10−0の左端に付与して画像を撮影し、次に撮影領域10−0にカメラ2を調整した状態のままで、カメラ2のモニタ画像を見ながらマーカレーザ3−1,3−2のパン角度を移動して、撮影領域10−0の右端にマーカp3,p4としてマーカが付与されるように角度を決めた状態で次の画像を撮影する。同じ撮影領域10−0を撮影した2つのマーカp1〜p4の撮影画像におけるマーカ像座標を得ることができる。
次に、マーカp3,p4を付与した状態でカメラ2のモニタ画像を見ながらカメラ2の雲台15を動かしてマーカp3,p4が次の撮影領域10−1の左端にくるように撮影方向を調整し、次の撮影領域10−1の最初の画像を撮影する。このときのマーカp3,p4は次の撮影領域10−1のマーカp1,p2に対応する。このように、隣接撮影領域10の設定おいてカメラ2の撮影方向の移動前後の共通のマーカp1,p2をモニタ画像で目視確認しながら画像接合のための共通画像領域を確保する。合わせてマーカp1〜p4の付与毎にマーカレーザ3の距離計測機能を使ってマーカp1、p2までの距離を計測すると共にロータリーエンコーダ11によりパン角度を計測し、制御部6に通知する。画像処理部6ではマーカp1〜p4の距離とパン角度からなる3次元座標に関連する物理パラメータの計測値情報とカメラ2で撮影した撮影画像情報を処理して正対化画像を得る。
画像処理装置の詳細については図7以降に説明する。ここでは、基本的な動作例を示すためにモニタ画像を目視確認しながらマーカp付与位置の調整やカメラ2の撮影方向の調整を行う例を示すが、パン方向移動機構に位置制御機構と画像処理ソフトを組み合わせて自動的にパン方向の移動角度の調整することも可能である。
図2に実施例1におけるマーカ付与部8の構成例を示す。
図1にはパン角度回転ステージ19の回転軸に2つのマーカレーザ3−1と3−2を平行に並べた構成の概要を示したが、その他の構成でも同様の機能を実現できるのでそれらの構成例も合わせて示す。(a)に2マーカレーザ平行配置でパン方向に回転させる構成、(b)に2マーカレーザのチルト角度を固定してパン方向に回転させる構成、(c)にマーカレーザ3−2のみのチルト角度が可動でパン方向に回転させる構成を示している。(a)の構成は図1に用いたマーカ付与部8の構成である。最初にこれについて説明する。2マーカレーザ3−1と3−2をパン回転方向に対して垂直な方向であるy軸方向(便宜上、下方向をy軸とする)に間隔L12離して平行にレーザビームを照射するように配置され、レーザ雲台16上に搭載されたパン方向回転ステージ19のロータリーエンコーダ11上の取り付け台18を介して固定されている。マーカレーザ3−1と3−2によるマーカ付与点p1とp2までの距離計測情報はローカル無線17により制御部9に、また、ロータリーエンコーダ11のパン角度計測情報はアダプタ13を介して制御部9に送信される。
図1にはパン角度回転ステージ19の回転軸に2つのマーカレーザ3−1と3−2を平行に並べた構成の概要を示したが、その他の構成でも同様の機能を実現できるのでそれらの構成例も合わせて示す。(a)に2マーカレーザ平行配置でパン方向に回転させる構成、(b)に2マーカレーザのチルト角度を固定してパン方向に回転させる構成、(c)にマーカレーザ3−2のみのチルト角度が可動でパン方向に回転させる構成を示している。(a)の構成は図1に用いたマーカ付与部8の構成である。最初にこれについて説明する。2マーカレーザ3−1と3−2をパン回転方向に対して垂直な方向であるy軸方向(便宜上、下方向をy軸とする)に間隔L12離して平行にレーザビームを照射するように配置され、レーザ雲台16上に搭載されたパン方向回転ステージ19のロータリーエンコーダ11上の取り付け台18を介して固定されている。マーカレーザ3−1と3−2によるマーカ付与点p1とp2までの距離計測情報はローカル無線17により制御部9に、また、ロータリーエンコーダ11のパン角度計測情報はアダプタ13を介して制御部9に送信される。
画像処理部6における画像処理では各付与マーカpの3次元座標を求める必要があり、その座標系と撮影装置部5の各部の構成の関係について説明する。マーカレーザ3−1のレーザビームの照射方向をz軸とする。z軸はパン方向の回転毎に変わるのでn回目の回転時のマーカレーザ3−1方向をz−n軸とする。マーカレーザ3−2の照射方向はy軸方向にL12移動させた方向で、z−n軸に平行となる。また、パン方向の回転中心がy軸であることから、y軸とz−n軸の交点を3次元座標系の原点Oとしてx−n軸はパン方向の回転面内でy軸とz−nに垂直な方向となる。
マーカレーザ3−1,3−2からレーザビームの照射点であるマーカp1、p2までの距離d1−n、d2−nは夫々のマーカレーザ3の距離計測の基準点と被写体表面4との交点であるマーカp1、p2までの距離となる。図中、夫々のマーカレーザ3の距離計測の基準点はy軸に接している。また、パン角度はロータリーエンコーダ11の回転角度φy−nとなる。φy−nは画像処理では相対的な値を利用するので基点は任意位置でもよい。ここでは、上記のようにレーザビームの方向をz−n軸として基準にしているが、例えば別の座標軸系として、パン雲台を水平してx軸が常に水平になるようにして、上記y軸の水平面からのチルト角度の傾きφx−nを加えてz−n軸を水平面からの座標系に変換して表現できるようにしてもよい。
図1中(b)の構成例について説明する。2マーカレーザ3−1と3−2のチルト角度を固定してパン方向に回転させる構成である。マーカレーザ3−2はマーカレーザ3−1のレーザビームの照射方向(z−n軸)に対してy軸方向への傾斜角度(チルト角度)が角度φx12に固定されている。マーカレーザ3−2のレーザビームの照射方向の線状の延長戦が原点Oを通るように設定されている。
この構成の特徴は、(a)の構成では被写体表面4に付与するマーカpの間隔を大きくしたいときにはマーカレーザ3−1と3−2の間隔L12を広げる必要があり、マーカ付与部8の構成寸法が大きくなるが、(b)構成ではその寸法を大きくすることなく、マーカpの間隔について、チルト角度φx12を設定することで被写体表面4までの距離に合わせて設定することができる。図1中(c)の構成例について説明する。(b)のチルト角度φx12の設定に自由度を持たせて、マーカレーザ3−2のチルト角度φx12が可動である構成である。この構成ではマーカレーザ3−2のチルト角度を可変角度φx12−nとすることで、被写体表面4までの距離に依らず任意にマーカレーザ3−1と3−2の照射位置であるマーカp1とp2の付与位置を設定することができる。
具体的な構成として、チルト角度回転ステージ20をパン角度回転ステージ19の取り付け台に装着して、チルト角度はチルト方向のロータリーエンコーダ12により計測し、ロータリエンコーダアダプタ(記載省略)を介して制御部8に傾き角度φx−n情報を提供する。各部品の配置と座標系との関係は、パン角度回転ステージ19の回転軸をy軸、チルト角度の回転ステージ20の回転軸をx−n軸その交点を座標原点Oとし、マーカレーザ3−1の照射方向がz−n軸とする。なお、z軸の基準となるレーザビームを照射するマーカレーザ3−1はパン方向回転ステージ19に固定されている。
上記構成において、パン角度の調整やチルト角度の調整方法について便宜上示具体的な手法はしていないが、手動による回転ステージの調整でもよいし、モータを使った自動回転ステージの遠隔制御による調整でもよい。
上記構成において、パン角度の調整やチルト角度の調整方法について便宜上示具体的な手法はしていないが、手動による回転ステージの調整でもよいし、モータを使った自動回転ステージの遠隔制御による調整でもよい。
図3に撮影装置部5の機能ブロックを示す。
撮影装置部5は、カメラ装置部7、マーカ付与部8、制御部9を含む。カメラ装置部7は、カメラ2とパンとチルト方向カメラ2の撮影方向が調整可能なカメラ雲台15からなり、カメラ2の撮影方向は、例えば、カメラ2のI15モニタ画像情報を見ながら、I17手動操作によりカメラ雲台15を調整する。マーカ付与部8は距離測定機能付きのマーカレーザ3(ここではマーカレーザ部3)で詳細な機能としてレーザ光源25−1、25−2と距離計測部26−1、26−2よりなる。マーカレーザ部3−1と3−2を回転するためのパン回転角度計測部28を含むパン回転ステージ19やチルト回転ステージ20を代表的に表したマーカレーザ回転部27からなり、本実施例ではマーカレーザ回転部27は図1のシステム構成に沿ってパン角度回転構成を対象にパン回転角度計測部28を記載しているが、図2の(c)のようにチルト角度回転構成も存在する場合には、チルト回転角度計測部29がこのマーカレーザ回転部27に含まれることになる。I19モニタ観察による手動操作によりマーカレーザ回転部27の調整やマーカレーザ雲台16の調整が行われる。
撮影装置部5は、カメラ装置部7、マーカ付与部8、制御部9を含む。カメラ装置部7は、カメラ2とパンとチルト方向カメラ2の撮影方向が調整可能なカメラ雲台15からなり、カメラ2の撮影方向は、例えば、カメラ2のI15モニタ画像情報を見ながら、I17手動操作によりカメラ雲台15を調整する。マーカ付与部8は距離測定機能付きのマーカレーザ3(ここではマーカレーザ部3)で詳細な機能としてレーザ光源25−1、25−2と距離計測部26−1、26−2よりなる。マーカレーザ部3−1と3−2を回転するためのパン回転角度計測部28を含むパン回転ステージ19やチルト回転ステージ20を代表的に表したマーカレーザ回転部27からなり、本実施例ではマーカレーザ回転部27は図1のシステム構成に沿ってパン角度回転構成を対象にパン回転角度計測部28を記載しているが、図2の(c)のようにチルト角度回転構成も存在する場合には、チルト回転角度計測部29がこのマーカレーザ回転部27に含まれることになる。I19モニタ観察による手動操作によりマーカレーザ回転部27の調整やマーカレーザ雲台16の調整が行われる。
パン角度回転角度計測部28はロータリーエンコーダ11とそのアダプタ13よりなる。制御部9は少なくともマーカ3の移動やレーザ光源25の点灯・消灯、カメラ2の移動や撮影、各種計測の実行などの動作のタイミングを制御するタイミング制御部22と計測データ収集部24からなる。動作タイミングについては、I18モニタ観察からの手動操作入力による場合もあるが、自動的に図4の撮影装置部タイミングチャートに見るようなシーケンスによる動作を行う場合もありえる。計測したデータは、I16マーカ位置関連情報として必要に応じて計測データ収集部24から提供される。タイミング制御部22からはI11撮影制御信号がカメラ2に送られて、カメラ2では撮影動作をして、I14撮影画像情報やI15モニタ画像情報を出力する。また、マーカレーザ3には、I12マーカレーザ点灯・消灯信号がレーザ光源25に送信される。距離計測部26の距離計測値とパン回転角度計測部28でのパン角度計測値のI13計測結果は計測データ収集部24に送付され、必要に応じてI16マーカ位置関連情報として提供される。
図4に図3に示した撮影装置機能ブロックの制御部8を中心とした撮影装置部のタイミングチャートを示す。
(1)はI17モニタ観察からの手動操作によるカメラ雲台15の設定で、マーカ付与方向に連動させるパン角度設定を示している。(2)はマーカレーザ3のパン方向回転ステージ19のパン角度設定で、初期がφy−0、次がφy−1と移動する。(3)はマーカレーザ3の点灯・消灯で、最初の撮影のときのみ、消灯で、後は点灯状態となる。(4)はマーカ距離d1、d2の計測で、マーカレーザ3のパン角度を移動して設定した後に計測する。(5)はマーカレーザ3のパン角度φyの計測で、(4)と同様にマーカレーザ3のパン角度を移動して設定した後に計測する。(6)はマーカ位置関連情報の発信で図3の機能ブロックの計測データ収集部24からI16マーカ位置情報として収集した距離情報やパン角度情報を発信する。(7)は静止画像撮影のタイミングであり、カメラ2のパン角度設定とマーカレーザ3のパン角度設定が安定した状態で撮影する。(8)は撮影画像情報発信で図3の機能ブロックのI14撮影画像情報の発信である。(9)は撮影画像のIDで(1)のカメラ2のパン角度、(2)のマーカレーザ3のパン角度の組み合わせに対応して最初のカメラ2の撮影領域のマーカ像のない画像が(51−0−o)、以降、マーカpが撮影領域10の後方に位置する画像が(51−n−b)、前方に位置する画像が(51−n−f)として順次パン角度の回転にあわせてIDが与えられる。
(1)はI17モニタ観察からの手動操作によるカメラ雲台15の設定で、マーカ付与方向に連動させるパン角度設定を示している。(2)はマーカレーザ3のパン方向回転ステージ19のパン角度設定で、初期がφy−0、次がφy−1と移動する。(3)はマーカレーザ3の点灯・消灯で、最初の撮影のときのみ、消灯で、後は点灯状態となる。(4)はマーカ距離d1、d2の計測で、マーカレーザ3のパン角度を移動して設定した後に計測する。(5)はマーカレーザ3のパン角度φyの計測で、(4)と同様にマーカレーザ3のパン角度を移動して設定した後に計測する。(6)はマーカ位置関連情報の発信で図3の機能ブロックの計測データ収集部24からI16マーカ位置情報として収集した距離情報やパン角度情報を発信する。(7)は静止画像撮影のタイミングであり、カメラ2のパン角度設定とマーカレーザ3のパン角度設定が安定した状態で撮影する。(8)は撮影画像情報発信で図3の機能ブロックのI14撮影画像情報の発信である。(9)は撮影画像のIDで(1)のカメラ2のパン角度、(2)のマーカレーザ3のパン角度の組み合わせに対応して最初のカメラ2の撮影領域のマーカ像のない画像が(51−0−o)、以降、マーカpが撮影領域10の後方に位置する画像が(51−n−b)、前方に位置する画像が(51−n−f)として順次パン角度の回転にあわせてIDが与えられる。
図5に撮影装置部5のフローチャートを示す。
このフローチャートは、図4のタイミングチャートの初期の撮影からの流れを示す。ユーザは、手動操作により、撮影装置5を初期化し(ステップS1)、カメラ雲台15を動かしてカメラ2の撮影領域10を初期位置に設定する(ステップS2)。撮影装置5は、レーザマーカ3を消灯した状態で初期画像(51−0−o)を撮影する(ステップS3)。制御部8のタイミング制御部22からのI12制御信号によりマーカレーザ3のレーザ光源25を点灯して撮影領域の片端に2つのマーカレーザ3のレーザビームの照射点(マーカ)が入るようにマーカレーザ雲台16とパン方向の回転ステージ19の角度を設定する(ステップS4)。マーカpまでの距離とマーカレーザ3のパン角度を計測する(ステップS5)。2つのマーカを含む画像(15−0−b)を撮影する(ステップS6)。
このフローチャートは、図4のタイミングチャートの初期の撮影からの流れを示す。ユーザは、手動操作により、撮影装置5を初期化し(ステップS1)、カメラ雲台15を動かしてカメラ2の撮影領域10を初期位置に設定する(ステップS2)。撮影装置5は、レーザマーカ3を消灯した状態で初期画像(51−0−o)を撮影する(ステップS3)。制御部8のタイミング制御部22からのI12制御信号によりマーカレーザ3のレーザ光源25を点灯して撮影領域の片端に2つのマーカレーザ3のレーザビームの照射点(マーカ)が入るようにマーカレーザ雲台16とパン方向の回転ステージ19の角度を設定する(ステップS4)。マーカpまでの距離とマーカレーザ3のパン角度を計測する(ステップS5)。2つのマーカを含む画像(15−0−b)を撮影する(ステップS6)。
ステップS7以降ステップ12までの手順をステップ10で最終撮影か否かを操作者が判断して終了とするまで繰り返す。2つのマーカが撮影領域10の反対端に入るようにマーカレーザのパン角度を調整して設定する(ステップ7)。2つのマーカを撮影領域10の前部に含む画像(15−n−f)を撮影する(ステップ8)。ここでnはカメラのパン方向の回転移動の反復の繰り返し番号で最初nは0である。マーカまでの距離とレーザのパン方向回転角度を計測する(ステップS9)。次に、最終撮影か否かの判断をして、最終ならステップ13へ進み、継続ならば次のステップ11へ進んで繰り返しループとして2マーカが次の撮影領域の片端に入るようにカメラのパン角度を調整(ステップS11)し、2つのマーカを含む画像(b)の撮影(ステップ12)を経て、ステップ7に戻る。最終の場合には、初期のレーザマーカを付与していない画像(51−0−o)と、同じ撮影領域について撮影毎の片端と反対端に2づつ付与された合計4つのマーカpの距離とパン角度の計測値情報およびマーカ像を含んだ2つの(51−n−b),(51−n−f)画像を出力して(ステップ13)、終了する。
図6に、実施例1における撮影概要と撮影画像群を示す。
図6は図1でマーカレーザ3とカメラ2を図4のタイミングチャートと図5のフローチャートに沿ってパン方向に交互に回転、停止させたり、マーカレーザ3を点灯・消灯させたりしながら撮影した画像群を示している。図6中(a)は撮影画像群を得た撮影風景を上から見た撮影概要(平面図)を示している。ここでは、撮影対象の被写体表面4は左端が奥に傾斜し、正面から右寄りはひとつの平面を形成した被写体形状の例を示している。また被写体表面4は、簡単のためにカメラの2の撮影方向でパン回転方向に垂直な面としている。カメラ2を被写体表面4の左から右に角度を変えて左寄りから撮影領域nが(0)〜(3)まで撮影する。
図6に、実施例1における撮影概要と撮影画像群を示す。
図6は図1でマーカレーザ3とカメラ2を図4のタイミングチャートと図5のフローチャートに沿ってパン方向に交互に回転、停止させたり、マーカレーザ3を点灯・消灯させたりしながら撮影した画像群を示している。図6中(a)は撮影画像群を得た撮影風景を上から見た撮影概要(平面図)を示している。ここでは、撮影対象の被写体表面4は左端が奥に傾斜し、正面から右寄りはひとつの平面を形成した被写体形状の例を示している。また被写体表面4は、簡単のためにカメラの2の撮影方向でパン回転方向に垂直な面としている。カメラ2を被写体表面4の左から右に角度を変えて左寄りから撮影領域nが(0)〜(3)まで撮影する。
図6の(b)には(a)に示した撮影概要により得られる撮影画像群を示している。最初の撮影領域10−0の設定では左奥に傾斜した面と正面の境界に後にマーカp1−1、p2−1が付与できるように撮影領域10−0を設定する。最初のマーカレーザ3−1,3−2のレーザビームの照射方向は撮影領域10−0の左端に寄せた位置にマーカp1,p2が来るように設定する。この状態で、まずは、図5のフローチャートのステップS1からステップS6までの一連撮影フローを進める。マーカレーザ3を消灯して撮影領域10−0を撮影したのが撮影画像51−0−oである。撮影画像群51−0−oから51−0−fでは左側が奥に傾斜した被写体面4であるために透視の遠近効果により左側が小さく写る。
マーカレーザ3を点灯して、マーカp1−0,p2−0を被写体表面4上に付与して撮影したのが、マーカ像Po1−0−b,po2−0−bを含んだ撮影画像51−0−bである。撮影に合わせて、図4のタイミングチャートにあるように合わせて、マーカまでの距離情報d1−0,d2−0とマーカマーカレーザ3のパン角度の回転角度φy−0からなるマーカ位置情報を得る。
次からは、図5のフローチャートのステップS7からステップS11をカメラ2の回転移動番号n=3になるまで繰り返した手順を実施して撮影した画像群になる。マーカレーザ3を右方向に回転して、撮影領域10−0の中で被写体表面4が左奥に傾斜した面と正面から右寄りの面の境界線状にマーカp1−1,p2−1を付与して撮影した、マーカ像Po1−1−f,Po2−1−fを含んだ画像が撮影画像51−0−fである。マーカpを移動させる毎にそのマーカ位置関連情報を取得する。マーカpの位置を保持した状態でカメラ2を右に回転し、境界線状に付与したマーカp1−1,p2−1が撮影領域10−1の左端に配置されるように角度を設定して、マーカ像Po−1−b,Po2−1−bを含む撮影をしたのが撮影画像51−1−bである。
次に、カメラ2の撮影領域10−1を保持した状態で、マーカレーザ3を右方向に回転させてマーカp1−2,p2−2を付与して撮影して、マーカ像P1−2−f,P2−2−fを含む撮影をしたのが撮影画像15−1−fである。同様にそのマーカ位置関連情報を取得する。次に、マーカ付与位置を固定した状態で、カメラ2を右に回転して、マーカ像P1,P2が撮影領域10−2の左端に位置するように設定し、被写体表面4にあるひび割れ像41とマーカ像Po1−2−b,P2−2−bを含む画像を撮影したのが撮影画像51−2−bである。以下マーカレーザ3の角度の移動、カメラ2の回転移動を交互に繰り返し、マーカレーザ3の移動毎にマーカ位置関連情報を取得しながら、撮影したのが撮影画像51−2−f〜撮影画像51−3−fである。
撮影全般において、撮影画像毎の被写体表面4の寸法と画像解像度の関係がほぼ同じになるようにするために被写体表面4とカメラ2の距離が大きくなるとカメラ2のズーム倍率を調節して撮影した結果、撮影画像51−0〜51−3で被写体表面4上の格子模様42の近距離側の縦寸法が同じような撮影画像寸法となっている。撮影画像51−1はほぼ被写体表面4の正面に正対する位置からの撮影なので被写体の格子模様42は傾きのない十字に交差して写っている。撮影画像51−2、51−3と撮影方向が傾斜するにつれて、透視の遠近効果により遠い被写体表面4が小さくなる効果により、距離が離れる側の格子模様42の間隔が狭くなる。傾斜した撮影画像では、遠近効果により被写体表面4の寸法が画像内で小さくなるように歪んでいる。
図7に、実施例1における画像処理装置部の機能ブロックを示す。
画像処理装置部6は、撮影画像群から必要な情報を取り出す撮影画像処理部31、マーカ位置関連情報から正対化に必要なマーカ座標を算出正対化マーカ座標処理部36、撮影画像マーカ像の座標値と算出した正対化画像のマーカ座標を使って撮影画像を正対化画像への変換処理や正対化画像の接合処理を行う画像合成処理部41、からなる。
画像処理装置部6は、撮影画像群から必要な情報を取り出す撮影画像処理部31、マーカ位置関連情報から正対化に必要なマーカ座標を算出正対化マーカ座標処理部36、撮影画像マーカ像の座標値と算出した正対化画像のマーカ座標を使って撮影画像を正対化画像への変換処理や正対化画像の接合処理を行う画像合成処理部41、からなる。
撮影画像処理部31では、画像関連情報取得部32が撮影装置部5からI14画像関連情報を受け、一旦撮影画像保持部33で保持し、撮影画像保持部33はマーカ像含む撮影画像をマーカ座標抽出のためにマーカ座標抽出部34に送出し、マーカを隠蔽した正対化画像や接合画像処理にするときに画像合成処理部41にマーカ隠蔽用の撮影画像を提供する。撮影画像処理部31のマーカ座標抽出部34では、撮影画像群から、同じ撮影領域10−nに対応するマーカ像を含む画像51−n−b、51−n−fから、4つのマーカ像Po1−n〜Po4−nの座標を抽出する。4つのマーカ像Po1−n〜Po4−nは撮影領域10−nに対応する処理において、Po1−nとPo2−nにPo1−n−b、Po2−n−b、Po3−nとPo4−nに、Po1−(n+1)−f、Po2−(n+1)−fを用いる。
マーカ像の座標の抽出方法は、具体的には、例えば、マーカ像を含む画像を分割画像域で多くても1つのマーカ像が含まるように上下左右に4分割して、マーカ像が含まれる分割画像内で輝度分布を調べて、マーカ像が高輝度であることから、輝度ピーク座標を検知する。あるいは、高輝度領域であるマーカ像を識別するように所定の輝度閾値の上下で0,1に分けた二値化画像にしてその高輝度部の重心座標を求めるなど、それぞれのマーカについて共通の座標検出方法を適用してマーカ像の座標を抽出する。これを、51−n−b、51−n−fの同じ撮影領域10−nの2画像に適用することで、4つのマーカ像Po1〜Po4の座標を抽出する。仮に、被写体表面4自体が明るく、高輝度なマーカレーザ3の照射点が分かりづらいようなときには、51−n−bと51−n−fとの差分画像を使うことでマーカ像のない箇所の被写体表面4の画像が打ち消されマーカ像がPo1−n−bとPo2−n−bが浮き立ち、逆に51−n−fと51−n−bの差分画像を使うことでPo1−(n+1)−fとPo2−(n+1)−fであるPo3−nとPo4−nを浮き出させ、マーカ像座標を抽出することができる。
正対化マーカ座標処理部36は、位置関連情報取得部37とマーカ3次元座標算出38と正対化画像マーカ座標算出部39からなる。位置関連情報取得部37は撮影装置部5からI16マーカ位置関連情報を受け、マーカ3次元座標算出部38では、マーカ位置関連情報である各マーカp1−n〜p4−nまでの距離情報d1−n、d2−nやd1−(n+1)、d2−(n+1)パン角度情報φy−n、φy−(n+1)、平行配置のマーカレーザ間隔L12などの物理パラメータから、撮影時の座標原点Oを基準にした3次元座標(x−n,y−n,z−n)を算出する。ここで4つのマーカp1−n〜p4−nは後の画像処理での流れの定義であり、p1−n、p2−nの距離と角度情報はd1−n、d2−n、φy−nでp3−n、p4−nの距離と角度情報はd1−(n+1)、d2−(n+1)、φy−(n+1)になる。正対化画像マーカ座標部39ではマーカ3次元座標算出38で得たマーカp1−n〜p4−nを座標変換により、正対化画像に対応するマーカ像の座標Pt1−n〜Pt4−nを設定する。この処理の詳細については図8の画像処理における座標の関係を用いて後に説明する。
画像合成処理部41は、撮影画像処理部31で抽出したマーカ像の座標Po1−n〜Po4−nの座標値と正対化マーカ座標処理部36で設定した正対化画像のマーカ座標Pt1−n〜Pt4−nを用いて、正対化補正値算出部42で正対化画像への変換補正値を求め、正対化画像変換部43でこの補正値を撮影画像保持部33からの画像に適用することで画像毎の正対化画像を得る。また、隣接画像接合補正値算出部44では正対化画像に対応するマーカ像の座標Pt3−nと〜Pt4−nが次の隣接画像のマーカ像座標Pt1−(n+1)とPt2−(n+1)が同じマーカp1−(n+1)とp2−(n+1)のマーカの画像であることを利用して、隣接画像の座標を統一するアフィン変換行列を求め、最終的には、その行列の行列積を導出することで、例えば、一つ目の画像に統一的に接合する補正値を算出する。マーカ隠蔽正対化画像合成部45では、例えば、撮影画像保持部33からの後部にマーカ像がある51−n−bの画像群を正対化画像変換した画像に隣接画像接合補正値を適用して統一座標化し、時系列で遅い画像に時系列で早い画像を重ねてマーカ像隠蔽するように上書きし、最後に最初マーカを付与せずに撮影した51−0−oの画像を重ねることでマーカ像の写り込みのない正対化画像の接合合成画像を形成する。処理の詳細については図8を用いて後に説明する。正対化合成画像出力/保持部46では、合成した画像を保持し、I25表示指示に対応して、I26出力情報を出す。
図8に実施例1の画像処理における座標の関係を示す。
画像処理部6では、撮影した図6の(b)の画像群を、図1のマーカレーザ3で付与したマーカp1〜p4の画像と3次元座標値を用いて正対化画像に変換する座標変換を行う。この手法について図8の座標系の関係を用いて説明する。図8中、3次元座標系を小文字、画像座標系を大文字の変数とする。図1の撮影系では図2中(a)のマーカレーザ3の配置構成を用いている。この構成では、y軸の値はマーカレーザ3のパン方向の回転移動に依らず一定で0かL12なのでn(枝番)を省略する。座標原点Oとする3次元座標系(x−n,y−n,z−n)を(x,y,z)として、このときの各マーカp1-n〜p4−nの座標値を求める。撮影画像の位置については、実際にはカメラのレンズを介してピンホール像のように反転画像を用いる場合もあるが、被写体と座標関係を同じ方向に設定できることから、ここでは便宜上、図8に示すように直接被写体側に撮影画像を置く形態のモデルを示す。 なお。3次元座標の単位は実寸である。マーカp1−n〜p4−nまでの距離は計測値d1−n,d2−nとd1−(n+1),d2−(n+1)より、n番目の撮影領域毎に、
d1=d1−n ・・・(1)
d2=d2−n ・・・(2)
d3=d1−(n+1) ・・・(3)
d4=d2−(n+1) ・・・(4)
である。x−n軸の定義より、p1とp2はz−n軸とy軸のなす面内に定義されるためにx1−n、x2−nの値は0となり、x3−n、x4−nはパン角度φyは任意のパン角度基準からのφyでよく、ただz−n軸基準からの角度ΔφyはΔφy=φy−(n+1)−φy−nで与えられ、各マーカのx値は、
x1=0 ・・・(5)
x2=0 ・・・(6)
x3=d3×sin(Δφy) ・・・(7)
x4=d4×sin(Δφy) ・・・(8)
となる。yの値は、y軸上でマーカレーザ3−1と3−2が間隔L12で平行に配置されていることより、
y1=0 ・・・(9)
y2=L12 ・・・(10)
y3=0 ・・・(11)
y4=L12 ・・・(12)
zの値は
z1=d1 ・・・(13)
z2=d2 ・・・(14)
z3=d3×cos(Δφy) ・・・(15)
z4=d4×cos(Δφy) ・・・(16)
と求まる。
画像処理部6では、撮影した図6の(b)の画像群を、図1のマーカレーザ3で付与したマーカp1〜p4の画像と3次元座標値を用いて正対化画像に変換する座標変換を行う。この手法について図8の座標系の関係を用いて説明する。図8中、3次元座標系を小文字、画像座標系を大文字の変数とする。図1の撮影系では図2中(a)のマーカレーザ3の配置構成を用いている。この構成では、y軸の値はマーカレーザ3のパン方向の回転移動に依らず一定で0かL12なのでn(枝番)を省略する。座標原点Oとする3次元座標系(x−n,y−n,z−n)を(x,y,z)として、このときの各マーカp1-n〜p4−nの座標値を求める。撮影画像の位置については、実際にはカメラのレンズを介してピンホール像のように反転画像を用いる場合もあるが、被写体と座標関係を同じ方向に設定できることから、ここでは便宜上、図8に示すように直接被写体側に撮影画像を置く形態のモデルを示す。 なお。3次元座標の単位は実寸である。マーカp1−n〜p4−nまでの距離は計測値d1−n,d2−nとd1−(n+1),d2−(n+1)より、n番目の撮影領域毎に、
d1=d1−n ・・・(1)
d2=d2−n ・・・(2)
d3=d1−(n+1) ・・・(3)
d4=d2−(n+1) ・・・(4)
である。x−n軸の定義より、p1とp2はz−n軸とy軸のなす面内に定義されるためにx1−n、x2−nの値は0となり、x3−n、x4−nはパン角度φyは任意のパン角度基準からのφyでよく、ただz−n軸基準からの角度ΔφyはΔφy=φy−(n+1)−φy−nで与えられ、各マーカのx値は、
x1=0 ・・・(5)
x2=0 ・・・(6)
x3=d3×sin(Δφy) ・・・(7)
x4=d4×sin(Δφy) ・・・(8)
となる。yの値は、y軸上でマーカレーザ3−1と3−2が間隔L12で平行に配置されていることより、
y1=0 ・・・(9)
y2=L12 ・・・(10)
y3=0 ・・・(11)
y4=L12 ・・・(12)
zの値は
z1=d1 ・・・(13)
z2=d2 ・・・(14)
z3=d3×cos(Δφy) ・・・(15)
z4=d4×cos(Δφy) ・・・(16)
と求まる。
4つのマーカp1〜p4が位置する被写体平面4の単位法線ベクトルをρ(a,b,c)とすると、4点の中から3点、例えばp1、p2、p3を選択し、これら3点が形成する平面の法線ベクトルρは、p1(x1,y1,z1)からp2(x2,y2,z2)へ向かうベクトルをS、p1からp3(x3,y3,z3)へ向かうベクトルをTとおくと、
S(Sx,Sy,Sz)=((x2−x1),(y2−y1),(z2−z1)) ・・・(17)
T(Tx,Ty,Tz)=((x3−x1),(y3−y1),(z3−z1)) ・・・(18)
で、法線ベクトルρ(a,b,c)と平面上の任意のベクトル外積の成分が法線ベクトルと平行となることより、まず各ベクトルの外積値(A,B,C)として、
A=Sy×Tz−Sz×Ty ・・・(19)
B=Sz×Tx−Sx×Tz ・・・(20)
C=Sx×Ty−Sy×Tx ・・・(21)
となる。
S(Sx,Sy,Sz)=((x2−x1),(y2−y1),(z2−z1)) ・・・(17)
T(Tx,Ty,Tz)=((x3−x1),(y3−y1),(z3−z1)) ・・・(18)
で、法線ベクトルρ(a,b,c)と平面上の任意のベクトル外積の成分が法線ベクトルと平行となることより、まず各ベクトルの外積値(A,B,C)として、
A=Sy×Tz−Sz×Ty ・・・(19)
B=Sz×Tx−Sx×Tz ・・・(20)
C=Sx×Ty−Sy×Tx ・・・(21)
となる。
法線ベクトルは単長さで定義されるため、(A,B,C)の長さ
上記は3つのマーカp1〜p3の3次元空間座標から単位法線べクトル成分(a,b,c)を求めたが、p1〜p4の4つ座標精度あるいは平面そのものがばらつき、同一平面として、例えば、p4のずれが大きくなるような場合には、平面内のマーカ間ベクトルS,Tの組み合わせについて他の組み合わせ、p4からp2に向かうベクトルをU、p4からp2に向かうベクトルをVとして、
U(Ux,Uy,Uz)=((x2−x4),(y2−y4),(z2−z4)) ・・・(26)
V(Vx,Vy,Vz)=((x3−x4),(y3−y4),(z3−z4)) ・・・(27)
を使い、p1の対角のp4と、p2、p3により形成する法線ベクトルρ4(a4,b4,c4)を同様に求めて、先にp1を基準に求めたρ(a,b,c)との各成分毎に平均値化を行いさらに単位長化してもよい。これを、さらに他のマーカp2、p3について求め、全マーカについての法線ベクトルの平均値化を行い、これを法線ベクトルρ(a,b,c)としてもよい。また、これまでは4つのマーカについての処理を示したが、より複数のマーカを付与した場合には(a,b,c)を(x,y,z)の係数とする平面方程式の最小二乗法により算出できることが知られている。
U(Ux,Uy,Uz)=((x2−x4),(y2−y4),(z2−z4)) ・・・(26)
V(Vx,Vy,Vz)=((x3−x4),(y3−y4),(z3−z4)) ・・・(27)
を使い、p1の対角のp4と、p2、p3により形成する法線ベクトルρ4(a4,b4,c4)を同様に求めて、先にp1を基準に求めたρ(a,b,c)との各成分毎に平均値化を行いさらに単位長化してもよい。これを、さらに他のマーカp2、p3について求め、全マーカについての法線ベクトルの平均値化を行い、これを法線ベクトルρ(a,b,c)としてもよい。また、これまでは4つのマーカについての処理を示したが、より複数のマーカを付与した場合には(a,b,c)を(x,y,z)の係数とする平面方程式の最小二乗法により算出できることが知られている。
マーカp1〜p4が成す平面の座標系を(xw,yw)とするとき、原点Oを通りマーカ平面に平行な平面上の座標系(xw’,yw’)は、法線ベクトルρ方向とは逆方向のベクトル−ρを視点方向に設定した画像となるので、zw’軸を(−a,−b,−c)として、マーカ平面に平行な座標系(xw’,yw’,zw’)ヘの座標変換を行えばよい。この座標系への変換行列を[R]とおくと、
(0,0,1)=[R](−a,−b,−c) ・・・(28)
の関係が成り立つ。この[R]を用いて、マーカ平面に平行な平面の座標は
(xw’,yw’,0)=[R](x,y,z) ・・・(29)
と表すことができる。この変換行列[R]は原点Oを基準とする二つの軸の回転の合成により表される。最初にy軸を回転軸とする(x,z)面の回転角をαとすると、
[Ry]=[(cosα,0,sinα ),(0,1,0), (−sinα,0,cosα)] ・・・(30)
となる。このαは(x,z)面内への−ρの射影とx軸が成す角で、
α=tan−1(−a/−c) ・・・(31)
である。この変換ではy軸を基準に回転するためにy値は保持されて、x軸とz軸の値が座標変換されるのでその値をx’、z’とすると、
(x’,y,z’)=[Ry](x,y,z) ・・・(32)
で表される。
(0,0,1)=[R](−a,−b,−c) ・・・(28)
の関係が成り立つ。この[R]を用いて、マーカ平面に平行な平面の座標は
(xw’,yw’,0)=[R](x,y,z) ・・・(29)
と表すことができる。この変換行列[R]は原点Oを基準とする二つの軸の回転の合成により表される。最初にy軸を回転軸とする(x,z)面の回転角をαとすると、
[Ry]=[(cosα,0,sinα ),(0,1,0), (−sinα,0,cosα)] ・・・(30)
となる。このαは(x,z)面内への−ρの射影とx軸が成す角で、
α=tan−1(−a/−c) ・・・(31)
である。この変換ではy軸を基準に回転するためにy値は保持されて、x軸とz軸の値が座標変換されるのでその値をx’、z’とすると、
(x’,y,z’)=[Ry](x,y,z) ・・・(32)
で表される。
次に、x’軸を回転軸として(y,z’)面の回転よりに、z’軸が逆法線ベクトル−ρの方向に一致するようにβほど回転させる変換を[Rx’]とすると、
[Rx’]=[(1,0,0), (0,cosβ,sinβ), (0,−sinβ,cosβ)] ・・・(33)
となる。このβは逆法線ベクトル−ρが(x,z)面内への−ρの射影と成す角度で、
[Rx’]=[(1,0,0), (0,cosβ,sinβ), (0,−sinβ,cosβ)] ・・・(33)
となる。このβは逆法線ベクトル−ρが(x,z)面内への−ρの射影と成す角度で、
原点Oを通るマーカp1〜p4の形成する2次元平面に平行な座標(xw’,yw’)と実際の被写体表面4上のマーカp1〜p4の形成する2次元平面座標(xw,yw)の関係について説明する。平面座標(xw’,yw’)と2次元平面座標(xw,yw)は、共通の法線ベクトルρ方向をもち、これをzw’、zw軸方向と定義すると両平面への3次元座標値(x、y、z)の射影(xw‘,yw’)と(xw,yw)とは同じ値を持ち、原点が(zw’−zw)移動した関係になる。よって、マーカp1〜p4が形成する平面の3次元座標寸法での2次元平面座標(xw,yw)への変換行列は(xw’,yw’)の値がそのまま適用されて、Rの行列の上位2×3成分を(x1,y1)〜(x4,y4)に作用させることで求めることができる。
正対化画像の座標系を(Xt,Yt)とし、4つのマーカ像をPt1〜Pt4とするとき、一例として、正対化画像の中心を4つのマーカ像の2次元平面座標(xw,yw)の重心におくとして、(xwg,ywg)すると、
xwg=Σ(i=1→4)xwi/4 ・・・(36)
ywg=Σ(i=1→4)ywi/4 ・・・(37)
となる。
正対化画像の座標系を(Xt,Yt)とし、4つのマーカ像をPt1〜Pt4とするとき、一例として、正対化画像の中心を4つのマーカ像の2次元平面座標(xw,yw)の重心におくとして、(xwg,ywg)すると、
xwg=Σ(i=1→4)xwi/4 ・・・(36)
ywg=Σ(i=1→4)ywi/4 ・・・(37)
となる。
正対化画像として4つのマーカ像p1〜p4の重心位置の法線ベクトル方向上の所定距離離れ他視点から見た画像とするとき、正対化画像と2次元平面座標系の値の射影比をk、平面座標系の寸法と正対化画像の画素座標系の寸法の変換値をjとする被写体平面のマーカ座標値と正対化画像の座標値Pt(xt,yt)との関係は、重心座標をpg(xg,yg)を用いて
(Xt,Yt)=kj(xw−xg、yw−yg) ・・・(38)
と表される。この関係を4つのマーカの正対化画像の座標に適用することで、正対化画像のマーカの座標として(Xt1,Yt1)〜(Xt4,Yt4)を算出する。
(Xt,Yt)=kj(xw−xg、yw−yg) ・・・(38)
と表される。この関係を4つのマーカの正対化画像の座標に適用することで、正対化画像のマーカの座標として(Xt1,Yt1)〜(Xt4,Yt4)を算出する。
つぎに、撮影画像の正対化画像への変換について説明する。まず、撮影画像の座標Po(Xo,Yo)と被写体表面4上の2次元平面上の座標(xw,yw)の間の関係について、ホモグラフィ変換[Hw]を用いるとき、[Hw]の成分を
[Hw]=[(h11,h12,h13),(h21,h22、h23)、(h31,h32,1)] ・・・(39)
とするとき、この[Hw]が、
h11*Xo+h12*Yo+h13=(h31*Xo+h32*Yo+1)*xw ・・・(40)
h21*Xo+h22*Yo+h23=(h31*Xo+h32*Yo+1)*yw ・・・(41)
で表される。この(Xo,Yo)と先に求めた(xw,yw)に対応する4つのマーカ座標(Xo1,Yo1)〜(Xo4,Yo4)と(xw1,yw1)〜(xw4,yw4)を入れた連立方程式から、投影変換(ホモグラフィ変換)[Hw]の8つのパラメータを求めることができ、
(xw,yw)=[Hw](Xo,Yo) ・・・(42)
を得る。
[Hw]=[(h11,h12,h13),(h21,h22、h23)、(h31,h32,1)] ・・・(39)
とするとき、この[Hw]が、
h11*Xo+h12*Yo+h13=(h31*Xo+h32*Yo+1)*xw ・・・(40)
h21*Xo+h22*Yo+h23=(h31*Xo+h32*Yo+1)*yw ・・・(41)
で表される。この(Xo,Yo)と先に求めた(xw,yw)に対応する4つのマーカ座標(Xo1,Yo1)〜(Xo4,Yo4)と(xw1,yw1)〜(xw4,yw4)を入れた連立方程式から、投影変換(ホモグラフィ変換)[Hw]の8つのパラメータを求めることができ、
(xw,yw)=[Hw](Xo,Yo) ・・・(42)
を得る。
次に2次元平面座標と正対化画像への投影変換(ホモグラフィ変換)を[Ht]とすると、正対化画像の座標Pt(Xt,Yt)と被写体2次元平面上の座標(xw,yw)の間の関係について、ホモグラフィ変換[Ht]を用いるとき、上記、(39)式から(42)式の(xw,yw)を(Xt,Yt)に、((Xo,Yo)を(xw,yw)に置き換えることで、同様に[Ht]が求まり、
(Xt,Yt)=[Ht](xw,yw) ・・・(43)
の関係を得る。この[Ht]と先の[Hw]を組み合わせた[Hot]=[Ht]・[Hw]では、撮影画像の4マーカ像の座標(Xo1,Yo1)〜(Xo4,Yo4)と正対化画像の4マーカの算出座標(Xt1,Yt1)〜(Xt4,Yt4)を上記の投影変換[Hw]を求める8つのパラメータと同様に投影変換のパラメータの算出に適用することで、[Hot]を求めることができる。その結果、
(Xt,Yt)=[Hot](Xo,Yo) ・・・(44)
となる。撮影画像のマーカ座標値と正対化画像のマーカ座標値を用いることで撮影画像から正対化画像への投影変換の補正値が求まる。以上のように、撮影画像の4つマーカ像の座標と4つのマーカの3次元座標を使うことにより、をカメラの撮影の光軸方向を求めることなく、容易に正対化画像を得ることができる。
(Xt,Yt)=[Ht](xw,yw) ・・・(43)
の関係を得る。この[Ht]と先の[Hw]を組み合わせた[Hot]=[Ht]・[Hw]では、撮影画像の4マーカ像の座標(Xo1,Yo1)〜(Xo4,Yo4)と正対化画像の4マーカの算出座標(Xt1,Yt1)〜(Xt4,Yt4)を上記の投影変換[Hw]を求める8つのパラメータと同様に投影変換のパラメータの算出に適用することで、[Hot]を求めることができる。その結果、
(Xt,Yt)=[Hot](Xo,Yo) ・・・(44)
となる。撮影画像のマーカ座標値と正対化画像のマーカ座標値を用いることで撮影画像から正対化画像への投影変換の補正値が求まる。以上のように、撮影画像の4つマーカ像の座標と4つのマーカの3次元座標を使うことにより、をカメラの撮影の光軸方向を求めることなく、容易に正対化画像を得ることができる。
図9に実施例1における正対化画像群を示す。
図8に示した投影変換により、図6の(b)に示した撮影画像群について正対化処理した画像群である。正対化画像61−0−b、61−0−fは図5の(b)で左側奥まって傾斜した被写体表面4の撮影画像51−0−b、51−0−fを正対化した画像ある。正対化に伴い、被写体の格子模様42は2平行線が直交するようになり、撮影画枠は逆に左端が広がる。但し、被写体表面4の傾斜の境界線をより右側では水平方向の格子線が透視の遠近効果により傾いている。同様に撮影画像51−1−b〜51−3−fの正対化変換した画像が正対化画像61−1−b〜61−3−fである。いずれも、撮影画像の4つのマーカ像の重心点を基準とする平面に正対した画像となり、被写体の格子模様42の2平行線が直交する画像となっている。
図8に示した投影変換により、図6の(b)に示した撮影画像群について正対化処理した画像群である。正対化画像61−0−b、61−0−fは図5の(b)で左側奥まって傾斜した被写体表面4の撮影画像51−0−b、51−0−fを正対化した画像ある。正対化に伴い、被写体の格子模様42は2平行線が直交するようになり、撮影画枠は逆に左端が広がる。但し、被写体表面4の傾斜の境界線をより右側では水平方向の格子線が透視の遠近効果により傾いている。同様に撮影画像51−1−b〜51−3−fの正対化変換した画像が正対化画像61−1−b〜61−3−fである。いずれも、撮影画像の4つのマーカ像の重心点を基準とする平面に正対した画像となり、被写体の格子模様42の2平行線が直交する画像となっている。
なお、正対化画像の中心は4つのマーカ像位置の重心座標からの法線上の視点からの撮影像としたが、図9では正対化画像の枠域を大きくして図6の撮影画像の枠の領域を有効範囲として撮影画像全域が現されるように表現している。図9の正対化画像61−0や61−2、61−3の撮影角度が傾斜した画像の正対化画像で、画像の格子模様42の縦線の間隔が横方向に伸びるように拡大されていることは、撮影画像座標系(Xo,Yo)での画素密度が等方であることから、広がり分程画像の解像度が低下していることを意味している。なお、傾斜した撮影の正対化画像の解像度については、予め、必要な解像度を基に正対化画像での解像度の劣化を考慮してカメラ2の画像の画素数と最大傾斜角度からから撮影領域10を設定し、撮影倍率を合わせることにより、正対化画像で必要な解像度を得ることができる。
図10に実施例1における正対化画像の接合処理の過程における画像群を示す。
接合画像を得るための補正値の導出である隣接画像接合のためのアフィン変換について説明する。n番目の正対化画像のマーカ像Pt3−nとPt4−nの座標(Xt3−n,Yt3−n)、(Xt4−n,Yt4−n)とn+1番目の正対化画像のマーカ像Pt1−(n+1)とPt2−(n+1)の座標(Xt1−(n+1),Yt1−(n+1))、(Xt2−(n+1),Yt2−(n+1))は同じマーカp1−(n+1)とp2−(n+1)のマーカ像の座標値である。n番目の正対化画像の座標系(Xt−n,Yt−n)のマーカp1−(n+1)とp2−(n+1)とn+1番目の正対化画像の座標系(Xt−(n+1)、Yt−(n+1))のマーカp1−(n+1)とp2−(n+1)の座標が同じになるようにn+1番目の正対化座標の座標を変換するとn+1番目の正対化画像とn番目の正対化画像を同じ座標系で繋げて接合させることができる。この接合のための座標変換のためのアフィン変換行列[γ]とすると、以下のように式(45)で表される。
(Xt-n,Yt−n,1)=[γ](Xt−(n+1),Yy−(n+1),1) ・・・(45)
変換行列[γ]は、座標軸の回転と倍率変換と平行移動だけであるときには、下記式(46)で表される。
[γ]=[(A,−B,tx)(B,A,ty)(0,0,1)] ・・・(46)
ここで、A,Bは回転と倍率変換の係数、tx,tyは座標移動の係数である。この4つの未知数は、隣接画像61−nと61−(n+1)画像間で共通のマーカp1−(n+1)とp2−(n+1)の各画像での(Xt,Yt)の座標値を入れた4つの方程式を解くことにより求めることができる。この算出値は、図7の機能ブロックの隣接画像接合補正値算出部44で処理して得る。
(Xt-n,Yt−n,1)=[γ](Xt−(n+1),Yy−(n+1),1) ・・・(45)
変換行列[γ]は、座標軸の回転と倍率変換と平行移動だけであるときには、下記式(46)で表される。
[γ]=[(A,−B,tx)(B,A,ty)(0,0,1)] ・・・(46)
ここで、A,Bは回転と倍率変換の係数、tx,tyは座標移動の係数である。この4つの未知数は、隣接画像61−nと61−(n+1)画像間で共通のマーカp1−(n+1)とp2−(n+1)の各画像での(Xt,Yt)の座標値を入れた4つの方程式を解くことにより求めることができる。この算出値は、図7の機能ブロックの隣接画像接合補正値算出部44で処理して得る。
図10中(a)は、正対化した撮影画像を全てを一つの画像に接合合成するときのマーカ像の関係を示したものである。最初の撮影画像の正対化画像61−0の座標(Xt−0,Yt−0)からn番目までのすべての画像について順次隣接画像間のアフィン変換行列の行列積の演算を行うことで、基準画像にn番目の座標系を統一座標化するための補正値を得て、(a)に示すように一つに統一された画像に接合した画像とすることができる。
図10中(b)は、正対化画像の中から、後部にマーカ像を有する正対化画像61−n−b画像群のみを選択して、撮影の順番、時系列で遅い画像の上に順番の若い、早い画像を重ねて、n>0のマーカ像Pt1−n−b、Pt2−n−bを隠蔽するように画像合成した接合画像である。
図10中(c)は、全正対化画像マーカ隠蔽接合合成画像として正対化画像61−0−bに対応する画像にマーカを付与しない状態で最初に撮影した画像の正対化画像61−0−oを適用し、さらに、被写体表面4の傾斜の境界に付与したマーカp1−1、p2−1の正対化画像Pt1−1,Pt2−1を基準にして、画像接合に際しては正対化画像61−0−oと61−1−bと61−1−fの一部同士でマーカ像の写り込みのない画像部分を組み合わせて合成した全正対化画像マーカを隠蔽接合合成した画像である。画像間の接合補正の基準であるマーカ像部分を基準に画像を組み合わせることで、撮影画像の収差の影響などによる画像接合部分のずれを最小限に抑えることができる。これらの一連の接合画像は、図7の機能ブロックのマーカ隠正対化画像合成部45で行われる画像処理により得られる。
図11Aに実施例1における正対化画像接合のフローチャートを示す。
このフローチャートは図1の画像処理装置部6でとしてPC内で行われる処理であり、また、図7の機能ブロックに基づき進められる処理である。まず、撮影装置部5から画像情報取得部32でI14撮影画像情報を取得し(ステップS21)、その撮影画像情報を使って撮影画像処理部31で撮影画像マーカ座標抽出する(ステップS22)。また、平行して撮影装置部5からマーカ位置関連情報取得部37でI16マーカ位置関連情報を取得し(ステップS23)、正対化マーカ座標処理部36で正対化画像マーカ座標を導出する(ステップS24)。画像合成処理部41では、上記撮影画像マーカ座標と正対化画像マーカ座標を使って、正対化画像連結合成処理の実施を行う(ステップS25)。
図11Bに実施例1における撮影画像処理のフローチャートを示す。
図11Aに示した撮影画像マーカ座標の抽出(ステップS22)の詳細なフローチャートであり、図7の画像処理部の機能ブロックの撮影画像処理部31に関連する処理手順である。撮影画像情報からマーカ付与画像の撮影枚数情報とマーカ付与画像IDを取得し(ステップS31)、図6の(b)に示される撮影画像群の撮影画像毎に4つのマーカ位置が区分けされるように画像に分割して撮影画像保持部33で画像情報を保持する(ステップS32)。マーカ座標抽出部34において、画像IDの枝番が“b”ならば画像の後部の2つの分割域から、“f”ならば画像の前部の2つの分割域から、分割画像毎に画像の輝度情報から高輝度なマーカの座標位置を特定したり、高輝度なマーカ領域を所定の輝度閾値で1と0の2値化して1のマーカ領域の重心座標を求めたりして、夫々のマーカ像の撮影画像の座標を抽出する(ステップS33)し、得られたマーカ像の座標値を画像IDと組み合わせて4マーカ像座標値として保持する(ステップS34) 。
このフローチャートは図1の画像処理装置部6でとしてPC内で行われる処理であり、また、図7の機能ブロックに基づき進められる処理である。まず、撮影装置部5から画像情報取得部32でI14撮影画像情報を取得し(ステップS21)、その撮影画像情報を使って撮影画像処理部31で撮影画像マーカ座標抽出する(ステップS22)。また、平行して撮影装置部5からマーカ位置関連情報取得部37でI16マーカ位置関連情報を取得し(ステップS23)、正対化マーカ座標処理部36で正対化画像マーカ座標を導出する(ステップS24)。画像合成処理部41では、上記撮影画像マーカ座標と正対化画像マーカ座標を使って、正対化画像連結合成処理の実施を行う(ステップS25)。
図11Bに実施例1における撮影画像処理のフローチャートを示す。
図11Aに示した撮影画像マーカ座標の抽出(ステップS22)の詳細なフローチャートであり、図7の画像処理部の機能ブロックの撮影画像処理部31に関連する処理手順である。撮影画像情報からマーカ付与画像の撮影枚数情報とマーカ付与画像IDを取得し(ステップS31)、図6の(b)に示される撮影画像群の撮影画像毎に4つのマーカ位置が区分けされるように画像に分割して撮影画像保持部33で画像情報を保持する(ステップS32)。マーカ座標抽出部34において、画像IDの枝番が“b”ならば画像の後部の2つの分割域から、“f”ならば画像の前部の2つの分割域から、分割画像毎に画像の輝度情報から高輝度なマーカの座標位置を特定したり、高輝度なマーカ領域を所定の輝度閾値で1と0の2値化して1のマーカ領域の重心座標を求めたりして、夫々のマーカ像の撮影画像の座標を抽出する(ステップS33)し、得られたマーカ像の座標値を画像IDと組み合わせて4マーカ像座標値として保持する(ステップS34) 。
図11Cに実施例1における正対化画像マーカ座標設定のフローチャートを示す。
図11Aに示した正対化画像マーカ座標導出(ステップS24)の詳細なフローチャートで、図7の画像処理部の機能ブロックの正対化マーカ座標処理部36に関する処理手順である。マーカ位置座標関連情報取得部37で各撮影領域10に対応して撮影した画像毎に付与した2つのマーカ位置関連情報を取得して、これを撮影領域10毎のマーカp1〜p4に対応する4つのマーカ位置関連情報とする(ステップS41)。次にマーカ3次元座標算出部38で撮影領域10での4つのマーカ位置関連情報から、例えば、マーカまでの距離情報d1〜d4、パン角度差Δφyからマーカ付与に伴う基準位置Oに沿って3次元座標系値を算出する(ステップS42)。
図11Aに示した正対化画像マーカ座標導出(ステップS24)の詳細なフローチャートで、図7の画像処理部の機能ブロックの正対化マーカ座標処理部36に関する処理手順である。マーカ位置座標関連情報取得部37で各撮影領域10に対応して撮影した画像毎に付与した2つのマーカ位置関連情報を取得して、これを撮影領域10毎のマーカp1〜p4に対応する4つのマーカ位置関連情報とする(ステップS41)。次にマーカ3次元座標算出部38で撮影領域10での4つのマーカ位置関連情報から、例えば、マーカまでの距離情報d1〜d4、パン角度差Δφyからマーカ付与に伴う基準位置Oに沿って3次元座標系値を算出する(ステップS42)。
次に、正対化画像マーカ座標算出部39で4つのマーカの座標から、マーカが構成する平面内の2つのベクトルの外積が平面に垂直な法線方向となることからこれを少なくとも3つのマーカに適用して3つのマーカが構成する平面の法線ベクトルの算出する(ステップS43)し、逆法線ベクトルに対して垂直な平面の座標系に座標変換し、残りの一つのマーカを含めた4つのマーカの被写体表面4の平面上の2次元座標値を算出し(ステップS44)、そして、被写体平面に正対する視点から、例えば、4つのマーカの重心位置の法線ベクトル方向上の視点からの正対化画像への座標への倍率と座標と正対化画像の画素座標への変換係数を与えることにより、4つのマーカの正対化画像の座標値を算出する(ステップS45)。
図11Dに実施例1における正対化画像形成と接合合成フローチャートを示す。
図11Aに示した正対化画像接合処理(ステップS25)の詳細なフローチャートで、図7の画像処理部の機能ブロックの画像接合処理部41に関する処理手順である。図11Bに示した撮影画像処理のフローチャートにより算出された撮影画像の4マーカ座標値と図11Cに示した正対化画像座標設定フローチャートにより示された正対化画像の4マーカ座標値とから投影(モノグラフィ)変換行列を正対化画像変換補正値として導出し(ステップ51)、図7の画像処理装置部の撮影画像保持部33から同じ撮影域の画像からマーカを隠蔽するための撮影画像や、分割画像からマーカ像の写り込みのない分割部を組み合わせて合成した画像に、ステップS51で求めた投影変換用の補正値を適用し、マーカ無し正対化画像を形成する(ステップS52)。
図11Aに示した正対化画像接合処理(ステップS25)の詳細なフローチャートで、図7の画像処理部の機能ブロックの画像接合処理部41に関する処理手順である。図11Bに示した撮影画像処理のフローチャートにより算出された撮影画像の4マーカ座標値と図11Cに示した正対化画像座標設定フローチャートにより示された正対化画像の4マーカ座標値とから投影(モノグラフィ)変換行列を正対化画像変換補正値として導出し(ステップ51)、図7の画像処理装置部の撮影画像保持部33から同じ撮影域の画像からマーカを隠蔽するための撮影画像や、分割画像からマーカ像の写り込みのない分割部を組み合わせて合成した画像に、ステップS51で求めた投影変換用の補正値を適用し、マーカ無し正対化画像を形成する(ステップS52)。
さらに、正対化画像の4マーカ座標値で正対化画像の隣接画像間で同じ被写体表面4に付与された共通の2マーカの夫々の画像でのマーカ座標値の値から正対化画像同士の接合合成用アフィン変換行列を接合用補正値として導出し(ステップS53)、図7の画像処理装置部の撮影画像保持部33からマーカ像が後部に存在する(b)の画像群を撮影番号あるいは撮影時間を遡るように重ねて接合合成し、マーカを隠蔽するように接合画像を合成し(ステップS54)、最終画像かを判断して最終画像でない場合にはステップ51に戻って次の画像の処理を繰り返し、最終画像の場合には次のステップS56に移行する(ステップS55)。最終段階では最初にマーカ無し画像の正対化画像を重ねることにより全画像でマーカ像を隠蔽した正対化画像接合合成する(ステップS56)。最終的にステップS52で形成した撮影領域毎でマーカ像の写り込みのない画像やステップS52の正対化画像やステップ56の接合合成画像を保持し、出力指示に応じて出力する(ステップS57)。ここでは、マーカ像の位置が移動方向の後ろ端にある画像群で時系列的に遡るように上書きし、最後に最初の撮影位置でマーカを付与しない画像で上書きする方法を述べたが、マーカ像の位置が移動方向の前端にある画像群で時系列的に下るように上書きする方法で、前者の最初のマーカを付与しない画像に代わって、最後にマーカ付与しない画像を撮影しておき、これで上書きすることでマーカ像を隠蔽した接合合成画像を構成することもありえる。
本実施例では、マーカレーザ3を2つ用いて両者がy座標軸上に平行に並べられてy軸に垂直な方向にレーザ光を出射する構成としたが、マーカレーザ3のレーザビームの出射角度と座標軸との傾斜角度が明確ならば、傾斜角度とマーカまでの距離計測値を用いて3次元座標を規定できる。
また、本発明では3次元座標の導出に実寸の計測値を適用しているために正対化画像におけるマーカ像の間隔に実寸を当てはめることができる。正対化画像を求めるマーカ座標の2次元座標での2つのマーカの間隔値は実寸を表すので、正対化画像の同じ2つのマーカの画像座標の間隔との比率を適用することで画面から被写体上の実寸法をに求めることができる。
また、本発明では3次元座標の導出に実寸の計測値を適用しているために正対化画像におけるマーカ像の間隔に実寸を当てはめることができる。正対化画像を求めるマーカ座標の2次元座標での2つのマーカの間隔値は実寸を表すので、正対化画像の同じ2つのマーカの画像座標の間隔との比率を適用することで画面から被写体上の実寸法をに求めることができる。
また、正対化画像処理には4つのマーカp1〜p4が必要で、隣接画像の接合処理には2つのマーカが必要があるが、4つよりも多いマーカを付与して被写体面の位置の計測値の精度を高めて、その内の高い輝度や間隔の広い位置関係や等法的な形状などの検知に適した4つのマーカを撮影画像の正対化に適用したり、隣接画像との共通領域の2つ以上のマーカから高い輝度や間隔の広い位置関係や等方的な形状などの検知に適した2マーカを選択して画像接合に適用したりすることもありえる。
<実施例1の効果>
以上説明した実施例1では、次の(A)〜(G)のような効果がある。
(A)撮影画像を正対化画像に変換するための作業は被写体表面上の撮影領域への4つの地点へのレーザ照射とその照射点の空間座標の導出と、任意位置から撮影した4つの地点のマーカ画像との組み合わせのみで、撮影画像から直接正対化画像に変換できるため、カメラの光軸を基準にした正対化のための3次元座標の計測するためのカメラに平行あるいは三角に所定角度に計測系を配置する必要がなく、カメラのみの独立した撮影を任意の場所から行えるので、望遠レンズなどカメラ自体が大きくなったり、重くなっても、また、撮影場所の空間が限られていても、被写体が見える幅広い場所から容易に撮影できる。
<実施例1の効果>
以上説明した実施例1では、次の(A)〜(G)のような効果がある。
(A)撮影画像を正対化画像に変換するための作業は被写体表面上の撮影領域への4つの地点へのレーザ照射とその照射点の空間座標の導出と、任意位置から撮影した4つの地点のマーカ画像との組み合わせのみで、撮影画像から直接正対化画像に変換できるため、カメラの光軸を基準にした正対化のための3次元座標の計測するためのカメラに平行あるいは三角に所定角度に計測系を配置する必要がなく、カメラのみの独立した撮影を任意の場所から行えるので、望遠レンズなどカメラ自体が大きくなったり、重くなっても、また、撮影場所の空間が限られていても、被写体が見える幅広い場所から容易に撮影できる。
(B)被写体に付与するマーカレーザに距離計測レーザを使い、直接的に被写体上の特定点であるマーカ位置までの計測することから、正対化処理に必要な被写体上の特定点までの距離計測が簡単に行えて、しかも精度の高くなり、より正確な正対化画像が得られる。
(C)隣接画像接合には隣接画像間で重複する共通撮影領域が必要になるが、正対化処理に利用する高輝度なマーカレーザ照射点(マーカ)をそのまま重複領域の目印として利用することができるので、被写体表面の状態に依存することなく安定してかつ簡単に目視により隣接画像撮影領域の設定ができ、また、同時に正対化画像の補正値算出用マーカとして利用すると共に高精度で確実な隣接画像間の接合合成用の基準マーカとして利用できる。
(D)1箇所の撮影領域の正対化画像の取得において、別の2箇所撮影領域の撮影を行うことなく、1箇所の撮影領域のみの撮影で撮影領域に付与した4つのマーカ座標を使って正対化した画像を確認することができる。
(E)傾斜が異なる平面からなる被写体表面の観察において、付与するマーカが見えるために、少なくとも2つのマーカを異なる傾斜平面の境界に付与して異なる平面毎に別に4つのマーカを付与することでそれぞれの傾斜平面の正対化画像がえられるので、複数の傾斜からなる被写体表面においても一連の連続的な撮影作業で正対化画像が得られ、それぞれの表面でのひび割れ寸法などが画像から計測できる。
(F)2つのマーカレーザの照射位置を同じカメラ撮影領域内で移動して撮影する工程と、同じ2つのマーカレーザの照射位置を保持した状態でカメラを移動して隣接する撮影領域を撮影する工程を交互繰り返すことで、各撮影領域のマーカ像写り込みのない正対化画像同士を接合した広い範囲の合成画像を得ることができ、被写体表面自体の広い範囲のひび割れ分布状態を一括して1枚の接合画像として扱うことができ、全体の中の損傷位置の特定から、ひび割れなどの詳細な状態までをみることができる。
(G)4つのマーカ像を写すだけで、実寸比率まで分かる正対化画像に変換できるので、カメラの倍率を把握する必要がなく、倍率値が表示されない一般的なカメラを使っても、ひび割れなどの実寸法を求めることができる。
実施例1では、複数の隣接する撮影画像を正対化画像に変換してさらに接合させる撮影装置部5と画像処理装置6からなる画像撮影・画像処理システム1について説明した。実施例2では、1箇所の撮影領域の撮影で正対化画像を取得する4マーカレーザを同時付与する形態について説明する。
図12Aに実施例2における画像撮影・画像処理システムの外観を示す。被写体表面4上の撮影領域10−0にカメラ雲台15を調整してカメラ2を向けて倍率(ズーム)も調整する。マーカ付与部8は距離計測機能を有する4つのマーカレーザ3−1〜3−4を長方形の頂点に配置し、その長方形の面垂直な方向に平行にレーザビームが放射されるように配置されている。マーカp1〜p4が撮影領域10−0に収まるようにマーカレーザ雲台16で照射角度を調整して、カメラ2で撮影する。このとき、マーカレーザ3−1〜3−4を一括して同時に消灯した状態と点灯した状態の2枚の画像を撮影する。
図12Aに実施例2における画像撮影・画像処理システムの外観を示す。被写体表面4上の撮影領域10−0にカメラ雲台15を調整してカメラ2を向けて倍率(ズーム)も調整する。マーカ付与部8は距離計測機能を有する4つのマーカレーザ3−1〜3−4を長方形の頂点に配置し、その長方形の面垂直な方向に平行にレーザビームが放射されるように配置されている。マーカp1〜p4が撮影領域10−0に収まるようにマーカレーザ雲台16で照射角度を調整して、カメラ2で撮影する。このとき、マーカレーザ3−1〜3−4を一括して同時に消灯した状態と点灯した状態の2枚の画像を撮影する。
図12Bに実施例2における平行4マーカ一括マーカ付与部の構成例を示す。
4平行マーカ一括マーカ付与構造と合わせて座標系の関係を示す。マーカレーザ3−1と3−2、マーカレーザ3−3と3−4は平行でかつ間隔L12あけて固定配置される。また、マーカレーザ3−1と3−3、マーカレーザ3−2と3−4も平行でかつ間隔L13あけた関係にある。長方形の頂点に配置されたマーカレーザ3−1〜3−4はマーカレーザ雲台16に取り付け台18により固定される。このときのマーカレーザ3−1〜3−4の距離計測基準とマーカ付与部8の座標系の関係は、座標原点Oをマーカレーザ3−1の距離計測基準として、マーカレーザ3−1のレーザビームの放射方向をz軸とするときに、直交するx軸上にマーカレーザ3−3の距離計測基準、y軸上にマーカレーザ3−2の距離計測基準が来るように、また、マーカレーザ3−2からx軸に平行にマーカレーザ3−3からy軸に平行にマーカレーザ3−4の距離計測基準が来るように配置する。そして、各マーカレーザ3−1〜3−4により夫々のマーカp1〜p4までの距離d1〜d4を計測すると共に、カメラ2でマーカレーザ3の消灯したときのマーカ無し画像と点灯したときのマーカ有り画像を撮影する。4つのマーカレーザ3の関係が長方形の頂点でなく、平行四辺形の頂点に配置される場合に、2つの平行な辺の間隔とい隣接する辺の傾斜角度情報を取得し、三角関数で4つのレーザマーカの座標移動に変換することで3次元座標系に反映させることができる。さらに、レービームの放射方向が平行四辺形の面と傾斜する場合にはその傾斜角度を取得し、マーカ距離計測値にその傾斜角度を反映させることで、マーカの3次元座標を導出させることができる。
4平行マーカ一括マーカ付与構造と合わせて座標系の関係を示す。マーカレーザ3−1と3−2、マーカレーザ3−3と3−4は平行でかつ間隔L12あけて固定配置される。また、マーカレーザ3−1と3−3、マーカレーザ3−2と3−4も平行でかつ間隔L13あけた関係にある。長方形の頂点に配置されたマーカレーザ3−1〜3−4はマーカレーザ雲台16に取り付け台18により固定される。このときのマーカレーザ3−1〜3−4の距離計測基準とマーカ付与部8の座標系の関係は、座標原点Oをマーカレーザ3−1の距離計測基準として、マーカレーザ3−1のレーザビームの放射方向をz軸とするときに、直交するx軸上にマーカレーザ3−3の距離計測基準、y軸上にマーカレーザ3−2の距離計測基準が来るように、また、マーカレーザ3−2からx軸に平行にマーカレーザ3−3からy軸に平行にマーカレーザ3−4の距離計測基準が来るように配置する。そして、各マーカレーザ3−1〜3−4により夫々のマーカp1〜p4までの距離d1〜d4を計測すると共に、カメラ2でマーカレーザ3の消灯したときのマーカ無し画像と点灯したときのマーカ有り画像を撮影する。4つのマーカレーザ3の関係が長方形の頂点でなく、平行四辺形の頂点に配置される場合に、2つの平行な辺の間隔とい隣接する辺の傾斜角度情報を取得し、三角関数で4つのレーザマーカの座標移動に変換することで3次元座標系に反映させることができる。さらに、レービームの放射方向が平行四辺形の面と傾斜する場合にはその傾斜角度を取得し、マーカ距離計測値にその傾斜角度を反映させることで、マーカの3次元座標を導出させることができる。
図12Cに実施例2における2平行マーカチルト角可変一括マーカ付与部の構成例を示す。2平行チルト角可変4マーカ一括マーカ付与構造と合わせて座標系を示す。図12Bでは4つのマーカレーザ3の位置と方向が全部固定されていたが、図12Cの構成では、マーカレーザ3−2と3−4のレーザビームの放射角度がチルト角度上でマーカレーザ3−1と3−3のレーザビームの放射角度に対して可変な構造とする。マーカレーザ3−1と3−3は、チルト方向回転ステージ20の回転軸に平行な方向でL13離れた平行な関係で取り付け台18に固定され、マーカレーザ3−2と3−4は、L13離れてチルト回転ステージ20に固定される。マーカレーザ3−1のレーザビームの放射方向をz軸、チルト回転の回転軸方向をx軸方向とするとき、マーカレーザ3−2の距離計測基準はチルト回転ステージ20の回転軸上にあり、マーカレーザ3−1とマーカレーザ3−2の関係はマーカレーザ3−2の距離計測基準がマーカ3−1の距離計測基準のy軸方向で直上にL12離れるように配置される。座標原点Oは、3次元座標系での定義が行い易いように、マーカレーザ3−1とマーカレーザ3−2のレーザビーム放射方向の逆方向の延長線上の交点とする。このため、x軸自体はチルト回転ステージ20の回転中心軸ではなくなる。図12Aのカメラ2の撮影領域10−0を設定すると、その撮影領域にマーカp1とp3が付与されるようにマーカレーザ雲台16で調整した後、図12Cのチルト回転ステージ20の角度φx12を調整して適切な位置にp2とp4が配置されるようにする。その後、チルト角度をロータリーエンコーダ12(図2C参照)で計測し、さらに、各マーカレーザ3−1〜3−4によりマーカp1〜p4までの距離d1〜d4を計測すると共に、カメラ2でマーカレーザ3の消灯したときのマーカ無し画像と点灯したときのマーカ有り画像を撮影する。 実施例2の撮影装置部5の機能ブロックについて、実施例1の機能ブロックを示した図3との違いを中心に図3を用いて説明する。図12Bに示した平行4マーカ一括マーカ付与部構成では、マーカ付与部8は4つのマーカレーザ3−1〜3−4のみであるのでマーカレーザ回転部27が省かれ、マーカレーザ部に3−3と3−4を追加した構成になる。また、図12Cに示した2平行マーカチルト角可変一括マーカ付与部構成ではマーカレーザ部が3−1〜3−4になると共にマーカレーザ回転部27のパン回転角度計測部28がチルト回転角度計測部29に置き換わる。
図13に実施例2における撮影装置部のタイミングチャートを示す。(1)はカメラ雲台15によるカメラ撮影方向の設定で、例えば、カメラ2のモニタ画像を見ながら手動で撮影領域10を適切に配置する。(2)はマーカレーザ雲台16によるマーカレーザ3の照射方向の設定で、(1)で設定した撮影領域10内の適切な位置に4つのマーカp1〜p4が配置されるように、例えばカメラ2のモニタ画像を見ながら手動で設定する。図12Cに示した2平行チルト角度可変マーカ一括マーカ付与部構成の形態では、最初にp1とp3の位置を決めた後、チルト方向回転ステージ20を調整して撮影領域10内の適切な位置にマーカp2とp4が配置されるようにする。(3)はマーカレーザ3の点灯・消灯で、カメラ2による同じ撮影領域10の撮影において、全マーカp1〜p4を消灯した画像と点灯したマーカ付与画像の撮影に連動させるように動作させる。(4)はマーカ距離d1〜d4の計測のタイミングで4つマーカp1〜p4を付与している間に計測する。(5)はマーカ位置関連情報の発信で計測データ収集部24からI16マーカ位置情報として収集した距離情報やチルト角度情報を発信する。(6)は静止画像撮影のタイミングで、同じ撮影領域10にマーカp1〜p4を付与した状態のマーカ有り画像と付与しない状態のマーカ無し画像をカメラ2で撮影する。(7)は撮影画像情報発信で図3の機能ブロックのI14撮影画像情報の発信である。(8)は撮影画像のIDで、ここでは(1)のカメラ2の設定による撮影領域10とマーカ付与の有り(w)と無し(o)の画像が識別できるように画像IDを得る。
撮影装置部5の動作処理手順のフローは、図13に示したタイミングチャートに従う流れで、各機能ブロックを動作させる。基本的には、カメラ2で撮影領域10を設定して、その撮影領域10内の適切な位置に4つのマーカp1〜p4を付与する。適切な位置とは、例えば、画面を4分割してその分割画像の中央近辺など、夫々のマーカpが明確に識別場所できる位置である。4つのマーカp1〜p4を付与した画像と付与しない画像をカメラ2で撮影して、合わせて4つのマーカp1〜p4の3次元座標のための物理パラメータ値である位置関係情報として、距離d1〜d4を計測する。4つのマーカレーザ3のレーザビームの放射方向が傾斜した関係にある場合にはチルト角度上の傾斜角度も3次元座標用物理パラメータ値である位置関係情報として取得する。撮影した画像情報とマーカ位置関係情報を画像処置装置部6に発信するものである。このとき、撮影領域10の識別のために、撮影番号や撮影時刻などに関連付けて画像IDを設定して、マーカ位置関係情報もそのIDに関連づけて発信する。
次に実施例2の画像処理装置部6について説明する。実施例2における画像処理部6の機能ブロック構成は実施例1の図7の画像処理装置の機能ブッロクにおいて、隣接画像接合補正値算出44とマーカ隠蔽正対化画像合成部45を省いた構成となる。各機能ブロックの詳細ついて実施例1との差分を中心に説明する。画像関連情報取得部32では、4つのマーカ付与された画像と同じ撮影領域でマーカの付与されていないI14撮影画像情報を取得し、撮影画像保持部33で保持する。マーカ座標抽出部34では、4つのマーカの付与された例えばマーカ画像51−0−wを4分割をして夫々のマーカ座標(Xo1,Yo1)〜(Xo4,Yo4)を導出する。マーカ位置関連情報取得部37では、4つのI16マーカの位置関連情報を取得して、マーカ3次元座標算出部38ではマーカ付与時の原点Oと計測値から被写体表面4上のマーカの3次元座標を算出し、正対化画像マーカ座標算出部39では実施例1と同様に被写体表面4上のマーカp1〜p4の2次元座標を算出した後、正対化画像の視点位置を設定してマーカ座標(Xt1,Yt1)〜(Xt4、Yt4)を算出する。正対化補正値算出部42において投影変換の補正値を4つのマーカ像座標値と正対化画像でのマーカ座標設定値から求めて、正対化画像変換部43ではその補正値を撮影画像保持部33のマーカ無し撮影画像51−0−oに適用して、マーカ像の写り込みのない正対化画像を得る。その正対化画像を正対化合成画像保持/出力部46に保持して、I25表示指示に応じてI26出力情報を提供する。
実施例2の正対化マーカ座標処理部36の処理について、図12Bと図12Cに4平行マーカ一括マーカ付与部と2平行チルト角度可変4マーカ一括マーカ付与部構造を用いた2つ形態での3次元座標系について説明する。
図12Bの4平行マーカ一括マーカ付与部構造では縦横に直交する軸に平行に配置された、すなわち長方形の頂点上に配置された4つのマーカレーザ3−1〜3−4の距離計測の基準点を原点Oとするときの3次元座標系でのマーカ座標を示す。3次元座標系のxの値は、マーカレーザ3−1と3−3がx軸上でL13離れて配置され、また3−2と3−4が‐y方向に間隔L12移動して平行に配置されていることより、
x1=0 ・・・(47)
x2=0 ・・・(48)
x3=L13 ・・・(49)
x4=L13 ・・・(50)
y1=0 ・・・(51)
y2=L12 ・・・(52)
y3=0 ・・・(53)
y4=L12 ・・・(54)
となる。zの値は、各マーカp1〜p4に対して被写体表面4までの距離がそのままzの値となるので、
z1=d1 ・・・(55)
z2=d2 ・・・(56)
z3=d3 ・・・(57)
z4=d4 ・・・(58)
となる。ここでは平行系として直交する軸に平行に配置した長方形の頂点への配置を示したが、直交した軸に沿わずに傾斜した角度で交わる平行四辺形のの頂点に配置する場合には平行な辺の間隔と隣接する辺の傾斜角度から、マーカレーザ3の基準点の座標を求めて補正することにより、同様に直交系の座標値として扱う。
図12Bの4平行マーカ一括マーカ付与部構造では縦横に直交する軸に平行に配置された、すなわち長方形の頂点上に配置された4つのマーカレーザ3−1〜3−4の距離計測の基準点を原点Oとするときの3次元座標系でのマーカ座標を示す。3次元座標系のxの値は、マーカレーザ3−1と3−3がx軸上でL13離れて配置され、また3−2と3−4が‐y方向に間隔L12移動して平行に配置されていることより、
x1=0 ・・・(47)
x2=0 ・・・(48)
x3=L13 ・・・(49)
x4=L13 ・・・(50)
y1=0 ・・・(51)
y2=L12 ・・・(52)
y3=0 ・・・(53)
y4=L12 ・・・(54)
となる。zの値は、各マーカp1〜p4に対して被写体表面4までの距離がそのままzの値となるので、
z1=d1 ・・・(55)
z2=d2 ・・・(56)
z3=d3 ・・・(57)
z4=d4 ・・・(58)
となる。ここでは平行系として直交する軸に平行に配置した長方形の頂点への配置を示したが、直交した軸に沿わずに傾斜した角度で交わる平行四辺形のの頂点に配置する場合には平行な辺の間隔と隣接する辺の傾斜角度から、マーカレーザ3の基準点の座標を求めて補正することにより、同様に直交系の座標値として扱う。
図12Cに示した2平行チルト角度可変4マーカ一括マーカ付与部構造では、各マーカレーザ3の距離計測の基準点とマーカレーザ3−1とマーカレーザ3−2のレーザビームの光軸の交点を原点Oとするときマーカレーザ3の距離計測の基準と原点Oの距離補正値をd01とd02するとき、平行な関係にあるd03とd04はそれぞれ同じ値となり、L12とチルト角度φx12を用いて、
d01=L12×tanφx12 ・・・(59)
d02=L12/sinφx12 ・・・(60)
d03=L12×tanφx12 ・・・(61)
d04=L12/sinφx12 ・・・(62)
となる。
x1=0 ・・・(63)
x2=0 ・・・(64)
x3=L13 ・・・(65)
x4=L13 ・・・(66)
となる。上記距離補正値を用いてyの値は、
y1=0 ・・・(67)
y2=(d2+d02)×sinφx12 ・・・(68)
y3=0 ・・・(69)
y4=(d4+d04)×sinφx12 ・・・(70)
zの値は、
z1=(d1+d01) ・・・(71)
z2=(d2+d02)×cosφx12 ・・・(72)
z3=(d3+d03) ・・・(73)
z4=(d4+d04)×cosφx12 ・・・(74)
と求まる。以上のように、φx12の調節により、図12A中y方向のマーカの間隔を自在に調整することができ、カメラ2のズームを使い撮影倍率を変えて撮影するときに、適切なマーカ付与間隔を与えることができる。
d01=L12×tanφx12 ・・・(59)
d02=L12/sinφx12 ・・・(60)
d03=L12×tanφx12 ・・・(61)
d04=L12/sinφx12 ・・・(62)
となる。
x1=0 ・・・(63)
x2=0 ・・・(64)
x3=L13 ・・・(65)
x4=L13 ・・・(66)
となる。上記距離補正値を用いてyの値は、
y1=0 ・・・(67)
y2=(d2+d02)×sinφx12 ・・・(68)
y3=0 ・・・(69)
y4=(d4+d04)×sinφx12 ・・・(70)
zの値は、
z1=(d1+d01) ・・・(71)
z2=(d2+d02)×cosφx12 ・・・(72)
z3=(d3+d03) ・・・(73)
z4=(d4+d04)×cosφx12 ・・・(74)
と求まる。以上のように、φx12の調節により、図12A中y方向のマーカの間隔を自在に調整することができ、カメラ2のズームを使い撮影倍率を変えて撮影するときに、適切なマーカ付与間隔を与えることができる。
なお、図12Bや図12Cに示した構成において、x軸を水平方向に設定して、水平方向からのマーカレーザ3のチルト角が分かれば、上記y軸とz軸に傾斜角情報を加味することで、x軸を水平にy軸を鉛直軸である水平基準の座標系に設定することができる。この水平基準の座標系を用いて、被写体平面の逆法線ベクトルをzw軸とする正対化に際してxw軸が水平面内にあるように、式(28)〜(35)の座標変換を実行することで2次元座標系(xw,yw)のxwを水平基準に設定することができるので上下方向が通常の方位となり、正対化画像が見やすできる。
上記3次元座標の設定は図7の画像処理装置部6ではマーカ3次元座標算出部38で処理する。正対化画像マーカ座標算出39では、算出した4つの3次元座標値を用いて、実施例1の図8と図9に示した正対化画像座標への変換処理を行い、4つのマーカ像の座標に対応する正対化画像のマーカ座標(Xt1,Yt1)〜(Xt4,Yt4)を設定する。他方、4つのマーカp1〜p4を含んだ画像情報は図7の画像処理装置部6の撮影画像保持部33で4つの画像分割された後、マーカ座標抽出部34で撮影画像のマーカ座標(Xo1,Yo1)〜(Xo4,Yo4)を抽出する。最終的には、画像合成処理部41の正対化補正値算出部42に上記の正対化画像での4つのマーカ座標値と撮影画像の4つのマーカ像の座標値から正対化画像補正値を算出し、正対化画像変換部43でその補正値を撮影画像保持部33のマーカ像のない撮影画像に補正値を適用して射影変換を行い、正対化画像を得て、正対化合成画像保持/出力部46に保持され、必要に応じて指示に従い出力される。
<実施例2の効果>
以上説明した実施例2では、次の(H)〜(J)のような効果がある。
以上説明した実施例2では、次の(H)〜(J)のような効果がある。
(H)4つのマーカレーザを同時に被写体表面に照射してその照射点(マーカ)までの距離や傾斜角度からの座標処理と、4つのマーカを撮影した画像を組み合わせることで、任意の位置から任意の倍率で撮影した画像をその撮影位置で容易に実寸が分かる正対化画像の変換できる。
(I)4つのマーカレーザを平行四辺形の頂点に配置し、平行なレーザビームを同時に被写体表面に照射してその照射点(マーカ)までの距離とマーカレーザの間隔情報および必要に応じて隣接マーカレーザ間の傾斜角度(固定値)や平行四辺形とレーザビームの放射角度(固定値)を用いることで、パン方向やチルト方向の回転角を計測することなく、簡単に正対化画像を得ることができる。
(J)2つのマーカレーザが平行に配置されたマーカレーザセットを雲台に固定し、別の2つのマーカレーザが平行に配置されたマーカレーザセットをチルト方向の回転ステージに設定することにより、2つのマーカレーザセット間の角度が任意に変えることができ、被写体の距離に応じたマーカ付与間隔が調整できるようになり、撮影領域の解像度と範囲が任意に設定できるようになる。
<変形例>
本実施例1、2の変形例を挙げる。
(a)実施例1および実施例2において、マーカレーザを平行に並べる構成を示したがマーカレーザが平行でなく夫々、パン角度方向とチルト角度方向で4つのレーザビームの照射方向の延長線が1点で交差するように傾斜させた構成としても、この交点を座標原点Oとして3次元座標値が一意に規定されるので、同様に正対化画像を得ることができる。
<変形例>
本実施例1、2の変形例を挙げる。
(a)実施例1および実施例2において、マーカレーザを平行に並べる構成を示したがマーカレーザが平行でなく夫々、パン角度方向とチルト角度方向で4つのレーザビームの照射方向の延長線が1点で交差するように傾斜させた構成としても、この交点を座標原点Oとして3次元座標値が一意に規定されるので、同様に正対化画像を得ることができる。
(b)実施例1では2つのマーカ、実施例2では4つのマーカを同時に付与するマーカ付与部の構成でマーカ有りの画像とマーカ無しの画像を撮影する形態について示したが、1つのマーカレーザの構成でパン角度回転移動およびチルト角度回転移動または平行移動が可能でその移動量とマーカまでの距離のマーカの3次元座標を規定する物理パラメータ値が可能となり、同じ撮影領域内で例えば4つのマーカ地点に付与する毎に撮影した撮影画像とマーカの3次元座標を特定する物理パラメータ値があれば、同時に4つのマーカを付与したのと同様に正対化画像を得ることができる。
(c)実施例1と実施例2では、撮影用カメラが1台の場合の構成を示したが、撮影画像においてカメラの位置依存性がないことから、カメラの台数や移動に依存せず、被写体に対するカメラの撮影傾斜角度が大きくなるために生じる解像度の低下を改善するために、カメラの撮影場所を撮影毎に正対位置に近い位置に寄せたり、複数のカメラで正対位置に近い撮影画像を適用したりしても、同じ撮影領域の異なる撮影画像においても撮影画像内に3次元座標の算出のための物理パラメータ値が分かる少なくとも4つマーカ像が含んだ撮影画像が得られれば、正対化画像を得て、さらに隣接撮影領域の重複域に2つのマーカ像を含ませることで正対化画像の接合画像を得ることができる。
(d) 実施例1では、マーカ像の位置が撮影画像内で同じ方向の端にある画像群を組み合わせることでマーカを隠蔽する方法ついて示したが、同じ領域のマーカ像が後ろ端にある画像の前半分とマーカ像が前端にある画像の後ろ半分を組み合わせるなど、マーカ像部分を排除するように2つの画像部分を組み合わせてマーカを排除(隠蔽)した画像を構成してもよい。
以上のように、本実施例によれば、4つの正対化画像処理の高輝度なマーカを安定的に付与して、被写体表面のひび割れなどの実寸法が画像で測れるようにした正対化画像とし、さらに、マーカの写りこみのない被写体自体の画像を、一連の接合した画像として得ることができる。
なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。例えば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。
また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、SSD(Solid State Drive)等の記憶装置、又は、ICカード、SDカード、DVD等の記録媒体に格納することができる。
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
1 マルチ画像撮影・画像処理システム
2 カメラ
3 マーカレーザ(距離計測機能付き)
4 被写体表面
5 撮影装置部
6 画像処理部
7 カメラ装置部
8 マーカ付与部
9 制御部
10 撮影領域
2 カメラ
3 マーカレーザ(距離計測機能付き)
4 被写体表面
5 撮影装置部
6 画像処理部
7 カメラ装置部
8 マーカ付与部
9 制御部
10 撮影領域
Claims (12)
- 撮影装置と画像処理装置を有する画像撮影システムであって、
前記撮影装置は、被写体の一部の撮影領域を撮影する少なくとも一つのカメラを有するカメラ装置と、
前記撮影領域内の少なくとも4つの地点にレーザビームを照射してマーカを付与する少なくとも一つのマーカレーザと、前記付与されたマーカまでのマーカレーザの基準位置からの距離、あるいは、隣接する前記マーカレーザの照射方向の相互のパン角度またはチルト角度、を含む、各付与マーカの3次元座標を得るための物理パラメータを計測する計測部とからなるマーカ付与部と、を有し、
前記マーカ付与部により、前記撮影領域の少なくとも4つの前記マーカ付与地点に対して同時または順次にマーカを付与した撮影画像と、同時または順次にマーカを付与しない撮影画像を前記カメラで撮影すると、共に前記マーカ付与地点へのマーカの付与毎に前記物理パラメータの計測を実行し、
前記画像処理装置は、
前記撮影装置から、前記撮影画像群と前記物理パラメータの計測値を取得する取得部と、
前記マーカを付与した撮影画像のマーカ像を構成する画素集合に基づいて、前記撮影画像から前記マーカ像座標を抽出する撮影画像マーカ座標抽出部と、
前記物理パラメータの計測値から、前記マーカ像に対応するマーカの3次元座標を導出し、前記3次元座標から前記マーカが構成する被写体表面の平面の座標に変換し、さらに前記被写体表面の平面に正対する特定の視点位置からの透視画像として前記マーカを見たときの正対化画像のマーカ座標を算出する正対化画像マーカ座標算出部、
少なくとも4つの前記撮影画像のマーカ像座標と対応する前記正対化画像のマーカ座標から、撮影画像を正対化画像に投影変換するための正対化補正値を算出する正対化補正値算出部、
前記正対化補正値を前記マーカ付与地点にマーカを付与していない画像に適用して、マーカ像の写り込みのない前記撮影領域の正対化画像を生成する正対化画像変換部、
を有することを特徴とする画像撮影システム。 - 請求項1に記載の画像撮影システムにおいて、
前記撮影装置は、
同じ回転方向に向きが変えられる第一と第二の機構上に前記カメラと前記マーカレーザが夫々設置され、前記カメラ装置の前記カメラの撮影方向および前記マーカ付与部の前記マーカレーザの照射方向が、所定の移動方向内でそれぞれ独立して断続的に移動または停止でき、
マーカ付与部は、前記マーカレーザの回転移動により、前記カメラの回転移動に伴う複数の隣接撮影領域の撮影に対して、隣接する第1の撮影領域と第2の撮影領域が重複する共通領域に少なくとも2つの共通マーカを付与できる構造を有し、
前記第1の撮影領域における前記移動方向の最前部に前記共通マーカが配置されるように、前記マーカレーザの照射方向を移動して停止させ、前記カメラにより前記第1の撮影領域を撮影した第1の撮影画像と、
前記第1撮影領域の前記移動方向に隣接し、かつ、前記第1の撮影領域との共通領域に前記共通マーカが含まれる第2の撮影領域が撮影可能となるように前記カメラの撮影方向を前記第1の撮影領域の撮影位置から前記移動方向に移動して停止させ、前記カメラにより前記第2の撮影領域を撮影した第2の撮影画像と、を交互に取得すると共に、
前記マーカ付与装置は前記共通マーカの付与位置が変わる毎に前記共通マーカの3次元座標を特定するための前記物理パラメータを計測し、
前記画像処理装置は、
前記正対化画像マーカ座標算出部により、前記2つの共通マーカの第1撮影画像の第1の正対化画像の座標と前記第2の撮影画像の第2の正対化画像の座標に基づいて、前記第1の正対化画像と前記第2の正対化画像とを接合するための接合補正値を算出する接合補正値算出部と、
前記第1の正対化画像から少なくとも前記共通領域のマーカ像を含む画像部分を除き、前記第2の正対化画像から少なくとも前記共通領域のマーカ像を含む画像部分を除き、マーカ像を含む画像部分を除いた画像部分にマーカ像の存在しない他方の画像部分がはまる様に、前記第1の正対化画像および前記第2の正対化画像のうちいずれか一方の撮影画像部分を組み合わせて、マーカの写り込みのない隣接画像の接合画像を合成する接合画像合成部と、
を有することを特徴とする画像撮影システム。 - 請求項1に記載の画像撮影システムの、
前記撮影装置において、少なくとも4つのマーカレーザを有し、前記撮影領域に同時にマーカ群を付与する前記マーカ付与部があり、
前記カメラにより、前記少なくとも4つのマーカレーザによりマーカが付与される前記撮影領域のマーカ付与地点に対して、同時にマーカを付与したマーカ有り画像と、前記マーカレーザを消灯して前記マーカが付与されていないマーカ無し撮影画像を撮影すると共に前記マーカの3次元座標を特定する前記物理パラメータを計測し、
前記画像処理装置において、
前記撮影画像マーカ座標抽出部は前記マーカ有り撮影画像から少なくとも前記4つの撮影画像マーカ像座標を抽出し、前記正対化画像マーカ座標算出部は前記マーカ像に対応するマーカの前記物理パラメータの計測値から正対化画像のマーカ座標を算出し、前記正対化補正値算出部は前記撮影画像マーカ座標と前記正対化画像のマーカ座標を用いて投影変換を行うための正対化補正値を算出し、前記正対化画像変換部は前記正対化補正値を前記マーカ無し撮影画像に適用して撮影領域の正対化画像を生成する、ことを特徴とする画像撮影システム。 - 被写体の一部の撮影領域を撮影する少なくとも一つのカメラを有するカメラ装置と、
前記撮影領域内の少なくとも4つの地点にレーザビームを照射してマーカを付与する少なくとも一つのマーカレーザと、前記付与されたマーカまでのマーカを付与するマーカレーザの基準位置からの距離、あるいは、隣接する前記マーカレーザの照射方向の相互のパン角度またはチルト角度、を含む、各付与マーカの3次元座標を得るための物理パラメータを計測する計測部とからなるマーカ付与部と、を有し、
前記マーカ付与部により、前記撮影領域の少なくとも4つのマーカ付与地点に対して同時または順次マーカを付与した撮影画像と同時または順次マーカを付与しない撮影画像を前記カメラで撮影すると共に前記マーカ付与地点へのマーカの付与毎に前記物理パラメータの計測を実行することを特徴とする撮影装置。 - 前記請求項4に記載の撮影装置において、
同じ回転方向に向きが変えられる第一と第二の機構上に夫々前記カメラと前記マーカレーザが設置され、前記カメラ装置の前記カメラの撮影方向および前記マーカ付与部の前記マーカレーザの照射方向が、所定の移動方向内でそれぞれ独立して断続的に移動または停止でき、
マーカ付与部は、前記マーカレーザの回転移動により、前記カメラの回転移動に伴う複数の隣接撮影領域の撮影に対して、隣接する第1の撮影領域と第2の撮影領域が重複する共通領域に少なくとも2つの共通マーカを付与できる構造を有し、
前記第1の撮影領域における前記移動方向の最前部に前記共通マーカが配置されるように、前記マーカレーザの照射方向を移動して停止させ、前記カメラにより前記第1の撮影領域を撮影した第1の撮影画像と、
前記第1撮影領域の前記移動方向に隣接し、かつ、前記第1の撮影領域との共通領域に前記共通マーカが含まれる第2の撮影領域が撮影可能となるように前記カメラの撮影方向を前記第1の撮影領域の撮影位置から前記移動方向に移動して停止させ、前記カメラにより前記第2の撮影領域を撮影した第2の撮影画像と、を交互に取得すると共に、
前記マーカ付与装置は前記共通マーカの付与位置が変わる毎に前記共通マーカの3次元座標を特定するための前記物理パラメータを計測すること特徴とする撮影装置。 - 請求項4に記載の画像撮影装置において
少なくとも4つのマーカレーザを有し、前記撮影領域に同時にマーカ群を付与する前記マーカ付与部があり、
前記カメラにより、前記少なくとも4つのマーカレーザによりマーカが付与される前記撮影領域マーカ付与地点に対して、同時にマーカを付与したマーカ有り画像と、前記マーカレーザを消灯して前記マーカが付与されていないマーカ無し撮影画像を撮影すると共に前記マーカの3次元座標を特定する前記物理パラメータを計測することを特徴とする撮影装置。 - 請求項6に記載の撮影装置において、
前記マーカ付与装置の4つのマーカレーザは所定の平行な辺の間隔と所定の隣接する辺の傾斜角度からなる平行四辺形の頂点に配置されると共にレーザビームの放射方向が平行となるように設定され、前記平行なレーザビームと前記マーカレーザの平行四辺形が成す平面と所定の傾き角度となるようにし、前記4つのマーカレーザにより付与されるマーカ群の3次元座標を特定する物理パラメータとして前記マーカレーザの基準位置から各付与マーカまでの距離を計測することを特徴とする撮影装置。 - 請求項4に記載の撮影装置において
前記マーカ付与装置のマーカレーザの配置に関して、4つのマーカレーザは、2つのマーカレーザが所定の間隔で平行に配置された第一のマーカレーザセットと、別の2つのマーカレーザが所定の間隔で平行に配置された第二のマーカレーザセットからなり、前記第一と第二のマーカレーザセットは、マーカレーザセット内のマーカレーザの並びの方向が同じ方向となるように配置されると共に、各マーカレーザセット内の同じ側のマーカレーザのレーザビーム放射方向の逆方向への延長線上同士が所定角度で交差するように、レーザビームの放射方向と前記マーカレーザの並び方向が成す面に垂直な方向で所定の間隔と所定の角度を持って配置されることを特徴とする撮影装置。 - 撮影装置と連携する画像処理装置であって、
前記撮影装置は、被写体の一部の撮影領域を撮影する少なくとも一つのカメラを有するカメラ装置と、
前記撮影領域内の少なくとも4つの地点にレーザビームを照射してマーカを付与する少なくとも一つのマーカレーザと、前記付与されたマーカまでのマーカレーザの基準位置からの距離、あるいは、隣接する前記マーカを付与する前記マーカレーザの照射方向の相互のパン角度またはチルト角度、を含む、各付与マーカの3次元座標を得るための物理パラメータを計測する計測部とからなるマーカ付与部と、を有し、
前記マーカ付与部により、前記撮影領域の少なくとも4つの前記マーカ付与地点に対して同時または順次にマーカを付与した撮影画像と、同時または順次にマーカを付与しない撮影画像を前記カメラで撮影すると、共に前記マーカ付与地点へのマーカの付与毎に前記物理パラメータの計測を実行し、
前記画像処理装置において、
前記撮影装置から、前記撮影画像群と前記物理パラメータの計測値を取得する取得部と、
前記マーカ付与画像または部分マーカ付与画像のマーカ像を構成する画素集合に基づいて、前記撮影画像から前記マーカ像座標を抽出する撮影画像マーカ座標抽出部と、
前記物理パラメータの計測値から、前記マーカ像に対応するマーカの3次元座標を導出し、前記3次元座標から前記マーカが構成する被写体表面の平面の座標に変換し、さらに前記被写体表面の平面に正対する特定の視点位置からの透視画像として前記マーカを見たときの正対化画像のマーカ座標を算出する正対化画像マーカ座標算出部、
少なくとも4つの前記撮影画像のマーカ像座標と対応する前記正対化画像のマーカ座標から、撮影画像を正対化画像に投影変換するための正対化補正値を算出する正対化補正値算出部、
前記正対化補正値を前記マーカ付与地点にマーカを付与していない画像部分に適用して、マーカ像の前記撮影領域の正対化画像を生成する正対化画像変換部、
を有することを特徴とする画像処理装置。 - 請求項9に記載の撮影装置と連携する画像処理装置であって、
前記撮影装置は、
同じ回転方向に向きが変えられる第一と第二の機構上に夫々前記カメラと前記マーカレーザが設置され、前記カメラ装置の前記カメラの撮影方向および前記マーカ付与部の前記マーカレーザの照射方向が、所定の移動方向内でそれぞれ独立して断続的に移動または停止でき、
マーカ付与部は、前記マーカレーザの回転移動により、前記カメラの回転移動に伴う複数の隣接撮影領域の撮影に対して、隣接する第1の撮影領域と第2の撮影領域が重複する共通領域に少なくとも2つの共通マーカを付与できる構造を有し、
前記第1の撮影領域における前記移動方向の最前部に前記共通マーカが配置されるように、前記マーカレーザの照射方向を移動して停止させ、前記カメラにより前記第1の撮影領域を撮影した第1の撮影画像と、
前記第1撮影領域の前記移動方向に隣接し、かつ、前記第1の撮影領域との共通領域に前記共通マーカが含まれる第2の撮影領域が撮影可能となるように前記カメラの撮影方向を前記第1の撮影領域の撮影位置から前記移動方向に移動して停止させ、前記カメラにより前記第2の撮影領域を撮影した第2の撮影画像と、を交互に取得すると共に、
前記マーカ付与装置は前記共通マーカの付与位置が変わる毎に前記共通マーカの3次元座標を特定するための前記物理パラメータを計測し、
前記画像処理装置において、
前記正対化画像マーカ座標算出部により、前記2つの共通マーカの第1撮影画像の第1の正対化画像の座標と前記第2の撮影画像の第2の正対化画像の座標に基づいて、前記第1の正対化画像と前記第2の正対化画像とを接合するための接合補正値を算出する接合補正値算出部と、
前記第1の正対化画像から少なくとも前記共通領域のマーカ像を含む画像部分を除き、前記第2の正対化画像から少なくとも前記共通領域のマーカ像を含む画像部分を除き、マーカ像を含む画像部分を除いた画像部分にマーカ像の存在しない他方の画像部分がはまる様に、前記第1の正対化画像および前記第2の正対化画像のうちいずれか一方の撮影画像部分を組み合わせて、マーカの写り込みのない隣接画像の接合画像を合成する接合画像合成部と、
を有することを特徴とする画像処理装置。 - 請求項9に記載の撮影装置に連携する画像処理装置であって、
前記撮影装置は、
少なくとも4つのマーカレーザを有し、前記撮影領域に同時にマーカ群を付与する前記マーカ付与部があり、
前記カメラにより、前記少なくとも4つのマーカレーザによりマーカが付与される前記撮影領域のマーカ付与地点に対して、同時にマーカを付与したマーカ有り画像と、前記マーカレーザを消灯して前記マーカが付与されていないマーカ無し撮影画像を撮影すると共に前記マーカの3次元座標を特定する前記物理パラメータを計測し、
前記画像処理装置において、
前記撮影画像マーカ座標抽出部は前記マーカ有り撮影画像から少なくとも前記4つの撮影画像マーカ像座標を抽出し、前記正対化画像マーカ座標算出部は前記マーカ像に対応するマーカの前記物理パラメータの計測値から正対化画像のマーカ座標を算出し、前記正対化補正値算出部は前記撮影画像マーカ座標と前記正対化画像のマーカ座標を用いて投影変換を行うための正対化補正値を算出し、前記正対化画像変換部は前記正対化補正値を前記マーカ無し撮影画像に適用して撮影領域の正対化画像を生成する、ことを特徴とする画像処理装置。 - 請求項11に記載の撮影装置に連携する画像処理装置であって、
前記撮影装置は、
前記マーカ付与装置の4つのマーカレーザは所定の平行な辺の間隔と所定の隣接する辺の傾斜角度からなる平行四辺形の頂点に配置されると共にレーザビームの放射方向が平行となるように設定され、前記平行なレーザビームと前記マーカレーザの平行四辺形が成す平面と所定の傾き角度となるようにし、前記4つのマーカレーザにより付与されるマーカ群の3次元座標を特定する物理パラメータとして前記マーカレーザの基準位置から各付与マーカまでの距離を計測し、
前記画像処理装置において、
前記正対化画像マーカ座標算出部は前記マーカ像に対応するマーカの前記物理パラメータである前記マーカレーザから各付与マーカまでの距離の計測値と前記隣接マーカレーザのレーザビームの間隔と前記レーザビーム方向とマーカレーザが配置される前記平行四辺形との傾斜角度と、前記平行四辺形の平行な辺の間隔と隣接する辺の傾斜角度値とから夫々のマーカレーザの基準位置の直交3次元軸系における座標を算出して、正対化画像で対応する各マーカの正対化画像マーカ座標を算出し、前記正対化補正値算出部は前記撮影画像マーカ座標と前記正対化画像マーカ座標を用いて投影変換を行うための正対化補正値を算出し、前記正対化画像変換部は前記正対化補正値を前記マーカ無し撮影画像に適用して撮影領域の正対化画像を生成する、ことを特徴とする画像処理装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015154692A JP2017034576A (ja) | 2015-08-05 | 2015-08-05 | 画像撮影システム、撮影装置、および画像処理装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015154692A JP2017034576A (ja) | 2015-08-05 | 2015-08-05 | 画像撮影システム、撮影装置、および画像処理装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2017034576A true JP2017034576A (ja) | 2017-02-09 |
Family
ID=57989060
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015154692A Pending JP2017034576A (ja) | 2015-08-05 | 2015-08-05 | 画像撮影システム、撮影装置、および画像処理装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2017034576A (ja) |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101870574B1 (ko) * | 2017-06-30 | 2018-07-23 | 채수현 | 광학 기술을 이용하는 촬영 기기 및 이를 이용한 촬영 방법 |
KR20180136600A (ko) * | 2017-06-14 | 2018-12-26 | 주식회사 더미리 | 노래 서비스를 제공하기 위한 서버장치 |
JP2019144191A (ja) * | 2018-02-23 | 2019-08-29 | 株式会社市川工務店 | 橋梁などの構造物を検査するための画像処理システム、画像処理方法及びプログラム |
JP2020135450A (ja) * | 2019-02-20 | 2020-08-31 | 株式会社市川工務店 | 橋梁などの構造物を効率的に検査するための画像処理システム、画像処理方法及びプログラム |
JP2020136960A (ja) * | 2019-02-21 | 2020-08-31 | 大成建設株式会社 | 撮影画像補正システム及び撮影画像補正方法 |
CN113495256A (zh) * | 2020-04-01 | 2021-10-12 | 北京京东乾石科技有限公司 | 确定多个激光雷达之间标定结果的准确度的方法和装置 |
JP2022033794A (ja) * | 2017-09-19 | 2022-03-02 | 大成建設株式会社 | 撮影画像補正方法 |
CN114324363A (zh) * | 2021-12-31 | 2022-04-12 | 苏州艾方芯动自动化设备有限公司 | 产品状态检测方法及系统 |
CN115314689A (zh) * | 2022-08-05 | 2022-11-08 | 深圳海翼智新科技有限公司 | 投影校正方法、装置、投影仪和计算机程序产品 |
JP2022186401A (ja) * | 2021-06-04 | 2022-12-15 | プライムプラネットエナジー&ソリューションズ株式会社 | 対象物の変位量測定方法および変位量測定装置 |
JP7442672B2 (ja) | 2020-03-23 | 2024-03-04 | サクミ コオペラティヴァ メッカニチ イモラ ソシエタ コオペラティヴァ | 物体の側壁を検査するための方法 |
-
2015
- 2015-08-05 JP JP2015154692A patent/JP2017034576A/ja active Pending
Cited By (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20180136600A (ko) * | 2017-06-14 | 2018-12-26 | 주식회사 더미리 | 노래 서비스를 제공하기 위한 서버장치 |
KR101982346B1 (ko) | 2017-06-14 | 2019-05-27 | 주식회사 더미리 | 노래 서비스를 제공하기 위한 서버장치 |
KR101870574B1 (ko) * | 2017-06-30 | 2018-07-23 | 채수현 | 광학 기술을 이용하는 촬영 기기 및 이를 이용한 촬영 방법 |
JP2022033794A (ja) * | 2017-09-19 | 2022-03-02 | 大成建設株式会社 | 撮影画像補正方法 |
JP7165800B2 (ja) | 2017-09-19 | 2022-11-04 | 大成建設株式会社 | 撮影画像補正方法 |
JP2019144191A (ja) * | 2018-02-23 | 2019-08-29 | 株式会社市川工務店 | 橋梁などの構造物を検査するための画像処理システム、画像処理方法及びプログラム |
JP7044331B2 (ja) | 2019-02-20 | 2022-03-30 | 株式会社市川工務店 | 橋梁などの構造物を効率的に検査するための画像処理システム、画像処理方法及びプログラム |
JP2020135450A (ja) * | 2019-02-20 | 2020-08-31 | 株式会社市川工務店 | 橋梁などの構造物を効率的に検査するための画像処理システム、画像処理方法及びプログラム |
JP2020136960A (ja) * | 2019-02-21 | 2020-08-31 | 大成建設株式会社 | 撮影画像補正システム及び撮影画像補正方法 |
JP7442672B2 (ja) | 2020-03-23 | 2024-03-04 | サクミ コオペラティヴァ メッカニチ イモラ ソシエタ コオペラティヴァ | 物体の側壁を検査するための方法 |
CN113495256A (zh) * | 2020-04-01 | 2021-10-12 | 北京京东乾石科技有限公司 | 确定多个激光雷达之间标定结果的准确度的方法和装置 |
CN113495256B (zh) * | 2020-04-01 | 2024-04-05 | 北京京东乾石科技有限公司 | 确定多个激光雷达之间标定结果的准确度的方法和装置 |
JP2022186401A (ja) * | 2021-06-04 | 2022-12-15 | プライムプラネットエナジー&ソリューションズ株式会社 | 対象物の変位量測定方法および変位量測定装置 |
JP7414772B2 (ja) | 2021-06-04 | 2024-01-16 | プライムプラネットエナジー&ソリューションズ株式会社 | 対象物の変位量測定方法および変位量測定装置 |
CN114324363A (zh) * | 2021-12-31 | 2022-04-12 | 苏州艾方芯动自动化设备有限公司 | 产品状态检测方法及系统 |
CN114324363B (zh) * | 2021-12-31 | 2024-04-26 | 无锡艾方芯动自动化设备有限公司 | 产品状态检测方法及系统 |
CN115314689A (zh) * | 2022-08-05 | 2022-11-08 | 深圳海翼智新科技有限公司 | 投影校正方法、装置、投影仪和计算机程序产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2017034576A (ja) | 画像撮影システム、撮影装置、および画像処理装置 | |
US20150116691A1 (en) | Indoor surveying apparatus and method | |
US8699005B2 (en) | Indoor surveying apparatus | |
US9734609B2 (en) | Transprojection of geometry data | |
JP6317760B2 (ja) | 3次元表面測定のための装置および方法 | |
JP5872923B2 (ja) | Ar画像処理装置及び方法 | |
JP5051493B2 (ja) | 三次元計測用マーカとこれを用いた三次元計測方法 | |
US10234117B2 (en) | Stadium lighting aiming system and method | |
JP6184237B2 (ja) | 3次元データの処理装置、その処理方法及びその処理プログラム | |
JP7300948B2 (ja) | 測量データ処理装置、測量データ処理方法、測量データ処理用プログラム | |
Zhang et al. | A universal and flexible theodolite-camera system for making accurate measurements over large volumes | |
JP2013539541A (ja) | プロジェクタを有するレーザスキャナまたはレーザ追跡装置 | |
CN105308503A (zh) | 利用短程相机校准显示系统的系统和方法 | |
JP2009017480A (ja) | カメラキャリブレーション装置およびそのプログラム | |
JP6846661B2 (ja) | 3次元的な投影対象のための投影方法及び装置 | |
JP2016100698A (ja) | 校正装置、校正方法、プログラム | |
US20080074648A1 (en) | Method and Apparatus for Three-Dimensional Measurement of Objects in an Extended angular range | |
JP2017528714A (ja) | 3次元座標の光学測定のための方法および3次元測定デバイスの制御 | |
JP6295296B2 (ja) | 複合システム及びターゲットマーカ | |
JP2019045299A (ja) | 3次元情報取得装置 | |
JP4649192B2 (ja) | ステレオ画像作成方法及び3次元データ作成装置 | |
JP2011075336A (ja) | 3次元形状計測装置、3次元形状計測方法 | |
JP2007033087A (ja) | キャリブレーション装置及び方法 | |
JP5365960B2 (ja) | 三次元2点間距離簡易計測装置 | |
JP2002324239A (ja) | 情報呈示システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170111 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20170113 |