JP2004157894A - カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 - Google Patents
カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 Download PDFInfo
- Publication number
- JP2004157894A JP2004157894A JP2002324694A JP2002324694A JP2004157894A JP 2004157894 A JP2004157894 A JP 2004157894A JP 2002324694 A JP2002324694 A JP 2002324694A JP 2002324694 A JP2002324694 A JP 2002324694A JP 2004157894 A JP2004157894 A JP 2004157894A
- Authority
- JP
- Japan
- Prior art keywords
- contour
- camera
- image
- extracted
- intersection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Image Analysis (AREA)
Abstract
【課題】一枚の全方位画像から、これを撮影したカメラ姿勢を容易に取得可能とする。
【解決手段】全方位画像入力部101は、カメラで撮影もしくは撮像した全方位画像をデータとして入力する。物体輪郭抽出部102は、全方位画像上に投影された建物等の物体の輪郭を抽出する。垂線輪郭指示部103は、抽出した輪郭の中から空間中で垂直な部分を複数箇所指示する。輪郭延長線算出部104は、指示した垂線輪郭から垂線輪郭を延長した曲線を算出する。FOE算出部105は、算出した複数の輪郭延長線の交点をFOEとして算出する。FOE変換部106は、算出したFOEの位置をロール角とピッチ角に変換する。カメラ姿勢出力部107は、算出したロール角とピッチ角を当該全方位画像撮影時もしくは撮像時のカメラ姿勢情報として出力する。
【選択図】 図1
【解決手段】全方位画像入力部101は、カメラで撮影もしくは撮像した全方位画像をデータとして入力する。物体輪郭抽出部102は、全方位画像上に投影された建物等の物体の輪郭を抽出する。垂線輪郭指示部103は、抽出した輪郭の中から空間中で垂直な部分を複数箇所指示する。輪郭延長線算出部104は、指示した垂線輪郭から垂線輪郭を延長した曲線を算出する。FOE算出部105は、算出した複数の輪郭延長線の交点をFOEとして算出する。FOE変換部106は、算出したFOEの位置をロール角とピッチ角に変換する。カメラ姿勢出力部107は、算出したロール角とピッチ角を当該全方位画像撮影時もしくは撮像時のカメラ姿勢情報として出力する。
【選択図】 図1
Description
【0001】
【発明の属する技術分野】
本発明は、コンピュータビジョン分野、画像計測並びに測量分野において、画像入力装置(全方位カメラ)等により取得した画像データ(全方位画像)から、画像データ取得時の画像入力装置等の姿勢情報を取得する方法および装置に関する。
【0002】
【従来の技術】
従来、画像撮影時のカメラの傾きなどの姿勢情報の取得には、ジャイロセンサなどを用いるセンサベースの手法と、複数画像の解析による手法があった。
【0003】
ジャイロセンサを用いる手法では、出力される角度情報を姿勢情報として直接取得できるという利点があるが、画像処理などに用いる場合には、カメラの取り付け位置とジャイロセンサの取り付け位置の違いから、位置合わせなどの処理が必要となるだけでなく、画像と姿勢情報の同期がとれない問題や、ジャイロのドリフトなどの問題がある。
【0004】
一方、複数画像の解析による手法では、上記のような位置合わせや同期などの問題がなく、画像毎の姿勢情報を獲得することが可能だが、複数の画像を解析しないと、姿勢情報を取得することはできないという問題がある(非特許文献1参照)。
【0005】
【非特許文献1】
農宗千典、小沢慎治、「道路形状情報と連続道路画像からの車両位置とカメラ姿勢の同時推定」、電子情報通信学会論文誌(D−II)、電子情報通信学会、1994年4月、第J77−D−II巻、第4号、p.764−773
【0006】
【発明が解決しようとする課題】
本発明は、上記従来技術の問題点を解決するためのものであり、例えば都市部などにおいて撮影された全方位画像のカメラ姿勢を、一枚の画像から容易に取得することができる技術を提供することを課題としている。
【0007】
【課題を解決するための手段】
上記の課題を解決するため、本発明は、全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢(ピッチ角、ロール角)を自動的に取得する方法であって、全方位画像に投影された物体の輪郭を抽出する第一のステップと、第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二のステップと、第二のステップで抽出した複数の曲線の交点を算出する第三のステップと、第三のステップで算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四のステップと、を有することを特徴とするカメラ姿勢取得方法を、その解決の手段とする。
【0008】
あるいは、上記のカメラ姿勢取得方法において、第二のステップに代えて、第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五のステップと、第三のステップに代えて、第五のステップで抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六のステップと、第六のステップで抽出した複数の直線の交点を算出する第七のステップと、を有することを特徴とするカメラ姿勢取得方法を、その解決の手段とする。
【0009】
あるいは、全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢(ピッチ角、ロール角)を自動的に取得する装置であって、全方位画像に投影された物体の輪郭を抽出する第一の手段と、第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二の手段と、第二の手段で複数抽出した曲線の交点を算出する第三の手段と、第三の手段で算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四の手段と、を有することを特徴とするカメラ姿勢取得装置を、その解決の手段とする。
【0010】
あるいは、上記のカメラ姿勢取得装置において、第二の手段に代えて、第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五の手段と、第三の手段に代えて、第五の手段で抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六の手段と、第六の手段で抽出した複数の直線の交点を算出する第七の手段と、を有することを特徴とするカメラ姿勢取得装置を、その解決の手段とする。
【0011】
あるいは、上記のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとしたことを特徴とするカメラ姿勢取得プログラムを、その解決の手段とする。
【0012】
あるいは、上記のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとし、該プログラムを、該コンピュータが読み取りできる記録媒体に記録したことを特徴とするカメラ姿勢取得プログラムを記録した記録媒体を、その解決の手段とする。
【0013】
本発明では、全方位画像中のFOE(Focus of expansion、画像中の消失点あるいは出現点を指す)の位置から、カメラの姿勢情報を算出することができる特徴を利用し、画像中に投影された建物等の物体の輪郭情報を用いて全方位画像中のFOE位置を推定し、それからカメラ姿勢を求めることにより、カメラ姿勢を取得することができるようにする。
【0014】
本発明を利用することにより、全方位画像を撮影もしくは撮像する際のカメラの姿勢を、全方位画像のみから取得することが可能となる。これにより、全方位画像を用いる画像計測においてカメラ姿勢を正確に把握でき、従って誤差の少ない計測結果を得ることが可能となる。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態について図を用いて詳細に説明する。
【0016】
〈実施形態例1〉
本発明による第1の実施形態例について説明する。以下では、説明上、全方位カメラは、魚眼レンズをマウントしたものとし、このカメラを車両に対して光軸が垂直上向きになるように搭載して、移動しながら全方位映像を取得するものとする。また、X−Y軸平面を地面、Z軸を高さ方向、X軸方向をカメラの進行方向とすると、本実施形態例において算出するカメラ姿勢は、X軸まわりの回転角φ(ロール角)、Y軸まわりの回転角ρ(ピッチ角)となる。なお、魚眼レンズは等距離投影
y=fθ …(1)
y:対象点の像中心からの投影距離
f:焦点距離
θ:対象点の方向の光軸に対する角度
を用いるものとする。ここでは、一例として魚眼レンズをマウントした全方位カメラを用いた場合について説明するが、他の全方位カメラを用いた場合についても、その全方位カメラの有する投影式をあてはめることで本発明が成立することは自明である。
【0017】
図1は、本実施形態例のブロック構成図である。本実施形態例は、カメラが撮影もしくは撮像した全方位画像をデータとして入力する全方位画像入力部[101]、全方位画像上に投影された建物等の物体の輪郭を抽出する物体輪郭抽出部[102]、抽出した輪郭の中から空間中で垂直な部分を複数箇所指示する垂線輪郭指示部[103]、指示した垂線輪郭から垂線輪郭を延長した曲線を算出する輪郭延長線算出部[104]、算出した複数の輪郭延長線の交点をFOEとして算出するFOE算出部[105]、算出したFOEの位置をロール角とピッチ角に変換するFOE変換部[106]、算出したロール角とピッチ角をカメラ姿勢情報として出力するカメラ姿勢出力部[107]から構成されている。
【0018】
本実施形態例を説明する準備として、図2に全方位画像の座標系を示す。全方位画像上の画素の座標系をI−J、空間中の座標系をX−Y−Zとする。全方位画像上の点の座標はI−J座標系で(i,j)と示す。ここでは、X−Y平面は空間中で地面を表し、Z軸方向が高さ、X軸方向が進行方向を表している。また、I軸、J軸はそれぞれX軸、Y軸と並行であるものとする。なお、I−J座標系とX−Y−Z座標系のスケールを変換するための係数を量子化ステップと呼び、Dとする。
【0019】
図3に本実施形態例の処理フローを示す。処理が開始[301]すると全方位画像[302]を全方位画像入力[303]に対して入力する。
【0020】
次に、処理の初期値として輪郭延長線の数をmとし、mに0を代入する[304]。
【0021】
次に、物体輪郭抽出[305]では、全方位画像入力[303]で入力した全方位画像に対して輪郭抽出処理を行い、輪郭抽出画像を得る。図4に全方位画像に対する輪郭抽出例を示す。全方位画像を画素の輝度の勾配値を利用した公知の方法などで建物等の物体の輪郭を求め、輪郭に当たる画素の値を1、輪郭にあたらない画素の値を0とする。図4では黒い画素の値を1、白い画素の値を0としている。
【0022】
次に、輪郭垂線上の点を指示[306]では、輪郭垂線上の点(i1,j1),…,(in,jn)をnが3以上となるように指示する。輪郭垂線とは物体輪郭抽出[305]で抽出した輪郭の中から空間中で垂直な物体の輪郭である。図5に輪郭垂線の指示例を示す。空間中で垂直な建物の輪郭上の点を例えば人手により3点以上プロットすることにより、プロットした点群を輪郭垂線上の点とすることができる。
【0023】
次に、曲線あてはめ[307]では、[306]で指示した輪郭垂線上の点(i1,j1),…,(in,jn)に対して曲線あてはめ処理を行う。図6に輪郭延長線の算出例を示す。指示した輪郭垂線上の複数の点に対して、曲線あてはめ手法(亀山博史、鈴木寿、有本卓、「スプライン曲線あてはめによる手書きストロークの抽出」、画像の認識・理解(MIRU’92)シンポジウム論文集、情報処理学会、1992年7月、p.I201−I207や、金谷健一、金澤靖、「最適な曲線当てはめとその信頼性評価」、画像の認識・理解(MIRU’98)シンポジウム論文集I、情報処理学会、1998年7月、p.I331−I336)などで曲線を算出し、輪郭延長線とする。
【0024】
次に、輪郭延長線L(m)決定[308]では、点(i1、j1),…,(in,jn)への曲線あてはめ[307]で得られた曲線を輪郭延長線L(m)として決定する。
【0025】
次に、[309]では他に点を指示できる輪郭垂線があるかどうかを判断し、他に輪郭垂線がある場合には輪郭延長線の数であるmに1を加算して[310]、輪郭垂線上の点を指示[306]に戻る。他に輪郭垂線が無い場合には輪郭延長線の交点算出[311]に処理が進む。
【0026】
次に、輪郭延長線の交点算出[311]では、輪郭延長線L(m)決定[308]で決定した輪郭延長線L(1),…,L(m)の交点を最小自乗法などによって算出する。
【0027】
図7にFOE算出例を示す。一般的に、空間中で垂直な線分の高さを無限遠まで延長した直線は、画像上でFOEを中心として放射状に投影されるという性質がある。これを言い換えると、輪郭延長線の交点算出[311]において算出した交点はFOEと一致することとなる。FOE位置決定[312]では、上記の性質を利用して輪郭延長線の交点算出[311]で算出した交点をFOE位置(ifoe,jfoe)として決定する。
【0028】
次に、カメラ姿勢算出[313]では、FOE位置決定[312]で決定したFOE位置を、魚眼レンズの投影式(1)と結像面における受光素子1画素の物理的な大きさDから導出した式(2)(3)によってロール角φ、ピッチ角ρを算出する。
【0029】
φ=D×jfoe/f …(2)
ρ=D×ifoe/f …(3)
以上により、カメラ姿勢の取得処理が終了する[314]。
【0030】
〈実施形態例2〉
本発明による第2の実施形態例について説明する。ここでは、第1の実施形態例における輪郭垂線の指示、輪郭延長線算出を行う代わりに、より簡便な方法でFOEを算出する手段について述べる。ただし、本実施形態例は、算出するロール角および、ピッチ角が第一次近似(cos(θ)≒1,sin(θ)≒θ)が成立する範囲内での微少な傾きである場合に成立する。
【0031】
図8は、本実施形態例のブロック構成図である。本実施形態例は、カメラが撮影もしくは撮像した全方位画像をデータとして入力する全前立画像入力部[801]、全方位画像上に投影された建物等の物体の輪郭を抽出する物体輪郭抽出部[802]、抽出した輪郭に対して直線検出を行う直線検出部[803]、検出した直線の中から誤検出した直線を削除する誤検出削除部[804]、誤検出削除後に残った直線の交点をFOEとして算出するFOE算出部[805]、算出したFOEの位置をロール角、ピッチ角に変換するFOE変換部[806]、算出したロール角、ピッチ角をカメラ姿勢情報として出力するカメラ姿勢情報出力部[807]から構成されている。
【0032】
図9に本実施形態例の処理フローを示す。処理が開始[901]すると全方位画像[902]を全方位画像入力[903]に対して入力する。物体輪郭抽出[904]では、全方位画像入力[903]で入力した全方位画像に対して輪郭抽出処理を行い、輪郭抽出画像を得る。
【0033】
ここで、算出するロール角および、ピッチ角が第一次近似(cos(θ)≒1,sin(θ)≒θ)が成立する範囲内での微少な傾きである場合、空間中で垂直なの輪郭は、FOEを中心として放射状の直線と重なるという性質がある。このため、抽出した輪郭に対して直線検出を行うことで、空間中で垂直な物体の輪郭を抽出することができる。図10に直線検出の例を示す。この例は、輪郭抽出画像に対して、Hough変換を用いた直線検出処理を行った例である。このように、直線検出[905]では、物体輪郭抽出[904]で輪郭抽出を行った画像に対して、直線検出処理により、M本の直線L(1),…,L(M)を検出する。
【0034】
次に、[906]では初期設定として、誤検出でないとみなす領域Rの指定と処理対象の直線番号であるmに1を代入する。
【0035】
次に、直線L(m)の判定[907]では、検出された直線L(m)が初期設定[906]で指定された領域Rを通過するかを判定し、通過していない場合には[908]において直線L(m)を誤検出した直線とみなして削除する。図11に誤検出した直線を削除した例を示す。初期設定において領域Rを指定し、その領域Rを通過しない直線を誤検出した直線とみなして削除する。
【0036】
誤検出処理終了判定[909]では、処理対象の直線番号mが検出した直線数Mに一致するかを判定し、mがMに到達していない場合には[911]でmに1を加算して処理を繰り返す。つまり、直線検出[905]において検出されたすべての直線に関して直線L(m)の判定[907]が行われるまで処理を繰り返す。mがMに等しい場合には、直線検出[905]において検出されたすべての直線に関して直線L(m)の判定[907]が終了したと判定し、直線の交点算出[912]へ処理を進める。
【0037】
直線の交点算出[912]では、直線L(m)の判定[907]で削除されず残った直線の交点の算出を行う。直線の交点は、削除されず残ったすべての直線からの距離が最小となるような点の位置を最小自乗法などによって算出し、交点として決定する。
【0038】
FOE位置決定[913]では直線の交点算出[912]で算出した交点をFOE位置(ifoe,jfoe)として決定する。
【0039】
カメラ姿勢算出[914]では、FOE位置決定[913]で決定したFOE位置を式(2),(3)によってロール角φ、ピッチ角ρを算出する。
【0040】
以上により、カメラ姿勢取得処理が終了する[915]。
【0041】
以上により、FOEの算出を直線検出により自動で行うことが可能となり、輪郭垂線を手動などによって指示を行う必要のある第1の実施形態例と比較してより簡便にカメラ姿勢を取得することが可能となる。
【0042】
なお、図1、図8で示した装置における各部の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、あるいは、図3、図9で示した処理ステップをコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラム、あるいは、コンピュータにその処理ステップを実行させるためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えば、フレキシブルディスクや、MO、ROM、メモリカード、CD、DVD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。
また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。このように、記録媒体やネットワークにより提供されたプログラムをコンピュータにインストールすることで、本発明が実施可能となる。
【0043】
【発明の効果】
以上において説明したとおり、本発明によれば、全方位画像を撮影もしくは撮像した際のカメラ姿勢を、全方位画像のみから容易に取得することが可能となる。これにより、全方位画像を用いた画像計測において、カメラ姿勢を考慮した精度の高い計測結果を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明による第1の実施形態例のブロック構成を示す図である。
【図2】全方位画像の座標系を示す図である。
【図3】第1の実施形態例の処理フローを示す図である。
【図4】全方位画像の輪郭抽出の例を示す図である。
【図5】輪郭垂線の指示例を示す図である。
【図6】輪郭延長線を算出した例を示す図である。
【図7】FOEを算出した例を示す図である。
【図8】本発明による第2の実施形態例のブロック構成を示す図である。
【図9】第2の実施形態例の処理フローを示す図である。
【図10】直線検出の例を示す図である。
【図11】誤検出した直線を削除した例を示す図である。
【符号の説明】
101…全方位画像入力部
102…物体輪郭抽出部
103…垂線輪郭指示部
104…輪郭延長線算出部
105…FOE算出部
106…FOE変換部
107…カメラ姿勢出力部
801…全方位画像入力部
802…物体輪郭抽出部
803…直線検出部
804…誤検出削除部
805…FOE算出部
806…FOE変換部
807…カメラ姿勢出力部
【発明の属する技術分野】
本発明は、コンピュータビジョン分野、画像計測並びに測量分野において、画像入力装置(全方位カメラ)等により取得した画像データ(全方位画像)から、画像データ取得時の画像入力装置等の姿勢情報を取得する方法および装置に関する。
【0002】
【従来の技術】
従来、画像撮影時のカメラの傾きなどの姿勢情報の取得には、ジャイロセンサなどを用いるセンサベースの手法と、複数画像の解析による手法があった。
【0003】
ジャイロセンサを用いる手法では、出力される角度情報を姿勢情報として直接取得できるという利点があるが、画像処理などに用いる場合には、カメラの取り付け位置とジャイロセンサの取り付け位置の違いから、位置合わせなどの処理が必要となるだけでなく、画像と姿勢情報の同期がとれない問題や、ジャイロのドリフトなどの問題がある。
【0004】
一方、複数画像の解析による手法では、上記のような位置合わせや同期などの問題がなく、画像毎の姿勢情報を獲得することが可能だが、複数の画像を解析しないと、姿勢情報を取得することはできないという問題がある(非特許文献1参照)。
【0005】
【非特許文献1】
農宗千典、小沢慎治、「道路形状情報と連続道路画像からの車両位置とカメラ姿勢の同時推定」、電子情報通信学会論文誌(D−II)、電子情報通信学会、1994年4月、第J77−D−II巻、第4号、p.764−773
【0006】
【発明が解決しようとする課題】
本発明は、上記従来技術の問題点を解決するためのものであり、例えば都市部などにおいて撮影された全方位画像のカメラ姿勢を、一枚の画像から容易に取得することができる技術を提供することを課題としている。
【0007】
【課題を解決するための手段】
上記の課題を解決するため、本発明は、全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢(ピッチ角、ロール角)を自動的に取得する方法であって、全方位画像に投影された物体の輪郭を抽出する第一のステップと、第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二のステップと、第二のステップで抽出した複数の曲線の交点を算出する第三のステップと、第三のステップで算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四のステップと、を有することを特徴とするカメラ姿勢取得方法を、その解決の手段とする。
【0008】
あるいは、上記のカメラ姿勢取得方法において、第二のステップに代えて、第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五のステップと、第三のステップに代えて、第五のステップで抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六のステップと、第六のステップで抽出した複数の直線の交点を算出する第七のステップと、を有することを特徴とするカメラ姿勢取得方法を、その解決の手段とする。
【0009】
あるいは、全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢(ピッチ角、ロール角)を自動的に取得する装置であって、全方位画像に投影された物体の輪郭を抽出する第一の手段と、第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二の手段と、第二の手段で複数抽出した曲線の交点を算出する第三の手段と、第三の手段で算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四の手段と、を有することを特徴とするカメラ姿勢取得装置を、その解決の手段とする。
【0010】
あるいは、上記のカメラ姿勢取得装置において、第二の手段に代えて、第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五の手段と、第三の手段に代えて、第五の手段で抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六の手段と、第六の手段で抽出した複数の直線の交点を算出する第七の手段と、を有することを特徴とするカメラ姿勢取得装置を、その解決の手段とする。
【0011】
あるいは、上記のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとしたことを特徴とするカメラ姿勢取得プログラムを、その解決の手段とする。
【0012】
あるいは、上記のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとし、該プログラムを、該コンピュータが読み取りできる記録媒体に記録したことを特徴とするカメラ姿勢取得プログラムを記録した記録媒体を、その解決の手段とする。
【0013】
本発明では、全方位画像中のFOE(Focus of expansion、画像中の消失点あるいは出現点を指す)の位置から、カメラの姿勢情報を算出することができる特徴を利用し、画像中に投影された建物等の物体の輪郭情報を用いて全方位画像中のFOE位置を推定し、それからカメラ姿勢を求めることにより、カメラ姿勢を取得することができるようにする。
【0014】
本発明を利用することにより、全方位画像を撮影もしくは撮像する際のカメラの姿勢を、全方位画像のみから取得することが可能となる。これにより、全方位画像を用いる画像計測においてカメラ姿勢を正確に把握でき、従って誤差の少ない計測結果を得ることが可能となる。
【0015】
【発明の実施の形態】
以下、本発明の実施の形態について図を用いて詳細に説明する。
【0016】
〈実施形態例1〉
本発明による第1の実施形態例について説明する。以下では、説明上、全方位カメラは、魚眼レンズをマウントしたものとし、このカメラを車両に対して光軸が垂直上向きになるように搭載して、移動しながら全方位映像を取得するものとする。また、X−Y軸平面を地面、Z軸を高さ方向、X軸方向をカメラの進行方向とすると、本実施形態例において算出するカメラ姿勢は、X軸まわりの回転角φ(ロール角)、Y軸まわりの回転角ρ(ピッチ角)となる。なお、魚眼レンズは等距離投影
y=fθ …(1)
y:対象点の像中心からの投影距離
f:焦点距離
θ:対象点の方向の光軸に対する角度
を用いるものとする。ここでは、一例として魚眼レンズをマウントした全方位カメラを用いた場合について説明するが、他の全方位カメラを用いた場合についても、その全方位カメラの有する投影式をあてはめることで本発明が成立することは自明である。
【0017】
図1は、本実施形態例のブロック構成図である。本実施形態例は、カメラが撮影もしくは撮像した全方位画像をデータとして入力する全方位画像入力部[101]、全方位画像上に投影された建物等の物体の輪郭を抽出する物体輪郭抽出部[102]、抽出した輪郭の中から空間中で垂直な部分を複数箇所指示する垂線輪郭指示部[103]、指示した垂線輪郭から垂線輪郭を延長した曲線を算出する輪郭延長線算出部[104]、算出した複数の輪郭延長線の交点をFOEとして算出するFOE算出部[105]、算出したFOEの位置をロール角とピッチ角に変換するFOE変換部[106]、算出したロール角とピッチ角をカメラ姿勢情報として出力するカメラ姿勢出力部[107]から構成されている。
【0018】
本実施形態例を説明する準備として、図2に全方位画像の座標系を示す。全方位画像上の画素の座標系をI−J、空間中の座標系をX−Y−Zとする。全方位画像上の点の座標はI−J座標系で(i,j)と示す。ここでは、X−Y平面は空間中で地面を表し、Z軸方向が高さ、X軸方向が進行方向を表している。また、I軸、J軸はそれぞれX軸、Y軸と並行であるものとする。なお、I−J座標系とX−Y−Z座標系のスケールを変換するための係数を量子化ステップと呼び、Dとする。
【0019】
図3に本実施形態例の処理フローを示す。処理が開始[301]すると全方位画像[302]を全方位画像入力[303]に対して入力する。
【0020】
次に、処理の初期値として輪郭延長線の数をmとし、mに0を代入する[304]。
【0021】
次に、物体輪郭抽出[305]では、全方位画像入力[303]で入力した全方位画像に対して輪郭抽出処理を行い、輪郭抽出画像を得る。図4に全方位画像に対する輪郭抽出例を示す。全方位画像を画素の輝度の勾配値を利用した公知の方法などで建物等の物体の輪郭を求め、輪郭に当たる画素の値を1、輪郭にあたらない画素の値を0とする。図4では黒い画素の値を1、白い画素の値を0としている。
【0022】
次に、輪郭垂線上の点を指示[306]では、輪郭垂線上の点(i1,j1),…,(in,jn)をnが3以上となるように指示する。輪郭垂線とは物体輪郭抽出[305]で抽出した輪郭の中から空間中で垂直な物体の輪郭である。図5に輪郭垂線の指示例を示す。空間中で垂直な建物の輪郭上の点を例えば人手により3点以上プロットすることにより、プロットした点群を輪郭垂線上の点とすることができる。
【0023】
次に、曲線あてはめ[307]では、[306]で指示した輪郭垂線上の点(i1,j1),…,(in,jn)に対して曲線あてはめ処理を行う。図6に輪郭延長線の算出例を示す。指示した輪郭垂線上の複数の点に対して、曲線あてはめ手法(亀山博史、鈴木寿、有本卓、「スプライン曲線あてはめによる手書きストロークの抽出」、画像の認識・理解(MIRU’92)シンポジウム論文集、情報処理学会、1992年7月、p.I201−I207や、金谷健一、金澤靖、「最適な曲線当てはめとその信頼性評価」、画像の認識・理解(MIRU’98)シンポジウム論文集I、情報処理学会、1998年7月、p.I331−I336)などで曲線を算出し、輪郭延長線とする。
【0024】
次に、輪郭延長線L(m)決定[308]では、点(i1、j1),…,(in,jn)への曲線あてはめ[307]で得られた曲線を輪郭延長線L(m)として決定する。
【0025】
次に、[309]では他に点を指示できる輪郭垂線があるかどうかを判断し、他に輪郭垂線がある場合には輪郭延長線の数であるmに1を加算して[310]、輪郭垂線上の点を指示[306]に戻る。他に輪郭垂線が無い場合には輪郭延長線の交点算出[311]に処理が進む。
【0026】
次に、輪郭延長線の交点算出[311]では、輪郭延長線L(m)決定[308]で決定した輪郭延長線L(1),…,L(m)の交点を最小自乗法などによって算出する。
【0027】
図7にFOE算出例を示す。一般的に、空間中で垂直な線分の高さを無限遠まで延長した直線は、画像上でFOEを中心として放射状に投影されるという性質がある。これを言い換えると、輪郭延長線の交点算出[311]において算出した交点はFOEと一致することとなる。FOE位置決定[312]では、上記の性質を利用して輪郭延長線の交点算出[311]で算出した交点をFOE位置(ifoe,jfoe)として決定する。
【0028】
次に、カメラ姿勢算出[313]では、FOE位置決定[312]で決定したFOE位置を、魚眼レンズの投影式(1)と結像面における受光素子1画素の物理的な大きさDから導出した式(2)(3)によってロール角φ、ピッチ角ρを算出する。
【0029】
φ=D×jfoe/f …(2)
ρ=D×ifoe/f …(3)
以上により、カメラ姿勢の取得処理が終了する[314]。
【0030】
〈実施形態例2〉
本発明による第2の実施形態例について説明する。ここでは、第1の実施形態例における輪郭垂線の指示、輪郭延長線算出を行う代わりに、より簡便な方法でFOEを算出する手段について述べる。ただし、本実施形態例は、算出するロール角および、ピッチ角が第一次近似(cos(θ)≒1,sin(θ)≒θ)が成立する範囲内での微少な傾きである場合に成立する。
【0031】
図8は、本実施形態例のブロック構成図である。本実施形態例は、カメラが撮影もしくは撮像した全方位画像をデータとして入力する全前立画像入力部[801]、全方位画像上に投影された建物等の物体の輪郭を抽出する物体輪郭抽出部[802]、抽出した輪郭に対して直線検出を行う直線検出部[803]、検出した直線の中から誤検出した直線を削除する誤検出削除部[804]、誤検出削除後に残った直線の交点をFOEとして算出するFOE算出部[805]、算出したFOEの位置をロール角、ピッチ角に変換するFOE変換部[806]、算出したロール角、ピッチ角をカメラ姿勢情報として出力するカメラ姿勢情報出力部[807]から構成されている。
【0032】
図9に本実施形態例の処理フローを示す。処理が開始[901]すると全方位画像[902]を全方位画像入力[903]に対して入力する。物体輪郭抽出[904]では、全方位画像入力[903]で入力した全方位画像に対して輪郭抽出処理を行い、輪郭抽出画像を得る。
【0033】
ここで、算出するロール角および、ピッチ角が第一次近似(cos(θ)≒1,sin(θ)≒θ)が成立する範囲内での微少な傾きである場合、空間中で垂直なの輪郭は、FOEを中心として放射状の直線と重なるという性質がある。このため、抽出した輪郭に対して直線検出を行うことで、空間中で垂直な物体の輪郭を抽出することができる。図10に直線検出の例を示す。この例は、輪郭抽出画像に対して、Hough変換を用いた直線検出処理を行った例である。このように、直線検出[905]では、物体輪郭抽出[904]で輪郭抽出を行った画像に対して、直線検出処理により、M本の直線L(1),…,L(M)を検出する。
【0034】
次に、[906]では初期設定として、誤検出でないとみなす領域Rの指定と処理対象の直線番号であるmに1を代入する。
【0035】
次に、直線L(m)の判定[907]では、検出された直線L(m)が初期設定[906]で指定された領域Rを通過するかを判定し、通過していない場合には[908]において直線L(m)を誤検出した直線とみなして削除する。図11に誤検出した直線を削除した例を示す。初期設定において領域Rを指定し、その領域Rを通過しない直線を誤検出した直線とみなして削除する。
【0036】
誤検出処理終了判定[909]では、処理対象の直線番号mが検出した直線数Mに一致するかを判定し、mがMに到達していない場合には[911]でmに1を加算して処理を繰り返す。つまり、直線検出[905]において検出されたすべての直線に関して直線L(m)の判定[907]が行われるまで処理を繰り返す。mがMに等しい場合には、直線検出[905]において検出されたすべての直線に関して直線L(m)の判定[907]が終了したと判定し、直線の交点算出[912]へ処理を進める。
【0037】
直線の交点算出[912]では、直線L(m)の判定[907]で削除されず残った直線の交点の算出を行う。直線の交点は、削除されず残ったすべての直線からの距離が最小となるような点の位置を最小自乗法などによって算出し、交点として決定する。
【0038】
FOE位置決定[913]では直線の交点算出[912]で算出した交点をFOE位置(ifoe,jfoe)として決定する。
【0039】
カメラ姿勢算出[914]では、FOE位置決定[913]で決定したFOE位置を式(2),(3)によってロール角φ、ピッチ角ρを算出する。
【0040】
以上により、カメラ姿勢取得処理が終了する[915]。
【0041】
以上により、FOEの算出を直線検出により自動で行うことが可能となり、輪郭垂線を手動などによって指示を行う必要のある第1の実施形態例と比較してより簡便にカメラ姿勢を取得することが可能となる。
【0042】
なお、図1、図8で示した装置における各部の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、あるいは、図3、図9で示した処理ステップをコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラム、あるいは、コンピュータにその処理ステップを実行させるためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えば、フレキシブルディスクや、MO、ROM、メモリカード、CD、DVD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。
また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。このように、記録媒体やネットワークにより提供されたプログラムをコンピュータにインストールすることで、本発明が実施可能となる。
【0043】
【発明の効果】
以上において説明したとおり、本発明によれば、全方位画像を撮影もしくは撮像した際のカメラ姿勢を、全方位画像のみから容易に取得することが可能となる。これにより、全方位画像を用いた画像計測において、カメラ姿勢を考慮した精度の高い計測結果を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明による第1の実施形態例のブロック構成を示す図である。
【図2】全方位画像の座標系を示す図である。
【図3】第1の実施形態例の処理フローを示す図である。
【図4】全方位画像の輪郭抽出の例を示す図である。
【図5】輪郭垂線の指示例を示す図である。
【図6】輪郭延長線を算出した例を示す図である。
【図7】FOEを算出した例を示す図である。
【図8】本発明による第2の実施形態例のブロック構成を示す図である。
【図9】第2の実施形態例の処理フローを示す図である。
【図10】直線検出の例を示す図である。
【図11】誤検出した直線を削除した例を示す図である。
【符号の説明】
101…全方位画像入力部
102…物体輪郭抽出部
103…垂線輪郭指示部
104…輪郭延長線算出部
105…FOE算出部
106…FOE変換部
107…カメラ姿勢出力部
801…全方位画像入力部
802…物体輪郭抽出部
803…直線検出部
804…誤検出削除部
805…FOE算出部
806…FOE変換部
807…カメラ姿勢出力部
Claims (6)
- 全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢を自動的に取得する方法であって、
全方位画像に投影された物体の輪郭を抽出する第一のステップと、
第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二のステップと、
第二のステップで抽出した複数の曲線の交点を算出する第三のステップと、
第三のステップで算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四のステップと、を有する
ことを特徴とするカメラ姿勢取得方法。 - 請求項1に記載のカメラ姿勢取得方法において、
第二のステップに代えて、
第一のステップで抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五のステップと、
第三のステップに代えて、
第五のステップで抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六のステップと、
第六のステップで抽出した複数の直線の交点を算出する第七のステップと、を有する
ことを特徴とするカメラ姿勢取得方法。 - 全方位を一度に撮影もしくは撮像する全方位画像において、撮影時もしくは撮像時のカメラ姿勢を自動的に取得する装置であって、
全方位画像に投影された物体の輪郭を抽出する第一の手段と、
第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の曲線として複数抽出する第二の手段と、
第二の手段で複数抽出した曲線の交点を算出する第三の手段と、
第三の手段で算出した交点と画像中心との位置の差をカメラの姿勢に変換する第四の手段と、を有する
ことを特徴とするカメラ姿勢取得装置。 - 請求項3に記載のカメラ姿勢取得装置において、
第二の手段に代えて、
第一の手段で抽出した輪郭の中から、空間中で垂直な輪郭のみを、全方位画像中の直線として複数抽出する第五の手段と、
第三の手段に代えて、
第五の手段で抽出した直線の中から、画像中心を中心とする指定した長さの半径の円を通過する直線のみを抽出する第六の手段と、
第六の手段で抽出した複数の直線の交点を算出する第七の手段と、を有する
ことを特徴とするカメラ姿勢取得装置。 - 請求項1または2に記載のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとした
ことを特徴とするカメラ姿勢取得プログラム。 - 請求項1または2に記載のカメラ姿勢取得方法におけるステップを、コンピュータに実行させるためのプログラムとし、
該プログラムを、該コンピュータが読み取りできる記録媒体に記録した
ことを特徴とするカメラ姿勢取得プログラムを記録した記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002324694A JP2004157894A (ja) | 2002-11-08 | 2002-11-08 | カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002324694A JP2004157894A (ja) | 2002-11-08 | 2002-11-08 | カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004157894A true JP2004157894A (ja) | 2004-06-03 |
Family
ID=32804157
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002324694A Pending JP2004157894A (ja) | 2002-11-08 | 2002-11-08 | カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2004157894A (ja) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1681577A2 (de) | 2005-01-12 | 2006-07-19 | Robert Bosch Gmbh | Verfahren für die Bildlagekorrektur eines Monitorbilds |
JP2007071570A (ja) * | 2005-09-05 | 2007-03-22 | Mamoru Otsuki | カメラ姿勢把握方法及びこれを用いた写真測量方法、これらのプログラム |
CN106600546A (zh) * | 2016-11-14 | 2017-04-26 | Tcl集团股份有限公司 | 一种超广角摄像头畸变校正方法及系统 |
CN114677734A (zh) * | 2022-03-25 | 2022-06-28 | 马上消费金融股份有限公司 | 关键点的标注方法及装置 |
CN115795543A (zh) * | 2022-12-02 | 2023-03-14 | 哈尔滨暖一杯茶科技有限公司 | 一种基于大数据的计算机信息安全共享系统及方法 |
-
2002
- 2002-11-08 JP JP2002324694A patent/JP2004157894A/ja active Pending
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1681577A2 (de) | 2005-01-12 | 2006-07-19 | Robert Bosch Gmbh | Verfahren für die Bildlagekorrektur eines Monitorbilds |
EP1681577A3 (de) * | 2005-01-12 | 2008-08-20 | Robert Bosch Gmbh | Verfahren für die Bildlagekorrektur eines Monitorbilds |
JP2007071570A (ja) * | 2005-09-05 | 2007-03-22 | Mamoru Otsuki | カメラ姿勢把握方法及びこれを用いた写真測量方法、これらのプログラム |
CN106600546A (zh) * | 2016-11-14 | 2017-04-26 | Tcl集团股份有限公司 | 一种超广角摄像头畸变校正方法及系统 |
CN106600546B (zh) * | 2016-11-14 | 2020-12-22 | 深圳市Tcl高新技术开发有限公司 | 一种超广角摄像头畸变校正方法及系统 |
CN114677734A (zh) * | 2022-03-25 | 2022-06-28 | 马上消费金融股份有限公司 | 关键点的标注方法及装置 |
CN114677734B (zh) * | 2022-03-25 | 2024-02-02 | 马上消费金融股份有限公司 | 关键点的标注方法及装置 |
CN115795543A (zh) * | 2022-12-02 | 2023-03-14 | 哈尔滨暖一杯茶科技有限公司 | 一种基于大数据的计算机信息安全共享系统及方法 |
CN115795543B (zh) * | 2022-12-02 | 2024-02-02 | 深圳智信方略工程咨询有限公司 | 一种基于大数据的计算机信息安全共享系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9578310B2 (en) | Automatic scene calibration | |
US8520931B2 (en) | Position and orientation measurement apparatus and method thereof | |
KR100647807B1 (ko) | 그림자 분석을 통한 3차원 건물정보 추출방법 | |
WO2018142900A1 (ja) | 情報処理装置、データ管理装置、データ管理システム、方法、及びプログラム | |
US8326021B2 (en) | Measurement apparatus and control method | |
WO2014061372A1 (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP4619962B2 (ja) | 路面標示計測システム、白線モデル計測システムおよび白線モデル計測装置 | |
JP5538868B2 (ja) | 画像処理装置、その画像処理方法及びプログラム | |
JP2018036769A (ja) | 画像処理装置、画像処理方法および画像処理用プログラム | |
WO2021111531A1 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP6410231B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JP2009271650A (ja) | 地物特定方法 | |
JPWO2008032375A1 (ja) | 画像補正装置及び方法、並びにコンピュータプログラム | |
JPH10171966A (ja) | 車両用画像処理装置 | |
WO2020158726A1 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JP2008269218A (ja) | 画像処理装置、画像処理方法および画像処理プログラム | |
JP2004157894A (ja) | カメラ姿勢取得方法、装置、プログラム、およびこのプログラムを記録した記録媒体 | |
JP2006113832A (ja) | ステレオ画像処理装置およびプログラム | |
JP2008224323A (ja) | ステレオ写真計測装置、ステレオ写真計測方法及びステレオ写真計測用プログラム | |
JP6886136B2 (ja) | 位置合わせ装置、位置合わせ方法及び位置合わせ用コンピュータプログラム | |
JPH10312463A (ja) | 物体認識方法およびその装置 | |
JP2004020398A (ja) | 空間情報獲得方法、空間情報獲得装置、空間情報獲得プログラム、及びそれを記録した記録媒体 | |
JP3452188B2 (ja) | 2次元動画像中の特徴点の追跡方法 | |
JP6861592B2 (ja) | データ間引き装置、測量装置、測量システム及びデータ間引き方法 | |
JP2004145592A (ja) | 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体 |