JP5331047B2 - 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム - Google Patents

撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム Download PDF

Info

Publication number
JP5331047B2
JP5331047B2 JP2010085342A JP2010085342A JP5331047B2 JP 5331047 B2 JP5331047 B2 JP 5331047B2 JP 2010085342 A JP2010085342 A JP 2010085342A JP 2010085342 A JP2010085342 A JP 2010085342A JP 5331047 B2 JP5331047 B2 JP 5331047B2
Authority
JP
Japan
Prior art keywords
imaging
imaging parameter
parameter
virtual
calculated
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2010085342A
Other languages
English (en)
Other versions
JP2011215082A (ja
Inventor
啓之 新井
勲 宮川
直己 伊藤
秀樹 小池
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2010085342A priority Critical patent/JP5331047B2/ja
Publication of JP2011215082A publication Critical patent/JP2011215082A/ja
Application granted granted Critical
Publication of JP5331047B2 publication Critical patent/JP5331047B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Description

本発明は、映像監視システム等において、被写体のサイズや位置などの情報をカメラ画像から計測する際などに事前に必要となるカメラの各画素と実空間との対応付け所謂カメラキャリブレーションを行うための技術に関する。
カメラキャリブレーションを行う場合、特定の被写体を撮影し、それに基づき所定の幾何計算を行うことによって必要なカメラパラメータを算出することがその基本となる。
被写体としてドットパターンもしくは格子パターンのような幾何学的な形状およびサイズが完全に既知である被写体を用いる方法が一般的である。キャリブレーションの精度を確保するためには、画像において一定以上の大きさで被写体が写るように撮影する必要がある。ところが、撮影エリアが広い場合や、周囲に人がいる場合や邪魔な構造物がある場合など、その撮影が困難なケースがしばしば発生する。
このような問題が発生しにくい被写体としては、鉛直方向に一定の高さのある1次元の被写体が考えられる。この1次元の被写体を用いる場合、上記の幾何学的な性質が完全に既知である被写体を単に撮影する場合とは異なり、1回撮影しただけではカメラパラメータを推定することは原理的に困難である。
そこで、被写体が床面に拘束されているという制約条件の中で、異なる位置にある被写体を撮影した複数の画像セットを用いてパラメータを推定するようにしている。非特許文献1に記載の推定法は、鉛直方向に所定の高さを持つ被写体として人物を想定し、その撮影場所に現れる人物の画像上での上端及び下端を検出する。そして、予め用意された身長に関する統計データ(平均身長と身長の標準偏差)と整合性の高いカメラパラメータをRANSAC法により推定する。
この方法では、カメラの向きが水平に近いという仮定のもと、焦点距離、カメラの俯角等のパラメータを近似によって消去することにより、1)カメラの高さ、および2)画像における床面(地面)の消失位置、の二つのパラメータを算出する式を導出する。
しかしながら、この方法はカメラの俯角が大きい場合などには当然のことながら正しい推定は困難となり、その適用範囲は大きく制限されてしまう。
安藤寛哲,藤吉弘亘,「人検出結果に基づくカメラの自己キャリブレーションと3次元位置推定」,電気学会一般産業研究会,8号,2009年12月,pp.1/6−6/6 宮川 勲,新井啓之,小池秀樹,「映像からの人数推定における遺伝的アルゴリズムを使ったカメラパラメータの調整」,日本知能情報ファジィ学会誌,Vol.21,No.1,2009年2月,pp.41−55
本発明は、上述したような問題点を鑑みなされたもので、カメラキャリブレーションを効率化及び高精度化させることができる撮像パラメータの決定技術の提供を目的とする。
そこで、本発明は被写体の再投影誤差が小さくなるように撮像パラメータを決定することでカメラキャリブレーションの効率化及び高精度化を図る。
本発明の撮像パラメータ決定方法の態様としては、床面上の被写体を撮影する撮像装置の撮像パラメータを決定する撮像パラメータ決定方法であって、端座標指定手段が床面から鉛直方向に一定の高さを有する被写体の床面上での位置を変えながら撮像装置が当該被写体を撮影することによって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定するステップと、パラメータ設定手段が前記撮像装置の撮像パラメータの初期値を設定するステップと、誤差評価手段が、前記撮像パラメータの個々の初期値が変更された値に基づき各画像における下端座標を対応する床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標値を算出し、各画像の前記設定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出するステップと、パラメータ決定手段が、前記撮像パラメータの変更による再投影誤差の変化に基づき当該撮像パラメータの微分係数を算出し、この微分係数に基づき変更された撮像パラメータを前記再投影誤差の算出に供する更新処理を予め決めておいた所定の条件を満たすまで繰返して実行し、変更後の撮像パラメータを最適な撮像パラメータとして決定するステップとを有し、前記撮像パラメータの初期値は、前記パラメータ設定手段が前記撮像装置の撮像パラメータの値を粗い刻み幅で逐次設定するステップと、前記誤差評価手段が、各画像の前記設定された下端座標を前記設定された撮像パラメータに基づき床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標を算出し、各画像の前記指定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出し、この算出した各画像の再投影誤差の和を算出する過程を、前記撮像パラメータの設定毎に実行するステップと、前記パラメータ決定手段が前記逐次設定された撮像パラメータのうちで前記再投影誤差の和が最小となるものを初期値として決定するステップとによって決定された値である
上記撮像パラメータ決定方法に対応した撮像パラメータ決定装置の態様としては、床面上の被写体を撮影する撮像装置の撮像パラメータを決定する撮像パラメータ決定装置であって、床面から鉛直方向に一定の高さを有する被写体の床面上での位置を変えながら撮像装置が当該被写体を撮影することによって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定する端座標指定手段と、前記撮像装置の撮像パラメータの初期値を設定するパラメータ設定手段と、前記撮像パラメータの個々の初期値が変更された値に基づき各画像における下端座標を対応する床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標値を算出し、各画像の前記設定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出する誤差評価手段と、前記撮像パラメータの変更による再投影誤差の変化に基づき当該撮像パラメータの微分係数を算出し、この微分係数に基づき変更された撮像パラメータを前記再投影誤差の算出に供する更新処理を予め決めておいた所定の条件を満たすまで繰返して実行し、変更後の撮像パラメータを最適な撮像パラメータとして決定するパラメータ決定手段とを備え、前記撮像パラメータの初期値は、前記パラメータ設定手段が前記撮像装置の撮像パラメータの値を粗い刻み幅で逐次設定し、前記誤差評価手段が、各画像の前記設定された下端座標を前記設定された撮像パラメータに基づき床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標を算出し、各画像の前記指定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出し、この算出した各画像の再投影誤差の和を算出する過程を、前記撮像パラメータの設定毎に実行し、前記パラメータ決定手段が前記逐次設定された撮像パラメータのうちで前記再投影誤差の和が最小となるものを初期値として決定した値である
尚、本発明はコンピュータに上記の撮像パラメータ決定方法の各ステップを実行させるための撮像パラメータ決定プログラムの態様とすることもできる。
以上の発明によればカメラキャリブレーションの効率化及び高精度化を実現させて被写体の計測精度を向上させることできる。
発明の実施形態1に係る撮像パラメータ決定装置のブロック構成図。 実施形態1に係る撮像パラメータ決定の手順を説明したフローチャート図。 発明の実施形態2に係る撮像パラメータ決定装置のブロック構成図。 実施形態2に係る撮像パラメータ決定の手順を説明したフローチャート図。 撮像パラメータの一例を説明した説明図。 被写体(人物)の上端点及び下端点が指定される過程を説明した説明図。 再投影誤差の評価手順を模式的に説明した説明図。
以下、本発明の実施の形態について図面を参照しながら説明する。
[実施形態1]
(概要)
図1に示された本実施形態に係る撮像パラメータ決定装置1は、映像監視システムの一構成要素を成すもので、撮像装置(カメラやビデオカメラ)で撮影された画像を用いて、当該撮像装置の各画素と実空間との対応付け、所謂、カメラキャリブレーションを行う。特に被写体の再投影誤差が最小にするような撮像パラメータを決定することでカメラキャリブレーションの効率化及び高精度化を図る。
カメラキャリブレーションは、基準となる座標系(例えば床面)に対する撮像装置の位置及び撮影方向を示す外部パラメータの算出と、撮像装置の焦点距離やレンズ系の歪を示す内部パラメータの算出に大別される。
カメラキャリブレーションが必要な事例として、固定型の撮像装置によって床面上の被写体の大きさを測定する場合について説明する。この事例では、図5に示したようにキャリブレーション対象となる外部パラメータは撮像装置の高さTz、水平軸(x軸)周りの角度φ、水平軸(y軸)周りの角度ωの3パラメータのみである。床面上での方位(東西南北)に関するパラメータや床面上での位置に関するパラメータは不要である。一方、内部パラメータについては、焦点距離α(若しくは画像と実空間との拡大率に相当するパラメータ)は必須である。尚、撮像装置の歪などのパラメータも算出することが望ましいが、撮像装置のレンズ系の状態や求める計測精度によっては必ずしも必要ではない。
本実施形態は、撮像装置の撮像パラメータとして高さTz、角度φ、角度ω、焦点距離αの4パラメータを決定する態様となっている。焦点距離α以外の内部パラメータについても本発明の手法を適用して算出できるが、ここでは決定すべき内部パラメータを焦点距離αのみとして説明する。
また、本実施形態においては、キャリブレーション用の被写体としては垂直軸方向に一定の高さを持ったものを想定しているが、ダンボール箱や書棚など箱状の構造物の側辺の上端と下端に注目してもよい。また、直立した人物の頭及び踵をそれぞれ上端及び下端としてもよい。その他、様々な被写体が考えられるが、ここでは、鉛直方向の高さがhであること以外は特に限定しない。
(装置の構成)
撮像パラメータ決定装置1はCPU、RAM、ROM、ハードディスクドライブ装置、I/F(入出力デバイス)等のハードウェアリソースを備える。そして、このハードウェアリソースがソフトウェアリソース(OS、アプリケーション等)と協働することより図1に示された撮像パラメータ決定装置1を構成する端座標指定部11とパラメータ設定部12と誤差評価部13とパラメータ決定部14とが実装される。以下、各機能部11〜14について説明する。
端座標指定部11は、床面から鉛直方向に一定の高さを有する被写体をその床面上での撮像装置の位置を変えながらの撮影によって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定する。尚、端座標指定部11は有線または無線の通信回線を介して前記複数の画像を前記撮像装置から取得する。
パラメータ設定部12は撮像装置の撮像パラメータの値を逐次設定する。
誤差評価部13は各画像の前記指定された下端座標を前記設定された撮像パラメータに基づき床面上位置に投影した場合の仮想下端位置を算出する。次いで、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出する。次いで、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標を算出する。次いで、各画像の前記指定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出する。そして、この算出した各画像の再投影誤差の和を算出する。誤差評価部13は以上の演算の過程を前記撮像パラメータの設定毎に実行する。
パラメータ決定部14は前記逐次設定された撮像パラメータのうちで前記再投影誤差の和が最小となるものを最適な撮像パラメータとして決定する。
(撮像パラメータの決定手順の説明)
図2を参照しながら本実施形態に係る撮像パラメータ決定の手順S1〜S6についてより詳細に説明する。以下の説明では、画像上の座標値(2次元)は小文字で(x,y)と表し,実空間の座標値(3次元)は大文字で(X,Y,Z)と標記する。
S1:図5に示された撮影現場において撮像装置5はその装置位置及び撮影向きが位置(Tx,Ty,Tz)及び向き(φ,ω,θ)に設定された状態で床面上での被写体の位置を変えながら当該被写体が画面内に収まるように撮影する。前記設定された向きの成分である角度θは図5に示された垂直軸(z軸)周りの角度を示す(実施形態2においても同様)。この撮影によって得られた複数(n枚)の画像は撮像パラメータ決定装置1に入力される。
この撮影枚数は、最低でも推定するパラメータ数qに対して、[q/2]([q]は少数点以下を切り上げの演算を示す。q=4なら2、q=5なら3)以上であることが必要となるが、より多い枚数のほうが一般にパラメータの推定精度は高くなる。以下のステップの説明では、図6のように、5枚の画像を用いるものとして、また被写体としては身長hが既知の人物を例に説明していく。
S2:端座標指定部11は撮像装置5から入力された各画像における前記被写体の上端座標値(xt,yt)、下端座標値(xb,yb)を指定する。
被写体の上端及び下端の指定方法としてはポインティングデバイスによる指定方法や画像処理技術による指定方法が例示される。
ポインティングデバイスによる指定方法は撮像パラメータ決定装置1を実装するコンピュータが表示装置(ディスプレイ装置)に表示させた画像に対して被写体の頭頂部や踵の位置をマウスに例示されるポインティングデバイスによって指定する方法である。
画像処理技術による指定方法は、被写体が存在しない画像(背景画像)を予め撮影しておき、この画像の画素値と被写体が映っている画像の画素値とを比較する。次いで、一定の閾値以上の差が検出された場合、後者の画像における当該差が検出された画素を前景画素(被写体の画素)と判断する。そして、この前景画素の連結領域を検出する処理(ラベリング処理)を行い、さらに、前記連結領域の上端、下端を検出する。尚、この前景画素、上端、下端の検出法は、周知の検出技術を適用すればよく、特に限定しない。
S3:パラメータ設定部12は撮像装置5の撮像パラメータの各値を逐次設定する。本実施形態例では高さTz、角度φ、角度ω、焦点距離αのセットで撮像パラメータが設定される。
撮像パラメータの逐次設定方法は、例えば、パラメータの各値(高さTz、角度φ、角度ω、焦点距離α)を一定の範囲(下限と上限の間)で一定の刻み幅で網羅的に変化させる方法が挙げられる。例えば、撮像装置の高さTzの値を設定する場合、Tzの値を例えば下限値2.00mから0.01mずつ増やしていき上限値20mまでの範囲で変更する。同様の要領で他の撮像パラメータの値(角度φ、角度ω、焦点距離α)を設定すればよい。尚、撮像パラメータの値の上限、下限、および刻み幅については、経験的に想定される範囲内で決めればよい。
このように撮像パラメータが高さTz、角度φ、角度ω、焦点距離αのセットで設定されると、S4の再投影誤差の評価ステップに供される。
S4:誤差評価部13はS3で撮像パラメータのセット(高さTz、角度φ、角度ω、焦点距離α)が設定された毎に再投影誤差を算出する。
図7を参照しながら再投影誤差の算出の手順S41〜S44について詳細に説明する。
(S41)設定された撮像パラメータのセットの値に従い、画像上での下端座標値(xb,yb)を、実空間の床面に投影した仮想下端点位置(X,Y,0)を算出する。算出した位置の成分Zの値がZ=0となっているのは床面の高さを0として、高さ方向の値を設定していることによる。床面の高さを0としなくとも本質的な問題は発生しないが、本実施形態例では、床面の高さをZ=0とした。
ここで、上記の画像上での下端座標値(x,y)を、実空間の床面に投影した仮想下端点位置(X,Y,0)を算出する変換方法(関数)は、非特許文献2に開示された演算法を適用すればよい。この演算法について以下に詳細に説明する。
実空間の3次元座標を表現するため、任意に世界座標系Xwwwを設定することができる。撮像装置は固定されており、この撮像装置を通して観測できる画像上の投影点はピンホールカメラと呼ばれる透視投影モデルに従うと仮定する。すなわち、世界座標系上の3次元点をPj=(Xj,Yj,Zj)、撮像装置の位置をC=(Tx,Ty,Tz)とすると、画像上で観測される点Pjの2次元座標pj=(xj,yj)は、単純に式(1),(2)の射影関係で結びつけることができる。
式(1)(2)において、fは図5に示された焦点距離αに相当し、R11,R12,…,R33は3×3の回転行列の要素に対応する。φ,ω,θをそれぞれカメラ座標系XYZにおけるX軸、Y軸、Z軸周りの回転角とすると、各回転要素は式(3)〜(11)で与えられる。これらの式(1)〜(11)により、カメラの位置、向きおよび焦点距離がそれぞれ(Tx,Ty,Tz),(φ,ω,θ)およびf(前述のαに対応)で指定される場合の実空間の3次元座標Pj=(Xj,Yj,Zj)が対応する(射影される)画像上の座標2次元座標pj=(xj,yj)を求めることができる。つまり、実空間から画像へ座標変換を行うための式である。本実施形態においては、床面上での絶対的な位置や床面上での東西南北は指定しない形になっているため、これに伴いTx,Ty,θは推定対象外(どんな値でも良い)となっている。上述した式(1)〜(11)を適用する際、これらの推定対象外となっている外部パラメータについては任意の値を固定値として設定しておけばよい。例えばこれら全ての値を0にするなどである。これらの値は後述するパラメータの推定結果に対して影響を与えない。
一方、画像上の座標値pj=(xj,yj)に対応する実空間上平面(床面からの高さhの平面)上での座標値Pj=(Xj,Yj,h)の(Xj,Yj)を求める式は、下記の式(12)〜(14)のように、式(1)〜(11)を元にして求めることができる。
これらの式(12)〜(14)及び式(3)〜(11)を用い、h=0とすることにより、画像の座標(x,y)を、実空間の床面に投影した仮想下端点位置(X,Y,0)を得ることができる。この算出された仮想下端位置(X,Y,0)は、その算出時に用いた撮像パラメータが正しいと仮定した場合の実空間における下端の位置である。尚、前述したようにTx,Ty,θは推定対象外(どんな値でも良い)となっているが、上述した式(12)〜(14)及び式(3)〜(11)を適用する際、これらの推定対象外となっている外部パラメータについては任意の値を固定値として設定しておけばよい。例えば、これら全ての値を0にするなどであるが、前述の式(1)〜(11)を適用する際の値と同じである必要がある。
(S42)次に、前記算出された仮想下端位置(X,Y,0)を実空間でhだけ上にずらした位置(X,Y,h)を算出する。この点は、仮想下端点が正しいと仮定した場合の、実空間における上端の位置であり、仮想上端位置に相当する。
(S43)前記算出された仮想上端位置(X,Y,h)を、設定された撮像パラメータに基づき、画像上に投影した座標値である仮想上端再投影座標値(xt’,yt’)に変換する。「元の下端座標値(画像)」→「実空間での仮想下端位置」→「実空間での仮想上端位置」→「仮想上端位置の画像上座標値」の順で計算を行っているので、この(xt’,yt’)は仮想上端再投影座標値と呼ぶことにする。仮想上端位置(X,Y,h)を仮想上端再投影座標値(xt’,yt’)に変換するための演算においては、上記の式(1)〜(11)を適用すればよい。すなわち、式(1)〜(11)のXj,Yj,Zjの値に仮想上端位置(X,Y,h)の成分X,Y,hの値をそれぞれ代入することで仮想上端再投影座標値(xt’,yt’)が算出される。
(S44)各画像のS2で指定された上端座標とS43で算出された仮想上端再投影座標との距離を再投影誤差として算出する。
S43で算出された仮想上端再投影座標値(xt’,yt’)は、設定された撮像パラメータが適正な場合、S2で指定された上端座標値(xt,yt)と一致するはずである(画像座標が離散的であること等による小さな誤差を除く)。これらの座標値が一致しない場合、設定された撮像パラメータは適正でないことを意味する。このことに注目し、S44では上端座標と仮想上端再投影座標との距離を算出する。誤差(画像座標間の距離)の算出法としては、各々の画像座標値の差の二乗(画像上のユークリッド距離の2乗)が最も一般的な方法であるが、誤差の評価法はこの演算法に限定しない。
S5:誤差評価部13は、S3で撮像パラメータのセットが設定された毎に、S1で取得した全ての画像(図6の事例では、5枚)についてS4で算出された再投影誤差の和を前記セットと対応づけて記憶手段(RAMやハードディスクドライブ装置)に記憶する。そして、S4の終了条件を満たした場合(Yes)、すなわち、予め定められた範囲での撮像パラメータの逐次設定が終了すると、再投影誤差評価のステップS4を終了する。
S6:パラメータ決定部14は、前記逐次設定された撮像パラメータの中で、S5で算出された再投影誤差の和が最小となるものを最終的(最適)な撮像パラメータとして決定する。この決定された撮像パラメータに基づき撮像装置5の動作が制御される。
尚、決定対象のパラメータの中で予め値がわかっているものがある場合は、そのパラメータをその既知の値に固定してしまって良い。これにより処理時間を短縮することも可能である。
(本実施形態の効果)
以上のように撮像パラメータ決定装置1は、画像上での被写体の再投影誤差が小さくなるようなカメラキャリブレーションを実現する。したがって、撮像装置5を用いた被写体の大きさの計測や位置の計測などの応用場面において必須となるカメラキャリブレーションの効率化及び高精度化が可能となり、被写体計測の精度を向上させることできる。
本実施形態とは異なり、実空間において被写体の身長が合うようにパラメータを決定する方法を適用した場合、例えば、撮像装置5が小さな角度φで遠方を撮影している場合、角度φに関する小さなパラメータ誤差が画像上で大きな誤差に繋がり、画像上での被写体のサイズに大きなずれが発生する可能性が高くなる。
本実施形態では画像上での再投影誤差を最小となる撮像パラメータを決定するので、被写体の上端、下端の指定位置に一定の誤差があっても、また、個々の撮像パラメータの推定結果が真値と比較して一定の誤差がある場合であっても、画像上での被写体のサイズが指定された上端、下端間の長さに近い値になるような撮像パラメータが算出されることが期待できる。したがって、画像上の被写体のサイズが大きくずれてしまう問題は起こりにくくなる。
[実施形態2]
(概要)
図3に示された本実施形態の撮像パラメータ決定装置2は、初期の撮像パラメータの変更に基づく当該パラメータの微分係数に基づき変更した撮像パラメータによる被写体の再投影誤差を算出する。そして、この再投影誤差を小さくする方向に撮像パラメータを逐次更新していくことにより、最適な撮像パラメータを決定する。
(装置の構成)
撮像パラメータ決定装置2は撮像パラメータ決定装置1と同様にCPU、RAM、ROM、ハードディスクドライブ装置、I/F(入出力デバイス)等のハードウェアリソースを備える。そして、このハードウェアリソースがソフトウェアリソース(OS、アプリケーション等)と協働することより図3に示された撮像パラメータ決定装置2を構成する端座標指定部21とパラメータ設定部22と誤差評価部23とパラメータ決定24とが実装される。以下、各機能部21〜24について説明する。
端座標指定部21は、床面から鉛直方向に一定の高さを有する被写体をその床面上での撮像装置の位置を変えながらの撮影によって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定する。
パラメータ設定部22は撮像装置の撮像パラメータの初期値を設定する。
誤差評価部23は、前記撮像パラメータの個々の初期値が変更された値に基づき各画像における下端座標を対応する床面上位置に投影した場合の仮想下端位置を算出する。次いで、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出する。次いで、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標値を算出する。次いで、各画像の前記設定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出する。
パラメータ決定部24は、前記撮像パラメータの変更による再投影誤差の変化に基づき当該撮像パラメータの微分係数を算出し、この微分係数に基づき変更された撮像パラメータを誤差評価部23による再投影誤差の算出に供する更新処理を予め決めておいた所定の条件を満たすまで繰返して実行する。そして、変更後の撮像パラメータを最適な撮像パラメータとして決定する。
(撮像パラメータの決定手順の説明)
図4を参照しながら本実施形態に係る撮像パラメータ決定の手順S21〜S29について説明する。
S21:図5に示された撮影現場において撮像装置5は装置位置及び撮影方向が位置(Tx,Ty,Tz)及び向き(φ,ω,θ)に設定された状態で床面上での被写体の位置を変えながら当該被写体が画面内に収まるように撮影する。この撮影によって得られた複数(n枚)の画像は撮像パラメータ決定装置1に入力される。
S22:端座標指定部21は撮像装置5から入力された各画像における前記被写体の上端座標(xt,yt)、下端座標(xb,yb)を指定する。このステップでは、実施形態1のS2と同様に例えばポインティングデバイスによる指定方法や画像処理技術による指定方法によって被写体の上端及び下端の座標が指定される。
S23:パラメータ設定部22は撮像装置5の撮像パラメータの各初期値(高さTz、角度φ、角度ω、焦点距離α)を設定する。
この初期値としては、例えば各パラメータがとりうる想定範囲の中間の値、人が目視で計測したパラメータ(例えば、カメラの高さは大体2.5mなどの目分量や簡易計測結果を初期値とする)、または、これらの設定法を組み合わせて定められたものが挙げられる。若しくは、乱数で発生した値を初期値としてもよい。初期値の設定法は限定しない。
S24:パラメータ設定部22はS23で設定された(初期)パラメータに対して微小量Δだけ変更した値を算出する。
例えば図5に示された事例では角度φの(初期)パラメータが60度のとき、60.2度(Δが0.2度)、撮像装置5の高さの(初期)パラメータが2.5mのとき、2.51m(Δが0.1m)などである。このデルタの値は、パラメータごとに予め決めておく。その決め方としては、想定しているパラメータの変動範囲と比べ十分に小さい値となっていれば良い。例えば、角度φの想定変動範囲が20度くらいの幅だとすると、その100分の1以下とする等のルールで決めておくとよい。
S25:誤差評価部23は、S23で設定された初期の撮像パラメータに対する再投影誤差をS4と同じ方法によって算出する。次いで、S24にて各値が微小変更された撮像パラメータに対する再投影誤差をS4と同じ方法で算出する。
S26:パラメータ決定部24はS25で算出された再投影誤差の差分を計算することで初期の撮像パラメータの微分係数を算出する。
初期の撮像パラメータに対する再投影誤差がE(pn)、微小変更された当該撮像パラメータに対する再投影誤差がE(pn+Δn)である場合、当該撮像パラメータの微分係数は両者の差分(E(pn+Δn)−E(pn))と定義される。pn(n=1,2,3,…)は撮像パラメータの各成分の値である。Δnは各成分の微小変更量である。例えば本実施形態では高さTz、角度φ、角度ω、焦点距離αの値がそれぞれp1,p2,p3,p4に対応する(S28の演算について同様)。
S27:パラメータ決定部24は初期の撮像パラメータの全ての値(高さTz、角度φ、角度ω、焦点距離α)の微分係数をS26の演算によって算出する。
S28:パラメータ決定部24はS27で算出された微分係数の値に基づき変更された撮像パラメータをS25の再投影誤差の演算処理に供する更新処理を繰返し実行する。
具体的には、先ず、S27で算出した微分係数{E(pn+Δn)−E(pn)}に基づく以下の式(15)により撮像パラメータの各値(pn)の更新量δpnを設定する。
δpn=−α・{E(pn+Δn)−E(pn)}・Δn …(15)
この際、Δnは上記のようにパラメータ毎に予め決めておいた値つまり微分係数を求める際に用いた値をそのまま用いればよい。また、αは更新量を制御するためのパラメータであり、経験的に事前に設定しておく。αの値の決め方の例としては、まず上記の例のようにしてΔnを決定した後、撮像パラメータが既知である画像を用いて、様々なαの値を設定して実際に計算させてみながら正しいパラメータ値に収束するかどうかを見て決めるなどの方法が考えられる。尚、一般にαは正の実数となる。
次いで、パラメータ決定部24は前記更新量を加算した撮像パラメータをS25の再投影誤差を算出する演算に供して再投影誤差を算出する。そして、この再投影誤差に基づく微分係数を用いた式(15)によって算出される更新量を加算した撮像パラメータを、再度、S25の再投影誤差の算出処理に供する。
S29:パラメータ決定部24は予め決めておいた所定の終了条件を満たすまで上記の撮像パラメータの更新処理を繰り返し実行する。
パラメータ決定部24は最終的に変更された撮像パラメータを最適な撮像パラメータとして決定する。この決定された撮像パラメータに基づき撮像装置5の動作が制御される。
尚、撮像パラメータの更新処理の終了条件は、予め決めておいた回数行う方法や、再投影誤差の変化が小さくなったことなどを終了の条件とすればよく、特に限定しない。
(本実施形態の効果)
以上のように撮像パラメータ決定装置2は、実施形態1と同様に、画像上での被写体の再投影誤差が小さくなるように撮像パラメータを決定するので、カメラキャリブレーションの効率化及び高精度化が可能となり、被写体計測の精度を向上させることできる。
[他の実施形態]
実施形態2の撮像パラメータ決定過程における撮像パラメータの初期値を設定するステップS23において、当該初期値として実施形態1の撮像パラメータ決定装置1によって決定された撮像パラメータの値を設定するようにするとよい。より精度よく撮像パラメータを決定できる。
特に、実施形態1に係るステップS3で各パラメータの値を粗い刻み幅で設定して撮像パラメータを決定し、この撮像パラメータを実施形態2に係るステップ23の初期値として適用するようにするとよい。決定対象となる撮像パラメータの数が多い場合や、その想定されるパラメータの値の範囲が広い場合等には、効率的に精度の良い撮像パラメータを得ることができる。
また、実施形態1,2において、撮影場所によっては、障害物などにより被写体の足元(床面)が写りにくいケースが存在する。さらに、被写体が床面から一定の高さbの位置に下端があるような被写体もあり得る。これらの状況に対しては、実際の床面から一定以上の高さbだけ上の高さをZ=0として仮想的な床面として、かつ被写体の高さを(h−b)として、撮像パラメータを算出する。この場合、決定された撮像パラメータのうち、撮像装置の高さは実際の高さに対して高さbの値だけ小さな値となる。そこで、この算出された撮像装置の高さの値に高さbの値を加算すれば正確な高さが得られる。
具体的には、実施形態1,2において、被写体の下端位置が床面から一定の高さbの位置にある場合、当該位置を含んだ水平面を仮想的な床面とする。この一定の高さbの値を減算した当該被写体の高さの値を当該被写体の仮想的な高さとして前記上端座標及び下端座標を指定するステップS2,22に供する。そして、ステップS2〜S6,S22〜S29を経て決定された撮像パラメータの一成分である撮像装置5の高さの値に前記一定の高さbの値を加算したものを最適な撮像パラメータとすればよい。以上のように被写体の上端及び下端を指定する過程で撮像装置の高さから被写体の下端の高さbの値を減算することで正しい撮像パラメータが算出される。
[本発明のプログラムとしての態様]
本発明は、専用のハードウェアにより実現されるもの以外に、上述の撮像パラメータ決定装置1,2を構成する機能手段11〜14,21〜24に係るステップをコンピュータに実行させる撮像パラメータ決定プログラムの態様とすることもできる。また、このプログラムを格納したコンピュータ読み取り可能な記録媒体も本発明の一態様となる。記録媒体としては、フレキシブルディスク、光磁気ディスク、CD−ROM、DVD−ROM等に例示されるような、コンピュータが読み取り可能な周知の記録媒体が挙げられる。または、コンピュータシステムに内蔵されるハードディスクドライブ装置等の記憶装置が例示される。さらに、記録媒体としては、通信回線を介してプログラムを送信する場合のように、短時間の間、動的にプログラムを保持するもの(伝送媒体もしくは伝送波)、その場合のサーバとなるコンピュータシステム内部の揮発性メモリのように一定時間プログラムを保持しているものも含まれる。
1,2…撮像パラメータ決定装置
11,21…端座標指定部(端座標指定手段)
12,22…パラメータ設定部(パラメータ設定手段)
13,23…誤差評価部(誤差評価手段)
14,24…パラメータ決定部(パラメータ決定手段)

Claims (5)

  1. 床面上の被写体を撮影する撮像装置の撮像パラメータを決定する撮像パラメータ決定方法であって、
    端座標指定手段が床面から鉛直方向に一定の高さを有する被写体の床面上での位置を変えながら撮像装置が当該被写体を撮影することによって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定するステップと、
    パラメータ設定手段が前記撮像装置の撮像パラメータの初期値を設定するステップと、
    誤差評価手段が、前記撮像パラメータの個々の初期値が変更された値に基づき各画像における下端座標を対応する床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標値を算出し、各画像の前記設定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出するステップと、
    パラメータ決定手段が、前記撮像パラメータの変更による再投影誤差の変化に基づき当該撮像パラメータの微分係数を算出し、この微分係数に基づき変更された撮像パラメータを前記再投影誤差の算出に供する更新処理を予め決めておいた所定の条件を満たすまで繰返して実行し、変更後の撮像パラメータを最適な撮像パラメータとして決定するステップとを有し、
    前記撮像パラメータの初期値は、
    前記パラメータ設定手段が前記撮像装置の撮像パラメータの値を粗い刻み幅で逐次設定するステップと、
    前記誤差評価手段が、各画像の前記設定された下端座標を前記設定された撮像パラメータに基づき床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標を算出し、各画像の前記指定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出し、この算出した各画像の再投影誤差の和を算出する過程を、前記撮像パラメータの設定毎に実行するステップと、
    前記パラメータ決定手段が前記逐次設定された撮像パラメータのうちで前記再投影誤差の和が最小となるものを初期値として決定するステップと
    によって決定された値であること
    を特徴とする撮像パラメータ決定方法。
  2. 前記被写体の下端位置が床面から一定の高さの位置にある場合、当該位置を含んだ水平面を仮想的な床面とし、前記一定の高さの値を減じた当該被写体の高さの値が当該被写体の仮想的な高さとして前記上端座標及び下端座標を指定するステップに供され、その後、前記再投影誤差を算出するステップ、前記撮像パラメータを決定するステップを経て、決定された前記撮像パラメータの一成分である前記撮像装置の高さの値に前記一定の高さの値を加算したものを最適な撮像パラメータとすること
    を特徴とする請求項に記載の撮像パラメータ決定方法。
  3. 前記被写体の上端座標値及び下端座標値の指定を画像処理技術によって実行すること
    を特徴とする請求項1または2に記載の撮像パラメータ決定方法。
  4. 床面上の被写体を撮影する撮像装置の撮像パラメータを決定する撮像パラメータ決定装置であって、
    床面から鉛直方向に一定の高さを有する被写体の床面上での位置を変えながら撮像装置が当該被写体を撮影することによって取得された複数の画像に対して当該被写体の上端座標及び下端座標を指定する端座標指定手段と、
    前記撮像装置の撮像パラメータの初期値を設定するパラメータ設定手段と、
    前記撮像パラメータの個々の初期値が変更された値に基づき各画像における下端座標を対応する床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標値を算出し、各画像の前記設定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出する誤差評価手段と、
    前記撮像パラメータの変更による再投影誤差の変化に基づき当該撮像パラメータの微分係数を算出し、この微分係数に基づき変更された撮像パラメータを前記再投影誤差の算出に供する更新処理を予め決めておいた所定の条件を満たすまで繰返して実行し、変更後の撮像パラメータを最適な撮像パラメータとして決定するパラメータ決定手段とを備え、
    前記撮像パラメータの初期値は、
    前記パラメータ設定手段が前記撮像装置の撮像パラメータの値を粗い刻み幅で逐次設定し、
    前記誤差評価手段が、各画像の前記設定された下端座標を前記設定された撮像パラメータに基づき床面上位置に投影した場合の仮想下端位置を算出し、この仮想下端位置に基づき実空間上で前記高さだけ鉛直上方にある位置を仮想上端位置として算出し、この仮想上端位置と前記設定された撮像パラメータとに基づき画像上に再投影した場合の仮想上端再投影座標を算出し、各画像の前記指定された上端座標と前記算出された仮想上端再投影座標との距離を再投影誤差として算出し、この算出した各画像の再投影誤差の和を算出する過程を、前記撮像パラメータの設定毎に実行し、
    前記パラメータ決定手段が前記逐次設定された撮像パラメータのうちで前記再投影誤差の和が最小となるものを初期値として決定した値であること
    を特徴とする撮像パラメータ決定装置。
  5. 請求項1からのいずれか1項に記載の撮像パラメータ決定方法の各ステップをコンピュータに実行させるための撮像パラメータ決定プログラム。
JP2010085342A 2010-04-01 2010-04-01 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム Active JP5331047B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010085342A JP5331047B2 (ja) 2010-04-01 2010-04-01 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010085342A JP5331047B2 (ja) 2010-04-01 2010-04-01 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム

Publications (2)

Publication Number Publication Date
JP2011215082A JP2011215082A (ja) 2011-10-27
JP5331047B2 true JP5331047B2 (ja) 2013-10-30

Family

ID=44944952

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010085342A Active JP5331047B2 (ja) 2010-04-01 2010-04-01 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム

Country Status (1)

Country Link
JP (1) JP5331047B2 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5613147B2 (ja) * 2011-12-27 2014-10-22 住友電気工業株式会社 カメラパラメータ測定装置、カメラパラメータ測定方法、及びプログラム
EP2615580B1 (en) 2012-01-13 2016-08-17 Softkinetic Software Automatic scene calibration
EP2808645B1 (en) * 2012-01-23 2019-02-20 Nec Corporation Camera calibration device, camera calibration method, and camera calibration program
JP6393409B2 (ja) * 2016-01-21 2018-09-19 株式会社日立製作所 画像認識システム、カメラ状態推定装置及びプログラム
JP7038345B2 (ja) 2017-04-20 2022-03-18 パナソニックIpマネジメント株式会社 カメラパラメタセット算出方法、カメラパラメタセット算出プログラム及びカメラパラメタセット算出装置
JP7038346B2 (ja) 2017-05-01 2022-03-18 パナソニックIpマネジメント株式会社 カメラパラメータ算出方法、カメラパラメータ算出プログラム、及びカメラパラメータ算出装置
JP7224832B2 (ja) * 2018-10-01 2023-02-20 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
US20200226787A1 (en) 2019-01-14 2020-07-16 Sony Corporation Information processing apparatus, information processing method, and program
US11263780B2 (en) 2019-01-14 2022-03-01 Sony Group Corporation Apparatus, method, and program with verification of detected position information using additional physical characteristic points
CN109801341B (zh) * 2019-01-30 2020-11-03 北京经纬恒润科技有限公司 一种标定靶的位置校验方法及装置
CN111179357B (zh) * 2019-12-30 2023-09-29 南京航空航天大学 一种基于平面靶标组合的大视场相机标定方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2778430B2 (ja) * 1993-10-01 1998-07-23 株式会社デンソー 視覚に基く三次元位置および姿勢の認識方法ならびに視覚に基く三次元位置および姿勢の認識装置
JPH0886609A (ja) * 1994-09-16 1996-04-02 Kobe Steel Ltd ビーム光投影式3次元センサによる計測方法及びキャリブレーション方法並びにそれらの装置
JP3891181B2 (ja) * 2004-02-20 2007-03-14 住友電気工業株式会社 カメラパラメータの自動算出方法及び装置
JP5079547B2 (ja) * 2008-03-03 2012-11-21 Toa株式会社 カメラキャリブレーション装置およびカメラキャリブレーション方法

Also Published As

Publication number Publication date
JP2011215082A (ja) 2011-10-27

Similar Documents

Publication Publication Date Title
JP5331047B2 (ja) 撮像パラメータ決定方法、撮像パラメータ決定装置、撮像パラメータ決定プログラム
US8712016B2 (en) Three-dimensional shape data processing apparatus and three-dimensional shape data processing method
US9691137B2 (en) Radial distortion parameter acquiring method and apparatus
JP2013539147A5 (ja)
WO2020031950A1 (ja) 計測校正装置、計測校正方法、及びプログラム
JP2016019194A (ja) 画像処理装置、画像処理方法、および画像投影装置
JPWO2018235163A1 (ja) キャリブレーション装置、キャリブレーション用チャート、チャートパターン生成装置、およびキャリブレーション方法
JP2005308553A (ja) 三次元画像計測装置及び方法
WO2016042926A1 (ja) 画像処理装置、画像処理方法、及びプログラム
CN102289803A (zh) 图像处理设备、图像处理方法及程序
JP6594170B2 (ja) 画像処理装置、画像処理方法、画像投影システムおよびプログラム
JP4948552B2 (ja) カメラ校正装置、カメラ校正方法、カメラ校正プログラムおよびそのプログラムを記録した記録媒体
JP2014217755A (ja) 眼の画像処理の改良
JP6974978B2 (ja) 画像処理装置、画像処理方法、及びプログラム
CN111105467B (zh) 一种图像标定方法、装置及电子设备
JP2020008802A (ja) 三次元マップ生成装置および三次元マップ生成方法
JP2011155412A (ja) 投影システムおよび投影システムにおける歪み修正方法
WO2019155903A1 (ja) 情報処理装置および方法
JP5410328B2 (ja) 光学投影安定化装置、光学投影安定化方法およびプログラム
JP4149732B2 (ja) ステレオマッチング方法、3次元計測方法及び3次元計測装置並びにステレオマッチング方法のプログラム及び3次元計測のプログラム
JP2002015310A (ja) 点群に面をフィッティングする方法およびモデリング装置
JP7251003B2 (ja) 細かいしわを有する顔メッシュ変形
JP4996585B2 (ja) 画像校正評価装置及び画像校正評価プログラム
WO2017057426A1 (ja) 投影装置、コンテンツ決定装置、投影方法、および、プログラム
JP2006059165A (ja) 3次元モデリング装置、幾何学パターン、3次元モデリングデータの生成方法、3次元モデリングプログラム、記録媒体

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120523

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120612

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120810

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130723

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130726

R150 Certificate of patent or registration of utility model

Ref document number: 5331047

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350