JP4935440B2 - 画像処理装置およびカメラ装置 - Google Patents
画像処理装置およびカメラ装置 Download PDFInfo
- Publication number
- JP4935440B2 JP4935440B2 JP2007064404A JP2007064404A JP4935440B2 JP 4935440 B2 JP4935440 B2 JP 4935440B2 JP 2007064404 A JP2007064404 A JP 2007064404A JP 2007064404 A JP2007064404 A JP 2007064404A JP 4935440 B2 JP4935440 B2 JP 4935440B2
- Authority
- JP
- Japan
- Prior art keywords
- angle
- distortion correction
- pan
- tilt
- zoom
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012545 processing Methods 0.000 title claims description 65
- 238000012937 correction Methods 0.000 claims description 336
- 230000033001 locomotion Effects 0.000 claims description 60
- 238000003384 imaging method Methods 0.000 claims description 20
- 230000003287 optical effect Effects 0.000 claims description 19
- 238000000034 method Methods 0.000 description 116
- 239000013598 vector Substances 0.000 description 31
- 238000010586 diagram Methods 0.000 description 17
- 238000004091 panning Methods 0.000 description 17
- 238000006243 chemical reaction Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 6
- 230000004075 alteration Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 5
- 238000013507 mapping Methods 0.000 description 5
- 238000001514 detection method Methods 0.000 description 4
- 238000009795 derivation Methods 0.000 description 3
- 239000004065 semiconductor Substances 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 241000287463 Phalacrocorax Species 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000009191 jumping Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 239000000758 substrate Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Description
その技術を用い電子パンチルトするためには、任意のパンチルト角・画角の歪み補正パラメータを、マイクロプロセッサ等の演算処理により生成する必要がある。
また、仮に高性能なマイクロプロセッサ等を用いれば演算時間を短縮でき、結果、表示におけるリアルタイム性、視認性は向上するが、システム的なコストが増大する。
また、歪み補正パラメータを通信によりホストシステムからカメラにダウンロードした場合、パンチルト角、ズーム画角を切り替えるたびに歪み補正パラメータの通信を行う必要があり、通信に多大な時間が掛かり過ぎるとフレームレートが低下し、結果、表示においてはコマ送りの様に表示されリアルタイム性、視認性が低下する。
また、検出した被写体を表示画像の中心付近に捕らえられない可能性がある。
さらにまた、広角側と狭角側の表示において、パン、チルトの角度により表示領域を制御すると、広角側では遅く、狭角側では早く表示され、パンチルトする際の操作性や視認性が低下する。
また、本発明の第1の観点は、広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置であって、少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、上記処理部は、歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする。
また、本発明の第2の観点は、電子パンチルトズーム機能を有するカメラ装置であって、撮像素子と、光軸を中心として点対称な歪みを有する広角レンズを含み、上記記撮像素子に被写体像を結像する光学系と、上記撮像素子による広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置と、を有し、上記画像処理装置は、少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、上記処理部は、歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする。
そして、フレームメモリ14、書き込みアドレス生成部15、読み出しアドレス変換部16、出力処理部17、マイクロコンピュータ(マイコン)18、歪み補正パラメータRAM部19、および歪み補正パラメータ補間処理部20により画像処理装置の処理部が構成される。
カメラ装置10は、後述するように、4種類あるいは3種類の歪み補正パラメータを用いて、それらを補間することにより、任意のパン角、チルト角の歪み補正パラメータを生成する方法を採用している。
カメラ装置10は、これらの方法を用いて、広角側、狭角側でそれぞれ生成された歪み補正パラメータを補間することにより、任意のパン角、チルト角、ズーム画角の歪み補正パラメータを生成する。
この場合、パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する方法が採用可能である。
そして、その座標系をもとに目標とする任意の座標までの距離を求め、それに基づきパンチルトズームにて移動するための制御方法が採用される。
また、カメラ装置10は、各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正する機能を有する。
また、カメラ装置10は、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させる機能を有する。
また、カメラ装置10は、広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする機能を有する。
これらの方法については、後で詳細に説明する。
このとき、マイクロコンピュータ18は、歪み補正パラメータを内蔵のROM/RAM等のメモリにあらかじめ記憶してもよいし、マイクロコンピュータ18の演算により求めてもよいし、カメラ装置10が伝送回線によって接続されているホストコンピュータ(図示せず)からの外部通信により受信するように構成することも可能である。
撮像素子12は、半導体基板上にマトリクス状に配列した光センサにより光学系11による被写体像を検出して信号電荷を生成し、同信号電荷を垂直信号線や水平信号線を介して読み出して被写体のデジタル画像信号をカメラ信号処理部13に出力する。
フレームメモリ14には、読み出しアドレス変換部16において、補間された歪み補正パラメータ(ベクトル)が変換された実アドレスが供給され、連続的に変化する歪み補正パラメータによって記憶されている元画像の補正対象部分の歪み補正が行われる。
フレームメモリ14から読み出された画像データは、歪み補正、切り出し、合成等が施された画像となり、出力処理部17に出力される。
フレームメモリ14においては、ほぼ連続的に変化する歪み補正パラメータによって元画像の補正対象部分の円滑な歪み補正が行われる。
なお、前述したように、マイクロコンピュータ18は、歪み補正パラメータを内蔵のROM/RAM等のメモリにあらかじめ記憶してもよいし、マイクロコンピュータ18の演算により求めてもよいし、カメラ装置10が伝送回線によって接続されているホストコンピュータ(図示せず)からの外部通信により受信するように構成することも可能である。
まず、補正技術について簡易に説明する。
図2は、広角レンズを用いた撮像の概念を示す図である。
図2において、21で示す円は超広角レンズ111で射像したものであり、22は撮像素子12の撮像面を示している。
歪み補正パラメータの算出は、図2に示すように、広角レンズ111の歪曲収差を示した格子を撮像面(平面)22に射像することにより広角レンズの歪曲収差を示した格子を得る。そして、図3に示すような、撮像面22の正方格子に対し広角レンズ111の歪曲収差を示した格子が一致するように各格子のベクトル(X,Y)を求める。
このとき、図2の法線OPの距離fにより画角(ズーム倍率)が変更でき、天頂角θと方位角φにより切り出す領域が変更(パン・チルト)できる。
また、各格子点間は、着目する格子点における周囲の格子点のベクトルを用い補間する。
このときの補間アルゴリズムは、最近傍法(Nearest Neighbor)でもよいし、線形補間法(Bilinear)でもよいし、3次補間法(Bicubic)でもよいし、レンズの歪曲収差に基づく補間法でもよい。
図5(A)〜(C)は、4種類の歪み補正パラメータの補間方法を説明するための図である。また、図6は、4種類の歪み補正パラメータを補間することより任意のパン角、チルト角の歪み補正パラメータを生成する方法を示す図である。
なおここでは、説明を簡略化するため、各歪み補正パラメータのパン角やチルト角を、以下の仕様とするが、この通りでなくてもよいことは云うまでもない。
また、光軸中心からのパン角が<1>と<3>は同じ、<2>と<4>は同じ、ただし<1>,<3>と<2>,<4>は相違する。また、<1>,<2>,<3>,<4>の画角は同じとする。なな、図5(A),(B),(C)は、例として様々なバリエーションを示している。
以降、これを例に4種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角の歪み補正パラメータを生成する方法を示す(図6参照)。
たとえば、<1>,<2>,<3>,<4>で囲まれた領域内の任意のパン角、チルト角を表示するための歪み補正パラメータを生成する場合、まず、<1>における全格子点における各ベクトル(X,Y)と、<2>における全格子点における各ベクトル(X,Y)をある重み付けをもって補間し、次に<3>と<4>を同様に補間し、最後にそれらを同様に補間すればよい。
A(Xn,Ym)=<1>(Xn,Ym)・(1 - Kx) + <2>(Xn,Ym)・Kx
B(Xn,Ym)=<3>(Xn,Ym)・(1 - Kx) + <4>(Xn,Ym)・Kx
C(Xn,Ym)=A(Xn,Ym)・(1 - Ky) + B(Xn,Ym)・Ky
なお、上式は単純に示すため線形補間としたが、補間アルゴリズムは最近傍法(Nearest Neighbor)でもよいし、線形補間法(Bilinear)でもよいし、3次補間法(Bicubic)でもよいし、レンズの歪曲収差に基づく補間法でもよい。
また、このとき、最終的に生成される歪み補正パラメータのパン角、チルト角は、補間する際の重み付け係数を変えればよい。
={(<2>のパン角 <1>のパン角)× Kx} + <1>のパン角
={(<3>のチルト角 <1>のチルト角)× Ky} + <1>のチルト角
図7は、3種類の歪み補正パラメータの補間方法を説明するための図である。また、図8は、3種類の歪み補正パラメータを補間することより任意のパン角、チルト角の歪み補正パラメータを生成する方法を示す図である。
なお、ここでは説明を簡略化するため、各歪み補正パラメータのパン角やチルト角を、以下の仕様とするが、この通りでなくてもよいことは云うまでもない。
以降、これを例に3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角の歪み補正パラメータを生成する方法を示す(図8参照)。
たとえば、<1>,<2>,<3>で囲まれた領域内の任意のパン角、チルト角を表示するための歪み補正パラメータを生成する場合、まず、<2>における全格子点における各ベクトル(X,Y)と、<3>における全格子点における各ベクトル(X,Y)をある重み付けをもって補間し、それと<1>を同様に補間すればよい。
つまり、次のような補間を行う。
A(Xn,Ym)=<2>(Xn,Ym)・(1 - Kx) + <3>(Xn,Ym)・Kx
B(Xn,Ym)=<1>(Xn,Ym)・(1 - Ky) + A(Xn,Ym)・Ky
なお、上式は単純に示すため線形補間としたが、補間アルゴリズムは最近傍法(Nearest Neighbor)でもよいし、線形補間法(Bilinear)でもよいし、3次補間法(Bicubic)でもよいし、レンズの歪曲収差に基づく補間法でもよい。
また、このとき、最終的に生成される歪み補正パラメータのパン角、チルト角は、補間する際の重み付け係数を変えればよい。
つまり、たとえば次のようになる。
={(<3>のパン角 <2>のパン角)× Kx} + <2>のパン角
={(<2><3>のパン角 <1>のパン角)× Ky} + <2><3>のパン角
={(<3>のチルト角 <1>のチルト角)× Ky} + <1>のチルト角
2種類の歪み補正パラメータで補間すると、補間対象とする歪み補正パラメータのパン角、チルト角、ズーム画角により、生成される歪み補正パラメータが異なってしまい、結果、同じパン角、チルト角、ズーム画角を表示した場合において、微妙に出力画像が異なる可能性がある。
つまり、図5における<1>と<4>、<2>と<3>でそれぞれ中間地点になるよう補間した場合、それぞれの歪み補正ベクトルが異なる。
また、停止時にその時に補間し生成されたた歪み補正パラメータを、新たな移動元の歪み補正パラメータとする場合、次々に生成される移動元の歪み補正パラメータに演算誤差が蓄積し、結果、同じパン角、チルト角、ズーム画角を表示した場合において、微妙に出力画像が異なってくる。
そこで、本実施形態としては、補間に用いる歪み補正パラメータを4種類あるいは3種類としている。
図9は、広角側、狭角側の歪み補正パラメータの補間方法を説明するための図である。また、図10は、8種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、ズーム画角の歪み補正パラメータを生成する方法を示す図である。
なお、ここでは説明を簡略化するため、歪み補正パラメータの種類(数)や、各歪み補正パラメータのパン角やチルト角を、以下の仕様とするが、この通りでなくてもよいことは云うまでもない。
また、広角側、狭角側の歪み補正パラメータの補間方法は、前述した4種類、3種類の歪み補正パラメータの補間方法のいずれでもよい。
光軸中心からのパン角が<5>と<7>は同じ、<6>と<8>は同じである。ただし<5><7>と<6><8>は相違する。
また、<1>,<2>,<3>,<4>の画角は同じであり、<5>,<6>,<7><8>の画角は同じ。ただし、<1>,<2>,<3>,<4>の画角より<5>,<7><6>,<8>の画角は狭い。<1>,<2>と<5>,<6>、<3>,<4>と<7>,<8>のチルト角は同じであり、<1>,<3>と<5>,<7>、<2>,<4>と<6>,<8>のパン角は同じとする。
以降、これを例に8種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、ズーム画角の歪み補正パラメータを生成する方法を示す(図10参照)。
この場合、まず、上述した4種類の歪み補正パラメータを用いた補間方法により、<1>,<2>,<3>,<4>で囲まれた領域内の任意のパン角、チルト角を表示するための歪み補正パラメータを生成し、次に,<5>,<6>,<7>,<8>を<1>,<2>,<3>,<4>と同じパン角、チルト角を表示するための歪み補正パラメータを生成し、最後にそれらを任意のズーム画角を得るため同様に補間すればよい。
つまり、次のような補間を行う。
A(Xn,Ym)=<1>(Xn,Ym)・(1 - Kx) + <2>(Xn,Ym)・Kx
B(Xn,Ym)=<3>(Xn,Ym)・(1 - Kx) + <4>(Xn,Ym)・Kx
C(Xn,Ym)=A(Xn,Ym)・(1 - Ky) + B(Xn,Ym)・Ky
D(Xn,Ym)=<5>(Xn,Ym)・(1 - Kx) + <6>(Xn,Ym)・Kx
E(Xn,Ym)=<7>(Xn,Ym)・(1 - Kx) + <8>(Xn,Ym)・Kx
F(Xn,Ym)=D(Xn,Ym)・(1 - Ky) + E(Xn,Ym)・Ky
G(Xn,Ym)=C(Xn,Ym)・(1 - Kz) + F(Xn,Ym)・Kz
なお、上式は単純に示すため線形補間としたが、補間アルゴリズムは最近傍法(Nearest Neighbor)でもよいし、線形補間法(Bilinear)でもよいし、3次補間法(Bicubic)でもよいし、レンズの歪曲収差に基づく補間法でもよい。
また、この時、最終的に生成される歪み補正パラメータのパン角、チルト角、ズーム画角は、補間する際の重み付け係数を変えればよい。
つまり、たとえば次のようになる。
A={(<2>のパン角 <1>のパン角)× Kx} + <1>のパン角
B={(<3>のチルト角 <1>のチルト角)× Ky} + <1>のチルト角
C={(<6>のパン角 <5>のパン角)× Kx} + <5>のパン角
D={(<7>のチルト角 <5>のチルト角)× Ky} + <5>のチルト角
G={(パン角C パン角A)× Kz} + パン角A
H={(チルト角D チルト角B)× Kz} + チルト角B
I={(<5>の画角 <1>の画角)× Kz} + <1>の画角
図11(A),(B)は、歪み補正の精度を向上させる方法を説明するための図である。
つまり、広角レンズで撮像した画像において、各歪み補正パラメータ間のパン角、チルト角が狭くなるような歪み補正パラメータを用意すればするほど、補間後のパラメータは正しいベクトルを指し示すことになり、結果、歪み補正パラメータの精度は向上することになる。
また、このとき、図11(B)のように狭角側の歪み補正パラメータも同様に9種類用意し、同様に処理することにより、ズーム方向においても、歪み補正精度が向上することは云うまでもない。
なお、この方法において、歪み補正パラメータの数は9種類(3x3)に限定されるものではなく、また、上述した4種類および3種類の歪み補正パラメータの補間方法を共用してもよく、また、狭角側の種類(数)は広角側の種類(数)と一致する必要もなく、また、ズーム時における歪み補正の精度を向上させたいのであれば、ズーム方向の補間数を増やしてもよいことは云うまでもない。
図12は、補間された歪み補正パラメータの3次元座標化の第1の方法を説明するための図である。また、図13は、他の歪み補正パラメータも座標上にマッピングすることにより、歪み補正パラメータを3次元座標に置き換える方法を示す図である。
まず、任意のパン角、チルト角、ズーム角の歪み補正パラメータを生成するため、それらを3次元の座標(X,Y,Z)とし、この時、座標の最小値を0、座標の最大値を100と定義する。
次に、広角側で、且つパン角、チルト角が最大である<1>の歪み補正パラメータ座標を(0,0,0)とし、同様に<2>の歪み補正パラメータの座標を(100,0,0)、というように他の歪み補正パラメータも座標上にマッピングすることにより、歪み補正パラメータを3次元座標に置き換える(図13参照)。
上述の歪み補正の精度を向上させる方法を用いてパンチルトズーム制御するための座標化の方法を説明する。
この場合の座標は、図12および図13の例の場合と同様に、座標の最大値を100としてもよいし、パン角、チルト角、ズーム画角をそれぞれ切り替える種類により、座標の最大値を増やしてもよい。
たとえば、座標の最大値を増やす場合、たとえば図11(B)のような広角側、狭角側、それぞれ9種類の歪み補正パラメータを用い、かつそれらを4種類の歪み補正パラメータで補間するのであれば、パン、チルトにおける切り替える種類は2種類であり、ズーム画角は1種類であるため、座標の最大値は(200,200,100)としてもよい(図14参照)
なお、図14は、他の歪み補正パラメータも座標上にマッピングすることにより、歪み補正パラメータを3次元座標に置き換える他の方法を示す図である。
3種類の歪み補正パラメータの補間方法を用い座標化した場合は、必ずしも4角(平面)や立方体のような座標にはならないことは云うまでもない。
また、あらかじめ用意された歪み補正パラメータのパン角、チルト角、ズーム画角は周知であることから、3次元座標上にマッピングする際、各歪み補正パラメータのパン角、チルト角、ズーム画角に応じ、座標値を合わせこんでもよい。
あらかじめ用意された歪み補正パラメータのパン角、チルト角、ズーム画角はあらかじめ知ることができることから、3次元座標上にマッピングした各歪み補正パラメータの座標における、パン角、チルト角、ズーム画角も周知となるため、任意のパン角、チルト角、ズーム画角からその座標(X,Y,Z)を得るには、単純にそこから割り戻せばよい。
座標から歪み補正パラメータを導出するには、まず、各座標値を前述した4種類、3種類の歪み補正パラメータの補間方法、あるいは広角側、狭角側の歪み補正パラメータの補間方法における重み付け係数に変換し、各歪み補正パラメータを補間処理すればよい。
たとえば図13の座標系であれば、座標の値が0の時、各重み付け係数Kx、Ky、Kzが0となり、座標の値が100の時、各重み付け係数Kx、Ky、Kzが1となる。
従って、各重み付け係数Kx、Ky、Kzは、次のようになり、前述した4種類、3種類の歪み補正パラメータの補間方法を用いればよい。
Ky=座標(Y)÷100、
Kz=座標(Z)÷100
したがって、この場合の各重み付け係数Kx、Ky、Kzは、次のようになり、これを広角側、狭角側の歪み補正パラメータの補間方法を用いればよい。
Ky=座標(Y mod 100)÷100、
Kz=座標(Z mod 100)÷100
ここで、modは剰余算を示す。
上述した歪み補正パラメータの3次元座標化方法、任意のパンチルト角ズーム画角からの座標の導出方法、座標からの歪み補正パラメータの導出方法を用い、広角撮像した画像における任意の領域を、任意の方向に移動しつつ、パンチルトズームする方法を、図13に関連付けて説明する。
なお、ステップ距離は任意であり、ステップ距離が短いほど移動が遅くなり、長いほど移動が早くなる。
このとき、パン方向に移動するのであれば座標(X)に、チルト方向に移動するのであれば座標(Y)に、ズーム方向に移動するのであれば座標(Z)に加える。
なお、パンにおいて左方向、およびチルトにおいて下方向、およびズームにおいて縮小方向であれば、ステップ距離は方向によりマイナスを乗ずればよい。
また、パン、チルトにおいて斜め方向であれば座標(X)と座標(Y)に同時に加えればよく、この時、座標(X)と座標(Y)に加えるステップ距離の比率を変えることにより、任意のパン、チルト方向(角度)に移動できることになる。
また、座標(X)と座標(Y)と座標(Z)に同時に加えれば、パン、チルト、ズーム方向に同時に移動することができることは云うまでもない。
上述した歪み補正パラメータの3次元座標化方法、任意のパンチルト角ズーム画角からの座標の導出方法、座標からの歪み補正パラメータの導出方法を用い、現在の座標(X,Y,Z)から、目標とする座標(X,Y,Z)にパンチルトズームする方法を、図13に関連付けて説明する。
なお、ステップ距離は任意であり、ステップ距離が短いほど移動が遅くなり、長いほど移動が早くなる。
次に、現在の座標(X)から目標とする座標(X)までの距離(X)を求め、それをステップ間隔で除算し、ステップ距離(X)を求める。
同様に、同様にステップ距離(Y)、ステップ距離(Z)を求める。
そして、座標を更新する時間的な間隔(例えば表示のフレームレート等)で、現在の座標(X,Y,Z)に、ステップ距離(X,Y,Z)を加えていくことにより、目標の座標に移動することができる。
図15は、表示におけるパンチルトの移動角度の補正方法を説明するための図である。
上述した座標によるパンチルトズーム制御方法を用いパンチルトする際、各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、パンチルトで移動する際の、表示における見た目の移動速度を同じにする方法を、図15に関連付けて説明する。
まず、次のように、各歪み補正パラメータのパン角、チルト角の比率を求める。
つまり、次のようにして、それを元に目標とする座標までの距離を求め、以降標によるパンチルトズーム制御(2)の方法で処理すればよい。
目標とする座標までの距離(Y)={目標とする座標(Y)−現在の座標(Y)}×Kdy
図16は、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させる方法を説明するための図である。
上述した座標によるパンチルトズーム制御方法を用いパンチルトする際、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させる方法を、図16に関連付けて説明する。
ところが、このとき、実際の表示においては、図16に示すように、広角側では広範囲を表示しているため、パンチルトしている時の見た目はゆっくり(遅く)移動している様に見え、狭角側では狭い範囲を飛び飛びに表示しているため、パンチルトしているときの見た目は早く移動している様に見える。
まず、次のように、各歪み補正パラメータの広角側の画角を1とした時の、狭角側の画角の比率を求める。
なお、ここでは例としてステップ距離を補正したが、他に上述した歪み補正パラメータの3次元座標化方法における座標自体を補正しても、目標とする座標までの距離を補正してもよいことは、云うまでもない。
図18は、ズーム時に画像中心にズームする方法を説明するための図である。
上述した座標によるパンチルトズーム制御(1)の方法を用いズームする際、広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする方法を、図18に関連付けて説明する。
しかし、図18に示すように、広角側のパン角と狭角側のパン角が違い、または、広角側のチルト角と狭角側のチルト角が違う場合、上述した座標によるパンチルトズーム制御(1),(2)の方法を用い、座標(X,Y)を固定してズームしても、表示における画像を中心にズーム(拡大、縮小)せず、斜めにパンチルトしつつズームしたようになる。
なお、図18における広角側における各歪み補正パラメータの相対的なパン角は同じであり、かつチルト角も同じであり、また、狭角側における各歪み補正パラメータの相対的なパン角は同じで、かつチルト角も同じとし、座標の最大値は(100,100,100)とする。
まず、広角側の画像中心と狭画像中心における、座標のズレ幅を求める。
座標のズレ幅Xzは、狭角側でパンした時(座標(X,0,100))のパン角と、広角側の座標(0,0,0)歪み補正パラメータのパン角が一致した時の、座標(X)である。
同様に、座標のズレ幅Yzは、狭角側でチルトした時(座標(0,Y,100))のチルト角と、広角側の座標(0,0,0)歪み補正パラメータのチルト角が一致したときの、座標(Y)である。
次に、上述した座標によるパンチルトズーム制御(1)の方法で、次に移動したい座標(X,Y,Z)を求め、そこから補正量を求める。
Ya=50−現在の座標(Y)とし、それ以外の場合は、Ya=Zlとする。
最後に、次に移動したい座標(X,Y)に、補正量(Xshift,Yshift)を加える。
この補正量を加えた座標(X,Y,Z)を元に、補間処理を行えばよい。
現在の座標を(0,0,0)、目標の座標を(0,0,100),Z方向のステップ(Step)角を4とすると、次に移動したい座標は次のようになる。
={目標の座標(0,0,100)−現在の座標(0,0,0)}/4
=(0,0,25)
{50−現在の座標(X)}の絶対値=50である。
{50−現在の座標(X)}の絶対値=50が、Zlの絶対値より小さい場合には、{50−現在の座標(X)}の絶対値=50<Zl=25である。
よって、偽であるため、Xa=Zl=25である。したがって、Xsは次のようになる。
これは、真であるため、補正量Xshift=Xs=6.25となる。
以下、Yについてステップとして記す。この場合も、現在の座標(0,0,0)である。
(0,Y,0)+(6.25,Y,25)= (6.25,Y,25)
Step2:
(6.25,Y,25)+(6.25,Y,25)=(12.5,Y,50)
Step3:
(12.5,Y,50)+(6.25,Y,25)=(18.75,Y,50)
Step4:
(18.75,Y,75)+(6.25,Y,25)=(25,Y,100)
また、カメラ装置10は、広角側、狭角側でそれぞれ生成された歪み補正パラメータを補間することにより、任意のパン角、チルト角、ズーム画角の歪み補正パラメータを生成する。さらに、カメラ装置10は、多くの種類の歪み補正パラメータを用いることで、歪み補正の精度を向上させたパン、チルト、ズームを実現することも可能である。たとえば広角撮像した領域において、このような歪み補正パラメータを9種類、18種類等、さらに多くの種類を用意し、それらおいて、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角に応じ、随時切り替えることも可能であり、この場合、パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する。そして、その座標系をもとに目標とする任意の座標までの距離を求め、それに基づきパンチルトズームにて移動するための制御方法が採用される。
また、カメラ装置10は、各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正する機能と、広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させる機能と、広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする機能と、を有する。
したがって、本実施形態によれば、以下の効果を得ることができる。
また、安価な低性能のマイクロプロセッサ等を用いることができ、システム的なコストが削減できる。
2)任意のパンチルト角やズーム画角を表示するため、あらかじめ多くの歪み補正パラメータを記憶する必要はなくなり、記憶装置の容量を削減でき、システム的なコストが削減できる。
3)パンチルト角、ズーム画角を切り替えるたびに歪み補正パラメータを通信によりホストシステムからカメラにダウンロードする必要がなくなり、リアルタイム性が向上(高フレームレート化が容易)し、視認性が向上する。
また、高速通信用のハードウェア等が必要なくなり、システム的なコストが削減できる。
4)2種類の歪み補正パラメータで補間するのに比べ、3種類、または4種類で歪み補正パラメータを補間するため、同じパン角、チルト角、ズーム画角を表示した場合において、出力画像が異なることはなくなり、歪み補正の精度が向上する。
5)2種類の歪み補正パラメータで補間するのに比べ、生成した歪み補正パラメータを再び補間する必要がないため、歪み補正パラメータに誤差が蓄積しない。
6)座標をもとに補間する歪み補正パラメータを生成するため、各歪み補正パラメータのパンチルト角、画角を意識する必要がなくなり、パンチルトズーム制御が簡易になり、安価な低性能のマイクロプロセッサ等を用いることができ、システム的なコストが削減できる。
7)パンチルトズームの移動方向に制限がなくなり、あらゆるパンチルトズーム方向に移動が可能になるため、別途用意された何らかの検出処理(動き検出等)により検出した被写体を、パンチルトズームにより追従し表示する際の、追従性、および視認性が向上する。
8)広角側と狭角側の表示におけるパンチルトする移動速度を同じにできるため、パンチルトする際の操作性や視認性が向上する。
9)任意の歪み補正パラメータにより歪み補正、パンチルトズームが可能なため、歪曲収差の違うレンズを使用した場合でも容易に対応できる。
また、このようなプログラムは、半導体メモリ、磁気ディスク、光ディスク、フロッピー(登録商標)ディスク等の記録媒体、この記録媒体をセットしたコンピュータによりアクセスし上記プログラムを実行するように構成可能である。
Claims (6)
- 広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置であって、
少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、
上記処理部は、
広角側および狭角側でそれぞれ上記歪み補正パラメータを生成し、当該広角側および狭角側で生成した歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成し、
歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、
パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、
上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、
各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、
広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、
広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする
画像処理装置。 - 上記処理部は、
広角側および狭角側でそれぞれ少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角およびチルト角のうち少なくとも一方の歪み補正パラメータを生成し、当該広角側および狭角側で生成した歪み補正パラメータを補間することにより、任意のズーム画角の歪み補正パラメータを得る
請求項1記載の画像処理装置。 - 広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置であって、
少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、
上記処理部は、
歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、
パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、
上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、
各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、
広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、
広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする
画像処理装置。 - 電子パンチルトズーム機能を有するカメラ装置であって、
撮像素子と、
光軸を中心として点対称な歪みを有する広角レンズを含み、上記記撮像素子に被写体像を結像する光学系と、
上記撮像素子による広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置と、を有し、
上記画像処理装置は、
少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、
上記処理部は、
広角側および狭角側でそれぞれ上記歪み補正パラメータを生成し、当該広角側および狭角側で生成した歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成し、
歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、
パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、
上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、
各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、
広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、
広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする
カメラ装置。 - 上記処理部は、
広角側および狭角側でそれぞれ少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角およびチルト角のうち少なくとも一方の歪み補正パラメータを生成し、当該広角側および狭角側で生成した歪み補正パラメータを補間することにより、任意のズーム画角の歪み補正パラメータを得る
請求項4記載のカメラ装置。 - 電子パンチルトズーム機能を有するカメラ装置であって、
撮像素子と、
光軸を中心として点対称な歪みを有する広角レンズを含み、上記記撮像素子に被写体像を結像する光学系と、
上記撮像素子による広角レンズで撮像した元画像を、格子状に形成された歪み補正パラメータを用い歪み補正が可能な画像処理装置と、を有し、
上記画像処理装置は、
少なくとも3種類の歪み補正パラメータを補間することにより、任意のパン角、チルト角、およびズーム画角のうちの少なくともいずれかの歪み補正パラメータを生成する処理部を有し、
上記処理部は、
歪み補正の精度を高くする場合、上記少なくとも3種類の歪み補正パラメータよりさらに多くの歪み補正パラメータを用い、補間対象となる歪み補正パラメータをパン角、チルト角、ズーム画角のいずれかに応じて、随時切り替え、
パン角、チルト角、ズーム画角を座標(X,Y,Z)に定義し、パン、チルト、ズームにおける移動角度に制約なく、任意の角度、任意の画角に移動する機能を含み、
上記座標系をもとに目標とする任意の座標までの距離を求め、求めた距離に基づきパンチルトズームにて移動するための制御を行い、
各歪み補正パラメータのパン角、チルト角が相対的に違う場合において、表示におけるパンチルトの移動角度を補正し、
広画角時のパンチルトする移動速度と、狭画角時のパンチルトする移動速度において、表示における見た目の移動速度を一致させ、
広角側の歪み補正パラメータと狭角側の歪み補正パラメータのパン角が違う、またはチルト角が違う、またはいずれも違う場合において、ズーム時に画像中心にズームする
カメラ装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007064404A JP4935440B2 (ja) | 2007-03-14 | 2007-03-14 | 画像処理装置およびカメラ装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007064404A JP4935440B2 (ja) | 2007-03-14 | 2007-03-14 | 画像処理装置およびカメラ装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2008227996A JP2008227996A (ja) | 2008-09-25 |
JP2008227996A5 JP2008227996A5 (ja) | 2011-08-04 |
JP4935440B2 true JP4935440B2 (ja) | 2012-05-23 |
Family
ID=39846056
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007064404A Expired - Fee Related JP4935440B2 (ja) | 2007-03-14 | 2007-03-14 | 画像処理装置およびカメラ装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4935440B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102445818B (zh) * | 2010-09-30 | 2016-09-14 | 株式会社尼康 | 更换镜头及相机体 |
US9030597B2 (en) | 2010-09-30 | 2015-05-12 | Nikon Corporation | Interchangeable lens and camera body |
JP5240323B2 (ja) * | 2010-09-30 | 2013-07-17 | 株式会社ニコン | 交換レンズおよびカメラボディ |
WO2012056982A1 (ja) * | 2010-10-25 | 2012-05-03 | コニカミノルタオプト株式会社 | 画像処理方法、画像処理装置及び撮像装置 |
JPWO2012060269A1 (ja) * | 2010-11-04 | 2014-05-12 | コニカミノルタ株式会社 | 画像処理方法、画像処理装置及び撮像装置 |
WO2012060271A1 (ja) * | 2010-11-04 | 2012-05-10 | コニカミノルタオプト株式会社 | 画像処理方法、画像処理装置及び撮像装置 |
JP5914813B2 (ja) | 2011-01-06 | 2016-05-11 | パナソニックIpマネジメント株式会社 | カメラ、歪み補正装置、及び歪み補正方法 |
KR102114248B1 (ko) | 2013-09-13 | 2020-05-22 | 삼성전자 주식회사 | 깊이 정보 기반 광학 왜곡 보상 장치 및 방법 |
KR101762475B1 (ko) | 2014-04-23 | 2017-07-27 | 주식회사 에스360브이알 | 직선수차보정 영상면의 주시 방향이 사전에 정해진 궤적을 따라서 주기적으로 스캔되는 영상 처리 기반의 디지털 팬·틸트·줌·슬라이드 카메라 |
US10863112B1 (en) * | 2019-09-26 | 2020-12-08 | Plantronics, Inc. | Smoothing image transitions when changing views |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003052057A (ja) * | 2001-08-08 | 2003-02-21 | Hitachi Ltd | 映像変換による立体視映像生成装置 |
JP4333270B2 (ja) * | 2003-08-13 | 2009-09-16 | ソニー株式会社 | 画像処理装置、画像処理システム、撮像装置および画像処理方法 |
-
2007
- 2007-03-14 JP JP2007064404A patent/JP4935440B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2008227996A (ja) | 2008-09-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4935440B2 (ja) | 画像処理装置およびカメラ装置 | |
TWI524306B (zh) | 圖像轉換和多視圖輸出系統及方法 | |
JP4487952B2 (ja) | カメラ装置及び監視システム | |
JP6337888B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP5235910B2 (ja) | カメラ雲台システム | |
JP6821339B2 (ja) | 像振れ補正装置、傾き補正装置、像振れ補正装置の制御方法、傾き補正装置の制御方法 | |
JP5666069B1 (ja) | 座標算出装置及び方法、並びに画像処理装置及び方法 | |
KR101078623B1 (ko) | 화상 처리 장치 및 카메라 시스템 | |
US9667864B2 (en) | Image conversion apparatus, camera, image conversion method, and storage medium with program stored therein | |
JP6292227B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP2011142419A5 (ja) | ||
WO2012060269A1 (ja) | 画像処理方法、画像処理装置及び撮像装置 | |
JP6310320B2 (ja) | 画像処理装置、撮像装置、画像処理方法、および、プログラム | |
US8289420B2 (en) | Image processing device, camera device, image processing method, and program | |
JP6151930B2 (ja) | 撮像装置およびその制御方法 | |
JP2018182730A (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP2012003503A (ja) | 画像処理装置およびその制御方法、並びにプログラム | |
JP6278668B2 (ja) | 複眼撮像装置 | |
JP6320165B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
EP4091319A1 (en) | Method of controlling a camera | |
WO2019026183A1 (ja) | 画像生成装置および画像生成方法 | |
TW201843648A (zh) | 影像視角轉換方法及其系統 | |
JPWO2011161746A1 (ja) | 画像処理方法、プログラム、画像処理装置及び撮像装置 | |
JP2007249791A (ja) | 画像処理装置および画像処理方法、並びにプログラム | |
JP2002094765A (ja) | 画像処理装置及び画像処理方法並びにメモリ媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100303 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110620 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110712 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20110826 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111018 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111212 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120124 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120206 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150302 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150302 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |