JP2014165866A - 画像処理装置及びその制御方法、プログラム - Google Patents
画像処理装置及びその制御方法、プログラム Download PDFInfo
- Publication number
- JP2014165866A JP2014165866A JP2013037687A JP2013037687A JP2014165866A JP 2014165866 A JP2014165866 A JP 2014165866A JP 2013037687 A JP2013037687 A JP 2013037687A JP 2013037687 A JP2013037687 A JP 2013037687A JP 2014165866 A JP2014165866 A JP 2014165866A
- Authority
- JP
- Japan
- Prior art keywords
- image
- virtual
- coordinates
- coordinate
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000012545 processing Methods 0.000 title claims description 19
- 238000012937 correction Methods 0.000 claims abstract description 42
- 238000003384 imaging method Methods 0.000 claims description 49
- 238000006243 chemical reaction Methods 0.000 claims description 19
- 230000009466 transformation Effects 0.000 claims description 4
- 238000009434 installation Methods 0.000 claims description 3
- 238000011161 development Methods 0.000 description 11
- 230000003287 optical effect Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010297 mechanical methods and process Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000010422 painting Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000010187 selection method Methods 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
【課題】 歪み補正画像作成の中心点をある点からある点へと変更するとき、どのように視線方向が移動したのかを分かりやすく表示する技術を提供すること。
【解決手段】 透視投影画像作成の中心点をある点からある点へと変更するときに、その経路及び経路上の補間点を適切に選択する。これら補間点を辿るように順々に歪み補正画像を作成し、ユーザに提示することで、歪み補正画像が空間上のどのような経路を辿ったのかをユーザが瞬時に理解することができる。
【選択図】 図2
【解決手段】 透視投影画像作成の中心点をある点からある点へと変更するときに、その経路及び経路上の補間点を適切に選択する。これら補間点を辿るように順々に歪み補正画像を作成し、ユーザに提示することで、歪み補正画像が空間上のどのような経路を辿ったのかをユーザが瞬時に理解することができる。
【選択図】 図2
Description
本発明は、歪み補正画像作成の中心点をある点からある点へと変更するときに、その経路及び経路上の補間点を適切に選択する画像処理技術に関するものである。
魚眼レンズや全方位ミラー等の広画角を有する広範囲撮像装置を用いて、通常の画角の撮像装置に比べて広い範囲を一度に撮像する方式が知られている。これら広範囲撮像装置で撮像した画像の中から動体を検出し、その動体の切り出し領域を自動的に決定して追尾する技術が特許文献1及び2に開示されている。これらの特許文献では、撮像装置に起因する歪みを補正することにより、動体から歪みを取り除くことを行っている。
広範囲撮像装置として魚眼レンズを用いる場合は、画像の歪みの補正方法として透視投影展開がよく用いられる。透視投影展開では、魚眼レンズの中心からある視線方向の先に平面を想定し、広範囲画像をその平面に投影して、透視投影画像を得る。広範囲画像上の点を一点指定すると、その点を中心にして透視投影画像を作成できる。
また、メカニカルパン・チルト・ズームカメラと同じように、電子パン・チルト・ズーム中の画像(途中画像)を補間し、提供する電子パン・チルト・ズーム技術が存在する。(特許文献3)
広範囲撮像装置を用いると、撮像装置を中心とした広範囲の画像を得ることができ、監視等の用途に使用することができる。しかし、広範囲画像そのものは画像の歪みが大きく、人間の閲覧には適さない。そのため、ユーザがマウス等の入力装置を用いて広範囲撮像画像上のある場所を選択すると、その場所及びその周辺を含むような歪み補正画像を作成してユーザに提供するような装置が考えられる。
このような装置が提供するGUIの例を図1に示す。このGUIでは、左側に広範囲画像102が配置されている。マウス等の入力装置を用いて、図中の点S(104)を選択すると、点S(104)を中心として透視投影画像を作成し、歪み補正画像103として表示する。この装置は、まるで、ユーザが撮像装置の中心に存在し、広範囲撮像装置からのある視線方向の先にある様子を切り取って閲覧しているかのような体験をユーザに提供することができる。
この瞬間に、図1中の点E(105)をクリックしたとする。すると、クリックされた時点の次の画像フレームから作成される歪み補正画像は、点E(105)を中心として作成したものに急に切り替わる。点S(104)と点E(105)が離れている場合、クリックの前後で提供される歪み補正画像は実世界上で遠く離れた地点を切り取った画像である。そのため、ユーザは、歪み補正画像同士の関係性を理解できず、どのように視線方向が移動したのかを瞬時に理解することができない、という課題があった。
本発明は上記の課題を解決するためになされたものであり、歪み補正画像作成の中心点をある点からある点へと変更するときに、その変更の関係性を違和感なく提示することを可能にする画像処理技術を提供することを目的とする。
上記の目的を達成するための本発明による画像処理装置は以下の構成を備える。即ち、
所定角度以上の範囲を撮像が可能な広範囲撮像部を有する画像処理装置であって、
前記広範囲撮像部で撮像した広範囲画像から切り出した部分画像に含まれる歪みを幾何変換により補正することで、歪み補正画像を作成する補正手段と、
前記広範囲画像に設定した画像座標系の座標と前記広範囲撮像部をモデル化することで定義される仮想座標系の仮想座標との間で座標変換を行う変換手段と、
前記画像座標系において、現在の前記歪み補正画像を作成する上での基準点の第1の座標と、次の前記歪み補正画像を作成する上での目標点である、前記第1の座標とは異なる第2の座標が選択された場合、前記第1の座標及び前記第2の座標それぞれに対応する、前記変換手段によって得られる前記仮想座標系における第1の仮想座標と第2の仮想座標とを結ぶ仮想経路を決定する決定手段と、
前記仮想経路から1つ以上の点を選択して、前記第1の仮想座標と前記第2の仮想座標との間を補間する補間点を選択する選択手段と、
前記第1の仮想座標における前記歪み補正画像の表示から前記第2の仮想座標における前記歪み補正画像の表示へ切り替える場合に、前記第1の仮想座標から前記第2の仮想座標への前記仮想経路において前記選択手段で選択された補間点を辿るように、各補間点を基準として作成した前記歪み補正画像を順々に入れ替えて表示制御する表示手段と
を備える。
所定角度以上の範囲を撮像が可能な広範囲撮像部を有する画像処理装置であって、
前記広範囲撮像部で撮像した広範囲画像から切り出した部分画像に含まれる歪みを幾何変換により補正することで、歪み補正画像を作成する補正手段と、
前記広範囲画像に設定した画像座標系の座標と前記広範囲撮像部をモデル化することで定義される仮想座標系の仮想座標との間で座標変換を行う変換手段と、
前記画像座標系において、現在の前記歪み補正画像を作成する上での基準点の第1の座標と、次の前記歪み補正画像を作成する上での目標点である、前記第1の座標とは異なる第2の座標が選択された場合、前記第1の座標及び前記第2の座標それぞれに対応する、前記変換手段によって得られる前記仮想座標系における第1の仮想座標と第2の仮想座標とを結ぶ仮想経路を決定する決定手段と、
前記仮想経路から1つ以上の点を選択して、前記第1の仮想座標と前記第2の仮想座標との間を補間する補間点を選択する選択手段と、
前記第1の仮想座標における前記歪み補正画像の表示から前記第2の仮想座標における前記歪み補正画像の表示へ切り替える場合に、前記第1の仮想座標から前記第2の仮想座標への前記仮想経路において前記選択手段で選択された補間点を辿るように、各補間点を基準として作成した前記歪み補正画像を順々に入れ替えて表示制御する表示手段と
を備える。
本発明によれば、歪み補正画像作成の中心点をある点からある点へと変更するときに、その変更の関係性を違和感なく提示することを可能にする。
以下、添付の図面を参照して、本発明をその好適な実施形態に基づいて詳細に説明する。尚、以下の実施形態において示す構成は一例に過ぎず、本発明は図示された構成に限定されるものではない。
<実施形態1>
まず、実施形態1の画像処理装置を適用した撮像システムの機能構成例について、図2のブロック図を用いて説明する。
まず、実施形態1の画像処理装置を適用した撮像システムの機能構成例について、図2のブロック図を用いて説明する。
広範囲撮像部201は、例えば、魚眼レンズを用いることで、広角範囲(所定角度以上の範囲)を一度に撮影することを可能にしたカメラである。尚、広範囲撮像部201は、カメラと、回転双曲面形状のミラーとを組み合わせた装置であってもよい。ミラーには、回転放物面または円錐の形状の全方位ミラーを利用してもよい。さらに、広範囲撮像部201は、複数の撮像装置からの画像を合成するような装置であってもよい。つまり、広範囲撮像部201は、一度に周辺の画像(動画像)を入力できるものであれば、いかなる構成を有していてもよい。但し、広範囲撮像部201により得られる撮像画像は、幾何的な歪みを含むので、歪み補正処理が必要になる。
画像取込部202は、広範囲撮像部201より撮像した画像フレーム(広範囲画像)を順次出力する。
パンチルト座標・画像座標変換部203は、広範囲画像上に設定した座標系(画像座標系)上の任意の点Pに対応する、パンチルト座標系上の点P”を計算する。また、逆に、パンチルト座標・画像座標変換部203は、パンチルト座標系上の任意の点P”に対応する、画像座標系上の点Pを計算する。ここで、パンチルト座標系とは、広範囲撮像部201をモデル化することで定義することができる座標系(仮想座標系)である。
以下では、広範囲撮像部201として魚眼レンズを用い、魚眼レンズを鉛直上向きに設置した場合を例にとり、座標系の定義方法と、座標の変換方法を説明する。
画像座標系は、図3のように、広範囲画像301の左上を原点とし、右方向にX軸302、下方向にY軸303をとって定義する。画像座標系での点P304の座標は、P(X,Y)という形式で表される。X、Yは、画像のピクセル数に対応し、整数値をとる。また、点C(305)は、視野円の中心であり、その座標は(CX,CY)である。
また、広範囲画像301の横ピクセル数をXMAX、縦ピクセル数をYMAXとすると、X、Yの取り得る値は、それぞれ
0≦X≦XMAX−1
0≦Y≦YMAX−1
となる。
0≦X≦XMAX−1
0≦Y≦YMAX−1
となる。
この広範囲画像は、実際には、カメラである広範囲撮像部201の撮像素子上に入射した光線によって結ばれたものである。そこで、広範囲画像301を撮像素子401上に対応付けしたものを図4に示す。ここで、図3の中の点C(305)は、図4の中の点C’(405)に対応する。撮像素子座標系を、点C’(405)を原点とし、右方向にx軸402、上方向にy軸403をとって定義する。単位は実世界上の長さに相当する。
ここで、撮像素子401の横幅をdx、撮像素子の縦幅をdyと定義する。ともに単位は実世界上の長さである。この場合、画像座標系上の点P(X,Y)に対応する、撮像素子座標上の点P’(x,y)の座標は以下の式で得られる。
x = (X−CX)×dx/XMAX
y = −(Y−CY)×dy/YMAX
ここで、点P’(x,y)は直交座標系で表現しているが、極座標系でP’(r,φ)と表現することもできる。ここで、r及びφは
r = sqrt(x2+y2)
sinφ=x/r
cosφ=y/r
を満足する。ここで、sqrtは平方根を表す。また、rは像高とよばれる値である。直交座標系での表現P’(x,y)と極座標系での表現P’(r,φ)は互いに変換可能である(但しr≠0とする)。
y = −(Y−CY)×dy/YMAX
ここで、点P’(x,y)は直交座標系で表現しているが、極座標系でP’(r,φ)と表現することもできる。ここで、r及びφは
r = sqrt(x2+y2)
sinφ=x/r
cosφ=y/r
を満足する。ここで、sqrtは平方根を表す。また、rは像高とよばれる値である。直交座標系での表現P’(x,y)と極座標系での表現P’(r,φ)は互いに変換可能である(但しr≠0とする)。
図5は、広範囲撮像部201の光学系である魚眼レンズをモデル化したものである。ここでは、撮像される被写体は、半球面501上に存在するとする。光学系の中心は点C”(504)に相当する。
撮像素子座標系上の点P’(r,φ)に対応する光線は、入射光502で表される。入射光502は、点C”(504)を含むXY平面上で見ると、X軸に対して角度φ(方位角)だけ傾いた角度で光学系に入射する。そして、その光学系を介して焦点距離fだけ離れた撮像素子面中の像点P’(r,φ)に像を結ぶ。
ここで、入射光とZ軸とのなす角をθ、焦点距離をf、射影方式を表す関数をP(θ)とすると、
r=f×P(θ)
と表せることが分かっている。P(θ)は光学系によって異なる。例えば、正射影方式では、
P(θ)=f×sin(θ)
となる。
r=f×P(θ)
と表せることが分かっている。P(θ)は光学系によって異なる。例えば、正射影方式では、
P(θ)=f×sin(θ)
となる。
また、等距離射影方式では、
P(θ)=f×θ
となる。
P(θ)=f×θ
となる。
また、等立体角射影方式では、
P(θ)=2f×sin(θ/2)
となる。
P(θ)=2f×sin(θ/2)
となる。
また、立体射影方式では、
P(θ)=2f×tan(θ/2)
となる。これらのことから、Pの逆関数P-1を用いて、
θ=P-1(r/f)
により、θを計算することができる。
P(θ)=2f×tan(θ/2)
となる。これらのことから、Pの逆関数P-1を用いて、
θ=P-1(r/f)
により、θを計算することができる。
φとθの範囲は、
0≦φ<2π
0<θ≦π/2
と限定できる。
0≦φ<2π
0<θ≦π/2
と限定できる。
このφを横軸に、θを縦軸にとって定義される座標系(φ,θ)を、パンチルト座標系と定義する。以上の計算より、画像座標系上の点P(X,Y)を、パンチルト座標系上の点P”(φ,θ)(例えば、点507)へと変換できる。
逆に、パンチルト座標系上の点P”(φ,θ)に対応する画像座標系上の点P(X,Y)の計算は、上記の計算を逆にたどることにより実現可能である。
図2の説明に戻る。
画像座標目標点選択部204は、画像座標系での目標点を1点取得する。将来、この目標点を中心(基準点)として歪み補正を行うことになる。図1の例では、点S(104)が現在の歪み補正の中心(基準点)となっている点に相当する。また、点E(105)が目標点に相当する。以下では、現在の歪み補正の中心となっている基準点(第1の座標)を点S、目標点(第2の座標)を点Eと呼ぶこととする。画像座標目標点選択部204は、点Sと点Eの画像座標系における座標値をパンチルト経路決定部205へ渡す。
目標点は、マウス等の入力装置を用いてユーザにより明示的に選択することが可能である。また、広範囲画像に対して動体検知機能を実行し、何らかの動きのあった箇所を自動的に目標点として選択する構成としてもよい。この他にも、任意の人為的または機械的な方法で注目点を決定し、それを目標点として選択してよい。
パンチルト経路決定部205は、画像座標系における開始点S(XS,YS)と目標点E(XE,YE)の座標を受け取り、これらに対応するパンチルト座標系(仮想座標系)の第1の仮想座標である点S”(φS,θS)と第2の仮想座標である点E”(φE,θE)を計算する。この座標の変換は、パンチルト座標・画像座標変換部203により行う。次に、点S”と点E”を結ぶパンチルト上(仮想経路上)の経路(例えば、最短の経路)であるパンチルト経路(仮想経路)を決定する。パンチルト経路は、パンチルト座標系の上で決定する。パンチルト経路の決定方法は、点Sと点Eの位置関係により変化する。
(i)|φS−φE|≦πの場合
パンチルト経路は、点S”から点E”へ引いた線分となる。例として、図6(a)に、点S”(601)から点E”(602)へ引いた線分であるパンチルト経路603を示す。
パンチルト経路は、点S”から点E”へ引いた線分となる。例として、図6(a)に、点S”(601)から点E”(602)へ引いた線分であるパンチルト経路603を示す。
(ii)|φS−φE|>πの場合
この場合、そのまま点S”から点E”へ直線を引くと、経路は最短ではなくなってしまう。そこで、計算を簡単にするため、φSとφEのうち、πより小さい方(ただ一つ存在するはず)に、所定値(例えば、2π)を加える。そして、点S”から点E”へ引いた線分がパンチルト経路となる。例として、図6(b)に、点S”(701)から点E”(702)へ引いた線分であるパンチルト経路703を示す。
この場合、そのまま点S”から点E”へ直線を引くと、経路は最短ではなくなってしまう。そこで、計算を簡単にするため、φSとφEのうち、πより小さい方(ただ一つ存在するはず)に、所定値(例えば、2π)を加える。そして、点S”から点E”へ引いた線分がパンチルト経路となる。例として、図6(b)に、点S”(701)から点E”(702)へ引いた線分であるパンチルト経路703を示す。
以上では、例として、点S”と点E”間の最も近い経路(最短経路)をパンチルト経路とする構成としているが、常に、φ角を増加させる方向もしくは減少させる方向に固定するようにパンチルト経路を決定する構成としても構わない。また、パンチルト経路は直線でなくても構わない。つまり、どのようなパンチルト経路を決定するかについては特に限定するものではない。
補間点選択部206は、パンチルト経路決定部205からパンチルト経路を受け取る。次に、パンチルト経路上の任意の点を1つ以上選択して補間点とする。例外として、点S”と点E”が十分近い(点S”と点E”の距離が所定値以下である)場合には、補間点の個数は0個でもよい。
補間点の選択方法にはいくつかの方法をとることができる。図6(a)のパンチルト経路603を例にとり、補間点の選択方法を説明する。尚、補間点の選択方法はこれらの方法に限るものではない。以下では、nを2以上の自然数とする。
(i)パンチルト経路を、各区間の長さが等しくなるようにn等分する方法(例として、図7(a)では、補間点群801)
(ii)パンチルト経路を、点S”に近い区間ほど長く、点E”に近い区間ほど短くなるようにn分割する方法(例として、図7(b)では、補間点群901)
(iii)パンチルト経路を、点S”に近い区間ほど短く、点E”に近い区間ほど長くなるようにn分割する方法(例として、図7(c)では、補間点群1001)
(iv)パンチルト経路を、点S”または点E”のいずれかに近い区間の内、点S”または点E”のいずれかに近くなるほど短く、経路の中間点に近い区間ほど長くなるようにn分割する方法(例として、図7(d)では、補間点群1101)
例えば、上記(i)の方法を用いて、点S”(φS,θS)と点E”(φE,θE)の間のパンチルト経路を8等分するように補間点を選択することを考える。この場合、補間点は7点必要となる。i(1≦i≦7)番目の補間点の座標Pi”(φi,θi)は、
Pi”(φi,θi)
= ((φS+(φE−φS)/8*i,θS+(θE−θS)/8*i))
として与えられる。
(ii)パンチルト経路を、点S”に近い区間ほど長く、点E”に近い区間ほど短くなるようにn分割する方法(例として、図7(b)では、補間点群901)
(iii)パンチルト経路を、点S”に近い区間ほど短く、点E”に近い区間ほど長くなるようにn分割する方法(例として、図7(c)では、補間点群1001)
(iv)パンチルト経路を、点S”または点E”のいずれかに近い区間の内、点S”または点E”のいずれかに近くなるほど短く、経路の中間点に近い区間ほど長くなるようにn分割する方法(例として、図7(d)では、補間点群1101)
例えば、上記(i)の方法を用いて、点S”(φS,θS)と点E”(φE,θE)の間のパンチルト経路を8等分するように補間点を選択することを考える。この場合、補間点は7点必要となる。i(1≦i≦7)番目の補間点の座標Pi”(φi,θi)は、
Pi”(φi,θi)
= ((φS+(φE−φS)/8*i,θS+(θE−θS)/8*i))
として与えられる。
次に、これら補間点群Pi”(φi,θi)それぞれに対応する、画像座標系上の補間点群Pi(Xi,Yi)を計算する。この座標の変換は、パンチルト座標・画像座標変換部203により行う。例として、これらの処理により得られた補間点群を、図8の補間点群1201にマッピングして示す。
補間点選択部206は、画像座標目標点選択部204により目標点が設定された後、新しい画像フレームが画像取込部202から1枚提供されるのに対応して、補間点P1(X1,Y1)の座標を、展開点として出力する。次の画像フレームが提供されるのに対応してP2(X2,Y2)を出力する。このように、新しい画像フレームが提供されるたびに、補間点群Pi(Xi,Yi)の座標を順々に出力する。すべての補間点の座標を出力し終わった次の画像フレームではE(XE,YE)を出力する。これ以降、新たな目標点が画像座標目標点選択部204により選択されない限り、継続してE(XE,YE)を出力する。
歪み補正部207は、画像取込部202から広範囲画像を受け取る。また、補間点選択部206から画像座標上の展開点の座標P(X,Y)を受け取る。そして、この展開点を中心として、広範囲画像から部分画像を切り出し、その部分画像に含まれる歪みを補正した画像(歪み補正画像)を幾何変換により作成する。歪み補正の方法は、透視投影画像を作成する方法であっても、パノラマ画像の一部を作成する方法であってもよく、特に限定するものではない。
以下に、歪み補正部207が、画像座標上の展開点P(X,Y)を中心として歪み補正画像を作成する例を、図5を使って説明する。但し、歪み補正画像として透視投影画像を作成するとする。
まず、前述の方法により、画像座標上の展開点の座標P(X,Y)に対応する入射光502を取得する。この入射光502に対して垂直になる平面上に矩形をとり、それを透視投影平面505と呼ぶ。透視投影平面505の上方向は、Z軸の単位ベクトルを透視投影平面505に射影して得られる上向きベクトル506と同じ向きにとる。
次に、透視投影平面505を格子状に分割し、各格子の代表座標を計算する。この格子の一つ一つが透視投影画像の画素に対応する。次に、各格子の代表座標のそれぞれについて、代表座標と点C”(504)とを結ぶ線分を引き、この線分と半球面501との交点P”(φin,θin)を取得する。さらに、この交点に対応する画像座標系上の点Pin(Xin,Yin)を、パンチルト座標・画像座標変換部203により計算する。この対応関係によって、透視投影画像を広範囲画像で補間できる。補間には、ニアレストネイバー、バイリニア補間、バイキュービック補間等の任意の方法を用いることができる。
例として、図1の点S(104)を展開点として作成した歪み補正画像に対応する広範囲画像上の領域を、図8の領域1202として示す。また、図1の点E(105)を展開点として作成した歪み補正画像に対応する広範囲画像上の領域を、図8の領域1203として示す。
結果表示部208は、CRTや液晶画面等の表示装置により構成されている。結果表示部208は、画像取込部202から出力された広範囲画像、歪み補正部207により生成された歪み補正画像等を表示することができる。どの情報を取得してどのような表示を行うのかについては特に限定するものではない。例えば、広範囲画像と歪み補正画像を横に並べて配置し、表示してもよい。もちろん、表示内容を切り替えるようにしてもよい。
次に、全方位画像上のある点Eが目標点として選択されたときの各部の動作について、図9のフローチャートを用いて説明する。尚、前提として、点Eが目標点として選択される直前には、全方位画像上の点Sを元に歪み補正画像が作成されているものとする。
ステップS1301では、画像座標目標点選択部204により、歪み補正画像を作成する目標となる画像座標系上の点E(目標点)を選択する。
ステップS1302では、パンチルト経路決定部205により、現在の歪み補正画像の作成の元となっている点Sと、ステップS1301により選択された点Eの2点を用いて、パンチルト経路を作成する。パンチルト経路はパンチルト座標上に作成される。
ステップS1303では、補間点選択部206により、パンチルト経路上の補間点を作成する。
ステップS1304では、歪み補正部207により、補間点選択部206により作成された補間点のすべてが、すでに補間点選択部206により出力済みであるかどうかを調べる。すべて出力済みである場合(ステップS1304でYES)、ステップS1307へ進む。すべて出力済みでない場合(ステップS1304でNO)、ステップS1305へ進む。
ステップS1305では、歪み補正部207により、補間点選択部206により出力された補間点を、歪み補正画像の展開点として設定する。
ステップS1306では、歪み補正部207により、ステップS1305により設定された展開点を中心として、歪み補正画像を作成する。その後、作成した画像は、結果表示部208により表示される。
ステップS1307では、歪み補正部207により、目標点Eを、歪み補正画像の展開点として設定する。
ステップS1308では、歪み補正部207により、ステップS1307により設定された展開点を中心として、歪み補正画像を作成する。その後、作成した画像は結果表示部208により表示される。
以上説明したように、実施形態1によれば、透視投影画像作成の中心点をある点からある点へと変更するときに、その経路及び経路上の補間点を適切に選択することができる。これら補間点を辿るように順々に歪み補正画像を作成し、ユーザに提示することで、まるで人間の視線方向が移動するように、歪み補正画像が順々に入れ替わるように表示制御する。これにより、歪み補正画像が空間上のどのような経路を辿ったのか(変化の遷移)をユーザが違和感なく理解することができる。
<実施形態2>
実施形態2の画像処理装置を適用した撮像システムの機能構成例について、図10のブロック図を用いて説明する。図10の構成は、実施形態1の図2の構成に表示禁止領域設定部1401を加えたこと以外は、図2の構成と同様である。そのため、以下では、実施形態1と同じ部分については説明を省略し、実施形態1と異なる点のみについて説明する。
実施形態2の画像処理装置を適用した撮像システムの機能構成例について、図10のブロック図を用いて説明する。図10の構成は、実施形態1の図2の構成に表示禁止領域設定部1401を加えたこと以外は、図2の構成と同様である。そのため、以下では、実施形態1と同じ部分については説明を省略し、実施形態1と異なる点のみについて説明する。
表示禁止領域設定部1401は、結果表示部208にて表示することを禁止する領域(表示禁止領域)を設定する。表示禁止領域は、例えば、プライバシーの侵害を防ぐ等の目的により設定される。図11に、表示禁止領域1501の例を示す。表示禁止領域は、GUIや設定ファイルを使ってユーザが設定することができる。表示禁止領域は、画像座標系にて設定しても、パンチルト座標系にて設定してもよい。どちらの座標系で領域を設定しても、パンチルト座標・画像座標変換部203により互いに変換可能である。具体的には、この変換は、一方の座標系における表示禁止領域の外周上の点に対する、もう一方の座標系における対応点を、パンチルト座標・画像座標変換部203により計算することで実現できる。
画像取込部202は、表示禁止領域設定部1401から、設定された表示禁止領域を受け取る。画像取込部202は、広範囲撮像部201により得られる画像の内、表示禁止領域に該当する領域に、黒塗りやモザイク等の画像処理を行う。
パンチルト経路決定部205は、表示禁止領域設定部1401から、設定された表示禁止領域を受け取る。受け取った表示禁止領域が、画像座標系に基づいて設定されたものである場合は、パンチルト座標における対応領域に変換する。そして、表示禁止領域を加味してパンチルト経路を決定する。以下、パンチルト経路の決定方法を具体的に説明する。
表示禁止領域の例として、図11の表示禁止領域1501を考える。この表示禁止領域1501に対応するパンチルト座標上での領域を求めると、図12の表示禁止領域1601となる。この場合、表示禁止領域1601を避けて経路を設定するために、点S”のφ座標に便宜的に2πを加える(図13)。そして、点S”(1701)と点E”(1702)を結ぶ線分を、パンチルト経路1702として決定することができる。
尚、表示禁止領域を避けて点S”と点E”とを結ぶことが不可能な場合は、表示禁止領域の存在を無視してパンチルト経路を設定するか、なるべく通過する表示禁止領域の長さが短くなるようにパンチルト経路を設定する。
以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、プライバシーの侵害を防ぐ等の目的により表示禁止領域を設定した上で、歪み補正画像の表示を制御することができる。
<実施形態3>
実施形態3では、広範囲撮像部201として魚眼レンズを用い、魚眼レンズを鉛直下向きに設置した場合について説明する。その他の構成及びフローチャートは実施形態1と同様である。そのため、以下では、実施形態1と同じ部分については説明を省略し、実施形態1と異なる点のみについて説明する。
実施形態3では、広範囲撮像部201として魚眼レンズを用い、魚眼レンズを鉛直下向きに設置した場合について説明する。その他の構成及びフローチャートは実施形態1と同様である。そのため、以下では、実施形態1と同じ部分については説明を省略し、実施形態1と異なる点のみについて説明する。
図14は、広範囲撮像部201の持つ光学系である魚眼レンズをモデル化したものである。図5とほぼ同じであるが、魚眼レンズの設置向きを反映して、半球面1801の向きがXY平面に対し反転している。また、θを、入射光と、Z軸の負の方向との間の角と定義する。この場合、透視投影平面1802に対して、上向きベクトル1803が得られる。
透視投影平面の作成方法は、実施形態1で説明する方法と同様である。但し、θの定義方法が異なるため、作成される透視投影平面の上向き方向が、実施形態1とは反対になる。このように、広範囲撮像装置の向きにより、歪み補正画像の作成方法を変更する。
以上説明したように、実施形態3によれば、魚眼レンズの設置方向を変更(例えば、鉛直上向きから鉛直下向きへ変更)した場合でも、実施形態1と同様の効果を得ることができる。
尚、本発明は、以下の処理を実行することによっても実現される。即ち、上述した実施形態の機能を実現するソフトウェア(プログラム)を、ネットワーク又は各種記憶媒体を介してシステムまたは装置に供給し、そのシステムまたは装置のコンピュータ(またはCPUやMPU等)がプログラムを読み出して実行する処理である。
Claims (7)
- 所定角度以上の範囲を撮像が可能な広範囲撮像部を有する画像処理装置であって、
前記広範囲撮像部で撮像した広範囲画像から切り出した部分画像に含まれる歪みを幾何変換により補正することで、歪み補正画像を作成する補正手段と、
前記広範囲画像に設定した画像座標系の座標と前記広範囲撮像部をモデル化することで定義される仮想座標系の仮想座標との間で座標変換を行う変換手段と、
前記画像座標系において、現在の前記歪み補正画像を作成する上での基準点の第1の座標と、次の前記歪み補正画像を作成する上での目標点である、前記第1の座標とは異なる第2の座標が選択された場合、前記第1の座標及び前記第2の座標それぞれに対応する、前記変換手段によって得られる前記仮想座標系における第1の仮想座標と第2の仮想座標とを結ぶ仮想経路を決定する決定手段と、
前記仮想経路から1つ以上の点を選択して、前記第1の仮想座標と前記第2の仮想座標との間を補間する補間点を選択する選択手段と、
前記第1の仮想座標における前記歪み補正画像の表示から前記第2の仮想座標における前記歪み補正画像の表示へ切り替える場合に、前記第1の仮想座標から前記第2の仮想座標への前記仮想経路において前記選択手段で選択された補間点を辿るように、各補間点を基準として作成した前記歪み補正画像を順々に入れ替えて表示制御する表示手段と
を備えることを特徴とする画像処理装置。 - 前記補正手段は、前記広範囲撮像部の設置方向に応じて、前記歪み補正画像の作成方法を変更する
ことを特徴とする請求項1に記載の画像処理装置。 - 前記決定手段は、前記第1の仮想座標と前記第2の仮想座標を最短の経路で結ぶ仮想経路を決定する
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記表示手段で表示することを禁止する表示禁止領域を設定する設定手段を更に備え、
前記決定手段は、前記第1の仮想座標と前記第2の仮想座標を結ぶ最短の経路上に、前記表示禁止領域が設定されていた場合、該表示禁止領域を避けるような経路の前記仮想経路を決定する
ことを特徴とする請求項1または2に記載の画像処理装置。 - 前記選択手段は、前記仮想経路上の1つ以上の任意の点を選択する
ことを特徴とする請求項1乃至4のいずれか1項に記載の画像処理装置。 - 所定角度以上の範囲を撮像が可能な広範囲撮像部を有する画像処理装置の制御方法であって、
前記広範囲撮像部で撮像した広範囲画像から切り出した部分画像に含まれる歪みを幾何変換により補正することで、歪み補正画像を作成する補正工程と、
広範囲画像に設定した画像座標系において、現在の前記歪み補正画像を作成する上での基準点の第1の座標と、次の前記歪み補正画像を作成する上での目標点である、前記第1の座標とは異なる第2の座標が選択された場合、前記第1の座標及び前記第2の座標それぞれに対応する、前記広範囲撮像部をモデル化することで定義される仮想座標系における第1の仮想座標と第2の仮想座標とを結ぶ仮想経路を決定する決定工程と、
前記仮想経路から1つ以上の点を選択して、前記第1の仮想座標と前記第2の仮想座標との間を補間する補間点を選択する選択工程と、
前記第1の仮想座標における前記歪み補正画像の表示から前記第2の仮想座標における前記歪み補正画像の表示へ切り替える場合に、前記第1の仮想座標から前記第2の仮想座標への前記仮想経路において前記選択工程で選択された補間点を辿るように、各補間点を基準として作成した前記歪み補正画像を順々に入れ替えて表示制御する表示工程と
を備えることを特徴とする画像処理装置の制御方法。 - 所定角度以上の範囲を撮像が可能な広範囲撮像部を有する画像処理装置の制御をコンピュータに機能させるためのプログラムであって、
前記コンピュータを、
前記広範囲撮像部で撮像した広範囲画像から切り出した部分画像に含まれる歪みを幾何変換により補正することで、歪み補正画像を作成する補正手段と、
前記広範囲画像に設定した画像座標系の座標と前記広範囲撮像部をモデル化することで定義される仮想座標系の仮想座標との間で座標変換を行う変換手段と、
前記画像座標系において、現在の前記歪み補正画像を作成する上での基準点の第1の座標と、次の前記歪み補正画像を作成する上での目標点である、前記第1の座標とは異なる第2の座標が選択された場合、前記第1の座標及び前記第2の座標それぞれに対応する、前記変換手段によって得られる前記仮想座標系における第1の仮想座標と第2の仮想座標とを結ぶ仮想経路を決定する決定手段と、
前記仮想経路から1つ以上の点を選択して、前記第1の仮想座標と前記第2の仮想座標との間を補間する補間点を選択する選択手段と、
前記第1の仮想座標における前記歪み補正画像の表示から前記第2の仮想座標における前記歪み補正画像の表示へ切り替える場合に、前記第1の仮想座標から前記第2の仮想座標への前記仮想経路において前記選択手段で選択された補間点を辿るように、各補間点を基準として作成した前記歪み補正画像を順々に入れ替えて表示制御する表示手段と
して機能させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013037687A JP2014165866A (ja) | 2013-02-27 | 2013-02-27 | 画像処理装置及びその制御方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013037687A JP2014165866A (ja) | 2013-02-27 | 2013-02-27 | 画像処理装置及びその制御方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014165866A true JP2014165866A (ja) | 2014-09-08 |
Family
ID=51616054
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013037687A Pending JP2014165866A (ja) | 2013-02-27 | 2013-02-27 | 画像処理装置及びその制御方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2014165866A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019093449A1 (ja) * | 2017-11-09 | 2019-05-16 | 株式会社日立産業制御ソリューションズ | 計測値読取りシステム、計測値読取り装置及び計測値読取方法 |
JP2019517688A (ja) * | 2016-06-02 | 2019-06-24 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | 二枚の表示画像間の移行を割り出すための方法及び装置、並びに、車両 |
GB2581016A (en) * | 2018-12-12 | 2020-08-05 | Canon Kk | Electronic device, control method, program, and computer readable medium |
-
2013
- 2013-02-27 JP JP2013037687A patent/JP2014165866A/ja active Pending
Cited By (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019517688A (ja) * | 2016-06-02 | 2019-06-24 | コンティ テミック マイクロエレクトロニック ゲゼルシャフト ミット ベシュレンクテル ハフツングConti Temic microelectronic GmbH | 二枚の表示画像間の移行を割り出すための方法及び装置、並びに、車両 |
WO2019093449A1 (ja) * | 2017-11-09 | 2019-05-16 | 株式会社日立産業制御ソリューションズ | 計測値読取りシステム、計測値読取り装置及び計測値読取方法 |
JP2019087156A (ja) * | 2017-11-09 | 2019-06-06 | 株式会社 日立産業制御ソリューションズ | 計測値読取りシステム、計測値読取り装置及び計測値読取方法 |
JP7041497B2 (ja) | 2017-11-09 | 2022-03-24 | 株式会社 日立産業制御ソリューションズ | 計測値読取りシステム、計測値読取り装置及び計測値読取方法 |
GB2581016A (en) * | 2018-12-12 | 2020-08-05 | Canon Kk | Electronic device, control method, program, and computer readable medium |
US11270407B2 (en) | 2018-12-12 | 2022-03-08 | Canon Kabushiki Kaisha | Electronic device, control method, and non-transitory computer readable medium |
GB2581016B (en) * | 2018-12-12 | 2023-08-16 | Canon Kk | Electronic device, control method, program, and computer readable medium |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6587113B2 (ja) | 画像処理装置及び画像処理方法 | |
CN113382168B (zh) | 用于存储成像数据的重叠区以产生优化拼接图像的设备及方法 | |
CN110060206B (zh) | 图像处理系统、图像生成装置和生成图像的方法 | |
EP3340606B1 (en) | Information processing apparatus and information processing method | |
JP5790345B2 (ja) | 画像処理装置、画像処理方法、プログラムおよび画像処理システム | |
JP5906028B2 (ja) | 画像処理装置、画像処理方法 | |
JP6044328B2 (ja) | 画像処理システム、画像処理方法およびプログラム | |
JP2015019344A (ja) | 画像処理装置、画像処理方法、プログラムおよび撮像システム | |
JP5743016B2 (ja) | 画像を生成する装置および方法 | |
JP2013236215A (ja) | 表示映像形成装置及び表示映像形成方法 | |
JP5925757B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6700935B2 (ja) | 撮像装置、その制御方法、および制御プログラム | |
JP2014165866A (ja) | 画像処理装置及びその制御方法、プログラム | |
JP2012103805A (ja) | 画像処理装置及びその処理方法 | |
JP6579706B2 (ja) | 画像処理装置、画像処理方法および画像処理用プログラム | |
JP6320165B2 (ja) | 画像処理装置及びその制御方法、並びにプログラム | |
JP2017062831A (ja) | 方法および画像処理装置 | |
JP2013012930A (ja) | 全方位撮像装置、及びその制御方法 | |
JP2019008494A (ja) | 画像処理装置 | |
US11610338B2 (en) | Method of controlling a camera | |
JP6071364B2 (ja) | 画像処理装置、その制御方法、および制御プログラム | |
EP3706410B1 (en) | Image processing device, image processing method, program, and projection system | |
US20210409607A1 (en) | Control apparatus, control method, and storage medium | |
JP2019003676A (ja) | 画像処理システム、画像処理方法およびプログラム | |
JP2018180305A (ja) | 制御装置、制御方法、およびプログラム |