JP5985336B2 - パノラマ画像作成装置、及び、プログラム - Google Patents

パノラマ画像作成装置、及び、プログラム Download PDF

Info

Publication number
JP5985336B2
JP5985336B2 JP2012214938A JP2012214938A JP5985336B2 JP 5985336 B2 JP5985336 B2 JP 5985336B2 JP 2012214938 A JP2012214938 A JP 2012214938A JP 2012214938 A JP2012214938 A JP 2012214938A JP 5985336 B2 JP5985336 B2 JP 5985336B2
Authority
JP
Japan
Prior art keywords
image
plane
panoramic image
panorama
creation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012214938A
Other languages
English (en)
Other versions
JP2014071496A (ja
Inventor
俊明 川口
俊明 川口
村田 正和
正和 村田
Original Assignee
株式会社熊平製作所
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 株式会社熊平製作所 filed Critical 株式会社熊平製作所
Priority to JP2012214938A priority Critical patent/JP5985336B2/ja
Publication of JP2014071496A publication Critical patent/JP2014071496A/ja
Application granted granted Critical
Publication of JP5985336B2 publication Critical patent/JP5985336B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)

Description

本発明は、魚眼レンズカメラによって撮影された魚眼画像に基づいてパノラマ画像を作成するパノラマ画像作成装置に関し、特に、ターゲットを監視し易いパノラマ画像を作成するパノラマ画像作成装置に関する。また、本発明は、コンピュータで当該パノラマ画像作成装置を実現するプログラムに関する。
近年、魚眼レンズカメラ(以下、単に「カメラ」と称する場合がある)によって撮影された魚眼画像に基づいてパノラマ画像を作成するパノラマ画像作成装置が、普及している(例えば、特許文献1及び特許文献2参照)。
魚眼レンズカメラは、カメラの周囲のほぼ180°の半球視野の空間を魚眼画像として撮影する全方位型のカメラである。魚眼レンズカメラは、通常、ドーム型の形状に形成されており、天井や壁面に設置される。魚眼レンズカメラは、広い空間の撮影に適している。そのため、魚眼レンズカメラは、例えば、パノラマ画像作成装置と組み合わされて、全方位の監視システムに用いられる。
全方位の監視システム(以下、単に「監視システム」と称する場合がある)では、魚眼レンズカメラが、カメラの周囲の空間を魚眼画像として撮影して、魚眼画像をパノラマ画像作成装置に出力する。
パノラマ画像作成装置は、魚眼レンズカメラから魚眼画像が入力されると、魚眼画像を撮影画像として格納部に格納する。そして、パノラマ画像作成装置は、格納部に格納された撮影画像(魚眼画像)に基づいて、パノラマ画像を作成して、撮影画像(魚眼画像)やパノラマ画像を表示部に表示する。これにより、表示部に表示された画像を見る監視者は、表示部に表示された画像の中に映る所望の監視したい部分(以下、「ターゲット」と称する)の動きを監視する。
ところで、監視システムは、視野の周辺部(画像の左右部分)の歪みが少ないパノラマ画像を作成するために、カメラを真下の方向又は水平方向に向けて撮影する必要があった。そのため、監視システムは、カメラが真下の方向に向くように、カメラを天井等に吊り下げ設置して、天井直下の空間を撮影する構造か、又は、カメラが水平方向に向くように、カメラを略垂直な壁の表面(壁面)等に水平設置して、水平方向の空間を撮影する構造になっていた。
その魚眼レンズカメラは、設置角度を変更できないものが多く、変更できたとしても、その角度はせいぜい10°程度である。また、魚眼レンズカメラは、水平設置される場合で、かつ、ターゲットが人等である場合に、ターゲットがカメラの画角に入るように、なるべく低い位置に設置する必要があった。このように、魚眼レンズカメラは、設置場所の制約が多かった。
このような監視システムにおいて、パノラマ画像作成装置は、カメラが吊り下げ設置されている場合に、ターゲットを上から見下ろす構成のパノラマ画像を作成する。この構成のパノラマ画像は、ターゲットの特徴が分かり難い構成になるため、あまり好ましくない。
一方、パノラマ画像作成装置は、カメラが水平設置されている場合で、かつ、ターゲットがカメラの画角に入るときに、ターゲットを横方向から見る構成のパノラマ画像を作成する。この構成のパノラマ画像は、ターゲットの特徴が分かり易い構成になるため、好ましい。
特に、パノラマ画像作成装置は、カメラが標準的な人の目線の高さ(例えば、床面から約1500mmの高さ)の位置に水平設置されている場合に、あたかも人が首を左右に振って見たときのような自然な構成のパノラマ画像を作成する。この構成のパノラマ画像は、ターゲットの特徴が非常に分かり易い構成になるため、特に好ましい。
したがって、監視システムは、ターゲットの特徴が分かり易い構成のパノラマ画像を取得するためには、カメラを水平設置することが好ましく、特に、カメラを標準的な人の目線の高さの位置に水平設置することが好ましい。
しかしながら、監視システムは、カメラを標準的な人の目線の高さの位置に設置した場合に、カメラが人によって触られる可能性がある。そのため、仮に悪意ある人物がいる場合に、カメラは、その人物によって「バンダリズム」と称される悪戯(例えば、破壊されたり、スプレーを吹き付けられたりして、撮影不能な状態にされる悪戯)を受ける可能性がある。また、カメラは、その用途が防犯用である場合に、人に威圧感を与えたり、景観を損ねたりする可能性がある。
したがって、監視システムは、カメラを標準的な人の目線の高さの位置に水平設置することが好ましいにも関わらず、このような悪戯を防止するために、また、人に威圧感を与えたり、景観を損ねたりするのを抑制するために、カメラを、人の手が届かない高い位置に、設置する必要があった。
ただし、監視システムは、カメラを高い位置に水平設置した場合に、カメラがターゲットから外れた天井の周囲の空間ばかりを撮影してしまう。そのため、この場合に、パノラマ画像作成装置は、ターゲットが少ししか写っていない(又は、全く写っていない)パノラマ画像を作成してしまう。
したがって、監視システムは、カメラを人の手が届かない高い位置に設置する場合に、下げ振り設置する必要がある。なお、「下げ振り設置」とは、カメラが斜め下方向に向くように、カメラを下方向に傾斜させて設置することを意味している。
監視システムは、カメラを人の手が届かない高い位置に下げ振り設置した場合に、カメラに対する悪戯を防止することができるとともに、人に威圧感を与えたり、景観を損ねたりするのを抑制することができる。しかも、監視システムは、この場合に、カメラが斜め上方向からターゲットを見る構成の魚眼画像を撮影する。そのため、この場合に、パノラマ画像作成装置は、斜め上方向からターゲットを見る構成のパノラマ画像を作成することができる。以下、このパノラマ画像の作成手法を「第1の作成手法」と称する。
第1の作成手法によって作成されたパノラマ画像は、ターゲットが画像の中央付近に写り込み易い、というメリットを有している。しかしながら、その一方で、このパノラマ画像は、下げ振り設置に起因して、比較的大きな歪みが視野の周辺部(画像の左右部分)に発生する。その歪みは、画像の中央から外れるほど(画像の端部になるほど)大きくなる。そのため、このパノラマ画像は、視野の周辺部(画像の左右部分)が下がって見える構成になり、これにより、ターゲットの特徴が分かり難くなる、というデメリットを有している。換言すると、このパノラマ画像は、一番奥の壁や直線が湾曲するため、左右部分の歪みが大きい、つまり、奥行きが分かり難い画像になる、というデメリットを有している。
そこで、パノラマ画像作成装置は、例えば、以下の手法によって、歪みが目立たないパノラマ画像を作成する構成になっている場合もある。
すなわち、パノラマ画像作成装置は、例えば、魚眼画像のレンズ中心から水平方向に切り出された写像に基づいてパノラマ画像を作成する。以下、このパノラマ画像の作成手法を「第2の作成手法」と称する。なお、「第2の作成手法」の詳細については、「発明を実施するための形態」の章の中で、比較例2(図7A(b)参照)として説明する。
第2の作成手法によって作成されたパノラマ画像は、視野の周辺部(画像の左右部分)の歪みが解消される、というメリットを有している。しかしながら、その一方で、このパノラマ画像は、以下に説明するように、画像の中央付近に、ターゲットの特徴部分(具体的には、魚眼画像の、有効解像度が高い中央部分)の画像をあまり含まない画像になるため、ターゲットの特徴が分かり難くなる、というデメリットを有している。
すなわち、魚眼画像は、歪みが、画像の中央に近いほど小さく、画像の中央から外れるほど大きくなる。そのため、魚眼画像は、有効解像度が、画像の中央に近いほど高く、画像の中央から外れるほど低くなる、という特性がある。
第2の作成手法によって作成されたパノラマ画像は、このような魚眼画像の特性があるにも関わらず、魚眼画像の中央部分から外れた構成になる。したがって、このパノラマ画像は、ターゲットの特徴部分(具体的には、魚眼画像の、有効解像度が高い中央部分)の画像をあまり含まない画像になるため、ターゲットの特徴が分かり難くなる。
特開2009−176273号公報 特許第4048511号公報
従来のパノラマ画像装置は、仮に魚眼レンズカメラを斜めに傾斜させて撮影した場合に、通常、前記した第1の作成手法又は第2の作成手法によってパノラマ画像を作成する。
しかしながら、前記した第1の作成手法によって作成されたパノラマ画像は、視野の周辺部(画像の左右部分)が下がって見える構成になり、これにより、ターゲットの特徴が分かり難くなる、という課題があった。
また、前記した第2の作成手法によって作成されたパノラマ画像は、画像の中央付近に、ターゲットの特徴部分(具体的には、魚眼画像の、有効解像度が高い中央部分)の画像をあまり含まない画像になるため、ターゲットの特徴が分かり難くなる、という課題があった。
本発明は、前記した課題を解決するためになされたものであり、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像を作成するパノラマ画像作成装置、及び、コンピュータで当該パノラマ画像作成装置を実現するプログラムを提供することを主な目的とする。
特に、本発明は、仮に魚眼レンズカメラを斜めに傾斜させて撮影した場合であっても、このようなパノラマ画像を作成するパノラマ画像作成装置、及び、コンピュータで当該パノラマ画像作成装置を実現するプログラムを提供することを主な目的とする。
前記目的を達成するため、第1発明は、魚眼レンズを用いる魚眼レンズカメラによって撮影された魚眼画像に基づいてパノラマ画像を作成するパノラマ画像作成装置であって、画像を表示する表示部と、前記魚眼レンズカメラによって撮影された前記魚眼画像を撮影画像として格納する撮影画像格納部と、前記撮影画像格納部に格納された前記撮影画像に基づいてパノラマ画像を作成するパノラマ画像作成部と、前記撮影画像及び前記パノラマ画像のいずれか一方又は双方を前記表示部に表示させる表示制御部とを有し、前記パノラマ画像作成部は、(a)前記魚眼レンズカメラの光軸を中心にしてその左右方向に展開する平面を撮影水平面とし、(b)前記撮影水平面を、前記パノラマ画像の初期作成時の写像の切り出しに用いる切出平面とし、(c)前記撮影水平面上に配置され、かつ、前記魚眼画像である前記撮影画像に対応する半球面画像の天頂に接する接線を、前記切出平面の仮想上の回転軸とし、(d)前記回転軸を中心にして、前記切出平面を任意の回転角度分だけ上方向又は下方向に回転させ、(e)前記切出平面と前記半球面画像とが交わる曲線を切出線とし、当該切出線に沿って当該半球面画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成する構成とする。
このパノラマ画像作成装置は、撮影画像格納部に撮影画像として格納された魚眼画像に基づいてパノラマ画像を作成する。その際に、このパノラマ画像作成装置は、(a)魚眼レンズカメラの光軸を中心にしてその左右方向に展開する平面を撮影水平面とし、(b)撮影水平面を、パノラマ画像の初期作成時の写像の切り出しに用いる切出平面とし、(c)撮影水平面上に配置され、かつ、魚眼画像である撮影画像に対応する半球面画像の天頂に接する接線を、切出平面の仮想上の回転軸とし、(d)回転軸を中心にして、切出平面(具体的には、切出平面のカメラ側)を任意の回転角度分だけ上方向又は下方向に回転させ、(e)切出平面と半球面画像とが交わる曲線を切出線とし、切出線に沿って半球面画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成する。
このパノラマ画像作成装置は、天頂に接する接線を回転軸とし、回転軸を中心にして切出平面を上方向又は下方向に回転させる。そして、このパノラマ画像作成装置は、切出平面と半球面画像とが交わる切出線に沿って撮影画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成する。
このパノラマ画像は、半球面画像の天頂が常に画像の中央付近に配置された構成になる。そして、カメラは、ターゲットが存在する方向(ターゲットが写り込み易い方向)に向けて設置されている。そのため、このパノラマ画像は、画像の中央付近に、ターゲットの特徴を多く含む構成となる。したがって、このパノラマ画像作成装置は、画像の中央付近に、ターゲットの特徴を多く含む、ターゲットを監視し易いパノラマ画像を作成することができる。
しかも、このパノラマ画像作成装置は、切出平面の回転角度を変更することにより、切出線を変動させることができる。切出線は、切出平面の回転軸が天頂に接する接線であるため、常に天頂を通過する。そのため、切出線は、画像の中央に近いほど(天頂に近いほど)、変動量が小さくなり、一方、画像の中央から外れるほど(天頂から外れるほど)、変動量が大きくなる。したがって、このパノラマ画像作成装置は、切出線を変動させることにより、パノラマ画像内の左右方向に水平に延伸する仮想上の直線の位置を上方向又は下方向に移動させることができる。その結果、このパノラマ画像作成装置は、切出平面の回転角度を変更して、切出線を変動させることにより、視野の周辺部の歪みが少ないパノラマ画像を作成することができる。よって、このパノラマ画像作成装置は、仮に魚眼レンズカメラを斜めに傾斜させて撮影した場合であっても、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像を作成することができる。
また、第2発明は、画像を表示する表示部と、魚眼レンズを用いる魚眼レンズカメラによって撮影された魚眼画像を撮影画像として格納する撮影画像格納部とを有するコンピュータを、当該撮影画像に基づいてパノラマ画像を作成するパノラマ画像作成装置として機能させるプログラムであって、前記コンピュータを、(a)前記魚眼レンズカメラの光軸を中心にしてその左右方向に展開する平面を撮影水平面とし、(b)前記撮影水平面を、前記パノラマ画像の初期作成時の写像の切り出しに用いる切出平面とし、(c)前記撮影水平面上に配置され、かつ、前記魚眼画像である前記撮影画像に対応する半球面画像の天頂に接する接線を、前記切出平面の仮想上の回転軸とし、(d)前記回転軸を中心にして、前記切出平面を任意の回転角度分だけ上方向又は下方向に回転させ、(e)前記切出平面と前記半球面画像とが交わる曲線を切出線とし、当該切出線に沿って当該半球面画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成するパノラマ画像作成部と、前記撮影画像及び前記パノラマ画像のいずれか一方又は双方を前記表示部に表示させる表示制御部として機能させる構成とする。
このプログラムは、コンピュータで、第1発明に係るパノラマ画像作成装置を実現することができる。
本発明によれば、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像を作成することができる。
特に、本発明によれば、仮に魚眼レンズカメラを斜めに傾斜させて撮影した場合であっても、このようなパノラマ画像を作成することができる。
実施形態に係るパノラマ画像作成装置を用いる監視システムの構成図である。 実施形態に係るパノラマ画像作成装置の構成図である。 実施形態に係るパノラマ画像の作成原理の説明図(1)である。 実施形態に係るパノラマ画像の作成原理の説明図(2)である。 実施形態で用いる切出線の説明図である。 実施形態に係るパノラマ画像の補正処理の概要説明図である。 実施形態に係るパノラマ画像の補正処理の原理説明図(1)である。 実施形態に係るパノラマ画像の補正処理の原理説明図(2)である。 実施形態に係るパノラマ画像の補正処理の原理説明図(3)である。 実施形態に係る水平補正操作の説明図(1)である。 実施形態に係る水平補正操作の説明図(2)である。 実施形態に係る水平補正操作の変形例の説明図(1)である。 実施形態に係る水平補正操作の変形例の説明図(2)である。 実施形態に係るパノラマ画像作成装置の特性説明図(1)である。 実施形態に係るパノラマ画像作成装置の特性説明図(2)である。 実施形態に係るパノラマ画像の作成に用いるパラメータの説明図(1)である。 実施形態に係るパノラマ画像の作成に用いるパラメータの説明図(2)である。 実施形態に係るパノラマ画像の作成に用いるパラメータの説明図(3)である。 実施形態で用いる半径の説明図である。 実施形態に係るパノラマ画像の表示の一例を示す図である。
以下、図面を参照して、本発明の実施の形態(以下、「本実施形態」と称する)につき詳細に説明する。なお、各図は、本発明を十分に理解できる程度に、概略的に示してあるに過ぎない。よって、本発明は、図示例のみに限定されるものではない。また、各図において、共通する構成要素や同様な構成要素については、同一の符号を付し、それらの重複する説明を省略する。
[実施形態]
<パノラマ画像作成装置の構成>
以下、図1A及び図1Bを参照して、本実施形態に係るパノラマ画像作成装置3の構成につき説明する。図1Aは、実施形態に係るパノラマ画像作成装置3を用いる監視システム1の構成図である。また、図1Bは、実施形態に係るパノラマ画像作成装置3の構成図である。
本実施形態に係るパノラマ画像作成装置3(以下、単に「作成装置3」と称する場合がある)は、魚眼レンズカメラ2によって撮影された魚眼画像iF(図5A(b)参照)に基づいてパノラマ画像iP(図5B(b)参照)を作成する装置である。
ここでは、図1Aに示すように、作成装置3が、魚眼レンズカメラ2と組み合わされて、全方位の監視システム(以下、単に「監視システム」と称する)1に用いられる場合を想定して説明する。図1Aに示すように、監視システム1は、魚眼レンズカメラ2、作成装置3、及び、表示部5を有している。ここでは、表示部5がLCD等のディスプレイであるものとして説明する。
魚眼レンズカメラ(以下、単に「カメラ」と称する場合がある)2は、カメラ2の周囲のほぼ180°の半球視野の空間を魚眼画像iF(図5A(b)参照)として撮影する全方位型のカメラである。なお、図1Aに示す例では、カメラ2は、壁面に水平設置された構成になっている。しかしながら、実際の運用では、カメラ2は、図2B(a)に示すように、人の手が届かない高い位置に、傾斜角度ρAで下げ振り設置される。カメラ2は、撮影した魚眼画像iFを作成装置3に出力する。
作成装置3は、カメラ2から魚眼画像iFが入力されると、魚眼画像iFを撮影画像として撮影画像格納部32d(図1B参照)に格納する。そして、作成装置3は、撮影画像格納部32dに格納された撮影画像(魚眼画像iF)に基づいて、パノラマ画像iP(図5B(b)参照)を作成してパノラマ画像格納部32e(図1B参照)に格納する。
この後、作成装置3は、撮影画像格納部32dに格納された撮影画像(魚眼画像iF)及びパノラマ画像格納部32eに格納されたパノラマ画像iPのいずれか一方又は双方を表示部5に表示する。これにより、監視者は、表示部5に表示された画像の中に映る所望の監視したい部分(以下、「ターゲット」と称する)の動きを監視することができる。
本実施形態では、図1Bに示すように、作成装置3がパーソナルコンピュータ(PC)によって構成されている場合を想定して説明する。ただし、作成装置3は、パノラマ画像iPを作成するための専用の装置として構成することができる。また、作成装置3は、カメラ2によって撮影された撮影画像(魚眼画像iF)を外部の記録装置に保存する録画装置として構成することもできる。この場合に、外部の記録装置が後記する撮影画像格納部32dとして使用される。
図1Bに示すように、作成装置3は、カメラ2、入力部4、及び、表示部5と接続されている。なお、入力部4は、テンキーやキーボード(KB)等のキー入力部41と、マウスやタッチパネル(TP)等の座標入力部42とを備えている。ここでは、キー入力部41がテンキーとキーボードの双方によって構成されており、一方、座標入力部42がマウスによって構成されている場合を想定して説明する。
また、作成装置3は、内部に、制御部31と記憶部32とを有している。制御部31は、CPUによって構成されている。一方、記憶部32は、RAMや、ROM、HDD等によって構成されている。
制御部31を構成するCPUは、入力検知部31a、入力判定部31b、設定部31c、撮影画像取得部31d、パノラマ画像作成部31e、及び、表示制御部31fとして機能する。制御部31を構成するCPUは、記憶部32を構成するROMに予め格納された制御プログラムを実行することにより、これらの各機能を実現する。一方、記憶部32は、プログラム格納部32a、画面情報格納部32b、設定情報格納部32c、撮影画像格納部32d、及び、パノラマ画像格納部32eを有している。
入力検知部31aは、何らかの情報が入力部4から入力情報として入力された場合に、その入力を検知する機能手段である。入力検知部31aは、入力を検知した場合に、入力情報を入力判定部31bに出力する。
入力判定部31bは、入力情報の内容を判定する機能手段である。入力判定部31bは、入力検知部31aから入力情報が入力された場合に、画面情報格納部32bに予め格納されている画面情報や設定情報格納部32cに格納されている設定情報等に基づいて、入力情報の内容を判定する。
ここで、「画面情報」とは、表示部5に表示させる画面の構成を規定する情報を意味している。また、「設定情報」とは、パノラマ画像iPを作成する際に必要となる各種の設定に関する情報を意味している。
入力判定部31bは、入力情報が各種の設定情報である場合に、設定情報を設定部31c及び表示制御部31fに出力する。また、入力判定部31bは、入力情報が表示部5に表示されている画像に対する任意の処理の実行を指示する指示情報である場合に、指示情報をパノラマ画像作成部31e及び表示制御部31fに出力する。なお、「表示されている画像に対する任意の処理」としては、例えば、魚眼画像iFが表示されている場合の、魚眼画像iFに対応するパノラマ画像iPの作成や、パノラマ画像iPが表示されている場合の、後記する水平基準線hs(図5B(b)参照)の移動補正等がある。
設定部31cは、入力判定部31bから設定情報が入力された場合に、設定情報を設定情報格納部32cに格納する機能手段である。作成装置3は、運用開始時において、設定情報の初期値が設定情報格納部32cに予め格納されている。設定情報は、監視者が、キー入力部41としてのテンキーやキーボードを操作したり、座標入力部42としてのマウスを操作したりすることにより、最新の値に更新される。
撮影画像取得部31dは、カメラ2から撮影画像(魚眼画像iF)を取得する機能手段である。撮影画像取得部31dは、撮影画像(魚眼画像iF)を取得すると、撮影画像格納部32dに格納する。
パノラマ画像作成部31eは、撮影画像格納部32dに格納された撮影画像(魚眼画像iF)に基づいてパノラマ画像iPを作成する機能手段である。パノラマ画像作成部31eは、パノラマ画像iPを作成すると、パノラマ画像格納部32eに格納する。なお、パノラマ画像iPを作成する原理については、後記する「パノラマ画像の作成原理」の章で説明する。
表示制御部31fは、画像を表示部5に表示させる機能手段である。表示制御部31fは、例えば、画面情報格納部32bから画面情報を読み出し、画面情報によって規定される画面を作成して表示部5に表示させる。また、表示制御部31fは、例えば、撮影画像格納部32dから撮影画像(魚眼画像iF)を読み出したり、又は、パノラマ画像格納部32eからパノラマ画像iPを読み出したりして、撮影画像(魚眼画像iF)及びパノラマ画像iPのいずれか一方又は双方を表示部5に表示させる。
プログラム格納部32aは、各種のプログラムを格納する領域である。プログラム格納部32aは、例えば、PCを作成装置3として機能させる制御プログラムを予め格納している。
画面情報格納部32bは、前記した「画面情報」を格納する領域である。「画面情報」としては、撮影画像(魚眼画像iF)やパノラマ画像iPを表示する画面の構成を規定する情報や、設定情報を入力する画面の構成を規定する情報等がある。
設定情報格納部32cは、前記した「設定情報」を格納する領域である。「設定情報」としては、後記する「パノラマ画像の作成に用いるパラメータ及び計算手法」の章で説明するパラメータがある。
撮影画像格納部32dは、カメラ2によって撮影された撮影画像(魚眼画像iF)を格納する領域である。
パノラマ画像格納部32eは、パノラマ画像作成部31eによって作成されたパノラマ画像iPを格納する領域である。
<パノラマ画像の作成原理>
以下、図1A、並びに、図2A及び図2Bを参照して、パノラマ画像iPの作成原理につき説明する。図2A及び図2Bは、それぞれ、実施形態に係るパノラマ画像iPの作成原理の説明図である。ここでは、説明の都合上、カメラ2が壁面の標準的な人の目線の高さ(例えば、床面から約1500mmの高さ)の位置に水平設置されている場合を想定して説明する。
作成装置3の動作は、記憶部32のプログラム格納部32aに読み出し自在に予め格納された制御プログラムによって規定されており、制御部31によって実行される。作成装置3のパノラマ画像作成部31eは、撮影画像格納部32dに格納された撮影画像(魚眼画像iF)に基づいてパノラマ画像iPを作成する。その際に、パノラマ画像作成部31eは、撮影画像(魚眼画像iF)に対応する半球面画像iS(図1A参照)を用いる。
「半球面画像iS」は、魚眼画像iFを仮想球面モデルMDの上に投影した画像である。「仮想球面モデルMD」は、カメラ2のレンズ中心Oを中心にして半球面状に展開された仮想上のモデルである。
ここでは、レンズ中心Oの位置とカメラ2の図示せぬイメージセンサの撮像面の位置とがほぼ同じ位置であるものとして説明する。以下、レンズ中心Oを「原点O」と称する場合がある。また、ここでは、仮想球面モデルMD(半球面画像iS)の半径を規定するパラメータが、予め、監視者によって、キー入力部41から入力されて設定情報として設定情報格納部32cに格納されているものとして説明する。
半球面画像iSは、カメラ2の光軸laと仮想球面モデルMDとが交差する点を天頂tpとし、天頂tpを中心にして、魚眼画像iFが仮想球面モデルMDの上に投影された構成になっている。図2Aは、半球面画像iSの構成を示している。
ここでは、図2Aに示すように、カメラ2の光軸laの方向と一致する水平方向をX軸方向とし、光軸laに直交する水平方向をY軸方向とし、光軸laに直交する垂直方向(上下方向)をZ軸方向として説明する。
また、ここでは、(1)カメラ2の光軸laを中心にしてその左右方向に展開する平面を撮影水平面XYとし、(2)その撮影水平面XYを、パノラマ画像iPの初期作成時の写像maの切り出しに用いる切出平面cpとし、(3)撮影水平面XY上に配置され、かつ、半球面画像iSの天頂tpに接する接線を、切出平面cpの仮想上の回転軸raとし、(4)切出平面cpと半球面画像iSとが交わる曲線を切出線clとして説明する。
なお、「写像ma」は、仮想球面モデルMDの半球面上の任意の点で接する平面をスクリーンに見立てて、魚眼画像iFをこのスクリーンに投影させた画像である。写像maは、魚眼画像iFを3次元座標系に回転変換することによって、スクリーン上で平面正像化された画像として取得される。写像maは、半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から連続して切り出される。このとき、写像maは、切り出しに際して、パノラマ画像iPに適した構成の画像に変換される。そして、写像maは、展開画像として平面上に並べられることにより、1枚のパノラマ画像iPを構成する。
パノラマ画像作成部31eは、図2B(a)に示すように、パノラマ画像iPの作成に際して、切出平面cpが水平方向に展開する水平面になるように、回転軸raを中心にして、切出平面cp(具体的には、切出平面cpのカメラ2側)を任意の回転角度ρ分だけ上方向又は下方向に回転させる。
例えば、図2B(a)に示す例では、カメラ2は、人の手が届かない高い位置に、傾斜角度ρAで下げ振り設置されている。この場合に、パノラマ画像作成部31eは、カメラ2の傾斜角度ρAを切出平面cpの回転角度ρとし、回転軸raを中心にして、切出平面cpを傾斜角度ρA分だけ下方向に回転させる。これにより、パノラマ画像作成部31eは、あたかも人が首を左右に振って見たときのような自然な構成のパノラマ画像iPを作成することができる。
ただし、ここでは、前記した通り、カメラ2が壁面の標準的な人の目線の高さ(例えば、床面から約1500mmの高さ)の位置に水平設置されている場合を想定して説明する。したがって、ここでは、回転角度ρを0°とし、切出平面cpを回転させないものとして説明する。
次に、パノラマ画像作成部31eは、図2Aに示すように、切出線clに沿って半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から所定枚数分の写像maを連続して切り出す。このとき、パノラマ画像作成部31eは、各写像maの中心点(後記する注視点P)を切出線cl上に配置し、その中心点(注視点P)を中心にして切出線clに対して垂直に交差する方向に所定の寸法の写像maを切り出して、パノラマ画像iPに適した構成の画像に変換する。図2B(b)は、魚眼画像iF上の、このとき切り出される写像maの位置を示している。
ここでは、切り出される写像maの寸法は、縦幅がhピクセルであり、かつ、横幅が1ピクセルであるものとして説明する。また、切り出される写像maの枚数は、パノラマ画像iPの横幅のピクセル数と同じであるものとして説明する。写像maの寸法や写像maの枚数(パノラマ画像iPの横幅のピクセル数)等のパラメータは、予め、監視者によって、キー入力部41から入力されて設定情報として設定情報格納部32cに格納されている。
パノラマ画像作成部31eは、写像maを切り出すと、切り出された写像ma(厳密には、パノラマ画像iPに適した構成に変換された画像)を平面上に並べる。これによって、パノラマ画像作成部31eは、パノラマ画像iPを作成する。図2B(c)は、パノラマ画像iPの構成を示している。
ところで、写像maを切り出す基準となる切出線clは、図3に示すように、切出平面cpの回転角度ρの値によって変動する。図3は、実施形態で用いる切出線clの説明図である。ここでは、切出平面cpの回転角度ρは、切出平面cpが水平面になるように、カメラ2の傾斜角度ρAと同じ角度に予め設定されているものとして説明する。
図3(a)は、カメラ2の傾斜角度ρAを0°とし、カメラ2を水平設置した場合の切出線clの形状を示している。この場合に、切出平面cpの回転角度ρは、0°となる。そして、切出線clの形状は、レンズ中心Oを中心とし、天頂tpを通る半径rの半円となる。
図3(b)は、カメラ2の傾斜角度ρAを−45°(すなわち、−(π/4))とし、カメラ2を下げ振り設置した場合の切出線clの形状を示している。この場合に、切出平面cpの回転角度ρは、−45°(すなわち、下方向に45°)となる。そして、切出線clの形状は、レンズ端点epと天頂tpとの中間点を中心とし、レンズ端点epと天頂tpとを通る半径(rcos(−45°))の真円となる。
図3(c)は、カメラ2の傾斜角度ρAを+45°(すなわち、+(π/4))とし、カメラ2を上げ振り設置した場合の切出線clの形状を示している。この場合に、切出平面cpの回転角度ρは、+45°(すなわち、上方向に45°)となる。そして、切出線clの形状は、レンズ端点epと天頂tpとの中間点を中心とし、レンズ端点epと天頂tpとを通る半径(rcos(+45°))の真円となる。
そのため、切出線clに沿って切り出される写像maは、切出平面cpの回転角度ρが−45°以上でかつ+45°以下の範囲内の角度である場合に、ターゲットの特徴部分が写り込む画素(以下、「有効画素」と称する)を多く含む構成になる。
したがって、作成装置3は、切出平面cpの回転角度ρが−45°以上でかつ+45°以下の範囲内の角度である場合に、好適なパノラマ画像iPを作成することができる。以下、−45°以上でかつ+45°以下の範囲内の角度を「適正角度」と称する。
一方、切出線clに沿って切り出される写像maは、切出平面cpの回転角度ρが前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、有効画素が少ししか含まれない構成になる。そのため、切出平面cpの回転角度ρは、前記した適正角度から外れる場合に、パノラマ画像iPの作成に不適な値となる。
<パノラマ画像の補正処理>
(パノラマ画像の補正処理の概要)
本実施形態では、監視者は、表示部5に表示されたパノラマ画像iPの視野の周辺部(画像の左右部分)が歪んで見える場合に、座標入力部42としてのマウスを操作することによって、歪みがなくなるように、パノラマ画像iPを補正することができる。
以下、図1B、及び、図4を参照して、本実施形態に係るパノラマ画像iPの補正処理の概要につき説明する。図4は、実施形態に係るパノラマ画像iPの補正処理の概要説明図である。
カメラ2は、カメラ2の周囲の空間を魚眼画像iFとして撮影して、作成装置3に出力する。作成装置3の撮影画像取得部31dは、カメラ2から魚眼画像iFを取得すると、魚眼画像iFを撮影画像として撮影画像格納部32dに格納する。
ここで、例えば、監視者が、入力部4を操作して、撮影画像(魚眼画像iF)の表示を作成装置3に指示したとする。この場合に、作成装置3の表示制御部31fは、撮影画像格納部32dから撮影画像(魚眼画像iF)を読み出して、表示部5に表示させる。図4(a)は、魚眼画像iFの一例を示している。
次に、監視者が、入力部4を操作して、パノラマ画像iPの表示を作成装置3に指示したとする。この場合に、作成装置3のパノラマ画像作成部31eは、設定情報格納部32bから設定情報の初期値を読み出すとともに、撮影画像格納部32dから撮影画像(魚眼画像iF)を読み出す。
そして、パノラマ画像作成部31eは、設定情報の初期値を用いて、撮影画像(魚眼画像iF)に基づいてパノラマ画像iP(図4(b)参照)を作成する。図4(b)は、パノラマ画像iPの一例を示している。
以下、設定情報の初期値を用いてパノラマ画像iPを作成する動作を「初期作成」と称する。なお、パノラマ画像iPの作成は、前記した「パノラマ画像の作成原理」の章で説明した原理に基づいて行われる。
パノラマ画像作成部31eは、パノラマ画像iPを作成すると、パノラマ画像格納部32eに格納する。この後、作成装置3の表示制御部31fは、パノラマ画像格納部32eからパノラマ画像iPを読み出して、表示部5に表示させる。
初期作成時のパノラマ画像iPは、ターゲットを監視する際の視線の基準となる線(以下、「視線の基準線sl」と称する)の左右部分が画像の中央から外れるほど大きく歪んで見える場合がある。すなわち、初期作成時のパノラマ画像iPは、視野の周辺部(画像の左右部分)が歪んで見える場合がある。そのため、初期作成時のパノラマ画像iPは、ターゲットの特徴が分かり難くなる場合が多い。
図4(b)に示す例では、パノラマ画像iPは、視野の周辺部(画像の左右部分)が下がって見える構成になっている。そこで、監視者は、視線の基準線slが水平方向に直線状に延伸する状態になるように、例えば、座標入力部42としてのマウスを使用して、任意の箇所を指定箇所として指定して、指定箇所を任意の方向に移動させるドラッグ操作を行うことによって、パノラマ画像iPを補正する。
以下、このパノラマ画像iPの補正を「水平補正」と称する。また、水平補正するために行う操作を「水平補正操作」と称する。なお、ここでは、指定箇所を移動させる方向(マウスを移動させる方向)が上方向又は下方向であるものとして説明する。
作成装置3の設定部31cは、水平補正操作でドラッグ操作される度に、切出平面cpの回転角度ρの値を更新する。そして、作成装置3のパノラマ画像作成部31eは、回転角度ρの更新値を用いて、撮影画像(魚眼画像iF)に基づいて補正後のパノラマ画像iP(図4(c)参照)を作成する。図4(c)は、補正後のパノラマ画像iPの一例を示している。
パノラマ画像作成部31eは、補正後のパノラマ画像iPを作成すると、パノラマ画像格納部32eに格納する。この後、作成装置3の表示制御部31fは、パノラマ画像格納部32eから補正後のパノラマ画像iPを読み出して、表示部5に表示させる。
作成装置3は、水平補正操作において、マウスでドラッグ操作される度に、このような処理を繰り返す。そして、作成装置3は、最終的に、視線の基準線slが水平方向に直線状に延伸して見える状態になったパノラマ画像iPを作成する。以下、図4(b)に示すパノラマ画像iPを「補正前のパノラマ画像iP1」と称し、図4(c)に示すパノラマ画像iPを「補正後のパノラマ画像iP2」と称する。
パノラマ画像iPの補正処理は、パノラマ画像iPの中の水平方向に延伸する仮想上の直線(以下、「水平基準線hs」と称する)の位置を前回作成時よりも上方向又は下方向に移動させることによって、行われる。その水平基準線hsの移動は、切出平面cpの回転角度ρ(図2B(a)参照)を変更することによって行われる。
図4(b)に示す例では、補正前のパノラマ画像iP1は、水平基準線hsが天頂tpに対応する箇所(以下、単に「天頂tp」と称する)の上に存在し、また、視線の基準線slの中央部分が水平基準線hsの中央部分よりも上方向に存在する構成になっている。この補正前のパノラマ画像iP1は、視野の周辺部(画像の左右部分)が下がって見える構成になっている。そのため、補正前のパノラマ画像iP1は、ターゲットの特徴が分かり難くなっている。
これに対して、図4(c)に示す例では、補正後のパノラマ画像iP2は、水平基準線hsが補正前の位置よりも上方向に移動しており、その水平基準線hsの移動に伴って、視線の基準線slの左右部分が画像の中央から外れるほど大きく上昇するとともに、視線の基準線slの中央部分が若干下降している。これにより、補正後のパノラマ画像iP2は、左右部分が画像の中央から外れるほど大きく上昇し、中央付近が若干下降した構成になる。
補正後のパノラマ画像iP2は、切出平面cpの延伸方向が水平補正したいターゲットに一致した状態になったときに、視線の基準線slが水平方向に直線状に延伸する状態になり、視線の基準線slが水平基準線hsと重なった状態になる。そのため、補正後のパノラマ画像iP2は、ターゲットの特徴が分かり易くなる。
(パノラマ画像の補正処理の原理)
以下、図5A〜図5Cを参照して、本実施形態に係るパノラマ画像iPの補正処理の原理につき説明する。図5A〜図5Cは、それぞれ、実施形態に係るパノラマ画像iPの補正処理の原理説明図である。
図5Aは、カメラ2で3本の棒A,B,Cを撮影したときに得られるパノラマ画像iP(補正前のパノラマ画像iP1)の一例を示している。また、図5B及び図5Cは、それぞれ、補正前のパノラマ画像iP1を補正処理することによって得られる補正後のパノラマ画像iP2の一例を示している。
図5A(a)は、3本の棒A,B,Cとカメラ2との配置関係を示している。図5A(a)に示すように、3本の棒A,B,Cは、上下方向に、平行で、かつ、等間隔に、上から順に配置されている。カメラ2は、上段の棒Aと同じ高さの位置に配置されており、光軸laが中段の棒Bに向けられた状態になっている。
例えば、カメラ2が、図5A(a)に示す状態で、光軸laを中段の棒Bに向けて撮影したとする。この場合に、カメラ2は、画像の中央付近で、中段の棒Bが水平方向に直線状に写っている魚眼画像iFを撮影する(図5A(b)参照)。
図5A(b)は、このカメラ2によって撮影された魚眼画像iFの一例を示している。図5A(b)に示す例では、魚眼画像iFは、上段の棒Aが上向きに湾曲(すなわち、上段の棒Aの中央部分が上方向に湾曲)し、中段の棒Bが水平方向に直線状に延伸し、下段の棒Cが下向きに湾曲(すなわち、下段の棒Cの中央部分が下方向に湾曲)した構成になっている。
次に、作成装置3は、図5A(b)に示す魚眼画像iFに基づいて、パノラマ画像iP(補正前のパノラマ画像iP1)を作成する。このとき作成されるパノラマ画像iP(補正前のパノラマ画像iP1)は、画像の中央付近で、中段の棒Bが水平方向に直線状に写っており、また、水平基準線hsが棒Bに一致する構成になっている(図5A(c)参照)。
図5A(c)は、図5A(b)に示す魚眼画像iFに基づいて作成されるパノラマ画像iP(補正前のパノラマ画像iP1)の一例を示している。図5A(c)に示す例では、パノラマ画像iP(補正前のパノラマ画像iP1)は、水平基準線hsが中段の棒B上の位置に存在しており、上段の棒Aが上向きに湾曲し、中段の棒Bが水平方向に直線状に延伸し、下段の棒Cが下向きに湾曲した構成になっている。
図5Bは、上段の棒Aをターゲットにする場合のパノラマ画像iPの補正処理の原理を示している。この場合に、図5B(a)に示すように、作成装置3のパノラマ画像作成部31eは、カメラ2の傾斜角度ρAを切出平面cpの回転角度ρとし、切出平面cpの回転角度ρA分だけ下方向に回転させた状態で、補正後のパノラマ画像iP2を作成する。なお、カメラ2の傾斜角度ρAは、設定情報の初期値として設定情報格納部32cに予め格納される。
図5B(b)は、補正前のパノラマ画像iP1の一例を示している。図5B(b)に示す補正前のパノラマ画像iP1は、図5A(c)に示す補正前のパノラマ画像iP1と同じものである。
一方、図5B(c)は、補正後のパノラマ画像iP2の一例を示している。図5B(c)に示す例では、補正後のパノラマ画像iP2は、補正前のパノラマ画像iP1(図5B(b)参照)と比較すると、水平基準線hsが、中段の棒B上の位置から上段の棒A上の位置に移動している。また、補正後のパノラマ画像iP2は、上段の棒Aが水平方向に直線状に延伸し、中段の棒Bが下向きに湾曲(すなわち、中段の棒Bの中央部分が下方向に湾曲)し、下段の棒Cが下向きにさらに大きく湾曲(すなわち、下段の棒Cの中央部分が下方向にさらに大きく湾曲)した構成になっている。
図5Cは、下段の棒Cをターゲットにする場合のパノラマ画像iPの補正処理の原理を示している。この場合に、図5C(a)に示すように、作成装置3のパノラマ画像作成部31eは、切出平面cpの回転角度ρ分だけ上方向に回転させた状態で、補正後のパノラマ画像iP2を作成する。
図5C(b)は、補正前のパノラマ画像iP1の一例を示している。図5C(b)に示す補正前のパノラマ画像iP1は、図5A(c)に示す補正前のパノラマ画像iP1と同じものである。
一方、図5C(c)は、補正後のパノラマ画像iP2の一例を示している。図5C(c)に示す例では、補正後のパノラマ画像iP2は、補正前のパノラマ画像iP1(図5C(b)参照)と比較すると、水平基準線hsが、中段の棒B上の位置から下段の棒C上の位置に移動している。また、補正後のパノラマ画像iP2は、上段の棒Aが上向きにさらに大きく湾曲(すなわち、上段の棒Aの中央部分が上方向にさらに大きく湾曲)し、中段の棒Bが上向きに湾曲(すなわち、中段の棒Bの中央部分が上方向に湾曲)し、下段の棒Cが水平方向に直線状に延伸した構成になっている。
ところで、監視者は、任意のタイミングで、水平補正操作を行うことができる。図6A及び図6Bは、それぞれ、実施形態に係る水平補正操作の説明図である。図6Aは、水平基準線hsを上方向に移動させる場合の水平補正操作例を示しており、また、図6Bは、水平基準線hsを下方向に移動させる場合の水平補正操作例を示している。
ここでは、カメラ2が、図5A(a)に示すように、下げ振り設置されており、また、作成装置3が、図5B(b)に示す補正前のパノラマ画像iP1を作成した場合を想定して説明する。また、ここでは、マウスを移動させる方向と水平基準線hsを移動させる方向とが一致しているものとして説明する。そのため、ここでは、マウスで指定する指定箇所は、補正前のパノラマ画像iP1の中のどの箇所であってもよいものとして説明する。
水平補正操作では、監視者は、マウスでドラッグ操作を行うことによって、水平基準線hsを上方向又は下方向に移動させるための相対的な移動量(ただし、移動量の上方向又は下方向の成分量のみ)Moを入力する。以下、この移動量Moを「マウス移動量Mo」と称する。
例えば、監視者は、図5B(b)に示す補正前のパノラマ画像iP1の中で、上向きに湾曲した状態で写っている上段の棒Aを水平補正したいターゲットとする場合に、図5B(c)に示すように、棒Aが水平方向に直線状に延伸した状態になるまで、マウスを使用して、補正前のパノラマ画像iP1の中の任意の箇所を指定箇所として指定して、指定箇所を上方向に移動させるドラッグ操作を行う(図6A(a)参照)。これにより、監視者は、マウス移動量Moを作成装置3に入力する。
このとき、作成装置3の入力判定部31bは、監視者によるドラッグ操作を水平補正操作として識別する。そして、入力判定部31bは、ドラッグ操作によるマウス移動量Moを特定する。作成装置3の設定部31cは、入力判定部31bがマウス移動量Moを特定すると、マウス移動量Moに対応する角度を算出する。
「マウス移動量Moに対応する角度」は、前回作成時のパノラマ画像iP(ここでは、補正前のパノラマ画像iP1)の作成に用いられた回転角度ρを補正する「補正角度Δρ(図6A(b)参照)」として用いられる。設定部31cは、予め定められた「変換係数κ(°/mm)」をマウス移動量Moに掛け合わせることによって、「補正角度Δρ」を算出する。
「変換係数κ」は、マウス移動量Moを角度値に変換するために予め定められた係数である。「変換係数κ」は、マウス移動量Moに対応する補正角度Δρが監視者の操作感覚と一致するように、実験等によって得られた値に予め設定されている。「変換係数κ」は、運用に応じて、値を変更することが可能である。「変換係数κ」は、値を大きくすれば、マウス移動量Moに対応する補正角度Δρが大きくなり、値を小さくすれば、マウス移動量Moに対応する補正角度Δρが小さくなる。
設定部31cは、補正角度Δρを算出すると、設定情報として設定情報格納部32bに格納する。作成装置3のパノラマ画像作成部31eは、設定情報格納部32bから補正角度Δρを読み出し、補正角度Δρをパノラマ画像iP(ここでは、補正前のパノラマ画像iP1)の前回作成時の回転角度(以下、「回転角度ρ1」と称する)に加算して、補正後の回転角度ρを算出する。すなわち、パノラマ画像作成部31eは、「ρ1+Δρ」を補正後の回転角度ρとして算出する(図6A(b)参照)。
そして、パノラマ画像作成部31eは、図6A(b)に示すように、回転軸raを中心にして、切出平面cpを、パノラマ画像iPの前回作成時の回転角度ρ1から補正角度Δρ分だけ下方向に回転させた状態(すなわち、カメラ2の光軸laの方向から補正後の回転角度ρ分だけ下方向に回転させた状態)で、補正後のパノラマ画像iP2(図6A(c)参照)を作成する。
図6A(c)に示す例では、補正後のパノラマ画像iP2は、補正前のパノラマ画像iP1(図6A(a)参照)と比較すると、水平基準線hsが補正前の位置よりも上方向に移動している。そして、その水平基準線hsの移動に伴って、視線の基準線slが、水平方向に直線状に延伸する状態になり、水平基準線hsと重なった状態になっている。
なお、例えば、監視者は、図5C(b)に示す補正前のパノラマ画像iP1の中で、下向きに湾曲した状態で写っている下段の棒Cを水平補正したいターゲットとする場合に、図5C(c)に示すように、棒Cが水平方向に直線状に延伸した状態になるまで、マウスを使用して、補正前のパノラマ画像iP1の中の任意の箇所を指定箇所として指定して、指定箇所を下方向に移動させるドラッグ操作を行う(図6B(a)参照)。これによって、監視者は、マウス移動量Moを作成装置3に入力する。
このとき、作成装置3の入力判定部31bがマウス移動量Moを特定し、作成装置3の設定部31cがマウス移動量Moに対応する角度(補正角度Δρ(図6B(b)参照))を算出する。
設定部31cは、補正角度Δρを算出すると、設定情報として設定情報格納部32bに格納する。作成装置3のパノラマ画像作成部31eは、設定情報格納部32bから補正角度Δρを読み出し、パノラマ画像iP(ここでは、補正前のパノラマ画像iP1)の前回作成時の回転角度ρ1から補正角度Δρを減算して、補正後の回転角度ρを算出する。すなわち、パノラマ画像作成部31eは、「ρ1−Δρ」を補正後の回転角度ρとして算出する(図6B(b)参照)。
そして、パノラマ画像作成部31eは、図6B(b)に示すように、回転軸raを中心にして、切出平面cpを、パノラマ画像iPの前回作成時の回転角度ρ1から補正角度Δρ分だけ上方向に回転させた状態(すなわち、カメラ2の光軸laの方向から補正後の回転角度ρ分だけ上方向に回転させた状態)で、補正後のパノラマ画像iP2(図6B(c)参照)を作成する。
図6B(c)に示す例では、補正後のパノラマ画像iP2は、補正前のパノラマ画像iP1(図6B(a)参照)と比較すると、水平基準線hsが補正前の位置よりも下方向に移動している。そして、その水平基準線hsの移動に伴って、視線の基準線slが、水平方向に直線状に延伸する状態になり、水平基準線hsと重なった状態になっている。
このように、作成装置3は、監視者がマウスを操作してマウス移動量Moを入力することにより、切出平面cpの延伸方向が水平補正したいターゲットに一致するように、切出平面cpを、パノラマ画像iPの前回作成時の回転角度ρ1から補正角度Δρ分だけ上方向又は下方向に回転させる。これにより、作成装置3は、水平基準線hsの位置を上方向又は下方向に移動させる。
なお、図6A及び図6Bに示す例では、作成装置3は、マウスを移動させる方向と水平基準線hsを移動させる方向とが一致する構成になっている。そのため、監視者は、水平基準線hsを上方向に移動させる場合に、補正前のパノラマ画像iP1の中の任意の箇所を指定箇所として指定して、マウスを上方向に移動させ、一方、水平基準線hsを下方向に移動させる場合に、補正前のパノラマ画像iP1の中の任意の箇所を指定箇所として指定して、マウスを下方向に移動させている。
しかしながら、作成装置3は、運用次第で、例えば、図6C及び図6Dに示すように、図6A及び図6Bに示す例とは異なる水平補正操作を適用することができる。図6C及び図6Dは、それぞれ、実施形態に係る水平補正操作の変形例の説明図である。図6Cは、水平基準線hsを上方向に移動させる場合の水平補正操作例を示しており、また、図6Dは、水平基準線hsを下方向に移動させる場合の水平補正操作例を示している。
図6C及び図6Dに示す例では、作成装置3は、補正前のパノラマ画像iP1を中央付近の領域と端部付近の領域とに分け、中央付近の領域と端部付近の領域とで異なる水平補正操作を受け付ける構成になっている。
例えば、図6C及び図6Dに示す例では、作成装置3は、図6C(a)に示すように、監視者が、補正前のパノラマ画像iP1の中の中央付近の箇所を指定箇所として指定して、マウスを下方向に移動させた場合に、水平基準線hsを上方向に移動させ、一方、図6C(b)に示すように、監視者が、補正前のパノラマ画像iP1の中の中央付近の箇所を指定箇所として指定して、マウスを上方向に移動させた場合に、水平基準線hsを下方向に移動させる構成になっている。
また、例えば、作成装置3は、図6D(a)に示すように、監視者が、補正前のパノラマ画像iP1の中の端部付近の箇所を指定箇所として指定して、マウスを上方向に移動させた場合に、水平基準線hsを上方向に移動させ、一方、図6D(b)に示すように、監視者が、補正前のパノラマ画像iP1の中の端部付近の箇所を指定箇所として指定して、マウスを下方向に移動させた場合に、水平基準線hsを下方向に移動させる構成になっている。
<実施形態に係るパノラマ画像作成装置の特性>
ここで、図7A及び図7Bを参照して、作成装置3の特性につき説明する。図7A及び図7Bは、それぞれ、実施形態に係る作成装置3の特性の説明図である。ここでは、比較例1及び比較例2と対比して、作成装置3の特性を説明する。
図7A(a)〜図7A(c)は、それぞれ、比較例1、比較例2、及び、本実施形態おけるカメラ2の設置構造と、パノラマ画像iPの作成に用いる写像maの切出位置を示している。比較例1は、従来技術の、カメラを標準的な人の目線の高さの位置に水平設置する場合の構成に相当する。また、比較例2は、従来技術の、カメラを高い位置に下げ振り設置してパノラマ画像を第2の作成手法で作成する場合の構成に相当する。
図7A(a)〜図7A(c)の左図は、それぞれ、カメラ2の設置構造を示している。また、図7A(a)〜図7A(c)の右図は、それぞれ、パノラマ画像iPの作成に用いる、魚眼画像i1F,i2F,iF上の写像maの切出位置を示している。また、図7Bは、比較例1、比較例2、及び、本実施形態のメリットとデメリットとを示している。
(比較例1のメリットとデメリット)
図7A(a)に示す比較例1は、カメラ2を、標準的な人の目線の高さ(例えば、床面から約1500mmの高さ)の位置に水平設置している。比較例1は、図示せぬ作成装置が、レンズ中心Oを通る水平面を切出平面cpとし、切出平面cpと半球面画像i1Sとが交わる曲線を切出線clとし、切出線clに沿って半球面画像i1S(厳密には、半球面画像i1Sに対応する魚眼画像i1F)から写像maを連続して切り出す。
このとき、切出線clは、図7A(a)の右図に示すように、魚眼画像i1Fの中央を通る水平な直線状の形状になる。図示せぬ作成装置は、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。
このような比較例1は、図7Bに示すメリットとデメリットとがある。
すなわち、比較例1は、中央付近の歪みがないパノラマ画像iPを作成することができる。そのため、比較例1は、ターゲットを監視し易い、というメリットがある。
しかしながら、その一方で、比較例1は、カメラ2が低い位置に設置されており、カメラ2が人によって触られる可能性がある。そのため、比較例1は、カメラ2が悪戯され易い、というデメリットがある。また、比較例1は、カメラ2の用途が防犯用である場合に、人に威圧感を与えたり、景観を損ねたりする可能性がある、というデメリットがある。
(比較例2のメリットとデメリット)
図7A(b)に示す比較例2は、カメラ2を、人の手が届かない高い位置に、傾斜角度ρAで下げ振り設置している。比較例2は、図示せぬ作成装置が、レンズ中心Oを通る水平面を切出平面cpとし、切出平面cpと半球面画像i2Sとが交わる曲線を切出線clとし、切出線clに沿って半球面画像i2S(厳密には、半球面画像i2Sに対応する魚眼画像i2F)から写像maを連続して切り出す。
このとき、切出線clは、図7A(b)の右図に示すように、魚眼画像i2Fの中央から上方向に外れるように上向きに湾曲した形状になる。図示せぬ作成装置は、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。
このような比較例2は、図7Bに示すメリットとデメリットとがある。
すなわち、比較例2は、カメラ2が高い位置に設置されている。そのため、比較例2は、カメラ2が悪戯され難い、というメリットがある。また、比較例2は、カメラ2の用途が防犯用であっても、人に威圧感を与えたり、景観を損ねたりしない、というメリットがある。
しかしながら、その一方で、比較例2は、以下のデメリットがある。
(1)比較例2は、以下に説明するように、スイートスポットを余り含まず、中央付近の歪みが大きいパノラマ画像iPしか作成することができない、というデメリットがある。
一般に、ターゲットは、魚眼画像iF(比較例2では、魚眼画像i2F)の中央付近の領域に写り込み易く、中央から外れた領域にはあまり写らない。そのため、魚眼画像iFは、画像の中央付近の領域がターゲットの特徴部分を多く含む構成になる。また、魚眼画像iFは、歪みが、画像の中央に近いほど小さく、画像の中央から外れるほど大きくなるため、有効解像度が、画像の中央に近いほど高く、画像の中央から外れるほど低くなる、という特性がある。したがって、魚眼画像iFは、画像の中央付近の領域が、ターゲットの特徴部分を多く含み、かつ、有効解像度の高い領域となっている。そのため、魚眼画像iFは、画像の中央付近の領域が、ターゲットの特徴が分かり易い領域(以下、「スイートスポット」と称する)となっている。
それにも関わらず、比較例2は、切出線clが魚眼画像i2Fの中央から上方向に外れるように上向きに湾曲した形状になっており、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。そのため、比較例2は、スイートスポットを余り含まないパノラマ画像iPしか作成することができない。また、比較例2では、パノラマ画像iPの中央付近の領域は、魚眼画像i2Fの中央から外れた領域に対応する。そのため、比較例2は、中央付近の歪みが大きいパノラマ画像iPしか作成することができない。
(2)比較例2は、ターゲットが中央に配置されない構成のパノラマ画像iPを作成する、というデメリットがある。すなわち、ターゲットは、魚眼画像i2Fの中央付近に写り込み易い。しかしながら、比較例2は、前記した通り、切出線clが魚眼画像i2Fの中央から上方向に外れるように上向きに湾曲した形状になっており、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。そのため、比較例2は、ターゲットが中央に配置されない構成のパノラマ画像iPを作成する。このような構成のパノラマ画像iPは、ターゲットが中央に配置されない構成になっているため、ターゲットを監視し難い。
(3)比較例2は、解像度の高い、高価なカメラが必要になる、というデメリットがある。すなわち、比較例2は、魚眼画像i2Fの中央から外れた領域から切り出された写像maを用いてパノラマ画像iPを作成する。その領域は、有効解像度の低い領域である。そのため、比較例2は、解像度の高い、高価なカメラが必要になる。
(4)比較例2は、解像度の高いカメラで撮影する必要がある。そのため、比較例2は、撮影画像(魚眼画像i2F)の1枚当たりの画像容量が大きくなり、これにより、録画時間が短くなる、というデメリットがある。
(本実施形態のメリット)
図7A(c)に示す本実施形態は、カメラ2を、人の手が届かない高い位置に、傾斜角度ρAで下げ振り設置している。本実施形態は、作成装置3が、半球面画像iSの天頂tpを通る水平面を切出平面cpとし、切出平面cpと半球面画像iSとが交わる曲線を切出線clとし、切出線clに沿って半球面画像iS(厳密には、半球面画像i2Sに対応する魚眼画像i2F)から写像maを連続して切り出す。
このとき、切出線clは、図7A(c)の右図に示すように、魚眼画像iFの中央を通るように上向きに湾曲した形状になる。本実施形態の作成装置3は、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。
このような本実施形態は、図7Bに示すメリットがある。
(1)すなわち、本実施形態は、カメラ2が高い位置に設置されている。そのため、本実施形態は、カメラ2が悪戯され難い、というメリットがある。また、本実施形態は、カメラ2の用途が防犯用であっても、人に威圧感を与えたり、景観を損ねたりしない、というメリットがある。
(2)本実施形態は、以下に説明するように、スイートスポットを多く含む、中央付近の歪みが小さいパノラマ画像iPを作成することができる、というメリットがある。
すなわち、本実施形態は、切出線clが魚眼画像iFの中央を通る円弧状の曲線状の形状になっており、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。そのため、本実施形態は、スイートスポットを多く含むパノラマ画像iPを作成することができる。また、本実施形態では、パノラマ画像iPの中央付近の領域は、魚眼画像iFの中央付近の領域に対応する。そのため、本実施形態は、中央付近の歪みが小さいパノラマ画像iPを作成することができる。
(3)本実施形態は、ターゲットが常に中央に配置される構成のパノラマ画像iPを作成することができる、というメリットがある。すなわち、ターゲットは、魚眼画像i2Fの中央付近に写り込み易い。本実施形態は、前記した通り、切出線clが魚眼画像iFの中央を通る円弧状の曲線状の形状になっており、その切出線cl上の位置から写像maを切り出して、パノラマ画像iPを作成する。そのため、本実施形態は、ターゲットが常に中央に配置される構成のパノラマ画像iPを作成することができる。このような構成のパノラマ画像iPは、ターゲットが常に中央に配置される構成になっているため、ターゲットを監視し易い。
(4)本実施形態は、解像度の低い、安価な汎用のカメラを使用することができる、というメリットがある。すなわち、本実施形態は、魚眼画像iFの中央を通る領域から切り出された写像maを用いてパノラマ画像iPを作成する。その領域は、有効解像度の高い領域が多く含まれている。そのため、本実施形態は、解像度の低い、安価な汎用のカメラを使用することができる。
(5)本実施形態は、解像度の低い汎用のカメラで撮影することができる。そのため、本実施形態は、撮影画像(魚眼画像iF)の1枚当たりの画像容量が小さくなり、これにより、録画時間が長くなる、というメリットがある。
本実施形態は、デメリットを生じさせることなく、これらのメリットを得ることができる。
<パノラマ画像の作成に用いるパラメータ及び計算手法>
(パノラマ画像の作成に用いる主なパラメータ)
以下、図8A〜図8Cを参照して、パノラマ画像iPの作成に用いるパラメータ及び計算手法につき説明する。図8A〜図8Cは、それぞれ、実施形態に係るパノラマ画像iPの作成に用いるパラメータの説明図である。
ここでは、図8Aに示すように、カメラ2の光軸方向をz軸方向とし、光軸laの左右方向をx軸方向とし、光軸laの上下方向をy軸方向とする、局地座標系を想定し、その局地座標系に基づいて説明する。なお、図2Aに示すように、カメラ2の光軸方向をX軸方向とし、光軸laの左右方向をY軸方向とし、光軸laの上下方向をZ軸方向とする、全体座標系で表す場合に、局地座標系のパラメータx,y,zは、それぞれ、全体座標のパラメータY,Z,Xに読み替えられる。
図8Aは、x軸方向を右斜め下方向とし、y軸方向を右斜め上方向とし、z軸方向を上方向として見た場合の、半球面画像iS(仮想球面モデルMD)の構成を示している。図8Aは、パノラマ画像iPの作成に用いる写像maが、切出平面cpと半球面画像iSとが交わる切出線cl上に存在する特定の点Pを中心にして、切り出されることを示している。以下、写像maの中心となる点Pを「注視点P」と称する。
写像maは、注視点Pを中心にして、切出線clに対して垂直方向に、所定の寸法で切り出される。ここでは、写像maの寸法は、縦幅がhピクセルであり、かつ、横幅が1ピクセルであるものとして説明する。
図8B(a)は、底面回転角θを示している。「底面回転角θ」は、原点O(レンズ中心O)と注視点Pとを結ぶ直線を「線O−P」とする場合の、xy平面におけるx軸に対する線O−Pの回転角度を意味している。
図8B(b)は、傾斜角度φを示している。「傾斜角度φ」は、xz平面におけるz軸に対する線O−Pの回転角度(仰角又は俯角)を意味している。
図8B(c)は、写像回転角ωを示している。「写像回転角ω」は、写像maの回転角度を意味している。
図8B(d)は、写像拡大率magnify−power(以下、単に「写像拡大率」と称する場合がある)を示している。「写像拡大率magnify−power」は、写像maを拡大させる比率を意味している。写像拡大率は、原点Oから注視点Pまでの距離に比例する。写像拡大率は、(1)写像maを仮想球面モデルMDの半球面よりも内側の位置から切り出す場合に、「0」よりも大きくかつ「1」未満の値に設定され、(2)写像maを仮想球面モデルMDの半球面上の位置から切り出す場合に、値が「1」に設定され、(3)写像maを仮想球面モデルMDの半球面よりも外側の位置から切り出す場合に、「1」よりも大きな値に設定される。
図8Cは、切出平面cpが、半球面画像iSの天頂tpに接する回転軸raを中心にして、光軸la(すなわち、撮影水平面XY(図2A参照))から回転角度ρ分だけ回転された状態を示している。
図8C(a)は、x軸方向を左斜め下方向とし、y軸方向を右斜め下方向とし、z軸方向を上方向として見た場合の、半球面画像iS(仮想球面モデルMD)の構成を示している。
図8C(b)は、x軸方向を右方向とし、y軸方向を上方向とし、z軸方向から見た場合の、半球面画像iS(仮想球面モデルMD)の構成を示している。
図8C(c)は、x軸方向を右方向とし、z軸方向を上方向とし、y軸方向から見た場合の、半球面画像iS(仮想球面モデルMD)の構成を示している。
図8C(d)は、y軸方向を右方向とし、z軸方向を上方向とし、x軸方向から見た場合の、半球面画像iS(仮想球面モデルMD)の構成を示している。
作成装置3は、カメラ2で撮影された撮影画像(魚眼画像iF)を仮想球面モデルMDの半球面上に投影させた半球面画像iS(図8A参照)を用いて、パノラマ画像iPを作成する。
その際に、作成装置3は、「仮想球面モデルMD(半球面画像iS)の半径」、「注視点Pの位置を表す角度情報」、「写像拡大率」、及び、「画像の解像度」が指定されることによって、注視点Pを中心とした写像maを展開画像として取得する。
したがって、仮想球面モデルMD(半球面画像iS)の半径と注視点Pの位置を表す角度情報と写像拡大率と画像の解像度とが、パノラマ画像iPを作成する際に必要な主なパラメータとなる。パノラマ画像iPを作成する際に必要な主なパラメータは、以下の通りである。
「仮想球面モデルMD(半球面画像iS)の半径」
・半径:r
「注視点Pの位置を表す角度情報」
・底面回転角:θ(図8B(a)参照)
・傾斜角度:φ(図8B(b)参照)
・写像回転角:ω(図8B(c)参照)
「写像拡大率」
・写像拡大率:magnify−power(図8B(d)参照)
「画像の解像度」
・撮影画像の解像度:(widthsrc,heightsrc
・パノラマ画像の解像度:(widthdst,heightdst
ここで、「撮影画像の解像度」とは、撮影画像(魚眼画像iF又は魚眼画像iFに対応する半球面画像iS)の解像度(画素密度)を意味している。「撮影画像の解像度」は、カメラ2の解像度に応じて決まる。また、「パノラマ画像の解像度」とは、作成するパノラマ画像iPの解像度(画素密度)を意味している。
(設定パラメータ)
監視者は、事前に、作成装置3にパノラマ画像iPを作成させるための設定情報として、以下のパラメータを作成装置3に入力する。
・仮想球面モデルMDの半径:r
・傾斜角度:ρA
・撮影画像の解像度:(widthsrc,heightsrc
・パノラマ画像の解像度:(widthdst,heightdst
これに応じて、作成装置3は、傾斜角度ρAを切出平面cpの回転角度ρとして、パノラマ画像iPを作成する。ただし、作成装置3は、傾斜角度ρAが前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、−45°を下限値とし、+45°を上限値として、回転角度ρを自動的に設定する。
(パノラマ画像iPの作成手法(作成モデル))
作成装置3は、パノラマ画像iPの作成に際して、半球面画像iSの天頂tpに接する回転軸raを中心にして、光軸la(すなわち、撮影水平面XY(図2A参照))から回転角度ρ分だけ回転された切出平面cpと半球面画像iSとが交わる曲線を切出曲線cpとし、切出曲線cp上に注視点Pを分布させる。なお、「撮影画像の解像度(widthsrc,heightsrc)」の「widthsrc」の値が、注視点Pの数(分布量)となる。
次に、作成装置3は、切出曲線cpに沿って半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から写像maを連続して切り出す。このとき、作成装置3は、切出曲線cpに沿って分布された注視点Pの位置から写像maを切り出す。そして、切り出した写像maを平面上に並べる。これによって、作成装置3は、パノラマ画像iPを作成する。以下、本実施形態に係るパノラマ画像iPの作成手法を「本実施形態の作成モデル」と称する。
作成装置3は、本実施形態の作成モデルを用いることにより、ターゲットに対するカメラ2の画角を維持しながら、歪みの少ないパノラマ画像iPを作成することができる。
なお、パノラマ画像iPの作成に用いる写像maは、切出平面cpの回転角度ρが前記した適正角度である場合(すなわち、−45°以上でかつ+45°以下の範囲内の角度である場合)に、有効画素(ターゲットの特徴部分が写り込む画素)を多く含む構成になる。
したがって、作成装置3は、切出平面cpの回転角度ρが前記した適正角度である場合(すなわち、−45°以上でかつ+45°以下の範囲内の角度である場合)に、好適なパノラマ画像iPを作成することができる。一方、作成装置3は、切出平面cpの回転角度ρが前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、好適なパノラマ画像iPを作成することができない。
そこで、本実施形態では、作成装置3は、切出平面cpの回転角度ρが前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、切出平面cpの回転角度ρを一律に−45°又は+45°に設定して、パノラマ画像iPを作成する。すなわち、作成装置3は、−45°を切出平面cpの回転角度ρの下限値とし、+45°を切出平面cpの回転角度ρの上限値として、パノラマ画像iPを作成する。
そのため、本実施形態では、作成装置3は、例えば、カメラ2が上げ振り設置又は下げ振り設置される場合で、かつ、カメラ2の傾斜角度ρA(図5A(a)参照)が前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、切出平面cpの回転角度ρを一律に−45°又は+45°に設定して、パノラマ画像iPを作成する。
作成装置3は、切出平面cpの回転角度ρをこのような値に設定することにより、スイートスポットを多く含む良好なパノラマ画像iPを作成することができる。
ところで、本実施形態の作成モデルは、図6A及び図6Bに示すように、切出平面cpの回転角度ρを変更することにより、パノラマ画像iPの水平基準線hsの位置を上方向又は下方向に移動させることができる。
これにより、本実施形態の作成モデルは、視線の基準線slが水平方向に直線状に延伸する状態になるように、パノラマ画像iP(補正前のパノラマ画像iP1)を水平補正することができる。その結果、本実施形態の作成モデルは、ターゲットの特徴が分かり易い、補正後のパノラマ画像iP2を作成することができる。
したがって、例えば、作成されたパノラマ画像iPの中の視線の基準線slが湾曲して見える場合に、監視者は、マウスを使用して、パノラマ画像iPに対して、前記した水平補正操作を行う。これにより、監視者は、マウス移動量Moを作成装置3に入力する。このとき、作成装置3は、マウスの移動ベクトルの上下方向の成分のみをマウス移動量Moとして検出する。
作成装置3は、マウス移動量Moが入力されると、変換係数κをマウス移動量Moに掛け合わせて、マウス移動量Moに対応する補正角度Δρとして、(κ×Mo)を算出する。なお、本実施形態に係る作成モデルでは、補正角度Δρ以外のパラメータは、固定パラメータとなる。
作成装置3は、補正角度Δρを算出すると、補正角度Δρを、パノラマ画像iP(ここでは、補正前のパノラマ画像iP1)の前回作成時の回転角度ρ1に加算又は減算して、合計角度(ρ1±Δρ)を算出する。
この後、作成装置3は、合計角度(ρ1±Δρ)を補正後の回転角度ρに設定する。ただし、作成装置3は、合計角度(ρ1±Δρ)が前記した適正角度から外れる場合(すなわち、−45°未満の角度である場合又は+45°よりも大きい角度である場合)に、補正後の回転角度ρを一律に−45°又は+45°に設定する。
そして、作成装置3は、切出平面cpを補正後の回転角度ρ分だけ上方向又は下方向(水平補正操作で指定された方向)に回転させ、切出平面cpと半球面画像iSとが交わる切出線clに沿って半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から写像maを連続して切り出して、平面上に並べる。これによって、作成装置3は、補正後のパノラマ画像iP2を作成する。
なお、作成装置3は、好ましくは、マウスの操作感覚とパノラマ画像iPの水平補正の動作感覚とが直感的に対応するように(すなわち、監視者によって、前記した水平補正操作によるマウス移動量Moとパノラマ画像iPの水平補正の補正量とが一致している、と知覚されるように)、変換係数κの値が設定されているとよい。
(計算手法)
以下、パノラマ画像iPの作成に用いる計算手法を説明する。ここでは、図9(a)に示すように、作成装置3が、作成予定のパノラマ画像iPの横幅Wをカメラ2の撮影範囲に対応させて、パノラマ画像iPを作成する場合を想定して説明する。
なお、図9は、実施形態で用いる半径rの説明図である。図9は、白抜きの領域(作成予定のパノラマ画像iPの領域とカメラ2の撮影範囲とが重なる領域)がパノラマ画像iPの作成に有効な有効撮影範囲であり、この領域を利用領域として用いてパノラマ画像iPを作成することを示している。
図9(a)に示す例では、パノラマ画像iPの横幅Wがカメラ2の撮影範囲の半径に対応する構成になっている。この場合に、撮影範囲の半径が仮想球面モデルMDの半径rとなる。したがって、仮想球面モデルMDの半径rは、(W/2)となる。
この場合に、作成装置3は、半球面画像iSから、横幅×縦幅の寸法が1×heightdstとなっている写像maを切り出し、パノラマ画像iPに適した構成の画像に変換して、パノラマ画像iPを作成する。
一方、図9(b)に示す例では、パノラマ画像iPの縦幅hがカメラ2の撮影範囲の半径に対応する構成になっている。この場合に、撮影範囲の半径が仮想球面モデルMDの半径rとなる。したがって、仮想球面モデルMDの半径rは、(h/2)となる。
この場合に、作成装置3は、半球面画像iSから、横幅×縦幅の寸法がwidthdst×1となっている写像maを切り出して、パノラマ画像iPを作成する。
1.仮想球面モデルMDの半球面上の任意の注視点P(x,y,z)のパラメータ(φp,θp)は、以下の関係が成り立つ。
Figure 0005985336
2.切出線clを正面から見た曲線(楕円又は真円)の軌跡のパラメータをCとし、切出線clを上から見た曲線(楕円又は真円)の軌跡のパラメータをCとすると、切出線clの軌跡C,Cは、以下の関係が成り立つ。
Figure 0005985336
3.切出線clの原点O(レンズ中心O)からの軌跡C上の任意の角(かく)をαとすると、パラメータx,zは、以下の関係が成り立つ。
Figure 0005985336
よって、角αのとり得る範囲は、以下のようになる。
Figure 0005985336
4.注視点Pを切出線clの軌跡C1上に一様に分布した場合に、注視点Pの数(分布量)は、widthdst本となる。その中のn番目(ただし、0≦n≦(widthdst−1)の整数)の注視点Pにおける角αは、以下のようになる。
Figure 0005985336
5.ここで、式(5),(6)の関係から、n番目の角αのパラメータx,zは、以下の関係が成り立つ。
Figure 0005985336
6.また、切出線clの原点O(レンズ中心O)からの軌跡C上の任意の角(かく)をβとすると、パラメータx,yは、以下の関係が成り立つ。
Figure 0005985336
7.ここで、切出線clの軌跡C上の角αに対応する切出線clの軌跡C上の角をβとすると、式(9),(11)の関係から、以下の関係が成り立つ。
Figure 0005985336
8.切出線clの軌跡C上の角αと切出線clの軌跡C上の角βとは、互いに逆方向に変化するので、以下の関係が成り立つ。
Figure 0005985336
9.また、式(12),(14)の関係から、以下の関係が成り立つ。
Figure 0005985336
10.ここで、横幅×縦幅の寸法が1×heightdstとなっている写像maは、仮想球面モデルMD(半球面画像iS)の天頂tpに対して、常に、垂直方向になるように配置されている。そのため、写像回転角度ωは、「+(π/2)」及び「−(π/2)」のいずれか一方になる。
したがって、式(9),(10),(15)の関係から、n番目の注視点Pにおける角αは、以下の関係が成り立つ。
Figure 0005985336
作成装置3は、式(16)〜(19)の関係となる注視点Pにおける角αの情報に基づいて、半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から、横幅×縦幅の寸法が1×heightdstとなっている写像maを連続して切り出し、パノラマ画像iPに適した構成の画像に変換して平面上に並べる。これによって、作成装置3は、1枚分のパノラマ画像iPを作成する。
係る構成において、作成装置3は、半球面画像iSの天頂tp付近の領域を中心にして半球面画像iS(厳密には、半球面画像iSに対応する魚眼画像iF)から写像maを切り出して、パノラマ画像iPを作成する。その天頂tp付近の領域は、魚眼画像iFの中央付近の領域に対応する。
魚眼画像iFの中央付近の領域は、カメラ2がターゲットに向けて設置されているため、ターゲットが特に映り込み易い領域になっている。しかも、その領域は、画像の中央付近であるため、有効解像度が高い(すなわち、歪みが少ない)領域になっている。
作成装置3は、その領域の写像maを用いるため、魚眼画像iFのスイートスポット(すなわち、魚眼画像iFの、ターゲットの特徴部分を多く含み、かつ、有効解像度が高い(歪みが少ない)中央付近の領域)を有効に活用して、パノラマ画像iPを作成することができる。その結果、作成装置3は、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像iPを作成することができる。
また、作成装置3は、カメラ2を斜めに傾斜させて設置することができる。そのため、作成装置3は、撮影方向を比較的容易に変更することができる。このような、作成装置3は、仮にカメラ2を人の手が届かない高い位置に下げ振り設置して撮影した場合であっても、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像iPを作成することができる。そのため、監視者は、ターゲットを容易に監視することができる。
また、作成装置3は、監視者がマウス等の座標入力部42を使用して前記した水平補正操作を行うことによって、パノラマ画像iPの中の監視したい部分(ターゲットの特徴部分を多く含む部分)の歪みを容易に水平補正することができる。しかも、水平補正された補正後のパノラマ画像iP2は、視野の周辺部(画像の左右部分)の歪みが少ない画像となる。そのため、監視者は、簡単な操作で、ターゲットを監視し易い補正後のパノラマ画像iP2(具体的には、画像の中央付近に、ターゲットの特徴部分を多く含み、かつ、視野の周辺部の歪みが少ない補正後のパノラマ画像iP2)を取得することができる。これにより、監視者は、さらに、ターゲットを容易に監視することができる。
また、作成装置3は、図7Bに示すメリットを有する。図7Bに示すメリットについては、前記した「本実施形態のメリット」の章で説明した通りである。
なお、作成装置3は、例えば、図10に示すように、魚眼画像iF又はパノラマ画像iPと、他の図示せぬカメラで撮影された画像と組み合わせた画面を、表示部5に表示させる構成にすることができる。図10は、実施形態に係るパノラマ画像iFの表示の一例を示す図である。図10(a)〜図10(c)は、それぞれ、カメラ2で撮影された魚眼画像iFと他の図示せぬカメラで撮影された画像iA1,iA2と組み合わせた画面、補正前のパノラマ画像iP1と画像iA1,iA2と組み合わせた画面、及び、補正後のパノラマ画像iP2と画像iA1,iA2と組み合わせた画面の一例を示している。
以上の通り、本実施形態に係るパノラマ画像作成装置3によれば、画像の中央付近に、ターゲットの特徴部分を多く含む、ターゲットを監視し易いパノラマ画像iPを作成することができる。
特に、作成装置3によれば、仮にカメラ2を斜めに傾斜させて設置して撮影した場合であっても、このようなパノラマ画像iPを作成することができる。
本発明は、前記した実施形態に限定されることなく、本発明の要旨を逸脱しない範囲で種々の変更や変形を行うことができる。
例えば、作成装置3は、座標入力部42としてマウスを用いる構成になっている。しかしながら、作成装置3は、座標入力部42としてタッチパネルやその他の座標入力手段を用いる構成で合ってもよい。
また、例えば、魚眼レンズカメラ2は、車に搭載して、運転時の画像を撮影する車載カメラとして用いることができる。この場合に、パノラマ画像作成装置3は、車載カメラによって撮影された画像を再生する再生装置として用いることが可能である。
また、例えば、前記した計算手法は、一例に過ぎない。作成装置3は、前記した計算手法以外の手法を採用することができる。
1 監視システム
2 魚眼レンズカメラ
3 パノラマ画像作成装置
4 入力部
5 表示部(ディスプレイ)
cl 切出線
cp 切出平面
hs 水平基準線
iF 魚眼画像
iS 半球面画像
iP パノラマ画像
iP1 補正前のパノラマ画像
iP2 補正後のパノラマ画像
la 光軸
MD 仮想球面モデル
Mo マウス移動量
ma 写像
O レンズ中心(原点)
ra 回転軸
sl 視線の基準線
tp 天頂
XY 撮影水平面
Δρ 補正角度
κ 変換係数
ρ 回転角度
ρ1 前回作成時の回転角度
ρA 傾斜角度

Claims (6)

  1. 魚眼レンズを用いる魚眼レンズカメラによって撮影された魚眼画像に基づいてパノラマ画像を作成するパノラマ画像作成装置であって、
    画像を表示する表示部と、
    前記魚眼レンズカメラによって撮影された前記魚眼画像を撮影画像として格納する撮影画像格納部と、
    前記撮影画像格納部に格納された前記撮影画像に基づいてパノラマ画像を作成するパノラマ画像作成部と、
    前記撮影画像及び前記パノラマ画像のいずれか一方又は双方を前記表示部に表示させる表示制御部とを有し、
    前記パノラマ画像作成部は、
    (a)前記魚眼レンズカメラの光軸を中心にしてその左右方向に展開する平面を撮影水平面とし、
    (b)前記撮影水平面を、前記パノラマ画像の初期作成時の写像の切り出しに用いる切出平面とし、
    (c)前記撮影水平面上に配置され、かつ、前記魚眼画像である前記撮影画像に対応する半球面画像の天頂に接する接線を、前記切出平面の仮想上の回転軸とし、
    (d)前記回転軸を中心にして、前記切出平面を任意の回転角度分だけ上方向又は下方向に回転させ、
    (e)前記切出平面と前記半球面画像とが交わる曲線を切出線とし、当該切出線に沿って当該半球面画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成する
    ことを特徴とするパノラマ画像作成装置。
  2. 請求項1に記載のパノラマ画像作成装置において、
    さらに、前記パノラマ画像内の左右方向に水平に延伸する仮想上の直線を水平基準線とし、前記表示部に表示された前記パノラマ画像に対して、任意の箇所を指定箇所として指定して、当該指定箇所を上方向又は下方向に移動させることにより、当該パノラマ画像内の前記水平基準線の位置を上方向又は下方向に移動させるための相対的な移動量を入力する入力部を有し、
    前記パノラマ画像作成部は、前記移動量が入力された場合に、前記移動量を角度値に変換して補正角度を取得し、前記切出平面を前記パノラマ画像の前回作成時の回転角度から当該補正角度分だけ上方向又は下方向に回転させた状態で、補正後の前記パノラマ画像を作成する
    ことを特徴とするパノラマ画像作成装置。
  3. 請求項2に記載のパノラマ画像作成装置において、
    前記パノラマ画像作成部は、
    前記指定箇所の位置に関わらず、前記指定箇所の移動方向が上方向であるときに、前記切出平面を下方向に回転させることによって、前記水平基準線の位置を前回作成時よりも上方向に移動させた画像を、補正後の前記パノラマ画像として作成し、
    一方、前記指定箇所の移動方向が下方向であるときに、前記切出平面を上方向に回転させることによって、前記水平基準線の位置を前回作成時よりも下方向に移動させた画像を、補正後の前記パノラマ画像として作成する
    ことを特徴とするパノラマ画像作成装置。
  4. 画像を表示する表示部と、魚眼レンズを用いる魚眼レンズカメラによって撮影された魚眼画像を撮影画像として格納する撮影画像格納部とを有するコンピュータを、当該撮影画像に基づいてパノラマ画像を作成するパノラマ画像作成装置として機能させるプログラムであって、
    前記コンピュータを、
    (a)前記魚眼レンズカメラの光軸を中心にしてその左右方向に展開する平面を撮影水平面とし、(b)前記撮影水平面を、前記パノラマ画像の初期作成時の写像の切り出しに用いる切出平面とし、(c)前記撮影水平面上に配置され、かつ、前記魚眼画像である前記撮影画像に対応する半球面画像の天頂に接する接線を、前記切出平面の仮想上の回転軸とし、(d)前記回転軸を中心にして、前記切出平面を任意の回転角度分だけ上方向又は下方向に回転させ、(e)前記切出平面と前記半球面画像とが交わる曲線を切出線とし、当該切出線に沿って当該半球面画像から写像を連続して切り出して、平面上に並べることによって、パノラマ画像を作成するパノラマ画像作成部と、
    前記撮影画像及び前記パノラマ画像のいずれか一方又は双方を前記表示部に表示させる表示制御部として機能させる
    ことを特徴とするプログラム。
  5. 請求項4に記載のプログラムにおいて、
    前記コンピュータは、さらに、前記パノラマ画像内の左右方向に水平に延伸する仮想上の直線を水平基準線とし、前記表示部に表示された前記パノラマ画像に対して、任意の箇所を指定箇所として指定して、当該指定箇所を上方向又は下方向に移動させることにより、当該パノラマ画像内の前記水平基準線の位置を上方向又は下方向に移動させるための相対的な移動量を入力する入力部を有しており、
    前記入力部から前記移動量が入力された場合に、前記パノラマ画像作成部に、前記移動量を角度値に変換させて補正角度を取得させ、前記切出平面を前記パノラマ画像の前回作成時の回転角度から当該補正角度分だけ上方向又は下方向に回転させた状態で、補正後の前記パノラマ画像を作成させる
    ことを特徴とするプログラム。
  6. 請求項5に記載のプログラムにおいて、
    前記指定箇所の位置に関わらず、前記指定箇所の移動方向が上方向であるときに、前記パノラマ画像作成部に、前記切出平面を下方向に回転させることによって、前記水平基準線の位置を前回作成時よりも上方向に移動させた画像を、補正後の前記パノラマ画像として作成させ、
    一方、前記指定箇所の移動方向が下方向であるときに、前記パノラマ画像作成部に、前記切出平面を上方向に回転させることによって、前記水平基準線の位置を前回作成時よりも下方向に移動させた画像を、補正後の前記パノラマ画像として作成させる
    ことを特徴とするプログラム。
JP2012214938A 2012-09-27 2012-09-27 パノラマ画像作成装置、及び、プログラム Active JP5985336B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012214938A JP5985336B2 (ja) 2012-09-27 2012-09-27 パノラマ画像作成装置、及び、プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012214938A JP5985336B2 (ja) 2012-09-27 2012-09-27 パノラマ画像作成装置、及び、プログラム

Publications (2)

Publication Number Publication Date
JP2014071496A JP2014071496A (ja) 2014-04-21
JP5985336B2 true JP5985336B2 (ja) 2016-09-06

Family

ID=50746678

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012214938A Active JP5985336B2 (ja) 2012-09-27 2012-09-27 パノラマ画像作成装置、及び、プログラム

Country Status (1)

Country Link
JP (1) JP5985336B2 (ja)

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6249878B2 (ja) * 2014-05-21 2017-12-20 三菱電機株式会社 撮像装置
CN104363421B (zh) * 2014-11-04 2017-11-14 福建星网视易信息系统有限公司 实现多角度摄像头监控效果的方法和装置
CN105208368A (zh) * 2015-09-23 2015-12-30 北京奇虎科技有限公司 显示全景数据的方法及装置
CN107317998A (zh) * 2016-04-27 2017-11-03 成都理想境界科技有限公司 全景视频图像融合方法及装置
WO2018157350A1 (zh) * 2017-03-02 2018-09-07 深圳岚锋创视网络科技有限公司 一种全景图像或视频的水平校准方法、系统及便携式终端
JP6816614B2 (ja) * 2017-03-31 2021-01-20 富士通株式会社 画像出力プログラム、画像出力方法および画像出力装置
JP6891954B2 (ja) * 2017-06-23 2021-06-18 日本電気株式会社 物体検知装置、物体検知方法、及びプログラム
JP6919374B2 (ja) * 2017-07-10 2021-08-18 カシオ計算機株式会社 画像処理装置、画像処理方法及びプログラム
CN109427087A (zh) * 2017-08-22 2019-03-05 优酷网络技术(北京)有限公司 图像处理方法和装置
KR102119521B1 (ko) * 2018-04-19 2020-06-05 이길호 드론을 이용한 구면 공간 영상 촬영할 때의 수평 보정 방법
JP7192526B2 (ja) * 2018-10-31 2022-12-20 大日本印刷株式会社 画像処理装置、画像処理方法及びプログラム
EP3667414B1 (en) * 2018-12-14 2020-11-25 Axis AB A system for panoramic imaging
JP7204511B2 (ja) * 2019-02-12 2023-01-16 キヤノン株式会社 電子機器、電子機器の制御方法、プログラム

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3025255B1 (ja) * 1999-02-19 2000-03-27 有限会社フィット 画像デ―タ変換装置
JP4924896B2 (ja) * 2007-07-05 2012-04-25 アイシン精機株式会社 車両の周辺監視装置
US10178314B2 (en) * 2011-03-08 2019-01-08 Mitsubishi Electric Corporation Moving object periphery image correction apparatus

Also Published As

Publication number Publication date
JP2014071496A (ja) 2014-04-21

Similar Documents

Publication Publication Date Title
JP5985336B2 (ja) パノラマ画像作成装置、及び、プログラム
CN106803884B (zh) 图像处理装置
US20180048809A1 (en) Method, system, and computer program product for gamifying the process of obtaining panoramic images
JP6167703B2 (ja) 表示制御装置、プログラム及び記録媒体
KR101329470B1 (ko) 화상 처리 장치, 화상 처리 방법 및 그 프로그램을 기록한 기록 매체
US20180053286A1 (en) Image processing apparatus and image processing method
JP5092459B2 (ja) 遠隔指示システム及び遠隔指示システム用のプログラム
US9865033B1 (en) Motion-based image views
US20150215532A1 (en) Panoramic image capture
JP2011182236A (ja) カメラキャリブレーション装置
JP5869712B1 (ja) 没入型仮想空間に実空間のユーザの周辺環境を提示するためのヘッドマウント・ディスプレイ・システムおよびコンピュータ・プログラム
KR102539427B1 (ko) 화상 처리장치, 화상 처리방법, 및 기억매체
JP2003223633A (ja) 全方位視覚システム
KR20180091033A (ko) 이미지 디스플레이 방법, 곡면을 가지는 불규칙 스크린을 제조하기 위한 방법 및 헤드-장착 디스플레이 장치
CN101465116A (zh) 一种显示设备控制方法及一种显示设备
JP4283794B2 (ja) 監視装置
KR100585822B1 (ko) 실시간 파노라마 비디오 영상을 이용한 감시 시스템 및 그시스템의 제어방법
JP2011053587A (ja) 画像処理装置
JP2006318015A (ja) 画像処理装置および画像処理方法、画像表示システム、並びに、プログラム
EP3148180B1 (en) Image processing method and video camera
JP2006191408A (ja) 画像表示プログラム
CN115623185A (zh) 虚拟现实模拟器以及计算机可读取记录介质
CN115623184A (zh) 虚拟现实模拟器以及计算机可读取记录介质
JP6817527B1 (ja) 情報処理装置、プログラムおよび情報処理システム
JP2013093673A (ja) 情報処理装置、制御方法、情報処理システム、プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150810

RD02 Notification of acceptance of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7422

Effective date: 20160705

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160707

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160726

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160803

R150 Certificate of patent or registration of utility model

Ref document number: 5985336

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250