JP6719596B2 - 画像生成装置、及び画像表示制御装置 - Google Patents
画像生成装置、及び画像表示制御装置 Download PDFInfo
- Publication number
- JP6719596B2 JP6719596B2 JP2018562874A JP2018562874A JP6719596B2 JP 6719596 B2 JP6719596 B2 JP 6719596B2 JP 2018562874 A JP2018562874 A JP 2018562874A JP 2018562874 A JP2018562874 A JP 2018562874A JP 6719596 B2 JP6719596 B2 JP 6719596B2
- Authority
- JP
- Japan
- Prior art keywords
- panoramic image
- image
- unit
- projection
- observation point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 claims description 19
- 238000013459 approach Methods 0.000 claims description 11
- 230000006870 function Effects 0.000 description 19
- 238000006243 chemical reaction Methods 0.000 description 14
- 238000004891 communication Methods 0.000 description 13
- 238000012937 correction Methods 0.000 description 12
- 230000000007 visual effect Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 6
- 230000005540 biological transmission Effects 0.000 description 5
- 230000010365 information processing Effects 0.000 description 5
- 238000003384 imaging method Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G06T3/073—
-
- G06T3/06—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T15/00—3D [Three Dimensional] image rendering
- G06T15/10—Geometric effects
- G06T15/20—Perspective computation
- G06T15/205—Image-based rendering
-
- G06T3/12—
Description
本発明は、パノラマ画像を生成する画像生成装置、パノラマ画像を表示する画像表示制御装置、画像生成方法、プログラム、及び画像データに関する。
観測点から見た全天周の景色を2次元平面に投影したパノラマ画像の画像フォーマットとして、正距円筒図法などのフォーマットが知られている。このようなパノラマ画像を用いることによって、例えばユーザーによる視点の向きの操作に応じて任意の方向の景色を表示するパノラマビューアを実現することができる。
上述した画像フォーマットを利用してパノラマ画像をユーザーに閲覧させる場合、ユーザーの前方や、特定の被写体が写っている箇所など、特定の方向が重要になることがある。しかしながら、従来のパノラマ画像のフォーマットでは、このような重要な方向とそうでない方向とが区別されていなかった。
本発明は上記実情を考慮してなされたものであって、その目的の一つは、重要な方向をより高解像度で表示可能なパノラマ画像の画像データ、及びこれに対応した画像生成装置、画像表示制御装置、画像生成方法、及びプログラムを提供することにある。
本発明に係る画像生成装置は、観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するパノラマ画像生成部と、前記生成されたパノラマ画像を出力する画像出力部と、を含み、前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、前記パノラマ画像生成部は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成することを特徴とする。
本発明に係る画像表示制御装置は、観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を取得する取得部と、前記取得したパノラマ画像に基づいて、所与の視野範囲の景色を示す表示画像を描画し、表示装置の画面に表示させる描画部と、を含み、前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、前記パノラマ画像は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面を変換してなるパノラマ画像であることを特徴とする。
本発明に係る画像生成方法は、観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するステップと、前記生成されたパノラマ画像を出力するステップと、を含み、前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、前記パノラマ画像を生成するステップでは、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成することを特徴とする。
本発明に係るプログラムは、観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するパノラマ画像生成部、及び、前記生成されたパノラマ画像を出力する画像出力部、としてコンピュータを機能させるためのプログラムであって、前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、前記パノラマ画像生成部は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成するプログラムである。このプログラムは、コンピュータ読み取り可能で非一時的な情報記憶媒体に格納されて提供されてよい。
本発明に係る画像データは、観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面が平面形状に変換されてなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されており、前記投影面に含まれる、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面が変換されてなるパノラマ画像の画像データである。
以下、本発明の実施形態について、図面に基づき詳細に説明する。
[パノラマ画像の画像フォーマット]
本実施形態に係る画像生成装置は、観測点から見た全天周の全部、又は一部範囲の景色を含んだパノラマ画像を生成する。以下では、本実施形態に係る画像生成装置によって生成されるパノラマ画像をパノラマ画像Iと表記する。パノラマ画像Iは、全天周の全部、又は一部範囲の景色を含んだ2次元(平面)の画像データである。ここで全天周とは、観測点から見て水平方向(左右方向)に360度、鉛直方向(上下方向)に天頂から天底まで180度の全ての方位を意味している。
本実施形態に係る画像生成装置は、観測点から見た全天周の全部、又は一部範囲の景色を含んだパノラマ画像を生成する。以下では、本実施形態に係る画像生成装置によって生成されるパノラマ画像をパノラマ画像Iと表記する。パノラマ画像Iは、全天周の全部、又は一部範囲の景色を含んだ2次元(平面)の画像データである。ここで全天周とは、観測点から見て水平方向(左右方向)に360度、鉛直方向(上下方向)に天頂から天底まで180度の全ての方位を意味している。
以下、本実施形態におけるパノラマ画像Iの画像フォーマットの具体例について、説明する。観測点から見た全天周の景色は、観測点の位置を中心とした仮想的な球面上に表される。ここで、全天周の景色に対応する仮想的な球を仮想球Sとする。以下では説明のために、観測点に対応する仮想球Sの中心点Oを原点として、互いに直交するx軸、y軸、z軸の3軸からなる座標系を使用する。x軸、及びz軸は水平面上に沿って配置され、y軸は鉛直方向に沿って配置されるものとする。
本実施形態では、全天周のうち、観測点から見て特に重要な方向が設定される。以下では、この重要な方向を注目方向という。ここでは、注目方向はx軸正方向に設定されるものとする。注目方向は、ユーザーが特に注目すると想定される方向や、パノラマ画像Iの生成者がユーザーに特に注目して欲しいと考える方向であって、例えば重要な被写体が写っている方向などであってよい。本実施形態では、仮想球S上において注目方向に近い領域ほど、高画質(高解像度)になるようにパノラマ画像Iが生成される。
仮想球Sを、その中心点Oを通り、注目方向に平行で互いに直交する2つの平面によって4分割すると、図1に示すように4個の1/4球面S1〜S4が得られる。この図では、仮想球Sはxy平面(鉛直面)及びxz平面(水平面)の二つの平面によって4分割されている。4個の1/4球面は、いずれも中心点Oを通り注目方向に平行な一つの平面に対して対称な形状になっている。具体的に、1/4球面S1、及び1/4球面S3は、いずれもy=zで表される平面に対して対称な形状を有する。また、1/4球面S2、及び1/4球面S4は、いずれもy=−zで表される平面に対して対称な形状を有する。
以下では、4個の1/4球面のうちの1/4球面S1を例として、この1/4球面S1に対応する景色を含んだパノラマ画像Iの一部分の生成方法を説明する。この1/4球面S1に対応する範囲の景色は、互いに連結された複数の多角形(三角形又は四角形)によって構成される投影面A1に投影される。図2は、この投影面A1の具体例を示す斜視図である。投影面A1の注目方向に沿った中心線を、以下では幹線Tという。前述した通り1/4球面S1はy=zで表される平面に対して対称な形状となっているので、これに対応して幹線Tもこの平面上に配置される。以下では、幹線Tが配置される平面(ここではy=zで表される平面)を中心面という。幹線Tは、投影面A1を中心面で切断した際の形状を表している。すなわち、幹線Tは、中心点Oを含み注目方向に平行な平面である中心面内において、注目方向側の一端と、その逆側の一端とを結ぶ線になっている。
図3は中心面内における幹線Tの形状の具体例を示している。なお、ここでは一例として、投影面A1は6個の多角形が連結されて構成されているものとする。これに対応して、幹線Tは図3に示すように6個の線分によって構成される。また、以下では中心面内の位置を、互いに直交するX軸及びY軸からなる2次元座標系で表すこととする。ここで、X軸は3次元空間のx軸に一致するが、Y軸はy軸をz軸側に45°傾けた向きになっている。
以下、幹線Tの形状の決定方法について、説明する。ここでは、幹線Tを構成する6個の線分を、注目方向と反対側から順にT1、T2、T3、T4、T5、T6とする。また、注目方向の反対方向(X軸負方向)側の幹線Tの端点を起点P1とし、各線分の端点を、起点P1に近い側から順に中継点P2、P3、P4、P5、P6とする。さらに、注目方向(X軸正方向)側の幹線Tの端点を終点P7とする。
中継点P2〜P6は、線分T1〜T6それぞれを中心点Oから見込む角(すなわち、各線分の両端と中心点Oにより形成される角)が互いに等しくなるように配置されている。すなわち、角P1OP7(=180°)を6等分する5本の補助線を引いた場合に、中継点P2〜P6はこれらの補助線上に配置されることになる。つまり、角P1OP2、角P2OP3、角P3OP4、角P4OP5、角P5OP6、角P6OP7は互いに等しく、全て30°(=180°/6)になる。以下ではこの角度(中心点Oから各線分を見込む角)を対応角αという。線分T1〜T6は、それぞれ中心点Oから見て対応角αの範囲をカバーすることになる。
起点P1は、注目方向の反対方向(X軸負方向)側において中心点Oから所定の距離離れた位置に設定される。ここでは起点P1の位置座標を(X=−1,Y=0)とする。さらに、中継点P2は、起点P1を通り直線OP1に垂直な直線と、起点P1に最も近い補助線とが交差する位置に設定される。つまり、中継点P2の位置は、角P1OP2がα=30°で、角OP1P2が90°になるように決定される。ここでの角OP1P2を射出角βという。さらに、中継点P3は、角P2OP3が30°、角OP2P3が90°になるように決定される。残る中継点P4〜P6、及び終点P7のそれぞれも、角Pn−1OPn(対応角α)が30°、角OPn−1Pn(射出角β)が90°になるように、順次決定される。
このようにして起点P1、中継点P2〜P6、及び終点P7の位置が決定されると、中心面内における幹線Tの形状が決定される。このとき、線分T1〜T6は全て長さが異なり、しかも注目方向に近い線分ほど長さが長くなり、注目方向の反対方向に近い線分ほど長さが短くなる。つまり、幹線Tの形状は、中心点Oを通り注目方向に垂直な平面に対して非対称となっており、注目方向側の部分が反対側の部分よりも長くなる。
ここで、中心面内の位置座標を極座標(r,θ)で表すことを考える。このとき、幹線Tの形状はr=f(θ)という極座標系の一価関数によって表現される。rは、中心点Oまでの距離である。θは、X軸負方向を0°とし、反時計回り方向を正方向とする角度値であって、0°以上180°以下の値をとる。以上説明したような方法で決定された幹線Tをこのように関数fで表現すると、関数fはθが増加するにつれてrが増加する単調増加関数となっている。これにより、注目方向に近づくにつれて、単位角度あたりの幹線Tの長さが長くなるようにすることができる。
幹線Tの形状が決定されると、次に、中継点P2〜P6のそれぞれを通るように、5本の支線F1〜F5が配置される。これらの支線Fは、幹線Tを背骨と見た場合の肋骨に相当し、幹線Tの延伸方向から見て左右に延びるように配置される。具体的に、ここでは支線F1〜F5は、中心面と直交する方向に沿って配置される。また、支線F1〜F5は、いずれもその中点が幹線T上の中継点に一致するように配置される。各支線Fの長さは、1/4球面S1に対応するように決定される。
支線F1を例として、その配置を具体的に説明する。図4は、中継点P2及び支線F1を含むx軸に垂直な平面内の様子を示している。1/4球面S1を、中継点P2を通り注目方向と直交する平面で切断した場合、中心角90°の扇形形状となる。そのため、支線F1も、図4に示されるように、その両端とx軸上の点とでなす角が90°になるように、その長さが決定される。このとき支線F1の長さは、中継点P2からx軸までの距離の2倍に等しくなる。なお、支線F1の中点は中継点P2に一致するので、支線F1は、中心面に対して対称になっている。支線F1と同様に、支線F2〜F5も、対応する中継点からx軸までの距離の2倍に等しくなるように、その長さが決定される。
このようにして幹線T、及び支線F1〜F5の位置が決定されると、投影面A1の全体形状が決定されることになる。すなわち、投影面A1は、幹線Tの起点P1と終点P7、及び各支線Fの両端を結んでできる形状となる。1/4球面S1の景色は、この投影面A1に投影される。各支線F1〜F5は中心面に対して対称なので、投影面A1全体も、1/4球面S1と同様、中心面に対して対称になる。なお、投影面A1上には、支線F1〜F5のほかに、支線Fdが設定される。この支線Fdは、他の支線F1〜F5と平行する投影面A1上の線分である。支線Fdの位置の決定方法については、後述する。
投影面A1に投影された景色は、平面形状に変換されてパノラマ画像Iの一部となる。以下では、投影面A1に対応するパノラマ画像I内の領域を、画像部分Ip1という。本実施形態では、画像部分Ip1は正方形の形状を有するものとする。図5は、この画像部分Ip1を示しており、投影面A1内の幹線T、及び支線F1〜F5に対応する線分が図示されている。
図5に示されるように、幹線Tは、画像部分Ip1の一方の対角線に対応づけられる。ここでは、画像部分Ip1の右上の頂点が起点P1に対応し、左下の頂点が終点P7に対応している。この対角線P1P7は、6分割されて、それぞれ幹線Tを構成する線分T1〜T6のいずれかに対応づけられる。画像部分Ip1内における各線分の長さは、投影面A1内における線分T1〜T6の長さに応じて決定される。ただし、6個の線分は、投影面A1上における長さの比を完全に保つように変換される必要はなく、その中心面内における位置に応じて補正された長さに変換されてよい。
各線分の長さは、補正係数を乗じた値に補正される。n番目の線分Tnに対する補正係数anは、(n−1)番目の線分Tn−1(すなわち、注目方向と反対側の隣接する線分)に対する補正係数an−1と、対応角α、及び射出角βを用いて、以下の式により算出される。
an=an−1×sin(β)/sin(180°−α−β)
ここでは、全ての線分について対応角α=30°、射出角β=90°であるため、
an=an−1/sin60°
となる。また、線分T1については補正の必要はないので、a1=1である。そのため、例えばa2は
a2=1/sin60°
で計算され、およそ1.15となる。線分T2〜T6に対する補正係数についても、同様にして順に計算される。表1には、この計算式によって計算された各線分に対する補正係数が示されている。各線分の補正後の長さは、投影面A1内の長さに対してこの補正係数を乗じた値である。
an=an−1×sin(β)/sin(180°−α−β)
ここでは、全ての線分について対応角α=30°、射出角β=90°であるため、
an=an−1/sin60°
となる。また、線分T1については補正の必要はないので、a1=1である。そのため、例えばa2は
a2=1/sin60°
で計算され、およそ1.15となる。線分T2〜T6に対する補正係数についても、同様にして順に計算される。表1には、この計算式によって計算された各線分に対する補正係数が示されている。各線分の補正後の長さは、投影面A1内の長さに対してこの補正係数を乗じた値である。
画像部分Ip1内における各線分の長さは、この補正後の長さと一致するように計算される。すなわち、線分T1〜T6までの補正後の長さの合計値をLtとすると、画像部分Ip1内における各線分の長さが幹線Tの全長に対して占める割合は、(補正後の長さ)/Ltで求められる。実際の画像部分Ip1内における各線分の長さは、この割合に画像部分Ip1の対角線の長さを乗じた値となる。
このような補正は、単位角度に対する幹線Tの長さの変化の不連続を緩和するためのものである。ここで単位角度とは、幹線Tを含む中心面内における、中心点(観測点)Oを中心とした回転角である角度θの単位量を指している。前述したように極座標系の一価関数r=f(θ)で幹線Tの形状を表現する場合において、θを増加させていくと、角度θの単位量に対する幹線Tの長さは、線分と線分の境界で不連続に変化する。このような不連続性が存在すると、仮想球S上の単位領域に対応する画像部分Ip1内の領域の広さ(すなわち、画像内に含まれる情報の密度)も不連続に変化することになり、好ましくない。そこで、上述したような補正係数anによる補正を行うことにより、このような不連続を防止することができる。なお、投影面A1の各線分上における任意の点の位置と、画像部分Ip1内の各線分内における位置との対応関係は、線形補間等の補間計算により決定されてよい。
投影面A1内の支線F1〜F5は、それぞれ、画像部分Ip1内において、幹線Tに対応する対角線と交差する対角線に平行な線分に変換される。具体的に支線F1〜F5は、それぞれ投影面A1内と同様に、画像部分Ip1内でも中継点P2〜P6を通るように変換される。なお、ここでは画像部分Ip1を正方形としているので、各支線Fは幹線Tと直交する。
さらに、幹線Tに対応する対角線と交差する対角線そのものも、支線Fの一つとして設定される。これが、前述した支線Fdである。投影面A1内における支線Fdの位置は、画像部分Ip1内における対角線の位置に対応した位置に設定される。
このようにして幹線T、及び各支線Fの対応関係が決定されることにより、投影面A1内の位置は画像部分Ip1内の位置に変換される。具体的に、投影面A1のうち、支線F1と起点P1で囲まれる三角形、及び支線F5と終点P7で囲まれる三角形は、それぞれ画像部分Ip1の右上、及び左下の三角形に変換される。また、支線F1〜F5、及びFdのうち、隣接する2個の支線Fで挟まれた台形は、画像部分Ip1内で同じ2個の支線Fにより挟まれる台形に変換される。
なお、三角形を三角形に変換する場合、その内部に含まれる点の変換後の位置は、一意に決定される。一方、四角形を四角形に変換する場合、その内部に含まれる点の変換後の位置は、一意に定まらない。そこで、例えば以下のように変換を行う。すなわち、まず幹線Tに平行な方向の位置を、線形に補間する。その後、幹線Tと交差する方向(すなわち、支線Fに平行な方向)の位置を、線形に補間する。このような変換によって、投影面A1上の任意の点を、画像部分Ip1内の位置に対応させることができる。
なお、四角形の変換の方法は、以上説明したものに限られない。例えば投影面A1上において2個の支線Fにより形成される台形を2個の三角形に分割し、そのそれぞれを画像部分Ip1上に変換してもよい。また、テッセレーション処理を実行することによって投影面A1上の三角形や四角形をさらに分割し、分割によって得られるポリゴン単位で変換を行ってもよい。このような変換方法によれば、変換に伴って発生する誤差の程度を抑えることができる。また、テッセレーションを含むこのような多角形から多角形への変換処理は、公知のコンピュータグラフィックスライブラリ等を利用して容易に実現することができる。
以上説明したような変換によって、1/4球面S1内の景色は、平面形状を有する画像部分Ip1に変換される。1/4球面S2〜S4についても、その内部の景色を投影面A2〜A4に投影し、同様の変換を行うことによって、画像部分Ip2〜Ip4が得られる。このようにして得られる4個の画像部分Ip1〜Ip4を並べることで、全天周の景色を含んだ平面形状のパノラマ画像Iが生成される。
図6は、このようにして得られるパノラマ画像Iの一例を示している。各画像部分が正方形なので、パノラマ画像Iも全体として正方形の形状を有している。パノラマ画像Iの中心Cが、注目方向(x軸正方向)に対応している。この図においては、注目方向に対して角度30°までの範囲、60°までの範囲、90°までの範囲、及び120°までの範囲のそれぞれを表す曲線が図示されている。この図に示されるように、注目方向に近い場所ほど、パノラマ画像I内においてより広い領域が割り当てられる。そのため、パノラマ画像Iは注目方向に近い場所ほどより多くの情報を含み、注目方向と反対側については比較的少ない情報しか含まないようになっている。このようなパノラマ画像Iを用いて景色画像を描画した場合、注目方向に近い箇所ほど高画質で画像を描画できることになる。
なお、以上の説明では投影面A1は6個の多角形から構成されることとし、これに対応して幹線Tは6個の線分により構成されることとした。しかしながらこれに限らず、幹線Tは3本以上の任意の数の線分によって構成されてよい。図7は、幹線Tを4本の線分によって構成することとし、以上の説明と同様の手順で投影面A1の形状を決定した場合における投影面A1の形状を示している。このように幹線Tをより少ない数の線分で構成すると、注目方向と注目方向の反対側とで情報密度の差がより大きくなる。逆に幹線Tを構成する線分の数を増加させると、幹線Tの形状は半円に近づいていき、注目方向とその反対側との間の情報密度の差は小さくなる。
また、以上の説明では、幹線Tを構成する複数の線分のそれぞれは、対応角αが互いに等しくなるように決定されることとした。しかしながら、対応角αは線分ごとに異なってもよい。
また、以上の説明では射出角βを90°としたが、これに限らず射出角βは90°より大きく180°より小さな任意の値であってもよい。射出角が90°≦β<180°であれば、幹線Tの形状を表す関数r=f(θ)は単調増加関数となる。そのため、幹線Tを構成する複数の線分を、注目方向に近づくにつれて順に長くなるようにすることができる。ただし、射出角βは、次の対応角αに対して、α+β<180°の関係を満たす必要がある。なお、このように幹線Tを構成する各線分の対応角αと射出角βがこれまでの説明と異なる値をとる場合にも、前述した補正係数anについては、同様の計算式で順に算出することができる。
また、幹線Tは、その一部又は全部が曲線により構成されてもよい。この場合にも、関数r=f(θ)が単調増加関数となるように幹線Tの形状を定義することで、注目方向に近くなるほど、仮想球S上の単位領域に対応するパノラマ画像I内の領域が広くなるようにすることができる。
このような関数の具体例について、説明する。例えば幹線Tは、関数f(θ)=eaθで定義される曲線であってよい。ここでaは、正の値をとる任意の係数である。この場合、幹線Tは、注目方向に近づくにつれて、単位角度あたりの長さが指数的に増加する。係数aが
a=6・log(4/3・π)
のとき、この関数によって定義される曲線は、30°あたりの長さの比率が、図3に例示した幹線Tを構成する各線分に対して重み付けをした長さの比率と一致する。図8は、この曲線によって形成された幹線Tの形状を示している。この図においては、比較のために図3の幹線Tが一点鎖線で示されている。また、図中の二点鎖線は、図3の幹線Tを構成する線分T1以外の線分T2〜T6を、曲線の幹線Tに合わせて距離を変化させたものである。距離を変化させた各線分と、同じ角度範囲に対応する曲線の幹線Tとの長さの比は、どの角度でも一定になっている。
a=6・log(4/3・π)
のとき、この関数によって定義される曲線は、30°あたりの長さの比率が、図3に例示した幹線Tを構成する各線分に対して重み付けをした長さの比率と一致する。図8は、この曲線によって形成された幹線Tの形状を示している。この図においては、比較のために図3の幹線Tが一点鎖線で示されている。また、図中の二点鎖線は、図3の幹線Tを構成する線分T1以外の線分T2〜T6を、曲線の幹線Tに合わせて距離を変化させたものである。距離を変化させた各線分と、同じ角度範囲に対応する曲線の幹線Tとの長さの比は、どの角度でも一定になっている。
また、支線Fも、以上説明したような形状及び配置のものに限られない。例えば支線Fは、対応する中継点を通り、注目方向に垂直な平面内において、複数の線分によって構成される形状であってもよい。あるいは、弧状に形成されるなど、曲線を含む形状であってもよい。いずれにせよ、支線Fは、中心面に対して対称な形状であって、支線Fをx軸上の点から見込む角(支線Fの両端と中心角Oにより形成される角)が対応する1/4球面に一致するように(すなわち、90°になるように)決定される。また、支線Fは、対応する中継点、及び中心点Oを通り、中心面に垂直な平面内に配置されてもよい。
また、以上の説明では、注目方向は水平面に平行な方向であることとしたが、これに限らず注目方向は全天周の任意の方向に設定されてよい。この場合も、注目方向を基準として、中心面が注目方向に平行になるように投影面A1〜A4の配置位置を決定することで、注目方向に近づくほど情報量が大きくなるようにパノラマ画像Iを生成することができる。なお、仮想球Sを1/4球面に分割する際の向きについても、任意の向きに設定されてよい。
また、以上の説明では全天周の景色の全てをパノラマ画像Iに含めることとしたが、本実施形態におけるパノラマ画像Iはこのようなものに限られず、全天周の一部の範囲の景色のみを含むものであってもよい。例えばパノラマ画像Iは、1/4球面S1〜S4のうちの1個のみに対応する景色を含んだものであってもよいし、2個の1/4球面(すなわち、半球)に対応する景色を含んだものであってもよい。
さらに、本実施形態におけるパノラマ画像Iは、ある1/4球面について、その一部範囲の景色のみを画像部分に変換して生成されるものであってもよい。この場合、景色が投影されていない範囲については、パノラマ画像I内においてダミー情報を持った画素(例えば画素値0の画素)としてもよい。これにより、例えば天底に近い高緯度の範囲など、一部範囲の景色に関する情報がない場合であっても、本実施形態の手法によりパノラマ画像Iを生成することができる。また、1/4球面に対応する投影面A1〜A4のそれぞれは、正方形以外の形状(例えば長方形形状)の画像部分に変換されることとしてもよい。
以下、本実施形態におけるパノラマ画像Iの変形例についてさらに説明する。
以上の説明では、幹線Tは、極座標系の角度θを変数とする単調増加関数r=f(θ)によって表現可能な形状であることとした。すなわち、幹線Tは、注目方向(θ=180°)に近づくにつれて単位角度あたりの長さが長くなるような形状となっている。これにより、パノラマ画像I内における注目方向近傍の領域の情報量を増やすことができる。しかしながらこれに限らず、幹線Tの形状は、単位角度あたりの長さが注目方向に近づくにつれて長くなる形状でなくともよい。例えば幹線Tの形状は、中心点Oから見て注目方向側とその逆側とで対称な形状であってよく、半円に近い形状であってもよい。
幹線Tがこのような形状を有していても、幹線Tを含む投影面を平面形状のパノラマ画像Iに変換する際に、投影面の部分毎に変換の比率を変化させることで、幹線Tが注目方向に近づくにつれて単位角度あたりの長さが長くなる形状を有している場合と同様の効果を得ることができる。具体的には、幹線Tを構成する複数の部分のそれぞれを、注目方向に近い部分ほどパノラマ画像I内における長さが長くなるように変換することとする。これにより、注目方向に近い領域ほど単位角度あたりの情報量が多いパノラマ画像Iを生成することができる。この例では、投影面内における幹線Tそのものは、単位角度あたりの長さが注目方向に近づくほど長くなっているわけではないが、パノラマ画像I内では、幹線Tの単位角度あたりの長さが、注目方向に近づくほど長くなっている。
換言すると、パノラマ画像I内の幹線Tと投影面内における幹線Tとの対応関係は、パノラマ画像I内における幹線Tの単位長さが、投影面内においては注目方向に近いほどより大きな角度θに対応するように、定義される。ここで、パノラマ画像I内における幹線Tの単位長さは、パノラマ画像Iの各画素の画素サイズに相当する長さであってもよい。このような対応関係にしたがって投影面とパノラマ画像Iとの間の変換を行うことによって、注目方向ほど解像度の高い映像を提供できるようになる。
なお、これまでの説明では、パノラマ画像I内における幹線Tの単位角度あたりの長さは、注目方向に近づくにつれて一貫して増加し続けることとした。しかしながら、投影面の構造や対応関係の定義の仕方によっては、単位角度あたりの長さが一時的に減少する場合があってもよい。そのような場合であっても、注目方向に最も近い位置で単位角度あたりの長さが最も長くなるように対応関係が定義されていれば、注目方向近傍で情報量の多いパノラマ画像Iを生成することができる。
また、以上の説明では、1個の1/4球面に対応する投影面を図4に例示したような正方形の画像部分に変換し、このような画像部分を4個並べることで全天周の景色を含んだパノラマ画像Iを生成することとした。しかしながら、1/4球面に対応する画像部分は、このような形状に限られない。例えば1/4球面に含まれる景色は、直角二等辺三角形の形状に変換されてもよい。図9は、この場合の画像部分の一例を示している。この図の例では、図5と同様に1/4球面S1の景色を含んだ画像部分Ip1が示されており、直角二等辺三角形の頂角が注目方向に対応している。また、幹線Tは、頂角から底辺に延びる垂線、及び底辺によって構成されており、幹線Tのうち注目方向と逆側の半分は、底辺を二分してなる2つの線分の双方に対応している。これに伴って、起点P1は左右の底角に対応する点P1L、点P1Rに対応している。同様に、中継点P2〜P5もそれぞれ底辺上の二点に対応する。このような画像部分を、注目方向に対応する頂角が中心で重なるように4個並べて配置することで、全体として正方形のパノラマ画像Iを生成することができる。この例でも、投影面内において幹線T、及び支線によって囲まれる多角形のそれぞれが、パノラマ画像I内において三角形ないし台形に変換されている。
[画像表示システムの構成、及び機能]
次に、本発明の実施形態に係る画像生成装置10、及び画像表示制御装置20を含んだ画像表示システム1の構成を説明する。
次に、本発明の実施形態に係る画像生成装置10、及び画像表示制御装置20を含んだ画像表示システム1の構成を説明する。
画像生成装置10は、パノラマ画像Iを生成する情報処理装置であって、例えば家庭用ゲーム機、携帯型ゲーム機、パーソナルコンピュータ、スマートフォン、タブレット等であってよい。図10に示されるように、画像生成装置10は、制御部11と、記憶部12と、通信部13と、を含んで構成される。
制御部11は、CPU等のプロセッサーを少なくとも一つ含み、記憶部12に記憶されているプログラムを実行して各種の情報処理を実行する。特に本実施形態では、制御部11はパノラマ画像Iの生成処理を実行する。記憶部12は、RAM等のメモリデバイスを少なくとも一つ含み、制御部11が実行するプログラム、及び当該プログラムによって処理されるデータを格納する。通信部13は、LANカード等の通信インタフェースであって、通信ネットワーク経由で画像表示制御装置20に対してパノラマ画像Iのデータを送信する。
画像表示制御装置20は、画像生成装置10で生成されたパノラマ画像Iに基づく画像の表示制御を行う情報処理装置であって、画像生成装置10と同様に、家庭用ゲーム機、携帯型ゲーム機、パーソナルコンピュータ、スマートフォン、タブレット等であってよい。画像表示制御装置20は、制御部21、記憶部22、及び通信部23を含んで構成されている。さらに画像表示制御装置20は、表示装置24及び操作デバイス25と接続されている。
制御部21は、CPU等のプロセッサーを少なくとも一つ含み、記憶部22に記憶されているプログラムを実行して各種の情報処理を実行する。特に本実施形態では、制御部21は、パノラマ画像Iに基づいて表示画像を描画する処理を実行する。記憶部22はRAM等のメモリデバイスを少なくとも一つ含み、制御部21が実行するプログラム、及び当該プログラムによって処理されるデータを格納する。通信部23は、LANカード等の通信インタフェースであって、画像生成装置10から送信されるデータを通信ネットワーク経由で受信する。
表示装置24は、液晶ディスプレイ等であって、画像表示制御装置20が供給する映像信号に従って画像を表示する。表示装置24は、画像表示制御装置20が供給する立体視可能な画像を表示する立体画像表示装置であってもよい。また、表示装置24は、ユーザーが頭部に装着可能なヘッドマウントディスプレイ等の頭部装着型表示装置であってもよい。
操作デバイス25は、家庭用ゲーム機のコントローラやポインティングデバイス等であって、ユーザーが画像生成装置10に対して各種の指示操作を行うために使用される。操作デバイス25に対するユーザーの操作入力の内容は、有線又は無線のいずれかにより画像表示制御装置20に送信される。なお、操作デバイス25は画像表示制御装置20の筐体表面に配置された操作ボタンやタッチパネル等を含んでもよい。
次に、画像生成装置10及び画像表示制御装置20が実現する機能について、図11を用いて説明する。図11に示すように、画像生成装置10は、機能的に、景色情報取得部31と、パノラマ画像生成部32と、パノラマ画像送信部33と、を含む。これらの機能は、制御部11が記憶部12に記憶されたプログラムを実行することにより実現される。また、画像表示制御装置20は、機能的に、パノラマ画像取得部34と、方向取得部35と、表示画像描画部36と、を含む。これらの機能は、制御部21が記憶部22に記憶されたプログラムを実行することにより実現される。各装置で実行されるプログラムは、インターネット等の通信ネットワークを介して各装置に提供されてもよいし、光ディスク等のコンピュータ読み取り可能な情報記憶媒体に格納されて提供されてもよい。
景色情報取得部31は、パノラマ画像Iを生成するための元データとなる景色情報を取得する。景色情報は、観測点から見た全天周の景色を仮想球Sに投影した場合に、仮想球Sの表面上の各単位領域の色(画素値)を特定するのに必要な情報である。例えば景色情報は、正距円筒図法のように本実施形態とは異なる画像フォーマットで生成されたパノラマ画像であってもよい。また、パノラマカメラによって撮影されたパノラマ写真の画像データであってもよい。景色情報取得部31は、景色情報を通信ネットワーク経由で他の装置から受信してもよいし、画像生成装置10に接続されたカメラ等のデバイスから読み込んでもよい。また、フラッシュメモリー等の情報記憶媒体に記憶された景色情報を読み出してもよい。
パノラマ画像生成部32は、景色情報取得部31が取得した景色情報を用いてパノラマ画像Iを生成する。パノラマ画像Iは、前述したように全天周の全部、又は一部の景色を含んだ2次元の画像データである。具体的にパノラマ画像生成部32は、所与の条件により、注目方向、並びに投影面A1〜A4の位置及び形状を決定する。そして、前述した投影面内の位置とパノラマ画像I内の位置との対応関係に従って、パノラマ画像I内の各画素の画素値を景色情報に基づいて算出することにより、パノラマ画像Iを生成する。
なお、投影面内の位置とパノラマ画像I内の位置との対応関係は、投影面の位置及び形状によって決定される。そして、これまで説明したように、投影面の位置及び形状は、注目方向がどの方向かと、幹線T及び支線Fの位置及び形状によって定義される。これらの投影面の位置及び形状を定義づける情報は、画像表示制御装置20がパノラマ画像Iを用いてその中に含まれる景色を再現するために必要となる。そこでパノラマ画像生成部32は、このようなパノラマ画像Iの構成を定義する情報(以下、画像定義情報という)を、生成したパノラマ画像Iに関連づけて出力する。
また、パノラマ画像生成部32は、立体視用のパノラマ画像データを生成してもよい。この場合に生成される画像データは、例えば左半分に左目用画像を生成するための正方形のパノラマ画像Iを含み、右半分に右目用画像を生成するための正方形のパノラマ画像Iを含んだ縦横比1:2の矩形の画像データであってよい。また、パノラマ画像生成部32は、時間とともに変化する動画像としてパノラマ画像Iを生成してもよい。
パノラマ画像送信部33は、パノラマ画像生成部32が生成したパノラマ画像Iを、画像表示制御装置20に対して送信する。このときパノラマ画像送信部33は、画像定義情報を併せて送信する。
パノラマ画像取得部34は、画像生成装置10のパノラマ画像送信部33が送信するパノラマ画像Iを受信することによって、取得する。ここではパノラマ画像取得部34は、通信ネットワークを介して画像生成装置10から送信されるパノラマ画像Iを直接受信することとする。しかしながら、これに限らず、パノラマ画像取得部34はサーバコンピュータ等の他の装置を経由してパノラマ画像Iを受信してもよい。
方向取得部35は、ユーザーの指示などに基づいて、表示装置24に表示される表示画像の視野範囲(表示範囲)を決定するために用いられる方向情報を取得する。方向取得部35が取得する方向情報は、後述する表示画像描画部36が表示画像を生成する際の仮想カメラの撮像方向として使用される。この撮像方向は、例えば水平方向の角度を表すヨー角と上下方向の角度を表すピッチ角とによって定義される。さらに方向取得部35は、撮像方向を回転軸としたカメラの回転の角度を示すロール角も取得してもよい。
具体的に、例えば方向取得部35は、操作デバイス25に対するユーザーの方向を指示する操作入力を受け付けることによって、方向情報を取得する。あるいは方向取得部35は、ユーザーが画像表示制御装置20の本体を傾ける動作を行った場合に、画像表示制御装置20に内蔵されているモーションセンサーの検出結果から方向情報を取得してもよい。これにより、例えば画像表示制御装置20がスマートフォンやタブレットのように小型の筐体を備えている場合、ユーザーは画像表示制御装置20の向きを変化させることによって任意の向きに視野範囲を変化させることができる。また、表示装置24が頭部装着型表示装置である場合、方向取得部35は、この表示装置24内に内蔵されたモーションセンサーの検出結果から方向情報を取得してもよい。これにより、ユーザーの頭部の向きの変化に応じて視野範囲を変化させることができる。
表示画像描画部36は、パノラマ画像取得部34が取得したパノラマ画像Iに基づいて、方向取得部35が取得した方向情報に応じて決まる視野範囲内の景色を示す表示画像を描画し、表示装置24に表示させる。これによりユーザーは、パノラマ画像I内に含まれる特定の視野範囲内の景色を閲覧することができる。さらに、操作デバイス25に対する操作入力等によって視野範囲を変化させることで、全天周の任意の方向の景色を閲覧することができる。
具体的に、表示画像描画部36は、パノラマ画像Iとともに送信された画像定義情報に基づいて、仮想空間内に投影面A1〜A4を配置する。併せて表示画像描画部36は、その中心位置(仮想球Sの中心点Oに対応する位置)に仮想カメラを配置する。このとき仮想カメラは、方向取得部35が取得した方向情報に応じて決まる向き、及び傾きで配置される。
続いて表示画像描画部36は、投影面A1〜A4の内側に、パノラマ画像Iに基づいて生成されるテクスチャーを貼り付ける。具体例として、図6に例示したパノラマ画像Iを用いて描画処理を行う場合、表示画像描画部36は、図2に例示したような投影面A1を仮想空間内に配置する。また、投影面A1と同形の投影面A2〜A4を、90度ずつ回転させた向きに配置する。そして、図5に例示される画像部分Ip1に含まれる画像を、投影面A1の内側にテクスチャーとして貼り付ける。具体的に、表示画像描画部36は、画像部分Ip1を支線F1〜F5、及びFdによって5個の台形と2個の三角形に分割する。そして、この分割によって得られる三角形や台形などのポリゴンを、画像が生成された際と逆のアフィン変換によって、対応する投影面A1内の平面に応じた形状に変換する。そして、この変換によって得られるテクスチャーを投影面A1内に貼り付ける。例えば画像部分Ip1内において起点P1と支線F1によって形成される右上の三角形は、投影面A1で起点P1を頂点に持つ三角形部分に貼り付けられる。同様に、画像部分Ip1内において支線F1と支線F2で挟まれる台形は投影面A1内でも支線F1と支線F2で挟まれる台形に変換される。このようにして、パノラマ画像I内の全ての三角形や台形などのポリゴンが、対応する投影面A1〜A4に応じた形状に変換されて貼り付けられる。このような処理は、公知の頂点シェーダー等によって実現できる。また、表示画像描画部36は、前述したように、テッセレーション処理を実行して台形をより小さな複数のポリゴンに分割し、分割されたポリゴンごとに変換を行ってもよい。このような描画処理の少なくとも一部は、GPU等によって実現されてもよい。
その後、表示画像描画部36は、仮想球Sの中心点Oに対応する位置に配置された仮想カメラから、このテクスチャーが貼り付けられた投影面A1〜A4を見た様子を描画することで、表示画像を生成する。例えば仮想カメラが注目方向に向けられている場合、投影面A1の終点P7近傍の領域、及びこれと隣接する投影面A2〜A4の領域を含んだ表示画像が描画されることになる。
ここで、前述したようにパノラマ画像Iは、注目方向近傍の領域についてより多くの面積を占める画像フォーマットになっている。このようなパノラマ画像Iに基づいて表示画像を生成することで、注目方向の近傍では、他の領域と比較して高解像度で景色を表す表示画像を生成することができる。
さらに本実施形態では、表示画像描画部36は、方向取得部35が取得する方向の変化に応じて、表示画像をリアルタイムで更新する。すなわち、表示画像描画部36は、方向取得部35が取得する方向が変化すると、その変化した向きと対応する方向に仮想カメラの向きを変化させる。より具体的に、ピッチ角、及びヨー角が変化した場合には、この変化に連動させて仮想カメラの撮像方向を変化させる。また、ロール角が変化した場合には、この変化に連動させて、撮像方向を回転軸として仮想カメラを傾けさせる。これにより、仮想カメラの視野範囲は方向取得部35が取得する方向の変化に連動して変化することになる。表示画像描画部36は、更新された視野範囲に基づいて投影面A1〜A4の内面の様子を再描画して表示画像を更新し、表示装置24の画面に表示する。表示画像描画部36は、このような方向取得部35が取得する方向の変化に応じた表示画像の再描画(更新)処理を、所定時間おきに繰り返し実行する。このような制御によれば、ユーザーは視野範囲を動かしてパノラマ画像I内に含まれる全天周の任意の位置の景色を閲覧することができる。
また、方向取得部35は、ユーザーの指示などに基づいて、仮想カメラの向きだけでなく、仮想カメラの位置の情報を取得してもよい。この場合、表示画像描画部36は、この位置の情報の変化に基づいて、仮想カメラを仮想空間内で平行移動させる。これにより、投影面A1〜A4に貼り付けられた景色を異なる位置から見た様子を表示させることができる。
なお、以上の説明では表示画像は一つの平面画像であるとしたが、表示画像描画部36は立体画像を描画してもよい。この場合、表示画像描画部36は、投影面A1〜A4の中心に左右方向に並んだ二つの仮想カメラを配置する。そして、左目用のパノラマ画像Iに基づいて生成したテクスチャーを貼り付けた投影面A1〜A4の内面を左側の仮想カメラから見た様子を描画することにより、左目用の表示画像を生成する。同様に、右目用のパノラマ画像Iに基づいて生成したテクスチャーを貼り付けた投影面A1〜A4の内面を右側の仮想カメラから見た様子を描画することにより、右目用の表示画像を生成する。これら二つの表示画像を立体視に対応する表示装置24に表示させることによって、ユーザーは全天周の景色を立体的に閲覧することが可能となる。
以上説明したように、本実施形態では、注目方向に近ければ近いほど全天周に対応する仮想球Sの単位領域あたりの情報量が増加するような画像フォーマットでパノラマ画像Iが生成される。このため、重要な部分については高解像度で表示することが可能でありながら、パノラマ画像Iの全体のデータ量を比較的抑えることができる。
なお、以上の説明では画像生成装置10は通信ネットワークを介してパノラマ画像Iを画像表示制御装置20に送信することとしたが、これに限らず、画像生成装置10はフラッシュメモリー等の情報記憶媒体にパノラマ画像Iを書き込むこととし、画像表示制御装置20はこのような情報記憶媒体からパノラマ画像Iを読み出して取得することとしてもよい。また、例えば以上の説明では画像生成装置10と画像表示制御装置20は互いに独立した装置であることとしたが、一つの情報処理装置がパノラマ画像Iの生成と表示制御の双方を実現してもよい。
また、以上の説明において表示画像描画部36は、画像定義情報を参照してパノラマ画像Iが生成された際と同じ形状の投影面を仮想空間内に配置することとしたが、本発明の実施の形態はこのようなものに限られない。例えば表示画像描画部36は、図2に例示した投影面に対応するパノラマ画像Iに基づいて、球状の投影面にテクスチャーを貼り付けて、表示画像を描画してもよい。この場合、表示画像描画部36は、画像定義情報を参照してパノラマ画像I内の各部分が投影面内において占める領域を特定し、当該部分に基づいて生成されたテクスチャーを特定した領域に貼り付ける。このような処理によって、パノラマ画像I生成時の投影面とは異なる形状の投影面に、パノラマ画像Iに含まれる景色を表すテクスチャーを展開することができる。
特に、前述したように表示画像描画部36が視差による立体視を実現するための右目用画像、及び左目用画像を描画する場合、表示画像を描画する際の仮想カメラから投影面までの距離が仮想カメラの方向に応じて変化すると、同じ距離にある物体までの見かけの距離が方向によって変化してしまう。そのため、ユーザーが違和感を覚える場合がある。表示画像を描画する際に球に近い投影面を使用することで、どの方向でも仮想カメラから投影面までの距離が変わらないようにすることができる。
球状の投影面にレンダリングする処理の具体例について、以下に説明する。まず表示画像描画部36は、テッセレーション処理を実行してパノラマ画像Iを比較的小さな三角形の小領域に分割する。例えば表示画像描画部36は、パノラマ画像Iを格子状に小さな正方形に分割し、分割された各正方形を、さらにパノラマ画像Iの中心に対向する向きの対角線で二つの三角形の小領域に分割する。この分割によって得られる小領域のそれぞれについて、その頂点の仮想空間内における位置を算出する。このとき、各頂点の位置は、元のパノラマ画像Iが生成された際の投影面の形状(換言すると、幹線T及び各支線Fの位置情報)に基づいて算出される。そして、表示画像描画部36は、算出された各頂点の位置に応じて、仮想空間内に略球形状となるように小領域を配置していく。このようにすることで、パノラマ画像Iに含まれる景色を再現した球状の投影面を生成することができる。
なお、ここでは各小領域を中心点(仮想カメラの位置)から略等距離になるように配置することとしたが、これに限らず、注視点からの方位を保ったまま各小領域までの距離を変化させてもよい。これにより、方位に応じて投影面までの距離を変化させることもできる。
1 画像表示システム、10 画像生成装置、11,21 制御部、12,22 記憶部、13,23 通信部、20 画像表示制御装置、24 表示装置、25 操作デバイス、31 景色情報取得部、32 パノラマ画像生成部、33 パノラマ画像送信部、34 パノラマ画像取得部、35 方向取得部、36 表示画像描画部。
Claims (9)
- 観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するパノラマ画像生成部と、
前記生成されたパノラマ画像を出力する画像出力部と、
を含み、
前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、
前記パノラマ画像生成部は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成する
ことを特徴とする画像生成装置。 - 請求項1に記載の画像生成装置において、
前記パノラマ画像生成部は、前記投影面が前記パノラマ画像に変換された際、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に近い位置ほど長くなるように、前記投影面に対応する前記パノラマ画像を生成する
ことを特徴とする画像生成装置。 - 請求項2に記載の画像生成装置において、
前記投影面は、前記幹線に対して対称に形成され、当該幹線は、前記注目方向に近づくほど、前記観測点からの距離が大きくなる形状を有する
ことを特徴とする画像生成装置。 - 請求項1から3のいずれか一項に記載の画像生成装置において、
前記投影面は、複数の多角形が連結された形状を有する
ことを特徴とする画像生成装置。 - 請求項1から4のいずれか一項に記載の画像生成装置において、
前記パノラマ画像内において前記注目方向に対応する点は、前記パノラマ画像の中心に位置する
ことを特徴とする画像生成装置。 - 観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を取得する取得部と、
前記取得したパノラマ画像に基づいて、所与の視野範囲の景色を示す表示画像を描画し、表示装置の画面に表示させる描画部と、
を含み、
前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、
前記パノラマ画像は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面を変換してなるパノラマ画像である
ことを特徴とする画像表示制御装置。 - 観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するステップと、
前記生成されたパノラマ画像を出力するステップと、
を含み、
前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、
前記パノラマ画像を生成するステップでは、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成する
ことを特徴とする画像生成方法。 - 観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面を平面形状に変換してなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されているパノラマ画像を生成するパノラマ画像生成部、及び、
前記生成されたパノラマ画像を出力する画像出力部、
としてコンピュータを機能させるためのプログラムであって、
前記投影面は、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線を含み、
前記パノラマ画像生成部は、前記幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面に対応する前記パノラマ画像を生成する
プログラム。 - 観測点から見た仮想球上の少なくとも一部範囲の景色を投影した投影面が平面形状に変換されてなるパノラマ画像であって、前記観測点から見て所与の注目方向を含む前記仮想球上の単位領域が、他の単位領域よりも広い領域に変換されており、
前記投影面に含まれる、前記注目方向上の位置と当該注目方向の反対方向上の位置とを結ぶ幹線のうち、前記観測点回りの回転角の単位量に対応する部分の前記パノラマ画像内における長さが、前記注目方向に最も近い位置で最も長くなるように、前記投影面が変換されてなるパノラマ画像の画像データ。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JPPCT/JP2017/001752 | 2017-01-19 | ||
PCT/JP2017/001752 WO2018134946A1 (ja) | 2017-01-19 | 2017-01-19 | 画像生成装置、及び画像表示制御装置 |
PCT/JP2017/037383 WO2018135052A1 (ja) | 2017-01-19 | 2017-10-16 | 画像生成装置、及び画像表示制御装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2018135052A1 JPWO2018135052A1 (ja) | 2019-11-07 |
JP6719596B2 true JP6719596B2 (ja) | 2020-07-08 |
Family
ID=62908477
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018562874A Active JP6719596B2 (ja) | 2017-01-19 | 2017-10-16 | 画像生成装置、及び画像表示制御装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US10699372B2 (ja) |
EP (1) | EP3573018B1 (ja) |
JP (1) | JP6719596B2 (ja) |
CN (1) | CN110192221B (ja) |
WO (2) | WO2018134946A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10885819B1 (en) * | 2019-08-02 | 2021-01-05 | Harman International Industries, Incorporated | In-vehicle augmented reality system |
KR20220153366A (ko) * | 2021-05-11 | 2022-11-18 | 삼성전자주식회사 | 이미지 왜곡을 보정하는 방법 및 그 전자 장치 |
CN117278733B (zh) * | 2023-11-22 | 2024-03-19 | 潍坊威龙电子商务科技有限公司 | 全景摄像在vr头显中的显示方法及系统 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5912670A (en) * | 1996-08-05 | 1999-06-15 | International Business Machines Corporation | Method and apparatus for overlaying a bit map image on an environment map |
US6559853B1 (en) * | 2000-02-16 | 2003-05-06 | Enroute, Inc. | Environment map creation using texture projections with polygonal curved surfaces |
JP2004056335A (ja) | 2002-07-18 | 2004-02-19 | Sony Corp | 情報処理装置および方法、表示装置および方法、並びにプログラム |
WO2008075779A1 (en) | 2006-12-18 | 2008-06-26 | Fujifilm Corporation | Monitoring system, monitoring method and program |
US8016426B2 (en) * | 2008-02-27 | 2011-09-13 | 6115187 Canada Inc. | Method and device for projecting a panoramic image with a variable resolution |
JP2012095229A (ja) | 2010-10-28 | 2012-05-17 | Sharp Corp | 画像表示装置及び画像表示装置用のコンピュータプログラム |
JP5790345B2 (ja) | 2011-09-07 | 2015-10-07 | 株式会社リコー | 画像処理装置、画像処理方法、プログラムおよび画像処理システム |
JP2013101525A (ja) * | 2011-11-09 | 2013-05-23 | Sony Corp | 画像処理装置および方法、並びにプログラム |
CN103139580B (zh) * | 2011-11-29 | 2015-11-25 | 长春理工大学 | 一种三维全景空间立体图像生成方法 |
JP6044328B2 (ja) * | 2012-12-26 | 2016-12-14 | 株式会社リコー | 画像処理システム、画像処理方法およびプログラム |
JP2014183353A (ja) | 2013-03-18 | 2014-09-29 | Sony Corp | 映像処理装置、映像再生装置、映像処理方法、映像再生方法及び映像処理システム |
JP6450064B2 (ja) | 2013-03-18 | 2019-01-09 | 任天堂株式会社 | 情報処理装置、動画データのデータ構造、情報処理システム、動画再生プログラム、および、動画の再生方法。 |
JP2014192566A (ja) | 2013-03-26 | 2014-10-06 | Sony Corp | 映像処理装置、映像処理方法およびコンピュータプログラム |
JP5741659B2 (ja) | 2013-09-17 | 2015-07-01 | カシオ計算機株式会社 | 動画選別装置、動画選別方法及びプログラム |
US9836816B2 (en) * | 2014-04-05 | 2017-12-05 | Sony Interactive Entertainment America Llc | Varying effective resolution by screen location in graphics processing by approximating projection of vertices onto curved viewport |
KR101587147B1 (ko) * | 2014-06-10 | 2016-01-20 | 엘지전자 주식회사 | 차량용 어라운드뷰 제공 장치 및 이를 구비한 차량 |
JP2016019194A (ja) * | 2014-07-09 | 2016-02-01 | 株式会社東芝 | 画像処理装置、画像処理方法、および画像投影装置 |
CN107409233B (zh) | 2015-03-05 | 2020-04-14 | 索尼公司 | 图像处理装置和图像处理方法 |
JP6359993B2 (ja) | 2015-03-09 | 2018-07-18 | 日本電信電話株式会社 | 映像配信方法、映像配信装置及び映像配信プログラム |
US20180115796A1 (en) | 2015-03-26 | 2018-04-26 | Lg Electronics Inc. | Broadcast signal transmitting device, broadcast signal receiving device, broadcast signal transmitting method, and broadcast signal receiving method |
US20180176650A1 (en) | 2015-06-12 | 2018-06-21 | Sony Corporation | Information processing apparatus and information processing method |
-
2017
- 2017-01-19 WO PCT/JP2017/001752 patent/WO2018134946A1/ja active Application Filing
- 2017-10-16 WO PCT/JP2017/037383 patent/WO2018135052A1/ja unknown
- 2017-10-16 US US16/478,255 patent/US10699372B2/en active Active
- 2017-10-16 EP EP17893297.6A patent/EP3573018B1/en active Active
- 2017-10-16 JP JP2018562874A patent/JP6719596B2/ja active Active
- 2017-10-16 CN CN201780083800.6A patent/CN110192221B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
WO2018134946A1 (ja) | 2018-07-26 |
EP3573018A4 (en) | 2020-09-02 |
EP3573018B1 (en) | 2021-12-22 |
EP3573018A1 (en) | 2019-11-27 |
US10699372B2 (en) | 2020-06-30 |
WO2018135052A1 (ja) | 2018-07-26 |
US20190355090A1 (en) | 2019-11-21 |
JPWO2018135052A1 (ja) | 2019-11-07 |
CN110192221B (zh) | 2023-11-14 |
CN110192221A (zh) | 2019-08-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP3057066B1 (en) | Generation of three-dimensional imagery from a two-dimensional image using a depth map | |
JP6672315B2 (ja) | 画像生成装置、及び画像表示制御装置 | |
JP7353782B2 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
JP6310898B2 (ja) | 画像処理装置、情報処理装置、および画像処理方法 | |
US10893259B2 (en) | Apparatus and method for generating a tiled three-dimensional image representation of a scene | |
JP6719596B2 (ja) | 画像生成装置、及び画像表示制御装置 | |
US20220327781A1 (en) | Stereoscopic rendering of virtual 3d objects | |
CN110648274A (zh) | 鱼眼图像的生成方法及装置 | |
CN114511447A (zh) | 图像处理方法、装置、设备及计算机存储介质 | |
JP2006350852A (ja) | 画像生成システム | |
JP6791991B2 (ja) | 画像配信装置 | |
JP7447403B2 (ja) | 情報処理装置、情報処理システム、情報処理方法及びプログラム | |
JP2022067171A (ja) | 生成装置、生成方法、及び、プログラム | |
JP2007213161A (ja) | 画像処理装置、画像処理方法およびその方法をコンピュータに実行させるためのプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190712 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200602 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200616 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6719596 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |