JP2015046171A - 画像を生成する装置および方法 - Google Patents
画像を生成する装置および方法 Download PDFInfo
- Publication number
- JP2015046171A JP2015046171A JP2014198857A JP2014198857A JP2015046171A JP 2015046171 A JP2015046171 A JP 2015046171A JP 2014198857 A JP2014198857 A JP 2014198857A JP 2014198857 A JP2014198857 A JP 2014198857A JP 2015046171 A JP2015046171 A JP 2015046171A
- Authority
- JP
- Japan
- Prior art keywords
- image
- range
- viewpoint
- generating
- view
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 66
- 238000012545 processing Methods 0.000 claims abstract description 93
- 230000008569 process Effects 0.000 claims description 28
- 230000008859 change Effects 0.000 abstract description 11
- 238000003384 imaging method Methods 0.000 description 41
- 230000003287 optical effect Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 13
- 238000013507 mapping Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 6
- 230000004044 response Effects 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 5
- 239000007787 solid Substances 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 230000015572 biosynthetic process Effects 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000012937 correction Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 238000004091 panning Methods 0.000 description 2
- 238000003786 synthesis reaction Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000010354 integration Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001131 transforming effect Effects 0.000 description 1
Abstract
【課題】 画像を生成する装置および方法を提供すること。【解決手段】本画像処理システム100は、出力範囲を規定する入力値を受け付ける受付手段258と、対象画像を三次元形状に貼り付けた三次元モデルを生成する生成手段(260,266)と、入力値に基づき、視点の位置および視野角を決定する決定手段(260,264)と、視点から三次元モデルを射影する射影手段(260,268)とを含む。上記決定手段(260,264)は、入力値が、第1の範囲にある場合は、視野角を優先的に変化させることで対象画像の視野内に入る範囲を変化させ、入力値が、第1の範囲より広視野側にある第2の範囲にある場合は、視点の位置を優先的に変化させることで視野内に入る範囲を変化させる。【選択図】 図2
Description
本発明は、画像処理技術に関し、より詳細には、画像を生成する装置および方法に関する。
従来、カメラなどにより撮影された画像を平面ディスプレイ上で表示するシステムとして、パノラマ画像ビューワが知られている。パノラマ画像ビューワは、撮影方向が異なり、かつ一部被写体を重複して撮影した複数枚の画像をつなぎ合わせ、つなぎ合わせた合成画像をディスプレイ上に表示するシステムである。
従来のパノラマ画像ビューワは、つなぎ合わせたパノラマ画像について、パン(視野の左右移動)、チルト(視野の上下移動)、ズーム(拡大縮小)といった各種の表示範囲変更操作を可能とする機能を備えている。パノラマ画像ビューワは、円筒の側面上または球面上に貼り付けられた画像を円筒もしくは球の重心から見た場合の画像を平面上に射影して表示させる手法を利用することが多い。この場合、平面ディスプレイ上には、ユーザによって設定された、パン、チルト、ズームの各設定値に対応して、円筒の側面上もしくは球面上に沿って焦点を形成した三次元面上の画像を平面画像に射影して表示が行われる。
しかしながら、従来技術のパノラマ画像ビューワでは、表示範囲変更操作のうちの特にズーム機能によって一定以上に視野が広くなった場合に、視野の端部で画像に違和感を生じさせたり、歪みを感じさせてしまうことがあるという問題があった。
パノラマ画像のような広画角な画像を違和感なく表示することを目的とした技術として、非特許文献1が知られている。非特許文献1は、パノラマ画像を求められる視野で表示するビューワを開示する。非特許文献1のビューワは、狭視野では、透視投影を行い、広視野では、円筒投影または球面投影を行うように、射影方式を連続的に調整している。
しかしながら、上記非特許文献1の従来技術は、ズームに応じて射影方式を切り替えているため、処理が複雑になり、リアルタイム処理を実現するためには、高い演算性能を必要とする。一方で、近年、パノラマ画像ビューワは、パーソナル・コンピュータのみならず、スマートフォン端末、タブレット端末など、CPU(Central Processing Unit)の演算能力が比較的低い情報端末上で実行されることも多くなっている。このような低演算能力の情報端末では、上記非特許文献1のような複雑な処理では、例えば30fps(Frame per Second)程度のリアルタイム表示を行うことが困難になる。
近年の情報端末は、CPUに加えて、グラフィックス演算を担当するGPU(Graphics Processing Unit)を搭載するものも多い。GPUは、典型的には、OpenGLなどのAPI(Application Programming Interface)に対応した演算機能を有し、高速な画像処理演算を実現可能としている。しなしながら、スマートフォンなどが備えるGPUは、OpenGLのサブセット版に対応するものであり、比較的単純なモデルでの演算を余儀なくされる。
上述した背景から、演算能力に制約のあるような情報端末でも、パノラマ画像表示する際に、広画角領域での表示において、上下左右の端部の被写体が引き伸ばされることによる違和感を低減しつつ、高速表示が可能な技術の開発が望まれていた。
本発明は、上記従来技術の不充分な点に鑑みてなされたものであり、本発明は、画像表示する際に、広視野領域での表示において、上下左右の端部の被写体が引き伸ばされることによる違和感を低減しつつ高速表示を可能とする、演算能力に対する要件が緩和された装置および方法を提供することを目的とする。
本発明では、上記課題を解決するために、下記特徴を有する装置を提供する。本装置は、画像を生成し、当該画像をディスプレイに入力するプロセッサを備え、上記プロセッサは、上記画像について視野角を変化させた画像を生成する処理と、上記画像について視点の位置を変化させた画像を生成する処理と、を実行することを特徴とする。
上記構成によれば、画像表示する際に、広視野側の領域での表示において、上下左右の端部の被写体が引き伸ばされることによる違和感を低減しつつ高速表示を行う際の、演算能力に対する要件を緩和することができる。
以下、本発明の実施形態について説明するが、本発明の実施形態は、以下に説明する実施形態に限定されるものではない。なお、説明する実施形態では、画像処理システムとして、全天球撮像装置と、該全天球撮像装置により撮像された画像を受け取り、ディスプレイ装置等に出力するための出力画像を生成する画像処理装置とを含む全天球画像表示システムを一例に説明する。
図1は、本実施形態による全天球画像表示システム100の概略構成を説明する図である。図1に示す全天球画像表示システム100は、全天球を撮像する全天球撮像装置110と、スマートフォン120と、タブレット端末122と、パーソナル・コンピュータ124とを含み構成されている。スマートフォン120、タブレット端末122およびパーソナル・コンピュータ124は、それぞれ、全天球撮像装置110で撮像された画像をディスプレイ等に表示する画像ビューワ機能を備えた、本実施形態における画像処理装置を構成する。
図1に示す実施形態において、全天球撮像装置110と、画像処理装置120〜124とは、特に限定されるものではないが、無線LAN(Local Area Network)、ワイヤレスUSB(Universal Serial Bus)またはBluetooth(登録商標)などの無線接続により接続されている。全天球撮像装置110で撮像された所定のフォーマットの画像は、無線通信を介して、画像処理装置120〜124に送信され、所定の画像処理が施されて、画像処理装置120〜124が備えるディスプレイ装置上に表示される。なお、上記接続形態は、一例であり、有線LANや有線USBなどにより有線接続されていてもよい。
説明する実施形態において、全天球撮像装置110は、それぞれ結像光学系および固体撮像素子から構成される2つの撮像光学系を備え、撮像光学系毎に各方向から撮影し撮像画像を生成する。結像光学系は、それぞれ、例えば6群7枚で魚眼レンズとして構成することができる。上記魚眼レンズは、180度(=360度/n;n=2)より大きい全画角を有し、好適には、185度以上の全画角を有し、より好適には、190度以上の全画角を有する。なお、説明する実施形態では、魚眼レンズは、広角レンズや、超広角レンズと呼ばれるものを含むものとする。
全天球撮像装置110は、複数の固体撮像素子でそれぞれ撮像された撮像画像をつなぎ合わせて合成し、立体角4πラジアンの画像(以下「全天球画像」と参照する。)を生成する。全天球画像は、撮影地点から見渡すことのできる全ての方向を撮影したものとなる。上述したように、魚眼レンズが180度を超える全画角を有するため、各撮像光学系で撮像した撮影画像において、180度を超えた部分で撮影範囲が重複する。画像をつなぎ合わせる際には、この重複領域が同一像を表す基準データとして参照されて、全天球画像が生成される。
ここで、説明する実施形態では、立体角4πラジアンの全天球画像を生成するものとしているが、他の実施形態では、水平面のみ360度を撮影した、いわゆるパノラマ画像であってもよい。また、説明する実施形態では、2つの撮像光学系を含み構成されるものとして説明するが、撮像光学系の数は、特に限定されるものではない。他の実施形態では、全天球撮像装置110は、3つ以上の魚眼レンズを光学系に含む撮像体を備えるとともに、3つ以上の魚眼レンズで撮像された複数の撮像画像に基づいて全天球画像を生成する機能を備えていてもよい。さらに他の実施形態では、全天球撮像装置110は、単一の魚眼レンズを光学系に含む撮像体を備え、単一の魚眼レンズで異なる方位で撮像された複数の撮像画像に基づいて全天球画像を生成する機能を備えていてもよい。
生成された全天球画像は、所定のフォーマットで、通信により外部の画像処理装置120〜124に送信され、あるいはSD(登録商標)カード、コンパクトフラッシュ(登録商標)などの外部記憶媒体などに出力される。
上記画像処理装置120〜124は、接続を介して全天球画像を受信し、または、全天球画像が記録された外部記録媒体を経由して全天球画像を取得し、一旦自身の記録装置上に全天球画像を保存する。上記画像処理装置120〜124は、取得された全天球画像から、自身が備えるディスプレイ、自身に接続されるプロジェクタなどの平面表示デバイスに表示出力するための出力画像を生成し、平面表示デバイスから出力画像を表示させることができる。上記画像処理装置120〜124は、さらに、生成された出力画像を、自身に接続された画像形成装置から紙媒体へ印刷出力することもできる。全天球画像から出力画像を生成する処理ついては、詳細を後述する。
図1に示す実施形態では、さらに、全天球撮像装置110および画像処理装置120〜124は、アクセスポイント、モバイル・ルータ、ブロードバンドルータなどの通信機器104を介して、インターネット102に接続されている。そして、インターネット102上には、画像表示サーバ130が設けられている。
図1に示す画像表示サーバ130は、全天球撮像装置110または画像処理装置120〜124から送付された全天球画像を受信し、受信した全天球画像を蓄積し、管理する。画像表示サーバ130は、また、画像処理装置120〜124や他の情報処理端末からの全天球画像の表示要求に応答して、全天球画像に基づき出力画像を生成し、生成した出力画像を要求元装置へ送信する。これにより、要求元装置の平面表示デバイス上に該出力画像を表示させることができる。
画像表示サーバ130は、特定の実施形態では、webサーバとして構成することができ、HTTP(HyperText Transfer Protocol)に従い、全天球画像を含む画像登録要求にかかるリクエストを受信し、全天球画像を蓄積することができる。画像表示サーバ130は、さらに、出力対象の全天球画像が指定された画像表示要求にかかるリクエストを受信し、対象となる全天球画像を読み出し、画像処理を施し出力画像を生成して、出力画像を含むレスポンスを応答することができる。レスポンスを受信した要求元装置では、ウェブブラウザにより、受信した出力画像が平面表示デバイス上に表示される。そして、ウェブブラウザにより、適宜、出力画像の印刷出力が行われる。なお、画像表示サーバ130も、本実施形態において、出力画像を生成する画像処理装置として構成される。
以下、図2〜図12を参照しながら、本実施形態における、全天球画像から出力画像を生成する全天球画像出力処理について、より詳細に説明する。図2は、本実施形態における全天球画像表示システムにおける全天球画像出力処理に関する機能ブロック200を示す図である。図2に示す機能ブロック200は、全天球撮像装置110上の機能ブロック210と、画像処理装置120〜124,130上の機能ブロック250とを含み構成される。
全天球撮像装置110の機能ブロック210は、それぞれ各方向を撮像する2つの撮像光学系212A,212Bと、各撮像光学系212で撮影された各撮像画像の入力を受けて、全天球画像を生成し、出力する合成処理ブロック214とを含む。
画像処理装置の機能ブロック250は、入力部252と、出力部254と、全天球画像蓄積部256と、ユーザ入力受付部258と、平面画像生成部260と、画像出力部262とを含み構成される。入力部252は、タッチパネル、マウス、キーボードなどの入力装置である。出力部254は、入力部252に行われたユーザ操作の入力に応じた画像処理結果を表示する平面表示デバイス、画像処理結果を印刷出力する画像形成装置などの出力装置である。入力部252および出力部254は、画像処理装置自身に備えられてもよいし、画像処理装置が接続される外部装置に備えられてもよい。
全天球画像蓄積部256は、全天球撮像装置110で撮像され、上記接続または外部記録媒体などを介して画像処理装置120〜124に入力された全天球画像を蓄積する手段である。ユーザ入力受付部258は、入力部252を介して行われた出力範囲変更操作に基づき、操作に応じた全天球画像の出力範囲を規定する入力値を受け付け、入力値を平面画像生成部260に渡す。
出力範囲変更操作としては、視野を左右に移動させるパン操作、視野を上下に移動させるチルト操作および、出力する画像の範囲を拡大または縮小するズーム操作などを挙げることができる。上記出力範囲変更操作による変更の結果として、または直接入力された結果として、パン指定値、チルト指定値およびズーム指定値が、全天球画像の出力範囲を規定する入力値として取得される。
平面画像生成部260は、受け付けられた上記入力値に基づき、画像生成する際のパラメータ(以下、画像生成パラメータと参照する。)を決定し、決定された画像生成パラメータに基づき、全天球画像から出力画像を生成する。画像出力部262は、生成された出力画像を、出力部254に出力させる。出力画像は、平面表示デバイス上での適切な表示を行うため平面画像となる。
なお、画像処理装置が、画像表示サーバ130などのwebサーバとして動作する場合は、入力部252および出力部254の構成は、以下のようになる。すなわち、入力部252は、画像登録にかかるHTTPリクエストを受信するHTTP受信部として構成される。出力部254は、画像表示にかかるHTTPリクエストに応答して、生成された出力画像を、レスポンスとして要求元に返すHTTP送信部として構成される。
図3は、全天球画像出力処理における各画像のデータ構造および画像のデータフローを説明する図である。本実施形態による撮像光学系212は、撮像処理により、2つの撮像画像を生成する。本実施形態において、レンズ光学系に入射した光は、所定の射影方式に従って、対応する固体撮像素子の受光領域に結像される。上記撮像画像は、受光領域が平面エリアを成す2次元の固体撮像素子で撮像されたものであり、平面座標系で表現された画像データとなる。また本実施形態では、画像対角線よりもイメージサークル径が小さな、いわゆる円周魚眼レンズの構成が採用される。したがって、得られる撮像画像は、図3において「撮像画像A」および「撮像画像B」で示されるように、各撮影範囲が投影されたイメージサークル全体を含む平面画像として構成される。
図4は、魚眼レンズで採用され得る射影方式を例示する図である。魚眼レンズとしては、種々の設計が考えられるが、その射影方式としては、図4に示すような、正射影方式(図4(A))、等距離射影方式(図4(B))、立体射影方式(図4(C))および等立体角射影方式(図4(D))を挙げることができる。また、説明する実施形態において、1つの魚眼レンズで撮影された撮像画像は、撮影地点から概ね半球分(全画角が180度を超える部分で半球からはみ出している。)の方位を撮影したものとなる。そして、図4に示すように、画像は、光軸に対する入射角度βに対応した像高rで生成される。入射角βからの光を受光する受光領域上の画素位置(像高:レンズ焦点からの放射方向の距離)rは、焦点距離をfとして、所定の投影モデルに応じた下記射影関数を用いて決定することができる。
魚眼レンズが採用する射影方式に対応した上記式により、方位(入射角および光軸周りの回転角)と、平面画像上の画素位置の座標とが対応付けられる。好ましい実施形態では、魚眼レンズは、図4(C)で示す立体射影方式を用いることができる。
合成処理ブロック214は、2つの撮像光学系212A,212Bから得られた2つの撮影画像に対し、図示しない3軸加速度センサからの情報を利用し、歪曲補正とともに天地補正を施し、画像合成する。画像合成処理では、平面画像として構成される各撮像画像から、まず、相補的な各半休部分を含む各全天球画像が生成される。そして、各半球部分を含む2つの全天球画像が、重複領域のマッチングに基づいて位置合わせされ、画像合成され、全天球全体を含む全天球画像が生成される。
図5は、本実施形態で用いられる全天球画像フォーマットの画像データのデータ構造を説明する図である。図5(A)に示すように、全天球画像フォーマットの画像データは、所定の軸に対してなされる垂直角度φと、上記所定の軸周りの回転角に対応する水平角度θとを座標とした画素値の配列として表現される。ここで、全天球画像は、図3に示すように、撮影されたシーンの天頂方向を軸とした垂直角度(緯度経度座標における緯度)および、天頂方向の軸周りの水平角度(緯度経度座標における経度)で構成される座標系で表現されるものとする。垂直角度φは、−90度〜+90度の範囲となり、水平角度θは、−180度〜+180度の範囲となる。
全天球フォーマットの各座標値(θ,φ)は、図5(B)に示すように、撮影地点を中心とした全方位を表す球面上の各点と対応付けられており、全方位が全天球画像上に対応付けられる。魚眼レンズで撮影された撮像画像の平面座標と、全天球画像フォーマットの球面上の座標とは、上述した射影関数、適宜座標変換を施すことによって対応付けされる。
なお、以下の説明では、全天球画像フォーマットの図5(A)に示す2次元座標は、図5(A)において灰色の軸で示すように、左下原点の座標系である。そして、以下の説明では、2次元座標は、0〜水平方向の画素数に応じた範囲の水平角度値xと、0〜垂直方向の画素数に応じた範囲の垂直角度値yに変換して取り扱うものとする。例えば1/10度刻みで画素を構成すると、水平角度値xは、0〜3799の範囲となり、垂直角度値yは、0〜1800の範囲となる。水平角度値xと水平角度θとの関係および垂直角度値yと垂直角度φとの関係は、下記(1)および(2)で表される。下記式(1)および(2)中、wおよびhは、それぞれ、全天球画像フォーマットの画像幅(例えば3600画素)および画像高さ(例えば1801画素)に対応する。
そして、図5(A)に示す全天球画像の2次元座標(x,y)と、図5(B)に示す全天球の表面の三次元座標(xs,ys,zs)との間の関係は、下記式(3)および(4)で計算される。図5(B)に示す三次元座標は、右手系であり、球体の中心を原点とし、rは半径を表す。
2つの撮像光学系212A,212Bで撮影された2つの画像(撮像画像Aおよび撮像画像B)と、全天球画像上の画像領域との関係は、説明する実施形態では、図3に「全天球画像」で示す対応関係となる。画像合成された全天球画像は、所定のフォーマットで、内蔵メモリまたは外部記録媒体に保存される。全天球画像が保存されるファイル・フォーマットは、ビットマップなどの無圧縮の静止画像であってもよいし、JPEG(Joint Photographic Experts Group)、GIF(Graphics Interchange Format)、PNG(Portable Network Graphics)などの圧縮形式の静止画像としてもよい。全天球画像は、さらに他の実施形態では、MPEG(Moving Picture Experts Group)やAVI(Audio Video Interleave)などの動画像におけるフレーム画像として含まれてもよい。なお、以下に説明する実施形態では、全天球画像は、静止画像であるとして説明する。
画像処理装置の機能ブロック250では、全天球画像蓄積部256により、全天球画像が保存され、平面画像生成部260により、引き続き、全天球画像を入力として、全天球画像から出力画像に変換する画像処理が行われる。なお、説明する実施形態では、入力される全天球画像は、好適な実施形態では、全天球撮像装置110により撮像されたものとして説明するが、全天球画像の由来は、必ずしも限定されるものではない。例えば、撮像された画像に対して所定の画像加工が施されてもよいし、コンピュータ・グラフィックスにより生成された画像が含まれてもよい。
平面画像生成部260は、ユーザ入力受付部258から、上記出力範囲変更操作による変更等の結果として、決定された上記パン指定値、チルト指定値およびズーム指定値を含む入力値を受け取る。平面画像生成部260は、受け取った入力値に基づき、後述するように画像生成パラメータを決定し、決定された画像生成パラメータに基づき、出力画像の画像生成処理を実行する。
上述したように、全天球画像は、上記式(3)および(4)により三次元座標に対応付けることができる。上記画像生成処理では、入力された全天球画像を、所定の三次元形状の内面に貼り付けた三次元モデルを構築し、所定条件の下、仮想的なカメラ(以下、単にカメラと参照する。)から射影表示させて出力画像Sを得る。
図6は、三次元グラフィックス表示で行われる透視投影(Perspective Projection)を説明する図である。図6に示すように、平面画像生成部260は、全天球画像を球体の内面に貼り付けた三次元モデルを、透視投影処理することによって平面画像の出力画像を生成する。透視投影する際の画像生成パラメータは、上記入力値に応じて決定される。画像生成パラメータとしては、特定の実施形態では、カメラの視点の位置(d)、方向(v)、視野角(Θ)および投影範囲(zNear,zFar)を挙げることができる。
出力画像Sは、球体の中心から特定の緯度経度方向(v)を向いて三次元モデルを見たときに、特定の視野角(Θ)内で観察される画像を、表示領域の形状に応じて切り取った画像となる。上記投影範囲(zNear,zFar)のパラメータは、透視投影される範囲を指定するものであるが、適切な値が決定されるものとする。なお、画像生成パラメータの決定方法および射影処理の詳細については、図7〜図12を参照して後述する。
なお、図2に示した実施形態では、撮像光学系212および合成処理ブロック214を全天球撮像装置上のコンポーネントとしている。そして、入力部252、出力部254、全天球画像蓄積部256、ユーザ入力受付部258、平面画像生成部260および画像出力部262を画像処理装置上のコンポーネントとして、分散実装している。しかしながら、実装の態様は特に限定されるものではない。
他の実施形態では、すべてのコンポーネントを単一の装置上に配置して全天球画像表示システムを構成してもよい。さらに他の実施形態では、コンポーネントの任意の一部を、それぞれ、全天球画像表示システムを構成している複数の装置のいずれか上に配置して、複数の装置の組み合わせとして全天球画像表示システムを構成してもよい。例えば、特定の実施形態では、画像処理装置が合成処理ブロックを備え、全天球撮像装置から2つの撮像画像を受信して、全天球画像を準備する構成とすることができる。
以下、図7および図8を参照しながら、本実施形態における全天球画像出力処理の流れについて、より詳細に説明する。なお、以下、出力処理として、全天球画像を表示する画像ビューワにおける表示処理について説明する。図7は、本実施形態の画像処理装置が実行する全天球画像表示処理を示すフローチャートである。図8は、全天球画像を所定範囲で表示する画像ビューワ画面を例示する図である。
図7に示す処理は、例えば、画像処理装置250のオペレータにより、所定の全天球画像を特定した表示指示が行われたことに応答して、ステップS100から開始される。ステップS101では、画像処理装置250は、平面画像生成部260により、予め設定されたデフォルトのパン指定値、チルト指定値およびズーム指定値に基づき、初期の画像処理パラメータを決定する。ステップS102では、画像処理装置250は、平面画像生成部260により、決定された画像処理パラメータに基づき、全天球画像から平面画像を生成する。
ステップS103では、画像処理装置250は、画像出力部262により、生成された平面画像を画像ビューワ画面の所定位置に表示させる。図8に示す画像ビューワ画面300は、画像表示領域310と、画像表示領域310に表示させる画像の表示範囲を変更するためのGUI(Graphical User Interface)部品322,324とを含み構成される。画像表示領域310には、上記平面画像生成部260により生成された、入力値に応じた範囲の出力画像が、画像出力部262により表示される。
ステップS104では、画像処理装置250は、ユーザ入力受付部258により表示範囲変更操作が受け付けられたか否かを判定する。ここで、表示範囲変更操作は、各操作に対応するGUI部品322,324に対して行われた、クリック、フリックなど操作イベントの発生により検出される。図8に例示する画像ビューワ画面300は、ズーム指定値を変更するものとして、ズームインの指示を待ち受けるGUI部品322Iと、ズームアウトの指示を待ち受けるGUI部品322Oとを含む。画像ビューワ画面300は、さらに、パン指定値およびチルト指定値を変更するものとして、左および右方向へパンの指示を待ち受ける左ボタン324Lおよび右ボタン324Rと、上および下方向へチルトの指示を待ち受ける上ボタン324Uおよび下ボタン324Dとを含む。
表示範囲変更操作は、GUI部品に対する操作の他、各表示範囲変更操作に関連付けられたショートカット・キー、ジェスチャ、マルチタッチ操作など操作イベントの発生により検出することができる。例えば、ショートカット・キーとしては、キーボードにおけるズームインおよびズームアウトを指示する「+」ボタンおよび「−」ボタンを挙げることができる。さらに、左右のパンおよび上下のチルトを指示する左右の矢印ボタンおよび上下の矢印ボタンに対するキー操作をショートカット・キーとしてもよい。マルチタッチ操作としては、ズーム操作に関連付けられたピンチインおよびピンチアウトを挙げることができる。
ステップS104では、表示範囲変更操作を受け付けるまでの間(ステップS104でNOの間)、ステップS104内をループさせて、表示範囲変更操作が待ち受けられる。ステップS104で表示変更操作が受け付けられたと判定された場合(YES)は、ステップS105へと処理が分岐される。
ステップS105では、上記表示変更操作が行われた結果として決定されるパン指定値、チルト指定値およびズーム指定値に基づき、変更された画像処理パラメータを決定し、ステップS102へ処理を分岐させる。この場合、続くステップS102では、平面画像生成部260により、変更後の画像処理パラメータに基づき、平面画像の生成処理が行われる。ステップS103では、画像出力部262により、ユーザ操作に応じて新たに生成された平面画像で、画像ビューワ画面300の画像表示領域310が更新される。
以下、図9〜図12を参照しながら、本実施形態による全天球画像出力処理について、より詳細に説明する。図9は、本実施形態における画像処理装置上の平面画像生成部260の詳細な機能ブロックを示す図である。図9に示す平面画像生成部260は、パラメータ決定部264と、テクスチャマッピング部266と、射影部268とを含み構成される。
パラメータ決定部264は、ユーザ入力受付部258から渡された各種入力値(パン指定値、チルト指定値およびズーム指定値)に応じて、カメラの視点の位置(d)および視野角(Θ)を含む画像生成パラメータを決定する決定手段である。
テクスチャマッピング部266は、表示対象画像である全天球画像を所定の三次元形状に貼り付けた三次元モデルを生成する生成手段である。三次元モデルの生成は、いわゆるテクスチャマッピングの手法により行うことができる。テクスチャマッピングは、スマートフォンやタブレットなどの演算能力に制約がある情報処理端末が搭載するGPUが対応するOpenGLなどでも一般的なグラフィックス処理であり、三次元形状の表面にテクスチャ画像を貼り付ける処理をいう。テクスチャマッピング部266は、指定された全天球画像を読み出し、テクスチャを格納するテクスチャバッファに転送し、三次元モデルに割り付ける。
説明する実施形態において、三次元形状は、球体、円筒、その他鑑賞者にとって違和感ない出力画像を射影できる如何なる三次元形状を用いることができる。鑑賞者に対し違和感を感じさせず、かつ、演算処理を簡略化する観点からは、好適には、球体を用いることができる。3次元形状は、全天球画像が貼り付けられる少なくとも1つの内面を有し、球体を採用した場合は、全天球画像が貼り付けられる球面を含む。
射影部268は、パラメータ決定部264により決定された画像生成パラメータに応じて、所定位置に視点が設定されたカメラから、全天球画像が貼り付けられた三次元モデルを、所定の投影方式で射影し、出力画像を生成する射影手段である。テクスチャマッピングした三次元モデルを任意カメラ視点から、所定の条件で観測した場合の画像をレンダリングすることで、出力画像を生成することができる。
非特許文献1によれば、広視野表示時と狭視野表示時とでは、射影方式を異ならしめることが有効であることが知られている。しかしながら、複数の射影方式を連続的に適用すると、画像処理装置に対する性能要件が厳しくなる。
そこで、本実施形態では、画像処理装置のハードウェア要件を緩和するべく、平面画像生成部260は、単一の射影方式で、表示モデルの画像生成パラメータを変化させることで、鑑賞者による観賞に適した表示効果を得る構成を採用する。以下、入力値に応じた画像生成パラメータの決定処理について、図10〜図12を参照して説明する。なお、説明する実施形態では、投影方式として、透視投影方式(遠近法投影)を用いるが、他の実施形態では、正射影方式など他の投影方式を採用してもよい。
上述したように画像生成パラメータは、投影方式として透視投影を採用する特定の実施形態では、カメラの視点の位置(d)、方向(v)、視野角(Θ)および投影範囲(zNear,zFar)を含む。三次元コンピュータ・グラフィックスでは、典型的には、世界座標系、モデル座標系およびカメラ座標系の3種の座標系が定義される。世界座標系は、絶対的な三次元空間を定義し、世界座標系により定義される三次元空間にカメラおよびオブジェクトが配置される。モデル座標系は、所定のオブジェクトを中心とした座標系である。説明する実施形態では、球体モデルを構築し、この球体モデルを世界座標系の原点に配置する。したがって、世界座標系と、球体モデルのモデル座標系とは、原点が一致し、軸のみが異なり得る。カメラ座標系は、カメラの視点を中心とした視野の方向(v)などを表す。
そして、射影部268は、全天球画像が内面に貼り付けられた球体モデルを、カメラの視点から2次元スクリーンに投影し、得られた投影画像を表示画像とする。スクリーンは、カメラ座標の原点を通る平面に配置され、透視投影によりスクリーンに全天球画像が投影される。
図10は、モデル座標系と、カメラの位置(d)および視野角(Θ)と、その視野内に写り込む画像の範囲を表す画角(Φ)との関係を説明する図である。カメラの視点が球体モデルの中心に位置すると、その視野内に写り込む画像の範囲を表す画角(Φ)と、カメラの視野角(Θ)とは一致する。しかしながら、図10において二重丸で示されているように、カメラの視点の位置(d)が、三次元モデルの中心から離れると、画角(Φ)と、カメラの視野角(Θ)とは異なる値をとることになる。ズームインおよびズームアウトは、画角(Φ)を変更する操作に対応する。説明する実施形態では、ズーム指定値の範囲に応じてカメラの視点の位置(d)および視野角(Θ)のいずれかを変更することで、画角(Φ)の変化を生み出す。
本実施形態におけるパン、チルトおよびズームの表示範囲の操作に応じた画像生成パラメータの変更については、下記表1にまとめる。
なお、表1では、上記チルトおよびパンによる画像の表示位置の移動は、視野の方向(v)を固定し、世界座標系において球体モデルを回転変換することにより、実現されている。しかしながら、他の実施形態では、球体モデルを世界座標系に対して固定し、カメラの視野の方向(v)を変更することにより、画像表示位置の移動を実現してもよい。
以下、図11および図12を参照して、本実施形態におけるズーム指定値に応じた画像生成パラメータの決定処理について、より詳細に説明する。図11および図12は、ズーム指定値に応じて、どのように画像生成パラメータを決定するかを説明する図であり、その際の出力画像および球体モデルの表示される範囲を併せて示す。図11および図12には、A〜Eで示す特定のズーム指定値(z)が与えられた場合の画像生成パラメータの決定方法が示されている。
また、ズーム指定値(z)に応じて決定される画像生成パラメータ、その際の表示倍率および画角(Φ)を下記表2としてまとめて示す。下記表2中、viewWHは、出力画像の表示領域の幅または高さを表し、表示領域が横長の場合は、表示領域の幅となり、表示領域が縦長の場合は、表示領域の高さとなる。下記表2中、imgWHは、画像の幅または高さを表し、表示領域が横長の場合は、画像幅となり、表示領域が縦長の場合は、画像高さとなる。imgDegは、画像の表示範囲の角度を表し、画像幅の場合は、360度、画像高さの場合は、180度となる。
本実施形態において、ズーム指定値(z)の範囲は、表2に示したように、A〜Bの範囲、B〜Cの範囲、C〜Dの範囲およびD〜Eの範囲を含む4つの範囲に区分される。ズーム指定値(z)は、表示させたい画角に対応した値であり、説明する実施形態では、最小画角60度から最大画角300度までの範囲でユーザから指定される。
ズームアウトを考えると、ズーム指定値(z)が、A〜Bの範囲にある場合は、カメラの視野角(Θ)が60度に固定され、カメラ位置(d)が中心から離れて行くことで、図11のAおよび図11のBで示すように、画角(Φ)が広げられる。A〜Bの範囲にある場合のカメラ位置(d)は、図11のAで示す原点0から、図11のBで示す球体モデルの外縁に対応する1まで、表2中の計算式で表されるように画角(Φ)およびズーム指定値(z)に応じた値に決定される。
ズーム指定値(z)が、A〜Bより広視野側にあるB〜Cの範囲にある場合は、図11のBおよび図11のCで示すように、カメラ位置(d)が球体モデルの外縁に固定され(d=1)、カメラの視野角(Θ)を広げて行くことで、画角(Φ)が広げられる。カメラの視野角(Θ)は、A〜Bの範囲で固定されていた60度から120度まで、計算式Θ=Φ/2にしたがって増加する。視野内に写り込む画像の範囲を表す画角(Φ)は、A〜Bの範囲およびB〜Cの範囲では、ズーム指定値(z)に一致し、単調増加することになる。
ズーム指定値(z)が、B〜Cの範囲より広視野側にあるC〜Dの範囲およびD〜Eの範囲にある場合は、図11のC、図12のDおよび図12のEで示すようになる。すなわち、カメラの視野角(Θ)が120度に固定されたまま、カメラの視点の位置(d)が再び中心から離れる方向に移動されることで、画角(Φ)が広げられる。カメラ視点の位置(d)は、表2に記載された計算式に従い、ズーム指定値(z)に応じて決定される。また、C〜Dの範囲およびD〜Eの範囲では、画角(Φ)は、ズーム指定値(z)とは一致しなくなる。
図12のDで示された位置に対応する表2中のdmax1は、図12においてDに併せて示したような、表示領域の矩形いっぱいに最大の画角で球体モデルが表示される距離に対応し、特定の実施形態では、下記式(5)で計算することができる。図12のEで示された位置(D)に対応する表2中のdmax2は、図12においてEに併せて示したような、表示領域の矩形内に球体モデルが内接する最大の画角で球体モデルが表示される距離に対応し、特定の実施形態では、下記式(6)で計算される。
上記式(5)および(6)中、viewWおよびviewHは、表示領域の幅および高さを表す。したがって、dmax1およびdmax2は、表示画面の大きさ(幅および高さ、対角)に依存する値となる。dmax2は、カメラの視点が取りうる最遠位置に対応し、ズーム指定値(z)は、表示領域の大きさに応じて制限されることになる。表2に示した範囲(〜dmax2)にカメラの視点の位置が収まるようにズーム指定値(z)を制限することで、表示画面上にフィットし、または所定の倍率で全天球画像が球形状に表示された状態で、ズームアウトを終了させることができる。これにより、鑑賞者に、表示されている画像が全天球画像であることを視覚的に認識させることができるとともに、違和感のない状態でズームアウトを終了させることができる。
また、表2および図11を参照すると明らかなように、上述した各範囲間では、画角(Φ)は、連続しているが、広角側へのズームアウトによって画角(Φ)は、一様に増加していない。すなわち、カメラの視点位置が変更されるC〜D〜Eの範囲のうちの、C〜Dの範囲では、カメラの視点の位置(d)が球体モデルの中心から距離が離れるにつれて、画角(Φ)が増大するが、D〜Eの範囲では、距離が離れるにつれて画角(Φ)が減少して行く。これは、球体モデルの外側の領域が視野内に写り込むことによる。そして、ズーム指定値が240度以上の広視野域において、カメラの視点位置(d)を移動させることで、違和感の少ない表示を行いながら、画角(Φ)を変化させることが可能となる。
したがって、ズーム指定値の広角方向への変更を考えると、基本的には、画角(Φ)が広くなって行く方向となる。このとき、カメラの視野角(Θ)の増加が押さえられ、モデル座標系からカメラが遠ざかることによって広角表示時の開放感が表現されるので、画像の歪みが軽減される。また、カメラが遠ざかる動きは、実際に人間が広い範囲を確認しようとする場合の行動に類似した動きであるため、違和感の少ないズームアウトとなると考えられる。そして、画角(Φ)は、D〜Eの範囲では、ズーム指定値が広視野側へ行くにつれ減少して行くが、これにより、鑑賞者は、球体から遠ざかって行くように感じられ、違和感の少ないズームアウトとなる。
なお、上述した説明では、各範囲では、カメラ視点の位置(d)および視野角(Θ)のいずれか一方のみが変更され、他方が固定されるものとして説明した。しかしながらが、他の実施形態では、カメラ視点の位置(d)および視野角(Θ)のいずれか一方を優先的に変更し、他方を比較的小さな変化量で変更する態様も妨げられない。また、上記説明では、ズームアウトする方向に変更される文脈で、画像生成パラメータの決定方法について説明したが、ズームインの際も同様に画像生成パラメータを決定することができる。
以下、図13を参照しながら、本実施形態による画像処理装置のハードウェア構成について説明する。図13は、本実施形態による画像処理装置のハードウェア構成を示す図である。本実施形態による画像処理装置は、タブレット端末122といった携帯情報端末として構成されている。図13に示すタブレット端末122は、シングルコアまたはマルチコアのCPU(Central Processing Unit)、GPU、ベースバンドプロセッサおよびメモリコントローラなどがSoC(System on Chip)として統合されたモバイルプロセッサ10と、モバイルプロセッサ10に接続され、CPUなどの作業領域を提供するLPDDR(Low-Power Double DataRate)SDRAMといったメモリ12と、フラッシュメモリ14と、SDカードなどの外部記録媒体スロット16とを含む。
フラッシュメモリ14は、タブレット端末122を制御するためのOS、上述した機能部を実現するための制御プログラム、各種システム情報や各種設定情報、さらに上記全天球画像などを含むユーザデータを格納する。外部記録媒体スロット16には、全天球画像などのユーザデータが格納された記録媒体が装着される。
モバイルプロセッサ10には、さらに、タッチ・スクリーン・コントローラ18およびディスプレイ・インタフェース20を介して、タッチ・スクリーン・センサが搭載されたディスプレイ22と接続されている。ディスプレイ22は、各種設定画面およびアプリケーション画面を表示し、本実施形態においては、全天球画像から生成された出力画像を含む画像ビューワの画面を表示することができる。タブレット端末122は、さらに、モバイルプロセッサ10に接続されたHDMI(High-Definition Multimedia Interface,HDMIは登録商標である。)などの映像出力インタフェース24を備え、外部のディスプレイやプロジェクタと接続可能とされている。
タブレット端末122は、さらに、CMOS(Complementary Metal Oxide Semiconductor)などのイメージセンサを含むカメラ28を備える。カメラ28は、カメラインタフェース26を介してモバイルプロセッサ10と接続されている。タブレット端末122は、さらに、音声のエンコードおよびデコード処理を行う音声コーデック30と、ヘッドフォンやスピーカの音声を切り替える音声スイッチ32とを備える。
モバイルプロセッサ10には、さらに、無線LANポート34と、Bluetooth(登録商標)などの近距離無線ポート36が接続されており、無線通信により外部の機器と接続可能とされている。説明する実施形態では、タブレット端末122は、無線LANポート34または近距離無線ポート36を介して、外部の全天球撮像装置110と接続されている。タブレット端末122は、電源管理ユニット38を備え、電源管理ユニット38により、タブレット端末122の外部電源およびバッテリの電源管理が行われる。
本実施形態によるタブレット端末122は、フラッシュメモリ14から制御プログラムを読み出し、メモリ12が提供する作業空間に展開することにより、モバイルプロセッサ10内に統合されたCPUの制御の下、上述した各機能部および各処理を実現する。その際には、OpenGLなどのグラフィック処理用のAPIを介して、モバイルプロセッサ10内に統合されたGPUの演算機能が呼び出され、上述したテクスチャマッピング処理および射影処理などの画像演算が実行される。
以上説明した実施形態によれば、画像表示する際に、広視野領域での表示において、上下左右の端部の被写体が引き伸ばされることによる違和感を低減しつつ高速表示を可能とする、演算能力に対する要件が緩和された画像処理システム、画像処理方法およびプログラムを提供することができる。
上述した実施形態によれば、表示モデルが単一の射影方式として構築されるので、制限された画像演算機能を有する画像処理装置であっても、リアルタイムかつスムーズなズーム表示を行うことが可能となる。そして、カメラの視点位置を三次元モデルから遠ざけることでズームアウトを表現しているので、視野角の増大が押さえられ、広がり感を出しながらも、画像の歪みを抑えることが可能となる。
なお、上記機能部は、アセンブラ、C、C++、C#、Java(登録商標)などのレガシープログラミング言語やオブジェクト指向プログラミング言語などで記述されたコンピュータ実行可能なプログラムにより実現でき、ROM、EEPROM、EPROM、フラッシュメモリ、フレキシブルディスク、CD−ROM、CD−RW、DVD−ROM、DVD−RAM、DVD−RW、ブルーレイディスク、SDカード、MOなど装置可読な記録媒体に格納して、あるいは電気通信回線を通じて頒布することができる。また、上記機能部の一部または全部は、例えばフィールド・プログラマブル・ゲート・アレイ(FPGA)などのプログラマブル・デバイス(PD)上に実装することができ、あるいはASIC(特定用途向集積)として実装することができ、上記機能部をPD上に実現するためにPDにダウンロードする回路構成データ(ビットストリームデータ)、回路構成データを生成するためのHDL(Hardware Description Language)、VHDL(VHSIC(Very High Speed Integrated Circuits) Hardware Description Language))、Verilog−HDLなどにより記述されたデータとして記録媒体により配布することができる。
これまで本発明の実施形態について説明してきたが、本発明の実施形態は上述した実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
(付記)
(付記1)
出力範囲を規定する入力値を受け付ける受付手段と、
対象画像を三次元形状に貼り付けた三次元モデルを生成する生成手段と、
前記入力値に基づき、視点の位置および視野角を決定する決定手段と、
前記視点から前記三次元モデルを射影する射影手段と
を含み、前記決定手段は、前記入力値が、第1の範囲にある場合は、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させ、前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、画像処理システム。
(付記2)
前記第2の範囲は、前記視点の位置が前記三次元形状の中心から距離が離れるにつれて、前記視野内に入る範囲が増大する範囲と、離れるにつれ前記視野内に入る範囲が減少する範囲とを含む、付記1に記載の画像処理システム。
(付記3)
前記視点の位置は、出力領域の大きさに応じて制限される、付記2に記載の画像処理システム。
(付記4)
前記決定手段は、前記入力値が第1の範囲にある場合は、前記三次元形状の中心から離れた位置に前記視点を決定する、付記1〜3のいずれか1つに記載の画像処理システム。
(付記5)
前記決定手段は、前記入力値が前記第1の範囲よりも狭視野側にある第3の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、付記1〜4のいずれか1つに記載の画像処理システム。
(付記6)
前記入力値は、ズームの程度を指定するズーム指定値であり、前記受付手段は、さらに、出力範囲を上下に振るチルト指定値、および出力範囲を左右に振るパン指定値、またはこれらの少なくとも1つを受け付け、
前記チルト指定値およびパン指定値またはこれらの少なくとも1つに応じて、世界座標系に対して前記三次元モデルを回転するか、視野方向を変更する手段をさらに含む、付記1〜5のいずれか1つに記載の画像処理システム。
(付記7)
前記三次元形状は、前記対象画像が貼り付けられる少なくとも1つの内面を有する立体であり、前記対象画像は、少なくとも1つの角度座標を含む座標系で表現される画像であり、前記射影手段は、単一の射影方式で射影する、付記1〜6のいずれか1つに記載の画像処理システム。
(付記8)
出力画像を生成する画像処理方法であって、コンピュータが、
出力範囲を規定する入力値を受け付けるステップと、
前記入力値に基づき、視点の位置および視野角を決定するステップと、
対象画像を三次元形状に貼り付けた三次元モデルを生成するステップと、
前記視点から前記三次元モデルを射影するステップと
を実行し、前記決定するステップでは、前記コンピュータが、
前記入力値が、第1の範囲にある場合に、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させるサブステップ、または、
前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合に、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させるサブステップ
を実行する、画像処理方法。
(付記9)
コンピュータを、
出力範囲を規定する入力値を受け付ける受付手段、
対象画像を三次元形状に貼り付けた三次元モデルを生成する生成手段、
前記入力値に基づき、視点の位置および視野角を決定する決定手段、および
前記視点から前記三次元モデルを射影する射影手段
として機能させるためのプログラムであって、
前記決定手段は、前記入力値が、第1の範囲にある場合は、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させ、前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、プログラム。
(付記1)
出力範囲を規定する入力値を受け付ける受付手段と、
対象画像を三次元形状に貼り付けた三次元モデルを生成する生成手段と、
前記入力値に基づき、視点の位置および視野角を決定する決定手段と、
前記視点から前記三次元モデルを射影する射影手段と
を含み、前記決定手段は、前記入力値が、第1の範囲にある場合は、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させ、前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、画像処理システム。
(付記2)
前記第2の範囲は、前記視点の位置が前記三次元形状の中心から距離が離れるにつれて、前記視野内に入る範囲が増大する範囲と、離れるにつれ前記視野内に入る範囲が減少する範囲とを含む、付記1に記載の画像処理システム。
(付記3)
前記視点の位置は、出力領域の大きさに応じて制限される、付記2に記載の画像処理システム。
(付記4)
前記決定手段は、前記入力値が第1の範囲にある場合は、前記三次元形状の中心から離れた位置に前記視点を決定する、付記1〜3のいずれか1つに記載の画像処理システム。
(付記5)
前記決定手段は、前記入力値が前記第1の範囲よりも狭視野側にある第3の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、付記1〜4のいずれか1つに記載の画像処理システム。
(付記6)
前記入力値は、ズームの程度を指定するズーム指定値であり、前記受付手段は、さらに、出力範囲を上下に振るチルト指定値、および出力範囲を左右に振るパン指定値、またはこれらの少なくとも1つを受け付け、
前記チルト指定値およびパン指定値またはこれらの少なくとも1つに応じて、世界座標系に対して前記三次元モデルを回転するか、視野方向を変更する手段をさらに含む、付記1〜5のいずれか1つに記載の画像処理システム。
(付記7)
前記三次元形状は、前記対象画像が貼り付けられる少なくとも1つの内面を有する立体であり、前記対象画像は、少なくとも1つの角度座標を含む座標系で表現される画像であり、前記射影手段は、単一の射影方式で射影する、付記1〜6のいずれか1つに記載の画像処理システム。
(付記8)
出力画像を生成する画像処理方法であって、コンピュータが、
出力範囲を規定する入力値を受け付けるステップと、
前記入力値に基づき、視点の位置および視野角を決定するステップと、
対象画像を三次元形状に貼り付けた三次元モデルを生成するステップと、
前記視点から前記三次元モデルを射影するステップと
を実行し、前記決定するステップでは、前記コンピュータが、
前記入力値が、第1の範囲にある場合に、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させるサブステップ、または、
前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合に、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させるサブステップ
を実行する、画像処理方法。
(付記9)
コンピュータを、
出力範囲を規定する入力値を受け付ける受付手段、
対象画像を三次元形状に貼り付けた三次元モデルを生成する生成手段、
前記入力値に基づき、視点の位置および視野角を決定する決定手段、および
前記視点から前記三次元モデルを射影する射影手段
として機能させるためのプログラムであって、
前記決定手段は、前記入力値が、第1の範囲にある場合は、前記視野角を優先的に変化させることで前記対象画像の視野内に入る範囲を変化させ、前記入力値が、前記第1の範囲より広視野側にある第2の範囲にある場合は、前記視点の位置を優先的に変化させることで前記視野内に入る範囲を変化させる、プログラム。
100…全天球画像表示システム、102…インターネット、104…通信機器、110…全天球撮像装置、120〜124…画像処理装置、130…画像表示サーバ、200…機能ブロック、210…機能ブロック、212…撮像光学系、214…合成処理ブロック、250…機能ブロック、252…入力部、254…出力部、256…全天球画像蓄積部、258…ユーザ入力受付部、260…平面画像生成部、262…画像出力部、264…パラメータ決定部、264…テクスチャマッピング部、266…射影部、300…画像ビューワ画面、310…画像表示領域、312,314…GUI部品、10…モバイルプロセッサ、12…メモリ、14…フラッシュメモリ、16…外部記録媒体スロット、18…タッチ・スクリーン・コントローラ、20…ディスプレイ・インタフェース、22…ディスプレイ、24…外部映像インタフェース、26…カメラインタフェース、28…カメラ、30…音声コーデック、32…音声スイッチ、34…無線LANポート、36…近距離無線ポート、38…電源管理ユニット
J. Kopf, et. al、"Capturing and Viewing Gigapixel Images"、ACM Transactions on Graphics (TOG) - Proceedings of ACM SIGGRAPH 2007、Volume 26、Issue 3、July 2007、Article No. 93、ACM New York, NY, USA
本発明では、上記課題を解決するために、下記特徴を有する装置を提供する。本装置は、画像を所定の三次元形状に貼り付けた三次元モデルに対して所定位置の視点から射影させた画像を生成し、当該画像を出力するプロセッサを備え、上記プロセッサは、上記三次元モデルに対し、上記視点における視野角を変化させて、画像を生成する処理と、上記三次元モデルの中心からの上記視点の距離を変化させて、画像を生成する処理と、を実行し、表示倍率に応じて、画角が連続的に変化するように上記視野角および上記視点の距離を決定することを特徴とする。
Claims (17)
- 画像を生成し、当該画像をディスプレイに入力するプロセッサを備え、
前記プロセッサは、
前記画像について視野角を変化させた画像を生成する処理と、
前記画像について視点の位置を変化させた画像を生成する処理と、
を実行することを特徴とする装置。 - 前記プロセッサは、
前記画像を拡大または縮小する場合に、
所定の倍率の範囲において前記視野角を変化させた画像を生成する処理を行い、
前記所定の倍率の範囲外において前記視点の位置を変化させた画像を生成する処理を行うこと
を特徴とする請求項1に記載の装置。 - 前記プロセッサは、撮影された画像を三次元形状に貼り付けた三次元モデルの画像を生成する
ことを特徴とする請求項1に記載の装置。 - 前記プロセッサは、
全倍率の範囲で画角を連続的に変化させることを特徴とする請求項2に記載の装置。 - 前記プロセッサは、
前記倍率が所定の倍率より小さい範囲において、球体の画像を生成すること特徴とする請求項2に記載の装置。 - プロセッサを備え、当該プロセッサは、
撮影された画像を使って、所定の位置にある視点から所定の視野角で平面に投影して得られる画像に対応する平面画像データを生成する処理と、
前記視点における視野角を変化させて前記平面画像データを生成する処理と、
前記視点の位置を変化させて前記平面画像データを生成する処理と、
を実行することを特徴とする装置。 - 前記プロセッサは、
前記撮影された画像から三次元形状モデルを生成する処理と、
前記三次元形状モデルに対して、所定の位置にある視点から所定の視野角で平面に投影して得られる画像に対応する平面画像データを生成する処理と、
を行うことを特徴とする請求項6に記載の装置。 - 前記プロセッサは、
前記平面画像を拡大または縮小する場合に、
所定の倍率の範囲において前記視点における視野角を変化させて前記平面画像データを生成する処理を行い、
前記所定の倍率の範囲外において前記視点の位置を変化させて前記平面画像データを生成する処理を行うことを特徴とする請求項6に記載の装置。 - 前記撮影された画像は全天球画像であることを特徴とする請求項6に記載の装置。
- 前記プロセッサは、
全倍率の範囲で画角を連続的に変化させることを特徴とする請求項6に記載の装置。 - 前記プロセッサは、
所定の画角の範囲において前記視点における視野角を変化させて前記平面画像データを生成する処理を行い、
前記所定の画角の範囲外において前記視点の位置を変化させて前記平面画像データを生成する処理を行うことを特徴とする請求項10に記載の装置。 - 撮影された画像を使って、所定の位置にある視点から所定の視野角で平面に投影して得られる画像に対応する平面画像データを生成するステップと、
前記視点における視野角を変化させて前記平面画像データを生成するステップと、
前記視点の位置を変化させて前記平面画像データを生成するステップと、
を有することを特徴とする方法。 - 前記撮影された画像から三次元形状モデルを生成するステップと、
前記三次元形状モデルに対して、所定の位置にある視点から所定の視野角で平面に投影して得られる画像に対応する平面画像データを生成するステップと、
を有することを特徴とする請求項12に記載の方法。 - 前記平面画像を拡大または縮小する場合に、
所定の倍率の範囲において前記視点における視野角を変化させて前記平面画像データを生成するステップと、
前記所定の倍率の範囲外において前記視点の位置を変化させて前記平面画像データを生成するステップと、を有することを特徴とする請求項12に記載の方法。 - 前記撮影された画像は全天球画像であることを特徴とする請求項12に記載の方法。
- 全倍率の範囲で画角を連続的に変化させることを特徴とする請求項12に記載の方法。
- 所定の画角の範囲において前記視点における視野角を変化させて前記平面画像データを生成するステップと、
前記所定の画角の範囲外において前記視点の位置を変化させて前記平面画像データを生成するステップと、を有すること特徴とする請求項16に記載の方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014198857A JP5743016B2 (ja) | 2014-09-29 | 2014-09-29 | 画像を生成する装置および方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014198857A JP5743016B2 (ja) | 2014-09-29 | 2014-09-29 | 画像を生成する装置および方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012282899A Division JP6044328B2 (ja) | 2012-12-26 | 2012-12-26 | 画像処理システム、画像処理方法およびプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015046171A true JP2015046171A (ja) | 2015-03-12 |
JP5743016B2 JP5743016B2 (ja) | 2015-07-01 |
Family
ID=52671566
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014198857A Active JP5743016B2 (ja) | 2014-09-29 | 2014-09-29 | 画像を生成する装置および方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5743016B2 (ja) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2017162014A (ja) * | 2016-03-07 | 2017-09-14 | 株式会社リコー | 通信端末、画像通信システム、表示方法、及びプログラム |
JP2017163265A (ja) * | 2016-03-08 | 2017-09-14 | 株式会社リコー | 操縦支援システム、情報処理装置およびプログラム |
JP2017182681A (ja) * | 2016-03-31 | 2017-10-05 | 株式会社リコー | 画像処理システム、情報処理装置、プログラム |
JP2017534046A (ja) * | 2015-09-29 | 2017-11-16 | バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド | 建物高さの計算方法、装置及び記憶媒体 |
JP2018523326A (ja) * | 2015-09-16 | 2018-08-16 | グーグル エルエルシー | 全球状取込方法 |
KR101915729B1 (ko) * | 2017-06-20 | 2018-11-06 | 주식회사 아이닉스 | 360도 전방향 뷰 영상 생성 장치 및 방법 |
KR101980086B1 (ko) | 2018-12-19 | 2019-05-20 | 주식회사 브이알미디어 | 360도 영상 촬영 장치 및 360도 영상 편집 방법 |
US10559068B2 (en) | 2015-09-29 | 2020-02-11 | Fujifilm Corporation | Image processing device, image processing method, and program processing image which is developed as a panorama |
US10827133B2 (en) | 2016-03-07 | 2020-11-03 | Ricoh Company, Ltd. | Communication terminal, image management apparatus, image processing system, method for controlling display, and computer program product |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007233996A (ja) * | 2006-02-06 | 2007-09-13 | Olympus Imaging Corp | 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 |
-
2014
- 2014-09-29 JP JP2014198857A patent/JP5743016B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007233996A (ja) * | 2006-02-06 | 2007-09-13 | Olympus Imaging Corp | 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018523326A (ja) * | 2015-09-16 | 2018-08-16 | グーグル エルエルシー | 全球状取込方法 |
JP2017534046A (ja) * | 2015-09-29 | 2017-11-16 | バイドゥ オンライン ネットワーク テクノロジー(ペキン) カンパニー リミテッド | 建物高さの計算方法、装置及び記憶媒体 |
US10559068B2 (en) | 2015-09-29 | 2020-02-11 | Fujifilm Corporation | Image processing device, image processing method, and program processing image which is developed as a panorama |
JP2017162014A (ja) * | 2016-03-07 | 2017-09-14 | 株式会社リコー | 通信端末、画像通信システム、表示方法、及びプログラム |
US10827133B2 (en) | 2016-03-07 | 2020-11-03 | Ricoh Company, Ltd. | Communication terminal, image management apparatus, image processing system, method for controlling display, and computer program product |
JP2017163265A (ja) * | 2016-03-08 | 2017-09-14 | 株式会社リコー | 操縦支援システム、情報処理装置およびプログラム |
JP2017182681A (ja) * | 2016-03-31 | 2017-10-05 | 株式会社リコー | 画像処理システム、情報処理装置、プログラム |
KR101915729B1 (ko) * | 2017-06-20 | 2018-11-06 | 주식회사 아이닉스 | 360도 전방향 뷰 영상 생성 장치 및 방법 |
KR101980086B1 (ko) | 2018-12-19 | 2019-05-20 | 주식회사 브이알미디어 | 360도 영상 촬영 장치 및 360도 영상 편집 방법 |
Also Published As
Publication number | Publication date |
---|---|
JP5743016B2 (ja) | 2015-07-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6044328B2 (ja) | 画像処理システム、画像処理方法およびプログラム | |
JP5743016B2 (ja) | 画像を生成する装置および方法 | |
TWI619088B (zh) | 圖像資料處理系統和相關方法以及相關圖像融合方法 | |
US10437545B2 (en) | Apparatus, system, and method for controlling display, and recording medium | |
JP6167703B2 (ja) | 表示制御装置、プログラム及び記録媒体 | |
US20170034410A1 (en) | Method and electronic device for stabilizing video | |
JP2018129716A (ja) | 画像処理装置、画像処理システム、画像処理方法及びプログラム | |
JP2019164782A (ja) | 画像処理装置、撮影システム、画像処理方法、及びプログラム | |
JP2007148784A (ja) | 画像合成システム及び画像合成方法 | |
JP6394682B2 (ja) | 方法および画像処理装置 | |
US20220230275A1 (en) | Imaging system, image processing apparatus, imaging device, and recording medium | |
JP6992829B2 (ja) | 画像処理システム、画像処理方法およびプログラム | |
JP6705477B2 (ja) | 画像処理システム、画像処理方法およびプログラム | |
JP7302647B2 (ja) | 画像処理システム、画像処理方法およびプログラム | |
WO2017159014A1 (ja) | 画像処理装置、画像処理方法及び画像処理システム | |
WO2017145483A1 (ja) | 画像処理装置、画像処理システム及びプログラム | |
WO2008012983A1 (fr) | Dispositif de prise d'image et système de prise d'image | |
JP6443505B2 (ja) | プログラム、表示制御装置及び表示制御方法 | |
US11928775B2 (en) | Apparatus, system, method, and non-transitory medium which map two images onto a three-dimensional object to generate a virtual image | |
JP7118383B1 (ja) | 表示システム、表示方法、及び表示プログラム | |
JP7219620B2 (ja) | 配信画像生成方法 | |
JP2019102849A (ja) | 画像配信システム、及び配信画像生成方法 | |
JP2022084529A (ja) | 装置、システム、方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20150116 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20150407 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20150420 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 5743016 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |