JPWO2012147303A1 - 全方位画像編集プログラム及び全方位画像編集装置 - Google Patents

全方位画像編集プログラム及び全方位画像編集装置 Download PDF

Info

Publication number
JPWO2012147303A1
JPWO2012147303A1 JP2013511911A JP2013511911A JPWO2012147303A1 JP WO2012147303 A1 JPWO2012147303 A1 JP WO2012147303A1 JP 2013511911 A JP2013511911 A JP 2013511911A JP 2013511911 A JP2013511911 A JP 2013511911A JP WO2012147303 A1 JPWO2012147303 A1 JP WO2012147303A1
Authority
JP
Japan
Prior art keywords
image
screen
omnidirectional
texture
omnidirectional image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2013511911A
Other languages
English (en)
Other versions
JP5896424B2 (ja
Inventor
光雄 林
光雄 林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Priority to JP2013511911A priority Critical patent/JP5896424B2/ja
Publication of JPWO2012147303A1 publication Critical patent/JPWO2012147303A1/ja
Application granted granted Critical
Publication of JP5896424B2 publication Critical patent/JP5896424B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/12Panospheric to cylindrical image transformations

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Processing Or Creating Images (AREA)
  • Image Generation (AREA)

Abstract

本発明は3次元空間において、全方位を覆う絵画を直感的に作成することが可能な画像編集プログラム、および画像編集装置を提供することを目的とする。仮想空間内において全方位画像を座標変換により2次元のスクリーン画像に投影し、表示装置20に表示する。全方位画像の編集では、まず、ポインティング装置30により、仮想空間内の視線方向並びに視野角の変更等を行い、中央制御部11の制御の下、スクリーン画像内の全方位画像の表示を更新させ、そのスクリーン画像を手がかりとしスクリーン画像と同じ座標系であるドローイング画像に対してポインティング装置30により2次元的にドローイングを行う。ドローイング終了後、ドローイング画像に対して座標変換を行い、全方位画像の適切な位置に投影する。このように視線変更とドローイングの手順を繰り返すことで、全方位画像を完成させる。

Description

本発明は、作業者の全方位を覆う背景に見立てた画像(以下、全方位画像という)を編集する全方位画像編集プログラム及び全方位画像編集装置に関する。
従来、全方位画像の分野において、実写画像による作成手法(全方位カメラ、スイングパノラマ等)、及びコンピュータグラフィックスによる作成手法(球状マップ、スカイボックス等)は確立されている。尚、全方位カメラとは、一台で360度の広い範囲を観察できるカメラであり、スイングパノラマとは、パノラマ写真を自動合成する機能である。球状マップとは、オブジェクト周囲の空間やライティング効果を表現した特殊テクスチャであって、1枚の2次元画像で全周囲を表したものである。スカイボックスとは、球状マップと同様な目的の特殊テクスチャであり、6枚の正方形画像で全周囲をあらわしたものである。
ここで、特許文献1では、3Dコンピュータモデルのためのテクスチャデータを編集する方法が開示されている。即ち、同方法では、3Dコンピュータモデルとそれに適用されたテクスチャデータを表す画像を、ユーザが選択した観察方向から生成し、ユーザへ表示する。さらに、ユーザの指示に従って画像データへの変更がなされ、対応する変更がテクスチャデータになされる。加えて、3Dコンピュータモデル内の、ユーザへ表示される画像の観察方向に対して斜角にある各ポリゴンを特定するための処理が実施される。特定されたポリゴンは、このポリゴンに対するテクスチャデータが変更されないよう、その後の処理から除外される。
特開2004−38926号公報
しかしながら、特許文献1の技術では、ポリゴンを扱い、更にスクリーン座標系からテクスチャ座標系への変換を用いてテクスチャ画像を編集するものではあるが、一般的なメッシュをターゲットにしており、視点の移動を制限しない。更に、半透明(アルファブレンド)を用いておらず、また、ユーザの観察方向に従って生成された表示用画像データそのものを外部プログラムで編集し、フィードバックさせている。また、斜角のポリゴンに対するテクスチャデータの変更を制限することは、全方位画像の編集において、視野角を大幅に広げてドローイングすることを阻害する。
このように、従来、絵画よる全方位画像作成手法は充分に確立されておらず、作成には過大な時間を要する。
本発明は上述の技術的な課題に鑑み、全方位画像を直感的に編集することが可能な全方位画像編集プログラム、及び全方位画像編集装置を提供することを目的とする。
さらに、本発明は、完成させた全方位画像を用いて、作品としてのパノラマ画像の作成や、見回し映像の作成等も可能とし、また、作業手順を再現させることで、メイキング映像の作成も可能とする全方位画像編集プログラム、及び全方位画像編集装置を提供することを目的とする。
上述した技術的な課題を解決するため、本発明の第1の態様に係る全方位画像編集装置は、操作入力を行う操作入力手段と、各種画像を表示する表示手段と、全方位画像編集プログラムに従って制御する中央制御手段とを備え、上記中央制御手段は、上記操作入力手段から少なくとも座標及びボタンの入力情報を受付け、視線変更モードである場合には上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、上記表示手段に画像出力し、ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、ドローイング終了の場合には全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、上記表示手段に画像出力し、上記いずれの場合も視点は移動しないことを特徴とする。
更に、本発明の第2の態様に係る全方位画像編集プログラムは、コンピュータが、操作入力手段から少なくとも座標及びボタンの入力情報を受付け、視線変更モードである場合には、上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、表示手段に画像出力し、ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、ドローイング終了の場合には、全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、表示手段に画像出力する中央制御手段として機能し、上記いずれの場合も視点は移動しないことを特徴とする。
本発明に係る全方位画像編集プログラム及び装置によれば、全方位画像を直感的に編集することが可能となる。
本発明の一実施形態に係る全方位画像編集装置の構成図である。 ポリゴンモデルを利用して全方位画像の編集を行う場合に使用するメインメモリ12のメモリマップの一例を示す図である。 正二十面体ポリゴンモデルの例を示す図である。 ポリゴンモデルが持つ上層テクスチャを示す図である。 ポリゴンモデルが持つ下層テクスチャを示す図である。 本発明の一実施形態に係る全方位画像編集装置により全方位画像編集プログラムに従って実行される処理の流れを説明するフローチャートである。 図6のステップS10で実行されるスクリーン更新処理について詳述するフローチャートである。 図7のステップS23で実行される、テクスチャ画像(テクスチャ座標系)からスクリーン画像(スクリーン座標系)への描画処理の流れを説明するフローチャートである。 ポリゴンモデルの中心から任意の視線を用い、下層テクスチャに上層テクスチャを重ねてスクリーン画像に投影した例を示す図である。 図6のステップS8で実行される全方位画像更新処理について、ポリゴンモデルを用いる場合を例に挙げて、説明するフローチャートである。 図10のステップS43で実行されるドローイング用画像(スクリーン座標系)からテクスチャ画像(テクスチャ座標系)への描画処理の流れを説明するフローチャートである。 ドローイングの例を示す図である。 ドローイング結果を示す図である。 上層テクスチャ画像を下層テクスチャ画像に結合する様子を示す図である。 作業者が観測可能なスクリーン画像の推移を示し、作業手順を説明する図である。 生成されたテクスチャ画像(上層テクスチャを下層テクスチャに結合済み)の様子を示す図である。 作品例を示す図である。 本発明の実施形態に係る全方位画像編集装置により作品データとしてファイルに出力する処理の流れを示すフローチャートである。 本発明の実施形態に係る全方位画像編集装置により見回し映像を動画として作成する手順を説明するフローチャートである。 座標概念を説明するための図である。 全方位画像(任意の座標系)および視線情報からスクリーン画像(スクリーン座標系)への描画処理の流れを説明するフローチャートである。 ドローイング用画像(スクリーン座標系)及び視線情報から全方位画像(任意の座標系)への描画処理の流れを説明するフローチャートである。 直方体モデルまたは立方体モデルを使用した全方位画像更新処理の概念図である。 直方体モデルまたは立方体モデルを使用した全方位画像更新処理の流れを示すフローチャートである。
以下、本発明の全方位画像編集プログラム及び全方位画像編集装置に係る好適な実施形態について図面を参照しながら説明する。なお、本発明の全方位画像編集プログラム及び全方位画像編集装置は、以下の記述に限定されるものではなく、本発明の要旨を逸脱しない範囲において、適宜変更可能である。
本発明の全方位画像編集プログラム及び装置では、仮想空間内において、作業者の全方位を覆う背景に見立てた画像である全方位画像を、座標変換により2次元のスクリーン画像に投影し、表示装置に表示する。全方位画像の編集を目的とする作業者は、まず、ポインティング装置により、仮想空間内の視線方向、ならびに視野角の変更等を行い、スクリーン画像内の全方位画像の表示を更新させ、そのスクリーン画像を手がかりとし、スクリーン画像と同じ座標系であるドローイング画像に対してポインティング装置により2次元的にドローイング(描き込み)を行う。ドローイング終了後、ドローイング画像に対して座標変換を行い、全方位画像の適切な位置に投影する。作業者は、このように視線変更とドローイングの手順を繰り返すことで、全方位画像を完成させる。以下、詳述する。
図1には本発明の一実施形態に係る全方位画像編集装置の構成を示し説明する。
この図1に示されるように、全方位画像編集装置1は、パーソナルコンピュータ10と表示装置20、ポインティング装置30等からなる。
パーソナルコンピュータ10は、マルチタスク対応プロセッサ等からなる中央制御部11と、一時記憶装置としてのRAM等からなるメインメモリ12、グラフィックカード等の画像制御部13、入出力制御部14、内蔵不揮発性記憶媒体15、メディア読み書きインターフェイス16を含む。
画像制御部13は、ビデオメモリ13aも備えている。ビデオメモリ13aとは、パーソナルコンピュータ10本体のメインメモリ12と同じく、一時的にデータを保存する場所で、グラフィックカードについているメモリはVRAMとも称される。画面に3Dグラフィック画像を表示する場合、その際に必要となるデータ量は大きくなる。画像制御部13で処理を終えたデータはビデオメモリ13aに保存されて随時使われていく。ビデオメモリ13aの容量が多いほど、細かい3Dグラフィック画像でも、スムーズに不良もなく表示する事ができるようになる。
表示装置20は、液晶ディスプレイ等に代表される、画像を表示することができる装置である。ポインティング装置30は、マウスやタッチパネル、ペンタブレットに代表される、座標入力及び/又はボタン入力が可能な装置である。
プログラムデータ50や方位画素対応付けデータ42、全方位画像入力データ40はメディア読み書きインターフェイス16を介して入力され、全方位画像出力データ41はメディア読み書きインターフェィス16を介して出力される。
プログラムデータ50とは、本発明が動作可能なソフトウェアである。後述する全方位画像編集プログラムのデータ等がこれに該当する。
方位画像対応付けデータ42とは、方位と画素の位置を相互に対応付けるテーブル又は関数である。ポリゴンモデルを用いる場合は、ポリゴンモデルデータがこれに相当し、3次元形状のオブジェクトとなる。方位画像対応付けデータ42は、プログラムデータ50に付随してもよいし、外部で定義されたデータを読み込んでもよい。
全方位画像入力データ40、全方位画像出力データ41は、ソフトウェアが扱う画像群である。例えばポリゴンモデルを用いる場合はテクスチャ画像群がこれに相当する。入力されたテクスチャ画像群等はメインメモリ12に一時記憶される。
全方位画像入力データ40及びプログラムデータ50は、不図示の外部記憶媒体から読み込んでもよく、通信ネットワークを介して外部コンピュータから受信し、内蔵不揮発性記憶媒体15に取り込んでもよい。出力データは、不図示の外部記憶媒体へ書き込んでもよく、通信ネットワークを介して外部コンピュータに送信してもよい。
ここで、図2には、ポリゴンモデルを利用して全方位画像の編集を行う場合に使用するメインメモリ12のメモリマップの一例を示し説明する。
各画像は、不透明度付きの色情報(a:アルファ,r:赤,g:緑,b:青)を2次元的な配列として持つ。「アルファ」とは、不透明度情報を示している。パソコンでは1つのピクセルの色情報を、24ビット(1色につき8ビット、赤・緑・青の3色で8×3=24ビット)という単位で記録している。8ビットでは、256段階の記録ができる。アルファ付きPNG(32ビットPNG)では色情報の他に、各ピクセルの不透明度も8ビットの256段階で記録できる。アルファ値がゼロで完全な透明、255で完全な不透明であることを意味する。
ポリゴン頂点は、3次元空間座標(x:水平,y:垂直,z:奥行き)と2次元テクスチャ座標(u:水平,v:垂直)とを持つ。ポリゴン面は、三角形を表わすため、ポリゴン頂点への参照を3つとテクスチャ画像への参照をレイヤー枚数分だけ持つ。ポリゴンモデルは、3次元形状を表わすため、ポリゴン頂点とポリゴン面とをそれぞれ配列として持つことになる。1つのレイヤーが持つテクスチャ群の構造がどのレイヤーについても同一である場合、テクスチャ画像への参照は、レイヤー内の相対的な参照を1つとしてもよい。
スクリーン画像とは、全方位画像を座標変換により2次元座標平面上に投影し、表示装置20により作業者に提示する画像である。
ドローイングとは、主にポインティングデバイスを用いて2次元(平面)の画像に対して図形や線等の描き込みを行う作業である。ドローイング用画像(ドローイング画像)とは、作業者が実際にドローイングを行う対象とする2次元(平面)の画像である。ドローイング用画像は、スクリーン画像とは別の記憶域にあり、スクリーン画像と同じ座標系であり、ドローイング開始前は完全に透明な状態とする。ドローイングを施した箇所は不透明度情報及び色情報を更新する。これは、即ち作業者がスクリーン画像に重なっている透明な層にドローイングを行うことに等しい。ドローイングパラメータとは、ドローイングの手法および属性を決定するパラメータである。手法は、フリーハンド、直線、矩形、円、画像の貼り付け、等が挙げられる。属性は、線の場合は幅や色、図形の場合は塗りつぶしの模様、等が考えられる。パラメータの種類が多いほど表現方法が多彩となりうる。尚、本願でいう「ドローイング(drawing)」には、一般的な「ペインティング(painting)」も概念上含まれる。
ポリゴンモデルを利用することはあくまでも一例であり、全方位画像の表示や編集における手段を技術的に制限するものではない。全方位に画素が対応付けられていれば、ポリゴンモデルやテクスチャの概念を用いることも必須ではない。例えば、球面ミラーを用いた全方位カメラ等から得られるような全方位画像に対しての編集も可能となる。
ここで、全方位を覆う背景の例として、図3に示されるような正二十面体ポリゴンモデルを用意し、その中心を視点とする場合を考える。視点は移動しないことを前提とする。
ポリゴンモデルには2つのテクスチャ画像を持たせ、上層(作業者から見て手前)と下層(作業者から見て奥)のレイヤーとして扱う。本実施形態では、各レイヤーの描画または表示に用いる視線角度として、全レイヤー共通の視線角度を用いることを可能とする。これにより、各レイヤーの視線角度が一致することが重要な用途(たとえば、「線」を目的とするレイヤーと「塗り」を目的とするレイヤーとを用いる用途)としての使用が可能となる。
但し、正二十面体ポリゴンモデルを扱うことは、あくまでも一例にすぎない。各ポリゴン面に対応するテクスチャ画像が設定されていれば、どのようなポリゴンモデルも可能である。例えば、正二十面体の代わりに立方体等を扱うこともできる。
図4には、正二十面体ポリゴンモデルの全ポリゴン面に対応する上層テクスチャの例を示し説明する。各ポリゴン頂点のテクスチャ座標は、正二十面体の展開図に類似した図形の頂点と見なして設定している。図の実線部分はポリゴン面単位で各頂点のテクスチャ座標の位置関係を示しているに過ぎず、実際のテクスチャにはこのような実線を含む必要はない。上層テクスチャは下層テクスチャに重ねるように表示するため、上層テクスチャは不透明度を用いて下層テクスチャとの合成が可能である。作業開始前の上層テクスチャ画像は完全に透明であることが望ましい。図4の市松模様は透明であることを示すものであり、実際のテクスチャにはこのような模様を含む必要はない。
図5には、正二十面体ポリゴンモデルの全ポリゴン面に対応する下層テクスチャの例を示し説明する。各ポリゴン頂点のテクスチャ座標は、上層テクスチャと同様に設定している。作業者が視線角度を把握し易くする手段の例として、テクスチャ全体に不透明のランダムノイズ模様を適用している。最下層のテクスチャは完全な不透明であることが望ましい。これは完成作品に透明又は半透明の画素が残ることを防ぐためである。但し、上層テクスチャを重ねることで不透明にする場合、或いは完成作品を更に別の映像に重ねることを前提としている場合等においては、この限りではない。
以下、図6のフローチャートを参照して、本実施形態に係る全方位画像編集装置1により全方位画像編集プログラムに従って実行される処理の流れを説明する。ここでは、ポインティング装置30が2ボタンマウスであると仮定し、全方位画像編集プログラムの動作の一例を示し、本発明と直接関係のない動作の記述は省略する。この処理は、中央制御部11が全方位画像編集プログラムに従って実行する。
本処理を開始すると、ポインティング装置30から座標及びボタンを入力する(ステップS1)。続いて、視線変更モードであるか否かを判断し(ステップS2)、視線変更モードである場合には(ステップS2をYESに分岐)、入力情報を基に視線角度、視野角を更新する(ステップS3)。
即ち、視線変更モードでは、左ボタンを押しながら左右にドラッグすると、視線はy軸を中心とした(ヨー)回転をする。左ボタンを押しながら上下にドラッグすると、視線はx軸を中心とした(ピッチ)回転をする。左ダブルクリックすると、視線のピッチ回転は初期(例えば、水平)状態に戻る。右ボタンを押しながら左右にドラッグすると、視線はz軸を中心とした(ロール)回転をする。右ボタンを押しながら上下にドラッグすると、視野角が増減する。右ダブルクリックすると、視線のロール回転は初期(例えば、水平)状態に戻る。こうして視線が変更されたタイミングで詳細は後述するスクリーン更新処理を行う(ステップS10)。視野角を大幅に広げてドローイングすることで、単に広範囲の描き込みだけなく、遠近感の表現が容易となる。即ち、視野角が180度に限りなく近い場合(たとえば、140度〜179.75度)、ドローイング画像の中心から離れた領域(即ちドローイング画像の端付近)でのドローイングは、例として平地において遠方から水平線にかけての地面の表現(特定の方向に大きくつぶれるような遠近感)が期待できる。
そして、スクリーン画像の上に合成方法に基づきドローイング用画像を重畳し、画像出力することにより、全方位画像更新処理が行われる前におおよそのドローイング結果を確認可能とする(ステップS11,S12)。即ち、重畳されたドローイング用画像を手がかりに、視線角度や視野角の調整を可能とする。
スクリーン画像は、あらかじめ最後に更新されたスクリーン画像を複製しておくことで復元が可能である。これにより、視線情報や視野角等の変更がない場合、スクリーン画像に対して重畳が行われた後、テクスチャ画像からスクリーン画像への描画処理を再び行うことなく、短時間のうちに重畳が行われていない状態に戻すことを可能とする。これはドローイングモードにおいて高速なスクリーン更新となり、ドローイング用画像のリアルタイムな重畳に適している。
視線変更モードではない場合には(ステップS2をNOに分岐)、ドローイングモードであるか否かを判断し(ステップS4)、ドローイングモードである場合には(ステップS4をYESに分岐)、ドローイングパラメータおよび合成方法を選択し(ステップS5)、入力情報を基にドローイング用画像に描画をする(ステップS6)。即ち、ドローイングモードでは、スクリーン画像の領域内で左ボタンを押しながらドラッグすることで、ドラッグした座標に相当するドローイング用画像の画素をドローイングパラメータ(色情報、線の幅等)に基づいて更新する。ドローイングは、入力座標をそのまま反映させるフリーハンド手段の他、直線、矩形、格子、楕円等の複数手段を用意してもよい。スクリーン画像の領域内で右ボタンを押すと、ドローイングパラメータの色情報をドラッグした座標に相当するスクリーン用画像の画素と同じ色情報に変更する。
そして、スクリーン画像の上に合成方法に基づきドローイング用画像を重畳し、画像出力することにより、全方位画像更新処理が行われる前におおよそのドローイング結果を確認可能とする(ステップS11,S12)。ドローイング用画像の重畳は、ドローイング時にリアルタイムで行うことで、ドローイング作業効率の向上が期待できる。ドローイングモードと視線変更モードを切り替える方法として、操作画面上に切り替え用のボタン等を用意する方法が挙げられる。
ドローイングモードでない場合には(ステップS4をNOに分岐)、ドローイングモード終了か否かを判断する(ステップS7)。ドローイング終了とみなす条件としては、ドラッグ中にマウスの左ボタンが離されたタイミングとしてもよいし、これに限定することなく、例えばドローイング終了処理を実行するボタン等を用意してもよい。ここで、ドローイング終了のタイミングを選択可能とするならば、ドローイング用画像に描画をした後、ドローイング終了前に再び視線変更モードに戻ることも可能である。即ち、先述のようにドローイング用画像を重畳させながら、視線角度、視野角の調整が可能である。
ドローイング終了とみなされた場合(ステップS7をYESに分岐)、詳細は後述する全方位画像更新処理を実行し(ステップS8)、ドローイング用画像をクリアする(ステップS9)。ドローイング終了後は、直ちに次のドローイングを可能とするため、自動的にドローイングモードに復帰する事が望ましい。全方位画像更新処理に時間がかかる場合、次のドローイング操作を直ちに受け付けられず、スムーズなドローイング操作を阻害する恐れがある。これを防ぐために、ドローイング画像と同じサイズのバッファ用画像を用い、プロセッサのタスクを割り振り、ドローイング処理と全方位画像更新処理を並列に行ってもよい。
続いて、詳細は後述するスクリーン更新処理を実行する(ステップS10)。そして、スクリーン画像の上に合成方法に基づきドローイング用画像を重畳し、画像出力する(ステップS11,S12)。ただし、ドローイング終了におけるドローイング用画像の重畳は、ドローイング処理と全方位画像更新処理を並列に行う場合等を除いた多くの場合で、当該条件下においてドローイング用画像は事前にクリアされ、完全に透明な状態であるので、この状態の画像を重畳する事は、事実上意味を成さない。
ハードウェア等による高速な画像処理の手段を用い、全方位画像更新処理が短時間(たとえば、10ミリ秒間以内)で完了できる場合、かつ、ドローイング終了前に再び視線変更モードに戻ることを不要とする場合、ドローイングモードにおいてドローイング用画像に何らかの更新を行った後、直ちにドローイング終了の処理に移行し、再びドローイングモードに戻ることで、リアルタイムで全方位画像の更新かつ表示が可能となる。これにより、ドローイング用画像を重畳しなくとも、ドローイング作業効率の向上が期待できる。
以上の操作方法および動作は一例であり、これに限定せず別の操作方法を適用、追加してもよいことは勿論である。
次に図7のフローチャートを参照して、図6のステップS10で実行されるスクリーン更新処理について詳述する。ここでは、ポリゴンモデルを用いる場合を想定している。
本スクリーン更新処理では、先ず視線角度に対応するポリゴン頂点の座標(ビュー座標系)を算出し(ステップS21)、視野角に対応するポリゴン頂点の座標(射影座標系、スクリーン座標系)を算出し(ステップS22)、詳細は後述するが、テクスチャ画像(テクスチャ座標系)からスクリーン画像(スクリーン座標系)への描画処理を行い(ステップS23)、リターンする。
テクスチャ画像からスクリーン画像への描画処理は、従来のテクスチャマッピングと同等の手法を用いることができる。尚、ポリゴンモデルを用いない場合においても、視線角度、視野角からスクリーンの各画素に対応する方位を求め、方位画素対応付けデータに基づき座標変換し、全方位画像からスクリーン画像へ描画すればよい。
以下、図8のフローチャートを参照して、図7のステップS23で実行される、テクスチャ画像(テクスチャ座標系)からスクリーン画像(スクリーン座標系)への描画処理の流れを説明する。ここでは、作業者が実際に観測することのできるスクリーン画像の更新方法を示している。
このテクスチャ画像(テクスチャ座標系)からスクリーン画像(スクリーン座標系)への描画処理を開始すると、全てのレイヤーの抽出が完了したか否かを判断し(ステップS31)、全てのレイヤーの抽出が完了していないと判断されると(ステップS31をNOに分岐)、次のレイヤーを抽出し(ステップS32)、レイヤーに対応する全ポリゴン面の抽出が完了したか否かを判断する(ステップS33)。ここで、レイヤーに対応する全ポリゴン面の抽出が完了していないと判断されると(ステップS33をNOに分岐)、次のポリゴン面を抽出し(ステップS34)、スクリーン画像においてポリゴン面に対応する全画素走査が完了したか否かを判断する(ステップS35)。
このステップS35において、全画素走査が完了していなければ(ステップS35をNOに分岐)、スクリーン画像の次画素を走査し(ステップS36)、更新するスクリーン画像の画素に対応するテクスチャ画像の画素、およびその近傍の画素から不透明度と色情報とを抽出、ならびに算出し(ステップS37)、不透明度と色情報とを用い、スクリーン画像の画素を更新し(ステップS38)、上記ステップS35に戻る。
一方、ステップS35にて、全画素走査が完了していれば(ステップS35をYESに分岐)、上記ステップS33に戻り、上記処理を繰り返す。こうして、レイヤーに対応する全ポリゴン面の抽出が完了し(ステップS33をYESに分岐)、全レイヤーの抽出を完了すると(ステップS31をYESに分岐)、リターンする。
なお、画像描画の為の演算は、中央制御部の代わりに専用のハードウェアを用いてもよい。スクリーン画像の描画の際にバイリニア等のフィルタリングを行い、画質の向上を図ってもよい。また、描画処理毎に全レイヤーを描画する代わりに、予め全レイヤーの複製を結合した1つの画像を作成しておき、それをテクスチャとみなしてスクリーン画像へ描画してもよい。この場合、結合画像の作成はドローイング後に行われるテクスチャ画像更新終了時に行うことになる。
ここで、図9には、ポリゴンモデルの中心から任意の視線を用い、下層テクスチャに上層テクスチャを重ねてスクリーン画像に投影した例を示す。但し、上層テクスチャは完全に透明としているため、結果的に下層テクスチャのみが見える状態である。同図では、ポリゴン面単位で頂点のスクリーン座標の位置関係を分かり易くするためにポリゴン面の境界を実線で表しているが、実際には、このような実線を描画する必要はない。
次に、図10のフローチャートを参照して、図6のステップS8で実行される全方位画像更新処理について、ポリゴンモデルを用いる場合を例に挙げて、説明する。
この全方位画像更新処理を開始すると、先ず視線角度に対応するポリゴン頂点の座標(ビュー座標系)を算出し(ステップS41)、次いで視野角に対応するポリゴン頂点の座標(射影座標系、スクリーン座標系)を算出し(ステップS42)、詳細は後述するが、ドローイング用画像(スクリーン座標系)からテクスチャ画像(テクスチャ座標系)への描画処理を行う(ステップS43)。そして、ポリゴン面の端に対応するテクスチャ画像を補完し(ステップS44)、本処理を終了し、リターンする。このように、座標変換における入出力関係が、スクリーン更新処理で用いている投影とは逆になる。
描画手段によっては、ポリゴン面のつなぎ目である端部分が描画されなかったり、不自然になったりする場合がある。その画素については、周りの画素から適切な方法で補完を行う等をして自然なつなぎ目にするとよい。
また、ポリゴンモデルを用いない場合においても、方位画素対応付けデータに基づき全方位画像の各画素に対して方位を求め、視野角内に含まれる場合、その方位をスクリーン座標に変換し、その座標に対応するドローイング画像の画素及びその周辺画素を求め、ドローイング画像から全方位画像へ描画すればよい。
次に図11のフローチャートを参照して、図10のステップS43で実行されるドローイング用画像(スクリーン座標系)からテクスチャ画像(テクスチャ座標系)への描画処理の流れを説明する。ここでは、作業者が行ったドローイングの内容を、選択したレイヤーのテクスチャに反映させる方法を示している。
レイヤーを選定し(ステップS51)、レイヤーに対応する全ポリゴン面の抽出が完了したか否かを判断し(ステップS52)、抽出を完了していなければ(ステップS52をNOに分岐)、次のポリゴン面を抽出し(ステップS53)、テクスチャ画像においてポリゴン面に対応する全画素走査が完了したか否かを判断する(ステップS54)。
このステップS54で全画素走査が完了していないと判断されると(ステップS54をNOに分岐)、テクスチャ画像の次画素走査を行い(ステップS55)、更新するテクスチャ画像の画素に対応するドローイング用画像の画素、およびその近傍の画素から不透明度と色情報とを抽出、ならびに算出し(ステップS56)、不透明度と色情報とを用い、合成方法に基づきテクスチャ画像の画素を更新し(ステップS57)、ステップS54に戻ることになる。
一方、上記ステップS54でテクスチャ画像においてポリゴン面に対応する全画素走査を完了していると判断されると(ステップS54をYESに分岐)、上記ステップS52に戻る。こうして、レイヤーに対応する全ポリゴン面の抽出を完了したと判断されると(ステップS52をYESに分岐)、リターンする。
なお、ドローイング画像をテクスチャ画像へ合成する方法は、標準的な合成方法のほかに、不透明度を減少方向に向かわせるような(消去)合成方法や、色値を乗算させるような(ハイライト)合成方法等を選択可能としてもよい。画像描画のための演算は、中央制御部の代わりに専用のハードウェアを用いてもよい。テクスチャ画像の描画の際にバイリニア等のフィルタリングを行い、画質の向上を図ってもよい。
ここで、図12には、ドローイングの例を示す。即ち、ドローイング画像に、半透明の円および格子状の破線を描き込んでいる例を示している。ポリゴンモデルを投影させたスクリーン画像の上に、ドローイング画像を標準的な合成方法で重畳している。
図13には、ドローイング結果を示す。即ち、同図では、図11に示したようなドローイング用画像(スクリーン座標系)からテクスチャ画像(テクスチャ座標系)への描画処理により、上層テクスチャ画像を標準的な合成方法で更新した状態を示している。
図14には、上層テクスチャ画像を下層テクスチャ画像に結合する様子を示す。レイヤーの独立が不要となった場合、レイヤー同士の結合を可能としてもよい。図14は上層テクスチャを下層テクスチャに結合した例である。このとき、結合元(この場合は上層)のレイヤーをクリアすることで、新規のレイヤーとして使用可能になる。
ここで、図15には作業者が観測可能なスクリーン画像の推移を示し、作業手順を説明する。視点は立方体ポリゴンモデルの中心、テクスチャは上層および下層の2つで、下層は不透明のランダムノイズ模様を適用、上層テクスチャは完全な透明を適用している。
この例では、初期状態から(#1)、上層テクスチャが選択され、「A」がドローイングされ、ドローイング終了され(#2)、視線変更された後(#3)、「B」がドローイングされ、ドローイング終了され(#4)、視線変更された後(#5)、「C」がドローイングされ、ドローイング終了され(#6)、視線変更された後(#7)、下層テクスチャが選択され、斜線がドローイングされ、ドローイング終了されている(#8)。
こうして生成されたテクスチャ画像(上層テクスチャを下層テクスチャに結合済み)の様子は図16に示される。そして、作品例は、図17に示される。
次に、図18のフローチャートを参照して、本発明の実施形態に係る全方位画像編集装置により作品データとしてファイルに出力する処理の流れを示し説明する。
ここでは、例として、作品データは、作品基本情報、ドローイング再現データ、視線移動データ、画像閲覧プログラム、ポリゴン頂点群、ポリゴン面群、およびテクスチャ画像をすべて含むものとし、該作品データは、再び編集装置から読み込み、編集作業を続行することができるものとする。また、閲覧装置が存在する場合、鑑賞者が作品データを閲覧することも可能であるものとする。
本処理を開始すると、パック用フォルダを準備し(ステップS61)、作品基本情報をファイルに書き出す(ステップS62)。作品基本情報とは、作品データに含まれているデータの種類や作品の著作名等が含まれた情報である。続いて、ドローイング再現データをファイルに書き出す(ステップS63)。ドローイング再現データとは、作業者のドローイング手順を再現するためのシーケンスデータである。ドローイング時の視線情報、ドローイングパラメータ、ドローイング画像からテクスチャ画像への合成方法、選択レイヤー、ドローイング終了のタイミング等のシーケンスがこれに相当する。
次いで、視線移動再現データをファイルに書き出す(ステップS64)。視線移動再現データは、見回しを自動的に行うためのシーケンスデータであり、作品を効果的に映像化するためのカメラワークとなる。続いて、画像閲覧プログラムをファイルに書き出す(ステップS65)。画像閲覧プログラムとは、外部の閲覧用プログラムを必要とせず、スタンドアロンで閲覧が可能なプログラムである。
続いて、ポリゴン頂点群をファイルに書き出し(ステップS66)、ポリゴン面群をファイルに書き出し(ステップS67)、全てのレイヤーの書き出しが完了したか否かを判断する(ステップS68)。ここで、全てのレイヤーの書き出しが完了していないと判断された場合には(ステップS68をNOに分岐)、次のレイヤーを抽出し(ステップS69)、レイヤーに対応する全テクスチャ画像の書き出しが完了したか否かを判断する(ステップS70)。そして、当該書き出しが完了していないと判断された場合には(ステップS70をNOに分岐)、次のテクスチャ画像を抽出し(ステップS71)、テクスチャ画像をファイルに書き出し(ステップS72)、上記ステップS70に戻る。
そして、レイヤーに対応する全テクスチャ画像の書き出しが完了したと判断されると(ステップS70をYESに分岐)、上記ステップS68に戻る。そして、全てのレイヤーの書き出しが完了したと判断されると(ステップS68をYESに分岐)、全ファイルをパックし(ステップS73)、パックしたデータのファイルを作成し(ステップS74)、リターンする。「パック」とは、作品データに含まれるデータを圧縮し、作品データを容易に配布可能なファイルに変換する処理である。たとえば、ZIPファイルフォーマット等に変換する処理がこれに相当する。
尚、作品データとして実際に含めるデータの種類は、必要に応じて作業者が取捨選択できるようにしてもよい。例えば、鑑賞者が閲覧装置によって単純に作品データを見回すのみと仮定する。この場合には、ドローイング再現データは冗長であり、必ずしも必要ではない。また、テクスチャ画像はレイヤーの結合を行うことで、テクスチャ画像の数が減少し、閲覧装置側でレイヤーの結合を行う負担をなくすことも可能となる。さらに、汎用性のあるファイル形式として作品データを配布する場合、データを圧縮せず、作成したすべてのファイルを含めたフォルダ自体を作品データとしてもよい。
次に、図19のフローチャートを参照して、本発明の実施形態に係る全方位画像編集装置により見回し映像を動画として作成する手順を説明する。
処理を開始すると、全ての視線移動再現データの抽出を完了したか否かを判断し(ステップS81)、完了していないと判断されると(ステップS81をNOに分岐)、次の視線移動再現データを抽出し(ステップS82)、視線移動再現データを基に視線角度、視野角を更新し(ステップS83)、スクリーン更新処理を実行する(ステップS84)。そしてスクリーン画像を1フレームの画像としてファイルに書き出し、上記ステップS81に戻る。こうして、全ての視線移動再現データの抽出を完了すると(ステップS81をYESに分岐)、リターンする。
このように、本処理では、視線移動を再現するデータにより1フレームごとに視線を僅かずつ移動していき、各々のフレームを描画、ならびにファイルへの書き出しを行う。ファイル形式は、AVIやMPG、MOV等に代表される一般的な動画ファイル形式、または連番画像ファイル群の形式等が挙げられるが、これらに限定されない。
図20を参照して、座標変換の概念を述べる。同図の上方には、正距方位図法に基いた全方位画像のラスターイメージを示しており、同図の下方には、3次元の全方位仮想空間を示している。この全方位仮想空間にはスクリーン画像およびドローイング画像のラスターイメージを併せて図示している。全方位画像への入力は実線矢印で示しており、全方位画像からの出力は破線矢印で示している。
図21のフローチャートを参照して、全方位画像(任意の座標系)および視線情報からスクリーン画像(スクリーン座標系)への描画処理の流れを説明する。ここでは、作業者が実際に観測することのできるスクリーン画像の更新方法を示している。当該処理は、図6のステップS10でポリゴンモデルを用いない場合に実行される。
スクリーン更新処理を開始すると、先ず全てのレイヤーの抽出が完了しているか否かを判断する(ステップS91)。そして、全てのレイヤーの抽出が完了していなければ(ステップS91をNOに分岐)、次のレイヤーを抽出し(ステップS92)、レイヤーに対応する全ての全方位画像の抽出が完了したか否かを判断する(ステップS93)。そして、該抽出が完了していなければ次の全方位画像を抽出し(ステップS94)、スクリーン画像において全画素走査が完了したか否かを判断する(ステップS95)。
ここで、スクリーン画像において全画素走査が完了していないと判断されると(ステップS95をNOに分岐)、スクリーン画像の次画素走査を実施し(ステップS96)、更新するスクリーン画像の画素と視線情報とに対応する3次元ベクトルを算出し(ステップS97)、3次元ベクトルの方位に対応する全方位画像の画素、およびその近傍の画素から不透明度と色情報とを抽出、ならびに算出し(ステップS98)、不透明度と色情報とを用いてスクリーン画像の画素を更新し(ステップS99)、ステップS95に戻る。
スクリーン画像において全画素走査を完了したと判断されると(ステップS95)、ステップS93に戻る。そして、レイヤーに対応する全ての全方位画像の抽出が完了したものと判断されると(ステップS93をYESに分岐)、ステップS91に戻る。そして、全てのレイヤーの抽出を完了したと判断されると(ステップS91をYESに分岐)、リターンすることになる。
いま、例えば、球面ミラーを用いた全方位カメラ等から得られるような全方位画像を再現する場合の例を考える。
スクリーン画像(w:幅,h:高さ)の画素(u:水平方向,v:垂直方向)と視線情報(ヨー角,ピッチ角,ロール角,視野角)とに対応する3次元ベクトル(x,y,z)の方位は、コンピュータグラフィックス分野における従来の計算方法を用いて求める。
次いで、3次元ベクトル(x,y,z)の方位から全方位画像(w:幅,h:高さ)の画素(u:水平方向,v:垂直方向)への座標変換において、従来の正距方位図法に基づき以下のような計算方法を用いる。
PIは、円周率
rは、2次元ベクトル(x,z)の長さ、sqrt(x×x+z×z)
tは、2次元ベクトル(y,r)のX軸とのなす角の範囲を「0度〜180度」から「0〜1」に正規化したもの、atan2(r,−y)÷PI
uは、(1+x×t÷r)×w÷2
vは、(1−z×t÷r)×h÷2
この例に限定されることなく、3次元ベクトルの方位と全方位画像の座標変換が相互に可能であれば、どのような計算方法を用いてもよい。
なお、画像描画のための演算は、中央制御部の代わりに専用のハードウェアを用いてもよい。また、スクリーン画像の描画の際にバイリニア等のフィルタリングを行い、画質の向上を図ってもよい。さらに、描画処理毎に全レイヤーを描画する代わりに、予め全レイヤーの複製を結合した1つの画像を作成しておき、それを全方位画像とみなしてスクリーン画像へ描画してもよい。この場合、結合画像の作成はドローイング後に行われる全方位画像更新終了時に行うことになる。
次に図22のフローチャートを参照して、ドローイング用画像(スクリーン座標系)及び視線情報から全方位画像(任意の座標系)への描画処理の流れを説明する。ここでは作業者が行ったドローイングの内容を選択したレイヤーの全方位画像に反映させる方法を示している。当該処理は、図6のステップS8でポリゴンモデルを用いない場合に実行される。
この描画処理に入ると、レイヤーを選定し(ステップS101)、レイヤーに対応する全ての全方位画像の抽出が完了したか否かを判断する(ステップS102)。ここで、レイヤーに対応する全方位画像の抽出が完了していないと判断された場合には(ステップS102をNOに分岐)、次の全方位画像を抽出し(ステップS103)、全方位画像において全画素走査が完了しているか否かを判断する(ステップS104)。
ここで、全方位画像において全画素走査が完了していないと判断された場合には(ステップS104をNOに分岐)、全方位画像の次の画素を走査し(ステップS105)、更新する全方位画像の画素に対応する3次元ベクトルを算出し(ステップS106)、3次元ベクトルの方位と視線情報とに対応するドローイング用画像の画素、およびその近傍の画素から不透明度と色情報とを抽出、ならびに算出し(ステップS107)、不透明度と色情報とを用い、合成方法に基づき全方位画像の画素を更新し(ステップS108)、ステップS104に戻る。
そして、全方位画像において全画素走査が完了していると判断された場合には(ステップS104をYESに分岐)、ステップS102に戻る。そして、レイヤーに対応する全ての全方位画像の抽出を完了していると判断された場合には(ステップS102をYESに分岐)、リターンする。
ここで、再び球面ミラーを用いた全方位カメラ等から得られるような全方位画像を再現する場合の例を考える。
座標変換については、全方位画像(w:幅,h:高さ)の画素(u:水平方向,v:垂直方向)から3次元ベクトル(x,y,z)の方位への座標変換において、従来の正距方位図法に基づき、以下のような計算方法を用いる。すなわち、3次元ベクトルの方位から全方位画像の画素への座標変換とは逆の座標変換に相当する。
PIは、円周率
nuは、uの範囲を「0〜w」から「−1〜+1」に正規化したもの、2×u÷w−1
nvは、vの範囲を「h〜0」から「−1〜+1」に正規化したもの、1−2×v÷h
rは、2次元ベクトル(nu,nv)の長さ、sqrt(nu×nu+nv×nv)
xは、nu×sin(r×PI)÷r
yは、−cos(r×PI)
zは、nv×sin(r×PI)÷r
この例に限定されることなく、3次元ベクトルの方位と全方位画像の座標変換が相互に可能であれば、どのような計算方法を用いてもよい。
3次元ベクトル(x,y,z)の方位と視線情報(ヨー角,ピッチ角,ロール角,視野角)とに対応するスクリーン画像(w:幅,h:高さ)の画素(u:水平方向,v:垂直方向)は、コンピュータグラフィックス分野における従来の計算方法を用いて求める。
ドローイング画像を全方位画像へ合成する方法は、標準的な合成方法のほかに、不透明度を減少方向に向かわせるような(消去)合成方法や、色値を乗算させるような(ハイライト)合成方法等を選択可能としてもよい。また、画像描画のための演算は、中央制御部の代わりに専用のハードウェアを用いてもよい。さらに、全方位画像の描画の際にバイリニア等のフィルタリングを行い、画質の向上を図ってもよい。
次に図23には、直方体モデルまたは立方体モデルを使用した全方位画像更新処理の概念図を示し説明する。
ポリゴンモデルを用いる方法で各面が矩形である場合に、GPU(Graphics Processing Unit)を用いて容易に実装することができる。直方体モデルまたは立方体モデルを使用した場合、「全方位画像の表示」としてはモデルの中心部が視点となり、テクスチャを持った全6面をスクリーン画像にレンダリングする。これに対し、「全方位画像の更新」を行う場合、各面のテクスチャにレンダリングを行う。これについての手段を示す。
図示の如く視野角を含んだ視線情報に対応する長方錐を作成する。このとき、ドローイング画像を長方形底面とみなし、視点は長方形底面と向かい合う頂点とみなし、直方体モデルの中心に位置する。ドローイング画像を描画するGPU長方形ポリゴンのテクスチャとして扱う。直方体モデルの6つの長方形面を抽出する。長方形面の「上辺」「下辺」「右側辺」「左側辺」は予め定義しておく。
各長方形面のテクスチャをGPUレンダリング対象とみなす。GPUビュー変換時の視線角度について、視線方位は「視点」から「長方形面の中心」に向かう方位とする。視線上方向は「長方形面の中心」から「長方形面の上辺の中点」に向けての方位とする。GPU射影変換時の視野角は、「テクスチャ画像の上辺の中点」「視点」「テクスチャ画像の下辺の中点」をなす角とする。GPU射影変換時のアスペクト比は、直方体モデルにおける長方形面の縦の長さに対する横の長さとする。直方体モデルが立方体であればGPU射影変換時の視野角は90度、アスペクト比は1になる。
以下、図24のフローチャートを参照して、直方体モデルまたは立方体モデルを使用した全方位画像更新処理の流れを示し説明する。
本処理を開始すると、先ずレイヤーを選定し(ステップS111)、視点を原点とし、z座標を1とし、観測中の視野角とアスペクト比に応じた長方形ポリゴン(座標情報はx,y,zおよびu,v)をGPUポリゴンデータとして作成し(ステップS112)、ドローイング画像(ピクセル色情報はa,r,g,b)をGPUテクスチャとして設定する(ステップS113)。
続いて、直方体モデル面(長方形)を6面全て抽出完了したか否かを判断する(ステップS114)。ここで、6面全てを抽出完了していないと判断された場合には(ステップS114をNOに分岐)、直方体モデル面(長方形)を抽出し(ステップS115)、直方体モデル面に対応するテクスチャ画像をGPUレンダリング対象として設定し(ステップS116)、視点と直方体モデル面の位置関係から視線方位および視線上方向を作成し、GPUビュー行列として設定し(ステップS117)、視点と直方体モデル面の位置関係から視野角およびアスペクト比を作成し、GPU射影行列として設定し(ステップS118)、GPUポリゴンデータをレンダリングし(ステップS119)、ステップS114に戻る。
こうして、直方体モデル面(長方形)を6面全て抽出完了したと判断されると(ステップS114をYESに分岐)、リターンする。
以上説明したように、本発明の一の実施形態によれば、操作入力を行う操作入力手段としてのポインティング装置30、各種画像を表示する表示手段としての表示装置20と、全方位画像編集プログラムに従って制御する中央制御手段としての中央制御部11とを備え、上記中央制御手段は、上記操作入力手段から少なくとも座標及びボタンの入力情報を受付け、視線変更モードである場合には、上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、上記表示手段に画像出力し、ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、ドローイング終了の場合には、全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、上記表示手段に画像出力することを特徴とする全方位画像編集装置が提供される。
更に上記中央制御手段としての中央制御部11は、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力することを特徴としてよい。更に、上記中央制御手段としての中央制御部11は、ドローイング用画像に描画後、スクリーン更新処理を行い、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力することを特徴としてよい。
更に上記中央制御手段としての中央制御部11は、上記スクリーン更新処理では、視線角度に対応するポリゴン頂点の座標を算出し、視野角に対応するポリゴン頂点の座標を算出し、テクスチャ画像からスクリーン画像への描画処理を行うことを特徴としてよい。更に、上記中央制御手段としての中央制御部11は、テクスチャ画像からスクリーン画像への描画処理では、スクリーン画像の画素を走査し、更新するスクリーン画像の画素に対応するテクスチャ画像の画素及びその近傍の画素から不透明度と色情報とを抽出並びに算出し、不透明度と色情報とを用い、スクリーン画像の画素を更新し、スクリーン画像においてポリゴン面に対応する全画素走査が完了し、レイヤーに対応する全ポリゴン面の抽出が完了し、全レイヤーの抽出が完了するまで処理を繰り返すことを特徴としてよい。
更に上記中央制御手段としての中央制御部11は、上記全方位画像更新処理では、視線角度に対応するポリゴン頂点の座標を算出し、視野角に対応するポリゴン頂点の座標を算出し、ドローイング用画像からテクスチャ画像への描画処理を行うことを特徴としてよい。更に、上記中央制御手段としての中央制御部11は、上記ドローイング用画像からテクスチャ画像への描画処理では、テクスチャ画像の画素走査を行い、更新するテクスチャ画像の画素に対応するドローイング用画像の画素及びその近傍の画素から不透明度と色情報とを抽出並びに算出し、不透明度と色情報とを用いて所定の合成方法に基づきテクスチャ画像の画素を更新し、テクスチャ画像においてポリゴン面に対応する全画素走査が完了し、レイヤーに対応する全ポリゴン面の抽出が完了するまで処理を繰り返すことを特徴としてよい。
更に、本発明の一実施形態によれば、パーソナルコンピュータ10が、操作入力手段としてのポインティング装置30から少なくとも座標及びボタンの入力情報を受付け、視線変更モードである場合には、上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、表示手段としての表示装置20に画像出力し、ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、ドローイング終了の場合には、全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、表示手段に画像出力する中央制御手段として機能することを特徴とする全方位画像編集プログラムが提供される。ここで、上記中央制御手段としての中央制御部11が、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力することを特徴としてよい。また、上記中央制御手段としての中央制御部11が、ドローイング用画像に描画後、スクリーン更新処理を行い、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力することを特徴としてよい。
1 全方位画像編集装置
10 パーソナルコンピュータ
11 中央制御部
12 メインメモリ
13 画像制御部
13aビデオメモリ
14 入出力制御部
15 内蔵不揮発性記憶媒体
16 メディア読み書きインターフェイス
20 表示装置
30 ポインティング装置
40 全方位画像入力データ
41 全方位画像出力データ
42 方位画素対応付けデータ
50 プログラムデータ

Claims (10)

  1. 操作入力を行う操作入力手段と、
    各種画像を表示する表示手段と、
    全方位画像編集プログラムに従って制御する中央制御手段と、を備え、
    上記中央制御手段は、
    上記操作入力手段から少なくとも座標及びボタンの入力情報を受付け、
    視線変更モードである場合には、上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、上記表示手段に画像出力し、
    ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、
    ドローイング終了の場合には、全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、上記表示手段に画像出力し、
    上記いずれの場合も視点は移動しないこと
    を特徴とする全方位画像編集装置。
  2. 上記中央制御手段は、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力すること
    を特徴とする請求項1に記載の全方位画像編集装置。
  3. 上記中央制御手段は、ドローイング用画像に描画後、スクリーン更新処理を行い、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力すること
    を特徴とする請求項1に記載の全方位画像編集装置。
  4. 上記中央制御手段は、上記スクリーン更新処理では、視線角度に対応するポリゴン頂点の座標を算出し、視野角に対応するポリゴン頂点の座標を算出し、テクスチャ画像からスクリーン画像への描画処理を行うこと
    を特徴とする請求項1乃至3のいずれかに記載の全方位画像編集装置。
  5. 上記中央制御手段は、テクスチャ画像からスクリーン画像への描画処理では、スクリーン画像の画素を走査し、更新するスクリーン画像の画素に対応するテクスチャ画像の画素及びその近傍の画素から不透明度と色情報とを抽出並びに算出し、不透明度と色情報とを用い、スクリーン画像の画素を更新し、スクリーン画像においてポリゴン面に対応する全画素走査が完了し、レイヤーに対応する全ポリゴン面の抽出が完了し、全レイヤーの抽出が完了するまで処理を繰り返すこと
    を特徴とする請求項4に記載の全方位画像編集装置。
  6. 上記中央制御手段は、上記全方位画像更新処理では、視線角度に対応するポリゴン頂点の座標を算出し、視野角に対応するポリゴン頂点の座標を算出し、ドローイング用画像からテクスチャ画像への描画処理を行うこと
    を特徴とする請求項1乃至3のいずれかに記載の全方位画像編集装置。
  7. 上記中央制御手段は、上記ドローイング用画像からテクスチャ画像への描画処理では、テクスチャ画像の画素走査を行い、更新するテクスチャ画像の画素に対応するドローイング用画像の画素及びその近傍の画素から不透明度と色情報とを抽出並びに算出し、不透明度と色情報とを用いて所定の合成方法に基づきテクスチャ画像の画素を更新し、テクスチャ画像においてポリゴン面に対応する全画素走査が完了し、レイヤーに対応する全ポリゴン面の抽出が完了するまで処理を繰り返すこと
    を特徴とする請求項6に記載の全方位画像編集装置。
  8. コンピュータが、
    操作入力手段から少なくとも座標及びボタンの入力情報を受付け、
    視線変更モードである場合には、上記入力情報を基に視線角度、視野角を更新し、スクリーン更新処理を行い、表示手段に画像出力し、
    ドローイングモードである場合には、少なくともドローイングパラメータを選択し、当該ドローイングパラメータを基にドローイング用画像に描画をし、
    ドローイング終了の場合には、全方位画像更新処理を実行し、ドローイング用画像をクリアし、スクリーン更新処理を行い、表示手段に画像出力する中央制御手段として機能し、上記いずれの場合も視点は移動しないこと
    を特徴とする全方位画像編集プログラム。
  9. 上記中央制御手段は、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力すること
    を特徴とする請求項8に記載の全方位画像編集プログラム。
  10. 上記中央制御手段は、ドローイング用画像に描画後、スクリーン更新処理を行い、スクリーン画像の上に所定の合成方法に基づきドローイング用画像を重畳して、上記表示手段に画像出力すること
    を特徴とする請求項8に記載の全方位画像編集プログラム。
JP2013511911A 2011-04-25 2012-04-17 全方位画像編集プログラム及び全方位画像編集装置 Active JP5896424B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013511911A JP5896424B2 (ja) 2011-04-25 2012-04-17 全方位画像編集プログラム及び全方位画像編集装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
JP2011096940 2011-04-25
JP2011096940 2011-04-25
PCT/JP2012/002636 WO2012147303A1 (ja) 2011-04-25 2012-04-17 全方位画像編集プログラム及び全方位画像編集装置
JP2013511911A JP5896424B2 (ja) 2011-04-25 2012-04-17 全方位画像編集プログラム及び全方位画像編集装置

Publications (2)

Publication Number Publication Date
JPWO2012147303A1 true JPWO2012147303A1 (ja) 2014-07-28
JP5896424B2 JP5896424B2 (ja) 2016-03-30

Family

ID=47071836

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013511911A Active JP5896424B2 (ja) 2011-04-25 2012-04-17 全方位画像編集プログラム及び全方位画像編集装置

Country Status (4)

Country Link
US (1) US9692965B2 (ja)
JP (1) JP5896424B2 (ja)
CN (1) CN103493105B (ja)
WO (1) WO2012147303A1 (ja)

Families Citing this family (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9824721B2 (en) 2013-01-16 2017-11-21 Mitsuo Hayashi Video generation device, video generation program, and video generation method
KR20140100656A (ko) * 2013-02-06 2014-08-18 한국전자통신연구원 전방향 영상 및 3차원 데이터를 이용한 시점 영상 제공 장치 및 방법
JP6167703B2 (ja) * 2013-07-08 2017-07-26 株式会社リコー 表示制御装置、プログラム及び記録媒体
JP6344619B2 (ja) * 2013-12-12 2018-06-20 光雄 林 奥行き情報編集装置、奥行き情報編集方法、奥行き情報編集プログラム、及び奥行き情報編集プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2015149600A (ja) * 2014-02-06 2015-08-20 ソニー株式会社 画像処理装置、画像処理方法、およびプログラム
US10298884B2 (en) * 2014-05-09 2019-05-21 Honeywell International Inc. System and method of precision remote PTZ control of IP cameras
US10204658B2 (en) 2014-07-14 2019-02-12 Sony Interactive Entertainment Inc. System and method for use in playing back panorama video content
CN105094803A (zh) * 2015-06-17 2015-11-25 深圳市美贝壳科技有限公司 一种实现可视化的图片编辑系统及其方法
US10147224B2 (en) * 2016-02-16 2018-12-04 Samsung Electronics Co., Ltd. Method and apparatus for generating omni media texture mapping metadata
WO2017142355A1 (ko) * 2016-02-17 2017-08-24 삼성전자 주식회사 전방향성 영상의 메타데이터를 송수신하는 기법
KR102508663B1 (ko) * 2016-06-02 2023-03-13 삼성전자주식회사 구형 컨텐츠 편집 방법 및 이를 지원하는 전자 장치
US11089280B2 (en) * 2016-06-30 2021-08-10 Sony Interactive Entertainment Inc. Apparatus and method for capturing and displaying segmented content
US9971556B2 (en) * 2016-07-05 2018-05-15 Ricoh Company, Ltd. Image processing apparatus, image processing method, and recording medium
KR20180020517A (ko) 2016-08-18 2018-02-28 엘지전자 주식회사 이동 단말기
CN106447788B (zh) * 2016-09-26 2020-06-16 北京疯景科技有限公司 观看视角的指示方法及装置
CN107993276B (zh) * 2016-10-25 2021-11-23 杭州海康威视数字技术股份有限公司 一种全景图像的生成方法及装置
US11290699B2 (en) * 2016-12-19 2022-03-29 Dolby Laboratories Licensing Corporation View direction based multilevel low bandwidth techniques to support individual user experiences of omnidirectional video
CN106651759A (zh) * 2016-12-21 2017-05-10 飞狐信息技术(天津)有限公司 基于固定位置相机的vr场景优化方法及装置
CN107422952B (zh) * 2017-05-04 2019-04-09 广州视源电子科技股份有限公司 一种立体图形显示的方法、装置及设备
CN107239187B (zh) * 2017-05-04 2020-02-21 广州视源电子科技股份有限公司 一种立体图形显示的方法、装置及设备
CN107146274B (zh) 2017-05-05 2021-06-22 上海兆芯集成电路有限公司 图像数据处理系统、纹理贴图压缩和产生全景视频的方法
CN107547939A (zh) * 2017-08-18 2018-01-05 深圳岚锋创视网络科技有限公司 全景视频文件剪辑的方法、系统及便携式终端
CN109862343A (zh) * 2017-11-30 2019-06-07 宏达国际电子股份有限公司 虚拟现实装置、影像处理方法以及非暂态电脑可读取记录媒体
CN108765269A (zh) * 2018-05-29 2018-11-06 广州梦映动漫网络科技有限公司 一种全景漫画的生成方法以及电子设备
US11589026B2 (en) * 2018-11-21 2023-02-21 Beijing Boe Optoelectronics Technology Co., Ltd. Method for generating and displaying panorama images based on rendering engine and a display apparatus
CN111739171B (zh) * 2020-06-18 2024-04-12 北京百度网讯科技有限公司 三维场景编辑器的元素放置方法、装置、设备及存储介质

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1993023835A1 (en) * 1992-05-08 1993-11-25 Apple Computer, Inc. Textured sphere and spherical environment map rendering using texture map double indirection
US6141034A (en) * 1995-12-15 2000-10-31 Immersive Media Co. Immersive imaging method and apparatus
JP3885262B2 (ja) * 1996-12-17 2007-02-21 株式会社セガ テクスチャマップ上の複数画素を混合する方法及び、これを用いた複数画素混合回路と画像処理装置
US6522329B1 (en) * 1997-08-04 2003-02-18 Sony Corporation Image processing device and method for producing animated image data
US6268865B1 (en) * 1998-01-13 2001-07-31 Disney Enterprises, Inc. Method and apparatus for three-dimensional painting
JP4449183B2 (ja) * 2000-07-11 2010-04-14 ソニー株式会社 画像編集システム及び画像編集方法、並びに記憶媒体
US6734855B2 (en) * 2000-07-11 2004-05-11 Sony Corporation Image editing system and method, image processing system and method, and recording media therefor
JP3650578B2 (ja) * 2000-09-28 2005-05-18 株式会社立山アールアンドディ 画像の歪みを補正するためのニューラル・ネットワークを用いたパノラマ画像ナビゲーションシステム
US6771276B1 (en) * 2000-10-27 2004-08-03 Macromedia, Inc. Two-dimensional drawing environment utilizing perspective grids
JP2003141562A (ja) * 2001-10-29 2003-05-16 Sony Corp 非平面画像の画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム
EP1347418A3 (en) * 2002-02-28 2005-11-23 Canon Europa N.V. Texture map editing
US7199793B2 (en) * 2002-05-21 2007-04-03 Mok3, Inc. Image-based modeling and photo editing
JP4740723B2 (ja) * 2005-11-28 2011-08-03 富士通株式会社 画像解析プログラム、該プログラムを記録した記録媒体、画像解析装置、および画像解析方法
US7990394B2 (en) * 2007-05-25 2011-08-02 Google Inc. Viewing and navigating within panoramic images, and applications thereof
US8564590B2 (en) * 2007-06-29 2013-10-22 Microsoft Corporation Imparting three-dimensional characteristics in a two-dimensional space
US8531449B2 (en) * 2007-12-18 2013-09-10 Navteq B.V. System and method for producing multi-angle views of an object-of-interest from images in an image dataset
JP2009210963A (ja) * 2008-03-06 2009-09-17 Goto Optical Mfg Co プラネタリウム装置
US8350850B2 (en) * 2008-03-31 2013-01-08 Microsoft Corporation Using photo collections for three dimensional modeling
US8493408B2 (en) 2008-11-19 2013-07-23 Apple Inc. Techniques for manipulating panoramas
US9098926B2 (en) * 2009-02-06 2015-08-04 The Hong Kong University Of Science And Technology Generating three-dimensional façade models from images
JP4776705B2 (ja) * 2009-03-06 2011-09-21 株式会社東芝 画像処理装置および方法
US9538167B2 (en) * 2009-03-06 2017-01-03 The University Of North Carolina At Chapel Hill Methods, systems, and computer readable media for shader-lamps based physical avatars of real and virtual people
CN101968890B (zh) * 2009-07-27 2013-07-10 西安费斯达自动化工程有限公司 基于球面显示的360°全景仿真系统
JP5521750B2 (ja) * 2010-05-10 2014-06-18 富士通株式会社 シミュレーションプログラム、シミュレーション装置及びシミュレーション方法
US8711143B2 (en) * 2010-08-25 2014-04-29 Adobe Systems Incorporated System and method for interactive image-based modeling of curved surfaces using single-view and multi-view feature curves
US20120206471A1 (en) * 2011-02-11 2012-08-16 Apple Inc. Systems, methods, and computer-readable media for managing layers of graphical object data

Also Published As

Publication number Publication date
CN103493105A (zh) 2014-01-01
JP5896424B2 (ja) 2016-03-30
CN103493105B (zh) 2017-04-05
US9692965B2 (en) 2017-06-27
WO2012147303A1 (ja) 2012-11-01
US20140085412A1 (en) 2014-03-27

Similar Documents

Publication Publication Date Title
JP5896424B2 (ja) 全方位画像編集プログラム及び全方位画像編集装置
JP3030485B2 (ja) 3次元形状抽出方法及び装置
US6434277B1 (en) Image processing apparatus and method, and medium therefor
JP3786132B2 (ja) ゲーム画像処理プログラム及び記憶媒体
US7277571B2 (en) Effective image processing, apparatus and method in virtual three-dimensional space
US6556195B1 (en) Image processing device and image processing method
US20110012911A1 (en) Image processing apparatus and method
JPH0997344A (ja) テクスチャ生成方法およびテクスチャ生成システム
US20180075880A1 (en) Video generation device, video generation program, and video generation method
JPH05143711A (ja) 画像生成方法
JP3002972B2 (ja) 3次元画像処理装置
JP4269951B2 (ja) 3次元コンピュータ・グラフィックス・モデリング・システム
JP2000030080A (ja) Vrシステム
JP3732158B2 (ja) 3次元形状モデルの表示方法及び装置
JP3116019B2 (ja) 三次元画像データ作成方法および三次元カラー画像表示方法
JP3596959B2 (ja) テクスチャ編集システム
JP6344619B2 (ja) 奥行き情報編集装置、奥行き情報編集方法、奥行き情報編集プログラム、及び奥行き情報編集プログラムを記録したコンピュータ読み取り可能な記録媒体
US6633291B1 (en) Method and apparatus for displaying an image
JP3683927B2 (ja) コンピュータ・グラフィック制作システム及びその制御方法
JP4433525B2 (ja) 画像処理装置
JP3345808B2 (ja) 3次元形状モデルの表示方法及び装置
JP2968210B2 (ja) 三次元グラフィックス編集装置
JP2821433B2 (ja) 立体図作図方法
JP2002352264A (ja) 模様画像作成方法および装置
JP2000152079A (ja) 画像列生成方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150126

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20150917

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20151006

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151013

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20151127

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160126

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160224

R150 Certificate of patent or registration of utility model

Ref document number: 5896424

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250