JP2005354644A - 仮想現実感生成装置および方法 - Google Patents

仮想現実感生成装置および方法 Download PDF

Info

Publication number
JP2005354644A
JP2005354644A JP2004176106A JP2004176106A JP2005354644A JP 2005354644 A JP2005354644 A JP 2005354644A JP 2004176106 A JP2004176106 A JP 2004176106A JP 2004176106 A JP2004176106 A JP 2004176106A JP 2005354644 A JP2005354644 A JP 2005354644A
Authority
JP
Japan
Prior art keywords
video
synchronization
image
screen
time
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004176106A
Other languages
English (en)
Other versions
JP4013922B2 (ja
Inventor
Nobuyuki Shibano
伸之 柴野
Koko Yamamoto
厚行 山本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Electric Works Co Ltd
Original Assignee
Matsushita Electric Works Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Matsushita Electric Works Ltd filed Critical Matsushita Electric Works Ltd
Priority to JP2004176106A priority Critical patent/JP4013922B2/ja
Publication of JP2005354644A publication Critical patent/JP2005354644A/ja
Application granted granted Critical
Publication of JP4013922B2 publication Critical patent/JP4013922B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Abstract

【課題】 球面スクリーンに2つのカメラで得た動画映像を投影して観察者の左右の目に選択的に入射することで立体動画映像を表示し、バーチャルリアリティを生成する装置において、実写映像などの動画映像を、ずれなく正確に合成して立体映像を再現する。
【解決手段】 DVD11,12から高圧縮の動画映像ファイルをハードディスク12,22,32に取込み、解凍部13,23,33でそれぞれ順次デコードし、再生表示部14,24,34で動画映像の信号に変換し、さらに歪補正部15,25でスクリーンの球面形状に対する歪補正を行う。このとき、再生表示部34からの映像信号から、同期管理部36は読出すべき映像の時刻を配信し、それに応答して2つの映像作成手段7,8の同期管理部16,26は同期処理を行う。これによって、時間を要するとともに、映像によって所要時間がばらつく前記高圧縮の動画映像ファイルのデコード処理を同期して行う。
【選択図】 図2

Description

本発明は、観察者に凹面を向けた球面状のスクリーンに広視野角の立体映像を実スケールで歪みなく表示することで、観察者に仮想現実感(バーチャルリアリティ)を与える仮想現実感生成装置および方法に関する。
前記仮想現実感(バーチャルリアリティ)を観察者に与える場合、たとえば水平方向210度、垂直方向110度と言われる人の最大視野角を超えるスクリーンに映像を表示しなければならない。したがって、平面スクリーンでは不可能であるので、観察者に凹面を向けた球面状のスクリーンを用いる仮想現実感生成装置が提案されている。
その中でも、本件出願人が先に提案した特許文献1は、前記球面状のスクリーンに対する歪補正だけでなく、投影手段(プロジェクタ)が球の中心軸上にないオフセットした状態に設置された場合でも、歪のない映像が得られるように補正するようにしたものである。このため、観察者の視点位置が前記中心軸上近くになる比較的小さい球面スクリーンでも、前記投影手段の設置位置を選ばず、利便性の高いものとなっている。
特許第387487号明細書
このように構成される仮想現実感生成装置において、上述のような設置位置補正が加わることで、球面状のスクリーンの径が選択可能になったり、特に小径のスクリーンが使用可能になることで、該仮想現実感生成装置の設置条件が緩和され、また用途が広まる。たとえば、都市や建物或いは商品の設計にあたって、完成予想を3次元表示したり、運転シミュレーションなどに使用することが考えられる。このように用途が広まると、これまでのCG(コンピュータグラフィックス)などのような専用の画像作成手段で作成された3次元映像だけでなく、実写映像を使用することが、より現実感を生んだり、コストを抑えられると考えられる。
しかしながら、前記実写映像は、前記CGなどのような専用の画像作成手段で作成されるのではなく、ビデオムービーなどの汎用の撮影手段を使用して作成されるので、圧縮して媒体に記録されていることが多く、そのまま再生したのでは、各投影手段からの投影画像にずれが生じ、見ずらくなってしまうという問題がある。
本発明の目的は、実写映像などの動画映像を、ずれなく正確に合成して立体映像を再現することができる仮想現実感生成装置および方法を提供することである。
上述の目的を達成するために、本発明の第1の手段に係る仮想現実感生成装置は、観察者に凹面を向けた球面状で該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンと、相互に異なる角度から見た複数の動画映像の信号をそれぞれ作成する映像作成手段と、前記各信号による動画映像をそれぞれスクリーンへ投影して観察者に合成して認識させることで立体動画映像を表示する投影手段とを備えて構成される仮想現実感生成装置において、前記映像作成手段は、各角度における圧縮動画映像ファイルをそれぞれ順次デコードして、前記動画映像の信号に変換し、前記投影手段に与えるデコード手段を少なくとも有し、前記各映像作成手段を制御し、各信号間の同期を確立する同期手段を含んでいる。
また、上記の仮想現実感生成装置では、前記同期手段は、時間管理ループプロセスおよび同期管理プロセスを実行する同期管理部を有し、前記各映像作成手段は、前記投影手段への出力用とデコードした映像信号の書込み用とに順次切換えて使用可能な2つのフレームメモリを有し、前記デコード手段は、同期管理プロセスを実行する同期管理部、ムービーファイル解凍プロセスを実行する解凍部、映像表示プロセスを実行する再生表示部および映像歪補正プロセスを実行する歪補正部を有している。
さらにまた、本発明の第2の手段に係る仮想現実感生成方法は、観察者に凹面を向けた球面状で該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンに、相互に異なる角度から見た複数の動画映像をそれぞれ投影して観察者に合成して認識させることで立体動画映像を表示する仮想現実感生成方法において、前記各角度における圧縮動画映像ファイルをそれぞれの映像作成手段に設けた同期管理プロセス、ムービーファイル解凍プロセス、映像表示プロセスおよび映像歪補正プロセスを含んで実行するデコード手段にて順次デコードして前記動画映像の信号に変換し、時間管理ループプロセスおよび同期管理プロセスを含んで実行する同期手段にて前記映像作成手段を制御して各信号間の同期を確立するにあたって、前記時間管理ループプロセスで現在時刻を取得し、規定時間が経過した場合、同期手段の同期管理プロセスから各デコード手段に向けて現在時刻を配信し、前記映像表示プロセスが現在時刻を受信し、受信したことを表すレシートを同期手段に返信するとともにリファレンス時刻を更新し、前記ムービーファイル解凍プロセスへそのリファレンス時刻を配信し、前記ムービーファイル解凍プロセスは、前記リファレンス時刻を取得し、現在取得しているフレームの表示されるべき時刻と比較し、その結果、遅延が2フレーム以内ならばフレームデータを更新し、フレームバッファ内のアドレスを映像表示プロセスへ通知するとともに、フレームデータを更新したことを映像表示プロセスへ通知し、前記映像表示プロセスは、フレームデータ更新通知を受けると、すでに通知済のフレームバッファ内のアドレスよりフレームデータを映像として取得し、ムービーファイル解凍プロセスへフレームデータ更新完了を通知し、映像を映像作成手段内に設けられている2つのフレームメモリの内、出力側に選択されていない方に描画するとともに前記映像歪み補正プロセスを呼び出して処理を実行させ、前記ムービーファイル解凍プロセスは、フレームデータ更新完了通知を受取ると、新たなフレームデータを取得し、前記同期手段の同期管理プロセスでは、前記レシートを受取ると、スワップ同期メッセージを映像表示プロセスへ送信し、映像表示プロセスは、前記2つのフレームメモリのスワップを実行し、前記同期手段の同期管理プロセスへレシートを返信し、再び現在時刻の受信を待受ける。
このような構成の仮想現実感生成装置および方法は、球面スクリーンに相互に異なる角度から見た複数の動画映像をそれぞれ投影して立体動画映像を表示することで、いわゆるバーチャルリアリティを生成する表示装置において、各角度における圧縮動画映像ファイルをそれぞれ順次デコードして、前記動画映像の信号に変換してゆき、前記投影手段に与えるデコード処理は、時間を要するとともに、映像によって所要時間がばらつくので、処理のばらつきを補正するために、同期手段を設け、前記各映像作成手段を制御し、動画映像の各信号間の同期を確立する。
それゆえ、前記実写映像などの動画映像を、ずれなく正確に合成して立体映像を再現することができる。
[実施の形態1]
以下、本発明に係る実施形態を図面に基づいて説明する。なお、各図において、同一の符号を付した構成は、同一の構成であることを示し、その説明を省略する。
図1は、本発明の実施の一形態に係る仮想現実感生成装置の全体構成を示す図である。この仮想現実感生成装置は、大略的に、広視野角のスクリーン1と、前記スクリーン1に右目用と左目用との映像をそれぞれ投影するプロジェクタ2,3と、前記プロジェクタ2,3からの投射映像を反射して前記スクリーン1に照射する反射鏡4と、前記プロジェクタ2,3からの投射映像を見るにあたって観察者5が装着する眼鏡6と、前記プロジェクタ2,3で投影するための映像信号をそれぞれ作成する映像作成手段7,8と、前記映像作成手段7,8の同期を確立する同期手段9とを備えて構成される。
前記スクリーン1は、水平方向にも垂直方向にも曲率を有する球面状に形成され、観察者5側に凹面を向けて配置され、該観察者5から見て、たとえば水平方向に約140度、垂直方向に約85度の有効視野角以上に映像を表示することができるものである。なお、この有効視野角とは、人間が物を詳細に認識できる視野角である。前記プロジェクタ2,3は、観察者5の有効視野角外で、かつスクリーン1上に該観察者5の影を作らない映像投影位置に配置されており、その投射映像は板状の前記反射鏡4で全反射されて前記スクリーン1に照射される。前記スクリーン1、プロジェクタ2,3および反射鏡4は、枠体10によって相互間の位置関係を維持するように保持されている。
前記映像作成手段7,8は、後に詳述するように、外部または内部に右目用と左目用との動画映像ファイルをそれぞれ有し、それを順次デコードして、さらにスクリーン1上に表示されたときに、観察者5から見て、実スケールで、かつ歪みが無くなるように予め映像を歪ませる処理を行い、同期手段9からの同期信号に応答して、プロジェクタ2,3から、図示しない偏光フィルタを介して、相互に直交する偏光面の光でスクリーン1へ投影させる。これに対応して、観察者5が装着する眼鏡6は、前記相互に直交する偏光面の光の内、右目と左目とでそれぞれ対応する偏光面の光のみを通過させ、観察者5に視認させる。
図2は、上述のように構成される仮想現実感生成装置の電気的構成を示すブロック図である。注目すべきは、本発明の仮想現実感生成装置では、ビデオムービーなどの汎用の撮影手段を使用して作成された圧縮動画映像ファイルから仮想現実感映像を生成することである。前記圧縮動画映像ファイルは、DVD(デジタルビデオディスク)などの媒体に圧縮記録されている。図2では、前記媒体としては、左右それぞれのDVD11,21で示しているけれども、動画映像が圧縮記録されている他の媒体であってもよい。また、人間の両眼視差に対応した間隔だけ水平方向に離間して配置された左右それぞれの撮影手段で撮影された動画映像は、それらの撮影手段で個別のDVD11,21に圧縮して記録されるが、左右の撮影手段が一体化されていて、同じ媒体に記録されていてもよい。
MPEG2やMPEG4などで圧縮された前記DVD11,21の記録映像は、前記映像作成手段7,8において、それぞれハードディスク12,22に取込まれる。前記ハードディスク12,22に取込まれた記録映像は、解凍部13,23において解凍(伸長)され、さらに再生表示部14,24において、映像信号に変換される。前記解凍部13,23および再生表示部14,24は、デコード手段を構成する。こうして得られた映像信号は、歪補正部15,25において、前記スクリーン1の球面形状によって生じる歪に対する歪補正および前記プロジェクタ2,3の球の中心軸上からのオフセットによって生じる歪に対する設置位置補正が行われる。
前記歪補正部15,25から出力された映像信号は、切換えスイッチ17,27を介して、それぞれ2つずつ設けられるフレームメモリ18,19;28,29の一方に書込まれ、そのフレームメモリ18,19;28,29の他方からは、切換えスイッチ20,30を介して映像信号が読出され、前記プロジェクタ2,3に与えられ、投射が行われる。このように構成される映像作成手段7,8において、CGによって作成された映像信号は、前記解凍部13,23における伸長処理および再生表示部14,24における映像信号への変換処理は不要であり、直接歪補正部15,25から入力される。
前記映像作成手段7,8は、パーソナルコンピュータから成り、前記解凍部13,23、再生表示部14,24、歪補正部15,25および同期管理部16,26は、そのパーソナルコンピュータに格納されたソフトウェアおよびそれを実行するハードウェアによって構成される。すなわち、映像信号処理用のソフトウェアとして、前記解凍部13,23にはムービーファイル解凍プロセスを有し、再生表示部14,24には映像表示プロセスを有し、前記歪補正部15,25には映像歪補正プロセスを有する。また、前記解凍部13,23、再生表示部14,24および切換えスイッチ17,27;20,30の同期を管理する同期管理部16,26は、同期管理プロセスを有する。
ここで、本発明では、前記映像作成手段7,8はスレーブとなり、マスターとなる前記同期手段9が設けられる。この同期手段9もパーソナルコンピュータから成り、前記映像作成手段7,8とは、ネットワーク31によって相互に接続されている。同期手段9でも、前記DVD11または12(図2では11)からの記録映像がハードディスク32に取込まれ、解凍部33において伸長され、さらに再生表示部34において映像信号に変換される。この映像信号におけるタイムコードを利用して、同期管理部36は、前記同期管理部16,26を介して、後述するように前記切換えスイッチ17,27;20,30のスイッチングなどを制御し、映像作成手段7,8からの映像信号間の同期を確立する。前記解凍部33にはムービーファイル解凍プロセスを有し、再生表示部34には映像表示プロセスを有し、同期管理部36には同期管理プロセスおよび時間管理ループプロセスを有する。前記映像作成手段7,8が実行する同期管理プロセス、ムービーファイル解凍プロセス、映像表示プロセスおよび映像補正プロセスについては、後述する図5および図8の説明箇所にて一例を詳細に説明する。また、同期手段9が実行する時間管理ループプロセス、同期管理プロセス、ムービーファイル解凍プロセスおよび映像表示プロセスについても、後述する図8の説明箇所にて一例を詳細に説明する。
図3は、前記歪補正部15,25によるスクリーン1の球面形状に対する歪補正処理を説明するための図である。前記再生表示部14,24において得られた映像信号映像を、そのまま球形のスクリーン1に投射すると、図3(a)に示すように、歪んだ映像になる。このため球形のスクリーン1に表示したときに歪みが無くなるように、図3(b)に示すように、予め前記歪補正部15,25において映像を歪ませる。
また、図4は、前記歪補正部15,25によるプロジェクタ2,3の球の中心軸上からのオフセットによって生じる歪に対する設置位置補正処理を説明するための図である。この図4では、前記反射鏡4を省略しており、観察者5の後方から投射しているように示している。前記球面形状に対する歪補正が施された映像信号は、プロジェクタ2,3を、図4(a)や図4(b)で示すように、球の中心Oを通る中心軸c上に設置した状態で投射すると、歪のない映像となる。しかしながら、図1からも理解されるように、プロジェクタ2,3は観察者5の影にならない位置に設置する必要があり、特にスクリーン1の径が小さくなる程、前記中心軸上からのオフセットが大きくなる。そこで、図4(c) で示すように、プロジェクタ2,3が中心軸c上に無い状態で、該歪補正部15,25は、プロジェクタ2,3の設置位置に応じてさらに映像に歪みを与えることで補正する。
また、プロジェクタには光軸シフトと呼ぶ映像を投射する角度を変更できる機能を持つものがあるため、その機能を使用すると図1や図4(d)のようにプロジェクタ2,3を床に対して水平に設置することが可能になる。この場合も光軸シフトをパラメータとして映像を歪ませる必要があり、映像表示領域に沿って映像表示パラメータを上下左右方向に非対称な値に変換して映像表示パラメータを変更する。しかしながら、光軸シフトには、プロジェクタ2,3内にそのようなシフト機構が必要になり、コストアップを招くので、プロジェクタ2,3の軸線と光軸とを一致させることが好ましい。
図5は、そのような歪補正部15,25による歪み補正の手法を説明するための図である。この図5でも、前記反射鏡4を省略して示している。先ず、補正にあたって、図5に示すように、観察者5の視点位置よりビューフラスタムおよびプロジェクタ2,3の投影位置より映像投影フラスタムを定義する。ビューフラスタムは、視点位置としての頂点をP0、底面をP0,0,Pm,0,Pm,n,P0,nとする四角錐で表現され、投影フラスタムは、プロジェクタバックフォーカス位置としての頂点をQ0、底面をQ0,0,Qm,0,Qm,n,Q0,nとして表現される。ここで、m,nは映像解像度を表すものとし、映像信号が、たとえばSXGAの場合は、m=1279、n=1023である。底面は、仮想スクリーン面とも呼ばれる。
ここで、簡易表現のため、m=iにおけるy−z二次元断面から見たイメージを図6に示す。先ず、仮想スクリーン面1a内に点Pi,jを想定し,ベクトルP0i,jとドームスクリーン1との交点Ri,jを求める。次に、ベクトルQ0i,jと投影フラスタムの仮想スクリーン面1bとの交点Qi,jを求める。i,jを、0≦i≦m,0≦j≦nで変化してゆくと、Pi,j→Qi,j対応マップを作成することができ,この対応マップが映像の歪みに対する逆補正となる。すなわち、先ずビューフラスタムに基づいて通常の映像生成を行い、次にこの映像データを取出し、このイメージにPi,j→Qi,j対応マップを利用したテクスチャマッピング座標を適用して再度映像生成を行うことで、映像歪み補正を実現している。グリッド映像にPi,j→Qi,j対応マップを適用したイメージを図7に示す(すなわち前記図3(b)とは逆になる)。本歪み補正手法は、スクリーン1の形状を制限しない。すなわち、ドームスクリーンだけではなく、スクリーン面が測定可能もしくは解析的な特定ができれば、平面を組合わせたマルチスクリーンおよび曲率が連続的に変化する楕円球面などへも適用可能である。
こうして歪み補正機能をソフトウェア上で実現することで、魚眼レンズ等を用いた光学的な処理で実現する場合では、予め表示系に合ったレンズを作成し、そのレンズを使って映像を作成・表示しなければならず、表示系の大きさ、形が変わった時には対応できないのに対して、ソフトウェアで実現することで、表示系に合わせたパラメータ設定だけで対応することができ、有利である。
図8は、上述のように構成される仮想現実感生成装置における左右の映像信号間の同期確立動作を説明するためのフローチャートである。本仮想現実感生成装置を実現する主要なソフトウェアは、前述のような時間管理ループプロセス、同期管理プロセス、ムービーファイル解凍プロセス、映像表示プロセスおよび映像歪み補正プロセスの5つから構成される。前記同期管理プロセス、ムービーファイル解凍プロセスおよび映像表示プロセスは、前記映像作成手段7,8において、それぞれ一連のプロセスで連携しながら動作する。スレーブパソコンであるこれらの映像作成手段7,8は、2つにとどまらず、マルチスクリーン対応などでさらに拡張することが可能である。前記時間管理ループプロセスは、唯一のプロセスであり、複数のパーソナルコンピュータのどこか一箇所で実行されればよいが、本実施の形態では、上述のように独立したマスターパソコンである同期手段9上で実行する。そして各プロセスは、ネットワーク31を利用して通信を行う。図8では、前記同期管理プロセスによる動作を、破線で示す。
マスターパソコンでは、前記時間管理ループプロセスおよび同期管理プロセスを実行する。これによって、先ず、時間管理ループプロセスで現在時刻を取得し、規定時間が経過した場合、同期管理プロセスからスレーブパソコンに向けて現在時刻を配信する(S101,S102)。すなわち、同期管理プロセスは、一定時間毎に、時刻と、後述するように2つのフレームメモリ18,19;28,29の切換えを行う切換えスイッチ17,27;20,30の切換え指令であるスワップ同期メッセージを送信することになる。
一方、スレーブパソコンでは、前記ムービーファイル解凍プロセス・映像表示プロセス・映像歪み補正プロセスを実行する。これによって、先ず、映像表示プロセスが現在時刻を受信し、受信後確かに受取ったことをレシートとしてマスターパソコンに返信する(S201,S202)。さらに映像表示プロセスは、リファレンス時刻を更新し、さらにムービーファイル解凍プロセスへリファレンス時刻を配信し(S203)、フレームデータ更新通知を待受ける(S204)。
これに応答して、ムービーファイル解凍プロセスは、リファレンス時刻を取得し(S301)、現在取得しているフレームの表示されるべき時刻と比較する(S302)。比較の結果、遅延が2フレーム以内ならばフレームデータを更新、すなわち解凍し、フレームバッファ内のアドレスを映像表示プロセスへ通知する(S303)。さらにムービーファイル解凍プロセスは、フレームデータを更新したことを映像表示プロセスへ通知する(S304)。
映像表示プロセスは、フレームデータ更新通知を受けると(S204,S205)、すでにS303で通知済のフレームバッファ内のアドレスよりフレームデータを映像として取得し(S206)、ムービーファイル解凍プロセスへフレームデータ更新完了を通知し(S207)、映像をバックバッファ(前記2つのフレームメモリ18,19;28,29の内、出力側に選択されていない方(図2ではフレームメモリ18,28))に描画、すなわち映像信号に再生する(S208)。
一方、マスターパソコンでは、同期管理プロセスは、S103でレシートを受取ると、スワップ同期メッセージをスレーブパソコンの映像表示プロセスへ送信する(S104)。これに応答して、映像表示プロセスは、映像歪み補正プロセスを呼び出して処理を実行させ(S209)、続いてバッファスワップを実行し、マスターパソコンの同期管理プロセスへ確かに受取ったことを表すレシートを返信する(S210,S211,S212)。その後、映像表示プロセスは、S201で現在時刻の受信を待受ける。前記映像歪み補正は、前記図5で示すように対応マップの読替えによる一定時間の遅延で実現することができ、これによって左右のプロジェクタ2,3からは、相互に同期の取れた動画映像が投射されることになる。
ムービーファイル解凍プロセスは、フレームデータ更新完了通知を受取ると(S305)、圧縮ムービーファイルより1フレームを新たに取得する(S306)。また、S302での比較の結果、遅延が2フレームを超えていても、前記S306で1フレームを新たに取得する。
マスターパソコンの同期管理プロセスでは、映像表示プロセスよりスワップ同期メッセージのレシートを受取るまでプロセスを停止、受取ると現在時刻の取得より開始する(S105)。
このように構成することによって、特殊なハードウェアを用いることなく、実写映像などのムービーファイルの解凍・再生・歪み補正の各処理をリアルタイムで行いつつ、インタラクティブな複数のムービーファイルを、複数のパソコン上で同期して再生することが可能となる。特に、前記MPEG2やMPEG4というムービーファイルフォーマットには、1つ1つのフレームという概念がなく、映像信号の差分のみ管理することでファイル容量を圧縮しているので、差分情報よりフレームを再構築する処理(解凍処理)が必要であり、本発明では、この重い処理プロセスを実行しながら、さらに再生・同期・歪み補正という処理を同時に行い、リアルタイム処理(30フレーム/秒)を実現することができる。
本発明の実施の一形態に係る仮想現実感生成装置の全体構成を示す図である。 図1で示す仮想現実感生成装置の電気的構成を示すブロック図である。 歪補正部によるスクリーンの球面形状に対する歪補正処理を説明するための図である。 歪補正部によるプロジェクタの球の中心軸上からのオフセットによって生じる歪に対する設置位置補正処理を説明するための図である。 歪補正部による歪み補正の手法を説明するための図である。 半球状のスクリーンの中央部で切断した図5の二次元断面図である。 グリッド映像の歪補正のイメージ図である。 本発明の実施の一形態に係る同期確立動作を説明するためのフローチャートである。
符号の説明
1 スクリーン
2,3 プロジェクタ
4 反射鏡
5 観察者
6 眼鏡
7,8 映像作成手段
9 同期手段
10 枠体
11,12 DVD
12,22,32 ハードディスク
13,23,33 解凍部
14,24,34 再生表示部
15,25 歪補正部
16,26,36 同期管理部
17,27;20,30 切換えスイッチ
18,19;28,29 フレームメモリ
31 ネットワーク

Claims (3)

  1. 観察者に凹面を向けた球面状で該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンと、相互に異なる角度から見た複数の動画映像の信号をそれぞれ作成する映像作成手段と、前記各信号による動画映像をそれぞれスクリーンへ投影して観察者に合成して認識させることで立体動画映像を表示する投影手段とを備えて構成される仮想現実感生成装置において、
    前記映像作成手段は、各角度における圧縮動画映像ファイルをそれぞれ順次デコードして、前記動画映像の信号に変換し、前記投影手段に与えるデコード手段を少なくとも有し、
    前記各映像作成手段を制御し、各信号間の同期を確立する同期手段を含むことを特徴とする仮想現実感生成装置。
  2. 前記同期手段は、時間管理ループプロセスおよび同期管理プロセスを実行する同期管理部を有し、
    前記各映像作成手段は、前記投影手段への出力用とデコードした映像信号の書込み用とに順次切換えて使用可能な2つのフレームメモリを有し、
    前記デコード手段は、同期管理プロセスを実行する同期管理部、ムービーファイル解凍プロセスを実行する解凍部、映像表示プロセスを実行する再生表示部および映像歪補正プロセスを実行する歪補正部を有することを特徴とする請求項1記載の仮想現実感生成装置。
  3. 観察者に凹面を向けた球面状で該観察者の有効視野角以上に映像を表示可能な広視野角のスクリーンに、相互に異なる角度から見た複数の動画映像をそれぞれ投影して観察者に合成して認識させることで立体動画映像を表示する仮想現実感生成方法において、
    前記各角度における圧縮動画映像ファイルをそれぞれの映像作成手段に設けた同期管理プロセス、ムービーファイル解凍プロセス、映像表示プロセスおよび映像歪補正プロセスを含んで実行するデコード手段にて順次デコードして前記動画映像の信号に変換し、時間管理ループプロセスおよび同期管理プロセスを含んで実行する同期手段にて前記映像作成手段を制御して各信号間の同期を確立するにあたって、
    前記時間管理ループプロセスで現在時刻を取得し、規定時間が経過した場合、同期手段の同期管理プロセスから各デコード手段に向けて現在時刻を配信し、
    前記映像表示プロセスが現在時刻を受信し、受信したことを表すレシートを同期手段に返信するとともにリファレンス時刻を更新し、前記ムービーファイル解凍プロセスへそのリファレンス時刻を配信し、
    前記ムービーファイル解凍プロセスは、前記リファレンス時刻を取得し、現在取得しているフレームの表示されるべき時刻と比較し、その結果、遅延が2フレーム以内ならばフレームデータを更新し、フレームバッファ内のアドレスを映像表示プロセスへ通知するとともに、フレームデータを更新したことを映像表示プロセスへ通知し、
    前記映像表示プロセスは、フレームデータ更新通知を受けると、すでに通知済のフレームバッファ内のアドレスよりフレームデータを映像として取得し、ムービーファイル解凍プロセスへフレームデータ更新完了を通知し、映像を映像作成手段内に設けられている2つのフレームメモリの内、出力側に選択されていない方に描画するとともに前記映像歪み補正プロセスを呼び出して処理を実行させ、
    前記ムービーファイル解凍プロセスは、フレームデータ更新完了通知を受取ると、新たなフレームデータを取得し、
    前記同期手段の同期管理プロセスでは、前記レシートを受取ると、スワップ同期メッセージを映像表示プロセスへ送信し、
    映像表示プロセスは、前記2つのフレームメモリのスワップを実行し、前記同期手段の同期管理プロセスへレシートを返信し、再び現在時刻の受信を待受けることを特徴とする仮想現実感生成方法。
JP2004176106A 2004-06-14 2004-06-14 仮想現実感生成装置および方法 Expired - Fee Related JP4013922B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004176106A JP4013922B2 (ja) 2004-06-14 2004-06-14 仮想現実感生成装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004176106A JP4013922B2 (ja) 2004-06-14 2004-06-14 仮想現実感生成装置および方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2007149526A Division JP2007312402A (ja) 2007-06-05 2007-06-05 映像作成装置および該方法ならびに映像投影システム

Publications (2)

Publication Number Publication Date
JP2005354644A true JP2005354644A (ja) 2005-12-22
JP4013922B2 JP4013922B2 (ja) 2007-11-28

Family

ID=35588680

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004176106A Expired - Fee Related JP4013922B2 (ja) 2004-06-14 2004-06-14 仮想現実感生成装置および方法

Country Status (1)

Country Link
JP (1) JP4013922B2 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007312420A (ja) * 2006-02-20 2007-11-29 Matsushita Electric Works Ltd 映像信号処理装置、仮想現実感生成システム
JP2008003132A (ja) * 2006-06-20 2008-01-10 Matsushita Electric Works Ltd 仮想現実感生成装置及び仮想現実感生成装置の設計方法
JP2008187729A (ja) * 2006-02-20 2008-08-14 Matsushita Electric Works Ltd 映像信号処理装置
JP2009005044A (ja) * 2007-06-21 2009-01-08 Mitsubishi Precision Co Ltd 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
JP2009267620A (ja) * 2008-04-23 2009-11-12 Panasonic Electric Works Co Ltd 映像補正方法、プログラム及び立体視映像生成システム
JP2010525375A (ja) * 2007-03-09 2010-07-22 ルノー・エス・アー・エス 2次元スクリーン上に3次元画像を映写するためのシステム及びそれに対応する方法
US8147073B2 (en) 2006-02-20 2012-04-03 Panasonic Corporation Image signal processing apparatus and virtual reality creating system
WO2013114675A1 (ja) * 2012-01-31 2013-08-08 株式会社日立ハイテクノロジーズ 画像処理装置、歪補正マップ作成装置、および半導体計測装置
JP2013211672A (ja) * 2012-03-30 2013-10-10 Namco Bandai Games Inc 曲面投影立体視装置
KR101440847B1 (ko) * 2013-02-25 2014-11-04 중앙대학교 산학협력단 어안 렌즈를 이용한 3차원 왜곡 장치 및 방법
CN106486030A (zh) * 2016-12-30 2017-03-08 深圳裸眼威阿科技有限公司 基于虚拟现实的全景显示系统
WO2019013016A1 (ja) 2017-07-13 2019-01-17 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
WO2019146426A1 (ja) * 2018-01-25 2019-08-01 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および投影システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111263178A (zh) * 2020-02-20 2020-06-09 广州虎牙科技有限公司 直播方法、装置、用户端及存储介质

Cited By (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007312420A (ja) * 2006-02-20 2007-11-29 Matsushita Electric Works Ltd 映像信号処理装置、仮想現実感生成システム
JP2008187729A (ja) * 2006-02-20 2008-08-14 Matsushita Electric Works Ltd 映像信号処理装置
JP4631878B2 (ja) * 2006-02-20 2011-02-16 パナソニック電工株式会社 映像信号処理装置、仮想現実感生成システム
JP4631918B2 (ja) * 2006-02-20 2011-02-16 パナソニック電工株式会社 映像信号処理装置
US8147073B2 (en) 2006-02-20 2012-04-03 Panasonic Corporation Image signal processing apparatus and virtual reality creating system
JP2008003132A (ja) * 2006-06-20 2008-01-10 Matsushita Electric Works Ltd 仮想現実感生成装置及び仮想現実感生成装置の設計方法
JP2010525375A (ja) * 2007-03-09 2010-07-22 ルノー・エス・アー・エス 2次元スクリーン上に3次元画像を映写するためのシステム及びそれに対応する方法
JP2009005044A (ja) * 2007-06-21 2009-01-08 Mitsubishi Precision Co Ltd 分割撮像による歪み補正と統合方法及びそのためのマッピング関数生成方法並びに分割撮像による歪み補正と統合装置及びそのためのマッピング関数生成装置
JP2009267620A (ja) * 2008-04-23 2009-11-12 Panasonic Electric Works Co Ltd 映像補正方法、プログラム及び立体視映像生成システム
JP2013156959A (ja) * 2012-01-31 2013-08-15 Hitachi High-Technologies Corp 画像処理装置および方法と歪補正マップ作成装置および方法と半導体計測装置
WO2013114675A1 (ja) * 2012-01-31 2013-08-08 株式会社日立ハイテクノロジーズ 画像処理装置、歪補正マップ作成装置、および半導体計測装置
JP2013211672A (ja) * 2012-03-30 2013-10-10 Namco Bandai Games Inc 曲面投影立体視装置
KR101440847B1 (ko) * 2013-02-25 2014-11-04 중앙대학교 산학협력단 어안 렌즈를 이용한 3차원 왜곡 장치 및 방법
CN106486030A (zh) * 2016-12-30 2017-03-08 深圳裸眼威阿科技有限公司 基于虚拟现实的全景显示系统
CN106486030B (zh) * 2016-12-30 2023-12-22 深圳裸眼威阿科技有限公司 基于虚拟现实的全景显示系统
US11620776B2 (en) 2017-07-13 2023-04-04 Sony Group Corporation Information processing apparatus and information processing method
US11094097B2 (en) 2017-07-13 2021-08-17 Sony Corporation Information processing apparatus and information processing method
WO2019013016A1 (ja) 2017-07-13 2019-01-17 ソニー株式会社 情報処理装置、情報処理方法、及びプログラム
US11861773B2 (en) 2017-07-13 2024-01-02 Sony Corporation Information processing apparatus and information processing method
CN111630848A (zh) * 2018-01-25 2020-09-04 索尼公司 图像处理装置、图像处理方法、程序和投影系统
US11388378B2 (en) 2018-01-25 2022-07-12 Sony Corporation Image processing apparatus, image processing method and projection system
WO2019146426A1 (ja) * 2018-01-25 2019-08-01 ソニー株式会社 画像処理装置、画像処理方法、プログラム、および投影システム
CN111630848B (zh) * 2018-01-25 2023-04-14 索尼公司 图像处理装置、图像处理方法、程序和投影系统

Also Published As

Publication number Publication date
JP4013922B2 (ja) 2007-11-28

Similar Documents

Publication Publication Date Title
JP3992045B2 (ja) 映像信号処理装置及び該方法並びに仮想現実感生成装置
JP4622570B2 (ja) 仮想現実感生成装置およびそれに用いられるプログラム
US11521347B2 (en) Method, apparatus, medium, and device for generating multi-angle free-respective image data
JP4013922B2 (ja) 仮想現実感生成装置および方法
US8750599B2 (en) Stereoscopic image processing method and apparatus
US7321367B2 (en) Arrangement and method for spatial visualization
CN108693970B (zh) 用于调适可穿戴装置的视频图像的方法和设备
US8866887B2 (en) Computer graphics video synthesizing device and method, and display device
WO2019131577A1 (ja) 情報処理装置、情報処理方法、及びプログラム
TW201921921A (zh) 基於紋理圖與網格之3d影像資訊的處理
TW201803358A (zh) 將沈浸式視訊格式化用於傳統及沈浸式顯像元件之方法、裝置及串流
JP3387487B2 (ja) 没入感生成装置
CN108989784A (zh) 虚拟现实设备的图像显示方法、装置、设备及存储介质
Naimark Elements of real-space imaging: a proposed taxonomy
KR20180136891A (ko) 전방향 비디오에 관한 영상 처리 방법 및 장치
JP2010166218A (ja) カメラシステム及びその制御方法
JP2001236521A (ja) 画像分割方式による仮想現実システム
JP2017199958A (ja) 撮像装置、その制御方法、および制御プログラム
JPH01107247A (ja) 3次元映像表示装置
WO2019034804A2 (en) THREE-DIMENSIONAL VIDEO PROCESSING
JP2016158213A (ja) 要素画像群生成装置及びそのプログラム、並びにデジタル放送受信装置
JP2003323170A (ja) 画像表示システムと画像処理装置及び画像表示方法
JP2007312402A (ja) 映像作成装置および該方法ならびに映像投影システム
WO2021227945A1 (zh) 一种显示装置和系统以及方法
JP2005092363A (ja) 画像生成装置および画像生成プログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070412

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20070607

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20070625

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070703

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070723

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070821

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070903

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100921

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4013922

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100921

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110921

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110921

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120921

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130921

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees