JP2016218366A - 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 - Google Patents
情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 Download PDFInfo
- Publication number
- JP2016218366A JP2016218366A JP2015105849A JP2015105849A JP2016218366A JP 2016218366 A JP2016218366 A JP 2016218366A JP 2015105849 A JP2015105849 A JP 2015105849A JP 2015105849 A JP2015105849 A JP 2015105849A JP 2016218366 A JP2016218366 A JP 2016218366A
- Authority
- JP
- Japan
- Prior art keywords
- display
- image
- image data
- information processing
- output
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/20—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of an assembly of a number of characters, e.g. a page, by composing the assembly by combination of individual elements arranged in a matrix no fixed position being assigned to or needed to be assigned to the individual characters or partial characters
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/436—Interfacing a local distribution network, e.g. communicating with another STB or one or more peripheral devices inside the home
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Controls And Circuits For Display Device (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
Abstract
【課題】HMDへの画像表示を含むコンテンツを多様化させる。【解決手段】情報処理装置10に、出力制御装置20a、20bを直列に接続し、各出力制御装置20a、20bにHMD18a、18b、平板型ディスプレイ16などの表示装置を接続できるようにする。情報処理装置10はそれらの接続状態を特定し、HMD18a、18bにそれぞれ表示させる画像を縮小して接続した合成画像124を出力する。各出力制御装置20a、20bはそれを取得し、自らに接続された表示装置に対応する領域を抽出し最終的な表示画像126、128、130を生成して出力することにより表示させる。【選択図】図10
Description
本発明は、撮影画像や描画画像の表示に伴う画像データの伝送および処理技術に関する。
ユーザが頭部に装着することで眼前に映像を表示するヘッドマウントディスプレイ(Head Mounted Display、以下、「HMD」と呼ぶ)が実用化されている。近年では、ユーザの左右の目に視差画像を表示することで立体映像を提示するHMDや、さらにユーザの頭部の動きを追跡しその結果を映像に反映させることで仮想空間への没入感や臨場感を与えるHMDが提案されている(例えば特許文献1参照)。
HMDは平板型のディスプレイと異なり、それを装着したユーザのみが表示される映像などのコンテンツを楽しむことを基本としている。頭部の動きに対応させて視点を変化させた仮想空間を表示する場合などは特に、ユーザの個人的な動きと映像がインタラクションするため、個人的な遊びや映像コンテンツの鑑賞などにHMDの使用形態が限定されがちであった。そのためHMDを装着し没入感を楽しみつつも、他のユーザと体験を共有できるようなコンテンツ提供技術の実現が望まれている。
本発明はこうした課題に鑑みてなされたものであり、その目的は、HMDへの画像表示を含むコンテンツを複数の人数で楽しめるようにする技術を提供することにある。
本発明のある態様は情報処理装置に関する。この情報処理装置は、表示装置に表示させる動画像のデータを生成する出力データ生成部と、出力データ生成部が生成した動画像のデータを順次、出力する通信部と、を備え、表示装置が複数接続されているとき、出力データ生成部は、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを通信部に出力させることを特徴とする。
本発明の別の態様は出力制御装置に関する。この出力制御装置は、情報処理装置が出力した表示用動画像のデータを取得する入力部と、表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする出力データ形成部と、最終的な表示画像のデータを接続された表示装置に出力する出力部と、を備えることを特徴とする。
本発明のさらに別の態様は情報処理システムに関する。この情報処理システムは、動画像のデータを出力する情報処理装置と、当該動画像のデータを取得して表示装置に表示させる出力制御装置と、を備えた情報処理システムであって、情報処理装置は、表示装置に表示させる動画像のデータを生成する出力データ生成部と、出力データ生成部が生成した動画像のデータを順次、出力制御装置に出力する通信部と、を備え、表示装置が複数接続されているとき、出力データ生成部は、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを通信部に送信させ、出力制御装置は、動画像のデータを取得する入力部と、動画像のデータに合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする出力データ形成部と、最終的な表示画像のデータを接続された表示装置に出力する出力部と、を備えることを特徴とする。
本発明のさらに別の態様は動画データ出力方法に関する。この動画データ出力方法は、表示装置に表示させる動画像のデータを生成するステップと、生成した動画像のデータを順次、出力するステップと、を含み、動画像のデータを生成するステップは、表示装置が複数接続されているとき、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを生成するステップを含むことを特徴とする。
本発明のさらに別の態様も動画データ出力方法に関する。情報処理装置が出力した表示用動画像のデータを取得するステップと、表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とするステップと、最終的な表示画像のデータを接続された表示装置に出力するステップと、を含むことを特徴とする。
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、コンピュータプログラム、コンピュータプログラムを記録した記録媒体などの間で変換したものもまた、本発明の態様として有効である。
本発明によると、HMDへの画像表示を含むコンテンツを多様化させることができる。
図1は本実施の形態を適用できる情報処理システムの構成例を示す。この例で情報処理システム8は、対象物を撮影する撮像装置12、撮影した画像に基づき情報処理を行う情報処理装置10、情報処理の結果として得られた画像を表示する平板型ディスプレイ16および各ユーザが装着するHMD18a、18b、各ユーザが操作する入力装置14a、14bを含む。
情報処理装置10と、撮像装置12、入力装置14a、14b、平板型ディスプレイ16、HMD18a、18bとは、ケーブルで接続されても、Bluetooth(登録商標)など既知の無線通信技術により接続されてもよい。また情報処理装置10が実施する情報処理によっては、撮像装置12、平板型ディスプレイ16、入力装置14a、14bはなくてもよい。またこれらの装置の外観形状は図示するものに限らない。さらに、HMD18a等を装着するユーザの数は2人に限定されず、1人でも3人以上でもよい。
撮像装置12は、ユーザなどの対象物を所定のフレームレートで撮影するカメラと、その出力信号にデモザイク処理など一般的な処理を施すことにより撮影画像の出力データを生成し、情報処理装置10に送出する機構とを有する。カメラはCCD(Charge Coupled Device)センサやCMOS(Complementary Metal Oxide Semiconductor)センサなど、一般的なデジタルカメラ、デジタルビデオカメラで利用されている可視光センサを備える。撮像装置12が備えるカメラは1つのみでもよいし、図示するように2つのカメラを既知の間隔で左右に配置したいわゆるステレオカメラでもよい。
あるいは、赤外線などの参照光を対象物に照射しその反射光を測定する装置と単眼のカメラとの組み合わせにより撮像装置12を構成してもよい。ステレオカメラや反射光の測定機構を導入した場合、3次元の実空間における被写体の位置を求めることができ、情報処理や表示画像をより多様化させることができる。ステレオカメラが左右の視点から撮影したステレオ画像を用いて、三角測量の原理により被写体のカメラからの距離を特定する手法や、反射光の測定によりTOF(Time of Flight)やパターン照射の方式で被写体のカメラからの距離を特定する手法はいずれも広く知られている。
情報処理装置10はHMD18a、18bや平板型ディスプレイ16に表示させる画像のデータを出力する。当該画像のデータは、映画や撮影された動画など元から完成形としてデータ保存されたものでもよいし、情報処理装置10内部でリアルタイムに描画したものでもよい。後者の場合、情報処理装置10は例えば、撮像装置12から所定のフレームレートで取得した撮影画像に対し一般的な顔検出や追跡処理を施すことにより、被写体であるユーザの動作を反映させたキャラクタが登場するゲームを進捗させたり、ユーザの動きをコマンド入力に変換して情報処理を行ったりする。
このとき情報処理装置10は、HMD18a、18bや入力装置14a、14bに設けたマーカーや加速度センサを利用して各ユーザの動きを取得したり、入力装置14a、14bに対するユーザの操作情報を取得したりして、ユーザごとに異なる画像を生成してもよい。例えば撮影画像におけるHMD18a、18bのマーカーの像を追跡することにより、各ユーザの頭部の位置や動きを特定する。そして、その動きに対応してHMD18a、18bに表示させる仮想世界に対する視点を変化させることにより、各ユーザは自分の視点で仮想世界を見ることができ、臨場感や没入感を得ることができる。情報処理装置10はそのような画像データに加え、BGMなどの音声データも出力してよい。
HMD18a、18bは、ユーザが頭に装着することによりその眼前に位置する有機ELパネルなどの表示パネルに画像を表示する表示装置である。例えば左右の視点から見た視差画像を生成し、表示画面を2分割してなる左右の領域にそれぞれ表示させることにより、画像を立体視させることができる。ただし本実施の形態をこれに限る主旨ではなく、表示画面全体に1つの画像を表示させてもよい。HMD18a、18bはさらに、所定の色で発光する素子またはその集合からなる発光マーカー、ユーザの耳に対応する位置に音声を出力するスピーカーやイヤホン、装着した使用者の頭部の傾きを検出する加速度センサなどを装備していてもよい。
平板型ディスプレイ16は、2次元の画像を出力するディスプレイおよび音声を出力するスピーカーを有するテレビでよく、具体的には液晶テレビ、有機ELテレビ、プラズマテレビ、PCディスプレイ等のいずれでもよい。あるいはタブレット端末や携帯端末のディスプレイおよびスピーカーであってもよい。入力装置14a、14bは、ユーザが操作することにより、処理の開始、終了、機能の選択、各種コマンド入力などの要求を受け付け、情報処理装置10に電気信号として供給する。
入力装置14a、14bは、ゲームコントローラ、キーボード、マウス、ジョイスティック、平板型ディスプレイ16の表示画面上に設けたタッチパッドなど、一般的な入力装置のいずれか、またはそれらの組み合わせによって実現してよい。入力装置14a、14bはさらに、所定の色で発光する素子またはその集合からなる発光マーカーを備えていてもよい。この場合、情報処理装置10がマーカーの動きを、撮影画像を用いて追跡することにより、入力装置14a、14bの動き自体をユーザ操作とすることができる。なお入力装置14a、14bを、把持部を有する発光マーカーのみで構成してもよい。
このように本実施の形態では、1つの情報処理装置10から複数のHMD18a、18bへ出力データを送信できるようにする。これにより例えば複数のユーザが一つのゲームに参加し、それぞれの視点からゲームの状況を眺めつつ入力装置14a、14bを操作する、といった態様を実現できる。また、HMD18a、18bで表示させている画像のいずれか、または双方を平板型ディスプレイ16に表示させることにより、ギャラリーとしてのユーザがゲームを観戦することもできる。
このとき情報処理装置10が出力したデータは、矢印に示すように、まずHMD18aに伝送し、次いでHMD18aからHMD18bへと伝送させる。ユーザの数が増える場合は、HMD間で順次伝送させていく。このようにすることで、各装置の通信用端子の数を増やすことなく、HMDを装着するユーザの数を増やしていくことができる。そしてそのようなHMDの連鎖の一旦として平板型ディスプレイ16を含めることもできる。なお以後の説明ではHMD18a、18bをHMD18と総称する場合がある。また上述のように情報処理装置10は各表示装置に音声データを出力可能とするが、以後は画像データに主眼を置き説明する。
図2はHMD18の外観形状の例を示している。この例においてHMD18は、出力機構部102および装着機構部104で構成される。装着機構部104は、ユーザが被ることにより頭部を一周し装置の固定を実現する装着バンド106を含む。装着バンド106は各ユーザの頭囲に合わせて長さの調節が可能な素材または構造とする。例えばゴムなどの弾性体としてもよいし、バックルや歯車などを利用してもよい。
出力機構部102は、HMD18をユーザが装着した状態において左右の目を覆うような形状の筐体108を含み、内部には装着時に目に正対するように表示パネルを備える。表示パネルは液晶パネルや有機ELパネルなどで実現する。筐体108内部にはさらに、HMD18装着時に表示パネルとユーザの目との間に位置し、ユーザの視野角を拡大する一対のレンズを備えてもよい。HMD18はさらに、装着時にユーザの耳に対応する位置にスピーカーやイヤホンを備えてよい。
筐体108の外面には、発光マーカー110a、110b、110c、110dが備えられる。発光マーカーの数や配置は特に限定されないが、図示した例では出力機構部102の筐体前面の4隅に設けている。さらに、装着バンド106後方の両側面にも設けてもよい。なお発光マーカー110c、110dは出力機構部102の下側にあり、図2の視点からは本来は見えないため、外周を点線で表している。
HMD18は図示するように、情報処理装置10が出力したデータを中継する出力制御装置20に接続されることにより表示や音声出力を実現する。出力制御装置20は基本的に、1つの入力端子5と2つの出力端子7a、7bを備える。入力端子5は、情報処理装置10から出力されたデータを直接的、あるいは間接的に取得するインターフェースである。出力端子7a、7bは、HMD18、平板型ディスプレイ16、あるいは他の出力制御装置20にデータを出力するインターフェースである。ただし入力端子と出力端子の数や設置箇所をこれに限定する主旨ではない。
図3は情報処理装置10の内部回路構成を示している。情報処理装置10は、CPU(Central Processing Unit)22、GPU(Graphics Processing Unit)24、メインメモリ26を含む。これらの各部は、バス30を介して相互に接続されている。バス30にはさらに入出力インターフェース28が接続されている。入出力インターフェース28には、USBやIEEE1394などの周辺機器インターフェースや、有線又は無線LANのネットワークインターフェースからなる通信部32、ハードディスクドライブや不揮発性メモリなどの記憶部34、外部装置へデータを出力する出力部36、外部装置からデータを入力する入力部38、磁気ディスク、光ディスクまたは半導体メモリなどのリムーバブル記録媒体を駆動する記録媒体駆動部40が接続される。
CPU22は、記憶部34に記憶されているオペレーティングシステムを実行することにより情報処理装置10の全体を制御する。CPU22はまた、リムーバブル記録媒体から読み出されてメインメモリ26にロードされた、あるいは通信部32を介してダウンロードされた各種プログラムを実行する。GPU24は、ジオメトリエンジンの機能とレンダリングプロセッサの機能とを有し、CPU22からの描画命令に従って描画処理を行い、出力部36から出力制御装置20へデータを出力する。
メインメモリ26はRAM(Random Access Memory)により構成され、処理に必要なプログラムやデータを記憶する。出力制御装置20も基本的には同様の構成を有していてよい。ただし実行するアプリケーションや装置の設計によっては、情報処理装置10がほぼ全ての処理を行い、出力制御装置20は簡易な処理のみで十分な場合がある。この場合、出力制御装置20は、図示する構成の一部を省略できる。
図4はHMD18と平板型ディスプレイ16に表示する画像を説明するための図である。同図左側の画像(a)は、HMD18に表示される画像、右側の画像(b)は平板型ディスプレイ16に表示される画像である。同図ではわかりやすさのために格子状の図柄を表示対象としているが、実際には仮想世界やゲーム画像など情報処理の内容によって表示される画像も様々となる。HMD18用の画像(a)は、画像を立体視させることを想定したものであり、表示パネルに対応する画像平面を2分割してなる左右の領域に、左目用画像と右目用画像からなる一対の視差画像をそれぞれ配置した構成を有する。
この例はHMD18において表示パネルの前にレンズを設けユーザの視野を広げることを想定している。この場合、表示パネルに表示された画像には、レンズによって、中心から離れた画素ほど大きい変位で引き延ばされるいわゆる「糸巻き型」の歪みが発生する。変位量は色によっても異なるため色収差も生じる。したがって、当該歪みと色収差を考慮して逆方向に歪めておく歪み補正を行い、画像(a)のような「樽型」の画像を表示させる。これにより、レンズを介して見たときに画像(b)のような本来の画像が立体的に見えるようになる。
このような補正処理は情報処理装置10が行ってもよいし、出力制御装置20が行ってもよい。前者の場合、画像(a)のデータを受信した出力制御装置20は、HMD18には当該データをそのまま出力し、平板型ディスプレイ16には、画像(a)のうち左目用、右目用のどちらかの画像に、上記歪み補正と逆の補正を施し画像(b)を生成したうえで出力する。
後者の場合は出力制御装置20が、情報処理装置10から送信された補正前の視差画像に歪み補正を施して画像(a)を生成しHMD18に出力する、平板型ディスプレイ16には補正前の視差画像のいずれか、すなわち画像(b)をそのまま出力する。以後の説明では前者の態様を想定するが、後者の態様でも同様に適用できる。レンズ用の歪み補正やその逆補正については一般的な手法を適用することができる。
図5は情報処理装置10と、あるHMD18aに画像データを出力する出力制御装置(出力制御装置20aとする)の機能ブロックの構成を示している。上述のとおり本実施の形態では、情報処理装置10に出力制御装置20を順次接続して出力データを伝送していくとともに、各出力制御装置20に接続したHMD18または平板型ディスプレイ16へ適切な形式で画像を出力していく。図5はそのうち、情報処理装置10とそれに直接接続された出力制御装置20aの構成を示しているが、その他の出力制御装置20も同様の構成とする。なお以降の説明では、そのように接続された出力制御装置20の配列のうち情報処理装置10に近い側を上位、遠い側を下位と表現する。
図5に示す各機能ブロックは、ハードウェア的には、図3に示したCPU、GPU、各種メモリなどで実現でき、ソフトウェア的には、記録媒体などからメモリにロードした、データ入力機能、データ保持機能、画像処理機能、通信機能などの諸機能を発揮するプログラムで実現される。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組合せによっていろいろな形で実現できることは当業者には理解されるところであり、いずれかに限定されるものではない。
情報処理装置10は、撮像装置12および入力装置14a、14bからの入力データを取得する入力データ取得部72、ゲームなど実行するアプリケーションに応じた情報処理を行う情報処理部74、ゲーム画像やその音声など情報処理の結果として出力すべきデータを生成する出力データ生成部78、最上位の出力制御装置20aと通信する通信部76、出力制御装置20aを含む各種装置の接続状態を特定する接続状態特定部80、出力データの生成に必要な基礎データを格納するデータ記憶部81を含む。
入力データ取得部72は、撮像装置12が撮影した画像を所定のフレームレートで順次取得する。また、入力装置14a、14bを介したユーザ操作の内容を示す情報を取得する。ここでユーザ操作とは、実行するアプリケーションの選択、処理の開始/終了、コマンド入力など、一般的な情報処理でなされるものでよい。そして入力データ取得部72は、取得した情報を情報処理部74に供給する。
入力データ取得部72はさらに、各HMD18内部の加速度センサが計測した結果を通信部76から取得し、情報処理部74に供給してもよい。入力データ取得部72はまた、入力装置14a、14bから取得したユーザからの処理開始/終了要求に従い、撮像装置12における撮影の開始/終了を制御したり、情報処理部74における処理の結果に応じて、撮像装置12から取得するデータの種類を制御したりしてもよい。ただし入力データ取得部72が取得するデータは、情報処理部74が実行する情報処理の内容によって異なってよい。
情報処理部74は、ユーザが指定したゲームなどの情報処理を実施する。この情報処理には、撮影画像から対象物の像を検出しそれを追跡する処理などを含んでよい。例えば頭部や手などユーザの体の一部を、輪郭線を利用して追跡したり、特定の模様や形状を有する対象物をパターンマッチングにより追跡したりしてもよい。これらの追跡処理には一般的な画像処理技術を適用できる。さらに各HMD18から送信された加速度センサによる計測値などの情報を統合することにより、ユーザの頭部の位置や姿勢を詳細に特定してもよい。情報処理部74は、そのようにして得たユーザの動きや位置を入力値としたり、入力装置14a、14bを介したユーザ操作を入力値としたりして、ゲームを進捗させたり対応する処理を実施したりする。ただし情報処理の内容はこれらに限定されない。
出力データ生成部78は、情報処理部74からの要求に従い、情報処理の結果として出力すべき画像や音声のデータを生成する。例えば上述のように、ユーザの頭部の位置や姿勢に対応する視点から見た仮想世界を、左右の視差画像として描画したうえ、レンズを考慮した歪み補正を施して左右に配置した画像のデータを生成する。この画像をHMD18において所定のフレームレートで左右の目の前に表示させ、仮想世界での音声をさらに出力したりすれば、ユーザはあたかも仮想世界に入り込んだような感覚を得られる。
通信部76は、HDMI(登録商標)(High-Definition Multimedia Interface)やUSB(Universal Serial Bus)など所定のプロトコルにより出力制御装置20aと通信を確立し、出力データ生成部78が生成した画像や音声の出力データを送信する。また通信部76は出力制御装置20aを介して、その先に接続されている装置を検出する。接続状態特定部80は、検出された装置の情報を統合して、その種類、数、接続関係といった接続状態に係る情報を特定し、情報処理部74へ通知する。
ここで複数のHMD18が検出され、かつそれぞれに異なる画像を表示させる場合、情報処理部74は、各HMD18に対応する表示画像の生成を出力データ生成部78に要求する。情報処理部74はさらに、そのようにして生成した複数の表示画像のデータを縮小して接続した合成画像をフレームごとに生成するよう出力データ生成部78に要求する。通信部76はこのようにして生成された合成画像のデータも、出力制御装置20aへ同様に送信する。なお具体的な合成例については後に詳述する。
出力制御装置20aは、情報処理装置10から送信された出力データを取得する第1通信部82、取得した出力データを必要に応じて適切な形式に加工する出力データ形成部84、接続されたHMD18aへデータを出力する第2通信部86、接続された別の装置へデータを出力する第3通信部88を含む。第1通信部82は、上位に接続された装置と所定のプロトコルにより通信を確立し、情報処理装置10から送信された出力データを直接的、または間接的に取得する。図5に示した出力制御装置20aは、直接、情報処理装置10に接続していることから、出力データも直接取得できる。それより下位の出力制御装置20は、上位の出力制御装置20から出力データを順次取得する。
出力データ形成部84は、第1通信部82が取得した出力データに必要に応じた加工を施し、HMD18aへ出力可能な状態として第2通信部86へ出力する。具体的には、取得した出力データに合成画像のデータが含まれている場合に、HMD18aに表示すべき画像のみを抽出して元の画像サイズへ拡大することにより、図4の画像(a)のような画像を生成する。第1通信部82が取得した出力データに合成画像が含まれていない場合、すなわち元から図4の画像(a)の状態にある場合、出力データ形成部84は当該データをそのまま第2通信部86へ出力してよい。後者のケースとして、HMD18a以外にHMD18が接続されていない場合、もしくは複数のHMD18全てに共通の画像を表示させる場合が考えられる。
出力データ形成部84はさらに、第3通信部88に接続されている装置に対しても、出力可能な状態のデータを適宜生成して出力する。第3通信部88に接続される可能性のある装置として、別の出力制御装置20b、平板型ディスプレイ16、別のHMD18bが考えられる。別の出力制御装置20bが接続されている場合、出力データ形成部84は、第1通信部82が取得した出力データをそのまま第3通信部88へ出力してよい。平板型ディスプレイ16が接続されている場合、出力データ形成部84は、第1通信部82が取得した出力データに加工を施し、平板型ディスプレイ用の画像を生成する。具体的には上述のように、HMD用の画像の左右どちらかの画像に逆補正をかけることにより、図4の画像(b)のような画像を生成する。
第3通信部88に別のHMD18bが接続されている場合は、第2通信部86に接続されているHMD18aに対し出力するデータを生成したのと同様の処理を行う。すなわち、取得した出力データに合成画像のデータが含まれている場合は、HMD18bに表示すべき画像を抽出して元の画像サイズへ拡大し、合成画像が含まれていない場合はそのまま第3通信部88へ出力する。このように出力データ形成部84は、第3通信部88に接続されている装置の種類によって、第3通信部88へ出力するデータを適宜切り替える。出力データ形成部84はそのほか、出力データに含まれる音声データの復号などの処理を必要に応じて行う。
第2通信部86は、接続されたHMD18aと所定のプロトコルにより通信を確立し、出力データ形成部84が出力可能な状態にした出力データを送信することにより、HMD18aに動画や音声を出力させる。第3通信部88は、別の出力制御装置20b、平板型ディスプレイ16、または別のHMD18bが接続された場合に、それと通信を確立し、出力データ形成部84がそれらの装置に出力可能な状態にした出力データを送信する。
なお情報処理装置10の通信部76、出力制御装置20aの第1通信部82、第2通信部86、第3通信部88は、通信に用いるプロトコルで規定される信号の送受により、接続先の装置の種類を検知する。この情報をプロトコルに応じた処理手順によって情報処理装置10側で集約することにより、接続状態特定部80は、接続されている出力制御装置20の数やそれぞれに接続されている表示装置の種類を特定することができる。
このような処理には一般的な通信技術を適用できる。例えばHDMIにより接続した場合、ホットプラグ検出信号により接続装置を検出したり、HDMI−CEC(Consumer Electronics Control)の仕組みを利用して装置の種類を認識しアドレッシングにより接続順を特定したりできる。あるいはUSBによる装置検出機能およびアドレッシング機能を利用することもできる。
図6は情報処理装置10が出力する合成画像のデータを説明するための図である。同図上段の画像208a、208bは、それぞれがHMD18にそのまま表示することにより適正に見える画像であり、例えば画像208aをHMD18aに、画像208bをHMD18bに表示させるとする。このとき出力データ生成部78はまず、各HMD18a、18bに対応させて画像208a、208bを生成する。次に生成した画像208a、208bをそれぞれ、横方向に1/2倍に縮小したうえ、左右に接続することにより、出力用の合成画像210を生成する。
すなわちこの場合の合成画像210は、画像領域を横方向に2分割したうちの左の領域212aに第1の画像208aの縮小画像、右の領域212bに第2の画像208bの縮小画像を配置した構成を有する。情報処理装置10は、このような合成画像210をフレームごとに生成し、順次出力していく。N個のHMD18全てに異なる画像を表示させる場合は、第1の画像、第2の画像、・・・、第Nの画像を、それぞれ横方向に1/N倍に縮小した画像を横方向に接続していけばよい。このようにすることで、接続されているHMD18の数によらず出力されるデータ量は一定となるため、通信用のハードウェアを拡張する必要がなく転送レートも一定となる。
合成画像210を生成する場合、出力データ生成部78は、合成画像210中の領域と、それを拡大して表示すべきHMD18とを対応づけた情報を付加情報として出力データに含める。この情報は、一連の動画データの出力開始時に送信してもよいし、各フレームに対し付加するなど定期的に送信してもよい。情報処理部74は、あらかじめ付与しておいたHMD18の識別情報に対応づけて各表示画像の生成処理を出力データ生成部78に要求するとともに、当該識別情報と合成画像におけるデータの配置との対応を決定し出力データ生成部78に通知することにより合成画像の生成も要求する。
表示画像の生成に必要なモデルデータや、合成画像を生成する場合の配置規則などはデータ記憶部81に格納しておく。出力制御装置20の出力データ形成部84は、例えば図6の合成画像210のうち領域212aの部分を抽出し、横方向に2倍に拡大することにより画像208aを復元しHMD18に出力する。この際、自らが抽出すべき領域は、情報処理装置10から送信された出力データの付加情報を参照することにより特定する。なお画像の縮小拡大処理には、最近傍法、バイリニア補間法、バイキュービック補間法、Lanczos法など一般的な手法のいずれを用いてもよい。
図7〜12は、本実施の形態の情報処理システム8における各装置の接続状態とその間を伝送する画像データの構成例を示している。まず図7は基本的な例として、1つの出力制御装置20にHMD18と平板型ディスプレイ16が接続された場合を示している。この場合、情報処理装置10は、HMD18に表示させる画像120を生成したら、その画像120のまま出力制御装置20に送信する(S10)。出力制御装置20は当該画像120を、接続されたHMD18にそのまま出力して表示させるとともに(S12)、平板型ディスプレイ用の表示画像122を生成して平板型ディスプレイ16に送信する(S14)。
なお同図においてHMD用の画像120は図4の画像(a)に対応し、矩形内の「L」と表記した楕円が左目用画像、「R」と表記した楕円が右目用画像を示している。また平板型ディスプレイ用の画像122は図4の画像(b)に対応し、この場合、画像120の左目用画像を逆補正した画像が「L」と表記した矩形部分に表される。ただし平板型ディスプレイ用の画像として、右目用画像を逆補正したものを用いてもよいし、左目用画像と右目用画像の双方を逆補正し平板型ディスプレイに同時に表示させることにより立体視させてもよい。
図8は、図7で示した接続状態における平板型ディスプレイ16の代わりに、2つめのHMD18bを接続したものである。この2つのHMD18a、18bには同じ画像を表示させるとする。この場合、情報処理装置10は、HMD18a、18bに共通に表示させる画像を生成したら、その画像120のまま出力制御装置20に送信する(S20)。出力制御装置20は当該画像120を、接続された2つのHMD18a、18bにそのまま出力し、それぞれに表示させる(S22、S24)。これにより、2人のユーザが同じ映像を鑑賞したり仮想世界における体験を共有したりできる。
図9は、図8で示した接続状態と同様、1つの出力制御装置20に2つのHMD18a、18bが接続されているが、両者に異なる画像を表示させる場合を示している。このとき情報処理装置10は、HMD18a、18bのそれぞれに表示させる画像を生成したら、それらを横方向に1/2倍に縮小し左右に接続した合成画像124を出力制御装置20に送信する(S30)。なお合成画像124の矩形において、「L1」、「R1」と表記した楕円がHMD18a用の左右の表示画像、「L2」、「R2」と表記した楕円がHMD18b用の左右の表示画像を、それぞれ横方向に縮小した画像を示している。
出力制御装置20は、情報処理装置10から送信された付加情報に含まれる、合成画像中の領域とHMD18の識別情報との対応関係に基づき、HMD18a、18bに表示させる画像126、128をそれぞれ生成し、各HMD18a、18bに出力して表示させる(S32、S34)。図示する例では、HMD18a用には、「L1」、「R1」と表記された楕円を含む左半分の領域を合成画像124から抽出し、それを横方向に2倍に拡大することによりHMD18a用の表示画像126を生成してHMD18aに送信する(S32)。
同様に、HMD18b用には、「L2」、「R2」と表記された楕円を含む右半分の領域を合成画像124から抽出し、それを横方向に2倍に拡大することによりHMD18b用の表示画像128を生成してHMD18bに送信する(S34)。この態様により、2人のユーザが個別の視点から同じ仮想世界を眺めたり、同じゲームの異なる画面を見たりする態様を実現できる。
図10は、2つの出力制御装置20a、20bに、2つのHMD18a、18bをそれぞれ接続し、さらに下位の出力制御装置20bに平板型ディスプレイ16を接続した場合を示している。この接続状態においてHMD18a、18bに異なる画像を表示させる場合、まず図9で説明したのと同様、情報処理装置10はHMD18a、18bに表示させる画像を横方向に1/2倍に縮小して左右に接続した合成画像124を上位の出力制御装置20aに送信する(S40)。
出力制御装置20aは情報処理装置10から送信された付加情報に含まれる、合成画像中の領域とHMD18の識別情報との対応関係に基づき、接続されたHMD18aに対応する領域、同図の例では「L1」、「R1」と表記された楕円を含む領域を特定する。そして当該領域を合成画像124から抽出し、それを横方向に2倍に拡大することによりHMD18a用の表示画像126を生成してHMD18aに送信する(S42)。出力制御装置20aはまた、下位に接続されている出力制御装置20bに、情報処理装置10から送信された合成画像124のデータをそのまま送信する(S44)。
出力制御装置20bは、情報処理装置10から送信された付加情報に含まれる、合成画像中の領域とHMD18の識別情報との対応関係に基づき、接続されたHMD18bに対応する領域、同図の例では「L2」、「R2」と表記された楕円を含む領域を特定する。そして当該領域を合成画像124から抽出し、それを横方向に2倍に拡大することによりHMD18b用の表示画像128を生成してHMD18bに送信する(S46)。出力制御装置20bはまた、合成画像124からHMD18aの左目用画像に対応する領域を抽出し、それを横方向に2倍に拡大したうえ逆補正をかけることにより、平板型ディスプレイ用の表示画像130を生成して平板型ディスプレイ16に送信する(S48)。
図10で示したように、各出力制御装置20が有する出力端子が2つのみであっても、その一方に別の出力制御装置20を接続することにより、3つ以上の表示装置での並列表示が可能となる。出力制御装置20の接続数をさらに増やせば、並列表示させる表示装置の数も増やすことができる。図11はその一例として、4つのHMD18を接続する場合を示している。この例では、情報処理装置10に4つの出力制御装置20a、20b、20c、20dが直列に接続され、各出力制御装置20a、20b、20c、20dにHMD18a、18b、18c、18dがそれぞれ接続されている。
4つのHMD18a、18b、18c、18dに個別の画像を表示させる場合、情報処理装置10は、各HMD18a、18b、18c、18dに対応する表示画像を、それぞれ横方向に1/4倍に縮小し、横方向に接続した合成画像134を生成したうえ、最上位の出力制御装置20aに送信する(S50)。同図の例では、HMD18a、18b、18c、18dに対応する表示画像をそれぞれ「L1/R1」、「L2/R2」、「L3/R3」、および「L4/R4」と表記している。出力制御装置20aは付加情報を参照し、接続されたHMD18aに対応する領域を合成画像134から抽出して横方向に4倍に拡大することにより、HMD18a用の表示画像136を生成しHMD18aに送信する(S52)。
出力制御装置20aはまた、下位に接続されている出力制御装置20bに、情報処理装置10から送信された合成画像134のデータをそのまま送信する(S54)。以後、出力制御装置20c、20dには、合成画像134のデータが順次伝送されるとともに(S58、S62)、それぞれの出力制御装置20b、20c、20dに接続されているHMD18b、18c、18dには、それぞれの表示画像138、140、142が復元されて送信される(S56、S60、S64)。これにより4つのHMD18a〜18dには個別の画像が表示される。
同様の構成とすることで、必要な転送レートを一定としたまま、任意の数のHMD18に異なる画像を表示させることができる。また出力制御装置20dにさらに平板型ディスプレイ16を接続したり、HMD18a〜18dの少なくともいずれかを平板型ディスプレイ16に置き換えたりすることで、任意の数の平板型ディスプレイ16や、任意の数のHMD18と平板型ディスプレイ16とを組み合わせた表示システムに、画像を並列表示させることができる。なお同図ではHMD18a〜18dの接続順と、合成画像134における表示画像の配置順が対応しているが、上述のとおり付加情報において両者を対応づけておけば、それらの順序は特に限定されない。
また図10、11で示した態様では、情報処理装置10が出力した合成画像124、134のデータを、複数の出力制御装置20間でそのまま伝送させた。一方、これらの例のように複数のHMD18が全て異なる画像を表示する場合は、上位の出力制御装置20は自らが抽出した画像を元の合成画像から除外したうえ、残りの画像データを次に接続されている下位の出力制御装置20へ送信するようにしてもよい。このようにすると、出力制御装置20を通過するほど、伝送すべき画像データのサイズを減らすことができる。
図12は、図11と同様に接続された4つのHMD18a、18b、18c、18dが複数のグループを形成し、グループごとに個別の画像を表示させる場合を示している。同図の例では、各HMD18a〜18dに付記されるように、HMD18a、18c、18dがグループ「a」に、HMD18bがグループ「b」に属しているとしている。この場合、情報処理装置10は、各グループに対応する表示画像(「La/Ra」および「Lb/Rb」と表記)を横方向に1/2倍に縮小し、左右に接続した合成画像154を生成したうえ、最上位の出力制御装置20aに送信する(S70)。
出力制御装置20aは付加情報を参照し、接続されたHMD18aが属するグループ「a」に対応する領域を合成画像154から抽出して横方向に2倍に拡大することにより、グループ「a」用の表示画像156を生成しHMD18aに送信する(S72)。出力制御装置20aはまた、下位に接続されている出力制御装置20bに、情報処理装置10から送信された合成画像154のデータをそのまま送信する(S74)。出力制御装置20bは、接続されたHMD18bが属するグループ「b」に対応する領域を合成画像154から抽出して横方向に2倍に拡大することにより、グループ「b」用の表示画像158を生成しHMD18bに送信する(S76)。
出力制御装置20bはまた、下位に接続されている出力制御装置20cに、情報処理装置10から送信された合成画像154のデータをそのまま送信する(S78)。出力制御装置20cは、出力制御装置20aと同様、グループ「a」用の表示画像156を生成し、接続されたHMD18cに送信するとともに(S80)、下位に接続されている出力制御装置20dに、情報処理装置10から送信された合成画像154のデータをそのまま送信する(S82)。出力制御装置20dもグループ「a」用の表示画像156を生成し、接続されたHMD18dに送信する(S84)。
図示する例では、4つのHMD18a〜18dを、aとbの2つのグループに分けたが、HMD18やグループの数は特に限定されない。このような態様は、チーム対抗のゲームにおいてチームごとに個別の視野を表示させる場合や、ゲームの参加者と観戦者など立場によって表示画面を異ならせたりする場合などに適用できる。また上述のように平板型ディスプレイ16を接続する場合は、当該平板型ディスプレイ16の画面を複数の領域に分割して各HMD18に表示されている画像の例えば左目用画像を並列表示させてもよい。
このようにすると、例えばレースゲームに参加している各ユーザがHMD18で個々に見ている画像を、並べた状態で見せることができ、ゲームに参加していないユーザが観戦を楽しむことができる。また情報処理装置10が出力する合成画像はHMD用の画像のみで構成するのに限らず、平板型ディスプレイ16にそのまま表示できる状態の画像を含めたり、複数の平板型ディスプレイ16にそれぞれ表示させる複数の画像を含めたりしてもよい。情報処理装置10はそのような合成画像のデータを、ネットワークを介して別の情報処理装置やサーバに送信し、遠隔地にある表示装置に表示させてもよい。
図13は情報処理装置10が管理する装置の接続状態と処理に用いるパラメータの対応情報のデータ構造例を示している。装置管理情報160は、表示装置ID欄162、物理ID欄164、出力制御装置ID欄166、表示装置タイプ欄168、グループID欄170、画像領域欄172を含む。上述のとおり情報処理装置10に出力制御装置20、HMD18、平板型ディスプレイ16が接続されると、接続状態特定部80は、通信機能を利用して接続されている装置を検出し、各装置の物理アドレスに対し識別情報(論理アドレス)を割り当てる。
図示する装置管理情報160において表示装置ID欄162に記載される情報は、検出された装置のうち表示装置、すなわちHMD18または平板型ディスプレイ16に割り当てられた識別番号であり、上位から昇順に番号を割り当てることで接続順に係る情報も表している。物理ID欄164は各表示装置が有する物理アドレスを表す。出力制御装置ID欄166は、各表示装置が接続されている出力制御装置20の識別情報を表す。表示装置タイプ欄168は、各表示装置の種類、すなわちHMDか平板型ディスプレイ(図では「TV」と表記)かを識別する情報を表す。
図示する例では、識別番号「01」〜「04」の表示装置がHMD、識別番号「05」の表示装置が「TV」すなわち平板型ディスプレイである。また識別番号「01」〜「04」のHMDが識別情報「A」〜「D」の出力制御装置20にそれぞれ接続され、識別情報「D」の出力制御装置20にはさらに、識別番号「05」の平板型ディスプレイが接続されている。接続状態特定部80は、これらの対応情報を収集し情報処理部74に通知する。一方、情報処理部74は、全ての表示装置に共通の画像を表示させるか、全てに別の画像を表示させるか、グループごとに別の画像を表示させるかを、ゲームの内容などに応じて決定しておく。
グループごとに別の画像を表示させる場合は、各表示装置が属するグループを特定する。例えばユーザごとに自分のHMD18が決まっている場合、別途、ユーザIDとHMD18の物理アドレスとを対応づけた情報を保持しておき、ゲームの開始時などにユーザ操作によりユーザIDをグループ分けすれば、結果として各表示装置の識別番号とグループとを紐付けることができる。ただしHMD18とユーザ、HMD18とグループなどの対応づけには様々な手法が考えられることは当業者には理解されるところである。
図示する装置管理情報160において、グループID欄170には、そのようにして各HMD18に対応づけたグループの識別情報が表される。図示する例では、識別番号「01」、「03」、「04」の3つのHMD18がグループ「a」、識別番号「02」のHMDがグループ「b」に属しているとしている。この例は図12で示したグループ分けに対応する。また識別番号「05」は平板型ディスプレイ16であるため、この例ではグループ「a」、「b」双方に属するようにすることで、分割画面に両方の画像を並列表示する設定としている。ただし上述のようにどちらか一方の画像のみを表示するようにしてもよい。グループ分けの必要がないゲームなどでは当然、グループID欄170は省略できる。
続いて情報処理部74は、各グループのHMD18に表示すべき画像データの合成画像における配置を決定する。図13の下段にはその配置例を模式的に示している。図12で説明したのと同様、この例では、合成画像174のうち左半分がグループ「a」の左右の画像データ、右半分がグループ「b」の左右の画像のデータとしている。このように画像領域を横方向に分割して各表示画像のデータを配置する場合、装置管理情報160の画像領域欄172には、合成画像の横方向の範囲を設定する。例えば図示するように、合成画像174の横方向のサイズをX画素とした場合、画像の左端を0、右端をXとする座標軸における範囲を、(始点座標,終点座標)などの形式で指定する。
図示する例では、グループ「a」に属する識別番号「01」、「03」、「04」のHMD18に対し、合成画像174の左半分を表す(0,X/2−1)の領域が指定されている。グループ「b」に属する識別番号「02」のHMD18に対しては、合成画像の右半分を表す(X/2,X)の領域が指定されている。さらに、両グループの画像を同時に表示する識別番号「05」の平板型ディスプレイ16に対しては、各グループの左目用画像に対応する(0,X/4−1)と(X/2,3X/4−1)の領域が指定されている。
このような装置管理情報160はデータ記憶部81に格納しておき、情報処理装置10内部で情報を共有する。出力データ生成部78は、情報処理部74から要求された画像生成処理を、表示装置の識別番号あるいはグループの識別情報に対応づけて実施し表示画像を生成したあと、それらを横方向に縮小し、画像領域欄172に指定されているように接続することにより合成画像174を生成する。また情報処理装置10は、装置管理情報160が表す対応関係を、付加情報として出力制御装置20に送信する。
一方、合成画像174のデータを受け取った各出力制御装置20は、付加情報に基づき自らに接続されている表示装置に対応する領域を特定し、合成画像174から抽出して最終的な表示画像を形成する。なおここで示した装置管理情報160の各欄や表記のフォーマット等はあくまで例示であり、ゲームの内容や通信プロトコルなどによって様々な形態が考えられる。例えばさらにユーザIDを対応づけてもよいし、各ユーザが持つ入力装置のIDと対応づけてもよい。
次にこれまで述べた構成によって実現される情報処理システム8の動作について説明する。図14は情報処理装置10が各表示装置にて表示させる画像のデータを出力する処理手順を示すフローチャートである。まず情報処理装置10に出力制御装置20等が接続されることにより情報処理システム8が構築されたら、通信部76および接続状態特定部80は、接続された装置を検出して識別番号を付与する(S100)。その情報は情報処理部74および検出された各装置に通知される。
ゲームの内容などに応じてユーザがグループを形成する場合(S102のY)、別途設定したグループ分け情報やユーザとHMDとの対応情報などに従い、HMD18をグループに分けるとともにグループの数を変数Nに代入する(S104)。一方、グループを形成しない場合は(S102のN)、HMDの数を変数Nに代入する(S106)。そして画像領域を横方向にN分割した領域と、各HMDあるいは各グループとを対応づけ(S108)、各出力制御装置20に当該対応情報を通知する(S110)。なおHMD18が1つのみ接続されている場合、N=1であるため分割はなされない。
そして情報処理部74と出力データ生成部78との協働により表示画像を生成し、それを必要に応じて横方向に1/N倍に縮小して対応づけた領域に配置することにより出力用の画像を生成し出力する(S112)。出力用の画像とは、N=1の場合は1つの表示画像、N>1の場合は複数の表示画像からなる合成画像である。処理を終了させる必要がない間は、所定のフレームレートで出力用の画像の生成および出力処理を継続し(S114のN、S112)、ユーザが終了要求を入力したりゲームが終了したりして処理を終了させる必要が生じたら全ての処理を終える(S114のY)。
図15は出力制御装置20が各表示装置に画像を表示させる処理手順を示すフローチャートである。まず出力制御装置20は、表示装置あるいはグループと、合成画像内の領域との対応を示す情報を取得する(S120)。この情報は、図14のS110で情報処理装置10から通知されるものである。ただし上述のように、この対応情報を通知するタイミングは特に限定されず、毎フレームや所定数のフレームごとなど定期的に出力用画像に付加してもよい。
次いで出力制御装置20は、情報処理装置10から送信された画像データを取得する(S122)。取得した画像が合成画像の場合は(S124のY)、自らに接続されているHMD18またはそれが属するグループに対応する領域を合成画像から抽出し、横方向に拡大することにより最終的な表示画像を生成する(S126)。情報処理装置10から送信された画像が合成画像か否か、抽出すべき領域、および拡大率は、S120で取得した対応情報から特定できる。
情報処理装置10から送信された画像が合成画像でない場合は、接続されているHMD18が1つのみか、複数のHMD全てに共通の画像を表示させるか、であるため、当該画像がそのまま表示画像となる(S124のN)。次に出力制御装置20は、自らに平板型ディスプレイ16が接続されている場合(S128のY)、いずれかの左目用の画像のデータを抽出して逆補正をかけるなどして、平板型ディスプレイ用の表示画像を生成する(S130)。平板型ディスプレイ16が接続されていなければ(S128のN)、S130の処理はスキップする。
そして接続されているHMD18にS126で生成した表示画像のデータを、平板型ディスプレイ16にS130で生成した表示画像のデータを、それぞれ出力することにより、各表示装置に画像を表示させる(S132)。このとき、下位に別の出力制御装置20が接続されている場合は、S122で情報処理装置10から取得した画像のデータを、当該別の出力制御装置20にそのまま出力する。処理終了の必要がない間は、情報処理装置10から直接的または間接的に送信される画像データに対し、S124〜S132の処理を繰り返す(S134のN、S122)。これにより各HMD18および平板型ディスプレイ16には、ゲーム画面などの動画像がそれぞれ表示される。情報処理装置10からの通知などによって処理を終了させる必要が生じたら全ての処理を終える(S134のY)。
これまで述べた例では、図6に例示したように、合成画像の画像領域を横方向にN分割してなる領域に、各HMD18の表示画像を横方向に1/N倍に縮小した画像を配置することにより、HMD18の数によらず同じサイズの画像を送信できるようにした。合成画像の構成はこれに限らず、例えば縦方向にN分割してなる領域に縮小した表示画像を配置してもよい。図16は表示画像を縦方向に接続した合成画像について説明するための図である。同図上段はこの場合の合成画像180、下段は2つのHMD18にそれぞれ表示すべき画像182、184である。
この例で画像182、184は元々、画面を横方向に分割してなる領域に左右の視差画像を並べたものであるため、合成画像180を図示するような縦方向の配列とするには、1つの表示画像を構成する左右の画像についても並び替えが必要となる。すなわち画像182のうち「L1」と表記された左目用の画像を合成画像180の1段目に、「R1」と表記された右目用の画像を合成画像180の2段目に配置する。同様に、画像184のうち「L2」と表記された左目用の画像を合成画像180の3段目に、「R2」と表記された右目用の画像を合成画像180の4段目に配置する。ここで「L1」、「R1」、「L2」、「R2」の画像をそれぞれ、横方向に2倍に拡大し、縦方向に1/4倍に縮小してから縦方向に接続することにより、図示するように元の画像182、184と同じサイズの合成画像180が得られる。
同様に、合成画像にN個のHMD用の画像を含めるときは、各画像の左目用、右目用の画像をそれぞれ横方向に2倍に拡大し、縦方向に1/(2N)倍に縮小したうえ、左目用画像、右目用画像など所定の順序で接続していく。これにより、画像領域を縦方向にN分割してなる各領域に、1つの表示画像に対応する左目用画像、右目用画像が縦に配列した合成画像を生成できる。各出力制御装置20は、接続されたHMD18に対応する領域を抽出し、左目用画像、右目用画像をそれぞれ縦方向に2N倍に拡大し、横方向に1/2倍に縮小したうえ、左右に並べることにより、画像182、184を復元する。この場合、装置管理情報160の画像領域欄172における領域指定が縦方向の座標軸を示す以外、処理手順は図14、15で示したのと同様でよい。
図6で示したように複数の表示画像を横方向に接続する場合、情報処理装置10が合成画像の画素値をラスタ順に出力すると、出力制御装置20は対応する領域の画素を、出力された順に補間しながらHMD18に出力すればよいため、バッファメモリの必要容量が少なくてすむ。図16に示したように複数の表示画像を縦方向に接続する場合、ラスタ順に「L1」、「R1」、「L2」、「R2」と出力されるため、出力制御装置20は例えば、「R1」の1行目のデータを表示画像として出力するまでに、「L1」の最終行までのデータを一旦保存しておく必要がある。
つまり縦方向に接続する態様では、少なくとも左目用画像の縮小画像全体を格納する容量のバッファメモリが必要となる。また合成画像に含めるべき画像の数が増えるほど、合成画像の下側に位置するデータの入力が遅くなり、そのデータを用いた画像の表示開始までの時間がフレーム周期以下の微小時間だけ遅延することになる。一方で、縦方向に接続する場合、元の表示画像を横方向に縮小する必要がないため、当該横方向の情報が失われない。HMD18に左右の視差画像を表示し立体視させる態様において、横方向の情報は左右の視差を表しているため立体感に影響を与えやすい。
結果として、縦方向の接続態様の方が立体感を損いにくい。これらのことから、表示画像の接続方向を横方向とするか縦方向とするかは、使用できるメモリ容量や表示内容、立体視させるか否かなどに応じて適宜決定する。なお図16の例は、左右の視差画像のデータのみで合成画像を構成することを想定していたが、平板型ディスプレイ16などに表示させる単一の画像を含める場合は、単に縦方向に1/N倍に縮小すればよい。
これまで述べた態様は、各HMD18に表示させる画像を縮小して合成し、元の画像と同じサイズの合成画像とすることで、単位時間に送信すべきデータ量(伝送帯域)がHMD18の数に影響されないようにした。一方、次に述べるような変形例も考えられる。図17、図18は、複数のHMDに表示する画像データの送信態様の変形例を説明するための図である。まず図17は、表示させる複数の画像を、縮小せずに接続して送信する例を表している。同図上段はこの場合の合成画像220、下段は4つのHMD18にそれぞれ表示すべき画像222、224、226、228である。
図示するように合成画像220は、4つの表示画像222、224、226、228を、横方向に2つ、縦方向に2つ、そのまま接続した画像である。結果として合成画像220は、元の画像の4倍のサイズを有する。このようにすると情報処理装置10および各出力制御装置20間での伝送帯域は4倍になるが、各HMD18においては合成画像220から抽出した表示画像を拡大する必要なく表示できるため、出力制御装置20の処理の負荷が軽減される。なお合成画像として接続する画像は4つに限らず、接続順も図示するものに限らない。場合によっては1つの表示画像を分割して複数の行または列に接続してもよい。さらに、表示画像を縮小する態様と組み合わせ、合成画像のサイズの拡張を許容しつつ、より多くの表示画像を合成するようにしてもよい。
図18は、表示させる複数の画像を、縮小せずに高レートで送信する例を表している。同図上段は、通常の1フレーム分の出力周期に出力する画像列230、下段は2つのHMD18にそれぞれ表示すべき画像232、234である。すなわちこの例では、各HMD18に表示させる画像232、234を、画像平面上で接続するのでなく、同図に「t」で示される時間軸方向に並べる。各画像232、234は動画のフレーム画像であるため、結果として2つの動画のフレーム画像を、2倍のレートで交互に出力することになる。3つ以上の動画を含める場合も、それらのフレーム画像を順繰りに出力する。
この場合、出力制御装置20は、対応するHMD18に表示すべきフレームのデータが到来するタイミングで当該データを抽出する。そのため情報処理装置10は、HMD18の数に応じて出力順を決定し、その順序と表示すべきHMD18とを対応づけた付加情報を送信する。この態様では、表示すべき画像がN個のとき出力レートをN倍にするため、情報処理装置10および各出力制御装置20間での伝送帯域はN倍になる。一方、図17の態様と同様、各HMD18においては取得した画像を拡大する必要なく表示できるため、出力制御装置20の処理の負荷が軽減される。この場合も、表示画像を縮小する態様と組み合わせ、出力レートの増加を許容しつつ、より多くの表示画像を出力できるようにしてもよい。
次に、情報処理装置10から送信される画像中の領域とHMD18との対応情報を送信する手法を例示する。上述のとおり当該対応情報は、一連の出力データを情報処理装置10から送信するのに先立ち出力制御装置20に送信しておいてもよいし、出力データに付加情報として含めてもよい。図19は後者の一実施形態として、情報処理装置10が出力する画像内に情報を埋め込む手法を説明するための図である。画像190は、情報処理装置10から出力制御装置20に送信される画像であり、同図の例では、図12、13で例示したように、グループ「a」用の表示画像とグループ「b」用の表示画像を接続した合成画像としている。
この例のようにレンズに対応する歪み補正を施した視差画像を表示する場合、表示画像190のうちゲーム画面や仮想世界など表示すべき内容が表されるのは、「La」、「Ra」、「Lb」、「Rb」と表記された部分であり、それ以外の領域は不可視領域となる。そこで当該不可視領域を利用して対応情報を表すようにすることで、データ量を増やすことなく必要な情報が伝送されるようにする。例えば画像190のうち、グループ「a」の表示画像のデータを含む左半分の不可視領域192aと、グループ「b」の表示画像のデータを含む右半分の不可視領域192bとを、異なる色で塗りつぶす。
接続されているHMD18が属するグループに対応する色の情報を事前に出力制御装置20に与えておけば、出力制御装置20は、画像190のうちどの領域を抽出すればよいかを、不可視領域の色に基づき特定できる。グループが形成されない態様においては、HMD18と色、あるいは直接、出力制御装置20と色とを対応づけておいても同様に特定できる。いずれの態様においても、情報処理装置10と各出力制御装置20で対応関係を共有しておけばよく、例えばHMD18や出力制御装置20の物理アドレスと色とを両者に事前に設定しておけば、対応関係について情報を送受する必要もなくなる。
または対応関係のパターンをいくつか作成しておき、ゲーム開始時などにその内容や表示装置の接続状態などによって、どのパターンを用いるかを情報処理装置10が決定し出力制御装置20に通知するようにしてもよい。3つ以上の表示画像からなる合成画像の場合も、それぞれの不可視領域を異なる色の塗り潰しとすれば運用は同様となる。また合成画像でない場合も、全不可視領域の色が同じであることから合成画像でないこと自体を表すことができる。塗りつぶし色としては、例えば赤、緑、青の3要素を0または最大階調で表した8パターンの色から選択することにより、出力制御装置20は誤認なく容易に抽出すべき領域を判別できる。
情報処理装置10は出力する全てのフレーム、または所定間隔のフレームについて、対応情報を不可視領域の色で表した画像190のデータを出力する。このようにすることで、出力制御装置20における領域判別処理を単純化できるとともに、接続されるHMD18が途中で増減するなどして抽出すべき領域に変化があっても、同様の処理で遅延なく適切な領域を抽出できる。なお不可視領域を全て塗りつぶさず、一部の所定サイズの領域のみを塗りつぶしてもよい。また一つの表示画像に対応する不可視領域でも、その位置によって異なる色としたり、マークや模様を表示したりして、埋め込む情報量を増やしてもよい。
例えば画像190において左半分の不可視領域192a、右半分の不可視領域192bは、それぞれ6つの小領域からなる。このうち左上隅の領域は対応するグループ、中央上の領域は抽出した画像の拡大率、といった情報を色で表してもよい。上述した、色と装置の対応関係のパターン自体をいずれかの箇所の色で表してもよい。また不可視領域を縞模様とし、その方向、幅、色の組み合わせなどを変化させることにより情報を表してもよい。
以上述べた本実施の形態によれば、画像データを生成する情報処理装置に出力制御装置を直列に接続し、各出力制御装置にHMDや平板型ディスプレイなどの表示装置を接続する。そしてそれらの接続状態と、各表示装置に表示させたい画像の内容によって、情報処理装置は、1つの表示画像、または、複数の表示画像を縮小して接続した合成画像を生成し出力する。これにより、情報処理装置や出力制御装置それぞれの出力端子の数を増やすことなく、また、伝送するデータのサイズを増やすことなく、接続する表示装置の数やそれらに表示させる画像の数を増やすことができる。
この態様は、ユーザが個別に表示画像を見るようなHMDを用いたコンテンツには特に有効であり、同じゲームや仮想世界を複数のユーザが個別の視点から見るといった独特の態様を容易に実現できる。HMDと出力制御装置の対をセットで提供するようにすれば、コンテンツや参加人数に合わせてセットを買い足していくことにより、ユーザは最低限のコストで所望のコンテンツを楽しむことができる。
また、HMDで表示させるためにレンズに対応する歪み補正を施した画像で合成画像を構成する。そしてこれにより生じる不可視領域に、各出力制御装置が合成画像から抽出すべき領域を特定するための情報を色や図形で表す。これにより、当該情報のために別途データを伝送させる必要がなくなりデータ転送や抽出処理を効率化できる。また合成画像の構成が途中で変化しても、出力制御装置は同様の処理で適切な領域を抽出できる。
以上、本発明を実施の形態をもとに説明した。上記実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。
8 情報処理システム、 10 情報処理装置、 12 撮像装置、 14a 入力装置、 16 平板型ディスプレイ、 18 HMD、 20 出力制御装置、 72 入力データ取得部、 74 情報処理部、 76 通信部、 78 出力データ生成部、 80 接続状態特定部、 81 データ記憶部、 82 第1通信部、 84 出力データ形成部、 86 第2通信部、 88 第3通信部。
Claims (22)
- 表示装置に表示させる動画像のデータを生成する出力データ生成部と、
前記出力データ生成部が生成した動画像のデータを順次、出力する通信部と、を備え、
前記表示装置が複数接続されているとき、前記出力データ生成部は、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを前記通信部に出力させることを特徴とする情報処理装置。 - 前記出力データ生成部は、前記複数の動画像の各フレーム画像を、当該フレーム画像の数に応じた倍率で縮小して接続することにより、前記合成画像を生成することを特徴とする請求項1に記載の情報処理装置。
- 表示装置の接続状態を特定する接続状態特定部をさらに含み、
前記出力データ生成部は、前記接続状態に基づき、前記合成画像における合成対象の各フレーム画像の配置とそれを表示させる表示装置とを対応づけた対応情報を生成し、
前記通信部は、当該対応情報も出力することを特徴とする請求項1または2に記載の情報処理装置。 - 前記出力データ生成部は、前記表示装置として、表示パネルの前面にレンズを備えたヘッドマウントディスプレイに表示させる動画像のデータを生成したうえ、各フレーム画像のうち、前記レンズを介して見たときに不可視となる領域に前記対応情報に対応する画像を表すことを特徴とする請求項3に記載の情報処理装置。
- 前記出力データ生成部は、合成対象のフレーム画像の数がN(Nは2以上の自然数)であるとき、各フレーム画像を、横方向のサイズを1/N倍にしたうえ横方向に接続することにより、前記合成画像を生成することを特徴とする請求項1から4のいずれかに記載の情報処理装置。
- 前記出力データ生成部は、前記表示装置としてヘッドマウントディスプレイに表示し立体視させるための左目用画像および右目用画像の対を左右に並列表示させたフレーム画像からなる動画像のデータを生成し、当該左目用画像および右目用画像をそれぞれ横方向に1/N倍に縮小して接続することにより、前記合成画像を生成することを特徴とする請求項5に記載の情報処理装置。
- 前記出力データ生成部は、合成対象のフレーム画像の数がN(Nは2以上の自然数)であるとき、各フレーム画像を、縦方向のサイズを1/N倍にしたうえ縦方向に接続することにより、前記合成画像を生成することを特徴とする請求項1から4のいずれかに記載の情報処理装置。
- 前記出力データ生成部は、前記表示装置としてヘッドマウントディスプレイに表示し立体視させるための左目用画像および右目用画像の対を左右に並列表示させたフレーム画像からなる動画像のデータを生成し、当該左目用画像および右目用画像をそれぞれ横方向に2倍に拡大し、縦方向に1/N倍に縮小したうえ縦方向に接続することにより、前記合成画像を生成することを特徴とする請求項7に記載の情報処理装置。
- 前記出力データ生成部は、接続されている複数の表示装置がグループを形成しているとき、当該グループごとに前記動画像のデータを生成して合成することにより前記合成画像を生成することを特徴とする請求項1から8のいずれかに記載の情報処理装置。
- 情報処理装置が出力した表示用動画像のデータを取得する入力部と、
前記表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に対応する部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする出力データ形成部と、
前記最終的な表示画像のデータを前記接続された表示装置に出力する出力部と、
を備えることを特徴とする出力制御装置。 - 前記入力部は、前記合成画像における合成対象の各フレーム画像の配置とそれを表示させる表示装置とを対応づけた対応情報も取得し、
前記出力データ形成部は、前記対応情報に基づき、自らに接続された表示装置に対応する部分領域を特定して抽出することを特徴とする請求項10に記載の出力制御装置。 - 前記合成画像は、合成対象のフレーム画像を、その数に応じた倍率で縮小した画像を接続してなり、
前記出力データ形成部は、前記対応情報に基づき特定した、前記合成対象のフレーム画像の数に応じた倍率で、抽出した部分領域を拡大することにより、前記最終的な表示画像を生成することを特徴とする請求項11に記載の出力制御装置。 - 前記複数の表示装置は、表示パネルの前面にレンズを備えたヘッドマウントディスプレイを含み、
前記出力データ形成部は、合成されたフレーム画像のうち、前記レンズを介して見たときに不可視となる領域に表された画像を読み出すことにより、それに対応づけられた前記対応情報を特定することを特徴とする請求項11または12に記載の出力制御装置。 - 前記出力部はさらに、前記情報処理装置が出力した前記表示用動画像のデータを別の出力制御装置に出力することを特徴とする請求項10から13のいずれかに記載の出力制御装置。
- 動画像のデータを出力する情報処理装置と、当該動画像のデータを取得して表示装置に表示させる出力制御装置と、を備えた情報処理システムであって、
前記情報処理装置は、
前記表示装置に表示させる動画像のデータを生成する出力データ生成部と、
前記出力データ生成部が生成した動画像のデータを順次、前記出力制御装置に出力する通信部と、を備え、
前記表示装置が複数接続されているとき、前記出力データ生成部は、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを前記通信部に送信させ、
前記出力制御装置は、
前記動画像のデータを取得する入力部と、
前記動画像のデータに前記合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする出力データ形成部と、
前記最終的な表示画像のデータを前記接続された表示装置に出力する出力部と、
を備えることを特徴とする情報処理システム。 - 複数の前記出力制御装置が、前記情報処理装置に直列に接続され、
各出力制御装置は、自らに接続されたヘッドマウントディスプレイに前記最終的な表示画像のデータを出力するとともに、前記直列の順に、前記情報処理装置が出力した動画像のデータを伝送させることを特徴とする請求項15に記載の情報処理システム。 - 表示装置に表示させる動画像のデータを生成するステップと、
生成した動画像のデータを順次、出力するステップと、を含み、
前記動画像のデータを生成するステップは、前記表示装置が複数接続されているとき、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを生成するステップを含むことを特徴とする情報処理装置による動画データ出力方法。 - 情報処理装置が出力した表示用動画像のデータを取得するステップと、
前記表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とするステップと、
前記最終的な表示画像のデータを前記接続された表示装置に出力するステップと、
を含むことを特徴とする出力制御装置による動画データ出力方法。 - 表示装置に表示させる動画像のデータを生成する機能と、
生成した動画像のデータを順次、出力する機能と、をコンピュータに実現させるコンピュータプログラムであって、
前記動画像のデータを生成する機能は、前記表示装置が複数接続されているとき、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを生成することを特徴とするコンピュータプログラム。 - 情報処理装置が出力した表示用動画像のデータを取得する機能と、
前記表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする機能と、
前記最終的な表示画像のデータを前記接続された表示装置に出力する機能と、
をコンピュータに実現させることを特徴とするコンピュータプログラム。 - 表示装置に表示させる動画像のデータを生成する機能と、
生成した動画像のデータを順次、出力する機能と、をコンピュータに実現させるコンピュータプログラムであって、
前記動画像のデータを生成する機能は、前記表示装置が複数接続されているとき、各表示装置に独立に表示させる複数の動画像をフレームごとに合成してなる合成画像のデータを生成するコンピュータプログラムを記録したことを特徴とする、コンピュータにて読み取り可能な記録媒体。 - 情報処理装置が出力した表示用動画像のデータを取得する機能と、
前記表示用動画像のデータに、複数の表示装置に独立に表示させる複数の動画像がフレームごとに合成された合成画像のデータが含まれるとき、自らに接続された表示装置に表示させる部分領域を当該合成画像のデータから抽出し、最終的な表示画像とする機能と、
前記最終的な表示画像のデータを前記接続された表示装置に出力する機能と、
をコンピュータに実現させるコンピュータプログラムを記録したことを特徴とする、コンピュータにて読み取り可能な記録媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015105849A JP2016218366A (ja) | 2015-05-25 | 2015-05-25 | 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 |
PCT/JP2016/064755 WO2016190193A1 (ja) | 2015-05-25 | 2016-05-18 | 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015105849A JP2016218366A (ja) | 2015-05-25 | 2015-05-25 | 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2016218366A true JP2016218366A (ja) | 2016-12-22 |
Family
ID=57393865
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015105849A Pending JP2016218366A (ja) | 2015-05-25 | 2015-05-25 | 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 |
Country Status (2)
Country | Link |
---|---|
JP (1) | JP2016218366A (ja) |
WO (1) | WO2016190193A1 (ja) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018173790A1 (ja) * | 2017-03-22 | 2018-09-27 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP2020527872A (ja) * | 2017-07-13 | 2020-09-10 | グーグル エルエルシー | 非平面コンピュテーショナルディスプレイ |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07154827A (ja) * | 1993-11-29 | 1995-06-16 | Canon Inc | 複数画像合成装置及び画像表示装置 |
JP2012108211A (ja) * | 2010-11-15 | 2012-06-07 | Sharp Corp | マルチディスプレイシステムおよび携帯端末装置 |
-
2015
- 2015-05-25 JP JP2015105849A patent/JP2016218366A/ja active Pending
-
2016
- 2016-05-18 WO PCT/JP2016/064755 patent/WO2016190193A1/ja active Application Filing
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2018173790A1 (ja) * | 2017-03-22 | 2018-09-27 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JPWO2018173790A1 (ja) * | 2017-03-22 | 2020-01-30 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
US11308670B2 (en) | 2017-03-22 | 2022-04-19 | Sony Corporation | Image processing apparatus and method |
JP7070547B2 (ja) | 2017-03-22 | 2022-05-18 | ソニーグループ株式会社 | 画像処理装置および方法、並びにプログラム |
JP2020527872A (ja) * | 2017-07-13 | 2020-09-10 | グーグル エルエルシー | 非平面コンピュテーショナルディスプレイ |
JP7005658B2 (ja) | 2017-07-13 | 2022-01-21 | グーグル エルエルシー | 非平面コンピュテーショナルディスプレイ |
Also Published As
Publication number | Publication date |
---|---|
WO2016190193A1 (ja) | 2016-12-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6511386B2 (ja) | 情報処理装置および画像生成方法 | |
CN106165415B (zh) | 立体观看 | |
JP6563043B2 (ja) | 映像表示システム | |
JP2016537903A (ja) | バーチャルリアリティコンテンツのつなぎ合わせおよび認識 | |
JP6218787B2 (ja) | 撮像装置、情報処理装置、表示装置、情報処理システム、画像データ送出方法、および画像表示方法 | |
JP2004221700A (ja) | 立体画像処理方法および装置 | |
JP6391423B2 (ja) | 画像生成装置、画像抽出装置、画像生成方法、および画像抽出方法 | |
JP2003284093A (ja) | 立体画像処理方法および装置 | |
JP2004007395A (ja) | 立体画像処理方法および装置 | |
WO2020170454A1 (ja) | 画像生成装置、ヘッドマウントディスプレイ、および画像生成方法 | |
JP2004007396A (ja) | 立体画像処理方法および装置 | |
JP2009516205A (ja) | オートステレオスコープ表示装置上で少なくとも1つの画像領域をモノスコープ方式で表現するための方法および機構ならびに該機構を有する情報再現装置 | |
WO2020170455A1 (ja) | ヘッドマウントディスプレイおよび画像表示方法 | |
WO2013108285A1 (ja) | 画像記録装置、立体画像再生装置、画像記録方法、及び立体画像再生方法 | |
JPWO2019123509A1 (ja) | 端末装置、システム、プログラム及び方法 | |
US11187895B2 (en) | Content generation apparatus and method | |
WO2016190193A1 (ja) | 情報処理装置、出力制御装置、情報処理システム、および動画データ出力方法 | |
JP2004221699A (ja) | 立体画像処理方法および装置 | |
JP2003284095A (ja) | 立体画像処理方法および装置 | |
JP2004220127A (ja) | 立体画像処理方法および装置 | |
JPWO2017199495A1 (ja) | 画像処理システム、画像処理装置、及びプログラム | |
US20210037231A1 (en) | Image processing apparatus, image processing method, and image processing program | |
US20200225467A1 (en) | Method for projecting immersive audiovisual content | |
WO2022158220A1 (ja) | 画像表示システムおよび画像表示方法 | |
JP2005175539A (ja) | 立体映像表示装置及び映像表示方法 |