以下、本発明の一実施形態について、図面を参照しながら説明する。本実施形態に係る映像表示システムは、映像表示装置として機能するエンタテインメントシステム10と、携帯型映像表示装置50と、を含んで構成されている。エンタテインメントシステム10と携帯型映像表示装置50とは、無線通信ネットワークを介して相互にデータ通信可能に接続される。
図1は、本実施形態に係るエンタテインメントシステムのハードウェア構成を示す図である。同図に示すように、エンタテインメントシステム10は、MPU(Micro Processing Unit)11と、メインメモリ20と、画像処理部24と、モニタ26と、入出力処理部28と、音声処理部30と、スピーカ32と、光ディスク読み取り部34と、ハードディスク38と、インタフェース(I/F)40,44と、コントローラ42と、カメラユニット46と、ネットワークインタフェース48と、を含んで構成されるコンピュータシステムである。
図2は、MPU11の構成を示す図である。同図に示すように、MPU11は、メインプロセッサ12と、サブプロセッサ14a,14b,14c,14d,14e,14f,14g,14hと、バス16と、メモリコントローラ18と、インタフェース(I/F)22と、を含んで構成される。
メインプロセッサ12は、図示しないROM(Read Only Memory)に記憶されるオペレーティングシステム、例えばDVD(Digital Versatile Disk)−ROM等の光ディスク36から読み出されるプログラム及びデータや、通信ネットワークを介して供給されるプログラム及びデータ等に基づいて、各種情報処理を行ったり、サブプロセッサ14a乃至14hに対する制御を行ったりする。
サブプロセッサ14a乃至14hは、メインプロセッサ12からの指示に従って、各種情報処理を行ったり、エンタテインメントシステム10の各部を、例えばDVD−ROM等の光ディスク36から読み出されるプログラム及びデータや、通信ネットワークを介して供給されるプログラム及びデータ等に基づいて制御したりする。
バス16は、アドレス及びデータをエンタテインメントシステム10の各部でやり取りするためのものである。メインプロセッサ12、サブプロセッサ14a乃至14h、メモリコントローラ18、インタフェース22は、バス16を介して相互にデータ授受可能に接続される。
メモリコントローラ18は、メインプロセッサ12及びサブプロセッサ14a乃至14hからの指示に従って、メインメモリ20へのアクセスを行う。メインメモリ20には、光ディスク36やハードディスク38から読み出されたプログラム及びデータや、通信ネットワークを介して供給されたプログラム及びデータが必要に応じて書き込まれる。メインメモリ20はメインプロセッサ12やサブプロセッサ14a乃至14hの作業用としても用いられる。
インタフェース22には画像処理部24及び入出力処理部28が接続される。メインプロセッサ12及びサブプロセッサ14a乃至14hと、画像処理部24又は入出力処理部28と、の間のデータ授受はインタフェース22を介して行われる。
画像処理部24は、GPU(Graphical Processing Unit)とフレームバッファとを含んで構成される。GPUは、メインプロセッサ12やサブプロセッサ14a乃至14hから供給される画像データに基づいてフレームバッファに各種画面を描画する。フレームバッファに形成された画面は、所定のタイミングでビデオ信号に変換されてモニタ26に出力される。なお、モニタ26には例えば家庭用テレビ受像機が用いられる。
入出力処理部28には、音声処理部30、光ディスク読み取り部34、ハードディスク38、インタフェース40及び44、並びにネットワークインタフェース48が接続される。入出力処理部28は、メインプロセッサ12及びサブプロセッサ14a乃至14hと、音声処理部30、光ディスク読み取り部34、ハードディスク38、インタフェース40及び44、ネットワークインタフェース48と、の間のデータ授受を制御する。
音声処理部30は、SPU(Sound Processing Unit)とサウンドバッファとを含んで構成される。サウンドバッファには、光ディスク36やハードディスク38から読み出されたゲーム音楽、ゲーム効果音やメッセージなどの各種音声データが記憶される。SPUは、これらの各種音声データを再生してスピーカ32から出力させる。なお、スピーカ32には例えば家庭用テレビ受像機の内蔵スピーカが用いられる。
光ディスク読み取り部34は、メインプロセッサ12及びサブプロセッサ14a乃至14hからの指示に従って、光ディスク36に記憶されたプログラムやデータを読み取る。なお、エンタテインメントシステム10は、光ディスク36以外の他のコンピュータ読み取り可能な情報記憶媒体に記憶されたプログラムやデータを読み取り可能に構成されてもよい。
光ディスク36は例えばDVD−ROM等の一般的な光ディスク(コンピュータ読み取り可能な情報記憶媒体)である。また、ハードディスク38は一般的なハードディスク装置である。光ディスク36やハードディスク38には各種プログラムやデータがコンピュータ読み取り可能に記憶される。
インタフェース(I/F)40,44は、コントローラ42やカメラユニット46等の各種周辺機器を接続するためのインタフェースである。このようなインタフェースとしては、例えばUSB(Universal Serial Bus)インタフェースが用いられる。また、例えばBluetooth(登録商標)インタフェースなどの無線通信インタフェースが用いられてもよい。
コントローラ42は汎用操作入力手段であり、ユーザが各種操作(例えばゲーム操作)を入力するために用いられる。入出力処理部28は、所定時間(例えば1/60秒)ごとにコントローラ42の各部の状態をスキャンし、その結果を表す操作信号をメインプロセッサ12やサブプロセッサ14a乃至14hに供給する。メインプロセッサ12やサブプロセッサ14a乃至14hは、ユーザによって行われた操作の内容をその操作信号に基づいて判断する。なお、エンタテインメントシステム10は複数のコントローラ42を接続可能に構成されており、各コントローラ42から入力される操作信号に基づいて、メインプロセッサ12やサブプロセッサ14a乃至14hが各種処理を実行するようになっている。
カメラユニット46は、例えば公知のデジタルカメラを含んで構成され、白黒、グレイスケール又はカラーの撮影画像を所定時間(例えば1/60秒)ごとに入力する。本実施の形態におけるカメラユニット46は、撮影画像をJPEG(Joint Photographic Experts Group)形式の画像データとして入力するようになっている。また、カメラユニット46は、例えばレンズをユーザに向けた状態でモニタ26の上に設置され、ケーブルを介してインタフェース44に接続される。ネットワークインタフェース48は入出力処理部28と通信ネットワークとに接続されており、エンタテインメントシステム10が通信ネットワークを介して他のエンタテインメントシステム10とデータ通信するのを中継するようになっている。
なお、ネットワークインタフェース48としては、例えばBluetooth(登録商標)インタフェースなどの無線通信インタフェースが用いられてもよい。本実施形態においては、ネットワークインタフェース48は無線通信ネットワークと接続され、この無線通信ネットワークを介したエンタテインメントシステム10と携帯型映像表示装置50との間のデータ通信を中継する。
一方、携帯型映像表示装置50は、例えば携帯型ゲーム機等、映像の表示及び音声の再生を行うユーザによる持ち運び可能な装置である。本実施形態においては、携帯型映像表示装置50は、図3に示すように、MPU52と、メインメモリ54と、画像処理部56と、モニタ58と、入出力処理部60と、音声処理部62と、スピーカ64と、光ディスク読み取り部66と、コントローラ68と、ネットワークインタフェース70と、を含んで構成されている。
MPU52は、図示しないROMに記憶されるオペレーティングシステムや、例えばUMD(登録商標)等の光ディスクから読み出されるプログラム及びデータ、通信ネットワークを介して供給されるプログラム及びデータ等に基づいて、各種情報処理を行ったり、携帯型映像表示装置50の各部の制御を行ったりする。
メインメモリ54には、光ディスクから読み出されたプログラム及びデータや、通信ネットワークを介して供給されたプログラム及びデータが必要に応じて書き込まれる。メインメモリ54はMPU52の作業用としても用いられる。
画像処理部56は、GPUとフレームバッファとを含んで構成される。GPUは、MPU52から供給される画像データに基づいてフレームバッファに各種画面を描画する。フレームバッファに形成された画面は、所定のタイミングでビデオ信号に変換されてモニタ58に出力される。なお、モニタ58は例えば携帯型映像表示装置50本体と一体に構成された液晶ディスプレイ装置などである。
入出力処理部60には、音声処理部62、光ディスク読み取り部66、及びネットワークインタフェース(I/F)70が接続される。入出力処理部60は、MPU52と、音声処理部62、光ディスク読み取り部66及びネットワークインタフェース70と、の間のデータ授受を制御する。
音声処理部62は、SPUとサウンドバッファとを含んで構成される。サウンドバッファには、光ディスクから読み出されたゲーム音楽、ゲーム効果音やメッセージなどの各種音声データが記憶される。SPUは、これらの各種音声データを再生してスピーカ64から出力させる。なお、スピーカ64は携帯型映像表示装置50本体に内蔵されている。
光ディスク読み取り部66は、MPU52からの指示に従って、光ディスクに記憶されたプログラムやデータを読み取る。なお、携帯型映像表示装置50は、光ディスク以外の他のコンピュータ読み取り可能な情報記憶媒体に記憶されたプログラムやデータを読み取り可能に構成されてもよい。当該光ディスクには各種プログラムやデータがコンピュータ読み取り可能に記憶される。
コントローラ68は汎用操作入力手段であり、ユーザが各種操作(例えばゲーム操作)を入力するために用いられる。ユーザがコントローラ68に対して行った操作の内容を表す操作信号は、入出力処理部60によって所定時間ごとにMPU52に供給される。なお、コントローラ68は、携帯型映像表示装置50の筐体に取付けられた各種のボタン等の操作部材を含んでなる。
ネットワークインタフェース70は、入出力処理部60と無線通信ネットワークとに接続されており、携帯型映像表示装置50とエンタテインメントシステム10との間のデータ通信を中継する。
以下では、以上説明したエンタテインメントシステム10及び携帯型映像表示装置50からなる映像表示システムが実現する機能について、説明する。本実施形態において、エンタテインメントシステム10は、モニタ26による表示対象となる自装置用映像データ及びスピーカ32による再生対象となる自装置用音声データを生成し、これらのデータに基づいて映像の表示及び音声の再生を行う。また、自装置用映像データとは異なるデータ形式の他装置用映像データ及び自装置用音声データとは異なるデータ形式の他装置用音声データを生成し、これらのデータを携帯型映像表示装置50に対して送信する機能を備える。携帯型映像表示装置50は、これらの送信されたデータを受信し、当該受信したデータに基づいて、モニタ58による映像の表示及びスピーカ64による音声の再生を行う機能を有する。
図4は、本実施形態に係る映像表示システムが実現する機能の一例を示す機能ブロック図である。ここでは、他装置用映像データ及び他装置用音声データが自装置用映像データ及び自装置用音声データに基づいて生成される場合の例について説明する。
図4に示すように、エンタテインメントシステム10は、機能的に、表示モード切り替え部101と、自装置用映像データ生成部102と、自装置用音声データ生成部103と、映像及び音声出力部104と、他装置用映像データ生成部105と、他装置用音声データ生成部106と、データ送信部107と、を含んで構成される。これらの機能は、MPU11がメインメモリ20に格納されるプログラムを実行することにより、実現できる。このプログラムは、例えばCD−ROMやDVD−ROM、メモリカード等のコンピュータ読み取り可能な各種の情報記憶媒体に格納されて提供されてもよい。あるいは、インターネット等のネットワーク経由で提供されてもよい。
また、携帯型映像表示装置50は、図4に示すように、機能的に、モード切り替え制御部108と、データ受信部109と、受信映像データ復号部110と、受信音声データ復号部111と、映像及び音声出力部112と、を含んで構成される。これらの機能は、MPU52がメインメモリ54に格納されるプログラムを実行することにより、実現できる。このプログラムは、光ディスクやメモリカード等のコンピュータ読み取り可能な各種の情報記憶媒体に格納されて提供されてもよい。あるいは、インターネット等のネットワーク経由で提供されてもよい。
まず、エンタテインメントシステム10が実現する各機能について説明する。
表示モード切り替え部101は、携帯型映像表示装置50が送信する接続開始要求及び接続終了要求を受信し、当該受信した要求に応じて表示モードの切り替えを行う。具体的に、表示モード切り替え部101は、接続開始要求の受信に応じて表示モードを他装置表示モードに切り替える。また、接続終了要求の受信に応じて表示モードを自装置表示モードに切り替える。なお、本実施形態においては、携帯型映像表示装置50からの接続開始要求があるまでは、エンタテインメントシステム10は自装置表示モードとして動作する。
自装置表示モードは、エンタテインメントシステム10が自分自身による表示及び再生用に生成した映像データ及び音声データを、そのままモニタ26及びスピーカ32に出力するモードである。また、他装置表示モードは、これらの映像データ及び音声データを、携帯型映像表示装置50により処理可能なデータ形式に変換して送信することにより、携帯型映像表示装置50による映像の表示及び音声の再生を可能とするモードである。これらのモードに応じて、以下に説明する各部の動作が変化する。
自装置用映像データ生成部102は、エンタテインメントシステム10のモニタ26による表示対象となる映像データ(以下、自装置用映像データという)を生成する。
具体例として、自装置用映像データ生成部102は、光ディスク36やハードディスク38などの記憶手段に記憶されている符号化された映像データを復号することで、自装置用映像データを生成する。例えば自装置用映像データ生成部102は、光ディスク36等に記憶されている符号化された映像データの復号を行い、所定時間おき(例えば1/60秒ごと)にモニタ26に表示される画像として、自装置用映像データを生成する。ここで、生成される自装置用映像データは、モニタ26により表示可能な画像のサイズに応じたサイズの映像データである。
なお、自装置用映像データ生成部102が生成する自装置用映像データは、符号化された映像データを復号して得られるものに限られない。例えば自装置用映像データは、光ディスク36等に格納されているプログラムを実行することで生成されるゲーム画面やコンテンツ選択用のメニュー画面等を表すものであってもよい。また、自装置用映像データは、エンタテインメントシステム10が通信ネットワーク等を介して取得したデータに基づいて生成されるものであってもよい。さらに、自装置用映像データは、符号化された映像データを復号して得られた映画等のコンテンツを表すフレーム画像に対して、ユーザに対して再生時間等の各種情報を提示する情報提示画像や、ユーザの指示操作の対象となるアイコン、メニュー項目等を表す操作対象画像をオーバレイした画像からなる映像データであってもよい。
ここで自装置用映像データ生成部102は、表示モードに応じて、生成した自装置用映像データの出力先を切り替える。具体的に、表示モードが自装置表示モードの場合、自装置用映像データ生成部102は、生成した自装置用映像データを画像処理部24内のフレームバッファに出力する。表示モードが他装置表示モードの場合には、生成した自装置用映像データを、フレームバッファとは異なるメインメモリ20内のメモリ領域M1に出力する。
自装置用音声データ生成部103は、エンタテインメントシステム10のスピーカ32による再生対象となる音声データ(以下、自装置用音声データという)を生成する。具体例として、自装置用音声データ生成部103は、光ディスク36やハードディスク38などの記憶手段に記憶されている符号化された音声データを復号することで、自装置用音声データを生成する。
なお、自装置用映像データ生成部102と同様に、自装置用音声データ生成部103が生成する自装置用音声データは、符号化された音声データを復号して得られるものに限られず、光ディスク36等に格納されているプログラムを実行することで生成されるものであってもよい。また、自装置用音声データは、符号化された音声データを復号して得られた映画や音楽等のコンテンツを表す音声データに対して、ユーザの操作等に応じて再生されるべき操作音や各種の効果音などを表す音声信号を合成して得られるものであってもよい。
ここで自装置用音声データ生成部103は、表示モードに応じて、生成した自装置用音声データの出力先を切り替える。具体的に、表示モードが自装置表示モードの場合、自装置用音声データ生成部103は、生成した自装置用音声データを音声処理部30内のサウンドバッファに出力する。表示モードが他装置表示モードの場合には、生成した自装置用音声データを、サウンドバッファとは異なるメインメモリ20内のメモリ領域M2に出力する。メモリ領域M2は、前述したメモリ領域M1と異なる領域であってもよいし、連続して確保された領域でもよい。
映像及び音声出力部104は、自装置用映像データ生成部102が生成した自装置用映像データを表示するとともに、自装置用音声データ生成部103が生成した自装置用音声データを再生する。具体的には、映像及び音声出力部104は、フレームバッファに出力された自装置用映像データを読み出して、所定時間おきにモニタ26の画面に順次表示する。また、サウンドバッファに出力された自装置用音声データを読み出して、スピーカ32により再生する。
以上説明した各機能によって、エンタテインメントシステム10は、表示モードが自装置表示モードである場合、単体で光ディスク36等に記憶された映像データ及び音声データに基づいて映像を表示し、また音声を再生できる。これにより、ユーザは例えば映画等のコンテンツを視聴したり、ゲームをプレイしたりすることができる。
他装置用映像データ生成部105は、表示モード切り替え部101によって表示モードが他装置表示モードに切り替えられた場合に、自装置用映像データ生成部102が生成した自装置用映像データを、携帯型映像表示装置50で処理可能なデータ形式に符号化することにより、他装置用映像データを生成する。
具体的に、他装置用映像データ生成部105は、自装置用映像データを構成する各フレームのフレーム画像をメモリ領域M1から読み出して、所定のデータ形式に符号化して他装置用映像データを生成する。例えば他装置用映像データ生成部105は、符号化によってMPEG−4(Moving Picture Experts Group phase 4)規格に基づくデータ形式の映像データを生成する。なお、他装置用映像データ生成部105は、携帯型映像表示装置50から送信された情報に基づいて、予め定められた複数のデータ形式の候補の中から符号化するデータ形式を選択することとしてもよい。
ここで、他装置用映像データ生成部105は、符号化の処理に先立って、自装置用映像データを携帯型映像表示装置50で表示可能なサイズに変換し、サイズを変換した自装置用映像データを符号化して他装置用映像データを生成することとしてもよい。この場合において、携帯型映像表示装置50で表示可能なサイズは、予めエンタテインメントシステム10内に記憶された情報に基づいて決定されるものであってもよいし、携帯型映像表示装置50から送信された情報に基づいて決定されるものであってもよい。これにより、エンタテインメントシステム10のモニタ26と携帯型映像表示装置50のモニタ58で表示可能な画像のサイズが異なる場合であっても、エンタテインメントシステム10は自装置用映像データを利用して携帯型映像表示装置50で表示可能な他装置用映像データを生成できる。これにより、本来モニタ26による表示用に生成された自装置用映像データを、符号化処理に適した形式のデータに変換できる。
また、他装置用映像データ生成部105は、符号化の処理に先立って、自装置用映像データの色変換を実行してもよい。具体的に、例えば他装置用映像データ生成部105は、自装置用映像データ内においてRGB色空間によって指定された色を、YUV色空間の色に変換する。
また、他装置用映像データ生成部105が生成する他装置用映像データのデータ形式は、光ディスク36等に記憶されて自装置用映像データ生成部102が復号処理を行う元になった符号化された映像データとは、異なるデータ形式であってよい。この他装置用映像データが後述するように携帯型映像表示装置50に送信されることによって、携帯型映像表示装置50は、自分自身が持つ機能によっては本来表示できないデータ形式で光ディスク36等に記憶された映像データを、表示することができる。
他装置用音声データ生成部106は、表示モード切り替え部101によって表示モードが他装置表示モードに切り替えられた場合に、自装置用音声データ生成部103が生成した自装置用音声データを、携帯型音声表示装置50で処理可能なデータ形式に符号化することにより、他装置用音声データを生成する。
具体的に、他装置用音声データ生成部106は、自装置用音声データをメモリ領域M2から読み出して、所定のデータ形式に符号化して他装置用音声データを生成する。例えば他装置用音声データ生成部106は、符号化によってMPEG−2 Part7やMPEG−4 Part3などの規格で採用されているコーデックの音声データを生成する。あるいは、ATRAC3(Adaptive TRansform Acoustic Coding 3)などのコーデックによる音声データを生成することとしてもよい。なお、他装置用音声データ生成部106は、他装置用映像データ生成部105と同様に、携帯型音声表示装置50から送信された情報に基づいて、予め定められた複数のデータ形式の候補の中から符号化するデータ形式を選択することとしてもよい。
ここで、他装置用音声データ生成部106は、符号化の処理に先立って、自装置用音声データを携帯型映像表示装置50で再生可能なチャネル数に低減し、チャネル数を低減した自装置用音声データを符号化して他装置用音声データを生成することとしてもよい。この場合において、携帯型映像表示装置50で再生可能なチャネル数は、予めエンタテインメントシステム10内に記憶された情報に基づいて決定されるものであってもよいし、携帯型映像表示装置50から送信された情報に基づいて決定されるものであってもよい。これにより、エンタテインメントシステム10のスピーカ32と携帯型映像表示装置50のスピーカ64で再生可能な音声データのチャネル数が異なる場合であっても、エンタテインメントシステム10は自装置用音声データを利用して携帯型映像表示装置50で再生可能な他装置用音声データを生成できる。
なお、この場合において、他装置用音声データ生成部106は、例えば複数のチャネルの音声データからなる自装置用音声データに対して、1又は複数のチャネルの音声データを削除することにより、チャネル数の低減を行う。あるいは、自装置用音声データに含まれる複数のチャネルの音声データをミキシングする処理を実行することにより、チャネル数を低減することとしてもよい。例えば他装置用音声データ生成部106は、5.1chや7.1chの自装置用音声データを、2chの他装置用音声データに変換する。
また、他装置用音声データ生成部106が生成する他装置用音声データのデータ形式は、他装置用映像データと同様に、光ディスク36等に記憶されて自装置用音声データ生成部103が復号処理を行う元になった符号化された音声データとは、異なるデータ形式であってよい。この他装置用音声データが後述するように携帯型音声表示装置50に送信されることによって、携帯型音声表示装置50は、自分自身が持つ機能によっては本来再生できないデータ形式で光ディスク36等に記憶された音声データを、再生することができる。
データ送信部107は、他装置用映像データ生成部105が生成した他装置用映像データ、及び他装置用音声データ生成部106が生成した他装置用音声データを、接続開始要求を送信した携帯型映像表示装置50に対して送信する。なお、データ送信部107は、他装置用映像データ及び他装置用音声データを暗号化して送信することとしてもよい。ここで、暗号化に使用される暗号鍵は、予めエンタテインメントシステム10内に記憶されたものであってもよいし、携帯型映像表示装置50から送信される情報に基づいて所定の方法で生成されるものであってもよい。
また、データ送信部107は、送信待ちの状態でメインメモリ20内に保持されている他装置用映像データ及び他装置用音声データのデータ量に応じて、データ転送速度を変化させることとしてもよい。また、データ送信部107によるデータ転送速度の変更と併せて、またはこれに代えて、他装置用映像データ生成部105は、符号化によって生成する他装置用映像データの符号化ビットレートを変化させることとしてもよい。すなわち、送信待ちの状態にある他装置用映像データ及び他装置用音声データのデータ量が増加している場合には、他装置用映像データの符号化ビットレートを下げ、データ量が減少している場合には、他装置用映像データの符号化ビットレートを上げることとする。同様に、他装置用音声データ生成部106は、送信待ちの状態にあるデータ量に応じて生成する他装置用音声データの符号化ビットレートを変化させることとしてもよい。これにより、通信ネットワークの状態に応じて送信待ちの状態にある映像データ及び音声データのデータ量を調整することができ、通信ネットワークの帯域を必要以上に占有することなく、他装置用映像データ及び他装置用音声データを携帯型映像表示装置50に送信することができる。
次に、携帯型映像表示装置50が実現する各機能について説明する。
モード切り替え制御部108は、ユーザのコントローラ68に対する指示操作に応じて、携帯型映像表示装置50の表示モードを切り替えるとともに、接続開始要求及び接続終了要求をエンタテインメントシステム10に対して送信する。具体的には、ユーザの接続開始指示に応じて、表示モードを受信データ表示モードに切り替えるとともに、接続開始要求をエンタテインメントシステム10に送信する。また、ユーザの接続終了指示に応じて、表示モードを自装置表示モードに切り替えるとともに、接続終了要求をエンタテインメントシステム10に送信する。ここで、受信データ表示モードは、エンタテインメントシステム10から送信される映像データ及び音声データに基づいて映像の表示及び音声の再生を行うモードであり、自装置表示モードは、エンタテインメントシステム10の場合と同様に自分自身が生成した映像データ及び音声データに基づいて映像の表示及び音声の再生を行うモードである。
データ受信部109は、モード切り替え制御部108によって表示モードが受信データ表示モードに切り替えられている場合に、接続開始要求を送信したエンタテインメントシステム10のデータ送信部107から送信された他装置用映像データ及び他装置用音声データを受信する。なお、データ送信部107から送信されるデータが暗号化されている場合、データ受信部109は暗号化されたデータの解読を行い、暗号化前のデータを復元する。この場合に使用する復号鍵は、予め携帯型映像表示装置50内に記憶されたものであってもよいし、携帯型映像表示装置50が保持する情報に基づいて所定の方法で生成されるものであってもよい。
本実施形態においては、データ受信部109が受信した他装置用映像データ及び他装置用音声データは、メインメモリ54内に確保されたメモリ領域M3に格納されることとする。なお、ここでメモリ領域M3は、映像データ及び音声データをそれぞれ別々に格納する分割された領域であってもよいし、連続して確保された領域であってもよい。
受信映像データ復号部110は、データ受信部109が受信した、符号化された他装置用映像データの復号を行う。具体的に、受信映像データ復号部110は、メモリ領域M3に格納された他装置用映像データを読み出し、復号処理を実行して、得られた映像データをメインメモリ54内に確保されたメモリ領域M4(出力バッファ領域)に出力する。
受信音声データ復号部111は、データ受信部109が受信した、符号化された他装置用音声データの復号を行う。具体的に、受信音声データ復号部111は、メモリ領域M3に格納された他装置用音声データを読み出し、復号処理を実行して、得られた音声データをメインメモリ54内に確保されたメモリ領域M5(出力バッファ領域)に出力する。
映像及び音声出力部112は、受信映像データ復号部110によって復号された映像データを表示するとともに、受信音声データ復号部111によって復号された音声データを再生する。具体的には、映像及び音声出力部112は、メモリ領域M4から映像データを読み出して、当該映像データを構成する各フレーム画像を画像処理部56内のフレームバッファに出力することにより、モニタ58の画面に順次表示する。また、メモリ領域M5から音声データを読み出して、音声処理部62内のサウンドバッファに出力することにより、スピーカ64より音声を再生させる。
ここで、映像及び音声出力部112は、復号化された映像データ及び音声データを、所定のタイミングでフレームバッファ及びサウンドバッファに出力することとする。具体的には、映像及び音声出力部112は、映像と音声が同期を取って表示及び再生されるタイミングで、映像データのフレームバッファへの出力及び音声データのサウンドバッファへの出力を行うこととする。
なお、受信映像データ復号部110及び受信音声データ復号部111は、所定の処理単位ごとに受信された他装置用映像データ及び他装置用音声データの復号を行うこととする。また、メモリ領域M4及びメモリ領域M5は、いずれも当該処理単位の複数個分に相当する映像データ及び音声データを格納可能な容量を持つこととする。これにより、受信映像データ復号部110又は受信音声データ復号部111の少なくともいずれか一方において、復号処理が所定時間内に完了しない状態(いわゆるオーバーラン)が生じた場合であっても、メモリ領域M4及びM5にそれぞれ映像データ及び音声データが保持されていれば、映像及び音声出力部112は映像の表示及び音声の再生を継続することができる。さらにこの場合、受信映像データ復号部110及び受信音声データ復号部111は、メモリ領域M4及びM5に格納されている、未処理の映像データ及び音声データのデータ量に応じて、復号処理の方式を変更してもよい。具体的に、例えば受信映像データ復号部110による復号処理に遅延が生じて、メモリ領域M4にバッファリングされた未処理の映像データのデータ量が減少した状態にある場合、受信映像データ復号部110は、次の処理単位の映像データに対する復号処理をより早く完了する方式に変更する。これにより、携帯型映像表示装置50は、映像の表示や音声の再生を途切れさせずに継続しながら、復号処理の遅延を解消することができる。
以上説明した各機能によって、携帯型映像表示装置50は、表示モードが受信データ表示モードである場合に、光ディスク36等からエンタテインメントシステム10によって読み出された映像データ及び音声データや、MPU11によって生成された映像データ及び音声データに基づいて映像を表示し、また音声を再生できる。これにより、ユーザは携帯型映像表示装置50により、通信接続されたエンタテインメントシステム10から配信された映像及び音声を視聴することができる。
なお、エンタテインメントシステム10が他装置表示モードで動作しており、ユーザが携帯型映像表示装置50により映像及び音声を視聴している場合、エンタテインメントシステム10は、モニタ26に現在携帯型映像表示装置50に対して映像及び音声の配信を実行中であることを示す情報を表示することとしてもよい。
また、携帯型映像表示装置50は、表示モードが自装置表示モードである場合には、例えば光ディスク読み取り部66が光ディスクから読み取ったデータに基づいて、モニタ58で表示可能な映像データ及びスピーカ64で再生可能な音声データを生成し、モニタ58に映像を表示するとともにスピーカ64で音声を再生することとする。これにより、携帯型映像表示装置50はユーザの指示に応じて表示モードを切り替えることにより、自分自身で生成した映像及び音声を出力することもできるし、エンタテインメントシステム10から配信された映像及び音声を出力することもできる。
ここで、本実施形態に係る映像表示システムが実行する処理の流れの一例について、図5のフロー図に基づいて説明する。なお、この図の例においては、処理開始時には、エンタテインメントシステム10及び携帯型映像表示装置50はいずれも自装置表示モードで動作しているものとする。
この図5の例においては、まず携帯型映像表示装置50が、ユーザのコントローラ68に対する接続開始指示を受け付ける(S1)。これに応じて、モード切り替え制御部108は、エンタテインメントシステム10に対して接続開始要求を送信し(S2)、携帯型映像表示装置50の表示モードを受信データ表示モードに切り替える(S3)。
さらに携帯型映像表示装置50は、予め定められた自分自身の装置IDに基づいて、復号鍵を生成する(S4)。そして、エンタテインメントシステム10から送信された他装置用映像データ及び他装置用音声データに基づいて、映像の表示及び音声の再生を行う受信コンテンツ出力処理を実行する(S5)。具体的には、データ受信部109がエンタテインメントシステム10から送信された暗号化されたデータを受信し、S4で生成した復号鍵を用いて暗号化前の他装置用映像データ及び他装置用音声データを復元する。さらに、データ受信部109によって得られた符号化された映像データ及び音声データを、受信映像データ復号部110及び受信音声データ復号部111がそれぞれ復号する。そして、映像及び音声出力部112が、映像データをモニタ58に表示するとともに、音声データをスピーカ64により再生する。この受信コンテンツ出力処理は、ユーザによりコントローラ68に対して接続終了指示がなされるまで繰り返される(S6)。
一方、S2で送信された接続開始要求を受信したエンタテインメントシステム10は、以下の処理を実行する。すなわち、まず表示モード切り替え部101が、表示モードを他装置表示モードに切り替える(S7)。さらにエンタテインメントシステム10は、携帯型映像表示装置50の装置IDに基づいてデータ送信用の暗号鍵を生成する(S8)。ここでは携帯型映像表示装置50の装置IDは、接続開始要求とともに携帯型映像表示装置50から送信されるものとする。
続いてエンタテインメントシステム10は、携帯型映像表示装置50からの要求に応じて他装置用映像データ及び他装置用音声データを生成し、携帯型映像表示装置50に対して送信するコンテンツ配信処理を実行する(S9)。具体的には、自装置用映像データ生成部102が生成した自装置用映像データを他装置用映像データ生成部105が他装置用映像データに符号化し、自装置用音声データ生成部103が生成した自装置用音声データを他装置用音声データ生成部106が他装置用音声データに符号化する。そして、データ送信部107が、S8で生成した暗号鍵により他装置用映像データ及び他装置用音声データを暗号化し、携帯型映像表示装置50に対して送信する。このコンテンツ配信処理は、携帯型映像表示装置50から接続終了要求が送信されるまで、繰り返される(S10)。
ここでユーザから携帯型映像表示装置50のコントローラ68に対して接続終了指示があると、携帯型映像表示装置50は、エンタテインメントシステム10に対して接続終了要求を送信し(S11)、自分自身の表示モードを自装置表示モードに切り替える(S12)。接続終了要求を受信したエンタテインメントシステム10は、これに応じて自分自身の表示モードを自装置表示モードに切り替える(S13)。これにより、以降は、エンタテインメントシステム10及び携帯型映像表示装置50は、それぞれ独立して自分自身が生成した映像データの表示及び音声データの再生を行う。
なお、本実施形態における携帯型映像表示装置50は、受信データ表示モードにある場合に、ユーザのコントローラ68に対する指示操作の内容を示す情報(指示操作情報)を、エンタテインメントシステム10に送信する機能をさらに含んでもよい。この場合、エンタテインメントシステム10は、携帯型映像表示装置50から受信した指示操作情報によって示されるユーザの指示操作に応じて、自装置用映像データ及び自装置用音声データの内容を変化させる。例えば、受信した指示操作情報によって示されるユーザの指示操作が、エンタテインメントシステム10に接続されたコントローラ42に対してなされたものとみなして、当該指示操作に応じて自装置用映像データ及び自装置用音声データを生成する。こうすれば、本実施形態に係る映像表示システムにより、ユーザは例えばコントローラ68に対する指示操作によってモニタ58の画面上に表示されたキャラクタを操作し、その結果として変化する映像及び音声を視聴することができる。これにより、ユーザは単に映画等の一方的に映像及び音声が出力されるコンテンツを視聴するだけでなく、ゲーム等のインタラクティブ性を持ったコンテンツを楽しむことができる。
さらにこの場合において、前述したデータ受信部109が受信した他装置用映像データ及び他装置用音声データが格納されるメモリ領域M3のサイズは、ユーザによって指定されたコンテンツの種別に応じて、変化することとしてもよい。例えば映画等のユーザの指示操作によって内容の変化しないコンテンツが配信される場合、メモリ領域M3のサイズが大きく、そのためある程度の時間にわたって表示されるべき映像データ及び再生されるべき音声データが一旦メモリ領域M3内に保持されることになっても、不都合が生じることは少ない。しかしながら、ゲーム等の場合、ユーザの指示操作によって映像や音声の内容が変化するため、メモリ領域M3のサイズが大きく、携帯型映像表示装置50が受信した映像データや音声データが出力されるまでにタイムラグが生じてしまうと、ユーザの指示操作の内容がすぐにコンテンツの内容に反映されずに、リアルタイム性が損なわれる場合がある。そこで、ユーザの指示操作によって内容の変化する種別のコンテンツを配信する場合には、メモリ領域M3のサイズを小さくすることで、このような問題を低減することができる。なお、携帯型映像表示装置50は、このメモリ領域M3に代えて、受信映像データ復号部110及び受信音声データ復号部111が復号化した映像データ及び音声データを格納するメモリ領域のサイズを、コンテンツの種別に応じて変化させてもよい。
次に、エンタテインメントシステム10が、複数の携帯型映像表示装置50と接続される場合の例について、説明する。
この場合、エンタテインメントシステム10は、接続開始要求を送信した複数の携帯型映像表示装置50に対して、互いに共通する他装置用映像データ及び他装置用音声データを送信することとしてもよい。また、それぞれ異なる他装置用映像データ及び他装置用音声データを送信することとしてもよい。
それぞれ異なる他装置用映像データ及び他装置用音声データを送信する場合、例えばエンタテインメントシステム10は、各携帯型映像表示装置50が接続開始要求とともに送信する各携帯型映像表示装置50を識別する装置識別情報(装置IDなど)を受信し、当該装置識別情報によって特定される送信先に対して他装置用映像データ及び他装置用音声データを送信する。これにより、それぞれ異なる他装置用映像データ及び他装置用音声データを、接続開始要求を送信した各携帯型映像表示装置50に対して送信できる。
また、エンタテインメントシステム10は、複数の携帯型映像表示装置50を複数のグループのいずれかに関連づける情報を保持することとし、当該各グループに応じて生成した互いに同じ又は異なる他装置用映像データ及び他装置用音声データを、各グループに関連づけられた携帯型映像表示装置50にそれぞれ送信することとしてもよい。
この場合、エンタテインメントシステム10に対して接続開始要求を送信した携帯型映像表示装置50は、さらにユーザの指示操作等に基づいて、自分が参加するグループを指定する情報をエンタテインメントシステム10に対して送信する。当該情報に応じて、エンタテインメントシステム10は、グループと携帯型映像表示装置50とを関連づける情報を生成する。
図6は、この場合のエンタテインメントシステム10と複数の携帯型映像表示装置50との間の接続の一例を、概念的に示す説明図である。この図の例においては、エンタテインメントシステム10は、グループG1,G2及びG3の3つのグループを管理しており、グループG1に携帯型映像表示装置50a及び50bを、グループG2に携帯型映像表示装置50cを、グループG3に携帯型映像表示装置50dを、それぞれ関連づける情報を保持している。図7は、このようなグループと携帯型映像表示装置50とを関連づける情報を示すテーブルの一例を示す図である。
この図6の例において、エンタテインメントシステム10は、当該各グループに応じて、それぞれ異なる自装置用映像データ及び自装置用音声データを生成し、これらのデータを符号化してそれぞれ異なる他装置用映像データ及び他装置用音声データを生成する。そして、各グループに応じて生成された他装置用映像データ及び他装置用音声データを、当該各グループに関連づけられた携帯型映像表示装置50に対して送信する。これにより、携帯型映像表示装置50a及び50bは、互いに同じ映像を表示し、音声を再生する。一方、携帯型映像表示装置50c及び50dは、いずれも他の携帯型映像表示装置50とは異なる映像を表示し、音声を再生する。なお、エンタテインメントシステム10は、所定の条件に応じて、異なるグループに対して同じ他装置用映像データ及び他装置用音声データを生成し、送信することがあってもよい。
さらに携帯型映像表示装置50は、映像及び音声の配信を受けている途中で、ユーザの指示操作等に応じて、自分が参加するグループを変更する情報をエンタテインメントシステム10に対して送信できることとしてもよい。当該情報に応じて、エンタテインメントシステム10は、図7に例示するようなグループと携帯型映像表示装置50とを関連づける情報を更新する。これにより、携帯型映像表示装置50は、エンタテインメントシステム10からコンテンツの配信を受けている途中で、配信を受けるコンテンツを、別の携帯型映像表示装置50に対して配信されているコンテンツに切り替えることができる。
また、エンタテインメントシステム10は、携帯型映像表示装置50から送信される情報によらずに、他の条件に基づいて各携帯型映像表示装置50が関連づけられたグループを変更することとしてもよい。例えばエンタテインメントシステム10は、各携帯型映像表示装置50との間の通信ネットワークの状況の変化や、生成中のコンテンツの状態に応じて、各携帯型映像表示装置50が関連づけられたグループの変更を行う。
以上説明した例によれば、ユーザはエンタテインメントシステム10が配信する複数のコンテンツの中から自分が視聴したいコンテンツを選択したり、途中でコンテンツを変更したりすることができる。また、複数のグループが例えば1つのゲームにおける複数の場面に対応する場合、複数のユーザが複数の携帯型映像表示装置50を通じて同時に1つのゲームに参加するとともに、各ユーザは、場面を切り替えることによって、あるときは他のユーザと1つの映像及び音声を共有したり、あるときは他のユーザとは別の自分専用の場面を示す映像及び音声を視聴したりすることができる。
なお、本発明の実施の形態は、以上説明した例に限られない。例えばエンタテインメントシステム10と携帯型映像表示装置50とは、無線通信ネットワークに加えて、さらにインターネット等の各種の通信ネットワークを介して接続されることとしてもよい。また、以上の説明においては、エンタテインメントシステム10の映像及び音声出力部104はスピーカ32により、携帯型映像表示装置50の映像及び音声出力部112はスピーカ64により、それぞれ音声を再生することとしたが、これに代えて各装置に接続されたイヤフォン等により音声を再生することとしてもよい。
また、以上説明した例においては、自装置用映像データ生成部102は、表示モードに応じて生成した自装置用映像データをフレームバッファ又はメモリ領域M1のいずれか一方に出力することとしたが、いずれの表示モードにおいても自装置用映像データをフレームバッファに出力することとしてもよい。この場合、他装置表示モードにおいては、他装置用映像データ生成部105は、一旦フレームバッファに出力された自装置用映像データを構成するフレーム画像を順次読み出して、符号化処理を行い、他装置用映像データを生成する。なお、他装置用映像データ生成部105は、フレームバッファから読み出した画像データのサイズを携帯型映像表示装置50で表示可能なサイズに変換してメインメモリ20上に確保された別のメモリ領域に出力し、さらにこのメモリ領域に出力された画像データに基づいて符号化処理を行い、他装置用映像データを生成することとしてもよい。
また、映像データの場合と同様に、自装置用音声データ生成部103は表示モードによらずに自装置用音声データを常にサウンドバッファに出力することとしてもよい。この場合、他装置用音声データ生成部106は、サウンドバッファから読み出した自装置用音声データに基づいて符号化処理を行い、他装置用音声データを生成する。
また、以上説明した例においては、エンタテインメントシステム10は、モニタ26による映像の表示及びスピーカ32による音声の再生を行う自装置表示モードと、携帯型映像装置50に対して映像及び音声の配信を行う他装置表示モードと、を選択的に切り替えて処理を実行することとしたが、エンタテインメントシステム10はこれ以外の表示モードで動作することとしてもよい。例えば、自分自身と携帯型映像表示装置50とで共通する映像の表示及び音声の再生を同時期に行う表示モードで動作することとしてもよい。あるいは、自分自身と携帯型映像表示装置50とで互いに異なる映像の表示及び音声の再生を同時期に行う表示モードで動作することとしてもよい。さらにこの場合において、携帯型映像表示装置50に対して送信される他装置用映像データ及び他装置用音声データは、自装置用映像データ及び自装置用音声データを符号化して生成されたものに限らず、自装置用映像データ生成部102や自装置用音声データ生成部103と同様の処理によって生成されたものであってもよい。