以下、この発明の実施の形態について説明する。先ず、図1を用いて、この発明の概念について説明する。この発明は、複数の機器から出力された画像を合成して1の画面に表示させる際に、複数の画像のそれぞれにおいて表示させたい部分が互いに重ならないように配置させて表示させるための処理に関する。
なお、ここでいう画像は、静止画による静止画像と、動画による動画像とを含む。これは、以下の全ての記述において共通とする。
一例として、図1に例示されるように、機器10から出力される画像10Aと、機器11から出力される画像11Aとを合成して、1枚の画像として画面14に対して表示させる場合について考える。ここで、画像10A内の部分画像10Bおよび画像11A内の部分画像11Bが、画像10Aおよび画像11Aを1枚の画像に合成した際にそれぞれ画面14に表示させたい部分であるものとする。
この発明では、このような場合に、画面14における空き領域を管理し、画像10Aに部分画像10Bを表示した際の空き領域を示す情報に基づき、画像10Aと画像11Aとを1の画像に合成した際に、画像11Aにおける部分画像11Bと画像10Aにおける部分画像10Bとが互いに重ならないように、部分画像11Bを適切に配置できるようにする。このとき、必要に応じて、画像11Aに対して、部分画像11Bが画像11Aにおいて表示される領域を変更するような処理、例えば部分画像11Bに対する拡大、縮小といったサイズ変更や、移動などの加工処理を施す。
こうして得られた画像10Aと画像11Aとを、例えばプレーン12およびプレーン13にそれぞれ出力してプレーン12とプレーン13とを合成することで、部分画像10Bと部分画像11Bとが互いに重ならないように配置された画面14を得る。
画像10Aと画像11Aとを1の画像に合成した際に、さらに空き領域が存在するときは、この空き領域も継続的に管理される。したがって、さらに他の部分画像を、この空き領域に適切に配置して表示させることができる。また、画面の空き領域を管理し、その空き領域に部分画像を配置するようにしているため、部分画像が配置される位置を柔軟に決めることができる。すなわち、1の画像に合成された際の各部分画像の位置は、固定的である必要が無い。
空き領域の管理は、独立的な装置で行ってもよいし、機器から出力される画像が供給され、画像の表示を行う表示装置において行ってもよい。さらに、画像を出力する機器側で空き領域を管理することも考えられる。
ここで、図1において、画面14に表示させる画像を出力する機器として、機器10および機器11が示されているが、この発明は、この例に限らず、さらに多数の機器から出力された画像について、表示させたい部分が互いに重ならないように、1の画面14に表示させることができるようにするものである。また、上述では、機器10および機器11から出力された画像10Aおよび11Aを、プレーン12およびプレーン13にそれぞれ出力し、プレーン12およびプレーン13を合成することで1の画面14を得ているが、これはこの例に限られない。すなわち、画像10Aおよび11Aを1のプレーン上で直接的に合成して、画面14を得るようにできる。
画面14における空き領域の管理方法や、部分画像10Bおよび/または部分画像11Bの加工制御に関しては、様々な手法が考えられる。実際的には、画面14の表示領域を管理する管理部によって、機器10および機器11の出力画像を制御して、機器10が表示すべき画像と機器11が表示すべき画像とが画面14において重ならないように配置することが考えられる。
例えば、画面14の表示領域を管理する管理部と機器10および機器11との間で通信を行うことで、機器10が表示すべき部分画像と機器11が表示すべき部分画像とが画面14において重ならないように制御することが考えられる。これを、第1の方式(調停方式と呼ぶ)とする。
また例えば、管理部と機器10および機器11との間で通信を行わず、管理部が機器10および機器11から出力された画像を解析し、機器10が表示すべき部分画像と機器11が表示すべき部分画像とが画面14において重ならないように、機器10および機器11の出力画像を加工することが考えられる。これを、第2の方式(独立方式と呼ぶ)とする。
調停方式のより具体的な実現方法としては、例えば、管理部が機器10および機器11に対して座標情報を通知し、機器10および機器11は、通知された座標情報に基づき表示すべき部分画像が互いに重ならないように予め加工された画像10Aおよび画像11Aを作成することが考えられる。これを、第1の調停方式と呼ぶ。
また例えば、管理部が機器10および機器11に対して表示領域を示す情報を通知し、機器10および機器11は、通知された表示領域に相応しい画像10Aorgおよび画像11Aorgを出力し、表示すべき部分画像が互いに重ならないように、管理部が画像10Aorgおよび画像11Aorgを加工することが考えられる。これを、第2の調停方式と呼ぶ。
以下、この発明の実施の形態について、下記の項目に従い説明する。
1.この発明の実施の第1の形態(第1の調停方式)について
1−1−1.実施の第1の形態によるシステム構成
1−1−2.実施の第1の形態による動作について
1−1−3.実施の第1の形態による画像加工および合成処理の例について
1−1−4.実施の第1の形態によるウィンドウ制御方法について
1−1−5.実施の第1の形態によるカーソル制御について
1−1−6.テンプレートパターンについて
1−2.この発明の実施の第1の形態の第1の変形例について
1−2−1.実施の第1の形態の第1の変形例によるシステム構成について
1−2−2.実施の第1の形態の第1の変形例による動作について
1−3.この発明の実施の第1の形態の第2の変形例について
1−3−1.実施の第1の形態の第2の変形例によるシステム構成について
1−3−2.実施の第1の形態の第2の変形例による動作について
2.この発明の実施の第2の形態(第2の調停方式)について
2−1−1.実施の第2の形態によるシステム構成
2−1−2.実施の第2の形態による動作について
2−1−3.実施の第2の形態による画像加工および合成処理の例について
2−1−4.実施の第2の形態によるウィンドウ制御について
2−1−5.実施の第2の形態によるカーソル制御について
2−2.この発明の実施の第2の形態の変形例について
2−2−1.実施の第2の形態の変形例によるシステム構成について
2−2−2.実施の第2の形態の変形例による動作について
3.この発明の実施の第3の形態(独立方式)について
3−1−1.実施の第3の形態によるシステム構成
3−1−2.実施の第3の形態による動作について
3−1−3.画像解析の例について
3−1−4.実施の第3の形態による画像加工および合成処理の例について
3−1−5.実施の第3の形態によるウィンドウ制御について
3−1−6.実施の第3の形態によるカーソル制御について
3−2.この発明の実施の第3の形態の変形例について
3−2−1.実施の第3の形態の変形例によるシステム構成について
3−2−2.実施の第3の形態による動作について
4.この発明の応用例
1.この発明の実施の第1の形態(第1の調停方式)について
1−1−1.実施の第1の形態によるシステム構成
図2は、この発明の実施の第1の形態によるシステムの一例の構成を概略的に示す。なお、図2において、上述した図1と共通する部分には同一の符号を付し、詳細な説明を省略する。
このシステムにおいては、画面14の表示領域を管理する座標情報管理部16が設けられる。座標情報管理部16は、画面14の空き領域を管理する機能を有し、画面14に対して画像の表示を行う機器のそれぞれ(機器10および機器11とする)と通信する通信手段を用いて座標情報管理部16と機器10および機器11との間で通信を行うことにより、機器10および機器11が画面14内で表示を行う表示領域を決める。表示領域を示す情報は、当該通信手段を用いて座標情報管理部16から機器10および機器11に対してそれぞれ送信される。
機器10および機器11は、座標情報管理部16から送信された、表示領域を示す情報に基づき、画面14に表示するための画像10Aおよび画像11Aを、表示すべき部分画像が互いに重ならないように予め配置して生成し、出力する。機器10および機器11から出力された画像10Aおよび画像11Aは、合成部15で合成され、画面14が形成される。
合成部15や座標情報管理部16は、例えば画面14を表示するための表示装置に内蔵される。合成部15や座標情報管理部16を、それぞれ独立した装置として構成することも可能である。合成部15および座標情報管理部16とで1の装置を構成することもできる。
図3は、機器10(または機器11)の一例の構成を概略的に示す。機器10は、CPU(Central Processing Unit)20と、座標情報管理部16と通信を行うための通信I/F(インターフェイス)23と、所定に画像を生成して出力する画像生成部24と、画像生成部24から出力された画像に対して加工処理などを行う画像処理部25とを有する。
CPU20に対して、ROM(Read Only Memory)21、RAM(Random Access Memory)22および通信I/F23が接続される。CPU20は、ROM21に予め記憶されたプログラムやデータに基づき、RAM22をワークメモリとして用いて、通信I/F23による通信の制御や、画像生成部24および画像処理部25の制御を行う。通信I/F23は、所定の通信プロトコルに従い後述する座標情報管理部16と通信を行うことができる。
画像生成部24は、CPU20の制御に基づき画像を生成し出力する。例えば、画像生成部24は、DVD(Digital Versatile Disc)、Blu−ray Disc(登録商標)などのディスク状記録媒体を再生可能なドライブ装置を有し、CPU20の制御に基づき、記録媒体に記録された画像データをドライブ装置により再生して出力する。ディスク状記録媒体は、これらの装置から着脱可能なものに限らず、例えば機器10に内蔵されたハードディスクでもよい。さらに、記録媒体は、ディスク状記録媒体に限られず、例えば半導体メモリや磁気テープでもよい。
また例えば、画像生成部24は、ディジタルテレビジョン放送を受信可能なチューナを有し、CPU20の制御に基づき、チューナにより受信された放送電波に基づく画像データを出力するようにすることもできる。さらに例えば、画像生成部24は、所定のプログラムに基づきCG(Computer Graphics)を描画して出力するようなものでも良い。この場合、画像生成部24は、別途CPUや記憶部を有し、記憶部に記憶されたプログラムやデータに基づきCGを描画し出力するようにできるし、CGの描画機能をCPU20で賄うことも可能である。画像生成部24は、これらの例に限られず、他の方法で画像データを出力するようなものであっても良い。
画像処理部25は、例えば少なくとも1フレーム分の画像データを記憶可能なメモリ26を有し、CPU20の制御に基づき、メモリ26を用いて、画像生成部24から供給された画像データに対して加工処理を施すことができる。詳細は後述するが、画像処理部25は、画像データの一部に対して選択的に、拡大、縮小といったサイズ変更、移動などの処理を施すことができる。画像処理部25から出力された画像データは、出力端27から出力される。
これに限らず、CPU20に制御に基づき、画像生成部24が、表示すべき部分画像が予め所定サイズ、所定位置となるように、出力画像を生成するようにしてもよい。この場合には、画像処理部25を省略することができる。
なお、機器10(または機器11)は、画像生成部24で生成された画像に基づきGUI(Graphical User Interface)を構成することができる。例えば、CPU20は、通信I/F23を介してなされた通信や、図示されない操作部(リモートコントロールコマンダを用いたものを含む)に対する操作に応じて、画像生成部24で生成されるGUI画面の表示制御を行うと共に、機器10(または機器11)全体の動作を制御する。
より具体的な例としては、機器10(または機器11)から出力される画像において、機器10(または機器11)における動作を示す複数のアイコン画像が所定に表示され、GUIが構成される。ユーザは、GUIに基づき例えばリモートコントロールコマンダのキーを所定に操作し、目的の動作を示すアイコン画像を選択する。アイコン画像は、選択状態と非選択状態との区別が容易につくように、それぞれの状態に応じて異ならされたデザインの画像が用意される。アイコン画像が選択された状態で例えば決定キーを操作すると、当該アイコン画像に対応する動作がなされるように、CPU20により機器の各部が制御される。
図4は、座標情報管理部16の一例の構成を概略的に示す。座標情報管理部16は、CPU30、ROM31およびRAM32と、2以上の通信I/F33A、33B、・・・とを有する。CPU30は、ROM31に予め記憶されたプログラムやデータに基づき、RAM32をワークメモリとして用いて動作し、画面14における座標情報を管理する。
通信I/F33A、33B、・・・は、機器10、11、・・・がそれぞれ有する通信I/F23の通信プロトコルに対応し、CPU30の制御に基づき機器10、11、・・・とデータ通信を行うことができる。
座標情報管理部16と機器10、機器11との間で通信を行うための通信I/Fは、様々に考えられる。例えば、IEEE(Institute Electrical and Electronics Engineers)1394に準じた通信I/Fを用いることが考えられる。また、HD(High Definition)による映像データの伝送に対応した通信規格であるHDMI(High-Definition Multimedia Interface)のデータ通信機能を用いることも考えられる。座標情報管理部16が表示装置に内蔵されている場合には、機器10、機器11、・・・と表示装置とをHDMI規格のケーブル(以下、HDMIケーブル)で接続するだけで、この実施の一形態による機能を利用できるので、便利である。これらに限らず、UPnP(Universal Plug and Play)や、DLNA(Digital Living Network Alliance)に基づく通信I/Fを用いることもできる。この場合には、無線通信が利用可能である。さらに、従来から用いられるRS232Cといったシリアル通信I/Fや、独自に規定された通信I/Fを用いてもよい。USB(Universal Serial Bus)を利用することもできる。
なお、座標情報管理部16と機器10、機器11、・・・との間で通信を行う通信I/Fの種類は、機器10、機器11、・・・の全てについて同一である必要はなく、異なる通信I/Fを混在させる構成とすることも可能である。
さらに、座標情報管理部16に対してリモートコントロールコマンダ35を用いて制御信号を送信し、座標情報管理部16を遠隔的に操作することができる。この図4の例では、リモートコントロールコマンダ35が操作に応じた制御信号を赤外線信号に変換して送信するタイプのものとされ、座標情報管理部16に、赤外線信号を受信して電気信号に変換する、IR I/F34が設けられる。IR I/F34は、対応するリモートコントロールコマンダ35からの赤外線信号を受信し、所定に電気信号に変換してCPU30に供給する。
リモートコントロールコマンダ35による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
座標情報管理部16が画面14を表示するための表示装置に内蔵される場合には、画面14の表示領域を示す情報(例えば解像度情報)がROM31に予め記憶される。また、座標情報管理部16が独立した装置として構成される場合には、例えば座標情報管理部16は、画面14の表示を行う表示装置と図示されない通信手段により通信を行って画面14の解像度情報を取得し、図示されない不揮発性メモリに記憶させる。ROM31を書き換え可能なタイプのROMとして、画面14の解像度情報をROM31に記憶させてもよい。勿論、座標情報管理部16にユーザ操作を受け付ける操作部を設け、画面14の解像度情報を操作部に対する操作により設定してもよい。
1−1−2.実施の第1の形態による動作について
この発明の実施の第1の形態による一例の動作について、上述した図2を参照すると共に、図5を用いて説明する。座標情報管理部16は、機器10および機器11の接続が検知されると、例えば所定のプロトコルに従った識別処理などにより、接続された機器10および機器11の識別を行う。その後、機器10および機器11から座標情報管理部16に対して、画像の表示を希望する座標を示す情報である表示希望座標情報を送信する。
例えば、機器10が複数のウィンドウまたはオブジェクトを用い、ウィンドウまたはオブジェクト毎に異なる内容を表示するように表示制御を行うような場合に、機器10は、所定のウィンドウまたはオブジェクトを画面14に表示する部分画像として選択し、当該所定のウィンドウまたはオブジェクトのサイズおよび位置を示す座標情報を、表示希望座標情報として機器10から座標情報管理部16に対して送信する。なお、以下では、「ウィンドウまたはオブジェクト」を、「ウィンドウ」として統一的に表記する。
座標情報管理部16は、機器10および機器11から受け取った表示希望座標情報に基づき、機器10から出力される画像を画面14に表示する際の表示領域17Aと、機器11から出力される画像を画面14に表示する際の表示領域17Bとを決める。一例として、先ず、機器10および機器11の何方か一方、例えば機器10から受け取った表示希望座標情報に基づき、機器10に対応する表示領域17Aを決め、画面14全体の表示領域から表示領域17Aを取り除いた空き領域に基づき、機器11に対応する表示領域17Bを決めることが考えられる。これは、以下の各実施形態および各実施形態の変形例についても、同様に考えることができる。なお、画面14全体の表示領域に対して複数、例えば2の表示領域17Aおよび17Bを設定する場合において、画面14全体の表示領域にさらに空き領域が存在してもよい。表示領域17Aを示す座標情報18Aが機器10に送信され、表示領域17Bを示す座標情報18Bが機器11に送信される。
機器10または機器11では、座標情報管理部16から送信された座標情報18Aまたは座標情報18Bに基づき、出力画像の加工を行う。例えば、機器10が出力する画像10Aorgにおいて、画面14に表示すべき部分は、部分画像10Borgであるものとする。また、機器11が出力する画像11Aorgにおいて、画面14に表示すべき部分は、部分画像11Borgであるものとする。
機器10は、座標情報管理部16から送信された座標情報18Aに基づき、部分画像10Borgが表示領域17A内に表示されるように、部分画像10Borgに対して拡大、縮小といったサイズ変更、移動などの加工を施す。部分画像10Borgを加工した部分画像10Bが含まれる画像10Aが機器10から出力される。機器11においても同様に、座標情報管理部16から送信された座標情報18Bに基づき、部分画像11Borgが表示領域17B内に表示されるように、部分画像11Borgに対して加工を施し、加工された部分画像11Bを含む画像11Aを得る。
1−1−3.実施の第1の形態による画像加工および合成処理の例について
画像の加工処理の例について説明する。機器10は、例えば電子ゲーム機器であって、図6Aに一例が示されるように、複数のウィンドウを用いてゲーム画面を表示するものとする。機器10の出力画像10Aorgの解像度は、1920画素×1080ラインとし、図中に斜線で示されるウィンドウ(1280画素×720ライン)が画面14に表示させたい部分画像10Borgであるものとする。一方、機器11は、例えばHD(High Definition)画像に対応したディジタルテレビジョン放送を受信可能なチューナであって、出力画像11Aorgの解像度が1920画素×1080ラインとされ、この全体が画面14に表示させたい部分画像11Borgであるものとする。
機器10から座標情報管理部16に対して、出力画像10Aorgの解像度情報が送信されると共に、部分画像10Borgの座標情報(640,0)-(1920,720)が表示希望座標情報として送信される。同様に、機器11から座標情報管理部16に対して、出力画像11Aorgの解像度情報が送信されると共に、部分画像11Borgの座標情報(0,0)-(1920,1080)が表示希望座標情報として送信される。
座標情報管理部16は、機器10および機器11から送信された出力画像の解像度情報と、表示希望座標情報とに基づき、画面14に対して機器10の部分画像10Borgを表示する表示領域17Aと、機器11の部分画像11Borgを表示する表示領域17Bとを求める。この図6Cの例では、表示領域17Aおよび表示領域17Bは、それぞれ960画素×1080ラインと、等しい画枠サイズとされている。表示領域17Aおよび表示領域17Bそれぞれの大きさおよび位置の求め方は、これに限らず様々に考えられる。
座標情報管理部16は、例えば、機器10および機器11から送信される表示希望座標情報により示される画枠サイズに基づき、表示領域17Aおよび表示領域17Bそれぞれの大きさおよび位置を求めることが考えられる。また例えば、座標情報管理部16は、機器10および機器11の種類に基づき、これらを求めることが考えられる。この場合、機器10および機器11の種類は、例えば座標情報管理部16により機器10および機器11が識別される際の情報に基づき求めることが考えられる。これに限らず、機器10や機器11が接続される端子により、機器10および機器11の種類を決定してもよい。
さらにまた、座標情報管理部16は、例えば、表示領域17Aおよび表示領域17Bを所定のテンプレートやテーブルを用いて決めることも可能である。一例として、座標情報管理部16は、ROM31に予めテンプレートやテーブルを記憶しておき、機器10や機器11の種類や、機器10および機器11から送信された表示希望座標情報などに基づきテンプレートやテーブルを参照して表示領域17Aや表示領域17Bを決めることが考えられる。なお、表示領域をテンプレートを用いて設定する例については、後述する。
座標情報管理部16から、表示領域17Aを示す座標情報が機器10に対して送信される。同様にして、座標情報管理部16から、表示領域17Bを示す座標情報が機器11に対して送信される。機器10および機器11のそれぞれは、座標情報管理部16から送信された表示領域を示す座標情報に基づき画像を加工して出力する。
機器10のような、画像全体に対して一部分のみを画面14に表示させる場合の一例の画像加工について、図7を用いて説明する。図7Aに例示されるように、複数のウィンドウから構成される機器10の画像10Aorgにおいて、右上隅の部分画像10Borg(斜線を付して示す)が画面14に表示する画像であるとする。この図7の例では、画像10Aorgは、画枠サイズが1920画素×1080ラインであって、部分画像10Borgは、画枠の範囲が座標(640,0)-(1920,720)であるものとする。
先ず、機器10は、座標(640,0)-(1920,720)以外の部分(非表示部分と呼ぶ)の画素を所定の属性を持つ画素に変換する(図7B)。例えば、非表示部分の画素を、不透明度α=0、すなわち他の画素と合成した際に他の画素の情報がそのまま表示される属性を持つ画素に変換することが考えられる。これに限らず、非表示部分の画素を、特定の色および輝度情報を持つ画素に変換することも考えられる。次に、機器10は、表示領域17Aの座標情報に基づき部分画像10Borgを表示領域17A側に移動させると共に(図7C)、移動された部分画像10Borg’に対して縮小処理を施して部分画像10Bを得て(図7D)、部分画像10Bを含む画像10Aが得られる。この画像10Aが最終的に機器10から出力される。
機器11のような、出力画像全体を画面14に表示させる場合の一例の画像加工について、図8を用いて説明する。この図8の例では、機器11の本来の出力画像11Aorgは、画枠サイズが1920画素×1080ラインとされている(図8A)。機器11は、表示領域17Bの座標情報に基づき、画像11Aorgに対して縮小処理を施し部分画像11B(図8Bに斜線を付して示す)を得る。また、機器11は、部分画像11B以外の非表示部分の画素を、上述と同様に所定の属性を持つ画素に変換して、部分画像11Bを含む画像11Aが得られる。この画像11Aが最終的に機器11から出力される。
なお、上述の処理は、この実施の第1の形態を実現可能とするための一例であって、この例に限定されるものではない。例えば非表示部分の画素処理や、部分画像の移動処理、縮小処理の順序は、この順に限られない。また、機器10や機器11において、部分画像をメモリなどにコピーして処理することも考えられる。また、非表示部分の画素処理を機器10や機器11で行わず、後の合成部15において行うようにしてもよい。
また、上述では、機器10による部分画像10Bや機器11による部分画像11Bが、それぞれ表示領域17Aや表示領域17Bと画枠が一致するように画像加工されているが(上述の例では、水平サイズが一致させられている)、これはこの例に限定されない。部分画像の画枠サイズを座標情報管理部16により送信された表示領域よりも小さく画像加工したり、部分画像に対して枠画像などを加えるように画像加工することも考えられる。
機器10から出力された画像10Aと機器11から出力された画像11Aとが合成部15で合成され、画面14が形成される。合成部15における複数の画像の合成方法としては、下記の2通りが考えられる。
(1)複数の画像をそれぞれ異なるプレーンに出力し、プレーンを合成する方法。
(2)複数の画像を1のプレーン上で合成する方法。
なお、ここでいうプレーンは、例えばVRAM(Video RAM)からなり、VRAMの記憶内容が表示部の表示に直接的に反映される。
先ず、合成部15が複数のプレーンを用いて画像を合成する例について、図9を用いて説明する。ここでは、画像10Aおよび画像11Aに対し、非表示部分の画素に不透明度α1および不透明度α2の属性をそれぞれ持たせた場合について考える。なお、0≦α≦1であって、この図9の例では、不透明度α1=α2=0とする。機器10および機器11から出力された画像10Aおよび画像11Aは、合成部15に供給され、プレーン12およびプレーン13にそれぞれ書き込まれる。
プレーン12に書き込まれた画像の非表示部分の画素に対して不透明度α1が乗ぜられ、加算器に供給される。同様に、プレーン13に書き込まれた画像の非表示部分の画素に対して不透明度α2が乗ぜられ、加算器に供給される。加算器で、供給された画像を画素毎に加算することで、画面14において互いに重ならないように設定された表示領域17Aおよび表示領域17Bに対し、機器10による部分画像10Bと、機器11による部分画像11Bとがそれぞれ表示される。
次に、合成部15が1のプレーンを用いて画像を合成する例について、図10を用いて説明する。この場合にも、上述と同様に、画像10Aおよび画像11Aに対し、非表示部分の画素に不透明度α1および不透明度α2の属性をそれぞれ持たせているものとする。機器10から出力され合成部15に供給された画像10Aの非表示部分の画素に対して不透明度α1が乗ぜられ、加算器に供給される。同様に、機器11から出力され合成部15に供給された画像11Aの非表示部分の画素に対して不透明度α2が乗ぜられ、加算器に供給される。加算器は、例えば、不透明度α1または不透明度α2の値が0以外の画素を図示されないプレーンに書き込んでいく。これにより、画面14において互いに重ならないように設定された表示領域17Aおよび表示領域17Bに対し、機器10による部分画像10Bと、機器11による部分画像11Bとがそれぞれ表示される。
1−1−4.実施の第1の形態によるウィンドウ制御方法について
上述のように、機器10が複数ウィンドウにより表示制御を行うような場合において、機器10の表示領域として座標情報管理部16から機器10に対して送信された表示領域17Aに対して、機器10が複数のウィンドウを表示させたい場合を考える。このとき、表示領域17Aの画枠サイズや形状によっては、機器10において当該複数のウィンドウが表示されている形態とは異なる形態で、表示領域17Aに対して当該複数のウィンドウを表示した方が好ましい場合が有り得る。
以下、図11を用いて、1の表示領域に対して複数のウィンドウを表示する場合の一例のウィンドウ制御方法について説明する。なお、図11および以下の同様の図において、上述した図1と共通する部分には同一の符号を付し、詳細な説明を省略する。画面14に対して、機器10の出力画像を表示する表示領域17Aと、機器11の出力画像を表示する表示領域17Bとが、座標情報管理部16により、図11に例示されるように予め設定されているものとする。
なお、図11の例では、画像10Aに含まれる、画面14に表示させる部分画像10Bは、機器10において、座標情報管理部16から送信された表示領域17Aの情報に基づき、上述したようにして拡大縮小といったサイズ変更や移動などの加工処理を施されているものとする。
図11に一例が示されるように、機器10から出力される画像10Aと、機器11から出力される画像11Aとを合成して画面14に対して表示させることを考える。このとき、画像11Aは、複数のウィンドウ画像11Bおよび11Cを含み、座標情報管理部16は、これらウィンドウ画像11Bおよび11Cと、画像10Aに含まれる部分画像10Bとが互いに重ならないように画面14に配置されるように、画面14の空き領域を管理する。
例えば、画像10Aと画像11Aとを合成した際に、画像10Aに含まれる部分画像10Bと、画像11Aに含まれるウィンドウ画像11Bおよび11Cとが互いに重ならないように、画像11Aにおいてウィンドウ画像11Bおよび11Cを所定に移動させ配置を並べ替えて画像11A’とする。この実施の第1の形態では、このウィンドウ画像11Bおよび11Cの並べ替えは、座標情報管理部16から送信される表示領域17Bを示す情報に基づき、機器11において行われる。また、機器11は、ウィンドウ画像11Bおよび11Cの並べ替えの際に、必要に応じてウィンドウ画像11Bやウィンドウ画像11Cに対して、拡大縮小といったサイズ変更などの画像加工を施すことができる。
複数のウィンドウ画像を表示制御し、並べ替えなどを行う方法として、ウィンドウ毎に優先順位を付与することが考えられる。ウィンドウ毎の優先順位は、ウィンドウ画像を出力する機器11側で付与される。
図12を用いて、ウィンドウ毎に優先順位を付与した場合の一例の表示制御について説明する。なお、図12に例示されるように、画面14に対し、機器10の出力画像を表示する表示領域17Aと、機器11の出力画像を表示する表示領域17Bとが座標情報管理部16により設定される。このように、座標情報管理部16が画面14に対して設定する各機器の画像を表示するための表示領域の形状は、矩形に限定されず、任意の形状とすることができる。画像10Aに含まれる、画面14に表示させる部分画像10Bおよび10Cは、機器10において予め所定に加工や移動処理を施されているものとする。
図12に一例が示されるように、機器10から出力される画像10Aと、機器11から出力される画像11Aとを合成して画面14に対して表示させることを考える。このとき、機器10は、画像10Aに含まれる複数の部分画像10Bおよび10Cを画面14に表示させる。機器11は、画像11Aに複数のウィンドウ画像11Bおよび11Cを含み、これらウィンドウ画像11Bおよび11Cを画面14に表示させたいものとする。
機器11において、ウィンドウ画像11Bおよび11Cに対して、それぞれ優先順位を付与する。この図12の例では、ウィンドウ画像11Bがウィンドウ画像11Cよりも高い優先順位が付与されている。一方、座標情報管理部16により画面14に対して機器11の画像を表示するように設定された表示領域17Bは、ウィンドウ画像11Bおよび11Cのうち何れか一方のみが表示可能であって、ウィンドウ画像11Bおよび11Cの両方を互いに重ならずに同時に表示できない程度の画枠サイズであるものとする。
このような場合、機器11から出力される画像11Aに含まれるウィンドウ画像11Bおよび11Cのうち、優先度がより高く設定されたウィンドウ画像11Bのみを画面14に表示させ、ウィンドウ画像11Bよりも優先度がより低く設定されたウィンドウ画像11Cは、画面14に表示させないように制御することが考えられる。すなわち、図12の中央部分に一例が示されるように、機器11は、画像11Aにおいてウィンドウ画像11Cを消去してウィンドウ画像11Bだけを表示させるようにし、当該ウィンドウ画像11Bを、画面14において機器11の画像を表示させるように設定された表示領域17Bに収まる位置まで移動させるように、表示制御を行う。
こうしてウィンドウ画像11Bを移動させたウィンドウ画像11B’を含む画像11Aと、画像10Aとを図示されない合成部15で合成する。これにより、図12の左側に例示されるような、機器10から出力された画像10Aに含まれる部分画像10Bおよび10Cと、機器11から出力された画像11に含まれるウィンドウ画像11B’とが互いに重ならないように配置された画面14を得る。
次に、画面14に表示された画像(コンテンツ)の構成に変化が生じた際の処理について説明する。例えば、画面14に対して画像を表示している複数の機器のうち、電源切断などにより画像出力を停止した機器があった場合、当該機器による画像は、当然、画面14から消滅する。また例えば、機器が複数のウィンドウ画像を画面14に対して表示している場合に、当該機器においてユーザ操作などに応じてコンテンツの変更やウィンドウ構成の変更などが行われた場合、ウィンドウ画像の消滅、ウィンドウ画像の位置変更や拡大縮小といったサイズ変更などが行われる。
このように、画面14に表示されるウィンドウ構成やコンテンツに変更が生じた場合、変更後のウィンドウ画像の配置を、変更後の画面14における表示を考慮して決めるようにすると好ましい。すなわち、画面14に対して画像を出力する機器においてウィンドウ構成に変更が生じた結果、画面14に表示されているウィンドウ画像が大きく移動すると、ユーザは、ウィンドウ同士の関係や、注目していたウィンドウがどのウィンドウであったかを把握するのが困難になる可能性がある。そこで、機器からの出力画像におけるウィンドウ構成やコンテンツに変更があっても、実際に画面14に表示される画面構成が大きく変化しないように、表示制御を行う。
図13〜図16を用いて、より具体的に説明する。図13に一例が示されるように、機器10から出力画像10Aと、機器11から出力される出力画像11Aとを合成して画面14に表示させることを考える。なお、画面14に対して、機器10の出力画像を表示する表示領域17Aと、機器11の出力画像を表示する表示領域17Bとが、座標情報管理部16により、図13の左側に例示されるように予め設定されているものとする。すなわち、この図13の例では、表示領域17Aは、画面14の全領域を略4分割した左上の領域とされ、残りの逆L字型の領域が表示領域17Bとされている。
なお、図13の例では、画像10Aに含まれる、画面14に表示させる部分画像10Bは、機器10において、座標情報管理部16から送信された表示領域17Aの情報に基づき所定の拡大縮小といったサイズ変更や移動などの加工処理を施されているものとする。
図13に一例が示されるように、機器10から出力される画像10Aと、機器11から出力される画像11Aとを合成した画面14に対して表示させることを考える。このとき、機器11は、それぞれ優先順位が付与された複数のウィンドウ画像11B、11C、11Dおよび11Eを画像11Aとして出力することができる。図13の例では、ウィンドウ画像11Bおよび11Eにより高い優先順位が付与され、ウィンドウ画像11Cおよび11Dに、ウィンドウ画像11Bおよび11Eより低い優先順位が付与されているものとする。
座標情報管理部16は、画像11Aに含まれるこれら各ウィンドウ画像と、画像10Aに含まれる部分画像10Bとが互いに重ならないで画面14に配置されるように、画面14の空き領域を管理する。このとき、画面14における、機器11の出力画像11Aを表示するための表示領域17Bは、画面14に対して左上側の領域が欠けているため、出力画像11Aに本来含まれる4つのウィンドウ画像11B、11C、11Dおよび11Eのうち1つは、画面14に対して表示できないことになる。機器11は、座標情報管理部16から送信される表示領域17Bの情報に基づき、例えば表示領域17B外、すなわち表示領域17Aに対応する位置のウィンドウ画像11Dを表示しないように制御する。
このようにして機器10および機器11から出力される画像10Aおよび11Aを、図示されない合成部15で合成する。これにより、図13の左側に示されるように、画面14の表示領域17Aに対して機器10から出力される部分画像10Bが表示され、表示領域17Bに対して機器11から出力されるウィンドウ画像11B、11Cおよび11Eが表示された画面14が得られる。
機器11において、ウィンドウ画像11B、11C、11Dおよび11Eのうち1つが消去された場合について考える。画面14に対し、画面14内の位置に応じた優先度が例えば座標情報管理部16により定義されるものとする。この画面14内の一時応じた優先度の情報は、座標情報管理部16から機器10および機器11に対して送信される。例えば、図14Aに一例が示されるように、上下方向では、画面14の上側が下側より優先度が高く、左右方向では、画面14の左側が右側より優先度が高く定義される。勿論、この定義はこの例に限定されない。また、この1画面内における優先度の定義は、この実施の第1の形態に限らず、後述する他の実施の形態にも共通するものである。
この定義によれば、例えば画面14に表示すべき画像が1つしかない場合には、画面14の左上側から配置されることを意味する。また、画面14の左下、右上および右下の各領域からなる表示領域17Bにおいては、表示すべき画像が画面14の左下領域、右上領域、右下領域の順に表示されることを意味する。
一方、図14Bに一例が示されるように、機器11の出力画像11Aにおいて、ウィンドウ画像11B、11C、11Dおよび11Eに対して、ウィンドウ画像11Eが最も高い優先順位とされ、次いでウィンドウ画像11Bが優先順位が高く、以下、ウィンドウ画像11C、ウィンドウ画像11Dの順に優先順位が低くなるように、それぞれ優先順位が付与されている。各ウィンドウ画像に付与された優先順位は、図14Bにおいては記号(#1〜#4)によって示されている。記号#1が付与されたウィンドウ画像が最も優先順位が高いことを示す。
図14Aを用いて説明した画面14内における優先度と、この各ウィンドウの優先順位とが一致するように各ウィンドウ画像を配置すると、ユーザによる各ウィンドウ画像の認識が容易になることが期待される。
この機器11による画像11Aを、機器10による画像10Aと共に画面14に表示する際には、機器11は、機器10に対する表示領域17Aには画像を表示できない。そのため、機器11は、座標情報管理部16から送信される表示領域17Bの情報に基づき、例えば図14Cに示されるように、ウィンドウ画像11Eを左下に、ウィンドウ画像11Bおよび11Cをそれぞれ右上および右下に配置し、ウィンドウ画像11Dの表示を消去するように表示制御を行う。この図14Cに例示される表示は、図14Aに例示した画面14内における優先度と、機器11において各ウィンドウ画像に付与された優先順位とに従ったものである。
ここで、図15に例示されるように、機器11において、ウィンドウ画像11Eを消去すると共にウィンドウ画像11Dを表示するように表示制御することを考える。この場合、本来のウィンドウ画像11Dの表示位置は、画面14において機器10による部分画像10Bを表示するための表示領域17Aの位置に相当するため、機器11は、表示領域17Aに相当する位置に部分画像を配置できない。ここでは、機器11において各ウィンドウ画像を移動させて、表示領域17Aを部分画像が配置されない空き領域とする。
画面14内の優先度と各ウィンドウ画像の優先順位とが一致するように各ウィンドウ画像を配置する例を、図16Aに示す。この場合、画面14内の優先度に従い、最も高い優先順位#2が付与されたウィンドウ画像11Bが画面14の左下に移動され、優先順位#3が付与されたウィンドウ画像11Cが画面14の右上に、最も低い優先順位#4が付与されたウィンドウ画像11Dが画面14の右下に移動され、図16Aの下側に例示されるような画像11A’が得られる。この例では、この方法によれば各ウィンドウ画像の位置が全て入れ替わることになり、ユーザは、各ウィンドウ画像の関係や位置を即座に把握することが困難となるおそれがある。
この実施の第1の形態では、各ウィンドウ画像の移動が最小限となるように、各ウィンドウ画像を配置する。すなわち、図16Bに一例が示されるように、ウィンドウ画像11Bおよび25Cは移動させずに、ウィンドウ画像11Dのみを左下に移動させる。こうすることで、元の画像11Aにおける各ウィンドウ画像の配置が略、維持された画像11A”が得られる(図16B下側参照)。元の画像11Aの配置が略、維持されるので、ユーザは、各ウィンドウ画像の関係や位置を容易に把握することができる。
なお、ウィンドウ画像の移動をウィンドウ画像や画面内における優先度に基づき行うか、優先度に関わらす各ウィンドウ画像の移動が最小限になるように行うかは、例えば、優先度に基づきウィンドウ画像の移動を行った場合に移動されるウィンドウ画像の個数や移動距離などに基づき判断することが考えられる。
この実施の第1の形態においては、上述のようなウィンドウ制御は、座標情報管理部16から送信される表示領域情報に基づき、画像を出力する機器側において行われる。
1−1−5.実施の第1の形態によるカーソル制御について
画面14に対して複数の機器から出力された出力画像が表示されている際に、ユーザ操作により当該複数の機器を切り換えて制御可能であることが望まれる。例えば、画面14に表示された、各機器による画像を所定の操作手段を用いて選択することで、選択された画像に対応した機器の制御に移行できるようにする。
なお、選択された画像は、例えば所定の枠画像の付加や、画像の色調の変更などの画像処理が施され、選択されていることが示される。以下では、選択されていることを示す表示をカーソルと称し、画像に対してカーソルを表示して当該画像が選択されていることを明示的に表現することを、画像をフォーカスするなどと称する。
この実施の第1の形態では、図4を用いて説明したように、座標情報管理部16がユーザ操作を受け付けるようにされている。座標情報管理部16は、ユーザ操作に応じて、座標情報管理部16に接続された機器と通信I/F33A、33B、・・・により通信を行って、当該機器に対してカーソル制御情報やフォーカス情報を送信する。
一例として、図17Aに示されるように、座標情報管理部16により、画面14に対し、画面14の左上部分が機器10の出力画像を表示する表示領域17Aとされ、その他の逆L字型の部分が機器11の出力画像を表示する表示領域17Bとされ、機器10は、表示領域17Aに対して部分画像10Bを表示し、機器11は、表示領域17Bに対して複数のウィンドウ画像11B、11C、11Dおよび11Eを表示する場合について考える。
このような画面構成において、当初、部分画像10Bにカーソル40がなされ(図17B参照)、ユーザ操作に応じて、部分画像10Bからウィンドウ画像11Bにカーソル40が移動される(図17C参照)場合の制御の例について考える。なお、図17においては、カーソル40を斜線付き太枠で以て示している。
図18を用いて、この実施の第1の形態によるカーソル40の一例の表示制御について説明する。なお、画面14における表示領域17Aおよび表示領域17Bの設定、ならびに、表示領域17Aおよび17Bに対して機器10および11がそれぞれ行う表示については、上述した図17と共通とする。
当初、画面14において、表示領域17Aに表示される部分画像10Bがフォーカスされ、カーソル40は、機器10により部分画像10Bに表示されている。また、座標情報管理部16は、現在カーソル40が表示領域17Aおよび表示領域17Bのうち何れにあるかを、知っているものとする。例えば、座標情報管理部16は、デフォルトの状態で画面14において最も優先度の高い表示領域にカーソル40が表示されるように制御し、その状態からカーソル40を追跡することで、現在カーソル40が画面14のどの表示領域に表示されているかを知ることができる。
この状態で、例えばユーザにより、リモートコントロールコマンダ35の右方向キーが操作され、このキー操作に応じて右方向を示す情報がリモートコントロールコマンダ35から送信される。座標情報管理部16は、この右方向を示す情報を受信すると、現在フォーカスされカーソル40が表示されている表示領域が表示領域17Aおよび表示領域17Bのうち何れであるかを判断する。この判断結果に基づき現在カーソル40が表示領域17Aに表示されていると判断されれば、表示領域17Aに対応する機器10に対して、当該カーソル40を解放させるように指示を送信する。
機器10は、座標情報管理部16から送信された、カーソル解放指示を受信し、受信された指示に応じて部分画像10Bに対するカーソル40の表示を解除する。そして、機器10は、直前までカーソル40が表示されフォーカスされていた部分画像10Bの位置およびサイズの情報を、座標情報管理部16に送信する。
また、座標情報管理部16は、カーソル40が表示領域17Aに表示されていると判断したら、リモートコントロールコマンダ35から送信された右方向を示す情報に基づき、表示領域17Aに対して右に位置する表示領域を求める。この図17および図18の例では、表示領域17Aの右側の表示領域は、表示領域17Bであることが分かる。座標情報管理部16は、この、表示領域17Aの右側に位置する表示領域17Bに対応する機器11に対して、機器10から送信された、直前までカーソル40が表示されフォーカスされていた部分画像10Bの位置およびサイズの情報を、移動元のフォーカスに関する位置およびサイズ情報として機器11に送信する。
機器11は、座標情報管理部16から送信された、移動元のフォーカスに関する位置およびサイズ情報を受信し、受信されたこれらの情報に基づき、機器11が画面14に対して表示させるウィンドウ画像11B、11C、11Dおよび11Eのうち、フォーカスさせるべきウィンドウ画像を決定する。この図17および図18の例では、機器10による部分画像10Bの右側直近に表示されるウィンドウ画像11Bにフォーカスが移動され、当該ウィンドウ画像11Bにカーソル40が表示されるように、機器11において表示制御がなされる。
フォーカスを表示領域17Aから表示領域17Bに移動させると共に、リモートコントロールコマンダ35による制御対象そのものを、カーソル40の移動に伴い表示領域17Aに対応した機器10から、表示領域17Bに対応した機器11に移行させるようにできる。
上述したように、機器10(または機器11)は、各々の機器自身の制御を所定のGUIを用いて行うことができるようにされている。したがって、座標情報管理部16から機器10または機器11に対して座標情報を送信することで、例えばGUIにより表示されるアイコン画像を選択し、機器10または機器11の動作を制御することが可能とされる。
図19を用いて、カーソル制御に伴う制御対象機器の変更処理について、概略的に説明する。なお、画面14における表示領域17Aおよび表示領域17Bの設定、ならびに、表示領域17Aおよび17Bに対して機器10および11がそれぞれ行う表示については、上述した図17と共通とする。
当初、画面14において表示領域17Aに表示される部分画像10Bがフォーカスされているときには、リモートコントロールコマンダ35に対してなされた操作に応じた制御信号は、座標情報管理部16を介して機器10に送信される。機器10は、この制御信号を受信し、受信された制御信号に応じて、例えば、GUI画面における選択/非選択のアイコン画像の表示制御などを行うと共に、選択されたアイコン画像に対応して機器10自身の動作制御を行う。
リモートコントロールコマンダ35に対して、表示領域17Aに表示される部分画像10Bに対するフォーカスを、表示領域17Bに表示される部分画像に移動させるような操作がなされた場合を考える。例えば、リモートコントロールコマンダ35の右方向を示すキーを操作することで、フォーカスを表示領域17Aから表示領域17Bに移動させるようにできる。機器10のGUIに対して、フォーカスを別の表示領域に移動させる動作を示すアイコン画像を設けることもできる。この場合には、リモートコントロールコマンダ35に対する操作により当該アイコン画像が選択および決定されると、当該操作に応じて、右方向を示す情報が機器10から座標情報管理部16に送信される。
座標情報管理部16は、リモートコントロールコマンダ35または機器10から右方向を示す情報を受信すると、現在フォーカスされカーソル40が表示されている表示領域が表示領域17Aおよび表示領域17Bのうち何れであるかを判断する。この判断結果に基づき現在カーソル40が表示領域17Aに表示されていると判断されれば、表示領域17Aに対応する機器10に対して当該カーソル40を解放させるように指示を送信する。
機器10は、このカーソル解放指示を受信すると、当該指示に応じて部分画像10Bに対するカーソル40の表示を解除する。そして、機器10は、上述と同様に、直前までカーソル40が表示されフォーカスされていた部分画像10Bの位置およびサイズの情報を座標情報管理部16に送信する。
座標情報管理部16は、図18を用いて説明したカーソル制御と同様にしてカーソル40を表示領域17Aから表示領域17Bに移動させ、表示領域17Bのウィンドウ画像11Bにカーソル40を表示させる。
それと共に、座標情報管理部16は、リモートコントロールコマンダ35に対してなされた操作に基づく制御信号の送信先を、機器10から、表示領域17Bに対応する機器11に変更する。これにより、以降、カーソル40が再び表示領域17Aに表示されるまで、リモートコントロールコマンダ35を用いた機器10の動作制御が不可とされ、リモートコントロールコマンダ35を用いて機器11の動作を制御することが可能となる。
なお、上述した図17Bの状態からフォーカスを下方向に移動させることを考えた場合、新たにフォーカスされる画像がウィンドウ画像11Dおよびウィンドウ画像11Eの何れであるか、明確ではないことが考えられる。この場合、図20Aに例示されるように、フォーカスの移動先を示すガイド41を表示させることが考えられる。
このガイド41の表示制御方法について概略的に説明する。一例として、図17に例示したように、画面14に対して、左上の領域からなる表示領域17Aと、残りの逆L字型の領域からなる表示領域17Bとが設定され、機器10による部分画像10Bが表示領域17Aに表示され、機器11によるウィンドウ画像11B、11C、11Dおよび11Eのうち、ウィンドウ画像11Bおよび11Cが表示領域17B内における表示領域17Aの右側に配置され、ウィンドウ画像11Dおよび11Eが表示領域17B内における表示領域17Aの下側に配置される場合について考える。
このような配置の場合、ユーザは、表示領域17Aに表示される部分画像10Bにカーソル40が表示されている状態でリモートコントロールコマンダ35の右方向キーを操作することで、カーソル40がウィンドウ画像11Bおよび11Cの何れに移動するか、また、リモートコントロールコマンダ35の下方向キーを操作することで、カーソル40がウィンドウ画像11Dおよび11Eの何れに移動するか、即座に判断できないことが考えられる。
そのため、図20Aに例示されるように、リモートコントロールコマンダ35の方向キーの操作に応じてカーソル40がどの画像に移動するかを示すガイド41を表示するようにすると、好ましい。ガイド41は、例えば、座標情報管理部16から機器10に対して座標を送信し、機器10においてガイド41を表示するための画像を生成し、機器10から出力される画像10Aに対して座標情報管理部16から送信された座標に基づき当該画像を配置することで、表示させることができる(図20B)。例えば、リモートコントロールコマンダ35に対して所定の操作を行うことで、ガイド41を表示させる。
なお、上述した図17Aのような画像配置の場合、例えばリモートコントロールコマンダ35の方向キーを操作した際に、ウィンドウ画像11B、11C、11Dおよび11Eのうち何れにカーソル40が移動されるかを判断する必要がある。この判断の一例について、概略的に説明する。
例えば、座標情報管理部16は、現在カーソル40がどの表示領域に表示されているかを判断する。一例として、図17Bのように、カーソル40が表示領域17Aに表示されていると判断した場合、座標情報管理部16は、表示領域17Aの上下左右方向に隣接する表示領域を検出する。図17の例では、表示領域17Aの上側および左側には他の表示領域が存在せず、表示領域17Aの右側および下側に表示領域17Bが隣接していることが検出される。
次に、座標情報管理部16は、現在カーソル40が表示されている表示領域17Aに対して隣接するとして検出された表示領域17Bに対応する機器11と通信を行い、ウィンドウ画像11B、11C、11Dおよび11Eのうち、キー操作によりカーソル40が表示領域17Aから表示領域17Bに移動されたときに、カーソル40が表示領域17Bのどの部分に最初に表示されるかを、機器11に問い合わせる。機器11は、ウィンドウ画像11B、11C、11Dおよび11Eのそれぞれに付与された優先順位や、画面14内の位置に応じた優先度などに基づき、座標情報管理部16に対して、カーソル40の表示位置を示す情報を送信する。
例えば、座標情報管理部16は、機器11に対して、下方向キーが操作された場合のカーソル40の表示位置と、右方向キーが操作された場合のカーソル40の表示位置とを、それぞれ問い合わせる。機器11は、例えばウィンドウ画像11B、11C、11Dおよび11Eのそれぞれに付与された優先順位と、画面14内の位置に応じた優先度とに基づき、下方向キーが操作された場合には、ウィンドウ画像11Eの位置にカーソル40が表示され、右方向キーが操作された場合には、ウィンドウ画像11Bの位置にカーソル40が表示されるようにし、その旨を示す情報を、座標情報管理部16に対して送信する。なお、これに限らず、機器11において最初にカーソル40が表示されるウィンドウ画像を予め決めておいてもよい。座標情報管理部16は、機器11から送信されたこの情報に基づき、カーソル40の表示位置を決め、当該表示位置を示す情報を、機器10に対して送信する。
なお、上述では、例えばリモートコントロールコマンダ35のキー操作により、カーソル40が表示領域間で移動され、表示領域の構成や、各表示領域内に表示される部分画像やウィンドウ画像の構成は、変化していないが、これはこの例に限定されない。例えば、リモートコントロールコマンダ35のキー操作により、画面14に表示される全てのウィンドウ画像や部分画像を対象に、再配置を行うことも考えられる。
一例として、図21Aに例示されるように、表示領域17Aに表示される機器10による部分画像10Bにカーソル40が表示されているときに、例えば表示領域17Bに表示される機器11によるウィンドウ画像11Bにカーソル40を移動させるようにリモートコントロールコマンダ35の右方向キーを操作する場合を考える。座標情報管理部16は、キー操作後、図21Bに一例が示されるように、表示領域17Aを画面14の右下の領域とし、他の領域を表示領域17Bとして、その旨を機器10および機器11に送信する。
機器10は、座標情報管理部16から送信された情報に基づき、新たな表示領域17Aに部分画像10Bが配置されるように、出力画像10Aに対する画像加工などの処理を行う。同様に、機器11は、座標情報管理部16から送信された情報に基づき、新たな表示領域17Bに対し、カーソル40の移動先であるウィンドウ画像11Bが画面14内において最も優先度の高い左上に配置され、他のウィンドウ画像11C、11Dおよび11Eが例えばそれぞれ画面14の右上、左下、中下に配置されるように、出力画像11Aに対する画像加工などの処理を行う。
なお、上述では、カーソル40の移動に伴う画像処理について説明したが、これはこの例に限定されない。例えば、カーソル40の移動に伴い、音声の切り換えを行うことができる。一例として、合成部15に対して、複数の音声信号を入力可能とし、これら入力された複数の音声信号を切り換える音声切り換え手段を設ける(図示しない)。機器10から出力される音声信号(音声Aとする)と、機器11から出力される音声信号(音声Bとする)を、それぞれ合成部15に供給し、音声切り換え手段の対応する選択入力端に入力する。音声切り換え手段を、カーソル40が表示される表示領域に対応して選択入力端が切り換えられるようにする。
また、カーソル40やガイド41を表示するための画像は、これに限らず、機器10および機器11のうち画像の描画能力が高い方で行うことも考えられる。例えば、機器10および機器11は、座標情報管理部16による識別処理が行われる際に、機器の描画能力を示す情報を座標情報管理部16に対して送信する。座標情報管理部16は、この情報に基づき機器10および機器11のうち何方でカーソル40やガイド41を表示するための画像を描画するかを判断し、判断結果を機器10および機器11に送信する。
1−1−6.テンプレートパターンについて
画面14に対して複数の機器による出力画像を同時に表示させるための複数の表示領域を、表示領域の配置パターンを予め設定したテンプレートを利用して決めることができる。例えば、座標情報管理部16において、画面14に対する表示領域を示すテンプレートが複数、ROM31に予め記憶されている。座標情報管理部16は、接続された機器数、接続された機器の種類などに応じて自動的に、また、ユーザ操作に応じて、ROM31に記憶されている複数のテンプレートから適当なテンプレートを選択して読み出す。座標情報管理部16は、読み出されたテンプレートに基づき、接続された機器のそれぞれに対して表示領域を示す情報を送信する。
図22および図23を用いて、テンプレートの例について説明する。図22は、テンプレートの基本的な例を示す。図22Aは、画面14に対して2の表示領域17Aおよび17Bを設定した一例のテンプレートである。この図22Aの例では、画面14を中央で垂直方向に2分割して左側を表示領域17A、右側を表示領域17Bとしており、例えば上述した画面14内における優先度に従い、表示領域17Aの優先度が表示領域17Bの優先度よりも高く設定されている。
また、図22Bは、画面14に対して3の表示領域(表示領域17A、17Bおよび17C)を設定した例、図22Cは、4の表示領域(表示領域17A、17B、17Cおよび17D)を設定した例である。図22Bの例では、画面14を中央で垂直方向に2分割した右側の領域をさらに水平方向に2分割し、左側の表示領域17Aを最も優先度が高く設定し、右上側の表示領域17Bを次の優先度、右下側の表示領域17Cを最も低い優先度に設定している。図22Cの例では、画面14を垂直方向および水平方向にそれぞれ2分割し、左上の表示領域17Aを最も優先度が高く設定し、左下の表示領域17B、右上の表示領域17C、右下の表示領域17Dの順に優先度を下げている。
座標情報管理部16は、機器10や機器11からの表示希望座標情報に基づき、テンプレートで設定された表示領域を示す座標情報を、機器10や機器11に送信する。どの表示領域をどの機器に割り当てるかを決める方法は、状況に応じて様々に考えられる。
例えば、機器毎に要求される表示領域のそれぞれと、テンプレートに設定される表示領域それぞれの位置関係とに基づき、機器毎の表示領域を設定する方法が考えられる。
一例として、機器10と機器11とがそれぞれ1の表示領域を要求していれば、座標情報管理部16は、図22Aに示す、画面14に対して2の表示領域を設定したテンプレートを用い、機器10および機器11のうちより左側の座標を示す表示領域を要求している機器に対して、表示領域17Aを割り当て、他方の機器に対して表示領域17Bを割り当てる。また、この2の表示領域を設定したテンプレートを用いる場合において、機器10および機器11により要求される表示領域について、左右を判断するのが難しい場合も有り得る。このような場合、例えば機器10、機器11の接続順や電源投入順に優先度の高い表示領域を割り当てる方法が考えられる。
機器10や機器11そのものに対して優先順位を設けるようにもできる。座標情報管理部16は、機器10および機器11を識別する際に、機器10および機器11に対して予め設定された優先順位の情報を取得する。若しくは、座標情報管理部16は、機器10および機器11を識別する際に機器10および機器11の種類を示す情報を取得し、この情報に基づきこれらの機器の優先順位を決める。
さらに、1の機器から複数の表示領域を要求される場合も考えられる。例えば、機器が複数のウィンドウ画像を用いて表示を行い、これら複数のウィンドウ画像のうち2以上のウィンドウ画像を表示させたい場合が考えられる。
一例として、機器10が1の画像を画面14に表示させ、機器11が3のウィンドウ画像を画面14に表示させたい場合について考える。座標情報管理部16は、機器10および機器11と通信を行い、画面14に対して表示を希望する画像数と、それぞれの画像について表示希望座標情報とを取得する。例えば機器10は、画面14の中央付近に1の画像を表示させたい旨の表示希望座標情報を送信し、機器11は、画面14の上側に第1のウィンドウ画像を、下側の左側に第2のウィンドウ画像を、また、下側の右側に第3のウィンドウ画像を表示させたい旨の表示希望座標情報を送信したものとする。この場合、座標情報管理部16は、図22Cに示す、画面14に対して4の表示領域を設定したテンプレートを用い、機器11の第1のウィンドウ画像に対して表示領域17Bを割り当て、第2および第3のウィンドウ画像に対してそれぞれ表示領域17Cおよび17Dを割り当てる。また、機器10の画像に対して表示領域17Aを割り当てる。
これに限らず、さらにウィンドウ画像毎の優先順位を用いて、表示領域の割り当てを行うこともできる。例えば、座標情報管理部16は、機器10および機器11と通信を行い、それぞれの機器において表示を行いたい画像それぞれの表示希望座標情報と、画像毎の優先順位とを取得する。また、座標情報管理部16は、機器10および機器11間の優先順位を、例えば接続順や電源投入順、機器10および機器11そのものの優先順位を示す情報などに基づき設定する。座標情報管理部16は、先に、優先順位がより高く設定された機器に対して、出力画像毎の優先順位と表示領域毎に設定された優先度とに基づき、出力画像毎に表示領域を割り当て、次に、優先順位が低く設定された機器の出力画像に対して表示領域を割り当てることが考えられる。
さらに、表示領域に対して予め特定の機器を指定しておくことも考えられる。図23は、表示領域のそれぞれに対して予め機器を指定したテンプレートの例を示す。図23Aは、画面14に対して2の表示領域17Aおよび17Bを設定した例、図23Bは、画面14に対して3の表示領域17A、17Bおよび17Cを設定した例である。また、図23Cおよび図23Dは、それぞれ、画面14に対して4の表示領域17A、17B、17Cおよび17Dを設定した例である。
この図23の例では、表示領域17A、17B、17Cおよび17Dのそれぞれに対して、予め、機器10および/または機器11(それぞれ図23では機器A、機器Bと記す)が定義付けられている。また、表示領域の優先度は、機器毎に設定されている。例えば図23Cの例では、画面14において左側の表示領域17Aおよび17Bに対して機器10が定義付けられ、左上側の表示領域17Aが左下側の表示領域17Bより優先度を高くされている。一方、画面14において右側の表示領域17Cおよび17Dに対して機器11が定義付けられ、右上側の表示領域17Cが右下側の表示領域17Dより優先度を高くされている。機器において画像毎に付与された優先順位に応じて、対応する優先度の表示領域を割り当てることができる。
このような、機器情報を有するテンプレートを用いる場合、座標情報管理部16は、接続された機器を特定するための情報を何らかの方法で取得する必要がある。例えば、機器10や機器11が予め自身を特定する機器特定情報を例えばROM21などに有し、座標情報管理部16と機器10や機器11との間で例えば識別などのために通信を行った際に、機器10や機器11から座標情報管理部16に対して、機器特定情報を送信することが考えられる。これに限らず、表示領域と接続端子とを対応付けることも考えられる。
座標情報管理部16は、機器が接続されると、接続された機器と通信を行い機器特定情報を取得すると共に、表示希望座標情報を取得する。座標情報管理部16は、取得された機器特定情報と表示希望座標情報とに基づき適用するテンプレートを例えばROM31から読み出し、接続された機器に対してテンプレートに従い表示領域を割り当てる。
なお、テンプレートを用いた表示領域の設定方法は、上述の方法に限られるものではない。例えば、機器側で再生されるコンテンツの種類などに応じて表示領域を対応付けたテンプレートも考えられる。一例として、コンテンツデータに所定の制御情報を予め挿入しておく。制御情報は、テンプレートによる表示領域選択に専用的に定義されたものでもよいし、単にコンテンツの種類を示すような情報でもよい。機器側では、コンテンツを再生する際に、当該コンテンツに挿入されたこの制御情報を検出し、座標情報管理部16に送信する。座標情報管理部16は、テンプレートに基づき制御情報に対応する表示領域を、当該コンテンツに割り当てる。
なお、使用するテンプレートは、ユーザ操作やコンテンツの切り換えなどに応じて切り換えることができる。同様に、テンプレートに従い配置される画像(コンテンツ)も、ユーザやコンテンツの切り換えなどに応じて変更することができる。図24は、この、テンプレートやコンテンツの変更パターンの例を示す。
ユーザ操作に応じて使用するテンプレートを切り換える場合、図24Aに例示されるように、切り換えられたテンプレートに合わせて表示中の画像(コンテンツ)を並び替える場合(第1の例)と、切り換えられたテンプレートに合わせて、表示されているコンテンツそのものを切り換える場合(第2の例)とが考えられる。一方、図24Bに例示されるように、コンテンツの切り換えの発生に応じて、テンプレートは固定的に用いて、表示領域に表示される画像を並び替える場合(第3の例)と、切り換えられたコンテンツに合わせてテンプレートを切り換えて表示を行う場合(第4の例)とが考えられる。
図25を用いて、図24Aに示す第1の例である、切り換えられたテンプレートに合わせて表示中の画像を並び替える例について説明する。先ず、図25Aおよび図25Bに例示される、テンプレート50およびテンプレート51を考える。テンプレート50は、図25Aに示されるように、画面14の左側が表示領域17A、右側が表示領域17Bとされている。一方、テンプレート51は、図25Bに示されるように、上側が表示領域17A、下側が表示領域17Bとされている。また、表示領域17Aに対して機器10の出力画像が表示され、表示領域17Bに対して機器11の出力画像が表示されるものとする。
テンプレート50を用いているときには、図25Bの左側に例示されるように、表示領域17Aに対して、機器10からの部分画像10B、10Cおよび10Dが表示され、表示領域17Bに対して、機器11からの部分画像11Bおよび11Cが表示されているものとする。例えば、ユーザがリモートコントロールコマンダ35を操作し、用いるテンプレートをテンプレート50からテンプレート51に切り換えると、図25Bの右側に例示されるように、表示領域17Aに対して部分画像10Bおよび10Cが表示され、変更前のテンプレート50の使用時に表示されていた部分画像10Dが消去されると共に、表示領域17Bに対して部分画像11Bおよび11Cが表示され、さらに、部分画像11Dが新たに追加されて表示される。
このように、切り換えられたテンプレートに合わせて表示中の画像を並び替える制御は、次のようにして可能である。例えば、座標情報管理部16は、切り換えられたテンプレートに定義される表示領域情報を機器10および機器11に送信する。例えば機器10側では、送信された表示領域情報に基づき当該表示領域内に部分画像10B、10C、・・・が所定に表示されるように、出力画像10Aにおける部分画像10B、10C、・・・に対して拡大縮小といったサイズ変更、移動などの加工処理を行う。これに限らず、座標情報管理部16から機器10および機器11に対して、使用するテンプレートを示す情報をさらに送信することも考えられる。これにより、機器10および機器11側では、より柔軟に部分画像の加工処理を行うことが可能となる。
図24Aに示す第2の例である、切り換えられたテンプレートに合わせて表示されているコンテンツそのものを切り換える場合について、図26を用いて説明する。先ず、図26Aおよび図26Bに例示されるテンプレート52および53を考える。テンプレート52は、図26Aに示されるように、画面14の左上側の領域が表示領域17A、その他の逆L字型の領域が表示領域17Bとされている。一方、テンプレート53は、図26Bに示されるように、左側が表示領域17A、右側が表示領域17Bとされている。
ここで、表示領域17Aは、機器10から出力された画像を表示する領域とされ、表示領域17Bは、機器11から出力された画像を表示する領域とされているものとする。また、機器10は、ディジタルテレビジョン放送に対応したチューナであり、機器11は、家庭用ゲーム機器であって、機器11は、ゲーム画面と、機器11自身の設定などを行うメニュー画面とを表示可能とされている。
テンプレート52を用いているときには、図26Cの左側に例示されるように、表示領域17Aに対して機器10から出力されたテレビジョン放送による画像10Bが表示され、表示領域17Bに対して機器11から出力された、複数のウィンドウ画像11B、11C、11Dおよび11Eからなるゲーム画面が表示される。
ユーザ操作などにより、使用するテンプレートをテンプレート52からテンプレート53に切り換えると、表示領域17Bの表示がゲーム画面による複数のウィンドウ画像11B、11C、11Dおよび11Eの画面から、メニュー画面の画像11Fに切り替わる。この制御は、例えば座標情報管理部16が有するテンプレートに対応する情報を、機器10や機器11側で持つことで可能である。上述の例では、テンプレートが切り換えられた際に、座標情報管理部16は、機器11に対して表示領域17Bを示す情報と共に、使用するテンプレート53を示す情報を送信する。機器10側では、送信されたテンプレート53を示す情報に基づき、再生するコンテンツを切り換えると共に、切り換えられたコンテンツにより表示される画像に対し、切り換えられたテンプレート53における表示領域17Bに当該画像が所定に表示されるように、加工や移動処理を施す。
図24Bに示す第3の例である、コンテンツの切り換えの発生に応じて、テンプレートは固定的に用い、表示領域に表示される画像を並べ替える場合について、図27を用いて説明する。例えば、図27Aに例示されるような、左側が機器10からの出力画像を表示する表示領域17A、右側が機器11からの出力画像を表示する表示領域17Bとされたテンプレート54を考える。当初、表示領域17Aには、機器10からの部分画像10Bが表示され、表示領域17Bには、機器11からの部分画像11Bが表示されているものとする。
この状態で、機器11で再生されているコンテンツが切り替わると、機器11において、切り換えられたコンテンツによる画像が、現在使用中のテンプレート54の表示領域17Bに収まるように、所定に加工や移動処理が施される(図27B参照)。図27Bの例では、機器11において切り換えられたコンテンツは、複数のウィンドウ画像11C、11D、11Eおよび11Fを表示する。機器11は、これらウィンドウ画像11C、11D、11Eおよび11Fに対して所定に画像加工や移動処理を施し、表示領域17Bに収まるようにする。
なお、この場合には、機器11で再生されるコンテンツの切り換えは、リモートコントロールコマンダ35を用いて座標情報管理部16から行ってもよいし、機器11の操作部から直接的に行ってもよい。
図24Bに示す第4の例である、コンテンツの切り換えの発生に応じてテンプレートを切り換える場合について、図28を用いて説明する。当初、座標情報管理部16において、図28Aに例示される、左側が機器10の画像を表示する表示領域17A、右側が機器11の画像を表示する表示領域17Bとされたテンプレート55が用いられているものとする。図28Bに示されるように、機器10からの部分画像10Bが表示領域17Aに表示され、機器11からの部分画像11Bが表示領域17Bに表示される。機器11による部分画像11Bは、例えば図28Cに斜線を付して示されるように、機器11による出力画像11Aの全体を用いた画像であるものとする。
この状態から、機器11において再生されるコンテンツが切り換えられ、出力画像11Aが、例えば図28Dに一例が示されるような、複数のウィンドウ画像11C、11D、11E、11Fおよび11Gを用いた画像に変更されたものとする。機器11におけるコンテンツの切り換え指示が機器11の操作部に対する操作によりなされた場合には、機器11から座標情報管理部16に対して、この指示によって切り換えられたコンテンツを示す情報が送信される。また、リモートコントロールコマンダ35に対する操作により機器11のコンテンツの切り換えが指示された場合には、リモートコントロールコマンダ35から座標情報管理部16を介して機器11に対してコンテンツ切り換え指示が送信され、機器11から座標情報管理部16に対して、切り換えられたコンテンツを示す情報が送信される。
コンテンツを示す情報は、様々に考えられるが、例えばコンテンツによるテンプレート切り換えを行うために専用的に定義された情報でもよいし、単にコンテンツの種類を示す情報を用いてもよい。
座標情報管理部16は、機器11から送信された情報に基づき、ROM31に記憶されているテンプレートから、切り換えられたコンテンツに対応するテンプレートを選択する。この例では、図28Eに一例が示されるような、画面14の右下が表示領域17Aとされ、残りの領域が表示領域17Bとされたテンプレート56が選択されている。選択されたテンプレート56における表示領域17Bを示す情報が座標情報管理部16から機器11に対して送信される。機器11では、この送信された表示領域17Bを示す情報に基づき、画面14に表示するウィンドウ画像11C、11D、11E、11Fおよび11Gに対して所定に加工や移動処理を施して、これらウィンドウ画像11C、11D、11E、11Fおよび11Gが表示領域17Bに収まるようにする。
なお、図24、ならびに、図25〜図28を用いて説明した各例による表示制御は、図22を用いて説明した、表示領域毎に優先度が定義されている場合に適用可能なことは勿論、図23を用いて説明した、表示領域毎に優先度および機器が定義されている場合に対しても、同様に適用可能である。
1−2.この発明の実施の第1の形態の第1の変形例について
次に、この発明の実施の第1の形態の第1の変形例について説明する。上述の実施の第1の形態では、画面14における機器毎の表示領域を管理する座標情報管理部16が、画像出力を行う機器とは別途に存在していた。この実施の第1の形態の第1の変形例では、座標情報管理部16を画像出力を行う機器に内蔵させる。以下では、機器10に座標情報管理部16を内蔵させるものとして説明を行う。
1−2−1.実施の第1の形態の第1の変形例によるシステム構成について
図29は、この実施の第1の形態の第1の変形例による、座標情報管理部16’が内蔵された機器10’の一例の構成を示す。なお、図29において、上述した図3と共通する部分には同一の符号を付し、詳細な説明を省略する。機器10’に内蔵される座標情報管理部16’は、例えば座標制御部60およびROM61を有すると共に、通信I/F62A、62B、・・・を有し、機器10’のCPU20にその動作を制御される。座標制御部60は、CPUであってもよいし、所定の回路で構成されていてもよい。これに限らず、座標制御部60は、CPU20上で動作するプログラムであってもよい。
ROM61は、例えば上述したテンプレートを複数、予め記憶している。座標制御部60がCPUで構成されるときは、ROM61にプログラムデータが予め格納され、座標制御部60は、ROM61に格納されたプログラムデータに従い、図示されないRAMをワークメモリとして用いて表示領域の管理を行う。座標制御部60がCPU20上で動作するプログラムにより構成されるときは、ROM61としてROM21が用いられる。通信I/F62A、62B、・・・は、画面14に表示を行うための画像を出力する他の機器が有する通信I/Fに対応し、所定のプロトコルに従い、この機器の通信I/Fとの間で通信を行うことができる。
なお、機器10’と機器11とは、図30に例示されるように、所定のケーブルを用いて直接的に接続することができる。この場合、例えば通信I/F62Aと機器11の通信I/F23とがそれぞれIEEE1394などの、機器間の接続を可能とする汎用的な通信規格に対応したものとすることが考えられる。また、これに限らず、出力画像を合成部15に供給するために用いるHDMIケーブルを介して、機器10’および機器11の間で通信を行うようにもできる。この場合には、図示は省略するが、合成部15に所定の通信制御部を設け、機器10’および機器11間の通信を、この合成部15に設けられた通信制御部を介して行う必要がある。
また、機器10’において、赤外線信号を受信するIR I/F70を設け、リモートコントロールコマンダ35からの指示を受信可能とすることができる。ユーザ操作に応じてリモートコントロールコマンダ35から送信された赤外線信号は、IR I/F70に受信され、所定の制御信号に変換されてCPU20に渡される。CPU20は、この制御信号に基づき機器10’の各部を制御する。また、CPU20は、リモートコントロールコマンダ35から送信された信号に応じて、所定の制御信号を通信I/F62A、62B、・・・を介して他の機器に送信することができる。
すなわち、機器10’は、機器10’に対応したリモートコントロールコマンダ35を用いて、機器10’に接続された例えば機器11の動作を制御することが可能である。勿論、機器10’に設けられた操作部に対する操作によって、接続された他の機器11を制御するようにもできる。機器10’は、このように、通信I/F62A、62B、・・・により接続された他の機器のホスト機器として動作可能とされる。
リモートコントロールコマンダ35による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
図30は、この実施の第1の形態の第1の変形例による、座標情報管理部16’が内蔵された機器10’を用いた場合の一例のシステム構成を示す。なお、図30において、上述の図2と共通する部分には同一の符号を付し、詳細な説明を省略する。
図30において、機器10’および機器11から出力された出力画像は、それぞれ合成部15に供給される。合成部15は、機器10’から供給された出力画像と機器11から供給された出力画像とを所定に合成し、1の画像として図示されない表示装置に供給し、1の画面14として表示させる。また、機器10’と機器11は、例えば機器10’側の通信I/F62Aと機器11側の通信I/F23とが、IEEE1394の規格に対応したケーブルで直接的に接続されているものとする。機器10’と機器11との間で、通信I/F62Aおよび通信I/F23によりIEEE1394の規格に従ったプロトコルで通信がなされ、例えば機器10’に機器11が識別される。
1−2−2.実施の第1の形態の第1の変形例による動作について
次に、この実施の第1の形態の第1の変形例による動作について、概略的に説明する。機器11から機器10’に対して、表示希望座標情報が送信される。表示希望座標情報は、機器10’において、通信I/F62Aにより受信され、座標制御部60に渡される。一方、機器10’において、出力画像に関する表示希望座標情報がCPU20から座標制御部60に対して渡される。座標制御部60は、機器11から送信された表示希望座標情報と、機器10’自身において渡された表示希望座標情報とに基づき、機器11が画面14に出力画像を表示する際の表示領域17Bと、機器10’が画面14に出力画像を表示する際の表示領域17Aとを、互いに重ならないように、設定する。
表示領域17Aおよび17Bを設定する際にテンプレートを用いる場合は、座標制御部60は、機器10’および機器11それぞれの表示希望座標情報に基づき、ROM61に格納されているテンプレートから適当なものを選択する。座標制御部60は、選択されROM61から読み出されたテンプレートに基づき表示領域17Aおよび17Bを設定し、表示領域17Aを示す座標情報をCPU20に渡すと共に、表示領域17Bを示す座標情報を通信I/F62Aに渡し、通信I/F62Aから機器11に対して送信する。
機器10’は、画像生成部24で生成された画像に対して、表示領域17Aを示す座標情報やテンプレートの情報などに基づくCPU20の制御に従い画像処理部25で所定に加工を施し、出力画像を得る。同様に、機器11は、機器10’から送信された、表示領域17Bを示す座標情報やテンプレートの情報などを通信I/F23で受信し、受信されたこれらの情報に基づき所定に画像を加工および移動処理し、出力画像を得る。機器10’の出力画像と機器11の出力画像が合成部15で所定に合成され、画面14に表示するための1枚の画像とされる。機器10’および/または機器11において、画像処理部25を省略し、画像生成部24で予め所定サイズおよび所定位置に部分画像が配置された画像を生成してもよい。
なお、この実施の第1の形態の第1の変形例においても、画面14に表示するための画像の加工や移動処理は、上述した実施の第1の形態で説明した方法を同様に適用することができる。複数機器から出力された出力画像の合成方法も、機器毎にプレーンを用意して合成する方法や、1のプレーンのみを用いて画像を合成する方法など、上述した実施の第1の形態で説明した方法をそのまま適用することができる。
ウィンドウ制御やテンプレートの使用についても、実施の第1の形態で説明した方法を、同様に、この実施の第1の形態の第1の変形例に適用することができる。なお、この実施の第1の形態の第1の変形例では、ホスト機器として動作する機器10’側の優先順位が、機器10’に接続される他の機器に対して常に高くなるように設定できる。
さらに、カーソル制御についても、実施の第1の形態で説明した方法を、同様に、この実施の第1の形態の第1の変形例に適用することができる。なお、カーソル40を移動させるための指示は、機器10’においてCPU20から画像処理部25に渡されると共に、CPU20から座標制御部60に渡されて、通信I/F62A、62B、・・・から、機器10’に接続される他の機器に対して送信される。フォーカスの移動先を示すガイド41は、例えば機器10’においてCPU20の制御に基づき画像生成部24で生成し、画像処理部25において機器10’の出力画像と合成して出力することが考えられる。
この実施の第1の形態の第1の変形例においても、上述の実施の第1の形態と同様に、カーソル40やガイド41を表示するための画像を機器10’および機器11のうち何方で描画するかを、機器10’および機器11の描画能力に基づき判断することができる。また、CPU20に制御に基づき、画像生成部24が、表示すべき部分画像が予め所定サイズ、所定位置となるように、出力画像を生成するようにしてもよい。この場合には、画像処理部25を省略することができる。
上述のウィンドウ制御やテンプレートの使用、カーソル制御は、機器10’が稼働状態にあれば、機器10’がコンテンツの再生に伴う画像出力を行っているか否かに関わらず、実行させることが可能とされる。
さらにまた、この実施の第1の形態の第1の変形例においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第1の形態と同様にして行うことができる。
1−3.この発明の実施の第1の形態の第2の変形例について
次に、この発明の実施の第1の形態の第2の変形例について説明する。この実施の第1の形態の第2の変形例では、上述の実施の第1の形態の第1の変形例と同様に、画面14における機器毎の表示領域を管理する座標情報管理部16を、画像出力を行う機器に内蔵させると共に、複数の機器からの出力画像を合成するための合成部15を、座標情報管理部16が内蔵された機器にさらに内蔵させる。以下では、機器10に座標情報管理部16と合成部15とを内蔵させるものとして説明する。
1−3−1.実施の第1の形態の第2の変形例によるシステム構成について
図31は、この実施の第1の形態の第2の変形例による、座標情報管理部16’と合成部15’とが内蔵された機器10”の一例の構成を示す。なお、図31において、上述した図3および図29と共通する部分には同一の符号を付し、詳細な説明を省略する。機器10”に内蔵される合成部15’は、機器10”自身の画像処理部25から出力される画像が入力されると共に、複数の入力端子63A、63B、・・・に対して他の機器からの出力画像が入力される。
合成部15’は、図9や図10を用いて説明したのと同様にして、画像処理部25や、入力端子63A、63B、・・・から入力された画像の合成を行う。例えば、合成部15’は、画像処理部25からの画像入力と、入力端子63A、63B・・・からの画像入力とにそれぞれ対応するプレーンを持ち、画像処理部25から入力された画像と、入力端子63A、63B、・・・から入力された画像をそれぞれ対応するプレーンに格納して、プレーンを合成することで1の画像を形成することができる。これに限らず、合成部15’は、1のプレーンを用いて複数の画像を合成して1の画像を形成することもできる。合成部15’で合成された画像は、出力端子27から出力され、例えば表示装置に供給され画面14に表示される。
図32は、この実施の第1の形態の第2の変形例による、座標情報管理部16および合成部15が内蔵された機器10”を用いた場合の一例のシステム構成を示す。なお、この図32において、上述の図2および図30と共通する部分には同一の符号を付し、詳細な説明を省略する。
図32において、機器11から出力された出力画像が機器10”に入力され、例えば端子63Aから合成部15’に供給される。また、機器10”と機器11との間で、データ通信が可能とされている。例えば、機器11の出力画像をHDMIケーブルを用いて機器10”に供給する場合、このHDMIケーブルによるデータ通信機能を用いることができる。これに限らず、機器10”と機器11とを、IEEE1394規格に対応したケーブルで接続してもよい。機器11から出力された出力画像は、合成部15’で機器10”の画像処理部25からの出力画像と合成され、1の画面14を表示するための画像として出力される。機器10’と機器11との間で、通信I/F62Aおよび通信I/F23により所定のプロトコルで通信がなされ、例えば機器10’に機器11が識別される。
1−3−2.実施の第1の形態の第2の変形例による動作について
次に、この実施の第1の形態の第2の変形例による動作について、概略的に説明する。機器11から機器10”に対して、表示希望座標情報が送信される。表示希望座標情報は、機器10”において、通信I/F62Aにより受信され、座標制御部60に供給される。一方、機器10”において、出力画像に関する表示希望座標情報がCPU20から座標制御部60に対して供給される。座標制御部60は、機器11から送信された表示希望座標情報と、機器10”のCPU20に供給された表示希望座標情報とに基づき、機器11が画面14に出力画像を表示する際の表示領域17Bと、機器10”が画面14に出力画像を表示する際の表示領域17Aとを、互いに重ならないように、設定する。
表示領域17Aおよび17Bを設定する際にテンプレートを用いる場合は、座標制御部60は、機器10”および機器11それぞれの表示希望座標情報に基づき、ROM61に格納されているテンプレートから適当なものを選択する。座標制御部60は、選択されROM61から読み出されたテンプレートに基づき表示領域17Aおよび17Bを設定し、表示領域17Aを示す座標情報をCPU20に渡すと共に、表示領域17Bを示す座標情報を通信I/F62Aに渡し、通信I/F62Aから機器11に対して送信する。
機器10”は、画像生成部24で生成された画像に対して、表示領域17Aを示す座標情報やテンプレートの情報などに基づくCPU20の制御に従い画像処理部25で所定に加工を施し、出力画像を得る。この出力画像は、合成部15’に供給される。一方、機器11は、機器10”から送信された、表示領域17Bを示す座標情報やテンプレートの情報などを通信I/F23で受信し、受信されたこれらの情報に基づき所定に画像を加工および移動処理し、出力画像を得る。機器11の出力画像が機器10”の例えば入力端子63Aに入力され、合成部15’に供給される。
合成部15’は、機器10”の画像処理部25から供給された画像と、機器11から入力端子63Aを介して供給された画像とを所定に合成し、画面14に表示するための1枚の画像を形成する。この画像は、出力端子27から出力される。
なお、この実施の第1の形態の第2の変形例においても、画面14に表示するための画像の加工や移動処理は、上述の実施の第1の形態の第1の変形例と同様、上述した実施の第1の形態で説明した方法を適用することができる。合成部15’による、複数機器から出力された出力画像の合成方法も、機器毎にプレーンを用意して合成する方法や、1のプレーンのみを用いて画像を合成する方法など、上述した実施の第1の形態で説明した方法をそのまま適用することができる。
ウィンドウ制御やテンプレートの使用についても、上述の実施の第1の形態の第1の変形例と同様、実施の第1の形態で説明した方法をこの実施の第1の形態の第2の変形例に適用することができる。機器毎の優先順に関しても、上述の実施の第1の形態の第1の変形例と同様、ホスト機器として動作する機器10”側の優先順位が、機器10”に接続される他の機器に対して常に高くなるように設定できる。
さらに、カーソル制御についても、上述の実施の第1の形態の第1の変形例と同様、実施の第1の形態で説明した方法をこの実施の第1の形態の第2の変形例に適用することができる。また、この実施の第1の形態の第2の変形例においても、上述の実施の第1の形態と同様に、カーソル40やガイド41を表示するための画像を機器10”および機器11のうち何方で描画するかを、機器10”および機器11の描画能力に基づき判断することができる。また、CPU20に制御に基づき、画像生成部24が、表示すべき部分画像が予め所定サイズ、所定位置となるように、出力画像を生成するようにしてもよい。この場合には、画像処理部25を省略することができる。
上述のウィンドウ制御やテンプレートの使用、カーソル制御は、機器10”が稼働状態にあれば、機器10”がコンテンツの再生に伴う画像出力を行っているか否かに関わらず、実行させることが可能とされる。
さらにまた、この実施の第1の形態の第2の変形例においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第1の形態と同様にして行うことができる。この実施の第1の形態の第2の変形例では、音声切り換え手段が機器10”に対して設けられることになる。
2.この発明の実施の第2の形態(第2の調停方式)について
次に、この発明の実施の第2の形態について説明する。この実施の第2の形態は、上述の実施の第1の形態による第1の調停方式に対する第2の調停方式であり、機器毎の表示領域を管理する座標情報管理部を設け、この座標情報管理部が画像出力を行う複数の機器に対して、それぞれの機器に設定された表示領域を示す情報を通知する。表示領域情報が通知された機器は、通知された表示領域に相応しい画像を生成し、出力する。座標情報管理部は、各機器から出力された画像に基づきそれぞれの画像の空き領域を管理し、空き領域に基づき互いに表示する部分画像が互いに重ならないように、各部分画像の表示領域を変更するような処理、例えば拡大縮小や移動といった加工処理を施され、画面に表示するための1の画像が形成される。
2−1−1.実施の第2の形態によるシステム構成
図33は、この発明の実施の第2の形態によるシステムの一例の構成を概略的に示す。なお、図33において、画面104は、上述した図1の画面14に対応する。このシステムにおいては、画面104の表示領域を管理すると共に、画面104に表示する画像に対し、表示領域に応じて拡大、縮小といったサイズ変更や、移動などの加工処理、ならびに、複数の画像を1の画像に合成する合成処理を行うようにした、座標情報管理・画像加工合成部102が設けられる。すなわち、座標情報管理・画像加工合成部102は、画面104に表示される各画像の情報を管理することになる。
画像を出力する機器100、101、・・・から出力された画像は、座標情報管理・画像加工合成部102で、表示すべき部分画像が互いに重ならないように加工され、1の画像に合成されて出力される。座標情報管理・画像加工合成部102から出力された画像は、例えば図示されない表示装置に供給され、画面104に表示される。
座標情報管理・画像加工合成部102と、画面104に対して画像の表示を行う機器100、機器101は、それぞれ通信手段を有し、座標情報管理・画像加工合成部102と、画面104に対して画像の表示を行う機器それぞれとの間で通信を行うことができるようにされている。座標情報管理・画像加工合成部102は、例えば機器100および機器101と通信を行うことにより、機器100および機器101が画面104内で表示を行う表示領域を決める。
表示領域を示す情報は、例えば座標情報103として座標情報管理・画像加工合成部102に保持される。図33の例では、画面104において機器100の出力画像を表示する表示領域105Aに対応する座標情報103Aと、機器101の出力画像を表示する表示領域105Bに対応する座標情報103Bとが、座標情報103として座標情報管理・画像加工合成部102に保持される。
機器100および機器101は、座標情報管理・画像加工合成部102から送信された表示領域を示す情報に基づき、当該表示領域に表示するための画像を生成し、出力する。このとき、機器100や機器101は、設定された表示領域に表示させるのに相応しい画像を出力するように、それぞれ制御する。
座標情報管理・画像加工合成部102は、例えば画面104を表示するための表示装置に内蔵される。座標情報管理・画像加工合成部102を独立した装置として構成し、表示装置に接続して用いることも考えられる。また、後述するように、座標情報管理・画像加工合成部102を、画面104に表示する画像を出力する機器100などに内蔵させることもできる。
図34は、画面104に画像を表示させるための機器100(または機器101)の一例の構成を示す。機器100は、画像を出力する手段と、座標情報管理・画像加工合成部102と通信可能な通信手段と、通信手段で得られた情報に基づき出力画像を所定に制御する手段とを有していればよく、例えば図34に概略的に示されるように、CPU110、通信I/F113および画像生成部114を備えた構成とされる。
すなわち、この実施の第2の形態では、表示領域に基づく画像の加工や移動は、座標情報管理・画像加工合成部102において行われ、画像を出力する機器側では行わない。そのため、画面104に画像を表示させるための機器100は、上述の実施の第1の形態による機器10(図3参照)に対し、通信より取得した情報に基づき画像を加工、移動する画像処理部25を省いた構成とされる。
CPU110に対して、ROM111およびRAM112が接続されると共に、通信I/F113が接続される。CPU110は、ROM111に予め記憶されたプログラムなどに従い、RAM112をワークメモリとして用いてこの機器100の全体を制御する。通信I/F113は、所定のプロトコルに従い、座標情報管理・画像加工合成部102と通信を行うことができるようにされている。
画像生成部114は、上述の機器10における画像生成部24と同様に、CPU110の制御に基づき画像を生成する。生成された画像は、画像出力端115を介して外部に出力される。すなわち、画像生成部114は、DVD、Blu−ray Discなどの着脱可能なディスク状記録媒体、ハードディスク、半導体メモリといった記録媒体、ディジタルテレビジョン放送を受信可能なチューナ、所定のプログラムに基づくCG描画などを画像ソースとして画像を生成し、出力する。
CPU110は、座標情報管理・画像加工合成部102から送信され通信I/F113で受信された表示領域を示す情報に基づき、画像生成部114に対して所定の画像を出力するように命令することができる。画像生成部114は、この命令に従い、例えば、画像ソースから供給された画像を、1画面を構成する部分毎に選択して出力することができる。
図35は、座標情報管理・画像加工合成部102の一例の構成を示す。この実施の第2の形態では、座標情報管理・画像加工合成部102は、画像を出力する機器それぞれの表示領域を設定すると共に、当該機器それぞれから供給された画像に対して、設定された表示領域に基づく加工や移動処理、ならびに、複数機器から供給された画像を1の画像に合成する合成処理を行う必要がある。そのため、座標情報管理・画像加工合成部102は、上述の実施の第1の形態における座標情報管理部16(図4参照)に対して、画像処理部124が追加された構成とされる。
座標情報管理・画像加工合成部102は、図35に例示されるように、CPU120、ROM121およびRAM122と、2以上の通信I/F127A、127B、・・・を有すると共に、画像処理部124を有する。CPU120は、ROM121に予め記憶されたプログラムなどに基づき、RAM122をワークメモリとして用いて動作し、座標情報管理・画像加工合成部102の全体を制御する。
通信I/F127A、127B、・・・は、機器100、101、・・・がそれぞれ有する通信I/F113のプロトコルに対応し、CPU120の制御に基づき機器100、101、・・・とデータ通信を行うことができる。適用可能な通信I/Fは、様々に考えられるが、ここではHDMIに対応した通信I/Fを用いるものとする。これに限らず、IEEE1394規格に対応した通信I/Fを用いることもできる。また、上述の実施の第1の形態と同様に、座標情報管理・画像加工合成部102と機器100、機器101、・・・との間で通信を行う通信I/Fの種類は、機器100、機器101、・・・の全てについて同一である必要はなく、異なる通信I/Fを混在させる構成とすることも可能である。例えば、HDMIによる通信I/Fと、IEEE1394による通信I/Fとを混在させることが考えられる。
さらに、座標情報管理・画像加工合成部102に対して、赤外線信号を受信して電気信号に変換する、IR I/F123を設けることができる。IR I/F123は、対応するリモートコントロールコマンダ130からの赤外線信号を受信し、所定に電気信号に変換してCPU120に供給する。
なお、リモートコントロールコマンダ130による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
画像処理部124は、入力端125A、125B、・・・に入力された画像のそれぞれに対し、CPU120の制御に基づき所定に加工処理や移動処理を施す。さらに、画像処理部124は、加工処理や移動処理を施された複数の画像を、1の画像に合成する。合成された画像は、出力端126から外部に出力される。
2−1−2.実施の第2の形態による動作について
この発明の実施の第2の形態による一例の動作について、上述した図33を参照すると共に、図36を用いて説明する。座標情報管理・画像加工合成部102は、機器100および機器101の接続が検知されると、所定のプロトコルに従い機器100および機器101の識別処理を行う。機器の識別後、機器100および機器101は、再生されるコンテンツの情報を、座標情報管理・画像加工合成部102に対して送信する。
座標情報管理・画像加工合成部102に対して送信すべきコンテンツの情報としては、例えば、当該コンテンツにより表示される画面の構成を示す情報が考えられる。画面構成を示す情報としては、例えば、複数ウィンドウを用いるか否か、複数ウィンドウを用いる場合、何個のウィンドウを用いるか、それぞれのサイズやレイアウトを示す情報などが考えられる。これに限らず、単に当該コンテンツの種類(テレビジョン放送、ゲーム、映画、・・・など)を示す情報を送信することも考えられる。
座標情報管理・画像加工合成部102は、機器100および機器101から送信された、再生されるコンテンツの情報に基づき、機器100から出力される画像を画面104に表示する際の表示領域105Aと、機器101から出力される画像を画面104に表示する際の表示領域105Bとを決める。これに限らず、例えば機器毎に優先順位が設定されている場合に、優先順位に基づき表示領域の位置や大きさを決める方法も考えられる。表示領域105Aを示す座標情報103Aが指定表示座標情報として機器100に送信される。同様に、表示領域105Bを示す座標情報103Bが指定表示座標情報として機器101に送信される(図36参照)。
機器100または機器101では、座標情報管理・画像加工合成部102から送信された座標情報103Aまたは座標情報103Bに基づき、これら座標情報で示される表示領域に表示するのに相応しい画像を出力するように制御する。
一例として、機器100が1のメインウィンドウ画像と複数のサブウィンドウ画像からなる、複数のウィンドウ画像を用いた画面を構成し、機器100に設定された表示領域105Aが画面104内で最も優先度が高い領域(図14A参照)であれば、機器100は、メインウィンドウ画像を画面104に表示させる画像として選択して出力することが考えられる。また、これに限らず、表示領域に応じて再生するコンテンツそのものを変更することも考えられる。
図33に例示されるように、機器100は、機器100に対して設定された表示領域105Aに表示するのに相応しい画像が出力画像100Aorgであるとし、この出力画像100Aorgにおいて、画面104に表示すべき部分は、部分画像100Borgであるものとする。同様に、機器101は、機器101に対して設定された表示領域105Bに表示するのに相応しい画像が出力画像101Aorgであるとし、この出力画像101Aorgにおいて、画面104に表示すべき部分は、部分画像101Borgであるものとする。機器100および機器101は、これら出力画像100Aorgおよび出力画像101Aorgを、それぞれ座標情報管理・画像加工合成部102に供給する。
座標情報管理・画像加工合成部102は、機器100および機器101からそれぞれ供給されたこれら出力画像100Aorgおよび出力画像101Aorgに対し、出力画像100Aorgおよび出力画像101Aorgを1枚の画像に合成した際に、画面104に表示すべき部分画像100Borgおよび101Borgが互いに重ならないように、設定された表示領域105Aおよび105Bに基づき加工処理を施す。
座標情報管理・画像加工合成部102において、CPU120が画像処理部124を制御することで、機器100および機器101から供給された画像100Aorgおよび出力画像101Aorgに対する加工処理を行う。
画像処理部124では、機器100の出力画像100Aorgにおける表示すべき部分画像100Borgを加工および移動処理して部分画像100Bとし、この部分画像100Bを含む画像100Aを得る。同様に、機器101の出力画像101Aorgにおける表示すべき部分画像101Borgを加工および移動処理して部分画像101Bとし、部分画像101Bを含む画像101Aを得る。さらに、画像処理部124は、画像100Aおよび画像101Aを合成し、1枚の画像を形成する。
こうして形成された画像は、機器100による部分画像100Bと、機器101による部分画像101Bとが互いに重ならないように、それぞれ表示領域100Aおよび101Aに合わせて加工および移動処理された画像である。この画像は、図示されない表示装置に供給され、画面104として映出される。
2−1−3.実施の第2の形態による画像加工および合成処理の例について
画像処理部124における処理の方法としては、入力される画像それぞれに対応する複数のプレーンを用いて加工、合成を行う方法と、1のプレーン上で加工、合成を行う方法との2通りが考えられる。
図37は、複数プレーンを用いる場合の、画像処理部124の一例の構成を示す。画像処理部124は、例えば、入力端125A、125B、・・・にそれぞれ対応したプレーン141A、141B、・・・を有し、これらプレーン141A、141B、・・・上のデータを加算器142で加算することで、1の画像を形成する。
画像加工部140は、CPU120の制御に基づき、プレーン141A、141B、・・・上の画像データに対し、拡大、縮小といったサイズ変更や、移動などの加工処理を施す。プレーン141A、141B、・・・上の画像データに対する不透明度αの設定も、画像加工部140で行うことができる。なお、複数プレーンを合成して1の画像を形成する方法については、図9を用いて上述した方法と共通するので、繁雑さを避けるために詳細な説明を省略する。
図38は、1のプレーン上で画像の加工、合成を行う場合の、画像処理部124の一例の構成を示す。画像処理部124は、例えば、入力端125A、125B、・・・にそれぞれ対応した画像加工部150A、150B、・・・と、画像加工部150A、150B、・・・から出力された画像データを格納するプレーン151を有する。画像加工部150A、150B、・・・のそれぞれは、CPU120の制御に基づき、対応する入力端125A、125B、・・・から供給された画像データに対して、拡大、縮小といったサイズ変更や、移動といった加工処理を行う。画像加工部150A、150B、・・・で加工などを施された画像データは、それぞれプレーン151に書き込まれる。
なお、画像処理部124における拡大縮小といったサイズ変更や、移動といった加工処理は、例えば機器100や機器101から送信されるコンテンツ情報に基づきなされる。一例として、コンテンツ情報に対し、表示すべき部分画像100Borgの出力画像100Aorg内での座標情報を含める(機器100の場合)。画像処理部124は、この座標情報に基づき部分画像100Borgのクリッピングなどを行い、選択された範囲に対して拡大縮小といったサイズ変更処理、移動処理などを施す処理が考えられる。例えばクリッピングされた部分画像100Borgだけを別途、メモリに保持し、保持された部分画像100Borgをプレーン上に書き込む際に、拡大縮小といったサイズ変更、移動などの処理を行い、加工された部分画像100Bを得る。
2−1−4.実施の第2の形態によるウィンドウ制御について
この実施の第2の形態によるウィンドウ制御は、上述した実施の第1の形態におけるウィンドウ制御と同様に考えることができる。すなわち、この実施の第2の形態においても、ウィンドウ制御は、画像を出力する機器100や機器101側において、ウィンドウ画像毎の優先順位を定義し、座標情報管理・画像合成部102側において、画面104内の表示位置に対する優先度を定義する。
一方、例えば機器100は、座標情報管理・画像加工合成部102から送信された表示領域105Aを示す情報に基づき、ウィンドウ画像毎に定義された優先順位を参照して、表示領域105Aに表示するのに相応しい出力画像100Aorgを形成する。例えば機器100が複数のウィンドウ画像を用いて出力画像を構成する場合、機器100は、表示領域105Aを示す情報に基づき表示領域105Aの画枠サイズや形状、画面104内における位置などを判断し、表示領域105Aに表示すべきウィンドウ画像を選択して、表示領域105Aに対応した出力画像100Aorgを形成する。
座標情報管理・画像加工合成部102は、画面104内の表示位置に対して定義された優先度を参照しながら、機器100から供給された出力画像100Aorg内に含まれる、例えばウィンドウ画像からなる部分画像100Borgに対して加工および移動処理を施し、表示領域105Aに表示するのに適するように変更された部分画像100Bを含む画像100Aを形成する。座標情報管理・画像加工合成部102は、機器101から供給された出力画像101Aorgおよびこの出力画像101Aorgに含まれる部分画像101Borgに対しても同様の処理を行い、表示領域105Bに表示するのに適するように変更された部分画像101Bを含む画像100を形成する。座標情報管理・画像加工合成部102は、これら画像100Aおよび101Aを所定の方法で1枚の画像に合成し、画面104に表示するための画像を得る。
なお、この実施の第2の形態においても、実施の第1の形態で説明した、表示領域の決定に際してテンプレートやテーブルを用いる例は、同様にして適用することができる。このとき、座標情報管理・画像加工合成部102において使用するテンプレートが切り換えられた場合、その旨を機器100および機器101に通知することが考えられる。こうすることで、機器100や機器101側では、テンプレートの切り換えに応じた部分画像の出力の変更や、再生するコンテンツの変更などに対応することができる。
2−1−5.実施の第2の形態によるカーソル制御について
この実施の第2の形態では、上述したように、座標情報管理・画像加工合成部102において画面104に表示される全ての画像の情報を管理できる。そのため、座標情報管理・画像加工合成部102は、例えばリモートコントロールコマンダ130に対する操作に応じて、フォーカスされカーソルが表示されるウィンドウ画像を直接的に指定することができる。カーソルを表示するウィンドウ画像の情報は、対応する機器に対して送信される。当該機器側では、送信された情報に基づき指定されたウィンドウ画像に対してカーソルを表示させるような画像処理を行ったり、指定されたウィンドウ画像に応じた制御に移行することができる。
すなわち、図39に例示されるように、当初、機器100の出力画像100Aにおけるウィンドウ画像100Bにカーソルが表示されているものとする。この状態で、例えばリモートコントロールコマンダ130に対する操作(右方向指示操作とする)によりカーソルを移動させる指示がなされた場合、座標情報管理・画像加工合成部102は、現在カーソルが表示されているウィンドウ画像100Bに対応する機器に対して、カーソル表示解放の指示を送信する。
それと共に、座標情報管理・画像加工合成部102は、画面104における各ウィンドウ画像の情報に基づき、カーソルの移動先がどのウィンドウ画像であるかを判断し、カーソル移動先のウィンドウ画像に対応する機器(機器101とする)に対して、カーソル移動先のウィンドウ画像(ウィンドウ画像101Bとする)のフォーカス指示を送信する。フォーカス指示は、例えばカーソルの移動先であるウィンドウ画像101Bを示す情報としてもよいし、リモートコントロールコマンダ130の操作に応じた方向キー入力をそのまま用いることもできる。
機器101は、このフォーカス指示に応じて、指定されたウィンドウ画像101Bにフォーカスを移動させ、当該ウィンドウ画像101Bに対してカーソル170を表示させる。また、座標情報管理・画像加工合成部102は、カーソル表示の機器100および機器101の間での移動に伴い、リモートコントロールコマンダ130に対してなされた操作に基づく制御信号の送信先も、機器100および機器101の間で移動させる。カーソルの移動に伴う機器の制御の切り換えは、上述した実施の第1の形態と同様にして行うことができる。
これに限らず、この実施の第2の形態によるカーソル制御についても、上述した実施の第1の形態におけるカーソル制御と同様に考えることもできる。すなわち、座標情報管理・画像加工合成部102は、例えばリモートコントロールコマンダ130に対する操作により、カーソルを移動させる指示がなされた場合、現在カーソルが表示されている表示領域に対応する機器(機器100とする)に対してカーソル表示解放の指示を送信する。機器100は、この指示に応じてカーソル表示を解除すると共に、直前までフォーカスされカーソルが表示されていた部分画像100Bの位置およびサイズの情報を、移動元のフォーカスに関する位置およびサイズ情報として、座標情報管理・画像加工合成部102に対して送信する。
座標情報管理・画像加工合成部102は、この移動元のフォーカスに関する情報に基づき、フォーカスの移動先となる表示領域(表示領域105Bとする)を判断し、表示領域105Bに対応する機器(機器101)の情報を取得する。そして、取得されたカーソルの移動先の表示領域に対応する機器である機器101に対して、移動元のフォーカスに関する位置およびサイズの情報を送信する。機器101は、この情報に基づき出力画像101Bに対してカーソルを所定に表示させる。
なお、ここでは、カーソルの画像を、画面104に対して画像を表示させる機器100、101側で生成するように説明したが、これはこの例に限られない。すなわち、この実施の第2の形態においては、機器100や機器101から出力された画像は、座標情報管理・画像加工合成部102において拡大、縮小といったサイズ変更などの加工処理が施されるので、機器100や機器101側で生成したカーソルの画像は、画面104に表示される際には不自然な画像になっている可能性がある。そのため、この実施の第2の形態においては、カーソルの画像を座標情報管理・画像加工合成部102において生成し、画面104に表示させるための画像に対して合成させることが考えられる。
図40は、座標情報管理・画像加工合成部102に対してカーソル画像の生成を行うカーソル画像生成部128を追加した、座標情報管理・画像加工合成部102’の一例の構成を示す。なお、図40において、上述した図35と共通する部分には同一の符号を付し、詳細な説明を省略する。
カーソル画像生成部128は、CPU120の制御に基づきカーソルを表示するためのカーソル画像を所定に生成する。例えば、フォーカスされた部分画像(ウィンドウ画像など)に対して所定の枠表示を付加することでカーソルが表現される場合、当該部分画像のサイズおよび位置情報がCPU120からカーソル画像生成部128に対して供給される。カーソル画像生成部128は、この情報に基づきカーソルを表示するためのカーソル画像を生成し、画像処理部124に供給する。画像処理部124は、このカーソル画像を、対応する部分画像に対して所定に合成して出力画像を形成する。
なお、この実施の第2の形態においても、実施の第1の形態で説明したような、カーソルの移動方向を示すガイドの表示は、同様にして行うことができる。この実施の第2の形態の場合、図41に例示されるように、座標情報管理・画像加工合成部102に対して、ガイドを表示するための画像を生成するガイド画像生成部129を追加して座標情報管理・画像加工合成部102”とする。CPU120は、画面104に表示される各ウィンドウ画像の位置関係と、現在のカーソル位置とに基づき、実施の第1の形態で説明したようにして、例えばリモートコントロールコマンダ130の方向キーを操作した際にカーソルが移動するウィンドウ画像を判断する。この判断結果に基づき、ガイド画像生成部129により所定にガイドを表示するための画像が生成される。このガイドを表示するための画像は、画像処理部124で出力画像に対して所定に合成され、画面104に表示される。
なお、このガイド画像生成部129と、上述したカーソル画像生成部128とを、共通の構成としてもよい。
また、この実施の第2の形態においても、実施の第1の形態で上述したような、カーソルの移動に伴い画面104に表示される全てのウィンドウ画像や部分画像を対象に、再配置を行う例は、同様にして適用される。この場合、ウィンドウ画像や部分画像の再配置は、座標情報管理・画像加工合成部102で行うことができる。
さらに、この実施の第2の形態においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第1の形態などと同様にして行うことができる。すなわち、この実施の第2の形態においては、音声切り換え手段が画像処理部102に設けられることになる。
2−2.この発明の実施の第2の形態の変形例について
次に、この発明の実施の第2の形態の変形例について説明する。上述の実施の第2の形態では、画面104に表示するために、複数の機器から出力された画像を1の画像に合成する座標情報管理・画像加工合成部102が、画像出力を行う機器とは別途に存在していた。この実施の第2の形態の変形例では、座標情報管理・画像加工合成部102を画像出力を行う機器に内蔵させる。以下では、機器100に座標情報管理・画像加工合成部102を内蔵させるものとして説明を行う。
2−2−1.実施の第2の形態の変形例によるシステム構成について
図42は、この実施の第2の形態の変形例による、座標情報管理・画像加工合成部102’が内蔵された機器100’の一例の構成を示す。なお、図42において、上述した図34および図35と共通する部分には同一の符号を付し、詳細な説明を省略する。また、画面104に画像を表示するための他の機器、例えば機器101は、図34を用いて説明した機器100と同等の構成とする。
図42を参照し、機器100’に内蔵される座標情報管理・画像加工合成部102’は、例えば座標制御部140およびROM141を有し、機器100’のCPU110にその動作を制御される。また、CPU110に対して通信I/F142A、1142B、・・・が接続される。座標制御部140は、CPUであってもよいし、所定の回路で構成されていてもよい。これに限らず、座標制御部140は、CPU110上で動作するプログラムであってもよい。
ROM141は、例えば上述したテンプレートを複数、予め記憶することができる。座標制御部140がCPUで構成されるときは、ROM141にプログラムデータが予め格納され、座標制御部140は、ROM141に格納されたプログラムデータに従い、図示されないRAMをワークメモリとして用いて表示領域の管理や、供給された画像の加工処理などを行う。座標制御部140がCPU110上で動作するプログラムにより構成されるときは、ROM141を省略し、CPU110に接続されるROM111にテンプレートの記憶などを行うことができる。
機器100’と、画面104に画像を表示するための他の機器(例えば機器101)とは、後述する図43に例示されるように、所定のケーブルを用いて直接的に接続することができる。例えば、機器101から機器100’に対して出力画像を供給するためのHDMIケーブルによるデータ通信に対応したものとすることが考えられる。これに限らず、IEEE1394規格に対応したケーブルを介して、機器101と機器100’との間での通信を行うこともできる。
また、機器100’において、赤外線信号を受信するIR I/F143を設け、リモートコントロールコマンダ130からの指示を受信可能とすることができる。ユーザ操作に応じてリモートコントロールコマンダ130から送信された赤外線信号は、IR I/F143に受信され、所定の制御信号に変換されてCPU110に渡される。CPU110は、この制御信号に基づき機器100’の各部を制御する。また、CPU110は、リモートコントロールコマンダ130から送信された赤外線信号に応じて、所定の制御信号を通信I/F142A、142B、・・・を介して、機器101といった他の機器に送信することができる。
リモートコントロールコマンダ130による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
図43は、この実施の第2の形態の変形例による、座標情報管理・画像加工合成部102’が内蔵された機器100’を用いた場合の一例のシステム構成を示す。なお、図43において、上述した図33と共通する部分には同一の符号を付し、詳細な説明を省略する。
図43において、機器101と機器100’とがHDMIケーブルで接続され、機器101から出力された出力画像がHDMIケーブルを介して、例えば入力端125Aから機器100’に入力され、画像処理部124に供給される。また、機器100’側の通信I/F142Aと機器101側の通信I/F113とが、HDMIのデータ通信機能で通信可能に接続される。機器100’の画像生成部114から出力された出力画像と機器101から出力された出力画像とが画像処理部124にそれぞれ供給され、所定に加工や移動処理をされ、さらに1枚の画像に合成され、図示されない表示装置の画面104に表示される。
2−2−2.実施の第2の形態の変形例による動作について
次に、この実施の第2の形態の変形例による概略的な動作について、図43を用いると共に、上述した図36を参照しながら説明する。なお、図36においては、機器100を機器100’に、座標情報管理・画像加工合成部102を座標情報管理・画像加工合成部102’に、それぞれ読み替えるものとする。
機器100’において、CPU110は、機器101の接続が検知されると、所定のプロトコルに従い機器101の識別処理を行う。機器101の識別後、機器101から機器100’に対して、再生されるコンテンツの情報が送信される。この情報は、機器100’の例えば通信I/F142Aに受信され、CPU110に渡される。また、CPU110は、機器100’において再生されるコンテンツの情報を例えば画像生成部114から取得する。CPU110は、機器101から取得されたコンテンツ情報と、自身の機器100’から取得されたコンテンツ情報とに基づき座標制御部140を制御する。
座標制御部140は、機器101から取得されたコンテンツ情報と、自身の機器100’から取得されたコンテンツ情報とに基づくCPU110の制御により、機器100’から出力される画像を画面104に表示する際の表示領域105Aと、機器101から出力される画像を画面104に表示する際の表示領域105Bとを決める。機器毎に優先順位が設定されている場合に、優先順位に基づき表示領域の位置や大きさを決めてもよい。
機器100’において、機器100’自身に設定された表示領域105Aを示す座標情報が指定表示座標情報として座標制御部140からCPU110に渡される。機器100’のCPU110は、この指定表示座標情報に基づき表示領域105Aに表示するのに相応しい画像を出力するように機器100’の画像生成部114を制御する。
一方、表示領域105Bを示す座標情報も、機器101に対する指定表示座標情報として機器100’において座標制御部140からCPU110に渡され、通信I/F142Aによって機器101に送信される。機器101においても同様に、機器101のCPU110は、この指定表示座標情報に基づき表示領域105Bに表示するのに相応しい画像を出力するように、機器101の画像生成部114を制御する。
機器100’において、画像生成部114で画面104に表示する部分画像100Borgを含む画像100Aorgが生成され、画像処理部124に供給される。また、機器101において、画像生成部114で画面104に表示する部分画像101Borgを含む画像101Aorgが生成される。この画像101Aは、機器100’に入力され、例えば入力端125Aから画像処理部124に供給される。
画像処理部124は、供給された画像100Aorgおよび画像101Aorgに対して、表示領域105Aおよび105の座標情報に基づきそれぞれの画像に含まれる部分画像100Borgおよび部分画像101Borgに対して、既に説明したようにして拡大縮小といったサイズ変更、移動などの加工処理を所定に施し、加工された画像100Aおよび部分画像100B、ならびに、画像101Aおよび部分画像101Bを得る。この加工処理により、これらの画像100Aorgおよび画像101Aorgを1枚の画像に合成した際に、それぞれの画像に含まれる、画面104に表示するための部分画像100Borgおよび部分画像101Borgが互いに重ならないようにする。
画像処理部124は、加工処理された画像100Aおよび画像101Aを所定に1の画像に合成し、出力する。出力された画像は、出力端子126から出力され、図示されない表示装置に供給されて画面104が表示される。
なお、この実施の第2の形態の変形例においても、画像処理部124においてなされる画面104に表示するための画像の加工や移動処理は、上述した実施の第2の形態で説明した方法を同様に適用することができる。また、複数機器から出力された出力画像の合成方法も、機器毎にプレーンを用意して合成する方法や、1のプレーンのみを用いて画像を合成する方法など、上述した実施の第2形態で説明した方法をそのまま適用することができる。すなわち、画像処理部124は、例えば図37または図38を用いて説明した何れかの構成とすることができ、加工および合成処理を、複数プレーンを用いる方法と、1のプレーンのみを用いる方法とのうち何れかで行うことができる。
ウィンドウ制御やテンプレートの使用についても、実施の第2の形態で説明した方法を、同様に、この実施の第2の形態の変形例に適用することができる。なお、この実施の第2の形態の変形例では、ホスト機器として動作する機器100’側の優先順位が、機器100’に接続される他の機器に対して常に高くなるように設定できる。
さらに、カーソル制御についても、実施の第2の形態で説明した方法を、同様に、この実施の第2の形態の変形例に適用することができる。なお、カーソルを移動させるための指示は、機器100’においてCPU110から画像生成部114に渡されると共に、CPU110から座標制御部140に渡されて、通信I/F142A、142B、・・・から、機器100’に接続される他の機器に対して送信される。
カーソルを表示するためのカーソル画像や、フォーカスの移動先を示すガイド画像は、例えば図40や図41を用いて説明したように、機器100’に対してカーソル画像生成部やガイド画像生成部をさらに設け、これらカーソル画像生成部やガイド画像生成部で生成されたカーソル画像やガイド画像を画像処理部124で出力画像と合成することが考えられる。
上述のウィンドウ制御やテンプレートの使用、カーソル制御は、機器100’が稼働状態にあれば、機器100’がコンテンツの再生に伴う画像出力を行っているか否かに関わらず、実行させることが可能とされる。
さらにまた、この実施の第2の形態の変形例においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第2の形態などと同様にして行うことができる。この実施の第2の形態の変形例では、音声切り換え手段が効き100’に対して設けられることになる。
3.この発明の実施の第3の形態(独立方式)について
次に、この発明の実施の第3の形態について説明する。この実施の第3の形態は、機器毎の表示を管理する表示管理部を設け、この表示管理部が画像出力を行う複数の機器から供給された画像をそれぞれ解析する。表示管理部は、この解析結果に基づき機器毎の表示すべき部分画像や、各画像の空き領域を検出する。この各画像の空き領域に基づき複数の機器毎の表示領域を機器毎の画像を1の画像に合成した際に互いに重ならないように設定する。そして、機器毎の表示すべき部分画像を、各表示領域に収まるように拡大縮小といったサイズ変更、移動などの加工処理を施し、さらに画像合成を行い、画面に表示するための1の画像を形成する。この実施の第3の形態では、表示管理部が画像解析を行って表示すべき画像を抽出するので、表示管理部と各機器との間で、座標情報の通信などを行う必要が無い。
3−1−1.実施の第3の形態によるシステム構成
図44は、この実施の第3の形態によるシステムの一例の構成を概略的に示す。なお、図44において、画面204は、上述した図1の画面14に対応する。このシステムにおいては、画面204の表示領域および表示画像を管理する表示管理部202を設ける。表示管理部202は、独立した装置として構成してもよいし、画面204を表示する表示装置に内蔵される構成としてもよい。表示管理部202は、画面204に表示させるために画像を出力する機器200、201、・・・から供給された画像200Aorg、201Aorg、・・・を解析し、解析結果に基づきそれぞれの画像から画面204に表示すべき部分画像200Borg、201Borg、・・・を抽出する。
さらに、表示管理部202は、抽出されたこれら部分画像200Borg、201Borg、・・・が画面204に同時に表示された際に互いに重ならないように、画像200Aorg、201Aorg、・・・に対して加工や移動処理を施し、部分画像200Bを含む画像200Aと、部分画像201Bを含む画像201Aとが得られる。これら画像200A、201A、・・・は、表示管理部202において1の画像に合成され、出力される。表示管理部202から出力された画像は、例えば図示されない表示装置に供給され、画面204に表示される。
図45は、表示管理部202の一例の構成を示す。CPU210は、ROM211に予め記憶されたプログラムに従い、RAM212をワークメモリとして用いてこの表示管理部202の全体を制御する。ROM211に上述したテンプレートのデータを予め記憶しておくこともできる。
画像処理部213は、CPU210の制御に基づき、入力端214A、214B、・・・に入力された画像をそれぞれ解析し、解析結果に基づきこれらの画像に含まれる表示すべき部分画像を抽出する。表示管理部202は、また、抽出されたこれらの部分画像に対して拡大縮小といったサイズ変更や移動などの加工処理を施し、これらの画像が最終的に1の画像に合成された際に、それぞれの部分画像が互いに重ならないようにする。表示管理部202は、さらに、入力端214A、214B、・・・から供給された加工された複数の画像を合成し、1の画像を形成する。この画像は、出力端215から出力される。
また、表示管理部202において、赤外線信号を受信するIR I/F216を設け、リモートコントロールコマンダ220からの指示を受信可能とすることができる。ユーザ操作に応じてリモートコントロールコマンダ220から送信された赤外線信号は、IR I/F216に受信され、所定の制御信号に変換されてCPU210に渡される。CPU210は、この制御信号に基づき表示管理部202の各部を制御する。
リモートコントロールコマンダ220による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
図46は、画像処理部213の一例の構成を示す。画像処理部213は、例えば入力端214A、214B、・・・にそれぞれ対応する複数の画像抽出部230A、230B、・・・と、これら画像抽出部230A、230B、・・・から出力された画像を合成して1の画像を出力する合成部231とを有する。画像抽出部230A、230B、・・・のそれぞれは、CPU210の制御に基づき、入力された画像から表示すべき部分画像を抽出する。画像抽出部230A、230B、・・・で抽出された部分画像は、それぞれ合成部231に供給される。合成部231は、CPU210の制御に基づき、供給されたこれらの部分画像を、部分画像同士が互いに重ならないように配置して、1の画像に合成する。
図47は、画像抽出部230A、230B、・・・の一例の構成を画像抽出部230Aで代表させて示す。画像抽出部230Aは、例えばフレームメモリ240、画像解析部241および画像切出部242を有する。入力端214Aから入力された画像(画像200Aorgとする)は、一旦、フレームメモリ240に書き込まれる。画像解析部241は、CPU210の制御に基づき、フレームメモリ240に書き込まれた画像200Aorgを解析し、画像200Aorgに含まれる部分画像200Borgの座標を検出する。
図48は、この実施の第3の形態に適用可能な機器200(または機器201)の一例の構成を示す。CPU250は、ROM251に予め記憶されたプログラムに従い、RAM252をワークメモリとして用いてこの機器200(または機器201)の全体を制御する。画像生成部253は、上述の機器10における画像生成部24と同様に、CPU250の制御に基づき画像を生成する。生成された画像は、画像出力端254を介して外部に出力される。すなわち、画像生成部253は、DVD、Blu−ray Discなどの着脱可能なディスク状記録媒体、ハードディスク、半導体メモリ、磁気テープといった記録媒体、ディジタルテレビジョン放送を受信可能なチューナ、所定のプログラムに基づくCG描画などを画像ソースとして画像を生成し、出力する。
この実施の第3の形態では、画像を出力する側の機器200(または機器201)と表示管理部202との間で、座標情報などのデータ通信は、行われない。そのため、機器200(または機器201)側においても、表示管理部202と通信を行う通信I/Fを設ける必要が無い。
図49は、この実施の第3の形態に適用可能な機器200(または機器201)の別の例の構成を示す。この図49の構成によれば、機器200(または機器201)は、画像を出力するための画像生成部260のみを有する。画像生成部26の出力画像は、出力端261から出力され、表示管理部202に供給される。この実施の第3の形態では、表示管理部202とのデータ通信が必要ないので、機器200(または機器201)は、このような構成であっても適用可能とされる。
また、この画像生成部260や、上述の図48で示した画像生成部250が出力する画像は、ディジタル方式の画像信号に限らず、アナログ方式の画像信号でもよい。この場合、表示管理部202側で、アナログ方式の画像信号をディジタル方式の画像信号に変換する、A/D変換器が必要とされる。
3−1−2.実施の第3の形態による動作について
この発明の実施の第3の形態による一例の動作について、上述した図44を参照すると共に、図50を用いて説明する。図50に示されるように、この実施の第3の形態においては、表示管理部202と、画像を出力する機器200、201、・・・との間で、座標情報などのデータ通信は行われない。したがって、機器200、201、・・・は、特定の規格に対応した通信I/Fや特定のプロトコルに対応している必要が無い。
図44を参照し、機器200から、表示すべき部分画像200Borgを含んだ画像200Aorgが出力される。機器201から、表示すべき部分画像201Borgを含んだ画像201Aorgが出力される。これら画像200Aorgおよび画像201Aorgは、表示管理部202に供給され、例えば入力端214Aおよび214Bにそれぞれ入力される。
表示管理部202は、CPU210の制御に基づき、画像処理部213内の画像抽出部230Aおよび230Bそれぞれにおける画像解析部241で、入力された画像200Aorgおよび201Aorgをそれぞれ解析し、画像200Aorgから部分画像200Borgを検出すると共に、画像201Aorgから部分画像201Borgを検出する。そして、CPU210の制御に従い、検出された部分画像200Borgおよび201Borgの情報に基づき、機器200からの画像を表示する表示領域203Aと、機器201からの画像を表示する表示領域203Bとをそれぞれ設定する。設定された表示領域203Aおよび203Bを示す座標情報203が、例えば表示管理部202のRAM212に記憶される。
表示管理部202は、画像抽出部230Aおよび230Bそれぞれで抽出された部分画像200Borgおよび201Borgに対し、表示領域203Aおよび203Bの情報に基づき、部分画像200Borgおよび201Borgが1の画像に合成された際に互いに重ならないように、画像処理部213で拡大縮小といったサイズ変更、移動などの処理を施し、部分画像200Bおよび201Bを得る。これら部分画像200Bを含む画像200Aと、部分画像201Bを含む画像201Aとが画像処理部213内の合成部231で1の画像に合成され、出力端215から出力される。この画像は、図示されない表示装置に供給され、画面204に表示される。
3−1−3.画像解析の例について
画像解析部241による画像解析方法は、様々に考えられる。一例として、図51Aに例示されるように、例えば解析すべき画像200Aorgを出力する機器200側において予め、部分画像200Borg以外の部分(背景と呼ぶ)が所定色や所定パターンになるように画像200Aorgを形成し、画像解析部241においてこの所定色や所定パターンを検出することで、部分画像200Borgの範囲を示す座標(x11,x12,y11,y12)を求めることが考えられる。
この場合には、表示管理部202側で、この所定色や所定パターンの情報を予め持っているようにする。所定色や所定パターンの情報は、例えばROM211に予め記憶させる。CPU210は、ROM211に記憶された所定色や所定パターンの情報に基づき、画像処理部213内の画像解析部241を制御し、画像200Aorgを解析し、部分画像200Borgの座標を検出する。
背景を示す所定色は、様々に考えられる。R(赤色)、G(緑色)またはB(青色)といった原色を用いてもよいし、無色を指定する色を用いることも考えられる。無色指定色は、すなわち、透過属性が対応付けられた色であって、無色指定色とされた画素は、所定のプログラムの下で、例えば下にあるプレーンの画素が透過されて表示される。
部分画像200Borgの範囲を検出する方法は、これに限らず、様々に考えられる。一例として、画像解析部241は、画像200Aorg内の色などの分布を調べることで部分画像200Borgの範囲を検出することも考えられる。例えば、画像200Aorg内で連続した所定面積以上にわたって同一色が分布しているとき、その色部分を背景と判断し、当該色以外の部分を部分画像200Borgの範囲であると判断することが考えられる。
画像解析部241による画像解析方法の他の例として、図51Bに例示されるように、解析すべき画像200Aorgを出力する機器200側において予め、部分画像200Borgに対して所定のマーカ250、250、・・・を付与しておくことが考えられる。この図51Bの例では、最小単位の市松模様が、マーカ250、250、・・・として部分画像200BORGの四隅に付与されている。画像解析部241は、画像200Aorgを解析してマーカ250、250、・・・を検出することで、部分画像200Borgの範囲を示す座標(x21,x22,y21,y22)を求めることが考えられる。
この場合にも、上述と同様に、表示管理部202側で、このマーカ250、250、・・・の情報を予め持っているようにする。マーカ250、250、・・・の情報は、例えばマーカ250、250、・・・それぞれの形状や色、パターンなどの情報からなる。マーカ250、250、・・・の情報は、例えばROM211に予め記憶させる。CPU210は、ROM211に記憶されたマーカ250、250、・・・の情報に基づき、画像処理部213内の画像解析部241を制御し、画像200Aorgを解析し、部分画像200Borgの座標を検出する。
マーカ250、250、・・・は、図51Bに例示されるような特殊な形状のものに限られない。例えば、機器200がパーソナルコンピュータであって、入力される画像200AorgがパーソナルコンピュータのOS(Operating System)において一般的に用いられるウィンドウを表示する画像とすることも考えられる。ウィンドウの形状に関する情報は、例えばROM211に予め記憶させておく。このとき、例えばウィンドウ内に所定のアイコン画像や文字列などを表示させることで、当該ウィンドウが抽出の対象となる部分画像200Borgであるか、他のウィンドウであるかを判断することができる。
画像解析部241は、上述した検出方法のうち1の方法のみを用いて部分画像の検出を行ってもよいし、複数の方法を用いて部分画像の検出を行うこともできる。複数の方法を用いて検出を行う場合、検出方法に優先順位を設定することも考えられる。
上述のようにして画像200Aorgに含まれる部分画像200Borgの座標を検出すると、検出された座標を示す座標情報を画像切出部242に渡す。画像切出部242は、フレームメモリ240に書き込まれた画像200Aorgから、画像解析部241から渡された座標情報に示される範囲、すなわち部分画像200Borgを切り出す。切り出された部分画像200Borgは、合成部231に供給される。
3−1−4.実施の第3の形態による画像加工および合成処理の例について
合成部231は、実施の第2の形態において既に説明した、図37に示される複数プレーンを用いた構成を適用することができる。これに限らず、図38に示される1のプレーンを用いた構成を適用してもよい。
一例として、複数プレーンを用いる場合、図37を参照し、画像切出部242は、フレームメモリ240上で切り出した部分画像200Borgを、対応するプレーン(プレーン141Aとする)に書き込む。画像加工部140は、CPU210の制御に基づきプレーン141Aに書き込まれた部分画像200Borgに対して、拡大縮小といったサイズ変更、移動などの加工処理を施し、部分画像200Bを形成する。各プレーンに書き込まれた画像は、加算部142で加算され、1の画像とされて出力される。
これに限らず、図37の構成から画像加工部140を省略し、部分画像200Borgに対する加工処理を画像切出部242で行うことも考えられる。この場合、画像切出部242は、CPU210の制御に基づき、フレームメモリ240から切り出した部分画像200Borgに対して拡大縮小といったサイズ変更処理を施し部分画像200Bとし、部分画像200Bをプレーン141Aの所定位置に書き込む。
他の例として、1のプレーンを用いる場合、図38を参照し、画像切出部242は、フレームメモリ240上で切り出した部分画像200Borgを、画像加工部150Aに供給する。画像加工部150Aは、CPU210の制御に基づき、供給された部分画像200Borgに対して拡大縮小といったサイズ変更、移動などの加工処理を施し、部分画像200Bを形成する。この部分画像200Bは、既に説明したようにして、プレーン151に書き込まれ、他の部分画像と合成されて1の画像とされ、出力される。この他の例においても、上述の複数プレーンを用いる場合と同様に、画像加工部150A、150B、・・・を省略し、部分画像200Borgに対する加工処理を画像切出部242で行うことが考えられる。
3−1−5.実施の第3の形態によるウィンドウ制御について
次に、この実施の第3の形態によるウィンドウ制御について説明する。この実施の第3の形態においても、ウィンドウ制御は、上述した実施の第1および第2の形態と同様に考えることができる。例えば、複数の機器から出力された画像を1の画像に合成する際に、互いのウィンドウ画像が重ならないように、ウィンドウ画像を適宜移動して表示領域に配置する処理は、画像解析部241で解析されたウィンドウ画像(部分画像)の座標を示す座標情報に基づくCPU210の制御により、画像処理部213において上述と同様にして行われる。
但し、この実施の第3の形態では、表示管理部202側と、画像出力を行う機器200や機器201との間でのデータ通信が行われないので、ウィンドウ画像毎の優先順位を、データ通信以外の何らかの方法で表示管理部202に対して示す必要がある。
一例として、画像出力を行う機器200や機器201側で、ウィンドウ画像自体に当該ウィンドウ画像の優先順位を示す情報を埋め込むことが考えられる。上述した、部分画像の抽出のための画像解析にマーカ250を用いる方法の例では、優先順位毎に異なるマーカを用いることが考えられる。例えば、優先順位毎にマーカ250の色、形状、大きさなどを異ならせる。表示管理部202では、例えばマーカ250の色、形状、大きさなどと、優先順位とを関連付けたテーブルを、ROM211に予め記憶しておく。
例えば、CPU210は、画像解析部241からマーカ250の情報を取得し、ROM211に記憶されたテーブルを参照して当該マーカ250が示す優先順位を判断する。この判断結果が画像処理部213に渡され、ウィンドウ画像に対する拡大縮小といったサイズ変更処理や、移動処理などが行われる。
ウィンドウ画像に、優先順位を直接的に示す情報を含めるようにもできる。例えば、ウィンドウ画像の所定位置に、優先順位を示す数値や符号、記号などを表示させる。優先順位が表示される位置を示す情報は、ROM211に予め記憶しておくとよい。ウィンドウ画像の枠の色などを優先順位毎に異ならせることも考えられる。
別の例として、機器200や機器201から出力される画像200Aorgや画像201Aorgにおける各ウィンドウ画像の位置に応じて、優先順位を判断する方法が考えられる。例えば、画像解析部241は、画面204内の位置の優先度を、画像200Aorgや画像201Aorgに対しても適用して、ウィンドウ画像毎の優先順位を判断する。
さらに別の例として、画像解析部241は、ウィンドウ画像それぞれに表示される画像の動きを検出し、検出された動き量に基づきウィンドウ画像毎の優先順位を決めることが考えられる。画像の動きの検出には、例えば既知の動きベクトル検出方法を用いることができる。単純にフレーム毎の差分を計算して、動き検出とすることもできる。より動き量が大きいウィンドウ画像を、より優先順位の高いウィンドウ画像とすることが考えられる。
ウィンドウ画像毎の優先順位の判断方法は、これらの例に限られない。例えば、機器200や機器201から出力される画像200Aorgや画像201Aorg内でのウィンドウ画像のサイズに基づき優先順位を判断してもよい。
CPU210は、画像処理部213を制御し、上述した方法のうち1の方法を用いて、または、上述した方法をそれぞれ用いて、ウィンドウ画像毎の優先順位を設定する。
なお、この実施の第3の形態においても、実施の第1の形態で説明した、表示領域の決定に際してテンプレートやテーブルを用いる例は、同様にして適用することができる。例えば、表示管理部202は、ROM211に予めテンプレートのデータを記憶しておき、画像解析部241で解析されたウィンドウ画像(部分画像)の情報に基づき、ROM211に記憶されたテンプレートから対応するものを選択して表示領域を設定する。
また、この実施の第3の形態においても、実施の第1の形態で説明した、ユーザ操作やコンテンツの切り換えなどに応じて使用するテンプレートを切り換える制御や、テンプレートに従い配置される画像(コンテンツ)のユーザやコンテンツの切り換えに応じた変更の制御は、同様にして適用できる。表示管理部202は、機器200や機器201側でのコンテンツの変更を、例えば対応する画像解析部241による部分画像の検出結果に基づき検知することができる。
3−1−6.実施の第3の形態によるカーソル制御について
次に、この実施の第3の形態によるカーソル制御について説明する。この実施の第3の形態では、表示管理部202側と、画像を表示させる機器200や機器201側との間でデータ通信を行わないため、表示管理部202において画面204に表示されるウィンドウ画像を単位としてカーソル制御を行っても、機器200または機器201側では、自分が出力している画像のどのウィンドウがフォーカスされにカーソルが表示されているかを知ることができない。そこで、表示管理部202において、表示領域単位でカーソル制御を行うことが考えられる。
図52を用いて、実施の第3の形態によるカーソル制御の例について、より具体的に説明する。機器200から、図52Aに例示されるように、全体が画面204に表示すべき部分画像200Borgとされた画像200Aorgが出力されるものとする。また、機器201から、図52Bに例示されるように、複数の部分画像201Borg、201Corg、201Dorg、201Eorgおよび201Forgを含む画像201Aorgが出力されるものとする。画像201Aorgにおいて、部分画像201Borgがメイン画像であって最も優先順位が高く、以下、201Corg、201Dorg、201Eorgおよび201Forgの順に優先順位が低く設定されているものとする。
表示管理部202は、図52Cに例示されるように、画面204を縦に2分割した左側の領域を表示領域205Aとし、右側の領域を表示領域205Bとし、表示領域205Aおよび205Bを機器200および201にそれぞれ割り当てるものとする。機器200から出力された画像200Aorgに含まれる部分画像200Borgは、表示管理部202における画像処理部213で表示領域205Aに収まるように所定に縮小および移動され、部分画像200Bとされる。
また、機器201から出力される画像201Aorgに含まれる部分画像201Borg、201Corg、201Dorg、201Eorgおよび201Forgは、優先順位の高い部分画像から3つが選択され、部分画像201Borg、201Corgおよび201Dorgが、表示管理部202における画像処理部213で表示領域205Bに収まるように所定に縮小および移動され、それぞれ部分画像201B、201Cおよび201Dとされる。
部分画像200Bを含む画像200Aと、部分画像201B、201Cおよび201Dを含む画像201Aが合成部231で1の画像に合成され、画面204に所定に表示される。
ここで、初期状態において、図52Dに例示されるように、表示領域205A側がフォーカスされ、表示領域205Aに表示される部分画像200Bにカーソル206が表示されているものとする。この状態から、例えばリモートコントロールコマンダ220に対する右方向指示の操作に応じて、フォーカスを右方向に移動させる場合について考える。
カーソル206の移動制御が表示領域単位で行われる場合、右方向指示に応じてフォーカスが表示領域205Aから表示領域205Bに移動する。それに伴い、カーソル206の表示対象が、表示領域205Aに表示される部分画像200Bから、表示領域205Bに表示される部分画像201B、201Cおよび201Dに移動される。例えば、図52Eに例示されるように、表示領域205Bに表示される部分画像201B、201Cおよび201D全てに対して、カーソル206を表示することが考えられる。勿論、これに限らず、例えば表示領域205Bに表示される部分画像201B、201Cおよび201Dのうち、最も優先順位の高い部分画像201Bにのみ、カーソル206を表示するようにもできる。
なお、表示領域に対してカーソル206が表示されている状態で、例えばリモートコントロールコマンダ220に対して所定の操作を行うことで、カーソル206が表示されている表示領域に対応する機器の出力画像を選択し、画面204の全体に表示させるようにできる。一例として、図52Eに例示されるように、表示領域205Bにカーソル206が表示されている状態で、リモートコントロールコマンダ220に対して、例えば決定を指示する操作を行うことで、当該表示領域205Bに対応する機器201から出力画像が、図52Bに一例が示されるように、画面204に全面表示される。
また、この実施の第3の形態においても、実施の第1の形態で説明したような、カーソル206の移動方向示すガイドの表示を、同様にして行うことができる。ここでは、ガイドを表示領域単位で表示させる例について説明する。すなわち、この実施の第3の形態では表示管理部202側と機器200や機器201側との間でデータ通信を行わないため、カーソルの移動先が機器側に通知されず、部分画像単位でガイドを表示可能としてもさほど効果的ではないと考えられる。
図53Aに例示されるように、画面204に4の表示領域205A、205B、205Cおよび205Dを設定し、それぞれ異なる機器A、機器B、機器Cおよび機器Dに割り当てるものとする。いま、表示領域205Aがフォーカスされ、表示領域205A内の図示されない部分画像にカーソル206が表示されているものとする。カーソル206の移動指示が上下左右の4方向で行われるとき、表示領域205Aから表示領域205Bまたは表示領域205Cに、カーソル206を移動させることが可能である。そこで、表示領域205Aから右方向および下方向へ移動可能であることを示すガイド207をそれぞれ表示させる。
図54は、上述したカーソル206やガイド207を表示させるための一例の構成を示す。表示管理部202において、画像処理部213内にカーソル・ガイド画像生成部232を設ける。カーソル・ガイド画像生成部232は、CPU210の制御に基づきカーソル206やガイド207を表示させるための画像を生成し、合成部231に供給する。合成部231は、CPU210の制御に基づき、カーソル・ガイド画像生成部232から供給された画像を出力画像に対して所定位置に表示されるように合成する。
なお、この実施の第3の形態では、表示管理部202側と機器200や機器201側との間でデータ通信を行わないため、カーソル206の移動先の機器に対する操作や制御は、当該機器のコントローラを用いて行われることになる。
さらに、この実施の第3の形態においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第1および第2の形態などと同様にして行うことができる。この実施の第3の形態では、音声切り換え手段が表示管理部202に対して設けられることになる。
3−2.この発明の実施の第3の形態の変形例について
次に、この発明の実施の第3の形態の変形例について説明する。上述の実施の第3の形態では、画面204に表示するために、画面204の表示領域を管理し、複数の機器から出力された画像を1の画像に合成する表示管理部202が、画像出力を行う機器とは別途の構成とされていた。この実施の第3の形態の変形例では、表示管理部202を画像出力を行う機器に内蔵させる。以下では、機器200に表示管理部202を内蔵させるものとして説明を行う。
3−2−1.実施の第3の形態の変形例によるシステム構成について
図55は、この実施の第3の形態の変形例による、表示管理部202’が内蔵された機器200’の一例の構成を示す。なお、図55において、上述した図48と共通する部分には同一の符号を付し、詳細な説明を省略する。また、画面204に画像を表示するための他の機器、例えば機器201は、図48や図49を用いて説明した機器200と同等の構成とする。
CPU250は、ROM251に予め記憶されたプログラムに従い、RAM252をワークメモリとして用いてこの機器200’の全体を制御する。機器200’に対して、赤外線信号を受信するIR I/F255を設け、リモートコントロールコマンダ256からの指示を受信可能とすることができる。ユーザ操作に応じてリモートコントロールコマンダ256から送信された赤外線信号は、IR I/F255に受信され、所定の制御信号に変換されてCPU250に渡される。CPU250は、この制御信号に基づき、この機器200’の全体を制御する。
リモートコントロールコマンダ256による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
画像生成部253は、CPU250の制御に基づき画像を生成する。すなわち、画像生成部250は、DVD、Blu−ray Disc、磁気テープなどの着脱可能なディスク状記録媒体、ハードディスク、半導体メモリといった記録媒体、ディジタルテレビジョン放送を受信可能なチューナ、所定のプログラムに基づくCG描画などを画像ソースとして画像を生成し、出力する。画像生成部253から出力された画像は、画像加工部254に供給される。
画像加工部254は、CPU250の制御に基づき、メモリ255を用いて画像生成部253から出力された画像に対して拡大縮小といったサイズ変更、移動などの加工処理を施す。画像加工部254で加工処理された画像は、機器200’に内蔵される表示管理部202’に供給され、画像処理部213’の入力端233に入力される。
画像処理部213’は、上述した実施の第3の形態における画像処理部213と略同様の処理を行う。すなわち、画像処理部213’の入力端233に対して画像加工部254で加工処理され出力された画像が入力されると共に、入力端214A、214B、・・・に対して、他の機器から出力された画像が入力される。
図56は、画像処理部213’の一例の構成を示す。なお、図56において、上述した図46と共通する部分には同一の符号を付し、詳細な説明を省略する。このように、この実施の第3の形態の変形例による画像処理部213’は、画像加工部254から出力されて入力端233に入力された画像は、直接的に合成部231’に供給される。一方、入力端214A、214B、・・・から入力された画像は、それぞれ対応する画像抽出部230A、230B、・・・に供給される。画像抽出部230A、230B、・・・の構成は、例えば図47を用いて説明した構成と同様とされ、供給された画像を解析して部分画像を検出し、検出された部分画像を切り出して出力する。画像抽出部230A、230B、・・・から出力された画像は、それぞれ合成部231’に供給される。合成部231’は、供給された複数の画像を合成し、1枚の画像として出力端215から出力する。
また、画像処理部213’に対して、カーソルやカーソルの移動先を示すガイドを表示する画像を生成するためのカーソル・ガイド画像生成部232を設けることができる。
図57は、この実施の第3の形態の変形例による、表示管理部202’が内蔵された機器200’を用いた場合の一例のシステム構成を示す。なお、図57において、上述した図44と共通する部分には同一の符号を付し、詳細な説明を省略する。図57において、機器201から出力された出力画像が機器200’に入力され、例えば入力端214Aから表示管理部202’の画像処理部213’に供給される。この画像は、画像処理部213’で解析されて部分画像を検出されて所定に拡大縮小といったサイズ変更、移動などの加工処理を施され、機器200’自体で生成された画像と合成されて1枚の画像とされ、図示されない表示装置の画面204に表示される。
3−2−2.実施の第3の形態の変形例による動作について
次に、この実施の第3の形態の変形例による概略的な動作について、図57を用いると共に、図44を参照しながら説明する。機器201からの出力画像201Aorgが機器200’に供給され、例えば入力端214Aから入力される。この画像201Aorgは、機器200’内の画像処理部213’に供給され、画像解析により画面204に表示すべき部分画像201Borgが検出される。一方、機器200’内の画像生成部253で生成される画像200Aorgについて、CPU250は、画面204に表示すべき部分画像200Borgの情報を取得する。
CPU250は、部分画像200Borgおよび部分画像201Borgの情報に基づき、機器200’および機器201に対する表示領域205Aおよび205Bをそれぞれ設定する。そして、CPU250は、画像200Aorgと画像201Aorgとを1枚の画像に合成した際に、これら部分画像200Borgおよび部分画像201Borgが互いに重ならないように、設定された表示領域205Aおよび205Bの情報と、部分画像200Borgおよび部分画像201Borgの情報とに基づき、これら部分画像200Borgおよび部分画像201Borgに対する拡大縮小といったサイズ変更、移動などの加工処理の制御を行う。
一例として、CPU250は、画像生成部253から出力された画像200Aorgについては、表示領域および部分画像200Borgの情報に基づき、画像加工部254に対して所定に拡大縮小といったサイズ変更、移動などの加工処理を施すように制御する。また、例えば入力端214Aから入力された画像201Aorgについては、表示領域および部分画像Borgの情報に基づき、画像処理部213’に対して所定に拡大縮小といったサイズ変更、移動などの加工処理を施すように制御する。
部分画像200Borgが加工された部分画像200Bを含む画像200Aと、部分画像201Borgが加工された部分画像201Bを含む画像201Aとが合成部231で合成され、1枚の画像とされる。この画像は、出力端215から出力され、図示されない表示装置に供給され、画面204が表示される。
なお、この実施の第3の形態の変形例においても、画像処理部213’においてなされる画面204に表示するための画像の拡大縮小といったサイズ変更、移動などの加工処理は、上述した実施の第3の形態で説明した方法を同様に適用することができる。画像加工部253における画像の加工処理は、画像処理部213’における方法と同様に、画像解析により部分画像を検出し、この検出された部分画像に対して行ってもよいし、画像生成部253から部分画像の情報を取得し、取得されたこの部分画像の情報に基づき行ってもよい。さらに、CPU250が画像生成部253で生成される画像の部分画像のサイズや位置を制御することも考えられる。
また、合成部231’は、入力毎にプレーンを用意して合成する方法や、1のプレーンのみを用いて画像を合成する方法など、上述した実施の第2形態で説明した方法をそのまま適用することができる。すなわち、合成部231’は、例えば図37または図38を用いて説明した何れかの構成とすることができ、加工および合成処理を、複数プレーンを用いる方法と、1のプレーンのみを用いる方法とのうち何れかで行うことができる。なお、図37に示した複数プレーンを用いる場合、例えば入力端233に対して1のプレーンが設けられる。また、図38に示した複数プレーンを用いる場合、例えば入力端233から供給された画像は、プレーン151に直接的に書き込まれる。これに限らず、図37の構成と図38の構成とを併用するような構成も可能である。
さらに、ウィンドウ制御やテンプレートの使用についても、実施の第3の形態で説明した方法を、同様に、この実施の第3の形態の変形例に適用することができる。この実施の第3の形態の変形例の場合には、ホスト機器として動作する機器200’側の優先順位が、機器200’に接続される他の機器に対して常に高くなるように設定できる。
さらにまた、カーソル制御についても、実施の第3の形態で説明した方法を、同様に、この実施の第3の形態の変形例に適用することができる。この実施の第3の形態の変形例の場合には、既に説明したように、機器200’に接続されている機器(例えば機器201)に設定された表示領域(例えば表示領域205B)がフォーカスされ、表示領域205B内のあるウィンドウ画像にカーソルが表示されていても、機器201側では、自分が出力しているどのウィンドウ画像がフォーカスされカーソルが表示されているかを知ることができない。一方、機器200’側においては、機器200’が有するCPU250の制御に基づきフォーカスの移動やカーソル表示が行われるため、機器200’は、フォーカスされカーソルが表示されているウィンドウ画像を知ることができる。したがって、当該ウィンドウ画像に表示されているコンテンツに対する制御を行うこともできる。
上述のウィンドウ制御やテンプレートの使用、カーソル制御は、機器200’が稼働状態にあれば、機器200’がコンテンツの再生に伴う画像出力を行っているか否かに関わらず、実行させることができる。
また、この実施の第3の形態の変形例においても、カーソルの移動に伴う音声信号の切り換えを、上述の実施の第1、第2および第3の形態と同様にして行うことができる。この実施の第3の形態の変形例では、音声切り換え手段が効き200’に対して設けられることになる。
4.この発明の応用例
次に、この発明の応用例について説明する。図58は、この発明の実施の第1の形態が適用されたこの発明の応用例を示す。すなわち、座標情報管理部が画面の表示領域を管理し、画像出力を行う機器側が画面に表示すべき画像の拡大縮小といったサイズ変更処理、移動処理などの加工処理を予め行う。
図58の例では、ディジタルテレビジョン受像機300と、多機能電子ゲーム機器301とがHDMI規格に則ったHDMIケーブル302で接続されている。ディジタルテレビジョン受像機300は、ディジタル放送を受信するためのチューナ部320を有し、例えばアンテナ321で受信されたディジタルテレビジョン放送による画像を、合成部330に供給する。
一方、多機能電子ゲーム機器301は、画像生成部360において、図示されないドライブ装置で光ディスクなどの記録媒体から再生された、ゲームがプログラムされたソフトウェア(以下、ゲームソフト)による画像や、当該ドライブ装置で記録媒体から再生されたビデオプログラムなどの画像を生成し、画像処理部361を介して外部に出力する。出力された画像は、HDMIケーブルを介してディジタルテレビジョン受像機300に入力され、合成部330に供給される。
合成部330は、チューナ部320から供給された画像と、多機能電子ゲーム機器から供給された画像とを、所定に1枚の画像に合成し、表示部331に供給する。表示部331は、供給された画像を図示されない表示デバイスに対して映出させる。表示デバイスの有効表示領域による画面の解像度は、例えば1920画素×1080ラインとする。
ディジタルテレビジョン受像機300について、より詳細に説明する。CPU310は、ROM311に予め記憶されたプログラムに従い、RAM312をワークメモリとして用いてこのディジタルテレビジョン受像機300の各部を制御する。IR I/F315は、赤外線信号を受信して電気信号に変換する。IR I/F315で赤外線信号が変換された電気信号は、CPU310に供給される。すなわち、対応するリモートコントロールコマンダ340から送信された赤外線信号は、IR I/F315に受信され、所定に電気信号に変換されてCPU310に供給される。これにより、このディジタルテレビジョン受像機300の動作を、リモートコントロールコマンダ340から制御することができる。
リモートコントロールコマンダ340による遠隔操作は、赤外線信号によるものに限らず、Bluetooth規格に対応した通信や、IEEE802.11x規格に対応した所謂無線LAN(Local Area Network)などの、電波による無線通信を用いて行ってもよい。
通信I/F313は、HDMIケーブル302によるデータ通信に対応し、CPU310の制御に基づき、HDMIケーブル302を介して外部の機器と通信を行うことができる。
チューナ部320は、上述したように、アンテナ321で受信されたディジタルテレビジョン放送による電波を復調し、さらに復号化処理など所定の処理を施してディジタルテレビジョン放送の画像を得る。ここで、チューナ部320は、CPU310の制御に基づき、ディジタルテレビジョン放送の画像に対して拡大縮小といったサイズ変更、移動などの所定の加工処理を施す画像処理部を有するものとする。チューナ部320で得られた画像は、必要に応じて加工処理され、合成部330に供給される。合成部330には、外部からHDMIケーブル302を介して画像が供給される。
座標情報管理部314は、CPU310の制御に基づきチューナ部320や通信I/F313を介して接続される外部の機器と通信を行い、取得された表示希望座標情報に基づき、それぞれの画像を画面に表示する際の表示領域を設定する。設定された表示希望座標情報は、CPU310に渡される。なお、座標情報管理部314は、CPU310上で動作するプログラムで実現することが可能である。
多機能電子ゲーム機301について、より詳細に説明する。CPU350は、ROM351に予め記憶されたプログラムや、画像生成部360のドライブ装置(図示しない)で光ディスクなどの記録媒体から再生されたプログラムなどに基づき、RAM352をワークメモリとして用いて、この多機能電子ゲーム機器301の各部を制御する。
通信I/F353は、HDMIケーブル302によるデータ通信に対応し、CPU350の制御に基づき、HDMIケーブル302を介して外部の機器と通信を行うことができる。通信I/F354は、多機能電子ゲーム機器301に対して専用的に用いられるコントローラ370を接続するためのインターフェイスである。コントローラ370は、ジョイスティックや所定に配置されたボタンなど、ゲームなどを操作するために用いて好適な操作子が設けられる。また、通信I/F355は、例えばTCP/IP(Transmission Control Protocol/Internet Protocol)といったプロトコルに対応し、インターネットと接続して通信を行うことができるようにされている。
画像生成部360は、CPU350の制御に基づき画像を生成する。例えば、画像生成部360は、DVD、Blu−ray Discなどの着脱可能なディスク状記録媒体に対応するドライブ装置を有し、記録媒体から再生された画像を出力することができる。記録媒体は、ディスク状記録媒体に限られず、ハードディスクや半導体メモリであってもよい。また、記録媒体からゲームソフトなどのプログラムを再生し、このプログラムに基づくCPU350の制御により、CG画像などを生成し出力することができる。さらに、画像生成部360は、通信I/F355を介してなされる通信により得られたデータに基づき画像を生成し、出力することができる。
画像処理部361は、画像生成部360で生成された画像に対して、CPU350の制御に基づき所定に加工処理を施すことができる。例えば、画像処理部361は、CPU350の制御に基づき、画像生成部360で生成された画像のうち所定範囲に対して拡大縮小といったサイズ変更、移動などの加工処理を施すことができる。画像処理部361から出力された画像は、HDMIケーブル302を介してディジタルテレビジョン受像機300に入力され、合成部330に入力される。
多機能電子ゲーム機器301は、単体での動作としては、記録媒体から再生された映画などの映像コンテンツを出力して表示装置に映出させたり、同じく記録媒体から再生されたゲームソフトを実行し、ゲームソフトによる画面を表示装置に映出させることができる。ゲームソフトによる画面は、一般的には、複数のウィンドウを以て構成される。
また、多機能電子ゲーム機器301は、通信I/F355によりインターネットを介して通信して得られたデータに基づく表示を行うことができる。例えば、多機能電子ゲーム機器301は、HTML(Hyper Text Markup Language)を用いた言語など、所定の言語で記述されたファイルを閲覧するためのソフトウェア(ブラウザと称する)を予めROM351に記憶し、インターネットを介して当該言語で記述されたファイルにアクセスし、ファイルの記述に従った表示などを行うことができる。
さらに、多機能電子ゲーム機器301は、インターネットを介して他のユーザと通信を行い、複数ユーザで1のゲームをプレイすることができるようにされている。この場合、参加ユーザで1の画面を共有する場合と、参加ユーザ毎に画面が設けられる場合とが考えられる。参加ユーザ毎に画面が設けられる場合には、例えば、参加ユーザ毎の画面がそれぞれウィンドウ画像として、1の画面に同時に表示することが考えられる。
さらにまた、多機能電子ゲーム機器301は、例えばソースが異なる画像について、それぞれウィンドウ画像として1の画面に同時に表示させることができる。インターネットを介してアクセスされたWebサイトなどによるデータに関しては、異なる複数のサイトによるデータについて、1の画面に同時に表示させることができる。
このようなシステムにおける一例の動作について説明する。ディジタルテレビジョン受像機300は、HDMIケーブル302による多機能電子ゲーム機器301の接続を検出すると、多機能電子ゲーム機器301との間で所定のプロトコルで通信を行い、機器の識別を行う。座標情報管理部314は、CPU310の制御に基づき通信I/F313により多機能電子ゲーム機器301と通信を行い、表示希望座標情報を要求する。
ここで、多機能電子ゲーム機器301側では、通信I/F355によりインターネットと接続し、インターネットを介して複数のユーザと通信を行い、複数ユーザ参加のゲームを実行すると共に、インターネットを介して商品購入を行うためのショッピングサイトの閲覧を行っているものとする。複数ユーザ参加のゲームでは、ユーザ毎のウィンドウ画像が1の画面に同時に表示される。また、ショッピングサイトは、複数の商品がそれぞれ別のウィンドウ画像に表示される。さらに、多機能電子ゲーム機器301は、例えば操作のナビゲーションなどを行うようにされた人物キャラクタの画像がCGにより描画され表示される。一例として、多機能電子ゲーム機器301は、ゲームによるウィンドウ画像を3個、ショッピングサイトによるウィンドウ画像を3個、ナビゲーション画像によるウィンドウ画像を1個、1画面に表示させる。
多機能電子ゲーム機器301は、このように複数のウィンドウ画像からなる画面を表示するための表示希望座標を求め、表示希望座標情報としてHDMIケーブル302を介してディジタルテレビジョン受像機300に送信する。この表示希望座標情報は、ディジタルテレビジョン受像機300において通信I/F313で受信され、CPU310を介して座標情報管理部314に渡される。
一方、ディジタルテレビジョン受像機300では、チューナ部320から出力されるディジタルテレビジョン放送による画面を表示部331に表示させる。チューナ部320またはCPU310は、このディジタルテレビジョン放送による画面を表示するための表示希望座標を求め、座標情報管理部314に渡す。
座標情報管理部314は、多機能電子ゲーム機器301から供給された表示希望座標情報と、このディジタルテレビジョン受像機300自身による表示希望座標情報と、表示部331による解像度の情報とに基づき、チューナ部320から出力される画像を表示するための表示領域Aと、多機能電子ゲーム機器301から出力される画像を表示するための表示領域Bとをそれぞれ設定する。表示領域Aと表示領域Bとは、1画面内において互いに重ならないように設定される。表示領域Aおよび表示領域Bの決定に際して、例えばROM311に予め記憶されているテンプレートを用いることができる。
ここでは、チューナ部320から出力されるディジタルテレビジョン放送による画像をメイン画像とし、メイン画像を配置する領域Aを画面内で最も優先度の高い位置(左上側)に、大きなサイズで設定し、残りの逆L字型の領域を、多機能電子ゲーム機器301から出力される画像が表示される表示領域Bに設定するものとする。表示領域Bを示す情報は、CPU310を介してチューナ部320に渡される。表示領域Aを示す情報は、HDMIケーブル302を介して多機能電子ゲーム機器301に送信される。
ディジタルテレビジョン受像機300において、CPU310は、表示領域Bを示す情報に基づきチューナ部320を制御し、ディジタルテレビジョン放送による画像が表示領域A内に表示されるように、当該画像に対して拡大縮小といったサイズ変更、移動処理などの加工処理を施す。
図59Bは、ディジタルテレビジョン受像機300において加工処理された一例の画像402を示す。ディジタルテレビジョン放送による1920画素×1080ラインの画像に対して、表示領域Aのサイズに収まるように所定に縮小処理が施され、さらに左上方向に移動されて画像403とされる。
同様に、多機能電子ゲーム機器301において、CPU350は、受信された表示領域Aを示す情報に基づき画像生成部360および画像処理部361を制御し、多機能電子ゲーム機器301が表示すべきウィンドウ画像が表示領域B内に表示されるように、画像生成部360で生成されるウィンドウ画像に対して拡大縮小といったサイズ変更処理、移動処理などの加工処理を施す。
図59Aは、多機能電子ゲーム機器301において加工処理された一例の画像400を示す。逆L字型の表示領域Bにおける縦長の領域に、上から、各参加ユーザのゲーム画面によるウィンドウ画像401A、401Bおよび401Cが配置される。当該多機能電子ゲーム機301のユーザによるゲーム画面は、一番上のウィンドウ画像401Aであるものとする。一方、逆L字型の表示領域Bにおける横長の領域に、左から、ショッピングサイトによるウィンドウ画像401D、401Eおよび401Fがそれぞれ配置される。画像400の左下隅の領域には、ナビゲーション画像を表示するウィンドウ画像401Gが配置される。
多機能電子ゲーム機器301は、画像生成部360において予め、それぞれのウィンドウ画像401A〜401Gをそれぞれのサイズおよび配置で作成することができる。この場合、各ウィンドウ画像401A〜401Gを、それぞれのサイズに合わせた解像度で生成することができるので、画質的に有利である利点がある。これに限らず、画像生成部360で所定に生成されたそれぞれのウィンドウ画像401A〜401Gを、画像処理部361でそれぞれのサイズおよび配置になるように加工処理することもできる。
これら多機能電子ゲーム機器301による画像400と、ディジタルテレビジョン受像機300のチューナ部320による画像402とが合成部330で所定に合成され、図59Cに示されるような、1枚の画像404とされる。この画像404が表示部331により表示される。
ユーザは、例えばリモートコントロールコマンダ340を操作することで、ディジタルテレビジョン受像機300や多機能電子ゲーム機器301の動作を制御することができる。すなわち、リモートコントロールコマンダ340は、ユーザ操作に応じて制御信号を生成し、この制御信号を赤外線信号に変調して送信する。この赤外線信号は、ディジタルテレビジョン受像機300のIR I/F315に受信されて復調され、得られた制御信号がCPU310に供給される。CPU310は、制御信号に基づき画面に表示されるカーソルの表示制御を行うと共に、カーソルの表示位置に応じて、ディジタルテレビジョン受像機300自身の制御を行ったり、多機能電子ゲーム機器301に対してカーソル位置情報の送信などを行う。
一例として、図59Cの画像404に例示されるように、ウィンドウ画像401Eにカーソル405が表示されている場合について考える。この場合、リモートコントロールコマンダ340に対してなされる所定の操作による制御信号の制御対象が、ウィンドウ画像401Eが表示される表示領域Bに対応した機器である、多機能電子ゲーム機器301とされている。例えば、ユーザがリモートコントロールコマンダ340に対して所定の操作、例えば決定を指示するためのキー(決定キーと称する)を操作することで、ウィンドウ画像401Eに表示されるショッピングサイトの情報に基づき、インターネットを介してのオンラインショッピングを実行することができる。
すなわち、リモートコントロールコマンダ340の決定キーの操作に応じた制御信号がCPU310に渡されると、CPU310は、座標情報管理部314を制御し、画面に表示されるカーソル405の表示位置に基づき、当該制御信号による制御対象となる機器を判断する。図59Cの画像404の例では、表示領域B内のウィンドウ画像401Eにカーソル405が表示されていることがCPU310に検出され、対象機器が多機能電子ゲーム機器301であると判断される。CPU310は、通信I/F313を制御してこの制御信号をHDMIケーブル302を介して多機能電子ゲーム機器301に送信する。
多機能電子ゲーム機器301では、HDMIケーブル302を介して送信された制御信号を通信I/F353で受信し、CPU350に渡す。CPU350は、この制御信号に基づき、通信I/F355によりインターネット上のショッピングサイトにアクセスし、所定にショッピング情報を取得する。CPU350は、画像生成部360に対して取得されたショッピング情報に基づく画像を生成するように要求する。
なお、ディジタルテレビジョン受像機300は、多機能電子ゲーム機器301に割り当てられた表示領域B内に表示されたウィンドウ画像401A〜401Gにカーソル405が表示され、決定キーが操作された際に、カーソル405が表示されたウィンドウ画像(図59Cの例ではウィンドウ画像401E)を、画面におけるメインの表示となるように、各画像の配置やサイズなどを変更することができる。この図59Cの例では、ウィンドウ画像401Eとディジタルテレビジョン放送による画像403とを入れ替えることが考えられる。さらに、入れ替えられた画像403’を画面下側において左端に移動させ、画像403’、ウィンドウ画像401D、ウィンドウ画像401Fの順に並べ替えてもよい。CPU310は、例えば用いるテンプレートを変更することで、画像の入れ替えを行うことができる。
画像の位置およびサイズ、または、表示領域の変更通知が、CPU310からHDMIケーブル302を介して多機能電子ゲーム機器301に対して送信される。多機能電子ゲーム機器301は、この変更通知に基づき、画像生成部360や画像処理部361における画像生成処理や加工処理を行う。また、変更通知は、CPU310からチューナ部320にも供給される。チューナ部320でも同様に、この変更通知に基づきディジタルテレビジョン放送による画像の加工処理などを行う。
別の例として、図59Cに示されるように、多機能電子ゲーム機器301に割り当てられた表示領域B内のウィンドウ画像401Eにカーソル405が表示されているときに、例えばリモートコントロールコマンダ340を操作してカーソル405をウィンドウ画像401Aまで移動させ、決定キーを操作することを考える。例えば、ユーザは、ウィンドウ画像401Bおよび401Cに表示される、ゲームの他の参加ユーザによるプレイ画像を見て、自分もそのゲームをプレイしたいと思ったとする。
カーソル405を移動させるために、リモートコントロールコマンダ340の方向キーが所定に操作される。リモートコントロールコマンダ340に対する操作に応じた制御信号がIR I/F315からCPU310に渡される。CPU310は、方向キーによる指示と、カーソル405の位置とに基づきカーソル405が存在する表示領域を判断し、カーソル405が表示領域Bに存在すると判断されれば、表示領域Bに対応する機器、すなわち多機能電子ゲーム機器301に対してウィンドウ画像のフォーカス情報または方向キーより指示された方向を示す情報をHDMIケーブル302を介して送信する。
多機能電子ゲーム機器301は、HDMIケーブル302を介して送信されたこの情報を受信し、CPU350に渡す。CPU350は、受信された情報に基づき、カーソル405を表示するための画像をウィンドウ画像401A〜401G間で所定に移動させるように、画像処理部361を制御する。
リモートコントロールコマンダ340に対するユーザの操作により、目的のウィンドウ画像401Aにカーソルが移動されると、例えば決定キーが操作される。決定キーの操作に応じた制御信号がIR I/F315からCPU310に渡される。CPU310は、カーソル405の位置に基づきカーソル405が表示領域Bに存在すると判断されれば、決定キーが操作された旨を多機能電子ゲーム機器301に対してHDMIケーブル302を介して送信すると共に、例えば用いるテンプレートを変更するなどにより、ウィンドウ画像401Aとチューナ部320から出力されるディジタルテレビジョン放送による画像403とを入れ替えるように、表示領域Aおよび表示領域Bを再設定する。再設定された表示領域Bを示す情報も、HDMIケーブル302を介して多機能電子ゲーム機器301に送信される。
多機能電子ゲーム機器301は、HDMIケーブル302を介して送信されたこれらの情報を受信し、CPU350に渡す。CPU350は、表示領域Bを示す情報に基づき、ウィンドウ画像401Aをゲームをプレイするのに適した所定サイズで生成や加工処理を行うように、画像生成部360および画像処理部361を制御する。また、ゲームソフトをユーザが操作可能に制御する。
なお、この場合において、ユーザは、ゲームの操作を、コントローラ370を用いて行うのみならず、リモートコントロールコマンダ340を用いて行うことも可能とされる。すなわち、リモートコントロールコマンダ340の所定のキーと、ゲームを操作するためのコマンドとを、ゲームソフト側で予め対応付けておく。これに限らず、例えば、リモートコントロールコマンダ340の所定のキー操作をゲームソフトを操作するためのコントローラ370のキー操作に変換するテーブルを、ROM351などに予め記憶しておいてもよい。リモートコントロールコマンダ340の所定のキーの操作に応じた制御信号が、ディジタルテレビジョン受像機300からHDMIケーブル302を介して多機能電子ゲーム機器301に対して送信され、CPU350に渡される。CPU350は、渡された制御信号を所定に解釈し、ゲームソフトを制御する。
このように、この発明を適用することで、例えばディジタルテレビジョン受像機300と多機能電子ゲーム機器301とを、1本のHDMIケーブル302で接続するだけで、ディジタルテレビジョン受像機300と多機能電子ゲーム機器301との間での制御対象の切り換えや、ウィンドウ画像の表示切り換えなど、様々な機能を実現することができる。
ここでは、この発明の応用例を、実施の第1の形態に基づき説明したが、これはこの例に限定されない。すなわち、上述した応用例は、実施の第1の形態の第1の変形例や第2の変形例にも同様にして適用することができる。
また、上述の応用例は、実施の第2の形態、ならびに、実施の第2の形態の変形例にも同様にして適用することができる。応用例を実施の第2の形態や、第2の形態の第1および第2の変形例に適用させた場合には、多機能電子ゲーム機器301側や、チューナ部320において画像の拡大縮小といったサイズ変更処理、移動処理などを行わずに済むため、特に多機能電子ゲーム機器301において、コストが節約できる利点がある。一方、画面に表示される各画像は、一旦、元のサイズで生成されてから、合成時に拡大縮小といったサイズ変更処理、移動処理などなされるため、応用例を実施の第1の形態に適用させた場合よりも、画像毎の解像度の点で不利になる。
さらに、この発明の応用例を、上述の実施の第3の形態や第3の形態の変形例に適用することも可能である。この場合には、多機能電子ゲーム機器301側がディジタルテレビジョン受像機300との間のデータ通信に対応している必要が無く、また、多機能電子ゲーム機器301とディジタルテレビジョン受像機300とがHDMIケーブル302で接続されていなくてもよく、汎用性に優れているという利点がある。但しこの場合、ディジタルテレビジョン受像機300と多機能電子ゲーム機器301との間でデータ通信が行われないため、ディジタルテレビジョン受像機300に対応するリモートコントロールコマンダ340で、多機能電子ゲーム機器301を制御することができない。多機能電子ゲーム機器301は、コントローラ370で操作することになる。
さらにまた、上述では、この発明の実施の第1〜第3の形態、ならびに、各変形例をそれぞれ独立的な実施例として説明したが、これはこの例に限定されない。すなわち、上述した実施の第1〜第3の形態、ならびに、各変形例は、表示領域の管理および設定を行う主体が同一であれば、それぞれ組み合わせて実施することが可能である。例えば、上述した実施の第1、第2および第3の形態は、組み合わせて実施することが可能である。同様に、上述した実施の第1の形態の第2の変形例、実施の第2の形態の変形例および実施の第3の形態の変形例は、組み合わせて実施することが可能である。
なお、上述した実施の第1の形態から第3の形態、各実施形態の変形例、ならびに、この発明の応用例で説明した各構成などは、この発明を実施可能とするための例であって、この発明は、上述の構成の他に様々な構成で実施することが可能であって、上述の各例に限定されるものではない。