JP5725604B2 - 表示装置、電子機器、及び機器制御システム - Google Patents

表示装置、電子機器、及び機器制御システム Download PDF

Info

Publication number
JP5725604B2
JP5725604B2 JP2010291573A JP2010291573A JP5725604B2 JP 5725604 B2 JP5725604 B2 JP 5725604B2 JP 2010291573 A JP2010291573 A JP 2010291573A JP 2010291573 A JP2010291573 A JP 2010291573A JP 5725604 B2 JP5725604 B2 JP 5725604B2
Authority
JP
Japan
Prior art keywords
data
electronic device
operation panel
display
display device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010291573A
Other languages
English (en)
Other versions
JP2012138866A (ja
Inventor
小田 守
守 小田
達司 齋藤
達司 齋藤
剛士 松下
剛士 松下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2010291573A priority Critical patent/JP5725604B2/ja
Publication of JP2012138866A publication Critical patent/JP2012138866A/ja
Application granted granted Critical
Publication of JP5725604B2 publication Critical patent/JP5725604B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Description

本発明は、表示装置、電子機器、及び機器制御システムに関し、表示装置に接続された電子機器を表示装置によって操作可能とした機器制御システムと、該機器制御システムを構成する表示装置、及び電子機器に関する。
従来、テレビ装置(TV)などの表示装置に対して、レコーダ、プレーヤ、STB(Set Top Box)、AVアンプなどの電子機器を被制御機器として接続し、表示装置に対する操作によって被制御機器を操作することが行われている。
例えば、特許文献1には、画面上に被制御機器を操作するための操作パネルを表示するテレビ受像機が記載されている。このテレビ受像機の場合、リモコンのメニュー表示キーが押下されると、テレビ受像機に接続された被制御機器として、VTR、VHD、BSチューナ、文字多重受信機などが選択可能に画面表示される。そして、ユーザがリモコンを操作して、いずれかの被制御機器を選択すると、選択した被制御機器の操作パネルがテレビの画面上に表示される。そしてテレビに対する操作により、その被制御機器の操作を行うことができる。
特開昭62−21379号公報
しかしながら、特許文献1のテレビ受像機は、被制御機器の操作パネルを予めテレビ側で準備しておき、ユーザの指示に従って被制御機器の操作パネルを切り換えて表示するようになっている。このとき、テレビ側では特定の被制御機器のみの操作パネルを予め保持しているため、特定の被制御機器が接続された場合には、対応する操作パネルを自身の表示画面に表示させることができるが、これ以外の他の被制御機器が接続された場合にはその操作パネルを表示させることができない。つまり、テレビ受像機は、常に決まった被制御機器しか操作することができないという課題が生じる。
このように、特許文献1の技術によれば、テレビ等の表示装置から被制御機器を操作する場合、表示装置が予め保持する操作パネルに対応した被制御機器に限定されてしまうため、ユーザからすると、新たな被制御機器を表示装置に接続しても、その被制御機器を表示装置から操作できない場合があり、表示装置による機器の操作における拡張性に乏しいという問題があった。
本発明は、上述のごとき実情に鑑みてなされたもので、表示装置と電子機器とを接続し、電子機器を被制御機器として表示装置から操作するようにしたシステムにおいて、表示装置側で操作パネルを保持しているか否かに係らず、電子機器毎に操作パネルをカスタマイズして表示可能とすることで、電子機器の操作における拡張性を高めることができるようにした表示装置、電子機器、及びこれらを備えた機器制御システムを提供することを目的とする。
上記課題を解決するために、本発明の第1の技術手段は、外部接続した電子機器を操作するための操作パネルを表示する表示部を有する表示装置であって、前記操作パネルを表示するためのデータ及び表示した前記操作パネルに対する操作に応じたコマンドを生成するためのデータを、スタックデータとして一括して受信する受信部と、ユーザによる操作入力を受け付ける操作入力部と、受信した前記スタックデータに含まれる前記操作パネルを表示するためのデータから、前記操作パネルの表示画像を生成して前記表示部に表示し、該表示した操作パネルに対する前記操作入力部による操作入力に応じて、前記電子機器を制御する所定のコマンドを生成して前記電子機器に送信する制御を行う制御部と、を有し、前記スタックデータは、前記操作パネルに含まれるエンティティのデータと、該エンティティに関連付けられる複数のイベントを含むイベントリストと、該イベントリストの各イベントにそれぞれ関連付けられたコマンドリストを含み、前記制御部は、前記スタックデータを受信すると、該受信したスタックデータと共に、該スタックデータの送信元の電子機器のアドレスを関連付けて保持し、前記操作入力に応じて生成する前記所定のコマンドに対応した処理として、HDMIに基づくCECメッセージの送信もしくはHECを通じたメッセージの送信が規定されている場合、CECメッセージは前記電子機器の送信元のアドレスとして保持されているCECアドレスに対して送信し、HECを通じたメッセージは前記電子機器の送信元のアドレスとして保持されているIPアドレスに対して送信することを特徴とする表示装置である。
第2の技術的手段は、第1の技術手段において、前記スタックデータが、操作パネルの表示の遷移を指示するデータを含み、前記制御部は、前記操作入力部による操作入力に応じて、前記操作パネルの表示を遷移させることを特徴とする表示装置である。
第3の技術手段は、第2の技術手段において、前記制御部は、前記表示部に表示された操作パネルの特定のエンティティが前記操作入力部により選択され、特定の操作が行われた場合、当該エンティティの特定の操作に応じて関連付けられているイベントを前記イベントリストから抽出し、該抽出したイベントに関連付けられるコマンドリストに定義されたコマンドを実行することにより、前記電子機器を操作するコマンドの前記電子機器への送信、および/または前記操作パネルの表示の遷移を行うことを特徴とする表示装置である。
第4の技術手段は、第3の技術手段において、前記スタックデータが、1または複数のカードデータからなり、各前記カードデータは、1または複数のエンティティのデータからなり、各エンティティのデータは、当該エンティティの表示位置および大きさを示すデータと、当該エンティティに関連付ける前記イベントリストを示すデータと、当該エンティティの表示画像を生成するためのデータとを含み、前記制御部は、前記カードデータごとに生成した表示画像を合成して、前記操作パネルとして前記表示部に表示することを特徴とする表示装置である。
第5の技術手段は、第4の技術手段において、前記イベントに関連付けられるコマンドとして、複数のカードデータうちの一部のみを他のカードデータに遷移させ、残りのカードデータを共通カードデータとして使用して操作パネルの表示画像を合成するコマンドを含むことを特徴とする表示装置である。
第6の技術手段は、電子機器を操作するための操作パネルを外部接続した表示装置に表示させ、該表示装置に対する操作入力に応じて所定の動作を実行する電子機器であって、
前記操作パネルを表示するための情報をスタックデータとして一括して送信する送信部と、入力した操作信号に基づいて前記電子機器で所定の動作を実行する制御部とを有し、前記スタックデータは、前記操作パネルに含まれるエンティティのデータと、該エンティティに関連付けられる複数のイベントを含むイベントリストと、該イベントリストの各イベントにそれぞれ関連付けられたコマンドリストを含み、前記電子機器は、前記表示装置で生成される前記コマンドに対応した処理として、HDMIに基づくCECメッセージの送信もしくはHECを通じたメッセージの送信が規定されている場合、CECメッセージは前記電子機器のCECアドレスで受信し、HECを通じたメッセージは前記電子機器のIPアドレスで受信することを特徴とする電子機器である。
第7の技術手段は、第6の技術手段において、前記スタックデータが、前記表示装置で前記操作パネルを表示する際に、操作パネルの表示の遷移を指示するデータを含むことを特徴とする電子機器である。
第8の技術手段は、第7の技術手段において、前記スタックデータが、前記表示装置で特定のエンティティが選択され、特定の操作が行われたときに、当該エンティティの特定の操作に応じて関連付けられているイベントを前記イベントリストから抽出し、該抽出したイベントに関連付けられるコマンドリストに定義されたコマンドを実行することにより、前記電子機器を操作するコマンドの前記電子機器への送信、および/または前記操作パネルの表示の遷移を可能とするデータであることを特徴とする電子機器である。
第9の技術手段は、第8の技術手段において、前記スタックデータが、1または複数のカードデータからなり、各前記カードデータは、1または複数のエンティティのデータからなり、各エンティティのデータは、当該エンティティの表示位置および大きさを示すデータと、当該エンティティに関連付ける前記イベントリストを示すデータと、当該エンティティの表示画像を生成するためのデータとを含み、前記表示装置で前記カードデータごとに生成した表示画像を合成して、前記操作パネルとして表示可能とするデータであることを特徴とする電子機器である。
第10の技術手段は、第9の技術手段において、前記イベントに関連付けられるコマンドとして、複数のカードデータうちの一部のみを他のカードデータに遷移させ、残りのカードデータを共通カードデータとして使用して操作パネルの表示画像を合成するコマンドを含むことを特徴とする電子機器である。
第11の技術手段は、第1〜5のいずれか1の技術手段の表示装置と、第6〜10のいずれか1の技術手段の電子機器とからなる機器制御システムであって、前記電子機器の操作パネルを前記表示装置に表示し、該表示装置で表示した操作パネルに対する操作入力に応じて、前記電子機器が所定の動作を実行することを特徴とする機器制御システムである。
本発明によれば、表示装置と電子機器とを接続し、電子機器を被制御機器として表示装置から操作するようにしたシステムにおいて、表示装置側で操作パネルを保持しているか否かに係らず、電子機器毎に操作パネルをカスタマイズして表示可能とすることで、電子機器の操作における拡張性を高めることができる。
特に本発明によれば、電子機器の操作パネルを表示装置で表示するための情報をスタックデータとして、電子機器から表示装置に一括して送信しておくことにより、操作パネルの画面遷移や描画を行う毎に、電子機器と表示装置との間で通信を行う必要がなくなり、通信負荷や電子機器の処理負荷を軽減することができ、処理能力の低い電子機器であってもカスタマイズされた操作パネルを表示装置に表示させることができ、これにより表示装置に対する操作によって、電子機器を制御することができる。
本発明に係る機器制御システムの構成例を示す図である。 本発明に係る機器制御システムの構成例を説明するためのブロック図である。 表示装置における操作パネルの表示領域の設定例を説明するための図である。 スタックデータの構成例を説明するための図である。 図4のスタックデータに基づく操作パネルの描画状態を説明する図である。 特定のエンティティに関連付けられるイベントリストと、そのイベントリストに応じたコマンドリストの例を説明する図である。 図6のイベントAによって、カード2へ遷移したときの操作パネルの描画状態を説明する図である。 スタックデータのカード間遷移について説明する図である。 表示装置が有する描画バッファを説明する図である。 テレビ装置として構成した表示装置において、チューナの映像を視聴中にリモートUIを表示する処理について説明するための図である。 テレビ装置として構成した表示装置において、外部入力画像を視聴中にリモートUIを表示する処理について説明するための図である。 テレビ装置として構成した表示装置において、チューナの映像を視聴中に外部入力によるリモートUIを表示する処理について説明するための図である。
図1は、本発明に係る機器制御システムの構成例を示す図である。機器制御システムは、操作対象となる電子機器10と、電子機器10に接続ケーブル40を用いて接続する表示装置20とを備える。電子機器10及び表示装置20は、それぞれ本発明の電子機器及び表示装置の一実施形態に該当し、これら電子機器10及び表示装置20を有するシステムが本発明の機器制御システムの一実施形態に該当する。
表示装置20としては、例えばテレビ装置やコンピュータ装置等が適用できる。また、電子機器10としてはテレビ装置に接続されるレコーダやプレーヤ、STB(set top box)、AVアンプなどのAV機器を始め、洗濯機、エアコン、掃除機、空気清浄器や加湿器、除湿器、イオン発生装置、携帯電話機、フォトプレーヤ、プロジェクタ、電子レンジ、炊飯器、複合機や複写機、ドアホンなど各種の電子機器を適用することができる。また、電子機器10は、表示装置20に対する周辺機器として位置付けることができる。
機器制御システムは、表示装置20に対して電子機器10を接続し、電子機器10の操作を行うための操作パネルを表示装置20の表示画面に表示させる。そして、表示装置20の操作を行うためのリモコンRによって表示装置20の操作パネルを操作することにより、その操作パネルに該当する電子機器10の操作を行うことができる。表示装置20は、電子機器10をリモートで操作するためのものであるため、この操作パネルをリモートUI(User Interface)ともいう。
表示装置と電子機器との接続インタフェースは特定の方式やシステムに限定されることなく、操作パネルの画像データや制御データ等が送受信可能なものを適宜採用することができる。例えば、HDMI(High Definition Multimedia Interface)、IEEE1394、LAN(Local Area Network)、電力線通信(PLC:Power Line Communications)、無線通信、光通信などを利用することができる。HDMIの規格としては、従来からHDMI CEC(Consumer Electronics Control)が知られているが、2009年5月28日付けで発表されたバージョン1.4から、HDMIケーブル上でイーサネット(登録商標)信号の双方向通信を行うHDMI Ethernet(登録商標) Channel(以下HDMI HECという)の機能が追加されている。以下の本例では、HDMI HECの規格に適合するインタフェースによって接続する例を説明する。
本例では、接続ケーブル40は、HDMI HEC対応のHDMIケーブルであって、ケーブル一本で映像・音声信号の伝送や、イーサネット(登録商標)信号の伝送、機器間制御用のコマンドを伝送することができる。
HDMIは、TVなどの表示機器とレコーダなどの電子機器間をデジタル接続するためのデジタルインタフェースであり、PCとディスプレイの接続標準規格であるDVIに音声伝送機能や著作権保護機能を加えて、電子機器向けにアレンジしたものとなっている。従来は機器間の接続にビデオ、オーディオ,コントロールの各信号用の複数のケーブルを用いていたが、HDMIではケーブル1本で済むために、機器間の配線を簡略化することができる。
HDMIに関する規格は規格化団体であるHDMI Licensing,LLCにより2002年12月に基本仕様が策定され(HDMI規格バージョン1.0)、2005年12月(HDMI規格バージョン1.2a)において電子機器間のコントロールを行うための制御プロトコルとしてCEC(Consumer Electronics Control)の規定が追加された。
なお、CECに関する用語は、HDMI規格の「2.2 Glossary of Terms」,「CEC 2.2 Glossary of Terms」他に定義されており、HDMI入力端子を持ちAVストリームを表示出力するものはシンク(Sink)機器と、HDMI出力端子を持ちAVストリームを出力するものはソース(Source)機器と、HDMI入力端子と出力端子を持ちAVストリームの入出力(転送)を行うものはリピータ(Repeater)機器と定義されている。
HDMI規格ではCECを使った機器間制御が定義されている。CECによれば、HDMIネットワーク上に存在する各機器に割り当てられる固有の物理アドレスと論理アドレスに基づいて様々な制御を可能としている。例えば、ユーザがテレビでデジタル放送を視聴しているときに、HDMIで接続されたDVDプレーヤを再生すると、テレビは自動的にDVDプレーヤの接続された入力に切り換える。また、このDVDプレーヤで表示しているメニュー操作や、電源のオン/オフなどをテレビのリモコンから操作することができる。
図2は、本発明に係る機器制御システムの構成例を説明するためのブロック図である。
HDMI HEC規格を適用する接続ケーブル40は、デジタル信号である映像・音声ストリームを差動方式で伝送するTMDS(Transition Minimized Differential Signaling)ライン41と、機器間で共通の制御信号(CECメッセージ)を伝送する双方向バスであるCECライン42と、イーサネット(登録商標)信号の双方向通信を行うHECライン43とを含んでいる。またこの他HDMIケーブル40には、EDID(Extended Display Identification Data)の送信や、HDCP(High-bandwidth Digital Content Protection system)認証等に利用されるI2Cラインが含まれる。
電子機器10は、HDMIトランスミッタ11、メインマイコン12、フロントマイコン13、CECI/F14、通信I/F15、リモコン受光部16、HDMIコネクタ17、LAN I/F18、及び記憶部19を備えている。
HDMIトランスミッタ11は、HDMIコネクタ17を介して接続ケーブル40内のTMDSライン41と接続され、音声信号が映像信号のブランキング期間に挿入されたHDMI形式のストリームをTMDSライン41によって表示装置20へ伝送する。ストリームの映像・音声信号は、例えばBDやDVDなどの記録メディアに記録されている映像・音声信号を用いることができ、あるいは撮像装置によって撮像した映像信号やマイクによって取得した音声信号等を用いることができる。これらの映像・音声信号のソースは、電子機器の種類によって異なる。メインマイコン12は、装置全体を制御するメインCPUであって、HDMIコントローラを含み、HDMIトランスミッタ11及びLAN I/F18の動作を制御する。
CEC I/F14は、HDMIコネクタ17を介して接続ケーブル40内のCECライン42と接続され、表示装置20との間でCECメッセージの双方向通信を可能とする。CEC I/F14の動作は、CECコントローラを含むフロントマイコン13により制御され、CECメッセージによってHDMI接続された機器を制御することができる。CECの場合、HDMI接続された各機器の論理アドレス(機器の種別)と物理アドレス(機器の位置)が取得されるため、これらの論理アドレスと物理アドレスを指定することで所望の機器にCECメッセージを送信することができる。
フロントマイコン13は、低電力で動作し、常にCECライン42から転送されてくるCECメッセージを監視する。フロントマイコン13は、サブCPUであって、図示しないリモコン装置からのリモコン信号を受信するリモコン受光部16を制御している。そして装置のスタンバイモードなどにおいてメインマイコン12の電源がオフされているときでも、フロントマイコン13が動作し、CECメッセージの送受信とリモコン信号の受信とが可能な状態で維持している。
通信I/F15は、HDMI以外で表示装置20との通信を行うためのもので、例えば、IEEE1394や、LAN、PLC、無線通信、光通信などの通信手段により表示装置20と接続することもできる。
また、LAN I/F18は、HDMIコネクタ17を介して接続ケーブル40内のHECライン43と接続され、表示装置20との間でイーサネット(登録商標)信号の双方向通信を可能とする。このLAN I/F18は、HDMIトランスミッタ11に内蔵されていてもよい。
記憶部19は、HDMIにおける論理アドレス、物理アドレスを記憶すると共に、後述する操作ボタンを表示装置20で表示させるためのスタックデータを記憶するEEPROM(Electrically Erasable and Programmable Read Only Memory)などの不揮発性メモリである。記憶部19は、フロントマイコン13あるいはメインマイコン12にアクセスされ、データの読み出しや書き込みが実行される。なお、記憶部19は、EEPROMに限定されず、例えば、HD(ハードディスク)や、フラッシュメモリなどであってもよい。
上記のメインマイコン12,HDMIトランスミッタ11及びHDMIコネクタ17によって本発明の送信部が実現される。また、メインマイコン12が本発明の制御部に該当し、リモコン部Rが本発明の操作入力部に該当する。
一方、表示装置20は、メインマイコン21、HDMIレシーバ22、モニターマイコン23、CEC I/F24、通信I/F25、リモコン受光部26、HDMIコネクタ27、LAN I/F28、記憶部29、表示部30、リモートUIパケットフィルタ31、リモートUIアクセラレータ32、及びリモートUIバッファ33を備えている。
HDMIレシーバ22は、HDMIコネクタ27を介して接続ケーブル40内のTMDSライン41と接続され、電子機器10から転送されたストリームを受信する。HDMIレシーバ22はメインマイコン21に内蔵されていてもよい。
メインマイコン21は、装置全体を制御するメインCPUであって、HDMIコントローラを含み、HDMIレシーバ22及びLAN I/F28の動作を制御する。
CEC I/F24は、HDMIコネクタ27を介して接続ケーブル40内のCECライン42と接続され、電子機器10との間でCECメッセージの双方向通信を可能とする。CEC I/F24の動作は、CECコントローラを含むモニターマイコン23により制御され、CECメッセージによってHDMI接続された機器を制御することができる。
モニターマイコン23は、低電力で動作し、常にCECライン42から転送されてくるCECメッセージを監視する。モニターマイコン23は、サブCPUであって、リモコン装置Rからのリモコン信号を受信するリモコン受光部26を制御している。そして装置のスタンバイモードなどにおいてメインマイコン21の電源がオフされているときでも、モニターマイコン23が動作し、CECメッセージの送受信とリモコン信号の受信とが可能な状態で維持している。
通信I/F25は、HDMI以外で電子機器10との通信を行うためのもので、例えば、IEEE1394や、LAN、PLC、無線通信、光通信などの通信手段により電子機器10と接続することもできる。
また、LAN I/F28は、HDMIコネクタ27を介して接続ケーブル40内のHECライン43と接続され、電子機器10との間でイーサネット(登録商標)信号の双方向通信を可能とする。このLAN I/F28は、HDMIレシーバ22に内蔵されていてもよい。
記憶部29は、HDMIにおける論理アドレスや物理アドレスの他、各種データ等を記憶するEEPROMなどの不揮発性メモリである。記憶部29には、電子機器10から送信された操作パネルを表示するためのスタックデータを記憶してもよい。記憶部29は、モニターマイコン23あるいはメインマイコン21により必要に応じてアクセスされ、データの読み出しや書き込みが実行される。なお、記憶部29は、EEPROMに限定されず、例えば、HD(ハードディスク)や、フラッシュメモリなどであってもよい。
表示部30は、LCD(Liquid Crystal Display)などのディスプレイで構成される。表示装置20では、HDMIレシーバ22によりストリームの映像/音声が分離され、必要に応じて所定の映像信号処理及び音声信号処理を行って、表示部30に映像表示を行うと共に、図示しないスピーカから音声出力する。
リモートUIパケットフィルタ31は、電子機器10から送信された電子機器の操作パネルを表示するためのスタックデータを受信し、そのスタックデータから操作パネルの表示に必要なデータを抽出する。例えば、送信されたパケットデータから操作パネルの表示画像データに該当するデータを含むペイロードを抽出する処理を行う。
リモートUIアクセラレータ32は、リモートUIパケットフィルタ31で抽出したデータを描画可能な画像データに変換する。例えば、ベクトルデータやテキストデータの画像をラスタイメージデータに変換してリモートUIバッファ33に描画する。
リモートUIバッファ33は、リモートUIアクセラレータ32により描画された画像データを保持し、必要に応じてメインマイコン21に出力する。このときに、HDMIレシーバ22から出力された画像データがあれば、リモートUIバッファ33の画像データをHDMIレシーバ22から出力された画像データに加算器34により合成して、メインマイコン21に出力する。メインマイコン21は得られた画像データを表示部30に出力して、表示させる。
上記のHDMIコネクタ27は本発明の受信部に該当し、リモートUIパケットフィルタ31,リモートUIアクセラレータ32、リモートUIバッファ33、及びメインマイコン21が本発明の制御部に該当する。
上記のごとくの構成を有する機器制御システムは、電子機器10の操作を行うための操作パネルを表示装置20の表示画面に表示させ、表示装置20の操作を行うためのリモコンによって表示装置20の操作パネルを操作することにより、その操作パネルに該当する電子機器10の操作を可能としている。そして、本発明に係る実施形態の特徴として、表示装置20にて電子機器10の操作パネルを表示するために必要とするデータをスタックとして電子機器10から表示装置20に予め一括送信する。
表示装置20からのスタックデータの送信タイミングは、表示装置20で操作パネルを表示させる前に予めスタックデータを送信するものであれば、その送信タイミングを限定するものではないが、例えば、表示装置20に接続された電子機器10の電源がONになったときや、接続ケーブル40が接続されてCECなどの信号がやりとりされたとき、あるいは後述する操作パネル情報を電子機器10が表示装置20から取得したとき、などの送信タイミングを定めておくことができる。
操作パネルを表示するために必要なデータは、電子機器10が自身を操作するための操作パネルを表示装置20で表示させて操作可能とするために保持しているものであり、操作パネルの画像データや、操作パネル画像を遷移させるため情報、操作パネルの操作に応じた機器操作コマンドの生成などの処理情報などをスタックとして、電子機器10から表示装置20へ一括送信する。画像データを送信する際に、単純な図形についてはベクトルデータで送信し、テキスト表示するものについてはテキストデータで送信することによって通信負荷を軽減させる。
以後電子機器10から表示装置20に送信される操作パネルを表示するために必要とする上記のデータをスタックデータとして説明する。スタックデータの具体的な内容については後述する。
電子機器10は、予めスタックデータを記憶部19に記憶しておく。そして、表示装置20から取得した操作パネル(リモートUI)情報に応じて、記憶部19に記憶されているスタックデータを表示装置20に送信する。上記の操作パネル情報とは、表示装置20が操作パネルを表示する能力に関する情報であり、より具体的には、例えば表示装置20における操作パネルの表示領域サイズ、その表示位置、操作パネルの表示可能色に関する情報を含むものである。スタックデータは、電子機器10のLAN I/F18によって、HDMIのHECライン43を介して表示装置20に送信される。
表示装置20では、電子機器10から送信されたスタックデータを使用して、表示部30に電子機器10の操作パネルを表示する。この際、電子機器10から送信されたスタックデータから表示に必要なデータを抽出し、抽出したデータを解析して表示可能な画像データに変換し、所定の操作パネルの表示位置に操作パネルを表示させる。ユーザは、表示装置20を操作するための操作入力手段、例えばリモコンやマウス等を使用して、表示装置20に表示された操作パネルを操作することにより、電子機器10に対する操作を表示装置20側で行うことができる。
このときに、本発明に係る実施形態では、電子機器10から表示装置20に対して、操作パネルを表示するためのデータ及び表示した操作パネルに対する操作に応じたコマンドを生成するためのデータをスタックデータとして予め表示装置20に送信しておく。これにより、表示装置20でその電子機器10の操作パネルを表示するための情報を保持しているか否かにかかわらず、表示装置20は、外部接続される電子機器10に応じて操作パネルをカスタマイズさせて表示し、その操作パネルに対する操作入力に応じて電子機器10を制御することができる。また、表示装置20に接続される電子機器10が変更されたり、表示装置20に複数の電子機器10が接続された場合であっても、個々の電子機器10から送信されたスタックデータを使用して、操作対象の電子機器10を操作可能な操作パネルを表示させることができる。
図3は、表示装置における操作パネルの表示領域の設定例を説明するための図である。表示装置20では、その表示画面50に電子機器10の操作パネルを表示するための操作パネル表示領域51を予め定めておく。例えば、表示画面50の1ライン当たり(水平方向)の有効画素数が1920画素、垂直方向の有効画素数が1080画素であるものとする。ここで映像信号の表示領域のサイズを1536×1080とし、電子機器10の操作パネル表示領域51のサイズを384×810とする。また、左上隅を座標原点(0,0)とする座標系を設定し、操作パネル表示領域51の座標を(1536,270)とする。この座標は、矩形の表示領域の左上角の座標である。このようにして、表示装置20では予め電子機器10の操作パネル表示領域51を設定しておく。操作パネル表示領域51の上方の領域52は、その他の各種情報を適宜表示するための情報表示領域として使用することができる。図3の例では、サイズや座標を絶対値として指定しているが、例えば表示領域のサイズに対する相対的な割合の値を用いる、つまり操作パネル表示領域のサイズを0.2×0.75、座標を(0.8,0.25)と設定し、様々な表示領域のサイズに対応可能な構成とすることもできる。
表示装置20は、ユーザによるリモコン等を使用した所定の操作入力に従って、電子機器10の操作パネルを表示させる。このときに、操作パネルは、操作パネル表示領域51に表示させる。操作パネルの表示時に、外部入力映像やチューナで復調した映像等を画面表示させていた場合には、その映像信号を映像表示領域53の大きさに合わせてスケーリングして表示する。これにより、操作パネルと映像信号の表示画像とが重ならないようにすることができる。
次にスタックデータについてより具体的に説明する。
スタックデータは、リモートUIとして表示する操作パネルを構成するボタンやテキストなどのエンティティの種類と形式を定めるデータ、エンティティの位置とサイズを定義する座標データ、エンティティを表示するためのベクトルベースもしくはラスタベースのイメージデータ、エンティティに関連付けたイベントリストデータ、イベントリストに記載された各イベントに応じたコマンドリストデータ等で構成された、カードと呼ばれるデータ(カードデータ)の集まりである。
ここで、それぞれのカード、およびカードの集まりであるスタックのイメージデータは、直線・矩形・円など単純な図形と文字列だけであればベクトルデータやテキストデータだけで軽量に構成可能であり、複雑な画像を表示する必要がある部分に関しては、比較的データ量の多いラスタデータを含むことも可能である。
また、スタックデータを構成するカードには、状態やイベントによってカード間を遷移するカードと、1つのカードで使用する背景や、複数のカードで共通に使用する背景などを表示するためのバックグラウンドカードとがあり、操作パネルには、バックグラウンドカードとその他のカードを重ねたイメージを表示する。
例えばボタンなどの特定のエンティティには、イベントリストが関係付けられている。イベントリストには、各イベントに対応したコマンドリストが定義されている。コマンドリストには、カード間の遷移や、オブジェクト操作(描画)などの操作パネルを表示させるための基本コマンドと、エンティティに対応した処理(例えば、表示装置20や電子機器10を操作するためのコマンドなど)を実行するビヘイビアAPIコールとで構成されている。ここでイベントとは、例えばリモコンキーの押下や、電子機器10から送信されるステータス変化情報に従って、操作パネルの遷移や機器制御コマンドの発行を行うトリガとなる事象である。
図4は、スタックデータの構成例を説明するための図である。
スタックデータは、上記のように複数のカード(CARD)の集まりからなっている。各カードには、ボタンやテキスト、バックグラウンドなどの1または複数のエンティティが含まれる。各エンティティのデータとしては、カードに含まれるエンティティの名前(NAME)、カードの名称(CARD)、エンティティの種類(TYPE)、エンティティの形式(STYLE)、エンティティの位置とサイズを規定する座標(COORD)、エンティティに関連付けられたイベントリスト(EVENT LIST)、エンティティを描画するデータ(DATA)、を含んでいる。
図4において、第一行に「CARD(カードの名称)」と記された列に同じ記号が記されている行に含まれるデータ群が、同一のカードに属するエンティティの情報を保持しており、それぞれが一枚分のカードデータに相当する。図4の例では、バックグランド(BG)のカードのカードデータ(BG、BTN1、FLD1、…)と、その前に重ねて表示するCARD1のカードデータ(FG、TEXT1、BTN2、…)とがスタックデータとして示されている。
そして、バックグランドのカードには、BG(バックグランド)、BTN1(ボタン1)、FLD1(フィールド1)のエンティティがあり、それぞれのエンティティについて、その種類、形式、座標、イベントリストの情報が定められ、エンティティを描画するデータが含まれている。イベントリストは、全てのエンティティに関連付けられるものではなく、例えばBTN1(ボタン1)に関連付けられて定められる。
また、CARD1には、FG(前景)、TEXT1(テキスト1)、BTN2(ボタン2)のエンティティがあり、これらについても、それぞれのエンティティについてその種類、形式、座標、イベントリスト情報が定められ、エンティティを描画するデータが含まれている。CARD1では、イベントリストは、BTN2(ボタン2)に関連付けられて定められている。
図5は、図4のスタックデータに基づく操作パネルの描画状態を説明する図である。
上記のように図4のスタックデータには、BGとCARD1の2つのカードが記載されている。図5(A)は、BGのカードに基づき描画されたバックグランド画像(common)101を示している。ここでは、エンティティのBGによって背景が描画される。エンティティのBGは、その種類が画像データであり、形式はBG(バックグラウンド)で、その座標によって描画位置と大きさが定められる。エンティティを描画するデータはドローデータ(Draw Data)、つまりベクトルデータである。また、エンティティのBGに対しては、イベントリストは定められていなく、表示されたBGを操作しても何の動作も生じない(NOP(No Operation))。
そしてバックグランド101には、同じカード(BG)のエンティティであるBTN1(ボタン1)とFLD1(フィールド1)が、これらを指定する座標位置に従って描画される。BTN1は、形式が矩形(RECT(Rectangle))であり、ベクトルデータによって描画される。そしてBTN1には、Event List BTN1 が定義されている。また、BGのカードには、テキストデータ等を表示するためのフィールド(FLD1)が規定されている。
一方、図5(B)は、CARD1に基づく合成用画像(overlay)102を示している。CARD1では、エンティティのFG(前景)により、指定された座標位置に前景の画像データが描画される。この画像データもベクトルデータによって描画される。また、エンティティBTN2によって、指定された座標位置にBTN2(ボタン2)の画像データが表示される。BTN2はベクトルデータを用いたアイコンとして示される。また、BTN2には、イベントリストとして、Event List BTN2 が定義されている。
さらにCARD1では、エンティティのTEXT1(テキスト1)により、テキストデータによるテキストが描画される。テキストデータは、BGのカードで指定したフィールド1に描画されるようにその座標が指定されている。
図5(A)のバックグランド101は、図5(B)の合成用画像102と合成され、図5(C)に示すスタック画像(STACK IMAGE)103として描画される。
図5(D)は、表示装置20の表示画面50に図5(C)のスタック画像103を操作パネル(Remote UI)として表示した様子を示している。表示装置20では、上記のように表示画面50における操作パネル表示領域51が予め定められ、電子機器10から送信されたスタックカードに基づいて描画した操作パネルのスタック画像103を操作パネル表示領域51に表示させることができる。
図6は、特定のエンティティに関連付けられるイベントリストと、そのイベントリストに応じたコマンドリストの例を説明する図である。
スタックデータのカードに含まれるエンティティには、イベントリストが定義されているものがある。イベントリストには、さらに各イベントに対応するコマンドリストが定義されている。例えば、図4のスタックデータの例では、CARD1のBTN2にイベントリスト(Event List BTN2)が定義されている。表示装置20の表示画面に操作パネルを表示しているとき、リモコン等を用いたユーザ操作によってBTN2が選択状態となり、この状態で予め定められた特定の操作キー(例えばリモコンの十字キーや決定キー等)が押下されると、その押下したキーの操作信号に関連付けられたイベントが発生する。従って1つのエンティティに対して複数のイベントを関連付けて設定しておくことができる。
図6の例では、BTN2に対して、イベントリスト(Sensitive Event List of Button2)111が定義される。さらにこのイベントリスト111には、イベント(Event)A〜Cが定義されている。各イベントA〜Cには、それぞれコマンドリストが定義される。例えばイベントAには、コマンドリスト0(LST0)が定義され、イベントBには、コマンドリスト1(LST1)が定義され、イベントCには、コマンドリスト3(LST3)が定義される。
例えば、ユーザ操作に応じてBTN2に対するイベントAが発生したものとする。イベントリスト111に定義されるイベントAに対しては、コマンドリスト0(LST0)112が定義されていて、これを実行する。コマンドリストには、さらに実行すべきコマンドが定義されている。この例では、コマンドリスト0(LST0)112には、ボタンが押されたことを表示させる基本コマンド“push”と、表示機器20の外部入力を切り替えるビヘイビア(Behavior)API1と、電子機器に対して拡張CECコマンドを実行するビヘイビア(Behavior)API5と、カード2へ遷移する基本コマンド“go”が定義されている。ビヘイビアAPI1に記載されている“AUX1”は、表示機器20の外部入力を、電子機器10が接続されている端子に切り換える動作を示しており、ビヘイビアApI5は、拡張CECコマンドを電子機器10に送出し、例えば電子機器でコンテンツのタイトルリストを取得させる。
従って、BTN2に対してイベントAが発生した場合、表示装置20にてボタンが押されたことを示す表示を行い、電子機器10で外部入力を切り替え、電子機器10で拡張CECメッセージを実行し、表示装置20ではカード2へ遷移してそのカードに定義されるエンティティを表示する処理が行われる。
このように、表示部30に表示された操作パネルの特定のエンティティがリモコンR等の操作入力部により選択され、特定の操作が行われた場合に、そのエンティティの特定の操作に応じて関連付けられているイベントをイベントリストから抽出し、抽出したイベントに関連付けられるコマンドリストに定義されたコマンドを実行することにより、電子機器を操作するコマンドを電子機器へ送信したり、操作パネルの表示の遷移を行うことができる。これら操作コマンドの送信と表示の遷移とは、一つのイベントによってその両方を行うようにしてもよく、一つのイベントが実行されたときにそのいずれか一方を実行するようにしてもよい。
図7は、上記図6のイベントAによって、カード2へ遷移したときの操作パネルの描画状態を説明する図である。上記のイベントAによってカード2へ遷移すると、カード1のエンティティのデータに代えて、カード2のエンティティのデータを用いて操作パネルを描画する。カード2のデータは、前述の図4のスタックデータには示されていないが、電子機器10からは、スタックデータの中に、BGやカード1とともに、カード2のデータも含ませているものとする。
カード2に遷移した場合、図7に示すように、カード2で定義されたエンティティにより合成用画像121を描画する。そしてバックグランド101を共通に使用し、バックグランド101に対して、新たな合成用画像121を合成して、カード2を使用したスタック画像122を得る。表示画面50の操作パネルの表示領域105には、スタック画像122を表示させる。
このようにして、エンティティに定義したイベントリストに、画面遷移を行うコマンドを関連付けておくことにより、ユーザ操作に応じて操作パネルの画面を遷移させることができる。
図8は、スタックデータのカード間遷移について説明する図である。
上述したように、各カードのエンティティに定義されたイベントに従ってカード間の遷移を行うことができる。カード間の遷移とは、操作パネル(リモートUI)として表示するスタック画像103を描画するためのカードを遷移させることを指し、これにより操作パネルの画像が変化していく。
この例では、カード1(CARD1)〜カード6(CARD6)のスタックデータを用意し、共通のバックグランドカードを使用しながらカード1〜カード6を遷移させて、合成画像を形成する。例えば、バックグランド101と、CARD1に基づく合成用画像102とによって、スタック画像103が合成され表示されているものとする。
ここで、ボタン2(BTN2)102aに対して発生したイベントに応じてイベントリストが参照され、発生したイベントに応じたコマンドが発行される。このコマンドには、イベントに応じてカード間の遷移情報を含ませることができる。
発生したイベントに応じて、例えばカード1の合成用画像102からカード2の合成用画像131へ遷移する。さらに、カード2のスタックデータに基づいて表示されている例えばボタン3(BTN3)131aに対するイベントが発生したときに、カード3の合成用画像132に遷移させることができる。同様にカード3の合成用画像132のボタン3(BTN3)132aに対するイベントに応じて、カード1の合成用画像102に戻すことができる。
同様に、カード1の合成用画像102から、カード4の合成用画像133,カード5の合成用画像134、カード6の合成用画像135に遷移させることができる。これらの遷移は、例えば、カード5の合成用画像134に表示されたボタン5(BTN5)134aで定義されたイベントや、カード4の合成用画像133に表示されたボタン4(BTN4)133aで定義されたイベント、あるいはカード6の合成用画像135に表示されたボタン6(BTN6)135aで定義されたイベントに応じて実行させることができる。
この場合、カードが遷移してもバックグランド101は共通に使用して、合成用画像と合成することができようにしている。また、コマンドリストにバックグランドも変更するコマンドを定義しておけば、予め用意した他のバックグランド用のカードに遷移させることもできる。例えば、バックグランド用の他のカード136を用意しておき、バックグランド101に表示されているボタン1(BTN1)101aに対するイベントに応じて、他のカード136のバックグランドに遷移させることができる。
このようにして、表示装置20は、電子機器10から送信されたスタックデータをもとに描画された操作パネル(リモートUI)を表示する。そして、表示装置20は、操作パネルに表示されたエンティティのボタンがユーザにより選択指示された場合、選択指示されたボタンに関連付けられたコマンドを実行する。このように、本発明に係る実施形態によれば、周辺機器として接続される電子機器10の操作パネルデータを表示装置20にて保持しているか否かに係らず、表示装置20では、電子機器10毎に操作パネルをカスタマイズして表示することができるため、電子機器10の操作における拡張性を高めることができる。
次にリモートUIの操作パネルを表示する処理を説明する。
図9は、表示装置が有する描画バッファを説明する図である。表示装置20は、複数のバッファに描画された画像データを重ね合わせて表示することで、シームレスな表示の切り替えを可能にしている。
表示装置20は、テレビ装置として構成することができる。この表示装置20は、チューナにより選局され復調されたビデオ映像を描画するビデオバッファと、外部入力映像を描画するキャプチャバッファと、GUIなどを映像に重ねて表示するOSDバッファとを備えている。チューナの映像をユーザが視聴している場合、表示装置20は、ビデオバッファの画像にOSDバッファの画像を重ねて表示する。また、ユーザが外部入力の映像を視聴している場合は、表示装置20は、キャプチャバッファの画像とOSDバッファの画像を重ねて表示する。これらのバッファは、上面からOSDバッファ、キャプチャバッファ、ビデオバッファの順で構成される。
図10は、テレビ装置として構成した表示装置において、チューナの映像を視聴中に操作パネル(リモートUI)を表示する処理について説明するための図である。
レコーダ等の電子機器10は、表示装置20における操作パネルの表示に先立ち、例えばHDMI HECに対応する接続ケーブル40によって表示装置20と電子機器10とが接続された時に、表示装置20で表示させたい操作パネルのスタックデータをイーサネットに乗せて送信する。
表示装置20は、上記のイーサネットパケットを受け取ると、リモートUIパケットフィルタ31にてスタックデータをフィルタリングする。フィルタリングは、HECなどの通信経路で送信されたデータから、スタック本体のデータ(ペイロード)を抽出する処理を指す。
そしてフィルタリングされたスタックデータは、リモートUIアクセラレータ32にて解析され、リモートUIバッファ33に描画される。
HDMI HECにより表示装置20に送信されたスタックデータは、LAN I/F28を経由して、メインマイコン21上で動作するリモートUIアプリケーション35へも渡される。リモートUIバッファ33へ描画された操作パネルは、外部入力の画像と合成されて受信バッファ36へ格納される。なお、図8の例では、外部入力映像45がないため、受信バッファ36に格納されるのはリモートUIだけの映像となる。
受信バッファ36に描画された画像は、OSDバッファ37に展開される。ここで、TVチューナから出力されたチューナ映像46が描画されているビデオバッファ39の画像と、OSDバッファ37の画像とを合成することで、表示部30の画面上には、チューナ映像と操作パネルの画像44を表示させることができる。チューナ映像の視聴中には外部入力映像を展開するキャプチャバッファ38には画像は存在しない。
ここで、ビデオバッファ39の画像は、スケーリングすることなく操作パネルを一部オーバーレイして表示してもよいし、ビデオバッファ39の画像をスケーリングして、操作パネルと重ならないように表示してもよい。
一方、スタックデータを受け取ったリモートUIアプリケーション35は、スタックデータと共に、スタックデータの送信元である電子機器10のアドレスを関連付けて保持する。ここでアドレスとは、表示装置20と電子機器10とがスタックデータのやり取りや制御コマンド通信をするために必要なアドレスであり、HEC(イーサネット)を通じた通信であれば例えばIPアドレスのことであり、CECを通じた通信であれば例えばCECアドレスのことである。本例における電子機器10がどのようなIPアドレスとCECアドレスが割り当てられているかを知る方法としては、例えばスタックデータの送信時に、電子機器10が自身のIPアドレスとCECアドレスを付して送信するなどの方法があるが、これに限定されるものではない。
ユーザ操作により、表示装置20に表示された操作パネルの特定のエンティティ(例えばボタン)が選択され、特定の操作が行われると、そのエンティティに定義されたイベントリストおよびコマンドリストに従って、メインマイコン21からリモートUIアプリケーション35に対してコマンドが実行される。リモートUIアプリケーション35は、コマンドに対応した処理、例えば表示装置20の機能を実行したり、CECメッセージやHECを通じたメッセージなどにより、電子機器10への指示や状態通知を発行したり、あるいは描画の変更などを行う。このとき、CECメッセージの発行は、上記プロセスで関連付けられて保持されたCECアドレスに対して、HECを通じたメッセージは、上記プロセスで関連付けられて保持されたIPアドレスに対して実行する。
これにより、表示装置20に対して電子機器10が複数接続され、HECバスやCECバス上に複数の機器が存在する場合であっても、電子機器10に対して正しくCECメッセージを発行することができる。また、描画を変更する場合、メインマイコン21は、リモートUIアクセラレータ32に対して、LAN I/F28、リモートUIパケットフィルタ31を経由して、または直接、描画指示を行う。これにより、例えばドアホンなど、リソースパワーが非力な電子機器10であっても、電子機器10がスタックデータを表示装置20に送ることで、リモートUIの操作パネルを表示装置に表示することができる。そして、電子機器10では、操作パネルの表示の遷移は表示装置20で実行させつつ、必要な処理要求を表示装置20から受け取ることができる。
図11は、テレビ装置として構成した表示装置において、外部入力画像を視聴中に操作パネル(リモートUI)を表示する処理について説明するための図である。
レコーダ等の電子機器10は、表示装置20における操作パネルの表示に先立ち、例えばHDMI HECに対応する接続ケーブル40によって表示装置20と電子機器10とが接続された時に、外部入力の画像とは別に、表示装置20で表示させたい操作パネルのスタックデータをイーサネットに乗せてTVへ送信する。
表示装置20は、上記のイーサネットパケットを受け取ると、リモートUIパケットフィルタ31にてスタックデータをフィルタリングする。フィルタリングされたスタックデータは、リモートUIアクセラレータ32にて解析され、リモートUIバッファ33に描画される。
HDMI HECにより表示装置20に送信されたスタックデータは、LAN I/F28を経由して、メインマイコン21上で動作するリモートUIアプリケーション35へも渡される。リモートUIバッファ33へ描画された操作パネルは、外部入力の映像45と合成されて受信バッファ36へ格納される。ここで、外部入力の画像は、スケーリングせずにリモートUIの操作パネルを一部オーバーレイして合成してもよいし、外部入力の映像をスケーリングして、操作パネルの表示画像と重ならないように合成してもよい。
受信バッファ36に格納された画像は、キャプチャバッファ38に展開される。ここで、キャプチャバッファ38の画像とOSDバッファ37の画像とを合成することで、表示部30の画面上には、外部入力画像と操作パネルの画像44を表示することができる。外部入力映像の視聴中には、チューナから得られるチューナ映像46は、ビデオバッファ39には画像は存在しない。
一方、スタックデータを受け取ったリモートUIアプリケーション35は、スタックデータと共に、スタックデータの送信元である電子機器10のアドレスを関連付けて保持する。そして、ユーザ操作により、表示装置20に表示された操作パネルの特定のエンティティ(例えばボタン)が選択され、特定の操作が行われると、そのエンティティに定義されたイベントリストおよびコマンドリストに従って、メインマイコン21からリモートUIアプリケーション35に対してコマンドが実行される。リモートUIアプリケーション35は、コマンドに対応した処理、例えば表示装置20の機能を実行したり、CECメッセージやHECを通じたメッセージなどにより、電子機器10への指示や状態通知を発行したり、あるいは描画の変更などを行う。このとき、CECメッセージの発行は、上記プロセスで関連付けられて保持されたCECアドレスに対して、HECを通じたメッセージは、上記プロセスで関連付けられて保持されたIPアドレスに対して実行する。
また、描画の変更をする場合は、メインマイコン21は、リモートUIアクセラレータ32に対してLAN I/F28、リモートUIパケットフィルタ31を経由して、または直接、描画指示を行う。これにより、例えばドアホンなど、リソースパワーが非力な電子機器10であっても、電子機器10がスタックデータを表示装置20に送ることで、リモートUIの操作パネルを表示装置20に表示することができる。そして、電子機器10では、操作パネルの表示の遷移は表示装置20で実行させつつ、必要な処理要求を表示装置20から受け取ることができる。
図12は、テレビ装置として構成した表示装置において、チューナの映像を視聴中に外部入力によるリモートUIを表示する処理について説明するための図である。
レコーダ等の電子機器は、表示装置20における操作パネルの表示に先立ち、例えばHDMI HECに対応する接続ケーブル40によって表示装置20と電子機器10とが接続された時に、外部入力の画像とは別に、表示装置20で表示させたい操作パネルのスタックデータをイーサネットに乗せて送信する。
表示装置20は、上記のスタックデータを受け取ると、リモートUIパケットフィルタ31にてスタックデータをフィルタリングする。そしてフィルタリングされたスタックデータは、リモートUIアクセラレータ32にて解析され、リモートUIバッファ33に描画される。
HDMI HECにより表示装置20に送信されたスタックデータは、LAN I/F28を経由して、メインマイコン21上で動作するリモートUIアプリケーション35へも渡される。また、リモートUIバッファ33へ描画された操作パネルは、外部入力の画像45と合成されて受信バッファ36へ格納される。ここで、外部入力の画像は、スケーリングせずに操作パネルを一部オーバーレイして合成してもよいし、外部入力の画像をスケーリングして、操作パネルと重ならないように合成してもよい。
受信バッファ36の画像は、キャプチャバッファ38に展開される。ここで、スケーリングしたキャプチャバッファ38の画像を、OSDバッファ37の画像、及びビデオバッファ39の画像と合成することで、表示装置20の画面には、チューナ映像46上にPIP(Picture In Picture)として外部入力画像と操作パネルの画像44を表示することができる。
一方、スタックデータを受け取ったリモートUIアプリケーション35は、スタックデータと共に、スタックデータの送信元である電子機器10のアドレスとを関連付けて保持する。そしてユーザ操作により、表示装置20に表示された操作パネルの特定のエンティティ(例えばボタン)が選択され、特定の操作が行われると、そのエンティティに定義されたイベントリストおよびコマンドリストに従って、メインマイコン21からリモートUIアプリケーション35に対してコマンドが実行される。リモートUIアプリケーション35は、コマンドに対応した処理、例えば表示装置20の機能を実行したり、CECメッセージやHECを通じたメッセージなどにより、電子機器10への指示や状態通知を発行したり、あるいは描画の変更などを行う。このとき、CECメッセージの発行は、上記プロセスで関連付けられて保持されたCECアドレスに対して、HECを通じたメッセージは、上記プロセスで関連付けられて保持されたIPアドレスに対して実行する。
このとき、CECコマンドの発行は、上記プロセスで関連付けられて保持されたCECアドレスに対して実行する。描画を変更する場合、メインマイコン21は、リモートUIアクセラレータ32に対して、LAN I/F28、リモートUIパケットフィルタ31を経由して、または直接、描画指示を行う。
これにより、例えばドアホンなど、リソースパワーが非力な電子機器10であっても、電子機器10がスタックデータを表示装置20に送ることで、リモートUIの操作パネルを表示装置に表示することができる。そして、電子機器10では、操作パネルの表示の遷移は表示装置20で実行させつつ、必要な処理要求を表示装置20から受け取ることができる。
10…電子機器、11…HDMIトランスミッタ、12…メインマイコン、13…フロントマイコン、16…リモコン受光部、17…HDMIコネクタ、19…記憶部、20…表示装置、21…メインマイコン、22…HDMIレシーバ、23…モニターマイコン、26…リモコン受光部、27…HDMIコネクタ、29…記憶部、30…表示部、31…リモートUIパケットフィルタ、32…リモートUIアクセラレータ、33…リモートUIバッファ、34…加算器、35…リモートUIアプリケーション、36…受信バッファ、37…OSDバッファ、38…キャプチャバッファ、39…ビデオバッファ、40…接続ケーブル、41…TMDSライン、42…CECライン、43…HECライン、46…チューナ映像、50…表示画面、51…操作パネル表示領域、52…領域、53…映像表示領域、101…バックグランド、102…合成用画像、103…スタック画像、105…操作パネル表示領域、111…イベントリスト、121…合成用画像、122…スタック画像、131〜135…合成用画像、136…他のカード。

Claims (11)

  1. 外部接続した電子機器を操作するための操作パネルを表示する表示部を有する表示装置であって、
    前記操作パネルを表示するためのデータ及び表示した前記操作パネルに対する操作に応じたコマンドを生成するためのデータを、スタックデータとして一括して受信する受信部と、
    ユーザによる操作入力を受け付ける操作入力部と、
    受信した前記スタックデータに含まれる前記操作パネルを表示するためのデータから、前記操作パネルの表示画像を生成して前記表示部に表示し、該表示した操作パネルに対する前記操作入力部による操作入力に応じて、前記電子機器を制御する所定のコマンドを生成して前記電子機器に送信する制御を行う制御部と、を有し、
    前記スタックデータは、前記操作パネルに含まれるエンティティのデータと、該エンティティに関連付けられる複数のイベントを含むイベントリストと、該イベントリストの各イベントにそれぞれ関連付けられたコマンドリストを含み、
    前記制御部は、前記スタックデータを受信すると、該受信したスタックデータと共に、該スタックデータの送信元の電子機器のアドレスを関連付けて保持し、
    前記操作入力に応じて生成する前記所定のコマンドに対応した処理として、HDMIに基づくCECメッセージの送信もしくはHECを通じたメッセージの送信が規定されている場合、CECメッセージは前記電子機器の送信元のアドレスとして保持されているCECアドレスに対して送信し、HECを通じたメッセージは前記電子機器の送信元のアドレスとして保持されているIPアドレスに対して送信することを特徴とする表示装置。
  2. 請求項1に記載の表示装置において、
    前記スタックデータは、操作パネルの表示の遷移を指示するデータを含み、
    前記制御部は、前記操作入力部による操作入力に応じて、前記操作パネルの表示を遷移させることを特徴とする表示装置。
  3. 請求項2に記載の表示装置において
    記制御部は、前記表示部に表示された操作パネルの特定のエンティティが前記操作入力部により選択され、特定の操作が行われた場合、当該エンティティの特定の操作に応じて関連付けられているイベントを前記イベントリストから抽出し、該抽出したイベントに関連付けられるコマンドリストに定義されたコマンドを実行することにより、前記電子機器を操作するコマンドの前記電子機器への送信、および/または前記操作パネルの表示の遷移を行うことを特徴とする表示装置。
  4. 請求項3に記載の表示装置において、
    前記スタックデータは、1または複数のカードデータからなり、各前記カードデータは、1または複数のエンティティのデータからなり、各エンティティのデータは、当該エンティティの表示位置および大きさを示すデータと、当該エンティティに関連付ける前記イベントリストを示すデータと、当該エンティティの表示画像を生成するためのデータとを含み、
    前記制御部は、前記カードデータごとに生成した表示画像を合成して、前記操作パネルとして前記表示部に表示することを特徴とする表示装置。
  5. 請求項4に記載の表示装置において、
    前記イベントに関連付けられるコマンドとして、複数のカードデータうちの一部のみを他のカードデータに遷移させ、残りのカードデータを共通カードデータとして使用して操作パネルの表示画像を合成するコマンドを含むことを特徴とする表示装置。
  6. 電子機器を操作するための操作パネルを外部接続した表示装置に表示させ、該表示装置に対する操作入力に応じて所定の動作を実行する電子機器であって、
    前記操作パネルを表示するためのデータ及び表示した前記操作パネルに対する操作に応じたコマンドを生成するためのデータを、スタックデータとして一括して外部の表示装置に送信する送信部と、
    前記表示装置から入力したコマンドに基づいて前記電子機器で所定の動作を実行する制御部とを有し、
    前記スタックデータは、前記操作パネルに含まれるエンティティのデータと、該エンティティに関連付けられる複数のイベントを含むイベントリストと、該イベントリストの各イベントにそれぞれ関連付けられたコマンドリストを含み、
    前記電子機器は、前記表示装置で生成される前記コマンドに対応した処理として、HDMIに基づくCECメッセージの送信もしくはHECを通じたメッセージの送信が規定されている場合、CECメッセージは前記電子機器のCECアドレスで受信し、HECを通じたメッセージは前記電子機器のIPアドレスで受信することを特徴とする電子機器。
  7. 請求項6に記載の電子機器において、
    前記スタックデータは、前記表示装置で前記操作パネルを表示する際に、操作パネルの表示の遷移を指示するデータを含むことを特徴とする電子機器。
  8. 請求項7に記載の電子機器において、
    前記スタックデータは、前記表示装置で特定のエンティティが選択され、特定の操作が行われたときに、当該エンティティの特定の操作に応じて関連付けられているイベントを前記イベントリストから抽出し、該抽出したイベントに関連付けられるコマンドリストに定義されたコマンドを実行することにより、前記電子機器を操作するコマンドの前記電子機器への送信、および/または前記操作パネルの表示の遷移を可能とするデータであることを特徴とする電子機器。
  9. 請求項8に記載の電子機器において、
    前記スタックデータは、1または複数のカードデータからなり、各前記カードデータは、1または複数のエンティティのデータからなり、各エンティティのデータは、当該エンティティの表示位置および大きさを示すデータと、当該エンティティに関連付ける前記イベントリストを示すデータと、当該エンティティの表示画像を生成するためのデータとを含み、前記表示装置で前記カードデータごとに生成した表示画像を合成して、前記操作パネルとして表示可能とするデータであることを特徴とする電子機器。
  10. 請求項9に記載の電子機器において、
    前記イベントに関連付けられるコマンドとして、複数のカードデータうちの一部のみを他のカードデータに遷移させ、残りのカードデータを共通カードデータとして使用して操作パネルの表示画像を合成するコマンドを含むことを特徴とする電子機器。
  11. 請求項1〜5のいずれか1に記載の表示装置と、請求項6〜10のいずれか1に記載の電子機器とからなる機器制御システムであって、前記電子機器の操作パネルを前記表示装置に表示し、該表示装置で表示した操作パネルに対する操作入力に応じて、前記電子機器が所定の動作を実行することを特徴とする機器制御システム。
JP2010291573A 2010-12-28 2010-12-28 表示装置、電子機器、及び機器制御システム Expired - Fee Related JP5725604B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010291573A JP5725604B2 (ja) 2010-12-28 2010-12-28 表示装置、電子機器、及び機器制御システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010291573A JP5725604B2 (ja) 2010-12-28 2010-12-28 表示装置、電子機器、及び機器制御システム

Publications (2)

Publication Number Publication Date
JP2012138866A JP2012138866A (ja) 2012-07-19
JP5725604B2 true JP5725604B2 (ja) 2015-05-27

Family

ID=46675917

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010291573A Expired - Fee Related JP5725604B2 (ja) 2010-12-28 2010-12-28 表示装置、電子機器、及び機器制御システム

Country Status (1)

Country Link
JP (1) JP5725604B2 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6138449B2 (ja) * 2012-10-09 2017-05-31 シャープ株式会社 電力供給システム、端末装置及び電力供給システムの制御方法
JP5696721B2 (ja) * 2012-12-25 2015-04-08 コニカミノルタ株式会社 表示処理装置、画像形成装置、リモート画面の表示処理システム及び表示処理方法
CN105100841A (zh) * 2014-05-19 2015-11-25 江苏银河电子股份有限公司 带空气质量监测及净化功能的家庭电视终端系统
CN112804571B (zh) * 2020-12-31 2023-07-28 深圳市锐锐科电子有限公司 一种具有双重性可控制双台电视机的数字机顶盒

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH11249709A (ja) * 1998-03-05 1999-09-17 Matsushita Electric Ind Co Ltd ネットワーク制御システム及びネットワーク制御システムにおけるデバイス並びにコントローラ
JP2000333269A (ja) * 1999-05-21 2000-11-30 Matsushita Electric Ind Co Ltd GUI(GraphicalUserInterface)駆動型ネットワーク制御システム、及びGUI駆動型ネットワーク制御システムに用いるデバイス並びにコントローラ
KR20040111658A (ko) * 2002-05-20 2004-12-31 소니 가부시끼 가이샤 정보 처리 시스템, 정보 처리 장치 및 정보 처리 방법
JP3849719B1 (ja) * 2002-05-20 2006-11-22 ソニー株式会社 映像表示装置、その制御方法、その制御プログラム及び記録媒体
JP4438602B2 (ja) * 2004-10-28 2010-03-24 株式会社デンソー 操作装置
JP4578260B2 (ja) * 2005-02-09 2010-11-10 シャープ株式会社 映像表示装置
JP2007267102A (ja) * 2006-03-29 2007-10-11 Pioneer Electronic Corp 入力信号表示装置、信号出力装置、入力信号表示システム、及び、遠隔操作方法

Also Published As

Publication number Publication date
JP2012138866A (ja) 2012-07-19

Similar Documents

Publication Publication Date Title
JP4541476B2 (ja) マルチ画像表示システムおよびマルチ画像表示方法
US6771278B2 (en) Image processing system, image display method, recording medium and image display apparatus
EP2046023B1 (en) Av device
TWI411297B (zh) 與遠端影像來源裝置相關之同屏顯示
JP5285781B2 (ja) 周辺機器情報表示システム、表示装置、及び周辺機器
KR100399859B1 (ko) 표시 장치 및 그 제어 방법
US20100110294A1 (en) Video display device, video display method and video system
EP2178295A1 (en) Display system and display apparatus
JP2008109342A (ja) 表示装置及び表示システム
US8966566B2 (en) Communication device, communication control method, and program
WO2020248680A1 (zh) 视频数据处理方法、装置及显示设备
US20110187929A1 (en) Communication apparatus
JP2008067024A (ja) 表示装置及び表示システム
JP5725604B2 (ja) 表示装置、電子機器、及び機器制御システム
JP2008085703A (ja) 表示装置
JP2008034976A (ja) 表示装置及び表示システム
JP2009038527A (ja) テレビジョン受像機、テレビジョン表示方法
US20070291174A1 (en) Method of providing external input list using item grouping and video apparatus adopting the same
CN113518257B (zh) 多系统投屏处理方法与设备
CN112272373B (zh) 一种蓝牙设备类型切换方法及显示设备
CN111078926A (zh) 一种人像缩略图像的确定方法及显示设备
CN113542824A (zh) 一种显示设备及应用界面的显示方法
WO2020248886A1 (zh) 图像处理方法及显示设备
KR100791302B1 (ko) 다중 스크린을 제공하는 장치 및 상기 다중 스크린의 동적구성 방법
JP2010057023A (ja) 映像装置および機器制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20131001

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140626

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140708

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150303

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150327

R150 Certificate of patent or registration of utility model

Ref document number: 5725604

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees