本発明の一実施形態について図1から図20に基づいて説明すると以下の通りである。
〔発明の概要〕
まず、ここでは、本発明の概要について、図17に基づいて説明する。図17は、本実施形態に係る2画面表示装置(電子機器)200及び通信端末装置400の動作の一例を示す図である。
図示のように、2画面表示装置200は、ノートPC(Personal Computer)であって、メイン表示装置(制御対象装置)210とセンサ付きサブ表示装置(処理実行指示装置)230とを備えている。詳細については後述するが、センサ付きサブ表示装置230は、メイン表示装置210のタッチパネル部分を別装置として構成したものである。
つまり、2画面表示装置200は、センサ付きサブ表示装置230に表示されている操作用画像に従って、センサ付きサブ表示装置230の表示画面に触れることによって、メイン表示装置210を操作することができるようになっている。なお、メイン表示装置210は、センサ付きサブ表示装置230への入力操作によって動作するものであればよく、ノートPCに限られない。
通信端末装置400は、第1の機能として、画像を表示する機能と、自装置に対するユーザの入力操作を検出する機能と、センサ付きサブ表示装置230と無線通信する機能とを備えている。これらの第1の機能によって、通信端末装置400は2画面表示装置200を遠隔操作するリモコンとして機能することになる。
また、通信端末装置400は、上記第1の機能に加えて第2の機能を備えている。ここでは、上記第2の機能が、携帯電話機としての機能である例について説明する。つまり、通信端末装置400は、2画面表示装置200を遠隔操作するリモコンとして機能していないときには、携帯電話網を介して他の電話端末と通話やメールの送受信を行う携帯電話機として機能する。
なお、通信端末装置400は、少なくとも上記第1の機能を備えていればよく、上記第2の機能は、どのようなものであってもよい。例えば、通信端末装置400は、上記第2の機能として、PDA(Personal Digital Assistance)としての機能や、電子辞書としての機能、ゲーム機としての機能等を備えていてもよい。
図示のように、通信端末装置400は、2画面表示装置200から一定以上離れた位置にあるときには、携帯電話機として機能するが、通信端末装置400を2画面表示装置200に近付けると、操作用画像がセンサ付きサブ表示装置230から通信端末装置400に送信される。
これにより、通信端末装置400においてもセンサ付きサブ表示装置230と同様に、メイン表示装置210に入力操作を行うための操作用画像が表示されると共に、操作用画像に従って通信端末装置400に入力操作を行うことにより、メイン表示装置210を遠隔操作することができるようになる。
このように、メイン表示装置210を操作するための操作用画像を表示しているセンサ付きサブ表示装置230が、通信端末装置400がメイン表示装置210を操作するための操作用画像を送信することにより、センサ付きサブ表示装置230と通信端末装置400とで、操作用画像を共通化することができる。
したがって、通信端末装置400のユーザは、センサ付きサブ表示装置230で入力操作を行っていたときと同じ感覚で、通信端末装置400を用いてメイン表示装置210の入力操作を行うことができる。
また、この構成によれば、メイン表示装置210を動作させるコマンドは、センサ付きサブ表示装置230に対して入力操作を行う場合であっても、通信端末装置400に対して入力操作を行う場合であっても、センサ付きサブ表示装置230からメイン表示装置210に送信される。
したがって、通信端末装置400を用いた操作に対応するための構成をメイン表示装置210に設ける必要がない。つまり、従来の一般的なノートPCの構成をそのままメイン表示装置210として適用することが可能である。
〔2画面表示装置の概要〕
2画面表示装置200は、データの表示が可能な液晶パネル311を備えるメイン表示装置210に、データの表示に加え、近傍の対象物の画像検出が可能なセンサ内蔵液晶パネル301(後述する)を備えるセンサ付きサブ表示装置230が装着された装置である。
メイン表示装置210にセンサ付きサブ表示装置230が装着されている場合、相互に有線通信可能な状態となり、互いに相手側の装置に「装置間コマンド」を送信することによって、相手側の装置を制御可能な構成となっている。装置間コマンドの詳細については後述する。
なお、メイン表示装置210およびセンサ付きサブ表示装置230は、それぞれ、自装置を制御する制御部を備えている。
図2を参照しながら、2画面表示装置200の具体例について説明する。図2は、2画面表示装置200の具体例を示す模式図である。図示のように、本実施の形態では、2画面表示装置200として、従来のタッチパッドの代わりにセンサ付きサブ表示装置230を備える、ノートPC(Personal Computer)を想定している。この場合、センサ付きサブ表示装置230以外の部分(表示部310やキーボード920を含む部分)が、メイン表示装置210に相当する。センサ付きサブ表示装置230は、例えば、センサ内蔵液晶パネル301を備えるPDA(Personal Digital Assistant)などとして動作することもできる。
〔センサ内蔵液晶パネルの概要〕
上述したように、センサ付きサブ表示装置230が備えるセンサ内蔵液晶パネル301は、データの表示に加え、近傍の対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
図3を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図3は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
次に、図4(a)および図4(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした場合を例に挙げ、そのタッチした位置を検出する2種類の方法について説明する。
図4(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
また、図4(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図4(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、上記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
〔メイン表示装置および光センサ付きサブ表示装置の要部構成〕
次に、図5を参照しながら、メイン表示装置210およびセンサ付きサブ表示装置230の要部構成について説明する。図5は、メイン表示装置210およびセンサ付きサブ表示装置230の要部構成を示すブロック図である。
〔光センサ付きサブ表示装置の要部構成〕
まず、センサ付きサブ表示装置230の要部構成について説明する。図示のように、センサ付きサブ表示装置230は、表示/光センサ部330、表示/光センサ回路制御部630、データ処理部730、サブ側主制御部830、記憶部931、一次記憶部932、通信制御部933、有線通信部934、近距離無線通信部(無線通信部)935、電界強度検出部(通信強度検出手段)936、バッテリー937、および電源切替部938を備えている。
表示/光センサ部330は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部330は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。表示/光センサ部330の詳細な構成については後述する。
次に、表示/光センサ回路制御部630は、表示/光センサ部330の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。表示/光センサ回路制御部630の詳細な構成については後述する。
次に、データ処理部730は、サブ側主制御部830から受信する「サブ表示装置内コマンド」に基づいて、表示/光センサ回路制御部630に指示を与えるミドルウェアとしての機能を備えるものである。データ処理部730の詳細な構成については後述する。また、サブ表示装置内コマンドの詳細についても後述する。
次に、サブ側主制御部830は、センサ付きサブ表示装置230が備える各部の動作を制御するものである。サブ側主制御部830は、記憶部931に記憶されている各種プログラムを読み出して、センサ付きサブ表示装置230の各部を制御し、センサ付きサブ表示装置230が備える各種機能を実現する。
サブ側主制御部830にて実行されるアプリケーションプログラム(以下、単にサブ側主制御部830と表記する)は、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部730に対して、サブ表示装置内コマンドおよび表示データを送信する。なお、サブ表示装置内コマンドに「データ種別」を指定した場合は、当該サブ表示装置内コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部730から受信する。
また、サブ側主制御部830は、メイン表示装置210からの制御を受け付ける。具体的には、メイン表示装置210のメイン側主制御部810が送信した装置間コマンドを受信し、当該受信した装置間コマンドの種類に応じて、下記(1)から(3)のいずれかに示す処理を実行する。
まず、(1)受信した装置間コマンドが、表示/光センサ部330の近傍に位置する対象物のスキャンを行わせることを指定する「スキャンコマンド」(詳細は後述する)である場合、サブ側主制御部830は、当該受信したスキャンコマンドを、サブ表示装置内コマンドに変換するとともに、当該変換後のサブ表示装置内コマンドをデータ処理部730に送信する。なお、上記変換とは、スキャンコマンドから「第0」フィールド(後述する)を取り除くことにより行われる。
なお、サブ側主制御部830は、上記変換後のサブ表示装置内コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つをデータ処理部730から受信した場合、当該受信したデータを、メイン側主制御部810に送信する。
次に、(2)受信した装置間コマンドが、表示/光センサ部330に、写真やアイコンなどの画像データの表示を行わせることを指定する「表示コマンド」(詳細は後述する)である場合、サブ側主制御部830は、当該表示コマンドに指定された情報に基づいて表示データを生成するとともに、当該生成した表示データをデータ処理部730に送信する。
次に、(3)受信した装置間コマンドが、所定処理を実行させることを指定する「処理コマンド」(詳細は後述する)である場合、サブ側主制御部830は、当該処理コマンドに指定された所定処理を実行する。
上記所定処理とは、例えば、データ処理部730から得られた画像データに対する文字認識処理や画像処理、センサ付きサブ表示装置230の通信制御部933を用いた通信接続処理やファイル転送処理などの、センサ付きサブ表示装置230が有する各種アプリケーション(ミドルウェアを含む)の実行処理である。
さらに、サブ側主制御部830は、メイン表示装置210に対して所定処理の実行を指示する。具体的には、処理コマンドとしての装置間コマンドを、メイン表示装置210のメイン側主制御部810に送信する。上記所定処理とは、例えば、メイン表示装置210のOS(Operating System)の起動処理、メイン表示装置210の通信制御部913を用いた通信接続処理やファイル転送処理などの、メイン表示装置210が有する各種アプリケーション(ミドルウェアを含む)の実行処理である。
なお、表示/光センサ回路制御部630、データ処理部730、およびサブ側主制御部830は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部730は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
次に、記憶部931は、サブ側主制御部830が実行するプログラムおよびデータを格納するものである。なお、サブ側主制御部830が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
一次記憶部932は、RAM(Random Access Memory)などの揮発性の記憶装置によって構成されるものであり、サブ側主制御部830が上述の各種プログラムを実行する過程でデータを一時的に保持するための作業領域として使用される。
次に、通信制御部933は、センサ付きサブ表示装置230が、メイン表示装置210と通信を行うための有線通信部934、並びに、メイン表示装置210および図示しない外部装置のいずれかと通信を行うための近距離無線通信部935を制御するものである。
すなわち、通信制御部933は、メイン表示装置210から、有線通信部934および近距離無線通信部935のいずれかを介して送信される装置間コマンドおよび各種データをサブ側主制御部830に送信する。また、通信制御部933は、サブ側主制御部830からの指示に応じて、サブ側主制御部830から送信される装置間コマンドおよび各種データを、有線通信部934および近距離無線通信部935のいずれかを介して、メイン表示装置210へ送信する。
また、通信制御部933は、近距離無線通信部935を介して、外部装置との間で各種データをやりとりする。
有線通信部934は、メイン表示装置210の有線通信部914と接続可能な構成となっている。本実施の形態では、有線通信部934と、メイン表示装置210の有線通信部914とは、USB(universal serial bus)接続されることを想定している。
そして、接続時には、有線通信部934は、通信線を用いて、メイン表示装置210の有線通信部914と相互に信号の送受信が可能であるとともに、電力線を用いて、メイン表示装置210の有線通信部914から電力の供給を受けることができる。そして、メイン表示装置210の有線通信部914から電力の供給を受けると、有線通信部934は、電源切替部938へ電力を供給する。
近距離無線通信部935は、メイン表示装置210の近距離無線通信部915との間、および、外部装置との間で形成される無線通信経路を用いて、相互に通信可能な構成となっている。本実施の形態では、上記無線通信経路に、Bluetooth(登録商標)(以下、単にBluetoothと表記する)通信を適用することを想定している。すなわち、近距離無線通信部935は、Bluetooth通信にて信号の送受信を行うことのできる通信部である。なお、上記無線通信経路は、信号の送受信を行えるものであればよく、IEEE802.11無線やZigBee(登録商標)等を適用してもよい。
次に、電界強度検出部936は、サブ側主制御部830からの指示に応じて、近距離無線通信部935が受信する信号の強度(RSSI(Received Signal Strength Indication):受信電界強度)を検出するものである。そして、当該検出の結果を、サブ側主制御部830に送信する。
次に、電源切替部938は、有線通信部934がメイン表示装置210の有線通信部914から電力の供給を受けている場合、センサ付きサブ表示装置230が備えるの各部に、メイン表示装置210から供給されている電力を供給する。一方、有線通信部934がメイン表示装置210の有線通信部914から電力の供給を受けていない場合、電源切替部938は、センサ付きサブ表示装置230が備える各部に、バッテリー937の電力を供給する。
〔メイン表示装置の要部構成〕
次に、メイン表示装置210の要部構成について説明する。図示のように、メイン表示装置210は、表示部310、表示回路制御部610、表示データ処理部710、メイン側主制御部810、記憶部911、一次記憶部912、通信制御部913、有線通信部914、近距離無線通信部915、有線/無線ネットワーク通信部916、電源917、操作部919、音声出力部924、および音声入力部925を備えている。
表示部310は、データを表示するためのものであって、液晶パネル311、バックライト317、それらを駆動するための周辺回路319を含んで構成される。表示回路制御部610は、周辺回路319を制御するデバイスドライバとしての機能を備えるものである。表示データ処理部710は、メイン側主制御部810から受信する表示データに基づいて、表示回路制御部610に指示を与えるミドルウェアとしての機能を備えるものである。なお、表示部310、表示回路制御部610、および表示データ処理部710は、一般的に知られている技術を用いて構成することができる。
次に、メイン側主制御部810は、メイン表示装置210が備える各部の動作を制御するものである。メイン側主制御部810は、記憶部911に記憶されている各種プログラムを読み出して、メイン表示装置210の各部を制御し、メイン表示装置210が備える各種機能を実現する。
メイン側主制御部810にて実行されるアプリケーションプログラム(以下、単にメイン側主制御部810と表記する)は、センサ付きサブ表示装置230のサブ側主制御部830に装置間コマンドを送信し、センサ付きサブ表示装置230に所定処理を実行させる。なお、装置間コマンドの一つであるスキャンコマンドに「データ種別」(後述する)を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、サブ側主制御部830から受信する。
また、メイン側主制御部810は、センサ付きサブ表示装置230のサブ側主制御部830から装置間コマンドの一つである処理コマンドを受信し、当該受信した装置間コマンドに指定された所定処理(ミドルウェアを含む各種アプリケーション)を実行する。
なお、表示回路制御部610、表示データ処理部710、およびメイン側主制御部810は、それぞれ、CPUおよびメモリ等で構成することができる。
次に、記憶部911は、メイン側主制御部810が実行するプログラムおよびデータを格納するものである。なお、メイン側主制御部810が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
通信制御部913は、メイン表示装置210が、センサ付きサブ表示装置230と通信を行うための有線通信部914、並びに、センサ付きサブ表示装置230および図示しない外部装置と通信を行うための近距離無線通信部915、並びに、図示しない外部装置と通信を行うための有線/無線ネットワーク通信部916を制御するものである。
すなわち、通信制御部913は、センサ付きサブ表示装置230から、有線通信部914および近距離無線通信部915のいずれかを介して送信される装置間コマンドおよび各種データをメイン側主制御部810に送信する。また、通信制御部913は、メイン側主制御部810からの指示に応じて、メイン側主制御部810から送信される装置間コマンドおよび各種データを、有線通信部914および近距離無線通信部915のいずれかを介して、センサ付きサブ表示装置230へ送信する。
また、通信制御部933は、近距離無線通信部935および有線/無線ネットワーク通信部916のいずれかを介して、外部装置との間で各種データをやりとりする。
有線通信部914は、上述したように、センサ付きサブ表示装置230の有線通信部934と接続可能な構成となっている。上述したように、有線通信部914と、センサ付きサブ表示装置230の有線通信部934とは、USB接続されることを想定している。
近距離無線通信部915は、センサ付きサブ表示装置230の近距離無線通信部935との間、および、外部装置との間で形成される無線通信経路を用いて、相互に通信可能な構成となっている。上述したように、ここでは、上記無線通信経路に、Bluetooth通信を適用することを想定している。すなわち、近距離無線通信部915は、Bluetooth通信にて信号の送受信を行うことのできる通信部である。
有線/無線ネットワーク通信部916は、外部の通信ネットワークと通信可能に接続される構成となっており、外部装置との間で通信を行うものである。上記通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。
電源917は、メイン表示装置210が備えるの各部に電力を供給するものである。また、有線通信部914がセンサ付きサブ表示装置230の有線通信部934と接続されているときは、有線通信部914を介して、センサ付きサブ表示装置230へも電力を供給する。なお、電源のオン/オフは、ユーザが電源スイッチ922を操作することによって、切り替えることができる。
次に、操作部919は、メイン表示装置210のユーザの入力操作を受け付けるものである。操作部919は、例えば、キーボード920、スイッチ、マウス、リモコンなどの入力デバイスで構成される。そして、操作部919は、メイン表示装置210のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号をメイン側主制御部810へ送信する。
なお、上記スイッチの例としては、メイン表示装置210の筐体のヒンジ部分に設けられ、筐体の開閉状態を検出するヒンジ部スイッチ921、電源のオン/オフを切り替える電源スイッチ922、予め所定の機能が割り当てられているユーザスイッチ923などのハードウェアスイッチを想定している。
その他、メイン表示装置210は、音声を出力するためのスピーカ等の音声出力部924、音声信号を入力するためのマイク等の音声入力部925を備えている。
〔光センサ付きサブ表示装置の詳細な構成〕
次に、図6を参照しながら、センサ付きサブ表示装置230の表示/光センサ部330、表示/光センサ回路制御部630、およびデータ処理部730のより詳細な構成について説明する。図6は、表示/光センサ部330、表示/光センサ回路制御部630、およびデータ処理部730のより詳細な構成を示すブロック図である。
まず、表示/光センサ部330のより詳細な構成について説明する。図示のように、表示/光センサ部330は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
液晶パネル駆動回路304は、表示/光センサ回路制御部630の液晶パネル制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
光センサ駆動回路305は、表示/光センサ回路制御部630のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
バックライト駆動回路308は、表示/光センサ回路制御部630のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
次に、表示/光センサ回路制御部630について説明する。表示/光センサ回路制御部630は、液晶パネル制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
液晶パネル制御部601は、データ処理部730の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部330の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
なお、液晶パネル制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
センサ制御部602は、データ処理部730のセンサデータ処理部703からの指示に従って、表示/光センサ部330の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部330のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
次に、データ処理部730について説明する。データ処理部730は、表示データ処理部701およびセンサデータ処理部703を備えている。
表示データ処理部701は、サブ側主制御部830から表示データを受信するとともに、液晶パネル制御部601およびバックライト制御部603に指示を与え、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
センサデータ処理部703は、データ処理部730が受信したサブ表示装置内コマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部730が受信したサブ表示装置内コマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、サブ側主制御部830に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、サブ表示装置内コマンドに応じた、センサデータ処理部703の動作については、後述する。
〔メイン表示装置の詳細な構成〕
上述したように、メイン表示装置210の表示部310および表示回路制御部610は、一般的に知られている技術を用いて構成することができるが、図7を参照しながら、これらの構成例について簡単に説明する。図7は、表示部310および表示回路制御部610の構成例を示すブロック図である。
表示部310は、マトリクス状に配置された複数の画素回路38を含む液晶パネル311と、複数の白色LEDを含んでおり、液晶パネル311の背面に配置されるバックライト317と、それらを駆動するための周辺回路319とを含んで構成される。なお、バックライト317は、白色LEDに限らず、他の色のLEDを含んでいてもよいし、LEDに代えて冷陰極管を含むものであってもよい。
周辺回路319は、画素回路38を駆動する液晶パネル駆動回路314、および、バックライト317に電源電圧を印加するバックライト駆動回路318を含む。なお、バックライト駆動回路318から電源電圧が印加されると、バックライト317は点灯し、液晶パネル311に光を照射する。
次に、表示回路制御部610は、液晶パネル制御部611、バックライト制御部613、および表示データ記憶部614を備えている。
液晶パネル制御部611は、表示データ処理部710から表示データを受信するとともに、表示データ処理部710からの指示に従って、液晶パネル駆動回路314に制御信号およびデータ信号を送信し、上記受信した表示データを液晶パネル311に表示させる。なお、液晶パネル制御部611は、表示データ処理部710から受信した表示データを、表示データ記憶部614(VRAMなど)に一次記憶させ、当該一次記憶させた表示データに基づいて、データ信号を生成する。
バックライト制御部613は、表示データ処理部710からの指示に従って、バックライト駆動回路318に制御信号を送信し、バックライト317を駆動させる。
〔サブ表示装置内コマンド〕
次に、図8および図9を参照しながら、サブ側主制御部830からデータ処理部730に送信されるサブ表示装置内コマンドの詳細について説明する。図8は、サブ表示装置内コマンドのフレーム構造の一例を模式的に示す図である。また、図9は、サブ表示装置内コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
図8に示すように、サブ表示装置内コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図9に示す値が指定可能である。
「ヘッダ」フィールドは、サブ表示装置内コマンドのフレームの開始を示すフィールドである。フレームの開始であることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
次に、「データ取得タイミング」フィールドは、センサデータ処理部703からデータを取得するタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
ここで、“センス”は、センサデータ処理部703に対して、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるサブ表示装置内コマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、サブ側主制御部830に送信する。
また、“イベント”は、センサデータ処理部703に対して、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるサブ表示装置内コマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、サブ側主制御部830に送信する。
また、“オール”は、センサデータ処理部703に対して、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるサブ表示装置内コマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、サブ側主制御部830に送信する。なお、上記所定周期は、光センサ回路32にてスキャンを行う周期と一致する。
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるサブ表示装置内コマンドを受信すると、画像データバッファ704に記憶している画像データそのものをサブ側主制御部830に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるサブ表示装置内コマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データをサブ側主制御部830に送信する。ここで、当該画像データを、「部分画像データ」と称する。
なお、センサ制御部602から受信する画像データから、複数の部分画像データが抽出された場合、センサデータ処理部703は、該抽出された複数の部分画像データのそれぞれをサブ側主制御部830に送信する。したがって、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301上の複数箇所を同時にタッチした場合、センサデータ処理部703は、該タッチした領域のそれぞれを部分画像データとして抽出し、サブ側主制御部830に送信する。
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるサブ表示装置内コマンドを受信したとき、部分画像における代表点を検出し、当該代表点の部分画像における位置を示す代表座標の座標データをサブ側主制御部830に送信する。なお、上記代表点とは、例えば、上記部分画像データの中心、上記部分画像データの重心などが挙げられる。
なお、センサ制御部602から受信する画像データから、複数の部分画像データが抽出された場合、センサデータ処理部703は、該抽出された複数の部分画像データのそれぞれの代表点を検出し、当該検出された各代表点の、部分画像における位置を示す代表座標の座標データをサブ側主制御部830に送信する。したがって、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301上の複数箇所を同時にタッチした場合、センサデータ処理部703は、該タッチした各領域の代表点の、各領域における位置を示す代表座標の座標データを、サブ側主制御部830に送信する。
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるサブ表示装置内コマンドを受信すると、上記代表点の、全体画像データにおける位置を示す代表座標の座標データをサブ側主制御部830に送信する。
なお、センサ制御部602から受信する画像データから、複数の部分画像データが抽出された場合、センサデータ処理部703は、該抽出された複数の部分画像のそれぞれの代表点の、全体画像における位置を示す代表座標の座標データをサブ側主制御部830に送信する。したがって、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301上の複数箇所を同時にタッチした場合、センサデータ処理部703は、該タッチした各領域の代表点の、全体画像における位置を示す代表座標の座標データを、サブ側主制御部830に送信する。
すなわち、センサ付きサブ表示装置230は、ユーザが指やペンなどでセンサ内蔵液晶パネル301をタッチした数に関わらず、該タッチした領域の代表点を検出することができる(多点検出)。そして、該検出された代表点の、部分画像における位置を示す代表座標の座標データ、および、全体画像における位置を示す代表座標の座標データをサブ側主制御部830にすることができる。
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
“反射”は、バックライト307を点灯した状態でスキャンを行うことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるサブ表示装置内コマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
また、“透過”は、バックライト307を消灯した状態でスキャンを行うことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるサブ表示装置内コマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行うことを指定するものである。
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるサブ表示装置内コマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、サブ側主制御部830に送信する。
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるサブ表示装置内コマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、サブ側主制御部830に送信する。
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「スキャン解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるサブ表示装置内コマンドを受信すると、部分画像データおよび全体画像データを高解像度でサブ側主制御部830に送信する。例えば、画像認識などの画像処理を行う対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるサブ表示装置内コマンドを受信すると、部分画像データおよび全体画像データを低解像度でサブ側主制御部830に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
なお、サブ側主制御部830にて実行されるアプリケーションは、サブ表示装置内コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したサブ表示装置内コマンドをデータ処理部730に送信することとなるが、指やペンなど動きを検出したい場合には、さらに、当該サブ表示装置内コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、この場合には、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、上記サブ表示装置内コマンドの「スキャン解像度」フィールドの値は“低”を指定しておけばよい。
また、サブ表示装置内コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したサブ表示装置内コマンドをデータ処理部730に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「スキャン解像度」フィールドには“高”を指定することが望ましい。
〔装置間コマンド〕
次に、図10および図11を参照しながら、装置間コマンドのフレーム構造について説明する。まず、図10は、装置間コマンドのフレーム構造の一例を示す模式図である。図示のように、装置間コマンドは、先頭から順に、「ヘッダ」フィールド、「第0」から「第5」までの各フィールド、および、「予備」フィールドを含んでいる。
「ヘッダ」フィールドは、装置間コマンドのフレームの開始を示すフィールドである。フレームの開始であることが識別可能であれば、ヘッダフィールドの値は、どのような値であってもよい。
次に、「第0」フィールドは、装置間コマンドの種類を識別するための「コマンド識別子」を指定するフィールドである。
コマンド識別子の値が“000”である装置間コマンドを、ここでは「スキャンコマンド」と称する。スキャンコマンドは、メイン表示装置210が、センサ付きサブ表示装置230に対して、センサ内蔵液晶パネル301の近傍に位置する対象物のスキャンを行わせるために、メイン側主制御部810からサブ側主制御部830に送信される。なお、スキャンコマンドを受信したサブ側主制御部830は、スキャンコマンドから第0フィールドを取り除くことによって、スキャンコマンドをサブ表示装置内コマンドに変換するとともに、当該変換後のサブ表示装置内コマンドをデータ処理部730に送信する。
また、コマンド識別子の値が、“001”である装置間コマンドを、ここでは「表示コマンド」と称する。表示コマンドは、メイン表示装置210が、センサ付きサブ表示装置230に対して、表示/光センサ部330に写真やアイコンなどの画像データの表示を行わせるために、メイン側主制御部810からサブ側主制御部830に送信される。
また、コマンド識別子の値が、“010”である装置間コマンドを、ここでは「処理コマンド」と称する。処理コマンドは、センサ付きサブ表示装置230およびメイン表示装置210のいずれかが、相手側に所定処理(アプリケーションやミドルウェア)を実行させるために、メイン側主制御部810とサブ側主制御部830との間で送受信される。
次に、「第1」から「第5」までの各フィールドに指定可能な情報は、スキャンコマンド、表示コマンド、および処理コマンドのそれぞれで異なる。第1から第5までの各フィールドに指定可能な情報については、後述する。
次に、「予備」フィールドは、上述した各フィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
なお、上述した各フィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
次に、図11を参照しながら、スキャンコマンド、表示コマンド、および処理コマンドのそれぞれについて、各フィールドに指定可能な情報について説明する。図11は、スキャンコマンド、表示コマンド、および処理コマンドのそれぞれについて、各フィールドに指定可能な情報を示す説明図である。
図示のように、スキャンコマンドでは、第1から第5フィールドに、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、および「スキャン解像度」を指定することができる。なお、スキャンコマンドの第1から第5までの各フィールドに指定可能な情報は、サブ表示装置内コマンドの各フィールドに指定可能な情報と同じである。
なお、スキャンコマンドの第1から第5フィールドに指定可能な情報と、サブ表示装置内コマンドの各フィールドに指定可能な情報とを同じにしていることによって、スキャンコマンドを受信したサブ側主制御部830が、メイン側主制御部810から受信したスキャンコマンドの第0フィールドを取り除くだけで、当該受信したスキャンコマンドをサブ表示装置内コマンドに変換することができるようにしている。
また、表示コマンドでは、第1および第2フィールドに、「表示個数」、および「表示データ/表示位置」を指定することができる。なお、第3から第5フィールドは使用されない(NULL値である)。
また、処理コマンドでは、第1から第3フィールドに、「実行処理種別」、「引数個数」、および「引数情報」を指定することができる。なお、第4および第5フィールドは使用されない(NULL値である)。
次に、図12から図14を参照しながら、スキャンコマンド、表示コマンド、および処理コマンドのそれぞれについて、各フィールドに指定可能な値の一例、および、その概要を説明する。
図12は、スキャンコマンドの第1から第5フィールドに指定可能な値の一例、および、その概要の説明図である。図示のとおり、スキャンコマンドの第1から第5までの各フィールドは、サブ表示装置内コマンドの各フィールドと同じであるので、ここでは説明を省略する。
次に、表示コマンドについて説明する。図13は、表示コマンドの第1および第2フィールドに指定可能な値の一例、および、その概要の説明図である。
表示コマンドの第1フィールド(表示個数)は、センサ付きサブ表示装置230の表示/光センサ部330に表示させるデータの数を指定するフィールドである。つまり、第2フィールド(表示データ/表示位置)に指定する組の数を示すものである。
表示コマンドの第2フィールド(表示データ/表示位置)は、センサ付きサブ表示装置230の表示/光センサ部330に表示させる画像データそのものと、当該データの表示位置(座標)との組を示すフィールドである。複数の画像データを表示させる場合、第2フィールドには、上記組を複数指定する。
次に、処理コマンドについて説明する。図14は、処理コマンドの第1から第3フィールドに指定可能な値の一例、および、その概要の説明図である。
処理コマンドの第1フィールド(実行処理種別)は、相手側に実行させるアプリケーション(ミドルウェアを含む)の識別情報を指定するフィールドである。アプリケーションが識別可能であれば、どのような値であってもよい。
処理コマンドの第2フィールド(引数個数)は、第1フィールドにて指定したアプリケーションが、起動時または起動後に用いる各種情報(引数)の個数を指定するフィールドである。つまり、第3フィールド(引数情報)に指定するデータの数を示すものである。
処理コマンドの第3フィールド(引数情報)は、第1フィールドにて指定したアプリケーションが、起動時または起動後に用いる各種情報(引数)を指定するフィールドである。起動時に用いる情報とは、例えば、アプリケーションの動作モードや、アプリケーションの表示領域などを指定するパラメータなどが挙げられる。また、起動後に用いる情報とは、例えば、文字認識アプリケーションが文字認識する対象の画像データや、ファイル転送アプリケーションが転送する対象のファイルなどが挙げられる。
〔全体画像データ/部分画像データ/座標データ〕
次に、図15を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図15(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図15(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
図15(b)に示す画像データでは、図15(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図15(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
なお、領域APで示される画像データが、“全体画像データ”である。
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
〔センサ内蔵液晶パネルの構成〕
次に、図16を参照しながら、センサ付きサブ表示装置230が備えるセンサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図16は、表示/光センサ部330の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称として用いる。
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード6のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード6に光が入射されると、入射した光量に応じた電流がフォトダイオード6に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード6のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
走査信号線駆動回路3041は、液晶パネル制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
データ信号線駆動回路3042は、液晶パネル制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
次に、センサ付きサブ表示装置230及び通信端末装置400の詳細な構成について、図1に基づいて説明する。図1は、センサ付きサブ表示装置230及び通信端末装置400の要部構成を示すブロック図である。
〔センサ付きサブ表示装置230の主制御部の詳細な構成〕
図示のように、センサ付きサブ表示装置230の主制御部であるサブ側主制御部830には、機器検索部(機器検索手段)1、機器情報取得部(機器情報取得手段)2、画像送信部(画像送信手段)3、処理コマンド生成部(処理実行指示手段)4、表示処理部(画像変更手段、省電力制御手段)5、及びスキャン処理部7が含まれている。
機器検索部1は、近距離無線通信部935を介して通信可能な外部装置を検索する。具体的には、機器検索部1は、まず機器検索を行って、自装置と通信可能な外部装置を検出する。次に、機器検索部1は、電界強度検出部936に指示して、上記検出された外部装置の電界強度を検出させる。続いて、機器検索部1は、電界強度を検出した外部装置のうち、電界強度が所定値以上である外部装置に対して、応答要求を送信する。そして、機器検索部1は、送信した応答要求に対する応答の有無を確認することによって、近距離無線通信部935を介して通信可能な外部装置が存在するか否かを判断する。なお、外部装置とは、例えば通信端末装置400である。
また、機器検索部1は、近距離無線通信部935を介して通信可能な外部装置が存在すると判断したときに、該外部装置と通信接続を確立する。具体的には、機器検索部1は、まず、検出した外部装置に対して、接続要求を送信する。そして、この接続要求を受信した外部装置が、接続許可をセンサ付きサブ表示装置230に送信することにより、センサ付きサブ表示装置230と外部装置との近距離無線通信部935を介した通信接続が確立される。
機器情報取得部2は、近距離無線通信部935を介した通信接続が確立された外部装置の機器情報を取得する。具体的には、機器情報取得部2は、近距離無線通信部935を介した通信接続が確立された外部装置に対して機器情報要求を送信し、この機器情報要求に対して返信される機器情報を取得する。機器情報は、外部装置が画像を表示するときの表示条件等を含む情報であり、例えば表示可能な画像サイズや表示色数等がこの機器情報となる。
ここでは、下記の表1に示すようなデータを機器情報として用いることを想定している。表1は、機器情報の一例を示す表である。
表1の機器情報には、外部装置が表示可能な画像サイズ、表示色数、及び外部装置の入力操作の方式を示す情報が含まれている。これにより、外部装置の表示可能な画像サイズ、表示色数、及び外部装置の入力操作の方式に合わせた画像を外部装置に送信して表示させることが可能になる。
表1の例では、表示可能な画像サイズがQVGA(Quarter Video Graphics Array)の240×320となっており、表示色数が256色となっているので、縦240画素×横320画素で表示色数が256の画像が外部装置に送信されることになる。また、表1の例では、入力方式がタッチパネルとなっているので、タッチパネル操作用の画像が外部装置に送信されることになる。センサ付きサブ表示装置230にもタッチパネル操作用の画像が表示されるので、外部装置に送信される画像と、センサ付きサブ表示装置230が表示する画像とは、サイズ及び表示色数を除けば同様のものとなる。
なお、機器情報は、センサ付きサブ表示装置230が、少なくとも外部装置の表示可能な画像サイズを認識できるものであればよく、上記の例に限られない。例えば、機器情報は、表示可能な画像サイズのみを含むデータであってもよい。また、例えば機器情報は、外部装置の機種を示す情報であってもよい。ただし、この場合には、機種と該機種が備える表示装置が表示可能な画像サイズとが対応付けられたデータを予めセンサ付きサブ表示装置230に格納しておく必要がある。
画像送信部3は、機器情報取得部2が取得した機器情報に基づき、センサ付きサブ表示装置230の表示部であるセンサ内蔵液晶パネル301に表示されている画像を再構築して外部装置に送信する。これにより、外部装置にセンサ内蔵液晶パネル301と同じ画像が表示される。
このように、センサ付きサブ表示装置230では、機器情報取得部2が取得した機器情報に応じた画像を送信するので、センサ内蔵液晶パネル301に表示されている操作用画像を外部装置において良好に表示させることができる。
すなわち、センサ付きサブ表示装置230と外部装置とは、別個の装置であるから、表示部の表示条件が異なる場合が多いと考えられる。このため、センサ内蔵液晶パネル301に表示させるための画像をそのまま外部装置に送信した場合には、この表示条件の違いから、外部装置において画像が正常に表示されない可能性がある。
そこで、センサ付きサブ表示装置230では、外部装置の機器情報に基づいて、外部装置で表示させるための画像を生成するようにしている。これにより、種類や機種を問わず、様々な外部装置に、センサ内蔵液晶パネル301に表示されている操作用画像を良好に表示させることができる。
〔画像の生成について〕
ここで、画像送信部3が、機器情報に基づいて画像を生成する具体例について説明する。
例えば、機器情報が、画像サイズと表示色数であった場合には、画像送信部3は、これをセンサ内蔵液晶パネル301が表示可能な画像サイズ及び表示色数と比較する。そして、画像サイズが異なっている場合には、画像送信部3は、センサ内蔵液晶パネル301に表示されている画像を、機器情報が示す画像サイズに合わせて縮小、またはトリミングする。また、表示色数が異なっている場合には、画像送信部3は、センサ内蔵液晶パネル301に表示されている画像の表示色数を機器情報が示す表示色数に合わせて減少させる。
なお、センサ内蔵液晶パネル301の表示可能な画像サイズよりも、機器情報が示す画像サイズが大きい場合には、画像の大きさを変えなくてもよいし、外部装置の画面サイズに合わせて画像を引き伸ばしてもよい。また、センサ内蔵液晶パネル301の表示色数よりも、機器情報が示す表示色数が多い場合には、表示色数は変えない。
ここで、外部装置の入力方式が、表1の例のようにタッチパネルである場合には、センサ付きサブ表示装置230の入力方式もタッチパネルであるから、画像サイズと表示色数とを合わせるのみでよい。
しかしながら、外部装置の入力方式が、センサ付きサブ表示装置230と異なっている場合(例えば、キー入力である場合)には、外部装置において、センサ付きサブ表示装置230と画像サイズ及び表示色数を合わせた画像を表示したときに、ユーザが、どの操作キーがどの処理に対応しているかを認識することが困難となることも考えられる。
そこで、画像送信部3は、外部装置の入力方式が、センサ付きサブ表示装置230と異なっている場合には、外部装置においてユーザの入力を補助するためのガイド情報を組み込んだ画像を生成する。例えば、外部装置の入力方式がキー入力である場合には、操作キーと、該操作キーを操作したときに、メイン表示装置210が実行する処理との対応を示すガイド情報を組み込むことが考えられる。
ここで、ガイド情報を組み込んだ画像を送信したときに、外部装置で表示される画像の一例について図18に基づいて説明する。図18は、操作部403がキー入力方式の通信端末装置400’において表示される操作用画像の一例を示す図である。なお、通信端末装置400’は、操作部403がキー入力方式である以外は、通信端末装置400と同様の構成を備えている。
図示のように、通信端末装置400’の表示部405には、図1の例と同様の操作用画像が表示されていると共に、ガイド情報g1〜g4が表示されている。より詳細には、表示部405の中央の左側には、動画像の早戻しを示す画像と共に、「4」の数字を表示するガイド情報g1が表示されており、表示部405の中央の上側には、動画像の再生停止を示す画像と共に、「2」の数字を表示するガイド情報g2が表示されており、表示部405の中央の右側には、動画像の早送りを示す画像と共に、「6」の数字を表示するガイド情報g3が表示されており、表示部405の中央の下側には、動画像の再生開始を示す画像と共に、「8」の数字を表示するガイド情報g4が表示されている。
これらガイド情報g1〜g4は、操作部403の操作キーを示している。すなわち、図示の例では、ガイド情報g2が表示されていることにより、ユーザは、操作部403の「2」の数字が付された操作キーを押下することにより、メイン表示装置210において動画像の再生が停止されることを認識することができる。同様に、ガイド情報g2〜g4が表示されていることにより、ユーザはどの操作キーによってどのような処理が行われるかを容易に認識することができる。
なお、ここでは、画像送信部3が、画像の再構築を行う例について説明するが、表示可能な画像サイズや入力方式は、外部装置の種類と機種とに応じて予め決まっている。したがって、外部装置の機種ごとに作成した操作用画像を予め記憶部931に格納しておき、画像送信部3が、記憶部931に格納されている操作用画像の中から、受信した機器情報に基づいて選択した操作用画像を送信するようにしてもよい。
また、センサ内蔵液晶パネル301に表示されている画像をそのまま外部装置に送信し、外部装置において画像を再構築して表示するようにすることも可能である。しかしながら、センサ付きサブ表示装置230にて画像を生成する上記の構成の方が、外部装置の負荷が軽減されるので好ましい。
処理コマンド生成部4は、センサ付きサブ表示装置230に対する入力操作に対応付けられたコマンドをメイン表示装置210に送信して動作させる。具体的には、処理コマンド生成部4は、センサ内蔵液晶パネル301に入力操作が行われたときにスキャン処理部7から送られる座標と、センサ内蔵液晶パネル301上に設定された領域と該領域に対応するコマンドとを示すコマンド決定用データとに基づいて決定したコマンドをメイン表示装置210に送信する。
コマンド決定用データは、例えば下記の表2のようなデータとすることもできる。表2は、コマンド決定用データの一例を示している。表2の例のコマンド決定用データでは、領域番号と、センサ内蔵液晶パネル301上の領域を示すデータ(座標の範囲)と、コマンドとが対応付けられている。このため、処理コマンド生成部4は、表2のコマンド決定用データを用いて、スキャン処理部7から送られる座標がどの領域に含まれているかを確認することによって、コマンドを決定することができる。
コマンド決定用データは、操作用画像ごとに作成したものを予め記憶部931に格納しておき、処理コマンド生成部4は、センサ内蔵液晶パネル301に表示されている操作用画像に対応するコマンド決定用データを用いて、メイン表示装置210に送信する処理コマンド(第0フィールドの値が“010”のコマンド)を決定する。
また、処理コマンド生成部4は、外部装置から、該外部装置への入力操作の内容を示す操作データを受信したときに、受信した操作データに対応するコマンドを決定し、決定したコマンドをメイン表示装置210に送信して動作させる。なお、コマンドを決定する処理は、受信した操作データに応じて異なっている。
例えば、外部装置の操作部がタッチパネルやタッチパッド等である場合には、接触が検知された位置を示すデータ(座標等)が操作データとして送信される。そして、この場合には、処理コマンド生成部4は、外部装置から受信した機器情報に含まれる画像サイズに基づいて、コマンド決定用データ(表2参照)の座標範囲を、画像サイズの拡大または縮小倍率に合わせて拡大または縮小する補正を行う。そして、処理コマンド生成部4は、座標範囲を補正したコマンド決定用データと、外部装置から受信した操作データが示す位置とに基づいて決定したコマンドを生成する。例えば、画像サイズの拡大倍率が、縦m倍、横n倍である場合には、上記表2の例における領域番号1の領域は、(n×x1,m×y1)〜(n×X1,m×Y1)となる。このように、操作用画像の拡大倍率をコマンド決定用データの領域を規定する座標値に乗じることによって、座標値を補正することができる。なお、x1及びX1は外部装置の画像表示面における縦方向の位置を示し、y1及びY1は横方向の位置を示すものとする。
また、処理コマンド生成部4は、受信した操作データが示す位置を、画像サイズの拡大または縮小倍率に合わせて補正し、補正後の位置とコマンド決定用データとに基づいてコマンドを決定してもよい。例えば、受信した操作データが(x,y)の座標であって、画像サイズの拡大倍率が、縦m倍、横n倍である場合には、(x/m,y/n)の座標が、コマンド決定用データのどの領域に含まれるかを確認し、この座標が含まれる領域に対応付けられたコマンドを決定する。このように、操作用画像の拡大倍率の逆数を座標値に乗じることによって、座標値を補正することができる。
さらに、例えば、図18に示した通信端末装置400’のように、外部装置の操作部がテンキー等のような操作キーで構成されている場合には、操作データとしてどの操作キーが操作されたかを示すデータが送信される。そして、この場合には、操作データが示す操作キーに対応するコマンドを生成する。なお、この場合には、操作用画像ごとに、操作キーとコマンドとが対応付けられたコマンド決定用データを予め記憶部931に格納しておく。
このように、処理コマンド生成部4は、受信した操作データに応じたコマンドを決定する処理を行うが、コマンドは、外部装置が決定してもよい。この場合には、外部装置は、自装置に対する入力操作と、該入力操作に対応するコマンドとを予め対応付けて記憶しておき、入力操作を検出したときに、該入力操作に対応するコマンドを、センサ付きサブ表示装置230またはメイン表示装置210に送信することになる。
しかしながら、外部装置がコマンドを決定するようにした場合には、メイン表示装置210のコマンドを予め記憶している外部装置でなければ、メイン表示装置210の遠隔操作を行うことができないというデメリットがある。このため、コマンドの決定は、処理コマンド生成部4が行うようにすることが好ましい。
表示処理部5は、センサ内蔵液晶パネル301に画像を表示する処理を行う。具体的には、センサ付きサブ表示装置230にてメイン表示装置210の入力操作を行うときには、操作用画像がメイン表示装置210からセンサ付きサブ表示装置230に送信されるので、表示処理部5は、これをセンサ内蔵液晶パネル301に表示させる。
より詳細には、センサ付きサブ表示装置230にてメイン表示装置210の入力操作を行うときには、メイン表示装置210からセンサ付きサブ表示装置230に、操作用画像を含む「表示コマンド」が送信される。つまり、「第0」フィールドの値が“001”であり、「第1」フィールドの値が“001”であり、「第2」フィールドの値が“操作用画像のデータと、そのセンサ内蔵液晶パネル301上の表示位置を示すデータ”であるコマンドが送信される。表示処理部5は、この表示コマンドに従って、表示/光センサ部330に指示を送り、操作用画像をセンサ内蔵液晶パネル301に表示させる。
また、詳細については後述するが、表示処理部5は、センサ内蔵液晶パネル301に表示する操作用画像を変更したり、電界強度検出部936が検出する電界強度に応じて、表示/光センサ部330を省電力モードに切り替えたりする処理も行う。
スキャン処理部7は、センサ内蔵液晶パネル301に像を検知させて取得した検知結果を処理コマンド生成部4に出力する。具体的には、スキャン処理部7は、「データ取得タイミング」フィールドの値を“イベント”とし、「データ種別」フィールドを“001”(座標)としたコマンドをデータ処理部730に送信する。これにより、データ処理部730は、表示/光センサ回路制御部630から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、所定の閾値より大きい変化が生じた座標を主制御部800に送信する。そして、スキャン処理部7は、この座標を受け取って、処理コマンド生成部4に転送する。そして、上記のように、座標を受け取った処理コマンド生成部4は、座標に応じたコマンドを生成してメイン表示装置210に送信する。
〔通信端末装置400の詳細な構成〕
通信端末装置400は、図示のように、ネットワーク通信部401、通信制御部402、操作部403、近距離無線通信部404、表示部405、記憶部406、一次記憶部407、及び端末側主制御部408を備えており、端末側主制御部408は、接続処理部21、機器情報送信部22、操作データ送信部23、及び表示処理部24を備えている。
ネットワーク通信部401は、外部の通信ネットワークと通信可能に接続される構成となっており、外部装置との間で通信を行うものである。上記通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。
通信制御部402は、センサ付きサブ表示装置230と通信を行うための近距離無線通信部404、及びネットワークに接続する外部装置(図示せず)と通信を行うためのネットワーク通信部401を制御するものである。すなわち、通信制御部402は、近距離無線通信部404またはネットワーク通信部401を介して、外部装置との間で各種データをやりとりする。
操作部403は、通信端末装置400に入力操作を行うための入力装置である。具体的には、操作部403は、入力操作を受け付けて、受け付けた入力操作に対応する操作信号を端末側主制御部408に出力する。操作部403は、例えば入力キー等によって入力操作を受け付けるものであってもよいが、表示部405に対する接触を入力操作として検出する、タッチパネルであることが好ましい。
近距離無線通信部404は、センサ付きサブ表示装置230の近距離無線通信部935との間、及び、外部装置との間で形成される無線通信経路を用いて、相互に通信可能な構成となっている。ここでは、上記無線通信経路に、Bluetooth通信を適用することを想定している。すなわち、近距離無線通信部404は、Bluetooth通信にて信号の送受信を行うことのできる通信部である。なお、近距離無線通信部404は、センサ付きサブ表示装置230と通信可能なものであればよく、センサ付きサブ表示装置230の通信態様に合わせて、IEEE802.11無線やZigBee(登録商標)等を適用してもよい。
表示部405は、データを表示する表示装置であり、液晶表示パネル、EL表示パネル等、任意の表示装置を適用することができる。表示部405の表示可能な画像サイズ、表示色等の情報は、機器情報として記憶部406に格納されている。
記憶部406は、端末側主制御部408が実行するプログラムおよびデータを格納する。なお、端末側主制御部408が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
端末側主制御部408は、記憶部406に格納されているアプリケーションプログラムを、例えばRAM等で構成される一次記憶部407に読み出して実行する。端末側主制御部408は、CPU及びメモリ等で構成することができる。
接続処理部21は、接続要求の受信を確認したときに、該接続要求の送信元の装置と接続処理を行って近距離無線通信部404を介した通信接続を確立する。また、機器情報送信部22は、機器情報要求を受信したときに、記憶部406から機器情報を読み出して、当該機器情報要求の送信元の装置に送信する。
操作データ送信部23は、操作部403に対して行われた入力操作の内容を示す操作データをセンサ付きサブ表示装置230に送信する。上述のように、センサ付きサブ表示装置230は、受信した操作データに基づいてメイン表示装置210に送信するコマンドを決定する。このため、操作データ送信部23は、操作部403に対して行われた入力操作の内容を解釈してコマンドを生成する必要がない。
表示処理部24は、センサ付きサブ表示装置230から受信した画像、すなわちメイン表示装置210を遠隔操作するための操作用画像を表示部405に表示させる。上述のように、センサ付きサブ表示装置230が送信する操作用画像は、外部装置(例えば通信端末装置400)の表示条件等に合わせて生成されたものである。このため、表示処理部24は、受信した操作用画像をそのまま表示させればよく、受信した操作用画像の再構築を行う必要がない。
〔センサ付きサブ表示装置230が行う処理の流れ〕
続いて、センサ付きサブ表示装置230が行う処理の流れについて、図19に基づいて説明する。図19は、センサ付きサブ表示装置230が行う処理の一例を示すフローチャートである。
まず、表示処理部5は、有線通信部934を介してメイン表示装置210から送られてくる操作用画像を、データ処理部730に指示してセンサ内蔵液晶パネル301に表示させる(S11)。そして、操作用画像の表示指示を行った表示処理部5は、その旨を機器検索部1に伝達する。
伝達を受けた機器検索部1は、機器検索を実行し(S12)、外部装置(ここでは通信端末装置400)が検出されたか否かを確認する(S13)。具体的には、機器検索部1は、まず機器検索を行って、自装置と通信可能な外部装置を検出し、続いて電界強度検出部936に指示して、機器検索によって検出された外部装置の電界強度を検出させる。そして、機器検索部1は、電界強度を検出した外部装置のうち、電界強度が所定値以上である外部装置に対して、応答要求を送信し、送信した応答要求に対する応答の有無を確認することによって、外部装置が検出されたか否かを確認する。
つまり、ここで検出する外部装置は、自装置と近距離無線通信部935を介して通信可能な外部装置のうち、自装置から一定の距離の範囲内に存在する外部装置ということになり、自装置から一定以上離れた位置に存在する外部装置は検出対象としない。
ここで、外部装置の検出が確認されなかった場合(S13でNO)には、処理はS12に戻り、機器検索部1は、再び機器検索を行う。このように、センサ付きサブ表示装置230は、操作用画像の表示開始をトリガとして機器検索を開始し、操作用画像を表示している間は、定期的に機器検索を行うようになっている。
一方、外部装置の検出が確認された場合(S13でYES)には、機器検索部1は、検出が確認された外部装置と接続処理を行う。具体的には、機器検出部1は、検出した外部装置に対して接続要求を送信し、当該外部装置から接続許可を受信して、通信接続を確立する(S14)。なお、同図には示していないが、接続要求送信後、所定時間内に外部装置からの接続許可の受信が確認できない場合にはS12の処理に戻る。
外部装置との通信接続が確立されると、機器検索部1はその旨を機器情報取得部2に伝達する。そして、伝達を受けた機器情報取得部2は、上記外部装置に機器情報要求を送信する。これにより、外部装置から機器情報が送信されるので、機器情報取得部2は、これを取得する(S15)。そして、機器情報取得部2は、取得した機器情報を画像送信部3に送る。
機器情報を受け取った画像送信部3は、センサ内蔵液晶パネル301に表示されている操作用画像を、上記受け取った機器情報に応じて再構築する。そして、画像送信部は、再構築によって生成した画像を外部装置に送信する(S16)。
外部装置は、上記のようにして生成された画像を受信して表示するので、外部装置の表示部には、センサ付きサブ表示装置230に表示されている操作用画像が、外部装置の表示部の機器情報に合った状態で表示される。これにより、外部装置のユーザは、センサ付きサブ表示装置230でメイン表示装置210の操作を行うときと同じ感覚で、外部装置でメイン表示装置210の操作を行うことができる。
ここで、センサ付きサブ表示装置230は、画像を外部装置に送信した後も、S11で表示した操作用画像を表示し続けるようにしてもよい。しかしながら、センサ付きサブ表示装置230と外部装置とが近接している場合に、同じ内容の操作用画像を、センサ付きサブ表示装置230と外部装置とに表示させる必要はない。
そこで、表示処理部5は、画像が外部装置に送信されたことを確認すると、表示/光センサ部330を省電力モードに設定する(S17)。なお、省電力モードとは、表示/光センサ部330の消費電力を、通常の動作時よりも低減させた状態を指す。
具体的には、省電力モードに設定された表示/光センサ部330は、センサ内蔵液晶パネル301の表示輝度を下げると共に、光センサ駆動回路305の駆動を停止させることによって、消費電力を低減させる。なお、省電力モードは、表示/光センサ部330の通常の動作時よりも、消費電力が少なくなるものであればよく、例えば省電力モードにおいてセンサ内蔵液晶パネル301の表示をオフにしてもよいし、光センサ駆動回路305の駆動を維持して表示輝度のみを低下させてもよい。
ここで、省電力モードにおいて、光センサ駆動回路305の駆動が停止されている間は、センサ内蔵液晶パネル301に触れて入力操作を行うことはできない。このため、ここでは、外部装置からの遠隔操作によって、センサ内蔵液晶パネル301に触れて入力操作を行うことができる状態に戻すことができるようにしている。
すなわち、センサ内蔵液晶パネル301に触れて入力操作を行うことができる状態に戻す処理に対応する操作データがセンサ付きサブ表示装置230において予め定義されており、この操作データを受信したときにセンサ内蔵液晶パネル301に触れて入力操作を行うことができる状態に戻す処理が行われる。
この場合には、外部装置において、どの入力操作がセンサ内蔵液晶パネル301に触れて入力操作を行うことができる状態に戻す処理に対応しているかをユーザが認識できるように、この処理に対応する入力操作を示す情報を操作用画像に合成して(または、この処理に対応する入力操作を示す情報を含む、予め作成された操作用画像を)外部装置に送信することが好ましい。
なお、どの入力操作がセンサ内蔵液晶パネル301に触れて入力操作を行うことができる状態に戻す処理に対応しているかを示す情報が合成された操作用画像は、上記S16で送信するようにしてもよいし、省電力モードに設定されたときに送信するようにしてもよい。
ここで、上記画像が表示された外部装置に入力操作が行われたときには、入力操作の内容を示す操作データがセンサ付きサブ表示装置230に送信される。処理コマンド生成部4は、操作データの受信を待ち受け(S18)、操作データの受信が確認された場合(S18でYES)には、受信した操作データに応じたコマンドを生成してメイン表示装置210に送信する(S19)。なお、上述のように、処理コマンド生成部4がコマンドを生成する際の具体的な処理は、外部装置がどのような操作データを送信するかに依存する。
そして、生成したコマンドをメイン表示装置210に送信した後、または操作データの受信が確認されない場合(S18でNO)には、処理コマンド生成部4は、その旨を表示処理部5に伝達する。
伝達を受けた表示処理部5は、外部装置との近距離無線通信部935を介した通信が切断されたか否かを確認する(S20)。具体的には、表示処理部5は、電界強度検出部936が取得した近距離無線通信部935を介した通信の電界強度が、データの送受信に耐えない程度に低い場合、または外部装置から遠隔操作を終了する旨の通知を受信したことが確認された場合に、通信が切断されたと判断する。
なお、表示処理部5は、通信切断の有無を判断するときに、予め設定された所定値と検出された電界強度とを比較し、電界強度が所定値以下であったときに、通信が切断されたと判断する。また、この所定値は、機器検索部1が応答要求の送信可否を決定するときに用いる所定値よりも小さい値に設定される。
通信が切断されたと判断した場合(S20でYES)には、処理はS11に戻り、表示処理部5は、操作用画像をセンサ内蔵液晶パネル301に表示させる。つまり、ここで省電力モードが解除される。そして、この場合には、再度、機器検索が行われる。一方、通信が切断されていないと判断した場合(S20でNO)には、処理はS18に戻る。
〔センサ付きサブ表示装置230が行う処理の変形例(1)〕
図19の例では、S16で画像を送信した後に、自動的に表示/光センサ部330を省電力モードに設定しているが、画像送信後の処理はこの例に限られない。例えば、遠隔操作を行う外部装置の電界強度が所定値以上であることを検出したときに表示/光センサ部330を省電力モードに設定するようにしてもよい。
上述のように、図19の例において、S16で画像を送信した後には、センサ付きサブ表示装置230と外部装置とで、同じ内容の操作用画像が表示される。そして、これにより、センサ付きサブ表示装置230と外部装置との何れを用いても同じ入力操作を行うことができるようになる。したがって、例えば、センサ付きサブ表示装置230と外部装置とに別の人物が入力操作を行うことも可能である。
しかしながら、センサ付きサブ表示装置230と外部装置との距離が近接しているときには、センサ付きサブ表示装置230と外部装置とに別の人物が入力操作を行うことは考え難く、このような場合に、センサ付きサブ表示装置230に操作用画像を表示する必要はない。
すなわち、センサ付きサブ表示装置230と外部装置との距離が離れているときには、センサ付きサブ表示装置230と外部装置との両方でメイン表示装置210を操作できるようにして、センサ付きサブ表示装置230と外部装置との距離が近接しているときには、表示/光センサ部330を省電力モードにすることにより、ユーザの利便性を損なわずに消費電力を低減することができる。
ここで、一般に電界強度の大きさは距離に反比例するので、電界強度を用いることによって、センサ付きサブ表示装置230と外部装置との距離が近接しているか否かを判断することが可能である。
すなわち、表示処理部5は、電界強度検出部936に電界強度を検出させて、検出させた電界強度が予め定めた所定値以上である場合に、センサ付きサブ表示装置230と外部装置とが近接していると判断することができる。そして、近接していると判断したときに、表示/光センサ部330を省電力モードに設定することにより、ユーザの利便性を損なわずに消費電力を低減することができる。
なお、上記所定値は、外部装置とセンサ付きサブ表示装置230との距離を基に設定すればよい。例えば、外部装置とセンサ付きサブ表示装置230との距離が2mとなるときの電界強度を上記所定値として設定することにより、外部装置とセンサ付きサブ表示装置230との距離が2m以内になったときに表示/光センサ部330を省電力モードに設定させることができる。無論、この距離は、2mに限られず、必要に応じて適宜設定すれば良い。
〔センサ付きサブ表示装置230が行う処理の変形例(2)〕
画像送信後の処理は、図19の例、及び上記〔センサ付きサブ表示装置230が行う処理の変形例(1)〕以外にも考えられる。例えば、画像を外部装置に送信した後に、センサ付きサブ表示装置230にて外部装置とは異なる入力操作を行うことができるようにしてもよい。
ここでは、画像を外部装置に送信した後に、センサ付きサブ表示装置230にて外部装置とは異なる入力操作を行うことができるようにする例について、図20に基づいて説明する。図20は、センサ付きサブ表示装置230が行う、上記とは別の処理の流れを示すフローチャートである。なお、図20において、図19と同様の処理については同一の参照番号を付し、その説明を省略する。
表示処理部5は、S16において、画像が外部装置に送信されたことを確認すると、センサ内蔵液晶パネル301に表示する操作用画像を変更する(S21)。具体的には、表示処理部5は、メイン表示装置210に操作用画像の変更を指示する処理コマンドを送信し、この応答として受信した操作用画像をデータ処理部730に指示してセンサ内蔵液晶パネル301に表示させる。
なお、変更後の操作用画像は、変更前の操作用画像と異なる入力操作に対応しているものであればよい。例えば、変更前の操作用画像が、動画像の「再生」「再生停止」「早送り」及び「早戻し」の処理をメイン表示装置210に実行させる入力操作に対応するものである場合には、変更後の操作用画像を、これらの入力操作以外に対応するものとする。例えば、変更後の操作用画像を、「音量変更」「コマ送り」「スロー再生」及び「遠隔操作の終了」等の処理をメイン表示装置210に実行させる入力操作に対応するものとしてもよい。
また、変更後の操作用画像は、例えば、外部装置による遠隔操作を終了させて、センサつきサブ表示装置230に対する入力操作のみでメイン表示装置210が動作するようにする処理を実行させる入力操作を示すものであってもよい。
さらに、変更後の操作用画像は、例えば、表示/光センサ部330を省電力モードに設定させる入力操作を示すものであってもよい。これにより、ユーザは、センサ付きサブ表示装置230を用いて入力操作を行わないと判断したときに、表示/光センサ部330を省電力モードに設定することができる。
以上のように、画像の送信後に操作用画像を変更することにより、ユーザは、センサ付きサブ表示装置230と外部装置とで、別々の入力操作を行うことができ、多様な入力操作が可能になる。
ここで、フローチャートの説明に戻る。図20のS18において、処理コマンド生成部4は、操作データの受信を待ち受け、操作データの受信が確認された場合(S18でYES)には、受信した操作データに応じたコマンドを生成してメイン表示装置210に送信する(S19)。一方、操作データの受信が確認されない場合(S18でNO)には、処理コマンド生成部4は、その旨を表示処理部5に伝達し、処理はS20に進む。
また、図20の例では、図19の例と異なり、画像送信後も表示/光センサ部330が省電力モードに設定されておらず、変更された操作用画像が表示されている。したがって、処理コマンド生成部4は、センサ付きサブ表示装置230に対する入力操作を待ち受けている(S22)。
ここで、センサ内蔵液晶パネル301に入力操作が行われたことを検出した場合(S22でYES)には、処理コマンド生成部4は、スキャン処理部7から送られる座標と、センサ内蔵液晶パネル301上に設定された領域と該領域に対応するコマンドとを示すコマンド決定用データとに基づいて決定したコマンドをメイン表示装置210に送信する(S23)。なお、ここでは、S21において表示された操作用画像に対応するコマンド決定用データが用いられる。
そして、生成したコマンドをメイン表示装置210に送信した後、または操作データの受信が確認されない場合(S18でNO、またはS22でNO)には、処理コマンド生成部4は、その旨を表示処理部5に伝達する。
伝達を受けた表示処理部5は、外部装置との近距離無線通信部935を介した通信が切断されたか否かを確認する(S20)。そして、通信が切断されたと判断した場合(S20でYES)には、処理はS11に戻り、表示処理部5は、S17で変更する前に表示していた操作用画像をセンサ内蔵液晶パネル301に表示させる。この場合には、再度、機器検索が行われる。
一方、通信が切断されていないと判断した場合(S20でNO)には、表示処理部5は、電界強度検出部936が取得した、近距離無線通信部935を介した通信の電界強度が、予め定めた所定値以下であるか否かを確認する(S24)。
ここで、電界強度が予め定めた所定値より大きい場合(S24でNO)には、処理はS18に戻る。一方、電界強度が予め定めた所定値以下である場合(S24でYES)には、表示処理部5は、表示/光センサ部330を省電力モードに設定し(S17)、処理はS18に戻る。
このように、図20の例では、上記〔センサ付きサブ表示装置230が行う処理の変形例(1)〕とは逆に、電界強度が予め定めた所定値以下である場合に表示/光センサ部330を省電力モードに設定するようにしている。この理由について、以下説明する。
上述のように、電界強度が予め定めた所定値以上である場合には、外部装置とセンサ付きサブ表示装置230との距離が一定以上近接していると考えられ、逆に電界強度が予め定めた所定値以下である場合には、外部装置とセンサ付きサブ表示装置230との距離が一定以上離れていると考えられる。
そして、両装置の距離が離れている場合には、外部装置のユーザは、センサ内蔵液晶パネル301の表示を見たり、センサ内蔵液晶パネル301に触れたりすることは困難である。
そこで、センサ付きサブ表示装置230と外部装置とで別々の操作用画像を表示させる図20の例では、電界強度が予め定めた所定値以下である場合に、表示/光センサ部330を省電力モードに設定するようにしている。これにより、センサ付きサブ表示装置230の不要な電力消費を減らして、2画面表示装置200の消費電力を低減することができる。
このため、S24において省電力モードに設定するか否かの判断の規準となる所定値は、外部装置とセンサ付きサブ表示装置230との距離を基に設定することが好ましい。例えば、外部装置とセンサ付きサブ表示装置230との距離が3mとなるときの電界強度を上記所定値として設定することにより、外部装置とセンサ付きサブ表示装置230との距離が3mを超えたときに表示/光センサ部330を省電力モードに設定させることができる。無論、この距離は、3mに限られず、センサ内蔵液晶パネル301のサイズ等に合わせて適宜設定すれば良い。
なお、上記の例では、電界強度を用いた判定に4種類の所定値を用いる例を示した。すなわち、S12において応答要求の送信可否を判定するための所定値(第1所定値と呼ぶ)と、S20において通信切断の有無を判定するための所定値(第2所定値と呼ぶ)と、S24において省電力モードの設定可否(離れている場合に省電力モードに設定)を判定するための所定値(第3所定値と呼ぶ)と、図19の変形例で示した省電力モードの設定可否(近接している場合に省電力モードに設定)を判定するための所定値(第4所定値と呼ぶ)とである。
これら第1−第4所定値のうち、第2所定値については、第1、第3、及び第4所定値よりも小さい値に設定されるが、第1、第3、及び第4所定値は、同じ値であってもよいし、それぞれ異なる値であってもよい。これらの所定値は、必要に応じて適宜設定し、予め記憶部931等に格納しておけばよい。
〔通信端末装置400が行う処理の流れ〕
次に、通信端末装置400が行う処理の流れについて、図21に基づいて説明する。図21は、通信端末装置400が行う処理の一例を示すフローチャートである。
なお、図21の処理は、通信端末装置400において、遠隔操作を行うためのアプリケーションソフト(図1には示していない)が起動している間に行われる処理である。言い換えれば、このアプリケーションソフトを起動していない状態では、通信端末装置400をセンサ付きサブ表示装置230に近付けたとしても、通信端末装置400は、センサ付きサブ表示装置230を遠隔操作できる状態とはならない。無論、通信端末装置400をセンサ付きサブ表示装置230に近付けたときに、無条件で図21の処理を行うようにしてもよいし、電界強度検出部936が検出した電界強度が所定値以上である場合(通信端末装置400とセンサ付きサブ表示装置230との距離が一定以下である場合)に図21の処理を行うようにしてもよい。
まず、通信端末装置400の接続処理部21は、接続要求の受信を待ち受ける(S31)。ここで、接続要求の受信が確認された場合(S31でYES)には、接続処理部21は、接続処理を行い(S32)、センサ付きサブ表示装置230との近距離無線通信部404を介した通信接続を確立する。
通信接続が確立されると、機器情報送信部22は、機器情報要求の受信を待ち受ける(S33)。ここで、機器情報要求の受信が確認された場合(S33でYES)には、機器情報送信部22は、自装置の機器情報を記憶部406から読み出してセンサ付きサブ表示装置230に送信する(S34)。
また、通信接続が確立されると、表示処理部24は、画像の受信を待ち受ける(S35)。ここで、画像の受信が確認された場合(S35でYES)には、表示処理部24は、表示部405に指示して受信した画像を表示させる(S36)。また、表示処理部24は、受信した画像を表示した旨を、操作データ送信部23に伝達する。
伝達を受けた操作データ送信部23は、操作部403への入力操作を待ち受ける(S37)。ここで、操作部403への入力操作が確認された場合(S37でYES)には、操作データ送信部23は、入力操作が遠隔操作を終了するための終了操作であるか否かを確認し(S38)、終了操作であった場合(S38でYES)には、操作データ送信部23は、終了操作が行われた旨をセンサ付きサブ表示装置230に通知して、通信端末装置400における処理は終了する。
一方、終了操作ではない場合(S38でNO)には、操作データ送信部23は、入力操作に応じた操作データを生成してセンサ付きサブ表示装置230に送信し(S39)、処理はS37に戻る。
なお、上述のように、操作データは、操作部403の態様によって異なるものとなる。例えば、操作部403がタッチパネルである場合には、操作データ送信部23は、表示部405上において接触が検知された位置を示す座標を操作データとして送信する。また、例えば、操作部403が入力キーである場合には、操作データ送信部23は、操作入力が行われた入力キーを示すデータを操作データとして送信する。
〔機器検索について〕
上述のように、センサ付きサブ表示装置230は、機器検出部1が機器検索を行って、検出した外部装置に対して画像を送信する。このため、リモコンアプリを立ち上げてさえいれば、どのような外部機器であってもセンサ付きサブ表示装置230と近接させれば、画像を受信してメイン表示装置210を操作することが可能になる。
このような構成は、誰でも気軽に自分の所持している携帯電話機等でメイン表示装置210を操作することができるというメリットがある反面、メイン表示装置210が意図しない第3者の制御を受けてしまうという危険性も孕んでいる。
そこで、機器検索を行うときに、一定の制約を設けるようにしてもよい。例えば、センサ付きサブ表示装置230が電源投入後、最初に機器検索を行い、検出した外部装置に応答要求を送信した後は、該応答要求に対する応答の有無に拘らず、機器検索を行わないようにしてもよい。これにより、センサ付きサブ表示装置230に電源を投入したユーザのみが、自らが所有する外部装置でメイン表示装置210の遠隔操作を行うことが可能になる。
なお、この場合には、外部装置は、遠隔操作用のアプリケーションソフトの起動を応答送信の条件とせず、応答要求を受信したときに、遠隔操作の開始の可否をユーザに選択させるようにすることが好ましい。上述の例のように、遠隔操作用のアプリケーションソフトの起動を応答送信の条件とした場合には、遠隔操作用のアプリケーションソフトを起動させていない状態で、応答要求が送信されたときには、センサ付きサブ表示装置230を再起動しない限り、外部装置で遠隔操作を行うことができなくなるからである。
また、最初の応答要求が送信されたときには、遠隔操作の必要がないと判断して、応答を送信しない旨の選択を行った後に、遠隔操作を行う必要が生じることも考えられる。そこで、このような場合に対応するために、応答要求の送信の可否を切り替え可能に構成することが好ましい。
例えば、センサ内蔵液晶パネル301に、応答要求の送信の可否を切り替えるための選択項目を表示してユーザに選択させることにより、ユーザは所望のタイミングで外部装置による遠隔操作を行うことが可能になる。
また、セキュリティを向上させる上記とは別の方法として、認証を行う方法が考えられる。例えば、センサ付きサブ表示装置230において、メイン表示装置210を遠隔操作する外部装置を予め登録しておき、登録されている外部装置が機器検索にて検出されたときにのみ、当該外部装置に応答要求を送信するようにしてもよい。これにより、意図しない第3者にメイン表示装置210が操作されることを防ぐことができる。
〔変形例〕
上述の例では、センサ付きサブ表示装置230が定期的に機器検索を行い、検出した通信端末装置400と通信接続して、該通信端末装置400に操作用画像を送信する構成について説明した。
しかしながら、センサ付きサブ表示装置230と通信端末装置400とが通信接続を行う方法は、この例に限られない。例えば、通信端末装置400において、遠隔操作用のアプリケーションソフトを起動したときに、通信端末装置400が機器検索を行って、検出したセンサ付きサブ表示装置230と通信接続を行うようにしてもよい。
さらに、上述の例では、センサ付きサブ表示装置230とメイン表示装置210とがそれぞれ独立した制御系を有する別装置である構成について説明したが、センサ付きサブ表示装置230とメイン表示装置210とは、1つの制御系の下で動作する1つの装置であってもよい。
また、上述の例では、センサ付きサブ表示装置230が、センサ内蔵液晶パネル301によって、画像の表示と入力操作の検出とを行う構成について説明したが、センサ付きサブ表示装置230は、画像の表示と入力操作の検出とを行うことができるものであればよく、この例に限られない。例えば、センサ付きサブ表示装置230は、一般に用いられているタッチパネルを備えていてもよいし、画像の表示機能のみを備える表示部と、ユーザの入力操作を検出する操作部(例えば操作キー等)とを備えていてもよい。
そして、本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能である。すなわち、請求項に示した範囲で適宜変更した技術的手段を組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
最後に、センサ付きサブ表示装置230及び通信端末装置400の各ブロック、特にサブ側主制御部830及び端末側主制御部408は、上述のようにCPUを用いてソフトウェアによって実現することが可能である。
すなわち、センサ付きサブ表示装置230及び通信端末装置400は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラムおよび各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるセンサ付きサブ表示装置230及び通信端末装置400の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記センサ付きサブ表示装置230及び通信端末装置400に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、センサ付きサブ表示装置230及び通信端末装置400を通信ネットワークと接続可能に構成し、上記プログラムコードを通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
無論、センサ付きサブ表示装置230及び通信端末装置400の各ブロックは、ハードウェアロジックによって構成することも可能である。