本発明の一実施形態について図1から図21に基づいて説明すると以下の通りである。まず、本実施形態に係るデータ表示/センサ装置(入力装置)100の概要について、図1に基づいて説明する。
〔データ表示/センサ装置の概要〕
図1は、データ表示/センサ装置100の動作例を示す斜視図であり、同図(a)は筐体(板体)を閉じた状態を示し、同図(b)は筐体を縦方向にずらした状態を示し、同図(c)は筐体を斜め方向にずらした状態を示している。なお、筐体の長手方向を縦方向と呼び、2枚の筐体が対向する面上において上記縦方向に垂直な方向を横方向と呼び、2枚の筐体が対向する面上において上記縦方向でも横方向でもない方向を斜め方向と呼ぶ。
また、ここでは、2枚の筐体のずれ方向及びずれ量を、2枚の筐体のずれが最も小さい同図(a)の状態を基準として説明する。つまり、同図(a)の状態は2枚の筐体のずれ量が全方向についてゼロである状態と言え、同図(b)の状態は縦方向にずれがあり、横方向のずれがゼロの状態と言え、同図(c)の状態は斜め方向にずれがある状態と言える。
同図(a)に示すように、データ表示/センサ装置100は、表示/光センサ部300Aの筐体(以下、単に表示/光センサ部300Aと呼ぶ)と表示/光センサ部300Bの筐体(以下、単に表示/光センサ部300Bと呼ぶ)とが重ねあわされた構成であり、表示/光センサ部300Aの上面(表示/光センサ部300Bに対向していない側の面)は、センサ内蔵液晶パネル301A(上側面状部材)となっている。
詳細については後述するが、表示/光センサ部300Aは、センサ内蔵液晶パネル301Aに画像を表示させることができると共に、表示/光センサ部300Aの近傍の像を検知することができる。
なお、図示の例では、表示/光センサ部300Aと表示/光センサ部300Bとが、ぴったり重なり合う態様(データ表示/センサ装置100の真上から見ると表示/光センサ部300Aのみが視認され、真下から見ると表示/光センサ部300Bのみが視認される態様)を示しているが、表示/光センサ部300Aと表示/光センサ部300Bとは、完全に重なり合う必要はなく、筐体を閉じたときの重なり程度は、必要に応じて適宜変更することができ、また両者の形状も適宜変更することができる。
また、データ表示/センサ装置100は、同図(b)に示すように、表示/光センサ部300AとBとを、縦方向にスライドさせる(ずらす)ことができるようになっている。表示/光センサ部300AとBとをずらすことにより、表示/光センサ部300Aに隠れていた表示/光センサ部300Bのセンサ内蔵液晶パネル301B(下側面状部材)が外部から視認できるようになる。
詳細については後述するが、表示/光センサ部300Bも、表示/光センサ部300Aと同様に、センサ内蔵液晶パネル301Bに画像を表示させることができると共に、表示/光センサ部300Bの近傍の像を検知することができる。
さらに、データ表示/センサ装置100は、同図(c)に示すように、表示/光センサ部300AとBとを、斜め方向にもスライドさせる(ずらす)ことができるようになっている。また、図示していないが、データ表示/センサ装置100では、表示/光センサ部300AとBとを横方向にもずらすことができるようになっている。
つまり、データ表示/センサ装置100では、表示/光センサ部300AとBとを縦方向及び横方向のみならず、斜め方向にもずらすことができるようになっている。このように表示/光センサ部300AとBとをスライドさせるための機構は、例えば、表示/光センサ部300AとBとが対向する面にヒンジを設けることによって実現することが可能である。
具体的には、表示/光センサ部300Aの表示/光センサ部300Bに対向する側の面、または表示/光センサ部300Bの表示/光センサ部300Aに対向する側の面の何れか一方に中心点から8方向に伸びるレールを設けておき、他方に該レールに沿ってスライドする突起部を設ける構成が考えられる。
なお、スライド機構の構成としては、特にこのような構成に限定されるものではなく、表示/光センサ部300AとBとが相対的に移動可能な構造であればどのようなものであってもよい。
データ表示/センサ装置100の主な特徴点は、センサ内蔵液晶パネル301Bが検知した表示/光センサ部300Aの像に基づいて表示/光センサ部300AとBとのずれ量及びずれ方向を検出し、検出したずれ量及びずれ方向に基づいて動作する点にある。
つまり、データ表示/センサ装置100では、ユーザが表示/光センサ部300AとBとをずらして入力操作を行うという、今までにはない入力操作方法を適用している。これにより、ユーザは、入力操作の手応えを感じながら、今までにはない直感的な入力操作を行うことができる。
次に、上記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301A及びBの概要について説明する。なお、センサ内蔵液晶パネル301A及びBは、同様の構成を備えているので、以下の説明では、センサ内蔵液晶パネル301A及びBをセンサ内蔵液晶パネル301と称して説明する。また、表示/光センサ部300A及びBについても同様に、表示/光センサ部300と称して説明する。
〔センサ内蔵液晶パネルの概要〕
上記データ表示/センサ装置100が備えるセンサ内蔵液晶パネル301は、データの表示に加え、対象物の画像検出が可能な液晶パネルである。ここで、対象物の画像検出とは、例えば、ユーザが指やペンなどでポインティング(タッチ)した位置の検出や、印刷物等の画像の読み取り(スキャン)である。なお、表示に用いるデバイスは、液晶パネルに限定されるものではなく、有機EL(Electro Luminescence)パネルなどであってもよい。
図2を参照しながら、センサ内蔵液晶パネル301の構造について説明する。図2は、センサ内蔵液晶パネル301の断面を模式的に示す図である。なお、ここで説明するセンサ内蔵液晶パネル301は一例であり、表示面と読取面とが共用されているものであれば、任意の構造のものが利用できる。
図示のとおり、センサ内蔵液晶パネル301は、背面側に配置されるアクティブマトリクス基板51Aと、表面側に配置される対向基板51Bとを備え、これら基板の間に液晶層52を挟持した構造を有している。アクティブマトリクス基板51Aには、画素電極56、データ信号線57、光センサ回路32(図示せず)、配向膜58、偏光板59などが設けられる。対向基板51Bには、カラーフィルタ53r(赤)、53g(緑)、53b(青)、遮光膜54、対向電極55、配向膜58、偏光板59などが設けられる。また、センサ内蔵液晶パネル301の背面には、バックライト307が設けられている。
なお、光センサ回路32に含まれるフォトダイオード6は、青のカラーフィルタ53bを設けた画素電極56の近傍に設けられているが、この構成に限定されるものではない。赤のカラーフィルタ53rを設けた画素電極56の近傍に設けてもよいし、緑のカラーフィルタ53gを設けた画素電極56の近傍に設けてもよい。
次に、図3(a)および図3(b)を参照しながら、ユーザが、指やペンで、センサ内蔵液晶パネル301上をタッチした位置を検出する2種類の方法について説明する。
図3(a)は、反射像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。バックライト307から光63が出射されると、フォトダイオード6を含む光センサ回路32は、指などの対象物64により反射された光63を検知する。これにより、対象物64の反射像を検知することができる。このように、センサ内蔵液晶パネル301は、反射像を検知することにより、タッチした位置を検出することができる。
また、図3(b)は、影像を検知することにより、ユーザがタッチした位置を検出する様子を示す模式図である。図3(b)に示すように、フォトダイオード6を含む光センサ回路32は、対向基板51Bなどを透過した外光61を検知する。しかしながら、ペンなどの対象物62がある場合は、外光61の入射が妨げられるので、光センサ回路32が検知する光量が減る。これにより、対象物62の影像を検知することができる。このように、センサ内蔵液晶パネル301は、影像を検知することにより、タッチした位置を検出することもできる。
上述のように、フォトダイオード6は、バックライト307より出射された光の反射光(影像)を検知してもよいし、外光による影像を検知してもよい。また、上記2種類の検知方法を併用して、影像と反射像とを両方を同時に検知するようにしてもよい。
〔データ表示/センサ装置の要部構成〕
次に、図4を参照しながら、上記データ表示/センサ装置100の要部構成について説明する。図4は、データ表示/センサ装置100の要部構成を示すブロック図である。図示のように、データ表示/センサ装置100は、1または複数の表示/光センサ部300、回路制御部600、データ処理部700、主制御部800、記憶部901、一次記憶部902、操作部903、外部通信部907、音声出力部908、および音声入力部909を備えている。ここでは、データ表示/センサ装置100は、表示/光センサ部300を2つ(第1表示/光センサ部300Aおよび第2表示/光センサ部300B)備えているものとして説明する。なお、第1表示/光センサ部300Aおよび第2表示/光センサ部300Bを区別しないときは、表示/光センサ部300と表記する。
表示/光センサ部300は、いわゆる光センサ内蔵液晶表示装置である。表示/光センサ部300は、センサ内蔵液晶パネル301、バックライト307、それらを駆動するための周辺回路309を含んで構成される。
センサ内蔵液晶パネル301は、マトリクス状に配置された複数の画素回路31および光センサ回路32を含んで構成される。センサ内蔵液晶パネル301の詳細な構成については後述する。
周辺回路309は、液晶パネル駆動回路304、光センサ駆動回路305、信号変換回路306、バックライト駆動回路308を含む。
液晶パネル駆動回路304は、回路制御部600の表示制御部601からのタイミング制御信号(TC1)およびデータ信号(D)に従って、制御信号(G)およびデータ信号(S)を出力し、画素回路31を駆動する回路である。画素回路31の駆動方法の詳細については後述する。
光センサ駆動回路305は、回路制御部600のセンサ制御部602からのタイミング制御信号(TC2)に従って、信号線(R)に電圧を印加し、光センサ回路32を駆動する回路である。光センサ回路32の駆動方法の詳細については後述する。
信号変換回路306は、光センサ回路32から出力されるセンサ出力信号(SS)をデジタル信号(DS)に変換し、該変換後の信号をセンサ制御部602に送信する回路である。
バックライト307は、複数の白色LED(Light Emitting Diode)を含んでおり、センサ内蔵液晶パネル301の背面に配置される。そして、バックライト駆動回路308から電源電圧が印加されると、バックライト307は点灯し、センサ内蔵液晶パネル301に光を照射する。なお、バックライト307は、白色LEDに限らず、他の色のLEDを含んでいてもよい。また、バックライト307は、LEDに代えて、例えば、冷陰極管(CCFL:Cold Cathode Fluorescent Lamp)を含むものであってもよい。
バックライト駆動回路308は、回路制御部600のバックライト制御部603からの制御信号(BK)がハイレベルであるときは、バックライト307に電源電圧を印加し、逆に、バックライト制御部603からの制御信号がローレベルであるときは、バックライト307に電源電圧を印加しない。
次に、回路制御部600について説明する。回路制御部600は、表示/光センサ部300の周辺回路309を制御するデバイスドライバとしての機能を備えるものである。回路制御部600は、表示制御部601、センサ制御部602、バックライト制御部603、および表示データ記憶部604を備えている。
表示制御部601は、データ処理部700の表示データ処理部701から表示データを受信するとともに、表示データ処理部701からの指示に従って、表示/光センサ部300の液晶パネル駆動回路304に、タイミング制御信号(TC1)およびデータ信号(D)を送信し、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。
なお、表示制御部601は、表示データ処理部701から受信した表示データを、表示データ記憶部604に一次記憶させる。そして、当該一次記憶させた表示データに基づいて、データ信号(D)を生成する。表示データ記憶部604は、例えば、VRAM(video random access memory)などである。
センサ制御部602は、データ処理部700のセンサデータ処理部703からの指示に従って、表示/光センサ部300の光センサ駆動回路305に、タイミング制御信号(TC2)を送信し、センサ内蔵液晶パネル301にてスキャンを実行させる。
また、センサ制御部602は、信号変換回路306からデジタル信号(DS)を受信する。そして、センサ内蔵液晶パネル301に含まれる全ての光センサ回路32から出力されたセンサ出力信号(SS)に対応するデジタル信号(DS)に基づいて、画像データを生成する。つまり、センサ内蔵液晶パネル301の読み取り領域全体で読み取った画像データを生成する。そして、該生成した画像データをセンサデータ処理部703に送信する。
バックライト制御部603は、表示データ処理部701およびセンサデータ処理部703からの指示に従って、表示/光センサ部300のバックライト駆動回路308に制御信号(BK)を送信し、バックライト307を駆動させる。
なお、データ表示/センサ装置100が、複数の表示/光センサ部300を備える場合、表示制御部601は、データ処理部700から、どの表示/光センサ部300にて表示データを表示するかの指示を受けたとき、当該指示に応じた表示/光センサ部300の液晶パネル駆動回路304を制御する。また、センサ制御部602は、データ処理部700から、どの表示/光センサ部300にて対象物のスキャンを行うかの指示を受けたとき、当該指示に応じた表示/光センサ部300の光センサ駆動回路305を制御するとともに、当該指示に応じた表示/光センサ部300の信号変換回路306からデジタル信号(DS)を受信する。
次に、データ処理部700について説明する。データ処理部700は、主制御部800から受信する「コマンド」に基づいて、回路制御部600に指示を与えるミドルウェアとしての機能を備えるものである。なお、コマンドの詳細については後述する。
データ処理部700は、表示データ処理部701およびセンサデータ処理部703を備えている。そして、データ処理部700が、主制御部800からコマンドを受信すると、該受信したコマンドに含まれる各フィールド(後述する)の値に応じて、表示データ処理部701およびセンサデータ処理部703の少なくとも一方が動作する。
表示データ処理部701は、主制御部800から表示データを受信するとともに、データ処理部700が受信したコマンドに従って、表示制御部601およびバックライト制御部603に指示を与え、上記受信した表示データをセンサ内蔵液晶パネル301に表示させる。なお、コマンドに応じた、表示データ処理部701の動作については、後述する。
センサデータ処理部703は、データ処理部700が受信したコマンドに従って、センサ制御部602およびバックライト制御部603に指示を与える。
また、センサデータ処理部703は、センサ制御部602から画像データを受信し、当該画像データをそのまま画像データバッファ704に格納する。そして、センサデータ処理部703は、データ処理部700が受信したコマンドに従って、画像データバッファ704に記憶されている画像データに基づいて、「全体画像データ」、「部分画像データ(部分画像の座標データを含む)」、および「座標データ」の少なくともいずれか1つを、主制御部800に送信する。なお、全体画像データ、部分画像データ、および座標データについては、後述する。また、コマンドに応じた、センサデータ処理部703の動作については、後述する。
次に、主制御部800は、アプリケーションプログラムを実行するものである。主制御部800は、記憶部901に格納されているプログラムを、例えばRAM(Random Access Memory)等で構成される一次記憶部902に読み出して実行する。
主制御部800で実行されるアプリケーションプログラムは、センサ内蔵液晶パネル301に表示データを表示させたり、センサ内蔵液晶パネル301にて対象物のスキャンを行わせるために、データ処理部700に対して、コマンドおよび表示データを送信する。また、コマンドに「データ種別」を指定した場合は、当該コマンドの応答として、全体画像データ、部分画像データ、および座標データの少なくともいずれか1つを、データ処理部700から受信する。
なお、回路制御部600、データ処理部700、および主制御部800は、それぞれ、CPU(Central Processing Unit)およびメモリ等で構成することができる。また、データ処理部700は、ASIC(application specific integrate circuit)などの回路で構成されていてもよい。
次に、記憶部901は、図示のように、主制御部800が実行するプログラムおよびデータを格納するものである。なお、主制御部800が実行するプログラムは、アプリケーション固有のプログラムと、各アプリケーションが共用可能な汎用プログラムとに分離されていてもよい。
次に、操作部903は、データ表示/センサ装置100のユーザの入力操作を受けつけるものである。操作部903は、例えば、スイッチ、リモコン、マウス、キーボードなどの入力デバイスで構成される。そして、操作部903は、データ表示/センサ装置100のユーザの入力操作に応じた制御信号を生成し、該生成した制御信号を主制御部800へ送信する。
なお、上記スイッチの例としては、電源のオンとオフとを切り替える電源スイッチ905、予め所定の機能が割り当てられているユーザスイッチ906などのハードウェアスイッチを想定している。
その他、データ表示/センサ装置100は、無線/有線通信によって外部装置と通信を行うための外部通信部907、音声を出力するためのスピーカ等の音声出力部908、音声信号を入力するためのマイク等の音声入力部909を備えている。
データ表示/センサ装置100では、外部通信部907の機能により、携帯電話通信網を介して他の携帯電話機等と通話したり、電子メールの送受信を行ったり、インターネットに接続したりすることができるようになっている。これらの機能は、一般の携帯電話機が備えているものを適用することもできる。
また、データ表示/センサ装置100は、テレビ受信部(放送受信部)910を備えている。テレビ受信部910は、放送波を受信してデコードし、映像や音声などを出力するものであり、アンテナやチューナ等で構成されている。つまり、データ表示/センサ装置100では、テレビ放送の視聴が可能になっている。
さらに、データ表示/センサ装置100は、図示していないが、カメラを備えており、このカメラによって撮影を行うこともできるようになっている。
〔コマンドの詳細〕
次に、図5および図6を参照しながら、主制御部800からデータ処理部700に送信されるコマンドの詳細について説明する。図5は、コマンドのフレーム構造の一例を模式的に示す図である。また、図6は、コマンドに含まれる各フィールドに指定可能な値の一例、および、その概要を説明する図である。
図5に示すように、コマンドは、「ヘッダ」、「データ取得タイミング」、「データ種別」、「スキャン方式」、「スキャン画像階調」、「スキャン解像度」、「スキャンパネル」、「表示パネル」、および「予備」の各フィールドを含んでいる。そして、各フィールドには、例えば、図6に示す値が指定可能である。
「ヘッダ」フィールドは、フレームの開始を示すフィールドである。「ヘッダ」フィールドであることが識別可能であれば、「ヘッダ」フィールドの値は、どのような値であってもよい。
次に、「データ取得タイミング」フィールドは、データを主制御部800へ送信すべきタイミングを指定するフィールドである。「データ取得タイミング」フィールドには、例えば、“00”(センス)、“01”(イベント)、および“10”(オール)という値が指定可能である。
ここで、“センス”は、最新のデータを直ちに送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“センス”であるコマンドを受信すると、「データ種別」フィールドにて指定されている最新のデータを、直ちに、主制御部800に送信する。
また、“イベント”は、センサ制御部602から受信する画像データに変化が生じたタイミングで送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“イベント”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、センサ制御部602から受信する画像データに、所定の閾値より大きい変化が生じたタイミングで、主制御部800に送信する。
また、“オール”は、所定周期でデータを送信することを指定するものである。よって、センサデータ処理部703は、「データ取得タイミング」フィールドの値が“オール”であるコマンドを受信すると、「データ種別」フィールドにて指定されているデータを、所定周期で、主制御部800に送信する。なお、上記所定周期は、光センサ回路32にてスキャンを行う周期と一致する。
次に、「データ種別」フィールドは、センサデータ処理部703から取得するデータの種別を指定するフィールドである。なお、「データ種別」フィールドには、例えば、“001”(座標)、“010”(部分画像)、および“100”(全体画像)という値が指定可能である。さらに、これらの値を加算することによって、“座標”と、“部分画像”/“全体画像”とを、同時に指定可能である。例えば、“座標”と“部分画像”とを同時に指定する場合、“011”と指定することができる。
センサデータ処理部703は、「データ種別」フィールドの値が“全体画像”であるコマンドを受信すると、画像データバッファ704に記憶している画像データそのものを主制御部800に送信する。画像データバッファ704に記憶している画像データそのものを、「全体画像データ」と称する。
また、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信すると、センサ制御部602から受信する画像データから、所定の閾値より大きい変化が生じた部分を含む領域を抽出し、該抽出した領域の画像データを主制御部800に送信する。ここで、当該画像データを、「部分画像データ」と称する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出されたそれぞれの部分画像データを主制御部800に送信する。
さらに、センサデータ処理部703は、「データ種別」フィールドの値が“部分画像”であるコマンドを受信したとき、部分画像データにおける代表座標を検出し、当該代表座標の部分画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記代表座標とは、例えば、上記部分画像データの中心の座標、上記部分画像データの重心の座標などが挙げられる。
次に、センサデータ処理部703は、「データ種別」フィールドの値が“座標”であるコマンドを受信すると、上記代表座標の全体画像データにおける位置を示す座標データを主制御部800に送信する。なお、上記部分画像データが複数抽出された場合、センサデータ処理部703は、該抽出された、それぞれの部分画像データの、全体画像データにおける代表座標を検出し、当該代表座標を示す座標データのそれぞれを主制御部800に送信する(多点検出)。
なお、全体画像データ、部分画像データ、および座標データの具体例については、模式図を参照しながら後述する。
次に、「スキャン方式」フィールドは、スキャン実行時に、バックライト307を点灯するか否かを指定するフィールドである。「スキャン方式」フィールドには、例えば、“00”(反射)、“01”(透過)、および“10”(反射/透過)という値が指定可能である。
“反射”は、バックライト307を点灯した状態でスキャンを行うことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“反射”であるコマンドを受信すると、光センサ駆動回路305とバックライト駆動回路308とが同期して動作するように、センサ制御部602とバックライト制御部603とに指示を与える。
また、“透過”は、バックライト307を消灯した状態でスキャンを行うことを指定するものである。よって、センサデータ処理部703は、「スキャン方式」フィールドの値が“透過”であるコマンドを受信すると、光センサ駆動回路305を動作させ、バックライト駆動回路308と動作させないようにセンサ制御部602とバックライト制御部603とに指示を与える。なお、“反射/透過”は、“反射”と“透過”とを併用してスキャンを行うことを指定するものである。
次に、「スキャン画像階調」フィールドは、部分画像データおよび全体画像データの階調を指定するフィールドである。「スキャン画像階調」フィールドには、例えば、“00”(2値)、および“01”(多値)という値が指定可能である。
ここで、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“2値”であるコマンドを受信すると、部分画像データおよび全体画像データをモノクロデータとして、主制御部800に送信する。
また、センサデータ処理部703は、「スキャン画像階調」フィールドの値が“多値”であるコマンドを受信すると、部分画像データおよび全体画像データを多階調データとして、主制御部800に送信する。
次に、「スキャン解像度」フィールドは、部分画像データおよび全体画像データの解像度を指定するフィールドである。「スキャン解像度」フィールドには、例えば、“0”(高)および“1”(低)という値が指定可能である。
ここで、“高”は、高解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“高”であるコマンドを受信すると、部分画像データおよび全体画像データを高解像度で主制御部800に送信する。例えば、画像認識などの画像処理を行う対象の画像データ(指紋などの画像データ)には、“高”を指定することが望ましい。
また、“低”は、低解像度を指定するものである。よって、センサデータ処理部703は、「スキャン解像度」フィールドの値が“低”であるコマンドを受信すると、部分画像データおよび全体画像データを低解像度で主制御部800に送信する。例えば、タッチした位置等が分かる程度でよい画像データ(タッチした指や手の画像データなど)には、“低”を指定することが望ましい。
次に、「スキャンパネル」フィールドは、どの表示/光センサ部300にて対象物のスキャンを行うかを指定するフィールドである。「スキャンパネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
ここで、センサデータ処理部703は、「スキャンパネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aの光センサ駆動回路305およびバックライト駆動回路308を制御するように、センサ制御部602およびバックライト制御部603に指示を与える。
次に、「表示パネル」フィールドは、どの表示/光センサ部300にて表示データを表示させるかを指定するフィールドである。「表示パネル」フィールドには、例えば、“001”(第1表示/光センサ部300A)、“010”(第2表示/光センサ部300B)という値が指定可能である。なお、これらの値を加算することによって、複数の表示/光センサ部300を同時に指定可能である。例えば、“第1表示/光センサ部300A”と“第2表示/光センサ部300B”とを同時に指定する場合、“011”と指定することができる。
ここで、表示データ処理部701は、例えば、「表示パネル」フィールドの値が“第1表示/光センサ部300A”であるコマンドを受信すると、第1表示/光センサ部300Aに表示データを表示させるために、第1表示/光センサ部300Aの液晶パネル駆動回路304およびバックライト駆動回路308を制御するように、表示制御部601およびバックライト制御部603に指示を与える。
次に、「予備」フィールドは、上述したフィールドにて指定可能な情報以外の情報をさらに指定する必要がある場合に、適宜指定されるフィールドである。
なお、主制御部800にて実行されるアプリケーションは、コマンドを送信するにあたり、上述したフィールドを全て使用する必要はなく、使用しないフィールドには無効値(NULL値など)を設定しておけばよい。
また、ユーザが指やペンなどでタッチした位置の座標データを取得したいときは、「データ種別」フィールドに“座標”を指定したコマンドをデータ処理部700に送信することとなるが、指やペンなどは動きがあるため、さらに、当該コマンドの「データ取得タイミング」フィールドに“オール”を指定し、座標データを取得するようにすることが望ましい。また、タッチした位置の座標データが取得できればよいため、スキャンの精度は高くなくてもよい。したがって、上記コマンドの「スキャン解像度」フィールドの値は“低”を指定しておけばよい。
また、コマンドの「データ種別」フィールドに“座標”を指定した場合において、例えば、ユーザが、複数の指やペンなどでセンサ内蔵液晶パネル301を同時にタッチした場合は、該タッチした位置の座標データのそれぞれを取得することができる(多点検出)。
また、原稿などの対象物の画像データを取得する場合、「データ種別」フィールドに“全体画像”を指定したコマンドをデータ処理部700に送信することとなるが、原稿などの対象物は、通常、静止させた状態でスキャンを実行することが一般的であるため、周期的にスキャンを実行する必要はない。従って、この場合は、「データ取得タイミング」フィールドに“センス”または“イベント”を指定することが望ましい。なお、原稿などの対象物をスキャンするときは、ユーザが文字を読みやすいように、スキャン精度は高い方が望ましい。したがって、「スキャン解像度」フィールドには“高”を指定することが望ましい。
〔全体画像データ/部分画像データ/座標データ〕
次に、図7を参照しながら、全体画像データ、部分画像データ、および座標データについて、例を挙げて説明する。図7(a)に示す画像データは、対象物がセンサ内蔵液晶パネル301上に置かれていないときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。また、図7(b)に示す画像データは、ユーザが指でセンサ内蔵液晶パネル301をタッチしているときに、センサ内蔵液晶パネル301全体をスキャンした結果として得られる画像データである。
ユーザが指でセンサ内蔵液晶パネル301をタッチしたとき、当該タッチした近傍の光センサ回路32が受光する光量が変化するため、当該光センサ回路32が出力する電圧に変化が生じ、その結果として、センサ制御部602が生成する画像データのうち、ユーザがタッチした部分の画素値の明度に変化が生じることとなる。
図7(b)に示す画像データでは、図7(a)に示す画像データと比べると、ユーザの指に該当する部分の画素値の明度が高くなっている。そして、図7(b)に示す画像データにおいて、明度が所定の閾値より大きく変化している画素値を全て含む最小の矩形領域(領域PP)が、“部分画像データ”である。
なお、領域APで示される画像データが、“全体画像データ”である。
また、部分画像データ(領域PP)の代表座標Zの、全体画像データ(領域AP)における座標データは(Xa,Ya)であり、部分画像データ(領域PP)における座標データは(Xp,Yp)である。
〔センサ内蔵液晶パネルの構成〕
次に、図8を参照しながら、センサ内蔵液晶パネル301の構成、および、センサ内蔵液晶パネル301の周辺回路309の構成について説明する。図8は、表示/光センサ部300の要部、特に、センサ内蔵液晶パネル301の構成および周辺回路309の構成を示すブロック図である。
センサ内蔵液晶パネル301は、光透過率(輝度)を設定するための画素回路31、および、自身が受光した光の強度に応じた電圧を出力する光センサ回路32を備えている。なお、画素回路31は、赤色、緑色、青色のカラーフィルタのそれぞれに対応するR画素回路31r、G画素回路31g、B画素回路31bの総称として用いる。
画素回路31は、センサ内蔵液晶パネル301上の列方向(縦方向)にm個、行方向(横方向)に3n個配置される。そして、R画素回路31r、G画素回路31g、およびB画素回路31bの組が、行方向(横方向)に連続して配置される。この組が1つの画素を形成する。
画素回路31の光透過率を設定するには、まず、画素回路31に含まれるTFT(Thin Film Transistor)33のゲート端子に接続される走査信号線Giにハイレベル電圧(TFT33をオン状態にする電圧)を印加する。その後、R画素回路31rのTFT33のソース端子に接続されているデータ信号線SRjに、所定の電圧を印加する。同様に、G画素回路31gおよびB画素回路31bについても、光透過率を設定する。そして、これらの光透過率を設定することにより、センサ内蔵液晶パネル301上に画像が表示される。
次に、光センサ回路32は、一画素毎に配置される。なお、R画素回路31r、G画素回路31g、およびB画素回路31bのそれぞれの近傍に1つずつ配置されてもよい。
光センサ回路32にて光の強度に応じた電圧を出力させるためには、まず、コンデンサ35の一方の電極に接続されているセンサ読み出し線RWiと、フォトダイオード36のアノード端子に接続されているセンサリセット線RSiとに所定の電圧を印加する。この状態において、フォトダイオード36に光が入射されると、入射した光量に応じた電流がフォトダイオード36に流れる。そして、当該電流に応じて、コンデンサ35の他方の電極とフォトダイオード36のカソード端子との接続点(以下、接続ノードV)の電圧が低下する。そして、センサプリアンプ37のドレイン端子に接続される電圧印加線SDjに電源電圧VDDを印加すると、接続ノードVの電圧は増幅され、センサプリアンプ37のソース端子からセンシングデータ出力線SPjに出力される。そして、当該出力された電圧に基づいて、光センサ回路32が受光した光量を算出することができる。
次に、センサ内蔵液晶パネル301の周辺回路である、液晶パネル駆動回路304、光センサ駆動回路305、およびセンサ出力アンプ44について説明する。
液晶パネル駆動回路304は、画素回路31を駆動するための回路であり、走査信号線駆動回路3041およびデータ信号線駆動回路3042を含んでいる。
走査信号線駆動回路3041は、表示制御部601から受信したタイミング制御信号TC1に基づいて、1ライン時間毎に、走査信号線G1〜Gmの中から1本の走査信号線を順次選択し、該選択した走査信号線にハイレベル電圧を印加するとともに、その他の走査信号線にローレベル電圧を印加する。
データ信号線駆動回路3042は、表示制御部601から受信した表示データD(DR、DG、およびDB)に基づいて、1ライン時間毎に、1行分の表示データに対応する所定の電圧を、データ信号線SR1〜SRn、SG1〜SGn、SB1〜SBnに印加する(線順次方式)。なお、データ信号線駆動回路3042は、点順次方式で駆動するものであってもよい。
光センサ駆動回路305は、光センサ回路32を駆動するための回路である。光センサ駆動回路305は、センサ制御部602から受信したタイミング制御信号TC2に基づいて、センサ読み出し信号線RW1〜RWmの中から、1ライン時間毎に1本ずつ選択したセンサ読み出し信号線に所定の読み出し用電圧を印加するとともに、その他のセンサ読み出し信号線には、所定の読み出し用電圧以外の電圧を印加する。また、同様に、タイミング制御信号TC2に基づいて、センサリセット信号線RS1〜RSmの中から、1ライン時間毎に1本ずつ選択したセンサリセット信号線に所定のリセット用電圧を印加するとともに、その他のセンサリセット信号線には、所定のリセット用電圧以外の電圧を印加する。
センシングデータ出力信号線SP1〜SPnはp個(pは1以上n以下の整数)のグループにまとめられ、各グループに属するセンシングデータ出力信号線は、時分割で順次オン状態になるスイッチ47を介して、センサ出力アンプ44に接続される。センサ出力アンプ44は、スイッチ47により接続されたセンシングデータ出力信号線のグループからの電圧を増幅し、センサ出力信号SS(SS1〜SSp)として、信号変換回路306へ出力する。
〔データ表示/センサ装置のより詳細な構成〕
次に、図9を参照しながら、データ表示/センサ装置100のより詳細な構成について説明する。なお、ここでは、説明を分かりやすくするために、主制御部800と表示/光センサ部300との間に位置するデータ処理部700および回路制御部600の動作については説明を省略する。ただし、正確には、データの表示および対象物のスキャンを行うにあたり、主制御部800の各部が、データ処理部700にコマンドを送信し、データ処理部700がコマンドに基づいて回路制御部600を制御し、回路制御部600が表示/光センサ部300に対して信号を送信する。また、主制御部800は、データ処理部700に対して送信したコマンドに対する応答として、データ処理部700から、全体画像データ、部分画像データ、および座標データを取得する。
図9は、データ表示/センサ装置100のより詳細な構成を示すブロック図である。図示のように、主制御部800は、ずれ検出部(ずれ検出手段)11、表示制御部12、表示データ保持部13、及び機能実行部(機能実行手段、入力信号生成手段)14を備え、記憶部901にはアイコン画像記憶部15が含まれている。
ずれ検出部11は、表示/光センサ部300AとBとのずれ量及びずれ方向を検出する。データ表示/センサ装置100では、ずれ検出部11が検出したずれ量及びずれ方向に基づいて、機能実行部14が所定の動作を行うようになっている。なお、ずれの検出方法及び機能実行部14の実行する動作の詳細については後述する。
表示制御部12は、機能実行部14の指示に従ってセンサ内蔵液晶パネル301A及びBの何れかまたは両方に画像を表示させる。また、表示データ保持部13は、表示制御部12がセンサ内蔵液晶パネル301AまたはBに表示させる画像を格納する。
機能実行部14は、データ表示/センサ装置100が備える各機能を実行する。機能実行部14によって、電子メールの送受信及び閲覧等に関するメール機能、カメラによる撮影等に関する写真機能、通話、履歴管理、電話帳管理等に関する電話機能、各種設定変更機能、音楽再生機能、データ管理機能、その他のアプリケーションソフト実行機能等が実現される。
また、機能実行部14は、図示のように、メインメニュー表示部(入力信号生成手段)141、アプリ起動時メニュー表示部(入力信号生成手段)142、テレビ制御部(入力信号生成手段)143、及びブラウザ制御部(入力信号生成手段)144を備えている。なお、上記のように、機能実行部14は、メール機能等の複数の機能を実行するが、これらの機能に対応するブロックを全て図示すると図面が煩雑になるので、図9では機能実行部14の主なブロックのみを示している。また、これら図示していないブロックが実行する処理の主体を、機能実行部14として説明する。
メインメニュー表示部141は、データ表示/センサ装置100が備える上記各機能の何れを実行するかをユーザに選択させるためのメインメニューをセンサ内蔵液晶パネル301A及びBの何れかまたは両方に表示させる。ここでは、アイコン画像記憶部15から読み出した、上記各機能に対応するアイコンを表示させることによって、上記各機能の何れを実行するかをユーザに選択させることを想定している。
そして、メインメニュー表示部141は、ずれ検出部11の検出結果に基づいて、表示したアイコンの何れが選択されたかを判断し、選択されたアイコンに対応する機能を実行させるための入力信号を生成する。
アプリ起動時メニュー表示部142は、アプリ起動時(メインメニューが表示されていない状態)において、表示/光センサ部300AとBとを縦方向にずらす操作が行われたときに、表示/光センサ部300AとBとがずれることによって、露出するセンサ内蔵液晶パネル301Bに、機能切り換えのためのアイコンを表示させるための入力信号を生成する。
また、アプリ起動時メニュー表示部142は、アイコンを表示した状態において、表示/光センサ部300AとBとを横方向にずらす操作が行われたときに、上記アイコンをスクロール表示する。そして、アプリ起動時メニュー表示部142は、表示/光センサ部300AとBとの横方向のずれがゼロになったときに表示されているアイコンに対応する機能を実行させる。これにより、センサ内蔵液晶パネル301Aでは、新たに実行された機能によって画面表示が行われるようになる。
このように、アプリ起動時メニュー表示部142は、現在実行中の機能(アプリ等)によってセンサ内蔵液晶パネル301Aに画像が表示されているときに、センサ内蔵液晶パネル301Bにアイコンを表示し、このアイコンをユーザに選択させて機能の切り換えを行う。
つまり、アプリ起動時メニュー表示部142の上記機能により、ユーザは、現在実行中の機能を終了してメインメニューを再表示させるという従来の携帯電話機等で一般に行われている操作を行うことなく、簡単かつ迅速に機能の切り換えを行うことができる。
テレビ制御部143は、ずれ検出部11の検出結果に基づいて、テレビ受信部910の動作を制御する。具体的には、テレビ制御部143は、例えばメインメニューからテレビ機能に対応するアイコン(図11の21d)が選択されたときに、テレビ受信部910に指示して、テレビ放送の受信を開始させる。これにより、受信されたテレビの画像がセンサ内蔵液晶パネル301Aに表示され、音声が音声出力部908から出力される。
また、テレビ制御部143は、テレビの画像がセンサ内蔵液晶パネル301Aに表示されている状態で、表示/光センサ部300AとBとを縦方向にずらす操作が行われたときに、テレビ受信部910に所定の入力信号を送信して受信チャンネルを切り換えさせる。さらに、テレビ制御部143は、テレビの画像がセンサ内蔵液晶パネル301Aに表示されている状態で、表示/光センサ部300AとBとを横方向にずらす操作が行われたときに、テレビ受信部910に指示して受信する放送種別(地上デジタル、BS、CS等)を切り換えさせる。
ブラウザ制御部144は、ウェブページの閲覧等を可能にするものであり、外部通信部907を介してインターネットに接続することで取得したデータ等をセンサ内蔵液晶パネル301に表示する機能を有する。
ここで、例えばウェブサイトの閲覧をするときには、表示する画面のサイズが、センサ内蔵液晶パネル301Aが一度に表示可能なサイズを超えていることが多くなると考えられる。ブラウザ制御部144は、このようなサイズの画像の一部分がセンサ内蔵液晶パネル301Aに表示されている状態で、表示/光センサ部300AとBとをずらす操作が行われたときに、画像の表示領域を移動させるための入力信号を生成する。これにより、センサ内蔵液晶パネル301Aに表示される画像がスクロールされるので、ユーザは、大きい画像の所望の位置を直感的な操作で表示させることができる。
また、表示/光センサ部300AとBとをずらす操作が行われることによって、センサ内蔵液晶パネル301Bが外部に露出する。ここで、ブラウザ制御部144は、外部に露出したセンサ内蔵液晶パネル301Bに、上記画像のセンサ内蔵液晶パネル301Aに表示しきれていない部分を表示させる。これにより、センサ内蔵液晶パネル301AとBとの両方の表示領域を合わせた表示領域に画像が表示されるので、センサ内蔵液晶パネル301Aのみに画像を表示させる場合と比べて、ユーザは一度に広い範囲の画像を閲覧することができる。
〔ずれの検出方法〕
続いて、ずれ検出部11が表示/光センサ部300AとBとのずれ量及びずれ方向を検出する方法について、図10に基づいて説明する。図10は、表示/光センサ部300AとBとのずれ量及びずれ方向を検出する方法を模式的に示した図である。図10では、説明のため、表示/光センサ部300AとBとの間の距離を強調して記載している。また、図10では、表示/光センサ部300Bのセンサ内蔵液晶パネル301Bに画像が表示されていないことを想定している。
図示のように、表示/光センサ部300AとBとがずれている場合には、表示/光センサ部300Bにおいて、表示/光センサ部300Aと重なっている部分には外光が入射せず、重なっていない部分には外光が入射する。
したがって、表示/光センサ部300AとBとがずれている状態において、表示/光センサ部300Bにてスキャンを行うことにより、SCD1のような画像が取得される。SCD1では、表示/光センサ部300Bにおいて、表示/光センサ部300Aと重なっている部分が暗く、重なっていない部分が明るくなっている。
このため、SCD1における隣接する画素の輝度値や色の変化率が所定の閾値を越える部位を境界として特定することができる、これにより、表示/光センサ部300AとBとのずれ方向及びずれ量を算出することができる。つまり、図示の例では、SCD1の下端から明暗の境界までの距離を、横方向のずれ量として算出することができ、同様にSCD1の左端から明暗の境界までの距離を、縦方向のずれ量として算出することができる。そして、このようにして算出した横方向及び縦方向のずれ量に基づいて、ずれ方向が斜め方向であることを判断することができ、また斜め方向へのずれ量を判断することができる。
なお、表示/光センサ部300Bのセンサ内蔵液晶パネル301Bに画像を表示させた状態においても、上記と同様の方法にて、ずれ量及びずれ方向を検出することができる。ただし、センサ内蔵液晶パネル301Bに画像を表示させた状態では、センサ内蔵液晶パネル301Bの発する光が表示/光センサ部300Aに反射して、センサ内蔵液晶パネル301Bで検出される。このため、SCD1における明暗の境界の判別が困難となることが考えられる。また、外光の入射量が少ない場合にも、SCD1における明暗の境界の判別が困難となることが考えられる。
そこで、ずれ検出部11は、SCD1における明暗の境界の判別に失敗したときには、センサ内蔵液晶パネル301Bに表示させる画像の輝度を変化させて、再度スキャンを行うことが好ましい。これにより、センサ内蔵液晶パネル301Bに画像を表示させた状態であっても、また暗い場所で使用する場合であってもずれ量及びずれ方向を正確かつ確実に求めることができる。
〔メインメニューからの機能選択〕
続いて、データ表示/センサ装置100において、メインメニューから実行する機能を選択するときの処理について、図11に基づいて説明する。図11は、メインメニューから実行する機能を選択するときの表示画面の一例を示す図であり、同図(a)はメインメニューが表示されたときの画面例を示し、同図(b)はメインメニューから1つのアイコンが選択されたときの画面例を示し、同図(c)は選択されたアイコンに対応する機能を実行した後の画面例を示している。
同図(a)に示すメインメニューの画面例では、センサ内蔵液晶パネル301Aに、各機能に対応するアイコン21a〜21jが、センサ内蔵液晶パネル301Aの外周に沿って表示されている。アイコン21a〜21jの表示位置は、固定されていてもよいし、経時的に変化するようになっていてもよい。
なお、アイコン21aはメール機能に対応し、アイコン21bは写真機能に対応し、アイコン21cは電話機能に対応し、アイコン21dはテレビ機能に対応し、アイコン21fは設定変更機能に対応し、アイコン21gは音楽機能に対応し、アイコン21hはデータ管理機能に対応し、アイコン21iはその他のアプリ実行機能に対応し、アイコン21jはウェブブラウザ機能に対応している。
同図(a)に示すように、アイコン21a〜21jは、それぞれ大きさが異なっている。ここでは、アイコンの表示サイズを、該アイコンに対応する機能の実行頻度に応じて変化させることを想定している。
つまり、データ表示/センサ装置100では、アイコン21a〜21jのそれぞれについて、累積選択回数を記憶している。そして、選択された回数の多いアイコンを、他のアイコンと比べてより大きく表示する。これにより、ユーザは、使用頻度の高いアイコンを容易に発見することができる。
なお、アイコンのサイズを変化させることは、データ表示/センサ装置100の必須の構成ではない。実際の選択回数に拘らず、使用頻度の高いアイコンのサイズを予め大きくしておいてもよいし、全てのアイコンのサイズを同じにしてもよい。
また、データ表示/センサ装置100は、図1に示すように、表示/光センサ部300AとBとをずらすために、操作時にセンサ内蔵液晶パネル301A上にユーザの指が触れることになる。このため、指と重なる位置に表示されたアイコンは、ユーザの視認性が低下してしまう。このため、センサ内蔵液晶パネル301Aでスキャンを行って得た画像から指の位置検知し、指の位置にはアイコンを表示しないようにすることが好ましい。なお、アイコンの形状、表示位置等は、これらの例に限られず、適宜変更することができる。
ここで、同図(a)の例では、「MAIL」と表示されたアイコン21aが、センサ内蔵液晶パネル301Aの表示画面の中心部分に対して、左上に位置している。データ表示/センサ装置100では、この状態において、同図(b)に示すように、表示/光センサ部300Aを、表示/光センサ部300Bに対して、左上方向にずらすことにより、アイコン21aを選択候補とすることができるようになっている。
そして、データ表示/センサ装置100は、アイコンが選択候補とされると、選択候補とされたアイコンをユーザが確認できるように、選択候補とされたアイコンの表示態様を変化させる。図示の例では、アイコン21aの輝度値を他のアイコンよりも上げることによって、アイコン21aが選択候補とされたことをユーザに確認させることを想定しているが、選択候補とされたアイコンの表示態様は、この例に限られない。
また、図示の例では、選択候補とされなかったアイコンを、センサ内蔵液晶パネル301Aから、表示/光センサ部300AとBとがずれたことによってユーザが視認可能となったセンサ内蔵液晶パネル301Bに移動していくように表示する。これにより、ユーザは、メニューからアイコンを選択する操作を視覚的に楽しむことができる。なお、このような表示は一例であり、このような表示を行うことは、データ表示/センサ装置100の必須の構成ではない。
そして、データ表示/センサ装置100では、何れかのアイコンを選択候補として、表示/光センサ部300AとBとを閉じる、すなわち表示/光センサ部300AとBとが完全に重なり合う状態とすることによって、選択候補とされたアイコンに対応する機能を実行するようになっている。
つまり、同図(b)の状態で、表示/光センサ部300AとBとを閉じることによって、アイコン21aに対応する機能であるメール機能が実行される。これにより、同図(c)に示すように、センサ内蔵液晶パネル301Aにメールの文面22のような、メールに関連する画像が表示されるようになる。
なお、図11には示していないが、実際にメール機能が実行されたときには、まず、メールの送信、受信メールの確認等の項目を含むサブメニューがセンサ内蔵液晶パネル301Aに表示される。そして、ユーザが、サブメニューから受信メールの確認の項目を選択して、受信メールの一覧を表示させ、一覧からメールを選択することによって、同図(c)に示すようなメールの文面22が表示される。
ここで、同図(c)の画面例では、メールの文面22が表示されていると共に、上向きの矢印と「MENU」の文字とで構成される操作ガイド23、左下向きの矢印と「RETURN」の文字とで構成される操作ガイド24、及び右下向きの矢印と「NEXT」の文字とで構成される操作ガイド25が表示されている。
これらの操作ガイド23〜25に従って表示/光センサ部300AとBとをずらすことによって、各操作ガイド23〜25に記載の文字列に対応する処理をデータ表示/センサ装置100に実行させることができる。
具体的には、操作ガイド24に従って表示/光センサ部300AをBに対して左下方向にずらしたときには、「RETURN」に対応する処理、すなわちメールの文面22を表示する前に表示されていた画像(メールの一覧)を再度表示させる処理が行われる。
また、操作ガイド25に従って表示/光センサ部300AをBに対して右下方向にずらしたときには、「NEXT」に対応する処理、すなわちメールの一覧において、現在表示している文面22に対応するメールの次に位置するメールの文面を表示する処理が行われる。
そして、操作ガイド23に従って表示/光センサ部300AをBに対して上方向にずらしたときには、「MENU」に対応する処理、すなわち表示/光センサ部300AをBに対して上方向にずらすことによって、ユーザが視認可能となったセンサ内蔵液晶パネル301Bに、メインメニューから選択可能な各機能に対応するアイコンを表示させる処理が行われる。
つまり、従来の携帯電話機等では、実行する機能を切り換えるときには、現在実行中の機能を終了し、メインメニューを表示させ、メインメニューから切り換え先の機能を選択するという操作が必要であった。これに対し、データ表示/センサ装置100では、ある機能を実行しているときに、その機能を終了することなく、またメインメニュー画面に戻ることなく、機能選択用のメニューを表示させて、表示させたメニューから切り換え先の機能を選択することができる。機能実行中にメニューを表示させる処理の詳細については後述する。
〔メインメニューから機能選択する処理の流れ〕
続いて、図12に基づいて、メインメニューから機能選択する処理の流れについて説明する。図12は、メインメニューから機能選択する処理の一例を示すフローチャートである。メインメニューから機能選択する処理は、メインメニュー表示部141の制御に従って行われる。
まず、メインメニュー表示部141は、アイコン画像記憶部15から、メインメニュー用のアイコンを読み出し、読み出したアイコンをセンサ内蔵液晶パネル301Aの表示領域に合わせたサイズの背景画像上に配置してメインメニュー画面を作成し、表示制御部12に指示してこれをセンサ内蔵液晶パネル301Aに表示させる(S10)。なお、背景画像は、アイコンの視認性を低下させるようなものでなければ、どのようなものであってもよい。
なお、このときに、メインメニュー表示部141は、各アイコンの選択頻度に応じて、各アイコンの表示サイズを指定するようにしてもよい。これにより、図11(a)(b)の例のように、使用頻度に応じたサイズのアイコンを表示させることができる。
そして、メインメニュー表示部141は、ずれ検出部11が、表示/光センサ部300AとBとのずれを検出するのを待ち受ける(S11)。
ここで、ずれ検出部11が、表示/光センサ部300AとBとのずれを検出したことを確認する(S11でYES)と、メインメニュー表示部141は、各アイコンの表示位置と、ずれ検出部11が検出したずれ方向とに基づき、該ずれ方向に最も近い位置に表示されているアイコンが選択されたと判断し、これを選択候補として決定する(S12)。
選択候補を決定したメインメニュー表示部141は、該アイコンが選択候補となっていることをユーザが視認できるように、表示制御部12に指示して、選択候補のアイコンの表示態様を変化させる。また、メインメニュー表示部141は、表示制御部12に指示して、選択候補となっていないアイコンが、センサ内蔵液晶パネル301B側に移動していくように表示させる(S13)。なお、このように、センサ内蔵液晶パネル301AとBとにまたがった表示を行う方法については後述する。
そして、メインメニュー表示部141は、ずれ検出部11が、表示/光センサ部300AとBとのずれ量がゼロになったことを検出するのを待ち受ける(S14)。ここで、ずれ量がゼロになったことが検出されない場合(S14でNO)には、S12の処理に戻る。
なお、この場合に、ずれの方向が変化しているときには、メインメニュー表示部141は、各アイコンの表示位置と、ずれ検出部11が検出した最新のずれ方向とに基づき、該ずれ方向に最も近い位置に表示されているアイコンが選択されたと判断し、これを選択候補として決定する。つまり、表示/光センサ部300AとBとを閉じた状態として確定するまでの間は、表示/光センサ部300AとBとのずれ方向を変化させることによって選択候補を変更することができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S14でYES)には、メインメニュー表示部141は、選択されたアイコンに対応する処理を実行する(S15)。すなわち、この場合には、メインメニュー表示部141は、現在選択候補となっているアイコンに対応する処理を機能実行部14に実行させ、これによりメインメニューから機能選択する処理は終了する。
なお、メインメニューから機能選択する処理は、上記の例に限られない。例えば、図12の例では、S12において、ずれ方向に最も近い位置に表示されているアイコンを選択候補としているが、この段階でアイコンの選択を確定し、選択されたアイコンに対応する機能を実行させるようにしてもよい。この場合には、S13及びS14の処理が省略される。
また、センサ内蔵液晶パネル301A及びBは、像を検知することができるので、該センサ内蔵液晶パネル301A及びBに対する指やペン先などの接触を検知することもできる。したがって、指やペン先などで触れることによっても、表示したアイコンを選択することができるように構成してもよい。
なお、データ表示/センサ装置100では、図1に示すように、表示/光センサ部300AとBとをずらすためにセンサ内蔵液晶パネル301A上にユーザの指が置かれる。このため、表示/光センサ部300AとBとをずらすための指の接触と、アイコンを選択するための接触とを識別するための工夫を施しておくことが好ましい。例えば、アイコンを選択するためには、マウスのダブルクリックと同様に、アイコンが表示されている位置に2回連続タッチすることによって、当該アイコンが選択されたと判断するようにすればよい。
〔2つのセンサ内蔵液晶パネルにまたがった表示を行う方法〕
図11(b)に示すように、データ表示/センサ装置100では、表示/光センサ部300AとBとをずらしたときには、センサ内蔵液晶パネル301Aと、表示/光センサ部300AとBとをずらすことによって外部から視認可能となったセンサ内蔵液晶パネル301Bとの両方で画像を表示する。これにより、センサ内蔵液晶パネル301Aに表示しきれないサイズの画像を表示することができる。ここでは、このような画像の表示方法について説明する。
メインメニュー表示部141は、表示/光センサ部300AとBとをずらしたときには、センサ内蔵液晶パネル301Aの表示領域(以下、表示領域Aと呼ぶ)に、表示/光センサ部300AとBとをずらすことによって外部から視認可能となったセンサ内蔵液晶パネル301Bの表示領域(以下、表示領域Bと呼ぶ)を加えた表示領域(以下、表示領域A+Bと呼ぶ)に画像の表示を行う。
つまり、メインメニュー表示部141は、表示領域A+Bのサイズに合わせた背景画像上に、アイコンを配置してメインメニュー画面を生成する。そして、メインメニュー表示部141は、表示制御部12に指示して、上記生成したメインメニュー画面の、表示領域Aに対応する領域をセンサ内蔵液晶パネル301Aに表示させ、他の領域をセンサ内蔵液晶パネル301Bに表示させる。
これにより、図11(b)に示すように、センサ内蔵液晶パネル301AとBとの両方を表示領域として、センサ内蔵液晶パネル301AとBとにまたがった画像を表示することができる。
〔機能実行中にメニューを表示させる処理〕
次に、機能実行中にメニューを表示させる処理について、図13に基づいて説明する。図13は、機能実行中にメニューを表示させるときの表示画面の一例を示す図であり、同図(a)は機能実行中の画面例を示し、同図(b)は機能実行中にメニューを表示させたときの画面例を示し、同図(c)は表示させたメニューをスクロールさせているときの画面例を示し、同図(d)はメニューが選択されて機能が切り替わったときの画面例を示している。
同図(a)は、図11(c)と同じである。すなわち、ここではメール機能の実行中にメニューを表示させる例を示している。上述のように、操作ガイド23が、メニューを表示させる操作を示している。
操作ガイド23に従い、表示/光センサ部300AをBに対して同図の下向きにずらすと、表示/光センサ部300AとBとがずれたことによってユーザが視認可能となったセンサ内蔵液晶パネル301Bにアイコンが表示される。同図(b)の例では、現在実行中のメール機能に対応するアイコン26aが表示されている。
また、同図(b)の例では、アイコン26aの右側に右向きの矢印が、左側に左向きの矢印が表示されている。この矢印の表示に従い、表示/光センサ部300AをBに対して同図の右向きまたは左向きにずらすことによって、アイコン26aを右向きまたは左向きに移動させて、メール機能以外の機能に対応するアイコンを表示させることができる。つまり、図11のメインメニューでは一覧表示されていたアイコンを、ここではスクロール表示する。
また、ここでは、センサ内蔵液晶パネル301Bに表示させたアイコンをスクロール表示する処理と連動させて、センサ内蔵液晶パネル301Aに表示される当該アイコンに対応する機能を実行したときの画面もスクロール表示する。
これにより、表示/光センサ部300AをBに対して同図の右向きにずらしたときには、同図(c)に示すように、センサ内蔵液晶パネル301Bにおいては、アイコン26aの表示位置が左側に移動すると共に、右側から電話機能に対応するアイコン26bが現れるように表示が行われる。
同時に、センサ内蔵液晶パネル301Aにおいては、メール文面22の表示位置が左側に移動すると共に、右側から電話機能に対応する表示画面であるアドレス帳27が現れるように表示が行われる。またこのときには、図11(b)のアイコン21c等と同様に、メール文面22がセンサ内蔵液晶パネル301A及びBにまたがって表示される。
このように、データ表示/センサ装置100では、機能の実行中に、表示/光センサ部300AをBに対して下向きにずらし、さらに表示/光センサ部300AをBに対して右向きにずらすことにより、アイコン及び該アイコンに対応する機能の表示画面が左向きに流れていくようにスクロール表示が行われる。また、このスクロール表示の速度は、ずれ量が大きいほど速くなるようになっている。なお、表示/光センサ部300AをBに対して左向きにずらした場合にはスクロール方向が逆向きになる。
そして、表示/光センサ部300AのBに対する左右方向のずれをゼロにすることにより、スクロール表示は終了する。つまり、この時点において表示中の機能がそのまま実行される。なお、2つの機能が表示されているときに、スクロール表示が終了されたときには、予め定めたルールに従って、何れかの機能を実行する。例えば、表示中の面積が広い方の機能を実行するようにしてもよいし、スクロールの上流側(図13(c)の例では右側)の機能を実行するようにしてもよい。
同図(d)は、メール機能から電話機能に切り換え後の画面例を示している。図示のように、センサ内蔵液晶パネル301Aには、アドレス帳27が表示されており、センサ内蔵液晶パネル301Bには、電話機能に対応するアイコン26bが表示されている。また、センサ内蔵液晶パネル301Aに表示されたアドレス帳27上には、カーソル28が表示されている。
データ表示/センサ装置100では、同図(d)の状態から、表示/光センサ部300AをBに対してさらに下向きにずらすことにより、アドレス帳を下向きにスクロールさせることができるようになっている。これにより、ユーザは、アドレス帳27に含まれるアドレス情報の中から任意のアドレスを選択することができる。
〔メニューアイコンをスクロール表示する処理の流れ〕
続いて、図14に基づいて、メニューアイコンをスクロール表示する処理の流れについて説明する。図14は、メニューアイコンをスクロール表示する処理の一例を示すフローチャートである。メニューアイコンをスクロール表示する処理は、アプリ起動時メニュー表示部142の制御に従って行われる。
まず、アプリ起動時メニュー表示部142は、ずれ検出部11が、表示/光センサ部300AとBとの縦方向のずれ(ずれたときにセンサ内蔵液晶パネル301Aの上側にセンサ内蔵液晶パネル301Bが現れる向きのずれ)を検出するのを待ち受ける(S20)。
ここで、ずれ検出部11が、縦方向のずれを検出したことを確認する(S20でYES)と、アプリ起動時メニュー表示部142は、アイコン画像記憶部15から、スクロール表示用のアイコンを読み出し、表示制御部12に指示してこれをセンサ内蔵液晶パネル301Bに表示させる(S21)。もちろん、アイコンを表示させる位置は、表示/光センサ部300AとBとが縦方向にずれたことによって、ユーザに視認可能となった位置である。
続いて、アプリ起動時メニュー表示部142は、ずれ検出部11が、表示/光センサ部300AとBとの横方向のずれを検出するのを待ち受ける(S22)。
ここで、ずれ検出部11が、表示/光センサ部300AとBとの横方向のずれを検出したことを確認する(S22でYES)と、アプリ起動時メニュー表示部142は、ずれ検出部11が検出した横方向のずれ量に基づき、メニューアイコンの移動速度(スクロール速度)を決定する(S23)。なお、アプリ起動時メニュー表示部142は、ずれ量が大きいほど大きい移動速度を決定する。そして、移動速度を決定したアプリ起動時メニュー表示部142は、決定した移動速度でスクロール表示を開始する(S24)。
具体的には、アプリ起動時メニュー表示部142は、表示制御部12に指示して、現在センサ内蔵液晶パネル301Bに表示中のアイコンの表示位置を上記決定した移動速度で移動させる。
また、アプリ起動時メニュー表示部142は、アイコン画像記憶部15から、現在表示中のアイコンとは別の機能に対応するアイコンの画像を読み出し、表示制御部12に指示して、読み出したアイコンと、現在表示中のアイコンとの間隔がセンサ内蔵液晶パネル301Aの横幅と等しくなるように表示させる。
同時に、アプリ起動時メニュー表示部142は、表示中のアイコンに対応する機能の表示画面を、アイコンのスクロールと連動するようにスクロール表示させる。具体的には、アプリ起動時メニュー表示部142は、まず現在表示中の各アイコンに対応する機能によって表示される表示画面をアイコンの表示順に従って並列に組み合わせた組合せ画像を生成する。
なお、各アイコンに対応する機能によって表示される表示画面は、当該機能を起動させて生成させてもよいし、予め表示データ保持部13に格納しておいてもよい。機能を起動させる場合には、スクロール表示終了時にスムーズに当該機能を実行することができるという利点がある。また、表示データ保持部13に格納しておく場合には、スクロール表示を行うときに、各機能を起動させる必要がないという利点がある。
次に、アプリ起動時メニュー表示部142は、上記生成した組合せ画像の表示領域を決定する。すなわち、アプリ起動時メニュー表示部142は、上記アイコンの表示位置に基づいて、上記組合せ画像からセンサ内蔵液晶パネル301A及びBに表示させる(表示領域A+Bに表示させる)画像を切り出す。
そして、アプリ起動時メニュー表示部142は、表示制御部12に指示して、上記切り出した画像の、表示領域Aに対応する領域をセンサ内蔵液晶パネル301Aに表示させ、他の領域をセンサ内蔵液晶パネル301Bに表示させる。
これにより、図13(c)に示すように、センサ内蔵液晶パネル301AとBとの両方を表示領域として、センサ内蔵液晶パネル301AとBとにまたがって、各機能の画面を表示することができる。
このような処理を繰り返すことにより、各機能に対応するアイコンと、該アイコンに対応する機能の表示画面とがスクロール表示される。なお、全てのアイコンを一通り表示させた後も、同じ表示順でスクロール表示が繰り返される。
このスクロール表示中において、アプリ起動時メニュー表示部142は、ずれ検出部11が、表示/光センサ部300AとBとの横方向のずれ量が変化したことを検出するのを待ち受ける(S25)。
ここで、横方向のずれ量の変化が検出されたことを確認した場合(S25でYES)には、アプリ起動時メニュー表示部142は、横方向のずれ量がゼロとなったか否かを確認する(S26)。ずれ量がゼロになったことが検出されない場合(S26でNO)には、S23の処理に戻る。
この場合には、アプリ起動時メニュー表示部142は、ずれ検出部11が検出した最新のずれ量に基づき、スクロール表示速度を再設定する。つまり、表示/光センサ部300AとBとの横方向のずれ量をゼロにするまでの間は、表示/光センサ部300AとBとのずれ量を変化させることによってスクロール速度を変化させることができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S26でYES)には、アプリ起動時メニュー表示部142は、表示中のアイコンに対応する処理を実行する(S27)。すなわち、この場合には、アプリ起動時メニュー表示部142は、現在表示中のアイコンに対応する処理を機能実行部14に実行させ、これによりメニューアイコンをスクロール表示させる処理は終了する。なお、上述のように、複数のアイコンが同時に表示されている場合には、予め定めたルールに従って選択された1つのアイコンに対応する処理が実行される。
なお、上記の処理は一例であり、機能実行中にメニューを表示させる処理は、この例に限られない。例えば、上記の例では、各機能に対応する表示画面もスクロールさせているが、アイコンのみをスクロールさせるようにしてもよい。また、アイコンのスクロール方向も、データ表示/センサ装置100の横方向に限られず、縦方向や斜め方向にスクロールさせてもよい。
〔項目選択処理の流れ〕
続いて、図13(c)の状態において、カーソル28を移動させてアドレスを選択する際に行われる項目選択処理の流れについて、図15に基づいて説明する。図15は、項目選択処理の一例を示すフローチャートである。なお、項目選択処理は、現在実行中の機能の一部として行われる。例えば、図13(b)の例では、電話機能が実行中であるから、電話機能を実現するアプリケーションソフトによって、項目選択処理が行われる。
項目選択処理では、まず、ずれ検出部11が、表示/光センサ部300AとBとのずれの検出が待ち受けられる(S30)。ここで、ずれ検出部11が、ずれを検出したことが確認される(S30でYES)と、ずれ検出部11が検出したずれ量とずれ方向とに基づき、スクロール速度が決定される(S31)。そして、決定された移動速度でスクロール表示が開始される(S32)。
なお、スクロール表示においては、カーソル画像をスクロールさせるようにしてもよいし、カーソル画像の画面上の位置は固定とし、表示画面をスクロールさせるようにしてもよい。要は、画面上において、カーソルが合っている項目が順次切り替わるようになっていればよい。
スクロール表示中においては、ずれ検出部11が、表示/光センサ部300AとBとのずれ量またはずれ方向の変化の検出が待ち受けられ(S33)、ずれ量またはずれ方向の変化が検出されたことが確認された場合(S33でYES)には、ずれ量がゼロとなったか否かが確認される(S34)。ここで、ずれ量がゼロになったことが検出されない場合(S34でNO)には、S31の処理に戻る。
この場合には、ずれ検出部11が検出した最新のずれ量に基づき、スクロール表示速度が再設定される。つまり、表示/光センサ部300AとBとの横方向のずれ量をゼロにするまでの間は、表示/光センサ部300AとBとのずれ量を変化させることによってスクロール速度を変化させることができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S34でYES)には、カーソル位置に対応する項目が選択されたと判断される(S35)。そして、処理は、S30に戻り、機能の切り換えや電源オフ等の操作が行われるまでの間、項目選択処理は実行され続ける。
なお、上記の例では、カーソルの表示位置を固定し、選択対象となる項目をスクロールさせる例を示したが、カーソルの表示位置を移動させるようにしてもよい。
〔テレビ機能実行中の動作〕
上述のように、データ表示/センサ装置100は、テレビ放送の受信出力機能(テレビ機能)を備えている。ここでは、テレビ機能の実行中のデータ表示/センサ装置100の動作について、図16に基づいて説明する。
図16は、テレビ機能実行中の表示画面の一例を示す図であり、同図(a)は表示/光センサ部300AとBとがずれていない状態の画面例を示し、同図(b)は表示/光センサ部300AとBとを縦方向にずらしたときの画面例を示し、同図(c)は再び表示/光センサ部300AとBとがずれていない状態に戻したときの画面例を示している。
テレビ機能を実行することにより、センサ内蔵液晶パネル301Aには、テレビ受信部910(図9等参照)が受信出力したテレビ番組の画像が表示される。一般に放送されているテレビ番組の画像は横長であるから、テレビ機能実行時にはデータ表示/センサ装置100は、図示のように横向きにして使用される。ここでは、センサ内蔵液晶パネル301Aにある番組の画像41が表示されているものとする。
データ表示/センサ装置100では、テレビ機能を実行しているときに、表示/光センサ部300AとBとをずらすことによって、チャンネルを切り換えることができるようになっている。
つまり、図16(b)に示すように、表示/光センサ部300AをBに対して縦方向(同図の左向き)にずらすことにより、同図(a)の状態でセンサ内蔵液晶パネル301Aの全面に表示されていた画像41が左側にずれる。そして、ずれた画像41の右側の端部を左端とする画像42が、センサ内蔵液晶パネル301AとBとにまたがって表示される。この画像42が、チャンネル切り換え後の番組の画像である。
そして、同図(c)に示すように、表示/光センサ部300AとBとをずれがない状態に戻すことにより、チャンネル切り換えが確定されて、画像42がセンサ内蔵液晶パネル301Aの全面に表示される。
また、図16には示していないが、データ表示/センサ装置100では、テレビ機能の実行中に、表示/光センサ部300AとBとを横方向(図16の上下方向)にずらすことによって、放送種別(地上デジタル放送、BS放送、CS放送等)を切り換えることもできるようになっている。
つまり、データ表示/センサ装置100では、図17に示すようなイメージでチャンネル及び放送種別の切り換えを行うことができるようになっている。図17は、データ表示/センサ装置100において、チャンネル及び放送種別が切り換えられる態様を説明する図である。
同図において、L1は第1放送(例えば地上デジタル放送)のチャンネル群を示し、L2は第2放送(例えばBS放送)のチャンネル群を示し、L3は第3放送(例えばCS放送)のチャンネル群を示している。つまり、L1〜L3を構成する各矩形が、各放送における番組の画像を示している。また、同図では、矩形Pの位置の画像が、センサ内蔵液晶パネル301Aに表示されることを想定している。
つまり、データ表示/センサ装置100では、表示/光センサ部300AとBとを縦方向(図16の左右方向)にずらすことにより、L1が回転するようなイメージで、現在表示中の画像(矩形Pの位置の画像)がずれ、代わりに現在表示中の画像の隣に位置する画像が矩形Pの位置に移動してゆくように表示が行われる。
また、データ表示/センサ装置100では、表示/光センサ部300AとBとを横方向(図16の上下方向)にずらすことにより、L1とL2またはL3が切り換わるようなイメージで、現在表示中の画像(矩形Pの位置の画像)の代わりに現在表示中の画像の上または下に位置する画像が表示される。
〔テレビ機能実行中の処理の流れ〕
続いて、図18に基づいて、テレビ機能実行中の処理の流れについて説明する。図18は、テレビ機能実行中の処理の一例を示すフローチャートである。テレビ機能実行中の処理は、テレビ制御部143の制御に従って行われる。
まず、テレビ制御部143は、ずれ検出部11が、表示/光センサ部300AとBとの縦方向のずれ(図16の左右方向のずれ)を検出したか否かを確認する(S40)。ここで、縦方向のずれの検出が確認できなかった場合(S40でNO)には、テレビ制御部143は、S46の処理に進む。なお、S46以降の説明は、S45までの説明の後で行う。
一方、ずれ検出部11が、縦方向のずれを検出したことを確認する(S40でYES)と、テレビ制御部143は、ずれ検出部11が検出したずれの向き及びずれ量に基づき、チャンネル変更(切り換え)速度を決定する(S41)。なお、テレビ制御部143は、ずれ量が大きいほど大きい切り換え速度とする。そして、テレビ制御部143は、決定した速度でチャンネル切り換えを開始する(S42)。
具体的には、テレビ制御部143は、まず、ずれの向きに基づいて切り換え先のチャンネルを特定し、テレビ受信部910に指示して特定したチャンネルの番組を受信させる。これにより、切り換え先のチャンネルの画像がテレビ制御部143に送られる。なお、切り換え先のチャンネルは、図17に示したように、ずれの向きに応じて予め定められている。
また、テレビ制御部143は、切り換え前の番組の画像と、切り換え先の番組の画像とをチャンネルの切り換え順に従って並列に組み合わせた組合せ画像を生成する。なお、組合せ画像は、動画像であってもよい。切り換え前の番組の画像と、切り換え先の番組の画像との両方を動画像とする場合には、テレビ受信部910に2つのチューナを設けておき、一方のチューナで切り換え前の番組を受信させ、他方のチューナで切り換え先の番組を受信させればよい。チューナが1つである場合には、切り換え前の番組の画像を表示データ保持部13に格納しておき、上記チューナで受信した番組の静止画像または動画像と、表示データ保持部13に格納した静止画像とを組み合わせて組合せ画像を生成すればよい。
次に、テレビ制御部143は、上記生成した組合せ画像の表示領域を決定する。すなわち、テレビ制御部143は、上記組合せ画像からセンサ内蔵液晶パネル301A及びBに表示させる(表示領域A+Bに表示させる)画像を切り出す。なお、画像の切り出し位置は、切り換え前の番組の画像側から、切り換え先の番組の画像側へと経時的に変化する。この切り出し位置の変化量は、S41で決定した切り換え速度に応じて決定される。つまり、切り換え速度が大きい場合には、切り出し位置の時間当たりの変化量を大きくし、切り換え速度が小さい場合には、切り出し位置の時間当たりの変化量を小さくする。
そして、テレビ制御部143は、表示制御部12に指示して、上記切り出した画像の、表示領域Aに対応する領域をセンサ内蔵液晶パネル301Aに表示させ、他の領域をセンサ内蔵液晶パネル301Bに表示させる。
これにより、図16(b)に示すように、センサ内蔵液晶パネル301AとBとの両方を表示領域として、センサ内蔵液晶パネル301AとBとにまたがって、切り換え前の番組の画像と、切り換え先の番組の画像とを表示することができる。なお、全てのチャンネルの画像を一通り表示させた後も、同じ順番で画像が表示される。
また、チャンネル切り換え中において、テレビ制御部143は、ずれ検出部11が、表示/光センサ部300AとBとの縦方向のずれ量が変化したことを検出するのを待ち受ける(S43)。
ここで、縦方向のずれ量の変化が検出されたことを確認した場合(S43でYES)には、テレビ制御部143は、縦方向のずれ量がゼロとなったか否かを確認する(S44)。ずれ量がゼロになったことが検出されない場合(S44でNO)には、S41の処理に戻る。
この場合には、テレビ制御部143は、ずれ検出部11が検出した最新のずれ量に基づき、チャンネル切り換え速度を再設定する。つまり、表示/光センサ部300AとBとの縦方向のずれ量をゼロにするまでの間は、表示/光センサ部300AとBとのずれ量を変化させることによってチャンネル切り換え速度を変化させることができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S44でYES)には、テレビ制御部143は、チャンネル切り換えを終了する(S45)。すなわち、この場合には、テレビ制御部143は、現在表示中の画像に対応する番組の画像を出力させる。なお、複数の番組の画像が同時に表示されている場合には、テレビ制御部143は、予め定めたルール(例えば、切り換え先の番組を選択する等)に従って選択した1つの番組を出力させる。
チャンネル切り換えを終了した後、またはS40において左右方向のずれが検出されなかったときには、処理はS46に進み、テレビ制御部143は、ずれ検出部11が、表示/光センサ部300AとBとの横方向のずれ(図16の上下方向のずれ)を検出したか否かを確認する。ここで、縦方向のずれの検出が確認できなかった場合(S46でNO)には、処理はS40に戻る。
一方、ずれ検出部11が、横方向のずれを検出したことを確認する(S46でYES)と、テレビ制御部143は、ずれ検出部11が検出したずれの向き及びずれ量に基づき、放送種別の変更(切り換え)速度を決定する(S47)。なお、テレビ制御部143は、ずれ量が大きいほど大きい切り換え速度とする。そして、テレビ制御部143は、決定した速度で放送種別の切り換えを開始する(S48)。
具体的には、テレビ制御部143は、まず、ずれの向きに基づいて切り換え先の放送種別を特定し、現在表示しているチャンネルに基づいて切り換え先のチャンネルを特定する。そして、テレビ受信部910に指示して、上記特定した種別の放送における、上記特定したチャンネルの番組を受信させる。これにより、切り換え先のチャンネルの画像がセンサ内蔵液晶パネル301Aに表示される。なお、ずれの向きと切り換え先の放送種別との対応は、図17に示したように、予め定めておけばよい。同様に、現在表示しているチャンネルと切り換え先のチャンネルとについても、予め定めておけばよい。
また、放送種別の切り換え中において、テレビ制御部143は、ずれ検出部11が、表示/光センサ部300AとBとの横方向のずれ量が変化したことを検出するのを待ち受ける(S49)。
ここで、横方向のずれ量の変化が検出されたことを確認した場合(S49でYES)には、テレビ制御部143は、横方向のずれ量がゼロとなったか否かを確認する(S50)。ずれ量がゼロになったことが検出されない場合(S50でNO)には、S47の処理に戻る。
この場合には、テレビ制御部143は、ずれ検出部11が検出した最新のずれ量に基づき、放送種別の切り換え速度を再設定する。つまり、表示/光センサ部300AとBとの横方向のずれ量をゼロにするまでの間は、表示/光センサ部300AとBとのずれ量を変化させることによって放送種別の切り換え速度を変化させることができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S50でYES)には、テレビ制御部143は、放送種別の切り換えを終了し(S51)、処理はS40に戻る。
なお、上記の例では、チャンネル切り換え中に、センサ内蔵液晶パネル301A及びBの表示領域に、切り換え元の番組の画面と、切り換え先の番組の画面とを両方表示する例を示したが、1つの番組の画面のみをセンサ内蔵液晶パネル301Aのみに表示するようにしてもよい。
〔地図画像表示中の動作〕
上述のように、データ表示/センサ装置100は、インターネット上のデータを閲覧するウェブブラウザ機能を備えている。ここでは、ウェブブラウザ機能の実行中におけるデータ表示/センサ装置100の動作の一例として、地図の画像を表示しているときの動作例について、図19に基づいて説明する。
図19は、地図画像を表示しているときの画面例を示す図であり、同図(a)は表示/光センサ部300AとBとがずれていない状態の画面例を示し、同図(b)は表示/光センサ部300AをBに対して左斜め上方向にずらしたときの画面例を示し、同図(c)は表示/光センサ部300AとBとの左斜め上方向のずれ量をさらに大きくしたときの画面例を示している。
データ表示/センサ装置100では、地図等の画像を表示しているときに、表示/光センサ部300AとBとをずらすことによって、表示位置をスクロールすることができるようになっている。なお、ここで表示する地図画像は、センサ内蔵液晶パネル301Aの表示領域に一度に表示可能なサイズを超えているものとする。つまり、センサ内蔵液晶パネル301Aには、元の地図画像(以下、元画像と呼ぶ)の一部が切り出されて表示される。
同図(a)の例では、センサ内蔵液晶パネル301Aに地図画像43aが表示されている。この状態において、表示/光センサ部300AをBに対してずらすことにより、ずらした方向に、地図画像をスクロールして表示することができる。
つまり、同図(b)に示すように、表示/光センサ部300AをBに対して左斜め上方向にずらしたときには、元画像から、地図画像43aの切り出し位置よりも左斜め上方に移動した切り出し位置で切り出された地図画像43bがセンサ内蔵液晶パネル301A(表示領域A)に表示される。
また、同図(b)に示すように、表示/光センサ部300AをBに対して左斜め上方向にずらしたときには、表示/光センサ部300AとBとをずらすことによって外部から視認可能となったセンサ内蔵液晶パネル301Bの表示領域(表示領域B)にも、地図画像43b’が表示される。つまり、表示/光センサ部300AをBに対してずらしたときには、表示領域A+Bに地図画像が表示される。
また、データ表示/センサ装置100では、ずらし量を増やしたときには、スクロール速度が上がるようになっている。これにより、サイズの大きい地図画像をスピーディに閲覧することができる。
同図(c)に示すように、左斜め上方向へのずらし量を増やしたときには、元画像から、地図画像43bの切り出し位置よりもさらに左斜め上方に、より大きい移動幅で移動した切り出し位置で切り出された地図画像43cがセンサ内蔵液晶パネル301A(表示領域A)に表示される。
また、図示のように、ずらし量を増やしたときには、センサ内蔵液晶パネル301Bの表示領域である表示領域Bが拡大するので、センサ内蔵液晶パネル301Bに表示される地図画像43c’は、地図画像43b’と比べて広い範囲を網羅した画像となっている。このように、データ表示/センサ装置100では、地図画像の閲覧中にずらし量を増やすことにより、ユーザがより広い範囲の地図画像を一度に確認することができるようになっている。
〔地図画像表示中の処理の流れ〕
続いて、図20に基づいて、地図画像表示中の処理の流れについて説明する。図20は、地図画像表示中の処理の一例を示すフローチャートである。地図画像表示中の処理は、ブラウザ制御部144の制御に従って行われる。
まず、ブラウザ制御部144は、ずれ検出部11が、表示/光センサ部300AとBとのずれの検出を待ち受ける(S60)。ここで、ずれ検出部11が、縦方向のずれを検出したことを確認する(S60でYES)と、ブラウザ制御部144は、ずれ検出部11が検出したずれの向き及びずれ量に基づき、画面のスクロール速度を決定する(S61)。
なお、ブラウザ制御部144は、ずれ量が大きいほどスクロール速度を大きくする。また、ずれ量が大きいほど、外部に露出するセンサ内蔵液晶パネル301Bの面積が広くなり、表示される地図の面積も広がる。このため、ユーザは、大きい画像を高速で確認することができる。
そして、ブラウザ制御部144は、決定した速度で画面のスクロールを開始する(S62)。具体的には、ブラウザ制御部144は、センサ内蔵液晶パネル301Aの表示領域(表示領域A)と、ずれ検出部11が検出したずれの向き及びずれ量に基づいて求めたセンサ内蔵液晶パネル301Bの表示領域(表示領域B)とに基づいて、全体の表示領域(表示領域A+B)を決定する。
次に、ブラウザ制御部144は、ずれ検出部11が検出したずれの向き及びずれ量に基づいて、元画像から、センサ内蔵液晶パネル301A及びBに表示する地図画像を切り出す位置を決定する。なお、切り出し位置は、例えばスクロール前にセンサ内蔵液晶パネル301Aに表示されている画像の切り出し位置を基準として、ずれ検出部11が検出したずれの向きに、ずれ検出部11が検出したずれ量に応じた所定の距離だけ移動させた位置とすることができる。
そして、ブラウザ制御部144は、元画像から、上記決定した切り出し位置で、上記決定した表示領域A+Bに相当する範囲の画像を切り出し、表示制御部12に指示して、切り出した画像の、表示領域Aに対応する領域をセンサ内蔵液晶パネル301Aに表示させ、他の領域をセンサ内蔵液晶パネル301Bに表示させる。
これにより、図19(a)(b)に示すように、表示/光センサ部300AとBとをずらす前の表示領域から、表示/光センサ部300AとBとをずらした方向に移動した表示領域の地図画像が表示される。この処理が、表示/光センサ部300AとBとがずれている間、所定の時間間隔で継続的に行われることにより、地図画像がスクロール表示される。このとき、切り出し位置の移動距離が大きければ、スクロール速度は速くなる。すなわち、S61では、ずれ量に基づいて切り出し位置の移動距離が決定され、これによりスクロール速度が決定されるようになっている。
また、スクロール表示中において、ブラウザ制御部144は、ずれ検出部11が、表示/光センサ部300AとBとのずれ量が変化したことを検出するのを待ち受ける(S63)。
ここで、ずれ量の変化が検出されたことを確認した場合(S63でYES)には、ブラウザ制御部144は、ずれ量がゼロとなったか否かを確認する(S64)。ずれ量がゼロになったことが検出されない場合(S64でNO)には、S61の処理に戻る。
この場合には、ブラウザ制御部144は、ずれ検出部11が検出した最新のずれ量に基づき、画面のスクロール速度を再設定する。つまり、表示/光センサ部300AとBとのずれ量をゼロにするまでの間は、表示/光センサ部300AとBとのずれ量を変化させることによってスクロール速度を変化させることができるようになっている。
一方、ずれ量がゼロになったことが検出された場合(S64でYES)には、ブラウザ制御部144は、画面のスクロールを終了する(S65)。
以上のように、データ表示/センサ装置100では、表示/光センサ部300AとBとをずらすことにより、所望の方向に所望の速度で画面をスクロールさせることができる。無論、スクロール表示させる対象は、地図画像に限られず、任意の画像、表示画面等をスクロール表示させることができる。
また、上記の例では、ブラウザ制御部144がスクロール表示の制御を行う例を示したが、スクロール表示の制御を行う主体は、これに限られない。例えば、画像の閲覧用ソフトウェアがスクロール表示の制御を行うようにしてもよい。
〔表示/光センサ部300の形状〕
上述の例では、表示/光センサ部300A及びBが長方形の板状である例を示したが、表示/光センサ部300A及びBの形状は、これに限られない。例えば、図21のように表示/光センサ部300A及びBを楕円形の板状としてもよい。
図21は、表示/光センサ部300の形状の変形例を示す図であり、同図(a)は表示/光センサ部300AとBとにずれがない状態を示し、同図(b)は表示/光センサ部300AとBとをずらした状態を示し、同図(c)は再び表示/光センサ部300AとBとのずれをなくした状態を示している。
同図(a)〜(c)のように、データ表示/センサ装置100’は、楕円形状の表示/光センサ部300A’とB’とを重ね合わせた形状であり、形状が変わっている以外は、データ表示/センサ装置100と同様の構成及び機能を備えている(図11参照)。
楕円形状の表示/光センサ部300A’及びB’は、長方形状の表示/光センサ部300A及びBと比べて、ユーザの掌にフィットするので、ユーザの操作感を向上することができる。無論、表示/光センサ部300の形状は、上述の例に限られず、必要に応じて適宜変更することができる。
〔コマンドを用いた処理〕
以上の説明では、簡単のためコマンドを用いずにスキャン処理の説明を行ったが、データ表示/センサ装置100では、実際には以下のようにコマンドを用いてずれ量及びずれ方向の検出等の処理が行われる。
すなわち、まず、ずれ検出部11は、「データ取得タイミング」フィールドの値を“イベント”、「データ種別」フィールドの値を“全体画像”、「スキャン方式」フィールドの値を“反射”、そして「スキャンパネル」フィールドの値を“第2表示/光センサ部”としたコマンドをデータ処理部700に送信する。
これにより、センサ内蔵液晶パネル301Bで、表示/光センサ部300Aの背面(センサ内蔵液晶パネル301Aが設けられていない側の面)のスキャンが実行され、スキャンした結果として、光センサ回路32からセンサ制御部602を介して得られる画像データの全体が、データ処理部700から取得される。ずれ検出部11は、この画像データに基づいて、表示/光センサ部300AとBとのずれ量及びずれ方向を判断する。なお、この判断手法については、既に説明した通りである。
また、表示制御部12は、以下のようにして画像の表示を行う。すなわち、表示制御部12は、表示の指示を受けた画像データをデータ処理部700に送信すると共に、「表示パネル」フィールドの値として、“第1表示/光センサ部”または“第2表示/光センサ部”を指定したコマンドをデータ処理部700に送信する。これにより、表示/光センサ部300AまたはBに、表示を指示された画像が表示される。
〔付記事項〕
上述では、データ表示/センサ装置100の構成として、データ処理部700や回路制御部600を備える構成について説明したが、この構成に限定されるものではない。例えば、主制御部800が回路制御部600を直接制御し、主制御部800が全体画像データ/部分画像データ/座標データを生成するような構成であってもよい。また、主制御部800が表示/光センサ部300を直接制御するような構成であってもよい。
最後に、データ表示/センサ装置100の主制御部800、データ処理部700、回路制御部600は、ハードウェアロジックによって構成してもよいし、次のようにCPUを用いてソフトウェアによって実現してもよい。
すなわち、データ表示/センサ装置100は、各機能を実現する制御プログラムの命令を実行するCPU(central processing unit)、上記プログラムを格納したROM(read only memory)、上記プログラムを展開するRAM(random access memory)、上記プログラム及び各種データを格納するメモリ等の記憶装置(記録媒体)などを備えている。そして、本発明の目的は、上述した機能を実現するソフトウェアであるデータ表示/センサ装置100の制御プログラムのプログラムコード(実行形式プログラム、中間コードプログラム、ソースプログラム)をコンピュータで読み取り可能に記録した記録媒体を、上記データ表示/センサ装置100に供給し、そのコンピュータ(またはCPUやMPU)が記録媒体に記録されているプログラムコードを読み出し実行することによっても、達成可能である。
上記記録媒体としては、例えば、磁気テープやカセットテープ等のテープ系、フロッピー(登録商標)ディスク/ハードディスク等の磁気ディスクやCD−ROM/MO/MD/DVD/CD−R等の光ディスクを含むディスク系、ICカード(メモリカードを含む)/光カード等のカード系、あるいはマスクROM/EPROM/EEPROM/フラッシュROM等の半導体メモリ系などを用いることができる。
また、データ表示/センサ装置100を通信ネットワークと接続可能に構成し、上記プログラムコードを、通信ネットワークを介して供給してもよい。この通信ネットワークとしては、特に限定されず、例えば、インターネット、イントラネット、エキストラネット、LAN、ISDN、VAN、CATV通信網、仮想専用網(virtual private network)、電話回線網、移動体通信網、衛星通信網等が利用可能である。また、通信ネットワークを構成する伝送媒体としては、特に限定されず、例えば、IEEE1394、USB、電力線搬送、ケーブルTV回線、電話線、ADSL回線等の有線でも、IrDAやリモコンのような赤外線、Bluetooth(登録商標)、IEEE802.11無線、HDR、携帯電話網、衛星回線、地上波デジタル網等の無線でも利用可能である。なお、本発明は、上記プログラムコードが電子的な伝送で具現化された、搬送波に埋め込まれたコンピュータデータ信号の形態でも実現され得る。
本発明は上述した実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。