JP5240773B2 - 情報処理装置、情報処理方法および情報処理プログラム - Google Patents

情報処理装置、情報処理方法および情報処理プログラム Download PDF

Info

Publication number
JP5240773B2
JP5240773B2 JP2008322663A JP2008322663A JP5240773B2 JP 5240773 B2 JP5240773 B2 JP 5240773B2 JP 2008322663 A JP2008322663 A JP 2008322663A JP 2008322663 A JP2008322663 A JP 2008322663A JP 5240773 B2 JP5240773 B2 JP 5240773B2
Authority
JP
Japan
Prior art keywords
display
area
enlarged
unit
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008322663A
Other languages
English (en)
Other versions
JP2010146279A (ja
Inventor
健一 藤田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sharp Corp
Original Assignee
Sharp Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sharp Corp filed Critical Sharp Corp
Priority to JP2008322663A priority Critical patent/JP5240773B2/ja
Publication of JP2010146279A publication Critical patent/JP2010146279A/ja
Application granted granted Critical
Publication of JP5240773B2 publication Critical patent/JP5240773B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本発明は、画像を表示する情報処理装置、情報処理方法、情報処理プログラムに関する。特に、本発明は、外部からの指示を受け付け可能な表示ユニットに画像を表示する情報処理装置、情報処理方法、情報処理プログラムに関する。
現在、パーソナルコンピュータ、PDA(Personal Digital Assistant)、携帯電話などの情報処理装置が、広く普及している。情報処理装置の操作にあたっては、情報処理装置に対しユーザが指示を与えるための入力デバイスが必須である。
これまでに、様々な入力デバイスが開発されている。入力デバイスの代表的なものとして、キーボード、マウス、タブレット、タッチパネルなどがある。最近では、グラフィカルユーザインタフェース(graphical user interface;GUI)の普及にともない、マウス、タブレット、タッチパネルの使用頻度が上がっている。
引用文献1(特開平5−73196号公報)には、表示ユニット表面に配設されたタッチパネルを備えるデータ入力装置が開示されている。引用文献1に記載のデータ入力装置は、入力ミスの軽減のため、表示ユニットの表示面に表示されたキー画像よりも広い領域内へのタッチ入力があった場合に、領域に対応するキー入力があったと判断する。
特開平5−73196号公報
最近では、情報処理装置の扱うデータ量の増加にともない、表示画面に表示される情報量が増加している。そのため、1つの表示画面に、多くの小さな文字が表示されることもしばしばである。特に、PDAや携帯電話などの表示画面には、小さな文字が表示されることが多い。
しかしながら、引用文献1に記載のような外部からの指示を受付可能な表示ユニット(センサ一体型表示ユニットとよぶ)は、表示画面の特定の狭い領域の選択処理には向いていない。ユーザがタッチする表示画面の位置は、ユーザの手元の狂いなどにより、ユーザが意図する位置から外れることがあるためである。特に、指でタッチする場合など、表示画面への接触領域が大きくなる場合には、この問題は顕著になる。
本発明は、上記のような問題を解決するためになされたものであって、外部からの指示を受付可能な表示ユニット内の狭い領域の選択処理を補助する情報処理装置、情報処理方法、および、情報処理プログラムを提供することを課題とする。
本発明の1つの局面に従うと、情報処理装置であって、画像を表示する表示部を備え、表示部は、外部物体の接触を検出するセンサ付きのパネルを含み、センサの検出結果に基づいて、外部物体が接触したパネルの表示面内の接触領域を求める接触判定部と、情報処理装置の動作を制御する制御部とをさらに備え、制御部は、表示部に、表示データに基づいた画像を表示させる表示制御部と、接触領域の中心を含む拡大領域を決定する領域選択部と、拡大領域の表示データについて、拡大表示データを作成し、拡大表示データに基づいて表示データを更新する表示拡大部とを含み、表示拡大部は、接触領域の中心を含む中心領域の画像の表示形態と、拡大領域から中心領域を除いた周辺領域の画像の表示形態とが異なる拡大表示データを作成する形態変更部を有する。
好ましくは、パネルは、光センサ内蔵液晶パネルである。
好ましくは、中心領域は、接触領域の中心を含む、選択処理の単位区画である。
さらに好ましくは、複数の文字を含む文字データを格納する記憶部をさらに備え、単位区画は、各文字の表示領域に基づいて定まる。
さらに好ましくは、各々が意味的なまとまりを持つ複数の文字からなる複数の文字群を含む文字データを格納する記憶部をさらに備え、単位区画は、各文字群の表示領域に基づいて定まる。
さらに好ましくは、表示拡大部は、中心領域の拡大画像中の文字が、接触領域より大きくなるように拡大表示データを作成する。
好ましくは、表示拡大部は、拡大領域内の単位区画の数を数えるカウント部を含み、拡大表示部は、カウント部が数えた拡大領域内の単位区画の数が2以上であるとき、拡大表示データを作成し、カウント部が数えた拡大領域内の単位区画の数が1以下であるとき、拡大表示データを作成しない。
好ましくは、領域選択部は、接触領域を拡大領域として決定する。
好ましくは、領域選択部は、接触領域の中心座標を中心とする所定の領域を拡大領域として決定する。
好ましくは、領域選択部は、接触領域が互いに離れた2つの部分領域からなるとき、2つの部分領域で挟まれた領域を拡大領域として決定する。
好ましくは、表示制御部は、拡大表示データに対応する拡大画像をパネルの全面に表示させる。
好ましくは、表示部は、画像を表示する第2のパネルをさらに含み、表示制御部は、拡大表示データに対応する拡大画像を第2のパネルに表示させる。
好ましくは、形態変更部は、パネル上のスライド操作に応じて、拡大表示データにおいて、スライド操作に対応する領域の表示形態を変更する。
好ましくは、形態変更部は、拡大表示データに対応する拡大画像中の2領域の選択指示を受け付けると、選択された2領域で挟まれた領域の表示形態を変更する。
好ましくは、制御部は、周辺領域の選択指示を受け付けると、選択された周辺領域の表示形態を変更する。
好ましくは、制御部は、中心領域の選択指示を受け付けると、中心領域に応じた処理を実行する。
本発明の他の局面に従うと、外部物体の接触を検出するセンサ付きのパネルを含む表示部と、表示データを格納する記憶部とを備える情報処理装置を用いた情報処理方法であって、センサの検出結果に基づいて、外部物体が接触したパネルの表示面内の接触領域を求めるステップと、表示部に、表示データに基づいた画像を表示させるステップと、接触領域の中心を含む拡大領域を決定するステップと、拡大領域の表示データについて、拡大表示データを作成し、拡大表示データに基づいて表示データを更新するステップとを含み、表示データを更新するステップは、接触領域の中心を含む中心領域の画像の表示形態と、拡大領域から中心領域を除いた周辺領域の画像の表示形態とが異なる拡大表示データを作成するステップを有する。
本発明の他の局面に従うと、外部物体の接触を検出するセンサ付きのパネルを含む表示部と演算部とを備える情報処理装置に情報処理を実行させる情報処理プログラムであって、演算部が、センサの検出結果に基づいて、外部物体が接触したパネルの表示面内の接触領域を求めるステップと、演算部が、表示部に、表示データに基づいた画像を表示させるステップと、演算部が、接触領域の中心を含む拡大領域を決定するステップと、演算部が、拡大領域の表示データについて、拡大表示データを作成し、拡大表示データに基づいて表示データを更新するステップとを含み、表示データを更新するステップは、演算部が、接触領域の中心を含む中心領域の画像の表示形態と、拡大領域から中心領域を除いた周辺領域の画像の表示形態とが異なる拡大表示データを作成するステップを有する。
本発明によれば、外部からの指示を受付可能な表示ユニットの出力に基づいて、表示面内の接触領域、および、接触領域の中心を含む拡大領域を決定する。そして、拡大領域内の画像について、中心の表示形態と、周辺の表示形態とが異なる拡大画像を表示する。その結果、本発明によれば、外部からの指示を受付可能な表示ユニット内の狭い領域の選択処理を補助することができる。
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部分には同一の符号を付してある。それらの名称および機能も同じである。したがってそれらについての詳細な説明は繰り返さない。
[第1の実施の形態]
図1は、本実施の形態に係る電子機器100の外観図である。電子機器100は、光センサ内蔵液晶パネル140を備える。光センサ内蔵液晶パネル140は、画像を表示する機能と、外部からのタッチ入力を受け付ける機能とを兼ね備える。
<ハードウェア構成について>
次に、電子機器100の具体的構成の一態様について説明する。図2は、電子機器100のハードウェア構成を表わすブロック図である。図2を参照して、電子機器100は、主たる構成要素として、本体装置101と、表示装置102とを含む。
本体装置101は、CPU(Central Processing Unit)110と、RAM(Random Access Memory)171と、ROM(Read−Only Memory)172と、メモリカードリーダライタ173と、通信部174と、マイク175と、スピーカ176と、操作キー177とを含む。各構成要素は、相互にデータバスDB1によって接続されている。メモリカードリーダライタ173には、メモリカード1731が装着される。
CPU110は、プログラムを実行する。操作キー177は、電子機器100の使用者による指示の入力を受ける。RAM171は、CPU110によるプログラムの実行により生成されたデータ、または操作キー177を介して入力されたデータを揮発的に格納する。ROM172は、データを不揮発的に格納する。また、ROM172は、EPROM(Erasable Programmable Read−Only Memory)やフラッシュメモリなどの書込みおよび消去が可能なROMである。通信部174は、図示しない他の電子機器との間で無線通信を行う。なお、図2には図示していないが、電子機器100が、他の電子機器に有線により接続するためのインターフェイス(IF)を備える構成としてもよい。
表示装置102は、ドライバ130と、光センサ内蔵液晶パネル140(以下、液晶パネル140と称する)と、内部IF178と、バックライト179と、画像処理エンジン180とを含む。
ドライバ130は、液晶パネル140およびバックライト179を駆動するための駆動回路である。ドライバ130に含まれる各種の駆動回路については、後述する。
液晶パネル140は、液晶ディスプレイの機能と光センサの機能とを備えたデバイスである。つまり、液晶パネル140は、液晶を用いた画像の表示と、光センサを用いたセンシングとを行うことができる。液晶パネル140の詳細については、後述する。
内部IF(Interface)178は、本体装置101と表示装置102との間で、データの遣り取りを仲介する。
バックライト179は、液晶パネル140の裏面に配置された光源である。バックライト179は、当該裏面に対して均一な光を照射する。
画像処理エンジン180は、ドライバ130を介して液晶パネル140の動作を制御する。ここで、当該制御は、内部IF178を介して本体装置101から送られてくる各種データに基づいて行われる。なお、当該各種データは、後述するコマンドを含む。また、画像処理エンジン180は、液晶パネル140から出力されるデータを処理し、処理したデータを内部IF178を介して本体装置101に送る。さらに、画像処理エンジン180は、ドライバ制御部181と、タイマ182と、信号処理部183とを含む。
ドライバ制御部181は、ドライバ130に対して制御信号を送ることによりドライバ130の動作を制御する。また、ドライバ制御部181は、本体装置101から送られてくるコマンドを解析する。そして、ドライバ制御部181は、当該解析の結果に基づいた制御信号をドライバ130に送る。ドライバ130の動作の詳細については、後述する。
タイマ182は、時刻情報を生成し、信号処理部183に対して時刻情報を送る。
信号処理部183は、上記光センサから出力されるデータを受け取る。ここで、上記光センサから出力されるデータはアナログデータであるため、信号処理部183は、まず当該アナログデータをデジタルデータに変換する。さらに、信号処理部183は、当該デジタルデータに対して、本体装置101から送られてくるコマンドの内容に応じたデータ処理を行う。そして、信号処理部183は、上記データ処理を行った後のデータと、タイマ182から取得した時刻情報とを含んだデータ(以下、応答データと称する)を本体装置101に送る。また、信号処理部183は、後述するスキャンデータを連続して複数格納できるRAM(図示せず)を備えている。
上記コマンドは、上記光センサによりセンシングを指示するセンシングコマンドを含む。当該センシングコマンドの詳細および上記応答データの詳細については、後述する(図7〜図9)。
なお、タイマ182は、必ずしも画像処理エンジン180に備えられている必要はない。たとえば、タイマ182は、表示装置102内における、画像処理エンジン180の外部に備えられていてもよい。あるいは、タイマ182は、本体装置101に備えられていてもよい。また、マイク175およびスピーカ176は、電子機器100が常に備える構成ではなく、電子機器100の実施例によっては、マイク175およびスピーカ176のいずれかあるいは両方を有さない構成であってもよい。
ここで、表示装置102は、システム液晶を含んでいる。なお、システム液晶とは、液晶パネル140の周辺機器を当該液晶パネル140のガラス基板上に一体形成することにより得られるデバイスである。本実施の形態では、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、液晶パネル140のガラス基板上に一体形成されている。なお、表示装置102が、必ずしもシステム液晶を用いて構成されている必要はなく、ドライバ130(バックライト179を駆動する回路を除く)と、内部IF178と、画像処理エンジン180とが、上記ガラス基板以外の基板に構成されていてもよい。
ところで、電子機器100における処理は、各ハードウェアおよびCPU110により実行されるソフトウェアによって実現される。このようなソフトウェアは、ROM172に予め記憶されている場合がある。また、ソフトウェアは、メモリカード1731その他の記憶媒体に格納されて、プログラム製品として流通している場合もある。あるいは、ソフトウェアは、いわゆるインターネットに接続されている情報提供事業者によってダウンロード可能なプログラム製品として提供される場合もある。このようなソフトウェアは、メモリカードリーダライタ173その他の読取装置によりその記憶媒体から読み取られて、あるいは、通信部174または通信IF(図示せず)を介してダウンロードされた後、ROM172に一旦格納される。そのソフトウェアは、CPU110によってROM172から読み出され、RAM171に実行可能なプログラムの形式で格納される。CPU110は、そのプログラムを実行する。
図2に示される電子機器100の本体装置101を構成する各構成要素は、一般的なものである。したがって、本発明の本質的な部分は、RAM171、ROM172、メモリカード1731その他の記憶媒体に格納されたソフトウェア、あるいはネットワークを介してダウンロード可能なソフトウェアであるともいえる。なお、電子機器100の本体装置101のハードウェアの動作は周知であるので、詳細な説明は繰り返さない。
なお、記憶媒体としては、メモリカードに限られず、CD−ROM、FD(Flexible Disk)、ハードディスク、磁気テープ、カセットテープ、光ディスク(MO(Magnetic Optical Disc)/MD(Mini Disc)/DVD(Digital Versatile Disc))、IC(Integrated Circuit)カード(メモリカードを除く)、光カード、マスクROM、EPROM、EEPROM(Electronically Erasable Programmable Read−Only Memory)、フラッシュROMなどの半導体メモリ等の固定的にプログラムを格納する媒体でもよい。
ここでいうプログラムとは、CPUにより直接実行可能なプログラムだけでなく、ソースプログラム形式のプログラム、圧縮処理されたプログラム、暗号化されたプログラム等を含む。
<光センサ内蔵液晶パネルの構成および駆動について>
次に、液晶パネル140の構成と、当該液晶パネル140の周辺回路の構成とについて説明する。図3は、液晶パネル140の構成と、当該液晶パネル140の周辺回路とを示した図である。
図3を参照して、液晶パネル140は、画素回路141と、光センサ回路144と、走査信号線Giと、データ信号線SRjと、データ信号線SGjと、データ信号線SBjと、センサ信号線SSjと、センサ信号線SDjと、読出信号線RWiと、リセット信号線RSiとを含む。なお、iは、1≦i≦mを満たす自然数であり、jは1≦j≦nを満たす自然数である。
また、図2に示した表示装置102のドライバ130は、液晶パネル140の周辺回路として、走査信号線駆動回路131と、データ信号線駆動回路132と、光センサ駆動回路133と、スイッチ134と、アンプ135とを含む。
走査信号線駆動回路131は、図2に示すドライバ制御部181から制御信号TC1を受ける。そして、走査信号線駆動回路131は、制御信号TC1に基づき、各走査信号線(G1〜Gm)に対して、走査信号線G1から順に予め定められた電圧を印加する。より詳しくは、走査信号線駆動回路131は、単位時間毎に走査信号線(G1〜Gm)の中から1つの走査信号線を順次選択し、当該選択した走査信号線に対して後述するTFT(Thin Film Transistor)142のゲートをターンオンできるだけの電圧(以下、ハイレベル電圧)を印加する。なお、選択されていない走査信号線に対しては、ハイレベル電圧を印加することなく、ローレベル電圧を印加したままとする。
データ信号線駆動回路132は、図2に示すドライバ制御部181から画像データ(DR,DG,DB)を受ける。そして、データ信号線駆動回路132は、3n個のデータ信号線(SR1〜SRn,SG1〜SGn,SB1〜SBn)に対して、上記単位時間毎に、1行分の画像データに対応する電圧を順次印加する。
なお、ここでは、いわゆる線順次方式と呼ばれる駆動方式を用いて説明したが、駆動方式はこれに限定されるものではない。
画素回路141は、1つの画素の輝度(透過率)を設定するための回路である。また、画素回路141は、マトリクス状にm×n個配されている。より詳しくは、画素回路141は、図3の縦方向にm個、横方向にn個配されている。
画素回路141は、Rサブピクセル回路141rと、Gサブピクセル回路141gと、Bサブピクセル回路141bとからなる。これら3つの回路(141r,141g,141b)は、それぞれ、TFT142と、画素電極と対向電極とからなる1組の電極対143と、図示しないコンデンサとを含む。
なお、n型のトランジスタとp型のトランジスタとを作れるCMOS(Complementary Metal Oxide Semiconductor)を実現できること、キャリア(電子または正孔)の移動速度がアモルファスシリコン薄膜トランジスタ(a−Si TFT)に比べて数百倍早いことなどから、表示装置102では、TFT142として多結晶シリコン薄膜トランジスタ(p−Si TFT)が用いられる。なお、TFT142は、n型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT142がp型チャネルの電界効果トランジスタであってもよい。
Rサブピクセル回路141r内のTFT142のソースはデータ信号線SRjに接続されている。また、当該TFT142のゲートは走査信号線Giに接続されている。さらに、当該TFT142のドレインは、電極対143の画素電極に接続される。そして、画素電極と対向電極との間には、液晶が配される。なお、Gサブピクセル回路141gおよびBサブピクセル回路141bについても、各TFT142のソースが接続されるデータ信号線が異なる以外は、画素回路141rと同じ構成である。このため、これら2つの回路(141g,141b)についての説明は、繰り返さない。
ここで、画素回路141における輝度の設定について説明する。まず、走査信号線Giに上記ハイレベル電圧を印加する。当該ハイレベル電圧の印加により、TFT142のゲートがターンオンする。このようにTFT142のゲートがターンオンした状態で、各データ信号線(SRj,SGj,SBj)に対して、それぞれ指定された電圧(1画素分の画像データに対応する電圧)を印加する。これにより、当該指定された電圧に基づいた電圧が画素電極に印加される。その結果、画素電極と対向電極との間に電位差が生じる。この電位差に基づいて、液晶が応答し、画素の輝度は予め定められた輝度に設定される。なお、当該電位差は、上記図示しないコンデンサ(補助容量)によって、次のフレーム期間において走査信号線Giが選択されるまで保持される。
光センサ駆動回路133は、図2に示すドライバ制御部181から制御信号TC2を受ける。
そして、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎にリセット信号線(RS1〜RSm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDRを印加する。なお、選択されていないリセット信号線に対しては、選択されたリセット信号線に印加した電圧よりも低い電圧VSSRを印加したままとする。たとえば、電圧VDDRを0Vに、電圧VSSRを−5Vに設定すればよい。
また、光センサ駆動回路133は、制御信号TC2に基づき、単位時間毎に読出信号線(RW1〜RWm)の中から1つの信号線を順次選択し、当該選択した信号線に対して、予め定められたタイミングで通常よりもハイレベルな電圧VDDを印加する。なお、選択されていない読出信号線に対しては、上記電圧VSSRを印加したままとする。たとえば、VDDの値を8Vに設定すればよい。
なお、電圧VDDRを印加するタイミング、および電圧VDDを印加するタイミングについては、後述する。
光センサ回路144は、フォトダイオード145と、コンデンサ146と、TFT147とを含む。なお、以下では、TFT147がn型チャネルの電界効果トランジスタであるとして説明する。ただし、TFT147がp型チャネルの電界効果トランジスタであってもよい。
フォトダイオード145のアノードは、リセット信号線RSiに接続されている。一方、フォトダイオード145のカソードは、コンデンサ146の一方の電極に接続されている。また、コンデンサ146の他方の電極は、読出信号線RWiに接続されている。なお、以下では、フォトダイオード145とコンデンサ146との接続点をノードNと称する。
TFT147のゲートは、ノードNに接続されている。また、TFT147のドレインは、センサ信号線SDjに接続されている。さらに、TFT147のソースは、センサ信号線SSjに接続されている。光センサ回路144を用いたセンシングの詳細については、後述する。
スイッチ134は、センサ信号線(SD1〜SDn)に対して、予め定められた電圧を印加するか否かを切り換えるために設けられたスイッチである。スイッチ134の切り換え動作は、光センサ駆動回路133により行われる。なお、スイッチ134が導通状態となった場合にセンサ信号線(SD1〜SDn)に印加される電圧については、後述する。
アンプ135は、各センサ信号線(SS1〜SSn)から出力された電圧を増幅する。なお、増幅された電圧は、図2に示した信号処理部183に送られる。
なお、画素回路141を用いて画像を液晶パネル140に表示させるタイミングと、光センサ回路144を用いてセンシングするタイミングとについては、画像処理エンジン180が制御する。
図4は、液晶パネル140とバックライト179との断面図である。図4を参照して、液晶パネル140は、アクティブマトリクス基板151Aと、対向基板151Bと、液晶層152とを含む。対向基板151Bは、アクティブマトリクス基板151Aに対向して配されている。液晶層152は、アクティブマトリクス基板151Aと対向基板151Bとに挟まれている。バックライト179は、アクティブマトリクス基板151Aに関し液晶層152と反対側に配されている。
アクティブマトリクス基板151Aは、偏光フィルタ161と、ガラス基板162と、電極対143を構成する画素電極143aと、フォトダイオード145と、データ信号線157と、配向膜164とを含む。さらに、図4には示していないが、アクティブマトリクス基板151Aは、図3に示した、コンデンサ146と、TFT147と、TFT142と、走査信号線Giとを含む。
また、アクティブマトリクス基板151Aにおいては、バックライト179側から、偏光フィルタ161、ガラス基板162、画素電極143a、および配向膜164が、この順に配されている。フォトダイオード145とデータ信号線157とは、ガラス基板162の液晶層152側に形成されている。
対向基板151Bは、偏光フィルタ161と、ガラス基板162と、遮光膜163と、カラーフィルタ(153r,153g,153b)と、電極対143を構成する対向電極143bと、配向膜164とを含む。
また、対向基板151Bにおいては、液晶層152側から、配向膜164、対向電極143b、カラーフィルタ(153r,153g,153b)、ガラス基板162、および偏光フィルタ161が、この順に配されている。遮光膜163は、カラーフィルタ(153r,153g,153b)と同一の層に形成されている。
カラーフィルタ153rは、赤色の波長の光を透過させるフィルタである。カラーフィルタ153gは、緑色の波長の光を透過させるフィルタである。カラーフィルタ153bは、青色の波長の光を透過させるフィルタである。ここで、フォトダイオード145は、カラーフィルタ153bに対向する位置に配されている。
液晶パネル140は、外光やバックライト179などの光源により発せられた光を遮ったり又は当該光を透過させたりすることによって、画像の表示をする。具体的には、液晶パネル140は、画素電極143aと対向電極143bとの間に電圧を印加することにより液晶層152の液晶分子の向きを変化させ、上記光を遮ったり、あるいは透過させる。ただし、液晶だけでは光を完全に遮ることができないため、特定の偏光方向の光のみを透過させる偏光フィルタ161を配置している。
なお、フォトダイオード145の位置は、上記の位置に限定されるものではなく、カラーフィルタ153rに対向する位置やカラーフィルタ153gに対向する位置に設けることも可能である。
ここで、光センサ回路144の動作について説明する。図5は、光センサ回路144を動作させる際のタイミングチャートを示した図である。図5において、電圧VINTは、光センサ回路144内のノードNにおける電位を示している。また、電圧VPIXは、図3に示したセンサ信号線SSjからの出力電圧であって、アンプ135によって増幅される前の電圧を示している。
以下では、光センサ回路144をリセットするためのリセット期間と、光センサ回路144を用いて光をセンシングするためのセンシング期間と、センシングした結果を読み出す読出期間とに分けて説明する。
まず、リセット期間について説明する。リセット期間においては、リセット信号線RSiに印加する電圧を、ローレベル(電圧VSSR)からハイレベル(電圧VDDR)へと瞬間的に切り換える。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。このように、リセット信号線RSiに上記ハイレベルの電圧を印加することにより、フォトダイオード145の順方向(アノード側からカソード側)に電流が流れ始める。その結果、ノードNの電位である電圧VINTは、以下の式(1)で示す値となる。なお、式(1)では、フォトダイオード145における順方向の電圧降下量をVfとしている。
VINT=VSSR+|VDDR−VSSR|−Vf … (1)
それゆえ、ノードNの電位は、図5に示すとおり、電圧VDDRよりもVfだけ小さな値となる。
ここで、電圧VINTは、TFT147のゲートをターンオンさせる閾値以下であるため、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。また、コンデンサ146の電極間には、上記電圧VINT分の差が生じる。このため、コンデンサ146には、当該差に応じた電荷が蓄積される。
次に、センシング期間について説明する。リセット期間に続くセンシング期間においては、リセット信号線RSiに印加する電圧は、ハイレベル(電圧VDDR)からローレベル(電圧VSSR)へと瞬間的に切り換わる。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)のままとする。
このように、リセット信号線RSiに印加する電圧をローレベルに変化させることにより、ノードNの電位は、リセット信号線RSiの電圧および読出信号線RWiの電圧よりも高くなる。このため、フォトダイオード145においては、カソード側の電圧がアノード側の電圧よりも高くなる。つまり、フォトダイオード145は、逆バイアスの状態となる。このような逆バイアスの状態において、光源からの光をフォトダイオード145が受光すると、フォトダイオード145のカソード側からアノード側へと電流が流れ始める。その結果、図5に示すとおり、ノードNの電位(つまり、電圧VINT)は時間の経過とともに低くなる。
なお、このように電圧VINTが低下し続けるため、TFT147のゲートはターンオンした状態にはならない。それゆえ、センサ信号線SSjからの出力はない。このため、電圧VPIXは変化しない。
次に、読出期間について説明する。センシング期間に続く読出期間においては、リセット信号線RSiに印加する電圧をローレベル(電圧VSSR)のままとする。一方、読出信号線RWiに印加する電圧は、ローレベル(電圧VSSR)からハイレベル(電圧VDD)へと瞬間的に切り換わる。ここで、電圧VDDは、電圧VDDRよりも高い値である。
このように、読出信号線RWiにハイレベルの電圧を瞬間的に印加することにより、図5に示すとおり、コンデンサ146を介してノードNの電位が引き上げられる。なお、ノードNの電位の上昇幅は、読出信号線RWiに印加する電圧に応じた値となる。ここで、ノードNの電位(つまり、電圧VINT)が、TFT147のゲートをターンオンさせる閾値以上まで引き上げられるため、TFT147のゲートがターンオンする。
この際、TFT147のドレイン側に接続されたセンサ信号線SDj(図3参照)に予め一定電圧を印加しておけば、TFT147のソース側に接続されたセンサ信号線SSjからは、図5のVPIXのグラフに示すとおり、ノードNの電位に応じた電圧が出力される。
ここで、フォトダイオード145が受光する光の量(以下、受光量と称する)が少ないと、図5のVINTのグラフに示す直線の傾きが緩やかになる。その結果、電圧VPIXは、受光量が多い場合に比べて高くなる。このように、光センサ回路144は、フォトダイオード145の受光量に応じて、センサ信号線SSjに出力する電圧の値を変化させる。
ところで、上記においては、m×n個存在する光センサ回路のうち、1つの光センサ回路144に着目して、その動作を説明した。以下では、液晶パネル140における各光センサ回路の動作について説明する。
まず、光センサ駆動回路133は、n個のセンサ信号線(SD1〜SDn)の全てに対して、予め定められた電圧を印加する。次に、光センサ駆動回路133は、リセット信号線RS1に対して、通常よりもハイレベルな電圧VDDRを印加する。なお、他のリセット信号線(RS2〜RSm)および読出信号線(RW1〜RWm)については、ローレベルの電圧を印加したままの状態とする。これにより、図3における1行目のn個の光センサ回路が、上述したリセット期間に入る。その後、1行目のn個の光センサ回路は、センシング期間に入る。さらに、その後、1行目のn個の光センサ回路は、読出期間に入る。
なお、n個のセンサ信号線(SD1〜SDn)の全てに対して予め定められた電圧を印加するタイミングは、上記のタイミングに限定されず、少なくとも読出期間前に印加されるタイミングであればよい。
1行目のn個の光センサ回路の読出期間が終了すると、光センサ駆動回路133は、リセット信号線RS2に対して、通常よりもハイレベルな電圧VDDRを印加する。つまり、2行目のn個の光センサ回路のリセット期間に入る。リセット期間が終了すると、2行目のn個の光センサ回路は、センシング期間に入り、その後は、読出期間に入る。
以降は、上述した処理が、順に、3行目のn個の光センサ回路、4行目のn個の光センサ回路、…m行目のn個の光センサ回路に対して行われる。その結果、センサ信号線(SS1〜SSn)からは、1行目のセンシング結果、2行目のセンシング結果、…、m行目のセンシング結果が、この順に出力される。
なお、表示装置102においては、上記のように行毎にセンシングが行われるとともに、行毎にセンシング結果が液晶パネル140から出力される。このため、以下では、液晶パネル140から出力される1行目からm行目までのm行分の電圧に関するデータに対して、信号処理部183が上述したデータ処理を行った後のデータを、「スキャンデータ」と称する。つまり、スキャンデータとは、スキャン対象物(たとえば、ユーザの指)をスキャンすることにより得られる画像データを指す。また、当該スキャンデータに基づいて表示された画像を、「スキャン画像」と称する。さらに、以下では、センシングを「スキャン」と称する。
また、上記においては、m×n個の光センサ回路全てを用いてスキャンを行う構成を例に挙げたが、これに限定されるものではない。予め選択された光センサ回路を用いて、液晶パネル140の表面の一部の領域に関してスキャンを行うことも構成としてもよい。
以下では、電子機器100が、両構成のいずれの構成をも採れるものとする。さらに、当該構成間の切り換えは、操作キー177を介した入力などに基づく本体装置101から送られてくるコマンドにより行われるものとする。なお、液晶パネル140の表面の一部の領域に関してスキャンを行う場合、画像処理エンジン180が、スキャン対象領域の設定を行う。なお、当該領域の設定を、操作キー177を介してユーザが指定できる構成としてもよい。
このように、液晶パネル140の表面の一部の領域に関してスキャンを行う場合には、画像の表示に関し、以下のような利用の態様がある。1つ目は、上記一部の領域(以下、スキャン領域と称する)以外の表面の領域において、画像を表示させる態様である。2つ目は、上記スキャン領域以外の表面の領域において、画像を表示させない態様である。いずれの態様とするかは、本体装置101から画像処理エンジン180に送られてくるコマンドに基づく。
図6は、液晶パネル140とバックライト179との断面図であって、スキャンの際にフォトダイオード145がバックライト179からの光を受光する構成を示した図である。
図6を参照して、ユーザの指900が液晶パネル140の表面に接触している場合、バックライト179から発せられた光の一部は、当該接触している領域ではユーザの指900(略平面)にて反射される。そして、フォトダイオード145は、当該反射された光を受光する。
また、指900が接触していない領域においても、バックライト179から発せられた光の一部は、ユーザの指900にて反射される。この場合においても、フォトダイオード145は、当該反射された光を受光する。ただし、当該領域においては液晶パネル140の表面に指900が接触していないため、指900が接触している領域よりも、フォトダイオード145の受光量は少なくなる。なお、バックライト179から発せられた光のうち、ユーザの指900に到達しない光のほとんどについては、フォトダイオード145は受光できない。
ここで、バックライト179を、少なくともセンシング期間においては点灯させておくことにより、光センサ回路144は、ユーザの指900により反射した光の光量に応じた電圧をセンサ信号線SSjから出力することができる。このように、バックライト179の点灯と消灯とを制御することにより、液晶パネル140では、指900の接触位置、指900の接触している範囲(指900の押圧力によって定まる)、液晶パネル140の表面に対する指900の方向などに応じて、センサ信号線(SS1からSSn)から出力される電圧が変化することになる。
以上により、表示装置102は、指900によって光が反射されることにより得られる像(以下、反射像とも称する)をスキャンすることができる。
なお、指900以外のスキャン対象物としては、スタイラスなどが挙げられる。
ところで、本実施の形態においては、電子機器100の表示装置として液晶パネルを例に挙げて説明しているが、液晶パネルの代わりに有機EL(Electro−Luminescence)パネルなどの他のパネルを用いてもよい。
<データについて>
次に、センシングコマンドについて説明する。なお、表示装置102においては、画像処理エンジン180は、センシングコマンドの内容を解析し、当該解析の結果に従ったデータ(つまり、応答データ)を本体装置101に送り返す。
図7は、センシングコマンドの概略構成を示した図である。図7を参照して、センシングコマンドは、ヘッダのデータ領域DA01と、タイミングを示すデータ領域DA02と、データ種別を示すデータ領域DA03と、読取方式を示すデータ領域DA04と、画像階調を示すデータ領域DA05と、解像度を示すデータ領域DA06と、予備のデータ領域DA07とを含む。
図8は、センシングコマンドの各領域におけるデータの値と、当該値が示す意味内容とを示した図である。
図8を参照して、タイミングを示すデータ領域に「00」が設定されたセンシングコマンドは、画像処理エンジン180に対して、そのときのスキャンデータの送信を要求する。つまり、センシングコマンドは、当該センシングコマンドを画像処理エンジン180が受信した後に、光センサ回路144を用いてスキャンすることにより得られるスキャンデータの送信を要求する。また、タイミングを示すデータ領域に「01」が設定されたセンシングコマンドは、スキャン結果に変化があったときのスキャンデータの送信を要求する。さらに、タイミングを示すデータ領域に「10」が設定されたセンシングコマンドは、一定周期毎にスキャンデータの送信を要求する。
データ種別を示すデータ領域に「001」が設定されたセンシングコマンドは、部分画像における中心座標の座標値の送信を要求する。また、データ種別を示すデータ領域に「010」が設定されたセンシングコマンドは、スキャン結果が変化した部分画像のみの送信を要求する。なお、スキャン結果が変化したとは、前回のスキャン結果と今回のスキャン結果が異なっていることを指す。さらに、データ種別を示すデータ領域に「100」が設定されたセンシングコマンドは、全体画像の送信を要求する。
ここで、「全体画像」とは、m×n個の光センサ回路を用いてスキャンした際に、各光センサ回路から出力される電圧に基づいて、画像処理エンジン180により生成された画像である。また、「部分画像」とは、全体画像の一部である。部分画像に関して、スキャン結果が変化した部分画像のみの送信を要求する構成とした理由については後述する。
なお、上記座標値と上記部分画像または上記全体画像とを同時に要求する構成としてもよい。また、液晶パネル140の表面の一部の領域に関してスキャンを行う構成の場合には、上記全体画像はスキャンが行われる領域に対応した画像となる。
読取方式を示すデータ領域に「00」が設定されたセンシングコマンドは、バックライト179を点灯してスキャンすることを要求する。また、読取方式を示すデータ領域に「01」が設定されたセンシングコマンドは、バックライト179を消灯してスキャンすることを要求する。なお、バックライト179を消灯してスキャンする構成については後述する(図12)。さらに、読取方式を示すデータ領域に「10」が設定されたセンシングコマンドは、反射と透過とを併用してスキャンすることを要求する。なお、反射と透過とを併用するとは、バックライト179を点灯してスキャンする方式と、バックライトを消灯してスキャンする方式とを切り換えて、スキャン対象物のスキャンを行うことを指す。
画像階調を示すデータ領域に「00」が設定されたセンシングコマンドは、白黒の2値の画像データを要求する。また、画像階調を示すデータ領域に「01」が設定されたセンシングコマンドは、多階調の画像データを要求する。さらに、画像階調を示すデータ領域に「10」が設定されたセンシングコマンドは、RGBのカラーの画像データを要求する。
解像度を示すデータ領域に「0」が設定されたセンシングコマンドは、解像度の高い画像データを要求する。また、解像度を示すデータ領域に「1」が設定されたセンシングコマンドは、解像度の低い画像データを要求する。
また、センシングコマンドには、図7および図8に示したデータ以外に、スキャンを行う領域(光センサ回路144を駆動する画素の領域)の指定、スキャンを行うタイミング、バックライト179の点灯のタイミングなどが記述されている。
図9は、応答データの概略構成を示した図である。応答データは、センシングコマンドの内容に応じたデータであって、表示装置102の画像処理エンジン180が本体装置101に対して送信するデータである。
図9を参照して、応答データは、ヘッダのデータ領域DA11と、座標を示すデータ領域DA12と、時刻を示すデータ領域DA13と、画像を示すデータ領域DA14とを含む。ここで、座標を示すデータ領域DA12には、部分画像の中心座標の値が書き込まれる。また、時刻を示すデータ領域には、画像処理エンジン180のタイマ182から取得した時刻情報が書き込まれる。さらに、画像を示すデータ領域には、画像処理エンジン180により処理がされた後の画像データ(つまり、スキャンデータ)が書き込まれる。
図10は、指900をスキャンすることにより得られた画像(つまり、スキャン画像)を示した図である。図10を参照して、太実線で囲まれた領域W1の画像が全体画像であり、破線で囲まれた領域P1の画像が部分画像である。また、太線で示した十字の中心点C1が、中心座標となる。
本実施の形態では、矩形の領域であって、かつセンサ信号線SSjからの出力電圧が予め定められた値以上となった光センサ回路が備えられた画素(つまり、予め定められた階調または予め定められた輝度以上の画素)全てを含む領域を、部分画像の領域としている。
また、中心座標は、部分画像の領域における各画素の階調を考慮して決定される座標である。具体的には、中心座標は、部分画像内の各画素に関し、画素の階調と、当該画素と上記矩形の中心点(つまり図心)との距離とに基づき、重み付け処理を行うことにより決定される。つまり、中心座標は、部分画像の図心とは必ずしも一致しない。
ただし、必ずしも中心座標の位置は上記に限定されるものではなく、中心座標を上記図心の座標あるいは図心の近傍の座標としてもよい。
センシングコマンドのデータ種別を示すデータ領域に「001」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に上記中心座標の値を書き込む。この場合、画像処理エンジン180は、画像を示すデータ領域DA14には画像データを書き込まない。画像処理エンジン180は、上記中心座標の値の書き込みを行なった後、当該中心座標の値を含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「001」が設定されている場合には、センシングコマンドは、画像データの出力を要求せずに、中心座標の値の出力を要求する。
また、センシングコマンドのデータ種別を示すデータ領域に「010」が設定されている場合には、画像処理エンジン180は、画像を示すデータ領域DA14に、スキャン結果が変化した部分画像の画像データを書き込む。この場合、画像処理エンジン180は、中心座標の値を座標を示すデータ領域DA12に書き込まない。画像処理エンジン180は、上記スキャン結果が変化した部分画像の画像データの書き込みを行なった後、当該部分画像の画像データを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「010」が設定されている場合には、センシングコマンドは、中心座標の値の出力を要求せずに、スキャン結果が変化した部分画像の画像データの出力を要求する。
なお、上記のように、スキャン結果が変化した部分画像のみの送信を要求する構成とした理由は、スキャンデータのうち部分画像の領域のスキャンデータが、当該領域以外のスキャンデータよりも重要度の高いデータであること、および、指900などのスキャン対象物との接触状態により、スキャンデータのうち部分画像の領域に相当する領域のスキャンデータが変化しやすいことによる。
また、センシングコマンドのデータ種別を示すデータ領域に「011」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に中心座標の値を書き込むとともに、画像を示すデータ領域DA14にスキャン結果が変化した部分画像の画像データを書き込む。その後、画像処理エンジン180は、当該中心座標の値と当該部分画像の画像データとを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「011」が設定されている場合には、センシングコマンドは、中心座標の値の出力と、スキャン結果が変化した部分画像の画像データの出力とを要求する。
また、センシングコマンドのデータ種別を示すデータ領域に「100」が設定されている場合には、画像処理エンジン180は、図9に示した応答データの画像を示すデータ領域DA14に、全体画像の画像データを書き込む。この場合、画像処理エンジン180は、中心座標の値を座標を示すデータ領域DA12に書き込まない。画像処理エンジン180は、上記全体画像の画像データの書き込みを行なった後、当該全体画像の画像データを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「100」が設定されている場合には、センシングコマンドは、中心座標の値の出力を要求せずに、全体画像の画像データの出力を要求する。
また、センシングコマンドのデータ種別を示すデータ領域に「101」が設定されている場合には、画像処理エンジン180は、座標を示すデータ領域DA12に中心座標の値を書き込むとともに、画像を示すデータ領域DA14に全体画像の画像データを書き込む。その後、画像処理エンジン180は、当該中心座標の値と当該全体画像の画像データとを含む応答データを本体装置101に送る。このように、データ種別を示すデータ領域に「101」が設定されている場合には、センシングコマンドは、中心座標の値の出力と、全体画像の画像データの出力とを要求する。
<変形例について>
ところで、液晶パネル140の構成は、図3に示した構成に限定されるものではない。以下では、図3とは異なる態様の液晶パネルについて説明する。
図11は、上記異なる態様である光センサ内蔵液晶パネル140Aの回路図である。図11を参照して、光センサ内蔵液晶パネル140A(以下、液晶パネル140Aと称する)は、1画素内に3つの光センサ回路(144r,144g,144b)を含んでいる。このように液晶パネル140Aが1画素内に3つの光センサ回路(144r,144g,144b)を備える点において、液晶パネル140Aは、1画素内に1つの光センサ回路を備える液晶パネル140と異なる。なお、光センサ回路144の構成と、3つの各光センサ回路(144r,144g,144b)との構成は同じである。
また、1画素内における3つのフォトダイオード(145r,145g,145b)は、それぞれ、カラーフィルタ153r、カラーフィルタ153g、カラーフィルタ153bに対向する位置に配されている。それゆえ、フォトダイオード145rは赤色の光を受光し、フォトダイオード145gは緑色の光を受光し、フォトダイオード145bは青色の光を受光する。
また、液晶パネル140は1画素内において1つの光センサ回路144しか含まないため、1画素内に配設されるTFT147用のデータ信号線は、センサ信号線SSjとセンサ信号線SDjとの2本であった。しかしながら、液晶パネル140Aは1画素内において3つの光センサ回路(144r,144g,144b)を含むため、1画素内に配設されるTFT(147r,147g,147b)用のデータ信号線は6本となる。
具体的には、カラーフィルタ153rに対向する位置に配されたフォトダイオード145rのカソードに接続されたTFT147rに対応して、センサ信号線SSRjとセンサ信号線SDRjとが配設される。また、カラーフィルタ153gに対向する位置に配されたフォトダイオード145gのカソードに接続されたTFT147gに対応して、センサ信号線SSGjとセンサ信号線SDGjとが配設される。さらに、カラーフィルタ153bに対向する位置に配されたフォトダイオード145bのカソードに接続されたTFT147bに対応して、センサ信号線SSBjとセンサ信号線SDBjとが配設される。
このような液晶パネル140Aにおいては、バックライト179から照射された白色光は、3つのカラーフィルタ(153r,153g,153b)を透過し、液晶パネル140Aの表面では、赤、緑、および青とが混ざり白色光となる。ここで、スキャン対象物により白色光が反射されると、スキャン対象物の表面の色素に白色光の一部が吸収され、また一部が反射される。そして、反射された光は、再度、3つのカラーフィルタ(153r,153g,153b)を透過する。
この際、カラーフィルタ153rは赤色の波長の光を透過し、フォトダイオード145rは、当該赤色の波長の光を受光する。また、カラーフィルタ153gは緑色の波長の光を透過し、フォトダイオード145gは、当該緑色の波長の光を受光する。また、カラーフィルタ153bは青色の波長の光を透過し、フォトダイオード145bは、当該青色の波長の光を受光する。つまり、スキャン対象物によって反射された光は3つのカラーフィルタ(153r,153g,153b)によって3原色(R,G,B)に色分解され、各フォトダイオード(145r,145g,145b)は、それぞれに対応した色の光を受光する。
スキャン対象物の表面の色素に白色光の一部が吸収されると、各フォトダイオード(145r,145g,145b)の受光量が各フォトダイオード(145r,145g,145b)で異なることになる。このため、センサ信号線SSRjとセンサ信号線SSGjとセンサ信号線SSBjとの出力電圧は互いに異なる。
それゆえ、各出力電圧に応じて、Rの階調とGの階調とBの階調とを画像処理エンジン180が決定することにより、画像処理エンジン180はRGBのカラー画像を本体装置101へ送ることができる。
以上述べたように、電子機器100が液晶パネル140Aを備えた構成とすることにより、スキャン対象物をカラーでスキャンできることになる。
次に、図6を参照して説明したスキャンの方法(つまり、反射像をスキャンする方法)とは異なるスキャンの方法について、図12を参照して説明する。
図12は、スキャンの際にフォトダイオードが外光を受光する構成を示した断面図である。図12を参照して、外光の一部は、指900によって遮られる。それゆえ、指900と接触している液晶パネル140の表面領域の下部に配されたフォトダイオードは、ほとんど外光を受光できない。また、指900の影が形成された表面領域の下部に配されたフォトダイオードは、ある程度の外光を受光できるものの、影が形成されていない表面領域に比べると外光の受光量が少ない。
ここで、バックライト179を、少なくともセンシング期間においては消灯させておくことにより、光センサ回路144は、液晶パネル140の表面に対する指900の位置に応じた電圧をセンサ信号線SSjから出力することができる。このように、バックライト179を点灯と消灯とを制御することにより、液晶パネル140では、指900の接触位置、指900の接触している範囲(指900の押圧力によって定まる)、液晶パネル140の表面に対する指900の方向などに応じて、センサ信号線(SS1からSSn)から出力される電圧が変化することになる。
以上により、表示装置102は、指900によって外光が遮られることにより得られる像(以下、影像とも称する)をスキャンすることができる。
さらに、表示装置102を、バックライト179を点灯させてスキャンを行った後に、バックライト179を消灯させて再度スキャンを行う構成としてもよい。あるいは、表示装置102を、バックライト179を消灯させてスキャンを行った後に、バックライト179を点灯させて再度スキャンを行う構成としてもよい。
この場合には、2つのスキャン方式を併用することになるため、2つのスキャンデータを得ることができる。それゆえ、一方のスキャン方式のみを用いてスキャンする場合に比べて、精度の高い結果を得ることができる。
<機能的構成>
図13は、電子機器100の機能的構成をブロック図形式で示す図である。図13を参照して、電子機器100の機能的構成を説明する。
電子機器100は、表示部310と、制御部320と、接触判定部330と、中心算出部340と、記憶部350とを備える。
表示部310は、電子機器100内部の情報を外部に表示する。表示部310は、液晶パネル140と、バックライト179とを含む。液晶パネル140およびバックライト179については、すでに説明しているので、ここでは、これらの説明を繰り返さない。なお、液晶パネル140は、外部物体の接触を検出するセンサ付きのパネルの一例である。液晶パネル140のかわりに、外部物体の接触を検出するセンサと表示パネルとを組み合わせたユニットを用いることもできる。ただし、液晶パネル140は、複数の接触点を容易に検出可能であり、接触領域の算出に好適である。そのため、液晶パネル140を、センサ付きパネルとして用いることが好ましい。
接触判定部330は、液晶パネル140に含まれる各光センサ回路の出力する光センサ信号に基づいて、外部物体が接触した液晶パネル140の接触領域を求める。具体的には、例えば、接触判定部330は、光センサ信号が所定の閾値以下の領域を接触領域と判定する。
中心算出部340は、接触判定部330が求めた接触領域の中心座標を計算する。中心算出部340は、例えば、接触領域の縦、横の最小値と最大値との中点を、それぞれ、縦、横の中心座標とする。あるいは、中心算出部340は、接触領域における各画素の階調に応じた重み付けを利用して、中心座標を求める。
記憶部350は、電子機器100の動作に必要な各種のデータを格納する。記憶部350は、文字データ352と、表示データ354と、拡大表示データ356とを格納する。ただし、記憶部350が格納するデータは、これらに限られるわけではない。
文字データ352は、複数の文字からなる文字列に関するデータである。また、文字データ352は、文字列を、各々が意味的なまとまりを持つ複数の文字群に区切る区切りデータを含むものとする。文字群としては、単語、文節、文などがある。区切りデータは、予め定められたものであってもよいし、要素解析などにより電子機器100が文字列に基づいて作成したものであってもよい。例えば、英文の場合は、スペースに基づいて、単語の区切りを判断できる。
表示データ354は、表示制御部322が表示部310に表示する画像の基となる。本実施の形態では、表示データ354は、複数の文字と、各文字の表示画面における表示位置とを対応付けるデータを含む。
拡大表示データ356は、表示拡大部326が表示部310に表示する拡大画像の基となる。拡大表示データ356の詳細については、後述する。
制御部320は、電子機器100の各部の動作を制御する。図2に示す構成では、CPU110、画像処理エンジン180、ドライバ130が、制御部320の主要な機能を実現する。制御部320は、表示制御部322と、領域選択部324と、表示拡大部326とを含む。
表示制御部322は、文字データ352に基づいて、表示データ354を作成し、作成した表示データ354を記憶部350に格納する。ただし、表示データ354の基となるデータは、文字データ352に限られるわけではない。表示制御部322は、ビットマップなどの図データに基づいて、表示データ354を作成してもよい。この場合、表示制御部322は、図の配置を表わす表示データ354を作成する。あるいは、表示制御部322は、図データと文字データ352との組み合わせに基づいて表示データを作成してもよい。ただし、ここでは、電子機器100は、表示部310に、文字のみを表示し、図は表示しないものとして説明を進める。
また、表示制御部322は、表示データ354に基づいて、表示データ354に対応する画像を表示部310に表示させる。具体的には、表示制御部322は、光センサ内蔵液晶パネル140の画素回路141、および、バックライト179の動作を制御する。
表示制御部322は、記憶部350に格納された表示データ354に基づいて、表示部310に画像を表示させる。
領域選択部324は、表示画面内の所定の領域を選択する。領域選択部324が選択する領域を、以下では、拡大領域と呼ぶ。あとの説明で明らかになるように、電子機器100は、この領域内の画像についての拡大画像を表示するからである。
より詳しくは、領域選択部324は、接触領域の中心領域を含む領域を拡大領域に決定する。中心領域を含む領域を拡大領域に設定するのは、ユーザが選択しようとした領域は、中心領域の近辺であると考えられ、この領域を拡大するのがユーザの意図に合致する可能性が高いからである。
領域選択部324は、大きく分けて、次の2つの方法のいずれかにより、拡大領域を決定する。第1の方法では、領域選択部324は、接触判定部330が求めた接触領域を拡大領域に決定する。第2の方法では、領域選択部324は、中心算出部340の求めた中心座標を中心とする所定の領域を拡大領域に決定する。第1の方法は、第2の方法に比べ、電子機器100の処理が少なくて済む。一方、第2の方法は、第1の方法に比べ、柔軟に拡大領域を決定できる。
表示拡大部326は、表示データ354および領域選択部324の求めた拡大領域に基づいて、拡大領域に含まれる表示データ354の拡大表示データ356を作成する。また、表示拡大部326は、拡大表示データ356に基づいて、表示データ354を更新する。
<画面遷移>
ここからは、第1の実施の形態に係る電子機器100が、液晶パネル140に表示する画面および画面の遷移について、説明する。
図14は、表示制御部322が、液晶パネル140に表示する基本画面400の一例を示す図である。表示制御部322は、アプリケーションの起動後、液晶パネル140への入力指示を受け付けるまで、基本画面400を表示する。なお、“基本”との語は、後述する拡大画面500との対比のために用いたものである。
ユーザが、指900で、基本画面400をタッチすると、接触判定部330が、接触領域を求める。ここでは、接触判定部330が求める接触領域は、図14に示す領域410であるとする。
領域選択部324は、接触領域に基づいて、拡大領域を決定する。ここでは、領域選択部324は、接触領域の中心座標を中心とし、接触領域を含む大きさの矩形領域を拡大領域として決定するものとする。ただし、拡大領域の決定方法は、これに限られるわけではない。既に述べたように、領域選択部324は、接触領域そのものを拡大領域に決定してもよい。
領域選択部324が拡大領域を決定した後、表示拡大部326は、拡大領域内の表示データ354に対応する拡大表示データ356を作成する。拡大表示データ356の作成の際、表示拡大部326に含まれる形態変更部327は、中心領域の表示形態を、周辺領域の表示形態と異なるように、拡大表示データ356を作成する。
ここで、中心領域とは、接触領域の中心座標を含む所定の区画である。区画としては、画面内での選択処理の単位区画を用いることができる。本実施の形態では、1文字を表示している領域が、区画となる。周辺領域とは、拡大領域のうち、中心領域を除く領域である。
また、表示拡大部326は、作成した拡大表示データ356を用いて、表示データ354を更新する。本実施の形態においては、表示拡大部326は、更新処理の開始時に記憶部350に格納されている表示データ354に拡大表示データ356を重ね合わせたデータを新たな表示データ354とする。
なお、表示拡大部326は、拡大領域に複数の区画(ここでは文字)が含まれるときのみ、拡大表示データ356を作成するものとする。つまり、表示拡大部326に含まれるカウント部328が、拡大領域内の区画の数をカウントする。カウント部328がカウントした区画数が2以上の場合、表示拡大部326は、拡大表示データ356を作成し、拡大表示データ356に基づいて表示データ3534を更新する。カウント部328がカウントした区画数が1以下の場合、表示拡大部326は、拡大表示データ356を作成しない。
このように表示拡大部326が拡大領域内の区画数に基づいて、拡大表示データ356を作成するかどうか判断することで、電子機器100は、ユーザにとって必要な場合のみ、拡大画像を表示するようにできる。拡大領域が1文字しか含まない場合は、文字の大きさが十分大きく、ユーザは意図する文字を選択できている可能性が高いためである。ただし、表示される文字の大きさが常に小さいなどの特別な場合は、表示拡大部326は、拡大領域に含まれる区画数を常に拡大表示データ356および表示データ354の更新を行なってもよい。
表示拡大部326が表示データ354を更新したことに応じて、表示制御部322は、液晶パネル140に、拡大画面500を含む画面を表示する。拡大画面500を含む画面の一例を図15に示す。図15は、拡大画面500を含む画面の一例である。図15に示すように、本実施の形態では、拡大画面500は、基本画面400に重畳して、ポップアップ表示される。拡大画面500では、中心領域の文字(ここでは“s”)が円510で囲まれることで、周辺領域と異なる形態で表示されている。
表示拡大部326は、画像の拡大率、すなわち、基本画面400の文字の大きさに対する拡大画面500の文字の大きさの比を、接触領域および基本画面400の文字の大きさに基づいて、拡大画面500の文字の大きさが、接触領域よりも大きくなるように定めるものとする。このようにすることで、ユーザは、拡大画面500内の1つの文字を確実に選択できるようになる。ただし、ユーザが1つの文字を選択するのに十分な領域の大きさが予め分かっている場合は、表示拡大部326は、拡大画面500の文字の大きさがその領域より大きくなるように、拡大表示データ356を作成してもよい。
また、本実施の形態では、領域選択部324が決定する拡大領域が変化すると、表示拡大部326は、拡大表示データ356を変更するものとする。したがって、拡大画面500は、指900が液晶パネル140に接触している間、液晶パネル140に表示される。指900が同じ位置にある間、表示制御部322は、液晶パネル140に同じ拡大画面500を表示させ続ける。また、表示制御部322は、指900の位置が変わると、変わった後の指900の位置に応じた拡大画面500を液晶パネル140に表示させる。このようにすることで、ユーザは、拡大画面500の表示を自らの操作でコントロールすることができる。
ただし、表示拡大部326は、拡大画面500が、表示開始から所定の時間、液晶パネル140に表示されるように、拡大表示データ356の作成、および、表示データ354の更新を行なってもよい。つまり、表示拡大部326は、拡大表示データ356を作成してから所定の時間は、表示データ354を更新しない。このようにすれば、ユーザは、液晶パネル140をタッチし続けることなく、拡大画面500を見ることができる。
あるいは、表示拡大部326は、拡大画面500が液晶パネル140に表示されてから、所定の指示(例えば、液晶パネル140へのタッチや、ボタンの押下など)があるまで、拡大画面500が液晶パネル140に表示されるように、拡大表示データ356の作成、および、表示データ354の更新を行なってもよい。
<選択処理>
制御部320は、円510で囲まれた中心領域を、ユーザが選択している領域として、仮に決定する。したがって、中心領域を、以下、仮選択領域とも呼ぶ。ただし、最初のユーザのタッチにより決定される仮選択領域は、ユーザが選択しようとした領域とは異なる可能性がある。つまり、細かい文字が並んでいる文字列からユーザが1文字を選択する場合には、液晶パネル140に選択指示を与える外部物体(ここでは、ユーザの指900)の大きさにより、制御部320は、意図する文字の周辺にある文字を仮選択してしまうことがある。そこで、制御部320は、以下の手順によって、領域の選択の確定、あるいは、仮選択領域の変更を行なう。
まず、領域の選択の確定について説明する。本実施の形態では、制御部320は、仮選択領域への選択指示があった場合に、仮選択領域をユーザが選択した領域として確定する。この処理を、以下、「本選択」ともよぶ。
領域を確定するためにユーザが行なう動作について図16を参照して説明する。図16は、図15で示す中心領域を本選択する際のユーザの動作を説明するための図である。ユーザは、液晶パネル140に指900を置きつつ、他の指900#で、円510で特定される仮選択領域にタッチする。この動作に応じて、制御部320は、中心領域を本選択する。つまり、制御部320は、文字“s”を本選択する。
なお、制御部320は、他の指示により本選択を行なってもよい。例えば、制御部320は、拡大画面500の表示部分を除く液晶パネル140へのタッチに応じて、仮選択領域を本選択してもよい。あるいは、制御部320は、拡大画面の表示から一定時間が経過した時点で、仮選択領域を本選択してもよい。この場合、ユーザは、本選択にあたって、他の指を使うなどの特別な操作を行なう必要がない。
続いて、仮選択領域の変更について説明する。制御部320は、周辺領域内の区画への選択指示を受け付けると、選択指示のあった区画を、新たな仮選択領域とする。
仮選択領域を変更するためにユーザが行なう動作について図17を参照して説明する。図17は、図16で示す仮選択領域を変更する際のユーザの動作を説明するための図である。ユーザは、液晶パネル140に指900を置きつつ、他の指900#で、周辺領域内の文字(ここでは、“e”の文字)をタッチする。この動作に応じて、制御部320は、選択された文字を新たな仮選択領域とする。表示拡大部326は、新たな仮選択領域の表示形態を変更する。ここでは、表示拡大部326は、新たな仮選択領域である“e”の文字が円510で囲まれるような拡大表示データ356を作成する。また、表示拡大部326は、古い仮選択領域である“s”の文字の表示形態を通常の表示形態に戻す。なお、表示拡大部326は、新たな仮選択領域が、拡大画面500の中心になるように、拡大表示データ356を作成してもよい。
ユーザは、次のようにして所望の領域を選択することができる。まず、ユーザは、選択したい領域が仮選択領域となるまで仮選択領域の変更を繰り返す。ただし、最初の仮選択領域が、選択したい領域であれば、この処理は不要である。このあと、ユーザは、先に述べたような、領域の選択の確定処理を行なう。
制御部320は、本選択された領域に応じた処理を実行する。本選択された領域に応じた処理としては、例えば、辞書検索がある。辞書検索を実行する場合、制御部320は、領域が本選択されたことに応じて辞書アプリケーションを起動し、本選択された領域内の文字あるいは本選択された領域内の文字を含む単語の意味を辞書アプリケーションにて検索する。
具体的に、これまで図示してきたように、文字データ352が英文データである場合の辞書検索について説明する。制御部320は、文字データ352に含まれる区切りデータに基づいて、あるいは、文字データ352中のスペースに基づいて、選択された文字を含む単語を抽出する。そして、制御部320は、辞書アプリケーションを起動し、抽出された単語の意味を辞書アプリケーションで検索する。
本選択された1文字のみによる辞書検索は、英文よりも他の言語で有用になる場合がある。例えば、制御部320が、文字データ352が日本語文で漢字1文字が選択された場合に、漢和辞典アプリケーションを起動するといった場合である。
このように、本実施の形態に係る電子機器100は、基本画面400上のユーザがタッチした領域に対応する拡大画面500を表示する。そして、電子機器100は、拡大画面500の表示時の外部からの指示に基づいて、拡大画面500の中心領域の選択処理を行なう。したがって、本実施の形態に係る電子機器100は、ユーザによる所望の文字の選択を容易にする。
(表示画面の変形例)
以上、図14〜図17を用いて、液晶パネル140に表示される拡大画面500について説明してきた。しかしながら、拡大画面500の表示形態は、以上で説明したものに限られるわけではない。以下に、いくつかの変形例を示す。
第1の変形例では、表示拡大部326は、液晶パネル140の全面に拡大画面500が表示されるように、拡大表示データ356を作成し、表示データ354を更新する。つまり、表示拡大部326は、拡大領域を液晶パネル140の全面に拡大する拡大表示データ356を作成する。ここで、液晶パネル140の全面とは、液晶パネル140の大半の領域のことを指す。拡大表示データ356は、必ずしも、液晶パネル140の全ての領域をカバーしなくてもよい。
本変形例に係る拡大画面500の一例を図18に示す。図18には、接触判定部330が求めた接触領域が図14に示す領域410である場合の、本変形例に係る拡大画面500を示している。拡大画面500では、接触領域に対応して、“s”の文字が円510で囲まれている。
ここでは、表示拡大部326は、拡大画面500の文字を、予め定められた大きさ(ただし、ユーザが仮選択領域の変更および本選択を行なうのに十分な大きさ)に拡大するものとする。
また、領域選択部324は、表示拡大部326が決定した拡大率および液晶パネル140の表示エリアに基づいて、拡大領域を決定するものとする。領域選択部324は、接触領域の中心を含み、かつ、表示拡大部326が決定した拡大率で液晶パネル140の全面に拡大される領域を拡大領域に決定する。
このように拡大画面500を表示することで、電子機器100は、ポップアップ表示に比べ、拡大画面500を広く表示できる。したがって、ユーザが仮選択領域の変更および本選択を行なうのに十分な拡大率の拡大画面500を表示できる。
第2の変形例に係る電子機器100は、液晶パネル140の他にもう一つの光センサ内蔵液晶パネル140#(以下、単に液晶パネル140#ともよぶ)を備え、液晶パネル140#に拡大画面500を表示する。第2の変形例に係る拡大画面500の例を図19に示す。図19に示すように、拡大画面500は、液晶パネル140#に表示される。拡大画面500では、接触領域に対応して、“s”の文字が円510で囲まれている。このように他のディスプレイに拡大画面500が表示されることで、ユーザは、基本画面400と拡大画面500とを同時に見ることができる。
なお、ここでは、電子機器100が、液晶パネル140#の一部に拡大画面500を表示する例を示しているが、電子機器100は、第1の変形例のように液晶パネル140#の全面に拡大画面500を表示してもよい。この場合、ユーザは、第1の変形例と同様のメリットを受けることができる。
また、液晶パネル140#は、外部からの指示を受付可能なセンサ一体型のディスプレイであればよい。光センサ内蔵の液晶パネル140#のかわりに、タッチパネルと組み合わせたディスプレイを用いても構わない。
以上、拡大画面の表示領域の変形例について説明した。ここからは、拡大画面の表示形態の変形例について説明する。中心領域の表示形態と周辺領域の表示形態とを区別する方法は、これまで示したような中心領域の文字を円で囲む方法に限られるわけではない。形態変更部327は、ユーザが、仮選択されている中心領域を認識できるように、表示形態を定めればよい。
例えば、形態変更部327は、中心領域の文字が、周囲の領域と異なる色で表示されるように拡大表示データ356を定めてもよい。あるいは、形態変更部327は、中心領域の文字の表示形態を太字や網掛けに設定してもよい。あるいは、形態変更部327は、中心領域の文字の点滅表示を指定する拡大表示データ356を作成してもよい。
あるいは、形態変更部327は、中心領域の文字の大きさが、周辺領域の文字の大きさと異なるように拡大表示データ356を作成してもよい。特に、制御部320が、拡大画面500の表示から所定の時間経過後に本選択を行なう場合、形態変更部327は、周辺領域の文字の大きさを大きくすることが好ましい。この場合に、ユーザが行なう操作は、仮選択処理の変更のための指示、すなわち、周辺領域の選択のみだからである。
<処理の流れ>
電子機器100が画像の表示にあたって行なう処理の流れについて図20および図21を参照して説明する。図20は、基本画面の表示開始から拡大画面を含む画面の表示までに電子機器100が行なう処理の流れをフローチャート形式で示す図である。図21は、拡大画面を含む画面の表示後に第1の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。
図20を参照して、画面表示処理が開始すると、制御部320に含まれる表示制御部322は、ステップS101において、液晶パネル140に、表示データ354に基づく基本画面を表示する。制御部320は、電子機器100の起動、あるいは、アプリケーションの起動に応じて、画面表示処理を開始する。
ステップS103において、接触判定部330は、液晶パネル140からセンサ信号を取得する。
ステップS105において、接触判定部330は、ステップS103にて取得したセンサ信号に基づいて、接触領域を決定する。例えば、接触判定部330は、センサ信号が所定の値以下の部分を接触領域に決定する。
ステップS107において、中心算出部340は、ステップS105において接触判定部330が決定した接触領域に基づいて、接触領域の中心座標を算出する。すでに述べたように、中心算出部340は、画素値の重み付けを行なった重心座標を中心座標としてもよいし、接触領域の最大座標と最小座標との中点を中心座標としてもよい。中心算出部340がどのように中心座標を算出するかは、あらかじめ定められていてもよいし、ユーザが選択できるようになっていてもよい。
ステップS109において、制御部320に含まれる領域選択部324は、ステップS107において中心算出部340が算出した中心座標を含む領域を拡大領域として選択する。すでに述べたように、領域選択部324は、接触領域を拡大領域としてもよいし、中心座標を中心とする所定の領域を拡大領域としてもよい。領域選択部324が、どの領域を拡大領域に設定するかは、あらかじめ定められていてもよいし、ユーザが選択できるようになっていてもよい。
ステップS111において、表示拡大部326に含まれるカウント部328は、拡大領域に複数の区画が含まれるかどうか判断する。カウント部328が拡大領域に複数の区画が含まれると判断した場合(ステップS111においてYES)、電子機器100は、ステップS113以降の処理に進む。カウント部328が拡大領域に複数の区画が含まれないと判断した場合(ステップS111においてNO)、電子機器100は、ステップS103からの処理に戻る。なお、基本画面内の文字の大きさ等によっては、電子機器100はステップS109の実行後に、ステップS111の処理を省略してステップS113の処理に進んでもよい。
ステップS113において、表示拡大部326は、拡大領域について表示データ354の拡大表示データ356を作成する。この際、表示拡大部326に含まれる形態変更部327は、拡大表示データ356において、拡大領域の中心領域および周辺領域の表示形態を異ならせる。
ステップS115において、表示拡大部326は、拡大表示データ356に基づいて、表示データ354を更新する。本実施の形態においては、表示拡大部326は、拡大表示データ356を表示データ354の一部に重畳したデータを新たな表示データ354とする。ただし、変形例で説明したように、表示拡大部326は、拡大表示データ356そのものを新たな表示データ354としてもよい。あるいは、液晶パネル140以外のディスプレイ用の表示データ354を拡大表示データ356で更新してもよい。
ステップS117において、表示制御部322は、ステップS115における更新後の表示データ354に基づいて、拡大画面を含む画面を、液晶パネル140に表示する。
ステップS117の処理後、電子機器100は、図21に示す処理を実行する。図21を参照して、拡大画面を含む画面が表示されたあと、制御部320は、ステップS119において、拡大画像中の中心領域の選択指示を受け付けたかどうか判断する。制御部320は、中心領域へのタッチ、あるいは、拡大画面の表示から所定の時間の経過を、中心領域の選択指示とみなす。
中心領域へのタッチについて詳しく説明する。接触判定部330は、ステップS105の接触領域の判定後に、外部物体が液晶パネル140に接触すると、新たな接触領域を決定する。中心算出部340は、新たな接触領域の中心座標を算出し、制御部320に新たな中心座標を送る。制御部320は、新たな中心座標が中心領域あるいは拡大画像の外側の領域に含まれる場合、中心領域がタッチされたと判断する。それ以外の場合、制御部320は、中心領域がタッチされていないと判断する。
制御部320が中心領域の選択指示を受け付けたと判断した場合(ステップS119においてYES)、制御部320は、ステップS121において、中心領域を本選択し、中心領域に応じた処理を実行する。ステップS121の完了により、電子機器100の処理は終了する。
制御部320が中心領域の選択指示を受け付けていないと判断した場合(ステップS119においてNO)、制御部320は、ステップS123において、周辺領域の選択指示があったかどうか判断する。すなわち、制御部320は、中心算出部340が算出した新たな中心座標が拡大画像中の周辺領域に含まれるかどうか判断する。
制御部320が周辺領域の選択指示を受け付けたと判断した場合(ステップS123においてYES)、制御部320は、ステップS125において、選択された周辺領域を新たな仮選択領域に決定するとともに、拡大表示データ356を変更する。すなわち、形態変更部327は、新たな仮選択領域が特定的に表示されるように、拡大表示データ356の表示形態を変更する。そのあと、電子機器100は、ステップS115(表示データ354の更新)からの処理を繰り返す。
制御部320が周辺領域の選択指示を受け付けていないと判断した場合(ステップS123においてNO)、制御部320は、ステップS127において、拡大画像の表示終了指示があったかどうか判断する。制御部320は、取り消しボタンの押下や拡大画像の表示から所定の時間の経過を拡大画像の表示終了指示とみなす。
制御部320が拡大画像の表示終了指示を受け付けたと判断した場合(ステップS127においてYES)、電子機器100は、ステップS101(基本画面の表示)からの処理を繰り返す。制御部320が拡大画像の表示終了指示を受け付けていないと判断した場合(ステップS127においてNO)、電子機器100は、ステップS119からの処理を繰り返す。
[第2の実施の形態]
第1の実施の形態に係る電子機器100は、ユーザが1区画(1文字)を選択することを可能にするものであった。ここからは、第2の実施の形態として、ユーザが複数の区画(文字)を選択することを可能にする電子機器100について説明する。
第2の実施の形態に係る電子機器100のハードウェア構成は、第1の実施の形態に係る電子機器100のものと同様である。したがって、ここでは、その説明を繰り返さない。
図22は、第2の実施の形態に係る電子機器100の動作を説明するための第1の図である。図22を参照して、第2の実施の形態に係る電子機器100は、図22に示すように中心領域(ここでは、“w”の文字)が仮選択されている状態で、接触領域のスライドがあると、スライドに応じて仮選択領域を変更していく。つまり、ユーザは、指900を液晶パネル140上でスライドさせることで、仮選択領域を変更していくことができる。
ユーザは、第1の実施の形態で説明したような仮選択領域の変更操作を必要な回数行なってから指900をスライドすることで、所望の文字を起点とする文字列を選択することができる。
図23は、第2の実施の形態に係る電子機器100の動作を説明するための第2の図である。図23には、図22に示す状態からユーザが指を右にスライドした際の液晶パネル140が表示する画面を示す。円510で囲まれた仮選択領域は、“w”の文字から、“w”の文字の右にある“g”の文字になっている。また、“w”と“g”との間の文字(w,a,s,h,i,n,g)には、下線が付されている。そのため、ユーザは、これらの文字が仮選択されていることを認識できる。
なお、第1の実施の形態と同様に、形態変更部327は、仮選択領域を円510ではなく、色などの表示形態によって周辺領域と区別してもよい。また、形態変更部327は、最初に選択された文字と現在の仮選択領域の文字との間の文字を特定するために、下線ではなく、他の表示形態を用いてもよい。例えば、形態変更部327は、これらの文字の表示色を、変更する。
ただし、形態変更部327は、文字列の表示形態を、仮選択領域とは異なる表示形態に変更するものとする。ユーザが文字列と仮選択領域とを区別して認識できるようにするためである。色を変更する場合、形態変更部327は、周辺領域と、仮選択領域と、挟まれた文字列とを異なる色で表示する。図23の例を用いて説明すると、形態変更部327は、例えば、“g”を赤色で、w〜nの文字列を青色で、他の文字を黒色に設定する。
ユーザは、所望の文字が仮選択領域になったことを液晶パネル140の画面で確認すると、第1の実施の形態で説明したような本確定処理を行なう。以上の操作により、ユーザは、所望の文字から始まり所望の文字で終わる文字列を選択することができる。
第2の実施の形態に係る電子機器100が行なう処理の流れを図24を参照して説明する。図24は、拡大画面を含む画面の表示後に第2の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。
拡大画面を含む画面の表示までに電子機器100が行なう処理は、第1の実施の形態において図20を参照して説明したものと同様であるので繰り返さない。
図24を参照して、拡大画面を含む画面の表示後、制御部320は、ステップS201において、スライド操作があったかどうか判断する。具体的には、制御部320は、中心算出部340が算出した中心座標に基づいて、スライド操作の有無を判断する。例えば、制御部320は、中心座標が所定時間内に所定の距離以上変化した場合にスライド操作ありと判断する。なお、ユーザが意図しない接触領域の変化(指900の微小な揺れなど)を制御部320がスライド操作とみなしてしまうことがないように所定の距離の値を定めるのが好ましい。
制御部320がスライド操作があったと判断した場合(ステップS201においてYES)、制御部320は、ステップS203において、スライド前の中心文字を第1の選択文字に決定する。
続いて、ステップS205において、制御部320は、中心座標の変化量(以下、スライド量とよぶ)に応じた表示形態の変更を行なう。具体的には、制御部320は、スライド量に基づいて、仮選択領域を変更し、新たな仮選択領域の表示形態を変更する。また、制御部320は、第1の選択文字から最新の仮選択領域までの文字列の表示形態を変更する。ただし、制御部320は、文字列の表示形態を、仮選択領域とは異なる表示形態に変更するものとする。
なお、ここで、制御部320は、基本画面内で選択されている文字に基づいて仮選択領域を選択するもではなく、スライド量と同じだけ拡大画面500内の仮選択領域を移動させるものとする。ユーザが大まかな操作により仮選択領域を正しく変更できるようにするためである。
ステップS207において、制御部320は、スライド後の中心文字の選択指示があったかどうかを判断する。制御部320は、中心文字の選択指示がないと判断した場合(ステップS207においてNO)、この判断を繰り返す。
制御部320は、中心文字の選択指示がないと判断した場合(ステップS207においてYES)、ステップS209において、選択された中心文字を第2の選択文字に決定する。
ステップS211において、制御部320は、第1の選択文字および第2の選択文字に応じた処理を実行する。例えば、制御部320は、辞書アプリケーションを起動し、第1の選択文字および第2の選択文字で挟まれた単語の意味を検索して、液晶パネル140に表示させる。
一方、ステップS201において、制御部320がスライド操作がないと判断した場合(ステップS201においてNO)、制御部320は、ステップS213において周辺文字の選択指示があったかどうか判断する。
制御部320が周辺領域の選択指示を受け付けたと判断した場合(ステップS213においてYES)、制御部320は、ステップS215において、選択された周辺領域を新たな仮選択領域に決定するとともに、拡大表示データ356を変更する。すなわち、形態変更部327は、新たな仮選択領域が特定的に表示されるように、拡大表示データ356の表示形態を変更する。そのあと、電子機器100は、ステップS115(表示データ354の更新)からの処理を繰り返す。
制御部320が周辺領域の選択指示を受け付けていないと判断した場合(ステップS213においてNO)、制御部320は、ステップS217において、拡大画像の表示終了指示があったかどうか判断する。制御部320は、取り消しボタンの押下や拡大画像の表示から所定の時間の経過を拡大画像の表示終了指示とみなす。
制御部320が拡大画像の表示終了指示を受け付けたと判断した場合(ステップS217においてYES)、電子機器100は、ステップS101(基本画面の表示)からの処理を繰り返す。制御部320が拡大画像の表示終了指示を受け付けていないと判断した場合(ステップS217においてNO)、電子機器100は、ステップS201からの処理を繰り返す。
なお、以上では、スライド操作に応じた表示形態の変更を説明したが、本実施の形態の変形例として、第1の選択文字および第2の選択文字を第1の実施の形態と同様の処理で指定して、第1の選択文字および第2の選択文字との間の文字の表示形態を変える電子機器100を考えることもできる。変形例に係る電子機器100は、1度目に本選択された文字を第1の選択文字とする。そして、電子機器100は、1文字目を本選択したあとも拡大画像を表示しておき、拡大画像中で2度目に本選択された文字を第2の選択文字とする。
[第3の実施の形態]
第1の実施の形態および第2の実施の形態に係る電子機器100は、各文字が表示されている領域を選択処理の単位区画として扱っており、拡大画像の中心にある1文字の表示形態を変更していた。しかしながら、文字以外のものを単位区画に定めることもできる。第3の実施の形態として、単語によって単位区画を定める電子機器100について、以下、説明する。
第3の実施の形態に係る電子機器100のハードウェア構成は、第1の実施の形態あるいは第2の実施の形態に係る電子機器100のものと同様である。したがって、ここでは、その説明を繰り返さない。
図25は、第3の実施の形態に係る電子機器100の動作を説明するための図である。図25には、接触判定部330が求める接触領域が、図25に示す領域410である場合に、液晶パネル140が表示する画面を示す。
図25を参照して、電子機器100は、拡大画面500に、接触領域に対応した拡大領域内の単語を拡大画面500にリスト表示する。また、電子機器100は、拡大領域の中心座標を含む区画の単語を、枠520で囲んで表示する。ただし、他の実施の形態と同様、電子機器100は、色などを用いて、中心領域(仮選択領域)を特定的に表示してもよい。
この際の電子機器100の処理は次の通りである。
まず、接触判定部330は、第1の実施の形態と同様の処理により、接触領域を判定する。また、領域選択部324は、接触領域に基づいて拡大領域を決定する。
次に、表示拡大部326は、その単語の中心が拡大領域に含まれる単語を、拡大領域に含まれる単語として、記憶部350に格納する。ただし、表示拡大部326は、他の方法で、拡大領域に含まれる単語を抽出してもよい。例えば、表示拡大部326は、その単語に含まれる文字のうちn(n:1以上の整数)個以上の文字が、拡大領域に含まれる単語を、拡大領域に含まれる単語として抽出してもよい。
次に、表示拡大部326は、拡大領域に含まれる単語をリスト表示する拡大表示データ356を作成し、記憶部350に格納する。表示拡大部326に含まれる形態変更部327は、拡大領域の中心座標を含む単語の表示形態と、その他の単語の表示形態とを異ならせる。また、表示拡大部326は、拡大表示データ356に基づいて、表示データ354を更新する。
表示データ354が更新されると、表示制御部322は、液晶パネル140に拡大画面500を含む画面を表示する。また、制御部320は、第1の実施の形態と同様に、ユーザからの液晶パネル140への指示に基づいて、仮選択領域の変更や、本選択処理を行なう。本選択処理後に電子機器100が行なう処理としては、単語による辞書検索などがある。
なお、電子機器100は、単語をリスト表示するのではなく、他の表示形態で、仮選択された単語を表示してもよい。例えば、電子機器100は、図18に示すような文章を表示し、仮選択された単語の表示形態を変えてもよい。
ここでは、単語を区画として用いる電子機器100について説明した。同様の拡張により、電子機器100は、文節あるいは文章などの文字群を区画として用いてもよい。
また、電子機器100は、「1文字選択モード」や「単語選択モード」といった複数のモードを有していてもよい。ユーザは、モードを設定することで、電子機器100の動作を切り替えることができる。例えば、電子機器100は、1文字選択モードが設定されているときは、第1の実施の形態で説明した動作を行ない、単語選択モードが設定されているときは、本実施の形態で説明してきた動作を行なう。
[第4の実施の形態]
第4の実施の形態として、ユーザが、液晶パネル140中の選択したい箇所を2点タッチにより選択することを可能にする電子機器100について説明する。
第4の実施の形態に係る電子機器100のハードウェア構成は、第1〜第3の実施の形態と同様であるので、繰り返さない。
第4の実施の形態に係る電子機器100は、1つの領域が選択されている場合は、第1の実施の形態と同様に、中心文字の表示形態を変えた拡大画像を表示する。電子機器100は、互いに離れた2つの領域が選択されると、選択された2つの領域で挟まれる領域を拡大領域に選択する。そして、電子機器100は、選択した拡大領域に含まれる単語をリスト表示する拡大画面を表示する。つまり、電子機器100は、1つの領域が選択されている際に、もう1つの領域が選択されると、選択モードを文字選択モードから単語選択モードに切り替える。したがって、ユーザは、容易に選択モードを切り替えることができる。
第4の実施の形態に係る電子機器100の動作について、図26を参照して説明する。図26は、液晶パネル140の領域410および領域420が接触領域と判断された場合に、電子機器100が液晶パネル140に表示する画面を示している。
電子機器100は、互いに離れた2つの領域が選択されると、選択された2つの領域で挟まれる領域を拡大領域に決定する。具体的には、本実施の形態に係る電子機器100は、2つの選択領域それぞれの中心の中点を中心とする所定の大きさの領域を拡大領域に決定する。特に、電子機器100は、拡大領域が2つの選択領域に接するように拡大領域の大きさを決定する。図26に示す例では、電子機器100は、領域410および領域420に挟まれた領域430を拡大領域に決定する。ただし、拡大領域の決定方法は、これに限られるわけではない。
また、電子機器100は、拡大領域について拡大表示データを作成し、拡大画面500を液晶パネル140に表示する。拡大画面500は、拡大領域に含まれる単語のリストである。電子機器100は、第3の実施の形態と同様の処理により、拡大画面500を作成する。拡大領域の中心にある単語(ここでは、“washing”)は、枠520で囲まれて表示される。
第4の実施の形態に係る電子機器100が行なう処理の流れについて図27を参照して説明する。図27は、第4の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。
図27では、電子機器100が、1つの領域の選択を受け付け、拡大画像を表示したあとの処理を示す。これまでの処理は、第1の実施の形態で図20を参照して説明したものと同様であるので、繰り返さない。
電子機器100は、図20に示すステップS117(拡大画面を含む画面の表示)の実行後、ステップS301において、中心領域の選択指示があるかどうか判断する。制御部320は、中心領域へのタッチ、あるいは、拡大画面の表示から所定の時間の経過を、中心領域の選択指示とみなす。
制御部320が中心領域の選択指示を受け付けたと判断した場合(ステップS301においてYES)、制御部320は、ステップS303において、中心領域を本選択し、中心領域に応じた処理を実行する。ステップS303の完了により、電子機器100の処理は終了する。
制御部320が中心領域の選択指示を受け付けていないと判断した場合(ステップS301においてNO)、制御部320は、ステップS305において、周辺領域の選択指示があったかどうか判断する。すなわち、制御部320は、拡大画像中の周辺領域へのタッチがあったかどうか判断する。
制御部320が周辺領域の選択指示を受け付けたと判断した場合(ステップS305においてYES)、制御部320は、ステップS307において、選択された周辺領域を新たな仮選択領域に決定するとともに、拡大表示データ356を変更する。すなわち、形態変更部327は、新たな仮選択領域が特定的に表示されるように、拡大表示データ356の表示形態を変更する。そのあと、電子機器100は、ステップS115(表示データ354の更新)からの処理を繰り返す。
制御部320が周辺領域の選択指示を受け付けていないと判断した場合(ステップS305においてNO)、制御部320は、ステップS309において、残りの領域、つまり、拡大画面が表示されていない領域に、入力があったかどうか判断する。具体的には、制御部320は、残りの領域において、ステップS105と同様の判定を行ない、残りの領域における接触領域の有無を判定する。
制御部320が残りの領域に入力があると判断した場合(ステップS309)、制御部320に含まれる表示拡大部326は、ステップS311において、ステップS105で決定していた元々の接触領域と、新たな接触領域とに基づいて、新たな拡大領域を決定する。
続いて、ステップS313において、制御部320は、ステップS105で決定した拡大領域に基づいて新たな拡大表示データ356を作成し、新たな拡大表示データ356で、それまでの拡大表示データ356を更新する。そのあと、電子機器100は、ステップS115(表示データ354の更新)からの処理を繰り返す。
制御部320は、残りの領域に入力がないと判断した場合(ステップS309)、ステップS315において、拡大画像の表示終了指示があったかどうか判断する。制御部320は、取り消しボタンの押下や拡大画像の表示から所定の時間の経過を拡大画像の表示終了指示とみなす。
制御部320が拡大画像の表示終了指示を受け付けたと判断した場合(ステップS315においてYES)、電子機器100は、ステップS101(基本画面の表示)からの処理を繰り返す。制御部320が拡大画像の表示終了指示を受け付けていないと判断した場合(ステップS315においてNO)、電子機器100は、ステップS301からの処理を繰り返す。
[その他]
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
電子機器の外観図である。 電子機器のハードウェア構成を表わすブロック図である。 電子機器の液晶パネルの構成と、当該液晶パネルの周辺回路とを示した図である。 液晶パネルとバックライトとの断面図である。 光センサ回路を動作させる際のタイミングチャートを示した図である。 液晶パネルとバックライトとの断面図であって、スキャンの際にフォトダイオードがバックライトからの光を受光する構成を示した図である。 センシングコマンドの概略構成を示した図である。 センシングコマンドの各領域におけるデータの値と、当該値が示す意味内容とを示した図である。 応答データの概略構成を示した図である。 指900をスキャンすることにより得られた画像を示した図である。 他の光センサ内蔵液晶パネルの回路図である。 スキャンの際にフォトダイオードが外光を受光する構成を示した断面図である。 電子機器100の機能的構成をブロック図形式で示す図である。 表示制御部322が、液晶パネル140に表示する基本画面400の一例を示す図である。 拡大画面500を含む画面の一例である。 図15で示す中心領域を本選択する際のユーザの動作を説明するための図である。 図16で示す仮選択領域を変更する際のユーザの動作を説明するための図である。 第1の変形例に係る拡大画面500の一例を示す図である。 第2の変形例に係る拡大画面500の一例を示す図である。 基本画面の表示開始から拡大画面を含む画面の表示までに電子機器100が行なう処理の流れをフローチャート形式で示す図である。 拡大画面を含む画面の表示後に第1の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。 第2の実施の形態に係る電子機器100の動作を説明するための第1の図である。 第2の実施の形態に係る電子機器100の動作を説明するための第2の図である。 拡大画面を含む画面の表示後に第2の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。 第3の実施の形態に係る電子機器100の動作を説明するための図である。 第4の実施の形態に係る電子機器100の動作について説明するための図である。 第4の実施の形態に係る電子機器100が行なう処理の流れをフローチャート形式で示す図である。
符号の説明
100 電子機器、101 本体装置、102 表示装置、130 ドライバ、131 走査信号線駆動回路、132 データ信号線駆動回路、133 光センサ駆動回路、134 スイッチ、135 アンプ、140,140A 光センサ内蔵液晶パネル、141 画素回路、141b,141g,141r サブピクセル回路、141r 画素回路、143 電極対、143a 画素電極、143b 対向電極、144 光センサ回路、145 フォトダイオード、145b フォトダイオード、145g フォトダイオード、145r フォトダイオード、146 コンデンサ、151A アクティブマトリクス基板、151B 対向基板、152 液晶層、153b カラーフィルタ、153g カラーフィルタ、153r カラーフィルタ、157 データ信号線、161 偏光フィルタ、162 ガラス基板、163 遮光膜、164 配向膜、173 メモリカードリーダライタ、174 通信部、175 マイク、176 スピーカ、177 操作キー、179 バックライト、180 画像処理エンジン、181 ドライバ制御部、182 タイマ、183 信号処理部、310 表示部、320 制御部、322 表示制御部、324 領域選択部、326 表示拡大部、327 形態変更部、328 カウント部、330 接触判定部、340 中心算出部、350 記憶部、352 文字データ、354 表示データ、356 拡大表示データ、400 基本画面、410 領域、420 領域、430 領域、500 拡大画面、510 円、520 枠、900 指。

Claims (15)

  1. 情報処理装置であって、
    画像を表示する表示部を備え、
    前記表示部は、
    外部物体の接触を検出するセンサ付きのパネルを含み、
    前記センサの検出結果に基づいて、前記外部物体が接触した前記パネルの表示面内の接触領域を求める接触判定部と、
    前記情報処理装置の動作を制御する制御部とをさらに備え、
    前記制御部は、
    前記表示部に、表示データに基づいた画像を表示させる表示制御部と、
    前記接触領域の中心を含む拡大領域を決定する領域選択部と、
    前記拡大領域の前記表示データについて、拡大表示データを作成し、前記拡大表示データに基づいて前記表示データを更新する表示拡大部とを含み、
    前記表示拡大部は、前記接触領域の中心を含む中心領域の前記画像の表示形態と、前記拡大領域から前記中心領域を除いた周辺領域の前記画像の表示形態とが異なる前記拡大表示データを作成する形態変更部を有し、
    前記中心領域は、前記接触領域の中心を含む、選択処理の単位区画であり、
    前記表示拡大部は、前記拡大領域内の前記単位区画の数を数えるカウント部をさらに有し、
    前記表示拡大部は、前記カウント部が数えた前記拡大領域内の前記単位区画の数が2以上であるとき、前記拡大表示データを作成し、前記カウント部が数えた前記拡大領域内の前記単位区画の数が1以下であるとき、前記拡大表示データを作成しない、情報処理装置。
  2. 複数の文字を含む文字データを格納する記憶部をさらに備え、
    前記単位区画は、各前記文字の表示領域に基づいて定まる、請求項に記載の情報処理装置。
  3. 各々が意味的なまとまりを持つ複数の文字からなる複数の文字群を含む文字データを格納する記憶部をさらに備え、
    前記単位区画は、各前記文字群の表示領域に基づいて定まる、請求項に記載の情報処理装置。
  4. 前記表示拡大部は、前記中心領域の拡大画像中の前記文字が、前記接触領域より大きくなるように前記拡大表示データを作成する、請求項またはに記載の情報処理装置。
  5. 前記領域選択部は、前記接触領域を前記拡大領域として決定する、請求項1からのいずれか1項に記載の情報処理装置。
  6. 前記領域選択部は、前記接触領域の中心座標を中心とする所定の領域を前記拡大領域として決定する、請求項1からのいずれか1項に記載の情報処理装置。
  7. 前記領域選択部は、前記接触領域が互いに離れた2つの部分領域からなるとき、前記2つの部分領域で挟まれた領域を前記拡大領域として決定する、請求項1からのいずれか1項に記載の情報処理装置。
  8. 前記表示制御部は、前記拡大表示データに対応する拡大画像を前記パネルの全面に表示させる、請求項1からのいずれか1項に記載の情報処理装置。
  9. 前記表示部は、画像を表示する第2のパネルをさらに含み、
    前記表示制御部は、前記拡大表示データに対応する拡大画像を前記第2のパネルに表示させる、請求項1からのいずれか1項に記載の情報処理装置。
  10. 前記形態変更部は、前記パネル上のスライド操作に応じて、前記拡大表示データにおいて、前記スライド操作に対応する領域の表示形態を変更する、請求項1からのいずれか1項に記載の情報処理装置。
  11. 前記形態変更部は、前記拡大表示データに対応する拡大画像中の2領域の選択指示を受け付けると、選択された前記2領域で挟まれた領域の表示形態を変更する、請求項1からのいずれか1項に記載の情報処理装置。
  12. 前記制御部は、前記周辺領域の選択指示を受け付けると、選択された前記周辺領域の表示形態を変更する、請求項1から11のいずれか1項に記載の情報処理装置。
  13. 前記制御部は、前記中心領域の選択指示を受け付けると、前記中心領域に応じた処理を実行する、請求項1から12のいずれか1項に記載の情報処理装置。
  14. 外部物体の接触を検出するセンサ付きのパネルを含む表示部を備える情報処理装置を用いた情報処理方法であって、
    前記センサの検出結果に基づいて、前記外部物体が接触した前記パネルの表示面内の接触領域を求めるステップと、
    前記表示部に、表示データに基づいた画像を表示させるステップと、
    前記接触領域の中心を含む拡大領域を決定するステップと、
    前記拡大領域の前記表示データについて、拡大表示データを作成し、前記拡大表示データに基づいて前記表示データを更新するステップとを含み、
    前記表示データを更新するステップは、前記接触領域の中心を含む中心領域の前記画像の表示形態と、前記拡大領域から前記中心領域を除いた周辺領域の前記画像の表示形態とが異なる前記拡大表示データを作成するステップを有し、
    前記中心領域は、前記接触領域の中心を含む、選択処理の単位区画であり、
    前記表示データを更新するステップは、
    前記拡大領域内の前記単位区画の数を数えるステップと、
    前記数えるステップが数えた前記拡大領域内の前記単位区画の数が2以上であるとき、前記拡大表示データを作成し、前記数えるステップが数えた前記拡大領域内の前記単位区画の数が1以下であるとき、前記拡大表示データを作成しないステップとをさらに有する、情報処理方法。
  15. 外部物体の接触を検出するセンサ付きのパネルを含む表示部と演算部とを備える情報処理装置に情報処理を実行させるための情報処理プログラムであって、
    前記情報処理プログラムは、前記演算部に、
    記センサの検出結果に基づいて、前記外部物体が接触した前記パネルの表示面内の接触領域を求めるステップと、
    記表示部に、表示データに基づいた画像を表示させるステップと、
    記接触領域の中心を含む拡大領域を決定するステップと、
    記拡大領域の前記表示データについて、拡大表示データを作成し、前記拡大表示データに基づいて前記表示データを更新するステップとを実行させ
    前記表示データを更新するステップは、前記接触領域の中心を含む中心領域の前記画像の表示形態と、前記拡大領域から前記中心領域を除いた周辺領域の前記画像の表示形態とが異なる前記拡大表示データを作成するステップを含み、
    前記中心領域は、前記接触領域の中心を含む、選択処理の単位区画であり、
    前記表示データを更新するステップは、
    前記拡大領域内の前記単位区画の数を数えるステップと、
    前記数えるステップが数えた前記拡大領域内の前記単位区画の数が2以上であるとき、前記拡大表示データを作成し、前記数えるステップが数えた前記拡大領域内の前記単位区画の数が1以下であるとき、前記拡大表示データを作成しないステップとをさらに含む、情報処理プログラム。
JP2008322663A 2008-12-18 2008-12-18 情報処理装置、情報処理方法および情報処理プログラム Active JP5240773B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2008322663A JP5240773B2 (ja) 2008-12-18 2008-12-18 情報処理装置、情報処理方法および情報処理プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008322663A JP5240773B2 (ja) 2008-12-18 2008-12-18 情報処理装置、情報処理方法および情報処理プログラム

Publications (2)

Publication Number Publication Date
JP2010146279A JP2010146279A (ja) 2010-07-01
JP5240773B2 true JP5240773B2 (ja) 2013-07-17

Family

ID=42566659

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008322663A Active JP5240773B2 (ja) 2008-12-18 2008-12-18 情報処理装置、情報処理方法および情報処理プログラム

Country Status (1)

Country Link
JP (1) JP5240773B2 (ja)

Families Citing this family (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8570278B2 (en) 2006-10-26 2013-10-29 Apple Inc. Portable multifunction device, method, and graphical user interface for adjusting an insertion point marker
US7856605B2 (en) 2006-10-26 2010-12-21 Apple Inc. Method, system, and graphical user interface for positioning an insertion marker in a touch screen display
US8201109B2 (en) 2008-03-04 2012-06-12 Apple Inc. Methods and graphical user interfaces for editing on a portable multifunction device
US8370736B2 (en) 2009-03-16 2013-02-05 Apple Inc. Methods and graphical user interfaces for editing on a multifunction device with a touch screen display
JP2011242821A (ja) * 2010-05-14 2011-12-01 Sony Corp 情報処理装置および方法、並びにプログラム
JP2012084125A (ja) * 2010-09-14 2012-04-26 Sanyo Electric Co Ltd 画像表示装置
CN101963863B (zh) * 2010-09-30 2015-07-08 华为终端有限公司 用户触摸操作模式自适应的方法和装置
US9092130B2 (en) 2011-05-31 2015-07-28 Apple Inc. Devices, methods, and graphical user interfaces for document manipulation
JP5846887B2 (ja) * 2011-12-13 2016-01-20 京セラ株式会社 携帯端末、編集制御プログラムおよび編集制御方法
JP2014035708A (ja) * 2012-08-09 2014-02-24 Sharp Corp 表示装置、処理特定方法、処理特定プログラム、およびコンピュータ読み取り可能な記録媒体
CN103677594B (zh) * 2012-09-04 2018-04-27 中兴通讯股份有限公司 文本处理方法和装置
EP3040839B1 (en) * 2014-12-31 2020-08-12 Dassault Systèmes Selection of a graphical element
JP6960249B2 (ja) * 2017-05-31 2021-11-05 Line株式会社 プログラム、表示方法および情報処理端末
JP7548272B2 (ja) 2022-05-26 2024-09-10 セイコーエプソン株式会社 制御方法、制御装置、及び制御プログラム

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02153415A (ja) * 1988-12-06 1990-06-13 Hitachi Ltd キーボード装置
JP3744552B2 (ja) * 1994-03-07 2006-02-15 富士通株式会社 ペン入力装置
JP2001175375A (ja) * 1999-12-22 2001-06-29 Casio Comput Co Ltd 携帯情報端末装置、及び記憶媒体
US6704034B1 (en) * 2000-09-28 2004-03-09 International Business Machines Corporation Method and apparatus for providing accessibility through a context sensitive magnifying glass
JP2003177848A (ja) * 2001-12-12 2003-06-27 Hitachi Kokusai Electric Inc ソフトウェアキーボードのキー表示方法及び文字入力装置
JP2004021933A (ja) * 2002-06-20 2004-01-22 Casio Comput Co Ltd 入力装置及び入力方法
JP2005107871A (ja) * 2003-09-30 2005-04-21 Nec Corp 画像表示方法と装置、該方法によるプログラムとこれを格納した記録媒体
JP2006059238A (ja) * 2004-08-23 2006-03-02 Denso Corp 情報入力表示装置
JP4745748B2 (ja) * 2005-07-26 2011-08-10 株式会社日立メディコ 医用画像表示装置
JP4765473B2 (ja) * 2005-08-15 2011-09-07 ソニー株式会社 表示装置及び入出力パネルの制御装置
KR100813062B1 (ko) * 2006-05-03 2008-03-14 엘지전자 주식회사 휴대용 단말기 및 이를 이용한 텍스트 표시 방법
JPWO2009069392A1 (ja) * 2007-11-28 2011-04-07 日本電気株式会社 入力装置、サーバ、表示管理方法および記録媒体

Also Published As

Publication number Publication date
JP2010146279A (ja) 2010-07-01

Similar Documents

Publication Publication Date Title
JP5240773B2 (ja) 情報処理装置、情報処理方法および情報処理プログラム
JP5540344B2 (ja) 電子機器、メニューの選択方法、メニューの選択プログラム
JP5278948B2 (ja) オブジェクト表示装置、オブジェクト表示方法、およびオブジェクト表示プログラム
JP2010134625A (ja) 電子機器、表示制御方法、およびプログラム
JP5322163B2 (ja) 表示装置、表示方法、および表示プログラム
JP2011008424A (ja) 電子機器、動作モード設定方法、およびプログラム
JP5303785B2 (ja) 表示装置、表示方法、および表示プログラム
JP2010140329A (ja) 表示装置、表示方法、および表示プログラム
JP5526400B2 (ja) 電子機器、情報処理システム、電子機器の制御方法および電子機器の制御プログラム
JP5707029B2 (ja) 電子機器、電子機器の制御方法および電子機器の制御プログラム
JP5344555B2 (ja) オブジェクト表示装置、オブジェクト表示方法、およびオブジェクト表示プログラム
JP5126895B2 (ja) 電子機器、および表示制御方法
JP5334171B2 (ja) 電子機器、および表示制御方法
JP5617120B2 (ja) 電子機器、表示制御方法、およびプログラム
JP5110594B2 (ja) 情報処理装置、情報処理方法、および情報処理プログラム
JP5380729B2 (ja) 電子機器、表示制御方法、およびプログラム
JP2010204729A (ja) テキスト表示装置、テキスト表示方法、およびテキスト表示プログラム
JP2010134699A (ja) 入力装置、入力方法、および入力プログラム
JP5257892B2 (ja) 電子機器、画面切替方法および画面切替プログラム
JP5322161B2 (ja) 電子機器、情報処理システム、電子機器の制御方法および電子機器の制御プログラム
JP5289889B2 (ja) 表示装置、表示装置の制御方法、表示装置を制御するためのプログラム
WO2010103888A1 (ja) コンテンツ表示装置、コンテンツ表示方法、およびコンテンツ表示プログラムを記録するコンピュータ読取可能な記録媒体
JP5172641B2 (ja) 電子機器、情報処理方法および情報処理プログラム
JP2010108373A (ja) 電子機器、アプリケーションプログラム、情報処理端末およびその制御プログラム
JP2011008425A (ja) 電子機器、動作モード設定方法、およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20111213

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20120810

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120821

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20121019

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20130305

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20130327

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20160412

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 5240773

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150