JP2007183706A - タッチセンサシステム - Google Patents

タッチセンサシステム Download PDF

Info

Publication number
JP2007183706A
JP2007183706A JP2006000081A JP2006000081A JP2007183706A JP 2007183706 A JP2007183706 A JP 2007183706A JP 2006000081 A JP2006000081 A JP 2006000081A JP 2006000081 A JP2006000081 A JP 2006000081A JP 2007183706 A JP2007183706 A JP 2007183706A
Authority
JP
Japan
Prior art keywords
fingertip
finger
touch sensor
light
sensor system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2006000081A
Other languages
English (en)
Inventor
Hiroyuki Horibata
浩行 堀端
Michiru Senda
みちる 千田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Epson Imaging Devices Corp
Original Assignee
Epson Imaging Devices Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Epson Imaging Devices Corp filed Critical Epson Imaging Devices Corp
Priority to JP2006000081A priority Critical patent/JP2007183706A/ja
Publication of JP2007183706A publication Critical patent/JP2007183706A/ja
Withdrawn legal-status Critical Current

Links

Images

Abstract

【課題】タッチセンサシステムにおいて、外光の遮断を行うことなく、パネルにタッチした指先の位置を検出することである。
【解決手段】最初に、指がガラス基板に接触したか否かを判断する(S10)。次に、外光明るさを取得する(S12)。そして、取得された外光明るさが閾値以上かどうか判断する(S14)。閾値以上のときは、外光による指の影を検出し、次に、指の影の中で指先部分を検出し、指先位置を特定する(S16−S20)。閾値未満のときは、バックライト光による指からの反射を検出し、次に、指からの反射の中で指先部分を検出し、指先位置を特定する(S22−S26)。このほかに、2段階の明暗差に基づいて、指先位置を特定することもでき、その場合でも、外光の明るさに応じて、異なる処理手順を選択する。
【選択図】図4

Description

本発明はタッチセンサシステムに係り、特にパネルにタッチした指先の位置を検出するタッチセンサシステムに関する。
表示パネルを有する電子機器において、キーボードを用いる代わりに、表示パネルに指またはペンシル状のもので触れることで、データ入力することが行われる。このようなデバイスは、タッチパネルあるいはタッチセンサと呼ばれる。
例えば、特許文献1には、平板状の導光板の一方側面から照明手段によって光を入射し、入射された光は導光板の内部を全反射しながら進み、対向側面に設けられた光センサアレイによって検出される構成を開示している。ここでは、導光板の表面に触れると、光センサアレイの検出する受光量が変化するので、タッチセンサとして用いられる。
特開2000−172444号公報
特許文献1では、光センサアレイが照明手段に対し導光板の対向側面に配置されているが、その他に、表示パネルの2次元平面に光センサアレイを配置する構成をとることができる。いずれの構成をとるにしても、光センサは、余分な光が入るとノイズとなり、指先等の接触検出の誤差の原因となる。したがって、例えば余計な外光が光センサに入らないような工夫が必要である。
本発明の目的は、外光の遮断を行うことなく、パネルにタッチした指先の位置を検出することができるタッチセンサシステムを提供することである。
本発明に係るタッチセンサシステムは、パネルにタッチした指先の位置を検出するタッチセンサシステムにおいて、前記パネル内にマトリクス状に複数配置される指検出用光センサと、前記複数の指検出用光センサの検出信号を画像処理して、前記パネルにタッチした指先の位置を特定する画像処理部と、を備え、前記画像処理部は、前記パネルに入射する外光の明るさに応じて、指先検出のための画像処理方法を選択する選択手段を有することを特徴とする。
また、前記選択手段は、前記外光の明るさがバックライト光の明るさに比較して明るく、前記外光による指の影を前記指検出用光センサが検出することができる第1の場合と、前記バックライト光の明るさが前記外光の明るさに比較して明るく、前記バックライト光を受けて指から反射する光を前記指検出用光センサが検出することができる第2の場合と、に応じて、前記指先検出のための画像処理方法を選択することが好ましい。
また、前記画像処理部は、前記第1の場合に、前記外光による前記指の影の中で、前記パネルにタッチしている指先部分と、タッチしていない指の部分との間で、前記バックライト光を受けて反射する光の強さが異なることに基づいて、前記指先の位置を特定することが好ましい。
また、前記画像処理部は、前記第2の場合に、前記バックライト光を受けて反射する光の強さが、前記パネルにタッチしている指先部分と、タッチしていない指の部分との間で異なることに基づいて、前記指先の位置を特定することが好ましい。
また、前記画像処理部は、前記第1の場合に、前記指検出用光センサが最も明るい部分として検出する領域と、最も暗い部分として検出する領域とを区別し、その区別に基づいて、前記指先の位置を特定することが好ましい。
また、前記画像処理部は、前記第2の場合に、前記指検出用光センサが最も暗い部分として検出する領域と、次に暗い部分として検出する領域とを区別し、その区別に基づいて、前記指先の位置を特定することが好ましい。
また、前記画像処理部は、エッジ検出法によって明るさの異なる領域を区別することが好ましい。
また、本発明に係るタッチセンサシステムにおいて、さらに、指先から放射される特定波長の光を検知して、指が前記パネルにタッチしたことを検出することが好ましい。
また、本発明に係るタッチセンサシステムにおいて、さらに、前記外光の強さを検出する外光センサを備えることが好ましい。
上記構成により、パネル内に指検出用光センサをマトリクス状に配置し、複数の指検出用光センサの検出信号を画像処理してパネルにタッチした指先の位置を特定する際に、パネルに入射する外光の明るさに応じて、指先検出のための画像処理方法を選択する。したがって、外光の遮断を行うことなく、パネルにタッチした指先の位置を検出することができる。
また、外光の明るさがバックライト光の明るさに比較して明るく、外光による指の影を指検出用光センサが検出することができる第1の場合と、バックライト光の明るさが外光の明るさに比較して明るく、バックライト光を受けて指から反射する光を指検出用光センサが検出することができる第2の場合と、に応じて、指先検出のための画像処理方法を選択する。したがって、外光が明るいときでも、外光が暗いときでも、パネルにタッチした指先の位置を検出することができる。
また、外光が明るい場合に、外光による指の影の中で、パネルにタッチしている指先部分と、タッチしていない指の部分との間で、バックライト光を受けて反射する光の強さが異なることに基づいて、指先の位置を特定する。したがって、明るい中での暗さの区別で指先の特定が行える。
また、バックライト光が明るい場合に、バックライト光を受けて反射する光の強さが、パネルにタッチしている指先部分と、タッチしていない指の部分との間で異なることに基づいて、指先の位置を特定する。したがって、暗い中での明るさの区別で指先の特定が行える。
また、外光が明るい場合に、指検出用光センサが最も明るい部分として検出する領域と、最も暗い部分として検出する領域とを区別し、その区別に基づいて、指の部分の中の指先の位置を特定する。したがって、明暗の区別によって指先の特定が行える。
また、バックライト光が明るい場合に、指検出用光センサが最も暗い部分として検出する領域と、次に暗い部分として検出する領域とを区別し、その区別に基づいて、指先の位置を特定する。したがって、明暗の区別によって指先の特定が行える。
また、エッジ検出法によって明るさの異なる領域を区別するので、周知の技術を用いて指先の特定が行える。
また、指先から放射される特定波長の光を検知して、指がパネルにタッチしたことを検出するので、例えばタッチ検出の後に指先特定処理等を行うものとすることができる。
また、外光の強さを検出する外光センサを備えることとするので、自動的に、外光の明るさに応じて指先検出のための画像処理方法の選択を行うことができる。
上記のように、本発明に係るタッチセンサシステムによれば、外光の遮断を行うことなく、パネルにタッチした指先の位置を検出することができる。
以下に図面を用いて本発明に係る実施の形態につき詳細に説明する。以下において、タッチセンサシステムは、画素がマトリクス状に配置される液晶表示パネル装置に適用されるものとして説明するが、マトリクス状でない画素配置の表示パネルであってもよい。例えば、セグメント状の画素が配置される表示パネルであってもよい。また、液晶以外の表示機構を用いる表示パネルであってもよい。例えばLED表示パネルや、プラズマ表示パネルであってもよい。また、表示を行わず、単にタッチパネルのみの機能を有するパネルであってもよい。また、以下において、液晶表示パネル装置は、マトリクス状に配置される画素、指先検出光センサの外に、ゲート駆動部とデータ駆動部の回路もガラス基板等の透明基板上に構成されるものとして説明するが、ガラス基板上に配置されるデバイスは、これ以外のものであってもよく、また逆に、画素と指先検出光センサのみがガラス基板上に配置されるものであってもよい。
図1は、タッチセンサシステムを内蔵する液晶表示パネル装置10の構成を示す。液晶表示パネル装置10は、画素デバイス22等が配置されるガラス基板12と、ガラス基板12の外に設けられる回路等で構成される。液晶表示パネル装置10は、パネル装置の動作のための条件が入力される入力部14と、パネル装置の動作を制御するパネル制御部16と、ガラス基板12上にマトリクス状に配置される複数の画素デバイス22を選択しデータを与えるためのゲート駆動部18及びデータ駆動部20と、ガラス基板12の背後に設けられるバックライト24と、バックライト駆動部26とを含む。これらの要素は、一般的な液晶表示パネル装置に共通のものである。
そして、液晶表示パネル装置10は、タッチセンサシステムとして固有の要素として、以下のものを含む。すなわち、ガラス基板12の上に、画素デバイス22と同様にマトリクス状に配置される複数の指検出用光センサ30と、複数の指検出用光センサ30の出力を検出する光センサセンシング部32と、場合により設けることができる外光センサ34と、液晶表示パネルのガラス基板に触れた指先を特定するためのタッチセンサ制御部40を含む。タッチセンサシステムとしてはこれらの要素のほかに、外光の明るさを入力する機能も有する入力部14、タッチセンサシステム全体の制御を行う機能も有するパネル制御部16、バックライト24、バックライト駆動部26等も含む。
一般的な液晶表示パネル装置に共通な各要素、及びタッチセンサシステムに用いられる各要素は、内部配線あるいは内部接続等によって相互に接続される。
ガラス基板12は、ここでは1枚のガラス板をいうのではなく、透明電極やスイッチングトランジスタ等をマトリクス状に配置したガラス板を対向させ、その間に液晶を封入して組み立てられた複合ガラス基板で、いわゆる液晶表示ガラス基板を指す。ガラス基板12の中央部には、液晶表示のための画素デバイス22がマトリクス状に配置され、周辺部には、上記のゲート駆動部18とデータ駆動部20が配置される。画素デバイス22は、周知のように、ゲートラインとデータラインとで選択特定されるスイッチングトランジスタと、上下透明電極と、上下透明電極の間に保持される表示要素である液晶と、保持キャパシタ等で構成される。ゲート駆動部18と、データ駆動部20は、複数のゲートライン及びデータラインを選択するための選択回路等で構成される回路部である。画素デバイス22のスイッチングトランジスタ、ゲート駆動部18及びデータ駆動部20を構成するトランジスタ等は、ガラス板上に、低温ポリシリコントランジスタ形成技術、高温ポリシリコントランジスタ形成技術、アモルファストランジスタ形成技術等によって形成することができる。
ガラス基板12上にマトリクス上に配置される指検出用光センサ30は、外光又はバックライト光を利用して、ガラス基板12に触れる指先あるいはペンシル状の接触ツールの形状を検出する機能を有する電子デバイスである。具体的には、光に対し高感度なトランジスタを用いることができる。例えば、画素デバイス22のスイッチング素子として用いられるMOSトランジスタ(Metal Oxide Semiconductor Transistor)を用いることができる。一般的に、MOSトランジスタのリーク電流は光に対し高感度であるので、これを用いることができる。MOSトランジスタのゲート端子は一定電位に保持してMOSトランジスタをオフとしてそのリーク電流の光依存性を利用してもよく、ゲート端子をオープンとして光に対する感度をより高めてもよい。図1においては、ゲート端子をオープンとしたnチャネルトランジスタを光に対し高感度な指検出用光センサ30として、そのドレイン端子を共通電源に接続し、ソース端子を光センサセンシング部32に接続する構成が示されている。
光センサセンシング部32は、マトリクス上に配置された複数の指検出用光センサ30のそれぞれのリーク電流の大きさを検出するセンシング回路である。センシングは、各指検出用光センサ30ごとに行ってもよく、適当に区切ったブロック単位ごとに複数の指検出用光センサ30をまとめて検出してもよい。後者の場合は、リーク電流の値が大きくなるので、区別を行うのが容易となる。図1では、各画素デバイス22ごとに1つの指検出用光センサ30を配置し、9つの指検出光センサをまとめてセンシングする例を示すため、3×3の画素デバイスのブロックの中央に、1つの指検出用光センサ30を代表して図示してある。光センサセンシング部32の出力は、タッチセンサ制御部40によって取得される。
バックライト24は、ガラス基板12の表示部を背面から照明するためのランプである。ここで背後とは、液晶表示パネル装置10の表示面の背後という意味である。図1が液晶表示パネル装置10を表示面側から見た図であるとすると、紙面の裏側にバックライト24が配置され、紙面の裏側から紙面の表側に向かって光が照射される。バックライト駆動部26は、バックライト24の点灯、消灯、及び明るさの調整を行う機能を有する回路である。
パネル制御部16は、上記のように液晶表示パネル装置10の各要素を全体として制御する機能を有し、具体的にはマイクロプロセッサ等で構成することができる。入力部14は、ユーザ等によって操作され、液晶パネルの点灯及び消灯、表示モードの選択等に関する指示をパネル制御部16に与える機能を有するもので、具体的には外部スイッチ、外部キーボード等で構成することができる。
また、入力部14は、外光の明るさに関する情報を入力する機能を有する。外光の明るさに関する情報とは、真夏の室外のようにきわめて明るい環境であること、平均的なオフィスの明るさの環境であること、雨天で暗い環境であること、真夜中で真っ暗の環境であること、等の情報である。後述のように、タッチセンサシステムにおいて、外光の明るさの情報は、バックライト光の明るさとの比較が問題となる。したがって、外光の明るさは、上記のように、いくつかの明るさのランクを切り替えスイッチ等でユーザが入力するものとしてもよく、バックライト光の明るさとの関係で、さらに粗い分類で入力するものとしてもよい。入力された外光の明るさに関する情報は、タッチセンサ制御部40によって取得される。
場合により設けることができる外光センサ34は、外光の明るさを検出するセンサで、上記の外光の明るさを入力部14から入力する代わりに、外光の明るさを検出し、そのデータをタッチセンサ制御部40に出力する。
タッチセンサ制御部40は、外光の明るさにかかわらず、ガラス基板12に触れた指先等の位置を特定する機能を有する。具体的には、マイクロプロセッサ等で構成でき、また、パネル制御部16の一部の機能とすることもできる。タッチセンサ制御部40は、指等がガラス基板12に触れた事を検出するタッチ検出モジュール42、入力部14又は代替的に外光センサ34から外光の明るさに関する情報を取得する外光明るさ取得モジュール44、外光の明るさとバックライト光の明るさに応じて指先検出のために適した画像処理の方法を選択する処理方法選択モジュール46と、光センサセンシング部32のデータを取得する光センサデータ取得モジュール48と、指先位置を特定する指先位置特定モジュール50とを含んで構成される。かかる機能は、ソフトウェアで実現でき、具体的には、対応するタッチセンサプログラムを実行することで実現することができる。これらの機能の一部をハードウェアで実現してもよい。
上記構成の液晶表示パネル装置10の動作、特にタッチセンサシステムの動作を、タッチセンサ制御部40の各機能に関連付けて、以下に詳細に説明する。最初に、外光とバックライト光とが存在する場合、ガラス基板12に指が触れたときに、指検出用光センサ30がどのように働くかを説明し、それに基づいて指先位置検出の手順についてフローチャート等を用いて説明する。
図2は、ガラス基板12の表面に指6の先端の指先8が触れたときの様子を示す図である。ガラス基板12は、その内部に画素デバイス22を含むが、ここではその図示を省略してある。バックライト24は、ガラス基板12の背後から、バックライト光25を照射し、指6の腹の部分をガラス基板12側から照らす。一方外光4は、指6の上側から注ぎ、ガラス基板12上に指6の影を作る。マトリクス状に配置される指検出用光センサ30は、ガラス基板12の表面とバックライト24との間に配置され、バックライト24からの光を直接受けないように、底面側と側面側は遮光されている。したがって、指検出用光センサ30は、ガラス基板12の表面側からの光のみを検出する。
ガラス基板12の表面側からの光は、外光4による成分と、バックライト光25が指6に反射して戻ってくる成分とがある。外光4による成分は、図2に示すように、外光4により指6の影となる部分(A)と、指先8がガラス基板12に接触している部分(B)と、指6の影とならず、そのまま外光4がガラス基板12に入射する部分(C)とで、指検出用光センサ30が検出する明るさが異なってくる。また、バックライト光25による成分も、図2に示すように、バックライト光25により指6から反射してくる部分(A)と、ガラス基板12に接触している指先8から反射してくる部分(B)と、指6にさえぎられずにそのままバックライト光25がガラス基板12の外に向かって照射する部分(C)とで、指検出用光センサ30が検出する明るさが異なってくる。
図3は、ガラス基板12の表面に指6の先端の指先8が触れたときに、ガラス基板12の裏側から見た明るさを模式的に示したもので、これはマトリクス状に配置された複数の指検出用光センサ30の2次元的明るさ検出の結果に相当する。ここで、明るさを示すため、明るい側を白で、暗くなるに従い、斜線の密度を増してある。
図3(a)は、外光4がバックライト光25に比べ圧倒的に明るい場合で、指6の部分は影の部分70となって検出される。この影の部分70は、図2の(A)に対応する。そして、指先8の部分は、影の部分70の中に含まれるが、ガラス基板12に密着しているため、ガラス基板12に密着していないその他の指の部分に比べ、バックライト光25の反射が比較的多い。したがって、暗い影の中でも、明るい楕円部分80として検出される。この明るい楕円部分80は、図2の(B)に対応する。指の影にならない背景部分60は、外光4が指検出用光センサ30に到達するので、最も明るい。この明るい背景部分60は、図2の(C)に対応する。
図3(b)は、外光4が暗く、バックライト光25が支配的な場合で、指6の部分からの反射は指形部分72となって検出される。この指形部分72の部分は、図2の(A)に対応する。そして、指先8の部分は、指形部分72の中に含まれるが、ガラス基板12に密着しているため、ガラス基板12に密着していないその他の指の部分に比べ、バックライト光25の反射がさらに多い。したがって、指形部分72の中でも、比較的明るい楕円部分82として検出される。この比較的明るい楕円部分82は、図2の(B)に対応する。指の影にならない背景部分62は、バックライト光25が指6に反射せず外部に照射されるので最も暗く、指検出用光センサ30に到達する光がほとんどない。この暗い背景部分62は、図2の(C)に対応する。
このように、外光4が支配的な場合には、背景部分60が最も明るく、次に指先8に対応する楕円部分80が明るく、指6の影の部分70が最も暗い。一方、バックライト光25が支配的な場合には、背景部分62が最も暗く、次に指6に対応する指形部分72が暗く、最後に指先8に対応する楕円部分82が最も明るい。このように、外光4とバックライト光25との相対的な明るさの相違により、指先8に対応する部分の明るさと、他の部分の明るさとの関係が、明るさ自体とともに、明るさの順序も、相対的に変化することがわかる。これに基づいて、タッチセンサ制御部40は、外光の明るさに応じて、指先検出のための画像処理の方法を選択する。以下に、指先位置検出の手順についてフローチャート等を用いて説明する。
指先検出の方法は大別して2通りある。1つは、図3で説明したように、背景部分と、指6に対応する部分と、指先8に対応する部分と、明るさあるいは暗さが3段階あることに着目する方法である。図4は、その手順を示すフローチャートである。もう1つは、3段階の明るさの区別ではなく、2段階の明暗の区別を用いて、指先位置を特定しようとする方法で、図5、図7は、その手順を示すフローチャートである。
図4は、3段階の明るさ又は暗さに着目して、指先位置を特定する手順を示すフローチャートである。最初に、指6がガラス基板12に接触したか否かを判断する(S10)。この手順は、タッチセンサ制御部40のタッチ検出モジュール42の機能により実現される。指6は人体の一部であるので、その体温、血流等に基づいて特定の波長の赤外線が放射される。特定の波長の検出は、その波長に適合したフィルタをガラス基板12に設け、あるいは、指検出用光センサ30の波長特性をその特定の波長に合わせこむことで、指検出用光センサ30により検出できる。あるいは、特別のセンサを設けてもよい。タッチ検出工程を設けることで、指6がガラス基板12にタッチしてから以後の工程に進むようにでき、システム自体の無駄な処理をなくし、タッチセンサシステムの消費電力を抑制することができる。
次に、外光明るさを取得する(S12)。これは、外光明るさ取得モジュール44の機能により実現される。具体的には、入力部14からユーザが入力する外光明るさの情報を取得し、あるいはユーザの入力を取得する代わりに外光センサ34の出力を取得する。
そして、取得された外光明るさが閾値以上かどうか判断する(S14)。閾値の大きさは、図3で説明した、外光4が支配的な場合と、バックライト光25が支配的な場合とに区別するためのもので、バックライト光25との関係で実験等に基づき予め定めることができる。閾値以上のときは、S16−S18−S20の処理手順が選択され、閾値未満のときはS22−S24−S26の手順が選択される。したがって、S14の工程は、異なる処理手順の中から1つを選択することも含む選択工程でもある。この手順は、処理方法選択モジュール46の機能により実行される。
S16−S18−S20の処理手順は、外光4が支配的な場合の処理手順である。ここでは、光センサデータ取得モジュール48の機能により、光センサセンシング部32からマトリクス状に配置された各指検出光センサ30のリーク電流等の検出データを取得し、これを明るさに換算し、さらにガラス基板12の平面上の位置に対応付けて、2次元の明るさマップ等のデータに変換する。この2次元の明るさマップデータに基づいて、S16以下の処理が行われる。
S16では、外光による指の影を検出する。図3(a)に即して説明すれば、最も明るい背景部分60と、最も暗い影の部分70との区別を行う。そして次に、指の影の中で指先部分を検出する(S18)。図3(a)に即して説明すれば、最も暗い影の部分70と、比較的明るい楕円部分80との区別を行う。このように、S16−S18において、明るい背景部分に囲まれた部分の中で暗さの異なる2つの部分を区別する。すなわち、3段階の明るさを区別して、楕円部分80を検出する。そして、S20において、この楕円部分80を指先位置として特定する。指先位置の特定は、指先位置特定モジュール50の機能により実行される。
S22−S24−S26の処理手順は、バックライト光25が支配的な場合の処理手順である。この処理は、上記のように光センサデータ取得モジュール48及び指先位置特定モジュール50の機能により実行される。ここで、S22では、バックライト光による指からの反射を検出する。図3(b)に即して説明すれば、最も暗い背景部分62と、次に暗い指形部分72との区別を行う。そして次に、指からの反射の中で指先部分を検出する(S24)。図3(b)に即して説明すれば、2番目に暗い指形部分72と、最も明るい楕円部分82との区別を行う。このように、S22−S24において、暗い背景に囲まれた部分の中で明るさの異なる2つの部分を区別する。すなわち、3段階の明るさを区別して、楕円部分82を検出する。そして、S26において、この楕円部分82を指先位置として特定する。
明るさの差のある領域を区別するには、周知のエッジ検出法を用いることができる。エッジ検出法は、明るさについての閾値を定め、この閾値を超えるか否かで、明暗差を2値化し、全領域を走査して、2値の変化する境界であるエッジを検出し、これを接続して、明暗差の異なる領域を区別する領域線とするものである。したがって、周知の処理方法を用いることで、容易に明暗差のある領域を区別できる。
図5は、2段階の明暗差に着目して、指先位置を特定する手順を示すフローチャートである。工程S10から工程S14までは、図4で説明した内容と同じであるので詳細な説明を省略する。S14で外光明るさが閾値以上かどうか判断し、閾値以上のときは、S30−S32の処理手順が選択され、閾値未満のときはS34−S36の手順が選択される。ここでも、S14の工程は、異なる処理手順の中から1つを選択することも含む選択工程でもある。
S30−S32の処理手順は、外光4が支配的な場合の処理手順である。この処理手順も、上記のように、光センサデータ取得モジュール48及び指先位置特定モジュール50の機能により実行される。ここで、S30では、外光によって最も明るい背景部分を無視し、残った部分の中の明るさを区別する。つまり、図3で説明したように、元々は3段階ある明暗の差を、最も明るい背景部分を無視することで、2段階の明暗の区別に絞り込む。その様子を図6(a)に示す。図6(a)は、図3(a)のうち、背景部分60を無視し、最も暗い影の部分70と、やや明るい楕円部分80とを抜き出して図示したものである。このように、楕円部分80を周囲から区別する。これによって、この楕円部分80を指先位置として特定することができる(S32)。
S34−S36の処理手順は、バックライト光25が支配的な場合の処理手順である。この処理手順も、上記のように、光センサデータ取得モジュール48及び指先位置特定モジュール50の機能により実行される。ここで、S34では、バックライト光25が指6に妨げられず外部に向けて照射されて最も暗い背景部分を無視し、残った部分の中の明るさを区別する。ここでも、元々は3段階ある明暗の差を、最も暗い背景部分を無視することで、2段階の明暗の区別に絞り込む。その様子を図6(b)に示す。図6(b)は、図3(b)のうち、背景部分62を無視し、2番目に暗い指形部分72と、最も明るい楕円部分82とを抜き出して図示したものである。このように、楕円部分82を周囲から区別する。これによって、この楕円部分82を指先位置として特定することができる(S36)。
図7は、2段階の明暗差に着目して指先位置を特定する別の方法についての手順を示すフローチャートである。工程S10から工程S14までは、図4で説明した内容と同じであるので詳細な説明を省略する。S14で外光明るさが閾値以上かどうか判断し、閾値以上のときは、S40−S42の処理手順が選択され、閾値未満のときはS44−S46の手順が選択される。ここでも、S14の工程は、異なる処理手順の中から1つを選択することも含む選択工程でもある。
S40−S42の処理手順は、外光4が支配的な場合の処理手順である。S40では、外光によって最も明るい部分と最も暗い部分とを区別する。すなわち、2番目の明るさの部分を無視する。これによって、図3で説明したように、元々は3段階ある明暗の差を、中間の明るさの部分を無視することで、2段階の明暗の区別に絞り込む。その様子を図8(a)に示す。図8(a)は、図3(a)のうち、中間的に明るい楕円部分80を無視し、最も明るい背景部分60と、最も暗い影の部分70とを抜き出して図示したものである。このとき、最も暗い影の部分70において、背景部分60とも影の部分70とも異なる明るさの部分が、最も暗い影の部分70の輪郭線として検出される。すなわち、もっとも暗い影の部分70の先端部分に、楕円部分80が抜け落ちて認識される。この最も暗い影の部分70の内部の境界線で囲まれた部分を、指先位置として特定することができる(S42)。
S44−S46の処理手順は、バックライト光25が支配的な場合の処理手順である。S44では、最も明るい楕円部分82を無視し、残った部分の中の明るさを区別する。ここでも、元々は3段階ある明暗の差を、最も明るい楕円部分を無視することで、2段階の明暗の区別に絞り込む。その様子を図8(b)に示す。図8(b)は、図3(a)のうち、最も明るい楕円部分82を無視し、最も暗い背景部分62と、次に暗い指形部分72とを抜き出して図示したものである。このとき、次に暗い指形部分72において、背景部分62とも指形部分72とも異なる明るさの部分が、指形部分72の輪郭線として検出される。すなわち、指形部分72の先端部分に、楕円部分82が抜け落ちて認識される。この指形部分72の内部の境界線で囲まれた部分を、指先位置として特定することができる(S46)。
このように、ガラス基板に入射する外光の明るさに応じて、指先検出のための処理手順を選択することで、外光が明るくても暗くても、指先位置の検出ができる。
本発明に係る実施の形態のタッチセンサシステムを内蔵する液晶表示パネル装置の構成を示す図である。 本発明に係る実施の形態において、ガラス基板の表面に指の先端の指先が触れたときの様子を示す図である。 本発明に係る実施の形態において、ガラス基板の表面に指の先端の指先が触れたときに、ガラス基板の裏側から見た明るさを模式的に示した図である。 本発明に係る実施の形態において、指先位置検出の手順についてのフローチャートである。 他の実施形態における指先位置検出の手順についてのフローチャートである。 図5における手順を説明する図である。 他の実施形態における指先位置検出の手順についてのフローチャートである。 図7における手順を説明する図である。
符号の説明
4 外光、6 指、8 指先、10 液晶表示パネル装置、12 ガラス基板、14 入力部、16 パネル制御部、18 ゲート駆動部、20 データ駆動部、22 画素デバイス、24 バックライト、25 バックライト光、26 バックライト駆動部、30 指検出用光センサ、32 光センサセンシング部、34 外光センサ、40 タッチセンサ制御部、42 タッチ検出モジュール、44 外光明るさ取得モジュール、46 処理方法選択モジュール、48 光センサデータ取得モジュール、50 指先位置特定モジュール、60,62 背景部分、70 影の部分、72 指形部分、80,82 楕円部分。

Claims (9)

  1. パネルにタッチした指先の位置を検出するタッチセンサシステムにおいて、
    前記パネル内にマトリクス状に複数配置される指検出用光センサと、
    前記複数の指検出用光センサの検出信号を画像処理して、前記パネルにタッチした指先の位置を特定する画像処理部と、
    を備え、
    前記画像処理部は、前記パネルに入射する外光の明るさに応じて、指先検出のための画像処理方法を選択する選択手段を有することを特徴とするタッチセンサシステム。
  2. 請求項1に記載のタッチセンサシステムにおいて、
    前記選択手段は、
    前記外光の明るさがバックライト光の明るさに比較して明るく、前記外光による指の影を前記指検出用光センサが検出することができる第1の場合と、前記バックライト光の明るさが前記外光の明るさに比較して明るく、前記バックライト光を受けて指から反射する光を前記指検出用光センサが検出することができる第2の場合と、に応じて、前記指先検出のための画像処理方法を選択することを特徴とするタッチセンサシステム。
  3. 請求項2に記載のタッチセンサシステムにおいて、
    前記画像処理部は、
    前記第1の場合に、前記外光による前記指の影の中で、前記パネルにタッチしている指先部分と、タッチしていない指の部分との間で、前記バックライト光を受けて反射する光の強さが異なることに基づいて、前記指先の位置を特定することを特徴とするタッチセンサシステム。
  4. 請求項2に記載のタッチセンサシステムにおいて、
    前記画像処理部は、
    前記第2の場合に、前記バックライト光を受けて反射する光の強さが、前記パネルにタッチしている指先部分と、タッチしていない指の部分との間で異なることに基づいて、前記指先の位置を特定することを特徴とするタッチセンサシステム。
  5. 請求項2に記載のタッチセンサシステムにおいて、
    前記画像処理部は、
    前記第1の場合に、前記指検出用光センサが最も明るい部分として検出する領域と、最も暗い部分として検出する領域とを区別し、その区別に基づいて、前記指先の位置を特定することを特徴とするタッチセンサシステム。
  6. 請求項2に記載のタッチセンサシステムにおいて、
    前記画像処理部は、
    前記第2の場合に、前記指検出用光センサが最も暗い部分として検出する領域と、次に暗い部分として検出する領域とを区別し、その区別に基づいて、前記指先の位置を特定することを特徴とするタッチセンサシステム。
  7. 請求項5又は請求項6に記載のタッチセンサシステムにおいて、
    前記画像処理部は、エッジ検出法によって明るさの異なる領域を区別することを特徴とするタッチセンサシステム。
  8. 請求項1に記載のタッチセンサシステムにおいて、さらに、
    指先から放射される特定波長の光を検知して、指が前記パネルにタッチしたことを検出することを特徴とするタッチセンサシステム。
  9. 請求項1に記載のタッチセンサシステムにおいて、さらに、
    前記外光の強さを検出する外光センサを備えることを特徴とするタッチセンサシステム。
JP2006000081A 2006-01-04 2006-01-04 タッチセンサシステム Withdrawn JP2007183706A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006000081A JP2007183706A (ja) 2006-01-04 2006-01-04 タッチセンサシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006000081A JP2007183706A (ja) 2006-01-04 2006-01-04 タッチセンサシステム

Publications (1)

Publication Number Publication Date
JP2007183706A true JP2007183706A (ja) 2007-07-19

Family

ID=38339755

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006000081A Withdrawn JP2007183706A (ja) 2006-01-04 2006-01-04 タッチセンサシステム

Country Status (1)

Country Link
JP (1) JP2007183706A (ja)

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009151493A (ja) * 2007-12-19 2009-07-09 Sony Corp 表示装置
JP2009193329A (ja) * 2008-02-14 2009-08-27 Sony Corp 表示装置および撮像装置
JP2010055575A (ja) * 2008-08-29 2010-03-11 Sharp Corp 画像処理装置、画像処理プログラム、コンピュータ読み取り可能な記録媒体、電子機器及び画像処理方法
JP2010097618A (ja) * 2008-10-17 2010-04-30 Samsung Mobile Display Co Ltd タッチスクリーンディスプレイ装置及びその駆動方法
JP2010097608A (ja) * 2008-10-15 2010-04-30 Au Optronics Corp 液晶ディスプレイ装置およびその駆動方法
JP2010158389A (ja) * 2009-01-08 2010-07-22 Sharp Corp 方向特定装置、方向特定方法
KR100975869B1 (ko) * 2008-10-17 2010-08-13 삼성모바일디스플레이주식회사 터치 포인트 검출 방법 및 장치
EP2226764A1 (en) 2009-03-06 2010-09-08 Sharp Kabushiki Kaisha Image analysis device, image analysis method, image sensing device, image analysis program, and storage medium
EP2228709A2 (en) 2009-03-09 2010-09-15 Semiconductor Energy Laboratory Co, Ltd. Touch panel
JP2010262641A (ja) * 2009-05-06 2010-11-18 Samsung Mobile Display Co Ltd タッチ動作認識方法及び装置
WO2010137219A1 (ja) * 2009-05-28 2010-12-02 シャープ株式会社 タッチパネル、液晶パネル、液晶表示装置、及びタッチパネル一体型の液晶表示装置
KR20100138840A (ko) 2009-06-25 2010-12-31 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
KR20110002812A (ko) 2009-07-02 2011-01-10 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
JP2011034364A (ja) * 2009-08-01 2011-02-17 Ricoh Co Ltd 表示装置
EP2290509A1 (en) 2009-08-24 2011-03-02 Semiconductor Energy Laboratory Co, Ltd. Method for driving touch panel
KR20110100295A (ko) 2008-12-24 2011-09-09 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
US8400428B2 (en) 2008-10-02 2013-03-19 Semiconductor Energy Laboratory Co., Ltd. Touch panel and method for driving the same
EP2226710A3 (en) * 2009-03-06 2013-08-28 Sharp Kabushiki Kaisha Position detection device
JP2013206350A (ja) * 2012-03-29 2013-10-07 Ntt Docomo Inc 情報処理装置及び当該情報処理装置における入力箇所の補正方法
US8847916B2 (en) 2009-01-21 2014-09-30 Semiconductor Energy Laboratory Co., Ltd. Touch panel and electronic device
US8988405B2 (en) 2009-10-26 2015-03-24 Semiconductor Energy Laboratory Co., Ltd. Display device and semiconductor device
US9035908B2 (en) 2008-12-24 2015-05-19 Semiconductor Energy Laboratory Co., Ltd. Touch panel, display device, and electronic device
JP2016503529A (ja) * 2012-10-15 2016-02-04 イソルグ 表示画面及びユーザインタフェースデバイスを備えた携帯機器
US9368541B2 (en) 2009-11-06 2016-06-14 Semiconductor Energy Laboratory Co., Ltd. Display device
US9898140B2 (en) 2012-04-11 2018-02-20 Commissariat à l'énergie atomique et aux énergies alternatives User interface device having transparent electrodes
US9983702B2 (en) 2013-12-02 2018-05-29 Semiconductor Energy Laboratory Co., Ltd. Touch panel and method for manufacturing touch panel
US10203811B2 (en) 2012-09-12 2019-02-12 Commissariat A L'energie Atomique Et Aux Energies Non-contact user interface system
WO2021260493A1 (ja) * 2020-06-26 2021-12-30 株式会社半導体エネルギー研究所 表示装置および電子機器

Cited By (44)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009151493A (ja) * 2007-12-19 2009-07-09 Sony Corp 表示装置
JP2009193329A (ja) * 2008-02-14 2009-08-27 Sony Corp 表示装置および撮像装置
US8797275B2 (en) 2008-02-14 2014-08-05 Japan Display West Inc. Display apparatus and image pickup apparatus
JP4626658B2 (ja) * 2008-02-14 2011-02-09 ソニー株式会社 表示装置、撮像装置および位置検出装置
JP2010055575A (ja) * 2008-08-29 2010-03-11 Sharp Corp 画像処理装置、画像処理プログラム、コンピュータ読み取り可能な記録媒体、電子機器及び画像処理方法
US8400428B2 (en) 2008-10-02 2013-03-19 Semiconductor Energy Laboratory Co., Ltd. Touch panel and method for driving the same
JP2010097608A (ja) * 2008-10-15 2010-04-30 Au Optronics Corp 液晶ディスプレイ装置およびその駆動方法
US8154532B2 (en) 2008-10-15 2012-04-10 Au Optronics Corporation LCD display with photo sensor touch function
KR100975869B1 (ko) * 2008-10-17 2010-08-13 삼성모바일디스플레이주식회사 터치 포인트 검출 방법 및 장치
JP2010097618A (ja) * 2008-10-17 2010-04-30 Samsung Mobile Display Co Ltd タッチスクリーンディスプレイ装置及びその駆動方法
US9024885B2 (en) 2008-10-17 2015-05-05 Samsung Display Co., Ltd. Touch screen display apparatus for performing flash mode and method of operating the apparatus
US8421775B2 (en) 2008-10-17 2013-04-16 Samsung Display Co., Ltd. Method and apparatus for detecting touch point
KR20110100295A (ko) 2008-12-24 2011-09-09 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
US9035908B2 (en) 2008-12-24 2015-05-19 Semiconductor Energy Laboratory Co., Ltd. Touch panel, display device, and electronic device
US9310915B2 (en) 2008-12-24 2016-04-12 Semiconductor Energy Laboratory Co., Ltd. Touch panel and driving method thereof
JP2010158389A (ja) * 2009-01-08 2010-07-22 Sharp Corp 方向特定装置、方向特定方法
US9389720B2 (en) 2009-01-21 2016-07-12 Semiconductor Energy Laboratory Co., Ltd. Touch panel and electronic device
US8847916B2 (en) 2009-01-21 2014-09-30 Semiconductor Energy Laboratory Co., Ltd. Touch panel and electronic device
US9874979B2 (en) 2009-01-21 2018-01-23 Semiconductor Energy Laboratory Co., Ltd. Touch panel and electronic device
EP2226764A1 (en) 2009-03-06 2010-09-08 Sharp Kabushiki Kaisha Image analysis device, image analysis method, image sensing device, image analysis program, and storage medium
EP2226710A3 (en) * 2009-03-06 2013-08-28 Sharp Kabushiki Kaisha Position detection device
US9122348B2 (en) 2009-03-09 2015-09-01 Semiconductor Energy Laboratory Co., Ltd. Touch panel
KR20100101531A (ko) 2009-03-09 2010-09-17 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널
EP2228709A2 (en) 2009-03-09 2010-09-15 Semiconductor Energy Laboratory Co, Ltd. Touch panel
JP2010262641A (ja) * 2009-05-06 2010-11-18 Samsung Mobile Display Co Ltd タッチ動作認識方法及び装置
WO2010137219A1 (ja) * 2009-05-28 2010-12-02 シャープ株式会社 タッチパネル、液晶パネル、液晶表示装置、及びタッチパネル一体型の液晶表示装置
US8896576B2 (en) 2009-05-28 2014-11-25 Sharp Kabushiki Kaisha Touch panel, liquid crystal panel, liquid crystal display device, and touch panel-integrated liquid crystal display device
US8982099B2 (en) 2009-06-25 2015-03-17 Semiconductor Energy Laboratory Co., Ltd. Touch panel and driving method of the same
KR20100138840A (ko) 2009-06-25 2010-12-31 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
KR20110002812A (ko) 2009-07-02 2011-01-10 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 그 구동 방법
JP2011034364A (ja) * 2009-08-01 2011-02-17 Ricoh Co Ltd 表示装置
US8624875B2 (en) 2009-08-24 2014-01-07 Semiconductor Energy Laboratory Co., Ltd. Method for driving touch panel
EP2290509A1 (en) 2009-08-24 2011-03-02 Semiconductor Energy Laboratory Co, Ltd. Method for driving touch panel
US8988405B2 (en) 2009-10-26 2015-03-24 Semiconductor Energy Laboratory Co., Ltd. Display device and semiconductor device
US9639211B2 (en) 2009-11-06 2017-05-02 Semiconductor Energy Laboratory Co., Ltd. Display device
US9368541B2 (en) 2009-11-06 2016-06-14 Semiconductor Energy Laboratory Co., Ltd. Display device
JP2013206350A (ja) * 2012-03-29 2013-10-07 Ntt Docomo Inc 情報処理装置及び当該情報処理装置における入力箇所の補正方法
US9898140B2 (en) 2012-04-11 2018-02-20 Commissariat à l'énergie atomique et aux énergies alternatives User interface device having transparent electrodes
US10203811B2 (en) 2012-09-12 2019-02-12 Commissariat A L'energie Atomique Et Aux Energies Non-contact user interface system
JP2016503529A (ja) * 2012-10-15 2016-02-04 イソルグ 表示画面及びユーザインタフェースデバイスを備えた携帯機器
US10126933B2 (en) 2012-10-15 2018-11-13 Commissariat à l'Energie Atomique et aux Energies Alternatives Portable appliance comprising a display screen and a user interface device
US9983702B2 (en) 2013-12-02 2018-05-29 Semiconductor Energy Laboratory Co., Ltd. Touch panel and method for manufacturing touch panel
US10534457B2 (en) 2013-12-02 2020-01-14 Semiconductor Energy Laboratory Co., Ltd. Touch panel and method for manufacturing touch panel
WO2021260493A1 (ja) * 2020-06-26 2021-12-30 株式会社半導体エネルギー研究所 表示装置および電子機器

Similar Documents

Publication Publication Date Title
JP2007183706A (ja) タッチセンサシステム
US11080505B2 (en) Under-screen fingerprint reader
JP4748257B2 (ja) 生体認証装置
US9830009B2 (en) Apparatus and method for detecting hovering commands
CN108664895B (zh) 显示装置及其指纹识别方法
CN107958193B (zh) 显示模组及电子设备
US20180349669A1 (en) Operating method of optical fingerprint sensor, operating method of electronic device including the optical fingerprint sensor, and display device including the optical fingerprint sensor
TWI354919B (en) Liquid crystal display having multi-touch sensing
JP4630744B2 (ja) 表示装置
US20110234535A1 (en) Touched position identification method
JP2009064074A (ja) 入力装置
US8514201B2 (en) Image pickup device, display-and-image pickup device, and electronic device
JP2008003296A (ja) 液晶表示装置
TWI467446B (zh) 光學式觸控板及其亮度控制方法
WO2018082401A1 (zh) 显示装置和电子装置
JP2008083675A (ja) マルチタッチ感知機能を有する液晶表示装置とその駆動方法
JP5252427B2 (ja) 入力装置および表示装置
KR20110065859A (ko) 광터치 패널 및 그 구동 방법
CN112416159A (zh) 具有显示驱动、触摸感测及指纹感测功能的电子电路
KR100977219B1 (ko) 액정표시장치
KR20100066838A (ko) 터치 스크린 디스플레이 장치 및 이의 구동 방법
US20190018564A1 (en) Display device and touch sensing method using the same
JP2010152573A (ja) 表示装置、および表示方法
JP2011107829A (ja) センサ装置、及び画像処理システム
JP2010182062A (ja) 電気光学装置および電子機器

Legal Events

Date Code Title Description
RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071220

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20071226

A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20090407