JP5619521B2 - タッチセンサ - Google Patents

タッチセンサ Download PDF

Info

Publication number
JP5619521B2
JP5619521B2 JP2010183770A JP2010183770A JP5619521B2 JP 5619521 B2 JP5619521 B2 JP 5619521B2 JP 2010183770 A JP2010183770 A JP 2010183770A JP 2010183770 A JP2010183770 A JP 2010183770A JP 5619521 B2 JP5619521 B2 JP 5619521B2
Authority
JP
Japan
Prior art keywords
pixel
photosensor
image
input
touch panel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2010183770A
Other languages
English (en)
Other versions
JP2011070658A (ja
JP2011070658A5 (ja
Inventor
宗広 上妻
宗広 上妻
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Semiconductor Energy Laboratory Co Ltd
Original Assignee
Semiconductor Energy Laboratory Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Semiconductor Energy Laboratory Co Ltd filed Critical Semiconductor Energy Laboratory Co Ltd
Priority to JP2010183770A priority Critical patent/JP5619521B2/ja
Publication of JP2011070658A publication Critical patent/JP2011070658A/ja
Publication of JP2011070658A5 publication Critical patent/JP2011070658A5/ja
Application granted granted Critical
Publication of JP5619521B2 publication Critical patent/JP5619521B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0412Digitisers structurally integrated in a display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means
    • G06F3/0421Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means by interrupting or reflecting a light beam, e.g. optical touch-screen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units

Description

技術分野は、タッチセンサに関する。またタッチセンサを表示部に備えたタッチパネル、及びタッチパネルを有する表示装置に関する。
近年、液晶ディスプレイやEL(エレクトロルミネセンス)ディスプレイの市場が大きくなったことで、パネルに対する付加価値の重要性が増してきている。中でもユーザーインターフェースとしてタッチセンサを表示部に備えたタッチパネルが注目され、携帯型ゲーム等のモバイル機器への導入が進んでいる。
また、指紋認証装置等の表示部を必須としない装置にも、タッチセンサを搭載し、本人認証を行う技術が提案されている。
例えばタッチパネルにおいては、表示部の画素内にフォトセンサを配置し、表示画面への入射光をフォトセンサで検出することにより、情報の入力を可能にしたものが開発されている(例えば特許文献1)。
この種のフォトセンサを備えたタッチパネルでは、画素内にフォトセンサとして例えばフォトダイオードを配置し、表示画面上に投影された指や物体等の影による光量の変化をフォトダイオードで検出する技術や、ライトペンなどの発光する物体からの光照射による光量の変化をフォトダイオードで検出する技術が提案されている。
特開2004−318819号公報
タッチセンサ、タッチパネル、及びそれらを用いた装置において、入力の検出を正確に行い誤動作を防止することを目的の一とする。
また、入力の検出に要する時間を短縮することを目的の一とする。
タッチセンサの一態様は、フォトセンサを備えた入力部を有し、入力部に対象物が接触した際、対象物の色が変化することを利用して、タッチセンサへの入力を検出することを特徴とする。
検出原理は、例えば対象物を人の指とした場合、入力部への接触に伴い、接触した部分の指の色が、個人差はあるが、接触前の赤色からピンク色もしくは白色に変化することを利用するものである。
具体的には、フォトセンサにおいて指の画像を生成し、生成した画像の色情報を画像処理によって分析することで接触部分の面積を算出し、その面積情報に基づいてタッチセンサへの入力を検出するものである。
上記タッチセンサは、入力部をタッチパネルとすることで、表示装置に応用することもできる。
本発明の一態様は、複数の画素にフォトセンサを有するタッチパネルと、画像処理部とを有し、フォトセンサは、タッチパネルと対象物との接触画像を生成し、画像処理部は、接触画像の色情報から接触部分の面積を算出し、面積に基づいてタッチパネルへの入力を検出する表示装置である。接触画像は、タッチパネルと対象物との接触後の画像を指す。
また、本発明の他の一態様は、複数の画素にフォトセンサを有するタッチパネルと、入力処理部と応答処理部とを備える画像処理部とを有し、フォトセンサは、タッチパネルと対象物との接触画像を生成し、入力処理部は、接触画像の色情報から接触部分の面積を算出し、応答処理部は、面積に基づいてタッチパネルへの入力を検出する表示装置である。
また、本発明の他の一態様は、複数の画素にフォトセンサを有するタッチパネルと、入力処理部と応答処理部とを備える画像処理部とを有し、フォトセンサは、タッチパネルと対象物との接触画像を生成し、入力処理部は、接触画像の色情報に対して、RGB値からHSV値への変換処理と、二値化処理と、ノイズ除去処理(ノイズフィルタ処理ともいう)と、ラベリング処理とを行い接触部分の面積を算出し、応答処理部は、面積に基づいてタッチパネルへの入力を検出する表示装置である。
また、面積に対してしきい値を設定し、面積としきい値との比較により、タッチパネルへの入力を検出してもよい。面積がしきい値を超えた場合に入力が行われたと判定され、面積がしきい値以下の場合に非入力であると判定される。しきい値以上の場合に入力が行われたと判定し、しきい値未満の場合に非入力であると判定してもよい。
また、面積に対して複数のしきい値を設定し、面積としきい値との比較により、タッチパネルへの入力の検出を多段階で行ってもよい。
なお、画像処理の他の態様として、タッチパネルと対象物との接触前後の画像について、色情報の変化量を分析することで接触部分の面積を算出する構成としてもよい。
タッチセンサ、タッチパネル、それらを用いた装置において、入力の検出を正確に行い誤動作を防止することができる。
また、画像処理を効率よく行い、入力の検出に要する時間を短縮することができる。
タッチパネルの構成を説明する図。 タッチパネルの構成を説明する図。 タッチパネルの構成を説明する図。 タイミングチャート。 タッチパネルの断面図。 タッチパネルの断面図。 タッチパネルの断面図。 画像処理を説明する図。 画像処理を説明する図。 画像処理を説明する図。 画像処理を説明する図。 電子機器を説明する図。 電子機器を説明する図。
実施の形態について、図面を参照して以下に説明する。ただし、本発明は以下の説明に限定されず、本発明の趣旨及びその範囲から逸脱することなく形態及び詳細を様々に変更し得ることは、当業者であれば容易に理解される。従って、本発明は以下に示す実施の形態の記載内容に限定して解釈されるものではない。なお、以下に説明する発明の構成において、同一部分または同様な機能を有する部分には同一の符号を異なる図面間で共通して用い、その繰り返しの説明は省略する。
(実施の形態1)
実施の形態1では、図1を用いて、タッチパネルを有する表示装置とその動作を説明する。
図1は、タッチパネルを有する表示装置のブロック図の一例である。
表示装置111は、タッチパネル100、入力処理部113と応答処理部114を有する画像処理部112、及び画像合成部115を備えている。ここで示した表示装置の構成は一例であり、これに限定されない。
タッチパネル100は、マトリクス状に配置された複数の画素104を有し、各画素104には表示素子105及びフォトセンサ106が配置されている。フォトセンサ106は、フォトダイオード等の受光素子である。なお、フォトセンサ106は、画素104の外に設けてもよい。また、フォトセンサ106の個数は、表示素子105の個数と異なっていてもよい。
本実施の形態では、タッチパネル100へ接触する対象物が人の指の場合を例に説明するが、人の指に限定されるものではない。
タッチパネル100に指が触れる際、各画素104に設けられたフォトセンサ106によりタッチパネル100を走査して、受け取った光を電気信号に変換し、タッチパネル100と指との接触画像を生成する。生成された接触画像は画像処理部112の入力処理部113に入力される。なお、フォトセンサ106が受け取る光は、表示装置の内部(バックライト等)から発せられ対象物で反射されたもの、外光等が対象物によって反射されたもの、対象物自体から発せられたもの、又は、外光等が対象物に遮られたものなどである。
入力処理部113は、入力された接触画像の色を判別し、接触画像の色情報から接触部分の面積を算出する。算出された面積は、応答処理部114に送信される。面積と入力圧が比例関係にあることから、面積に基づいて容易に入力を検出することが可能である。後の処理において、面積から算出した入力圧を利用してもよく、その場合は入力圧を算出する回路を設ければよい。
応答処理部114は、算出された面積が所定のしきい値を超える場合には入力が行われたと判定し、しきい値以下の場合には非入力であると判定する。なお、応答処理部114は、自動でしきい値を設定する機能を有していてもよい。
入力が行われたと判定された場合、応答処理部114は、入力が行われたことを示す応答画像を生成し、画像合成部115に出力する。
画像合成部115は、応答画像と、タッチパネル100に表示されていた画像とを重ね合わせ合成画像を生成し、タッチパネル100に出力する。
そしてタッチパネル100は、合成画像を表示し、入力が行われたことを伝達する。必ずしも応答画像、合成画像を生成する必要はなく、音声やランプ等により入力・非入力を伝達してもよい。また、合成画像を生成せず応答画像のみをタッチパネル100に出力してもよい。応答画像、合成画像を生成しない場合は、画像合成部115を設けなくても良い。
また、応答処理部114において、非入力であると判定された場合、非入力であることを伝達する処理を行ってもよい。
以上のように本実施の形態のタッチパネルは、フォトセンサ及び画像処理により入力を正確に判定することができ、誤動作を防止することができる。
また、本実施の形態ではタッチパネルについて説明したが、表示を行わない構成としてもよい。その場合、フォトセンサを有するタッチセンサを入力部に設け、本実施の形態で説明した画像処理部の分析により入力の検出を行う。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態2)
本実施の形態では、画像処理及び応答処理の一例について図1、図8〜11を用いて説明する。対象物の画像を生成する段階までは、実施の形態1と同様であるのでここでは省略する。本実施の形態では対象物を指とし、タッチパネルへの接触後の指画像についての処理を行う。ただし、対象物は指に限定されない。
生成された画像は、図1における画像処理部112の入力処理部113において処理される。入力処理部113のブロック図の一例を図8に示す。
入力処理部113では、タッチパネル100から画像が入力され、HSV変換処理801、二値化処理802、ノイズフィルタ処理803、ラベリング処理804、面積・位置情報算出処理805、特徴量抽出処理806を行い、応答処理部114に出力される。以下、各処理の詳細について説明する。
まず、HSV変換処理801を行う。入力された画像についてR(赤)、G(緑)、B(青)の各色の成分の輝度値を抽出する。
そして、抽出されたRGBの色情報を、色相(H:Hue)、彩度(S:Saturation)、明度(V:Value)の3つの成分から成るHSVを基準とした色情報に変換する。色相(0以上360未満の実数)は色の種類、彩度(0以上1以下の実数)は色の鮮やかさ、明度(0以上1以下の実数)は色の明るさを表す、HSVを基準とすることで、画像の色合いを検出することができるため、RGBより正確な入力の検出を行うことができる。ただし、HSVへの変換を行わずにRGBのまま画像処理を行うことや、またHSV以外のフォーマットに変換して画像処理を行うことも可能である。
RGBからHSVへの変換は、以下のようにして行われる。
抽出されたRGBの輝度値が(R、G、B)で表わされ、そのうち最大値:MAX、最小値:MINであるとする(R、G、Bはそれぞれ0以上1以下の実数とする)。
MAX=Rの時は、(式1):H=60×(G‐B)/(MAX‐MIN)+0で算出される。
またMAX=Gの時は、(式2):H=60×(B‐R)/(MAX‐MIN)+120で算出される。
そしてMAX=Bの時は、(式3):H=60×(R‐G)/(MAX‐MIN)+240で算出される。
また、(式4):S=(MAX‐MIN)/MAXであり、(式5):V=MAXである。
なお、Hが負の値を取る場合は、H+360として算出する。
一例として、(R、G、B)=(1、0、0)で表現される赤色の場合は、MAX=R=1、MIN=0であり(式1)が適用され、H=60×(0‐0)/(1‐0)+0=0となる。また、(式4)よりS=(1‐0)/1=1であり、(式5)よりV=1となる。すなわち、(H、S、V)=(0、1、1)に変換される。この値より、赤色の中でも最も鮮やか且つ最も明るい色合いを有していることが分かる。
別の例として、(R、G、B)=(1、1、0)で表現される黄色の場合は、MAX=RorG=1、MIN=0でり(式1)又は(式2)が適用される。(式1)を適用する場合はH=60×(1‐0)/(1‐0)+0=60、(式2)を適用する場合はH=60×(0‐1)/(1‐0)+120=60であり、いずれも同じ値となる。また(式4)よりS=(1‐0)/1=1であり、(式5)よりV=1となる。すなわち、(H、S、V)=(60、1、1)に変換される。
本実施の形態では、このようなRGBからHSVへの色情報の変換を行い、HSV値を用いて画像処理を行う。
以降の処理では、Hは0から359までの整数値を取る。
また、S、Vは変換時に0から1までの実数で表現されるが、データの取扱いを容易にするため、数値範囲を255倍することで、S、Vの取り得る値を新たに0から255までの整数値と定義する。
ただし、整数値の定義で最大値を255に限る必要はない。また、再定義をしなくても処理は可能である。
次に、HSV値に変換された画像は、二値化処理802が行われる。
二値化処理802は、HSV値にしきい値条件を設定した上で、各画素のHSV値をしきい値よって二分する処理であり、画像内の全ての画素について、画素単位で実施される。
具体的には、しきい値によって二分された各画素のHSV値は、1ビット(0または1)の二値変数で表される。
例えば、二値変数が1の場合はHSV値がしきい値条件を満たすことを表し、二値変数が0の場合にはHSV値がしきい値条件を満たさないことを表す。なお、二値変数の表現は0と1を入れ換えてもよい。
具体的に、二値化処理は色相H、彩度S、明度Vの各成分を条件値として用いて実行される。
色相H、彩度S、明度Vの各しきい値を設定することで、抽出したい領域を限定する。
各しきい値は、認識すべき対象物のみを抽出できる値に設定することが好ましい。
まず、色相Hは色の種類を表すため、対象物の色が特定の色であれば、特定の色のみを抽出できる条件を色相Hのしきい値で選択すればよい。
ただし、特に色の限定がなければ、色相Hのしきい値を設定する必要はない。
また、彩度Sは色の鮮やかさを表すため、対象物の鮮やかさが特定の鮮やかさであれば、特定の鮮やかさのみを抽出できる条件を彩度Sのしきい値で選択すればよい。
ただし、特に鮮やかさの限定がなければ、彩度Sのしきい値を設定する必要はない。
また、明度Vは色の明るさを表すため、対象物の明るさが特定の明るさであれば、特定の明るさのみを抽出できる条件を明度Vのしきい値で選択すればよい。
ただし、特に明るさの限定がなければ、明度Vのしきい値を設定する必要はない。
指の色相Hは、およそ0から30の赤色の範囲に含まれるので、赤色を抽出するしきい値を設定する。
指の彩度Sは、周辺光の明るさに依存してフォトセンサが生成する指の画像も変化するため、周辺光の影響を受ける。そのため、周辺光の強度に応じてしきい値を設定する。
同様に指の明度Vは、周辺光の明るさに依存してフォトセンサが生成する指の画像も変化するため、周辺光の影響を受ける。そのため、周辺光の強度に応じてしきい値を設定する。
各しきい値の範囲は、画像全体のHSV各種のヒストグラムを利用し、ヒストグラムの画素値の分布の傾向から自動に設定することも可能である。
以降の二値化処理の説明では、二値変数は、しきい値の条件を満たす場合に1とし、しきい値に満たない場合0とする。
一例として、画像内の画素値が色相H>200、彩度S>150、明度V>100である領域を残す場合を図9に示す。
図9(A)は、画像の一部であり、各画素の色相H、彩度S、明度Vの値を表記している。
そして図9(B)は、図9(A)に示す画像を、しきい値の条件である色相H>200、彩度S>150、明度V>100に従って二値変数に変換した値を表記している。
例えば、図9(A)において画素901は(H、S、V)=(250、200、200)であり、しきい値の条件である色相H>200、彩度S>150、明度V>100を満たしているため、図9(B)における処理後の画素901の二値変数は1となる。
一方、画素902は(H、S、V)=(250、50、34)であり、条件を満たしていないため、処理後の画素902の二値変数は0となる。
同様に、全ての画素について二値化処理を行う。ここではH、S、Vの全てについてしきい値を設定したが、2つ以下としてもよい。
図9に示すように、二値化処理を行うことで、画像処理に必要となる色情報を1ビットに圧縮し、データ量を大幅に削減することが可能になる。
また、データ量の削減によって、以降の画像処理回路の規模が削減することができる。
次に、二値化処理された画像は、ノイズフィルタ処理803が行われる(図8)。
ノイズフィルタ処理は、画像内に含まれるノイズ画像を取り除く動作であり、画像内の全ての画素に対して、画素単位で実施される。
そして、メディアンフィルタ処理の結果は、対象となる画素及びその近傍の複数の画素を用い、各画素値の分布から算出される。
ここでは一般的にメディアンフィルタと呼ばれるノイズフィルタ処理を用いる。
以下に、メディアンフィルタの動作を図10を用いて説明する。
図10(A)に示す画素値を持つ画像に対して、メディアンフィルタで処理した結果を図10(B)に示す。
まず、メディアンフィルタの最初のステップとして、対象となる画素を中心に3×3の領域内の画素の値が入力される。3×3の領域に限定されず5×5等としてもよい。
そして次のステップとして、3×3の領域内の9つの画素の入力値をソート処理によって昇順又は降順にし、並べ替えた9つの入力値の中央値を処理結果として出力する。
例えば、図10(A)の画素1001に対してメディアンフィルタの処理を行う。画素1001を中心とした3×3の領域1002に存在する画素の数値は、{0、1、1、1、1、0、1、1、0}であり、昇順に並べ替えると{0、0、0、1、1、1、1、1、1}となる。昇順の結果から中央値は1であるため、図10(B)に示すように、処理後の画素1001の数値は1となる。
また、図10(A)の画素1003に対してメディアンフィルタの処理を行う。画素1003を中心とした3×3の領域1004に存在する数値は、{0、0、1、1、1、0、0、0、0}であり、昇順に並べ替えると、{0、0、0、0、0、0、1、1、1}となる。昇順の結果から中央値は0であるため、図10(B)に示すように、処理後の画素1003の数値は0となる。
同様にして、各画素について処理を行う。必ずしも入力値の中央値を出力する必要はなく、4番目又は6番目の値を出力し、フィルタ処理の精度を調整してもよい。
なお、図10(A)において外周に位置する画素は、メディアンフィルタに必要な3×3の領域が存在しないため、処理は行われず、そのままのデータが出力される。外周に位置する画素は、例えば、図10(A)の1列目、6列目、1行目、6行目にある画素(20画素分)である。
メディアンフィルタは、小さなノイズの除去に特に有効である。
また、孤立したノイズは後のラベリング処理の対象となるため、メディアンフィルタによりノイズを除去することでラベリング処理の回数を軽減することが可能である。
ノイズフィルタ処理は、メディアンフィルタ以外にも複数の処理方法があり、他の処理方法を適用しても良い。
次に、ノイズフィルタ処理を行った画像に対して、ラベリング処理を行う。
ラベリング処理は、画像内の一部分の領域をグループ化する手法として用いられる。グループ化することで、後の処理をグループ単位で行うことができる。
本実施の形態では、ラベリング処理は、任意の位置にある画素に対し、該画素と該画素の近傍の複数の画素について画素の値を比較し、画素データが同一である画素に同一のラベル値(領域番号)を付ける動作であり、画像内の全ての画素について、画素単位で実施される。
ラベリング処理の対象となる画像は、二値変数で構成されており、0または1で表現される。
まず、二値変数が0の画素は、ラベル値を0とし、グループ化は行わない。
一方、二値変数が1の画素は、ラベル値1以上の整数値を付与し、同じラベル値同士の画素をグループ化する。
二値変数が1の画素にラベル値を付与する条件は以下の3点が上げられる。
第1の条件として、隣接画素が存在しない、もしくは隣接画素のラベル値が0、もしくは隣接画素のラベル値が付与されていない場合に、新たにラベル値が付与する。
第2の条件として、ラベル値が付与されておらず、かつ、隣接画素のいずれか1つに1以上のラベル値が付与されている場合は、当該隣接画素と同じラベル値を付与する。
第3の条件として、隣接画素同士が少なくとも2つの異なるラベル値を持つ場合、最小のラベル値と同じ値を付与する。
ここで隣接画素とは、1つ画素と接する八方向の画素を表す。
ラベリング処理の具体的な動作について図11を用いて説明する。
図11(A)は、ラベリング処理前の画像であり、各画素は二値変数で表現されている。
図11(A)の画像の左上から画素を走査し、一画素ずつラベル値を付与する。図11(B)はラベリング処理後の画像である。ラベリング処理の過程を示す図は省略する。
まず、画素1101は、二値変数が0である。そのためラベル値は0とする。この後の二値変数が0の画素の処理ついては、同様にラベル値は0とする。
次に、画素1102は、二値変数が1である。画素1102を処理する際には、隣接画素がラベル値0、または付与されていないので、上記の第1の条件に従い、新たにラベル値1が付与される。
次に、画素1102の右に隣接する画素1103は、二値変数が1である。画素1103を処理する際には、画素1103の隣接画素は、画素1102がラベル値1を持ち、その他の隣接画素がラベル値0、または付与されていない。すなわち、画素1103は、1以上のラベル値が付与されている画素1102が隣接しているため、上記の第2の条件に従い、画素1102のラベル値と同じラベル値1が割り当てられる。
同様にして画素群1104の各画素についてラベル値1が割り当てられる。
また、図11(A)において、二値変数が1の画素1105は、隣接画素がラベル値は0、または付与されていないので、上記の第1の条件に従い、新たにラベル値が付与される。ここで、既に画素群1104の各画素にラベル値1が付与されているため、画素1105はラベル値2が付与される。
同様にして、画素群1106の各画素についてラベル値2が付与される。
更に画素群1107の各画素についても、同様の方法によって、ラベル値3が付与される。
以上のように、ラベル値が付与されることで、同じラベル値同士の画素をグループ化することできる。グループ化することで、後の処理は、ラベル値の指定により領域の選択を行うことができ、画像の分離や部分的な合成等の画像の加工が非常に容易になる。
次に、ラベル値を付与した画像に対して、面積・位置情報算出処理805を行う(図8)。
面積情報は、同じラベル値を持つ画素数をカウントすることで得られる。また位置情報は、面積の重心位置であるので、同じラベル値を持つ画素の座標位置と、同じラベル値を持つ画素の面積から算出できる。
また面積情報は、認識すべき画像か、不要な画像かを判別するために有効に機能する。不要な画像としては、画像処理の過程でノイズになる画像の一部または全部があげられる。ノイズは、認識すべき画像より面積が小さいという特徴を持っているため、面積にしきい値を設定し、しきい値を超える面積を持つものを選択することで、ノイズを除去することができる。
次に、ラベル値を付与した画像に対して、特徴量抽出処理を行っても良い。
特徴量とは、例えば円形度など、数値で表現可能な画像の特徴のことである。
更に、円形度は画像がどれだけ円に近いかを数値で表現したものである。
例えば、指でパネル表面を押す場合、指の接触部分は円形に近い形状となる。
円形度をしきい値として画像に与えることで、指の検出精度の向上が図れる。
面積のしきい値条件と共に、特徴量のしきい値条件を設定することで、検出精度を高めることが可能である。
ただし、特徴量抽出処理は行わなくてよく、その場合、面積情報及び位置情報が出力される。
入力処理部113は、得られた画像の面積情報及び位置情報を応答処理部114へと出力する(図1、図8)。
応答処理部114は、面積情報、位置情報に基づき入力の判定を行い、結果をタッチパネル100にフィードバックする機能を有する。
応答処理の例として、誤入力防止機能について説明する。
誤入力防止機能は、意図せずにタッチパネルに触れた場合に非入力であると判定する機能である。
意図せずにタッチパネルに接触した場合は、指を押し付ける動作ではなく、指を触れる動作であるため、検出される指の面積は小さい値となる。
そのため、面積にしきい値を設け、面積としきい値との比較によって、指を押しつける動作であるか、意図せず指を触れる動作であるかを判定することができる。
例として、図11(B)の面積情報から入力を判定する場合について説明する。
図11(B)において、画素群1104の位置に指を押しつける動作があり、画素群1106及び画素群1107の位置に意図せず指を触れる動作があったとする。
画素群1104の面積は12、画素群1106の面積は4、画素群1107の面積は9であるため、例えば、面積のしきい値を10と設定しておき、各面積としきい値を比較する。
画素群1104の面積はしきい値を超えるため、指を押しつける動作であると判定することができる。そして、画素群1106及び画素群1107の面積はしきい値以下であるため、意図せず指を触れる動作であると判定することができる。
したがって、指を押しつける動作の場合に入力があり、意図せず指を触れた動作の場合には非入力であると判定することが可能である。
また、図11(B)において、しきい値を8にした場合は、画素群1104及び画素群1107の2点に入力があり、画素群1106は非入力と判定される。これを応用すれば入力箇所が複数の場合についても入力の検出が可能となり、タッチパネルの機能を向上させることができる。
更に、面積に対して複数のしきい値を設定し、面積としきい値との比較により、タッチパネルへの入力の検出を多段階で行ってもよい。
例えば、第1及び第2の二つのしきい値を設定した時は、面積が第1のしきい値以下の場合に非入力であると判定され、第1のしきい値を超え且つ第2のしきい値以下の場合に弱い入力が行われたと判定され、第2のしきい値を超えた場合に強い入力が行われたと判定する。
このように複数のしきい値を設定し、多段階に検出を行うことで、入力の検出をより精度良く行うことができる。
この多段階の検出を図11(B)の面積情報に応用し、第1のしきい値を8、第2のしきい値を10とした場合、画素群1104及び画素群1107の2点の入力を検出するだけでなく、入力の強弱についても検出することができ、タッチパネルの機能を更に向上させることが可能である。
応答処理部114は、応答画像をパネルに表示するために入力処理部113で得られた情報に基づき応答画像を生成する。
例えば、位置情報に基づいて指が触れた場所に○印を表示する処理が挙げられる。
また、スイッチ画像を表示しておき、スイッチ画像の位置に指の位置情報が得られた場合、スイッチを押下したものとみなすことができる。タッチパネル100にてスイッチ切り替えが可能となる。
画像合成部115は、タッチパネル100に表示される画像と、応答処理部114で生成された応答画像を重ね合わせた合成画像を生成する機能を持つ。
画像合成部115から出力された合成画像はタッチパネル100に入力され、合成画像が表示される。
なお、必ずしも応答画像を生成する必要はなく、音声やランプ等により入力・非入力を伝達してもよい。応答画像を生成しない場合は、画像合成部115を設けなくても良い。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態3)
次に、タッチパネルの詳細な回路構成について、その一例を図1〜図4を参照して説明する。
図1において、タッチパネル100は、画素回路101、表示素子制御回路102及びフォトセンサ制御回路103を有する。画素回路101は、行列方向にマトリクス状に配置された複数の画素104を有する。各々の画素104は、表示素子105とフォトセンサ106を有する。
表示素子105は、薄膜トランジスタ(Thin Film Transistor:TFT)、保持容量、液晶層を有する液晶素子などを有する。薄膜トランジスタは、保持容量への電荷を注入もしくは排出を制御する機能を有する。保持容量は、液晶層に印加する電圧に相当する電荷を保持する機能を有する。液晶層に電圧を印加することで偏光方向が変化することを利用して、液晶層を透過する光の明暗(階調)を作ることで、画像表示が実現される。液晶層を透過する光には、光源(バックライト)によって液晶表示装置の裏面から照射される光を用いる。
なお、カラー画像表示を行うには、例えば、カラーフィルタを用いる方式、所謂、カラーフィルタ方式を用いれば良い。これは、液晶層を透過した光がカラーフィルタを通過することで、特定の色(例えば、赤(R)、緑(G)、青(B))の階調を作ることができる。ここで、カラーフィルタ方式を用いる際に、赤(R)、緑(G)、青(B)のいずれかの色を発光する機能を有する画素104を、各々、R画素、G画素、B画素と呼ぶことにする。
なお、表示素子105が液晶素子を有する場合について説明したが、発光素子などの他の素子を有していてもよい。発光素子は、電流または電圧によって輝度が制御される素子であり、具体的には発光ダイオード、OLED(Organic Light Emitting Diode)等が挙げられる。
フォトセンサ106は、フォトダイオードなど、受光することで電気信号を発する機能を有する素子と、薄膜トランジスタとを有する。なお、フォトセンサ106は、バックライトからの光が指等の対象物に照射された際の反射光を受光し、対象物の画像を生成する。
表示素子制御回路102は、表示素子105を制御するための回路であり、ビデオデータ信号線などの信号線(「ソース信号線」ともいう。)を介して表示素子105に信号を入力する表示素子駆動回路107と、走査線(「ゲート信号線」ともいう。)を介して表示素子105に信号を入力する表示素子駆動回路108を有する。例えば、走査線側の表示素子駆動回路108は、特定の行に配置された画素が有する表示素子を選択する機能を有する。また、信号線側の表示素子駆動回路107は、選択された行の画素が有する表示素子に任意の電位を与える機能を有する。なお、走査線側の表示素子駆動回路108により高電位を印加された表示素子では、薄膜トランジスタが導通状態となり、信号線側の表示素子駆動回路107により与えられる電荷が供給される。
フォトセンサ制御回路103は、フォトセンサ106を制御するための回路であり、フォトセンサ出力信号線、フォトセンサ基準信号線等の信号線側のフォトセンサ読み出し回路109と、走査線側のフォトセンサ駆動回路110を有する。例えば、走査線側のフォトセンサ駆動回路110は、特定の行に配置された画素が有するフォトセンサ106を選択する機能を有する。また、信号線側のフォトセンサ読み出し回路109は、選択された行の画素が有するフォトセンサ106の出力信号を取り出す機能を有する。なお、信号線側のフォトセンサ読み出し回路109は、アナログ信号であるフォトセンサの出力を、OPアンプを用いてアナログ信号のままタッチパネル外部に取り出す構成や、A/D変換回路を用いてデジタル信号に変換してからタッチパネル外部に取り出す構成が考え得る。
画素104の回路図について、図2を用いて説明する。画素104は、トランジスタ201、保持容量202及び液晶素子203を有する表示素子105と、フォトダイオード204、トランジスタ205及びトランジスタ206を有するフォトセンサ106とを有する。
トランジスタ201は、ゲートがゲート信号線207に、ソース又はドレインの一方がビデオデータ信号線210に、ソース又はドレインの他方が保持容量202の一方の電極と液晶素子203の一方の電極に電気的に接続されている。保持容量202の他方の電極と液晶素子203の他方の電極は一定の電位に保たれている。液晶素子203は、一対の電極と、該一対の電極の間に液晶層を含む素子である。
トランジスタ201は、ゲート信号線207に”High”(高電位)が印加されると、ビデオデータ信号線210の電位を保持容量202と液晶素子203に印加する。保持容量202は、印加された電位を保持する。液晶素子203は、印加された電位により、光の透過率を変更する。
フォトダイオード204は、一方の電極がフォトダイオードリセット信号線208に、他方の電極がトランジスタ205のゲートに電気的に接続されている。トランジスタ205は、ソース又はドレインの一方がフォトセンサ基準信号線212に、ソース又はドレインの他方がトランジスタ206のソース又はドレインの一方に電気的に接続されている。トランジスタ206は、ゲートがゲート信号線209に、ソース又はドレインの他方がフォトセンサ出力信号線211に電気的に接続されている。
次に、フォトセンサ読み出し回路109の構成について、図3を用いて説明する。図3において、画素1列分のフォトセンサ読み出し回路300は、p型TFT301、保持容量302、を有する。また、フォトセンサ読み出し回路300は、当該画素列のフォトセンサ出力信号線211、プリチャージ信号線303を有する。
フォトセンサ読み出し回路300では、画素内におけるフォトセンサの動作に先立ち、フォトセンサ信号線の電位を基準電位に設定する。図3では、プリチャージ信号線303を”Low”(低電位)とすることで、フォトセンサ出力信号線211を基準電位である高電位に設定することができる。なお、保持容量302は、フォトセンサ出力信号線211の寄生容量が大きい場合には、特別に設けなくても良い。なお、基準電位は、低電位とする構成も可能である。この場合、n型TFTを用いることで、プリチャージ信号線303を”High”とすることで、フォトセンサ出力信号線211を基準電位である低電位に設定することができる。
次に、本タッチパネルにおけるフォトセンサの読み出し動作について、図4のタイミングチャートを用いて説明する。図4において、信号401〜信号404は、図2におけるフォトダイオードリセット信号線208、トランジスタ206のゲートが接続されたゲート信号線209、トランジスタ205のゲートが接続されたゲート信号線213、フォトセンサ出力信号線211の電位に相当する。また、信号405は、図3におけるプリチャージ信号線303の電位に相当する。
時刻Aにおいて、フォトダイオードリセット信号線208の電位(信号401)を”High”とすると、フォトダイオード204が導通し、トランジスタ205のゲートが接続されたゲート信号線213の電位(信号403)が”High”となる。また、プリチャージ信号線303の電位(信号405)の電位は”Low”とすると、フォトセンサ出力信号線211の電位(信号404)は”High”にプリチャージされる。
時刻Bにおいて、フォトダイオードリセット信号線208の電位(信号401)を”Low”にすると、フォトダイオード204のオフ電流により、トランジスタ205のゲートが接続されたゲート信号線213の電位(信号403)が低下し始める。フォトダイオード204は、光が照射されるとオフ電流が増大するので、照射される光の量に応じてトランジスタ205のゲートが接続されたゲート信号線213の電位(信号403)は変化する。すなわち、トランジスタ205のソースとドレイン間の電流が変化する。
時刻Cにおいて、ゲート信号線209の電位(信号402)を”High”にすると、トランジスタ206が導通し、フォトセンサ基準信号線212とフォトセンサ出力信号線211とが、トランジスタ205とトランジスタ206とを介して導通する。すると、フォトセンサ出力信号線211の電位(信号404)は、低下していく。なお、時刻C以前に、プリチャージ信号線303の電位(信号405)の電位は”Low”とし、フォトセンサ出力信号線211のプリチャージを終了しておく。ここで、フォトセンサ出力信号線211の電位(信号404)が低下する速さは、トランジスタ205のソースとドレイン間の電流に依存する。すなわち、フォトダイオード204に照射されている光の量に応じて変化する。
時刻Dにおいて、ゲート信号線209の電位(信号402)を”Low”にすると、トランジスタ206が遮断され、フォトセンサ出力信号線211の電位(信号404)は、時刻D以後、一定値となる。ここで、一定値となる値は、フォトダイオード204に照射されている光の量に応じて変化する。したがって、フォトセンサ出力信号線211の電位を取得することで、フォトダイオード204に照射されている光の量を知ることができる。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態4)
本実施の形態では、実施の形態1〜3で説明したタッチパネルの構造について、図5、図6を用いて説明する。本実施の形態において、タッチパネルはフォトセンサと表示素子を有している。表示素子は液晶素子や発光素子を有する。
図5は、実施の形態1〜3で説明したタッチパネルにおいて、表示素子が液晶素子を有する液晶表示装置の断面の一例を示す図である。バックライトからの光が対象物である指2035で反射し、フォトセンサ2003に照射される状態を示している。対象物は指に限定されない。
基板2000としてはガラス基板又は石英基板等の透光性基板を用いる。基板2000上には、薄膜トランジスタ2001、薄膜トランジスタ2002、及びフォトセンサ2003が設けられている。フォトセンサ2003は、n型半導体層2010、i型半導体層2011、及びp型半導体層2012が順に積層されて設けられている。n型半導体層2010は、一導電型を付与する不純物元素(例えばリン)を含む。i型半導体層2011は、真性半導体である。p型半導体層2012は、一導電型を付与する不純物元素(例えばボロン)を含む。
図5では、薄膜トランジスタ2001及び薄膜トランジスタ2002としてトップゲート型の薄膜トランジスタを用いたが、これに限定されない。薄膜トランジスタ2001及び薄膜トランジスタ2002としてボトムゲート型の薄膜トランジスタを用いてもよい。また、フォトセンサ2003は、n型半導体層2010、i型半導体層2011、及びp型半導体層2012を有する構成としているが、これに限定されない。
本実施の形態では、薄膜トランジスタ2001及び薄膜トランジスタ2002の半導体層に結晶性半導体層を用いることができる。例えば、多結晶シリコンを用いることができる。しかしこれに限定されず、薄膜トランジスタ2001及び薄膜トランジスタ2002の半導体層に、非晶質シリコン、微結晶シリコン、単結晶シリコン、ペンタセン等の有機半導体、または酸化物半導体等を用いてもよい。なお、基板2000上に単結晶シリコンを用いた半導体層を形成する場合は、表面から所定の深さに損傷領域が設けられた単結晶シリコン基板と基板2000とを接合し、当該損傷領域で単結晶シリコン基板を分離することによって形成することができる。また、酸化物半導体としては、インジウム、ガリウム、アルミニウム、亜鉛及びスズから選んだ元素の複合酸化物を用いることができる。
絶縁層2004は、薄膜トランジスタ2001及び薄膜トランジスタ2002上を覆って設けられている。絶縁層2004上には絶縁層2005が設けられ、絶縁層2005上には絶縁層2006が設けられている。画素電極2007は絶縁層2006上に設けられ、フォトセンサ2003と下部電極2008は絶縁層2005上に設けられている。下部電極2008によって、絶縁層2005に設けられた開口部を介して、フォトセンサ2003と薄膜トランジスタ2001とが電気的に接続される。
また、対向基板2020には、対向電極2021、カラーフィルタ層2022、及びオーバーコート層2023が設けられている。対向基板2020と基板2000はシール材によって固定され、スペーサ2025によって基板間隔が概ね一定の距離に保たれている。画素電極2007と対向電極2021が液晶層2024を挟持することで、液晶素子を構成している。
カラーフィルタ層2022は、図5に示すようにフォトセンサ2003と画素電極2007の両方と重なるように設けてもよい。
また、フォトセンサ2003は、図5に示すように薄膜トランジスタ2002のゲート電極2013と重なっており、薄膜トランジスタ2002の信号線2014とも重なるように設けるとよい。
本実施の形態の液晶表示装置には、バックライトが設けられている。図5では、バックライトは基板2000側に設けられ、矢印2036で示す方向に光が照射されている。バックライトとしては、冷陰極管(Cold−Cathode Fluorescent Lamp:CCFL)又は白色の発光ダイオードを用いることができる。白色の発光ダイオードは、冷陰極管よりも明るさの調整範囲が広いため好ましい。
また、フォトセンサ2003を例えば駆動回路部にも設けて外光を検出し、使用環境に応じた表示が可能となるようにバックライトの明るさ(輝度)を調節することもできる。
また、バックライトは上記構成に限定されない。例えば、RGBの発光ダイオード(LED)を用いてバックライトを構成してもよいし、RGBのLEDバックライトを順次点灯させてフィールドシーケンシャル方式でカラー表示してもよい。この場合にはカラーフィルタ層は不要である。
ここで、図5に示す液晶表示装置の作製方法の一例について簡単に説明する。
まず、活性層として結晶性半導体層を有するトップゲート構造の薄膜トランジスタを作製する。ここではゲート電極2013を有する薄膜トランジスタ2002と、フォトセンサ2003と電気的に接続される薄膜トランジスタ2001を同一基板上に形成する。それぞれのトランジスタとして、n型薄膜トランジスタ又はp型薄膜トランジスタを用いることができる。また、これらのトランジスタと同一の工程で保持容量を形成することができる。なお、保持容量は、半導体層を下部電極とし、容量配線を上部電極とし、薄膜トランジスタ2001及び薄膜トランジスタ2002のゲート絶縁膜と同一の工程で形成される絶縁膜を誘電体とすればよい。
また、薄膜トランジスタの層間絶縁層の一つである絶縁層2004にはコンタクトホールが形成され、それぞれの薄膜トランジスタの半導体層と電気的に接続されるソース電極又はドレイン電極、若しくは、上方の配線と接続される接続電極を形成する。また、フォトセンサ2003と電気的に接続される薄膜トランジスタ2001の信号線も同一の工程で形成される。薄膜トランジスタ2002の信号線2014も同一の工程で形成される。
次に、信号線2014を覆う絶縁層2005を形成する。なお、本実施の形態では、透過型の液晶表示装置を例として示しているので、絶縁層2005には可視光を透過することのできる絶縁性材料を用いる。次に、絶縁層2005にコンタクトホールを形成し、絶縁層2005上に下部電極2008を形成する。
そして、下部電極2008の少なくとも一部と重なるようにフォトセンサ2003を形成する。下部電極2008は、フォトセンサ2003と、薄膜トランジスタ2001とを電気的に接続させる電極である。フォトセンサ2003は、n型半導体層2010、i型半導体層2011及びp型半導体層2012が順に積層されて形成される。本実施の形態では、プラズマCVD法を用いることで、リンを含む微結晶シリコンによりn型半導体層2010を形成し、非晶質シリコンによりi型半導体層2011を形成し、ボロンを含む微結晶シリコンによりp型半導体層2012を形成する。
次に、フォトセンサ2003を覆う絶縁層2006を形成する。透過型の液晶表示装置の場合は、絶縁層2006に可視光を透過することのできる絶縁性材料を用いる。その後、絶縁層2006にコンタクトホールを形成し、絶縁層2006上に画素電極2007を形成する。画素電極2007と同一の層により、配線を形成する。その配線は、フォトセンサ2003の上部電極であるp型半導体層2012と電気的に接続される。
次に、絶縁層2006上にスペーサ2025を形成する。図5では、スペーサ2025として柱状スペーサ(ポストスペーサ)を設けたが、球状スペーサ(ビーズスペーサ)を用いてもよい。
次に、液晶層2024としてTN液晶等を用いる場合には、画素電極2007上に配向膜を塗布し、ラビング処理を行う。
一方で、対向基板2020上にはカラーフィルタ層2022、オーバーコート層2023、対向電極2021を形成し、対向電極2021上に配向膜を塗布し、ラビング処理を行う。
その後、基板2000の配向膜が塗布された面と、対向基板2020の配向膜が塗布された面とを、シール材により貼り合わせる。これらの基板間には液晶滴下法又は液晶注入法により液晶を配置し、液晶層2024を形成する。
なお、液晶層2024は、配向膜を用いないブルー相を示す液晶を用いて形成してもよい。ブルー相は液晶相の一つであり、コレステリック液晶を昇温していくと、コレステリック相から等方相へ転移する直前に発現する相である。ブルー相は狭い温度範囲でしか発現しないため、液晶層2024に適用するには、温度範囲を改善するために5重量%以上のカイラル剤を混合させた液晶組成物を用いる。ブルー相を示す液晶とカイラル剤とを含む液晶組成物は、応答速度が10μs〜100μsと短く、光学的に等方性であるため配向処理が不要であり、視野角依存性が小さい。
次に、実施の形態1〜2で説明したタッチパネルにおいて、表示素子が発光素子を有するエレクトロルミネセンス表示装置(以下、「EL表示装置」という。)について説明する。
図6は、上記タッチパネルにおいて、発光素子としてEL素子(例えば、有機EL素子、無機EL素子、又は有機物及び無機物を含むEL素子)を用いたEL表示素子の断面の一例を示す図である。EL素子2127から発せられた光が対象物である指2135で反射し、フォトセンサ2103に照射される状態を示している。対象物は指に限定されない。
図6において、基板2100上には、薄膜トランジスタ2101、薄膜トランジスタ2102、及びフォトセンサ2103が設けられている。フォトセンサ2103は、n型半導体層2110、i型半導体層2111、及びp型半導体層2112が積層されて設けられている。基板2100は、シール材によって対向基板2120に固定されている。
絶縁層2104は、薄膜トランジスタ2101及び薄膜トランジスタ2102上を覆って設けられている。絶縁層2104上には絶縁層2105が設けられ、絶縁層2105上には絶縁層2106が設けられている。EL素子2127は絶縁層2106上に設けられ、フォトセンサ2103は絶縁層2105上に設けられている。フォトセンサ2103のn型半導体層2110によって、絶縁層2105に設けられた開口部を介して、フォトセンサ2103と薄膜トランジスタ2101とが電気的に接続されている。
また、センサ用配線2109によって、p型半導体層2112と他の配線とが電気的に接続されている。
EL素子2127は、画素電極2123、発光層2124、対向電極2125が積層されて設けられている。なお、バンク2126によって隣り合う画素同士の発光層が区切られている。
薄膜トランジスタ2101及び薄膜トランジスタ2102として、n型薄膜トランジスタ又はp型薄膜トランジスタを用いることができる。画素電極2123が陰極として機能する場合は、電流の向きを考慮して、画素電極2123と電気的に接続する薄膜トランジスタ2102をn型薄膜トランジスタとすることが好ましい。また、画素電極2123が陽極として機能する場合は、薄膜トランジスタ2102をp型薄膜トランジスタとすることが好ましい。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態5)
本実施の形態では、タッチパネルの構造について、実施の形態4とは別の構造を採用した場合を、図7を用いて説明する。
図7では、基板2200と対向基板2220との間に、フォトセンサ2201、薄膜トランジスタ2202、及び液晶素子または発光素子を含む層2224が設けられている。フォトセンサ2201は、n型領域2210、i型領域2211、及びp型領域2212を含む半導体層を有している。
実施の形態4とは異なり、フォトセンサ2201は、薄膜トランジスタ2202と同じ層に形成されている。また、フォトセンサ2201は、n型領域2210、i型領域2211、及びp型領域2212が一つの半導体層内に形成された構造を有している。
図7の構造を採用することで、フォトセンサ2201及び薄膜トランジスタ2202の半導体層を同一工程で形成することが可能となり、工程数が削減できる。
フォトセンサ2201及び薄膜トランジスタ2202の半導体層に結晶性半導体層を用いることができる。例えば、多結晶シリコンを用いることができる。しかしこれに限定されず、フォトセンサ2201及び薄膜トランジスタ2202の半導体層に、非晶質シリコン、微結晶シリコン、単結晶シリコン、ペンタセン等の有機半導体、または酸化物半導体等を用いてもよい。
なお、基板2200上に単結晶シリコンを用いた半導体層を形成する場合は、表面から所定の深さに損傷領域が設けられた単結晶シリコン基板と基板2200とを接合し、当該損傷領域で単結晶シリコン基板を分離することによって形成することができる。単結晶シリコンを用いた場合、フォトセンサ2201の電荷蓄積能力が極めて高くなるため、フォトセンサ2201を小型化し、画素の開口率を大きくすることが可能である。
また、酸化物半導体としては、インジウム、ガリウム、アルミニウム、亜鉛及びスズなどから選んだ元素の複合酸化物を用いることができる。
また、フォトセンサ2201の半導体層の膜厚を薄膜トランジスタ2202の膜厚より厚く形成することで、フォトセンサ2201の電荷蓄積能力を向上させることができ、単結晶シリコンを用いた場合に特に有効である。
なお、フォトセンサ2201の半導体層と薄膜トランジスタ2202の半導体層とを、異なる材料を用いて形成してもよい。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態6)
本実施の形態では、タッチセンサ又はタッチパネルを用いた電子機器の一例について、図12を用いて説明する。
図12(A)は表示装置であり、パーソナルコンピュータ用、TV放送受信用、広告表示用などの全ての情報表示用表示装置が含まれる。図12(B)は携帯情報端末である。図12(C)は現金自動預け入れ払い機である。図12(D)は携帯型ゲーム機である。図12(A)〜図12(D)の電子機器の表示部5001〜5004に、本発明の一態様に係るタッチパネルを用いることができる。また、図12(A)〜図12(D)の電子機器の認証部5005〜5008に本発明の一態様に係るタッチセンサを用いることができる。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することが可能である。
(実施の形態7)
本実施の形態では、タッチセンサ又はタッチパネルを用いた電子機器の一例について、図13を用いて説明する。
図13は、ライティングボード(黒板、ホワイトボード等)である。本体9001のライティング部9101に、本発明の一態様に係るタッチパネル(又はタッチセンサ)を設けることができる。
ここで、ライティング部9101の表面には、マーカー等を用いて自由に書き込みができる。
なお、定着剤が含まれていないマーカー等を用いれば文字の消去が容易である。
また、マーカーのインクを落としやすくするため、ライティング部9101の表面は十分な平滑性を有していると良い。
例えば、ライティング部9101の表面がガラス基板等であれば平滑性は十分である。
また、ライティング部9101の表面に透明な合成樹脂シート等を貼り付けてもよい。
合成樹脂としては例えばアクリル等を用いると好ましい。この場合、合成樹脂シートの表面を平滑にしておくと好ましい。
また、ライティング部9101が特定の表示を行う際に、表面に絵や文字を記載することができる。そして、ライティング部9101は、記載された絵や文字と表示された画像とを合成することができる。
更に、フォトセンサを用いているため、記載した後、時間が経った場合でもいつでもセンシングが可能であるが、抵抗膜方式、静電容量方式等を用いた場合、記載と同時にしかセンシングをすることができない。
本実施の形態は、他の実施の形態と適宜組み合わせて実施することができる。
100 タッチパネル
101 画素回路
102 表示素子制御回路
103 フォトセンサ制御回路
104 画素
105 表示素子
106 フォトセンサ
107 表示素子駆動回路
108 表示素子駆動回路
109 フォトセンサ読み出し回路
110 フォトセンサ駆動回路
111 表示装置
112 画像処理部
113 入力処理部
114 応答処理部
115 画像合成部
201 トランジスタ
202 保持容量
203 液晶素子
204 フォトダイオード
205 トランジスタ
206 トランジスタ
207 ゲート信号線
208 フォトダイオードリセット信号線
209 ゲート信号線
210 ビデオデータ信号線
211 フォトセンサ出力信号線
212 フォトセンサ基準信号線
213 ゲート信号線
300 フォトセンサ読み出し回路
301 p型TFT
302 保持容量
303 プリチャージ信号線
401 信号
402 信号
403 信号
404 信号
405 信号
801 HSV変換処理
802 二値化処理
803 ノイズフィルタ処理
804 ラベリング処理
805 面積・位置情報算出処理
806 特徴量抽出処理
901 画素
902 画素
1001 画素
1002 領域
1003 画素
1004 領域
1101 画素
1102 画素
1103 画素
1104 画素群
1105 画素
1106 画素群
1107 画素群
2000 基板
2001 薄膜トランジスタ
2002 薄膜トランジスタ
2003 フォトセンサ
2004 絶縁層
2005 絶縁層
2006 絶縁層
2007 画素電極
2008 下部電極
2010 n型半導体層
2011 i型半導体層
2012 p型半導体層
2013 ゲート電極
2014 信号線
2020 対向基板
2021 対向電極
2022 カラーフィルタ層
2023 オーバーコート層
2024 液晶層
2035 指
2036 矢印
2100 基板
2101 薄膜トランジスタ
2102 薄膜トランジスタ
2103 フォトセンサ
2104 絶縁層
2105 絶縁層
2106 絶縁層
2109 センサ用配線
2110 n型半導体層
2111 i型半導体層
2112 p型半導体層
2120 対向基板
2123 画素電極
2124 発光層
2125 対向電極
2126 バンク
2127 EL素子
2135 指
2200 基板
2201 フォトセンサ
2202 薄膜トランジスタ
2210 n型領域
2211 i型領域
2212 p型領域
2220 対向基板
2224 層
5001 表示部
5002 表示部
5003 表示部
5004 表示部
5005 認証部
5006 認証部
5007 認証部
5008 認証部
9001 本体
9101 ライティング部

Claims (2)

  1. 複数のフォトセンサを有する入力部と、画像処理部と、回路と、を有し、
    前記フォトセンサは、前記入力部と対象物との接触画像を生成し、
    前記画像処理部は、前記接触画像の色情報から接触部分の面積を算出し、前記面積に基づいて前記入力部への入力の検出を行い、
    前記回路は、前記面積から入力圧の算出を行うことを特徴とするタッチセンサ。
  2. 請求項1において、
    前記フォトセンサは、第1のトランジスタと、第2のトランジスタと、フォトダイオードと、を有し、
    前記フォトダイオードの一方の電極は、リセット信号を入力する機能を有する配線に電気的に接続され、
    前記フォトダイオードの他方の電極は、前記第1のトランジスタのゲートに電気的に接続され、
    前記第1のトランジスタのソース又はドレインの一方は、前記第2のトランジスタのソース又はドレインの一方と電気的に接続されていることを特徴とするタッチセンサ。
JP2010183770A 2009-08-24 2010-08-19 タッチセンサ Expired - Fee Related JP5619521B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2010183770A JP5619521B2 (ja) 2009-08-24 2010-08-19 タッチセンサ

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2009193248 2009-08-24
JP2009193248 2009-08-24
JP2010183770A JP5619521B2 (ja) 2009-08-24 2010-08-19 タッチセンサ

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2014188480A Division JP2015015043A (ja) 2009-08-24 2014-09-17 表示装置

Publications (3)

Publication Number Publication Date
JP2011070658A JP2011070658A (ja) 2011-04-07
JP2011070658A5 JP2011070658A5 (ja) 2013-09-12
JP5619521B2 true JP5619521B2 (ja) 2014-11-05

Family

ID=43604960

Family Applications (3)

Application Number Title Priority Date Filing Date
JP2010183770A Expired - Fee Related JP5619521B2 (ja) 2009-08-24 2010-08-19 タッチセンサ
JP2014188480A Withdrawn JP2015015043A (ja) 2009-08-24 2014-09-17 表示装置
JP2016032862A Active JP6088081B2 (ja) 2009-08-24 2016-02-24 表示装置

Family Applications After (2)

Application Number Title Priority Date Filing Date
JP2014188480A Withdrawn JP2015015043A (ja) 2009-08-24 2014-09-17 表示装置
JP2016032862A Active JP6088081B2 (ja) 2009-08-24 2016-02-24 表示装置

Country Status (5)

Country Link
US (1) US9542022B2 (ja)
JP (3) JP5619521B2 (ja)
KR (1) KR101761543B1 (ja)
CN (1) CN101996006B (ja)
TW (1) TWI498786B (ja)

Families Citing this family (39)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100957947B1 (ko) * 2008-01-09 2010-05-13 삼성모바일디스플레이주식회사 광센서 및 그를 이용한 평판표시장치
JP5484109B2 (ja) * 2009-02-09 2014-05-07 三菱電機株式会社 電気光学装置
JP5612323B2 (ja) * 2010-01-28 2014-10-22 株式会社ジャパンディスプレイ 画像表示装置の駆動方法
US9030425B2 (en) * 2011-04-19 2015-05-12 Sony Computer Entertainment Inc. Detection of interaction with virtual object from finger color change
TW201246038A (en) * 2011-05-09 2012-11-16 yu-xiang Zheng Position determination device and method using optical communication in in-cell touch control
TWI480794B (zh) * 2011-07-10 2015-04-11 Compal Electronics Inc 訊息顯示方法與電子裝置
JP6028320B2 (ja) 2011-10-12 2016-11-16 富士ゼロックス株式会社 接触検出装置、記録表示装置、及びプログラム
KR101493557B1 (ko) * 2011-12-09 2015-02-16 엘지디스플레이 주식회사 터치센서를 가지는 표시장치와 그의 터치 데이터 처리방법
KR101493558B1 (ko) * 2011-12-22 2015-02-16 엘지디스플레이 주식회사 터치센서를 가지는 표시장치 및 그의 터치 좌표 데이터 전송방법
JP5978660B2 (ja) * 2012-03-06 2016-08-24 ソニー株式会社 情報処理装置及び情報処理方法
FR2989483B1 (fr) * 2012-04-11 2014-05-09 Commissariat Energie Atomique Dispositif d'interface utilisateur a electrodes transparentes
US9916793B2 (en) 2012-06-01 2018-03-13 Semiconductor Energy Laboratory Co., Ltd. Semiconductor device and method of driving the same
TWI480786B (zh) * 2012-06-26 2015-04-11 Himax Tech Ltd 觸控裝置及其觸控點偵測方法
US9047500B2 (en) * 2012-08-13 2015-06-02 Palo Alto Research Center Incorporated Integrated thin film imager for bright field, dark field, and frustrated total internal reflection imaging
FR2995419B1 (fr) 2012-09-12 2015-12-11 Commissariat Energie Atomique Systeme d'interface utilisateur sans contact
FR2996933B1 (fr) 2012-10-15 2016-01-01 Isorg Appareil portable a ecran d'affichage et dispositif d'interface utilisateur
CN103885644A (zh) * 2012-12-21 2014-06-25 北京汇冠新技术股份有限公司 一种提高红外触摸屏触摸精度的方法及其系统
CN103150063A (zh) * 2013-04-09 2013-06-12 北京紫霄科技有限公司 一种基于lcd的光学多点触控设备
TWI573056B (zh) * 2015-05-29 2017-03-01 錼創科技股份有限公司 觸控感測顯示裝置
WO2017098368A1 (en) 2015-12-08 2017-06-15 Semiconductor Energy Laboratory Co., Ltd. Touch panel, command-input method of touch panel, and display system
CN105867696B (zh) * 2016-06-03 2020-11-17 京东方科技集团股份有限公司 一种触控显示面板、柔性显示面板以及显示装置
CN106326845B (zh) * 2016-08-15 2017-08-11 京东方科技集团股份有限公司 指纹识别单元及制作方法、阵列基板、显示装置及指纹识别方法
CN106709455B (zh) * 2016-12-23 2020-06-30 张一帆 一种支持全屏光学指纹传感器的显示屏及其制作方法
JP6565951B2 (ja) * 2017-02-09 2019-08-28 トヨタ自動車株式会社 画像領域抽出方法および画像領域抽出プログラム
JP2019012216A (ja) * 2017-06-30 2019-01-24 コネクテックジャパン株式会社 表示装置およびこれの製造方法
KR102422074B1 (ko) * 2017-08-14 2022-07-19 삼성디스플레이 주식회사 표시장치
CN108169916A (zh) * 2018-02-09 2018-06-15 厦门盈趣科技股份有限公司 一种led点阵可控背光看板
US20190280051A1 (en) * 2018-03-09 2019-09-12 Int Tech Co., Ltd. Electroluminescent display integrated with touch sensor and method of forming the same
JP7391851B2 (ja) 2018-08-09 2023-12-05 株式会社半導体エネルギー研究所 表示装置
CN110112199B (zh) * 2018-08-10 2021-04-16 友达光电股份有限公司 影像感测显示装置以及影像处理方法
CN109166892B (zh) * 2018-08-30 2022-11-25 京东方科技集团股份有限公司 Oled显示基板及其制造方法、oled显示面板
CN108846392B (zh) * 2018-08-31 2022-08-19 京东方科技集团股份有限公司 光学指纹识别单元及其制造方法、显示面板和识别指纹的方法
KR102554262B1 (ko) * 2018-12-28 2023-07-11 엘지디스플레이 주식회사 구동 회로, 디스플레이 패널 및 디스플레이 장치
JP7431178B2 (ja) * 2019-01-25 2024-02-14 株式会社半導体エネルギー研究所 機能パネル
US11825726B2 (en) 2019-05-10 2023-11-21 Semiconductor Energy Laboratory Co., Ltd. Display device and electronic device
CN110287842B (zh) * 2019-06-17 2021-08-10 Oppo广东移动通信有限公司 指纹扫描方法及相关产品
CN113471249A (zh) 2020-03-31 2021-10-01 华为技术有限公司 一种显示组件、显示装置和指纹识别方法
TWI773353B (zh) * 2021-06-01 2022-08-01 和碩聯合科技股份有限公司 電子裝置
CN114816130B (zh) * 2022-06-29 2022-09-20 长沙朗源电子科技有限公司 电子白板的书写识别方法、系统、存储介质和电子白板

Family Cites Families (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04278627A (ja) 1991-03-06 1992-10-05 Oki Electric Ind Co Ltd タッチパネル装置
JPH1028777A (ja) 1996-07-18 1998-02-03 Sega Enterp Ltd コントローラ
US7751600B2 (en) 2000-04-18 2010-07-06 Semiconductor Energy Laboratory Co., Ltd. System and method for identifying an individual
JP2001350586A (ja) 2000-06-09 2001-12-21 Keio Gijuku 位置入力装置
US7430025B2 (en) 2000-08-23 2008-09-30 Semiconductor Energy Laboratory Co., Ltd. Portable electronic device
US6747290B2 (en) 2000-12-12 2004-06-08 Semiconductor Energy Laboratory Co., Ltd. Information device
US6668661B2 (en) * 2001-03-15 2003-12-30 Ram Consulting, Inc. Pressure distribution image analysis process
JP2003075135A (ja) * 2001-08-31 2003-03-12 Nec Corp 指紋画像入力装置および指紋画像による生体識別方法
US7535454B2 (en) 2001-11-01 2009-05-19 Immersion Corporation Method and apparatus for providing haptic feedback
CN102609088B (zh) 2001-11-01 2015-12-16 意美森公司 用于提供触感的方法和系统
DE60307077T2 (de) 2002-03-13 2007-03-01 O-Pen Aps Berührungs-pad und verfahren zum betreiben des berührungs-pads
JP3863809B2 (ja) * 2002-05-28 2006-12-27 独立行政法人科学技術振興機構 手の画像認識による入力システム
JP4304927B2 (ja) * 2002-07-16 2009-07-29 ソニー株式会社 固体撮像素子及びその製造方法
US20040040800A1 (en) 2002-07-31 2004-03-04 George Anastas System and method for providing passive haptic feedback
JP3799308B2 (ja) * 2002-08-02 2006-07-19 Nec液晶テクノロジー株式会社 液晶表示装置
WO2004042685A2 (en) 2002-11-01 2004-05-21 Immersion Corporation System and method for providing passive haptic feedback
GB2410997A (en) 2002-11-01 2005-08-17 Immersion Corp Method and apparatus for providing haptic feedback
CN1777860A (zh) 2003-03-12 2006-05-24 O-笔公司 多任务射线传感器
CN1777859B (zh) 2003-03-12 2010-04-28 平蛙实验室股份公司 确定射线发射单元位置的系统和方法
US7626575B2 (en) * 2003-03-28 2009-12-01 Samsung Electronics Co., Ltd. Light pen
JP4257221B2 (ja) 2003-03-31 2009-04-22 東芝松下ディスプレイテクノロジー株式会社 表示装置および情報端末装置
JP4574158B2 (ja) * 2003-10-28 2010-11-04 株式会社半導体エネルギー研究所 半導体表示装置及びその作製方法
JP2005275644A (ja) 2004-03-24 2005-10-06 Sharp Corp 液晶表示装置
US7602380B2 (en) 2004-08-10 2009-10-13 Toshiba Matsushita Display Technology Co., Ltd. Display device with optical input function
JP4469680B2 (ja) * 2004-08-10 2010-05-26 東芝モバイルディスプレイ株式会社 光入力機能付き表示装置
JP4351599B2 (ja) 2004-09-03 2009-10-28 パナソニック株式会社 入力装置
US7800594B2 (en) 2005-02-03 2010-09-21 Toshiba Matsushita Display Technology Co., Ltd. Display device including function to input information from screen by light
CN100407120C (zh) * 2005-02-03 2008-07-30 东芝松下显示技术有限公司 包括通过光线从屏幕输入信息的功能的显示器
US7645478B2 (en) * 2005-03-31 2010-01-12 3M Innovative Properties Company Methods of making displays
US8270753B2 (en) * 2005-06-14 2012-09-18 Nikon Corporation Image processing device, computer program product, and image processing method to restore signals in a saturated area
EP1995787A3 (en) 2005-09-29 2012-01-18 Semiconductor Energy Laboratory Co, Ltd. Semiconductor device having oxide semiconductor layer and manufacturing method therof
JP2007128497A (ja) 2005-10-05 2007-05-24 Sony Corp 表示装置および表示方法
JP2007194958A (ja) 2006-01-19 2007-08-02 Matsushita Electric Ind Co Ltd 入力装置および携帯端末装置
US8259078B2 (en) 2006-06-09 2012-09-04 Apple Inc. Touch screen liquid crystal display
KR20110058895A (ko) 2006-06-09 2011-06-01 애플 인크. 터치 스크린 액정 디스플레이
CN104965621B (zh) 2006-06-09 2018-06-12 苹果公司 触摸屏液晶显示器及其操作方法
AU2007257866B2 (en) 2006-06-09 2011-03-03 Apple Inc. Touch screen liquid crystal display
EP2330492B1 (en) 2006-06-09 2017-10-18 Apple Inc. Touch screen liquid crystal display
JP2008097172A (ja) 2006-10-10 2008-04-24 Sony Corp 表示装置および表示方法
US20080167526A1 (en) 2007-01-08 2008-07-10 Crank Justin M Non-Occlusive, Laterally-Constrained Injection Device
US20100134457A1 (en) * 2007-04-09 2010-06-03 Hiromi Katoh Display device
JP4897596B2 (ja) * 2007-07-12 2012-03-14 ソニー株式会社 入力装置、記憶媒体、情報入力方法及び電子機器
JP5567770B2 (ja) 2007-09-21 2014-08-06 株式会社ジャパンディスプレイ 表示装置及び表示装置の製造方法
US20090167723A1 (en) * 2007-12-31 2009-07-02 Wah Yiu Kwong Input devices
TWM343209U (en) * 2008-05-23 2008-10-21 Forworld Electronics Co Ltd Touch panel display device
JP5028337B2 (ja) * 2008-05-30 2012-09-19 キヤノン株式会社 画像処理装置、画像処理方法、プログラム、及び記憶媒体
KR20100038046A (ko) 2008-10-02 2010-04-12 가부시키가이샤 한도오따이 에네루기 켄큐쇼 터치 패널 및 터치 패널의 구동방법
TWI585955B (zh) 2008-11-28 2017-06-01 半導體能源研究所股份有限公司 光感測器及顯示裝置
US8179463B1 (en) * 2009-05-19 2012-05-15 On Semiconductor Trading Ltd. Image sensor with shared node
US8274489B2 (en) * 2009-09-17 2012-09-25 Himax Technologies Limited Readout apparatus and multi-channel readout apparatus for touch panel

Also Published As

Publication number Publication date
US20110043473A1 (en) 2011-02-24
US9542022B2 (en) 2017-01-10
JP2016095886A (ja) 2016-05-26
TW201115437A (en) 2011-05-01
TWI498786B (zh) 2015-09-01
KR20110020742A (ko) 2011-03-03
JP2015015043A (ja) 2015-01-22
KR101761543B1 (ko) 2017-07-26
JP6088081B2 (ja) 2017-03-01
JP2011070658A (ja) 2011-04-07
CN101996006B (zh) 2015-03-11
CN101996006A (zh) 2011-03-30

Similar Documents

Publication Publication Date Title
JP6088081B2 (ja) 表示装置
US11132526B2 (en) Fingerprint recognition panel, fingerprint recognition method and display device
US10545616B2 (en) Touch display panel, flexible display panel and display apparatus
US9484381B2 (en) Display device and method for driving display device
JP5740132B2 (ja) 表示装置及び半導体装置
US8665223B2 (en) Display device and method providing display contact information based on an amount of received light
US8411117B2 (en) Display device having optical sensors
TWI534683B (zh) 觸摸面板,顯示裝置及電子裝置
CN101183185B (zh) 显示设备
US20090033638A1 (en) Image display unit and method of detecting object
US20100220077A1 (en) Image input device, image input-output device and electronic unit
US10013114B2 (en) Light touch panel, light touch display screen and light touch display device
US11249598B2 (en) Integrated fingerprint detection touch control display apparatus and integrated method of fingerprint detection, touch control, and image display
US20230043940A1 (en) Display device and operating method therefor
CN104375720B (zh) 触摸屏装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130807

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130807

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140212

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140225

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140311

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140819

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140917

R150 Certificate of patent or registration of utility model

Ref document number: 5619521

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees