JP5392656B2 - 情報入力装置、情報入出力装置および電子機器 - Google Patents
情報入力装置、情報入出力装置および電子機器 Download PDFInfo
- Publication number
- JP5392656B2 JP5392656B2 JP2010066492A JP2010066492A JP5392656B2 JP 5392656 B2 JP5392656 B2 JP 5392656B2 JP 2010066492 A JP2010066492 A JP 2010066492A JP 2010066492 A JP2010066492 A JP 2010066492A JP 5392656 B2 JP5392656 B2 JP 5392656B2
- Authority
- JP
- Japan
- Prior art keywords
- light receiving
- light
- wavelength region
- receiving element
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Controls And Circuits For Display Device (AREA)
- Position Input By Displaying (AREA)
Description
1.実施の形態(メインセンサおよび補助センサを用いた物体検出処理の例)
2.実施の形態の変形例
変形例1(メインセンサおよび補助センサでの反射光利用画像同士の差分画像を用いた物体検出処理の例)
変形例2(センサ単位での逐次処理を用いて差分画像を生成する例)
変形例3(差分画素値を補間生成しつつ上記逐次処理を行う例)
変形例4(補助センサでの受光の際の飽和特性を考慮した物体検出処理の例)
3.アプリケーションプログラムの実行例
4.適用例(電子機器への適用例)
5.その他の変形例
[情報入出力装置の構成]
図1は、本発明の一実施の形態に係る情報入出力装置(表示撮像装置)の全体構成を表すものである。この情報入出力装置は、I/Oディスプレイパネル20、バックライト15、表示ドライブ回路12、受光ドライブ回路13、画像処理部14およびアプリケーションプログラム実行部11を備えている。
次に、図2を参照して、I/Oディスプレイパネル20の詳細構成について説明する。このI/Oディスプレイパネル20は、表示エリア(センサエリア)21、表示用Hドライバ22、表示用Vドライバ23、センサ読み出し用Hドライバ25およびセンサ用Vドライバ24を有している。
次に、図3〜図5を参照して、表示エリア21における各画素の詳細構成例について説明する。
次に、図6および図7を参照して、バックライト15内の光源(検出用光源)の発光波長領域と、受光センサにおける受光波長領域との関係について説明する。図6は、検出用光源の発光波長領域(図6(A))と、メインセンサ32および補助センサ33の受光波長領域(図6(B),(C))との関係の一例を表したものである。
次に、図8および図9を参照して、メインセンサ32および補助センサ33の具体的な構成例について説明する。図8は、メインセンサ32および補助センサ33の詳細構成例を斜視図で模式的に表したものである。なお、これらの図においては、検出光として赤外光を用いた場合について示している。
続いて、本実施の形態の情報入出力装置の作用および効果について説明する。
この情報入出力装置では、アプリケーションプログラム実行部11から供給される表示データに基づいて、表示ドライブ回路12が表示用の駆動信号を生成する。そしてこの駆動信号により、I/Oディスプレイパネル20に対して線順次表示駆動がなされ、画像が表示される。また、このとき、バックライト15も表示ドライブ回路12によって駆動され、I/Oディスプレイパネル20における表示動作と同期した点灯・消灯動作がなされる。
次に、図11〜図17を参照して、受光ドライブ回路13および画像処理部14による物体検出処理(便宜上、指先抽出処理と称する)の基本動作について説明する。図11は、この指先抽出処理(後述する差分画像指先抽出処理)を流れ図で表したものであり、図12は、この差分画像指先抽出処理の一部をタイミング図で表したものである。
次に、図18〜図24を参照して、本発明の特徴的部分の1つである、近接物体が移動している場合等における差分画像指先抽出処理について、比較例と比較しつつ説明する。
まず、図18および図19に示した比較例では、図16中の矢印で示したように、I/Oディスプレイパネル20の表示エリア21上で近接物体が移動している状態のとき、以下の問題が生じる。すなわち、影画像A101における受光出力信号Voff(A101)と反射光利用画像B101における受光出力信号Von(B101)との間で、近接物体に対応する部分に位置ずれが生じている。そして、この位置ずれにより、2つの画像A101,B101の差分画像C101(=B101−A101)およびその受光検出信号V(C101)(=Von(B101)−Voff(A101))において、近接物体の位置に対応する本来の信号の他に、別の位置に偽信号F101が生じてしまっている。よって、このような偽信号F101の存在により、近接物体を安定して検出するのが困難となってしまう。
これに対して本実施の形態では、画像処理部14は、メインセンサ32により得られる撮像画像と、補助センサ33により得られる撮像画像とに基づく合成画像を用いて、近接物体の物体情報を取得する(物体検出を行う)。具体的には、まず、受光ドライブ回路13が、反射光利用画像Bと影画像Aとの差分画像C(=B−A)を、メインセンサ32および補助センサ33のそれぞれに対応して生成する。そして、画像処理部14が、メインセンサ32により得られる反射光利用画像MBと影画像MAとの差分画像MC(=MB−MA;第1の差分画像)と、補助センサ33により得られる反射光利用画像HBと影画像HAとの差分画像HC(=HB−HA;第2の差分画像)とに基づく合成画像Fを用いて、物体情報を取得する。
以下、上記実施の形態の変形例(変形例1〜3)について説明する。なお、実施の形態における構成要素と同一のものには同一の符号を付し、適宜説明を省略する。
図25および図26は、変形例1に係る差分画像指先抽出処理を表すものである。本変形例では、受光ドライブ回路13は、メインセンサ32により得られる反射光利用画像MBと、補助センサ33により得られる反射光利用画像HBとの差分画像MHC(=MB−HB)に基づいて、物体情報を取得する。
図27は、変形例2に係る差分画像指先抽出処理を模式的に表したものである。本変形例では、受光ドライブ回路13は、差分画像MCの生成処理と、差分画像HCの生成処理とを、メインセンサ32および補助センサ33の単位での逐次処理により行う。
図28は、変形例3に係る差分画像指先抽出処理を模式的に表したものである。本変形例では、より精密な物体検出結果を得るため、補助センサ33側およびメインセンサ32側の双方において、画素補間処理を組み合わせて上記変形例2における逐次処理を行うようにしたものである。
図29は、変形例4に係る差分画像指先抽出処理(物体検出処理)を流れ図で表したものある。本変形例では、補助センサ33における受光の際の飽和特性を考慮して、以下のような物体検出処理を行うようになっている。
続いて、図34〜図37を参照して、これまで説明した物体検出処理により検出された物体の位置情報等を利用した、アプリケーションプログラム実行部11によるアプリケーションプログラム実行例について説明する。
続いて、図38〜図42を参照して、上記実施の形態および各変形例で説明した情報入出力装置の適用例について説明する。上記実施の形態等の情報入出力装置は、テレビジョン装置,デジタルカメラ,ノート型パーソナルコンピュータ、携帯電話等の携帯端末装置あるいはビデオカメラなどのあらゆる分野の電子機器に適用することが可能である。言い換えると、上記実施の形態等の情報入出力装置は、外部から入力された映像信号あるいは内部で生成した映像信号を、画像あるいは映像として表示するあらゆる分野の電子機器に適用することが可能である。なお、以下に示した電子機器の他にも、例えば、検出光による反射成分のみを取り出すという本発明の特徴を活かして、監視カメラのような応用も考えられる。
図38は、上記実施の形態等の情報入出力装置が適用されるテレビジョン装置の外観を表したものである。このテレビジョン装置は、例えば、フロントパネル511およびフィルターガラス512を含む映像表示画面部510を有しており、この映像表示画面部510は、上記実施の形態等に係る情報入出力装置により構成されている。
図39は、上記実施の形態等の情報入出力装置が適用されるデジタルカメラの外観を表したものである。このデジタルカメラは、例えば、フラッシュ用の発光部521、表示部522、メニュースイッチ523およびシャッターボタン524を有しており、その表示部522は、上記実施の形態等に係る情報入出力装置により構成されている。
図40は、上記実施の形態等の情報入出力装置が適用されるノート型パーソナルコンピュータの外観を表したものである。このノート型パーソナルコンピュータは、例えば、本体531,文字等の入力操作のためのキーボード532および画像を表示する表示部533を有しており、その表示部533は、上記実施の形態等に係る情報入出力装置により構成されている。
図41は、上記実施の形態等の情報入出力装置が適用されるビデオカメラの外観を表したものである。このビデオカメラは、例えば、本体部541,この本体部541の前方側面に設けられた被写体撮影用のレンズ542,撮影時のスタート/ストップスイッチ543および表示部544を有している。そして、その表示部544は、上記実施の形態等に係る情報入出力装置により構成されている。
図42は、上記実施の形態等の情報入出力装置が適用される携帯電話機の外観を表したものである。この携帯電話機は、例えば、上側筐体710と下側筐体720とを連結部(ヒンジ部)730で連結したものであり、ディスプレイ740,サブディスプレイ750,ピクチャーライト760およびカメラ770を有している。そのディスプレイ740またはサブディスプレイ750は、上記実施の形態等に係る情報入出力装置により構成されている。
以上、実施の形態、変形例および適用例を挙げて本発明を説明したが、本発明はこれらの実施の形態等に限定されるものではなく、種々の変形が可能である。
Claims (20)
- 複数の第1および第2の受光素子と、近接物体を検出するための検出光を含む光を発する照射光源とを有する入力パネルと、
前記入力パネルによって前記近接物体を撮像して得られる信号を画像処理し、その近接物体の位置、形状または大きさの少なくとも1つを含む物体情報を取得する画像処理部と
を備え、
前記第1の受光素子は、その受光波長領域に前記検出光の波長領域を含んでおり、
前記第2の受光素子は、
前記検出光の波長領域を受光波長領域として含む第3の受光素子と、
前記第3の受光素子の受光波長領域およびその波長領域と異なる所定の波長領域を受光波長領域として含む第4の受光素子とにより構成され、
前記第2の受光素子における受光信号が、前記第4の受光素子からの受光信号と前記第3の受光素子からの受光信号との差分信号により構成されることにより、前記第2の受光素子では、前記検出光の波長領域における受光感度が前記第1の受光素子よりも低くなっていると共に、前記所定の波長領域が受光波長領域として含まれており、
前記画像処理部は、前記第1および第2の受光素子により得られる受光信号に基づいて、前記物体情報を取得する
情報入力装置。 - 前記画像処理部は、
外光の光量が、前記第2の受光素子が光量変化に対して線形性を示す線形領域内の値である場合には、前記第1および第2の受光素子により得られる受光信号に基づいて前記物体情報を取得する一方、
外光の光量が、前記第2の受光素子が光量変化に対して非線形性を示す非線形域内の値である場合には、前記物体情報の取得を強制的に停止する
請求項1に記載の情報入力装置。 - 前記画像処理部は、
各第2の受光素子の近傍に位置する第1の受光素子からの受光信号の値の大小に応じて、外光の光量が前記線形領域内および前記非線形領域内のいずれの値であるのかを、それら第1および第2の受光素子の組ごとに判断すると共に、
この第1および第2の受光素子の組単位で、前記物体情報の取得またはその強制停止を実行する
請求項2に記載の情報入力装置。 - 前記画像処理部は、前記第1の受光素子により得られる撮像画像と、前記第2の受光素子により得られる撮像画像とに基づく合成画像を用いて、前記物体情報を取得する
請求項1ないし請求項3のいずれか1項に記載の情報入力装置。 - 前記検出光による反射光を利用して前記入力パネルによって前記近接物体を撮像して得られる反射光利用画像と、前記入力パネルによって前記近接物体の影を撮像して得られる影画像との差分画像を、前記第1および第2の受光素子のそれぞれに対応して生成する画像生成部を備え、
前記画像処理部は、前記第1の受光素子により得られる前記反射光利用画像と前記第1の受光素子により得られる前記影画像との差分画像に対応する第1の差分画像と、前記第2の受光素子により得られる前記反射光利用画像と前記第2の受光素子により得られる前記影画像との差分画像に対応する第2の差分画像とに基づく合成画像を用いて、前記物体情報を取得する
請求項4に記載の情報入力装置。 - 前記画像生成部は、前記第2の差分画像に基づいて所定のマスク画像を生成し、
前記画像処理部は、前記第1の差分画像と前記マスク画像との合成画像を用いて、前記物体情報を取得する
請求項5に記載の情報入力装置。 - 前記画像生成部は、前記第2の差分画像に対して2値化処理および画像反転処理を施すことにより、前記マスク画像を生成する
請求項5に記載の情報入力装置。 - 前記画像処理部は、前記第1の差分画像と前記第2の差分画像との差分画像を用いて、前記物体情報を取得する
請求項5に記載の情報入力装置。 - 前記画像生成部は、前記第1の差分画像の生成処理と、前記第2の差分画像の生成処理とを、前記第1および第2の受光素子単位の逐次処理により行う
請求項5に記載の情報入力装置。 - 前記入力パネルにおいて、前記第1の受光素子と前記第2の受光素子とが、1対1の割合で交互に配置されている
請求項9に記載の情報入力装置。 - 前記第1の差分画像が、複数の第1の差分画素値により構成されると共に、前記第2の差分画像が、複数の第2の差分画素値により構成され、
前記画像生成部は、前記逐次処理を行う際に、
各第1の受光素子に隣接する第2の受光素子により得られる前記第2の差分画素値が所定の閾値以上の場合には、その第1の受光素子における前記第1の差分画素値を0(ゼロ)とみなして出力し、
各第1の受光素子に隣接する第2の受光素子により得られる前記第2の差分画素値が前記閾値未満の場合には、その第1の受光素子における実際の差分演算結果を前記第1の差分画素値として出力する
請求項10に記載の情報入力装置。 - 前記画像生成部は、前記逐次処理を行う際に、
各第2の受光素子に対応する位置における前記第1の差分画素値を、第1の補間差分画素値として補間生成すると共に、
各第1の受光素子に対応する位置における前記第2の差分画素値を、第2の補間差分画素値として補間生成し、
前記第1および第2の補間差分画素値をも考慮して、前記閾値との比較結果に応じた逐次処理を行う
請求項11に記載の情報入力装置。 - 前記画像処理部は、前記検出光による反射光を利用して前記複数の第1の受光素子によって前記近接物体を撮像して得られる反射光利用画像と、前記検出光による反射光を利用して前記複数の第2の受光素子によって前記近接物体を撮像して得られる反射光利用画像との差分画像に基づいて、前記物体情報を取得する
請求項1ないし請求項3のいずれか1項に記載の情報入力装置。 - 前記第2の受光素子において、前記検出光の波長領域における受光感度が0(ゼロ)となっている
請求項1ないし請求項3のいずれか1項に記載の情報入力装置。 - 前記第1の受光素子の受光波長領域と、前記第2の受光素子の受光波長領域とが、互いに分離している
請求項14に記載の情報入力装置。 - 前記検出光が赤外光であり、
前記第1の受光素子は、前記赤外光の波長領域を受光波長領域として含んでおり、
前記第2の受光素子は、前記所定の波長領域としての可視光の波長領域を、受光波長領域として含んでいる
請求項1ないし請求項3のいずれか1項に記載の情報入力装置。 - 前記第1の受光素子は、前記検出光の波長領域における受光感度が、前記所定の波長領域における受光感度よりも高くなっており、
前記第2の受光素子は、前記検出光の波長領域における受光感度が、前記所定の波長領域における受光感度よりも低くなっている
請求項1ないし請求項3のいずれか1項に記載の情報入力装置。 - 複数の表示素子と、複数の第1および第2の受光素子とを有し、近接物体を検出するための検出光を含む光を発する入出力パネルと、
前記入出力パネルによって前記近接物体を撮像して得られる信号を画像処理し、その近接物体の位置、形状または大きさの少なくとも1つを含む物体情報を取得する画像処理部と
を備え、
前記第1の受光素子は、その受光波長領域に前記検出光の波長領域を含んでおり、
前記第2の受光素子は、
前記検出光の波長領域を受光波長領域として含む第3の受光素子と、
前記第3の受光素子の受光波長領域およびその波長領域と異なる所定の波長領域を受光波長領域として含む第4の受光素子とにより構成され、
前記第2の受光素子における受光信号が、前記第4の受光素子からの受光信号と前記第3の受光素子からの受光信号との差分信号により構成されることにより、前記第2の受光素子では、前記検出光の波長領域における受光感度が前記第1の受光素子よりも低くなっていると共に、前記所定の波長領域が受光波長領域として含まれており、
前記画像処理部は、前記第1および第2の受光素子により得られる受光信号に基づいて、前記物体情報を取得する
情報入出力装置。 - 前記入出力パネルは、前記検出光を含む光を発する照射光源を有する
請求項18に記載の情報入出力装置。 - 情報入出力装置を備え、
前記情報入出力装置は、
複数の表示素子と、複数の第1および第2の受光素子とを有し、近接物体を検出するための検出光を含む光を発する入出力パネルと、
前記入出力パネルによって前記近接物体を撮像して得られる信号を画像処理し、その近接物体の位置、形状または大きさの少なくとも1つを含む物体情報を取得する画像処理部と
を有し、
前記第1の受光素子は、その受光波長領域に前記検出光の波長領域を含んでおり、
前記第2の受光素子は、
前記検出光の波長領域を受光波長領域として含む第3の受光素子と、
前記第3の受光素子の受光波長領域およびその波長領域と異なる所定の波長領域を受光波長領域として含む第4の受光素子とにより構成され、
前記第2の受光素子における受光信号が、前記第4の受光素子からの受光信号と前記第3の受光素子からの受光信号との差分信号により構成されることにより、前記第2の受光素子では、前記検出光の波長領域における受光感度が前記第1の受光素子よりも低くなっていると共に、前記所定の波長領域が受光波長領域として含まれており、
前記画像処理部は、前記第1および第2の受光素子により得られる受光信号に基づいて、前記物体情報を取得する
電子機器。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010066492A JP5392656B2 (ja) | 2010-03-23 | 2010-03-23 | 情報入力装置、情報入出力装置および電子機器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2010066492A JP5392656B2 (ja) | 2010-03-23 | 2010-03-23 | 情報入力装置、情報入出力装置および電子機器 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2011198258A JP2011198258A (ja) | 2011-10-06 |
JP5392656B2 true JP5392656B2 (ja) | 2014-01-22 |
Family
ID=44876320
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2010066492A Expired - Fee Related JP5392656B2 (ja) | 2010-03-23 | 2010-03-23 | 情報入力装置、情報入出力装置および電子機器 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5392656B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20230009636A (ko) * | 2021-07-09 | 2023-01-17 | 삼성전자주식회사 | 전자 장치 및 전자 장치의 동작 방법 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4780094B2 (ja) * | 2007-11-28 | 2011-09-28 | ソニー株式会社 | 表示装置及び表示装置の製造方法 |
-
2010
- 2010-03-23 JP JP2010066492A patent/JP5392656B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2011198258A (ja) | 2011-10-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5300859B2 (ja) | 撮像装置、表示撮像装置および電子機器 | |
JP4835578B2 (ja) | 表示撮像装置、物体検出プログラムおよび物体の検出方法 | |
JP4270248B2 (ja) | 表示撮像装置、情報入力装置、物体検出プログラムおよび物体の検出方法 | |
JP4915367B2 (ja) | 表示撮像装置および物体の検出方法 | |
US8610670B2 (en) | Imaging and display apparatus, information input apparatus, object detection medium, and object detection method | |
JP5093523B2 (ja) | 撮像装置、表示撮像装置および撮像処理装置 | |
JP5111327B2 (ja) | 表示撮像装置および電子機器 | |
US20150084928A1 (en) | Touch-enabled field sequential color display using in-cell light sensors | |
US20150083917A1 (en) | Infrared light director for gesture or scene sensing fsc display | |
JP5481127B2 (ja) | センサ素子およびその駆動方法、センサ装置、ならびに入力機能付き表示装置および電子機器 | |
JP5510998B2 (ja) | センサ装置、センサ素子の駆動方法、入力機能付き表示装置および電子機器 | |
JP5247139B2 (ja) | 表示装置および方法、プログラム、並びに、電子機器 | |
TWI387903B (zh) | 顯示裝置 | |
EP3791571B1 (en) | Terminal device and image capturing method | |
JP4270247B2 (ja) | 表示撮像装置、物体検出プログラムおよび物体の検出方法 | |
EP2717568A2 (en) | Imaging device and method | |
JP5392656B2 (ja) | 情報入力装置、情報入出力装置および電子機器 | |
US20140085264A1 (en) | Optical touch panel system, optical sensing module, and operation method thereof | |
JP2010109467A (ja) | 画像表示/像検知装置 | |
JP4788755B2 (ja) | 表示撮像装置、物体検出プログラムおよび物体の検出方法 | |
JP2010118016A (ja) | 入力装置、入力方法、入力プログラム、及びコンピュータ読み取り可能な記録媒体 | |
JP2010092192A (ja) | 表示撮像装置および電子機器 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20120330 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20130128 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20130828 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130917 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20131004 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20131004 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |