CN101903853B - 图像拾取装置、显示及图像拾取装置和电子装置 - Google Patents

图像拾取装置、显示及图像拾取装置和电子装置 Download PDF

Info

Publication number
CN101903853B
CN101903853B CN2009801014386A CN200980101438A CN101903853B CN 101903853 B CN101903853 B CN 101903853B CN 2009801014386 A CN2009801014386 A CN 2009801014386A CN 200980101438 A CN200980101438 A CN 200980101438A CN 101903853 B CN101903853 B CN 101903853B
Authority
CN
China
Prior art keywords
image
photoreceptor
light
difference
wavelength
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
CN2009801014386A
Other languages
English (en)
Other versions
CN101903853A (zh
Inventor
原田勉
松井靖幸
高间大辅
山中刚
仲岛义晴
水桥比吕志
大森英幸
津崎亮一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Display West Inc
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of CN101903853A publication Critical patent/CN101903853A/zh
Application granted granted Critical
Publication of CN101903853B publication Critical patent/CN101903853B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0412Digitisers structurally integrated in a display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0416Control or interface arrangements specially adapted for digitisers
    • G06F3/0418Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/042Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means by opto-electronic means

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Position Input By Displaying (AREA)
  • Studio Devices (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Liquid Crystal Display Device Control (AREA)
  • Image Input (AREA)

Abstract

本发明公开了一种不论在何种使用情况中都可以稳定地执行物体检测的图像拾取装置。I/O显示面板(20)的显示区域(21)设有多个主传感器(32)和多个辅助传感器(33),每一个主传感器(32)包括用来检测任意接近物体的检测光的波长范围(Δλ23)作为光敏波长范围,并且辅助传感器(33)在检测光的波长范围中的光敏度比主传感器(32)的光敏度低。并且,利用基于由主传感器(32)获得的差分图像(MC)和由辅助传感器(33)获得的差分图像(HC)获得的合成图像(F),获得有关接近物体的物体信息。因此,即使例如接近物体在I/O显示面板(20)的显示区域(21)上时,也可以防止在合成图像F中生成任意伪信号。

Description

图像拾取装置、显示及图像拾取装置和电子装置
技术领域
本发明涉及用来获取有关正与面板接触或与之接近的任意物体的位置等的信息的图像拾取装置和显示及图像拾取装置,以及配备有这样的显示及图像拾取装置的电子装置。
背景技术
存在之前已知的用于检测与显示装置的显示表面接触或接近的任意物体的位置等的技术。该技术包括有关设有触摸面板的显示装置的一般普遍流行的技术。
触摸面板可以是各种类型的,并且一般流行的类型是检测电容。这种类型的面板被配置为通过感测触摸面板的表面电荷因手指触摸该面板引起的任意改变来检测任意物体的位置等。因此,使用这种类型的触摸面板允许用户的直观操作。
这里,例如在专利文件1和专利文件2中,该申请的申请人提出了一种具有显示部件(显示和图像拾取面板)的显示装置,该显示部件具有图像显示的显示功能和物体图像拾取(检测)的图像拾取功能(检测功能)。
引文列表
专利文件
专利文件1:日本未审查专利申请特开2004-127272号公报
专利文件2:日本未审查专利申请特开2006-276223号公报
发明内容
利用以上专利文件1中所描述的显示装置,当诸如手指之类的物体被使得与显示和图像拾取面板接触或接近时,例如,作为从显示和图像拾取面板照射并被物体反射的光的反射光可以被用来基于任意捕获的图像来检测物体的位置等。因此,利用这样的显示装置,不需要另外在显示和图像拾取面板上提供诸如触摸面板之类的任何组件,并且利用简单的配置,就可以检测任意物体的位置等。
然而,当作为物体的光反射的结果的反射光被如上所述地使用时,有时会引起外部光和感光器的特性变化等这样的问题。更具体地,将被接收到的光根据外部光的亮度而发生强度变化,从而有时导致难以基于捕获的图像来检测物体的位置等。此外,感光器的特性变化等会产生固定噪声,从而有时也导致难以基于捕获的图像来检测物体的位置等。
鉴于此,在以上专利文件2中,尝试通过找到在发光状态中获得的图像(利用照射光的反射光获得的图像)与在非发光状态中获得的图像之间的差来去除由上述外部光和固定噪声引起的这样的影响。该尝试被进行来在不受外部光和固定噪声影响的情况下检测任意物体的位置等。
然而,在实际利用情况中,在上述在发光状态中获得的图像与在非发光状态中获得的图像之间存在时间差。因此,例如当物体在显示和图像拾取面板上高速移动时,该时间差会在上述在发光状态中获得的图像与在非发光状态中获得的图像之间引起位移。如果具有这样的位移,当除了与物体的位置相对应的原来预期的信号之外,还采用这两个图像之间的差时,在另一不同位置生成伪信号。这样,由于这样的伪信号的存在,存在难以进行稳定的物体检测这样的情况。注意,该伪信号具有在物体高速移动时被以较大面积生成的趋势,伪信号还具有在外部光较强时变强的趋势。
这样,之前的技术难以在不论何种使用情况下稳定地检测与面板接触或接近的物体,因此还有改进的空间。
本发明是考虑上述问题提出的,并且其一个目的是提供一种不论在何种使用情况下都能稳定地完成物体检测的图像拾取装置、显示和图像拾取装置以及物体检测方法,以及设有这样的显示和图像拾取装置的电子装置。
根据本发明一个实施例的图像拾取装置,包括:图像拾取面板,图像拾取面板设有多个第一感光器、多个第二感光器和照射光源,所述照射光源发射包括用于检测接近物体的检测光的光,所述检测光的波长在预定波长范围内;以及图像处理部件,所述图像处理部件对由所述图像拾取面板通过对所述接近物体进行图像拾取所捕获的信号执行图像处理,从而获得包括所述接近物体的位置、形状或大小中的一个或多个的物体信息。在该装置中,所述第一感光器的光敏波长范围包括所述检测光的波长范围。并且,在所述检测光的波长范围中,所述第二感光器的光敏度比所述第一感光器的光敏度低。此外,所述图像处理部件通过处理来自所述第一和第二感光器的信号来获得所述物体信息。
根据本发明一个实施例的图像拾取装置,包括一种显示和图像拾取装置,包括:显示和图像拾取面板,所述显示和图像拾取面板设有多个显示元件、多个第一感光器和多个第二感光器,发射包括用于检测接近物体的检测光的光,所述检测光的波长位于预定的波长范围内;以及图像处理部件,所述图像处理部件对由所述显示和图像拾取面板通过对接近物体进行图像拾取捕获的信号执行图像处理,从而获得包括所述接近物体的位置、形状或大小中的一个或多个的物体信息。在该装置中,所述第二感光器的光敏波长包括所述检测光的波长范围。并且,在所述检测光的波长范围中,所述第二感光器的光敏度比所述第一感光器的光敏度低。此外,所述图像处理部件通过处理来自所述第一和第二感光器的信号来获得所述物体信息。
根据本发明一个实施例的电子装置包括设有图像显示功能和图像拾取功能的上述显示和图像拾取装置。
利用根据本发明一个实施例的图像拾取装置、显示和图像拾取装置以及电子装置,由图像拾取面板(显示和图像拾取面板)通过对接近物体进行图像拾取捕获的信号被进行图像处理,从而获得有关接近物体的物体信息。具体地,物体信息例如利用基于由第一感光器捕获的图像和由第二感光器捕获的图像获得的合成图像来获取。在该示例中,由于第一感光器每一个包括上述检测光的波长范围作为光敏波长范围,所以当接近物体在图像拾取面板上(或在显示和图像拾取面板上)移动时,由第一感光器捕获的图像除了产生接近物体的检测信号以外,还可能产生伪信号。另一方面,由于在上述检测光的波长范围中,第二感光器的光敏度比第一感光器的光敏度低,所以由第二感光器捕获的图像也可能与利用第一感光器的情况类似地差生伪信号,但是不产生接近物体的检测信号。因此,即使当接近物体在图像拾取面板上(或在显示和图像拾取面板上)移动时,利用基于由第一感光器捕获的图像和由第二感光器捕获的图像获得的合成图像来获取物体信息可以很好地防止在合成图像中产生任何伪信号。
利用根据本发明一个实施例的图像拾取装置、显示和图像拾取装置或电子装置,图像拾取面板(或显示和图像拾取面板)设有多个第一感光器和多个第二感光器,每一个第一感光器在光敏波长范围中包括用于检测接近物体的检测光的波长范围,第二感光器在检测光的波长范围中的光敏度比第一感光器的光敏度低,并且有关接近物体的物体信息通过处理来自这样的第一和第二感光器的信号来获得,这使得即使例如当接近物体在图像拾取面板上(或在显示和图像拾取面板上)移动时也能够防止生成任意伪信号。因此,可以稳定地执行物体检测,而不论使用情况如何。
附图说明
[图1]图1是示出本发明一个实施例的显示及图像拾取装置的配置的框图。
[图2]图2是示出图1的I/O显示面板的示例性配置的框图。
[图3]图3是示出图2的显示区域(传感器区域)中的示例性像素布置的平面图。
[图4]图4是示出图2的显示区域(传感器区域)中的主传感器和辅助传感器的示例性布局的示意平面图。
[图5]图5是示出图2的显示区域(传感器区域)中的主传感器和辅助传感器的示例性布局的示意平面图。
[图6]图6是示出供检测用的光源的发光波长范围与分别由主传感器和辅助传感器使用的检测波长范围之间的示例性关系的特性图。
[图7]图7是用于图示出背光的接通/关断状态与显示状态之间的关系的时序图。
[图8]图8是差分图像指尖提取处理的流程图。
[图9]图9是用于图示出图8的差分图像提取处理的时序图。
[图10]图10是用于图示出差分图像指尖提取处理的照片图。
[图11]图11是用于图示出当外部光明亮时的差分图像指尖提取处理的示图。
[图12]图12是用于图示出当外部光暗淡时的差分图像指尖提取处理的示图。
[图13]图13是用于图示出作为差分图像指尖提取处理的结果的感光信号的动态范围的示图。
[图14]图14是用于图示出当指尖是同时多个地存在的检测目标时的差分图像指尖提取处理的照片图。
[图15]图15是用于图示出比较例的差分图像提取处理的特性图。
[图16]图16是用于图示出比较例的差分图像提取处理的示意图。
[图17]图17是用于图示出实施例的主传感器中的差分图像的特性图。
[图18]图18是用于图示出该实施例的主传感器中的差分图像的示意图。
[图19]图19是用于图示出实施例的辅助传感器中的差分图像的特性图。
[图20]图20是用于图示出实施例的辅助传感器中的差分图像的示意图。
[图21]图21是用于图示出要对实施例的主传感器中的差分图像和辅助传感器中的差分图像执行的合成处理的示意图。
[图22]图22是用于图示出本发明第一修改例的差分图像指尖提取处理的特性图。
[图23]图23是用于图示出本发明第一修改例的差分图像指尖提取处理的示意图。
[图24]图24是用于图示出本发明第二修改例的差分图像指尖提取处理的示意图。
[图25]图25是用于图示出本发明第三修改例的差分图像指尖提取处理的示意图。
[图26]图26是用于图示出利用指尖提取处理的结果的示例应用的示图。
[图27]图27是用于图示出利用指尖提取处理的结果的示例应用的示图。
[图28]图28是用于图示出利用指尖提取处理的结果的示例应用的示图。
[图29]图29是用于图示出利用指尖提取处理的结果的示例应用的示图。
[图30]图30是以上各个实施例的显示及图像拾取装置的透视图,示出其在第一应用例中的外观。
[图31]图31的(A)是第二应用例中的透视图,示出当从前方观看时的外观,以及(B)是透视图,示出从后方观看时的外观。
[图32]图32是第三应用例中的透视图,示出其外观。
[图33]图33是第四应用例中的透视图,示出其外观。
[图34]图34的(A)是第五应用例中打开状态的正视图,(B)是侧视图,(C)是关闭状态的正视图,(D)是左视图,(E)是右视图,(F)是俯视图,(G)是仰视图。
[图35]图35是示出供检测用的光源的发光波长范围与分别供主传感器和辅助传感器使用的检测波长范围之间的另一示例性关系的特性图。
[图36]图36是示出本发明另一修改例的显示及图像拾取装置的配置的框图。
[图37]图37是示出图36中的显示及图像拾取装置中每个像素的示例性配置的电路图。
[图38]图38是用于图示出图36和图37的显示及图像拾取装置中的差分图像指尖提取处理的示图。
具体实施方式
以下,将参考附图来详细描述本发明的一个实施例。
[显示及图像拾取装置的总体配置的示例]
图1是示出本发明一个实施例的显示及图像拾取装置的总体配置的示图。该显示及图像拾取装置被配置为包括I/O显示面板20、背光15、显示驱动电路12、感光驱动电路13、图像处理部件14和应用程序执行部件11。
I/O显示面板20由其上按矩阵布置了多个像素的液晶面板(LCD;液晶显示器)配置。I/O显示面板20不仅具有显示基于显示数据预先确定的图形、文本等的功能(显示功能),还具有对与I/O显示面板20接触或与之接近的任意物体(接近物体)进行图像拾取的功能(图像拾取功能)(稍后描述)。此外,背光15例如通过布置多个发光二极管来配置,并且是用于I/O显示面板20的显示和检测用途的光源。如稍后所述,背光15被这样配置来在与I/O显示面板20的操作定时同步的预定定时高速执行ON/OFF操作。
显示驱动电路12是负责驱动I/O显示面板20(驱动以用于线序(line-sequential)显示操作)来在I/O显示面板20上显示基于显示数据的图像(来执行显示操作)的电路。
感光驱动电路13(图像生成部件)是负责驱动I/O显示面板20(驱动它执行线序图像拾取操作)来从I/O显示面板20的各个像素获取感光信号(图像拾取信号)(来使物体经历图像拾取)的电路。此外,感光驱动电路13被这样配置以通过相对于来自各个像素的感光信号执行预定图像处理(图像生成处理)来生成合成图像。此外,所产生的合成图像例如基于帧被积累在帧存储器13A中,并且之后被输出给图像处理部件14作为捕获图像。还将更详细地描述这样的图像生成处理。
图像处理部件14负责基于由感光驱动电路13提供的捕获图像(合成图像)来执行预定的图像处理(计算处理),并且检测和获取有关接近物体的物体信息(例如,包括位置坐标数据和有关物体形状和大小的数据)。此外,将更详细地描述这样的检测处理。
应用程序执行部件11负责基于由图像处理部件14导出的检测结果根据任意预定应用软件来执行处理。例如,这样的处理用来将所检测到的物体的位置坐标提供给显示数据以及给在I/O显示面板20上进行的显示。这里注意,要由应用程序执行部件11生成的显示数据将被提供给显示驱动电路12。
[I/O显示面板的详细配置示例]
通过参考图2,接下来描述I/O显示面板20的详细配置示例。I/O显示面板20被配置为包括显示区域(传感器区域)21、显示用H驱动器22、显示用V驱动器23、传感器读出用H驱动器25和传感器用V驱动器24。
显示区域21是这样的区域,其中来自背光15的光被调制用于发射照射光,并且与该区域接近的任意物体经历图像拾取。在该实施例中,照射光包括显示光和来自用于检测任意最近将物体的红外光源等(未示出)的检测光(例如,红外光)(以下同样适用)。显示区域21包括液晶元件和感光传感器的矩阵布置,其中每个液晶元件(稍后将描述的主传感器32和辅助传感器33)是发光元件(显示元件),每个感光传感器是感光器(图像拾取元件)。
显示用H驱动器22基于都由显示驱动电路12提供的用于显示驱动用的显示信号和控制时钟,与显示用V驱动器23一起负责线序驱动显示区域21中的像素的液晶元件。
传感器读出用H驱动器25与传感器用V驱动器24一起负责线序驱动传感器区域21中的像素的感光器,并且获取感光信号。
[显示区域中的每个像素的详细配置示例]
接着,将参考图3至图5来描述显示区域21中的每个像素的详细配置示例。
首先,如在图3中示例性地示出的,像素31由图像拾取像素(感光部件)和包括液晶像素的显示像素(显示部件)31RGB配置。显示像素31RGB包括红色(R)显示像素31R、绿色(G)显示像素31G和蓝色(B)显示像素31B。感光部件还携带两种的感光传感器,即,主传感器32(第一感光器)和辅助传感器33(第二感光器)。注意,尽管图3示出一个一个地布置显示像素31RGB和感光传感器,但是可替换地,多个显示像素31RGB可以共享一个感光传感器。
例如,这样的主传感器32和辅助传感器33优选以1比1的比例如图4的(A)和(B)中所示地交替布置在显示区域21上。作为一种可替换布置,如图5中的(A)和(B)中所示,例如,辅助传感器33的数目可以少于主传感器32。如果是该布置,则需要对来自辅助传感器33的感光信号执行插值处理,从而使得处理变复杂化,并且要求根据信号和应用的类型警告任意可能的不完整的检测是否会引发问题。注意,在图4和图5中,为了描述方便,显示像素31RGB未被示出。
[光源中和感光传感器中的波长范围的配置示例]
参考图6,接下来描述光源中和感光传感器中的波长范围的配置示例。图6示出检测用光源中的发光波长范围(图6的(A))与主传感器32中和辅助传感器33中的检测波长范围(图6的(B)和(C))之间的关系的一个示例。
首先,如图6的(B)中的标号G21所示,在每个主传感器32中,光敏波长范围是位于波长λ1以上的长波长侧的波长范围。因此,这些主传感器32每一个包括如图6的(A)中的标号G1所示的用于检测任意接近物体的检测光波长范围Δλ23(波长λ2至波长λ3的波长范围)作为光敏波长范围,并且被这样配置来充当用于检测任意接近物体的感光传感器。这里,在主传感器32中,检测光的波长范围Δλ23的光敏度比与该波长范围不同的预定波长范围(在该示例中,为比波长λ2更短的波长的波长范围)中的光敏度更高。
另一方面,如图6的(C)中的标号G31指示的,在每个辅助传感器33中,光敏波长范围是位于波长λ2以下的短波长侧的波长范围。即,辅助传感器33每一个具有的有关光敏波长的光敏特性与上述主传感器32不同。因此,在这些辅助传感器33中,检测光的波长范围Δλ23具有的光敏度比主传感器32的(在该示例中,检测光的波长范围Δλ23中光敏度为0)更低。这样,辅助传感器33每一个被这样配置来充当用于检测稍后描述的任意伪信号的感光传感器。此外,在辅助传感器33中,检测光的波长范围Δλ23具有的光敏度比上述预定波长范围(在该示例中,为比波长λ2短的波长的波长范围)中的光敏度更低。注意,在该示例中,波长范围Δλ12(波长λ1至波长λ2的波长范围)是被主传感器32和辅助传感器33两者使用的光敏波长范围。
具体地,当使用的检测光是红外光时,主传感器32每一个可以被配置为包括该红外光的波长范围作为光敏波长范围,并且辅助传感器33每一个可以被配置为包括可见光等的波长范围作为光敏波长范围。然而,检测光的波长范围与主传感器32和辅助传感器33中各自的光敏波长范围之间的关系不限于此。例如,使用的检测光可以是绿光,并且辅助传感器33中的光敏波长范围可以仅包括红光的波长范围。然而,这种情况一定要注意的是,辅助传感器33每一个接收主传感器32能够接收到的波长的外部光,尽管其光敏波长范围优选不包括任意检测光的波长范围。这是因为,如稍后所述,辅助传感器33负责检测从进入主传感器32的外部光中产生的任意伪信号。检测光的波长范围与主传感器32和辅助传感器33各自中的光敏波长范围之间这样的关系可以用任意现有滤色镜的组合、光感传感器的光谱灵敏度的设计等来实现。
这里,主传感器32的光敏波长范围可以是如图6的(B)中的标号G22所示的区域,并且类似地,辅助传感器33的光敏波长范围可以是如图6的(C)中的标号G32所示的区域。如果是该情况,则波长范围Δλ12(波长λ1至波长λ2的波长范围)和波长范围Δλ34(波长λ3至波长λ4的波长范围)将是主传感器32和辅助传感器33两者的光敏波长范围。
接下来描述该实施例的显示及图像拾取装置的优点和缺点。
[显示及图像拾取装置的示例性基本操作]
首先,描述显示及图像拾取装置的基本操作,即其图像显示操作和物体图像拾取操作。
利用显示及图像拾取装置,由应用程序执行部件11提供的显示数据被用作生成显示驱动电路12中的显示用驱动信号的基础。用所产生的驱动信号,I/O显示面板20被线序显示驱动使得图像显示被执行。此外,此时,背光15也被显示驱动电路12驱动使得其与I/O显示面板20同步地被进行接通/关断操作。
参考图7,现在描述背光15的接通/关断状态与I/O显示面板20的显示状态之间的关系。在图7中,横轴表示时间,并且纵轴表示感光器被驱动进行光接收的线的垂直位置。
首先,当图像显示被以1/60每秒的帧周期执行时,例如,背光15在每个帧周期的前半段(1/120秒)中被关断(被置于关断状态),因此显示不被执行。另一方面,在每个帧周期的后半时段中,背光15被接通(置于接通状态),并且伴随向每个像素供应显示信号,图像显示被执行相应的帧时段。
这样,每个帧周期的前半段是没有照射光从I/O显示面板20射出的无照明时段,而每个帧周期的后半段是有照射光从I/O显示面板20射出的照明时段。
这里,当存在I/O显示面板20的任意接近对象(例如,指尖)时,由于感光驱动电路13为光接收进行的线序驱动,该接近物体经历由I/O显示面板20中的每个像素的感光器进行的图像拾取。来自各个感光器的感光信号之后被提供给感光驱动电路13。在感光驱动电路13中,一帧中的像素的感光信号被积累,并且之后被输出给图像处理部件14作为捕获图像。
基于所产生的捕获图像,图像处理部件14执行稍后描述的预定图像处理(计算处理),从而检测有关I/O显示面板20的接近物体的信息(例如,位置坐标数据和有关物体形状和大小的数据)。
[显示及图像拾取装置中的指尖提取处理(差分图像指尖提取处理)的示例性基本操作]
参考图8至图14,接下来描述由图像处理部件14提取I/O显示面板20的任意接近物体(例如,指尖)的处理(指尖提取处理)的基本操作。图8是由图像处理部件14进行的指尖提取处理(稍后将描述的差分图像指尖提取处理),并且图9是该差分图像指尖提取处理的一部分的时序图。
首先,在一个显示帧周期中背光15被关断的前半段的时段(无照明时段)中,I/O显示面板20对接近物体执行图像拾取处理。结果,图像A(阴影图像)被获得(图8的步骤S11,图9的定时t1至t2的时段)。
接着,在显示帧周期中背光15被接通的后半段的时段(照明时段)中,I/O显示面板20对接近物体执行图像拾取处理。结果,图像B(作为使用照射光的反射光的结果的反射图像用图像)被获得(图8的步骤S12,图9的定时t3至t4的时段)。
接着,使用图像B和作为背光15被关断的时段(无照明时段)中的图像拾取的结果的图像A(阴影图像),图像处理部件14生成差分图像C(图8的步骤S13,图9的定时t3至t4的时段)。
接着,图像处理部件14使用这样生成的差分图像C作为基础来执行用于重心判定的计算处理(步骤S14),从而识别处接触(接近)的中心(步骤S15)。之后,有关接近物体的检测结果从图像处理部件14输出给应用程序执行部件11,并且这是由图像处理部件14进行的差分图像指尖提取处理的结束。
以这样的方式,在差分图像指尖提取处理中,指尖提取处理是基于差分图像C来执行的,差分图像C是使用利用了照射光的反射光的图像B和不是利用照射光而是外部光(环境光)的图像A获得的。因此,像图10的差分图像C的示例性照片图像(photo image)一样,外部光的亮度的任意图像被去除,并且在这样没有外部光的亮度的任何影响的情况下,接近物体的检测被执行。此外,在与这样的外部光的去除的同时,从发光元件的特征变化等产生的任意固定噪声可以被去除。
具体地,如图11的(A)的横截面图所示例性地示出的,当入射的外部光强烈时,背光15处于被接通状态时的感光输出电压Von1将如图11的(B)中所示出的那个一样。即,在被手指触摸的部分以外的部分,电压取与外部光的亮度相对应的值Va,而在被手指触摸的部分,在这样触摸的物体(手指)的表面上,电压被降低至与反射来自背光15的光的反射系数相对应的值Vb。另一方面,背光15处于关断状态时的感光输出电压Voff1类似地,在被手指触摸的部分以外的部分取与外部光的亮度相对应的电压值Va,而在被手指触摸的部分,由于外部光被遮挡,该电压取电平相当低的值Vc。
此外,如图12的(A)中的横截面图所述,在入射的外部光很弱(几乎没有)的状态中,背光15处于接通状态时的感光输出电压Von2将像图12的(B)中所示出的那个一样。即,在被手指触摸的部分以外的部分,由于没有外部光,电压区电平相当低的值Vc。另一方面,在被手指触摸的部分,在那时被物体(手指)触摸的表面上,电压上升至与反射来自背光15的光的反射系数相对应的值Vb。然而,处于背光15为关断状态的状态中的感光输出电压Voff2,电压仍然保持在电平相当低的值Vc,并且不论该部分是否被手指触摸,不显示任何改变。
这样,从图11和图12的比较显而易见,在不接触面板的显示区域21的部分,感光输出电压在有和没有外部光的情况下示出很大差异。另一面,在手指触摸的部分,不论是否存在外部光,背光15被接通时的电压值Vb与背光15被关断时的电压值Vc几乎处于相同的状态。
因此,检测被执行来找到背光15被接通时的电压与背光15被关断时的电压之间的任何差异,并且与电压值Vb与电压值Vc之间的差异一样,示出确定值或更大的差异的任意部分可以被确定为与面板接触或与与之邻近的部分。这样,技术进入面板的外部光强烈,以及即使几乎没有外部光,接触或接近的检测也可以在一致的条件下被另一满意地执行。
此外,如图13的(A)和(B)所示,感光输出电压的检测所需要的动态范围被如下确定。这里,图13的(A)示出面板的显示区域21的触摸的状态,并且在该状态中,面板表面被手指f触摸,并且具有几乎100%的反射系数的圆形物体m被放在显示区域21上。在这样的状态中,扫描手指f和物体m的线的感光输出电压将处于图13的(B)的状态。此外,在图13的(B)中,电压Von3是背光15被接通的状态中的感光输出电压,并且电压Voff3是背光15被关断的状态中的感光输出电压。
如图13的(B)中所示,在存在具有几乎100%的反射系数的圆形物体m的部分,比当背光15被接通时将被检测到的电压Vd更高的电压处于无观测必要电平Vy,并且等于或低于该电平的范围Vx是需要检测的动态范围。因此这说明处于无观测必要电平Vy的任意信号都可以被视为具有与上溢(overflow)相同的强度。
注意,在差分图像指尖提取处理中,图14的(A)至(D)的图像(图像A至C以及图像C的二值化图像)例如说明以下内容。即,对于被布置在I/O显示面板20的显示区域21上的多个接近物体,例如有关每个接近物体的位置、形状或大小的信息可以被获得。
[接近物体移动时的差分图像指尖提取处理的示例]
参考图15至图21,接下来与比较示例相比较地描述本发明的一个具体特征,即,当接近物体正在移动等时的差分图像指尖提取处理。
首先,利用图15和图16的比较示例,如图15中的箭头所示,当接近物体在I/O显示面板20的显示区域21上为移动状态时,观测到以下问题。即,在与接近物体相对应的任何部分,观测到阴影图像A101的感光输出信号Voff(A101)与利用反射光的图像B101的感光输出信号Von(B101)之间的位移。此外,由于这样的位置,在这两个图像A101和B101的差分图像C101(=B101-A101)中,以及在其感光检测信号V(C101)(=Von(B101)-Voff(A101))中,除了与物体的位置相对应的原本预期的信号之外,还在另一不同位置处生成伪信号F101。结果,这样的伪信号F101的存在使得难以以良好的稳定性检测接近物体。
然而,在该实施例中,图像处理部件14利用基于由主传感器32获得的捕获图像和由辅助传感器33获得的捕获图像的合成图像,来获得有关接近物体的物体信息。具体地,感光驱动电路13具体地针对每种主传感器32和辅助传感器33来生成利用反射光的图像B和阴影图像A的差分图像C(=B-A)。然后,图像处理部件14利用合成图像F来获得物体信息,其中合成图像F基于都由主传感器32获得的利用反射光的图像MB和阴影图像MA的差分图像MC(=MB-MA;第一差分图像)和都由辅助传感器33获得的利用反射光的图像HB和阴影图像HA的差分图像HC(=HB-HA;第二差分图像)。
更具体地,利用由主传感器32获得的捕获图像,例如如图17和18中所示地生成差分图像MC。即,在主传感器32中,由于检测光的波长范围Δλ23被包括在其感光波长范围中,当接近物体在I/O显示面板20的显示区域21上移动时,例如,在差分图像MC中,除了与比较示例类似地生成接近物体的检测信号以外,还生成伪信号F101。换而言之,在图像MA和MB的差分图像MC中,并且在其感光检测信号V(MC)(=Von(MB)-Voff(MA))中,除了与物体的位置相对应的原来预期的信号以外,还在另一不同位置生成伪信号F101。
另一方面,利用由辅助传感器33获得的捕获图像,例如如图19和图20所示地生成差分图像HC。即,在每个辅助传感器33中,检测光的波长范围中的光敏度低于第一感光器的光敏度(在该示例中,为0)。因此,与利用主传感器32的情况类似地,在差分图像HC中生成伪信号F101,但是可以防止(在该示例中,避免)生成接近物体的检测信号。换而言之,尽管在图像HA和HB的差分图像HC(=HB-HA)中和其感光检测信号V(HC)(=Von(HB)-Voff(HA))中生成伪信号F101,但是可以防止(在该示例中,避免)生成与物体的位置相对应的原来预期的信号。
接着,如图21中示例性地示出的,感光驱动电路13基于由辅助传感器33获得的差分图像HC来生成预定的遮罩图像(mask image)E。此外,感光驱动电路13将由主传感器32获得的差分图像MC与所生成的遮罩图像F进行与,从而生成合成图像F。使用所生成的合成图像F,图像处理部件14之后获得有关接近物体的物体信息。此时,感光驱动电路13例如对差分图像HC施加二值化处理和图像反转处理,从而能够生成遮罩图像E。具体地,利用二值化处理,差分图像HC中具有值(阈值)或更大值的任意感光信号可以被视为伪信号,并且可以被转换成遮盖伪信号的部分的图像。
这里,将具有阈值或更大值的任意信号处理为伪信号是为了消除面板上噪声的影响,以及对在辅助传感器33侧上的差分图像HC中轻微出现检测信号有所准备,因为某些辅助传感器33可能具有不足以完全分离光谱特征的性能。因此,使检测信号泄露到辅助传感器33最小化导致系统性能的提高。具体地,可以限制检测光的波长范围Δλ23,并且对于辅助传感器33,可以将灵敏度设置得相对于检测光的波长范围Δλ尽可能低。这里,由于辅助传感器33每一个负责检测将通过外部光生成的任意伪信号,所以,其性能可以通过将其对外部光的灵敏度增大为比检测光的波长灵敏度相对高而得到提高。
可替换地,除了使用这样的遮罩图像E生成合成图像F的方法以外,还可以使用差分图像MC和差分图像HC的差分图像(=MC-HC)作为合成图像F。
以这样的方式,利用基于由主传感器32获得的车分图像MC和由辅助传感器33获得的差分图像HC获得的合成图像F,获得物体信息。这样,即使是接近物体在I/O显示面板20的显示区域21上移动的情况,例如,也可以防止(或避免)在合成图像F中生成伪信号。
如以上所述,在实施例中,I/O显示面板20的显示区域21设有多个主传感器32,每一个包括用来检测接近物体的检测光的波长范围Δλ23作为感光波长范围。还设有多个辅助传感器33,在每一个辅助传感器33中,检测光的波长范围的光敏度比主传感器32中的光敏度低。此外,利用基于由主传感器32获得的差分图像MC和由辅助传感器33获得的差分图像HC获得的合成图像F,将获得有关接近物体的物体信息。因此,即使接近物体例如在I/O显示面板20的显示区域21上移动,也可以防止在合成图像F中生成任何伪信号,从而使得能够以良好的稳定性检测物体,而不论是在何种使用情况中。而且,原则上,每种伪信号生成样式都可以被处理,从而在每种外部光情况下都令人满意地使能操作。
以下,将描述若干本发明的修改例。注意,与上述实施例中相同的任何组件被设置相同的标号并且在适当时不再进行描述。
(第一修改例)
图22和图23各自示例第一修改例的差分图像指尖提取处理。
在该修改例中,如图22和图23中示例性地示出的,感光驱动电路13基于由主传感器32获得的利用反射光的图像MB的差分图像MHC和由辅助传感器33获得的利用反射光的图像HB的差分图像MHC(=MB-HB)来获取物体信息。
这使得能够与上述实施例类似地,不论在什么使用情况中都能以良好的稳定性检测任意物体。
(第二修改例)
图24示出第二修改例中的差分图像指尖提取处理。在该修改例中,图像处理部件14被配置为通过顺次处理分别针对主传感器32和辅助传感器33执行生成差分图像MC的处理和生成差分图像HC的处理。
具体地,在该修改例中,如图24中所示,在显示区域21上,主传感器32和辅助传感器33被以1比1的比例交替布置。此外,差分图像MC和差分图像HC分别由多个像素值m0、h1、m2、h3、m4、h5等配置。
然后,针对上述顺次处理,当由与主传感器32相邻的辅助传感器33获得的差分像素值等于或大于预定阈值Vth(H)时,感光驱动电路13确定辅助传感器33具有差分值0,并且输出该值。
另一方面,当由与主传感器32相邻的辅助传感器33获得的差分像素值小于上述阈值Vth(H)时,由主传感器32导出的差分计算实际结果被输出作为差分像素值。以这种方式,要被执行的处理变得与利用在以上实施例中描述的遮罩图像E的遮罩处理等同。
这样,在该修改例中,可以在不需要特别地包括与主传感器32和辅助传感器33一起使用的帧存储器的情况下获得处理结果,并且可以高速获得。
(第三修改例)
图25示出第三修改例的差分图像指尖提取处理。在该修改例中,为了实际地获取更高精度的结果,要针对辅助传感器33和主传感器32两侧执行第二修改例的处理和插值处理。
具体地,对于上述顺次处理,感光驱动电路13针对位于与辅助传感器33相对应的各个位置处的各个主传感器32插值生成差分像素值。还针对位于与主传感器32相对应的各个位置处的各个辅助传感器33插值生成差分像素值。还考虑这样插值生成的差分像素值,顺次处理将根据与阈值的比较的结果来执行。
这相应地在辅助传感器和主传感器之间建立良好精度的相关性,使得处理结果可以是理想的。并且利用这样的方法,没有特别的需要包括帧存储器,而仅需要预先具有有关一个或两个传感器的处理结果。此外,由于处理是基于传感器来执行的,所以由处理引起的任何延迟将保持在与几个传感器有关的范围以内,使得处理可以以很高的速度执行。
注意,在该修改例中,如图4的(A)和(B)中示例性地示出的,主传感器32和辅助传感器33优选以1比1的比例被交替布置在显示区域21上。
(应用程序的执行示例)
参考图26至图29,接着将描述由应用程序执行部件11利用通过前述指尖提取处理检测到的有关物体的位置等的信息执行应用程序的若干示例。
首先,图26的(A)中所示的示例是指尖61触摸I/O显示面板20的表面并且触摸的路径在屏幕上被显示为图画线611的示例。
此外,图26的(B)中所示的示例有关使用手的形状的手势识别。具体地,触摸(或接近于)I/O显示面板20的手62的形状被识别,并且手被识别的形状被显示为图像。响应于这样的显示物体的移动操作621,某种处理将被执行。
此外,图27中示出的示例有关通过将手的状态从握着的手63A改为打开的手63B并且关于触摸或接近使各个状态中的手经历I/O显示面板20上的图像识别进行的图像识别。该处理将基于这样的图像识别被执行。基于这样的识别来执行该处理例如使得能够发布放大命令。此外,利用这样的命令的可能性,通过执行这样的图像识别,通过个人计算机装置与I/O显示面板20的连接,例如,计算机装置上的命令改变等操作可以以更自然的状态被输入。
可替换地,如图28中所示例性地示出的,I/O显示面板20可以多个地提供,并且这样的多个I/O显示面板20可以通过某些传送装置连接到一起。然后,作为触摸或接近的检测结果的任意图像可以被发送给任意其它I/O显示面板20以在其上显示来在操作这些显示面板的用户之间建立通信。即,在使得两个I/O显示面板20准备好的情况下,例如,这样的将在这些面板之一上利用图像识别完成的手65的形状发送给用于显示手642的形状的其余面板的处理,或者将在其余面板被手64触摸之后显示的路径641发送给用于显示的另一面板的处理,有可能被执行。这样,通过发送将任意画图状态的移动图像,以及通过将任意手写文本、图形等转发给另一端的用户,有可能存在新的通信工具。这样的示例例如可以包括将I/O显示面板20应用于移动电话终端的显示面板。
此外,如图29中所示例性地示出的,通过用毛笔66像在I/O显示面板20的表面上书写任意文本一样得接触它并且通过将被毛笔66触摸的部分显示为I/O显示面板20上的图像661,可以用毛笔来进行手写输入。如果是该情况,毛笔的详细触摸会被识别并被实现。利用之前的手写识别,例如,某些特定类型的数字转换器已经实现了对专用钢笔的任意倾斜的电场检测,但是在该示例中,真实的毛笔所实际触摸的表面本身被检测使得信息输入被更真实地进行。
(模块和应用示例)
参考图30至图34,接下来描述该实施例中和以上修改例中描述的显示及图像拾取装置的应用示例。以上实施例等的显示及图像拾取装置可以应用于所有领域的电子装置,包括电视装置、数码相机、笔记本个人计算机、以移动电话为例的移动终端装置或摄像机。换而言之,以上实施例等的显示及图像拾取装置可以应用于所有领域的电子装置,无论将外部输入的视频信号或内部生成的视频信号显示为图像或视频的何种装置都可。这里,以下电子装置的示例不是仅有的一种可能,并且例如,通过将本发明的这些特征用作通过检测光来仅提取任意被反射的分量,监视相机的应用示例也是一种可能。
(第一应用例)
图30示出应用了以上实施例等的任意显示及图像拾取装置的电视装置的外观。该电视装置被配置为包括视频显示屏部件510,其例如包括前面板511和滤光镜512,并且视频显示屏部件510由以上实施例等的任意显示及图像拾取装置配置。
(第二应用示例)
图31示出应用了以上实施例等的任意显示及图像拾取装置的数码相机的外观。该数码相机例如被配置为包括供闪光灯使用的发光部件521、显示部件522、菜单切换器523和闪光灯按钮524,并且显示部件522被配置为由以上实施例等的任意显示及图像拾取装置配置。
(第三应用例)
图32示出应用了以上实施例等的任意显示及图像拾取装置的笔记本个人计算机的外观。该笔记本个人计算机例如被配置为包括主体531、用于文本等的输入操作的键盘532以及用于图像显示的显示部件533,并且显示部件533由以上实施例等的任意显示及图像拾取装置配置。
(第四应用例)
图33示出应用了以上实施例等的任意显示及图像拾取装置的摄像机的外观。该摄像机例如被配置为包括主体部件541、布置在主题部件541的前侧表面上供物体成像用的镜头542、在图像拾取时使用的开始/停止开关543和显示部件544。该显示部件544由以上实施例等的任意显示及图像拾取装置配置。
(第五应用例)
图34示出应用了以上实施例等的任意显示及图像拾取装置的移动电话的外观。例如,该移动电话由通过耦接部件(铰链部件)730耦接到下底座的上底座720配置,并且包括显示器740、副显示器750、图像灯760和相机770。显示器740或副显示器750由以上实施例等的任意显示及图像拾取装置配置。
尽管已经利用实施例、修改例和应用例描述了本发明,但是本发明不限于这样的实施例等,并且可以构想到大量其它修改例和变形例。
作为一个示例,在上述实施例等中,如图35的(A)中所示,波长范围Δλ12(波长λ1至波长λ2的波长范围)和波长范围Δλ34(波长λ3至波长λ4的波长范围)是主传感器32和辅助传感器33两者的光敏波长范围。对于本发明的应用,这肯定不是唯一的可能。即,如图35的(B)中所示例性地示出的,主传感器32的发光波长可能与辅助传感器33的光敏波长范围隔开,并且该配置被认为是优选的。注意,在图35的(A)和(B)中,在不包括用实箭头指示的主传感器32的光敏波长范围的波长范围中,主传感器32每一个具有的光敏度为0。类似地,在不包括用虚箭头指示的辅助传感器33的光敏波长范围的波长范围中,辅助传感器33每一个具有的光敏度为0。即,在图35的(B)中,辅助传感器33每一个在主传感器32的光敏波长范围中表现的光敏度为0,而主传感器32每一个在辅助传感器33的光敏波长范围中表现的光敏度为0。这样,如上所述,这两种传感器的光敏波长范围相互隔开(不相同)。
此外,在以上实施例等中,例示了I/O显示面板20是设有背光15的液晶面板的情况。可替换地,供显示使用的背光也可以用作检测光,或者可以提供专门供检测使用的照射光源。此外,当这样的照射光源被专门提供供检测使用时,使用不包括可见光区域的波长范围的光(例如,红外光)是更可取的。
此外,在以上实施例中,例示了在I/O显示面板20中,显示元件每一个是液晶显示元件并且分离地提供感光器的情况。对于本发明的应用,这肯定不是唯一的可能。具体地,向图36至图38的其它修改例的显示及图像拾取装置,例如,I/O显示面板(I/O显示面板60)可以由光发射/接收元件(显示图像拾取元件)配置,例如能够以时间共享方式执行发光操作和感光操作的有机EL(电致发光)元件。
图36是示出该修改例的显示及图像拾取装置的配置示例的框图。该显示及图像拾取装置被配置为包括I/O显示面板60,显示驱动电路82、包括帧存储器83A的感光驱动电路83、图像处理部件84以及应用程序执行部件81。在这些组件中,显示驱动电路82、帧存储器83A、感光驱动电路83、图像处理部件84以及应用程序执行部件81分别与以上实施例中所描述的显示驱动电路12、帧存储器13A、感光驱动电路13、图像处理部件14和应用程序执行部件11类似地操作,因此不再进行描述。
如上所述,I/O显示面板60被配置为使用有机EL元件的有机EL显示器,并且多个像素(显示及图像拾取装置)按矩阵布置在显示区域(传感器区域)中。此外,在该示例中,该面板包括像素的矩阵布置等,这些像素包括每一个充当发光元件(显示元件)和感光器(图像拾取元件:上述主传感器)的有机EL元件和每一个充当发光元件(显示元件)和感光器(图像拾取元件:上述辅助传感器)的有机EL元件。利用这样的I/O显示面板60,与感光时段中光接收量相对应地积累的任何信号电荷将通过驱动感光驱动电路83以进行光接收而被读出。
图37示出图36的显示及图像拾取装置中的每个像素的电路配置示例(像素电路的配置示例)。该像素电路被配置为包括有机EL元件91、有机EL元件91的寄生电容91A、开关SW1到SW3、显示数据信号线92、读出行选择线93和接收数据信号线94。在该像素电路中,当开关SW1在显示时段(发光时段)中被设置为接通状态时,用于图像显示的显示数据从显示数据信号线92经由开关SW1供应给有机EL元件91,使得有机EL元件91执行发光操作。另一方面,利用有机EL元件91,在发光操作被停止的时段(感光时段)中,电荷根据进入传感器区域的光的量在有机EL元件91中生成的寄生电容91A中被积累。之后,这样积累的电荷通过响应于从读出行选择线93导出的信号的控制而被设置为接通状态的开关SW2被读入接收数据信号线94。因此,在感光时段开始时,需要通过临时将供复位用的开关SW3置于接通状态来在发光期间释放寄生电容91A中积累的电荷。
图38图示出图36和图37的显示及图像拾取装置中的差分图像指尖提取处理。具体地,在使用上述有机EL元件的I/O显示面板60中,例如,例示出执行在显示图像的同时检测正要与I/O显示面板60接触或与之接近的任意物体(手指f)的处理的情况。在该示例中,发光区域由屏幕中具体的多个水平行配置。这样的发光区域在场时段(field period)中在由图中的箭头指示的扫描方向上移动,使得该区域因视觉暂留而看起来像是被显示在整个屏幕上。
另一方面,对于感光信号的读出操作,发光区域的移动被用作通过位于发光区域的中的读出行和在垂直方向上某种程度上远离该发光区域的读出行来顺次执行读出操作的提示。具体地,利用发光区域中的读出行,所导致的读出操作能够检测来自发光区域的光的反射光,并且因此如图38中所示,所产生的读出数据将处于自发射接通的状态(图像B4:与利用反射光的图像B)相对应。另一方面,利用在垂直方向上某种程度上远离该发光区域的读出行,所导致的读出操作不受来自发光区域的发光的影响,因此如图38中所示,所产生的读出数据将处于自发射关断的状态(图像A41和A42(以下,称为图像A4):与阴影图像A相对应)。这样,在该修改例中,基于这些图像获得的差分图像C4(=B4-A4)可以被用作检测任意接近物体(手指f)的基础。还是利用这样的配置,可以得到与以上实施例中所实现的效果类似的效果。
此外,在以上实施例等中,例示出设置了包括多个显示元件和多个图像拾取元件的显示及图像拾取面板(I/O显示面板20)的显示及图像拾取装置。对于本发明的应用,这肯定不是唯一的可能。具体地,例如,本发明也可以应用于未设置显示元件而是设有包括多个图像拾取元件的图像拾取面板的图像拾取装置。

Claims (18)

1.一种图像拾取装置,包括:
图像拾取面板,所述图像拾取面板设有多个第一感光器、多个第二感光器和照射光源,所述照射光源发射包括用于检测接近物体的检测光的光,所述检测光的波长在预定波长范围内;以及
图像处理部件,所述图像处理部件对由所述图像拾取面板通过对所述接近物体进行图像拾取而捕获的信号执行图像处理,从而获得物体信息,所述物体信息包括所述接近物体的位置、形状或大小中的一个或多个,其中
对于光敏波长,所述第一感光器具有与所述第二感光器的光敏特性不同的光敏特性,
所述第一感光器的光敏波长范围包括所述检测光的波长范围,
在所述检测光的波长范围中,所述第二感光器的光敏度比所述第一感光器的光敏度低,并且
所述图像处理部件通过处理来自所述第一和第二感光器的信号来获得所述物体信息,
所述图像拾取装置还包括:
图像生成部件,所述图像生成部件针对所述第一和第二感光器中的每一个,生成作为利用反射光的图像与阴影图像之间的差的差分图像,所述利用反射光的图像是由所述图像拾取面板通过利用从所述检测光得到的反射光对所述接近物体进行图像拾取而获得的,所述阴影图像是由所述图像拾取面板通过对所述接近物体的阴影进行图像拾取而获得的,其中
所述图像处理部件利用基于第一差分图像和第二差分图像而获得的合成图像来获得所述物体信息,所述第一差分图像对应于作为由所述第一感光器获得的利用反射光的图像与由所述第一感光器获得阴影图像之间的差的差分图像,所述第二差分图像对应于作为由所述第二感光器获得的利用反射光的图像与由所述第二感光器获得的阴影图像之间的差的差分图像。
2.根据权利要求1所述的图像拾取装置,其中
所述第一感光器在作为所述检测光的波长范围的第一波长范围中的光敏度高于所述第一感光器在与所述第一波长范围不同的第二波长范围中的光敏度,并且
所述第二感光器在所述第一波长范围中的光敏度低于所述第二感光器在所述第二波长范围中的光敏度。
3.根据权利要求1所述的图像拾取装置,其中
所述第一感光器在作为所述检测光的波长范围的第一波长范围中的光敏度高于所述第一感光器在与所述第一波长范围相比位于更短波长侧的第二波长范围中的光敏度,并且
所述第二感光器在所述第一波长范围中的光敏度低于所述第二感光器在所述第二波长范围中的光敏度。
4.根据权利要求1所述的图像拾取装置,其中
所述图像生成部件基于所述第二差分图像生成预定遮罩图像,并且
所述图像处理部件利用所述第一差分图像和所述遮罩图像的合成图像来获得所述物体信息。
5.根据权利要求4所述的图像拾取装置,其中
所述图像生成部件通过使所述第二差分图像经过二值化处理和图像反转处理来生成所述遮罩图像。
6.根据权利要求1所述的图像拾取装置,其中
所述图像处理部件利用作为所述第一差分图像和所述第二差分图像之间的差的差分图像来获得所述物体信息。
7.根据权利要求1所述的图像拾取装置,其中
所述图像生成部件通过针对所述第一和第二感光器中的每一个的顺次处理,来执行生成所述第一差分图像的处理和生成所述第二差分图像的处理。
8.根据权利要求7所述的图像拾取装置,其中
所述图像拾取面板按照以下方式配置:所述第一感光器和所述第二感光器以1比1的比例交替布置。
9.根据权利要求8所述的图像拾取装置,其中
所述第一差分图像由多个第一差分像素值构成,并且所述第二差分图像由多个第二差分像素值构成,并且
在所述顺次处理中,
当由与所述第一感光器中的一个第一感光器相邻的第二感光器中的一个第二感光器获得的第二差分像素值等于或大于预定阈值时,所述图像生成部件将来自该第一感光器的第一差分像素值确定为0,然后输出所确定的值,并且
当由与该第一感光器相邻的第二感光器中的一个第二感光器获得的第二差分像素值小于所述阈值时,所述图像生成部件输出该第一感光器的实际差分计算结果作为所述第一差分像素值。
10.根据权利要求9所述的图像拾取装置,其中
在所述顺次处理中,所述图像生成部件执行以下处理:
对所述第二感光器的每个位置插值生成所述第一差分像素值来作为第一插值差分像素值;
对所述第一感光器的每个位置插值生成所述第二差分像素值来作为第二插值差分像素值;以及
根据与所述阈值的比较结果并考虑所述第一和第二插值差分像素值来执行所述顺次处理。
11.根据权利要求1所述的图像拾取装置,其中
所述图像处理部件基于差分图像来获得所述物体信息,所述差分图像是由所述多个第一感光器通过利用从所述检测光得到的反射光来对所述接近物体进行图像拾取而获得的利用反射光的图像与由所述多个第二感光器通过利用从所述检测光得到的反射光对所述接近物体进行图像拾取而获得的利用反射光的图像之间的差。
12.根据权利要求1所述的图像拾取装置,其中
所述第二感光器在所述检测光的波长范围中的光敏度是0。
13.根据权利要求12所述的图像拾取装置,其中
所述第一感光器的感光波长范围和所述第二感光器的感光波长范围相互分离。
14.根据权利要求1所述的图像拾取装置,其中
所述检测光是红外光,
所述第一感光器的感光波长范围包括所述红外光的波长范围,并且
所述第二感光器的感光波长范围包括可见光的波长范围。
15.一种显示和图像拾取装置,包括:
显示和图像拾取面板,所述显示和图像拾取面板设有多个显示元件、多个第一感光器和多个第二感光器,并且发射包括用于检测接近物体的检测光的光,所述检测光的波长位于预定的波长范围内;以及
图像处理部件,所述图像处理部件对由所述显示和图像拾取面板通过对所述接近物体进行图像拾取而捕获的信号执行图像处理,从而获得物体信息,所述物体信息包括所述接近物体的位置、形状或大小中的一个或多个,其中
对于光敏波长,所述第一感光器具有与所述第二感光器的光敏特性不同的光敏特性,
所述第一感光器的光敏波长范围包括所述检测光的波长范围,
在所述检测光的波长范围中,所述第二感光器的光敏度比所述第一感光器的光敏度低,并且
所述图像处理部件通过处理来自所述第一和第二感光器的信号来获得所述物体信息,
所述显示和图像拾取面板还包括:
图像生成部件,所述图像生成部件针对所述第一和第二感光器中的每一个,生成作为利用反射光的图像与阴影图像之间的差的差分图像,所述利用反射光的图像是由所述显示和图像拾取面板通过利用从所述检测光得到的反射光对所述接近物体进行图像拾取而获得的,所述阴影图像是由所述显示和图像拾取面板通过对所述接近物体的阴影进行图像拾取而获得的,其中
所述图像处理部件利用基于第一差分图像和第二差分图像而获得的合成图像来获得所述物体信息,所述第一差分图像对应于作为由所述第一感光器获得的利用反射光的图像与由所述第一感光器获得阴影图像之间的差的差分图像,所述第二差分图像对应于作为由所述第二感光器获得的利用反射光的图像与由所述第二感光器获得的阴影图像之间的差的差分图像。
16.根据权利要求15所述的显示和图像拾取装置,其中
所述显示和图像拾取面板设有发射包括所述检测光的光的照射光源。
17.根据权利要求15所述的显示和图像拾取装置,其中
所述显示元件的每一个发射包括所述检测光的光。
18.一种电子装置,所述电子装置具有设有图像显示功能和图像拾取功能的显示和图像拾取装置,所述显示和图像拾取装置包括:
显示和图像拾取面板,所述显示和图像拾取面板设有多个显示元件、多个第一感光器和多个第二感光器,并且发射包括用于检测接近物体的检测光的光,所述检测光的波长位于预定的波长范围内;以及
图像处理部件,所述图像处理部件对由所述显示和图像拾取面板通过对所述接近物体进行图像拾取而捕获的信号执行图像处理,从而获得物体信息,所述物体信息包括所述接近物体的位置、形状或大小中的一个或多个,其中
对于光敏波长,所述第一感光器具有与所述第二感光器的光敏特性不同的光敏特性,
所述第一感光器的光敏波长范围包括所述检测光的波长范围,
在所述检测光的波长范围中,所述第二感光器的光敏度比所述第一感光器的光敏度低,并且
所述图像处理部件通过处理来自所述第一和第二感光器的信号来获得所述物体信息,
所述显示和图像拾取面板还包括:
图像生成部件,所述图像生成部件针对所述第一和第二感光器中的每一个,生成作为利用反射光的图像与阴影图像之间的差的差分图像,所述利用反射光的图像是由所述图像拾取面板通过利用从所述检测光得到的反射光对所述接近物体进行图像拾取而获得的,所述阴影图像是由所述图像拾取面板通过对所述接近物体的阴影进行图像拾取而获得的,其中
所述图像处理部件利用基于第一差分图像和第二差分图像而获得的合成图像来获得所述物体信息,所述第一差分图像对应于作为由所述第一感光器获得的利用反射光的图像与由所述第一感光器获得阴影图像之间的差的差分图像,所述第二差分图像对应于作为由所述第二感光器获得的利用反射光的图像与由所述第二感光器获得的阴影图像之间的差的差分图像。
CN2009801014386A 2008-10-21 2009-10-14 图像拾取装置、显示及图像拾取装置和电子装置 Expired - Fee Related CN101903853B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2008-271349 2008-10-21
JP2008271349 2008-10-21
PCT/JP2009/067784 WO2010047256A1 (ja) 2008-10-21 2009-10-14 撮像装置、表示撮像装置および電子機器

Publications (2)

Publication Number Publication Date
CN101903853A CN101903853A (zh) 2010-12-01
CN101903853B true CN101903853B (zh) 2013-08-14

Family

ID=42119297

Family Applications (1)

Application Number Title Priority Date Filing Date
CN2009801014386A Expired - Fee Related CN101903853B (zh) 2008-10-21 2009-10-14 图像拾取装置、显示及图像拾取装置和电子装置

Country Status (9)

Country Link
US (1) US8514201B2 (zh)
EP (1) EP2343633A4 (zh)
JP (1) JP5300859B2 (zh)
KR (1) KR20110074488A (zh)
CN (1) CN101903853B (zh)
BR (1) BRPI0906069A2 (zh)
RU (1) RU2456659C2 (zh)
TW (1) TW201027408A (zh)
WO (1) WO2010047256A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101542422B (zh) * 2007-02-23 2013-01-23 索尼株式会社 图像拾取装置、显示及图像拾取装置和图像拾取处理装置
JP5749975B2 (ja) * 2010-05-28 2015-07-15 株式会社半導体エネルギー研究所 光検出装置、及び、タッチパネル
KR101794656B1 (ko) * 2010-08-20 2017-11-08 삼성디스플레이 주식회사 센서 어레이 기판, 이를 포함하는 표시장치 및 이의 제조 방법
JP2012053840A (ja) * 2010-09-03 2012-03-15 Toshiba Tec Corp 光学式タッチデバイス
GB201110159D0 (en) * 2011-06-16 2011-07-27 Light Blue Optics Ltd Touch sensitive display devices
JP5128699B1 (ja) * 2011-09-27 2013-01-23 シャープ株式会社 配線検査方法および配線検査装置
US10019112B2 (en) * 2011-10-25 2018-07-10 Semiconductor Components Industries, Llc Touch panels with dynamic zooming and low profile bezels
RU2548923C2 (ru) * 2013-02-07 2015-04-20 Открытое акционерное общество "АНГСТРЕМ" Устройство для измерения координат
CN108064386B (zh) * 2017-11-24 2022-04-05 深圳市汇顶科技股份有限公司 背景去除方法、影像模块及光学指纹辨识系统
EP3585047B1 (de) * 2018-06-20 2021-03-24 ZKW Group GmbH Verfahren und vorrichtung zur erstellung von hochkontrastbildern
JP2020136361A (ja) * 2019-02-14 2020-08-31 ファスフォードテクノロジ株式会社 実装装置および半導体装置の製造方法
US20220172387A1 (en) * 2019-03-26 2022-06-02 Sony Group Corporation Image processing apparatus, image processing method, and image processing program
CN112001879B (zh) * 2019-06-18 2023-07-14 杭州美盛红外光电技术有限公司 气体检测装置和气体检测方法
EP4231631A4 (en) * 2020-10-19 2023-11-29 Sony Semiconductor Solutions Corporation IMAGING ELEMENT AND ELECTRONIC INSTRUMENT
CN118067161A (zh) * 2022-11-22 2024-05-24 群创光电股份有限公司 电子装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1493999A (zh) * 2002-09-10 2004-05-05 ������������ʽ���� 信息处理装置和方法、记录媒体和程序
CN1508611A (zh) * 2002-08-30 2004-06-30 东芝松下显示技术有限公司 抑制图像采集中漏电流的方法
CN1707568A (zh) * 2004-05-31 2005-12-14 东芝松下显示技术有限公司 配备图像获取功能的显示装置

Family Cites Families (14)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3321053B2 (ja) * 1996-10-18 2002-09-03 株式会社東芝 情報入力装置及び情報入力方法及び補正データ生成装置
JP3967083B2 (ja) * 2000-03-22 2007-08-29 株式会社東芝 半導体受光素子
JP2002176192A (ja) * 2000-09-12 2002-06-21 Rohm Co Ltd 照度センサチップ、照度センサ、照度測定装置、および照度測定方法
JP2003337657A (ja) * 2002-03-13 2003-11-28 Toto Ltd 光学式タッチパネル装置
JP3715616B2 (ja) * 2002-11-20 2005-11-09 Necディスプレイソリューションズ株式会社 液晶表示装置及び該装置のコモン電圧設定方法
JP2005275644A (ja) * 2004-03-24 2005-10-06 Sharp Corp 液晶表示装置
JP4703206B2 (ja) * 2004-05-31 2011-06-15 東芝モバイルディスプレイ株式会社 画像取込機能付き表示装置
US7684029B2 (en) * 2004-10-29 2010-03-23 Avago Technologies General Ip (Singapore) Pte. Ltd. Method and apparatus for identifying a sensed light environment
TWI274505B (en) * 2005-01-14 2007-02-21 Primax Electronics Ltd Scanning method for scanning apparatus
JP2006276223A (ja) 2005-03-28 2006-10-12 Sony Corp 表示装置及び表示方法
JP4645822B2 (ja) * 2005-04-19 2011-03-09 ソニー株式会社 画像表示装置および物体の検出方法
US8970501B2 (en) * 2007-01-03 2015-03-03 Apple Inc. Proximity and multi-touch sensor detection and demodulation
JP4932526B2 (ja) * 2007-02-20 2012-05-16 株式会社 日立ディスプレイズ 画面入力機能付き画像表示装置
RU2008100299A (ru) * 2008-01-15 2008-08-10 Александр Виль мович Казакевич (RU) Способ ввода информации виртуальным стилусом

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1508611A (zh) * 2002-08-30 2004-06-30 东芝松下显示技术有限公司 抑制图像采集中漏电流的方法
CN1493999A (zh) * 2002-09-10 2004-05-05 ������������ʽ���� 信息处理装置和方法、记录媒体和程序
CN1707568A (zh) * 2004-05-31 2005-12-14 东芝松下显示技术有限公司 配备图像获取功能的显示装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
JP特开2006-276223A 2006.10.12

Also Published As

Publication number Publication date
BRPI0906069A2 (pt) 2015-06-30
CN101903853A (zh) 2010-12-01
WO2010047256A1 (ja) 2010-04-29
JPWO2010047256A1 (ja) 2012-03-22
TW201027408A (en) 2010-07-16
US20100271336A1 (en) 2010-10-28
RU2456659C2 (ru) 2012-07-20
EP2343633A4 (en) 2013-06-12
RU2010125277A (ru) 2011-12-27
US8514201B2 (en) 2013-08-20
EP2343633A1 (en) 2011-07-13
KR20110074488A (ko) 2011-06-30
JP5300859B2 (ja) 2013-09-25

Similar Documents

Publication Publication Date Title
CN101903853B (zh) 图像拾取装置、显示及图像拾取装置和电子装置
US8665223B2 (en) Display device and method providing display contact information based on an amount of received light
KR101547703B1 (ko) 촬상 장치, 표시 촬상 장치, 전자기기 및 물체의 검출 방법
TWI402727B (zh) 顯示裝置及位置偵測方法
US8085251B2 (en) Display-and-image-pickup apparatus, object detection program and method of detecting an object
US8610670B2 (en) Imaging and display apparatus, information input apparatus, object detection medium, and object detection method
US8188987B2 (en) Display and imaging apparatus and object detecting method
CN101583990B (zh) 显示装置、显示控制方法以及电子设备
JP5093523B2 (ja) 撮像装置、表示撮像装置および撮像処理装置
CN1896941A (zh) 显示设备以及显示方法
CN103049126A (zh) 显示单元、显示方法和电子系统
JP2008059254A (ja) 表示撮像装置、情報入力装置、物体検出プログラムおよび物体の検出方法
US20110043470A1 (en) Sensor device, method of driving sensor element, display device with input function and electronic unit
CN102667689B (zh) 交互式显示器
JP4270247B2 (ja) 表示撮像装置、物体検出プログラムおよび物体の検出方法
CN102141859B (zh) 光学式触控显示装置及其方法
CN102132239A (zh) 交互式显示屏
JP4788755B2 (ja) 表示撮像装置、物体検出プログラムおよび物体の検出方法
JP2011198258A (ja) 情報入力装置、情報入出力装置および電子機器

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: JAPAN DISPLAY WEST INC.

Free format text: FORMER OWNER: NANKAI UNIVERSITY

Effective date: 20130305

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20130305

Address after: Aichi

Applicant after: Japan display West Co.,Ltd.

Address before: Tokyo, Japan

Applicant before: Sony Corp.

C14 Grant of patent or utility model
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20130814

Termination date: 20181014