CN102707829B - 多通路触摸接触跟踪 - Google Patents

多通路触摸接触跟踪 Download PDF

Info

Publication number
CN102707829B
CN102707829B CN201210052934.0A CN201210052934A CN102707829B CN 102707829 B CN102707829 B CN 102707829B CN 201210052934 A CN201210052934 A CN 201210052934A CN 102707829 B CN102707829 B CN 102707829B
Authority
CN
China
Prior art keywords
contact
component
mapping
touch
nearest
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201210052934.0A
Other languages
English (en)
Other versions
CN102707829A (zh
Inventor
赵伟东
D.A.斯蒂芬斯
A.乌泽莱克
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN102707829A publication Critical patent/CN102707829A/zh
Application granted granted Critical
Publication of CN102707829B publication Critical patent/CN102707829B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/041Indexing scheme relating to G06F3/041 - G06F3/045
    • G06F2203/04104Multi-touch detection in digitiser, i.e. details about the simultaneous detection of a plurality of touching locations, e.g. multiple fingers or pen and finger

Landscapes

  • Engineering & Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Electronic Switches (AREA)

Abstract

在多通路触摸接触跟踪的实施例中,触摸输入传感器数据被辨识为触摸屏显示器上接触的一系列分量。可以基于包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射的多通路最近邻近者接触映射来确定分量与接触相关。可以随后关联分量以表示接触的轨迹。还可以确定接触的后续分量并使之与接触的先前分量相关联以进一步表示接触的轨迹。

Description

多通路触摸接触跟踪
相关申请
本申请要求对于赵等人2011年3月4日提交的题为“Multi-Pass Touch ContactTracking”的美国临时申请序列号61/449,538的优先权,其公开内容整体经引用并入本文。
背景技术
便携式运算设备(如,移动电话、便携式和平板计算机、娱乐设备、手持导航设备等)越来越提供更多的功能和特征,这可以使得用户难以导航和选择与用户想要在设备上启用的功能有关的命令。除了用来与运算设备交互的传统技术(如,鼠标、键盘、以及其它输入设备)之外,通常触摸传感器和触摸屏显示器被整合在移动电话和平板计算机中,并且被用于显示和用户可选择的触摸和姿态输入。对于具有触摸传感器和/或触摸屏显示器的这些类型的便携式设备的持续设计挑战是用以跟踪根据传感器图像数据的连续帧识别的触摸和姿态输入的触摸信号处理。触摸屏显示器上的触摸接触表示姿态的运动轨迹,如,当用户使用他或她的手指接触触摸屏显示器和在维持与显示器的接触的情况下做姿态时。正确跟踪和解释姿态输入触摸接触的运动轨迹的故障会导致姿态辨识操作和姿态跟踪处理的故障。
对于作为相对较小或短姿态的姿态运动,传统跟踪处理可以静态匹配来自连续帧的空间共存触摸接触。然而,此途径对于作为相对较大或长姿态的姿态运动并不有效,如,通常可以用在涉及诸如闪动或平移等快速姿态的平板计算机或其它类型板材形式因素上。跟踪处理不会对如下情况的完整姿态运动灵敏:该完整姿态运动会引起姿态“中断”、其随后会被辨识和处理为比实际姿态运动短得多的运动范围。可替选地,如果跟踪处理对姿态运动过于灵敏,则这会导致误跟踪触摸接触,如,当用户通过触摸屏显示器上显示的软键盘或虚拟键盘输入文本时。
发明内容
此发明内容介绍多通路触摸接触跟踪的简化概念,下面在具体实施方式中进一步描述和/或在图中示出。此发明内容不应当被视为描述要求保护主题的必要特征,也不用来确定或限制要求保护主题的范围。
描述多通路触摸接触跟踪。在实施例中,触摸输入传感器数据被辨识为触摸屏显示器上接触的一系列分量。可以基于多通路最近邻近者接触映射来确定分量与所述接触相关,其中多通路最近邻近者接触映射包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射。当未映射的分量在正向最近邻近者接触映射之后仍保留时启用反向最近邻近者接触映射。可以随后关联分量以表示所述接触的轨迹。还可以确定所述接触的后续分量并使之与所述接触的先前分量相关联以进一步表示该接触的轨迹。
附图说明
参照附图描述多通路触摸接触跟踪的实施例。可以通篇使用同样标号以引用图中示出的相似特征和组件:
图1示例了可以实施多通路触摸接触跟踪实施例的实例系统。
图2示例了按照一个或更多个实施例的多通路触摸接触跟踪的实例方法。
图3示例了按照一个或更多个实施例的接触跟踪服务的实例架构。
图4示例了按照一个或更多个实施例的用于处理多通路触摸接触跟踪的实例架构。
图5示例了按照一个或更多个实施例的多通路触摸接触跟踪的高级流程图。
图6示例了按照一个或更多个实施例的多通路触摸接触跟踪的另一流程图。
图7示例了按照一个或更多个实施例的多通路最近邻近者接触映射的实例。
图8示例了按照一个或更多个实施例的判定区域的运动预测的实例。
图9示例了按照一个或更多个实施例的多级最大距离确定的最小最大距离确定的实例。
图10示例了按照一个或更多个实施例的可以表明无用分量关联的交叉轨道的实例。
图11示例了按照一个或更多个实施例的如何运算和考虑(account for)如图9中所示的交叉轨道的实例。
图12示例了按照一个或更多个实施例的多通路触摸接触跟踪的实例方法。
图13示例了可以实施多通路触摸接触跟踪实施例的实例设备的各种组件。
具体实施方式
描述多通路触摸接触跟踪的实施例。如以上所注意到的,运算设备(如,移动电话或便携式计算机)的触摸屏显示器上的触摸和姿态输入不会被准确跟踪和/或处理。多通路触摸接触跟踪使用来自先前帧的触摸位置处分量的预测,可以在高运动的情形中可靠实现跟踪,而同时可以避免在软键盘的情形中的误跟踪。触摸接触跟踪可以在一套规则定义通过预测获得的跟踪的有效范围的情况下、基于接触的先前识别分量的预测位置。在实施例中,通过基于最近邻近者距离匹配(例如,算法或流程)的预测对于接触跟踪实施多通路接触跟踪,以及在正向和反向方向这二者上实施用于最近邻近者距离匹配的技术。
触摸信号处理涉及跟踪根据触摸输入传感器数据的连续帧识别的触摸接触。当所述触摸接触的运动相对较高时,可以实施经由最小最大距离确定的预测以把最大距离归类在针对多手指姿态输入的不同手指接触的可能的分量映射的不同排列中。运算成本与N!成比例,其中,N是用于姿态输入的手指的数量。这会在N多于十个手指时禁止,如,当两个或更多个用户与触摸屏交互和/或玩游戏时。替选解决方案实施正向和反向通路(多通路)最近邻近者距离匹配。
在运动速度较小时跟踪准确性和结果可媲美最小最大距离确定技术,运算成本与N2而非N!成比例,该处理较不密集。实施例提供了通过基于正向和反向方向这二者的最近邻近者距离匹配的多通路解决方案计算接触跟踪的解决方案,如,当根据先前帧对所述接触的预测被良好地定义时。在预测不存在的情况下,可以仍应用经由最小最大距离确定发起预测的原始解决方案。可替代地,可以实施一些限制途径以共同避免最小最大方案。
多通路触摸接触跟踪的实施例可以包括基于预测的分量识别和接触跟踪两级流程。使用第一级流程基于预测建立姿态输入跟踪的接触分量的初始关联,使用第二级流程基于最近邻近者接触映射准则验证以生成接触分量的最终关联。还有关的是定义多手指触摸和姿态辨识操作的一套规则。这可以针对具有触摸屏显示器的任何基于板材的设备、平板设备、移动电话或计算机,以及针对诸如表面、间接触摸等的其它类似技术来实施。
尽管可以在任何数量的不同设备、系统、环境、网络、和/或配置中实施多通路触摸接触跟踪的特征和概念,但多通路触摸接触跟踪的实施例在以下实例设备、系统、以及方法的上下文中进行描述。
图1示例了可以实施多通路触摸接触跟踪的各种实施例的实例系统100。实例系统包括运算设备102,其可以是移动电话104、娱乐设备、导航设备、用户设备、无线设备、便携式设备、平板计算机106、双屏折叠设备108等中任何一个或组合。运算设备包括集成的触摸屏显示器110,其被实施以感测姿态输入112,如,触摸屏显示器上显示的用户界面中的用户发起的姿态。在此实例中,姿态输入是箭头表明的靠近方向上触摸屏显示器上的两手指姿态,但是也可以是单手指姿态输入、或者多手指姿态输入(例如,三个或更多手指姿态输入)。可以通过各种组件(如,一个或更多个处理器和存储器设备)、以及如参照图13中示出的实例设备所进一步描述的不同组件中任何数量的不同组件和组合来实施运算设备中的任何运算设备以实施多通路触摸接触跟踪的实施例。
在实例系统100中,运算设备102包括触摸输入模块114(例如,较下层组件),其被实施作为触摸屏显示器110上的姿态输入112来辨识触摸输入传感器数据116。运算设备还包括姿态辨识应用118(例如,较高层组件),其接收来自触摸输入模块的触摸输入传感器数据作为HID报告120(即,人类接口设备报告)。HID报告包括与运算设备的触摸屏显示器上的姿态输入相关的时间和位置数据、以及确定的触摸接触跟踪。实施姿态辨识应用118以辨识和生成如根据与输入或输入的组合(如,姿态输入112)相关联的触摸输入数据(例如,HID报告120)所确定的各种姿态。姿态辨识应用可以根据各种用户可选择的输入来生成各种姿态,如,选择姿态、握持姿态、运动姿态、敲击姿态、以及其它类型的姿态。
运算设备102的输入辨识系统可以包括用以区分各种类型输入的任何类型的输入检测特征和/或设备,如,传感器(电容式或电阻式)、光感测像素、触摸传感器、摄像机,和/或解释用户交互、姿态、输入、以及运动的自然用户接口。在实施中,输入辨识系统可以根据可辨别变量(如,根据方向变量、根据开始区域位置变量和结束区域位置变量、和/或根据运动速率变量(例如,每秒特定数量的像素)来检测运动输入。
如本文所述,姿态输入可以作为在设备的触摸屏显示器上通过一个或更多个手指的用户输入来辨识,并且姿态输入包括各自与触摸屏显示器上手指的输入相关的一个或更多个接触。在图1实例中,两手指姿态输入112包括被识别为与姿态输入的第一手指相关的第一接触122、以及与姿态输入的第二手指相关的第二接触124的两个接触。
姿态输入数据作为一系列帧被接收,帧包括表示接触的一个触摸位置(例如,沿着作为一个手指的姿态输入)的分量。对于两手指姿态输入,帧可以包括与第一手指的输入相关的第一接触的分量,以及包括与第二手指的输入相关的第二接触的分量(对于多于两手指姿态输入诸如此类)。
在图1实例中,姿态输入112的第一接触122包括如下连续分量,如,在沿着第一接触的不同触摸位置处的分量126、分量128、以及分量130。类似地,姿态输入112的第二接触124包括如下连续分量,如,在沿着第二接触的不同触摸位置处的分量132、分量134、以及分量136。相应地,两手指姿态输入的第一帧包括分量系列中N-2处各第一和第二接触的分量126和分量132。类似地,N-1处姿态输入的下一帧包括各第一和第二接触的分量128和分量134,N处姿态输入的当前帧包括各第一和第二接触的分量130和分量136。
因此,姿态输入的接触跨越多个帧并且包括来自被识别成与接触、或者与接触的片段相关的每个连续帧的分量。分量表示帧中接触的触摸位置(例如,在把分量识别成与所述接触相关之后)。如实施例中所述,可以基于评估分量位置之间距离的最近邻近者接触映射准则把分量识别成与特定接触相关。然而,如果最近邻近者接触映射未识别对已有接触中的一个的分量,则可以生成姿态输入的新接触以表示用来在触摸屏显示器上做姿态的额外手指的跟踪。
触摸输入模块114辨识触摸输入传感器数据116作为运算设备102的触摸屏显示器110上姿态输入112的两个接触122、124的分量系列。在实施例中,实施触摸输入模块114以根据每个接触的每个分量的触摸输入传感器数据116生成传感器映射(map)138。传感器映射表示接触的各个分量,如,当用户发起触摸屏显示器110上的姿态输入112时。在此实例中,传感器映射包括作为表示传感器映射中元素位置处信号强度的8位十六进制值示出的元素140。触摸输入传感器数据的较强传感器信号表明与传感器映射中元素的较多触摸接触。可以将传感器映射生成为二维阵列,二维网格中元素的阵列索引与来自触摸屏显示器上姿态输入的感测的触摸接触相关。可以减去静止基线电平(level),使得传感器映射周围区域中未作为触摸接触的一部分被检测到的元素被归一化为零电平。
运算设备102还包括接触跟踪服务142,其被实施以确定触摸屏显示器110上姿态输入(如,姿态输入112)的一个或更多个接触对应的预测触摸接触跟踪144。接触跟踪服务可以作为计算机可执行指令(如,软件应用)实施、以及通过一个或更多个处理器执行以实施本文中描述的各种实施例。接触跟踪服务还可以作为运算设备中专用传感器设备硬件上的固件实施。在此实例中,把接触跟踪服务示出为作为触摸输入模块114的组件实施。可替选地,接触跟踪服务可以实施为用以预测触摸接触跟踪的独立软件应用或服务。
在实施例中,实施接触跟踪服务142以执行多通路触摸接触跟踪的各种流程和/或算法。接触跟踪服务可以识别和预测作为两个接触映射(例如,相关、相关联)的姿态输入的分量。分量126-130表示第一接触122的跟踪,分量132-136表示第二接触124的跟踪。为识别成与特定接触相关的分量都分配同样标识。例如,为第一接触122的分量126-130都分配同样的第一标识,为第二接触124的分量132-136都分配同样的第二标识,其中,第一和第二标识不同以区分单独的接触。如下面所进一步描述的,接触跟踪服务可以基于评估从预测分量位置至接触的额外分量的距离的最近邻近者准则来验证预测分量位置与该接触的后续分量相关。另外,接触跟踪服务可以基于接触的分量之间的最小最大距离确定来确定分量与特定接触相关。
按照多通路触摸接触跟踪的一个或更多个实施例参照各图2和12描述实例方法200和1200。通常,可以使用软件、固件、硬件(例如,固定逻辑电路)、人工处理、或者其任何组合实施本文中描述的服务、功能、方法、流程、组件、以及模块中的任何一个。软件实施表示在通过计算机处理器执行时执行指定任务的程序代码。可以在可以包括软件、应用、例程、程序、对象、组件、数据结构、流程、模块、功能等的计算机可执行指令的总体上下文中描述实例方法。可以把程序代码存储在计算机处理器本地和/或远程的一个或更多个计算机可读存储介质设备中。也可以通过多个计算机设备在分布式运算环境中实践所述方法。进一步地,本文中描述的特征是平台独立的、并且可以在具有各种处理器的各种运算平台上实施。
图2示例了多通路触摸接触跟踪的实例方法200。描述方法块的次序并非意在解释成限制,可以按实施方法、或者替代方法的任何次序来组合任何数量的描述的方法块。
在块202,在触摸屏显示器上辨识姿态输入。例如,运算设备102处的触摸输入模块114(图1)辨识各种输入或输入的组合,如,实例设备104的触摸屏显示器110上的姿态输入112。在此实例中,姿态输入112是两手指姿态接触,其包括识别成与姿态输入的第一手指相关的第一接触122、以及与姿态输入的第二手指相关的第二接触124的两个接触。
在块204,确定多通路触摸接触跟踪对应于姿态输入。在块206,基于所述接触的一个或更多个先前分量来预测姿态输入接触接下来的分量位置。在块208,基于接触分量的正向最近邻近者接触映射来预测所述接触接下来的分量。在块210,基于接触分量的反向最近邻近者接触映射预测接触接下来的分量。在块212,姿态输入的每个接触的分量被映射以表示每个接触的轨迹。在块214,基于正向和反向最近邻近者接触映射来验证接触分量的最终关联。
例如,运算设备102处的接触跟踪服务142(图1)确定实例设备104的触摸屏显示器110上的姿态输入112对应的多通路触摸接触跟踪。接触跟踪服务还基于接触分量的正向最近邻近者接触映射来预测姿态输入接触接下来的分量位置;基于接触分量的反向最近邻近者接触映射来预测所述接触接下来的分量;映射(例如,相关、关联)姿态输入的每个接触的分量以表示每个接触的轨迹;和/或基于正向和反向最近邻近者接触映射来验证接触分量的最终关联。
图3示例了针对触摸信号处理实施的参照图1描述的接触跟踪服务142的实例实施和各种组件。图4示例了用于处理多通路触摸接触跟踪的实例架构400并参照图1中示出的触摸输入模块114、以及参照图1和3中示出的接触跟踪服务142来描述。图5示例了作为图3中接触跟踪服务142的组件示出的触摸接触跟踪器模块300(也称作“接触跟踪器”)所实施的多通路触摸接触跟踪的高级流程图500。
在402(图4)输入(例如,在触摸输入模块114处接收)触摸输入传感器数据116,触摸输入模块的传感器单元根据姿态输入的接触的每个分量的触摸输入传感器数据生成传感器映射302(图3)。可以在404对于归一化为零电平的传感器映射周围的元素减去、或者如若不然去除基线电平。例如,传感器映射138可以被生成为具有5mm间距(pitch)和八至十六位元素深度的二维网格。在406实施连接的分量分析器304以便连接的分量分析。连接的分量分析器接收归一化传感器映射420作为输入并生成表示被姿态输入的分量代替的触摸接触的所连接的接触分量的阵列306。在408实施触摸接触跟踪器模块300以便分量识别和接触跟踪,从而关联(例如,相关或映射)来自先前帧的分量和当前帧中触摸位置处的分量,其表示连续姿态运动的跟踪(例如,轨迹),如,第一接触122的轨迹和第二接触124的轨迹。
在图5中,在块502当接收每个新帧作为输入时、针对可预测性检查来自先前帧的一组触摸接触。在块504把仍在初始跟踪阶段(即,来自块502的“是”)中、以及在建立了触摸接触关联的足够历史之前的触摸接触输入到用于最小最大接触映射的触摸接触映射模块308(也称作“接触映射器”)。最小最大接触映射生成映射接触分量310的初始关联,其随后被输出和缓存为具有用于未来帧的关联历史的确定分量312。
在块506把并非初始触摸接触(即,来自块502的“否”)的触摸接触(例如,当接收了至少两个先前帧时)输入到用于运动预测的运动预测模块314以生成触摸接触预测位置316。在块510把连同当前帧的连接分量508一起的这些触摸接触预测位置输入到用于最近邻近者接触映射的触摸接触映射模块308,这基于正向最近邻近者距离匹配算法(例如,流程或确定)。在512针对准则核对最近邻近者距离匹配的结果以确定是否把当前帧的分量成功映射到了接触的先前分量。
如果分量的映射成功(即,来自块512的“是”),则在块514把映射关联输入到触摸接触合并器模块318。如果分量的映射未成功(即,来自块512的“否”),则在块516把分量输入到用于最小最大接触映射的触摸接触映射模块308并调用两级组合映射。通过来自运动预测模块314的输入(即,作为在块506的输出)和连接分量508,最小最大接触映射试图基于最小最大距离确定、连同涉及手部和/或手指运动动力学的一组规则一起,建立这两组分量位置之间的第一级最近邻近者关联。
可以实施最小最大方案以运算潜在匹配中所有分量对之间的距离。对于具有映射到N个分量的N个触摸位置的配置,潜在匹配的数量等于N!并且对于每个匹配,确定距离的运算及其最大距离的归类。如果在正向最近邻近者距离确定未能匹配分量时发起最小最大距离确定,则处理中的延迟会作为干扰引起用户注意。
对于不具有在第一级建立的映射(例如,在块518)的那些接触,在块520在所有分量上路由它们以便接触混叠(aliasing)核对以确定可以是由触摸接触合并器模块318在块514所确定的合并接触的可能的混叠。单个分量可以关联到多个触摸接触位置,这会在姿态输入运动的多个手指较贴近地移动以基于触摸输入传感器数据作为单个分量显现时发生。为了检测触摸接触合并器,对于第一级接触关联之后的任何未映射分量,可以针对所有分量发起最近邻近者检验以便接触关联,任何匹配表明单个分量与多个触摸位置之间的混叠关联。
触摸接触合并器模块318处理和解析合并分量,以便独立核对两个触摸位置是否具有一样的[x,y]网格点坐标。接触合并器可以包括混叠于一个分量的多个触摸位置、以及随着第一手指在触摸屏显示器上触摸而已经感测或检测第一触摸位置且用户贴近第一手指旁边使第二手指到达时的到达时合并(merge-on-landing)的场景。随后两个触摸位置可以被检测为在一个较大分量中合并在一起。
图6示例了作为图3中接触跟踪服务142的组件示出的触摸接触跟踪器模块300(也称作“接触跟踪器”)所实施的多通路触摸接触跟踪的另一高级流程图600。实例图600除了用在616的反向最近邻近者接触映射代替最小最大映射516、针对关联的最近邻近判定518、以及在520的接触混叠核对的三个操作以外,与图5中示出的图500类似。另外,用在610的正向最近邻近接触映射代替在510的最近邻近者接触映射。多通路最近邻近者距离确定包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射。
图7示例了如应用于两手指姿态输入的多通路最近邻近者接触映射的实例700,其中两手指姿态输入包括识别成与姿态输入的第一手指相关的第一接触702、以及与姿态输入的第二手指相关的第二接触704的两个接触。第一接触702包括如下连续分量,如,在沿着第一接触的不同触摸位置处的分量A和分量C。类似地,第二接触704包括如下连续分量,如,在沿着第二接触的不同触摸位置处的分量B和分量D。正向最近邻近接触映射610的操作查找距接触的预测地点最近的分量。当发现这种分量且距接触的预测点的距离小于定义的阈值时,可以建立关联以使分量与接触相关联。注意,定义的距离并非按均匀尺度,而是沿着速度的方向伸展以补偿由高速预测引起的可能的不准确。
正向最近邻近者接触映射的故障可以归因于用于最近邻近者距离确定的距离的不均匀本性。如图7中所示,分量A在应当与第一接触702的分量C匹配的预测位置处,类似地,分量B在应当与第二接触704的分量D匹配的预测位置处。接触的虚线表示距离比较的速度倾斜尺度。然而,由于接近,正向最近邻近者接触映射610将会把分量B的预测位置与如在706所示的分量C匹配。此正向最近邻近者接触映射的结果是将会把分量A和B这二者匹配到分量C作为2-1接触合并,分量D未映射,其可以随后确定为新接触的开始,从而引起接触704的接触匹配中断。
在实施例中,实施反向最近邻近者接触映射616以通过正向最近邻近者匹配通路之后的反向通路,解析未映射分量的状况。反向通路以未映射分量D开始,以及根据接触中所有其它分量确定最佳匹配。一旦确定最佳分量匹配,如,此实例中的分量B,就释放正向最近邻近者映射期间先前建立的分量B上的所有关联。这造成新的未映射分量,如,分量C,在反向方向上把反向最近邻近者接触映射应用于这些新的未映射分量直到不存在更多未映射分量为止。
对于每个未映射分量在610发起正向最近邻近者接触映射以确定匹配接触。在612核对正向最近邻近者接触映射的结果以确定是否把当前帧的所有未映射分量成功映射到接触的先前分量。如果分量的映射未成功(即,来自块612的“否”),则在616断开(例如,释放)对接触映射的所有分量以及发起反向最近邻近者接触映射。
由于未匹配分量的比例数量导致反向最近邻近者接触映射的处理资源的使用最小。反向方向上的传播也最小,这是由于过程与呆在一起并沿着姿态输入跨越(span)的方向快速移动的用户手部的三个或四个手指相关。对于由于新手指与触摸屏显示器接触而确定成未映射的任何分量,多通路触摸接触跟踪并未危害作为新输入的新接触的有效性,因为新确定的触摸接触通常距预测触摸位置距离足够远,因此反向最近邻近者接触映射将会在第一个迭代之后退出。
图8示例了给定接触(如,实例设备104(图1)的触摸屏显示器110上姿态输入112的接触)的轨迹的情况下表示接触的预测分量位置804的判定区域802的运动预测的实例800。在实施例中,当姿态输入在触摸屏显示器上位置N-2处开始并继续接触的跟踪至位置N-1随后至位置N时,实施接触跟踪服务142的运动预测模块314(图3)以便运动预测。基于对预测分量位置804的接近,位置N处的分量被确定为与N-2和N-1处的分量相关联的分量。当存在被识别为先前N个帧中的i的分量的关联时,则可以如以下公式中一样,通过接触的先前分量位置的线性组合来预测Xi的当前帧中分量的位置:
如果例如N=3,则一个解是经由简单恒定加速度条件确定的常数a1=2.5、a2=-2、以及a3=0.5。如果例如N=2,则解是a1=2和a2=-1。通常,这些系数可以是时间相关变量,可以运用更先进的技术(如,卡尔曼滤波器)通过迭代流程确定这些参数。
对于以上预测阶段中生成的第i个触摸位置的每个分量,最近邻近者接触映射试图关联当前帧的分量X(t)。可以如本文中所述和/或通过其它技术和算法解析最近邻近者接触映射。可以在考虑当前帧的所有分量以确定X(t)在围绕预测位置为中心的二维判定区域802内的分量时建立映射关联。可以首先通过与帧t-1处第i个接触的实际触摸形状匹配的区域对应的、半径为r的圆形形状来构建判定区域。随后沿着速度的方向通过速度相关扩展、以及通过与速度的范数成比例的扩展因子λ修改圆形形状区域。此扩展是速度预测的不准确引入误差的原因。通常,λ的上限λmax可以避免沿着速度的方向靠拢的姿态输入运动的手指之间的错误关联。在一个实施中,λ=(1+λmax|v|)/(1+|v|),然而λ的其它选项也可以。
在实践中,可以在反向流程中执行检验最近邻近者接触映射准则的流程。首先运算差向量:,随后通过沿着速度向量v=X(t-1)-X(t-2)方向的因子1/λ执行对d的反向缩放(scaling)。随后针对判定区域的半径r核对所得向量的范数,小于r的值表明确定了关联。最近邻近者接触映射的另一延伸是实施概率途径,其中,定义向量d的概率分布函数,以及概率分布在所有分量之中传递(pass),而非传递分量X(t)属于哪个触摸的硬判定。可以通过HID报告传递此信息以使得姿态辨识应用118(图1)(例如,较高层)可以运用该信息。
在实施例中,可以建立最近邻近者接触映射成功的准则,以在块512(图5)确定成功映射。通常,最近邻近者接触映射生成可靠触摸分量关联。然而,在触摸接触速度的一些分布中,可以确定不可靠关联,如,当涉及的触摸位置的速度快且在某些方向上的加速度显著时。所得预测分量地点变得较贴近邻近分量而非应当与预测分量相关联的跟踪接触分量的地点。
用以检测此不可靠关联状况的简单条件是确定最近邻近者映射之后不相关联分量的总数量大于分量的数量与触摸的数量之间的差。注意,这是个充分条件,原因是理论上会存在分类成差映射的良好映射。由于帧的绝大多数具有可靠的关联预测,所以不可靠关联的状况(例如,故障情形)将会在可忽略运算成本的情况下占很小的百分比(例如,小于5%)。如果检测到故障情形,则如接触跟踪服务的触摸接触映射模块308所实施的,可以调用组合接触映射的算法或流程以确定正确关联。
组合接触映射可以建立先前帧中建立的接触的给定集合与当前帧中分量的给定集合之间的可靠映射。当确定预测且最近邻近者接触映射故障时,可以使用组合接触映射通过匹配预测位置与分量的位置之间的预测余量建立两个集合(例如,触摸位置与分量)之间的第一级关联。当在接触期限的初始阶段未确定预测时,还可以使用组合接触映射建立初始关联。如果如会在新接触的前两个帧中发生的一样,不存在接触的初始关联,则触摸接触映射模块308可以随后把原始位置设置成预测位置,不存在预测余量。触摸接触映射模块可以包括组合接触映射算法、距离映射的最小最大距离确定算法、以及用于使彼此交叉的姿态输入运动轨道恶化的交叉轨道抑制因子。可以经由最小最大算法和/或通过其它技术和算法(如,Hungarian算法)如本文中所述那样实施组合接触映射算法。
在实施例中,可以实施接触的最近邻近者检验和分量关联。可以通过与最近邻近者接触映射类似的第二级检验过程评估通过最小最大距离确定来建立的第一级关联(如下面进一步描述)。具体地,在最小最大映射阶段对的初始关联建立之后,当前帧的分量X(t)被确认在X(t)落到围绕第i个接触的预测位置为中心的二维预测区域中的情况下属于第i个接触。通常,与最近邻近者接触映射的差异在于并非评估给定的所有可能的分量,而是选择具有第一级关联的分量用于检验过程。
图9示例了针对多级最大距离确定的最小最大距离确定的实例900。在实施例中,实施接触跟踪服务142的触摸接触映射模块308(图3)以确定用以把先前帧的分量关联(例如,确定、相关)到当前帧的分量、使得映射内所有映射对之间的最大距离被最小化的最佳映射。根据如何应用最小最大距离确定,被映射的先前帧的分量位置可以是后续帧中分量的预测位置。
最小最大距离确定旨在确定先前帧的分量与当前帧的分量之间的最大距离最小的映射。在此实例中,已经识别了从分量904至后续分量触摸位置906的最大距离902。随后从当前帧中的分量908至先前帧中的分量910确定映射。例如,第一接触的确定是:是选择912处的虚线还是实线表示的分量关联,第二接触的确定是:是选择914处的虚线还是实线表示的分量关联。
在公式中,P(i)定义从N向M的映射,其中,N表示根据先前帧的接触上数字标记的集合,M表示当前帧中分量的标记。更具体地,P(i)是取M中的值(范围0…M-1)的i∈N(范围0…N-1)的函数,以使得对于i≠j,P(i)≠P(j)。此外,P表示所有可能P(i)的整个集合,确定P内的最佳P(i)以使得所述映射定义当前分量与做出最多感测的先前触摸位置的关联。
对于P中的任何P(i),阵列D(i,P):i∈N表示映射中每对i的距离。更具体地,对于映射中的每对i,把距离D(i,P)定义成当前帧的分量的位置与存在预测的情况下先前帧的分量的预测位置、或者先前帧的分量的位置之间的L2距离。随后发起D(i,P)的阵列的降序排序,把结果表示成排序的D(k,P),其中0 ≤ k < N和:
排序的D(0,P) ≥ 排序的D(1,P)…≥ 排序的D(N-1,P)
可以在解以下最小化问题时获得最佳P:最佳P=argminP∈P(ED(P)+λ0 * EC(P));其中:
(排序的D(k,P) * MAXDN-K)
值ED是来自最大距离匹配的贡献,值MAXD是显示屏上的最大距离(通常是对角距离)。一旦匹配了距离较大的分量,此实例中的分层最大距离匹配就考虑配置的退化。
图10示例了可以表明当前帧中的分量1002与来自先前帧的分量1004之间无用关联的交叉轨道(crossing trajectory)的实例1000。最小最大距离确定可以将当前分量不正确地关联到先前分量。把值EC(P)定义成与映射P中所有的标记对的轨道中交叉的数量成比例,在大约100Hz的采样速率,可以把交叉视作伪映射。在此实例中,分量A向分量C、以及分量B向分量D的映射优选地在分量A至D和B至C的交叉轨道上。然而,在没有EC(P)的情况下,纯ED(p)将可能不正确地将分量A的交叉轨道关联至D和B至C,这是明显不期望的。
图11示例了如何运算和考虑交叉轨道(如,图10中示出的)的实例1100。EC的运算认为对于轨道对,它们彼此交叉的条件是在以下不等式同时成立时:
0 < (b1 * c0-b0 * c1)/det < 1
0 < (a0 * c1-a1 * c0)/det < 1
(det=b1 * a0-b0 * a1);其中
a=(a0, a1)=x1-x0
b=(b0, b1)=x2-x3
c=(c0, c1)=x2-x0
图12示例了多通路触摸接触跟踪的实例方法1200。描述方法块的次序并非意在解释成限制,可以按任何次序组合任何数量的描述的方法块以实施方法、或者替代方法。
在块1202,触摸输入传感器数据被辨识为触摸屏显示器上接触的一系列分量。例如,运算设备102处的触摸输入模块114(图1)将触摸输入传感器数据116辨识为触摸屏显示器110上(如,实例设备104上)姿态输入112的接触(例如,两个接触122、124中的任一个)的分量系列。
在块1204,基于多通路最近邻近者接触映射把分量确定成与所述接触相关。例如,运算设备102处的接触跟踪服务142(图1)基于包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射的多通路最近邻近者接触映射来确定接触122的分量与接触相关。
在块1206,发起正向最近邻近者接触映射。例如,接触跟踪服务142发起正向最近邻近者接触映射以评估从接触的一个或更多个额外分量至分量的预测分量位置的距离。在块1208,关于在正向最近邻近者接触映射之后是否剩余任何未映射分量做出确定。如果剩余未映射分量(即,来自块1208的“是”),则在块1210,释放正向最近邻近者接触映射所映射的映射分量关联,在块1212,发起反向最近邻近者接触映射。例如,接触跟踪服务142确定在正向最近邻近者接触映射之后是否剩余未映射分量,如果是,则释放任何映射分量关联并发起反向最近邻近者接触映射以评估从预测分量位置至接触的一个或更多个额外分量的距离。
在块1214,接触的分量被关联以表示接触的轨迹,在块1216,随后向与接触相关联的所有分量分配同样标识。例如,接触跟踪服务142关联接触的所有分量以表示接触的轨迹并把相同标识分配给所有分量。
图13示例了可以作为参照先前图1-12描述的设备中的任何设备、或者设备实施的服务来实施的实例设备1300的各种组件。在实施例中,可以通过消费者、计算机、便携式、用户、通信、电话、导航、电视、家电、游戏、媒体回放、和/或电子设备的任何形式,将设备实施为固定或移动设备中的任何一个或组合。设备还可以与操作设备的用户(即,人)和/或实体相关联以使得设备描述包括用户、软件、固件、硬件、和/或设备组合的逻辑设备。
设备1300包括实现设备数据1304(如,接收的数据、正接收的数据、对于广播调度的数据、数据的数据包等)的有线和/或无线通信的通信设备1302。设备数据或其它设备内容可以包括设备的配置设置、设备上存储的媒体内容、和/或与设备的用户相关联的信息。设备上存储的媒体内容可以包括任何类型的音频、视频、和/或图像数据。设备包括可以接收任何类型的数据、媒体内容、和/或输入的一个或更多个数据输入1306,如,用户可选择的输入和从任何内容和/或数据源接收的任何其它类型的音频、视频、和/或图像数据。
设备1300还包括通信接口1308,如,串行、并行、网络、或者无线接口中的任何一个或更多个。通信接口提供设备与其它电子、运算、以及通信设备与设备传送数据的通信网络之间的连接和/或通信链路。
设备1300包括处理各种计算机可执行指令以控制设备操作的一个或更多个处理器1310(例如,微处理器、控制器等中的任何一个)。可替选地或另外,可以通过结合通常以1312标识的处理和控制电路实施的软件、硬件、固件、或者固定逻辑电路中的任何一个或组合来实施设备。在实施例中,设备1300还可以包括被实施以辨识触摸输入传感器数据的触摸输入模块1314。虽然未示出,但设备可以包括耦合设备内各种组件的系统总线或数据传送系统。系统总线可以包括不同总线结构(如,存储器总线或存储器控制器、外围总线、通用串行总线、和/或运用各种总线架构中任何总线架构的处理器或本地总线)中的任何一个或组合。
设备1300还包括实现数据存储的一个或更多个存储器设备1316(例如,计算机可读存储介质),如,随机访问存储器(RAM)、非易失性存储器(例如,只读存储器(ROM)、闪存等)、以及盘存储设备。可以盘存储设备可以实施为任何类型的磁或光学存储设备(如,硬盘驱动器、可刻录和/或可重写盘等)。设备还可以包括海量存储介质设备。
计算机可读介质可以是运算设备访问的任何可用介质或媒体。以实例而非限制的方式,计算机可读介质可以包括存储介质和通信媒体。存储介质包括以存储信息(如,计算机可读指令、数据结构、程序模块、或者其它数据)的任何方法或技术实施的易失性和非易失性、可移除和不可移除介质。存储介质包括但不限于RAM、ROM、EEPROM、闪存或其它存储器技术、CD-ROM、数字多功能盘(DVD)或其它光学存储部件、磁盒、磁带、磁盘存储或其它磁存储设备、或者可以用来存储信息和可以通过计算机访问的任何其它介质。
通信媒体通常在调制数据信号(如,载波或其它传输机制)中实施计算机可读指令、数据结构、程序模块、或者其它数据。通信媒体还包括任何信息输送媒体。调制数据信号通过在信号中编码信息的这种方式来设置或改变其一个或更多个特性。以实例而非限制的方式,通信媒体包括诸如有线网络或直接连线连接的有线媒体,以及诸如声学、RF、红外、和其它无线媒体的无线媒体。
存储器设备1316提供用以存储设备数据1304、其它类型的信息和/或数据、各种设备应用1318的数据存储机制。例如,可以通过存储器设备将操作系统1320作为软件应用来维持并在处理器上执行。设备应用还可以包括设备管理器,如,任何形式的控制应用、软件应用、信号处理和控制模块、对特定设备原生的代码、特定设备的硬件抽象层等。在此实例中,设备应用1318包括实施如本文中所述角度接触几何实施例的姿态辨识应用1322和接触跟踪服务1324。
设备1300还包括生成音频系统1328的音频数据和/或生成显示系统1330的显示数据的音频和/或视频处理系统1326。音频系统和/或显示系统可以包括处理、显示、和/或如若不然重现音频、视频、显示、和/或图像数据的任何设备。可以经由RF(射频)链路、S视频链路、合成视频链路、分量视频链路、DVI(数字视频接口)、模拟音频连接、或者其它类似通信链路向音频设备和/或向显示设备传送显示数据和音频信号。在实施中,音频系统和/或显示系统是设备的外界组件。可替选地,音频系统和/或显示系统是实例设备的集成的组件,如,集成的触摸屏显示器。
虽然以特定于特征和/或方法的语言描述了多通路触摸接触跟踪的实施例,但所附权利要求的主题并非必定限于描述的具体特征或方法。而是,具体特征和方法作为多通路触摸接触跟踪的实例实施方式被公开。

Claims (7)

1.一种多通路触摸接触跟踪方法(1200),包括:
辨识(1202)触摸输入传感器数据(116)作为触摸屏显示器(110)上接触(122)的一系列分量(126);
基于多通路最近邻近者接触映射(700)确定(1204)分量与接触相关,所述多通路最近邻近者接触映射包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射;以及
关联(1214)分量以表示接触的轨迹(144),
其中,正向最近邻近者接触映射评估从接触的一个或更多个额外分量至分量的预测分量位置的距离;并且
其中,反向最近邻近者接触映射评估从预测分量位置至接触的一个或更多个额外分量的距离。
2.如权利要求1所述的方法,其中,当在正向最近邻近者接触映射之后剩余未映射分量时发起反向最近邻近者接触映射。
3.如权利要求2所述的方法,其中,当发起反向最近邻近者接触映射时释放正向最近邻近者接触映射所映射的映射分量关联。
4.如权利要求1所述的方法,进一步包括:
向与接触相关的分量分配相同标识;
基于多通路最近邻近者接触映射确定后续分量与接触相关;以及
把所述相同标识分配给与分量组合的后续分量以表示接触的轨迹。
5.如权利要求1所述的方法,进一步包括:
根据接触的轨迹来预测接触的分量位置;以及
使预测的分量位置与接触的后续分量相关。
6.如权利要求5所述的方法,其中,预测分量位置基于表示接触的轨迹的分量被预测。
7.一种运算设备(102),包括:
触摸屏显示器(110);
触摸输入模块(114),被配置成辨识触摸输入传感器数据(116)作为触摸屏显示器上接触(122)的一系列分量(126);
至少用以实施接触跟踪服务(142)的存储器(1316)和处理器(1310),所述接触跟踪服务被配置成:
基于多通路最近邻近者接触映射(700)确定分量与接触相关,所述多通路最近邻近者接触映射包括分量的正向最近邻近者接触映射和分量的反向最近邻近者接触映射;以及
关联所述分量以表示接触的轨迹(144),
其中,正向最近邻近者接触映射评估从接触的一个或更多个额外分量至分量的预测分量位置的距离;并且
其中,反向最近邻近者接触映射评估从预测分量位置至接触的一个或更多个额外分量的距离。
CN201210052934.0A 2011-03-04 2012-03-02 多通路触摸接触跟踪 Active CN102707829B (zh)

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
US201161449538P 2011-03-04 2011-03-04
US61/449538 2011-03-04
US61/449,538 2011-03-04
US13/156,243 2011-06-08
US13/156,243 US8773377B2 (en) 2011-03-04 2011-06-08 Multi-pass touch contact tracking
US13/156243 2011-06-08

Publications (2)

Publication Number Publication Date
CN102707829A CN102707829A (zh) 2012-10-03
CN102707829B true CN102707829B (zh) 2017-04-12

Family

ID=46752996

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201210052934.0A Active CN102707829B (zh) 2011-03-04 2012-03-02 多通路触摸接触跟踪

Country Status (5)

Country Link
US (1) US8773377B2 (zh)
EP (1) EP2681642B1 (zh)
CN (1) CN102707829B (zh)
TW (1) TWI537772B (zh)
WO (1) WO2012122068A2 (zh)

Families Citing this family (41)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9292111B2 (en) 1998-01-26 2016-03-22 Apple Inc. Gesturing with a multipoint sensing device
US9239673B2 (en) * 1998-01-26 2016-01-19 Apple Inc. Gesturing with a multipoint sensing device
US8479122B2 (en) 2004-07-30 2013-07-02 Apple Inc. Gestures for touch sensitive input devices
US8381135B2 (en) 2004-07-30 2013-02-19 Apple Inc. Proximity detector in handheld device
US8725443B2 (en) 2011-01-24 2014-05-13 Microsoft Corporation Latency measurement
US8988087B2 (en) 2011-01-24 2015-03-24 Microsoft Technology Licensing, Llc Touchscreen testing
US9542092B2 (en) 2011-02-12 2017-01-10 Microsoft Technology Licensing, Llc Prediction-based touch contact tracking
US8982061B2 (en) 2011-02-12 2015-03-17 Microsoft Technology Licensing, Llc Angular contact geometry
WO2012172543A1 (en) * 2011-06-15 2012-12-20 Bone Tone Communications (Israel) Ltd. System, device and method for detecting speech
US8913019B2 (en) 2011-07-14 2014-12-16 Microsoft Corporation Multi-finger detection and component resolution
CN102890576B (zh) * 2011-07-22 2016-03-02 宸鸿科技(厦门)有限公司 触控屏触摸轨迹检测方法及检测装置
US9378389B2 (en) 2011-09-09 2016-06-28 Microsoft Technology Licensing, Llc Shared item account selection
US9507454B1 (en) * 2011-09-19 2016-11-29 Parade Technologies, Ltd. Enhanced linearity of gestures on a touch-sensitive surface
US9785281B2 (en) 2011-11-09 2017-10-10 Microsoft Technology Licensing, Llc. Acoustic touch sensitive testing
US8914254B2 (en) 2012-01-31 2014-12-16 Microsoft Corporation Latency measurement
US9481084B2 (en) * 2012-06-22 2016-11-01 Microsoft Technology Licensing, Llc Touch quality test robot
US9317147B2 (en) 2012-10-24 2016-04-19 Microsoft Technology Licensing, Llc. Input testing tool
JP6024466B2 (ja) * 2013-01-16 2016-11-16 富士通株式会社 情報処理装置、情報処理方法及び情報処理プログラム
KR101994108B1 (ko) * 2013-01-30 2019-07-01 엘지디스플레이 주식회사 터치 인식 장치 및 터치 인식 방법
CN103092427B (zh) * 2013-02-08 2015-11-04 王正道 一种触摸屏的操作感测方法
KR102043148B1 (ko) * 2013-02-19 2019-11-11 엘지전자 주식회사 이동 단말기 및 그의 터치 좌표 예측 방법
US20140306929A1 (en) 2013-04-10 2014-10-16 Nvidia Corporation Methods and systems for operating a touch screen enabled device with a stylus
US9529525B2 (en) * 2013-08-30 2016-12-27 Nvidia Corporation Methods and apparatus for reducing perceived pen-to-ink latency on touchpad devices
US9823728B2 (en) 2013-09-04 2017-11-21 Nvidia Corporation Method and system for reduced rate touch scanning on an electronic device
US9881592B2 (en) 2013-10-08 2018-01-30 Nvidia Corporation Hardware overlay assignment
CN104615262A (zh) 2013-11-01 2015-05-13 辉达公司 一种用于虚拟键盘的输入方法和输入系统
US9507470B2 (en) 2013-12-16 2016-11-29 Nvidia Corporation Method and system for reduced power touch input detection on an electronic device using reduced scanning
US9671877B2 (en) 2014-01-27 2017-06-06 Nvidia Corporation Stylus tool with deformable tip
US9323449B2 (en) * 2014-05-09 2016-04-26 Htc Corporation Electronic apparatus and drawing method using the same
CN104503693B (zh) 2014-11-28 2017-12-22 英业达科技有限公司 多段文件内容的选取方法
US9721365B2 (en) 2014-12-09 2017-08-01 Synaptics Incorporated Low latency modification of display frames
CN104461321B (zh) * 2014-12-10 2017-10-13 上海卓易科技股份有限公司 一种手势输入指令的方法和装置
US11609692B2 (en) * 2017-04-07 2023-03-21 Hewlett-Packard Development Company, L.P. Cursor adjustments
CN107661630A (zh) * 2017-08-28 2018-02-06 网易(杭州)网络有限公司 一种射击游戏的控制方法及装置、存储介质、处理器、终端
CN107648848B (zh) * 2017-09-01 2018-11-16 网易(杭州)网络有限公司 信息处理方法及装置、存储介质、电子设备
CN107741819B (zh) * 2017-09-01 2018-11-23 网易(杭州)网络有限公司 信息处理方法、装置、电子设备及存储介质
US10534464B2 (en) * 2017-10-03 2020-01-14 Microsoft Technology Licensing, Llc Selective scanning for touch-sensitive display device
CN107890664A (zh) * 2017-10-23 2018-04-10 网易(杭州)网络有限公司 信息处理方法及装置、存储介质、电子设备
TWI714928B (zh) * 2018-12-20 2021-01-01 遠東科技大學 電競軌跡紀錄分析裝置及分析方法
US11386408B2 (en) * 2019-11-01 2022-07-12 Intuit Inc. System and method for nearest neighbor-based bank account number validation
CN114546145B (zh) 2020-11-24 2024-03-01 明基智能科技(上海)有限公司 游标控制方法及应用其的触控显示装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101825970A (zh) * 2010-05-13 2010-09-08 友达光电股份有限公司 触控点的追踪方法及追踪系统
EP2284677A1 (en) * 2009-08-06 2011-02-16 HTC Corporation Method for detecting tracks of touch inputs on touch-sensitive panel and related computer program product and electronic apparatus using the same

Family Cites Families (137)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4421997A (en) 1978-09-18 1983-12-20 Mcdonnell Douglas Corporation Multiple axis actuator
US5591945A (en) 1995-04-19 1997-01-07 Elo Touchsystems, Inc. Acoustic touch position sensor using higher order horizontally polarized shear wave propagation
US5856822A (en) 1995-10-27 1999-01-05 02 Micro, Inc. Touch-pad digital computer pointing-device
JPH09146708A (ja) 1995-11-09 1997-06-06 Internatl Business Mach Corp <Ibm> タッチパネルの駆動方法及びタッチ入力方法
US5825352A (en) 1996-01-04 1998-10-20 Logitech, Inc. Multiple fingers contact sensing method for emulating mouse buttons and mouse operations on a touch sensor pad
CA2273956C (en) 1996-12-25 2002-04-30 Elo Touchsystems, Inc. Grating transducer for acoustic touchscreen
US6008636A (en) 1997-09-30 1999-12-28 Motorola, Inc. Test system with robot arm for delivering a device under test
EP1717679B1 (en) 1998-01-26 2016-09-21 Apple Inc. Method for integrating manual input
US7663607B2 (en) 2004-05-06 2010-02-16 Apple Inc. Multipoint touchscreen
US6429846B2 (en) 1998-06-23 2002-08-06 Immersion Corporation Haptic feedback for touchpads and other touch controls
DE19939159A1 (de) 1999-08-20 2000-03-02 Axel Schnell Berührungsempfindliches kapazitives Sensormatrixfeld
US20040207606A1 (en) 1999-11-08 2004-10-21 Atwood Stephen P. Sensing the size of a touch point in a touch-sensitive panel employing resistive membranes
US6671406B1 (en) 1999-12-29 2003-12-30 Honeywell International Inc. System, method and apparatus for pattern recognition with application to symbol recognition and regeneration for a caligraphic display
US6741237B1 (en) 2001-08-23 2004-05-25 Rockwell Automation Technologies, Inc. Touch screen
US7254775B2 (en) 2001-10-03 2007-08-07 3M Innovative Properties Company Touch panel system and method for distinguishing multiple touch inputs
CA2359269A1 (en) 2001-10-17 2003-04-17 Biodentity Systems Corporation Face imaging system for recordal and automated identity confirmation
US6977646B1 (en) 2001-11-30 2005-12-20 3M Innovative Properties Co. Touch screen calibration system and method
JP3871951B2 (ja) 2002-04-08 2007-01-24 Necインフロンティア株式会社 タッチパネル検査装置
US7746325B2 (en) 2002-05-06 2010-06-29 3M Innovative Properties Company Method for improving positioned accuracy for a determined touch input
US7023427B2 (en) 2002-06-28 2006-04-04 Microsoft Corporation Method and system for detecting multiple touches on a touch-sensitive screen
US7362313B2 (en) 2003-01-17 2008-04-22 3M Innovative Properties Company Touch simulation system and method
US7236161B2 (en) 2003-03-21 2007-06-26 3M Innovative Properties Company Remote touch simulation systems and methods
DE20309857U1 (de) 2003-06-25 2004-11-04 Doppstadt Calbe Gmbh Trommelsiebmaschine
KR20050003155A (ko) * 2003-06-30 2005-01-10 (주)코리아비주얼스 사용자와 디스플레이 시스템의 인터페이스 장치 및 그 방법
US7580556B2 (en) 2004-01-26 2009-08-25 Drvision Technologies Llc Image region partitioning using pre-labeled regions
US6856259B1 (en) 2004-02-06 2005-02-15 Elo Touchsystems, Inc. Touch sensor system to detect multiple touch events
DE102004037296A1 (de) 2004-07-27 2006-03-23 Arnold & Richter Cine Technik Gmbh & Co Betriebs Kg Verfahren zum Fokussieren des Aufnahmeobjektivs einer Laufbild- oder Videokamera
US7728821B2 (en) 2004-08-06 2010-06-01 Touchtable, Inc. Touch detecting interactive display
JP4860625B2 (ja) 2004-10-08 2012-01-25 イマージョン コーポレーション タッチ式入力装置におけるボタンおよびスクロール動作シミュレーション用の触覚フィードバック
JP4682333B2 (ja) 2004-10-19 2011-05-11 国立大学法人埼玉大学 弾性表面波励振装置
KR100578523B1 (ko) 2005-08-19 2006-05-12 (주)엠아이케이 이십일 터치판넬의 검사방법
KR100738888B1 (ko) 2005-10-27 2007-07-12 엘지전자 주식회사 로봇 청소기에 장착된 카메라의 제어 장치 및 방법
US7174649B1 (en) 2005-11-08 2007-02-13 Danny Harris Precision shaft alignment system
US7938009B2 (en) 2006-02-03 2011-05-10 Immersion Corporation Haptic device testing
KR100763057B1 (ko) 2006-03-10 2007-10-02 한승국 터치판넬의 터치기능 검사방법 및 검사장치
CN102981678B (zh) 2006-06-09 2015-07-22 苹果公司 触摸屏液晶显示器
US7907750B2 (en) 2006-06-12 2011-03-15 Honeywell International Inc. System and method for autonomous object tracking
CN200947594Y (zh) 2006-06-23 2007-09-12 丁文龙 一种电容感应式触摸电路
CN101145122B (zh) 2006-09-15 2010-11-10 鸿富锦精密工业(深圳)有限公司 触摸板测试机台
TWI450137B (zh) 2006-12-11 2014-08-21 Elo Touch Solutions Inc 用於校準觸控螢幕上之目標之方法及設備
US8130203B2 (en) 2007-01-03 2012-03-06 Apple Inc. Multi-touch input discrimination
US7978182B2 (en) 2007-01-07 2011-07-12 Apple Inc. Screen rotation gestures on a portable multifunction device
KR20080066416A (ko) * 2007-01-12 2008-07-16 삼성전자주식회사 터치 스크린을 갖는 이동 단말기의 사용자 인터페이스 방법
US20090225036A1 (en) 2007-01-17 2009-09-10 Wright David G Method and apparatus for discriminating between user interactions
US20080180399A1 (en) 2007-01-31 2008-07-31 Tung Wan Cheng Flexible Multi-touch Screen
US20100214233A1 (en) 2007-02-02 2010-08-26 Ampnt, Inc. Touch panel having closed loop electrode for equipotential build-up and manufacturing method thereof
US8253425B2 (en) 2007-05-08 2012-08-28 Synaptics Incorporated Production testing of a capacitive touch sensing device
US9052817B2 (en) 2007-06-13 2015-06-09 Apple Inc. Mode sensitive processing of touch data
US7916126B2 (en) 2007-06-13 2011-03-29 Apple Inc. Bottom-up watershed dataflow method and region-specific segmentation based on historic data to identify patches on a touch sensor panel
US20090009483A1 (en) 2007-06-13 2009-01-08 Apple Inc. Single-chip touch controller with integrated drive system
DE112008001800B4 (de) 2007-07-12 2020-07-30 Atmel Corporation Zweidimensionales Touchpanel
US7797115B2 (en) 2007-08-13 2010-09-14 Nuvoton Technology Corporation Time interval measurement for capacitive detection
US8199118B2 (en) 2007-08-14 2012-06-12 Tyco Electronics Corporation Touchscreen using both carbon nanoparticles and metal nanoparticles
US7725014B2 (en) 2007-08-29 2010-05-25 Hong Kong Applied Science and Technology Research Institute Company Limited Actuator for linear motion and tilting motion
KR20090038540A (ko) 2007-10-16 2009-04-21 주식회사 현대오토넷 화면 상의 영상위치 변경 장치 및 방법, 그리고 그를이용한 네비게이션 시스템
US20100073318A1 (en) 2008-09-24 2010-03-25 Matsushita Electric Industrial Co., Ltd. Multi-touch surface providing detection and tracking of multiple touch points
US8416198B2 (en) 2007-12-03 2013-04-09 Apple Inc. Multi-dimensional scroll wheel
US8175728B2 (en) 2007-12-13 2012-05-08 Georgia Tech Research Corporation Detecting user gestures with a personal mobile communication device
US8395587B2 (en) 2007-12-21 2013-03-12 Motorola Mobility Llc Haptic response apparatus for an electronic device
US20090174679A1 (en) 2008-01-04 2009-07-09 Wayne Carl Westerman Selective Rejection of Touch Contacts in an Edge Region of a Touch Surface
US8692777B2 (en) 2008-02-08 2014-04-08 Apple Inc. Method for rapidly testing capacitance sensing array fault conditions using a floating conductor
CN101545938B (zh) 2008-03-28 2012-01-25 深圳富泰宏精密工业有限公司 触控式面板的检测装置
US8259081B2 (en) 2008-04-04 2012-09-04 Qualcomm Incorporated Low-power touch screen controller
US8519965B2 (en) 2008-04-23 2013-08-27 Motorola Mobility Llc Multi-touch detection panel with disambiguation of touch coordinates
US8514203B2 (en) 2008-04-30 2013-08-20 Apple Inc. Flexible calibration device for touch sensor panel calibration
WO2009140347A2 (en) 2008-05-14 2009-11-19 3M Innovative Properties Company Systems and methods for assessing locations of multiple touch inputs
TWM349000U (en) 2008-06-04 2009-01-11 Tpk Touch Solutions Inc Capacitive touch display panel
US8774793B2 (en) 2008-06-13 2014-07-08 Jot Automation, Ltd. Systems and methods of providing intelligent handset testing
US8368667B2 (en) 2008-06-26 2013-02-05 Cirque Corporation Method for reducing latency when using multi-touch gesture on touchpad
US8866790B2 (en) * 2008-10-21 2014-10-21 Atmel Corporation Multi-touch tracking
US8477103B2 (en) 2008-10-26 2013-07-02 Microsoft Corporation Multi-touch object inertia simulation
KR101564332B1 (ko) 2008-10-28 2015-10-30 삼성전자주식회사 액정 표시 장치에 일체화된 터치 스크린 패널과 그 제조 방법 및 터치 센싱 방법
KR101513440B1 (ko) 2008-12-01 2015-04-22 삼성디스플레이 주식회사 터치 스크린 표시 장치 및 그 제조 방법
KR100989786B1 (ko) 2008-12-11 2010-10-29 (주)코아리버 터치 스크린의 멀티 터치 검출 장치 및 방법
KR101007049B1 (ko) 2008-12-15 2011-01-12 주식회사 애트랩 저항막 방식의 터치 패널을 구비하는 입력 장치 및 이 장치의 접촉 위치 계산 방법
US8217909B2 (en) 2008-12-19 2012-07-10 Cypress Semiconductor Corporation Multi-finger sub-gesture reporting for a user interface device
JP5423686B2 (ja) 2008-12-25 2014-02-19 富士通株式会社 コンピュータプログラム、入力装置及び入力方法
KR20100077298A (ko) 2008-12-29 2010-07-08 (주)엑스포전자엔지니어링 터치패널 자동검사장치
DE102009009896B4 (de) 2009-02-20 2011-02-10 Eads Deutschland Gmbh Verfahren und Vorrichtung zur Erfassung von Zielobjekten
US10564721B2 (en) 2009-03-12 2020-02-18 Immersion Corporation Systems and methods for using multiple actuators to realize textures
US8564555B2 (en) 2009-04-30 2013-10-22 Synaptics Incorporated Operating a touch screen control system according to a plurality of rule sets
CN101644978A (zh) 2009-05-27 2010-02-10 北京中星微电子有限公司 一种触摸屏检测方法及装置
KR20100129015A (ko) 2009-05-29 2010-12-08 (주)캠톤 터치검출장치, 이를 포함하는 표시장치 및 좌표인식방법
US9134848B2 (en) 2009-06-03 2015-09-15 Stmicroelectronics Asia Pacific Pte Ltd Touch tracking on a touch sensitive interface
US20100315372A1 (en) 2009-06-12 2010-12-16 Stmicroelectronics Asia Pacific Pte Ltd. Touch coordinate calculation for a touch-sensitive interface
US20100315266A1 (en) 2009-06-15 2010-12-16 Microsoft Corporation Predictive interfaces with usability constraints
KR20100134153A (ko) 2009-06-15 2010-12-23 삼성전자주식회사 터치스크린을 구비한 장치의 터치 인식 방법
US20100328249A1 (en) 2009-06-25 2010-12-30 Stmicroelecronics Asia Pacific Pte Ltd. Capacitive-inductive touch screen
TWI501121B (zh) 2009-07-21 2015-09-21 Pixart Imaging Inc 手勢辨識方法及使用該方法之觸控系統
KR101630179B1 (ko) * 2009-07-28 2016-06-14 삼성전자주식회사 투영정전용량 터치스크린에서의 멀티터치 감지 장치 및 방법
US9069405B2 (en) 2009-07-28 2015-06-30 Cypress Semiconductor Corporation Dynamic mode switching for fast touch response
EP2284654A1 (en) 2009-08-14 2011-02-16 Research In Motion Limited Electronic device including tactile touch-sensitive input device and method of controlling same
US20110042126A1 (en) 2009-08-24 2011-02-24 Cambrios Technologies Corporation Contact resistance measurement for resistance linearity in nanostructure thin films
US8576182B2 (en) 2009-09-01 2013-11-05 Atmel Corporation Methods and apparatuses to test the functionality of capacitive sensors
KR100941441B1 (ko) 2009-09-15 2010-02-11 주식회사 엘디케이 터치스크린패널 테스트장치
CN101661373B (zh) 2009-09-29 2013-02-27 中兴通讯股份有限公司 一种通过接触面型进行识别解锁的方法及装置
US20110080348A1 (en) 2009-10-01 2011-04-07 Apple Inc. Electronic devices with a primary display and a selectively illuminated secondary display
CN102043524B (zh) 2009-10-09 2012-12-12 禾瑞亚科技股份有限公司 位置侦测的方法与装置
US8645093B2 (en) 2009-11-04 2014-02-04 Qualcomm Incorporated Calibrating multi-dimensional sensor for offset, sensitivity, and non-orthogonality
US20110115709A1 (en) 2009-11-17 2011-05-19 Immersion Corporation Systems And Methods For Increasing Haptic Bandwidth In An Electronic Device
TWM379794U (en) 2009-11-26 2010-05-01 Sentelic Corp Touch screen device
US8194051B2 (en) 2009-12-15 2012-06-05 Silicon Integrated Systems Corp. Multiple fingers touch sensing method using matching algorithm
KR101144724B1 (ko) 2009-12-17 2012-05-24 이성호 터치패널의 터치셀 구조
US8599167B2 (en) 2010-04-22 2013-12-03 Maxim Integrated Products, Inc. Method and apparatus for improving dynamic range of a touchscreen controller
JP5566176B2 (ja) 2010-04-30 2014-08-06 キヤノン株式会社 雲台システム、及び撮影システム
US8830212B2 (en) 2010-06-01 2014-09-09 Vladimir Vaganov System and method for digital recording of handpainted, handdrawn and handwritten information
US8766930B2 (en) 2010-06-02 2014-07-01 Pixart Imaging Inc. Capacitive touchscreen system with drive-sense circuits
US20110304577A1 (en) 2010-06-11 2011-12-15 Sp Controls, Inc. Capacitive touch screen stylus
TWI408587B (zh) 2010-06-14 2013-09-11 Pixart Imaging Inc 觸控系統及其定位方法
US20120030624A1 (en) 2010-07-30 2012-02-02 Migos Charles J Device, Method, and Graphical User Interface for Displaying Menus
US20120032891A1 (en) 2010-08-03 2012-02-09 Nima Parivar Device, Method, and Graphical User Interface with Enhanced Touch Targeting
JP5895337B2 (ja) 2010-09-15 2016-03-30 セイコーエプソン株式会社 ロボット
US10013058B2 (en) 2010-09-21 2018-07-03 Apple Inc. Touch-based user interface with haptic feedback
US8884980B2 (en) 2010-09-24 2014-11-11 Taaz, Inc. System and method for changing hair color in digital images
CN101982783B (zh) 2010-10-20 2012-07-04 天津市中环高科技有限公司 电容式触摸屏测试的工艺
CN201828476U (zh) 2010-10-29 2011-05-11 艾利和电子科技(中国)有限公司 触摸屏划线试验机
US20120105334A1 (en) 2010-11-03 2012-05-03 Microsoft Corporation Computing device with flat touch surface
US20120131490A1 (en) 2010-11-22 2012-05-24 Shao-Chieh Lin Touch-controlled device and method for displaying a virtual keyboard on the touch-controlled device thereof
US8996166B2 (en) 2010-12-09 2015-03-31 T-Mobile Usa, Inc. Touch screen testing platform
US8988087B2 (en) 2011-01-24 2015-03-24 Microsoft Technology Licensing, Llc Touchscreen testing
US8725443B2 (en) 2011-01-24 2014-05-13 Microsoft Corporation Latency measurement
US8982061B2 (en) 2011-02-12 2015-03-17 Microsoft Technology Licensing, Llc Angular contact geometry
US9542092B2 (en) 2011-02-12 2017-01-10 Microsoft Technology Licensing, Llc Prediction-based touch contact tracking
US8681122B2 (en) 2011-04-19 2014-03-25 Cypress Semiconductor Corporation Capacitive sensing with programmable logic for touch sense arrays
US20120280934A1 (en) 2011-05-04 2012-11-08 Apple Inc. Simulating Single and Multi-Touch Events for Testing A Touch Panel
CN202196126U (zh) 2011-05-05 2012-04-18 深圳市科利德光电材料股份有限公司 电阻式触摸屏打点测试装置
CN202093112U (zh) 2011-06-21 2011-12-28 上海晨兴希姆通电子科技有限公司 电容式触摸屏测试装置
US8913019B2 (en) 2011-07-14 2014-12-16 Microsoft Corporation Multi-finger detection and component resolution
KR101065014B1 (ko) 2011-07-28 2011-09-15 에스맥 (주) 터치 스크린 패널의 검사장치 및 검사방법
CN202171626U (zh) 2011-08-05 2012-03-21 深圳市精智达技术有限公司 多点点触触摸屏测试机
US8847612B2 (en) 2011-09-08 2014-09-30 Atmel Corporation Integrated test system for a touch sensor
CN103999053A (zh) 2011-10-25 2014-08-20 埃科亚特姆公司 用于回收电子设备的方法与装置
CN102436334A (zh) 2011-10-27 2012-05-02 苏州瀚瑞微电子有限公司 电容触摸屏系统测试机
US9785281B2 (en) 2011-11-09 2017-10-10 Microsoft Technology Licensing, Llc. Acoustic touch sensitive testing
US8914254B2 (en) 2012-01-31 2014-12-16 Microsoft Corporation Latency measurement
CN107009374A (zh) 2012-03-08 2017-08-04 品质制造有限公司 触敏机器人抓手
US9481084B2 (en) 2012-06-22 2016-11-01 Microsoft Technology Licensing, Llc Touch quality test robot

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2284677A1 (en) * 2009-08-06 2011-02-16 HTC Corporation Method for detecting tracks of touch inputs on touch-sensitive panel and related computer program product and electronic apparatus using the same
CN101825970A (zh) * 2010-05-13 2010-09-08 友达光电股份有限公司 触控点的追踪方法及追踪系统

Also Published As

Publication number Publication date
US8773377B2 (en) 2014-07-08
WO2012122068A3 (en) 2012-11-15
EP2681642A2 (en) 2014-01-08
TW201239683A (en) 2012-10-01
CN102707829A (zh) 2012-10-03
EP2681642A4 (en) 2014-09-03
TWI537772B (zh) 2016-06-11
US20120223894A1 (en) 2012-09-06
EP2681642B1 (en) 2020-07-15
WO2012122068A2 (en) 2012-09-13

Similar Documents

Publication Publication Date Title
CN102707829B (zh) 多通路触摸接触跟踪
CN102622127B (zh) 基于预测的触摸接触跟踪
US10732725B2 (en) Method and apparatus of interactive display based on gesture recognition
US8982061B2 (en) Angular contact geometry
US8913019B2 (en) Multi-finger detection and component resolution
US8619036B2 (en) Virtual keyboard based activation and dismissal
CN107643828B (zh) 车辆、控制车辆的方法
CN104335561B (zh) 生物识别发起的通信
US20190371134A1 (en) Self-checkout system, method thereof and device therefor
CN106605203A (zh) 基于上下文信息的针对触摸表面的不活跃区域
CN102272699A (zh) 手势检测分区
CN108710469A (zh) 一种应用程序的启动方法及移动终端和介质产品
KR101958878B1 (ko) 단말의 보안 해제 방법 및 그 단말
CN109656364A (zh) 一种用于在用户设备上呈现增强现实内容的方法与设备
US20130321303A1 (en) Touch detection
CN110471610A (zh) 终端控制方法、装置、终端及存储介质
US20200233523A1 (en) Sequential two-handed touch typing on a mobile device
TW201037581A (en) Input detection systems and methods for display panels with embedded photo sensors
CN104714736A (zh) 一种退出全屏锁定状态的控制方法及终端
Nyirarugira et al. Hand gesture recognition using particle swarm movement
CN105607755B (zh) 一种控制方法、装置及系统
KR101411927B1 (ko) 터치 궤적을 이용한 멀티 터치 식별 방법

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: MICROSOFT TECHNOLOGY LICENSING LLC

Free format text: FORMER OWNER: MICROSOFT CORP.

Effective date: 20150616

C41 Transfer of patent application or patent right or utility model
TA01 Transfer of patent application right

Effective date of registration: 20150616

Address after: Washington State

Applicant after: Micro soft technique license Co., Ltd

Address before: Washington State

Applicant before: Microsoft Corp.

GR01 Patent grant
GR01 Patent grant