CN109901940A - 促进基于模型数据为触摸屏手势评估生成标准化测试 - Google Patents
促进基于模型数据为触摸屏手势评估生成标准化测试 Download PDFInfo
- Publication number
- CN109901940A CN109901940A CN201811502200.1A CN201811502200A CN109901940A CN 109901940 A CN109901940 A CN 109901940A CN 201811502200 A CN201811502200 A CN 201811502200A CN 109901940 A CN109901940 A CN 109901940A
- Authority
- CN
- China
- Prior art keywords
- gesture
- touch
- screen
- data
- collection
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3692—Test management for test results analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3409—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment for performance assessment
- G06F11/3428—Benchmarking
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3438—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment monitoring of user actions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/34—Recording or statistical evaluation of computer activity, e.g. of down time, of input/output operation ; Recording or statistical evaluation of user activity, e.g. usability assessment
- G06F11/3452—Performance evaluation by statistical analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/36—Preventing errors by testing or debugging software
- G06F11/3668—Software testing
- G06F11/3672—Test management
- G06F11/3688—Test management for test execution, e.g. scheduling of test suites
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
- G06F3/0418—Control or interface arrangements specially adapted for digitisers for error correction or compensation, e.g. based on parallax, calibration or alignment
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- Computer Hardware Design (AREA)
- Human Computer Interaction (AREA)
- Life Sciences & Earth Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Evolutionary Biology (AREA)
- Probability & Statistics with Applications (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开提供了基于计算机生成的模型数据来促进为触摸屏手势评估生成标准化测试的系统和方法。一种系统包括存储可执行部件的存储器以及操作性地连接到所述存储器的处理器,所述处理器执行所述可执行部件。所述可执行部件可以包括将操作指令集与触摸屏手势集相关联的映射部件以及从多个传感器接收传感器数据的传感器部件。所述传感器数据可以与所述触摸屏手势集的实施相关。所述触摸屏手势集可以在经历振动或湍流的环境中实施。此外,所述可执行部件可以包括分析部件,所述分析部件分析所述传感器数据并且评估所述触摸屏手势集相对于相应操作指令的相应性能数据和可用性数据。
Description
技术领域
本公开大体上涉及触摸屏手势评估的系统和方法,并且涉及基于计算机生成的模型数据来促使生成触摸屏手势评估的标准化测试。
背景技术
人机接口可以设计成使得实体能够通过一个或多个手势与计算装置交互。例如,所述一个或多个手势可以被所述计算装置检测到,并且基于与一个或多个手势相关联的相应功能,可以由计算装置实施动作。所述手势在计算装置和用户保持静止并且即便有,移动也极少的情况下是有用的。然而,在存在恒定、不可预测运动的情况下,例如在与空中旅行相关联的非稳定情况下,无法轻松地执行手势并且/或者计算装置无法准确地检测手势。因此,在非稳定环境中,手势无法有效地与计算装置一起使用。
发明内容
下文提供本公开主题的简要概述,以提供对本说明书中所公开的各个示例的一些方面的基本理解。本概述不是对各个示例的广泛概述。它既不旨在确定各个示例的关键或重要要素,也不旨在描述各个示例的范围。它的唯一目的是以精简形式提供本公开的一些概念,作为下文提供的更详细说明的前序。
一个或多个示例提供一种系统,所述系统可以包括存储可执行部件的存储器以及操作性地连接到所述存储器的处理器,所述处理器执行所述可执行部件。所述可执行部件可以包括映射部件,所述映射部件将操作指令集与触摸屏手势集相关联。所述操作指令可以包括相对于计算装置的触摸屏执行的至少一个已定义任务。所述可执行部件还可以包括从多个传感器接收传感器数据的传感器部件。所述传感器数据可以与所述触摸屏手势集的实施相关。根据一些实施方案,所述触摸屏手势集可以在经历振动或湍流的环境中实施。此外,所述可执行部件可以包括分析部件,所述分析部件分析所述传感器数据并且评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和/或可用性得分/数据。所述性能得分/数据和/或可用性得分/数据可以是所述触摸屏手势集在已定义环境(例如,经历振动或湍流的环境)内的适用性的函数。
此外,在一个或多个示例中,提供一种由计算机实施的方法。所述由计算机实施的方法可以包括通过包括处理器的系统,将操作指令集映射到触摸屏手势集。所述操作指令可以包括相对于计算装置的触摸屏执行的已定义相关任务集。所述由计算机实施的方法还可以包括通过所述系统获得与所述触摸屏手势集的实施相关的传感器数据。此外,所述由计算机实施的方法可以包括通过所述系统,基于对所述传感器数据的分析来评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和/或可用性得分/数据。在一些实施方案中,所述触摸屏手势集可以在可控非平稳环境中实施。
此外,根据一个或多个示例,提供一种包括可执行指令的计算机可读存储装置,所述可执行指令响应于执行使包括处理器的系统执行操作。所述操作可以包括将操作指令集与触摸屏手势集相匹配,并且获得与在非稳定环境中实施所述触摸屏手势集相关的传感器数据。所述操作还可以包括基于所述操作指令集、所述触摸屏手势集和所述传感器数据来训练模型。此外,所述操作还可以包括基于对所述传感器数据和所述模型的分析来分析所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和/或可用性得分/数据。
技术方案1.一种系统,包括:
存储器,所述存储器存储可执行部件;以及
处理器,所述处理器操作性地连接到所述存储器,所述处理器执行所述可执行部件,所述可执行部件包括:
映射部件,所述映射部件将操作指令集与触摸屏手势集相关联,其中所述操作指令包括相对于计算装置的触摸屏执行的至少一个已定义任务;
传感器部件,所述传感器部件从多个传感器接收传感器数据,其中所述传感器数据与所述触摸屏手势集的实施相关;以及
分析部件,所述分析部件分析所述传感器数据并且评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能数据和可用性数据,其中所述相应性能数据和可用性数据是所述触摸屏手势集的适用性的函数。
技术方案2.根据技术方案1所述的系统,进一步包括手势模型,所述手势模型相对于所述操作指令集中的所述相应操作指令来学习触摸屏手势。
技术方案3.根据技术方案1或2所述的系统,其中一个或多个错误根据偏离与所述至少一个已定义路径相关联的目标路径所花费的相应时间来衡量。
技术方案4.根据技术方案1所述的系统,进一步包括缩放部件,所述缩放部件根据所述计算装置的触摸屏尺寸执行触摸屏手势分析。
技术方案5.根据技术方案4所述的系统,其中所述缩放部件根据由所述计算装置的所述触摸屏所检测到的一个或多个对象的相应尺寸来执行所述触摸屏手势分析。
技术方案6.根据技术方案1所述的系统,进一步包括手势模型生成部件,所述手势模型生成部件基于从多个计算装置接收的操作数据生成手势模型,其中所述手势模型通过基于云的跨多个模型的共享来训练,其中所述多个模型基于从所述多个计算装置接收的所述操作数据。
技术方案7.根据技术方案1所述的系统,其中所述分析部件根据准确确定手势意图的益处相对于不准确确定手势意图的代价来执行基于效用的分析。
技术方案8.根据技术方案7所述的系统,进一步包括风险部件,所述风险部件根据与已定义任务相关联的可接受风险来调节可接受的错误率,其中所述触摸屏手势集在经历振动或湍流的环境中实施。
技术方案9.一种由计算机实施的方法,所述方法包括:
通过包括处理器的系统将操作指令集映射到触摸屏手势集,其中所述操作指令包括相对于计算装置的触摸屏执行的已定义相关任务集;
通过所述系统获得与所述触摸屏手势集的实施相关的传感器数据;以及
通过所述系统,基于对所述传感器数据的分析来评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能得分和可用性得分。
技术方案10.根据技术方案9所述的由计算机实施的方法,进一步包括:
通过所述系统,相对于所述操作指令集中的所述相应操作指令来学习触摸屏手势。
技术方案11.根据技术方案9或10所述的由计算机实施的方法,进一步包括:
通过所述系统,根据偏离为所述触摸屏手势集中的至少一个手势定义的目标路径所花费的相应时间来测量一个或多个错误,其中所述触摸屏手势集在可控非平稳环境中实施。
技术方案12.根据技术方案9所述的由计算机实施的方法,进一步包括:
通过所述系统,根据所述计算装置的触摸屏尺寸执行触摸屏手势分析。
技术方案13.根据技术方案12所述的由计算机实施的方法,进一步包括:
通过所述系统,根据由所述计算装置的所述触摸屏所检测到的一个或多个对象的相应尺寸来执行所述触摸屏手势分析。
技术方案14.根据技术方案9所述的由计算机实施的方法,进一步包括:
通过所述系统,基于从多个计算装置接收的操作数据生成手势模型;以及
通过所述系统,通过基于云的跨多个模型的共享来训练所述手势模型,其中所述多个模型基于从所述多个计算装置接收的所述操作数据。
技术方案15.根据技术方案9所述的由计算机实施的方法,进一步包括:
通过所述系统执行基于效用的分析,所述基于效用的分析以准确关联手势意图的益处相对于不准确关联手势意图的代价为因素;以及
通过所述系统来调节风险部件,所述风险部件根据与已定义任务相关联的风险来调节可接受的错误率。
要实现上述和相关目的,所公开主题包括下文中更全面描述的一个或多个特征。以下说明和附图详细阐述本发明主题的某些说明性方面。但是,这些方面仅表示可以使用本发明主题的原理的各种方式的几种方式。结合附图考虑时,可从以下详细说明中显而易见地了解所公开主题的其他方面、优势和新颖特征。还应理解,所述详细说明可以包括除了本发明内容部分中所述之外的附加或替代示例。
附图说明
各种非限制性实施例将参照附图进一步描述,其中:
图1示出根据本说明书中所描述的一个或多个实施例的用于促使控制手势测试的非限制性示例系统;
图2示出根据本说明书中所描述的一个或多个实施例的用于功能手势评估的另一个非限制性示例系统;
图3示出根据本说明书中所描述的一个或多个实施例的用于平移(pan)/移动功能测试的标准化测试的非限制性示例实施方案;
图4示出根据本说明书中所描述的一个或多个实施例的图3所示平移/移动功能测试的非限制性的示例性的第一实施例;
图5示出根据本说明书中所描述的一个或多个实施例的图3所示平移/移动功能测试的非限制性的示例性的第二实施例;
图6示出根据本说明书中所描述的一个或多个实施例的图3所示平移/移动功能测试的非限制性的示例性的第三实施例;
图7示出根据本说明书中所描述的一个或多个实施例的图3所示平移/移动功能测试的非限制性的示例性的第四实施例;
图8示出根据本说明书中所描述的一个或多个实施例的增加/减小功能测试的非限制性的示例性的第一实施例;
图9示出根据本说明书中所描述的一个或多个实施例的图8所示增加/减小功能测试的非限制性的示例性的第二实施例;
图10示出根据本说明书中所描述的一个或多个实施例的图8所示增加/减小功能测试的非限制性的示例性的第三实施例;
图11示出根据本说明书中所描述的一个或多个实施例的图8所示增加/减小功能测试的非限制性的示例性的第四实施例;
图12示出根据本说明书中所描述的一个或多个实施例的增加/减小功能测试的非限制性的示例性的第一实施例;
图13示出根据本说明书中所描述的一个或多个实施例的图12所示增加/减小功能测试的非限制性示例第二实施例;
图14示出根据本说明书中所描述的一个或多个实施例的图12所示增加/减小功能测试的非限制性的示例性的第三实施例;
图15示出根据本说明书中所描述的一个或多个实施例的图12所示增加/减小功能测试的非限制性的示例性的第四实施例;
图16示出能够根据本说明书中所描述的一个或多个实施例实施的非限制性的示例性的“转到(go to)”功能任务的表示;
图17示出根据本说明书中所描述的一个或多个实施例的用于功能手势评估的另一个非限制性的示例性的系统;
图18示出根据本说明书中所描述的一个或多个实施例的用于促使触摸屏评估任务的非限制性的示例性的由计算机实施的方法,所述触摸屏评估任务旨在评估触摸屏功能的手势可用性;
图19示出根据本说明书中所描述的一个或多个实施例的用于在非稳定环境中生成触摸屏手势评估的标准化测试的非限制性的示例性的由计算机实施的方法;
图20示出根据本说明书中所描述的一个或多个实施例的用于评估与非稳定环境中的触摸屏手势评估相关联的风险益处分析的非限制性的示例性的由计算机实施的方法;
图21示出可以促使本说明书中所描述的一个或多个实施例的非限制性示例计算环境;以及
图22示出可以促使本说明书中所描述的一个或多个实施例的非限制性示例联网环境。
具体实施方式
现在将参照附图更全面地描述一个或多个实施例,其中附图中示出示例性实施例。以下说明中出于说明目的阐述许多具体细节,以提供各种实施例的透彻理解。但是,所述各种实施例可以在不采用这些具体细节的情况下实施。在其他情况下,以方框图形式示出公知的结构和装置,以便于描述各种实施例。
本说明书中所提供的多个方面涉及在多变环境(volatile environment)中实施手势之前确定基于手势的控制在所述多变环境中的有效性。确切地说,所述多个方面涉及一系列基于计算机的评估任务,所述一系列基于计算机的评估任务设计成评估手势对触摸屏功能的可用性(例如,触摸屏动作、触摸屏操作)。“手势”是用于表达意图的触摸屏交互(例如,选择触摸屏上的项目、促进触摸屏上的移动、导致基于与触摸屏的交互执行已定义动作)。如本说明书中所讨论,所述多个方面可以评估手势对于已定义功能和已定义环境的可用性。所述可用性可以通过完成任务所花费的时间、任务完成的准确性,或者所述准确性和完成时间这两者的组合来确定。
设计用于驾驶舱或经历振动和/或湍流的其他实现形式的人机界面(HMI)应在考虑到触觉可用性的情况下开发。作为示例,对于航空而言,这可以涉及考虑各种情景例如湍流、振动以及接口在驾驶舱内或另一已定义环境内的定位。由于对于在驾驶舱中使用触摸屏的关注度日益增加并且触摸屏在消费者市场中变得普遍存在,现在有大量可以用于表达对系统的单一意图的常规手势。但是,这些常规手势不适用于非稳定环境中。因此,本说明书中提供可以确定各种手势的可用性以及所述手势在非平稳环境中的适用性的实施例。例如,非稳定或非平稳环境可以包括但不限于在陆地导航、海洋导航、航空导航和/或空间导航期间遇到的环境。尽管所述多个方面是结合非稳定环境讨论的,但是所述多个方面也可以用于稳定环境中。
所述多个方面可以提供触摸屏手势的客观评级(而不是主观评级)。所述客观评级可以结合多种对象的可用性尺度来收集和使用,以便以更高确定性来确定针对单个用户意图设有专用手势的系统的可用性。
图1示出根据本说明书中所描述的一个或多个实施例的用于促进控制手势测试的非限制性示例系统100。所述系统100可以配置成执行预期用于评估触摸屏功能的手势可用性的触摸屏评估任务。根据一些实施方案,手势可用性评估可以针对在非平稳或非稳定环境中执行的触摸屏功能。例如,可以对经历振动和/或湍流的环境执行评估。所述环境可以包括但不限于航海环境、航海应用、航空环境和航空应用。
所述系统100可以包括映射部件102、传感器部件104、分析部件106、界面部件108、至少一个存储器110和至少一个处理器112。所述映射部件102可以将操作指令集(a set ofoperating instructions)与触摸屏手势集(a set of touchscreen gestures)相关联。所述操作指令可以包括相对于计算装置的触摸屏执行的至少一个已定义任务。根据一些实施方案,所述操作指令可以包括要相对于计算装置的触摸屏执行的相关任务集。例如,所述操作指令集可以包括让实体通过相关联的计算装置与界面部件108的触摸屏进行交互的指令。
根据一些实施方案,界面部件108可以是系统100的部件。但是,根据一些实施方案,所述界面部件108可以与系统100隔开,但是与系统100通信。例如,界面部件108可以与和所述系统位于同一地点(例如,飞行模拟器内)的装置和/或远离所述系统的装置(例如,移动电话、平板计算机、膝上型计算机和其他计算装置)相关联。
所述指令可以包括详细指令,所述详细指令可以是视觉指令和/或可听指令。根据一些实施方案,所述指令可以建议所述实体通过与相关联的计算装置进行交互来执行各种功能。所述各种功能可以包括“平移/移动”、“增加/减小”、“下一个/上一个”(例如,“转到”)和/或“清除/消除/删除”。所述平移/移动功能可以包括在屏幕上拖动项目(例如,手指、笔装置)和/或在屏幕上拖动两个项目(例如,两个手指)。所述一个或多个项目的拖动运动可以根据已定义路径。下文将结合图3到图7提供与非限制性示例平移/移动功能相关的进一步细节。所述增加/减小功能可以包括在屏幕上向上、向下、向右和/或向左拖动对象。另一个增加/减小功能可以包括顺时针和/或逆时针旋转。又一个增加/减少功能可以包括在屏幕内捏合和/或展开已定义元素。下文将结合图8到图15提供与非限制性示例增加/减小功能相关的进一步细节。“转到”功能可以包括在屏幕上向左、向右、向上和/或向下轻扫(swiping)(或“轻弹”(flicking))对象。
所述传感器部件104可以从一个或多个传感器114接收传感器数据。所述一个或多个传感器114可以至少部分包括在界面部件108内。所述一个或多个传感器可以包括位于界面部件108内并且与显示器相关联的触摸传感器。根据实施方案,所述传感器数据可以与所述触摸屏手势集的实施相关。例如,所述触摸屏手势集可以在某个环境中实施,其中所述环境经历振动或湍流、是非平稳环境并且/或者是非稳定环境。在一些实施方案中,触摸屏手势可以在不经历振动或湍流,或者是极少经历振动或湍流的环境中测试。
所述分析部件106可以分析所述传感器数据。例如,所述分析部件106可以评估手势是否符合已定义手势路径或预期移动。此外,所述分析部件106评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和/或可用性得分/数据。所述性能得分/数据和/或可用性得分/数据可以是所述触摸屏手势在测试环境(例如,稳定环境、经历振动或湍流的环境等)内的适用性的函数。例如,如果触摸屏手势不适用于所述环境,则可以检测到高错误百分比。在实施方案中,所述性能得分数据可以与手势偏离已定义手势路径的次数、已定义手势路径内发生一个或多个偏差的位置、手势的无法执行和/或手势的无法完成(例如,从已定义开始位置到已定义结束位置)相关。
所述至少一个存储器110可以操作性地连接到至少一个处理器112。所述至少一个存储器110可以存储计算机可执行部件和/或计算机可执行指令。所述至少一个处理器112可以促使执行存储在至少一个存储器110中的计算机可执行部件和/或计算机可执行指令。术语“连接”或其变体可以包括各种通信,包括但不限于直接通信、间接通信、有线通信和/或无线通信。
此外,如本说明书中所讨论,所述至少一个存储器110可以存储与促使环境中的触摸屏手势评估的标准化测试相关联的协议,所述环境可以是稳定环境或非稳定环境。此外,所述至少一个存储器110可以促使用于控制所述系统100、其他系统和/或其他装置之间的通信的动作,使得所述系统100可以使用所存储的协议和/或算法来实现本说明书中所描述的改进的触摸屏手势评估。
应注意,尽管所述一个或多个计算机可执行部件和/或计算机可执行指令可以在本说明书中图示和描述成与至少一个存储器110分离的部件和/或指令(例如,操作性地连接到至少一个存储器110),各个方面不限于此实施方案。相反,根据各个实施方案,一个或多个计算机可执行部件和/或一个或多个计算机可执行指令可以存储(或集成)在至少一个存储器110中。此外,尽管各种部件和/或指令已经图示成单独的部件和/或单独的指令,但是在一些实施方案中,多个部件和/或多个指令可以实施成单个部件或单个指令。此外,在不脱离示例性实施例的情况下,单个部件和/或单个指令可以实施成多个部件和/或多个指令。
应理解,本说明书中所描述的数据存储部件(例如,存储器)可以是易失性存储器(volatile memory)或非易失性存储器,或者可以包括易失性存储器和非易失性存储器这两者。以示例且非限制的方式,非易失性存储器可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除ROM(EEPROM)或闪存。易失性存储器可以包括用作外部超高速缓冲存储器的随机存取存储器(RAM)。以示例且非限制的方式,RAM可以采用许多形式,例如同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双倍数据速率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路动态随机存取存储器(Synchlink DRAM,SLDRAM)和直接Rambus RAM(DRRAM)。所公开方面的存储器预期包括但不限于这些和其他适当类型的存储器。
所述至少一个处理器112可以促使与触摸屏手势评估相关的相应信息分析。所述至少一个处理器112可以是专用于基于所接收的数据和/或基于所生成的模型来确定一个或多个手势的适用性的处理器;控制系统100的一个或多个部件的处理器;以及/或者既基于所接收的数据来分析和生成模型,又控制系统100的一个或多个部件的处理器。
根据一些实施方案,所述各种系统可以包括相应的界面部件(例如,界面部件108)或显示单元,所述界面部件或显示单元可以促使对一个或多个显示单元的信息输入和/或输出。例如,如本说明书中所讨论,图形用户界面可以输出在一个或多个显示单元和/或移动装置上,这可以通过界面部件来促进。还可以调用移动装置,并且所述移动装置可以包括系统、订户单元(subscriber unit)、订户站、移动站、手机、移动装置、装置、无线终端、远程站、远程终端、接入终端、用户终端、终端、无线通信装置、无线通信设备、用户代理、用户装置或用户设备(UE)的一些或全部功能。所述移动装置可以是蜂窝电话、无绳电话、会话发起协议(SIP)电话、智能电话、功能电话、无线本地环路(WLL)站、个人数字助理(PDA)、膝上型计算机、手持通信装置、手持计算装置、上网本、平板设备、卫星无线电、数据卡、无线调制解调器卡和/或用于通过无线系统进行通信的另一处理装置。此外,尽管相对于无线装置讨论,但是所公开的方面也可以使用有线装置实施,或者使用有线装置和无线装置这两者来实施。
图2示出根据本说明书中所描述的一个或多个实施例的用于功能手势评估的另一个示例、非限制性系统200。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
所述系统200可以包括系统100的部件和/或功能中的一者或多者,反之亦然。所述系统200可以包括手势模型生成部件202,所述手势模型生成部件可以基于从大量计算装置接收的操作数据生成手势模型204,所述计算装置可以位于系统200内和/或远离系统200。在一些实施方案中,手势模型204可以根据来自多个装置的数据来训练和标准化。所述数据可以是能够通过传感器部件104收集的操作数据和/或测试数据。根据一些实施方案,所述手势模型204可以相对于所述操作指令集中的相应操作指令来学习触摸屏手势。例如,所述操作指令集可以包括一个或多个手势以及应相对于所述一个或多个手势执行的一个或多个任务(例如,指令)。
根据一些实施方案,所述手势模型生成部件202可以通过跨大量模型的基于云的共享来训练手势模型204。所述大量模型可以基于从所述大量计算装置接收的操作数据。例如,多个基于手势的测试可以在不同位置执行。数据和分析可以在不同位置收集和分析。此外,相应模型可以在不同位置训练。可以通过跨一个或多个模型的基于云的共享来聚集在不同位置创建的模型。通过共享来自不同位置(例如,测试中心)的模型和相关信息,可以促使实现稳健手势训练和分析,如本说明书中所讨论。
所述系统200还可以包括缩放部件(scaling component)206,所述缩放部件根据计算装置的触摸屏尺寸执行触摸屏手势分析。例如,可以使用各种装置与系统200交互。所述各种装置可以是移动装置,所述移动装置可以包括不同占地面积,并且因此可以包括不同尺寸的显示屏。在示例中,可以在大屏幕上执行测试,并且可以在大屏幕上训练手势模型204。但是,类似测试将在较小屏幕上执行,因此,缩放部件206可以使用手势模型204来根据可用成品电路板(例如,显示器尺寸)来重新缩放所述测试。通过这种方式,无论在哪个装置上进行测试,所述测试都可以保持不变。因此,一个或多个测试可以跨各种装置标准化。
根据一些实施方案,所述缩放部件206可以根据由计算装置的触摸屏所检测到的一个或多个对象(例如,手指、拇指或其部分)的相应尺寸来执行触摸屏手势分析。例如,如果使用手指与触摸屏交互,则手指对于屏幕区域可能过大,因此,可能发生基于手指大小的错误。在另一个示例中,所述手指可能小于平均值,并且因此,由于手指尺寸较小致使必须通过屏幕上的额外距离,因此完成一个或多个任务所花费的时间量可能更长。
应注意,尽管本说明书中可以描述各种尺寸、屏幕比率和/或其他数值定义,但是这些细节的提供仅用于解释所公开的方面。在各种实施方案中,其他尺寸、屏幕比率和/或其他数值定义可以与所公开的方面一起使用。
根据一些实施方案,计时器部件208可以测量成功执行任务和/或所述任务的部分所花费的各种时间量。例如,所述计时器部件208可以开始跟踪选择测试时(例如,当启动测试选择器时)所花费的时间量。在另一个示例中,计时器部件208可以一旦接收到第一手势(例如,由一个或多个传感器和/或传感器部件104确定)就开始跟踪时间。
附加地或替代地,所述手势分析可以包括输出的一系列测试或任务。一旦测试开始或者在测试开始之后,计时器部件208可以跟踪成功完成第一手势的时间。此外,所述计时器部件208可以跟踪在完成第一任务与开始第二任务之间经过的时间量。可以基于传感器部件104在完成第一任务之后接收到的下一个手势来确定第二任务的开始。根据另一个示例,可以基于与第二任务所关联的一个或多个对象的交互来确定第二任务的开始。可以通过计时器部件208跟踪完成第二任务的时间量、第二任务与第三任务之间的另一时间量等。
根据一些实施方案,可以通过所述计时器部件208根据偏离与至少一个已定义路径相关联的目标路径所花费的相应时间来测量一个或多个错误。例如,任务可以指示应执行的手势以及在执行手势时应遵循的目标路径。但是,根据一些实施方案,由于手势可以在非稳定(例如,经历振动、湍流或其他中断)的环境中执行,因此指向项目(例如,手指)可能由于移动而偏离目标路径(例如,不再与触摸屏接触)。在一些实施方案中,由于正在执行手势的环境是不稳定的,因此预期可能存在已定义偏差量。但是,如果所述偏差量超出已定义量,则可能表示存在错误,因此,所述手势可能不适用于被测试的环境。例如,所述环境可能存在过多振动或移动,致使手势不适用。
图3示出根据本说明书中所描述的一个或多个实施例的用于平移/移动功能测试300的标准化测试的示例、非限制性实施方案。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。应注意,尽管本说明书中图示和描述特定标准化测试,但是所公开的方面不限于这些实施方案。但是,示例、非限制性标准化测试图示和描述成便于描述本说明书中所提供的一个或多个方面。因此,其他标准化测试可以与所公开的方面一起使用。
平移/移动功能测试300可以用于模拟在装置的触摸屏上拖动和/或移动对象。例如,可以呈现具有已定义宽度的测试通道302。根据一些实施方案,所述测试通道302沿其长度可以具有类似宽度。但是,在一些实施方案中,所述测试通道302的不同区域可以具有不同宽度。
分析部件106可以使用所述略图内的已定义路径304来确定在手势期间是否已发生一个或多个错误。例如,所述一个或多个错误可以根据偏离已定义路径304所花费的时间来测量。另外还可以呈现测试对象306,所述测试对象是实体可以与之交互的对象(例如,通过多点触摸)。例如,测试对象306可以在测试期间选择和移动。根据一些实施方案,还可以示出虚像对象308。所述虚像对象308是实体可能使用测试对象来模仿其路径的对象。例如,所述虚像对象308可以沿所述路径输出在移动测试对象306的目的地位置处。根据一些实施方案,所述测试对象306和虚像对象308可以具有大体相同尺寸和/或形状。但是根据其他实施方案,所述测试对象306和虚像对象308可以具有不同尺寸和/或形状。此外,在一些实施方案中,测试对象306和虚像对象308可以以不同颜色或以区分对象的其他方式呈现。
已定义路径304可以设计成允许传感器部件104和/或一个或多个传感器评估沿垂直轴线(例如,Y方向310)的移动、在水平轴线(例如,X方向312)上的移动,以及在水平轴线和垂直轴线这两者(例如,XY组合方向314)上的移动。在图示的示例中,平移/移动功能测试300可以在第一位置(例如,开始位置316)开始并且可以在第二位置(例如,停止位置318)结束。在测试程序期间,测试对象306可以定位在沿已定义路径304的各个位置处或者位于测试通道302内但不在已定义路径304上的位置处(例如,测试通道302和/或测试对象306可以尺寸设定成使得测试通道302内的移动可以偏离已定义路径304)或者测试通道302的外部。
根据一些实施方案,如果对象(例如,手指)从测试对象移开,则所述测试对象将保持原位并且将不会复位到开始位置。此外,当通道的边界被破坏时将没有反馈。所述测试对象可以在屏幕上的任何位置自由移动,并且不受通道的约束。此外,计时可以在触摸测试对象时开始,并且可以在触摸终点线(例如,停止位置)时结束。
图4到图7示出根据本说明书中所描述的一个或多个实施例的图3所示平移/移动功能测试300的示例、非限制性实施方案。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
一旦请求开始执行平移/移动功能300(例如,通过经由界面部件108通过触摸屏选择测试、通过可听选择来选择测试,或者通过选择平移/移动功能测试300的其他方式选择测试)或在请求开始执行平移/移动功能之后,可以呈现图4所示平移/移动功能测试300的第一实施例400。如图所示,呈现测试对象306,但是不呈现虚像对象308。根据一些实施方案,虚像对象308在平移/移动功能测试300的开始时可以与测试对象306处于大体相同位置,因此看不到。但是一旦平移/移动功能测试300开始或者在所述平移/移动功能测试开始之后,可以呈现虚像对象308以提供关于测试对象306应如何在屏幕上移动的指示。
一旦测试对象306从开始位置316移动到停止位置318或者在所述测试对象从开始位置移动到停止位置之后,可以自动呈现图5中所示的平移/移动功能测试300的第二实施例500。在第二实施例500中,测试通道302可以旋转和翻转,使得开始位置316位于显示屏幕上的不同位置处。一旦平移/移动功能测试300的第二实施例500完成或在所述平移/移动功能测试的第二实施例完成之后(例如,测试对象306已经从开始位置316移动到停止位置318),可以自动呈现平移/移动功能测试300的第三实施例600。
如第三实施例600所示,开始位置316再次位于屏幕上的不同位置。此外,一旦第三实施例600完成或者在所述第三实施例完成之后(例如,测试对象306已经从开始位置316移动到停止位置318),可以自动呈现图7中所示的第四实施例700。一旦第四实施例700完成或在所述第四实施例完成之后,可以完成平移/移动功能测试300。
因此,如图4到图7所示,平移/移动功能测试300可以继续通过不同方向(例如,在此示例中为四个方向)。此外,可以使用不同跟踪实施例之间的翻转来平均在不同方向上执行跟踪时可能发生的各种问题。此外,可以使用不同跟踪实施例之间的翻转来平均在不同方向上执行跟踪时可能发生的各种问题。例如,根据对象(例如,手指)是从左手方向还是右手方向放置在屏幕上,所述屏幕的至少一部分可能被遮挡。例如,对于图4和图6,如果所述对象沿右手方向放置在屏幕上,则当测试对象306从开始位置316移动时,开始位置316可能在平移/移动功能测试300的一部分期间被遮挡。同样地,对于图5和图7,如果所述对象在平移/移动功能测试300的一部分期间沿左手方向放置在屏幕上,则开始位置316可能在平移/移动功能测试300的一部分期间被遮挡。
图8到图10示出根据本说明书中所描述的一个或多个实施例的增加/减小功能测试的示例、非限制性实施方案。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
所述增加/减小功能测试可以设计成使用不同手势测试增加和/或减小功能。与图3所示平移/移动功能测试300类似,所述增加/减小功能测试可以包括测试对象306。此外,一旦测试对象306移动(或测试对象306的预期移动)或在此移动之后,可以呈现虚像对象308。所述增加/减小功能测试的目的可以是确定最适用于实现功能或预期意图的一个或多个手势。
图8示出根据本说明书中描述的一个或多个实施例的增加/减小功能测试的第一实施例800。所述增加/减小功能测试以及本说明书中所讨论的其他测试可以是多点触摸测试,其中触摸屏的多个部分可以几乎在相同时间被触摸。图中示出第一滑轨802和第二滑轨804。对于第一滑轨802,测试对象306可以配置成从开始位置316向上移动到停止位置318。此外,第二滑轨804可以配置成对测试对象306从开始位置316向下移动到停止位置318的移动进行测试。因此,第一实施例800可以测试向上和向下移动的准确性和/或速度。
一旦完成增加/减小功能测试的第一实施例800或者在完成增加/减小功能测试的第一实施例之后,可以呈现增加/减小功能测试的第二
实施例900。第二实施例900包括第一滑轨902,所述第一滑轨可以用于测试将测试对象306从开始位置316(左侧)朝向停止位置318(右侧)移动的手势。此外,第二滑轨904可以用于测试将测试对象306从开始位置316(右侧)朝向停止位置318(左侧)移动的手势。因此,第二实施例900可以测试左右方向上的水平移动。根据一些实施方案,所述第一滑轨902和第二滑轨904可以沿水平方向居中定位在显示屏幕上。但是,其他位置也可以用于第一滑轨902和第二滑轨904。
如图10所示,增加/减小功能测试的第三实施例1000可以一旦完成第二实施例就呈现或者在完成第二实施例之后呈现。所述第三实施例1000可以测试一个或多个手势的旋转运动。因此,如第一旋转轨道1002所图示,测试对象306可以尝试沿顺时针方向从开始位置316移动到停止位置318。此外,如第二旋转轨道1004所图示,测试对象306可以尝试沿逆时针方向从开始位置316移动到停止位置318。如图所示,第一旋转轨道1002和第二旋转轨道1004的相应底部部分可以移除,使得第三实施例1000期间不跟踪完整圆形。根据一些实施方案,所述第一旋转轨道1002和第二旋转轨道1004可以沿垂直方向(例如,Y方向)居中定位在显示屏幕上。
此外,一旦完成第三实施例1000或者在完成第三实施例之后,可以呈现图11所示的增加/减小功能测试的第四实施例1100。第四实施例1100的第一实施方案1102图示在图11中的左侧。在所述第一实施方案1102中,开始位置316大致位于圆形的中央。所述第一实施方案1102可以用于测试缩小功能,所述缩小功能可以通过使两个对象(例如,两个手指)背离彼此并且向外朝向所述圆的外部部分移动来执行,其中所述外部部分可以是停止位置318。
第四实施例1100的第二实施方案1104图示在图11中的右侧。在所述第二实施方案1104中,开始位置316位于所述圆形的最外部分。所述第二实施方案1104可以用于测试捏合功能,所述捏合功能可以通过使两个对象(例如,两个手指)朝向彼此并且向内朝向所述圆的中间移动来执行,其中所述中间可以是停止位置318。
根据一些实施方案,所述增加/减小功能任务可以用于使用不同手势测试增加和减小功能。计时可以在触摸测试对象时开始。另一个性能度量可以是达到50%(或另一个百分比)所花费的时间,这可以在以下时间确定:例如,力=0并且值=50(两秒)。读数可以出现在测试对象附近,以指示所述测试对象的当前值/位置。
根据实施方案,如果触摸并且按住测试对象,则如果用户将手指从触摸对象移开、同时保持与屏幕接触,则所述滑轨仍然可以处于活动状态(与用户对当前触摸屏装置的预期类似)。如果用户将手指从测试对象移开,则所述测试对象可以留在原位且不会复位。
图12图15示出根据本说明书中所描述的一个或多个实施例的另一个增加/减小功能测试的示例、非限制性实施方案。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
图12到图15的增加/减小功能测试类似于图8到图11的增加/减小功能测试。但是,在此示例中,所述手势以整个移动(如相对于图8到图11所讨论)的特定百分比执行。此外,图12到图15的增加/减小功能测试可以是多点触摸测试。
例如,在图12所示的第一实施例1200中,第一读数1202和第二读数1204可以呈现为悬停到测试对象306的相应侧上。尽管图示成处于测试对象306的左侧,但是第一读数1202和第二读数1204可以位于测试对象306的右侧,或者位于相对于测试对象306的另一位置处。根据一些实施方案,所述第一读数1202和/或第二读数1204可以位于测试对象306内。因此,第一滑轨802可以用于将测试对象从0%移动到另一百分比(例如,50%)。第二滑轨804可以用于将滑轨从100%移动到较低百分比(例如,50%)。随着测试对象306的移动,第一读数1202的值和第二读数1204的另一个值可以自动改变。可以基于手势停止处相对于预期百分比(例如,在此示例中为50%)的接近度来确定在第一实施例1200中观测到错误。
一旦完成第一实施例1200或者在完成第一实施例之后,可以自动呈现第二实施例1300。所述第二实施例1300类似于图9所示的第二实施例900。如图所示,所述第一读数1202和第二读数1204可以悬停在测试对象306之上。但是,所公开的方面不限于此实施方案,并且第一读数1202和第二读数1204可以位于各种其他位置处。
图14示出可以一旦完成第二实施例1300就呈现或者在完成第二实施例之后呈现的第三实施例1400。可以以与相对于图10所讨论的方式类似的方式来移动测试对象306。但是在第三实施例1400中,可以测试仅将测试对象306旋转到特定百分比的能力。一旦完成第三实施例1400或者在完成第三实施例之后,可以呈现图15所示的第四实施例1500。第四实施例1500类似于相对于图11进行的测试,但是,仅测试一定百分比的移动。
图16示出能够根据本说明书中所描述的一个或多个实施例实施的示例、非限制性“转到”功能任务1600的表示。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。此测试的任务可以是在多个不同方向(例如,四个或更多个单独方向)上的轻扫手势。
以示例且非限制的方式,第一轻扫手势可以是在第一箭头1602的方向上轻扫、“轻弹”或快速移动对象。例如,所述手势可以在从屏幕侧面到屏幕中间的方向上,但是所公开的方面可以采用其他轻扫手势方向。根据这些其他实施方式,一个或多个箭头(例如,轻扫方向箭头)可以指示轻扫方向。如图所示,在图16中,第一轻扫手势已经完成,并且可以自动提供第二轻扫手势的指令。例如,第二箭头1604可以与轻扫编号(例如,在此示例中为2,即第二轻扫手势)的数值指示(或其他指示类型)一起输出。在一些实施方案中,轻扫方向箭头(例如,第一箭头1602、第二箭头1604和后续箭头)可以根据屏幕内的位置沿水平方向和/或垂直方向居中。根据其他实施方案,所述方向箭头可以位于屏幕上的任何位置。一旦完成第二轻扫手势或者在完成第二轻扫手势之后,可以自动输出第三轻扫手势指令。此过程可以继续,直到所有测试轻扫手势都已成功完成,或者在测试时间限制到期之后。
根据一些实施方案,任务计时可以在第一轻扫滑轨上检测到第一触摸时开始。当最后一个轻扫正确完成时,任务计时可以结束。可以通过完成时间来测量性能。此外,可以收集完成每个任务与开始下一个任务之间的时间量。例如,在完成第一轻扫手势之后,可能需要一定时间移动到第二轻扫手势的开始位置。此外,在完成第二轻扫手势之后,可能需要一定时间移动到第三轻扫手势,依此类推,直到完成“转到”功能任务。此外,可以跟踪接收到的若干非轻扫触摸以进行分析和模型训练。
图17示出根据本说明书中所描述的一个或多个实施例的用于功能手势评估的另一个示例、非限制性系统1700。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
所述系统1700可以包括系统100和/或200的部件和/或功能中的一者或多者,反之亦然。根据一些实施方案,所述分析部件106可以根据准确确定手势意图的益处相对于不准确准确确定手势意图的代价来执行基于效用的分析。此外,风险部件1702可以根据与已定义任务相关联的可接受风险来调节可接受错误率。因此,手势模型204可以对准确手势意图的益处相对于不准确手势意图的代价进行加权并且将其列入考虑之内。例如,如果相对于改变无线电台做出的预测不准确,则与此不准确预测相关联的代价可以忽略不计。但是,如果所述预测(和相关任务)与飞行器或汽车的导航相关联,则与预测准确性相关的置信度应非常高(例如,99%置信度),否则可能由于预测不准确而发生事故。
所述系统1700还可以包括机器学习和推理部件1704,所述机器学习和推理部件可以根据本说明书中所描述的一个或多个方面,与执行推断和/或概率确定和/或基于统计学的确定相结合来使用自动化学习和/或推理程序(例如,使用经过明确和/或隐含训练的统计分类器)。
例如,所述机器学习和推理部件1704可以采用概率和决策理论推断的原理。附加地或替代地,所述机器学习和推理部件1704可以依赖于使用机器学习和/或自动化学习程序构建的预测模型。以逻辑为中心的推断也可以单独使用或与概率方法结合使用。
所述机器学习和推理部件1704可以基于一个或多个接收到的手势来推断手势意图。根据具体实施方案,所述系统1700可以实施用于飞行器的机载航空电子设备。因此,所述手势意图可以涉及与飞行器导航相关的各个方面。基于此知识,所述机器学习和推理部件1704可以训练模型(例如,手势模型204)以基于是否实际接收到一个或多个手势和/或是否要基于所述一个或多个手势执行一个或多个动作来做出推断。
本说明书中所使用的术语“推断”大体上是指通过事件、报告、数据和/或通过其他通信形式从一组观测中推理或推断系统、部件、模块、环境和/或资产的状态的过程。例如,可以使用推断来识别特定上下文或动作,或者可以生成相对于状态的概率分布。所述推断可以是概率性的。例如,基于对数据和/或事件的考虑来计算相对于相关状态的概率分布。所述推断还可以指用于从事件和/或数据集构成更高级别事件的技术。所述推断可以致使从观测事件和/或存储事件数据集构造新事件和/或动作,无论所述事件是否以在时间上紧密接近的方式相关,以及所述事件和/或数据是否来自一个或若干个事件和/或数据源。各种分类方案和/或系统(例如,支持向量机、神经网络、以逻辑为中心的生产系统、贝叶斯置信网络、模糊逻辑、数据融合引擎等)可以与执行涉及所公开方面的自动和/或推断动作相结合使用。
各个方面(例如,结合用于触摸屏手势评估的标准化测试、用于在非稳定环境中进行触摸屏手势评估的标准化测试等)可以采用各种基于人工智能的方案来执行其各个方面。例如,评估在显示单元处接收到的一个或多个手势的过程可以用于预测应执行的动作和/或与所述动作的实施相关联的风险,这可以通过自动分类器系统和过程来实现。
所述分类器是将输入属性向量x=(x1,x2,x3,x4,xn)映射到输入属于某个类的置信度的函数。换言之,f(x)=置信度(类)。所述分类可以采用基于概率和/或基于统计的分析(例如,分解成分析效用和代价)来预测或推断应基于接收到的手势实施的动作、所述手势是否被正确执行、是否选择性地忽视某个手势等。在触摸屏手势的情况下,例如,属性可以是基于历史信息(例如,手势模型204)的已知手势模式的识别,并且类可以是如何解释和实施基于所述手势的一个或多个动作的标准。
支持向量机(SVM)是能够使用的分类器的示例。所述SVM通过找到可能的输入空间中的超曲面来操作,所述超曲面试图将触发标准与非触发事件分开。从直观上来说,这使得对于相似、但不一定与训练数据相同的测试数据的分类是正确的。可以采用提供不同独立模式的其他定向和无向模型分类方法(例如,朴素贝叶斯(Bayes)、贝叶斯网络、决策树、神经网络、模糊逻辑模型和概率分类模型)。本说明书中所使用的分类可以包括用于开发优先级模型的统计回归。
一个或多个方面可以采用经过明确训练的分类器(例如,通过通用训练数据)以及经过隐含训练的分类器(例如,通过观测和记录手势行为、评估稳定环境和非稳定环境这两者中的手势行为、通过接收外在信息(例如,基于云的共享等))。例如,所述SVM可以通过分类器构造器和特征选择模块内的学习或训练阶段来配置。因此,一个或多个分类器可以用于自动学习和执行若干功能,包括但不限于根据预定标准确定如何解释手势、手势是否可在稳定环境或非稳定环境中执行、对在某个环境中无法成功执行的手势的更改,等等。所述标准可以包括但不限于类似手势、历史信息、聚集的信息等。
附加地或替代地,可以应用实施方案(例如,规则、策略等)来控制和/或调节一个或多个手势的性能和/或解释。在一些实施方案中,基于预定义标准,基于规则的实施方案可以自动和/或动态地解释如何响应特定手势。响应于此,基于规则的实施方案可以基于代价-效益分析和/或风险分析,通过采用基于任何预期标准的一个或多个预定义和/或编程规则来自动解释和执行与手势相关联的功能。
参照以下流程图将更好地理解可以根据所公开主题实施的由计算机实施的方法。尽管出于简化说明的目的,所述方法图示并且描述成一系列方框,但应理解和认识到,所公开方面不受所述方框的数量或顺序限制,因为一些方框可以以不同顺序出现,并且/或者可以以与本说明书中所图示和描述的其他方框大体相同的时间出现。此外,并不需要所有图示的方框来实施所公开的方法。应理解,与所述方框相关联的功能可以通过软件、硬件、其组合或任何其他适当装置(例如,装置、系统、过程、部件等)来实施。此外,应进一步了解,所公开的方法能够存储在制品上,以便于将所述方法运输和转移到各种装置。所属领域中的技术人员将理解和认识到,所述方法可以替代地表示成一系列相互关联的状态或事件,例如在状态图中。根据一些实施方案,所述方法可以由包括处理器的系统执行。附加地或替代地,所述方法可以由包括可执行指令的机器可读存储介质和/或非暂态计算机可读介质执行,所述可执行指令在被处理器执行时促使所述方法的执行。
图18示出根据本说明书中所描述的一个或多个实施例的用于促使触摸屏评估任务的示例、非限制性由计算机实施的方法1800,所述触摸屏评估任务旨在评估触摸屏功能的手势可用性。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
所述由计算机实施的方法1800从1802开始,即对测试进行初始化。例如,可以基于所接收到的指示要执行测试的输入来对所述测试进行初始化。要对测试进行初始化,可以在显示屏上输出或呈现手势指令。根据一些实施方案,可以在提供指令的大体相同时间或在检测到第一手势之后启动计时器。此外,在测试期间,可以模拟已定义环境(例如,稳定环境、非稳定环境、移动环境、颠簸环境等)。在所述由计算机实施的方法1800中的1804中,可以跟踪完成所述测试的每个阶段的时间。根据一些实施方案,可以指定完成所述测试的总时间。
一旦成功完成所述测试或在成功完成所述测试之后,或者在计时器到期之后,可以在所述由计算机实施的方法1800中的1806中将与测试相关的信息输入到模型中。例如,可以将用于测试的指令集、测试结果以及与所述测试相关联的其他信息(例如,模拟环境信息)输入到模型中。所述模型可以将测试数据与其他历史测试数据聚集在一起。在示例中,所述数据可以与通过基于云的共享平台接收的其他数据聚集在一起。
在所述由计算机实施的方法1800中的1808中,可以确定测试是否在已定义时间量内完成。例如,所述确定可以逐个手势(例如,在测试的各个阶段)或者针对完成测试的总时间来执行。如果所述手势未在已定义时间量内成功完成(“否”),则在由计算机实施的方法1800中的1810中,可以修改测试的一个或多个参数,并且可以在1802中开始下一个测试。
如果已定义时间量内接收到完成的手势(“是”),则在由计算机实施的方法1800中的1812中,确定与手势相关联的错误数量是否低于已定义错误数量。例如,如果环境不稳定,则可以预期一个或多个错误(例如,手指从显示屏上抬起、意外移动)。如果所述错误数量不低于已定义数量(“否”),则在由计算机实施的方法1800中的1812中,可以修改测试的至少一个参数,并且可以在1802中开始修改后的测试。根据一些实施方案,在1808中修改的一个或多个参数以及在1812中修改的至少一个参数可以是相同的参数或者可以是不同的参数。
如果在1812中的确定错误数量低于已定义数量(“是”),则在1816中,可以利用此模型来跨不同平台和条件评估所述测试。例如,所述测试可以使用不同输入装置(例如,移动装置)来执行,所述输入装置可以包括不同显示屏尺寸、不同操作系统等。因此,可以执行大量测试以确定所述手势是否适用于大量装置。
如果所述手势适用于大量装置,则在1818中,与测试相关联的手势可以指示成能够用在被测试环境中。随着时间推移,可以针对其他输入装置和/或其他操作条件重新测试手势。
图19示出根据本说明书中所描述的一个或多个实施例的用于生成针对触摸屏手势评估的标准化测试的示例、非限制性由计算机实施的方法1900。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
在由计算机实施的方法1900中的1902中,可以将操作指令集映射到触摸屏手势集(例如,经由映射部件102)。所述操作指令可以包括相对于计算装置的触摸屏执行的已定义相关任务集。例如,可以定义操作指令集,并且可以定义与操作指令相关联的预期手势。根据一些实施方案,将所述手势映射到操作指令可以包括相对于所述操作指令集中的相应操作指令来学习触摸屏手势。例如,所述学习可以基于根据所述手势集训练的手势模型。
可以在由计算机实施的方法1900中的1904中(例如,经由传感器部件104)收集与所述触摸屏手势集的实施相关的传感器数据。根据一些实施方案,所述触摸屏手势集可以在非平稳环境中实施。所述非平稳环境可以是经受可产生意外振动和/或湍流的垂直运动的环境。根据各种实施方案,所述非平稳环境可以是配置成模仿目标测试环境的条件的模拟环境(例如,可控非平稳环境)。
在所述由计算机实施的方法1900中的1906中,可以基于对所述传感器数据的分析来评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和/或可用性得分/数据。可以根据偏离针对所述触摸屏手势集中的至少一个手势定义的目标路径所花费的相应时间来测量一个或多个错误。
根据一些实施方案,评估所述性能得分/数据和/或可用性得分/数据可以包括根据由计算装置的触摸屏所检测到的一个或多个对象(例如,手指)的相应尺寸来执行触摸屏手势分析。例如,所述对象可以是一个或多个手指或者可用于与触摸屏显示器交互的另一项目。在一些实施方案中,评估性能和/或可用性得分/数据可以包括根据计算装置的触摸屏尺寸执行触摸屏手势分析。
图20示出根据本说明书中所描述的一个或多个实施例的用于评估与触摸屏手势评估相关联的风险益处的示例、非限制性由计算机实施的方法2000。出于简洁起见,不再对本说明书中所描述的其他实施例中所采用的相同元件进行重复描述。
所述由计算机实施的方法2000从2002开始,在此步骤中,可以将操作指令与触摸屏手势匹配(例如,经由映射部件102)。可以在所述由计算机实施的方法中的2004中(例如,经由传感器部件104)收集与所述触摸屏手势集相关联的传感器数据。例如,所述传感器数据可以从与触摸屏装置相关联的一个或多个传感器收集。在所述由计算机实施的方法2006中的2006中(例如,经由手势模型生成部件202),可以训练模型。例如,所述模型可以基于所述操作指令、所述触摸屏手势集和所述传感器数据来训练。
在所述由计算机实施的方法2000中的2008中,可以基于对所述传感器数据的分析(例如,经由所述分析部件106)来评估所述触摸屏手势相对于相应操作指令的相应性能得分/数据和可用性得分/数据。
在所述由计算机实施的方法中的2010中,可以执行基于效用的分析。所述基于效用的分析可以(例如,经由分析部件106)根据准确确定手势意图的益处相对于不准确确定手势意图的代价来执行。
此外,在所述由计算机实施的方法中的2012中,可以(例如,经由风险部件1702)根据与已定义任务相关联的风险来调节可接受错误率。例如,与不准确预测与第一手势相关联的第一意图相关联的代价可以为低值(例如,涉及低风险量),而与不准确预测与第二手势相关联的第二意图相关联的第二代价可以为高值(例如,涉及大量风险)。
根据一些实施方案,所述由计算机实施的方法2000可以包括基于从多个实体接收的操作数据生成手势模型。进一步对于这些实施方案,所述由计算机实施的方法2000可以包括通过跨多个模型的基于云的共享来训练手势模型。所述多个模型可以基于从所述多个计算装置接收的操作数据。
如本说明书中所讨论,提供一系列基于计算机的评估任务,所述评估任务被设计用于评估触摸屏功能的手势可用性。各个方面可以评估手势对于给定功能的可用性。例如,所述可用性可以通过完成任务所花费的时间、任务完成的准确性,或者所述准确性和完成时间这两者的组合来确定。
如本说明书中所讨论,一种系统可以包括存储可执行部件的存储器以及操作性地连接到所述存储器的处理器,所述处理器执行所述可执行部件。所述可执行部件可以包括映射部件,所述映射部件将操作指令集与触摸屏手势集相关联。所述操作指令可以包括相对于计算装置的触摸屏执行的至少一个已定义任务。所述可执行部件还可以包括从多个传感器接收传感器数据的传感器部件。所述传感器数据可以与所述触摸屏手势集的实施相关。所述触摸屏手势集可以在经历振动或湍流的环境中实施,或者在更稳定的环境中实施。此外,所述可执行部件可以包括分析部件,所述分析部件分析所述传感器数据并且评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能得分/数据和可用性得分/数据。所述相应性能得分/数据和可用性得分/数据可以是所述触摸屏手势在测试环境内的适用性的函数。
在实施方案中,所述可执行部件可以包括手势模型,所述手势模型相对于所述操作指令集的相应操作指令来学习触摸屏手势。所述操作指令可以包括相对于计算装置的触摸屏执行的已定义相关任务集。在一些实施方案中,可以根据偏离与至少一个已定义路径相关联的目标路径所花费的相应时间来测量一个或多个错误。根据另一个实施方案,所述可执行部件可以包括缩放部件,所述缩放部件根据所述计算装置的触摸屏尺寸执行触摸屏手势分析。进一步对于此实施方案,所述缩放部件可以根据由计算装置的触摸屏所检测到的一个或多个对象的相应尺寸来执行触摸屏手势分析。
在一些实施方案中,所述可执行部件可以包括手势模型生成部件,所述手势模型生成部件可以基于从多个实体接收的操作数据生成手势模型。进一步对于此实施方案,可以通过跨多个模型的基于云的共享来训练所述手势模型。根据一些实施方案,所述分析部件可以根据准确确定手势意图的益处相对于不准确准确确定手势意图的代价来执行基于效用的分析。进一步对于这些实施方案,所述可执行部件可以包括风险部件,所述风险部件可以根据与已定义任务相关联的可接受风险来调节可接受错误率。
由计算机实施的方法可以包括通过包括处理器的系统将操作指令集映射到触摸屏手势集。所述由计算机实施的方法还可以包括通过所述系统获得与所述触摸屏手势集的实施相关的传感器数据。所述触摸屏手势集可以在可控非平稳环境中实施。此外,所述由计算机实施的方法可以包括通过所述系统,基于对所述传感器数据的分析来评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的性能得分/数据和可用性得分/数据。
在实施方案中,所述由计算机实施的方法可以包括通过所述系统相对于所述操作指令集中的相应操作指令来学习触摸屏手势。根据一些实施方案,所述由计算机实施的方法可以包括通过所述系统,根据偏离针对所述触摸屏手势集中的至少一个手势定义的目标路径所花费的相应时间来测量一个或多个错误。根据一些实施方案,所述由计算机实施的方法可以包括通过所述系统,根据所述计算装置的触摸屏尺寸执行触摸屏手势分析。进一步对于这些实施方案,所述由计算机实施的方法可以包括通过所述系统,根据由计算装置的触摸屏所检测到的一个或多个对象的相应尺寸来执行触摸屏手势分析。
根据一些实施方案,所述由计算机实施的方法还可以包括通过所述系统,基于从多个计算装置接收的操作数据生成手势模型。进一步对于这些实施方案,所述由计算机实施的方法可以包括通过所述系统,通过跨多个模型的基于云的共享来训练所述手势模型。所述多个模型可以基于从所述多个计算装置接收的操作数据。
在替代或额外的实施方案中,所述由计算机实施的方法可以包括通过所述系统执行基于效用的分析,所述基于效用的分析以准确关联手势意图的益处相对于不准确关联手势意图的代价为因素。进一步对于此实施方案,所述由计算机实施的方法可以包括通过所述系统,根据与已定义任务相关联的可接受风险来调节可接受错误率。
此外,本说明书中提供一种包括可执行指令的计算机可读存储装置,所述可执行指令响应于执行使包括处理器的系统执行操作。所述操作可以包括将操作指令集与触摸屏手势集相匹配,并且获得与在非稳定环境中实施所述触摸屏手势集相关的传感器数据。所述操作还可以包括基于所述操作指令集、所述触摸屏手势集和所述传感器数据来训练模型。此外,所述操作还可以包括基于对所述传感器数据的分析来分析所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能得分/数据和/或可用性得分/数据。
根据一些实施方案,所述操作可以包括根据准确确定手势意图的益处相对于不准确准确确定手势意图的代价来执行基于效用的分析。进一步对于这些实施方案,所述操作可以包括调节风险部件,所述风险部件根据与已定义任务相关联的可接受风险来调节可接受错误率。
为提供所公开主题的各个方面的背景,图21和图22以及以下讨论旨在提供可以实施所公开主题的各个方面的适当环境的一般性简要描述。
参见图21,用于实施前述主题的各个方面的示例性环境2110包括计算机2112。计算机2112包括处理单元2114、系统存储器2116和系统总线2118。所述系统总线2118连接系统部件,如图21所示。处理单元2114可以是各种可用处理器中的任何一种。处理单元2114也可以采用多核微处理器和其他多处理器架构。
系统总线2118可以是包括存储器总线或存储器控制器、外围总线或外部总线和/或使用各种可用总线架构的局部总线的若干类型总线结构中的任何一种,包括但不限于8位总线、工业标准架构(ISA)、微通道架构(MSA)、扩展ISA(EISA)、智能驱动电子设备(IDE)、VESA局部总线(VLB)、外围部件互连件(PCI)、通用串行总线(USB)、高级图形端口(AGP)、个人计算机存储卡国际协会总线(PCMCIA)和小型计算机系统接口(SCSI)。
系统存储器2116包括易失性存储器2120和非易失性存储器2122。基本输入/输出系统(BIOS)存储在非易失性存储器2122中,所述基本输入/输出系统包括例如在启动期间在计算机2112内的元件之间传送信息的基本例程。以说明而非限制的方式,非易失性存储器2122可以包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除PROM(EEPROM)或闪存。易失性存储器2120包括用作外部高速缓冲存储器的随机存取存储器(RAM)。以说明而非限制的方式,RAM可以采用许多形式,例如同步RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双倍数据速率SDRAM(DDR SDRAM)、增强型SDRAM(ESDRAM)、同步链路动态随机存取存储器(Synchlink DRAM,SLDRAM)和直接Rambus RAM(DRRAM)。
计算机2112还包括可拆除/不可拆除、易失性/非易失性计算机存储介质。图21示出例如磁盘存储器2124。磁盘存储器2124包括但不限于各种装置,例如磁盘驱动器、软盘驱动器、磁带驱动器、Jaz驱动器、Zip驱动器、LS-100驱动器、闪存卡或记忆棒。此外,磁盘存储器2124可以包括单独的存储介质或者与其他存储介质相组合的存储介质,包括但不限于光盘驱动器例如光盘ROM装置(CD-ROM)、CD可记录驱动器(CD-R Drive)、CD可擦写驱动器(CD-RW驱动器)或数字多功能光盘ROM驱动器(DVD-ROM)。为便于磁盘存储器2124连接到系统总线2118,通常使用可拆除或不可拆除接口,例如接口2126。
应理解,图21描述了用作用户与在适当操作环境2110中描述的基本计算机资源之间的媒介的软件。所述软件包括操作系统2128。可以存储在磁盘存储器2124上的操作系统2128用于控制和分配计算机2112的资源。系统应用程序2130使用操作系统2128通过程序模块2132和程序数据2134来管理资源,其中所述程序模块和程序数据存储在系统存储器2116中或存储在磁盘存储器2124上。应理解,本公开的一个或多个实施例可以采用各种操作系统或操作系统组合来实施。
用户通过一个或多个输入装置2136将命令或信息输入到计算机2112中。输入装置2136包括但不限于指向装置,例如鼠标、跟踪球、触控笔、触摸板、键盘、麦克风、操纵杆、游戏板、卫星反射器、扫描仪、TV调谐卡、数码相机、数字摄像机、网络相机等。这些和其他输入装置经由一个或多个接口端口2138通过系统总线2118连接到处理单元2114。接口端口2138包括例如串行端口、并行端口、游戏端口和通用串行总线(USB)。一个或多个输出装置2140使用一些与一个或多个输入装置2136相同类型的端口。因此,例如,可以使用USB端口向计算机2112提供输入,并且将来自计算机2112的信息输出到输出装置2140。提供输出适配器2142以说明存在一些输出装置2140,例如监测器、扬声器和打印机,以及需要特殊适配器的其他输出装置2140。以说明而非限制的方式,输出适配器2142包括提供输出装置2140与系统总线2118之间的连接方式的视频和声卡。应注意,其他装置和/或装置系统既提供输入能力,又提供输出能力,例如一个或多个远程计算机2144。
计算机2112可以使用与一个或多个远程计算机,例如一个或多个远程计算机2144的逻辑连接而在联网环境中操作。远程计算机2144可以是个人计算机、服务器、路由器、网络PC、工作站、基于微处理器的器具、对等体装置或其他公共网络节点等,并且通常包括相对于计算机2112所述的元件中的许多或全部元件。为简洁起见,对一个或多个远程计算机2144仅示出存储装置2146。一个或多个远程计算机2144通过网络接口2148以逻辑方式连接到计算机2112,然后经由通信连接2150以物理方式连接。网络接口2148包括通信网络,例如局域网(LAN)和广域网(WAN)。LAN技术包括光纤分布式数据接口(FDDI)、铜线分布式数据接口(CDDI)、以太网/IEEE 802.3、令牌环/IEEE 802.5等。WAN技术包括但不限于点对点链路、电路切换网络例如综合业务数字网络(ISDN)及其变型、分组交换网络和数字用户线路(DSL)。
一个或多个通信连接2150是指用于将网络接口2148连接到系统总线2118的硬件/软件。尽管出于简明性的目的而将通信连接2150图示成位于计算机2112的内部,但是它也可以位于计算机2112的外部。连接到网络接口2148所必需的硬件/软件仅出于示例性目的包括内部和外部技术,例如调制解调器,包括常规电话级调制解调器、电缆调制解调器和DSL调制解调器、ISDN适配器和以太网卡。
图22是所公开主题可以与之交互的样本计算环境2200的示意性方框图。所述样本计算环境2200包括一个或多个客户端2202。所述一个或多个客户端2202可以是硬件和/或软件(例如,线程、进程、计算装置)。所述样本计算环境2200还包括一个或多个服务器2204。所述一个或多个服务器2204还可以是硬件和/或软件(例如,线程、进程、计算装置)。例如,服务器2204可以容纳线程以通过采用本说明书中所述的一个或多个实施例来执行转换。客户端2202与服务器2204之间的一种可能通信可以是适于在两个或更多个计算机进程之间传输的数据包的形式。所述样本计算环境2200包括可以用于促使一个或多个客户端2202与一个或多个服务器2204之间通信的通信框架2206。一个或多个客户端2202可操作地连接到一个或多个客户端数据存储器2208,所述客户端数据存储器可以用于存储一个或多个客户端2202本地的信息。类似地,所述一个或多个服务器2204可操作地连接到一个或多个服务器数据存储器2210,所述服务器数据存储器可以用于存储服务器2204本地的信息。
整个说明书中提及的“一个实施例”或“实施例”表示结合所述实施例所描述的特定特征、结构或特性包括在至少一个实施例中。因此,说明书全文中不同地方出现的短语“在一个实施例中”、“在一个方面中”或“在实施例中”并不一定全部是指同一个实施例。此外,所述特定特征、结构或特性可以以任何适当方式组合在一个或多个实施例中。
本公开在一些实施例中所使用的术语“部件”、“系统”、“接口”、“管理器”等旨在指代或包括与计算机相关的实体或者与具有一个或多个特定功能的操作设备相关的实体,其中所述实体可以是硬件、硬件和软件组合、软件或执行中的软件,以及/或者固件。例如,部件可以是但不限于在处理器上运行的进程、处理器、对象、可执行态、执行线程、计算机可执行指令、程序和/或计算机。以说明而非限制的方式,在服务器上运行的应用程序和服务器这两者均可以是部件。
一个或多个部件可以存在于进程和/或执行线程内,并且部件可以位于一个计算机上和/或分布在两个或更多个计算机之间。此外,这些部件可以从其上存储有各种数据结构的各种计算机可读介质执行。所述部件可以经由本地和/或远程进程进行通信,例如根据具有一个或多个数据包的信号(例如,来自一个部件的数据,所述一个部件经由所述信号与本地系统中的另一个部件、分布式系统交互以及/或者跨网络例如互联网与其他系统交互)。再如,部件可以是具有特定功能的设备,所述特定功能由被电气或电子电路操作的机械零件提供,所述电气或电子电路被一个或多个处理器执行的软件应用程序或固件应用程序操作,其中所述处理器可以位于所述设备的内部或外部,并且执行所述软件或固件应用程序的至少一部分。又如,部件可以是通过没有机械零件的电子部件提供特定功能的设备,所述电子部件之中可以包括处理器,用于执行至少部分地赋予电子部件的功能的软件或固件。在一个方面中,部件可以经由例如在云计算系统内的虚拟机来模拟电子部件。尽管已经将各种部件图示成单独的部件,但是应理解,可以将多个部件实施成单个部件,或者可以将单个部件实施成多个部件,而不脱离示例性实施例的范围。
此外,词语“示例”和“示例性”在本说明书中表示用作实例或说明。本说明书中描述成“示例”或“示例性”的任何实施例或设计不一定解释成比其他实施例或设计更优选或更具优势。相反,使用词语“示例”或“示例性”旨在以具体方式呈现概念。本申请中所用的术语“或”旨在表示包含性“或”,而不是排他性“或”。也就是说,除非另作规定或者从上下文中能够清楚确定,否则“X使用A或B”旨在表示任何自然的包含性排列。也就是说,如果X使用A;X使用B;或者X使用A和B这两者,则任何情况中的任一情况均满足“X使用A或B”。此外,除非另作规定或从上下文中能够清楚地断定是指单数形式,否则本说明书和附图中所用的冠词“一个”和“一种”应大体上解释成意指“一个或多个”。
推断还可以指用于从事件和/或数据集构成更高级别事件的技术。所述推断使得从观测事件和/或存储事件数据集构造新事件和/或动作,无论所述事件是否以在时间上紧密接近的方式相关,以及所述事件和数据是否来自一个或若干个事件和数据源。各种分类方案和/或系统(例如,支持向量机、神经网络、专家系统、贝叶斯置信网络、模糊逻辑和数据融合引擎)可以与执行涉及所公开主题的自动和/或推断动作相结合使用。
此外,各种实施例可以实施成使用标准编程和/或工程技术的方法、设备或制品,以产生软件、固件、硬件或其任何组合,以控制计算机来实施所公开的主题。本说明书中所使用的术语“制品”旨在涵盖可以从任何计算机可读装置、机器可读装置、计算机可读载体、计算机可读介质、机器可读介质、计算机可读(或机器可读)存储/通信介质访问的计算机程序。例如,所述计算机可读介质可以包括但不限于磁存储装置,例如硬盘;软盘;一个或多个磁条;光盘(例如,压缩磁盘(CD)、数字视频盘(DVD)、蓝光盘(BD));智能卡;闪存装置(例如,卡、棒、键控驱动器);和/或模拟存储装置和/或任何上述计算机可读介质的虚拟装置。当然,所属领域中的技术人员将认识到,在不脱离各种实施例的范围或精神的情况下,可以对此配置进行许多修改。
以上对本公开的图示实施例,包括摘要中所述实施例的描述并不意图彻底穷举或者将所公开实施例限于所公开的准确形式。尽管本说明书出于说明目的而描述了具体实施例和示例,但是相关领域的技术人员应认识到,可能存在位于所述实施例和示例范围内的各种修改。
就这点而言,尽管已经结合各种实施例和对应附图在适用的情况下对本公开主题进行描述,但是应理解,可以使用其他类似实施例,或者可以对所描述的实施例进行修改和添加以执行所公开主题的相同、相似、替代或替换功能,而不脱离其范围。因此,所公开主题不应限于本说明书中所述的任何单个实施例,而是应根据随附权利要求书的宽度和范围进行解释。
Claims (10)
1.一种系统,包括:
存储器,所述存储器存储可执行部件;以及
处理器,所述处理器操作性地连接到所述存储器,所述处理器执行所述可执行部件,所述可执行部件包括:
映射部件,所述映射部件将操作指令集与触摸屏手势集相关联,其中所述操作指令包括相对于计算装置的触摸屏执行的至少一个已定义任务;
传感器部件,所述传感器部件从多个传感器接收传感器数据,其中所述传感器数据与所述触摸屏手势集的实施相关;以及
分析部件,所述分析部件分析所述传感器数据并且评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能数据和可用性数据,其中所述相应性能数据和可用性数据是所述触摸屏手势集的适用性的函数。
2.根据权利要求1所述的系统,进一步包括手势模型,所述手势模型相对于所述操作指令集中的所述相应操作指令来学习触摸屏手势。
3.根据权利要求1或2所述的系统,其中一个或多个错误根据偏离与所述至少一个已定义路径相关联的目标路径所花费的相应时间来衡量。
4.根据权利要求1所述的系统,进一步包括缩放部件,所述缩放部件根据所述计算装置的触摸屏尺寸执行触摸屏手势分析。
5.根据权利要求4所述的系统,其中所述缩放部件根据由所述计算装置的所述触摸屏所检测到的一个或多个对象的相应尺寸来执行所述触摸屏手势分析。
6.根据权利要求1所述的系统,进一步包括手势模型生成部件,所述手势模型生成部件基于从多个计算装置接收的操作数据生成手势模型,其中所述手势模型通过基于云的跨多个模型的共享来训练,其中所述多个模型基于从所述多个计算装置接收的所述操作数据。
7.根据权利要求1所述的系统,其中所述分析部件根据准确确定手势意图的益处相对于不准确确定手势意图的代价来执行基于效用的分析。
8.根据权利要求7所述的系统,进一步包括风险部件,所述风险部件根据与已定义任务相关联的可接受风险来调节可接受的错误率,其中所述触摸屏手势集在经历振动或湍流的环境中实施。
9.一种由计算机实施的方法,所述方法包括:
通过包括处理器的系统将操作指令集映射到触摸屏手势集,其中所述操作指令包括相对于计算装置的触摸屏执行的已定义相关任务集;
通过所述系统获得与所述触摸屏手势集的实施相关的传感器数据;以及
通过所述系统,基于对所述传感器数据的分析来评估所述触摸屏手势集相对于所述操作指令集中的相应操作指令的相应性能得分和可用性得分。
10.根据权利要求9所述的由计算机实施的方法,进一步包括:
通过所述系统,相对于所述操作指令集中的所述相应操作指令来学习触摸屏手势。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
GB1720610.3A GB2569188A (en) | 2017-12-11 | 2017-12-11 | Facilitating generation of standardized tests for touchscreen gesture evaluation based on computer generated model data |
GB1720610.3 | 2017-12-11 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109901940A true CN109901940A (zh) | 2019-06-18 |
Family
ID=61007131
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811502200.1A Pending CN109901940A (zh) | 2017-12-11 | 2018-12-10 | 促进基于模型数据为触摸屏手势评估生成标准化测试 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20190179739A1 (zh) |
CN (1) | CN109901940A (zh) |
FR (1) | FR3076642A1 (zh) |
GB (1) | GB2569188A (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10884912B2 (en) * | 2018-06-05 | 2021-01-05 | Wipro Limited | Method, system, and framework for testing a human machine interface (HMI) application on a target device |
US20210333962A1 (en) * | 2018-08-21 | 2021-10-28 | Sage Senses Inc. | Method, system and apparatus for touch gesture recognition |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130120280A1 (en) * | 2010-05-28 | 2013-05-16 | Tim Kukulski | System and Method for Evaluating Interoperability of Gesture Recognizers |
CN103529976A (zh) * | 2012-07-02 | 2014-01-22 | 英特尔公司 | 手势识别系统中的干扰消除 |
US20140160048A1 (en) * | 2012-12-04 | 2014-06-12 | L3 Communications Corporation | Touch sensor controller responsive to environmental operating conditions |
CN105190520A (zh) * | 2013-03-13 | 2015-12-23 | 微软技术许可有限责任公司 | 用于使能触摸的设备的悬停手势 |
US20170123586A1 (en) * | 2015-10-29 | 2017-05-04 | Microsoft Technology Licensing, Llc | Model-based touch event location adjustment |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130120282A1 (en) * | 2010-05-28 | 2013-05-16 | Tim Kukulski | System and Method for Evaluating Gesture Usability |
US10275341B2 (en) * | 2015-01-21 | 2019-04-30 | Somo Innovations Ltd | Mobile application usability testing |
-
2017
- 2017-12-11 GB GB1720610.3A patent/GB2569188A/en not_active Withdrawn
-
2018
- 2018-11-27 US US16/201,270 patent/US20190179739A1/en not_active Abandoned
- 2018-12-10 FR FR1872578A patent/FR3076642A1/fr active Pending
- 2018-12-10 CN CN201811502200.1A patent/CN109901940A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130120280A1 (en) * | 2010-05-28 | 2013-05-16 | Tim Kukulski | System and Method for Evaluating Interoperability of Gesture Recognizers |
CN103529976A (zh) * | 2012-07-02 | 2014-01-22 | 英特尔公司 | 手势识别系统中的干扰消除 |
US20140160048A1 (en) * | 2012-12-04 | 2014-06-12 | L3 Communications Corporation | Touch sensor controller responsive to environmental operating conditions |
CN105190520A (zh) * | 2013-03-13 | 2015-12-23 | 微软技术许可有限责任公司 | 用于使能触摸的设备的悬停手势 |
US20170123586A1 (en) * | 2015-10-29 | 2017-05-04 | Microsoft Technology Licensing, Llc | Model-based touch event location adjustment |
Non-Patent Citations (1)
Title |
---|
SONIA R. DODD 等: "Touch on the flight deck: The impact of display location, size, touch technology & turbulence on pilot performance", 《 2014 IEEE/AIAA 33RD DIGITAL AVIONICS SYSTEMS CONFERENCE (DASC)》 * |
Also Published As
Publication number | Publication date |
---|---|
GB201720610D0 (en) | 2018-01-24 |
US20190179739A1 (en) | 2019-06-13 |
GB2569188A (en) | 2019-06-12 |
FR3076642A1 (fr) | 2019-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Corso et al. | A survey of algorithms for black-box safety validation of cyber-physical systems | |
US9811074B1 (en) | Optimization of robot control programs in physics-based simulated environment | |
CN110383298B (zh) | 用于连续控制任务的数据高效强化学习 | |
CN110060274A (zh) | 基于深度稠密连接的神经网络的视觉目标跟踪方法和装置 | |
EP3392745B1 (en) | Multi-device virtual reality, artifical reality and mixed reality analytics | |
CN105051755A (zh) | 用于姿势识别的部位和状态检测 | |
RU2700246C1 (ru) | Способ и система захвата объекта с помощью роботизированного устройства | |
Garg | MCDM-based parametric selection of cloud deployment models for an academic organization | |
US20190219972A1 (en) | System and method for context-driven predictive simulation selection and use | |
US20180101391A1 (en) | System for co-adaptive human-computer interaction | |
US20130173504A1 (en) | Systems and methods for action recognition | |
Kim et al. | OpenVLA: An Open-Source Vision-Language-Action Model | |
CN110413510A (zh) | 一种数据处理方法、装置及设备 | |
CN109901940A (zh) | 促进基于模型数据为触摸屏手势评估生成标准化测试 | |
CN109063277A (zh) | 一种基于间隙度量的动态模式识别方法及装置 | |
WO2020104864A1 (en) | Method and system for predicting motion-outcome data of a robot moving between a given pair of robotic locations | |
CN107346274A (zh) | 触摸屏响应性能测试平台和方法 | |
US20220343767A1 (en) | Systems and methods for unmanned aerial vehicle simulation testing | |
Buck et al. | Unreal engine-based photorealistic aerial data generation and unit testing of artificial intelligence algorithms | |
Jacob et al. | Optimal modality selection for cooperative human–robot task completion | |
Quindlen et al. | Machine learning for efficient sampling-based algorithms in robust multi-agent planning under uncertainty | |
Bai et al. | Strategy with machine learning models for precise assembly using programming by demonstration | |
Choutri et al. | Forest Fire Detection Using IoT Enabled UAV And Computer Vision | |
Solberg et al. | Utilizing Reinforcement Learning and Computer Vision in a Pick-And-Place Operation for Sorting Objects in Motion | |
Bekiroglu | Learning to assess grasp stability from vision, touch and proprioception |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20190618 |
|
WD01 | Invention patent application deemed withdrawn after publication |