CN115769280A - 用于跟踪物理活动事件的用户界面 - Google Patents
用于跟踪物理活动事件的用户界面 Download PDFInfo
- Publication number
- CN115769280A CN115769280A CN202180039801.7A CN202180039801A CN115769280A CN 115769280 A CN115769280 A CN 115769280A CN 202180039801 A CN202180039801 A CN 202180039801A CN 115769280 A CN115769280 A CN 115769280A
- Authority
- CN
- China
- Prior art keywords
- physical activity
- user
- event
- type
- detecting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09B—EDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
- G09B19/00—Teaching not covered by other main groups of this subclass
- G09B19/0076—Body hygiene; Dressing; Knot tying
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B5/00—Measuring for diagnostic purposes; Identification of persons
- A61B5/103—Detecting, measuring or recording devices for testing the shape, pattern, colour, size or movement of the body or parts thereof, for diagnostic purposes
- A61B5/11—Measuring movement of the entire body or parts thereof, e.g. head or hand tremor, mobility of a limb
- A61B5/1123—Discriminating type of movement, e.g. walking or running
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/018—Certifying business or products
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H20/00—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance
- G16H20/30—ICT specially adapted for therapies or health-improving plans, e.g. for handling prescriptions, for steering therapy or for monitoring patient compliance relating to physical therapies or activities, e.g. physiotherapy, acupressure or exercising
Landscapes
- Engineering & Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Life Sciences & Earth Sciences (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Public Health (AREA)
- General Health & Medical Sciences (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Epidemiology (AREA)
- Medical Informatics (AREA)
- Biophysics (AREA)
- Entrepreneurship & Innovation (AREA)
- Dentistry (AREA)
- Educational Administration (AREA)
- Veterinary Medicine (AREA)
- Animal Behavior & Ethology (AREA)
- Surgery (AREA)
- Molecular Biology (AREA)
- Heart & Thoracic Surgery (AREA)
- Physical Education & Sports Medicine (AREA)
- Biomedical Technology (AREA)
- Primary Health Care (AREA)
- Educational Technology (AREA)
- Human Computer Interaction (AREA)
- Physiology (AREA)
- Pathology (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Development Economics (AREA)
- Economics (AREA)
- General Business, Economics & Management (AREA)
- Strategic Management (AREA)
- Marketing (AREA)
- User Interface Of Digital Computer (AREA)
- Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
- Measuring And Recording Apparatus For Diagnosis (AREA)
Abstract
本公开一般涉及用于跟踪物理活动事件的执行的方法。在一些实施方案中,该方法在与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统处执行,并且该方法包括:检测物理活动的开始;提供与目标持续时间有关的持续反馈;以及如果该活动继续至少该持续时间,则指示该活动继续了至少该目标持续时间。
Description
相关申请的交叉引用
本申请要求2020年6月2日提交的名称为“USER INTERFACES FOR TRACKING OFPHYSICAL ACTIVITY EVENTS”的美国临时专利申请第63/033,814号的优先权,该美国专利申请的全部内容据此以引用方式并入本文。
本申请涉及2019年8月26日提交的名称为“METHODS AND APPARATUS FORDETECTING INDIVIDUAL HEALTH RELATED EVENTS”的美国临时专利申请第62/891,944号,和2020年8月14日提交的并于2021年3月4日发布为美国专利公开第2021-0063434(A1)号的名称为“METHODS AND APPARATUS FOR DETECTING INDIVIDUAL HEALTH RELATED EVENTS”的美国专利申请第16/994,524号,这些美国专利申请据此全文以引用的方式并入本文以用于任何和所有目的,包括但不限于图1至图6和所附公开内容。
技术领域
本公开整体涉及计算机用户界面,并且更具体地涉及用于跟踪物理活动事件的执行的技术。
背景技术
计算机系统可以包括用于跟踪物理活动的应用程序。此类系统可以包括和采用用于此类跟踪的传感器。
发明内容
一些使用电子设备来跟踪物理活动事件的执行的技术通常是麻烦且低效的。例如,一些技术使用复杂且耗时的用户界面,该用户界面可包括多次按键或击键。此类技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
因此,本技术为电子设备提供了用于跟踪物理活动事件的执行的更快更有效的方法和界面。此类方法和界面任选地补充或替换用于跟踪物理活动事件的执行的其他方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。对于电池驱动的计算设备,此类方法和界面节省功率,并且增大电池充电之间的时间间隔。
根据一些实施方案,描述了一种在与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统处执行的方法。该方法包括:经由该一个或多个传感器检测对应于计算机系统的用户开始第一类型的物理活动的第一组传感器数据;响应于检测到对应于该计算机系统的该用户开始该第一类型的该物理活动的该第一组传感器数据:启动相应持续时间的定时器,并且经由该一个或多个感知输出生成部件输出指示该相应持续时间的该定时器正在操作的第一感知反馈;在启动第一定时器之后:根据确定该第一类型的该物理活动在持续,继续输出指示该相应持续时间的该定时器正在操作的该第一感知反馈;以及检测到已经满足一组一个或多个终止标准;以及响应于检测到已经满足该一组一个或多个终止标准:根据确定基于该第一类型的该物理活动已经继续至少该相应持续时间而满足了该一组一个或多个终止标准,经由该一个或多个感知输出生成部件输出指示检测到该第一类型的该物理活动达相应持续时间的第二感知反馈。
根据一些实施方案,描述了一种非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储被配置为由与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于以下操作的指令:经由该一个或多个传感器检测对应于计算机系统的用户开始第一类型的物理活动的第一组传感器数据;响应于检测到对应于该计算机系统的该用户开始该第一类型的该物理活动的该第一组传感器数据:启动相应持续时间的定时器;以及经由该一个或多个感知输出生成部件输出指示该相应持续时间的该定时器正在操作的第一感知反馈;在启动第一定时器之后:根据确定该第一类型的该物理活动在持续,继续输出指示该相应持续时间的该定时器正在操作的该第一感知反馈;以及检测到已经满足一组一个或多个终止标准;以及响应于检测到已经满足该一组一个或多个终止标准:根据确定基于该第一类型的该物理活动已经继续至少该相应持续时间而满足了该一组一个或多个终止标准,经由该一个或多个感知输出生成部件输出指示检测到该第一类型的该物理活动达相应持续时间的第二感知反馈。
根据一些实施方案,描述了一种暂态计算机可读存储介质,该暂态计算机可读存储介质存储被配置为由与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统的一个或多个处理器执行的一个或多个程序。该一个或多个程序包括用于以下操作的指令:经由该一个或多个传感器检测对应于计算机系统的用户开始第一类型的物理活动的第一组传感器数据;响应于检测到对应于该计算机系统的该用户开始该第一类型的该物理活动的该第一组传感器数据:启动相应持续时间的定时器;以及经由该一个或多个感知输出生成部件输出指示该相应持续时间的该定时器正在操作的第一感知反馈;在启动第一定时器之后:根据确定该第一类型的该物理活动在持续,继续输出指示该相应持续时间的该定时器正在操作的该第一感知反馈;以及检测到已经满足一组一个或多个终止标准;以及响应于检测到已经满足该一组一个或多个终止标准:根据确定基于该第一类型的该物理活动已经继续至少该相应持续时间而满足了该一组一个或多个终止标准,经由该一个或多个感知输出生成部件输出指示检测到该第一类型的该物理活动达相应持续时间的第二感知反馈。
根据一些实施方案,描述了一种计算机系统。该计算机系统包括:一个或多个感知输出生成部件;一个或多个传感器;一个或多个处理器;以及存储被配置为由所述一个或多个处理器执行的一个或多个程序的存储器。该一个或多个程序包括用于以下操作的指令:经由该一个或多个传感器检测对应于计算机系统的用户开始第一类型的物理活动的第一组传感器数据;响应于检测到对应于该计算机系统的该用户开始该第一类型的该物理活动的该第一组传感器数据:启动相应持续时间的定时器;以及经由该一个或多个感知输出生成部件输出指示该相应持续时间的该定时器正在操作的第一感知反馈;在启动第一定时器之后:根据确定该第一类型的该物理活动在持续,继续输出指示该相应持续时间的该定时器正在操作的该第一感知反馈;以及检测到已经满足一组一个或多个终止标准;以及响应于检测到已经满足该一组一个或多个终止标准:根据确定基于该第一类型的该物理活动已经继续至少该相应持续时间而满足了该一组一个或多个终止标准,经由该一个或多个感知输出生成部件输出指示检测到该第一类型的该物理活动达相应持续时间的第二感知反馈。
根据一些实施方案,描述了一种包括一个或多个感知输出生成部件和一个或多个传感器的计算机系统。该计算机系统还包括:用于经由该一个或多个传感器检测对应于计算机系统的用户开始第一类型的物理活动的第一组传感器数据的装置;用于响应于检测到对应于该计算机系统的该用户开始该第一类型的该物理活动的该第一组传感器数据而执行以下操作的装置:启动相应持续时间的定时器;以及经由该一个或多个感知输出生成部件输出指示该相应持续时间的该定时器正在操作的第一感知反馈;用于在启动第一定时器之后执行以下操作的装置:根据确定该第一类型的该物理活动在持续,继续输出指示该相应持续时间的该定时器正在操作的该第一感知反馈;以及检测到已经满足一组一个或多个终止标准;以及响应于检测到已经满足该一组一个或多个终止标准:根据确定基于该第一类型的该物理活动已经继续至少该相应持续时间而满足了该一组一个或多个终止标准,经由该一个或多个感知输出生成部件输出指示检测到该第一类型的该物理活动达相应持续时间的第二感知反馈。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此,为设备提供用于跟踪物理活动事件的执行的更快、更有效的方法和界面,由此提高此类设备的有效性、效率和用户满意度。此类方法和界面可以补充或替换用于跟踪物理活动事件的执行的其他方法。
这涉及基于包括运动传感器和音频传感器在内的多个传感器来检测个体健康相关事件(例如,洗手事件)。检测合格的洗手事件可以包括基于运动数据(例如,加速度计数据)检测合格的擦洗事件并基于音频数据检测合格的冲洗事件。在一些示例中,可以通过实施一个或多个功率节省缓解措施来减少功率消耗。在一些示例中,获取和处理运动数据可以用于触发对音频数据的获取和/或处理。在一些示例中,低功率处理器对运动数据的处理可以用于触发另一个处理器(例如,主机处理器)对音频数据的获取和/或处理。在一些示例中,可以基于一个或多个触发器来改变所获取的数据的质量和/或对所获取的数据流的处理的质量。在一些示例中,可以基于设备的一个或多个功率相关状态来动态地调整本文所述的触发器(例如,将其调高以减少处理/功率消耗)。
如本文所讨论的,检测个体健康相关事件可以包括检测洗手事件(例如,检测该系统认为是洗手的输入)。洗手事件可以包括擦洗事件(例如,检测该系统认为是一起擦洗双手的输入)和冲洗事件(例如,检测该系统认为是用水冲洗双手的输入)。如本文所用,合格事件是指满足为系统设置的一个或多个标准的事件。例如,基于(例如,使用)运动数据检测合格的擦洗事件可以包括检测满足一个或多个标准的运动数据,该标准包括持续时间标准、幅度标准、速度标准等。该一个或多个标准可以被设置成在与一起擦洗双手相关联的运动和其他运动(例如,抬起手腕、摆动双臂、各种锻炼、坐、打字等)之间进行区分。同样地,基于(例如,使用)音频数据检测合格的冲洗事件可以包括检测满足一个或多个标准的音频数据,该标准包括持续时间标准、幅度标准、频率内容标准等。该一个或多个标准可以被设置成在与冲洗手相关联的音频和其他音频(例如,环境声音、交通、风等)之间进行区分。在一些示例中,检测到合格的洗手事件可以包括满足一个或多个标准。一个或多个标准可以包括在检测到合格的擦洗事件的阈值时间段内(例如,30秒内、1分钟内等)检测到合格的冲洗事件。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出根据一些实施方案的个人电子设备的框图。
图6A至图6W示出了根据一些实施方案的用于跟踪物理活动事件的执行的示例性用户界面。
图7A至图7C是示出根据一些实施方案的用于使用计算机系统跟踪物理活动事件的执行的方法的流程图。
图1AZ至图1BZ示出了根据本公开的示例的用于基于一个或多个传感器检测个体健康相关事件的示例性系统。
图2Z示出了根据本公开的示例的可以用于检测个体健康相关事件的示例性计算系统的框图。
图3Z示出了根据本公开的示例的用于检测洗手事件的示例性过程。
图4Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程。
图5Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程。
图6Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程。
具体实施方式
以下描述阐述了示例性方法、参数等。然而,应当认识到,此类描述并非意在限制本公开的范围,而是作为对示例性实施方案的描述来提供。
需要提供用于跟踪物理活动事件(诸如洗手事件)的执行和用于提醒用户在特定情况下执行该物理活动事件的有效的方法和界面的电子设备。此类技术可以减轻需要执行物理活动事件或跟踪物理活动事件的执行的用户的认知负担,从而提高生产率。此外,此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面,图1A至图1B、图2、图3、图4A至图4B和图5A至图5B提供了对用于执行用于跟踪物理活动事件的执行的技术的示例性设备的描述。图6A至图6W示出了用于跟踪物理活动事件的执行的示例性用户界面。图7A至图7C是示出根据一些实施方案的跟踪物理活动事件的执行的方法的流程图。图6A至图6W中的用户界面用于示出下文所述的过程,包括图7A至图7C中的过程。另外,图1AZ至图1BZ、图2Z至图6Z提供根据本公开的示例的用于基于一个或多个传感器检测个体健康相关事件的示例性系统和过程。
此外,在本文所述的其中一个或多个步骤取决于已满足一个或多个条件的方法中,应当理解,所述方法可在多次重复中重复,使得在重复的过程中,在方法的不同重复中已满足决定方法中的步骤的所有条件。例如,如果方法需要执行第一步骤(如果满足条件),以及执行第二步骤(如果不满足条件),则普通技术人员将会知道,重复所声明的步骤,直到满足条件和不满足条件两者(不分先后)。因此,可将被描述为具有取决于已满足一个或多个条件的一个或多个步骤的方法重写为重复直到已满足该方法中所述的每个条件的方法。然而,这不需要系统或计算机可读介质声明该系统或计算机可读介质包含用于基于对应的一个或多个条件的满足来执行视情况而定的操作的指令,并且因此能够确定是否已满足可能的情况,而无需明确地重复方法的步骤直到已满足决定方法中的步骤的所有条件。本领域的普通技术人员还将理解,类似于具有视情况而定的步骤的方法,系统或计算机可读存储介质可根据需要多次重复方法的步骤,以确保已执行所有视情况而定的步骤。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件,但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如,第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的设备、iPod设备、和设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触摸板)的膝上型计算机或平板计算机。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触摸板)的台式计算机。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与显示生成部件进行通信的计算机系统。显示生成部件被配置为提供视觉输出,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,显示生成部件与该计算机系统集成。在一些实施方案中,显示生成部件与该计算机系统分开。如本文所用,“显示”内容包括通过经由有线或无线连接向集成或外部显示生成部件传输数据(例如,图像数据或视频数据)以在视觉上产生内容来显示内容(例如,由显示控制器156渲染或解码的视频数据)。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户界面设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏表面(诸如设备100的触敏显示器系统112或设备300的触摸板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的,术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的尺寸和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现,包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。该一个或多个处理器120运行或执行存储器102中所存储的各种软件程序(诸如计算机程序(例如,包括指令))和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU 120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口,该外围设备为诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161,以及用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些实施方案中,输入控制器160任选地耦接到以下各项中的任一者(或不耦接到以下各项中的任一者):键盘、红外线端口、USB端口,以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如,图2中的206)。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与一个或多个输入设备进行通信的计算机系统。在一些实施方案中,该一个或多个输入设备包括触敏表面(例如,触控板,作为触敏显示器的一部分)。在一些实施方案中,该一个或多个输入设备包括一个或多个相机传感器(例如,一个或多个光学传感器164和/或一个或多个深度相机传感器175),诸如用于跟踪用户的手势(例如,手部手势)作为输入。在一些实施方案中,一个或多个输入设备与该计算机系统集成。在一些实施方案中,一个或多个输入设备与该计算机系统分开。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程,如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专利第7,657,849号)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到触摸屏112。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.(Cupertino,California)的和iPod中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触摸板:6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1,该每个专利据此全文以引用方式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触摸板不提供视觉输出。
在一些实施方案中,触摸屏112的触敏显示器如以下专利申请所述:(1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller”的美国专利申请第11/381,313号;(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请第10/840,862号;(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive InputDevices”的美国专利申请第10/903,964号;(4)2005年1月31日提交的名称为“GesturesFor Touch Sensitive Input Devices”的美国专利申请第11/048,264号;(5)2005年1月18日提交的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请第11/038,590号;(6)2005年9月16日提交的名称为“VirtualInput Device Placement On A Touch Screen User Interface”的美国专利申请第11/228,758号;(7)2005年9月16日提交的名称为“Operation Of A Computer With A TouchScreen Interface”的美国专利申请第11/228,700号;(8)2005年9月16日提交的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请第11/228,737号;以及(9)2006年3月3日提交的名称为“Multi-Functional Hand-HeldDevice”的美国专利申请第11/367,749号。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地还包括用于激活或去激活特定功能的触摸板。在一些实施方案中,触摸板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触摸板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如,深度相机传感器)创建场景内的对象(例如,面部)的三维模型。在一些实施方案中,结合成像模块143(也称为相机模块),深度相机传感器175可选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中,深度相机传感器位于设备100的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议,并且捕捉具有深度图数据的自拍。在一些实施方案中,深度相机传感器175位于设备的后部,或者设备100的后部和前部。在一些实施方案中,深度相机传感器175的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地,接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行:第11/241,839号,名称为“Proximity Detector In Handheld Device”;第11/240,788号,名称为“ProximityDetector In Handheld Device”;第11/620,702号,名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”;第11/586,862号,名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”;以及第11/638,251号,名称为“Methods And Systems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件;和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如,用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地,加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行:美国专利公开第20050190059号,名称为“Acceleration-based Theft Detection System for Portable ElectronicDevices”和美国专利公开第20060017692号,名称为“Methods And Apparatuses ForOperating A Portable Device Based On An Accelerometer”,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,其指示什么应用程序、视图或其他信息占据触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制设备116获得的信息;以及关于设备的位置和/或姿态的位置信息。
操作系统126(例如,Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如,触摸板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触摸板上的接触。
在一些实施方案中,接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,包括但不限于文本、网页、图标(诸如,包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置,并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用;提供给相机143作为图片/视频元数据;以及提供给提供基于位置的服务的应用程序,诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块147;
·日历模块148;
·桌面小程序模块149,其任选地包括以下各项中的一者或多者:天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6;
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150;
·搜索模块151;
·视频和音乐播放器模块152,其合并视频播放器模块和音乐播放器模块;
·笔记模块153;
·地图模块154;以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134,联系人模块137任选地用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个姓名;从通讯录删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,即时消息模块141包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块,健身支持模块142包括用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144,相机模块143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征,或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或专辑中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,浏览器模块147包括用于根据用户指令来浏览互联网,包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如,天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)或由用户创建的微型应用程序(例如,用户创建的桌面小程序149-6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序创建器模块150任选地被用户用于创建桌面小程序(例如,将网页的用户指定部分转变为桌面小程序)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,笔记模块153包括用于根据用户指令来创建和管理笔记、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请第60/936,562号和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请第11/968,067号,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必以独立的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触摸板来执行的设备。通过使用触摸屏和/或触摸板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触摸板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触摸板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触摸板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)以及相应的应用程序136-1(例如,前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,触敏显示器112上的用户触摸,作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(187)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所识别的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建并更新在应用程序136-1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178,或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触摸板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“home”或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁过程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型计算机、台式计算机、平板计算机、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触摸板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM,或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或计算机程序(例如,指令集或包括指令)不必以单独的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402;
·时间404;
·蓝牙指示符405;
·电池状态指示符406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
ο电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音信箱的数量的指示符414;
ο电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
ο浏览器模块147的标记为“浏览器”的图标420;以及
ο视频和音乐播放器模块152(也称为iPod(苹果公司(Apple Inc.)的商标)模块152)的被标记为“iPod”的图标422;以及
·其他应用程序的图标,诸如:
οIM模块141的被标记为“消息”的图标424;
ο日历模块148的被标记为“日历”的图标426;
ο图像管理模块144的被标记为“照片”的图标428;
ο相机模块143的被标记为“相机”的图标430;
ο在线视频模块155的被标记为“在线视频”的图标432;
ο股市桌面小程序149-2的被标记为“股市”的图标434;
ο地图模块154的被标记为“地图”的图标436;
ο天气桌面小程序149-1的被标记为“天气”的图标438;
ο闹钟桌面小程序149-4的被标记为“时钟”的图标440;
ο健身支持模块142的被标记为“健身支持”的图标442;
ο记事本模块153的标记为“记事本”的图标444;以及
ο设置应用程序或模块的被标记为“设置”的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是,图4A中示出的图标标签仅仅是示例性的。例如,视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如,触摸屏显示器112)分开的触敏表面451(例如,图3的平板计算机或触摸板355)的设备(例如,图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,设备检测在与显示器上的相应位置对应的位置(例如,在图4B中,460对应于468并且462对应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,当触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)分开时,由设备在该触敏表面上检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中,设备500可包括相对于设备100和300(例如,图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中:2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列第PCT/US2013/040061号,发布为WIPO专利公开第WO/2013/169849号;以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列第PCT/US2013/069483号,发布为WIPO专利公开第WO/2014/105276号,该每个专利申请据此全文以引用方式并入。
在一些实施方案中,设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B描绘了示例性个人电子设备500。在一些实施方案中,设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512,该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感器)。此外,I/O部分514可与通信单元530连接,用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如,输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中,输入机构508任选地是按钮。
在一些示例中,输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器,诸如GPS传感器532、加速度计534、定向传感器540(例如,罗盘)、陀螺仪536、运动传感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可以包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,该计算机可执行指令当由一个或多个计算机处理器516执行时例如,可以使计算机处理器执行下文所述的技术,包括过程700(图7A至图7C)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如,图像(例如,图标)、按钮和文本(例如,超链接)任选地各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图3中的触摸板355或图4B中的触敏表面451)上检测到输入(例如,按压输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触摸板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者:接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10%处的值、接触的强度的半最大值、接触的强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
在一些实施方案中,识别手势的一部分以用于确定特征强度。例如,触敏表面任选地接收连续的轻扫接触,该连续的轻扫接触从起始位置过渡并到达结束位置,在该结束位置处,接触强度增加。在该示例中,接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触的部分)。在一些实施方案中,在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如,平滑化算法任选地包括以下各项中的一种或多种:不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷,以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
在本文中所述的一些实施方案中,响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作,其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。
在一些实施方案中,设备采用强度滞后以避免有时被称为“抖动”的意外输入,其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如,滞后强度阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
为了容易解释,任选地,响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
如本文所用,“已安装的应用程序”是指已下载到电子设备(例如,设备100、300和/或500)上并准备好在设备上启动(例如,变为打开)的软件应用程序。在一些实施方案中,下载的应用程序利用安装程序而变为已安装的应用程序,安装程序从下载的软件包提取程序部分并将提取的部分与计算机系统的操作系统集成。
如本文所用,术语“打开的应用程序”或“执行中的应用程序”是指具有保持状态信息(例如,作为设备/全局内部状态157和/或应用程序内部状态192的一部分)的软件应用程序。打开的或执行中的应用程序是任选地以下类型的应用程序中的任一者:
·当前显示于正使用应用程序的设备的显示屏上的活动应用程序;
·后台应用程序(或后台进程),其当前未显示但该应用程序的一个或多个进程正由一个或多个处理器处理;以及
·没有运行但具有被存储在存储器(分别有易失性和非易失性的)中并可用于恢复应用程序的执行的状态信息的暂停的或休眠的应用程序。
如本文所用,术语“关闭的应用程序”是指不具有保持状态信息的软件应用程序(例如,关闭的应用程序的状态信息不被存储在设备的存储器中)。因此,关闭应用程序包括停止和/或移除应用程序的应用程序进程以及从设备的存储器移除应用程序的状态信息。一般来讲,当在第一应用程序中时,打开第二应用程序并不关闭第一应用程序。在显示第二应用程序并且第一应用程序停止显示时,第一应用程序变为后台应用程序。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6W示出了根据一些实施方案的用于跟踪和表明物理活动事件的执行的示例性用户界面。这些附图中的用户界面用于示出下文所述的过程,包括图7A至图7C中的过程。
图6A示出了设备600在给定时间点处的两个视图;设备600是穿戴在用户的左手腕上的智能手表。图6A的左侧描绘了放大视图602a中的设备600,该放大视图包括设备600的触摸屏显示器604的视图。图6A的右侧描绘了在穿戴时视图602b中的设备600,该穿戴时视图还包括对用户的手臂606a(左)和606b(右)的描绘。设备600经由带608a和带608b被固定到用户的手臂606a的手腕。在一些实施方案中,设备600包括设备100、设备300、设备500的一个或多个特征部或元件,包括麦克风113和加速度计168,如图1A所示。
如图6A的放大视图602a所示,设备600的触摸屏显示器604当前未显示内容。在一些实施方案中,触摸屏显示器604显示内容,但处于界面锁定状态和/或低功率状态。
如图6A的穿戴时视图602b所示,用户刚刚完成在水槽610处清洗手的物理活动,如移动箭头612a和移动箭头612b所示。在图6A处,设备600先前已经检测到传感器数据(例如,经由麦克风113和加速度计168),设备600识别该传感器数据为对应于洗手(例如,洗手事件)的物理活动的开始和持续执行。在一些实施方案中,设备600基于附录A所述的一种或多种技术来识别传感器数据对应于洗手。另外,在图6A处,设备600检测指示用户已经完成洗手的物理活动的传感器数据(例如,设备600在检测指示洗手的传感器数据一段时间后检测到此类数据的中止)。响应于检测到用户已经完成洗手的物理活动,设备600输出触觉输出614。
在图6B处,在输出触觉输出614之后,设备600检测设备已经被放置到观察位置方向(例如,用户已经升高其左手臂606a,使得触摸屏显示器604对用户可见)(例如,设备600已经检测手腕升高手势))。响应于检测到设备已经被放置到观察位置方向(例如,预定方向),设备600显示介绍性通知用户界面616,该介绍性通知用户界面包括图形616a和文本616b(“洗手”)以及时间指示616c(示出当前时间8:45(例如,上午))。在转变到显示图6C的设置用户界面618的显示之前,设备600显示介绍性通知用户界面616达一段预定时间(例如,5秒)。在一些实施方案中,介绍性通知用户界面616为用户提供对与监测洗手事件相关的尚未启用的特征的介绍。在一些实施方案中,设备600在初始设备设置时显示介绍性通知用户界面616。在一些实施方案中,设备600在软件升级之后显示介绍性通知用户界面616。
在图6C处,设备600在触摸屏显示器604上显示设置用户界面618,如放大视图602a所示。设置用户界面618包括介绍性文本618a、特征启用示能表示618b(“打开洗手”)、学习示能表示618c(“了解更多”)、消除示能表示618d(“消除”)和信息文本618e。介绍性文本618a包括:设备600检测到洗手的物理活动的开始和持续执行达一段预定时间(例如,20秒)的信息和对跟踪的用户洗手数据在配套应用程序中可用的指示(例如,与设备600通信的设备(诸如电话)的应用程序)。
如图6C的穿戴时视图602b所示,用户在设备600上执行手势。转回到放大视图602a,在显示设置用户界面618时,设备600另选地接收到(例如,检测到)对应于选择特征启用示能表示618b的输入620a(例如,轻击),对应于选择消除示能表示618d的输入620b或对应于选择学习示能表示618c的输入620c。设备响应这些另选的输入,如下所述。
响应于接收到输入620a,设备600启用(例如,打开)洗手检测和跟踪特征。在一些实施方案中,启用洗手还启用在各种时间(例如,基于用户的位置、一天中的时间或检测到的用户活动)向用户显示的自动洗手提示或建议。下面参考图6E至图6W更详细地讨论此洗手特征的操作。响应于接收到输入620b,设备600消除(例如,停止显示)设置用户界面618而不启用洗手检测和跟踪特征。在一些实施方案中,响应于接收到输入620b,设备600抑制针对启用洗手检测、提示和跟踪特征的进一步提示。在一些实施方案中,响应于接收到输入620b,设备600停止显示针对启用洗手检测和跟踪特征的提示达一段时间(例如,1天、1周、1个月)。响应于接收到输入620c,设备600显示信息用户界面622,如图6D所示。
在放大视图602a中的图6D处,设备600显示包含关于洗手的附加信息的信息用户界面622。在一些实施方案中,信息用户界面622进一步包含关于洗手检测、提示和跟踪特征的信息。设备600在完成示能表示624处接收输入626,这对应于穿戴时视图602b中用户在设备600上执行手势。响应于接收到输入626,设备600显示(例如,返回)图6C的设置用户界面618。
在图6E处,在设备600接收到用于启用洗手检测和跟踪特征的输入620a之后,设备600在触摸屏显示器604上在时间指示628(示出当前时间10:09(例如,上午))所示的时间显示洗手提示通知630,如图6C所示。洗手提示通知630是自动通知,该自动通知是启用的洗手检测和跟踪特征的一个功能,并且任选地基于用户的位置(例如,用户到家)来生成,如文本630a所示。
在一些实施方案中,各种标准提示显示洗手提示通知。在一些实施方案中,设备600基于用户的位置来显示洗手提示通知(例如,用户到达特定的目的地(例如,家、工作场所、机场或餐馆))。在一些实施方案中,设备600基于一天中的时间来显示洗手提示通知。在一些实施方案中,设备600基于自先前的洗手事件以来的持续时间(例如,自用户上一次洗手以来的2小时)来显示洗手提示通知。在一些实施方案中,设备600基于其他检测到的用户活动来显示洗手提示通知,例如,用户刚刚完成健身。在一些实施方案中,如果在从检测提示标准的预定时间量内检测到洗手事件,则设备600不显示洗手提示通知。
如图6E的放大视图602a所示,洗手提示通知630还包括静音示能表示630b和静音示能表示630c,该静音示能表示在被选择时分别抑制洗手提示通知持续1小时或持续当天。洗手提示通知630进一步包括消除示能表示630d,该消除示能表示在被选择时消除当前洗手提示通知630。设备600接收到对应于选择消除示能表示630d的输入632。响应于接收到输入632,设备600停止显示洗手提示通知630并显示图6F中的表盘用户界面634。
在图6F处,在放大视图602a中,设备600在触摸屏显示器604上显示具有时间指示634a(示出当前时间10:09(例如,上午))的表盘用户界面634。在穿戴时视图602b中,用户处于中性位置,如用户的手臂606a和手臂606b所示。
现在转到图6G,设备600(例如,经由麦克风113和加速度计168)检测设备600将其识别为对应于洗手事件的开始的传感器数据。如穿戴时视图602b所示,用户在水槽610处开始清洗手的物理活动,如移动箭头636a和移动箭头636b所示。在一些实施方案中,传感器数据是音频数据(例如,水槽610中流水声)。在一些实施方案中,传感器数据包括手部运动或手部运动和音频数据。在检测传感器数据时(例如,响应于检测到传感器数据),设备600自动(例如,不需要表达用户请求输入)在触摸屏显示器604上显示洗手用户界面640并且输出音频反馈642a(例如,多个小气泡破裂的声音)和触觉反馈644a(例如,光触觉振动)。在一些实施方案中,设备600不输出音频反馈642a(例如,设备处于静音模式上)。在一些实施方案中,设备600不输出触觉反馈644a。在一些实施方案中,设备600连续地监测对应于洗手事件的传感器数据,而不必接收请求激活监测的用户输入,并且在检测到传感器数据之后,显示用户界面640,同时显示图6F的表盘界面634或同时触摸屏显示器604不显示内容,诸如在图6A中。
如图6G的放大视图602a所示,洗手用户界面640包括时间指示638,该时间指示现在读数为10:15(例如,上午),在消除来自图6E的洗手提示指示630之后的6分钟。另外,洗手用户界面640包括在一数字(例如,“20”表示20秒)开始的倒计时定时器640a和进度指示标识640b(例如,气泡的整圆)。在一些实施方案中,倒计时定时器640a以预定持续时间计数(例如,10秒、20秒、30秒)。在一些实施方案中,倒计时定时器640a的预定持续时间由用户选择。在一些实施方案中,倒计时定时器640a向上计数(例如,从0或1开始)。在一些实施方案中,当洗手事件进展时,进度指示标识640b创建(例如,绘制)圆。洗手用户界面640还包括取消示能表示640c。在一些实施方案中,选择取消示能表示640c消除用户界面640并重新显示表盘用户界面634,如图6F所示,同时还结束跟踪此特定洗手事件。在一些实施方案中,选择取消示能表示或检测到设备600上方的覆盖手势消除洗手用户界面640(例如,并重新显示图6F的表盘用户界面634)。
在图6H处,如穿戴时视图602b所示,用户在水槽610处继续清洗手的物理活动(例如,物理活动(例如,洗手)在持续),如移动箭头636a和移动箭头636b所示。如放大视图602a所示,洗手用户界面640的倒计时定时器640a已经从图6G中的“20”变为图6H中的“19”,以指示检测传感器数据已经过去1秒(例如,洗手事件已经持续1秒)。从图6G到图6H,进度指示标识640b动画显示圆中所示的气泡的一部分(例如,1/20)以逆时针方向爆裂。设想了显示洗手进度的各种其他方式,包括圆中所示的气泡以顺时针方向爆裂或其他不同计数动画。设备600继续输出音频反馈642a和触觉反馈644a。在一些实施方案中,设备600以1秒间隔输出音频反馈(例如,每秒一个气泡破裂)。在一些实施方案中,设备600以每个1秒间隔输出不同的音频反馈(例如,不同的气泡爆裂声调)。在一些实施方案中,设备600输出不间断的音频反馈。在一些实施方案中,设备600以1秒间隔输出触觉反馈。在一些实施方案中,设备600输出不间断的触觉反馈。当用户继续清洗手的物理活动时(例如,洗手事件继续(例如,进行)),洗手用户界面640的倒计时定时器640a继续对检测传感器数据的秒数进行计数。进度指示标识640b继续动画显示气泡爆裂。
在图6I处,穿戴时视图602b示出用户已经暂停(例如,停止)在水槽610处清洗手的物理活动,如用户的手臂606a和手臂606b的位置所示,并且水槽610关闭。如放大视图所示,在检测到设备600将其识别为对应于洗手的物理活动中的暂停的传感器数据时(例如,设备600在检测指示洗手的传感器数据达一段时间之后检测到此类数据的中止),设备600通过显示其中倒计时定时器640a停止在“14”处的洗手用户界面640来暂停当前洗手事件,指示设备600检测到对应于当前洗手事件的传感器数据达6秒(例如,洗手事件持续了6秒)。在一些实施方案中,设备600基于对应于用户没有清洗手的传感器数据来暂停当前洗手事件。在一些实施方案中,设备600基于对应于音频数据的变化的传感器数据来暂停当前洗手事件(例如,水不再在水槽610中流动)。
在图6I处,设备600停止动画显示进度指示标识640b并停止输出音频反馈和触觉反馈。在一些实施方案中,设备600输出不同的音频反馈和/或触觉反馈。在检测到对应于洗手事件中的暂停的传感器数据的预定时间量(例如,2秒)之后,设备600在洗手用户界面640上显示对继续洗手的物理活动的提示646(“保持清洗”)。在一些实施方案中,设备600与显示提示一起输出音频反馈和/或触觉反馈。
在设备600显示提示646之后,如果设备600在预定时间量(例如,5秒、8秒、10秒)内检测到设备600将其识别为对应于重新开始(例如,继续、恢复)洗手(例如,洗手事件)的物理活动的传感器数据,则设备600恢复倒计时计时器640a和进度指示标识640b的动画,如图6J所示。在一些实施方案中,如果设备600没有检测到对应于重新开始洗手事件的传感器数据(例如,在暂停之后的预定时间内),则设备600停止显示洗手用户界面640并显示尝试的完成用户界面652,如图6M所示,这在下文更详细地讨论。
图6J处,如穿戴时视图602b所示,用户恢复在水槽610处清洗手的物理活动,如手臂606a和手臂606b以及移动箭头648a和移动箭头648b所示。设备600检测设备600将其识别为对应于重新开始(例如,恢复)洗手的物理活动的传感器数据。如放大视图602a所示,响应于检测到传感器数据,设备600通过在洗手用户界面640上显示“13”来恢复倒计时定时器640a。设备600还恢复动画显示进度指示标识640b并恢复输出音频反馈642a和触觉反馈644a。因此,定时器是如由设备600检测的物理活动的持续时间的定时器,而不仅仅是时间流逝的定时器。例如,用户可以在不推进定时器的情况下重复地停止和暂停。当设备600继续检测对应于当前洗手事件的传感器数据时,设备600保持显示洗手用户界面640,同时倒计时定时器640a和进度指示标识640b进展到“1”,如图6K所示。
在放大视图602a中的图6K处,设备600显示洗手用户界面640,其中倒计时定时器640a在“1”处并且进度指示标识640b几乎在完成处(例如,气泡的圆的19/20爆裂),这指示设备600检测到传感器数据总共达19秒。设备600还输出音频反馈642a和触觉反馈644a,如先前关于图6H所述。在穿戴时视图602b处,用户继续在水槽610处清洗手的物理活动,如移动箭头648a和移动箭头648b所示,直到图6L为止。
在放大视图602a中的图6L处,在检测传感器数据总共达20秒时,设备600在触摸屏显示器604上显示成功完成用户界面650(“干得好!”)。设备600同时输出完成音频反馈642b(例如,较大的气泡破裂声音、较大声的气泡破裂声音)和完成触觉反馈644b(例如,强触觉振动)。在一些实施方案中,完成音频反馈642b与音频反馈642a相同。在一些实施方案中,完成触觉反馈644b与触觉反馈644a相同。音频反馈642b和触觉反馈644b向用户指示设备600检测到对应于当前洗手事件的传感器数据达成功完成洗手事件所需的至少阈值时间量。如穿戴时视图602b所示,用户停止洗手的物理活动,并且水槽610关闭(例如,水不流动)。在一些实施方案中,即使用户继续洗手活动,也显示成功完成用户界面650,因为当用户洗手达至少阈值量(例如,20秒)时,显示成功完成用户界面650。在一些实施方案中,未显示成功完成用户界面650,直到设备600检测用户已经完成洗手,以提高用户将注意到界面的概率。
在单独的电子设备(例如,配对电话)上的对应应用程序中跟踪(例如,记录)洗手事件,对此在下文参考图6V至6W更详细地讨论该跟踪特征的操作。在对应应用程序中跟踪的洗手事件被分成成功完成的洗手事件和尝试的洗手事件。如关于图6L所述,成功完成的洗手事件是发生达至少阈值时间量(例如,20秒)的洗手事件。在一些实施方案中,尝试的洗手事件是发生达长于预定时间量(例如,3秒)但短于阈值时间量(例如,20秒)的洗手事件。在一些实施方案中,在对应应用程序中未跟踪发生达少于3秒的洗手事件。
转回到图6I,如果设备600在预定时间段(例如,5秒、8秒、10秒)没有检测对应于重新开始(例如,恢复)洗手事件的传感器数据,则设备600停止显示洗手用户界面640,并且显示尝试的完成用户界面652,如图6M的放大视图602a所示。尝试的完成用户界面652包括:指示性文本652a,该指示性文本细化了设备600针对当前洗手事件检测到传感器数据多长时间(例如,6秒)以及针对当前洗手事件被看作是成功完成的洗手事件检测传感器数据的阈值(例如,推荐的或用户选择的阈值)持续时间(例如,20秒)。在一些实施方案中,指示性文本652a包括:针对当前洗手事件被看作是成功完成的洗手事件,对传感器数据的检测还需要发生多长时间(例如,14秒)。在一些实施方案中,指示性文本652a包括与历史洗手事件持续时间的比较(例如,用户清洗手用时比上一次洗手事件长,“您清洗用时比上一次长5秒”)。
在图6M的放大视图602a中,尝试的完成用户界面652还包括反馈示能表示652b(“离开反馈”)和完成示能表示652c。响应于检测到(例如,接收到)对应于选择完成示能表示652c的输入(例如,轻击),设备600停止显示尝试的完成用户界面652,并且显示表盘用户界面634,如关于图6F所述。如图6M所示,设备600在反馈示能表示652b处检测(例如,接收到)输入654(例如,轻击)。响应于检测到输入654,设备600显示反馈用户界面656,如图6N所示。
在图6N处,设备600在触摸屏显示器604上显示反馈用户界面656。反馈用户界面656包括示能表示656a至示能表示656e。如图6N的穿戴时视图602b所示,用户在设备600上执行手势。转回到放大视图602a,在显示反馈用户界面656时,设备600接收到(例如,检测到)对应于选择消除示能表示656e的输入658(例如,轻击)。响应于检测到输入658,设备600停止显示反馈用户界面656,并且显示表盘用户界面634,如关于图6F所述。
在一些实施方案中,设备600接收对应于选择示能表示656a至示能表示656d的输入。设备响应这些另选的输入,如下。响应于接收到示能表示656a上的输入(“我没有洗我的手”),设备600接收到用户没有参与清洗手的物理活动的确认。在一些实施方案中,从下文参考图6W讨论的日志(例如,跟踪)排除被标记为此类的事件。响应于接收到示能表示656b上的输入(“我已经完成”),设备600接收到用户完成清洗手的物理活动的确认。在一些实施方案中,针对下文参考图6W讨论的日志将被标记为此类的事件跟踪为完成的洗手事件。响应于接收到在示能表示656c上的输入(“静音1小时”),设备600抑制洗手检测和跟踪特征达1小时。响应于接收到在示能表示656d上的输入(“今日静音”),设备600针对当天的提示抑制洗手检测和跟踪特征。在一些实施方案中,抑制洗手检测和跟踪特征禁用显示洗手用户界面640,如关于图6G所述,同时在后台中保持跟踪洗手事件。在一些实施方案中,抑制洗手检测和跟踪特征禁用显示洗手用户界面640和禁用在后台中跟踪洗手事件。
现在转到图6O,在放大视图602a中,设备600当前正在运行健身应用程序,如通过在触摸屏显示器604上显示健身用户界面660所示。在一些实施方案中,设备600正在运行各种手表应用程序中的一个手表应用程序(例如,健身、音乐、电话呼叫或语音记录)。在穿戴时视图602b中,用户的手臂606a和手臂606b处于非洗手位置(例如,针对健身的自然位置)。当显示健身用户界面660时,设备600(例如,经由麦克风113和加速度计168)检测设备600将其识别为对应于洗手事件的开始的传感器数据,如图6P所示。
在图6P处,穿戴时视图602b示出用户在水槽610处开始清洗手的物理活动,如移动箭头662a和移动箭头662b所示。如放大视图602a所示,类似于图6G,在检测传感器数据时(例如,响应于检测到传感器数据),设备600显示洗手用户界面640并输出音频反馈642a(例如,多个小气泡破裂的声音)和触觉反馈644a(例如,光触觉振动)。另外,设备600在进度指示标识640b上方显示健身指示标识664。健身指示标识664指示健身应用程序与显示的洗手用户界面640一起同时在设备600上运行。在一些实施方案中,设备600在健身指示标识664的位置处显示特定于各种手表应用程序(例如,健身、音乐、电话呼叫或语音记录)中的正在运行一个应用程序的指示标识。
在放大视图602a的图6P处,设备600接收到对应于来自Jane Appleseed的文本消息666的数据。当显示洗手用户界面640时,设备600通过抑制(例如,不显示)对应于文本消息666的通知来激活临时免打扰状态,如递送箭头666a上的框符号666b所指示。在一些实施方案中,静音递送文本消息666(例如,不显示通知)。在一些实施方案中,在完成当前洗手事件之后文本消息666针对递送进行排队。在一些实施方案中,关键通知(例如,紧急警报、电话呼叫、来自优先的联系人的通信)覆盖临时免打扰状态,并且设备600显示对应的通知。在一些实施方案中,设备600显示关键通知并在后台中保持跟踪对应于洗手事件的传感器数据。在一些实施方案中,设备600显示关键通知并停止跟踪对应于洗手事件的传感器数据。
在放大视图602a中的图6Q处,在检测对应于当前洗手事件的传感器数据总共达20秒时,设备600在触摸屏显示器604上显示成功完成用户界面650(“干得好!”)。设备600同时输出完成音频反馈642b(例如,较大的气泡破裂声音、较大声的气泡破裂声音)和完成触觉反馈644b(例如,强触觉振动)。设备600继续显示随成功完成用户界面650一起的健身指示标识664。设备600通过显示图6R中的文本消息通知用户界面668来递送通知对应文本消息666。在一些实施方案中,静音递送文本消息666(例如,经由消息传送应用程序可查看),并且设备600在完成洗手事件时不显示文本消息通知用户界面668。
现在转到图6S,在放大视图602a中,设备600当前正在运行对应于电话呼叫的电话应用程序,如通过在触摸屏显示器604上显示电话用户界面670所示。穿戴时视图602b示出用户在水槽610处开始清洗手的物理活动,如移动箭头672a和移动箭头672b所示。在运行电话应用程序时并且在检测传感器数据时(例如,响应于检测到传感器数据),设备600保持显示电话用户界面670。在一些实施方案中,设备600保持运行电话呼叫应用程序并且同时在后台中发起跟踪对应于洗手事件的传感器数据。在一些实施方案中,设备600在运行电话应用程序时放弃跟踪对应于洗手事件的传感器数据。在检测电话呼叫已经结束之后,设备600显示表盘用户界面634,如图6T所示。
在图6T处,在电话呼叫已经结束之后,设备600显示放大视图602a中的表盘用户界面634。如穿戴时视图602b所示,用户继续(例如,保持)在水槽610处的清洗手的物理活动,如移动箭头672a和移动箭头672b所示。在一些实施方案中,设备600保持显示表盘用户界面634,同时在后台中保持跟踪对应于洗手事件的传感器数据。在一些实施方案中,设备600显示洗手用户界面640,如图6G所示,包括倒计时定时器640a,该倒计时定时器显示针对检测对应于当前洗手事件的传感器数据的剩余持续时间,以满足针对洗手事件被看作是成功完成的洗手事件的最小阈值持续时间。在此类实施方案中,设备600还显示洗手用户界面640,其中进度指示标识640b显示对应的部分气泡圆,并且输出音频反馈和触觉反馈。在一些实施方案中,设备600保持显示表盘用户界面634而不跟踪对应于洗手事件的传感器数据。
图6U示出了左侧的设备601和右侧的设备600。设备601是与其为智能手表的设备600配对(例如,通信)的智能电话。在一些实施方案中,设备601包括设备100、设备300和/或设备500的一个或多个特征部或元件。设备601在触摸屏显示器603上显示洗手设置用户界面674。洗手设置用户界面674包括关于洗手检测和跟踪特征的描述性文本、检测洗手示能表示674a和洗手提示示能表示674b。检测洗手示能表示674a包括设置到ON位置的切换键,该切换键使设备600能够检测设备600将其识别为对应于洗手事件的开始的传感器数据,如关于图6F至图6L所述。选择检测洗手示能表示674a中的切换键将更新该切换键到OFF位置并且禁用设备600检测对应于洗手事件的传感器数据。洗手提示示能表示674b包括设置到ON位置的切换键,该切换键使设备600能够显示类似于关于图6E所述的那些的洗手提示通知。选择洗手提示示能表示674b中的切换键将更新该切换键到OFF位置并且禁用设备600显示洗手提示通知。在一些实施方案中,检测洗手示能表示674a和洗手提示示能表示674b独立地进行操作。在一些实施方案中,检测洗手示能表示674a的切换键OFF位置还禁用洗手提示示能表示674b和洗手提示通知。
另外,图6U示出了在触摸屏显示器604上显示洗手设置用户界面676的设备600。洗手设置用户界面676包括关于洗手检测和跟踪特征的描述性文本、检测洗手示能表示676a和洗手提示示能表示676b。检测洗手示能表示676a包括设置到ON位置的切换键,该切换键使设备600能够检测设备600将其识别为对应于洗手事件的开始的传感器数据,如关于图6F至图6L所述。选择检测洗手示能表示676a中的切换键将更新该切换键到OFF位置并且禁用设备600检测对应于洗手事件的传感器数据。洗手提示示能表示676b包括设置到ON位置的切换键,该切换键使设备600能够显示类似于关于图6E描述的那些的洗手提示通知。选择洗手提示示能表示676b中的切换键将更新该切换键到OFF位置并且禁用设备600显示洗手提示通知。由于设备601和设备600是配对的,所以设备601的洗手设置用户界面674和设备600的洗手设置用户界面676是同步的,并且可以从任一设备更新设置。
现在转到图6V,设备601在触摸屏显示器603上显示健康用户界面678。健康用户界面678是配套应用程序的一部分(例如,与设备600通信的设备的应用程序(例如,健康应用程序)),该配套应用程序包括跟踪的用户洗手数据。健康用户界面678包括对应于各种跟踪的用户数据的多个健康相关示能表示。具体地,洗手示能表示678a对应于图6A至图6T中讨论的洗手检测和跟踪特征。洗手示能表示678a包括完成的和尝试的(比如,开始但未完成的)洗手事件的数量的度量(例如,4/5完成)。在一些实施方案中,设备600在后台跟踪洗手事件(比如,不显示洗手用户界面640),并在配套应用程序中记录(例如,跟踪)洗手事件。设备601检测(例如,接收)对应于选择洗手示能表示678a的输入680(例如,轻击)。响应于检测到输入680,设备601在触摸屏显示器603上显示洗手数据用户界面682,如图6W所示。
在图6W处,设备600在触摸屏显示器603上显示洗手数据用户界面682,该洗手数据用户界面包括图形区域682a和时间段选择示能表示682b(例如,天、周、月、年)。时间段选择示能表示682b当前示出选择的“D”,用于以沿着x轴的整天时段显示图形区域682a。图形区域682a的y轴指示洗手事件的数量。图形区域682a示出了在上午6点之后和中午12点之前的2个完成的洗手事件,如沿x轴在上午6点处的黑条所示。另外,在中午12点之后和在下午6点之后,图形区域682a示出了2个完成的洗手事件,如沿x轴在中午12点处的条的黑色部分所示,和1个尝试的洗手事件,如条的白色部分所示。
图7A至图7C是示出根据一些实施方案的用于使用电子设备跟踪物理活动事件的执行的方法的流程图。方法700在计算机系统(例如,600、601)(例如,智能手表、智能电话)处执行,该计算机系统与一个或多个感知输出生成部件(例如,604;110;161)(例如,显示器(例如,触摸屏显示器);扬声器;触觉输出发生器)和一个或多个传感器(例如,113;168)(例如,陀螺仪、加速度计、麦克风、触敏表面)通信。方法700中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
在一些实施方案中,电子设备(例如,600、601)是计算机系统。该计算机系统任选地与一个或多个感知输出生成部件和一个或多个传感器通信(例如,有线通信、无线通信)。感知输出生成部件被配置为提供音频输出、触觉输出或视觉输出中的一者或多者,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,感知输出生成部件与该计算机系统集成。在一些实施方案中,感知输出生成部件与该计算机系统分开。因此,计算机系统可以经由有线连接或无线连接将数据(例如,音频数据、触觉数据、图像数据或视频数据)传输到集成或外部感知输出生成部件,以感知地产生内容(例如,使用显示设备)。
如下文所述,方法700提供了用于跟踪物理活动事件的执行的直观方式。该方法减轻了用户跟踪物理活动事件的执行的认知负担,从而创建了更有效的人机界面。对于电池驱动的计算设备,使得用户能够更快且更有效地跟踪物理活动事件的执行节省了功率并且增加了电池充电之间的时间间隔。
在方法700中,计算机系统经由一个或多个传感器检测(702)第一组传感器数据(例如,由图6G中的设备600检测的数据(例如,从113和/或168))(例如,指示用户的手以某一模式移动的加速度计和/或陀螺仪数据;指示某些环境声音(例如,水流声)的音频数据),该第一组传感器数据对应于计算机系统的用户开始第一类型的物理活动(例如,图6G的洗手)。在一些实施方案中,第一组传感器数据满足第一组活动标准(例如,当被满足时指示用户活动(例如,移动)合格作为匹配预定参数(例如,洗手事件)的活动事件的一组标准)。在一些实施方案中,第一组活动标准是一组洗手事件标准(例如,基于附录A中公开的技术中的一种或多种技术)。
响应(704)于检测到对应于计算机系统的用户开始第一类型的物理活动(例如,其手臂被描绘为606a和606b的用户)的第一组传感器数据,该计算机系统启动(706)(例如,自动启动)相应(例如,预定)持续时间的定时器(例如,对应于倒计时定时器640a的定时器(例如,20秒))。
响应(704)于检测到对应于计算机系统的用户开始第一类型的物理活动(例如,其手臂被描绘为606a和606b的用户)的第一组传感器数据,该计算机系统经由一个或多个感知输出生成部件输出(708)第一感知反馈(例如,640;642a;644a),该第一感知反馈指示相应持续时间的定时器正在操作(例如,自动定时、不暂停、运行)。在一些实施方案中,感知指示是在第一类型的物理活动继续被检测到时继续的视觉计数或音频计数(向上计数或倒计时)。
在(710)启动第一定时器之后并且根据确定第一类型的物理活动在持续(例如,根据继续检测对应于第一类型的物理活动的传感器数据),计算机系统继续(712)输出指示相应持续时间的定时器正在操作的第一感知反馈。
在(710)启动第一定时器之后,计算机系统检测(714)一组一个或多个终止标准(例如,在图6I处讨论的对应于停止洗手的标准;在图6L处讨论的对应于完成洗手的标准)。在一些实施方案中,一组一个或多个终止标准是多个标准,其中的每个标准(在被满足时导致定时器的终止)已经被满足(例如,针对定时器的终止标准)。
在(710)启动第一定时器之后并且响应(716)于检测到已经满足一组一个或多个终止标准以及根据确定基于第一类型的物理活动已经继续至少相应持续时间(例如,关于图6G讨论的20秒)而满足了该一组一个或多个终止标准,计算机系统经由一个或多个感知输出生成部件输出(718)第二感知反馈(628;624B;626B)(例如,音频反馈、视觉反馈、触觉反馈),该第二感知反馈指示检测到该第一类型的该物理活动达相应持续时间。在一些实施方案中,响应于检测到一组一个或多个终止标准满足,停止定时器的操作(例如,暂停定时器、结束定时器)。提供指示检测第一类型的物理活动达相应持续时间的感知反馈,为用户提供了关于系统正在检测传感器数据的反馈。为用户提供改进的反馈,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。提供指示相应持续时间的定时器正在操作的第一感知反馈使用户能够正确操作计算机系统(例如,以能够由系统检测的方式正确继续执行物理活动)。例如,计算机系统中普遍的内部状态动态变化,以及因此输出不同的感知反馈作为结果。动态感知反馈的此类呈现提示用户与计算机系统交互,从而增强计算机系统的可操作性。
在一些实施方案中,响应于检测到已经满足一组一个或多个终止标准(例如,在图6I处讨论的对应于停止洗手的标准;在图6L处讨论的对应于完成洗手的标准),以及根据因为在定时器达到相应持续时间(例如,如关于图6G讨论的20秒)之前第一类型的物理活动(例如,图6G的洗手)停止而确定已经满足终止标准,计算机系统提供(720)第三感知反馈(例如,646)(例如,音频反馈、视觉反馈、触觉反馈),该第三感知反馈指示不再检测到该第一类型的该物理活动(例如,不再由一个或多个传感器检测;在定时器运行时未检测到活动达至少预定时间长度(例如,5秒、1秒、8秒))。在一些实施方案中,响应于检测到已经满足一组一个或多个终止标准以及根据因为在定时器达到相应持续时间之前物理活动停止而确定已经满足终止标准,暂停(但未立即取消)定时器。提供指示不再检测到第一类型的物理活动的感知反馈,为用户提供了关于系统正在检测传感器数据的反馈。为用户提供改进的反馈,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。
在一些实施方案中,在提供第三感知反馈(例如,646)之后以及根据确定在提供第三感知反馈之后的第二相应持续时间内(例如,在图6I处讨论的对应于停止洗手的持续时间;在图6J处讨论的对应于恢复洗手的持续时间)(例如,预定时间段;5秒、8秒、10秒)经由一个或多个传感器未检测到第一类型的物理活动(例如,图6G的洗手)(例如,不再检测到;未恢复),计算机系统提供指示未执行第一类型的物理活动达定时器的相应持续时间(例如,“您执行活动达5秒,但推荐的时间为20秒”)的第四感知反馈(例如,652)。提供指示未执行第一类型的物理活动达定时器的相应持续时间的感知反馈,为用户提供了关于系统正在检测传感器数据的反馈。为用户提供改进的反馈,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。
在一些实施方案中,在提供指示未执行第一类型的物理活动(例如,图6G的洗手)达定时器的相应持续时间的第四感知反馈(例如,652)之后,计算机系统显示第一可选择用户界面对象(例如,656a),该第一可选择用户界面对象在被选择时记录(例如,记录;存储信息指示)计算机系统的用户未在执行第一类型的物理活动(例如,记录第一组传感器数据不对应于由计算机系统的用户执行的第一类型的物理活动的实际行为)。在一些实施方案中,为用户呈现用于报告用户未在执行第一类型的物理活动的示能表示。显示第一可选择用户界面对象,该第一可选择用户界面对象在被选择时记录计算机系统的用户未在执行第一类型的物理活动,该显示为用户提供了提供与系统收集到的传感器数据相关的附加信息的能力并且改善了人机交互。提供附加功能并且改善人机交互,增强了计算机系统的可操作性并且使机器-用户界面更高效且有效(例如,有效地向用户提供计算机操作和功能)。
在一些实施方案中,在输出指示未执行第一类型的物理活动(例如,图6G的洗手)达定时器的相应持续时间的第四感知反馈(例如,652)之后以及根据确定已经满足一组记录标准,计算机系统在收集和呈现针对多个健康相关功能(例如,678a;图6V中的678的示能表示)的第一应用程序中(例如,678)(例如,健康数据聚合应用程序)记录(例如,记录)检测到该第一类型的该物理活动的发生(例如,678a中的文本“4/5完成”;682a中的条的白色部分)但未执行(例如,未检测到)该发生达定时器的相应持续时间(例如,记录该第一类型的该物理活动的不完全发生)。记录检测到第一类型的物理活动的发生但未执行该发生达定时器的相应持续时间,在第一应用程序中生成了用户可以访问以获得由计算机系统采集的传感器数据的反馈的记录。提供访问传感器数据记录的选项,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户访问数据)和使用户能够更快速且有效地使用计算机系统。
在一些实施方案中,一组记录标准包括:当检测到第一类型的物理活动的第一发生达定时器的至少第三相应持续时间时满足的标准(例如,在图6L处讨论的对应于尝试的洗手事件)(例如,少于第一相应持续时间的持续时间;3秒、5秒、10秒)。在一些实施方案中,未记录检测到其达少于阈值时间量的活动发生。
在一些实施方案中,第三感知反馈(724)是对继续(例如,恢复)第一类型的物理活动(例如,图6G的洗手)的提示(例如,646)(例如,音频提示、视觉提示)。提供对继续物理活动的提示,使用户能够正确操作计算机系统(例如,以能够由系统检测的方式正确继续执行物理活动)并向用户提供了系统不再检测到物理活动的反馈。例如,计算机系统中普遍的内部状态动态变化,以及因此输出不同的感知反馈作为结果。动态感知反馈的此类呈现提示用户与计算机系统进一步交互,从而增强计算机系统的可操作性。
在一些实施方案中,响应于检测到已经满足一组一个或多个终止标准(例如,在图6I处讨论的对应于停止洗手的标准;在图6L处讨论的对应于完成洗手的标准)以及根据因为在定时器达到相应持续时间(例如,如关于图6G讨论的20秒)之前第一类型的物理活动停止而确定已经满足终止标准,计算机系统暂停定时器(例如,对应于倒计时定时器640a(例如,14秒))的操作(例如,停止定时器的进度)。
在一些实施方案中,在提供第三感知反馈(例如,646)之后和在暂停定时器的操作之后以及根据确定经由一个或多个传感器检测到(例如,再次检测到)第一类型的物理活动(例如,图6G的洗手),计算机系统恢复定时器的操作(例如,在定时器暂停的相同点处恢复)。基于再次检测到物理活动来恢复定时器,确保了定时器与检测到的传感器数据同步,从而提高定时器的准确性。提高定时器相对于检测到的传感器数据的准确性,增强了计算机系统的操作。
在一些实施方案中,相应持续时间是预定持续时间(例如,如关于图6G所讨论的20秒)(例如,10秒、20秒、30秒)。
在一些实施方案中,在输出指示检测到第一类型的物理活动达相应持续时间(如关于图6G讨论的20秒)的第二感知反馈(例如,640、642a、642b、644a、644b、650)之后,计算机系统在收集和呈现针对多个健康相关功能的第二应用程序(例如,678)(例如,健康数据聚合应用程序;与第一应用程序相同的应用程序)中记录(例如,记录)检测到该第一类型的该物理活动的发生(例如,678a中的文本“4/5完成”;682a中的条的黑色部分)达相应持续时间(例如,记录检测到完成的物理活动的一个实例)。记录检测到第一类型的物理活动的发生达相应持续时间,在第一应用程序中生成了用户可以访问以获得由计算机系统采集的传感器数据的反馈的记录。提供访问传感器数据记录的选项,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户访问数据)和使用户能够更快速且有效地使用计算机系统。
在一些实施方案中,在检测到第一组传感器数据之前,计算机系统启动第一类型(例如,660、670)(例如,电话呼叫、媒体回放、锻炼活动跟踪、语音记录)的第一操作的执行。
在一些实施方案中,计算机系统在启动相应持续时间(例如,如关于图6G讨论的20秒)的定时器之后继续执行第一类型的第一操作(例如,第一类型的第一操作的执行不受检测第一组传感器数据或启动定时器的影响)。在一些实施方案中,响应于检测到第一组传感器数据而终止/停止正在执行的与第一类型不同的第二类型的操作。
在一些实施方案中,当相应持续时间的定时器在定时(例如,主动定时;未暂停)时,计算机系统显示对应于第一类型(例如,660)的第一操作的指示(例如,664)(例如,图形指示、文本指示)。在一些实施方案中,显示指示应用程序的活动对话在后台运行的图标。在定时器在定时时显示对应于第一类型的第一操作的指示,为用户提供了关于第一操作的状态的反馈。为用户提供改进的视觉反馈,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。
在一些实施方案中,第一类型的物理活动(例如,图6G的洗手)是由计算机系统的用户进行的洗手(例如,使用水(例如,流动水)清洗一只或多只手),(例如,602b)。在一些实施方案中,基于附录A中公开的技术中的一种或多种技术检测洗手。
在一些实施方案中,计算机系统检测(726)已经满足一组提示标准(例如,如关于图6E讨论的标准),其中该一组提示标准包括:当计算机系统的位置(例如,如630a中的文本所示)(例如,用户的家、用户的工作场所)对应于预定义位置时满足的标准。
在一些实施方案中,响应于检测已经满足一组提示标准,计算机系统输出(728)用于计算机系统的用户执行第一类型的物理活动(例如,图6G的洗手)(例如,对清洗用户的手的提示)的第一提示(例如,630)(例如,音频提示;视觉提示)。
在一些实施方案中,提示标准不包括:在计算机系统的位置对应于预定义位置时满足的标准。在此类实施方案中,提示标准包括选自由以下各项组成的组中的一个或多个标准:与一天中的预定时间匹配的当前时间、检测第一类型的物理活动(例如,进食、锻炼)、预定事件的发生(例如,日历条目)以及用户设置提示(例如,在提醒被激活之后发生预定时间量的提示(例如,2小时提示);在一天中的再发生时间发生的提示(例如,每天下午5点)。提供用于计算机的用户执行第一类型的物理活动的提示,为用户提供了关于由系统检测的条件的反馈并且促进了进一步的系统-用户交互。为用户提供改进的视觉反馈并且促进系统-用户交互,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。
在一些实施方案中,该一组提示标准包括:当用户在到达位置之后保持在该位置处达预定时间时满足的标准。在一些实施方案中,该一组提示标准包括:在到达位置之后的预定时间期间(例如,5分钟、10分钟)尚未检测到第一类型的物理活动时满足的标准。在一些实施方案中,如果在到达位置之后的预定时间内(例如,5分钟、10分钟)计算机系统已经检测到第一类型的物理活动,则不满足该一组提示标准。
在一些实施方案中,计算机系统检测到对应于第一类型的物理活动(例如,图6G的洗手)的执行的记录数据满足一组通知标准(例如,在图6L处讨论的对应于阈值时间量的标准)。在一些实施方案中,当物理活动的发生次数超过目标数量或当物理活动的最近发生的持续时间超过预定数量(例如,物理活动的先前发生的持续时间)时,满足该一组通知标准。
在一些实施方案中,响应于检测到对应于第一类型的物理活动的执行的记录数据满足一组通知标准,计算机系统输出第一通知(例如,642b、644b、650)(例如,音频通知;视觉通知),该第一通知包括:信息(例如,物理活动的发生的计数);对在其期间已经检测到物理活动的时间的长度的指示;已经检测到物理活动的一次或多次发生的时间的长度;针对物理活动的不同发生的时间的长度的比较(例如,对自上一次发生以来持续时间已经增加的指示),该输出基于(例如,来源于;摘自;)记录数据(;为记录数据的子集)。基于对应于第一类型的物理活动的执行的记录数据来提供包括信息的通知,为用户提供了关于系统检测到的条件的反馈并且促进了进一步的系统-用户交互。为用户提供改进的视觉反馈并且促进系统-用户交互,增强了计算机系统的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并且减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用计算机系统而减少了电力使用并且延长了计算机系统的电池寿命。
图1AZ至图1BZ示出了根据本公开的示例的用于基于一个或多个传感器检测个体健康相关事件的示例性系统。图1AZ示出了根据本公开的示例的示例性可穿戴设备150z(例如,手表),该示例性可穿戴设备可以包括:集成触摸屏152z、一个或多个传感器160z(例如,加速度计、麦克风、光传感器等)和被编程为检测个体健康相关事件(例如,洗手事件)的处理电路。可穿戴设备150z可以例如使用条带154z附接到用户。应当理解,尽管可穿戴设备150z包括触摸屏,但是本文所述的对个体健康相关事件的检测可以应用于不具有触敏显示器或不具有非触敏显示器的设备。应当理解,图1AZ所示的可穿戴设备150z是可穿戴设备的一个示例,但是对个体健康相关事件的检测可以部分地或整体地在其他可穿戴设备(例如,环、智能带、健康带、指套、腕套、手套等)中实现。
图1BZ示出了根据本公开的示例的用于检测个体健康相关事件的系统的示例性框图100z,该系统包括图1AZ的示例性可穿戴设备150z。框图100z可以包括与可穿戴设备150z相对应的电子设备。可穿戴设备150z可以包括光感测系统,该光感测系统包括例如一个或多个光发射器102z和一个或多个光传感器104z。可穿戴设备150z可以包括运动感测系统,该运动感测系统包括例如一个或多个加速度计106z。可穿戴设备150z可以包括音频感测系统,例如,包括麦克风122z。可穿戴设备150z还可以包括触摸屏152z。可穿戴设备150z中的处理电路(任选地包括主机处理器108z和低功率处理器109z)可以被编程为操作和/或处理来自光感测系统、运动感测系统、音频感测系统和触摸屏152z的数据。在一些示例中,光感测系统、运动感测系统、音频感测系统和/或触摸屏可以经由输入/输出(I/O)设备110z耦接到处理电路。在一些示例中,I/O设备110z可以包括一个或多个模数转换器(ADC),以将来自光感测系统、运动感测系统和/或音频感测系统的模拟信号转换为数字信号,以供处理电路处理。
框图100z的这些上述部件可以结合在可穿戴设备150z内,该可穿戴设备可以经由条带154z附接到用户,或者以其他方式固定到用户的皮肤(例如,用户的手腕),或者以其他方式附接到用户所穿戴的衣物制品(例如,用户的衬衫袖子)。光发射器102z和光传感器104z可以紧邻用户的皮肤定位,使得来自一个或多个光发射器102z(例如,一个或多个发光二极管)的光的一部分可以被皮肤114z、脉管系统和/或血液等吸收,并且一部分可以被反射回一个或多个光传感器104z(例如,光电二极管)。例如,光传感器104z可以将该光转换为指示反射光的强度的电信号。在一些示例中,光传感器104z可以与光发射器102z共同定位(例如,在可穿戴设备150z的背面上)。来自光传感器104z的信号可以是光体积变化描记图(PPG)信号,这些PPG信号可以包括生理状况的指示,包括心率、心电图、血液氧合等。
在图1BZ中由加速度计106z表示的运动感测系统可以提供指示由于用户的移动而引起的加速度的加速度输出信号(“加速度数据”或更一般地“运动数据”)。例如,可穿戴设备150z可以穿戴在用户的手腕上,并且加速度计输出信号可以指示在洗手时的擦洗运动。在其他示例中,加速度计输出信号可以指示用户的其他手臂或手部移动(例如,手臂摆动)或步态(例如,足部撞击速率)。在一些示例中,加速度计可以是提供三维加速度输出(例如,加速度输出的三个通道)的三轴加速度计。尽管在本文中主要描述为加速度计和加速度数据,但是应该理解,可以使用其他传感器来获取或推断运动数据(例如,陀螺仪、惯性测量单元(IMU)、位置传感器等)。可以处理来自加速度计(和/或其他传感器)的运动数据,以用于检测合格的擦洗事件。
在图1BZ中由麦克风122z表示的音频感测系统可以提供音频输出信号(“音频数据”)。例如,可穿戴设备150z可以穿戴在用户的手腕上,并且音频信号可以指示在洗手时正在冲洗。
可以使用ADC(例如,在I/O设备110z中)将光感测系统(来自光传感器104z)、运动感测系统(来自加速度计106z)和/或来自音频感测系统(来自麦克风122z)的模拟输出转换为数字形式。在一些示例中,该数字化数据可以存储在可穿戴设备150z中的存储器130z中。包括主机处理器108z和/或低功率处理器109z的处理电路可以从这些传感器中的一个或多个传感器(或从存储器130z)接收该数字化数据并且可以处理该数据。在一些示例中,如本文所述,运动数据(例如,来自加速度计106z)和音频数据(例如,来自麦克风122z)可以由处理电路处理,以识别个体健康相关事件。个体健康相关事件可以包括洗手事件。
I/O设备110z可以经由有线或无线通信链路124z耦接到远程设备118z。远程设备118z可以是任何可穿戴或不可穿戴设备,包括移动电话、平板计算机、个人计算机、便携式媒体播放器、数据服务器等。在一些示例中,远程设备118z可以接收关于由可穿戴设备150z的处理电路对个体健康事件的检测的信息。
另外,在一些示例中,这些传感器中的一个或多个传感器以及对检测个体健康相关事件的处理的一些或全部处理可以在包括可穿戴设备或不可穿戴设备在内的一个或多个远程设备中实现。例如,这些传感器中的一个或多个传感器可以在第二可穿戴设备或不可穿戴设备中实现。在一些示例中,可穿戴设备150z的加速度计106z可以用于采集运动数据,并且与可穿戴设备150z通信的移动电话(例如,远程设备118z)中的麦克风可以用于采集音频数据。来自可穿戴设备和/或不可穿戴设备的一个或多个传感器的数据流可以由可穿戴设备和/或不可穿戴设备中的处理电路处理。例如,一个或多个数据流(运动数据、音频数据)可以经由有线信道或无线信道被传送到可穿戴设备或不可穿戴设备中的处理电路。例如,运动数据和/或音频数据可以从可穿戴设备150z被传送到远程设备118z,并且远程设备118z中的处理电路可以用于处理数据流以检测个体健康相关事件。在一些示例中,本文所述处理中的一些处理可以由可穿戴设备中的处理电路执行并且/或者所述处理中的一些处理可以由不可穿戴设备中的处理电路执行。
图2Z示出了根据本公开的示例的可以用于检测个体健康相关事件的示例性计算系统200z的框图。计算系统200z可以对应于本文所述的可穿戴设备和不可穿戴设备中的电路。该框图通常可以包括计算机可读介质201z(例如,包括存储器分级结构,包括但不限于高速缓存、主存储器和辅助存储器)、处理电路204z、I/O子系统206z、射频(RF)电路208z、音频电路210z和传感器电路211z。这些部件可以通过一条或多条通信总线或信号线203z而被耦接。
射频电路208z可以用于通过无线链路或网络向一个或多个其他设备发送信息并从该一个或多个其他设备接收信息(例如,在设备之间传送音频数据和/或运动数据),并且包括用于执行该功能的众所周知的电路。射频电路208z和音频电路210z可以经由外围设备接口216z(例如,对应于图1BZ中的I/O设备110z)耦接到处理电路204z。外围设备接口216z可以包括用于在外围设备与处理电路204z之间建立和维持通信的各种已知的部件。
音频电路210z可以耦接到音频扬声器250z和麦克风252z(例如,对应于图1BZ中的麦克风122z),并且可以包括用于处理从外围设备接口216z接收的语音信号以使用户能够与其他用户实时通信的已知电路。在一些示例中,音频电路210z可以包括耳机插孔(未示出)。传感器电路211z可以耦接到各种传感器,包括但不限于一个或多个发光二极管(LED)或其他光发射器(例如,对应于图1BZ中的光发射器102z)、一个或多个光电二极管或其他光传感器(例如,对应于图1BZ中的光传感器104z)、一个或多个光热传感器、一个或多个磁力计、一个或多个加速度计(例如,对应于图1BZ中的加速度计106z)、一个或多个陀螺仪、一个或多个惯性测量单元(IMU)或者一个或多个IMU子部件、一个或多个气压计、一个或多个罗盘、一个或多个接近传感器(例如,红外传感器)、一个或多个相机、一个或多个环境光传感器、一个或多个温度计、一个或多个全球定位系统(GPS)传感器,以及可以感测剩余电池寿命、功率消耗、处理器速度、CPU负载等的各种系统传感器。
外围设备接口216z可以经由控制器220z将计算系统200z的输入外围设备和输出外围设备耦接到一个或多个处理器218z(例如,对应于图1BZ中的主机处理器108z和/或低功率处理器109z)和一个或多个计算机可读介质201z。一个或多个处理器218z经由控制器220z与一个或多个计算机可读介质201z通信。一个或多个计算机可读介质201z可以是可以存储供一个或多个处理器218z使用的代码和/或数据的任何设备或介质。
需注意,本文所述功能中的一种或多种功能(包括检测个体健康相关事件)可以由存储在存储器或程序存储装置(例如,介质201z)中的固件来执行,并且可以由一个或多个处理器(例如,低功率处理器109z和/或主机处理器108z)来执行。该固件也可以在任何非暂态计算机可读存储介质(例如,计算机可读介质)内存储和/或输送,以供指令执行系统、装置或设备(诸如基于计算机的系统、包含处理器的系统,或者可以从指令执行系统、装置或设备获取指令并执行这些指令的其他系统)使用或与其结合。在本文档的上下文中,“非暂态计算机可读存储介质”可以是可包含或存储程序以供指令执行系统、装置或设备使用或与其结合的任何介质(不包括信号)。计算机可读存储介质可包括但不限于电子、磁性、光学、电磁、红外或半导体系统、装置或设备,便携式计算机磁盘(磁性)、随机存取存储器(RAM)(磁性)、只读存储器(ROM)(磁性)、可擦除可编程只读存储器(EPROM)(磁性)、便携式光盘诸如CD、CD-R、CD-RW、DVD、DVD-R或DVD-RW,或闪存存储器诸如紧凑型闪存卡、安全数字卡、USB存储设备、记忆棒等。
该固件也可传播于任何传输介质内以供指令执行系统、装置或设备诸如基于计算机的系统、包括处理器的系统或可从指令执行系统、装置或设备获取指令并执行指令的其他系统使用或与其结合。在本文的上下文中,“传输介质”可以是可传送、传播或传输程序以供指令执行系统、装置或设备使用或与其结合的任何介质。传输介质可包括但不限于电子、磁性、光学、电磁或红外有线或无线传播介质。该传输介质可以包括通信网络,该通信网络包括但不限于互联网(也称为万维网)、内联网、局域网(LAN)、宽局域网(WLAN)、存储区域网(SAN)、城域网(MAN)等。
一个或多个处理器218z可以运行存储在介质201z中的各种软件部件,以执行计算系统200z的各种功能。在一些示例中,这些软件部件可以包括操作系统222z、通信模块(或指令集)224z、触摸处理模块(或指令集)226z、图形模块(或指令集)228z和一个或多个应用程序(或指令集)223z。这些模块和以上提及的应用程序中的每一者可以对应于用于执行上述一种或多种功能以及在本申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的指令集。这些模块(即,指令集)不必被实现为单独的软件程序、过程或模块,因此这些模块的各种子集可以在各种示例中被组合或以其他方式重新布置。在一些示例中,介质201z可以存储以上所标识的模块和数据结构的子集。此外,介质201z可以存储以上未描述的附加模块和数据结构。
操作系统222z可以包括各种过程、指令集、软件部件和/或驱动器以用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、电源管理等),并且有利于各种硬件部件与软件部件之间的通信。通信模块224z可以有利于通过一个或多个外部端口236z或经由射频电路208z与其他设备通信,并且可以包括用于处理从射频电路208z和/或外部端口236z接收的数据的各种软件部件。图形模块228z可以包括用于在显示表面上渲染、以动画方式显示和显示图形对象的各种已知的软件部件。在其中触摸I/O设备212z是触敏显示器(例如,与图1BZ中的触摸屏152z相对应的触摸屏)的示例中,图形模块228z可以包括用于在触敏显示器上渲染、显示和以动画方式显示对象的部件。
计算系统200z还可以包括触摸I/O设备212z(例如,对应于触摸屏152z)和/或其他I/O设备214z(例如,对应于光感测系统)。触摸I/O设备212z还可以结合UI接口,当触摸I/O设备被结合到图1BZ的可穿戴设备150z中时,该UI接口允许用户在显示个体健康事件数据的编程模式(例如,显示洗手行为、显示关于洗手行为的通知或其他反馈等)之间进行选择。
一种或多种应用程序223z可以包括安装在计算系统200z上的任何应用程序,包括但不限于浏览器、地址簿、联系人列表、电子邮件、即时消息、文字处理、键盘仿真、桌面小程序、支持JAVA的应用程序、加密、数字权限管理、语音识别、语音复制、位置确定能力(诸如由GPS提供的位置确定能力)、音乐播放器等。
触摸处理模块226z可以包括用于执行与触摸I/O设备212z相关联的各种任务的各种软件部件,包括但不限于经由触摸I/O设备控制器232z接收和处理从触摸I/O设备212z接收的触摸输入。触摸输入可由存储在程序存储装置201z中的计算机程序用于执行动作,这些动作可包括但不限于:移动对象(诸如光标或指针)、滚动或平移、调节控制设置、打开文件或文档、查看菜单、作出选择、执行指令、操作连接到主机设备的外围设备、应答电话呼叫、拨打电话呼叫、终止电话呼叫、改变音量或音频设置、存储与电话通信相关的信息(诸如地址、频繁拨打的号码、已接来电、未接来电)、登录到计算机或计算机网络上、允许经授权的个体访问计算机或计算机网络的受限区域、加载与用户的计算机桌面的优选布置相关联的用户配置文件、允许访问网页内容、启动特定程序、对消息进行加密或解码等。存储在程序存储装置201z中的计算机程序还可以使处理电路执行本文所述的个体健康相关事件检测。
I/O子系统206z(对应于图1BZ的I/O设备110z)可以耦接到触摸I/O设备212z和一个或多个其他I/O设备214z,以用于控制或执行各种功能。触摸I/O设备212z可以经由触摸I/O设备控制器232z与处理系统204z通信,该控制器可以包括用于处理用户触摸输入的各种部件(例如,扫描硬件)。一个或多个其他输入控制器234z可以从/向其他I/O设备214z接收/发送电信号。其他I/O设备214z可以包括物理按钮、拨号盘、滑动开关、操作杆、键盘、触摸板、附加显示屏或它们的任何组合。如果被实现为触摸屏,则触摸I/O设备212z可以在GUI中向用户显示视觉输出。视觉输出可包括文本、图形、视频、以及它们的任何组合。
视觉输出中的一些或全部视觉输出可以对应于图形用户界面对象。触摸I/O设备212z可以包括接受来自用户的触摸输入的触敏表面。触摸I/O设备212z和触摸屏控制器232z(连同介质201z中的任何关联模块和/或指令集)可以检测并跟踪触摸I/O设备212z上的触摸或接近输入(以及触摸的任何移动或释放),并将所检测的触摸输入转换为与图形对象(诸如一个或多个用户界面对象)的交互。在其中触摸I/O设备212z被实现为触摸屏的示例中,用户可以与可以显示在触摸屏上的图形用户界面对象直接交互。作为替代,在其中触摸I/O设备212z被实现为除触摸屏之外的触摸设备(例如,触摸板)的情况下,用户可以与可以显示在被实现为I/O设备214z的独立显示屏上的图形用户界面对象间接交互。
触摸I/O设备212z可以类似于美国专利第6,323,846号(Westerman等人)、美国专利第6,570,557号(Westerman等人)和/或美国专利第6,677,932号(Westerman)以及/或者美国专利公布2002/0015024A1中描述的多点触摸感测表面,前述专利中的每一者以引用方式并入本文以用于所有目的。在其中触摸I/O设备212z是触摸屏的示例中,该触摸屏可以使用液晶显示器(LCD)技术、发光聚合物显示器(LPD)技术、有机LED(OLED)或有机电致发光(OEL),但在其他示例中也可以使用其他显示技术。
触摸I/O设备212z(和/或其他I/O设备214z)可以基于用户的触摸输入以及正在显示的内容和/或计算系统的一种状态或多种状态来提供反馈。可以通过光学(例如,光信号或所显示的图像)、机械(例如,触觉反馈、触摸反馈、力反馈等)、电气(例如,电刺激)、嗅觉、声学(例如,嘟嘟声等)等方式或它们的任何组合并且以可变或不可变的方式来传输反馈。
计算系统200z还可以包括用于为各种硬件部件供电的电力系统244z,并且可以包括电源管理系统、一个或多个电源、再充电系统、电源故障检测电路、电源转换器或逆变器、电源状态指示器以及通常与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。在一些示例中,如本文更详细描述的,电源管理系统可以调整数据的获取、数据的处理和检测个体健康相关事件的一个或多个方面。
在一些示例中,处理电路204z的外围设备接口216z、一个或多个处理器218z和存储器控制器220z可以在单个芯片(专用集成电路)上或在单个印刷电路板上实现。在一些其他示例中,它们可以在单独的芯片上和/或在多个印刷电路板上实现。
应当理解,图2Z所示的框图可以具有比所示的更多或更少的部件,或者具有不同的部件配置。图2Z中所示的各种部件可在硬件、软件、固件或它们的任何组合(包括一个或多个信号处理和/或专用集成电路)中实现。
如本文所讨论的,检测个体健康相关事件可以包括检测洗手事件。检测合格的洗手事件可以包括检测合格的擦洗事件和合格的冲洗事件。在一些示例中,可以使用一个或多个传感器数据流来检测洗手事件。在一些示例中,传感器数据流可以包括运动数据(例如,从加速度计获取)和音频数据(例如,从麦克风获取)。运动数据可以用于检测合格的擦洗事件,并且音频数据可以用于检测合格的冲洗事件。在一些示例中,运动数据和音频数据可以用于检测合格的擦洗事件和/或合格的冲洗事件。如本文所用,合格事件是指满足一个或多个标准的事件。例如,基于运动数据检测合格的擦洗事件可以包括检测满足一个或多个标准的运动数据,该标准任选地包括持续时间标准、幅度标准、速度标准等。该一个或多个标准可以被设置成在与一起擦洗双手相关联的运动和其他运动(例如,抬起手腕、摆动双臂、各种锻炼、坐、打字等)之间进行区分。同样地,基于音频数据检测合格的冲洗事件可以包括检测满足一个或多个标准的音频数据,该标准任选地包括持续时间标准、幅度标准、频率内容标准等。该一个或多个标准可以被设置成在与冲洗手相关联的音频和其他音频(例如,环境声音、交通、风等)之间进行区分。在一些示例中,检测到合格的洗手事件可以包括满足一个或多个标准。所述一个或多个标准可以包括在检测到合格的擦洗事件的阈值时间段内(例如,30秒内、1分钟内等)检测到合格的冲洗事件。这样的标准可以用于排除可能不指示典型洗手事件的假阳性的合格擦洗事件和/或假阳性的冲洗事件。
图3Z示出了根据本公开的示例的用于检测洗手事件的示例性过程。过程300z可以包括从多个传感器获取数据。例如,可以分别在305z和310z处获取运动数据(例如,加速度计数据)和音频数据。例如,加速度计数据可以由加速度计106z获取,而音频数据可以由麦克风122z获取。可以对加速度计数据和音频数据进行处理。例如,该处理可以由低功率处理器108z和/或主机处理器109z执行。该处理可以包括分析加速度计数据以检测合格的擦洗事件(例如,满足合格的擦洗事件标准)以及分析音频数据以检测合格的冲洗事件(例如,满足合格的冲洗事件标准)。该处理还可以包括例如在320z处确定是否检测到合格的洗手事件。当没有检测到合格的洗手事件时,对加速度计数据和音频数据的处理可以在315z处针对后续的加速度计数据和音频数据继续进行(任选地,在获取和/或处理后续的加速度计数据和/或音频数据之前,处于某种睡眠或空闲状态一段持续时间)。当检测到合格的洗手事件时,可以报告洗手事件。在一些示例中,当报告了合格的洗手事件时,对加速度计数据和音频数据的获取和/或处理可以在315z处针对后续的加速度计数据和音频数据继续进行。报告的洗手事件可以用于跟踪和/或记录用户的洗手行为。用户的洗手行为也可以用于触发反馈。在一些示例中,检测到洗手事件可以启动倒计时定时器来帮助用户提高洗手的效率。
在一些示例中,可以通过对数据的获取和/或处理进行排序来降低功率消耗。在一些示例中,对运动数据的处理可以用于触发(或不触发)对音频数据的获取和/或处理,以减轻传感器和/或处理电路的功率消耗。图4Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程。过程400z可以包括从多个传感器获取数据。例如,可以获取运动数据(例如,加速度计数据)和音频数据。然而,与过程300z中不同,在过程400z中,可以在405z处(经由加速度计106z)获取加速度计数据,而无需在触发之前同时获取音频数据。在410z处,可以对加速度计数据进行处理。例如,该处理可以由低功率处理器108z和/或主机处理器109z执行。该处理可以包括分析加速度计数据以检测合格的擦洗事件(例如,满足合格的擦洗事件标准)。该处理还可以包括例如在415z处确定是否检测到合格的擦洗事件。当没有检测到合格的擦洗事件时,对加速度计数据的获取和/或处理可以在410z处针对后续的加速度计数据继续进行(任选地,在获取和/或处理后续的加速度计数据之前,处于某种睡眠或空闲状态一段持续时间)。当检测到合格的擦洗事件时,可以在425z处(经由麦克风122z)获取音频数据。在425z处,可以对音频数据进行处理。例如,该处理可以由低功率处理器108z和/或主机处理器109z执行。该处理可以包括分析音频数据以检测合格的冲洗事件(例如,满足合格的冲洗事件标准)。该处理还可以包括例如在430z处确定是否检测到合格的冲洗事件。当没有检测到合格的冲洗事件时,系统可以在440z处停止获取音频数据,对加速度计数据的获取和/或处理可以在410z处针对后续的加速度计数据继续进行(任选地,在获取和/或处理后续的加速度计数据之前,处于某种睡眠或空闲状态一段持续时间)。当检测到合格的冲洗事件时,可以在435z处报告洗手事件。在一些示例中,当报告合格的洗手事件时,对加速度计数据的获取和/或处理可以在410z处针对后续的加速度计数据继续进行(任选地,在获取和/或处理后续的加速度计数据之前,处于某种睡眠或空闲状态一段持续时间)。
如过程400z中所示,对音频数据的获取和处理可以通过检测到合格的擦洗事件来触发。因此,可以通过在不必要时不获取音频数据(例如,通过使音频传感器和/或相关联电路(诸如ADC)掉电)和/或通过在先前没有合格的擦洗事件时不处理音频数据来节省功率。在一些示例中,音频数据可以与加速度计数据同时获取(例如,如在过程300z中),但对音频数据的处理可以基于检测到合格的擦洗事件而被触发(例如,如在过程400z中)。在一些示例中,用于获取音频数据的触发器和用于处理音频数据的触发器可以是不同的触发器。例如,对音频数据的获取可以通过检测到少于合格的擦洗事件(例如,检测到可以满足合格的擦洗事件标准中的一些但不是全部标准的运动,诸如检测到满足幅度标准但小于阈值持续时间的擦洗运动)来触发,并且对音频数据的处理可以通过检测到合格的擦洗事件(例如,检测到满足合格的擦洗事件标准中的全部标准的运动)来触发。
在一些示例中,过程300z和过程400z可以在低功率处理器(例如,低功率处理器109z)中实现。在一些示例中,过程300z和过程400z可以在比低功率处理器消耗更多功率的处理器(例如,主机处理器108z)中实现。应当理解,本文所述的“低功率”处理器是相对于另一个处理器(例如,主机处理器)具有较低的功率。在一些示例中,低功率处理器包括的资源(例如,存储器、处理能力等)可能不足以实现过程300z或过程400z中的全部过程。在一些示例中,可以通过在两个处理器之间(例如,在低功率处理器109z与主机处理器108z之间)划分处理来改善功率消耗。在一些示例中,低功率处理器对运动数据的处理可以用于触发(或不触发)主机处理器对音频数据的获取和/或处理,以减轻功率消耗和/或减少处理需求。
图5Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程500z。在505z处,可以获取加速度计数据(经由加速度计106z)。在510z处,可以由低功率处理器(例如,低功率处理器109z)处理加速度计数据,以检测合格的擦洗事件(或更一般地,合格的运动事件)。当没有检测到合格的擦洗事件时,对加速度计数据的获取和/或处理可以在505z处针对后续的加速度计数据继续进行。当检测到合格的擦洗事件时(例如,响应于检测到合格的擦洗事件),可以在515z处唤醒(激活)另一个处理器(例如,主机处理器108z)。在一些示例中,检测到合格的擦洗事件(或另一种触发)可以用于在520z处(经由麦克风122z)获取音频数据。在一些示例中,可以在没有基于加速度计的触发的情况下获取对音频数据的获取(例如,如过程300z中所示)。
在525z处,主机处理器可以处理音频数据,并且任选地,主机处理器还可以处理加速度计数据(530z)。该处理可以包括在535z处检测合格的冲洗事件(或更一般地,合格的音频事件)。当没有检测到合格的冲洗事件时,系统可以在545z处使主机处理器掉电(停用),并且低功率处理器对加速度计数据的获取和/或处理可以在505z处针对后续的加速度计数据继续进行。在一些示例中,当在535z处未检测到合格的冲洗事件时,系统可以在550z处停止获取音频数据(并任选地使音频传感器掉电)。当检测到合格的冲洗事件时,可以在540z处报告洗手事件。在一些示例中,主机处理器还可以先在535z处检测到合格的洗手事件,之后再报告合格的洗手事件。例如,合格的洗手事件可以基于检测到合格的擦洗事件和合格的冲洗事件这两者,并且任选地基于其他标准(例如,这两个事件在阈值时间段内发生或至少部分地同时发生)而被检测到。在一些示例中,当没有检测到合格的冲洗事件时,系统可以放弃对检测合格的洗手事件的处理。
当报告合格的冲洗事件和合格的洗手事件时,系统可以在545z处使主机处理器掉电(停用)(并且/或者在550z处停止获取音频数据),并且在一些示例中,对加速度计数据的获取和/或处理可以在505z处在低功率处理器中针对后续的加速度计数据继续进行。
如上所述,加速度计数据可以由低功率处理器处理(在510z处)以检测合格的擦洗事件(或更一般地,合格的运动事件),然后在515z处唤醒另一个处理器(例如,主机处理器)。加速度计数据也可以由主机处理器处理。在一些示例中,在510z处的处理可以包括将第一加速度计数据模型(例如,机器学习模型)应用于加速度计数据,并且在530z处的处理可以包括应用第二加速度计数据模型(例如,机器学习模型)。在一些示例中,第一加速度计数据模型可以比第二加速度计数据模型更小(在存储器资源方面)并且/或者质量更低(在处理精度方面)。在一些示例中,第一加速度计数据模型可以用于对合格的运动/擦洗事件进行第一确定。第二加速度计数据模型可以用于完善对合格的运动/擦洗事件的确定。例如,与第一加速度计模型相比,质量更高的第二加速度计数据模型可以提供更好的精度,这是由于其质量更高,并且有潜力在清洗/冲洗的持续时间内访问加速度计数据,还有潜力在触发唤醒第二处理器之前访问加速度计数据。在一些示例中,与在530z处用于检测合格的擦洗事件的阈值相比,可以减小在510z处用于检测合格的运动/擦洗事件的阈值。例如,设置用于唤醒处理器的低杆触发器对于避免错过潜在的洗手事件(例如,触发更高精度、更高功率模型的高上升速率、低功率模型)可能是有用的。在一些示例中,第一加速度计数据模型的输出可以用作第二加速度计数据模型的输入,以便完善第二加速度计数据模型。在一些示例中,第二加速度计数据模型的输出可以用于完善第一加速度计数据模型。例如,由第二加速度计数据模型使用来自第一加速度计数据模型的一些数据对擦洗事件进行后续标记的结果可以用于改善第一加速度计数据模型在检测合格的擦洗事件中的表现。
在一些示例中,可以通过改变所获取的数据流的质量和/或通过基于各种触发来改变对所获取的数据流的处理的质量,由此改善功率消耗(以减轻功率消耗和/或减少处理需求)。图6Z示出了根据本公开的示例的用于检测洗手事件的另一个示例性过程600z。分别在605z和610z处,可以获取加速度计数据(经由加速度计106z),并且可以获取音频数据(经由音频传感器610z)。在615z处,加速度计数据和音频数据可以由低功率处理器(例如,低功率处理器109z)处理。对加速度计数据的处理可以包括使用第一加速度计数据处理,并且对音频数据的处理可以包括使用第一音频数据处理。在一些示例中,第一加速度计数据处理可以包括将第一加速度计数据模型(例如,机器学习模型)应用于加速度计数据(620z)。在一些示例中,第一音频数据处理可以包括将第一音频数据模型(例如,机器学习模型)应用于音频数据(620z)。
该处理可以包括在625z处检测合格的洗手事件(例如,包括基于加速度计数据检测合格的擦洗事件并基于音频数据检测合格的冲洗事件)。当没有检测到合格的洗手事件时,对加速度计数据的获取和/或处理可以在615z处针对后续的加速度计数据和/或音频数据继续进行。当检测到合格的洗手事件时,可以在630z处唤醒(激活)另一个处理器(例如,主机处理器108z)。尽管在625z的处理是参考检测合格的洗手事件来描述的,但是应当理解,可以对该处理进行排序,使得加速度计数据可以首先被处理以检测合格的擦洗事件。当没有检测到合格的擦洗事件时,系统可能检测不到洗手事件,并且绕过对音频数据的后续处理。同样地,可以对该处理进行排序,使得可以响应于合格的擦洗事件来处理音频数据。当没有检测到合格的冲洗事件时,系统可能检测不到洗手事件,并且绕过基于合格的擦洗事件和合格的冲洗事件来检测洗手事件的发生的后续处理。
在635z处,主机处理器可以处理音频数据和/或加速度计数据。该处理可以包括在640z处检测合格的洗手事件。对加速度计数据的处理可以包括使用第二加速度计数据处理,并且对音频数据的处理可以包括使用第二音频数据处理。在一些示例中,对加速度计数据和/或音频数据的第一处理和第二处理可以是相同的。在一些示例中,对加速度计数据和/或音频数据的第一处理和第二处理可以是不同的。在一些示例中,第二加速度计数据处理可以包括将第二加速度计数据模型(例如,机器学习模型)应用于加速度计数据(640z)。在一些示例中,第二加速度计数据模型可以与第一加速度计数据模型不同。在一些示例中,第一加速度计数据模型可以比第二加速度计数据模型更小(在存储器资源方面)并且质量更低(在处理精度方面)。在一些示例中,可以使用比用于创建第一加速度计模型更多的训练数据来创建第二加速度计模型。在一些示例中,第二音频数据处理可以包括将第二音频数据模型(例如,机器学习模型)应用于音频数据(640z)。在一些示例中,第二音频数据模型可以与第一音频数据模型不同。在一些示例中,第一音频数据模型可以比第二音频数据模型更小(在存储器资源方面)并且质量更低(在处理精度方面)。在一些示例中,可以使用比用于创建第一音频模型更多的训练数据来创建第二音频模型。在一些示例中,第一音频数据模型和/或第二音频数据模型可以基于时域音频数据。在一些示例中,可以通过使用音频数据的频域表示(例如,使用傅立叶变换(诸如快速傅里叶变换)或另一种变换)来减小音频数据模型的大小/复杂度。在一些示例中,可以通过使用音频数据的均方根(RMS)表示来减小音频数据模型的大小/复杂度。在一些示例中,可以通过使用音频数据的梅尔频率倒谱(Mel Frequency Cepstral,MFC)表示(例如,使用MFC系数)来减小音频数据模型的大小/复杂度。
该处理可以包括在645z处检测合格的洗手事件(例如,包括基于加速度计数据检测合格的擦洗事件并基于音频数据检测合格的冲洗事件)。可以如上针对由低功率处理器进行的处理所述来对由主机处理器检测合格的洗手事件的处理进行排序。当还没有检测到合格的冲洗事件时,系统可以在655z处使主机处理器掉电(停用),并且对加速度计数据的获取和/或处理可以在615z处针对后续的加速度计数据和/或音频数据继续进行。当已检测到合格的洗手事件时,可以在650z处报告洗手事件。当报告合格的洗手事件时,系统可以在655z处使主机处理器掉电(停用),并且在一些示例中,对加速度计数据和音频数据的获取和/或处理可以在615z处针对后续的加速度计数据和/或音频数据继续进行。
尽管图6Z示出了在605z和610z处至少部分同时获取的音频数据和加速度数据,但是应当理解,在一些示例中,可以以与如以上关于图5Z所述类似的方式来触发对音频数据的获取(例如,使用基于加速度的触发器)。除此之外,应当理解,在一些示例中,可以基于触发条件来调整数据流的质量。例如,在610z处,可以执行对音频数据的获取,使得音频数据具有第一质量,并且响应于基于加速度数据检测到合格的擦洗事件,可以执行对音频数据的获取,使得音频数据具有大于第一质量的第二质量。例如,可以响应于触发事件来增加音频传感器(或对应的ADC)的采样率。在这种情况下,可以连续获取音频数据,其中高质量的音频是在对检测后续的合格冲洗事件最有意义时获取的。在一些示例中,在605z处,可以执行对加速度计数据的获取,使得加速度计数据具有第一质量,并且响应于基于加速度数据检测到触发事件(例如,满足合格的擦洗事件的标准中的一些但不是全部标准的运动),可以执行对加速度数据的获取,使得加速度数据具有大于第一质量的第二质量。例如,可以响应于触发事件来增加加速器传感器(或对应的ADC)的采样率。在一些示例中,可以响应于触发事件而使用附加的加速度计通道(例如,使用三轴加速度计数据而不是单轴加速度计数据)。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所描述,本技术的一个方面在于采集并使用得自各种来源的数据,以检测和跟踪物理活动信息事件的执行。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可以包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、推特ID、家庭地址、与用户的健康或健身水平有关的数据或记录(例如,生命体征测量、药物信息、锻炼信息)、出生日期或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,个人信息数据可以用于向用户递送目标提示。因此,使用此类个人信息数据使用户能够监测物理活动事件的频率和持续时间。此外,本公开还预期个人信息数据有益于用户的其他用途。例如,健康和健身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。另外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,就跟踪物理活动事件的执行而言,本发明技术可以被配置为在注册服务期间或之后任何时候允许用户选择“选择加入”或“选择退出”参与对个人信息数据的收集。在另一示例中,用户可以选择不提供用于跟踪物理活动事件的执行的传感器数据和位置数据。在又一示例中,用户可以选择限制用于跟踪物理活动事件的执行的传感器数据或完全禁止跟踪物理活动事件的执行。除了提供“选择加入”和“选择退出”选项外,本公开设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,基于非个人信息数据或绝对最小量的个人信息(诸如与用户相关联的设备所请求的内容、适用于与用户相关联的设备的其他非个人信息或公开可用信息)来跟踪物理活动事件的执行。
Claims (21)
1.一种方法,包括:
在与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统处:
经由所述一个或多个传感器检测对应于所述计算机系统的用户开始第一类型的物理活动的第一组传感器数据;
响应于检测到对应于所述计算机系统的所述用户开始所述第一类型的所述物理活动的所述第一组传感器数据:
启动相应持续时间的定时器;以及
经由所述一个或多个感知输出生成部件输出指示所述相应持续时间的所述定时器正在操作的第一感知反馈;
在启动所述第一定时器之后:
根据确定所述第一类型的所述物理活动在持续,继续输出指示所述相应持续时间的所述定时器正在操作的所述第一感知反馈;以及
检测到已经满足一组一个或多个终止标准;以及
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定基于所述第一类型的所述物理活动已经继续至少所述相应持续时间而满足了所述一组一个或多个终止标准,经由所述一个或多个感知输出生成部件输出指示检测到所述第一类型的所述物理活动达所述相应持续时间的第二感知反馈。
2.根据权利要求1所述的方法,还包括:
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定因为在所述定时器达到所述相应持续时间之前所述第一类型的所述物理活动停止而已经满足所述终止标准,提供指示不再检测到所述第一类型的所述物理活动的第三感知反馈。
3.根据权利要求2所述的方法,还包括:
在提供所述第三感知反馈之后:
根据确定在提供所述第三感知反馈之后的第二相应持续时间内经由所述一个或多个传感器未检测到所述第一类型的所述物理活动,提供指示未执行所述第一类型的所述物理活动达所述定时器的所述相应持续时间的第四感知反馈。
4.根据权利要求3所述的方法,还包括:
在提供指示未执行所述第一类型的所述物理活动达所述定时器的所述相应持续时间的所述第四感知反馈之后,显示第一可选择用户界面对象,所述第一可选择用户界面对象在被选择时记录所述计算机系统的所述用户未在执行所述第一类型的所述物理活动。
5.根据权利要求3至4中任一项所述的方法,还包括:
在输出指示未执行所述第一类型的所述物理活动达所述定时器的所述相应持续时间的所述第四感知反馈之后:
根据确定已经满足一组记录标准,在收集和呈现针对多个健康相关功能的数据的第一应用程序中记录检测到所述第一类型的所述物理活动的发生但未执行所述发生达所述定时器的所述相应持续时间。
6.根据权利要求5所述的方法,其中所述一组记录标准包括:当检测到所述第一类型的所述物理活动的第一发生达至少第三相应持续时间时满足的标准。
7.根据权利要求2至6中任一项所述的方法,其中所述第三感知反馈是继续所述第一类型的所述物理活动的提示。
8.根据权利要求2至7中任一项所述的方法,还包括:
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定因为在所述定时器达到所述相应持续时间之前所述第一类型的所述物理活动停止而已经满足所述终止标准,暂停所述定时器的操作;以及
在提供所述第三感知反馈之后和在暂停所述定时器的操作之后:
根据确定经由所述一个或多个传感器检测到所述第一类型的所述物理活动,恢复所述定时器的操作。
9.根据权利要求1至8中任一项所述的方法,其中所述相应持续时间是预定持续时间。
10.根据权利要求1至9中任一项所述的方法,还包括:
在输出指示检测到所述第一类型的所述物理活动达所述相应持续时间的所述第二感知反馈之后,在收集和呈现针对多个健康相关功能的数据的第二应用程序中记录检测到所述第一类型的所述物理活动的发生达所述相应持续时间。
11.根据权利要求1至10中任一项所述的方法,还包括:
在检测到所述第一组传感器数据之前,启动对第一类型的第一操作的执行;以及
在启动所述相应持续时间的所述定时器之后,继续执行所述第一类型的所述第一操作。
12.根据权利要求11所述的方法,还包括:
当所述相应持续时间的所述定时器正在计时时,显示对应于所述第一类型的所述第一操作的指示。
13.根据权利要求1至12中任一项所述的方法,其中所述第一类型的所述物理活动是由所述计算机系统的所述用户进行的洗手。
14.根据权利要求1至13中任一项所述的方法,还包括:
检测已经满足一组提示标准,其中所述一组提示标准包括:当所述计算机系统的位置对应于预定义位置时满足的标准;以及
响应于检测到已经满足所述一组提示标准,输出用于所述计算机系统的所述用户执行所述第一类型的所述物理活动的第一提示。
15.根据权利要求1至14中任一项所述的方法,还包括:
检测对应于所述第一类型的所述物理活动的执行的记录数据满足一组通知标准;以及
响应于检测到对应于所述第一类型的所述物理活动的执行的所述记录数据满足所述一组通知标准,基于所述记录数据输出包括信息的第一通知。
16.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由具有显示器和触敏表面的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
17.一种计算机系统,包括:
一个或多个感知输出生成部件;
一个或多个传感器;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
18.一种计算机系统,包括:
一个或多个输入设备;和
用于执行根据权利要求1至15中任一项所述的方法的装置。
19.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由与一个或多个感知输出生成部件和一个或多个传感器通信的计算机系统的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
经由所述一个或多个传感器检测对应于所述计算机系统的用户开始第一类型的物理活动的第一组传感器数据;
响应于检测到对应于所述计算机系统的所述用户开始所述第一类型的所述物理活动的所述第一组传感器数据:
启动相应持续时间的定时器;以及
经由所述一个或多个感知输出生成部件输出指示所述相应持续时间的所述定时器正在操作的第一感知反馈;
在启动所述第一定时器之后:
根据确定所述第一类型的所述物理活动在持续,继续输出指示所述相应持续时间的所述定时器正在操作的所述第一感知反馈;以及
检测到已经满足一组一个或多个终止标准;以及
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定基于所述第一类型的所述物理活动已经继续至少所述相应持续时间而满足了所述一组一个或多个终止标准,经由所述一个或多个感知输出生成部件输出指示检测到所述第一类型的所述物理活动达所述相应持续时间的第二感知反馈。
20.一种计算机系统,包括:
一个或多个感知输出生成部件;
一个或多个传感器;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
经由所述一个或多个传感器检测对应于所述计算机系统的用户开始第一类型的物理活动的第一组传感器数据;
响应于检测到对应于所述计算机系统的所述用户开始所述第一类型的所述物理活动的所述第一组传感器数据:
启动相应持续时间的定时器;以及
经由所述一个或多个感知输出生成部件输出指示所述相应持续时间的所述定时器正在操作的第一感知反馈;
在启动所述第一定时器之后:
根据确定所述第一类型的所述物理活动在持续,继续输出指示所述相应持续时间的所述定时器正在操作的所述第一感知反馈;以及
检测到已经满足一组一个或多个终止标准;以及
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定基于所述第一类型的所述物理活动已经继续至少所述相应持续时间而满足了所述一组一个或多个终止标准,经由所述一个或多个感知输出生成部件输出指示检测到所述第一类型的所述物理活动达所述相应持续时间的第二感知反馈。
21.一种计算机系统,包括:
一个或多个感知输出生成部件;
一个或多个传感器;
用于经由所述一个或多个传感器检测对应于所述计算机系统的用户开始第一类型的物理活动的第一组传感器数据的装置;
用于响应于检测到对应于所述计算机系统的所述用户开始所述第一类型的所述物理活动的所述第一组传感器数据而执行以下操作的装置:
启动相应持续时间的定时器;以及
经由所述一个或多个感知输出生成部件输出指示所述相应持续时间的所述定时器正在操作的第一感知反馈;
用于在启动所述第一定时器之后执行以下操作的装置:
根据确定所述第一类型的所述物理活动在持续,继续输出指示所述相应持续时间的所述定时器正在操作的所述第一感知反馈;以及
检测到已经满足一组一个或多个终止标准;以及
响应于检测到已经满足所述一组一个或多个终止标准:
根据确定基于所述第一类型的所述物理活动已经继续至少所述相应持续时间而满足了所述一组一个或多个终止标准,经由所述一个或多个感知输出生成部件输出指示检测到所述第一类型的所述物理活动达所述相应持续时间的第二感知反馈。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US202063033814P | 2020-06-02 | 2020-06-02 | |
US63/033,814 | 2020-06-02 | ||
PCT/US2021/035504 WO2021247745A1 (en) | 2020-06-02 | 2021-06-02 | User interfaces for tracking of physical activity events |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115769280A true CN115769280A (zh) | 2023-03-07 |
Family
ID=76708417
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202180039801.7A Pending CN115769280A (zh) | 2020-06-02 | 2021-06-02 | 用于跟踪物理活动事件的用户界面 |
Country Status (7)
Country | Link |
---|---|
US (1) | US20210375157A1 (zh) |
EP (1) | EP4143772A1 (zh) |
JP (1) | JP7460801B2 (zh) |
KR (1) | KR20230003157A (zh) |
CN (1) | CN115769280A (zh) |
AU (1) | AU2021283914A1 (zh) |
WO (1) | WO2021247745A1 (zh) |
Families Citing this family (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP3092630B1 (en) * | 2014-01-06 | 2023-10-25 | Hubble Connected Ltd | Dual mode baby monitoring priority application |
USD875118S1 (en) * | 2018-02-22 | 2020-02-11 | Samsung Electronics Co., Ltd. | Display screen or portion thereof with transitional graphical user interface |
DK180241B1 (en) | 2018-03-12 | 2020-09-08 | Apple Inc | User interfaces for health monitoring |
US11317833B2 (en) | 2018-05-07 | 2022-05-03 | Apple Inc. | Displaying user interfaces associated with physical activities |
US11152100B2 (en) | 2019-06-01 | 2021-10-19 | Apple Inc. | Health application user interfaces |
DE112020002566T5 (de) * | 2019-06-01 | 2022-05-12 | Apple Inc. | Benutzerschnittstellen zur zyklusverfolgung |
US12002588B2 (en) | 2019-07-17 | 2024-06-04 | Apple Inc. | Health event logging and coaching user interfaces |
EP4004702A1 (en) | 2019-09-09 | 2022-06-01 | Apple Inc. | Research study user interfaces |
DK181037B1 (en) | 2020-06-02 | 2022-10-10 | Apple Inc | User interfaces for health applications |
USD942509S1 (en) | 2020-06-19 | 2022-02-01 | Apple Inc. | Display screen or portion thereof with graphical user interface |
US11698710B2 (en) | 2020-08-31 | 2023-07-11 | Apple Inc. | User interfaces for logging user activities |
JP2022146598A (ja) * | 2021-03-22 | 2022-10-05 | 富士フイルムビジネスイノベーション株式会社 | 情報処理装置及び情報処理プログラム |
USD987656S1 (en) * | 2021-06-04 | 2023-05-30 | Apple Inc. | Display screen or portion thereof with graphical user interface |
Family Cites Families (30)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3859005A (en) | 1973-08-13 | 1975-01-07 | Albert L Huebner | Erosion reduction in wet turbines |
US4826405A (en) | 1985-10-15 | 1989-05-02 | Aeroquip Corporation | Fan blade fabrication system |
US6298314B1 (en) * | 1997-10-02 | 2001-10-02 | Personal Electronic Devices, Inc. | Detecting the starting and stopping of movement of a person on foot |
EP1717684A3 (en) | 1998-01-26 | 2008-01-23 | Fingerworks, Inc. | Method and apparatus for integrating manual input |
US7688306B2 (en) | 2000-10-02 | 2010-03-30 | Apple Inc. | Methods and apparatuses for operating a portable device based on an accelerometer |
US7218226B2 (en) | 2004-03-01 | 2007-05-15 | Apple Inc. | Acceleration-based theft detection system for portable electronic devices |
US6475115B1 (en) * | 2000-10-27 | 2002-11-05 | Thomas Candito | Computer exercise system |
US6677932B1 (en) | 2001-01-28 | 2004-01-13 | Finger Works, Inc. | System and method for recognizing touch typing under limited tactile feedback conditions |
US6570557B1 (en) | 2001-02-10 | 2003-05-27 | Finger Works, Inc. | Multi-touch system and method for emulating modifier keys via fingertip chords |
US7657849B2 (en) | 2005-12-23 | 2010-02-02 | Apple Inc. | Unlocking a device by performing gestures on an unlock image |
US8377229B2 (en) * | 2008-04-29 | 2013-02-19 | Resurgent Health & Medical, Llc | Ingress/egress system for hygiene compliance |
WO2010026581A2 (en) * | 2008-09-03 | 2010-03-11 | Hyginex Inc. | Methods and systems for monitoring hygiene habits |
US20100073162A1 (en) * | 2008-09-05 | 2010-03-25 | Michael David Johnson | Hand washing reminder device and method |
US20110057799A1 (en) * | 2009-09-01 | 2011-03-10 | Yordan Gineff Taneff | Hand washing monitoring system |
JP5392157B2 (ja) * | 2010-03-19 | 2014-01-22 | 富士通株式会社 | モーション判定装置、モーション判定方法、およびコンピュータプログラム |
WO2021216291A1 (en) * | 2020-04-24 | 2021-10-28 | Smith & Nephew, Inc. | Systems and methods for managing a person's position to encourage proning |
US9314699B2 (en) * | 2011-07-01 | 2016-04-19 | Baydin, Inc. | Systems and methods for applying game mechanics to the completion of tasks by users |
JP2013017631A (ja) * | 2011-07-11 | 2013-01-31 | Sumitomo Electric Ind Ltd | 手洗いモニタおよび手洗いモニタ方法 |
WO2013169849A2 (en) | 2012-05-09 | 2013-11-14 | Industries Llc Yknots | Device, method, and graphical user interface for displaying user interface objects corresponding to an application |
KR101958582B1 (ko) | 2012-12-29 | 2019-07-04 | 애플 인크. | 터치 입력에서 디스플레이 출력으로의 관계들 사이에서 전환하기 위한 디바이스, 방법, 및 그래픽 사용자 인터페이스 |
US20150127365A1 (en) * | 2013-11-01 | 2015-05-07 | Sidra Medical and Research Center | Hand hygiene use and tracking in the clinical setting via wearable computers |
DE112015007285B4 (de) * | 2014-09-02 | 2023-11-02 | Apple Inc. | Monitor für physische aktivität und training |
US9830800B2 (en) * | 2016-03-31 | 2017-11-28 | Intel Corporation | Early warning of non-compliance with an established workflow in a work area |
WO2018081598A1 (en) * | 2016-10-27 | 2018-05-03 | Johnson Controls Technology Company | Hand hygiene system |
US11069220B2 (en) * | 2017-07-10 | 2021-07-20 | Biovigil Hygiene Technologies, Llc | Hand cleanliness monitoring |
US11127278B2 (en) * | 2018-01-19 | 2021-09-21 | Intelligent Observation, Inc. | Hand hygiene and surgical scrub system |
EP3596734A1 (en) * | 2018-03-12 | 2020-01-22 | Apple Inc. | User interfaces for health monitoring |
JP2020000651A (ja) * | 2018-06-29 | 2020-01-09 | 日本電信電話株式会社 | 手洗い支援装置、方法およびプログラム |
CA3035191A1 (en) * | 2019-02-28 | 2020-08-28 | Fian Technologies Inc. | Hand washing monitoring device, system and method |
US11639944B2 (en) | 2019-08-26 | 2023-05-02 | Apple Inc. | Methods and apparatus for detecting individual health related events |
-
2021
- 2021-06-02 AU AU2021283914A patent/AU2021283914A1/en active Pending
- 2021-06-02 JP JP2022573764A patent/JP7460801B2/ja active Active
- 2021-06-02 US US17/337,147 patent/US20210375157A1/en active Pending
- 2021-06-02 KR KR1020227041723A patent/KR20230003157A/ko active Search and Examination
- 2021-06-02 EP EP21736416.5A patent/EP4143772A1/en active Pending
- 2021-06-02 CN CN202180039801.7A patent/CN115769280A/zh active Pending
- 2021-06-02 WO PCT/US2021/035504 patent/WO2021247745A1/en unknown
Also Published As
Publication number | Publication date |
---|---|
WO2021247745A1 (en) | 2021-12-09 |
JP2023529125A (ja) | 2023-07-07 |
US20210375157A1 (en) | 2021-12-02 |
JP7460801B2 (ja) | 2024-04-02 |
EP4143772A1 (en) | 2023-03-08 |
AU2021283914A1 (en) | 2023-01-19 |
KR20230003157A (ko) | 2023-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7460801B2 (ja) | 身体活動イベントを追跡するためのユーザインタフェース | |
US11331007B2 (en) | Workout monitor interface | |
US11594330B2 (en) | User interfaces for health applications | |
JP7198849B2 (ja) | アラートを管理するための小型インターフェース | |
JP7297940B2 (ja) | マルチモードの活動追跡ユーザインタフェース | |
JP2021525427A (ja) | 電子デバイスにおけるシステムユーザインタフェースへのアクセス | |
US20240077309A1 (en) | Physical activity user interfaces | |
US20230389806A1 (en) | User interfaces related to physiological measurements | |
JP2023162224A (ja) | 健康イベントのログ記録及びコーチング用ユーザインタフェース | |
US20220374106A1 (en) | Methods and user interfaces for tracking execution times of certain functions | |
US11837067B2 (en) | User interfaces for facilitating operations | |
US20240062640A1 (en) | User interfaces for facilitating operations | |
JP7361155B2 (ja) | ヘルスアプリケーションのためのユーザインタフェース | |
US20220218292A1 (en) | User interfaces for monitoring health | |
WO2024054347A1 (en) | Physical activity user interfaces | |
WO2023211790A9 (en) | User interfaces for facilitating operations | |
WO2023235608A9 (en) | Systems and methods for sleep tracking |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |