CN110651244A - 用于呈现车辆通知的设备、方法和图形用户界面 - Google Patents
用于呈现车辆通知的设备、方法和图形用户界面 Download PDFInfo
- Publication number
- CN110651244A CN110651244A CN201880031256.5A CN201880031256A CN110651244A CN 110651244 A CN110651244 A CN 110651244A CN 201880031256 A CN201880031256 A CN 201880031256A CN 110651244 A CN110651244 A CN 110651244A
- Authority
- CN
- China
- Prior art keywords
- vehicle
- user interface
- display
- indication
- displaying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 75
- 230000004044 response Effects 0.000 claims abstract description 103
- 230000000007 visual effect Effects 0.000 claims abstract description 61
- 238000004891 communication Methods 0.000 claims abstract description 33
- 230000033001 locomotion Effects 0.000 claims description 46
- 238000003860 storage Methods 0.000 claims description 11
- 238000007689 inspection Methods 0.000 claims description 6
- 230000010365 information processing Effects 0.000 claims description 4
- 230000002093 peripheral effect Effects 0.000 description 19
- 230000003287 optical effect Effects 0.000 description 17
- 238000012545 processing Methods 0.000 description 15
- 230000006870 function Effects 0.000 description 14
- 230000008569 process Effects 0.000 description 12
- 230000003993 interaction Effects 0.000 description 11
- 238000007726 management method Methods 0.000 description 11
- 241000699666 Mus <mouse, genus> Species 0.000 description 9
- 238000005516 engineering process Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000003213 activating effect Effects 0.000 description 6
- 230000009471 action Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 5
- 238000001514 detection method Methods 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 238000009877 rendering Methods 0.000 description 5
- 230000021317 sensory perception Effects 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 230000000295 complement effect Effects 0.000 description 3
- 230000001419 dependent effect Effects 0.000 description 3
- 230000000977 initiatory effect Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 239000003550 marker Substances 0.000 description 3
- 241001422033 Thestylus Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000003491 array Methods 0.000 description 2
- 230000001413 cellular effect Effects 0.000 description 2
- 230000001149 cognitive effect Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000001627 detrimental effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 230000035807 sensation Effects 0.000 description 2
- 241000282412 Homo Species 0.000 description 1
- 241000699670 Mus sp. Species 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000009977 dual effect Effects 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/0088—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots characterized by the autonomous decision making process, e.g. artificial intelligence, predefined behaviours
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
- B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
- B60W2040/0818—Inactivity or incapacity of driver
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/143—Alarm means
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
- B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
- B60W50/08—Interaction between the driver and the control system
- B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
- B60W2050/146—Display means
Landscapes
- Engineering & Computer Science (AREA)
- Automation & Control Theory (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- General Physics & Mathematics (AREA)
- Transportation (AREA)
- Mechanical Engineering (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Game Theory and Decision Science (AREA)
- Medical Informatics (AREA)
- Aviation & Aerospace Engineering (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Health & Medical Sciences (AREA)
- Business, Economics & Management (AREA)
- Mathematical Physics (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
根据一些实施方案,在具有一个或多个处理器、非暂态存储器和显示器的设备处执行一种方法。所述方法包括在所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示器上显示与操作所述车辆无关的用户界面。所述设备是与所述车辆分开的手持设备。所述方法包括当在所述显示器上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意操作所述车辆的警示指示。所述方法包括响应于接收到所述警示指示,至少禁用所显示用户界面的一部分并且在所述显示器上显示关于需要所述驾驶者注意操作所述车辆的视觉指示。
Description
技术领域
本文整体涉及具有触敏表面的电子设备,包括但不限于呈现车辆通知的具有触敏表面的电子设备。
背景技术
近年来,已设计和制造以各种程度的自主控制操作的车辆(称为自动车辆或半自动车辆)。此类车辆的驾驶者在车辆以相应程度的自主控制操作时可能会被诱使使用手持设备。然而,在各种情况下,驾驶者可能需要承担车辆的控制,并且此类转变在驾驶者的注意力引向手持设备的情况下可能受到阻碍。
发明内容
因此,需要具有更快更有效的方法和界面用于呈现来自以相应程度的自主控制操作的车辆的车辆通知的电子设备。此类方法和界面任选地补充或替换用于呈现车辆通知的常规方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。对于电池驱动设备,此类方法和界面可节省用电并且增加两次电池充电之间的时间。
借助所公开的设备可减少或消除与具有触敏表面的电子设备的用户界面相关联的上述缺陷和其他问题。在一些实施方案中,该设备是台式计算机。在一些实施方案中,该设备是便携式的(例如,笔记本电脑、平板电脑或手持设备)。在一些实施方案中,该设备具有触控板。在一些实施方案中,该设备具有触敏显示器(也称为“触摸屏”或“触摸屏显示器”)。在一些实施方案中,该设备具有图形用户界面(GUI)、一个或多个处理器、存储器和一个或多个模块、被存储在存储器中以用于执行多个功能的程序或指令集。在一些实施方案中,用户主要通过触笔和/或手指接触以及触敏表面上的手势来与GUI进行交互。在一些实施方案中,这些功能任选地包括图像编辑、绘图、呈现、文字处理、网页创建、盘编辑、电子表格制作、玩游戏、接打电话、视频会议、收发电子邮件、即时消息通信、健身支持、数字摄影、数字视频录制、网页浏览、数字音乐播放和/或数字视频播放。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。
根据一些实施方案,本发明公开了在具有非暂态存储器、显示器、输入设备和一个或多个处理器的设备上执行一种方法。所述方法包括:在所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示器上显示与操作所述车辆无关的用户界面,其中所述设备是与所述车辆分开的手持设备;当在所述显示器上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意操作所述车辆的警示指示;以及响应于接收到所述警示指示,至少禁用所显示用户界面的一部分并在所述显示器上显示关于需要所述驾驶者注意操作所述车辆的视觉指示。
根据一些实施方案,一种电子设备包括被配置为显示用户界面的显示单元、被配置为接收用户输入的一个或多个输入单元,以及与显示单元和一个或多个输入单元耦接的处理单元。所述处理单元被配置为:在所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示单元上显示与操作所述车辆无关的用户界面;当在所述显示单元上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意操作所述车辆的警示指示;以及响应于接收到所述警示指示,至少禁用所显示用户界面的一部分并在所述显示单元上显示关于需要所述驾驶者注意操作所述车辆的视觉指示。
根据一些实施方案,一种电子设备包括显示器、输入设备、一个或多个处理器、非暂态存储器和一个或多个程序;一个或多个程序被存储在非暂态存储器中并且被配置为由一个或多个处理器执行,并且一个或多个程序包括用于执行或导致执行任何本文所述的任何方法的操作的指令。根据一些实施方案,非暂态计算机可读存储介质在其中存储指令,当这些指令由具有显示器和输入设备的电子设备的一个或多个处理器执行时,使得设备执行或导致执行本文所述的方法中的任一个方法的操作。根据一些实施方案,电子设备上的图形用户界面包括以如上所述的任一种方法显示的一个或多个元素,其中所述电子设备具有显示器、输入设备、存储器和用于执行存储在非暂态存储器中的一个或多个程序的一个或多个处理器,所述一个或多个元素响应于输入而更新,如在本文所述的方法中的任一个方法中所描述。根据一些实施方案,一种电子设备包括:显示器、输入设备;以及用于执行或导致执行本文所述方法中的任一种方法的操作的装置。根据一些实施方案,用于具有显示器和输入设备的电子设备中的信息处理设备包括用于执行或导致执行本文所述的方法中的任一个方法的操作的装置。
因此,具有显示器、触敏表面和任选的用于检测与触敏表面的接触强度的一个或多个传感器的电子设备配备有更快、更高效的方法和界面用于呈现车辆通知,从而提高此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于呈现车辆通知的常规方法。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的便携式多功能设备上的应用程序菜单的示例性用户界面。
图4B示出了根据一些实施方案的用于具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5示出了根据一些实施方案的示例车辆环境。
图6A至图6Q示出了根据一些实施方案的用于呈现车辆通知的示例用户界面。
图7A至图7C是示出根据一些实施方案的呈现车辆通知的方法的流程图。
具体实施方式
以相应程度的自主控制操作的车辆的驾驶者可同时操作手持设备来消费内容,例如通过观看电影、玩游戏或阅读电子邮件来消费内容。然而,在一些情况下,需要驾驶者注意操作车辆。例如,响应于变化的天气状况,车辆可能无法自主操作并且需要驾驶者注意。又如,响应于检测到异常的道路状况,例如,警察指示车辆在街道上行驶错误的方向,车辆可能无法自主操作并且需要驾驶者注意。
当驾驶者正在操作手持设备时,车辆可能难以从手持设备获得驾驶者的注意力,但手持设备相对容易将驾驶者的注意力重新引向车辆。因此,在下述实施方案中,手持设备的用户界面响应于从车辆接收到警示而显示关于需要驾驶者注意操作车辆的视觉指示。在各种具体实施中,用户界面响应于接收到警示而被至少部分地禁用。
下面,图1A-1B、图2和图3提供对示例性设备的描述。图4A至图4B示出了电子设备的示例用户界面。图5示出了车辆环境。图6A至图6Q示出了用于呈现车辆通知的示例用户界面。图7A至图7C示出了呈现车辆通知的方法的流程图。图6A至图6Q中的用户界面用于例示图7A至图7C中的过程。
示例性设备
现在将详细地参考实施方案,这些实施方案的示例在附图中示出。下面的详细描述中示出许多具体细节,以便提供对各种所描述的实施方案的充分理解。但是,对本领域的普通技术人员将显而易见的是,各种所描述的实施方案可以在没有这些具体细节的情况下被实践。在其他情况下,没有详细地描述众所周知的方法、过程、部件、电路和网络,从而不会不必要地使实施方案的各个方面晦涩难懂。
还将理解的是,虽然在一些情况下,术语“第一”、“第二”等在本文中用于描述各种元件,但是这些元件不应受到这些术语限制。这些术语只是用于将一个元件与另一元件区分开。例如,第一接触可被命名为第二接触,并且类似地,第二接触可被命名为第一接触,而不脱离各种所描述的实施方案的范围。第一接触和第二接触均为接触,但它们不是同一个接触,除非上下文另外明确指示。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
如本文中所使用,根据上下文,术语“如果”任选地被解释为意思是“当……时”后“在……时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的iPod 和设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触摸板)的膝上型电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触摸板)的台式计算机。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户接口设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器系统112有时为了方便而被叫做“触摸屏”,并且有时被简称为触敏显示器。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入、或控制设备116、和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器163(例如,在触敏表面诸如设备100的触敏显示器系统112或设备300的触摸板355上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备的物理特征或设备的部件的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件在硬件、软件、固件、或它们的任何组合(包括一个或多个信号处理电路和/或专用集成电路)中实施。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。设备100的其他部件(诸如CPU 120和外围设备接口118)对存储器102的访问任选地由存储器控制器122来控制。
外围设备接口118可被用于将设备的输入外围设备和输出外围设备耦接到存储器102和CPU 120。一个或多个处理器120运行或执行存储器102中所存储的各种软件程序和/或指令集以执行设备100的各种功能并处理数据。
在一些实施方案中,外围设备接口118、CPU 120、和存储器控制器122任选地在单个芯片诸如芯片104上实现。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。该无线通信任选地使用多种通信标准、协议、和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、无线保真(Wi-Fi)(例如,IEEE802.11a、IEEE 802.11ac、IEEE 802.11ax、IEEE 802.11b、IEEE 802.11g和/或IEEE802.11n)、互联网协议语音技术(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS)、和/或短消息服务(SMS))、或者包括在本文档提交日期还未开发出的通信协议的其他任何适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110和可移除的音频输入/输出外围设备之间的接口,该可移除的音频输入/输出外围设备诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触敏显示器系统112和其他输入或控制设备116与外围设备接口118耦接。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、强度传感器控制器159、触觉反馈控制器161、和用于其他输入或控制设备的一个或多个输入控制器160。所述一个或多个输入控制器160从其他输入或控制设备116接收电信号或者将电信号发送到所述其他输入或控制设备。其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击轮等。在一些另选的实施方案中,输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者):键盘、红外线端口、USB端口、触笔、和/或指针设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113的音量控制的向上/向下按钮。一个或多个按钮任选地包括下压按钮(例如,图2中的206)。
触敏显示器系统112提供设备与用户之间的输入接口和输出接口。显示控制器156从触敏显示器系统112接收电信号和/或将电信号发送至触敏显示器系统112。触敏显示器系统112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出对应于用户界面对象。
触敏显示器系统112具有基于触觉/触感接触来接受来自用户的输入的触敏表面、传感器或传感器组。触敏显示器系统112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触敏显示器系统112上的接触(和该接触的任何移动或中断),并且将检测到的接触转换为与被显示在触敏显示器系统112上的用户界面对象(例如,一个或多个软按键、图标、网页或图像)的交互。在一个示例性实施方案中,触敏显示器系统112和用户之间的接触点对应于用户的手指或触笔。
触敏显示器系统112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术、或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触敏显示系统112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触敏显示系统112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在一个示例性实施方案中,使用投射式互电容感测技术,诸如从Apple Inc.(Cupertino,California)的iPod 和中发现的技术。
触敏显示器系统112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏视频分辨率超过400dpi(例如,为500dpi、800dpi或更大)。用户任选地使用任何合适的物体或附加物诸如触笔、手指等来与触敏显示系统112接触。在一些实施方案中,将用户界面设计成与基于手指的接触和手势一起工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地包括用于激活或去激活特定功能的触控板(未示出)。在一些实施方案中,触控板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触摸板任选地是与触敏显示器系统112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出与I/O子系统106中的光学传感器控制器158耦接的光学传感器。一个或多个光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也被叫做相机模块),光学传感器164任选地捕获静态图像和/或视频。在一些实施方案中,光学传感器位于设备100的与设备前部上的触敏显示系统112相背对的后部上,使得触摸屏能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,另一光学传感器位于设备的前部上,从而获取该用户的图像(例如,用于自拍、用于在用户在触摸屏上观看其他视频会议参与者时进行视频会议等等)。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了与I/O子系统106中的强度传感器控制器159耦接的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气式力传感器、压电力传感器、光学力传感器、电容式触敏表面、或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的与位于设备100的前部上的触敏显示系统112相背对的后部上。
设备100任选地还包括一个或多个接近传感器166。图1A示出了与外围设备接口118耦接的接近传感器166。另选地,接近传感器166与I/O子系统106中的输入控制器160耦接。在一些实施方案中,当多功能设备被置于用户耳朵附近时(例如,用户正在打电话时),接近传感器关闭并禁用触敏显示器系统112。
设备100任选地还包括一个或多个触觉输出发生器163。图1A示出了与I/O子系统106中的触觉反馈控制器161耦接的触觉输出发生器。触觉输出发生器163任选地包括一个或多个电声设备,诸如扬声器或其他音频部件,和/或将能量转换成线性运动的机电设备,诸如马达、螺线管、电活性聚合器、压电致动器、静电致动器或其他触觉输出生成部件(例如,将电信号转换成设备上的触觉输出的部件)。触觉输出发生器163从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的与位于设备100的前部上的触敏显示系统112相背对的后部上。
设备100任选地还包括用于获得关于设备的位置(例如,姿态)的信息的一个或多个加速度计167、陀螺仪168和/或磁力仪169(例如,作为惯性测量单元(IMU)的一部分)。图1A示出了与外围设备接口118耦接的传感器167、168和169。另选地,传感器167、168和169任选地与I/O子系统106中的输入控制器160耦接。在一些实施方案中,基于对从该一个或多个加速度计所接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图来显示信息。设备100可选地包括用于获得关于设备100的位置的信息的GPS(或GLONASS或其他全球导航系统)接收器(未示出)。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、触觉反馈模块(或指令集)133、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135、以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102存储设备/全局内部状态157,如图在1A和图3中所示的。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,其指示什么应用程序、视图或其它信息占据触敏显示器系统112的各个区域;传感器状态,包括从设备的各个传感器和其他输入或控制设备116获得的信息;以及关于设备的位置和/或姿态的位置和/或方位信息。
操作系统126(例如,iOS、Darwin、RTXC、LINUX、UNIX、OS X、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、电源管理等)的各种软件组件和/或驱动器,并且有利于各种硬件和软件组件之间的通信。
通信模块128便于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件部件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与Apple Inc.(Cupertino,California)的一些iPod 和iPod设备中所使用的30针连接器相同或类似和/或兼容的多针(例如,30针)连接器。在一些实施方案中,外部端口是与Apple Inc.(Cupertino,California)的一些iPod 和iPod设备中所使用的Lightning连接器相同或类似和/或兼容的Lightning连接器。
接触/运动模块130任选地检测与触敏显示器系统112(结合显示控制器156)和其他触敏设备(例如,触摸板或物理点击轮)的接触。接触/运动模块130包括用于执行与(例如手指或触笔)接触检测相关的各种操作的软件部件,诸如确定是否已发生接触(例如,检测手指按下事件)、确定接触的强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件)、以及确定接触是否已停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触或触笔接触)或者多点同时接触(例如,“多点触摸”/多指接触和/或触笔接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触摸板上的接触。
接触/运动模块130任选地检测用户的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测单指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标位置处)检测手指抬起(抬离)事件。又如,检测触敏表面上的手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。类似地,通过检测触笔的特定接触图案来任选地检测触笔的轻击、轻扫、拖动和其他手势。
图形模块132包括用于在触敏显示器系统112或其他显示器上渲染和显示图形的各种已知软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器163使用,以便响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置并提供这种信息以在各种应用程序中使用(例如,提供至用于基于位置的拨号的电话138;提供至相机143作为图片/视频元数据;以及提供至提供基于位置的服务诸如天气桌面小程序、当地黄页桌面小程序和地图/导航桌面小程序的应用程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·浏览器模块147;
·日历模块148;
·桌面小程序模块149,其任选地包括以下各项中的一者或多者:天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获得的其他桌面小程序、以及用户创建的桌面小程序149-6;
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150;
·搜索模块151;
·任选地由视频播放器模块和音乐播放器模块构成的视频和音乐播放器模块152;
·记事本模块153;
·地图模块154;以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132、和文本输入模块134,联系人模块137包括可执行指令用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:添加姓名到通讯录;从地址簿删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码和/或电子邮件地址来发起和/或促进通过电话138、视频会议139、电子邮件140或即时消息141的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触敏显示器系统112、显示控制器156、接触模块130、图形模块132、和文本输入模块134,电话模块138包括用于进行以下操作的可执行指令:输入与电话号码对应的字符序列、访问通讯录137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话、以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触敏显示系统112、显示控制器156、光学传感器164、光学传感器控制器158、接触模块130、图形模块132、文本输入模块134、联系人列表137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括用于响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134,即时消息模块141包括用于进行以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、发送相应即时消息(例如,使用针对基于电话的即时消息的短消息服务(SMS)或多媒体消息服务(MMS)协议或者使用针对基于互联网的即时消息的XMPP、SIMPLE、Apple推送通知服务(APNs)或IMPS)、接收即时消息、以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、相片、音频文件、视频文件、和/或MMS和/或增强消息服务(EMS)中所支持的其他附接件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE、APNs或IMPS发送的消息)两者。
结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块146,健身支持模块142包括可执行指令用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标);与(体育设备和智能手表中的)健身传感器通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触敏显示器系统112、显示控制器156、一光学传感器164、光学传感器控制器158、接触模块130、图形模块132和图像管理模块144,相机模块143包括用于进行以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征、和/或从存储器102删除静态图像或视频。
结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、展示(例如,在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132和文本输入模块134,浏览器模块147包括根据用户指令来浏览互联网(包括搜索、链接到、接收、和显示网页或其部分、以及链接到网页的附件和其他文件)的可执行指令。
结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括用于根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如,天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)、或由用户创建的微型应用程序(例如,用户创建的桌面小程序149-6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、和浏览器模块147,桌面小程序创建器模块150包括用于创建桌面小程序(例如,将网页的用户指定部分转到桌面小程序中)的可执行指令。
结合触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中的与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触敏显示系统112、显示系统控制器156、接触模块130、图形模块132、音频电路110、扬声器111、RF电路108和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触敏显示系统112上或在无线连接或经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134,记事本模块153包括用于根据用户指令来创建和管理记事本、待办事项等的可执行指令。
结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154包括用于根据用户指令来接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾车路线;特定位置处或附近的商店和其他兴趣点的数据;和其他基于位置的数据)的可执行指令。
结合触敏显示系统112、显示系统控制器156、接触模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏112上或在无线连接的或经由外部端口124连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件、以及以其他方式管理一种或多种文件格式诸如H.264的在线视频的可执行指令。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。
上述所识别的每个模块和应用对应于用于执行上述一种或多种功能以及在本申请中所描述的方法(例如,本文中所描述的计算机实现的方法和其他信息处理方法)的一组可执行指令。这些模块(即,指令集)不必以独立的软件程序、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触摸板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触摸板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触摸板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A中)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)和相应的应用程序136-1(例如,前述应用程序136、137至155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时在触敏显示器系统112上显示的当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,作为多点触摸手势的一部分的触敏显示器系统112上的用户触摸)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、加速度计167、陀螺仪168、磁力仪169和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106所接收的信息包括来自触敏显示器系统112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值的输入和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器系统112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(即形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块所识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器模块182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包(未示出)或应用程序136-1从中继承方法和其他属性的较高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且从事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182接收来自事件分类器170的事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件187中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一次触摸(触摸开始)、预先确定时长的第一次抬起(触摸结束)、被显示对象上的预先确定时长的第二次触摸(触摸开始)以及预先确定时长的第二次抬起(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器系统112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器系统112上显示三个用户界面对象的应用程序视图中,当在触敏显示器系统112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,对相应事件187的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列是否确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所识别的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块145中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建和更新在应用程序136-1中使用的对象。例如,对象更新器176创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178或者具有对它们的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触摸板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏(例如,图1A的触敏显示器系统112)的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“home”按钮、或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。作为另外一种选择,在一些实施方案中,菜单按钮被实现为被显示在触摸屏显示器上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏显示器、菜单按钮204、用于使设备通电/断电和用于锁定设备的下压按钮206、音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212、和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁过程。在一些实施方案中,设备100还通过麦克风113来接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触敏显示器系统112上的接触的强度的一个或多个接触强度传感器165、和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器163。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于将这些部件互联的一根或多根通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于以上参考图1A所述的触觉输出发生器163)、传感器359(例如,类似于以上参考图1A所述的传感器112、164、165、166、167、168和169的触敏传感器、光学传感器、接触强度传感器、接近传感器、加速度传感器、姿态和/或磁传感器)。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中所存储的程序、模块和数据结构类似的程序、模块、和数据结构,或它们的子组。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中上述所识别的元件中的每个元件任选地存储在先前提到的存储器设备中的一个或多个存储器设备中。上述所识别的模块中的每个模块对应于用于执行上述功能的一组指令。上述所识别的模块或程序(即,指令集)不必被实现为单独的软件程序、过程或模块,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的另外的模块和数据结构。
现在将注意力转到任选地在便携式多功能设备100上实现的用户界面(“UI”)的实施方案。
图4A示出根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示器402;
·时间404;
·蓝牙指示器405;
·电池状态指示器406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
ο电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音留言的数量的指示符414;
ο电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
ο浏览器模块147的标记为“浏览器”的图标420;并且
ο视频和音乐播放器模块152(也称为iPod(Apple Inc.的商标)模块152)的被标记为“iPod”的图标422;并且
·其他应用的图标,诸如:
οIM模块141的被标记为“文本”的图标424;
ο日历模块148的被标记为“日历”的图标426;
ο图像管理模块144的被标记为“照片”的图标428;
ο相机模块143的被标记为“相机”的图标430;
ο在线视频模块155的被标记为“在线视频”的图标432;
ο股市桌面小程序149-2的被标记为“股市”的图标434;
ο地图模块154的被标记为“地图”的图标436;
ο天气桌面小程序149-1的被标记为“天气”的图标438;
ο闹钟桌面小程序169-6的被标记为“时钟”的图标440;
ο健身支持模块142的被标记为“健身支持”的图标442;
ο记事本模块153的标记为“记事本”的图标444;并且
ο用于设置应用程序或模块的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当注意,图4A中示出的图标标签仅仅是示例性的。例如,在一些实施方案中,视频和音乐播放器模块152的图标422被标记为“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450分开的触敏表面451(例如,图3中的平板或触控板355)的设备(例如,图3中的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器359。
图4B示出了具有与显示器450分开的触敏表面451(例如,图3中的平板或触控板355)的设备(例如,图3中的设备300)上的示例性用户界面。尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出随后许多示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴线(例如,图4B中的453)对应的主轴线(例如,图4B中的452)。根据这些实施方案,设备检测与显示器上相应位置对应的位置处的与触敏表面451的接触(例如,图4B中的460和462)(例如,在图4B中,460对应于468并且462对应于470)。这样,在触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)是分开的时侯,由设备在触敏表面上所检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势等)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替换。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
车辆环境
图5示出了根据一些实施方案的示例车辆环境500。车辆环境500包括车辆510、驾驶者520和手持设备530。在各种具体实施中,手持设备530是电话、平板电脑或膝上型计算机。在各种具体实施中,手持设备530对应于图4A的便携式多功能设备100。
车辆510包括控制系统512,该控制系统允许车辆以至少相应程度的自主控制操作。为此,在各种具体实施中,控制系统512包括各种传感器诸如接近传感器和/或相机(或与其电子通信),并且使用所产生的数据来控制车辆510的油门、制动器和转向设备中的一者或多者。
SAE International(最初作为汽车工程师协会建立)已形成了自动化级别的定义如下。在SAE级别0,人类驾驶者执行所有操作。在SAE级别1,车辆上的自动化系统有时能辅助人类驾驶者执行驾驶任务的某些部分。例如,车辆在检测到车辆前方的障碍物时进一步施加驾驶者已施加的制动。在SAE级别2,车辆上的自动化系统能实际执行驾驶任务的某些部分,而人类继续监视驾驶环境并执行驾驶任务的其余部分。例如,在高速公路上行驶的车辆能保持固定速度,而驾驶者控制车辆的转向以将车辆保持在车道内。在SAE级别3,自动化系统在某些情况下既能实际执行驾驶任务的某些部分又能监视驾驶环境,但人类驾驶者在自动化系统请求时必须准备好收回控制。例如,在高速公路上行驶的车辆能将自己保持在车道内并且与另一车辆相距安全的距离。然而,在一些情况下,可能需要驾驶者控制车辆,诸如当所述另一车辆离开该车道时。在SAE级别4,自动化系统能执行驾驶任务并监视驾驶环境,并且人类无需收回控制,但自动化系统只能在某些环境中并且在某些条件下操作。例如,车辆能穿行城市环境,但仅在白天或天气晴好的条件下。在SAE级别5,自动化系统能在人类驾驶者能执行驾驶任务的所有条件下执行所有驾驶任务。
在各种具体实施中,控制系统512被配置为在SAE级别1或更高级别操作车辆510。在各种具体实施中,控制系统512被配置为在SAE级别3或更高级别操作车辆510。
由于车辆510的操作至少部分地自动化,因此驾驶者520可使用手持设备530执行与车辆510的操作无关的任务,诸如查看电子邮件、观看电影或玩游戏。然而,如上所述,在各种情况下,人类驾驶者在自动化系统请求时必须准备好收回控制。为此,警示系统512被集成到车辆510中并生成关于需要驾驶者注意操作车辆510的警示指示。警示系统512将警示指示传输给手持设备530。因此,手持设备530接收来自集成到车辆510中的警示系统512的警示指示。作为响应,手持设备530显示关于需要驾驶者注意操作车辆510的视觉指示。
用户界面和相关联的过程
现在将注意力转到可在具有显示器和触敏表面的电子设备(诸如便携式多功能设备(PMD)100、设备300或手持设备530)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6Q示出了根据一些实施方案的用于呈现车辆通知的示例用户界面。这些附图中的用户界面用于示出下文描述的过程,包括图7A至图7C中的过程。尽管将参考触摸屏显示器(其中组合了触敏表面和显示器)上的输入给出随后的示例中的一些示例,但是在一些实施方案中,设备检测与显示器450分开的触敏表面451上的输入,如图4B中所示。
图6A示出了由便携式多功能设备100显示的用户界面600。用户界面600包括设备条670,并且在设备条670下方包括应用程序区域610,该应用程序区域包括电子邮件应用程序的电子邮件用户界面。位于显示器顶部的设备条670包括便携式多功能设备100的标识符(例如,“iPad”)、无线连接指示符、当前时间和指示便携式多功能设备100的充电水平的电池指示符。
图6B示出了在一些实施方案中当便携式多功能设备100在车辆诸如图5的车辆510中时的用户界面600。用户界面600包括指示便携式多功能设备100与车辆电子通信的车辆状态条620。因此,当便携式多功能设备100在车辆中时,车辆状态条620是被显示用于向用户表明该设备在车辆中的持续视觉指示。
车辆状态条620包括状态指示符621,该状态指示符提供关于车辆状态的信息。在图6B中,状态指示符621指示不需要驾驶者注意操作车辆。
图6C示出了响应于接收到关于需要驾驶者注意操作车辆的警示指示的图6B的用户界面600。响应于接收到该警示指示,状态指示符621被改变以指示需要驾驶者注意操作车辆。在各种具体实施中,状态指示符从第一颜色改变为第二颜色(例如,从绿色变为红色)。
此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
图6D示出了根据一些实施方案响应于接收到指示交通信号灯已改变的警示指示的图6A的用户界面600。在各种具体实施中,车辆在包括在车辆前方的交通信号灯显示停车指示符(例如,红灯)时自动停车的相应程度的自主控制下操作。当交通信号灯从停车指示符变为行驶指示符(例如,绿灯)时,集成到车辆中的警示系统发送关于由于交通信号灯已改变而需要驾驶者注意操作车辆的警示指示。响应于接收到该警示指示,用户界面600包括关于车辆前方的交通信号灯已从停车指示符改变为行驶指示符的交通信号灯指示631。在各种具体实施中,交通信号灯指示631是叠置在显示器上所显示的用户界面600上面显示的弹出式通知或其他用户界面元件。
在各种具体实施中,交通信号灯指示631包括由便携式电子设备100提供的视觉内容(例如,文本、图像等)。例如,在各种具体实施中,交通信号灯图像和文本“灯是绿色的!”被存储在便携式电子设备的存储器中(并且不由警示系统提供给设备)。
在各种具体实施中,除了显示交通信号灯指示631之外,便携式电子设备100还提供音频反馈提示或触觉反馈提示中的至少一者。例如,在各种具体实施中,便携式电子设备100通过扬声器播放警示声音或激活触觉输出发生器从而振动便携式电子设备100。在各种具体实施中,音频反馈提示基于警示指示,使得不同的警示指示导致不同的音频反馈提示。
此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
在一些实施方案中,响应于接收到来自警示系统的被管理指示,用户界面600停止包括交通信号灯指示631,并且用户界面600的被禁用部分被重新启用。警示系统可响应于要求驾驶者注意的状况已结束或响应于警示系统已从驾驶者获得所请求的交互而生成被管理指示。因此,响应于接收到被管理指示,便携式电子设备100返回到图6A的状态。
图6E示出了根据一些实施方案响应于接收到指示另一车辆的运动已改变的警示指示的图6A的用户界面600。在各种具体实施中,车辆在包括在已停车的另一车辆后面自动停车或者在运动中的另一车辆后面自动保持距离的相应程度的自主控制下操作。当所述另一车辆的运动改变时,在一些情况下,集成到车辆中的警示系统发送关于由于所述另一车辆的运动已改变而需要驾驶者注意操作车辆的警示指示。该警示指示可响应于车辆前方的所述另一车辆已加快速度、降低速度、在停车后开始运动、或在运动后停止运动而生成。响应于接收到该警示指示,用户界面600包括关于车辆前方另一车辆的运动已改变的车辆运动指示632。在各种具体实施中,车辆运动指示632包括关于车辆的运动改变的信息,以向驾驶者提供将辅助驾驶者采取适当动作的信息。例如,车辆运动指示632可指示车辆已加快速度或已停车。
此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
图6F示出了根据一些实施方案响应于接收到指示车辆将降低相应自主控制程度的警示指示的图6A的用户界面600。响应于接收到该警示指示,用户界面600包括关于车辆将降低相应自主控制程度的获取控制指示633以及关于驾驶者应当恢复对车辆更大程度的控制的指示。
此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
图6G示出了根据一些实施方案响应于接收到关于在没有驾驶者与车辆交互的情况下已经过了一个时间段的警示指示的图6A的用户界面600。在各种具体实施中,车辆在包括长时间段没有驾驶者交互的相应程度的自主控制下操作。然而,为了提高安全性,在一些情况下,警示系统生成警示指示以使驾驶者周期性地确认准备好控制车辆。此外,驾驶者可确认自主控制正在正确地操作,诸如通过导航到正确的位置而不是不正确的位置。
响应于接收到该警示指示,用户界面600包括关于在没有驾驶者与车辆交互的情况下已经过了一个时间段的检查指示634。此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
检查指示634包括消除示能表示641。响应于在消除示能表示641的位置处检测到用户输入,用户界面600停止包括检查指示634并且用户界面600的被禁用部分被重新启用。在一些实施方案中,响应于接收到来自警示系统的被管理指示,用户界面600停止包括检查指示634,并且用户界面600的被禁用部分被重新启用。警示系统可响应于驾驶者与车辆的交互(例如,将手放在方向盘上或触摸集成到车辆中的触敏显示器)而生成被管理指示。因此,响应于在消除示能表示641的位置处检测到用户输入或响应于从警示系统接收到被管理指示,便携式电子设备100返回到图6A的状态。
在各种具体实施中,响应于在消除示能表示641的位置处检测到用户输入,便携式电子设备100向警示系统传输信号指示用户已消除检查指示634并且因此已确认准备好控制车辆。
图6H示出了根据一些实施方案响应于接收到关于交通数据已更新的警示指示的图6A的用户界面600。响应于接收到该警示指示,用户界面600包括关于交通数据已更新的交通更新指示635。此外,响应于接收到该警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
交通更新指示635包括消除示能表示641。响应于在消除示能表示641的位置处检测到用户输入,用户界面600停止包括交通更新指示634并且用户界面600的被禁用部分被重新启用。
交通更新指示635还包括变更路线示能表示642。变更路线示能表示642提供向警示系统发送响应的选项。响应于在更改路线示能表示642的位置处检测到用户输入,便携式电子设备100向警示系统传输信号指示用户已选择向警示系统发送响应的选项。响应于接收到该信号,在一些实施方案中,警示系统(或集成到车辆中的另一系统)基于更新后的交通数据为车辆更改路线。因此,不是操作车辆采用到目的地的第一路线,而是响应于接收到该信号,车辆控制系统操作车辆采用到目的地的第二路线。
因此,在各种具体实施中,便携式电子设备100接收关于交通数据已更新的警示指示并且提供向警示系统发送响应以基于更新后的交通数据为车辆更改路线的选项。在各种具体实施中,便携式电子设备100接收关于车辆的燃料水平低的警示指示,并且提供向警示系统发送响应以沿路线搜索加油站或对车辆改变路线到加油站的选项。在各种具体实施中,便携式电子设备100接收关于无线电台接收差的警示指示并且提供向警示系统发送响应以改变无线电台的选项。
图6I至图6K示出了根据一些实施方案的响应于接收到警示通知的图6A的用户界面600的动画。响应于接收到该警示通知,用户界面600被通知屏幕651替换,该通知屏幕指示需要驾驶者注意操作车辆。在各种具体实施中,替换用户界面包括显示通知屏幕逐渐显示的动画。例如,在图6I至图6K中,通知屏幕看起来从显示器的底部向上滑动。在其他实施方案中,通知屏幕淡入或以其他方式逐渐显示。通过以动画替换用户界面600,减少对驾驶者的惊恐,从而减少可能具有有害影响的无意操作。
图6L示出了其中应用程序区域610显示视频应用程序的视频的用户界面600。视频应用程序包括用于暂停或恢复回放的暂停/播放示能表示613、用于回倒视频的回倒示能表示614、以及用于快进视频的快进示能表示615。
图6M示出了根据一些实施方案的响应于接收到警示指示的图6L的用户界面600。响应于接收到该警示指示,用户界面600包括关于车辆将降低相应自主控制程度的获取控制指示633以及关于驾驶者应当恢复对车辆更大程度的控制的指示。此外,如暂停/播放示能表示613的变化所指示的,便携式电子设备100已暂停视频应用程序的视频的回放。因此,用户界面600的一部分通过暂停内容而被禁用。在各种具体实施中,内容可包括音频、视频、游戏或其他可消费媒体。
图6M示出了响应于警示指示,便携式电子设备100通过暂停内容来禁用用户界面600的一部分。相比之下,图6D示出了响应于警示指示,便携式电子设备100通过遮掩(例如模糊化和/或调暗)用户界面600的包括应用程序区域610内的内容的一部分来禁用用户界面600的一部分。因此,在各种具体实施中,响应于警示指示,便携式电子设备100基于应用程序区域610中所显示的应用程序(例如,以取决于其的方式)来禁用用户界面100的一部分。例如,在各种具体实施中,注意力要求不高的音乐应用程序被音量受限。又如,在各种具体实施中,注意力要求高的电子邮件应用程序或电子书阅读器应用程序被模糊化。又如,在各种具体实施中,注意力要求非常高的游戏应用程序或视频应用程序被暂停或被通知屏幕替换。
在各种具体实施中,便携式电子设备100通过阻止预定义集合中的一个或多个应用程序执行来至少禁用用户界面的一部分。在各种具体实施中,所述预定义集合是包含性的(例如,“阻止A、B和C”)。在各种具体实施中,所述预定义集合是排除性的(例如,“阻止除了D、E和F之外的所有应用程序”)。例如,在各种具体实施中,便携式电子设备100阻止注意力要求高的应用程序执行,诸如游戏应用程序或视频应用程序。又如,在各种具体实施中,便携式电子设备100仅允许注意力要求不高的应用程序执行,诸如音乐应用程序或地图应用程序。
图6N示出了用户界面600,其中应用程序区域610显示电子书阅读器应用程序的电子书。
图6O示出了根据一些实施方案响应于接收到关于交通信号灯已改变的第一警示指示的图6N的用户界面600。响应于接收到第一警示指示,用户界面600包括关于交通信号灯已改变的第一视觉指示661。然而,用户界面600继续显示电子书的所述部分。
图6P示出了根据一些实施方案响应于接收到关于另一车辆的运动已改变(例如,已响应于改变后的交通信号灯而运动)的第二警示指示的图6O的用户界面600。响应于接收到第二警示指示,用户界面600包括关于所述另一车辆已运动的第二视觉指示662。此外,响应于接收到第二警示指示,用户界面600的至少一部分被禁用。具体地讲,设备条670和应用程序区域610被遮掩(例如,模糊化或调暗)。在各种具体实施中,应用程序区域610的位置处所接收的用户输入在用户界面600的该部分被禁用时被便携式多功能设备100忽略。
图6Q示出了根据一些实施方案响应于接收到关于驾驶者应恢复对车辆更大程度的控制的第三警示指示的图6P的用户界面600。响应于接收到该警示通知,用户界面600被通知屏幕形式的关于需要驾驶者注意操作车辆的第三视觉指示663替换。
如图6N至图6Q所示,响应于相关的警示指示呈现逐渐升级的通知。因此,警示系统可基于未接收到对第一警示指示的响应或基于需要驾驶者注意的逐渐升级的相关情况而发送第二警示指示。因此,在一些情况下,如果驾驶者对第一警示指示作出响应和/或相关情况不升级,则后续警示指示任选地不被发送给设备。
在一些实施方案中,第一视觉通知是可消除通知(例如,设备将响应于适当的用户输入诸如轻扫输入或对消除示能表示的选择而消除该通知),而第二通知不可消除(例如,通知不包括消除示能表示和/或不能以轻扫手势消除)。在一些实施方案中,对通知的升级有三个或更多个级别(例如,对于最不紧急通知不遮掩先前正在设备上显示的所有内容的可消除通知,如图6O所示,对于更紧急通知不完全遮掩先前正在设备上显示的所有内容的不可消除通知,如图6P所示,以及对于最紧急通知遮掩先前正在显示器上显示的所有内容的不可消除通知,如图6Q所示)。
正如便携式电子设备100响应于警示指示可基于在应用程序区域610中显示的应用程序(例如,以取决于其的方式)来禁用用户界面100的一部分,便携式电子设备100响应于警示指示可基于警示指示(例如,以取决于其的方式)来禁用用户界面100的一部分。例如,在各种具体实施中,响应于关于无线电台接收差的警示指示,便携式电子设备100在屏幕的顶部显示可消除通知(例如,类似于图6O的视觉指示661)。又如,在各种具体实施中,响应于关于驾驶者应恢复对车辆更大程度的控制的警示指示,便携式电子设备100将用户界面600替换为通知屏幕(例如,类似于图6Q的视觉指示663)。
图7A至图7C示出了根据一些实施方案的呈现车辆通知的方法700的流程图。方法700在具有显示器、触敏表面、一个或多个处理器和非暂态存储器的电子设备(例如,图1A中的便携式多功能设备100,或图3中的设备300)处执行。在一些实施方案中,显示器是触摸屏显示器,并且触敏表面在显示器上或与显示器集成。在一些实施方案中,显示器与触敏表面是分开的。方法700中的一些操作任选地被组合,并且/或者一些操作的顺序任选地被改变。
如下文所述,方法700提供了一种直观的方式来呈现车辆通知。该方法减少了用户在被呈现以车辆通知时的认知负担,从而创建更有效的人机界面。针对电池操作的电子设备,使得用户能够更快且更有效地消费车辆通知节省了功率并增大了两次电池充电之间的时间间隔。
在所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,所述设备在所述显示器上显示(702)与操作所述车辆无关的用户界面。在一些实施方案中,所述设备是与所述车辆分开的手持设备。例如,在图6A中,所述设备显示包括显示电子邮件应用程序的电子邮件用户界面的应用程序区域610的用户界面600。又如,在图6L中,所述设备显示包括显示视频应用程序的视频的应用程序区域610的用户界面600。又如,在图6N中,所述设备显示包括显示电子书阅读器应用程序的电子书的一部分的应用程序区域610的用户界面600。
因此,通过显示与操作所述车辆无关的用户界面,用户可在以相应程度的自主控制操作的车辆内操作手持设备,从而与手持设备被禁用的情况相比增加手持设备的功能性。
当在所述显示器上显示所述用户界面时,所述设备从集成到所述车辆中的所述警示系统接收(704)关于需要驾驶者注意操作所述车辆的警示指示。
响应于接收到该警示指示,所述设备至少禁用(706)所显示用户界面的一部分。例如,在图6D中,所述设备调暗包括内容的应用程序区域610。至少禁用所显示用户界面的一部分就提高了将所述驾驶者的注意力从手持电子设备转移到所述车辆的功效,从而提高了在车辆以相应程度的自主控制操作时操作所述手持设备的安全性。此外,当所述驾驶者的注意力应在所述车辆而不是所述手持设备上时至少禁用所述用户界面的一部分节省了电力,这不仅是因为其减少了与设备的交互。减少与设备的交互可节省电力、增加电池充电之间的时间并减少设备的磨损。
在一些实施方案中,至少禁用所显示用户界面的一部分包括忽略(708)经由所述设备的一个或多个输入设备接收的至少一个用户输入。例如,在图6D中,所述设备忽略用户与被调暗应用程序区域610的交互。忽略用户与所述设备的交互就提高了将所述驾驶者的注意力从所述手持电子设备转移到所述车辆的功效,因为所述驾驶者不能与所述手持电子设备交互以消费附加内容。
在一些实施方案中,至少禁用所显示用户界面的一部分包括遮掩(710)所述显示器的至少一部分。例如,在图6D中,所述设备通过调暗来遮掩所述应用程序区域610。至少遮掩所述显示器的一部分就提高了将所述驾驶者的注意力从所述手持电子设备转移到所述车辆的功效,因为所述驾驶者不能容易地消费被遮掩的内容。
在一些实施方案中,至少禁用所显示用户界面的一部分包括暂停(712)内容。例如,在图6M中,所述设备暂停所述视频应用程序所播放的视频。暂停内容就提高了将所述驾驶者的注意力从所述手持电子设备转移到所述车辆的功效,因为所述驾驶者不能容易地消费被暂停的内容。
在一些实施方案中,至少禁用所显示用户界面的一部分包括阻止(714)预定义集合中的一个或多个应用程序执行。例如,在各种具体实施中,所述设备阻止注意力要求高的应用程序执行,诸如游戏应用程序或视频应用程序。又如,在各种具体实施中,所述设备仅允许注意力要求不高的应用程序执行,诸如音乐应用程序或地图应用程序。
在一些实施方案中,至少禁用所显示用户界面的一部分是基于所述警示指示(716)。例如,在各种具体实施中,响应于关于无线电台接收差的警示指示,所述设备在所述屏幕的顶部显示可消除通知(例如,类似于图6O的视觉指示661)。又如,在各种具体实施中,响应于关于所述驾驶者应恢复对所述车辆更大程度的控制的警示指示,所述设备将所述用户界面替换为通知屏幕(例如,类似于图6Q的视觉指示663)。因此,所显示用户界面被禁用的程度是基于驾驶者与所述车辆的交互的期望,从而平衡所述手持电子设备的安全性和可用性的目标。
在一些实施方案中,至少禁用所显示用户界面的一部分是基于在所述用户界面中显示的应用程序(718)。例如,在图6M中,响应于警示指示,所述设备通过暂停内容来禁用所述用户界面600的一部分。相比之下,在图6D中,响应于警示指示,所述设备通过遮蔽(例如模糊化和/或调暗)所述用户界面600的包括所述应用程序区域610内的内容的一部分来禁用所述用户界面600的一部分。
另外,响应于接收到所述警示指示,所述设备在所述显示器上显示(720)关于需要所述驾驶者注意操作所述车辆的视觉指示。例如,在图6C中,所述设备显示指示需要所述驾驶者注意操作所述车辆的状态指示符621。又如,在图6F中,所述设备显示指示需要所述驾驶者注意操作所述车辆的获取控制指示符633。又如,在图6K中,所述设备显示指示需要所述驾驶者注意操作所述车辆的通知屏幕651。
显示视觉指示符提示将所述驾驶者的注意力从所述手持电子设备转移到所述车辆,从而提高了在所述车辆以相应程度的自主控制操作时操作所述手持设备的安全性。
在一些实施方案中,显示所述视觉指示包括改变(722)状态指示符的显示。例如,从图6B到图6C,所述设备改变所述状态指示符621以指示需要所述驾驶者注意操作所述车辆。显示状态指示符就为驾驶者在操作所述手持设备时提供关于所述车辆状态的连续信息,从而在不需要或不请求时减少将所述驾驶者的注意力从所述手持设备转移到所述车辆。因此,所述驾驶者可更有效地使用所述手持设备,从而减少功率消耗。
在一些实施方案中,显示所述视觉指示包括在所述显示器的相应部分中显示通知。例如,在图6E中,所述设备显示关于所述车辆前方的另一车辆的运动已改变的车辆运动指示632。例如,在图6O中,所述设备显示关于所述车辆前方的交通信号灯已改变的交通信号灯指示661。通过在所述显示器的相应部分中显示通知,所述用户界面不需要在所述显示器上显示持久状态指示符。通过在屏幕上使用较少的空间,较小(且费用较低的)屏幕可提供相同的可用性。
在一些实施方案中,显示所述视觉指示包括用通知屏幕至少替换(726)所显示用户界面的一部分。例如,在图6Q中,所述设备将所显示的用户界面替换为通知屏幕663。将所显示的用户界面替换为通知屏幕就提高了将所述驾驶者的注意力从所述手持电子设备转移到所述车辆的功效,从而提高了在所述车辆以相应程度的自主控制操作时操作所述手持设备的安全性。
在一些实施方案中,所述设备在所述显示器上显示(728)关于需要所述驾驶者注意操作所述车辆的视觉指示逐渐显示的动画。例如,在图6I至图6K中,所述通知屏幕651通过从所述显示器的底部向上滑动而逐渐显示。通过利用动画来替换所显示的用户界面,减少了可能导致具有有害影响的无意动作的对所述驾驶者的惊恐。
在一些实施方案中,显示所述视觉指示包括显示(730)关于所述车辆前方的交通信号灯已改变的交通信号灯指示。例如,在图6D中,所述设备显示关于所述车辆前方的交通信号灯已改变的交通信号灯指示631。
在一些实施方案中,显示所述视觉指示包括显示(732)关于所述车辆前方的另一车辆的运动已改变的车辆运动指示。例如,在图6E中,所述设备显示关于所述车辆前方的另一车辆的运动已改变的车辆运动指示632。
在一些实施方案中,显示所述视觉指示包括显示(734)关于所述车辆将降低相应自主控制程度的获取控制指示。例如,在图6F中,所述设备显示关于所述车辆将降低相应自主控制程度的获取控制指示633以及关于所述驾驶者应当恢复对所述车辆更大程度的控制的指示。
在一些实施方案中,显示所述视觉指示包括显示(736)关于在没有驾驶者与所述车辆交互的情况下已经过了一个时间段的检查指示。例如,在图6G中,所述设备显示关于在没有驾驶者与所述车辆交互的情况下已经过了一个时间段的检查指示634。在一些实施方案中,响应于驾驶者与所述车辆的所述检查指示至少一者的交互,所述设备停止(738)显示所述检查指示并且重新启用所显示用户界面的所述一部分。例如,在图6G中,响应于在消除示能表示641的位置处检测到用户输入,所述设备返回到图6A的状态。
在一些实施方案中,显示所述视觉指示包括显示(740)向所述警示系统发送响应的选项。例如,在图6H中,所述设备显示包括向所述警示系统发送响应的更改路线示能表示642的交通更新指示635。经由所述手持设备提供向所述警示系统发送响应的选项就减少了在不需要或请求时将所述驾驶者的注意力从所述手持设备转移到所述车辆。因此,所述驾驶者可更有效地使用所述手持设备,从而减少功率消耗。
在一些实施方案中,显示所述视觉指示包括显示(742)存储在所述非暂态存储器中的视觉内容。例如,在图6E中,所述设备显示包括存储在所述设备的非暂态存储器中(并且不是由所述警示系统提供给所述设备)的交通信号灯图像和文本“灯是绿色的!”的交通信号灯指示631。
在一些实施方案中,显示所述视觉指示包括提供(744)音频反馈提示或触觉反馈提示中的至少一者。例如,在各种具体实施中,所述设备通过扬声器播放警示声音或激活触觉输出发生器从而振动所述设备。附加的反馈提示提高了将所述驾驶者的注意力从所述手持电子设备转移到所述车辆的功效,从而提高了在所述车辆以相应程度的自主控制操作时操作所述手持设备的安全性。
在一些实施方案中,所述设备从集成到所述车辆中的所述警示系统接收(746)与所述警示指示相关的第二警示指示。响应于接收到第二警示指示,所述设备至少禁用(748)所显示用户界面的附加部分。在一些实施方案中,所述设备将所显示的用户界面替换(750)为通知屏幕。另外,响应于接收到第二警示指示,所述设备基于第二警示指示在所述显示器上显示(752)第二视觉指示。例如,在图6P中,所述设备显示第一视觉指示,车辆运动指示662,并且在图6Q中,所述设备显示第二视觉指示,通知屏幕663。因此,所显示用户界面被禁用的程度是基于驾驶者与所述车辆的交互的期望,从而平衡所述手持电子设备的安全性和可用性的目标。
在一些实施方案中,所述设备经由所述设备的一个或多个输入设备接收(754)消除所述视觉指示的用户输入,并且作为响应,停止(756)显示所述视觉指示并且重新启用所显示用户界面的所述一部分。例如,在图6G中,响应于在消除示能表示641的位置处检测到用户输入,所述设备返回到图6A的状态。
在一些实施方案中,所述设备从集成到所述车辆中的所述警示系统接收(758)关于不再需要所述驾驶者注意操作所述车辆的被管理指示,并且作为响应,停止(760)显示所述视觉指示并且重新启用所显示用户界面的所述一部分。例如,在各种具体实施中,所述警示系统响应于要求所述驾驶者注意的状况已结束或响应于所述警示系统已从所述驾驶者获得所请求的交互而生成所述被管理指示。
应当理解,对图7A至图7C中的操作进行描述的特定顺序仅仅是示例性的,并非旨在表明所述顺序是可以执行这些操作的唯一顺序。本领域的普通技术人员会想到多种方式来对本文所述的操作进行重新排序。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择和描述实施方案是为了最佳地阐明本发明的原理及其实际应用,以便由此使得本领域的其他技术人员能够最佳地使用具有适合于所构想的特定用途的各种修改的本发明以及各种所描述的实施方案。
Claims (30)
1.一种方法,包括:
在具有一个或多个处理器、非暂态存储器和显示器的设备处:
当所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示器上显示与操作所述车辆无关的用户界面,其中所述设备是与所述车辆分开的手持设备;
当在所述显示器上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意以操作所述车辆的警示指示;以及
响应于接收到所述警示指示:
至少禁用所显示用户界面的一部分;并且
在所述显示器上显示关于需要所述驾驶者注意以操作所述车辆的视觉指示。
2.根据权利要求1所述的方法,其中显示所述视觉指示包括改变状态指示符的显示。
3.根据权利要求1或2所述的方法,其中显示所述视觉指示包括在所述显示器的相应部分中显示通知。
4.根据权利要求1至3中任一项所述的方法,其中显示所述视觉指示包括用通知屏幕至少替换所显示用户界面的一部分。
5.根据权利要求4所述的方法,其中替换所显示用户界面包括显示关于需要所述驾驶者注意以操作所述车辆的所述视觉指示被逐渐显示的动画。
6.根据权利要求1至5中任一项所述的方法,其中显示所述视觉指示包括显示关于所述车辆前方的交通信号灯已改变的交通信号灯指示。
7.根据权利要求1至6中任一项所述的方法,其中显示所述视觉指示包括显示关于所述车辆前方的另一车辆的运动已改变的车辆运动指示。
8.根据权利要求1至7中任一项所述的方法,其中显示所述视觉指示包括显示关于所述车辆将降低自主控制的所述相应程度的获取控制指示。
9.根据权利要求1至8中任一项所述的方法,其中显示所述视觉指示包括显示关于在没有驾驶者与所述车辆交互的情况下已经过了一个时间段的检查指示,所述方法还包括响应于驾驶者与所述检查指示或所述车辆中至少一者的交互,停止显示所述检查指示并重新启用所显示用户界面的所述一部分。
10.根据权利要求1至9中任一项所述的方法,其中显示所述视觉指示包括显示向所述警示系统发送响应的选项。
11.根据权利要求1至10中任一项所述的方法,其中显示所述视觉指示包括显示存储在所述非暂态存储器中的视觉内容。
12.根据权利要求1至11中任一项所述的方法,其中显示所述视觉指示还包括提供音频反馈提示或触觉反馈提示中的至少一者。
13.根据权利要求1至12中任一项所述的方法,其中至少禁用所显示用户界面的一部分包括忽略经由所述设备的一个或多个输入设备接收的至少一个用户输入。
14.根据权利要求1至13中任一项所述的方法,其中至少禁用所显示用户界面的一部分包括至少遮掩所述显示器的一部分。
15.根据权利要求1至14中任一项所述的方法,其中至少禁用所显示用户界面的一部分包括暂停内容。
16.根据权利要求1至15中任一项所述的方法,其中至少禁用所显示用户界面的一部分包括阻止来自预定义集合中的一个或多个应用程序执行。
17.根据权利要求1至16中任一项所述的方法,其中至少禁用所显示用户界面的一部分基于所述警示指示。
18.根据权利要求1至17中任一项所述的方法,其中至少禁用所显示用户界面的一部分基于在所述用户界面中显示的应用程序。
19.根据权利要求1至18中任一项所述的方法,还包括:
从集成到所述车辆中的所述警示系统接收与所述警示指示相关的第二警示指示;以及
响应于检测到所述第二警示指示:
至少禁用所显示用户界面的附加部分;并且
基于所述第二警示指示在所述显示器上显示第二视觉指示。
20.根据权利要求19所述的方法,其中禁用所显示用户界面的所述附加部分包括用通知屏幕替换所显示用户界面。
21.根据权利要求1至20中任一项所述的方法,还包括:
经由所述设备的一个或多个输入设备接收消除所述视觉指示的用户输入;以及
响应于接收到所述用户输入:
停止所述视觉指示的显示;并且
重新启用所显示用户界面的所述一部分。
22.根据权利要求1至21中任一项所述的方法,还包括:
从集成到所述车辆中的所述警示系统接收关于不再需要所述驾驶者注意以操作所述车辆的被管理指示;以及
响应于检测到所述被管理指示:
停止所述视觉指示的显示;并且
重新启用所显示用户界面的所述一部分。
23.一种电子设备,包括:
显示器;
一个或多个处理器;
非暂态存储器;和
一个或多个程序,其中所述一个或多个程序存储在所述存储器中并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行以下操作的指令:
当所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示器上显示与操作所述车辆无关的用户界面,其中所述设备是与所述车辆分开的手持设备;
当在所述显示器上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意以操作所述车辆的警示指示;以及
响应于接收到所述警示指示:
至少禁用所显示用户界面的一部分;并且
在所述显示器上显示关于需要所述驾驶者注意以操作所述车辆的视觉指示。
24.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储一个或多个程序,所述一个或多个程序包括指令,所述指令在由具有显示器的电子设备执行时,使得所述电子设备:
当所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时,在所述显示器上显示与操作所述车辆无关的用户界面,其中所述设备是与所述车辆分开的手持设备;
当在所述显示器上显示所述用户界面时,从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意以操作所述车辆的警示指示;以及
响应于接收到所述警示指示:
至少禁用所显示用户界面的一部分;并且
在所述显示器上显示关于需要所述驾驶者注意以操作所述车辆的视觉指示。
25.一种电子设备,包括:
显示器;和
用于当所述设备与集成到正以至少相应程度的自主控制操作的车辆中的警示系统通信时在所述显示器上显示与操作所述车辆无关的用户界面的装置,其中所述设备是与所述车辆分开的手持设备;
用于当在所述显示器上显示所述用户界面时从集成到所述车辆中的所述警示系统接收关于需要驾驶者注意以操作所述车辆的警示指示的装置;以及
用于响应于接收到所述警示指示而至少禁用所显示用户界面的一部分并且在所述显示器上显示关于需要所述驾驶者注意以操作所述车辆的视觉指示的装置。
26.一种电子设备,包括:
显示器;
一个或多个处理器;
非暂态存储器;和
一个或多个程序,其中所述一个或多个程序存储在所述存储器中并且被配置为由所述一个或多个处理器执行,所述一个或多个程序包括用于执行或致使执行根据权利要求1至22所述的方法中的任一方法的指令。
27.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储一个或多个程序,所述一个或多个程序包括指令,所述指令当由具有显示器和输入设备的电子设备执行时,使得所述电子设备执行或致使执行根据权利要求1至22所述的方法中的任一方法。
28.一种电子设备,包括:
显示器;和
用于执行或致使执行根据权利要求1至22所述的方法中的任一方法的装置。
29.一种电子设备上的图形用户界面,所述电子设备具有显示器、输入设备、非暂态存储器和用于执行存储在所述非暂态存储器中的一个或多个程序的一个或多个处理器,所述图形用户界面包括根据权利要求1至22所述的方法中的任一方法显示的用户界面。
30.一种信息处理装置,所述信息处理装置用于在具有显示器的电子设备中使用,所述信息处理装置包括:
用于执行或致使执行根据权利要求1至22所述的方法中的任一方法的装置。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201762506721P | 2017-05-16 | 2017-05-16 | |
US62/506,721 | 2017-05-16 | ||
PCT/US2018/023489 WO2018212829A1 (en) | 2017-05-16 | 2018-03-21 | Device, method, and graphical user interface for presenting vehicular notifications |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110651244A true CN110651244A (zh) | 2020-01-03 |
CN110651244B CN110651244B (zh) | 2023-07-04 |
Family
ID=61966065
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201880031256.5A Active CN110651244B (zh) | 2017-05-16 | 2018-03-21 | 用于呈现车辆通知的设备、方法和图形用户界面 |
Country Status (4)
Country | Link |
---|---|
US (1) | US10683015B2 (zh) |
EP (1) | EP3593237A1 (zh) |
CN (1) | CN110651244B (zh) |
WO (1) | WO2018212829A1 (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108595084A (zh) * | 2018-03-23 | 2018-09-28 | 蔚来汽车有限公司 | 通知信息处理方法和系统、计算机设备和存储介质 |
CN113552849A (zh) * | 2020-04-24 | 2021-10-26 | 华晨宝马汽车有限公司 | 消除车辆涂装缺陷的方法、系统、介质和装置 |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6960792B2 (ja) * | 2017-07-26 | 2021-11-05 | 株式会社デンソーテン | 情報出力装置および情報出力方法 |
US10713817B2 (en) * | 2018-03-21 | 2020-07-14 | Oriol Oliva-Perez | External environment color change detection device for vehicles |
JP7070298B2 (ja) * | 2018-09-28 | 2022-05-18 | 株式会社Jvcケンウッド | 業務支援システムおよび業務支援方法 |
DE102018222664B3 (de) | 2018-12-20 | 2020-06-04 | Volkswagen Aktiengesellschaft | Autonom fahrendes Taxi sowie Verfahren zum Betrieb eines autonom fahrenden Taxis |
JP7311295B2 (ja) * | 2019-03-29 | 2023-07-19 | 本田技研工業株式会社 | 制御装置、制御方法及びプログラム |
USD942480S1 (en) * | 2019-04-10 | 2022-02-01 | Siemens Aktiengesellschaft | Electronic device with graphical user interface |
JP1714491S (ja) * | 2020-07-20 | 2022-05-12 | 車両用表示装置 | |
JP1714487S (ja) * | 2020-07-20 | 2022-05-12 | 車両用表示装置 | |
USD967854S1 (en) * | 2020-07-20 | 2022-10-25 | Bosch Automotive Products (Suzhou) Co. Ltd. | Display screen with an animated graphical user interface |
USD967855S1 (en) * | 2020-07-20 | 2022-10-25 | Bosch Automotive Products (Suzhou) Co. Ltd. | Display screen with an animated graphical user interface |
JP1714490S (ja) * | 2020-07-20 | 2022-05-11 | 車両用表示装置 | |
JP7226410B2 (ja) * | 2020-08-04 | 2023-02-21 | トヨタ自動車株式会社 | 車載インターフェース装置 |
CN117009927A (zh) * | 2022-04-27 | 2023-11-07 | 华为技术有限公司 | 一种应用显示方法、装置及车载终端 |
US20230391189A1 (en) * | 2022-06-04 | 2023-12-07 | Apple Inc. | Synchronized rendering |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1971656A (zh) * | 2006-12-21 | 2007-05-30 | 李毅 | 一种能对机动车和驾驶员进行可靠管理的电子检测系统 |
US20150375757A1 (en) * | 2014-06-30 | 2015-12-31 | Robert Bosch Gmbh | Autonomous driving system for a vehicle and method for carrying out the operation |
US9648107B1 (en) * | 2011-04-22 | 2017-05-09 | Angel A. Penilla | Methods and cloud systems for using connected object state data for informing and alerting connected vehicle drivers of state changes |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20060166656A1 (en) * | 2005-01-24 | 2006-07-27 | Michael Klicpera | Cell or mobile phone, and wireless PDA traffic advisory method |
US20080082936A1 (en) * | 2006-09-28 | 2008-04-03 | Richard Eric Helvick | Method and system for displaying alternative task data on mobile electronic device |
NZ596948A (en) * | 2009-05-08 | 2014-05-30 | Obdedge Llc | Systems, methods, and devices for policy-based control and monitoring of use of mobile devices by vehicle operators |
US20120001748A1 (en) * | 2010-06-30 | 2012-01-05 | Norman Ladouceur | Methods and apparatus for visually supplementing a graphical user interface |
JP2014113873A (ja) * | 2012-12-07 | 2014-06-26 | Honda Motor Co Ltd | 車両用連携システム |
WO2014152628A1 (en) * | 2013-03-15 | 2014-09-25 | Savant Systems, Llc | Remote motion control using a general-purpose wireless mobile device |
DE102014007621A1 (de) * | 2014-05-22 | 2014-10-23 | Daimler Ag | Verfahren zur Darstellung von wenigstens ein Fahrzeug betreffenden Informationen |
US9616923B2 (en) * | 2015-03-03 | 2017-04-11 | Ford Global Technologies, Llc | Topographical integration for trailer backup assist system |
US20170072850A1 (en) * | 2015-09-14 | 2017-03-16 | Pearl Automation Inc. | Dynamic vehicle notification system and method |
-
2018
- 2018-03-21 EP EP18717466.9A patent/EP3593237A1/en active Pending
- 2018-03-21 WO PCT/US2018/023489 patent/WO2018212829A1/en unknown
- 2018-03-21 CN CN201880031256.5A patent/CN110651244B/zh active Active
- 2018-05-12 US US15/978,112 patent/US10683015B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1971656A (zh) * | 2006-12-21 | 2007-05-30 | 李毅 | 一种能对机动车和驾驶员进行可靠管理的电子检测系统 |
US9648107B1 (en) * | 2011-04-22 | 2017-05-09 | Angel A. Penilla | Methods and cloud systems for using connected object state data for informing and alerting connected vehicle drivers of state changes |
US20150375757A1 (en) * | 2014-06-30 | 2015-12-31 | Robert Bosch Gmbh | Autonomous driving system for a vehicle and method for carrying out the operation |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108595084A (zh) * | 2018-03-23 | 2018-09-28 | 蔚来汽车有限公司 | 通知信息处理方法和系统、计算机设备和存储介质 |
CN113552849A (zh) * | 2020-04-24 | 2021-10-26 | 华晨宝马汽车有限公司 | 消除车辆涂装缺陷的方法、系统、介质和装置 |
Also Published As
Publication number | Publication date |
---|---|
US20180334175A1 (en) | 2018-11-22 |
CN110651244B (zh) | 2023-07-04 |
US10683015B2 (en) | 2020-06-16 |
WO2018212829A1 (en) | 2018-11-22 |
EP3593237A1 (en) | 2020-01-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110651244B (zh) | 用于呈现车辆通知的设备、方法和图形用户界面 | |
AU2020217360B2 (en) | Devices, methods, and graphical user interfaces for moving a current focus using a touch-sensitive remote control | |
US11861159B2 (en) | Devices, methods, and graphical user interfaces for selecting and interacting with different device modes | |
EP3469470B1 (en) | Accelerated scrolling | |
EP3008565B1 (en) | Device and method for providing navigation and search functionalities | |
EP3149923B1 (en) | User interface for phone call routing among devices | |
EP3547316A1 (en) | Device, method, and graphical user interface for navigating media content | |
US20130055119A1 (en) | Device, Method, and Graphical User Interface for Variable Speed Navigation | |
US20210312404A1 (en) | Device, Method, and Graphical User Interface for Changing the Time of a Calendar Event | |
US20200379946A1 (en) | Device, method, and graphical user interface for migrating data to a first device during a new device set-up workflow | |
US11287960B2 (en) | Device, method, and graphical user interface for moving drawing objects | |
WO2016137900A1 (en) | Mechanism for providing user-programmable button | |
US11275499B2 (en) | Device, method, and graphical user interface for changing a number of columns of an application region |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |