CN113874824A - 用于管理输入技术的用户界面 - Google Patents
用于管理输入技术的用户界面 Download PDFInfo
- Publication number
- CN113874824A CN113874824A CN202080039148.XA CN202080039148A CN113874824A CN 113874824 A CN113874824 A CN 113874824A CN 202080039148 A CN202080039148 A CN 202080039148A CN 113874824 A CN113874824 A CN 113874824A
- Authority
- CN
- China
- Prior art keywords
- keyboard
- size
- display device
- contacts
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims description 135
- 230000000007 visual effect Effects 0.000 claims abstract description 169
- 230000033001 locomotion Effects 0.000 claims description 134
- 238000013518 transcription Methods 0.000 claims description 122
- 230000035897 transcription Effects 0.000 claims description 122
- 230000004044 response Effects 0.000 claims description 113
- 230000004913 activation Effects 0.000 claims description 40
- 238000003860 storage Methods 0.000 claims description 30
- 230000007704 transition Effects 0.000 claims description 24
- 230000000694 effects Effects 0.000 claims description 9
- 230000003247 decreasing effect Effects 0.000 claims description 7
- 230000002829 reductive effect Effects 0.000 description 81
- 238000004891 communication Methods 0.000 description 28
- 230000008569 process Effects 0.000 description 24
- 230000003287 optical effect Effects 0.000 description 23
- 230000007423 decrease Effects 0.000 description 21
- 238000001514 detection method Methods 0.000 description 21
- 230000006870 function Effects 0.000 description 19
- 230000002093 peripheral effect Effects 0.000 description 19
- 238000005516 engineering process Methods 0.000 description 16
- 238000010586 diagram Methods 0.000 description 13
- 238000012545 processing Methods 0.000 description 13
- 241000699666 Mus <mouse, genus> Species 0.000 description 12
- 238000007726 management method Methods 0.000 description 11
- 230000007246 mechanism Effects 0.000 description 11
- 230000008859 change Effects 0.000 description 9
- 238000005259 measurement Methods 0.000 description 8
- 238000009499 grossing Methods 0.000 description 7
- 230000000977 initiatory effect Effects 0.000 description 7
- 230000001186 cumulative effect Effects 0.000 description 6
- 230000001976 improved effect Effects 0.000 description 6
- 238000012360 testing method Methods 0.000 description 6
- 230000003213 activating effect Effects 0.000 description 5
- 238000006073 displacement reaction Methods 0.000 description 5
- 230000001149 cognitive effect Effects 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 230000003993 interaction Effects 0.000 description 4
- 239000003550 marker Substances 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000009877 rendering Methods 0.000 description 4
- 230000021317 sensory perception Effects 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000001413 cellular effect Effects 0.000 description 3
- 238000003384 imaging method Methods 0.000 description 3
- 230000000670 limiting effect Effects 0.000 description 3
- 239000007787 solid Substances 0.000 description 3
- 241001422033 Thestylus Species 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000013503 de-identification Methods 0.000 description 2
- 238000003825 pressing Methods 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000035807 sensation Effects 0.000 description 2
- 230000005236 sound signal Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 241000699670 Mus sp. Species 0.000 description 1
- 230000004931 aggregating effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000010420 art technique Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000033228 biological regulation Effects 0.000 description 1
- 238000013480 data collection Methods 0.000 description 1
- 230000001934 delay Effects 0.000 description 1
- 230000000881 depressing effect Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 229920001746 electroactive polymer Polymers 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000007620 mathematical function Methods 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 230000002085 persistent effect Effects 0.000 description 1
- 229920000642 polymer Polymers 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 238000002407 reforming Methods 0.000 description 1
- 230000010076 replication Effects 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
- 238000010079 rubber tapping Methods 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000010897 surface acoustic wave method Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04883—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures for inputting data by handwriting, e.g. gesture or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/0482—Interaction with lists of selectable items, e.g. menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/0485—Scrolling or panning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/0486—Drag-and-drop
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
- G06F3/04886—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures by partitioning the display area of the touch-screen or the surface of the digitising tablet into independently controllable areas, e.g. virtual keyboards or menus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
- G06F2203/048—Indexing scheme relating to G06F3/048
- G06F2203/04808—Several contacts: gestures triggering a specific function, e.g. scrolling, zooming, right-click, when the user establishes several contacts with the surface simultaneously; e.g. using several fingers or a combination of fingers and pen
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- General Health & Medical Sciences (AREA)
- User Interface Of Digital Computer (AREA)
Abstract
本公开整体涉及管理输入设备。在一些实施方案中,对键盘进行调整。在一些实施方案中,提供了音频输入的视觉反馈。
Description
相关申请的交叉引用
本申请要求2019年6月1日提交的名称为“USER INTERFACE FOR MANAGING INPUTTECHNIQUES”的美国临时专利申请第62/856,041号以及2020年3月20日提交的名称为“USERINTERFACE FOR MANAGING INPUT TECHNIQUES”的美国专利申请第16/825,908号的优先权,这些专利申请中的每一个的内容出于所有目的全文以引用方式并入。
技术领域
本公开整体涉及计算机用户界面,更具体地讲,涉及用于管理输入技术的技术。
背景技术
电子设备提供了用于管理用户输入的各种技术。一些触摸屏设备提供使得用户能够提供键盘输入的屏幕上键盘。此类屏幕上键盘占据显示空间的一部分。一些设备提供允许用户提供音频输入的音频转录能力。
发明内容
然而,用于使用电子设备来管理输入技术的一些技术通常很麻烦且效率低下。例如,一些现有技术使用复杂且耗时的用户界面,该用户界面可包括多次按键或击键。又如,一些技术占用了大量显示空间,从而减少了可显示的其他内容的量。现有技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
因此,本技术为电子设备提供了用于管理输入技术的更快、更有效的方法和界面。此类方法和界面可选地补充或替换用于管理输入技术的其他方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。此类方法和界面减少了操作所需的显示空间的量,从而使得设备能够显示附加内容。对于电池驱动的计算设备,此类方法和界面节省功率,并且增大电池充电之间的时间间隔。
本文公开了示例方法。一种示例性方法包括,在电子设备处,显示设备和触敏表面:在显示设备上以第一尺寸显示键盘,该键盘包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;在以第一尺寸显示键盘时,使用触敏表面检测包括一组两个或更多个接触的第一手势;响应于检测到第一手势的至少一部分:根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动时满足的第一调整标准:在显示设备上将键盘的显示调整为小于第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定;在以第二尺寸显示键盘时,使用触敏表面检测该组两个或更多个接触的抬离;以及响应于检测到该组两个或更多个接触的抬离:根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值量值时满足的第一抬离标准:在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸。
本文描述了示例非暂态计算机可读存储介质。示例性非暂态计算机可读存储介质存储被配置为由具有显示设备和触敏表面的电子设备的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在显示设备上以第一尺寸显示键盘,键盘包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;在以第一尺寸显示键盘时,使用触敏表面检测包括一组两个或更多个接触的第一手势;响应于检测到第一手势的至少一部分:根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动时满足的第一调整标准:在显示设备上将键盘的显示调整为小于第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定;在以第二尺寸显示键盘时,使用触敏表面检测该组两个或更多个接触的抬离;以及响应于检测到该组两个或更多个接触的抬离:根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值量值时满足的第一抬离标准:在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸。
本文描述了示例暂态计算机可读存储介质。示例性暂态计算机可读存储介质存储被配置为由具有显示设备和触敏表面的电子设备的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在显示设备上以第一尺寸显示键盘,该键盘包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;在以第一尺寸显示键盘时,使用触敏表面检测包括一组两个或更多个接触的第一手势;响应于检测到第一手势的至少一部分:根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动时满足的第一调整标准:在显示设备上将键盘的显示调整为小于第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定;在以第二尺寸显示键盘时,使用触敏表面检测该组两个或更多个接触的抬离;以及响应于检测到该组两个或更多个接触的抬离:根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值量值时满足的第一抬离标准:在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸。
本文描述了示例电子设备。一种示例电子设备包括显示设备;触敏表面;一个或多个处理器;和存储器,该存储器存储被配置为由一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在显示设备上以第一尺寸显示键盘,该键盘包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;在以第一尺寸显示键盘时,使用触敏表面检测包括一组两个或更多个接触的第一手势;响应于检测到第一手势的至少一部分:根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动时满足的第一调整标准:在显示设备上将键盘的显示调整为小于第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定;在以第二尺寸显示键盘时,使用触敏表面检测该组两个或更多个接触的抬离;以及响应于检测到该组两个或更多个接触的抬离:根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值量值时满足的第一抬离标准:在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸。
一种示例电子设备包括:显示设备;触敏表面;用于在显示设备上以第一尺寸显示键盘的装置,该键盘包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;用于在以第一尺寸显示键盘时,使用触敏表面检测包括一组两个或更多个接触的第一手势的装置;用于响应于检测到第一手势的至少一部分进行以下操作的装置:根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动时满足的第一调整标准:在显示设备上将键盘的显示调整为小于第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定;用于在以第二尺寸显示键盘时,使用触敏表面检测该组两个或更多个接触的抬离的装置;用于响应于检测到该组两个或更多个接触的抬离进行以下操作的装置:根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值量值时满足的第一抬离标准:在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸。
一种示例性方法包括,在具有显示设备和音频输入设备的电子设备处:在显示设备上不显示文本输入字段和转录示能表示时,接收请求;响应于接收到该请求,在显示设备上同时显示:文本输入字段和转录示能表示;检测第一用户输入;响应于检测到第一用户输入:根据确定满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准:在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及根据确定不满足第一组转录标准:放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象。
一种示例性非暂态计算机可读存储介质,该非暂态计算机可读存储介质存储被配置为由具有显示设备和音频输入设备的电子设备的一个或多个处理器执行的一个或多个程序,一个或多个程序包括用于以下操作的指令:在显示设备上不显示文本输入字段和转录示能表示时,接收请求;响应于接收到该请求,在显示设备上同时显示:文本输入字段和转录示能表示;检测第一用户输入;响应于检测到第一用户输入:根据确定满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准:在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及根据确定不满足第一组转录标准:放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象。
一种示例性暂态计算机可读存储介质,该暂态计算机可读存储介质存储被配置为由具有显示设备和音频输入设备的电子设备的一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于以下操作的指令:在显示设备上不显示文本输入字段和转录示能表示时,接收请求;响应于接收到该请求,在显示设备上同时显示:文本输入字段和转录示能表示;检测第一用户输入;响应于检测到第一用户输入:根据确定满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准:在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及根据确定不满足第一组转录标准:放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象。
一种示例电子设备包括显示设备;音频输入设备;一个或多个处理器;和存储器,该存储器存储被配置为由一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于执行以下操作的指令:在显示设备上不显示文本输入字段和转录示能表示时,接收请求;响应于接收到该请求,在显示设备上同时显示:文本输入字段和转录示能表示;检测第一用户输入;响应于检测到第一用户输入:根据确定满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准:在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及根据确定不满足第一组转录标准:放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象。
一种示例电子设备包括显示设备;音频输入设备;用于在显示设备上不显示文本输入字段和转录示能表示时,接收请求的装置;用于响应于接收到该请求,在显示设备上同时显示文本输入字段和转录示能表示的装置;用于检测第一用户输入的装置;用于响应于检测到第一用户输入而执行以下操作的装置:根据确定满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准:在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及根据确定不满足第一组转录标准:放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此,为设备提供了用于管理输入技术的更快、更高效的方法和界面,从而提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于管理输入技术的其他方法。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出了根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出了根据一些实施方案的个人电子设备的框图。
图5C-图5D示出了根据一些实施方案的具有触敏显示器和强度传感器的个人电子设备的示例性部件。
图5E-图5H示出了根据一些实施方案的个人电子设备的示例性部件和用户界面。
图6A至图6W示出了根据一些实施方案的用于管理键盘的示例性用户界面。
图7是示出根据一些实施方案的用于管理键盘的方法的流程图。
图8A至图8K示出了根据一些实施方案的用于提供针对音频输入的视觉反馈的示例性用户界面。
图9是示出了根据一些实施方案的用于提供针对音频输入的视觉反馈的方法的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而,应当认识到,此类描述并非意在限制本公开的范围,而是作为对示例性实施方案的描述来提供。
电子设备需要提供更有效的方法和界面以用于管理输入技术。例如,减少提供此类技术所需的显示空间的量使得设备能够显示附加内容。此类技术可减轻向设备提供输入的用户的认知负担,从而提高生产率。此外,此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
下面图1A-图1B、图2、图3、图4A-图4B和图5A-图5H提供了对用于执行管理事件通知的技术的示例性设备的描述。图6A至图6W示出了根据一些实施方案的用于管理键盘的示例性用户界面。图7是示出根据一些实施方案的用于管理键盘的方法的流程图。图6A至图6W中的用户界面被用于示出下文所述的过程,这些过程包括图7中的过程。图8A至图8K示出了根据一些实施方案的用于提供针对音频输入的视觉反馈的示例性用户界面。图9是示出了根据一些实施方案的用于提供针对音频输入的视觉反馈的方法的流程图。图8A至图8K中的用户界面被用于示出下文所述的过程,这些过程包括图9中的过程。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件,但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如,第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的设备、iPod设备、和设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触控板)的膝上型电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触控板)的台式计算机。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户界面设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏表面(诸如设备100的触敏显示器系统112或设备300的触控板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的,术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触笔的压敏顶端任选地用于确定触笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的大小和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现,包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。一个或多个处理器120运行或执行存储器102中所存储的各种软件程序和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE 802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口,该外围设备为诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161,以及用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些另选实施方案中,输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者):键盘、红外线端口、USB端口以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如,图2中的206)。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程,如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专利No.7,657,849)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到触摸屏112。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.(Cupertino,California)的和iPod中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触控板:6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1,该每个专利据此全文以引用方式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触控板不提供视觉输出。
在一些实施方案中,触摸屏112的触敏显示器如以下专利申请所述:(1)提交于2006年5月2日的名称为“Multipoint Touch Surface Controller”的美国专利申请No.11/381,313;(2)2004年5月6日提交的名称为“Multipoint Touchscreen”的美国专利申请No.10/840,862;(3)2004年7月30日提交的名称为“Gestures For Touch Sensitive InputDevices”的美国专利申请No.10/903,964;(4)2005年1月31日提交的名称为“Gestures ForTouch Sensitive Input Devices”的美国专利申请No.11/048,264;(5)2005年1月18日提交的名称为“Mode-Based Graphical User Interfaces For Touch Sensitive InputDevices”的美国专利申请No.11/038,590;(6)2005年9月16日提交的名称为“VirtualInput Device Placement On A Touch Screen User Interface”的美国专利申请No.11/228,758;(7)2005年9月16日提交的名称为“Operation Of A Computer With A TouchScreen Interface”的美国专利申请No.11/228,700;(8)2005年9月16日提交的名称为“Activating Virtual Keys Of A Touch-Screen Virtual Keyboard”的美国专利申请No.11/228,737;以及(9)2006年3月3日提交的名称为“Multi-Functional Hand-HeldDevice”的美国专利申请No.11/367,749。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触笔、手指等等来与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地包括用于激活或去激活特定功能的触控板。在一些实施方案中,触控板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触控板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如,深度相机传感器)创建场景内的对象(例如,面部)的三维模型。在一些实施方案中,结合成像模块143(也称为相机模块),深度相机传感器175可选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中,深度相机传感器位于设备100的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议,并且捕捉具有深度图数据的自拍。在一些实施方案中,深度相机传感器175位于设备的后部,或者设备100的后部和前部。在一些实施方案中,深度相机传感器175的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
在一些实施方案中,深度图(例如,深度图图像)包含与场景中的对象距视点(例如,相机、光学传感器、深度相机传感器)的距离相关的信息(例如,值)。在深度图的一个实施方案中,每个深度像素定义视点的Z轴中其对应的二维像素所在的位置。在一些实施方案中,深度图由像素组成,其中每个像素由值(例如,0到255)定义。例如,“0”值表示位于“三维”场景中距离视点(例如,相机、光学传感器、深度相机传感器)最远处的像素,“255”值表示位于“三维”场景中距离视点最近处的像素。在其他实施方案中,深度图表示场景中的对象与视点的平面之间的距离。在一些实施方案中,深度图包括关于深度相机的视野中感兴趣对象的各种特征的相对深度的信息(例如,用户面部的眼睛、鼻部、嘴部、耳朵的相对深度)。在一些实施方案中,深度图包括使设备能够确定感兴趣对象在z方向上的轮廓的信息。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地,接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行:No.11/241,839,名称为“Proximity Detector In Handheld Device”;No.11/240,788,名称为“ProximityDetector In Handheld Device”;No.11/620,702,名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”;No.11/586,862,名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”;以及No.11/638,251,名称为“Methods And Systems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件;和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如,用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地,加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行:美国专利公开No.20050190059,名称为“Acceleration-based Theft Detection System for PortableElectronic Devices”和美国专利公开No.20060017692,名称为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,其指示什么应用程序、视图或其他信息占据触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制设备116获得的信息;以及关于设备的位置和/或姿态的位置信息。
操作系统126(例如,Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如,触控板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触控板上的接触。
在一些实施方案中,接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,其非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置,并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用;提供给相机143作为图片/视频元数据;以及提供给提供基于位置的服务的应用,诸如天气桌面小程序、本地黄页桌面小程序和地图/导航桌面小程序)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块147;
·日历模块148;
·桌面小程序模块149,其任选地包括以下各项中的一者或多者:天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6;
·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150;
·搜索模块151;
·视频和音乐播放器模块152,其合并视频播放器模块和音乐播放器模块;
·备忘录模块153;
·地图模块154;以及/或者
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134,联系人模块137任选地用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个姓名;从通讯录删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,即时消息模块141包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块,健身支持模块142包括用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144,相机模块143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征,或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,浏览器模块147包括用于根据用户指令来浏览互联网,包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如,天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)或由用户创建的微型应用程序(例如,用户创建的桌面小程序149-6)。在一些实施方案中,桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!桌面小程序)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,桌面小程序创建器模块150任选地被用户用于创建桌面小程序(例如,将网页的用户指定部分转变为桌面小程序)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,备忘录模块153包括用于根据用户指令来创建和管理备忘录、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必以独立的软件程序、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触控板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触控板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触控板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触控板。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)以及相应的应用程序136-1(例如,前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,触敏显示器112上的用户触摸,作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(187)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所识别的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建并更新在应用程序136-1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178,或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触控板上的接触移动,诸如轻击、拖动、滚动等;触笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“home”或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁过程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM,或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如,指令集)不必被实现为单独的软件程序、过程或模块,并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402;
·时间404;
·蓝牙指示符405;
·电池状态指示符406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
ο电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音信箱的数量的指示符414;
ο电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
ο浏览器模块147的标记为“浏览器”的图标420;以及
ο视频和音乐播放器模块152(也称为iPod(苹果公司(AppleInc.)的商标)模块152)的被标记为“iPod”的图标422;以及
·其他应用的图标,诸如:
οIM模块141的被标记为“消息”的图标424;
ο日历模块148的被标记为“日历”的图标426;
ο图像管理模块144的被标记为“照片”的图标428;
ο相机模块143的被标记为“相机”的图标430;
ο在线视频模块155的被标记为“在线视频”的图标432;
ο股市桌面小程序149-2的被标记为“股市”的图标434;
ο地图模块154的被标记为“地图”的图标436;
ο天气桌面小程序149-1的被标记为“天气”的图标438;
ο闹钟桌面小程序149-4的被标记为“时钟”的图标440;
ο健身支持模块142的被标记为“健身支持”的图标442;
ο备忘录模块153的标记为“备忘录”的图标444;以及
ο设置应用程序或模块的被标记为“设置”的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是,图4A中示出的图标标签仅是示例性的。例如,视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如,触摸屏显示器112)分开的触敏表面451(例如,图3的平板电脑或触控板355)的设备(例如,图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,设备检测在与显示器上的相应位置对应的位置(例如,在图4B中,460对应于468并且462对应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,当触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)分开时,由设备在该触敏表面上检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中,设备500可包括相对于设备100和300(例如,图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中:2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列No.PCT/US2013/040061,发布为WIPO专利公开No.WO/2013/169849;以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/US2013/069483,发布为WIPO专利公开No.WO/2014/105276,该每个专利申请据此全文以引用方式并入。
在一些实施方案中,设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B示出了示例性个人电子设备500。在一些实施方案中,设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512,该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感器)。此外,I/O部分514可与通信单元530连接,用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。例如,输入机构506任选地是可旋转输入设备或者可按压输入设备以及可旋转输入设备。在一些示例中,输入机构508任选地是按钮。
在一些示例中,输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器,诸如GPS传感器532、加速度计534、定向传感器540(例如,罗盘)、陀螺仪536、运动传感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,该可执行指令当由一个或多个计算机处理器516执行时例如可使得计算机处理器执行下文所述技术,包括过程700和900(图7和图9)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如,图像(例如,图标)、按钮和文本(例如,超链接)任选地各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元件。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图3中的触控板355或图4B中的触敏表面451)上检测到输入(例如,按压输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据焦点在用户界面的不同区域之间的移动而移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触控板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者:接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10%处的值、接触的强度的半最大值、接触的强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
图5C示出了利用多个强度传感器524A-524D检测触敏显示屏504上的多个接触552A-552E。图5C还包括强度图,其相对于强度单位示出了强度传感器524A-524D的当前强度测量值。在该示例中,强度传感器524A和524D的强度测量值均是9个强度单位,并且强度传感器524B和524C的强度测量值均是7个强度单位。在一些具体实施中,累积强度是多个强度传感器524A-524D的强度测量值之和,在该示例中是32个强度单位。在一些实施方案中,每个接触都被分配了相应强度,即累积强度的一部分。图5D示出了基于其与力554中心的距离而向接触552A-552E分配累积强度。在该示例中,接触552A、552B和552E中的每个接触都被分配以累积强度的8个强度单位的接触的强度,并且接触552C和552D的中每个接触都被分配以累积强度的4个强度单位的接触的强度。更一般地,在一些具体实施中,每个接触j都根据预定义的数学函数Ij=A·(Dj/ΣDi)被分配相应强度Ij,其为累积强度A的一部分,其中Dj是相应接触j距力中心的距离,并且ΣDi是所有相应接触(例如,i=1到最后)距力中心的距离之和。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5C-图5D所述的操作。在一些实施方案中,接触的特征强度基于接触的一个或多个强度。在一些实施方案中,强度传感器用于确定单个特征强度(例如,单个接触的单个特征强度)。应当指出,强度图不是所显示用户界面的部分,而是包括在图5C-图5D中以辅助读者。
在一些实施方案中,识别手势的一部分以用于确定特征强度。例如,触敏表面任选地接收连续的轻扫接触,该连续的轻扫接触从起始位置过渡并到达结束位置,在该结束位置处,接触强度增加。在该示例中,接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触的部分)。在一些实施方案中,在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如,平滑化算法任选地包括以下各项中的一种或多种:不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷,以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
在本文中所述的一些实施方案中,响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作,其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。
图5E-图5H示出了对手势的检测,手势包括与接触562的强度从低于图5E中的轻按压强度阈值(例如,“ITL”)的强度增大到高于图5H中的深按压强度阈值(例如,“ITD”)的强度对应的按压输入。在所显示的包括预定义区域574中显示的应用图标572A-572D的用户界面570上,在与应用2对应的应用图标572B上方显示光标576时,在触敏表面560上检测利用接触562执行的手势。在一些实施方案中,在触敏显示器504上检测到手势。强度传感器检测触敏表面560上的接触的强度。该设备确定接触562的强度在深按压强度阈值(例如,“ITD”)以上达到峰值。在触敏表面560上保持接触562。响应于检测到手势,并且根据在手势期间强度升高到深按压强度阈值(例如,“ITD”)以上的接触562,显示最近为应用2打开的文档的缩比表示578A-578C(例如,缩略图),如图5F-图5H所示。在一些实施方案中,与一个或多个强度阈值相比,强度是接触的特征强度。应当指出,针对接触562的强度图不是所显示用户界面的部分,而是包括在图5E-图5H中以辅助读者。
在一些实施方案中,表示578A-578C的显示包括动画。例如,表示578A一开始显示于应用图标572B的附近,如图5F所示。随着动画的进行,表示578A向上移动,并在应用图标572B附近显示表示578B,如图5G中所示。然后,表示578A向上移动,578B朝表示578A向上移动,并且在应用图标572B附近显示表示578C,如图5H中所示。表示578A-578C在图标572B上方形成阵列。在一些实施方案中,动画根据接触562的强度进展,如图5F-图5G中所示,其中表示578A-578C出现并随着接触562的强度向深按压强度阈值(例如,“ITD”)增大而向上移动。在一些实施方案中,动画进展所依据的强度是接触的特征强度。可以利用类似于或等同于设备100、300或500的电子设备执行参考图5E至图5H所述的操作。
在一些实施方案中,设备采用强度滞后以避免有时被称为“抖动”的意外输入,其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如,滞后强度阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
为了容易解释,任选地,响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
如本文所用,“已安装的应用”是指已下载到电子设备(例如,设备100、300和/或500)上并准备好在设备上启动(例如,变为打开)的软件应用。在一些实施方案中,下载的应用利用安装程序而变为已安装的应用,安装程序从下载的软件包提取程序部分并将提取的部分与计算机系统的操作系统集成。
如本文所用,术语“打开的应用”或“执行中的应用”是指具有保持状态信息(例如,作为设备/全局内部状态157和/或应用内部状态192的一部分)的软件应用。打开的或执行中的应用是任选地以下类型的应用中的任一者:
·当前显示于正使用应用的设备的显示屏上的活动应用;
·后台应用(或后台进程),其当前未显示但该应用的一个或多个进程正由一个或多个处理器处理;和
·没有运行但具有被存储在存储器(分别有易失性和非易失性的)中并可用于恢复应用的执行的状态信息的暂停的或休眠的应用。
如本文所用,术语“关闭的应用”是指不具有保持状态信息的软件应用(例如,关闭的应用的状态信息不被存储在设备的存储器中)。因此,关闭应用包括停止和/或移除应用的应用进程以及从设备的存储器移除应用的状态信息。一般来讲,当在第一应用中时,打开第二应用并不关闭第一应用。在显示第二应用并且第一应用停止显示时,第一应用变为后台应用。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6W示出了根据一些实施方案的用于管理键盘的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图7中的过程的过程。
图6A示出了包括与触敏表面集成的显示设备602的电子设备600。在一些实施方案中,电子设备600包括设备100、300或500的一个或多个特征。电子设备600在显示设备602上显示用户界面604(例如,备忘录应用程序的界面)。用户界面604包括键盘606。如图6A所示,键盘606包括对应于QWERTY布局的一组按键。当键盘606的按键被激活时,对应的字符被添加到输入区域608(例如,文本输入字段、搜索字段、文档)中。如图6A所示,键盘606延伸显示设备602的整个宽度并邻接显示设备602的底部边缘(在横向取向上)。
图6B示出了显示设备602上对应于键盘606的位置处的接触603(例如,键盘606上的两个并发手指接触)。接触603彼此远离地移动,以在键盘606上执行展开手势。在一些实施方案中,当接触603的移动距离超过彼此远离阈值距离时,电子设备600检测展开手势。接触603不引起键盘606的任何按键的激活,并且没有字符被添加到输入区域608中。
如图6C所示,当电子设备600检测到由接触603执行的展开手势时,键盘606的高度和宽度都被放大(例如,以比图6A所示的键盘606更大的尺寸显示)。在一些实施方案中,键盘606的尺寸放大量基于接触603彼此远离移动的距离。在一些实施方案中,当接触603远离彼此移动时,键盘606被显示为随着接触603的移动而改变尺寸(例如,在过渡到另一尺寸期间动画)。在一些实施方案中,键盘606的各个按键随着键盘改变尺寸而改变尺寸,同时保持各个按键的纵横比。当在显示设备602上继续检测到接触603(例如,未检测到手指的抬离)时,键盘606继续以放大尺寸显示。
如图6D所示,当接触603被释放(例如,检测到手指的抬离)时,键盘606在检测到展开手势之前返回到先前的尺寸(例如,图6A所示的键盘606的尺寸),从而向用户指示键盘不能扩展(和保持)超过图6D所示的全尺寸。
图6E示出了显示设备602上对应于键盘606的位置处的接触605(例如,键盘606上的两个并发手指接触)。接触605朝向彼此移动,以在键盘606上执行捏合手势。在一些实施方案中,当接触605的移动距离超过朝向彼此的阈值距离时,电子设备600检测捏合手势。接触605不引起键盘606的任何按键的激活,并且没有字符被添加到输入区域608中。
如图6F所示,当电子设备600检测到由接触605执行的捏合手势时,键盘606的高度和宽度都被减小(例如,以比图6A所示的键盘606更小的尺寸显示)。在一些实施方案中,键盘606的尺寸被减小的量基于接触605朝向彼此移动的距离。在一些实施方案中,当接触605朝向彼此移动时,键盘606被显示为随着接触605的移动而改变尺寸(例如,在过渡到另一尺寸期间动画)。在一些实施方案中,键盘606的各个按键随着键盘改变尺寸而改变尺寸,同时保持各个按键的纵横比。当在显示设备602上继续检测到接触605(例如,未检测到手指的抬离)时,键盘606继续以减小尺寸显示。
如果接触605没有朝向彼此移动超过阈值距离(例如,键盘606没有减小到阈值尺寸),则当接触605被释放时(例如,检测到手指的抬离),键盘606在检测到捏合手势之前返回到先前的尺寸(例如,图6D所示的键盘606的尺寸)。如果接触605朝向彼此移动超过阈值距离(例如,键盘606减小到至少阈值尺寸),则当接触605被释放时(例如,检测到手指的抬离),在接触被释放之后,键盘606继续以减小的尺寸(或以更小的预先确定的尺寸)被显示(例如,如图6I所示)。
当图6F所示的接触605被释放(例如,检测到手指的抬离)时,键盘610返回到以全尺寸显示,如图6G所示,因为捏合手势605的量值小于阈值。当用户释放输入时,以全尺寸显示键盘向用户指示键盘的尺寸可减小,但需要更大的捏合手势(具有更大的量值)。
如图6G所示,检测另一个捏合手势,其中,两个接触607中的一个接触朝向另一个接触移动以在键盘606上执行捏合手势。接触607不引起键盘606的任何按键的激活,并且没有字符被添加到输入区域608中。当接触607中的一个接触朝另一个接触移动时,键盘606的尺寸减小,如图6H所示。
如图6I所示,当图6H所示的接触607被释放(例如,检测到手指的抬离)时,显示减小尺寸的键盘610,因为图6G和图6H中一个接触607朝向另一个接触607移动的距离超过阈值距离。图6I中的减小尺寸的键盘610的尺寸是比图6H所示的键盘606小的预先确定的小键盘尺寸。在接触607朝向彼此移动超过阈值距离之后,当接触607被释放时,键盘606被自动调整至减小尺寸的键盘610的预先确定的小键盘尺寸。
图6J示出了显示设备602上对应于减小尺寸的键盘610的位置处的接触609(例如,减小尺寸的键盘610上的两个并发手指接触)。接触609朝向彼此移动以在减小尺寸的键盘610上执行捏合手势。在一些实施方案中,当接触609的移动距离超过朝向彼此的阈值距离时,电子设备600检测捏合手势。接触609不引起减小尺寸的键盘610的任何按键的激活,并且没有字符被添加到输入区域608中。
如图6K所示,当电子设备600检测到由接触609执行的捏合手势时,减小尺寸的键盘610的高度和宽度都被进一步减小(例如,以比图6J所示的键盘610更小的尺寸显示)。在一些实施方案中,减小尺寸的键盘610的尺寸进一步减小的量基于接触609朝向彼此移动的距离。在一些实施方案中,当接触609朝向彼此移动时,减小尺寸的键盘610被显示为随着接触609的移动而改变尺寸(例如,在过渡到另一尺寸期间动画)。在一些实施方案中,减小尺寸的键盘610的各个按键随着键盘改变尺寸而改变尺寸,同时保持各个按键的纵横比。
当在显示设备602上继续检测到接触609(例如,未检测到手指的抬离)时,减小尺寸的键盘610继续以进一步减小尺寸显示,如图6K所示。因为键盘先前处于预先确定的小键盘尺寸,所以当接触609被释放(例如,检测到手指的抬离)时,减小尺寸的键盘610从检测到捏合手势之前返回到预先确定的小键盘尺寸(例如,图6J所示的减小尺寸的键盘610的尺寸)。
图6L示出了减小尺寸的键盘610上的重新定位输入。在一些实施方案中,当在显示设备602上在对应于减小尺寸的键盘610的位置处(例如,减小尺寸的键盘610上的两个并发手指接触)检测到接触611,并且该接触611在大致相同的方向上移动(例如,双指轻扫手势),减小尺寸的键盘610在与接触611相同的方向上移动,如图6M所示。接触611不引起减小尺寸的键盘610的任何按键的激活,并且没有字符被添加到输入区域608中。另选地或除此之外,在一些实施方案中,减小尺寸的键盘610与抓取器对象612一起显示。当在显示设备602上在对应于抓取器对象612的位置处检测到接触613时,减小尺寸的键盘610随着接触613的移动而移动,如图6M所示。
如图6M所示,减小尺寸的键盘610响应于接触611的移动或接触613的移动而被重新定位到显示设备602的右上角。当在减小尺寸的键盘610上继续检测到接触611或接触613时,减小尺寸的键盘显示在对应于接触611或接触613的重新定位的位置处。当接触611或接触613被释放(例如,检测到手指的抬离)时,减小尺寸的键盘610自动移动到允许位置(例如,不干扰其他UI元素的位置,诸如用户界面604的上边缘区域)。在一些实施方案中,当减小尺寸的键盘610被重新定位到允许位置时,当接触611或接触613被释放时,设备不自动移动减小尺寸的键盘610。
如图6N所示,在释放接触611或接触613(例如,检测到手指的抬离)之后,减小尺寸的键盘610自动向下移动以避免干扰用户界面604的上边沿区域。此外,减小尺寸的键盘610自动向左移动,使得减小尺寸的键盘610的所有按键被显示,并且键盘邻接显示设备602的边缘(例如,右边缘)。当检测到对应于选择键盘按键的输入615(例如,选择键盘按键614上的轻击)时,减小尺寸的键盘610变为不同的键盘布局或不同的语言。
图6O示出了在图6N所示的减小尺寸的键盘610的位置处显示的减小尺寸的中文键盘616。响应于在图6N所示的选择键盘按键614上检测到的输入615,减小尺寸的中文键盘616替换减小尺寸的键盘610。图6O还示出了显示设备602上对应于减小尺寸的中文键盘616的位置处的接触617(例如,减小尺寸的中文键盘616上的两个并发手指接触)。接触617远离彼此移动以在减小尺寸的中文键盘616上执行展开手势。在一些实施方案中,当接触617的移动距离超过彼此远离阈值距离时,电子设备600检测展开手势。接触617不引起减小尺寸的中文键盘616的任何按键的激活,并且没有字符被添加到输入区域608中。
如图6P所示,当电子设备600检测到由接触617执行的展开手势时,减小尺寸的中文键盘616的高度和宽度都被放大(例如,以比图6O所示的键盘更大的尺寸显示)。在一些实施方案中,中文键盘616的尺寸放大量基于接触617彼此远离移动的距离。在一些实施方案中,当接触617远离彼此移动时,减小尺寸的中文键盘616的按键模糊不清,同时随着接触617的移动而改变尺寸(例如,中文键盘616在过渡到另一尺寸期间以动画方式显示,但键盘的特定特征被遮挡)。
当在显示设备602上继续检测到接触617(例如,未检测到手指的抬离)时,中文键盘616继续以放大尺寸并利用模糊按键来显示。如图6P所示,接触617不移动超过彼此远离的阈值距离(例如,中文键盘616未被放大到阈值尺寸)。因此,当接触617被释放(例如,检测到手指的抬离)时,中文键盘616在检测到展开手势之前返回到先前的尺寸,如图6Q所示。
图6Q示出了在释放图6P所示的接触617之后减小尺寸的中文键盘616。图6Q中减小尺寸的中文键盘616以其原始减小的尺寸(检测到图6O和图6P中所示的展开手势之前的尺寸)显示。图6Q还示出了接触619移动远离彼此以执行另一展开手势。
如图6R所示,执行展开手势的接触619远离彼此移动超过阈值距离(例如,减小尺寸的中文键盘616被放大到至少阈值尺寸)。响应于图6Q和图6R所示的接触619的移动,中文键盘616的高度和宽度都被放大(例如,以比图6Q所示的键盘更大的尺寸显示)。在一些实施方案中,中文键盘616的尺寸放大量基于接触619远离彼此移动的距离。接触619不引起中文键盘616的任何按键的激活,并且没有字符被添加到输入区域608中。在一些实施方案中,当接触619远离彼此移动时,中文键盘616的按键模糊不清,同时随着接触619的移动而改变尺寸(例如,中文键盘616在过渡到另一尺寸期间以动画方式显示,但键盘的特定特征被遮挡)。在图6R处,当在显示设备602上继续检测到接触619时,中文键盘616以对应于接触619的移动量的放大尺寸显示。由于接触619移动超过阈值距离,因此当接触619被释放(例如,检测到手指的抬离)时,中文键盘616被进一步自动放大到预先确定的大键盘尺寸(例如,如图6S所示),并且任选地进一步放大到显示器上的预先确定的位置(例如,如图6S所示)。
图6S示出了显示大尺寸中文键盘618的电子设备600。大尺寸中文键盘618延伸显示设备602的整个宽度并邻接显示设备602的底部边缘(在横向取向上)。当图6R所示的接触619被释放(例如,检测到手指的抬离)时,减小尺寸的中文键盘616被自动调整为大尺寸中文键盘618的尺寸,并且大尺寸中文键盘618被显示在预先确定的位置(例如,邻接显示设备602的底部边缘)。
图6S还示出了显示设备602上对应于大尺寸中文键盘618的位置处的接触621(例如,大尺寸中文键盘618上的两个并发手指接触)。接触621朝向彼此移动以在大尺寸中文键盘618上执行捏合手势。在一些实施方案中,当接触621的移动距离超过朝向彼此的阈值距离时,电子设备600检测捏合手势。接触621不引起大尺寸的中文键盘618的任何按键的激活,并且没有字符被添加到输入区域608中。
如图6T所示,当电子设备600检测到由接触621执行的捏合手势时,中文键盘618的高度和宽度都被减小(例如,以比图6S所示的键盘更小的尺寸显示)。在一些实施方案中,中文键盘618的尺寸被减小的量基于接触621朝向彼此移动的距离。在一些实施方案中,当接触21朝向彼此移动时,中文键盘618的按键模糊不清,同时随着接触621的移动而改变尺寸(例如,中文键盘618在过渡到另一尺寸期间以动画方式显示,但键盘的特定特征被遮挡)。当在显示设备602上继续检测到接触621(例如,未检测到手指的抬离)时,中文键盘618继续以减小尺寸并利用模糊按键来显示。
如果接触621没有朝向彼此移动超过阈值距离(例如,中文键盘618没有减小到阈值尺寸),则当接触621被释放时(例如,检测到手指的抬离),中文键盘618在检测到捏合手势之前返回到先前的尺寸(例如,图6S所示的键盘的尺寸)。如果接触621朝向彼此移动超过阈值距离(例如,中文键盘618减小到至少阈值尺寸),则当接触621被释放时(例如,检测到手指的抬离),大尺寸中文键盘618被替换为小尺寸中文键盘616(例如,如图6U所示)。
如图6U所示,当释放图6T所示的接触621(例如,检测到手指的抬离)时,显示减小尺寸的中文键盘616。减小尺寸的中文键盘616的尺寸是比图6T所示的中文键盘618小的预先确定的小键盘尺寸。在接触621朝向彼此移动超过阈值距离之后,当接触621被释放时,中文键盘618被自动调整至减小尺寸的中文键盘616的预先确定的小键盘尺寸。
在一些实施方案中,减小尺寸的中文键盘616与抓取器对象612一起显示(例如,其不显示在任何全尺寸键盘上)。当在显示设备602上在对应于抓取器对象612的位置处检测到接触623时,减小尺寸的中文键盘616随着接触623的移动而移动,如图6V进一步所示。
图6V示出了减小尺寸的中文键盘616响应于接触623在抓取器对象612上的移动而沿底部边缘显示设备602重新定位。当抓取器对象612接近或邻接显示设备602的底部边缘时,减小尺寸的中文键盘616自动过渡为中等尺寸的中文键盘618,如图6W中进一步所示。在从减小尺寸的中文键盘616过渡到中等尺寸的中文键盘618期间,中文键盘的按键模糊不清。
图6W示出了释放图6V中所示的接触623之后的大尺寸中文键盘618(例如,检测到手指的抬离)。当抓取器对象612接近或邻接显示设备602的底部边缘(例如,在该位置保持预先确定的持续时间),然后检测到接触的抬离,并且停止显示抓取器对象612时,减小尺寸的中文键盘616(如图6U所示)自动过渡到大尺寸中文键盘618。
图7是示出根据一些实施方案的用于使用电子设备管理键盘的方法的流程图。方法700在具有显示设备和触敏表面(例如,形成触敏显示器的显示设备和触敏表面)的设备(例如,100、300、500、600、800)处执行。方法700中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下文所述,方法700提供了用于管理键盘的直观方式。该方法减少了用户管理键盘的认知负担,从而创建更有效的人机界面。对于电池驱动的计算设备,使得用户能够更快更有效地管理键盘节省功率并且增大了电池两次充电之间的时间间隔。
在一些实施方案中,电子设备在显示设备上以第一尺寸显示键盘(例如,图6E中的606,全尺寸),键盘(例如,QWERTY键盘)包括第一组按键,其中,第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域(例如,文本输入字段、搜索字段、文档)中(702)。在一些实施方案中,第一尺寸是第一键盘延伸显示设备的整个宽度(或基本上整个宽度)的尺寸。在一些实施方案中,以第一尺寸显示第一键盘包括在显示设备的第一边缘(例如,底部边缘)处显示第一键盘。
在一些实施方案中,在以第一尺寸显示键盘时,电子设备使用触敏表面检测第一手势(例如,605、607,捏合手势),该第一手势包括一组两个或更多个接触(例如,捏合手势)(704);
在一些实施方案中,响应于检测到第一手势的至少一部分(706),根据确定满足第一组调整标准,其中,第一组调整标准包括当第一手势包括该组两个或更多个接触的移动(例如,在触敏表面上检测到的并发接触的移动量、距离、捏合量、利用两个接触检测到的手势,其中,移动的量值是在手势期间随时间推移两个接触之间减小的距离;例如,设备检测两个接触朝向彼此移动(量值是例如两个接触之间减小的距离量);又如,设备检测到一个接触朝向另一个接触移动(量值是例如移动的距离量))时满足的第一调整标准,电子设备在显示设备上将键盘的显示调整到小于(例如,图6F中的606,高度和宽度两者)第一尺寸的第二尺寸,该第二尺寸基于该组两个或更多个接触的移动的量值来确定(708)。在一些实施方案中,键盘的调整跟踪手势的输入点。在一些实施方案中,键盘的调整跟踪捏合手势的两个输入点。在一些实施方案中,当第一手势不包括移动(或任选地,包括低于最小阈值的移动)时,不满足第一组调整标准。
在一些实施方案中,第一组调整标准包括当第一手势包括第一接触和第二接触并且该组两个或更多个接触的移动包括减小第一接触和第二接触之间的距离时满足的第二调整标准。
在一些实施方案中,在以第二尺寸显示键盘时,电子设备使用触敏表面检测该组两个或更多个接触的抬离(例如,设备检测第一手势的结束)(710)。
在一些实施方案中,响应于检测到该组两个或更多个接触的抬离(712),根据确定不满足第一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值(例如,非零)量值(例如,阈值距离,捏合手势包括超过特定距离的两个接触的移动)时满足的第一抬离标准,电子设备在显示设备上将键盘的显示调整为第一尺寸(例如,图6G的606,全尺寸)。
在一些实施方案中,响应于检测到该组两个或更多个接触的抬离(712),根据确定满足一组抬离标准,其中,该组抬离标准包括当该组两个或更多个接触的移动的量值超过第一阈值(例如,非零)量值(例如,阈值距离,捏合手势包括超过特定距离的两个接触的移动)时满足的第一抬离标准,电子设备在显示设备上将键盘的显示调整为不同于第一尺寸和第二尺寸的第三尺寸(例如,图6I的610,对应于减小尺寸的键盘的预先确定的尺寸)(例如,减小的尺寸、小于第二尺寸、大于第二尺寸)(714)。在一些实施方案中,当第一手势使得键盘以大于第二尺寸的尺寸(例如,减小的尺寸)显示并且满足第一组调整标准时,设备放大键盘(当检测到抬离时)以第二尺寸显示键盘。在一些实施方案中,当第一手势使得键盘以小于第二尺寸的尺寸(例如,减小的尺寸)显示并且满足第一组调整标准时,设备放大键盘(当检测到抬离时)以第二尺寸显示键盘。
将键盘调整成更小的尺寸允许更多的显示空间用于其他内容。将键盘调整成更大的尺寸允许显示更多(或更大)的按键。提供改进的键盘输入设备增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示设备上以第三尺寸显示键盘(例如,图6J中的610;对应于减小尺寸的键盘的预先确定的尺寸),电子设备使用触敏表面检测包括第二组两个或更多个接触(例如,609,捏合手势)的移动的第二手势(例如,第二捏合手势)。在一些实施方案中,第二组两个或更多个接触包括第三接触和第四接触。在一些实施方案中,响应于检测到第二手势的至少一部分,根据确定第二组两个或更多个接触的移动(例如,在触敏表面上检测到的并发接触的移动量、距离、捏合量、利用两个接触检测到的手势,其中,移动的量值是在手势期间随时间推移两个接触之间减小的距离;例如,设备检测两个接触朝向彼此移动(量值是例如两个接触之间减小的距离量);又如,设备检测一个接触朝向另一个接触移动(量值是例如移动的距离量))包括减小第三接触和第四接触之间的距离(例如,捏合手势),电子设备在显示设备上将键盘的显示调整为小于(例如,高度和宽度两者)第三尺寸(例如,预先确定的减小的尺寸)的第五尺寸(例如,图6K中的610,小于减小尺寸的键盘的尺寸)。在一些实施方案中,基于第二组两个或更多个接触的移动的量值来确定第五尺寸。在一些实施方案中,键盘的调整跟踪手势的输入点。在一些实施方案中,键盘的调整跟踪捏合手势的两个输入点。在一些实施方案中,在以第五尺寸(例如,小于减小尺寸的键盘的尺寸)显示键盘时,电子设备使用触敏表面检测第二组两个或更多个接触的抬离(例如,设备检测第二手势的结束)。在一些实施方案中,响应于检测到第二组两个或更多个接触的抬离,根据确定第二组两个或更多个接触的移动包括减小第三接触和第四接触之间的距离(例如,捏合手势)时,电子设备在显示设备上将键盘的显示调整为第三尺寸(例如,图6L的610,使键盘返回到第三尺寸(预先确定的减小的尺寸))。
因此,在一些实施方案中,当设备在键盘处于第三尺寸(预先确定的减小的尺寸)时检测到键盘上的捏合手势时,设备减小键盘的尺寸,并且,在检测到捏合手势的抬离时,使键盘返回到第三尺寸(预先确定的减小的尺寸),从而向用户提供可调整键盘的尺寸但不使其更小的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示设备上以第三尺寸显示键盘(例如,图6Q的616,对应于减小尺寸键盘的预先确定的尺寸)时,电子设备使用触敏表面检测包括第二组两个或更多个接触(例如,捏合手势)的移动的第二手势(例如,619,第二捏合手势)。在一些实施方案中,第二组两个或更多个接触包括第三接触和第四接触。在一些实施方案中,响应于检测到第二手势的至少一部分,根据确定第二组两个或更多个接触的移动(例如,在触敏表面上检测到的并发接触的移动量、距离、展开量、利用两个接触检测到的手势,其中,量值是在手势期间随时间推移两个接触之间增大的距离;例如,设备检测两个接触远离彼此移动(量值是例如两个接触之间增大的距离量);又如,设备检测一个接触远离另一个接触移动(量值是例如移动的距离量))包括增大第三接触和第四接触之间的距离(例如,展开手势),电子设备在显示设备上将键盘的显示调整为大于(例如,高度和宽度两者)第三尺寸(例如,预先确定的减小的尺寸)的第六尺寸(例如,图6R的616,大于减小尺寸的键盘的尺寸)。在一些实施方案中,基于第二组两个或更多个接触的移动的量值来确定第六尺寸。在一些实施方案中,键盘的调整跟踪手势的输入点。在一些实施方案中,键盘的调整跟踪展开手势的两个输入点。在一些实施方案中,第六尺寸大于第二尺寸。在一些实施方案中,第六尺寸大于第四尺寸。
在一些实施方案中,在以第六尺寸(例如,大于减小尺寸的键盘的尺寸)显示键盘时,电子设备使用触敏表面检测第二组两个或更多个接触的抬离(例如,设备检测第二手势的结束)。在一些实施方案中,响应于检测到第二组两个或更多个接触的抬离,根据确定第二组两个或更多个接触的移动包括增大第三接触和第四接触之间的距离(例如,展开手势),并且第二组两个或更多个接触的移动的量值超过第二阈值(例如,非零)量值(例如,阈值距离),电子设备在显示设备上将键盘的显示调整为第一尺寸(例如,图6S的618,以第一尺寸(预先确定的全尺寸)显示键盘)。因此,在一些实施方案中,当设备在键盘处于第三尺寸(预先确定的减小的尺寸)时检测到键盘上的展开手势时,设备增大键盘的尺寸,并且在检测到捏合手势的抬离时:(1)当展开的量值超过预先确定的阈值时,将键盘的显示更新为第一尺寸(预先确定的全尺寸),或者(2)当展开的量值不超过预先确定的量时,将键盘的显示返回到第三尺寸(预先确定的减小的尺寸)。
将键盘调整成更小的尺寸允许更多的显示空间用于其他内容。将键盘调整成更大的尺寸允许显示更多(或更大)的按键。提供改进的键盘输入设备增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,该组两个或更多个接触包括第一接触和第二接触。在一些实施方案中,响应于检测到第一手势的至少该部分,根据确定该组两个或更多个接触的移动包括增大第一接触和第二接触之间的距离(例如,展开手势),电子设备在显示设备上将键盘的显示调整为大于第一尺寸的第四尺寸(例如,基于该组两个或更多个接触的移动的量值)。在一些实施方案中,当以第一尺寸(全尺寸)显示键盘时,电子设备检测键盘上的展开手势并将键盘放大到大于第一尺寸的第四尺寸。在一些实施方案中,在以第四尺寸显示键盘时,电子设备使用触敏表面检测该组两个或更多个接触的抬离(例如,设备检测第一手势的结束)。在一些实施方案中,响应于检测到该组两个或更多个接触的抬离,根据确定该组两个或更多个接触的移动包括增大第一接触和第二接触之间的距离(例如,展开手势),电子设备在显示设备上将键盘的显示调整为第一尺寸(例如,使键盘返回到第一尺寸(全尺寸))。
因此,在一些实施方案中,当设备在键盘处于第一尺寸(全尺寸)时检测到键盘上的展开手势时,设备放大键盘,并且在检测到展开手势的抬离时,使键盘返回到第一尺寸(全尺寸),从而向用户提供可调整键盘的尺寸但未被放大的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,响应于检测到第二组两个或更多个接触的抬离,根据确定第二组两个或更多个接触的移动(例如图6P的617)包括增大第三接触和第四接触之间的距离(例如,展开手势),并且第二组两个或更多个接触的移动的量值不超过第二阈值(例如,非零)量值(例如,阈值距离),电子设备在显示设备上将键盘的显示调整为第三尺寸(例如,图6Q的616,使键盘返回到预先确定的减小的尺寸)。
在一些实施方案中,以第三尺寸显示键盘包括显示(例如,在键盘上,与键盘相邻)用于改变键盘的显示位置(同时任选地,保持尺寸)的抓取器对象。在一些实施方案中,以第一尺寸显示键盘不包括显示(例如,在键盘上,与键盘相邻)用于改变键盘的显示位置(同时任选地,保持尺寸)的抓取器对象。
在一些实施方案中,在以第三尺寸并在第一位置处显示键盘时,电子设备检测第三手势(例如,在某个方向上)。在一些实施方案中,响应于检测到第三手势,电子设备在显示设备上将键盘从第一位置移动到不同于第一位置的第二位置(例如,通过显示在检测到第三手势的同时在该方向上移动键盘的动画)。
在一些实施方案中,第三手势是在对应于键盘的所显示的抓取器对象的位置处开始的单指手势(例如,613,单指拖动手势)。
在一些实施方案中,第三手势是在对应于键盘的位置处开始的双指轻扫手势(例如,611)。
在一些实施方案中,当在第二位置处显示键盘时(例如,当以第三尺寸(预先确定的减小的尺寸)显示键盘时),根据确定满足一组放大标准,其中,放大标准包括:当第三手势为单指手势(例如,单指拖动手势)时满足的第一放大标准和当第三手势包括继续检测到第三手势在预定义区域内(例如,在显示器的底部边缘的100个像素内)(或者另选地,第二位置在第二预定义区域内)的接触达阈值持续时间时满足的第二放大标准,电子设备在显示设备上将键盘的显示调整到第七尺寸(例如,大于第三尺寸(减小的尺寸)且小于第一尺寸(全尺寸)的预先确定的中间尺寸)。在一些实施方案中,在以第七尺寸显示键盘时,电子设备使用触敏表面检测第三手势的抬离(例如,检测第三手势的接触的抬离)。在一些实施方案中,响应于检测到第三手势的抬离,电子设备在显示设备上将键盘的显示调整为第一尺寸(例如,预先确定的全尺寸)。在一些实施方案中,在以第七尺寸显示键盘时,设备检测第三手势的接触远离预定义区域(例如,离开预定义区域)的移动(而不是检测抬离),并且作为响应,将键盘调整回到第三尺寸。
在一些实施方案中,在以第三尺寸并在第二位置处显示键盘时,电子设备使用触敏表面检测第三手势的抬离(例如,检测第三手势的接触的抬离)。在一些实施方案中,响应于检测到第三手势的抬离,根据确定键盘的至少一部分占据显示器的第二预定义区域(例如,键盘的一部分在显示器的边缘区域中),电子设备在显示设备上将键盘移动到不同于第二位置的第三位置(使得键盘的任何部分都不占据显示器的第二预定义区域)。在一些实施方案中,响应于检测到第三手势的抬离,根据确定键盘不占据显示器的第二预定义区域(例如,键盘的任何部分都不在显示器的边缘区域中),电子设备在显示设备上保持键盘在第二位置处的显示。
在一些实施方案中,在显示设备上调整键盘的显示包括根据确定满足一组过渡标准,在调整期间将视觉过渡效果(例如,模糊效果、淡入淡出效果)应用于键盘。在一些实施方案中,在显示设备上调整键盘的显示包括根据确定不满足一组过渡标准,放弃在调整期间将视觉过渡效果(例如,模糊效果、淡入淡出效果)应用于键盘。在一些实施方案中,该组过渡标准包括当不同尺寸的键盘具有不同按键时满足的第一过渡标准。在一些实施方案中,该组过渡标准包括当键盘为第一类型(例如,第一语言,英语)时满足且当键盘为第二类型(第二语言,中文)时不满足的第二过渡标准。
在一些实施方案中,在显示设备上调整键盘的显示(例如,从第一尺寸到第二尺寸、从第二尺寸到第一尺寸)包括改变键盘的一个或多个按键的纵横比。在一些实施方案中,当以第一尺寸显示键盘时,键盘的“a”键(以及任选地,“b”键)具有第一纵横比,并且当以第三尺寸显示键盘时,键盘的“a”键(以及任选地,“b”键)具有不同于第一纵横比的第二纵横比。
应注意,上文相对于方法700所述的过程(例如图7)的详情也以类似方式适用于下文所述的方法。例如,方法900任选地包括上文参考方法700所述的各种方法的特性中的一个或多个特性。为了简明起见,这些详情在下文中不再重复。
图8A至图8K示出了根据一些实施方案的用于提供针对音频输入的视觉反馈的示例性用户界面。这些附图中的用户界面用于示出下文所述的包括图9中的过程的过程。
图8A示出了包括与触敏表面集成的显示设备802的电子设备800。在一些实施方案中,电子设备800包括设备100、300、500或600的一个或多个特征。电子设备800在显示设备802上显示主屏幕界面804。响应于检测到第一方向上的输入803(例如,向右的轻扫手势),主屏幕界面804在输入803的方向上移动离开显示设备802,并且搜索界面(例如,如图8C所示的搜索界面806)移动到显示设备802上,如图8B和图8C进一步所示。
图8B示出了响应于检测到输入803(如图8A所示)而从主屏幕界面804到搜索界面806的过渡。在过渡期间,主屏幕界面804以动画方式移出显示设备802,同时搜索界面806以动画方式移到显示设备802上。
图8C示出了显示在显示设备802上的搜索界面806。搜索界面806包括文本输入字段808和转录示能表示810。在一些实施方案中,搜索界面806还包括一个或多个通知812。响应于检测到对应于文本输入字段808的输入805(例如,轻击输入),显示用于将文本输入到文本输入字段808中的键盘(例如,如图8G所示的键盘820)。另选地,响应于检测到对应于转录示能表示810的输入807(例如,轻击输入),电子设备800发起音频输入模式并显示视觉对象(例如,814),而不显示键盘(例如,820)。视觉对象(例如,814)利用音频输入设备(例如,麦克风)提供在音频输入模式下检测到的音频的视觉反馈(例如,如图8D所示的视觉对象814)。
图8D示出了具有响应于发起音频输入模式(例如,响应于检测到转录示能表示810上的轻击807)而显示的视觉对象814的搜索界面806。在一些实施方案中,视觉对象814是覆盖搜索界面806的一部分的弹出式视觉对象,并且(宽度和高度两者)小于文本输入字段808。在一些实施方案中,视觉对象814是替换文本输入字段808的一部分的弹出式视觉对象,从而向用户指示将在何处输入转录的文本。
视觉对象814基于利用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,利用音频输入设备检测到的音频波形的视觉表示)。视觉反馈向用户指示音频正被电子设备800接收。在显示视觉对象814时,还显示取消示能表示816(例如,已经替换转录示能表示810)。取消示能表示816的激活结束音频输入模式并停止显示视觉对象814。在一些实施方案中,视觉对象814停止显示,并且当在阈值持续时间内未检测到音频输入(例如,没有高于阈值水平的音频)时,音频输入模式结束。在一些实施方案中,视觉对象814停止显示,并且音频输入模式在从检测到发起音频输入模式的输入807起的绝对时间量(例如,15秒)之后结束。
图8E示出了由电子设备800检测并转录音频输入(例如,“地图”)之后的搜索界面806。在检测到音频输入时,视觉对象814包括检测到的音频的视觉表示(例如,音频波形)。转录的音频输入显示在文本输入字段808中,并且基于转录的音频输入执行搜索(例如,搜索电子设备800可访问的与转录的音频输入相关的信息)。如果搜索结果被定位,则在搜索界面806中显示一个或多个搜索结果818。在一些实施方案中,一个或多个搜索结果818替换图8C和图8D所示的一个或多个通知812的显示。继续在搜索界面806中显示视觉对象814,直到检测到取消示能表示816的激活,或者经过阈值持续时间而未检测到另外的音频输入(例如,高于阈值水平的音频)。在一些实施方案中,视觉对象814停止显示,并且音频输入模式在从检测到发起音频输入模式的输入807起的绝对时间量(例如,15秒)之后结束。
图8F示出了在音频输入模式已结束并且视觉对象停止显示之后的搜索界面806。转录的音频输入(例如,“地图”)继续显示在文本输入字段808中,并且一个或多个搜索结果818继续显示在搜索界面806中。
图8G示出了在检测到对应于文本输入字段808的输入(例如,轻击输入)(例如,图8C所示的输入805)之后的搜索界面806。响应于检测到对应于文本输入字段808的输入,键盘820显示在搜索界面806中,并且光标822显示在文本输入字段808中。键盘820包括辅助转录示能表示824。响应于检测到对应于辅助转录示能表示824的输入809(例如,轻击输入),电子设备800发起音频输入模式,并且用提供在音频输入模式中检测到的音频的视觉反馈的视觉对象(例如,如图8H所示的视觉对象814)的显示替换键盘820的显示。在一些实施方案中,在显示键盘820时,响应于检测到对应于文本输入字段中的转录示能表示810的输入811(例如,轻击输入),电子设备800发起音频输入模式,并且用提供在音频输入模式中检测到的音频的视觉反馈的视觉对象(例如,如图8H所示的视觉对象814)的显示替换键盘820的显示。
图8H示出了具有替换图8G所示的键盘820的显示的视觉对象814的搜索界面806。响应于发起音频输入模式(例如,响应于检测到转录示能表示810或辅助转录示能表示824上的轻击),图8H所示的视觉对象814替换键盘的显示。通过替换键盘的显示,显示音频信号的较大视觉表示而不覆盖文本输入字段808的任何部分。这允许文本输入字段808的整个宽度显示转录的文本而不被视觉对象部分地遮挡,诸如图8D所示,但是使用更多的显示空间,从而限制所显示的内容。视觉对象814基于利用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,利用音频输入设备检测到的音频波形的视觉表示)。视觉反馈向用户指示音频正被电子设备800接收。
图8I示出了由电子设备800检测并转录音频输入(例如,“地图”)之后的搜索界面806。在检测到音频输入时,视觉对象814包括检测到的音频的视觉表示(例如,音频波形)。转录的音频输入显示在文本输入字段808中,并且基于转录的音频输入执行搜索(例如,搜索电子设备800可访问的与转录的音频输入相关的信息)。如果搜索结果被定位,则在搜索界面806中显示一个或多个搜索结果818。与图8E相比,由于视觉对象814拍摄的搜索界面806的区域,可以显示更少的搜索结果818。
图8J示出了在显示设备802上显示多个搜索界面806a和806b(例如,设备搜索界面和新闻搜索界面)的电子设备800。搜索界面806a包括文本输入字段808a和转录示能表示810a。搜索界面806b包括文本输入字段808b和转录示能表示810b。在一些实施方案中,每个搜索界面806a和806b还包括一个或多个通知812a和812b。响应于检测到对应于转录示能表示810b的输入813(例如,轻击输入),电子设备800发起搜索界面806b的音频输入模式,并且显示提供在搜索界面806b的音频输入模式中检测到的音频的视觉反馈的视觉对象(例如,如图8K所示的视觉对象814)。
图8K示出了响应于发起搜索界面806b的音频输入模式(例如,响应于检测到转录示能表示810b上的轻击)而显示的视觉对象814。视觉对象814是覆盖搜索界面806b的一部分的弹出式视觉对象,以指示正在检测到的音频输入用于搜索界面806b。当音频输入被转录时,对应于被转录的音频输入的文本将显示在文本输入字段808b中而不是文本输入字段808a中。因此,该技术实现包括指向(例如,文本输入字段808和文本输入字段808b之间)和发起转录两者的单个输入(例如,轻击)。
图9是示出了根据一些实施方案的用于使用电子设备提供针对音频输入的视觉反馈的方法的流程图。方法900在具有显示设备和音频输入设备的设备(例如,100、300、500、600、800)处执行。方法900中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
如下文所述,方法900提供了用于提供音频输入的视觉反馈的直观方式。该方法减少了用户接收正在进行音频输入的反馈的认知负担,从而创建更有效的人机界面。针对电池驱动的计算设备,使得用户能够更快速且更有效地提供音频用于转录节省了功率并且增大了电池两次充电之间的时间间隔。
在一些实施方案中,在显示设备上不显示文本输入字段和转录示能表示时,电子设备接收请求(例如,803,请求搜索功能(搜索字段)的用户输入)(902)。
在一些实施方案中,响应于接收到请求,电子设备在显示设备上同时显示文本输入字段(例如,808)和转录示能表示(例如,810,其具有显示在文本输入字段内部的麦克风的外观,(当被激活时)使得音频被转录成文本并且使得被转录的文本显示在文本输入字段中)(904)。
在一些实施方案中,电子设备检测(例如,使用触敏表面)第一用户输入(例如,807、805,轻击输入)(906)。
在一些实施方案中,响应于检测到第一用户输入(908),根据确定(910)满足第一组转录标准,其中,第一组转录标准包括当第一用户输入对应于转录示能表示的激活时满足的第一转录标准(例如,第一用户输入是在触敏表面上在对应于转录示能表示的位置处检测到的轻击手势),电子设备在显示设备上邻近文本输入字段(例如,与文本输入字段部分重叠)的位置处显示视觉对象(例如,814,包括波形的对象;视觉指示符),其基于使用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,随时间推移,在显示视觉对象的同时)(912)。在一些实施方案中,根据确定满足第一组转录标准,电子设备开始使用音频输入设备检测音频。
显示基于使用音频输入设备检测到的音频来提供视觉反馈的视觉对象为用户提供他们提供的音频正被转录的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,基于文本输入字段的位置来选择显示设备上邻近文本输入字段的位置。在一些实施方案中,根据确定文本输入字段显示在显示设备的第一区域中,该位置是第一位置;根据确定文本输入字段显示在显示设备的不同于第一区域的第二区域中,该位置是不同于第一位置的第二位置。
在一些实施方案中,根据确定满足第一组转录标准,电子设备停止显示转录示能表示(例如,816,用取消示能表示的显示替换转录示能表示的显示,该取消示能表示在被激活时使得设备停止在文本输入字段中显示转录的音频)。在一些实施方案中,根据确定不满足第一组转录标准,该设备保持显示转录示能表示。
在一些实施方案中,第一组转录标准包括当检测到第一用户输入时键盘(例如,820)未显示在显示设备上时满足的第二转录标准。在一些实施方案中,当检测到第一用户输入时键盘正被显示在显示设备上时,设备不在邻近文本输入字段的位置处显示视觉对象,而是任选地用所接收到的音频的波形表示替换键盘的至少一部分。
显示基于在邻近文本输入字段的位置处检测到的音频来提供视觉反馈的视觉对象使得设备能够不显示将占据显示空间的键盘。保留显示空间以便可以显示其他内容增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频提供视觉反馈的视觉对象包括用视觉对象(其至少一部分)替换文本输入字段的第一部分的显示。在一些实施方案中,在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频提供视觉反馈的视觉对象包括不用视觉对象替换文本输入字段的第二部分的显示。在一些实施方案中,视觉对象是替换文本输入字段的一部分的弹出式视觉对象,从而向用户指示将在何处输入转录的文本。在一些实施方案中,视觉对象的一部分不替换文本输入字段,从而允许显示音频信号的较大视觉表示,同时保持可用的文本输入字段以显示转录的文本。
显示基于检测到的音频提供视觉反馈使得其与文本输入字段部分重叠的视觉对象使得设备保留显示空间。保留显示空间以便可以显示其他内容增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
显示基于在邻近文本输入字段的位置处检测到的音频来提供视觉反馈的视觉对象使得设备能够不显示将占据显示空间的键盘。保留显示空间以便可以显示其他内容增强了设备的可操作性,并且使用户-设备界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频提供视觉反馈的视觉对象包括显示视觉对象,而不移动所显示内容的位置(例如,从显示器上的第一位置移动到显示器上的第二位置)。在一些实施方案中,显示视觉对象包括显示未在接收到的第一用户输入时对用户界面上显示的元素进行重新取向(例如,未使得UI元素在显示器上移动)的弹出式对象。在一些实施方案中,用户界面的部分(除了用于显示视觉对象的空间之外)不响应于检测到第一用户输入而改变。在一些实施方案中,用户界面的部分(除了用于显示视觉对象的空间以及输入到文本输入字段中的文本之外)不响应于检测到第一用户输入而改变。在一些实施方案中,不响应于检测到第一用户输入而显示键盘。在一些实施方案中,对象(例如,键盘、波形显示对象)不从显示器的边缘(例如,底部)滑动到显示器上。
显示基于所检测到的音频提供视觉反馈而不使先前所显示的其他内容的位置移动的视觉对象为用户提供了正在当前上下文中执行附加功能的反馈。为用户提供改进的视觉反馈增强了设备的可操作性,并且使用户设备界面更有效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
在一些实施方案中,在显示基于使用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,随时间推移,在显示视觉对象的同时)的视觉对象(例如,包括波形的对象;视觉指示符)时,电子设备使用音频输入设备检测音频输入。在一些实施方案中,响应于检测到音频输入,电子设备在文本输入字段(例如,图8E的808)中显示文本,其中,文本基于检测到的音频输入。在一些实施方案中,设备接收音频,将音频转录为文本,并且在文本输入字段中显示文本。在一些实施方案中,设备接收音频,将音频传输到服务器进行转录,接收基于音频的文本,并且在文本输入字段中显示文本。
在一些实施方案中,在显示基于使用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,在显示视觉对象时随时间推移)的视觉对象(例如,814,包括波形的对象;视觉指示符)时,电子设备确定在阈值持续时间内接收到的音频水平不超过阈值音频水平(例如,设备检测到1秒的静音,设备检测到低于预定义dB(诸如15dB)的0.5秒的音频水平)。在一些实施方案中,响应于确定在阈值持续时间内接收到的音频水平不超过阈值音频水平(例如,设备检测到1秒的静音,设备检测到低于预定义dB(诸如15dB)的0.5秒的音频水平),电子设备停止显示视觉对象(并且任选地停止转录到文本输入字段中)。在一些实施方案中,在检测到第一输入之后的绝对时间量(例如,15秒)之后,设备停止显示视觉对象(并且任选地停止转录到文本输入字段中)。
在一些实施方案中,转录示能表示的激活发起文本输入到文本输入字段(例如,808)中。在一些实施方案中,电子设备在显示设备上与文本输入字段和转录示能表示同时显示第二文本输入字段(例如,808b与808a)和第三转录示能表示(例如,816,在邻近第二文本输入字段的位置处)。在一些实施方案中,电子设备检测第三转录示能表示的激活。在一些实施方案中,响应于检测到第三转录示能表示的激活,电子设备在显示设备上邻近第二文本输入字段(例如,与文本输入字段部分重叠)的位置处显示基于使用音频输入设备检测到的音频(例如,基于音频的音量)提供视觉反馈(例如,随时间推移,在显示视觉对象的同时)的第二视觉对象(例如,包括波形的对象;视觉指示符)。在一些实施方案中,显示多个文本输入字段,每个文本输入字段具有对应的转录示能表示,该转录示能表示在被激活时启动相应文本输入字段的转录过程,并且使得在邻近相应文本输入字段的位置处显示弹出波形。
在一些实施方案中,响应于检测到第一用户输入(908),根据确定不满足第一组转录标准(914),电子设备放弃在显示设备上邻近文本输入字段的位置处显示基于使用音频输入设备检测到的音频(例如,基于音频的音量)来提供视觉反馈(例如,随时间推移,在显示视觉对象的同时)的视觉对象(例如,包括波形的对象)(916)。
在一些实施方案中,电子设备在显示设备上与文本输入字段和转录示能表示(例如,810)同时显示键盘(例如,820)。在一些实施方案中,响应于检测到第一用户输入,根据确定不满足第一组转录标准,电子设备在显示设备上用基于使用音频输入设备检测到的音频(例如,基于音频的音量)的第二视觉反馈(例如,814,随时间变化)来替换键盘(例如,820)的至少一部分(例如,键盘的至少一个按键、键盘的所有按键)的显示。
在一些实施方案中,电子设备在显示设备上与键盘(例如,820)同时显示第二转录示能表示(例如,824)。在一些实施方案中,第一用户输入对应于第二转录示能表示的激活。在一些实施方案中,设备显示任选地为所显示键盘的一部分的第二转录示能表示。响应于检测到第二转录示能表示的激活,设备用基于接收到的音频的波形替换键盘。
需注意,上文相对于方法900(例如,图9)所述的过程的详情也以类似方式适用于上文所述的方法。例如,方法700任选地包括上文参考方法900所述的各种方法的特性中的一个或多个特性。为了简明起见,这些详情在下文中不再重复。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上文所述,本技术的一个方面在于收集和使用得自各种来源的数据以改善输入技术。本公开设想,在一些实例中,该所收集的数据可包括唯一地识别特定人员的个人信息数据。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,个人信息数据可用于更好地转录音频。此外,本公开还预期个人信息数据有益于用户的其他用途。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。此外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。此外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。除了提供“选择加入”和“选择退出”选项外,本公开设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。
Claims (38)
1.一种方法,所述方法包括:
在具有显示设备和触敏表面的电子设备处:
在所述显示设备上以第一尺寸显示键盘,所述键盘包括第一组按键,其中,所述第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;
在以所述第一尺寸显示所述键盘时,使用所述触敏表面检测包括一组两个或更多个接触的第一手势;
响应于检测到所述第一手势的至少一部分:
根据确定满足第一组调整标准,其中,所述第一组调整标准包括当所述第一手势包括所述一组两个或更多个接触的移动时满足的第一调整标准:
在所述显示设备上将所述键盘的显示调整为小于所述第一尺寸的第二尺寸,所述第二尺寸基于所述一组两个或更多个接触的所述移动的量值来确定;
在以所述第二尺寸显示所述键盘时,使用所述触敏表面检测所述一组两个或更多个接触的抬离;以及
响应于检测到所述一组两个或更多个接触的抬离:
根据确定满足一组抬离标准,其中,所述一组抬离标准包括当所述一组两个或更多个接触的所述移动的所述量值超过第一阈值量值时满足的第一抬离标准:
在所述显示设备上将所述键盘的显示调整为不同于所述第一尺寸和所述第二尺寸的第三尺寸。
2.根据权利要求1所述的方法,还包括:
响应于检测到所述一组两个或更多个接触的抬离:
根据确定不满足第一组抬离标准,其中,所述一组抬离标准包括当所述一组两个或更多个接触的所述移动的所述量值超过第一阈值量值时满足的第一抬离标准:
在所述显示设备上将所述键盘的显示调整为所述第一尺寸。
3.根据权利要求1至2中任一项所述的方法,其中,所述第一组调整标准包括当所述第一手势包括第一接触和第二接触并且所述一组两个或更多个接触的所述移动包括减小所述第一接触和所述第二接触之间的距离时满足的第二调整标准。
4.根据权利要求1至3中任一项所述的方法,其中,所述一组两个或更多个接触包括第一接触和第二接触,所述方法还包括:
响应于检测到所述第一手势的至少所述一部分:
根据确定所述一组两个或更多个接触的所述移动包括增大所述第一接触和所述第二接触之间的距离:
在所述显示设备上将所述键盘的显示调整为大于所述第一尺寸的第四尺寸;
在以所述第四尺寸显示所述键盘时,使用所述触敏表面检测所述一组两个或更多个接触的抬离;以及
响应于检测到所述一组两个或更多个接触的抬离:
根据所述确定所述一组两个或更多个接触的所述移动包括增大所述第一接触和所述第二接触之间的所述距离:
在所述显示设备上将所述键盘的显示调整为所述第一尺寸。
5.根据权利要求1至4中任一项所述的方法,还包括:
在所述显示设备上以所述第三尺寸显示所述键盘时,使用所述触敏表面检测包括第二组两个或更多个接触的移动的第二手势,其中,所述第二组两个或更多个接触包括第三接触和第四接触;
响应于检测到所述第二手势的至少一部分:
根据确定所述第二组两个或更多个接触的所述移动包括减小所述第三接触和所述第四接触之间的距离:
在所述显示设备上将所述键盘的显示调整为小于所述第三尺寸的第五尺寸;
在以所述第五尺寸显示所述键盘时,使用所述触敏表面检测所述第二组两个或更多个接触的抬离;以及
响应于检测到所述第二组两个或更多个接触的抬离:
根据所述确定所述第二组两个或更多个接触的所述移动包括减小所述第三接触和所述第四接触之间的所述距离:
在所述显示设备上将所述键盘的显示调整为所述第三尺寸。
6.根据权利要求2至5中任一项所述的方法,还包括:
在所述显示设备上以所述第三尺寸显示所述键盘时,使用所述触敏表面检测包括第二组两个或更多个接触的移动的第二手势,其中,所述第二组两个或更多个接触包括第三接触和第四接触;
响应于检测到所述第二手势的至少一部分:
根据确定所述第二组两个或更多个接触的所述移动包括增大所述第三接触和所述第四接触之间的距离:
在所述显示设备上将所述键盘的显示调整为大于所述第三尺寸的第六尺寸;
在以所述第六尺寸显示所述键盘时,使用所述触敏表面检测所述第二组两个或更多个接触的抬离;以及
响应于检测到所述第二组两个或更多个接触的抬离:
根据确定所述第二组两个或更多个接触的所述移动包括增大所述第三接触和所述第四接触之间的所述距离,并且所述第二组两个或更多个接触的所述移动的所述量值超过第二阈值量值:
在所述显示设备上将所述键盘的显示调整为所述第一尺寸。
7.根据权利要求6所述的方法,还包括:
响应于检测到所述第二组两个或更多个接触的抬离:
根据确定所述第二组两个或更多个接触的所述移动包括增大所述第三接触和所述第四接触之间的所述距离,并且所述第二组两个或更多个接触的所述移动的所述量值不超过所述第二阈值量值:
在所述显示设备上将所述键盘的显示调整为所述第三尺寸。
8.根据权利要求1至7中任一项所述的方法:
其中,以所述第三尺寸显示所述键盘包括显示用于改变所述键盘的所述显示位置的抓取器对象;并且
其中,以所述第一尺寸显示所述键盘不包括显示用于改变所述键盘的所述显示位置的所述抓取器对象。
9.根据权利要求1至8中任一项所述的方法,还包括:
在以所述第三尺寸并在第一位置处显示所述键盘时:
检测第三手势;以及
响应于检测到所述第三手势,在所述显示设备上将所述键盘从所述第一位置移动到不同于所述第一位置的第二位置。
10.根据权利要求9所述的方法,其中,所述第三手势是在与所述键盘的所显示的抓取器对象对应的位置处开始的单指手势。
11.根据权利要求9所述的方法,其中,所述第三手势是在与所述键盘对应的位置处开始的双指轻扫手势。
12.根据权利要求9至11中任一项所述的方法,还包括:
在所述第二位置处显示所述键盘时:
根据确定满足一组放大标准,其中,所述放大标准包括:
当所述第三手势为单指手势时满足的第一放大标准和当所述第三手势包括继续检测预定义区域内的所述第三手势的接触达阈值持续时间时满足的第二放大标准:
在所述显示设备上将对所述键盘的显示调整为第七尺寸;
在以所述第七尺寸显示所述键盘时,使用所述触敏表面检测所述第三手势的抬离;以及
响应于检测到所述第三手势的抬离,在所述显示设备上将所述键盘的显示调整至所述第一尺寸。
13.根据权利要求9至12中任一项所述的方法,还包括:
在以所述第三尺寸并在所述第二位置处显示所述键盘时:
使用所述触敏表面检测所述第三手势的抬离;
响应于检测到所述第三手势的抬离:
根据确定所述键盘的至少一部分占据所述显示器的第二预定义区域,在所述显示设备上将所述键盘移动到不同于所述第二位置的第三位置;以及
根据确定所述键盘不占据所述显示器的所述第二预定义区域,在所述显示设备上保持在所述第二位置处显示所述键盘。
14.根据权利要求1至13中任一项所述的方法,其中,在所述显示设备上调整所述键盘的显示包括:
根据确定满足一组过渡标准:
在调整期间向所述键盘施加视觉过渡效果;以及
根据确定不满足所述一组过渡标准:
放弃在调整期间将所述视觉过渡效果应用于所述键盘。
15.根据权利要求1至14中任一项所述的方法,其中,在所述显示设备上调整所述键盘的显示包括改变所述键盘的一个或多个按键的纵横比。
16.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由具有显示设备和触敏表面的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
17.一种电子设备,所述电子设备包括:
显示设备;
触敏表面;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至15中任一项所述的方法的指令。
18.一种电子设备,所述电子设备包括:
显示设备;
触敏表面;和
用于执行根据权利要求1-15中任一项所述的方法的装置。
19.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由具有显示设备和触敏表面的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
在所述显示设备上以第一尺寸显示键盘,所述键盘包括第一组按键,其中,所述第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;
在以所述第一尺寸显示所述键盘时,使用所述触敏表面检测包括一组两个或更多个接触的第一手势;
响应于检测到所述第一手势的至少一部分:
根据确定满足第一组调整标准,其中,所述第一组调整标准包括当所述第一手势包括所述一组两个或更多个接触的移动时满足的第一调整标准:
在所述显示设备上将所述键盘的显示调整为小于所述第一尺寸的第二尺寸,所述第二尺寸基于所述一组两个或更多个接触的所述移动的量值来确定;
在以所述第二尺寸显示所述键盘时,使用所述触敏表面检测所述一组两个或更多个接触的抬离;以及
响应于检测到所述一组两个或更多个接触的抬离:
根据确定满足一组抬离标准,其中,所述一组抬离标准包括当所述一组两个或更多个接触的所述移动的所述量值超过第一阈值量值时满足的第一抬离标准:
在所述显示设备上将所述键盘的显示调整为不同于所述第一尺寸和所述第二尺寸的第三尺寸。
20.一种电子设备,所述电子设备包括:
显示设备;
触敏表面;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
在所述显示设备上以第一尺寸显示键盘,所述键盘包括第一组按键,其中,所述第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;
在以所述第一尺寸显示所述键盘时,使用所述触敏表面检测包括一组两个或更多个接触的第一手势;
响应于检测到所述第一手势的至少一部分:
根据确定满足第一组调整标准,其中,所述第一组调整标准包括当所述第一手势包括所述一组两个或更多个接触的移动时满足的第一调整标准:
在所述显示设备上将所述键盘的显示调整为小于所述第一尺寸的第二尺寸,所述第二尺寸基于所述一组两个或更多个接触的所述移动的量值来确定;
在以所述第二尺寸显示所述键盘时,使用所述触敏表面检测所述一组两个或更多个接触的抬离;以及
响应于检测到所述一组两个或更多个接触的抬离:
根据确定满足一组抬离标准,其中,所述一组抬离标准包括当所述一组两个或更多个接触的所述移动的所述量值超过第一阈值量值时满足的第一抬离标准:
在所述显示设备上将所述键盘的显示调整为不同于所述第一尺寸和所述第二尺寸的第三尺寸。
21.一种电子设备,所述电子设备包括:
显示设备;
触敏表面;
用于在所述显示设备上以第一尺寸显示键盘的装置,所述键盘包括第一组按键,其中,所述第一组按键中的相应按键的激活使得对应的相应字符被添加到输入区域中;
用于在以所述第一尺寸显示所述键盘时,使用所述触敏表面检测包括一组两个或更多个接触的第一手势的装置;
用于响应于检测到所述第一手势的至少一部分而进行以下操作的装置:
根据确定满足第一组调整标准,其中,所述第一组调整标准包括当所述第一手势包括所述一组两个或更多个接触的移动时满足的第一调整标准:
在所述显示设备上将所述键盘的显示调整为小于所述第一尺寸的第二尺寸,所述第二尺寸基于所述一组两个或更多个接触的所述移动的量值来确定;
用于在以所述第二尺寸显示所述键盘时,使用所述触敏表面检测所述一组两个或更多个接触的抬离的装置;和
用于响应于检测到所述一组两个或更多个接触的抬离而进行以下操作的装置:
根据确定满足一组抬离标准,其中,所述一组抬离标准包括当所述一组两个或更多个接触的所述移动的所述量值超过第一阈值量值时满足的第一抬离标准:
在所述显示设备上将所述键盘的显示调整为不同于所述第一尺寸和所述第二尺寸的第三尺寸。
22.一种方法,所述方法包括:
在具有显示设备和音频输入设备的电子设备处:
在所述显示设备上不显示文本输入字段和转录示能表示时,接收请求;
响应于接收到所述请求,在所述显示设备上同时显示:
所述文本输入字段,和
所述转录示能表示;
检测第一用户输入;
响应于检测到所述第一用户输入:
根据确定满足第一组转录标准,其中,所述第一组转录标准包括当所述第一用户输入对应于所述转录示能表示的激活时满足的第一转录标准:
在所述显示设备上邻近所述文本输入字段的位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及
根据确定不满足所述第一组转录标准:
放弃在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象。
23.根据权利要求22所述的方法,其中,所述第一组转录标准包括当检测到所述第一用户输入时在所述显示设备上未显示键盘时满足的第二转录标准。
24.根据权利要求22至23中任一项所述的方法,还包括:
在所述显示设备上与所述文本输入字段和所述转录示能表示同时显示键盘;以及
响应于检测到所述第一用户输入:
根据所述确定不满足所述第一组转录标准:
基于使用所述音频输入设备检测到的音频,在所述显示设备上用第二视觉反馈替换所述键盘的至少一部分的显示。
25.根据权利要求24所述的方法,还包括:
在所述显示设备上与所述键盘同时显示第二转录示能表示;并且
其中,所述第一用户输入对应于所述第二转录示能表示的激活。
26.根据权利要求22至25中任一项所述的方法,其中,在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象包括:
用所述视觉对象替换所述文本输入字段的第一部分的显示,和
不用所述视觉对象替换所述文本输入字段的第二部分的显示。
27.根据权利要求22至26中任一项所述的方法,其中,在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象包括:
显示所述视觉对象而不使所显示的内容的位置移动。
28.根据权利要求22至27中任一项所述的方法,还包括:
在显示基于使用所述音频输入设备检测到的音频提供视觉反馈的所述视觉对象时:
使用所述音频输入设备检测音频输入;
响应于检测到音频输入,在所述文本输入字段中显示文本,其中,所述文本基于所检测的音频输入。
29.根据权利要求22至28中任一项所述的方法,还包括:
在显示基于使用所述音频输入设备检测到的音频提供视觉反馈的所述视觉对象时:
确定在阈值持续时间内接收到的音频水平不超过阈值音频水平;以及
响应于所述确定在所述阈值持续时间内接收到的音频水平不超过所述阈值音频水平,停止显示所述视觉对象。
30.根据权利要求22至29中任一项所述的方法,其中,基于所述文本输入字段的位置来选择所述显示设备上邻近所述文本输入字段的所述位置。
31.根据权利要求22至30中任一项所述的方法,还包括:
根据所述确定满足所述第一组转录标准:
停止显示所述转录示能表示。
32.根据权利要求22至31中任一项所述的方法,其中,所述转录示能表示的激活发起文本输入到所述文本输入字段中,所述方法还包括:
在所述显示设备上与所述文本输入字段和所述转录示能表示同时显示:
第二文本输入字段,和
第三转录示能表示;
检测对所述第三转录示能表示的激活;以及
响应于检测到对所述第三转录示能表示的激活:
在所述显示设备上邻近所述第二文本输入字段的位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的第二视觉对象。
33.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由具有显示设备和音频输入设备的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求22至32中任一项所述的方法的指令。
34.一种电子设备,所述电子设备包括:
显示设备;
音频输入设备;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求22至32中任一项所述的方法的指令。
35.一种电子设备,所述电子设备包括:
显示设备;
音频输入设备;和
用于执行根据权利要求22至32中任一项所述的方法的装置。
36.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由具有显示设备和音频输入设备的电子设备的一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于以下操作的指令:
在所述显示设备上不显示文本输入字段和转录示能表示时,接收请求;
响应于接收到所述请求,在所述显示设备上同时显示:
所述文本输入字段,和
所述转录示能表示;
检测第一用户输入;
响应于检测到所述第一用户输入:
根据确定满足第一组转录标准,其中,所述第一组转录标准包括当所述第一用户输入对应于所述转录示能表示的激活时满足的第一转录标准:
在所述显示设备上邻近所述文本输入字段的位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及
根据确定不满足所述第一组转录标准:
放弃在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象。
37.一种电子设备,所述电子设备包括:
显示设备;
音频输入设备;
一个或多个处理器;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
在所述显示设备上不显示文本输入字段和转录示能表示时,接收请求;
响应于接收到所述请求,在所述显示设备上同时显示:
所述文本输入字段,和
所述转录示能表示;
检测第一用户输入;
响应于检测到所述第一用户输入:
根据确定满足第一组转录标准,其中,所述第一组转录标准包括当所述第一用户输入对应于所述转录示能表示的激活时满足的第一转录标准:
在所述显示设备上邻近所述文本输入字段的位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及
根据确定不满足所述第一组转录标准:
放弃在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象。
38.一种电子设备,所述电子设备包括:
显示设备;
音频输入设备;
用于在所述显示设备上不显示文本输入字段和转录示能表示时,接收请求的装置;
用于响应于接收到所述请求,在所述显示设备上同时显示以下内容的装置:
所述文本输入字段,和
所述转录示能表示;
用于检测第一用户输入的装置;
用于响应于检测到所述第一用户输入而执行以下操作的装置:
根据确定满足第一组转录标准,其中,所述第一组转录标准包括当所述第一用户输入对应于所述转录示能表示的激活时满足的第一转录标准:
在所述显示设备上邻近所述文本输入字段的位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的视觉对象;以及
根据确定不满足所述第一组转录标准:
放弃在所述显示设备上邻近所述文本输入字段的所述位置处显示基于使用所述音频输入设备检测到的音频来提供视觉反馈的所述视觉对象。
Applications Claiming Priority (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
US201962856041P | 2019-06-01 | 2019-06-01 | |
US62/856,041 | 2019-06-01 | ||
US16/825,908 US11829591B2 (en) | 2019-06-01 | 2020-03-20 | User interface for managing input techniques |
US16/825,908 | 2020-03-20 | ||
PCT/IB2020/000308 WO2020245647A1 (en) | 2019-06-01 | 2020-03-26 | User interface for managing input techniques |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113874824A true CN113874824A (zh) | 2021-12-31 |
Family
ID=73550258
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202080039148.XA Pending CN113874824A (zh) | 2019-06-01 | 2020-03-26 | 用于管理输入技术的用户界面 |
Country Status (4)
Country | Link |
---|---|
US (2) | US11829591B2 (zh) |
EP (1) | EP3977250A1 (zh) |
CN (1) | CN113874824A (zh) |
WO (1) | WO2020245647A1 (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
USD977502S1 (en) * | 2020-06-09 | 2023-02-07 | Insulet Corporation | Display screen with graphical user interface |
US11474773B2 (en) * | 2020-09-02 | 2022-10-18 | Google Llc | Automatic adjustment of muted response setting |
TWI786562B (zh) * | 2021-03-03 | 2022-12-11 | 大陸商宸美(廈門)光電有限公司 | 電子裝置及觸控偵測方法 |
US11379075B1 (en) | 2021-03-29 | 2022-07-05 | TPK Advanced Soulutions Inc. | Electronic device and touch detection method |
US11797176B1 (en) * | 2022-07-06 | 2023-10-24 | Dell Products L.P. | Input area segmentation for a touch-based user input device |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1620642A (zh) * | 2002-01-18 | 2005-05-25 | 诺基亚有限公司 | 在小型设备上集成宽键盘的方法和装置 |
US20130067399A1 (en) * | 2011-09-09 | 2013-03-14 | Brendan D. Elliott | Semantic Zoom Linguistic Helpers |
CN103064629A (zh) * | 2013-01-30 | 2013-04-24 | 龙凡 | 能动态调整图形控件的便携电子设备及方法 |
US20130234942A1 (en) * | 2012-03-07 | 2013-09-12 | Motorola Mobility, Inc. | Systems and Methods for Modifying Virtual Keyboards on a User Interface |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US3859005A (en) | 1973-08-13 | 1975-01-07 | Albert L Huebner | Erosion reduction in wet turbines |
US4826405A (en) | 1985-10-15 | 1989-05-02 | Aeroquip Corporation | Fan blade fabrication system |
EP1717683A3 (en) | 1998-01-26 | 2010-03-17 | Apple Inc. | Method and apparatus for integrating manual input |
US7218226B2 (en) | 2004-03-01 | 2007-05-15 | Apple Inc. | Acceleration-based theft detection system for portable electronic devices |
US7688306B2 (en) | 2000-10-02 | 2010-03-30 | Apple Inc. | Methods and apparatuses for operating a portable device based on an accelerometer |
US6677932B1 (en) | 2001-01-28 | 2004-01-13 | Finger Works, Inc. | System and method for recognizing touch typing under limited tactile feedback conditions |
US6570557B1 (en) | 2001-02-10 | 2003-05-27 | Finger Works, Inc. | Multi-touch system and method for emulating modifier keys via fingertip chords |
US9298474B2 (en) * | 2004-10-06 | 2016-03-29 | International Business Machines Corporation | System and method for managing a floating window |
US7657849B2 (en) | 2005-12-23 | 2010-02-02 | Apple Inc. | Unlocking a device by performing gestures on an unlock image |
US9041660B2 (en) * | 2008-12-09 | 2015-05-26 | Microsoft Technology Licensing, Llc | Soft keyboard control |
US9465457B2 (en) * | 2010-08-30 | 2016-10-11 | Vmware, Inc. | Multi-touch interface gestures for keyboard and/or mouse inputs |
US20120092381A1 (en) | 2010-10-19 | 2012-04-19 | Microsoft Corporation | Snapping User Interface Elements Based On Touch Input |
US8587547B2 (en) * | 2010-11-05 | 2013-11-19 | Apple Inc. | Device, method, and graphical user interface for manipulating soft keyboards |
US9116616B2 (en) * | 2011-02-10 | 2015-08-25 | Blackberry Limited | Portable electronic device and method of controlling same |
WO2013169849A2 (en) | 2012-05-09 | 2013-11-14 | Industries Llc Yknots | Device, method, and graphical user interface for displaying user interface objects corresponding to an application |
CN104903834B (zh) | 2012-12-29 | 2019-07-05 | 苹果公司 | 用于在触摸输入到显示输出关系之间过渡的设备、方法和图形用户界面 |
US10303295B2 (en) * | 2014-05-30 | 2019-05-28 | Apple Inc. | Modifying an on-screen keyboard based on asymmetric touch drift |
US20160085441A1 (en) | 2014-09-22 | 2016-03-24 | Smart Technologies Ulc | Method, Apparatus, and Interactive Input System |
JP2016126657A (ja) | 2015-01-07 | 2016-07-11 | キヤノン株式会社 | 情報処理装置、情報処理装置の制御方法、及びプログラム |
US10379737B2 (en) | 2015-10-19 | 2019-08-13 | Apple Inc. | Devices, methods, and graphical user interfaces for keyboard interface functionalities |
-
2020
- 2020-03-20 US US16/825,908 patent/US11829591B2/en active Active
- 2020-03-26 EP EP20732308.0A patent/EP3977250A1/en active Pending
- 2020-03-26 CN CN202080039148.XA patent/CN113874824A/zh active Pending
- 2020-03-26 WO PCT/IB2020/000308 patent/WO2020245647A1/en unknown
-
2023
- 2023-11-27 US US18/519,979 patent/US20240086055A1/en active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1620642A (zh) * | 2002-01-18 | 2005-05-25 | 诺基亚有限公司 | 在小型设备上集成宽键盘的方法和装置 |
US20130067399A1 (en) * | 2011-09-09 | 2013-03-14 | Brendan D. Elliott | Semantic Zoom Linguistic Helpers |
US20130234942A1 (en) * | 2012-03-07 | 2013-09-12 | Motorola Mobility, Inc. | Systems and Methods for Modifying Virtual Keyboards on a User Interface |
CN103064629A (zh) * | 2013-01-30 | 2013-04-24 | 龙凡 | 能动态调整图形控件的便携电子设备及方法 |
Also Published As
Publication number | Publication date |
---|---|
US20200379632A1 (en) | 2020-12-03 |
US20240086055A1 (en) | 2024-03-14 |
WO2020245647A1 (en) | 2020-12-10 |
EP3977250A1 (en) | 2022-04-06 |
US11829591B2 (en) | 2023-11-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11790914B2 (en) | Methods and user interfaces for voice-based control of electronic devices | |
CN111108740B (zh) | 电子设备、计算机可读存储介质及用于显示通信会话中的参与者的视觉指示符的方法 | |
CN109690445B (zh) | 特殊锁定模式用户界面 | |
CN110554828B (zh) | 访问电子设备上的系统用户界面 | |
CN109716269B (zh) | 使用表冠和传感器进行手势检测、列表导航和项目选择 | |
CN107408014B (zh) | 设备配置用户界面 | |
CN107408012B (zh) | 使用可旋转输入机构来控制系统缩放放大率 | |
CN113939793B (zh) | 用于电子语音通信的用户界面 | |
CN113950663A (zh) | 音频媒体用户界面 | |
CN107710131B (zh) | 内容浏览用户界面 | |
CN107683470B (zh) | 用于web浏览器的音频控制 | |
US11829591B2 (en) | User interface for managing input techniques | |
CN115793941A (zh) | 编辑头像的特征 | |
CN114331364A (zh) | 邮件应用程序特征 | |
CN107690614B (zh) | 多个视图之间的移动 | |
CN112437912A (zh) | 加速滚动和选择 | |
CN111684403A (zh) | 用于图形用户界面的媒体捕获锁定示能表示 | |
CN113906725B (zh) | 用于音量控制的方法、电子设备和计算机可读存储介质 | |
CN117581188A (zh) | 与笔记用户界面交互 | |
CN115698933A (zh) | 用于在选择模式之间转变的用户界面 | |
CN112181258A (zh) | 加速滚动和选择 | |
CN117441156A (zh) | 用于音频路由的用户界面 | |
CN114327231A (zh) | 用于选择文本的技术 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |