CN116261702A - 设备上的上下文工作流触发 - Google Patents

设备上的上下文工作流触发 Download PDF

Info

Publication number
CN116261702A
CN116261702A CN202180064378.6A CN202180064378A CN116261702A CN 116261702 A CN116261702 A CN 116261702A CN 202180064378 A CN202180064378 A CN 202180064378A CN 116261702 A CN116261702 A CN 116261702A
Authority
CN
China
Prior art keywords
workflow
signal
user
screen
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180064378.6A
Other languages
English (en)
Inventor
K·米拉
B·I·皮隆特施
S·沙
V·阿库利希
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN116261702A publication Critical patent/CN116261702A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1615Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function
    • G06F1/1616Constructional details or arrangements for portable computers with several enclosures having relative motions, each enclosure supporting at least one I/O or computing function with folding flat displays, e.g. laptop computers or notebooks having a clamshell configuration, with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1637Details related to the display arrangement, including those related to the mounting of the display in the housing
    • G06F1/1647Details related to the display arrangement, including those related to the mounting of the display in the housing including at least an additional display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1675Miscellaneous details related to the relative movement between the different enclosures or enclosure parts
    • G06F1/1677Miscellaneous details related to the relative movement between the different enclosures or enclosure parts for detecting open or closed state or particular intermediate positions assumed by movable parts of the enclosure, e.g. detection of display lid position with respect to main body in a laptop, detection of opening of the cover of battery compartment
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1694Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being a single or a set of motion sensors for pointer control or gesture input obtained by sensing movements of the portable computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/22Procedures used during a speech recognition process, e.g. man-machine dialogue
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00Speech recognition
    • G10L15/26Speech to text systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/0206Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings
    • H04M1/0241Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings using relative motion of the body parts to change the operational status of the telephone set, e.g. switching on/off, answering incoming call
    • H04M1/0243Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings using relative motion of the body parts to change the operational status of the telephone set, e.g. switching on/off, answering incoming call using the relative angle between housings
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72448User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
    • H04M1/72454User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2200/00Indexing scheme relating to G06F1/04 - G06F1/32
    • G06F2200/16Indexing scheme relating to G06F1/16 - G06F1/18
    • G06F2200/163Indexing scheme relating to constructional details of the computer
    • G06F2200/1637Sensing arrangement for detection of housing movement or orientation, e.g. for controlling scrolling or cursor movement on the display of an handheld computer
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/02Constructional features of telephone sets
    • H04M1/0202Portable telephone sets, e.g. cordless phones, mobile phones or bar type handsets
    • H04M1/0206Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings
    • H04M1/0208Portable telephones comprising a plurality of mechanically joined movable body parts, e.g. hinged housings characterized by the relative motions of the body parts
    • H04M1/0214Foldable telephones, i.e. with body parts pivoting to an open position around an axis parallel to the plane they define in closed position
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/16Details of telephonic subscriber devices including more than one display unit
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/74Details of telephonic subscriber devices with voice recognition means

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Hardware Design (AREA)
  • General Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • Computational Linguistics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Environmental & Geological Engineering (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mathematical Physics (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

利用手持设备的独特属性及其使用方式‑尤其是多屏幕设备‑来限定用于自动触发工作流的规则。通过监测来自各种设备传感器的信号,设备可以预测用户执行动作的意图,诸如捕获快速想法。可以基于用于评估传感器信号的规则来自动触发用于执行一个(或多个)动作的工作流。通过预测用户的意图,设备可以在幕后自动执行底层动作中的多种底层动作,从而最大限度地减少由用户执行的动作并改善用户体验。以这种方式,通过预测用户意图并自动触发工作流,避免了繁琐的、多步骤的用户输入和交互。

Description

设备上的上下文工作流触发
背景技术
包括具有双屏幕或多屏幕的那些手持设备在内的手持设备是广泛可用的,并且不仅用作移动电话而且用作相机、录像机、记事本、个人助理、日历和任务管理器等。然而,用户与此类设备的交互并未被明确限定,并且常常需要多个步骤才能访问期望的应用以执行动作。也就是说,设备无法评估用户交互、设备状态和上下文,以便自动启动期望的应用以执行期望的动作。结果,需要用户提供多个输入(例如,轻扣、点击、触摸)以导航到特定屏幕、查找并打开期望应用、在应用内进行导航以查找并选择期望的动作,然后最终执行期望的动作。这样的多个步骤和输入不仅让用户感到沮丧,而且常常可能会阻止用户使用手持设备完成简单的任务,诸如记下便条或提醒。因此,虽然手持设备很容易可供用户使用,并且能够并且独特地适合于执行快速动作,但是当前繁琐的实现破坏了此类动作的“快速性”。
本文所公开的各方面是针对这些和其他一般考虑而做出的。此外,尽管可以讨论相对具体的问题,但是应当理解,示例不应局限于解决在背景技术或本公开的其他地方标识的具体问题。
发明内容
为理解决上文所标识的问题,本方法和系统利用手持设备的独特属性以及它们的使用方式-尤其是多屏幕设备-来限定用于自动触发工作流的规则。“工作流”可以被限定为用于提供用户体验的一系列设备状态转变。例如,可以确定双屏幕设备的独特属性为用户提供了通过执行直观运动(诸如最小程度地打开设备、在屏幕之间的私人空间中说出(或低语)简短输入、然后在完成时关闭设备)来捕获快速想法的自然能力。通过监测来自各种设备传感器的信号,设备可以预测用户执行动作的意图,诸如捕获快速想法。可以基于用于评估传感器信号的规则而自动触发用于执行一个(或多个)动作的工作流。通过预测用户意图来捕获快速想法,设备可以在幕后自动执行底层动作中的多种底层动作,从而最大限度地减少由用户执行的动作并改善用户体验。因此,本系统和方法通过预测用户意图并自动触发工作流来避免繁琐的、多步骤的用户输入和交互。本文所描述的工作流允许用户直观地与手持设备(诸如多屏幕设备)交互以执行预期动作。此外,通过减少与手持设备交互所需的用户输入,可以利用此类设备的独特属性和能力将用户从与执行预期动作相关联的认知和计算负载中解放。
在各方面,提供了一种用于在手持设备上触发至少一个工作流的计算机实现的方法。该方法包括至少接收第一信号,其中该第一信号指示以下各项中的至少一项:设备取向、设备位置、设备状态、设备组件之间的角度、或用户的接近度,并且基于与触发用于提供用户体验的第一工作流相关联的规则集来评估该第一信号。基于该评估,该方法还包括自动触发第一设备状态转变以用于至少提供与第一工作流相关联的第一输出。附加地,该方法包括至少接收第二信号,其中第二信号指示设备交互,以及基于规则集来评估第二信号。基于该评估,该方法包括自动触发第二设备状态转变以用于至少提供与第一工作流相关联的第二输出。该方法还包括确定第一输出和第二输出提供用户体验并终止第一工作流。
在另一方面,提供了一种手持设备。该手持设备包括至少一个处理器和至少一个存储计算机可执行指令的存储器,该计算机可执行指令在由至少一个处理器执行时使手持设备执行操作。操作包括接收第一信号,其中第一信号指示以下各项中的一项或多项:设备取向、设备位置、设备状态、设备组件之间的角度、或用户的接近度,并且基于与触发用于提供用户体验的工作流相关联的规则集来评估第一信号。基于该评估,操作包括自动触发第一设备状态转变以用于至少提供与工作流相关联的第一输出。附加地,操作包括至少接收第二信号,其中第二信号指示用户输入,并且基于规则集来至少评估第二信号。基于该评估,操作包括自动触发第二设备状态转变以用于至少提供与工作流相关联的第二输出并确定第一输出和第二输出提供用户体验。
在又另一方面,提供了一种计算机存储介质。计算机存储介质存储计算机可执行指令,该计算机可执行指令在由处理器执行时使计算机系统执行操作。操作包括限定用于在手持设备上提供用户体验的工作流,以及将工作流转换成高级状态机模型,其中高级状态机模型包括用于实现工作流的一个或多个设备状态转变。操作还包括限定一个或多个信号以用于触发一个或多个设备状态转变以实现工作流,以及生成用于评所限定的一个或多个信号以确定是否触发一个或多个设备状态转变的规则集。附加地,操作包括基于使用数据或设备参数中的至少一个来训练规则集。
上述一个或多个方面中的任何一个与一个或多个方面中的任何其他方面组合。如本文所述的一个或多个方面中的任一方面。
提供本发明内容是为了以简化的形式介绍将在下面的详细描述中进一步描述的一系列概念。本发明内容不旨在标识要求保护的主题的关键特征或必要特征,也不旨在被用来限制要求保护的主题的范围。示例的附加方面、特征和/或优点将部分地在以下描述中被阐述,并且部分地将从描述中显而易见,或者可以通过本公开的实践而被获知。
附图说明
参考以下附图描述了非限制性和非穷举性示例。
图1图示了根据本公开的各方面的用于限定和触发上下文工作流的示例系统的概览。
图2A至图2D描绘了根据本公开的各方面的用于在不同设备类型上触发上下文工作流的信号的示例。
图3A至图3B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第一示例。
图4A至图4B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第二示例。
图5A至图5B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第三示例。
图6图示了根据本公开的各方面的用于在手持设备上触发上下文工作流的示例方法。
图7图示了根据本公开的各方面的触发设备上的上下文工作流的初始设备状态转变的示例方法。
图8图示了根据本公开的各方面的触发设备上的上下文工作流的后续状态转变的示例方法。
图9图示了根据本公开的各方面的为设备限定上下文工作流的示例方法。
图10是图示了可以用来实践本公开的各方面的计算设备的物理组件(例如,硬件)的框图。
图11A是可以用来实践本公开的各方面的移动计算设备的简化图。
图11B是可以用来实践本公开的各方面的移动计算设备的另一个简化框图。
具体实施方式
下面参考附图更全面地描述本公开的各个方面,附图形成本公开的一部分,并且示出具体示例方面。然而,本公开的不同方面可以以许多不同的方式来实现并且不应被解释为限于本文所阐述的各方面;相反,提供这些方面是为了使本公开透彻和完整,并将各方面的范围充分传达给本领域技术人员。各方面可以作为方法、系统或设备而被实践。因此,各方面可以采取硬件实现、完全软件实现或对软件和硬件方面进行组合的实现的形式。因此,以下详细描述不具有限制意义。
如上文所指出,包括具有双屏幕或多屏幕的那些手持设备在内的手持设备是广泛可用的,并且不仅用作移动电话而且用作相机、录像机、记事本、个人助理、日历和任务管理器等。然而,用户与此类设备的交互并未被明确限定,并且常常需要多个步骤才能访问期望的应用以执行动作。也就是说,设备无法评估用户交互、设备状态和上下文,以便自动启动期望的应用以执行期望的动作。因此,需要用户提供多种输入(例如,轻扣、点击、触摸)以导航到特定屏幕、查找并打开期望应用、在应用内进行导航以查找并选择期望的操作、然后最终执行期望的动作。
多个步骤和输入不仅让用户感到沮丧,而且常常阻止用户使用手持设备来完成简单的任务。例如,为了快速记下便条或提醒,用户目前必须执行七个或更多步骤,包括解锁设备、在主屏幕上进行导航以定位便条或任务应用、打开期望的应用、在应用内进行导航以标识现有便条或任务(或创建新便条或任务)、启动键盘或麦克风、键入或说出便条或提醒、保存便条或提醒、以及关闭应用和/或锁定设备。因此,虽然手持设备很容易并且几乎持续地可供用户使用,并且能够和独特地适合于执行快速动作,但是当前繁琐的实现破坏了此类动作的“快速性”。这尤其不幸是因为这些设备常常与用户的综合日历和任务列表同步。
为理解决上文所标识的问题,本方法和系统利用手持设备的独特属性以及它们的使用方式-尤其是多屏幕设备-来限定用于自动触发工作流的规则。“工作流”可以被限定为用于提供用户体验的一系列设备状态转变。在各方面,可以响应于基于规则评估一个或多个信号而自动触发工作流(或工作流的设备状态转变)。“信号”可以被限定为设备传感器的输出(例如,设备取向、设备位置、设备状态、设备组件之间的角度、用户接近度等)、应用的输出(例如,语音到文本翻译应用)、处理的输出(例如,自然语言处理、确定、计算)等等。“输入”是处理与设备传感器(例如,触摸传感器、麦克风、相机等)接收或捕获的设备交互相关联的信号数据的结果。
所支持的传感器集合可能因手持设备而异,但是设备传感器可以包括以下各项中的一项或多项:用于检测触摸输入的触摸传感器(例如,电阻式、电容式、声波、红外触摸传感器);用于检测设备取向的速度或旋转的陀螺仪;用于检测设备的空间取向的加速度计;用于检测用户到设备的接近度的接近度(或光)传感器;用于检测和/或捕获音频输入的麦克风;用于捕获图像或视频输入以及用于检测设备的视野的相机;用于检测屏幕之间的或者屏幕与另一个设备组件、附件或用户解剖结构(例如,笔记本计算机键盘、设备外壳、可拆卸平板键盘、用户手部等等)之间的角度的角度位置传感器(例如,位于设备铰链处);等等。传感器还可以包括“虚拟”或“计算”传感器。在各方面,来自虚拟或计算传感器的传感器信号可以涉及来自其他传感器的信号的解释和/或编译。例如,“铰链”传感器可以包括基于使用机器学习模型来模拟铰链传感器并计算铰链处的屏幕之间的角度的解释其他传感器(例如,光传感器、陀螺仪传感器、相机传感器)的虚拟实现。应当理解,这个传感器列表并非详尽无遗的,并且不应被理解为限制;此外,任何数目或组合的传感器被设想为由本文所描述的系统和方法使用。
所公开的系统和方法分析用户行为和/或设备参数以限定用于改善手持设备(诸如多屏幕设备)上的用户体验的工作流。例如,可以确定,双屏幕设备的独特属性为用户提供了通过执行诸如最小程度地打开设备、对着屏幕之间的私人空间中说出(或低语)简短输入、然后在完成时关闭设备的直观运动来捕获便条或提醒的自然能力。通过监测来自各种设备传感器的信号,设备可以预测用户执行一个(或多个)动作的意图,诸如捕获快速想法。可以基于通过应用规则集来评估传感器信号而自动触发用于执行一个(或多个)动作的工作流。因此,通过预测用户捕获便条或提醒的意图,设备可以在幕后自动执行底层动作中的多种底层动作,从而最大限度地减少由用户执行的动作并改善用户体验。
用于实现上述场景的工作流可以基于一系列设备动作来进行限定,诸如检测设备打开到最小屏幕到屏幕角度、检测输入、捕获输入、检索上下文、分析输入(和上下文)、确定并打开适当的应用或应用组件、将输入添加到适当的应用或应用组件、保存输入、以及生成成功完成的通知。为了执行工作流,设备动作可以被转换成由一个或多个信号触发的一系列设备状态转变。用于执行工作流的规则集可以指定一个或多个规则以用于评估信号以触发每个设备状态转变。例如,规则可以针对设备状态转变的顺序或序列、用于触发每个设备状态转变的信号(或信号的组合)、用于触发每个状态转变的信号的顺序和时序、用于评估信号或信号的组合的标准(例如,阈值和/或值的范围)等等。应当理解,每个工作流的规则集是可扩展的,以允许不同的信号或信号的组合触发特定的设备状态转变(例如,针对具有不同所支持的传感器集合的设备),或者允许相同的信号或信号的组合以触发不同设备上或不同上下文中的不同设备状态转变。如本文中所使用的,“上下文”可以广义地指代与关于工作流的用户意图相关的附加信息,诸如频繁使用的应用、应用数据(例如,在日历应用中安排的会议或诸如购物清单之类的现有任务)、用户行为、用户偏好、已安装的应用、应用设置等等。
应当进一步理解,虽然用于捕获快速想法的工作流在本文中被用作所描述的方法和系统的示例实施例,但是本公开不限于此。也就是说,可以创建和触发附加的工作流以提供不同的用户体验。例如,可以提供从关闭状态接受语音命令的工作流。在此示例中,指纹传感器可以在双屏幕设备关闭时检测到双击(例如,第一屏幕和第二屏幕以大约0度的角度相邻)。附加地,陀螺仪和/或加速度计可以检测双屏幕设备已被放置在直立位置。通过基于规则集来评估传感器信号,可以确定用于接受语音命令的工作流应该被触发,并且特别地,应该触发设备状态转变来点亮麦克风以收听音频输入。响应于检测到音频输入,麦克风可以捕获音频输入作为信号数据。与捕获快速想法的工作流不同,用于接受语音命令的工作流可以涉用于评估用以检测命令的音频输入、评估用以标识要被执行的操作的命令、以及在一些情况下执行操作的设备状态转变。
在另一示例中,可以提供用于启动“相机优先”应用的工作流。在这里,陀螺仪和/或加速度计可以检测到双屏幕设备已经被放置在帐篷姿势,并且角度位置传感器可以检测到屏幕相对于彼此以大约280度的角度被定向。此外,接近度传感器(或触摸传感器)可以检测到一个屏幕与平坦表面(例如,桌子)接触。在这种情况下,双屏幕设备处于静态位置(不需要用户握住设备)并且一个屏幕(例如,第一屏幕)被定向成使得用户可以在第一屏幕上查看内容和/或与第一屏幕相关联的相机可以捕获图像或视频。通过基于规则集来评估传感器信号,可以确定应该触发用于启动“相机优先”应用的工作流。在检索和评估上下文(例如,用户的日历)后,可以确定安排了视频呼叫。在这种情况下,可以触发设备状态转变以用于启动与所安排的视频呼叫相关联的特定“相机优先”应用,诸如Microsoft
Figure BDA0004135752430000081
Cisco/>
Figure BDA0004135752430000082
或/>
Figure BDA0004135752430000083
应当理解,可以限定任何数目的工作流以用于通过预测用户意图和最大限度地减少由用户执行的用于实现用户意图的动作来改善用户体验。
工作流(或设备状态转变)的(多个)输出(例如用户体验)可以涉及执行一个或多个“动作”,包括诸如“点亮”、“打开”、“捕获”、“保存”、“连接”、“断开连接”、“投影”、“等待输入”等等之类的操作。例如,用于捕获便条或提醒的工作流可以涉及由设备执行的多个动作,包括检测设备打开到屏幕之间(或屏幕和另一个设备组件或用户解剖结构之间)的角度(例如,大约15度)、等待输入、捕获话音输入、将话音输入翻译成文本、检索上下文、分析输入(和上下文)、确定并打开适当的应用(例如,便条应用对任务应用)和/或应用的适当组件(例如,新任务对现有任务)、将输入添加到应用或应用组件、检测设备关闭以使得屏幕相邻(例如,相隔约0度)、保存输入、关闭应用并提供关于成功完成的通知。在这里,虽然工作流涉及由设备自动执行的多个动作,但是用户只需要执行三个操作:将设备打开到最小角度、对着设备说话以及关闭设备。因此,本系统和方法通过预测用户意图并自动触发工作流来避免繁琐的、多步骤的用户输入和交互。本文所描述的工作流允许用户直观地与手持设备(诸如多屏幕设备)交互以执行预期动作。此外,通过减少与手持设备交互所需的用户输入,可以利用此类设备的独特属性和能力将用户从与执行预期操作相关联的认知和计算负载中解放。
图1图示了根据本公开的各方面的用于限定和触发上下文工作流的示例系统100的概览。
如图1中所示,工作流管理器106可以包括用于触发和执行工作流以在手持设备(尤其是多屏幕设备)上自动提供用户体验的各种组件。工作流管理器106包括(多个)传感器108、信号处理器110、上下文检索器112、参数检索器114、规则评估器116、工作流启动器118等等。在各方面,每个组件可以在其他组件之间进行通信并传递数据。可以使用硬件、软件或硬件和软件的组合来实现各种组件。在各方面,工作流管理器106的各种组件可以由手持计算设备(例如,手持设备104)的操作系统执行。在各方面,手持设备104可以是移动电话、笔记本计算机、平板计算机、多屏幕设备、游戏控制器、可穿戴设备等等。如本文中所使用的,“多屏幕设备”可以是与通过电子连接器(例如,铰链、磁性接头、可延展材料、电线等等)通信耦合的两个或更多屏幕相关联的计算设备。例如,多屏幕设备可以是在电子连接器处可折叠的便携式双屏幕设备。
应当理解,多屏幕设备可以由用户以多个不同的取向来握持或放置。作为示例,可以打开双屏幕设备,使得第一屏幕相对于第二屏幕以角度被定向,其中该角度的范围可以从0度(设备关闭)到大约15度(设备稍微打开)到大约180度(设备屏幕打开到同一平面上)到大约280度(设备屏幕打开成帐篷状)到大约360度(设备屏幕完全打开并相互折叠)、以及在0到360度之间的任何其他角度。在各方面,位于双屏幕设备的铰链处或附近的传感器(例如,角度位置传感器)可以检测第一屏幕和第二屏幕之间的角度。类似地,其他手持设备可能近似上述屏幕到屏幕的取向。例如,可以打开笔记本计算机,使得屏幕和键盘相对于彼此以角度被定向。在一些方面,由笔记本计算机展现出的角度可能被限制在0度和大约120度之间;而在其他方面,角度可能不受此限制(例如,平板计算机)。此外,可以打开平板设备(例如,Microsoft
Figure BDA0004135752430000101
Apple/>
Figure BDA0004135752430000102
),使得屏幕和可移动键盘相对于彼此以角度被定向。对于钱包式翻盖保护的移动电话,翻盖可以被打开以相对于电话屏幕形成角度。备选地,对于屏幕外露的移动电话,用户的手可以放在电话屏幕的边缘以形成角度。在又一方面,例如,在全息环境中,用户的两只手可以被定向为以相对于彼此形成角度。应当理解,可以集成或以其他方式利用用于检测设备屏幕与另一设备组件(例如,键盘、设备盖)、设备屏幕与用户的手、和/或用户的双手之间的角度的适当传感器。
在各方面,工作流管理器106可以被配置为从(多个)传感器108接收一个或多个信号并且可以处理信号以检测值(例如,角度)、设备位置变化(例如,取向变化、旋转)、设备交互(例如,用户接近度、触摸输入、音频输入)等等。工作流管理器106可以进一步检索上下文(例如,频繁使用的应用、应用数据、用户行为、用户偏好、已安装的应用、应用设置等等)和/或设备参数(例如,所支持的传感器、设备使用数据、设备设置、设备形状因子等等)。基于上下文和/或设备参数,工作流管理器106可以基于与工作流相对应的规则集来评估经处理的(多个)信号并且可以确定是否启动(或触发)工作流(或工作流的设备状态转变)。
如上文所详述,工作流管理器106可以包括(多个)传感器108。传感器108可以包括以下各项中的一项或多项:用于检测触摸输入的触摸传感器(例如,电阻式、电容式、声波、红外触摸传感器);用于检测设备取向的速度或旋转的陀螺仪;用于检测设备的空间取向的加速度计;用于检测用户到设备的接近度的接近度(或光)传感器;用于捕获音频输入的麦克风;用于捕获图像或视频输入以及用于检测设备的视野的相机;用于检测屏幕之间或者屏幕与另一设备组件、附件或用户解剖结构(例如,笔记本计算机键盘、设备外壳、可拆卸平板键盘、用户手部等等)之间的角度的角度位置传感器(例如,位于设备铰链处);等等。应当理解,这个传感器列表并非详尽无遗的,并且不应被理解为限制;此外,任何数量或组合的传感器被设想为由本文所描述的系统和方法使用。还应当理解,不同的手持设备可以支持不同的传感器或传感器配置。这种设备特定的传感器信息可以由参数检索器114检索。
工作流管理器106还可以包括信号处理器110。信号处理器110被配置为从(多个)传感器108接收信号数据并且处理信号数据以检测值(例如角度、相机视野)、设备位置变化(例如,取向变化、旋转)、设备交互(例如,用户接近度、触摸输入、音频输入)等等。基于上文的示例,信号处理器110可以从一个或多个传感器108接收信号数据。例如,陀螺仪可以传输关于设备的取向或旋转的变化速度的信号数据,加速度计可以传输关于设备的取向的信号数据,角度位置传感器可以传输关于屏幕之间的角度的信号数据,并且接近度传感器可以传输关于用户到设备的接近度的信号数据。应当理解,更多或更少的传感器可以将信号数据传输到信号处理器110。在此示例中,单个处理器110可以处理来自陀螺仪和/或加速度计的信号数据以检测设备已经升高到基本上直立的位置,并且屏幕已经被分开。信号处理器110还可以处理来自角度位置传感器的信号数据以检测屏幕之间大约15度的角度并且可以处理来自接近度传感器的信号数据以检测用户面部已经移动到靠近屏幕中的一个或多个屏幕。
在一些方面,内容检索器112可以检索上下文。如上文所指出,上下文可以广泛地指代与关于工作流的用户意图相关的信息,诸如频繁使用的应用、应用数据(例如,在日历应用中安排的会议或诸如购物清单之类的现有任务)、用户行为、用户偏好、已安装的应用、应用设置等等。附加地或备选地,参数检索器114可以检索设备特定的参数,诸如所支持的传感器、设备使用数据(例如,用户通常如何握住设备或与设备交互)、设备设置、设备形状因子(例如,设备组件的大小、形状、样式、布局和位置等)等等。
规则评估器116基于与一个或多个工作流相关联的一个或多个规则集来评估来自一个或多个传感器的经处理的信号数据。如上文所指出,可以创建规则集,其指定一个或多个规则以用于评估信号以确定是否以及何时触发一系列与工作流相关联的设备状态转变。例如,规则可以针对设备状态转变的顺序或序列、用于触发每个设备状态转变的信号(或信号的组合)、用于触发每个状态转变的信号的顺序和时序、用于评估信号或信号的组合的标准(例如,阈值和/或值的范围)等等。附加地,规则评估器116可以在将规则集应用于信号数据时评估上下文和/或设备参数。例如,包括频繁使用的应用的上下文可以使得工作流管理器106能够响应于触发工作流的设备状态转变来确定要打开的适当应用(例如,优选任务应用)。在其他方面,设备参数(例如,所支持的传感器)使得工作流管理器106能够在应用规则集时评估信号质量。应当理解,每个工作流的规则集是可扩展的,以允许不同的信号或信号的组合触发特定的设备状态转变(例如,针对具有所支持的不同传感器集的设备),或者允许相同的信号或信号的组合触发不同设备上或不同上下文中的不同设备状态转变。
基于根据规则集来评估信号数据,规则评估器116确定操作系统是否应该触发工作流(或工作流的设备状态转变)。如果确定应该触发工作流(或工作流的设备状态转变),则工作流启动器118与操作系统交互以触发工作流(或设备状态转变)。触发工作流(或设备状态转变)可以涉及执行一个或多个动作,包括诸如“点亮屏幕”、“打开”、“捕获”、“保存”、“连接”、“断开连接”、“投影”、“等待输入”等等之类的操作。例如,基于以上示例,基于规则集,规则评估器116可以评估来自传感器的经处理信号,例如,设备的取向、屏幕之间大约15度的角度和/或用户面部的接近度。在将规则集应用于经处理信号后,规则评估器116可以确定应该触发用于捕获便条或提醒的工作流,并且特别地,应该触发用于点亮麦克风以收听音频输入的设备状态转变。在此示例中,如果并且当麦克风(例如,传感器108)检测到并捕获与音频输入相关联的信号数据时,工作流可以前进,信号处理器110处理信号数据以获得音频输入(其可以包括将音频输入翻译成文本并使用自然语言处理来评估输入)。然后规则评估器可以基于规则集来评估输入以确定是否应该触发工作流的后续设备状态转变。在附加的或备选的实施例中,规则评估器116可以基于经处理信号来确定操作系统是否应该触发设备状态转变和另一工作流。例如,继续上文的示例,经由麦克风捕获的音频输入可能包括一个工作流中的一个“步骤”(或设备状态转变)(例如,通过将设备打开到特定角度来开始)以及还包括另一工作流(例如,执行处理并产生独立用户体验的一个工作流)的起始点。
在另外的方面,工作流管理器106可以经由网络120来与系统122通信。系统122可以涉及一个或多个服务器和系统存储器(例如,数据库138),以用于生成规则集(例如,规则集140)以供工作流管理器106使用来触发和执行手持设备(例如,手持设备104)上的工作流。例如,系统122可以包括工作流限定器124。工作流限定器124可以包括用于限定在手持设备上执行的工作流的数个模块或组件,包括工作流确定器126、状态机建模器128、信号限定器130、训练模块132、信号噪声补偿器134和/或规则生成器136。例如,工作流确定器126可以分析用户行为和/或设备特性以标识和确定可以被触发以提供各种用户体验的工作流。例如,可以确定双屏幕设备的独特属性为用户提供了通过执行直观运动(诸如最小程度地打开设备、在屏幕之间的私人空间中说出(或低语)简短输入、然后在完成时关闭设备)来捕获快速想法的自然能力。工作流确定器126可以基于一系列动作来确定用于实现上述场景的工作流,诸如检测设备屏幕展开到最小角度、检测输入、捕获输入、检索上下文、分析输入(和上下文)、确定并打开适当应用和/或应用组件、将输入添加到适当应用或应用组件、保存输入、并生成成功完成的通知。
为了在手持设备上实现工作流,状态机建模器128可以将工作流转换为由一个或多个信号触发的一系列设备状态转变。基于用户行为和/或设备参数,信号限定器130可以限定用于触发设备状态转变的一个或多个信号。例如,为了实现用于捕获短便条或提醒的工作流,信号限定器130可以限定指示设备被最低程度地打开的一个或多个信号,例如,涉及双屏幕之间的最小角度的信号,和/或用户接近设备的至少一个屏幕(例如,涉及检测用户面部和至少一个屏幕之间的距离的信号)。这样的信号指示捕获快速便条的用户意图,并且可以被用来触发用于实现用户意图的工作流。
规则生成器136可以限定用于评估一个或多个信号的规则集(例如,规则集140)以确定是否应该触发工作流(或工作流的设备状态转变)。例如,工作流的规则集可以指定设备状态转变的顺序或序列以提供用户体验、指定用于触发每个状态转变的信号(或信号的组合)、指定用于评估信号或信号的组合的标准(例如,用于补偿信号质量的阈值和/或值的范围)以确定是否和/或何时触发、指定信号的顺序或序列以确定是否和/或何时触发,等等。应当理解,每个工作流的规则集是可扩展的,以允许不同的信号或信号的组合触发特定的设备状态转变(例如,针对具有所支持的不同传感器集的设备),或者允许相同的信号或信号的组合触发不同设备上或不同上下文中的不同设备状态转变。
训练模块132可以基于用户行为、设备使用数据和/或设备参数来收集训练数据以训练规则集。例如,训练数据可以证明用户行为的变化(例如,左撇子和右撇子用户拿起、打开和握持手持设备的方式可能略有不同);不同设备之间的变化,诸如不同的所支持的传感器集合、不同的使用数据(例如,用户可能以不同的方式握住或与不同的设备交互)、设备形状因子(例如,设备组件的大小、形状、样式、布局和位置等等);等等。也就是说,训练数据可以指示用户拿起和打开手持设备的方式略有不同,这可能会影响用于评估信号的标准,例如,直立取向的检测、设备最小打开角度的检测、用户和设备之间的接近度的检测等等。应当理解,用户行为和/或设备参数的变化会导致信号质量的变化,这会导致在对信号进行评估时规则集的应用不一致。因此,基于训练,考虑到用户行为、设备参数等等的变化的噪声补偿因子可以由信号噪声补偿器134确定。噪声补偿因子然后可以由规则生成器136使用以利用用于评估信号的经改进的标准(例如,值的范围、更新后的阈值)来更新规则集140。应当理解,规则集可以不断地被训练并被更新以虑及新设备、新传感器配置、不断演变的用户行为等等。
应当理解,关于图1描述的各种设备、组件等并不旨在将系统和方法限制为所描述的特定组件。因此,在不背离本文所公开的方法和系统的情况下,可以使用附加的拓扑配置来实践本文的方法和系统和/或可以排除所描述的一些组件。
图2A至图2D描绘了根据本公开的各方面的用于在不同设备类型上触发上下文工作流的信号的示例。图2A描绘了根据本公开的示例的用于在双屏幕设备上触发上下文工作流的信号的示例。
双屏幕设备200A是手持设备(例如,手持设备104)的一个实施例。如上文所指出,可以确定双屏幕设备200A的独特属性为用户提供了通过执行直观运动(诸如最小程度地打开设备、在屏幕之间的私人空间中说出(或低语)简短输入、然后在完成时关闭设备)来捕获快速想法的自然能力。用于捕获快速想法(例如,便条或提醒)的工作流可以涉及由双屏幕设备200A执行的多个动作,诸如检测设备打开到屏幕之间的角度(例如,大约15度)、等待输入、捕获输入(例如,话音输入)、检测屏幕相对于彼此(例如,大约0度)、以及保存输入。为了执行工作流,设备动作可以被转换成基于规则集由一个或多个信号触发的一系列设备状态转变。
如图像A所图示,双屏幕设备200A的初始状态涉及设备处于闭合取向,其中第一屏幕202和第二屏幕204以大约0度的屏幕到屏幕角度被定位。如图像B所图示,双屏幕设备200A已经被打开到最小角度(例如,大约15度)。例如,通过处理来自一个或多个传感器(例如,陀螺仪、加速度计和/或角度位置传感器)的信号数据,可以确定设备取向已经从关闭状态改变为打开状态并且屏幕之间的角度大约为15度。通过基于规则集来评估(多个)信号,可以确定应该触发用于捕获便条或提醒的工作流,并且特别地,应该触发用于点亮麦克风以收听音频输入的设备状态转变(例如,信号调用)。
如图像C所图示,用户206向第一屏幕202和第二屏幕204之间的空间说话以向双屏幕设备200A提供音频输入208。作为响应,麦克风(例如,传感器)可以检测和捕获与音频输入208相关联的信号数据。尽管未图示,但是为了分析音频输入208,可以触发与工作流相关联的附加设备状态转变,例如,以将音频输入208翻译成文本,使用自然语言处理来分析输入,确定用于存储输入的应用或应用组件,等等。音频输入208可以包括可变长度的口语。通过分析音频输入208,可以确定输入是提醒(例如,包括诸如“记住”或“提醒我”之类的术语在内的简短陈述)还是便条(例如,包括反映或描述的术语的较长陈述)。还可以确定用于存储提醒的适当应用是任务应用,并且用于存储便条的适当应用是便条应用。附加的分析(例如,基于上下文)可以指示用户频繁使用特定任务或便条应用并且系统可以标识用于存储提醒的优选任务应用或用于存储便条的优选便条应用。基于更进一步的分析(例如,基于上下文),可以确定提醒与杂货项目相关并且杂货清单是与任务应用相关联的现有任务(例如,应用组件)。在这种情况下,可以确定应该将提醒添加到与该任务应用相关联的杂货清单。应当理解,可以触发多个设备状态转变以分析输入、确定用于存储输入的适当应用(或应用组件)、打开适当应用等等。
如图像D所图示,在提供音频输入208之后,用户206可以关闭双屏幕设备200A。通过评估来自一个或多个传感器(例如,陀螺仪、加速度计和/或角位置传感器)的信号数据,可以确定设备取向已经从打开状态改变到关闭状态并且屏幕之间的角度减少到大约0度。通过基于规则集来评估(多个)信号,可以确定应该触发设备状态转变以用于保存输入并且应该终止工作流(例如,信号终止)。在一些情况下,在终止工作流之前,可以触发附加的设备状态转变以用于关闭应用、生成关于成功捕获输入并将输入存储到应用的通知等等。
因此,虽然工作流涉及由设备自动执行的多个动作(例如,捕获音频输入、分析音频输入、确定用于存储输入的适当应用或应用组件、保存输入以及生成通知),但是用户只需执行三个动作:将设备打开到最小角度(图像B),对着屏幕之间的空间说话(图像C),以及关闭设备(图像D)。
图2B描绘了根据本公开的示例的用于在与可移除键盘相关联的平板设备上触发上下文工作流的信号的示例。
平板设备200B是手持设备(例如,手持设备104)的一个实施例。如所图示,平板设备200B与可移除键盘相关联。类似于双屏幕设备200A,可以确定与可移除键盘相关联的平板设备(例如,平板设备200B)为用户提供了通过执行直观运动(诸如将平板定位在纵向(垂直)取向、将键盘移动到距离平板屏幕最小的距离、在平板屏幕和键盘之间的私人空间中说出(或低语)简短输入、然后在完成时相对于平板屏幕将键盘移回)来捕获快速想法的自然能力。用于使用平板设备200B捕获快速想法(例如,便条或提醒)的工作流可以涉及与针对双屏幕设备200A所描述的那些类似的设备动作,诸如检测垂直设备取向、检测平板屏幕和键盘之间的角度(例如,大约15度)、等待输入、捕获输入(例如,话音输入)、检测键盘相对于平板屏幕(例如,大约0度)、以及保存输入。为了执行工作流,设备动作可以被转换成基于规则集由一个或多个信号触发的一系列设备状态转变。
如图像A所图示,平板设备200B的初始状态涉及设备处于闭合取向,其中平板210相对于键盘212以大约0度的角度被定位。如图像B所图示,平板设备200B的键盘212已经移动到距平板210最小距离,例如成大约15度的角度。例如,通过处理来自一个或多个传感器(例如,陀螺仪、加速度计和/或角度位置传感器)的信号数据,可以确定设备已经被定位在纵向(或垂直)取向并且平板屏幕和键盘之间的角度大约为15度。通过基于规则集来评估(多个)信号,可以确定应该触发用于捕获便条或提醒的工作流,并且特别地,应该触发用于点亮麦克风以收听音频输入的设备状态转变(例如,信号调用)。
如图像C所图示,用户206对着平板210和键盘212之间的空间说话以向平板设备200B提供音频输入208。作为响应,麦克风(例如,传感器)可以检测和捕获与音频输入208相关联的信号数据。类似于上文的讨论,为了分析音频输入208,可以触发与工作流相关联的附加设备状态转变,例如,以将音频输入208翻译成文本,使用自然语言处理来分析输入,确定用于存储输入的应用或应用组件,等等。
如图像D所图示,在提供音频输入208之后,用户206可以在完成时相对于平板210将键盘212移回。通过评估来自一个或多个传感器(例如,陀螺仪、加速度计和/或角度位置传感器)的信号数据,可以确定平板210和键盘212之间的角度减小到大约0度。通过基于规则集来评估(多个)信号,可以确定应该触发设备状态转变以用于保存输入并且应该终止工作流(例如,信号终止)。在一些情况下,在终止工作流之前,可以触发附加的设备状态转变以用于关闭应用、生成关于成功捕获输入并将输入存储到应用的通知等等。
因此,虽然工作流涉及由设备自动执行的多个动作(例如,捕获音频输入、分析音频输入、确定用于存储输入的适当应用或应用组件、保存输入以及生成通知),但是用户只需执行三个动作:将键盘从平板移开最小角度(图像B),对着平板和键盘之间的空间说话(图像C),以及相对于平板将键盘移回(图像D)。
图2C描绘了根据本公开的示例的用于在笔记本计算机设备上触发上下文工作流的信号的示例。
笔记本计算机设备200C是手持设备(例如,手持设备104)的一个实施例。如所图示,笔记本计算机设备200C包括键盘。与上述手持设备类似,可以确定笔记本计算机设备200C为用户提供了通过执行直观运动(诸如将笔记本计算机定位在纵向(竖直)取向、打开键盘距离笔记本计算机屏幕最小距离、在笔记本计算机屏幕和键盘之间的私人空间中说出(或低语)简短输入、然后在完成时相对于笔记本计算机屏幕将键盘移回)来捕获快速想法的自然能力。用于使用笔记本计算机设备200C捕获快速想法(例如,便条或提醒)的工作流可以涉及与针对上述设备所描述的那些类似的设备动作,诸如检测垂直设备取向、检测笔记本计算机屏幕和键盘之间的角度(例如,大约15度)、等待输入、捕获输入(例如,话音输入)、检测键盘相对于笔记本计算机屏幕(例如、大约0度)、以及保存输入。为了执行工作流,设备动作可以被转换成基于规则集由一个或多个信号触发的一系列设备状态转变。
如图像A所图示,笔记本计算机设备200C的初始状态涉及设备处于闭合取向,笔记本计算机屏幕214相对于键盘216以大约0度的角度被定位。如图像B所图示,笔记本计算机设备200C的键盘216已经打开到距笔记本计算机屏幕214最小距离,例如以大约15度的角度。例如,通过处理来自一个或多个传感器(例如,陀螺仪、加速度计和/或角度位置传感器)的信号数据,可以确定设备已经被定位在纵向(或垂直)取向并且笔记本计算机屏幕和键盘之间的角度大约为15度。通过基于规则集来评估(多个)信号,可以确定应该触发用于捕获便条或提醒的工作流,并且特别地,应该触发用于点亮麦克风以收听音频输入的设备状态转变(例如,信号调用)。
如图像C所图示,用户206对着笔记本计算机屏幕214和键盘216之间的空间说话,以向笔记本计算机设备200C提供音频输入208。作为响应,麦克风(例如,传感器)可以检测和捕获与音频输入208相关联的信号数据。类似于上文的讨论,为了分析音频输入208,可以触发与工作流相关联的附加设备状态转变,例如,以将音频输入208翻译成文本,使用自然语言处理来分析输入,确定用于存储输入的应用或应用组件,等等。
如图像D所图示,在提供音频输入208之后,用户206可以在完成时相对于笔记本计算机屏幕214将键盘216关闭回来。通过评估来自一个或多个传感器(例如,陀螺仪、加速度计和/或角度位置传感器)的信号数据,可以确定笔记本计算机屏幕214和键盘216之间的角度减小到大约0度。通过基于规则集来评估(多个)信号,可以确定应该触发设备状态转变以用于保存输入并且应该终止工作流(例如,信号终止)。在一些情况下,在终止工作流之前,可以触发附加的设备状态转变以用于关闭应用、生成关于成功捕获输入并将输入存储到应用的通知等等。
因此,虽然工作流涉及由设备自动执行的多个动作(例如,捕获音频输入、分析音频输入、确定用于存储输入的适当应用或应用组件、保存输入以及生成通知),但是用户只需执行三个动作:将键盘打开以与笔记本计算机屏幕成最小角度(图像B),对着笔记本计算机屏幕和键盘之间的空间说话(图像C),以及通过相对于笔记本计算机屏幕将键盘移回来关闭笔记本计算机(图像D)。
图2D描绘了根据本公开的示例的用于在移动电话上触发上下文工作流的信号的示例。
移动电话200D是手持设备(例如,手持设备104)的一个实施例。与上述手持设备类似,可以确定移动电话200D为用户提供了通过执行直观运动(诸如用一只手(例如,第一只手)握住移动电话并将另一只手(例如,第二只手)以相对于移动电话的垂直边缘成最小角度进行定位、在移动电话和第二只手之间的私人空间中说出(或低语)简短输入、然后在完成时将第二只手放在移动电话的屏幕上)来捕获快速想法的自然能力。用于使用移动电话200D捕获快速想法(例如,便条或提醒)的工作流可以涉及与针对上述设备所描述的那些类似的设备动作,诸如检测垂直设备取向、检测移动电话与第二只手之间的角度(例如,大约15度)、等待输入、捕获输入(例如,话音输入)、检测放在移动电话屏幕上的第二只手、以及保存输入。为了执行工作流,设备动作可以被转换成基于规则集由一个或多个信号触发的一系列设备状态转变。
如图像A所图示,移动电话200D的初始状态涉及设备处于静止状态。如图像B所图示,用户的手206A已被定位成相对于移动电话200D的垂直边缘成最小角度,例如大约15度的角度。例如,通过处理来自一个或多个传感器(例如,触摸传感器、接近度传感器和/或角位置传感器)的信号数据,可以确定用户的手已被定位成相对于移动电话的垂直边缘成大约15度的角度。通过基于规则集来评估(多个)信号,可以确定应该触发用于捕获便条或提醒的工作流,并且特别地,应该触发用于点亮麦克风以收听音频输入的设备状态转变(例如,信号调用)。
如图像C所图示,用户206对着移动电话和用户的手206A之间的空间说话,以向移动电话200D提供音频输入208。作为响应,麦克风(例如,传感器)可以检测和捕获与音频输入208相关联的信号数据。类似于上文的讨论,为了分析音频输入208,可以触发与工作流相关联的附加设备状态转变,例如,将音频输入208翻译成文本,使用自然语言处理来分析输入,确定用于存储输入的应用或应用组件,等等。
如图像D所图示,在提供音频输入208之后,用户206可以在完成时将手206A放在移动设备的屏幕上。通过评估来自一个或多个传感器(例如,触摸传感器、光传感器、接近度传感器)的信号数据,可以确定用户的手被定位在移动设备的屏幕上(例如,在多个位置处触摸屏幕、阻挡来自屏幕的光线)。通过基于规则集来评估(多个)信号,可以确定应该触发设备状态转变以用于保存输入并且应该终止工作流(例如,信号终止)。在一些情况下,在终止工作流之前,可以触发附加的设备状态转变以用于关闭应用、生成关于成功捕获输入并将输入存储到应用的通知等等。
因此,虽然工作流涉及由设备自动执行的多个动作(例如,捕获音频输入、分析音频输入、确定用于存储输入的适当应用或应用组件、保存输入以及生成通知),但是用户只需执行三个动作:将用户的手放置为相对于移动电话的边缘成最小角度(图像B),对着用户的手和移动电话之间的空间说话(图像C),以及将用户的手放在移动电话屏幕上(图像D)。
应当理解,关于图2A至图2D描述的各种方法、设备、接口、组件等并不旨在将系统和方法限制为所描述的特定组件。因此,在不背离本文所公开的方法和系统的情况下,可以使用附加的拓扑配置来实践本文的方法和系统和/或可以排除所描述的一些组件。
图3A至图3B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第一示例。
图3A图示了显示由所触发的工作流产生的输出(例如,通知)的双屏幕设备300的第一视图。双屏幕设备300具有通过电子连接器318(例如,铰链、磁性接头、可延展材料、电线等等)通信耦合的两个屏幕。在各方面,电子连接器318可以与传感器相关联。如所图示,双屏幕设备300包括具有第一显示区域304的第一屏幕302和具有第二显示区域308的第二屏幕306。在各方面,第一屏幕302和第二屏幕306可以是触摸启用的。也就是说,双屏幕设备300可以分别经由与第一屏幕302和第二屏幕306的接触来接收用户输入和/或选择。如所图示,第一显示区域304和第二显示区域308呈现主屏幕。主屏幕显示日期和时间以及表示用户所安装的应用(例如,应用1、应用2、应用3)和系统应用或功能(例如,呼叫功能、文本(SMS)应用、邮件应用、照片库、相机功能和文件夹功能)的多个图标。第二显示区域308还显示通知310和通知312。在各方面,通知310和312是用于捕获快速想法的工作流的输出。
例如,用于捕获快速想法的工作流可能已经基于对来自传感器的经处理信号的评估而被触发,该信号指示双屏幕设备300已经被打开使得第一屏幕302被定向为相对于第二屏幕306成大约15度角。一旦工作流被触发,双屏幕设备300可能已经经历了一系列设备状态转变以执行以下动作中的一个或多个:点亮麦克风以收听音频输入,检测并捕获音频输入,检索上下文,根据上下文来分析输入,确定并打开适当应用(例如,Notes应用314),将输入添加到应用,检测设备的关闭,将输入保存到应用,关闭应用,并提供关于成功完成的一个或多个通知(例如,通知310和/或通知312)。在各方面,当随后打开双屏幕设备300时(如所图示),可以向用户显示通知310和/或通知312。
在一些方面,通知可以提供关于成功捕获快速想法的一般信息,如通知310所图示,其提供:“您的便条已成功保存到您最喜欢的Notes应用”。在其他方面,通知可以提供关于成功捕获快速想法的更详细信息,如通知312所图示。例如,通知312显示所捕获的便条316的至少一部分(例如,“在我们大苏尔公路旅行中包括的站点。在洪堡红杉州立公园的巨人大道…”)并标识添加了便条316的特定便条应用(例如,Notes应用314)。另外,通知312可以提供用于编辑或删除便条的一个或多个控件。
图3B图示了双屏幕设备300的第二视图,其显示由所触发的工作流产生的输出(例如,保存的便条)。
类似于图3A,图3B图示了双屏幕设备300,其包括具有第一显示区域304的第一屏幕302和具有第二显示区域308的第二屏幕306。然而,在这种情况下,当第一显示区域304显示主屏幕时,第二显示区域308显示Notes应用314的打开页面。打开页面示出了用于所捕获的便条316的新条目,包括捕获便条316的日期(例如,星期二,1月14日)和便条316的全文(例如,“在我们的大苏尔公路旅行中包括的站点。在洪堡红杉州立公园的巨人大道和雷耶斯角国家海岸。”)。
应当理解,关于图3A至图3B描述的各种方法、设备、接口、组件等并不旨在将系统和方法限制为所描述的特定组件。因此,在不背离本文所公开的方法和系统的情况下,可以使用附加的拓扑配置来实践本文的方法和系统和/或可以排除所描述的一些组件。
图4A至图4B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第二示例。
图4A图示了显示由所触发的工作流产生的输出(例如,通知)的双屏幕设备400的第一视图。如所图示,双屏幕设备400包括具有第一显示区域404的第一屏幕402和具有第二显示区域408的第二屏幕406。类似于图3A,第一显示区域404和第二显示区域408呈现主屏幕。主屏幕显示日期和时间以及表示用户所安装的应用(例如,应用1、应用2、应用3)和系统应用或功能(例如,呼叫功能、文本(SMS)应用、邮件应用、照片库、相机功能和文件夹功能)的多个图标。类似于图3A,第二显示区域408还显示通知410和通知412。在各方面,通知410和412是用于捕获快速想法的工作流的输出。
例如,用于捕获快速想法的工作流可能已经基于对来自传感器的经处理信号的评估而被触发,该信号指示双屏幕设备400已经被打开使得第一屏幕402被定位为相对于第二屏幕406成大约15度角。一旦工作流被触发,双屏幕设备400可能已经经历了一系列设备状态转变以执行以下动作中的一个或多个:点亮麦克风以收听音频输入、检测并捕获音频输入,检索上下文,鉴于上下文来分析输入,确定并打开适当应用(例如,Tasks应用414),将输入添加到应用,检测设备的关闭,将输入保存到应用,关闭应用,并提供关于成功完成的一个或多个通知(例如,通知410和/或通知412)。在各方面,当随后打开双屏幕设备400时(如所图示),可以向用户显示通知410和/或通知412。
也就是说,类似于图3A,图4A显示了用于捕获快速想法的工作流的输出(例如,通知)。然而,在这种情况下,对所捕获的输入的评估指示输入是提醒而不是便条。因此,所捕获的输入被添加到Tasks应用414(而不是Notes应用314)。如上所述,可以通过使用自然语言处理来评估输入长度和/或内容来确定针对提醒的所捕获的输入。例如,针对提醒的输入可以包括包含诸如“记住”或“提醒我”之类的术语的简短陈述。对照而言,针对便条的输入可能包括更长的陈述,例如包括反映或描述的术语。
如上所述,通知可以提供关于成功捕获快速想法的一般信息,如通知410所图示,其提供:“您的提醒已成功保存到Tasks应用”。在其他方面,通知可以提供关于成功捕获快速想法的更详细信息,如通知412所图示。例如,通知412显示所捕获的提醒416(例如,“关于账单的电话保险”)并标识添加了提醒416的应用(例如,Tasks应用414)。附加地,通知412可以提供用于编辑或删除提醒的一个或多个控件。
图4B图示了显示由所触发的工作流产生的输出(例如,保存的提醒)的双屏幕设备400的第二视图。
类似于图4A,图4B图示了双屏幕设备400,其包括具有第一显示区域404的第一屏幕402和具有第二显示区域408的第二屏幕406。然而,在这种情况下,当第一显示区域404显示主屏幕时,第二显示区域408显示Tasks应用414的打开页面。打开页面示出了已经为所捕获的提醒416创建的新任务,包括截止日期420(例如,1月20日)、紧急标志418、提醒416的文本(例如,“关于账单的电话保险”)以及完成单选按钮422(未选中)。
应当理解,关于图4A至图4B描述的各种方法、设备、接口、组件等并不旨在将系统和方法限制为所描述的特定组件。因此,在不背离本文所公开的方法和系统的情况下,可以使用附加的拓扑配置来实践本文的方法和系统和/或可以排除所描述的一些组件。
图5A至图5B描绘了根据本公开的示例的在多屏幕设备上触发的工作流的一个或多个输出的第三示例。
图5A图示了显示由所触发的工作流产生的输出(例如,通知)的双屏幕设备500的第一视图。与上文的设备类似,双屏幕设备500包括具有第一显示区域504的第一屏幕502和具有第二显示区域508的第二屏幕506。与上文的附图类似,第一显示区域504和第二显示区域508呈现主屏幕。主屏幕显示日期和时间以及表示用户所安装的应用(例如,应用1、应用2、应用3)和系统应用或功能(例如,呼叫功能、文本(SMS)应用、邮件应用、照片库、相机功能和文件夹功能)的数个图标。与上文的附图类似,第二显示区域408还显示通知510和通知512。在各方面,通知510和512是用于捕获快速想法的工作流的输出,如上所述。
也就是说,类似于图4A,图5A显示用于捕获快速想法的工作流的输出(例如,通知)。如图4A中所示,对所捕获的输入的评估指示输入是提醒。因此,所捕获的输入被添加到Tasks应用514。在这里,通知510提供关于成功添加所捕获的提醒的一般信息,声明:“您的提醒已成功保存到Tasks应用”。对照而言,通知512提供关于成功捕获提醒的更详细信息。例如,通知512显示所捕获的提醒516(例如,“购买大豆”)并标识添加了提醒516的应用(例如,Tasks应用414)。附加地,通知512可以提供用于编辑或删除提醒的一个或多个控件。
图5B图示了显示由所触发的工作流产生的输出(例如,保存的提醒)的双屏幕设备500的第二视图。
类似于图5A,图5B图示了双屏幕设备500,其包括具有第一显示区域504的第一屏幕502和具有第二显示区域508的第二屏幕506。然而,在这种情况下,当第一显示区域504显示主屏幕时,第二显示区域508显示Tasks应用514的打开页面。参考图4B,Tasks应用514的打开页面示出了现有任务516(例如,“杂货清单”),所捕获的提醒516(例如,“大豆”)的一部分已被添加到该任务。在这种情况下,除了评估输入以确定输入针对提醒还是便条之外,还基于上下文进一步评估输入以确定提醒516是否与现有任务相关。在这种情况下,确定提醒516针对购买杂货项目,以及确定Tasks应用514具有与杂货清单相关联的现有任务518。因此,提醒516被添加到现有任务518。
应当理解,关于图5A至图5B描述的各种方法、设备、接口、组件等并不旨在将系统和方法限制为所描述的特定组件。因此,在不背离本文所公开的方法和系统的情况下,可以使用附加的拓扑配置来实践本文的方法和系统和/或可以排除所描述的一些组件。
图6图示了根据本公开的各方面的用于在手持设备上触发上下文工作流的示例方法。
图6中示出了方法600的一般操作顺序。方法600可以包括更多或更少的步骤或者可以与图6中所示的那些不同地布置步骤的顺序。方法600可以作为由计算机系统执行并编码或存储在计算机可读介质上的计算机可执行指令集来执行。此外,方法600可以由与处理器、ASIC、FPGA、SOC或其他硬件设备相关联的门或电路来执行。在下文中,将参考结合图1至图5B和图7至图11B描述的系统、组件、设备、模块、软件、数据结构、数据特性表示、信令图、方法等来解释方法600。
在接收信号操作602处,可以从与手持设备(例如,手持设备104)相关联的一个或多个传感器接收至少一个信号。例如,传感器可以包括以下各项中的一项或多项:用于检测触摸输入的触摸传感器(例如,电阻式、电容式、声波、红外触摸传感器);用于检测设备取向的速度或旋转的陀螺仪;用于检测设备的空间取向的加速度计;用于检测用户到设备的接近度的接近度(或光)传感器;用于捕获音频输入的麦克风;用于捕获图像或视频输入以及用于检测设备的视野的相机;用于检测屏幕之间或者屏幕与另一设备组件、附件或用户解剖结构(例如,笔记本计算机键盘、设备外壳、可拆卸平板键盘、用户手部等等)之间的角度的角度位置传感器(例如,位于设备铰链处);等等。应当理解,这个传感器列表并非详尽无遗的,并且不应被理解为限制;此外,任何数量或组合的传感器被设想为由本文所描述的系统和方法使用。还应当理解,不同的手持设备可以支持不同的传感器或传感器配置。在各方面,至少一个信号可以被处理以检测值(例如角度、相机视野)、设备位置变化(例如取向变化、旋转)、设备交互(例如,用户接近度、触摸输入、音频输入)等等。
在评估信号操作604处,可以基于用于触发工作流的规则集来评估接收到的至少一个信号。如上文所详述,用于触发工作流的规则集可以指定一个或多个规则以用于评估信号以触发与工作流相关联的设备状态转变。例如,规则可以针对设备状态转变的顺序或序列、用于触发每个状态转变的信号(或信号的组合)、用于触发每个状态转变的信号的顺序和时序、用于评估信号或信号的组合的标准(例如,阈值和/或值的范围)来确定是否和/或何时触发等等。附加地,当将规则集应用于至少一个信号时,可以评估上下文和/或设备参数。例如,包括频繁使用的应用的上下文可以使得手持设备能够响应于触发工作流的设备状态转变来确定要打开的适当应用(例如,优选任务应用)。在其他方面,设备参数(例如,所支持的传感器)可以使得手持设备能够在应用规则集时评估信号质量。
在确定操作606处,可以基于规则集来确定至少一个信号是否满足用于触发工作流的标准。如果至少一个信号满足标准,则该方法可以前进到触发操作610。如果至少一个信号不满足标准,则该方法可以返回到接收信号操作602。
在触发操作608处,可以基于确定至少一个信号满足规则集的标准来触发工作流的初始设备状态转变。例如,响应于确定应该触发工作流,手持设备的操作系统可以触发与工作流相关联的初始设备状态转变。触发初始设备状态转变可以涉及执行一个或多个动作,包括诸如“点亮屏幕”、“打开”、“捕获”、“保存”、“连接”、“断开连接”、“投影”、“等待输入”等等之类的操作。在各方面,初始设备状态转变可以提供与基于执行动作的工作流相关联的输出。关于上文的示例,至少一个信号可以指示双屏幕设备的屏幕已经被定位成大约15度的角度以及用户的面部接近至少一个屏幕。在基于规则集来评估至少一个信号后,可以确定应该触发用于捕获快速想法的工作流,以及特别地,应该触发用于点亮麦克风以收听音频输入的初始设备状态转变。在这里,初始设备状态转变可以提供与工作流相关联的第一输出(例如,检测和捕获音频输入)。
在确定操作610处,在触发工作流之后,可以确定在一个时间段内是否已经接收到附加信号(例如,输入)。如上文所指出,输入是处理与设备传感器(例如,触摸传感器、麦克风、相机等)接收或捕获的设备交互(例如,用户交互)相关联的信号数据的结果。例如,在上文的示例中,当用于捕获快速想法的工作流被触发时,用于点亮麦克风以收听音频输入的初始设备状态转变也可以被触发。如果在时间段内没有接收到音频输入(例如,如规则集所限定的),则可以终止工作流并且手持设备可以返回到监测传感器。因此,如果在该时间段内接收到输入,则该方法可以前进到评估输入操作612。如果在该时间段内未接收到输入,则该方法可以返回到接收信号操作602。在各方面,确定操作610可以考虑在时间段内是否已经接收到不同类型的信号(例如,设备取向),而不是输入。
在评估输入操作612处,可以基于与工作流相关联的规则集来评估接收到的输入。例如,如果用于点亮麦克风以收听音频输入的设备状态转变作为工作流的一部分而被触发,则接收音频输入可以满足规则集并且可以触发后续设备状态转变。对照而言,如果接收到触摸输入而不是音频输入,则触摸输入可能不满足规则集并且工作流可能被终止。
在确定操作614处,如果接收到的输入满足与所触发的工作流相关联的规则集的标准,则该方法可以前进到触发操作618。如果接收到的输入不满足规则集的标准,则该方法可以返回到接收信号操作602。
在触发操作616处,可以基于确定输入满足规则集的标准来触发工作流的后续设备状态转变。例如,基于上文的示例,当音频输入满足与用于捕获快速想法的工作流相关联的规则集的标准时,可以触发用于将音频输入翻译成文本的后续设备状态转变。在各方面,后续设备状态转变可以提供与工作流相关联的输出(例如,音频输入的文本翻译)。
如上文所指出,工作流可以包括与执行工作流相关联的一系列设备状态转变。该系列中的每个设备状态转变都可以基于接收和评估后续信号而被触发。如椭圆618所图示,该方法可以继续接收信号、评估信号和触发设备状态转变,直到确定与一系列设备状态转变相关联的输出提供与工作流相关联的用户体验。此后,可以通过在触发终止操作620处触发终止设备状态转变来终止工作流。
在各方面,操作602-608关于图7被进一步详述(如“A”所指示)并且操作610-620关于图8被进一步详述(如“B”所指示)。
应当理解,操作602-620是为了说明本方法和系统的目的而描述的,并不旨在将本公开内容限制为特定的步骤顺序,例如,在不背离本公开的情况下,可以以不同的顺序来执行步骤,可以执行附加的步骤,并且可以排除所公开的步骤。
图7图示了根据本公开的各方面的触发设备上的上下文工作流的初始设备状态转变的示例方法。
图7中示出了方法700的一般操作顺序。方法700可以包括更多或更少的步骤或者可以与图7中所示的那些不同地布置步骤的顺序。方法700可以作为由计算机系统执行并编码或存储在计算机可读介质上的计算机可执行指令集来执行。此外,方法700可以由与处理器、ASIC、FPGA、SOC或其他硬件设备相关联的门或电路来执行。在下文中,将参考结合图1至图6和图8至图11B描述的系统、组件、设备、模块、软件、数据结构、数据特性表示、信令图、方法等来解释方法700。
在接收信号操作702处,类似于接收信号操作602,可以从与手持设备(例如,手持设备104)相关联的一个或多个传感器接收至少一个信号。在各方面,至少一个信号可以被处理以检测值(例如角度、相机视野)、设备位置变化(例如,取向变化、旋转)、设备交互(例如,用户接近度、触摸输入、音频输入)等等。
在检索参数操作704,可以为手持设备检索设备参数。特定于设备的参数可以包括所支持的传感器、设备使用数据(例如,用户通常如何握住设备或与设备交互)、设备设置、设备形状因子(例如,设备组件的大小、形状、样式、布局和位置等);等等。
在标识规则集706处,可以确定规则集是否与至少一个信号相关。如上文所指出,可以创建多个工作流以提供多个不同的用户体验。然而,不同的工作流可以基于与每个工作流相关联的规则集由不同的信号来触发。因此,当接收到特定信号时(例如,指示双屏幕设备已经打开使得屏幕以大约15度角被定向),可以从多个规则集中标识用于评估特定信号的规则集。
在评估信号操作708处,可以基于所标识的规则集来评估接收到的至少一个信号。所标识的规则集可以指定一个或多个规则以用于评估至少一个信号以触发与工作流相关联的设备状态转变。附加地,当将所标识的规则集应用到至少一个信号时,可以评估所检索的设备参数。例如,所检索的设备参数(例如,所支持的传感器)可以使得手持设备能够在应用规则集时评估信号质量。
在确定操作710处,可以基于所标识的规则集来确定至少一个信号是否满足用于触发工作流的标准。如果至少一个信号满足标准,则该方法可以前进到触发操作712。如果至少一个信号不满足标准,则该方法可以返回到接收信号操作702。
在触发操作712处,可以基于确定至少一个信号满足所标识的规则集的标准来触发工作流的初始设备状态转变。例如,响应于确定应该触发工作流,手持设备的操作系统可以触发与工作流相关联的初始设备状态转变。触发初始设备状态转变可以涉及执行一个或多个动作,包括诸如“点亮屏幕”、“打开”、“捕获”、“保存”、“连接”、“断开连接”、“投影”、“等待输入”等等之类的操作。例如,基于上文的示例,至少一个信号可以指示双屏幕设备的屏幕已经被定位成大约15度的角度并且用户的面部接近至少一个屏幕。在基于所标识的规则集来评估至少一个信号后,可以确定应该触发用于捕获快速想法的工作流,并且特别地,用于点亮麦克风以收听音频输入的初始设备状态转变应该被触发。
在确定操作714处,在触发初始设备状态转变之后,可以确定在一个时间段内是否期待附加信号(或输入)。如上文所指出,输入是处理与设备传感器(例如,触摸传感器、麦克风、相机等)接收或捕获的设备交互(例如,用户交互)相关联的信号数据的结果。例如,在上文的示例中,当用于捕获快速想法的工作流被触发时,用于点亮麦克风以收听音频输入的初始设备状态转变也可以被触发。在这种情况下,期待至少一个附加信号(例如,由麦克风检测和捕获的音频输入),以便继续执行工作流。
在确定操作716处,如果期待附加信号,则该方法可以前进到方法800的接收输入操作802。如果不期待附加信号,则该方法可以在结束操作718处被终止。在一些方面,结束操作718可以涉及触发工作流的终止设备状态转变。
应当理解,操作702-718是为了说明本方法和系统的目的而描述的,并不旨在将本公开内容限制为特定的步骤顺序,例如,在不背离本公开的情况下,可以以不同的顺序来执行步骤,可以执行附加的步骤,并且可以排除所公开的步骤。
图8图示了根据本公开的各方面的触发设备上的上下文工作流的后续设备状态转变的示例方法。
图8中示出了方法800的一般操作顺序。方法800可以在方法700之后。方法800可以包括更多或更少的步骤或者可以与图8中所示的那些不同地布置步骤的顺序。方法800可以作为由计算机系统执行并编码或存储在计算机可读介质上的计算机可执行指令集来执行。此外,方法800可以由与处理器、ASIC、FPGA、SOC或其他硬件设备相关联的门或电路来执行。在下文中,将参考结合图1-图7和图9-图11B描述的系统、组件、设备、模块、软件、数据结构、数据特性表示、信令图、方法等来解释方法800。
在确定操作802处,在触发工作流之后,可以确定在一个时间段内是否已经接收到附加信号(例如,输入)。如上文所指出,输入是处理与设备传感器(例如,触摸传感器、麦克风、相机等)接收或捕获的设备交互(例如,用户交互)相关联的信号数据的结果。例如,在上文的示例中,当用于捕获快速想法的工作流被触发时,用于点亮麦克风以收听音频输入的初始设备状态转变也可以被触发。如果在一个时间段内没有接收到音频输入(例如,如规则集所限定的),则可以终止工作流并且手持设备可以返回到监测传感器。因此,如果在该时间段内接收到输入,则该方法可以前进到评估输入操作804。如果在该时间段内未接收到输入,则该方法可以返回到方法700的接收信号操作702。在各方面,确定操作610可以考虑在一个时间段内是否已经接收到不同类型的信号(例如,设备取向),而不是输入。
在评估输入操作804处,可以基于与工作流相关联的所标识的规则集来评估接收到的输入。例如,如果用于点亮麦克风以收听音频输入的设备状态转变作为工作流的一部分而被触发,则接收音频输入可以满足规则集并且可以触发后续设备状态转变。对照而言,如果接收到触摸输入而不是音频输入,则触摸输入可能不满足规则集并且工作流可能被终止。
在确定操作806处,如果接收到的输入满足与所触发的工作流相关联的所标识的规则集的标准,则该方法可以前进到触发操作808。如果接收到的输入不满足规则集的标准,则该方法可以返回到方法700的接收信号操作702。
在触发操作808处,可以基于确定输入满足所标识的规则集的标准来触发工作流的后续设备状态转变。例如,基于上文的示例,当音频输入满足与用于捕获快速想法的工作流相关联的规则集的标准时,可以触发用于将音频输入翻译成文本的后续设备状态转变。
在确定操作810处,在触发后续设备状态转变之后,可以确定在一个时间段内是否期待附加信号(或输入)。如上文所指出,输入是处理与设备传感器(例如,触摸传感器、麦克风、相机等)接收或捕获的设备交互(例如,用户交互)相关联的信号数据的结果。在上文的示例中,当音频输入满足标准时,用于将音频输入翻译成文本的后续设备状态转变可以被触发。在这种情况下,期待作为应用(例如,语音到文本翻译应用)的输出的附加信号,以便继续执行工作流。
在确定操作812处,如果期待附加信号,则该方法可以返回到接收输入操作802。如果不期待附加信号,则该方法可以前进到触发终止操作814。
在触发终止操作814处,可以触发终止设备状态转变并且可以终止工作流。
应当理解,操作802-814是为了说明本方法和系统的目的而描述的,并不旨在将本公开内容限制为特定的步骤顺序,例如,在不背离本公开的情况下,可以以不同的顺序来执行步骤,可以执行附加的步骤,并且可以排除所公开的步骤。
图9图示了根据本公开的各方面的创建用于在设备上执行的上下文工作流的示例方法。
图9中示出了方法900的一般操作顺序。方法900可以包括更多或更少的步骤或者可以与图9中所示的那些不同地布置步骤的顺序。方法900可以作为由计算机系统执行并编码或存储在计算机可读介质上的计算机可执行指令集来执行。此外,方法900可以由与处理器、ASIC、FPGA、SOC或其他硬件设备相关联的门或电路来执行。在下文中,将参考结合图1至图8和图10至图11B描述的系统、组件、设备、模块、软件、数据结构、数据特性表示、信令图、方法等来解释方法900。
在限定工作流操作902处,可以限定工作流。例如,通过分析用户行为和/或设备特性,可以标识和限定用于提供各种用户体验的工作流。例如,可以确定双屏幕设备的独特属性为用户提供了通过执行直观运动(诸如最小程度地打开设备、在屏幕之间的私人空间中说出(或低语)简短输入、然后在完成时关闭设备来捕获快速想法的自然能力。用于实现上述场景的工作流可以被限定为一系列动作,诸如检测设备屏幕展开到最小角度、检测输入、捕获输入、检索上下文、分析输入(和上下文)、确定并打开适当应用和/或应用组件,将输入添加到适当应用或应用组件,保存输入,并生成成功完成的通知。
在转换操作904处,工作流可以被转换成高级状态模型。例如,工作流可以被转换成用于执行工作流的一系列设备状态转变,其中每个设备状态转变由一个或多个信号触发以实现工作流。工作流(或设备状态转变)的(多个)输出,例如用户体验,可能是执行一个或多个“动作”的结果,包括“点亮”、“打开”、“捕获”、“保存”、“连接”、“断开连接”、“投影”、“等待输入”等等之类的操作。
在限定信号操作906处,可以基于用户行为和/或设备参数来限定用于触发设备状态转变的一个或多个信号。例如,为了实现用于捕获短便条或提醒的工作流,可以限定一个或多个信号,其指示最小程度地打开设备,例如,针对双屏幕之间的最小角度的信号,和/或其指示用户接近设备的至少一个屏幕,例如,针对检测用户的面部和至少一个屏幕之间的距离的信号。这样的信号指示捕获快速便条的用户意图并且可以便用来触发用于实现用户意图的工作流。
在生成操作908处,可以生成规则集以用于基于评估已限定信号中的一个或多个来触发工作流。也就是说,可以创建规则集,该规则集指定一个或多个规则以用于评估已限定信号以确定是否以及何时触发与工作流相关联的一系列设备状态转变。例如,规则可以针对设备状态转变的顺序或序列、用于触发每个设备状态转变的信号(或信号的组合)、用于触发每个状态转变的信号的顺序和时序、用于评估信号或信号的组合的标准(例如,阈值和/或值的范围)等等。应当理解,针对每个限定的工作流的规则集是可扩展的,以允许不同的信号或信号的组合触发特定的设备状态转变(例如,针对具有所支持的不同传感器集的设备),或者允许相同的信号或信号的组合触发不同设备上或不同上下文中的不同设备状态转变。
在训练操作910处,可以基于与用户行为、设备使用数据和/或设备参数相关联的训练数据来训练模型。例如,训练数据可以证明用户行为的变化(例如,左撇子和右撇子用户拿起、打开和握持手持设备的方式可能略有不同);不同设备之间的变化,诸如所支持的不同传感器集合、不同的使用数据(例如,用户可能以不同的方式握住或与不同的设备交互)、设备形状因子(例如,设备组件的大小、形状、样式、布局和位置等等);等等。也就是说,训练数据可以指示用户拿起和打开手持设备的方式略有不同,这可能会影响用于评估信号的标准,例如,直立取向的检测、设备最小打开角度的检测、用户和设备之间的接近度的检测等等。应当理解,用户行为和/或设备参数的变化会导致信号质量的变化,这会导致在对信号进行评估时规则集的应用不一致。
在补偿操作912处,基于训练,可以确定考虑用户行为、设备参数等等的变化的噪声补偿因子。然后可以使用噪声补偿因子来调整规则集,以用于在不同场景中实现更一致的应用。
在更新操作914处,可以更新规则集。例如,可以利用噪声补偿因子来更新规则集以改进用于评估信号的标准(例如,值的范围、经更新的阈值)。应当理解,规则集可以不断地被训练并被更新以虑及新设备、新传感器配置、不断演变的用户行为等等。在另外的方面,经更新的规则集可以被手持设备使用,使得为了触发工作流而对信号的评估可以被不断地调整和改进。
应当理解,操作902-914是为了说明本方法和系统的目的而描述的,并不旨在将本公开内容限制为特定的步骤顺序,例如,在不背离本公开的情况下,可以以不同的顺序来执行步骤,可以执行附加的步骤,并且可以排除所公开的步骤。
图10是图示了可以用来实践本公开的各方面的计算设备1000的物理组件(例如,硬件)的框图。下面所描述的计算设备组件可以具有用于在计算设备(例如,多屏幕设备104)上实现工作流管理器1020的计算机可执行指令,包括可以被执行以实现本文所公开的方法的用于工作流管理器1020的计算机可执行指令。在基本配置中,计算设备1000可以包括至少一个处理单元1002和系统存储器1004。取决于计算设备的配置和类型,系统存储器1004可以包括但不限于易失性存储(例如,随机存取存储器)、非易失性存储(例如,只读存储器)、闪存或此类存储器的任意组合。系统存储器1004可以包括操作系统1005和适合于运行工作流管理器1020的一个或多个程序模块1006,诸如参考图1的一个或多个组件,并且特别是信号处理器1011(例如,对应于信号处理器110)、上下文检索器1013(例如,对应于上下文检索器112和参数检索器114)、规则评估器1015(例如,对应于规则评估器116)和/或工作流启动器1017(例如,对应于工作流启动器118)。
例如,操作系统1005可以适合于控制计算设备1000的操作。此外,本公开的实施例可以结合图形库、其他操作系统或任何其他应用程序来实践,并且不限于任何特定的应用或系统。这种基本配置在图10中由虚线1008内的那些组件来图示。计算设备1000可以具有附加的特征或功能性。例如,计算设备1000还可以包括附加的数据存储设备(可移动和/或不可移动),诸如例如磁盘、光盘或磁带。这种附加的存储在图10中由可移动存储1009和不可移动存储1010来图示。
如上文所述,数个程序模块和数据文件可以被存储在系统存储器1004中。当在处理单元1002上执行时,程序模块1006(例如,工作流管理器1020)可以执行包括但不限于本文所述的各方面。根据本公开的各方面可以使用的并且特别是用于限定手势的其他程序模块可以包括信号处理器1011、上下文检索器1013、规则评估器1015和/或工作流启动器1017等。
此外,可以在包括分立电子元件的电气电路、包含逻辑门的封装或集成电子芯片、利用微处理器的电路中或在包含电子元件或微处理器的单个芯片上实践本公开的实施例。例如,本公开的实施例可以经由片上系统(SOC)来实践,其中图10中所图示的每个或许多组件都被安装到单个集成电路上。这样的SOC设备可以包括一个或多个处理单元、图形单元、通信单元、系统虚拟化单元和各种应用功能性,所有这些都作为单个集成电路而被集成(或“烧录”)到芯片衬底上。当经由SOC进行操作时,本文所描述的关于客户端切换协议的能力的功能性可以经由与计算设备1000的其他组件集成在单个集成电路(芯片)上的特定应用逻辑来操作。本公开的实施例也可以使用能够执行诸如例如与、或和非之类的逻辑运算的其他技术来实践,包括但不限于机械、光学、流体和量子技术。此外,本公开的实施例可以在通用计算机内或在任何其他电路或系统中被实践。
计算设备1000还可以具有一个或多个输入设备1012,诸如键盘、鼠标、笔、声音或语音输入设备、触摸或滑动输入设备等。计算设备1000还可以支持数个传感器,用于检测与(多个)输入设备1012相关联的输入和/或其他设备条件。还可以包括诸如显示器、扬声器、打印机等的(多个)输出设备1014。上述设备是示例并且可以使用其他设备。计算设备1000可以包括允许与其他计算设备1050通信的一个或多个通信连接1016。适当的通信连接1016的示例包括但不限于射频(RF)发射器、接收器和/或收发器电路;通用串行总线(USB)、并行和/或串行端口。
在本文中使用的术语计算机可读介质可以包括计算机存储介质。计算机存储介质可以包括以用于存储信息的任何方法或技术来实现的易失性和非易失性、可移动和不可移动介质,诸如计算机可读指令、数据结构或程序模块。系统存储器1004、可移动存储1009和不可移动存储1010都是计算机存储介质示例(例如,存储器存储)。计算机存储介质可以包括RAM、ROM、电可擦除只读存储器(EEPROM)、闪存或其他存储器技术、CD-ROM、数字多功能磁盘(DVD)或其他光学存储、磁盒、磁带、磁盘存储或其他磁存储设备、或者任何可以被用来存储信息并可由计算设备1000访问的其他制品。任何此类计算机存储介质都可以是计算设备1000的一部分。计算机存储介质不包括载波或其他传播或调制的数据信号。
通信介质可以由计算机可读指令、数据结构、程序模块或调制数据信号中的其他数据来体现,诸如载波或其他传送机制,并且包括任何信息递送介质。术语“调制数据信号”可以描述具有以在信号中编码信息的方式来设置或改变的一个或多个特性的信号。作为示例而非限制,通信介质可以包括有线介质诸如有线网络或直接有线连接,以及无线介质诸如声学、射频(RF)、红外线和其他无线介质。
图11A和图11B图示了可以用来实践本公开的实施例的移动计算设备1100,例如,移动电话、智能电话、可穿戴计算机(诸如智能手表)、平板计算机、笔记本计算机等等。在一些方面,客户端可以是移动计算设备。参考图11A,图示了用于实现这些方面的移动计算设备1100的一个方面。在基本配置中,移动计算设备1100是具有输入元件和输出元件的手持计算机。移动计算设备1100通常包括显示器1105和允许用户将信息输入到移动计算设备1100中的一个或多个输入按钮1110。移动计算设备1100的显示器1105也可以用作输入设备(例如,触摸屏显示器)。如果包括的话,可选的侧输入元件1115允许另外的用户输入。侧输入元件1115可以是旋转开关、按钮或任何其他类型的手动输入元件。在替代方面,移动计算设备1100可以合并更多或更少的输入元件。例如,在一些实施例中显示器1105可以不是触摸屏。在又一个替代实施例中,移动计算设备1100是便携电话系统,诸如蜂窝电话。移动计算设备1100还可以包括可选的小键盘1135。可选的小键盘1135可以是物理小键盘或在触摸屏显示器上生成的“软”小键盘。在各种实施例中,输出元件包括用于显示图形用户界面(GUI)的显示器1105、视觉指示器1120(例如,发光二极管)和/或音频换能器1125(例如,扬声器)。在一些方面,移动计算设备1100合并了用于向用户提供触觉反馈的振动换能器。在又一方面,移动计算设备1100合并了输入和/或输出端口,诸如音频输入(例如,麦克风插孔)、音频输出(例如,耳机插孔)和视频输出(例如,HDMI端口),以用于向外部设备发送信号或从外部设备接收信号。
图11B是图示了移动计算设备的一个方面的架构的框图。也就是说,移动计算设备1100可以合并系统(例如,架构)1102来实现一些方面。在一个实施例中,系统1102被实现为能够运行一个或多个应用(例如,浏览器、电子邮件、日历、联系人管理器、消息客户端、游戏和媒体客户端/播放器)的“智能电话”。在一些方面,系统1102被集成为计算设备,诸如集成个人数字助理(PDA)和无线电话。
一个或多个应用程序1166可以被加载到存储器1162中并且在操作系统1164上运行或与操作系统1164相关联地运行。应用程序的示例包括电话拨号程序、电子邮件程序、个人信息管理(PIM)程序、文字处理程序、电子表格程序、Internet浏览器程序、消息传递程序等。系统1102还包括存储器1162内的非易失性存储区域1168。非易失性存储区域1168可以被用来存储在系统1102断电时不应丢失的持久信息。应用程序1166可以在非易失性存储区域1168中使用和存储信息,诸如电子邮件或由电子邮件应用使用的其他消息等等。同步应用(未示出)也驻留在系统1102上,并被编程为与驻留在主计算机上的对应同步应用进行交互,以保持存储在非易失性存储区域1168中的信息与存储在主计算机中的对应信息同步。应当理解,其他应用可以被加载到存储器1162中并在移动计算设备1100上运行,包括用于提供如本文所描述的工作流管理器的指令。
系统1102具有电源1170,其可以被实现为一个或多个电池。电源1170还可以包括外部电源,诸如AC适配器或对电池进行补充或再充电的供电对接托架。
系统1102还可以包括无线电接口层1172,其执行发射和接收射频通信的功能。无线电接口层1172促进系统1102和“外部世界”之间经由通信运营商或服务提供商的无线连接性。进出无线电接口层1172的传输在操作系统1164的控制下进行。换句话说,由无线电接口层1172接收的通信可以经由操作系统1164而被传播到应用程序1166,反之亦然。
视觉指示器1120可以被用来提供视觉通知,和/或音频接口1174可以被用于经由音频换能器1125(例如,图11A中所图示的音频换能器1125)产生听觉通知。在所图示的实施例中,视觉指示器1120是发光二极管(LED)并且音频换能器1125可以是扬声器。这些设备可以直接耦合到电源1170,使得它们在被激活时,即使处理器1160和其他组件可能关闭以节省电池电量,它们也会在通知机制规定的持续时间内保持开启。LED可以被编程为无限期地保持开启,直到用户采取行动来指示设备的通电状态。音频接口1174被用来向用户提供可听信号并从用户接收可听信号。例如,除了耦合到音频换能器1125之外,音频接口1174还可以耦合到麦克风以接收可听输入,诸如以促进电话交谈。根据本公开的实施例,麦克风还可以用作音频传感器以促进对通知的控制,如下面将描述的。系统1102还可以包括视频接口1176,其使得外围设备1130(例如,机载相机)能够操作以记录静止图像、视频流等等。
实现系统1102的移动计算设备1100可以具有附加的特征或功能性。例如,移动计算设备1100还可以包括附加数据存储设备(可移动和/或不可移动),诸如磁盘、光盘或磁带。此类附加的存储在图11B中由非易失性存储区域1168来图示。
由移动计算设备1100生成或捕获并经由系统1102存储的数据/信息可以被本地存储在移动计算设备1100上,如上所述,或者数据可以被存储在任何数量的存储介质上,这些存储介质可以由设备经由无线电接口层1172或经由移动计算设备1100和与移动计算设备1100相关联的单独计算设备(例如,诸如互联网之类的分布式计算网络中的服务器计算机)之间的有线连接来访问。应当理解,这样的数据/信息可以经由无线电接口层1172或经由分布式计算网络经由移动计算设备1100来访问。类似地,根据众所周知的数据/信息传送和存储方式,包括电子邮件和协作数据/信息共享系统,这样的数据/信息可以容易地在计算设备之间进行传送以供存储和使用。
应当理解,图11A和图11B是为了说明本方法和系统的目的而描述的,并不旨在将本公开内容限制为特定的步骤顺序或硬件或软件组件的特定组合。
在本申请中提供的一个或多个方面的描述和说明不旨在以任何方式限制或约束所要求保护的本公开的范围。本申请中提供的方面、示例和细节被认为足以传达所有权并使得其他人能够制作和使用要求保护的公开内容的最佳模式。要求保护的公开内容例如不应被解释为限于任何方面或本申请中提供的细节。无论是组合地还是单独地示出和描述,(结构的和方法的)各种特征旨在被选择性地包括或省略以产生具有一组特定特征的实施例。已经提供了本申请的描述和说明,本领域的技术人员可以设想落入本申请中体现的总体发明构思的更广泛方面的精神内的变化、修改和替代方面,这些方面没有背离所要求保护的公开内容的更广范围。

Claims (15)

1.一种用于在手持设备上触发至少一个工作流的计算机实现的方法,所述方法包括:
至少接收第一信号,其中所述第一信号指示以下各项中的至少一项:设备取向、设备位置、设备状态、设备组件之间的角度或用户的接近度;
基于与触发用于提供用户体验的第一工作流相关联的规则集来评估所述第一信号;
基于所述评估,自动触发第一设备状态转变以用于至少提供与所述第一工作流相关联的第一输出;
至少接收第二信号,其中所述第二信号指示设备交互;
基于所述规则集来评估所述第二信号;
基于所述评估,自动触发第二设备状态转变以用于至少提供与所述第一工作流相关联的第二输出;
确定所述第一输出和所述第二输出提供所述用户体验;以及
终止所述第一工作流。
2.根据权利要求1所述的计算机实现的方法,其中所述规则集包括用于至少评估所述第一信号和所述第二信号的标准。
3.根据权利要求2所述的计算机实现的方法,其中所述标准基于评估与用户行为中的至少一个用户行为相关联的数据或与所述手持设备相关联的参数而被确定。
4.根据权利要求1所述的计算机实现的方法,还包括:
基于所述第二信号的所述评估,自动触发第二工作流。
5.根据权利要求4所述的计算机实现的方法,其中所述第二工作流不同于所述第一工作流。
6.根据权利要求5所述的计算机实现的方法,其中在终止所述第一工作流之前,所述第二工作流被自动触发。
7.根据权利要求1所述的计算机实现的方法,其中所述第一信号指示两个设备组件之间的大约15度角度。
8.根据权利要求1所述的计算机实现的方法,其中所述手持设备是双屏幕设备,并且其中所述两个设备组件是所述双屏幕设备的第一屏幕和第二屏幕。
9.一种手持设备,包括:
至少一个处理器;以及
存储计算机可执行指令的至少一个存储器,所述计算机可执行指令在由所述至少一个处理器执行时使所述手持设备:
接收第一信号,其中所述第一信号指示以下各项中的一项或多项:设备取向、设备位置、设备状态、设备组件之间的角度或用户的接近度;
基于与触发用于提供用户体验的工作流相关联的规则集来评估所述第一信号;
基于所述评估,自动触发第一设备状态转变以用于至少提供与所述工作流相关联的第一输出;
至少接收第二信号,其中所述第二信号指示用户输入;
基于所述规则集来至少评估所述第二信号;
基于所述评估,自动触发第二设备状态转变以用于至少提供与所述工作流相关联的第二输出;以及
确定所述第一输出和所述第二输出提供所述用户体验。
10.根据权利要求9所述的手持设备,所述指令在被执行时还使所述手持设备:
评估所述用户输入的内容;以及
自动将所述用户输入存储在安装在所述手持设备上的应用中。
11.根据权利要求9所述的手持设备,其中所述第一信号基于使用机器学习模型解释来自至少两个传感器的信号。
12.根据权利要求9所述的手持设备,其中所述第一信号指示两个设备组件之间的大约15度角度。
13.根据权利要求9所述的手持设备,其中所述手持设备是双屏幕设备,并且其中所述两个设备组件是所述双屏幕设备的第一屏幕和第二屏幕。
14.一种存储计算机可执行指令的计算机存储介质,所述计算机可执行指令在被处理器执行时使计算机系统:
限定用于在手持设备上提供用户体验的工作流;
将所述工作流转换成高级状态机模型,其中所述高级状态机模型包括用于实现所述工作流的一个或多个设备状态转变;
限定用于触发所述一个或多个设备状态转变以实现所述工作流的一个或多个信号;
生成用于评估所限定的所述一个或多个信号以确定是否触发所述一个或多个设备状态转变的规则集;以及
基于使用数据或设备参数中的至少一个来训练所述规则集。
15.根据权利要求14所述的计算机存储介质,所述指令在被执行时还使所述计算机系统:
基于所述训练来确定补偿因子以补偿信号噪声。
CN202180064378.6A 2020-09-25 2021-06-07 设备上的上下文工作流触发 Pending CN116261702A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US17/033,399 2020-09-25
US17/033,399 US12056413B2 (en) 2020-09-25 2020-09-25 Contextual workflow triggering on devices
PCT/US2021/036069 WO2022066244A1 (en) 2020-09-25 2021-06-07 Contextual workflow triggering on devices

Publications (1)

Publication Number Publication Date
CN116261702A true CN116261702A (zh) 2023-06-13

Family

ID=76765198

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180064378.6A Pending CN116261702A (zh) 2020-09-25 2021-06-07 设备上的上下文工作流触发

Country Status (4)

Country Link
US (1) US12056413B2 (zh)
EP (1) EP4217820A1 (zh)
CN (1) CN116261702A (zh)
WO (1) WO2022066244A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11816269B1 (en) * 2020-05-29 2023-11-14 Humane, Inc. Gesture recognition for wearable multimedia device using real-time data streams
US11689472B2 (en) * 2021-07-09 2023-06-27 International Business Machines Corporation Dynamic allocation of computing resources
GB2620373A (en) * 2022-06-28 2024-01-10 Active Healthcare Solutions Ltd A task management appliance

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8121586B2 (en) * 2008-09-16 2012-02-21 Yellowpages.Com Llc Systems and methods for voice based search
EP3258468B1 (en) * 2008-11-10 2019-08-21 Google LLC Multisensory speech detection
US8428759B2 (en) * 2010-03-26 2013-04-23 Google Inc. Predictive pre-recording of audio for voice input
JP5577990B2 (ja) * 2010-09-24 2014-08-27 日本電気株式会社 携帯端末およびその表示制御方法
JP5772289B2 (ja) * 2011-06-24 2015-09-02 カシオ計算機株式会社 情報表示装置及びプログラム
DE102013207849B9 (de) 2012-05-04 2017-01-12 Beijing Lenovo Software Ltd. Verfahren zum Bestimmen eines Biegezustands einer elektronischen Vorrichtung, elektronische Vorrichtung und flexibler Bildschirm
KR102104588B1 (ko) 2012-07-11 2020-04-24 삼성전자주식회사 플렉서블 디스플레이 장치 및 그 동작 방법
US20150314454A1 (en) 2013-03-15 2015-11-05 JIBO, Inc. Apparatus and methods for providing a persistent companion device
KR102119843B1 (ko) * 2014-02-10 2020-06-05 삼성전자주식회사 사용자 단말 장치 및 이의 디스플레이 방법
US10504075B2 (en) * 2014-03-10 2019-12-10 Aliaswire, Inc. Methods, systems, and devices to dynamically customize electronic bill presentment and payment workflows
KR20170086801A (ko) 2016-01-19 2017-07-27 삼성전자주식회사 전자 장치 및 그의 동작 방법
US9857849B1 (en) 2016-06-10 2018-01-02 Microsoft Technology Licensing, Llc Hinged device with wrapped displays
KR102693433B1 (ko) 2016-10-26 2024-08-09 삼성전자주식회사 전자 장치 및 그의 동작을 제어하는 방법
US10015442B1 (en) 2017-05-12 2018-07-03 Microsoft Technology Licensing, Llc Three-way video calling on hinged multi-screen device
US10788934B2 (en) 2017-05-14 2020-09-29 Microsoft Technology Licensing, Llc Input adjustment
WO2019216996A1 (en) 2018-05-07 2019-11-14 Apple Inc. Raise to speak
EP4102344A1 (en) * 2019-02-19 2022-12-14 Samsung Electronics Co., Ltd. Electronic device and display control method thereof

Also Published As

Publication number Publication date
EP4217820A1 (en) 2023-08-02
US12056413B2 (en) 2024-08-06
US20220100453A1 (en) 2022-03-31
WO2022066244A1 (en) 2022-03-31

Similar Documents

Publication Publication Date Title
US11989409B2 (en) Device, method, and graphical user interface for displaying a plurality of settings controls
US20220124254A1 (en) Device, Method, and Graphical User Interface for Accessing an Application in a Locked Device
US10606540B2 (en) Device having a screen region on a hinge coupled between other screen regions
KR102041332B1 (ko) 모바일 운영 시스템
CN106164856B (zh) 自适应用户交互窗格管理器
US9110587B2 (en) Method for transmitting and receiving data between memo layer and application and electronic device using the same
KR102247251B1 (ko) 이동 단말기 및 이의 제어방법
US20140006944A1 (en) Visual UI Guide Triggered by User Actions
US20170024089A1 (en) Browsing electronic messages displayed as tiles
US9600143B2 (en) Mobile terminal and control method thereof
CN116261702A (zh) 设备上的上下文工作流触发
EP4134808A1 (en) Provision of an open instance of an application
US20180225263A1 (en) Inline insertion viewport
CN112154427A (zh) 协作文档的渐进式显示用户界面
KR20150070282A (ko) 문서에서의 썸네일 및 문서 맵 기반 내비게이션
US20180330291A1 (en) Efficient schedule item creation
US20140354554A1 (en) Touch Optimized UI
US20140152693A1 (en) Controlling display of command space using multi-state element
US20230012613A1 (en) Device, Method, and Graphical User Interface for Managing Data Stored on a Device
EP3008671A2 (en) Creating recurring appointments
US9244592B2 (en) User interface coalescing heuristics
KR20110049031A (ko) 이동 단말기 및 그 제어방법
KR101880310B1 (ko) 대화 스레드내에서 대화 정보 표시 기능을 가지는 단말기 및 그 제어 방법
US11714544B2 (en) Gesture definition for multi-screen devices
WO2021096676A1 (en) Content capture experiences driven by multi-modal user inputs

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination