CN107077317A - 基于车辆的多模式接口 - Google Patents

基于车辆的多模式接口 Download PDF

Info

Publication number
CN107077317A
CN107077317A CN201580063130.2A CN201580063130A CN107077317A CN 107077317 A CN107077317 A CN 107077317A CN 201580063130 A CN201580063130 A CN 201580063130A CN 107077317 A CN107077317 A CN 107077317A
Authority
CN
China
Prior art keywords
input
user
mode type
task
entertainment systems
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201580063130.2A
Other languages
English (en)
Inventor
J.R.法默
M.格拉斯
V.P.巴帕特
K.S.舒尔茨
O.E.穆里洛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Microsoft Technology Licensing LLC
Original Assignee
Microsoft Technology Licensing LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Microsoft Technology Licensing LLC filed Critical Microsoft Technology Licensing LLC
Publication of CN107077317A publication Critical patent/CN107077317A/zh
Pending legal-status Critical Current

Links

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/65Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive
    • B60K35/654Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive the user being the driver
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80Arrangements for controlling instruments
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/85Arrangements for transferring vehicle- or driver-related data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0362Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of 1D translations or rotations of an operating part of the device, e.g. scroll wheels, sliders, knobs, rollers or belts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16Sound input; Sound output
    • G06F3/167Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/01Protocols
    • H04L67/12Protocols specially adapted for proprietary or special-purpose networking environments, e.g. medical networks, sensor networks, networks in vehicles or remote metering networks
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04LTRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00Network arrangements or protocols for supporting network services or applications
    • H04L67/14Session management
    • H04L67/141Setup of application sessions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041Portable telephones adapted for handsfree use
    • H04M1/6075Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle
    • H04M1/6083Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle by interfacing with the vehicle audio system
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/60Substation equipment, e.g. for use by subscribers including speech amplifiers
    • H04M1/6033Substation equipment, e.g. for use by subscribers including speech amplifiers for providing handsfree use or a loudspeaker mode in telephone sets
    • H04M1/6041Portable telephones adapted for handsfree use
    • H04M1/6075Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle
    • H04M1/6083Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle by interfacing with the vehicle audio system
    • H04M1/6091Portable telephones adapted for handsfree use adapted for handsfree use in a vehicle by interfacing with the vehicle audio system including a wireless interface
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/11Instrument graphical user interfaces or menu aspects
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/11Instrument graphical user interfaces or menu aspects
    • B60K2360/111Instrument graphical user interfaces or menu aspects for controlling multiple devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/143Touch sensitive instrument input devices
    • B60K2360/1438Touch screens
    • B60K2360/1442Emulation of input devices
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/151Instrument output devices for configurable output
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16Type of output information
    • B60K2360/164Infotainment
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/55Remote control arrangements
    • B60K2360/56Remote control arrangements using mobile devices
    • B60K2360/573Mobile devices controlling vehicle functions
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/589Wireless data transfers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60KARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/592Data transfer involving external databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0381Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer

Landscapes

  • Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Combustion & Propulsion (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Chemical & Material Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Navigation (AREA)
  • Position Input By Displaying (AREA)
  • Telephone Function (AREA)

Abstract

各种实施例使得诸如电话等之类的移动设备能够与车内信息/娱乐系统集成,以使得用户能够通过他们的移动电话来控制该车内信息/娱乐系统。用户可以利用他们的移动电话的功能来提升车内体验,其可以根据境况定制以适应用户或车辆的境况。还有其它实施例可以通过基于云的服务来供应车内体验。

Description

基于车辆的多模式接口
背景技术
迄今为止,许多车内信息/娱乐系统令驾驶员和其他用户沮丧,原因包括与使用系统相关联的困难以及车辆与车辆的系统之间的不一致。因此,用户体验尚未达到其可以达到的最好情况,并且针对提供安全、一致且令人满意的用户体验的改进的车内系统的需求在持续。
发明内容
本发明内容被提供以便以简化的形式介绍下面在具体实施方式中进一步描述的概念的选择。本发明内容不旨在识别要求保护的主题的关键特征或必要特征,也不旨在用于帮助确定要求保护的主题的范围。
各种实施例使得诸如电话等之类的移动设备能够与车内信息/娱乐系统集成,以使得用户能够通过他们的移动电话来控制车内信息/娱乐系统。用户可以利用他们的移动电话的功能来提升车内体验,其可以根据境况定制以适应用户或车辆的境况。还有其它实施例可以通过基于云的服务来供应车内体验。
在至少一些实施例中,用户可以使用多种不同模式完成各种任务,在模式之间存在流畅的连续模式切换。这些模式可以包括语音、触摸、手势、NUI手势、注视和诸如滚轮拨盘之类的控件。流畅的模式切换允许用户根据他们的境况容易地改变他们的输入模式。
其它实施例可以基于驾驶场景和用户的认知负荷来定制只有语音的体验。还有其它的实施例可以针对滚轮拨盘、手势、注视和触摸屏模式来定制用户体验。另外的实施例可以提供自适应用户接口,其包括可以与多种不同类型的屏幕(例如电话屏幕、集群屏幕、控制台屏幕和平视显示器(HUD)屏幕等)相关地操作的自适应用户接口。还有另外的实施例提供用于包括滚轮拨盘、电容式拨盘、硬键、平板等的多种类型的物理输入的通用命令/控制模型。
附图说明
具体实施方式参考附图予以描述。在附图中,附图标记的最左边的(多个)数字标识该附图标记首次出现的附图。在说明书和附图中的不同实例中相同的附图标记的使用可以指示相似或相同的项。
图1图示根据一个或多个实施例的示例操作环境。
图2图示根据一个或多个实施例的系统。
图3图示根据一个或多个实施例的系统。
图4图示根据一个或多个实施例的系统。
图5图示根据一个或多个实施例的系统。
图6图示根据一个或多个实施例的系统。
图7图示根据一个或多个实施例的系统。
图8图示根据一个或多个实施例的系统。
图9图示根据一个或多个实施例的系统。
图10是描述根据一个或多个实施例的方法中的步骤的流程图。
图11是图示用户与根据一个或多个实施例的车内系统之间的言语对话的图。
图12是图示用户与根据一个或多个实施例的车内系统之间的言语对话的图。
图13是描述根据一个或多个实施例的方法中的步骤的流程图。
图14是描述根据一个或多个实施例的方法中的步骤的流程图。
图15图示根据一个或多个实施例的系统。
图15A是描述根据一个或多个实施例的方法中的步骤的流程图。
图16图示根据一个或多个实施例的系统。
图17图示根据一个或多个实施例的系统的方面。
图18图示根据一个或多个实施例的系统。
图19图示根据一个或多个实施例的系统。
图19A是描述根据一个或多个实施例的方法中的步骤的流程图。
图20图示根据一个或多个实施例的系统。
图21图示根据一个或多个实施例的系统。
图22图示根据一个或多个实施例的系统。
图22A是描述根据一个或多个实施例的方法中的步骤的流程图。
图23图示根据一个或多个实施例的系统。
图24图示根据一个或多个实施例的系统。
图25是描述根据一个或多个实施例的方法中的步骤的流程图。
图26图示根据一个或多个实施例的系统。
图27是描述根据一个或多个实施例的方法中的步骤的流程图。
图28图示可以用于实现本文描述的各种实施例的示例计算设备。
具体实施方式
概述
各种实施例使得诸如电话等之类的移动设备能够与车内信息/娱乐系统集成,以使得用户能够通过他们的移动电话控制车内信息/娱乐系统。用户可以利用他们的移动电话的功能来提升车内体验,其可以根据境况定制以适应用户或车辆的境况。还有其它实施例可以通过基于云的服务来供应车内体验。
在至少一些实施例中,用户可以使用多种不同模式来完成各种任务,其中在模式之间存在流畅的连续模式切换。模式可以包括语音、触摸、手势、NUI手势、注视和诸如滚轮拨盘之类的控件。流畅的模式切换允许用户根据他们的境况容易地改变他们的输入模式。
其它实施例可以基于驾驶场景和用户的认知负荷定制仅有语音的体验。还有其它实施例可以针对滚轮拨盘和触摸屏模式定制用户体验。另外的实施例可以提供自适应用户接口,其包括可以与多种不同类型的屏幕(例如电话屏幕、集群屏幕、控制台屏幕和平视显示器(HUD)屏幕)相关地操作的自适应用户接口。还有另外的实施例提供用于包括按钮滚轮、电容式拨盘、硬键、平板等的多种类型的物理输入的通用命令/控制模型。
在下面的讨论中,首先描述可操作以采用本文描述的技术的示例环境。这些技术可以用在示例环境中以及其它环境中。
示例环境
图1图示了示例实现方式中的示例环境100,其可操作以采用本文描述的技术。所图示的环境100包括车辆102、电话形式的移动计算设备104、以及具有显示设备108的车辆控制台106。为了下面的描述的目的,控制台106被示出为从车辆102移除。控制台106典型居于驾驶员座位与前排乘客座位之间的仪表板上或其稍微偏下方。控制台的显示设备108是或可以是支持触摸的,使得其可以接收触摸输入,以例如使得用户能够进行内容选择。在控制台106的下方,提供多个按钮并且这些按钮一般地以110示出。另外,车辆102可以包括滚轮拨盘112,其可以用作控制台106的输入设备。滚动拨盘112可用于导航和针对显示在显示设备108上的内容进行内容选择。如由两个弧形箭头所指示的,滚动拨盘可以沿顺时针方向和逆时针方向旋转到滚轮拨盘出现在其上的页面的平面内和外。以这种方式旋转滚轮拨盘允许用户导航显示在显示设备108上的内容。另外,滚轮拨盘还包括可以在向下指向箭头的方向上向下按压以做出选择的机构。
应领会和理解,在下面的描述中,尽管电话形式的移动设备用于描述发明实施例的上下文,但是可以使用其它移动设备而不背离要求保护的主题的精神和范围。
因此,对于诸如拼块、图标、对象等之类的内容的显示布置,旋转滚轮拨盘允许导航所显示的内容,并且向下按压滚轮拨盘选择特定内容块。因此例如,如果显示设备108显示具有多首不同歌曲的播放列表,则用户可以使用滚轮拨盘来导航这些歌曲,并且当感兴趣的特定歌曲被定位时,通过按下滚轮拨盘,用户可以选择歌曲来播放。
在操作中,电话104可以与控制台106连接,以使得用户能够通过控制台与内容交互。可以使用任何合适类型的连接。在所图示和描述的实施例中,电话104可以通过诸如Wi-Fi或蓝牙连接之类的无线连接与控制台106连接。可替代地或另外地,如在图中指示的,电话104可以通过USB连接与控制台106连接。
当与控制台106连接时,移动电话可以与车辆的信息/娱乐系统集成,以使得用户能够通过他们的移动电话控制车内信息/娱乐系统。用户可以利用他们的移动电话的功能来提升车内体验,其可以根据境况定制以适应用户或车辆的境况,如将在下面变得显而易见的。
图2图示计算环境200中的电话104,该计算环境可以包括车辆102(未示出)及其相关联的控制台106。计算环境200还包括一个或多个服务器202和网络204(图示为“云”),电话104、控制台106和服务器202可以通过该网络进行通信。该网络例如可以促进与各种实体的通信,该各种实体诸如托管内容提供服务的公司、OEM以及通过因特网连接的任何其它实体。
在所图示和描述的示例中,除了其它组件之外,电话104还包括一个或多个处理器206、一个或多个计算机可读存储介质208、交互模块210、各种应用212和显示驱动器模块214。
在所图示和描述的示例中,交互模块210包括实现用户的语音识别和音频语音提示的功能。交互模块提供个人助理以帮助用户完成任务。因此,例如,交互模块210可以识别用户说出的词语,诸如命令、查询等。此外,交互模块210包括使得能够关于其接收到的通信的项目采取动作的功能。例如,用户可以通过询问“请告诉我今天我是否安排了任何会议”来提示他们的电话。响应于接收该请求,与例如日历应用合作的交互模块210可以确定今天是否安排了任何会议并且用言辞向用户回应“今天您没有安排会议”。
应用212可以包括可以驻留在电话104上的任何合适类型的应用。这样的应用通过示例而非限制的方式包括社交网络应用、电子邮件应用、文本应用、日历应用、媒体播放器应用、新闻、体育和天气应用等。
显示驱动器模块214包括使得显示器能够在电话104上以及控制台的显示设备108上渲染的功能。在操作中,显示驱动器模块214可以确定与控制台的显示设备108相关联的属性(例如显示设备尺寸),并且基于所确定的属性做出渲染决定,如将在下文变得显而易见的。
服务器202被图示为包括用于网络服务218的平台216。网络服务218可以包括任何合适类型的网络服务。服务器202及其相关联的网络服务218可以生成通过网络204提供给电话104的通信。当通信被接收时,该通信由电话104和/或在该电话上执行的相关联的应用来处理,并且可以向用户通知该通信。
平台216抽取云的硬件(例如服务器)和软件资源的底层功能,并且因此可以充当“云操作系统”。例如,平台216可以抽取资源以实现各种计算设备之间的通信。平台216还可以用于抽取资源的缩放,以向遇到的针对经由平台216实现的网络服务218的需求提供对应水平的缩放。还预期了各种各样的其它示例,诸如服务器农场中的服务器的负荷平衡,对抗恶意方(例如垃圾邮件、病毒和其它恶意软件)的保护等等。
因此,云作为关于经由因特网或其它网络使其对计算设备可用的软件和硬件资源的策略的部分而被包括。
一般地,本文中描述的任何功能可以使用软件、固件、硬件(例如固定逻辑电路)、手动处理或这些实现方式的组合来实现。本文所使用的术语“模块”、“功能”和“逻辑”一般表示软件、固件、硬件或其组合。在软件实现方式的情况下,模块、功能或逻辑表示当在处理器(例如一个或多个CPU)上或由处理器执行时执行指定任务的程序代码。程序代码可以存储在一个或多个计算机可读存储器设备中。
例如,电话还可以包括引起计算设备的硬件或虚拟机(例如处理器、功能块等)执行操作的实体(例如,软件)。例如,计算设备可以包括计算机可读介质,其可以配置成维护引起计算设备、并且更具体地引起计算设备的操作系统和相关联的硬件执行操作的指令。因此,该指令用于将操作系统和相关联的硬件配置成执行操作,并且以这种方式导致操作系统和相关联硬件的转换以执行功能。指令可以由计算机可读介质通过各种各样不同的配置提供给计算设备。
计算机可读介质的一种这样的配置是信号承载介质,并且因此被配置成将指令(例如作为载波)例如经由网络传输至计算设备。计算机可读介质也可以配置为计算机可读存储介质,并且因此不是信号承载介质。计算机可读存储介质的示例包括随机存取存储器(RAM)、只读存储器(ROM)、光盘、闪速存储器、硬盘存储器和可以使用磁性、光学和其它技术来存储指令和其它数据的其它存储器设备。
在下面的讨论中,标题为“通过多模式输入完成任务”的章节描述了根据一个或多个实施例使用不同类型的模式输入可以如何流畅地完成任务。在这之后,标题为“定制只有语音的体验”的章节描述了根据一个或多个实施例可以如何提供只有语音的体验。接下来,标题为“定制针对滚轮拨盘和触摸屏的用户体验”的章节描述了用户体验可以如何针对不同类型的模式输入定制或以其他方式调适。在这之后,标题为“自适应用户接口”的章节描述了根据一个或多个实施例的自适应用户接口。接下来,标题为“使用多个屏幕的自适应用户接口”的章节描述了用户接口可以如何根据多个屏幕来调适。在这之后,标题为“通用命令/控制模型”的章节描述了根据一个或多个实施例的利用通用命令和控制的模型。最后,标题为“示例设备”的章节描述了可用于实现一个或多个实施例的示例设备的方面。
在考虑了示例操作环境之后,现在考虑根据一个或多个实施例的用于完成任务的多模式输入的概念。
通过多模式输入完成任务
如上面提到的,在至少一些实施例中,用户可以使用多种不同的模式来完成各种任务,在这些模式之间存在流畅的连续模式切换。这些模式可以包括语音、触摸、手势、NUI手势、注视和诸如滚轮拨盘之类的控件。流畅的模式切换允许用户根据它们的境况容易地改变他们的输入模式。也就是说,用户能够在任何合适组合中的这些不同的输入模式之间自然地移动。例如,用户可以在(1)语音和触摸、(2)语音和滚轮拨盘、(3)语音、触摸和滚轮拨盘或这些和其它的模式的任何组合之间流畅地移动。
应领会和理解,根据用户的境况,可以使用不同的模式执行与特定任务相关联的动作。例如,一个任务可能涉及某动作。此动作可以使用语音模式(例如“播放下一首音乐曲目”)来执行。可替代地或另外地,此动作可以使用如通过用户触摸选择显示在控制台的显示设备上的下一首音乐曲目的触摸输入来执行。可替代地或另外地,此动作可以通过用户利用滚轮拨盘导航到下一首音乐曲目并且然后按下滚轮拨盘以选择下一首音乐曲目来执行。根据用户的境况,用户自由选择使用哪个模式。因此,例如,在繁忙的交通中,用户可以使用语音模式简单地进行他们的选择。另一方面,如果用户处于红绿灯处或在停车场中,则他们可以选择使用触摸输入或滚轮拨盘来进行或执行相同的动作。
语音和触摸
作为示例,考虑图3,其中相同的数字已用于描绘同样的组件。在此示例中,用户已经进入他们的汽车并且通过USB连接将他们的电话104连接到控制台106。在这样做时,所谓的“驾驶模式”工具300以圆圈形式出现。驾驶模式工具使得用户能够触摸选择控制台的显示设备以与驾驶模式功能进行交互。开始屏幕也出现在控制台的显示设备上,并且包括多个对象,其在此示例中包含拼块。应领会和理解,任何合适类型的对象可以显示在控制台的显示设备上。这样,拼块构成了这样的对象的唯一一个示例。
在此示例中,用户使用他们的语音来说“呼叫Mike Johnson”。该音频输入由电话104上的交互模块210(图2)接收。因此,交互模块与电话104上的“联系人”应用进行交互以检索Mike Johnson的联系人信息。在这样做时,交互模块注意到在用户联系人中有两个Mike Johnson条目。交互模块210于是通过说“有两个Mike Johnsons--您想呼叫哪一个”来提示用户。结合该音频提示,电话104的显示驱动器模块214可以使用户接口显示在控制台的设备显示器上,以允许用户选择期望的被叫方。作为示例,考虑图4,其图示用户接口,该用户接口包括具有多个可触摸选择的选项的“人”类别,该选项包括“最近”、“内圈”、“朋友”、“工作”和“全部”。此外,显示部分400列出了那两个可选择的“Mike Johnsons”条目。因此,用户可以触摸选择正确的Mike Johnsons来发起呼叫体验。这可以包括随后呈现用户接口以使得用户能够触摸选择呼叫移动电话、工作电话、IP语音电话(VoIP)号码。
因此,在该特定示例中,用户已经使用语音输入以引起通过他们的电话104进行搜索。在电话上搜索用户的联系人导致歧义。电话104于是使用户接口显示在控制台的显示设备上,以使用户能够通过触摸输入消除歧义。以这种方式,不同的输入模式一起被利用以完成任务。
语音和滚轮拨盘
与上述功能类似的功能可以与代替触摸输入的滚轮拨盘相关地提供。作为示例,考虑图5,其中相同的附图标记已用于描绘相同的部件。
与上述示例类似,用户使用他们的语音来说“呼叫Mike Johnson”。该音频输入由电话104上的交互模块210(图2)接收。因此,交互模块与电话104上的“联系人”应用进行交互以检索Mike Johnson的联系人信息。在这样做时,交互模块注意到在用户联系人中有两个Mike Johnson条目。交互模块210于是通过说“有两个Mike Johnsons--您想打给哪一个”来提示用户。如图5所示,结合该音频提示,电话104的显示驱动器模块214可以使用户接口显示在控制台的设备显示器上,以允许用户选择期望的被叫方。在这个特定的示例中,出现在列表中的第一个“Mike Johnson”以用户接口工具(这里是一个矩形)加框架,该用户接口工具指示它可以被选择。通过旋转滚轮拨盘,用户已将用户接口工具从第一个列出的“Mike Johnson”(由虚线矩形指示)导航到第二个列出的“Mike Johnson”(由实心矩形指示)。现在,用户可以通过在向下箭头的方向上按下滚轮拨盘来简单地选择第二个列出的“Mike Johnson。这可以发起对预期的被叫方的呼叫。可替代地或另外地,可以提供随后的用户体验,其可以包括随后呈现用户接口以使得用户能够触摸选择以呼叫移动电话、工作电话,IP语音电话(VoIP)号码。
因此,在这个特定的示例中,用户已经使用语音输入来引起通过他们的电话104进行搜索。在电话上搜索用户的联系人导致歧义。电话104于是使用户接口显示在控制台的显示设备上,以使得用户能够通过使用滚轮拨盘来消除歧义。以这种方式,不同的输入模式一起被利用以完成任务。
语音、触摸和滚轮拨盘
在至少一些实施例中,用户可以在包括语音、触摸和滚轮拨盘的输入模式之间自由地移动。作为示例,考虑图6,其中用户已经触摸选择了驾驶模式用户工具300以进入驾驶模式。如图7所示,在进入驾驶模式后,系统利用言语提示用户“我可以如何帮您”。
驾驶员回应“播放如酷玩乐队(Coldplay)的一些音乐”。交互模块210接收该输入,并且与电话104上的媒体播放应用合作识别在相关联的查询中返回的若干歌曲。作为示例,考虑图8。
在那里,三首不同的歌曲被定位并且如图所示被列出。用户于是可以使用滚轮拨盘来在选项中向下移动,并且如上所述的那样使用滚轮拨盘选择高亮的歌曲,或者如在图示中示出地通过触摸屏幕进行触摸选择。该歌曲现在将在车辆的音响系统上播放。
随后,系统沿着用户的路线的获悉事故。系统可以通过经由云204(图2)与云服务通信来做这件事。当系统获悉事故时,系统可以利用言语提示用户确定用户是否想要变更路线。作为示例,考虑图9。在那里,系统利用言语提示用户并且提供可由用户选择的用户工具。在这种特定实例中,用户已触摸选择了“变更路线”选项,使得他们可以围绕事故变更路线。用户然后可以接收可听方向以及在控制台的显示设备上显示的地图上提供的可视方向两者。以这种方式,当用户的境况指示与不同任务相关联的可执行动作可用于执行时,与一个特定任务相关联的动作可被中断。
现在假设用户希望改变他们正在收听的音乐曲目。他们可以通过简单地触摸选择用户接口工具300来这样做,并且以与图7中所描述的方式相似的方式,他们将被系统利用言语提示。用户然后可以提供语音输入以“播放下一曲目”,并且系统然后将自动播放下一曲目。
因此,在该特定示例中,用户已经使用三种不同的输入模式通过他们的电话融入(engage)他们的车辆信息/娱乐系统。
图10是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以以任何合适的硬件、软件、固件或其组合执行。在流程图中,存在两个列--一个标示为“移动设备”,并且另一个标示为“车内信息/娱乐系统”。这将指示一些动作由移动设备执行,并且其它动作由车辆的娱乐系统执行。
步骤1000在移动设备与车内信息/娱乐系统之间建立连接。可以利用任何合适的移动设备,其以示例而非限制的方式包括移动电话。另外,在移动设备与娱乐系统之间可以建立任何合适类型的连接。另外,该步骤的方面可以由移动设备和娱乐系统两者执行。例如,设备和系统可以通过合适的握手变成可操作地耦合在一起。在上面的示例中,USB连接用于建立移动设备与娱乐系统之间的通信。
步骤1002接收第一模式类型的输入。该输入与特定的、用户希望完成的任务相关联。特定任务可能具有要被执行以完成该任务的多个不同的动作。可以接收任何合适的模式类型,以示例而非限制的方式包括语音、触摸和/或通过诸如滚轮拨盘之类的控件接收的输入。在上面所图示的示例中,发起用户体验的输入包括语音输入。响应于接收到第一模式类型的输入,步骤1004与娱乐系统进行通信。可以执行任何合适类型的通信。例如,在至少一些实施例中,第一输入可以引起移动设备并且更具体地引起在该移动设备上执行的一个或多个模块与驻留在该移动设备上的一个或多个应用进行协调。应用可以包括任何合适类型的应用。例如,如在上述示例中,如果用户希望与特定方通信,则在移动设备上执行的模块可以从设备的联系人应用确定与预期被叫方相关联的信息。该信息然后可以随同信息和数据一起传送到娱乐系统,以使得用户接口能够被渲染,该用户接口然后可以使得用户能够建立呼叫。
步骤1006从移动设备接收通信。通信可以包括信息和数据,以使得用户接口能够在娱乐系统的可视控制台或显示设备上渲染。步骤1008执行与通信和任务的执行相关联的一个或多个动作。可以执行任何合适的动作,以示例而非限制的方式包括:处理由移动设备提供的数据和信息来渲染用户接口,以允许用户使用一种或多种不同的模式类型与娱乐系统交互。
步骤1010接收与执行任务相关联的第二模式类型的输入。在所图示的和描述的示例中,第二模式类型不同于第一模式类型。可以利用任何合适的模式类型,上面提供了它的示例。响应于接收到第二模式类型的输入,步骤1012执行与所接收的输入相关联的一个或多个动作。可以执行任何合适的动作。在所图示和描述的示例中,这些动作可以与由在步骤1008中执行的动作发起的任务相关联。可替代地或另外,由步骤1012执行的动作可以与与关联于在步骤1008中执行的动作的任务不同的任务。
步骤1016接收第三模式类型的输入。在所图示和描述的示例中,第三模式类型不同于第一模式类型和第二模式类型两者。可以利用任何合适的模式类型,上面提供了它的示例。响应于接收第三模式类型的输入,步骤1018执行与所接收的输入相关联的一个或多个动作。可以执行任何合适类型的动作。在所图示和描述的示例中,这些动作可以关联于由被步骤1008执行的动作和被步骤1012执行的动作发起的任务。可替代地或另外,这些动作可以与关联于由步骤1008和/或1012执行的动作的任务不同的任务。该方法然后可以继续以接收第一、第二和/或第三模式类型的输入,并且执行与相同或不同任务相关联的附加动作。
以这种方式,用户可以使用多种不同模式来完成单个任务或各种任务,在这些模式之间存在流畅的连续模式切换。模式可以包括语音、触摸和诸如滚轮拨盘之类的控件。流畅的模式切换允许用户根据他们的境况容易地改变他们的输入模式。因此,例如,如果用户使用语音模式发起任务并且发现他们自己处于拥挤的交通中,那么他们可以继续使用语音模式执行任务,直到它们不那么忙于驾驶,例如在红灯或者交通畅通时。也就是说,用户能够在这些以任何合适组合在不同的输入模式之间自然地移动。例如,用户可以在(1)语音和触摸、(2)语音和滚轮拨盘、(3)语音、触摸和滚轮拨盘或其任何组合之间流畅地移动。
在考虑了任务可以如何通过多模式输入来完成之后,现在考虑可以如何基于用户的境况定制只有语音的体验的方面。
定制只有语音的体验
在一个或多个实施例中,可以基于用户的境况定制只有语音体验。用户的境况可以以示例而非限制的方式包括用户的驾驶场景、认知负荷等。因此,语音体验可以动态地适于以提升驾驶安全性的方式适应用户的境况。另外,通过语音交互,可以提示用户利用特定的响应类型。以这种方式,用户自由选择最适合他们的当前境况的响应类型。
作为示例,考虑图11,其图示了用户驾驶他们的汽车并且融入与他们的交互模块或个人助理的对话。在此示例中,用户已进入了汽车,并且将他们的移动设备连接到他们的车辆的娱乐系统。因此,移动设备知道用户正在驾驶。
在该示例中,交互模块由同心圆图标表示,并且用户由用户图标表示。在启动汽车后,用户融入交互模块,该交互模块进而回应“我可以如何帮助”。用户回应“我今天什么安排”。响应于此问题,交互模块从用户的日历应用确定用户是否有任何约会并且回应“您在10点与您的银行家有会议。想听更多吗”用户接下来回应“不用,谢谢”。
稍后,用户接收文本消息,并且交互模块通过说“您有来自您的兄弟的文本。您想听它吗”来通知用户。通过询问用户他们是否想要听到文本消息,并且由于移动设备知道用户正在驾驶,交互模块为与在移动设备的屏幕或控制台的显示设备上显示消息相比更安全的模式提供机会。
稍后,用户接收呼叫并且交互模块通过说“来自您妻子的呼入。是否接听”来通知用户。用户回应“是的”并且与他的妻子进行短暂的对话。在对话的过程期间,用户得知他的兄弟一直试图联系到他。用户然后融入交互模块,该交互模块回应“我可以如何帮助”。用户告诉交互模块“读取来自我兄弟的最新消息”。交互模块回应“‘嘿兄弟,咱们今晚一起吃晚饭吧。’回复、回拨或者您已结束”。在这种特定实例中,交互模块提示用户关于该用户是否希望使用特定的响应类型,即文本回复或电话呼叫。因此,交互模块为用户提供了一个在给定用户的特定驾驶境况的情况下选择最方便的通信介质的机会。响应于此提示,用户陈述“回复”。交互模块询问用户“您的回复是什么”。对此,用户回应“当然。八点钟。我会预订并且让你知道”。
在确认回复的内容之后,交互模块询问“发送它、添加更多还是再试一次”。用户回应“发送它”,于是交互模块确认“您的消息已发送”。
稍后在驾驶过程期间,用户融入交互模块并且交互模块回应“我可以如何帮助”。用户回复“提醒我在我开始工作的时候预订晚餐”。交互模块回复“好的。我会提醒您在您开始工作的时候预订晚餐。这样对吗”。用户回应“是的”。对此,交互模块回应“好的。我已添加了提醒”。
作为另一示例,考虑图12,其图示了用户驾驶他们的汽车并且融入与他们的交互模块或个人助理的对话。在此特定示例中,用户已激活了他们的个人助理或交互模块。交互模块回应“我可以如何帮助”。用户回应“播放如酷玩乐队的一些音乐”。交互模块回应“好的。我会播放您的Xbox音乐上的酷玩乐队音乐”。
稍后,交互模块中断并且通知用户“在您的路线上有事故,引起了重大延误。您想沿着SR-123绕行以节省15分钟吗”。用户回应“是的”。交互模块然后回应“好的。我会带您到该方向。在一英里后标记为162B的地方驶出匝道。
稍后,交互模块被再次激活并且回应“我可以如何帮助”。用户询问“我的下个转弯在什么时候”。交互模块回应“在两英里处向右转,驶向默瑟(Mercer)街”。稍后,交互模块被再次激活并且回应“我可以如何帮助”。用户说“下一首曲目”以便换成下一首歌曲。交互模块回应“好的。下一首曲目”。
在刚才描述的示例中,交互模块向用户提供主动帮助。具体地说,通过通知用户在驾驶路线上有事故,交互模块主动使得用户能够就其驾驶路线作出决定。此外,交互模块主动确定绕行路线以推荐给用户。该示例还说明了移动设备对用户驾驶状况的境况感知。也就是说,通过境况感知,交互模块能够提供智能的建议并且提示改进用户的体验。此外,该示例说明了系统维持对用户体验的境况的理解的能力,使得可以准确地按照关于用户体验的随后输入行事。例如,用户通过播放音乐来发起体验,并且随后被系统以关于事故的通知中断。在与接收变更路线信息相关联的用户体验期间,用户融入系统以改变到下一首曲目。因此,系统维持对用户体验的境况的理解,并且能够在中断处恢复用户的音乐体验。因此,该系统实现了由与第二不同应用相关联的第二不同任务(例如由地图应用重定向)中断与第一应用相关联的第一任务(例如使用媒体播放器应用播放音乐)。用户可以使用多种不同的模式融入应用,并且可以在当前任务和后续任务之间来回无缝转换。
作为境况感知的另一示例,考虑以下内容。假设用户在高峰时间在高速公路上行驶。由此,交通是拥挤的。通过知道用户在特定时间在特定高速公路上行驶,交互模块可以做出关于如何呈现用户体验的决定。因此,例如,如果用户接收到文本消息,则交互模块可以选择延迟向用户的通知,直到用户不在高峰时间的交通中驾驶的较晚时间。对于任何类型的通知或提示,情况也是如此。此示例还说明了个人助理体验可以如何在移动和非移动场景之间适应。具体来说,在非移动场景中,一旦事件发生(例如接收到文本消息)就可以提供通知。然而,在移动场景中,这样的通知可能会根据时间修改。
作为境况感知的另一示例,考虑以下内容。假设用户正在西雅图市区靠近派克市场(Pike's Place)市场驾驶并且正在寻找停车位。系统通过用户的日历知道用户在附近位置处有约会。用户还通知系统他正试图找到停车位。系统建议“对你来说可能最好的是现在停车,因为如果你停车,你将找到较好的停车场,并且只有五分钟的步行路程,而不是留在交通中15分钟以试图找到另一地方”。
作为另一示例,考虑到用户正低油量行进并且在交通中。用户可以订阅“壳牌(Shell)”服务站服务。通过知晓当前位置和车辆的油量低,以及“壳牌”服务站订阅,交互模块可能建议“您应该尽快加油。在下一个出口处有壳牌站”。以这种方式,交互模块能够与在用户的移动电话上执行的其它应用和/或例如在“云”中远程执行的应用合作工作,并且基于从这些其它应用收集的信息提出境况适当的建议。
作为另一示例,系统可以注意到用户喜欢另类音乐。当用户驾车通过南加州时,系统可能通知用户“嘿,你热衷于另类音乐并且正在驾车通过南加州。存在你可能想了解一些伟大的本地乐队。你想听听它们吗”。
图13是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以在任何合适的硬件、软件、固件或其组合中执行。在所图示和描述的实施例中,该方法由诸如移动电话之类的适当配置的移动设备执行。
步骤1300确定移动电话正随着车辆行进。该步骤可以以任何合适的方式执行。例如,在至少一些实施例中,该步骤可以当在移动电话与车辆的娱乐系统之间建立操作连接时执行。响应于确定移动电话正在随着车辆行进,步骤1302修改与移动电话相关联的个人助理体验。这可以以任何合适的方式进行。例如,可以通过使用语音模式的通知而不是诸如电话的显示屏幕之类的其他模式来执行此步骤。例如,在非移动场景中,可以通过简单地在电话的显示屏幕上显示通知,或者也许通过使用徽章或图标来提供通知。然而,在移动场景中,取代显示通知或除了显示通知之外,可能使用语音通知,以便提升驾驶安全性。以这种方式,用户不需要看电话屏幕以便接收通知。此步骤也可以通过建议使他们自己对于驾驶场景更安全的响应类型来执行。例如,响应于接收到文本消息和通知用户,个人助理可以建议不要求用户把目光从道路移开的响应类型,例如文本回复、电话呼叫、IP语音电话呼叫等。此外,可以通过调整通知的定时来执行该步骤。具体而言,如在上述示例中,如果用户处于高峰时间交通中,则通知可能延迟,直到用户不在高峰时间交通中的这样的时间。
图14是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以在任何合适的硬件、软件、固件或其组合中执行。在所图示和描述的实施例中,该方法由诸如移动电话之类的适当配置的移动设备执行。
步骤1400确定移动电话随着车辆行进。上面提供了这可以如何完成的示例。步骤1402确定当前驾驶境况。此步骤可以以任何合适的方式执行。例如,在至少一些实施例中,移动电话可以基于与诸如网络服务之类的远程源的通信,确定当前的驾驶境况(例如当前位置、交通状况、天气状况、道路建设等)。响应于确定当前驾驶境况,步骤1404提供与该当前驾驶境况相关联的主动通知。因此,例如,基于当前位置和交通状况,电话设备的个人助理可以推荐替代路线。可替代地或另外,基于当前的天气状况,个人助理可以发出天气相关的警告,例如,“针对您当前的位置有龙卷风警告。请考虑找到诸如立交桥之类的安全地方,以便驶离道路”。
在考虑了与定制只有语音的体验相关联的各种实施例后,现在考虑关于如何可以针对滚轮拨盘和触摸屏定制用户接口的讨论。
针对滚轮拨盘和触摸屏定制用户接口
在设计针对滚轮拨盘和触摸屏二者的输入机制时顾及到的考虑之一是,由于其触觉性质,滚轮拨盘典型地更难以设计。同时,如果除了滚轮拨盘输入之外要考虑触摸输入,则输入目标应设计成适应这两者。也就是说,其应该被设计成促进用于触摸输入的容易触摸,以及用于滚轮拨盘输入的容易导航。在所图示和描述的实施例中,目标包括可通过滚轮拨盘输入选中并且尺寸被设置为适应触摸输入的对象。可以利用任何合适类型的对象,其示例包括拼块或图标。
作为示例,考虑图15,其图示来自图3的控制台106,其中相同的数字用于描绘相同的组件。在那里,单独的拼块被示出为由控制台106显示。这些拼块被设置尺寸成容易被用户触摸选择。同时,可以利用滚轮拨盘112以选中穿过的方式来促进穿过拼块的导航。具体地,导航可以以处于左上方的拼块开始,并且通过沿顺时针方向旋转滚轮拨盘,可以导航到行中下一个最右拼块。这可以继续,直到到达第一行的末尾(即第一行中的最右标签),于是滚轮拨盘沿瞬时针方向的连续旋转将导航到第二行中的最左拼块,等等。通过针对利用滚轮拨盘的导航使用单个线性方向,用户更容易地能够以可预测的方式控制导航。这是因为通过导航目标的进展以连续、有序和可预测的方式进行的。在这个特定的示例中,对象的导航以从左到右、从上到下的方式发生。
此外,如上文在解决多模式输入的章节中所描述的,用于完成特定任务的输入可以以可预测的、无缝的方式在滚轮拨盘和触摸之间切换。例如,假设用户已经触摸选择了地图以促进他们的导航。他们希望放大地图以获得他们当前位置的更细粒度的视觉。虽然地图上的用户接口工具可以允许用户执行多个触摸输入来缩放地图,但作为可替代方案,可以使用滚轮拨盘。这使用户减轻了在每一次他们选择触摸缩放时必须将他们的眼睛从道路上移开。具体地,一旦选择了地图,用户就可以简单地顺时针转动滚轮拨盘以放大,或逆时针转动滚轮拨盘以缩小。以这种方式,用户不必将他们的眼睛从道路上避开以缩放地图。
在至少一些实施例中,一旦诸如地图之类的可缩放内容或其它功能可见性在控制台显示器上呈现,则缩放输入可被锁定到滚轮拨盘,以确保在用户希望执行缩放操作时,他们使用最安全的模式、即不要求他们将他们的眼睛从道路避开的模式这样做。以这种方式,基于用户与所显示的内容(例如显示在控制台上的对象)的交互的境况,输入模式中的一种可以被锁定以有利于另一模式。
可替代地或另外地,用户可以使用滚轮拨盘、如通过在出现所显示的内容时向下按压滚轮拨盘来选择可缩放的内容。一旦可缩放内容被显示,该内容就可以使用诸如两个手指的挤捏手势之类的触摸输入来缩放。
在其它实施例中,一旦可缩放内容被显示,滚轮拨盘就可以用于跨所显示的控件切换以选择缩放模式,按压它,并且然后也许使得显示可以通过触摸或滚轮拨盘调整的滑块控件。
根据上面刚才描述的实施例的方法可以以与图10相关地描述的方式相似的方式执行。即,可以通过除滚轮拨盘之外的模式来接收输入,以便发起任务或执行任务内动作。用户然后在适当的时候可以切换到滚轮拨盘以提供输入。例如,在某些实例中,可以锁定输入,使得在执行任务期间的某些特定点处,输入可以只通过滚轮拨盘提供。可替代地或另外地,可以利用滚轮拨盘来执行任务以导航各种控件,于是通过其它输入模式的输入可以用于进一步执行任务内的动作。
图15A是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以以任何合适的硬件、软件、固件或其组合来执行。在所图示和描述的实施例中,该方法由包括诸如移动电话之类的适当配置的移动设备和车内信息/娱乐系统的系统来执行。
步骤1500在车内信息/娱乐系统的控制台上显示对象的阵列。该步骤可以以任何合适的方式、使用任何合适类型的对象执行。例如,控制台的显示器可以由驻留在移动电话上的应用和内容驱动。可以显示的对象可以包括任何合适类型的对象,其示例包括拼块、图标等。在图15的示例中,对象的阵列包括显示在行和列中的拼块的集合。步骤1502实现了通过滚轮拨盘或触摸输入与对象阵列的交互。以这种方式,用户自由地使用任一模式来融入对象的阵列。步骤1504接收输入以利用滚轮拨盘或触摸中的一个来完成任务。可以完成任何合适类型的任务。在上面的示例中,任务可以包括导航通过对象的阵列以最终做出选择。步骤1506执行与所接收的输入相关联的至少一个动作。使用导航示例,这样的动作可以包括视觉地导航通过对象,以使得用户能够做出选择。步骤1508接收输入以利用滚轮拨盘或触摸中的另一个来完成任务。以这种方式,用户可以无缝地切换模式以便完成相同的任务。例如,如果第一个接收到的输入是通过滚轮拨盘的,则将执行导航以导航通过阵列的单独的对象。当达到感兴趣的对象时,用户然后可以触摸该对象以选择它。步骤1510执行与另一个接收到的输入相关联的至少一个附加动作。这可以包括例如启动与选定对象相关联的内容。
在又一实施例中,显示在控制台上的用户接口可以适于使用滚轮拨盘和触摸屏幕来促进导航和内容消费。
一种这样的调适可以与长度可能长的列表相关地利用。作为示例,考虑图16,其显示了用户的联系人列表的一部分。联系人列表具有许多条目,并且如果用户希望在驾驶时呼叫特定联系人,则他们面临导航联系人列表的许多条目以找到感兴趣的特定联系人的问题。在此示例中,假设滚轮拨盘不可使用。在这种情况下,列表被配置成包括使得用户能够通过字母跳转的功能可见性。
在此特定示例中,如图所示,字母跳转特征通过选择特定的字母来访问。在那里,用户已触摸选择了字母“a”。
响应于在显示联系人时触摸选择特定字母,提供可选字母的网格以使得用户能够跳转到特定字母。作为示例,考虑图17,其中由于间隔约束,字母网格被示出为与控制台分离。在此示例中,用户已触摸选择了字母“m”。响应于触摸选择字母“m”,诸如图18所示的,发生了以字母“m”开始对联系人进行导航。在那里,用户可以选择特定的联系人--在这里是要与其通信的“Mandrake Short”。一旦选择了联系人,就可以向用户呈现若干通信选项,诸如图19中所示的那些。
图19A是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以以任何合适的硬件、软件、固件或其组合来执行。在所图示和描述的实施例中,该方法由诸如移动电话和车内娱乐/信息系统之类的适当配置的移动设备来执行。
步骤1900显示可遍历列表的部分。可遍历列表可以包括来自移动电话的内容。具体地,这个特定的示例,如上所述,移动电话可操作地耦合到车内娱乐/信息系统。以这种方式,移动电话的内容可以显示在车辆的控制台上。可以提供任何合适类型的可遍历列表,其示例是如上所述的用户联系人列表。
步骤1902接收列表对象的选择。任何合适类型的列表对象可以是所接收的选择的主题。例如,在上述联系人列表示例中,相对于特定显示的字母接收选择。在至少一些实施例中,可遍历列表可以包括实现到列表内的其它位置的导航的列表对象,以及包括列表内容的列表对象。在联系人列表示例中,实现到其它位置的导航的列表对象包括显示的字母,而包括列表内容的对象包括用户的单独的联系人。响应于接收列表对象的选择,步骤1904导航或实现到可遍历列表的不同部分的导航。该步骤可以以任何合适的方式执行。例如,在至少一些实施例中,该步骤可以通过显示实现到可遍历列表的不同部分的导航的对象的阵列或网格来执行。在上面的境况示例中,实现导航列表的两个不同部分的对象的阵列或网格包括可被选择的单独的字母。响应于接收到对阵列或网格的所显示的对象中的一个的选择,步骤1904完成到对应于所选择的字母的列表的一部分的其导航。步骤1906接收列表对象的选择。该步骤可以通过接收包括列表内容的列表对象的选择来执行。例如,在联系人列表示例中,该步骤可以通过接收列表内出现的单独联系人的选择来执行。响应于接收到列表对象的选择,步骤1908执行与该列表相关联的功能。可以执行任何合适类型的功能。在上述联系人列表示例中,这样的功能可以包括呈现若干不同的通信选项,其可以由用户选择以用于与所选联系人进行通信。
现在假设滚轮拨盘可用并且具有用于字母跳转特征的字母的拼块,如在之前的示例中,被关闭以允许更流畅的体验。在这种情况下,当用户快速旋转滚轮拨盘时,用于通过字母跳转的功能可见性表现为取代列表的大型单个字母。
作为示例,考虑图20。在那里,显示了大型字母“e”。通过快速旋转滚轮拨盘,可以快速导航字母以到达期望的字母,诸如例如图21中所示出的字母“h”。现在,比如图22所示,通过按压滚轮拨盘,用户返回对应于所选字母的列表中的位置。
以类似的方式,一旦用户到达列表中期望的字母,它们就可以以它们导航到单独字母时所做的几乎相同的方式穿过列表中的条目快速地导航。也就是说,当用户快速旋转滚轮拨盘时,假设用户希望远远地向下列表中移动条目,并且因此用户能够向下跳转列表并遍历许多条目。可替代地,通过缓慢转动滚轮拨盘,用户可以穿过每个显示的名字向下连续地前进。因此,在这个示例中,滚轮拨盘可以通过选择列表中的第一个名字开始,并且通过缓慢地转动滚轮拨盘,用户可以穿过每个显示的名字连续地向下前进。现在,假设用户快速旋转滚轮拨盘。以这种方式,可以快速遍历列表,并且可以跳过多个列表条目以到达在列表中出现在若干条目下面的条目。
图22A是描述根据一个或多个实施例的方法中的步骤的流程图。该方法可以以任何合适的硬件、软件、固件或其组合来执行。在所图示和描述的实施例中,该方法由诸如移动电话和车内娱乐/信息系统之类的适当配置的移动设备来执行。
步骤2200在车辆控制台上显示一个或多个字母。该步骤可以以任何合适的方式执行。例如,在至少一些实施例中,可以显示单个字母。可替代地或另外地,在至少一些实施例中,可以显示多个字母,诸如一系列三个或四个字母。步骤2202经由滚轮拨盘接收用户输入。此输入可以作为用户以特定方向(例如顺时针或逆时针)旋转滚轮拨盘的结果而被接收。步骤2204依据滚轮拨盘旋转速度循环穿过字母。在所图示和描述的示例中,循环穿过字母可以包括对于短暂瞬间以串行方式显示单独的字母,直到到达目的地字母。步骤2206经由滚轮拨盘接收字母选择。该步骤可以例如通过接收用户输入来执行,该用户输入是按下滚轮拨盘或以其他方式以指示选择字母的期望的方式融入滚轮拨盘。响应于接收到字母选择,步骤2208显示列表部分,其以对应于所选择的字母的条目开始。例如,如图22,可以显示以所选择的字母“H”开始的条目。在这之后,滚轮拨盘可以用于向前和向后地导航列表部分,以到达期望的条目。一旦选择了期望的条目,包括通信五功能的功能可以暴露给用户,以使得他们能够与所选择的条目进行通信。
自适应用户接口
由于移动设备与控制台的显示设备之间的差异的真正本质,这两者之间的用户接口体验可能是不同的。这可能是因为许多的原因,这些原因中最重要的是安全性。类似地,如果用户在车辆境况外部融入他们的移动设备,则假设用户的全部注意力被集中到他们与移动设备的用户接口体验。另一方面,当用户在他们的汽车中使用他们的移动设备与车辆的控制台对接时,比用户全部的注意力更少的注意力被集中到与控制台的用户接口体验。
考虑到这一点,各种实施例进行调适以适应移动设备的用户接口体验,以便以使得用户能够清楚地看到内容并提升安全性的方式在控制台的显示设备上呈现来自移动设备的内容。
作为示例,考虑图23,其示出移动设备的用户接口体验与控制台的显示设备的用户接口体验的并排比较。
首先考虑移动设备上的枢轴(pivot)控件,其大体在2300处示出。在那里,pivot控件以pivot项(例如“播放列表”、“流派”等)的水平可滚动列表的形式存在。当用户在车辆的境况外部融入他们的移动设备时,他们可以简单地滚动通过各种pivot项以将它们带到显示器上。
现在考虑pivot控件的调适以结合大体在2302处示出的车辆控制台使用。当将移动设备的内容投影到控制台的显示设备上时,pivot控件可以适于以更适合于用户能够向用户接口体验提供比他们全部的注意力更少的注意力的环境的方式呈现内容。具体来说,第一个调适的是,pivot控件被呈现为标签的垂直列表,其以所有视图一眼可见的方式列出。这不同于移动设备中的pivot控件,因为在该特定实例中,用户不必通过任何输入模式提供输入以便看见所有pivot项。pivot项还以比在移动设备中使用尺寸的更大的文本尺寸呈现。这提升了用户的看一眼消费。另外,呈现了诸如2304处所示出的更大的触摸目标。
现在考虑大体在2306处示出的移动设备上的列表控件。在这种实例中,列表控件显示足够数量的列表项以填充移动设备的显示器。在该特定的实例中,根据文本的尺寸,这可以包括显示八个、九个或十个或更多的项。当用户在车辆的境况外部融入他们的移动设备时,相比于所显示的列表项的数量,事实上不关心用户的安全。这是因为假设用户正向他们的移动设备上的用户接口体验提供他们全部的注意力。此外,在移动设备上,列表控件是可滚动的,如可垂直滚动以访问未显示的项,这些项在列表的更远的下方出现。另一方面,当移动设备的内容被投影到控制台的显示设备上时,进行列表控件调适。
例如,考虑列表控件2308。各种实施例显示预定义数量的列表项,该预定义数量小于在移动设备上显示的列表项的数量。因此,例如,如果移动设备显示10个项,则控制台的显示设备可以只显示六个项,以便提升扫视能力和容易的消费。另外,在至少一些实施例中,显示在控制台上的列表控件不是连续可滚动的,而是使用分页模型以便用户一次翻阅多个列表项。另外,其他调适可以包括针对出现在控制台列表中的项使用较大的文本尺寸和较大的目标尺寸。此外,对滚轮拨盘输入提供可见对焦。作为示例,可以突出显示“播放列表”项,使得用户可以容易地在视觉上确定pivot控件中的位置,并且可以提供滚轮拨盘输入以在pivot控件中上下移动项。
可以关于其他用户接口体验进行其他调适。作为示例,考虑图24,其图示了移动设备上的媒体元素控件2400,以及控制台的显示设备上的媒体元素控件2402。然而在移动设备上,媒体元素控件可以使得用户能够播放音频和视频内容两者。控制台上的媒体元素控件可以配置成实现只播放音频而不播放视频内容。此外,提供较大的触摸目标,诸如播放和暂停按钮和用于滚轮拨盘输入的可见焦点。再次,这种调适提升了消费的简易性和安全性。
可以关于其它用户接口体验进行其他调适。例如,在移动设备中,可以在电话上提供全景控件以使得用户能够平移内容或项。在至少一些实施例中,在移动设备上的用户接口体验实现全景控件的任何这样的时间,在控制台上不允许全景控件,而相反以pivot控件来代替。用pivot控件替换全景控件的一个原因是,全景控件倾向于严重依赖使用滑动手势和动画。通过用pivot控件替换全景控件,用户可以将更少的注意力投入到出现在pivot控件中的内容,以便做出选择或导航。
可以关于所谓的网格控件进行其他调适。具体来说,移动设备上的一些应用使用网格以便呈现内容。图3中示出了网格的示例。当用户可以将他们的注意力投入到导航体验时,网格控件倾向于在移动设备的境况中工作良好。网格控件导航体验可能倾向于是有点自由的、不可预测的和动态的。例如,用户典型能够通过各种类型的滑动手势以看似不可预测的方式遍历网格,以便访问网格的内容。在车辆控制台的境况中,移动设备的网格控件用户体验可以用诸如图23所示的列表类型体验来替换。在控制台显示设备的境况中,列表体验可以提升更可预测的且一致的遍历体验,特别是关于滚轮拨盘输入。
图25是描述根据一个或多个实施例的方法中的步骤的流程图。这些步骤可以结合任何合适的硬件、软件、固件或其组合实现。在至少一些实施例中,该方法可以由诸如移动设备和车内信息/娱乐系统之类的适当配置的系统来实现。
步骤2500将移动设备与车内信息/娱乐系统耦合。步骤2502调适与移动设备相关联的用户接口体验以适应于与车内信息/娱乐系统相关联的用户接口体验。可以以任何合适的方式进行调适。例如,移动设备上的pivot控件可以从使用pivot项的可滚动列表被调适到使用列表类型可视化(其中所有视图同时可见)。可替代地或另外,移动设备上的列表控件可以从使用可滚动列表被调适到使用分页模型,以便使用户一次翻阅多个项。另外的调适以示例而非限制的方式可以包括限制媒体元素控件在移动设备上实现音频和视频两者,以使得仅音频能够在车内信息/娱乐系统的控制台上播放。可替代地或另外,可以进行各种网格控件调适,以将网格控件导航体验从移动设备上的有点自由和不可预测的体验调适到如上所述的更线性、串行化和可预测的导航体验。
使用多个屏幕的自适应用户接口
在一个或多个实施例中,移动设备能够渲染到多种不同的屏幕类型,其可能是车辆硬件的部分。例如,各种屏幕类型以示例而非限制的方式可以包括与诸如上述的控制台相关联的屏幕类型、可以包括一个或多个子屏幕的所谓集群、内容在车辆的挡风玻璃上渲染的平视显示器(HUD)等等。作为示例,考虑图26。
在那里,根据一个或多个实施例的系统大体上以2600示出。系统2600包括移动设备2602,该移动设备除其它组件之外包括一个或多个应用2604、规则引擎2606、显示驱动器模块2608和各种不同的屏幕类型,该屏幕类型以示例而非限制的方式包括控制台2610、集群2612(其典型在驾驶员的仪表板中并且包括速度计和其它仪表)、集群2612内的子屏幕2614和平视显示器2616。
在该示例中,应用2604可以编写成屏幕类型不可知的。这意味着应用开发者可以将他们的应用编写为执行导致产生可渲染内容的各种类型的功能。可渲染内容可以根据与屏幕相关联的属性和特征而被渲染到多种不同类型的屏幕。
在操作中,规则引擎2606提供容器,该容器包括与存在于特定车辆内的屏幕类型相关联的各种规则。单独的规则可以指定与要被渲染在任何一种特定类型的屏幕上的内容相关联的属性和特性。这可以以示例而非限制的方式包括内容格式化规则、美学规则、视觉设计规则、文化相关规则、地理相关规则、语言特定规则、阅读方向规则(例如从右到左规则、从左到右规则)、驾驶员座椅配置规则(例如左侧/右侧驾驶员座椅)、语音交互规则等。
当诸如媒体播放器应用之类的应用连接到车内信息/娱乐系统时,其产生可被渲染到多种不同类型的屏幕的可渲染内容。规则引擎2606可以提供一组规则,应用可以使用这组规则格式化内容以用于在多个不同的屏幕类型上渲染。可替代地,显示驱动器模块2608从应用接收数据和信息,并且与规则引擎2606一起工作,以在特定屏幕类型中的一个或多个上驱动显示器。
例如,媒体内容可以显示在控制台2610的显示设备上,而通知、警告和提示可以被提供到集群2612并由集群2612显示。规则引擎2606包含针对每个特定屏幕类型的规则,并且因此可以使应用或显示驱动器模块2608以适当的方式格式化数据,以在不同类型的屏幕上显示。以这种方式,应用开发者可以编写应用以简单地产生可渲染的内容,而无需考虑内容要在其上渲染的屏幕的类型。规则引擎2606和应用或显示驱动器模块2608一起工作,以确保由任何一个特定应用产生的内容可以以适合于该屏幕类型的格式适当地渲染到各种屏幕。
在考虑了与多个屏幕相关联的自适应用户接口后,现在考虑根据一个或多个实施例的通用命令/控制模型。
通用命令/控制模型
就在上面的章节中,自适应用户接口的概念结合可渲染内容进行了描述。自适应用户接口可以进一步扩展到所谓的通用控件的概念。也就是说,通过使用自适应用户接口模型,应用开发者可以以与如何渲染控件无关的方式开发他们的应用。也就是说,控件可以包括硬控件和软控件两者。这样的控件可以包括列表、选项、菜单、按钮、平板、拨盘等。
当移动设备耦合到车内信息/娱乐系统并且启动应用时,来自规则引擎2806的规则向应用指示要在各种屏幕类型上渲染的控件的约束、属性和特性。例如,规则可以指示要渲染多少控件、控件尺寸、字体尺寸等。使用从规则引擎确定的信息,应用然后能够调适其控件以适合于由其接收的规则所限定的屏幕尺寸内。这意味着应用不需要自定义编写,并且如在上面的示例中,极大地促进了应用开发者编写应用的工作。也就是说,应用可以针对作为电话和车辆系统的部分的通用屏幕尺寸编写。控件的自适应性的良好示例出现在图23和24以及上面的相关讨论中。
在这方面,规则引擎的使用还提升了在面对支配车辆用户接口的规定的变化时调适用户接口元素(诸如控件)的灵活性。例如,如果发生修改车辆用户接口的要求的规定改变,则可以发生对出现在规则引擎2606中的规则的简单改变,而不需要重写任何应用。也就是说,应用开发者现在可以将他们的应用编写为“通用控制”而不是特定的适用的规定。
图27是描述根据一个或多个实施例的方法中的步骤的流程图。这些步骤可以结合任何合适的硬件、软件、固件或其组合实现。在至少一些实施例中,该方法可以由诸如移动设备和车内信息/娱乐系统之类的适当配置的系统来实现。
步骤2700将移动设备与车辆的车内信息/娱乐系统耦合。步骤2702在移动设备上启动应用。步骤2704确定与在与车辆相关联的一个或多个屏幕类型上渲染内容和/或控件相关联的一个或多个规则。该步骤可以以任何合适的方式执行。例如,在至少一些实施例中,该步骤可以通过在移动设备上执行的应用来执行。可替代地或另外,该步骤可以由与应用一起工作的显示驱动器模块来执行,以提供要在屏幕类型上渲染的内容和控件。步骤2706使用规则调适要在屏幕类型上渲染的内容和/或控件。步骤2908使经调适的内容和/或控件在屏幕类型上渲染。
在考虑了上述各种实施例之后,现在考虑关于可用于实现上述实施例的示例设备的讨论。即将被描述的各种元件可用于实现移动设备和车内信息/娱乐设备的方面两者。
示例设备
图28图示可以实现为可以结合上述实施例使用的任何类型的计算设备的示例设备2800的各种组件。
设备2800包括通信设备2802,其实现设备数据2804(例如接收到的数据、正在接收的数据、为广播预定的数据、数据的数据包等)的有线和/或无线通信。设备数据2804或其它设备内容可以包括设备的配置设置、存储在设备上的媒体内容和/或与设备的用户相关联的信息。存储在设备2800上的媒体内容可以包括任何类型的音频、视频和/或图像数据。设备2800包括一个或多个数据输入部2806,任何类型的数据、媒体内容和/或输入(诸如从任何内容和/或数据源接收的用户可选输入、消息、音乐、电视媒体内容、记录的视频内容和任何其它类型的音频、视频和/或图像数据)可以经由该输入部来接收。
设备2800还包括通信接口2808,其可实现为串行和/或并行接口、无线接口、任何类型的网络接口、调制解调器以及任何其它类型的通信接口中的任何一个或多个。通信接口和2808在设备2800与通信网络之间的提供连接和/或通信链路,其它电子、计算和通信设备通过该连接和/或通信链路与设备2800传送数据。
设备2800包括一个或多个处理器2810(例如任何微处理器、控制器等),其处理各种计算机可执行指令以控制设备2800的操作并且实现本文描述的技术的实施例。可替代地或另外地,设备2800可以利用硬件、固件或固定逻辑电路中的任何一个或组合来实现,该硬件、固件或固定逻辑电路结合大体由2812标识的处理和控制电路实现。尽管未示出,设备2800可以包括系统总线或数据传输系统,其耦合设备内的各种组件。系统总线可以包括不同总线结构中的任何一种或组合,诸如存储器总线或存储器控制器、外围总线、通用串行总线和/或利用各种各样的总线架构中的任何一种的处理器或局部总线。
设备2800还包括计算机可读介质2814,诸如一个或多个存储器组件,其示例包括随机存取存储器(RAM)、非易失性存储器(例如只读存储器(ROM)、闪速存储器、EPROM、EEPROM等中的任何一种或多种)和盘存储设备。盘存储设备可以实现为任何类型的磁性或光学存储设备,诸如硬盘驱动器、可记录和/或可重写的光盘(CD)、任何类型的数字通用盘(DVD)等。设备2800并且还可以包括大容量存储介质设备2816。
计算机可读介质2814提供数据存储机构,以存储设备数据2804以及各种设备应用2818和与设备2800的操作方面相关的任何其它类型的信息和/或数据。例如,操作系统2820可以利用计算机可读介质2814作为计算机应用来维护,并且在处理器2810上执行。设备应用2818可以包括设备管理器(例如控制应用、软件应用、信号处理和控制模块、特定设备本地的代码、针对特定设备的硬件抽象层等)。设备应用2818还包括用于实现本文描述的技术的实施例的任何系统组件或模块。在该示例中,设备应用2818包括接口应用2822和手势捕获驱动器2824,其被示出为软件模块和/或计算机应用。手势捕获驱动器2824代表用于提供与配置成捕获手势的设备(诸如触摸屏、轨迹板、相机等)的接口的软件。可替代地或另外地,接口应用2822和手势捕获驱动器2824可被实现为硬件、软件、固件或其任何组合。此外,计算机可读介质2814可以包括提供浏览器功能的网络平台2825。
设备2800还包括音频和/或视频输入-输出系统2826,其向音频系统2828提供音频数据和/或向显示系统2830提供视频数据。音频系统2828和/或显示系统2830可以包括处理、显示和/或以其它方式渲染音频、视频和图像数据的任何设备。视频信号和音频信号可以经由RF(射频)链路、S-视频链路、复合视频链路、分量视频链路、DVI(数字视频接口)、模拟音频连接或其它类似的通信链路,从设备2800传送到音频设备和/或显示设备。在实施例中,音频系统2828和/或显示系统2830被实现为设备2800的外部组件。可替代地,音频系统2828和/或显示系统2830被实现为示例设备2800的集成组件。
结论
各种实施例使得诸如电话等之类的移动设备能够与车内信息/娱乐系统集成,以使得用户能够通过他们的移动电话控制车内信息/娱乐系统。用户可以利用他们的移动电话的功能来提升车内体验,其可以根据境况定制以适应用户的或车辆的境况。
在至少一些实施例中,用户可以使用多个不同的模式来完成各种任务,在该模式之间存在流畅的连续模式切换。模式可以包括语音、触摸和诸如滚轮拨盘之类的控件。流畅的模式切换允许用户根据他们的境况容易地改变他们的输入模式。
其它实施例可以基于驾驶场景和用户的认知负荷来定制仅有语音的体验。还有其它实施例可以针对滚轮拨盘和触摸屏模式定制用户体验。另外的实施例可以提供自适应用户接口,其包括可以结合多种不同类型的屏幕(例如电话屏幕、集群屏幕、控制台屏幕和平视显示器(HUD)屏幕等)操作的自适应用户接口。还有另外的实施例提供了针对包括按钮滚轮、电容式拨盘、硬键、平板等的多种类型的物理输入的通用命令/控制模型。
尽管已经以特定于结构特征和/或方法动作的语言描述了实施例,但是应当理解,所附权利要求中限定的实施例不一定限于所描述的特定特征或动作。相反,特定特征和动作被公开为实现所要求保护的实施例的示例形式。

Claims (15)

1.一种计算机实现的方法,包括:
建立移动设备与车内信息/娱乐系统之间的连接;
从所述移动设备接收通信,所述通信与由所述移动设备接收的第一模式类型的输入相关联,所述输入与完成任务相关联;
执行与所述任务相关联的一个或多个动作;
接收与所述第一模式类型不同的第二模式类型的输入,所述第二模式类型的输入与执行所述任务相关联;
执行与用于执行所述任务的所述第二模式类型的输入相关联的一个或多个动作;
其中所述车内信息/娱乐系统被配置成接收与第一和第二模式类型不同的至少第三模式类型的输入,以执行与所述任务相关联的一个或多个动作或与不同的任务相关联的一个或多个动作。
2.权利要求1的计算机实现的方法,其中所述第一模式类型的输入包括语音输入。
3.权利要求2的计算机实现的方法,其中所述第二模式类型的输入包括通过所述车内信息/娱乐系统的控制台接收的触摸输入。
4.权利要求2的计算机实现的方法,其中所述第二模式类型的输入包括通过与所述车内信息/娱乐系统的控制台相关联的滚轮拨盘接收的滚轮拨盘输入。
5.权利要求1的计算机实现的方法,其中可以使用所述第一输入模式、或者使用所述第二输入模式或所述第三模式中的一个或多个执行至少一些动作。
6.权利要求1的计算机实现的方法,其中可以使用所述第一输入模式、或者使用所述第二输入模式或所述第三模式中的一个或多个执行至少一些动作,其中所述第一输入模式包括语音输入。
7.权利要求1的计算机实现的方法,其中所述第一、第二或第三模式类型中的至少一个实现在所述车内信息/娱乐系统的控制台上渲染的对象的导航。
8.权利要求1的计算机实现的方法,其中所述第一、第二或第三模式类型中的至少一个实现在所述车内信息/娱乐系统的控制台上渲染的对象的导航,并且其中所述对象包括拼块。
9.权利要求1的计算机实现的方法,其中所述第一模式类型的输入包括语音输入,并且所述第二模式类型的输入被配置成消除与所述第一模式类型的输入相关联的歧义。
10.权利要求1的计算机实现的方法,其中所述车内信息/娱乐系统被配置成实现:当用户的境况指示与不同任务相关联的可执行动作可用于执行时,与一个特定任务相关联的动作可以被中断。
11.一种或多种计算机可读存储介质,其存储计算机可读指令,所述计算机可读指令在被执行时执行包括下述的操作:
建立移动设备与车内信息/娱乐系统之间的连接;
从所述移动设备接收通信,所述通信与由所述移动设备接收的第一模式类型的输入相关联,所述输入与完成任务相关联;
执行与所述任务相关联的一个或多个动作;
接收与所述第一模式类型不同的第二模式类型的输入,所述第二模式类型的输入与执行所述任务相关联;
执行与用于执行所述任务的所述第二模式类型的输入相关联的一个或多个动作;
其中所述车内信息/娱乐系统被配置成接收与所述第一和第二模式类型不同的至少第三模式类型的输入,以执行与所述任务相关联的一个或多个动作或与不同的任务相关联的一个或多个动作。
12.权利要求11的一种或多种计算机可读存储介质,其中所述第一模式类型的输入包括语音输入。
13.权利要求11的一种或多种计算机可读存储介质,其中所述第一模式类型的输入包括语音输入,并且其中所述第二模式类型的输入包括通过所述车内信息/娱乐系统的控制台接收的触摸输入。
14.权利要求11的一种或多种计算机可读存储介质,其中所述第一模式类型的输入包括语音输入,并且其中所述第二模式类型的输入包括通过与所述车内信息/娱乐系统的控制台相关联的滚轮拨盘接收的滚轮拨盘输入。
15.权利要求11的一种或多种计算机可读存储介质,其中至少一些动作可以使用所述第一输入模式、或者使用第二输入模式或所述第三模式中的一个或多个来执行。
CN201580063130.2A 2014-11-20 2015-11-16 基于车辆的多模式接口 Pending CN107077317A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US14/549496 2014-11-20
US14/549,496 US10116748B2 (en) 2014-11-20 2014-11-20 Vehicle-based multi-modal interface
PCT/US2015/060775 WO2016081326A1 (en) 2014-11-20 2015-11-16 Vehicle-based multi-modal interface

Publications (1)

Publication Number Publication Date
CN107077317A true CN107077317A (zh) 2017-08-18

Family

ID=54704132

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201580063130.2A Pending CN107077317A (zh) 2014-11-20 2015-11-16 基于车辆的多模式接口

Country Status (11)

Country Link
US (1) US10116748B2 (zh)
EP (1) EP3221783B1 (zh)
JP (1) JP7093181B2 (zh)
KR (1) KR102416405B1 (zh)
CN (1) CN107077317A (zh)
AU (1) AU2015350267B2 (zh)
BR (1) BR112017008421A2 (zh)
CA (1) CA2965703C (zh)
MX (1) MX2017006086A (zh)
RU (1) RU2707410C2 (zh)
WO (1) WO2016081326A1 (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108944450A (zh) * 2018-05-23 2018-12-07 重庆普斯德电子有限公司 双模式汽车仪表显示系统

Families Citing this family (145)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US20120311585A1 (en) 2011-06-03 2012-12-06 Apple Inc. Organizing task items that represent tasks to perform
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
DE212014000045U1 (de) 2013-02-07 2015-09-24 Apple Inc. Sprach-Trigger für einen digitalen Assistenten
US10652394B2 (en) 2013-03-14 2020-05-12 Apple Inc. System and method for processing voicemail
US10748529B1 (en) 2013-03-15 2020-08-18 Apple Inc. Voice activated device for use with a voice-based digital assistant
US10176167B2 (en) 2013-06-09 2019-01-08 Apple Inc. System and method for inferring user intent from speech inputs
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
EP3149728B1 (en) 2014-05-30 2019-01-16 Apple Inc. Multi-command single utterance input method
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US10073599B2 (en) 2015-01-07 2018-09-11 Microsoft Technology Licensing, Llc Automatic home screen determination based on display device
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
DE102015204336B4 (de) * 2015-03-11 2019-01-31 Volkswagen Aktiengesellschaft Verfahren und Vorrichtung zur Integration von Fahrzeug-Applikationen
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
WO2016210004A1 (en) * 2015-06-25 2016-12-29 Airbiquity Inc. Motor vehicle component to utilize a font or character resource of a separate electronic device
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
US9699298B2 (en) * 2015-08-10 2017-07-04 Microsoft Technology Licensing, Llc Smart automatic composition of short messaging responses
US10740384B2 (en) 2015-09-08 2020-08-11 Apple Inc. Intelligent automated assistant for media search and playback
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
US10331312B2 (en) 2015-09-08 2019-06-25 Apple Inc. Intelligent automated assistant in a media environment
US10671428B2 (en) 2015-09-08 2020-06-02 Apple Inc. Distributed personal assistant
KR20170045662A (ko) * 2015-10-19 2017-04-27 삼성전자주식회사 전자 장치 및 알림 제어 방법
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US10956666B2 (en) 2015-11-09 2021-03-23 Apple Inc. Unconventional virtual assistant interactions
US10223066B2 (en) 2015-12-23 2019-03-05 Apple Inc. Proactive assistance based on dialog communication between devices
US10264030B2 (en) 2016-02-22 2019-04-16 Sonos, Inc. Networked microphone device control
US9965247B2 (en) 2016-02-22 2018-05-08 Sonos, Inc. Voice controlled media playback system based on user profile
US9811314B2 (en) 2016-02-22 2017-11-07 Sonos, Inc. Metadata exchange involving a networked playback system and a networked microphone system
US9820039B2 (en) 2016-02-22 2017-11-14 Sonos, Inc. Default playback devices
US10095470B2 (en) 2016-02-22 2018-10-09 Sonos, Inc. Audio response playback
US9947316B2 (en) 2016-02-22 2018-04-17 Sonos, Inc. Voice control of a media playback system
US10423292B2 (en) * 2016-05-17 2019-09-24 Google Llc Managing messages in vehicles
US9978390B2 (en) 2016-06-09 2018-05-22 Sonos, Inc. Dynamic player selection for audio signal processing
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK179415B1 (en) 2016-06-11 2018-06-14 Apple Inc Intelligent device arbitration and control
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
US10474946B2 (en) 2016-06-24 2019-11-12 Microsoft Technology Licensing, Llc Situation aware personal assistant
US10152969B2 (en) 2016-07-15 2018-12-11 Sonos, Inc. Voice detection by multiple devices
US10134399B2 (en) 2016-07-15 2018-11-20 Sonos, Inc. Contextualization of voice inputs
US10115400B2 (en) 2016-08-05 2018-10-30 Sonos, Inc. Multiple voice services
US9942678B1 (en) 2016-09-27 2018-04-10 Sonos, Inc. Audio playback settings for voice interaction
US9743204B1 (en) 2016-09-30 2017-08-22 Sonos, Inc. Multi-orientation playback device microphones
US10181323B2 (en) 2016-10-19 2019-01-15 Sonos, Inc. Arbitration-based voice recognition
US10203216B2 (en) * 2016-12-31 2019-02-12 Spotify Ab Duration-based customized media program
US11204787B2 (en) 2017-01-09 2021-12-21 Apple Inc. Application integration with a digital assistant
JP6824047B2 (ja) * 2017-01-20 2021-02-03 株式会社クボタ 作業車
US11183181B2 (en) 2017-03-27 2021-11-23 Sonos, Inc. Systems and methods of multiple voice services
US10726832B2 (en) 2017-05-11 2020-07-28 Apple Inc. Maintaining privacy of personal information
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
DK179745B1 (en) 2017-05-12 2019-05-01 Apple Inc. SYNCHRONIZATION AND TASK DELEGATION OF A DIGITAL ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
DK201770427A1 (en) 2017-05-12 2018-12-20 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK201770411A1 (en) 2017-05-15 2018-12-20 Apple Inc. MULTI-MODAL INTERFACES
US20180336892A1 (en) 2017-05-16 2018-11-22 Apple Inc. Detecting a trigger of a digital assistant
US10303715B2 (en) 2017-05-16 2019-05-28 Apple Inc. Intelligent automated assistant for media exploration
US10475449B2 (en) 2017-08-07 2019-11-12 Sonos, Inc. Wake-word detection suppression
US10048930B1 (en) 2017-09-08 2018-08-14 Sonos, Inc. Dynamic computation of system response volume
US10672379B1 (en) * 2017-09-25 2020-06-02 Amazon Technologies, Inc. Systems and methods for selecting a recipient device for communications
US10446165B2 (en) 2017-09-27 2019-10-15 Sonos, Inc. Robust short-time fourier transform acoustic echo cancellation during audio playback
US10482868B2 (en) 2017-09-28 2019-11-19 Sonos, Inc. Multi-channel acoustic echo cancellation
US10621981B2 (en) 2017-09-28 2020-04-14 Sonos, Inc. Tone interference cancellation
US10466962B2 (en) 2017-09-29 2019-11-05 Sonos, Inc. Media playback system with voice assistance
US10880650B2 (en) 2017-12-10 2020-12-29 Sonos, Inc. Network microphone devices with automatic do not disturb actuation capabilities
US10818290B2 (en) 2017-12-11 2020-10-27 Sonos, Inc. Home graph
US20190053022A1 (en) * 2017-12-27 2019-02-14 Intel Corporation Provision of in-vehicle service to a mobile device
WO2019152722A1 (en) 2018-01-31 2019-08-08 Sonos, Inc. Device designation of playback and network microphone device arrangements
US10818288B2 (en) 2018-03-26 2020-10-27 Apple Inc. Natural assistant interaction
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US11175880B2 (en) 2018-05-10 2021-11-16 Sonos, Inc. Systems and methods for voice-assisted media content selection
US10847178B2 (en) 2018-05-18 2020-11-24 Sonos, Inc. Linear filtering for noise-suppressed speech detection
US10959029B2 (en) 2018-05-25 2021-03-23 Sonos, Inc. Determining and adapting to changes in microphone performance of playback devices
DK179822B1 (da) 2018-06-01 2019-07-12 Apple Inc. Voice interaction at a primary device to access call functionality of a companion device
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US10892996B2 (en) 2018-06-01 2021-01-12 Apple Inc. Variable latency device coordination
CN108766474A (zh) * 2018-06-04 2018-11-06 深圳市沃特沃德股份有限公司 车载音乐播放方法及车载设备
US10681460B2 (en) 2018-06-28 2020-06-09 Sonos, Inc. Systems and methods for associating playback devices with voice assistant services
US10461710B1 (en) 2018-08-28 2019-10-29 Sonos, Inc. Media playback system with maximum volume setting
US11076035B2 (en) 2018-08-28 2021-07-27 Sonos, Inc. Do not disturb feature for audio notifications
CN110874202B (zh) 2018-08-29 2024-04-19 斑马智行网络(香港)有限公司 交互方法、设备、介质和操作系统
US10587430B1 (en) 2018-09-14 2020-03-10 Sonos, Inc. Networked devices, systems, and methods for associating playback devices based on sound codes
US10878811B2 (en) 2018-09-14 2020-12-29 Sonos, Inc. Networked devices, systems, and methods for intelligently deactivating wake-word engines
US11024331B2 (en) 2018-09-21 2021-06-01 Sonos, Inc. Voice detection optimization using sound metadata
US10811015B2 (en) 2018-09-25 2020-10-20 Sonos, Inc. Voice detection optimization based on selected voice assistant service
US11100923B2 (en) 2018-09-28 2021-08-24 Sonos, Inc. Systems and methods for selective wake word detection using neural network models
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US10692518B2 (en) 2018-09-29 2020-06-23 Sonos, Inc. Linear filtering for noise-suppressed speech detection via multiple network microphone devices
US11899519B2 (en) 2018-10-23 2024-02-13 Sonos, Inc. Multiple stage network microphone device with reduced power consumption and processing load
US11475898B2 (en) 2018-10-26 2022-10-18 Apple Inc. Low-latency multi-speaker speech recognition
JP6993314B2 (ja) * 2018-11-09 2022-01-13 株式会社日立製作所 対話システム、装置、及びプログラム
EP3654249A1 (en) 2018-11-15 2020-05-20 Snips Dilated convolutions and gating for efficient keyword spotting
US11183183B2 (en) * 2018-12-07 2021-11-23 Sonos, Inc. Systems and methods of operating media playback systems having multiple voice assistant services
US11132989B2 (en) 2018-12-13 2021-09-28 Sonos, Inc. Networked microphone devices, systems, and methods of localized arbitration
US10602268B1 (en) 2018-12-20 2020-03-24 Sonos, Inc. Optimization of network microphone devices using noise classification
US10867604B2 (en) 2019-02-08 2020-12-15 Sonos, Inc. Devices, systems, and methods for distributed voice processing
US11315556B2 (en) 2019-02-08 2022-04-26 Sonos, Inc. Devices, systems, and methods for distributed voice processing by transmitting sound data associated with a wake word to an appropriate device for identification
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
CN113597401B (zh) * 2019-03-27 2023-06-23 Tvs电机股份有限公司 智能连接仪表组
US11120794B2 (en) 2019-05-03 2021-09-14 Sonos, Inc. Voice assistant persistence across multiple network microphone devices
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
US11423908B2 (en) 2019-05-06 2022-08-23 Apple Inc. Interpreting spoken requests
US11475884B2 (en) 2019-05-06 2022-10-18 Apple Inc. Reducing digital assistant latency when a language is incorrectly determined
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US10996925B2 (en) * 2019-05-09 2021-05-04 Google Llc Automated assistant suggestions for third-party vehicle computing devices with restricted architecture
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
US11496600B2 (en) 2019-05-31 2022-11-08 Apple Inc. Remote execution of machine-learned models
US11289073B2 (en) 2019-05-31 2022-03-29 Apple Inc. Device text to speech
DK201970510A1 (en) 2019-05-31 2021-02-11 Apple Inc Voice identification in digital assistant systems
DK180129B1 (en) 2019-05-31 2020-06-02 Apple Inc. USER ACTIVITY SHORTCUT SUGGESTIONS
US11468890B2 (en) 2019-06-01 2022-10-11 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11360641B2 (en) 2019-06-01 2022-06-14 Apple Inc. Increasing the relevance of new available information
US11200894B2 (en) 2019-06-12 2021-12-14 Sonos, Inc. Network microphone device with command keyword eventing
US11361756B2 (en) 2019-06-12 2022-06-14 Sonos, Inc. Conditional wake word eventing based on environment
US10586540B1 (en) 2019-06-12 2020-03-10 Sonos, Inc. Network microphone device with command keyword conditioning
US11138969B2 (en) 2019-07-31 2021-10-05 Sonos, Inc. Locally distributed keyword detection
US11138975B2 (en) 2019-07-31 2021-10-05 Sonos, Inc. Locally distributed keyword detection
US10871943B1 (en) 2019-07-31 2020-12-22 Sonos, Inc. Noise classification for event detection
WO2021056255A1 (en) 2019-09-25 2021-04-01 Apple Inc. Text detection using global geometry estimators
US11189286B2 (en) 2019-10-22 2021-11-30 Sonos, Inc. VAS toggle based on device orientation
CN111124332B (zh) * 2019-11-18 2024-03-01 北京小米移动软件有限公司 设备呈现内容的控制方法、控制装置及存储介质
RU2731670C1 (ru) * 2019-12-13 2020-09-07 Сергей Анатольевич Киселев Программно-аппаратный комплекс
US11200900B2 (en) 2019-12-20 2021-12-14 Sonos, Inc. Offline voice control
US11562740B2 (en) 2020-01-07 2023-01-24 Sonos, Inc. Voice verification for media playback
US11556307B2 (en) 2020-01-31 2023-01-17 Sonos, Inc. Local voice data processing
US11308958B2 (en) 2020-02-07 2022-04-19 Sonos, Inc. Localized wakeword verification
US11038934B1 (en) 2020-05-11 2021-06-15 Apple Inc. Digital assistant hardware abstraction
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11755276B2 (en) 2020-05-12 2023-09-12 Apple Inc. Reducing description length based on confidence
US11308962B2 (en) 2020-05-20 2022-04-19 Sonos, Inc. Input detection windowing
US11727919B2 (en) 2020-05-20 2023-08-15 Sonos, Inc. Memory allocation for keyword spotting engines
US11482224B2 (en) 2020-05-20 2022-10-25 Sonos, Inc. Command keywords with input detection windowing
KR20210156126A (ko) * 2020-06-17 2021-12-24 현대모비스 주식회사 노브를 이용한 디스플레이 제어 시스템
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
US11698771B2 (en) 2020-08-25 2023-07-11 Sonos, Inc. Vocal guidance engines for playback devices
US11984123B2 (en) 2020-11-12 2024-05-14 Sonos, Inc. Network device interaction by range
CN114816158A (zh) * 2021-01-11 2022-07-29 华为技术有限公司 界面的控制方法、装置、电子设备和可读存储介质
US11551700B2 (en) 2021-01-25 2023-01-10 Sonos, Inc. Systems and methods for power-efficient keyword detection
USD985590S1 (en) 2021-08-23 2023-05-09 Waymo Llc Display screen or portion thereof with graphical user interface
EP4162233A1 (en) * 2021-08-24 2023-04-12 Google LLC Proactively activating automated assistant driving modes for varying degrees of travel detection confidence
CN114179613B (zh) * 2021-12-10 2024-03-05 常州星宇车灯股份有限公司 一种用于副驾驶控制面板上的影音触控交互控制方法

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102006373A (zh) * 2010-11-24 2011-04-06 深圳市子栋科技有限公司 基于语音命令控制的车载服务系统及方法
US20110165551A1 (en) * 2008-10-20 2011-07-07 Wataru Yamazaki Device and system for assisting in using equipment
US20120166076A1 (en) * 2010-12-23 2012-06-28 Rody Hardy Predictive Traffic Warning And Suggestive Rerouting System And Method
CN102792764A (zh) * 2010-02-10 2012-11-21 惠普发展公司,有限责任合伙企业 具有多个输入模式的移动设备
CN103347162A (zh) * 2013-06-28 2013-10-09 深圳市掌讯通讯设备有限公司 一种车载装置与智能手机互动控制系统及其方法
US8744645B1 (en) * 2013-02-26 2014-06-03 Honda Motor Co., Ltd. System and method for incorporating gesture and voice recognition into a single system
CN104077073A (zh) * 2013-03-26 2014-10-01 三星电子株式会社 车载系统、移动设备及为其提供服务的方法

Family Cites Families (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8903737B2 (en) 2000-04-25 2014-12-02 Accenture Global Service Limited Method and system for a wireless universal mobile product interface
JP2002022464A (ja) * 2000-07-05 2002-01-23 Mazda Motor Corp 移動体用情報処理装置、移動体用情報処理方法、及び移動体用情報処理プログラムが記憶された記憶媒体
US7636079B2 (en) 2000-11-29 2009-12-22 Palm Inc. Application access and activation system and method
US20030153354A1 (en) 2001-03-16 2003-08-14 Cupps Bryan T. Novel personal electronics device with keypad application
US20020173344A1 (en) 2001-03-16 2002-11-21 Cupps Bryan T. Novel personal electronics device
FI111494B (fi) 2001-06-29 2003-07-31 Nokia Corp Langaton käyttöliittymän laajennus
JP4013630B2 (ja) * 2002-04-25 2007-11-28 アイシン・エィ・ダブリュ株式会社 事故多発位置報知装置、事故多発位置報知システム及び事故多発位置報知方法
WO2004003724A2 (en) 2002-06-27 2004-01-08 Axeda Systems Operating Company, Inc. Screen sharing
US7231229B1 (en) 2003-03-16 2007-06-12 Palm, Inc. Communication device interface
JP2005049138A (ja) * 2003-07-30 2005-02-24 Pioneer Electronic Corp 交通状況報知装置、そのシステム、その方法、そのプログラム、および、そのプログラムを記録した記録媒体
JP4452474B2 (ja) * 2003-09-30 2010-04-21 パイオニア株式会社 案内誘導システム、その方法、そのプログラム、および、そのプログラムを記録した記録媒体
US7814419B2 (en) 2003-11-26 2010-10-12 Nokia Corporation Changing an orientation of a user interface via a course of motion
JP2005332319A (ja) * 2004-05-21 2005-12-02 Nissan Motor Co Ltd 入力装置
KR100814430B1 (ko) 2004-06-09 2008-03-18 삼성전자주식회사 드라이버 프로그램을 기록한 기록매체
US7554522B2 (en) 2004-12-23 2009-06-30 Microsoft Corporation Personalization of user accessibility options
US7835505B2 (en) 2005-05-13 2010-11-16 Microsoft Corporation Phone-to-monitor connection device
US7933955B2 (en) 2006-07-11 2011-04-26 Igor Khalatian One-click universal screen sharing
US9318108B2 (en) 2010-01-18 2016-04-19 Apple Inc. Intelligent automated assistant
DE102008051756A1 (de) * 2007-11-12 2009-05-14 Volkswagen Ag Multimodale Benutzerschnittstelle eines Fahrerassistenzsystems zur Eingabe und Präsentation von Informationen
US8015005B2 (en) * 2008-02-15 2011-09-06 Motorola Mobility, Inc. Method and apparatus for voice searching for stored content using uniterm discovery
US20130275899A1 (en) * 2010-01-18 2013-10-17 Apple Inc. Application Gateway for Providing Different User Interfaces for Limited Distraction and Non-Limited Distraction Contexts
WO2009143294A2 (en) 2008-05-20 2009-11-26 Citrix Systems, Inc. Methods and systems for using external display devices with a mobile computing device
JP2009300537A (ja) 2008-06-10 2009-12-24 Fujitsu Ten Ltd 音声作動システム、音声作動方法および車載装置
KR20100035924A (ko) 2008-09-29 2010-04-07 삼성전자주식회사 디스플레이장치 및 외부입력장치를 가지는 디스플레이 시스템과 그 제어 방법
KR100946460B1 (ko) 2008-09-30 2010-03-10 현대자동차주식회사 차량의 입력 장치
US20120077586A1 (en) 2008-10-27 2012-03-29 Shervin Pishevar Apparatuses, methods and systems for an interactive proximity display tether
US8893040B2 (en) * 2008-12-23 2014-11-18 At&T Mobility Ii Llc Systems, devices, or methods for accessing information employing a tumbler-style graphical user interface
US8554831B2 (en) * 2009-06-02 2013-10-08 Ford Global Technologies, Llc System and method for executing hands-free operation of an electronic calendar application within a vehicle
US9858925B2 (en) * 2009-06-05 2018-01-02 Apple Inc. Using context information to facilitate processing of commands in a virtual assistant
US9310880B2 (en) 2009-09-29 2016-04-12 Ncr Corporation Self-service computer with dynamic interface
US10705794B2 (en) * 2010-01-18 2020-07-07 Apple Inc. Automatically adapting user interfaces for hands-free interaction
US8570189B1 (en) * 2010-05-10 2013-10-29 Eric Casebolt Multifunction traffic control and information system
US8731814B2 (en) 2010-07-02 2014-05-20 Ford Global Technologies, Llc Multi-modal navigation system and method
US20120050183A1 (en) 2010-08-27 2012-03-01 Google Inc. Switching display modes based on connection state
WO2012046890A1 (ko) 2010-10-06 2012-04-12 엘지전자 주식회사 이동단말기, 디스플레이 장치 및 그 제어 방법
US8669970B2 (en) 2011-01-27 2014-03-11 Apple Inc. Master synchronization for multiple displays
JP5889542B2 (ja) 2011-04-07 2016-03-22 クラリオン株式会社 無線通信端末及び操作システム
US20120268294A1 (en) * 2011-04-20 2012-10-25 S1Nn Gmbh & Co. Kg Human machine interface unit for a communication device in a vehicle and i/o method using said human machine interface unit
US20120303263A1 (en) 2011-05-23 2012-11-29 Microsoft Corporation Optimization of navigation tools using spatial sorting
US9761083B2 (en) * 2011-09-16 2017-09-12 Elottery, Inc. Location, age and identity verification for mobile gaming
US9462210B2 (en) 2011-11-04 2016-10-04 Remote TelePointer, LLC Method and system for user interface for interactive devices using a mobile device
US20130155237A1 (en) 2011-12-16 2013-06-20 Microsoft Corporation Interacting with a mobile device within a vehicle using gestures
KR101901720B1 (ko) 2012-04-02 2018-11-13 삼성전자주식회사 더미 장치와의 연동 방법 및 그 전자 장치
KR101952682B1 (ko) 2012-04-23 2019-02-27 엘지전자 주식회사 이동 단말기 및 그 제어방법
CN202565359U (zh) 2012-05-11 2012-11-28 广东欧珀移动通信有限公司 一种微投互动手机
US20140118222A1 (en) 2012-10-30 2014-05-01 Cloudcar, Inc. Projection of content to external display devices
US20140129695A1 (en) 2012-11-02 2014-05-08 Gface Gmbh Connected devices
US9218805B2 (en) * 2013-01-18 2015-12-22 Ford Global Technologies, Llc Method and apparatus for incoming audio processing
US9137476B2 (en) 2013-02-14 2015-09-15 Sony Corporation User-defined home screen for ultra high definition (UHD) TV
US20140267035A1 (en) 2013-03-15 2014-09-18 Sirius Xm Connected Vehicle Services Inc. Multimodal User Interface Design
KR20140094407A (ko) 2013-04-10 2014-07-30 (주)브라이니클 이동 단말기를 이용한 쇼핑정보 제공방법 및 이동 단말기를 이용하여 쇼핑정보를 제공하는 사용자 인터페이스
WO2015064965A1 (ko) * 2013-10-29 2015-05-07 엘지전자 주식회사 기기간 통신 시스템, 장치 및 제어 방법
EP2960098B1 (en) * 2014-06-27 2020-11-04 Volvo Car Corporation Methods, device and system for assisting a vehicle occupant utilizing functionality of a nomadic device via an in-vehicle system
US20160028870A1 (en) * 2014-07-23 2016-01-28 Lg Electronics Inc. Method of sharing information of a mobile terminal for interworking between an in-vehicle infotainment system and the mobile terminal
US20160044519A1 (en) * 2014-08-08 2016-02-11 GM Global Technology Operations LLC Method and apparatus for supporting mobile device screen replication in automotive environment using flexible network connectivity

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20110165551A1 (en) * 2008-10-20 2011-07-07 Wataru Yamazaki Device and system for assisting in using equipment
CN102792764A (zh) * 2010-02-10 2012-11-21 惠普发展公司,有限责任合伙企业 具有多个输入模式的移动设备
CN102006373A (zh) * 2010-11-24 2011-04-06 深圳市子栋科技有限公司 基于语音命令控制的车载服务系统及方法
US20120166076A1 (en) * 2010-12-23 2012-06-28 Rody Hardy Predictive Traffic Warning And Suggestive Rerouting System And Method
US8744645B1 (en) * 2013-02-26 2014-06-03 Honda Motor Co., Ltd. System and method for incorporating gesture and voice recognition into a single system
CN104077073A (zh) * 2013-03-26 2014-10-01 三星电子株式会社 车载系统、移动设备及为其提供服务的方法
CN103347162A (zh) * 2013-06-28 2013-10-09 深圳市掌讯通讯设备有限公司 一种车载装置与智能手机互动控制系统及其方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108944450A (zh) * 2018-05-23 2018-12-07 重庆普斯德电子有限公司 双模式汽车仪表显示系统

Also Published As

Publication number Publication date
EP3221783A1 (en) 2017-09-27
AU2015350267A1 (en) 2017-05-11
CA2965703C (en) 2022-08-23
KR102416405B1 (ko) 2022-07-01
RU2707410C2 (ru) 2019-11-26
JP7093181B2 (ja) 2022-06-29
WO2016081326A1 (en) 2016-05-26
AU2015350267B2 (en) 2020-06-25
BR112017008421A2 (pt) 2017-12-26
RU2017117421A (ru) 2018-11-21
RU2017117421A3 (zh) 2019-06-05
US20160150020A1 (en) 2016-05-26
KR20170088384A (ko) 2017-08-01
CA2965703A1 (en) 2016-05-26
JP2018508843A (ja) 2018-03-29
US10116748B2 (en) 2018-10-30
EP3221783B1 (en) 2021-09-01
MX2017006086A (es) 2017-07-27

Similar Documents

Publication Publication Date Title
CN107077317A (zh) 基于车辆的多模式接口
US10976178B2 (en) Systems and methods for generating an interactive user interface
KR102486763B1 (ko) 사운드를 사용하여 사용자와 환경 간의 상호 작용을 용이하게 하는 방법
US20150339031A1 (en) Context-based vehicle user interface reconfiguration
US20230110773A1 (en) Control system and method using in-vehicle gesture input
US20150253148A1 (en) Map Application with Improved Search Tools
US20150300832A1 (en) Hierarchy of Tools for Navigation
CN110457034A (zh) 生成用于第三方应用程序的导航用户界面
CN106062514A (zh) 与在机动车环境中的便携式装置有关的输入/输出功能
CN109631920B (zh) 具有改进的导航工具的地图应用
KR20210000466A (ko) 차량 내 제스처 입력을 이용한 제어 시스템
CN109029480B (zh) 具有改进的导航工具的地图应用
KR20210000465A (ko) 차량 내 제스처 입력을 이용한 제어 시스템
KR102667424B1 (ko) 차량 내 제스처 입력을 이용한 제어 시스템
US20240102819A1 (en) Transportation mode specific navigation user interfaces
KR20210000462A (ko) 차량 내 제스처 입력을 이용한 제어 시스템 및 그 방법
KR20210000464A (ko) 차량 내 제스처 입력을 이용한 제어 시스템
KR20210000463A (ko) 차량 내 제스처 입력을 이용한 제어 시스템

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170818

RJ01 Rejection of invention patent application after publication