CN116195261A - 用于管理媒体项目的音频的用户界面 - Google Patents

用于管理媒体项目的音频的用户界面 Download PDF

Info

Publication number
CN116195261A
CN116195261A CN202180053640.7A CN202180053640A CN116195261A CN 116195261 A CN116195261 A CN 116195261A CN 202180053640 A CN202180053640 A CN 202180053640A CN 116195261 A CN116195261 A CN 116195261A
Authority
CN
China
Prior art keywords
audio
tracks
track
computer system
transmitting
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202180053640.7A
Other languages
English (en)
Inventor
C·J·桑德斯
D·S·朴
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Apple Inc
Original Assignee
Apple Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Apple Inc filed Critical Apple Inc
Publication of CN116195261A publication Critical patent/CN116195261A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/4302Content synchronisation processes, e.g. decoder synchronisation
    • H04N21/4307Synchronising the rendering of multiple content streams or additional data on devices, e.g. synchronisation of audio on a mobile phone with the video output on the TV screen
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B27/00Editing; Indexing; Addressing; Timing or synchronising; Monitoring; Measuring tape travel
    • G11B27/10Indexing; Addressing; Timing or synchronising; Measuring tape travel
    • G11B27/102Programmed access in sequence to addressed parts of tracks of operating record carriers
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/4104Peripherals receiving signals from specially adapted client devices
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • H04N21/4394Processing of audio elementary streams involving operations for analysing the audio stream, e.g. detecting features or characteristics in audio streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • H04N21/4852End-user interface for client configuration for modifying audio parameters, e.g. switching between mono and stereo
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/485End-user interface for client configuration
    • H04N21/4856End-user interface for client configuration for language selection, e.g. for the menu or subtitles
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/8106Monomedia components thereof involving special audio data, e.g. different tracks for different languages

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)
  • Communication Control (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本公开总体涉及根据一些实施方案的用于使用计算机系统传输音频的技术和用户界面。

Description

用于管理媒体项目的音频的用户界面
相关申请的交叉引用
本申请要求2020年9月5日提交的名称为“USER INTERFACES FOR MANAGING AUDIOFOR MEDIA ITEMS”的美国临时申请第63/075,130号的优先权。该申请的全部内容据此全文以引用方式并入。
技术领域
本公开总体涉及计算机用户界面,并且更具体地,涉及用于管理与媒体项目相关联的音频的技术。
背景技术
用户日趋频繁地观看和收听媒体。一些用户喜欢与他们的朋友一起观看和收听媒体。一些现有技术允许用户在显示器系统上收看媒体,同时经由音频输出设备(诸如一副耳机和/或一个或多个扬声器)收听与媒体相关联的音频。
发明内容
然而,用于使用电子设备来管理媒体项目的音轨的一些技术通常很麻烦且效率低下。例如,一些现有技术使用复杂且耗时的用户界面,该用户界面可包括多次按键或击键。现有技术需要比所需更多的时间,这导致浪费用户的时间和设备能量。这后一考虑在电池驱动的设备中是特别重要的。
因此,本发明技术为电子设备提供了用于管理媒体项目的音轨的更快、更高效的方法和界面。此类方法和界面任选地补充或替换用于管理媒体项目的音轨的其他方法。此类方法和界面减少对用户所造成的认知负担,并且产生更有效的人机界面。对于电池驱动的计算设备,此类方法和界面节省功率,并且增大电池充电之间的时间间隔。
在一些示例中,本发明技术使得用户能够以时间高效且输入高效的方式将对应于媒体项目的不同音频传输到不同设备,由此减少设备需要进行的处理量和/或减少媒体项目的回放实例的数量。
根据一些实施方案,描述了一种方法。该方法在计算机系统处执行,其中该计算机系统与一个或多个输入设备通信。该方法包括:在致使回放对应于多个音轨的媒体项目时,向第一设备和第二设备传输对应于该多个音轨中的第一音轨的第一音频;在向所述第一设备和所述第二设备传输对应于所述多个音轨中的所述第一音轨的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输对应于所述多个音轨中不同于所述第一音轨的第二音轨的第二音频的请求;以及响应于接收到向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频的该请求:向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频;以及继续向该第一设备传输对应于该多个音轨中的该第一音轨的该第一音频。
根据一些实施方案,描述了一种非暂态计算机可读存储介质。该非暂态计算机可读存储介质存储被配置为由计算机系统的一个或多个处理器执行的一个或多个程序,其中该计算机系统与一个或多个输入设备通信,该一个或多个程序包括用于以下操作的指令:在致使回放对应于多个音轨的媒体项目时,向第一设备和第二设备传输对应于该多个音轨中的第一音轨的第一音频;在向所述第一设备和所述第二设备传输对应于所述多个音轨中的所述第一音轨的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输对应于所述多个音轨中不同于所述第一音轨的第二音轨的第二音频的请求;以及响应于接收到向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频的该请求:向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频;以及继续向该第一设备传输对应于该多个音轨中的该第一音轨的该第一音频。
根据一些实施方案,描述了一种暂态计算机可读存储介质。该暂态计算机可读存储介质存储被配置为由计算机系统的一个或多个处理器执行的一个或多个程序,其中该计算机系统与一个或多个输入设备通信,该一个或多个程序包括用于以下操作的指令:在致使回放对应于多个音轨的媒体项目时,向第一设备和第二设备传输对应于该多个音轨中的第一音轨的第一音频;在向所述第一设备和所述第二设备传输对应于所述多个音轨中的所述第一音轨的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输对应于所述多个音轨中不同于所述第一音轨的第二音轨的第二音频的请求;以及响应于接收到向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频的该请求:向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频;以及继续向该第一设备传输对应于该多个音轨中的该第一音轨的该第一音频。
根据一些实施方案,描述了一种计算机系统。该计算机系统包括:一个或多个处理器,其中该计算机系统与一个或多个输入设备通信;以及存储器,该存储器存储被配置为由该一个或多个处理器执行的一个或多个程序,该一个或多个程序包括用于以下操作的指令:在致使回放对应于多个音轨的媒体项目时,向第一设备和第二设备传输对应于该多个音轨中的第一音轨的第一音频;在向所述第一设备和所述第二设备传输对应于所述多个音轨中的所述第一音轨的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输对应于所述多个音轨中不同于所述第一音轨的第二音轨的第二音频的请求;以及响应于接收到向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频的该请求:向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频;以及继续向该第一设备传输对应于该多个音轨中的该第一音轨的该第一音频。
根据一些实施方案,描述了一种计算机系统。该计算机系统与一个或多个输入设备通信。该计算机系统包括:在致使回放对应于多个音轨的媒体项目时用于向第一设备和第二设备传输对应于所述多个音轨中的第一音轨的第一音频的装置;在向所述第一设备和所述第二设备传输对应于所述多个音轨中的所述第一音轨的所述第一音频时用于经由所述一个或多个输入设备接收向所述第二设备传输对应于所述多个音轨中不同于所述第一音轨的第二音轨的第二音频的请求的装置;以及响应于接收到向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频的该请求用于进行以下操作的装置:向该第二设备传输对应于该多个音轨中的该第二音轨的该第二音频;以及继续向该第一设备传输对应于该多个音轨中的该第一音轨的该第一音频。
用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的暂态计算机可读存储介质或其他计算机程序产品中。
因此,为设备提供了用于管理与媒体项目相关联的音频的更快、更高效的方法和界面,由此提高了此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替代用于管理与媒体项目相关联的音频的其他方法。
附图说明
为了更好地理解各种所述实施方案,应结合以下附图参考下面的具体实施方式,其中类似的附图标号在所有附图中指示对应的部分。
图1A是示出根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。
图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。
图4A示出了根据一些实施方案的针对便携式多功能设备上应用程序的菜单的示例性用户界面。
图4B示出了根据一些实施方案的针对具有与显示器分开的触敏表面的多功能设备的示例性用户界面。
图5A示出了根据一些实施方案的个人电子设备。
图5B是示出根据一些实施方案的个人电子设备的框图。
图5C示出了根据一些实施方案的电子设备。
图5D是示出了根据一些实施方案的电子设备的框图。
图6A至图6K示出了根据一些实施方案的用于使用计算机系统传输音频的示例性技术和用户界面。
图7A至图7B是示出根据一些实施方案的使用计算机系统传输音频的方法的流程图。
具体实施方式
以下描述阐述了示例性方法、参数等。然而,应当认识到,此类描述并非意在限制本公开的范围,而是作为对示例性实施方案的描述来提供。
电子设备需要提供用于管理与媒体项相关联的音频的高效方法和界面。例如,需要新的高效方法和界面来在用户收看和收听媒体项目的同时将不同的音频传输到不同的设备。此类技术可减轻收看和收听媒体项目的用户的认知负担,由此提高生产率。此外,此类技术可减少以其他方式浪费在冗余用户输入上的处理器功率和电池功率。
在下文,图1A至图1B、图2、图3、图4A至图4B和图5A至图5D提供了对用于执行传输音频的技术的示例性设备的描述。图6A至图6K示出了根据一些实施方案的用于使用计算机系统传输音频的示例性技术和用户界面。图7A至图7B是示出根据一些实施方案的使用计算机系统传输音频的方法的流程图。图6A至图6K中的用户界面用于示出下文描述的过程,包括图7A至图7B中的过程。
下文所述的过程通过各种技术增强了设备的可操作性并且使用户-设备界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),包括通过向用户提供改进的视觉反馈、减少执行操作所需的输入数量、提供附加的控制选项而不会因附加的显示控件而使用户界面杂乱、在一组条件已经被满足时执行操作而无需进一步的用户输入和/或附加的技术。这些技术还通过使用户能够更快且更有效地使用设备而减少了电力使用并延长了设备的电池寿命。
此外,在本文所述的其中一个或多个步骤取决于已满足一个或多个条件的方法中,应当理解,所述方法可在多次重复中重复,使得在重复的过程中,在方法的不同重复中已满足决定方法中的步骤的所有条件。例如,如果方法需要执行第一步骤(如果满足条件),以及执行第二步骤(如果不满足条件),则普通技术人员将会知道,重复所声明的步骤,直到满足条件和不满足条件两者(不分先后)。因此,可将被描述为具有取决于已满足一个或多个条件的一个或多个步骤的方法重写为重复直到已满足该方法中所述的每个条件的方法。然而,这不需要系统或计算机可读介质声明该系统或计算机可读介质包含用于基于对应的一个或多个条件的满足来执行视情况而定的操作的指令,并且因此能够确定是否已满足可能的情况,而无需明确地重复方法的步骤直到已满足决定方法中的步骤的所有条件。本领域的普通技术人员还将理解,类似于具有视情况而定的步骤的方法,系统或计算机可读存储介质可根据需要多次重复方法的步骤,以确保已执行所有视情况而定的步骤。
尽管以下描述使用术语“第一”、“第二”等来描述各种元件,但这些元件不应受术语的限制。这些术语只是用于将一个元件与另一元件区分开。例如,第一触摸可被命名为第二触摸并且类似地第二触摸可被命名为第一触摸,而不脱离各种所述实施方案的范围。第一触摸和第二触摸两者均为触摸,但是它们不是同一触摸。
在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的,而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样,单数形式“一个”和“该”旨在也包括复数形式,除非上下文另外明确地指示。还将理解的是,本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是,术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件,但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。
根据上下文,术语“如果”任选地被解释为意指“当......时”、“在......时”或“响应于确定”或“响应于检测到”。类似地,根据上下文,短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。
本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中,该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备,诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的
Figure BDA0004100912030000061
设备、iPod/>
Figure BDA0004100912030000062
设备、和/>
Figure BDA0004100912030000063
设备。任选地使用其他便携式电子设备,诸如具有触敏表面(例如,触摸屏显示器和/或触摸板)的膝上型电脑或平板电脑。还应当理解的是,在一些实施方案中,该设备并非便携式通信设备,而是具有触敏表面(例如,触摸屏显示器和/或触摸板)的台式计算机。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与显示生成部件进行通信的计算机系统。显示生成部件被配置为提供视觉输出,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,显示生成部件与该计算机系统集成。在一些实施方案中,显示生成部件与该计算机系统分开。如本文所用,“显示”内容包括通过经由有线或无线连接向集成或外部显示生成部件传输数据(例如,图像数据或视频数据)以在视觉上产生内容来显示内容(例如,由显示控制器156渲染或解码的视频数据)。
在下面的讨论中,描述了一种包括显示器和触敏表面的电子设备。然而,应当理解,该电子设备任选地包括一个或多个其他物理用户界面设备,诸如物理键盘、鼠标和/或操纵杆。
该设备通常支持各种应用程序,诸如以下中的一者或多者:绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。
在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备,诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化,和/或在相应应用程序内被调整和/或变化。这样,设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。
现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出了根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器112有时为了方便被叫做“触摸屏”,并且有时被称为或被叫做“触敏显示器系统”。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入控制设备116和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100(例如,触敏表面,诸如设备100的触敏显示器系统112)上的接触的强度的一个或多个接触强度传感器165。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器167(例如,在触敏表面(诸如设备100的触敏显示器系统112或设备300的触摸板355)上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。
如在本说明书和权利要求书中所使用的,术语触敏表面上的接触的“强度”是指触敏表面上的接触(例如,手指接触)的力或压力(每单位面积的力),或是指触敏表面上的接触的力或压力的替代物(代用物)。接触的强度具有值范围,该值范围包括至少四个不同的值并且更典型地包括上百个不同的值(例如,至少256个)。接触的强度任选地使用各种方法和各种传感器或传感器的组合来确定(或测量)。例如,在触敏表面下方或相邻于触敏表面的一个或多个力传感器任选地用于测量触敏表面上的不同点处的力。在一些具体实施中,来自多个力传感器的力测量值被组合(例如,加权平均)以确定所估计的接触力。类似地,触控笔的压敏顶端任选地用于确定触控笔在触敏表面上的压力。另选地,在触敏表面上检测到的接触区域的尺寸和/或其变化、接触附近的触敏表面的电容和/或其变化以及/或者接触附近的触敏表面的电阻和/或其变化任选地被用作触敏表面上的接触的力或压力的替代物。在一些具体实施中,接触力或压力的替代物测量直接用于确定是否已经超过强度阈值(例如,强度阈值以对应于替代物测量的单位来描述)。在一些具体实施中,接触力或压力的替代物测量被转换成估计的力或压力,并且估计的力或压力用于确定是否已超过强度阈值(例如,强度阈值是以压力的单位进行测量的压力阈值)。使用接触的强度作为用户输入的属性,从而允许用户访问用户在实地面积有限的尺寸更小的设备上本来不可访问的附加设备功能,该尺寸更小的设备用于(例如,在触敏显示器上)显示示能表示和/或接收用户输入(例如,经由触敏显示器、触敏表面或物理控件/机械控件,诸如旋钮或按钮)。
如本说明书和权利要求书中所使用的,术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如,触敏表面)相对于设备的另一个部件(例如,外壳)的物理位移、或部件相对于设备的质心的位移。例如,在设备或设备的部件与用户对触摸敏感的表面(例如,手指、手掌或用户手部的其他部分)接触的情况下,通过物理位移生成的触觉输出将由用户解释为触感,该触感对应于设备或设备的部件的物理特征的所感知的变化。例如,触敏表面(例如,触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下,用户将感觉到触感,诸如“按下点击”或“松开点击”,即使在通过用户的移动而物理地被按压(例如,被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如,即使在触敏表面的光滑度无变化时,触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制,但是对触摸的许多感官知觉是大多数用户共有的。因此,当触觉输出被描述为对应于用户的特定感官知觉(例如,“按下点击”、“松开点击”、“粗糙度”)时,除非另外陈述,否则所生成的触觉输出对应于设备或其部件的物理位移,该物理位移将会生成典型(或普通)用户的所述感官知觉。
应当理解,设备100仅仅是便携式多功能设备的一个示例,并且设备100任选地具有比所示出的部件更多或更少的部件,任选地组合两个或更多个部件,或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件以硬件、软件、或硬件与软件两者的组合来实现,包括一个或多个信号处理和/或专用集成电路。
存储器102任选地包括高速随机存取存储器,并且还任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。存储器控制器122任选地控制设备100的其他部件访问存储器102。
外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。该一个或多个处理器120运行或执行存储器102中所存储的各种软件程序(诸如计算机程序(例如,包括指令))和/或指令集以执行设备100的各种功能并处理数据。在一些实施方案中,外围设备接口118、CPU 120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中,它们任选地在独立的芯片上实现。
RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号,并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路,包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信,这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如,蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。RF电路108任选地包括用于诸如通过近程通信无线电部件来检测近场通信(NFC)场的熟知的电路。无线通信任选地使用多种通信标准、协议和技术中的任一者,包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进、纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、蓝牙低功耗(BTLE)、无线保真(Wi-Fi)(例如,IEEE 802.11a、IEEE 802.11b、IEEE 802.11g、IEEE 802.11n和/或IEEE802.11ac)、互联网协议语音(VoIP)、Wi-MAX、电子邮件协议(例如,互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如,可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS))、和/或短消息服务(SMS),或者包括在本文档提交日期时还未开发出的通信协议的任何其他适当的通信协议。
音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据,将音频数据转换为电信号,并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据,并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中,音频电路110还包括耳麦插孔(例如,图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口,该外围设备为诸如仅输出的耳机或者具有输出(例如,单耳耳机或双耳耳机)和输入(例如,麦克风)两者的耳麦。
I/O子系统106将设备100上的输入/输出外围设备诸如触摸屏112和其他输入控制设备116耦接到外围设备接口118。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、深度相机控制器169、强度传感器控制器159、触觉反馈控制器161,以及用于其他输入或控制设备的一个或多个输入控制器160。该一个或多个输入控制器160从其他输入控制设备116接收电信号/将电信号发送到该其他输入控制设备。该其他输入控制设备116任选地包括物理按钮(例如,下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击式转盘等。在一些实施方案中,输入控制器160任选地耦接到以下各项中的任一者(或不耦接到以下各项中的任一者):键盘、红外线端口、USB端口,以及指向设备诸如鼠标。一个或多个按钮(例如,图2中的208)任选地包括用于扬声器111和/或麦克风113音量控制的增大/减小按钮。该一个或多个按钮任选地包括下压按钮(例如,图2中的206)。在一些实施方案中,电子设备是(例如,经由无线通信、经由有线通信)与一个或多个输入设备进行通信的计算机系统。在一些实施方案中,该一个或多个输入设备包括触敏表面(例如,触控板,作为触敏显示器的一部分)。在一些实施方案中,该一个或多个输入设备包括一个或多个相机传感器(例如,一个或多个光学传感器164和/或一个或多个深度相机传感器175),诸如用于跟踪用户的手势(例如,手部手势)作为输入。在一些实施方案中,一个或多个输入设备与该计算机系统集成。在一些实施方案中,一个或多个输入设备与该计算机系统分开。
快速按下下压按钮任选地脱离触摸屏112的锁定或者任选地开始使用触摸屏上的手势来对设备进行解锁的过程,如在2005年12月23日提交的名称为“Unlocking a Deviceby Performing Gestures on an Unlock Image”的美国专利申请11/322,549(即,美国专利No.7,657,849)中所述的,该美国专利申请据此全文以引用方式并入本文。长按下压按钮(例如206)任选地使设备100开机或关机。一个或多个按钮的功能任选地为用户可定制的。触摸屏112用于实现虚拟按钮或软按钮以及一个或多个软键盘。
触敏显示器112提供设备和用户之间的输入接口和输出接口。显示控制器156从触摸屏112接收电信号和/或将电信号发送到该触摸屏。触摸屏112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中,一些视觉输出或全部的视觉输出任选地与用户界面对象对应。
触摸屏112具有基于触觉和/或触感接触来接受来自用户的输入的触敏表面、传感器、或传感器组。触摸屏112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触摸屏112上的接触(和该接触的任何移动或中断),并且将所检测到的接触转换为与被显示在触摸屏112上的用户界面对象(例如,一个或多个软键、图标、网页或图像)的交互。在示例性实施方案中,触摸屏112与用户之间的接触点对应于用户的手指。
触摸屏112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术或LED(发光二极管)技术,但是在其他实施方案中使用其他显示技术。触摸屏112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触摸屏112接触的一个或多个点的其他元件来检测接触及其任何移动或中断,该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在示例性实施方案中,使用投射式互电容感测技术,诸如在来自Apple Inc.(Cupertino,California)的
Figure BDA0004100912030000121
和iPod/>
Figure BDA0004100912030000122
中使用的技术。
触摸屏112的一些实施方案中的触敏显示器任选地类似于以下美国专利中描述的多点触敏触摸板:6,323,846(Westerman等人)、6,570,557(Westerman等人)和/或6,677,932(Westerman等人)和/或美国专利公开2002/0015024A1,该每个专利据此全文以引用方式并入。然而,触摸屏112显示来自设备100的视觉输出,而触敏触摸板不提供视觉输出。
触摸屏112的一些实施方案中的触敏显示器在以下申请中有所描述:(1)2006年5月2日提交的美国专利申请11/381,313,“Multipoint Touch Surface Controller”;(2)2004年5月6日提交的美国专利申请10/840,862,“Multipoint Touchscreen”;(3)2004年7月30日提交的美国专利申请10/903,964,“Gestures For Touch Sensitive InputDevices”;(4)2005年1月31日提交的美国专利申请11/048,264,“Gestures For TouchSensitive Input Devices”;(5)2005年1月18日提交的美国专利申请11/038,590,“Mode-Based Graphical User Interfaces For Touch Sensitive Input Devices”;(6)2005年9月16日提交的美国专利申请11/228,758,“Virtual Input Device Placement On A TouchScreen User Interface”;(7)2005年9月16日提交的美国专利申请11/228,700,“Operation Of A Computer With A Touch Screen Interface”;(8)2005年9月16日提交的美国专利申请11/228,737,“Activating Virtual Keys Of A Touch-Screen VirtualKeyboard”;以及(9)2006年3月3日提交的美国专利申请11/367,749,“Multi-FunctionalHand-Held Device”。所有这些申请全文以引用方式并入本文。
触摸屏112任选地具有超过100dpi的视频分辨率。在一些实施方案中,触摸屏具有约160dpi的视频分辨率。用户任选地使用任何合适的物体或附加物诸如触控笔、手指等等来与触摸屏112接触。在一些实施方案中,将用户界面设计为主要通过基于手指的接触和手势来工作,由于手指在触摸屏上的接触区域较大,因此这可能不如基于触控笔的输入精确。在一些实施方案中,设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。
在一些实施方案中,除了触摸屏之外,设备100任选地还包括用于激活或去激活特定功能的触摸板。在一些实施方案中,触摸板是设备的触敏区域,与触摸屏不同,该触敏区域不显示视觉输出。触摸板任选地是与触摸屏112分开的触敏表面,或者是由触摸屏形成的触敏表面的延伸部分。
设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如,电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如,发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。
设备100任选地还包括一个或多个光学传感器164。图1A示出了耦接到I/O子系统106中的光学传感器控制器158的光学传感器。光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。光学传感器164从环境接收通过一个或多个透镜而投射的光,并且将光转换为表示图像的数据。结合成像模块143(也叫做相机模块),光学传感器164任选地捕获静态图像或视频。在一些实施方案中,光学传感器位于设备100的后部上,与设备前部上的触摸屏显示器112相背对,使得触摸屏显示器能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中,光学传感器位于设备的前部上,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取该用户的图像以用于视频会议。在一些实施方案中,光学传感器164的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得单个光学传感器164与触摸屏显示器一起使用,以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个深度相机传感器175。图1A示出了耦接到I/O子系统106中的深度相机控制器169的深度相机传感器。深度相机传感器175从环境接收数据以从视点(例如,深度相机传感器)创建场景内的对象(例如,面部)的三维模型。在一些实施方案中,结合成像模块143(也称为相机模块),深度相机传感器175可选地用于确定由成像模块143捕获的图像的不同部分的深度图。在一些实施方案中,深度相机传感器位于设备100的前部,使得在用户在触摸屏显示器上查看其他视频会议参与者的同时任选地获取具有深度信息的用户图像以用于视频会议,并且捕捉具有深度图数据的自拍。在一些实施方案中,深度相机传感器175位于设备的后部,或者设备100的后部和前部。在一些实施方案中,深度相机传感器175的位置可由用户改变(例如,通过旋转设备外壳中的透镜和传感器),使得深度相机传感器175与触摸屏显示器一起使用以用于视频会议和静态图像和/或视频图像采集两者。
设备100任选地还包括一个或多个接触强度传感器165。图1A示出了耦接到I/O子系统106中的强度传感器控制器159的接触强度传感器。接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气力传感器、压电力传感器、光学力传感器、电容式触敏表面或其他强度传感器(例如,用于测量触敏表面上的接触的力(或压力)的传感器)。接触强度传感器165从环境接收接触强度信息(例如,压力信息或压力信息的代用物)。在一些实施方案中,至少一个接触强度传感器与触敏表面(例如,触敏显示器系统112)并置排列或邻近。在一些实施方案中,至少一个接触强度传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个接近传感器166。图1A示出了耦接到外围设备接口118的接近传感器166。另选地,接近传感器166任选地耦接到I/O子系统106中的输入控制器160。接近传感器166任选地如以下美国专利申请中所述的那样执行:No.11/241,839,名称为“Proximity Detector In Handheld Device”;No.11/240,788,名称为“ProximityDetector In Handheld Device”;No.11/620,702,名称为“Using Ambient Light SensorTo Augment Proximity Sensor Output”;No.11/586,862,名称为“Automated ResponseTo And Sensing Of User Activity In Portable Devices”;以及No.11/638,251,名称为“Methods And Systems For Automatic Configuration Of Peripherals”,这些美国专利申请据此全文以引用方式并入本文。在一些实施方案中,当多功能设备被置于用户的耳朵附近时(例如,当用户正在进行电话呼叫时),接近传感器关闭并且禁用触摸屏112。
设备100任选地还包括一个或多个触觉输出发生器167。图1A示出了耦接到I/O子系统106中的触觉反馈控制器161的触觉输出发生器。触觉输出发生器167任选地包括一个或多个电声设备诸如扬声器或其他音频部件;和/或用于将能量转换成线性运动的机电设备诸如电机、螺线管、电活性聚合物、压电致动器、静电致动器或其他触觉输出生成部件(例如,用于将电信号转换成设备上的触觉输出的部件)。接触强度传感器165从触觉反馈模块133接收触觉反馈生成指令,并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中,至少一个触觉输出发生器与触敏表面(例如,触敏显示器系统112)并置排列或邻近,并且任选地通过竖直地(例如,向设备100的表面内/外)或侧向地(例如,在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中,至少一个触觉输出发生器传感器位于设备100的后部上,与位于设备100的前部上的触摸屏显示器112相背对。
设备100任选地还包括一个或多个加速度计168。图1A示出了耦接到外围设备接口118的加速度计168。另选地,加速度计168任选地耦接到I/O子系统106中的输入控制器160。加速度计168任选地如以下美国专利公开中所述的那样执行:美国专利公开No.20050190059,名称为“Acceleration-based Theft Detection System for PortableElectronic Devices”和美国专利公开No.20060017692,名称为“Methods AndApparatuses For Operating A Portable Device Based On An Accelerometer”,这两个美国专利公开均全文以引用方式并入本文。在一些实施方案中,基于对从一个或多个加速度计接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图显示信息。设备100任选地除了加速度计168之外还包括磁力仪和GPS(或GLONASS或其他全球导航系统)接收器,以用于获取关于设备100的位置和取向(例如,纵向或横向)的信息。
在一些实施方案中,存储于存储器102中的软件部件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135以及应用程序(或指令集)136。此外,在一些实施方案中,存储器102(图1A)或370(图3)存储设备/全局内部状态157,如图1A和图3中所示。设备/全局内部状态157包括以下中的一者或多者:活动应用程序状态,其指示哪些应用程序(如果有的话)当前是活动的;显示状态,指示什么应用、视图或其他信息占据了触摸屏显示器112的各个区域;传感器状态,包括从设备的各个传感器和输入控制设备116获得的信息;以及涉及设备位置和/或姿态的位置信息。
操作系统126(例如,Darwin、RTXC、LINUX、UNIX、OS X、iOS、WINDOWS或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如,存储器管理、存储设备控制、功率管理等)的各种软件部件和/或驱动器,并且促进各种硬件部件和软件部件之间的通信。
通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信,并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如,通用串行总线(USB)、火线等)适于直接耦接到其他设备,或间接地通过网络(例如,互联网、无线LAN等)进行耦接。在一些实施方案中,外部端口是与
Figure BDA0004100912030000161
(Apple Inc.的商标)设备上所使用的30针连接器相同的或类似的和/或与其兼容的多针(例如,30针)连接器。
接触/运动模块130任选地检测与触摸屏112(结合显示控制器156)和其他触敏设备(例如,触摸板或物理点击式转盘)的接触。接触/运动模块130包括各种软件部件以用于执行与接触检测相关的各种操作,诸如确定是否已经发生了接触(例如,检测手指按下事件)、确定接触强度(例如,接触的力或压力,或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如,检测一个或多个手指拖动事件),以及确定接触是否已经停止(例如,检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变),所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如,单指接触)或者多点同时接触(例如,“多点触摸”/多个手指接触)。在一些实施方案中,接触/运动模块130和显示控制器156检测触摸板上的接触。
在一些实施方案中,接触/运动模块130使用一组一个或多个强度阈值来确定操作是否已由用户执行(例如,确定用户是否已“点击”图标)。在一些实施方案中,根据软件参数来确定强度阈值的至少一个子集(例如,强度阈值不是由特定物理致动器的激活阈值来确定的,并且可在不改变设备100的物理硬件的情况下被调节)。例如,在不改变触控板或触摸屏显示器硬件的情况下,触控板或触摸屏的鼠标“点击”阈值可被设定成预定义的阈值的大范围中的任一个阈值。另外,在一些具体实施中,向设备的用户提供用于调节一组强度阈值中的一个或多个强度阈值(例如,通过调节各个强度阈值和/或通过利用对“强度”参数的系统级点击来一次调节多个强度阈值)的软件设置。
接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如,所检测到的接触的不同运动、计时和/或强度)。因此,任选地通过检测特定接触模式来检测手势。例如,检测手指轻击手势包括检测手指按下事件,然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如,在图标的位置处)检测手指抬起(抬离)事件。作为另一个示例,在触敏表面上检测手指轻扫手势包括检测手指按下事件,然后检测一个或多个手指拖动事件,并且随后检测手指抬起(抬离)事件。
图形模块132包括用于在触摸屏112或其他显示器上呈现和显示图形的各种已知的软件部件,包括用于改变所显示的图形的视觉冲击(例如,亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用,术语“图形”包括可被显示给用户的任何对象,包括但不限于文本、网页、图标(诸如,包括软键的用户界面对象)、数字图像、视频、动画等。
在一些实施方案中,图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码,在必要的情况下还一起接收坐标数据和其他图形属性数据,并且然后生成屏幕图像数据,以输出至显示控制器156。
触觉反馈模块133包括用于生成指令的各种软件部件,该指令由触觉输出发生器167用于响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。
任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如,联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。
GPS模块135确定设备的位置,并提供该信息以供在各种应用程序中使用(例如提供给电话138以供在基于位置的拨号中使用;提供给相机143作为图片/视频元数据;以及提供给提供基于位置的服务的应用程序,诸如天气小组件、本地黄页小组件和地图/导航小组件)。
应用程序136任选地包括以下模块(或指令集)或者其子集或超集:
·联系人模块137(有时称为通讯录或联系人列表);
·电话模块138;
·视频会议模块139;
·电子邮件客户端模块140;
·即时消息(IM)模块141;
·健身支持模块142;
·用于静态图像和/或视频图像的相机模块143;
·图像管理模块144;
·视频播放器模块;
·音乐播放器模块;
·浏览器模块147;
·日历模块148;
·小组件模块149,其任选地包括以下各项中的一者或多者:天气小组件149-1、股市小组件149-2、计算器小组件149-3、闹钟小组件149-4、词典小组件149-5、和由用户获取的其他小组件、以及用户创建的小组件149-6;
·用于形成用户创建的小组件149-6的小组件创建器模块150;
·搜索模块151;
·视频和音乐播放器模块152,其合并视频播放器模块和音乐播放器模块;
·笔记模块153;
·地图模块154;和/或
·在线视频模块155。
任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、和文本输入模块134,联系人模块137任选地用于管理通讯录或联系人列表(例如,存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中),包括:向通讯录添加一个或多个姓名;从通讯录删除姓名;将电话号码、电子邮件地址、物理地址或其他信息与姓名关联;将图像与姓名关联;对姓名进行归类和分类;提供电话号码或电子邮件地址来发起和/或促进通过电话138、视频会议模块139、电子邮件140或IM 141进行的通信;等等。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电话模块138任选地用于输入与电话号码对应的字符序列、访问联系人模块137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话,以及当会话完成时断开或挂断。如上所述,无线通信任选地使用多种通信标准、协议和技术中的任一种。
结合RF电路108、音频电路110、扬声器111、麦克风113、触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132、文本输入模块134、联系人模块137和电话模块138,视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,电子邮件客户端模块140包括响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144,电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,即时消息模块141包括用于以下操作的可执行指令:输入与即时消息对应的字符序列、修改先前输入的字符、传输相应即时消息(例如,使用短消息服务(SMS)或多媒体消息服务(MMS)协议以用于基于电话的即时消息或者使用XMPP、SIMPLE、或IMPS以用于基于互联网的即时消息)、接收即时消息以及查看所接收的即时消息。在一些实施方案中,所传输和/或接收的即时消息任选地包括图形、照片、音频文件、视频文件和/或MMS和/或增强消息服务(EMS)中所支持的其他附件。如本文所用,“即时消息”是指基于电话的消息(例如,使用SMS或MMS发送的消息)和基于互联网的消息(例如,使用XMPP、SIMPLE或IMPS发送的消息)两者。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154和音乐播放器模块,健身支持模块142包括用于创建健身(例如,具有时间、距离和/或卡路里燃烧目标)的可执行指令;与健身传感器(运动设备)进行通信;接收健身传感器数据;校准用于监视健身的传感器;为健身选择和播放音乐;以及显示、存储和传输健身数据。
结合触摸屏112、显示控制器156、光学传感器164、光学传感器控制器158、接触/运动模块130、图形模块132和图像管理模块144,相机模块143包括用于以下操作的可执行指令:捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征,或从存储器102删除静态图像或视频。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、和相机模块143,图像管理模块144包括用于排列、修改(例如,编辑)、或以其他方式操控、加标签、删除、呈现(例如,在数字幻灯片或专辑中)、以及存储静态图像和/或视频图像的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,浏览器模块147包括用于根据用户指令来浏览互联网,包括搜索、链接至、接收和显示网页或其部分,以及链接至网页的附件和其他文件的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147,日历模块148包括根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如,日历条目、待办事项等)的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,小组件模块149是任选地由用户下载和使用的微型应用程序(例如,天气小组件149-1、股市小组件149-2、计算器小组件149-3、闹钟小组件149-4和词典小组件149-5)或由用户创建的微型应用程序(例如,用户创建的小组件149-6)。在一些实施方案中,小组件包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中,小组件包括XML(可扩展标记语言)文件和JavaScript文件(例如,Yahoo!小组件)。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134和浏览器模块147,小组件创建器模块150任选地被用户用于创建小组件(例如,将网页的用户指定部分转变为小组件)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,搜索模块151包括用于根据用户指令来搜索存储器102中与一个或多个搜索条件(例如,一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、和浏览器模块147,视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式诸如MP3或AAC文件存储的所记录的音乐和其他声音文件的可执行指令,以及用于显示、呈现或以其他方式回放视频(例如,在触摸屏112上或在经由外部端口124连接的外部显示器上)的可执行指令。在一些实施方案中,设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132和文本输入模块134,笔记模块153包括用于根据用户指令来创建和管理笔记、待办事项等的可执行指令。
结合RF电路108、触摸屏112、显示控制器156、接触/运动模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147,地图模块154任选地用于根据用户指令接收、显示、修改和存储地图以及与地图相关联的数据(例如,驾驶方向、与特定位置处或附近的商店及其他兴趣点有关的数据,以及其他基于位置的数据)。
结合触摸屏112、显示控制器156、接触/运动模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147,在线视频模块155包括用于执行以下操作的指令:允许用户访问、浏览、接收(例如,通过流式传输和/或下载)、回放(例如在触摸屏上或在经由外部端口124所连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件,以及以其他方式管理一种或多种文件格式诸如H.264的在线视频。在一些实施方案中,使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。在线视频应用程序的其他描述可见于2007年6月20日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国临时专利申请No.60/936,562和2007年12月31日提交的名称为“Portable Multifunction Device,Method,and Graphical User Interfacefor Playing Online Videos”的美国专利申请No.11/968,067,这两个专利申请的内容据此全文以引用方式并入本文。
上述每个模块和应用程序对应于用于执行上述一种或多种功能以及在本专利申请中所述的方法(例如,本文所述的计算机实现的方法和其他信息处理方法)的可执行指令集。这些模块(例如,指令集)不必以独立的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。例如,视频播放器模块任选地与音乐播放器模块组合成单个模块(例如,图1A中的视频和音乐播放器模块152)。在一些实施方案中,存储器102任选地存储上述模块和数据结构的子组。此外,存储器102任选地存储上文未描述的另外的模块和数据结构。
在一些实施方案中,设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触摸板来执行的设备。通过使用触摸屏和/或触摸板作为用于操作设备100的主要输入控制设备,任选地减少设备100上的物理输入控制设备(例如,下压按钮、拨盘等等)的数量。
唯一地通过触摸屏和/或触摸板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中,触摸板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中,使用触摸板来实现“菜单按钮”。在一些其他实施方案中,菜单按钮是物理下压按钮或者其他物理输入控制设备,而不是触摸板。
图1B是示出了根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中,存储器102(图1A)或存储器370(图3)包括事件分类器170(例如,在操作系统126中)以及相应的应用程序136-1(例如,前述应用程序137至151、155、380至390中的任一个应用程序)。
事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中,应用程序136-1包括应用程序内部状态192,该应用程序内部状态指示当应用程序是活动的或正在执行时被显示在触敏显示器112上的一个或多个当前应用程序视图。在一些实施方案中,设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的,并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。
在一些实施方案中,应用程序内部状态192包括附加信息,诸如以下各项中的一者或多者:当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列,以及用户采取的先前动作的重复/撤销队列。
事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如,触敏显示器112上的用户触摸,作为多点触摸手势的一部分)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计168和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106接收的信息包括来自触敏显示器112或触敏表面的信息。
在一些实施方案中,事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应,外围设备接口118传输事件信息。在其他实施方案中,外围设备接口118仅当存在显著事件(例如,接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。
在一些实施方案中,事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。
当触敏显示器112显示多于一个视图时,命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。
与应用程序相关联的用户界面的另一方面是一组视图,本文中有时也称为应用程序视图或用户界面窗口,在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如,在其中检测到触摸的最低水平视图任选地被称为命中视图,并且被辨别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定,所述初始触摸开始基于触摸的手势。
命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时,命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下,命中视图是发起子事件(例如,形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块172识别,命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。
活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中,活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中,活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图,并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中,即使触摸子事件完全被局限到与一个特定视图相关联的区域,分级结构中的较高视图将仍然保持为活跃参与的视图。
事件分配器模块174将事件信息分配到事件识别器(例如,事件识别器180)。在包括活动事件识别器确定模块173的实施方案中,事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中,事件分配器模块174在事件队列中存储事件信息,该事件信息由相应事件接收器182进行检索。
在一些实施方案中,操作系统126包括事件分类器170。另选地,应用程序136-1包括事件分类器170。在又一个实施方案中,事件分类器170是独立模块,或者是存储在存储器102中的另一个模块(诸如,接触/运动模块130)的一部分。
在一些实施方案中,应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191,其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常,相应应用程序视图191包括多个事件识别器180。在其他实施方案中,事件识别器180中的一个或多个事件识别器是独立模块的一部分,该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中,相应事件处理程序190包括以下各项中的一者或多者:数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地,应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外,在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。
相应的事件识别器180从事件分类器170接收事件信息(例如,事件数据179),并且根据事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中,事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。
事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件,事件信息还包括附加信息,诸如子事件的位置。当子事件涉及触摸的运动时,事件信息任选地还包括子事件的速率和方向。在一些实施方案中,事件包括设备从一个取向旋转到另一取向(例如,从纵向取向旋转到横向取向,或反之亦然),并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。
事件比较器184将事件信息与预定义的事件或子事件定义进行比较,并且基于该比较来确定事件或子事件,或者确定或更新事件或子事件的状态。在一些实施方案中,事件比较器184包括事件定义186。事件定义186包含事件的定义(例如,预定义的子事件序列),例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中,事件(187)中的子事件例如包括触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中,事件1(187-1)的定义是被显示对象上的双击。例如,双击包括被显示对象上的预先确定时长的第一触摸(触摸开始)、预先确定时长的第一抬离(触摸结束)、被显示对象上的预先确定时长的第二触摸(触摸开始)以及预先确定时长的第二抬离(触摸结束)。在另一个示例中,事件2(187-2)的定义是被显示对象上的拖动。例如,拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中,事件还包括用于一个或多个相关联的事件处理程序190的信息。
在一些实施方案中,事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中,事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如,在触敏显示器112上显示三个用户界面对象的应用程序视图中,当在触敏显示器112上检测到触摸时,事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联,则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如,事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。
在一些实施方案中,相应事件(187)的定义还包括延迟动作,该延迟动作延迟事件信息的递送,直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。
当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时,该相应事件识别器180进入事件不可能、事件失败或事件结束状态,在此之后忽略基于触摸的手势的后续子事件。在这种情况下,对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。
在一些实施方案中,相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中,元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中,元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。
在一些实施方案中,当事件的一个或多个特定子事件被识别时,相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中,相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中,事件识别器180抛出与所辨别出的事件相关联的标记,并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。
在一些实施方案中,事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反,子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。
在一些实施方案中,数据更新器176创建并更新在应用程序136-1中使用的数据。例如,数据更新器176对联系人模块137中所使用的电话号码进行更新,或者对视频播放器模块中所使用的视频文件进行存储。在一些实施方案中,对象更新器177创建并更新在应用程序136-1中使用的对象。例如,对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如,GUI更新器178准备显示信息,并且将显示信息发送到图形模块132用以显示在触敏显示器上。
在一些实施方案中,事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178,或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中,数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中,它们被包括在两个或更多个软件模块中。
应当理解,关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入,并不是所有用户输入都是在触摸屏上发起的。例如,任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下;触摸板上的接触移动,诸如轻击、拖动、滚动等;触控笔输入;设备的移动;口头指令;检测到的眼睛移动;生物特征输入;和/或它们的任何组合任选地被用作对应于限定要辨别的事件的子事件的输入。
图2示出了根据一些实施方案的具有触摸屏112的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中,用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触控笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中,当用户中断与一个或多个图形的接触时,将发生对一个或多个图形的选择。在一些实施方案中,手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些具体实施中或在一些情况下,不经意地与图形接触不会选择图形。例如,当与选择对应的手势是轻击时,在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。
设备100任选地还包括一个或多个物理按钮,诸如“home”或菜单按钮204。如前所述,菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。另选地,在一些实施方案中,菜单按钮被实现为被显示在触摸屏112上的GUI中的软键。
在一些实施方案中,设备100包括触摸屏112、菜单按钮204、用于使设备开机/关机和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机;通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备;和/或对设备进行解锁或发起解锁过程。在另选的实施方案中,设备100还通过麦克风113接受用于激活或去激活某些功能的语音输入。设备100还任选地包括用于检测触摸屏112上的接触的强度的一个或多个接触强度传感器165,和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器167。
图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中,设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如,家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330,该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触摸板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如,类似于上文参考图1A所述的触觉输出发生器167)、传感器359(例如,光学传感器、加速度传感器、接近传感器、触敏传感器和/或接触强度传感器(类似于上文参考图1A所述的接触强度传感器165))。存储器370包括高速随机存取存储器,诸如DRAM、SRAM、DDR RAM,或其他随机存取固态存储器设备;并且任选地包括非易失性存储器,诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中,存储器370存储与便携式多功能设备100(图1A)的存储器102中存储的程序、模块和数据结构类似的程序、模块和数据结构或其子集。此外,存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如,设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390,而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。
图3中的上述元素中的每个元素任选地存储于先前提到的存储器设备的一个或多个存储器设备中。上述模块中的每个模块对应于用于执行上述功能的指令集。上述模块或程序(例如,指令集)不必以单独的软件程序(诸如计算机程序(例如,包括指令))、过程或模块实现,并且因此这些模块的各种子集任选地在各种实施方案中被组合或以其他方式重新布置。在一些实施方案中,存储器370任选地存储上述模块和数据结构的子组。此外,存储器370任选地存储上文未描述的附加模块和数据结构。
现在将注意力转到任选地在例如便携式多功能设备100上实现的用户界面的实施方案。
图4A示出了根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中,用户界面400包括以下元件或者其子集或超集:
·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402;
·时间404;
·蓝牙指示符405;
·电池状态指示符406;
·具有针对常用应用程序的图标的托盘408,该图标诸如:
○电话模块138的被标记为“电话”的图标416,该图标416任选地包括未接来电或语音信箱的数量的指示符414;
○电子邮件客户端模块140的被标记为“邮件”的图标418,该图标418任选地包括未读电子邮件的数量的指示符410;
○浏览器模块147的标记为“浏览器”的图标420;以及
○视频和音乐播放器模块152(也称为iPod(苹果公司(AppleInc.)的商标)模块152)的被标记为“iPod”的图标422;以及
·其他应用程序的图标,诸如:
○IM模块141的被标记为“消息”的图标424;
○日历模块148的被标记为“日历”的图标426;
○图像管理模块144的被标记为“照片”的图标428;
○相机模块143的被标记为“相机”的图标430;
○在线视频模块155的被标记为“在线视频”的图标432;
○股市小组件149-2的被标记为“股市”的图标434;
○地图模块154的被标记为“地图”的图标436;
○天气小组件149-1的被标记为“天气”的图标438;
○闹钟小组件149-4的被标记为“时钟”的图标440;
○健身支持模块142的被标记为“健身支持”的图标442;
○笔记模块153的标记为“笔记”的图标444;以及
○设置应用程序或模块的被标记为“设置”的图标446,该图标提供对设备100及其各种应用程序136的设置的访问。
应当指出的是,图4A中示出的图标标签仅仅是示例性的。例如,视频和音乐播放器模块152的图标422被标记“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中,相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中,特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。
图4B示出了具有与显示器450(例如,触摸屏显示器112)分开的触敏表面451(例如,图3的平板电脑或触摸板355)的设备(例如,图3的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如,传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器357。
尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出以下示例中的一些示例,但是在一些实施方案中,设备检测与显示器分开的触敏表面上的输入,如图4B中所示。在一些实施方案中,触敏表面(例如,图4B中的451)具有与显示器(例如,450)上的主轴(例如,图4B中的453)对应的主轴(例如,图4B中的452)。根据这些实施方案,设备检测在与显示器上的相应位置对应的位置(例如,在图4B中,460对应于468并且462对应于470)处与触敏表面451的接触(例如,图4B中的460和462)。这样,当触敏表面(例如,图4B中的451)与多功能设备的显示器(例如,图4B中的450)分开时,由设备在该触敏表面上检测到的用户输入(例如,接触460和462以及它们的移动)被该设备用于操纵该显示器上的用户界面。应当理解,类似的方法任选地用于本文所述的其他用户界面。
另外,虽然主要是参考手指输入(例如,手指接触、单指轻击手势、手指轻扫手势)来给出下面的示例,但是应当理解的是,在一些实施方案中,这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如,基于鼠标的输入或触控笔输入)替代。例如,轻扫手势任选地由鼠标点击(例如,而不是接触),之后是光标沿着轻扫的路径的移动(例如,而不是接触的移动)替代。又如,轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如,代替对接触的检测,之后是停止检测接触)替代。类似地,当同时检测到多个用户输入时,应当理解的是,多个计算机鼠标任选地被同时使用,或鼠标和手指接触任选地被同时使用。
图5A示出了示例性个人电子设备500。设备500包括主体502。在一些实施方案中,设备500可包括相对于设备100和300(例如,图1A至图4B)所述的特征中的一些或全部特征。在一些实施方案中,设备500具有在下文中称为触摸屏504的触敏显示屏504。作为触摸屏504的替代或补充,设备500具有显示器和触敏表面。与设备100和300的情况一样,在一些实施方案中,触摸屏504(或触敏表面)任选地包括用于检测所施加的接触(例如,触摸)强度的一个或多个强度传感器。触摸屏504(或触敏表面)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备500的用户界面可基于触摸的强度来对触摸作出响应,这意味着不同强度的触摸可调用设备500上的不同用户界面操作。
用于检测和处理触摸强度的示例性技术见于例如以下相关专利申请中:2013年5月8日提交的名称为“Device,Method,and Graphical User Interface for DisplayingUser Interface Objects Corresponding to an Application”的国际专利申请序列No.PCT/US2013/040061,发布为WIPO专利公开No.WO/2013/169849;以及2013年11月11日提交的名称为“Device,Method,and Graphical User Interface for TransitioningBetween Touch Input to Display Output Relationships”的国际专利申请序列No.PCT/US2013/069483,发布为WIPO专利公开No.WO/2014/105276,该每个专利申请据此全文以引用方式并入。
在一些实施方案中,设备500具有一个或多个输入机构506和508。输入机构506和508(如果包括的话)可以是物理形式的。物理输入机构的示例包括下压按钮和可旋转机构。在一些实施方案中,设备500具有一个或多个附接机构。此类附接机构(如果包括的话)可允许将设备500与例如帽子、眼镜、耳环、项链、衬衣、夹克、手镯、表带、手链、裤子、皮带、鞋子、钱包、背包等附接。这些附接机构允许用户穿戴设备500。
图5B描绘了示例性个人电子设备500。在一些实施方案中,设备500可包括参考图1A、图1B和图3所述的部件中的一些或全部部件。设备500具有总线512,该总线将I/O部分514与一个或多个计算机处理器516和存储器518操作性地耦接。I/O部分514可连接到显示器504,该显示器可具有触敏部件522并且任选地具有强度传感器524(例如,接触强度传感器)。此外,I/O部分514可与通信单元530连接,用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备500可包括输入机构506和/或508。输入机构506任选地是可旋转输入设备。在一些示例中,输入机构508任选地是按钮。
在一些示例中,输入机构508任选地是麦克风。个人电子设备500任选地包括各种传感器,诸如GPS传感器532、加速度计534、定向传感器540(例如,罗盘)、陀螺仪536、运动传感器538和/或其组合,所有这些设备均可操作地连接到I/O部分514。
个人电子设备500的存储器518可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,该计算机可执行指令当由一个或多个计算机处理器516执行时例如可致使计算机处理器执行下文所述的技术,包括过程700(例如,图7A至图7B)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备500不限于图5B的部件和配置,而是可包括多种配置中的其他部件或附加部件。
如本文所用,术语“示能表示”是指任选地在设备100、300和/或500(图1A、图3和图5A至图5B)的显示屏上显示的用户交互式图形用户界面对象。例如,图像(例如,图标)、按钮和文本(例如,超链接)任选地各自构成示能表示。
如本文所用,术语“焦点选择器”是指用于指示用户正与之进行交互的用户界面的当前部分的输入元素。在包括光标或其他位置标记的一些具体实施中,光标充当“焦点选择器”,使得当光标在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)上方时在触敏表面(例如,图3中的触摸板355或图4B中的触敏表面451)上检测到输入(例如,按压输入)的情况下,该特定用户界面元素根据所检测到的输入而被调节。在包括能够实现与触摸屏显示器上的用户界面元素的直接交互的触摸屏显示器(例如,图1A中的触敏显示器系统112或图4A中的触摸屏112)的一些具体实施中,在触摸屏上所检测到的接触充当“焦点选择器”,使得当在触摸屏显示器上在特定用户界面元素(例如,按钮、窗口、滑块或其他用户界面元素)的位置处检测到输入(例如,由接触进行的按压输入)时,该特定用户界面元素根据所检测到的输入而被调节。在一些具体实施中,焦点从用户界面的一个区域移动到用户界面的另一个区域,而无需光标的对应移动或触摸屏显示器上的接触的移动(例如,通过使用制表键或箭头键将焦点从一个按钮移动到另一个按钮);在这些具体实施中,焦点选择器根据焦点在用户界面的不同区域之间的移动来移动。不考虑焦点选择器所采取的具体形式,焦点选择器通常是由用户控制的以便递送与用户界面的用户预期的交互(例如,通过向设备指示用户界面的用户期望与其进行交互的元素)的用户界面元素(或触摸屏显示器上的接触)。例如,在触敏表面(例如,触摸板或触摸屏)上检测到按压输入时,焦点选择器(例如,光标、接触或选择框)在相应按钮上方的位置将指示用户期望激活相应按钮(而不是设备显示器上示出的其他用户界面元素)。
如说明书和权利要求中所使用的,接触的“特征强度”这一术语是指基于接触的一个或多个强度的接触的特征。在一些实施方案中,特征强度基于多个强度样本。特征强度任选地基于相对于预定义事件(例如,在检测到接触之后,在检测到接触抬离之前,在检测到接触开始移动之前或之后,在检测到接触结束之前,在检测到接触的强度增大之前或之后和/或在检测到接触的强度减小之前或之后)而言在预先确定的时间段(例如,0.05秒、0.1秒、0.2秒、0.5秒、1秒、2秒、5秒、10秒)期间采集的预定义数量的强度样本或一组强度样本。接触的特征强度任选地基于以下各项中的一者或多者:接触的强度的最大值、接触的强度的均值、接触的强度的平均值、接触的强度的前10%处的值、接触的强度的半最大值、接触的强度的90%最大值等。在一些实施方案中,在确定特征强度时使用接触的持续时间(例如,在特征强度是接触的强度在时间上的平均值时)。在一些实施方案中,将特征强度与一组一个或多个强度阈值进行比较,以确定用户是否已执行操作。例如,该组一个或多个强度阈值任选地包括第一强度阈值和第二强度阈值。在该示例中,特征强度未超过第一阈值的接触导致第一操作,特征强度超过第一强度阈值但未超过第二强度阈值的接触导致第二操作,而特征强度超过第二阈值的接触导致第三操作。在一些实施方案中,使用特征强度与一个或多个阈值之间的比较来确定是否要执行一个或多个操作(例如,是执行相应操作还是放弃执行相应操作)而不是用于确定执行第一操作还是第二操作。
在一些实施方案中,识别手势的一部分以用于确定特征强度。例如,触敏表面任选地接收连续的轻扫接触,该连续的轻扫接触从起始位置过渡并到达结束位置,在该结束位置处,接触强度增加。在该示例中,接触在结束位置处的特征强度任选地仅基于连续轻扫接触的一部分,而不是整个轻扫接触(例如,仅结束位置处的轻扫接触的部分)。在一些实施方案中,在确定接触的特征强度之前任选地向轻扫接触的强度应用平滑算法。例如,平滑化算法任选地包括以下各项中的一种或多种:不加权滑动平均平滑化算法、三角平滑化算法、中值滤波器平滑化算法和/或指数平滑化算法。在一些情况下,这些平滑化算法消除了轻扫接触的强度中的窄的尖峰或凹陷,以实现确定特征强度的目的。
任选地相对于一个或多个强度阈值诸如接触检测强度阈值、轻按压强度阈值、深按压强度阈值和/或一个或多个其他强度阈值来表征触敏表面上的接触强度。在一些实施方案中,轻按压强度阈值对应于这样的强度:在该强度下设备将执行通常与点击物理鼠标或触控板的按钮相关联的操作。在一些实施方案中,深按压强度阈值对应于这样的强度:在该强度下设备将执行与通常与点击物理鼠标或触控板的按钮相关联的操作不同的操作。在一些实施方案中,当检测到特征强度低于轻按压强度阈值(例如,并且高于标称接触检测强度阈值,比标称接触检测强度阈值低的接触不再被检测到)的接触时,设备将根据接触在触敏表面上的移动来移动焦点选择器,而不执行与轻按压强度阈值或深按压强度阈值相关联的操作。一般来讲,除非另有陈述,否则这些强度阈值在不同组的用户界面附图之间是一致的。
接触特征强度从低于轻按压强度阈值的强度增大到介于轻按压强度阈值与深按压强度阈值之间的强度有时被称为“轻按压”输入。接触特征强度从低于深按压强度阈值的强度增大到高于深按压强度阈值的强度有时被称为“深按压”输入。接触特征强度从低于接触检测强度阈值的强度增大到介于接触检测强度阈值与轻按压强度阈值之间的强度有时被称为检测到触摸表面上的接触。接触特征强度从高于接触检测强度阈值的强度减小到低于接触检测强度阈值的强度有时被称为检测到接触从触摸表面抬离。在一些实施方案中,接触检测强度阈值为零。在一些实施方案中,接触检测强度阈值大于零。
在本文中所述的一些实施方案中,响应于检测到包括相应按压输入的手势或响应于检测到利用相应接触(或多个接触)执行的相应按压输入来执行一个或多个操作,其中至少部分地基于检测到该接触(或多个接触)的强度增大到高于按压输入强度阈值而检测到相应按压输入。在一些实施方案中,响应于检测到相应接触的强度增大到高于按压输入强度阈值(例如,相应按压输入的“向下冲程”)来执行相应操作。在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于按压输入强度阈值,并且响应于检测到相应接触的强度随后减小到低于按压输入阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。
在一些实施方案中,设备采用强度滞后以避免有时被称为“抖动”的意外输入,其中设备限定或选择与按压输入强度阈值具有预定义关系的滞后强度阈值(例如,滞后强度阈值比按压输入强度阈值低X个强度单位,或滞后强度阈值是按压输入强度阈值的75%、90%或某个合理比例)。因此,在一些实施方案中,按压输入包括相应接触的强度增大到高于按压输入强度阈值以及该接触的强度随后减小到低于对应于按压输入强度阈值的滞后强度阈值,并且响应于检测到相应接触的强度随后减小到低于滞后强度阈值(例如,相应按压输入的“向上冲程”)来执行相应操作。类似地,在一些实施方案中,仅在设备检测到接触强度从等于或低于滞后强度阈值的强度增大到等于或高于按压输入强度阈值的强度并且任选地接触强度随后减小到等于或低于滞后强度的强度时才检测到按压输入,并且响应于检测到按压输入(例如,根据环境,接触强度增大或接触强度减小)来执行相应操作。
图5C示出了示例性电子设备580。设备580包括主体580a。在一些实施方案中,设备580可包括相对于设备100、300和500(例如,图1A至图5B)所述的特征中的一些或全部特征。在一些实施方案中,设备580具有一个或多个扬声器580b(隐藏在主体580a中)、一个或多个麦克风580c、一个或多个触敏表面580d以及一个或多个显示器580e。另选地或作为显示器和触敏表面580d的补充,该设备还具有触敏显示器(也被称为触摸屏)。与设备100、300和500的情况一样,在一些实施方案中,触敏表面580d(或触摸屏)任选地包括用于检测所施加的接触(例如,触摸)的强度的一个或多个强度传感器。触敏表面580d(或触摸屏)的一个或多个强度传感器可提供表示触摸的强度的输出数据。设备580的用户界面可基于触摸的强度来对这些触摸作出响应,这意味着不同强度的触摸可调用设备580上的不同用户界面操作。在一些实施方案中,一个或多个显示器580e是一个或多个发光二极管(LED)。例如,显示器可以是单个LED、LED群集(例如,红色、绿色和蓝色的LED)、多个分立LED、多个分立LED群集或一个或多个LED的其他布置。例如,显示器580e可以是以圆形形状(例如,环形)布置的九个分立LED群集的阵列。在一些示例中,所述一个或多个显示器包含一个或多个另一种类型的发光元件。
图5D描绘了示例性个人电子设备580。在一些实施方案中,设备580可包括相对于图1A、图1B、图3和图5A至图5B所述的部件中的一些或全部部件。设备580具有将I/O部分594与一个或多个计算机处理器596和存储器598操作性地耦接的总线592。I/O部分594可连接到显示器582,该显示器可具有触敏部件584并且任选地具有强度传感器585(例如,接触强度传感器)。在一些实施方案中,触敏部件584是与显示器582分离的部件。此外,I/O部分594可与通信单元590连接,以用于使用Wi-Fi、蓝牙、近场通信(NFC)、蜂窝和/或其他无线通信技术来接收应用程序和操作系统数据。设备580可包括输入机构588。在一些示例中,输入机构588任选地是按钮。在一些示例中,输入机构588任选地是麦克风。输入机构588任选地是多个麦克风(例如,麦克风阵列)。
电子设备580包括用于输出音频的扬声器586。设备580可包括音频电路(例如,在I/O部分594中),该音频电路接收音频数据、将音频数据转换为电信号,并且将电信号传输给扬声器586。扬声器586将电信号转换为人类可听到的声波。该音频电路(例如,在I/O部分594中)还接收由麦克风(例如,输入机构588)从声波转换的电信号。该音频电路(例如,在I/O部分594中)将该电信号转换为音频数据。音频数据任选地由I/O部分594检索自和/或传输至存储器598和/或RF电路(例如,在通信单元590中)。
个人电子设备580的存储器598可包括用于存储计算机可执行指令的一个或多个非暂态计算机可读存储介质,这些计算机可执行指令当由一个或多个计算机处理器596执行时例如可致使计算机处理器执行下文所述的技术,包括过程700(例如,图7A至图7B)。计算机可读存储介质可以是可有形地包含或存储计算机可执行指令以供指令执行系统、装置和设备使用或与其结合的任何介质。在一些示例中,存储介质是暂态计算机可读存储介质。在一些示例中,存储介质是非暂态计算机可读存储介质。非暂态计算机可读存储介质可包括但不限于磁存储装置、光学存储装置、和/或半导体存储装置。此类存储装置的示例包括磁盘、基于CD、DVD或蓝光技术的光盘,以及持久性固态存储器诸如闪存、固态驱动器等。个人电子设备580不限于图5D的部件和配置,而是可包括为多种配置的其他部件或附加部件。
为了容易解释,任选地,响应于检测到以下各种情况中的任一种情况而触发对响应于与按压输入强度阈值相关联的按压输入或响应于包括按压输入的手势而执行的操作的描述:接触强度增大到高于按压输入强度阈值、接触强度从低于滞后强度阈值的强度增大到高于按压输入强度阈值的强度、接触强度减小到低于按压输入强度阈值、和/或接触强度减小到低于与按压输入强度阈值对应的滞后强度阈值。另外,在将操作描述为响应于检测到接触的强度减小到低于按压输入强度阈值而执行的示例中,任选地响应于检测到接触的强度减小到低于对应于并且小于按压输入强度阈值的滞后强度阈值来执行操作。
现在将注意力转到在电子设备(诸如便携式多功能设备100、设备300和/或设备500)上实现的用户界面(“UI”)以及相关联的过程的实施方案。
图6A至图6K示出了根据一些实施方案的用于使用计算机系统传输音频的示例性技术和用户界面。这些附图中的用户界面用于示出下文所述的过程,包括图7A至图7B中的过程。
图6A示出了与遥控器604、耳塞606a(例如,“Jane的耳塞”)、耳塞606b(例如,“Nick的耳塞”)和厨房扬声器606c处于操作性通信的示例性显示器系统602(例如,“Jane的TV”)。在图6A中,显示器系统602是多媒体设备(例如,存储和/或生成用于在该设备处和/或在诸如显示器的另一输出设备处输出的多媒体内容的设备)。显示器系统602链接到分别由通信链路608a-608c表示的耳塞606a、耳塞606b和厨房扬声器606c。遥控器604还链接到显示器系统602,使得经由遥控器604接收到(或检测到)的手势被传输到显示器系统602以供处理。在一些实施方案中,设备(例如,显示器系统、一副耳机(例如,耳塞)、电话、扬声器)是(例如,经由无线或有线介质)与另一设备处于可操作通信或(例如,经由蓝牙、近场通信、网络连接)与该另一设备连接(配对)的设备。
在一些实施方案中,显示器系统602而不是多媒体设备自身直接链接到多媒体设备,该多媒体设备提供多媒体内容以便在显示器系统602处输出。在图6A中,表示670是在显示器系统602上显示的多媒体内容(例如,或媒体项目)的表示。在一些实施方案中,显示器系统602或链接到显示器系统602的多媒体设备包括设备100、300和/或500的一个或多个特征。在一些实施方案中,多媒体设备被配置为与显示器系统602以及耳塞606a、耳塞606b中的一个或多个耳塞和/或厨房扬声器606c共享媒体。
在一些实施方案中,多媒体设备和/或显示器系统602还链接到遥控器604,使得经由遥控器604检测到的手势被传输到多媒体设备以用于在显示器系统602链接到多媒体设备的场景中进行处理。在一些实施方案中,(例如,链接到显示器系统602的)多媒体设备响应于接收到一个或多个手势(或从遥控器604传输的一个或多个手势的指示)而致使显示器系统602显示一个或多个用户界面元素。在一些实施方案中,多媒体设备共享媒体,使得媒体(例如,音频)可供用于由耳塞606a、耳塞606b和/或厨房扬声器606c输出。因此,为了简单起见,以下描述将通常参考显示器系统602执行动作,属于实体(例如,与账户相关联)或链接到一个或多个设备(例如,耳机、电话)。然而,以下描述设想并且不排除其中存在链接到显示器系统602和一个或多个设备的一个或多个多媒体设备的场景。在这些情形中,多媒体设备(而非显示器系统)可属于实体并且/或者执行一个或多个动作(例如,诸如致使在显示器系统602上显示一个或多个用户界面、接收一个或多个手势、共享媒体以及/或者执行本文关于显示器系统602所述的其他逻辑)。
在图6A中,显示器系统602属于Jane(例如,“Jane的TV”)。此外,耳塞606a是属于Jane的耳机(例如,与包括标识符或名称即(例如,或包括字词)“Jane”的用户账户相关联),并且耳塞606b是属于Nick的耳机。因此,在一些实施方案中,当设备与包括表示实体(例如,“Jane”)的标识符或名称的用户账户相关联(例如,登录)时,设备属于实体(例如,人、建筑物、房屋)。在一些实施方案中,厨房扬声器606c与和Jane相同的用户账户相关联。在一些实施方案中,厨房扬声器606c包括设备100、300、500和/或580的一个或多个特征。
如图6A中所示,显示器系统602被配置为共享对应于正呈现在显示器系统602上的多媒体内容的音频。如音频输出610a和音频输出612a所指示,耳塞606a和耳塞606b并发地输出包括短语“THE CAR”的音频,该音频与由表示670示出并且呈现在显示器系统602上的多媒体内容同步。因此,在图6A处,耳塞606a和耳塞606b有效地输出由表示670示出的多媒体内容的相同音频内容(例如,包括在内容中或与内容相关联的相同音轨中的一个或多个音轨)。
下面部分地描述图6B至图6C以示出耳塞606a及耳塞606b被配置为输出由表示670表示的多媒体内容的相同音频内容。在图6A处,遥控器604接收向下手势650a并且将向下手势650a的指示传输到显示器系统602以供处理。
如图6B中所示,响应于接收到向下手势650a,显示器系统602在多媒体内容的表示670的顶部上显示音频设置覆盖620。在图6B中,因为选择了音频配置指示符622,所以显示了音频设置覆盖620,如包围音频配置指示符622的椭圆形所指示。音频设置覆盖620包括扬声器标题624和耳机标题626。在扬声器标题624下面,列出了多个扬声器控件,其中每个扬声器控件是用于从显示器系统602向特定扬声器共享媒体的控件。扬声器控件包括厨房扬声器控件624a和餐厅扬声器控件624b。每个扬声器控件显示在扬声器标题624下面,因为扬声器(例如,厨房扬声器606c)链接到显示器系统602、先前已链接到该显示器系统或被配置为从该显示器系统接收音频。耳机标题626列出链接到显示器系统602、先前已链接到该显示器系统或被配置为从该显示器系统接收音频的耳机。耳机标题626包括耳塞控件626a(“Jane的耳塞”)和耳塞626b。在图6B中,复选标记显示在耳塞控件626a和耳塞控件626b中的每一个耳塞控件的右侧。在耳塞控件626a和耳塞控件626b旁边显示的复选标记指示显示器系统602被配置为共享音频(例如,发送音频数据)以用于输出到耳塞606a和耳塞606b。
如图6B中所示,显示器系统602在耳塞控件626a周围显示焦点选择器628。因为焦点选择器628显示在耳塞控件626a周围,所以显示器系统602显示用于共享用于输出到耳塞606a的音频的一组音频配置。在图6B中,用于共享用于输出到耳塞606a的音频的音频配置显示在扬声器标题624和耳机标题626的左侧,并且包括语言配置630、音频描述配置632、声音配置634和旁白配置636。
语言配置630包括用于选择音频的特定类型的语言的多个控件,该特定类型的语言被传输到一组耳机并由该组耳机输出。在图6B中,语言配置630包括英语语言设置控件630a、法语语言设置控件630b和西班牙语语言设置控件630c。如图6B中所示,选择了英语语言设置控件630a(例如,如英语语言设置控件630a旁边的复选标记所指示)。因此,在图6B中,显示器系统602当前被配置为用英语向耳塞606a输出对应于正呈现在显示器系统602上的多媒体内容的音频。在一些实施方案中,显示器系统602输出包括与媒体项目一起包括的特定音轨的音频。例如,当选择了英语语言设置控件630a时,显示器系统602传输被包括到(或对应于)正呈现在显示器系统602上的多媒体内容的英语音轨,但当选择了法语语言设置控件630b时,显示器系统602传输被包括到(或对应于)正呈现在显示器系统602上的多媒体内容(例如,相同多媒体内容)的法语音轨。
音频描述配置632包括用于选择特定类型的描述性音频的多个控件,该特定类型的描述性音频被传输到一组耳机并由该组耳机输出。在图6B中,音频描述配置632包括标准音频描述设置控件632a和描述性音频描述设置控件632b。因此,在图6B中,因为选择了标准音频描述设置控件632a(例如,如标准音频描述设置控件632a旁边的复选标记所指示),所以显示器系统602当前被配置为向耳塞606b输出对应于正呈现在显示器系统602上的多媒体内容的标准音频。当选择了标准音频描述设置控件632a时,显示器系统602传输与当选择了描述性音频描述设置控件632b时显示器系统602传输的音频的音频内容相比音频内容更少(例如,每秒、每分钟、每小时的音频内容更少)的音频。在一些实施方案中,当选择了描述性音频描述设置控件632b时,由显示器系统602传输的音频包括与当选择了标准音频描述设置控件632a时显示器系统602传输的音频相比更多的描述场景和/或人物或对象的动作的音频内容。在一些实施方案中,显示器系统602基于是否选择了特定类型的音频描述设置控件来选择多媒体内容的特定音轨以传输到一组输出设备(例如,耳塞、扬声器)。
声音配置组634包括用于选择音频的特定类型的声音配置的多个控件,该特定类型的声音配置被传输到一组耳机并由该组耳机输出。在图6B中,声音配置组634包括全动态范围设置控件634a和减少大声声音设置控件634b。在图6B中,因为选择了全动态范围设置控件634a(例如,如全动态范围设置控件634a旁边的复选标记所指示),所以显示器系统602当前被配置为向耳塞606b输出具有与当选择了减少大声声音设置控件634b时相比更大的声音范围的音频。在一些实施方案中,显示器系统602基于是否选择了特定类型的声音配置设置控件来选择多媒体内容的特定音轨以传输到一组输出设备(例如,耳塞、扬声器)。
旁白配置636包括用于选择是否将旁白音频传输到一组耳机并由该组耳机输出的多个控件。在图6B中,旁白配置组636包括开启控件636a和关断控件636b。在图6B中,因为选择了关断控件636b(例如,如关断控件636b旁边的复选标记所指示),所以没有旁白音频被传输到耳塞606a并由该耳塞输出。在一些实施方案中,当选择了开启控件636a时,显示器系统602生成与多媒体内容无关的旁白音频。在一些实施方案中,显示器系统602连同对应于正显示在显示器系统602上的多媒体内容的音轨一起将旁白音频传输到耳塞606a。在一些实施方案中,旁白音频包括与用于导航和/或与显示器系统602和/或遥控器604交互的指令相对应的音频内容。在一些实施方案中,旁白音频包括与多媒体内容无关的音频内容。在一些实施方案中,旁白音频内容不包括在对应于多媒体内容的音轨中。在图6B处,遥控器604接收向下手势650b并将向下手势650b的指示传输到显示器系统602以供处理。
如图6C中所示,响应于接收到向下手势650b的指示,显示器系统602向下移动焦点选择器628,使得焦点选择器628显示在耳塞控件626b周围而不是耳塞控件626a周围。因为焦点选择器628显示在耳塞控件626a周围,所以显示器系统602显示用于输出到耳塞606b的音频的一组音频配置。需要指出的是,在图6C中,用于输出到耳塞606b的音频的音频配置与用于输出到耳塞606a的音频的音频配置相同。因此,在图6C中,显示器系统602被配置为向耳塞606a和耳塞606b传输英语的并且具有没有旁白内容的全动态声音范围的标准音频(例如,如英语语言设置控件630a、标准音频描述设置控件632a、全动态范围设置控件634a和关断控件636b旁边的复选标记所示)。此外,因为耳塞606a和耳塞606b具有相同音频配置,所以耳塞606a和606b在图6B至图6C中输出相同音频(例如,“IS”(例如,610b和612b)和“GOING”(例如,610c和612c))。在一些实施方案中,当显示器系统602正在回放与表示670所表示的多媒体内容不同的多媒体内容时和/或在媒体回放会话开始时,耳塞606a和耳塞606b具有相同(或不同)的音频配置。在一些实施方案中,音频配置设置保留在媒体回放的会话(例如,关闭/打开设备、停止/发起媒体回放的开始)之间(例如,或者在它们之间是相同的)。
图6D至图6G示出了改变耳塞606b的音频配置使得耳塞606b的音频配置不同于耳塞606a的音频配置的示例性场景。在图6C处,遥控器604接收向左手势650c并将向左手势650c的指示传输到显示器系统602以供处理。
如图6D中所示,响应于接收到向左手势650c,显示器系统602横移焦点选择器628,使得焦点选择器628定位在英语语言设置控件630a周围。在图6D中,因为耳塞606a和耳塞606b具有相同音频配置,所以显示器系统602继续向耳塞606a和606b传输相同音频(例如,“VERY”610d和612d)。在图6D处,遥控器604接收向下手势650d并将向下手势650d的指示传输到显示器系统602以供处理。
如图6E中所示,响应于接收到向下手势650d,显示器系统602沿显示器向下移动焦点选择器628,使得焦点选择器628定位在西班牙语语言设置控件630c周围。在图6E中,因为耳塞606a和耳塞606b具有相同音频配置,所以显示器系统602继续向耳塞606a和耳塞606b传输相同音频(例如,“VERY”610e和612e)。在图6E处,遥控器604接收按压手势650e并将按压手势650e的指示传输到显示器系统602以供处理。
如图6F中所示,响应于检测到按压手势650e,显示器系统602将西班牙语语言设置控件630c显示为被选择(例如,西班牙语语言设置控件630c旁边的复选标记)并且停止将英语语言设置控件630a显示为被选择。另外,响应于检测到按压手势650e,显示器系统602改变正发送到耳塞606b的音频的音频配置。因此,当发送到耳塞606b的音频的音频配置改变时,耳塞606b输出对应于多媒体内容的西班牙语轨道的音频(例如,
Figure BDA0004100912030000441
614f)。另一方面,因为耳塞606a的音频配置尚未响应于检测到按压手势650e而改变,所以耳塞606a继续输出对应于多媒体内容的英语轨道的音频(例如,“FAST”610f)。在图6F处,遥控器接收菜单按钮上的按压手势650f并将按压手势650f的指示传输到显示器系统602以供处理。
如图6G中所示,响应于接收到按压手势650f,显示器系统602停止显示音频设置覆盖620。响应于接收到按压手势650f,显示器系统602还维持表示正被显示的多媒体内容的表示670的显示。在图6G中,显示器系统602继续基于每个耳机的音频配置将英语的音频(例如,“GOODBYE”610g)传输到耳塞606a并且将西班牙语的音频(例如,“ADIOS”614g)传输到耳塞606b。需要指出的是,在图6G中,音频继续保持与显示器系统602正在显示的多媒体内容同步。
图6G至图6K示出了显示器系统602被配置为使用基于历史使用设置的音频配置来与厨房扬声器606c共享媒体的示例性场景。在图6G处,遥控器604接收向下手势650g并将向下手势650g的指示传输到显示器系统602以供处理。
如图6H中所示,响应于接收到向下手势650g,显示器系统602在多媒体内容的表示670的顶部上重新显示音频设置覆盖620。在图6H中,焦点选择器628显示在耳塞控件626b周围。在图6H处,遥控器604接收指向耳塞控件626b的按压手势650h并将按压手势650h的指示传输到显示器系统602以供处理。
如图6I中所示,响应于接收到按压手势650h,显示器系统602停止被配置为与耳塞606b共享音频。需要指出的是,在图6I中,因为显示器系统602不与耳塞606b共享多媒体,所以耳塞606b不输出任何音频。另一方面,因为显示器系统602保持被配置为与耳塞606a共享音频,所以耳塞606a继续输出音频(例如,“SOON”610i)。为了指示显示器系统602未被配置为与耳塞606b共享音频,显示器系统602还将耳塞控件626b显示为未被选择(例如,移除先前在耳塞控件626b旁边的复选标记)。在图6I处,遥控器604接收向上手势650i并将向上手势650i的指示传输到显示器系统602以供处理。
如图6J中所示,响应于接收到向上手势650i,显示器系统602向上移动焦点选择器628,使得焦点选择器628定位在厨房扬声器控件624a周围。在图6J中,出于与上述那些类似的原因,显示器系统602继续将英语的音频(例如,“UNTIL NEXT”610j)传输到耳塞606a,并且不将音频传输到耳塞606b。在图6J处,遥控器604接收指向厨房扬声器控件器624a的按压手势650j并将按压手势650j的指示传输到显示器系统602以供处理。
如图6K中所示,响应于接收到按压手势650j,显示器系统602被配置为与厨房扬声器606c共享音频(例如,如出现在厨房扬声器控件624a旁边的复选标记所示)。另外,在图6K处,显示器系统602显示厨房扬声器控件624a的音频配置设置。厨房扬声器控件624a的音频配置设置已基于厨房扬声器606c的历史使用来自动地选择(例如,无需用户输入)。例如,因为当厨房扬声器606c在先前会话(例如,显示器系统602连接到显示器系统602的先前时间)期间已与显示器系统602连接时,确定当与厨房扬声器606c相关联的实体已观看正呈现在显示器系统602上的特定多媒体内容时之前使用过在图6K中设置的音频配置设置,所以可显示那些音频设置。
如图6K中所示,显示器系统602被配置为传输英语的并且具有带有旁白内容的全动态声音范围的描述性音频(例如,如英语语言设置控件630a、描述性音频描述设置控件632b、全动态范围设置控件634a和开启控件636a旁边的复选标记所示)。音频输出616k表示音频基于厨房扬声器606c的音频配置设置。如图6K中所示,英语的音频输出616k包括描述性音频(例如,关于场景或动作的音频,诸如“THE CAR EXITS THE SCENE”)和旁白音频(例如,关于用户界面或用户界面的导航的音频,诸如“CLICK‘MENU’TO EXIT”)。
虽然已将以上场景描述为使用显示器系统602来改变输出设备(例如,耳塞606a、耳塞606b和厨房扬声器606c)的音频配置,但遥控器604可显示音频设置覆盖620的一个或多个部分,使得用户可通过选择显示在遥控器604上的一个或多个用户界面对象来改变音频配置设置。在一些实施方案中,用户可仅使用显示在遥控器604上的用户界面元素来改变音频配置设置。在一些实施方案中,用户界面元素显示在遥控器604的顶部部分上(例如,菜单按钮上方)或遥控器604的未被硬件按钮(诸如菜单按钮、音量控件等)包围的部分上。
图7A至图7B是示出根据一些实施方案的使用计算机系统来传输音频的方法700的流程图。方法700在与一个或多个输入设备(例如,604)(例如,(通过有线或无线连接的)外部遥控器;外部计算设备)通信的计算机系统(例如,100、300、500、602)处执行。(在一些实施方案中,计算机系统与显示生成部件(例如,显示控制器、触敏显示器系统、电视屏幕)通信。)在一些实施方案中,一个或多个输入设备被配置为接收输入,诸如接收用户输入的触敏表面和/或遥控器。在一些实施方案中,一个或多个输入设备与该计算机系统集成。在一些实施方案中,一个或多个输入设备与该计算机系统分开。因此,该计算机系统可经由有线或无线连接将数据(例如,图像数据或视频数据)发送到集成的或外部的显示生成部件来以视觉方式产生内容(例如,使用显示设备),并且可经由有线或无线连接从一个或多个输入设备接收输入。方法700中的一些操作任选地被组合,一些操作的次序任选地被改变,并且一些操作任选地被省略。
在一些实施方案中,计算机系统任选地与显示生成部件(在一些实施方案中为602)通信(例如,有线通信、无线通信)。显示生成部件被配置为提供视觉输出,诸如经由CRT显示器的显示、经由LED显示器的显示或者经由图像投影的显示。在一些实施方案中,显示生成部件与该计算机系统集成。在一些实施方案中,显示生成部件与该计算机系统分开。
如下所述,方法700提供了用于使用计算机系统传输音频的直观方式。该方法减少了用户使用计算机系统传输音频的认知负担,由此创建更高效的人机界面。对于电池驱动的计算设备,使得用户能够快速且更高效地传输音频节省了电力并增加了电池两次充电之间的时间间隔。
在致使(例如,在一个或多个外部扬声器设备上、在与计算机系统通信的一个或多个显示生成部件上)回放对应于(例如,包括,与媒体项目中包括的音轨一起(例如,同时)播放的一个或多个音轨)多个音轨的媒体项目(例如,由670表示)(例如,音频媒体(例如,音乐)、视频媒体(例如,电影、电视节目))(例如,回放媒体项目)时,计算机系统向第一设备(例如,606a)(例如,耳机、一个或多个扬声器)和第二设备(例如,606b)(例如,耳机、一个或多个扬声器)传输(702)(例如,间接地(例如,经由中间设备和/或服务器)或直接)对应于多个音轨中的第一音轨的第一音频(例如,610a-610k、612a-612e)(例如,音频信号)。在一些实施方案中,多个音轨包括不同语言轨道(例如,英语音轨、西班牙语音轨)、不同详细水平(例如,描述性音轨(例如,针对视障者)、标准音轨)、标识一个或多个用户界面元素和/或提供关于用户可如何与用户界面交互的细节的音轨(例如,旁白音轨、非旁白音轨)))。在一些实施方案中,多个音轨彼此不同,其中每个相应音轨具有不同量的话语(例如,声音话语(例如,单词))、不同的话语(例如,声音话语(例如,单词))。在一些实施方案中,计算机系统与显示生成部件(例如,显示控制器、触敏显示器系统、电视屏幕)通信。
在向第一设备(例如,606a)(例如,耳机、一个或多个扬声器)(例如,外部电子设备(例如,在计算机系统外部))和第二设备(例如,606b)(例如,耳机、一个或多个扬声器)(例如,外部电子设备(例如,在计算机系统外部))传输对应于多个音轨中的第一音轨(例如,包括其、在其中表示)的第一音频(例如,606a)时,计算机系统经由一个或多个输入设备(例如,604)接收(704)向第二设备(例如,606b)传输对应于多个音轨中与第一音轨不同的第二音轨的第二音频(例如,614f-614h)(例如,音频信号)的请求(例如,650e)。在一些实施方案中,第二组音轨中的一个或多个音轨(例如,与媒体项目相关的特定语言轨道(例如,英语音轨、西班牙语音轨)、具有特定详细水平的音轨(例如,描述性音轨、标准音轨)、标识/不标识一个或多个用户界面元素和/或提供关于用户可如何与用户界面交互的细节的音轨(例如,旁白音轨、非旁白音轨))对应于媒体项目)。
响应于(706)接收到向第二设备传输(并且在致使回放媒体项目时)对应于多个音轨中的第二音轨(包括其、在其中表示)的第二音频的请求,计算机系统向第二设备(例如,606b)传输(708)(例如,间接地(例如,经由中间设备和/或服务器)或直接)对应于多个音轨中的第二音轨的第二音频(例如,614f-614h)。
在一些实施方案中,作为向第二设备(例如,606b、606c)传输对应于多个音轨中的第二音轨的第二音频(例如,614f-614h)的一部分,计算机系统停止(710)(例如,停止其传输)向第二设备传输对应于多个音轨中的第一音轨的第一音频(例如,610a-610k、612a-612e)。在一些实施方案中,响应于接收到向第二设备传输对应于多个音轨中的第二音轨(例如,包括其、在其中表示)的第二音频的请求,计算机系统停止向第二设备传输对应于多个音轨中的第一音轨的第一音频。当向第二设备传输对应于多个音轨中的第二音轨的第二音频时停止向第二设备传输对应于多个音轨中的第一音轨的第一音频提高了计算机系统的效率,这是因为计算机系统只需致使回放一个实例或媒体项目,而不是致使回放媒体项目的多个实例,以调整媒体项目到设备的传输。提高计算机系统的效率通过使得用户能够更安全且高效地使用计算机系统而减少了电力使用并延长了计算机系统的电池寿命。
响应于(706)接收到向第二设备传输(并且在致使回放媒体项目时)对应于多个音轨中的第二音轨(包括其、在其中表示)的第二音频的请求,计算机系统继续(712)向第一设备传输对应于多个音轨中的第一音轨的第一音频(例如,610f-610k)(例如,而不向第一设备传输第二音频(例如,包括媒体项目的第二音轨的第二音频))。在一些实施方案中,第二音频包括第一音频中包括的音轨,和/或第二音频包括第一音频中不包括的音轨。在一些实施方案中,第一音频和第二音频与正被回放的媒体项目同步。在一些实施方案中,第一音频和/或第二音频中包括的音轨(例如,语言轨道)对应于媒体项目。在一些实施方案中,第一音频和/或第二音频中包括的音轨(例如,旁白轨道)不对应于媒体项目。在一些实施方案中,向设备传输音频致使该设备输出该音频。响应于接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求而向第二设备传输对应于多个音轨中的第二音轨的第二音频并且继续向第一设备传输对应于多个音轨中的第一音轨的第一音频提高了计算机系统的效率,这是因为计算机系统只需致使回放媒体项目的一个实例,而不是致使回放媒体项目的多个实例,以将不同音频传输到不同设备。提高计算机系统的效率通过使得用户能够更安全且高效地使用计算机系统而减少了电力使用并延长了计算机系统的电池寿命。响应于接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求而向第二设备传输对应于多个音轨中的第二音轨的第二音频并且继续向第一设备传输对应于多个音轨中的第一音轨的第一音频提供了对向特定设备传输特定音频的增强控制。提供对向特定设备传输特定音频的增强控制使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,第二音频(例如,614f-614h)和第一音频(例如,610a-610k)具有相同的时间长度。在一些实施方案中,当传输第二音频(例如,614f-614h)和第一音频(例如,610a-610k)时,第二音频(例如,614f-614h)和第一音频(例如,610a-610k)都与正被回放的媒体(例如,670)同步(例如,第一音频和第二音频都在对应于正被回放的媒体的相应位置的相应位置处被回放)。在一些实施方案中,媒体项目是视频(例如,670),并且第一音频(例如,610a-610k)和第二音频(例如,614f-614h)与该视频同步。
在一些实施方案中,第一音轨从媒体项目(例如,非旁白)生成(例如,从与媒体项目一起存储的数据检索或计算得到),而第二音轨中包括的至少一个音轨与媒体项目(例如,旁白)分开生成。
在一些实施方案中,第二音频(例如,614f-614h)包括第一音轨和第二音频中不包括的音轨(例如,旁白)。在一些实施方案中,第二音频(例如,614f-614h)不包括第一音轨(例如,非旁白,当第一音轨和第二音轨是两种不同语言或具有不同详细水平时)。在一些实施方案中,当第二音频(例如,614f-614h)不包括第一音轨时,第一音频(例如,610a-610k)和第二音频(例如,614f-614h)不包括与媒体项目(例如,由670表示)分开生成的音轨。
在一些实施方案中,计算机系统经由第一连接(例如,608a)(例如,蓝牙连接和/或配对(例如,直接或间接地(例如,通过中间设备,诸如蜂窝电话)配对)与第一设备(例如,606a)通信(例如,直接或间接通信)。在一些实施方案中,计算机系统经由不同于(例如,独立于)第一连接(例如,608a)的第二连接(例如,608b)(例如,蓝牙连接和/或配对(例如,直接或间接地(例如,通过中间设备,诸如蜂窝电话)配对)与第二设备(例如,606b、606c)通信(例如,直接或间接通信)。在一些实施方案中,第一设备和第二设备独立地连接到计算机系统。
在一些实施方案中,第一设备(例如,606a)是第一类型的设备(例如,一对耳机(例如,耳塞式耳机、耳挂式耳机、有线耳机、无线和/或蓝牙耳机))。在一些实施方案中,第二设备(例如,606c)是与第一类型的设备不同的第二类型的电子设备(例如,一组智能扬声器(例如,无线和/或蓝牙扬声器)。在一些实施方案中,第一设备具有第二设备所不具备的一个或多个特征(例如,软件特征)、能力和/或硬件部件。
在一些实施方案中,作为接收向第二设备(例如,606b)传输对应于多个音轨中的第二音轨的第二音频(例如,612e-612h)的请求(例如,650e)的一部分,计算机系统经由一个或多个输入设备(例如,604)接收(例如,检测)对语言选项(例如,630a-630b)的选择(例如,可选择用户界面对象(例如,对应于对语言轨道的选择)(例如,英语音频选项、西班牙语音频选项))。在一些实施方案中,语言选项由计算机系统显示(或者被致使显示在连接到计算机系统的显示器上)。在一些实施方案中,第二音轨(例如,612e-612h)包括对应于语言选项(例如,630a-630b)的语言的音频内容(例如,第二音轨是对应于语言选项的语言轨道)。在一些实施方案中,第一音轨包括对应于第一语言选项的语言(例如,英语)的第一音频内容,并且第二音轨包括对应于第二语言选项的语言(例如,西班牙语)的第二音频内容。在一些实施方案中,第一语言选项不同于(或表示不同的语言)(例如,视觉上不同于)第二语言选项。在一些实施方案中,该第一语言不同于该第二语言。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括对应于语言选项的语言的音频内容的第二音频包括经由一个或多个输入设备接收对语言选项的选择提高了计算机系统的效率,这是因为计算机系统只需致使回放一个实例或媒体项目,而不是致使回放媒体项目的多个实例,以将对应于语言选项的音频传输到设备。提高计算机系统的效率通过使得用户能够更安全且高效地使用计算机系统而减少了电力使用并延长了计算机系统的电池寿命。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括对应于语言选项的语言的音频内容的第二音频包括经由一个或多个输入设备接收对语言选项的选择提供了对向特定设备传输特定音频的增强控制。提供对向特定设备传输特定音频的增强控制使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,作为接收向第二设备(例如,608b、608c)传输对应于多个音轨中的第二音轨的第二音频的请求的一部分,计算机系统经由一个或多个输入设备(例如,604)接收(例如,检测)对详细水平选项(例如,632a-632b)的选择(例如,可选择用户界面对象(例如,对应于对详细水平选项的选择)(例如,标准音频选项、描述性音频选项))。在一些实施方案中,详细水平选项由计算机系统显示(或者被致使显示在连接到计算机系统的显示器上)。在一些实施方案中,第二音轨具有对应于详细水平选项(例如,632a-632b)的量的音频内容。在一些实施方案中,第一音轨包括对应于第一详细水平选项(例如,标准音频)的第一量的音频。在一些实施方案中,第二音轨包括对应于第二详细水平选项(例如,描述性音频)的第二量的音频。在一些实施方案中,第一量的音频(例如,某一时间帧(例如,每秒、每分钟、30分钟等)期间的音频量)不同于(例如,大于(或小于))第二量的音频。在一些实施方案中,第一详细水平选项不同于(例如,视觉上不同于)第二详细水平选项。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括具有与详细水平选项相对应的量的音频内容的第二音轨的第二音频包括经由一个或多个输入设备检测对详细水平的选择提高了计算机系统的效率,这是因为计算机系统只需致使回放一个实例或媒体项目,而不是致使回放媒体项目的多个实例,以传输包括与详细水平选项相对应的量的音频内容的音频。提高计算机系统的效率通过使得用户能够更安全且高效地使用计算机系统而减少了电力使用并延长了计算机系统的电池寿命。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括具有与详细水平选项相对应的量的音频内容的第二音轨的第二音频包括经由一个或多个输入设备检测对详细水平的选择提供了对向特定设备传输特定音频的增强控制。提供对向特定设备传输特定音频的增强控制使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,作为接收向第二设备传输对应于多个音频轨中的第二音频轨的第二音频的请求的一部分,计算机系统经由一个或多个输入设备接收(例如,检测)对外部音轨选项(例如,634a-634b)的选择(例如,可选择用户界面对象(例如,对应于对外部音轨选项(例如,旁白选项)的选择))。在一些实施方案中,语言选项由计算机系统显示(或者被致使显示在连接到计算机系统的显示器上)。在一些实施方案中,第二音频包括媒体项目(例如,由670表示)的多个音轨中不包括(例如,与媒体项目分开生成(或包括与媒体项目分开生成的第三音轨))的音频内容(例如,与用户界面相对应的旁白内容(例如,具有关于可如何与用户界面交互的音频指导的音频内容))。在一些实施方案中,第一音轨不包括媒体项目的多个音轨中不包括的音频内容或旁白内容。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括媒体项目的多个音轨中不包括的音频内容的第二音频包括经由一个或多个输入设备接收对外部音轨选项的选择提高了计算机系统的效率,这是因为计算机系统只需致使回放一个实例或媒体项目,而不是致使回放媒体项目的多个实例,以传输包括对应于外部音轨选项的音频内容的音频。提高计算机系统的效率通过使得用户能够更安全且高效地使用计算机系统而减少了电力使用并延长了计算机系统的电池寿命。在接收到向第二设备传输对应于多个音轨中的第二音轨的第二音频的请求之后传输包括媒体项目的多个音轨中不包括的音频内容的第二音频包括经由一个或多个输入设备接收对外部音轨选项的选择提供了对向特定设备传输特定音频的增强控制。提供对向特定设备传输特定音频的增强控制使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,在向第一设备(例如,606a)传输对应于多个音轨中的第一音轨的第一音频(例如,610a-610k)时,计算机系统接收(714)连接(例如,经由无线和/或蓝牙连接)(例如,直接或间接地连接)到第三设备(例如,606c)(例如,一组耳机、一组智能扬声器)(例如,不同于第一设备和第二设备的第三设备)的请求。在一些实施方案中,响应于接收到连接第三设备(例如,606c)的请求,计算机系统传输(716)包括多个音轨中的第三音轨(例如,第三音轨不同于第一音轨和第二音轨)的第三音频(例如,616k)。在一些实施方案中,第三音轨基于第三设备(例如,606c)的历史使用(例如,在第三设备连接到计算机系统时第三设备的历史使用)(例如,与也与第三设备相关联的配置文件相关联的历史使用)(例如,在计算机系统连接到第三设备时并且在计算机系统(例如,相同的计算机系统或不同的计算机系统)正在回放媒体项目时第三设备的历史使用、在计算机系统连接到第三设备时并且在计算机系统正在回放特定类型(例如,视频媒体、体育媒体)的媒体项目时第三设备的历史使用、在计算机系统连接到第三设备时并且在计算机系统正在于特定时间(例如,3:00PM、4:00PM)或特定时间帧期间(例如,8:00PM之后)回放媒体时第三设备的历史使用、和/或在计算机系统连接到第三设备时并且在计算机系统正在回放特定媒体项目时第三设备的历史使用)来选择(例如,在没有介入用户输入的情况下自动地选择)。在一些实施方案中,第三音频不同于第一音频和第二音频。在基于第三设备的历史使用选择(例如,在没有介入用户输入的情况下自动地选择)第三音轨的情况下传输包括多个音轨中的第三音轨的第三音频减少了用户将设备重置回每个设备在先前会话期间所处的配置将需要的用户输入的数量。减少执行操作的用户输入的数量增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,在向第一设备(例如,606a)传输对应于多个音轨中的第一音轨的第一音频(例如,610a-610k)时并且在向第二设备(例如,606b)传输对应于多个音轨中的第二音轨的第二音频(例如,614f-614h)时,计算机系统检测媒体回放的当前会话的结束。在一些实施方案中,计算机系统检测媒体回放的当前会话的结束包括:计算机系统检测停止媒体回放的请求,计算机系统检测关闭计算机系统的请求,计算机系统检测在计算机系统已被关闭之后打开计算机系统的请求,计算机系统检测媒体项目的回放已被暂停或停止达预先确定的时间段的请求。在一些实施方案中,在计算机系统检测到(并且在一些实施方案中,响应于计算机系统检测到)媒体回放的当前会话的结束之后,计算机系统停止向第一设备(例如,606a)传输第一音频(例如,610a-610k)(例如,或者在检测到媒体回放的当前会话的结束之后,停止向第一设备传输所有音频),并且计算机系统停止向第二设备(例如,606b)传输第二音频(例如,614f-614h)(例如,或者在检测到媒体回放的当前会话的结束之后,停止向第二设备传输所有音频)。在一些实施方案中,在计算机系统停止向第一设备(例如,606a)传输第一音频(例如,610a-610k)并且计算机系统停止向第二设备(例如,606b)传输第二音频(例如,614f-614h)之后,计算机系统检测媒体回放的新会话的开始。在一些实施方案中,检测媒体回放的新会话的开始包括检测发起媒体项目的回放的请求,检测恢复媒体项目的回放的请求。在一些实施方案中,响应于计算机系统检测到媒体回放的新会话的开始,计算机系统向第一设备(例如,606a)传输包括第一音频(例如,610a-610k)的一个或多个特性(例如,语言类型(例如,音频是英语、西班牙语、德语的)、详细水平(例如,标准音频、描述性音频)、包括或不包括与媒体不相关联的外部音频(例如,旁白音频))(例如,一个或多个音频配置)的第四音频。在一些实施方案中,响应于计算机系统检测到媒体回放的新会话的开始,计算机系统向第二设备(例如,606b)传输包括第二音频(例如,614f-614h)的一个或多个特性(例如,语言类型(例如,音频是英语、西班牙语、德语的)、详细水平(例如,标准音频、描述性音频)、包括或不包括与媒体不相关联的外部音频(例如,旁白音频))(例如,一个或多个音频配置)的第五音频。在一些实施方案中,第一音频(例如,610a-610k)的一个或多个特性不同于第二音频(例如,614f-614h)的一个或多个特性。在一些实施方案中,媒体回放的新会话包括计算机系统正在回放不同于媒体项目的第二媒体项目。在一些实施方案中,响应于计算机系统检测到媒体回放的新会话的开始,计算机系统回放第二媒体项目(或媒体项目)。在一些实施方案中,计算机系统在回放第二媒体项目(或第一媒体项目)时将第四音频传输到第一设备并且将第五音频传输到第二设备。在一些实施方案中,计算机系统将第四音频传输到第一设备,而不将第五音频传输到第一设备。在一些实施方案中,计算机系统将第五音频传输到第二设备,而不将第四音频传输到第二设备。在一些实施方案中,当媒体回放的新会话包括正在回放媒体项目时,第四音频与第一音频相同,并且第五音频与第二音频相同。响应于检测到媒体回放的新会话的开始而向第一设备传输包括第一音频的一个或多个特性的第四音频并且向第二设备传输包括第二音频的一个或多个特性的第五音频减少了用户将设备重置回每个设备在先前会话期间所处的配置将需要的用户输入的数量。减少执行操作的用户输入的数量增强了设备的可操作性,并且使用户-设备界面更高效(例如,通过帮助用户提供合适的输入并减少操作设备/与设备进行交互时的用户错误),这又通过使得用户能够更快且高效地使用设备而减少了电力使用并延长了设备的电池寿命。
在一些实施方案中,在致使回放对应于多个音轨的媒体时,计算机系统致使(例如,发送指令以使一个或多个输入设备显示)经由一个或多个输入设备(例如,604)(例如,在其上)(例如,外部遥控器上的显示器)显示用户界面,该用户界面包括用于配置要在第二设备(例如,608b、608c)上回放的音频的多个可选择选项(例如,一个或多个语言选项、一个或多个详细水平选项、一个或多个外部音轨选项)。在一些实施方案中,向第二设备(例如,608b、608c)传输对应于多个音轨中的第二音轨的第二音频(例如,614f-614h)的请求包括接收对多个可选择选项(例如,630a-630c、632a-632b、634a-634b、636a-636b)中的一个或多个可选择选项的选择(例如,一个或多个输入设备上的一个或多个轻击)。致使经由一个或多个输入设备显示包括用于配置要在第二设备上回放的音频的多个可选择选项的用户界面向用户提供了附加控制选项,而不会使包括正被回放的媒体的表示的用户界面混乱。提供附加的控制选项而不使用户界面混乱使用户-系统界面更有效(例如,通过帮助用户提供适当的输入并减少操作设备/与设备交互时的用户错误),这又通过使用户能够更快速且有效地使用设备而减少了电力使用并且延长了设备的电池寿命。
出于解释的目的,前面的描述是通过参考具体实施方案来描述的。然而,上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择并描述这些实施方案是为了最好地解释这些技术的原理及其实际应用程序。本领域的其他技术人员由此能够最好地利用这些技术以及具有适合于所预期的特定用途的各种修改的各种实施方案。
虽然参照附图对本公开以及示例进行了全面的描述,但应当注意,各种变化和修改对于本领域内的技术人员而言将变得显而易见。应当理解,此类变化和修改被认为被包括在由权利要求书所限定的本公开和示例的范围内。
如上所述,本发明技术的一个方面在于采集和使用得自各种来源的数据,以改进媒体内容(例如,或用户可能感兴趣的任何其他内容)的音频到用户的传输。本公开预期,在一些实例中,这些所采集的数据可包括唯一地识别或可用于联系或定位特定人员的个人信息数据。此类个人信息数据可以包括人口统计数据、基于位置的数据、电话号码、电子邮件地址、推特ID、家庭地址、与用户的健康或健身水平有关的数据或记录(例如,生命体征测量、药物信息、锻炼信息)、出生日期或任何其他识别或个人信息。
本公开认识到在本发明技术中使用此类个人信息数据可用于使用户受益。例如,个人信息数据可用于传输用户更感兴趣的呈特定格式的媒体内容的音频。因此,使用此类个人信息数据使得用户能够对媒体内容进行有计划的控制。此外,本公开还预期个人信息数据有益于用户的其他用途。例如,健康和健身数据可用于向用户的总体健康状况提供见解,或者可用作使用技术来追求健康目标的个人的积极反馈。
本公开设想负责采集、分析、公开、传输、存储或其他使用此类个人信息数据的实体将遵守既定的隐私政策和/或隐私实践。具体地,此类实体应当实行并坚持使用被公认为满足或超出对维护个人信息数据的隐私性和安全性的行业或政府要求的隐私政策和实践。此类政策应该能被用户方便地访问,并应随着数据的采集和/或使用变化而被更新。来自用户的个人信息应当被收集用于实体的合法且合理的用途,并且不在这些合法使用之外共享或出售。此外,应在收到用户知情同意后进行此类采集/共享。另外,此类实体应考虑采取任何必要步骤,保卫和保障对此类个人信息数据的访问,并确保有权访问个人信息数据的其他人遵守其隐私政策和流程。另外,这种实体可使其本身经受第三方评估以证明其遵守广泛接受的隐私政策和实践。另外,应当调整政策和实践,以便采集和/或访问的特定类型的个人信息数据,并适用于包括管辖范围的具体考虑的适用法律和标准。例如,在美国,对某些健康数据的收集或获取可能受联邦和/或州法律的管辖,诸如健康保险流通和责任法案(HIPAA);而其他国家的健康数据可能受到其他法规和政策的约束并应相应处理。因此,在每个国家应为不同的个人数据类型保持不同的隐私实践。
不管前述情况如何,本公开还预期用户选择性地阻止使用或访问个人信息数据的实施方案。即本公开预期可提供硬件元件和/或软件元件,以防止或阻止对此类个人信息数据的访问。例如,就媒体内容提供商而言,本发明技术可被配置为在注册服务期间或之后任何时候允许用户选择“选择加入”或“选择退出”参与对个人信息数据的收集。又如,用户可选择不提供音频配置数据和/或体验数据以用于媒体内容(包括媒体的音频内容)的目标递送。再如,用户可选择限制维持用于媒体内容的目标递送的音频配置数据和/或体验数据的时间长度或完全禁止媒体内容配置文件的开发。除了提供“选择加入”和“选择退出”选项外,本公开还设想提供与访问或使用个人信息相关的通知。例如,可在下载应用时向用户通知其个人信息数据将被访问,然后就在个人信息数据被应用访问之前再次提醒用户。
此外,本公开的目的是应管理和处理个人信息数据以最小化无意或未经授权访问或使用的风险。一旦不再需要数据,通过限制数据收集和删除数据可最小化风险。此外,并且当适用时,包括在某些健康相关应用程序中,数据去标识可用于保护用户的隐私。可在适当时通过移除特定标识符(例如,出生日期等)、控制所存储数据的量或特异性(例如,在城市级别而不是在地址级别收集位置数据)、控制数据如何被存储(例如,在用户之间聚合数据)、和/或其他方法来促进去标识。
因此,虽然本公开广泛地覆盖了使用个人信息数据来实现一个或多个各种所公开的实施方案,但本公开还预期各种实施方案也可在无需访问此类个人信息数据的情况下被实现。即,本发明技术的各种实施方案不会由于缺少此类个人信息数据的全部或一部分而无法正常进行。例如,可通过基于非个人信息数据或绝对最低限度的个人信息(诸如与用户相关联的设备所请求的内容、对媒体内容提供商可用的其他非个人信息或公开可用信息)推断偏好来选择特定媒体项目的音频内容并将其递送给用户。

Claims (16)

1.一种方法,包括:
在与一个或多个输入设备通信的计算机系统处:
在致使回放与多个音轨相对应的媒体项目时,向第一设备和第二设备传输与所述多个音轨中的第一音轨相对应的第一音频;
在向所述第一设备和所述第二设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输与所述多个音轨中不同于所述第一音轨的第二音轨相对应的第二音频的请求;以及
响应于接收到向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求:
向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频;以及
继续向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频。
2.根据权利要求1所述的方法,其中:
所述计算机系统经由第一连接与所述第一设备通信;并且
所述计算机系统经由不同于所述第一连接的第二连接与所述第二设备通信。
3.根据权利要求1至2中任一项所述的方法,其中:
所述第一设备是第一类型的设备;并且
所述第二设备是与所述第一类型的设备不同的第二类型的电子设备。
4.根据权利要求1至3中任一项所述的方法,其中向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频包括:停止向所述第二设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频。
5.根据权利要求1至4中任一项所述的方法,其中:
接收向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求包括:经由所述一个或多个输入设备接收对语言选项的选择;并且
所述第二音轨包括与所述语言选项的语言相对应的音频内容。
6.根据权利要求1至5中任一项所述的方法,其中:
接收向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求包括:经由所述一个或多个输入设备接收对详细水平选项的选择;并且
所述第二音轨具有与所述详细水平选项相对应的量的音频内容。
7.根据权利要求1至6中任一项所述的方法,其中:
接收向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求包括:经由所述一个或多个输入设备接收对外部音轨选项的选择;并且
所述第二音频包括所述媒体项目的所述多个音轨中不包括的音频内容。
8.根据权利要求1至7中任一项所述的方法,还包括:
在向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频时,接收连接第三设备的请求;以及
响应于接收到连接所述第三设备的所述请求,传输包括所述多个音轨中的第三音轨的第三音频,其中所述第三音轨基于所述第三设备的历史使用来选择。
9.根据权利要求1至8中任一项所述的方法,还包括:
在向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频并且向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频时,检测媒体回放的当前会话的结束;
在检测到媒体回放的所述当前会话的结束之后,停止向所述第一设备传输所述第一音频并且停止向所述第二设备传输所述第二音频;
在停止向所述第一设备传输所述第一音频并且停止向所述第二设备传输所述第二音频之后,检测媒体回放的新会话的开始;以及
响应于检测到媒体回放的所述新会话的所述开始:
向所述第一设备传输包括所述第一音频的一个或多个特性的第四音频;以及
向所述第二设备传输包括所述第二音频的一个或多个特性的第五音频,其中所述第一音频的所述一个或多个特性不同于所述第二音频的所述一个或多个特性。
10.根据权利要求1至9中任一项所述的方法,还包括:
在致使回放与所述多个音轨相对应的所述媒体时,致使经由所述一个或多个输入设备显示用户界面,所述用户界面包括用于配置要在所述第二设备上回放的音频的多个可选择选项,其中向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的第二音频的所述请求包括:检测对所述多个可选择选项中的一个或多个可选择选项的选择。
11.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由计算机系统的一个或多个处理器执行的一个或多个程序,其中所述计算机系统与一个或多个输入设备通信,所述一个或多个程序包括用于执行根据权利要求1至10中任一项所述的方法的指令。
12.一种计算机系统,包括:
一个或多个处理器,其中所述计算机系统与一个或多个输入设备通信;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行根据权利要求1至10中任一项所述的方法的指令。
13.一种计算机系统,包括:
用于执行根据权利要求1至10中任一项所述的方法的装置。
14.一种非暂态计算机可读存储介质,所述非暂态计算机可读存储介质存储被配置为由计算机系统的一个或多个处理器执行的一个或多个程序,其中所述计算机系统与一个或多个输入设备通信,所述一个或多个程序包括用于执行以下操作的指令:
在致使回放与多个音轨相对应的媒体项目时,向第一设备和第二设备传输与所述多个音轨中的第一音轨相对应的第一音频;
在向所述第一设备和所述第二设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输与所述多个音轨中不同于所述第一音轨的第二音轨相对应的第二音频的请求;以及
响应于接收到向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求:
向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频;以及
继续向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频。
15.一种计算机系统,包括:
一个或多个处理器,其中所述计算机系统与一个或多个输入设备通信;和
存储器,所述存储器存储被配置为由所述一个或多个处理器执行的一个或多个程序,所述一个或多个程序包括用于执行以下操作的指令:
在致使回放与多个音轨相对应的媒体项目时,向第一设备和第二设备传输与所述多个音轨中的第一音轨相对应的第一音频;
在向所述第一设备和所述第二设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频时,经由所述一个或多个输入设备接收向所述第二设备传输与所述多个音轨中不同于所述第一音轨的第二音轨相对应的第二音频的请求;以及
响应于接收到向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求:
向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频;以及
继续向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频。
16.一种计算机系统,其中所述计算机系统与一个或多个输入设备通信,所述计算机系统包括:
在致使回放与多个音轨相对应的媒体项目时,用于向第一设备和第二设备传输与所述多个音轨中的第一音轨相对应的第一音频的装置;
在向所述第一设备和所述第二设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频时,用于经由所述一个或多个输入设备接收向所述第二设备传输与所述多个音轨中不同于所述第一音轨的第二音轨相对应的第二音频的请求的装置;以及
响应于接收到向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频的所述请求,用于执行以下操作的装置:
向所述第二设备传输与所述多个音轨中的所述第二音轨相对应的所述第二音频;以及
继续向所述第一设备传输与所述多个音轨中的所述第一音轨相对应的所述第一音频。
CN202180053640.7A 2020-09-05 2021-08-20 用于管理媒体项目的音频的用户界面 Pending CN116195261A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202063075130P 2020-09-05 2020-09-05
US63/075,130 2020-09-05
PCT/US2021/046861 WO2022051112A1 (en) 2020-09-05 2021-08-20 User interfaces for managing audio for media items

Publications (1)

Publication Number Publication Date
CN116195261A true CN116195261A (zh) 2023-05-30

Family

ID=77999366

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180053640.7A Pending CN116195261A (zh) 2020-09-05 2021-08-20 用于管理媒体项目的音频的用户界面

Country Status (4)

Country Link
US (1) US11785277B2 (zh)
EP (1) EP4189682A1 (zh)
CN (1) CN116195261A (zh)
WO (1) WO2022051112A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20230126176A1 (en) * 2021-10-21 2023-04-27 Rovi Guides, Inc. System and method for selection and transmission of personalized content tracks

Family Cites Families (140)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030093790A1 (en) 2000-03-28 2003-05-15 Logan James D. Audio and video program recording, editing and playback systems using metadata
US5974235A (en) 1996-10-31 1999-10-26 Sensormatic Electronics Corporation Apparatus having flexible capabilities for analysis of video information
US7293280B1 (en) 1999-07-08 2007-11-06 Microsoft Corporation Skimming continuous multimedia content
AUPQ217399A0 (en) 1999-08-12 1999-09-02 Honeywell Limited Realtime digital video server
KR100346263B1 (ko) 1999-11-05 2002-07-26 엘지전자주식회사 멀티미디어 스트림의 브라우징, 편집, 인덱싱을 위한 다단계 위치/구간 지정 방법
JP4325071B2 (ja) 2000-04-07 2009-09-02 ソニー株式会社 デジタルビデオ再生方法及びデジタルビデオ再生装置
US6483986B1 (en) 2000-05-26 2002-11-19 Keen Personal Media, Inc. Method and apparatus for recording streaming video data upon selection of alternative subject matter
WO2002021530A1 (en) 2000-09-08 2002-03-14 Koninklijke Philips Electronics N.V. Reproducing apparatus providing a colored slider bar
US6678413B1 (en) 2000-11-24 2004-01-13 Yiqing Liang System and method for object identification and behavior characterization using video analysis
US7380216B2 (en) 2000-11-30 2008-05-27 International Business Machines Corporation Zoom-capable scrollbar
US7401351B2 (en) 2000-12-14 2008-07-15 Fuji Xerox Co., Ltd. System and method for video navigation and client side indexing
US20020082730A1 (en) 2000-12-21 2002-06-27 Microsoft Corporation Universal media player
US7428023B2 (en) 2001-04-19 2008-09-23 Digeo, Inc. Remote control device with integrated display screen for controlling a digital video recorder
US7904814B2 (en) 2001-04-19 2011-03-08 Sharp Laboratories Of America, Inc. System for presenting audio-video content
US20030110511A1 (en) 2001-12-11 2003-06-12 Schutte Mark E. Controlling personal video recording functions from interactive television
JP3978599B2 (ja) 2002-09-19 2007-09-19 三和シヤッター工業株式会社 ホームネットワークシステム
US7043477B2 (en) 2002-10-16 2006-05-09 Microsoft Corporation Navigating media content via groups within a playlist
WO2005027068A1 (en) 2003-09-12 2005-03-24 Canon Kabushiki Kaisha Streaming non-continuous video data
US20050163345A1 (en) 2003-12-03 2005-07-28 Safehouse International Limited Analysing image data
US20060013554A1 (en) 2004-07-01 2006-01-19 Thomas Poslinski Commercial storage and retrieval
US7562299B2 (en) 2004-08-13 2009-07-14 Pelco, Inc. Method and apparatus for searching recorded video
US8566879B2 (en) 2004-09-28 2013-10-22 Sony Corporation Method and apparatus for navigating video content
US20060171453A1 (en) 2005-01-04 2006-08-03 Rohlfing Thomas R Video surveillance system
US7843491B2 (en) 2005-04-05 2010-11-30 3Vr Security, Inc. Monitoring and presenting video surveillance data
US7769819B2 (en) 2005-04-20 2010-08-03 Videoegg, Inc. Video editing with timeline representations
AU2005202866A1 (en) 2005-06-29 2007-01-18 Canon Kabushiki Kaisha Storing video data in a video file
US20070033632A1 (en) 2005-07-19 2007-02-08 March Networks Corporation Temporal data previewing system
KR100679049B1 (ko) 2005-09-21 2007-02-05 삼성전자주식회사 인물 및 장소정보를 제공하는 썸네일에 의한 사진탐색 방법및 그 장치
US8954852B2 (en) 2006-02-03 2015-02-10 Sonic Solutions, Llc. Adaptive intervals in navigating content and/or media
US8255815B2 (en) 2006-08-04 2012-08-28 Apple Inc. Motion picture preview icons
JP4312804B2 (ja) 2007-03-01 2009-08-12 株式会社日立国際電気 記録内容表示プログラム及び記録内容表示装置
KR101407636B1 (ko) 2007-11-05 2014-06-16 삼성전자주식회사 영상 표시 장치 및 그 제어 방법
KR101503714B1 (ko) 2008-02-05 2015-03-20 삼성전자주식회사 Gui 제공방법 및 이를 적용한 멀티미디어 기기
JP2009295147A (ja) 2008-05-07 2009-12-17 Hoya Corp スクロール表示可能な情報処理装置
US20090299810A1 (en) 2008-05-09 2009-12-03 Jardine Joseph M Combining tasks and events
US20170185277A1 (en) 2008-08-11 2017-06-29 Icontrol Networks, Inc. Automation system user interface
KR101446521B1 (ko) 2008-08-12 2014-11-03 삼성전자주식회사 터치 스크린의 정보 스크롤 제어 방법 및 장치
CN102257463A (zh) 2008-12-18 2011-11-23 日本电气株式会社 滑动条显示控制装置以及滑动条显示控制方法
US20100201815A1 (en) 2009-02-09 2010-08-12 Vitamin D, Inc. Systems and methods for video monitoring
KR101549011B1 (ko) 2009-04-21 2015-09-01 엘지전자 주식회사 이동 단말기 및 이것의 방송 정보 디스플레이 방법
KR102112973B1 (ko) 2009-07-16 2020-05-19 블루핀 랩스, 인코포레이티드 컴퓨터 실행 방법, 시스템 및 컴퓨터 판독 가능 매체
US8935204B2 (en) 2009-08-14 2015-01-13 Aframe Media Services Limited Metadata tagging of moving and still image content
ITMI20091600A1 (it) 2009-09-18 2011-03-19 March Networks Corp Tolleranza ai guasti in un sistema di video sorveglianza
KR20110067492A (ko) 2009-12-14 2011-06-22 삼성전자주식회사 Gui 제공방법 및 이를 적용한 멀티미디어 기기
KR20110093040A (ko) 2010-02-11 2011-08-18 엘지전자 주식회사 피사체 감시 장치 및 방법
US8787618B2 (en) 2010-04-13 2014-07-22 Sony Corporation Content information processing device, content information processing method, content information processing program, and personal digital assistant
US9445135B2 (en) 2010-09-17 2016-09-13 Futurewei Technologies, Inc. Method and apparatus for scrub preview services
JP5627092B2 (ja) 2010-09-29 2014-11-19 株式会社セキュリティハウス・センター セキュリティシステム
JP5649425B2 (ja) 2010-12-06 2015-01-07 株式会社東芝 映像検索装置
KR101841574B1 (ko) 2011-01-06 2018-03-23 삼성전자 주식회사 동영상 장면 검색 방법 및 이를 지원하는 휴대 단말기
US9398322B2 (en) * 2011-04-27 2016-07-19 Time Warner Cable Enterprises Llc Multi-lingual audio streaming
US9098611B2 (en) 2012-11-26 2015-08-04 Intouch Technologies, Inc. Enhanced video interaction for a user interface of a telepresence network
US8839109B2 (en) 2011-11-14 2014-09-16 Utc Fire And Security Americas Corporation, Inc. Digital video system with intelligent video selection timeline
KR101527038B1 (ko) 2012-02-24 2015-06-08 엘지전자 주식회사 이동 단말기 및 그 제어 방법, 이를 위한 기록 매체
US8997169B2 (en) * 2012-03-23 2015-03-31 Sony Corporation System, method, and infrastructure for synchronized streaming of content
WO2013152420A1 (en) 2012-04-09 2013-10-17 The Dgroup Inc. Systems and methods for providing electronic cues for time-based media
US20140150029A1 (en) 2012-04-18 2014-05-29 Scorpcast, Llc System and methods for providing user generated video reviews
KR20130123053A (ko) 2012-05-02 2013-11-12 삼성전자주식회사 멀티미디어 확장 탐색 방법과 그 멀티미디어 재생 장치
US9632685B2 (en) 2012-05-31 2017-04-25 Eric Qing Li Method of navigating through a media program displayed on a portable electronic device in a magnified time scale
US10437454B2 (en) 2012-07-09 2019-10-08 Facebook, Inc. Dynamically scaled navigation system for social network data
US8954853B2 (en) 2012-09-06 2015-02-10 Robotic Research, Llc Method and system for visualization enhancement for situational awareness
US9774917B1 (en) * 2012-12-10 2017-09-26 Apple Inc. Channel bar user interface
US8745500B1 (en) 2012-12-10 2014-06-03 VMIX Media, Inc. Video editing, enhancement and distribution platform for touch screen computing devices
KR102047696B1 (ko) 2013-02-20 2019-11-22 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US10694149B2 (en) 2013-03-26 2020-06-23 Verizon Patent And Licensing Inc. Web based security system
WO2014176379A2 (en) 2013-04-23 2014-10-30 Canary Connect, Inc. Security and/or monitoring devices and systems
US9021526B1 (en) 2013-05-03 2015-04-28 Amazon Technologies, Inc. Video navigation preview
KR102161230B1 (ko) 2013-05-28 2020-09-29 삼성전자주식회사 멀티미디어 콘텐츠 검색을 위한 사용자 인터페이스 방법 및 장치
US10474240B2 (en) 2013-06-10 2019-11-12 Honeywell International Inc. Frameworks, devices and methods configured for enabling gesture-based interaction between a touch/gesture controlled display and other networked devices
US20140375819A1 (en) 2013-06-24 2014-12-25 Pivotal Vision, Llc Autonomous video management system
US10282068B2 (en) 2013-08-26 2019-05-07 Venuenext, Inc. Game event display with a scrollable graphical game play feed
US9575621B2 (en) 2013-08-26 2017-02-21 Venuenext, Inc. Game event display with scroll bar and play event icons
CN104469512B (zh) 2013-09-25 2018-02-16 浙江大华技术股份有限公司 一种视频播放器及其控制视频播放的方法
US9979995B2 (en) 2013-09-30 2018-05-22 Google Llc Visual hot watch spots in content item playback
US9258524B2 (en) 2013-09-30 2016-02-09 International Business Machines Corporation Streaming playback within a live video conference
KR102092316B1 (ko) 2013-10-14 2020-03-23 한화테크윈 주식회사 모니터링 방법
US9798828B2 (en) 2013-10-25 2017-10-24 Turner Broadcasting System, Inc. Concepts for providing an enhanced media presentation
US9727215B2 (en) 2013-11-11 2017-08-08 Htc Corporation Method for performing multimedia management utilizing tags, and associated apparatus and associated computer program product
US20150142587A1 (en) 2013-11-20 2015-05-21 Honeywell International Inc. System and Method of Dynamic Correlation View for Cloud Based Incident Analysis and Pattern Detection
US9781180B2 (en) 2013-12-20 2017-10-03 Verizon Patent And Licensing Inc. Redistributing broadcasted content
JP5597762B1 (ja) 2013-12-27 2014-10-01 パナソニック株式会社 活動マップ分析装置、活動マップ分析システムおよび活動マップ分析方法
KR102277752B1 (ko) 2014-01-06 2021-07-16 삼성전자주식회사 웨어러블 기기를 이용한 홈 디바이스 제어 장치 및 제어 방법
US20150193127A1 (en) 2014-01-07 2015-07-09 Opentv Inc. Systems and methods of displaying integrated home automation modules
US9728230B2 (en) 2014-02-20 2017-08-08 International Business Machines Corporation Techniques to bias video thumbnail selection using frequently viewed segments
CN104917666B (zh) 2014-03-13 2019-08-06 腾讯科技(深圳)有限公司 一种制作个性化动态表情的方法和装置
US9519644B2 (en) * 2014-04-04 2016-12-13 Facebook, Inc. Methods and devices for generating media items
ES2956362T3 (es) * 2014-05-28 2023-12-20 Fraunhofer Ges Forschung Procesador de datos y transporte de datos de control del usuario a decodificadores de audio y renderizadores
JP6137102B2 (ja) 2014-06-30 2017-05-31 キヤノンマーケティングジャパン株式会社 情報処理装置、及びその制御方法、プログラム
US9779307B2 (en) 2014-07-07 2017-10-03 Google Inc. Method and system for non-causal zone search in video monitoring
US10140827B2 (en) 2014-07-07 2018-11-27 Google Llc Method and system for processing motion event notifications
US9354794B2 (en) 2014-07-07 2016-05-31 Google Inc. Method and system for performing client-side zooming of a remote video feed
US10645459B2 (en) 2014-08-04 2020-05-05 Live View Technologies Devices, systems, and methods for remote video retrieval
US10390059B2 (en) * 2014-09-04 2019-08-20 Comcast Cable Communications, Llc Latent binding of content based on user preference
US10310704B2 (en) 2014-09-18 2019-06-04 Ademco Inc. System and method to have location based personalized UI updates on mobile app for connected users in security, video and home automation applications
WO2016054036A1 (en) 2014-09-30 2016-04-07 The Chamberlain Group, Inc. Garage monitor
JP6517022B2 (ja) 2014-09-30 2019-05-22 株式会社西電通 安否確認システム、インターホン、及び集合住宅
US10424341B2 (en) 2014-11-12 2019-09-24 Massachusetts Institute Of Technology Dynamic video summarization
JP2016119600A (ja) 2014-12-22 2016-06-30 オリンパス株式会社 編集装置及び編集方法
KR102250090B1 (ko) 2014-12-24 2021-05-10 삼성전자주식회사 영상 데이터를 송수신하는 디바이스 및 그 방법
KR101522311B1 (ko) 2015-01-12 2015-05-22 주식회사 지오멕스소프트 미리보기 기능을 갖춘 감시카메라 영상 반출 시스템
KR102315339B1 (ko) 2015-02-02 2021-10-20 삼성전자주식회사 디스플레이 장치의 이의 디스플레이 방법
WO2016145408A1 (en) * 2015-03-12 2016-09-15 everyStory, Inc. Story capture system
US9361011B1 (en) 2015-06-14 2016-06-07 Google Inc. Methods and systems for presenting multiple live video feeds in a user interface
US20170053008A1 (en) 2015-08-18 2017-02-23 Google Inc. Time series explorer
US10219026B2 (en) 2015-08-26 2019-02-26 Lg Electronics Inc. Mobile terminal and method for playback of a multi-view video
US9704537B2 (en) 2015-09-03 2017-07-11 Echostar Technologies L.L.C. Methods and systems for coordinating home automation activity
US10299017B2 (en) 2015-09-14 2019-05-21 Logitech Europe S.A. Video searching for filtered and tagged motion
US9313556B1 (en) 2015-09-14 2016-04-12 Logitech Europe S.A. User interface for video summaries
JP6685695B2 (ja) 2015-10-30 2020-04-22 キヤノン株式会社 端末及び撮像装置
CN105338368B (zh) 2015-11-02 2019-03-15 腾讯科技(北京)有限公司 一种视频的直播流转点播数据的方法、装置及系统
US10861305B2 (en) 2016-05-20 2020-12-08 Vivint, Inc. Drone enabled street watch
US10121515B2 (en) 2016-06-06 2018-11-06 Avigilon Corporation Method, system and computer program product for interactively identifying same individuals or objects present in video recordings
DK179925B1 (en) 2016-06-12 2019-10-09 Apple Inc. USER INTERFACE FOR MANAGING CONTROLLABLE EXTERNAL DEVICES
US10356480B2 (en) 2016-07-05 2019-07-16 Pluto Inc. Methods and systems for generating and providing program guides and content
US10263802B2 (en) 2016-07-12 2019-04-16 Google Llc Methods and devices for establishing connections with remote cameras
US20180018081A1 (en) 2016-07-12 2018-01-18 Google Inc. Methods and Systems for Presenting Smart Home Information in a User Interface
US10521107B2 (en) 2016-09-24 2019-12-31 Apple Inc. Devices, methods, and graphical user interfaces for selecting and interacting with different device modes
KR20180038241A (ko) 2016-10-06 2018-04-16 한화테크윈 주식회사 영상 제공 장치 및 방법
JP6827758B2 (ja) 2016-10-12 2021-02-10 東芝映像ソリューション株式会社 移動式アシスト装置及び移動式アシスト方法
KR102546763B1 (ko) 2016-10-17 2023-06-22 한화비전 주식회사 영상 제공 장치 및 방법
US11238290B2 (en) 2016-10-26 2022-02-01 Google Llc Timeline-video relationship processing for alert events
US10386999B2 (en) 2016-10-26 2019-08-20 Google Llc Timeline-video relationship presentation for alert events
KR102674150B1 (ko) 2016-12-27 2024-06-10 한화비전 주식회사 가변 이벤트 검출 조건을 가지는 촬상 장치
US10586433B2 (en) 2017-02-13 2020-03-10 Google Llc Automatic detection of zones of interest in a video
US20180232705A1 (en) 2017-02-15 2018-08-16 Microsoft Technology Licensing, Llc Meeting timeline management tool
US10070093B1 (en) 2017-02-24 2018-09-04 Microsoft Technology Licensing, Llc Concurrent viewing of live content and recorded content
US10362346B2 (en) * 2017-04-20 2019-07-23 Apple Inc. Simultaneous playback for multiple audience members with different visual and audio needs
US11509944B2 (en) 2017-05-18 2022-11-22 Nbcuniversal Media, Llc System and method for presenting contextual clips for distributed content
KR102313755B1 (ko) 2017-06-07 2021-10-18 엘지전자 주식회사 이동 단말기 및 그 제어 방법
US11134227B2 (en) 2017-09-20 2021-09-28 Google Llc Systems and methods of presenting appropriate actions for responding to a visitor to a smart home environment
CN107613235B (zh) 2017-09-25 2019-12-27 北京达佳互联信息技术有限公司 视频录制方法和装置
US20190130185A1 (en) 2017-11-01 2019-05-02 International Business Machines Corporation Visualization of Tagging Relevance to Video
WO2019090653A1 (zh) 2017-11-10 2019-05-16 腾讯科技(深圳)有限公司 一种视频直播的方法、装置和系统
US10728624B2 (en) 2017-12-29 2020-07-28 Rovi Guides, Inc. Systems and methods for modifying fast-forward speeds based on the user's reaction time when detecting points of interest in content
US10298643B1 (en) 2018-01-17 2019-05-21 Hulu, LLC Live edge detection during video playback
CN112468783B (zh) 2018-05-07 2022-03-29 苹果公司 用于显示视频媒体用户界面的方法、电子设备和存储介质
EP3827322B1 (en) * 2018-10-08 2023-05-24 Google LLC Drop protection for display assistant device
US10805664B2 (en) * 2018-10-15 2020-10-13 Bose Corporation Wireless audio synchronization
US11172298B2 (en) * 2019-07-08 2021-11-09 Apple Inc. Systems, methods, and user interfaces for headphone fit adjustment and audio output control
US20210144422A1 (en) * 2019-11-07 2021-05-13 Comcast Cable Communications, Llc Device Synchronization For Audiovisual Content

Also Published As

Publication number Publication date
US20220078506A1 (en) 2022-03-10
WO2022051112A1 (en) 2022-03-10
US11785277B2 (en) 2023-10-10
EP4189682A1 (en) 2023-06-07

Similar Documents

Publication Publication Date Title
CN112368674B (zh) 使用注视信息的设备控制
CN111108740B (zh) 电子设备、计算机可读存储介质及用于显示通信会话中的参与者的视觉指示符的方法
CN113939793B (zh) 用于电子语音通信的用户界面
CN113950663A (zh) 音频媒体用户界面
CN113906378B (zh) 用于访问账户的用户界面
US11847378B2 (en) User interfaces for audio routing
US20230098814A1 (en) Media controls user interface
CN116508021A (zh) 用于处理用户请求的方法和用户界面
CN115793941A (zh) 编辑头像的特征
US11670144B2 (en) User interfaces for indicating distance
CN113906374A (zh) 用于音频同步的方法和用户界面
CN115866123B (zh) 用于控制音频媒体输出的方法和设备
US11785277B2 (en) User interfaces for managing audio for media items
CN117355811A (zh) 用于跟踪某些功能的执行时间的方法和用户界面
CN117546471A (zh) 用于指示和/或控制内容项回放格式的用户界面
AU2022235591B9 (en) Media controls user interface
US20240053953A1 (en) User interfaces for audio routing
CN117957518A (zh) 媒体控件用户界面
CN117441156A (zh) 用于音频路由的用户界面
WO2023235594A1 (en) User interfaces for managing a time-based event
CN118104219A (zh) 低带宽和紧急通信用户界面

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination