CN113728359A - 用于生成cgr对象的设备、方法和图形用户界面 - Google Patents

Abstract

在一个实施方案中，一种生成3D对象的方法由包括处理器、非暂态存储器和一个或多个输入设备的设备执行。该方法包括经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入。该方法包括经由一个或多个输入设备接收请求基于文件生成三维(3D)对象的用户输入。该方法包括基于文件类型生成表示2D内容的3D对象。

Description

用于生成CGR对象的设备、方法和图形用户界面

相关申请的交叉引用

本申请要求于2019年5月6日提交的美国专利申请第16/403,835号的权益，该申请全文以引用方式并入。

技术领域

本公开整体涉及具有触敏表面的电子设备，包括但不限于生成计算机生成现实(CGR)对象的具有触敏表面的电子设备。

背景技术

存在各种计算机辅助设计(CAD)工具以帮助生成三维对象，每个对象与线框和一个或多个纹理图像相关联。然而，生成三维对象可能是困难且耗时的过程。

发明内容

因此，需要具有用于编写计算机生成现实(CGR)文件的更快速更有效的方法和界面的电子设备。此类方法和界面任选地补充或替换用于编写CGR文件的常规方法。此类方法和界面减少对用户所造成的认知负担，并且产生更有效的人机界面。对于电池驱动设备，此类方法和界面可节省用电并且增加两次电池充电之间的时间。

借助所公开的设备可减少或消除与具有触敏表面的电子设备的用户界面相关联的上述缺陷和其他问题。在一些实施方案中，该设备是台式计算机。在一些实施方案中，该设备是便携式的(例如，笔记本电脑、平板电脑或手持设备)。在一些实施方案中，该设备具有触控板。在一些实施方案中，该设备具有触敏显示器(也称为“触摸屏”或“触摸屏显示器”)。在一些实施方案中，该设备具有图形用户界面(GUI)、一个或多个处理器、存储器和一个或多个模块、被存储在存储器中以用于执行多个功能的程序或指令集。在一些实施方案中，用户主要通过触笔和/或手指接触以及触敏表面上的手势来与GUI进行交互。在一些实施方案中，这些功能任选地包括图像编辑、绘图、呈现、文字处理、网页创建、盘编辑、电子表格制作、玩游戏、接打电话、视频会议、收发电子邮件、即时消息通信、健身支持、数字摄影、数字视频录制、网页浏览、数字音乐播放和/或数字视频播放。用于执行这些功能的可执行指令任选地被包括在被配置用于由一个或多个处理器执行的非暂态计算机可读存储介质或其他计算机程序产品中。

根据一些实施方案，在具有一个或多个处理器、非暂态存储器、以及一个或多个输入设备的设备处执行一种方法。该方法包括经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入。该方法包括经由一个或多个输入设备接收请求基于文件生成三维(3D)对象的用户输入。该方法包括响应于2D内容的文件类型是第一文件类型而选择第一3D对象模板。该方法包括响应于2D内容的文件类型是不同于第一文件类型的第二文件类型而选择不同于第一3D对象模板的第二3D对象模板。该方法包括基于文件类型通过在第一3D对象模板和第二3D对象模板中的所选一者的至少一部分上显示2D内容来生成表示2D内容的3D对象。

根据一些实施方案，电子设备包括显示器、一个或多个输入设备、一个或多个处理器、非暂态存储器以及一个或多个程序；一个或多个程序被存储在非暂态存储器中并且被配置为由一个或多个处理器执行，并且一个或多个程序包括用于执行或导致执行本文所述的方法中的任一种方法的操作的指令。根据一些实施方案，一种非暂态计算机可读存储介质具有存储在其中的指令，当这些指令由具有显示器和一个或多个输入设备的电子设备的一个或多个处理器执行时，使得设备执行或导致执行本文所述的方法中的任一种方法的操作。根据一些实施方案，在具有显示器、一个或多个输入设备、非暂态存储器和配置为执行存储在非暂态存储器中的一个或多个程序的一个或多个处理器的电子设备上的图形用户界面包括在上述方法中的任一种方法中显示的元素中的一个或多个元素，这些元素响应于输入而被更新，如在本文所述方法中的任一种方法中所述。根据一些实施方案，电子设备包括：显示器、一个或多个输入设备；以及用于执行或导致执行本文所述的方法中的任一种方法的操作的装置。根据一些实施方案，在具有显示器和一个或多个输入设备的电子设备中使用的信息处理装置包括用于执行或导致执行本文所述的方法中的任一种方法的操作的装置。

因此，具有显示器和输入设备(诸如触敏表面)的电子设备被提供有用于编写CGR文件的更快、更有效的方法和界面，从而提高此类设备的有效性、效率和用户满意度。此类方法和界面可补充或替换用于编写CGR文件的常规方法。

附图说明

为了更好地理解各种所述实施方案，应结合以下附图参考下面的具体实施方式，其中类似的附图标号在所有附图中指示对应的部分。

图1A是示出根据一些实施方案的具有触敏显示器的便携式多功能设备的框图。

图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。

图2示出了根据一些实施方案的具有触摸屏的便携式多功能设备。

图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。

图4A示出了根据一些实施方案的便携式多功能设备上的应用程序菜单的示例性用户界面。

图4B示出了根据一些实施方案的用于具有与显示器分开的触敏表面的多功能设备的示例性用户界面。

图5是根据一些实施方案的示例性操作架构的框图。

图6是根据一些实施方案的示例性控制器的框图。

图7是根据一些实施方案的示例性设备的框图。

图8A至图8W示出了根据一些实施方案的用于生成3D对象的示例性用户界面。

图9示出了根据一些实施方案的生成3D对象的方法的流程图。

具体实施方式

根据各种实施方案，提供一种图形用户界面(GUI)以简化基于表示2D内容的文件(诸如图像、视频或文本)生成3D对象。在各种实施方案中，基于文件的文件类型(例如，图像文件或视频文件)选择线框，并且生成表示2D内容的一个或多个纹理图像。

下面，图1A至图1B、图2至图3以及图4A至图4B提供了对示例性CGR对象生成设备的描述。图5、图6和图7提供了对示例性CGR对象呈现设备的描述。图8A至图8W示出了用于生成3D对象的示例性用户界面。图8A至图8W中的用户界面用于示出图9中的过程。

示例性CGR对象生成设备

现在将详细地参考实施方案，这些实施方案的示例在附图中示出。下面的详细描述中示出许多具体细节，以便提供对各种所描述的实施方案的充分理解。但是，对本领域的普通技术人员将显而易见的是，各种所描述的实施方案可以在没有这些具体细节的情况下被实践。在其他情况下，没有详细地描述众所周知的方法、过程、部件、电路和网络，从而不会不必要地使实施方案的各个方面晦涩难懂。

还将理解的是，虽然在一些情况下，术语“第一”、“第二”等在本文中用于描述各种元件，但是这些元件不应受到这些术语限制。这些术语只是用于将一个元件与另一元件区分开。例如，第一接触可被命名为第二接触，并且类似地，第二接触可被命名为第一接触，而不脱离各种所描述的实施方案的范围。第一接触和第二接触均为接触，但它们不是同一个接触，除非上下文另外明确指示。

在本文中对各种所述实施方案的描述中所使用的术语只是为了描述特定实施方案的目的，而并非旨在进行限制。如在对各种所述实施方案中的描述和所附权利要求书中所使用的那样，单数形式“一个”和“该”旨在也包括复数形式，除非上下文另外明确地指示。还将理解的是，本文中所使用的术语“和/或”是指并且涵盖相关联的所列出的项目中的一个或多个项目的任何和全部可能的组合。还将理解的是，术语“包括”(“includes”、“including”、“comprises”和/或“comprising”)在本说明书中使用时是指定存在所陈述的特征、整数、步骤、操作、元件和/或部件，但是并不排除存在或添加一个或多个其他特征、整数、步骤、操作、元件、部件和/或其分组。

如本文中所使用，根据上下文，术语“如果”任选地被解释为意思是“当……时”后“在……时”或“响应于确定”或“响应于检测”。类似地，根据上下文，短语“如果确定……”或“如果检测到[所陈述的条件或事件]”任选地被解释为是指“在确定……时”或“响应于确定……”或“在检测到[所陈述的条件或事件]时”或“响应于检测到[所陈述的条件或事件]”。

本文描述了电子设备、此类设备的用户界面和使用此类设备的相关过程的实施方案。在一些实施方案中，该设备为还包含其他功能诸如PDA和/或音乐播放器功能的便携式通信设备，诸如移动电话。便携式多功能设备的示例性实施方案包括但不限于来自AppleInc.(Cupertino,California)的

iPod

和

设备。任选地使用其他便携式电子设备，诸如具有触敏表面(例如，触摸屏显示器和/或触控板)的膝上型计算机或平板计算机。还应当理解的是，在一些实施方案中，该设备并非便携式通信设备，而是具有触敏表面(例如，触摸屏显示器和/或触控板)的台式计算机。

在下面的讨论中，描述了一种包括显示器和触敏表面的电子设备。然而，应当理解，该电子设备任选地包括一个或多个其他物理用户接口设备，诸如物理键盘、鼠标和/或操纵杆。

该设备通常支持各种应用程序，诸如以下中的一者或多者：绘图应用程序、呈现应用程序、文字处理应用程序、网站创建应用程序、盘编辑应用程序、电子表格应用程序、游戏应用程序、电话应用程序、视频会议应用程序、电子邮件应用程序、即时消息应用程序、健身支持应用程序、照片管理应用程序、数字相机应用程序、数字视频摄像机应用程序、网页浏览应用程序、数字音乐播放器应用程序和/或数字视频播放器应用程序。

在设备上执行的各种应用程序任选地使用至少一个通用的物理用户界面设备，诸如触敏表面。触敏表面的一种或多种功能以及被显示在设备上的对应信息任选地对于不同应用程序被调整和/或变化，和/或在相应应用程序内被调整和/或变化。这样，设备的共用物理架构(诸如触敏表面)任选地利用对于用户而言直观且清楚的用户界面来支持各种应用程序。

现在将注意力转到具有触敏显示器的便携式设备的实施方案。图1A是示出根据一些实施方案的具有触敏显示器系统112的便携式多功能设备100的框图。触敏显示器系统112有时为了方便而被叫做“触摸屏”，并且有时被简称为触敏显示器。设备100包括存储器102(其任选地包括一个或多个计算机可读存储介质)、存储器控制器122、一个或多个处理单元(CPU)120、外围设备接口118、RF电路108、音频电路110、扬声器111、麦克风113、输入/输出(I/O)子系统106、其他输入、或控制设备116吗、和外部端口124。设备100任选地包括一个或多个光学传感器164。设备100任选地包括用于检测设备100上的接触的强度的一个或多个强度传感器165(例如，触敏表面，诸如设备100的触敏显示器系统112)。设备100任选地包括用于在设备100上生成触觉输出的一个或多个触觉输出发生器163(例如，在触敏表面诸如设备100的触敏显示器系统112或设备300的触控板355上生成触觉输出)。这些部件任选地通过一个或多个通信总线或信号线103进行通信。

如本说明书和权利要求书中所使用的，术语“触觉输出”是指将由用户利用用户的触感检测到的设备相对于设备的先前位置的物理位移、设备的部件(例如，触敏表面)相对于设备的另一个部件(例如，外壳)的物理位移、或部件相对于设备的质心的位移。例如，在设备或设备的部件与用户对触摸敏感的表面(例如，手指、手掌或用户手部的其他部分)接触的情况下，通过物理位移生成的触觉输出将由用户解释为触感，该触感对应于设备或设备的部件的物理特征的所感知的变化。例如，触敏表面(例如，触敏显示器或触控板)的移动任选地由用户解释为对物理致动按钮的“按下点击”或“松开点击”。在一些情况下，用户将感觉到触感，诸如“按下点击”或“松开点击”，即使在通过用户的移动而物理地被按压(例如，被移位)的与触敏表面相关联的物理致动按钮没有移动时。又如，即使在触敏表面的光滑度无变化时，触敏表面的移动也会任选地由用户解释或感测为触敏表面的“粗糙度”。虽然用户对触摸的此类解释将受到用户的个体化感官知觉的限制，但是对触摸的许多感官知觉是大多数用户共有的。因此，当触觉输出被描述为对应于用户的特定感官知觉(例如，“按下点击”、“松开点击”、“粗糙度”)时，除非另外陈述，否则所生成的触觉输出对应于设备或其部件的物理位移，该物理位移将会生成典型(或普通)用户的所述感官知觉。

应当理解，设备100仅仅是便携式多功能设备的一个示例，并且设备100任选地具有比所示出的部件更多或更少的部件，任选地组合两个或更多个部件，或者任选地具有这些部件的不同配置或布置。图1A中所示的各种部件在硬件、软件、固件、或它们的任何组合(包括一个或多个信号处理电路和/或专用集成电路)中实施。

存储器102任选地包括高速随机存取存储器，并且还任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、闪存存储器设备、或其他非易失性固态存储器设备。设备100的其他部件(诸如CPU 120和外围设备接口118)对存储器102的访问任选地由存储器控制器122来控制。

外围设备接口118可用于将设备的输入外围设备和输出外围设备耦接到CPU 120和存储器102。一个或多个处理器120运行或执行存储器102中所存储的各种软件程序和/或指令集以执行设备100的各种功能并处理数据。

在一些实施方案中，外围设备接口118、CPU 120和存储器控制器122任选地被实现在单个芯片诸如芯片104上。在一些其他实施方案中，它们任选地在独立的芯片上实现。

RF(射频)电路108接收和发送也被称作电磁信号的RF信号。RF电路108将电信号转换为电磁信号/将电磁信号转换为电信号，并且经由电磁信号与通信网络及其他通信设备进行通信。RF电路108任选地包括用于执行这些功能的熟知的电路，包括但不限于天线系统、RF收发器、一个或多个放大器、调谐器、一个或多个振荡器、数字信号处理器、编解码芯片组、用户身份模块(SIM)卡、存储器等等。RF电路108任选地通过无线通信来与网络和其他设备进行通信，这些网络为诸如互联网(也被称为万维网(WWW))、内联网和/或无线网络(诸如，蜂窝电话网络、无线局域网(LAN)和/或城域网(MAN))。该无线通信任选地使用多种通信标准、协议、和技术中的任一者，包括但不限于全球移动通信系统(GSM)、增强型数据GSM环境(EDGE)、高速下行链路分组接入(HSDPA)、高速上行链路分组接入(HSUPA)、演进纯数据(EV-DO)、HSPA、HSPA+、双单元HSPA(DC-HSPDA)、长期演进(LTE)、近场通信(NFC)、宽带码分多址(W-CDMA)、码分多址(CDMA)、时分多址(TDMA)、蓝牙、无线保真(Wi-Fi)(例如，IEEE802.11a、IEEE 802.11ac、IEEE 802.11ax、IEEE 802.11b、IEEE 802.11g和/或IEEE802.11n)、互联网协议语音技术(VoIP)、Wi-MAX、电子邮件协议(例如，互联网消息访问协议(IMAP)和/或邮局协议(POP))、即时消息(例如，可扩展消息处理和存在协议(XMPP)、用于即时消息和存在利用扩展的会话发起协议(SIMPLE)、即时消息和存在服务(IMPS)、和/或短消息服务(SMS))、或者包括在本文档提交日期还未开发出的通信协议的其他任何适当的通信协议。

音频电路110、扬声器111和麦克风113提供用户与设备100之间的音频接口。音频电路110从外围设备接口118接收音频数据，将音频数据转换为电信号，并将电信号传输到扬声器111。扬声器111将电信号转换为人类可听到的声波。音频电路110还接收由麦克风113从声波转换的电信号。音频电路110将电信号转换为音频数据，并且将音频数据传输到外围设备接口118以用于处理。音频数据任选地由外围设备接口118检索自和/或传输至存储器102和/或RF电路108。在一些实施方案中，音频电路110还包括耳麦插孔(例如，图2中的212)。耳麦插孔提供音频电路110与可移除音频输入/输出外围设备之间的接口，该外围设备为诸如仅输出的耳机或者具有输出(例如，单耳耳机或双耳耳机)和输入(例如，麦克风)两者的耳麦。

I/O子系统106将设备100上的输入/输出外围设备诸如触敏显示器系统112和其他输入或控制设备116与外围设备接口118耦接。I/O子系统106任选地包括显示控制器156、光学传感器控制器158、强度传感器控制器159、触觉反馈控制器161、和用于其他输入或控制设备的一个或多个输入控制器160。一个或多个输入控制器160从其他输入或控制设备116接收电信号/将电信号发送到该其他输入或控制设备。其他输入控制设备116任选地包括物理按钮(例如，下压按钮、摇臂按钮等)、拨号盘、滑动开关、操纵杆、点击轮等。在一些另选的实施方案中，一个或多个输入控制器160任选地耦接至以下各项中的任一者(或不耦接至以下各项中的任一者)：键盘、红外线端口、USB端口、触笔、和/或指针设备诸如鼠标。一个或多个按钮(例如，图2中的208)任选地包括用于扬声器111和/或麦克风113的音量控制的向上/向下按钮。一个或多个按钮任选地包括下压按钮(例如，图2中的206)。

触敏显示器系统112提供设备与用户之间的输入接口和输出接口。显示控制器156从触敏显示器系统112接收电信号和/或将电信号发送至该触敏显示器系统。触敏显示器系统112向用户显示视觉输出。视觉输出任选地包括图形、文本、图标、视频以及它们的任何组合(统称为“图形”)。在一些实施方案中，一些视觉输出或全部的视觉输出对应于用户界面对象。

触敏显示器系统112具有基于触觉/触感接触来接受来自用户的输入的触敏表面、传感器或传感器组。触敏显示器系统112和显示控制器156(与存储器102中的任何相关联的模块和/或指令集一起)检测触敏显示器系统112上的接触(和该接触的任何移动或中断)，并且将检测到的接触转换为与被显示在触敏显示器系统112上的用户界面对象(例如，一个或多个软按键、图标、网页或图像)的交互。在一个示例性实施方案中，触敏显示器系统112和用户之间的接触点对应于用户的手指或触笔。

触敏显示器系统112任选地使用LCD(液晶显示器)技术、LPD(发光聚合物显示器)技术、或LED(发光二极管)技术，但是在其他实施方案中使用其他显示技术。触敏显示器系统112和显示控制器156任选地使用现在已知的或以后将开发出的多种触摸感测技术中的任何技术以及其他接近传感器阵列或用于确定与触敏显示器系统112接触的一个或多个点的其他元件来检测接触及其任何移动或中断，该多种触摸感测技术包括但不限于电容性的、电阻性的、红外线的、和表面声波技术。在一个示例性实施方案中，使用投射式互电容感测技术，诸如从Apple Inc.(Cupertino,California)的

iPod

和

中发现的技术。

触敏显示器系统112任选地具有超过100dpi的视频分辨率。在一些实施方案中，触摸屏视频分辨率超过400dpi(例如，为500dpi、800dpi或更大)。用户任选地使用任何合适的物体或附加物诸如触笔、手指等来与触敏显示器系统112接触。在一些实施方案中，将用户界面设计成与基于手指的接触和手势一起工作，由于手指在触摸屏上的接触区域较大，因此这可能不如基于触笔的输入精确。在一些实施方案中，设备将基于手指的粗略输入转化为精确的指针/光标位置或命令以用于执行用户所期望的动作。

在一些实施方案中，除了触摸屏之外，设备100任选地包括用于激活或去激活特定功能的触控板。在一些实施方案中，触控板是设备的触敏区域，与触摸屏不同，该触敏区域不显示视觉输出。触控板任选地是与触敏显示器系统112分开的触敏表面，或者是由触摸屏形成的触敏表面的延伸部分。

设备100还包括用于为各种部件供电的电力系统162。电力系统162任选地包括电力管理系统、一个或多个电源(例如，电池、交流电(AC))、再充电系统、电力故障检测电路、功率转换器或逆变器、电源状态指示符(例如，发光二极管(LED))以及与便携式设备中的电力的生成、管理和分配相关联的任何其他部件。

设备100任选地还包括一个或多个光学传感器164。图1A示出与I/O子系统106中的光学传感器控制器158耦接的光学传感器。一个或多个光学传感器164任选地包括电荷耦合器件(CCD)或互补金属氧化物半导体(CMOS)光电晶体管。一个或多个光学传感器164从环境接收通过一个或多个透镜而投射的光，并且将光转换为表示图像的数据。结合成像模块143(也被叫做相机模块)，一个或多个光学传感器164任选地捕获静态图像和/或视频。在一些实施方案中，光学传感器位于设备100的与设备前部上的触敏显示器系统112相背对的后部上，使得触摸屏能够用作用于静态图像和/或视频图像采集的取景器。在一些实施方案中，另一光学传感器位于设备的前部上，从而获取该用户的图像(例如，用于自拍、用于当用户在触摸屏上观看其他视频会议参与者时进行视频会议等等)。

设备100任选地还包括一个或多个接触强度传感器165。图1A示出了与I/O子系统106中的强度传感器控制器159耦接的接触强度传感器。一个或多个接触强度传感器165任选地包括一个或多个压阻应变仪、电容式力传感器、电气式力传感器、压电力传感器、光学力传感器、电容式触敏表面、或其他强度传感器(例如，用于测量触敏表面上的接触的力(或压力)的传感器)。一个或多个接触强度传感器165从环境接收接触强度信息(例如，压力信息或压力信息的代用物)。在一些实施方案中，至少一个接触强度传感器与触敏表面(例如，触敏显示器系统112)并置排列或邻近。在一些实施方案中，至少一个接触强度传感器位于设备100的与位于设备100的前部上的触敏显示器系统112相背对的后部上。

设备100任选地还包括一个或多个接近传感器166。图1A示出了与外围设备接口118耦接的接近传感器166。另选地，接近传感器166与I/O子系统106中的输入控制器160耦接。在一些实施方案中，当多功能设备被置于用户耳朵附近时(例如，用户正在打电话时)，接近传感器关闭并禁用触敏显示器系统112。

设备100任选地还包括一个或多个触觉输出发生器163。图1A示出了与I/O子系统106中的触觉反馈控制器161耦接的触觉输出发生器。触觉输出发生器163任选地包括一个或多个电声设备诸如扬声器或其他音频部件，和/或将能量转换成线性运动的机电设备诸如马达、螺线管、电活性聚合器、压电致动器、静电致动器，或其他触觉输出生成部件(例如，将电信号转换成设备上的触觉输出的部件)。一个或多个触觉输出发生器163从触觉反馈模块133接收触觉反馈生成指令，并且在设备100上生成能够由设备100的用户感觉到的触觉输出。在一些实施方案中，至少一个触觉输出发生器与触敏表面(例如，触敏显示器系统112)并置排列或邻近，并且任选地通过竖直地(例如，向设备100的表面内/外)或侧向地(例如，在与设备100的表面相同的平面中向后和向前)移动触敏表面来生成触觉输出。在一些实施方案中，至少一个触觉输出发生器传感器位于设备100的与位于设备100的前部上的触敏显示器系统112相背对的后部上。

设备100任选地还包括用于获得关于设备的位置(例如，姿态)的信息的一个或多个加速度计167、陀螺仪168和/或磁力仪169(例如，作为惯性测量单元(IMU)的一部分)。图1A示出了与外围设备接口118耦接的传感器167、168和169。另选地，传感器167、168和169任选地与I/O子系统106中的输入控制器160耦接。在一些实施方案中，基于对从该一个或多个加速度计所接收的数据的分析来在触摸屏显示器上以纵向视图或横向视图来显示信息。设备100任选地包括用于获得关于设备100的位置的信息的GPS(或GLONASS或其他全球导航系统)接收器。

在一些实施方案中，存储于存储器102中的软件组件包括操作系统126、通信模块(或指令集)128、接触/运动模块(或指令集)130、图形模块(或指令集)132、触觉反馈模块(或指令集)133、文本输入模块(或指令集)134、全球定位系统(GPS)模块(或指令集)135、以及应用程序(或指令集)136。此外，在一些实施方案中，存储器102存储设备/全局内部状态157，如图在1A和图3中所示的。设备/全局内部状态157包括以下中的一者或多者：活动应用程序状态，其指示哪些应用程序(如果有的话)当前是活动的；显示状态，其指示什么应用程序、视图或其他信息占据触敏显示器系统112的各个区域；传感器状态，包括从设备的各个传感器和其他输入或控制设备116获得的信息；以及关于设备的位置和/或姿态的位置和/或方位信息。

操作系统126(例如，iOS、Darwin、RTXC、LINUX、UNIX、OS X、WINDOWS、或嵌入式操作系统诸如VxWorks)包括用于控制和管理一般系统任务(例如，存储器管理、存储设备控制、电源管理等)的各种软件组件和/或驱动器，并且有利于各种硬件和软件组件之间的通信。

通信模块128有利于通过一个或多个外部端口124来与其他设备进行通信，并且还包括用于处理由RF电路108和/或外部端口124所接收的数据的各种软件组件。外部端口124(例如，通用串行总线(USB)、火线等)适于直接耦接到其他设备，或间接地通过网络(例如，互联网、无线LAN等)进行耦接。在一些实施方案中，外部端口是与Apple Inc.(Cupertino,California)的一些

iPod

和

设备中所使用的30针连接器相同或类似和/或兼容的多针(例如，30针)连接器。在一些实施方案中，外部端口是与Apple Inc.(Cupertino,California)的一些

iPod

和

设备中所使用的Lightning连接器相同或类似和/或兼容的Lightning连接器。

接触/运动模块130任选地检测与触敏显示器系统112(结合显示控制器156)和其他触敏设备(例如，触控板或物理点击轮)的接触。接触/运动模块130包括用于执行与(例如手指或触笔)接触检测相关的各种操作的软件部件，诸如确定是否已发生接触(例如，检测手指按下事件)、确定接触的强度(例如，接触的力或压力，或者接触的力或压力的替代物)、确定是否存在接触的移动并跟踪在触敏表面上的移动(例如，检测一个或多个手指拖动事件)、以及确定接触是否已停止(例如，检测手指抬起事件或者接触断开)。接触/运动模块130从触敏表面接收接触数据。确定接触点的移动任选地包括确定接触点的速率(量值)、速度(量值和方向)和/或加速度(量值和/或方向的改变)，所述接触点的移动由一系列接触数据表示。这些操作任选地被应用于单点接触(例如，单指接触或触笔接触)或者多点同时接触(例如，“多点触摸”/多指接触和/或触笔接触)。在一些实施方案中，接触/运动模块130和显示控制器156检测触控板上的接触。

接触/运动模块130任选地检测由用户进行的手势输入。触敏表面上的不同手势具有不同的接触模式(例如，所检测到的接触的不同运动、计时和/或强度)。因此，任选地通过检测特定接触模式来检测手势。例如，检测单指轻击手势包括检测手指按下事件，然后在与手指按下事件相同的位置(或基本上相同的位置)处(例如，在图标位置处)检测手指抬起(抬离)事件。又如，检测触敏表面上的手指轻扫手势包括检测手指按下事件，然后检测一个或多个手指拖动事件，并且随后检测手指抬起(抬离)事件。类似地，通过检测触笔的特定接触图案来任选地检测触笔的轻击、轻扫、拖动和其他手势。

图形模块132包括用于在触敏显示器系统112或其他显示器上渲染和显示图形的各种已知软件组件，包括用于改变所显示的图形的视觉冲击(例如，亮度、透明度、饱和度、对比度或其他视觉属性)的部件。如本文所用，术语“图形”包括可被显示给用户的任何对象，非限制性地包括文本、网页、图标(诸如包括软键的用户界面对象)、数字图像、视频、动画等。

在一些实施方案中，图形模块132存储表示待使用的图形的数据。每个图形任选地被分配有对应的代码。图形模块132从应用程序等接收用于指定待显示的图形的一个或多个代码，在必要的情况下还一起接收坐标数据和其他图形属性数据，并且然后生成屏幕图像数据，以输出至显示控制器156。

触觉反馈模块133包括用于生成指令的各种软件部件，该指令由一个或多个触觉输出发生器163使用，以便响应于用户与设备100的交互而在设备100上的一个或多个位置处产生触觉输出。

任选地为图形模块132的部件的文本输入模块134提供用于在各种应用程序(例如，联系人137、电子邮件140、IM 141、浏览器147和需要文本输入的任何其他应用程序)中输入文本的软键盘。

GPS模块135确定设备的位置并提供该信息以在各种应用程序中使用(例如，提供至电话138以用于基于位置的拨号；提供至相机143作为图片/视频元数据；以及提供至提供基于位置的服务的应用程序诸如天气桌面小程序、当地黄页桌面小程序和地图/导航桌面小程序)。

应用程序136任选地包括以下模块(或指令集)或者其子集或超集：

·联系人模块137(有时称为通讯录或联系人列表)；

·电话模块138；

·视频会议模块139；

·电子邮件客户端模块140；

·即时消息(IM)模块141；

·健身支持模块142；

·用于静态图像和/或视频图像的相机模块143；

·图像管理模块144；

·浏览器模块147；

·日历模块148；

·桌面小程序模块149，其任选地包括以下各项中的一者或多者：天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4、词典桌面小程序149-5、和由用户获取的其他桌面小程序、以及用户创建的桌面小程序149-6；

·用于形成用户创建的桌面小程序149-6的桌面小程序创建器模块150；

·搜索模块151；

·任选地由视频播放器模块和音乐播放器模块构成的视频和音乐播放器模块152；

·备忘录模块153；

·地图模块154；以及/或者

·在线视频模块155。

任选地存储在存储器102中的其他应用程序136的示例包括其他文字处理应用程序、其他图像编辑应用程序、绘图应用程序、呈现应用程序、支持JAVA的应用程序、加密、数字权益管理、语音识别和语音复制。

结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132、和文本输入模块134，联系人模块137包括可执行指令用于管理通讯录或联系人列表(例如，存储在存储器102或存储器370中的联系人模块137的应用程序内部状态192中)，包括：添加姓名到通讯录；从通讯录删除姓名；将电话号码、电子邮件地址、物理地址或其他信息与姓名关联；将图像与姓名关联；对姓名进行归类和分类；提供电话号码和/或电子邮件地址来发起和/或促进通过电话138、视频会议139、电子邮件140或即时消息141的通信；等等。

结合RF电路108、音频电路110、扬声器111、麦克风113、触敏显示器系统112、显示控制器156、接触模块130、图形模块132、和文本输入模块134，电话模块138包括用于进行以下操作的可执行指令：输入与电话号码对应的字符序列、访问通讯录137中的一个或多个电话号码、修改已输入的电话号码、拨打相应的电话号码、进行会话、以及当会话完成时断开或挂断。如上所述，无线通信任选地使用多种通信标准、协议和技术中的任一种。

结合RF电路108、音频电路110、扬声器111、麦克风113、触敏显示器系统112、显示控制器156、一个或多个光学传感器164、光学传感器控制器158、接触模块130、图形模块132、文本输入模块134、联系人列表137和电话模块138，视频会议模块139包括根据用户指令来发起、进行和终止用户与一个或多个其他参与方之间的视频会议的可执行指令。

结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134，电子邮件客户端模块140包括用于响应于用户指令来创建、发送、接收和管理电子邮件的可执行指令。结合图像管理模块144，电子邮件客户端模块140使得非常容易创建和发送具有由相机模块143拍摄的静态图像或视频图像的电子邮件。

结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134，即时消息模块141包括用于进行以下操作的可执行指令：输入与即时消息对应的字符序列、修改先前输入的字符、发送相应即时消息(例如，使用针对基于电话的即时消息的短消息服务(SMS)或多媒体消息服务(MMS)协议或者使用针对基于互联网的即时消息的XMPP、SIMPLE、Apple推送通知服务(APNs)或IMPS)、接收即时消息、以及查看所接收的即时消息。在一些实施方案中，所传输和/或接收的即时消息任选地包括图形、相片、音频文件、视频文件、和/或MMS和/或增强消息服务(EMS)中所支持的其他附接件。如本文所用，“即时消息”是指基于电话的消息(例如，使用SMS或MMS发送的消息)和基于互联网的消息(例如，使用XMPP、SIMPLE、APNs或IMPS发送的消息)两者。

结合RF电路108、触敏显示器系统112、显示控制器156、接触模块130、图形模块132、文本输入模块134、GPS模块135、地图模块154以及视频和音乐播放器模块152，健身支持模块142包括可执行指令用于创建健身(例如，具有时间、距离和/或卡路里燃烧目标)；与(体育设备和智能手表中的)健身传感器通信；接收健身传感器数据；校准用于监视健身的传感器；为健身选择和播放音乐；以及显示、存储和传输健身数据。

结合触敏显示器系统112、显示控制器156、一个或多个光学传感器164、光学传感器控制器158、接触模块130、图形模块132和图像管理模块144，相机模块143包括用于进行以下操作的可执行指令：捕获静态图像或视频(包括视频流)并且将它们存储到存储器102中、修改静态图像或视频的特征、和/或从存储器102删除静态图像或视频。

结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132、文本输入模块134、和相机模块143，图像管理模块144包括用于排列、修改(例如，编辑)、或以其他方式操控、加标签、删除、展示(例如，在数字幻灯片或相册中)、以及存储静态图像和/或视频图像的可执行指令。

结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132和文本输入模块134，浏览器模块147包括根据用户指令来浏览互联网(包括搜索、链接到、接收、和显示网页或其部分、以及链接到网页的附件和其他文件)的可执行指令。

结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、电子邮件客户端模块140和浏览器模块147，日历模块148包括用于根据用户指令来创建、显示、修改和存储日历以及与日历相关联的数据(例如，日历条目、待办事项等)的可执行指令。

结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134和浏览器模块147，桌面小程序模块149是任选地由用户下载和使用的微型应用程序(例如，天气桌面小程序149-1、股市桌面小程序149-2、计算器桌面小程序149-3、闹钟桌面小程序149-4和词典桌面小程序149-5)、或由用户创建的微型应用程序(例如，用户创建的桌面小程序149-6)。在一些实施方案中，桌面小程序包括HTML(超文本标记语言)文件、CSS(层叠样式表)文件和JavaScript文件。在一些实施方案中，桌面小程序包括XML(可扩展标记语言)文件和JavaScript文件(例如，Yahoo！桌面小程序)。

结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、和浏览器模块147，桌面小程序创建器模块150包括用于创建桌面小程序(例如，将网页的用户指定部分转到桌面小程序中)的可执行指令。

结合触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132和文本输入模块134，搜索模块151包括用于根据用户指令来搜索存储器102中的与一个或多个搜索条件(例如，一个或多个用户指定的搜索词)匹配的文本、音乐、声音、图像、视频和/或其他文件的可执行指令。

结合触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、音频电路110、扬声器111、RF电路108和浏览器模块147，视频和音乐播放器模块152包括允许用户下载和回放以一种或多种文件格式(诸如MP3或AAC文件)存储的所记录的音乐和其他声音文件的可执行指令，以及用于显示、呈现或以其他方式回放视频(例如，在触敏显示器系统112上或在经由外部端口124无线连接的外部显示器上)的可执行指令。在一些实施方案中，设备100任选地包括MP3播放器诸如iPod(Apple Inc.的商标)的功能。

结合触敏显示器系统112、显示控制器156、接触模块130、图形模块132和文本输入模块134，备忘录模块153包括用于根据用户指令来创建和管理备忘录、待办事项等的可执行指令。

结合RF电路108、触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、文本输入模块134、GPS模块135和浏览器模块147，地图模块154包括用于根据用户指令来接收、显示、修改和存储地图以及与地图相关联的数据(例如，驾车路线；特定位置处或附近的商店和其他兴趣点的数据；和其他基于位置的数据)的可执行指令。

结合触敏显示器系统112、显示系统控制器156、接触模块130、图形模块132、音频电路110、扬声器111、RF电路108、文本输入模块134、电子邮件客户端模块140和浏览器模块147，在线视频模块155包括允许用户访问、浏览、接收(例如，通过流式传输和/或下载)、回放(例如在触摸屏112上或在无线连接的或经由外部端口124连接的外部显示器上)、发送具有至特定在线视频的链接的电子邮件、以及以其他方式管理一种或多种文件格式诸如H.264的在线视频的可执行指令。在一些实施方案中，使用即时消息模块141而不是电子邮件客户端模块140来发送特定在线视频的链接。

上述所识别的每个模块和应用对应于用于执行上述一种或多种功能以及在本申请中所描述的方法(例如，本文中所描述的计算机实现的方法和其他信息处理方法)的一组可执行指令。这些模块(即，指令集)不必以独立的软件程序、过程或模块实现，因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。在一些实施方案中，存储器102任选地存储上述模块和数据结构的子组。此外，存储器102任选地存储上文未描述的另外的模块和数据结构。

在一些实施方案中，设备100是该设备上的预定义的一组功能的操作唯一地通过触摸屏和/或触控板来执行的设备。通过使用触摸屏和/或触控板作为用于操作设备100的主要输入控制设备，任选地减少设备100上的物理输入控制设备(例如，下压按钮、拨盘等等)的数量。

唯一地通过触摸屏和/或触控板来执行的预定义的一组功能任选地包括在用户界面之间的导航。在一些实施方案中，触控板在被用户触摸时将设备100从设备100上显示的任何用户界面导航到主菜单、home菜单或根菜单。在此类实施方案中，使用触控板来实现“菜单按钮”。在一些其他实施方案中，菜单按钮是物理下压按钮或者其他物理输入控制设备，而不是触控板。

图1B是示出根据一些实施方案的用于事件处理的示例性部件的框图。在一些实施方案中，存储器102(图1A中)或存储器370(图3)包括事件分类器170(例如，在操作系统126中)和相应的应用程序136-1(例如，前述应用程序136、137至155、380至390中的任一个应用程序)。

事件分类器170接收事件信息并确定要将事件信息递送到的应用程序136-1和应用程序136-1的应用程序视图191。事件分类器170包括事件监视器171和事件分配器模块174。在一些实施方案中，应用程序136-1包括应用程序内部状态192，该应用程序内部状态指示当应用程序是活动的或正在执行时在触敏显示器系统112上显示的一个或多个当前应用程序视图。在一些实施方案中，设备/全局内部状态157被事件分类器170用来确定哪个(哪些)应用程序当前是活动的，并且应用程序内部状态192被事件分类器170用来确定要将事件信息递送到的应用程序视图191。

在一些实施方案中，应用程序内部状态192包括附加信息，诸如以下各项中的一者或多者：当应用程序136-1恢复执行时将被使用的恢复信息、指示信息正被显示或准备好用于被应用程序136-1显示的用户界面状态信息、用于使得用户能够返回到应用程序136-1的前一状态或视图的状态队列，以及用户采取的先前动作的重复/撤销队列。

事件监视器171从外围设备接口118接收事件信息。事件信息包括关于子事件(例如，作为多点触摸手势的一部分的触敏显示器系统112上的用户触摸)的信息。外围设备接口118传输其从I/O子系统106或传感器诸如接近传感器166、一个或多个加速度计167、一个或多个陀螺仪168、一个或多个磁力仪169和/或麦克风113(通过音频电路110)接收的信息。外围设备接口118从I/O子系统106所接收的信息包括来自触敏显示器系统112或触敏表面的信息。

在一些实施方案中，事件监视器171以预先确定的间隔将请求发送至外围设备接口118。作为响应，外围设备接口118传输事件信息。在其他实施方案中，外围设备接口118仅当存在显著事件(例如，接收到高于预先确定的噪声阈值和/或接收到超过预先确定的持续时间的输入)时才传输事件信息。

在一些实施方案中，事件分类器170还包括命中视图确定模块172和/或活动事件识别器确定模块173。

当触敏显示器系统112显示多于一个视图时，命中视图确定模块172提供用于确定子事件已在一个或多个视图内的什么地方发生的软件过程。视图由用户能够在显示器上看到的控件和其他元素构成。

与应用程序相关联的用户界面的另一方面是一组视图，本文中有时也称为应用程序视图或用户界面窗口，在其中显示信息并且发生基于触摸的手势。在其中检测到触摸的(相应应用程序的)应用程序视图任选地对应于在应用程序的程序化或视图分级结构内的程序化水平。例如，在其中检测到触摸的最低水平视图任选地被称为命中视图，并且被识别为正确输入的事件集任选地至少部分地基于初始触摸的命中视图来确定，所述初始触摸开始基于触摸的手势。

命中视图确定模块172接收与基于触摸的手势的子事件相关的信息。当应用程序具有以分级结构组织的多个视图时，命中视图确定模块172将命中视图识别为应当对子事件进行处理的分级结构中的最低视图。在大多数情况下，命中视图是发起子事件(即形成事件或潜在事件的子事件序列中的第一子事件)在其中发生的最低水平视图。一旦命中视图被命中视图确定模块所识别，命中视图便通常接收与其被识别为命中视图所针对的同一触摸或输入源相关的所有子事件。

活动事件识别器确定模块173确定视图分级结构内的哪个或哪些视图应接收特定子事件序列。在一些实施方案中，活动事件识别器确定模块173确定仅命中视图应接收特定子事件序列。在其他实施方案中，活动事件识别器确定模块173确定包括子事件的物理位置的所有视图是活跃参与的视图，并因此确定所有活跃参与的视图都应接收特定子事件序列。在其他实施方案中，即使触摸子事件完全被局限到与一个特定视图相关联的区域，分级结构中的较高视图将仍然保持为活跃参与的视图。

事件分配器模块174将事件信息分配到事件识别器(例如，事件识别器180)。在包括活动事件识别器确定模块173的一些实施方案中，事件分配器模块174将事件信息递送到由活动事件识别器确定模块173确定的事件识别器。在一些实施方案中，事件分配器模块174在事件队列中存储事件信息，该事件信息由相应事件接收器模块182进行检索。

在一些实施方案中，操作系统126包括事件分类器170。另选地，应用程序136-1包括事件分类器170。在又一个实施方案中，事件分类器170是独立模块，或者是存储在存储器102中的另一个模块(诸如，接触/运动模块130)的一部分。

在一些实施方案中，应用程序136-1包括多个事件处理程序190和一个或多个应用程序视图191，其中的每一个都包括用于处理发生在应用程序的用户界面的相应视图内的触摸事件的指令。应用程序136-1的每个应用程序视图191包括一个或多个事件识别器180。通常，相应应用程序视图191包括多个事件识别器180。在其他实施方案中，事件识别器180中的一个或多个事件识别器是独立模块的一部分，该独立模块为诸如用户界面工具包或应用程序136-1从中继承方法和其他属性的更高级别的对象。在一些实施方案中，相应事件处理程序190包括以下各项中的一者或多者：数据更新器176、对象更新器177、GUI更新器178、和/或从事件分类器170接收的事件数据179。事件处理程序190任选地利用或调用数据更新器176、对象更新器177或GUI更新器178来更新应用程序内部状态192。另选地，应用程序视图191中的一个或多个应用程序视图包括一个或多个相应事件处理程序190。另外，在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178中的一者或多者被包括在相应应用程序视图191中。

相应的事件识别器180从事件分类器170接收事件信息(例如，事件数据179)，并且从事件信息识别事件。事件识别器180包括事件接收器182和事件比较器184。在一些实施方案中，事件识别器180还包括元数据183和事件传递指令188(其任选地包括子事件递送指令)的至少一个子集。

事件接收器182从事件分类器170接收事件信息。事件信息包括关于子事件例如触摸或触摸移动的信息。根据子事件，事件信息还包括附加信息，诸如子事件的位置。当子事件涉及触摸的运动时，事件信息任选地还包括子事件的速率和方向。在一些实施方案中，事件包括设备从一个取向旋转到另一取向(例如，从纵向取向旋转到横向取向，或反之亦然)，并且事件信息包括关于设备的当前取向(也被称为设备姿态)的对应信息。

事件比较器184将事件信息与预定义的事件或子事件定义进行比较，并且基于该比较来确定事件或子事件，或者确定或更新事件或子事件的状态。在一些实施方案中，事件比较器184包括事件定义186。事件定义186包含事件的定义(例如，预定义的子事件序列)，例如事件1(187-1)、事件2(187-2)以及其他。在一些实施方案中，事件187中的子事件包括例如触摸开始、触摸结束、触摸移动、触摸取消和多点触摸。在一个示例中，事件1(187-1)的定义是被显示对象上的双击。例如，双击包括被显示对象上的预先确定时长的第一次触摸(触摸开始)、预先确定时长的第一次抬起(触摸结束)、被显示对象上的预先确定时长的第二次触摸(触摸开始)以及预先确定时长的第二次抬起(触摸结束)。在另一个示例中，事件2(187-2)的定义是被显示对象上的拖动。例如，拖动包括被显示对象上的预先确定时长的触摸(或接触)、触摸在触敏显示器系统112上的移动、以及触摸的抬离(触摸结束)。在一些实施方案中，事件还包括用于一个或多个相关联的事件处理程序190的信息。

在一些实施方案中，事件定义187包括对用于相应用户界面对象的事件的定义。在一些实施方案中，事件比较器184执行命中测试以确定哪个用户界面对象与子事件相关联。例如，在触敏显示器系统112上显示三个用户界面对象的应用程序视图中，当在触敏显示器系统112上检测到触摸时，事件比较器184执行命中测试以确定这三个用户界面对象中的哪一个用户界面对象与该触摸(子事件)相关联。如果每个所显示对象与相应事件处理程序190相关联，则事件比较器使用该命中测试的结果来确定哪个事件处理程序190应当被激活。例如，事件比较器184选择与子事件和触发该命中测试的对象相关联的事件处理程序。

在一些实施方案中，相应事件187的定义还包括延迟动作，这些延迟动作延迟事件信息的递送，直到已确定子事件序列确实对应于或不对应于事件识别器的事件类型。

当相应事件识别器180确定子事件序列不与事件定义186中的任何事件匹配时，该相应事件识别器180进入事件不可能、事件失败或事件结束状态，在此之后忽略基于触摸的手势的后续子事件。在这种情况下，对于命中视图保持活动的其他事件识别器(如果有的话)继续跟踪并处理持续进行的基于触摸的手势的子事件。

在一些实施方案中，相应事件识别器180包括具有指示事件递送系统应当如何执行对活跃参与的事件识别器的子事件递送的可配置属性、标记和/或列表的元数据183。在一些实施方案中，元数据183包括指示事件识别器彼此如何交互或如何能够交互的可配置属性、标志和/或列表。在一些实施方案中，元数据183包括指示子事件是否递送到视图或程序化分级结构中的不同层级的可配置属性、标志和/或列表。

在一些实施方案中，当事件的一个或多个特定子事件被识别时，相应事件识别器180激活与事件相关联的事件处理程序190。在一些实施方案中，相应事件识别器180将与事件相关联的事件信息递送到事件处理程序190。激活事件处理程序190不同于将子事件发送(和延期发送)到相应命中视图。在一些实施方案中，事件识别器180抛出与所识别的事件相关联的标记，并且与该标记相关联的事件处理程序190获取该标记并执行预定义过程。

在一些实施方案中，事件递送指令188包括递送关于子事件的事件信息而不激活事件处理程序的子事件递送指令。相反，子事件递送指令将事件信息递送到与子事件序列相关联的事件处理程序或者递送到活跃参与的视图。与子事件序列或与活跃参与的视图相关联的事件处理程序接收事件信息并执行预先确定的过程。

在一些实施方案中，数据更新器176创建并更新在应用程序136-1中使用的数据。例如，数据更新器176对联系人模块137中所使用的电话号码进行更新，或者对视频或音乐播放器模块152中所使用的视频文件进行存储。在一些实施方案中，对象更新器177创建并更新在应用程序136-1中使用的对象。例如，对象更新器177创建新的用户界面对象或更新用户界面对象的位置。GUI更新器178更新GUI。例如，GUI更新器178准备显示信息，并且将显示信息发送到图形模块132用以显示在触敏显示器上。

在一些实施方案中，事件处理程序190包括数据更新器176、对象更新器177和GUI更新器178，或具有对该数据更新器、该对象更新器和该GUI更新器的访问权限。在一些实施方案中，数据更新器176、对象更新器177和GUI更新器178被包括在相应应用程序136-1或应用程序视图191的单个模块中。在其他实施方案中，它们被包括在两个或更多个软件模块中。

应当理解，关于触敏显示器上的用户触摸的事件处理的上述论述还适用于利用输入设备来操作多功能设备100的其他形式的用户输入，并不是所有用户输入都是在触摸屏上发起的。例如，任选地与单次或多次键盘按下或按住协作的鼠标移动和鼠标按钮按下；触控板上的接触移动，诸如轻击、拖动、滚动等；触笔输入；设备的移动；口头指令；检测到的眼睛移动；生物特征输入；和/或它们的任何组合任选地被用作对应于限定要识别的事件的子事件的输入。

图2示出了根据一些实施方案的具有触摸屏(例如，图1A的触敏显示器系统112)的便携式多功能设备100。触摸屏任选地在用户界面(UI)200内显示一个或多个图形。在本实施方案以及下文所述的其他实施方案中，用户能够通过例如利用一根或多根手指202(在图中未按比例绘制)或一支或多支触笔203(在图中未按比例绘制)在图形上作出手势来选择这些图形中的一个或多个图形。在一些实施方案中，当用户中断与一个或多个图形的接触时，将发生对一个或多个图形的选择。在一些实施方案中，手势任选地包括一次或多次轻击、一次或多次轻扫(从左向右、从右向左、向上和/或向下)和/或已与设备100发生接触的手指的滚动(从右向左、从左向右、向上和/或向下)。在一些实施方案中或在一些情况下，不经意地与图形接触不会选择图形。例如，当与选择对应的手势是轻击时，在应用程序图标上方扫动的轻扫手势任选地不会选择对应的应用程序。

设备100任选地还包括一个或多个物理按钮，诸如“主桌面”或菜单按钮204。如前所述，菜单按钮204任选地用于导航到任选地在设备100上被执行的一组应用程序中的任何应用程序136。作为另外一种选择，在一些实施方案中，菜单按钮被实现为被显示在触摸屏显示器上的GUI中的软键。

在一些实施方案中，设备100包括触摸屏显示器、菜单按钮204、用于使设备通电/断电和用于锁定设备的下压按钮206、一个或多个音量调节按钮208、用户身份模块(SIM)卡槽210、耳麦插孔212、和对接/充电外部端口124。下压按钮206任选地用于通过压下该按钮并且将该按钮保持在压下状态持续预定义的时间间隔来对设备进行开/关机；通过压下该按钮并在该预定义的时间间隔过去之前释放该按钮来锁定设备；和/或对设备进行解锁或发起解锁过程。在一些实施方案中，设备100还通过麦克风113来接受用于激活或停用某些功能的语音输入。设备100还任选地包括用于检测触敏显示器系统112上的接触的强度的一个或多个接触强度传感器165、和/或用于为设备100的用户生成触觉输出的一个或多个触觉输出发生器163。

图3是根据一些实施方案的具有显示器和触敏表面的示例性多功能设备的框图。设备300不必是便携式的。在一些实施方案中，设备300是膝上型电脑、台式计算机、平板电脑、多媒体播放器设备、导航设备、教育设备(诸如儿童学习玩具)、游戏系统或控制设备(例如，家用控制器或工业用控制器)。设备300通常包括一个或多个处理单元(CPU)310、一个或多个网络或其他通信接口360、存储器370和用于使这些部件互连的一条或多条通信总线320。通信总线320任选地包括使系统部件互连并且控制系统部件之间的通信的电路(有时称作芯片组)。设备300包括具有显示器340的输入/输出(I/O)接口330，该显示器通常是触摸屏显示器。I/O接口330还任选地包括键盘和/或鼠标(或其他指向设备)350和触控板355、用于在设备300上生成触觉输出的触觉输出发生器357(例如，类似于以上参考图1A所述的一个或多个触觉输出发生器163)、传感器359(例如，类似于以上参考图1A所述的传感器112、164、165、166、167、168和169的触敏传感器、光学传感器、接触强度传感器、接近传感器、加速度传感器、姿态和/或磁传感器)。存储器370包括高速随机存取存储器，诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备；并且任选地包括非易失性存储器，诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器370任选地包括远离CPU 310定位的一个或多个存储设备。在一些实施方案中，存储器370存储与便携式多功能设备100(图1A)的存储器102中所存储的程序、模块和数据结构类似的程序、模块、和数据结构，或它们的子集。此外，存储器370任选地存储在便携式多功能设备100的存储器102中不存在的附加程序、模块和数据结构。例如，设备300的存储器370任选地存储绘图模块380、呈现模块382、文字处理模块384、网站创建模块386、盘编辑模块388、和/或电子表格模块390，而便携式多功能设备100(图1A)的存储器102任选地不存储这些模块。

图3中上述所识别的元件中的每个元件任选地存储在先前提到的存储器设备中的一个或多个存储器设备中。上述所识别的模块中的每个模块对应于用于执行上述功能的指令集。上述所识别的模块或程序(即，指令集)不必被实现为单独的软件程序、过程或模块，因此这些模块的各种子集任选地在各种实施方案中组合或以其他方式重新布置。在一些实施方案中，存储器370任选地存储上述模块和数据结构的子组。此外，存储器370任选地存储上文未描述的附加模块和数据结构。

现在将注意力转到任选地在便携式多功能设备100上实现的用户界面(“UI”)的实施方案。

图4A示出根据一些实施方案的便携式多功能设备100上的应用程序菜单的示例性用户界面。类似的用户界面任选地在设备300上实现。在一些实施方案中，用户界面400包括以下元件或者其子集或超集：

·无线通信诸如蜂窝信号和Wi-Fi信号的信号强度指示符402；

·时间404；

·蓝牙指示符405；

·电池状态指示符406；

·具有针对常用应用程序的图标的托盘408，该图标诸如：

ο电话模块138的被标记为“电话”的图标416，该图标416任选地包括未接来电或语音信箱的数量的指示符414；

ο电子邮件客户端模块140的被标记为“邮件”的图标418，该图标418任选地包括未读电子邮件的数量的指示符410；

ο浏览器模块147的标记为“浏览器”的图标420；以及

ο视频和音乐播放器模块152(也称为iPod(AppleInc.的商标)模块152)的被标记为“iPod”的图标422；以及

·其他应用的图标，诸如：

οIM模块141的被标记为“文本”的图标424；

ο日历模块148的被标记为“日历”的图标426；

ο图像管理模块144的被标记为“照片”的图标428；

ο相机模块143的被标记为“相机”的图标430；

ο在线视频模块155的被标记为“在线视频”的图标432；

ο股市桌面小程序149-2的被标记为“股市”的图标434；

ο地图模块154的被标记为“地图”的图标436；

ο天气桌面小程序149-1的被标记为“天气”的图标438；

ο闹钟桌面小程序169-6的被标记为“时钟”的图标440；

ο健身支持模块142的被标记为“健身支持”的图标442；

ο记事本模块153的标记为“记事本”的图标444；以及

ο用于设置应用程序或模块的图标446，该图标提供对设备100及其各种应用程序136的设置的访问。

应当注意，图4A中示出的图标标签仅仅是示例性的。例如，在一些实施方案中，视频和音乐播放器模块152的图标422被标记为“音乐”或“音乐播放器”。对于各种应用程序图标任选地使用其他标签。在一些实施方案中，相应应用程序图标的标签包括与该相应应用程序图标对应的应用程序的名称。在一些实施方案中，特定应用程序图标的标签不同于与该特定应用程序图标对应的应用程序的名称。

图4B示出了具有与显示器450分开的触敏表面451(例如，图3中的平板或触控板355)的设备(例如，图3中的设备300)上的示例性用户界面。设备300还任选地包括用于检测触敏表面451上的接触的强度的一个或多个接触强度传感器(例如，传感器359中的一个或多个传感器)和/或用于为设备300的用户生成触觉输出的一个或多个触觉输出发生器359。

图4B示出了具有与显示器450分开的触敏表面451(例如，图3中的平板或触控板355)的设备(例如，图3中的设备300)上的示例性用户界面。尽管将参考触摸屏显示器112(其中组合了触敏表面和显示器)上的输入给出随后许多示例，但是在一些实施方案中，设备检测与显示器分开的触敏表面上的输入，如图4B中所示。在一些实施方案中，触敏表面(例如，图4B中的451)具有与显示器(例如，450)上的主轴线(例如，图4B中的453)对应的主轴线(例如，图4B中的452)。根据这些实施方案，设备检测与显示器上相应位置对应的位置处的与触敏表面451的接触(例如，图4B中的460和462)(例如，在图4B中，460对应于468并且462对应于470)。这样，在触敏表面(例如，图4B中的451)与多功能设备的显示器(例如，图4B中的450)是分开的时侯，由设备在触敏表面上所检测到的用户输入(例如，接触460和462以及它们的移动)被该设备用于操纵显示器上的用户界面。应当理解，类似的方法任选地用于本文所述的其他用户界面。

另外，虽然主要是参考手指输入(例如，手指接触、单指轻击手势、手指轻扫手势等)来给出下面的示例，但是应当理解的是，在一些实施方案中，这些手指输入中的一个或多个手指输入由来自另一输入设备的输入(例如，基于鼠标的输入或触笔输入)替换。例如，轻扫手势任选地由鼠标点击(例如，而不是接触)，之后是光标沿着轻扫的路径的移动(例如，而不是接触的移动)替代。又如，轻击手势任选地由在光标位于轻击手势的位置上方时的鼠标点击(例如，代替对接触的检测，之后是停止检测接触)替代。类似地，当同时检测到多个用户输入时，应当理解的是，多个计算机鼠标任选地被同时使用，或鼠标和手指接触任选地被同时使用。

示例性CGR对象呈现设备

物理环境是指人们在没有电子系统帮助的情况下能够感测和/或交互的物理世界。物理环境诸如物理公园包括物理物品，诸如物理树木、物理建筑物和物理人。人们能够诸如通过视觉、触觉、听觉、味觉和嗅觉来直接感测物理环境和/或与物理环境交互。

相反，计算机生成现实(CGR)环境是指人们经由电子系统感知和/或交互的完全或部分模拟的环境。在CGR中，跟踪人的物理运动的一个子集或其表示，并且作为响应，以符合至少一个物理定律的方式调节在CGR环境中模拟的一个或多个虚拟对象的一个或多个特征。例如，CGR系统可以检测人的头部转动，并且作为响应，以与此类视图和声音在物理环境中变化的方式类似的方式调节呈现给人的图形内容和声场。在一些情况下(例如，出于可达性原因)，对CGR环境中虚拟对象的特征的调节可以响应于物理运动的表示(例如，声音命令)来进行。

人可以利用其感觉中的任一者来感测CGR对象和/或与CGR对象交互，包括视觉、听觉、触觉、味觉和嗅觉。例如，人可以感测音频对象和/或与音频对象交互，该音频对象创建3D或空间音频环境，该3D或空间音频环境提供3D空间中点音频源的感知。又如，音频对象可以使能音频透明度，该音频透明度在有或者没有计算机生成的音频的情况下选择性地引入来自物理环境的环境声音。在某些CGR环境中，人可以感测和/或只与音频对象交互。

CGR的示例包括虚拟现实和混合现实。

虚拟现实(VR)环境是指被设计成对于一个或多个感觉完全基于计算机生成的感官输入的模拟环境。VR环境包括人可以感测和/或交互的多个虚拟对象。例如，树木、建筑物和代表人的化身的计算机生成的图像是虚拟对象的示例。人可以通过在计算机生成的环境内人的存在的模拟和/或通过在计算机生成的环境内人的物理移动的一个子组的模拟来感测和/或与VR环境中的虚拟对象交互。

与被设计成完全基于计算机生成的感官输入的VR环境相比，混合现实(MR)环境是指被设计成除了包括计算机生成的感官输入(例如，虚拟对象)之外还引入来自物理环境的感官输入或其表示的模拟环境。在虚拟连续体上，混合现实环境是完全物理环境作为一端和虚拟现实环境作为另一端之间的任何状况，但不包括这两端。

在一些MR环境中，计算机生成的感官输入可以对来自物理环境的感官输入的变化进行响应。另外，用于呈现MR环境的一些电子系统可以跟踪相对于物理环境的位置和/或取向，以使虚拟对象能够与真实对象(即，来自物理环境的物理物品或其表示)交互。例如，系统可以导致移动使得虚拟树木相对于物理地面看起来是静止的。

混合现实的示例包括增强现实和增强虚拟。

增强现实(AR)环境是指其中一个或多个虚拟对象叠加在物理环境或其表示之上的模拟环境。例如，用于呈现AR环境的电子系统可具有透明或半透明显示器，人可以透过该显示器直接查看物理环境。该系统可以被配置为在透明或半透明显示器上呈现虚拟对象，使得人利用该系统感知叠加在物理环境之上的虚拟对象。另选地，系统可以具有不透明显示器和一个或多个成像传感器，该成像传感器捕获物理环境的图像或视频，这些图像或视频是物理环境的表示。系统将图像或视频与虚拟对象组合，并在不透明显示器上呈现组合物。人利用系统经由物理环境的图像或视频而间接地查看物理环境，并且感知叠加在物理环境之上的虚拟对象。如本文所用，在不透明显示器上显示的物理环境的视频被称为“透传视频”，意味着系统使用一个或多个图像传感器捕获物理环境的图像，并且在不透明显示器上呈现AR环境时使用那些图像。进一步另选地，系统可以具有投影系统，该投影系统将虚拟对象投射到物理环境中，例如作为全息图或者在物理表面上，使得人利用该系统感知叠加在物理环境之上的虚拟对象。

增强现实环境也是指其中物理环境的表示被计算机生成的感官信息进行转换的模拟环境。例如，在提供透传视频中，系统可以对一个或多个传感器图像进行转换以施加与成像传感器所捕获的视角不同的选择视角(例如，视点)。又如，物理环境的表示可以通过图形地修改(例如，放大)其部分而进行转换，使得经修改部分可以是原始捕获图像的代表性的但不是真实的版本。再如，物理环境的表示可以通过以图形方式消除其部分或将其部分进行模糊处理而进行转换。

增强虚拟(AV)环境是指其中虚拟或计算机生成的环境结合来自物理环境的一个或多个感官输入的模拟环境。感官输入可以是物理环境的一个或多个特性的表示。例如，AV公园可以具有虚拟树木和虚拟建筑物，但人的脸部是从对物理人拍摄的图像逼真再现的。又如，虚拟对象可以采用一个或多个成像传感器所成像的物理物品的形状或颜色。再如，虚拟对象可以采用符合太阳在物理环境中的定位的阴影。

有许多不同类型的电子系统使人能够感测和/或与各种CGR环境交互。示例包括头戴式系统、基于投影的系统、平视显示器(HUD)、集成有显示能力的车辆挡风玻璃、集成有显示能力的窗户、被形成为被设计用于放置在人眼睛上的透镜的显示器(例如，类似于隐形眼镜)、耳机/听筒、扬声器阵列、输入系统(例如，具有或没有触觉反馈的可穿戴或手持控制器)、智能电话、平板电脑、和台式/膝上型计算机。头戴式系统可以具有一个或多个扬声器和集成的不透明显示器。另选地，头戴式系统可以被配置成接受外部不透明显示器(例如，智能电话)。头戴式系统可以结合用于捕获物理环境的图像或视频的一个或多个成像传感器、和/或用于捕获物理环境的音频的一个或多个麦克风。头戴式系统可以具有透明或半透明显示器，而不是不透明显示器。透明或半透明显示器可以具有媒介，代表图像的光通过该媒介被引导到人的眼睛。显示器可以利用数字光投影、OLED、LED、uLED、硅基液晶、激光扫描光源或这些技术的任意组合。媒介可以是光学波导、全息图媒介、光学组合器、光学反射器、或它们的任意组合。在一个实施方案中，透明或半透明显示器可被配置为选择性地变得不透明。基于投影的系统可以采用将图形图像投影到人的视网膜上的视网膜投影技术。投影系统也可以被配置为将虚拟对象投影到物理环境中，例如作为全息图或在物理表面上。

图5是根据一些实施方案的示例性操作架构500A的框图。尽管示出了相关特征，但本领域的普通技术人员将从本公开中认识到，为简洁起见并且为了不模糊本文所公开的示例性实施方案的更多相关方面，未示出各种其他特征。为此，作为非限制性示例，操作架构500A包括电子设备520A。

在一些实施方案中，电子设备520A被配置为向用户呈现CGR内容。在一些实施方案中，电子设备520A包括软件、固件和/或硬件的合适组合。根据一些实施方案，在用户物理地存在于物理环境503内时，电子设备520A经由显示器522向用户呈现CGR内容，该物理环境包括处于电子设备520A的视场511内的桌子507。因此，在一些实施方案中，用户将电子设备520A握在他/她的手中。在一些具体实施中，在提供增强现实(AR)内容时，电子设备520A被配置为显示AR对象(例如，AR柱体509)并使能显示器522上(例如，包括桌子507的表示517的)物理环境503的视频透传。

图6是根据一些实施方案的控制器510的框图。在一些具体实施中，操作环境包括控制器510和头戴式设备(HMD)520B(如图7所示)。在一些实施方案中，控制器510被配置为管理和协调针对用户的CGR内容的呈现。在一些实施方案中，控制器510包括软件、固件和/或硬件的合适组合。在一些实施方案中，控制器510是相对于场景处于本地或远程位置的计算设备。例如，控制器510是位于场景内的本地服务器。在另一示例中，控制器510是位于场景之外的远程服务器(例如，云服务器、中央服务器等)。在一些实施方案中，控制器510经由一个或多个有线或无线通信信道(例如，蓝牙、IEEE 802.11x、IEEE 802.16x、IEEE 802.3x等)与HMD 520B通信地耦接。又如，控制器510被包括在HMD 520B的外壳内。

在一些实施方案中，HMD 520B被配置为向用户呈现CGR内容。在一些实施方案中，HMD 520B包括软件、固件和/或硬件的合适组合。在一些实施方案中，控制器510的功能由HMD 520B提供和/或与该HMD结合。

根据一些实施方案，当用户虚拟地和/或物理地存在于场景内时，HMD520B向用户呈现CGR内容。

在一些实施方案中，用户将HMD 520B佩戴在其头上。因此，HMD520B包括被提供用于显示CGR内容的一个或多个CGR显示器。例如，在各种实施方案中，HMD 520B包围用户的视场。在一些实施方案中，诸如在图5中，用被配置为呈现CGR内容的手持设备(诸如智能电话或平板电脑)代替HMD 520B，并且用户不是佩戴HMD 520B而是手持该设备，使显示器朝向用户的视场，并且使相机朝向场景。在一些实施方案中，手持设备可被放置在可被佩戴在用户的头部的外壳内。在一些实施方案中，用被配置为呈现CGR内容的CGR舱、外壳或室来替换HMD 520B，用户在其中不佩戴或手持HMD 520B。

尽管示出了一些具体特征，但本领域的技术人员将从本公开中认识到，为简洁起见并且为了不使本文所公开的实施方案的更多相关方面晦涩难懂，未示出各种其他特征。出于该目的，作为非限制性示例，在一些实施方案中，控制器510包括一个或多个处理单元602(例如，微处理器、专用集成电路(ASIC)、现场可编程门阵列(FPGA)、图形处理单元(GPU)、中央处理单元(CPU)、处理核心等)、一个或多个输入/输出(I/O)设备606、一个或多个通信接口608(例如，通用串行总线(USB)、FIREWIRE、THUNDERBOLT、IEEE 802.3x、IEEE802.11x、IEEE 802.16x、全球移动通信系统(GSM)、码分多址(CDMA)、时分多址(TDMA)、全球定位系统(GPS)、红外(IR)、BLUETOOTH、ZIGBEE、和/或类似类型接口)、一个或多个编程(例如，I/O)接口610、存储器620以及用于互连这些部件和各种其他部件的一条或多条通信总线604。

在一些实施方案中，一条或多条通信总线604包括用于互连和控制各系统部件之间的通信的电路。在一些实施方案中，一个或多个I/O设备606包括键盘、鼠标、触控板、操纵杆、一个或多个麦克风、一个或多个扬声器、一个或多个图像传感器、一个或多个显示器等中的至少一种。

存储器620包括高速随机存取存储器，诸如动态随机存取存储器(DRAM)、静态随机存取存储器(SRAM)、双倍数据速率随机存取存储器(DDR RAM)或者其他随机存取固态存储器设备。在一些实施方案中，存储器620包括非易失性存储器，诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器620任选地包括与一个或多个处理单元602远程定位的一个或多个存储设备。存储器620包括非暂态计算机可读存储介质。在一些实施方案中，存储器620或存储器620的非暂态计算机可读存储介质存储下述程序、模块和数据结构或者它们的子集，其中包括任选的操作系统630和CGR内容模块640。

操作系统630包括用于处理各种基础系统服务和用于执行硬件相关任务的过程。在一些实施方案中，CGR内容模块640被配置为管理和协调一个或多个用户的CGR内容的呈现(例如，一个或多个用户的CGR内容的单个集合、或一个或多个用户的相应群组的CGR内容的多个集合)。为此，在各种实施方案中，CGR内容模块640包括数据获取单元642、跟踪单元644、协调单元646和数据传输单元648。

在一些实施方案中，数据获取单元642被配置为至少从HMD 520B获取数据(例如，呈现数据、交互数据、传感器数据、位置数据等)。出于该目的，在各种实施方案中，数据获取单元642包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

在一些实施方案中，跟踪单元644被配置为映射场景以及跟踪至少HMD 520B相对于场景的位置/定位。出于该目的，在各种实施方案中，跟踪单元644包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

在一些实施方案中，协调单元646被配置为管理和协调HMD 520B向用户的CGR内容的呈现。出于该目的，在各种实施方案中，协调单元646包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

在一些实施方案中，数据传输单元648被配置为向至少HMD 520B传输数据(例如，呈现数据、位置数据等)。出于该目的，在各种实施方案中，数据传输单元648包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

尽管数据获取单元642、跟踪单元644、协调单元646和数据传输单元648被示出为驻留在单个设备(例如，控制器510)上，但应当理解，在其他实施方案中，数据获取单元642、跟踪单元644、协调单元646和数据传输单元648的任何组合可位于单独的计算设备中。

此外，图6更多地用作可存在于特定实施方案中的各种特征的功能描述，与本文所述的实施方案的结构示意图不同。如本领域的普通技术人员将认识到的，单独显示的项目可以组合，并且一些项目可以分开。例如，图6中单独示出的一些功能模块可在单个模块中实现，并且单个功能块的各种功能可在各种实施方案中通过一个或多个功能块来实现。模块的实际数量和特定功能的划分以及如何在其中分配特征将根据实施方案而变化，并且在一些实施方案中，部分地取决于为特定实施方案选择的硬件、软件和/或固件的特定组合。

图7是根据一些实施方案的HMD 520B的示例的框图。尽管示出了一些具体特征，但本领域的技术人员将从本公开中认识到，为简洁起见并且为了不使本文所公开的实施方案的更多相关方面晦涩难懂，未示出各种其他特征。出于该目的，作为非限制性示例，在一些实施方案中，HMD 520B包括一个或多个处理单元702(例如，微处理器、ASIC、FPGA、GPU、CPU、处理核心等)、一个或多个输入/输出(I/O)设备和传感器706、一个或多个通信接口708(例如，USB、FIREWIRE、THUNDERBOLT、IEEE 802.3x、IEEE 802.11x、IEEE 802.16x、GSM、CDMA、TDMA、GPS、IR、BLUETOOTH、ZIGBEE和/或类似类型的接口)、一个或多个编程(例如，I/O)接口710、一个或多个CGR显示器712、一个或多个任选的面向内部和/或面向外部的图像传感器714、存储器720以及用于互连这些部件和各种其他部件的一条或多条通信总线704。

在一些实施方案中，一条或多条通信总线704包括用于互连和控制各系统部件之间的通信的电路。在一些实施方案中，一个或多个I/O设备和传感器706包括惯性测量单元(IMU)、加速度计、陀螺仪、温度计、一个或多个生理传感器(例如，血压监测仪、心率监视器、血氧传感器、血糖传感器等)、一个或多个麦克风707A、一个或多个扬声器707B、触觉引擎、一个或多个深度传感器(例如，结构光、飞行时间等)等中的至少一者。

在一些实施方案中，一个或多个CGR显示器712被配置为向用户显示CGR内容。在一些实施方案中，一个或多个CGR显示器712对应于全息、数字光处理(DLP)、液晶显示器(LCD)、硅上液晶(LCoS)、有机发光场效应晶体管(OLET)、有机发光二极管(OLED)、表面传导电子发射显示器(SED)、场发射显示器(FED)、量子点发光二极管(QD-LED)、微机电系统(MEMS)和/或类似的显示器类型。在一些实施方案中，一个或多个CGR显示器712对应于衍射、反射、偏振、全息等波导显示器。例如，HMD 520B包括单个CGR显示器。在另一示例中，对于用户的每只眼睛，HMD 520B包括CGR显示器。

在一些实施方案中，所述一个或多个图像传感器714被配置为获取对应于用户面部的包括用户的眼睛的至少一部分的图像数据(并且可称为眼睛跟踪相机)。在一些实施方案中，所述一个或多个图像传感器714被配置为面向前方，以便获取对应于在不存在HMD520B的情况下用户会看到的场景的图像数据(并且可被称为场景相机)。一个或多个任选图像传感器714可包括一个或多个RGB相机(例如，具有互补金属氧化物半导体(CMOS)图像传感器或电荷耦合器件(CCD)图像传感器)、一个或多个红外(IR)相机、一个或多个基于事件的相机等。

存储器720包括高速随机存取存储器，诸如DRAM、SRAM、DDR RAM或其他随机存取固态存储器设备。在一些实施方案中，存储器720包括非易失性存储器，诸如一个或多个磁盘存储设备、光盘存储设备、闪存存储器设备或其他非易失性固态存储设备。存储器720任选地包括与一个或多个处理单元702远程定位的一个或多个存储设备。存储器720包括非暂态计算机可读存储介质。在一些实施方案中，存储器720或存储器720的非暂态计算机可读存储介质存储下述程序、模块和数据结构或者它们的子集，其中包括任选的操作系统730和CGR呈现模块740。

操作系统730包括用于处理各种基础系统服务和用于执行硬件相关任务的过程。在一些实施方案中，CGR呈现模块740被配置为经由一个或多个CGR显示器712和/或I/O设备和传感器706(诸如一个或多个扬声器707B)向用户呈现CGR内容。出于该目的，在各种实施方案中，CGR呈现模块740包括数据获取单元742、CGR内容呈现单元744和数据传输单元746。

在一些实施方案中，数据获取单元742被配置为至少从图6的控制器510获取数据(例如，呈现数据、交互数据、传感器数据、位置数据等)。在各种实施方案中，数据获取单元获取CGR文件。出于该目的，在各种实施方案中，数据获取单元742包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

在一些实施方案中，CGR内容呈现单元744被配置为向用户呈现CGR内容。在各种实施方案中，CGR内容呈现单元744根据CGR文件中阐述的规则来呈现CGR文件的CGR内容。为此，在各种实施方案中，CGR内容呈现单元744包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

在一些实施方案中，数据传输单元746被配置为向至少控制器510传输数据(例如，呈现数据、位置数据等)。出于该目的，在各种实施方案中，数据传输单元746包括指令和/或用于指令的逻辑以及启发法和用于启发法的元数据。

尽管数据获取单元742、CGR内容呈现单元744和数据传输单元746被示出为驻留在单个设备(例如，HMD 520B)上，但应当理解，在其他实施方案中，数据获取单元742、CGR内容呈现单元744和数据传输单元746的任何组合可位于单独的计算设备中。

此外，图7更多地用作可存在于特定实施方案中的各种特征的功能描述，与本文所述的实施方案的结构示意图不同。如本领域的普通技术人员将认识到的，单独显示的项目可以组合，并且一些项目可以分开。例如，图7中单独示出的一些功能模块可在单个模块中实现，并且单个功能块的各种功能可在各种实施方案中通过一个或多个功能块来实现。模块的实际数量和特定功能的划分以及如何在其中分配特征将根据实施方案而变化，并且在一些实施方案中，部分地取决于为特定实施方案选择的硬件、软件和/或固件的特定组合。

生成CGR对象可能是困难且耗时的过程，需要例如3D对象设计方面的专门知识。这对高质量CGR应用(包括此类CGR对象)的生成造成了高障碍。因此，在各种实施方案中，提供了一种图形用户界面(GUI)以简化基于表示二维内容的文件(诸如图像、视频或文本)生成三维CGR对象。

用户界面和相关联的过程

现在将注意力转到用户界面(“UI”)和可在电子设备上实现的相关过程的实施方案，该电子设备为诸如具有显示器、触敏表面和用于检测与触敏表面的接触强度的任选地一个或多个传感器的便携式多功能设备(PMD)100，或者为具有一个或多个处理器、非暂态存储器、显示器和输入设备的设备300。

图8A至图8W示出了根据一些实施方案的用于生成3D对象的示例性用户界面。这些附图中的用户界面用于示出下文描述的过程，包括图9中的过程。尽管将参考触摸屏显示器(其中组合了触敏表面和显示器)上的输入给出随后的示例中的一些示例，但是在一些实施方案中，设备检测与显示器450分开的触敏表面451上的输入，如图4B中所示。

图8A示出了由便携式多功能设备100(下文称为“设备100”)显示的CGR环境用户界面801。

在图8A中，CGR环境用户界面801包括工具栏区域801A和显示CGR环境的显示区域801B。工具栏区域801A包括用于将CGR对象添加到CGR环境的对象添加示能表示801AA。显示区域801B包括由设备100(例如，使用场景相机或设置在设备100的与图8A所示相对的一侧上的相机)拍摄的物理环境的场景相机图像。除了别的之外，物理环境包括侧壁、后壁、地板和桌子。因此，场景相机图像包括侧壁的表示801BA、后壁的表示801BB、地板的表示801BC和桌子的表示801BD。

图8A示出了指向对象添加示能表示801AA的用户输入899A。在各种实施方案中，用户输入899A对应于在对象添加示能表示801AA的位置处检测到的接触(例如，轻击)。

图8B示出了响应于检测到指向对象添加示能表示801AA的用户输入899A的CGR环境用户界面801。在图8B中，CGR环境用户界面801包括呈弹出窗口形式的对象添加用户界面802。在图8B中，对象添加用户界面802包括文件选择用户界面803和取消示能表示802A，该取消示能表示用于解除(停止显示)对象添加用户界面802而不添加CGR对象到CGR环境。

文件选择用户界面803包括分别与多个文件相关联的多个文件选择示能表示803A-803G。所述多个文件选择示能表示803A-803G包括用于选择名为“landscape.jpg”的第一图像文件的第一文件选择示能表示803A、用于选择名为“portrait.jpg”的第二图像文件(例如，具有深度信息的图像)的第二文件选择示能表示803B、用于选择名为“video.mov”的视频文件的第三文件选择示能表示803C、用于选择名为“prestation.ppt”的演示文件的第四文件选择示能表示803D、用于选择名为“book.ebook”的电子书文件的第五文件选择示能表示803E、用于选择名为“manual.pdf”的PDF(可移植文档格式)文件的第六文件选择示能表示802F、以及用于选择名为“cube.3d”的三维(3D)对象文件的第七文件选择示能表示802G，

图8B示出了指向第一文件选择示能表示803A的用户输入899B。在各种实施方案中，用户输入899B对应于在第一文件选择示能表示803A的位置处检测到的接触(例如，轻击)。

图8C示出了响应于检测到指向第一文件选择示能表示803A的用户输入899B的CGR环境用户界面801。在图8C中，基于所选择的文件(例如，“landscape.jpg”)的文件类型(例如，图像文件)，对象添加用户界面802包括图像选项用户界面804。图像选项用户界面804包括用于选择用于基于所选择的图像文件生成3D对象的选项的多个图像选项选择示能表示804A-804D。

所述多个图像选项选择示能表示804A-804D包括用于基于所选择的图像文件生成画布3D对象的画布示能表示804A、用于基于所选择的图像文件生成剪切3D对象的剪切示能表示804B、用于基于所选择的图像文件生成透视3D对象的透视示能表示804C、以及用于基于所选择的图像文件生成全景3D对象的全景示能表示804D。

图像选项用户界面804包括用于返回对象添加用户界面802以显示文件选择用户界面803(例如，如图8B所示)的返回示能表示804E。因此，响应于检测到指向返回示能表示804E的用户输入，用文件选择用户界面803替换图像选项用户界面804。

图8C示出了指向画布示能表示804A的用户输入899C。在各种实施方案中，用户输入899C对应于在画布示能表示804A的位置处检测到的接触(例如，轻击)。

图8D示出了响应于检测到指向画布示能表示804A的用户输入899C的CGR环境用户界面801。在图8D中，对象添加用户界面802包括预览用户界面805。

预览用户界面805包括用于返回对象添加用户界面802以显示图像选项用户界面804(或最近显示的任何选项用户界面)的返回示能表示805A。因此，响应于检测到指向返回示能表示805A的用户输入，用图像选项用户界面804(或最近显示的任何选项用户界面)替换预览用户界面805。

预览用户界面805包括基于所选择的图像文件呈现画布3D对象831的表示的视图窗口805D。所选择的图像文件表示包括在相应像素位置处并具有相应像素值的多个像素的图像。

画布3D对象由线框(或显示网格)和一个或多个纹理图像限定。线框包括正面、一个或多个边缘面和背面。正面具有由所选择的图像文件表示的图像的形状(例如，矩形)。正面与对应于由所选择的图像文件表示的图像的正面纹理图像相关联。因此，画布3D对象831的表示包括显示由所选择的图像文件表示的图像的正面831A。背面是与正面相同的形状，在垂直于正面的方向上与正面间隔开。在各种实施方案中，背面与对应于由所选择的图像文件表示的图像的背面纹理图像相关联。在各种实施方案中，背面与对应于另一图像(例如，画布背面的图像、标准纯色纹理或由所选择的图像文件表示的图像的另一版本，例如镜像或模糊)的背面纹理图像相关联。

所述一个或多个边缘面将正面连接到背面。所述一个或多个边缘面与一个或多个边缘面纹理图像相关联，该一个或多个边缘面纹理图像对应于由所选择的图像文件表示的图像的边缘上的像素的拉伸。因此，画布3D对象831的表示包括边缘面831B。由所选择的图像文件表示的图像的边缘上的每个像素对应于正面纹理图像的边缘上的像素和将正面连接到背面的边缘面纹理图像的像素线。例如，正面831A的第一边缘像素831C具有对应于边缘面831B的具有相同像素值的一组像素831D的第一像素值(例如，深灰色)。

预览用户界面805包括多个视图示能表示805B-805C，包括对象视图示能表示805B和CGR视图示能表示805C，该对象视图示能表示用于在场景模式中(其中指向视图窗口805D的用户输入改变画布3D对象831的视图的视角)查看视图窗口805D中的画布3D对象831，该CGR视图示能表示用于在CGR模式中(其中设备100的移动改变画布3D对象831的视图的视角)查看视图窗口805D中的画布3D对象831。

对象添加用户界面802包括确定示能表示802B，用于将画布3D对象添加到CGR环境并解除(停止显示)对象添加用户界面802。

图8D示出了指向确定示能表示802B的用户输入899D。在各种实施方案中，用户输入899D对应于在确定示能表示802B的位置处检测到的接触(例如，轻击)。

图8E示出了响应于检测到指向确定示能表示802B的用户输入899D的CGR环境用户界面801。在图8E中，显示区域801B包括抵靠后壁的表示801BB显示的画布3D对象的表示841。在各种具体实施中，设备100检测对应于后壁的竖直平面，并且响应于检测到该竖直平面而显示抵靠后壁的表示801BB显示的画布3D对象的表示841。

图8E示出了指向画布3D对象841的表示的用户输入899E。在各种实施方案中，用户输入899E对应于起始位置在画布3D对象的表示841的位置处的所检测到的移动接触(例如，拖动或触摸并拖动)。

图8F示出了响应于检测到指向画布3D对象的表示841的用户输入899E的CGR环境用户界面801。在图8F中，画布3D对象的表示841被移动，抵靠侧壁的表示801BA而不是后壁的表示801BB显示。在各种具体实施中，设备100检测对应于侧壁的竖直平面，并且响应于检测到该竖直平面和用户输入899E而显示抵靠侧壁的表示801BB显示的画布3D对象的表示841。

图8F示出了指向对象添加示能表示801AA的用户输入899F。在各种实施方案中，用户输入899F对应于在对象添加示能表示801AA的位置处检测到的接触(例如，轻击)。

图8G示出了响应于检测到指向对象添加示能表示801AA的用户输入899F的CGR环境用户界面801。在图8G中，CGR环境用户界面801包括呈弹出窗口形式的对象添加用户界面802。在图8G中，对象添加用户界面802包括文件选择用户界面803和取消示能表示802A。文件选择用户界面803包括所述多个文件选择示能表示803A-803G。

图8G示出了指向第二文件选择示能表示803B的用户输入899G。在各种实施方案中，用户输入899G对应于在第二文件选择示能表示803B的位置处检测到的接触(例如，轻击)。

图8H示出了响应于检测到指向第二文件选择示能表示803B的用户输入899G的CGR环境用户界面801。在图8H中，基于所选择的文件(例如，“portrait.jpg”)的文件类型(例如，图像文件)，对象添加用户界面802包括图像选项用户界面804，该图像选项用户界面包括所述多个图像选项选择示能表示804A-804D。

图8H示出了指向剪切示能表示804B的用户输入899H。在各种实施方案中，用户输入899H对应于在剪切示能表示804B的位置处检测到的接触(例如，轻击)。

图8I示出了响应于检测到指向剪切示能表示804A的用户输入899H的CGR环境用户界面801。在图8I中，对象添加用户界面802包括预览用户界面805。

预览用户界面805包括基于所选择的图像文件呈现剪切3D对象832的表示的视图窗口805D。所选择的图像文件表示包括在相应像素位置处并具有相应像素值的多个像素的图像。图像包括前景和背景。在各种实施方案中，设备100执行语义分割以确定前景和背景。在各种实施方案中，图像文件包括限定前景和背景的信息(例如，深度图)。

剪切3D对象由线框(或显示网格)和一个或多个纹理图像限定。线框包括正面、一个或多个边缘面和背面。正面具有由所选择的图像文件表示的图像的前景的形状(例如，纵向)。正面与对应于由所选择的图像文件表示的图像的前景的正面纹理图像相关联。因此，剪切3D对象832的表示包括显示由所选择的图像文件表示的图像的前景的正面832A。背面是与正面相同的形状，在垂直于正面的方向上与正面间隔开。在各种实施方案中，背面与对应于由所选择的图像文件表示的图像的前景的背面纹理图像相关联。在各种实施方案中，背面与对应于另一图像(例如，硬纸板图像)的背面纹理图像相关联。

所述一个或多个边缘面将正面连接到背面。所述一个或多个边缘面与一个或多个边缘面纹理图像相关联，该一个或多个边缘面纹理图像对应于由所选择的图像文件表示的图像的前景的边缘上的像素的拉伸。因此，剪切3D对象832的表示包括边缘面832B。由所选择的图像文件表示的图像的边缘上的每个像素对应于正面纹理图像的边缘上的像素和将正面连接到背面的边缘面纹理图像的像素线。

图8I示出了指向确定示能表示802B的用户输入899I。在各种实施方案中，用户输入899I对应于在确定示能表示802B的位置处检测到的接触(例如，轻击)。

图8J示出了响应于检测到指向确定示能表示802B的用户输入899I的CGR环境用户界面801。在图8J中，显示区域801B包括显示在地板的表示801BC上的剪切3D对象的表示842。

图8J示出了指向对象添加示能表示801AA的用户输入899J。在各种实施方案中，用户输入899J对应于在对象添加示能表示801AA的位置处检测到的接触(例如，轻击)。

图8K示出了响应于检测到指向对象添加示能表示801AA的用户输入899J的CGR环境用户界面801。在图8K中，CGR环境用户界面801包括呈弹出窗口形式的对象添加用户界面802。在图8K中，对象添加用户界面802包括文件选择用户界面803和取消示能表示802A。文件选择用户界面803包括所述多个文件选择示能表示803A-803G。

图8K示出了指向第三文件选择示能表示803C的用户输入899K。在各种实施方案中，用户输入899K对应于在第三文件选择示能表示803C的位置处检测到的接触(例如，轻击)。

图8L示出了响应于检测到指向第三文件选择示能表示803C的用户输入899K的CGR环境用户界面801。在图8L中，基于所选择的文件(例如，“video.mov”)的文件类型(例如，视频文件)，对象添加用户界面802包括视频选项用户界面806。视频选项用户界面806包括用于选择用于基于所选择的视频文件生成3D对象的选项的多个图像选项选择示能表示806A-806D。

所述多个视频选项选择示能表示806A-806C包括用于基于所选择的视频文件生成平板电视3D对象的平板电视示能表示806A、用于基于所选择的视频文件生成计算机监视器3D对象的计算机监视器示能表示806B、以及用于基于所选择的视频文件生成60s CRT 3D对象的60s CRT示能表示806C。

视频选项用户界面806包括用于返回对象添加用户界面802以显示文件选择用户界面803(例如，如图8K所示)的返回示能表示806D。因此，响应于检测到指向返回示能表示806D的用户输入，用文件选择用户界面803替换视频选项用户界面806。

图8L示出了指向平板电视示能表示806A的用户输入899L。在各种实施方案中，用户输入899L对应于在平板电视示能表示806A的位置处检测到的接触(例如，轻击)。

图8M示出了响应于检测到指向平板电视示能表示806A的用户输入899L的CGR环境用户界面801。在图8M中，对象添加用户界面802包括预览用户界面805。

预览用户界面805包括基于所选择的视频文件呈现平板电视3D对象的表示833的视图窗口805D。所选择的视频文件表示包括图像序列的视频。

平板电视3D对象由线框(或显示网格)和一个或多个纹理图像限定。线框包括正面、一个或多个边缘面和背面。正面具有大致矩形的形状。正面与具有包括视频的图像序列中的图像的显示区域的对应于平板电视正面的正面纹理图像相关联。因此，平板电视3D对象的表示833包括正面，该正面包括显示视频的图像序列中的图像的显示区域833A。在不同时间，图像序列的不同图像按顺序显示。因此，显示区域833A显示由视频文件表示的视频。背面和所述一个或多个边缘面被成形为使得线框大致具有平板电视的形状。背面和所述一个或多个边缘面与对应于平板电视的背面和一个或多个边缘的相应纹理图像相关联。

图8M示出了指向确定示能表示802B的用户输入899M。在各种实施方案中，用户输入899M对应于在确定示能表示802B的位置处检测到的接触(例如，轻击)。

图8N示出了响应于检测到指向确定示能表示802B的用户输入899M的CGR环境用户界面801。在图8N中，显示区域801B包括抵靠后壁的表示801BB显示的平板电视3D对象的表示843。

图8N示出了指向平板电视3D对象的表示843的用户输入899N。在各种实施方案中，用户输入899N对应于在平板电视CGR对象的表示843的位置处检测到的彼此靠近或远离移动的两个接触(例如，捏合或展开手势)。

图8O示出了响应于检测到指向平板电视3D对象的表示843的用户输入899N的CGR环境用户界面801。在图8O中，调整平板电视3D对象的表示843的大小，通过用户输入899N使其变得更大。

图8O示出了指向对象添加示能表示801AA的用户输入899O。在各种实施方案中，用户输入899O对应于在对象添加示能表示801AA的位置处检测到的接触(例如，轻击)。

图8P示出了响应于检测到指向对象添加示能表示801AA的用户输入899O的CGR环境用户界面801。在图8P中，CGR环境用户界面801包括呈弹出窗口形式的对象添加用户界面802。在图8P中，对象添加用户界面802包括文件选择用户界面803和取消示能表示802A。文件选择用户界面803包括所述多个文件选择示能表示803A-803G。

图8P示出了指向第六文件选择示能表示803F的用户输入899P。在各种实施方案中，用户输入899P对应于在第六文件选择示能表示803F的位置处检测到的接触(例如，轻击)。

图8Q示出了响应于检测到指向第六文件选择示能表示803F的用户输入899P的CGR环境用户界面801。在图8Q中，基于所选择的文件(例如，“manual.pdf”)的文件类型(例如，文本文件)，对象添加用户界面802包括文本选项用户界面806，该文本选项用户界面包括用于选择用于基于所选择的文本文件生成3D对象的选项的多个文本选项选择示能表示807A-807C。在各种实施方案中，文本文件可包括PDF文件、文字处理文件或电子书文件。因此，在各种实施方案中，文本文件可不仅仅包括文本，诸如图像、图表、视频或其他内容。在各种实施方案中，文本文件包括多个页面(并且因此可被称为页面文件)。

所述多个文本选项选择示能表示807A-807C包括用于基于所选择的文本文件生成书本3D对象的书本示能表示807A、用于基于所选择的文本文件生成纸叠3D对象的纸叠示能表示807B、以及用于基于所选择的文本文件生成展示屏幕3D对象的展示屏幕示能表示807C。

文本选项用户界面807包括用于返回对象添加用户界面802以显示文件选择用户界面803(例如，如图8P所示)的返回示能表示807D。因此，响应于检测到指向返回示能表示807D的用户输入，用文件选择用户界面803替换文本选项用户界面807。

图8Q示出了指向书本示能表示807A的用户输入899Q。在各种实施方案中，用户输入899Q对应于在书本示能表示807A的位置处检测到的接触(例如，轻击)。

图8R示出了响应于检测到指向书本示能表示807A的用户输入899Q的CGR环境用户界面801。在图8R中，对象添加用户界面802包括预览用户界面805。

预览用户界面805包括基于所选择的文本文件呈现书本3D对象的表示834的视图窗口805D。所选择的书本文件表示多个页面，每个页面包括文本和/或其他内容。

书本3D对象由线框(或显示网格)和一个或多个纹理图像限定。线框通常包括打开的书本的形状，并且包括正面、脊面、背面、左页面面和右页面面。左页面面具有大致矩形的形状。左页面面与对应于文本文件的第一页面的纹理图像相关联。因此，书本3D对象的表示834包括显示文本文件的第一页面的左页面面834A。右页面面具有大致矩形的形状。右页面面与对应于文本文件的第二页面的纹理图像相关联。因此，书本3D对象的表示834包括显示文本文件的第二页面的右页面面834B。在各种实施方案中，响应于CGR环境中指向书本3D对象的用户输入，左页面面与对应于文本文件的第三页面的纹理图像相关联，并且右页面面与对应于文本文件的第四页面的纹理图像相关联。类似地，响应于CGR环境中指向书本3D对象的用户输入，左页面面与对应于文本文件的第五页面的纹理图像相关联，并且右页面面与对应于文本文件的第六页面的纹理图像相关联。

图8R示出了指向书本3D对象的表示834的用户输入899R。在各种实施方案中，用户输入899R对应于在书本3D对象的表示834的位置处检测到的绕着公共中心移动的两个接触(例如，旋转手势)。

图8S示出了响应于检测到指向书本3D对象的表示834的用户输入899R的CGR环境用户界面801。在图8S中，视图窗口805D包括从另一视角(例如，围绕轴线旋转)显示的书本3D对象的表示834。

如上所述，书本3D对象由线框(或显示网格)和一个或多个纹理图像限定。线框通常包括打开的书本的形状，并且包括正面、脊面、背面、左页面面和右页面面。正面具有大致矩形的形状并且与包括文本文件的标题(其可以是文本文件的名称或从文件的元数据导出)的纹理图像相关联。因此，书本3D对象的表示834包括显示文本文件的标题的正面834C。

图8S示出了指向确定示能表示802B的用户输入899S。在各种实施方案中，用户输入899S对应于在确定示能表示802B的位置处检测到的接触(例如，轻击)。

图8T示出了响应于检测到指向确定示能表示802B的用户输入899S的CGR环境用户界面801。在图8T中，显示区域801B包括显示在桌子的表示801BD上的书本3D对象的表示844。

图8T示出了指向对象添加示能表示801AA的用户输入899T。在各种实施方案中，用户输入899T对应于在对象添加示能表示801AA的位置处检测到的接触(例如，轻击)。

图8U示出了响应于检测到指向对象添加示能表示801AA的用户输入899T的CGR环境用户界面801。在图8U中，CGR环境用户界面801包括呈弹出窗口形式的对象添加用户界面802。在图8U中，对象添加用户界面802包括文件选择用户界面803和取消示能表示802A。文件选择用户界面803包括所述多个文件选择示能表示803A-803G。

图8U示出了指向第七文件选择示能表示803G的用户输入899U。在各种实施方案中，用户输入899U对应于在第七文件选择示能表示803G的位置处检测到的接触(例如，轻击)。

图8V示出了响应于检测到指向第七文件选择示能表示803G的用户输入899U的CGR环境用户界面801。在图8V中，基于所选择的文件(例如，“cube.3D”)的文件类型(例如，3D对象文件)，对象添加用户界面802包括预览用户界面805。3D对象文件表示立方体3D对象。预览用户界面805包括呈现立方体3D对象的表示835的视图窗口805D。

图8V示出了指向确定示能表示802B的用户输入899V。在各种实施方案中，用户输入899V对应于在确定示能表示802B的位置处检测到的接触(例如，轻击)。

图8W示出了响应于检测到指向确定示能表示802B的用户输入899V的CGR环境用户界面801。在图8W中，显示区域801B包括显示在桌子的表示801BD上的立方体3D对象的表示845。

图9是根据一些实施方案的生成3D对象的方法900的流程图表示。在各种实施方案中，方法900由具有一个或多个处理器、非暂态存储器、显示器和一个或多个输入设备的设备(例如，图1A的便携式多功能设备100或图7的HMD 520B)执行。在一些实施方案中，方法900由处理逻辑部件(包括硬件、固件、软件或其组合)执行。在一些实施方案中，方法900由执行存储在非暂态计算机可读介质(例如，存储器)中的指令(例如，代码)的处理器执行。

方法900在框910处开始，其中该设备经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入。例如，在图8B中，设备100接收指向第一文件选择示能表示803A的用户输入899B，该用户输入选择表示2D图像并具有图像文件类型的第一图像文件。又如，在图8G中，设备100接收指向第二文件选择示能表示803B的用户输入899G，该用户输入选择表示2D图像并具有图像文件类型的第二图像文件。又如，在图8K中，设备100接收指向第三文件选择示能表示803C的用户输入899K，该用户输入选择表示2D视频并具有视频文件类型的视频文件。又如，在图8P中，设备100接收指向第六文件选择示能表示803F的用户输入899P，该用户输入选择表示2D页面内容(包括文本)并具有页面文件类型的PDF文件。

方法900在框920中继续，其中该设备经由一个或多个输入设备接收请求基于该文件生成三维(3D)对象的用户输入。例如，在图8C中，设备100接收指向画布示能表示804A的用户输入899C，并且作为响应，在图8D中的视图窗口805D中显示所生成的画布3D对象的表示831。又如，在图8D中，设备100接收指向确定示能表示802B的用户输入899D，并且作为响应，在图8E中的视图窗口801B中显示所生成的画布3D对象的表示841。

方法900在框930中继续，其中该设备基于文件类型生成表示2D内容的3D对象。在各种实施方案中，基于文件的文件扩展来确定文件的文件类型。在各种实施方案中，文件的文件类型基于由文件表示的2D内容来确定。在各种实施方案中，基于文件类型生成表示2D内容的3D对象包括确定文件类型是图像文件类型，其中2D内容包括图像，并且响应于确定文件类型是图像文件类型，生成画布3D对象，该画布3D对象包括与表示该图像的纹理图像相关联的正面。例如，在图8D中，响应于确定第一图像文件的文件类型是图像文件类型，其中2D内容包括第一图像，设备100生成并显示画布3D对象的表示831，该画布3D对象包括与表示第一图像的纹理图像相关联的正面831A。在各种实施方案中，画布3D对象还包括边缘面，该边缘面垂直于正面并且与对应于图像的边缘上的像素的拉伸的纹理图像相关联。例如，在图8D中，画布3D对象的表示831包括对应于第一图像的边缘上的像素的拉伸的边缘面831B。

在各种具体实施中，图像文件类型的文件是图像(例如，JPG文件或GIF文件)或具有深度信息的图像。

在各种实施方案中，基于文件类型生成表示2D内容的3D对象包括确定文件类型是图像文件类型，其中2D内容包括图像，并且响应于确定文件类型是图像文件类型，生成剪切3D对象，该剪切3D对象包括正面，该正面具有该图像的前景的形状并且与表示该图像的该前景的纹理图像相关联。例如，在图8I中，响应于确定第二图像文件的文件类型是图像文件类型，其中2D内容包括第二图像，设备100生成并显示剪切3D对象的表示832，该剪切3D对象包括正面832A，该正面具有第二图像的前景的形状并且与表示第二图像的前景的纹理图像相关联。

在各种实施方案中，基于文件类型生成表示2D内容的3D对象包括确定文件类型是视频文件类型，其中2D内容包括视频，以及响应于确定文件类型是视频文件类型，生成电视3D对象，该电视3D对象包括与包括表示该视频的显示区域的纹理图像相关联的正面。例如，在图8M中，响应于确定视频文件的文件类型是视频文件类型，其中2D内容包括视频，设备100生成并显示平板电视3D对象的表示833，该平板电视3D对象包括与包括表示该视频的显示区域833A的纹理图像相关联的正面。

在各种具体实施中，视频文件类型的文件是MOV文件、MPG文件或AVI文件。

在各种实施方案中，基于文件类型生成表示2D内容的3D对象包括确定文件类型是页面文件类型，其中2D内容包括一个或多个内容页面，以及响应于确定文件类型是页面文件类型，生成书本3D对象，该书本3D对象包括与表示一个或多个内容页面的第一页面的纹理图像相关联的第一页面面。例如，在图8R中，响应于确定PDF文件的文件类型是页面文件类型，其中2D内容包括一个或多个内容页面，设备100生成并显示书本3D对象的表示834，该书本3D对象包括与表示一个或多个内容页面的第一页面的纹理图像相关联的左页面面834A。在各种实施方案中，响应于CGR环境中指向书本3D对象的用户输入，第一页面面与表示所述一个或多个内容页面的第二页面的纹理图像相关联。在各种实施方案中，书本3D对象包括与表示所述一个或多个内容页面的第二页面的纹理图像相关联的第二页面面。例如，在图8R中，书本3D对象834的表示包括与呈现所述一个或多个内容页面的第二页面的纹理图像相关联的右页面面834B。在各种实施方案中，书本3D对象包括与表示文件的元数据的纹理图像相关联的正面。例如，在图8S中，书本3D对象834的表示包括与表示文件的标题的纹理图像相关联的正面面834C。

在各种具体实施中，页面文件类型(或文本文件类型)的文件是文字处理文档(例如，DOC文件或TXT文件)、电子书(例如，EPUB文件或IBOOKS文件)、幻灯片演示(例如，PPT文件或KEY文件)。

在各种实施方案中，基于文件类型生成表示2D内容的3D对象包括基于文件类型呈现一组选项，经由一个或多个输入设备接收选择该组选项中的一者的用户输入，以及基于该组选项中的所选一者生成表示2D内容的3D对象。例如，在图8C中，设备100呈现包括所述多个图像选项选择示能表示804A-804D的图像选项用户界面804。

在各种实施方案中，方法900还包括将3D对象存储为3D对象文件。

在各种实施方案中，方法900还包括显示表示2D内容的3D对象。例如，在图8D中，设备100在视图窗口805D中显示画布3D对象的表示831。又如，在图8E中，设备100在显示区域801B中显示画布3D对象的表示841。

在各种具体实施中，显示表示2D内容的3D对象包括执行平面检测和/或对象检测、以及基于文件类型显示锚固到特定类型的平面和/或特定类型的对象的3D对象。例如，画布3D对象显示在竖直平面和/或墙壁上，剪切3D对象显示在水平平面和/或地板上，电视3D对象显示在竖直平面和/或墙壁上，书本3D对象显示在水平平面和/或桌子上。

在各种实施方案中，方法900还包括接收用户输入，该用户输入空间地操纵3D对象并且改变3D对象的显示。例如，在图8E中，设备100检测指向画布3D对象的表示841的用户输入899E，并且作为响应，在图8E中在另一位置处显示画布3D对象的表示841。

应当理解，对图9中的操作进行描述的特定顺序仅仅是示例性的，并非旨在表明所述顺序是可以执行这些操作的唯一顺序。本领域的普通技术人员会想到多种方式来对本文所述的操作进行重新排序。

上述信息处理方法中的操作任选地通过运行信息处理装置中的一个或多个功能模块来实现，该信息处理装置诸如为通用处理器(例如，如相对于图1A、图3和图5所描述的)或特定于应用的芯片。此外，以上参考图9所描述的操作任选地由图1A至图1B中所描绘的部件来实现。例如，用户输入和用户界面元素任选地由事件分类器170、事件识别器180和事件处理程序190来实现。事件分类器170中的事件监视器171检测在触敏显示器系统112上的接触，并且事件分配器模块174将事件信息递送到应用程序136-1。应用程序136-1的相应事件识别器180将事件信息与相应事件定义186进行比较，并且确定触敏表面上第一位置处的第一接触是否与预定义的事件或子事件对应，该预定义的事件或子事件诸如为对用户界面上的对象的选择。当检测到相应的预定义的事件或子事件时，事件识别器180激活与该事件或子事件的检测相关联的事件处理程序190。事件处理程序190任选地利用或调用数据更新器176或对象更新器177来更新应用程序内部状态192。在一些实施方案中，事件处理程序190访问相应GUI更新器178来更新应用程序所显示的内容。类似地，本领域的技术人员会清楚地知道基于在图1A-图1B中所描绘的部件可如何实现其他过程。

出于解释的目的，前面的描述是通过参考具体实施方案来描述的。然而，上面的例示性论述并非旨在是穷尽的或将本发明限制为所公开的精确形式。根据以上教导内容，很多修改形式和变型形式都是可能的。选择和描述实施方案是为了最佳地阐明本发明的原理及其实际应用，以便由此使得本领域的其他技术人员能够最佳地使用具有适合于所构想的特定用途的各种修改的本发明以及各种所描述的实施方案。

第一实施方案是一种方法，所述方法包括：经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入；经由所述一个或多个输入设备接收请求基于所述文件生成三维(3D)对象的用户输入；以及基于所述文件类型生成表示所述2D内容的3D对象。

第二实施方案基本上类似于第一实施方案，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及响应于确定所述文件类型是图像文件类型，生成画布3D对象，所述画布3D对象包括与表示所述图像的纹理图像相关联的正面。

第三实施方案基本上类似于第二实施方案，其中所述画布3D对象还包括边缘面，所述边缘面垂直于所述正面并且与对应于所述图像的边缘上的像素的拉伸的纹理图像相关联。

第四实施方案基本上类似于第一实施方案，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及响应于确定所述文件类型是图像文件类型，生成剪切3D对象，所述剪切3D对象包括正面，所述正面具有所述图像的前景的形状并且与表示所述图像的所述前景的纹理图像相关联。

第五实施方案基本上类似于第一实施方案，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：确定所述文件类型是视频文件类型，其中所述2D内容包括视频；以及响应于确定所述文件类型是视频文件类型，生成电视3D对象，所述电视3D对象包括与包括表示所述视频的显示区域的纹理图像相关联的正面。

第六实施方案基本上类似于第一实施方案，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：确定所述文件类型是页面文件类型，其中所述2D内容包括一个或多个内容页面；以及响应于确定所述文件类型是页面文件类型，生成书本3D对象，所述书本3D对象包括与表示所述一个或多个内容页面的第一页面的纹理图像相关联的第一页面面。

第七实施方案基本上类似于第六实施方案，其中响应于CGR环境中指向所述书本3D对象的用户输入，所述第一页面面与表示所述一个或多个内容页面的第二页面的纹理图像相关联。

第八实施方案基本上类似于第六实施方案，其中所述书本3D对象包括与表示所述一个或多个内容页面的第二页面的纹理图像相关联的第二页面面。

第九实施方案基本上类似于第六实施方案至第八实施方案中的任一项，其中所述书本3D对象包括与表示所述文件的元数据的纹理图像相关联的正面。

第十实施方案基本上类似于第一实施方案至第九实施方案中的任一项，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：基于所述文件类型呈现一组选项；经由所述一个或多个输入设备接收选择所述一组选项中的一者的用户输入；以及基于所述一组选项中的所选一者生成表示所述2D内容的所述3D对象。

第十一实施方案基本上类似于第一实施方案至第十实施方案中的任一项，其中所述方法还包括显示表示所述2D内容的所述3D对象。

第十二实施方案基本上类似于第十一实施方案，其中所述方法还包括接收用户输入，所述用户输入空间地操纵所述3D对象并且改变所述3D对象的显示。

第十三实施方案基本上类似于第一实施方案至第十二实施方案中的任一项，其中所述方法还包括将所述3D对象存储为3D对象文件。

Claims (36)

1.一种方法，包括：

经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入；

经由所述一个或多个输入设备接收请求基于所述文件生成三维(3D)对象的用户输入；

响应于所述2D内容的所述文件类型是第一文件类型而选择第一3D对象模板；

响应于所述2D内容的所述文件类型是不同于所述第一文件类型的第二文件类型而选择不同于所述第一3D对象模板的第二3D对象模板；以及

基于所述文件类型通过在所述第一3D对象模板和所述第二3D对象模板中的所选一者的至少一部分上显示所述2D内容来生成表示所述2D内容的3D对象。

2.根据权利要求1所述的方法，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：

确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及

响应于确定所述文件类型是图像文件类型，生成画布3D对象，所述画布3D对象包括与表示所述图像的纹理图像相关联的正面。

3.根据权利要求2所述的方法，其中所述画布3D对象还包括边缘面，所述边缘面垂直于所述正面并且与对应于所述图像的边缘上的像素的拉伸的纹理图像相关联。

4.根据权利要求1所述的方法，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：

确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及

响应于确定所述文件类型是图像文件类型，生成剪切3D对象，所述剪切3D对象包括正面，所述正面具有所述图像的前景的形状并且与表示所述图像的所述前景的纹理图像相关联。

5.根据权利要求1所述的方法，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：

确定所述文件类型是视频文件类型，其中所述2D内容包括视频；以及

响应于确定所述文件类型是视频文件类型，生成电视3D对象，所述电视3D对象包括与纹理图像相关联的正面，所述纹理图像包括表示所述视频的显示区域。

6.根据权利要求1所述的方法，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：

确定所述文件类型是页面文件类型，其中所述2D内容包括一个或多个内容页面；以及

响应于确定所述文件类型是页面文件类型，生成书本3D对象，所述书本3D对象包括与表示所述一个或多个内容页面的第一页面的纹理图像相关联的第一页面面。

7.根据权利要求6所述的方法，其中响应于CGR环境中指向所述书本3D对象的用户输入，所述第一页面面与表示所述一个或多个内容页面的第二页面的纹理图像相关联。

8.根据权利要求6和7中任一项所述的方法，其中所述书本3D对象包括与表示所述一个或多个内容页面的第二页面的纹理图像相关联的第二页面面。

9.根据权利要求6至8中任一项所述的方法，其中所述书本3D对象包括与表示所述文件的元数据的纹理图像相关联的正面。

10.根据权利要求1至9中任一项所述的方法，其中基于所述文件类型生成表示所述2D内容的所述3D对象包括：

基于所述文件类型呈现一组选项；

经由所述一个或多个输入设备接收选择所述一组选项中的一者的用户输入；以及

基于所述一组选项中的所选一者生成表示所述2D内容的所述3D对象。

11.根据权利要求1至10中任一项所述的方法，还包括显示表示所述2D内容的所述3D对象。

12.根据权利要求11所述的方法，还包括接收用户输入，所述用户输入空间地操纵所述3D对象并且改变所述3D对象的显示。

13.根据权利要求1至12中任一项所述的方法，还包括将所述3D对象存储为3D对象文件。

14.根据权利要求1至13中任一项所述的方法，其中选择所述第一3D对象模板包括：

响应于所述2D内容的所述文件类型是图像文件类型，选择用于画布3D对象或剪切3D对象的3D对象模板；

响应于所述2D内容的所述文件类型是视频文件类型，选择用于电视3D对象的3D对象模板；以及

响应于所述2D内容的所述文件类型是页面文件类型，选择用于书本3D对象的3D对象模板。

15.根据权利要求1至14中任一项所述的方法，其中选择所述第一3D对象模板包括选择对应于所述第一文件类型的线框。

16.根据权利要求1至15中任一项所述的方法，其中选择所述第一3D对象模板包括选择对应于所述第一文件类型的显示网格。

17.根据权利要求1至16中任一项所述的方法，其中所述第一文件类型包括图像文件类型、视频文件类型和页面文件类型中的一者，并且其中所述第二文件类型包括所述图像文件类型、所述视频文件类型和所述页面文件类型中的不同一者。

18.一种电子设备包括：

一个或多个输入设备；

非暂态存储器；和

一个或多个处理器，所述一个或多个处理器用于：

经由一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入；

经由所述一个或多个输入设备接收请求基于所述文件生成三维(3D)对象的用户输入；

响应于所述2D内容的所述文件类型是第一文件类型而选择第一3D对象模板；

响应于所述2D内容的所述文件类型是不同于所述第一文件类型的第二文件类型而选择不同于所述第一3D对象模板的第二3D对象模板；以及

基于所述文件类型通过在所述第一3D对象模板和所述第二3D对象模板中的所选一者的至少一部分上显示所述2D内容来生成表示所述2D内容的3D对象。

19.根据权利要求18所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式基于所述文件类型生成表示所述2D内容的所述3D对象：

确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及

响应于确定所述文件类型是图像文件类型，生成画布3D对象，所述画布3D对象包括与表示所述图像的纹理图像相关联的正面。

20.根据权利要求19所述的电子设备，其中所述画布3D对象还包括边缘面，所述边缘面垂直于所述正面并且与对应于所述图像的边缘上的像素的拉伸的纹理图像相关联。

21.根据权利要求18所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式基于所述文件类型生成表示所述2D内容的所述3D对象：

确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及

响应于确定所述文件类型是图像文件类型，生成剪切3D对象，所述剪切3D对象包括正面，所述正面具有所述图像的前景的形状并且与表示所述图像的所述前景的纹理图像相关联。

22.根据权利要求18所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式基于所述文件类型生成表示所述2D内容的所述3D对象：

确定所述文件类型是视频文件类型，其中所述2D内容包括视频；以及

响应于确定所述文件类型是视频文件类型，生成电视3D对象，所述电视3D对象包括与纹理图像相关联的正面，所述纹理图像包括表示所述视频的显示区域。

23.根据权利要求18所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式基于所述文件类型生成表示所述2D内容的所述3D对象：

确定所述文件类型是页面文件类型，其中所述2D内容包括一个或多个内容页面；以及

响应于确定所述文件类型是页面文件类型，生成书本3D对象，所述书本3D对象包括与表示所述一个或多个内容页面的第一页面的纹理图像相关联的第一页面面。

24.根据权利要求23所述的电子设备，其中响应于CGR环境中指向所述书本3D对象的用户输入，所述第一页面面与纹理图像相关联，所述一个或多个处理器被配置为表示所述一个或多个内容页面的第二页面。

25.根据权利要求23和24中任一项所述的电子设备，其中所述书本3D对象包括与表示所述一个或多个内容页面的第二页面的纹理图像相关联的第二页面面。

26.根据权利要求23至25中任一项所述的电子设备，其中所述书本3D对象包括与表示所述文件的元数据的纹理图像相关联的正面。

27.根据权利要求18至26中任一项所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式基于所述文件类型生成表示所述2D内容的所述3D对象：

基于所述文件类型呈现一组选项；

经由所述一个或多个输入设备接收选择所述一组选项中的一者的用户输入；以及

基于所述一组选项中的所选一者生成表示所述2D内容的所述3D对象。

28.根据权利要求18至27中任一项所述的电子设备，其中所述一个或多个处理器被进一步配置为显示表示所述2D内容的所述3D对象。

29.根据权利要求28所述的电子设备，其中所述一个或多个处理器被进一步配置为接收用户输入，所述用户输入空间地操纵所述3D对象并且改变所述3D对象的显示。

30.根据权利要求18至29中任一项所述的电子设备，其中所述一个或多个处理器被进一步配置为将所述3D对象存储为3D对象文件。

31.根据权利要求18至30中任一项所述的电子设备，其中所述一个或多个处理器被配置为通过以下方式选择所述第一3D对象模板：

响应于所述2D内容的所述文件类型是图像文件类型，选择用于画布3D对象或剪切3D对象的3D对象模板；

响应于所述2D内容的所述文件类型是视频文件类型，选择用于电视3D对象的3D对象模板；以及

响应于所述2D内容的所述文件类型是页面文件类型，选择用于书本3D对象的3D对象模板。

32.根据权利要求18至31中任一项所述的电子设备，其中选择所述第一3D对象模板包括选择对应于所述第一文件类型的线框。

33.根据权利要求18至32中任一项所述的电子设备，其中选择所述第一3D对象模板包括选择对应于所述第一文件类型的显示网格。

34.根据权利要求18至33中任一项所述的电子设备，其中所述第一文件类型包括图像文件类型、视频文件类型和页面文件类型中的一者，并且其中所述第二文件类型包括所述图像文件类型、所述视频文件类型和所述页面文件类型中的不同一者。

35.一种非暂态计算机可读介质，所述非暂态计算机可读介质上编码有指令，所述指令在由包括一个或多个输入设备和一个或多个处理器的电子设备执行时，使得所述电子设备：

经由所述一个或多个输入设备接收选择表示二维(2D)内容并具有文件类型的文件的用户输入；

经由所述一个或多个输入设备接收请求基于所述文件生成三维(3D)对象的用户输入；

响应于所述2D内容的所述文件类型是第一文件类型而选择第一3D对象模板；

响应于所述2D内容的所述文件类型是不同于所述第一文件类型的第二文件类型而选择不同于所述第一3D对象模板的第二3D对象模板；以及

基于所述文件类型通过在所述第一3D对象模板和所述第二3D对象模板中的所选一者的至少一部分上显示所述2D内容来生成表示所述2D内容的3D对象。

36.根据权利要求35所述的非暂态计算机可读介质，其中所述指令在由所述电子设备执行时使得所述电子设备基于所述文件类型通过以下方式生成表示所述2D内容的所述3D对象：

确定所述文件类型是图像文件类型，其中所述2D内容包括图像；以及

响应于确定所述文件类型是图像文件类型，生成画布3D对象，所述画布3D对象包括与表示所述图像的纹理图像相关联的正面。

Images