CN117337430A - 消息系统内根据扫描操作的快捷方式 - Google Patents

消息系统内根据扫描操作的快捷方式 Download PDF

Info

Publication number
CN117337430A
CN117337430A CN202280036080.9A CN202280036080A CN117337430A CN 117337430 A CN117337430 A CN 117337430A CN 202280036080 A CN202280036080 A CN 202280036080A CN 117337430 A CN117337430 A CN 117337430A
Authority
CN
China
Prior art keywords
image
user
shortcut
message
shortcuts
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202280036080.9A
Other languages
English (en)
Inventor
卡韦赫·安瓦里普尔
洛朗·德塞雷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Snap Inc
Original Assignee
Snap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Snap Inc filed Critical Snap Inc
Publication of CN117337430A publication Critical patent/CN117337430A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/0482—Interaction with lists of selectable items, e.g. menus
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—2D [Two Dimensional] image generation
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16—Constructional details or arrangements
    • G06F1/1613—Constructional details or arrangements for portable computers
    • G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/22—Matching criteria, e.g. proximity measures
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304—Detection arrangements using opto-electronic means
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44—Arrangements for executing specific programs
    • G06F9/451—Execution arrangements for user interfaces
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00—Administration; Management
    • G06Q10/10—Office automation; Time management
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00—Commerce
    • G06Q30/02—Marketing; Price estimation or determination; Fundraising
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00—Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • G06Q50/01—Social networking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/07—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail characterised by the inclusion of specific contents
    • H04L51/10—Multimedia information
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/63—Control of cameras or camera modules by using electronic viewfinders
    • H04N23/631—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters
    • H04N23/632—Graphical user interfaces [GUI] specially adapted for controlling image capture or setting capture parameters for displaying or modifying preview images prior to image capturing, e.g. variety of image resolutions or capturing parameters
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00—Indexing scheme for image data processing or generation, in general
    • G06T2200/24—Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L51/00—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail
    • H04L51/52—User-to-user messaging in packet-switching networks, transmitted according to store-and-forward or real-time protocols, e.g. e-mail for supporting social networking services

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Business, Economics & Management (AREA)
  • Signal Processing (AREA)
  • Strategic Management (AREA)
  • Software Systems (AREA)
  • Data Mining & Analysis (AREA)
  • General Business, Economics & Management (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • Computer Hardware Design (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Human Resources & Organizations (AREA)
  • Accounting & Taxation (AREA)
  • Development Economics (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Finance (AREA)
  • Computing Systems (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Tourism & Hospitality (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Primary Health Care (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Game Theory and Decision Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Information Transfer Between Computers (AREA)

Abstract

本公开内容的各方面涉及用于基于扫描操作呈现快捷方式的方法和包括存储程序的计算机可读存储介质的系统。程序和方法使得：接收用户请求以识别由设备摄像装置捕获的图像中描绘的至少一个对象；响应于接收用户请求，确定图像中描绘的对象的属性；从用于针对图像执行的多个快捷方式中选择与对象的属性相关联的快捷方式，多个快捷方式中的每个快捷方式与要应用于图像的单独功能的组合对应；以及使得显示具有用户可选择元件的界面，该用户可选择元件用于针对图像执行所选择的快捷方式。

Description

消息系统内根据扫描操作的快捷方式
优先权要求
本专利申请要求于2021年5月19日提交的第63/190,619号美国临时专利申请的优先权的权益，该美国临时专利申请的全部内容通过引用并入本文中。
技术领域
本公开内容总体上涉及消息系统，包括在消息系统内呈现基于扫描操作的快捷方式。
背景技术
消息系统使得可以在用户之间交换消息内容。例如，消息系统允许用户与一个或更多个其他用户交换消息内容(例如，文本、图像)。
附图说明
在不必然按比例绘制的附图中，相似的附图标记可以在不同的视图中描述类似的部件。为了容易地识别对任何特定元件或动作的讨论，附图标记中的一个或多个最高位数字是指该元件被首次引入时所在的图号。在附图的图中示出了一些非限制性示例，在附图中：
图1是根据一些示例的可以在其中部署本公开内容的联网环境的图解表示。
图2是根据一些示例的具有客户端侧功能和服务器侧功能两者的消息系统的图解表示。
图3是根据一些示例的在数据库中维护的数据结构的图解表示。
图4是根据一些示例的消息的图解表示。
图5是示出根据一些示例实施方式的用于执行快捷方式的过程的交互图，该快捷方式表示与对图像进行捕获相关联地应用的单独功能的组合。
图6是示出根据一些示例实施方式的用于基于在捕获图像中检测到的对象来呈现可用快捷方式的过程的交互图。
图7A至图7B示出了根据一些示例实施方式的用于呈现可用快捷方式的列表的示例用户界面。
图8A至图8B示出了根据一些示例实施方式的用于针对捕获图像应用快捷方式以及用于呈现快捷方式的预览的示例用户界面。
图9示出了根据一些示例实施方式的呈现媒体内容项连同用于执行与媒体内容项相关联的快捷方式的图标的示例用户界面。
图10A至图10C示出了根据一些示例实施方式的用于基于经由扫描操作检测到的对象来呈现可用的快捷方式的示例用户界面。
图11是示出根据一些示例实施方式的用于基于经由扫描操作检测到的对象呈现快捷方式的过程的流程图。
图12是根据一些示例的用于访问限制过程的流程图。
图13是根据一些示例的呈计算机系统形式的机器的图解表示，在该机器内可以执行一组指令以使该机器执行本文所讨论的方法中的任何一种或更多种方法。
图14是示出其中可以实现示例的软件架构的框图。
具体实施方式
消息系统通常允许用户在消息线程中彼此交换内容项(例如，消息、图像和/或视频)。消息系统可以实现用于修改或以其他方式补充由设备摄像装置捕获的图像数据以包括在消息中的各种功能。这样的功能的示例包括：将增强现实内容应用于图像数据；选择伴随图像数据的音频轨道；以及启用用于图像捕获的不同的摄像装置模式(例如，定时器模式、慢动作模式等)。
所公开的实施方式提供了具有快捷方式的消息系统，在该消息系统中每个快捷方式对应于针对捕获图像数据应用单独功能的组合。快捷方式允许最终用户经由单个姿势(例如，轻击或按压)将单独功能的组合应用于图像数据。激活快捷方式的图标可以显示在消息应用的不同用户界面内，不同用户界面包括摄像装置中心界面(其显示所有可用的快捷方式)、扫描结果界面(其显示与经由扫描操作的检测到的对象有关的快捷方式)和显示媒体内容项的界面(其中，相关联的快捷方式由图标表示)。
借助于生成、维护和存储用于将单独功能组合的快捷方式，可以减少执行单独功能通常所需的用户输入量。此外，具有快捷方式的对应用户界面提供吸引人的用户体验。
图1是示出用于通过网络交换数据(例如，消息和相关联的内容)的示例消息系统100的框图。消息系统100包括客户端设备102的多个实例，每个实例托管若干应用，包括消息客户端104和其他应用106。每个消息客户端104经由网络112(例如，因特网)通信地耦接至消息客户端104(例如，托管在相应的其他客户端设备102上)的其他实例、消息服务器系统108和第三方服务器110。消息客户端104还可以使用应用程序接口(API)与本地托管应用106通信。
消息客户端104能够经由网络112与其他消息客户端104和消息服务器系统108通信并交换数据。在消息客户端104之间以及在消息客户端104与消息服务器系统108之间交换的数据包括功能(例如，用于激活功能的命令)以及净荷数据(例如，文本、音频、视频或其他多媒体数据)。
消息服务器系统108经由网络112向特定消息客户端104提供服务器侧功能。虽然消息系统100的某些功能在本文中被描述为由消息客户端104或由消息服务器系统108执行，但是某些功能是定位在消息客户端104内还是定位在消息服务器系统108内可以是设计选择。例如，在技术上可以优选的是：最初将某些技术和功能部署在消息服务器系统108内，但是后面在客户端设备102具有足够处理能力的情况下，将该技术和功能迁移至消息客户端104。
消息服务器系统108支持向消息客户端104提供的各种服务和操作。这样的操作包括向消息客户端104发送数据、从消息客户端104接收数据以及对由消息客户端104生成的数据进行处理。作为示例，该数据可以包括消息内容、客户端设备信息、地理定位信息、媒体增强和叠加、消息内容持久性条件、社交网络信息以及实况事件信息。通过经由消息客户端104的用户界面(UI)可用的功能来激活和控制消息系统100内的数据交换。
现在具体地转至消息服务器系统108，应用程序接口(API)服务器116耦接至应用服务器114并且向应用服务器114提供编程接口。应用服务器114通信地耦接至数据库服务器120，该数据库服务器120有助于对数据库126的访问，该数据库126存储与通过应用服务器114处理的消息相关联的数据。类似地，web服务器128耦接至应用服务器114，并且向应用服务器114提供基于web的接口。为此，web服务器128通过超文本传输协议(HTTP)和若干其他相关协议来处理传入的网络请求。
应用程序接口(API)服务器116在客户端设备102与应用服务器114之间接收和发送消息数据(例如，命令和消息净荷)。具体地，应用程序接口(API)服务器116提供一组接口(例如，例程和协议)，该组接口可以由消息客户端104调用或查询以激活应用服务器114的功能。应用程序接口(API)服务器116公开应用服务器114所支持的各种功能，包括：账户注册；登录功能；经由应用服务器114从特定消息客户端104向另一消息客户端104发送消息；从消息客户端104向消息服务器118发送媒体文件(例如，图像或视频)并用于另一消息客户端104的可能访问；设置媒体数据的集合(例如，故事)；检索客户端设备102的用户的朋友列表；检索这样的集合；检索消息和内容；对实体图(例如，社交图)添加和删除实体(例如，朋友)；在社交图内定位朋友；以及打开应用事件(例如，与消息客户端104有关)。
应用服务器114托管若干服务器应用和子系统，包括例如消息服务器118、图像处理服务器122以及社交网络服务器124。消息服务器118实现了若干消息处理技术和功能，特别是与从消息客户端104的多个实例接收到的消息中包括的内容(例如，文本和多媒体内容)的聚合和其他处理有关的消息处理技术和功能。如将进一步详细描述的，来自多个源的文本和媒体内容可以被聚合成内容集合(例如，被称为故事或图库(gallery))。然后，使这些集合对消息客户端104可用。鉴于对其他处理器和存储器密集型数据处理的硬件要求，也可以由消息服务器118在服务器侧执行其他处理器和存储器密集型数据处理。
应用服务器114还包括图像处理服务器122，该图像处理服务器122专用于执行各种图像处理操作，通常针对从消息服务器118发送或在消息服务器118处接收到的消息的净荷内的图像或视频执行各种图像处理操作。
社交网络服务器124支持各种社交联网功能和服务并使这些功能和服务可用于消息服务器118。为此，社交网络服务器124维护并访问数据库126内的实体图304(如图3所示)。社交网络服务器124所支持的功能和服务的示例包括识别消息系统100的与特定用户具有关系或该特定用户正在“关注”的其他用户，并且还包括识别特定用户的兴趣和其他实体。
返回到消息客户端104，外部资源(例如，应用106或小程序)的特征和功能经由消息客户端104的接口对用户可用。在该上下文中，“外部”是指应用106或小程序在消息客户端104外部的事实。外部资源通常由第三方提供，但是也可以由消息客户端104的创建者或提供者提供。消息客户端104接收对启动或访问这样的外部资源的特征的选项的用户选择。外部资源可以是安装在客户端设备102上的应用106(例如，“本地app”)，或者是托管在客户端设备102上或远离客户端设备102(例如，在第三方服务器110上)的应用的小规模版本(例如，“小程序”)。应用的小规模版本包括应用(例如，应用的全规模、本地版本)的特征和功能的子集，并且使用标记语言文档来实现。在一个示例中，应用的小规模版本(例如，“小程序”)是应用的基于web的标记语言版本，并且被嵌入在消息客户端104中。除了使用标记语言文档(例如，.*ml文件)之外，小程序可以并入脚本语言(例如，.*js文件或.json文件)和样式表(例如，.*ss文件)。
响应于接收到对启动或访问外部资源的特征的选项的用户选择，消息客户端104确定所选择的外部资源是基于web的外部资源还是本地安装的应用106。在一些情况下，本地安装在客户端设备102上的应用106可以独立于消息客户端104并且与消息客户端104分开启动，例如通过在客户端设备102的主页画面上选择与应用106对应的图标。可以经由消息客户端104启动或访问这样的应用的小规模版本，并且在一些示例中，小规模应用的各部分都不能在消息客户端104之外被访问或者小规模应用的有限的部分可以在消息客户端104之外被访问。可以通过消息客户端104例如从第三方服务器110接收与小规模应用相关联的标记语言文档并处理这样的文档来启动小规模应用。
响应于确定外部资源是本地安装的应用106，消息客户端104指示客户端设备102通过执行与外部资源对应的本地存储的代码来启动外部资源。响应于确定外部资源是基于web的资源，消息客户端104与第三方服务器110通信(例如)以获得与所选择的外部资源对应的标记语言文档。然后消息客户端104处理获得的标记语言文档以在消息客户端104的用户界面内呈现基于web的外部资源。
消息客户端104可以向客户端设备102的用户或与这样的用户有关的其他用户(例如，“朋友”)通知一个或更多个外部资源中发生的活动。例如，消息客户端104可以向消息客户端104中的对话(例如，聊天会话)的参与者提供与一组用户的一个或更多个成员当前或最近使用外部资源有关的通知。可以邀请一个或更多个用户加入活动的外部资源或启动(在该组朋友中)最近使用但当前不活动的外部资源。外部资源可以向对话中的各自使用相应的消息客户端104的参与者提供与一组用户中的一个或更多个成员将外部资源中的项、状况、状态或位置共享到聊天会话中的能力。共享项可以是交互式聊天卡，聊天的成员可以利用该交互式聊天卡进行交互，例如，以启动对应的外部资源，观看外部资源内的特定信息，或将聊天的成员带到外部资源内的特定位置或状态。在给定的外部资源内，可以向消息客户端104上的用户发送响应消息。外部资源可以基于外部资源的当前上下文将不同的媒体项选择性地包括在响应中。
消息客户端104可以向用户呈现可用外部资源(例如，应用106或小程序)的列表以启动或访问给定的外部资源。该列表可以以上下文相关菜单的方式呈现。例如，表示不同的应用106(或小程序)的图标可以基于由用户如何启动菜单(例如，从对话界面或从非对话界面)而变化。
图2是示出根据一些示例的关于消息系统100的进一步细节的框图。具体地，消息系统100被示为包括消息客户端104和应用服务器114。消息系统100包含若干子系统，这些子系统在客户端侧由消息客户端104支持并且在服务器侧由应用服务器114支持。这些子系统包括例如短暂定时器系统202、集合管理系统204、增强系统208、地图系统212、外部资源系统214、摄像装置模式系统216、音频轨道系统218和快捷方式系统220。
短暂定时器系统202负责实施由消息客户端104和消息服务器118对内容进行临时或限时访问。短暂定时器系统202包含若干定时器，这些定时器基于与消息或消息的集合(例如，故事)相关联的持续时间和显示参数，选择性地实现经由消息客户端104访问(例如，用于呈现和显示)消息及相关联的内容。下面提供关于短暂定时器系统202的操作的其他细节。
集合管理系统204负责管理媒体的集或集合(例如，文本、图像视频和音频数据的集合)。内容(例如，消息，包括图像、视频、文本和音频)的集合可以被组织成“事件图库”或“事件故事”。可以使这样的集合在指定的时间段(例如内容所涉及的事件的持续时间)内可用。例如，可以使与音乐会有关的内容在音乐会的持续时间内作为“故事”可用。集合管理系统204还可以负责向消息客户端104的用户界面发布提供对存在特定集合的通知的图标。
此外，集合管理系统204包括策展接口206，该策展接口206允许集合管理者管理和策展特定内容集合。例如，策展接口206使得事件组织者能够策展与特定事件有关的内容的集合(例如，删除不适当的内容或冗余消息)。此外，集合管理系统204采用机器视觉(或图像识别技术)和内容规则来自动地策展内容集合。在某些示例中，可以向用户支付补偿以将用户生成的内容包括到集合中。在这样的情况下，集合管理系统204进行操作以自动向这样的用户支付费用以使用其内容。
增强系统208提供使得用户能够增强(例如，注解或以其他方式修改或编辑)与消息相关联的媒体内容的各种功能。例如，增强系统208提供与生成和发布用于由消息系统100处理的消息的媒体叠加(media overlay)有关的功能。增强系统208基于客户端设备102的地理定位可操作地向消息客户端104提供媒体叠加或增强(例如，图像过滤器)。在另一示例中，增强系统208基于诸如客户端设备102的用户的社交网络信息的其他信息可操作地向消息客户端104提供媒体叠加。媒体叠加可以包括音频和视觉内容以及视觉效果。音频和视觉内容的示例包括图片、文本、标志、动画和声音效果。视觉效果的示例包括颜色叠加。音频和视觉内容或视觉效果可以应用于客户端设备102处的媒体内容项(例如，照片)。例如，媒体叠加可以包括可以叠加在由客户端设备102拍摄的照片的顶部上的文本或图像。在另一示例中，媒体叠加包括定位标识(例如，威尼斯海滩)叠加、实况事件的名称或商家名称(例如，海滩咖啡馆)叠加。在另一示例中，增强系统208使用客户端设备102的地理定位来标识包括客户端设备102的地理定位处的商家名称的媒体叠加。媒体叠加可以包括与商家相关联的其他标记。媒体叠加可以存储在数据库126中并且通过数据库服务器120进行访问。
在一些示例中，增强系统208提供基于用户的发布平台，该基于用户的发布平台使得用户能够选择地图上的地理定位，并且上传与选择的地理定位相关联的内容。用户还可以指定特定媒体叠加应当被提供给其他用户的环境。增强系统208生成包括上传的内容的媒体叠加并且将上传的内容与选择的地理定位相关联。
在其他示例中，增强系统208提供基于商家的发布平台，该基于商家的发布平台使得商家能够经由出价过程来选择与地理定位相关联的特定媒体叠加。例如，增强系统208使最高出价商家的媒体叠加与对应地理定位相关联达预定义时间量。
在其他示例中，如下面关于图3所讨论的，增强系统208使得与客户端设备102的摄像装置所捕获的图像或视频相关联地呈现增强现实内容。增强系统208可以实现或以其他方式访问增强现实内容项(例如，对应于应用透镜或增强现实体验)来提供可以被添加至图像或视频的实时特效和/或声音。
在一个或更多个实施方式中，增强系统208包括对象检测系统210或以其他方式访问对象检测系统210。例如，对象检测系统210可以包括在增强系统208内(例如，如图2的示例所示)，或者可以是分开的并且能够由增强系统208访问。
对象检测系统210在消息系统100的上下文中提供各种对象检测功能。对象检测系统210可以采用一个或更多个对象分类器来识别捕获图像中描绘的对象。图像可以对应于由客户端设备102的摄像装置(例如，后置摄像装置或前置摄像装置)捕获的实况视频馈送。替选地或附加地，图像可以对应于与客户端设备102的用户相关联地存储(例如，在照片库)的图像(例如，照片)。
在一个或更多个实施方式中，对象检测系统210被配置成实现或以其他方式访问对象识别算法(例如，包括机器学习算法)，对象识别算法被配置成扫描捕获图像，并且检测/跟踪图像内的对象的移动。作为非限制性示例，图像内的可检测对象包括：人脸、人体的各部分、动物及其各部分、景观、自然对象、非生命对象(例如，衣物、椅子、书籍、汽车、建筑物、其他结构)、对象的图示(例如，海报和/或传单上)、基于文本的对象、基于方程的对象等。
此外，对象检测系统210被配置成确定或以其他方式访问对象的属性。对于特定对象，对象检测系统210可以确定或检索属性，例如名称/类型、流派、颜色、大小、形状、纹理、环境因素(例如，地理定位、时间、天气)和/或其他补充信息(例如，与媒体对应的对象的歌曲标题/艺术家)。
关于环境因素，对象检测系统210可以从消息客户端104接收信息以(例如，经由设备传感器)识别客户端设备102周围的天气、地理定位、时间等。对象检测系统210可以基于相关性，例如基于属性与一个或更多个环境因素的关联，对检索到的属性进行排名。可以采用其他机器学习技术来选择所检索的属性并对其进行排名。对象检测系统210可以从在捕获图像中检测到的对象的列表中选择与排名最高的属性相关联的对象，并且可以向消息客户端104发送关于所选择的对象的指示。替选地或附加地，对象检测系统210可以使得将每个检测到的对象的一个或更多个属性(例如，名称/类型)和/或关于属性的排名的指示传送到消息客户端104。
在一个或更多个实施方式中，对象检测系统210确定属性之一对应于已经由第三方赞助的关键字。例如，第三方可以赞助某些关键字或为某些关键字付费以使其排名高于其他关键字。响应于确定给定的属性对应于被赞助的关键字，对象检测系统210可以使得该属性相对于其他属性排名更高。
地图系统212提供各种地理定位功能，并且支持由消息客户端104呈现基于地图的媒体内容和消息。例如，地图系统212使得能够在地图上显示(例如，存储在简档数据302中的)用户图标或化身，以在地图的上下文中指示用户的“朋友”的当前位置或过去位置以及由这样的朋友生成的媒体内容(例如，包括照片和视频的消息的集合)。例如，可以在消息客户端104的地图界面上将用户从特定地理定位发布到消息系统100的消息在地图的该特定位置的上下文内显示给特定用户的“朋友”。用户还可以经由消息客户端104与消息系统100的其他用户(例如，使用适当的状态化身)共享他或她的位置和状态信息，其中该位置和状态信息在消息客户端104的地图界面的上下文内被类似地显示给选择的用户。
外部资源系统214为消息客户端104提供接口以与远程服务器(例如，第三方服务器110)通信以启动或访问外部资源，即，应用或小程序。每个第三方服务器110托管例如基于标记语言(例如，HTML5)的应用或应用的小规模版本(例如，游戏应用、实用程序应用、支付应用或乘坐共享应用)。消息客户端104可以通过从与基于web的资源相关联的第三方服务器110访问HTML5文件来启动基于web的资源(例如，应用)。在某些示例中，利用由消息服务器118提供的软件开发工具包(SDK)以JavaScript对由第三方服务器110托管的应用进行编程。SDK包括应用编程接口(API)，这些API具有可以由基于web的应用调用或激活的功能。在某些示例中，消息服务器118包括JavaScript库，该JavaScript库提供对消息客户端104的某些用户数据的给定外部资源访问。HTML5被用作用于对游戏进行编程的示例技术，但是可以使用基于其他技术编程的应用和资源。
为了将SDK的功能集成到基于web的资源中，SDK由第三方服务器110从消息服务器118下载，或者由第三方服务器110以其他方式接收。一旦被下载或接收，SDK就被包括作为基于web的外部资源的应用代码的一部分。然后，基于web的资源的代码可以调用或激活SDK的某些功能以将消息客户端104的特征集成到基于web的资源中。
存储在消息服务器118上的SDK有效地提供了外部资源(例如，应用106或小程序)与消息客户端104之间的桥接。这为用户提供了在消息客户端104上与其他用户通信的无缝体验，同时还保留了消息客户端104的外观和感觉。为了桥接外部资源与消息客户端104之间的通信，在某些示例中，SDK有助于第三方服务器110与消息客户端104之间的通信。在某些示例中，在客户端设备102上运行的WebViewJavaScriptBridge在外部资源与消息客户端104之间建立两个单向通信信道。在外部资源与消息客户端104之间经由这些通信通道异步地发送消息。每个SDK功能激活被作为消息和回调来发送。每个SDK功能通过构造唯一的回调标识符并发送具有该回调标识符的消息来实现。
通过使用SDK，并非来自消息客户端104的所有信息都与第三方服务器110共享。SDK基于外部资源的需要来限制共享哪些信息。在某些示例中，每个第三方服务器110向消息服务器118提供对应于基于web的外部资源的HTML5文件。消息服务器118可以在消息客户端104中添加基于web的外部资源的视觉表示(例如，盒设计(box art)或其他图形)。一旦用户选择视觉表示或者通过消息客户端104的GUI指示消息客户端104访问基于web的外部资源的特征，消息客户端104则获得HTML5文件并且使访问基于web的外部资源的特征所需的资源实例化。
消息客户端104呈现用于外部资源的图形用户界面(例如，登录页面或标题画面)。在呈现登录页面或标题画面期间、之前或之后，消息客户端104确定所启动的外部资源是否先前已被授权访问消息客户端104的用户数据。响应于确定启动的外部资源先前已被授权访问消息客户端104的用户数据，消息客户端104呈现包括外部资源的功能和特征的外部资源的另一图形用户界面。响应于确定所启动的外部资源先前未被授权访问消息客户端104的用户数据，在显示外部资源的登录页面或标题画面的阈值时间段(例如，3秒)之后，消息客户端104滑动用于授权外部资源访问用户数据的菜单(例如，将菜单动画化为从画面底部浮现到画面的中间或其他部分)。该菜单标识外部资源将被授权进行使用的用户数据的类型。响应于接收到对接受选项的用户选择，消息客户端104将外部资源添加到授权的外部资源的列表，并且使得外部资源能够访问来自消息客户端104的用户数据。在一些示例中，消息客户端104根据OAuth 2框架来授权外部资源访问用户数据。
消息客户端104基于被授权的外部资源的类型来控制与外部资源共享的用户数据的类型。例如，包括全规模的应用(例如，应用106)的外部资源被提供有对第一类型的用户数据(例如，具有或不具有不同化身特性的用户的仅二维化身)的访问权。作为另一示例，包括应用的小规模版本(例如，应用的基于web的版本)的外部资源被提供有对第二类型的用户数据(例如，支付信息、用户的二维化身、用户的三维化身、以及具有各种化身特性的化身)的访问权。化身特性包括定制化身的外观和感觉(例如不同的姿势、面部特征、服装等)的不同方式。
摄像装置模式系统216实现用于在消息系统100的上下文内提供不同摄像装置模式的各种功能。例如，摄像装置模式系统216提供时间线模式、定时器模式和慢动作模式中的一个或更多个。时间线模式是用户可选择用于捕获一系列照片/视频片段(或段)以生成媒体内容项(例如，基于捕获按钮的多次轻击和/或保持并按压姿势)的，而不是捕获单个照片/视频片段以生成媒体内容项(例如，基于捕获按钮的单次轻击或保持并按压姿势)的默认设置。定时器模式是用户可选择以设置开始视频捕获的时间(例如，在5秒、10秒等之后)的，而不是在视频捕获之间立即进行(例如，响应于轻击或保持并按压姿势)的默认设置。慢动作模式是用户可选择用于以慢动作捕获视频的，而不是用于以常规(例如，非慢动作)时间捕获视频的默认设置。
音频轨道系统218实现用于针对生成媒体内容项而将音频轨道添加至捕获视频(或捕获图像)的各种功能。例如，音频轨道系统218使得访问可用音频轨道的目录、呈现可用音频轨道以供用户选择、以及将所选择的音频轨道与捕获视频或图像组合以生成媒体内容项。在一个或更多个实施方式中，可用音频轨道的目录由第三方服务器(例如，对应于第三方服务器110之一)维护。例如，音频轨道系统218被配置成基于消息系统100与第三方服务器之间的许可布置来访问(例如，下载和/或流式传输)音频轨道。在一个或更多个实施方式中，音频轨道系统218还被配置成访问用于给定音频轨道的标识信息，例如，音频轨道的标题(例如，歌曲名称)、艺术家、流派等。
快捷方式系统220实现用于生成、维护和存储关于消息系统100的快捷方式的各种功能。如本文中所述，快捷方式表示与对图像进行捕获相关联地应用的单独功能的组合。这样的单独功能的示例对应于针对对图像数据(例如，照片、实况视频馈送)进行捕获，应用增强现实内容项(例如，按照增强系统208)、应用摄像装置模式(例如，按照摄像装置模式系统216)和/或应用音频轨道(例如，按照音频轨道系统218)。单独功能的组合对应于针对对图像进行捕获，应用增强现实内容项、摄像装置模式或音频轨道中的两个或更多个。注意，可以代替增强现实内容项、摄像装置模式和音频轨道或除了增强现实内容项、摄像装置模式和音频轨道之外使用其他单独功能，作为用于快捷方式的组合的一部分。
图3是示出根据某些示例的可以存储在消息服务器系统108的数据库126中的数据结构300的示意图。虽然数据库126的内容被示为包括若干表，但是将认识到，数据可以存储在其他类型的数据结构(例如，面向对象的数据库)中。
数据库126包括存储在消息表306中的消息数据。对于任何特定的一条消息，该消息数据包括至少消息发送者数据、消息接收方(或接收者)数据和净荷。下面参照图4描述关于可以被包括在消息中并且被包括在存储在消息表306中的消息数据中的信息的其他的细节。
实体表308存储实体数据，并且(例如，以参考的方式)链接至实体图304和简档数据302。针对其记录被维护在实体表308内的实体可以包括个人、公司实体、组织、对象、地点、事件等。无论实体类型如何，消息服务器系统108存储关于其的数据的任何实体都可以是识别的实体。每个实体被提供有唯一标识符以及实体类型标识符(未示出)。
实体图304存储与实体之间的关系和关联有关的信息。仅作为示例，这样的关系可以是基于感兴趣的或基于活动的社交关系、职业关系(例如，在共同的公司或组织中工作)。
简档数据302存储关于特定实体的多种类型的简档数据。基于由特定实体指定的隐私设置，简档数据302可以被选择性地使用并呈现给消息系统100的其他用户。在实体是个人的情况下，简档数据302包括例如用户名、电话号码、地址、设置(例如，通知和隐私设置)、以及用户所选择的化身表示(或这样的化身表示的集合)。然后，特定用户可以将这些化身表示中的一个或更多个化身表示选择性地包括在经由消息系统100传送的消息的内容中以及包括在由消息客户端104向其他用户显示的地图界面上。化身表示的集合可以包括“状态化身”，其呈现用户可以选择以在特定时间进行通信的状态或活动的图形表示。
在实体是团体的情况下，除了团体名称、成员和相关团体的各种设置(例如，通知)之外，团体的简档数据302还可以类似地包括与团体相关联的一个或更多个化身表示。
数据库126还在增强表310中存储增强数据，例如叠加(overlay)或过滤器。增强数据与视频(针对其数据被存储在视频表314中)和图像(针对其数据被存储在图像表316中)相关联并且被应用于视频和图像。
在一个示例中，过滤器是在向接收方用户呈现期间显示为叠加在图像或视频上的叠加。过滤器可以是各种类型的，包括当发送用户正在编写消息时由消息客户端104呈现给发送用户的一组过滤器中的用户选择的过滤器。其他类型的过滤器包括地理定位过滤器(也称为地理过滤器)，其可以基于地理定位被呈现给发送用户。例如，可以基于由客户端设备102的全球定位系统(GPS)单元确定的地理定位信息，由消息客户端104在用户界面内呈现特定于附近或特定位置的地理定位过滤器。
另一种类型的过滤器是数据过滤器，其可以由消息客户端104基于在消息创建处理期间由客户端设备102收集的其他输入或信息选择性地呈现给发送用户。数据过滤器的示例包括特定位置处的当前温度、发送用户行进的当前速度、客户端设备102的电池寿命或当前时间。
可以被存储在图像表316内的其他增强数据包括增强现实内容项(例如，对应于应用透镜或增强现实体验)。增强现实内容项可以提供可以被添加至图像或视频的实时特效和/或声音。
如上所述，增强数据包括增强现实内容项、叠加、图像变换、AR图像以及指代可以应用于图像数据(例如，视频或图像)的修改的类似项。这包括实时修改，实时修改在使用客户端设备102的设备传感器(例如，一个或多个摄像装置)捕获到图像并且然后在客户端设备102的屏幕上显示图像时利用修改对图像进行修改。这还包括对存储的内容(例如，图库中可以被修改的视频片段)的修改。例如，在访问多个增强现实内容项的客户端设备102中，用户可以将单个视频片段与多个增强现实内容项一起使用来查看不同的增强现实内容项将如何修改存储的片段。例如，通过为内容选择不同的增强现实内容项，可以将应用不同伪随机移动模型的多个增强现实内容项应用于该相同内容。类似地，实时视频捕获可以与所示出的修改一起使用，以示出当前由客户端设备102的传感器捕获的视频图像将如何修改所捕获的数据。这样的数据可以简单地显示在屏幕上而不存储在存储器中，或者由设备传感器捕获的内容可以在进行或不进行修改(或两者)的情况下被记录并被存储在存储器中。在一些系统中，预览特征可以显示不同的增强现实内容项同时在显示器中的不同窗口内看起来如何。这可以例如使得能够同时在显示器上观看具有不同伪随机动画的多个窗口。
因此，使用增强现实内容项的数据和各种系统或使用该数据修改内容的其他这样的变换系统可以涉及视频帧中对象(例如，面部、手、身体、猫、狗、表面、对象等)的检测，在这些对象离开视场、进入视场以及在视场四处移动时对这些对象的跟踪，以及在跟踪这些对象时对这样的对象的修改或变换。在各种示例中，可以使用用于实现这样的变换的不同的方法。一些示例可以涉及：生成一个或多个对象的三维网格模型；以及在视频内使用模型的变换和动画纹理来实现变换。在其他示例中，可以使用对象上的点的跟踪将图像或纹理(其可以是二维或三维的)放置在所跟踪的位置处。在另外的示例中，可以使用视频帧的神经网络分析来将图像、模型或纹理放置在内容(例如，图像或视频帧)中。因此，增强现实内容项既指用于在内容中创建变换的图像、模型和纹理，也指利用对象检测、跟踪和放置实现这样的变换所需的附加建模和分析信息。
可以利用保存在任何种类的计算机化系统的存储器中的任何种类的视频数据(例如，视频流、视频文件等)来执行实时视频处理。例如，用户可以加载视频文件并将它们保存在设备的存储器中，或者可以使用设备的传感器来生成视频流。此外，可以使用计算机动画模型来处理任何对象，例如人的面部和人身体的各部分、动物或非生物(例如，椅子、汽车或其他对象)。
在一些示例中，当连同要变换的内容一起选择特定修改时，由计算设备识别要变换的元件，并且然后如果要变换的元件存在于视频的帧中，则检测并跟踪要变换的元件。根据针对修改的请求来修改对象的元件，因此变换视频流的帧。可以通过用于不同类型的变换的不同方法来执行视频流的帧的变换。例如，对于主要涉及改变对象的元件的形式的帧的变换，计算对象的每个元件的特性点(例如，使用主动形状模型(ASM)或其他已知方法)。然后，针对对象的至少一个元件中的每个元件，生成基于特性点的网格。该网格用于在视频流中跟踪对象的元件的后续阶段。在跟踪的过程中，所提及的针对每个元件的网格与每个元件的位置对准。然后，在网格上生成附加点。基于对修改的请求针对每个元件生成第一组第一点，并且基于该组第一点和修改请求针对每个元件生成一组第二点。然后，可以通过基于一组第一点和一组第二点以及网格修改对象的元件，对视频流的帧进行变换。在这样的方法中，也可以通过跟踪和修改所修改对象的背景来使所修改对象的背景改变或发生扭曲。
在一些示例中，可以通过计算针对对象的每个元件的特性点并基于所计算的特性点生成网格来执行使用对象的元件改变对象的一些区域的变换。在网格上生成点，并且然后基于这些点生成各种区域。然后，通过将每个元件的区域与至少一个元件中的每个元件的位置对准来跟踪对象的元件，并且可以基于修改请求来修改区域的性质，因此变换视频流的帧。取决于具体的修改请求，可以以不同的方式来变换所提及的区域的性质。这样的修改可以涉及：改变区域的颜色；从视频流的帧中移除区域的至少一些部分；将一个或更多个新对象包括到基于针对修改的请求的区域中；以及修改或扭曲区域或对象的元件。在各种示例中，可以使用这样的修改或其他类似修改的任何组合。对于某些要被动画化的模型，可以选择一些特性点作为控制点，以用于确定模型动画的选项的整个状态空间。
在使用面部检测来变换图像数据的计算机动画模型的一些示例中，使用特定的面部检测算法(例如，Viola-Jones)在图像上检测面部。然后，将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。
可以使用适合面部检测的其他方法和算法。例如，在一些示例中，使用界标来定位特征，该界标表示在所考虑的大多数图像中存在的可区分点。例如，对于面部界标，可以使用左眼瞳孔的位置。如果初始界标不可识别(例如，如果人具有眼罩)，则可以使用次级界标。这样的界标标识过程可以被用于任何这样的对象。在一些示例中，一组界标形成形状。可以使用形状中的点的坐标来将形状表示为矢量。利用使形状点之间的平均欧几里德距离最小化的相似性变换(允许平移、缩放和旋转)将一个形状与另一形状对准。均值形状(meanshape)是经对准的训练形状的均值。
在一些示例中，从与由全局面部检测器确定的面部的位置和大小对准的均值形状开始搜索界标。然后，这样的搜索重复以下步骤：通过每个点周围的图像纹理的模板匹配对形状点的位置进行调整来建议暂定形状，然后使暂定形状符合全局形状模型，直到发生收敛。在一些系统中，单独模板匹配是不可靠的，并且形状模型对弱模板匹配的结果进行池化，以形成更强的整体分类器。整个搜索在从粗分辨率到细分辨率的图像金字塔的每个级别上重复。
变换系统可以在客户端设备(例如，客户端设备102)上捕获图像或视频流，并在客户端设备102上本地执行复杂的图像操纵，同时维持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状改变、情绪转换(例如，将面部从皱眉改变为微笑)、状态转换(例如，使主体变老、减小外表年龄、改变性别)、风格转换、图形元件应用以及由已经被配置成在客户端设备102上高效执行的卷积神经网络实现的任何其他合适的图像或视频操纵。
在一些示例中，用于变换图像数据的计算机动画模型可以由系统使用，在该系统中，用户可以使用具有神经网络的客户端设备102来捕获用户的图像或视频流(例如，自拍)，该神经网络操作作为在客户端设备102上操作的消息客户端104的一部分。在消息客户端104内操作的变换系统确定面部在图像或视频流中的存在并且提供与计算机动画模型相关联的修改图标以变换图像数据，或者计算机动画模型可以被呈现为与本文中描述的界面相关联。修改图标包括以下改变，该改变可以是作为修改操作的一部分来修改图像或视频流内的用户的面部的基础。一旦选择了修改图标，则变换系统发起对用户的图像进行转换以反映所选择的修改图标(例如，在用户上生成笑脸)的过程。一旦捕获了图像或视频流并且选择了指定的修改，修改的图像或视频流就可以呈现在客户端设备102上显示的图形用户界面中。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络，以生成和应用选择的修改。也就是说，用户可以捕获图像或视频流并且一旦选择了修改图标，就实时或近乎实时地被呈现了修改结果。此外，当正在捕获视频流时，修改可以是持久的，并且选择的修改图标保持被切换。机器教导的神经网络可以被用于实现这样的修改。
呈现由变换系统执行的修改的图形用户界面可以为用户供应附加的交互选项。这样的选项可以基于用于发起内容捕获以及选择特定计算机动画模型的界面(例如，从内容创建者用户界面发起)。在各种示例中，在最初选择了修改图标之后，修改可以是持久的。用户可以通过轻击或以其他方式选择由变换系统修改的面部来切换以开启或关闭修改，并将其存储以供后面观看或浏览到成像应用的其他区域。在由变换系统修改多个面部的情况下，用户可以通过轻击或选择在图形用户界面内修改和显示的单个面部来全局地切换以开启或关闭修改。在一些示例中，可以单独修改一组多个面部中的各个面部，或者可以通过轻击或选择图形用户界面内显示的各个面部或一系列各个面部来单独切换这样的修改。
故事表312存储关于消息的集合的数据以及相关联的图像、视频或音频数据，这些数据被汇编成集合(例如，故事或图库)。特定集合的创建可以由特定用户(例如，在实体表308中维护其记录的每个用户)发起。用户可以以已由该用户创建和发送/广播的内容的集合的形式创建“个人故事”。为此，消息客户端104的用户界面可以包括用户可选择的图标，以使得发送用户能够将特定内容添加到他或她的个人故事。
集合还可以构成作为来自多个用户的内容的集合的“实况故事”，其是手动地、自动地或者使用手动技术和自动技术的组合创建的。例如，“实况故事”可以构成来自各种位置和事件的用户提交内容的策划流。可以例如经由消息客户端104的用户界面向其客户端设备使定位服务被启用并且在特定时间处于共同定位事件处的用户呈现选项，以将内容贡献给特定的实况故事。可以由消息客户端104基于用户的位置向他或她标识实况故事。最终结果是从社群角度讲述的“实况故事”。
另一种类型的内容集合被称为“定位故事”，该“定位故事”使得其客户端设备102位于特定地理定位(例如，在学院或大学校园)内的用户能够对特定集合做出贡献。在一些示例中，对定位故事的贡献可能需要二级认证，以验证最终用户属于特定的组织或其他实体(例如，是大学校园的学生)。
如以上提及的，视频表314存储视频数据，在一个示例中，该视频数据与其记录被维护在消息表306内的消息相关联。类似地，图像表316存储与其消息数据被存储在实体表308中的消息相关联的图像数据。实体表308可以使来自增强表310的各种增强与存储在图像表316和视频表314中的各种图像和视频相关联。
快捷方式表318存储用于针对对图像进行捕获而应用的可用快捷方式的集合。快捷方式系统220被配置成生成快捷方式的表示并将其存储在快捷方式表318中。对于每个快捷方式，快捷方式表318存储快捷方式名称、快捷方式的功能(例如，增强现实内容项、摄像装置模式或音频轨道中的两个或更多个)的组合以及快捷方式的可用预览的相应指示。例如，预览对应于针对(例如，另一用户的)另一捕获图像应用快捷方式的样本媒体内容项。此外，快捷方式表318被配置成与快捷方式相关联地存储对象属性(例如，作为元数据)。例如，对象属性可以指示与特定快捷方式相关联的对象类型、对象的名称、颜色、大小和/或形状中的一个或更多个。
图4是示出根据一些示例的消息400的结构的示意图，该消息400由消息客户端104生成，以传送至另外的消息客户端104或消息服务器118。特定消息400的内容用于填充存储在可由消息服务器118访问的数据库126内的消息表306。类似地，消息400的内容被存储在存储器中作为客户端设备102或应用服务器114的“运输中(in-transit)”或“飞行中(in-flight)”数据。消息400被示为包括以下示例组成部分：
·消息标识符402：标识消息400的唯一标识符。
·消息文本净荷404：要由用户经由客户端设备102的用户界面生成并且包括在消息400中的文本。
·消息图像净荷406：由客户端设备102的摄像装置部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的图像数据。针对发送或接收的消息400的图像数据可以存储在图像表316中。
·消息视频净荷408：由摄像装置部件捕获或者从客户端设备102的存储器部件检索并且包括在消息400中的视频数据。针对发送或接收的消息400的视频数据可以存储在视频表314中。
·消息音频净荷410：由麦克风捕获或从客户端设备102的存储器部件检索并且包括在消息400中的音频数据。
·消息增强数据412：表示要应用于消息400的消息图像净荷406、消息视频净荷408或消息音频净荷410的增强的增强数据(例如，过滤器、标贴或其他注解或增强)。针对发送或接收的消息400的增强数据可以被存储在增强表310中。
·消息持续时间参数414：以秒为单位指示消息的内容(例如，消息图像净荷406、消息视频净荷408、消息音频净荷410)要经由消息客户端104呈现给用户或使其对于用户可访问的时间量的参数值。
·消息地理定位参数416：与消息的内容净荷相关联的地理定位数据(例如，纬度坐标和经度坐标)。多个消息地理定位参数416值可以被包括在净荷中，这些参数值中的每一个与内容中包括的内容项(例如，消息图像净荷406内的特定图像或者消息视频净荷408中的特定视频)相关联。
·消息故事标识符418：标识与消息400的消息图像净荷406中的特定内容项相关联的一个或更多个内容集合(例如，在故事表312中标识的“故事”)的标识符值。例如，消息图像净荷406内的多个图像可以各自使用标识符值与多个内容集合相关联。
·消息标签420：每个消息400可以用多个标签来标记，所述多个标签中的每一个指示消息净荷中包括的内容的主题。例如，在包括在消息图像净荷406中的特定图像描绘动物(例如，狮子)的情况下，标签值可以包括在指示相关动物的消息标签420内。标签值可以基于用户输入手动生成，或者可以使用例如图像识别自动生成。
·消息发送者标识符422：指示在其上生成消息400并且从其发送消息400的客户端设备102的用户的标识符(例如，消息系统标识符、电子邮件地址或设备标识符)。
·消息接收者标识符424：指示消息400寻址到的客户端设备102的用户的标识符(例如，消息系统标识符、电子邮件地址或设备标识符)。
消息400的各组成部分的内容(例如，值)可以是指向其内存储内容数据值的表中的位置的指针。例如，消息图像净荷406中的图像值可以是指向图像表316内的位置的指针(或图像表316内的位置的地址)。类似地，消息视频净荷408内的值可以指向存储在视频表314内的数据，存储在消息增强412内的值可以指向存储在增强表310中的数据，存储在消息故事标识符418内的值可以指向存储在故事表312中的数据，并且存储在消息发送者标识符422和消息接收者标识符424内的值可以指向存储在实体表308内的用户记录。
图5是示出根据一些示例实施方式的用于执行快捷方式的过程500的交互图，该快捷方式表示与对图像进行捕获相关联地应用的单独功能的组合。出于说明的目的，在本文中主要参照图1的消息客户端104、图2的增强系统208、摄像装置模式系统216、音频轨道系统218和快捷方式系统220来描述过程500。然而，过程500的一个或更多个框(或操作)可以由一个或更多个其他部件和/或其他合适的设备执行。进一步出于说明的目的，过程500的框(或操作)在本文中被描述为串行或线性地发生。然而，过程500的多个框(或操作)可以并行或同时发生。此外，过程500的框(或操作)不需要以示出的顺序执行，以及/或者过程500的一个或更多个框(或操作)不需要执行和/或可以由其他操作替换。当过程500的操作完成时，过程500可以终止。此外，过程500可以对应于方法、程序、算法等。
消息客户端104可以与消息服务器系统108的相应用户相关联，并且用户可以与消息服务器系统108的用户账户相关联。如上所述，用户可以由消息服务器系统108基于与该用户的用户账户相关联的唯一标识符(例如，消息系统标识符、电子邮件地址和/或设备标识符)来识别。此外，消息服务器系统108可以实现被配置成识别特定用户与之有关系的其他用户(例如，朋友)的社交网络服务器124以及/或者与社交网络服务器124结合工作。
如本文所述，消息客户端104(例如，与消息服务器系统108结合)提供用于将快捷方式应用于图像数据的一个或更多个用户界面。如以上所述，快捷方式对应于单独功能的组合。通过单个姿势(例如，轻击或按压)，用户可以从可用快捷方式的列表中选择特定快捷方式。作为响应，消息客户端104针对由设备摄像装置捕获的图像应用与单独功能的组合对应的所选择的快捷方式。
在图5的示例中，框502至框504的操作可以对应于第一阶段，并且操作508至框528的操作可以对应于第二阶段。第一阶段涉及快捷方式的生成以及快捷方式在数据库(例如，快捷方式表318)内的存储。此外，第二阶段涉及针对由设备摄像装置捕获的图像数据呈现可用快捷方式并应用所选择的快捷方式。可以理解，第二阶段可以在第一阶段之后不久发生，或者在第一阶段之后的延长的时间段之后发生。因此，出于说明的目的，图6包括将第一阶段和第二阶段分开的虚线。
在框502处，快捷方式系统220生成用于针对由设备摄像装置捕获的图像执行的快捷方式(例如，其中每个快捷方式对应于单独功能的组合)。图像可以对应于由客户端设备102的摄像装置(例如，后置摄像装置或前置摄像装置)捕获的实况视频馈送。替选地或附加地，图像可以对应于与客户端设备102的用户相关联地存储(例如，在照片库)的图像(例如，照片)。
快捷方式系统220可以对应于消息系统100的子系统，并且可以在客户端侧由消息客户端104支持和/或在服务器侧由应用服务器114支持。因此，快捷方式的生成可以在客户端侧实现、在服务器侧实现和/或以客户端侧和服务器侧的组合实现。
可以结合由快捷方式系统220提供的适当界面手动地(例如，由系统管理员)生成快捷方式。替选地，快捷方式系统220可以使得基于与由系统存储的先前媒体内容项(例如，如下文所讨论的内容馈送中的流行媒体内容项)相关联的单独功能的组合自动地生成快捷方式。
在图5的示例中，快捷方式被描绘为针对捕获图像应用增强现实内容项(例如，按照增强系统208)、摄像装置模式(例如，按照摄像装置模式系统216)和音频轨道(例如，按照音频轨道系统218)中的全部三者的组合。然而，如上所述，快捷方式可以应用增强现实内容项、摄像装置模式、音频轨道或其他单独功能中的任何两个的组合。
此外，单个快捷方式可以具有与其相关联的多个增强现实内容项、摄像装置模式和/或音频轨道。例如，在包括时间线模式的情况下，一系列视频片段中的每个片段(或段)可以与相应的增强现实内容项和/或音频轨道相关联。可以为快捷方式预定义默认增强现实内容项和/或音频轨道，以在激活快捷方式时应用默认增强现实内容项和/或音频轨道。在应用快捷方式时，其余的增强现实内容项和/或音频轨道可以呈现为可选择选项。
快捷方式系统220存储快捷方式(框504)。例如，快捷方式系统220被配置成将快捷方式存储在快捷方式表318内。如上所述，对于每个快捷方式，快捷方式表318存储快捷方式名称、快捷方式的功能的组合、快捷方式的可用预览的相应指示和/或与快捷方式相关联的对象属性。在快捷方式包括多个增强现实内容项的情况下，快捷方式表318还可以存储上述默认增强现实内容项的指示。
消息客户端104接收用户输入，以显示与存储的快捷方式中的一个或更多个有关的界面(框506)。如本文所述，消息客户端104提供具有应用特定快捷方式的用户可选择元件的不同用户界面元件。
例如，可用的快捷方式可以表示为摄像装置中心界面内的可选择元件(例如，图标)的列表，如下面关于图7A至图7B进一步讨论的。在经由设备摄像装置对图像进行捕获时，可以响应于对对应图标(例如，摄像装置界面按钮)的用户选择而显示摄像装置中心界面。在一个或更多个实施方式中，摄像装置中心界面包括第一部分，用于选择以激活诸如以上提及的时间线模式、定时器模式和慢动作模式的不同的模式。此外，摄像装置中心界面包括第二部分，用于显示例如与存储在快捷方式表318中的所有可用快捷方式对应的可用快捷方式的列表。
在另一示例中，可用快捷方式可以表示为与媒体内容项的显示相关联的可选择元件(例如，图标)，如下面关于图9进一步讨论的。例如，媒体内容项可以显示为由消息系统100提供的内容馈送的一部分。例如，消息系统100可以提供可由用户选择以供查看的不同类型的内容馈送。如上所述，消息系统100允许最终用户向消息系统100的其他用户广播媒体内容(例如，媒体内容项、故事)。在内容馈送的第一示例中，消息系统100可以基于所提交的媒体内容的总体用户流行度(例如，基于系统范围的查看、用户提交的评论、用户提交的认可等的数量)选择一组媒体内容项以供查看。在内容馈送的另一示例中，消息系统100提供与用户的朋友相关联的内容集合(例如，故事)。在内容馈送的另一示例中，消息系统100提供与系统发布者(例如，商家、社交媒体影响者、企业、广告商等)相关联的内容集合。在一些情况下，内容馈送中的特定媒体内容项可以具有与其(例如，与增强现实内容项、摄像装置模式和/或音频轨道的组合)相关联的对应快捷方式。在这种情况下，消息客户端104可以显示与媒体内容项的显示相关联的可选择元件(例如，图标)。
在又一示例中，一个或更多个快捷方式可以在扫描结果界面内表示为相应的可选择元件(例如，图标)，如下面关于图10A至图10C进一步讨论的。如下面关于图6所讨论的，用户可以发起扫描操作，以检测捕获图像内的对象。作为响应，消息客户端104提供扫描结果界面，该扫描结果界面可以指示与检测到的对象有关的一个或更多个快捷方式。此外，扫描结果界面可以包括附加部分，这些附加部分指示识别的对象，以及/或者呈现用于应用于捕获图像的与对象有关的可用增强现实内容项。
因此，在框506处，消息客户端104接收用户输入(例如，对摄像装置中心界面图标的用户选择、对内容馈送的用户选择、执行扫描操作的用户选择)，以显示与快捷方式有关的相应界面。响应于接收到用户输入，消息客户端104向快捷方式系统220发送对快捷方式的请求(操作508)。快捷方式系统220响应于该请求，向消息客户端104发送用于快捷方式的信息(操作510)。此外，消息客户端104显示相应的界面(例如，摄像装置中心界面、媒体内容项、扫描结果界面)连同与该界面有关的快捷方式(框512)。
在框514处，消息客户端104接收用户选择，以针对捕获图像应用快捷方式。在显示摄像装置中心界面的情况下，用户可以从与可用快捷方式对应的可选择元件的列表中选择可选择元件(例如，图标)中的一个。在显示媒体内容项的情况下，用户可以选择与媒体内容项的显示相关联的可选择元件(例如，图标)。在显示扫描结果界面的情况下，用户可以从同与捕获图像中检测到的对象有关的快捷方式对应的可选择元件的列表中选择可选择元件(例如，图标)中的一个。
图5的示例对应于快捷方式，该快捷方式将音频轨道、摄像装置模式和增强现实内容项中的全部三者的组合应用于捕获图像数据。因此，消息客户端104进行以下操作：向音频轨道系统218发送对与所选择的快捷方式对应的音频轨道的请求(操作516)；向摄像装置模式系统216发送对与所选择的快捷方式对应的摄像装置模式的请求(操作518)；向增强系统208发送对与所选择的快捷方式对应的增强现实内容项的请求(操作520)。如上所述，增强系统208、摄像装置模式系统216和音频轨道系统218中的每一个可以对应于消息系统100的子系统，并且可以在客户端侧由消息客户端104支持和/或在服务器侧由应用服务器114支持。
音频轨道系统218、摄像装置模式系统216和增强系统208针对捕获图像数据提供相应的音频轨道(操作522)、摄像装置模式(操作524)和增强现实内容项(操作526)。消息客户端104基于音频轨道、摄像装置模式和增强现实内容项的组合呈现摄像装置(框528)。换句话说，基于音频轨道、摄像装置模式和增强现实内容项实时地呈现和修改由摄像装置捕获的图像数据。
在一个或更多个实施方式中，与应用相关联地，消息客户端104显示指示与快捷方式对应的单独功能的组合的横幅(banner)。此外，横幅指示快捷方式的名称以及用于停止将单独功能的组合应用于捕获图像数据的第二用户可选择元件(例如，图标)。
在一个或更多个实施方式中，用户可以选择用于基于捕获图像数据生成媒体内容项的界面元件(例如，按钮)。例如，对按钮的用户选择使得生成包括图像(例如，响应于按钮的按压/轻击姿势)和/或视频(例如，响应于按钮的按压并保持姿势)的媒体内容项。媒体内容项可以作为消息发送给朋友、包括在故事中等。
借助于生成、维护和存储用于将单独功能组合的快捷方式，可以减少执行单独功能通常所需的用户输入量。如上所述，可以经由选择快捷方式的单个用户姿势(例如，轻击、按压)来应用快捷方式。在不提供快捷方式的情况下，为了执行单独功能的组合，最终用户可能需要执行若干姿势。因此，消息系统100为用户节约时间，并且减少与必须分开地应用单独功能相关联的计算资源/处理能力。此外，显示可用快捷方式的用户界面可以更吸引消息系统100的用户。
图6是示出根据一些示例实施方式的用于基于在捕获图像中检测到的对象来呈现可用快捷方式的过程600的交互图。出于说明的目的，在本文中主要参照图1的消息客户端104以及图2的对象检测系统210和快捷方式系统220来描述过程600。然而，过程500的一个或更多个框(或操作)可以由一个或更多个其他部件和/或其他合适的设备执行。进一步出于说明的目的，过程600的框(或操作)在本文中被描述为串行或线性地发生。然而，过程600的多个框(或操作)可以并行或同时发生。此外，过程600的框(或操作)不需要以示出的顺序执行，以及/或者过程600的一个或更多个框(或操作)不需要执行和/或可以由其他操作替换。当过程600的操作完成时，过程600可以终止。此外，过程600可以对应于方法、程序、算法等。
如上所述，消息客户端104提供用于呈现可用快捷方式的不同的界面。一个这样的界面是扫描结果界面，其响应于用户输入以执行扫描操作而显示。图6与基于根据扫描操作检测到的对象显示快捷方式对应。在这方面，图6的过程600总体上对应于图5的操作506至512。
在框602处，消息客户端104接收用户输入以识别捕获图像中描绘的对象。在一个或更多个实施方式中，消息客户端104激活客户端设备102的摄像装置(例如，在消息客户端104启动时)。消息客户端104允许用户请求扫描由摄像装置捕获的摄像装置馈送中的一个或更多个项。在一个或更多个实施方式中，消息客户端104检测用户的手的手指与触摸屏的区域之间的达到阈值时间段的物理接触。例如，消息客户端104确定用户触摸并将其手指保持在屏幕上达阈值时间(例如，两秒)。
替选地或附加地，消息客户端104接收对与摄像装置馈送一起呈现的专用扫描选项(例如，按钮)的用户选择。作为响应，消息客户端104结合对象检测系统210捕获正在屏幕上显示的图像并处理该图像以识别基于该图像的多个对象。在替选实施方式中，捕获图像可以对应于与客户端设备102的用户相关联地存储例如在照片库内的图像/视频(例如，与客户端设备102的操作系统相关联和/或与关于消息系统100的用户简档相关联)。
消息客户端104向对象检测系统210发送请求以识别捕获图像中的对象(操作604)。请求可以包括图像数据本身(例如，如果被实时捕获和/或本地存储在客户端设备102上)。替选地，请求可以引用远程图像(例如，如果与关于消息系统100的用户简档相关联地存储)。
对象检测系统210确定捕获图像中的对象的属性(框606)。如上所述，对象检测系统210可以对应于消息系统100的子系统，并且可以在客户端侧由消息客户端104支持和/或在服务器侧由应用服务器114支持。在一个或更多个实施方式中，可以在客户端侧、服务器侧和/或以客户端侧和服务器侧的组合来实现对捕获图像内的对象的检测。
如上文进一步所述，对象检测系统210被配置成实现或以其他方式访问对象识别算法(例如，包括机器学习算法)，该对象识别算法被配置成扫描捕获图像，并且检测/跟踪图像内的对象的移动。例如，能够由对象检测系统210检测的对象的类型包括但不限于：人脸、人体的各部分、动物及其各部分、景观、自然对象、非生命对象(例如，椅子、书籍、汽车、建筑物、其他结构)、对象的图示(例如，海报和/或传单上)、基于文本的对象、基于方程的对象等。此外，对象检测系统210被配置成确定或以其他方式访问对象的属性，例如名称、类型、流派、颜色、大小、形状、纹理、地理定位和/或其他补充信息(例如，与媒体对应的对象的歌曲名称/艺术家)。
对象检测系统210还被配置成确定或以其他方式访问所识别的对象的属性。例如，关于与衣物对应的对象，对象检测系统210可以确定诸如对象类型(例如，狗、椅子)、对象的名称(例如，特定椅子的名称/型号)、颜色、大小和/或形状的属性。如上所述，对象检测系统210还可以确定与已经由第三方赞助的关键字对应的属性。响应于确定给定的属性对应于被赞助的关键字，对象检测系统210可以使得该属性相对于其他属性排名更高。
对象检测系统210向消息客户端104发送对象的属性(操作608)。在这样做时，对象检测系统210还可以提供属性的排名信息。
消息客户端104基于从对象检测系统210接收到的属性，向快捷方式系统220发送对快捷方式的请求(操作610)。例如，如果在捕获图像中描绘了单个对象(例如，狗)，则请求可以包括与单个对象有关的属性(例如，狗、狗的品种、颜色等)。在另一示例中，如果在捕获图像中描绘了多个对象(例如，多个动物、人和动物、动物和景观)，则请求可以包括多个对象的相应属性。
快捷方式系统220搜索并选择与从消息客户端104接收到的属性相关联的一个或更多个候选快捷方式(框612)。如上所述，快捷方式系统220可以对应于消息系统100的子系统，并且可以在客户端侧由消息客户端104支持和/或在服务器侧由应用服务器114支持。在一个或更多个实施方式中，经由快捷方式系统220对快捷方式的选择可以在客户端侧实现、在服务器侧实现和/或以客户端侧和服务器侧的组合来实现。
快捷方式系统220被配置成在快捷方式表318中搜索与从消息客户端104接收到的属性对应的一个或更多个快捷方式。如上所述，快捷方式表318与快捷方式相关联地存储属性(例如，作为元数据)。此外，特定快捷方式可以具有与其相关联的一个或更多个增强现实内容项。一个或更多个增强现实内容项中的每一个又可以具有与其相关联的属性(例如，元数据)。在一个或更多个实施方式中，与特定快捷方式相关联地存储的属性可以对应于与快捷方式的一个或更多个增强现实内容项相关联的属性的并集。快捷方式系统220可以通过将在操作610处接收到的属性(例如，对象类型、对象的名称、颜色、大小和/或形状)同与存储在快捷方式表318内的快捷方式相关联的对应属性进行比较来执行搜索。
在一个或更多个实施方式中，快捷方式系统220可以使排名较高的属性优先于排名较低的属性。在接收到的属性对应于多个对象的情况下，快捷方式系统220可以基于属性来选择对应的一组快捷方式。在属性对应于单个对象的情况下，快捷方式系统220可以选择与属性对应的单个快捷方式。
快捷方式系统220可以例如基于匹配属性之间的确认匹配的数量或频率来计算快捷方式的相应相关度得分。相关度得分可以用于限制所选择的快捷方式的数量(例如，预定义的数量，例如三个快捷方式)以及/或者用于按排名顺序显示快捷方式。
因此，在框612处，快捷方式系统220确定用于发送至消息客户端104的候选快捷方式。每个快捷方式对应于要应用于捕获图像的单独功能的组合(例如，增强现实内容项、摄像装置模式、音频轨道或其他功能中的至少两个)。在完成选择候选快捷方式时，快捷方式系统220向消息客户端104发送所选择的快捷方式的指示连同相关度得分(如果适用的话)(操作614)。
消息客户端104在扫描结果界面内显示所选择的快捷方式(框616)。如以上关于图5所述，扫描结果界面指示与检测到的对象有关的一个或更多个快捷方式。此外，扫描结果界面包括附加部分，这些附加部分指示识别的对象以及/或者呈现用于应用于捕获图像的与对象有关的可用增强现实内容项。扫描结果界面可以包括附加部分，这些附加部分指示识别的对象以及/或者呈现用于应用于捕获图像的与对象有关的可用增强现实内容项。
快捷方式在扫描结果界面内显示为用于将相应的快捷方式应用于捕获图像数据(例如，实况视频馈送)的用户可选择条目。如上所述，图6可以对应于图5的操作506至512。因此，在完成图6中的框616之后，消息系统100可以随后使得接收对快捷方式的用户选择，并且按照图5的操作514至528应用所选择的快捷方式。
图7A至图7B示出了根据一些示例实施方式的用于呈现可用快捷方式的列表的示例用户界面702。用户界面702包括捕获图像704和摄像装置中心界面706。摄像装置中心界面706包括时间线模式按钮708、定时器模式按钮710、慢动作模式按钮712和快捷方式的列表714。图7A描绘了摄像装置中心界面706(其是可滚动的)的顶部部分，而图7B描绘了向下滚动之后的摄像装置中心界面706的底部部分。
如以上关于图5所述，在经由设备摄像装置对图像(例如，捕获图像704)进行捕获时，消息客户端104可以响应于对对应图标(例如，未示出的摄像装置界面按钮)的用户选择而呈现用户界面702。摄像装置中心界面706的第一部分提供了元件用于分别激活时间线模式、定时器模式和慢动作模式的用户可选择元件708至712。
摄像装置中心界面706包括用于显示快捷方式的列表714的第二部分。如图7A至图7B的示例所示，快捷方式的列表714呈现可用快捷方式(例如，存储在快捷方式表318中)的单独条目。快捷方式的列表714内的每个条目包括快捷方式的名称、用于预览快捷方式的预览按钮(例如，描绘为缩略图)、分别描绘或以其他方式表示与快捷方式相关联地组合的单独功能的一组图标、以及用于将快捷方式应用于捕获图像704的用户可选择元件(“+”图标)。
如上所述，一些快捷方式可能具有与其相关联的多个增强现实内容项、摄像装置模式和/或音频轨道。在图7B的示例中，第一快捷方式“帮助您的宠物走红”被描绘为具有与多个增强现实内容项(以堆叠的方式)、被启用的时间线模式和音频轨道对应的对应的一组图标。
图8A至图8B示出了根据一些示例实施方式的用于针对捕获图像应用快捷方式以及用于呈现快捷方式的预览的示例用户界面。例如，图8A描绘了用于针对捕获图像806应用快捷方式的用户界面802。用户界面802包括捕获图像806、横幅808、时间线模式按钮810、音频轨道按钮812、轮播界面814、选择的AR图标816和音频轨道标题818。
轮播界面814允许用户循环遍历和/或选择不同的增强现实内容项以针对捕获图像806来应用/显示。可用增强现实内容项中的每一个由图标表示，该图标是用户可选择以用于切换到相应的增强现实内容项的。在一个或更多个实施方式中，与活动的增强现实内容项对应的图标(例如，选择的AR图标816)相对于其余图标以不同方式(例如，大于其余图标)显示。对选择的AR图标816的用户选择使得生成媒体内容项以例如发送至朋友、包括在故事中等，其中媒体内容项包括屏幕内容的图像(例如，响应于对选择的AR图标816的按压/轻击姿势)和/或视频(例如，响应于对选择的AR图标816的按压并保持姿势)。
在一个或更多个实施方式中，由消息客户端104响应于用户选择以将所选择的快捷方式应用于捕获图像数据而呈现用户界面802。如以上关于图5所述，可以经由不同的用户界面选择快捷方式，不同的用户界面包括摄像装置中心界面、扫描结果界面和媒体内容项的显示。此外，选择的快捷方式对应于应用单独功能的组合。
在图8A的示例中，单独功能的组合包括增强现实内容项、时间线模式和音频轨道。在一个或更多个实施方式中，增强现实内容项由时间线模式按钮810的启用(例如，突出的)显示以及选择的AR图标816指示，选择的AR图标816指示活动的增强现实内容项。在图8A的示例中，增强现实内容项在捕获图像806(例如，对应于实时视频)中描绘的狗上叠加虚拟太阳镜。在轮播界面814内，快捷方式的附加增强现实内容项可以被呈现为优先(例如，排名较高)的增强现实内容项。音频轨道由音频轨道按钮812的启用(例如，突出的)显示以及由音频轨道标题818(例如，在一些实施方式中其还可以包括艺术家名称)来指示。
此外，横幅808被配置成显示与选择的快捷方式有关的信息。横幅808指示快捷方式的名称(例如，“帮助您的宠物走红”)。此外，横幅808包括用于停止针对捕获图像数据应用快捷方式的用户可选择元件(例如，“启用”图标)。
在另一示例中，图8B描绘了用于呈现快捷方式的预览820的用户界面804。用户界面804包括预览820和快捷方式按钮822。在一个或更多个实施方式中，由消息客户端104响应于在快捷方式的列表(例如，按照图7A至图7B)中对预览按钮(被描绘为缩略图)的用户选择而呈现用户界面804。
预览820与先前的媒体内容项(例如，存储在快捷方式表318中)对应，该先前的媒体内容项针对另一用户应用快捷方式。快捷方式包括应用增强现实内容项(例如，太阳镜叠加)以及音频轨道和时间线模式。用户界面804还包括快捷方式按钮822，对该快捷方式按钮822的用户选择针对实况捕获图像(例如，类似于图8A)应用预览的快捷方式。
图9示出了根据一些示例实施方式的呈现媒体内容项904连同用于执行与媒体内容项相关联的快捷方式的快捷方式图标906的示例用户界面902。如以上关于图5所示，可以与由消息系统100提供的内容馈送相关联地显示媒体内容项904。媒体内容项904可能已经由另一用户例如最终用户的朋友或与消息系统100相关联的发布者广播。
在图9的示例中，快捷方式应用增强现实内容项(例如，太阳镜叠加)以及音频轨道和时间线模式。此外，对快捷方式图标906的用户选择使得消息客户端104针对实况捕获图像(例如，类似于图8A)应用对应的快捷方式。
图10A至图10B示出了根据一些示例实施方式的用于基于经由扫描操作检测到的对象呈现可用快捷方式的示例用户界面1002。例如，图10A的用户界面1002包括捕获图像1004、快门按钮1006和扫描按钮1008。
在图10A的示例中，客户端设备102从客户端设备102的后置摄像装置对图像(例如，实况视频馈送)进行捕获。在该示例中，捕获图像1004描绘了狗。虽然图10A的示例示出了由客户端设备102的后置摄像装置捕获的捕获图像1004，但消息客户端104可以替代地从前置摄像装置对图像(例如，实况视频馈送)进行捕获。
用户界面1002包括用于生成媒体内容项以例如发送给朋友、包括在故事中等的快门按钮1006，该媒体内容项包括屏幕内容的图像(例如，响应于对快门按钮1006的按压/轻击姿势)和/或视频(例如，响应于对快门按钮1006的按压并保持姿势)。
在一个或更多个实施方式中，客户端设备102的用户可以向消息客户端104提供触摸输入，以执行扫描操作来识别捕获图像1004中的对象。例如，触摸输入对应于在用户界面1002的预定义部分(例如，设备屏幕中正在显示捕获图像1004的部分)处的按压并保持姿势(例如，至少一秒)。替选地或附加地，用户界面1002包括扫描按钮1008。例如，扫描按钮1008对应于用户执行扫描操作的专用按钮。
如图10B所示，消息客户端104被配置成显示扫描指示器1010，以指示消息客户端104正在执行扫描操作。在一个或更多个实施方式中，在扫描的持续时间(例如，2秒的预定持续时间)内显示扫描指示器1010。扫描指示器1010可以包括用于终止扫描的界面元件(例如，“x”图标)。
在扫描操作期间，消息客户端104(例如，结合对象检测系统212)检测捕获图像1004中的对象以及检测到的对象的属性。例如，对象检测系统210检测与图10A至图10C的示例中描绘的狗对应的属性。响应于确定属性与动物(例如，狗)有关，消息客户端104(结合快捷方式系统220)被配置成选择与检测到的动物的属性相关联的快捷方式。此外，如图10C所示，消息客户端104被配置成显示选择的快捷方式的表示。
图10C示出了用户界面1002更新为包括用于显示各种扫描结果的扫描结果界面1012，同时继续显示捕获图像1004。扫描结果界面1012指示与检测到的对象的属性有关的选择的快捷方式。在图10C的示例中，扫描结果界面1012指示一个选择的快捷方式(但是可能已经选择并在扫描结果界面1012内显示了多个快捷方式)。通过显示以下内容来表示选择的快捷方式：快捷方式的名称、用于预览快捷方式的预览按钮(例如，描绘为缩略图)、分别描绘或以其他方式表示与快捷方式相关联地组合的单独功能的一组图标、以及可选择以将快捷方式应用于捕获图像1004的界面元件1016(“打开摄像装置中的快捷方式”按钮)。
此外，扫描结果界面可以包括附加部分，这些附加部分指示识别的对象(例如，界面元件1014)以及/或者呈现用于应用于捕获图像的与对象有关的可用增强现实内容项(例如，界面元件1018)。
图11是示出根据一些示例实施方式的用于基于经由扫描操作检测到的对象呈现快捷方式的过程的流程图。出于说明的目的，本文中主要参照图1的消息客户端104来描述过程1100。然而，过程1100的一个或更多个框(或操作)可以由一个或更多个其他部件和/或其他合适的设备执行。进一步出于说明的目的，过程1100的框(或操作)在本文中被描述为串行或线性地发生。然而，过程1100的多个框(或操作)可以并行或同时发生。此外，过程1100的框(或操作)不需要以示出的顺序执行，以及/或者过程1100的一个或更多个框(或操作)不需要执行和/或可以由其他操作替换。当过程1100的操作完成时，过程1100可以终止。此外，过程1100可以对应于方法、程序、算法等。
消息客户端104接收用户请求以识别由设备摄像装置捕获的图像中描绘的至少一个对象(框1102)。消息客户端104响应于接收用户请求，确定图像中描绘的对象的属性(框1104)。
消息客户端104从用于针对图像执行的多个快捷方式中选择与对象的属性相关联的快捷方式，多个快捷方式中的每个快捷方式与要应用于图像的单独功能的组合对应(框1106)。多个快捷方式能够经由被配置成存储多个快捷方式的数据库访问。
单独功能的组合可以包括以下中的至少两个：要应用于图像的增强现实内容项、摄像装置模式或音频轨道。摄像装置模式可以对应于以下中的至少一个：用于捕获一系列视频片段的时间线模式、用于设置何时开始视频捕获的定时器模式、以及用于以慢动作记录视频的慢动作模式。
消息客户端104使得显示具有用户可选择元件的界面，该用户可选择元件用于针对图像执行选择的快捷方式(框1108)。消息客户端104可以经由界面接收对用户可选择元件的用户选择并且响应于接收，将单独功能的组合应用于图像。消息客户端104可以基于将单独功能的组合应用于图像来生成媒体内容项。
消息客户端104可以与应用相关联地显示横幅，该横幅指示与快捷方式对应的单独功能的组合以及快捷方式的名称。横幅可以包括用于停止将单独功能的组合应用于图像的第二用户可选择元件。
界面还可以包括与用户可选择元件分开的第一界面元件和第二界面元件。第一界面元件可以识别对象，并且第二界面元件可以呈现用于应用于图像的与对象有关的可用增强现实内容项。
图12是示出访问限制过程1000的示意图，根据该访问限制过程，对内容(例如，短暂消息1202和相关联的数据的多媒体净荷)或内容集合(例如，短暂消息组1204)的访问可以是时间受限的(例如，使得是短暂的)。
短暂消息1202被示出为与消息持续时间参数1206相关联，该消息持续时间参数1206的值确定消息客户端104将向短暂消息1202的接收用户显示短暂消息1202的时间量。在一个示例中，取决于发送用户使用消息持续时间参数1206指定的时间量，接收用户可观看短暂消息1202长达最多10秒。
消息持续时间参数1206和消息接收者标识符424被示出为消息定时器1210的输入，该消息定时器1210负责确定向由消息接收者标识符424标识的特定接收用户示出短暂消息1202的时间量。特别地，仅在由消息持续时间参数1206的值确定的时间段内向相关接收用户示出短暂消息1202。消息定时器1210被示出为向更一般化的短暂定时器系统202提供输出，该短暂定时器系统202负责向接收用户显示内容(例如，短暂消息1202)的总体定时。
短暂消息1202在图12中被示出为被包括在短暂消息组1204(例如，个人故事或事件故事中的消息的集合)内。短暂消息组1204具有相关联的组持续时间参数1208，该组持续时间参数1208的值确定短暂消息组1204被呈现并可由消息系统100的用户访问的持续时间。例如，组持续时间参数1208可以是音乐会的持续时间，其中短暂消息组1204是关于该音乐会的内容的集合。替选地，当执行短暂消息组1204的设置和创建时，用户(拥有用户或策展者用户)可以指定组持续时间参数1208的值。
此外，短暂消息组1204内的每个短暂消息1202具有相关联的组参与参数1212，该组参与参数1212的值确定在短暂消息组1204的上下文内可访问短暂消息1202的持续时间。因此，在短暂消息组1204本身根据组持续时间参数1208到期之前，特定的短暂消息组1204可以在短暂消息组1204的上下文中“到期”并且变得不可访问。组持续时间参数1208、组参与参数1212和消息接收者标识符424各自向组定时器1214提供输入，该组定时器1214可操作地首先确定短暂消息组1204的特定短暂消息1202是否将被显示给特定接收用户，并且如果为是，则确定显示多长时间。注意，由于消息接收者标识符424，短暂消息组1204也知道特定接收用户的身份。
因此，组定时器1214可操作地控制相关联的短暂消息组1204以及短暂消息组1204中包括的单独短暂消息1202的总使用期限。在一个示例中，短暂消息组1204内的每个短暂消息1202在由组持续时间参数1208指定的时间段内保持可观看和可访问。在另一示例中，在短暂消息组1204的上下文内，某个短暂消息1202可以基于组参与参数1212而到期。注意，即使在短暂消息组1204的上下文内，消息持续时间参数1206也仍然可以确定向接收用户显示特定短暂消息1202的持续时间。因此，消息持续时间参数1206确定向接收用户显示特定短暂消息1202的持续时间，而不管接收用户是在短暂消息组1204的上下文之内还是之外观看该短暂消息1202。
短暂定时器系统202还可以基于确定已经超过相关联的组参与参数1212而从短暂消息组1204中可操作地移除特定短暂消息1202。例如，在发送用户已经建立了从发布起24小时的组参与参数1212的情况下，短暂定时器系统202将在指定的24小时之后从短暂消息组1204中移除相关的短暂消息1202。短暂定时器系统202还进行操作以在针对短暂消息组1204内的每个短暂消息1202的组参与参数1212已经到期时，或者在短暂消息组1204本身根据组持续时间参数1208已经到期时，移除短暂消息组1204。
在某些使用情况下，特定短暂消息组1204的创建者可以指定无期限的组持续时间参数1208。在这种情况下，针对短暂消息组1204内最后剩余的短暂消息1202的组参与参数1212的到期将确定短暂消息组1204本身何时到期。在这种情况下，添加至短暂消息组1204的具有新的组参与参数1212的新的短暂消息1202有效地将短暂消息组1204的寿命延长到等于组参与参数1212的值。
响应于短暂定时器系统202确定短暂消息组1204已经到期(例如，不再是可访问的)，短暂定时器系统202与消息系统100(并且例如特别是消息客户端104)通信，以使与相关短暂消息组1204相关联的标记(例如，图标)不再显示在消息客户端104的用户界面内。类似地，当短暂定时器系统202确定针对特定短暂消息1202的消息持续时间参数1206已经到期时，短暂定时器系统202使消息客户端104不再显示与短暂消息1202相关联的标记(例如，图标或文本标识)。
图13是机器1300的图解表示，在该机器1300内可以执行用于使机器1300执行本文所讨论的方法中的任何一种或更多种的指令1310(例如，软件、程序、应用、小程序、app或其他可执行代码)。例如，指令1310可以使机器1300执行本文所描述的方法中的任何一种或更多种。指令1310将通用的未经编程的机器1300转换成被编程为以所描述的方式执行所描述和所示出的功能的特定机器1300。机器1300可以作为独立设备操作，或者可以耦接(例如，联网)至其他机器。在网络部署中，机器1300可以在服务器-客户端网络环境中以服务器机器或客户端机器的身份操作，或者在对等(或分布式)网络环境中作为对等机器操作。机器1300可以包括但不限于：服务器计算机、客户端计算机、个人计算机(PC)、平板计算机、膝上型计算机、上网本、机顶盒(STB)、个人数字助理(PDA)、娱乐媒体系统、蜂窝电话、智能电话、移动设备、可穿戴设备(例如，智能手表)、智能家居设备(例如，智能电器)、其他智能设备、web设备、网络路由器、网络交换机、网络桥接器或者能够顺序地或以其他方式执行指定要由机器1300采取的动作的指令1310的任何机器。此外，虽然仅示出了单个机器1300，但是术语“机器”还应当被视为包括单独地或联合地执行指令1310以执行本文中讨论的方法中的任何一种或更多种方法的机器的集合。例如，机器1300可以包括客户端设备102或者形成消息服务器系统108的一部分的若干服务器设备中的任何一个。在一些示例中，机器1300还可以包括客户端系统和服务器系统两者，其中特定方法或算法的某些操作在服务器侧执行，并且所述特定方法或算法的某些操作在客户端侧执行。
机器1300可以包括处理器1304、存储器1306和输入/输出I/O部件1302，所述处理器1304、存储器1306和输入/输出I/O部件1302可以被配置成经由总线1340彼此通信。在示例中，处理器1304(例如，中央处理单元(CPU)、精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)、另外的处理器或其任何合适的组合)可以包括例如执行指令1310的处理器1308和处理器1312。术语“处理器”旨在包括多核处理器，所述多核处理器可以包括可以同时执行指令的两个或更多个独立的处理器(有时被称为“核”)。尽管图13示出了多个处理器1304，但是机器1300可以包括具有单个核的单个处理器、具有多个核的单个处理器(例如，多核处理器)、具有单个核的多个处理器、具有多个核的多个处理器、或者其任何组合。
存储器1306包括主存储器1314、静态存储器1316和存储单元1318，所述主存储器1314、静态存储器1316和存储单元1318均可由处理器1304经由总线1340访问。主存储器1306、静态存储器1316和存储单元1318存储实现本文所述的方法或功能中的任何一种或更多种的指令1310。指令1310还可以在其由机器1300执行期间完全地或部分地驻留在主存储器1314内、静态存储器1316内、存储单元1318内的机器可读介质1320内、处理器1304中的至少一个处理器内(例如，在处理器的高速缓存存储器内)或者其任何合适的组合内。
I/O部件1302可以包括用于接收输入、提供输出、产生输出、传送信息、交换信息、捕获测量等的各种部件。包括在特定机器中的具体I/O部件1302将取决于机器的类型。例如，诸如移动电话的便携式机器可以包括触摸输入设备或其他这样的输入机构，而无头(headless)服务器机器可能将不包括这样的触摸输入设备。将认识到，I/O部件1302可以包括图13中未示出的许多其他部件。在各种示例中，I/O部件1302可以包括用户输出部件1326和用户输入部件1328。用户输出部件1326可以包括视觉部件(例如，诸如等离子显示面板(PDP)、发光二极管(LED)显示器、液晶显示器(LCD)、投影仪或阴极射线管(CRT)的显示器)、听觉部件(例如，扬声器)、触觉部件(例如，振动马达、阻力机构)、其他信号生成器等。用户输入部件1328可以包括字母数字输入部件(例如，键盘、被配置成接收字母数字输入的触摸屏、光学键盘或其他字母数字输入部件)、基于点的输入部件(例如，鼠标、触摸板、轨迹球、操纵杆、运动传感器或其他指向仪器)、触感输入部件(例如，物理按钮、提供触摸或触摸姿势的位置和力的触摸屏或其他触感输入部件)、音频输入部件(例如，麦克风)等。
在其他示例中，I/O部件1302可以包括生物计量部件1330、运动部件1332、环境部件1334或位置部件1336以及广泛的一系列其他部件。例如，生物计量部件1330包括用于检测表达(例如，手表达、面部表达、声音表达、身体姿势或眼睛跟踪)、测量生物信号(例如，血压、心率、体温、出汗或脑波)、识别人(例如，声音识别、视网膜识别、面部识别、指纹识别或基于脑电图的识别)等的部件。运动部件1332包括加速度传感器部件(例如，加速计)、重力传感器部件、旋转传感器部件(例如，陀螺仪)。
环境部件1334包括例如一个或多个摄像装置(具有静止图像/照片和视频能力)、照明传感器部件(例如，光度计)、温度传感器部件(例如，检测环境温度的一个或更多个温度计)、湿度传感器部件、压力传感器部件(例如，气压计)、声学传感器部件(例如，检测背景噪声的一个或更多个麦克风)、接近传感器部件(例如，检测附近对象的红外传感器)、气体传感器(例如，用于出于安全而检测危险气体的浓度或用于测量大气中的污染物的气体检测传感器)或者可以提供与周围物理环境对应的指示、测量或信号的其他部件。
关于摄像装置，客户端设备102可以具有摄像装置系统，该摄像装置系统包括例如在客户端设备102的前表面上的前置摄像装置和客户端设备102的后表面上的后置摄像装置。前置摄像装置可以例如用于捕获客户端设备102的用户的静止图像和视频(例如，“自拍”)，然后可以用上述增强数据(例如，过滤器)对该静止图像和视频进行增强。例如，后置摄像装置可以用于以更传统的摄像装置模式捕获静止图像和视频，这些图像类似地用增强数据进行增强。除了前置摄像装置和后置摄像装置之外，客户端设备102还可以包括用于捕获360°照片和视频的360°摄像装置。
此外，客户端设备102的摄像装置系统可以包括双后置摄像装置(例如，主摄像装置以及深度感测摄像装置)，或者甚至在客户端设备102的前后侧上包括三重、四重或五重后置摄像装置配置。例如，这些多摄像装置系统可以包括广角摄像装置、超广角摄像装置、远距摄像装置、微距摄像装置和深度传感器。
位置部件1336包括定位传感器部件(例如，GPS接收器部件)、海拔传感器部件(例如，检测气压的高度计或气压计，从该气压可以得到海拔)、取向传感器部件(例如，磁力计)等。
可以使用各种各样的技术来实现通信。I/O部件1302还包括通信部件1338，通信部件1338可操作以经由相应的耦接或连接将机器1300耦接至网络1322或设备1324。例如，通信部件1338可以包括与网络1322对接的网络接口部件或另一合适的设备。在另外的示例中，通信部件1338可以包括有线通信部件、无线通信部件、蜂窝通信部件、近场通信(NFC)部件、部件(例如，/>低能耗)、/>部件以及经由其他模态提供通信的其他通信部件。设备1324可以是另一机器或各种各样的外围设备中的任何外围设备(例如，经由USB耦接的外围设备)。
此外，通信部件1338可以检测标识符或包括可操作以检测标识符的部件。例如，通信部件1338可以包括射频识别(RFID)标签阅读器部件、NFC智能标签检测部件、光学阅读器部件(例如，用于检测诸如通用产品码(UPC)条形码的一维条形码、诸如快速响应(QR)码、Aztec码、数据矩阵、数据符号(Dataglyph)、最大码(MaxiCode)、PDF417、超码(UltraCode)、UCC RSS-2D条形码的多维条形码和其他光学码的光学传感器)或者声学检测部件(例如，用于识别标记的音频信号的麦克风)。此外，可以经由通信部件1338得到各种信息，例如经由因特网协议(IP)地理定位得到定位、经由信号三角测量得到定位、经由检测可以指示特定定位的NFC信标信号得到定位等。
各种存储器(例如，主存储器1314、静态存储器1316以及处理器1304的存储器)以及存储单元1318可以存储由本文中描述的方法或功能中的任何一种或更多种使用或实施本文中描述的方法或功能中的任何一种或更多种的一组或更多组指令和数据结构(例如，软件)。这些指令(例如，指令1310)在由处理器1304执行时使得各种操作实现所公开的示例。
可以经由网络接口设备(例如，通信部件1338中包括的网络接口部件)使用传输介质并且使用若干公知的传输协议中的任何一个传输协议(例如，超文本传输协议(HTTP))通过网络1322来发送或接收指令1310。类似地，可以使用传输介质经由至设备1324的耦接(例如，对等耦接)来发送或接收指令1310。
图14是示出可以安装在本文中描述的设备中的任何一个或更多个设备上的软件架构1404的框图1400。软件架构1404由硬件诸如包括处理器1420、存储器1426和I/O部件1438的机器1402支持。在该示例中，软件架构1404可以被概念化为层的堆栈，其中每个层提供特定功能。软件架构1404包括下述层，例如操作系统1412、库1410、框架1408和应用1406。在操作上，应用1406通过软件堆栈来激活API调用1450并且响应于API调用1450而接收消息1452。
操作系统1412管理硬件资源并提供公共服务。操作系统1412包括例如：核1414、服务1416以及驱动器1422。核1414用作硬件与其他软件层之间的抽象层。例如，核1414提供存储器管理、处理器管理(例如，调度)、部件管理、联网和安全设置等功能。服务1416可以针对其他软件层提供其他公共服务。驱动器1422负责控制底层硬件或与底层硬件对接。例如，驱动器1422可以包括显示驱动器、摄像装置驱动器、或/>低能耗驱动器、闪存驱动器、串行通信驱动器(例如，USB驱动器)、/>驱动器、音频驱动器、电力管理驱动器等。
库1410提供由应用1406使用的共同低级基础设施。库1410可以包括系统库1418(例如，C标准库)，该系统库1418提供诸如存储器分配功能、字符串操纵功能、数学功能等的功能。此外，库1410可以包括API库1424，例如媒体库(例如，用于支持各种媒体格式的呈现和操纵的库，所述各种媒体格式例如运动图像专家组-4(MPEG4)、高级视频编码(H.264或AVC)、运动图像专家组层-3(MP3)、高级音频编码(AAC)、自适应多速率(AMR)音频编解码器、联合图像专家组(JPEG或JPG)或便携式网络图形(PNG))、图形库(例如，用于在显示器上的图形内容中以二维(2D)和三维(3D)进行呈现的OpenGL框架)、数据库库(例如，提供各种关系数据库功能的SQLite)、web库(例如，提供web浏览功能的WebKit)等。库1410还可以包括各种其他库1428，以向应用1406提供许多其他API。
框架1408提供由应用1406使用的共同高级基础设施。例如，框架1408提供各种图形用户界面(GUI)功能、高级资源管理和高级定位服务。框架1408可以提供可以由应用1406使用的广泛的其他API，其中一些API可以特定于特定操作系统或平台。
在示例中，应用1406可以包括家庭应用1436、联系人应用1430、浏览器应用1432、书籍阅读器应用1434、定位应用1442、媒体应用1444、消息应用1446、游戏应用1448和诸如第三方应用1440的各种各样的其他应用。应用1406是执行程序中定义的功能的程序。可以采用各种编程语言来创建以各种方式构造的应用1406中的一个或更多个，所述编程语言例如面向对象的编程语言(例如，Objective-C、Java或C++)或过程编程语言(例如，C或汇编语言)。在特定示例中，第三方应用1440(例如，由特定平台的供应商以外的实体使用ANDROIDTM或IOSTM软件开发工具包(SDK)开发的应用)可以是在诸如IOSTM、ANDROIDTM、Phone的移动操作系统或其他移动操作系统上运行的移动软件。在该示例中，第三方应用1440可以激活由操作系统1412提供的API调用1450以有助于本文中描述的功能。
“载波信号”是指能够存储、编码或携载由机器执行的指令并且包括数字或模拟通信信号的任何无形介质或有助于这样的指令的通信的其他无形介质。可以经由网络接口设备使用传输介质通过网络发送或接收指令。
“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。
“通信网络”是指网络的一个或更多个部分，该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、网络、其他类型的网络或者两个或更多个这样的网络的组合。例如，网络或网络的一部分可以包括无线网络或蜂窝网络，并且耦接可以是码分多址(CDMA)连接、全局移动通信系统(GSM)连接或其他类型的蜂窝或无线耦接。在该示例中，耦接可以实现各种类型的数据传输技术中的任何数据传输技术，诸如单载波无线电传输技术(1xRTT)、演进数据优化(EVDO)技术、通用分组无线电服务(GPRS)技术、GSM演进的增强数据速率(EDGE)技术、包括3G的第三代合作伙伴计划(3GPP)、第四代无线(4G)网络、通用移动通信系统(UMTS)、高速分组接入(HSPA)、全球微波接入互操作性(WiMAX)、长期演进(LTE)标准、由各种标准设置组织定义的其他数据传输技术、其他长距离协议或其他数据传输技术。
“部件”是指设备、物理实体或具有由功能或子例程调用、分支点、API或者对特定处理或控制功能提供分区或模块化的其他技术来定义的边界的逻辑。部件可以经由它们的接口与其他部件组合以执行机器处理。部件可以是被设计用于与其他部件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。部件可以构成软件部件(例如，在机器可读介质上实施的代码)或硬件部件。“硬件部件”是能够执行某些操作的有形单元，并且可以以某种物理方式来配置或布置。在各种示例中，可以通过软件(例如，应用或应用部分)将一个或更多个计算机系统(例如，独立计算机系统、客户端计算机系统或服务器计算机系统)或计算机系统的一个或更多个硬件部件(例如，处理器或处理器组)配置为进行操作以执行本文中描述的某些操作的硬件部件。也可以机械地、电子地或其任何合适的组合来实现硬件部件。例如，硬件部件可以包括被永久地配置成执行某些操作的专用电路或逻辑。硬件部件可以是例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)的专用处理器。硬件部件还可以包括通过软件被短暂配置成执行某些操作的可编程逻辑或电路。例如，硬件部件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置，则硬件部件成为被独特地定制成执行所配置的功能的特定机器(或机器的特定部件)，而不再是通用处理器。将认识到，机械地、在专用和永久配置的电路中、或在临时配置的电路(例如，由软件配置)中实现硬件部件的决定可以出于成本和时间考虑来驱动。因此，短语“硬件部件”(或者“硬件实现的部件”)应当被理解成包含有形实体，即为被物理构造、永久配置(例如，硬连线)或临时配置(例如，编程)成以某种方式操作或者执行本文中描述的某些操作的实体。考虑硬件部件被临时配置(例如，被编程)的示例，无需在任一时刻对硬件部件中的每一个进行配置或实例化。例如，在硬件部件包括通过软件配置而成为专用处理器的通用处理器的情况下，通用处理器可以在不同时间被配置为分别不同的专用处理器(例如，包括不同的硬件部件)。因此，软件将一个或多个特定处理器配置成例如在一个时刻构成特定硬件部件并且在不同时刻构成不同的硬件部件。硬件部件可以向其他硬件部件提供信息以及从其他硬件部件接收信息。因此，所描述的硬件部件可以被认为是通信地耦接的。在同时存在多个硬件部件的情况下，可以通过在两个或更多个硬件部件之间或之中的信号传输(例如，通过适当的电路和总线)来实现通信。在其中多个硬件部件在不同时间被配置或被实例化的示例中，可以例如通过将信息存储在多个硬件部件可以访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件部件之间的通信。例如，一个硬件部件可以执行操作，并且将该操作的输出存储在通信地耦接的存储器设备中。然后，其他硬件部件可以在随后的时间访问存储器设备以检索和处理所存储的输出。硬件部件还可以发起与输入设备或输出设备的通信，并且可以对资源(例如，信息的集合)进行操作。在本文中描述的示例方法的各种操作可以至少部分地由被临时地配置(例如，通过软件)或被永久地配置成执行相关操作的一个或更多个处理器来执行。无论是被临时地配置还是被永久地配置，这样的处理器可以构成进行操作以执行本文描述的一个或更多个操作或功能的处理器实现的部件。如本文所使用的，“处理器实现的部件”是指使用一个或更多个处理器实现的硬件部件。类似地，本文中描述的方法可以至少部分地由处理器实现，其中一个或多个特定处理器是硬件的示例。例如，方法的操作中的至少一些操作可以由一个或更多个处理器或者处理器实现的部件来执行。此外，一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或作为“软件即服务”(SaaS)操作。例如，操作中的至少一些操作可以由计算机组(作为包括处理器的机器的示例)执行，其中，这些操作可经由网络(例如，因特网)并且经由一个或更多个适当的接口(例如，API)进行访问。操作中的某些操作的执行可以分布在处理器之间，不仅可以驻留在单个机器内，而且可以跨若干机器部署。在一些示例中，处理器或处理器实现的部件可以位于单个地理定位(例如，在家庭环境、办公室环境或服务器群内)。在其他示例中，处理器或处理器实现的部件可以跨若干地理定位分布。
“计算机可读存储介质”是指机器存储介质和传输介质两者。因此，这些术语包括存储设备/介质以及载波/经调制的数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物并且可以在本公开内容中互换使用。
“短暂消息”是指在有时间限制的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。替选地，访问时间可以是默认设置或者由接收方指定的设置。无论设置技术如何，该消息都是暂态的。
“机器存储介质”是指存储可执行指令、例程和数据的单个或多个存储设备和介质(例如，集中式或分布式数据库，以及相关联的缓存和服务器)。因此，该术语应当被视为包括但不限于固态存储器以及光学和磁介质，包括处理器内部或外部的存储器。机器存储介质、计算机存储介质和设备存储介质的具体示例包括：非易失性存储器，包括例如半导体存储器设备，例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪存设备；磁盘，例如内部硬盘和可移除盘；磁光盘；以及CD-ROM和DVD-ROM盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物并且可以在本公开内容中互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、经调制的数据信号和其他这样的介质(其中的至少一些被涵盖在术语“信号介质”中)。
“非暂态计算机可读存储介质”是指能够存储、编码或携载由机器执行的指令的有形介质。
“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质，并且包括数字或模拟通信信号或有助于软件或数据的通信的其他无形介质。术语“信号介质”应当被视为包括任何形式的经调制的数据信号、载波等。术语“经调制的数据信号”意指其特性中的一个或更多个特性以将信息编码在信号中的方式来设置或改变的信号。术语“传输介质”和“信号介质”意指相同的事物并且在本公开内容中可以互换使用。

Claims (20)

1.一种方法，包括：
接收用户请求以识别由设备摄像装置捕获的图像中描绘的至少一个对象；
响应于接收所述用户请求，确定所述图像中描绘的对象的属性；
从用于针对所述图像执行的多个快捷方式中选择与所述对象的所述属性相关联的快捷方式，所述多个快捷方式中的每个快捷方式与要应用于所述图像的单独功能的组合对应；以及
使得显示具有用户可选择元件的界面，所述用户可选择元件用于针对所述图像执行所选择的快捷方式。
2.根据权利要求1所述的方法，其中，所述单独功能的组合包括以下中的至少两个：要应用于所述图像的增强现实内容项、摄像装置模式或音频轨道。
3.根据权利要求2所述的方法，其中，所述摄像装置模式对应于以下中的至少一个：用于捕获一系列视频片段的时间线模式、用于设置何时开始视频捕获的定时器模式、以及用于以慢动作记录视频的慢动作模式。
4.根据权利要求1所述的方法，还包括：
基于将所述单独功能的组合应用于所述图像，生成媒体内容项。
5.根据权利要求1所述的方法，还包括：
经由所述界面接收对所述用户可选择元件的用户选择；以及
响应于所述接收，将所述单独功能的组合应用于所述图像。
6.根据权利要求5所述的方法，还包括：
与所述应用相关联地显示横幅，所述横幅指示与所述快捷方式对应的所述单独功能的组合以及所述快捷方式的名称，
其中，所述横幅包括用于停止将所述单独功能的组合应用于所述图像的第二用户可选择元件。
7.根据权利要求1所述的方法，其中，所述多个快捷方式能够经由被配置成存储所述多个快捷方式的数据库访问。
8.根据权利要求1所述的方法，其中，所述界面还包括与所述用户可选择元件分开的第一界面元件和第二界面元件，所述第一界面元件用于识别所述对象，并且所述第二界面元件用于呈现用于应用于所述图像的与所述对象有关的可用增强现实内容项。
9.一种系统，包括：
处理器；以及
存储器，所述存储器存储指令，所述指令在由所述处理器执行时将所述处理器配置成执行操作，所述操作包括：
接收用户请求以识别由设备摄像装置捕获的图像中描绘的至少一个对象；
响应于接收所述用户请求，确定所述图像中描绘的对象的属性；
从用于针对所述图像执行的多个快捷方式中选择与所述对象的所述属性相关联的快捷方式，所述多个快捷方式中的每个快捷方式与要应用于所述图像的单独功能的组合对应；以及
使得显示具有用户可选择元件的界面，所述用户可选择元件用于针对所述图像执行所选择的快捷方式。
10.根据权利要求9所述的系统，其中，所述单独功能的组合包括以下中的至少两个：要应用于所述图像的增强现实内容项、摄像装置模式或音频轨道。
11.根据权利要求10所述的系统，其中，所述摄像装置模式对应于以下中的至少一个：用于捕获一系列视频片段的时间线模式、用于设置何时开始视频捕获的定时器模式、以及用于以慢动作记录视频的慢动作模式。
12.根据权利要求9所述的系统，所述操作还包括：
基于将所述单独功能的组合应用于所述图像，生成媒体内容项。
13.根据权利要求9所述的系统，所述操作还包括：
经由所述界面接收对所述用户可选择元件的用户选择；以及
响应于所述接收，将所述单独功能的组合应用于所述图像。
14.根据权利要求13所述的系统，所述操作还包括：
与所述应用相关联地显示横幅，所述横幅指示与所述快捷方式对应的所述单独功能的组合以及所述快捷方式的名称，
其中，所述横幅包括用于停止将所述单独功能的组合应用于所述图像的第二用户可选择元件。
15.根据权利要求9所述的系统，其中，所述多个快捷方式能够经由被配置成存储所述多个快捷方式的数据库访问。
16.根据权利要求9所述的系统，其中，所述界面还包括与所述用户可选择元件分开的第一界面元件和第二界面元件，所述第一界面元件用于识别所述对象，并且所述第二界面元件用于呈现用于应用于所述图像的与所述对象有关的可用增强现实内容项。
17.一种非暂态计算机可读存储介质，所述计算机可读存储介质包括指令，所述指令在由计算机执行时使所述计算机执行操作，所述操作包括：
接收用户请求以识别由设备摄像装置捕获的图像中描绘的至少一个对象；
响应于接收所述用户请求，确定所述图像中描绘的对象的属性；
从用于针对所述图像执行的多个快捷方式中选择与所述对象的所述属性相关联的快捷方式，所述多个快捷方式中的每个快捷方式与要应用于所述图像的单独功能的组合对应；以及
使得显示具有用户可选择元件的界面，所述用户可选择元件用于针对所述图像执行所选择的快捷方式。
18.根据权利要求17所述的计算机可读介质，其中，所述单独功能的组合包括以下中的至少两个：要应用于所述图像的增强现实内容项、摄像装置模式或音频轨道。
19.根据权利要求18所述的计算机可读介质，其中，所述摄像装置模式对应于以下中的至少一个：用于捕获一系列视频片段的时间线模式、用于设置何时开始视频捕获的定时器模式、以及用于以慢动作记录视频的慢动作模式。
20.根据权利要求17所述的计算机可读介质，所述操作还包括：
基于将所述单独功能的组合应用于所述图像，生成媒体内容项。
CN202280036080.9A 2021-05-19 2022-05-16 消息系统内根据扫描操作的快捷方式 Pending CN117337430A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US202163190619P 2021-05-19 2021-05-19
US63/190,619 2021-05-19
PCT/US2022/029479 WO2022245747A1 (en) 2021-05-19 2022-05-16 Shortcuts from scan operation within messaging system

Publications (1)

Publication Number Publication Date
CN117337430A true CN117337430A (zh) 2024-01-02

Family

ID=82058477

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202280036080.9A Pending CN117337430A (zh) 2021-05-19 2022-05-16 消息系统内根据扫描操作的快捷方式

Country Status (5)

Country Link
US (1) US20220375137A1 (zh)
EP (1) EP4341804A1 (zh)
KR (1) KR20240010718A (zh)
CN (1) CN117337430A (zh)
WO (1) WO2022245747A1 (zh)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10963145B1 (en) * 2019-12-30 2021-03-30 Snap Inc. Prioritizing display of user icons associated with content
WO2022245738A1 (en) 2021-05-19 2022-11-24 Snap Inc. Combining functions into shortcuts within messaging system
US20230135858A1 (en) * 2021-11-04 2023-05-04 Meta Platforms, Inc. Pre-constructing a collection of digital content

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2004222927A1 (en) * 2003-03-19 2004-10-07 Nik Software, Inc. Selective enhancement of digital images
US9225897B1 (en) * 2014-07-07 2015-12-29 Snapchat, Inc. Apparatus and method for supplying content aware photo filters
US9569697B1 (en) * 2015-02-19 2017-02-14 Google Inc. Object oriented image editing
CN108174099A (zh) * 2017-12-29 2018-06-15 光锐恒宇（北京）科技有限公司 图像显示方法、装置和计算机可读存储介质
KR102079091B1 (ko) * 2018-01-31 2020-02-19 주식회사 하이퍼커넥트 단말기 및 그것의 이미지 처리 방법
US11012389B2 (en) * 2018-05-07 2021-05-18 Apple Inc. Modifying images with supplemental content for messaging
AU2019100576C4 (en) * 2018-06-03 2020-01-30 Apple Inc. Accelerated task performance
US11070717B2 (en) * 2019-04-23 2021-07-20 Adobe Inc. Context-aware image filtering
CN112422863B (zh) * 2019-08-22 2022-04-12 华为技术有限公司 一种视频拍摄方法、电子设备和存储介质
CN112738623B (zh) * 2019-10-14 2022-11-01 北京字节跳动网络技术有限公司 视频文件的生成方法、装置、终端及存储介质
US11442607B2 (en) * 2020-05-11 2022-09-13 Apple Inc. Task shortcut user interface

Also Published As

Publication number Publication date
WO2022245747A1 (en) 2022-11-24
US20220375137A1 (en) 2022-11-24
KR20240010718A (ko) 2024-01-24
EP4341804A1 (en) 2024-03-27

Similar Documents

Publication Publication Date Title
CN115443641A (zh) 将第一用户界面内容组合到第二用户界面中
CN115552403B (zh) 用于媒体内容项的私人集合的邀请媒体覆盖物
CN115803723A (zh) 在消息收发系统中更新化身状态
CN116671121A (zh) 用于多视频片段捕获的ar内容
CN115462089B (zh) 在消息收发应用中显示增强现实内容的方法、设备、介质
CN115867882A (zh) 用于图像的基于出行的增强现实内容
US20220375137A1 (en) Presenting shortcuts based on a scan operation within a messaging system
CN116783575A (zh) 媒体内容检测和管理
CN116438788A (zh) 媒体内容回放和评论管理
CN115867905A (zh) 旅行情况下基于增强现实的语音翻译
CN116710881A (zh) 针对多视频片段捕获选择音频
CN115812217A (zh) 用于评论的基于出行的增强现实内容
CN115836292A (zh) 与旅行相关联的基于增强现实的翻译
CN116349215A (zh) 利用微声音剪辑来聊天
CN116685995A (zh) 向捕获的视频添加基于时间的字幕
CN117203676A (zh) 可定制的化身生成系统
CN116057917A (zh) 记录的声音的缩略图
CN115699716A (zh) 消息界面扩展系统
CN115516445A (zh) 对于检测到的对象对增强现实内容的基于语音的选择
CN116235194A (zh) 媒体内容传输和管理
CN117501675A (zh) 呈现由消息应用从第三方资源接收的内容
US20240073166A1 (en) Combining individual functions into shortcuts within a messaging system
CN116648895A (zh) 用于捕获多个视频片段的摄像装置模式
CN117597940A (zh) 用于呈现适用于摄像装置的功能的用户界面
CN117121461A (zh) 用户存在指示数据管理

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination