CN115462089B - 在消息收发应用中显示增强现实内容的方法、设备、介质 - Google Patents

在消息收发应用中显示增强现实内容的方法、设备、介质 Download PDF

Info

Publication number
CN115462089B
CN115462089B CN202180031409.8A CN202180031409A CN115462089B CN 115462089 B CN115462089 B CN 115462089B CN 202180031409 A CN202180031409 A CN 202180031409A CN 115462089 B CN115462089 B CN 115462089B
Authority
CN
China
Prior art keywords
augmented reality
reality content
application
image data
content item
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202180031409.8A
Other languages
English (en)
Other versions
CN115462089A (zh
Inventor
卡韦赫·安瓦里普尔
埃博尼·詹姆斯·查尔顿
帕特里克·曼迪亚
希丽亚·妮科尔·穆尔库扬尼斯
安德鲁·詹姆斯·麦克菲
丹尼尔·莫雷诺
凯尔·古德里奇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Snap Inc
Original Assignee
Snap Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from US17/204,694 external-priority patent/US11410396B2/en
Priority claimed from US17/204,683 external-priority patent/US11620795B2/en
Application filed by Snap Inc filed Critical Snap Inc
Publication of CN115462089A publication Critical patent/CN115462089A/zh
Application granted granted Critical
Publication of CN115462089B publication Critical patent/CN115462089B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172—Classification, e.g. identification
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223—Cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434—Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4348—Demultiplexing of additional data and video streams
    • H04N21/4349—Demultiplexing of additional data and video streams by extracting from data carousels, e.g. extraction of software modules from a DVB carousel
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/8146—Monomedia components thereof involving graphical data, e.g. 3D object, 2D graphics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/816—Monomedia components thereof involving special video data, e.g 3D video
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81—Monomedia components thereof
    • H04N21/8166—Monomedia components thereof involving executable data, e.g. software
    • H04N21/8173—End-user applications, e.g. Web browser, game

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Computing Systems (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Business, Economics & Management (AREA)
  • Marketing (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Information Transfer Between Computers (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本公开内容的各方面涉及系统，该系统包括存储用于显示增强现实内容的程序和方法的计算机可读存储介质。该程序和方法使得：从运行于设备上的第一应用接收用于切换至设备上的第二应用的请求，该请求标识增强现实内容以与由设备的摄像装置捕获的图像数据一起显示；响应于接收到请求而使得从第一应用切换至第二应用；使得第二应用激活摄像装置以捕获图像数据；以及使得第二应用显示由摄像装置捕获的图像数据与增强现实内容。

Description

在消息收发应用中显示增强现实内容的方法、设备、介质
相关申请的交叉引用
本专利申请要求于2021年3月17日提交的美国申请序列号17/204,683的优先权权益，该申请要求于2020年3月27日提交题为“DISPLAYING AUGMENTED REALITY CONTENT INMESSAGING APPLICATION”的美国临时专利申请第63/000,711号的优先权。本专利申请还要求于2021年3月17日提交的美国申请序列号17/204,694的优先权权益，该申请要求于2020年3月27日提交的题为“PASSING AUGMENTED REALITY CONTENT BETWEEN DEVICES”的美国临时专利申请第63/000,754号的优先权，所有这些申请通过引用整体并入本文。
技术领域
本公开内容总体上涉及消息收发应用，包括提供在消息收发应用内对增强现实内容的显示。
背景技术
消息收发系统使得进行用户之间的消息内容的交换。例如，消息收发系统允许用户与一个或更多个其他用户交换消息内容(例如，文本、图像)。
附图说明
为了容易地标识对任何特定元件或动作的讨论，附图标记中的一个或多个最高位数字指代该元件被首次引入时的图号。
图1是根据一些示例实施方式的可以部署本公开内容的联网环境的图形表示。
图2是根据一些示例实施方式的消息收发客户端应用的图形表示。
图3是根据一些示例实施方式的如在数据库中维护的数据结构的图形表示。
图4是根据一些示例实施方式的消息的图形表示。
图5是根据一些示例实施方式的访问限制过程的流程图。
图6是示出根据一些示例实施方式的用于深度链接至增强现实内容的过程的交互图。
图7A至图7B示出了根据一些示例实施方式的用于深度链接至增强现实内容项的用户界面。
图8A至图8B示出了根据一些示例实施方式的用于使用用于增强现实内容项的定制的动态显示的参数来深度链接至增强现实内容项的用户界面。
图9A至图9B示出了根据一些示例实施方式的用于深度链接至增强现实内容项的集合的用户界面。
图10A至图10C示出了根据一些示例实施方式的用于使用用于增强现实内容项的定制的动态显示的二进制资产来深度链接至增强现实内容项的用户界面。
图11是示出根据一些示例实施方式的用于深度链接至增强现实内容的过程的流程图。
图12是示出根据一些示例实施方式的其中可以实现本公开内容的软件架构的框图。
图13是根据一些示例实施方式的呈计算机系统形式的机器的图形表示，在该机器内可以执行一组指令以使该机器执行所讨论的方法中的任何一种或更多种。
具体实施方式
消息收发系统通常允许用户在消息线程中彼此交换内容项(例如，消息、图像和/或视频)。消息收发系统可以实现增强现实系统或者以其他方式与增强现实系统结合工作，以显示关于消息收发的增强现实内容。例如，在创建消息内容时，增强现实内容与由设备摄像装置捕获的图像数据相结合。然而，用户可能希望便于创建和/或选择关于消息收发的增强现实内容。
所公开的实施方式使得从运行于设备上的第三方应用深度链接至设备上的消息收发应用。第三方应用包括用于从第三方应用定向至消息收发应用中具有增强现实内容项(例如，对应于增强现实体验或镜头)的摄像装置视图的用户可选择元素(例如，按钮)。例如，设备的操作系统有助于自动启动应用中的增强现实内容项。在一个或更多个实施方式中，以基于由第三方应用提供的参数的定制的动态显示来启动增强现实内容项。
图1是示出用于通过网络110交换数据(例如，消息和相关联的内容)的示例消息收发系统100的框图。消息收发系统100包括客户端设备102的实例，其中的每个实例托管操作系统104和包括消息收发客户端应用106和第三方应用108的多个应用。每个消息收发客户端应用106经由网络110(例如，因特网)通信地耦接至消息收发客户端应用106、第三方应用108的其他实例和消息收发服务器系统112。
因此，每个消息收发客户端应用106和第三方应用108能够经由网络110与另一消息收发客户端应用106和第三方应用108以及与消息收发服务器系统112进行通信和交换数据。在消息收发客户端应用106、第三方应用108之间以及在消息收发客户端应用106与消息收发服务器系统112之间交换的数据包括函数(例如，用以调用函数的命令)和有效载荷数据(例如，文本、音频、视频或其他多媒体数据)。
所公开的消息收发客户端应用106与第三方应用108之间的通信可以直接发送(例如，经由操作系统104)。替选地或另外，所公开的消息收发客户端应用106与第三方应用108之间的通信可以间接发送(例如，经由一个或更多个服务器)。
第三方应用108和消息收发客户端应用106是包括允许客户端设备102访问增强现实系统128的一组功能的应用。第三方应用108是与消息收发客户端应用106分离且不同的应用。第三方应用108与消息收发客户端应用106分离地由客户端设备102下载和安装。在一些实施方式中，第三方应用108在消息收发客户端应用106被下载和安装之前或之后由客户端设备102下载和安装。第三方应用108是由与提供消息收发客户端应用106的实体或组织不同的实体或组织提供的应用。第三方应用108是可以由客户端设备102使用与消息收发客户端应用106相比不同的登录凭证来访问的应用。例如，第三方应用108可以维护第一用户帐户，而消息收发客户端应用106可以维护第二用户帐户。在一个或更多个实施方式中，可以由客户端设备102访问第三方应用108以执行各种活动和交互，例如听音乐、看视频、跟踪锻炼、查看图形元素(例如，贴纸)、购买实体物品或商品、与其他用户通信等。
通过非限制性示例的方式，第三方应用108对应于以下应用类别中的一个或更多个：书籍、商业、开发工具、教育、娱乐、金融、食品/饮品、游戏、图形/设计、健康/健身、生活方式、儿童、杂志/报纸、医疗、音乐、导航、新闻、照片/视频、生产力、参考、购物、社交网络、运动、旅行、公用事业、天气和/或任何其他合适的应用。
操作系统104(例如，对应于图12的操作系统1212)被配置成管理硬件资源，并且针对客户端设备102提供公共服务。在一个或更多个实施方式中，操作系统104使得进行或以其他方式促进第三方应用108与消息收发客户端应用106之间的深度链接。如本文所描述的，第三方应用108可以提供用于从第三方应用108定向至消息收发客户端应用106内的特定定位/特征(例如，增强现实内容项)的链接(例如，按钮)。
在一些实施方式中，消息收发客户端应用106激活客户端设备102的摄像装置。消息收发客户端应用106允许用户请求扫描由摄像装置捕获的摄像装置馈送中的一个或更多个项。例如，消息收发客户端应用106可以接收与摄像装置馈送一起呈现的专用扫描选项的用户选择。替选地，消息收发客户端应用106可以检测用户的手的手指与触摸屏的区域之间的物理接触持续阈值时间段。例如，消息收发客户端应用106确定用户在屏幕上触摸并保持他们的手指超过三秒。作为响应，消息收发客户端应用106捕获正在屏幕上显示的图像，并且处理该图像以识别图像中的一个或更多个对象。在一些实施方式中，消息收发客户端应用106使用一个或更多个训练的分类器和/或环境因素来识别图像中的对象。
消息收发服务器系统112经由网络110向特定的消息收发客户端应用106提供服务器侧功能。虽然消息收发系统100的某些功能在本文中被描述为由消息收发客户端应用106或由消息收发服务器系统112执行，但是应当理解，某些功能在消息收发客户端应用106或消息收发服务器系统112内的定位是设计选择。例如，在技术上可能优选的是最初在消息收发服务器系统112内部署某些技术和功能，但是稍后将该技术和功能迁移至其中客户端设备102具有足够处理能力的消息收发客户端应用106。
消息收发服务器系统112支持被提供至消息收发客户端应用106的各种服务和操作。这样的操作包括向消息收发客户端应用106发送数据、从消息收发客户端应用106接收数据以及处理由消息收发客户端应用106生成的数据。作为示例，该数据可以包括消息内容、客户端设备信息、图形元素、地理定位信息、媒体注释和覆盖、虚拟对象、消息内容持续条件、社交网络信息和现场事件信息。通过经由消息收发客户端应用106的用户界面(UI)(例如，图形用户界面)可用的功能来调用和控制消息收发系统100内的数据交换。
现在具体地转至消息收发服务器系统112，API服务器114(应用编程接口服务器)耦接至应用服务器116，并且向应用服务器116提供编程接口。应用服务器116通信地耦接至数据库服务器122，这有助于访问其中存储有与由应用服务器116处理的消息相关联的数据的数据库124。
具体涉及API服务器114，该服务器在客户端设备102与应用服务器116之间接收和发送消息数据(例如，命令和消息有效载荷)。具体地，API服务器114提供一组接口(例如，例程和协议)，所述一组接口可以由消息收发客户端应用106和第三方应用108调用或查询，以便调用应用服务器116的功能。API服务器114公开由应用服务器116支持的各种功能，包括帐户注册；登录功能；经由应用服务器116将消息从特定消息收发客户端应用106发送至另一消息收发客户端应用106或第三方应用108(例如，反之亦然)；将媒体文件(例如，图形元素、图像或视频)从消息收发客户端应用106发送至消息收发服务器应用118，并且供另一消息收发客户端应用106或第三方应用108可能访问；图形元素列表；媒体数据的集合(例如，故事)的设置；这样的集合的检索；客户端设备102的用户的好友列表的检索；维护增强现实内容项；消息和内容的检索；向社交图添加好友和删除好友；社交图内好友的定位；访问用户对话数据；访问存储在消息收发服务器系统112上的具体化信息；以及打开应用事件(例如，与消息收发客户端应用106有关)。
应用服务器116托管多个应用和子系统，包括消息收发服务器应用118、图像处理系统120、社交网络系统126和增强现实系统128。消息收发服务器应用118实现多个消息处理技术和功能，特别涉及在从消息收发客户端应用106的多个实例接收的消息中包括的内容(例如，文本和多媒体内容)的汇集和其他处理。如将进一步详细地描述的，来自多个源的文本和媒体内容可以被汇集成内容的集合(例如，被称为故事或库)。然后，消息收发服务器应用118使这些集合对消息收发客户端应用106可用。鉴于针对这样的处理的硬件要求，消息收发服务器应用118也可以在服务器侧执行其他处理器和存储器密集型的数据处理。
应用服务器116还包括专用于执行各种图像处理操作的图像处理系统120，所述图像处理操作通常针对在消息收发服务器应用118处的消息的有效载荷内接收的图像或视频。图像处理系统120的一部分也可以由增强现实系统128来实现。
社交网络系统126支持各种社交网络功能和服务，并且使这些功能和服务可用于消息收发服务器应用118。为此，社交网络系统126维护并访问数据库124内的实体图。由社交网络系统126支持的功能和服务的示例包括特定用户与之有关系或特定用户所“关注”的消息收发系统100的其他用户的标识，并且还包括特定用户的兴趣的和其他实体的标识。这样的其他用户可以被称为用户的好友。社交网络系统126可以访问与用户的好友中的每个好友相关联的定位信息，以确定他们住在哪里或当前在地理上位于哪里。社交网络系统126可以维护用户的好友中的每个好友的定位简档，该定位简档指示用户的好友居住的地理定位。
增强现实系统128生成并维护增强现实内容项的列表。增强现实内容项可以对应于用于使用增强现实内容补充捕获的图像数据的增强现实体验(例如，镜头)。如本文所描述的，第三方应用108被配置成将增强现实内容项标识符、参数和/或二进制资产传递给消息收发客户端应用106，以便将定制的增强现实内容项应用于消息收发客户端应用106内的捕获的图像数据。
在一个或更多个实施方式中，增强现实系统128识别在由消息收发客户端应用106捕获的一个或更多个图像中描绘的对象，并且确定该对象的一个或更多个属性。增强现实系统128搜索与对象的一个或更多个属性相关联的一个或更多个增强现实内容项(例如，虚拟对象)，并且对虚拟对象进行排名(例如，基于分配给属性中的每个属性的关联和权重)。增强现实系统128使得排名最高的增强现实内容项的一个或更多个虚拟对象或图形元素被呈现在捕获的图像之上。
应用服务器116通信地耦接至数据库服务器122，这有助于访问其中存储有与由消息收发服务器应用118处理的消息相关联的数据的数据库124。数据库124可以是第三方数据库。例如，应用服务器116可以与第一实体相关联，并且数据库124或数据库124的一部分可以通过第二不同实体相关联并且由第二不同实体托管。在一些实施方式中，数据库124存储第一实体收集的关于由第一实体提供的服务的各个用户中的每个用户的用户数据。例如，用户数据包括用户名、电话号码、密码、地址、好友、活动信息、偏好、由用户消费的视频或内容等。
图2是示出根据示例实施方式的关于消息收发系统100的另外的细节的框图。具体地，消息收发系统100被示出为包括消息收发客户端应用106和应用服务器116，消息收发客户端应用106和应用服务器116又包含多个一些子系统，即短暂定时器系统202、集合管理系统204和注释系统206。
短暂定时器系统202负责实施对由消息收发客户端应用106和消息收发服务器应用118允许的内容的临时访问。为此，短暂定时器系统202并入了多个定时器，这些定时器基于与消息或消息的集合(例如，故事)相关联的持续时间和显示参数，选择性地显示消息和相关联的内容以及使得能够经由消息收发客户端应用106访问消息和相关联的内容。下面提供关于短暂定时器系统202的操作的另外的细节。
集合管理系统204负责管理媒体的集合(例如，文本、图像视频和音频数据的集合)。在一些示例中，内容(例如，包括图像、视频、文本和音频的消息)的集合可以被组织成“事件库”或“事件故事”。可以使这样的集合在指定的时间段(例如与内容有关的事件的持续时间)内可用。例如，可以使与音乐会有关的内容在该音乐会的持续时间内作为“故事”可用。集合管理系统204还可以负责发布向消息收发客户端应用106的用户界面提供特定集合的存在的通知的图标。
集合管理系统204还包括允许集合管理器管理和策展内容的特定集合的策展接口208。例如，策展接口208使得事件组织者能够策展与特定事件有关的内容的集合(例如，删除不适当的内容或冗余消息)。另外，集合管理系统204采用机器视觉(或图像识别技术)和内容规则来自动地策展内容集合。在某些实施方式中，可以向用户支付补偿以将用户生成的内容包括到集合中。在这样的情况下，策展接口208进行操作以自动向这样的用户支付费用以使用其内容。
注释系统206提供使得用户能够注释或以其他方式修改或编辑与消息相关联的媒体内容的各种功能。例如，注释系统206提供与生成和发布用于由消息收发系统100处理的消息的媒体覆盖有关的功能。注释系统206基于客户端设备102的地理定位可操作地向消息收发客户端应用106供应媒体覆盖或补充(例如，图像过滤)。在另一示例中，注释系统206基于其他信息(例如客户端设备102的用户的社交网络信息)可操作地向消息收发客户端应用106供应媒体覆盖。媒体覆盖可能包括音频和视觉内容以及视觉效果。音频和视觉内容的示例包括图片、文本、标志、动画和声音效果。视觉效果的示例包括颜色覆盖。音频和视觉内容或视觉效果可以应用于客户端设备102处的内容项(例如，照片)。例如，媒体覆盖可以包括可以覆盖在由客户端设备102拍摄的照片之上的文本。在另一示例中，媒体覆盖包括定位标识(例如，威尼斯海滩)覆盖、现场事件的名称或商家名称(例如，海滩咖啡馆)覆盖。在另一示例中，注释系统206使用客户端设备102的地理定位来识别包括在客户端设备102的地理定位处的商家名称的媒体覆盖。媒体覆盖可以包括与商家相关联的其他标记。媒体覆盖可以存储在数据库124中并通过数据库服务器122访问。
在一个示例实施方式中，注释系统206提供基于用户的发布平台，该发布平台使得用户能够选择地图上的地理定位，并且上传与所选择的地理定位相关联的内容。用户还可以指定特定媒体覆盖应当被提供给其他用户的环境。注释系统206生成包括所上传的内容的媒体覆盖并且将所上传的内容与所选择的地理定位相关联。
在另一示例实施方式中，注释系统206提供基于商家的发布平台，该发布平台使得商家能够经由竞价过程来选择与地理定位相关联的特定媒体覆盖。例如，注释系统206在预定义时间量内将最高出价商家的媒体覆盖与对应的地理定位相关联。
图3是示出根据某些示例实施方式的可以存储在消息收发服务器系统112的数据库124中的数据结构300的示意图。虽然数据库124的内容被示出为包括多个表，但是应当理解，数据可以存储在其他类型的数据结构中(例如，作为面向对象的数据库)。
数据库124包括存储在消息表314内的消息数据。实体表302存储实体数据，包括实体图304。其记录被维护在实体表302内的实体可以包括个人、公司实体、组织、对象、地点、事件等。不管类型如何，关于消息收发服务器系统108存储数据的任何实体都可以是被识别的实体。每个实体设置有唯一标识符以及实体类型标识符(未示出)。
实体图304存储关于实体之间的关系和关联的信息。仅作为示例，这样的关系可以是社交关系、专业关系(例如，在共同的公司或组织工作)、基于兴趣的关系或基于活动的关系。
消息表314可以存储用户与一个或更多个好友或实体之间的对话的集合。消息表314可以包括每个对话的各种属性，例如参与者列表、对话的大小(例如，用户的数目和/或消息的数目)、对话的聊天颜色、对话的唯一标识符以及任何其他对话相关的特征。
数据库124还将以过滤器的示例形式的注释数据存储在注释表312中。数据库124还存储在注释表312中接收到的注释内容。其数据存储在注释表312内的过滤器与视频(其数据存储在视频表310中)和/或图像(其数据存储在图像表308中)相关联并且应用于视频和/或图像。在一个示例中，过滤器是在呈现给接收用户期间被显示为覆盖在图像或视频上的覆盖。过滤器可以是各种类型的，包括当发送用户正在编写消息时由消息收发客户端应用106向发送用户呈现的过滤器库中的用户选择的过滤器。其他类型的过滤器包括地理定位过滤器(也称为地理过滤器)，其可以基于地理定位被呈现给发送用户。例如，基于由客户端设备102的全球定位系统(GPS)单元确定的地理定位信息，消息收发客户端应用106可以在UI内呈现特定于邻域或特殊定位的地理定位过滤器。另一类型的过滤器是数据过滤器，其可以由消息收发客户端应用106基于在消息创建过程期间由客户端设备102收集的其他输入或信息来选择性地呈现给发送用户。数据过滤器的示例包括特定定位处的当前温度、发送用户行进的当前速度、客户端设备102的电池寿命或当前时间。
可以存储在图像表308内的其他注释数据是增强现实内容项(例如，对应于增强现实体验或镜头)。增强现实内容项可以是可以添加至图像或视频的实时特殊效果和声音。
如上所述，增强现实内容项、覆盖、图像变换、AR图像和类似术语是指可以对视频或图像进行的修改。这包括实时修改，该实时修改在使用设备传感器捕获图像然后将图像显示在设备的屏幕上时利用修改进行修改图像。这还包括对存储的内容的修改，例如可以修改的库中的视频剪辑。例如，在可以访问多个增强现实内容项的设备中，用户可以使用具有多个增强现实内容项的单个视频剪辑来查看不同的增强现实内容项将如何修改存储的剪辑。例如，通过针对内容选择不同的增强现实内容项，可以将应用不同伪随机运动模型的多个增强现实内容项应用于相同的内容。类似地，实时视频捕获可以与所示的修改一起使用，以示出当前由设备的传感器捕获的视频图像将如何修改所捕获的数据。这样的数据可以仅显示在屏幕上并且不存储在存储器中，或者由设备传感器捕获的内容可以在具有或没有修改(或二者)的情况下被记录并存储在存储器中。在一些系统中，预览特征可以示出不同的增强现实内容项将同时在显示器中的不同窗口内看起来如何。例如，这可以使得能够同时在显示器上查看具有不同伪随机动画的多个窗口。
因此，使用增强现实内容项的数据和各种系统或使用该数据来修改内容的其他这样的变换系统可以涉及：对象(例如，面部、手、身体、猫、狗、表面、对象等)的检测；当这样的对象离开、进入视频帧中的视场以及在视场周围移动时对这样的对象进行跟踪；以及当跟踪这样的对象时对这样的对象进行修改或变换。在各种实施方式中，可以使用用于实现这样的变换的不同方法。例如，一些实施方式可以涉及生成一个或多个对象的三维网格模型，并且在视频内使用模型的变换和动画纹理来实现变换。在其他实施方式中，可以使用对对象上的点的跟踪来将图像或纹理(其可以是二维或三维的)放置在所跟踪的位置处。在又一实施方式中，可以使用视频帧的神经网络分析来将图像、模型或纹理放置在内容(例如，图像或视频帧)中。因此，增强现实内容项既是指用于在内容中创建变换的图像、模型和纹理，也是指利用对象检测、跟踪和放置实现这样的变换所需的附加建模和分析信息。
可以利用保存在任何类型的计算机化系统的存储器中的任何类型的视频数据(例如，视频流、视频文件等)来执行实时视频处理。例如，用户可以加载视频文件并将其保存在设备的存储器中，或者可以使用设备的传感器生成视频流。此外，可以使用计算机动画模型来处理任何对象，例如人脸和人体的各部分、动物或非生物(例如椅子、汽车或其他对象)。
在一些实施方式中，当与要变换的内容一起选择特定修改时，要变换的元素由计算设备识别，然后如果要变换的元素存在于视频帧中，则要变换的元素被检测和跟踪。根据修改请求来修改对象的元素，从而变换视频流的帧。对于不同类型的变换，可以通过不同方法执行对视频流的帧的变换。例如，对于主要是指对象的元素的变化形式的帧变换，计算对象的每个元素的特征点(例如，使用主动形状模型(ASM)或其他已知方法)。然后，针对对象的至少一个元素中的每一个生成基于特征点的网格。该网格用于跟踪视频流中的对象的元素的后续阶段。在跟踪过程中，所提及的针对每个元素的网格与每个元素的位置对准。然后，在网格上生成附加点。基于修改请求来针对每个元素生成第一组第一点，并且基于该组第一点和修改请求来针对每个元素生成一组第二点。然后，可以通过基于该组第一点和该组第二点以及网格修改对象的元素来变换视频流的帧。在这样的方法中，也可以通过跟踪和修改背景来改变或扭曲被修改对象的背景。
在一个或更多个实施方式中，可以通过计算对象的每个元素的特征点并基于所计算的特征点生成网格来执行使用对象的元素改变对象的一些区域的变换。在网格上生成点，然后生成基于这些点的各种区域。然后，通过将每个元素的区域与至少一个元素中的每个元素的位置对准来跟踪对象的元素，并且可以基于修改请求来修改区域的属性，从而变换视频流的帧。根据具体修改请求，可以以不同的方式变换所提及的区域的属性。这样的修改可以涉及：改变区域的颜色；从视频流的帧中移除区域的至少一部分；将一个或更多个新对象包括在基于修改请求的区域中；以及修改或扭曲区域或对象的元素。在各种实施方式中，可以使用这样的修改或其他类似修改的任何组合。对于要被动画化的某些模型，可以选择一些特征点作为控制点，以用于确定用于模型动画的选项的整个状态空间。
在使用面部检测来变换图像数据的计算机动画模型的一些实施方式中，使用特定面部检测算法(例如，Viola-Jones)在图像上检测面部。然后，将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。
在其他实施方式中，可以使用适合于面部检测的其他方法和算法。例如，在一些实施方式中，使用界标来定位特征，该界标表示在所考虑的大多数图像中存在的可区分点。例如，对于面部界标，可以使用左眼瞳孔的定位。在初始界标不可识别的情况下(例如，如果人有眼罩)，可以使用次级界标。这样的界标识别过程可以用于任何这样的对象。在一些实施方式中，一组界标形成形状。可以使用形状中的点的坐标将形状表示为向量。一个形状通过相似变换(允许平移、缩放和旋转)与另一形状对准，该相似变换使形状点之间的平均欧几里得距离最小化。平均形状是对准的训练形状的平均。
在一些实施方式中，开始从与由全局面部检测器确定的面部的位置和大小对准的平均形状搜索界标。然后，这样的搜索重复以下步骤：通过对每个点周围的图像纹理进行模板匹配来调整形状点的定位来建议暂定形状，然后使暂定形状符合全局形状模型，直到发生收敛。在一些系统中，单独的模板匹配是不可靠的，并且形状模型汇聚弱模板匹配器的结果，以形成较强的整体分类器。整个搜索从粗分辨率到细分辨率在图像金字塔的每个级别上重复。
变换系统的实施方式可以在客户端设备(例如，客户端设备102)上捕获图像或视频流，并且在客户端设备102上本地执行复杂的图像操纵，同时保持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状改变、情感转移(例如，将面部从皱眉改变为微笑)、状态转移(例如，使对象老化、减小外表年龄、改变性别)、风格转移、图形元素应用以及由已经被配置成在客户端设备102上有效地执行的卷积神经网络实现的任何其他合适的图像或视频操纵。
在一些示例实施方式中，用于变换图像数据的计算机动画模型可以由系统使用，在该系统中，用户可以使用具有作为在客户端设备102上操作的消息收发客户端应用106的一部分而操作的神经网络的客户端设备102来捕获用户的图像或视频流(例如，自拍)。在消息收发客户端应用106内操作的变换系统确定图像或视频流内面部的存在，并且提供与用于变换图像数据的计算机动画模型相关联的修改图标，或者计算机动画模型可以被呈现为与本文中描述的接口相关联。修改图标包括可以是作为修改操作的一部分的用于修改图像或视频流内的用户面部的基础的变化。一旦修改图标被选择，则变换系统发起转换用户的图像以反映所选择的修改图标(例如，在用户上生成笑脸)的过程。在一些实施方式中，一旦图像或视频流被捕获并且指定的修改被选择，则修改的图像或视频流可以呈现在移动客户端设备上显示的图形用户界面中。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络，以生成和应用所选择的修改。也就是说，用户可以捕获图像或视频流并且一旦修改图标被选择就实时或接近实时地向用户呈现修改的结果。此外，当正在捕获视频流并且所选择的修改图标保持被切换时，修改可以是持久的。机器教导的神经网络可以用于实现这样的修改。
在一些实施方式中，呈现由变换系统执行的修改的图形用户界面可以向用户供应附加的交互选项。这样的选项可以基于用于发起特定计算机动画模型的选择和内容捕获的界面(例如，从内容创建者用户界面发起)。在各种实施方式中，在修改图标的初始选择之后，修改可以是持久的。用户可以通过轻敲或以其他方式选择正由变换系统修改的面部来切换修改的开或关，并将其存储以供稍后查看或浏览到成像应用的其他区域。在由变换系统修改多个面部的情况下，用户可以通过轻敲或选择在图形用户界面内修改和显示的单个面部来全局地切换修改的开或关。在一些实施方式中，可以单独修改一组多个面部中的各个面部，或者可以通过轻敲或选择图形用户界面内显示的各个面部或一系列各个面部来单独切换这样的修改。
如上面所提及的，视频表310存储视频数据，在一个实施方式中，该视频数据与其记录被维护在消息表314中的消息相关联。类似地，图像表308存储与其消息数据存储在实体表302中的消息相关联的图像数据。实体表302可以将来自注释表312的各种注释与存储在图像表308和视频表310中的各种图像和视频相关联。
增强现实内容项表316存储可用于由消息收发客户端应用106选择和激活的增强现实内容项的指示(例如，列表)。在一个或更多个实施方式中，增强现实内容项表316中的每个增强现实内容项与一个或更多个对象属性相关联。增强现实内容项表316中的每个增强现实内容项也可以与一个或更多个关键字相关联。在一个或更多个实施方式中，消息收发客户端应用106搜索存储在增强现实内容项表316中的对象属性和/或关键字，以识别与扫描的对象或在捕获的图像中识别的对象或在捕获的图像中检测到的关键字相关联的一个或更多个增强现实内容项。存储在增强现实内容项表316中的每个增强现实内容项包括一个或更多个图形元素或虚拟对象，所述图形元素或虚拟对象可以是动画的，或者可以不是动画的。每个增强现实内容项还包括关于将图形元素或虚拟对象相对于捕获的图像中描绘的其他对象放置在何处的指令。
应用表318存储应用的指示(例如，列表)，该应用包括第三方应用，例如安装在给定客户端设备102上的第三方应用108。当新应用被安装在给定客户端设备102上时，客户端设备102利用所安装的应用的名称和标识来更新应用表318。应用表318还存储被配置成与消息收发客户端应用106共享认证信息的所有应用的列表(例如，与消息收发客户端应用106连接的和/或可以被选择与消息收发客户端应用106连接的应用)。
故事表306存储关于消息和相关联的图像、视频或音频数据的集合的数据，所述消息和相关联的图像、视频或音频数据被编译成集合(例如，故事或库)。特定集合的创建可以由特定用户(例如，其记录被维护在实体表302中的每个用户)发起。用户可以以已经由该用户创建和发送/广播的内容集合的形式创建“个人故事”。为此，消息收发客户端应用106的UI可以包括用户可选择以使得发送用户能够将特定内容添加至他或她的个人故事的图标。
集合还可以构成“现场故事”，“现场故事”是被手动地、自动地或使用手动和自动技术的组合创建的来自多个用户的内容的集合。例如，“现场故事”可以构成来自不同定位和事件的用户提交的内容的策展流。其客户端设备启用了定位服务并且在特定时间处于共同定位事件处的用户可以例如经由消息收发客户端应用106的UI被呈现选项以向特定现场故事贡献内容。可以由消息收发客户端应用106基于用户的定位向他或她标识现场故事。最终结果是从社群角度讲述的“现场故事”。
另一类型的内容集合被称为“定位故事”，该“定位故事”使得其客户端设备102位于特定地理定位(例如，在学院或大学校园)内的用户能够对特定集合做出贡献。在一些实施方式中，对定位故事的贡献可能需要第二程度的认证，以验证最终用户属于特定组织或其他实体(例如，是大学校园中的学生)。
图4是示出根据一些实施方式的消息400的结构的示意图，该消息400由消息收发客户端应用106生成以传送至另外的消息收发客户端应用106或消息收发服务器应用118。特定消息400的内容用于填充存储在由消息收发服务器应用118可访问的数据库124内的消息表314。类似地，消息400的内容作为客户端设备102或应用服务器116的“运输中”或“飞行中”数据存储在存储器中。消息400被示出为包括以下组成部分：
·消息标识符402：标识消息400的唯一标识符。
·消息文本有效载荷404：要由用户经由客户端设备102的用户界面生成并且包括在消息400中的文本。
·消息图像有效载荷406：由客户端设备102的摄像装置部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的图像数据。
·消息视频有效载荷408：由摄像装置部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的视频数据。
·消息音频有效载荷410：由麦克风捕获或从客户端设备102的存储器部件检索并且包括在消息400中的音频数据。
·消息注释412：表示要应用于消息400的消息图像有效载荷406、消息视频有效载荷408或消息音频有效载荷410的注释的注释数据(例如，过滤器、贴纸或其他增强)。
·消息持续时间参数414：以秒为单位指示消息的内容(例如，消息图像有效载荷406、消息视频有效载荷408、消息音频有效载荷410)将被呈现或使得用户可经由消息收发客户端应用106访问的时间量的参数值。
·消息地理定位参数416：与消息的内容有效载荷相关联的地理定位数据(例如，纬度坐标和经度坐标)。多个消息地理定位参数416值可以被包括在有效载荷中，这些参数值中的每一个与关于包括在内容中的内容项(例如，消息图像有效载荷406内的特定图像或者消息视频有效载荷408中的特定视频)相关联。
·消息故事标识符418：标识与消息400的消息图像有效载荷406中的特定内容项相关联的一个或更多个内容集合(例如，“故事”)的标识符值。例如，可以使用标识符值将消息图像有效载荷406内的多个图像各自与多个内容集合相关联。
·消息标签420：每个消息400可以用多个标签来标记，多个标签中的每一个指示包括在消息有效载荷中的内容的主题。例如，在包括在消息图像有效载荷406中的特定图像描绘动物(例如，狮子)的情况下，标签值可以被包括在指示相关动物的消息标签420内。标签值可以基于用户输入手动生成，或者可以使用例如图像识别自动生成。
·消息发送者标识符422：指示在其上生成消息400并且从其发送消息400的客户端设备102的用户的标识符(例如，消息收发系统标识符、电子邮件地址或设备标识符)。
·消息接收者标识符424：指示消息400寻址到的客户端设备102的用户的标识符(例如，消息收发系统标识符、电子邮件地址或设备标识符)。
消息400的各组成部分的内容(例如，值)可以是指向在其内存储内容数据值的表中的定位的指针。例如，消息图像有效载荷406中的图像值可以是指向图像表308内的定位(或地址)的指针。类似地，消息视频有效载荷408内的值可以指向存储在视频表310内的数据，存储在消息注释412内的值可以指向存储在注释表312中的数据，存储在消息故事标识符418内的值可以指向存储在故事表306中的数据，并且存储在消息发送者标识符422和消息接收者标识符424内的值可以指向存储在实体表302内的用户记录。
图5是示出访问限制过程500的示意图，根据该访问限制过程，对内容(例如，短暂消息502和相关联的多媒体数据有效载荷)或内容集合(例如，短暂消息组504)的访问可以是时间受限的(例如，使其短暂的)。
短暂消息502被示出为与消息持续时间参数506相关联，消息持续时间参数506的值确定消息收发客户端应用106将向短暂消息502的接收用户显示短暂消息502的时间量。在一个实施方式中，根据发送用户使用消息持续时间参数506指定的时间量，接收用户可查看短暂消息502长达最多10秒。
消息持续时间参数506和消息接收者标识符424被示出为消息定时器512的输入，消息定时器512负责确定向由消息接收者标识符424标识的特定接收用户示出短暂消息502的时间量。特别地，仅在由消息持续时间参数506的值确定的时间段内向相关接收用户示出短暂消息502。消息定时器512被示出为向更一般化的短暂定时器系统202提供输出，该短暂定时器系统202负责向接收用户显示内容(例如，短暂消息502)的总体定时。
短暂消息502在图5中被示出为被包括在短暂消息组504(例如，个人故事或事件故事中的消息的集合)内。短暂消息组504具有相关联的组持续时间参数508，组持续时间参数508的值确定短暂消息组504被呈现并可由消息收发系统100的用户访问的持续时间。例如，组持续时间参数508可以是音乐会的持续时间，其中，短暂消息组504是关于该音乐会的内容的集合。替选地，当执行短暂消息组504的设置和创建时，用户(拥有用户或策展者用户)可以指定组持续时间参数508的值。
另外，短暂消息组504内的每个短暂消息502具有相关联的组参与参数510，组参与参数510的值确定在短暂消息组504的上下文内可访问短暂消息502的持续时间。因此，在短暂消息组504本身根据组持续时间参数508到期之前，特定的短暂消息组504可能“到期”并且在短暂消息组504的上下文中变得不可访问。组持续时间参数508、组参与参数510和消息接收者标识符424各自向组定时器514提供输入，组定时器514可操作地首先确定短暂消息组504的特定短暂消息502是否将被显示给特定接收用户，并且如果是，则确定显示多长时间。注意，由于消息接收者标识符424，短暂消息组504也知道特定接收用户的身份。
因此，组定时器514可操作地控制相关联的短暂消息组504以及包括在短暂消息组504中的单独的短暂消息502的总使用期限。在一个实施方式中，短暂消息组504内的每个短暂消息502在由组持续时间参数508指定的时间段内保持可查看和可访问。在另一实施方式中，在短暂消息组504的上下文内，某个短暂消息502可能基于组参与参数510而到期。注意，即使在短暂消息组504的上下文内，消息持续时间参数506也仍然可以确定向接收用户显示特定短暂消息502的持续时间。因此，消息持续时间参数506确定向接收用户显示特定短暂消息502的持续时间，而不管接收用户是在短暂消息组504的上下文内部还是外部查看该短暂消息502。
短暂定时器系统202还可以基于已经超过相关联的组参与参数510的确定而从短暂消息组504中可操作地移除特定短暂消息502。例如，当发送用户已经建立了从记入起24小时的组参与参数510时，短暂定时器系统202将在指定的24小时之后从短暂消息组504中移除相关的短暂消息502。当针对短暂消息组504内的每个短暂消息502的组参与参数510已经到期时，或者当短暂消息组504本身根据组持续时间参数508已经到期时，短暂定时器系统202还操作以移除短暂消息组504。
在某些使用情况下，特定短暂消息组504的创建者可以指定无期限的组持续时间参数508。在这种情况下，针对短暂消息组504内最后剩余的短暂消息502的组参与参数510的到期将确定短暂消息组504本身何时到期。在这种情况下，添加至短暂消息组504的具有新的组参与参数510的新的短暂消息502有效地将短暂消息组504的寿命延长到等于组参与参数510的值。
响应于短暂定时器系统202确定短暂消息组504已经到期(例如，不再是可访问的)，短暂定时器系统202与消息收发系统100(并且例如特别是消息收发客户端应用106)通信，以使得与相关短暂消息组504相关联的标记(例如，图标)不再显示在消息收发客户端应用106的用户界面内。类似地，当短暂定时器系统202确定针对特定短暂消息502的消息持续时间参数506已经到期时，短暂定时器系统202使消息收发客户端应用106不再显示与短暂消息502相关联的标记(例如，图标或文本标识)。
图6是示出根据一些示例实施方式的用于深度链接至增强现实内容的过程600的交互图。出于解释的目的，本文主要参照图1的操作系统104、消息收发客户端应用106和第三方应用108来描述过程600。然而，过程1100可以由一个或更多个其他部件以及/或者其他合适的设备来执行。例如，如本文所述由操作系统104执行的操作可以由客户端设备102的其他部件和/或一个或更多个服务器来执行。进一步出于解释的目的，过程600的框在本文中被描述为串行地或线性地发生。然而，过程600的多个框可以并行地发生。另外，过程600的框不需要按所示的顺序执行以及/或者过程600的一个或更多个框不需要执行和/或可以由其他操作替换。
如本文所述，客户端设备102被配置成使得从第三方应用108深度链接至消息收发客户端应用106。例如，操作系统104使得第三方应用108提供用于从第三方应用108定向至消息收发客户端应用106内的特定定位/特征(例如，增强现实内容项)的用户可选择元素(例如，按钮)。操作系统104有助于自动启动消息收发客户端应用106中的增强现实内容项(例如，增强现实体验)。在一些实施方式中，以基于由第三方应用108提供的参数和/或二进制资产的定制的动态显示来启动增强现实内容项。
在图6的框602处，第三方应用108显示具有用户可选择元素的用户界面，以基于第三方应用108中提供的屏幕内容切换至消息收发客户端应用106。通过非限制性示例的方式，屏幕内容涉及以下中的一项或更多项：多媒体内容(例如，图像以及/或者音乐/视频内容的描述)、待售产品(例如，具有图像和/或描述)、游戏中的角色(例如，具有图像和/或描述)等。因此，用户界面的示例包括以下中的一项或更多项：共享界面(例如，用于共享多媒体内容，如下面关于图7A至图7B以及图8A至图8C所讨论的)、购物界面(例如，如下面关于图9A至图9B以及图10C所讨论的)、游戏界面(例如，如下面关于图10A至图10B所讨论的)、以及/或者提供第三方屏幕内容的任何其他合适的界面。
如下面所讨论的，用户界面包括用于切换至消息收发客户端应用106并且启动消息收发客户端应用106内的与屏幕内容有关的增强现实内容项(例如，增强现实体验)的用户可选择元素(例如，与深度链接对应的按钮)。因此，在框604处，第三方应用108接收选择用户可选择元素的用户输入。
响应于接收到用户输入，第三方应用108向操作系统104发送请求(操作606)，以切换至消息收发客户端应用106并且启动与上面提及的屏幕内容对应的增强现实内容项。该请求包括增强现实内容项标识符(例如，镜头ID)，该增强现实内容项标识符标识特定增强现实内容项(例如，对应于第三方应用108上的屏幕内容)。在一个或更多个实施方式中，该请求还包括用于定制消息收发客户端应用106内的增强现实内容的显示的二进制资产和/或参数(例如，字符串值、数字值和/或二进制资产)。
如上所述，操作系统104被配置成有助于第三方应用108与消息收发客户端应用106之间的深度链接。例如，深度链接可以经由由第三方应用108提供的统一资源标识符(URI)来执行，该统一资源标识符链接至消息收发客户端应用106内的特定定位(例如，增强现实内容项)，而不是简单地启动消息收发客户端应用106。URI包括增强现实内容项ID，并且还可以包括用于所标识的增强现实内容的定制的动态显示的参数(例如，在第三方应用108提供这样的参数的情况下)。
如上面所讨论的，增强现实内容项被配置成将实时修改(例如，对应于增强现实内容)应用于由设备摄像装置捕获的图像数据。此外，使用增强现实内容项来修改所捕获的图像数据可以涉及：对象(例如，面部、手、身体、人、动物和/或其他对象)的检测；当这样的对象离开、进入视频帧中的视场以及在视场周围移动时对这样的对象进行跟踪；以及当跟踪这样的对象时对这样的对象进行修改或变换。另外，增强现实内容项可以提供关于捕获图像数据的以下修改中的一项或更多项：改变区域/对象的颜色；从视频流的帧中移除区域/对象的至少一部分；将一个或更多个新对象包括在基于修改请求的区域中；以及修改或扭曲区域/对象的元素(例如，大小和形状改变、情感转移、状态转移、风格转移等)。
增强现实内容项ID可以从多个可用的增强现实内容项中唯一地标识该增强现实内容项，其中，每个增强现实内容项与用于修改所捕获的图像数据的相应增强现实内容对应。在这点上，消息收发服务器系统112包括用于存储增强现实内容项ID(例如，镜头ID)和用于存储增强现实内容项定义和功能的数据/代码的数据存储(例如，作为316的一部分)。各种增强现实内容项ID对于第三方应用108(例如，对于第三方应用108的开发者)是可用的，使得第三方应用108可以正确地标识特定增强现实内容项。
在一个或更多个实施方式中，第三方应用108被配置成提供如由消息收发服务器系统112维护(例如，在数据存储内)的实际增强现实内容项ID。替选地或另外，第三方应用108被配置成提供唯一标识增强现实内容项的公共增强现实内容项ID，并且消息收发客户端应用106连同消息收发服务器系统112被配置成将公共增强现实内容项ID转换为数据存储中的实际增强现实内容项ID。
如上所述，作为在框604处提供的请求的一部分，第三方应用108可以提供用于所标识的增强现实内容的定制的动态显示的一个或更多个参数。在一个或更多个实施方式中，一个或更多个参数包括用于设置增强现实内容项(例如，增强现实体验)的不同属性的字符串和/或数字值。这样的参数化属性的示例包括但不限于：颜色、大小、形状、纹理和/或用于应用于所捕获的图像数据中的一个或更多个检测到的对象(例如，基于在所捕获的图像数据中检测对象)的其他效果。参数的附加示例包括用于在客户端设备102的前置摄像装置或后置摄像装置之间进行选择的字符串/数字值、以及/或者指定增强现实内容项是否要基于一次性使用的参数(例如，而不是如下面所讨论的可用于跨增强现实内容项会话重新使用的参数)。
在一个或更多个实施方式中，第三方应用108被配置成提供用于增强现实内容项的定制的动态显示的一个或更多个二进制资产(例如，二进制文件)。二进制资产用于例如通过针对在所捕获的图像数据中检测到的对象提供纹理和/或三维网格模型来在运行时修改增强现实内容项。
第三方应用108可以提供二进制资产作为请求(例如，在操作606中提供的请求)的有效载荷的一部分。在一个或更多个实施方式中，由第三方应用108提供的参数是指二进制资产，以通知操作系统104和/或消息收发客户端应用106用于定制增强现实内容项的显示的二进制资产。客户端设备102(例如，经由操作系统104)被配置成将二进制资产(例如，作为二进制文件)存储在客户端设备102的本地存储装置中，以供消息收发客户端应用106访问，如下面所讨论的。
因此，增强现实内容项可以对应于将由第三方应用108提供的参数和/或二进制资产限定的具有空白条目(例如，未指定的属性)的模板。用于限定参数和/或二进制资产的条目对第三方应用108的开发者可用，使得第三方应用108被配置成适当地提供用于定制特定增强现实内容项的参数和/或二进制资产。
在增强现实内容项的一个示例中，参数可以指定默认为前置摄像装置(例如，同时允许切换至后置摄像装置)，并且可以限定在所捕获的图像数据中检测到的某些对象/区域的颜色。在增强现实内容项的另一示例中，参数可以指定默认为前置摄像装置(例如，同时不允许切换至后置摄像装置)，并且可以包括用于设置在由前置摄像装置捕获的图像数据中检测到的对象的一次性使用、颜色、大小和形状的参数，以及包括对二进制资产(例如，用于对象纹理)的引用。
当然，其他增强现实内容项可以被配置有不同的参数值和/或二进制资产。此外，一个或更多个增强现实内容项可以被预先配置有默认和/或回退内容(例如，默认参数值)，以在第三方应用108不提供相应参数值和/或二进制资产的情况下使用。
如上所述，操作系统104被配置成有助于第三方应用108与消息收发客户端应用106之间的深度链接。在一个或更多个实施方式中，操作系统104被配置成确定消息收发客户端应用106是否安装在客户端设备102上。因此，在框608处，在消息收发客户端应用106尚未安装在客户端设备102上的情况下，操作系统104使得在客户端设备102上安装消息收发客户端应用106(例如，经由从在线应用商店下载)。注意，框608用虚线示出，因为该操作可能不需要执行(例如，当消息收发客户端应用106已经安装在客户端设备102上时)。以这种方式，操作系统104可以提供延迟的深度链接，其中到消息收发客户端应用106的深度链接被延迟，直到已经安装了消息收发客户端应用106。
此外，操作系统104被配置成确定用户是否已经登录至消息收发客户端应用106。在用户未登录的情况下，操作系统104使得用户在消息收发客户端应用106上登录和/或以其他方式认证(例如，经由生物计量认证)(操作610)。注意，操作610以虚线示出，因为该操作可能不需要执行(例如，当用户已经登录至消息收发客户端应用106时)。
在用户已经登录至消息收发客户端应用106之后，操作系统104向消息收发客户端应用106提供请求(612)。该请求包括增强现实内容项ID(例如，如上所述的实际ID或公共ID)和由第三方应用108提供的任何参数。在来自第三方应用108的请求包括二进制资产的情况下，二进制资产可能已经存储在客户端设备102的本地存储装置中，如上面所讨论的。因此，消息收发客户端应用106还将接收包括对所存储的二进制资产的引用的参数(例如，在操作612处)。
在一个或更多个实施方式中，消息收发客户端应用106被配置成在消息收发客户端应用106被初始化时默认启动摄像装置。然而，即使在消息收发客户端应用106没有自动启动摄像装置的情况下，在框操作612处提供的深度链接请求包括增强现实内容项ID，以使消息收发客户端应用106在消息收发客户端应用106被初始化时启动摄像装置。
在框614处，消息收发客户端应用106存储如由第三方应用108经由操作系统104提供的参数(例如，字符串、数字)。在一个或更多个实施方式中，消息收发客户端应用106被配置成将参数存储在永久存储装置中。例如，永久存储装置对应于客户端设备102的本地存储装置。替选地或另外，永久存储装置对应于消息收发服务器系统112的存储器(例如，在数据库124中)。
如上所述，在向消息收发客户端应用106提供二进制资产的情况下，操作系统104可能已经在客户端设备102上本地存储了二进制资产的副本。在这样的情况下，消息收发客户端应用106可以将对本地存储的二进制资产的引用存储在永久存储装置中(例如，客户端设备102的本地存储装置和/或消息收发服务器系统112的存储器)。
在一个或更多个实施方式中，参数(例如，用于指定属性的字符串/数字值、对二进制资产的引用)的永久存储装置使得进行对要在增强现实内容项会话中重新激活/恢复的增强现实内容项的定制的显示。例如，如果用户导航离开应用内的增强现实内容项，使消息收发客户端应用106成为背景以及/或者关闭消息收发客户端应用106，则当用户恢复消息收发客户端应用106内的增强现实内容项时(例如，通过访问永久存储装置中的参数值)，可以保持增强现实内容项的定制的显示。在一个或更多个实施方式中，如上面所讨论的，在参数指示一次性使用的情况下，防止存储参数(例如，在永久存储装置中)和/或二进制资产(例如，在本地存储装置中)。
在一个或更多个实施方式中，参数的永久存储经受到期，其中在预定义的时间段(例如，自上次使用以来每个相应参数的30天生存时间)之后，参数和/或二进制资产被清除。替选地或另外，在第三方应用108提供到消息收发客户端应用106中的相同增强现实内容项的后续深度链接的情况下，参数和/或二进制资产被清除。在这样的情况下，关于后续深度链接重复图6的操作602至操作616。
在框616处，消息收发客户端应用106启动摄像装置，并且将增强现实内容与所捕获的图像数据一起显示。基于如由第三方应用108提供的参数值和/或二进制资产，增强现实内容项的显示可以是定制的和动态的。
如上所述，增强现实内容项ID用于从多个可用的增强现实内容项中指定增强现实内容项。在这点上，在下面讨论的图7A至图7C、8A至图8C以及图10A至图10C中，消息收发客户端应用106提供了轮播界面，使得用户在多个可用的增强现实内容项之间切换。此外，如下面关于图9A至图9B所讨论的，消息收发客户端应用106提供了增强现实内容项集合界面，使得用户在增强现实内容项集合中包括的不同增强现实内容项之间切换(例如，与待售产品相关的增强现实内容项的轮播界面)。
如上所述，消息收发客户端应用106连同消息收发服务器系统112被配置成扫描所捕获的图像数据中的对象(例如，响应于执行扫描的显式用户输入，或默认情况下不需要显式用户输入)。可以基于扫描来检测一个或更多个对象(例如，面部、手、身体、人、动物和/或其他对象)。在一个或更多个实施方式中，消息收发客户端应用106使得通过使用与检测到的对象相关联的附加参数来补充增强现实内容项的显示(例如，如由第三方应用108提供的参数和/或二进制资产所定制的)。例如，在基于扫描来检测特定对象(例如，狗)的情况下，消息收发客户端应用106被配置成利用与特定对象相关的附加的预定义参数(例如，与检测到的狗相关的附加效果)来补充由第三方应用108提供的任何参数。在一个或更多个实施方式中，附加参数可以例如基于启发式方法添加至由第三方应用108提供的参数、修改和/或覆盖由第三方应用108提供的参数。
因此，凭借过程600，可以使得从第三方应用108深度链接至消息收发客户端应用106中的特定增强现实内容项。此外，可以基于由第三方应用108提供的参数值和/或二进制资产提供增强现实内容项的定制的动态显示。
图7A至图7B示出了根据一些示例实施方式的用于深度链接至增强现实内容项(例如，增强现实体验)的用户界面。更具体地，图7A示出了用于深度链接至增强现实内容项的第三方应用108的共享界面702，以及图7B示出了用于显示增强现实内容项与由设备摄像装置捕获的图像数据的消息收发客户端应用106的增强现实内容项界面710。
在图7A的示例中，第三方应用108对应于音乐流应用。如上面所讨论的，本文所述的深度链接不限于这种类型的应用，并且可以应用于其他类别的应用。例如，响应于用户对共享音乐(例如，音乐歌曲、曲目、专辑)的界面元素(例如，按钮)的选择，提供共享界面702。共享界面702包括具有音乐曲目信息(例如，歌曲标题、艺术家)的多媒体描述704。共享界面702还包括应用列表708，该应用列表708列出了第三方应用108可以链接至的其他应用。其他应用中的每一个由相应元素(例如，按钮、图标)来表示，用户对该元素的选择使得从第三方应用108重定向至相应应用。在图7A的示例中，用户选择与到消息收发客户端应用106的深度链接相对应的消息收发应用元素706。
如上面所讨论的，响应于用户对消息收发应用元素706的选择，第三方应用108切换至消息收发客户端应用106，并且启动消息收发客户端应用106中的增强现实内容项。增强现实内容项界面710提供与第三方应用108对应的增强现实内容项的增强现实内容712。在图7B的示例中，增强现实内容712对应于覆盖由客户端设备102的后置摄像装置捕获的图像数据的图像(例如，其可以是视频)。
此外，增强现实内容项界面710包括轮播界面716，该轮播界面716允许用户循环和/或选择不同的增强现实内容项以应用于所捕获的现场摄像装置图像数据。可用的增强现实内容项中的每一个由用户可选择用于切换至相应增强现实内容项的图标表示。在一个或更多个实施方式中，与活动增强现实内容项对应的图标(例如，第三方应用增强现实内容项图标714)以相对于(例如，大于)其余图标不同的方式显示。在一个或更多个实施方式中，用户对第三方应用增强现实内容项图标714的选择使得生成包括屏幕内容的图像(例如，响应于第三方应用增强现实内容项图标714的按压/轻敲手势)和/或视频(例如，响应于第三方应用增强现实内容项图标714的按压并保持手势)的消息，以例如发送至好友、包括在故事中等。
图8A至图8B示出了根据一些示例实施方式的用于使用用于增强现实内容项的定制的动态显示的参数来深度链接至增强现实内容项(例如，增强现实体验)的用户界面。图8A示出了用于深度链接至增强现实内容项的第三方应用108的共享界面802，以及图8B示出了用于显示增强现实内容项与由设备摄像装置捕获的图像数据的消息收发客户端应用106的增强现实内容项界面810。
在图8A的示例中，第三方应用108对应于音乐流应用。如上面所讨论的，本文所述的深度链接不限于这种类型的应用，并且可以应用于其他类别的应用。例如，响应于用户对共享音乐(例如，音乐歌曲、曲目、专辑)的界面元素(例如，按钮)的选择，提供共享界面802。共享界面802包括具有音乐曲目信息(例如，歌曲标题、艺术家)的多媒体描述804。共享界面802还包括应用列表808，该应用列表808列出了第三方应用108可以链接至的其他应用。其他应用中的每一个由相应元素(例如，按钮、图标)来表示，用户对该元素的选择使得从第三方应用108重定向至相应应用。在图8A的示例中，用户选择例如与到消息收发客户端应用106的深度链接相对应的消息收发应用按钮806。
如上面所讨论的，响应于用户对消息收发应用按钮806的选择，第三方应用108切换至消息收发客户端应用106，并且启动消息收发客户端应用106中的增强现实内容项。增强现实内容项界面810提供与第三方应用108对应的增强现实内容项的增强现实内容812。在图8B的示例中，增强现实内容812对应于应用于由客户端设备102的前置摄像装置捕获的面部图像的纹理。此外，增强现实内容项界面810包括例如与音乐曲目(例如，歌曲标题、艺术家、歌词)有关的第一补充信息814和第二补充信息816。如上面所讨论的，增强现实内容812、第一补充信息814和第二补充信息816可以基于由第三方应用108经由操作系统104提供至消息收发客户端应用106的参数和/或二进制资产。
此外，增强现实内容项界面810包括用于循环和/或选择不同的增强现实内容项的轮播界面820。另外，与活动增强现实内容项对应的图标(例如，第三方应用增强现实内容项图标818)以相对于(例如，大于)其余图标不同的方式显示。在一个或更多个实施方式中，用户对第三方应用增强现实内容项图标818的选择使得生成包括屏幕内容的图像(例如，响应于第三方应用增强现实内容项图标818的按压/轻敲手势)和/或视频(例如，响应于第三方应用增强现实内容项图标818的按压并保持手势)的消息，以例如发送至好友、包括在故事中等。
图9A至图9B示出了根据一些示例实施方式的用于深度链接至增强现实内容项(例如，增强现实体验)的集合的用户界面。图9A示出了用于深度链接至增强现实内容项的第三方应用108的购物应用界面902，以及图9B示出了用于提供增强现实内容项的集合的消息收发客户端应用106的增强现实内容项集合界面908，增强现实内容项中的一个被自动启动以用于将增强现实内容与由设备摄像装置捕获的图像数据组合。
在图9A的示例中，第三方应用108对应于购物应用。如上面所讨论的，本文所述的深度链接不限于这种类型的应用，并且可以应用于其他类别的应用。例如，响应于用户对查看关于特定购物项(例如，太阳镜)的信息的界面元素(例如，按钮)的选择，提供购物应用界面902。购物应用界面902包括购物项的视图904。购物应用界面902还包括用于深度链接至与购物项相关的增强现实内容项的集合的用户可选择按钮(例如，消息收发应用按钮906)。
如上面所讨论的，响应于用户对消息收发应用按钮906的选择，第三方应用108切换至消息收发客户端应用106，并且启动消息收发客户端应用106中的增强现实内容项。增强现实内容项集合界面908提供与增强现实内容项集合中的第一增强现实内容项对应的第一增强现实内容912。
此外，增强现实内容项集合界面908包括用于在增强现实内容项集合中包括的不同增强现实内容项之间循环和/或选择的轮播集合界面916。在图9B的示例中，增强现实内容项集合包括相同购物项(例如，太阳镜)的用于覆盖在由客户端设备102的前置摄像装置捕获的面部图像上的不同视图。然而，在一个或更多个替选实施方式中，与轮播集合界面916对应的增强现实内容项集合可以包括不同的购物项和/或购物项的不同视图/效果。另外，与活动增强现实内容项对应的图标(例如，第三方应用增强现实内容项图标914)以相对于(例如，大于)其余图标不同的方式显示。在一个或更多个实施方式中，用户对第三方应用增强现实内容项图标914的选择使得捕获图像(例如，响应于按压/轻敲手势)或捕获视频(例如，响应于按压并保持手势)，以包括在消息和/或故事中。
此外，增强现实内容项界面810包括例如与购物项(例如，产品名称、颜色)有关的补充信息910。如上面所讨论的，第一增强现实内容912和补充信息910可以基于由第三方应用108经由操作系统104提供至消息收发客户端应用106的参数和/或二进制资产。
图10A至图10C示出了根据一些示例实施方式的使用用于定制的动态显示的二进制资产的各种增强现实内容项(例如，增强现实体验)。如上所述，二进制资产可以由关于深度链接至消息收发客户端应用106中的增强现实内容项的第三方应用108来提供。
在图10A的示例中，增强现实内容项界面1002包括基于二进制资产(例如，用于纹理和/或三维网格建模)的增强现实内容项内容1004(例如，视频游戏角色)。另外，增强现实内容项界面1002包括基于由第三方应用108提供的参数的补充信息1006(例如，游戏角色信息)。此外，增强现实内容项界面1002包括轮播界面1010和第三方应用增强现实内容项图标1008。
在图10B的示例中，增强现实内容项界面1012包括基于二进制资产(例如，用于纹理和/或三维网格建模)的增强现实内容项内容1014(例如，视频游戏角色)。另外，增强现实内容项界面1012包括基于由第三方应用108提供的参数的补充信息1016(例如，游戏状态)。此外，增强现实内容项界面1012包括轮播界面1018和第三方应用增强现实内容项图标1020。
在图10C的示例中，增强现实内容项界面1022包括基于二进制资产(例如，用于纹理和/或三维网格建模)的增强现实内容项内容1024(例如，沙发的购物项)。另外，增强现实内容项界面1022包括基于由第三方应用108提供的参数的补充信息1026(例如，产品信息)。此外，增强现实内容项界面1012包括轮播界面1030和第三方应用增强现实内容项图标1028。
图11是示出根据一些示例实施方式的用于深度链接至增强现实内容的过程1100的流程图。出于解释的目的，本文主要参照图1的操作系统104、消息收发客户端应用106和第三方应用108来描述过程1100。然而，过程1100的一个或更多个框(或操作)可以由一个或更多个其他部件和/或其他合适的设备来执行。进一步出于解释的目的，过程1100的框在本文中被描述为串行地或线性地发生。然而，过程1100的多个框可以并行地发生。另外，过程1100的框不需要按所示的顺序执行以及/或者过程1100的一个或更多个框不需要执行和/或可以由其他操作替换。
操作系统104从客户端设备102上运行的第三方应用108(例如，第一应用)接收用于切换至客户端设备102上的消息收发客户端应用106(例如，第二应用)的请求(框1102)。该请求标识增强现实内容以与由客户端设备102的摄像装置捕获的图像数据一起显示。
该请求可以包括由第三方应用108提供的用于定制增强现实内容的显示的参数。参数可以基于第三方应用108的当前屏幕内容。参数可以包括用于定制增强现实内容的显示的字符串值或数字值中的至少一种。替选地或另外，参数可以是指用于定制增强现实内容的显示的二进制资产(例如，从第三方应用108接收的)。二进制资产可以向所捕获的图像数据提供三维网格模型或纹理中的至少之一。操作系统104可以存储用于针对在摄像装置的后续激活期间捕获的后续图像数据定制增强现实内容的显示的参数(例如，和/或二进制资产)的指示。
增强现实内容可以对应于来自多个增强现实内容项(例如，增强现实内容项)中的用于应用于由摄像装置捕获的图像数据的增强现实内容项(例如，增强现实内容项)。该请求可以包括标识符(例如，增强现实内容项ID)，该标识符从多个增强现实内容项中唯一地标识该增强现实内容项。该请求可以对应于用于从第三方应用108切换至消息收发客户端应用106以及用于自动启动消息收发客户端应用106中的增强现实内容项的深度链接。
替选地或另外，增强现实内容可以对应于用于应用于由摄像装置捕获的图像数据的用户可选择的增强现实内容项的集合。用户可选择的增强现实内容项的集合可以对应于一个或更多个基于广告的产品。
操作系统104响应于接收到请求而使得从第三方应用108切换至消息收发客户端应用106(框1104)。操作系统104使得消息收发客户端应用106激活摄像装置以捕获图像数据(框1106)。
操作系统104使得消息收发客户端应用106显示由摄像装置捕获的图像数据与增强现实内容(框1108)。操作系统104还可以提供用于显示的轮播界面，该轮播界面包括关于多个增强现实内容项中的每个增强现实内容项的相应图标。操作系统104可以使得在轮播界面内进行关于所选择的增强现实内容项的图标相对于其余图标的不同显示。
图12是示出可以安装在本文中描述的设备中的任何一个或更多个上的软件架构1204的框图1200。软件架构1204由诸如包括处理器1220、存储器1226和I/O部件1238的机器1202的硬件来支持。在该示例中，软件架构1204可以被概念化为层的堆栈，其中每个层提供特定功能。软件架构1204包括诸如操作系统1212、库1210、框架1208和应用1206的层。在操作上，应用1206通过软件堆栈来调用API调用1250，并且接收响应于API调用1250的消息1252。
操作系统1212管理硬件资源并且提供公共服务。操作系统1212包括例如内核1214、服务1216和驱动器1222。内核1214充当硬件层与其他软件层之间的抽象层。例如，内核1214提供存储器管理、处理器管理(例如，调度)、部件管理、联网和安全设置以及其他功能。服务1216可以为其他软件层提供其他公共服务。驱动器1222负责控制底层硬件或与底层硬件对接。例如，驱动器1222可以包括显示驱动器、摄像装置驱动器、或/>低功耗驱动器、闪存驱动器、串行通信驱动器(例如，通用串行总线(USB)驱动器)、/>驱动器、音频驱动器、电力管理驱动器等。
库1210提供应用1206所使用的低级公共基础设施。库1210可以包括系统库1218(例如，C标准库)，该系统库1218提供诸如存储器分配功能、字符串操纵功能、数学功能等的功能。另外，库1210可以包括API库1224，例如媒体库(例如，用于支持各种媒体格式的呈现和操纵的库，媒体格式例如是运动图像专家组4(MPEG4)、高级视频编码(H.264或AVC)、运动图像专家组层3(MP3)、高级音频编码(AAC)、自适应多速率(AMR)音频编解码器、联合图像专家组(JPEG或JPG)或便携式网络图形(PNG))、图形库(例如，用于在显示器上的图形内容中以二维(2D)和三维(3D)呈现的OpenGL框架)、数据库库(例如，提供各种关系数据库功能的SQLite)、web库(例如，提供web浏览功能的WebKit)等。库1210还可以包括各种其他库1228，以向应用1206提供许多其他API。
框架1208提供应用1206所使用的高级公共基础设施。例如，框架1208提供各种图形用户界面(GUI)功能、高级资源管理和高级定位服务。框架1208可以提供可以由应用1206使用的广泛的其他API，其中一些API可以特定于特定操作系统或平台。
在示例实施方式中，应用1206可以包括家庭应用1236、联系人应用1230、浏览器应用1232、书籍阅读器应用1234、定位应用1242、媒体应用1244、消息收发应用1246(例如，对应于消息收发客户端应用106)、游戏应用1248和诸如第三方应用1240的各种各样的其他应用。应用1206是执行程序中限定的功能的程序。可以采用各种编程语言来创建以各种方式构造的应用1206中的一个或更多个，编程语言例如是面向对象的编程语言(例如，Objective-C、Java或C++)或过程编程语言(例如，C语言或汇编语言)。在特定示例中，第三方应用1240(例如，由特定平台的供应商以外的实体使用ANDROIDTM或IOSTM软件开发工具包(SDK)开发的应用)可以是在诸如IOSTM、ANDROIDTM、Phone的移动操作系统或另外的移动操作系统上运行的移动软件。在该示例中，第三方应用1240可以调用由操作系统1212提供的API调用1250以有助于本文中描述的功能。
图13是机器1300的图形表示，在该机器1300内可以执行用于使机器1300执行本文所讨论的方法中的任何一种或更多种方法的指令1308(例如，软件、程序、应用、小程序、app或其他可执行代码)。例如，指令1308可以使机器1300执行本文中描述的方法中的任何一种或更多种方法。指令1308将通用的未编程的机器1300转换成被编程为以所描述的方式执行所描述和所示出的功能的特定机器1300。机器1300可以作为独立设备操作，或者可以耦接(例如，联网)至其他机器。在联网部署中，机器1300可以在服务器-客户端网络环境中以服务器机器或客户端机器的能力进行操作，或者作为对等(或分布式)网络环境中的对等机器进行操作。机器1300可以包括但不限于服务器计算机、客户端计算机、个人计算机(PC)、平板计算机、膝上型计算机、上网本、机顶盒(STB)、PDA、娱乐媒体系统、蜂窝电话、智能电话、移动设备、可穿戴设备(例如，智能手表)、智能家居设备(例如，智能电器)、其他智能设备、web设备、网络路由器、网络交换机、网络桥接器或能够顺序地或以其他方式执行指定要由机器1300采取的动作的指令1308的任何机器。此外，虽然仅示出了单个机器1300，但是术语“机器”还应当被视为包括单独地或联合地执行指令1308以执行本文所讨论的方法中的任何一种或更多种方法的机器的集合。
机器1300可以包括可以被配置成经由总线1342彼此通信的处理器1302、存储器1304和I/O部件1344。在示例实施方式中，处理器1302(例如，中央处理单元(CPU)、精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、ASIC、射频集成电路(RFIC)、另外的处理器或其任何合适的组合)可以包括例如执行指令1308的处理器1306和处理器1310。术语“处理器”旨在包括多核处理器，所述多核处理器可以包括可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)。尽管图13示出了多个处理器1302，但机器1300可以包括具有单个核的单个处理器、具有多个核的单个处理器(例如，多核处理器)、具有单个核的多个处理器、具有多个核的多个处理器、或者其任何组合。
存储器1304包括主存储器1312、静态存储器1314和存储单元1316，均可以由处理器1302经由总线1342访问。主存储器1304、静态存储器1314和存储单元1316存储实施本文中描述的方法或功能中的任何一种或更多种的指令1308。指令1308在其由机器1300执行期间还可以完全地或部分地驻留在主存储器1312内、静态存储器1314内、存储单元1316内的机器可读介质1318内、处理器1302中的至少一个内(例如，在处理器的高速缓存存储器内)或者其任何合适的组合内。
I/O部件1344可以包括用于接收输入、提供输出、产生输出、发送信息、交换信息、捕获测量结果等的各种部件。包括在特定机器中的特定I/O部件1344将取决于机器的类型。例如，诸如移动电话的便携式机器可以包括触摸输入设备或其他这样的输入机构，而无头服务器机器可能不包括这样的触摸输入设备。应当理解，I/O部件1344可以包括图13中未示出的许多其他部件。在各种示例实施方式中，I/O部件1344可以包括输出部件1328和输入部件1330。输出部件1328可以包括视觉部件(例如，诸如等离子显示面板(PDP)、发光二极管(LED)显示器、液晶显示器(LCD)、投影仪或阴极射线管(CRT)的显示器)、声学部件(例如，扬声器)、触觉部件(例如，振动马达、阻力机构)、其他信号发生器等。输入部件1330可以包括字母数字输入部件(例如，键盘、被配置成接收字母数字输入的触摸屏、光电键盘或其他字母数字输入部件)、基于点的输入部件(例如，鼠标、触摸板、轨迹球、操纵杆、运动传感器或另一指向仪器)、触觉输入部件(例如，物理按钮、提供触摸或触摸手势的定位和/或力的触摸屏，或其他触觉输入部件)、音频输入部件(例如，麦克风)、光学传感器部件(例如，摄像装置)等。
在另外的示例实施方式中，I/O部件1344可以包括生物计量部件1332、运动部件1334、环境部件1336或位置部件1338以及广泛的一系列其他部件。例如，生物计量部件1332包括用于检测表达(例如，手表达、面部表达、声音表达、身体姿势或眼睛跟踪)、测量生物信号(例如，血压、心率、体温、汗水或脑波)、识别人(例如，语音识别、视网膜识别、面部识别、指纹识别或基于脑电图的识别)等的部件。运动部件1334包括加速度传感器部件(例如，加速度计)、重力传感器部件、旋转传感器部件(例如，陀螺仪)等。环境部件1336包括例如照明传感器部件(例如，光度计)、温度传感器部件(例如，检测环境温度的一个或更多个温度计)、湿度传感器部件、压力传感器部件(例如，气压计)、声学传感器部件(例如，检测背景噪声的一个或更多个麦克风)、接近传感器部件(例如，检测附近物体的红外传感器)、气体传感器(例如，用于出于安全而检测危险气体浓度或用于测量大气中的污染物的气体检测传感器)或者可以提供与周围物理环境对应的指示、测量或信号的其他部件。位置部件1338包括定位传感器部件(例如，GPS接收器部件)、海拔传感器部件(例如，检测气压的高度计或气压计，根据气压可以得到海拔)、取向传感器部件(例如，磁力计)等。
可以使用各种技术来实现通信。I/O部件1344还包括通信部件1340，通信部件1340可操作以经由耦接1326和耦接1324分别将机器1300耦接至网络1320或设备1322。例如，通信部件1340可以包括网络接口部件或另一合适的设备以与网络1320对接。在另外的示例中，通信部件1340可以包括有线通信部件、无线通信部件、蜂窝通信部件、近场通信(NFC)部件、部件(例如，/>低功耗)、/>部件和经由其他模态提供通信的其他通信部件。设备1322可以是另一机器或各种外围设备中的任何外围设备(例如，经由USB耦接的外围设备)。
此外，通信部件1340可以检测标识符或包括可操作以检测标识符的部件。例如，通信部件1340可以包括射频识别(RFID)标签阅读器部件、NFC智能标签检测部件、光学阅读器部件(例如，用于检测诸如通用产品代码(UPC)条形码的一维条形码、诸如快速响应(QR)代码的多维条形码、Aztec代码、数据矩阵、数据符号(Dataglyph)、最大码(MaxiCode)、PDF417、超码(Ultra Code)、UCC RSS-2D条形码和其他光学代码的光学传感器)或者声学检测部件(例如，用于识别标记的音频信号的麦克风)。另外，可以经由通信部件1340得到各种信息，例如经由因特网协议(IP)地理定位的定位、经由信号三角测量的定位、经由检测可以指示特定定位的NFC信标信号的定位等。
各种存储器(例如，存储器1304、主存储器1312、静态存储器1314和/或处理器1302的存储器)和/或存储单元1316可以存储由本文中描述的方法或功能中的任何一种或更多种实施或使用的一组或更多组指令和数据结构(例如，软件)。这些指令(例如，指令1308)在由处理器1302执行时使各种操作实现所公开的实施方式。
可以经由网络接口设备(例如，包括在通信部件1340中的网络接口部件)使用传输介质并且使用多个公知的传输协议中任何一个传输协议(例如，超文本传输协议(HTTP))通过网络1320来发送或接收指令1308。类似地，可以使用传输介质经由到设备1322的耦接1324(例如，对等耦接)来发送或接收指令1308。
“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超极本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。
“通信网络”是指网络的一个或更多个部分，该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、网络、另一类型的网络或者两个或更多个这样的网络的组合。例如，网络或网络的一部分可以包括无线网络或蜂窝网络，并且耦接可以是码分多址(CDMA)连接、全局移动通信系统(GSM)连接或其他类型的蜂窝或无线耦接。在该示例中，耦接可以实现各种类型的数据传输技术中的任何数据传输技术，例如单载波无线电传输技术(1xRTT)、演进数据优化(EVDO)技术、通用分组无线电服务(GPRS)技术、GSM演进的增强数据速率(EDGE)技术、包括3G的第三代合作伙伴计划(3GPP)、第四代无线(4G)网络、通用移动通讯系统(UMTS)、高速分组接入(HSPA)、全球微波接入互操作性(WiMAX)、长期演进(LTE)标准、由各种标准设置组织定义的其他数据传输技术、其他长距离协议或其他数据传输技术。
“部件”是指具有以下边界的设备、物理实体或逻辑：所述边界由功能或子例程调用、分支点、API或提供对特定处理或控制功能进行划分或模块化的其他技术来定义。部件可以经由它们的接口与其他部件组合以执行机器处理。部件可以是被设计用于与其他部件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。部件可以构成软件组件(例如，实施在机器可读介质上的代码)或硬件部件。“硬件部件”是能够执行某些操作的有形单元，并且可以以某种物理方式来配置或布置。在各种示例实施方式中，可以通过软件(例如，应用或应用部分)将一个或更多个计算机系统(例如，独立计算机系统、客户端计算机系统或服务器计算机系统)或者计算机系统的一个或更多个硬件部件(例如，处理器或处理器组)配置为进行操作以执行如本文中描述的某些操作的硬件部件。也可以机械地、电子地或其任何合适的组合来实现硬件部件。例如，硬件部件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件部件可以是专用处理器，例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。硬件部件还可以包括通过软件被临时配置成执行某些操作的可编程逻辑或电路系统。例如，硬件部件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置，则硬件部件成为被唯一地定制成执行配置的功能的特定的机器(或机器的特定部件)，并且不再是通用处理器。应当理解，可以出于成本和时间考虑来推动在专用且永久配置的电路系统中或在临时配置(例如，通过软件配置)的电路系统中机械地实现硬件部件的决策。因此，短语“硬件部件”(或“硬件实现的部件”)应当被理解成包含有形实体，即为被物理构造、永久配置(例如，硬连线)或临时配置(例如，编程)成以某种方式操作或者执行本文中描述的某些操作的实体。考虑硬件部件被临时配置(例如，被编程)的实施方式，无需在任一时刻对硬件部件中的每个硬件部件进行配置或实例化。例如，在硬件部件包括通过软件配置成专用处理器的通用处理器的情况下，该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如，包括不同的硬件部件)。软件相应地配置一个或多个特定处理器以例如在一个时刻处构成特定硬件部件并且在不同的时刻处构成不同的硬件部件。硬件部件可以向其他硬件部件提供信息以及从其他硬件部件接收信息。因此，所描述的硬件部件可以被认为通信地耦接。在同时存在多个硬件部件的情况下，可以通过在硬件部件中的两个或更多个硬件部件之间或之中的信号传输(例如，通过适当的电路和总线)来实现通信。在其中多个硬件部件在不同时间处被配置或实例化的实施方式中，可以例如通过将信息存储在多个硬件部件可以访问的存储器结构中并且在存储器结构中检索信息来实现这样的硬件部件之间的通信。例如，一个硬件部件可以执行操作，并且将该操作的输出存储在其通信地耦接至的存储器设备中。然后，另外的硬件部件可以在随后的时间访问存储器设备，以检索所存储的输出并对其进行处理。硬件部件还可以发起与输入设备或输出设备的通信，并且可以对资源进行操作(例如，信息的收集)。在本文中描述的示例方法的各种操作可以至少部分地由临时地配置(例如，由软件)或永久地配置成执行相关操作的一个或更多个处理器来执行。无论是被临时地配置还是永久地配置，这样的处理器可以构成进行操作以执行本文中描述的一个或更多个操作或功能的处理器实现的部件。如本文中使用的，“处理器实现的部件”是指使用一个或更多个处理器实现的硬件部件。类似地，本文中描述的方法可以至少部分地由处理器实现，其中，特定的一个或多个处理器是硬件的示例。例如，方法的操作中的至少一些操作可以由一个或更多个处理器或处理器实现的部件来执行。此外，一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如，操作中的至少一些操作可以由一组计算机(作为包括处理器的机器的示例)执行，其中，这些操作能够经由网络(例如，因特网)并且经由一个或更多个适当的接口(例如，API)进行访问。某些操作的执行可以分布在处理器之间，不仅驻留在单个机器内，而且跨多个机器部署。在一些示例实施方式中，处理器或处理器实现的部件可以位于单个地理定位中(例如，在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中，处理器或处理器实现的部件可以跨多个地理定位分布。
“计算机可读介质”是指机器存储介质和传输介质二者。因此，术语包括存储设备/介质和载波/调制数据信号二者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物并且可以在本公开内容中互换地使用。
“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。替选地，访问时间可以是默认设置或者由接收者指定的设置。无论设置技术如何，该消息都是暂时的。
“机器存储介质”是指存储可执行指令、例程和/或数据的单个或多个存储设备和/或介质(例如，集中式或分布式数据库、和/或相关联的高速缓存和服务器)。因此，术语应视为包括但不限于固态存储器以及光学和磁性介质，包括处理器内部或外部的存储器。机器存储介质、计算机存储介质和/或设备存储介质的具体示例包括：非易失性存储器，包括例如半导体存储器设备，例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪存设备；磁盘，例如内部硬盘和可移动磁盘；磁光盘；以及CD-ROM和DVD-ROM盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物并且可以在本公开内容中互换地使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、调制数据信号和其他这样的介质，载波、调制数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。
“处理器”是指根据控制信号(例如，“命令”、“操作码”、“机器码”等)操纵数据值并且产生被应用以操作机器的对应输出信号的任何电路或虚拟电路(由在实际处理器上执行的逻辑模拟的物理电路)。例如，处理器可以是中央处理单元(CPU)、精简指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)或其任何组合。处理器还可以是具有可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)的多核处理器。
“信号介质”是指能够存储、编码或携载由机器执行的指令并且包括数字或模拟通信信号的任何无形介质或有助于软件或数据的通信的其他无形介质。术语“信号介质”应当被视为包括任何形式的调制数据信号、载波等。术语“调制数据信号”意指具有以对信号中的信息进行编码的这样的方式设置或改变的其特性中的一个或更多个的信号。术语“传输介质”和“信号介质”意指相同的事物并且可以在本公开内容中互换地使用。
在不脱离本公开内容的范围的情况下，可以对所公开的实施方式进行改变和修改。这些和其他改变或修改旨在被包括在如所附权利要求中表达的本公开内容的范围内。

Claims (19)

1.一种显示增强现实内容的方法，包括：
从运行于设备上的第三方应用接收用于切换至所述设备上的多媒体消息收发应用的请求，所述请求标识增强现实内容以与由所述设备的摄像装置捕获的图像数据一起显示，所述请求包括由所述第三方应用提供的用于设置所述增强现实内容的可定制的视觉属性的参数；
响应于接收到所述请求而使得从所述第三方应用切换至所述多媒体消息收发应用，所述多媒体消息收发应用被配置成响应于所述切换而自动激活所述摄像装置以捕获所述图像数据；以及
使得所述多媒体消息收发应用显示由所述摄像装置捕获的图像数据与所述增强现实内容，
其中，所述请求对应于用于从所述第三方应用切换至所述多媒体消息收发应用以及用于将所述多媒体消息收发应用中的所述增强现实内容与所述图像数据自动组合的深度链接。
2.根据权利要求1所述的方法，其中，所述增强现实内容对应于来自多个增强现实内容项中的用于与由所述摄像装置捕获的图像数据组合的增强现实内容项。
3.根据权利要求2所述的方法，其中，所述请求包括从所述多个增强现实内容项中唯一地标识所述增强现实内容项的标识符。
4.根据权利要求2所述的方法，还包括：
提供用于显示的轮播界面，所述轮播界面包括关于所述多个增强现实内容项中的每个增强现实内容项的相应图标；以及
使得在所述轮播界面内进行关于所述增强现实内容项的图标相对于其余图标的不同显示。
5.根据权利要求1所述的方法，其中，所述参数基于所述第三方应用的当前屏幕内容。
6.根据权利要求1所述的方法，其中，所述参数包括用于设置所述增强现实内容的可定制的视觉属性的字符串值或数字值中的至少一种。
7.根据权利要求1所述的方法，还包括：
从运行于所述设备上的第三方应用接收用于设置所述增强现实内容的可定制的视觉属性的二进制资产，其中，所述参数是指所述二进制资产。
8.根据权利要求7所述的方法，其中，所述二进制资产向所捕获的图像数据提供三维网格模型或纹理中的至少之一。
9.根据权利要求1所述的方法，还包括：
存储用于针对在所述摄像装置的后续激活期间捕获的后续图像数据设置所述增强现实内容的可定制的视觉属性的参数的指示。
10.根据权利要求1所述的方法，其中，所述增强现实内容对应于用于应用于由所述摄像装置捕获的图像数据的用户能够选择的增强现实内容项的集合。
11.根据权利要求10所述的方法，其中，所述用户能够选择的增强现实内容项的集合对应于一个或更多个基于广告的产品。
12.根据权利要求1所述的方法，其中，所述可定制的视觉属性指定应用于在由所述摄像装置捕获的图像数据中检测到的一个或更多个对象的颜色、大小、形状、纹理或视觉效果中的至少之一。
13.根据权利要求1所述的方法，其中，所述参数还选择前置摄像装置或后置摄像装置以捕获所述图像数据。
14.根据权利要求1所述的方法，其中，所述参数还指定所述增强现实内容是要应用于单个会话以进行图像捕获，还是要跨多个会话持续进行图像捕获。
15.一种用于显示增强现实内容的设备，包括：
处理器；以及
存储指令的存储器，所述指令在由所述处理器执行时使所述处理器：
从运行于所述设备上的第三方应用接收用于切换至所述设备上的多媒体消息收发应用的请求，所述请求标识增强现实内容以与由所述设备的摄像装置捕获的图像数据一起显示，所述请求包括由所述第三方应用提供的用于设置所述增强现实内容的可定制的视觉属性的参数；
响应于接收到所述请求而使得从所述第三方应用切换至所述多媒体消息收发应用，所述多媒体消息收发应用被配置成：
响应于所述切换而自动激活所述摄像装置以捕获所述图像数据；以及
使得所述多媒体消息收发应用显示由所述摄像装置捕获的图像数据与所述增强现实内容。
16.根据权利要求15所述的设备，其中，所述增强现实内容对应于来自多个增强现实内容项中的用于与由所述摄像装置捕获的图像数据组合的增强现实内容项。
17.根据权利要求16所述的设备，其中，所述请求包括从所述多个增强现实内容项中唯一地标识所述增强现实内容项的标识符。
18.根据权利要求16所述的设备，其中，所述指令还使所述处理器：
提供用于显示的轮播界面，所述轮播界面包括关于所述多个增强现实内容项中的每个增强现实内容项的相应图标；以及
使得在所述轮播界面内进行关于所述增强现实内容项的图标相对于其余图标的不同显示。
19.一种非暂态计算机可读存储介质，所述计算机可读存储介质包括指令，所述指令在由计算机执行时使所述计算机：
从运行于设备上的第三方应用接收用于切换至所述设备上的多媒体消息收发应用的请求，所述请求标识增强现实内容以与由所述设备的摄像装置捕获的图像数据一起显示，所述请求包括由所述第三方应用提供的用于设置所述增强现实内容的可定制的视觉属性的参数；
响应于接收到所述请求而使得从所述第三方应用切换至所述多媒体消息收发应用，所述多媒体消息收发应用被配置成：
响应于所述切换而自动激活所述摄像装置以捕获所述图像数据；以及
使得所述多媒体消息收发应用显示由所述摄像装置捕获的图像数据与所述增强现实内容。
CN202180031409.8A 2020-03-27 2021-03-18 在消息收发应用中显示增强现实内容的方法、设备、介质 Active CN115462089B (zh)

Applications Claiming Priority (9)

Application Number Priority Date Filing Date Title
US202063000711P 2020-03-27 2020-03-27
US202063000754P 2020-03-27 2020-03-27
US63/000,754 2020-03-27
US63/000,711 2020-03-27
US17/204,694 2021-03-17
US17/204,694 US11410396B2 (en) 2020-03-27 2021-03-17 Passing augmented reality content between devices
US17/204,683 US11620795B2 (en) 2020-03-27 2021-03-17 Displaying augmented reality content in messaging application
US17/204,683 2021-03-17
PCT/US2021/023019 WO2021194855A1 (en) 2020-03-27 2021-03-18 Displaying augmented reality content in messaging application

Publications (2)

Publication Number Publication Date
CN115462089A CN115462089A (zh) 2022-12-09
CN115462089B true CN115462089B (zh) 2024-03-29

Family

ID=77892670

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202180031409.8A Active CN115462089B (zh) 2020-03-27 2021-03-18 在消息收发应用中显示增强现实内容的方法、设备、介质

Country Status (4)

Country Link
EP (1) EP4128803A1 (zh)
KR (2) KR102577630B1 (zh)
CN (1) CN115462089B (zh)
WO (1) WO2021194855A1 (zh)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11620795B2 (en) 2020-03-27 2023-04-04 Snap Inc. Displaying augmented reality content in messaging application
US11410396B2 (en) 2020-03-27 2022-08-09 Snap Inc. Passing augmented reality content between devices
US11238660B2 (en) * 2020-06-10 2022-02-01 Snap Inc. Dynamic augmented reality components
US11360733B2 (en) 2020-09-10 2022-06-14 Snap Inc. Colocated shared augmented reality without shared backend
US11949527B2 (en) 2022-04-25 2024-04-02 Snap Inc. Shared augmented reality experience in video chat
CN115802066B (zh) * 2022-09-30 2024-03-08 天翼数字生活科技有限公司 一种基于网关的流媒体拉流方法及装置

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104885107A (zh) * 2012-10-05 2015-09-02 思杰系统有限公司 经由应用捕获并共享视觉内容
WO2019055679A1 (en) * 2017-09-13 2019-03-21 Lahood Edward Rashid METHOD, APPARATUS, AND COMPUTER-READABLE MEDIA FOR DISPLAYING INCREASED REALITY INFORMATION

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8185450B2 (en) * 2008-06-12 2012-05-22 International Business Machines Corporation Method and system for self-service manufacture and sale of customized virtual goods
KR101407670B1 (ko) * 2011-09-15 2014-06-16 주식회사 팬택 증강현실 기반 모바일 단말과 서버 및 그 통신방법
US20140053099A1 (en) * 2012-08-14 2014-02-20 Layar Bv User Initiated Discovery of Content Through an Augmented Reality Service Provisioning System
US20150206349A1 (en) * 2012-08-22 2015-07-23 Goldrun Corporation Augmented reality virtual content platform apparatuses, methods and systems
JP6195964B1 (ja) * 2016-04-15 2017-09-13 ネイバー コーポレーションＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ アプリケーション制作装置及びその方法、アプリケーション駆動装置、並びにコンピュータプログラム
US10242477B1 (en) * 2017-01-16 2019-03-26 Snap Inc. Coded vision system
US11334376B2 (en) * 2018-02-13 2022-05-17 Samsung Electronics Co., Ltd. Emotion-aw are reactive interface
US11030813B2 (en) * 2018-08-30 2021-06-08 Snap Inc. Video clip object tracking

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104885107A (zh) * 2012-10-05 2015-09-02 思杰系统有限公司 经由应用捕获并共享视觉内容
WO2019055679A1 (en) * 2017-09-13 2019-03-21 Lahood Edward Rashid METHOD, APPARATUS, AND COMPUTER-READABLE MEDIA FOR DISPLAYING INCREASED REALITY INFORMATION

Also Published As

Publication number Publication date
EP4128803A1 (en) 2023-02-08
CN115462089A (zh) 2022-12-09
KR102577630B1 (ko) 2023-09-13
KR20230133404A (ko) 2023-09-19
WO2021194855A1 (en) 2021-09-30
KR20220160089A (ko) 2022-12-05

Similar Documents

Publication Publication Date Title
CN115443641A (zh) 将第一用户界面内容组合到第二用户界面中
CN115462089B (zh) 在消息收发应用中显示增强现实内容的方法、设备、介质
CN115735229A (zh) 在消息收发系统中更新化身服装
CN115552403B (zh) 用于媒体内容项的私人集合的邀请媒体覆盖物
US11620795B2 (en) Displaying augmented reality content in messaging application
CN115803723A (zh) 在消息收发系统中更新化身状态
CN116057533A (zh) 自动网站数据迁移
US11694411B2 (en) Passing augmented reality content between devices
CN115668119A (zh) 用于消息收发系统的具有标贴的回复界面
CN116783575A (zh) 媒体内容检测和管理
CN115516445A (zh) 对于检测到的对象对增强现实内容的基于语音的选择
CN115606190A (zh) 显示增强现实内容与教程内容
CN116438788A (zh) 媒体内容回放和评论管理
CN116710881A (zh) 针对多视频片段捕获选择音频
CN116324898A (zh) 在消息收发系统中提供基于ar的化妆
CN117203676A (zh) 可定制的化身生成系统
CN117337430A (zh) 消息系统内根据扫描操作的快捷方式
CN116349215A (zh) 利用微声音剪辑来聊天
WO2021252232A1 (en) Message interface expansion system
CN116235194A (zh) 媒体内容传输和管理
CN116648895A (zh) 用于捕获多个视频片段的摄像装置模式
CN117501675A (zh) 呈现由消息应用从第三方资源接收的内容
CN117597940A (zh) 用于呈现适用于摄像装置的功能的用户界面
CN116034577A (zh) 上下文应用菜单
US20220206924A1 (en) Accessing third party resources via client application with messaging capability

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant