CN115668263A - 用于消息收发系统中的增强现实体验的物理产品的标识 - Google Patents

Abstract

本主题技术接收包括物理项的表示的图像数据。本主题技术分析图像数据以确定与物理项相对应的对象。本主题技术基于所确定的对象来提取产品元数据。本主题技术向服务器发送产品元数据以确定与产品元数据相关联的第二产品元数据。本主题技术从服务器接收第二产品元数据，第二产品元数据包括与物理项相关的附加信息。本主题技术使得至少部分地基于第二产品元数据在客户端设备处显示与物理项相关的附加信息。

Description

用于消息收发系统中的增强现实体验的物理产品的标识

要求优先权

本申请要求以下美国临时申请的优先权的权益：于2020年4月1日提交的美国临时申请序列第63/003,395号；于2020年4月1日提交的美国临时申请序列第63/003,408号；于2020年4月1日提交的美国临时申请序列第63/003,442号；以及美国临时申请序列第63/003,464号，上述美国临时申请中的每一个的内容通过引用整体并入本文。

背景技术

本申请总体上涉及利用电子设备来提供物理产品的增强现实体验。

附图说明

为了容易地标识对任何特定要素或动作的讨论，附图标记中的一个最高有效数字或多个最高有效数字指代该要素被首次引入时的图号。

图1是根据一些示例实施方式的在其中可以部署本公开内容的联网环境的图形表示。

图2是根据一些示例实施方式的消息收发客户端应用的图形表示。

图3是根据一些示例实施方式的如在数据库中维护的数据结构的图形表示。

图4是根据一些示例实施方式的消息的图形表示。

图5是根据一些示例实施方式的访问限制过程的流程图。

图6是示出根据一些示例实施方式的用于访问产品(例如，物理项)的产品目录服务的示例网络环境的框图，该示例网络环境包括上面在图1中讨论的消息收发系统的部分。

图7是示出根据某些示例实施方式的注释系统的各个模块的框图。

图8是示出根据一些实施方式的包括与物理项(例如，产品)的产品元数据相对应的附加信息的如图4中所描述的消息注释的结构的示意图。

图9是示出根据一些实施方式的存储在如图3中描述的产品表中的与物理项(例如，产品)的信息相对应的产品元数据的结构的示意图。

图10示出了根据各个实施方式的其中用户正在捕获具有物理标识指示符(例如，条形码)的物理项的图像并且基于所捕获的图像显示信息的示例界面。

图11示出了根据各个实施方式的其中用户正在捕获物理项的图像并且基于所捕获的图像显示信息的示例界面。

图12示出了根据各个实施方式的基于图11中描述的所识别的产品来显示信息的示例界面。

图13示出了根据一些实施方式的用于扫描用户的面部并且基于检测到的特征或面部特性来呈现各种信息的示例界面。

图14示出了根据一些实施方式的基于检测到的特征或面部特性(例如，面部形状)来呈现各种信息的示例界面。

图15示出了根据一些实施方式的呈现用于基于检测到的特征或面部特性(例如，面部形状或皮肤类型)来应用特定产品(例如，化妆产品的色调)以提供增强现实体验的各种选项的示例界面。

图16示出了根据一些实施方式的呈现产品信息以及将产品应用于用户面部的表示以提供增强现实体验的示例界面。

图17示出了根据一些实施方式的使得能够选择用户面部的表示的一部分以进行分析以及基于所选部分来选择指示面部特性的选项的示例界面。

图18示出了根据一些实施方式的基于检测到的特征或面部特性(例如，皮肤类型)或用户的选择(例如，睫毛类型、干眼症)来呈现各种信息的示例界面。

图19示出了根据各个实施方式的其中用户正在捕获物理项(例如，化妆品调色盘)的图像并且基于所捕获的图像将增强现实内容显示到用户身体(例如，前臂)的表示的一部分上的示例界面。

图20是示出根据某些示例实施方式的响应于扫描产品(例如，美容产品)来提供所选择的信息和媒体内容的方法的流程图。

图21是示出根据某些示例实施方式的基于用户的简档信息来提供所选择的信息和媒体内容的方法的流程图。

图22是示出根据某些示例实施方式的基于分析用户面部的面部特征来提供推荐的方法的流程图。

图23是示出根据某些示例实施方式的提供与基于特定美容产品(例如，化妆品调色盘)的试色(swatching)相对应的增强现实内容的方法的流程图。

图24是示出根据一些示例实施方式的其中可以实现本公开内容的软件架构的框图。

图25是根据一些示例实施方式的呈计算机系统形式的机器的图形表示，在该计算机系统内可以执行指令集以使该机器执行讨论的方法中任何一种或更多种方法。

具体实施方式

随着数字图像使用的增加、便携式计算设备的可负担性、数字存储介质的增加的容量的可用性以及网络连接的增加的带宽和可访问性，数字图像已经成为越来越多人日常生活的一部分。来自各种位置的兴趣广泛的用户可以捕获各种对象的数字图像，并且使其他人可经由网络(例如因特网)获得所捕获的图像。为了使用增强现实来增强用户对数字图像和内容的体验，并且使得计算设备能够对在各种变化条件(例如，图像尺度、噪声、照明、运动或几何失真的变化)下捕获的各种对象或特征进行识别可能是有挑战性的并且是计算密集的。在一方面，本主题技术提供了如下改进的系统，该改进的系统用于提供产品(其可以被购买)的增强现实体验，该产品的增强现实体验然后被应用于如本文进一步描述的这样的对象(例如，用户的面部)。

在各种设置中，移动计算设备的用户经常使用并且越来越多地利用消息收发系统，以便以便利的方式提供不同类型的功能。如本文所描述的，本主题消息收发系统提供了使得能够提供产品的增强现实体验的实际应用。本主题消息收发系统执行基于产品元数据来访问与给定产品相关的附加信息的处理，同时利用本主题消息收发系统的能力。本主题消息收发系统可以在具有对象(例如用户的面部)的场景中连同提供产品信息或其他信息一起呈现与产品有关的增强现实(AR)体验。在示例中，AR体验提供应用于对象(例如用户面部或用户身体的其他部分(例如，手臂、腿等)的表示)的AR内容，以用于在给定客户端设备上显示。这样的AR内容可以与产品相关，例如呈现美容产品将如何出现在用户面部的表示上。

同样如本文所描述的，本主题消息收发系统提供了使得能够基于由给定客户端设备(例如，移动计算设备)捕获并且被提供给本主题消息收发系统以供分析的图像数据来标识物理项或产品的实际应用。特别地，本主题消息收发系统的给定用户可以捕获包括物理标识指示符(例如，条形码)的物理项的图像或图像集合，该物理标识指示符可以标识物理项。本主题消息收发系统从物理标识指示符中提取产品元数据，并且执行处理以确定附加产品元数据，同时利用本主题消息收发系统的能力。因此，本主题技术被理解为有利地提供在呈现AR内容项方面的技术改进，以促进AR内容的自然且直观的呈现(例如，没有由于图形瓶颈和AR内容的低效处理而导致的滞后和丢帧)，并且从而增加在包括(真实)物理项和AR内容项的混合的环境中的存在感。

在示例中，技术改进还涉及利用服务器或远程计算资源来处理和呈现AR内容，而在又一示例中，AR内容可以由给定计算设备呈现，并且然后被传播到其他计算设备以供呈现。通过本文描述的各种技术的组合和利用，与其他现有实现方式相比，可以减少显示AR内容项的等待时间(例如，用于生成AR内容并且随后在给定设备的相应显示器上呈现AR内容的持续时间)，以提供更加沉浸和令人信服的用户体验。

如本文所提及的，短语“增强现实体验”、“增强现实内容项”、“增强现实内容生成器”包括或指代与如本文进一步描述的图像修改、过滤、LENSES、媒体覆盖、变换等相对应的各种图像处理操作。

图1是示出用于通过网络交换数据(例如，消息和相关联的内容)的消息收发系统100的示例的框图。消息收发系统100包括客户端设备102的多个实例，每个实例托管包括消息收发客户端应用104的多个应用。每个消息收发客户端应用104经由网络106(例如，因特网)通信地耦接至消息收发客户端应用104的其他实例和消息收发服务器系统108。

消息收发客户端应用104能够经由网络106与另一消息收发客户端应用104和消息收发服务器系统108进行通信和交换数据。在消息收发客户端应用104之间以及在消息收发客户端应用104与消息收发服务器系统108之间交换的数据包括函数(例如，调用函数的命令)以及有效载荷数据(例如，文本、音频、视频或其他多媒体数据)。

消息收发服务器系统108经由网络106向特定的消息收发客户端应用104提供服务器端功能。虽然消息收发系统100的某些功能在本文中被描述为由消息收发客户端应用104或由消息收发服务器系统108执行，但是在消息收发客户端应用104或消息收发服务器系统108内的某些功能的位置是设计选择。例如，在技术上可能优选的是最初在消息收发服务器系统108内部署某些技术和功能，但是稍后将该技术和功能迁移至其中客户端设备102具有足够处理能力的消息收发客户端应用104。

消息收发服务器系统108支持被提供给消息收发客户端应用104的各种服务和操作。这样的操作包括向消息收发客户端应用104发送数据、从消息收发客户端应用104接收数据以及处理由消息收发客户端应用104生成的数据。作为示例，该数据可以包括消息内容、客户端设备信息、地理位置信息、媒体注释和覆盖、消息内容持续条件、社交网络信息和实况事件信息。通过经由消息收发客户端应用104的用户界面(UI)可用的功能来调用和控制消息收发系统100内的数据交换。

现在具体转到消息收发服务器系统108，应用程序接口(API)服务器110耦接至应用服务器112并且向应用服务器112提供编程接口。应用服务器112通信地耦接至数据库服务器118，这有助于访问其中存储有与由应用服务器112处理的消息相关联的数据的数据库120。

应用程序接口(API)服务器110在客户端设备102与应用服务器112之间接收和发送消息数据(例如，命令和消息有效载荷)。具体地，应用程序接口(API)服务器110提供接口(例如，例程和协议)的集合，所述接口的集合可以由消息收发客户端应用104调用或查询，以便调用应用服务器112的功能。应用程序接口(API)服务器110公开由应用服务器112支持的各种功能，包括帐户注册、登录功能、经由应用服务器112从特定消息收发客户端应用104向另一消息收发客户端应用104发送消息、从消息收发客户端应用104向消息收发服务器应用114发送媒体文件(例如，图像或视频)以及用于另一消息收发客户端应用104的可能访问、媒体数据的集合(例如，故事)的设置、客户端设备102的用户的好友列表的检索、这样的集合的检索、消息和内容的检索、向社交图添加和删除好友、社交图内好友的位置以及打开应用事件(例如，涉及消息收发客户端应用104)。

应用服务器112托管多个应用和子系统，包括消息收发服务器应用114、图像处理系统116和社交网络系统122、产品目录系统124和增强现实系统126。消息收发服务器应用114实现许多消息处理技术和功能，尤其涉及包括在从消息收发客户端应用104的多个实例接收的消息中的内容(例如，文本和多媒体内容)的汇集和其他处理。如将更详细地描述的，来自多个源的文本和媒体内容可以被汇集成内容的集合(例如，被称为故事或库)。然后消息收发服务器应用114使这些集合可用于消息收发客户端应用104。鉴于用于这样的处理的硬件要求，消息收发服务器应用114还可以在服务器侧执行其他处理器和存储器密集型的数据处理。

应用服务器112还包括专用于执行各种图像处理操作的图像处理系统116，所述图像处理操作通常针对在消息收发服务器应用114处的消息的有效载荷内接收的图像或视频。

社交网络系统122支持各种社交联网功能服务，并且使这些功能和服务可用于消息收发服务器应用114。为此，社交网络系统122维护并访问数据库120内的实体图304(如图3所示)。社交网络系统122支持的功能和服务的示例包括特定用户与之有关系或“关注”其的消息收发系统100的其他用户的标识以及其他实体和感兴趣的特定用户的标识。

消息收发客户端应用104包括允许客户端设备102访问增强现实系统126的功能集合。增强现实系统126生成并维护增强现实内容生成器的列表。给定的增强现实内容生成器可以对应于用于利用增强现实内容补充所捕获的图像数据或视频数据以便提供增强现实体验的增强现实内容项(或一些其他图像修改、图像处理、变换、修改等)。

在一个或更多个实施方式中，增强现实系统126标识由消息收发客户端应用104捕获的一个或更多个图像中描绘的对象，并且确定对象的一个或更多个属性。增强现实系统126搜索与对象的一个或更多个属性相关联的一个或更多个增强现实内容项(例如，虚拟对象)，并且(例如，基于关联和分配给每个属性的权重)对虚拟对象进行排序。增强现实系统126使排名最高的增强现实内容项的一个或更多个虚拟对象或图形元素被呈现在所捕获的图像之上。

应用服务器112通信地耦接至数据库服务器118，这有助于访问其中存储有与由消息收发服务器应用114处理的消息相关联的数据的数据库120。

产品目录系统124执行用于至少基于由消息收发客户端应用104提供的这样的产品的图像数据来验证产品的操作。在实施方式中，产品目录系统124可以将与这样的产品的制造商相关的信息(例如，元数据)以及用于验证产品的真实性的信息存储在数据库120中。下面针对图6更详细地讨论产品目录系统124。

图2是示出根据示例实施方式的关于消息收发系统100的另外的细节的框图。具体地，消息收发系统100被示出为包括消息收发客户端应用104和应用服务器112，其又包含多个一些子系统，即短暂定时器系统202、集合管理系统204和注释系统206。

短暂定时器系统202负责实施对消息收发客户端应用104和消息收发服务器应用114所允许的内容的短暂访问。为此，短暂定时器系统202结合了多个定时器，这些定时器基于与消息或消息的集合(例如，故事)相关联的持续时间和显示参数，短暂定时器系统202选择性地显示消息和相关联的内容以及使得能够经由消息收发客户端应用104访问消息和相关联的内容。下面提供关于短暂定时器系统202的操作的另外的细节。

集合管理系统204负责管理媒体的集合(例如，文本、图像视频和音频数据的集合)。在一些示例中，内容(例如，消息，包括图像、视频、文本和音频)的集合可以被组织成“事件库”或“事件故事”。可以使这样的集合在指定的时间段(例如内容所涉及的事件的持续时间)内可用。例如，可以使与音乐会有关的内容在该音乐会的持续期间内作为“故事”可用。集合管理系统204还可以负责发布向消息收发客户端应用104的用户界面提供特定集合的存在性的通知的图标。

集合管理系统204还包括允许集合管理器管理和策展内容的特定集合的策展接口208。例如，策展接口208使得事件组织者能够策展与特定事件相关的内容的集合(例如，删除不适当的内容或冗余消息)。另外，集合管理系统204采用机器视觉(或图像识别技术)和内容规则来自动地策展内容集合。在某些实施方式中，可以向用户支付补偿以将用户生成的内容包括到集合中。在这样的情况下，策展接口208进行操作以自动向这样的用户支付费用以使用其内容。

注释系统206提供使得用户能够注释或以其他方式修改或编辑与消息相关联的媒体内容的各种功能。例如，注释系统206提供与生成和发布用于由消息收发系统100处理的消息的媒体覆盖相关的功能。注释系统206基于客户端设备102的地理位置可操作地向消息收发客户端应用104供应媒体覆盖或补充(例如，图像过滤)。在另一示例中，注释系统206基于其他信息(例如客户端设备102的用户的社交网络信息)可操作地向消息收发客户端应用104供应媒体覆盖。媒体覆盖可以包括音频和视觉内容以及视觉效果。音频和视觉内容的示例包括图片、文本、标志、动画和声音效果。视觉效果的示例包括颜色覆盖。音频和视觉内容或视觉效果可以应用于客户端设备102处的媒体内容项(例如，照片)。例如，媒体覆盖可以包括可以覆盖在由客户端设备102拍摄的照片之上的文本。在另一示例中，媒体覆盖包括位置标识(例如，威尼斯海滩)覆盖、实况事件的名称或商家名称(例如，海滩咖啡馆)覆盖。在另一示例中，注释系统206使用客户端设备102的地理位置来标识包括在客户端设备102的地理位置处的商家的名称的媒体覆盖。媒体覆盖可以包括与商家相关联的其他标记。媒体覆盖可以存储在数据库120中并通过数据库服务器118被访问。

在一个示例实施方式中，注释系统206提供基于用户的发布平台，该发布平台使得用户能够选择地图上的地理位置，并且上传与所选择的地理位置相关联的内容。用户还可以指定特定媒体覆盖应当被提供给其他用户的环境。注释系统206生成包括所上传的内容的媒体覆盖并且将所上传的内容与所选择的地理位置相关联。

在另一示例实施方式中，注释系统206提供基于商家的发布平台，该发布平台使得商家能够经由竞价过程来选择与地理位置相关联的特定媒体覆盖。例如，注释系统206在预定义时间量内将最高出价商家的媒体覆盖与对应的地理位置相关联。

图3是示出根据某些示例实施方式的可以存储在消息收发服务器系统108的数据库120中的数据结构300的示意图。虽然数据库120的内容被示出为包括多个表，但是应当理解，数据可以存储在其他类型的数据结构中(例如，作为面向对象的数据库)。

数据库120包括存储在消息表314内的消息数据。实体表302存储实体数据，包括实体图304。其记录被维护在实体表302内的实体可以包括个人、公司实体、组织、对象、地点、事件等。不管类型如何，关于消息收发服务器系统108存储数据的任何实体都可以是被识别的实体。每个实体设置有唯一标识符以及实体类型标识符(未示出)。

实体图304还存储关于实体之间的关系和关联的信息。仅作为示例，这样的关系可以是基于感兴趣的或基于活动的社交关系、职业关系(例如，在共同的公司或组织工作)。

数据库120还以过滤器的示例形式将注释数据存储在注释表312中。其数据存储在注释表312内的过滤器与视频(其数据存储在视频表310中)或图像(其数据存储在图像表308中)相关联并且应用于视频(其数据存储在视频表310中)或图像(其数据存储在图像表308中)。在一个示例中，过滤器是在呈现给接收者用户期间被显示为覆盖在图像或视频上的覆盖。过滤器可以是各种类型，包括当发送用户正在编写消息时由消息收发客户端应用104向发送用户呈现的来自过滤器的库中的用户选择的过滤器。其他类型的过滤器包括地理位置过滤器(也称为地理过滤器)，其可以基于地理位置呈现给发送用户。例如，基于由客户端设备102的GPS单元确定的地理位置信息，消息收发客户端应用104可以在用户界面内呈现特定于邻域或特定位置的地理位置过滤器。另一类型的过滤器是数据过滤器，其可以由消息收发客户端应用104基于在消息创建过程期间由客户端设备102收集的其他输入或信息来选择性地呈现给发送用户。数据过滤器的示例包括特定位置处的当前温度、发送用户行进的当前速度、客户端设备102的电池寿命或当前时间。

可以存储在图像表308内的其他注释数据是增强现实内容生成器(例如，对应于应用LENSES、增强现实体验或增强现实内容项)。增强现实内容生成器可以是可以添加至图像或视频的实时特殊效果和声音。

如上所述，增强现实内容生成器、增强现实内容项、覆盖、图像变换、AR图像和类似术语是指可以对视频或图像进行的修改。这包括实时修改，该实时修改在使用设备传感器捕获图像时修改该图像并且然后在设备的屏幕上显示具有修改的图像。这还包括对所存储的内容的修改，例如可以被修改的库中的视频剪辑。例如，在访问多个增强现实内容生成器的设备中，用户可以将单个视频剪辑与多个增强现实内容生成器一起使用来查看不同的增强现实内容生成器将如何修改所存储的剪辑。例如，通过针对内容选择不同的增强现实内容生成器，可以将应用不同伪随机运动模型的多个增强现实内容生成器应用于同一内容。类似地，实时视频捕获可以与所示出的修改一起使用，以示出当前由设备的传感器捕获的视频图像将如何修改所捕获的数据。这样的数据可以简单地被显示在屏幕上并且不被存储在存储器中，或者由设备传感器捕获的内容可以在有或没有修改(或两者)的情况下被记录并被存储在存储器中。在一些系统中，预览特征可以示出不同的增强现实内容生成器同时在显示器中的不同窗口内看起来如何。这可以例如使得能够同时在显示器上观看具有不同伪随机动画的多个窗口。

因此，数据以及使用增强现实内容生成器或其他这样的变换系统来使用该数据修改内容的各种系统可以涉及：对象(例如，面部、手、身体、猫、狗、表面、对象等)的检测；当这样的对象离开、进入视频帧中的视场以及在视场周围移动时对这样的对象进行跟踪；以及当跟踪这样的对象时对这样的对象进行修改或变换。在各种实施方式中，可以使用用于实现这样的变换的不同方法。例如，一些实施方式可以涉及生成一个或多个对象的三维网格模型，并且使用视频内的模型的变换和动画纹理来实现变换。在其他实施方式中，可以使用对对象上的点的跟踪来将图像或纹理(其可以是二维或三维的)放置在所跟踪的位置处。在又一实施方式中，视频帧的神经网络分析可以用于将图像、模型或纹理放置在内容(例如，视频的图像或帧)中。因此，增强现实内容生成器既涉及用于创建内容中的变换的图像、模型和纹理，又涉及实现利用对象检测、跟踪和放置的这样的变换所需的附加建模和分析信息。

可以利用保存在任何类型的计算机化系统的存储器中的任何类型的视频数据(例如，视频流、视频文件等)来执行实时视频处理。例如，用户可以加载视频文件并将它们保存在设备的存储器中，或者可以使用设备的传感器来生成视频流。另外，可以使用计算机动画模型来处理任何对象，例如人的面部和人体的部分、动物、或非生命事物(例如椅子、汽车或其他对象)。

在一些实施方式中，当连同要变换的内容一起选择特定修改时，计算设备标识要变换的元素，并且然后如果所述元素存在于视频帧中，则检测并跟踪它们。根据针对修改的请求来修改对象的元素，从而变换视频流的帧。可以通过用于不同类型的变换的不同方法来执行视频流的帧的变换。例如，对于主要涉及改变对象元素的形式的帧的变换，计算针对对象的每个元素的特征点(例如，使用主动形状模型(ASM)或其他已知方法)。然后，针对对象的至少一个元素中的每个元素生成基于特征点的网格。该网格用于跟踪视频流中的对象的元素的后续阶段。在跟踪过程中，所提及的针对每个元素的网格与每个元素的位置对准。然后，在网格上生成附加点。基于针对修改的请求来针对每个元素生成第一点的第一集合，并且基于第一点的集合和针对修改的请求来针对每个元素生成第二点的集合。然后，可以基于第一点和第二点的集合以及网格通过修改对象的元素来对视频流的帧进行变换。在这样的方法中，也可以通过跟踪和修改背景来改变或扭曲被修改对象的背景。

在一个或更多个实施方式中，可以通过计算针对对象的每个元素的特征点并基于所计算的特征点生成网格来执行使用对象的元素改变对象的一些区域的变换。在网格上生成点，并且然后生成基于这些点的各种区域。然后通过将针对每个元素的区域与针对至少一个元素中的每个元素的位置对准来跟踪对象的元素，并且可以基于针对修改的请求来修改区域的特性，从而变换视频流的帧。根据针对修改的特定请求，可以以不同的方式来对所提及的区域的特性进行变换。这样的修改可以涉及改变区域的颜色；从视频流的帧中去除区域的至少一些部分；将一个或更多个新对象包括到基于针对修改的请求的区域中；以及修改或扭曲区域或对象的元素。在各种实施方式中，可以使用这样的修改或其他类似修改的任何组合。对于要被动画化的某些模型，可以选择一些特征点作为要用于确定针对模型动画的选项的整个状态空间的控制点。

在使用面部检测来变换图像数据的计算机动画模型的一些实施方式中，使用特定的面部检测算法(例如，Viola-Jones)在图像上检测面部。然后，将主动形状模型(ASM)算法应用于图像的面部区域以检测面部特征参考点。

在其他实施方式中，可以使用适合于面部检测的其他方法和算法。例如，在一些实施方式中，使用表示在所考虑的大多数图像中存在的可区分点的界标(landmark)来定位特征。例如，对于面部界标，可以使用左眼瞳孔的位置。在初始界标不可标识的情况下(例如，如果人具有眼罩)，则可以使用次级界标。这样的界标标识过程可以用于任何这样的对象。在一些实施方式中，界标的集合形成形状。可以使用形状中的点的坐标将形状表示为向量。利用使形状点之间的平均欧几里得距离最小化的相似性变换(允许平移、缩放和旋转)将一个形状与另一个形状对准。平均形状是对准的训练形状的平均。

在一些实施方式中，开始从与由全局面部检测器确定的面部的位置和大小对准的平均形状搜索界标。然后，这样的搜索重复以下步骤：通过对每个点周围的图像纹理进行模板匹配来调整形状点的位置来建议暂定形状，并且然后使暂定形状符合全局形状模型，直到出现收敛。在一些系统中，单独的模板匹配是不可靠的，并且形状模型汇集弱模板匹配器的结果以形成更强的整体分类器。在图像金字塔中的每一级处从粗分辨率到细分辨率重复整个搜索。

变换系统的实施方式可以在客户端设备(例如，客户端设备102)上捕获图像或视频流，并且在客户端设备102上本地执行复杂的图像操纵，同时保持适当的用户体验、计算时间和功耗。复杂的图像操纵可以包括大小和形状改变、情感变换(例如，将面部从皱眉改变为微笑)、状态变换(例如，使主体变老、减小外表年龄、改变性别)、风格变换、图形元素应用以及由已经被配置成在客户端设备102上有效执行的卷积神经网络实现的任何其他合适的图像或视频操纵。

在一些示例实施方式中，用于变换图像数据的计算机动画模型可以由如下系统使用，在该系统中，用户可以使用具有作为在客户端设备102上操作的消息收发客户端应用104的一部分而操作的神经网络的客户端设备102来捕获用户的图像或视频流(例如，自拍照)。在消息收发客户端应用104内操作的变换系统确定图像或视频流内面部的存在，并且提供与用于变换图像数据的计算机动画模型相关联的修改图标，或者计算机动画模型可以与本文描述的接口相关联地存在。修改图标包括可以是用于作为修改操作的一部分修改图像或视频流内的用户面部的基础的变化。一旦选择了修改图标，则变换系统发起转换用户的图像以反映所选择的修改图标的过程(例如，生成关于用户的微笑面部)。在一些实施方式中，一捕获图像或视频流并且选择了指定的修改，就可以在移动客户端设备上显示的图形用户界面中呈现修改后的图像或视频流。变换系统可以在图像或视频流的一部分上实现复杂的卷积神经网络，以生成和应用所选择的修改。也就是说，用户可以捕获图像或视频流，并且一旦选择了修改图标，就可以实时或接近实时地呈现修改后的结果。此外，在捕获视频流并且所选择的修改图标保持切换时，修改可以是持久的。机器教导的神经网络可以用于实现这样的修改。

在一些实施方式中，呈现由变换系统执行的修改的图形用户界面可以向用户提供附加的交互选项。这样的选项可以基于用于发起特定计算机动画模型的选择和内容捕获的界面(例如，从内容创建者用户界面发起)。在各种实施方式中，在初始选择修改图标之后，修改可以是持久的。用户可以通过轻敲或以其他方式选择正由变换系统修改的面部来切换修改的开或关，并对其进行存储以供稍后查看或浏览成像应用的其他区域。在变换系统修改多个面部的情况下，用户可以通过轻敲或选择在图形用户界面内修改和显示的单个面部来全局地切换修改的开或关。在一些实施方式中，可以分别修改多个面部的组中的各个面部，或者可以通过轻敲或选择图形用户界面内显示的各个面部或一系列各个面部来分别切换这样的修改。

在一些示例实施方式中，提供了图形处理流水线架构，其使得能够在对应的不同层中应用不同的增强现实体验(例如，AR内容生成器)。这样的图形处理流水线提供了可扩展呈现引擎，所述可扩展呈现引擎用于提供复合媒体(例如，图像或视频)中包括的多个增强现实体验，以由消息收发客户端应用104(或消息收发系统100)呈现。

如上面所提及的，视频表310存储视频数据，在一个实施方式中，视频数据与其记录被维护在消息表314中的消息相关联。类似地，图像表308存储与其消息数据存储在实体表302中的消息相关联的图像数据。实体表302可以将来自注释表312的各种注释与存储在图像表308和视频表310中的各种图像和视频相关联。

故事表306存储关于消息和相关联的图像、视频或音频数据的集合的数据，所述消息和相关联的图像、视频或音频数据被编译成集合(例如，故事或库)。特定集合的创建可以由特定用户(例如，其记录被维护在实体表302中的每个用户)发起。用户可以创建以已经由该用户创建和发送/广播的内容的集合的形式的“个人故事”。为此，消息收发客户端应用104的用户界面可以包括用户可选择以使得发送用户能够将特定内容添加至他或她的个人故事的图标。

集合还可以构成“实况故事”，“实况故事”是被手动地、自动地或使用手动和自动技术的组合来创建的来自多个用户的内容的集合。例如，“实况故事”可以构成来自不同位置和事件的用户提交的内容的策展流。其客户端设备具有启用的位置服务并且在特定时间处于共同位置事件的用户可以例如经由消息收发客户端应用104的用户界面被呈现有选项，以向特定实况故事贡献内容。可以由消息收发客户端应用104基于用户的位置向用户标识实况故事。最终结果是从社区角度讲述的“实况故事”。

另一类型的内容集合被称为“位置故事”，“位置故事”使得其客户端设备102位于特定地理位置(例如，在学院或大学校园)内的用户能够对特定集合做出贡献。在一些实施方式中，对位置故事的贡献可能需要第二程度的认证来验证终端用户属于特定组织或其他实体(例如，是大学校园中的学生)。

数据库120还将产品的数据存储在产品表316中，这使得产品目录系统124能够执行与提供针对产品(例如，可用于购买或销售的给定物理项)的增强现实体验相关的操作。在示例中，产品表316包括产品的目录(例如，列表)及其相关联的产品标识符，其可以与由产品目录系统124提供的产品元数据进行比较。如本文进一步描述的，产品目录系统124可以确定与特定产品相关联的产品元数据。如下面进一步描述的，这样的产品元数据包括产品标识符，该产品标识符可以被用作提供与产品有关的增强现实体验的处理的一部分。

图4是示出根据一些实施方式的消息400的结构的示意图，该消息400由消息收发客户端应用104生成以传送至另一消息收发客户端应用104或消息收发服务器应用114。特定消息400的内容用于填充存储在消息收发服务器应用114可访问的数据库120内的消息表314。类似地，消息400的内容作为客户端设备102或应用服务器112的“运输中”或“飞行中”数据被存储在存储器中。消息400被示出为包括以下要素：

●消息标识符402：标识消息400的唯一标识符。

●消息文本有效载荷404：要由用户经由客户端设备102的用户界面生成并且包括在消息400中的文本。

●消息图像有效载荷406：由客户端设备102的摄像机部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的图像数据。

●消息视频有效载荷408：由摄像机部件捕获或从客户端设备102的存储器部件检索并且包括在消息400中的视频数据。

●消息音频有效载荷410：由麦克风捕获或从客户端设备102的存储器部件检索并且包括在消息400中的音频数据。

●消息注释412：表示要应用于消息400的消息图像有效载荷406、消息视频有效载荷408或消息音频有效载荷410的注释的注释数据(例如，过滤器、贴纸或其他增强)。

●消息持续时间参数414：以秒为单位指示消息的内容(例如，消息图像有效载荷406、消息视频有效载荷408、消息音频有效载荷410)将被呈现或使得用户可经由消息收发客户端应用104访问的时间量的参数值。

●消息地理位置参数416：与消息的内容有效载荷相关联的地理位置数据(例如，纬度坐标和经度坐标)。多个消息地理位置参数值416可以被包括在有效载荷中，这些参数值中的每个参数值与关于包括在内容中的内容项(例如，消息图像有效载荷406内的特定图像或消息视频有效载荷408中的特定视频)相关联。

●消息故事标识符418：标识与消息400的消息图像有效载荷406中的特定内容项相关联的一个或更多个内容集合(例如，“故事”)的标识符值。例如，消息图像有效载荷406内的多个图像可以各自使用标识符值与多个内容集合相关联。

●消息标签420：每个消息400可以用多个标签来标记，多个标签中的每个标签指示包括在消息有效载荷中的内容的主题。例如，在包括在消息图像有效载荷406中的特定图像描绘动物(例如，狮子)的情况下，标签值可以包括在指示相关动物的消息标签420内。标签值可以基于用户输入手动生成或者可以使用例如图像识别自动生成。

●消息发送者标识符422：指示在其上生成消息400并且从其发送消息400的客户端设备102的用户的标识符(例如，消息收发系统标识符、电子邮件地址或设备标识符)。

●消息接收者标识符424：指示消息400寻址到的客户端设备102的用户的标识符(例如，消息收发系统标识符、电子邮件地址或设备标识符)。

消息400的各个要素的内容(例如，值)可以是指向在其内存储内容数据值的表中的位置的指针。例如，消息图像有效载荷406中的图像值可以是指向图像表308内的位置(或地址)的指针。类似地，消息视频有效载荷408内的值可以指向存储在视频表310内的数据，存储在消息注释412内的值可以指向存储在注释表312中的数据，存储在消息故事标识符418内的值可以指向存储在故事表306中的数据，并且存储在消息发送者标识符422和消息接收者标识符424内的值可以指向存储在实体表302内的用户记录。

图5是示出访问限制过程500的示意图，根据该访问限制过程500，对内容(例如，短暂消息502和相关联的数据的多媒体有效载荷)或内容集合(例如，短暂消息组504)的访问可以是时间受限的(例如，短暂的)。

短暂消息502被示出为与消息持续时间参数506相关联，消息持续时间参数506的值确定消息收发客户端应用104将向短暂消息502的接收用户显示短暂消息502的时间量。在一个实施方式中，根据发送用户使用消息持续时间参数506指定的时间量，接收用户可查看短暂消息502达到最多10秒。

消息持续时间参数506和消息接收者标识符424被示出为消息定时器512的输入，消息定时器512负责确定向由消息接收者标识符424标识的特定接收用户示出短暂消息502的时间量。特别地，仅在由消息持续时间参数506的值确定的时间段内向相关接收用户示出短暂消息502。消息定时器512被示出为向短暂定时器系统202的更一般化的实现提供输出，该短暂定时器系统202负责向接收用户显示内容(例如，短暂消息502)的总体定时。

图5中示出的短暂消息502被包括在短暂消息组504(例如，个人故事或事件故事中的消息的集合)内。短暂消息组504具有相关联的组持续时间参数508，组持续时间参数508的值确定短暂消息组504被呈现并可由消息收发系统100的用户访问的持续时间。例如，组持续时间参数508可以是音乐会的持续时间，其中，短暂消息组504是属于该音乐会的内容的集合。可替选地，当执行短暂消息组504的设置和创建时，用户(拥有用户或策展者用户)可以指定组持续时间参数508的值。

另外，短暂消息组504内的每个短暂消息502具有相关联的组参与参数510，组参与参数510的值确定在短暂消息组504的上下文内可访问短暂消息502的持续时间。因此，在短暂消息组504本身根据组持续时间参数508到期之前，特定的短暂消息组504可以“到期”并且在短暂消息组504的上下文中变得不可访问。组持续时间参数508、组参与参数510和消息接收者标识符424各自向组定时器514提供输入，组定时器514可操作地首先确定短暂消息组504的特定短暂消息502是否将被显示给特定接收用户，并且如果短暂消息组504的特定短暂消息502将被显示给特定接收用户，则确定显示多长时间。注意，由于消息接收者标识符424，短暂消息组504也知道特定接收用户的身份。

因此，组定时器514可操作地控制相关联的短暂消息组504以及包括在短暂消息组504中的单独的短暂消息502的总使用期限。在一个实施方式中，短暂消息组504内的每个短暂消息502在由组持续时间参数508指定的时间段内保持可查看和可访问。在另一实施方式中，在短暂消息组504的上下文内，某个短暂消息502可以基于组参与参数510而到期。注意，即使在短暂消息组504的上下文内，消息持续时间参数506也仍然可以确定向接收用户显示特定短暂消息502的持续时间。因此，消息持续时间参数506确定向接收用户显示特定短暂消息502的持续时间，而不管接收用户是在短暂消息组504的上下文之内还是之外查看该短暂消息502。

短暂定时器系统202还可以基于已经超过相关联的组参与参数510的确定而从短暂消息组504中可操作地移除特定的短暂消息502。例如，当发送用户已经建立了从发布起24小时的组参与参数510时，短暂定时器系统202将在指定的24小时之后从短暂消息组504中移除相关的短暂消息502。当针对短暂消息组504内的每个短暂消息502的组参与参数510已经到期时或者当短暂消息组504本身根据组持续时间参数508已经到期时，短暂定时器系统202还进行操作以移除短暂消息组504。

在某些使用情况下，特定短暂消息组504的创建者可以指定无期限的组持续时间参数508。在这种情况下，针对短暂消息组504内最后剩余的短暂消息502的组参与参数510的到期将确定短暂消息组504本身何时到期。在这种情况下，添加至短暂消息组504的具有新的组参与参数510的新的短暂消息502将短暂消息组504的寿命有效地延长到等于组参与参数510的值。

响应于短暂定时器系统202确定短暂消息组504已经到期(例如，不再是可访问的)，短暂定时器系统202与消息收发系统100(并且例如特别是消息收发客户端应用104)进行通信，以使得与相关短暂消息组504相关联的标记(例如，图标)不再显示在消息收发客户端应用104的用户界面内。类似地，当短暂定时器系统202确定针对特定短暂消息502的消息持续时间参数506已经到期时，短暂定时器系统202使消息收发客户端应用104不再显示与短暂消息502相关联的标记(例如，图标或文本标识)。

图6是示出根据一些示例实施方式的用于访问来自产品(例如，用于销售的物理项)的产品目录服务的信息的示例网络环境600的框图，该示例网络环境600包括以上在图1中讨论的消息收发系统100的部分。然而，并非所有所描绘的部件均可以用于所有实现方式中，并且一个或更多个实现方式可以包括除图中所示部件之外的附加部件或不同部件。在不脱离本文所阐述的权利要求书的精神或范围的情况下，可以对部件的布置和类型做出改变。可以设置附加部件、不同部件或更少的部件。

出于说明性目的，网络环境600在图6中被示为包括客户端设备102、消息收发服务器系统108和产品目录服务系统602；然而，在一些实施方式中，网络环境600可以包括任何数量的电子设备和任何数量的服务器或包括多个服务器的数据中心。

在一个或更多个实现方式中，网络106可以是可以包括因特网或可以通信地耦接至因特网的电子设备的互连网络。网络106可以使例如客户端设备102与消息收发服务器系统108或产品目录服务系统602通信地(直接或间接地)耦接。

消息收发服务器系统108或产品目录服务系统602可以是诸如云计算或数据中心实现中的计算机网络或服务器组的一部分。如下面进一步描述的，消息收发服务器系统108或产品目录服务系统602存储或生成由客户端设备102请求或接收的信息。

如图所示，托管多个应用的客户端设备102经由网络106通信地耦接至消息收发服务器系统108和消息收发客户端应用104(例如，在另一客户端设备102上)的其他实例，所述多个应用包括先前在图1中描述的消息收发客户端应用104。消息收发服务器系统108包括上面在图1中描述的产品目录系统124。

在示例实施方式中，客户端设备102可以通过使用产品目录系统124来选择或访问针对给定产品的增强现实(AR)体验，例如增强现实(AR)内容生成器等。产品目录系统124可以访问产品目录服务系统602，产品目录服务系统602提供一个或更多个数据库620中的关于相应产品的产品信息/元数据。

产品目录系统124可以从客户端设备102接收至少所选择的AR体验的指示符(例如，如本文进一步描述的产品AR体验ID)，并且对产品表316执行查找、搜索或选择操作以从数据库120检索产品元数据。在示例实施方式中，这样的产品元数据包括产品标识符(ID)。产品目录系统124向客户端设备102提供之前提及的产品元数据，这使得客户端设备102能够访问或启动所选择的AR体验以用于在客户端设备102上显示。

在示例实施方式中，客户端设备102可以提供(例如，使用由客户端设备102提供的摄像机捕获的)包括包含物理项的标识指示符(例如，物理条形码等)的物理项的表示的图像数据，并且分析图像数据以从标识指示符中提取信息(例如，从条形码中提取验证元数据)。所提取的信息可以包括制造商标识符(ID)、产品ID或物品唯一ID(例如，唯一序列号等)。

产品目录系统124可以从客户端设备102接收之前提及的所提取的信息，并且确定附加的产品信息(例如，产品元数据)。给定物理项的附加产品元数据可以至少部分地基于(例如，由客户端设备102或产品目录系统124提供的)信号集合来确定，所述信号集合包括各个制造商已经维护的关于各个产品的信息，包括但不限于条形码、通用产品代码(UPC)代码、QR代码、Snap代码^TM、唯一的各个序列号、库存单元号、车辆标识号、欧洲物品编号(EAN)、国际标准书号(ISBN)、制造商零件号(MPN)、全球贸易项目号(GTIN)、日本物品号(JAN)、水印等。可以使用的其他信号可以包括位置信息(例如，用于确定特定分销商或零售的GPS坐标，或对应于物理项的地理区域)、网络信息(例如，Wi-Fi网络)等。此外，应当理解，物理项可以基于之前提及的用于标识各个产品的标准或格式中的一个或更多个来包括相应的物理标识指示符。

产品目录系统124可以从客户端设备102(或如下所述的产品目录系统124)接收至少产品ID，并且对产品表316执行查找、搜索或选择操作以从数据库120中检索产品元数据。然后，产品目录系统124向客户端设备102或产品目录系统124提供之前提及的产品元数据。

出于填充产品表316的目的，产品目录系统124可以与产品目录服务系统602进行通信。在示例中，产品目录系统124可以向相应服务器发送请求消息，以用于获得与给定物理项有关的元数据。该请求消息可以包括例如产品ID。在实施方式中，如在网络环境600中进一步示出的，这样的服务器是产品目录服务系统602。在实施方式中，产品目录服务系统602被实现为基于电子的服务(例如，网络服务)，其可以由给定客户端电子设备(例如客户端设备102)基于特定消息协议中包括产品ID的请求消息来访问。响应于请求消息，产品目录服务系统602可以基于请求消息中所包括的产品ID来执行对与物理项相关的信息或元数据的搜索或数据库查询。

响应于该请求消息，产品目录服务系统602可以向产品目录系统124提供响应消息，在示例实施方式中，该响应消息包括响应于请求而来自数据库620的信息。产品目录系统124可以将接收到的信息存储到数据库120中。至少基于从数据库120中检索到的与产品相关的信息，客户端设备102可以提供用于显示(例如，在消息收发客户端应用104的UI上呈现)产品的AR体验。

在实施方式中，如以上在图6中描述的客户端设备102可以是例如便携式计算设备，例如膝上型计算机、智能电话、外围设备(例如，数码摄像机)、平板设备、可穿戴设备(例如手表、手环、头戴式耳机等)或任何其他合适的设备。之前提及的设备中的每个设备还可以支持触摸屏手势(例如，通过使用触摸屏)或者非触摸手势(例如，通过使用陀螺仪或运动传感器)。在一个或更多个实现方式中，客户端设备102可以例如在虚拟现实或增强现实环境中支持类似触摸屏的手势。在图6中，作为示例，客户端设备102被描绘为具有触摸屏的移动电子设备。在一个或更多个实现方式中，客户端设备102可以是如下面进一步描述的机器，或者可以包括所述机器的全部或一部分。客户端设备102可以包括如下文进一步详细描述的执行用于提供物理项(例如，产品)的AR体验的操作的部件。

在实施方式中，客户端设备102是可由用户穿戴的头戴式便携式系统，其包括能够基于用户的周围物理环境来捕获图像、音频、视频、多媒体内容等的系统。

如本文进一步描述的，客户端设备102可以执行图像集合、文本或对象识别处理以从所捕获的图像数据中提取产品元数据，其中，图像数据可以包括与产品相对应的物理项以及与该物理项相对应的物理标识指示符(例如，条形码)的表示。

如之前所讨论的，客户端设备102可以提供(例如，使用由客户端设备102提供的摄像机捕获的)包括包含物理项的标识指示符(例如，物理条形码等)的物理项的表示的图像数据，并且分析图像数据以从标识指示符中提取信息(例如，从条形码中提取产品元数据)。所提取的信息可以包括制造商标识符(ID)、产品ID或物品唯一ID(例如，唯一序列号等)等。

图7是示出根据某些示例实施方式的注释系统206的各种模块的框图700。注释系统206被示出为包括图像数据接收模块702、产品标识模块704和增强现实内容生成器模块706。注释系统206的各个模块被配置成(例如，经由总线、共享存储器或交换机)彼此进行通信。这些模块中的任何一个或更多个模块可以使用一个或更多个计算机处理器710(例如，通过将这样的一个或更多个计算机处理器配置成执行针对该模块描述的功能)来实现，因此可以包括计算机处理器710中的一个或更多个(例如，由客户端设备102提供的处理器的集合)。

所描述的模块中的任何一个或更多个模块可以单独使用硬件(例如，机器(例如，机器2500)的计算机处理器710中的一个或更多个)或硬件和软件的组合来实现。例如，注释系统206的任何所描述的模块可以物理地包括被配置成执行本文针对该模块所描述的操作的一个或更多个计算机处理器710(例如，机器(例如，机器2500)的一个或更多个计算机处理器的子集或其中的一个或更多个计算机处理器710)的布置。作为另一示例，注释系统206的任何模块可以包括软件、硬件或软件和硬件两者，其将(例如，在机器(例如，机器2500)的一个或更多个计算机处理器之中的)一个或更多个计算机处理器710的布置配置成执行本文针对该模块描述的操作。因此，注释系统206的不同模块可以包括并配置这样的计算机处理器710的不同布置或这样的计算机处理器710在不同时间点处的单个布置。此外，注释系统206的任何两个或更多个模块可以被组合成单个模块，并且本文针对单个模块描述的功能可以在多个模块之间细分。此外，根据各种示例实施方式，本文中描述为在单个机器、数据库或设备中实现的模块可以跨多个机器、数据库或设备分布。

图像数据接收模块702接收由客户端设备102捕获的图像。例如，图像是由客户端设备102的光学传感器(例如摄像机)捕获的照片。图像包括一个或更多个真实世界特征，例如在图像中检测到的用户的面部或物理对象。在一些实施方式中，图像包括描述该图像的元数据。

产品标识模块704利用不同的对象检测处理来检测图像中的对象，例如与用户想要从其提取产品元数据的产品相对应的物理项或者与该物理项相对应的标识的物理指示符(例如，条形码)。在示例中，可以使用成像处理算法和识别技术来检测图像的对象。例如，光学字符识别(OCR)可以被用作主要图像分析技术或用于增强其他处理。可以提取图像的特征(例如，形状、大小、颜色和文本)。在一些实施方式中，图像处理过程可以包括子过程，例如阈值化(将灰度图像转换为黑白，或者使用基于灰度值的分离)、分割、斑点提取、图案识别、条形码和数据矩阵代码读取、测量(度量对象尺寸)、定位、边缘检测、颜色分析、过滤(例如形态过滤)和模板匹配(对特定图案进行寻找、匹配或计数)。

此外，在示例实施方式中，产品标识模块704利用将从移动计算设备的摄像机接收的图像分类为一个或更多个类别的分类器的集合。在实施方式中，图像分类器的示例集合确定图像是否包括包含文本、条形码图案或QR代码图案等的物理标识指示符。在实施方式中，图像分类器的另一示例集合基于(例如，存储在数据库120中的)3D模型或图像的库来执行对象分类。各种技术(例如，OCR和其他几何识别过程)也可以用作图像分析技术以识别图像的一个或更多个潜在对象(例如，与产品相对应的物理项以及物理项的物理标识指示符)。此外，可以理解，产品标识模块704可以利用机器学习模型(例如，将图像数据分类为特定对象分类或类型的预测模型)来执行对象识别。

产品标识模块704可以执行用于从与图像中的物理项的物理标识指示符相对应的所识别的对象中提取产品元数据并且确定物理项的附加产品元数据的操作(例如，处理)。此外，产品标识模块704可以从本文描述的产品目录系统124接收附加产品元数据。

在实施方式中，增强现实内容生成器模块706使得可选图形项的显示以轮播布置(例如，轮播界面)被呈现。作为示例，用户可以利用各种输入来以与提供图形项的循环视图的轮播相对应的方式将可选图形项旋转到显示屏幕上以及旋转离开显示屏幕。轮播布置允许多个图形项占据显示屏幕上的特定图形区域。在示例中，对应于不同AR内容生成器的相应AR体验可以被组织成相应的组以包括在轮播布置上，从而使得能够按组旋转通过媒体覆盖。尽管提供了轮播界面作为示例，但是可以理解，也可以使用其他图形界面。例如，增强现实内容生成器的集合可以包括图形列表、滚动列表、滚动图形或者使得能够通过各种图形项进行导航以供选择的另一图形界面等。如本文所使用的，轮播界面是指以类似于循环列表的布置显示图形项，从而使得能够基于用户输入(例如，触摸或手势)通过循环列表进行导航以选择或滚动图形项。在示例中，可以在水平(或竖直)线或轴上呈现图形项的集合，其中，每个图形项被表示为特定缩略图像(或图标、化身等)。在任何一个时刻，轮播界面中的一些图形项可以被隐藏。在示例中，如果用户想要查看隐藏的图形项，则用户可以提供用户输入(例如，触摸、手势等)以在特定方向(例如，左、右、上或下等)上滚动图形项。之后，显示轮播界面的后续视图，其中，提供或呈现动画以呈现一个或更多个附加图形项以包括在界面上，并且其中，先前呈现的图形项中的一些可以隐藏在该后续视图中。在实施方式中，以这种方式，用户可以以循环方式来回导航图形项的集合。因此，可以理解，轮播界面可以通过在循环视图中仅显示来自图形项的集合的图像的子集来优化屏幕空间。

增强现实内容生成器模块706利用不同的对象或面部检测处理来检测图像中的对象或面部。在示例中，可以使用成像处理算法和识别技术来检测图像中的用户面部。基于所选择的AR内容生成器，增强现实内容生成器模块706可以基于从轮播界面选择的AR内容生成器来生成并呈现AR体验，以用于在给定客户端设备(例如，客户端设备102)上显示。在实施方式中，来自产品标识模块704的信息(例如，产品ID等)被增强现实内容生成器模块706用来呈现这样的AR内容。

增强现实内容生成器模块706基于由之前提及的模块中的至少一个模块提供的数据来执行内容的呈现以用于由消息收发客户端应用104显示。例如，增强现实内容生成器模块706基于与动画或根据产品信息向所接收的图像数据提供视觉或听觉效果相对应的算法或技术来执行各种操作，这将在本文中进一步描述。

增强现实内容生成器模块706基于由之前提及的模块中的至少一个模块提供的数据来执行消息的呈现以用于由消息收发客户端应用104显示。在示例中，增强现实内容生成器模块706利用图形处理流水线来执行图形操作以呈现消息以进行显示。在示例中，增强现实内容生成器模块706实现可扩展呈现引擎，该可扩展呈现引擎支持与相应媒体覆盖相对应的多个图像处理操作。

在一些实现方式中，增强现实内容生成器模块706提供将二维(2D)对象或来自三维(3D)世界(真实或假想)的对象呈现到2D显示屏幕上的图形系统。在一些实现方式中，这样的图形系统(例如，包括在客户端设备102上的图形系统)包括图形处理单元(GPU)，用于执行图像处理操作以及呈现图形元素以进行显示。

在实现方式中，GPU包括逻辑图形处理流水线，逻辑图形处理流水线可以接收2D或3D场景的表示并且提供表示2D图像的位图的输出以进行显示。现有的应用编程接口(API)已经实现了图形流水线模型。这样的API的示例包括开放图形库(OPENGL)API和METAL API。图形处理流水线包括将一组顶点、纹理、缓冲器和状态信息转换成屏幕上的图像帧的多个阶段。在实现方式中，图形处理流水线的阶段之一是着色器，着色器可以用作应用于输入帧(例如，图像或视频)的特定增强现实内容生成器的一部分。着色器可以被实现为在通常执行若干计算线程的专用处理单元(也称为着色器单元或着色器处理器)上运行的代码，所述代码被编程成针对正在被呈现的片段生成适当等级的色彩和/或特定效果。例如，顶点着色器处理顶点的属性(位置、纹理坐标、色彩等)，并且像素着色器处理像素的属性(纹理值、色彩、z深度和α值)。在一些实例中，像素着色器被称为片段着色器。

应当理解，可以提供其他类型的着色器处理。在示例中，在图形处理流水线内利用特定采样速率来呈现整个帧，或者以特定每像素速率执行像素着色。以这种方式，给定客户端设备(例如，客户端设备102)操作图形处理流水线，以将与对象相对应的信息转换成可以由电子设备显示的位图。

图8是示出根据一些实施方式的包括与产品的增强现实体验相对应的附加信息的如图4中所描述的消息注释412的结构的示意图。特别地，附加信息对应于用于呈现AR体验的消息中的信息。

在实施方式中，包括图8所示的附加数据的特定消息400的内容被用于填充存储在数据库120内的用于给定消息的消息表314，该数据库120然后可由产品目录系统124或消息收发客户端应用104访问。如示例实施方式中所示，消息注释412包括与消息的数据相对应的以下要素：

·产品增强现实体验标识符852：消息中利用的增强现实体验(例如，增强现实内容生成器、动画或效果，包括效果、LENSES、过滤器、图像修改器等)的标识符

·消息标识符854：消息的标识符

·资产标识符856：消息中资产的标识符的集合。例如，可以针对由特定AR内容生成器确定的多个资产包括相应的资产标识符。在实施方式中，这样的资产由发送者侧的AR内容生成器创建，被上传到消息收发服务器应用114，并且由接收者侧的AR内容生成器使用，以便重新创建消息。

·与附加元数据相对应的元数据862

图9是示出根据一些实施方式的存储在如图3中描述的产品表316中的与物理项(例如，产品)的信息相对应的产品元数据900的结构的示意图。

在实施方式中，图9所示的数据用于填充存储在数据库120内的产品表316，该数据库120然后可由产品目录系统124或消息收发客户端应用104访问。如示例实施方式中所示，产品元数据900包括以下要素：

·产品标识符902：从来自图像数据的物理识别标识符中提取的产品的标识符(例如，型号、部件号、唯一序列号等)

·产品增强现实体验标识符904：消息中利用的增强现实体验(例如，增强现实内容生成器、动画或效果，包括效果、LENSES、过滤器、图像修改器等)的标识符，其可以用于与图8中讨论的产品增强现实体验标识符852进行比较

·产品元数据906：与对应于产品标识符902的产品相关的信息

图10示出了根据各种实施方式的其中用户正在捕获具有物理标识指示符(例如，条形码)的物理项的图像并且基于所捕获的图像显示信息的示例界面。图10的示例界面可以被提供用于例如通过消息收发客户端应用104的一个或多个界面在客户端设备(例如，客户端设备)上显示。

客户端设备102可以具有至少一个摄像机。每个摄像机可以是例如电荷耦合器件(CCD)、互补金属氧化物半导体(CMOS)或N型金属氧化物半导体(NMOS)中的有源像素传感器、红外或超声图像传感器或利用其他类型的图像捕获技术的图像传感器。在示例中，用户可以定位客户端设备102，使得包括物理项1001(例如，美容产品盒)的一个或更多个物理对象在客户端设备102的至少一个摄像机的视场内，如界面1000所示。至少一个摄像机可以捕获图像，使得在客户端设备102的显示屏幕上显示具有物理标识指示符1002的表示的物理项1001的表示。在一些实施方式中，至少一个摄像机捕获视频，从而提供所捕获的视频信息的“实况”视图。图像或视频的帧可以例如通过在客户端设备102上分析或通过网络(例如，网络106)发送到用于分析图像数据的服务器或服务(例如，消息收发服务器系统108或图像处理系统116)被分析。

通过使用产品标识模块704，客户端设备102可以基于物理标识指示符1002的表示来提取产品元数据例如产品ID。然后，客户端设备102将提取的产品元数据发送到产品目录系统124以接收附加产品元数据。至少部分地基于接收到的制造商验证元数据，客户端设备102可以向产品目录服务系统602发送请求，以获得附加产品元数据以及如本文所讨论的可以包括的其他类型的信息。

在图10所示的第二示例中，提供了至少部分地基于上述产品元数据来示出附加信息的界面1050，该界面1050可以由增强现实内容生成器模块706接收并显示在客户端设备102上。如图所示，包括生产信息1060(例如，产品描述、价格、制造商、销售商、购买产品的选择图形项)。如进一步所示，媒体内容1065(例如，嵌入式视频)和附加媒体内容1070被包括在界面1050中。在该示例中，媒体内容1065可以直接在界面1050内播放，而附加媒体内容1070可以包括相应的描述和到相关联的媒体内容(例如，相应视频)的链接。与产品有关或与媒体内容有关(例如，媒体内容1065的描述)的附加信息1067可以被包括在界面1050中。包括在界面1050中的媒体内容的类型可以至少部分地基于用户的简档数据(其在下面进一步被描述)。在实施方式中，由与客户端设备102和消息收发服务器系统108分开的外部源(例如，第三方)提供(和存储)任何或所有之前提及的媒体内容。

在实施方式中，给定产品的产品元数据可以包括来自不同类别/源的信息，包括以下示例：1)产品描述和/或其他类似产品；2)评论；3)成分；4)教程(例如，来自视频流式传输服务、网站等的视频)。然而，应当理解，本文描述的实现方式可以扩展到其他产品领域，包括任何“垂直”领域，例如特定产品、行业领域、爱好、主题、类别等。

在实施方式中，当用户捕获物理产品的图像或视频并且产品元数据被接收到时，本主题系统(例如，产品目录系统124或客户端设备102)基于指示用户的角色、经验级别或专业级别(例如，初学者、有一定经验者、中级经验者/专门学习者、专家)的简档数据(例如，使用用于各种平台的一个或更多个或不同的API)从外部源检索内容。

在实施方式中，系统利用这样的简档数据来对内容进行排序和过滤(例如，不向初学者显示专家级别视频，或者不向专家显示初学者级别视频，当用户是频繁购物者时显示产品的价格信息，向频繁查看这样的内容的用户首先显示视频)。内容的排序和过滤可以在本文描述的消息收发平台的如下各种地方被使用：1)提供AR内容生成器的集合的轮播界面(或其他界面)；2)由本主题系统提供的广告；或3)在本主题消息收发平台内呈现的(例如，由与消息收发服务器系统108分离的外部源提供的)外部内容(其在下面图10的第二示例中更详细地被描述)。

在示例中，被考虑呈现给用户的每个内容或增强现实内容生成器可以包括指示角色、经验级别或专业级别的元数据。在另一示例中，本主题系统可以分析内容或增强现实内容生成器，并且然后确定相关联的角色、经验级别或专业级别。基于之前提及的元数据或关联，本主题系统可以选择特定内容或增强现实内容生成器。

在示例中，使用基于之前提及的用户活动的信号和指示符的评分算法，可以将相应的得分分配给这样的内容或AR内容生成器，并且可以基于相应的得分对内容或AR内容生成器进行排序。在示例中，阈值用于对相应的得分进行过滤，当得分低于阈值或未能满足阈值时，得分用于对内容或AR内容生成器进行过滤。

此外，为了确定专业级别或经验级别，可以将不同类型的用户活动与特定得分值相关联，并且这样的得分值的总和指示用户的专业级别或经验级别。例如，可以为产品段中的产品的购买分配第一得分值，可以为产品段(或主题)中的观看媒体内容(例如，视频)分配第二得分值，并且可以为共享或发布或创建与产品段相关的媒体内容分配第三得分值。应当理解，每个得分值可以是不同的值，以指示重要性或意义的相对级别(例如，对于更有意义的活动而言得分值越大，以及对于较没有意义的活动而言得分值越低)。还可以理解，可以使用其他类型的评分方法。例如，基于指示用户活动的信号，特定用户可以积累经验点以增加其得分值之和，并且其中，各种增强现实体验(例如，相应的增强现实内容生成器)的产品供应商或制造商或创建者可以奖励点数以鼓励/激励用户与内容交互或者购买特定产品，并且从而增加其专业级别或经验级别。在示例中，基于前述得分值，向得分值总和从0到10的给定用户分配第一级别，向得分值总和从11至20的给定用户分配第二级别，向得分值总和从21至30的给定用户分配第三级别，并且向得分值总和大于30的给定用户分配第四最高级别。然后可以利用之前提及的所分配的级别来选择内容或增强现实内容生成器，以(例如，在由消息收发客户端应用104提供的界面中或在客户端设备102的显示屏幕上)呈现给用户。

在实施方式中，简档数据(例如，用户简档信息)是基于与各种用户活动相关的如下不同信号构造的：是否在本主题消息收发平台(例如，消息收发服务器系统108)上查看特定主题或产品段(例如，美容产品)的相关内容、购物习惯和历史数据(例如，已经购买了哪些产品、来自哪些销售商等)、所观看的视频的历史信息、先前网络活动的历史信息(例如，所访问的哪些站点可以指示用户的兴趣级别或专业级别)等。在示例中，兴趣级别可以指关于特定主题或产品段的用户活动或参与的量。在实施方式中，针对特定主题或产品段的示例专业级别可以基于四个示例能力阶段，例如，1)“无意识无能”，其中用户不理解或不知道如何做某事并且不一定识别缺陷；2)“有意识的无能”，其中即使用户可能不理解或不知道如何做某事，用户也能识别缺陷以及解决技能缺陷的新技能的价值；3)“有意识的能力”，其中用户理解或知道如何做某事；以及4)“无意识的能力”，其中用户可以容易地执行技能，并且用户能够给其他人教导该技能。然而，可以理解，基于用户的简档数据或基于特定类型的产品段，本主题系统可以利用更少或更多的专业级别。此外，专业级别可以对应于与之前提及的四个专业级别不同类型的级别。

在示例中，在对应于美容产品的产品段中，不同的专业级别或角色可以基于给定用户的简档数据将给定用户关联到包括以下的级别：1)初学者(新成员角色)；2)中级(“化妆好奇”角色)；3)有经验者(“教程战士”角色)；以及4)专家(“美丽女神”角色)。如上所提及的，基于与用户相关联的级别，各种媒体内容可以被包括在界面1050中，以用于在客户端设备102上呈现给用户。

在实施方式中，预期在实施方式中，消息收发服务器系统108提供消息收发服务器系统108内的内容，并且基于相应的简档数据向系统的用户提供这样的内容。然而，在一些实施方式中，本文描述的示例中提供的媒体内容被理解为由至少一个外部源(例如，外部网站、外部数据库、外部网络服务等)提供。

图11示出了根据各个实施方式的其中用户正在捕获物理项的图像并且基于所捕获的图像显示信息的示例界面。具体地，图11所示的示例示出了其中使用客户端设备102的用户使用由客户端设备102提供的摄像机来扫描物理产品(例如，美容产品)的场景。然后，客户端设备102(或产品目录系统124)对所捕获的图像执行识别处理，以在包括图形项的界面中提供附加信息，其中一些图形项可由用户选择，以执行附加操作或提供关于媒体内容的附加功能以及可以结合产品执行的任务。图11的示例界面可以被提供用于例如通过消息收发客户端应用104的一个或多个界面在客户端设备(例如，客户端设备)上显示。

在实施方式中，如之前所提及的，产品目录系统124可以包括用于识别处理的(例如，存储在数据库120上的)3D对象和图像的库。此外，产品制造商或产品销售商可以提供用于存储在产品目录系统124上的这样的模型。

在图11的第一示例中，在界面1100中提供图形动画1102，其指示用户已经基于摄像机的聚焦区域1103(例如，客户端设备102的显示屏幕的中间或中心区域)启动了对物理项1101(例如，美容产品)的识别处理。产品标识模块704可以执行这样的识别过程，并且图形动画1102可以通过增强现实内容生成器模块706被显示在客户端设备102上。在实施方式中，用户可以使用消息收发客户端应用104(例如，使用图7中描述的一个或更多个部件，例如图像数据接收模块702)来执行图像捕获处理，并且使产品在客户端设备102的摄像机的视图中，客户端设备102将所捕获的图像数据发送到在客户端设备102上执行的产品标识模块704。在实施方式中，产品标识模块704可以对所捕获的图像数据进行分析以确定与从图像数据中识别出的产品相关联的产品元数据，包括使用之前提及的(例如，存储在数据库120上的)3D对象和图像的库来识别/标识产品。可替选地或结合地，所捕获的图像可以由产品标识模块704发送到产品目录系统124，以基于之前提及的库进行分析和识别。

在图11的第二示例中，提供了至少部分地基于来自上述产品识别的产品元数据来示出附加信息的界面1150，该界面1150可以由增强现实内容生成器模块706接收并显示在客户端设备102上。如图所示，包括生产信息1160(例如，产品描述、价格、购买产品的选择图形项)。如进一步所示，产品的评论1163和附加媒体内容1165被包括在界面1050中。在该示例中，附加媒体内容1070可以包括相应的描述和到相关联的媒体内容(例如，相应的视频)的链接。此外，与产品相关的类似产品集合1170可以被包括在界面1150中。包括在界面1150中的媒体内容的类型可以至少部分地基于用户的简档数据(如先前上面所述)。在实施方式中，由与客户端设备102和消息收发服务器系统108分开的外部源(例如，第三方)提供(和存储)任何或所有之前提及的媒体内容。

图12示出了根据各个实施方式的基于图11中描述的所识别的产品来显示信息的示例界面。图12的示例界面可以被提供用于例如通过消息收发客户端应用104的一个或多个界面在客户端设备(例如，客户端设备)上显示。

如图所示，界面1200包括先前描述的类似产品集合1170以及同样如先前描述的附加媒体内容1165，该界面1200可以由增强现实内容生成器模块706接收并显示在客户端设备102上。如图所示，来自类似产品集合1170的每个产品包括示出特定产品的图形表示的关联图像。此外，界面1200包括分别与来自类似产品集合1170的特定产品相对应的相关产品信息1210(例如，产品名称、制造商名称、价格、评级)。界面1200还包括针对特定产品的成分的列表1220。可以理解，其他类型的信息可以呈现在界面1200上并且仍然在本技术的范围内。

本主题技术的实现方式使得能够使用客户端设备(例如，客户端设备102)以便(例如，使用客户端设备102上的摄像机)扫描用户的面部并且使用机器学习技术或其他技术来标识面部特性(例如，面部形状)，并且基于用户输入或偏好来确定要建议或提供哪些产品以便在客户端设备的显示器上呈现给用户。

基于所确定的面部形状，使得本主题系统能够提供诸如理发、画轮廓方法、化妆品色调等的推荐。此外，在实施方式中，本主题技术提供不同的增强现实内容生成器、实用程序、工具或附加内容作为推荐。以这种方式，扫描用户的面部使得面部成为到其他内容、数字位置、应用的“入口”。此外，应当理解，之前提及的实现方式还具有与健康相关的用途，例如，扫描面部并且使得本主题系统能够确定与健康相关的推荐，或者分析面部特性以标识问题或建议护肤例程。

图13示出了根据一些实施方式的用于扫描用户的面部并且基于检测到的特征或面部特性来呈现各种信息的示例界面。如上所提及的，图13的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备)上显示。

在第一示例中，提供了界面1300，其用于基于所捕获的图像数据在聚焦区域1330内扫描面部1320的表示的特征。在示例中，(例如，通过用户输入)选择可选图形项1310以使得显示界面1300。在该示例中，用于捕获图像数据的摄像机可以是客户端设备102的前置摄像机。在实施方式中，先前已经选择了与特定增强现实内容生成器相对应的可选图形项1312，以便使界面1300显示在客户端设备102的显示屏幕上。在该示例中，特定增强现实内容生成器提供扫描用户面部的至少一部分以标识面部特性集合的功能，所述面部特性集合可以用于提供推荐和其他内容以呈现给用户。

根据一些实施方式，可以使用以下描述的技术(例如，通过产品标识模块704或客户端设备102的其他部件)来分析聚焦区域1330，以尝试标识与用户面部的一个或更多个面部特征和其他面部特性相对应的特征点。例如，可以通过检测技术集合来分析由客户端设备的摄像机捕获的图像数据以检测面部特征(例如，用户的右眼或左眼)，其中检测技术集合中的每种检测技术可以使用不同的技术来检测面部特征。不同的技术可以包括使用用于检测面部特征的不同大小的窗口、不同起始位置的窗口等。可以使用其他技术，例如使用形状、模板或对象识别处理。在一些实施方式中，对象定位技术可以在图像数据中寻找满足一定对象检测标准的对象，例如具有一定大小、形状和/或位置的对象(例如，图像中相对普通强度的区域)。

此外，在一些实施方式中，可以分析由客户端设备102捕获的图像数据以估计用户头部的中心或用户的另一特征的位置。一些示例技术利用基于模型的技术。一种示例性的基于模型的技术是主动形状模型(ASM)。在该技术中，学习若干面部特征位置及其与特征点周围的图像强度的关系的模型。例如，使用包括训练图像的训练数据集来学习该模型。在运行期间，应用该模型以获得所有面部特征到给定图像数据的最佳拟合。另一种技术包括约束局部模型(CLM)，其中，(由统计形状模型约束的)点集合位于给定图像数据上。在该技术中，应用检测技术来独立地检测面部上的不同特征。在一些示例中，针对右眼、左眼、嘴等训练不同的检测技术。在示例中，针对每个界标使用单个检测技术，并且将检测技术应用于图像，而且将模型拟合到检测技术响应以获得所有面部特征到给定面部图像的最佳拟合。

另外，根据一些实施方式，可以使用多种调谐检测技术来检测面部特征。面部特征可以是例如眼睛的位置、嘴的位置、鼻子的位置或人面部上的任何可标识特征。可以针对选定特征训练若干检测技术。在运行时，可以应用至少一部分检测技术。在一些实施方式中，检测技术可以与置信度值相关联。检测技术可以提供对用户头部中心的估计，并且可以根据它们的置信度值来组合这些估计，或者以其他方式组合这些估计以获得所确定的头部中心的位置。

在(例如，至少基于聚焦区域1330)确定了待分析的面部区域之后，可以使用一种或更多种头部或面部检测技术来标识用户面部的区域。示例性头部或面部检测技术可以包括已知的或用于这样的目的的任何适当技术，例如模板匹配技术、神经网络技术(例如，使用深度神经网络或卷积神经网络等)、Fisher线性判别技术、最大拒绝分类器技术、支持向量机技术、边缘滤波技术、边缘检测技术等。

在一些实施方式中，之前提及的检测技术可以使用多种不同的技术来确定面部特征和面部特性。这可以包括例如标识(例如识别)独特的或有区别的点，例如特征点、面部标志、几何形状或距离或面部上的其他这样的特征。示例性的面部识别技术可以包括例如线性判别分析技术、基于隐马尔可夫模型的技术、主成分分析技术、Fisherface技术和神经元激励动态链接匹配技术等。在一些实施方式中，可以使用经专门训练的Haar分类器或其他类似的分类器来检测面部特征。应当理解，可以使用任何数量的技术。在各种实施方式中，面部特征可以包括眼睛、嘴、鼻子、头部的形状、前额、脸颊、下巴、颚中的至少一个或任何其他面部特征。

在一些实施方式中，可以使用其他对象识别处理。这些对象识别处理可以包括例如搜索特征(例如边缘、照明或颜色的变化或者形状或大小的变化)的基于外观的处理。各种其他技术利用梯度生成和匹配或直方图分析来进行对象识别。其他技术包括基于特征的技术，例如可以利用解释树、几何散列或不变性分析。此外，也可以在本主题技术的范围内使用诸如尺度不变特征转换(SIFT)或加速鲁棒特征(SURF)技术的技术。

在图13的第二示例中，提供了界面1350，该界面1350具有作为如上所述在涉及界面1300的第一示例中执行的分析的结果的信息和图形项，该界面1300可以由增强现实内容生成器模块706接收并显示在客户端设备102上。

如图所示，界面1350包括叠加在所捕获的用户面部的图像上的图形项1360(例如，浮动窗口或对话框)、图形项1370和图形项1380。之前提及的图形项中的每一个包括关于检测到的特征或面部特性的信息，例如面部形状(例如，椭圆形)、皮肤健康的指示等。此外，界面1350包括可选图形项1362(例如，按钮)、可选图形项1372和可选图形项1382，这些可选图形项可以各自通过用户输入被选择以使得显示单独界面以示出附加信息，如下面进一步描述的。

图14示出了根据一些实施方式的基于检测到的特征或面部特性(例如，面部形状)来呈现各种信息的示例界面。如上面所提及的，图14的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备)上显示。

在图14的示例中，提供了界面1400，该界面1400用于在示例中选择可选图形项1362之后在客户端设备102的显示屏幕上显示，该界面1400可以由增强现实内容生成器模块706显示在客户端设备102上。

如图所示，包括示出检测到的用户面部形状的图形项1410。包括可选图形项1412(例如，按钮)以使得能够将关于检测到的面部形状的该信息添加到消息。媒体内容1420包括相关联的媒体内容(例如，教程或美容例程的相应视频、网络链接等)的相应描述和预览或图形表示(例如，图像或短视频)。此外，附加媒体内容1430包括指示美容例程的排名最高的视频的相关联媒体内容的相应描述和预览或图形表示(例如，图像或短视频)。在示例中，附加媒体内容1430包括可以在界面1400内播放的嵌入式视频，而不需要用户导航至不同的界面或屏幕。在实施方式中，由与客户端设备102和消息收发服务器系统108分开的外部源(例如，第三方)提供(和存储)任何或所有之前提及的媒体内容。

图15示出了根据一些实施方式的呈现用于基于检测到的特征或面部特性(例如，面部形状或皮肤类型)来应用特定产品(例如，化妆产品的色调)以提供增强现实体验的各种选项的示例界面。如上面所提及的，图15的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备)上显示。此外，在示例中，在用户已经选择了图13中描述的可选图形项1372之后，可以显示图15中描述的界面。

在第一示例中，提供了界面1500，该界面1500可以由增强现实内容生成器模块706显示在客户端设备102上。如进一步所示，所捕获的用户面部的图像数据被包括在界面1500的背景中。显示包括可选图形项1510的可选图形项集合，所述可选图形项集合对应于与美容产品(例如，化妆品、阴影、粉底等)的色调相关联的相应增强现实内容生成器。在实施方式中，基于检测到的特征或面部特性(例如，皮肤类型)，在界面1500中的轮播界面(如前所述，可以替代地使用其他类型的界面)中选择并呈现可选图形项集合。与针对特定化妆品色调的特定增强现实内容生成器相对应的可选图形项1510在该示例中被示为由用户选择。包括可选图形项1512，该可选图形项1512在被用户选择时使得示出第二界面，该第二界面提供用于提供增强现实内容的附加选项(例如，在所捕获的包括用户面部的图像数据上应用所选择的化妆品的色调或类型)。

在第二示例中，提供了界面1550，界面1550可以由增强现实内容生成器模块706显示在客户端设备102上。如上面所提及的，可以显示界面1550作为选择可选图形项1512的结果。提供可选图形项1560(例如，滑块)以控制在界面1550中的用户面部的表示上显示的增强现实内容。如图所示，提供指示与可选图形项1560的位置相对应的设置(例如，媒体覆盖)的信息1562。当通过用户输入对可选图形项1560进行移动时，可以基于与相应设置相对应的可选图形项1560的当前位置来更新对应增强现实内容的量或呈现。在该示例中，可选图形项1560的位置对应于“中间”设置(当滑块在中间时)，这导致增强现实内容1564基于该设置被呈现在所捕获的图像数据中的用户面部的一部分上。同样如图所示，提供了可选图形项1570，该可选图形项1570在通过用户输入被选择时，可以使得在客户端设备上显示另一界面，例如呈现具有所应用的化妆品的用户面部，所应用的化妆品呈应用于所捕获的图像数据的增强现实内容的形式。

图16示出了根据一些实施方式的呈现产品信息以及将产品应用于用户面部的表示以提供增强现实体验的示例界面。如上面所提及的，图16的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备)上显示。

在图16所示的第一示例中，提供了至少部分地基于产品元数据来示出产品信息的界面1600，该界面1600可以由增强现实内容生成器模块706接收并显示在客户端设备102上。如图所示，包括生产信息1610(例如，产品描述、价格、制造商、销售商、购买产品的选择图形项)。如进一步所示，媒体内容1620(例如，嵌入式视频)和附加媒体内容1630被包括在界面1050中。在该示例中，媒体内容1620可以直接在界面1600内播放，而附加媒体内容1630可以包括相应的描述和到相关联的媒体内容(例如，相应视频)的链接。与产品有关或与媒体内容有关(例如，媒体内容1620的描述)的附加信息1622可以被包括在界面1050中。包括在界面1600中的媒体内容的类型可以至少部分地基于用户的简档数据(如上面先前所描述的)。在实施方式中，由与客户端设备102和消息收发服务器系统108分开的外部源(例如，第三方)提供(和存储)任何或所有之前提及的媒体内容。

在第二示例中，界面1650(其可以由增强现实内容生成器模块706显示在客户端设备102上)被示为具有增强现实内容1660，该增强现实内容1660指示已经作为增强现实内容1670被应用在与用户面部的表示相对应的所捕获的图像数据上的产品。以这种方式，本主题系统可以提供增强现实体验，以使得用户能够观看产品到用户面部的示例应用。

图17示出了根据一些实施方式的使得能够选择用户面部的表示的一部分以进行分析以及基于所选部分来选择指示面部特性的选项的示例界面。如上所述，图17的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备102)上显示。

在图17所示的第一示例中，提供了示出可选图形项1710(例如，指出手指的手的形状的光标)的界面1700。基于用户输入(例如，触摸输入或手势)，可选图形项1710可以由用户操纵成(例如，基于所捕获的图像数据)选择界面1700中示出的用户面部的表示的一部分。

在图17的第二示例中，提供了用于显示的包括可选图形项集合1770的界面1750，可选图形项集合1770用于选择指示如上所讨论的所选择的用户面部的表示的一部分的当前状态的特定选项。如图所示，可选图形项1770包括与三个选项(例如，“不均匀”、“薄且经常脱落”以及“厚实且饱满”)相对应的相应项。包括可选图形项1780(例如，按钮)，该可选图形项1780可以在选择了可选图形项1770之一之后被选择。在实施方式中，对可选图形项1780的选择使得在客户端设备102的显示屏幕上示出不同的界面，该界面可以包括与健康或提示有关的附加信息。

图18示出了根据一些实施方式的基于检测到的特征或面部特性(例如，皮肤类型)或用户的选择(例如，睫毛类型、干眼症)来呈现各种信息的示例界面。如上面所提及的，图18的示例界面可以被提供用于例如通过消息收发客户端应用104的界面在客户端设备(例如，客户端设备)上显示。

在图18的示例中，提供了用于在示例中选择了图17的可选图形项1780之后在客户端设备102的显示屏幕上显示的界面1800，该界面1800可以由增强现实内容生成器模块706显示在客户端设备102上。可替选地或结合地，界面1800可以被提供用于在选择图13中的可选图形项1382时显示。

如图所示，包括信息1810(例如，文本形式的媒体内容的类型)，该信息1810示出基于检测到的用户的面部特性(例如，皮肤或面部状况、眼睛状况等)的信息，该信息1810可以基于由产品标识模块704执行的分析或者至少部分地基于在图17的第二示例中讨论的由用户选择的选项。包括可选图形项1812(例如，按钮)以使得能够导航到外部源(例如，外部网站)以查看附加信息。在实施方式中，信息1810可以存储在数据库120中并且由产品标识模块704访问，信息1810然后被提供给增强现实内容生成器模块706以用于在界面1800中向用户显示。

基于信息1810中提供的信息，包括图形项1820，该图形项1820示出与产品相关的信息作为解决用户面部的状况(例如，脆弱的睫毛)的推荐。在示例中，基于所确定的面部特性，产品标识模块704可以搜索产品表316以标识与面部特性相对应的一个或更多个产品(例如，如果存在可以由特定产品解决的健康状况的话)。在该示例中，所确定的面部特性对应于“干睫毛”或“脆弱的睫毛”，并且产品标识模块704可以搜索产品表316(该产品表316填充有产品信息和其他附加元数据，该产品信息和其他附加元数据针对一个或更多个产品指示这样的产品可以通过由给定用户使用来解决何种类型的健康状况)。

应当理解，本主题技术考虑了提供对其他类型的健康状况的建议。例如，可以由本主题系统标识与干燥皮肤、油性皮肤、组合皮肤、晒伤、痤疮、湿疹、红斑痤疮、鱼鳞癣、皮炎等相对应的皮肤或健康相关状况，并且可以提供推荐(例如，产品、附加信息和媒体内容)以在界面1800(或另一界面)中呈现。此外，可以向用户提供对美容例程而不一定涉及健康状况的推荐，例如对特定理发、基于检测到的头部形状的眼镜、基于检测到的肤色的化妆品等的推荐。

如进一步示出的，媒体内容1830包括相关联的媒体内容(例如，教程或美容例程的相应视频、网络链接等)的相应预览或图形表示(例如，图像或短视频)，其对如何应用在图形项1820中示出的产品(或在界面1800中未示出的一些其他产品)进行演示。此外，包括图形项1820，图形项1820示出与第二产品相关的信息作为解决用户面部的第二状况(例如，脆弱的睫毛)的推荐。在实施方式中，由与客户端设备102和消息收发服务器系统108分开的外部源(例如，第三方)提供(和存储)任何或所有之前提及的媒体内容。媒体内容1840对应于基于呈产品的图形表示的形式的特定产品和附加信息(例如，价格、供应商信息、制造商信息、评级)的对健康相关状况(例如，“干眼症”)的推荐。

以下讨论涉及使用AR技术(例如，增强现实内容生成器)来提供试色(swatching)(例如，对眼睛周围进行着色的化妆)，其中，对调色盘进行扫描，然后将调色盘作为增强现实内容应用于用户面部的表示。此处提及的术语“试色”是指将化妆品的样本(或可以应用的其他材料或产品)应用于用户皮肤的表面以测试或演示与化妆品相关联的颜色。

图19示出了根据各种实施方式的其中用户正在捕获物理项(例如，化妆品调色盘)的图像并且基于所捕获的图像将增强现实内容显示到用户身体(例如，前臂)的表示的一部分上的示例界面。具体地，图19所示的示例示出了其中使用客户端设备102的用户使用由客户端设备102提供的摄像机来扫描物理产品(例如，化妆品调色盘)的场景。然后，客户端设备102(或产品目录系统124)对所捕获的图像执行识别过程，以在包括图形项的界面中提供附加信息，其中一些图形项可由用户选择以执行附加操作或者提供关于媒体内容的附加功能以及可以结合产品执行的任务。图19的示例界面可以被提供用于例如通过消息收发客户端应用104的一个或多个界面在客户端设备(例如，客户端设备)上显示。

在实施方式中，如之前所提及的，产品目录系统124可以包括用于识别处理的(例如，存储在数据库120上的)3D对象和图像的库。此外，产品制造商或产品销售商可以提供用于存储在产品目录系统124上的这样的模型。

在图19的第一示例中，可选图形项集合被选择并被呈现在界面1900中的轮播界面(如前所述，可以替代地使用其他类型的界面)中。与用于提供增强现实内容以供试色的特定增强现实内容生成器相对应的可选图形项1905在该示例中被示为由用户选择。在该示例中，在界面1900中提供图形动画1902，该图形动画1902指示用户已经基于摄像机的聚焦区域1903(例如，客户端设备102的显示屏幕的中间或中心区域)启动了对物理项1901(例如，美容产品)的识别处理。产品标识模块704可以执行这样的识别处理，并且图形动画1902可以由增强现实内容生成器模块706显示在客户端设备102上。在实施方式中，用户可以使用消息收发客户端应用104(例如，使用图7中描述的一个或更多个部件，例如图像数据接收模块702)来执行图像捕获处理，并且使产品在客户端设备102的摄像机的视图中，该客户端设备102将所捕获的图像数据发送至在客户端设备102上执行的产品标识模块704。在实施方式中，产品标识模块704可以分析所捕获的图像数据以确定与从图像数据中识别的产品相关联的产品元数据，包括使用之前提及的(例如，存储在数据库120上的)3D对象和图像的库来识别/标识产品。可替选地或结合地，所捕获的图像可以由产品标识模块704发送至产品目录系统124，以基于之前提及的库进行分析和识别。在标识产品时，产品元数据在被包括在数据库120中时可以被提供，产品元数据可以指示与产品相关联的颜色集合。针对颜色集合的该信息随后可以用于生成如下所述的增强现实内容。

在实施方式中，产品标识模块704可以放弃利用产品目录系统124对上述产品的标识，而代替地使用例如下面讨论的颜色的图像数据测量来标识在物理项1901中发现的不同颜色的化妆品。

在该示例中，与物理项1901的表示相对应的图像数据包括不同颜色1910、1912、1914和1916的集合，这些颜色中的每一个包括圆形区域中的相应化妆品颜色。(如本文详细描述的)图像处理技术可以用于标识颜色1910、1912、1914和1916的集合，并且然后确定圆形区域中的每一个的对应颜色(或色调)。在实施方式中，之前提及的颜色的标识可以利用各种图像处理或聚类算法(例如，k均值等)。在示例中，可以从与圆形区域中的每一个相对应的图像数据的每个像素中提取颜色值。在实施方式中，可以生成与图像数据中的针对特定颜色值的像素的坐标相对应的元数据以包括在消息中。

对于同一圆形区域内的像素集合，可以对这些像素的相应颜色值求平均以确定与区域相关联的平均颜色值。可以针对圆形区域中的每一个来确定相应平均颜色值，并且随后由特定增强现实内容生成器使用以生成如下所述的增强现实内容。可以利用其他技术来标识与来自特定圆形区域的像素的颜色值相关联的颜色值。在实施方式中，所标识的颜色值可以基于圆形区域的主要颜色(例如，基于颜色值中出现的最高频率)。

在一些实施方式中，可以利用各种纹理转移或纹理映射技术来基于圆形区域生成增强现实内容。在该示例中，可以与包括物理项1901的表示的图像数据中的圆形区域中的每一个相对应地确定纹理信息。然后，如下文所讨论的，可以由给定的增强现实内容生成器将纹理信息映射到在图像数据中标识的不同对象的表面(或其部分)上。

尽管在图19中讨论了圆形区域，但是应当理解，可以以与本文所讨论的方式类似的方式来分析其他几何形状或多边形(例如，矩形、正方形、六边形、八边形等)以标识颜色或纹理映射，并且其他几何形状或多边形仍然在本主题技术的范围内。可以理解，之前提及的纹理传输、纹理映射和颜色标识技术可以彼此组合地使用、按照各种执行顺序使用或单独使用。

在图19的第二示例中，提供了界面1950，界面1950至少部分地基于上述图像和对象识别来示出增强现实内容，界面1950可以由增强现实内容生成器模块706接收并显示在客户端设备102上。如图所示，由客户端设备102的摄像机捕获的图像数据作为用户的前臂的表示1960被显示在客户端设备102的显示屏幕上。至少部分地基于从物理项1901的表示中标识出的圆形区域的颜色，与可选图形项1905相对应的特定增强现实内容生成器生成增强现实内容1970，该增强现实内容1970被呈现以由增强现实内容生成器模块706显示在客户端设备102上。可替选地或结合地，特定增强现实内容生成器使用纹理转移或纹理映射技术来生成增强现实内容1970。如图所示，增强现实内容1970包括与所标识的物理项1901的颜色(或纹理)相对应的颜色的相应虚拟试色，这些颜色的相应虚拟试色被叠加或映射在与用户的前臂的表示1960相对应的表面上。尽管虚拟试色以基本上竖直的布置被示出，但是应当理解，可以根据虚拟试色所呈现的表面的位置来提供虚拟试色的其他布置(例如，水平的)。如进一步所示，每个虚拟试色包括指示颜色类型(或化妆品属性等)的附加信息。

图20是示出根据某些示例实施方式的响应于扫描产品(例如，美容产品)来提供所选择的信息和媒体内容的方法2000的流程图。方法2000可以包含在计算机可读指令中，该计算机可读指令用于由一个或更多个计算机处理器执行，使得方法2000的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个部件)部分地或整体地执行；因此，下面参考其通过示例的方式来描述方法2000。然而，应当理解，方法2000的至少一些操作可以被部署在各种其他硬件配置上，并且方法2000并不旨在限于消息收发客户端应用104。

在操作2002处，图像数据接收模块702接收包括物理项的表示的图像数据。在示例中，物理项是美容产品。

在操作2004处，产品标识模块704分析图像数据以确定与物理项相对应的对象。在实施方式中，分析图像数据以确定与物理项相对应的对象还包括执行对象识别算法以标识对象。

在实施方式中，产品标识模块704分析物理项的标识指示符，确定物理项的标识指示符是否包括条形码的表示，并且响应于确定物理项的标识指示符包括条形码的表示，从条形码的表示中提取产品元数据。在实施方式中，确定物理项的标识指示符是否包括条形码的表示包括执行识别操作以识别与物理项相关联的条形码的表示。在示例中，标识指示符还包括与物理项相对应的通用产品代码(UPC)的表示。

在操作2006处，产品标识模块704基于所确定的对象来提取产品元数据。在实施方式中，基于所确定的对象来提取产品元数据还包括：将所标识的对象与对象的库进行比较，来自对象的库的每个对象包括具有与产品相对应的产品信息的相关联元数据；至少部分地基于置信度得分高于阈值来确定所标识的对象与来自对象的库的特定对象相匹配；以及提供特定对象的相关联元数据。

在操作2008处，产品标识模块704向服务器发送产品元数据以确定与产品元数据相关联的第二产品元数据。第二产品元数据包括来自外部源的媒体内容，该外部源不同于客户端设备所使用的消息收发平台。

在操作2010处，产品标识模块704从服务器接收第二产品元数据，第二产品元数据包括与物理项相关的附加信息。

在操作2012处，增强现实内容生成器模块706使得至少部分地基于第二产品元数据在客户端设备处显示与物理项相关的附加信息。附加信息包括与美容产品的类似产品集合相关的信息以及与美容产品相关联的成分列表。此外，增强现实内容生成器模块706使得在客户端设备处显示用于购买美容产品的可选图形项。

图21是示出根据某些示例实施方式的基于用户的简档信息来提供所选择的信息和媒体内容的方法2100的流程图。方法2100可以包含在计算机可读指令中，所述计算机可读指令用于由一个或更多个计算机处理器执行，使得方法2100的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个部件)部分地或整体地执行；因此，下面参考其通过示例的方式来描述方法2100。然而，应当理解，方法2100的操作中的至少一些可以被部署在各种其他硬件配置上，并且方法2100并不旨在限于消息收发客户端应用104。

在操作2102处，产品标识模块704确定与消息收发系统的用户相关联的专业级别，该专业级别至少部分地基于特定产品类别中的用户活动。在示例中，专业级别对应于特定产品段。此外，专业级别可以与角色相关联。

在实施方式中，确定与用户相关联的专业级别基于与用户相关联的简档信息。简档信息基于用户的活动的历史信息。

在实施方式中，确定与消息收发系统的用户相关联的专业级别包括确定与用户的用户活动相关联的得分值的集合的总和。基于该总和，在多个不同级别之中确定特定级别以与用户相关联，该特定级别对应于专业级别。

在操作2104处，产品标识模块704至少部分地基于所确定的专业级别来选择与特定产品相对应的媒体内容。

在实施方式中，选择与特定产品相对应的媒体内容包括：至少部分地基于用户的活动的历史信息来标识媒体内容集合，针对该媒体内容集合中的每一个来确定相关联的专业级别的相应指示符，以及从具有相关联的专业级别的媒体内容集合中选择与该专业级别相对应的特定媒体内容。所选择的特定媒体包括至少一个视频或增强现实内容生成器。所选择的媒体内容由与客户端设备和消息收发系统分离的外部源提供。

在操作2106处，产品标识模块704使得在客户端设备处显示所选择的与特定产品相关的媒体内容。此外，在界面中，接收从所选择的媒体内容中对特定媒体内容的选择，这可以引起特定媒体内容的回放或访问。

图22是示出根据某些示例实施方式的基于分析用户面部的面部特征来提供推荐的方法2200的流程图。方法2200可以包含在计算机可读指令中，所述计算机可读指令用于由一个或更多个计算机处理器执行，使得方法2200的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个部件)部分地或整体地执行；因此，下面参考其通过示例的方式来描述方法2200。然而，应当理解，方法2200的至少一些操作可以被部署在各种其他硬件配置上，并且方法2200不旨在限于消息收发客户端应用104。

在操作2202处，图像数据接收模块702接收包括用户面部的表示的图像数据。在示例中，图像数据由客户端设备102的前置摄像机捕获。

在操作2204处，产品标识模块704分析图像数据以确定面部的表示的特性集合。在示例中，所确定的特性集合包括在面部的表示中标识的健康相关特性。在另一示例中，所确定的特性集合包括面部的形状或面部的肤色。

在实施方式中，分析图像数据以确定面部的表示的特性集合包括：执行面部特征检测处理以检测第一面部特征，以及标识与检测到的第一面部特征相关联的健康相关特性。在示例中，面部特征检测处理对应于机器学习算法。在另一示例中，机器学习算法基于神经网络模型。此外，可以执行第二面部特征检测处理以检测第一面部特征，其中，第二面部特征检测处理不同于面部特征检测处理。

在实施方式中，分析图像数据是基于面部的表示的所选择的部分。

在操作2206处，产品标识模块704至少部分地基于所确定的特性集合来选择特定产品以及与特定产品相关联的媒体内容集合。

在实施方式中，选择特定产品和媒体内容集合还包括搜索产品表以标识与所确定的特性集合相关的至少一个产品，所述至少一个产品包括在被使用时解决所确定的特性集合中包括的面部状况的产品。

在操作2208处，增强现实内容生成器模块706使得在客户端设备处显示对应于与特定产品相关联的媒体内容集合的至少一个推荐。在示例中，至少一个推荐对应于建议的增强内容现实生成器、媒体内容或与来自所确定的特性集合的至少一个特性相关的附加文本信息。

图23是示出根据某些示例实施方式的提供与基于特定美容产品(例如，化妆品调色盘)的试色相对应的增强现实内容的方法2300的流程图。方法2300可以包含在计算机可读指令中，所述计算机可读指令用于由一个或更多个计算机处理器执行，使得方法2300的操作可以由消息收发客户端应用104(特别是关于上面在图7中描述的注释系统206的各个部件)部分地或整体地执行；因此，下面参考其通过示例的方式来描述方法2300。然而，应当理解，方法2300的至少一些操作可以被部署在各种其他硬件配置上，并且方法2300并不旨在限于消息收发客户端应用104。

在操作2302处，图像数据接收模块702接收包括物理项的表示的图像数据。在示例中，物理项对应于美容产品，该美容产品对应于化妆品调色盘。

在操作2304处，产品标识模块704分析图像数据以确定与物理项相对应的对象。

在操作2306处，产品标识模块704标识与所确定的对象的区域集合相对应的颜色集合。在示例中，所标识的颜色集合对应于包括所确定的对象的区域集合的图像数据的一部分中所包括的第二颜色集合。区域集合中的每个区域与特定颜色相关联。

在实施方式中，标识颜色集合还包括从所确定的对象的区域集合中确定特定区域中的像素的颜色值集合，基于颜色集合的平均值来确定代表性颜色值。

在实施方式中，基于来自所确定的对象的区域集合的像素来确定纹理集合。

在操作2308处，产品标识模块704分析第二图像数据以检测与用户的特定身体部分的表示相对应的第二对象。在示例中，用户的特定身体部分包括前臂。

在实施方式中，分析第二图像数据还包括：执行身体特征检测处理以检测第一身体特征以及标识与检测到的第一身体特征相对应的特定身体部分。

在操作2310处，增强现实内容生成器模块706至少部分地基于所标识的颜色集合和检测到的第二对象来生成增强现实内容。

在实施方式中，生成增强现实内容还包括：基于代表性颜色值生成形状以及将该形状映射到与特定身体部分的表示相对应的第二对象的表面。

在实施方式中，生成增强现实内容还包括：基于纹理集合来执行到与特定身体部分的表示相对应的第二对象的表面的纹理转移处理。

在操作2312处，增强现实内容生成器模块706使得在客户端设备处显示应用于检测到的第二对象的增强现实内容。

图24是示出示例软件架构2406的框图，该示例软件架构2406可以与本文中描述的各种硬件架构结合使用。图24是软件架构的非限制性示例，并且应当理解的是，可以实现许多其他架构以促进本文中描述的功能。软件架构2406可以在诸如图25的机器2500的硬件上执行，机器2500包括处理器2504、存储器2514和(输入/输出)I/O部件2518等。示出了代表性硬件层2452并且该代表性硬件层2452可以表示例如图25的机器2500。代表性硬件层2452包括具有相关联的可执行指令2404的处理单元2454。可执行指令2404表示软件架构2406的可执行指令，包括本文中描述的方法、部件等的实现方式。硬件层2452还包括也具有可执行指令2404的存储器或存储模块存储器/存储装置2456。硬件层2452还可以包括其他硬件2458。

在图24的示例架构中，软件架构2406可以被概念化为层的堆叠，在所述层的堆叠中，每个层提供特定功能。例如，软件架构2406可以包括诸如操作系统2402、库2420、框架/中间件2418、应用2416和表示层2414的层。在操作上，这些层内的应用2416或其他组件可以通过软件堆栈调用API调用2408并且接收如在消息2412中的对API调用2408的响应。所示出的层在本质上是代表性的，并且并不是所有软件架构都具有所有层。例如，一些移动操作系统或专用操作系统可能不提供框架/中间件2418，而其他操作系统可能提供这样的层。其他软件架构可以包括另外的或不同的层。

操作系统2402可以管理硬件资源并且提供公共服务。操作系统2402可以包括例如核2422、服务2424和驱动器2426。核2422可以用作硬件层与其他软件层之间的抽象层。例如，核2422可以负责存储器管理、处理器管理(例如，调度)、部件管理、联网、安全设置等。服务2424可以为其他软件层提供其他公共服务。驱动器2426负责控制底层硬件或与底层硬件对接。例如，根据硬件配置，驱动器2426包括显示器驱动器、摄像装置驱动器、

驱动器、闪速存储器驱动器、串行通信驱动器(例如，通用串行总线(USB)驱动器)、

驱动器、音频驱动器、电源管理驱动器等。

库2420提供由应用2416或其他部件或层使用的公共基础设施。库2420提供如下功能，该功能允许其他软件组件以比与底层操作系统2402的功能(例如，核2422、服务2424或驱动器2426)直接对接的方式更容易的方式来执行任务。库2420可以包括系统库2444(例如，C标准库)，系统库2444可以提供函数，例如存储器分配函数、串操纵函数、数学函数等。另外，库2420可以包括API库2446，例如媒体库(例如，支持诸如MPREG4、H.264、MP3、AAC、AMR、JPG、PNG的各种媒体格式的呈现和操纵的库)、图形库(例如，可以用于在显示器上以图形内容呈现2D和3D的OpenGL框架)、数据库库(例如，可以提供各种关系数据库功能的SQLite)、网络库(例如，可以提供网络浏览功能的WebKit)等。库2420还可以包括各种其他库2448，以向应用2416和其他软件组件/模块提供许多其他API。

框架/中间件2418(有时也被称为中间件)提供可以由应用2416或其他软件组件/模块使用的较高级别的公共基础设施。例如，框架/中间件2418可以提供各种图形用户界面(GUI)功能、高级资源管理、高级位置服务等。框架/中间件2418可以提供可以由应用2416或其他软件组件/模块使用的广泛的其他API，其中一些可以专用于特定操作系统2402或平台。

应用2416包括内置应用2438或第三方应用2440。代表性内置应用2438的示例可以包括但不限于：联系人应用、浏览器应用、图书阅读器应用、位置应用、媒体应用、消息收发应用或游戏应用。第三方应用2440可以包括由除了特定平台的供应商之外的实体使用ANDROID^TM或IOS^TM软件开发工具包(SDK)开发的应用，并且可以是在诸如IOS^TM、ANDROID^TM、

电话的移动操作系统或其他移动操作系统上运行的移动软件。第三方应用2440可以调用由移动操作系统(例如，操作系统2402)提供的API调用2408，以有助于本文中描述的功能。

应用2416可以使用内置操作系统功能(例如，核2422、服务2424或驱动器2426)、库2420和框架/中间件2418来创建用户接口以与系统的用户进行交互。可替选地或另外地，在一些系统中，可以通过表示层例如表示层2414来进行与用户的交互。在这些系统中，应用/组件“逻辑”可以与应用/组件的与用户交互的方面分开。

图25是示出根据一些示例实施方式的能够从机器可读介质(例如，机器可读存储介质)读取指令并执行本文所讨论的方法中的任何一种或更多种方法的机器2500的部件的框图。具体地，图25示出了呈计算机系统的示例形式的机器2500的示意表示，在该机器2500内可以执行用于使机器2500执行本文讨论的方法中的任何一种或更多种方法的指令2510(例如，软件、程序、应用、小程序、app或其他可执行代码)。同样地，指令2510可以被用于实现本文中描述的模块或组件。指令2510将通用的未编程的机器2500转换成被编程成以所描述的方式执行所描述和所示出的功能的特定机器2500。在替选实施方式中，机器2500作为独立装置进行操作或者可以耦接(例如，联网)至其他机器。在联网部署中，机器2500可以在服务器-客户端网络环境中以服务器机器或客户端机器的身份进行操作，或者在对等(或分布式)网络环境中作为对等机器进行操作。机器2500可以包括但不限于：服务器计算机、客户端计算机、个人计算机(PC)、平板计算机、膝上型计算机、上网本、机顶盒(STB)、个人数字助理(PDA)、娱乐媒体系统、蜂窝电话、智能电话、移动设备、可穿戴设备(例如，智能手表)、智能家居设备(例如，智能电器)、其他智能设备、web装置、网络路由器、网络交换机、网络桥接器、或者能够顺序地或以其他方式执行指定要由机器2500采取的动作的指令2510的任何机器。此外，虽然仅示出了单个机器2500，但是术语“机器”还应该被视为包括单独或联合执行指令2510以执行本文中讨论的方法中的任何一个或更多个方法的机器的集合。

机器2500可以包括处理器2504(包括处理器2508至处理器2512)、存储器/存储装置2506和I/O部件2518，它们可以被配置成例如经由总线2502彼此进行通信。存储器/存储装置2506可以包括存储器2514例如主存储器或其他存储装置以及存储单元2516，处理器2504能够例如经由总线2502访问存储器2514和存储单元2516两者。存储单元2516和存储器2514存储体现本文中描述的方法或功能中的任何一个或更多个方法或功能的指令2510。指令2510还可以在其被机器2500执行期间完全地或部分地驻留在存储器2514内、存储单元2516内、处理器2504中的至少一个内(例如，处理器的高速缓冲存储器内)或者它们的任何合适的组合内。因此，存储器2514、存储单元2516以及处理器2504的存储器是机器可读介质的示例。

I/O部件2518可以包括接收输入、提供输出、产生输出、传送信息、交换信息、捕获测量结果等的各种各样的部件。包括在特定机器2500中的具体I/O部件2518将取决于机器的类型。例如，诸如移动电话的便携式机器将很可能包括触摸输入装置或其他这样的输入机构，而无头服务器(headless server)机器将很可能不包括这样的触摸输入装置。将理解的是，I/O部件2518可以包括图25中未示出的许多其他部件。仅仅为了简化下面的讨论，I/O部件2518根据功能被分组，并且分组决不是限制性的。在各种示例实施方式中，I/O部件2518可以包括输出部件2526和输入部件2528。输出部件2526可以包括视觉部件(例如，诸如等离子显示面板(PDP)、发光二极管(LED)显示器、液晶显示器(LCD)、投影仪或阴极射线管(CRT)的显示器)、听觉部件(例如，扬声器)、触觉部件(例如，振动马达、阻力机构)、其他信号发生器等。输入部件2528可以包括字母数字输入部件(例如，键盘、被配置成接收字母数字输入的触摸屏、光电键盘或其他字母数字输入部件)、基于点的输入部件(例如，鼠标、触摸板、轨迹球、操纵杆、运动传感器或其他定点仪器)、触觉输入部件(例如，物理按钮、提供触摸或触摸手势的位置或力的触摸屏或其他触觉输入部件)、音频输入部件(例如，麦克风)等。

在其他示例实施方式中，I/O部件2518可以包括生物特征识别部件2530、运动部件2534、环境部件2536或定位部件2538以及各种其他部件。例如，生物特征识别部件2530可以包括用于检测表达(例如，手表达、面部表情、声音表达、身体姿势或眼睛跟踪)、测量生物信号(例如，血压、心率、体温、出汗或脑波)、识别人(例如，语音识别、视网膜识别、面部识别、指纹识别或基于脑电图的识别)等的部件。运动部件2534可以包括加速度传感器部件(例如，加速度计)、重力传感器部件、旋转传感器部件(例如，陀螺仪)等。环境部件2536可以包括例如照明传感器部件(例如，光度计)、温度传感器部件(例如，检测周围温度的一个或更多个温度计)、湿度传感器部件、压力传感器部件(例如，气压计)、听觉传感器部件(例如，检测背景噪声的一个或更多个麦克风)、接近传感器部件(例如，检测附近物体的红外传感器)、气体传感器(例如，出于安全考虑而检测危险气体的浓度或者测量大气中的污染物的气体检测传感器)或者可以提供与周围物理环境对应的指示、测量或信号的其他部件。定位部件2538可以包括定位传感器部件(例如，GPS接收器部件)、海拔高度传感器部件(例如，检测可以从其得出海拔高度的气压的高度计或气压计)、取向传感器部件(例如，磁力计)等。

可以使用各种各样的技术来实现通信。I/O部件2518可以包括通信部件2540，该通信部件2540能够操作成分别经由耦接2524和耦接2522将机器2500耦接至网络2532或设备2520。例如，通信部件2540可以包括网络接口部件或其他合适的设备以与网络2532对接。在其他示例中，通信部件2540可以包括有线通信部件、无线通信部件、蜂窝通信部件、近场通信(NFC)部件、

部件(例如，低功耗

)、

部件以及经由其他模态提供通信的其他通信部件。设备2520可以是另一机器或各种外围设备中的任何外围设备(例如，经由USB耦接的外围设备)。

此外，通信部件2540可以检测标识符或包括可操作成检测标识符的部件。例如，通信部件2540可以包括射频识别(RFID)标签读取器部件、NFC智能标签检测部件、光学读取器部件(例如，用于检测下述项的光学传感器：一维条形码诸如通用产品代码(UPC)条形码；多维条形码，诸如快速响应(QR)代码、Aztec代码、数据矩阵、数据图示符(Dataglyph)、麦克斯码(MaxiCode)、PDF417、超代码、UCC RSS-2D条形码和其他光学代码)、或者声学检测部件(例如，用于标识标记的音频信号的麦克风)。另外，可以经由通信部件2540得到各种信息，例如，经由因特网协议(IP)地理位置得到位置、经由

信号三角测量得到位置、经由检测可以指示特定位置的NFC信标信号得到位置等。

以下讨论涉及贯穿本主题公开内容提及的各种术语或短语。

“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质，并且包括数字或模拟通信信号或其他无形介质以有助于软件或数据的通信。术语“信号介质”应当被视为包括任何形式的经调制的数据信号、载波等。术语“经调制的数据信号”意指使其特性中的一个或更多个特性以对信号中的信息进行编码的这样的方式来设置或改变的信号。术语“传输介质”和“信号介质”意指相同的事物，并且可以在本公开内容中互换使用。

“通信网络”是指网络的一个或更多个部分，该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、

网络、另一类型的网络、或者两个或更多个这样的网络的组合。例如，网络或网络的一部分可以包括无线网络或蜂窝网络，并且耦接可以是码分多址(CDMA)连接、全球移动通信系统(GSM)连接或其他类型的蜂窝或无线耦接。在该示例中，耦接可以实现各种类型的数据传输技术中的任何数据传输技术，例如单载波无线电传输技术(1xRTT)、演进数据优化(EVDO)技术、通用分组无线电服务(GPRS)技术、GSM演进的增强数据速率(EDGE)技术、包括3G的第三代合作伙伴计划(3GPP)、第四代无线(4G)网络、通用移动通信系统(UMTS)、高速分组接入(HSPA)、全球微波接入互操作性(WiMAX)、长期演进(LTE)标准、由各种标准设置组织定义的其他数据传输技术、其他长距离协议或其他数据传输技术。

“处理器”是指根据控制信号(例如，“命令”、“操作码”、“机器码”等)操纵数据值并且产生被应用以操作机器的对应输出信号的任何电路或虚拟电路(由在实际处理器上执行的逻辑模拟的物理电路)。例如，处理器可以是中央处理单元(CPU)、简化指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)或它们的任何组合。处理器还可以是具有可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)的多核处理器。

“机器存储介质”指的是存储可执行指令、例程或数据的单个或多个存储设备或介质(例如，集中式或分布式数据库、或相关联的高速缓冲存储器和服务器)。因此，上述术语应被视为包括但不限于固态存储器以及光学和磁性介质，包括处理器内部或外部的存储器。机器存储介质、计算机存储介质或设备存储介质的具体示例包括：非易失性存储器，包括例如半导体存储器设备，例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪速存储器设备；磁盘，例如内部硬盘和可移动磁盘；磁光盘；以及CD-ROM和DVD-ROM磁盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物，并且在本公开内容中可以互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、经调制的数据信号和其他这样的介质，载波、经调制的数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。

“部件”是指具有以下边界的设备、物理实体或逻辑，所述边界由功能或子例程调用、分支点、API或提供用于对特定处理或控制功能进行划分或模块化的其他技术来定义。部件可以经由它们的接口与其他部件组合以执行机器处理。部件可以是被设计用于与其他部件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。部件可以构成软件部件(例如，体现在机器可读介质上的代码)或硬件部件。“硬件部件”是能够执行某些操作的有形单元，并且可以以某种物理方式来配置或布置。在各种示例实施方式中，一个或更多个计算机系统(例如，独立计算机系统、客户端计算机系统或服务器计算机系统)或计算机系统的一个或更多个硬件部件(例如，处理器或处理器组)可以通过软件(例如，应用或应用部分)被配置为操作成执行如本文中描述的某些操作的硬件部件。也可以机械地、电子地或其任何合适的组合来实现硬件部件。例如，硬件部件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件部件可以是专用处理器，例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。硬件部件还可以包括通过软件被短暂配置成执行某些操作的可编程逻辑或电路系统。例如，硬件部件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置，则硬件部件成为被唯一地定制成执行配置的功能的特定机器(或机器的特定部件)，并且不再是通用处理器。将理解的是，可以出于成本和时间考虑来推动在专用且永久配置的电路系统中或在短暂配置(例如，通过软件配置)的电路系统中机械地实现硬件部件的决策。因此，短语“硬件部件”(或者“硬件实现的部件”)应当被理解成包含有形实体，即为被物理构造、永久配置(例如，硬连线)或短暂配置(例如，编程)成以某种方式进行操作或者执行本文中描述的某些操作的实体。考虑硬件部件被短暂配置(例如，被编程)的实施方式，无需在任一时刻对硬件部件中的每个硬件部件进行配置或实例化。例如，在硬件部件包括通过软件被配置成专用处理器的通用处理器的情况下，该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如，包括不同的硬件部件)。软件相应地配置一个特定处理器或多个特定处理器以例如在一个时刻处构成特定硬件部件并且在不同的时刻处构成不同的硬件部件。硬件部件可以向其他硬件部件提供信息并且从其他硬件部件接收信息。相应地，所描述的硬件部件可以被认为是通信上耦接的。在同时存在多个硬件部件的情况下，可以通过在两个或更多个硬件部件之间或之中的信号传输(例如，通过适当的电路和总线)来实现通信。在其中多个硬件部件在不同时间处被配置或被实例化的实施方式中，可以例如通过将信息存储在多个硬件部件可以访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件部件之间的通信。例如，一个硬件部件可以执行操作，并且将该操作的输出存储在通信上耦接的存储器设备中。然后，另外的硬件部件可以在随后的时间处访问存储器设备，以检索和处理所存储的输出。硬件部件还可以发起与输入设备或输出设备的通信，并且可以对资源进行操作(例如，信息的收集)。本文中描述的示例方法的各种操作可以至少部分地由暂时被配置(例如，由软件)或永久地被配置成执行相关操作的一个或更多个处理器来执行。无论是短暂配置还是永久配置，这样的处理器可以构成进行操作以执行本文描述的一个或更多个操作或功能的处理器实现的部件。如本文中使用的，“处理器实现的部件”是指使用一个或更多个处理器实现的硬件部件。类似地，本文中描述的方法可以至少部分地由处理器实现，其中，特定的一个或多个处理器是硬件的示例。例如，方法的至少一些操作可以由一个或更多个处理器或处理器实现的部件来执行。此外，一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如，操作中的至少一些操作可以由一组计算机(作为包括处理器的机器的示例)执行，其中，这些操作能够经由网络(例如，因特网)并且经由一个或更多个适当的接口(例如，API)被访问。某些操作的执行可以分布在处理器之间，不仅驻留在单个机器内，而且跨多个机器被部署。在一些示例实施方式中，处理器或处理器实现的部件可以位于单个地理位置中(例如，在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中，处理器或处理器实现的部件可以跨多个地理位置分布。

“载波信号”是指能够存储、编码或携载由机器执行的指令的任何无形介质，并且包括数字或模拟通信信号或其他无形介质以有助于这样的指令的通信。可以使用传输介质经由网络接口设备来通过网络发送或接收指令。

“计算机可读介质”是指机器存储介质和传输介质两者。因此，这些术语包括存储设备/介质和载波/经调制的数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物，并且可以在本公开内容中可互换地使用。

“客户端设备”是指与通信网络接口以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。在本公开内容中，客户端设备也被称为“电子设备”。

“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。可替选地，访问时间可以是默认设置或者由接收者指定的设置。无论设置技术如何，该消息都是暂时的。

“信号介质”是指能够存储、编码或携载由机器执行的指令的任何无形介质，并且包括数字或模拟通信信号或其他无形介质以有助于软件或数据的通信。术语“信号介质”应当被视为包括任何形式的经调制的数据信号、载波等。术语“经调制的数据信号”意指使其特性中的一个或更多个特性以对信号中的信息进行编码的这样的方式来设置或改变的信号。术语“传输介质”和“信号介质”意指相同的事物，并且可以在本公开内容中互换使用。

“通信网络”是指网络的一个或更多个部分，该网络可以是自组织网络、内联网、外联网、虚拟专用网络(VPN)、局域网(LAN)、无线LAN(WLAN)、广域网(WAN)、无线WAN(WWAN)、城域网(MAN)、因特网、因特网的一部分、公共交换电话网(PSTN)的一部分、普通老式电话服务(POTS)网络、蜂窝电话网络、无线网络、

网络、其他类型的网络或者两个或更多个这样的网络的组合。例如，网络或网络的一部分可以包括无线网络或蜂窝网络，并且耦接可以是码分多址(CDMA)连接、全球移动通信系统(GSM)连接或其他类型的蜂窝或无线耦接。在该示例中，耦接可以实现各种类型的数据传输技术中的任何数据传输技术，例如单载波无线电传输技术(1xRTT)、演进数据优化(EVDO)技术、通用分组无线电服务(GPRS)技术、GSM演进的增强数据速率(EDGE)技术、包括3G的第三代合作伙伴计划(3GPP)、第四代无线(4G)网络、通用移动通信系统(UMTS)、高速分组接入(HSPA)、全球微波接入互操作性(WiMAX)、长期演进(LTE)标准、由各种标准设置组织定义的其他数据传输技术、其他长距离协议或其他数据传输技术。

“处理器”是指根据控制信号(例如，“命令”、“操作码”、“机器码”等)操纵数据值并且产生被应用以操作机器的对应输出信号的任何电路或虚拟电路(由在实际处理器上执行的逻辑模拟的物理电路)。例如，处理器可以是中央处理单元(CPU)、简化指令集计算(RISC)处理器、复杂指令集计算(CISC)处理器、图形处理单元(GPU)、数字信号处理器(DSP)、专用集成电路(ASIC)、射频集成电路(RFIC)或它们的任何组合。处理器还可以是具有可以同时执行指令的两个或更多个独立处理器(有时被称为“核”)的多核处理器。

“机器存储介质”指的是存储可执行指令、例程或数据的单个或多个存储设备或介质(例如，集中式或分布式数据库、或相关联的高速缓冲存储器和服务器)。因此，上述术语应被视为包括但不限于固态存储器以及光学和磁性介质，包括处理器内部或外部的存储器。机器存储介质、计算机存储介质或设备存储介质的具体示例包括：非易失性存储器，包括例如半导体存储器设备，例如可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、FPGA和闪速存储器设备；磁盘，例如内部硬盘和可移动磁盘；磁光盘；以及CD-ROM和DVD-ROM磁盘。术语“机器存储介质”、“设备存储介质”、“计算机存储介质”意指相同的事物，并且在本公开内容中可以互换使用。术语“机器存储介质”、“计算机存储介质”和“设备存储介质”明确地排除了载波、经调制的数据信号和其他这样的介质，载波、经调制的数据信号和其他这样的介质中的至少一些被涵盖在术语“信号介质”中。

“部件”是指具有以下边界的设备、物理实体或逻辑，所述边界由功能或子例程调用、分支点、API或提供用于对特定处理或控制功能进行划分或模块化的其他技术来定义。部件可以经由它们的接口与其他部件组合以执行机器处理。部件可以是被设计用于与其他部件一起使用的经封装的功能硬件单元并且可以是通常执行相关功能中的特定功能的程序的一部分。部件可以构成软件部件(例如，体现在机器可读介质上的代码)或硬件部件。“硬件部件”是能够执行某些操作的有形单元，并且可以以某种物理方式来配置或布置。在各种示例实施方式中，一个或更多个计算机系统(例如，独立计算机系统、客户端计算机系统或服务器计算机系统)或计算机系统的一个或更多个硬件部件(例如，处理器或处理器组)可以通过软件(例如，应用或应用部分)被配置为进行操作以执行如本文中描述的某些操作的硬件部件。也可以机械地、电子地或其任何合适的组合来实现硬件部件。例如，硬件部件可以包括被永久地配置成执行某些操作的专用电路系统或逻辑。硬件部件可以是专用处理器，例如现场可编程门阵列(FPGA)或专用集成电路(ASIC)。硬件部件还可以包括通过软件被短暂配置成执行某些操作的可编程逻辑或电路系统。例如，硬件部件可以包括由通用处理器或其他可编程处理器执行的软件。一旦通过这样的软件被配置，则硬件部件成为被唯一地定制成执行配置的功能的特定机器(或机器的特定部件)，并且不再是通用处理器。将理解的是，可以出于成本和时间考虑来推动在专用且永久配置的电路系统中或在短暂配置(例如，通过软件配置)的电路系统中机械地实现硬件部件的决策。因此，短语“硬件部件”(或者“硬件实现的部件”)应当被理解成包含有形实体，即为被物理构造、永久配置(例如，硬连线)或短暂配置(例如，被编程)成以某种方式进行操作或者执行本文中描述的某些操作的实体。考虑硬件部件被短暂配置(例如，被编程)的实施方式，无需在任一时刻对硬件部件中的每个硬件部件进行配置或实例化。例如，在硬件部件包括通过软件配置成专用处理器的通用处理器的情况下，该通用处理器可以在不同时间处分别被配置为不同的专用处理器(例如，包括不同的硬件部件)。软件相应地配置一个特定处理器或多个特定处理器以例如在一个时刻处构成特定硬件部件并且在不同时刻处构成不同的硬件部件。硬件部件可以向其他硬件部件提供信息并且从其他硬件部件接收信息。相应地，所描述的硬件部件可以被认为是通信上耦接的。在同时存在多个硬件部件的情况下，可以通过在两个或更多个硬件部件之间或之中的信号传输(例如，通过适当的电路和总线)来实现通信。在其中多个硬件部件在不同时间处被配置或被实例化的实施方式中，可以例如通过将信息存储在多个硬件部件可以访问的存储器结构中并且在该存储器结构中检索信息来实现这样的硬件部件之间的通信。例如，一个硬件部件可以执行操作，并且将该操作的输出存储在通信上耦接的存储器设备中。然后，另外的硬件部件可以在随后的时间处访问存储器设备，以检索和处理所存储的输出。硬件部件还可以发起与输入或输出设备的通信，并且可以对资源进行操作(例如，信息的收集)。本文中描述的示例方法的各种操作可以至少部分地由被短暂地配置(例如，由软件)或被永久地配置成执行相关操作的一个或更多个处理器来执行。无论是短暂配置还是永久配置，这样的处理器可以构成进行操作以执行本文描述的一个或更多个操作或功能的处理器实现的部件。如本文中使用的，“处理器实现的部件”是指使用一个或更多个处理器实现的硬件部件。类似地，本文中描述的方法可以至少部分地由处理器实现，其中，特定的一个或多个处理器是硬件的示例。例如，方法的至少一些操作可以由一个或更多个处理器或处理器实现的部件来执行。此外，一个或更多个处理器还可以进行操作以支持“云计算”环境中的相关操作的执行或者操作为“软件即服务”(SaaS)。例如，操作中的至少一些操作可以由一组计算机(作为包括处理器的机器的示例)执行，其中，这些操作能够经由网络(例如，因特网)并且经由一个或更多个适当的接口(例如，API)被访问。某些操作的执行可以分布在处理器之间，不仅驻留在单个机器内，而且跨多个机器被部署。在一些示例实施方式中，处理器或处理器实现的部件可以位于单个地理位置中(例如，在家庭环境、办公室环境或服务器群内)。在其他示例实施方式中，处理器或处理器实现的部件可以跨多个地理位置分布。

“载波信号”是指能够存储、编码或携载由机器执行的指令的任何无形介质，并且包括数字或模拟通信信号或其他无形介质以有助于这样的指令的通信。可以使用传输介质经由网络接口设备来通过网络发送或接收指令。

“计算机可读介质”是指机器存储介质和传输介质两者。因此，这些术语包括存储设备/介质和载波/经调制的数据信号两者。术语“机器可读介质”、“计算机可读介质”和“设备可读介质”意指相同的事物，并且可以在本公开内容中可互换地使用。

“客户端设备”是指与通信网络对接以从一个或更多个服务器系统或其他客户端设备获得资源的任何机器。客户端设备可以是但不限于移动电话、桌上型计算机、膝上型计算机、便携式数字助理(PDA)、智能电话、平板计算机、超级本、上网本、膝上型计算机、多处理器系统、基于微处理器或可编程消费电子产品、游戏控制台、机顶盒或用户可以用于访问网络的任何其他通信设备。

“短暂消息”是指在时间有限的持续时间内可访问的消息。短暂消息可以是文本、图像、视频等。针对短暂消息的访问时间可以由消息发送者设置。可替选地，访问时间可以是默认设置或者由接收者指定的设置。无论设置技术如何，该消息都是暂时的。

Claims (80)

1.一种方法，包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

基于所确定的对象来提取产品元数据；

向服务器发送所述产品元数据以确定与所述产品元数据相关联的第二产品元数据；

从所述服务器接收所述第二产品元数据，所述第二产品元数据包括与所述物理项相关的附加信息；以及

使得至少部分地基于所述第二产品元数据在客户端设备处显示与所述物理项相关的附加信息。

2.根据权利要求1所述的方法，其中，分析所述图像数据以识别所述对象还包括：

分析所述物理项的标识指示符；

确定所述物理项的标识指示符是否包括条形码的表示；以及

响应于确定所述物理项的标识指示符包括所述条形码的表示，从所述条形码的表示中提取产品元数据。

3.根据权利要求2所述的方法，其中，确定所述物理项的标识指示符是否包括所述条形码的表示还包括：

执行识别操作以识别与所述物理项相关联的条形码的表示。

4.根据权利要求2所述的方法，其中，所述标识指示符还包括与所述物理项相对应的通用产品代码(UPC)的表示。

5.根据权利要求1所述的方法，其中，分析所述图像数据以确定与所述物理项相对应的对象还包括：

执行对象识别算法以标识所述对象。

6.根据权利要求5所述的方法，其中，基于所确定的对象来提取所述产品元数据还包括：

将所标识的对象与对象的库进行比较，来自所述对象的库中的每个对象包括具有与产品相对应的产品信息的相关联元数据；

至少部分地基于置信度得分高于阈值来确定所标识的对象与来自所述对象的库的特定对象相匹配；以及

提供所述特定对象的相关联元数据。

7.根据权利要求1所述的方法，其中，所述第二产品元数据包括来自外部源的媒体内容，所述外部源不同于所述客户端设备所利用的消息收发平台。

8.根据权利要求1所述的方法，其中，所述物理项包括美容产品。

9.根据权利要求8所述的方法，还包括：

使得在所述客户端设备处显示用于购买所述美容产品的可选图形项。

10.根据权利要求9所述的方法，其中，所述附加信息包括与所述美容产品的类似产品集合相关的信息以及与所述美容产品相关联的成分列表。

11.一种系统，包括：

处理器；以及

包括指令的存储器，所述指令在由所述处理器执行时使所述处理器执行操作，所述操作包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

基于所确定的对象来提取产品元数据；

向服务器发送所述产品元数据以确定与所述产品元数据相关联的第二产品元数据；

从所述服务器接收所述第二产品元数据，所述第二产品元数据包括与所述物理项相关的附加信息；以及

使得至少部分地基于所述第二产品元数据在客户端设备处显示与所述物理项相关的附加信息。

12.根据权利要求11所述的系统，其中，分析所述图像数据以识别所述对象还使所述处理器执行另外的操作，所述另外的操作包括：

分析所述物理项的标识指示符；

确定所述物理项的标识指示符是否包括条形码的表示；以及

响应于确定所述物理项的标识指示符包括所述条形码的表示，从所述条形码的表示中提取产品元数据。

13.根据权利要求12所述的系统，其中，确定所述物理项的标识指示符是否包括所述条形码的表示还使所述处理器执行包括以下的另外的操作：

执行识别操作以识别与所述物理项相关联的条形码的表示。

14.根据权利要求12所述的系统，其中，所述标识指示符还包括与所述物理项相对应的通用产品代码(UPC)的表示。

15.根据权利要求11所述的系统，其中，分析所述图像数据以确定与所述物理项相对应的对象还使得所述处理器执行另外的操作，所述另外的操作包括：

执行对象识别算法以标识所述对象。

16.根据权利要求15所述的系统，其中，基于所确定的对象来提取所述产品元数据还使所述处理器执行包括以下的另外的操作：

将所标识的对象与对象的库进行比较，来自所述对象的库中的每个对象包括具有与产品相对应的产品信息的相关联元数据；

至少部分地基于置信度得分高于阈值来确定所标识的对象与来自所述对象的库的特定对象相匹配；以及

提供所述特定对象的相关联元数据。

17.根据权利要求11所述的系统，其中，所述第二产品元数据包括来自外部源的媒体内容，所述外部源不同于所述客户端设备所利用的消息收发平台。

18.根据权利要求11所述的系统，其中，所述物理项包括美容产品。

19.根据权利要求18所述的系统，其中，所述存储器包括另外的指令，所述另外的指令还使所述处理器执行另外的操作，所述另外的操作包括：

使得在所述客户端设备处显示用于购买所述美容产品的可选图形项。

20.一种包括指令的非暂态计算机可读介质，所述指令在由计算设备执行时使所述计算设备执行操作，所述操作包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

基于所确定的对象来提取产品元数据；

向服务器发送所述产品元数据以确定与所述产品元数据相关联的第二产品元数据；

从所述服务器接收所述第二产品元数据，所述第二产品元数据包括与所述物理项相关的附加信息；以及

使得至少部分地基于所述第二产品元数据在客户端设备处显示与所述物理项相关的附加信息。

21.一种方法，包括：

确定与消息收发系统的用户相关联的专业级别，所述专业级别至少部分地基于特定产品类别中的用户活动；

至少部分地基于所确定的专业级别，选择与特定产品相对应的媒体内容；以及

使得在客户端设备处显示所选择的与所述特定产品相关的媒体内容。

22.根据权利要求21所述的方法，其中，确定与所述用户相关联的专业级别基于与所述用户相关联的简档信息。

23.根据权利要求22所述的方法，其中，所述简档信息包括所述用户的活动的历史信息。

24.根据权利要求23所述的方法，其中，选择与所述特定产品相对应的媒体内容还包括：

至少部分地基于所述用户的活动的历史信息来标识媒体内容集合；

针对所述媒体内容集合中的每个媒体内容来确定相关联的专业级别的相应指示符；以及

从具有所述相关联的专业级别的媒体内容集合中选择与所述专业级别相对应的特定媒体内容。

25.根据权利要求24所述的方法，其中，所选择的特定媒体包括至少一个视频或增强现实内容生成器。

26.根据权利要求21所述的方法，其中，所选择的媒体内容由与所述客户端设备和消息收发系统分开的外部源提供。

27.根据权利要求21所述的方法，其中，确定与消息收发系统的用户相关联的专业级别还包括：

确定与所述用户的用户活动相关联的得分值集合的总和；

基于所述总和，在多个不同级别之中确定特定级别以与所述用户相关联，所述特定级别对应于所述专业级别。

28.根据权利要求21所述的方法，其中，所述专业级别对应于特定产品段。

29.根据权利要求21所述的方法，还包括：

在界面中接收从所选择的媒体内容中对特定媒体内容的选择。

30.根据权利要求21所述的方法，其中，所述专业级别与角色相关联。

31.一种系统，包括：

处理器；以及

包括指令的存储器，所述指令在由所述处理器执行时使所述处理器执行操作，所述操作包括：

确定与消息收发系统的用户相关联的专业级别，所述专业级别至少部分地基于特定产品类别中的用户活动；

至少部分地基于所确定的专业级别，选择与特定产品相对应的媒体内容；以及

使得在客户端设备处显示所选择的与所述特定产品相关的媒体内容。

32.根据权利要求31所述的系统，其中，确定与所述用户相关联的专业级别基于与所述用户相关联的简档信息。

33.根据权利要求32所述的系统，其中，所述简档信息包括所述用户的活动的历史信息。

34.根据权利要求33所述的系统，其中，选择与所述特定产品相对应的媒体内容还使所述处理器执行另外的操作，所述另外的操作包括：

至少部分地基于所述用户的活动的历史信息来标识媒体内容集合；

针对所述媒体内容集合中的每个媒体内容来确定相关联的专业级别的相应指示符；以及

从具有所述相关联的专业级别的媒体内容集合中选择与所述专业级别相对应的特定媒体内容。

35.根据权利要求34所述的系统，其中，所选择的特定媒体包括至少一个视频或增强现实内容生成器。

36.根据权利要求34所述的系统，其中，所选择的媒体内容由与所述客户端设备和消息收发系统分开的外部源提供。

37.根据权利要求31所述的系统，其中，确定与消息收发系统的用户相关联的专业级别还使所述处理器执行另外的操作，所述另外的操作包括：

确定与所述用户的用户活动相关联的得分值集合的总和；

基于所述总和，在多个不同级别之中确定特定级别以与所述用户相关联，所述特定级别对应于所述专业级别。

38.根据权利要求31所述的系统，其中，所述专业级别对应于特定产品段。

39.根据权利要求31所述的系统，其中，所述存储器包括另外的指令，所述另外的指令还使所述处理器执行另外的操作，所述另外的操作包括：

在界面中接收从所选择的媒体内容中对特定媒体内容的选择。

40.一种包括指令的非暂态计算机可读介质，所述指令在由计算设备执行时使所述计算设备执行操作，所述操作包括：

确定与消息收发系统的用户相关联的专业级别，所述专业级别至少部分地基于特定产品类别中的用户活动；

至少部分地基于所确定的专业级别，选择与特定产品相对应的媒体内容；以及

使得在客户端设备处显示所选择的与所述特定产品相关的媒体内容。

41.一种方法，包括：

接收包括用户面部的表示的图像数据；

分析所述图像数据以确定所述面部的表示的特性集合；

至少部分地基于所确定的特性集合，选择产品以及与所述产品相关联的媒体内容集合；以及

使得在客户端设备处显示与和所述产品相关联的媒体内容集合相对应的至少一个推荐。

42.根据权利要求41所述的方法，其中，选择所述产品和所述媒体内容集合还包括：

搜索产品表以标识与所确定的特性集合相关的至少一个产品，所述至少一个产品包括在被使用时解决所确定的特性集合中包括的面部状况的产品。

43.根据权利要求41所述的方法，其中，所述至少一个推荐包括建议的增强现实内容生成器、媒体内容或与来自所确定的特性集合中的至少一个特性相关的附加文本信息。

44.根据权利要求41所述的方法，其中，所确定的特性集合包括在所述面部的表示中标识的健康相关特性。

45.根据权利要求41所述的方法，其中，所确定的特性集合包括所述面部的形状或所述面部的肤色。

46.根据权利要求41所述的方法，其中，分析所述图像数据以确定所述面部的表示的特性集合还包括：

执行面部特征检测处理以检测第一面部特征；以及

标识与检测到的第一面部特征相关联的健康相关特性。

47.根据权利要求46所述的方法，其中，所述面部特征检测处理包括机器学习算法。

48.根据权利要求47所述的方法，其中，所述机器学习算法基于神经网络模型。

49.根据权利要求46所述的方法，还包括：

执行第二面部特征检测处理以检测所述第一面部特征，所述第二面部特征检测处理不同于所述面部特征检测处理。

50.根据权利要求41所述的方法，其中，分析所述图像数据基于所述面部的表示的所选择的部分。

51.一种系统，包括：

处理器；以及

包括指令的存储器，所述指令在由所述处理器执行时使所述处理器执行操作，所述操作包括：

接收包括用户面部的表示的图像数据；

分析所述图像数据以确定所述面部的表示的特性集合；

至少部分地基于所确定的特性集合，选择产品以及与所述产品相关联的媒体内容集合；以及

使得在客户端设备处显示与和所述产品相关联的媒体内容集合相对应的至少一个推荐。

52.根据权利要求51所述的系统，其中，选择所述产品和所述媒体内容集合还使所述处理器执行另外的操作，所述另外的操作包括：

搜索产品表以标识与所确定的特性集合相关的至少一个产品，所述至少一个产品包括在被使用时解决所确定的特性集合中包括的面部状况的产品。

53.根据权利要求51所述的系统，其中，所述至少一个推荐包括建议的增强现实内容生成器、媒体内容或与来自所确定的特性集合中的至少一个特性相关的附加文本信息。

54.根据权利要求51所述的系统，其中，所确定的特性集合包括在所述面部的表示中标识的健康相关特性。

55.根据权利要求51所述的系统，其中，所确定的特性集合包括所述面部的形状或所述面部的肤色。

56.根据权利要求51所述的系统，其中，分析所述图像数据以确定所述面部的表示的特性集合还使所述处理器执行另外的操作，所述另外的操作包括：

执行面部特征检测处理以检测第一面部特征；以及

标识与检测到的第一面部特征相关联的健康相关特性。

57.根据权利要求56所述的系统，其中，所述面部特征检测处理包括机器学习算法。

58.根据权利要求57所述的系统，其中，所述机器学习算法基于神经网络模型。

59.根据权利要求56所述的系统，其中，所述存储器包括另外的指令，所述另外的指令还使所述处理器执行包括以下的另外的操作：

执行第二面部特征检测处理以检测所述第一面部特征，所述第二面部特征检测处理不同于所述面部特征检测处理。

60.一种包括指令的非暂态计算机可读介质，所述指令在由计算设备执行时使所述计算设备执行操作，所述操作包括：

接收包括用户面部的表示的图像数据；

分析所述图像数据以确定所述面部的表示的特性集合；

至少部分地基于所确定的特性集合，选择产品以及与所述产品相关联的媒体内容集合；以及

使得在客户端设备处显示与和所述产品相关联的媒体内容集合相对应的至少一个推荐。

61.一种方法，包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

标识与所确定的对象的区域集合相对应的颜色集合；

分析第二图像数据以检测与用户的特定身体部分的表示相对应的第二对象；

至少部分地基于所标识的颜色集合和检测到的第二对象来生成增强现实内容；以及

使得在客户端设备处显示应用于检测到的第二对象的增强现实内容。

62.根据权利要求61所述的方法，其中，所述物理项包括美容产品，所述美容产品对应于化妆品调色盘。

63.根据权利要求62所述的方法，其中，所标识的颜色集合对应于包括所确定的对象的区域集合的图像数据的一部分中所包括的第二颜色集合。

64.根据权利要求63所述的方法，其中，所述区域集合中的每个区域与特定颜色相关联。

65.根据权利要求61所述的方法，其中，所述用户的特定身体部分包括前臂。

66.根据权利要求61所述的方法，其中，标识所述颜色集合还包括：

从所确定的对象的区域集合中确定特定区域中的像素的颜色值集合；以及

基于所述颜色集合的平均值来确定代表性颜色值。

67.根据权利要求66所述的方法，其中，生成所述增强现实内容还包括：

基于所述代表性颜色值来生成形状；以及

将所述形状映射到与所述特定身体部分的表示相对应的第二对象的表面。

68.根据权利要求61所述的方法，还包括：

基于来自所确定的对象的区域集合的像素来确定纹理集合。

69.根据权利要求68所述的方法，其中，生成所述增强现实内容还包括：

基于所述纹理集合来执行到与所述特定身体部分的表示相对应的第二对象的表面的纹理转移处理。

70.根据权利要求61所述的方法，其中，分析所述第二图像数据还包括：

执行身体特征检测处理以检测第一身体特征；以及

标识与检测到的第一身体特征相对应的特定身体部分。

71.一种系统，包括：

处理器；以及

包括指令的存储器，所述指令在由所述处理器执行时使所述处理器执行操作，所述操作包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

标识与所确定的对象的区域集合相对应的颜色集合；

分析第二图像数据以检测与用户的特定身体部分的表示相对应的第二对象；

至少部分地基于所标识的颜色集合和检测到的第二对象来生成增强现实内容；以及

使得在客户端设备处显示应用于检测到的第二对象的增强现实内容。

72.根据权利要求71所述的系统，其中，所述物理项包括美容产品，所述美容产品对应于化妆品调色盘。

73.根据权利要求72所述的系统，其中，所标识的颜色集合对应于包括所确定的对象的区域集合的图像数据的一部分中所包括的第二颜色集合。

74.根据权利要求73所述的系统，其中，所述区域集合中的每个区域与特定颜色相关联。

75.根据权利要求71所述的系统，其中，所述用户的特定身体部分包括前臂。

76.根据权利要求71所述的系统，其中，标识所述颜色集合还使所述处理器执行另外的操作，所述另外的操作包括：

从所确定的对象的区域集合中确定特定区域中的像素的颜色值集合；以及

基于所述颜色集合的平均值来确定代表性颜色值。

77.根据权利要求76所述的系统，其中，生成所述增强现实内容还使所述处理器执行包括以下的另外的操作：

基于所述代表性颜色值来生成形状；以及

将所述形状映射到与所述特定身体部分的表示相对应的第二对象的表面。

78.根据权利要求71所述的系统，其中，所述存储器包括另外的指令，所述另外的指令还使所述处理器执行另外的操作，所述另外的操作包括：

基于来自所确定的对象的区域集合的像素来确定纹理集合。

79.根据权利要求78所述的系统，其中，生成所述增强现实内容还使所述处理器执行包括以下的另外的操作：

基于所述纹理集合来执行到与所述特定身体部分的表示相对应的第二对象的表面的纹理转移处理。

80.一种包括指令的非暂态计算机可读介质，所述指令在由计算设备执行时使所述计算设备执行操作，所述操作包括：

接收包括物理项的表示的图像数据；

分析所述图像数据以确定与所述物理项相对应的对象；

标识与所确定的对象的区域集合相对应的颜色集合；

分析第二图像数据以检测与用户的特定身体部分的表示相对应的第二对象；

至少部分地基于所标识的颜色集合和检测到的第二对象来生成增强现实内容；以及

使得在客户端设备处显示应用于检测到的第二对象的增强现实内容。

Images