CN114930324A - 用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制 - Google Patents

用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制 Download PDF

Info

Publication number
CN114930324A
CN114930324A CN202080092016.3A CN202080092016A CN114930324A CN 114930324 A CN114930324 A CN 114930324A CN 202080092016 A CN202080092016 A CN 202080092016A CN 114930324 A CN114930324 A CN 114930324A
Authority
CN
China
Prior art keywords
user
media content
images
media
digital key
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202080092016.3A
Other languages
English (en)
Inventor
桑德罗·弗兹
托马斯·德泽莱斯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Google LLC
Original Assignee
Google LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Google LLC filed Critical Google LLC
Publication of CN114930324A publication Critical patent/CN114930324A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/41Indexing; Data structures therefor; Storage structures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43Querying
    • G06F16/438Presentation of query results
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/73Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/951Indexing; Web crawling techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/30Authentication, i.e. establishing the identity or authorisation of security principals
    • G06F21/31User authentication
    • G06F21/32User authentication using biometric data, e.g. fingerprints, iris scans or voiceprints
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/602Providing cryptographic facilities or services
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Abstract

本文档描述了实现用于搜索和编索引媒体内容的共享嵌入的隐私控制的技术和系统。获得用户面部的图像集合,并且将机器学习模型(122)应用于该图像集合,以生成用于用户的面部嵌入的用户特定数据集(124)。通过将机器学习模型(122)应用于媒体内容,对存储在媒体存储(116,136)中的媒体内容进行编索引,以提供识别媒体内容中示出的一个或多个面部的编索引的媒体信息(118)。基于用户与其他用户共享的数字密钥(112)来控制该其他用户针对描绘用户的图像或视频查询媒体内容的对编索引的媒体信息(118)的访问,其中,数字密钥(112)与用户特定数据集(124)相关联,用户特定数据集(124)可用于识别描述用户的图像或视频。

Description

用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制
背景技术
深度学习模型可以为不同类型的输入——诸如给定用户的面部的多个输入图像——生成嵌入。嵌入是表示图像的n维向量,并且可以由机器学习技术用于表示基于人的多个图像的所述人的视觉外观。嵌入可以用于各种不同的应用,以创建可用于识别媒体内容(诸如图像、视频或音频内容)中的人的模型。取决于应用,嵌入可以用于捕获例如用户的面部、用户的身体、用户的指纹,甚至用户的语音。虽然这些嵌入是一个强大的工具,但是它们可以识别用户的敏感数据。
发明内容
本文档描述实现用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的技术和系统。本文描述的技术允许用户基于将用户面部到有限的白名单用户集的嵌入给予对搜索和编索引特征的访问,并且随后撤销来自这些用户中的一个或多个用户的访问。
技术和系统包括一种控制用于对媒体内容进行搜索和编索引的共享嵌入的隐私的方法。方法包括获得第一用户的面部的图像集合,并且将机器学习模型应用于图像集合,以生成用于第一用户的面部嵌入的用户特定数据集。然后,基于用户特定数据集对存储在媒体存储中的媒体内容进行编索引,以提供识别媒体内容中示出的一个或多个面部的编索引的信息。基于第一用户与第二用户共享的数字密钥,控制该第二用户针对描绘第一用户的图像或视频查询媒体内容的对编索引的信息访问,其中,数字密钥与用户特定数据集相关联,并且用户特定数据集可用于识别描绘第一用户的图像或视频。
数字密钥可以仅存储“在云中”,诸如存储在服务提供方系统处或存储在与服务提供方系统相关联的其他安全在线存储,而不存储在用户的设备处。服务提供方系统可以为用户提供个性化媒体合集的在线存储。这些个性化媒体合集可以基于账户并且安全地加密。在这种实施方式中,用户可以提供用户凭证以登录到他们的账户,然后基于他们的账户通过服务提供方系统发起搜索查询。这样,共享的数字密钥不会与任何实际用户设备共享,因此可以更安全地防止伪造和复制。此外,可以针对特定用户搜索的个性化媒体合集可以与该用户的账户绑定,从而保护其他媒体集合免遭未经授权的搜索。
可以对用户的个性化媒体合集进行编索引,并且服务提供方系统可以单独地存储每个媒体合集的编索引的信息。保持单独地存储的不同用户的编索引的信息可以提供附加安全水平免受未经授权的访问(例如,许可对第一用户的编索引的信息的访问增加对第二用户的编索引的信息的未经授权的访问)。
提供本发明内容以介绍有关用于搜索和编索引媒体内容的共享嵌入的隐私控制的简化概念,下文的详细说明和附图将进一步描述这些概念。本发明内容不旨在识别所要求保护的主题的基本特征,也不旨在用于确定所要求保护的主题的范围。
附图说明
用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的一个或多个方面的细节在本文档中参照以下附图进行描述。在整个附图中使用相同的编号来参考类似功能和组件:
图1图示其中可以实施用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的技术的示例环境。
图2图示可以实施用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的电子设备的示例实施方式。
图3图示用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的示例实施方式。
图4描绘根据本文描述的技术的用户特定搜索查询的示例搜索结果。
图5描绘用于控制用于搜索和编索引媒体内容的共享嵌入的隐私的示例方法。
图6描述了图5中的方法的附加细节,其包括一种用于控制对用户特定搜索查询的媒体内容的访问的方法。
图7描述了图5中的方法的附加细节,其包括一种基于附加数据来更新用户特定数据集的方法。
图8描述了图5中的方法的附加细节,其包括基于数据移除来更新用户特定数据集的方法。
图9描绘用于控制用于对媒体内容进行搜索和编索引的共享嵌入的隐私的示例方法。
图10图示可以被实施为如参考图1-9所述的任何类型的客户端、服务器和/或电子设备以实施用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的示例计算系统,或者其中可以实施实现用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的技术的示例计算系统。
具体实施方式
概述
本文档描述实现用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的技术和系统。用户的共享嵌入——诸如面部嵌入——可以允许另一用户在任意数据中检测用户的面部,这可能是不期望的。例如,泄漏的嵌入可能允许使用它的任何人检测公共视频流中的用户面部。本文档中描述的技术提供基于软件的解决方案,以控制对媒体内容中描述的特定用户的搜索访问。特别地,技术允许用户基于将用户面部到有限的白名单用户集合的嵌入给予对搜索和编索引特征的访问,并且随后撤销对用户中的一个或多个用户的访问。
在各方面,描述了一种用于对媒体内容进行搜索和编索引的面部嵌入共享的隐私控制的方法。该方法由服务提供方系统执行,获得第一用户的面部的图像集合,并且将机器学习模型应用于图像集合,以生成用于第一用户的面部嵌入的用户特定数据集。该方法还包括服务提供方系统通过将机器学习模型应用于媒体内容来编索引存储在媒体存储器中的媒体内容,以提供识别媒体内容中示出的一个或多个面部的编索引的信息。此外,该方法包括:服务提供方系统通过应用编程接口控制第二用户针对描绘第一用户的图像或视频查询媒体内容中的对编索引的信息的访问。访问根据第一用户与第二用户共享的数字密钥来控制。数字密钥与用户特定数据集相关联。用户特定数据集可以与编索引的信息一起使用,以识别媒体内容中的描绘第一用户的图像或视频。
这些只是所述的技术和设备如何可以用于实现用于面部嵌入共享或对媒体内容进行搜索和编索引的隐私控制的几个示例。本文档中还描述了其他示例和实施方式。本文档现在转向示例操作环境,然后描述示例设备、方法和系统。
操作环境
图1图示其中可以实施实现用于对媒体内容进行搜索和编索引的面部嵌入共享的隐私控制的技术的示例环境100。示例环境100包括被配置为经由网络106与服务提供方系统104通信的电子设备102(例如,用户设备)。电子设备102包括隐私控制模块108、嵌入模块110、一个或多个数字密钥112和媒体内容114。
服务提供方系统104被示出为包括媒体存储116、编索引的媒体信息118、存储服务模块120、机器学习模型122、一个或多个用户特定数据集124和搜索管理器模块126。存储服务模块120可以将机器学习模型122应用于电子设备102提供的媒体内容114(例如,图像数据、视频数据、音频数据等)。使用机器学习技术训练机器学习模型122(例如,卷积神经网络),以从媒体内容114生成嵌入,从而为媒体内容114中描绘的用户创建用户特定数据集124。例如,媒体内容114可以包括用户——诸如电子设备102的用户的面部——的图像集合。存储服务模块120可以运行通用面部检测算法来检测面部在图像中的面部边界。然后,使用机器学习模型122,存储服务模块120计算在图像中找到的基本上所有面部的嵌入(也称为嵌入向量),以为用户创建用户特定数据集124。用户特定数据集124是表示用户的面部的一个或多个n维向量。用户特定数据集124被存储在对于用户安全加密的“云中”而其他设备无法访问。
存储服务模块120可以通过识别出现在媒体存储116——诸如在媒体存储116中的图像或视频——中的用户来编索引该媒体存储116,以生成编索引的媒体信息118。为了安全,存储服务模块120仅识别已同意并且选择将其用户特定数据集124存储在云中(例如,在服务提供方系统104处)的那些用户。需要注意的是,未经用户同意,不允许任何其他用户或设备访问用户特定数据集124。
电子设备102的用户可以向服务提供方系统104发起搜索查询,以在媒体存储116中搜索用户的图像。电子设备102调用搜索管理器模块126处的应用编程接口(API)128以访问编索引的媒体信息118并且搜索与用户的用户特定数据集124基本上匹配的嵌入信息。基于匹配嵌入信息,搜索管理器模块126可以在描绘用户的媒体存储116中定位对应图像。所得到的图像随后经由显示设备130在显示应用中呈现在电子设备102。
电子设备102的用户可以将与该用户对应的编索引的媒体信息118的访问共享给一个或多个其他用户(例如,家庭、朋友等)。这允许其他用户使用用户特定查询来查询媒体存储116。在示例中,用户B在其用户设备132发起用户特定查询,以在服务提供方系统104的媒体存储116中找到用户A(电子设备102的用户)的图像。然而,机器学习模型122和用户特定数据集124均未与用户B共享。相反,用户B具有由用户A先前提供的与用户A的用户特定数据集124对应的数字密钥。用户B将数字密钥提供给搜索管理器模块126。搜索管理器模块126的API 128使用数字密钥识别用户A的用户特定数据集124。API 128将用户的用户特定数据集124中的嵌入与编索引的媒体信息118进行比较,以识别匹配嵌入和与匹配嵌入对应的索引信息。API 128使用所识别的索引信息从媒体存储116中定位描绘用户A的对应的图像或视频。API 128然后可以将对应的图像返回给用户B的用户设备132以供显示。
在一些方面,用户B可能希望使用用户A的用户特定查询来查询不同的图像或视频语料库。例如,用户B可以在媒体存储136中查询用户A的图像的媒体存储服务134。替代地,用户B可以查询用户设备132的本地存储(未示出)。在任一种情况下,用户B向API 128发起查询,该查询包括用户A共享的数字密钥和要搜索的特定图像或视频语料库(例如,媒体存储136或用户设备132的本地存储)的位置的标识。如果这些语料库尚未被存储服务模块120编索引,则API 128应用(或调用存储服务模块120来应用)机器学习模型122到特定图像或视频语料库以编索引内容。服务提供方系统104的存储服务模块120将所得到的编索引的信息保留在编索引的媒体信息118中。搜索管理器模块126然后可以将所得到的编索引的信息与用户特定数据集124进行比较,以识别特定图像或视频语料库(例如,媒体存储136或用户设备132的本地存储)中的哪些图像包括用户A,并且将结果提供给用户设备132以用于用户B。
在一些方面,电子设备102可以包括机器学习模型122,或者机器学习模型122的实例。嵌入模块110可以将机器学习模型122应用于电子设备102在媒体内容114中捕获和/或存储的图像集合,以生成用户特定数据集124(例如,嵌入集合)。在一些方面,图像集合可以是使用近红外相机诸如由面部认证系统(例如,面部解锁应用)捕获的图像,该面部认证系统捕获用户面部的近红外图像数据并且生成以数字方式表示用户独特面部特征的嵌入(n维数值向量)而不包括个人可识别信息。然后,电子设备102可以向服务提供方系统104传送(例如,上传)嵌入(例如,用户特定数据集124),以将其存储“在云中”。在一个示例中,电子设备102或服务提供方系统104可以创建面部的三维(3D)表示以然后用作面部嵌入的输入数据。
隐私控制模块108被配置为生成用于与授权用户共享的数字密钥112。只有具有共享密钥(例如,数字密钥112)的授权用户可以调用API128访问编索引的媒体信息118,以从图像或视频语料库中识别描绘用户的特定图像或视频。
因为用户特定数据集124不直接暴露于其他用户(授予其他用户的唯一访问是用于搜索查询的编索引的内容),因此可以撤销授予的访问。电子设备102的用户A可以通过删除与特定用户(例如,用户B)先前共享的数字密钥来选择撤销共享访问。然后,下次用户B发起对描绘用户A的图像或视频的搜索时不提供结果。
在整个本公开中,描述了计算系统(例如,电子设备102、客户端设备、服务器设备、服务提供方系统104、计算机或其他类型的计算系统)可以分析与用户相关联的信息(例如,雷达、惯性和面部识别传感器数据、图像),诸如刚刚提到的面部图像。然而,计算系统可以被配置为仅在计算系统从计算系统的用户接收到使用数据的明确许可之后才使用信息。个别用户可能具有程序对传感器数据能做什么或不能做什么的恒定控制。例如,在电子设备102与其他设备共享传感器数据(例如,训练在其他设备执行的模型)之前,电子设备102可以对传感器数据进行预处理,以确保移除嵌入在数据中的任何用户识别信息或设备识别信息。因此,用户可以控制是否收集了关于用户和用户设备的信息,以及如果收集了这些信息如何由计算设备和/或远程计算系统使用这些信息。
尽管本文描述的示例针对描绘用户面部的图像数据,但是本文描述的技术也可以在其他类型的数据上实施以生成对应的嵌入,其可以用于搜索数据的与用户对应的媒体内容。输入的一些示例性其他类型可以包括语音数据、大量全身图像、指纹数据、虹膜扫描数据、视频数据等。从语音数据生成的嵌入可以用于找到正在讲话的用户的视频或音频文件,或这些视频或音频文件中的音频片段。在一个示例中,这些技术可以用于识别在录制的会议期间,特定人员何时讲话或者在会议期间的不同时间谁正在讲话。从用户的全身图像生成的嵌入可以用于基于用户的步态或用户如何移动来识别该用户。这些技术也可以用于面部认证。例如,如果公司使用面部认证并且具有用于用户的用户特定数据集,则可以向用户提供数字密钥,以便利用面部扫描访问API,以进入安全建筑。在又一示例中,使用这些技术,可以不要求用户为面部解锁应用训练新电子设备。相反,可以向新电子设备提供数字密钥,这允许新电子设备调用API访问用户特定数据集,以认证用户用于面部解锁。
更详细地,考虑图2,其图示可以实施用于对媒体内容进行搜索和编索引的面部嵌入共享的隐私控制的电子设备102的示例实施方式200。图2的电子设备102被示出有各种示例性设备,包括智能手机102-1、平板计算机102-2、膝上型计算机102-3、台式计算机102-4、计算手表102-5、计算眼镜102-6、游戏系统102-7、家庭自动化控制系统102-8和微波炉102-9。电子设备102还可以包括其他设备,诸如电视、娱乐系统、音频系统、汽车、无人机、轨迹板、绘图板、上网本、电子阅读器、家庭安全系统和其他家用电器。注意,电子设备102可以是可穿戴的、不可穿戴但可移动的或相对固定的(例如,桌面和电器)。
电子设备102还包括一个或多个计算机处理器202和包括存储器介质和存储介质的一个或多个计算机可读介质204。实施为计算机可读介质204上的计算机可读指令的应用和/或操作系统206可以由计算机处理器202执行,以提供本文描述的一些或全部功能。例如,计算机可读介质204可以包括隐私控制模块108、嵌入模块110、媒体内容114、机器学习模型122和安全存储单元208。嵌入模块110可以调用机器学习模型122。隐私控制模块108可以控制(例如,授权、撤销)对数字密钥112的访问,该数字密钥授权在媒体存储器中的用户特定搜索。
安全存储单元208被配置为存储用于隐私控制——诸如解锁电子设备102的控制——的安全数据(例如用户凭证)(包括面部认证数据、密码/密码信息、指纹数据等)。虽然该安全数据可以用于使用面部认证、口令/密码认证、指纹认证、语音认证等对用户进行认证,以解锁电子设备102,但是该安全数据不能获取关于用户的个人信息。具体地,用户不能由安全数据识别。相反,安全数据用于简单地确定从尝试解锁手机的用户接收到的数据是否与表示在电子设备102上设置安全的用户的所存储的简档数据(例如,用户特定数据集124)相匹配。在示例中,从用户面部的捕获图像生成的嵌入是用户的面部特征的数值向量表示。这些嵌入仅用于与在面部认证尝试期间捕获的图像生成的新嵌入进行比较,以定位匹配。在其他实施方式中,这些嵌入用于与从由电子设备102的相机捕获或存储在(从另一设备获得的)媒体内容114中的描绘用户面部的图像生成的新嵌入进行比较。
电子设备102还可以包括网络接口210。电子设备102可以使用用于通过有线、无线或光网络通信数据的网络接口210。作为示例而非限制,网络接口210可以通过局域网(LAN)、无线局域网(WLAN)、个人局域网(PAN)、广域网(WAN)、内部网、互联网、对等网络、点对点网络或网状网络来通信数据。
认证系统212的各种实施方式可以包括片上系统(SoC)、一个或多个集成电路(IC)、具有嵌入式处理器指令或被配置为访问存储器中存储的处理器指令的处理器、具有嵌入式固件的硬件、具有各种硬件组件的印刷电路板或其任意组合。在示例中,认证系统212可以在安全模式下将从用户接收到的认证数据与存储在安全存储单元208中的安全数据进行比较,以认证用户来解锁电子设备102。在一些方面,认证系统212使用从相机系统获得的图像数据来生成认证数据,并且将认证数据提供给安全存储单元208,以使安全存储单元208能够将认证数据与所存储的安全数据进行比较,并且确定是否存在匹配。
电子设备102还包括被实施为捕获图像数据的相机系统214。图像数据可以用于生成对象——诸如用户的面部——的三维深度图。可以使用任何合适的相机系统,包括彩色相机(例如,红绿蓝(RGB)相机或近红外(NIR)相机)。相机系统214可以集成在电子设备102中,或者以其他方式与电子设备102相关联。在各方面中,相机系统214可以与电子设备102无线连接。
电子设备102还可以包括一个或多个传感器216。一个或多个传感器216可以包括诸如音频传感器(例如,麦克风)、触摸输入传感器(例如,触摸屏)、图像捕获设备(例如,相机或摄像机)、接近度传感器(例如,电容传感器)或环境光传感器(例如,光电检测器)的各种传感器中的任一种。
电子设备102还可以包括显示设备130。显示设备130可以包括任何合适的显示设备,诸如触摸屏、液晶显示器(LCD)、薄膜晶体管(TFT)LCD、平面转换(IPS)LCD、电容式触摸屏显示器、有机发光二极管(OLED)显示器、有源矩阵有机发光二极管(AMOLED)显示器、超级AMOLED显示器等。
电子设备102还可以包括面部检测器218。面部检测器218可以检测图像中的一个或多个面部中的每一个的面部边界。通过检测面部边界,面部检测器218限制由嵌入模块110处理的图像数据的量。在实施方式中,面部检测器218可以被实施为计算机可读介质204上的计算机可读指令,并且由计算机处理器202执行以检测图像中各个面部的面部边界。
这些和其他能力和配置,以及图1和图2的实体动作和交互的方式在下面将更详细地阐述。这些实体可以进一步被划分、组合等。图1的环境100、图2至图4的实施方式200、300和400以及图5至图9的详细方法示出了能够采用所述技术的许多可能的环境和设备中的一些。
图3图示用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制的示例实施方式300。图3图示服务提供方系统104和多个电子设备102,例如设备A 302、设备B 304和设备C 306。在所示的示例中,设备中的每个对应于不同的用户,例如,设备A 302对应于用户A308,设备B对应于用户B 310,设备C对应于用户C 312。
设备中的每个可以用隐私控制模块108的实例来实施,以控制对对应用户的图像或视频搜索的访问。在该示例性实施方式300中,设备A 302的用户A 308已经选择了在服务提供方系统104存储用户特定数据集124(例如,数据集A 314)。数据集A 314基于应用于用户A 308的图像集合的机器学习模型122来生成,或者由设备A 302提供,或者存储在服务提供方系统104的媒体存储116中或者两者。
服务提供方系统104为用户提供个性化媒体合集的在线存储。这些个性化媒体合集可以是基于账户的,并且在媒体存储116中安全加密。每个用户可能具有一个或多个个性化媒体合集,诸如在不同文件夹或子文件夹中组织的图像和视频。因为个性化媒体合集是基于账户的,所以用户可以使用任何合适的电子设备登录到其账户,并且上传图像和/或视频以创建个性化媒体合集。为了简化所示示例,每个用户被示出有一个电子设备和一个个性化媒体合集。例如,媒体存储116包括由用户A 308上传的媒体合集A 318、由用户B 310上传的媒体合集B 320和由用户C 312上传的媒体合集C 322。
为了共享对用于搜索描述用户的媒体内容的用户特定数据集124的访问,对应的隐私控制模块108可以提供对应的数字密钥112。为与其共享访问的每个用户创建新密钥(例如,分别为10个用户生成10个不同的密钥)。为了撤销特定用户的访问,隐私控制模块108删除其对应的密钥。在所示的示例中,设备A 302和/或服务提供方系统104存储用于用户A 308的数字密钥集合112(例如,所拥有的密钥324,其包括密钥A1、A2、…、An)。此外,数字密钥集合112(例如,所拥有的密钥326,期包括密钥B1、B2、…、Bn)由设备B 304和服务提供方系统104存储。在一些实现方式中,只有服务提供方系统104存储每个用户的数字密钥112并且数字密钥112的管理是基于账户的,使得用户可以登录到他们在服务提供方系统104处的账户以管理共享密钥。
如进一步示出的,用户A 308已经与设备B 304共享第一密钥A1(由共享密钥328示出),与设备C 306共享第二密钥A2(由共享密钥330示出)。类似地,设备B 304与设备C 306共享了密钥B1但没有向设备A 302提供任何密钥。在所示的示例中,设备C 306不拥有任何密钥,因为用户C 312没有选择在服务提供方系统104存储用户特定数据集,因此,没有为设备C 306生成数字密钥。或者,数字密钥112可以仅存储“在云中”,例如存储在服务提供方系统104或与服务提供方系统104相关联的其他安全在线存储,而不存储在用户的设备上。在这样的实施方式中,用户可以提供用户凭证以登录到他们的账户,然后基于他们的账户通过服务提供方系统104发起搜索查询。这样,共享的数字密钥112不会与任何用户设备共享,因此可以更安全地防止伪造和复制。此外,可以针对特定用户搜索的媒体合集可以与该用户的账户绑定,从而保护其他媒体合集免受未经授权的搜索。
假设用户B 310希望在用户A 308的图像和/或视频中搜索其个性化媒体合集B320。用户B 310向设备B 304输入搜索查询。然后,设备B 304在服务提供方系统104处调用API 128,并且向API 128提供共享密钥A1和媒体合集B320的指示。如果媒体合集B 320尚未被编索引,则API 128可以将机器学习模型122应用于媒体合集B 320,以生成对应的编索引的信息。服务提供方系统104可以将对应的编索引的信息与其他媒体合集对应的其他编索引的信息分开存储在编索引的媒体信息118中。单独存储不同用户的编索引的信息可以提供附加安全级别以防止未经授权的访问(例如,对第一用户的编索引的信息的许可访问获得对第二用户的编索引的信息的未经授权的访问)。
API 128使用共享密钥A1访问用户A 308的数据集A 314,并且将数据集A 314中的嵌入与和媒体合集B 320对应的编索引的媒体信息118进行比较。如果API定位在与媒体合集B 320对应的编索引的媒体信息118中匹配嵌入,则API 128识别媒体合集B 320中的对应的图像和/或视频并且将那些图像和/或视频作为搜索查询的结果返回给设备B 304。结果不能识别图像和/或视频中的哪个面部或人是用户A 308。在没有这种识别信息的情况下,用户B 310不能构建数据集A 314的副本。结果仅指示描绘用户A 308的图像和/或视频。
在一些实施方式中,服务提供方系统104可以使用用户B 310的搜索查询的结果来更新用户A 308的数据集A 314,即使用户A 308可能无法访问用户B 310的媒体合集B 320。用户特定数据集124越大,用户特定搜索查询的结果可能越准确。
因为已经与设备C 306共享共享密钥330A2和B1所以用户C 312可以发起对具有用户A 308和用户B 310之一或两者的图像的搜索查询。假设用户C 312发起对用户A 308或用户B 310的图像的搜索查询。隐私控制模块108向API 128提供密钥A2和B1二者,并且API128识别对应的数据集(例如,数据集A 314和数据集B 316)。API 128将这些数据集与和用户C 312的媒体合集C 322对应的编索引的媒体信息118进行比较。基于匹配嵌入,服务提供方系统104返回从媒体合集C 322识别示出用户A 308和用户B 310中的一个或两个的图像的搜索结果。
注意,用户B 310没有与用户A 308共享数字密钥(例如,所拥有的密钥326中的一个)。因此,不许可用户A 308使用数据集B 316进行搜索查询。更具体地,如果用户A 308发起在媒体合集A 318中的用户B 310的图像的搜索查询310,则服务提供方系统104不返回任何结果。因为设备A 302没有向API 128提供适当的数字密钥,所以API 128无法识别哪个用户特定数据集124用于与编索引的媒体信息118进行比较。
类似地,如果用户A 308选择从用户C 312撤销对数据集A的访问,则用户A 308可以输入命令以使得隐私控制模块108在服务提供方系统104(以及在设备A 302处)处删除先前共享的密钥A2。然后,当设备C 306使用密钥A2执行对用于示出用户A 308的图像或视频308的媒体合集C 322的后续查询搜索时,服务提供方系统104不返回结果,而不管类似的搜索查询是否先前提供的结果。因此,基本上阻止设备C对描绘用户A 308的图像或视频执行用户特定搜索。
进一步地,在所示的示例中,用户C 312没有选择在服务提供方系统104存储用户特定数据集124。因此,设备A 302和设备B 304均无法获得对用户C 312的图像和/或视频的搜索查询的结果。
继续图3所示的示例,图4描绘了根据本文描述的技术的用户特定搜索查询的示例搜索结果。在图4中,索引400包括示例编索引的信息(例如,编索引的媒体信息118),其指示图像A 402包含用户A 308和用户B 310,图像B包含用户B 310,并且视频C 404在帧X-Y中包括用户A 308,并且在帧Q-Z中包括用户B 310。
设备C 306的用户C 312在搜索栏406中输入“具有用户A的图像和/或视频”的搜索查询。设备C 306将搜索查询与适当的共享密钥(例如,图3中的共享密钥330中所示的密钥A2)一起传送到API 128。API 128使用共享密钥A2来识别对应的用户特定数据集124(例如,数据集A 314),以与索引400进行比较。基于此比较,API 128返回包括图像A 402和视频C404的搜索结果408。
在另一示例中,设备A 302的用户A 308在搜索栏410中输入“具有用户B的视频”的搜索查询。本文,在搜索窗格412中不提供结果,因为设备A 302不能与搜索查询一起提供与用户B 310的数据集B 316对应的共享密钥,诸如用户B 310的拥有的密钥326中的一个的副本。
示例方法
图5到图8描绘了用于控制用于对媒体内容进行搜索和编索引的共享嵌入的隐私的示例方法500、600、700和800。这些方法可以由服务提供方系统104执行,该服务提供方系统104使用搜索管理器模块126控制使用用户特定查询搜索图像或视频语料库的访问。图5描绘了基于用户特定数据集来编索引媒体内容的方法。图6描述了图5中的方法500的附加细节,其包括用于控制对用于用户特定搜索查询的媒体内容的访问的方法600。图7描述了图5中的方法500的附加细节,其包括基于附加数据来更新用户特定数据集的方法700。图8描述了图5中的方法500的附加细节,其包括基于数据移除来更新用户特定数据集的方法800。
方法500、600、700和800被示出为指定所执行的操作的块集合,但不一定限于所示的用于由各个块执行操作的顺序或组合。此外,一个或多个操作中的任一个可以被重复、组合、重组或链接,以提供种类繁多的附加和/或替代方法。在以下讨论的部分中,可以参考图1的示例操作环境100或图2-4中详述的实体或过程,对其的参考仅用于示例。这些技术不限于在一个设备上运行的一个实体或多个实体的性能。
在502,服务提供方系统获得第一用户的面部的图像集合。例如,服务提供方系统104可以从电子设备102获得图像集合。
在504,服务提供方系统将机器学习模型应用于图像集合,以生成第一用户的面部嵌入的用户特定数据集。例如,服务提供方系统104可以将机器学习模型122应用到图像集合,为电子设备102的用户生成用户特定数据集124。
在506,服务提供方系统通过将机器学习模型应用于媒体内容来编索引存储在媒体存储中的媒体内容,以提供识别媒体内容中示出的一个或多个面部的编索引的信息。例如,服务提供方系统104可以通过将用户特定数据集124应用于媒体存储116中的媒体内容并且识别描绘电子设备102的用户的图像或视频来编索引存储在服务提供方系统104中的媒体存储116,这提供编索引的媒体信息118。
在508,服务提供方系统控制通过第二用户针对描绘第一用户的图像或视频查询媒体内容中的对编索引的信息的访问。例如,服务提供方系统104可以实施用于控制对编索引的媒体信息118的访问的搜索管理器模块126。搜索管理器模块包括API 128,其充当用户设备(例如,电子设备102、用户设备132)和存储在服务提供方系统104中的安全数据之间的中间介质。如果第二用户提供授权数字密钥,则API 128访问编索引的媒体信息118,并且使用与数字密钥对应的用户特定数据集124来识别编索引的媒体信息118中的匹配嵌入,这些匹配嵌入指示媒体存储116中描绘第一用户的特定图像或视频。方法500可以可选地进行到参照图6-8分别描述的方法600、700或800中的任一个。
图6描述了图5所描绘的方法500的附加细节,其包括控制对用于用户特定搜索查询的媒体内容的访问的方法600。在602,服务提供方系统接收对来自媒体内容的描绘第一用户的图像或视频的搜索查询。例如,服务提供方系统104从请求用户设备132接收对描绘电子设备102的第一用户的图像或视频的搜索查询。搜索查询包括由电子设备102的第一用户与请求用户设备132的第二用户先前共享的数字密钥。搜索查询还包括特定媒体存储的指示(例如,媒体存储116中的个性化媒体合集、媒体存储服务134处的媒体存储136、用户设备132处的本地存储)。
在604,服务提供方系统通过使用具有应用编程接口(API)的搜索管理器模块来确定搜索查询是否具有授权数字密钥。例如,API 128确定搜索查询提供的数字密钥是否与和第一用户相关联的数字密钥112中的一个相匹配。
如果API确定数字密钥未被授权(在604处的“否”),则在606,服务提供方系统不向搜索查询返回任何结果。例如,数字密钥112可能已经基于来自第一用户的输入而被删除,这导致数字密钥112不再被授权用于搜索。在某些情况下,搜索查询可能不包括数字密钥。
如果API确定数字密钥被授权(在604处的“是”),则在608,API基于数字密钥来识别用户特定数据集。例如,API 128使用数字密钥112来定位第一用户的用户特定数据集124,这提供了在媒体存储116中搜索哪个面部的指示。
在610,API访问编索引的信息,以基于用户特定数据集识别来自媒体内容中的哪些图像或视频描绘第一用户。例如,API 128使用用户特定数据集124中的面部嵌入来与编索引的媒体信息118进行比较。编索引的媒体信息118包括与媒体存储116中的面部相关联的嵌入。相应地,与用户特定数据集124中的面部嵌入相匹配的编索引的媒体信息118中的嵌入将API 128引导至媒体存储中的描绘第一用户的图像或视频。
在612,服务提供方系统提供包括来自媒体内容的描绘第一用户的识别的图像或视频的搜索结果。例如,服务提供方系统104向请求用户设备132传送描绘第一用户的所识别的图像或视频作为搜索查询的搜索结果。
图7描述了图5中的方法500的附加细节,其包括基于附加数据更新用户特定数据集的方法700。在702,服务提供方系统从第一用户的电子设备接收一个或多个附加图像。例如,电子设备102可以上传描绘用户面部的一个或多个新图像,诸如特写照片或全身照片。
在704,服务提供方系统将机器学习模型应用于一个或多个附加图像,以生成一个或多个新面部嵌入。在706,服务提供方系统将一个或多个新面部嵌入添加至用于第一用户的面部嵌入的用户特定数据集,以更新用户特定数据集。附加嵌入可以改善用户特定数据集,以实现比较少嵌入更准确的结果(例如,在图像或视频中更准确地识别用户)。然后,方法700返回至图5中的508,以控制对编索引的信息的访问。
图8描述了图5中的方法500的附加细节,其包括基于数据移除来更新用户特定数据集的方法800。在802,服务提供方系统接收来自第一用户的输入,以从先前用于生成用户特定数据集的图像集合中删除一个或多个图像。例如,第一用户可以选择移除或删除用于生成用户特定数据集124的一个或多个图像。用户可能不喜欢特定图像,或者该图像可能是不再是用户当前面部特征的良好表现的旧图像。
在804,服务提供方系统基于来自第一用户的输入从图像集合中删除一个或多个图像,以提供图像子集。例如,服务提供方系统104的存储服务模块120删除用户所选择的用于移除的图像。
在806,服务提供方系统通过将机器学习模型应用于图像子集来更新用于第一用户的面部嵌入的用户特定数据集,以提供更新的用户特定数据集。当减少图像集合时为了更新用户特定数据集124,存储服务模块120可以重新创建用户特定数据集124。或者,存储服务模块120可以从用户特定数据集124中删除与所删除的图像对应的嵌入。对于多个已删除的图像,可以从用户特定数据集124中删除多个对应的嵌入。然后,方法700返回至图5中的508,以控制对编索引的信息的访问。在至少一些方面,可以组合方法700和800,使得用户特定数据集可以基于用于生成用户特定数据集的图像的添加和移除来更新。
图9描绘用于控制用于搜索和编索引的媒体内容的共享嵌入的隐私的示例方法900。该方法900可以由电子设备102执行,该电子设备102使用隐私控制模块108控制通过使用用户特定查询搜索图像或视频语料库的访问。
方法900被示出为块集合,其指定所执行的操作,但不一定限于所示出的用于由各个块执行操作的顺序或组合。此外,一个或多个操作中的任一个可以被重复、组合、重组或链接,以提供广泛的附加和/或替代方法。在以下讨论的部分中,可以参考图1的示例操作环境100或图2-4中详述的实体或过程,对其的参考仅用于示例。这些技术不限于在一个设备上运行的一个实体或多个实体的性能。
在902,电子设备捕获电子设备的第一用户的图像集合。例如,电子设备102的第一用户可以使用相机系统214捕获图像(例如,“自拍”)。图像可以使用相机系统214的彩色相机来捕获。或者,可以使用相机系统214的近红外相机来捕获图像,诸如在认证系统212的面部认证过程中。
根据904处的一个选项,电子设备将图像集合传送到服务提供方系统,以用于云存储和生成用于第一用户的面部嵌入的用户特定数据集。例如,电子设备102将该图像集合上传到服务提供方系统104,以用于在媒体存储116中进行安全存储。
作为在904处将图像集合传送到服务提供方系统的替代方案,在906处,电子设备可以可选地将机器学习模型应用于图像集合,以生成用于第一用户的面部嵌入的用户特定数据集。例如,电子设备102可以将存储在电子设备102处的机器学习模型122应用于图像集合。机器学习模型122可以是面部认证系统(例如,认证系统212)的一部分,该面部认证系统用于从捕获的用户图像创建面部嵌入以针对登记的嵌入对用户进行认证,以解锁电子设备102。机器学习模型122可以基于图像集合来生成面部嵌入的用户特定数据集124。
在908,电子设备将用户特定数据集传送到服务提供方系统以用于云存储。例如,电子设备102可以将用户特定数据集124而不是图像集合传送到服务提供方系统104。
在910,无论是从904还是从908进行,电子设备与第二用户共享与用户特定数据集相关联的数字密钥,以使第二用户能够在服务提供方系统处调用针对描绘第一用户的图像或视频的用户特定图像搜索。电子设备102的用户可以与朋友共享数字密钥112,以使朋友针对描述用户的图像或视频搜索媒体存储116。为用户的每个好友提供不同的数字密钥。
在912,电子设备通过请求服务提供方系统删除与第二用户先前共享的数字密钥来撤销对用户特定图像搜索的访问。例如,电子设备102的用户可以通过删除与朋友共享的数字密钥来撤销先前提供给朋友的访问。因此,朋友不再被授权使用用户的用户特定数据集124进行搜索,以找到描绘用户的图像或视频。
通常,本文描述的组件、模块、方法和操作中的任一个可以使用软件、固件、硬件(例如,固定逻辑电路)、手动处理或其任意组合来实现。示例方法的一些操作可以在计算机可读存储器上存储的本地和/或远程计算机处理系统的可执行指令的一般上下文中描述,并且实施方式可以包括软件应用、程序、功能等。可选地或附加地,本文描述的任何功能可以至少部分地由诸如但不限于现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SoC)、复杂可编程逻辑器件(CPLD)等的一个或多个硬件逻辑组件执行。
示例计算系统
图10图示示例计算系统1000的各种组件,其可以实施为任何类型的客户端、服务器和/或电子设备,如参考先前图1-9所述以实施用于搜索和编索引媒体内容的共享嵌入的隐私控制。
计算系统1000包括通信设备1002,其实现设备数据1004(例如,雷达数据、认证数据、参考数据、接收到的数据、正在接收的数据、调度用于广播的数据以及数据的数据包)的有线和/或无线通信。设备数据1004或其他设备内容可以包括设备的配置设置、存储在设备上的媒体内容和/或与设备的用户相关联的信息(例如,雷达场内的人的身份或定制的空中手势数据)。存储在计算系统1000上的媒体内容可以包括任何类型的雷达、生物识别、音频、视频和/或图像数据。计算系统1000包括一个或多个数据输入1006,经由该数据输入1006可以接收任何类型的数据、媒体内容和/或输入,例如人类话语、与雷达场的交互、触摸输入、用户可选的输入或交互(显式或隐式)、消息、音乐、电视媒体内容、录制的视频内容以及从任何内容和/或数据源接收的任何其他类型的音频、视频和/或图像数据。
计算系统1000还包括通信接口1008,其可以被实现为串行和/或并行接口、无线接口、任何类型的网络接口、调制解调器以及任何其他类型的通信接口中的任意一种或多种。通信接口1008提供计算系统1000与通信网络之间的连接和/或通信链路,其他电子、计算和通信设备通过通信网络与计算系统1000通信数据。
计算系统1000包括一个或多个处理器1010(例如,微处理器、控制器或其他控制器中的任一个),其可以处理各种计算机可执行指令,以控制计算系统1000的操作,并且实现用于搜索和编索引媒体内容的共享嵌入的隐私控制的技术或者可以实现其的技术。可选地或附加地,计算系统1000可以用硬件、固件或固定逻辑电路中的任意一种或其组合来实施,这些硬件、固件或固定逻辑电路与通常在1012处识别的处理和控制电路相结合来实施。尽管未示出,计算系统1000可以包括耦合设备内的各种组件的系统总线或数据传输系统。系统总线可以包括诸如存储器总线或存储器控制器、外设总线、通用串行总线和/或利用各种总线架构中的任意一种的处理器或本地总线的不同总线结构中的任意一种或其组合。
计算系统1000还包括计算机可读介质1014,诸如一个或多个存储器设备,所述一个或多个存储器设备能够实现持久和/或非暂时性数据存储(与单纯的信号传输相比),其示例包括随机存取存储器(RAM)、非易失性存储器(例如,只读存储器(ROM)、闪存、EPROM、EEPROM等中的任意一个或多个),和磁盘存储设备。磁盘存储设备可以被实施为任何类型的磁或光存储设备,诸如硬盘驱动器、可记录和/或可重写光盘(CD)、任何类型的数字通用光盘(DVD)等。计算系统1000还可以包括大容量存储介质设备(存储介质)1016。
计算机可读介质1014提供存储设备数据1004的数据存储机制,以及各种设备应用1018和与计算系统1000的操作方面相关的任何其他类型的信息和/或数据。例如,操作系统1020可以被维护为具有计算机可读介质1014并且在处理器1010上执行的计算机应用。设备应用1018可以包括设备管理器,例如任何形式的控制应用、软件应用、信号处理和控制模块、特定设备原生代码、抽象模块、空中手势识别模块和其他模块。设备应用1018还可以包括系统组件、引擎、模块或管理器,以实施用于搜索和编索引媒体内容的共享嵌入的隐私控制,例如存储服务模块120或搜索管理器模块126。计算系统1000还可以包括或者可以访问一个或多个机器学习系统。
在下面描述一些示例:
示例1.一种控制用于搜索和编索引媒体内容的共享嵌入的隐私的方法,由服务提供方系统执行的所述方法:获得第一用户的面部的图像集合;将机器学习模型应用于所述图像集合,以生成用于所述第一用户的面部嵌入的用户特定数据集;通过将所述机器学习模型应用于所述媒体内容对存储在媒体存储中的媒体内容进行编索引,以提供识别所述媒体内容中示出的一个或多个面部的编索引的信息;以及通过应用编程接口控制第二用户针对描绘所述第一用户的图像或视频查询所述媒体内容的对所述编索引的信息的访问,所述访问基于由所述第一用户与所述第二用户共享的数字密钥来控制,所述数字密钥与所述用户特定数据集相关联,所述用户特定数据集能够用于与所述编索引的信息进行比较以识别所述媒体内容中的描绘所述第一用户的图像或视频。
示例2.根据示例1所述的方法,其中,所述用户特定数据集被安全加密且所述第二用户不能够访问。
示例3.根据任一项前述示例所述的方法,其中,所述图像集合包括多个彩色图像。
示例4.根据任一项前述示例所述的方法,还包括:接收对来自所述媒体内容的描绘所述第一用户的图像或视频的搜索查询,所述搜索查询包括与所述用户特定数据集相关联的数字密钥;通过所述应用编程接口使用所述数字密钥访问所述编索引的信息,以识别来自所述媒体内容中的哪些图像或视频描绘所述第一用户;以及提供包括来自所述媒体内容的描绘所述第一用户的所识别的图像或视频的搜索结果。
示例5.根据示例4所述的方法,还包括:基于所述数字密钥来识别所述用户特定数据集;以及针对与所述用户特定数据集中的一个或多个面部嵌入相匹配的一个或多个嵌入搜索所述编索引的信息。
示例6.根据示例4或5所述的方法,其中,所识别的视频包括所识别的视频中描绘所述第一用户的面部的一个或多个帧。
示例7.根据任一项前述示例所述的方法,其中,所述媒体存储由第三方实体拥有。
示例8.根据任一项前述示例所述的方法,还包括:从所述第一用户的电子设备接收一个或多个附加图像;通过以下来更新用于所述第一用户的面部嵌入的所述用户特定数据集:将所述机器学习模型应用于所述一个或多个附加图像以生成一个或多个新面部嵌入;以及将所述一个或多个新嵌入添加到用于所述第一用户的面部嵌入的用户特定数据集。
示例9.根据任一项前述示例所述的方法,还包括:基于来自所述第一用户的用户输入从先前用于生成所述用户特定数据集的所述图像集合中删除一个或多个图像,所述删除提供图像子集;以及通过将所述机器学习模型应用于所述图像子集,更新用于所述第一用户的面部嵌入的用户特定数据集,以生成更新的用户特定数据集。
示例10.根据任一项前述示例所述的方法,还包括:使用面部检测器检测所述图像集合中的每个面部的面部边界。
示例11.根据任一项前述示例所述的方法,还包括:维护所述第一用户与其他用户共享的数字密钥集合,所述数字密钥集合中的每个数字密钥与不同用户共享。
示例12.根据任一项前述示例所述的方法,其中,所述媒体内容包括与所述第二用户相关联的媒体合集;所述方法还包括:针对描绘所述第一用户的图像或视频搜索与所述第二用户相关联的所述媒体合集。
示例13.根据任一项前述示例所述的方法,还包括:接收删除由所述第一用户与所述第二用户共享的数字密钥的用户选择;接收来自所述第二用户的电子设备的后续搜索查询,所述后续搜索查询包括由所述第一用户共享的数字密钥;以及基于确定所述数字密钥未被包括在与用于所述第一用户的所述用户特定数据集相关联的数字密钥集合中,不向所述搜索查询返回任何结果。
示例14.根据任一项前述示例所述的方法,还包括:接收来自第三用户的对来自所述媒体内容的描绘所述第一用户的图像或视频的第二搜索查询,所述第二搜索查询不包括与所述用户特定数据集相关联的数字密钥;以及不向所述第二搜索查询返回任何结果。
示例15.一种服务提供方系统,包括:媒体存储;存储服务模块,用于管理存储在所述媒体存储中的数据;机器学习模型,用于生成用于特定用户的面部嵌入的用户特定数据集;以及;以及处理器和存储器,用于实施任一项前述示例所述的方法。
结论
尽管已经以特定于特征和/或方法的语言描述了用于实现用于搜索和编索引媒体内容的共享嵌入的隐私控制的技术的实施方式和装置,但是应当理解,所附权利要求的主题不一定限于所描述的特定特征或方法。相反,特定特征和方法被公开作为用于搜索和编索引媒体内容的共享嵌入的隐私控制的示例实施方式。

Claims (15)

1.一种控制用于对媒体内容进行搜索和编索引的共享嵌入的隐私的方法,由服务提供方系统执行的所述方法:
获得第一用户的面部的图像集合;
将机器学习模型应用于所述图像集合,以生成用于所述第一用户的面部嵌入的用户特定数据集;
通过将所述机器学习模型应用于所述媒体内容对存储在媒体存储中的媒体内容进行编索引,以提供识别所述媒体内容中示出的一个或多个面部的编索引的信息;以及
通过应用编程接口控制第二用户针对描绘所述第一用户的图像或视频查询所述媒体内容的对所述编索引的信息的访问,所述访问基于由所述第一用户与所述第二用户共享的数字密钥来控制,所述数字密钥与所述用户特定数据集相关联,所述用户特定数据集能够用于与所述编索引的信息进行比较以识别所述媒体内容中的描绘所述第一用户的图像或视频。
2.根据权利要求1所述的方法,其中,所述用户特定数据集被安全加密且所述第二用户不能够访问。
3.根据任一项前述权利要求所述的方法,其中,所述图像集合包括多个彩色图像。
4.根据任一项前述权利要求所述的方法,其中,还包括:
接收对来自所述媒体内容的描绘所述第一用户的图像或视频的搜索查询,所述搜索查询包括与所述用户特定数据集相关联的数字密钥;
通过所述应用编程接口使用所述数字密钥,访问所述编索引的信息,以识别来自所述媒体内容中的哪些图像或视频描绘所述第一用户;以及
提供包括来自所述媒体内容的描绘所述第一用户的所识别的图像或视频的搜索结果。
5.根据权利要求4所述的方法,还包括:
基于所述数字密钥来识别所述用户特定数据集;以及
针对与所述用户特定数据集中的一个或多个面部嵌入相匹配的一个或多个嵌入搜索所述编索引的信息。
6.根据权利要求4或5所述的方法,其中,所识别的视频包括所识别的视频中描绘所述第一用户的面部的一个或多个帧。
7.根据任一项前述权利要求所述的方法,其中,所述媒体存储由第三方实体拥有。
8.根据任一项前述权利要求所述的方法,还包括:
从所述第一用户的电子设备接收一个或多个附加图像;以及
通过以下来更新用于所述第一用户的面部嵌入的所述用户特定数据集:
将所述机器学习模型应用于所述一个或多个附加图像以生成一个或多个新面部嵌入;以及
将所述一个或多个新嵌入添加到用于所述第一用户的面部嵌入的所述用户特定数据集。
9.根据任一项前述权利要求所述的方法,还包括:
基于来自所述第一用户的用户输入从先前用于生成所述用户特定数据集的所述图像集合中删除一个或多个图像,所述删除提供图像子集;以及
通过将所述机器学习模型应用于所述图像子集,更新用于所述第一用户的面部嵌入的所述用户特定数据集,以生成更新的用户特定数据集。
10.根据任一项前述权利要求所述的方法,还包括:使用面部检测器检测所述图像集合中的每个面部的面部边界。
11.根据任一项前述权利要求所述的方法,还包括:维护所述第一用户与其他用户共享的数字密钥集合,所述数字密钥集合中的每个数字密钥与不同用户共享。
12.根据权利要求1所述的方法,其中:
所述媒体内容包括与所述第二用户相关联的媒体合集;以及
所述方法还包括:针对描绘所述第一用户的图像或视频搜索与所述第二用户相关联的所述媒体合集。
13.根据任一项前述权利要求所述的方法,还包括:
接收删除由所述第一用户与所述第二用户共享的数字密钥的用户选择;
接收来自所述第二用户的电子设备的后续搜索查询,所述后续搜索查询包括由所述第一用户共享的数字密钥;以及
基于确定所述数字密钥未被包括在与用于所述第一用户的所述用户特定数据集相关联的数字密钥集合中,不向所述搜索查询返回任何结果。
14.根据任一项前述权利要求所述的方法,还包括:
接收来自第三用户的对来自所述媒体内容的描绘所述第一用户的图像或视频的第二搜索查询,所述第二搜索查询不包括与所述用户特定数据集相关联的数字密钥;以及
不向所述第二搜索查询返回任何结果。
15.一种服务提供方系统,包括:
媒体存储;
存储服务模块,所述存储服务模块用于管理存储在所述媒体存储中的数据;
机器学习模型,所述机器学习模型用于生成用于特定用户的面部嵌入的用户特定数据集;以及
处理器和存储器,所述处理器和处理器存储器用于实施任一项前述权利要求所述的方法。
CN202080092016.3A 2020-01-06 2020-01-06 用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制 Pending CN114930324A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/US2020/012352 WO2021141568A1 (en) 2020-01-06 2020-01-06 Privacy controls for sharing embeddings for searching and indexing media content

Publications (1)

Publication Number Publication Date
CN114930324A true CN114930324A (zh) 2022-08-19

Family

ID=69400664

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202080092016.3A Pending CN114930324A (zh) 2020-01-06 2020-01-06 用于对媒体内容进行搜索和编索引的共享嵌入的隐私控制

Country Status (6)

Country Link
US (1) US20210209248A1 (zh)
EP (1) EP4055504A1 (zh)
JP (1) JP7448664B2 (zh)
KR (1) KR20220108153A (zh)
CN (1) CN114930324A (zh)
WO (1) WO2021141568A1 (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20220311764A1 (en) * 2021-03-24 2022-09-29 Daniel Oke Device for and method of automatically disabling access to a meeting via computer

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20170286433A1 (en) * 2005-10-26 2017-10-05 Cortica, Ltd. System and method for sharing images
US8208764B2 (en) * 2006-01-21 2012-06-26 Elizabeth Guckenberger Photo automatic linking system and method for accessing, linking, and visualizing “key-face” and/or multiple similar facial images along with associated electronic data via a facial image recognition search engine
US20080127331A1 (en) * 2006-09-26 2008-05-29 Glenn Robert Seidman Method, system, and apparatus for linked personas authenticator
US20090037419A1 (en) * 2007-08-03 2009-02-05 Johannes Huber Website exchange of personal information keyed to easily remembered non-alphanumeric symbols
CN104866553A (zh) * 2007-12-31 2015-08-26 应用识别公司 利用脸部签名来标识和共享数字图像的方法、系统和计算机程序
US8358811B2 (en) * 2008-04-02 2013-01-22 Google Inc. Method and apparatus to incorporate automatic face recognition in digital image collections
US9015139B2 (en) * 2010-05-14 2015-04-21 Rovi Guides, Inc. Systems and methods for performing a search based on a media content snapshot image
US8311337B2 (en) * 2010-06-15 2012-11-13 Cyberlink Corp. Systems and methods for organizing and accessing feature vectors in digital images
US9244923B2 (en) * 2012-08-03 2016-01-26 Fuji Xerox Co., Ltd. Hypervideo browsing using links generated based on user-specified content features
US10027727B1 (en) * 2012-11-21 2018-07-17 Ozog Media, LLC Facial recognition device, apparatus, and method
US9178962B2 (en) 2012-11-28 2015-11-03 Qualcomm Incorporated System and method for authenticating multiple devices with a same credential
JP6570840B2 (ja) * 2015-01-29 2019-09-04 Dynabook株式会社 電子機器および方法
US11222227B2 (en) * 2017-01-25 2022-01-11 Chaim Mintz Photo subscription system and method using biometric identification
EP3568787B1 (en) * 2017-05-17 2024-04-10 Google LLC Automatic image sharing with designated users over a communication network
US10628662B2 (en) * 2018-04-05 2020-04-21 International Business Machines Corporation Automated and unsupervised curation of image datasets
US10990246B1 (en) * 2018-10-31 2021-04-27 Amazon Technologies, Inc. Techniques for generating digital content
US20220004652A1 (en) * 2018-12-07 2022-01-06 Microsoft Technology Licensing, Llc Providing images with privacy label
US11636438B1 (en) * 2019-10-18 2023-04-25 Meta Platforms Technologies, Llc Generating smart reminders by assistant systems

Also Published As

Publication number Publication date
KR20220108153A (ko) 2022-08-02
WO2021141568A1 (en) 2021-07-15
JP7448664B2 (ja) 2024-03-12
EP4055504A1 (en) 2022-09-14
JP2022553453A (ja) 2022-12-22
US20210209248A1 (en) 2021-07-08

Similar Documents

Publication Publication Date Title
KR101756844B1 (ko) 프라이버시 인식 공유 관리 방법, 장치 및 시스템
US11336968B2 (en) Method and device for generating content
US20240121322A1 (en) Methods and systems for providing a visual content gallery within a controlled environment
US10984410B2 (en) Entity-sovereign data wallets using distributed ledger technology
WO2017143879A1 (zh) 文件的权限管理方法及装置
US20130205382A1 (en) Resource Access Based on Multiple Credentials
US20090328205A1 (en) User established group-based security for user created restful resources
CN105659250B (zh) 世界驱动访问控制
US20220100831A1 (en) Face Authentication Embedding Migration and Drift-Compensation
US20100214062A1 (en) Verification apparatus and authentication apparatus
CN106055941A (zh) 一种终端方法及装置
JP7448664B2 (ja) メディアコンテンツを検索およびインデックス付けするための埋め込みを共有するためのプライバシー制御
US11363027B2 (en) Media data based user profiles
US11582037B2 (en) Apparatus and methods for secure distributed communications and data access
US10432418B1 (en) Integrating cognitive technology with social networks to identify and authenticate users in smart device systems
WO2021048377A1 (en) Resource access control
US20220114243A1 (en) Data control using digital fingerprints
KR20200132999A (ko) 단일 장치의 다중 인증 시스템
KR20200020575A (ko) 컨텐트를 생성하는 방법 및 그에 따른 디바이스
GB2587191A (en) Resource access control

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination