CN113434716B - 一种跨模态信息检索方法和装置 - Google Patents

一种跨模态信息检索方法和装置 Download PDF

Info

Publication number
CN113434716B
CN113434716B CN202110751989.XA CN202110751989A CN113434716B CN 113434716 B CN113434716 B CN 113434716B CN 202110751989 A CN202110751989 A CN 202110751989A CN 113434716 B CN113434716 B CN 113434716B
Authority
CN
China
Prior art keywords
feature matrix
regional
matrix
image
text
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110751989.XA
Other languages
English (en)
Other versions
CN113434716A (zh
Inventor
于吉鹏
喻庐军
韩森尧
侯博严
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Taikang Insurance Group Co Ltd
Original Assignee
Taikang Insurance Group Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Taikang Insurance Group Co Ltd filed Critical Taikang Insurance Group Co Ltd
Priority to CN202110751989.XA priority Critical patent/CN113434716B/zh
Publication of CN113434716A publication Critical patent/CN113434716A/zh
Application granted granted Critical
Publication of CN113434716B publication Critical patent/CN113434716B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G06F16/532—Query formulation, e.g. graphical querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/55—Clustering; Classification
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/5866—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using information manually generated, e.g. tags, keywords, comments, manually generated location and time information
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/20—Natural language analysis
    • G06F40/279—Recognition of textual entities
    • G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F40/00—Handling natural language data
    • G06F40/30—Semantic analysis
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/044—Recurrent networks, e.g. Hopfield networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks

Abstract

本发明公开了一种跨模态信息检索方法和装置，涉及计算机技术领域。该方法的一具体实施方式包括：对输入的图像集中的图像分别进行区域特征提取，得到对应的区域特征矩阵；使用图卷积网络推理归属于同一图像的多个区域特征向量之间的相关性，生成区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；使用循环神经网络对区域信息关联特征矩阵进行全局语义推理，得到图像对应的全局语义特征矩阵；在接收到包括检索文本的检索指令的情况下，从检索文本中提取文本特征矩阵，查找与文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。该方法将图卷积网络和循环神经网络相结合，可由文本描述快速检索到匹配的图像。

Description

一种跨模态信息检索方法和装置
技术领域
本发明涉及计算机技术领域，尤其涉及一种跨模态信息检索方法和装置。
背景技术
跨模态信息检索即寻找不同模态信息之间的关系，实现利用某一种模态信息，搜索近似语义的其他模态信息。比如，利用图像来检索相应的文本，或者利用文本来检索相应的图像。其中，模态是指信息的存在形式，比如文本、图像、音频、视频等文件格式。
现有的跨模态信息检索方式主要有二值表示学习(binary representationlearning)和实值表示学习(real-valued representation learning)两种。其中，二值表示学习是将提取的图像特征和文本特征先映射到汉明二值空间，然后在此空间中进行学习。实值表示学习是直接对提取的图像特征和文本特征进行学习。
在实现本发明过程中，现有技术中至少存在如下问题：
现有的检索方式是将不同模态信息独立嵌入到一个联合空间，之后衡量不同模态信息之间的相似性，无法弥补不同模态信息之间的特征差异，导致检索性能较差。
发明内容
有鉴于此，本发明实施例提供一种跨模态信息检索方法和装置，该方法使用图卷积网络推理图像对应的区域特征向量之间的相关性，生成具有语义关系的特征，进而利用循环神经网络对这些语义关系增强的特征进行全局语义推理，使得后续可以由文本描述快速检索到相应的图像，提高检索精度。
为实现上述目的，根据本发明实施例的一个方面，提供了一种跨模态信息检索方法。
本发明实施例的一种跨模态信息检索方法，包括：对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵；其中，所述区域特征矩阵包括多个图像区域对应的区域特征向量；使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵；在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。
可选地，所述使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵，包括：将所述区域特征矩阵输入所述图卷积网络，由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，输出区域相关性特征矩阵；使用残差矩阵将所述区域相关性特征矩阵增加到所述区域特征矩阵，得到语义关系增强的区域信息关联特征矩阵。
可选地，所述由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，包括：将设定的邻接矩阵和所述区域特征矩阵相乘，得到包含其他区域特征的新区域特征矩阵；将所述新区域特征矩阵与权重参数矩阵进行相乘，得到表示多个所述区域特征向量之间的相关性的所述区域相关性特征矩阵。
可选地，所述循环神经网络为门控循环单元；所述使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，包括：将所述区域信息关联特征矩阵输入所述门控循环单元，使用控制门和记忆机制对所述区域信息关联特征矩阵进行全局语义推理。
可选地，所述从所述检索文本中提取文本特征矩阵，包括：对所述检索文本进行分词和词嵌入操作，得到词向量矩阵；将所述词向量矩阵输入多层循环神经网络，之后将所述循环神经网络的输出输入至全连接层，得到文本特征矩阵。
可选地，所述查找与所述文本特征矩阵相匹配的全局语义特征矩阵，包括：使用搜索引擎分别计算所述图像集的图像所对应的全局语义特征矩阵与所述文本特征矩阵之间的相似度；根据设定的匹配规则和所述相似度，确定与所述文本特征矩阵相匹配的全局语义特征矩阵。
可选地，所述方法还包括：将所述图像集的图像所对应的全局语义特征矩阵输入至预训练的分类器，由所述分类器对所述图像进行场景分类，得到所述图像对应的活动场景；在接收到包括目标活动场景的检索指令的情况下，查找与所述目标活动场景相匹配的图像，输出查找出的图像。
为实现上述目的，根据本发明实施例的另一方面，提供了一种跨模态信息检索装置。
本发明实施例的一种跨模态信息检索装置，包括：特征提取模块，用于对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵；其中，所述区域特征矩阵包括多个图像区域对应的区域特征向量；区域关系推理模块，用于使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；全局语义推理模块，用于使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵；匹配查找模块，用于在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。
可选地，所述区域关系推理模块，还用于将所述区域特征矩阵输入所述图卷积网络，由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，输出区域相关性特征矩阵；使用残差矩阵将所述区域相关性特征矩阵增加到所述区域特征矩阵，得到语义关系增强的区域信息关联特征矩阵。
可选地，所述区域关系推理模块，还用于将设定的邻接矩阵和所述区域特征矩阵相乘，得到包含其他区域特征的新区域特征矩阵；将所述新区域特征矩阵与权重参数矩阵进行相乘，得到表示多个所述区域特征向量之间的相关性的所述区域相关性特征矩阵。
可选地，所述循环神经网络为门控循环单元；所述全局语义推理模块，还用于将所述区域信息关联特征矩阵输入所述门控循环单元，使用控制门和记忆机制对所述区域信息关联特征矩阵进行全局语义推理。
可选地，所述匹配查找模块，还用于对所述检索文本进行分词和词嵌入操作，得到词向量矩阵；将所述词向量矩阵输入多层循环神经网络，之后将所述循环神经网络的输出输入至全连接层，得到文本特征矩阵。
可选地，所述匹配查找模块，还用于使用搜索引擎分别计算所述图像集的图像所对应的全局语义特征矩阵与所述文本特征矩阵之间的相似度；根据设定的匹配规则和所述相似度，确定与所述文本特征矩阵相匹配的全局语义特征矩阵。
可选地，所述装置还包括：场景分类模块，用于将所述图像集的图像所对应的全局语义特征矩阵输入至预训练的分类器，由所述分类器对所述图像进行场景分类，得到所述图像对应的活动场景；在接收到包括目标活动场景的检索指令的情况下，查找与所述目标活动场景相匹配的图像，输出查找出的图像。
为实现上述目的，根据本发明实施例的再一方面，提供了一种电子设备。
本发明实施例的一种电子设备，包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例的一种跨模态信息检索方法。
为实现上述目的，根据本发明实施例的再一方面，提供了一种计算机可读介质。
本发明实施例的一种计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例的一种跨模态信息检索方法。
上述发明中的一个实施例具有如下优点或有益效果：使用图卷积网络推理图像对应的区域特征向量之间的相关性，生成具有语义关系的特征，进而利用循环神经网络对这些语义关系增强的特征进行全局语义推理，使得后续可以由文本描述快速检索到相应的图像，提高检索精度。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明，不构成对本发明的不当限定。其中：
图1是根据本发明一实施例的跨模态信息检索方法的主要步骤的示意图；
图2是根据本发明又一实施例的跨模态信息检索方法的主要流程示意图；
图3是根据本发明再一实施例的跨模态信息检索方法的主要流程示意图；
图4是根据本发明实施例的跨模态信息检索装置的主要模块的示意图；
图5是本发明实施例可以应用于其中的示例性系统架构图；
图6是适用于来实现本发明实施例的电子设备的计算机装置的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明，其中包括本发明实施例的各种细节以助于理解，应当将它们认为仅仅是示范性的。因此，本领域普通技术人员应当认识到，可以对这里描述的实施例做出各种改变和修改，而不会背离本发明的范围和精神。同样，为了清楚和简明，以下的描述中省略了对公知功能和结构的描述。
实施例一
图1是根据本发明一实施例的跨模态信息检索方法的主要步骤的示意图。如图1所示，本发明实施例的跨模态信息检索方法，主要包括如下步骤：
步骤S101：对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵。图像集中包括待检索的全部图像，在接收到图像集之后，对其包含的各个图像分别进行区域特征提取，得到各个图像对应的区域特征矩阵。其中，区域特征矩阵包括多个区域特征向量，一个区域特征向量对应图像的一个图像区域。
该步骤的区域特征提取过程可以利用神经网络实现，比如目标检测网络Bottom-Up and Top-Down Attention。具体地，首先将图像放缩至指定尺寸，之后将统一尺寸后的图像输入至目标检测网络，即可输出区域特征矩阵。
步骤S102：使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵。将区域特征矩阵输入至图卷积网络，由图卷积网络推理区域特征矩阵中包括的多个区域特征向量之间的相关性(即区域关系推理)，之后使用残差矩阵，将区域相关性特征矩阵增加到区域特征矩阵，即可得到语义关系增强的区域信息关联特征矩阵。
步骤S103：使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵。按照图像区域，将区域信息关联特征矩阵输入至循环神经网络进行全局语义推理，以筛选出有区别性的信息，同时过滤掉不重要的信息，即可得到图像对应的全局语义特征矩阵。
步骤S104：在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。当接收到检索指令时，解析该检索指令，获得其中包含的检索文本，之后对检索文本进行特征提取，得到文本特征矩阵。
在提取出文本特征矩阵后，可以计算文本特征矩阵与全局语义特征矩阵的相似度，以使得可以根据相似度，从步骤S103中得到的全局语义特征矩阵中，查找与文本特征矩阵相匹配的全局语义特征矩阵，该全局语义特征矩阵对应的图像即与检索文本相匹配的图像。
实施例一中，通过步骤S101-步骤S103的处理，将图卷积网络和循环神经网络相组合，通过区域关系推理和全局语义推理，生成了整个图像的信息表示，且可以捕获图像中目标对象的语义信息。后续可以根据使用目的的不同，实现语义检索和场景分类两个功能。下面结合实施例二和实施例三分别进行说明。
实施例二
图2是根据本发明又一实施例的跨模态信息检索方法的主要流程示意图。如图2所示，本发明实施例的跨模态信息检索方法，用于实现语义检索，主要包括如下步骤：
步骤S201：对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵。实施例中，使用Bottom-Up and Top-Down Attention网络提取图像特征。具体地，将图像按照RGB三通道读取后，放缩至统一大小(500，500，3)；之后输入该网络，即可得到(36，2048)的特征矩阵，该特征矩阵表示图像36个区域的2048维特征向量；最后通过一个线性层将特征矩阵降维为(36，1024)，即可得到图像对应的区域特征矩阵。
步骤S202：使用图卷积网络，生成区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵。本步骤用于通过图卷积网络的推理能力，获得语义关系增强的区域特征矩阵。实施例中，将图像的36个图像区域看作一个全连接图(即每个图像区域均与其他35个图像区域相连接)，每个图像区域通过图卷积网络推理与其他35个图像区域的相关性。
实施例中，相关性是指每个图像区域的语义关系。而图像区域的语义关系通常指两个图像区域中内容的相似程度，可以通过计算两个图像区域对应的区域特征向量之间的相似度，确定两个图像区域中内容的相似程度。
该步骤可由如下公式实现：
Vi＝Wri(AVi-1We)+Vi-1 公式1
式中，Vi为第i次图卷积操作后得到的区域信息关联特征矩阵；Vi-1为第i次图卷积操作前的区域信息关联特征矩阵，且初始值(即V0)为区域特征矩阵；i为图卷积操作次数；Wri为残差矩阵；A为邻接矩阵；We为权重参数矩阵。
公式1中括号内的部分即图卷积网络。以i＝1为例，该图卷积网络用于将邻接矩阵和区域特征矩阵相乘，得到包含其他区域特征的新区域特征矩阵；之后将新区域特征矩阵与权重参数矩阵进行相乘，得到表示多个区域特征向量之间的相关性的区域相关性特征矩阵。将图卷积网络的输出(即区域相关性特征矩阵)与残差矩阵相乘后，再与区域特征矩阵相加，即可得到语义关系增强的区域信息关联特征矩阵。
当i大于1时，该图卷积网络用于将邻接矩阵和上一次图卷积操作得到的区域信息关联特征矩阵相乘，得到包含其他区域特征的新区域特征矩阵；之后将新区域特征矩阵与权重参数矩阵进行相乘，得到表示多个区域特征向量之间的相关性的区域相关性特征矩阵。将图卷积网络的输出与残差矩阵相乘后，与上一次图卷积操作得到的区域信息关联特征矩阵相加，即可得到语义关系增强的区域信息关联特征矩阵。
实施例中，邻接矩阵A的矩阵大小为(36，36)，且矩阵对角元素为0，其他位置均为1。邻接矩阵A与Vi-1相乘的作用是将每个图像区域的区域特征向量与其他35个图像区域的区域特征向量相加。权重参数矩阵We表示每次图卷积操作的权重参数，该矩阵大小为(1024，1024)，该矩阵用于学习每个图像区域之间的关系权重。残差矩阵Wri可初始化为高斯函数，矩阵大小为(36，36)。区域信息关联特征矩阵的矩阵大小为(36，1024)。
在一优选的实施例中，图卷积操作次数需大于2次，比如进行4次图卷积操作。
步骤S203：使用门控循环神经网络对区域信息关联特征矩阵进行全局语义推理，得到图像对应的全局语义特征矩阵。该步骤用于在步骤S202的基础上进一步进行全局语义推理，筛选出有区别性的信息，过滤掉不重要的信息，得到完整图像的信息表示。实施例中，门控循环神经网络可以是门控循环单元(Gated Recurrent Unit，GRU)、长短期记忆网络(Long Short-Term Memory，LSTM)。
以门控循环神经网络为门控循环单元为例，该步骤需按照图像区域，将区域信息关联特征矩阵输入门控循环单元，使用控制门和记忆机制对区域信息关联特征矩阵进行全局语义推理，得到具有全局语义信息的特征向量，大小为(1，1024)。将该特征向量进行归一化处理，得到全局语义特征矩阵，保存到数据库。
步骤S204：在接收到包括检索文本的检索指令的情况下，从检索文本中提取文本特征矩阵。当接收到用户发送的检索指令时，从检索指令中获取检索文本，之后从检索文本中提取出文本特征矩阵。实施例中，首先对检索文本进行分词和词嵌入操作，得到词向量矩阵；之后将词向量矩阵输入多层循环神经网络，将循环神经网络的输出输入至全连接层，即可得到文本特征矩阵。
其中，对检索文本进行分词和词嵌入操作的具体实现为：对检索文本进行分词处理，得到分词结果集；之后使用词袋模型，对分词结果集中的分词进行词嵌入，得到对应的词向量矩阵。实施例中，词袋模型可以根据图像场景描述所使用到的词来建立，在词袋中放入初始标识和结束标识，表示句子开始和句子结束。假设分词结果集中共有v个词，词向量矩阵的矩阵大小为(v，512)。
在一可选的实施例中，本步骤可由一个神经网络实现，该神经网络包括多层循环神经网络、一个sigmod激活层和一个全连接层。多层循环神经网络可以是双层循环神经网络，比如两层LSTM。该神经网络用于将输入的检索文本与图像集中的图像建立联系，使检索文本和图像都可以转化为可以通过相似度计算来查询的特征矩阵。
当得到词向量矩阵之后，将词向量矩阵输入第一层LSTM网络，经LSTM网络处理后得到大小为(v，1024)的词向量矩阵；之后再输入到第二层STM网络，经LSTM网络处理后得到大小为(v，2048)的词向量矩阵；接着输入到sigmod激活层，词向量矩阵大小不变；然后输入至全连接层，得到大小为(1，1024)的特征向量；将特征向量进行归一化处理，得到文本特征矩阵。
步骤S205：将文本特征矩阵和全局语义特征矩阵输入搜索引擎，由搜索引擎在图像集中查找与检索文本相匹配的图像。由于已经将检索文本和图像均转换为特征矩阵形式，故可以使用现有的搜索引擎，比如Milvus引擎(是一款针对海量特征向量的相似性检索引擎)，通过计算相似度的方式，在数据库中查找与文本特征矩阵相匹配的全局语义特征矩阵，进而得到相匹配的图像。其中，相似度计算的方式可以是余弦距离、欧式距离、曼哈顿距离等。
具体地，将文本特征矩阵输入Milvus引擎，同时由Milvus引擎从数据库中获取图像对应的全局语义特征矩阵，之后计算该文本特征矩阵与全局语义特征矩阵之间的相似度，然后根据设定的匹配规则和相似度，确定与文本特征矩阵相匹配的全局语义特征矩阵。其中，相似度计算的方式可以是余弦距离。
实施例中，匹配规则可以是相似度大于设定阈值的全局语义特征矩阵，或者将相似度正序排序后的前N个全局语义特征矩阵。N为整数。具体地，可以从全部全局语义特征矩阵中选择与文本特征矩阵之间的相似度大于设定阈值的全局语义特征矩阵，将选择出的全局语义特征矩阵作为与文本特征矩阵相匹配的全局语义特征矩阵。
或者，按照相似度大小，将全部全局语义特征矩阵进行排序，从排序结果中选择前N个全局语义特征矩阵作为与文本特征矩阵相匹配的全局语义特征矩阵。
实施例二中，利用一个可学习的残差矩阵，将图卷积操作得到的各个图像区域的特征信息加到了原有的特征矩阵中，增强了图像区域的相关信息，获得了局部语义信息的联系，使得本实施例后续可以通过局部语义信息的联系推理出表征全局语义的特征矩阵。同时，本实施例通过全局语义推理生成的全局语义特征矩阵，可以直接通过余弦距离方式，与文本特征矩阵进行匹配，在保证语义检索精度的同时，使得本实施例可以结合现有的搜索引擎实现海量快速匹配。
实施例三
图3是根据本发明再一实施例的跨模态信息检索方法的主要流程示意图。如图3所示，本发明实施例的跨模态信息检索方法，用于实现场景分类，主要包括如下步骤：
步骤S301：对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵。
步骤S302：使用图卷积网络，生成区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵。
步骤S303：使用门控循环神经网络对区域信息关联特征矩阵进行全局语义推理，得到图像对应的全局语义特征矩阵。
上述步骤S301-步骤S303的具体实现与步骤S201-步骤S203对应相同，此处不再赘述。
步骤S304：将图像集的图像所对应的全局语义特征矩阵输入至预训练的分类器，由分类器对图像进行场景分类，得到图像对应的活动场景。该步骤用于根据全局语义特征矩阵判断图像中人物的活动场景，比如饮食情况、娱乐情况、住宿情况等，进而对图像进行分类。
由于全局语义特征矩阵中已经包含图像中的主要特征关系，此步骤中可以使用预先训练的LightGBM多分类器，对预先进行场景分类。其中，LightGBM是个快速的、分布式的、高性能的基于决策树算法的梯度提升框架。
实施例中，预先为各活动场景设置场景编号，将图像对应的全局语义特征矩阵输入至训练好的分类器，由分类器对图像进行场景分类，输出各图像对应的场景编号，之后将图像地址和对应的场景编号存储到数据库。分类器的训练过程可以使用现有的机器学习模型训练过程，此处不再赘述。
步骤S305：在接收到包括目标活动场景的检索指令的情况下，查找与目标活动场景相匹配的图像，输出查找出的图像。当接收到检索指令后，从检索指令中获取待检索的目标活动场景，之后使用目标活动场景的场景编号，从数据库中查找该场景编号对应的图像地址，之后获取该图像地址对应的图像，该图像即为与目标活动场景相匹配的图像。
实施例中，跨模态信息检索方法的语义检索功能和场景分类功能可以由跨模态信息检索装置实现。
对于语义检索功能，跨模态信息检索装置需要部署一个能够提供两个接口的服务器、一个数据库和一个搜索引擎。其中，服务器的一个接口为文本特征矩阵生成接口，用于生成文本特征矩阵(对应步骤S204)；另一个接口为全局语义特征矩阵生成接口，用于生成全局语义特征矩阵(对应步骤S201-步骤S203)。数据库用于存储图像对应的全局语义特征矩阵。搜索引擎，比如Milvus引擎，用于检索匹配的图像(对应步骤S205)。
对于场景分类功能，跨模态信息检索装置需要部署一个能够提供两个接口的服务器、一个数据库和一个分类器。其中，服务器的一个接口为全局语义特征矩阵生成接口，用于生成全局语义特征矩阵(对应步骤S301-步骤S303)；另一个接口为查询接口，用于查找相匹配的图像(对应步骤S305)。分类器用于对图像进行分类(对应步骤S304)。数据库用于存储图像分类结果。
下面结合养老社区这一应用场景，对本发明的跨模态信息检索方法进行进一步说明。
随着养老社区的增多，社区活动的丰富，随之拍摄产生的照片和视频也越来越多。如何按照人物活动场景，将这些照片分门别类进行整理，以更好的服务于养老社区的相关人员。如何通过穿着、所持物品、去过场所等对老人进行定位，实现走丢老人的快速寻找。
基于上述需求，使用本实施例的跨模态检索方法可以通过文字描述快速找到相应的图像。比如，通过对图像中人数、动作、穿着、动物、物品、环境等细节进行文字描述，检索到相关的图像。再比如，结合语义检索和场景分类功能，实现多层级的图片预览和展示。
以用户需要观察养老社区的餐饮情况这一目标活动场景为例，可以在跨模态信息搜索装置中先输入“饮食情况”这一文本，由场景分类功能查找到全部老人饮食相关的图像。之后如果用户需要进一步查看具有某些特征的人，则可以继续输入比如“白色帽子、黑色毛衣和褐色裤子的老人在吃水果”这一文本，由语义检索功能查找到对应图像。
进一步地，由于本实施例的跨模态信息搜索装置能够实现大规模、实时的语义检索，故可以与摄像监控系统联合，通过帧检测技术抽取视频图像，并存储抽帧后的视频图像，根据老人穿着、所持物品、去过场所等实现对走丢老人的快速寻找。
通过本发明实施例的跨模态信息检索方法可以看出，通过将图卷积网络和循环神经网络相组合，通过区域关系推理和全局语义推理，生成了整个图像的信息表示，可以更好的识别复杂的活动场景。同时本实施例能够针对不同训练集，重新训练模型，实现相应场景的语义检索，扩展性好。
图4是根据本发明实施例的跨模态信息检索装置的主要模块的示意图。如图4所示，本发明实施例的跨模态信息检索装置400，主要包括：
特征提取模块401，用于对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵。图像集中包括待检索的全部图像，在接收到图像集之后，对其包含的各个图像分别进行区域特征提取，得到各个图像对应的区域特征矩阵。其中，区域特征矩阵包括多个区域特征向量，一个区域特征向量对应图像的一个图像区域。
该模块的区域特征提取过程可以利用神经网络实现，比如目标检测网络Bottom-Up and Top-Down Attention。具体地，首先将图像放缩至指定尺寸，之后将统一尺寸后的图像输入至目标检测网络，即可输出区域特征矩阵。
区域关系推理模块402，用于使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵。将区域特征矩阵输入至图卷积网络，由图卷积网络推理区域特征矩阵中包括的多个区域特征向量之间的相关性，之后使用残差矩阵，将区域相关性特征矩阵增加到区域特征矩阵，即可得到语义关系增强的区域信息关联特征矩阵。
全局语义推理模块403，用于使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵。按照图像区域，将区域信息关联特征矩阵输入至循环神经网络进行全局语义推理，以筛选出有区别性的信息，同时过滤掉不重要的信息，即可得到图像对应的全局语义特征矩阵。
匹配查找模块404，用于在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。当接收到检索指令时，解析该检索指令，获得其中包含的检索文本，之后对检索文本进行特征提取，得到文本特征矩阵。
在提取出文本特征矩阵后，可以计算文本特征矩阵与全局语义特征矩阵的相似度，以使得可以根据相似度，从全局语义推理模块403中得到的全局语义特征矩阵中，查找与文本特征矩阵相匹配的全局语义特征矩阵，该全局语义特征矩阵对应的图像即与检索文本相匹配的图像。
另外，本发明实施例的跨模态信息检索装置400还可以包括：场景分类模块(图4中未示出)，该模块用于将所述图像集的图像所对应的全局语义特征矩阵输入至预训练的分类器，由所述分类器对所述图像进行场景分类，得到所述图像对应的活动场景；在接收到包括目标活动场景的检索指令的情况下，查找与所述目标活动场景相匹配的图像，输出查找出的图像。
从以上描述可以看出，使用图卷积网络推理图像对应的区域特征向量之间的相关性，生成具有语义关系的特征，进而利用循环神经网络对这些语义关系增强的特征进行全局语义推理，使得后续可以由文本描述快速检索到相应的图像，提高检索精度。
图5示出了可以应用本发明实施例的跨模态信息检索方法或跨模态信息检索装置的示例性系统架构500。
如图5所示，系统架构500可以包括终端设备501、502、503，网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型，例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互，以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用，例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器，例如对用户利用终端设备501、502、503发送的检索指令进行处理的后台管理服务器。后台管理服务器可以提取文本特征矩阵、查找匹配图像等处理，并将处理结果(例如检索出的图像)反馈给终端设备。
需要说明的是，本申请实施例所提供的跨模态信息检索方法一般由服务器505执行，相应地，跨模态信息检索装置一般设置于服务器505中。
应该理解，图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要，可以具有任意数目的终端设备、网络和服务器。
根据本发明的实施例，本发明还提供了一种电子设备和一种计算机可读介质。
本发明的电子设备包括：一个或多个处理器；存储装置，用于存储一个或多个程序，当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现本发明实施例的一种跨模态信息检索方法。
本发明的计算机可读介质，其上存储有计算机程序，所述程序被处理器执行时实现本发明实施例的一种跨模态信息检索方法。
下面参考图6，其示出了适用于来实现本发明实施例的电子设备的计算机系统600的结构示意图。图6示出的电子设备仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示，计算机系统600包括中央处理单元(CPU)601，其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中，还存储有计算机系统600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM 603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607；包括硬盘等的存储部分608；以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611，诸如磁盘、光盘、磁光盘、半导体存储器等等，根据需要安装在驱动器610上，以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地，根据本发明公开的实施例，上文主要步骤图描述的过程可以被实现为计算机软件程序。例如，本公开的实施例包括一种计算机程序产品，其包括承载在计算机可读介质上的计算机程序，该计算机程序包含用于执行主要步骤图所示的方法的程序代码。在这样的实施例中，该计算机程序可以通过通信部分609从网络上被下载和安装，和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时，执行本发明的系统中限定的上述功能。
需要说明的是，本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本发明中，计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于：无线、电线、光缆、RF等等，或者上述的任意合适的组合。
附图中的流程图和框图，图示了按照本发明各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分，上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个接连地表示的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图或流程图中的每个方框、以及框图或流程图中的方框的组合，可以用执行规定的功能或操作的专用的基于硬件的系统来实现，或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现，也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中，例如，可以描述为：一种处理器包括特征提取模块、区域关系推理模块、全局语义推理模块和匹配查找模块。其中，这些模块的名称在某种情况下并不构成对该模块本身的限定，例如，特征提取模块还可以被描述为“对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵的模块”。
作为另一方面，本发明还提供了一种计算机可读介质，该计算机可读介质可以是上述实施例中描述的设备中所包含的；也可以是单独存在，而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序，当上述一个或者多个程序被一个该设备执行时，使得该设备包括：对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵；其中，所述区域特征矩阵包括多个图像区域对应的区域特征向量；使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵；在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像。
根据本发明实施例的技术方案，使用图卷积网络推理图像对应的区域特征向量之间的相关性，生成具有语义关系的特征，进而利用循环神经网络对这些语义关系增强的特征进行全局语义推理，使得后续可以由文本描述快速检索到相应的图像，提高检索精度。
上述产品可执行本发明实施例所提供的方法，具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节，可参见本发明实施例所提供的方法。
上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，取决于设计要求和其他因素，可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (9)

1.一种跨模态信息检索方法，其特征在于，包括：
对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵；其中，所述区域特征矩阵包括多个图像区域对应的区域特征向量；
使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；
使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵；
在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像；
所述使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵，包括：
将所述区域特征矩阵输入所述图卷积网络，由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，输出区域相关性特征矩阵；
将区域相关性特征矩阵与残差矩阵相乘，再与区域特征矩阵相加，得到语义关系增强的区域信息关联特征矩阵。
2.根据权利要求1所述的方法，其特征在于，所述由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，包括：
将设定的邻接矩阵和所述区域特征矩阵相乘，得到包含其他区域特征的新区域特征矩阵；
将所述新区域特征矩阵与权重参数矩阵进行相乘，得到表示多个所述区域特征向量之间的相关性的所述区域相关性特征矩阵。
3.根据权利要求1所述的方法，其特征在于，所述循环神经网络为门控循环单元；
所述使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，包括：
将所述区域信息关联特征矩阵输入所述门控循环单元，使用控制门和记忆机制对所述区域信息关联特征矩阵进行全局语义推理。
4.根据权利要求1所述的方法，其特征在于，所述从所述检索文本中提取文本特征矩阵，包括：
对所述检索文本进行分词和词嵌入操作，得到词向量矩阵；
将所述词向量矩阵输入多层循环神经网络，之后将所述循环神经网络的输出输入至全连接层，得到文本特征矩阵。
5.根据权利要求1所述的方法，其特征在于，所述查找与所述文本特征矩阵相匹配的全局语义特征矩阵，包括：
使用搜索引擎分别计算所述图像集的图像所对应的全局语义特征矩阵与所述文本特征矩阵之间的相似度；
根据设定的匹配规则和所述相似度，确定与所述文本特征矩阵相匹配的全局语义特征矩阵。
6.根据权利要求1至5的任一项所述的方法，其特征在于，所述方法还包括：
将所述图像集的图像所对应的全局语义特征矩阵输入至预训练的分类器，由所述分类器对所述图像进行场景分类，得到所述图像对应的活动场景；
在接收到包括目标活动场景的检索指令的情况下，查找与所述目标活动场景相匹配的图像，输出查找出的图像。
7.一种跨模态信息检索装置，其特征在于，包括：
特征提取模块，用于对输入的图像集中的图像分别进行区域特征提取，得到所述图像对应的区域特征矩阵；其中，所述区域特征矩阵包括多个图像区域对应的区域特征向量；
区域关系推理模块，用于使用图卷积网络推理归属于同一图像的多个所述区域特征向量之间的相关性，生成所述区域特征矩阵所对应的语义关系增强的区域信息关联特征矩阵；
全局语义推理模块，用于使用循环神经网络对所述区域信息关联特征矩阵进行全局语义推理，得到所述图像对应的全局语义特征矩阵；
匹配查找模块，用于在接收到包括检索文本的检索指令的情况下，从所述检索文本中提取文本特征矩阵，查找与所述文本特征矩阵相匹配的全局语义特征矩阵，输出查找出的全局语义特征矩阵对应的图像；
所述区域关系推理模块，还用于将所述区域特征矩阵输入所述图卷积网络，由所述图卷积网络推理所述区域特征矩阵中包括的多个所述区域特征向量之间的相关性，输出区域相关性特征矩阵；将区域相关性特征矩阵与残差矩阵相乘，再与区域特征矩阵相加，得到语义关系增强的区域信息关联特征矩阵。
8.一种电子设备，其特征在于，包括：
一个或多个处理器；
存储装置，用于存储一个或多个程序，
当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-6中任一所述的方法。
9.一种计算机可读介质，其上存储有计算机程序，其特征在于，所述程序被处理器执行时实现如权利要求1-6中任一所述的方法。
CN202110751989.XA 2021-07-02 2021-07-02 一种跨模态信息检索方法和装置 Active CN113434716B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110751989.XA CN113434716B (zh) 2021-07-02 2021-07-02 一种跨模态信息检索方法和装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110751989.XA CN113434716B (zh) 2021-07-02 2021-07-02 一种跨模态信息检索方法和装置

Publications (2)

Publication Number Publication Date
CN113434716A CN113434716A (zh) 2021-09-24
CN113434716B true CN113434716B (zh) 2024-01-26

Family

ID=77758772

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110751989.XA Active CN113434716B (zh) 2021-07-02 2021-07-02 一种跨模态信息检索方法和装置

Country Status (1)

Country Link
CN (1) CN113434716B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113836356A (zh) * 2021-11-23 2021-12-24 北京亮亮视野科技有限公司 视频检索方法、装置、电子设备及存储介质
CN115730878B (zh) * 2022-12-15 2024-01-12 广东省电子口岸管理有限公司 基于数据识别的货物进出口查验管理方法
CN115826899B (zh) * 2023-02-15 2023-05-23 广州佰锐网络科技有限公司 基于远程桌面共享的涂鸦图像处理方法及系统
CN115858847B (zh) * 2023-02-22 2023-06-23 成都考拉悠然科技有限公司 基于跨模态注意力保留的组合式查询图像检索方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102663418A (zh) * 2012-03-21 2012-09-12 清华大学 一种基于回归模型的图像集合建模与匹配方法
CN107562812A (zh) * 2017-08-11 2018-01-09 北京大学 一种基于特定模态语义空间建模的跨模态相似性学习方法
CN109903314A (zh) * 2019-03-13 2019-06-18 腾讯科技（深圳）有限公司 一种图像区域定位的方法、模型训练的方法及相关装置
CN112784092A (zh) * 2021-01-28 2021-05-11 电子科技大学 一种混合融合模型的跨模态图像文本检索方法
CN112966127A (zh) * 2021-04-07 2021-06-15 北方民族大学 一种基于多层语义对齐的跨模态检索方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021098585A1 (en) * 2019-11-22 2021-05-27 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Image search based on combined local and global information

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102663418A (zh) * 2012-03-21 2012-09-12 清华大学 一种基于回归模型的图像集合建模与匹配方法
CN107562812A (zh) * 2017-08-11 2018-01-09 北京大学 一种基于特定模态语义空间建模的跨模态相似性学习方法
CN109903314A (zh) * 2019-03-13 2019-06-18 腾讯科技（深圳）有限公司 一种图像区域定位的方法、模型训练的方法及相关装置
CN112784092A (zh) * 2021-01-28 2021-05-11 电子科技大学 一种混合融合模型的跨模态图像文本检索方法
CN112966127A (zh) * 2021-04-07 2021-06-15 北方民族大学 一种基于多层语义对齐的跨模态检索方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
"基于核方法的多模态数据关联分析研究";钟华;《中国优秀硕士学位论文全文数据库（信息科技辑）》(第02期);I138-2509 *

Also Published As

Publication number Publication date
CN113434716A (zh) 2021-09-24

Similar Documents

Publication Publication Date Title
CN109117777B (zh) 生成信息的方法和装置
CN111368893B (zh) 图像识别方法、装置、电子设备及存储介质
CN113434716B (zh) 一种跨模态信息检索方法和装置
CN111062871B (zh) 一种图像处理方法、装置、计算机设备及可读存储介质
CN111582409B (zh) 图像标签分类网络的训练方法、图像标签分类方法及设备
JP7394809B2 (ja) ビデオを処理するための方法、装置、電子機器、媒体及びコンピュータプログラム
CN112364204A (zh) 视频搜索方法、装置、计算机设备及存储介质
US10796203B2 (en) Out-of-sample generating few-shot classification networks
US11714921B2 (en) Image processing method with ash code on local feature vectors, image processing device and storage medium
CN112101437A (zh) 基于图像检测的细粒度分类模型处理方法、及其相关设备
CN111931859B (zh) 一种多标签图像识别方法和装置
CN113704531A (zh) 图像处理方法、装置、电子设备及计算机可读存储介质
CN113569740B (zh) 视频识别模型训练方法与装置、视频识别方法与装置
CN112766284A (zh) 图像识别方法和装置、存储介质和电子设备
CN114863440A (zh) 订单数据处理方法及其装置、设备、介质、产品
CN116955707A (zh) 内容标签的确定方法、装置、设备、介质及程序产品
US10910014B2 (en) Method and apparatus for generating video
Tejaswi Nayak et al. Video retrieval using residual networks
CN114299304A (zh) 一种图像处理方法及相关设备
US10803115B2 (en) Image-based domain name system
CN108780462B (zh) 用于对多媒体内容元素进行聚类的系统和方法
WO2019212407A1 (en) A system and method for image retrieval
CN110795972A (zh) 行人身份识别方法、装置、设备及存储介质
CN113379595B (zh) 一种页面图片合成方法和装置
WO2021213339A1 (en) Method and system for extracting and storing image metadata

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant