CN112905817B - 基于排序算法的图像检索方法、装置及相关设备 - Google Patents

基于排序算法的图像检索方法、装置及相关设备 Download PDF

Info

Publication number
CN112905817B
CN112905817B CN202110501339.XA CN202110501339A CN112905817B CN 112905817 B CN112905817 B CN 112905817B CN 202110501339 A CN202110501339 A CN 202110501339A CN 112905817 B CN112905817 B CN 112905817B
Authority
CN
China
Prior art keywords
feature
retrieval
image
images
codes
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202110501339.XA
Other languages
English (en)
Other versions
CN112905817A (zh
Inventor
刘建虎
闫潇宁
郑双午
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Anruan Huishi Technology Co ltd
Shenzhen Anruan Technology Co Ltd
Original Assignee
Shenzhen Anruan Huishi Technology Co ltd
Shenzhen Anruan Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Anruan Huishi Technology Co ltd, Shenzhen Anruan Technology Co Ltd filed Critical Shenzhen Anruan Huishi Technology Co ltd
Priority to CN202110501339.XA priority Critical patent/CN112905817B/zh
Publication of CN112905817A publication Critical patent/CN112905817A/zh
Application granted granted Critical
Publication of CN112905817B publication Critical patent/CN112905817B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/53—Querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
    • G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
    • G06F16/5838—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using colour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Library & Information Science (AREA)
  • Databases & Information Systems (AREA)
  • General Health & Medical Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Computational Linguistics (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本发明涉及视频侦查技术领域，提供了一种基于排序算法的图像检索方法、装置及相关设备，包括：获取特征图像；对特征图像进行特征提取得到特征图像的特征码，并将其写入预设的向量检索引擎；选取目标图像，并提取目标图像的特征码；将目标图像的特征码输入至向量检索引擎中进行检索，得到与目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；将前N条特征图像的特征码组成检索集，利用排序算法计算目标图像的特征码与检索集中每一特征图像的特征码的最终相似度，并根据最终相似度对检索集进行排序。本发明基于排序算法的图像检索方法查找目标图像的速度快、精确度高，进而提升了破案效率。

Description

基于排序算法的图像检索方法、装置及相关设备
技术领域
本发明涉及视频侦查技术领域，尤其涉及一种基于排序算法的图像检索方法、装置及相关设备。
背景技术
随着城市化的发展，城市中的车辆和常住居民越来越多，在提高地方经济水平的同时，更多的车辆和人口造成更多类似于盗窃等危害城市安全事件的发生，这给城市管理带来了巨大挑战。
然而，实现车辆和人口的有效管理，需要点对点的管理方法，即实现公安机关直接对相关车辆和人的直接管理，实现短时间内精准破案。但是目前的图像搜索方法仅通过获得城市重要位置的摄像头拍摄的视频数据，无法实现对敏感人物或车辆的精准搜索，致使公安机关无法在短时间内找到目标。
因此，有必要提供一种基于排序算法的图像检索方法、装置及相关设备解决上述技术问题。
发明内容
鉴于以上问题，有必要提供一种基于排序算法的图像检索方法、装置及相关设备，旨在精准快速的找到目标图像。
为实现上述目的，本发明提出一种基于排序算法的图像检索方法，应用于电子设备，所述方法包括：
获取监控视频，对所述监控视频进行关键帧抽取得到特征图像；
利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎；
选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；
将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序；其中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)；
查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
优选的，所述特征图像为行人或车辆的属性特征，所述行人的属性特征包括人脸、人体、肤色以及衣着，所述车辆的属性特征包括车辆类型、车标及车辆的颜色。
优选的，所述利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，具体包括如下步骤：去除所述特征图像的背景；采用卷积神经网络提取去背景后的所述特征图像的特征码。
优选的，采用卷积神经网络提取去背景后的所述特征图像的特征码，具体包括：
采用MGN深度卷积神经网络模型，以去背景后的所述特征图像作为深度网络输入，经过多层网络结构，输出倒数第二个全连接层的隐层节点特征，作为对所述特征图像提取的特征码。
本发明还提供一种基于排序算法的图像检索装置，该装置包括：
获取模块：用于获取监控视频，对所述监控视频进行关键帧抽取得到特征图像；
提取模块：用于利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎；
检索模块：用于选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；
排序模块：用于将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序；其中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)；
显示模块：用于查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
本发明还提供一种电子设备，所述电子设备包括：处理器和与所述处理器通信连接的存储器；其中，所述存储器存储有可被所述处理器执行的基于排序算法的图像检索程序，所述处理器执行所述基于排序算法的图像检索程序时实现如上述的基于排序算法的图像检索方法的步骤。
此外，本发明还提供一种计算机可读存储介质，所述计算机可读存储介质上存储有基于排序算法的图像检索程序，所述基于排序算法的图像检索程序可被处理器执行，以实现如上述的基于排序算法的图像检索方法的步骤。
相较现有技术，本发明所提出的基于排序算法的图像检索方法中，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序，查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。使用该方法可快速精准的找到与目标图像匹配的特征图像，从而实现对监控视频中的敏感人物或车辆的精准搜索，使公安机关可以在短时间内找到目标，为侦破案件提供有力手段。
附图说明
图1为本发明基于排序算法的图像检索方法的流程示意图；
图2为本发明基于排序算法的图像检索装置的模块示意图；
图3为本发明电子设备其中一可选的硬件架构的示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅用以解释本发明，并不用于限定本发明。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，在本发明中涉及“第一”、“第二”等的描述仅用于描述目的，而不能理解为指示或暗示其相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括至少一个该特征。另外，各个实施例之间的技术方案可以相互结合，但是必须是以本领域普通技术人员能够实现为基础，当技术方案的结合出现相互矛盾或无法实现时应当认为这种技术方案的结合不存在，也不在本发明要求的保护范围之内。
本申请实施例提供的基于排序算法的图像检索方法的执行主体包括但不限于服务端、终端等能够被配置为执行本申请实施例提供的该方法的电子设备中的至少一种。换言之，所述视频图像的智能检索方法可以由安装在终端设备或服务端设备的软件或硬件来执行，所述软件可以是区块链平台。所述服务端包括但不限于：单台服务器、服务器集群、云端服务器或云端服务器集群等。
参阅图1所示，是本发明基于排序算法的图像检索方法的流程示意图，该方法可以由一个装置执行，该装置可以由软件和/或硬件实现。
在本实施例中，一种基于排序算法的图像检索方法包括以下步骤：
步骤S10：获取监控视频，对所述监控视频进行关键帧抽取得到特征图像。
本实施例中，所述监控视频为案发时间前后24小时内的监控录像，当然，不限于此，该时间段可根据案件发生的实际情况做适应型设定。所述特征图像为行人或车辆的属性特征，所述行人的属性特征包括人脸、人体、肤色以及衣着，所述车辆的属性特征包括车辆类型（轿车、面包车、卡车、货车等）、车标及车辆的颜色（黑白灰红等）。
步骤S20：利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎。
具体的，所述利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，具体包括如下步骤：去除所述特征图像的背景；采用卷积神经网络提取去背景后的所述特征图像的特征码。所述深度学习网络为MGN深度卷积神经网络，当然，不限于此，其可根据实际情况做适应性设定。
进一步的，采用卷积神经网络提取去背景后的所述特征图像的特征码，具体包括：采用MGN深度卷积神经网络模型，以去背景后的所述特征图像作为深度网络输入，经过多层网络结构，输出倒数第二个全连接层的隐层节点特征，作为对所述特征图像提取的特征码。
需要说明的是，所述卷积神经网络模型为多类别模型的主体结构，其舍弃原始的多类别全连接层；对于由主体结构得到的n维特征，在该层结构后为每种属性类别设计一个线性分类器，对于每个线性分类器经模型前向传递后输出的结果，均以元组的数据格式保存；对于所有属性的元组数据，按照一定的属性顺序追加到同一个元组中作为模型输出的结果。
本实例中，每一所述特征图像都其对应的图像ID，获得所述特征图像的特征码之后，将所述特征图像的特征码和所述特征图像的图像ID同时写入预设的向量检索引擎中。另外，所述步骤S20还包括：将所述特征图像的图像ID和所述特征图像的存储路径写入预设的文本检索引擎。
步骤S30：选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度。
在本实施例中，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度，其中，N≥3。
更优的，为了进一步提高民警的破案效率，还可以将所有满足所述检索条件的所述特征图像的特征码按照时间顺序聚合成再现目标图像活动轨迹的视频片段。
步骤S40：将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序。
本实施例中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括如下步骤：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)。
步骤S50：查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
本实施例中，将排序后的所述检索集中所有所述特征图像的特征码输入至所述文本检索引擎搜索进行检索，得到所述检索集中所有所述特征图像的特征码对应的特征图像的存储路径，并根据存储路径找到对应的特征图像，并将对应的所述特征图像按照所述检索集的排序依次传输至所述显示设备进行显示。
本发明所提出的基于排序算法的图像检索方法中，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序，查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。该方法可快速精准的找到与目标图像匹配的特征图像，从而实现对监控视频中的敏感人物或车辆的精准搜索，使公安机关可以在短时间内找到目标，为侦破案件提供有力手段。
参阅图2所示，是本发明基于排序算法的图像检索装置200的模块示意图。
本实施例中，所述基于排序算法的图像检索装置200包括一系列的存储于存储器上的计算机程序指令，当该计算机程序指令被处理器执行时，可以实现本发明基于排序算法的图像检索操作。在一些实施例中，基于该计算机程序指令各部分所实现的特定的操作，基于排序算法的图像检索装置200可以被划分为一个或多个模块。例如，在图2中，所述基于排序算法的图像检索装置200可以被分割成获取模块201、提取模块202、检索模块203、排序模块204以及显示模块205。其中：获取模块201：用于获取监控视频，对所述监控视频进行关键帧抽取得到特征图像。
本实施例中，所述监控视频为案发时间前后24小时内的监控录像，当然，不限于此，该时间段可根据案件发生的实际情况做适应型设定。所述特征图像为行人或车辆的属性特征，所述行人的属性特征包括人脸、人体、肤色以及衣着，所述车辆的属性特征包括车辆类型（轿车、面包车、卡车、货车等）、车标及车辆的颜色（黑白灰红等）。
提取模块202：用于利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎。
具体的，所述利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，具体包括如下步骤：去除所述特征图像的背景；采用卷积神经网络提取去背景后的所述特征图像的特征码。所述深度学习网络为MGN深度卷积神经网络，当然，不限于此，其可根据实际情况做适应性设定。
进一步的，采用卷积神经网络提取去背景后的所述特征图像的特征码，具体包括：采用MGN深度卷积神经网络模型，以去背景后的所述特征图像作为深度网络输入，经过多层网络结构，输出倒数第二个全连接层的隐层节点特征，作为对所述特征图像提取的特征码。
需要说明的是，所述卷积神经网络模型为多类别模型的主体结构，其舍弃原始的多类别全连接层；对于由主体结构得到的n维特征，在该层结构后为每种属性类别设计一个线性分类器，对于每个线性分类器经模型前向传递后输出的结果，均以元组的数据格式保存；对于所有属性的元组数据，按照一定的属性顺序追加到同一个元组中作为模型输出的结果。
本实例中，每一所述特征图像都其对应的图像ID，获得所述特征图像的特征码之后，将所述特征图像的特征码和所述特征图像的图像ID同时写入预设的向量检索引擎中。另外，所述提取模块202包括写入单元：用于将所述特征图像的图像ID和所述特征图像的存储路径写入预设的文本检索引擎。
检索模块203：用于选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度。
在本实施例中，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度，其中，N≥3。
更优的，为了进一步提高民警的破案效率，还可以将所有满足所述检索条件的所述特征图像的特征码按照时间顺序聚合成再现目标图像活动轨迹的视频片段。
排序模块204：用于将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序。
本实施例中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括如下步骤：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i);
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)。
显示模块205：用于查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
本实施例中，将排序后的所述检索集中所有所述特征图像的特征码输入至所述文本检索引擎搜索进行检索，得到所述检索集中所有所述特征图像的特征码对应的特征图像的存储路径，并根据存储路径找到对应的特征图像，并将对应的所述特征图像按照所述检索集的排序依次传输至所述显示设备进行显示。
本发明所提出的基于排序算法的图像检索装置中，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序，查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。使用该装置可快速精准的找到与目标图像匹配的特征图像，从而实现对监控视频中的敏感人物或车辆的精准搜索，使公安机关可以在短时间内找到目标，为侦破案件提供有力手段。
参阅图3所示，是本发明实现基于排序算法的图像检索方法的电子设备的结构示意图。
所述电子设备1可以包括处理器10、存储器11和总线12，还可以包括存储在所述存储器11中并可在所述处理器10上运行的计算机程序，如基于排序算法的图像检索程序13。
其中，所述存储器11至少包括一种类型的可读存储介质，所述可读存储介质包括闪存、移动硬盘、多媒体卡、卡型存储器（例如：SD或DX存储器等）、磁性存储器、磁盘、光盘等。所述存储器11在一些实施例中可以是电子设备1的内部存储单元，例如该电子设备1的移动硬盘。所述存储器11在另一些实施例中也可以是电子设备1的外部存储设备，例如电子设备1上配备的插接式移动硬盘、智能存储卡（Smart Media Card， SMC）、安全数字（SecureDigital， SD）卡、闪存卡（Flash Card）等。进一步地，所述存储器11还可以既包括电子设备1的内部存储单元也包括外部存储设备。所述存储器11不仅可以用于存储安装于电子设备1的应用软件及各类数据，例如基于排序算法的图像检索程序13的代码等，还可以用于暂时地存储已经输出或者将要输出的数据。
所述处理器10在一些实施例中可以由集成电路组成，例如可以由单个封装的集成电路所组成，也可以是由多个相同功能或不同功能封装的集成电路所组成，包括一个或者多个中央处理器（Central Processing unit，CPU）、微处理器、数字处理芯片、图形处理器及各种控制芯片的组合等。所述处理器10是所述电子设备的控制核心（Control Unit），利用各种接口和线路连接整个电子设备的各个部件，通过运行或执行存储在所述存储器11内的程序或者模块（例如执行基于排序算法的图像检索程序等），以及调用存储在所述存储器11内的数据，以执行电子设备1的各种功能和处理数据。
所述总线12可以是外设部件互连标准（peripheral component interconnect，简称PCI）总线或扩展工业标准结构（extended industry standard architecture，简称EISA）总线等。该总线可以分为地址总线、数据总线、控制总线等。所述总线被设置为实现所述存储器11以及至少一个处理器10等之间的连接通信。
图3仅示出了具有部件的电子设备，本领域技术人员可以理解的是，图3示出的结构并不构成对所述电子设备1的限定，可以包括比图示更少或者更多的部件，或者组合某些部件，或者不同的部件布置。
例如，尽管未示出，所述电子设备1还可以包括给各个部件供电的电源（比如电池），优选地，电源可以通过电源管理装置与所述至少一个处理器10逻辑相连，从而通过电源管理装置实现充电管理、放电管理、以及功耗管理等功能。电源还可以包括一个或一个以上的直流或交流电源、再充电装置、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。所述电子设备1还可以包括多种传感器、蓝牙模块、Wi-Fi模块等，在此不再赘述。
进一步地，所述电子设备1还可以包括网络接口，可选地，所述网络接口可以包括有线接口和/或无线接口（如WI-FI接口、蓝牙接口等），通常用于在该电子设备1与其他电子设备之间建立通信连接。
可选地，该电子设备1还可以包括用户接口，用户接口可以是显示器（Display）、输入单元（比如键盘（Keyboard）），可选地，用户接口还可以是标准的有线接口、无线接口。可选地，在一些实施例中，显示器可以是LED显示器、液晶显示器、触控式液晶显示器以及OLED（Organic Light-Emitting Diode，有机发光二极管）触摸器等。其中，显示器也可以适当的称为显示屏或显示单元，用于显示在电子设备1中处理的信息以及用于显示可视化的用户界面。
应该了解，所述实施例仅为说明之用，在专利申请范围上并不受此结构的限制。
所述电子设备1中的所述存储器11存储的基于排序算法的图像检索程序13是多个指令的组合，在所述处理器10中运行时，可以实现如下步骤：
获取监控视频，对所述监控视频进行关键帧抽取得到特征图像；
利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎；
选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；
将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序；其中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)；
查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
进一步地，所述电子设备1集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。所述计算机可读介质可以包括：能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器（ROM，Read-Only Memory）。
此外，本发明实施例还提出一种计算机可读存储介质，所述计算机可读存储介质可以是非易失性的，也可以是易失性的。所述计算机可读存储介质存储有基于排序算法的图像检索程序，所述基于排序算法的图像检索程序可被处理器执行，以使所述处理器执行上述基于排序算法的图像检索方法实施例中的步骤。
在本发明所提供的几个实施例中，应该理解到，所揭露的设备，装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述模块的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式。
所述作为分离部件说明的模块可以是或者也可以不是物理上分开的，作为模块显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。
另外，在本发明各个实施例中的各功能模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用硬件加软件功能模块的形式实现。
对于本领域技术人员而言，显然本发明不限于上述示范性实施例的细节，而且在不背离本发明的精神或基本特征的情况下，能够以其他的具体形式实现本发明。
因此，无论从哪一点来看，均应将实施例看作是示范性的，而且是非限制性的，本发明的范围由所附权利要求而不是上述说明限定，因此旨在将落在权利要求的等同要件的含义和范围内的所有变化涵括在本发明内。不应将权利要求中的任何附关联图表记视为限制所涉及的权利要求。
此外，显然“包括”一词不排除其他单元或步骤，单数不排除复数。系统权利要求中陈述的多个单元或装置也可以由一个单元或装置通过软件或者硬件来实现。第二等词语用来表示名称，而并不表示任何特定的顺序。
以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。

Claims (7)

1.一种基于排序算法的图像检索方法，应用于电子设备，其特征在于，所述方法包括：
获取监控视频，对所述监控视频进行关键帧抽取得到特征图像；
利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎；
选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；
将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序；其中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)；
查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
2.如权利要求1所述的基于排序算法的图像检索方法，其特征在于，所述特征图像为行人或车辆的属性特征，所述行人的属性特征包括人脸、人体、肤色以及衣着，所述车辆的属性特征包括车辆类型、车标及车辆的颜色。
3.如权利要求1所述的基于排序算法的图像检索方法，其特征在于，所述利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，具体包括如下步骤：去除所述特征图像的背景；采用卷积神经网络提取去背景后的所述特征图像的特征码。
4.如权利要求3所述的基于排序算法的图像检索方法，其特征在于，采用卷积神经网络提取去背景后的所述特征图像的特征码，具体包括：
采用MGN深度卷积神经网络模型，以去背景后的所述特征图像作为深度网络输入，经过多层网络结构，输出倒数第二个全连接层的隐层节点特征，作为对所述特征图像提取的特征码。
5.一种基于排序算法的图像检索装置，其特征在于，该装置包括：
获取模块：用于获取监控视频，对所述监控视频进行关键帧抽取得到特征图像；
提取模块：用于利用深度学习网络对所述特征图像进行特征提取，获得所述特征图像的特征码，并将所述特征图像的特征码写入预设的向量检索引擎；
检索模块：用于选取目标图像，并提取所述目标图像的特征码；将所述目标图像的特征码作为检索条件，将所述检索条件输入至所述向量检索引擎中进行检索，得到所述向量检索引擎中与所述目标图像的特征码相似度最高的前N条特征图像的特征码和相似度；
排序模块：用于将前N条所述特征图像的特征码组成检索集，利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，并根据所述最终相似度对所述检索集进行排序；其中，所述利用排序算法计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度，具体包括：
将前N条所述特征图像的特征码的相似度作为初始相似度A(i)；
选取所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3；
计算所述检索集中排列在前三的所述特征图像的特征码K1，K2，K3分别与所述检索集中所有所述特征图像的特征码的相似度，得到B(i)，C(i)，D(i)；
通过相似度计算公式计算所述目标图像的特征码与所述检索集中每一所述特征图像的特征码的最终相似度d(i)，其中，所述相似度计算公式为：d(i)=0.4*A(i)+0.3*B(i)+0.2*C(i)+0.1*D(i)；
显示模块：用于查找出所述检索集中所有所述特征图像的特征码对应的特征图像，并将所述对应的特征图像按照所述检索集中所述特征图像的特征码的排序号依次传输至显示设备进行显示。
6.一种电子设备，其特征在于，所述电子设备包括：处理器和与所述处理器通信连接的存储器；其中，
所述存储器存储有可被所述处理器执行的基于排序算法的图像检索程序，所述处理器执行所述基于排序算法的图像检索程序时实现如权利要求1至4中任意一项所述的基于排序算法的图像检索方法的步骤。
7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有基于排序算法的图像检索程序，所述基于排序算法的图像检索程序可被处理器执行，以实现如权利要求1至4任意一项所述的基于排序算法的图像检索方法的步骤。
CN202110501339.XA 2021-05-08 2021-05-08 基于排序算法的图像检索方法、装置及相关设备 Active CN112905817B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110501339.XA CN112905817B (zh) 2021-05-08 2021-05-08 基于排序算法的图像检索方法、装置及相关设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110501339.XA CN112905817B (zh) 2021-05-08 2021-05-08 基于排序算法的图像检索方法、装置及相关设备

Publications (2)

Publication Number Publication Date
CN112905817A CN112905817A (zh) 2021-06-04
CN112905817B true CN112905817B (zh) 2021-07-06

Family

ID=76109074

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110501339.XA Active CN112905817B (zh) 2021-05-08 2021-05-08 基于排序算法的图像检索方法、装置及相关设备

Country Status (1)

Country Link
CN (1) CN112905817B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114218164A (zh) * 2021-12-17 2022-03-22 微梦创科网络科技（中国）有限公司 一种基于时序向量检索的数据异常检测方法及系统

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8543521B2 (en) * 2011-03-30 2013-09-24 Microsoft Corporation Supervised re-ranking for visual search
US8880563B2 (en) * 2012-09-21 2014-11-04 Adobe Systems Incorporated Image search by query object segmentation
CN109963155A (zh) * 2017-12-23 2019-07-02 华为技术有限公司 图像块的运动信息的预测方法、装置及编解码器
CN110598037A (zh) * 2019-09-23 2019-12-20 腾讯科技（深圳）有限公司 一种图像搜索方法、装置和存储介质

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8543521B2 (en) * 2011-03-30 2013-09-24 Microsoft Corporation Supervised re-ranking for visual search
US8880563B2 (en) * 2012-09-21 2014-11-04 Adobe Systems Incorporated Image search by query object segmentation
CN109963155A (zh) * 2017-12-23 2019-07-02 华为技术有限公司 图像块的运动信息的预测方法、装置及编解码器
CN110598037A (zh) * 2019-09-23 2019-12-20 腾讯科技（深圳）有限公司 一种图像搜索方法、装置和存储介质

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
基于颜色四通道及空间金字塔的鱼类图像检索;张美玲等;《计算机应用》;20190510;第39卷(第5期);第1466-1472页 *

Also Published As

Publication number Publication date
CN112905817A (zh) 2021-06-04

Similar Documents

Publication Publication Date Title
CN112231586A (zh) 基于迁移学习的课程推荐方法、装置、设备及介质
CN111930962A (zh) 文献数据价值评估方法、装置、电子设备及存储介质
CN111309825A (zh) 数据聚类的存储方法、装置及计算机可读存储介质
CN112396005A (zh) 生物特征图像识别方法、装置、电子设备及可读存储介质
CN112507934A (zh) 活体检测方法、装置、电子设备及存储介质
CN112137591B (zh) 基于视频流的目标物位置检测方法、装置、设备及介质
CN111950621A (zh) 基于人工智能的目标数据检测方法、装置、设备及介质
CN113298159A (zh) 目标检测方法、装置、电子设备及存储介质
CN111931729B (zh) 基于人工智能的行人检测方法、装置、设备及介质
CN114708461A (zh) 基于多模态学习模型的分类方法、装置、设备及存储介质
CN111274937A (zh) 摔倒检测方法、装置、电子设备及计算机可读存储介质
CN114677650B (zh) 地铁乘客行人违法行为智能分析方法及装置
CN114138784A (zh) 基于存储库的信息溯源方法、装置、电子设备及介质
CN111985449A (zh) 救援现场图像的识别方法、装置、设备及计算机介质
CN112347526A (zh) 基于防摄屏的信息安全保护方法、装置、电子设备及介质
CN112905817B (zh) 基于排序算法的图像检索方法、装置及相关设备
CN112860851B (zh) 基于根因分析的课程推荐方法、装置、设备及介质
CN114416939A (zh) 智能问答方法、装置、设备及存储介质
CN112115890A (zh) 基于人工智能的酒驾识别方法、装置、设备及介质
CN111538768A (zh) 基于n元模型的数据查询方法、装置、电子设备及介质
CN115409041B (zh) 一种非结构化数据提取方法、装置、设备及存储介质
CN113190703A (zh) 视频图像的智能检索方法、装置、电子设备及存储介质
CN115525761A (zh) 一种文章关键词筛选类别的方法、装置、设备及存储介质
CN115346095A (zh) 视觉问答方法、装置、设备及存储介质
CN111523766B (zh) 驾驶风险评估方法、装置、电子设备及可读存储介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
PP01 Preservation of patent right

Effective date of registration: 20240109

Granted publication date: 20210706

PP01 Preservation of patent right