CN110275991A - 哈希值的确定方法和装置、存储介质、电子装置 - Google Patents
哈希值的确定方法和装置、存储介质、电子装置 Download PDFInfo
- Publication number
- CN110275991A CN110275991A CN201910478194.9A CN201910478194A CN110275991A CN 110275991 A CN110275991 A CN 110275991A CN 201910478194 A CN201910478194 A CN 201910478194A CN 110275991 A CN110275991 A CN 110275991A
- Authority
- CN
- China
- Prior art keywords
- matrix
- dimensionality reduction
- data
- value
- eigenvector
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9014—Indexing; Data structures therefor; Storage structures hash tables
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/903—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Databases & Information Systems (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computational Linguistics (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种哈希值的确定方法和装置、存储介质、电子装置。其中,该方法包括:获取目标数据,目标数据为在检索过程中使用的数据;通过目标卷积神经网络对目标数据执行卷积操作,获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;对第二特征向量进行降维处理得到目标数据的目标哈希值。本发明解决了相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题。
Description
技术领域
本发明涉及互联领域,具体而言,涉及一种哈希值的确定方法和装置、存储介质、电子装置。
背景技术
近年来,由于例如普通家庭用户能够以低成本连接光纤网络,因此支持因特网的基础设施投入使用,并且通信速度迅速加快。各种数字设备可以连接到网络,并且在数字设备间经由因特网频繁进行通信。
在这种数字设备间的通信中,作为必不可少的功能,除了对要交换的数据进行传输以外,还需要对通信双方的通信数据进行定位和访问。在这种在数字设备间对通信双方和通信数据进行定位和访问时,通常使用称作哈希函数的算法。
哈希函数是一种输入任意位长的消息并输出固定位长的哈希值的算法(函数),存储哈希值的数据表即为哈希表,哈希表是一种快速的元素存取和读取数组,其特点是可用于根据数据元素的哈希值进行数组定位和访问,可实现数据快速检索,由其效率非常高,但是随着数据量的增加,为了保证数据的哈希值不重复,使得哈希值的长度越来越长,从而影响了数据检索效率,为了克服该问题,相关技术中往往是截取哈希特征值的前k位,从而使得得到的哈希值并不能准确地的体现原始数据的数据特征。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种哈希值的确定方法和装置、存储介质、电子装置,以至少解决相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题。
根据本发明实施例的一个方面,提供了一种哈希值的确定方法,包括:获取目标数据,目标数据为在检索过程中使用的数据;通过目标卷积神经网络对目标数据执行卷积操作,获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;对第二特征向量进行降维处理得到目标数据的目标哈希值。
根据本发明实施例的另一方面,还提供了一种哈希值的确定装置,包括:第一获取单元,用于获取目标数据,目标数据为在检索过程中使用的数据;第二获取单元,用于通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;第一降维单元,用于根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;第二降维单元,用于对第二特征向量进行降维处理得到目标数据的目标哈希值。
根据本发明实施例的另一方面,还提供了一种存储介质,该存储介质包括存储的程序,程序运行时执行上述的方法。
根据本发明实施例的另一方面,还提供了一种电子装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器通过计算机程序执行上述的方法。
在本发明实施例中,获取目标数据,目标数据为在检索过程中使用的数据;通过目标卷积神经网络对目标数据执行卷积操作,获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;对第二特征向量进行降维处理得到目标数据的目标哈希值,在第一次降维时仅仅删除所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的数据特征,可以解决相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题,进而达到得到的哈希值能准确描述原始数据的数据特征的技术效果。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据本发明实施例的哈希值的确定方法的硬件环境的示意图;
图2是根据本发明实施例的一种可选的哈希值的确定方法的流程图;
图3是根据本发明实施例的一种可选的利用哈希值进行检索的流程图;
图4是根据本发明实施例的一种可选的利用哈希值进行检索的示意图;
图5是根据本发明实施例的一种可选的哈希值的示意图;
图6是根据本发明实施例的一种可选的神经网络模型的示意图;
图7是根据本发明实施例的一种可选的利用哈希值进行检索的流程图;
图8是根据本发明实施例的一种可选的哈希值的确定装置的示意图;
图9是根据本发明实施例的一种可选的哈希值的确定装置的示意图;以及
图10是根据本发明实施例的一种终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、系统、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
首先,在对本发明实施例进行描述的过程中出现的部分名词或者术语适用于如下解释:
哈希值,又称:散列函数(或散列算法,又称哈希函数,英语:Hash Function)是一种从任何一种数据中创建小的数字“指纹”的方法。散列函数把消息或数据压缩成摘要,使得数据量变小,将数据的格式固定下来。该函数将数据打乱混合,重新创建一个叫做散列值(hash values,hash codes,hash sums,或hashes)的指纹。散列值通常用一个短的随机字母和数字组成的字符串来代表。好的散列函数在输入域中很少出现散列冲突。在散列表和数据处理中,不抑制冲突来区别数据,会使得数据库记录更难找到。
根据本发明实施例的一方面,提供了一种哈希值的确定方法的方法实施例。
可选地,在本实施例中,上述哈希值的确定方法可以应用于如图1所示的由终端101和服务器103所构成的硬件环境中。如图1所示,服务器103通过网络与终端101进行连接,可用于为终端或终端上安装的客户端提供数据服务(如游戏数据服务、应用数据服务、多媒体数据服务等),可在服务器上或独立于服务器设置数据库105,用于为服务器103提供数据存储服务,上述网络包括但不限于:广域网、城域网或局域网,终端101并不限定于PC、手机、平板电脑等。
本发明实施例的哈希值的确定方法可以由服务器103来执行,图2是根据本发明实施例的一种可选的哈希值的确定方法的流程图,如图2所示,该方法可以包括以下步骤:
步骤S202,服务器获取目标数据,目标数据为在检索过程中使用的数据,目标数据既可以是待检索的数据,也可以是数据库中被检索的数据,这些数据可以为多媒体数据(如视频、音频、图片等)、科研数据、通讯消息、游戏数据等。
步骤S204,服务器通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值,目标卷积神经网络为已经训练好的用于提取数据特征的深度神经网络模型。
步骤S206,进行第一次降维,服务器根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度,例如第一特征向量中特征值大于目标阈值的特征维度被保留在第二特征向量中且第一特征向量中特征值小于等于目标阈值的特征维度未被保留在第二特征向量中。
该方案对提取的数据特征(即第一特征向量),先通过主成分分析对数据进行第一次降维,第一次降维时,所有非零特征值对应的空间维度被保留。
步骤S208,进行第二次降维,服务器对第二特征向量进行降维处理得到目标数据的目标哈希值。
在通过主成分分析对数据进行第一次降维后,可再通过一个降维旋转矩阵对降维后的数据进行第二次降维到所需的汉明空间,第二次降维除了将所有被保留的数据特征投射到所需的汉明空间,也有旋转作用,使得生成的哈希码的每个维度的方差最大且成对不相关,从而既能够有效保留数据特征,还能减少哈希二值化误差。
上述实施例以本申请实施例的哈希值的确定方法由服务器103来执行为例进行说明,本申请实施例的哈希值的确定方法也可以由终端101来执行,与上述实施例的区别在于将执行主体由服务器103替换为终端101,本申请实施例的哈希值的确定方法还可以是由服务器103和终端101共同执行,例如,终端101执行步骤S202,服务器103执行步骤S204-步骤S208。其中,终端101执行本发明实施例的哈希值的确定方法也可以是由安装在其上的客户端来执行。
相关技术在生成哈希码时,只通过一次降维,将数据一次性从特征空间投射到相应维度的汉明空间,如采用迭代量化法通过主成分分析将数据直接一次性降维到所需的汉明空间(比如K位汉明空间),这个过程是截断了前K位的特征值对应的空间维度,忽略了K位之后的特征值不为零的维度,从而造成相似度信息损失。
而在本申请的技术方案中,不会一次性直接降维到相应的汉明空间,而是在第一次降维时,只截断到所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的相似度信息,然后第二次降维时才使用旋转降维矩阵将第一次降维所得到的数据降维到汉明空间,此种方法生成的哈希码即保留了原始数据的相似度信息,其内部各维之间也能够相互线性无关。可见,通过上述步骤S202至步骤S208,在第一次降维时仅仅删除所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的数据特征,可以解决相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题,进而达到得到的哈希值能准确描述原始数据的数据特征的技术效果。
本申请的技术方案可以部署到用于提供图像或者视频等检索的本地终端或云端服务器中,实际部署到服务器端或者移动端进行图像或者视频检索时的应用流程如图3所示,以提供图像或者视频检索的服务。
步骤S302,可以通过深度学习网络(即目标神经网络模型)提取图像或者视频的特征(第一特征向量);
步骤S304,通过两次降维然后迭代计算得到对应数据的最佳哈希码(即目标哈希值),利用生成的哈希码建立数据库,最后通过计算汉明距离进行检索;
步骤S306,进行图像或者视频检索(例如图4所示,当用户点击热点视频时(当然,此处也可以是图片、音频等其他多媒体数据),被点击的“视频媒体内容1”会在服务器端被检索,以确定其是否存在),利用生成的哈希码建立数据库,最后通过计算汉明距离进行检索。
下面结合图2所示的步骤进一步详述本申请的哈希降维的技术方案:
在步骤S202提供的技术方案中,服务器获取目标数据,目标数据为在检索过程中使用的数据,目标数据既可以是待检索的数据。
目标数据可以是一个数据,如一个视频,这样得到的目标哈希值就是该视频的哈希值;目标数据也可以是一个数据集,数据集中每个元素表示一个数据,这样得到的目标哈希值可以是一个哈希值序列或者哈希值集,例如,一个视频集的哈希值集,其中的每个元素表示一个视频的哈希值,如图5所示。
对于图像数据或者视频数据集X(集目标数据)可包含n个数据,X={x1,x2,...,xn},该方法的首要目标是学习该数据集的二值化编码(即目标哈希值),得到的哈希码B∈{-1,1}n×c,B是以“-1”或“1”为元素的n行c列的矩阵,此处c是哈希码的长度,也是汉明空间的维度;基于学到的高质量的哈希码,在大规模图像或者视频检索时便可以完成高质量的检索任务。
在步骤S204提供的技术方案中,服务器通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值,目标卷积神经网络为已经训练好的用于提取数据特征的深度神经网络模型,一种可选的神经网络模型(例如VGG,ResNet,I3D,R3D等卷积神经网络)如图6所示,可以将数据作为神经网络模型的输入,进而得到输出的第一特征向量。
在对深度神经网络模型进行训练时可以采用端对端的监督学习,由于第一次降维无需学习,而是直接通过主成分分析得到第一次降维时的降维矩阵P,第二次降维可通过迭代更新的方式学习第二次降维时使用的降维矩阵和最终的哈希码;在步骤S204时使用的神经网络模型采用无监督学习,在与深度卷积网络结合时,可以利用上述两次降维生成的哈希码和图像/视频的标记,反向传播更新网络,实现端对端的监督学习。
对于数据集X,首先通过深度卷积神经网络(即目标卷积神经网络,例如VGG,ResNet,I3D,R3D等卷积神经网络)获得其数据特征,记该数据特征(即第一特征向量)为:Z∈Rn×d(c<<d),且该数据特征Z是减去自身均值后的结果(即zero-centered),Rn×d表示所有的n行d列的实数矩阵,Z是其子集,此公式的意思是Z是一个n行d列的实数矩阵。
需要说明的是,本申请除了上述说明的利用图像或者视频的深度特征进行二次降维旋转的哈希方法,利用图像或视频的其他特征进行二次降维旋转的也可。
在步骤S206提供的技术方案中,进行第一次降维,服务器根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第一特征向量中特征值大于目标阈值的特征维度被保留在第二特征向量中且第一特征向量中特征值小于等于目标阈值的特征维度未被保留在第二特征向量中。
可选地,根据第一特征向量在多个特征维度上的特征值确定第二特征向量可包括步骤S2062-步骤S2064:
步骤S2062,获取第一特征向量的第一降维矩阵,第一降维矩阵用于通过与所述第一特征向量之间的矩阵乘积来删除第一特征向量中特征值小于等于目标阈值的特征维度。
可选地,获取第一特征向量的第一降维矩阵包括:获取第一特征向量的方差矩阵ZTZ,方差矩阵为第一特征向量Z与第一特征向量的转置ZT之间的乘积;按照如下目标结构:
对方差矩阵进行分解,目标结构为第一矩阵[P P⊥]、第二矩阵[∑0]以及第三矩阵之间的乘积,第一矩阵包括第一元素和第二元素,第一元素用于表示非零特征值对应的特征向量组成的矩阵P,第二元素表示由特征值为零的特征向量组成的矩阵P⊥,第二矩阵包括第三元素∑和第四元素,第三元素用于表示非零特征值组成的对角矩阵,第四元素为固定参数(如为0),第三矩阵包括第一元素的转置PT和第二元素的转置(P⊥)T;将第一元素P表示的矩阵作为第一降维矩阵。
步骤S2064,将第一降维矩阵与第一特征向量之间的乘积作为第二特征向量。
在步骤S208提供的技术方案中,进行第二次降维,服务器对第二特征向量进行降维处理得到目标数据的目标哈希值。
可选地,对第二特征向量进行降维处理得到目标数据的目标哈希值包括:获取用于对第二特征向量进行降维处理的第二降维矩阵,第二降维矩阵所表示的维度之间线性无关;获取第二特征向量与第二降维矩阵之间的乘积为目标参数矩阵;对目标参数矩阵中元素的值进行二值化处理,得到目标数据的目标哈希值。
在上述实施例中,获取用于对第二特征向量进行降维处理的第二降维矩阵包括:获取目标表达式,其中,目标表达式为以训练数据的哈希值矩阵和训练数据的降维矩阵为变量的函数;在目标表达式的取值达到最小值的情况下,获取训练数据的降维矩阵为第二降维矩阵。
可选地,获取目标表达式包括:获取目标表达式Q(B,A),其中,argmin表示取最小值,A表示训练数据的降维矩阵,B表示训练数据的哈希值矩阵,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵,表示取范数的二次方。
对于每一位k=1,2,…,c,二值化编码的参数为wk,该位哈希码可以表示为sgn(Zwk),sgn()表示阶跃函数,所以编码过程可以记做:B=sgn(ZW),此处W∈Rd×c是需要学习的参数矩阵,令Y=ZW,当Y和B的距离越小,表明生成的哈希码保留着越多的原数据的相似度信息,因此,学习哈希码可以通过优化目标函数实现,该目标函数可受制于如下条件:
s.t.是subjec to的数学缩写,I是单位矩阵,
1TB=0,
其中是约束哈希码的每个维度线性无关,1TB=0是为了让生成的哈希码各个维度的方差最大,||.||F是Frobenius范数。Y=ZW可以看作是将d维数据Z降维到c维,参数矩阵W即是降维矩阵,本申请将该降维过程分作两步,以便于将原始数据的相似性信息更完善的保留到汉明空间,得到更好的哈希码。
可选地,在目标表达式的取值达到最小值的情况下,获取训练数据的降维矩阵为第二降维矩阵包括:获取为训练数据的降维矩阵配置的取值后,得到训练数据的哈希值矩阵B的更新公式:Bij=sgn(Vij),Bij表示B的第i行第j列的取值,Vij表示矩阵V的第i行第j列的取值,V为对训练数据执行卷积操作得到的特征向量V、第一降维矩阵P以及训练数据的降维矩阵A之间相乘后得到的矩阵;在按照训练数据的哈希值矩阵B的更新公式确定训练数据的哈希值矩阵B的取值后,得到训练数据的降维矩阵的更新公式:A=U*VT,其中,U和VT表示BT*Z*P的奇异值分解,U是特征值分解时特征向量组成的矩阵,特征值分解时的默认表示方式,BT表示B的转置,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵;在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值未收敛的情况下,继续对训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值进行更新;在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值收敛的情况下,将收敛后的训练数据的降维矩阵A的取值作为第二降维矩阵。
在上述技术方案中,提供了一种基于新的哈希算法实现大规模的图像和视频检索的方法,该方法能有效保留数据特征,减少哈希二值化误差,以便生成更加精确的哈希码,大幅提升图像/视频检索的精度。具体而言,该方法对提取的数据特征,先通过主成分分析对数据进行第一次降维,再通过一个降维旋转矩阵对降维后的数据进行第二次降维到所需的汉明空间。第一次降维时,所有非零特征值对应的空间维度被保留。第二次降维是将所有被保留的数据特征投射到所需的汉明空间,同时第二次降维也有旋转作用,使得生成的哈希码的每个维度的方差最大且成对不相关。本方法采用迭代量化的方式逐步优化降维矩阵和哈希码,最后得到最佳的哈希码。二次降维旋转哈希算法以无监督的方式学习数据集的哈希码,并将生成的高质量哈希码用于图像和视频的检索。
作为一种可选的实施例,下面结合具体的实施方式,以图7所示的步骤进一步详述本申请的技术方案。
步骤S701,获取图像数据或者视频数据的数据集x。
对于图像数据或者视频数据集x包含n个数据,X={x1,x2,...,xn},该方法的首要目标是学习该数据集的二值化编码,即哈希码B∈{-1,1}n×c,此处c是哈希码的长度,也是汉明空间的维度。基于学到的高质量的哈希码,在大规模图像或者视频检索时便可以完成高质量的检索任务。
步骤S702,利用目标神经网络模型获取数据集的第一特征向量。
对于数据集x,首先通过深度卷积神经网络(例如VGG,ResNet,I3D,R3D等卷积神经网络)获得其数据特征,记该数据特征(即第一特征向量)为:Z∈Rn×d(c<<d),且该数据特征Z是减去自身均值后的结果(即zero-centered)。
步骤S703,获取目标函数及其约束条件。
对于每一位k=1,2,…,c,二值化编码的参数为wk,该位哈希码可以表示为sgn(Zwk),sgn表示阶跃函数,所以编码过程可以记做:B=sgn(ZW),此处W∈Rd×c是需要学习的参数矩阵。令Y=ZW,当Y和B的距离越小,表明生成的哈希码保留着越多的原数据的相似度信息。因此,学习哈希码可以通过优化以下目标函数:
Y=ZW,
1TB=0。
约束哈希码的每个维度线性无关,让生成的哈希码各个维度的方差最大,通过Y=ZW将d维数据Z降维到c维,将该降维过程分作两步,以便于将原始数据的相似性信息更完善的保留到汉明空间,得到更好的哈希码。
步骤S704,获取第一次降维的降维矩阵P。
第一次降维使用主成分分析的方法,保留所有非零特征值对应的维度空间。对于数据特征向量Z∈Rn×d,其方差矩阵为:ZTZ,对其进行特征值分解可得:ZTZ=U∑UT。将所有特征值按照从大到小的顺序排列,对应的特征向量也调整为对应位置,同时将特征值分解调整为如下结构:
其中P为所有非零特征值对应的特征向量,P⊥是由所有特征值为零的特征向量组成的矩阵。∑是非零特征值组成的对角矩阵。如果有d′个非零特征值,则P∈Rd×d′。同时可知ZP∈Rn×d′,本方案采用用P作为第一次降维的矩阵,可以将数据特征从d维空间投影到d′维。第一次降维通过PCA(PCA是主成分分析Principal Component Analysis的英文缩写)将数据从原始特征空间投影到低维空间,同时只压缩了特征值为零的维度,最大限度保证各个维度的数据特征。
步骤S705,获取第二次降维的降维矩阵A。
第二次降维的过程如下:
第二次降维是将数据特征从d′降到c维空间,设降维矩阵为A,则A∈Rd′×c。限定矩阵A每个维度线性无关,即A除了降维之外,还有旋转作用。参数矩阵W=PA,Y=ZPA。目标函数变为:
此次降维是在第一次降维的基础上,将数据投射到c维空间,二值化后即变成c维汉明空间,该旋转矩阵A是未知的,需要学习到最佳的投影矩阵。本方案采用以下迭代量化的方法同时学习第二次降维矩阵A和数据的哈希码B。迭代量化学习过程如下:
为了学习第二次降维矩阵A和数据的哈希矩阵B,本方案采用先固定其中一个矩阵,更新另一个矩阵的学习策略,逐步迭代使得二值化误差收敛。
固定A更新B:
将目标函数展开,则有:
tr是数学符号,是表示求“矩阵的迹”的符号,由于ZP是固定的,最小化上式等价于最大化下式:
此处Vij代表矩阵V的元素,并且V=ZPA。此步的目标是更新B的以最大化上式,因此当Vij≥0时,Bij=1;当Vij<0时,Bij=-1。由此可以得到B的更新公示:Bij=sgn(Vij)。
固定B更新A:
当B固定时,变成了一个正交普鲁克(orthogonal procrustes)问题。对于该问题,本方案的解法如下:
Ω是奇异值分解时的奇异值矩阵,该分解的默认参数,当UAVT=I时该式能被最大化,此时A=UTV。此处UTΩV是矩阵BTZP的奇异值分解,由此A=UVT是固定B时的最佳取值。该迭代量化的方法除了降维效果之外,迭代矩阵A也有旋转特征数据的作用,每一次更新A都可以看作是学习一个旋转矩阵,通过循环迭代矩阵A和B直至收敛,以得到局部最优的降维矩阵和哈希码。
步骤S706,将得到的此哈希码(即目标哈希值)存入哈希的数据库,以便对新数据进行检索。
步骤S707,当用户在用户终端上看视频时,获取用户对目标视频(保存在数据库中)的请求。
步骤S708,在用户局域网计算缓存视频的哈希值,并将其与目标视频的哈希值进行比较。
步骤S709,在用户局域网的缓存视频的哈希值与目标视频的哈希值相同的情况下,直接将缓存视频发送给用户。
采用本申请的技术方案,本方法能显著提高检索精度,提高在线图像和视频检索,离线图像和视频检索的精确度,该方法学习速度快,收敛速度极快,只需要迭代计算10次左右即可收敛,得到高质量哈希码。同时,该方法无需过多的计算资源,在无监督学习时,普通计算机CPU即可实现训练。在与深度卷积网络结合时,端对端训练时也不会耗费过多的计算资源。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
根据本发明实施例的另一个方面,还提供了一种用于实施上述哈希值的确定方法的哈希值的确定装置。图8是根据本发明实施例的一种可选的哈希值的确定装置的示意图,如图8所示,该装置可以包括:第一获取单元801、第二获取单元803、第一降维单元805以及第二降维单元807。
第一获取单元801,用于获取目标数据,其中,目标数据为在检索过程中使用的数据。
第二获取单元803,用于通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,其中,第一特征向量包括在多个特征维度上的特征值。
第一降维单元805,用于根据第一特征向量在多个特征维度上的特征值确定第二特征向量,其中,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度。
第二降维单元807,用于对第二特征向量进行降维处理得到目标数据的目标哈希值。
在通过主成分分析对数据进行第一次降维后,可再通过一个降维旋转矩阵对降维后的数据进行第二次降维到所需的汉明空间,第二次降维除了将所有被保留的数据特征投射到所需的汉明空间,也有旋转作用,使得生成的哈希码的每个维度的方差最大且成对不相关,从而既能够有效保留数据特征,还能减少哈希二值化误差。
相关技术在生成哈希码时,只通过一次降维,将数据一次性从特征空间投射到相应维度的汉明空间,如采用迭代量化法通过主成分分析将数据直接一次性降维到所需的汉明空间(比如K位汉明空间),这个过程是截断了前K位的特征值对应的空间维度,忽略了K位之后的特征值不为零的维度,从而造成相似度信息损失。
而在本申请的技术方案中,不会一次性直接降维到相应的汉明空间,而是在第一次降维时,只截断到所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的相似度信息,然后第二次降维时才使用旋转降维矩阵将第一次降维所得到的数据降维到汉明空间,此种方法生成的哈希码即保留了原始数据的相似度信息,其内部各维之间也能够相互线性无关。
需要说明的是,该实施例中的第一获取单元801可以用于执行本申请实施例中的步骤S202,该实施例中的第二获取单元803可以用于执行本申请实施例中的步骤S204,该实施例中的第一降维单元805可以用于执行本申请实施例中的步骤S206,该实施例中的第二降维单元807可以用于执行本申请实施例中的步骤S208。
此处需要说明的是,上述模块与对应的步骤所实现的示例和应用场景相同,但不限于上述实施例所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在如图1所示的硬件环境中,可以通过软件实现,也可以通过硬件实现。
通过上述模块,获取目标数据,目标数据为在检索过程中使用的数据;通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;对第二特征向量进行降维处理得到目标数据的目标哈希值,在第一次降维时仅仅删除所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的数据特征,可以解决相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题,进而达到得到的哈希值能准确描述原始数据的数据特征的技术效果。
可选地,如图9所示,第一降维单元805包括:第一获取模块8051,用于获取第一特征向量的第一降维矩阵,其中,第一降维矩阵用于通过与所述第一特征向量之间的矩阵乘积来删除第一特征向量中特征值小于等于目标阈值的特征维度;第一降维模块8053,用于将第一降维矩阵与第一特征向量之间的乘积作为第二特征向量。
可选地,第一获取模块还可用于:获取第一特征向量的方差矩阵,其中,方差矩阵为第一特征向量与第一特征向量的转置之间的乘积;按照目标结构对方差矩阵进行分解,其中,目标结构为第一矩阵、第二矩阵以及第三矩阵之间的乘积,第一矩阵包括第一元素和第二元素,第一元素用于表示非零特征值对应的特征向量组成的矩阵,第二元素表示由特征值为零的特征向量组成的矩阵,第二矩阵包括第三元素和第四元素,第三元素用于表示非零特征值组成的对角矩阵,第四元素为固定参数,第三矩阵包括第一元素的转置和第二元素的转置;将第一元素表示的矩阵作为第一降维矩阵。
可选地,第二降维单元包括:第二获取模块,用于获取用于对第二特征向量进行降维处理的第二降维矩阵,其中,第二降维矩阵所表示的维度之间线性无关;第三获取模块,用于获取第二特征向量与第二降维矩阵之间的乘积为目标参数矩阵;确定模块,用于对目标参数矩阵中元素的值进行二值化处理,得到目标数据的目标哈希值。
可选地,第二获取模块还用于:第一获取子模块,用于获取目标表达式,其中,目标表达式为以训练数据的哈希值矩阵和训练数据的降维矩阵为变量的函数;第二获取子模块,用于在目标表达式的取值达到最小值的情况下,获取训练数据的降维矩阵为第二降维矩阵。
可选地,第一获取子模块还可用于:获取目标表达式Q(B,A),其中,argmin表示取最小值,A表示训练数据的降维矩阵,B表示训练数据的哈希值矩阵,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵,表示取范数的二次方。
可选地,第二获取子模块还用于:获取为训练数据的降维矩阵配置的取值后,得到训练数据的哈希值矩阵B的更新公式:Bij=sgn(Vij),Bij表示B的第i行第j列的取值,Vij表示矩阵V的第i行第j列的取值,V为对训练数据执行卷积操作得到的特征向量V、第一降维矩阵P以及训练数据的降维矩阵A之间相乘后得到的矩阵;在按照训练数据的哈希值矩阵B的更新公式确定训练数据的哈希值矩阵B的取值后,得到训练数据的降维矩阵的更新公式:A=U*VT,其中,U和VT表示BT*Z*P的奇异值分解,BT表示B的转置,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵;在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值未收敛的情况下,继续对训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值进行更新;在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值收敛的情况下,将收敛后的训练数据的降维矩阵A的取值作为第二降维矩阵。
在上述技术方案中,提供了一种基于新的哈希算法实现大规模的图像和视频检索的方法,该方法能有效保留数据特征,减少哈希二值化误差,以便生成更加精确的哈希码,大幅提升图像/视频检索的精度。具体而言,该方法对提取的数据特征,先通过主成分分析对数据进行第一次降维,再通过一个降维旋转矩阵对降维后的数据进行第二次降维到所需的汉明空间。第一次降维时,所有非零特征值对应的空间维度被保留。第二次降维是将所有被保留的数据特征投射到所需的汉明空间,同时第二次降维也有旋转作用,使得生成的哈希码的每个维度的方差最大且成对不相关。本方法采用迭代量化的方式逐步优化降维矩阵和哈希码,最后得到最佳的哈希码。二次降维旋转哈希算法以无监督的方式学习数据集的哈希码,并将生成的高质量哈希码用于图像和视频的检索。
此处需要说明的是,上述模块与对应的步骤所实现的示例和应用场景相同,但不限于上述实施例所公开的内容。需要说明的是,上述模块作为装置的一部分可以运行在如图1所示的硬件环境中,可以通过软件实现,也可以通过硬件实现,其中,硬件环境包括网络环境。
根据本发明实施例的另一个方面,还提供了一种用于实施上述哈希值的确定方法的服务器或终端。
图10是根据本发明实施例的一种终端的结构框图,如图10所示,该终端可以包括:一个或多个(图10中仅示出一个)处理器1001、存储器1003、以及传输装置1005,如图10所示,该终端还可以包括输入输出设备1007。
其中,存储器1003可用于存储软件程序以及模块,如本发明实施例中的哈希值的确定方法和装置对应的程序指令/模块,处理器1001通过运行存储在存储器1003内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的哈希值的确定方法。存储器1003可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器1003可进一步包括相对于处理器1001远程设置的存储器,这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
上述的传输装置1005用于经由一个网络接收或者发送数据,还可以用于处理器与存储器之间的数据传输。上述的网络具体实例可包括有线网络及无线网络。在一个实例中,传输装置1005包括一个网络适配器(Network Interface Controller,NIC),其可通过网线与其他网络设备与路由器相连从而可与互联网或局域网进行通讯。在一个实例中,传输装置1005为射频(Radio Frequency,RF)模块,其用于通过无线方式与互联网进行通讯。
其中,具体地,存储器1003用于存储应用程序。
处理器1001可以通过传输装置1005调用存储器1003存储的应用程序,以执行下述步骤:
获取目标数据,其中,目标数据为在检索过程中使用的数据;
通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,其中,第一特征向量包括在多个特征维度上的特征值;
根据第一特征向量在多个特征维度上的特征值确定第二特征向量,其中,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;
对第二特征向量进行降维处理得到目标数据的目标哈希值。
处理器1001还用于执行下述步骤:
获取第一特征向量的方差矩阵,其中,方差矩阵为第一特征向量与第一特征向量的转置之间的乘积;
按照目标结构对方差矩阵进行分解,其中,目标结构为第一矩阵、第二矩阵以及第三矩阵之间的乘积,第一矩阵包括第一元素和第二元素,第一元素用于表示非零特征值对应的特征向量组成的矩阵,第二元素表示由特征值为零的特征向量组成的矩阵,第二矩阵包括第三元素和第四元素,第三元素用于表示非零特征值组成的对角矩阵,第四元素为固定参数,第三矩阵包括第一元素的转置和第二元素的转置;
将第一元素表示的矩阵作为第一降维矩阵。
处理器1001还用于执行下述步骤:
获取为训练数据的降维矩阵配置的取值后,得到训练数据的哈希值矩阵B的更新公式:Bij=sgn(Vij),Bij表示B的第i行第j列的取值,Vij表示矩阵V的第i行第j列的取值,V为对训练数据执行卷积操作得到的特征向量V、第一降维矩阵P以及训练数据的降维矩阵A之间相乘后得到的矩阵;
在按照训练数据的哈希值矩阵B的更新公式确定训练数据的哈希值矩阵B的取值后,得到训练数据的降维矩阵的更新公式:A=U*VT,其中,U和VT表示BT*Z*P的奇异值分解,BT表示B的转置,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵;
在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值未收敛的情况下,继续对训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值进行更新;
在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值收敛的情况下,将收敛后的训练数据的降维矩阵A的取值作为第二降维矩阵。
采用本发明实施例,获取目标数据,目标数据为在检索过程中使用的数据;通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,第一特征向量包括在多个特征维度上的特征值;根据第一特征向量在多个特征维度上的特征值确定第二特征向量,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;对第二特征向量进行降维处理得到目标数据的目标哈希值,在第一次降维时仅仅删除所有零特征值对应的空间维度,所有特征值不为零的特征维度都被保存,最大限度的保留原始数据的数据特征,可以解决相关技术中的哈希值不能准确描述原始数据的数据特征的技术问题,进而达到得到的哈希值能准确描述原始数据的数据特征的技术效果。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例在此不再赘述。
本领域普通技术人员可以理解,图10所示的结构仅为示意,终端可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌上电脑以及移动互联网设备(Mobile InternetDevices,MID)、PAD等终端设备。图10其并不对上述电子装置的结构造成限定。例如,终端还可包括比图10中所示更多或者更少的组件(如网络接口、显示装置等),或者具有与图10所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。
本发明的实施例还提供了一种存储介质。可选地,在本实施例中,上述存储介质可以用于执行哈希值的确定方法的程序代码。
可选地,在本实施例中,上述存储介质可以位于上述实施例所示的网络中的多个网络设备中的至少一个网络设备上。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:
获取目标数据,其中,目标数据为在检索过程中使用的数据;
通过目标卷积神经网络对目标数据执行的卷积操作,来获取目标数据的第一特征向量,其中,第一特征向量包括在多个特征维度上的特征值;
根据第一特征向量在多个特征维度上的特征值确定第二特征向量,其中,第二特征向量中包括第一特征向量中特征值大于目标阈值的特征维度;
对第二特征向量进行降维处理得到目标数据的目标哈希值。
可选地,存储介质还被设置为存储用于执行以下步骤的程序代码:
获取第一特征向量的方差矩阵,其中,方差矩阵为第一特征向量与第一特征向量的转置之间的乘积;
按照目标结构对方差矩阵进行分解,其中,目标结构为第一矩阵、第二矩阵以及第三矩阵之间的乘积,第一矩阵包括第一元素和第二元素,第一元素用于表示非零特征值对应的特征向量组成的矩阵,第二元素表示由特征值为零的特征向量组成的矩阵,第二矩阵包括第三元素和第四元素,第三元素用于表示非零特征值组成的对角矩阵,第四元素为固定参数,第三矩阵包括第一元素的转置和第二元素的转置;
将第一元素表示的矩阵作为第一降维矩阵。
可选地,存储介质还被设置为存储用于执行以下步骤的程序代码:
获取为训练数据的降维矩阵配置的取值后,得到训练数据的哈希值矩阵B的更新公式:Bij=sgn(Vij),Bij表示B的第i行第j列的取值,Vij表示矩阵V的第i行第j列的取值,V为对训练数据执行卷积操作得到的特征向量V、第一降维矩阵P以及训练数据的降维矩阵A之间相乘后得到的矩阵;
在按照训练数据的哈希值矩阵B的更新公式确定训练数据的哈希值矩阵B的取值后,得到训练数据的降维矩阵的更新公式:A=U*VT,其中,U和VT表示BT*Z*P的奇异值分解,BT表示B的转置,Z表示对训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵;
在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值未收敛的情况下,继续对训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值进行更新;
在训练数据的降维矩阵A的取值和训练数据的哈希值矩阵B的取值收敛的情况下,将收敛后的训练数据的降维矩阵A的取值作为第二降维矩阵。
可选地,本实施例中的具体示例可以参考上述实施例中所描述的示例,本实施例在此不再赘述。
可选地,在本实施例中,上述存储介质可以包括但不限于:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
上述实施例中的集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在上述计算机可读取的存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在存储介质中,包括若干指令用以使得一台或多台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的客户端,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (15)
1.一种哈希值的确定方法,其特征在于,包括:
获取目标数据,其中,所述目标数据为在检索过程中使用的数据;
通过目标卷积神经网络对所述目标数据执行卷积操作,获取所述目标数据的第一特征向量,其中,所述第一特征向量包括在多个特征维度上的特征值;
根据所述第一特征向量在所述多个特征维度上的特征值确定第二特征向量,其中,所述第二特征向量中包括所述第一特征向量中特征值大于目标阈值的特征维度;
对所述第二特征向量进行降维处理得到所述目标数据的目标哈希值。
2.根据权利要求1所述的方法,其特征在于,根据所述第一特征向量在所述多个特征维度上的特征值确定第二特征向量包括:
获取所述第一特征向量的第一降维矩阵,其中,所述第一降维矩阵用于通过与所述第一特征向量之间的矩阵乘积来删除所述第一特征向量中特征值小于等于所述目标阈值的特征维度;
将所述第一降维矩阵与所述第一特征向量之间的乘积作为所述第二特征向量。
3.根据权利要求2所述的方法,其特征在于,获取所述第一特征向量的第一降维矩阵包括:
获取所述第一特征向量的方差矩阵,其中,所述方差矩阵为所述第一特征向量与所述第一特征向量的转置之间的乘积;
按照目标结构对所述方差矩阵进行分解,其中,所述目标结构为第一矩阵、第二矩阵以及第三矩阵之间的乘积,所述第一矩阵包括第一元素和第二元素,所述第一元素用于表示非零特征值对应的特征向量组成的矩阵,所述第二元素表示由特征值为零的特征向量组成的矩阵,第二矩阵包括第三元素和第四元素,所述第三元素用于表示非零特征值组成的对角矩阵,所述第四元素为固定参数,所述第三矩阵包括所述第一元素的转置和所述第二元素的转置;
将所述第一元素表示的矩阵作为所述第一降维矩阵。
4.根据权利要求1所述的方法,其特征在于,对所述第二特征向量进行降维处理得到所述目标数据的目标哈希值包括:
获取用于对所述第二特征向量进行降维处理的第二降维矩阵,其中,所述第二降维矩阵所表示的维度之间线性无关;
获取所述第二特征向量与所述第二降维矩阵之间的乘积为目标参数矩阵;
对所述目标参数矩阵中元素的值进行二值化处理,得到所述目标数据的所述目标哈希值。
5.根据权利要求4所述的方法,其特征在于,获取用于对所述第二特征向量进行降维处理的第二降维矩阵包括:
获取目标表达式,其中,所述目标表达式为以训练数据的哈希值矩阵和所述训练数据的降维矩阵为变量的函数;
在所述目标表达式的取值达到最小值的情况下,获取所述训练数据的降维矩阵为所述第二降维矩阵。
6.根据权利要求5所述的方法,其特征在于,获取目标表达式包括:
获取所述目标表达式Q(B,A),
其中,argmin表示取最小值,A表示所述训练数据的降维矩阵,B表示所述训练数据的哈希值矩阵,Z表示对所述训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵,表示取范数的二次方。
7.根据权利要求5所述的方法,其特征在于,在所述目标表达式的取值达到最小值的情况下,获取所述训练数据的降维矩阵为所述第二降维矩阵包括:
获取为所述训练数据的降维矩阵配置的取值后得到所述训练数据的哈希值矩阵B的更新公式:Bij=sgn(Vij),Bij表示B的第i行第j列的取值,Vij表示矩阵V的第i行第j列的取值,V为对所述训练数据执行卷积操作得到的特征向量V、第一降维矩阵P以及所述训练数据的降维矩阵A之间相乘后得到的矩阵;
在按照所述训练数据的哈希值矩阵B的更新公式确定所述训练数据的哈希值矩阵B的取值后,得到所述训练数据的降维矩阵的更新公式:A=U*VT,其中,U和VT表示BT*Z*P的奇异值分解,BT表示B的转置,Z表示对所述训练数据执行卷积操作得到的特征向量,P表示第一降维矩阵;
在所述训练数据的降维矩阵A的取值和所述训练数据的哈希值矩阵B的取值未收敛的情况下,继续对所述训练数据的降维矩阵A的取值和所述训练数据的哈希值矩阵B的取值进行更新;
在所述训练数据的降维矩阵A的取值和所述训练数据的哈希值矩阵B的取值收敛的情况下,将收敛后的所述训练数据的降维矩阵A的取值作为所述第二降维矩阵。
8.根据权利要求1至7中任意一项所述的方法,其特征在于,在对所述第二特征向量进行降维处理得到所述目标数据的目标哈希值之后,所述方法还包括:
获取到检索请求,其中,所述检索请求用于请求检索所述目标数据中是否存在待检索数据,所述待检索数据为媒体数据;
通过对所述待检索数据的哈希值和所述目标数据的所述目标哈希值进行比较,确定所述目标数据中是否存在所述待检索数据。
9.一种哈希值的确定装置,其特征在于,包括:
第一获取单元,用于获取目标数据,其中,所述目标数据为在检索过程中使用的数据;
第二获取单元,用于通过目标卷积神经网络对所述目标数据执行卷积操作,获取所述目标数据的第一特征向量,其中,所述第一特征向量包括在多个特征维度上的特征值;
第一降维单元,用于根据所述第一特征向量在所述多个特征维度上的特征值确定第二特征向量,其中,所述第二特征向量中包括所述第一特征向量中特征值大于目标阈值的特征维度;
第二降维单元,用于对所述第二特征向量进行降维处理得到所述目标数据的目标哈希值。
10.根据权利要求9所述的装置,其特征在于,所述第一降维单元包括:
第一获取模块,用于获取所述第一特征向量的第一降维矩阵,其中,所述第一降维矩阵用于通过与所述第一特征向量之间的矩阵乘积来删除所述第一特征向量中特征值小于等于所述目标阈值的特征维度;
第一降维模块,用于将所述第一降维矩阵与所述第一特征向量之间的乘积作为所述第二特征向量。
11.根据权利要求10所述的装置,其特征在于,所述第一获取模块还用于:
获取所述第一特征向量的方差矩阵,其中,所述方差矩阵为所述第一特征向量与所述第一特征向量的转置之间的乘积;
按照目标结构对所述方差矩阵进行分解,其中,所述目标结构为第一矩阵、第二矩阵以及第三矩阵之间的乘积,所述第一矩阵包括第一元素和第二元素,所述第一元素用于表示非零特征值对应的特征向量组成的矩阵,所述第二元素表示由特征值为零的特征向量组成的矩阵,第二矩阵包括第三元素和第四元素,所述第三元素用于表示非零特征值组成的对角矩阵,所述第四元素为固定参数,所述第三矩阵包括所述第一元素的转置和所述第二元素的转置;
将所述第一元素表示的矩阵作为所述第一降维矩阵。
12.根据权利要求9所述的装置,其特征在于,所述第二降维单元包括:
第二获取模块,用于获取用于对所述第二特征向量进行降维处理的第二降维矩阵,其中,所述第二降维矩阵所表示的维度之间线性无关;
第三获取模块,用于获取所述第二特征向量与所述第二降维矩阵之间的乘积为目标参数矩阵;
确定模块,用于对所述目标参数矩阵中元素的值进行二值化处理,得到所述目标数据的所述目标哈希值。
13.根据权利要求12所述的装置,其特征在于,所述第二获取模块还用于:
第一获取子模块,用于获取目标表达式,其中,所述目标表达式为以训练数据的哈希值矩阵和所述训练数据的降维矩阵为变量的函数;
第二获取子模块,用于在所述目标表达式的取值达到最小值的情况下,获取所述训练数据的降维矩阵为所述第二降维矩阵。
14.一种存储介质,其特征在于,所述存储介质包括存储的程序,其中,所述程序运行时执行上述权利要求1至8任一项中所述的方法。
15.一种电子装置,包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的计算机程序,其特征在于,所述处理器通过所述计算机程序执行上述权利要求1至8任一项中所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910478194.9A CN110275991B (zh) | 2019-06-03 | 2019-06-03 | 哈希值的确定方法和装置、存储介质、电子装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910478194.9A CN110275991B (zh) | 2019-06-03 | 2019-06-03 | 哈希值的确定方法和装置、存储介质、电子装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110275991A true CN110275991A (zh) | 2019-09-24 |
CN110275991B CN110275991B (zh) | 2021-05-14 |
Family
ID=67961915
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910478194.9A Active CN110275991B (zh) | 2019-06-03 | 2019-06-03 | 哈希值的确定方法和装置、存储介质、电子装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110275991B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340237A (zh) * | 2020-03-05 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 数据处理和模型运行方法、装置和计算机设备 |
CN113656272A (zh) * | 2021-08-16 | 2021-11-16 | Oppo广东移动通信有限公司 | 数据处理方法、装置、存储介质、用户设备及服务器 |
CN113672761A (zh) * | 2021-07-16 | 2021-11-19 | 北京奇艺世纪科技有限公司 | 视频处理方法及装置 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101140583A (zh) * | 2007-10-09 | 2008-03-12 | 华为技术有限公司 | 一种文本检索的方法和装置 |
WO2009017483A1 (en) * | 2007-08-01 | 2009-02-05 | The Trustees Of The University Of Penssylvania | Malignancy diagnosis using content-based image retreival of tissue histopathology |
CN102508910A (zh) * | 2011-11-11 | 2012-06-20 | 大连理工大学 | 基于多哈希表映射误差最小化的图像检索方法 |
CN106886599A (zh) * | 2017-02-28 | 2017-06-23 | 北京京东尚科信息技术有限公司 | 图像检索方法以及装置 |
CN106997381A (zh) * | 2017-03-21 | 2017-08-01 | 海信集团有限公司 | 向目标用户推荐影视的方法及装置 |
CN107480273A (zh) * | 2017-08-21 | 2017-12-15 | 成都澳海川科技有限公司 | 图片哈希码生成方法、装置、图片检索方法及装置 |
CN108073934A (zh) * | 2016-11-17 | 2018-05-25 | 北京京东尚科信息技术有限公司 | 近重复图像检测方法与装置 |
CN109145143A (zh) * | 2018-08-03 | 2019-01-04 | 厦门大学 | 图像检索中的序列约束哈希算法 |
-
2019
- 2019-06-03 CN CN201910478194.9A patent/CN110275991B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2009017483A1 (en) * | 2007-08-01 | 2009-02-05 | The Trustees Of The University Of Penssylvania | Malignancy diagnosis using content-based image retreival of tissue histopathology |
CN101140583A (zh) * | 2007-10-09 | 2008-03-12 | 华为技术有限公司 | 一种文本检索的方法和装置 |
CN102508910A (zh) * | 2011-11-11 | 2012-06-20 | 大连理工大学 | 基于多哈希表映射误差最小化的图像检索方法 |
CN108073934A (zh) * | 2016-11-17 | 2018-05-25 | 北京京东尚科信息技术有限公司 | 近重复图像检测方法与装置 |
CN106886599A (zh) * | 2017-02-28 | 2017-06-23 | 北京京东尚科信息技术有限公司 | 图像检索方法以及装置 |
CN106997381A (zh) * | 2017-03-21 | 2017-08-01 | 海信集团有限公司 | 向目标用户推荐影视的方法及装置 |
CN107480273A (zh) * | 2017-08-21 | 2017-12-15 | 成都澳海川科技有限公司 | 图片哈希码生成方法、装置、图片检索方法及装置 |
CN109145143A (zh) * | 2018-08-03 | 2019-01-04 | 厦门大学 | 图像检索中的序列约束哈希算法 |
Non-Patent Citations (1)
Title |
---|
一骑走烟尘: "主成分分析(PCA)降维原理、特征值分解与SVD分解", 《CSDN博客网址为HTTPS://BLOG.CSDN.NET/ZGCR654321/ARTICLE/DETAILS/88365695》 * |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111340237A (zh) * | 2020-03-05 | 2020-06-26 | 腾讯科技(深圳)有限公司 | 数据处理和模型运行方法、装置和计算机设备 |
CN111340237B (zh) * | 2020-03-05 | 2024-04-26 | 腾讯科技(深圳)有限公司 | 数据处理和模型运行方法、装置和计算机设备 |
CN113672761A (zh) * | 2021-07-16 | 2021-11-19 | 北京奇艺世纪科技有限公司 | 视频处理方法及装置 |
CN113672761B (zh) * | 2021-07-16 | 2023-07-25 | 北京奇艺世纪科技有限公司 | 视频处理方法及装置 |
CN113656272A (zh) * | 2021-08-16 | 2021-11-16 | Oppo广东移动通信有限公司 | 数据处理方法、装置、存储介质、用户设备及服务器 |
Also Published As
Publication number | Publication date |
---|---|
CN110275991B (zh) | 2021-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104573652B (zh) | 确定人脸图像中人脸的身份标识的方法、装置和终端 | |
CN111382868B (zh) | 神经网络结构搜索方法和神经网络结构搜索装置 | |
CN110275991A (zh) | 哈希值的确定方法和装置、存储介质、电子装置 | |
US11216459B2 (en) | Multi-layer semantic search | |
CN109783582A (zh) | 一种知识库对齐方法、装置、计算机设备及存储介质 | |
CN112396106B (zh) | 内容识别方法、内容识别模型训练方法及存储介质 | |
CN110019876A (zh) | 数据查询方法、电子设备及存储介质 | |
CN110428046A (zh) | 神经网络结构的获取方法及装置、存储介质 | |
CN104169946A (zh) | 用于视觉搜索的可扩展查询 | |
CN113191461B (zh) | 一种图片识别方法、装置、设备及可读存储介质 | |
CN113033507B (zh) | 场景识别方法、装置、计算机设备和存储介质 | |
CN111898703A (zh) | 多标签视频分类方法、模型训练方法、装置及介质 | |
CN110163121A (zh) | 图像处理方法、装置、计算机设备及存储介质 | |
CN113806582B (zh) | 图像检索方法、装置、电子设备和存储介质 | |
CN112862092A (zh) | 一种异构图卷积网络的训练方法、装置、设备和介质 | |
CN113869528A (zh) | 共识表征提取和多样性传播的解纠缠个性化联邦学习方法 | |
CN113949582A (zh) | 一种网络资产的识别方法、装置、电子设备及存储介质 | |
JP6460926B2 (ja) | 撮影画像に写る物体を検索するシステム及び方法 | |
CN113391992A (zh) | 测试数据的生成方法和装置、存储介质及电子设备 | |
CN115564017A (zh) | 模型数据处理方法、电子设备及计算机存储介质 | |
CN114817655A (zh) | 跨模态检索方法、网络训练方法、装置、设备及介质 | |
CN110222103A (zh) | 提取excel数据的方法及装置、计算机设备、存储介质 | |
CN108564155A (zh) | 智能卡定制方法、装置及服务器 | |
CN110019400A (zh) | 数据存储方法、电子设备及存储介质 | |
CN113763420A (zh) | 一种目标跟踪方法、系统及存储介质和终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |