CN112667839A - 数据的处理方法、检索方法、装置及设备 - Google Patents

数据的处理方法、检索方法、装置及设备 Download PDF

Info

Publication number
CN112667839A
CN112667839A CN201910982971.3A CN201910982971A CN112667839A CN 112667839 A CN112667839 A CN 112667839A CN 201910982971 A CN201910982971 A CN 201910982971A CN 112667839 A CN112667839 A CN 112667839A
Authority
CN
China
Prior art keywords
clothing
information
region
retrieval
attention
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910982971.3A
Other languages
English (en)
Other versions
CN112667839B (zh
Inventor
郎一宁
杨帆
何源
薛晖
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201910982971.3A priority Critical patent/CN112667839B/zh
Publication of CN112667839A publication Critical patent/CN112667839A/zh
Application granted granted Critical
Publication of CN112667839B publication Critical patent/CN112667839B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明实施例提供一种数据的处理方法、检索方法、装置及设备,处理方法包括:获取数据集合,数据集合中包括多个服装图像;确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息;根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。本实施例提供的技术方案,通过将服装图像划分为多个服装区域,并获得与每个服装区域相对应的区域注意力信息,根据所有区域注意力信息确定服装检索模型,在利用服装检索模型对服装进行检索时,实现了基于服装区域的位置进行服装检索,有效保证了对服装进行检索的精准度。

Description

数据的处理方法、检索方法、装置及设备
技术领域
本发明涉及数据处理技术领域,尤其涉及一种数据的处理方法、检索方法、装置及设备。
背景技术
服装检索是当前热度很高的研究方向,有着广泛的应用场景。现有技术中,在进行服装检索时,一般是先获取服装的属性信息,而后基于服装的属性信息进行服装检索操作。然而,由于服装的属性信息有着很大的不确定性,在利用服装的属性信息进行服装检索时,对于一些相近的服装属性很容易被误分类,进而降低了服装检索的准确性。
发明内容
本发明实施例提供了一种数据的处理方法、检索方法、装置及设备,可以基于服装区域的注意力信息进行服装检索操作,有效地提高了服装检索的准确可靠性。
第一方面,本发明实施例提供一种数据的处理方法,包括:
获取数据集合,所述数据集合中包括多个服装图像;
确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息;
根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
第二方面,本发明实施例提供一种数据的处理装置,包括:
第一获取模块,用于获取数据集合,所述数据集合中包括多个服装图像;
第一处理模块,用于确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
学习模块,用于对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息;
所述第一处理模块,还用于根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
第三方面,本发明实施例提供一种电子设备,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现上述第一方面中的数据的处理方法。
第四方面,本发明实施例提供了一种计算机存储介质,用于储存计算机程序,所述计算机程序使计算机执行时实现上述第一方面中的数据的处理方法。
本实施例提供的数据的处理方法,有效地实现了对服装图像进行区域性的服装检索,具体的,可以先将服装图像划分为多个服装区域,而后针对每个服装区域的位置信息分别进行特征学习,获得区域注意力信息,根据所有的区域注意力信息确定用于对服装进行整体检索的服装检索模型,在利用服装检索模型对服装进行检索时,可以基于服装区域的注意力信息进行服装检索操作,有效地避免了现有技术中存在的由于服装的属性信息有着很大的不确定性,而出现的对于一些相近的服装属性很容易被误分类的情况,有效地保证了对服装进行检索的精准度,进而保证了该方法的实用性,有利于市场的推广与应用。
第五方面,本发明实施例提供了一种数据的检索方法,包括:
获取数据检索请求,所述数据检索请求中包括参考服装信息;
对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域;
利用所述服装检索模型对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
第六方面,本发明实施例提供了一种数据的检索装置,包括:
第二获取模块,用于获取数据检索请求,所述数据检索请求中包括参考服装信息;
第二处理模块,用于对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域;
检索模块,用于利用所述服装检索模型对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
第七方面,本发明实施例提供了一种电子设备,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现上述第五方面中的数据的检索方法。
第八方面,本发明实施例提供了一种计算机存储介质,用于储存计算机程序,所述计算机程序使计算机执行时实现上述第五方面中的数据的检索方法。
本实施例提供的数据的检索方法,通过获取数据检索请求,并对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域,而后利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果,有效地保证了服装检索结果的准确可靠性,进而保证了该方法的实用性,有利于市场的推广与应用。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作一简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种数据的处理方法的流程图;
图2为本发明实施例提供的确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息的流程图;
图3为本发明实施例提供的对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息的流程图;
图4为本发明实施例提供的另一种数据的处理方法的流程图;
图5为本发明实施例提供的又一种数据的处理方法的流程图;
图6为本发明实施例提供的基于所述服装分类对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域的流程图;
图7为本发明实施例提供的还一种数据的处理方法的流程图;
图8为本发明应用实施例提供的一种数据的检索方法的示意图;
图9为本发明应用实施例提供的一种模型训练的示意图;
图10为本发明应用实施例提供的一种数据检索的示意图;
图11为本发明实施例提供的一种数据的处理装置的结构示意图;
图12为与图11所示实施例提供的数据的处理装置对应的电子设备的结构示意图;
图13为本发明实施例提供的一种数据的检索装置的结构示意图;
图14为与图13所示实施例提供的数据的检索装置对应的电子设备的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
在本发明实施例中使用的术语是仅仅出于描述特定实施例的目的,而非旨在限制本发明。在本发明实施例和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式,除非上下文清楚地表示其他含义,“多种”一般包含至少两种,但是不排除包含至少一种的情况。
应当理解,本文中使用的术语“和/或”仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,一般表示前后关联对象是一种“或”的关系。
取决于语境,如在此所使用的词语“如果”、“若”可以被解释成为“在……时”或“当……时”或“响应于确定”或“响应于检测”。类似地,取决于语境,短语“如果确定”或“如果检测(陈述的条件或事件)”可以被解释成为“当确定时”或“响应于确定”或“当检测(陈述的条件或事件)时”或“响应于检测(陈述的条件或事件)”。
还需要说明的是,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的商品或者系统不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种商品或者系统所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括所述要素的商品或者系统中还存在另外的相同要素。
为了便于理解本申请的技术方案,下面对现有技术进行简要说明:
服装检索是当前热度很高的研究方向,有着广泛的应用场景。现有技术中,在对服装检索算法进行学习训练时,往往是单纯在标注框中进行特征的相似度学习,整个标注框区域内的特征没有区分重点,此时,容易学习到无用特征而忽略关键特征,从而降低服装检索网络的学习训练效果。为了保证对服装检索网络的训练效果,在对服装检索网络进行学习训练时,引入了属性注意力的机制,即用服装的不同属性来引导检索网络进行有差异的特征学习。然而,现有的服装检索方法,一般只利用服装的属性作为注意力机制,其中,服装的属性主要是指服装的类别特征信息,例如:服装中的袖子是长袖还是短袖,领子是圆领还是V领等等。经过大量的数据分析发现,基于服装的属性信息进行服装检索有着很大的不确定性,一些相近的服装属性很容易被误分类,从而降低了检索效果。
下面结合附图,对本发明的一些实施方式作详细说明。在各实施例之间不冲突的情况下,下述的实施例及实施例中的特征可以相互组合。
图1为本发明实施例提供的一种数据的处理方法的流程图;参考附图1所示,本实施例提供了一种数据的处理方法,该处理方法的执行主体是数据的处理装置,可以理解的是,该处理装置可以实现为软件、或者软件和硬件的组合。具体的,该数据的处理方法可以包括:
S1:获取数据集合,数据集合中包括多个服装图像。
其中,数据集合可以包括以下至少之一:Deepfashion的数据集、Deepfashion2的数据集或者其他数据集,具体的,DeepFashion数据集是香港中文大学开放的一个大数量数据集,其包含80万张图片,包含不同角度、不同场景、买家秀、买家秀等图片。每张图片也有非常丰富的标注信息,包括50种类别,1000种属性、标准框、特征点。DeepFashion2数据集的标注数量是DeepFashion数据集的3.5倍,上述的Deepfashion的数据集、Deepfashion2的数据集可以用于服饰检测和识别、标记和姿态估计、分割以及验证和检索。
需要注意的是,本实施例中的数据集合也可以为公开的其他数据集合,在数据集合为公开的数据集合时,可以通过访问预设网站或者预设区域来获取到数据集合;或者,本实施例中的数据集合也可以是私有的数据集合,此时,可以通过访问预设装置或者预设区域来获取到数据集合,在获取到数据集合之后,可以获取到数据集合中所包括的多个服装图像。
S2:确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息。
其中,一个服装图像中可以包括一个服装主体,该服装主体可以包括多个服装区域,例如,服装主体包括:袖口区域、领口区域、腰线区域等等。此时,为了能够保证服装检索模型的学习训练效果,在获取到多个服装图像之后,可以对服装图像进行分析识别,以确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息。具体的,本实施例对于确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息的具体实现方式不做限定,本领域技术人员可以根据具体的应用需求和设计需求进行设置,例如:可以在预设的标准服装图像数据集合中确定与服装图像相对应的标准服装图像,而后将标准服装图像所对应的多个标准服装区域确定为服装图像中包括的多个服装区域,将每个标准服装区域所对应的标准位置信息确定为服装图像中每个服装区域所对应的位置信息。当然的,本领域技术人员也可以采用其他的方式来确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息,只要能够保证对服装区域以及每个服装区域所对应的位置信息进行确定的准确可靠性即可,在此不再赘述。
S3:对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息。
在获取到服装区域和每个服装区域所对应的位置信息之后,可以对服装区域和每个服装区域所对应的位置信息进行学习训练,从而可以获得与服装区域相对应的区域注意力信息。举例来说:现有第一服装图像和第二服装图像,第一服装图像包括:第一袖口区域、第一领口区域、第一腰线区域,第二服装图像包括:第二袖口区域、第二领口区域、第二腰线区域,在获取到上述多个服装区域之后,可以对服装区域和每个服装区域所对应的位置信息进行学习训练,也即:对第一袖口区域、第一袖口区域的位置信息、第二袖口区域、第二袖口位置的位置信息进行学习训练,从而可以获得与袖口区域相对应的区域注意力信息;相类似的,可以对第一领口区域、第一领口区域的位置信息、第二领口区域、第二领口区域的位置信息进行学习训练,从而可以获得与领口区域相对应的区域注意力信息;对第一腰线区域、第一腰线区域的位置信息、第二腰线区域、第二腰线区域的位置信息进行学习训练,从而可以获得与腰线区域相对应的区域注意力信息。
S4:根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
在获取到与服装区域相对应的区域注意力信息之后,可以根据所有服装区域所对应的区域注意力信息确定用于对服装进行检索的服装检索模型。具体的,由于不同的区域注意力信息对应不同的服装区域,而在获取到所有服装区域相对应的区域注意力信息之后,可以结合预设的基础检索模型确定用于进行服装检索的服装检索模型。举例来说,区域注意力信息包括:与袖口区域相对应的第一注意力信息、与领口区域相对应的第二注意力信息以及与腰线区域相对应的第三注意力信息,在获取到第一注意力信息、第二注意力信息和第三注意力信息之后,可以基于预设的基础检索模型和上述的第一注意力信息、第二注意力信息和第三注意力信息进行分析处理,从而可以获取到用于对服装进行检索的服装检索模型。
本实施例提供的数据的处理方法,有效地实现了对服装图像进行区域性的服装检索,具体的,可以先将服装图像划分为多个服装区域,而后针对每个服装区域的位置信息分别进行特征学习,获得区域注意力信息,根据所有的区域注意力信息确定用于对服装进行整体检索的服装检索模型,在利用服装检索模型对服装进行检索时,可以基于服装区域的注意力信息进行服装检索操作,有效地避免了现有技术中存在的由于服装的属性信息有着很大的不确定性,而出现的对于一些相近的服装属性很容易被误分类的情况,有效地保证了对服装进行检索的精准度,进而保证了该方法的实用性,有利于市场的推广与应用。
图2为本发明实施例提供的确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息的流程图;在上述实施例的基础上,继续参考附图2所示,本实施例中对于多个服装区域以及每个服装区域所对应的位置信息的具体确定方式不做限定,本领域技术人员可以根据具体的应用需求和设计需求进行设置,较为优选的,本实施例中的确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息可以包括:
S21:利用高分辨率深度神经网络对服装图像进行处理,获得服装图像中所包括的服装关键点。
S22:根据服装关键点确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息。
具体的,在获取到服装图像之后,可以利用高分辨率深度神经网络HR-Net对服装图像进行分析处理,从而可以获得服装图像中所包括的服装关键点,其中,服装关键点如人体的各个关节点一样,每一类服装在各个关键的位置也有按照一定规则排列的关键点,如袖口的关键点、领口的关键点等。以Deepfashion2数据集中的图像数据为例,数据集中的图像数据包括有13类衣服,共294个服装关键点。
其中,由于服装关键点与服装区域之间存在预设关系,因此,在获取到服装关键点之后,可以基于上述的预设关系和服装关键点确定服装区域中包括的多个服装区域以及每个服装区域所对应的位置信息,从而有效地保证了对服装区域和服装区域所对应的位置信息进行确定的准确可靠性,进而提高了该方法使用的准确可靠性。
进一步的,在上述实施例的基础上,本实施例对于获得与服装区域相对应的区域注意力信息的具体实现方式不做限定,本领域技术人员可以根据具体的应用场景和应用需求进行设置,其中,一种可实现的方式为,本实施例中的对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息可以包括:
S31:将服装关键点和每个服装区域所对应的位置信息作为注意力参数进行学习训练,获得与服装区域相对应的区域注意力信息。
具体的,在获取到服装关键点和每个服装区域所对应的位置信息之后,可以将服装关键点和每个服装区域所对应的位置信息作为注意力参数(一种注意力机制)进行学习训练,从而可以获得与服装区域相对应的区域注意力信息。从而有效地实现了基于服装关键点的注意力机制,利用每类服装的服装关键点来引导检索网络进行特征相似度的学习,着重提取服装关键点周围的特征信息,进而提高了对服装关键点进行学习训练的质量和效果,保证了服装检索模型的训练效果。例如:可以利用服装关键点围成不同的检索区域,如袖口区域、领口区域等在不同服装区域内分别进行学习训练,从而可以获得与服装区域相对应的区域注意力信息,这样有效地提高了对服装区域定义的精确度,进一步保证了区域注意力信息对每个服装区域进行检索的准确可靠性。
另外,对于获得与服装区域相对应的区域注意力信息的具体实现方式而言,参考附图3所示,又一种可实现的方式为,本实施例中的对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息可以包括:
S32:获取服装图像在数据集合中的检索排序信息。
其中,每个服装图像相比于数据集合中的其他图像而言,均对应有一个检索排序信息,该检索排序信息与每个服装图像与数据集合中其他服装图像之间的相似度相关,具体的,每个服装图像相比于数据集合中的其他服装图像而言,均对应有相似度信息,通过所有服装图像所对应的相似度信息可以获得每个服装图像在数据集合中的相似度排序,也即获得了服装图像在数据集合中的检索排序信息,该检索排序信息可以作为一个注意力参数进行学习训练,从而提升了区域注意力信息的检索准确性。
S33:对服装关键点、每个服装区域所对应的位置信息以及检索排序信息进行学习训练,获得与服装区域相对应的区域注意力信息。
在获得检索排序信息之后,可以对服装关键点、每个服装区域所对应的位置信息以及检索排序信息进行学习训练,从而可以获得与服装区域相对应的区域注意力信息。
本实施例中,通过利用服装关键点将服装划分为多个服装区域,而后对不同服装区域的位置信息进行特征学习,从而可以获得与服装区域相对应的区域注意力信息,在特征相似度学习的过程中,通过注意力机制使得某些位置的特征被着重学习,有效地提升了对关键区域的特征学习效果,进而提高了区域注意力信息的检索准确性。
图4为本发明实施例提供的另一种数据的处理方法的流程图;在上述任意一个实施例的基础上,继续参考附图4所示,为了提高数据处理的准确可靠性,在获得与服装区域相对应的区域注意力信息之后,本实施例中的方法还可以包括:
S101:利用损失函数计算区域注意力信息的检索准确率。
S102:在检索准确率不满足预设要求时,则继续对区域注意力信息进行学习训练。或者,
S103:在检索准确率满足预设要求时,则允许根据所有服装区域所对应的区域注意力信息确定用于进行服装检索的服装检索模型。
具体的,在每次进行学习训练获得区域注意力信息之后,可以利用损失函数计算区域注意力信息的检索准确率,在获得检索准确率之后,可以识别该检索准确率是否满足预设要求,其中,预设要求可以是指预先设置的准确率阈值,该准确率阈值是用于对区域注意力信息进行质量评价的最低标准,在检索准确率不满足预设要求时,也即检索准确率小于预设的准确率阈值,则说明此时的区域注意力信息的检索精确度或者检索准确度比较低,此时,为了保证对服装进行检索的准确度,则需要继续对区域注意力信息进行学习训练,直到获得检索准确率满足预设要求的区域注意力信息为止。在检索准确率满足预设要求时,也即检索准确率大于或等于预设的准确率阈值,则说明此时的区域注意力信息的检索精确度或者检索准确度比较高,此时,则可以允许根据所有服装区域所对应的区域注意力信息确定用于进行服装检索的服装检索模型,这样可以有效地保证了服装检索模型的检索准确性和可靠性。
图5为本发明实施例提供的又一种数据的处理方法的流程图;在上述实施例的基础上,继续参考附图5所示,本实施例中的方法还可以包括:
S201:获取数据检索请求,数据检索请求中包括参考服装信息。
其中,数据检索请求可以是用户上传的或者数据的处理装置通过用户的执行操作生成的,或者也可以是其他的设备发送到数据的处理装置的,该数据检索请求中可以包括参考服装信息,该参考服装信息即为要进行数据检索的检索参考数据。需要注意的是,本实施例对于参考服装信息的具体数据类型不做限定,本领域技术人员可以根据具体的应用场景进行设置,例如:参考服装信息可以是三维图像数据、平面图像数据、视频数据中的某一个或几个视频帧数据等等,不同的参考服装信息可以对应有不同的服装检索模型。举例来说:参考服装信息为三维图像数据时,可以利用与三维图像数据相对应的服装检索模型进行服装检索操作;在参考服装信息为平面图像数据时,可以利用与平面图像数据相对应的服装检索模型进行服装检索操作。
S202:对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
在获取到参考服装信息之后,可以对参考服装信息进行区域划分处理,从而可以获得与参考服装信息相对应的参考区域。具体的,在对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域之前,本实施例中的方法还包括:
S2020:根据参考服装信息确定参考服装信息所对应的服装分类。
具体的,在获取到参考服装信息之后,可以将参考服装信息与预设标准图像进行分析处理,从而可以获取与参考服装信息所对应的服装分类,其中,服装分类信息可以包括以下至少之一:服装品牌信息、服装类目信息;当然的,服装分类信息还可以包括其他的属性信息,例如:服装颜色信息、服装款式信息等等,本领域技术人员可以通过具体的应用场景和应用需求对服装分类信息进行配置,在此不再赘述;通过所确定的服装分类信息来进行相应的服装检索操作,有效地扩大了服装检索的范围,进而提高了检索结果的多样性和准确性。
在获取到服装分类之后,本实施例中的对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域可以包括:
S2021:基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
具体的,在获取到服装分类之后,可以基于服装分类对参考服装信息进行区域划分处理,从而可以获得与参考服装信息相对应的参考区域。具体的,参考附图6所示,基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域可以包括:
S20211:根据服装分类确定与参考服装信息相对应的关键点数量和关键点排列信息。
S20212:根据关键点数量和关键点排列信息对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
其中,预先存储有服装分类与关键点数量、关键点排列信息的对应关系,因此,在获取到服装分类之后,可以确定与参考服装信息相对应的关键点数量和关键点排列信息,而后可以基于关键点数量和关键点排列信息对参考服装信息进行区域划分处理,从而获得与参考服装信息相对应的参考区域,这样有效地保证了参考区域获取的准确可靠性。
S203:利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
在获取到参考区域之后,可以利用服装检索模型对所有的参考区域进行检索处理,从而可以获得与参考服装信息相对应的服装检索结果。具体的,服装检索模型中包括多个区域注意力信息,在获得与参考服装信息相对应的多个参考区域之后,可以确定与参考区域相对应的区域注意力信息,利用区域注意力信息对相对应的参考区域进行检索处理,从而可以获得与参考服装信息相对应的服装检索结果。
具体实现时,服装检索结果可以根据不同类型的参考服装信息对应有不同的展示方式,并可以给用户不同的展示效果。例如:在参考服装信息为平面图像数据时,服装检索结果也可以是平面图像数据,或者,服装检索结果也可以是带有模特或者用户本人的穿着方式来展示服装;在参考服装信息为三维图像数据时,服装检索结果也可以是三维图像数据,并且还可以通过模特或者用户本人来展示该服装检索结果所对应的穿着效果;在参考服装信息为视频数据中的某一个或几个视频帧数据时,则服装检索结果也可以为简单的视频数据或者动态图像数据等等。
另外,在利用服装检索模型对所有的参考区域进行检索处理时,还可以获得并显示与每个参考区域相对应的多个区域检索结果,通过所有参考区域所对应的多个区域检索结果获得与参考服装信息相对应的服装检索结果,并且,对于每个服装检索结果而言,还可以显示该服装检索结果所包括所有的区域检索结果。具体的,在显示与每个参考区域相对应的多个区域检索结果时,可以按照预设规则对多个区域检索结果进行显示,其中,预设规则可以包括相似度大小信息、检索排名信息、品牌影响力信息等等,在对多个区域检索结果进行显示时,还可以显示与该区域检索结果相对应的推广宣传信息,从而有效地提高了产品的推广宣传效果。
本实施例中,通过获取数据检索请求,并对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域,而后利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果,有效地保证了服装检索结果的准确可靠性,进而保证了该方法的实用性,有利于市场的推广与应用。
图7为本发明实施例提供的还一种数据的处理方法的流程图;在上述实施例的基础上,继续参考附图7所示,为了提高该方法的实用性,在服装检索结果中包括多个检索服装信息时,本实施例中的方法还可以包括:
S301:获取参考服装信息与检索服装信息的相似度;
S302:在相似度大于或等于预设阈值时,则以第一标注框标注检索服装信息;或者,
S303:在相似度小于预设阈值时,则以第二标注框标注检索服装信息,第二标注框与第一标注框不同。
具体的,由于服装检索结果中可以包括一个或多个检索服装信息,服装检索信息即为检索出来的与参考服装信息相近似的服装信息。在服装检索结果包括一个检索服装信息时,此时用户可以直接地查看到与参考服装信息相对应的检索服装信息;在服装检索结果包括多个检索服装信息时,多个检索服装信息与参考服装信息之间的相似度不同,为了使得用户可以直接地查看到与参考服装信息更相似的检索服装信息,则可以获取到参考服装信息与每个检索服装信息的相似度,在相似度大于或等于预设阈值时,则说明该检索服装信息与参考服装信息的相似度较高,则可以利用第一标注框标注检索服装信息;在相似度小于预设阈值时,则说明该检索服装信息与参考服装信息的相似度较低,则可以利用第二标注框标注检索服装信息,一般情况下,第二标注框与第一标注框不同,并且第一标注框相对于第二标注框而言具有更加突出的显示效果。
以红色标注框作为第一标注框、白色标准框作为第二标注框为例进行说明,服装检索结果中包括第一检索服装信息、第二检索服装信息、第三检索服装信息,参考服装信息与上述检索服装信息的相似度分别为:第一相似度、第二相似度和第三相似度,在第一相似度和第二相似度均大于或等于预设阈值时,则可以以红色标注框标注第一检索服装信息和第二检索服装信息,并且,可以基于第一检索服装信息和第二检索服装信息的相似度由高到低地进行排序;在第三相似度小于预设阈值时,则可以以白色标准框标注检索服装信息,从而可以使得用户更加直观、快速地查看到相似度较高的检索结果,满足了用户的搜索查看需求。
在上述任意一个实施例的基础上,为了提高服装检索的准确度,在获得与所述参考服装信息相对应的参考区域之后,本实施例中的方法还可以包括:
S401:获取与所述参考区域相对应的视觉关注度。
在用户视觉形成的过程中,视觉、视知觉系统可以对不同颜色显示出不同的分辨力和关注度,在图像检索算法中,用户也可以针对不同的参考区域产生不同的视觉关注度。具体的,本实施例对于与参考区域相对应的视觉关注度的具体获取方式不做限定,本领域技术人员可以根据具体的设计需求进行设计,例如:可以采用视觉关注度模型对参考区域进行分析处理,从而可以获得与参考区域相对应的视觉关注度。为了满足不同用户的个性化检索需求,较为优选的,本实施例中的获取与所述参考区域相对应的视觉关注度可以包括:
S4011:获取用户针对所述参考区域所输入的关注点信息。
S4012:根据所述关注点信息确定与所述参考区域相对应的视觉关注度。
其中,在获取到参考区域之后,用户可以针对某一个参考区域输入相对应的关注点信息,关注度信息包括:颜色、形状、大小、纹理等等;在获取到与参考区域相对应的关注点信息之后,可以根据关注点信息来确定与参考区域相对应的视觉关注度,具体的,可以利用视觉关注度模型对参考区域和关注点信息进行分析处理,从而可以获得与参考区域相对应的视觉关注度。
本实施例中,通过获取用户针对参考区域所确定的关注点信息来确定与参考区域相对应的视觉关注度,有效地实现了与用户的交互操作,满足了用户的个性化需求,进一步提高了服装检索的质量和准确性。
S402:根据所述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
在获取到视觉关注度之后,可以根据服装检索模型和视觉关注度对所有的参考区域进行检索处理,从而可以获得与参考服装信息相对应的服装检索结果。
本实施例中,通过获取与所述参考区域相对应的视觉关注度,根据述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果,有效地实现了结合视觉关注度进行服装检索操作,不仅可以满足不同用户的检索需求,并且还提高了服装检索的准确可靠性。
在上述任意一个实施例的基础上,为了进一步提高该方法的实用性,在获取与所述参考区域相对应的视觉关注度之后,本实施例中的方法还可以包括:
S501:基于所述视觉关注度确定与所述参考服装信息相对应的服装优化信息。
S502:根据所述服装优化信息对所述参考服装信息进行优化操作。
具体的,在获取到与所述参考区域相对应的视觉关注度之后,可以基于视觉关注度确定与参考服装信息相对应的服装优化信息,在获取到服装优化信息之后,服装开发商、服装设计人员可以根据服装优化信息对参考服装信息进行优化操作。举例来说:一个参考服装信息所对应的参考区域包括:参考区域A和参考区域B,其中,参考区域A所对应的视觉关注度包括颜色信息和形状信息,此时,可以根据颜色信息和形状信息确定与该参考服装信息中参考区域A所对应的服装优化信息,该服装优化信息与颜色信息和形状信息相关,从而使得服装开发商、服装设计人员可以通过该服装优化信息对参考服装信息进行优化操作,获得满足不同用户需求的服装产品,保证了服装产品的成交率。
本实施例的另一方面提供了一种数据的检索方法,该检索方法的执行主体是数据的检索装置,可以理解的是,该检索装置可以实现为软件、或者软件和硬件的组合。具体的,该数据的检索方法可以包括:
S601:获取数据检索请求,数据检索请求中包括参考服装信息;
S602:对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域;
S603:利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
本实施例中的方法的具体实现过程、实现效果与上述附图5所示实施例中的方法的具体实现过程和实现效果相类似,具体可参考上述陈述内容,在此不再赘述。
本实施例提供的数据的检索方法,通过获取数据检索请求,并对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域,而后利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果,有效地保证了服装检索结果的准确可靠性,进而保证了该方法的实用性,有利于市场的推广与应用。
进一步的,在对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域之前,本实施例中的可以包括:
S6020:根据参考服装信息确定参考服装信息所对应的服装分类;
在获取到服装分类之后,对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域可以包括:
S6021:基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域可以包括:
S60211:根据服装分类确定与参考服装信息相对应的关键点数量和关键点排列信息;
S60212:根据关键点数量和关键点排列信息对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,服装检索结果中包括多个检索服装信息;本实施例中的方法还可以包括:
S701:获取参考服装信息与检索服装信息的相似度;
S702:在相似度大于或等于预设阈值时,则以第一标注框标注检索服装信息;或者,
S703:在相似度小于预设阈值时,则以第二标注框标注检索服装信息,第二标注框与第一标注框不同。
进一步的,在获得与所述参考服装信息相对应的参考区域之后,本实施例中的方法还可以包括:
S801:获取与所述参考区域相对应的视觉关注度;
S802:根据所述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
其中,获取与所述参考区域相对应的视觉关注度可以包括:
S8011:获取用户针对所述参考区域所输入的关注点信息;
S8012:根据所述关注点信息确定与所述参考区域相对应的视觉关注度。
进一步的,在获取与所述参考区域相对应的视觉关注度之后,本实施例中的方法还可以包括:
S901:基于所述视觉关注度确定与所述参考服装信息相对应的服装优化信息;
S902:根据所述服装优化信息对所述参考服装信息进行优化操作。
本实施例中的方法的具体实现过程和实现效果与上述附图6-图7所示实施例的方法的具体实现过程和实现效果相类似,具体可参考上述陈述内容,在此不再赘述。
具体应用时,参考附图8-10所示,本应用实施例提供了一种基于服装关键点的注意力机制的数据检索方法,该方法可以利用每类服装的关键点来引导检索网络进行特征相似度的学习,着重提取服装关键点周围的特征,具体的,可以利用关键点围成不同的检索区域,如袖口区域、领口区域等,并可以在不同区域内分别学习训练,获得与检索区域相对应的区域注意力信息,而后根据所有检索区域所对应的区域注意力信息和预先设置的基础检索模型,获得用于对服装进行检索的服装检索模型,而后可以利用服装检索模型进行服装检索操作,需要说明的是,基础检索模型为最初进行学习训练的机器学习模型的检索分支部分。综上可知,该方法包括两个部分:服装检索网络的学习部分和服装检索模型的应用部分。具体的,服装检索网络的学习部分包括:
step1:获取数据集合,数据集合中包括多个服装图像。
其中,数据集合可以为Deepfashion2数据集合,从而实现了采用Deepfashion2的数据集合中包括的服装图像进行学习训练,以获得服装检索模型。
step2:基于HR-Net对服装图像进行服装关键点的估计操作和服装检索操作,从而可以获得服装图像包括的多个服装区域、每个服装区域所对应的位置信息以及检索排序信息。
其中,HR-Net可以包括用于进行服装关键点的估计操作的第一网络分支和用于进行服装检索操作的第二网络分支,上述的第一网络分支和第二网络分支均可以采用HR-Net的backbone框架来实现,该backbone框架是一种帮助开发重量级的javascript应用的框架。具体的,利用第一网络分支对服装图像进行分析处理时,可以识别出服装图像包括的多个服装区域以及每个服装区域所对应的位置信息;利用第二网络分支对服装图像进行分析处理时,可以获得与服装图像相对应的检索排序信息。
step3:对服装关键点、每个服装区域所对应的位置信息以及检索排序信息进行学习训练,获得与服装区域相对应的区域注意力信息。
其中,在特征相似度学习的过程中,注意力机制可以使得某些位置的特征被着重学习,提升对关键区域的特征学习效果。另外,在获得区域注意力信息之后,可以利用损失函数在不同的服装区域内分别进行质量检测,即获取区域注意力信息的检索准确率,若检索准确率满足预设要求,则说明区域注意力信息的学习训练效果较好,此时则可以输出区域注意力信息;若检索准确率不满足预设要求,则说明区域注意力信息的学习训练效果较差,此时则需要继续进行学习训练操作。以获得满足预设要求的区域注意力信息。
具体的,第一网络分支进行服装关键的估计操作和第二网络分支进行服装检索操作之间可以是异步的,即关键点估计的第一网络分支先进行学习训练,每训练三个训练周期epoch则向第二网络分支传递一次服装关键点的注意力信息,其中,1个epoch等于使用训练集中的全部样本训练一次,通俗来讲,epoch的值就是整个数据集被轮训处理几次。
在将注意力信息发送至第二网络分支之后,第一网络分支部分暂时被固定,即第一网络分支的网络训练参数保持不变,而后利用第二网络分支对服装检索部分进行学习训练,从而可以获得检索排序信息。由于在训练过程中利用到服装的关键点信息,这样会对于关键点周围的特征给予更高的注意力,对于服装特征相似度的学习效果十分关键。具体的,在第二网络分支进行训练的过程中,还可以基于服装关键点的几何分布将服装图像分为多个区域,如胸部区域、腰部区域、领口区域、袖口区域等。
此外,第二网络分支可以进行多次的学习训练操作,在进行多次的学习训练操作之后,可以对第二网络分支进行固定。例如:在第二网络分支进行训练20个Epoch后,可以将第二网络分支进行固定,此时,第一网络分支的网络解除固定,继续开始训练。如此往复四次,用于服装关键点的第一网络分支共训练12个Epoch,用于服装检索的第二网络分支共训练80个Epoch,从而可以获得与服装区域相对应的区域学习特征(服装关键点、每个服装区域所对应的位置信息以及所述检索排序信息),通过对区域学习特征进行学习训练,可以获得区域注意力信息,在获得所有的区域注意力信息之后,可以根据所有的区域注意力信息和预先设置的基础检索模型获得一个用于进行服装检索的服装检索模型。
相比于现有方法利用服装的属性信息作为注意力,本应用实施例中的方法有着更好的稳定性,对于属性不清晰的样本,服装图像的位置信息(几何分布)依然可以准确地被服装关键点的网络预测到,从而保证了服装检索的准确率和可靠性。
step4:根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
将所有服装区域所对应的区域注意力信息进行整合操作,从而可以获得用于对服装进行检索操作的服装检索模型。
本实施例中,通过将HR-Net用于服装关键点估计和服装特征提取的操作,具体的,通过HR-Net中的两个网络分支进行联合训练,最终可以得到一个服装检索模型。相比现有技术中的Resnet网络框架和mask-rcnn网络框架而言,本实施例中的联合训练存在权值(注意力)的传递,而不是简单的loss累加,进而保证了服装检索的质量和准确率;并且,本实施例中的学习训练步骤可以是异步的,即关键点估计的分支先进行训练,每训练三个Epoch向检索分支传递一次服装关键点的注意力信息,从而可以保证学习训练的效果。
另外,服装检索模型的应用部分包括:
step101:获取数据检索请求,数据检索请求中包括参考服装信息;
在对服装检索模型进行应用时,可以向服装检索模型中输入数据检索请求,该数据检索请求中包括需要被检索的图片(参考服装信息),如图10中所示的短袖T恤。
step102:对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域;
为了能够从包含大量服装样本的数据库中检索到与参考服装信息同款和相近款的服装。可以先对参考服装信息进行预处理,其包括服装的分类、检测和区域划分。服装的分类可以由一个基于Deepfashion2数据集进行学习训练的目标检索算法faster-rcnn网络完成,即利用faster-rcnn网络对参考服装信息进行分析处理,从而可以获得参考服装信息所对应的服装分类,其中,faster-rcnn网络可以对包括短袖T恤、长袖上衣、长袖外套、连衣裙等共13类服装进行有效分类。同时,faster-rcnn可以给出被检测服装的标注框,标注框内设置有参考服装主体,进一步剔除无关的背景信息。在获取服装类别和参考服装主体后,可以根据服装类别确定服装的关键点数量及其几何排列规律。如图10所示,短袖T恤类别共有25个关键点,从而可以根据这25个关键点将服装划分为左右袖口、领口、胸部、腰部5个服装区域。
step103:利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
在对参考服装信息进行预处理结束后,可以由学习部分训练好的服装检索模型进行检索操作,从而可以获得与参考服装信息相对应的服装检索结果,其中,当服装检索结果包括多个检索服装信息时,可以采用不同的标注框对不同的检索服装信息进行标注,例如:可以利用深色框标注搜索到的相同款式的检索服装信息,利用浅色框标注搜索到的相近款的检索服装信息。
本应用实施例提供的数据检索方法,引入了基于服装关键点的注意力机制,利用服装关键点的几何信息引导服装检索网络进行特征相似度学习;提出了区域性服装检索的方法,利用服装关键点将服装分为多个服装区域,对服装区域的定义精准度有明显提升,而后分别针对服装区域的区域注意力信息进行特征学习,根据所有服装区域的区域注意力信息获得用于对服装进行整体检索的服装检索模型,有效地保证了服装检索效果。另外,本实施例中的方法,通过使用HR-Net作为服装关键点估计和服装特征提取的网络框架,可以在多个主流服装数据集上取得了领域内较好的效果,具体的,在将该方法应用在主流的数据集Deepfashion、Deepfashion2上时,在服装关键点估计部分至少可以达到0.63的平均准确率map,相比于现有技术中的0.56的map有很大的提升。在服装检索部分至少可以达到0.7的top10准确率,相比于现有技术中的0.57也有明显的提升,也即,该方法无论在模型学习训练的部分还是在数据检索的部分都取得了当前领域内较好的效果,进一步提高了该方法的实用性,有利于市场的推广与应用。
图11为本发明实施例提供的一种数据的处理装置的结构示意图;参考附图11所示,本实施例提供了一种数据的处理装置,该处理装置可以执行上述的数据的处理方法,具体的,该装置可以包括:第一获取模块11、第一处理模块12和学习模块13。其中,
第一获取模块11,用于获取数据集合,数据集合中包括多个服装图像;
第一处理模块12,用于确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
学习模块13,用于对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息;
第一处理模块12,还用于根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
进一步的,在第一处理模块12确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息时,该第一处理模块12可以用于执行:利用高分辨率深度神经网络对服装图像进行处理,获得服装图像中所包括的服装关键点;根据服装关键点确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息。
进一步的,在第一处理模块12对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息时,该第一处理模块12可以用于执行:将服装关键点和每个服装区域所对应的位置信息作为注意力参数进行学习训练,获得与服装区域相对应的区域注意力信息。
进一步的,在第一处理模块12对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息时,该第一处理模块12可以用于执行:获取服装图像在数据集合中的检索排序信息;对服装关键点、每个服装区域所对应的位置信息以及检索排序信息进行学习训练,获得与服装区域相对应的区域注意力信息。
进一步的,在第一处理模块12获取服装图像在数据集合中的检索排序信息时,该第一处理模块12可以用于执行:利用高分辨率深度神经网络对服装图像进行相似度识别处理,获得服装图像在数据集合中的检索排序信息。
进一步的,在获得与服装区域相对应的区域注意力信息之后,本实施例中的第一处理模块12可以用于执行:利用损失函数计算区域注意力信息的检索准确率;在检索准确率不满足预设要求时,则继续对区域注意力信息进行学习训练;或者,在检索准确率满足预设要求时,则允许根据所有服装区域所对应的区域注意力信息确定用于进行服装检索的服装检索模型。
进一步的,本实施例中的第一获取模块11和第二处理模块12还可以用于执行以下步骤:
第一获取模块11,用于获取数据检索请求,数据检索请求中包括参考服装信息;
第二处理模块12,用于对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域;利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
进一步的,在对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域之前,本实施例中的第二处理模块12还用于:根据所述参考服装信息确定所述参考服装信息所对应的服装分类;进而,在第二处理模块12对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域时,该第二处理模块12可以用于执行:基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,在第二处理模块12基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域时,该第二处理模块12可以用于执行:根据服装分类确定与参考服装信息相对应的关键点数量和关键点排列信息;根据关键点数量和关键点排列信息对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,服装检索结果中包括多个检索服装信息;本实施例中的第一获取模块11和第二处理模块12还可以用于执行以下步骤:
第一获取模块11,用于获取参考服装信息与检索服装信息的相似度;
第二处理模块12,用于在相似度大于或等于预设阈值时,则以第一标注框标注检索服装信息;或者,在相似度小于预设阈值时,则以第二标注框标注检索服装信息,第二标注框与第一标注框不同。
进一步的,在获得与所述参考服装信息相对应的参考区域之后,本实施例中的第一获取模块11和第二处理模块12还可以用于执行以下步骤:
第一获取模块11,用于获取与所述参考区域相对应的视觉关注度;
第二处理模块12,用于根据所述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
其中,在第一获取模块11获取与所述参考区域相对应的视觉关注度时,该第一获取模块11可以用于执行:获取用户针对所述参考区域所输入的关注点信息;根据所述关注点信息确定与所述参考区域相对应的视觉关注度。
进一步的,在获取与所述参考区域相对应的视觉关注度之后,本实施例中的第二处理模块12还可以用于执行以下步骤:基于所述视觉关注度确定与所述参考服装信息相对应的服装优化信息;根据所述服装优化信息对所述参考服装信息进行优化操作。
图11所示装置可以执行图1-图10所示实施例的方法,本实施例未详细描述的部分,可参考对图1-图10所示实施例的相关说明。该技术方案的执行过程和技术效果参见图1-图10所示实施例中的描述,在此不再赘述。
在一个可能的设计中,图11所示数据的处理装置的结构可实现为一电子设备,该电子设备可以是手机、平板电脑、服务器等各种设备。如图12所示,该电子设备可以包括:第一处理器21和第一存储器22。其中,第一存储器22用于存储支持电子设备执行上述图1-图14所示实施例中提供的数据的处理方法的程序,第一处理器21被配置为用于执行第一存储器22中存储的程序。
程序包括一条或多条计算机指令,其中,一条或多条计算机指令被第一处理器21执行时能够实现如下步骤:
获取数据集合,数据集合中包括多个服装图像;
确定服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
对服装区域和每个服装区域所对应的位置信息进行学习训练,获得与服装区域相对应的区域注意力信息;
根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
进一步的,第一处理器21还用于执行前述图1-图10所示实施例中的全部或部分步骤。
其中,电子设备的结构中还可以包括第一通信接口23,用于电子设备与其他设备或通信网络通信。
另外,本发明实施例提供了一种计算机存储介质,用于储存电子设备所用的计算机软件指令,其包含用于执行上述图1-图10所示方法实施例中数据的处理方法所涉及的程序。
图13为本发明实施例提供的一种数据的检索装置的结构示意图;参考附图13所示,本实施例提供了一种数据的检索装置,该检索装置可以执行上述的数据的检索方法,具体的,该装置可以包括:第二获取模块31、第二处理模块32和检索模块33。其中,
第二获取模块31,用于获取数据检索请求,数据检索请求中包括参考服装信息;
第二处理模块32,用于对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域;
检索模块33,用于利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
进一步的,在对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域之前,本实施例中的第二处理模块32还用于:根据参考服装信息确定参考服装信息所对应的服装分类;继而,在第二处理模块32对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域时,该第二处理模块32可以用于执行:基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,在第二处理模块32基于服装分类对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域时,该第二处理模块32可以用于执行:根据服装分类确定与参考服装信息相对应的关键点数量和关键点排列信息;根据关键点数量和关键点排列信息对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域。
进一步的,服装检索结果中包括多个检索服装信息;本实施例中的第二获取模块31和第二处理模块32还可以用于执行以下步骤:
第二获取模块31,用于获取参考服装信息与检索服装信息的相似度;
第二处理模块32,用于在相似度大于或等于预设阈值时,则以第一标注框标注检索服装信息;或者,在相似度小于预设阈值时,则以第二标注框标注检索服装信息,第二标注框与第一标注框不同。
进一步的,在获得与所述参考服装信息相对应的参考区域之后,本实施例中的第二获取模块31和第二处理模块32还可以用于执行以下步骤:
第二获取模块31,用于获取与所述参考区域相对应的视觉关注度;
第二处理模块32,用于根据所述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
其中,在第二获取模块31获取与所述参考区域相对应的视觉关注度时,该第二获取模块31可以用于执行:获取用户针对所述参考区域所输入的关注点信息;根据所述关注点信息确定与所述参考区域相对应的视觉关注度。
进一步的,在获取与所述参考区域相对应的视觉关注度之后,本实施例中的第二处理模块32还可以用于执行以下步骤:基于所述视觉关注度确定与所述参考服装信息相对应的服装优化信息;根据所述服装优化信息对所述参考服装信息进行优化操作。
图13所示装置可以执行上述实施例的数据检索的方法,本实施例未详细描述的部分,可参考上述实施例的相关说明。该技术方案的执行过程和技术效果参见上述实施例中的描述,在此不再赘述。
在一个可能的设计中,图13所示数据的检索装置的结构可实现为一电子设备,该电子设备可以是手机、平板电脑、服务器等各种设备。如图14所示,该电子设备可以包括:第二处理器41和第二存储器42。其中,第二存储器42用于存储支持电子设备执行上述实施例中提供的数据的检索方法的程序,第二处理器41被配置为用于执行第二存储器42中存储的程序。
程序包括一条或多条计算机指令,其中,一条或多条计算机指令被第二处理器41执行时能够实现如下步骤:
获取数据检索请求,数据检索请求中包括参考服装信息;
对参考服装信息进行区域划分处理,获得与参考服装信息相对应的参考区域;
利用服装检索模型对所有的参考区域进行检索处理,获得与参考服装信息相对应的服装检索结果。
进一步的,第二处理器41还用于执行前述实施例中的数据的检索方法的全部或部分步骤。
其中,电子设备的结构中还可以包括第二通信接口43,用于电子设备与其他设备或通信网络通信。
另外,本发明实施例提供了一种计算机存储介质,用于储存电子设备所用的计算机软件指令,其包含用于执行上述实施例中的数据的检索方法所涉及的程序。
以上所描述的装置实施例仅仅是示意性的,其中所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本实施例方案的目的。本领域普通技术人员在不付出创造性的劳动的情况下,即可以理解并实施。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到各实施方式可借助加必需的通用硬件平台的方式来实现,当然也可以通过硬件和软件结合的方式来实现。基于这样的理解,上述技术方案本质上或者说对现有技术做出贡献的部分可以以计算机产品的形式体现出来,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程设备的处理器以产生一个机器,使得通过计算机或其他可编程设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
最后应说明的是:以上实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明各实施例技术方案的精神和范围。

Claims (21)

1.一种数据的处理方法,其特征在于,包括:
获取数据集合,所述数据集合中包括多个服装图像;
确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息;
根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
2.根据权利要求1所述的方法,其特征在于,确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息,包括:
利用高分辨率深度神经网络对所述服装图像进行处理,获得所述服装图像中所包括的服装关键点;
根据所述服装关键点确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息。
3.根据权利要求2所述的方法,其特征在于,对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息,包括:
将所述服装关键点和每个服装区域所对应的位置信息作为注意力参数进行学习训练,获得与所述服装区域相对应的区域注意力信息。
4.根据权利要求2所述的方法,其特征在于,对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息,包括:
获取所述服装图像在所述数据集合中的检索排序信息;
对所述服装关键点、每个服装区域所对应的位置信息以及所述检索排序信息进行学习训练,获得与所述服装区域相对应的区域注意力信息。
5.根据权利要求4所述的方法,其特征在于,获取所述服装图像在所述数据集合中的检索排序信息,包括:
利用高分辨率深度神经网络对所述服装图像进行相似度识别,获得所述服装图像在所述数据集合中的检索排序信息。
6.根据权利要求1-5中任意一项所述的方法,其特征在于,在获得与所述服装区域相对应的区域注意力信息之后,所述方法还包括:
利用损失函数计算所述区域注意力信息的检索准确率;
在所述检索准确率不满足预设要求时,则继续对所述区域注意力信息进行学习训练;或者,
在所述检索准确率满足预设要求时,则允许根据所有服装区域所对应的区域注意力信息确定用于进行服装检索的服装检索模型。
7.根据权利要求6所述的方法,包括:
获取数据检索请求,所述数据检索请求中包括参考服装信息;
对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域;
利用所述服装检索模型对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
8.根据权利要求7所述的方法,其特征在于,在对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域之前,所述方法还包括:
根据所述参考服装信息确定所述参考服装信息所对应的服装分类;
对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域,包括:
基于所述服装分类对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域。
9.根据权利要求8所述的方法,其特征在于,基于所述服装分类对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域,包括:
根据所述服装分类确定与所述参考服装信息相对应的关键点数量和关键点排列信息;
根据所述关键点数量和关键点排列信息对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域。
10.根据权利要求7所述的方法,其特征在于,所述服装检索结果中包括多个检索服装信息;所述方法还包括:
获取所述参考服装信息与所述检索服装信息的相似度;
在所述相似度大于或等于预设阈值时,则以第一标注框标注所述检索服装信息;或者,
在所述相似度小于预设阈值时,则以第二标注框标注所述检索服装信息,所述第二标注框与所述第一标注框不同。
11.一种数据的检索方法,其特征在于,包括:
获取数据检索请求,所述数据检索请求中包括参考服装信息;
对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域;
利用所述服装检索模型对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
12.根据权利要求11所述的方法,其特征在于,在对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域之前,所述方法还包括:
根据所述参考服装信息确定所述参考服装信息所对应的服装分类;
对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域,包括:
基于所述服装分类对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域。
13.根据权利要求12所述的方法,其特征在于,基于所述服装分类对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域,包括:
根据所述服装分类确定与所述参考服装信息相对应的关键点数量和关键点排列信息;
根据所述关键点数量和关键点排列信息对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域。
14.根据权利要求11-13中任意一项所述的方法,其特征在于,所述服装检索结果中包括多个检索服装信息;所述方法还包括:
获取所述参考服装信息与所述检索服装信息的相似度;
在所述相似度大于或等于预设阈值时,则以第一标注框标注所述检索服装信息;或者,
在所述相似度小于预设阈值时,则以第二标注框标注所述检索服装信息,所述第二标注框与所述第一标注框不同。
15.根据权利要求11-13中任意一项所述的方法,其特征在于,在获得与所述参考服装信息相对应的参考区域之后,所述方法还包括:
获取与所述参考区域相对应的视觉关注度;
根据所述服装检索模型和视觉关注度对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
16.根据权利要求15所述的方法,其特征在于,获取与所述参考区域相对应的视觉关注度,包括:
获取用户针对所述参考区域所输入的关注点信息;
根据所述关注点信息确定与所述参考区域相对应的视觉关注度。
17.根据权利要求15所述的方法,其特征在于,在获取与所述参考区域相对应的视觉关注度之后,所述方法还包括:
基于所述视觉关注度确定与所述参考服装信息相对应的服装优化信息;
根据所述服装优化信息对所述参考服装信息进行优化操作。
18.一种数据的处理装置,其特征在于,包括:
第一获取模块,用于获取数据集合,所述数据集合中包括多个服装图像;
第一处理模块,用于确定所述服装图像中包括的多个服装区域以及每个服装区域所对应的位置信息;
学习模块,用于对所述服装区域和每个服装区域所对应的位置信息进行学习训练,获得与所述服装区域相对应的区域注意力信息;
所述第一处理模块,还用于根据与所有服装区域相对应的区域注意力信息确定用于对服装进行检索的服装检索模型。
19.一种电子设备,其特征在于,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现如权利要求1至10中任一项所述的数据的处理方法。
20.一种数据的检索装置,其特征在于,包括:
第二获取模块,用于获取数据检索请求,所述数据检索请求中包括参考服装信息;
第二处理模块,用于对所述参考服装信息进行区域划分处理,获得与所述参考服装信息相对应的参考区域;
检索模块,用于利用所述服装检索模型对所有的参考区域进行检索处理,获得与所述参考服装信息相对应的服装检索结果。
21.一种电子设备,其特征在于,包括:存储器、处理器;其中,所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行时实现如权利要求11-17中任意一项所述的数据的检索方法。
CN201910982971.3A 2019-10-16 2019-10-16 数据的处理方法、检索方法、装置及设备 Active CN112667839B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910982971.3A CN112667839B (zh) 2019-10-16 2019-10-16 数据的处理方法、检索方法、装置及设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910982971.3A CN112667839B (zh) 2019-10-16 2019-10-16 数据的处理方法、检索方法、装置及设备

Publications (2)

Publication Number Publication Date
CN112667839A true CN112667839A (zh) 2021-04-16
CN112667839B CN112667839B (zh) 2024-09-20

Family

ID=75400289

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910982971.3A Active CN112667839B (zh) 2019-10-16 2019-10-16 数据的处理方法、检索方法、装置及设备

Country Status (1)

Country Link
CN (1) CN112667839B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113869352A (zh) * 2021-08-16 2021-12-31 深延科技(北京)有限公司 模型训练方法、服装检索方法及相关装置

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107291945A (zh) * 2017-07-12 2017-10-24 上海交通大学 基于视觉注意力模型的高精度服装图像检索方法及系统
CN107330451A (zh) * 2017-06-16 2017-11-07 西交利物浦大学 基于深度卷积神经网络的服装属性检索方法
CN107870992A (zh) * 2017-10-27 2018-04-03 上海交通大学 基于多通道主题模型的可编辑服装图像搜索方法
US20180150891A1 (en) * 2016-11-28 2018-05-31 International Business Machines Corporation Touch and Pressure-Based Apparel Image Searching
CN108109055A (zh) * 2018-01-08 2018-06-01 中国石油大学(华东) 一种基于图像渲染的跨场景服装检索方法
CN108614884A (zh) * 2018-05-03 2018-10-02 桂林电子科技大学 一种基于卷积神经网络的服装图像检索方法
CN109523593A (zh) * 2018-10-19 2019-03-26 北京陌上花科技有限公司 用于服装图像的数据处理方法及装置
CN109754317A (zh) * 2019-01-10 2019-05-14 山东大学 融合评论的可解释性服装推荐方法、系统、设备及介质
CN116129473A (zh) * 2023-04-17 2023-05-16 山东省人工智能研究院 基于身份引导的联合学习换衣行人重识别方法及系统

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180150891A1 (en) * 2016-11-28 2018-05-31 International Business Machines Corporation Touch and Pressure-Based Apparel Image Searching
CN107330451A (zh) * 2017-06-16 2017-11-07 西交利物浦大学 基于深度卷积神经网络的服装属性检索方法
CN107291945A (zh) * 2017-07-12 2017-10-24 上海交通大学 基于视觉注意力模型的高精度服装图像检索方法及系统
CN107870992A (zh) * 2017-10-27 2018-04-03 上海交通大学 基于多通道主题模型的可编辑服装图像搜索方法
CN108109055A (zh) * 2018-01-08 2018-06-01 中国石油大学(华东) 一种基于图像渲染的跨场景服装检索方法
CN108614884A (zh) * 2018-05-03 2018-10-02 桂林电子科技大学 一种基于卷积神经网络的服装图像检索方法
CN109523593A (zh) * 2018-10-19 2019-03-26 北京陌上花科技有限公司 用于服装图像的数据处理方法及装置
CN109754317A (zh) * 2019-01-10 2019-05-14 山东大学 融合评论的可解释性服装推荐方法、系统、设备及介质
CN116129473A (zh) * 2023-04-17 2023-05-16 山东省人工智能研究院 基于身份引导的联合学习换衣行人重识别方法及系统

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
ZHONGHAO W.等: "Clothing retrieval with visual attention model", 2017 IEEE VISUAL COMMUNICATIONS AND IMAGE PROCESSING (VCIP), 1 March 2018 (2018-03-01) *
孙菲菲;徐平华;丁雪梅;王荣武;吴雄英;: "服饰设计视觉显著性检测", 纺织学报, no. 03, 15 March 2018 (2018-03-15) *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113869352A (zh) * 2021-08-16 2021-12-31 深延科技(北京)有限公司 模型训练方法、服装检索方法及相关装置

Also Published As

Publication number Publication date
CN112667839B (zh) 2024-09-20

Similar Documents

Publication Publication Date Title
JP6022681B2 (ja) オンラインストアにおける対話型衣料品検索
US9460518B2 (en) Visual clothing retrieval
CN111488475A (zh) 图像检索方法、装置、电子设备及计算机可读存储介质
US8898169B2 (en) Automated product attribute selection
TWI623842B (zh) Image search and method and device for acquiring image text information
US11475500B2 (en) Device and method for item recommendation based on visual elements
CN111784845B (zh) 基于人工智能的虚拟试穿方法、装置、服务器及存储介质
CN108229559B (zh) 服饰检测方法、装置、电子设备、程序和介质
Jerripothula et al. Cats: Co-saliency activated tracklet selection for video co-localization
WO2012013711A2 (en) Semantic parsing of objects in video
US10769524B1 (en) Non-binary gender filter
CN114332680A (zh) 图像处理、视频搜索方法、装置、计算机设备和存储介质
Zhao et al. Clothing cosegmentation for shopping images with cluttered background
CN111507285A (zh) 人脸属性识别方法、装置、计算机设备和存储介质
US11972466B2 (en) Computer storage media, method, and system for exploring and recommending matching products across categories
CN111767420B (zh) 一种生成服饰搭配数据的方法和装置
Usmani et al. Enhanced deep learning framework for fine-grained segmentation of fashion and apparel
CN113763440A (zh) 一种图像处理方法、装置、设备及存储介质
CN113869371A (zh) 模型训练方法、服装细粒度分割方法及相关装置
KR20170016578A (ko) 의류 피팅 시스템 및 의류 피팅 시스템의 동작 방법
KR102466978B1 (ko) 딥러닝 기반 가상 이미지 생성방법 및 시스템
CN112667839B (zh) 数据的处理方法、检索方法、装置及设备
CN111695971B (zh) 物品推荐方法、装置和设备及计算机存储介质
CN115861572B (zh) 一种三维建模方法、装置、设备及存储介质
Lei et al. A new clothing image retrieval algorithm based on sketch component segmentation in mobile visual sensors

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant