CN110795589A - 一种图像搜索方法、装置、计算机设备和存储介质 - Google Patents
一种图像搜索方法、装置、计算机设备和存储介质 Download PDFInfo
- Publication number
- CN110795589A CN110795589A CN201910770622.5A CN201910770622A CN110795589A CN 110795589 A CN110795589 A CN 110795589A CN 201910770622 A CN201910770622 A CN 201910770622A CN 110795589 A CN110795589 A CN 110795589A
- Authority
- CN
- China
- Prior art keywords
- image
- similar
- user
- images
- displaying
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/58—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/583—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
- G06F16/538—Presentation of query results
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/44—Arrangements for executing specific programs
- G06F9/451—Execution arrangements for user interfaces
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Library & Information Science (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明实施例公开了一种图像搜索方法、装置、计算机设备和存储介质;本发明实施例可以显示即时通讯客户端的聊天会话页面,聊天会话页面包括聊天会话中用户发送的图像;基于用户针对图像的操作,显示相似图像显示控件,该相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对相似图像显示控件的查看操作时,显示搜索结果列表,搜索结果列表包括基于图像搜索到的与该图像相似的相似图像。该方案可以基于图像搜索其相似图像,如以表情搜索表情,实现了相似图像的搜索。
Description
技术领域
本发明涉及互联网技术领域,具体涉及一种图像搜索方法、装置、计算机设备和存储介质。
背景技术
IM(即时通讯)应用是即时通讯技术实现在线聊天和交流的软件,用户可以通过聊天应用与其他用户进行消息交互,实现聊天。
目前为了提升聊天趣味性,即时通讯应用还可以支持发送图像如表情等与聊天对象进行互动。
发明内容
本发明实施例提供一种图像搜索方法、装置、计算机设备和存储介质,可以实现相似图像的搜索。
本发明实施例提供一种图像搜索方法,包括:
显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;
基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;
当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
相应的,本发明实施例还提供另一种图像搜索方法,包括:
基于终端发送的图像搜索请求确定待搜索图像;
提取所述待搜索图像在多个图像相似维度上的特征信息;
基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
提取相似图像集合中相似图像的特征信息;
根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;
向所述终端发送所述排序后相似图像集合。
相应的,本发明实施例还提供一种图像搜索装置,包括:
聊天显示单元,用于显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;
控件显示单元,用于基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;
结果显示单元,用于当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
在一实施例中,所述控件显示单元,用于当检测到用户针对所述图像的操作时,显示所述图像的详情页面,所述详情页面包括所述图像和相似图像显示控件。
在一实施例中,所述控件显示单元,用于当检测到用户针对所述图像的操作,在所述聊天会话页面上显示功能控件列表,所述功能控件列表包括相似图像显示控件。
在一实施例中,图像搜索装置还包括:
切换单元,用于基于用户针对所述详情页面的图像切换操作,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件;
第一列表显示单元,用于当检测到用户针对所述目标相似图像显示控件的查看操作时,显示目标搜索结果列表,所述搜索结果列表包括搜索到的与所述目标图像相似的相似图像。
在一实施例中,所述图像的详情页面包括图像切换控件;
所述切换单元,包括:
选择页面显示子单元,用于当检测到用户针对所述图像切换控件的切换操作时,显示图像选择页面;
切换显示子单元,用于基于用户针对所述图像页面的切换图像选择操作时,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件。
在一实施例中,所述详情页面包括编辑触发控件;所述图像搜索装置还包括:
编辑触发单元,用于当检测到用户针对所述编辑触发控件的触发操作时,显示所述图像的编辑页面,所述编辑页面包括编辑区域和编辑完成控件,所述编辑区域包括所述图像;
编辑操作单元,用于基于用户针对编辑区域的图像编辑操作,对所述图像进行编辑;
第二列表显示单元,用于基于用户针对所述编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表,所述搜索结果列表包括搜索到的与编辑后图像相似的相似图像。
在一实施例中,所述第二列表显示单元,包括:
详情页面显示子单元,用于当检测到用户针对所述编辑完成控件的完成操作时,显示编辑后图像的详情页面,所述编辑后图像的详情页面包括所述编辑后图像、以及编码后图像对应的目标相似图像显示控件;
结果列表显示子单元,用于当检测到用户针对所述目标相似图像显示控件的触发操作时,显示编辑后图像对应的搜索结果列表。
在一实施例中,所述结果显示单元,包括:
搜索子单元,用于当检测到用户针对所述相似图像显示控件的查看操作时,触发在多个图像相似维度上搜索与所述图像相似的相似图像;
结果显示子单元,用于显示搜索结果列表,所述搜索结果列表包括在至少一个图像相似维度上与所述图像相似的相似图像。
在一实施例中,所述控件显示单元,用于:
当检测到用户针对所述图像的操作时,显示所述图像的详情页面,并触发在多个图像相似维度上搜索与所述图像相似的相似图像,所述详情页面包括所述图像;
当搜索成功时,在所述详情页面显示所述相似图像显示控件。
在一实施例中,所述搜索子单元,用于:
向服务器发送图像搜索请求,所述图像搜索请求指示所述服务器在多个图像相似维度上搜索与所述图像相似的相似图像,并向终端返回搜索到的相似图像;
显示搜索结果列表,包括:当接收到服务器返回的相似图像时,显示搜索结果列表。
在一实施例中,所述搜索子单元,用于:
提取所述图像在多个图像相似维度上的特征信息;
基于每个图像相似维度上的特征信息搜索与所述图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
基于相似图像集合中相似图像的特征信息,对相似图像集合中相似图像进行排序,得到排序后相似图像集合。
在一实施例中,图像搜索装置还包括:发送单元;
所述发送单元,用于:当检测到用户针对搜索结果列表中目标相似图像的确定操作时,显示目标相似图像的图像操作页面,所述图像操作页面包括图像发送控件;当检测到用户针对图像发送控件的图像发送操作时,向所述聊天会话中成员发送所述目标相似图像。
相应的,本发明实施例还提供另一种图像搜索装置,包括:
确定单元,用于基于终端发送的图像搜索请求确定待搜索图像;
第一特征提取单元,用于提取所述待搜索图像在多个图像相似维度上的特征信息;
搜索单元,用于基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
第二特征提取单元,用于提取相似图像集合中相似图像的特征信息;
排序单元,用于根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;
发送单元,用于向所述终端发送所述排序后相似图像集合。
在一实施例中,所述搜索单元,包括:
第一搜索子单元,用于基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到第一子相似图像集合,所述第一子相似图像集合包括在至少一个图像相似维度上的相似图像;
第二搜索子单元,用于基于相似图像映射关系集合获取与所述待搜索图像对应的相似图像,得到第二子相似图像集合,其中,相似图像映射关系集合包括图像与预设相似图像之间的映射关系;
汇总子单元,用于对所述第一子相似图像集合和所述第二子相似图像集合进行汇总,得到相似图像集合。
在一实施例中,所述第一特征提取单元,包括:
第一特征提取子单元,用于当预设特征集合存在所述待搜索图像时,从所述预设特征集合中提取所述待搜索图像对应的多个图像相似维度上的特征信息,其中,预设特征集合包括:预设图像、以及预设图像对应的多个图像相似维度的特征信息;
第二特征提取子单元,用于当预设特征集合不存在所述待搜索图像时,对所述待搜索图像进行多维特征提取,得到所述待搜索图像在多个图像相似维度上的特征信息。
在一实施例中,所述多个图像相似维度上的特征信息包括:文本类特征信息、向量类特征信息;所述第二特征提取子单元,用于:
对所述待搜索图像进行文字识别,得到文字识别结果,并根据所述文字识别结果构建所述待搜索图像的第一文本类特征信息;
对所述待搜索图像进行图像分类,得到图像分类结果,并根据所述图像分类结果构建所述待搜索图像的第二文本类特征信息;
基于特征提取模型提取所述待搜索所述待搜索图像的特征向量,得到所述待搜索图像的向量类特征。
本发明实施例还提供了一种计算机设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述程序时实现本发明实施例提供的任一种图像搜索方法中的步骤。
此外,本发明实施例还提供一种存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现本发明实施例提供的任一种图像搜索方法中的步骤。
本发明实施例可以显示即时通讯客户端的聊天会话页面,聊天会话页面包括聊天会话中用户发送的图像;基于用户针对图像的操作,显示相似图像显示控件,该相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对相似图像显示控件的查看操作时,显示搜索结果列表,搜索结果列表包括基于图像搜索到的与该图像相似的相似图像。该方案可以基于图像搜索其相似图像,如以表情搜索表情,实现了相似图像的搜索。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1a是本发明实施例提供的图像搜索方法的场景示意图;
图1b是本发明实施例提供的图像搜索方法的流程图;
图1c是本发明实施例提供的表情搜索的页面操作示意图;
图1d是本发明实施例提供的表情搜索的另一页面操作示意图;
图2a是本发明实施例提供的相似表情搜索的另一页面操作示意图;
图2b是本发明实施例提供的相似表情搜索的另一页面操作示意图;
图2c是本发明实施例提供的相似表情搜索的另一页面操作示意图;
图3是本发明实施例提供的相似表情搜索的另一页面操作示意图;
图4a是本发明实施例提供的图像搜索方法的另一流程示意图;
图4b是本发明实施例提供的相似表情搜索的架构示意图;
图4c是本发明实施例提供的特征提取的流程示意图;
图4d是本发明实施例提供的相似表情召回示意图;
图4e是本发明实施例提供的相似表情排序示意图;
图5a是本发明实施例提供的相似表情列表示意图;
图5b是本发明实施例提供的另一相似表情列表示意图;
图5c是本发明实施例提供的另一相似表情列表示意图;
图6a是本发明实施例提供的图像搜索装置的结构示意图;
图6b是本发明实施例提供的图像搜索装置的另一结构示意图;
图6c是本发明实施例提供的图像搜索装置的另一结构示意图;
图6d是本发明实施例提供的图像搜索装置的另一结构示意图;
图6e是本发明实施例提供的图像搜索装置的另一结构示意图;
图6f是本发明实施例提供的图像搜索装置的另一结构示意图;
图6g是本发明实施例提供的图像搜索装置的另一结构示意图;
图7a是本发明实施例提供的图像搜索装置的另一结构示意图;
图7b是本发明实施例提供的图像搜索装置的另一结构示意图;
图7c是本发明实施例提供的图像搜索装置的另一结构示意图;
图8是本发明实施例提供的计算机设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例提供一种图像搜索方法、装置、计算机设备和存储介质。具体地,本发明实施例提供适用于第一计算机设备的图像搜索装置(为了区分可以称为第一图像搜索装置)中,以及适用于第二计算机设备的图像搜索装置(为了区分可以称为第二图像搜索装置)。其中,第一计算机设备可以为终端等设备,该终端可以为手机、平板电脑、笔记本电脑等设备。其中,第二计算机设备可以为服务器等网络侧设备。
比如,第一图像搜索装置可以集成在终端中,第二图像搜索装置可以集成在服务器,该服务器可以是单台服务器,也可以是由多个服务器组成的服务器集群。
本发明实施例将以第一计算机设备为终端,第二计算机设备为服务器为例,来介绍图像搜索方法。
参考图1a,本发明实施例提供了图像搜索系统包括终端10和服务器20等;终端10与服务器20之间通过网络连接,比如,通过有线或无线网络连接等,其中,图像搜索装置集成在终端中,比如,以客户端的形式集成在终端中。
其中,终端10,可以用于显示即时通讯客户端的聊天会话页面,聊天会话页面包括聊天会话中用户发送的图像;基于用户针对图像的操作,显示相似图像显示控件,该相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对相似图像显示控件的查看操作时,显示搜索结果列表,搜索结果列表包括基于图像搜索到的与该图像相似的相似图像。
其中,终端触发搜索相似图像的方式有多种,比如,终端10可以触发服务器20在多个图像相似维度上搜索与待搜索图像相似的相似图像。具体地,终端10可以向服务器20发送图像搜索请求;服务器20可以具体用于:
基于终端发送的图像搜索请求确定待搜索图像;提取待搜索图像在多个图像相似维度上的特征信息;基于每个图像相似维度上的特征信息搜索与待搜索图像相似的图像,得到相似图像集合,相似图像集合包括每个图像相似维度上的相似图像;提取相似图像集合中相似图像的特征信息;根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;向终端10发送排序后相似图像集合.
终端10在接收到排序后相似图像集合之后,可以显示排序后相似图像集合,例如,显示包含排序后相似图像集合的搜索结果列表。
以下分别进行详细说明。需说明的是,以下实施例的描述顺序不作为对实施例优选顺序的限定。
本发明实施例将从第一图像搜索装置的角度进行描述,该第一图像搜索装置具体可以集成在终端中。
本发明实施例提供的一种图像搜索方法,该方法可以由终端的处理器执行,如图1b所示,该图像搜索方法的具体流程可以如下:
101、显示即时通讯客户端的聊天会话页面,该聊天会话页面包括聊天会话中用户发送的图像。
本发明实施例中的图像可以包括应用在即时通讯客户端中的互动图像,或者用户在即时通讯客户端中使用的互动图像等,例如,可以为聊天互动图像。其中,聊天互动图像为在聊天场景与聊天对象互动的图像,比如,可以包括在聊天会话中向聊天对象表达信息的图像如表达情绪、语言的图像。例如,聊天互动图像可以包括表情等。
其中,聊天互动图像的图像类型可以有多种,比如可以包括静态图像、或者动态图像。譬如,聊天互动图像可以包括静态表情、动态表情等。
本发明实施例中,聊天会话可以为单聊、群聊等聊天会话;其中,聊天会话中用户发送的图像可以为聊天会话中任一成员发送的图像;比如,可以包括聊天会话中本端聊天用户发送的图像,也可以包括聊天会话中对端聊天用户发送的图像。本端聊天用户为即时通讯客户端当登录的用户账号所对应的用户,对端聊天用户可以为聊会会话中除本端聊天用户以外的其他聊天用户。
例如,在即时通讯客户端显示用户A的聊天会话,该聊天会话中用户发送的图像可以为用户A发送的图像,也可以为聊天会话中其他用户或成员如用户B发送的图像。
本发明实施例中,从时间角度来看,用户发送的图像,可以包括聊天会话中用户当前发送的图像,用户历史发送的图像等。
例如,参考图1c,以图像为表情、聊天会话为群聊为例,终端可以显示即时通讯客户端中用户A的群聊页面,其中,群聊为由12个用户组成的群聊“XX兴趣”,该群聊页面包括群聊中成员发送的表情,比如,成员B发送的“表情b”、用户A发送的“表情a”。
102、基于用户针对图像的操作,显示相似图像显示控件。
其中,相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果的控件,也即,相似图像显示控件可以为被用户操作从而触发显示以图搜图的搜索结果的控件,用户可以对相似图像显示控件进行操作,从而显示以图像(聊天会话中的图像)搜索相似图像(即以图搜图)的搜索结果。比如,相似图像显示控件可以为在被用户操作时触发显示以聊天互动图像搜索聊天互动图像的控件,用户可以对该控件进行操作,从而显示以图搜图的方式搜索到的相似图像。
譬如,相似图像显示控件可以包括相似表情显示控件,如相似表情入口控件,用户可以为对相似表情显示控件进行操作如点击操作等,从而触发显示以表情搜索表情的搜索到的相似表情。
其中,显示相似图像显示控件的方式有多种,比如,在一实施例中,可以通过图像的详情页面显示相似图像显示控件。比如,步骤“基于用户针对图像的操作,显示相似图像显示控件”,可以包括:
当检测到用户针对图像的操作时,显示图像的详情页面,详情页面包括图像和相似图像显示控件。
其中,详情页面可以为用于显示图像详情信息的页面,比如,可以显示图像的来源信息、名称等信息。例如,表情的详情页面可以为用于显示表情详情信息的页面,如可以显示原始尺寸的表情、表情的来源信息等。
在一实施例中,为了提升用户体验,便于用户查看相似图像,还可以在相似图像显示控件上显示搜索结果信息,包括通过以图搜图方式搜索到的相似图像数量、相似图像(或者相似图像的缩略图)等。其中,相似图像显示控件上显示的相似图像(或者相似图像的缩略图)的数量可以根据实际需求设定,比如,可以为搜到的相似图像列表中排名靠前的几个相似图像的缩略图。
例如,参考图1c,当用户A对用户B发送的表情b进行点击等操作时,终端可以显示表情b的详情页面,该详情页面包括表情b、以及位于底部的相似表情显示控件。其中,相似表情显示控件上显示有搜索到的相似表情数量、相似表情的缩略图等。
在一实施例中,还可以直接在聊天会话页面显示相似图像显示控件;比如,步骤“基于用户针对图像的操作,显示相似图像显示控件”,可以包括:
当检测到用户针对图像的操作,在聊天会话页面上显示功能控件列表,功能控件列表包括相似图像显示控件。
其中,功能控件列表可以包括一个或者多个针对图像的功能控件,比如,删除功能控件、转发功能控件等等。
例如,参考图1d,当用户A对用户B发送的表情b进行长按等操作时,终端可以在群聊页面中显示功能控件列表,功能控件列表包括删除功能控件、转发功能控件、相似表情显示控件“相似表情搜索”等。
103、当检测到用户针对相似图像显示控件的查看操作时,显示搜索结果列表,该搜索结果列表包括基于图像搜索到的与该图像相似的相似图像。
其中,查看操作可以包括点击、滑动、按压等操作,具体可以根据实际设定。
例如,参考图1c,当用户A点击详情页面底部的相似表情显示控件时,终端会显示图像搜索结果页面,该图像搜索结果页面包括搜索到的与“表情b”相似的相似表情,如“表情b1”、“表情b2”等等。
又例如,参考图1d,当用户A点击群聊页面的功能控件列表中的相似表情显示控件“相似表情搜索”时,终端会直接显示图像搜索结果页面,该图像搜索结果页面包括搜索到的与“表情b”相似的相似表情,如“表情b1”、“表情b2”等等。
其中,本发明实施例中的搜索结果列表可以包括在至少一个(如一个或者多个)图像相似维度上与图像相似的相似图像。例如,搜索结果列表可以包括在至少一个表情相似维度上与表情相似的相似表情等。为方便描述下面将用户在聊会会话中操作的图像称为待搜索图像。
其中,图像相似维度为两个聊天互动图像之间相似的相似类型、或者相似方面或相似层面等;本发明实施例中图像之间相似包括图像相同、和/或类似,具体可以根据实际需求选择。
其中,图像相似维度可以根据实际需求划分为多种,也即两个聊天互动图像之间相似的层面可以有多种,比如,可以包括图像相似、含义相似、会话关系相似等等相似类型。例如,两个聊天互动图像之间的相似可以为图像相似、含义相似、或者会话关系相似等。
例如图像相似维度可以包括但不限于以下维度:
图像的文字内容相似,比如,两个聊天互动图像的文字相同,或者类似;
图像的含义相似,比如,两个聊天互动图像所表达的含义是相同,或者类似,;
图像的角色相似,比如,两个聊天互动图像中的角色相同,或者类似;
图像中角色的动作相似、比如,两个聊天互动图像中角色所作的动作相同,或者类似;
图像中文字内容的会话关系相似、或者图像表达的含义呈会话关系相似,比如,两个聊天中文字内容形成会话关系。
譬如,以表情为例,表情相似维度可以包括但不限于以下维度:
表情文字内容相似,比如,两个表情的文字相同,或者类似;
表情含义相似,比如,两个表情所表达的含义是相同,或者类似,比如两个表情都是表达“您好”的表情;或者一个表达“您好”,另一个表达“hello”;
表情角色相似,比如,两个表情中的角色相同,或者类似;例如,两个表情中的虚拟人物都是“XX宝贝”的卡通形象;
表情角色的动作相似、比如,两个表情中角色所作的动作相同,或者类似;例如,两个表情中角色手部都作出“胜利”的手势,或者,一个表情中角色作出“捂脸”的动作,另一个表情作出“捂嘴”的动作;
表情文字内容的会话关系相似,比如,两个表情中文字内容形成会话关系,譬如,一个表情的文字内容为“你有病啊”,另一个表情的文字内容为“你有药啊”,这两个表情即会话关系相似。
在一实施例中,步骤“基于用户针对选择页面的待搜索图像确定操作,显示搜索结果列表”,可以包括:
S1、触发在多个图像相似维度上搜索与待搜索图像相似的相似图像。
比如,可以触发在多个图像相似维度上搜索与待搜索图像相似的相似图像,得到相似图像集合,该相似图像集合可以包括在每个或每种图像相似维度上与待搜索图像相似的相似图像。在一实施例中,触发搜索相似图像的时机可以有多种,比如,可以在在用户对相似图像显示控件执行查看操作时,触发搜索与待搜索图像相似的相似图像;具体地,当检测到用户针对相似图像显示控件的查看操作时,触发在多个图像相似维度上搜索与图像相似的相似图像。
例如,参考图1c,当用户A点击详情页面底部的相似表情显示控件时,触发在多个表情相似维度上搜索与表情相似的相似表情。又例如,参考图1d,当用户A点击功能控件列表中的相似表情显示控件时,触发在多个表情相似维度上搜索与表情相似的相似表情。
又比如,在一实施例中,还可以在在触发显示图像的详情页面的同时,触发搜索与待搜索图像相似的相似图像。具体地,步骤“当检测到用户针对图像的操作时,显示图像的详情页面”,可以包括:
当检测到用户针对图像的操作时,显示图像的详情页面,并触发在多个图像相似维度上搜索与图像相似的相似图像,详情页面包括图像;
当搜索成功时,在详情页面显示相似图像显示控件。
例如,参考图1c,当用户A对点击群聊中用户B发送的“表情b”时,触发在多个表情相似维度上搜索与表情相似的相似表情,并显示“表情b”的详情页面,当表情搜索成功时,在详情页面的底部显示相似表情显示控件。
本发明实施例中,触发搜索相似图像的方式有多种,比如,在一实施例中,可以触发终端自己在多个图像相似维度上搜索与待搜索图像相似的相似图像。
具体地,步骤“触发在多个图像相似维度上搜索与待搜索图像相似的相似图像”,可以包括:
提取图像在多个图像相似维度上的特征信息,该步骤可以由终端执行;
基于每个图像相似维度上的特征信息搜索与图像相似的图像,得到相似图像集合,相似图像集合包括在至少一个图像相似维度上的相似图像,该步骤可以由终端执行,也可也由其他设备如服务器执行;
基于相似图像集合中相似图像的特征信息,对相似图像集合中相似图像进行排序,得到排序后相似图像集合;该步骤可以由终端执行,也可也由其他设备如服务器执行。
其中,为了获取在多种图像相似维度上与待搜索图像相似的相似图像,可以提取待搜索图像在多个图像相似维度上的特征信息。其中,每个或每种图像相似维度上的特征信息表征待搜索图像在该图像相似维度上的属性等信息,用于计算在该图像相似维度两张图像之间的相似度信息。
例如,图像相似维度上的特征信息可以包括图像内容或含义相似对应的文本类特征信息、向量类特征信息等特征信息。其中,文本类型特征信息可以包括文字特征信息、图像的类型信息(如分类标签tag信息)等。其中,文字特征信息可以采用文字识别获取,图像的类型信息可以对图像分类获取。其中,向量类特征信息可以为采用特征提取模型提取待搜索图像时模型输出的特征向量(如多维特征向量)。
比如,终端可以提取待搜索图像在多个维度上的特征信息,然后,基于每个维度上的特征信息从图像数据库中搜索与待搜索图像相似的相似图像,得到相似图像集合;终端可以基于相似图像集合中相似图像的特征信息,对相似图像集合中相似图像进行排序,得到排序后相似图像集合。
具体地,终端搜索相似图像的步骤,可以参考下面服务器搜索相似图像的步骤介绍。
在一实施例中,还可以触发其他设备如服务器在多个图像相似维度上搜索与待搜索图像相似的相似图像,然后,从其他设备如服务器获取搜索到的相似图像。
比如,步骤“触发在多个图像相似维度上搜索与待搜索图像相似的目标图像”,可以包括:
向服务器发送图像搜索请求,图像搜索请求指示服务器在多个图像相似维度上搜索与图像(即待搜索图像)相似的相似图像,并向终端返回搜索到的相似图像。
服务器可以基于终端发送的图像搜索请求确定待搜索图像;提取待搜索图像在多个图像相似维度上的特征信息;基于每个图像相似维度上的特征信息搜索与待搜索图像相似的图像,得到相似图像集合,相似图像集合包括每个图像相似维度上的相似图像;提取相似图像集合中相似图像的特征信息;根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;向终端发送排序后相似图像集合。
具体地,服务器搜索相似图像的过程可以参考下面实施例的介绍。
S2、显示搜索结果列表,该搜索结果列表包括在至少一个图像相似维度上与待搜索图像相似的相似图像。
本发明实施例中,在至少一个图像相似维度上与待搜索聊天图像相似的相似图像,可以包括:同时在多个图像相似维度上与待搜索聊天图像相似的相似图像;比如,同时在图像相似维度1、图像相似维度2、图像相似维度3与待搜索聊天图像相似的相似图像。也可以包括:各个图像相似维度上与待搜索聊天图像相似的相似图像,比如,在图像相似维度1上的与待搜索图像相似的相似图像、在图像相似维度2上的与待搜索图像相似的相似图像、……在图像相似维度n上的与待搜索图像相似的相似图像,其中n为大于2的正整数。
以表情为例,在至少一个表情相似维度上与待搜索表情相似的相似表情可以包括:同时在多个表情相似维度上与待搜索表情相似的相似表情,如表情11与表情1图像相似、含义相似、会话关系相似,此时表情11同时在三个维度与待搜索表情1相似。也可以包括在各个表情相似维度上与待搜索表情相似的相似表情,如表情11与表情1含义相似、表情12与表情1角色相似、表情13与表情1会话关系相似等等。
在一实施例中,搜索结果列表可以包括在每个或每种图像相似维度上与待搜索图像相似的相似图像。例如,在图像相似、含义相似、会话关系相似等各个维度上与待搜索表情相似的相似表情。
在一实施例中,可以当成功获取到搜索结果时,显示搜索结果列表;比如,在服务器执行搜索的情况下,可以当终端成功从服务器获取到搜索结果时,显示搜索结果列表;譬如,在一实施例中当接收到服务器返回的相似图像时,显示搜索结果列表。
在实际应用中,可以通过页面来显示搜索结果,具体地,当成功获取到搜索结果时,显示搜索结果页面,搜索结果页面包括待搜索图像、以及搜索结果列表。例如,参考图1c,当终端成功获取到搜索结果时,显示表情搜索结果页面,该页面包括待搜索表情b,以及在每种表情相似维度上与待搜索表情b相似的相似表情如表情b1、表情b2……等。在一实施例中,为了便于用户使用搜索到的相似图像,可以允许用户在搜索结果列表操作以收藏选择的相似图像。具体地,图像搜索方法还包括:
当检测到用户针对搜索结果列表中目标相似图像的确定操作时,显示目标相似图像的图像操作页面,图像操作页面包括图像添加控件;
当检测到用户针对图像添加控件的添加操作时,将目标相似图像添加到即时通讯客户端的图像库中。
在一实施例中,为了便于用户使用搜索到的相似图像,可以允许用户在搜索结果列表操作以直接使用选择的相似图像发送到聊天会话。具体地,图像搜索方法还包括:
当检测到用户针对搜索结果列表中目标相似图像的确定操作时,显示目标相似图像的图像操作页面,图像操作页面包括图像发送控件;
当检测到用户针对图像发送控件的图像发送操作时,向聊天会话中成员发送目标相似图像。
其中,图像操作页面还可以包括聊会会话信息,比如群聊名称、群聊人数、群聊头像等。
例如,参考图1c,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括相似表情显示控件;当用户A对相似表情显示控件进行点击等操作时,终端会显示表情搜索结果页面,包括搜索到的与表情b相似的相似表情b1、b2等等。之后用户A可以通过对列表中相似表情进行操作以选择目标相似表情,当用户对列表中某个相似表情如相似表情b1进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情b1的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图1c,当用户A想要发送表情b1至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情b1,显示群聊页面,该群聊页面显示有用户A发送的表情b1。在一实施例中,当用户A想要重新选择相似表情时,可以通过对表情取消控件如“取消”按钮进行操作,触发终端返回显示搜索结果页面。
又比如,参考图1d,用户A对群聊中用户B发送的表情b进行长按操作时,终端会在群聊页面显示表情b的功能控件列表,该功能控件列表包括相似表情显示控件;当用户A对相似表情显示控件进行点击等操作时,终端会显示表情搜索结果页面,包括搜索到的与表情b相似的相似表情b1、b2等等。之后用户A可以通过对列表中相似表情进行操作以选择目标相似表情,当用户对列表中某个相似表情如相似表情b2进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情b2的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图1d,当用户A想要发送表情b2至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情b2,显示群聊页面,该群聊页面显示有用户A发送的表情b2。
当用户A想要重新选择相似表情时,可以通过对表情取消控件如“取消”按钮进行操作,触发终端返回显示搜索结果页面。在一实施例中,为了能够提升图像搜索的灵活性,还可以在详情页面切换待搜索图像,比如,本发明实施例方法还包括:
基于用户针对详情页面的图像切换操作,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件;
当检测到用户针对目标相似图像显示控件的查看操作时,显示目标搜索结果列表,搜索结果列表包括搜索到的与目标图像相似的相似图像。
其中,目标图像为需要切换到的图像,该目标图像可以为聊天会话中用户发送的历史图像等,例如,可以为聊会会话中用户历史时间发送的历史表情,具体地,可以从聊天会话对应的数据库中提取。
其中,目标搜索结果列表的获取方式可以采用上述介绍的图像搜索方式来搜索得到,比如,在多个图像相似维度搜索等,具体可以参考上述介绍。
本发明实施例中,基于图像切换操作,触发切换显示目标图像以及目标相似图像显示控件的方式有多种,比如,为了提升切换效率,用户可以直接对详情页面中当前显示的图像进行操作如滑动操作触发切换显示图像。具体地,“基于用户针对详情页面的图像切换操作,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件”,可以包括:当检测到用户针对详情页面中图像的图像切换操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件。
例如,详情页面可以设置图像显示区域和控件显示区域;图像显示区域显示有图像,控件显示区域显示有图像对应的相似图像显示控件;用户可以对图像显示区域中图像进行切换操作如滑动操作时,可以触发终端在图像显示区域切换显示目标图像,以及在控件显示区域切换显示目标图像对应的目标相似图像显示控件。
又比如,在一实施例中,可以在详情页面设置图像切换控件;用户可以通过图像切换控件进行图像切换和控件切换。具体地,图像的详情页面包括:图像切换控件;
步骤“基于用户针对详情页面的图像切换操作,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件”,可以包括:
当检测到用户针对图像切换控件的切换操作时,显示图像选择页面,;
基于用户针对图像页面的切换图像选择操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件。
其中,切换图像选择操作可以为单个操作,比如,用户针对选择页面执行一次点击操作;也可以为由多个如一系列操作组成的操作;比如,用户通过对选择页面执行多次不同的操作等。
其中,基于切换图像选择操作切换显示目标图像和控件的方式有多种,如下:
(1)、用户从选择页面的图像列表中选择切换到的图像;
其中,图像选择页面可以包括待选图像列表;待选图像列表可以包括至少一个待选图像,比如,以图像为表情为例,待选图像列表可以为待选表情列表,该待选表情列表可以包括至少一个待选表情。
譬如,待选图像列表可以包括用户在客户端收藏的表情、客户端自带的表情、用户从表情商店添加的表情等等表情中的至少一种。
譬如,待选图像列表可以包括至少一个用户收藏的表情。
在一实施例中,待选图像列表可以包括聊天会话中用户发送的历史图像,比如,群聊中成员发送的历史表情等。
此时,步骤“基于用户针对图像页面的切换图像选择操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件”,可以包括:
当检测到用户针对待选图像列表中待选图像的图像选择操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件。其中,目标图像为用户选择的待选图像。
比如,当检测到用户针对待选图像列表中待选图像的切换图像选择操作时,将用户选择的待选图像作为切换到的目标图像,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件。
例如,参考图2a,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括表情b的相似表情显示控件、搜索表情切换控件“切换搜索表情”;当用户A对搜索表情切换控件“切换搜索表情”进行点击等操作时,终端会显示表情选择页面(可以称为表情选择面板),该表情选择页面可以包括群聊中各成员发送的历史表情,如表情p、表情q、表情r、表情t……等。用户A可以通过点击操作从表情选择面板中选择“表情p”作为切换显示的目标表情。在用户点击选择“表情p”时,终端会将详情页面中显示的“表情b”切换为“表情p”,以及表情b的相似表情显示控件切换为“表情p”的相似表情显示控件。
当用户点击“表情p”的相似表情显示控件时,终端会显示表情搜索结果页面,包括搜索到的与表情p相似的相似表情p1、p2等等。之后用户A可以通过对列表中相似表情进行操作以选择需要使用的相似表情,当用户对列表中某个相似表情如相似表情p1进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情p1的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图2a,当用户A想要发送表情p2至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情p2,显示群聊页面,该群聊页面显示有用户A发送的表情p2。
(2)、用户通过拍摄获取切换到的图像。
其中,选择页面可以包括图像拍摄控件,步骤“基于用户针对图像页面的切换图像选择操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件”,可以包括:
当检测到用户针对图像拍摄控件的触发操作时,显示图像拍摄页面;
基于用户针对图像拍摄页面的拍摄操作,显示拍摄结果页面,拍摄结果页面包括拍摄结果图像、以及图像确认控件;
当检测到用户针对图像确认控件的确认操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件,其中,目标图像为拍摄结果图像。
其中,图像拍摄可以为照片拍摄、或者视频拍摄等。
例如,参考图2b,以图像为表情为例,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括表情b的相似表情显示控件、搜索表情切换控件“切换搜索表情”;当用户A对搜索表情切换控件“切换搜索表情”进行点击等操作时,终端可以显示包含待选表情列表的表情选择面板。此外,该表情选择面板还可以包括图像拍摄控件如“相机”按钮。
当用户想要通过拍摄选择切换到的目标表情(即将拍摄图像作为待搜索表情)时,用户可以对该“相机”按钮进行操作如点击、滑动等操作,此时,终端将会调用相机,显示图像拍摄页面,之后用户可以在图像拍摄页面中操作拍摄所需的图像,例如,用户可以点击图像拍摄页面的拍摄按钮,终端将会显示拍摄结果页面,该页面包括拍摄得到的图像如图像x、以及图像确认控件“添加”按钮;当用户想要将拍摄得到的图像x作为需要切换显示的目标表情时,可以对“添加”按钮进行操作,此时,终端会将详情页面中显示的“表情b”切换为“表情x”,以及将表情b的相似表情显示控件切换为表情x的相似表情显示控件。
当用户点击“表情x”的相似表情显示控件时,终端会显示表情搜索结果页面,包括搜索到的与表情x相似的相似表情x1、x2等等。之后用户A可以通过对列表中相似表情进行操作以选择需要使用的相似表情,当用户对列表中某个相似表情如相似表情x1进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情x1的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图2b,当用户A想要发送表情x2至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情x2,显示群聊页面,该群聊页面显示有用户A发送的表情x2。
(3)、用户从本地相册中选择照片作为切换显示的图像。
其中,选择页面可以包括照片选择控件,比如,步骤“基于用户针对图像页面的切换图像选择操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件”,可以包括:
当检测到用户针对照片选择控件的触发操作时,显示照片选择页面,照片选择页面包括本地相册中的至少一张照片、以及照片确认控件;
基于用户针对照片选择页面的照片选择操作,在照片选择页面中标记用户选择的照片;
当检测到用户针对照片确认控件的确认操作时,在详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件,其中,目标图像为用户选择的照片。
例如,参考图2c,以图像为表情为例,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括表情b的相似表情显示控件、搜索表情切换控件“切换搜索表情”;当用户A对搜索表情切换控件“切换搜索表情”进行点击等操作时,终端可以显示包含待选表情列表的表情选择面板。此外,该表情选择面板还可以包括照片选择控件如“照片”按钮。
当用户想要从本地相册中选择照片作为切换到显示的目标表情时,用户可以对该“照片”按钮进行操作如点击、滑动等操作,此时,终端将会显示照片选择页面,该照片选择页面包括本地相册中的至少一张照片,以及照片确认控件如“确定”按钮。用户可以在照片选择页面通过操作选择照片,终端可以将标记用户选择的照片,比如,用户通过点击操作选择照片y时,可以在照片y上打钩;当用户想要将选择的照片y作为需要切换到显示的目标表情时,可以点击照片确认控件如“确定”按钮,此时,终端将会将用户选择的照片作为需要切换到的目标表情,并将详情页面中显示的“表情b”切换为“表情x”,以及将表情b的相似表情显示控件切换为表情y1的相似表情显示控件。
当用户点击“表情y”的相似表情显示控件时,终端会显示表情搜索结果页面,包括搜索到的与表情y相似的相似表情y1、y2等等。之后用户A可以通过对列表中相似表情进行操作以选择需要使用的相似表情,当用户对列表中某个相似表情如相似表情y1进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情y2的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图2c,当用户A想要发送表情y2至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情y2,显示群聊页面,该群聊页面显示有用户A发送的表情y2。
以切换图像选择方式可以进行任意组合,以便用户可以采用多种途径选择切换的图像。例如,表情选择面板可以包括待选表情、图像拍摄控件、照片选择控件、语音选择控件、图像绘制控件中至少一种。
在一实施例中,为了提升图像搜索的灵活性和效率,还可以对待搜索图像进行编辑,然后,搜索编辑后图像的相似图像。比如,图像的详情页面可以包括编辑触发控件;本发明实施例方法还可以包括:
当检测到用户针对编辑触发控件的触发操作时,显示图像的编辑页面,编辑页面包括编辑区域和编辑完成控件,编辑区域包括图像;
基于用户针对编辑区域的图像编辑操作,对图像进行编辑;
基于用户针对编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表,搜索结果列表包括搜索到的与编辑后图像相似的相似图像。
其中,编辑后图像的相似图像的搜索方式可以参考上述实施例的介绍的方式,比如,可以通过终端自身或服务器从多个图像相似维度搜索相似图像等。
其中,基于编辑完成操作显示编辑后图像对应的搜索结果列表的方式有多种,比如,可以当检测到针对编辑完成控件的完成操作时,直接显示编辑后图像对应的搜索结果列表。
例如,参考图3,以图像为表情为例,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括表情b的相似表情显示控件、编辑触发控件如“表情编辑”按钮;当用户A对编辑触发控件如“表情编辑”按钮进行点击等操作时,终端可以显示表情b的编辑页面,该编辑页面包括图像编辑区域30、编辑完成控件如“完成”,其中,图像编辑区域显示有表情b。
用户A可以在图像编辑区域30对表情b进行编辑,比如,增加文字、改变图案等等。在用户编辑完之后,可以点击编辑完成控件如“完成”,此时,终端可以显示编辑后表情b’的详情页面,该页面包括编辑后表情b’,以及搜索结果页面,该搜索结果页面包括编辑后表情b’对应的搜索结果列表,该列表包括表情b’的相似表情,如表情b1’、表情b2’……等。
之后用户A可以通过对列表中相似表情进行操作以选择需要使用的相似表情,当用户对列表中某个相似表情如相似表情b2’进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情b2’的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图3,当用户A想要发送表情b2’至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情b2’,显示群聊页面,该群聊页面显示有用户A发送的表情b2’。
在一实施例中,为了提升用户体验和图像搜索的灵活性,还可以在编辑完成时,显示编辑后图像的详情页面,在该详情页面设置编辑后图像对应的相似图像显示控件,用户可以通过该控件触发显示相似图像。具体地,步骤“基于用户针对编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表”,可以包括:
当检测到用户针对编辑完成控件的完成操作时,显示编辑后图像的详情页面,编辑后图像的详情页面包括编辑后图像、以及编码后图像对应的目标相似图像显示控件;
当检测到用户针对目标相似图像显示控件的触发操作时,显示编辑后图像对应的搜索结果列表。
例如,参考图3,以图像为表情为例,用户A对群聊中用户B发送的表情b进行点击操作时,终端会显示表情b的详情页面,该详情页面包括表情b的相似表情显示控件、编辑触发控件如“表情编辑”按钮;当用户A对编辑触发控件如“表情编辑”按钮进行点击等操作时,终端可以显示表情b的编辑页面,该编辑页面包括图像编辑区域30、编辑完成控件如“完成”,其中,图像编辑区域显示有表情b。
用户A可以在图像编辑区域30对表情b进行编辑,比如,增加文字、改变图案等等。在用户编辑完之后,可以点击编辑完成控件如“完成”,此时,终端可以显示编辑后表情b’的详情页面,该页面包括编辑后表情b’,以及编辑后表情b对应的相似表情显示控件。
当用户A点击编辑后表情b对应的相似表情显示控件时,终端会显示编辑后表情b’的相似表情列表,如表情b1’、表情b2’……等。
之后用户A可以通过对列表中相似表情进行操作以选择需要使用的相似表情,当用户对列表中某个相似表情如相似表情b1’进行操作如点击、滑动等操作时,终端可以显示该相似表情的表情操作页面如表情b1’的表情操作页面,该表情操作页面包括表情发送控件如“发送”按钮”、表情取消控件如“取消”按钮(在一实施例中,该表情操作页面包括可以包括表情添加控件如“添加到表情”按钮,以便用户收藏该相似表情)。
参考图3,当用户A想要发送表情b1’至聊会会话如群聊时,可以对表情发送控件如“发送”按钮”进行点击等操作,此时,终端可以向群聊中成员发送该表情b1’,显示群聊页面,该群聊页面显示有用户A发送的表情b1’。
由上可知,本发明实施例可以显示即时通讯客户端的聊天会话页面,聊天会话页面包括聊天会话中用户发送的图像;基于用户针对图像的操作,显示相似图像显示控件,相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对相似图像显示控件的查看操作时,显示搜索结果列表,搜索结果列表包括基于图像搜索到的与图像相似的相似图像。该方案可以基于图像搜索其相似图像,即以图像搜索相似图像(如以表情搜索表情),实现了相似图像的搜索。
此外,用户无需输入文字信息搜索图像,简化图像的搜索过程,提升了图像的搜索效率;并且,以图像搜索相似图像,相比以文字搜索图像的方式,图像包含的信息更丰富,更能表达出用户的搜索需求如图像内容、形式等,因此,可以更精确地搜索出用户想要的相似图像。
另外,该方案还可以在多个图像相似维度上搜索相似图像,搜索到的图像更广泛,并且提升了与用户需求相符合的概率,因此,可以提升图像的搜索范围以及准确性。
根据上面实施例所描述的方法,以下将举例作进一步详细说明。
在本实施例中,将以该第一图像搜索装置具体集成终端、第二图像搜索装置具体集成在服务器为例进行说明。
如图4a所示,一种聊天互动图像方法,具体流程如下:
401、终端显示即时通讯客户端的聊天会话页面,该聊天会话页面包括聊天会话中用户发送的图像。
例如,以图像为表情为例,参考图1c,终端可以显示即时通讯客户端中用户A的群聊页面,该群聊页面包括群聊中成员发送的表情。
402、当检测到用户针对聊天会话中图像的操作时,显示图像的详情页面,该详情页面包括相似图像显示控件。
例如,参考图1c,当用户A对用户B发送的表情b进行点击等操作时,终端可以显示表情b的详情页面,该详情页面包括表情b、以及位于底部的相似表情显示控件。
403、当检测到用户针对相似图像显示控件的操作时,向服务器发送图像搜索请求。
例如,参考图1c,在显示表情b的详情页面之后,用户可以通过点击详情页面底部的相似表情控件显示表情b的相似表情;此时,终端可以向服务器发送图像搜索请求。其中,图像搜索请求可以携带图像或者图像的标识,该图像作为待搜索图像如待搜索表情。
例如,参考图4b为本发明实施例提供的一种表情搜索系统架构,在用户选择待搜索表情时,终端上的即时通讯客户端可以向接入层如接入层服务器发送图像搜索请求,该接入层可以将图像搜索请求转发给相似表情搜索服务,如转发给相似表情搜索服务器。
其中,图像搜索请求可以携带待搜索图像如表情,在一实施例中,为了提升图像搜索效率,可以利用图像的图像标识来表示图像进行图像搜索。例如,即时通讯客户端可以向接入层发送携带表情标识(id),接入层将图像搜索请求转发给相似表情搜索服务,如转发给相似表情搜索服务器。
404、服务器基于终端发送的图像搜索请求确定待搜索图像。
比如,服务器可以对图像搜索请求进行解析,得到待搜索图像或者待搜索图像的图像标识如待搜索的表情id。
405、服务器提取待搜索图像在多个图像相似维度上的特征信息。
例如,可以采用特征服务模块来提取待搜索表情在多个表情相似维度上的特征信息。其中,特征服务模块可以由其他服务器实现特征服务器模块的功能,或者特征服务器模块为服务器的本地服务模块。
其中,图像相似维度为两个图像之间相似的相似类型、或者相似方面或相似层面等;本发明实施例中图像之间相似包括图像相同、和/或类似,具体可以根据实际需求选择。
其中,图像相似维度可以根据实际需求划分为多种,也即两个图像之间相似的层面可以有多种,比如,可以包括图像相似、含义相似、会话关系相似等等相似类型。例如,两个图像之间的相似可以为图像相似、含义相似、或者会话关系相似等。
具体地,图像相似维度的介绍可以参考上述实施例的描述。
其中,为了获取在多种图像相似维度上与待搜索图像的相似图像,可以提取待搜索图像在多个图像相似维度上的特征信息。其中,每个或每种图像相似维度上的特征信息表征待搜索图像在该图像相似维度上的属性等信息,用于计算在该图像相似维度两张图像之间的相似度信息。
例如,图像相似维度上的特征信息可以包括图像内容或含义相似对应的文本类特征信息、向量类特征信息等特征信息。其中,文本类型特征信息可以包括文字特征信息、图像的类型信息(如分类标签tag信息)等。其中,文字特征信息可以采用文字识别获取,图像的类型信息可以对图像分类获取。其中,向量类特征信息可以为采用特征提取模型提取待搜索图像时模型输出的特征向量(如多维特征向量)。该特征提取模型可以为深度学习模型,如残差网络模型(ResNet)、FaceNet(人脸识别网络模型)等模型
例如,表情的相似维度或场景有多种:图像相似、含义相似、会话关系等。为了满足多种场景的需求,需要提取多个维度的特征,包括OCR文字识别得到的文本类特征、表情Tag识别的文本类特征、向量类特征(如ResNet、FaceNet等模型输出的多维特征向量)等。
在一实施例中,为了提升特征提取效率和图像搜索效率,可以预先提取一些图像的特征信息(可以称为离线特征信息),并保存在数据库(该数据库可以为称为离线特征库)中,在图像搜索时,如果在数据库中存在待搜索图像,直接从数据库中提取。
具体地,步骤“提取待搜索图像在多个图像相似维度上的特征信息”,可以包括:
当预设特征集合存在待搜索图像时,从预设特征集合中提取待搜索图像对应的多个图像相似维度上的特征信息,其中,预设特征集合包括:预设图像、以及预设图像对应的多个图像相似维度的特征信息;
当预设特征集合不存在待搜索图像时,对待搜索图像进行多维特征提取,得到待搜索图像在多个图像相似维度上的特征信息。
其中,预设特征集合的表现形式可以为数据库,如离线特征库。
在一实施例中多个图像相似维度上的特征信息可以包括:文本类特征信息、向量类特征信息;当预设特征集合不存在待搜索图像时,可以采用如下方式提取特征:
对待搜索图像进行文字识别,得到文字识别结果,并根据文字识别结果构建待搜索图像的第一文本类特征信息;
对待搜索图像进行图像分类,得到图像分类结果,并根据图像分类结果构建待搜索图像的第二文本类特征信息;
基于特征提取模型提取待搜索图像的特征向量,得到待搜索图像的向量类特征。
例如,参考图4b,离线特征库中的数据会定期更新到数据服务模块中供在线使用,特征服务模块可以基于上述介绍的特征提取方式来提取特征。比如,参考图4c,先检测检测待搜索表情是否命中离线特征库,即离线特征库是否存在待搜索表情的特征信息,若是,执行从离线特征库中提取待搜索表情的在多个表情相似维度上的离线特征;若没有命中离线特征库,可以获取待搜索表情图像,分别对待搜索表情图像进行文本类特征提取、向量类特征提取等多维度特征提取,得到待搜索表情的多维度的在线特征。
通过上述步骤,服务器可以提取待搜索图像的
406,服务器基于每个图像相似维度上的特征信息搜索与待搜索图像相似的图像,得到相似图像集合,相似图像集合包括在至少一个图像相似维度上的相似图像。
比如,服务器可以基于每个图像相似维度上的特征信息在图像数据库中搜索与待搜索图像相似的图像。其中,图像数据库如表情库可以包括多个可以提供给用户的图像如表情。
在一实施例中,为了提升相似图像搜索的准确性和丰富性,还可以对在线相似图像进行补充,比如,可以预先设置一些图像的相似图像如相似图像列表,并保存在相似图像数据库中;在相似图像搜索时,可以在相似图像数据库中搜索相似图像,对搜索结果进行补充。
具体地,步骤“基于每个图像相似维度上的特征信息搜索与待搜索图像相似的图像,得到相似图像集合,得到相似图像集合”,可以包括:
基于每个图像相似维度上的特征信息搜索与待搜索图像相似的图像,得到第一子相似图像集合,第一子相似图像集合包括在至少一个图像相似维度上的相似图像;
基于相似图像映射关系集合获取与待搜索图像对应的相似图像,得到第二子相似图像集合,其中,相似图像映射关系集合包括图像与预设相似图像之间的映射关系;
对第一子相似图像集合和第二子相似图像集合进行汇总,得到相似图像集合。
其中,相似图像映射关系集合可以保存在数据库中,该数据库可以称为相似图像库,如相似表情库。
比如,参考图4b,在特征服务模块提取表情的多个维度特征信息之后,召回服务模块可以根据提取的多个维度特征信息搜索时相似表情,即召回相似表情。具体地,参考图4b和图4d,可以在相似表情库(包括相似表情库是离线计算好的相似表情列表,挖掘了多种维度的相似信息,是对在线召回结果的补充)中搜索相似表情;根据文本类特征在表情库中搜索相似表情(即文本召回),比如通过文本检索引擎来实现文本召回;根据向量类特征在表情库中搜索相似表情(即向量召回),比如,可以通过向量检索引擎来实现向量召回;然后,对多路召回的相似表情进行汇总,得到搜索到的相似表情集合。
在一实施例中,基于图像相似维度上的特征信息在图像数据库中搜索相似图像的实现方式有多种,比如,可以包括:基于待搜索图像在图像相似维度上的特征信息,与图像数据库中图像在该图像相似维度上的特征信息,计算二者之间在该图像相似维度上的相似度;基于相似度确定数据库中图像为在该图像相似维度上与待搜索图像相似的相似图像。比如,选择图像数据库中相似度大于预设相似阈值的图像为待搜索图像的相似图像。
407、服务器提取相似图像集合中相似图像的特征信息。
其中,相似图像的特征信息可以包括相似图像在一个或者多个图像相似维度上的特征信息。
比如,服务器可以从预设特征集合中提取相似图像的特征信息。如可以从离线特征库中提取相似维度上的相似图像。
408、服务器根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合。
例如,参考图4b和图4e,在召回服务模块得到多路召回的相似表情后,排序服务模块可以对多路召回的相似表情进行排序。比如,可以从离线特征库中提取相似表情的离线特征信息(多个图像相似维度上的离线特征信息);然后,进行表情去重,基于相似表情在多个图像相似维度上的离线特征信息,对召回的相似表情进行排序,比如,综合各种表情进行打分和排序。
本发明实施例,可以基于搜索到的相似图像的多维度特征信息对搜索到的相似图像进行排序,由于相似图像的多维特征信息进行排序,可以表达出用户对图像相似维度的需求,即用户想要与待搜索图像在维度相似的相似图像,使得符合用户需求的相似图像排在前面,提升了相似图像的搜索准确性。
例如,在一种相似表情的使用场景中,在群聊中大家对一件事情表示祝贺、感谢、认同时,避免与大家发送相同的表情而尴尬,让他人认为自己对这件事情是认真的,而不是敷衍。举例当群里有人过生日时,大家都在发送生日快乐的表情,而生日快乐的表情不常用,用户收藏的表情可能较少,发送与之前聊天发送了的表情又显得很敷衍,用户需要寻找不同的表情来发送给对方。通过本发明实施例提供的方法可以得到生日祝福表情搜索结果,参考图5a。在图5a中,由于该使用场景中,用户更侧重于表情的文字内容,希望能够搜到到“生日快乐”的相似表情,因此,采用本发明实施例的方法在搜到相似表情列表之后,可以相似表情的多维特征如文字类特征对列表中相似表情进行排序,使得包含“生日快乐”文字的表情尤于其他相似表情排在列表前面。
在另一种相似表情的使用场景中,当用户看到一个表情,对表情本身非常喜欢,想要寻找更多相似的表情,相似表情可以快速帮你找到你喜欢的与之相近的表情。举例当用户收到“XX宝宝”的表情,想获取更多“XX宝宝”相关的表情,可以快速通过相似表情来搜索相关的结果,不需要用户输入文字进行搜索。“XX宝宝”表情搜索结果参考5b。
在图5b中,由于该使用场景中,用户更侧重于表情的人物角色,希望能够搜到人物角色为“XX宝宝”的相似表情,因此,采用本发明实施例的方法在搜到相似表情列表之后,可以相似表情的多维特征如文字类特征(表情tag特征)对列表中相似表情进行排序,使得人物角色为“XX宝宝”的表情尤于其他相似表情排在列表前面。
在另一种相似表情的使用场景中,当用户收到一个表情,相似表情可以提供趣味的表情回复结果来给到用户,增加聊天之中表情发送的乐趣。举例当用户收到一个“你有病啊”的表情,相似表情可以提供“你才有病”、“你有药啊”等富有斗图意味的表情发送给对方,增加聊天的趣味性。“你有病啊”表情搜索结果见图5c。
在图5c中,由于该使用场景中,用户更侧重于表情的会话关系,希望能够搜到与待搜索表情具有会话关系的相似表情,因此,采用本发明实施例的方法在搜到相似表情列表之后,可以相似表情的多维特征如文字类特征、向量类特征等对列表中相似表情进行排序,使得与待搜索表情具有会话关系的相似表情尤于其他相似表情排在列表前面。
409、服务器向终端发送排序后相似图像集合。
在一实施例中,服务器可以根据终端侧需要显示的图像数量,从排序后相似图像集合选取相应的数量图像发送给终端。
410、终端显示搜索结果列表,搜索结果列表包括排序后相似图像集合。
比如,在终端成功从服务器获取到排序后相似图像集合时,显示搜索结果列表。
例如,当接收到服务器发送的排序后相似图像集合时,可以显示搜索结果页面,参考图1c。
由上可知,本发明实施例可以基于图像搜索其相似图像,即以图像搜索相似图像(如以表情搜索表情),实现了相似聊天图像的搜索。此外,用户无需输入文字信息搜索图像,简化图像的搜索过程,提升了图像的搜索效率;并且,以图像搜索相似图像,相比以文字搜索图像的方式,图像包含的信息更丰富,更能表达出用户的搜索需求如图像内容、形式等,因此,可以更精确地搜索出用户想要的相似图像。
另外,该方案还可以在多个图像相似维度上搜索相似图像,搜索到的图像更广泛,并且提升了与用户需求相符合的概率,因此,可以提升图像的搜索范围以及准确性。
为了更好地实施以上方法,相应的,本发明实施例还提供一种图像搜索装置(即第一图像搜索装置),其中,该第一图像搜索装置可以集成在终端中。
例如,如图6a所示,该图像搜索装置可以包括聊天显示单元601、控件显示单元602、和结果显示单元603,如下:
聊天显示单元601,用于显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;
控件显示单元602,用于基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;
结果显示单元603,用于当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
在一实施例中,所述控件显示单元602,用于当检测到用户针对所述图像的操作时,显示所述图像的详情页面,所述详情页面包括所述图像和相似图像显示控件。
在一实施例中,所述控件显示单元602,用于当检测到用户针对所述图像的操作,在所述聊天会话页面上显示功能控件列表,所述功能控件列表包括相似图像显示控件。
在一实施例中,参考图6b,所述图像搜索装置还包括:
切换单元604,用于基于用户针对所述详情页面的图像切换操作,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件;
第一列表显示单元605,用于当检测到用户针对所述目标相似图像显示控件的查看操作时,显示目标搜索结果列表,所述搜索结果列表包括搜索到的与所述目标图像相似的相似图像。
在一实施例中,参考图6c,所述图像的详情页面包括图像切换控件;
所述切换单元604,可以包括:
选择页面显示子单元6041,用于当检测到用户针对所述图像切换控件的切换操作时,显示图像选择页面;
切换显示子单元6042,用于基于用户针对所述图像页面的切换图像选择操作时,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件。
在一实施例中,参考图6d,所述详情页面包括编辑触发控件;所述图像搜索装置还包括:
编辑触发单元606,用于当检测到用户针对所述编辑触发控件的触发操作时,显示所述图像的编辑页面,所述编辑页面包括编辑区域和编辑完成控件,所述编辑区域包括所述图像;
编辑操作单元607,用于基于用户针对编辑区域的图像编辑操作,对所述图像进行编辑;
第二列表显示单元608,用于基于用户针对所述编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表,所述搜索结果列表包括搜索到的与编辑后图像相似的相似图像。
在一实施例中,参考图6e,所述第二列表显示单元608,可以包括:
详情页面显示子单元6081,用于当检测到用户针对所述编辑完成控件的完成操作时,显示编辑后图像的详情页面,所述编辑后图像的详情页面包括所述编辑后图像、以及编码后图像对应的目标相似图像显示控件;
结果列表显示子单元6082,用于当检测到用户针对所述目标相似图像显示控件的触发操作时,显示编辑后图像对应的搜索结果列表。
在一实施例中,参考图6f,所述结果显示单元603,包括:
搜索子单元6031,用于当检测到用户针对所述相似图像显示控件的查看操作时,触发在多个图像相似维度上搜索与所述图像相似的相似图像;
结果显示子单元6032,用于显示搜索结果列表,所述搜索结果列表包括在至少一个图像相似维度上与所述图像相似的相似图像。
在一实施例中,所述控件显示单元602,用于:
当检测到用户针对所述图像的操作时,显示所述图像的详情页面,并触发在多个图像相似维度上搜索与所述图像相似的相似图像,所述详情页面包括所述图像;
当搜索成功时,在所述详情页面显示所述相似图像显示控件。
在一实施例中,所述搜索子单元6031,用于:
向服务器发送图像搜索请求,所述图像搜索请求指示所述服务器在多个图像相似维度上搜索与所述图像相似的相似图像,并向终端返回搜索到的相似图像;
显示搜索结果列表,包括:当接收到服务器返回的相似图像时,显示搜索结果列表。
在一实施例中,所述搜索子单元6031,用于:
提取所述图像在多个图像相似维度上的特征信息;
基于每个图像相似维度上的特征信息搜索与所述图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
基于相似图像集合中相似图像的特征信息,对相似图像集合中相似图像进行排序,得到排序后相似图像集合。
在一实施例中,参考图6g,图像搜索装置还包括:发送单元609;
所述发送单元609,用于:当检测到用户针对搜索结果列表中目标相似图像的确定操作时,显示目标相似图像的图像操作页面,所述图像操作页面包括图像发送控件;当检测到用户针对图像发送控件的图像发送操作时,向所述聊天会话中成员发送所述目标相似图像。
具体实施时,以上各个单元可以作为独立的实体来实现,也可以进行任意组合,作为同一或若干个实体来实现,以上各个单元的具体实施可参见前面的方法实施例,在此不再赘述。
由上可知,本实施例的图像搜索装置中聊天显示单元601显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;由控件显示单元602基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对所述相似图像显示控件的查看操作时,由结果显示单元603显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。该方案可以基于图像搜索其相似图像,即以图像搜索相似图像(如以表情搜索表情),实现了相似聊天图像的搜索。
为了更好地实施以上方法,相应的,本发明实施例还提供一种图像搜索装置(即第二图像搜索装置),其中,该第二图像搜索装置可以集成在服务器中。
例如,如图7a所示,该图像搜索装置可以包括确定单元701、第一特征提取单元702、搜索单元703、第二特征提取单元704、排序单元705以及发送单元706,如下:
确定单元701,用于基于终端发送的图像搜索请求确定待搜索图像;
第一特征提取单元702,用于提取所述待搜索图像在多个图像相似维度上的特征信息;
搜索单元703,用于基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
第二特征提取单元704,用于提取相似图像集合中相似图像的特征信息;
排序单元705,用于根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;
发送单元706,用于向所述终端发送所述排序后相似图像集合。
在一实施例中,参考图7b,所述搜索单元703,包括:
第一搜索子单元7031,用于基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到第一子相似图像集合,所述第一子相似图像集合包括在至少一个图像相似维度上的相似图像;
第二搜索子单元7032,用于基于相似图像映射关系集合获取与所述待搜索图像对应的相似图像,得到第二子相似图像集合,其中,相似图像映射关系集合包括图像与预设相似图像之间的映射关系;
汇总子单元7033,用于对所述第一子相似图像集合和所述第二子相似图像集合进行汇总,得到相似图像集合。
在一实施例中,参考图7c,所述第一特征提取单元702,包括:
第一特征提取子单元7021,用于当预设特征集合存在所述待搜索图像时,从所述预设特征集合中提取所述待搜索图像对应的多个图像相似维度上的特征信息,其中,预设特征集合包括:预设图像、以及预设图像对应的多个图像相似维度的特征信息;
第二特征提取子单元7022,用于当预设特征集合不存在所述待搜索图像时,对所述待搜索图像进行多维特征提取,得到所述待搜索图像在多个图像相似维度上的特征信息。
在一实施例中,所述多个图像相似维度上的特征信息包括:文本类特征信息、向量类特征信息;所述第二特征提取子单元7022,用于:
对所述待搜索图像进行文字识别,得到文字识别结果,并根据所述文字识别结果构建所述待搜索图像的第一文本类特征信息;
对所述待搜索图像进行图像分类,得到图像分类结果,并根据所述图像分类结果构建所述待搜索图像的第二文本类特征信息;
基于特征提取模型提取所述待搜索所述待搜索图像的特征向量,得到所述待搜索图像的向量类特征。
本发明实施例提供的图像搜索装置可以基于图像搜索其相似图像,即以图像搜索相似图像(如以表情搜索表情),实现了相似聊天图像的搜索。
此外,本发明实施例还提供一种计算机设备,该计算机设备可以为终端或者服务器,如图8所示,其示出了本发明实施例所涉及的计算机设备的结构示意图,具体来讲:
该计算机设备可以包括一个或者一个以上处理核心的处理器801、一个或一个以上计算机可读存储介质的存储器802、电源803和输入单元804等部件。本领域技术人员可以理解,图8中示出的计算机设备结构并不构成对计算机设备的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。其中:
处理器801是该计算机设备的控制中心,利用各种接口和线路连接整个计算机设备的各个部分,通过运行或执行存储在存储器802内的软件程序和/或模块,以及调用存储在存储器802内的数据,执行计算机设备的各种功能和处理数据,从而对计算机设备进行整体监控。可选的,处理器801可包括一个或多个处理核心;优选的,处理器801可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器801中。
存储器802可用于存储软件程序以及模块,处理器801通过运行存储在存储器802的软件程序以及模块,从而执行各种功能应用以及数据处理。存储器802可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据计算机设备的使用所创建的数据等。此外,存储器802可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。相应地,存储器802还可以包括存储器控制器,以提供处理器801对存储器802的访问。
计算机设备还包括给各个部件供电的电源803,优选的,电源803可以通过电源管理系统与处理器801逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。电源803还可以包括一个或一个以上的直流或交流电源、再充电系统、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
该计算机设备还可包括输入单元804,该输入单元804可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
尽管未示出,计算机设备还可以包括显示单元等,在此不再赘述。具体在本实施例中,计算机设备中的处理器801会按照如下的指令,将一个或一个以上的应用程序的进程对应的可执行文件加载到存储器802中,并由处理器801来运行存储在存储器802中的应用程序,从而实现各种功能,如下:
显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
或者
基于终端发送的图像搜索请求确定待搜索图像;提取所述待搜索图像在多个图像相似维度上的特征信息;基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;提取相似图像集合中相似图像的特征信息;根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;向所述终端发送所述排序后相似图像集合。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
由上可知,本实施例的计算机设备可以基于聊天互动图像搜索其相似聊天互动图像,即以聊天互动图像搜索相似聊天互动图像(如以表情搜索表情),实现了相似聊天图像的搜索。
本领域普通技术人员可以理解,上述实施例的各种方法中的全部或部分步骤可以通过指令来完成,或通过指令控制相关的硬件来完成,该指令可以存储于一计算机可读存储介质中,并由处理器进行加载和执行。
为此,本发明实施例还提供一种存储介质,其中存储有多条指令,该指令能够被处理器进行加载,以执行本发明实施例所提供的任一种图像搜索方法中的步骤。例如,该指令可以执行如下步骤:
显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
或者
基于终端发送的图像搜索请求确定待搜索图像;提取所述待搜索图像在多个图像相似维度上的特征信息;基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;提取相似图像集合中相似图像的特征信息;根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;向所述终端发送所述排序后相似图像集合。
以上各个操作的具体实施可参见前面的实施例,在此不再赘述。
其中,该存储介质可以包括:只读存储器(ROM,Read Only Memory)、随机存取记忆体(RAM,Random Access Memory)、磁盘或光盘等。
由于该存储介质中所存储的指令,可以执行本发明实施例所提供的任一种图像搜索方法中的步骤,因此,可以实现本发明实施例所提供的任一种图像搜索方法所能实现的有益效果,详见前面的实施例,在此不再赘述。
以上对本发明实施例所提供的一种图像搜索方法、装置、计算机设备和存储介质进行了详细介绍,本文中应用了具体个例对本发明的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本发明的方法及其核心思想;同时,对于本领域的技术人员,依据本发明的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本发明的限制。
Claims (17)
1.一种图像搜索方法,其特征在于,包括:
显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;
基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;
当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
2.如权利要求1所述的图像搜索方法,其特征在于,基于用户针对所述图像的操作,显示相似图像显示控件,包括:
当检测到用户针对所述图像的操作时,显示所述图像的详情页面,所述详情页面包括所述图像和相似图像显示控件。
3.如权利要求1所述的图像搜索方法,其特征在于,基于用户针对所述图像的操作,显示相似图像显示控件,包括:
当检测到用户针对所述图像的操作,在所述聊天会话页面上显示功能控件列表,所述功能控件列表包括相似图像显示控件。
4.如权利要求2所述的图像搜索方法,其特征在于,所述图像搜索方法还包括:
基于用户针对所述详情页面的图像切换操作,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件;
当检测到用户针对所述目标相似图像显示控件的查看操作时,显示目标搜索结果列表,所述搜索结果列表包括搜索到的与所述目标图像相似的相似图像。
5.如权利要求4所述的图像搜索方法,其特征在于,所述图像的详情页面包括图像切换控件;
基于用户针对所述详情页面的图像切换操作,在所述详情页面切换显示目标图像、以及目标图像对应的目标相似图像显示控件,包括:
当检测到用户针对所述图像切换控件的切换操作时,显示图像选择页面,;
基于用户针对所述图像页面的切换图像选择操作时,在所述详情页面切换显示目标图像、以及所述目标图像对应的目标相似图像显示控件。
6.如权利要求2所述的图像搜索方法,其特征在于,所述详情页面包括编辑触发控件;所述图像搜索方法还包括:
当检测到用户针对所述编辑触发控件的触发操作时,显示所述图像的编辑页面,所述编辑页面包括编辑区域和编辑完成控件,所述编辑区域包括所述图像;
基于用户针对编辑区域的图像编辑操作,对所述图像进行编辑;
基于用户针对所述编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表,所述搜索结果列表包括搜索到的与编辑后图像相似的相似图像。
7.如权利要求6所述的图像搜索方法,其特征在于,基于用户针对所述编辑完成控件的完成操作,显示编辑后图像对应的搜索结果列表,包括:
当检测到用户针对所述编辑完成控件的完成操作时,显示编辑后图像的详情页面,所述编辑后图像的详情页面包括所述编辑后图像、以及编码后图像对应的目标相似图像显示控件;
当检测到用户针对所述目标相似图像显示控件的触发操作时,显示编辑后图像对应的搜索结果列表。
8.如权利要求1所述的图像搜索方法,其特征在于,当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括搜索到的与所述图像相似的相似图像,包括:
当检测到用户针对所述相似图像显示控件的查看操作时,触发在多个图像相似维度上搜索与所述图像相似的相似图像;
显示搜索结果列表,所述搜索结果列表包括在至少一个图像相似维度上与所述图像相似的相似图像。
9.如权利要求2所述的图像搜索方法,其特征在于,当检测到用户针对所述图像的操作时,显示所述图像的详情页面,包括:
当检测到用户针对所述图像的操作时,显示所述图像的详情页面,并触发在多个图像相似维度上搜索与所述图像相似的相似图像,所述详情页面包括所述图像;
当搜索成功时,在所述详情页面显示所述相似图像显示控件。
10.如权利要求8所述的图像搜索方法,其特征在于,触发在多个图像相似维度上搜索与所述图像相似的目标图像,包括:
向服务器发送图像搜索请求,所述图像搜索请求指示所述服务器在多个图像相似维度上搜索与所述图像相似的相似图像,并向终端返回搜索到的相似图像;
显示搜索结果列表,包括:当接收到服务器返回的相似图像时,显示搜索结果列表。
11.如权利要求8或9所述的图像搜索方法,其特征在于,触发在多个图像相似维度上搜索与所述图像相似的相似图像,包括:
提取所述图像在多个图像相似维度上的特征信息;
基于每个图像相似维度上的特征信息搜索与所述图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
基于相似图像集合中相似图像的特征信息,对相似图像集合中相似图像进行排序,得到排序后相似图像集合。
12.如权利要求1-10任一项所述的图像搜索方法,其特征在于,所述图像搜索方法还包括:
当检测到用户针对搜索结果列表中目标相似图像的确定操作时,显示目标相似图像的图像操作页面,所述图像操作页面包括图像发送控件;
当检测到用户针对图像发送控件的图像发送操作时,向所述聊天会话中成员发送所述目标相似图像。
13.一种图像搜索方法,其特征在于,包括:
基于终端发送的图像搜索请求确定待搜索图像;
提取所述待搜索图像在多个图像相似维度上的特征信息;
基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
提取相似图像集合中相似图像的特征信息;
根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;
向所述终端发送所述排序后相似图像集合。
14.一种图像搜索装置,其特征在于,包括:
聊天显示单元,用于显示即时通讯客户端的聊天会话页面,所述聊天会话页面包括聊天会话中用户发送的图像;
控件显示单元,用于基于用户针对所述图像的操作,显示相似图像显示控件,所述相似图像显示控件用于在被用户操作时触发显示以图搜图的搜索结果;
结果显示单元,用于当检测到用户针对所述相似图像显示控件的查看操作时,显示搜索结果列表,所述搜索结果列表包括基于所述图像搜索到的与所述图像相似的相似图像。
15.一种图像搜索装置,其特征在于,包括:
确定单元,用于基于终端发送的图像搜索请求确定待搜索图像;
第一特征提取单元,用于提取所述待搜索图像在多个图像相似维度上的特征信息;
搜索单元,用于基于每个图像相似维度上的特征信息搜索与所述待搜索图像相似的图像,得到相似图像集合,所述相似图像集合包括在至少一个图像相似维度上的相似图像;
第二特征提取单元,用于提取相似图像集合中相似图像的特征信息;
排序单元,用于根据相似图像的特征信息对相似图像集合中相似图像进行排序,得到排序后相似图像集合;
发送单元,用于向所述终端发送所述排序后相似图像集合。
16.一种存储介质,其上存储有计算机程序,其中,所述计算机程序被处理器执行时实现如权利要求1-13任一项所述方法的步骤。
17.一种计算机设备,包括存储器,处理器及存储在存储器上并可在处理器上运行的计算机程序,其中,所述处理器执行所述程序时实现如权利要求1-13任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910770622.5A CN110795589A (zh) | 2019-08-20 | 2019-08-20 | 一种图像搜索方法、装置、计算机设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910770622.5A CN110795589A (zh) | 2019-08-20 | 2019-08-20 | 一种图像搜索方法、装置、计算机设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110795589A true CN110795589A (zh) | 2020-02-14 |
Family
ID=69427023
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910770622.5A Pending CN110795589A (zh) | 2019-08-20 | 2019-08-20 | 一种图像搜索方法、装置、计算机设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110795589A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111506761A (zh) * | 2020-04-22 | 2020-08-07 | 上海极链网络科技有限公司 | 一种相似图片查询方法、装置、系统及存储介质 |
WO2020248985A1 (zh) * | 2019-06-12 | 2020-12-17 | 腾讯科技(深圳)有限公司 | 图像搜索方法、装置、计算机设备和存储介质 |
CN112799764A (zh) * | 2021-01-29 | 2021-05-14 | 上海明略人工智能(集团)有限公司 | 任务流程图的生成方法、装置、设备及存储介质 |
CN113536157A (zh) * | 2020-04-21 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 一种搜索结果的生成、推送和交互展示方法及装置和系统 |
CN114647349A (zh) * | 2020-12-17 | 2022-06-21 | 中移(苏州)软件技术有限公司 | 表情信息选取方法及装置、电子设备及存储介质 |
WO2022228073A1 (zh) * | 2021-04-25 | 2022-11-03 | 华为技术有限公司 | 一种图像的搜索方法、终端和服务器 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106933960A (zh) * | 2017-01-23 | 2017-07-07 | 宇龙计算机通信科技(深圳)有限公司 | 一种图片识别搜索方法及装置 |
US20170293616A1 (en) * | 2016-04-06 | 2017-10-12 | Baidu Usa Llc | Method for processing and rendering feed-like based images for mobile devices |
CN107577686A (zh) * | 2016-07-11 | 2018-01-12 | 北京陌上花科技有限公司 | 搜索方法及装置 |
-
2019
- 2019-08-20 CN CN201910770622.5A patent/CN110795589A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170293616A1 (en) * | 2016-04-06 | 2017-10-12 | Baidu Usa Llc | Method for processing and rendering feed-like based images for mobile devices |
CN107577686A (zh) * | 2016-07-11 | 2018-01-12 | 北京陌上花科技有限公司 | 搜索方法及装置 |
CN106933960A (zh) * | 2017-01-23 | 2017-07-07 | 宇龙计算机通信科技(深圳)有限公司 | 一种图片识别搜索方法及装置 |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2020248985A1 (zh) * | 2019-06-12 | 2020-12-17 | 腾讯科技(深圳)有限公司 | 图像搜索方法、装置、计算机设备和存储介质 |
CN113536157A (zh) * | 2020-04-21 | 2021-10-22 | 阿里巴巴集团控股有限公司 | 一种搜索结果的生成、推送和交互展示方法及装置和系统 |
CN111506761A (zh) * | 2020-04-22 | 2020-08-07 | 上海极链网络科技有限公司 | 一种相似图片查询方法、装置、系统及存储介质 |
CN114647349A (zh) * | 2020-12-17 | 2022-06-21 | 中移(苏州)软件技术有限公司 | 表情信息选取方法及装置、电子设备及存储介质 |
CN112799764A (zh) * | 2021-01-29 | 2021-05-14 | 上海明略人工智能(集团)有限公司 | 任务流程图的生成方法、装置、设备及存储介质 |
WO2022228073A1 (zh) * | 2021-04-25 | 2022-11-03 | 华为技术有限公司 | 一种图像的搜索方法、终端和服务器 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110263197B (zh) | 一种图像搜索方法、装置、计算机设备和存储介质 | |
CN110795589A (zh) | 一种图像搜索方法、装置、计算机设备和存储介质 | |
WO2015090137A1 (en) | A voice message search method, device, and system | |
CN112231463B (zh) | 会话展示方法、装置、计算机设备和存储介质 | |
US20210365749A1 (en) | Image data processing method and apparatus, electronic device, and storage medium | |
CN103440247A (zh) | 发送照片的方法及其设备 | |
CN103955470A (zh) | 热点话题推送方法和装置 | |
CN113569037A (zh) | 一种消息处理方法、装置以及可读存储介质 | |
CN111865760B (zh) | 消息显示方法及装置 | |
CN110691028B (zh) | 一种消息处理方法、装置、终端和存储介质 | |
CN112003778B (zh) | 消息处理方法、装置、设备和计算机存储介质 | |
CN113392178A (zh) | 一种消息提醒的方法、相关装置、设备以及存储介质 | |
CN113542101B (zh) | 一种求助信息的发送、响应方法、装置和存储介质 | |
CN111523053A (zh) | 信息流处理方法、装置、计算机设备和存储介质 | |
CN111158924A (zh) | 内容分享方法、装置、电子设备及可读存储介质 | |
US20190147001A1 (en) | Method for processing random interaction data, network server and intelligent dialog system | |
CN111666498A (zh) | 一种基于互动信息的好友推荐方法、相关装置及存储介质 | |
CN110895558B (zh) | 一种对话回复的方法及相关装置 | |
CN113852540B (zh) | 信息发送方法、信息发送装置和电子设备 | |
CN113542653B (zh) | 一种虚拟物品交互方法 | |
CN113411193B (zh) | 消息发送方法、装置、电子设备和可读存储介质 | |
CN115633007A (zh) | 联系人确定方法、装置、电子设备及介质 | |
CN113325946A (zh) | 一种基于增强现实的虚拟礼物交互方法以及相关装置 | |
CN111857467B (zh) | 文件处理方法和电子设备 | |
CN112416215A (zh) | 一种内容聚合方法、装置、计算机设备和存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
REG | Reference to a national code |
Ref country code: HK Ref legal event code: DE Ref document number: 40022048 Country of ref document: HK |
|
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |