CN107169148B - 图像搜索方法、装置、设备以及存储介质 - Google Patents

Abstract

本发明实施例公开了一种图像搜索方法、装置、设备及存储介质。所述方法包括：获取摄像头实时捕捉的图像作为调整检测图像；对调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导用户对所述调整检测图像进行优化调整；在满足图像选定条件时，获取摄像头当前捕捉的图像作为搜索图像；根据搜索图像进行网络搜索，并将网络搜索结果提供给用户。本发明实施例的方案在大大减少搜索耗时的前提下，有效提高用户输入的搜索图像的质量，进而可以相应提高图像搜索的质量，使得搜索产品对搜索图像的识别和判断更加精准，最终可以提升单次搜索效率，提高用户使用该搜索产品的搜索频次。

Description

图像搜索方法、装置、设备以及存储介质

技术领域

本发明实施例涉及信息处理技术，尤其涉及一种图像搜索方法、装置、设备以及存储介质。

背景技术

随着搜索技术的不断成熟，人们进行图像搜索的意愿以及需求也越来越明显，目前，业界的图像搜索形式主要以拍照输入为主，其对用户操作成熟度要求比较高。例如：当用户进行手动拍照搜索时，图像搜索的主要流程包括：“用户启动图像搜索功能->用户拍照->系统识别->结果展现”。

发明人通过研究发现：现有的拍照搜索方式，从输入到输出的过程中，用户对系统检测到目标和自己想要搜索的目标是否一致，以及如何操作能够提升结果质量是无感知的，整个过程对用户是透明的。相应的，上述从输入到输出的过程存在两个问题：1、整个过程平均时间达到7s左右，正常移动用户的忍耐时间仅为3s，因此造成用户的大量流失；2、搜索透明化无节点性的反馈，使得用户对系统搜索的目标是什么、该目标与自己的搜索目标是否一致，自己的输入是否符合要求以及如何能提高自己的搜索准确率等信息一无所知，无法及时纠错直到看到最终的搜索结果。

发明内容

本发明实施例提供了一种图像搜索方法、装置、设备以及存储介质，以优化现有的图像搜索技术，满足人们日益增长的个性化、便捷化的图像搜索需求。

第一方面，本发明实施例提供了一种图像搜索方法，包括：

获取摄像头实时捕捉的图像作为调整检测图像；

对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；

在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

第二方面，本发明实施例还提供了一种图像搜索装置，包括：

调整检测图像获取模块，用于获取摄像头实时捕捉的图像作为调整检测图像；

拍摄指导建议反馈模块，用于对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；

搜索图像获取模块，用于在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

网络搜索结果提供模块，用于根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

第三方面，本发明实施例还提供了一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序所述处理器执行所述程序时实现如本发明实施例中任一所述的图像搜索方法。

第四方面，本发明实施例还提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本发明实施例中任一所述的图像搜索方法。

本发明实施例提供了一种图像搜索方法、装置、设备以及存储介质，通过获取摄像头实时捕捉的图像作为调整检测图像；对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议；在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户的技术手段，实现了本地获取与调整检测图像对应的用户反馈拍摄指导建议后，以可感知形式提供给用户，在大大减少搜索耗时的前提下，有效提高用户输入的搜索图像的质量，进而可以相应提高图像搜索的质量，使得搜索产品对搜索图像的识别和判断更加精准，最终可以提升单次搜索效率，提高用户使用该搜索产品的搜索频次。

附图说明

图1a是本发明实施例一中的一种图像搜索方法的流程图；

图1b是本发明实施例一中的一种根据环境参数识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图2a是本发明实施例二中的一种图像搜索方法的流程图；

图2b是本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图2c是本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图2d是本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图2e是本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图2f是本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；

图3a是本发明实施例三中的一种图像搜索方法的流程图；

图3b是本发明实施例三中的一种自动拍照搜索样式选择界面的显示示意图；

图3c是本发明实施例三中的一种将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注的显示示意图；

图3d是本发明实施例三中的一种对识别出的所述实体在拍摄取景框中进行可视化显示的显示示意图；

图4a是本发明实施例四中的一种图像搜索方法的流程图；

图4b是本发明实施例四中的一种在搜索图像展示界面中显示图像搜索结果的显示示意图；

图4c是本发明实施例四中的一种在搜索结果展示界面中显示显示图像搜索结果的显示示意图；

图5是本发明实施例五中的一种图像搜索装置的结构图；

图6是本发明实施例六中的一种计算机设备的结构示意图。

具体实施方式

下面结合附图和实施例对本发明作进一步的详细说明。可以理解的是，此处所描述的具体实施例仅仅用于解释本发明，而非对本发明的限定。另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部结构。

另外还需要说明的是，为了便于描述，附图中仅示出了与本发明相关的部分而非全部内容。在更加详细地讨论示例性实施例之前应当提到的是，一些示例性实施例被描述成作为流程图描绘的处理或方法。虽然流程图将各项操作(或步骤)描述成顺序的处理，但是其中的许多操作可以被并行地、并发地或者同时实施。此外，各项操作的顺序可以被重新安排。当其操作完成时所述处理可以被终止，但是还可以具有未包括在附图中的附加步骤。所述处理可以对应于方法、函数、规程、子例程、子程序等等。

实施例一

图1a为本发明实施例一提供的一种图像搜索方法的流程图，本实施例可适用于为用户提供与用户输入的搜索图像对应的搜索结果的情况，该方法可以由本发明实施例提供的图像搜索装置来执行，该装置可采用软件和/或硬件的方式实现，并一般可集成在提供图像搜索服务(例如，图像搜索引擎)的客户端中。如图1a所示，本实施例的方法具体包括：

S110、获取摄像头实时捕捉的图像作为调整检测图像。

在本实施例中，当用户有图像搜索需求时，可以相应开启终端设备中的图像搜索引擎的客户端软件中的拍照搜图功能，该客户端软件可以进而开启终端设备的摄像头，并获取摄像头实时捕捉的图像作为调整检测图像。

其中，所述调整检测图像不同于用户最终进行网络搜索的搜索图像，而是在用户确定输入搜索图像之前，摄像头实时捕捉到的图像，通过对该调整检测图像进行识别，可以指导用户应如何调整摄像头进行拍摄，以使最终基于搜索图像的网络搜索结果尽可以准确。

可选的，可以在获取摄像头实时捕捉的图像作为调整检测图像的同时，将实时获取的所述调整检测图像在拍摄取景框中显示给用户。

S120、对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整。

其中，进行本地识别的目的就是为了减少搜索耗时，如背景技术所述，现有的图像搜索技术主要是将用户拍摄的图像发送到后端服务器进行搜索，整个过程耗时较长(7s左右)，且搜索结果无法预知；在本实施例中，创造性的提出对所述调整检测图像进行本地识别的方案，实验发现，单次本地识别耗时仅170ms，可实时快速反馈，提高转化率。

在本实施例中，对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，可以包括：本地对所述调整检测图像进行实体特征识别；根据实体特征识别结果，向用户反馈对应的拍摄指导建议；

对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，还可以包括：本地对所述调整检测图像进行环境参数识别；根据环境参数识别结果，向用户反馈对应的拍摄指导建议；

对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，还可以包括：本地对所述调整检测图像进行实体特征识别和环境参数识别；根据实体特征识别结果和环境参数识别结果，向用户反馈对应的拍摄指导建议。

所述实体特征识别具体是指根据所述调整检测图像中包括的实体数量、实体与摄像头之间的距离以及识别出的实体是否满足与实体类型对应的类型识别条件等实体特征的识别结果，向用户反馈对应的拍摄指导建议，例如：远离目标拍摄对象或者靠近目标拍摄对象等拍摄指导建议。

可选的，可以通过本地的SIFT(Scale-invariant feature transform，尺度不变特征变换)技术，在所述调整检测图像中进行特征点提取，进而识别出该调整检测图像中包括的可相互区别的，一个或者多个独立实体。

所述环境参数识别具体是指，根据所述调整检测图像的图像特征参数的识别结果(例如：亮度，和/或清晰度)，向用户反馈对应的拍摄指导建议，例如：打开闪光灯或者关闭闪光灯等。

在本实施例的一个可选的实施方式中，根据环境参数的识别结果，向用户反馈对应的拍摄指导建议，可以包括：如果确定所述调整检测图像的图像特征参数不满足第一拍照识别条件，则生成指导用户开启闪光灯的拍摄指导建议反馈给所述用户；如果确定所述调整检测图像的图像特征参数不满足第二拍照识别条件，则生成指导用户关闭闪光灯的拍摄指导建议反馈给所述用户；其中，所述图像特征参数包括：亮度，和/或清晰度。

具体的，如果确定所述调整检测图像的亮度小于第一设定亮度阈值(也即：不满足第一拍照识别条件)，则生成指导用户开启闪光灯的拍摄指导建议反馈给所述用户；如果确定所述调整检测图像的亮度大于第二设定亮度阈值(也即：不满足第二拍照识别条件)，则生成指导用户关闭闪光灯的拍摄指导建议反馈给所述用户，以使用户最终拍摄出光线适中的清晰图像作为搜索图像。

在图1b中示出了本发明实施例一中的一种根据环境参数识别结果，向用户反馈对应的拍摄指导建议的显示示意图。

S130、在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像。

在本实施例中，可以包括有两种拍照搜图的方式，典型的，手动拍照方式和自动拍照的方式。相应的，如果用户选择了手动拍照方式，则可以在检测到用户输入的拍照指令时，确定满足图像选定条件；如果用户选择了自动拍照方式，则可以在稳定等待时间内，检测到实时获取的所述调整检测图像满足拍照稳定条件(典型的，不同时间获取的调整检测图像没有明显变化)时，确定满足图像选定条件。

S140、根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

在本实施例的一个可选的实施方式中，可以在获取搜索图像后，将当前界面(拍摄取景框)跳转至搜索结果展示界面中以显示相应的网络搜索结果；

在本实施例的另一个可选的实施方式中，可以在获取搜索图像后，首先为用户提供搜索图像展示界面，其中，所述搜索图像展示界面具体是指图像搜索引擎的客户端提供给用户浏览其所输入的搜索图像的程序界面，并在该搜索图像展示界面中同时显示用户输入的搜索图像(全部或者局部)以及与所述搜索图像对应的部分网络搜索结果。

本发明实施例提供了一种图像搜索方法，通过获取摄像头实时捕捉的图像作为调整检测图像；对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议；在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户的技术手段，实现了本地获取与调整检测图像对应的用户反馈拍摄指导建议后，以可感知形式提供给用户，在大大减少搜索耗时的前提下，有效提高用户输入的搜索图像的质量，进而可以相应提高图像搜索的质量，使得搜索产品对搜索图像的识别和判断更加精准，最终可以提升单次搜索效率，提高用户使用该搜索产品的搜索频次。

另外，需要再次强调的是：由于识别结果本地化的准实时化，因此可以在保证速度的前提下，结合目标实体的位置、目标实体的距离、周围环境、目标实体的实体类型做判定，给予场景化的动态教育，引导用户及时纠错调整焦距、光线、目标实体等，提升高质量搜索结果比例。

实施例二

图2a为本发明实施例二提供的一种图像搜索方法的流程图，本实施例以上述实施例为基础进行具体化，在本实施例中，将对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，具体为：本地对所述调整检测图像进行实体特征识别；根据实体特征识别结果，向用户反馈对应的拍摄指导建议。同时，对根据实体特征识别结果，向用户反馈对应的拍摄指导建议进行进一步具体化。相应的，本实施例的方法具体包括：

S210、获取摄像头实时捕捉的图像作为调整检测图像。

S220、本地对所述调整检测图像进行实体特征识别。

S230、判断在所述调整检测图像中识别出的实体数量是否为1：若是，执行S240；否则，执行S2100。

在本实施例中，考虑到用户一般通过图像搜索引擎的客户端进行拍照搜图时，其以很大的概率是对一个特定的单一实体内容感兴趣。因此，如果实时获取的调整检测图像中包含有大于1个实体或者未能包含1个完整实体，则图像搜索引擎最终返回的网络搜索结果可能就会与用户的实际搜索需求发生偏差。相应的，可以在根据调整检测图像中识别出的实体数量，向用户提供对应的拍摄指导建议。

其中，在图2b中示出了本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；在图2c中示出了本发明实施例二中的另一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图。如图2b所示，调整检测图像中包含了两个完整实体，“树”以及“雪人”，而用户真正的搜索需求一般仅是“树”或者仅是“雪人”，如果根据该调整检测图像向用户返回网络搜索结果，则该网络搜索结果会包括有用户不需要的实体的信息，因此，可以向用户反馈“请靠近目标”的拍摄指导建议，以使得最终用户输入的搜索图像仅包括单一实体；相类似的，如图2c所示，所述调整检测图像中包括的“树”或者“雪人”均不完整，基于一个不完整的实体进行网络搜索，最终的返回的网络搜索结果也会有较大误差，因此，可以向用户反馈“请远离目标”的拍摄指导建议，以使得最终用户输入的搜索图像包括完整实体。

当然，可以理解的是，所述拍摄指导建议可以通过不同描述方式(例如：靠近目标或者接近目标等)，不同的表达方式(例如：语音或者文字)反馈给所述用户，本实施例对此并不进行限制。

S240、判断识别出的所述实体与所述摄像头之间的距离是否小于第一距离阈值，若是，执行S250；否则，执行S260。

进一步的，在识别出单一实体之后，可以进而根据实体与摄像头之间的距离，指导用户对拍摄焦距进行调整，以使得在搜索图像中该实体的大小更有利于网络搜索。

S250、生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户，执行S2130。

S260、判断识别出的所述实体与所述摄像头之间的距离是否大于第二距离阈值，若是，执行S270；否则，执行S280。

S270、生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户，执行S2130。

在本实施例中，在获取实体在调整检测图像中的像素坐标后，可以根据图像像素坐标与实际位置坐标之间的对应关系，确定在实际位置空间中，该实体与摄像头之间的距离值，并可以根据该距离值与设定距离阈值之间的差异值，向用户反馈对应的拍摄指导建议。

其中，在图2d中示出了本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图；在图2e中示出了本发明实施例二中的另一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图。如图2d所示，当确定摄像头与该实体(“雪人”)之间的距离较远时，可以向用户反馈“请靠近目标”的拍摄指导建议；如图2e所示，当确定摄像头与该实体(“雪人”)之间的距离较近时，可以向用户反馈“请远离目标”的拍摄指导建议，以最终确保该实体在搜索图像中大小适中，以便于后续的网络搜索。

S280、判断识别出的所述实体是否满足与所述实体的实体类型对应的类型识别条件，若是，执行S2130；否则，执行S290。

在本实施例中，图像搜索引擎的客户端本地存储有多个不同实体类型的识别模板，例如：花卉、植物、动物、水果以及蔬菜等。在对调整检测图像进行实体识别时，可以进而确定识别出的实体所属的实体类型。

可选的，所述类型识别条件可以包括：所述实体中包含与实体类型对应的单一类别子实体。相应的，如果所述实体不满足与所述实体的实体类型对应的类型识别条件，则说明所述实体中包含与实体类型对应的多类别子实体，例如：“花瓶”(实体)中包含多个不同类别的“花卉”(子实体)或者“菜篮子”(实体)中包含多个不同类别的“蔬菜”(子实体)等。

S290、生成与所述实体类型匹配的拍摄指导建议反馈给所述用户，执行S2130。

其中，在图2f中示出了本发明实施例二中的一种根据实体特征识别结果，向用户反馈对应的拍摄指导建议的显示示意图。如图2f所示，通过本地进行实体识别，识别出的实体为“花瓶”，且“花瓶”中包含有多个不同种类的“花卉”，也即：“花卉”为多类别。相应的，可以向用户反馈“请拍摄单朵清晰花卉”的拍摄指导建议，以使最终获取的搜索图像中仅包含单朵“花卉”，以便于后续的网络搜索。

S2100、判断在所述调整检测图像中识别出的实体是否大于1，若是，执行S2110；否则，执行S2120。

S2110、生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户，执行S2130。

S2120、生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户，执行S2130。

S2130、判断是否满足图像选定条件，若是，执行S2140；否则，返回执行S230。

S2140、获取所述摄像头当前捕捉的图像作为搜索图像。

S2150、根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

本发明实施例的技术方案通过指根据所述调整检测图像中包括的实体数量、实体与摄像头之间的距离以及识别出的实体是否满足与实体类型对应的类型识别条件等实体特征的识别结果，向用户反馈对应的拍摄指导建议，通过上述引导方式，可以保证用户最终输入的搜索图像在很大的比例上优化为位置适中、实体数量唯一、实体类别唯一的图像，整个用户输入过程呈现互动性，教育效果明显，搜索图像的输入质量大大提升，间接提升用户的整体满意度。

实施例三

图3a为本发明实施例三提供的一种图像搜索方法的流程图，本实施例以上述实施例为基础进行具体化。在本实施例中，将本地对所述调整检测图像进行实体特征识别，具体为：通过本地SIFT算法，对所述调整检测图像进行实体特征识别；通过本地CNN(Convolutional Neural Network，卷积神经网络)算法，对识别出的至少一个实体在拍摄取景框中进行可视化显示；

同时，在获取摄像头实时捕捉的图像作为调整检测图像之前，还具体包括：获取用户选择的图像搜索样式；将在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像，具体为：在满足与所述图像搜索样式对应的图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

以及，将本地对所述调整检测图像进行实体特征识别，进一步具体为：根据用户选择的所述自动拍照搜索样式，将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注。相应的，本实施例的方法具体包括：

S310、获取用户选择的图像搜索样式。

在本实施例中，用户可以选择两种图像搜索样式，也即：手动拍照搜索样式，或者自动拍照搜索样式。

其中，在图3b中示出了本发明实施例三中的一种自动拍照搜索样式选择界面的显示示意图。如图3b所示，在用户开启图像搜索引擎的客户端的拍照搜图功能后，在向用户提供拍摄取景框的同时，将与手动拍照搜索样式对应的手动拍摄选项3101以及与自动拍照搜索样式对应的自动拍摄选项3102提供给用户。当用户选择手动拍摄选项3101后，则由用户触发拍照获取所述搜索图像；当用户选择自动拍摄选项3102，则由图像搜索引擎的客户端自动拍照获取所述搜索图像。

S320、获取摄像头实时捕捉的图像作为调整检测图像。

S330、通过本地SIFT算法，对所述调整检测图像进行实体特征识别。

S340、判断用户是否选择了自动拍照搜索样式：若是，执行S350；否则，执行S360。

S350、将实体识别过程中识别出的实体特征点在拍摄取景框中进行可视化标注。其中，所述拍摄取景框中显示有所述调整检测图像，执行S360。

在图3c中示出了本发明实施例三中的一种将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注的显示示意图。如图3c所示，在实体识别过程中，识别出的实体特征点3103会自动在拍摄取景框中进行可视化标注，可以给用户带来一种自动抓取识别的感官，可以在一定程度上提升用户使用体验。

S360、通过本地CNN算法，对识别出的至少一个实体在拍摄取景框中进行可视化显示。

其中，在图3d中示出了本发明实施例三中的一种对识别出的所述实体在拍摄取景框中进行可视化显示的显示示意图。如图3d所示，当成功在调整检测图像中识别出一个或者多个实体后，可以将识别出的实体通过选择框3104进行可视化显示，以帮助用户快速澄清需求(到底想要搜索的是图像中的哪一个实体)。

例如：用户想知道办公桌上的花是什么，在拍摄取景框中，图像搜索引擎的客户端将花和旁边的水杯这两个与周围环境具有明显视觉区隔性的目标实体均框选出来，通过实时目标框选技术，用户即可基于后续的场景引导进行纠错从而达到搜索意图与搜索图像的一致(例如：用户实际想要搜索花，则会根据框选结果，将摄像头靠近花进行拍摄)。

S370、根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整。

S380、在满足与所述图像搜索样式对应的图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像。

其中，与所述手动拍照搜索样式对应的图像选定条件包括：用户输入的拍照指令；与所述自动拍照搜索样式对应的图像选定条件包括：在稳定等待时间内(例如，2s、3s或者5s等)，实时获取的所述调整检测图像满足拍照稳定条件(例如：不同时间内或者的两个搜索检测图像之间的相似度大于设定阈值)。

S390、根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

本发明实施例的技术方案通过根据用户选择的所述自动拍照搜索样式，将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注，以及通过本地CNN算法，对识别出的至少一个实体在拍摄取景框中进行可视化显示等方式，可以进一步实现整个搜索过程的可视化以及场景交互的互动性，间接提高用户的使用满意度。

实施例四

图4a为本发明实施例四提供的一种图像搜索方法的流程图，本实施例以上述实施例为基础进行具体化。在本实施例中，将根据所述搜索图像进行网络搜索，将网络搜索结果提供给所述用户，具体为：获取所述搜索图像中包括的目标实体；在所述搜索图像中截取与所述目标实体对应的局部图像，并将所述局部图像在搜索图像显示界面的第一显示位置进行显示；获取与所述目标实体对应的网络查询条件；根据所述网络查询条件进行网络搜索，并将搜索结果在所述搜索图像展示界面的第二显示位置进行显示。相应的，本实施例的方法具体包括：

S410、获取摄像头实时捕捉的图像作为调整检测图像。

S420、对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整。

S430、在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像。

S440、获取所述搜索图像中包括的目标实体。

S450、在所述搜索图像中截取与所述目标实体对应的局部图像，并将所述局部图像在搜索图像显示界面的第一显示位置进行显示。

S460、获取与所述目标实体对应的网络查询条件。

S470、根据所述网络查询条件进行网络搜索，并将搜索结果在所述搜索图像展示界面的第二显示位置进行显示。

其中，在图4b中示出了本发明实施例四中的一种在搜索图像展示界面中显示图像搜索结果的显示示意图。如图4b所示，当搜索图像被确定之后，将会基于该搜索图像获取用户选择搜索的目标实体，并根据该目标实体在搜索图像中的位置，将搜索图像中包含该目标实体的局部图像4101截取出来，在搜索图像展示界面中进行半屏显示(上半屏)，同时，将基于该目标实体的搜索结果4102(部分的)，同样在所述搜索图像展示界面中进行半屏显示(下半屏)。相应的，在所述搜索图像展示界面中同时包括有“查看更多搜索结果”的选项4103，当用户对半屏显示的搜索结果4102不满意时，可以将界面跳转至搜索结果展示界面中查看更多其他的搜索结果。其中，在图4c中示出了本发明实施例四中的一种在搜索结果展示界面中显示显示图像搜索结果的显示示意图。

这样设置的好处是：由于图像识别技术存在局限性，因此即便用户输入的图片质量为优质图片，仍然存在搜索结果错误或检索结果与用户意图不一致的情况。因此将用户多维诉求结构化以半屏展开的方式前置呈现给用户，方便用户快速浏览摘要信息以找到满意结果，或者重新发起检索，提升单次检索反馈效率的同时提高搜索频次。

需要再次强调的是：图像搜索作为智能搜索的一种表达方式，产品处于成长期，用户的搜索行为需要引导和教育，从而获得高质量的输入。在业界整体图像搜索技术奇点未来临之前，通过高质量的图片输入间接提升整体识别效果，实现视觉时代的晚到超车。在数据秒杀一切算法的AI(Artificial Intelligence，人工智能)时代，本发明实施例将有效提高百度图像搜索用户成熟度，从而提升数据可用性及训练样本丰富度，让数据集能更准确地模拟出应用场景，最终达到正向循环。

实施例五

图5为本发明实施例五提供的一种图像搜索装置的结构示意图，如图5所示，所述装置包括：调整检测图像获取模块510、拍摄指导建议反馈模块520、搜索图像获取模块530以及网络搜索结果提供模块540，其中：

调整检测图像获取模块510，用于获取摄像头实时捕捉的图像作为调整检测图像。

拍摄指导建议反馈模块520，用于对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整。

搜索图像获取模块530，用于在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像。

网络搜索结果提供模块540，用于根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

本发明实施例提供了一种图像搜索装置，通过获取摄像头实时捕捉的图像作为调整检测图像；对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议；在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户的技术手段，实现了本地获取与调整检测图像对应的用户反馈拍摄指导建议后，以可感知形式提供给用户，在大大减少搜索耗时的前提下，有效提高用户输入的搜索图像的质量，进而可以相应提高图像搜索的质量，使得搜索产品对搜索图像的识别和判断更加精准，最终可以提升单次搜索效率，提高用户使用该搜索产品的搜索频次。

在上述各实施例的基础上，拍摄指导建议反馈模块，可以包括：本地识别单元，用于本地对所述调整检测图像进行实体特征识别，和/或环境参数识别；建议反馈单元，用于根据实体特征识别结果，和/或环境参数识别结果，向用户反馈对应的拍摄指导建议。

在上述各实施例的基础上，建议反馈单元，具体可以用于：如果确定在所述调整检测图像中识别出的实体数量大于1，则生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户；如果确定在所述调整检测图像中识别出的实体数量为0，则生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户。

在上述各实施例的基础上，建议反馈单元，具体可以用于：如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体与所述摄像头之间的距离小于第一距离阈值，则生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户；如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体与所述摄像头之间的距离大于第二距离阈值，则生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户。

在上述各实施例的基础上，建议反馈单元，具体可以用于：如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体不满足与所述实体的实体类型对应的类型识别条件，则生成与所述实体类型匹配的拍摄指导建议反馈给所述用户。

在上述各实施例的基础上，建议反馈单元，具体可以用于：如果确定所述调整检测图像的图像特征参数不满足第一拍照识别条件，则生成指导用户开启闪光灯的拍摄指导建议反馈给所述用户；如果确定所述调整检测图像的图像特征参数不满足第二拍照识别条件，则生成指导用户关闭闪光灯的拍摄指导建议反馈给所述用户；其中，所述图像特征参数包括：亮度，和/或清晰度。

在上述各实施例的基础上，本地识别单元，可以用于：通过本地SIFT算法，对所述调整检测图像进行实体特征识别；通过本地CNN算法，对识别出的至少一个实体在拍摄取景框中进行可视化显示，其中，所述拍摄取景框中显示有所述调整检测图像。

在上述各实施例的基础上，还可以包括：图像搜索样式获取模块，用于：在获取摄像头实时捕捉的图像作为调整检测图像之前，获取用户选择的图像搜索样式，其中，所述图像搜索样式包括：手动拍照搜索样式，或者自动拍照搜索样式；

相应的，搜索图像获取模块，可以用于：在满足与所述图像搜索样式对应的图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

其中，与所述手动拍照搜索样式对应的图像选定条件包括：用户输入的拍照指令；与所述自动拍照搜索样式对应的图像选定条件包括：在稳定等待时间内，实时获取的所述调整检测图像满足拍照稳定条件。

在上述各实施例的基础上，本地识别单元，进一步可以用于：根据用户选择的所述自动拍照搜索样式，将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注。

在上述各实施例的基础上，网络搜索结果提供模块，具体可以用于：获取所述搜索图像中包括的目标实体；在所述搜索图像中截取与所述目标实体对应的局部图像，并将所述局部图像在搜索图像显示界面的第一显示位置进行显示；获取与所述目标实体对应的网络查询条件；根据所述网络查询条件进行网络搜索，并将搜索结果在所述搜索图像展示界面的第二显示位置进行显示。

上述图像搜索装置可执行本发明任意实施例所提供的图像搜索方法，具备执行的图像搜索方法相应的功能模块和有益效果。

实施例六

图6为本发明实施例六提供的一种计算机设备的结构示意图。图6示出了适于用来实现本发明实施方式的示例性计算机设备12的框图。图6显示的计算机设备12仅仅是一个示例，不应对本发明实施例的功能和使用范围带来任何限制。

如图6所示，计算机设备12以通用计算设备的形式表现。计算机设备12的组件可以包括但不限于：一个或者多个处理器或者处理单元16，系统存储器28，连接不同系统组件(包括系统存储器28和处理单元16)的总线18。

总线18表示几类总线结构中的一种或多种，包括存储器总线或者存储器控制器，外围总线，图形加速端口，处理器或者使用多种总线结构中的任意总线结构的局域总线。举例来说，这些体系结构包括但不限于工业标准体系结构(ISA)总线，微通道体系结构(MAC)总线，增强型ISA总线、视频电子标准协会(VESA)局域总线以及外围组件互连(PCI)总线。

计算机设备12典型地包括多种计算机系统可读介质。这些介质可以是任何能够被计算机设备12访问的可用介质，包括易失性和非易失性介质，可移动的和不可移动的介质。

系统存储器28可以包括易失性存储器形式的计算机系统可读介质，例如随机存取存储器(RAM)30和/或高速缓存存储器32。计算机设备12可以进一步包括其它可移动/不可移动的、易失性/非易失性计算机系统存储介质。仅作为举例，存储系统34可以用于读写不可移动的、非易失性磁介质(图6未显示，通常称为“硬盘驱动器”)。尽管图6中未示出，可以提供用于对可移动非易失性磁盘(例如“软盘”)读写的磁盘驱动器，以及对可移动非易失性光盘(例如CD-ROM，DVD-ROM或者其它光介质)读写的光盘驱动器。在这些情况下，每个驱动器可以通过一个或者多个数据介质接口与总线18相连。存储器28可以包括至少一个程序产品，该程序产品具有一组(例如至少一个)程序模块，这些程序模块被配置以执行本发明各实施例的功能。

具有一组(至少一个)程序模块42的程序/实用工具40，可以存储在例如存储器28中，这样的程序模块42包括——但不限于——操作系统、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。程序模块42通常执行本发明所描述的实施例中的功能和/或方法。

计算机设备12也可以与一个或多个外部设备14(例如键盘、指向设备、显示器24等)通信，还可与一个或者多个使得用户能与该计算机设备12交互的设备通信，和/或与使得该计算机设备12能与一个或多个其它计算设备进行通信的任何设备(例如网卡，调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口22进行。并且，计算机设备12还可以通过网络适配器20与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器20通过总线18与计算机设备12的其它模块通信。应当明白，尽管图6中未示出，可以结合计算机设备12使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID系统、磁带驱动器以及数据备份存储系统等。

处理单元16通过运行存储在系统存储器28中的程序，从而执行各种功能应用以及数据处理，例如实现本发明实施例所提供的图像搜索方法。

也即，所述处理单元执行所述程序时实现：获取摄像头实时捕捉的图像作为调整检测图像；对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

实施例七

本发明实施例七提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现如本申请所有发明实施例提供的图像搜索方法：

也即，该程序被处理器执行时实现：获取摄像头实时捕捉的图像作为调整检测图像；对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

可以采用一个或多个计算机可读的介质的任意组合。计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件，或者任意以上的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本文件中，计算机可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。

计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式，包括——但不限于——电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质，该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。

计算机可读介质上包含的程序代码可以用任何适当的介质传输，包括——但不限于——无线、电线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言或其组合来编写用于执行本发明操作的计算机程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中，远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)—连接到用户计算机，或者，可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。

注意，上述仅为本发明的较佳实施例及所运用技术原理。本领域技术人员会理解，本发明不限于这里所述的特定实施例，对本领域技术人员来说能够进行各种明显的变化、重新调整和替代而不会脱离本发明的保护范围。因此，虽然通过以上实施例对本发明进行了较为详细的说明，但是本发明不仅仅限于以上实施例，在不脱离本发明构思的情况下，还可以包括更多其他等效实施例，而本发明的范围由所附的权利要求范围决定。

Claims (11)

1.一种图像搜索方法，其特征在于，包括：

获取摄像头实时捕捉的图像作为调整检测图像；

本地对所述调整检测图像进行实体特征识别，和/或环境参数识别；

根据实体特征识别结果，和/或环境参数识别结果，向用户反馈对应的拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；

所述根据实体特征识别结果，向用户反馈对应的拍摄指导建议，包括：

如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体不满足与所述实体的实体类型对应的类型识别条件，则生成与所述实体类型匹配的拍摄指导建议反馈给所述用户，其中，所述类型识别条件包括：所述实体中包含与实体类型对应的单一类别子实体；

在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

2.根据权利要求1所述的方法，其特征在于，根据实体特征识别结果，向用户反馈对应的拍摄指导建议，包括：

如果确定在所述调整检测图像中识别出的实体数量大于1，则生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户；

如果确定在所述调整检测图像中识别出的实体数量为0，则生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户。

3.根据权利要求1所述的方法，其特征在于，根据实体特征识别结果，向用户反馈对应的拍摄指导建议，包括：

如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体与所述摄像头之间的距离小于第一距离阈值，则生成指导用户远离目标拍摄对象的拍摄指导建议反馈给所述用户；

如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体与所述摄像头之间的距离大于第二距离阈值，则生成指导用户靠近目标拍摄对象的拍摄指导建议反馈给所述用户。

4.根据权利要求1所述的方法，其特征在于，根据环境参数的识别结果，向用户反馈对应的拍摄指导建议，包括：

如果确定所述调整检测图像的图像特征参数不满足第一拍照识别条件，则生成指导用户开启闪光灯的拍摄指导建议反馈给所述用户；

如果确定所述调整检测图像的图像特征参数不满足第二拍照识别条件，则生成指导用户关闭闪光灯的拍摄指导建议反馈给所述用户；

其中，所述图像特征参数包括：亮度，和/或清晰度。

5.根据权利要求1所述的方法，其特征在于，本地对所述调整检测图像进行实体特征识别，包括：

通过本地尺度不变特征变换SIFT算法，对所述调整检测图像进行实体特征识别；

通过本地卷积神经网络CNN算法，对识别出的至少一个实体在拍摄取景框中进行可视化显示，其中，所述拍摄取景框中显示有所述调整检测图像。

6.根据权利要求5所述的方法，其特征在于，在获取摄像头实时捕捉的图像作为调整检测图像之前，还包括：

获取用户选择的图像搜索样式，其中，所述图像搜索样式包括：手动拍照搜索样式，或者自动拍照搜索样式；

在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像，包括：

在满足与所述图像搜索样式对应的图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

其中，与所述手动拍照搜索样式对应的图像选定条件包括：用户输入的拍照指令；与所述自动拍照搜索样式对应的图像选定条件包括：在稳定等待时间内，实时获取的所述调整检测图像满足拍照稳定条件。

7.根据权利要求6所述的方法，其特征在于，本地对所述调整检测图像进行实体特征识别，进一步包括：

根据用户选择的所述自动拍照搜索样式，将实体识别过程中识别出的实体特征点在所述拍摄取景框中进行可视化标注。

8.根据权利要求1所述的方法，其特征在于，根据所述搜索图像进行网络搜索，将网络搜索结果提供给所述用户，包括：

获取所述搜索图像中包括的目标实体；

在所述搜索图像中截取与所述目标实体对应的局部图像，并将所述局部图像在搜索图像显示界面的第一显示位置进行显示；

获取与所述目标实体对应的网络查询条件；

根据所述网络查询条件进行网络搜索，并将搜索结果在所述搜索图像展示界面的第二显示位置进行显示。

9.一种图像搜索装置，其特征在于，包括：

调整检测图像获取模块，用于获取摄像头实时捕捉的图像作为调整检测图像；

拍摄指导建议反馈模块，用于对所述调整检测图像进行本地识别，并根据本地识别结果向用户反馈拍摄指导建议，以指导所述用户对所述调整检测图像进行优化调整；

所述拍摄指导建议反馈模块，具体包括：

本地识别单元，用于本地对所述调整检测图像进行实体特征识别，和/或环境参数识别；

建议反馈单元，用于根据实体特征识别结果，和/或环境参数识别结果，向用户反馈对应的拍摄指导建议；所述建议反馈单元，具体用于：如果确定在所述调整检测图像中识别出的实体数量为1，且识别出的所述实体不满足与所述实体的实体类型对应的类型识别条件，则生成与所述实体类型匹配的拍摄指导建议反馈给所述用户，其中，所述类型识别条件包括：所述实体中包含与实体类型对应的单一类别子实体；

搜索图像获取模块，用于在满足图像选定条件时，获取所述摄像头当前捕捉的图像作为搜索图像；

网络搜索结果提供模块，用于根据所述搜索图像进行网络搜索，并将网络搜索结果提供给所述用户。

10.一种计算机设备，包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序，其特征在于，所述处理器执行所述程序时实现如权利要求2-8中任一所述的方法。

11.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-8中任一所述的方法。

Images