CN114638980A - 菜品种类识别处理方法及装置 - Google Patents

Abstract

本说明书实施例提供了菜品种类识别处理方法及装置，其中，一种菜品种类识别处理方法包括：对菜品机具采集的菜品组合的图像进行图像质量检测；若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

Description

菜品种类识别处理方法及装置

技术领域

本文件涉及数据处理技术领域，尤其涉及一种菜品种类识别处理方法及装置。

背景技术

菜品作为人们的生活必需品，针对菜品品种的开发在不断发展，菜品品种也在不断增加，用户通过肉眼通常只能辨别出少数品种的菜品。针对用户自助就餐的场景，帮助用户进行菜品识别成为了一种需求。而且，菜品识别还可以应用到多种不同的应用场景，例如餐饮店铺的结账流程、智能餐盘对菜品的语音介绍、智能冰箱针对存放的不同菜品的监控等等。

发明内容

本说明书一个或多个实施例提供了一种菜品种类识别处理方法，包括：对菜品机具采集的菜品组合的图像进行图像质量检测；若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征。将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

本说明书一个或多个实施例提供了一种菜品种类识别处理装置，包括：图像质量检测模块，被配置为对菜品机具采集的菜品组合的图像进行图像质量检测；若检测未通过，运行图像获取模块，所述图像获取模块，被配置为调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。遮挡关系校验模块，被配置为基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若校验通过，运行菜品特征提取模块，所述菜品特征提取模块，被配置为在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征。菜品种类确定模块，被配置为将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

本说明书一个或多个实施例提供了一种菜品种类识别处理设备，包括：处理器；以及，被配置为存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器：对菜品机具采集的菜品组合的图像进行图像质量检测；若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征。将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

本说明书一个或多个实施例提供了一种存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：对菜品机具采集的菜品组合的图像进行图像质量检测；若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征。将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

附图说明

为了更清楚地说明本说明书一个或多个实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本说明书中记载的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图；

图1为本说明书一个或多个实施例提供的一种菜品种类识别处理方法处理流程图；

图2为本说明书一个或多个实施例提供的一种应用于团餐场景的菜品种类识别处理方法处理流程图；

图3为本说明书一个或多个实施例提供的一种菜品种类识别处理装置示意图；

图4为本说明书一个或多个实施例提供的一种菜品种类识别处理设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本说明书一个或多个实施例中的技术方案，下面将结合本说明书一个或多个实施例中的附图，对本说明书一个或多个实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本说明书的一部分实施例，而不是全部的实施例。基于本说明书一个或多个实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本文件的保护范围。

本说明书提供的一种菜品种类识别处理方法实施例：

参照图1，本实施例提供的菜品种类识别处理方法，所述方法具体包括步骤S102至步骤S110。

步骤S102，对菜品机具采集的菜品组合的图像进行图像质量检测。

实际应用中，在识别菜品的过程中，从固定视角对识别区拍照采集图像，通过检测与分类两个模型串行对图像内容进行分析处理，得到菜品数量与品类，但由于具体场景下环境光线不稳定、菜品自由摆放导致的互相遮挡问题，会导致菜品种类的识别准确性低。

本实施例提供的菜品种类识别处理方法，通过调整菜品机具的图像采集参数，采集能够通过图像质量检测的菜品组合的目标图像，并通过对目标图像的菜品组合中各菜品的遮挡关系进行校验，使获取到能够清晰表征菜品的菜品特征，将获取到的菜品特征与菜品哭中注册菜品的菜品特征进行比对来确定目标图像中各菜品的菜品种类；

以此，通过对采集到的菜品组合的图像进行图像质量检测，并在检测未通过的情况下调整图像采集参数重新采集，直至采集到的能够通过图像质量检测的目标图像，提升采集到的图像质量，提升对菜品种类确定的有效性，进一步，在采集到的目标图像后，对目标图像进行遮挡关系校验，以保证对目标图像中各菜品进行特征提取的准确度，此外，通过设置菜品库，提升将新菜品进行注册的效率。

本实施例所述菜品机具，是指就餐机构或者机构内部组织(比如学校食堂或者餐厅)配置的用于菜品识别、菜品结算或者其他功能的机具；例如，摄像机。且在具体实施时，为了解决环境光照变化的问题，在菜品机具配置环境光遮挡结构和/或主动补光模块，或者配置非可见光补光和非可见光相机。所述菜品组合，是指由一个或者多个菜品种类的菜品组成的组合，比如菜品组合为菜品A、菜品B、菜品C的组合；需要说明的是，所述菜品组合中包含的菜品不仅可以是传统意义上的各种类型的菜品，还可以是粗粮、细粮、饮品；本实施例中，所述菜品组合还包括处于同一采集范围内的至少一个菜品，或者处于同一盛载器皿内的至少一个菜品；例如：同一可盛放多种菜品的餐盘中的多种菜品的组合，餐厅内同一餐桌上多个餐盘中的菜品的组合。所述图像，是指针对菜品组合采集的图像信息，

实际应用中，由于环境光线不稳定等因素，利用固定参数进行图像采集，无法确保图像质量；基于此，为了提升对菜品组合中不同菜品进行确定的准确率，本实施例中对菜品机具采集的菜品组合的图像进行图像质量检测。可选的，所述菜品机具按照图像采集周期进行菜品组合的图像采集，或者，在所述菜品机具配置的检测传感器检测到菜品组合满足检测条件时进行图像采集，或者，在接收到用户操作指令后进行菜品组合的图像采集。

在菜品机具采集到菜品组合的图像后，对采集到的图像进行图像质量检测，可选的，若检测通过，则将进行所述图像质量检测的图像作为目标图像，并执行下述步骤S106，基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；若检测未通过，则执行下述步骤S104，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。所述目标图像，包括通过图像质量检测的由菜品机具采集的菜品组合的图像。

需要说明的是，在进行图像质量检测的过程中，可通过图像质量指标进行图像质量检测，还可根据菜品识别任务配置特定评估指标，通过配置的特定评估指标进行图像质量检测；还可通过图像质量指标和特定评估指标二者结合来进行图像质量检测，本实施例在此不做限定。其中，图像质量指标包括图像平均亮度和/或对比度；特定评估指标包括菜品存在概率，即图像中是否包含菜品。

例如，在进行图像质量检测时利用模型对图像中的菜品位置进行预测，判断模型输出的菜品区域置信度是否落入预设区间，若是，则确定图像质量检测通过；若否，则确定图像质量检测未通过；和/或，在进行图像质量检测时计算图像中菜品组合之间各菜品的相似度和/或图像中菜品存在的概率，若相似度和/或概率满足预设条件，则确定图像质量检测通过；若相似度或者概率不满足预设条件，则确定图像质量检测未通过。

步骤S104，若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。

所述图像采集参数，包括菜品机具进行图像采集过程中的焦距、角度、曝光、光圈等参数。

具体实施时，对菜品机具采集的菜品组合的图像进行图像质量检测但检测未通过的情况下，为了获得图像质量符合条件的图像，则调整菜品机具的图像采集参数，并利用调整图像采集参数后的菜品机具重新进行菜品组合的图像采集，获取基于调整后的图像采集参数采集的图像；可选的，调整菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像之后，返回执行步骤S102，对菜品机具采集的菜品组合的图像进行图像质量检测。

具体的，在获取到菜品机具采集的菜品组合的图像后，对采集的图像进行图像质量检测，若检测通过，则将该图像作为目标图像进行遮挡关系校验；若检测未通过，则调整菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；对基于调整后的图像采集参数采集的图像进行图像质量检测，若检测通过，则将该图像作为目标图像进行遮挡关系校验；若检测未通过，则继续调整菜品极具有的图像采集参数，并获取基于调整后的图像采集参数采集的图像，对采集到的图像进行图像质量检测，以此循环，直至采集到图像质量检测通过的图像，将该图像作为目标图像进行遮挡关系校验。

除此之外，为了提升对目标图像的确定效率，避免由于多次调整菜品机具的图像采集参数但采集到的图像仍然未通过图像质量检测，导致采集时间过长影响用户体验，且由于多次对图像采集参数进行调整以及对图像进行采集，导致对菜品机具的无效消耗，本实施例提供的一种可选实施方式中，在对菜品机具采集的菜品组合的第一图像进行图像质量检测但检测未通过的情况下，调整菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的第二图像，将所述菜品机具在所述图像采集参数调整前采集的图像与调整后采集的图像进行合成处理，并将合成处理获得的合成图像作为所述目标图像，即将第一图像和第二图像进行合成处理，并将合成处理获得的合成图像作为目标图像。

例如，获取菜品机具采集的菜品组合的第一图像，其中，第一图像为高曝光的图像，对第一图像进行图像质量检测，若检测通过，则将第一图像确定为进行遮挡关系校验的目标图像；若检测未通过，则调整菜品机具的图像采集参数并基于调整后的图像采集参数采集菜品组合的第二图像，其中，第二图像为高对比度的图像，在采集到第二图像后，利用HDR(High Dynamic Range Imaging，高动态范围成像)技术将第一图像和第二图像合成，将合成后的合成图像作为目标图像；

为了提升进行遮挡关系校验的图像的质量，在获得第二图像后，对第二图像进行图像质量检测，若检测通过，则将第二图像确定为进行遮挡关系校验的目标图像；若检测未通过，则将第一图像和第二图像进行合成处理，获得合成图像；

获得合成图像之后，为了进一步保证合成图像的质量，对合成图像进行图像质量检测；若检测通过，则将合成图像作为目标图像；若检测未通过，则调整菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的第三图像，对第三图像进行图像质量检测，若检测通过，则将第三图像确定为目标图像；若检测未通过，则利用HDR技术将高分辨率的第三图像和合成图像进行合成处理，获得第二合成图像，对第二合成图像进行图像质量检测，若检测通过，则将第二合成图像作为目标图像；若检测未通过，则继续调整菜品机具的图像采集参数，并基于调整后的图像采集参数进行图像采集，以此类推，直至获得通过图像质量检测的图像。

需要说明的是，为了避免长时间未获取到能通过图像质量检测的目标图像配置预设采集次数，若针对菜品组合的采集次数等于预设采集次数，则利用采集到图像进行遮挡关系校验。

步骤S106，基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验。

实际应用中，自由摆放的菜品可能会互相遮挡，若不进行调整，则可能在检测时漏检，或者识别错误，即菜品组合中各菜品之间存在遮挡会导致对菜品识别不准确，进而影响菜品种类的确定，因此，在获得目标图像后，对目标图像进行菜品组合中各菜品的遮挡关系校验，以保证能够准确地确定各菜品的菜品种类。

为了提升对于菜品之间的遮挡关系的校验的有效性，通过核验目标图像中各菜品的像素之间是否存在覆盖来进行遮挡关系校验，若存在，则确定校验未通过；若不存在，则确定校验通过；本实施例提供的第一种可选实施方式中，遮挡关系校验通过如下方式实现：

将所述目标图像输入预先训练的二分类模型进行菜品组合中各菜品的遮挡关系校验，输出所述目标图像的遮挡关系类型；

若所述遮挡关系类型为存在菜品遮挡，则确定校验未通过；

若所述遮挡关系类型为不存在菜品遮挡，则确定校验通过。

其中，二分类模型可基于菜品位置关系设置条件获得，还可基于大量数据进行训练学习获得，本实施在此不做限定。

具体的，将目标图像输入预先训练的二分类模型中，二分类模型判断目标图像是否存在遮挡二分类，若存在，则输出菜品遮挡的遮挡关系类型(比如“1”)；若不存在，则输出不存在菜品遮挡的遮挡关系类型(比如“0”)。若二分类模型输出的遮挡关系类型为存在菜品遮挡，即输出“1”，则确定遮挡关系校验未通过；若二分类模型输出的遮挡关系类型为不存在菜品遮挡，即输出“0”，则确定遮挡关系校验通过。

为了进一步提升对菜品的遮挡关系校验的有效性，将目标图像中各菜品进行划分，对各菜品对应的图像区域进行遮挡检测，本实施例提供的第二种实施方式中，采用如下方式进行菜品组合中各菜品的遮挡关系校验：

对所述目标图像进行菜品图像区域切分，获得各菜品的图像区域对应的子图像；

将各菜品的图像区域对应的子图像输入遮挡检测模型进行菜品遮挡检测，输出各菜品的检测标识；

若存在任一菜品的检测标识为遮挡标识，则确定校验未通过；

若各菜品的检测标识均为非遮挡标识，则确定校验通过。

具体的，在进行遮挡关系校验的过程中，首先按照菜品组合中各菜品，对目标图像进行菜品图像区域划分，获得各菜品对应的子图像，然后将各菜品对应的自图像输入遮挡检测模型，遮挡检测模型检测任一菜品对应的子图像中是否出现其他菜品的特征，若是，则输出该菜品对应的子图像的检测标识为遮挡标识，若否，则输出该菜品对应的子图像的检测标识为非遮挡标识；在目标图像的所有子图像的检测标识为非遮挡标识的情况下，确定目标图像的各菜品的遮挡关系校验通过；若存在任一子图像的检测标识为遮挡标识，确定目标图像的各菜品的遮挡关系校验未通过。

其中，在对目标图像进行菜品图像区域划分的过程中，将目标图像输入区域划分模型进行菜品图像区域划分，输出各菜品的菜品图像区域对应的子图像。

具体实施时，若遮挡关系校验通过，则执行下述步骤S108，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；本实施例提供的一种可选实施方式中，若校验未通过，则执行如下操作：

向所述菜品机具下发所述菜品组合存在菜品遮挡的遮挡提醒，以提醒目标用户对菜品盛放用具中的菜品进行调整；

获取所述菜品机具采集的图像，并返回执行所述对菜品机具采集的菜品组合的图像进行图像质量检测步骤。

具体的，遮挡关系校验执行之后的执行结果为校验通过，则在目标图像中各菜品对应的图像区域中提取各菜品的菜品特征，并基于菜品特征确定各菜品的菜品种类；若校验未通过，则基于菜品机具进行遮挡提醒，以提醒目标用户对菜品盛放用具中的菜品进行调整。

其中，遮挡提醒包括提示音、图像显示、灯光显示和/或震动多种方式；所述目标人员包括餐厅工作人员或者用餐用户。

目标用户在调整菜品至无遮挡状态后，重新触发菜品机具对菜品组合进行图像采集，重新进行图像质量检测；需要说明的是，遮挡关系校验的过程可重复执行多次，直至校验通过或者到达预设校验次数。在校验未通过向菜品机具下发提醒，以及目标用户对菜品进行调整后，重新采集图像，并对图像进行图像质量检测，在检测通过的情况下重新进行遮挡关系校验。

本实施例中，为了提升对于菜品种类的确定效率，避免由于多次重复进行遮挡关系校验导致效率低下，本实施例提供的一种可选实施方式中，在对目标图像进行遮挡关系校验且校验未通过的情况下，执行如下操作：

调用所述菜品机具配置的多个图像采集传感器采集多张图像，并根据预先标定的所述多个图像采集传感器的空间位置确定所述多张图像的位置标定信息；

根据所述位置标定信息进行所述多张图像的图像关联；

基于图像关联结果确定各菜品对应的图像区域并提取各菜品的菜品特征。

具体的，若校验未通过，则调用该菜品机具配置的多个图像采集传感器采集多张图像，并根据预先标定的各个图像采集传感器的空间位置，确定各个图像采集传感器采集的图像的位置标定信息，并基于位置标定信息对应于同一菜品组合的多张图像进行图像关联，然后分别从对应于同一菜品组合的多张图像，即图像关联关系的多张图像确定各菜品对应的图像区域，选取各菜品未被遮挡的一个或多个图像区域，并提取各菜品的菜品特征。

本实施例所述的菜品种类识别方法，还可通过如下方式实现：获取菜品机具配置的多个图像采集传感器采集的多张图像；对多张图像进行空间位置标定，并根据多张图像的位置标定信息进行多张图像的图像关联，基于图像关联结果确定各菜品对应的图像区域并提取各菜品的菜品特征，将各菜品的菜品特征于菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

需要说明的是，获取到菜品机具配置的多个图像采集传感器采集的多张图像后，对多张图像进行图像质量检测，将检测通过的图像作为候选图像，调整检测未通过的图像对应的图像采集传感器的图像采集参数，并获取基于调整后的图像采集参数采集的多张图像(检测未通过的图像对应的图像采集传感器采集的多张图像)，对该多张图像进行图像质量检测；若都检测通过，则将该多张图像和候选图像确定为目标图像，并对多张图像进行空间位置标定，以进行图像关联；若存在检测未通过的图像，则重新采集，以此类推，直至采集到都检测通过的图像。

步骤S108，若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征。

所述菜品特征，包括能够表征菜品特点的信息，例如颜色、大小、种类、形状。

具体实施时，若在进行遮挡关系校验的过程中，将目标图像输入预先训练的二分类模型进行菜品组合中各菜品的遮挡关系校验，本实施例提供的一种可选实施方式中，采用如下方式提取各菜品的菜品特征：

对所述目标图像进行菜品图像区域切分，获得各菜品的图像区域对应的子图像；

将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量。

对应于上述提供的对目标图像进行菜品区域切分，基于各菜品的图像区域对应的子图像进行遮挡关系校验的实施例，本实施例提供的一种可选实施方式中，采用如下方式提取各菜品的菜品特征：

将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量；

其中，所述注册菜品的菜品特征，是指将所述注册菜品的菜品图像输入所述特征提取模型进行菜品特征提取获得的所述注册菜品的菜品特征向量。

具体的，若未对目标图像进行划分，则在提取各菜品的菜品特征的过程中，首先对目标图像进行菜品图像区域划分，获得各菜品的图像区域对应的子图像，然后将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量；若已对目标图像进行划分，获得各菜品的图像区域对应的子图像，则在提取各菜品的图像特征的过程中，将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量。

需要说明的是，本实施例提供的一种可选实施方式中，在目标图像包括调用所述菜品机具配置的多个图像采集传感器采集的多张图像的情况下，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征的过程中，首先对所述多张图像进行空间位置标定，并根据标定获得的位置标定信息进行所述多张图像的图像关联，然后基于图像关联结果确定各菜品对应的图像区域并提取各菜品的菜品特征。

例如，对一个菜品机具设置多个不同视角的相机进行图像采集，对采集到的图像进行光学标定后，基于多视几何原理，将多个相机拍摄的图像进行关联，选取无遮挡视角的图像进行特征提取。

步骤S110，将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

实际应用中，餐厅供应的菜品类型动态变化，为适配新增菜品，需要采集大量新增菜品的数据，重新训练分类模型，流程冗长且耗时耗力。

基于此，本实施例将菜品类型分类改为菜品特征提取和比对，其中，菜品特征提取模型提取菜品的颜色、形状、成分等基础特征，只需一次训练即可持续使用，且通过设置菜品库，使新增菜品无需重新训练模型，仅需将新增菜品的特征加入菜品库即可。

在目标图像中各菜品对应的图像区域中提取各菜品的菜品特征向量后，本实施例提供的一种可选实施方式中，通过如下方式确定各菜品的菜品种类：

针对各菜品中任一菜品，采用相似度算法计算该菜品的菜品特征向量与所述注册菜品的菜品特征向量的相似度；

将相似度满足预设条件的注册菜品的菜品种类确定为该菜品的菜品种类。

具体的，针对各菜品中的任一菜品，通过计算该菜品的菜品特征向量与注册菜品的菜品特征向量的相似度确定该菜品的菜品种类。

在将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对的过程中，通过计算菜品特征向量与注册菜品的菜品特征向量的相似度，并基于相似度利用K最近邻(k-Nearest Neighbor，KNN)分类算法进行比对，确定菜品种类；还可通过预先训练的模型对相似度进行二分类判断，从而确定菜品种类。

本实施例提供的一种可选实施方式中，在确定各菜品的菜品种类之后，根据各菜品的菜品种类对应的菜品单价，计算所述菜品组合的总费用并进行费用结算处理。

下述以本实施例提供的一种菜品种类识别处理方法在团餐场景的应用为例，对本实施例提供的菜品种类识别处理方法进行进一步说明，参见图2，应用于团餐场景的菜品种类识别处理方法，具体包括下述步骤。

步骤S202，对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测通过，则执行下述步骤S206至步骤S208；

若检测未通过，则执行下述步骤S204并返回执行步骤S202；直至获取到的图像通过图像质量检测。

步骤S204，调整菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像。

步骤S206，将检测通过的目标图像进行菜品图像区域划分，获得各菜品的图像区域对应的子图像。

步骤S208，将各菜品的图像区域对应的子图像输入遮挡检测模型进行菜品遮挡检测，输出各菜品的检测标识。

若存在任一菜品的检测标识为遮挡标识，则确定遮挡关系校验未通过，返回执行步骤S202；

若各菜品的检测标识为非遮挡标识，则确定遮挡关系校验通过，执行步骤S210至步骤216。

步骤S210，将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量。

步骤S212，采用相似度算法计算各菜品的菜品特征向量与注册菜品的菜品特征向量的相似度。

步骤S214，基于各菜品的菜品特征向量与注册菜品的菜品特征向量的相似度，确定各菜品的菜品种类。

步骤S216，根据各菜品的菜品种类对应的菜品单价，计算菜品组合的总费用并进行费用结算处理。

其中，步骤S202至步骤S208的执行过程，还可被替换为：获取菜品机具配置的多个图像传感器采集的多张图像；对多张图像进行空间位置标定，并根据标定获得的位置标定信息进行多张图像的图像关联，基于图像关联结果确定各菜品的对应的图像区域对应的子图像。

在获取到多张图像后，还可对多张图像进行图像质量检测，在检测通过的情况下进行空间位置标定，在检测未通过的情况下调整菜品机具配置的多个图像采集传感器的图像采集参数，并基于图像采集参数进行重新采集，对重新采集的多张图像(图像数量可小于第一次采集的图像数量)进行图像质量检测，以此类推，直至采集到图像质量检测通过的与多个图像传感器对应的多张图像。

综上所述，本实施例提供的菜品种类识别处理方法，对菜品机具采集的图像进行图像质量检测，在检测未通过的情况下调整菜品机具的图像采集参数，并获取菜品机具基于调整后的图像采集参数采集的图像，直至获取到能够通过图像质量检测的图像，以此，提升进行菜品种类识别的目标图像的图像质量，提升菜品种类识别的准确性；

在获取到图像质量检测通过的目标图像后，对目标图像进行遮挡关系校验，具体的，在进行遮挡关系校验的过程中，可基于目标图像整体进行遮挡关系校验，还可对目标图像进行子图像划分，获得各菜品的图像区域对应的子图像，基于子图像进行遮挡关系校验，在校验通过的情况下，提取各菜品的菜品特征；在校验未通过的情况下，重新进行图像采集；以此，避免由于遮挡导致菜品种类识别效果差，进一步提升菜品种类识别的准确性；

在校验通过的情况下，通过特征提取模型进行菜品特征提取，且特征提取模型只需训练一次，重复多次使用，提升对于菜品特征提取的效率；

通过计算菜品特征和菜品库中注册菜品的菜品特征的相似度，来确定各菜品的菜品种类，无需通过模型进行菜品种类的确定，避免在每次新增菜品后都要重新训练用于确定菜品种类的模型，提升菜品识别效率，避免重新训练模型的流程冗长和耗时耗力。

本说明书提供的一种菜品种类识别处理装置实施例如下：

在上述的实施例中，提供了一种菜品种类识别处理方法，与之相对应的，还提供了一种运行于服务客户端的菜品种类识别处理装置，下面结合附图进行说明。

参照图3，其示出了本实施例提供的一种菜品种类识别处理装置示意图。

由于装置实施例对应于方法实施例，所以描述得比较简单，相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。

本实施例提供一种菜品种类识别处理装置，包括：

图像质量检测模块302，被配置为对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，运行图像获取模块304，所述图像获取模块304，被配置为调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

遮挡关系校验模块306，被配置为基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，运行菜品特征提取模块308，所述菜品特征提取模块308，被配置为在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

菜品种类确定模块310，被配置为将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

本说明书提供的一种菜品种类识别处理设备实施例如下：

对应上述描述的一种菜品种类识别处理方法，基于相同的技术构思，本说明书一个或多个实施例还提供一种菜品种类识别处理设备，该菜品种类识别处理设备用于执行上述提供的菜品种类识别处理方法，图4为本说明书一个或多个实施例提供的一种菜品种类识别处理设备的结构示意图。

本实施例提供的一种菜品种类识别处理设备，包括：

如图4所示，菜品种类识别处理设备可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上的处理器401和存储器402，存储器402中可以存储有一个或一个以上存储应用程序或数据。其中，存储器402可以是短暂存储或持久存储。存储在存储器402的应用程序可以包括一个或一个以上模块(图示未示出)，每个模块可以包括菜品种类识别处理设备中的一系列计算机可执行指令。更进一步地，处理器401可以设置为与存储器402通信，在菜品种类识别处理设备上执行存储器402中的一系列计算机可执行指令。菜品种类识别处理设备还可以包括一个或一个以上电源403，一个或一个以上有线或无线网络接口404，一个或一个以上输入/输出接口405，一个或一个以上键盘406等。

在一个具体的实施例中，菜品种类识别处理设备包括有存储器，以及一个或一个以上的程序，其中一个或者一个以上程序存储于存储器中，且一个或者一个以上程序可以包括一个或一个以上模块，且每个模块可以包括对菜品种类识别处理设备中的一系列计算机可执行指令，且经配置以由一个或者一个以上处理器执行该一个或者一个以上程序包含用于进行以下计算机可执行指令：

对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

本说明书提供的一种存储介质实施例如下：

对应上述描述的一种菜品种类识别处理方法，基于相同的技术构思，本说明书一个或多个实施例还提供一种存储介质。

本实施例提供的存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：

对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

需要说明的是，本说明书中关于存储介质的实施例与本说明书中关于菜品种类识别处理方法的实施例基于同一发明构思，因此该实施例的具体实施可以参见前述对应方法的实施，重复之处不再赘述。

上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。

在20世纪30年代，对于一个技术的改进可以很明显地区分是硬件上的改进(例如，对二极管、晶体管、开关等电路结构的改进)还是软件上的改进(对于方法流程的改进)。然而，随着技术的发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件(Programmable Logic Device，PLD)(例如现场可编程门阵列(Field Programmable GateArray，FPGA))就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把一个数字系统“集成”在一片PLD上，而不需要请芯片制造厂商来设计和制作专用的集成电路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器(logic compiler)”软件来实现，它与程序开发撰写时所用的软件编译器相类似，而要编译之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言(Hardware Description Language，HDL)，而HDL也并非仅有一种，而是有许多种，如ABEL(Advanced Boolean Expression Language)、AHDL(Altera Hardware DescriptionLanguage)、Confluence、CUPL(Cornell University Programming Language)、HDCal、JHDL(Java Hardware Description Language)、Lava、Lola、MyHDL、PALASM、RHDL(RubyHardware Description Language)等，目前最普遍使用的是VHDL(Very-High-SpeedIntegrated Circuit Hardware Description Language)与Verilog。本领域技术人员也应该清楚，只需要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。

控制器可以按任何适当的方式实现，例如，控制器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application Specific Integrated Circuit，ASIC)、可编程逻辑控制器和嵌入微控制器的形式，控制器的例子包括但不限于以下微控制器：ARC625D、Atmel AT91SAM、Microchip PIC18F26K20以及Silicone Labs C8051F320，存储器控制器还可以被实现为存储器的控制逻辑的一部分。本领域技术人员也知道，除了以纯计算机可读程序代码方式实现控制器以外，完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件，而对其内包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至，可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。

上述实施例阐明的系统、装置、模块或单元，具体可以由计算机芯片或实体实现，或者由具有某种功能的产品来实现。一种典型的实现设备为计算机。具体的，计算机例如可以为个人计算机、膝上型计算机、蜂窝电话、相机电话、智能电话、个人数字助理、媒体播放器、导航设备、电子邮件设备、游戏控制台、平板计算机、可穿戴设备或者这些设备中的任何设备的组合。

为了描述的方便，描述以上装置时以功能分为各种单元分别描述。当然，在实施本说明书实施例时可以把各单元的功能在同一个或多个软件和/或硬件中实现。

本领域内的技术人员应明白，本说明书一个或多个实施例可提供为方法、系统或计算机程序产品。因此，本说明书一个或多个实施例可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且，本说明书可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。

本说明书是参照根据本说明书实施例的方法、设备(系统)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。

这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。

这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。

在一个典型的配置中，计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。

内存可能包括计算机可读介质中的非永久性存储器，随机存取存储器(RAM)和/或非易失性内存等形式，如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。

计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括，但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带，磁盘存储或其他磁性存储设备或任何其他非传输介质，可用于存储可以被计算设备访问的信息。按照本文中的界定，计算机可读介质不包括暂存电脑可读媒体(transitory media)，如调制的数据信号和载波。

还需要说明的是，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、商品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、商品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、商品或者设备中还存在另外的相同要素。

本说明书一个或多个实施例可以在由计算机执行的计算机可执行指令的一般上下文中描述，例如程序模块。一般地，程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构等等。也可以在分布式计算环境中实践本说明书的一个或多个实施例，在这些分布式计算环境中，由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中，程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。

本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

以上所述仅为本文件的实施例而已，并不用于限制本文件。对于本领域技术人员来说，本文件可以有各种更改和变化。凡在本文件的精神和原理之内所作的任何修改、等同替换、改进等，均应包含在本文件的权利要求范围之内。

Claims (17)

1.一种菜品种类识别处理方法，包括：

对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

2.根据权利要求1所述的菜品种类识别处理方法，所述对菜品机具采集的菜品组合的图像进行图像质量检测步骤执行之后，还包括：

若检测通过，则将进行所述图像质量检测的图像作为目标图像，并执行所述基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验步骤。

3.根据权利要求2所述的菜品种类识别处理方法，所述调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像步骤执行之后，返回执行所述对菜品机具采集的菜品组合的图像进行图像质量检测步骤。

4.根据权利要求1所述的菜品种类识别处理方法，还包括：

将所述菜品机具在所述图像采集参数调整前采集的图像与调整后采集的图像进行合成处理，并将合成处理获得的合成图像作为所述目标图像。

5.根据权利要求1所述的菜品种类识别处理方法，所述基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验步骤执行之后，还包括：

若校验未通过，向所述菜品机具下发所述菜品组合存在菜品遮挡的遮挡提醒，以提醒目标用户对菜品盛放用具中的菜品进行调整；

获取所述菜品机具采集的图像，并返回执行所述对菜品机具采集的菜品组合的图像进行图像质量检测步骤。

6.根据权利要求1所述的菜品种类识别处理方法，所述基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验，包括：

将所述目标图像输入预先训练的二分类模型进行菜品组合中各菜品的遮挡关系校验，输出所述目标图像的遮挡关系类型；

若所述遮挡关系类型为存在菜品遮挡，则确定校验未通过；

若所述遮挡关系类型为不存在菜品遮挡，则确定校验通过。

7.根据权利要求1所述的菜品种类识别处理方法，所述基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验，包括：

对所述目标图像进行菜品图像区域切分，获得各菜品的图像区域对应的子图像；

将各菜品的图像区域对应的子图像输入遮挡检测模型进行菜品遮挡检测，输出各菜品的检测标识；

若存在任一菜品的检测标识为遮挡标识，则确定校验未通过；

若各菜品的检测标识均为非遮挡标识，则确定校验通过。

8.根据权利要求7所述的菜品种类识别处理方法，所述在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征，包括：

将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量；

其中，所述注册菜品的菜品特征，是指将所述注册菜品的菜品图像输入所述特征提取模型进行菜品特征提取获得的所述注册菜品的菜品特征向量。

9.根据权利要求1所述的菜品种类识别处理方法，所述在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征，包括：

对所述目标图像进行菜品图像区域切分，获得各菜品的图像区域对应的子图像；

将各菜品的图像区域对应的子图像输入特征提取模型进行菜品特征提取，输出各菜品的菜品特征向量。

10.根据权利要求8或9所述的菜品种类识别处理方法，所述将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类，包括：

针对各菜品中任一菜品，采用相似度算法计算该菜品的菜品特征向量与所述注册菜品的菜品特征向量的相似度；

将相似度满足预设条件的注册菜品的菜品种类确定为该菜品的菜品种类。

11.根据权利要求1所述的菜品种类识别处理方法，所述目标图像包括调用所述菜品机具配置的多个图像采集传感器采集的多张图像；

相应的，所述在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征，包括：

对所述多张图像进行空间位置标定，并根据标定获得的位置标定信息进行所述多张图像的图像关联；

基于图像关联结果确定各菜品对应的图像区域并提取各菜品的菜品特征。

12.根据权利要求1所述的菜品种类识别处理方法，所述基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验步骤执行之后，还包括：

若校验未通过，调用所述菜品机具配置的多个图像采集传感器采集多张图像，根据预先标定的所述多个图像采集传感器的空间位置确定所述多张图像的位置标定信息；

根据所述位置标定信息进行所述多张图像的图像关联；

基于图像关联结果确定各菜品对应的图像区域并提取各菜品的菜品特征。

13.根据权利要求1所述的菜品种类识别处理方法，所述将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类步骤执行之后，还包括：

根据各菜品的菜品种类对应的菜品单价，计算所述菜品组合的总费用并进行费用结算处理。

14.根据权利要求1所述的菜品种类识别处理方法，所述菜品机具按照图像采集周期进行菜品组合的图像采集，或者，在所述菜品机具配置的检测传感器检测到菜品组合满足检测条件时进行图像采集，或者，在接收到用户操作指令后进行菜品组合的图像采集。

15.一种菜品种类识别处理装置，包括：

图像质量检测模块，被配置为对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，运行图像获取模块，所述图像获取模块，被配置为调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

遮挡关系校验模块，被配置为基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，运行菜品特征提取模块，所述菜品特征提取模块，被配置为在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

菜品种类确定模块，被配置为将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

16.一种菜品种类识别处理设备，包括：

处理器；以及，被配置为存储计算机可执行指令的存储器，所述计算机可执行指令在被执行时使所述处理器：

对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

17.一种存储介质，用于存储计算机可执行指令，所述计算机可执行指令在被处理器执行时实现以下流程：

对菜品机具采集的菜品组合的图像进行图像质量检测；

若检测未通过，调整所述菜品机具的图像采集参数，并获取基于调整后的图像采集参数采集的图像；

基于检测通过的目标图像进行所述菜品组合中各菜品的遮挡关系校验；

若校验通过，在所述目标图像中各菜品对应的图像区域中提取各菜品的菜品特征；

将各菜品的菜品特征与菜品库中注册菜品的菜品特征进行比对，根据比对结果确定各菜品的菜品种类。

Images