CN113643473A - 信息识别方法、装置、电子设备和计算机可读介质 - Google Patents

信息识别方法、装置、电子设备和计算机可读介质 Download PDF

Info

Publication number
CN113643473A
CN113643473A CN202111189793.2A CN202111189793A CN113643473A CN 113643473 A CN113643473 A CN 113643473A CN 202111189793 A CN202111189793 A CN 202111189793A CN 113643473 A CN113643473 A CN 113643473A
Authority
CN
China
Prior art keywords
information
article
sequence
image
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202111189793.2A
Other languages
English (en)
Inventor
邓博洋
程杨武
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Missfresh Ecommerce Co Ltd
Original Assignee
Beijing Missfresh Ecommerce Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Missfresh Ecommerce Co Ltd filed Critical Beijing Missfresh Ecommerce Co Ltd
Priority to CN202111189793.2A priority Critical patent/CN113643473A/zh
Publication of CN113643473A publication Critical patent/CN113643473A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07FCOIN-FREED OR LIKE APPARATUS
    • G07F9/00Details other than those peculiar to special kinds or types of apparatus
    • G07F9/02Devices for alarm or indication, e.g. when empty; Advertising arrangements in coin-freed apparatus
    • G07F9/026Devices for alarm or indication, e.g. when empty; Advertising arrangements in coin-freed apparatus for alarm, monitoring and auditing in vending machines or means for indication, e.g. when empty

Abstract

本公开的实施例公开了信息识别方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列;将该图像序列划分成图像子序列组;根据该图像序列的时间段信息,获取目标重力传感器所发送的与该时间段信息相对应的、针对该目标物品存储柜的重量变换信息;依据预设重量变换划分条件,对该重量变换信息进行划分,得到重量变换子信息序列;根据该图像子序列组和该重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。该实施方式可以快捷、高效地识别出目标物品存储柜中各个物品的进出信息。

Description

信息识别方法、装置、电子设备和计算机可读介质
技术领域
本公开的实施例涉及计算机技术领域,具体涉及信息识别方法、装置、电子设备和计算机可读介质。
背景技术
目前,无人货柜已广泛的应用在人们的日常生活中。无人货柜可以包括:机械柜,开放式货架,静态柜和动态柜。其中,相对于其他类型的货柜,动态柜不需要严格的柜内物品摆放标准,允许柜内物品的叠放,可以更大程度的利用可摆放空间。对于动态柜中各种物品的进出识别,现有方式常常为:通过重力变换和视频检测来粗略的识别动态柜中各物品的进出信息。
然而,当采用上述方式进行各物品的进出信息的识别时,经常会存在如下技术问题:
第一,通过重力变换和视频检测的粗略识别往往只能针对无人货柜中简单的单个物品且没有放回的情况。对于多个物品的拿取和放回,往往不能对重力变换曲线和动态柜视频有一个很好的划分,不能有效的区别出针对物品进出的图像序列和重量变化信息序列,导致后续识别各次物品进出过程中各个物品的进出信息的识别效率低下。
第二,现有方式不能高效、精准的将动态柜重力的变化和视频检测一一对应起来,以至于后续识别物品进出过程中各个物品的进出较为混乱。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了信息识别方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种信息识别方法,包括:确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;根据上述物品名称信息序列,将上述图像序列划分成图像子序列组;根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息;依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列;根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
可选地,上述根据上述物品名称信息序列,将上述图像序列划分成图像子序列组,包括:从上述物品名称信息序列中筛选出与第一目标物品名称信息集中任一第一目标物品名称信息相关联的物品名称信息,作为第二目标物品名称信息,得到第二目标物品名称信息序列;确定上述第二目标物品名称信息序列中每相邻两个第二目标物品名称信息之间的时间差,得到时间差序列;根据上述时间差序列,将上述图像序列划分成上述图像子序列组。
可选地,上述根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息,包括:对于上述各次物品进出过程中的每次物品进出过程,通过以下第一识别步骤识别上述物品进出过程中各个物品的进出信息:从上述重量变换子信息序列中筛选出表征重量维持不变的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列;确定上述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列,其中,物品搭配信息包括:目标重量变换子信息对应的物品名称信息和目标重量变换子信息对应的物品进出数目信息;根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息。
可选地,在上述将上述第一目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息之后,上述方法还包括:响应于确定不存在,将上述目标重量变换子信息序列中的、上述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息;确定上述第二初始重量变换子信息相对应的物品搭配信息集;确定上述物品搭配信息集中是否存在与上述物品进出预测信息相对应的物品搭配信息;响应于确定存在,从上述物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第二目标物品搭配信息;将上述第二目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
可选地,上述方法还包括:响应于确定不存在,将上述图像子序列与上述图像子序列组中上述图像子序列的下一个图像子序列进行融合,得到融合后的图像子序列;对于上述融合后的图像子序列,根据上述第二识别步骤,识别上述物品进出过程中各个物品的进出信息。
可选地,上述方法还包括:根据上述各次物品进出过程中各个物品的进出信息,周期时间确定上述目标物品存储柜中各个物品的存放数目;响应于确定上述目标物品存储柜中各个物品中存在目标物品的存放数目小于等于目标阈值,指示目标装货装置进行目标物品的供货。
第二方面,本公开的一些实施例提供了一种信息识别装置,包括:确定单元,被配置成确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;第一划分单元,被配置成根据上述物品名称信息序列,将上述图像序列划分成图像子序列组;获取单元,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息;第二划分单元,被配置成依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列;识别单元,被配置成根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
可选地,第一划分单元可以进一步被配置成:从上述物品名称信息序列中筛选出与第一目标物品名称信息集中任一第一目标物品名称信息相关联的物品名称信息,作为第二目标物品名称信息,得到第二目标物品名称信息序列;确定上述第二目标物品名称信息序列中每相邻两个第二目标物品名称信息之间的时间差,得到时间差序列;根据上述时间差序列,将上述图像序列划分成上述图像子序列组。
可选地,识别单元可以进一步被配置成:对于上述各次物品进出过程中的每次物品进出过程,通过以下第一识别步骤识别上述物品进出过程中各个物品的进出信息:从上述重量变换子信息序列中筛选出表征重量维持不变的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列;确定上述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列,其中,物品搭配信息包括:目标重量变换子信息对应的物品名称信息和目标重量变换子信息对应的物品进出数目信息;根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息。
可选地,识别单元可以进一步被配置成:针对上述图像子序列组中的每个图像子序列,通过以下第二识别步骤识别对应物品进出过程中各个物品的进出信息:确定上述目标重量变换子信息序列中的、与上述图像子序列存在相同起始时间的目标重量变换子信息,作为第一初始重量变换子信息;确定上述第一初始重量变换子信息相对应的物品搭配信息集;确定上述图像子序列所对应的物品进出预测信息;确定上述物品搭配信息集中是否存在与物品进出预测信息相对应的物品搭配信息;响应于确定存在,从上述物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第一目标物品搭配信息;将上述第一目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
可选地,识别单元可以进一步被配置成:响应于确定不存在,将上述目标重量变换子信息序列中的、上述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息;确定上述第二初始重量变换子信息相对应的物品搭配信息集;确定上述物品搭配信息集中是否存在与上述物品进出预测信息相对应的物品搭配信息;响应于确定存在,从上述物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第二目标物品搭配信息;将上述第二目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
可选地,上述装置还包括:响应于确定不存在,将上述图像子序列与上述图像子序列组中上述图像子序列的下一个图像子序列进行融合,得到融合后的图像子序列;对于上述融合后的图像子序列,根据上述第二识别步骤,识别上述物品进出过程中各个物品的进出信息。
可选地,上述装置还包括:根据上述各次物品进出过程中各个物品的进出信息,周期时间确定上述目标物品存储柜中各个物品的存放数目;响应于确定上述目标物品存储柜中各个物品中存在目标物品的存放数目小于等于目标阈值,指示目标装货装置进行目标物品的供货。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现如第一方面中任一实现方式描述的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现如第一方面中任一实现方式描述的方法。
本公开的上述各个实施例中具有如下有益效果:本公开的一些实施例的信息识别方法可以快捷、高效地识别出目标物品存储柜中各个物品的进出信息。具体来说,造成不能高效地识别出目标物品存储柜中各个物品的进出信息的原因在于:通过重力变换和视频检测的粗略识别往往只能针对无人货柜中简单的单个物品且没有放回的情况。对于多个物品的拿取和放回,往往不能对重力变换曲线和动态柜视频有一个很好的划分,动态柜重力的变化和视频检测不能一一对应起来,导致识别效率低下。基于此,本公开的一些实施例的信息识别方法可以首先确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列。其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像。在这里,各帧图像对应的物品名称信息可以表征对应时间点物品的变换信息。以使得物品名称信息序列用于后续各次物品进出过程中各个物品的进出信息的确定。除此之外,还可以用于后续图像序列的划分。然后,根据上述物品名称信息序列,将上述图像序列划分成图像子序列组,后续可以更为精准的识别每次物品进出过程中各个物品的进出信息。进而,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息。在这里,由于通过物品名称信息序列来识别各次物品进出过程中各个物品的进出信息,可能存在识别错误的问题。由此,通过分析目标物品存储柜的重量变换信息,可以进一步保障识别的准确性。接着,依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列。同样后续可以更为精准的识别每次物品进出过程中各个物品的进出信息。最后,通过上述图像子序列组和上述重量变换子信息序列之间的匹配,可以精准、高效地识别各次物品进出过程中各个物品的进出信息。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,原件和元素不一定按照比例绘制。
图1-2是根据本公开的一些实施例的信息识别方法的一个应用场景的示意图;
图3是根据本公开的信息识别方法的一些实施例的流程图;
图4是根据本公开的信息识别方法的一些实施例中的重量变换信息的示意图;
图5是根据本公开的信息识别方法的另一些实施例的流程图;
图6是根据本公开的信息识别装置的一些实施例的结构示意图;
图7是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1-图2是根据本公开一些实施例的信息识别方法的一个应用场景的示意图。
在图1和图2的应用场景中,电子设备101可以首先确定图像序列102中每帧图像对应的物品名称信息,得到物品名称信息序列103。其中,上述图像序列102中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像。在本应用场景中,上述图像序列102可以包括:图像1021、图像1022、图像1023、图像1024、图像1025。上述图像1021对应的物品名称信息1031包括:“**可乐”,“**酸奶”。上述图像1022对应的物品名称信息1032包括:“**面包”。上述图像1023存在的物品名称信息1033为“无”。上述图像1024对应的物品名称信息1034包括:“**可乐”。上述图像1025对应的物品名称信息1035包括:“**火腿肠”。然后,电子设备101可以根据上述物品名称信息序列103,将上述图像序列102划分成图像子序列组。在本应用场景中,图像子序列组包括:图像子序列104、图像子序列105。上述图像子序列104可以包括:图像1021、图像1022。上述图像子序列105可以包括:图像1021、图像1022。可选地,电子设备101可以根据物品名称信息为“无”的图像,来对图像序列102进行划分,得到图像子序列组。进而,电子设备101可以根据上述图像序列102的时间段信息106,获取目标重力传感器所发送的与上述时间段信息106相对应的、针对上述目标物品存储柜的重量变换信息107。在本应用场景中,上述时间段信息106可以是:“2012年12月1号12点整-2012年12月1日13点整”。接着,电子设备101可以依据预设重量变换划分条件,对上述重量变换信息107进行划分,得到重量变换子信息序列108。在本应用场景中,上述重量变换子信息序列108可以包括:重量变换子信息1081、重量变换子信息1082、重量变换子信息1083、重量变换子信息1084、重量变换子信息1085。最后,电子设备101可以根据上述图像子序列组和上述重量变换子信息序列108,识别各次物品进出过程中各个物品的进出信息109。在本应用场景中,上述各次物品进出过程中各个物品的进出信息109包括:第一次物品进出过程中各个物品的进出信息1091、第二次物品进出过程中各个物品的进出信息1092、第三次物品进出过程中各个物品的进出信息1093。第一次物品进出过程中各个物品的进出信息1091为:“获取:“**可乐”,“**酸奶””。第二次物品进出过程中各个物品的进出信息1092为:“获取:“**面包””。第三次物品进出过程中各个物品的进出信息1093为:“放回:“**可乐””。第四次物品进出过程中各个物品的进出信息1094为:“获取:“**火腿肠””。
需要说明的是,上述电子设备101可以是硬件,也可以是软件。当电子设备为硬件时,可以实现成多个服务器或终端设备组成的分布式集群,也可以实现成单个服务器或单个终端设备。当电子设备体现为软件时,可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1-图2中的电子设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的电子设备。
继续参考图3,示出了根据本公开的信息识别方法的一些实施例的流程300。该信息识别方法,包括以下步骤:
步骤301,确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列。
在一些实施例中,上述信息识别方法的执行主体(例如图1所示的电子设备)可以确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列。其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像。上述目标物品存储柜可以是对存储的各个物品进行各种价值操作(例如,售卖)的物品存储柜。物品名称信息可以是存放于上述目标物品存储柜中的各个物品的名称信息。上述目标摄像头可以用于专门拍摄目标物品存储柜的摄像头。上述目标摄像头的可以是多个。
作为示例,上述执行主体可以将图像序列中的每个图像输入至预先训练的目标物品检测模型,以输出物品名称信息,得到物品名称信息序列。其中,上述目标物品检测模型可以是但不限于以下之一:SSD(Single Shot MultiBox Detector)模型,R-CNN(Region-Convolutional Neural Networks)模型,Fast R-CNN(Fast Region- ConvolutionalNeural Networks)模型,SPP-NET(Spatial Pyramid Pooling Network)算法,YOLO(YouOnly Look Once)模型,FPN(Feature Pyramid Networks)模型,DCN(DeformableConvNets)模型,RetinaNet目标检测模型。
作为又一个示例,上述图像序列可以为:[第一图像,第二图像,第三图像,第四图像,第五图像,第六图像]。通过预先训练的目标物品检测模型,上述执行主体可以确定第一图像对应的物品名称信息为:“无”。第二图像对应的物品名称信息为:“**可乐”和“**酸奶”。上述第三图像对应的物品名称信息可以为:“**面包”。上述第四图像对应的物品名称信息可以为“无”。上述第五图像对应的物品名称信息可以为:“**可乐”。上述第六图像对应的物品名称信息可以为:“**火腿肠”。即,上述物品名称信息序列可以为:{[无],[“**可乐”,“**酸奶”],[“**面包”],[无],[“**可乐”],[“**火腿肠”]}。
在这里,上述图像序列可以通过以下步骤获取:
第一步,从目标摄像头所拍取的视频中截取目标时间段的子视频。其中,上述目标时间段可以是待确定物品存储柜中物品进出的时间段。上述目标时间段可以是预先设置的时间段。通过设置上述目标时间段,可以针对性的确定物品存储柜中某一时间段的物品变换信息,使得对物品存储柜中各个物品的管控更为灵活、高效。
需要强调的是,上述目标摄像头所拍取的视频为已授权使用的视频。
第二步,对上述子视频进行抽帧处理,可以得到图像序列。
作为示例,对于子视频对应的图像序列,上述执行主体可以每隔2帧来从子视频对应的图像序列中抽取图像,得到上述图像序列。
步骤302,根据上述物品名称信息序列,将上述图像序列划分成图像子序列组。
在一些实施例中,上述执行主体可以根据上述物品名称信息序列,将上述图像序列划分成图像子序列组。其中,上述图像子序列组中的各个图像子序列也可以是存在顺序。上述顺序可以与图像序列中图像的顺序相对应。
作为示例,由于上述物品名称信息序列中的每个物品名称信息都存在一一对应的图像,上述执行主体可以以对应物品名称信息为“无”的图像为划分界限,对图像序列进行划分,得到图像子序列组。
作为又一个示例,上述图像序列可以为:[第一图像,第二图像,第三图像,第四图像,第五图像,第六图像]。上述物品名称信息序列可以为:{[无],[“**可乐”,“**酸奶”],[“**面包”],[无],[“**可乐”],[“**火腿肠”]}。上述执行主体可以将物品名称信息序列为[无]的第三图像和第一图像为划分界限,对图像序列进行划分,可以得到第一图像子序列和第二图像子序列。上述第一图像子序列为:[第二图像,第三图像]。上述第二图像子序列为:[第五图像,第六图像]。
在一些实施例的一些可选的实现方式中,上述根据上述物品名称信息序列,将上述图像序列划分成图像子序列组,可以包括以下步骤:
第一步,从上述物品名称信息序列中筛选出与第一目标物品名称信息集中任一第一目标物品名称信息相关联的物品名称信息,作为第二目标物品名称信息,得到第二目标物品名称信息序列。其中,上述第一目标物品名称信息集中的第一目标物品名称信息不是“无”的物品名称信息。即,上述第一目标物品名称信息可以是由物品存储柜中各个物品的名称信息所组合形成的名称信息。例如,上述物品存储柜中所存储的物品信息包括:“**可乐”,“**酸奶”,“**面包”,“**火腿肠”。上述第一目标物品名称信息可以是:“**可乐”,“**酸奶”,“**面包”,“**火腿肠”中的至少一项。
作为示例,上述物品名称信息序列可以为:{[无],[“**可乐”,“**酸奶”],[“**面包”],[无],[“**可乐”],[“**火腿肠”]}。上述第二目标物品名称信息序列可以是:{[“**可乐”,“**酸奶”],[“**面包”],[“**可乐”],[“**火腿肠”]}。
第二步,确定上述第二目标物品名称信息序列中每相邻两个第二目标物品名称信息之间的时间差,得到时间差序列。
需要说明的是,第二目标物品名称信息存在一一对应着图像序列中的图像。上述图像序列中的图像都存在对应的时间点。
作为示例,[“**可乐”,“**酸奶”]对应着图像序列中的第二图像。上述第二图像对应的时间点可以是:12:00。[“**面包”]对应着图像序列中的第三图像。上述第三图像对应的时间点可以是:12:02。[“**可乐”]对应着图像序列中的第五图像。上述第五图像对应的时间点可以是:12:10。[“**火腿肠”]对应着图像序列中的第六图像。上述第六图像对应的时间点可以是:12:12。即,上述执行主体可以确定上述时间差序列为:{[2秒],[8秒],[2秒]}。
第三步,根据上述时间差序列,将上述第二目标物品名称信息序列对应的图像序列划分成上述图像子序列组。
作为示例,上述执行主体可以将时间差序列中时间差大于目标阈值的时间差对应的两帧图像作为第二目标物品名称信息序列对应的图像序列的划分点,以得到图像子序列组。其中,上述目标阈值可以是预先设置的。上述目标阈值的预先设置可以使得后续根据图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息更为高效,侧面减少计算资源的浪费。
例如,上述时间差序列为:{[2秒],[8秒],[2秒]}。上述目标阈值为6秒。故,[8秒]对应的两帧图像作为图像序列的划分点。即两帧图像为第三图像和第五图像。上述第二目标物品名称信息序列对应的图像序列可以是:[第二图像,第三图像,第五图像,第六图像]。上述图像子序列组可以包括:[第二图像,第三图像]和[第五图像,第六图像]。
步骤303,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息。
在一些实施例中,上述执行主体可以根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述物品存储柜的重量变换信息。其中,上述重力变换信息可以表征在上述时间段信息内,上述目标物品存储柜所存储的各个物品的重力变化情况。
作为示例,如图4所示,图4坐标系中的曲折线可以表征重量变换信息。上述时间段信息可以参考时间坐标轴,即t0~t9。其中,图4所展示的坐标系的横坐标轴为时间轴,纵坐标轴为表征目标物品存储柜中各个物品重量变换的重量轴。
步骤304,依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列。
在一些实施例中,上述执行主体可以依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列。其中,上述预设重量变换划分条件可以是依据重量是否在变换的情况来对重量变换信息进行划分。
作为示例,参考图4,根据预设重量变换划分条件,将曲折线划分为:t0-t1之间的重量变换子信息,t1-t2之间的重量变换子信息,t2-t3之间的重量变换子信息,t3-t4之间的重量变换子信息,t4-t5之间的重量变换子信息,t5-t6之间的重量变换子信息,t6-t7之间的重量变换子信息,t7-t8之间的重量变换子信息,t8-t9之间的重量变换子信息。
步骤305,根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
在一些实施例中,根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。其中,上述物品进出过程可以是目标用户获取和/或放回目标物品的过程,其中,目标用户在获取或放回各个物品后会在目标时长未进行任何物品获取或放回操作。其中,目标时长可以是预先设置的。例如,5秒。物品的进出信息可以是物品进出过程中目标用户获取物品的物品名称信息、获取物品的数目信息、放回物品的物品名称信息、放回物品的数目信息。
作为示例,上述执行主体可以通过以下步骤来根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息:
第一步,上述执行主体可以从上述重量变换子信息序列中筛选出表征重量在不发生变换的重量变换子信息,作为第二目标重量变换子信息,得到第二目标重量变换子信息序列。
第二步,通过上述第二目标重量变换子信息序列中每相邻两个第二目标重量变换子信息之间的变化与上述图像子序列组的一一对应来识别各次物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述步骤还包括:
第一步,上述执行主体可以根据上述各次物品进出过程中各个物品的进出信息,周期时间确定上述目标物品存储柜中各个物品的存放数目。例如,上述周期时间可以是1天。
第二步,响应于确定上述目标物品存储柜中各个物品中存在目标物品的存放数目小于等于目标阈值,上述执行主体可以指示目标装货装置进行目标物品的供货。其中,上述目标阈值可以是预先设置的。例如,8个。
本公开的上述各个实施例中具有如下有益效果:本公开的一些实施例的信息识别方法可以快捷、高效地识别出目标物品存储柜中各个物品的进出信息。具体来说,造成不能高效地识别出目标物品存储柜中各个物品的进出信息的原因在于:通过重力变换和视频检测的粗略识别往往只能针对无人货柜中简单的单个物品且没有放回的情况。对于多个物品的拿取和放回,往往不能对重力变换曲线和动态柜视频有一个很好的划分,动态柜重力的变化和视频检测不能一一对应起来,导致识别效率低下。基于此,本公开的一些实施例的信息识别方法可以首先确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列。其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像。在这里,各帧图像对应的物品名称信息可以表征对应时间点物品的变换信息。以使得物品名称信息序列用于后续各次物品进出过程中各个物品的进出信息的确定。除此之外,还可以用于后续图像序列的划分。然后,根据上述物品名称信息序列,将上述图像序列划分成图像子序列组,后续可以更为精准的识别每次物品进出过程中各个物品的进出信息。进而,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息。在这里,由于通过物品名称信息序列来识别各次物品进出过程中各个物品的进出信息,可能存在识别错误的问题。由此,通过分析目标物品存储柜的重量变换信息,可以进一步保障识别的准确性。接着,依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列。同样后续可以更为精准的识别每次物品进出过程中各个物品的进出信息。最后,通过上述图像子序列组和上述重量变换子信息序列之间的匹配,可以精准、高效地识别各次物品进出过程中各个物品的进出信息。
进一步参考图5,示出了根据本公开的信息识别方法的另一些实施例的流程500。该信息识别方法,包括以下步骤:
步骤501,确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列。
步骤502,根据上述物品名称信息序列,将上述图像序列划分成图像子序列组。
步骤503,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息。
步骤504,依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列。
在一些实施例中,步骤501-504的具体实现及其所带来的技术效果,可以参考图3对应的实施例中的步骤301-304,在此不再赘述。
步骤505,对于上述各次物品进出过程中的每次物品进出过程,通过以下第一识别步骤识别上述物品进出过程中各个物品的进出信息:
子步骤5051,从上述重量变换子信息序列中筛选出表征重量发生变化的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列。
在一些实施例中,执行主体可以通过重力变化查询的方式来从上述重量变换子信息序列中筛选出表征重量发生变化的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列。
作为示例,参考图4,上述重量变换子信息序列可以是:{[g1],[g1-g2],[g2],[g2-g3],[g3],[g3-g5],[g5],[g5-g4],[g4]}。上述目标重量变换子信息序列可以包括:{[g1-g2], [g2-g3], [g3-g5], [g5-g4]}。
子步骤5052,确定上述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列。
在一些实施例中,上述执行主体可以确定上述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列。其中,物品搭配信息集中的物品搭配信息包括:目标重量变换子信息对应的物品名称信息和目标重量变换子信息对应的物品进出数目信息。
作为示例,上述执行主体可以将上述目标重量变换子信息序列中的每个目标重量变换子信息输入至预先训练的物品搭配信息生成网络,以输出物品搭配信息,得到物品搭配信息序列。其中,上述物品信息生成网络可以是但不限于以下之一:卷积神经网络(Convolutional Neural Networks, CNN),残差网络(Residual Networks, ResNets)。
子步骤5053,根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息。
在一些实施例中,上述执行主体可以根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息。
作为示例,上述执行主体可以通过以下步骤来识别上述物品进出过程中各个物品的进出信息:
第一步,将上述图像子序列组中每个图像子序列对应的各个物品的进出过程确定为物品进出过程。
第二步,确定上述每个图像子序列对应的各个物品的获取和/或放回的移动速度。
第三步,确定上述每个图像子序列对应的各个物品的获取和/或放回的移动速度相关联的至少一个目标重量变换子信息。
第四步,确定上述每个图像子序列对应的至少一个第一目标重量子信息对应的物品搭配信息集。
第五步,根据每个图像子序列对应的物品进出预测信息和对应的物品搭配信息集,确定与每个图像子序列最关联的物品搭配信息;
第六步,将上述每个图像子序列最关联的物品搭配信息确定为物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述执行主体根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息,可以包括以下步骤:
针对上述图像子序列组中的每个图像子序列,通过以下第二识别步骤识别对应物品进出过程中各个物品的进出信息。其中,上述对应物品进出过程可以是以上述图像子序列为开始的物品进出的过程。这里上述物品进出过程可以是包括图像子序列对应的物品进出的过程。
第一子步骤,确定上述目标重量变换子信息序列中的、与上述图像子序列存在相同起始时间的目标重量变换子信息,作为第一初始重量变换子信息。
在一些实施例中,上述执行主体可以确定上述目标重量变换子信息序列中的、与上述图像子序列存在相同起始时间的目标重量变换子信息,作为第一初始重量变换子信息。
作为示例,上述目标重量变换子信息序列可以包括:{[g1-g2], [g2-g3], [g3-g5], [g5-g4]}。[g1-g2]对应的起始时间为t1。[g2-g3]对应的起始时间为t3。[g3-g5]对应的起始时间为t5。[g5-g4]对应的起始时间为t7。上述图像子序列的起始时间为t1。上述执行主体可以将[g1-g2]确定为第一初始重量变换子信息。
第二子步骤,确定上述第一初始重量变换子信息相对应的物品搭配信息集。
作为示例,上述执行主体可以将第一初始重量变换子信息输入至预先训练的物品搭配信息生成网络,以输出物品搭配信息。
例如,上述第一初始重量变换子信息为[g1-g2]。上述第一初始重量变换子信息的物品搭配信息集为“[获取1个“**可乐”和获取1个“**酸奶”],[获取2个“**酸奶”],[获取2个“可乐”],[获取3个“**面包”],[获取3个“**酸奶”和放回1个“**面包”]”。
第三子步骤,确定上述图像子序列所对应的物品进出预测信息。
作为示例,上述执行主体可以根据图像子序列中每个图像所显示的各个物品,和上述各个物品的移动方向,来确定上述图像子序列所对应的物品进出预测信息。其中,上述各个物品的移动方向可以是通过对比图像子序列中每个图像所显示的各个物品而得到的。
例如,物品进出预测信息为:获取1个“**可乐”和获取1个“**酸奶”。
第四子步骤,确定上述物品搭配信息集中是否存在与物品进出预测信息相对应的物品搭配信息。
作为示例,上述执行主体可以通过匹配的方式来确定上述物品搭配信息集中是否存在与物品进出预测信息相对应的物品搭配信息。
第五子步骤,响应于确定存在,从上述物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第一目标物品搭配信息。
作为示例,上述第一初始重量变换子信息的物品搭配信息集为“[获取1个“**可乐”和获取1个“**酸奶”],[获取2个“**酸奶”],[获取2个“可乐”],[获取3个“**面包”],[获取3个“**酸奶”和放回1个“**面包”]”。物品进出预测信息为:获取1个“**可乐”和获取1个“**酸奶”。由此,上述执行主体可以将[获取1个“**可乐”和获取1个“**酸奶”]确定为第一目标物品搭配信息。
第六子步骤,将上述第一目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
可选地,在上述将上述第一目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息之后,上述步骤还包括:
第一步,响应于确定不存在,将上述目标重量变换子信息序列中的、上述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息。
作为示例,上述执行主体可以确定上述第一初始重量变换子信息的物品搭配信息集为“[获取3个“**可乐”和放回1个“**酸奶”],[获取2个“**酸奶”],[获取2个“可乐”],[获取3个“**面包”],[获取3个“**酸奶”和放回1个“**面包”]”,上述物品进出预测信息为:获取1个“**可乐”和获取1个“**酸奶”。由此,上述执行主体可以确定上述物品搭配信息集中不存在与物品进出预测信息相对应的物品搭配信息。上述目标重量变换子信息序列可以是:{[g1-g2], [g2-g3], [g3-g5], [g5-g4]}。第一初始重量变换子信息为:[g1-g2]。则第二初始重量变换子信息可以为:[g2-g3]。
第二步,确定上述第二初始重量变换子信息相对应的物品搭配信息集。
同样,上述执行主体可以通过物品搭配信息生成网络来确定上述第二初始重量变换子信息相对应的物品搭配信息集。
作为示例,上述第二初始重量变换子信息对应的物品搭配信息集可以是:[获取1个“**可乐”和获取1个“**酸奶”],[获取2个“**可乐”],[获取2个“可乐”和放回1个“**面包”],[获取3个“**面包”],[获取3个“**酸奶”和放回1个“**面包”]。
第三步,确定上述第二初始重量变换子信息相对应的物品搭配信息集中是否存在与上述物品进出预测信息相对应的物品搭配信息。
第四步,响应于确定存在,从上述第二初始重量变换子信息相对应的物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第二目标物品搭配信息。
作为示例,上述执行主体可以将[获取1个“**可乐”和获取1个“**酸奶”]确定为第二目标物品搭配信息。
第五步,将上述第二目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
可选地,上述步骤还包括:
第一步,响应于确定不存在,将上述图像子序列与上述图像子序列组中上述图像子序列的下一个图像子序列进行融合,得到融合后的图像子序列。
作为示例,上述图像子序列组可以包括:[第二图像,第三图像]和[第五图像,第六图像]。上述图像子序列可以是:[第二图像,第三图像]。则,上述图像子序列的下一个图像子序列为:[第五图像,第六图像]。融合后的图像子序列可以是:[第二图像,第三图像,第五图像,第六图像]。
第二步,对于上述融合后的图像子序列,根据上述第二识别步骤,识别上述物品进出过程中各个物品的进出信息。
需要说明的是,上述融合后的图像子序列对应的物品进出预测信息是由图像子序列的物品进出预测信息和图像子序列的下一个图像子序列的物品进出预测信息组合而成的。其中,上述图像子序列的下一个图像子序列的物品进出预测信息的生成不再赘述,可以参考图像子序列的物品进出预测信息的生成。
作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题二“现有方式不能高效、精准的将动态柜重力的变化和视频检测一一对应起来,以至于后续识别物品进出过程中各个物品的进出较为混乱”。导致不能高效、精准的将动态柜重力的变化和视频检测一一对应起来的因素往往如下:现有技术常常通过相关人员进行动态匹配图像序列的变化和重量信息的变换,存在繁琐、不够精准以及不够全面地问题。如果解决了上述因素,就能达到提高动态柜重力的变化和视频检测之间对应关系更明确的效果。为了达到这一效果,本公开先从每个图像子序列的角度来确定上述图像子序列对应物品进出过程中各个物品的进出信息。在响应于不能确定上述图像子序列对应物品进出过程中各个物品的进出信息时,将目标重量变换子信息序列中的、上述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息。从多方面考虑图像序列对应的重量变换子信息,可以有效的解决视频拍摄和重量变换之间的时间差。如果还不能确定图像子序列对应物品进出过程中各个物品的进出信息,则表征图像子序列不能有效地表征一个物品进出过程。在这里,本公开更为全面地从图像子序列与上述图像子序列组中上述图像子序列的下一个图像子序列进行融合的角度,来进一步确定对应物品进出过程中各个物品的进出信息。总而言之,本公开从多方面考虑了图像序列对应物品进出过程和对应重量变换子信息存在的所有可能,能高效、精准的将动态柜重力的变化和视频检测一一对应起来,使得后续识别物品进出过程中各个物品的进出更为精准。
从图5中可以看出,与图3对应的一些实施例的描述相比,图5对应的一些实施例中的信息识别方法的流程500更加突出了通过目标重量变换子信息序列,识别每次物品进出过程中各个物品的进出信息的具体步骤。由此,这些实施例描述的方案利用目标重量变换子信息序列,精准、高效地识别每次物品进出过程中各个物品的进出信息。
进一步参考图6,作为对上述各图所示方法的实现,本公开提供了一种信息识别装置的一些实施例,这些装置实施例与图3所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图6所示,一种信息识别装置600包括:确定单元601、第一划分单元602、获取单元603、第二划分单元604和识别单元605。其中,确定单元601,被配置成确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;第一划分单元602,被配置成根据上述物品名称信息序列,将上述图像序列划分成图像子序列组;获取单元603,根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息;第二划分单元604,被配置成依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列;识别单元605,被配置成根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述信息识别装置600中的第一划分单元602可以进一步被配置成:从上述物品名称信息序列中筛选出与第一目标物品名称信息集中任一第一目标物品名称信息相关联的物品名称信息,作为第二目标物品名称信息,得到第二目标物品名称信息序列;确定上述第二目标物品名称信息序列中每相邻两个第二目标物品名称信息之间的时间差,得到时间差序列;根据上述时间差序列,将上述第二目标物品名称信息序列对应的图像序列划分成上述图像子序列组。
在一些实施例的一些可选的实现方式中,上述信息识别装置600中的识别单元605可以进一步被配置成:对于上述各次物品进出过程中的每次物品进出过程,通过以下第一识别步骤识别上述物品进出过程中各个物品的进出信息:从上述重量变换子信息序列中筛选出表征重量发生变化的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列;确定上述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列;根据上述物品搭配信息集序列、上述目标重量变换子信息序列和上述图像子序列组,识别上述物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述信息识别装置600中的识别单元605可以进一步被配置成:针对上述图像子序列组中的每个图像子序列,通过以下第二识别步骤识别对应物品进出过程中各个物品的进出信息:确定上述目标重量变换子信息序列中的、与上述图像子序列存在相同起始时间的目标重量变换子信息,作为第一初始重量变换子信息;确定上述第一初始重量变换子信息相对应的物品搭配信息集;确定上述图像子序列所对应的物品进出预测信息;确定上述物品搭配信息集中是否存在与物品进出预测信息相对应的物品搭配信息;响应于确定存在,从上述物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第一目标物品搭配信息;将上述第一目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述信息识别装置600中的识别单元605可以进一步被配置成:响应于确定不存在,将上述目标重量变换子信息序列中的、上述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息;确定上述第二初始重量变换子信息相对应的物品搭配信息集;确定上述第二初始重量变换子信息相对应的物品搭配信息集中是否存在与上述物品进出预测信息相对应的物品搭配信息;响应于确定存在,从上述第二初始重量变换子信息相对应的物品搭配信息集中筛选出与上述物品进出预测信息信息差别最小的物品搭配信息,作为第二目标物品搭配信息;将上述第二目标物品搭配信息确定为上述图像子序列对应物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述信息识别装置600中的识别单元605可以进一步被配置成:响应于确定不存在,将上述图像子序列与上述图像子序列组中上述图像子序列的下一个图像子序列进行融合,得到融合后的图像子序列;对于上述融合后的图像子序列,根据上述第二识别步骤,识别上述物品进出过程中各个物品的进出信息。
在一些实施例的一些可选的实现方式中,上述信息识别装置600还包括:存储数目确定单元、指示单元(图中未显示)。其中,上述存储数目确定单元可以被配置成:根据上述各次物品进出过程中各个物品的进出信息,周期时间确定上述目标物品存储柜中各个物品的存放数目。指示单元可以被配置成:响应于确定上述目标物品存储柜中各个物品中存在目标物品的存放数目小于等于目标阈值,指示目标装货装置进行目标物品的供货。
可以理解的是,该装置600中记载的诸单元与参考图3描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置600及其中包含的单元,在此不再赘述。
下面参考图7,其示出了适于用来实现本公开的一些实施例的电子设备(例如图1中的电子设备)700的结构示意图。图7示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图7所示,电子设备700可以包括处理装置(例如中央处理器、图形处理器等)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储装置708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有电子设备700操作所需的各种程序和数据。处理装置701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
通常,以下装置可以连接至I/O接口705:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置706;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置707;包括例如磁带、硬盘等的存储装置708;以及通信装置709。通信装置709可以允许电子设备700与其他设备进行无线或有线通信以交换数据。虽然图7示出了具有各种装置的电子设备700,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图7中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置709从网络上被下载和安装,或者从存储装置708被安装,或者从ROM 702被安装。在该计算机程序被处理装置701执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例上述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,上述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;根据上述物品名称信息序列,将上述图像序列划分成图像子序列组;根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息;依据预设重量变换划分条件,对上述重量变换信息进行划分,得到重量变换子信息序列;根据上述图像子序列组和上述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括确定单元、第一划分单元、获取单元、第二划分单元和识别单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“根据上述图像序列的时间段信息,获取目标重力传感器所发送的与上述时间段信息相对应的、针对上述目标物品存储柜的重量变换信息的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。

Claims (10)

1.一种信息识别方法,包括:
确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,所述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;
根据所述物品名称信息序列,将所述图像序列划分成图像子序列组;
根据所述图像序列的时间段信息,获取目标重力传感器所发送的与所述时间段信息相对应的、针对所述目标物品存储柜的重量变换信息;
依据预设重量变换划分条件,对所述重量变换信息进行划分,得到重量变换子信息序列;
根据所述图像子序列组和所述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
2.根据权利要求1所述的方法,其中,所述根据所述物品名称信息序列,将所述图像序列划分成图像子序列组,包括:
从所述物品名称信息序列中筛选出与第一目标物品名称信息集中任一第一目标物品名称信息相关联的物品名称信息,作为第二目标物品名称信息,得到第二目标物品名称信息序列;
确定所述第二目标物品名称信息序列中每相邻两个第二目标物品名称信息之间的时间差,得到时间差序列;
根据所述时间差序列,将所述第二目标物品名称信息序列对应的图像序列划分成所述图像子序列组。
3.根据权利要求1所述的方法,其中,所述根据所述图像子序列组和所述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息,包括:
对于所述各次物品进出过程中的每次物品进出过程,通过以下第一识别步骤识别所述物品进出过程中各个物品的进出信息:
从所述重量变换子信息序列中筛选出表征重量发生变化的重量变换子信息,作为目标重量变换子信息,得到目标重量变换子信息序列;
确定所述目标重量变换子信息序列中每个目标重量变换子信息对应的物品搭配信息集,得到物品搭配信息集序列;
根据所述物品搭配信息集序列、所述目标重量变换子信息序列和所述图像子序列组,识别所述物品进出过程中各个物品的进出信息。
4.根据权利要求3所述的方法,其中,所述根据所述物品搭配信息集序列、所述目标重量变换子信息序列和所述图像子序列组,识别所述物品进出过程中各个物品的进出信息,包括:
针对所述图像子序列组中的每个图像子序列,通过以下第二识别步骤识别对应物品进出过程中各个物品的进出信息:
确定所述目标重量变换子信息序列中的、与所述图像子序列存在相同起始时间的目标重量变换子信息,作为第一初始重量变换子信息;
确定所述第一初始重量变换子信息相对应的物品搭配信息集;
确定所述图像子序列所对应的物品进出预测信息;
确定所述物品搭配信息集中是否存在与物品进出预测信息相对应的物品搭配信息;
响应于确定存在,从所述物品搭配信息集中筛选出与所述物品进出预测信息信息差别最小的物品搭配信息,作为第一目标物品搭配信息;
将所述第一目标物品搭配信息确定为所述图像子序列对应物品进出过程中各个物品的进出信息。
5.根据权利要求4所述的方法,其中,在所述将所述第一目标物品搭配信息确定为所述图像子序列对应物品进出过程中各个物品的进出信息之后,所述方法还包括:
响应于确定不存在,将所述目标重量变换子信息序列中的、所述第一初始重量变换子信息的下一个目标重量变换子信息确定为第二初始重量变换子信息;
确定所述第二初始重量变换子信息相对应的物品搭配信息集;
确定所述第二初始重量变换子信息相对应的物品搭配信息集中是否存在与所述物品进出预测信息相对应的物品搭配信息;
响应于确定存在,从所述第二初始重量变换子信息相对应的物品搭配信息集中筛选出与所述物品进出预测信息信息差别最小的物品搭配信息,作为第二目标物品搭配信息;
将所述第二目标物品搭配信息确定为所述图像子序列对应物品进出过程中各个物品的进出信息。
6.根据权利要求5所述的方法,其中,所述方法还包括:
响应于确定不存在,将所述图像子序列与所述图像子序列组中所述图像子序列的下一个图像子序列进行融合,得到融合后的图像子序列;
对于所述融合后的图像子序列,根据所述第二识别步骤,识别所述物品进出过程中各个物品的进出信息。
7.根据权利要求1所述的方法,其中,所述方法还包括:
根据所述各次物品进出过程中各个物品的进出信息,周期时间确定所述目标物品存储柜中各个物品的存放数目;
响应于确定所述目标物品存储柜中各个物品中存在目标物品的存放数目小于等于目标阈值,指示目标装货装置进行目标物品的供货。
8.一种信息识别装置,包括:
确定单元,被配置成确定图像序列中每帧图像对应的物品名称信息,得到物品名称信息序列,其中,所述图像序列中的图像为目标摄像头拍摄的,目标用户从目标物品存储柜获取或放回物品的图像;
第一划分单元,被配置成根据所述物品名称信息序列,将所述图像序列划分成图像子序列组;
获取单元,根据所述图像序列的时间段信息,获取目标重力传感器所发送的与所述时间段信息相对应的、针对所述目标物品存储柜的重量变换信息;
第二划分单元,被配置成依据预设重量变换划分条件,对所述重量变换信息进行划分,得到重量变换子信息序列;
识别单元,被配置成根据所述图像子序列组和所述重量变换子信息序列,识别各次物品进出过程中各个物品的进出信息。
9.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1-7中任一所述的方法。
CN202111189793.2A 2021-10-13 2021-10-13 信息识别方法、装置、电子设备和计算机可读介质 Pending CN113643473A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202111189793.2A CN113643473A (zh) 2021-10-13 2021-10-13 信息识别方法、装置、电子设备和计算机可读介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202111189793.2A CN113643473A (zh) 2021-10-13 2021-10-13 信息识别方法、装置、电子设备和计算机可读介质

Publications (1)

Publication Number Publication Date
CN113643473A true CN113643473A (zh) 2021-11-12

Family

ID=78426506

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202111189793.2A Pending CN113643473A (zh) 2021-10-13 2021-10-13 信息识别方法、装置、电子设备和计算机可读介质

Country Status (1)

Country Link
CN (1) CN113643473A (zh)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108389316A (zh) * 2018-03-02 2018-08-10 北京京东尚科信息技术有限公司 自动售货方法、装置和计算机可读存储介质
CN109243096A (zh) * 2018-10-26 2019-01-18 虫极科技(北京)有限公司 一种智能货柜及确定拿取商品的方法
CN111415461A (zh) * 2019-01-08 2020-07-14 虹软科技股份有限公司 物品识别方法及系统、电子设备
CN111815852A (zh) * 2020-07-07 2020-10-23 武汉马克到家科技有限公司 一种用于开门自取式售货柜的图像和重力双模自动商品识别系统
CN111860071A (zh) * 2019-04-30 2020-10-30 百度时代网络技术(北京)有限公司 用于识别物品的方法和装置

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108389316A (zh) * 2018-03-02 2018-08-10 北京京东尚科信息技术有限公司 自动售货方法、装置和计算机可读存储介质
CN109243096A (zh) * 2018-10-26 2019-01-18 虫极科技(北京)有限公司 一种智能货柜及确定拿取商品的方法
CN111415461A (zh) * 2019-01-08 2020-07-14 虹软科技股份有限公司 物品识别方法及系统、电子设备
CN111860071A (zh) * 2019-04-30 2020-10-30 百度时代网络技术(北京)有限公司 用于识别物品的方法和装置
CN111815852A (zh) * 2020-07-07 2020-10-23 武汉马克到家科技有限公司 一种用于开门自取式售货柜的图像和重力双模自动商品识别系统

Similar Documents

Publication Publication Date Title
CN108520220B (zh) 模型生成方法和装置
CN108830235B (zh) 用于生成信息的方法和装置
CN109492128B (zh) 用于生成模型的方法和装置
CN109447156B (zh) 用于生成模型的方法和装置
CN109308490B (zh) 用于生成信息的方法和装置
CN109376267A (zh) 用于生成模型的方法和装置
CN110288625B (zh) 用于处理图像的方法和装置
CN111738010B (zh) 用于生成语义匹配模型的方法和装置
CN113177450A (zh) 行为识别方法、装置、电子设备和存储介质
CN112200173A (zh) 多网络模型训练方法、图像标注方法和人脸图像识别方法
CN111160410B (zh) 一种物体检测方法和装置
CN110675176B (zh) 用于生成属性预测模型的方法和装置
CN112685799A (zh) 设备指纹生成方法、装置、电子设备和计算机可读介质
CN113643473A (zh) 信息识别方法、装置、电子设备和计算机可读介质
CN112381184B (zh) 图像检测方法、装置、电子设备和计算机可读介质
CN111131359A (zh) 用于生成信息的方法和装置
CN115271757A (zh) 需求信息生成方法、装置、电子设备和计算机可读介质
CN111949860B (zh) 用于生成相关度确定模型的方法和装置
CN113742593A (zh) 用于推送信息的方法和装置
WO2022046312A1 (en) Computer-implemented method and system for testing a model
CN111709784A (zh) 用于生成用户留存时间的方法、装置、设备和介质
CN111949819A (zh) 用于推送视频的方法和装置
CN112990135B (zh) 设备控制方法、装置、电子设备和计算机可读介质
CN112037801B (zh) 用于生成音频的方法和装置
CN110633707A (zh) 预测速度的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20211112