CN114627352A - 物品信息生成方法、装置、电子设备和计算机可读介质 - Google Patents
物品信息生成方法、装置、电子设备和计算机可读介质 Download PDFInfo
- Publication number
- CN114627352A CN114627352A CN202210159037.3A CN202210159037A CN114627352A CN 114627352 A CN114627352 A CN 114627352A CN 202210159037 A CN202210159037 A CN 202210159037A CN 114627352 A CN114627352 A CN 114627352A
- Authority
- CN
- China
- Prior art keywords
- information
- track
- article
- target
- sub
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/251—Fusion techniques of input or preprocessed data
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01G—WEIGHING
- G01G19/00—Weighing apparatus or methods adapted for special purposes not provided for in the preceding groups
- G01G19/52—Weighing apparatus combined with other objects, e.g. furniture
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30241—Trajectory
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Data Mining & Analysis (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开的实施例公开了物品信息生成方法、装置、电子设备和计算机可读介质。该方法的一具体实施方式包括:获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;根据上述图像集合,生成子轨迹组集合;根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息;将上述物品拿取信息发送至显示设备以供显示。该实施方式通过重力信息和图像信息相结合的方式,能够准确生成用户从货柜中拿取的物品的物品信息,从而提高了生成的物品信息的准确率。
Description
技术领域
本公开的实施例涉及计算机技术领域,具体涉及物品信息生成方法、装置、电子设备和计算机可读介质。
背景技术
物品信息生成是指生成用户从货柜中拿取的物品的物品信息的一种技术。目前,在进行物品信息生成时,通常采用的方式为:通过货柜内的图像传感器采集图像,并对图像进行检测,以确定用户从货柜中拿取的物品的种类和数量,从而生成物品信息。
然而,当采用上述方式生成物品信息时,经常会存在如下技术问题:
第一,当用户对物品进行拿取时,容易存在物品遮挡的情况,在图像传感器拍摄角度固定的前提下,会造成图像检测准确率低下,从而导致生成的物品信息准确率低下;
第二,用户对物品进行拿取时,往往会存在拿取后又放回的情况,仅对图像进行检测,会出现针对相同物品的多次识别的情况,降低物品信息生成的准确率;
第三、当用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,从而生成错误的物品信息(如,物品数量与实际不符),进而降低了生成的物品信息的准确率。
发明内容
本公开的内容部分用于以简要的形式介绍构思,这些构思将在后面的具体实施方式部分被详细描述。本公开的内容部分并不旨在标识要求保护的技术方案的关键特征或必要特征,也不旨在用于限制所要求的保护的技术方案的范围。
本公开的一些实施例提出了物品信息生成方法、装置、电子设备和计算机可读介质,来解决以上背景技术部分提到的技术问题中的一项或多项。
第一方面,本公开的一些实施例提供了一种物品信息生成方法,该方法包括:获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;根据上述图像集合,生成子轨迹组集合;根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息;将上述物品拿取信息发送至显示设备以供显示。
第二方面,本公开的一些实施例提供了一种物品信息生成装置,装置包括:获取单元,被配置成获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;分段处理单元,被配置成对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;第一生成单元,被配置成根据上述图像集合,生成子轨迹组集合;第二生成单元,被配置成根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息;显示单元,被配置成将上述物品拿取信息发送至显示设备以供显示。
第三方面,本公开的一些实施例提供了一种电子设备,包括:一个或多个处理器;存储装置,其上存储有一个或多个程序,当一个或多个程序被一个或多个处理器执行,使得一个或多个处理器实现上述第一方面任一实现方式所描述的方法。
第四方面,本公开的一些实施例提供了一种计算机可读介质,其上存储有计算机程序,其中,程序被处理器执行时实现上述第一方面任一实现方式所描述的方法。
本公开的上述各个实施例中具有如下有益效果:通过本公开的一些实施例的物品信息生成方法,物品信息生成的准确率有所提高。具体来说,造成生成的物品信息的准确率低的原因在于:第一,当用户对物品进行拿取时,容易存在物品遮挡的情况,在图像传感器拍摄角度固定的前提下,会造成图像检测准确率低下,从而导致生成的物品信息准确率低下;第二,用户对物品进行拿取时,往往会存在拿取后又放回的情况,仅对图像进行检测,会出现针对相同物品的多次识别的情况,降低物品信息生成的准确率。基于此,本公开的一些实施例的物品信息生成方法包括:首先,获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。通过连续重力信号和图像集合相互结合,以此生成物品信息,解决了在物品遮挡的情况下,物品信息生成准确率低的问题。接着,对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合。实际情况中,当用户拿取多个物品时,依次拿取时重力信号会发生多次变化,通过对重力信号进行分段,以此实现从重力变化角度的物品识别。然后,根据上述图像集合,生成子轨迹组集合,实际情况中,用户对物品进行拿取时,往往会存在拿取后又放回的情况。用户拿取的一个物品往往会对应多张图片和多条轨迹。因此,结合图像,对轨迹进行分组,以生成子轨迹组集合,从而保证一个物品对应的多条轨迹在子轨迹组内。其次,根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息。通过结合分段重力变化信息集合和子轨迹组集合,消除了用户对物品进行拿取时,往往会存在拿取后又放回的情况下,物品数量误识别的问题。最后,将上述物品拿取信息发送至显示设备以供显示。由此,通过重力信息和图像信息相结合的方式,消除了仅依赖图像进行物品识别存在的物品信息生成准确率低的问题。并且,解决了针对相同物品拿取又放回的情况下的如物品数量误识别的情况。由此,大大提高了生成的物品信息的准确率。
附图说明
结合附图并参考以下具体实施方式,本公开各实施例的上述和其他特征、优点及方面将变得更加明显。贯穿附图中,相同或相似的附图标记表示相同或相似的元素。应当理解附图是示意性的,元件和元素不一定按照比例绘制。
图1是本公开的一些实施例的物品信息生成方法的一个应用场景的示意图;
图2是根据本公开的物品信息生成方法的一些实施例的流程图;
图3是根据本公开的物品信息生成方法的另一些实施例的流程图;
图4是根据本公开的物品信息生成装置的一些实施例的结构示意图;
图5是适于用来实现本公开的一些实施例的电子设备的结构示意图。
具体实施方式
下面将参照附图更详细地描述本公开的实施例。虽然附图中显示了本公开的某些实施例,然而应当理解的是,本公开可以通过各种形式来实现,而且不应该被解释为限于这里阐述的实施例。相反,提供这些实施例是为了更加透彻和完整地理解本公开。应当理解的是,本公开的附图及实施例仅用于示例性作用,并非用于限制本公开的保护范围。
另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。在不冲突的情况下,本公开中的实施例及实施例中的特征可以相互组合。
需要注意,本公开中提及的“第一”、“第二”等概念仅用于对不同的装置、模块或单元进行区分,并非用于限定这些装置、模块或单元所执行的功能的顺序或者相互依存关系。
需要注意,本公开中提及的“一个”、“多个”的修饰是示意性而非限制性的,本领域技术人员应当理解,除非在上下文另有明确指出,否则应该理解为“一个或多个”。
本公开实施方式中的多个装置之间所交互的消息或者信息的名称仅用于说明性的目的,而并不是用于对这些消息或信息的范围进行限制。
下面将参考附图并结合实施例来详细说明本公开。
图1是本公开的一些实施例的物品信息生成方法的一个应用场景的示意图。
在图1的应用场景中,首先,在步骤101中,信息发送终端可以发送重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。然后,在步骤103中,计算设备101中的信息处理终端可以获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。接着,在步骤104中,上述信息处理终端可以对连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合。其次,在步骤105中,上述信息处理终端可以根据图像集合,生成子轨迹组集合。之后,在步骤106中,上述信息处理终端可以根据分段重力变化信息集合和子轨迹组集合,生成物品拿取信息。最后,在步骤107中,信息处理终端可以将物品拿取信息108发送至显示设备以供显示。
需要说明的是,上述计算设备101可以是硬件,也可以是软件。当计算设备为硬件时,可以实现成多个服务器或终端设备组成的分布式集群,也可以实现成单个服务器或单个终端设备。当计算设备体现为软件时,可以安装在上述所列举的硬件设备中。其可以实现成例如用来提供分布式服务的多个软件或软件模块,也可以实现成单个软件或软件模块。在此不做具体限定。
应该理解,图1中的计算设备的数目仅仅是示意性的。根据实现需要,可以具有任意数目的计算设备。
继续参考图2,示出了根据本公开的物品信息生成方法的一些实施例的流程200。该物品信息生成方法,包括以下步骤:
步骤201,获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。
在一些实施例中,物品信息生成方法的执行主体(例如图1所示的计算设备101)可以通过有线连接或无线连接的方式获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。其中,上述连续重力信号表征货柜内的置物架上的物品在一段时间内的重力变化情况。上述图像集合可以是上述货柜内的图像传感器拍摄的一段时间内目标区域的图像。上述目标区域可以是上述货柜内的置物架上放置物品的区域。
步骤202,对连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合。
在一些实施例中,上述执行主体可以对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到上述分段重力变化信息集合。其中,上述分段重力变化信息集合中的分段重力变化信息可以包括:重力变化起始点信息、重力变化结束点信息和重力变化量。重力变化起始点信息可由目标起始索引表征。目标起始索引可以是上述图像传感器在目标起始时刻采集的图像的图像索引。目标起始时刻可以是重力变化起始点信息对应的重力变化起始时的时刻。重力变化结束点信息可由目标结束索引表征。目标结束索引可以是上述图像传感器在目标结束时刻采集的图像的图像索引。目标结束时刻是重力变化结束点信息对应的重力变化结束时的时刻。上述重力变化量可以表征上述货柜内的置物架上的物品在该重力分段的重力变化情况。
作为示例,上述执行主体可以对连续重力信号W进行分段处理,以生成分段重力变化信息W1、W2和W3,得到分段重力信息集合{W1,W2,W3}。其中,上述分段重力信息集合中的分段重力变化信息W1包括[重力变化量:100,目标起始索引:17,目标结束索引:51]。
步骤203,根据图像集合,生成子轨迹组集合。
在一些实施例中,上述执行主体可以根据上述图像集合,生成上述子轨迹组集合。其中,上述子轨迹组集合中的子轨迹组中的子轨迹可以表征用户从货柜内拿取的物品的运动情况。上述子轨迹组集合中的子轨迹组中存在多条轨迹对应一个物品。上述子轨迹组集合中的子轨迹组可以对应多个物品。
可选的,上述执行主体根据上述图像集合,生成子轨迹组集合,可以包括以下步骤:
第一步,对上述图像集合中的每张图像进行物体检测,以生成关键帧检测信息,得到关键帧检测信息集合。
其中,上述关键帧检测信息集合中的关键帧检测信息可以包括:物品信息、检测框置信度信息、检测框类别信息、检测框位置信息和图像帧索引。其中,物品信息可以是物品的种类信息。检测框可以是上述图像中用于框定物品的包围框。检测框置信度信息可以表征检测框的可信程度。检测框类别信息可以表征检测框的类别。检测框位置信息可以表征图像中检测框所在的位置。图像帧索引可以表征图像对应的帧的索引。检测框类别信息和物品信息一一对应。
例如,上述关键帧检测信息集合中的关键帧检测信息可以是{物品信息:饮料A,检测框置信度信息:0.82,检测框类别信息:1,检测框位置信息:(10,14,8),图像帧索引:17}。当检测框类别信息为“1”时,可以表征检测框框定的物品为“饮料A”。上述检测框类别信息对应的类别和物品信息之间的对应关系是预先设定的。
第二步,从上述关键帧信息集合中筛选出检测框类别信息相同的关键帧信息,作为候选关键帧信息组,得到候选关键帧信息组集合。
其中,候选关键帧信息组中的关键帧信息包含的检测框类别信息相同。
例如,上述关键帧信息集合可以为{A1,A2,A3,B1,B2,B3}。其中,关键帧信息A1、A2和A3的检测框类别信息相同,关键帧信息B1、B2和B3的检测框类别信息相同,则[A1,A2,A3]为一组候选关键帧信息组,[B1,B2,B3]为一组候选关键帧信息组。
第三步,对于上述候选关键帧信息组集合中的每个候选关键帧信息组,响应于确定上述候选关键帧信息组中存在特征关键帧信息对,根据上述特征关键帧信息对在上述候选关键帧信息组中的位置,对上述候选关键帧信息组进行分组处理,以生成目标关键帧信息组集合。
其中,上述特征关键帧信息对中的两个特征关键帧信息包括的图像帧索引之间的差值大于等于目标值。上述目标值可以是两个连续图像中包括的关键帧信息中的图像帧索引之间的差值。
作为示例,候选关键帧信息组可以是[A,B,C,D]。上述目标值可以是1。关键帧信息B和C包括的图像帧索引之间的差值可以大于1。上述执行主体可以对候选关键帧信息组进行分组处理,得到目标关键帧信息组[A,B]和目标关键帧信息组[C,D]。
第四步,根据目标关键帧信息组集合组中的每个目标关键帧信息组中的目标关键帧信息包括的检测框位置信息,生成候选轨迹,得到候选轨迹集合。
其中,上述候选轨迹集合中的候选轨迹可以是用户从货柜中拿取的物品的运动轨迹。
可选的,上述执行主体根据目标关键帧信息组集合组中的每个目标关键帧信息组中的目标关键帧信息包括的检测框位置信息,生成候选轨迹,可以包括以下步骤:
将上述目标关键帧信息组中的各个目标关键帧信息包括的检测框位置信息对应的位置点进行依次连接,以生成候选轨迹。
其中,位置点可以是检测框位置信息对应的检测框的中心点。
例如,上述目标关键帧信息组集合可以是{[A1,A2,A3],[B1,B2,B3]}。上述执行主体可以将目标关键帧信息组[A1,A2,A3]中的A1、A2和A3包括的检测框位置信息对应的中心点进行连接,以生成候选轨迹A。上述执行主体可以将目标关键帧信息组[B1,B2,B3]中的B1、B2和B3包括的检测框位置信息对应的中心点进行连接,以生成候选轨迹B,得到候选轨迹集合{A,B}。
第五步,对上述候选轨迹集合中的每条候选轨迹进行样条插值处理,以生成目标轨迹,得到目标轨迹集合。
其中,上述目标轨迹集合中的目标轨迹是一条光滑曲线,可以表征用户从货柜中拿取的物品的运动情况,上述样条插值处理可以是二次样条插值处理或三次样条插值处理。
第六步,对上述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合。
其中,分组后的轨迹组中的分组后的轨迹可以是相同物品对应的不同轨迹。
可选的,上述执行主体对上述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合,可以包括以下子步骤:
第一子步骤,确定上述目标轨迹集合中的每个目标轨迹的头尾位置,以生成头尾位置信息,得到头尾位置信息集合。
其中,上述头尾位置信息集合中的头尾位置信息可以表征上述目标轨迹集合中的目标轨迹的头部和尾部的位置信息。
作为示例,上述执行主体可以根据上述目标轨迹集合中的每个目标轨迹对应的的目标关键帧信息中包括的图像帧索引,确定上述目标轨迹的头部位置信息和尾部位置信息。例如,目标轨迹为A,对应A1、A2、A3三个目标关键帧信息。其中,A1包含的图像帧索引为1。A2包含的图像帧索引为2。A3包含的图像帧索引为3。A1包含的检测框位置信息中的检测框的位置为目标轨迹A的头部所在的位置。A1包含的检测框位置信息中的检测框的位置为目标轨迹A的头部所在的位置。A3包含的检测框位置信息中的检测框的位置为目标轨迹A的尾部所在的位置。
第二子步骤,根据上述头尾位置信息集合,对上述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合。
作为示例,上述执行主体根据上述头尾位置信息集合,对上述目标轨迹集合中的目标轨迹进行轨迹分组处理,可以包括以下处理步骤:
第一处理步骤,根据上述头尾位置信息集合,确定上述目标轨迹集合中的不同目标轨迹的头部和尾部之间的图像帧索引的差值,得到图像帧索引差值信息集合。
其中,上述图像帧索引差值信息集合中的图像帧索引差值信息表征上述目标轨迹集合中目标轨迹的头部和其他目标轨迹的尾部之间的图像帧索引的差值。
作为示例,目标轨迹A的头部对应的目标关键帧信息为A1,A1包含图像帧索引为1。目标轨迹A的尾部对应的目标关键帧信息为A3,A3包含图像帧索引为3。目标轨迹B的头部对应的目标关键帧信息为B1,B1包含图像帧索引为4。目标轨迹B的尾部对应的目标关键帧信息为B3,B3包含图像帧索引为6。目标轨迹A的头部与目标轨迹B的尾部对应的图像帧索引的差值为5。目标轨迹B的头部与目标轨迹A的尾部对应的图像帧索引的差值为1。得到的图像帧索引差值信息集合为{目标轨迹A的头部和目标轨迹B的尾部的图像帧索引差值:5,目标轨迹B的头部和目标轨迹A的尾部的图像帧索引差值:1}。
第二处理步骤,响应于上述图像帧索引差值信息集合中的图像帧索引差值信息包括的图像帧索引差值小于等于预设图像帧索引差值,将小于等于预设图像帧索引差值的图像帧索引差值对应的两条目标轨迹确定为一个轨迹组。
其中,上述预设图像帧索引差值信息可以表征上述图像集合中图像的帧索引之间的差值,其中,上述图像集合中的每两张图像之间的帧索引之间的差值一致。
例如,上述预设图像帧索引差值信息可以是1,上述图像帧索引差值信息集合为{目标轨迹A的头部和目标轨迹B的尾部的图像帧索引差值:5,目标轨迹B的头部和目标轨迹A的尾部的图像帧索引差值:1}。上述执行主体可以响应于目标轨迹B的头部和目标轨迹A的尾部的图像帧索引的差值小于等于1,将目标轨迹A和目标轨迹B确定为一个轨迹组。
第三处理步骤,响应于上述图像帧索引差值信息集合中的距离信息大于上述预设图像帧索引差值,不进行分组操作,将大于预设图像帧索引差值的距离信息对应的两条目标轨迹分别确定为两个轨迹组。
例如,上述预设图像帧索引差值信息可以是1,上述图像帧索引差值信息集合为{目标轨迹E的头部和目标轨迹F的尾部的图像帧索引差值:5,目标轨迹F的头部和目标轨迹E的尾部的图像帧索引差值:2}。上述执行主体可以响应于目标轨迹E的头部和目标轨迹F的尾部之间的图像帧索引的差值大于1,且目标轨迹E的尾部和目标轨迹F的头部之间的图像帧索引的差值也大于1,将目标轨迹E和目标轨迹F确定为两个不同轨迹组中的轨迹。
第七步,对上述分组后的轨迹组集合中的每个分组后的轨迹组中的分组后的轨迹进行轨迹融合,以生成融合轨迹组,得到融合轨迹组集合。
其中,融合轨迹组中的融合轨迹是由分组后的轨迹组中的分组后的轨迹进行头尾连接产生的。
作为示例,上述执行主体可以通过排列组合对上述分组后的轨迹组集合中的每个分组后的轨迹组中的分组后的轨迹进行轨迹融合,以生成融合轨迹组,得到融合轨迹组集合。例如,上述分组后的轨迹组可以是[A,B]。上述执行主体可以将A的尾部与B的头部连接,生成融合轨迹TAB。上述执行主体可以将A的头部与B的尾部连接,生成融合轨迹TBA。
第八步,根据预设时间点集合,对上述融合轨迹组集合中的每个融合轨迹组中的每条融合轨迹进行轨迹分割处理,以生成子轨迹组,得到子轨迹组集合。
其中,上述预设时间点集合中的预设时间点可以是在上述连续重力信号起始点至结束点之间不同时间对应的时间点。
作为示例,预设时间点集合可以是{t1,t2}。融合轨迹C对应的时间信息包括t1和t2,根据预设时间点集合{t1,t2}对融合轨迹C进行分割处理,生成子轨迹C1、C2和C3。融合轨迹D对应的时间信息仅包括t1,根据预设时间点集合{t1,t2}对融合轨迹D进行分割处理,生成子轨迹D1和D2。融合轨迹E对应的时间信息仅包括t2,根据预设时间点集合{t1,t2}对融合轨迹E进行分割处理,生成子轨迹E2和E3。最终得到的子轨迹组集合为{[C1,D1],[C2,D2,E2],[C3,E3]}。时间信息可以是融合轨迹对应的时间段信息。
步骤204,根据分段重力变化信息集合和子轨迹组集合,生成物品拿取信息。
在一些实施例中,上述执行主体可以根据分段重力变化信息集合和子轨迹组集合,生成物品拿取信息。其中,上述物品拿取信息可以表征用户从货柜中拿取的物品的种类和数量。
作为示例,上述执行主体根据分段重力变化信息集合和子轨迹组集合,生成物品拿取信息,可以包括以下步骤:
第一步,根据上述分段重力变化信息集合中每个分段重力变化信息包含的重力变化起始点信息和重力变化结束点信息,确定上述分段重力变化信息对应的子轨迹组。
其中,上述执行主体可以根据上述分段重力变化信息集合中每个分段重力变化信息包含的重力变化起始点信息对应的图像帧索引和重力变化结束点信息对应的图像帧索引,将上述分段重力变化信息与上述子轨迹组集合中存在相同图像帧索引的子轨迹组进行匹配,以确定上述子轨迹组集合中的子轨迹组对应的分段重力变化信息。
例如,分段重力变化信息可以是W1,包括[重力变化量:100,目标起始索引:17,目标结束索引:20]。子轨迹组可以是[C1,D1]。其中,子轨迹C1对应的关键帧信息组包括的图像帧索引为[17,18,19,20]。将W1确定为子轨迹组[C1,D1]对应的分段重力变化信息。
第二步,根据上述子轨迹组集合中每个子轨迹组中各个子轨迹对应的候选关键帧信息包括的物品信息,确定上述子轨迹组对应的物品组合,得到物品组合集合。
其中,物品组合可以是多个物品构成的组合。
例如,上述子轨迹组集合中的子轨迹组可以是[C1,D1]。其中,子轨迹组[C1,D1]中的子轨迹C1和D1对应的候选关键帧信息包括的物品信息分别为饮料A和饮料B,则子轨迹组[C1,D1]对应的物品组合为[饮料A,饮料B]。
第三步,根据上述子轨迹组集合中每个子轨迹组对应的分段重力变化信息,确定上述子轨迹组对应的物品组合的总重力信息和物品数量信息。
其中,上述总重力信息可以表征一个物品组合中所有物品的总重力。
例如,上述子轨迹组集合中的子轨迹组可以是[C1,D1],对应的物品组合分别是[饮料A,饮料B]。饮料A的单重为500g(克),饮料B的单重为500g。子轨迹组[C1,D1]对应的重力变化信息W1,包括[重力变化量:1100,目标起始索引:17,目标结束索引:20]。则子轨迹组[C1,D1]对应的物品组合的总重力为1000g,物品数量信息为[饮料A:1,饮料B:1]。
第四步,从上述物品组合集合筛选出符合条件的物品组合作为目标物品组合,以及,将上述目标物品组合对应的物品信息确定为物品拿取信息。
其中,上述筛选条件为:子轨迹组对应的物品组合的总重力与子轨迹组对应的分段重力变化信息的重力变化量的差值最小且小于目标阈值。上述目标阈值可以是由于环境因素导致重力传感器检测过程中存在的误差值。
例如,子轨迹组[C1,D1]对应的物品组合的总重力为1000g,子轨迹组[C2,D2,E1]对应的物品组合的总重力为1800g。子轨迹组[C1,D1]对应的分段重力变化信息的重力变化量为950g,子轨迹组[C2,D2,E1]对应的分段重力变化信息的重力变化量为1500g,上述目标阈值为60g。则确定子轨迹组[C1,D1]对应的物品组合为目标物品组合,确定目标物品组合对应的物品信息为物品拿取信息。
步骤205,将物品拿取信息发送至显示设备以供显示。
在一些实施例中,上述执行主体可以将上述物品拿取信息发送至显示设备以供显示。其中,上述显示设备可以是用来显示物品拿取信息的设备。
作为示例,上述显示设备可以是货柜上的电子显示屏,上述执行主体可以将物品拿取信息发送至货柜上的电子显示屏以供显示。
本公开的上述各个实施例中具有如下有益效果:通过本公开的一些实施例的物品信息生成方法,物品信息生成的准确率有所提高。具体来说,造成生成的物品信息的准确率低的原因在于:第一,当用户对物品进行拿取时,容易存在物品遮挡的情况,在图像传感器拍摄角度固定的前提下,会造成图像检测准确率低下,从而导致生成的物品信息准确率低下;第二,用户对物品进行拿取时,往往会存在拿取后又放回的情况,仅对图像进行检测,会出现针对相同物品的多次识别的情况,降低物品信息生成的准确率。基于此,本公开的一些实施例的物品信息生成方法包括:首先,获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。通过连续重力信号和图像集合相互结合,以此生成物品信息,解决了在物品遮挡的情况下,物品信息生成准确率低的问题。接着,对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合。实际情况中,当用户拿取多个物品时,依次拿取时重力信号会发生多次变化,通过对重力信号进行分段,以此实现从重力变化角度的物品识别。然后,根据上述图像集合,生成子轨迹组集合,实际情况中,用户对物品进行拿取时,往往会存在拿取后又放回的情况。用户拿取的一个物品往往会对应多张图片和多条轨迹。因此,结合图像,对轨迹进行分组,以生成子轨迹组集合,从而保证一个物品对应的多条轨迹在子轨迹组内。其次,根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息。通过结合分段重力变化信息集合和子轨迹组集合,消除了用户对物品进行拿取时,往往会存在拿取后又放回的情况下,物品数量误识别的问题。最后,将上述物品拿取信息发送至显示设备以供显示。由此,通过重力信息和图像信息相结合的方式,消除了仅依赖图像进行物品识别存在的物品信息生成准确率低的问题。并且,解决了针对相同物品拿取又放回的情况下的如物品数量误识别的情况。由此,大大提高了生成的物品信息的准确率。
进一步参考图3,其示出了物品信息生成方法的另一些实施例的流程300。该物品信息生成方法的流程300,包括以下步骤:
步骤301,获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合。
步骤302,对连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合。
步骤303,根据图像集合,生成子轨迹组集合。
在一些实施例中,步骤301-303具体实现方式及所带来的技术效果可以参考图2对应的那些实施例中的步骤201-203,在此不再赘述。
步骤304,确定子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列。
在一些实施例中,上述执行主体可以通过各种方式确定子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列。
在一些实施例的一些可选的实现方式中,上述执行主体确定子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列,可以包括以下步骤:
第一步,对于上述子轨迹组集合中的每个子轨迹组,执行以下子步骤:
第一子步骤,将上述子轨迹组中的每条子轨迹对应的关键帧信息集合中的检测框置信度信息和上述子轨迹的方向信息输入目标置信度网络模型,以生成上述子轨迹的置信度信息,得到置信度信息集合。
其中,方向信息可以是表征轨迹头部方向的信息。上述目标置信度网络模型可以是神经网络模型。例如,上述目标置信度网络模型可以是LSTM(Long short-term memory,长短期记忆网络)。
第二子步骤,根据上述子轨迹组中的每条子轨迹的轨迹方向信息、轨迹长度信息和轨迹置信度信息,确定上述子轨迹对应的物品的候选数据信息,得到候选数据信息集合。
其中,候选数据信息可以是对应的物品出现的概率的倒数。
作为示例,轨迹方向信息可以通过一下公式得到:
directionz=cos(degreez+90°)。
其中,directionz表示子轨迹Z的轨迹方向信息。degreez代表子轨迹Z的角度。cos()表示求余弦值操作。
可选的,上述执行主体可以通过以下公式,确定子轨迹对应的物品的候选数据信息:
costz=confidencez×directionz×normz。
其中,costz表示子轨迹Z对应的物品的候选数据信息。confidencez表示子轨迹Z的置信度信息。normz表示子轨迹Z的长度信息。directionz表示子轨迹Z的轨迹方向信息。
例如,子轨迹的轨迹方向信息可以是1。子轨迹的轨迹长度信息可以是10。子轨迹的轨迹置信度信息可以是0.7。子轨迹对应的物品的候选数据信息为7。
第三子步骤,根据候选数据信息对应的物品类别信息,对上述候选数据信息集合中的候选数据信息进行分组,以生成物品候选数据信息组,得到物品候选数据信息组集合。
作为示例,上述候选数据信息集合可以是[A1,A2,A3,B1,B2,B3],其中,A1、A2和A3对应的物品类别为饮料A,B1、B2和B3对应的物品类别为饮料B,将上述候选数据信息集合中的候选数据信息进行分组,得到物品候选数据信息组[A1,A2,A3]和物品候选数据信息组[B1,B2,B3]。
第四子步骤,对于上述物品候选数据信息组集合中的每个物品候选数据信息组,将上述物品候选数据信息组中的数值最小的物品候选数据信息,确定为目标数据信息。
其中,目标数据信息集合中的目标数据信息可以表征上述子轨迹组对应的物品出现的最大概率。
作为示例,物品候选数据信息组可以是[2.8,3.7,1.2],则上述执行主体可以将1.2确定为上述物品候选数据信息组的目标数据信息。
第二步,根据上述子轨迹组集合中的每个子轨迹组对应的物品信息和目标数据信息集合中的目标数据信息,生成数据信息矩阵,得到数据信息矩阵序列。
其中,目标数据信息集合中的目标数据信息的数量与子轨迹组对应的物品数量一致,不同物品信息的子轨迹组生成不同的数据信息矩阵。
作为示例,上述子轨迹组集合中的子轨迹组可以是[A1,A2,B1,B2]、[A3,A4,B3,B4]、[C1,C2,D1,D2]和[C3,C4,D3,D4]。其中,[A1,A2,B1,B2]对应的物品是A和B,对应的目标数据信息集合是[2.7,2.8]。[A3,A4,B3,B4]对应的物品是A和B,对应的目标数据信息集合是[3.6,1.5]。[C1,C2,D1,D2]对应的物品是C和D,对应的目标数据信息集合是[1.4,1.5]。[C3,C4,D3,D4]对应的物品是C和D,对应的目标数据信息集合是[0.8,1.3]。则生成的数据信息矩阵为和
可选的,上述执行主体对于上述数据信息矩阵序列中的每个数据信息矩阵,确定上述数据信息矩阵对应的物品的总数据信息,还可以包括以下子步骤:
第一子步骤,根据上述子轨迹组集合中的每个子轨迹组对应的物品信息和分段重力变化信息,生成数据信息矩阵中每个数据信息对应的重力限制信息和物品重力限制信息。
其中,重力限制信息可以是子轨迹组对应的分段重力变化信息中包含的重力变化量。物品限制信息可以是当子轨迹组对应的物品信息仅包含单个物品时,物品的最大数量和物品单重的乘积。物品单重可以是单个物品的重量。
例如,子轨迹组对应的物品是A和B,对应的分段重力变化信息中包含的重力变化量为950g。物品A的单重为300g,物品B的单重为500g。由子轨迹组得到的目标数据信息集合是[2.7,2.8]。数据信息2.7对应的重力限制信息为950g。当子轨迹组对应的物品信息仅包含物品A时,物品A的数量可以是三个,物品限制信息为900g。数据信息2.8对应的重力限制信息为950g。当子轨迹组对应的物品信息仅包含物品B时,物品B的数量可以是一个,物品限制信息为500g。
可选的,上述执行主体对于上述数据信息矩阵序列中的每个数据信息矩阵,确定上述数据信息矩阵对应的物品的总数据信息,还可以包括以下子步骤:
第一子步骤,将上述数据信息矩阵中的数据信息乘以缩放因子,以生成缩放处理后的数据信息矩阵。
其中,上述缩放因子可以用来对数据信息矩阵进行缩小或者放大处理。例如,上述缩放因子可以是0.3。
作为示例,上述执行主体可以通过以下公式,将上述数据信息矩阵中的数据信息乘以缩放因子,以生成缩放处理后的数据信息矩阵:
Pscale,(i,j)=scale×P(i,j)。
其中,P表示数据信息矩阵。Pscale,(i,j)表示缩放处理后的数据信息矩阵中第i行第j列的数据信息。i表示数据信息矩阵中的行的序号。j表示数据信息矩阵中的列的序号。scale表示缩放因子。P(i,j)表示数据信息矩阵中第i行第j列的数据信息。
第二子步骤,对缩放处理后的数据信息矩阵中的缩放处理后的数据信息进行指数化和归一化处理,以生成候选数据信息矩阵。
作为示例,上述执行主体对缩放处理后的数据信息矩阵中的缩放处理后的数据信息进行指数化和归一化处理,以生成候选数据信息矩阵,可以通过以下公式实现:
Pexp,(i,j)=exp(Pscale,(i,j)),
P(i,j)=Pexp,(i,j)/sum(Pexp)。
其中,i表示数据信息矩阵中的行的序号。j表示数据信息矩阵中的列的序号。Pexp,(i,j)表示进行指数化处理后得到的第i行第j列的数据信息。exp()表示对缩放处理后的数据信息进行指数化处理。Pexp表示指数化处理后的数据信息矩阵。sum(Pexp)表示指数化处理后的数据信息矩阵中的指数化处理后的数据信息的总和。P(i,j)表示归一化处理后的候选数据信息矩阵中的第i行,第j列的归一化处理后的候选数据信息。
例如,上述缩放处理后的数据信息矩阵可以是对上述缩放处理后的数据信息矩阵进行指数化处理,得到的Pexp为sum(Pexp)为9.08。得到的P(1,1)为0.25。得到的P(1,2)为0.26。得到的P(2,1)为0.32。得到的P(2,2)为0.17。得到的候选数据信息矩阵为
第三子步骤,对候选数据信息矩阵进行迭代处理。
作为示例,上述执行主体对候选数据信息矩阵进行迭代处理,可以包括以下处理步骤:
第一处理步骤,对候选数据信息矩阵进行横向迭代处理,可以通过以下公式实现:
Wn,i=sum_row(Pn,i),
P(i,j)=Pn,(i,j)×(sku_weights(i,j)/Wn,i)。
其中,i表示候选数据信息矩阵中的行的序号。j表示候选数据信息矩阵中的列的序号。n表示迭代处理的次数。W表示候选数据信息矩阵中一行候选数据信息的总和。sku_weights(i,j)表示第i行,第j列的候选数据信息对应的物品限制信息。Pn,i表示第n次迭代处理得到的候选数据信息矩阵中的第i行的候选数据信息。sum_row()表示对候选数据信息矩阵中一行的候选数据信息求和。Wn,i表示经过n次迭代处理得到的候选数据信息矩阵中的第i行的候选数据信息的总和。Pn,(i,j)表示经过n次迭代得到的候选数据信息矩阵中的第i行,第j列的候选数据信息。P(i,j)表示经过横向迭代处理后得到候选数据信息矩阵中的第i行,第j列的候选数据信息。
第二处理步骤,对经过横向迭代处理得到的候选数据信息矩阵进行纵向迭代处理,可以通过以下公式实现:
Sn,j=sum_col(Pj),
Pn+1,(i,j)=P(i,j)×(weight_segments(i,j)/Sn,j)。
其中,n表示迭代处理的次数。i表示候选数据信息矩阵中的行的序号。j表示候选数据信息矩阵中的列的序号。S表示候选数据信息矩阵中一列数据信息的总和。weight_segments(i,j)表示第i行,第j列的候选数据信息对应的重力限制信息。Pj表示经过横向迭代处理得到的候选数据信息矩阵的第j列的候选数据信息。sum_col()表示对候选数据信息矩阵中一列的候选数据信息求和。Sn,j表示经过横向迭代处理得到的候选数据信息矩阵中第j列的候选数据信息的总和。P(i,j)表示经过横向迭代处理得到的候选数据信息矩阵中的第i行,第j列的候选数据信息。Pn+1,(i,j)表示完成纵向迭代处理后得到的候选数据信息矩阵中的第i行第j列的候选数据信息。n+1表示纵向迭代处理完成后,迭代次数加1。
第四子步骤,响应于迭代处理的结果未满足预设条件,重复执行上述第三子步骤。
其中,上述预设条件可以是迭代处理的次数达到预设次数或迭代处理的结果满足终止条件。
作为示例,上述预设次数可以为5次,上述终止条件可以是:
max(abs(sum_row(Pn,i)-sum_row(Pn+1,i)))<epsilon。
其中,n表示迭代处理的次数。i表示数据信息矩阵中的行的序号。Pn,i表示经过n次迭代处理得到的候选数据信息矩阵中的第i行的候选数据信息。Pn+1,i表示经过n+1次迭代处理得到的候选数据信息矩阵中的第i行的候选数据信息。sum_row()表示对候选数据信息矩阵中一行的候选数据信息求和。abs()表示取绝对值操作。max()表示取最大值操作。上述最大值可以是经过n次迭代处理得到的候选数据信息矩阵和经过n+1次迭代处理得到的候选数据信息矩阵中的每一行的候选数据信息总和的差值的绝对值的最大值。上述epsilon可以是0.000001。
第五子步骤,响应于迭代处理的结果满足上述预设条件,停止迭代,将迭代处理的结果确定为上述数据信息矩阵对应的目标数据信息矩阵。
步骤305,对于数据信息矩阵序列中的每个数据信息矩阵,确定数据信息矩阵对应的物品的总数据信息。
在一些实施例中,上述执行主体可以对于上述数据信息矩阵序列中的每个数据信息矩阵,确定上述数据信息矩阵对应的物品组合的总数据信息。其中,总数据信息可以表征数据信息矩阵对应的不同物品的数据信息总和。
步骤306,确定分段重力变化信息集合中每个分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,得到物品组合信息集合。
在一些实施例中,上述执行主体可以确定上述分段重力变化信息集合中每个分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,得到物品组合信息集合。其中,上述物品组合信息集合中的物品组合信息可以表征该重力分段下用户拿取的物品的种类和数量。
作为示例,上述执行主体对于上述分段重力变化信息集合中每个分段重力变化信息,确定上述分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,可以包括以下步骤:
第一步,根据上述分段重力变化信息集合中每个分段重力变化信息包含的重力变化起始点信息对应的图像帧索引和重力变化结束点信息对应的图像帧索引,将上述分段重力变化信息与上述子轨迹组集合中存在相同图像帧索引的子轨迹组进行匹配,以确定分段重力变化信息对应的子轨迹组。
其中,上述执行主体可以根据上述分段重力变化信息集合中每个分段重力变化信息包含的重力变化起始点信息对应的图像帧索引和重力变化结束点信息对应的图像帧索引,将上述分段重力变化信息与上述子轨迹组集合中存在相同图像帧索引的子轨迹组进行匹配,以确定上述子轨迹组集合中的子轨迹组对应的分段重力变化信息。
例如,分段重力变化信息可以是W1,包括[重力变化量:100,目标起始索引:17,目标结束索引:20]。子轨迹组可以是[C1,D1]。其中,子轨迹C1对应的关键帧信息组包括的图像帧索引为[17,18,19,20]。将W1确定为子轨迹组[C1,D1]对应的分段重力变化信息。
第二步,根据上述子轨迹组集合中每个子轨迹组中各个子轨迹对应的候选关键帧信息中的物品信息,确定上述子轨迹组对应的物品组合,得到物品组合集合。
其中,物品组合可以是多个物品构成的组合。
例如,上述子轨迹组集合中的子轨迹组可以是[C1,D1]。其中,子轨迹组[C1,D1]中的子轨迹C1和D1对应的候选关键帧信息包括的物品信息分别为饮料A和饮料B,则子轨迹组[C1,D1]对应的物品组合为[饮料A,饮料B]。
第三步,根据上述子轨迹组集合中每个子轨迹组对应的分段重力变化信息,确定上述子轨迹组对应的物品组合的总重力信息和物品数量信息,得到物品组合信息。
其中,上述总重力信息可以表征一个物品组合中所有物品的总重力。
例如,上述子轨迹组集合中的子轨迹组可以是[C1,D1],对应的物品组合分别是[饮料A,饮料B]。饮料A的单重为500g(克),饮料B的单重为500g。子轨迹组[C1,D1]对应的重力变化信息W1,包括[重力变化量:1100,目标起始索引:17,目标结束索引:20]。则子轨迹组[C1,D1]对应的物品组合的总重力为1000g,物品组合信息为[饮料A:1瓶,饮料B:1瓶]。
步骤307,根据总数据信息集合和物品组合信息集合,生成物品拿取信息。
在一些实施例中,上述执行主体可以根据总数据信息集合和物品组合信息集合,通过各种方式生成物品拿取信息。
在一些实施例的一些可选的实现方式中,上述执行主体根据总数据信息集合和上述物品组合信息集合,生成上述物品拿取信息,可以包括以下步骤:
第一步,对于上述物品组合信息集合中每个物品组合信息,根据上述物品组合信息对应的多个物品的重力信息和传感器采集重力信息,确定上述物品组合信息对应的重力差值信息。
其中,重力差值信息可以是物品组合信息对应的总重力和传感器采集的分段重力变化信息中的重力变化量之间的差值。物品组合信息和分段重力变化信息对应同一个子轨迹组。
作为示例,上述物品组合信息可以是[饮料A:1瓶,饮料B:1瓶]。饮料A的单重为500g,饮料B的单重为800g。上述物品组合信息对应的总重力为1300g。重力变化量为1200g。重力差值信息为100g。
第二步,从上述物品组合信息集合中筛选出满足筛选条件的物品组合信息作为物品拿取信息。
其中,上述筛选条件可以是上述物品组合信息集合中的物品组合信息对应的重力差值信息小于目标阈值和上述物品组合信息集合中的物品组合信息对应的总数据信息最小。
其中,上述目标阈值可以是由于环境因素导致重力传感器检测过程中存在的误差值。
作为示例,上述目标阈值可以是100g。上述物品组合信息集合可以是{[饮料A:1瓶,饮料B:1瓶],[饮料B:1瓶,饮料C:1瓶]}。其中,物品组合信息[饮料A:1瓶,饮料B:1瓶]对应的重力差值信息为20g,对应的总数据信息为10.2。物品组合信息[饮料B:1瓶,饮料C:1瓶]对应的重力差值信息为20g,对应的总数据信息为7.2。将物品组合信息[饮料B:1瓶,饮料C:1瓶]确定为物品拿取信息。
上述步骤304至步骤307及其相关内容作为本公开的实施例的一个发明点,解决了背景技术提及的技术问题三“当用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,从而生成错误的物品信息(如,物品数量与实际不符),进而降低了生成的物品信息的准确率”。由于用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,从而生成错误的物品信息,进而降低生成的物品信息的准确率。因此,为了提高生成的物品信息的准确率,首先,确定子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列。在实际情况中,由于用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,导致子轨迹组中可能存在一个物品对应多条轨迹的情况。通过对子轨迹组集合进行处理以生成数据信息矩阵,消除了子轨迹组中相同物品对应多条轨迹的情况,确定一个物品对应一条子轨迹。然后,对于数据信息矩阵序列中的每个数据信息矩阵,确定数据信息矩阵对应的物品的总数据信息。实际情况中,由于用户拿取物品时,容易存在拿取后放回的情况,会导致不同时间段存在不同的用户拿取的物品组合。因此利用数据信息矩阵确定不同物品组合对应的总数据信息,并对总数据信息进行比较从而确定用户拿取的物品组合。接着,确定分段重力变化信息集合中每个分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,得到物品组合信息集合。由此,利用分段重力变化信息中包含的重力变化量,确定物品组合中每个物品的数量信息,消除了生成错误的物品信息的情况(如,物品数量与实际不符)。最后,根据总数据信息集合和物品组合信息集合,生成物品拿取信息。由此,通过重力信息和图像信息相结合的方式,消除了仅依赖图像进行物品识别存在的物品信息生成准确率低的问题。并且,解决了针对相同物品拿取又放回的情况下产生的如物品数量误识别的情况。由此,大大提高了生成的物品信息的准确率。
步骤308,将物品拿取信息发送至显示设备以供显示。
在一些实施例中,上述执行主体可以将上述物品拿取信息发送至显示设备以供显示。其中,上述显示设备可以是用来显示物品拿取信息的设备。
作为示例,上述显示设备可以是货柜上的电子显示屏,上述执行主体可以将物品拿取信息发送至货柜上的电子显示屏以供显示。
从图3可以看出,与图2对应的一些实施例的描述相比,图3对应的一些实施例中的物品信息生成方法的流程300进一步解决生成的物品信息的准确率较低的问题。由于用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,从而生成错误的物品信息,进而降低生成的物品信息的准确率。因此,为了提高生成的物品信息的准确率,首先,确定子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列。在实际情况中,由于用户对物品进行拿取时,容易存在物品遮挡的情况,可能生成相同物品对应的多条轨迹,导致子轨迹组中可能存在一个物品对应多条轨迹的情况。通过对子轨迹组集合进行处理以生成数据信息矩阵,消除了子轨迹组中相同物品对应多条轨迹的情况,确定一个物品对应一条子轨迹。然后,对于数据信息矩阵序列中的每个数据信息矩阵,确定数据信息矩阵对应的物品的总数据信息。实际情况中,由于用户拿取物品时,容易存在拿取后放回的情况,会导致不同时间段存在不同的用户拿取的物品组合。因此利用数据信息矩阵确定不同物品组合对应的总数据信息,并对总数据信息进行比较从而确定用户拿取的物品组合。接着,确定分段重力变化信息集合中每个分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,得到物品组合信息集合。由此,利用分段重力变化信息中包含的重力变化量,确定物品组合中每个物品的数量信息,消除了生成错误的物品信息的情况(如,物品数量与实际不符)。最后,根据总数据信息集合和物品组合信息集合,生成物品拿取信息。由此,通过重力信息和图像信息相结合的方式,消除了仅依赖图像进行物品识别存在的物品信息生成准确率低的问题。并且,解决了针对相同物品拿取又放回的情况下产生的如物品数量误识别的情况。由此,大大提高了生成的物品信息的准确率。
进一步参考图4,作为对上述各图所示方法的实现,本公开提供了一种物品信息生成装置的一些实施例,这些装置实施例与图2所示的那些方法实施例相对应,该装置具体可以应用于各种电子设备中。
如图4所示,一些实施例的物品信息生成装置400包括:获取单元401、分段处理单元402、第一生成单元403、第二生成单元404和显示单元405。其中,获取单元401,被配置成获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;分段处理单元402,被配置成对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;第一生成单元403,被配置成根据上述图像集合,生成子轨迹组集合;第二生成单元404,被配置成根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息;显示单元405,被配置成将上述物品拿取信息发送至显示设备以供显示。可以理解的是,该装置400中记载的诸单元与参考图2描述的方法中的各个步骤相对应。由此,上文针对方法描述的操作、特征以及产生的有益效果同样适用于装置400及其中包含的单元,在此不再赘述。
下面参考图5,其示出了适于用来实现本公开的一些实施例的电子设备(如图1所示的计算设备101)500的结构示意图。图5示出的电子设备仅仅是一个示例,不应对本公开的实施例的功能和使用范围带来任何限制。
如图5所示,电子设备500可以包括处理装置(例如中央处理器、图形处理器等)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储装置508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有电子设备500操作所需的各种程序和数据。处理装置501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
通常,以下装置可以连接至I/O接口505:包括例如触摸屏、触摸板、键盘、鼠标、摄像头、麦克风、加速度计、陀螺仪等的输入装置506;包括例如液晶显示器(LCD)、扬声器、振动器等的输出装置507;包括例如磁带、硬盘等的存储装置508;以及通信装置509。通信装置509可以允许电子设备500与其他设备进行无线或有线通信以交换数据。虽然图5示出了具有各种装置的电子设备500,但是应理解的是,并不要求实施或具备所有示出的装置。可以替代地实施或具备更多或更少的装置。图5中示出的每个方框可以代表一个装置,也可以根据需要代表多个装置。
特别地,根据本公开的一些实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的一些实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的一些实施例中,该计算机程序可以通过通信装置509从网络上被下载和安装,或者从存储装置508被安装,或者从ROM 502被安装。在该计算机程序被处理装置501执行时,执行本公开的一些实施例的方法中限定的上述功能。
需要说明的是,本公开的一些实施例中记载的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开的一些实施例中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开的一些实施例中,计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读信号介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:电线、光缆、RF(射频)等等,或者上述的任意合适的组合。
在一些实施方式中,客户端、服务器可以利用诸如HTTP(HyperText TransferProtocol,超文本传输协议)之类的任何当前已知或未来研发的网络协议进行通信,并且可以与任意形式或介质的数字数据通信(例如,通信网络)互连。通信网络的示例包括局域网(“LAN”),广域网(“WAN”),网际网(例如,互联网)以及端对端网络(例如,ad hoc端对端网络),以及任何当前已知或未来研发的网络。
上述计算机可读介质可以是上述电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该电子设备执行时,使得该电子设备:获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;对上述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;根据上述图像集合,生成子轨迹组集合;根据上述分段重力变化信息集合和上述子轨迹组集合,生成物品拿取信息;将上述物品拿取信息发送至显示设备以供显示。
可以以一种或多种程序设计语言或其组合来编写用于执行本公开的一些实施例的操作的计算机程序代码,上述程序设计语言包括面向对象的程序设计语言—诸如Java、Smalltalk、C++,还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络——包括局域网(LAN)或广域网(WAN)——连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本公开的一些实施例中的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括获取单元、分段处理单元、第一生成单元、第二生成单元和显示单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,获取单元还可以被描述为“获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合的单元”。
本文中以上描述的功能可以至少部分地由一个或多个硬件逻辑部件来执行。例如,非限制性地,可以使用的示范类型的硬件逻辑部件包括:现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、片上系统(SOC)、复杂可编程逻辑设备(CPLD)等等。
以上描述仅为本公开的一些较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本公开的实施例中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本公开的实施例中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (9)
1.一种物品信息生成方法,包括:
获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;
对所述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;
根据所述图像集合,生成子轨迹组集合;
根据所述分段重力变化信息集合和所述子轨迹组集合,生成物品拿取信息;
将所述物品拿取信息发送至显示设备以供显示。
2.根据权利要求1所述的方法,其中,所述根据所述图像集合,生成子轨迹组集合,包括:
对所述图像集合中的每张图像进行物体检测,以生成关键帧检测信息,得到关键帧检测信息集合,其中,所述关键帧检测信息集合中的关键帧检测信息包括:检测框位置信息、检测框类别信息和图像帧索引;
从所述关键帧检测信息集合中筛选出检测框类别信息相同的关键帧检测信息,作为候选关键帧信息组,得到候选关键帧信息组集合;
对于所述候选关键帧信息组集合中的每个候选关键帧信息组,响应于确定所述候选关键帧信息组中存在特征关键帧信息对,根据所述特征关键帧信息对在所述候选关键帧信息组中的位置,对所述候选关键帧信息组进行分组处理,以生成目标关键帧信息组集合,其中,所述特征关键帧信息对中的两个特征关键帧信息包括的图像帧索引之间的差值大于等于目标值;
根据目标关键帧信息组集合组中的每个目标关键帧信息组中的目标关键帧信息包括的检测框位置信息,生成候选轨迹,得到候选轨迹集合。
3.根据权利要求2所述的方法,其中,所述根据目标关键帧信息组集合组中的每个目标关键帧信息组中的目标关键帧信息包括的检测框位置信息,生成候选轨迹,包括:
将所述目标关键帧信息组中的各个目标关键帧信息包括的检测框位置信息对应的位置点进行连接,以生成候选轨迹。
4.根据权利要求2所述的方法,其中,所述根据所述图像集合,生成子轨迹组集合,还包括:
对所述候选轨迹集合中的每条候选轨迹进行样条插值处理,以生成目标轨迹,得到目标轨迹集合;
对所述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合;
对所述分组后的轨迹组集合中的每个分组后的轨迹组中的分组后的轨迹进行轨迹融合,以生成融合轨迹组,得到融合轨迹组集合;
根据预设时间点集合,对所述融合轨迹组集合中的每个融合轨迹组中的每条融合轨迹进行轨迹分割处理,以生成子轨迹组,得到子轨迹组集合。
5.根据权利要求4所述的方法,其中,所述对所述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合,包括:
确定所述目标轨迹集合中的每个目标轨迹的头尾位置,以生成头尾位置信息,得到头尾位置信息集合;
根据所述头尾位置信息集合,对所述目标轨迹集合中的目标轨迹进行轨迹分组处理,以生成分组后的轨迹组集合。
6.根据权利要求4所述的方法,其中,所述根据所述分段重力变化信息集合和所述子轨迹组集合,生成物品拿取信息,包括:
确定所述子轨迹组集合中的每个子轨迹组对应的数据信息组集合,以生成数据信息矩阵,得到数据信息矩阵序列;
对于所述数据信息矩阵序列中的每个数据信息矩阵,确定所述数据信息矩阵对应的物品的总数据信息;
确定所述分段重力变化信息集合中每个分段重力变化信息对应的重力分段下的物品组合,以生成物品组合信息,得到物品组合信息集合;
根据总数据信息集合和所述物品组合信息集合,生成所述物品拿取信息。
7.一种物品信息生成装置,包括:
获取单元,被配置成获取重力传感器采集的连续重力信号和图像传感器采集的针对目标区域的图像集合;
分段处理单元,被配置成对所述连续重力信号进行分段处理,以生成分段重力变化信息,得到分段重力变化信息集合;
第一生成单元,被配置成根据所述图像集合,生成子轨迹组集合;
第二生成单元,被配置成根据所述分段重力变化信息集合和所述子轨迹组集合,生成物品拿取信息;
显示单元,被配置成将所述物品拿取信息发送至显示设备以供显示。
8.一种电子设备,包括:
一个或多个处理器;
存储装置,其上存储有一个或多个程序;
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1至6中任一所述的方法。
9.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求1至6中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210159037.3A CN114627352A (zh) | 2022-02-21 | 2022-02-21 | 物品信息生成方法、装置、电子设备和计算机可读介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210159037.3A CN114627352A (zh) | 2022-02-21 | 2022-02-21 | 物品信息生成方法、装置、电子设备和计算机可读介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114627352A true CN114627352A (zh) | 2022-06-14 |
Family
ID=81899178
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210159037.3A Pending CN114627352A (zh) | 2022-02-21 | 2022-02-21 | 物品信息生成方法、装置、电子设备和计算机可读介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114627352A (zh) |
-
2022
- 2022-02-21 CN CN202210159037.3A patent/CN114627352A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109816589B (zh) | 用于生成漫画风格转换模型的方法和装置 | |
CN108710885B (zh) | 目标对象的检测方法和装置 | |
CN109800732B (zh) | 用于生成漫画头像生成模型的方法和装置 | |
CN112184738B (zh) | 一种图像分割方法、装置、设备及存储介质 | |
CN111831855B (zh) | 用于匹配视频的方法、装置、电子设备和介质 | |
CN110209658B (zh) | 数据清洗方法和装置 | |
CN111292420A (zh) | 用于构建地图的方法和装置 | |
CN112200173B (zh) | 多网络模型训练方法、图像标注方法和人脸图像识别方法 | |
CN111160410B (zh) | 一种物体检测方法和装置 | |
CN112183627A (zh) | 生成预测密度图网络的方法和车辆年检标数量检测方法 | |
CN113392864A (zh) | 模型生成方法及视频筛选方法、相关装置、存储介质 | |
CN112991380B (zh) | 基于视频图像的轨迹生成方法、装置、电子设备和介质 | |
CN112561606B (zh) | 基于用户行为的货架摆放方法、装置、电子设备和介质 | |
CN112381184B (zh) | 图像检测方法、装置、电子设备和计算机可读介质 | |
CN111782933A (zh) | 用于推荐书单的方法和装置 | |
CN114627352A (zh) | 物品信息生成方法、装置、电子设备和计算机可读介质 | |
CN113191257A (zh) | 笔顺检测方法、装置和电子设备 | |
CN111949860B (zh) | 用于生成相关度确定模型的方法和装置 | |
CN113255812A (zh) | 视频边框检测方法、装置和电子设备 | |
CN112990135B (zh) | 设备控制方法、装置、电子设备和计算机可读介质 | |
CN111414921A (zh) | 样本图像处理方法、装置、电子设备及计算机存储介质 | |
CN112347278A (zh) | 用于训练表征模型的方法和装置 | |
CN111488890A (zh) | 一种物品检测模型的训练方法和装置 | |
CN111932323B (zh) | 物品信息界面显示方法、装置、设备和计算机可读介质 | |
CN111898658B (zh) | 图像分类方法、装置和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |