CN110765825A - 物品摆放状态获取方法和系统 - Google Patents
物品摆放状态获取方法和系统 Download PDFInfo
- Publication number
- CN110765825A CN110765825A CN201810851381.2A CN201810851381A CN110765825A CN 110765825 A CN110765825 A CN 110765825A CN 201810851381 A CN201810851381 A CN 201810851381A CN 110765825 A CN110765825 A CN 110765825A
- Authority
- CN
- China
- Prior art keywords
- article
- image
- hot
- standard
- current image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 75
- 238000012545 processing Methods 0.000 claims abstract description 30
- 230000004044 response Effects 0.000 claims abstract description 14
- 238000012216 screening Methods 0.000 claims description 40
- 230000002159 abnormal effect Effects 0.000 claims description 37
- 238000003672 processing method Methods 0.000 abstract description 11
- 230000006870 function Effects 0.000 description 19
- 235000021443 coca cola Nutrition 0.000 description 16
- 238000001914 filtration Methods 0.000 description 15
- 238000010586 diagram Methods 0.000 description 14
- 238000004590 computer program Methods 0.000 description 13
- 230000008569 process Effects 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 9
- 230000015654 memory Effects 0.000 description 9
- 238000004891 communication Methods 0.000 description 7
- 230000007547 defect Effects 0.000 description 5
- 230000003287 optical effect Effects 0.000 description 4
- 238000004806 packaging method and process Methods 0.000 description 4
- 239000000758 substrate Substances 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 239000013307 optical fiber Substances 0.000 description 3
- 108010001267 Protein Subunits Proteins 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000013136 deep learning model Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 230000001960 triggered effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/35—Categorising the entire scene, e.g. birthday party or wedding scene
- G06V20/36—Indoor scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/46—Extracting features or characteristics from the video content, e.g. video fingerprints, representative shots or key frames
-
- G—PHYSICS
- G08—SIGNALLING
- G08B—SIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
- G08B21/00—Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
- G08B21/18—Status alarms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30232—Surveillance
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30242—Counting objects in image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Business, Economics & Management (AREA)
- Emergency Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Alarm Systems (AREA)
Abstract
本公开提供了一种物品摆放状态获取方法,包括:发送获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;以及接收至少一个热区对应的物品的摆放状态,该至少一个热区对应的物品的摆放状态是响应于获取请求根据至少一个热区的当前图像及标准图像确定的,其中,摄像设备用于获取与其具有关联关系的热区的当前图像。本公开还提供了一种处理方法,一种物品摆放状态获取系统和一种处理系统。
Description
技术领域
本公开涉及电子技术领域,更具体地,涉及一种物品摆放状态获取方法和系统。
背景技术
随着消费与技术两股力量的绞合,零售基础设施发生变化,引发了第四次零售革命,将人们带入无界零售的时代。
在无界零售时代,最重要的基础设施之一是货架,关键的环节之一是理货。
在实现本公开构思的过程中,发明人发现现有技术中至少存在如下问题:现有技术中,零售门店的理货工作,没有成熟的技术做支撑,货架上物品的摆放状态主要还是依靠人工巡检得到,或者依赖于理货经验得到,因此无法及时的获取该货架上物品的摆放状态,不仅存在理货延时严重,时效性差的缺陷,还存在理货精准度差、效率低、理货成本高的缺陷。
发明内容
有鉴于此,本公开提供了一种能够提高理货效率的物品摆放状态获取方法和系统,以及一种处理方法和系统。
本公开的一个方面提供了一种物品摆放状态获取方法,包括:发送获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;以及接收至少一个热区对应的物品的摆放状态,该至少一个热区对应的物品的摆放状态是响应于获取请求,根据至少一个热区的当前图像及标准图像确定的,摄像设备用于获取与其具有关联关系的热区的当前图像。
根据本公开的实施例,上述方法还包括:设定所述一个或多个关联关系;并且/或者展示至少一个热区中一个或多个热区对应的物品的摆放状态;并且/或者根据用户输入的筛选条件,自至少一个热区对应的物品的摆放状态中筛选得到与筛选条件匹配的、一个或多个热区对应的物品的摆放状态,其中,筛选条件包括以下至少之一:摄像设备编号、热区编号、物品名称和/或物品的摆放状态。
根据本公开的实施例,上述方法还包括:设定摄像设备获取与其具有关联关系的热区的当前图像的周期;并且/或者设定接收至少一个热区对应的物品的摆放状态的周期,其中接收至少一个热区对应的物品的摆放状态的周期不小于摄像设备获取与其具有关联关系的热区的当前图像的周期。
根据本公开的实施例,一个热区对应的物品的摆放状态包括正常状态和非正常状态,上述物品摆放状态获取方法还包括:在至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。
根据本公开的实施例,上述与摄像设备具有关联关系的热区的当前图像的获取包括:获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别多张实时图像,得到该多张实时图像中包括的物品数量;以及确定与摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像,其中,摄像设备与一个或多个热区具有关联关系。
本公开的另一个方面提供了一种处理方法,包括:接收获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;响应于获取请求,获取至少一个热区的当前图像及标准图像;以及根据至少一个热区的当前图像及标准图像,确定至少一个热区对应的物品的摆放状态,其中,摄像设备用于获取与其具有关联关系的热区的当前图像。
根据本公开的实施例,根据至少一个热区的当前图像及标准图像,确定至少一个热区对应的物品的摆放状态包括:识别至少一个热区的当前图像,得到至少一个热区的当前图像包括的图像特征;基于至少一个热区的当前图像包括的图像特征,确定至少一个热区对应的物品特征;以及对比至少一个热区对应的物品特征与至少一个热区对应的标准物品特征,确定至少一个热区对应的物品的摆放状态,其中,至少一个热区对应的标准物品特征是基于至少一个热区的标准图像得到的。
根据本公开的实施例,一个热区对应的物品的摆放状态包括正常状态和非正常状态,该非正常状态包括以下情况的至少之一:对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况;对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与标准物品名称对应的标准物品数量的比值小于第一比值的情况;或对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况,其中,物品特征包括以下至少之一:物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品名称对应的物品位置。
根据本公开的实施例,上述与摄像设备具有关联关系的热区的当前图像的获取包括:获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别多张实时图像,得到该多张实时图像中包括的物品数量;以及确定与摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像,其中,摄像设备与一个或多个热区具有关联关系。
本公开的另一个方面还提供了一种物品摆放状态获取系统,该物品摆放状态获取系统能够与处理系统交互,包括获取请求发送模块和摆放状态接收模块,获取请求发送模块用于发送获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品,摆放状态接收模块用于接收至少一个热区对应的物品的摆放状态,该至少一个热区对应的物品的摆放状态由处理系统响应于获取请求,根据至少一个热区的当前图像及标准图像确定,摄像设备用于获取与其具有关联关系的热区的当前图像。
根据本公开的实施例,上述系统还包括参数设定模块、展示模块和/或筛选模块,参数设定模块用于设定一个或多个关联关系,展示模块用于展示至少一个热区中一个或多个热区对应的物品的摆放状态,筛选模块用于根据用户输入的筛选条件,自至少一个热区对应的物品的摆放状态中筛选得到与筛选条件匹配的、一个或多个热区对应的物品的摆放状态以供展示,其中,筛选条件包括以下至少之一:摄像设备编号、热区编号、物品名称和/或物品的摆放状态。
根据本公开的实施例,上述参数设定模块还用于设定摄像设备获取与其具有关联关系的热区的当前图像的周期;并且/或者,上述摆放状态获取模块还用于设定接收至少一个热区对应的物品的摆放状态的周期,其中,接收至少一个热区对应的物品的摆放状态的周期,不小于摄像设备获取与其具有关联关系的热区的当前图像的周期。
根据本公开的实施例,上述至少一个热区对应的物品的摆放状态包括正常状态和非正常状态,上述物品摆放状态获取系统还包括报警模块,用于在至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。
根据本公开的实施例,上述与摄像设备具有关联关系的热区的当前图像的获取包括:获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别多张实时图像,得到多张实时图像中包括的物品数量;以及确定与摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像,其中,摄像设备与一个或多个热区具有关联关系。
本公开的另一个方面提供了一种处理系统,该处理系统能够与物品摆放状态获取系统交互,包括获取请求接收模块、图像获取模块以及摆放状态确定模块,获取请求接收模块用于接收物品摆放状态获取系统发送的获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;图像获取模块用于响应于获取请求,获取至少一个热区的当前图像及标准图像;摆放状态确定模块用于根据至少一个热区的当前图像及标准图像,确定至少一个热区对应的物品的摆放状态,其中,摄像设备用于获取与其具有关联关系的热区的当前图像。
根据本公开的实施例,上述摆放状态确定模块包括图像特征识别子模块、物品特征确定子模块以及摆放状态确定子模块,图像特征识别子模块用于识别至少一个热区的当前图像,得到至少一个热区的当前图像包括的图像特征;物品特征确定子模块用于基于至少一个热区的当前图像包括的图像特征,确定至少一个热区对应的物品特征;摆放状态确定子模块用于对比至少一个热区对应的物品特征与至少一个热区对应的标准物品特征,确定至少一个热区对应的物品的摆放状态,其中,至少一个热区对应的标准物品特征是基于至少一个热区的标准图像得到的。
根据本公开的实施例,上述物品的摆放状态包括正常状态和非正常状态,该非正常状态包括以下情况的至少之一:对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况;对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与标准物品名称对应的标准物品数量的比值小于第一比值的情况;或者,对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况,其中,物品特征包括以下至少之一:物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品名称对应的物品位置。
根据本公开的实施例,上述处理系统为云端系统;并且/或者上述系统还包括图像存储模块,用于存储摄像设备获取的与其具有关联关系的热区的当前图像及至少一个热区的标准图像,以供图像获取模块获取。
根据本公开的实施例,上述与摄像设备具有关联关系的热区的当前图像的获取包括:获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别该多张实时图像,得到多张实时图像中包括的物品数量;以及确定与摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像,其中,所述摄像设备与一个或多个热区具有关联关系。
本公开的另一个方面提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行上述的物品摆放状态获取方法。
本公开的另一个方面提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行上述的处理方法。
本公开的另一个方面提供了一种非易失性存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的物品摆放状态获取方法。
本公开的另一个方面提供了一种非易失性存储介质,存储有计算机可执行指令,所述指令在被执行时用于实现如上所述的处理方法。
根据本公开的实施例,可以至少部分地避免依靠人工巡检获取物品摆放状态导致的理货成本高,且无法实时获取物品摆放状态导致的理货延时的缺陷,并因此可以实现实时的自动获取物品摆放状态,以提高理货效率,提高理货时效性以及降低理货人力成本的技术效果。
附图说明
通过以下参照附图对本公开实施例的描述,本公开的上述以及其他目的、特征和优点将更为清楚,在附图中:
图1示意性示出了根据本公开实施例的物品摆放状态获取方法和系统的应用场景;
图2A~图2B示意性示出了根据本公开实施例的物品摆放状态获取方法的流程图;
图3A~图3B示意性示出了根据本公开另一实施例的物品摆放状态获取方法的流程图;
图4示意性示出了根据参考图3A描述的物品摆放状态获取方法得到的展示画面;
图5示意性示出了根据本公开实施例的热区的当前图像的获取流程图;
图6示意性示出了根据本公开实施例的处理方法的操作流程图;
图7示意性示出了根据本公开实施例的确定物品摆放状态的流程图;
图8A~图8C示意性示出了根据本公开实施例的物品摆放状态为非正常状态的示意图;
图9A~图9E示意性示出了根据本公开实施例的物品摆放状态获取系统的结构框图;
图10A~图10C示意性示出了根据本公开实施例的处理系统的结构框图;
图11示意性示出了根据本公开实施例的适于实现物品摆放状态获取方法或处理方法的计算机系统的方框图。
具体实施方式
以下,将参照附图来描述本公开的实施例。但是应该理解,这些描述只是示例性的,而并非要限制本公开的范围。在下面的详细描述中,为便于解释,阐述了许多具体的细节以提供对本公开实施例的全面理解。然而,明显地,一个或多个实施例在没有这些具体细节的情况下也可以被实施。此外,在以下说明中,省略了对公知结构和技术的描述,以避免不必要地混淆本公开的概念。
在此使用的术语仅仅是为了描述具体实施例,而并非意在限制本公开。在此使用的术语“包括”、“包含”等表明了所述特征、步骤、操作和/或部件的存在,但是并不排除存在或添加一个或多个其他特征、步骤、操作或部件。
在此使用的所有术语(包括技术和科学术语)具有本领域技术人员通常所理解的含义,除非另外定义。应注意,这里使用的术语应解释为具有与本说明书的上下文相一致的含义,而不应以理想化或过于刻板的方式来解释。
在使用类似于“A、B和C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B和C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。在使用类似于“A、B或C等中至少一个”这样的表述的情况下,一般来说应该按照本领域技术人员通常理解该表述的含义来予以解释(例如,“具有A、B或C中至少一个的系统”应包括但不限于单独具有A、单独具有B、单独具有C、具有A和B、具有A和C、具有B和C、和/或具有A、B、C的系统等)。本领域技术人员还应理解,实质上任意表示两个或更多可选项目的转折连词和/或短语,无论是在说明书、权利要求书还是附图中,都应被理解为给出了包括这些项目之一、这些项目任一方、或两个项目的可能性。例如,短语“A或B”应当被理解为包括“A”或“B”、或“A和B”的可能性。
本公开的实施例提供了一种物品摆放状态获取方法。该方法包括发送获取请求,获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;以及接收至少一个热区对应的物品的摆放状态,该至少一个热区对应的物品的摆放状态是响应于获取请求,根据至少一个热区的当前图像及标准图像确定的,其中,摄像设备用于获取与其具有关联关系的热区的当前图像。
本公开的实施例还提供了一种处理方法,该方法包括:接收获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;响应于获取请求,获取至少一个热区的当前图像及标准图像;以及根据至少一个热区的当前图像及标准图像,确定至少一个热区对应的物品的摆放状态,其中,摄像设备用于获取与其具有关联关系的热区的当前图像。
图1示意性示出了根据本公开实施例的物品摆放状态获取方法和系统的应用场景。需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、系统、环境或场景。
如图1所示,根据该实施例的应用场景100包括终端设备101、云端系统102、摄像设备103、货架104。摄像设备103与云端系统102之间、云端系统102与终端设备101之间或者摄像设备103与终端设备101之间通过通信链路的介质连接,该连接可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
终端设备101可以与云端系统102进行交互,以接收物品摆放状态等。终端设备101上可以安装有各种操作应用,以向云端系统102发送获取请求;终端设备101还可以与摄像设备103进行交互,以调节摄像设备103的拍摄频率。
终端设备101可以是具有显示屏的各种电子设备,以向用户展示物品的摆放状态,包括但不限于台式计算机、膝上型便携计算机、平板电荷和智能手机等。
根据本公开的实施例,该终端设备101例如还可以通过与云端设备102的交互,获取云端系统102存储的拍摄设备103拍摄的货架的当前图像200(包括热区的当前图像)以及该货架的标准图像(包括热区的标准图像)进行展示,以更好的展示货架104上各个热区对应的物品的摆放状态。
根据本公开的实施例,一个热区对应于货架104上摆放有同一商品的区域,对于参考图1中的货架104,该一个热区例如可以为该货架104的最底层放置有“可口可乐”商品的区域。可以理解的是,上述对热区的描述仅作为示例以利于理解本公开,本公开对此不作限定。
云端系统102可以是具有存储及计算功能的云端虚拟终端设备(例如虚拟个人计算机等),以存储摄像设备103拍摄的货架104的当前图像200及货架的标准图像,并响应于终端设备101的获取请求,对当前图像与标准图像进行处理分析得到该货架103上一个或多个热区的物品的摆放状态(仅为示例)。
云端系统102例如还具有图像处理功能,以根据标准图像上与热区对应区域的坐标范围,在摄像设备103拍摄的货架的当前图像上标注得到热区的对应区域。
摄像设备103例如可以通过设定的通信协议与云端系统102通信,其可以是具有拍摄功能的终端设备,用于拍摄货架104的实时图像,并将拍摄的图像200发送至云端系统102,以供云端系统102存储。
根据本公开的实施例,该摄像设备103例如还可以是具有计算处理功能的摄像设备103,该摄像设备103可以以间隔时间连续抓拍货架104得到多张实时图像,则该摄像设备通过其计算处理功能可以对该多张实时图像进行识别处理,以从该多张实时图像中筛选到最佳图像作为当前图像(包括热区的货架的当前图像)。根据本公开的实施例,该摄像设备103例如还可以具有类似于云端系统的图像处理的功能。
根据本公开的实施例,该摄像设备103例如可以是具有实时拍摄或定期拍摄功能的监控摄像头等摄像装置,以实时或定期获取货架104的图像,从而实时或定期得到该货架104的图像(包括该货架104包括的一个或多个热区的图像)。
需要说明的是,本公开实施例所提供的物品摆放状态获取方法一般可以由终端设备101执行。相应地,本公开实施例所提供的物品摆放状态获取系统一般可以设置于终端设备101中。
根据本公开的实施例,参考图1中的应用场景例如也可以不包括云端系统102,则摄像设备103与终端设备101通信,该终端设备101还具有存储及计算功能,以存储摄像设备103拍摄的货架104的当前图像200(包括热区的当前图像)及该货架104的标准图像(包括热区的标准图像),并分析识别当前图像200及标准图像后得到该货架104包括的一个或多个热区的物品的摆放状态。
可以理解的是,图1中的终端设备、云端系统、摄像设备、货架及货架上摆放物品的数目及类型仅仅是示意性的。根据实现需要,可以具有任意数目及类型的终端设备、云端系统、摄像设备、货架及摆放物品。
图2A~图2B示意性示出了根据本公开实施例的物品摆放状态获取方法的流程图。
如图2A所示,该物品摆放状态获取方法包括操作S210~操作S220。
在操作S210,发送获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品。
其中,一个或多个关联关系例如可以是预先设定好的,则如图2B所示,该方法例如还可以包括操作S230,设定一个或多个关联关系。该操作S230例如可以在操作S210之前执行。
根据本公开的实施例,热区例如可以为货架104上摆放有同一种物品的区域,摄像设备例如可以是获取与其具有关联关系的热区的当前图像的摄像设备,具体例如可以是获取与其具有关联关系的热区所在货架104的当前图像的摄像设备103。
根据本公开的实施例,摄像设备103例如可与预设有热区的货架104位于同一空间中,摄像设备103具体例如可以设置于与货架104相对的墙壁上、与该货架104相对的另一货架上、或者该货架104所在空间的顶壁上,以用于拍摄该货架104的实时图像,该拍摄的货架104的实时图像包括该货架104具有的热区的实时图像,因此也包括该货架104具有的热区的当前图像。
根据本公开的实施例,摄像设备可以在终端设备101响应于用户的操作,向该摄像设备发送拍摄指令时获取与其具有关联关系的热区的当前图像(具体例如可以为拍摄该热区所在货架的当前图像),或者,该摄像设备还可以根据设定的周期,周期性地获取与其具有关联关系的热区的当前图像,该周期例如可以通过终端设备101设定,则该物品摆放状态获取方法还可以包括相应的操作:设定摄像设备获取与其具有关联关系的热区的当前图像的周期,其中,该设定的获取周期例如可以是5min。
根据本公开的实施例,该获取请求例如可以是响应于用户的操作由终端设备101发送的,还可以是按照预先设定好的周期发送的,从而以周期性的接收至少一个热区对应的物品的摆放状态,则该物品摆放状态获取方法例如还可以包括相应的操作:设定接收至少一个热区对应的物品的摆放状态的周期,其中,该设定的接收周期例如可以是与获取周期相同的5min。
根据本公开的实施例,接收至少一个热区对应的物品的摆放状态的周期不小于摄像设备获取与其具有关联关系的热区的当前图像的周期,从而可保证通过该物品摆放状态获取方法接收到的热区对应的物品的摆放状态是根据该热区摆放的物品的状态实时更新的。
根据本公开的实施例,该设定一个或多个关联关系例如可以由用户通过终端设备101设定,设定热区与摄像设备之间的关联关系的过程具体例如可以是通过终端设备101将摄像设备信息与热区信息绑定的过程。其中的摄像设备信息例如可以包括摄像设备编号、型号和/或厂商等,热区信息例如可以包括热区编号、该热区摆放的物品信息(例如物品名称、物品编号等)。
根据本公开的实施例,该设定热区与摄像设备之间的关联关系具体例如还可以为:通过终端设备101依次注册摄像设备、货架及热区,其中:
注册摄像设备的过程例如可以是填写摄像设备信息(如摄像设备编号、型号和/或厂商等)的过程;
注册货架的过程例如可以是先填写货架信息(例如可以包括货架编号和摄像设备编号,还可以包括该货架所在门店名称、货架长度、货架宽度等),然后确定云端系统或该终端设备101本地是否存在该货架的标准图像,若存在该货架的标准图像,则完成该货架的注册,若不存在货架的标准图像,则重新调整该货架上物品的摆放或重新调节摄像设备的拍摄角度后,根据摄像设备重新拍摄的货架的实时图像确认是否为标准图像,直至存在该货架的标准图像后,完成该货架的注册;
热区的注册过程例如可以为:首先填写货架信息,然后判断该货架信息对应的货架是否完成注册,若完成该货架注册则读取该货架的标准图像并在该标准图像上标注出热区的对应区域范围,并填写热区信息(例如可以包括热区编号、该热区摆放的物品的名称和/或编号、用户信息(例如该热区的负责人名称)等);若未完成货架注册,则返回进入货架注册流程,并再次进行热区注册过程。
综上可知,通过上述实施例的注册过程,可以实现摄像设备、货架与热区的绑定,从而实现了热区与摄像设备的关联关系的设定,且可以理解的是,上述设定热区与摄像设备的关联关系的方法仅作为示例以利于理解本公开,本公开对此不作限定。
根据本公开的实施例,上述货架的标准图像例如可以是摄像设备在特定时刻拍摄的、符合要求的图像,该标准图像例如可以是该货架刚被摆满物品,且该物品的摆放满足标准条件(物品的摆放对于摄像设备而言,处于物品标志完全显露的角度)时拍摄得到的。具体地,该货架的标准图像例如还可以是终端设备101从云端系统102/或摄像设备103获取多个时间段拍摄得到的货架的图像展示给用户,由用户自该多个时间段的货架的图像中挑选后,上传至云端系统102的;该货架的标准图像例如还可以由云端系统102根据预设的标准,自多个时间段的货架的图像中筛选得到。
根据本公开的实施例,该获取请求包括的一个或多个关联关系,及摄像设备103获取的与其具有关联关系的热区的当前图像,能够为得到至少一个热区对应的物品的摆放状态提供条件。
在操作S220,接收至少一个热区对应的物品的摆放状态,至少一个热区对应的物品的摆放状态是响应于获取请求,根据至少一个热区的当前图像及标准图像确定的。
根据本公开的实施例,上述热区的标准图像例如可以是该货架的标准图像中与热区对应区域的图像,该热区的标准图像中该热区摆放的物品处于满足标准条件:摆满且物品标识相对于摄像设备完全显露的状态。
根据本公开的实施例,该热区的当前图像例如可以是所述货架的当前图像上热区的对应区域,物品的摆放状态具体例如可以是根据货架的当前图像及该货架的标准图像确定的,其中,货架的当前图像可以是自多张货架的实时图像中筛选得到的。
根据本公开的实施例,热区的当前图像具体还可以通过以下方式得到:根据在热区注册时,在货架104的标准图像上标注的热区对应区域的坐标范围,在货架104的当前图像中划分得到与该坐标范围相对应的区域的图像,则该划分得到的图像即为该热区的当前图像,则,物品的摆放状态具体例如可以是通过划分得到的该热区的当前图像及热区的标准图像确定的。可以理解的是,该热区的当前图像例如可以通过具有图像处理功能的摄像设备103得到,也可以通过云端系统102得到,还可以通过终端设备101得到,本公开对此不作限定。根据本公开的实施例,该热区的当前图像例如还可以是自多张实时图像中筛选得到的。
根据本公开的实施例,该接收得到的热区对应的物品的摆放状态例如可以包括正常状态与非正常状态。其中,响应于获取请求,根据至少一个热区的当前图像及标准图像确定物品的摆放状态例如可包括:首先识别该热区的当前图像和标准图像,得到该热区包括的当前的图像特征及标准图像特征,再根据该当前的图像特征与标准图像特征,得到该热区当前对应的物品特征及标准物品特征,通过比对该热区当前对应的物品特征与标准物品特征来确定物品的摆放状态,其中的正常状态例如可以是:该热区当前对应的物品特征与标准物品特征相比满足预设的多个条件的情况,而其中的非正常状态例如可以是该热区当前对应的物品特征与标准物品特征相比不满足预设的多个条件中任一个条件的情况。
根据本公开的实施例,热区对应的物品特征及标准物品特征例如还可以通过以下方式得到:以根据该热区的标准图像得到的标准图像特征及根据该热区的当前图像得到的图像特征作为输入,通过预先训练好的模型得到热区对应的物品特征及标准物品特征,该热区对应的物品特征例如可以包括物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品位置(即在热区的当前图像中的坐标位置),相应地,标准物品特征例如可以包括标准物品名称、标准物品名称对应的物品数量、标准物品名称对应的物品标志和/或标准物品位置(即在热区的标准图像中的坐标位置)。
根据本公开的实施例,热区对应的物品特征例如还可以通过以下方式得到:以该热区所属的货架的当前图像得到的图像特征及该热区在其所属的货架的标准图像上的坐标范围作为输入,通过预先训练好的模型得到的货架的实时图像上该坐标范围内的物品特征,即为该热区对应的物品特征。相应地,该热区对应的标准物品特征例如可通过以下方式得到:预先在该热区所属的货架的标准图像上标注出一个或多个热区对应的区域,并以该标注后的标准图像作为输入,通过预先训练好的模型得到货架的标准图像上一个或多个热区对应的物品特征。
根据本公开的实施例,如图2B所示,该物品状态获取方法例如还可以包括操作S240,展示至少一个热区中一个或多个热区对应的物品的摆放状态。
根据本公开的实施例,终端设备101例如可以具有显示屏,该物品摆放状态获取方法可由终端设备101执行,通过该终端设备101的显示屏展示一个或多个热区对应的物品的摆放状态,以使用户能够通过展示内容实时的获知货架上各热区摆放物品的状态。
根据本公开的实施例,该终端设备101的显示屏例如还可以显示有以下至少之一:摆放有该热区所在货架的门店的门店名称、该热区所属货架的货架编号、热区编号、物品名称、物品编号、及该热区的标准图像、热区的实时图像及用户信息(例如该热区的负责人名称)等。
综上可知,通过本公开实施例的物品摆放状态获取方法,通过发送获取请求,可以接收热区对应的物品的摆放状态,以定期或实时的得知该物品的摆放状态,供用户判断是否需要理货,由于该方法无需用户到热区所在货架区域巡检,从而可以有效地提高理货效率,避免通常理货存在的延时严重,时效性差的缺陷,同时降低理货成本;再者,由于该物品的摆放状态是根据热区的标准图像及当前图像得到的,而无需用户通过理货经验判断得到,因此在一定程度上能够提高理货的精准度。
图3A~图3B示意性示出了根据本公开另一实施例的物品摆放状态获取方法的流程图,图4示意性示出了根据参考图3A描述的物品摆放状态获取方法得到的展示画面。
如图3A所示,该物品摆放状态获取方法除了参考图2A描述的操作S210~操作S220,还可以包括操作S350和操作S360。
根据本公开的实施例,操作S350例如可以在操作S220之后执行,或者在用户输入筛选条件时执行。
在操作S350,根据用户输入的筛选条件,自至少一个热区对应的物品的摆放状态中筛选得到与筛选条件匹配的、一个或多个热区对应的物品的摆放状态以供展示;则相应地,在操作S360,展示该筛选得到的与筛选条件匹配的、一个或多个热区对应的物品的摆放状态。
根据本公开的实施例,具有显示屏的终端设备例如还展示有筛选条件输入窗口,以便用户输入筛选条件,该筛选条件例如可以包括以下至少之一:摄像设备编号、热区编号、物品名称和/或物品的摆放状态。则在用户输入摄像设备编号的情况下,操作S350筛选得到的即为与该摄像设备编号对应的摄像设备具有关联关系的所有热区对应的物品的摆放状态;在用户输入物品名称的情况下,操作S350筛选得到的即为所有摆放有与对应于该物品名称的物品所在热区该物品的摆放状态。
根据本公开的实施例,在各个时间段获取得到的物品的摆放状态例如可以存储于本地存储空间(例如参考图1所示的终端设备)中,则用户输入的筛选条件例如还可以包括有时间段,操作S350筛选得到的即为本地存储空间中存储的该时间段内所有的物品的摆放状态;若通过上述注册方式设定热区与摄像设备的关联关系,则用户输入的筛选条件例如还可以包括门店名称、货架编号等,操作S350筛选得到的即为本地存储空间中存储的、与该门店名称/货架编号对应的门店/货架包括的热区对应的物品的摆放状态。根据本公开的实施例,本物品摆放状态获取方法例如还可以对本地存储空间中存储的摆放状态进行定期清理,以使得该本地存储空间仅存储有最近一段时间的摆放状态,降低该本地存储空间的负荷。
根据本公开的实施例,对于实际的应用场景,例如一个用户负责多个热区的物品的摆放状态的情况,则还可以设定该用户信息与该多个热区、与该多个热区具有关联关系的摄像设备等的关联关系,则用户输入的筛选条件例如还可以包括该用户信息,操作S350筛选得到的即为与该用户信息对应的用户负责的多个热区对应的物品的摆放状态,此处用户信息例如可以包括负责人名称、负责人职位和/或负责人工号等。
可以理解的是,上述筛选条件仅作为示例以利于理解本公开,本公开对此不作限定,输入的筛选条件例如还可以为上述列举的筛选条件中的两个或多个,例如输入的筛选条件还可以为门店名称和用户信息等。
根据本公开的实施例,通过参考图3A描述的物品摆放状态获取方法得到的展示页面如图4所示,用户例如可以通过该图4的展示页面输入筛选条件,具体地,该展示界面展示有筛选条件选项,还展示有通过输入筛选条件后用户点击“查询”控件后筛选得到的物品的摆放状态的展示结果。其中物品的摆放状态例如可以包括“正常状态”、“缺货状态”、“不规范状态”及“错放状态”等,此些状态的具体含义将在后续内容中描述。
综上可知,本公开实施例的物品摆放状态获取方法,用户可根据需求输入筛选条件,以灵活的调取其关注物品的摆放状态,从而使得展示的结果更符合用户的需求,提高用户查看物品摆放状态的效率。
如图3B所示,本公开实施例的物品摆放状态获取方法除了参考图2A描述的操作S210~操作S220,例如还可以包括操作S370,该操作S370例如可以在操作S220之后执行。
在操作S370,在至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。
根据本公开的实施例,此处的终端设备例如可以是参考图1描述的终端设备101,还可以是智能手机、平板电脑等便携式电子设备,该报警信息例如可以是向该终端设备101推送消息、向该终端设备发送播放特定音乐或铃声的指令、或者向终端设备发送弹出特定窗口的指令等,以使该终端设备的持有者能够得知存在物品的摆放状态处于不正常状态的情况,并根据该不正常状态进行相应的理货操作。
因此,通过上述物品摆放状态获取方法,用户可以及时的得知物品的摆放不符合要求,或者该物品存在缺货的情况,从而可以及时的进行理货操作,因此能够避免现有技术中理货时效性差导致的顾客购物体验不高、店铺销量降低的缺陷。
图5示意性示出了根据本公开实施例的热区的当前图像的获取流程图。
如图5所示,该与摄像设备具有关联关系的热区的当前图像的获取包括操作S510~操作S530。
在操作S510,获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的。
根据本公开的实施例,该操作具体例如可以是摄像设备按设定的时间间隔连续获取与其具有关联关系的热区所在货架的多张实时图像,并以该货架的多张实时图像作为热区的多张实时图像执行后续的操作S520~操作S530。
根据本公开的实施例,该操作具体例如还可以是在获取到货架的多张实时图像后,再根据与摄像设备具有关联关系的热区所在货架的标准图像中对应的坐标范围,自该货架的多张实时图像中分别获取到与该坐标范围相对应的图像,即得到与该摄像设备具有关联关系的热区的多张实时图像,并以该从货架的多张实时图像中获取得到的热区的多张实时图像为基础执行后续的操作S520~操作S530。
根据本公开的实施例,其中时间间隔的取值例如可以是1~30秒中的任一值,该时间间隔例如可以通过参考图1中的终端设备101来设定。
在操作S520,识别该热区的多张实时图像,得到该多张实时图像中包括的物品数量。
根据本公开的实施例,该识别热区的多张实时图像例如可通过物体检测算法来检测,以得到该多张实时图像中每一张包括的物品数量。具体地例如可通过Faster-RCNN算法来对该多张实时图像包括的物品进行检测。可以理解的是,上述识别热区的多张实时图像的方法仅作为示例以利于理解本公开,本公开对此不作限定。
在操作S530,确定与摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像。
根据本公开的实施例,上述当前图像的获取操作例如可以是具有数据处理功能的摄像设备执行,则摄像设备的输出直接为与其具有关联关系的热区的当前图像。
根据本公开的实施例,由于具有处理功能的摄像设备价格昂贵,上述当前图像的获取操作例如还可以由参考图1描述的云端系统102或终端设备101来执行,其中,货架的多张实时图像由摄像设备拍摄得到,该摄像设备与云端系统102或终端设备101交互,以将其拍摄的货架的多张实时图像传给云端系统102或终端设备101,从而在一定程度上降低物品摆放状态获取方法的执行成本。
根据本公开的实施例,由于一个货架上可以摆放有多种物品,因此可具有多个热区,且摄像设备可拍摄的空间范围不局限于一个热区,甚至不局限于一个货架,因此一个摄像设备可以与一个或多个热区具有关联关系,具体例如可以与其拍摄到的所有预设的热区建立关联关系。
根据本公开的实施例,由于摄像设备获取货架的实时图像时,可能存在货架前站有顾客的情况,此种情况拍摄的货架的实时图像中,货架上部分物品会被顾客遮挡,因此根据此种情况下得到的实时图像确定的物品的摆放状态必定是不准确的,本公开实施例为了避免此种情况,获取摄像设备连续拍摄的多张实时图像,并从该多张实时图像中选择包括的物品数量最多的实时图像作为当前图像进行物品摆放状态的确定,可以在一定程度上提高获取的物品的摆放状态的精度。
图6示意性示出了根据本公开实施例的处理方法的操作流程图。
如图6所示,该处理方法包括操作S610~操作S630。
在操作S610,接收获取请求,所述获取请求包括一个或多个关联关系,每一个该关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品。
根据本公开的实施例,摄像设备用于获取与其具有关联关系的热区的当前图像。根据本公开的实施例,此处的热区的当前图像具体可以是该热区所在货架的当前图像,该当前图像可以是自多个实时图像筛选得到的;或者该此处的热区的当前图像具体可以是自该热区所在货架的当前图像分割得到的。根据本公开的实施例,该获取请求具体例如可以是参考图2A中操作S210发送的获取请求,在此不再赘述。
在操作S620,响应于获取请求,获取至少一个热区的当前图像及标准图像。
根据本公开的实施例,该当前图像及标准图像例如可以是自摄像设备在各个时间点拍摄得到的货架的实时图像中确定的。其中热区的当前图像例如可以是通过参考图5描述的热区的当前图像获取方法获取得到的,而热区的标准图像例如可以是通过筛选得到的满足标准条件的实时图像,标准条件例如可以是,该热区摆放的物品数量处于饱和(摆满)状态,且物品的摆放方式为物品标志相对于摄像设备完全显露。
根据本公开的实施例,该至少一个热区的当前图像及标准图像例如可存储于与摄像设备交互的云端存储空间中,该云端存储空间例如可以存储有多个摄像设备拍摄的所有图像,则该操作S620即为从该云端存储空间中获取该至少一个热区的当前图像及标准图像。根据本公开的实施例,该云端存储空间例如还可以定期清理其存储的该至少一个热区的当前图像,以使该云端存储空间仅存储有近期的一定时间段内(例如一周内)所述至少一个热区的当前图像。
在操作S630,根据所述至少一个热区的当前图像及标准图像,确定该至少一个热区对应的物品的摆放状态。
根据本公开的实施例,该操作S630例如可以通过图像识别和对比算法来实现,具体为通过对该至少一个热区的当前图像及标准图像进行识别和对比,结合物品摆放状态判断逻辑,得到该至少一个热区对应的物品的摆放状态。
根据本公开的实施例,图像识别例如主要采用物体检测算法(具体可以是Faster-RCNN算法)来实现,得到该至少一个热区的当前图像中包括的物品特征,该物品特征可以包括以下至少之一:物品名称、该物品名称对应的物品数量、该物品名称对应的物品标志及该物品名称对应的物品位置等。其中,该至少一个热区的标准图像例如可预先通过该图像识别得到标准物品特征,该标准物品特征可以包括以下至少之一:标准物品名称、该标准物品名称对应的标准物品数量、该标准物品名称对应的标准物品标志及该标准物品名称对应的标准物品位置等。
根据本公开的实施例,该判断逻辑具体例如可以是分别判断通过图像识别得到的至少一个热区的当前图像中:物品名称是否与标准物品名称相同、与标准物品名称相同的物品名称对应的物品数量与标准物品名称对应的标准物品数量的比值是否大于第一比值、与标准物品名称相同的物品名称中,对应的物品标志与标准物品名称对应的标准物品标志的相似度小于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值是否小于第二比值等。可以理解的是,上述判断逻辑仅作为示例以利于理解本公开,本公开对此不作限定。
图7示意性示出了根据本公开实施例的确定物品摆放状态的流程图。
如图7所示,参考图6中确定物品摆放状态的操作S630具体可包括操作S631~操作S633。
在操作S631,识别所述至少一个热区的当前图像,得到该至少一个热区的当前图像包括的图像特征;在操作S632,基于至少一个热区的当前图像包括的图像特征,确定至少一个热区对应的物品特征;在操作S633,对比至少一个热区对应的物品特征与至少一个热区对应的标准物品特征,确定至少一个热区对应的物品的摆放状态。
根据本公开的实施例,上述操作S631~操作S632具体可以采用图像识别算法(具体例如Faster-RCNN算法)执行,或者以该图像识别算法为基本算法、以包括有不同物品的大量图像为训练数据、以货架的实时图像为测试数据训练得到的深度学习模型执行,该模型的输入例如可以是通过参考图5描述的操作得到的自货架的当前图像划分得到的货架的当前图像,或者通过参考图5描述的操作得到的货架的当前图像和该货架的标准图像中一个或多个热区的对应区域的坐标范围。该模型的输出即为操作S632得到的该一个热区对应的物品特征,或者该货架包括的一个或多个热区对应的物品特征,对于得到多个热区对应的物品特征的情况,通过物品特征中物品名称对应的物品位置即可将物品特征按热区分组。
根据本公开的实施例,上述操作S633具体例如可以通过前述的判断逻辑得到至少一个热区对应的物品的摆放状态。在此不再赘述。
图8A~图8C示意性示出了根据本公开实施例的物品摆放状态为非正常状态的示意图。
通过参考图6~参考图7确定的热区对应的物品的摆放状态包括正常状态和非正常状态。其中,非正常状态例如可以包括以下情况的至少之一:
对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况。具体地,对于如图8A的左侧图所示的货架的标准图像,其包括的一个热区(对应虚线方框围成的区域)对应的标准物品名称例如为“可口可乐”,对于如图8A的右侧图所示的该货架的实时图像(当前图像),通过参考图7中操作S632得到的该热区对应的物品名称包括“可口可乐”和“王老吉”,则由于此处得到的物品名称“王老吉”与标准物品名称“可口可乐”不同,因此该热区对应的物品的摆放状态为非正常的错放状态。可以理解的是,上述热区的标准图像、实时图像、标准物品信息及物品信息仅作为示例以利于理解本公开,本公开对此不作限定。
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与标准物品名称对应的标准物品数量的比值小于第一比值的情况。具体地,第一比值例如为0.5,对于如图8B的左侧图所示的货架的标准图像,其包括的一个热区(对应虚线方框围成的区域)对应的标准物品名称为“可口可乐”,该标准物品名称对应的标准物品数量为6个,对于如图8B的右侧图所示的该货架的实时图像(当前图像),通过参考图7中操作S632得到的该热区对应的物品名称与标准物品名称相同的“可口可乐”对应的物品数量为2个,则该数量与标准物品名称对应的标准物品数量6的比值为2/6=1/3,小于第一比值0.5,则此时该热区对应的物品的摆放状态为非正常的缺货状态。可以理解的是,上述热区的标准图像、实时图像、标准物品信息、物品信息及第一比值的取值仅作为示例以利于理解本公开,本公开对此不作限定,根据本公开的实施例,对于物品数量与标准物品名称对应的标准物品数量比值不为整数的情况下,可以将该比值四舍五入后与第一比值进行比对。
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况。具体地,设定预设相似度为50%,第二比值为0.5,则对于如图8C的左侧图所示的货架的标准图像,其包括的一个热区(对应虚线方框围成的区域)对应的标准物品名称为“可口可乐”,该标准物品名称对应的标准物品标志为图中该物品罐体表面竖直排列的全部显露的“CocaCola”字样图样,对于如图8C的右侧图所示的该货架的实时图像(当前图像),通过参考图7中操作S632得到的该热区对应的物品名称与标准物品名称相同的“可口可乐”对应的物品数量为6个,对应的物品标志即包括全部显露的“CocaCola”字样图样,也包括仅显露有部分“CocaCola”字样的图样,且该显露出的部分“CocaCola”字样的图样与标准物品标志全部显露的“CocaCola”字样图样的相似度仅为30%,即该显露出的部分“CocaCola”字样的图样中“CocaCola”字样的显露比例小于30%,且仅显露有部分“CocaCola”字样的图样的数量为4个,则其与物品数量6的比值为4/6=2/3,大于第二比值0.5,因此该热区对应的物品的摆放状态为非正常的不规范状态。可以理解的是,上述热区的标准图像、实时图像、标准物品信息、物品信息、预设相似度的取值及第二比值的取值仅作为示例以利于理解本公开,本公开对此不作限定,根据本公开的实施例,上述物品数量的比值在不为整数的情况下,例如还可以在将该比值四舍五入后与第二比值进行比对。
对于不属于非正常状态包括的任一情况时,该热区对应的物品的摆放状态即为正常状态。
图9A~图9E示意性示出了根据本公开实施例的物品摆放状态获取系统的结构框图。
如图9A所示,该物品摆放状态获取系统900能够与处理系统(如参考图1描述的云端系统102)交互,包括获取请求发送模块910与摆放状态接收模块920。
其中,获取请求发送模块910用于发送获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品,其中摄像设备用于获取与其具有关联关系的热区的当前图像。根据本公开的实施例,该获取请求发送模块810例如可以执行参考图2A描述的操作S210,在此不再赘述。
其中,摆放状态接收模块920用于接收至少一个热区对应的物品的摆放状态,该至少一个热区对应的物品的摆放状态由处理系统响应于获取请求,根据至少一个热区的当前图像及标准图像确定。其中,根据本公开的实施例,该摆放状态接收模块920例如可以执行参考图2A描述的操作S220,在此不再赘述。
根据本公开的实施例,如图9B所示,该物品摆放状态获取系统900例如还可以包括参数设定模块930,该参数设定模块930用于设定获取请求包括的一个或多个关联关系。根据本公开的实施例,该参数设定模块930例如可以执行参考图2B描述的操作S230,在此不再赘述。
根据本公开的实施例,该参数设定模块930例如还可以用于设定摄像设备获取与其具有关联关系的热区的当前图像的周期,并且/或者,摆放状态获取模块920例如还可以用于设定接收至少一个热区对应的物品的摆放状态的周期,其中,接收至少一个热区对应的物品的摆放状态的周期,不小于所述摄像设备获取与其具有关联关系的热区的当前图像的周期。
根据本公开的实施例,如图9C所示,该物品摆放状态获取系统900例如还可以包括展示模块940,该展示模块940用于展示至少一个热区中一个或多个热区对应的物品的摆放状态。根据本公开的实施例,该展示模块940例如可以执行参考图2B描述的操作S240,在此不再赘述。
根据本公开的实施例,如图9D所示,该物品摆放状态获取系统900例如还可以包括筛选模块950,该筛选模块950用于根据用户输入的筛选条件,自所述至少一个热区对应的物品的摆放状态中筛选得到与所筛选条件匹配的、一个或多个热区对应的物品的摆放状态以供展示。根据本公开的实施例,该筛选模块950例如可以用于执行参考图3A描述的操作S350,相应地,展示模块940例如还可以用于执行参考图3A描述的操作S360,在此不再赘述。
根据本公开的实施例,所述至少一个热区对应的物品的摆放状态包括正常状态和非正常状态,如图9E所示,物品摆放状态获取系统900例如还可以包括报警模块960,该报警模块960用于在所述至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。根据本公开的实施例,该报警模块960例如可以执行参考图3B描述的操作S370,在此不再赘述。
根据本公开的实施例,上述与摄像设备具有关联关系的热区的当前图像的获取包括:获取与摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别多张实时图像,得到多张实时图像中包括的物品数量;以及确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是多张实时图像中包括的物品数量最多的实时图像,其中,所述摄像设备与一个或多个热区具有关联关系。根据本公开的实施例,与摄像设备具有关联关系的热区的当前图像的获取例如可以通过参考图5描述的操作S510~操作S530得到,在此不再赘述。
根据本公开的实施例,该物品摆放状态获取系统900例如可以设置于参考图1描述的终端设备101中。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,获取请求发送模块910、摆放状态接收模块920、参数设定模块930、展示模块940、筛选模块950以及报警模块960中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取请求发送模块910、摆放状态接收模块920、参数设定模块930、展示模块940、筛选模块950以及报警模块960中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取请求发送模块910、摆放状态接收模块920、参数设定模块930、展示模块940、筛选模块950以及报警模块960中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图10A~图10C示意性示出了根据本公开实施例的处理系统的结构框图。
如图10A所示,该处理系统1000例如可以与参考图9描述的物品摆放状态获取系统交互,该处理系统1000包括获取请求接收模块1010、图像获取模块1020和摆放状态确定模块1030。
其中,获取请求接收模块1010用于接收物品摆放状态获取系统发送的获取请求,该获取请求包括一个或多个关联关系,每一个关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品,摄像设备用于获取与其具有关联关系的热区的当前图像。根据本公开的实施例,该获取请求接收模块1010例如可以用于执行参考图6描述的操作S610,在此不再赘述。
其中,图像获取模块1020用于响应于获取请求,获取至少一个热区的当前图像及标准图像。根据本公开的实施例,该图像获取模块1020例如可以用于执行参考图6描述的操作S620,在此不再赘述。
根据本公开的实施例,与摄像设备具有关联关系的热区的当前图像的获取包括:获取与所述摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;识别所述多张实时图像,得到所述多张实时图像中包括的物品数量;以及确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是所述多张实时图像中包括的物品数量最多的实时图像,其中,所述摄像设备与一个或多个热区具有关联关系。根据本公开的实施例,该当前图像的获取例如可以通过参考图5描述的操作得到,在此不再赘述。
其中,摆放状态确定模块1030用于根据所述至少一个热区的当前图像及标准图像,确定至少一个热区对应的物品的摆放状态。根据本公开的实施例,该摆放状态确定模块1030例如可以用于执行参考图6描述的操作S630,在此不再赘述。
根据本公开的实施例,如图10B所示,该摆放状态确定模块1030例如可以包括图像特征确定子模块1031、物品特征确定子模块1032和摆放状态确定子模块1033。
图像特征识别子模块1031用于识别所述至少一个热区的当前图像,得到所述至少一个热区的当前图像包括的图像特征;物品特征确定子模块1032用于基于所述至少一个热区的当前图像包括的图像特征,确定所述至少一个热区对应的物品特征;摆放状态确定子模块1033用于对比所述至少一个热区对应的物品特征与所述至少一个热区对应的标准物品特征,确定所述至少一个热区对应的物品的摆放状态,其中,所述至少一个热区对应的标准物品特征可以采用上述图像特征识别子模块1031和物品特征确定子模块1032,基于所述至少一个热区的标准图像得到的。根据本公开的实施例,图像特征确定子模块1031、物品特征确定子模块1032和摆放状态确定子模块1033例如可以分别用于执行参考图7描述的操作S631~操作S633,在此不再赘述。
根据本公开的实施例,该物品的摆放状态包括正常状态和非正常状态,该非正常状态包括以下情况的至少之一:对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况;对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与所述标准物品名称对应的标准物品数量的比值小于第一比值的情况;或对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况,其中,所述物品特征包括以下至少之一:物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品名称对应的物品位置。根据本公开的实施例,该非正常状态例如可以包括参考图8A~参考图8C描述的非正常的错放状态、非正常的缺货状态或非正常的不规范问题,在此不再赘述。
根据本公开的实施例,该处理系统例如可以是参考图1描述的云端系统102,该云端系统102与摄像设备能够交互,以能够接收摄像设备上传的热区的实时图像。
根据本公开的实施例,如图10C所示,该处理系统例如还可以包括图像存储模块1040,该图像存储模块1040用于存储所述摄像设备获取的与其具有关联关系的热区的当前图像及所述至少一个热区的标准图像,以供所述图像获取模块1020获取。
根据本公开的实施例的模块、子模块、单元、子单元中的任意多个、或其中任意多个的至少部分功能可以在一个模块中实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以被拆分成多个模块来实现。根据本公开实施例的模块、子模块、单元、子单元中的任意一个或多个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式的硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,根据本公开实施例的模块、子模块、单元、子单元中的一个或多个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
例如,获取请求接收模块1010、图像获取模块1020、摆放状态确定模块1030、图像存储模块1040、图像特征确定子模块1031、物品特征确定子模块1032、以及摆放状态确定子模块1033中的任意多个可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本公开的实施例,获取请求接收模块1010、图像获取模块1020、摆放状态确定模块1030、图像存储模块1040、图像特征确定子模块1031、物品特征确定子模块1032、以及摆放状态确定子模块1033中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上系统、基板上的系统、封装上的系统、专用集成电路(ASIC),或可以通过对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式中任意一种或以其中任意几种的适当组合来实现。或者,获取请求接收模块1010、图像获取模块1020、摆放状态确定模块1030、图像存储模块1040、图像特征确定子模块1031、物品特征确定子模块1032、以及摆放状态确定子模块1033中的至少一个可以至少被部分地实现为计算机程序模块,当该计算机程序模块被运行时,可以执行相应的功能。
图11示意性示出了根据本公开实施例的适于实现上文描述的物品摆放状态获取方法或处理方法的计算机系统的方框图。图11示出的计算机系统仅仅是一个示例,不应对本公开实施例的功能和使用范围带来任何限制。
如图11所示,根据本公开实施例的计算机系统1100包括处理器1101,其可以根据存储在只读存储器(ROM)1102中的程序或者从存储部分1108加载到随机访问存储器(RAM)1103中的程序而执行各种适当的动作和处理。处理器1101例如可以包括通用微处理器(例如CPU)、指令集处理器和/或相关芯片组和/或专用微处理器(例如,专用集成电路(ASIC)),等等。处理器1101还可以包括用于缓存用途的板载存储器。处理器1101可以包括用于执行根据本公开实施例的方法流程的不同动作的单一处理单元或者是多个处理单元。
在RAM 1103中,存储有系统1100操作所需的各种程序和数据。处理器1101、ROM1102以及RAM 1103通过总线1104彼此相连。处理器1101通过执行ROM 1102和/或RAM 1103中的程序来执行根据本公开实施例的方法流程的各种操作。需要注意,所述程序也可以存储在除ROM 1102和RAM 1103以外的一个或多个存储器中。处理器1101也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法流程的各种操作。
根据本公开的实施例,系统1100还可以包括输入/输出(I/O)接口1105,输入/输出(I/O)接口1105也连接至总线1104。系统1100还可以包括连接至I/O接口1105的以下部件中的一项或多项:包括键盘、鼠标等的输入部分1106;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分1107;包括硬盘等的存储部分1108;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分1109。通信部分1109经由诸如因特网的网络执行通信处理。驱动器1110也根据需要连接至I/O接口1105。可拆卸介质1111,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器1110上,以便于从其上读出的计算机程序根据需要被安装入存储部分1108。
根据本公开的实施例,根据本公开实施例的方法流程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分1109从网络上被下载和安装,和/或从可拆卸介质1111被安装。在该计算机程序被处理器1101执行时,执行本公开实施例的系统中限定的上述功能。根据本公开的实施例,上文描述的系统、设备、装置、模块、单元等可以通过计算机程序模块来实现。
本公开还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备/装置/系统中所包含的;也可以是单独存在,而未装配入该设备/装置/系统中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被执行时,实现根据本公开实施例的方法。
根据本公开的实施例,计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的系统、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本公开中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。而在本公开中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行系统、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、有线、光缆、射频信号等等,或者上述的任意合适的组合。
例如,根据本公开的实施例,计算机可读介质可以包括上文描述的ROM 1102和/或RAM 1103和/或ROM 1102和RAM 1103以外的一个或多个存储器。
附图中的流程图和框图,图示了按照本公开各种实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
本领域技术人员可以理解,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合或/或结合,即使这样的组合或结合没有明确记载于本公开中。特别地,在不脱离本公开精神和教导的情况下,本公开的各个实施例和/或权利要求中记载的特征可以进行多种组合和/或结合。所有这些组合和/或结合均落入本公开的范围。
以上对本公开的实施例进行了描述。但是,这些实施例仅仅是为了说明的目的,而并非为了限制本公开的范围。尽管在以上分别描述了各实施例,但是这并不意味着各个实施例中的措施不能有利地结合使用。本公开的范围由所附权利要求及其等同物限定。不脱离本公开的范围,本领域技术人员可以做出多种替代和修改,这些替代和修改都应落在本公开的范围之内。
Claims (21)
1.一种物品摆放状态获取方法,包括:
发送获取请求,所述获取请求包括一个或多个关联关系,每一个所述关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;以及
接收至少一个热区对应的物品的摆放状态,所述至少一个热区对应的物品的摆放状态是响应于所述获取请求,根据所述至少一个热区的当前图像及标准图像确定的,
其中,所述摄像设备用于获取与其具有关联关系的热区的当前图像。
2.根据权利要求1所述的方法,还包括:
设定所述一个或多个关联关系;并且/或者
展示所述至少一个热区中一个或多个热区对应的物品的摆放状态;并且/或者
根据用户输入的筛选条件,自所述至少一个热区对应的物品的摆放状态中筛选得到与所述筛选条件匹配的、一个或多个热区对应的物品的摆放状态,
其中,所述筛选条件包括以下至少之一:摄像设备编号、热区编号、物品名称和/或物品的摆放状态。
3.根据权利要求1所述的方法,还包括:
设定所述摄像设备获取与其具有关联关系的热区的当前图像的周期;并且/或者
设定接收所述至少一个热区对应的物品的摆放状态的周期,
其中,接收所述至少一个热区对应的物品的摆放状态的周期,不小于所述摄像设备获取与其具有关联关系的热区的当前图像的周期。
4.根据权利要求1所述的方法,其中,一个热区对应的物品的摆放状态包括正常状态和非正常状态,所述方法还包括:
在所述至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。
5.根据权利要求1所述的方法,其中,与摄像设备具有关联关系的热区的当前图像的获取包括:
获取与所述摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;
识别所述多张实时图像,得到所述多张实时图像中包括的物品数量;以及
确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是所述多张实时图像中包括的物品数量最多的实时图像,
其中,所述摄像设备与一个或多个热区具有关联关系。
6.一种处理方法,包括:
接收获取请求,所述获取请求包括一个或多个关联关系,每一个所述关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;
响应于所述获取请求,获取至少一个热区的当前图像及标准图像;以及
根据所述至少一个热区的当前图像及标准图像,确定所述至少一个热区对应的物品的摆放状态,
其中,所述摄像设备用于获取与其具有关联关系的热区的当前图像。
7.根据权利要求6所述的方法,其中,根据所述至少一个热区的当前图像及标准图像,确定所述至少一个热区对应的物品的摆放状态包括:
识别所述至少一个热区的当前图像,得到所述至少一个热区的当前图像包括的图像特征;
基于所述至少一个热区的当前图像包括的图像特征,确定所述至少一个热区对应的物品特征;以及
对比所述至少一个热区对应的物品特征与所述至少一个热区对应的标准物品特征,确定所述至少一个热区对应的物品的摆放状态,
其中,所述至少一个热区对应的标准物品特征是基于所述至少一个热区的标准图像得到的。
8.根据权利要求7所述的方法,其中,一个热区对应的物品的摆放状态包括正常状态和非正常状态,所述非正常状态包括以下情况的至少之一:
对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况;
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与所述标准物品名称对应的标准物品数量的比值小于第一比值的情况;或
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况,
其中,所述物品特征包括以下至少之一:物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品名称对应的物品位置。
9.根据权利要求6所述的方法,其中,与摄像设备具有关联关系的热区的当前图像的获取包括:
获取与所述摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;
识别所述多张实时图像,得到所述多张实时图像中包括的物品数量;以及
确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是所述多张实时图像中包括的物品数量最多的实时图像,
其中,所述摄像设备与一个或多个热区具有关联关系。
10.一种物品摆放状态获取系统,能够与处理系统交互,该物品摆放状态获取系统包括:
获取请求发送模块,发送获取请求,所述获取请求包括一个或多个关联关系,每一个所述关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;以及
摆放状态接收模块,接收至少一个热区对应的物品的摆放状态,所述至少一个热区对应的物品的摆放状态由所述处理系统响应于所述获取请求,根据所述至少一个热区的当前图像及标准图像确定,
其中,所述摄像设备用于获取与其具有关联关系的热区的当前图像。
11.根据权利要求10所述的系统,还包括:
参数设定模块,设定所述一个或多个关联关系;并且/或者
展示模块,展示所述至少一个热区中一个或多个热区对应的物品的摆放状态;并且/或者
筛选模块,根据用户输入的筛选条件,自所述至少一个热区对应的物品的摆放状态中筛选得到与所述筛选条件匹配的、一个或多个热区对应的物品的摆放状态以供展示,
其中,所述筛选条件包括以下至少之一:摄像设备编号、热区编号、物品名称和/或物品的摆放状态。
12.根据权利要求11所述的系统,其中:
所述参数设定模块,还用于设定所述摄像设备获取与其具有关联关系的热区的当前图像的周期;并且/或者
所述摆放状态获取模块,还用于设定接收所述至少一个热区对应的物品的摆放状态的周期,
其中,接收所述至少一个热区对应的物品的摆放状态的周期,不小于所述摄像设备获取与其具有关联关系的热区的当前图像的周期。
13.根据权利要求10所述的系统,其中,所述至少一个热区对应的物品的摆放状态包括正常状态和非正常状态,所述系统还包括:
报警模块,在所述至少一个热区中的一个或多个热区对应的物品的摆放状态为非正常状态的情况下,向终端设备发送报警信号。
14.根据权利要求10所述的系统,其中,与摄像设备具有关联关系的热区的当前图像的获取包括:
获取与所述摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;
识别所述多张实时图像,得到所述多张实时图像中包括的物品数量;以及
确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是所述多张实时图像中包括的物品数量最多的实时图像,
其中,所述摄像设备与一个或多个热区具有关联关系。
15.一种处理系统,能够与物品摆放状态获取系统交互,该处理系统包括:
获取请求接收模块,接收所述物品摆放状态获取系统发送的获取请求,所述获取请求包括一个或多个关联关系,每一个所述关联关系包括一个热区与一个摄像设备之间的关联关系,一个热区对应一种物品;
图像获取模块,响应于所述获取请求,获取至少一个热区的当前图像及标准图像;以及
摆放状态确定模块,根据所述至少一个热区的当前图像及标准图像,确定所述至少一个热区对应的物品的摆放状态,
其中,所述摄像设备用于获取与其具有关联关系的热区的当前图像。
16.根据权利要求15所述的系统,其中,所述摆放状态确定模块包括:
图像特征识别子模块,识别所述至少一个热区的当前图像,得到所述至少一个热区的当前图像包括的图像特征;
物品特征确定子模块,基于所述至少一个热区的当前图像包括的图像特征,确定所述至少一个热区对应的物品特征;以及
摆放状态确定子模块,对比所述至少一个热区对应的物品特征与所述至少一个热区对应的标准物品特征,确定所述至少一个热区对应的物品的摆放状态,
其中,所述至少一个热区对应的标准物品特征是基于所述至少一个热区的标准图像得到的。
17.根据权利要求16所述的系统,其中,所述物品的摆放状态包括正常状态和非正常状态,所述非正常状态包括以下情况的至少之一:
对应的物品特征中,存在与对应的标准物品特征中的标准物品名称不同的物品名称的情况;
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品数量,与所述标准物品名称对应的标准物品数量的比值小于第一比值的情况;或
对应的物品特征中与对应的标准物品特征的标准物品名称相同的物品名称对应的物品标志中,与标准物品名称对应的标准物品标志的相似度低于预设相似度的物品标志数量,与该物品名称对应的物品标志总数量的比值大于第二比值的情况,
其中,所述物品特征包括以下至少之一:物品名称、物品名称对应的物品数量、物品名称对应的物品标志和/或物品名称对应的物品位置。
18.根据权利要求15所述的系统,其中:
所述处理系统为云端系统;并且/或者
所述系统还包括:
图像存储模块,存储所述摄像设备获取的与其具有关联关系的热区的当前图像及所述至少一个热区的标准图像,以供所述图像获取模块获取。
19.根据权利要求15所述的系统,其中,与摄像设备具有关联关系的热区的当前图像的获取包括:
获取与所述摄像设备具有关联关系的热区的多张实时图像,该多张实时图像是按时间间隔连续获取的;
识别所述多张实时图像,得到所述多张实时图像中包括的物品数量;以及
确定与所述摄像设备具有关联关系的热区的当前图像,该当前图像是所述多张实时图像中包括的物品数量最多的实时图像,
其中,所述摄像设备与一个或多个热区具有关联关系。
20.一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
其中,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器执行根据权利要求10~19任意一项所述的方法。
21.一种计算机可读介质,其上存储有可执行指令,该指令被处理器执行时使处理器执行权利要求10~19任意一项所述的方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810851381.2A CN110765825A (zh) | 2018-07-27 | 2018-07-27 | 物品摆放状态获取方法和系统 |
US17/263,847 US11861910B2 (en) | 2018-07-27 | 2019-07-26 | Method and system for acquiring item placing state |
PCT/CN2019/097936 WO2020020355A1 (zh) | 2018-07-27 | 2019-07-26 | 物品摆放状态获取方法和系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810851381.2A CN110765825A (zh) | 2018-07-27 | 2018-07-27 | 物品摆放状态获取方法和系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110765825A true CN110765825A (zh) | 2020-02-07 |
Family
ID=69180840
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810851381.2A Pending CN110765825A (zh) | 2018-07-27 | 2018-07-27 | 物品摆放状态获取方法和系统 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11861910B2 (zh) |
CN (1) | CN110765825A (zh) |
WO (1) | WO2020020355A1 (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11915192B2 (en) | 2019-08-12 | 2024-02-27 | Walmart Apollo, Llc | Systems, devices, and methods for scanning a shopping space |
CN111736740B (zh) * | 2020-03-24 | 2022-06-07 | 北京沃东天骏信息技术有限公司 | 图片热区生成方法、装置、设备和存储介质 |
CN115493343B (zh) * | 2021-06-18 | 2023-10-27 | 海信集团控股股份有限公司 | 一种冰箱及其食材管理方法及装置 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6307963B1 (en) * | 1997-06-02 | 2001-10-23 | Matsushita Electric Industrial Co., Ltd. | Image detection method, image detection apparatus, image processing method, image processing apparatus, and medium |
CN102830958A (zh) * | 2011-06-16 | 2012-12-19 | 奇智软件(北京)有限公司 | 一种获取界面控件信息的方法及系统 |
CN103150631A (zh) * | 2013-03-11 | 2013-06-12 | 苏州斯普锐智能系统有限公司 | 基于图像匹配的自动物品管理方法及其系统 |
CN105374031A (zh) * | 2015-10-14 | 2016-03-02 | 江苏美的清洁电器股份有限公司 | 基于机器人的家庭安防数据处理方法及系统 |
CN105872595A (zh) * | 2016-03-31 | 2016-08-17 | 乐视控股(北京)有限公司 | 转码任务分配方法及装置 |
CN105868772A (zh) * | 2016-03-23 | 2016-08-17 | 百度在线网络技术(北京)有限公司 | 图像识别方法及装置 |
CN107862247A (zh) * | 2017-10-13 | 2018-03-30 | 平安科技(深圳)有限公司 | 一种人脸活体检测方法及终端设备 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9020189B2 (en) * | 2012-12-07 | 2015-04-28 | The Nielsen Company (Us), Llc | Methods and apparatus to monitor environments |
US20150310601A1 (en) * | 2014-03-07 | 2015-10-29 | Digimarc Corporation | Methods and arrangements for identifying objects |
US20160012453A1 (en) * | 2014-07-11 | 2016-01-14 | Shamim A. Naqvi | System and Method for Inferring the Intent of a User While Receiving Signals On a Mobile Communication Device From a Broadcasting Device |
US9571985B2 (en) * | 2015-04-09 | 2017-02-14 | Datalogic Ip Tech S.R.L. | High accuracy indoor locating system |
US20170262783A1 (en) * | 2016-03-08 | 2017-09-14 | International Business Machines Corporation | Team Formation |
CN107077659A (zh) | 2016-09-26 | 2017-08-18 | 达闼科技(北京)有限公司 | 一种智能库存管理系统、服务器、方法、终端和程序产品 |
CN107393152A (zh) * | 2017-08-14 | 2017-11-24 | 杭州纳戒科技有限公司 | 自助售货机及自助售货系统 |
CN107730168B (zh) * | 2017-09-28 | 2021-10-01 | 中南大学 | 一种基于图像识别的自动售货机自动库存管理系统及方法 |
-
2018
- 2018-07-27 CN CN201810851381.2A patent/CN110765825A/zh active Pending
-
2019
- 2019-07-26 US US17/263,847 patent/US11861910B2/en active Active
- 2019-07-26 WO PCT/CN2019/097936 patent/WO2020020355A1/zh active Application Filing
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6307963B1 (en) * | 1997-06-02 | 2001-10-23 | Matsushita Electric Industrial Co., Ltd. | Image detection method, image detection apparatus, image processing method, image processing apparatus, and medium |
CN102830958A (zh) * | 2011-06-16 | 2012-12-19 | 奇智软件(北京)有限公司 | 一种获取界面控件信息的方法及系统 |
CN103150631A (zh) * | 2013-03-11 | 2013-06-12 | 苏州斯普锐智能系统有限公司 | 基于图像匹配的自动物品管理方法及其系统 |
CN105374031A (zh) * | 2015-10-14 | 2016-03-02 | 江苏美的清洁电器股份有限公司 | 基于机器人的家庭安防数据处理方法及系统 |
CN105868772A (zh) * | 2016-03-23 | 2016-08-17 | 百度在线网络技术(北京)有限公司 | 图像识别方法及装置 |
CN105872595A (zh) * | 2016-03-31 | 2016-08-17 | 乐视控股(北京)有限公司 | 转码任务分配方法及装置 |
CN107862247A (zh) * | 2017-10-13 | 2018-03-30 | 平安科技(深圳)有限公司 | 一种人脸活体检测方法及终端设备 |
Also Published As
Publication number | Publication date |
---|---|
WO2020020355A1 (zh) | 2020-01-30 |
US11861910B2 (en) | 2024-01-02 |
US20210319684A1 (en) | 2021-10-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108922026B (zh) | 一种自动售货机的补货管理方法、装置和用户终端 | |
CN108921645B (zh) | 一种商品购买判定方法、装置和用户终端 | |
US20180253674A1 (en) | System and method for identifying retail products and determining retail product arrangements | |
WO2019057168A1 (zh) | 一种货物订单处理方法、装置、服务器、购物终端及系统 | |
JP5974312B1 (ja) | 販売管理装置、販売管理システムおよび販売管理方法 | |
WO2018184301A1 (zh) | 网点销售服务系统、方法、服务器和存储介质 | |
CN108364047B (zh) | 电子价签、电子价签系统及数据处理方法 | |
CN104954736A (zh) | 滞留状况分析装置、滞留状况分析系统及分析方法 | |
US10372998B2 (en) | Object recognition for bottom of basket detection | |
CN110895768B (zh) | 一种数据处理方法、设备、系统及存储介质 | |
CN110765825A (zh) | 物品摆放状态获取方法和系统 | |
US11798380B2 (en) | Identifying barcode-to-product mismatches using point of sale devices | |
CN112200631B (zh) | 一种行业分类模型的训练方法及装置 | |
US20180074034A1 (en) | Vehicle Identification System and Associated Methods | |
US9922257B2 (en) | Image auditing method and system | |
US20190244282A1 (en) | Computerized exchange network | |
WO2019123714A1 (ja) | 情報処理装置、商品推薦方法、およびプログラム | |
US11748787B2 (en) | Analysis method and system for the item on the supermarket shelf | |
CN109242601A (zh) | 商品信息查询方法和系统 | |
JP2009193499A (ja) | 注視商品データ取得方法および商品販売管理システム | |
US10372753B2 (en) | System for verifying physical object absences from assigned regions using video analytics | |
CN110503226B (zh) | 确定待放置商品的方法、装置和系统 | |
US20190188854A1 (en) | Method and device for detecting region of interest based on images | |
CN115170157A (zh) | 一种门店审核方法、装置、设备及存储介质 | |
CN112950329A (zh) | 商品动态信息生成方法、装置、设备及计算机可读介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |