CN112991379B - 一种基于动态视觉的无人售货方法及系统 - Google Patents
一种基于动态视觉的无人售货方法及系统 Download PDFInfo
- Publication number
- CN112991379B CN112991379B CN202110382965.1A CN202110382965A CN112991379B CN 112991379 B CN112991379 B CN 112991379B CN 202110382965 A CN202110382965 A CN 202110382965A CN 112991379 B CN112991379 B CN 112991379B
- Authority
- CN
- China
- Prior art keywords
- commodity
- hand
- list
- temporary
- shopping
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 230000033001 locomotion Effects 0.000 claims abstract description 43
- 238000001514 detection method Methods 0.000 claims description 29
- 206010000117 Abnormal behaviour Diseases 0.000 claims description 24
- 230000000149 penetrating effect Effects 0.000 claims description 20
- 230000002159 abnormal effect Effects 0.000 claims description 16
- 230000008569 process Effects 0.000 claims description 11
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 230000006399 behavior Effects 0.000 description 12
- 230000000007 visual effect Effects 0.000 description 6
- 230000000750 progressive effect Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 230000003068 static effect Effects 0.000 description 3
- 238000005303 weighing Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 125000004122 cyclic group Chemical group 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 239000012634 fragment Substances 0.000 description 2
- 238000012552 review Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 230000009347 mechanical transmission Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/94—Hardware or software architectures specially adapted for image or video understanding
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/107—Static hand or arm
- G06V40/11—Hand-related biometrics; Hand pose recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
-
- G—PHYSICS
- G07—CHECKING-DEVICES
- G07F—COIN-FREED OR LIKE APPARATUS
- G07F9/00—Details other than those peculiar to special kinds or types of apparatus
- G07F9/006—Details of the software used for the vending machines
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Business, Economics & Management (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Finance (AREA)
- Accounting & Taxation (AREA)
- Human Computer Interaction (AREA)
- Social Psychology (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- General Health & Medical Sciences (AREA)
- Development Economics (AREA)
- Economics (AREA)
- Marketing (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Control Of Vending Devices And Auxiliary Devices For Vending Devices (AREA)
Abstract
本发明公开了一种基于动态视觉的无人售货方法及系统,属于人工智能技术领域,包括:检测无人售货柜门的状态;对用户的手部进行生物识别;判断手部相对于无人售货柜门的运动方向;根据所述运动方向、所述临时商品列表信息以及所述更新后的临时购物车信息判定购物状态;得到最终购物结果并完成购物,本发明提高了识别商品的准确性、降低了货损率并提升了购物体验。
Description
技术领域
本发明涉及人工智能技术领域,更具体的说是涉及一种基于动态视觉的无人售货方法及系统。
背景技术
目前,随着人工智能迅猛发展,越来越多的行业开始使用人工智能,无人售货柜的应用范围也越来越广。传统的无人售货柜主要分为带触摸屏的封闭式货柜以及称重式的货柜。触摸屏式的无人售货柜的工作逻辑是用户的先选择商品,付费后系统通过电机传动装置将商品传输到出货口即完成购物;称重式无人售货柜的工作逻辑则是在货柜的每一层安装一个重力传感器,通过传感器的数值变化来估算商品的价格,用户通过手机扫码开门直接选购商品然后关门后即购物完成。
但是,触屏式的无人售货柜大多数采用的是机械式的传动装置,这种传动装置容易卡壳,且传动装置的设计导致货架的空间利用率很低,大量空间被浪费,称重式无人售货柜的缺点是可能会有外来的危险物品进入货柜内从而引发安全问题,其次根据重量变化来计费使得每一层只能放置单位质量价格相近的商品,不能随意混放,这使得货损率变大,空间利用率底。
而人工智能在无人售货领域主要依靠计算机视觉(Computer Vision),可以在无人售货柜中安装摄像头来进行图像识别、分类、定位、追踪等。应用人工智能的无人售货柜目前主要有两种实施方案:一种是静态视觉方法,静态视觉的方法是在货柜的每一层都放有一个摄像头,通过采集开关门后的画面,通过目标检测算法来检测开门前和关门后商品数目、种类的变化情况,从而得出商品的售卖情况,这种方案的好处是可以在同一层摆放不同种类的商品,充分利用货架上的空间,但缺点是商品不能摆放的很密集,不能堆叠。因为密集和堆叠的场景往往使得目标检测模型很难召回全部的目标,导致货损率的增大。其次,因为摄像头的视角是俯视的会导致很多外包装相似的商品容易误识别为同一类导致商品识别错误。现有的动态视觉方案大多是通过用户扫码开门触发货柜顶部的摄像头对购物行为进行拍摄或录像,用户拿走商品后关闭柜门则视为购物完成,然后将图像或视频传回到云端服务器中,用训练好的深度学习模型对图像或视频进行处理,解析识别到的结果可以得到购物的具体信息,包括是否为异常行为、购买了哪些商品等等。这种方法缺点是将购物行为传输云端需要良好的网络支持,从实际的体验中发现其扣费的时延很长,甚至长达数天之久。
因此,为了提高识别商品的准确性、降低货损率以及提升购物体验,如何提供一种基于动态视觉的无人售货方法及系统是本领域技术人员亟需解决的问题。
发明内容
有鉴于此,本发明提供了一种基于动态视觉的无人售货方法及系统。
为了实现上述目的,本发明采用如下技术方案:
一种基于动态视觉的无人售货方法,应用于无人售货柜,其特征在于,所述方法包括:
S100:检测无人售货柜门的状态,当所述无人售货柜门为打开状态时,创建购物车列表;
S200:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部位置进行跟踪;
S300:预先设置购物区域,当检测到手部位置信息在所述购物区域内,则创建临时商品列表和临时位置列表,将检测到用户手部经过的商品信息存储至所述临时商品列表中,将每帧检测到的商品位置信息加入到所述临时位置列表中;
S400:当检测到手部位置信息不在所述购物区域内,则根据所述临时位置列表分析出手部的运动方向,并根据所述临时商品列表对所述购物车列表进行更新;
S500:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;
S600:根据购物车商品信息以及所述是否存在异常行为的分析结果得到最终购物结果并完成购物。
优选的,所述步骤S400根据所述临时位置列表分析出手部的运动方向,包括:
S410:在所述无人售货柜内设置一条枢线,所述枢线两侧设置为第一渐近线以及第二渐近线,所述第一渐近线与所述第二渐近线及所述无人售货柜体内部的区域为预设购物区域;
S420:基于所述临时位置列表存储的商品位置信息与所述预设购物区域的位置关系,确定手部相对于无人售货柜门的运动方向;
S430:当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第一渐近线且穿入所述预设购物区域第一渐近线后穿出所述预设购物区域第二渐近线,则判定手部由无人售货柜外向无人售货柜内方向。
优选的,所述步骤S400根据所述临时位置列表分析出手部的运动方向,还包括:当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第二渐近线且穿入所述预设区域第二渐近线后穿出预设购物区域第一渐近线,则判定手部由无人售货柜内向无人售货柜外方向。
优选的,所述步骤S300当所述手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据所述手部运动方向信息将当前帧检测到的全部商品信息存储至所述临时商品列表中,若存在商品,则进一步判断所述手部的商品是否已经存在所述购物车中,若存在,则判定所述存在的商品为替换商品,并将所述存在的商品在所述临时购物车中删除,若不存在,则标注为异常订单。
优选的,所述步骤S300当所述手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接进行所述步骤S600检测无人售货柜门状态。
优选的,所述临时商品列表以及所述临时位置列表是相互绑定的。
另一方面,一种基于动态视觉的无人售货系统,应用于无人售货柜,所述系统包括:
自动唤醒模块:检测无人售货柜门的状态,当所述无人售货柜门为打开状态时,创建购物车列表;
追踪模块:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部形状进行跟踪;
目标检测模块:预先设置购物区域,当检测到手部位置信息在所述购物区域内,则创建临时商品列表和临时位置列表,将检测到的商品信息存储至所述临时商品列表中,将每帧检测到的商品位置信息加入到所述临时位置列表中;
分析模块:当检测到手部位置信息不在所述购物区域内,则根据所述临时位置列表分析出手部的运动方向,并根据所述临时商品列表对所述购物车列表进行更新;
异常行为检测模块:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;
决策模块:根据购物车商品信息以及所述异常行为分析模块的分析结果得到最终购物结果并完成购物。
优选的,所述目标检测模块检测到所述手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据所述手部运动方向信息将当前帧检测到的全部商品信息存储至所述临时商品列表中,若存在商品,则进一步判断所述手部的商品是否已经存在所述购物车中,若存在,则判定所述存在的商品为替换商品,并将所述存在的商品在所述临时购物车中删除,若不存在,则标注为异常订单。
优选的,所述目标检测模块检测到当所述手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接检测无人售货柜门状态。
经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种基于动态视觉的无人售货方法及系统,本发明有以下有益效果:
(1)本发明不限制摆放位置,空间利用率高,解决了传统无人售货柜不能重叠摆放、空间利用率低的问题;
(2)本发明为一种动态视觉商品检测方法,并不需要考虑无人售货柜内的商品类型,通过逐帧检测手部信息以及商品信息,较少了漏检几率,解决了静态视觉方案中判别错误率高、相似商品难识别以及摄像头数量变多所带来的成本上升问题;
(3)本发明采用模型轻量化思路,在本地进行运算操作,避免将视频传回云端服务器,解决了现有动态视觉商品检测方法中信息时延问题。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1附图为本发明提供的基于动态视觉的无人售货方法的流程图;
图2附图为本发明实施例1提供的基于动态视觉的无人售货系统结构框图;
图3附图为本发明实施例2提供的预设购物区域示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种基于动态视觉的无人售货方法及系统。
实施例1
参见附图1所述,一种基于动态视觉的无人售货方法,应用于无人售货柜,所述方法包括:
S100:检测无人售货柜门的状态,当所述无人售货柜门为打开状态时,创建购物车列表;
S200:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部位置进行跟踪;
S300:预先设置购物区域,当检测到手部位置信息在购物区域内,则创建临时商品列表和临时位置列表,将检测到用户手部经过的商品信息存储至临时商品列表中,将每帧检测到的商品位置信息加入到临时位置列表中;
S400:当检测到手部位置信息不在购物区域内,则根据临时位置列表分析出手部的运动方向,并根据临时商品列表对购物车列表进行更新;
S500:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;S600:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,则分析本次购物过程是否存在异常行为;
S600:根据购物车商品信息以及是否存在异常行为的分析结果得到最终购物结果并完成购物。
在一个具体实施例中,步骤S400根据临时位置列表分析出手部的运动方向,包括:
S410:在无人售货柜内设置一条枢线,枢线两侧设置为第一渐近线以及第二渐近线,第一渐近线与第二渐近线及无人售货柜体内部的区域为预设购物区域;
S420:基于临时位置列表存储的商品位置信息与预设购物区域的位置关系,确定手部相对于无人售货柜门的运动方向;
S430:当临时位置列表存储的商品位置信息为穿入预设购物区域第一渐近线且穿入预设购物区域第一渐近线后穿出预设购物区域第二渐近线,则判定手部由无人售货柜外向无人售货柜内方向。
在一个具体实施例中,步骤S400根据临时位置列表分析出手部的运动方向,还包括:当临时位置列表存储的商品位置信息为穿入预设购物区域第二渐近线且穿入预设区域第二渐近线后穿出预设购物区域第一渐近线,则判定手部由无人售货柜内向无人售货柜外方向。
在一个具体实施例中,步骤S300当手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据手部运动方向信息将当前帧检测到的全部商品信息存储至临时商品列表中,若存在商品,则进一步判断手部的商品是否已经存在购物车中,若存在,则判定存在的商品为替换商品,并将存在的商品在临时购物车中删除,若不存在,则标注为异常订单。
在一个具体实施例中,步骤S300当手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接进行步骤S600检测无人售货柜门状态。
在一个具体实施例中,临时商品列表以及临时位置列表是相互绑定的。
具体的,在每一帧上,一个商品信息对应一个位置信息,在根据临时位置列表存储的手部位置信息判断出手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向后,使用投票法分析整个过程中每帧所拿的商品存入临时商品列表,并将临时商品列表与购物车列表进行比较,若商品为空,则判定该行为是从外界拿进无人售货柜的异物,则标定为异常订单,若购物车列表不为空,则判定该行为为换货,并相应的减少后屋车中所对应的商品数量,在删除某一帧的商品时,也需要删除该该帧上该商品对应的位置信息。
具体的,在根据临时位置列表存储的手部位置信息判断出手部相对于无人售货柜门的运动方向为无人售货柜内向无人售货柜外方向后,通过投票法分析整个过程中每帧所拿的商品存入临时商品列表,并将临时商品列表与购物车列表进行比较,对购物车列表中的商品信息进行增加或保持不变。
更具体的,若手部位置不在购物区域内,则视为没有购物行为,此时购物车列表中的商品保持不变。
具体的,异常行为指的是破坏无人售货柜等行为,分析过程为动态分析,即每隔一定时间得出该段时间内是否存在异常行为,在购物完成后分析出整个购物过程中是否存在异常行为。
另一方面,在一个具体实施例中,参见附图2所示,一种基于动态视觉的无人售货系统,应用于无人售货柜,系统包括:
自动唤醒模块:检测无人售货柜门的状态,当无人售货柜门为打开状态时,创建购物车列表;
追踪模块:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部形状进行跟踪;
目标检测模块:预先设置购物区域,当检测到手部位置信息在购物区域内,则创建临时商品列表和临时位置列表,将检测到的商品信息存储至临时商品列表中,将每帧检测到的商品位置信息加入到临时位置列表中;
分析模块:当检测到手部位置信息不在购物区域内,则根据临时位置列表分析出手部的运动方向,并根据临时商品列表对购物车列表进行更新;
异常行为检测模块:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;
决策模块:根据购物车商品信息以及异常行为分析模块的分析结果得到最终购物结果并完成购物。
在一个具体实施例中,一种基于动态视觉的无人售货系统还包括摄像装置;
在一个具体实施例中,目标检测模块检测到手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据手部运动方向信息将当前帧检测到的全部商品信息存储至临时商品列表中,若存在商品,则进一步判断手部的商品是否已经存在购物车中,若存在,则判定存在的商品为替换商品,并将存在的商品在临时购物车中删除,若不存在,则标注为异常订单。
在一个具体实施例中,目标检测模块检测到当手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接检测无人售货柜门状态。
实施例2
一种基于动态视觉的无人售货方法及系统的具体操作执行步骤如下:
用户进行身份信息绑定,绑定成功后即可打开柜门。
步骤一,通过自动唤醒模块实时检测无人售货柜门的状态,当无人售货柜门为打开状态时,创建购物车列表,并打开摄像装置。
步骤二,追踪模块利用目标检测算法对用户的手部进行生物识别,逐帧检测用户的手是否出现在当前摄像头的画面中,如果当前画面中没有检测到手,则目标检测算法继续读取视频流进行循环检测;如果当前画面中检测到手了,则追踪模块为当前检测到的手分配一个追踪器,此后该追踪器负责维持手部的稳定追踪。
步骤三,参见附图3所示,在无人售货柜内依据摄像装置的位置设置一条枢线,枢线两侧设置为第一渐近线以及第二渐近线,第一渐近线与第二渐近线之间为预设购物区域;其中,
在追踪到手以后,开始逐帧分析当前追踪器是否越过购物区域的第一渐近线,如果没有越过,则继续逐帧更新手的位置;如果越过了,则创建临时商品列表以及临时位置列表,追踪器开始记录当前手中的商品信息以及商品位置信息,并存放在临时商品列表以及临时位置列表中,临时商品列表和临时位置列表是互相绑定的,即删除任一个列表中任意帧的一个元素,则另一个列表中对应帧的元素也要删除,这两个列表的作用是便于在下一次更新追踪器的位置时作为辅助信息进行参考比对。
继续读取视频流,更新追踪器的位置,如果下一次的追踪器的位置比上一次追踪器的位置还要靠近上枢线的第一渐近线,则将剔除临时位置列表中最新的位置,加入当前追踪器的位置,对于临时商品列表也同样处理。如果下一次的追踪器的位置上一次追踪器的位置还要更远离上枢线第一渐近线,则在临时位置列表中新增当前追踪器的位置,临时商品列表也同样处理。每读取一次视频流都要更新追踪器的位置和两个临时列表,直到当前追踪器越过枢线的第二渐近线时,此时结束追踪,开始分析临时位置列表中的商品位置信息,并判断手的运动方向是从柜外运动到柜内,在确定了运动方向以后,将临时商品列表中的商品按出现次数排序,取出出现次数最高的前K个商品。随后将K件商品和临时给购物车中的商品进行比对,如果没有交集,则直接将订单标记为异常订单,因为涉嫌从外面拿购物车中不存在的商品(区别于退货,退货是从外面拿购物车中已有的商品进来),如果存在交集,则判定为当前行为是退货,则更新临时购物车中的商品数量。
步骤四,在步骤三中已经确定了手的运动方向为从外向内的前提下,进行手部从内到外的分析,具体如下:
追踪模块利用目标检测算法对用户的手部进行生物识别,逐帧检测用户的手是否出现在当前摄像头的画面中,如果当前画面中没有检测到手,则目标检测算法继续读取视频流进行循环检测;如果当前画面中检测到手了,则启动追踪模块为当前检测到的手分配一个追踪器。当追踪器进入枢线的第二渐近线以上时,则创建临时商品列表和临时位置列表,加入当前商品位置和商品信息。在下一帧的检测追踪中,如果追踪器的位置比上一次更加远离枢线的第二渐进线,则在临时商品列表和临时位置列表中添加当前帧的商品和商品位置信息;如果追踪器的位置比上一次更靠近枢线的第二渐进线,则在临时商品列表和临时位置列表中删除上一次的商品和商品位置信息,添加这一次的商品和商品位置信息。当追踪器越过枢线的第一渐进线后,则停止追踪,开始分析临时位置列表的商品位置信息,判断手的运动方向是从柜内运动到柜外,在确定了运动方向以后,按出现次数排序在临时商品列表中的商品,取出出现频次最高的前K个商品。随后将K件商品和临时给购物车中的商品比对,将K件商品添加到临时购物车中。
步骤五,前面的步骤三和步骤四,组成了一次完整的购物流程。如果在步骤四结束后未接收到关门信号,则回到步骤三开始下一轮的购物流程检测,完整的购物流程必须包含步骤三、步骤四。若中途接收到了关门信号,则开始执行决策模块,决策模块需要结合购物流程和异常行为分析模块反馈的信息来综合判断本次购物用户购买了哪些商品以及本次购物是否出现异常行为,算法会综合分析这三个模块的输出,给出最终的购物结果。具体来说,在接收到关门信号后,标识用户购物已完成,则开始统计临时购物车中商品及其数量,并和后台的商品库进行比对,确认商品类别和数量无误后会生成一个购物单据,单据包括所购商品、单价、数量、购物时间等。但此时还不能直接发起扣款请求,还需检查该订单是否被标记为异常订单,异常订单是由异常分析模块对于整个购物流程进行行为分析之后得到的结果,具体来说是将整个购物视频输入到异常分析算法中,异常分析算法将视频切分成不通大小的片段,通过视频行为分析算法来判定当前片段中是否存在异常购物行为,如果是整个购物行为中不存在异常行为,这该订单为正常订单,可以发起扣款请求,如果整个购物行为中存在异常行为,则该订单别标记为异常,则需要将异常的订单发给工作人员进行人工复核,复核无误后再发起扣款请求。
经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种基于动态视觉的无人售货方法及系统,本发明有以下有益效果:
(4)本发明不限制摆放位置,空间利用率高,解决了传统无人售货柜不能重叠摆放、空间利用率低的问题;
(5)本发明为一种动态视觉商品检测方法,并不需要考虑无人售货柜内的商品类型,通过逐帧检测手部信息以及商品信息,较少了漏检几率,解决了静态视觉方案中判别错误率高、相似商品难识别以及摄像头数量变多所带来的成本上升问题;
(6)本发明采用模型轻量化思路,在本地进行运算操作,避免将视频传回云端服务器,解决了现有动态视觉商品检测方法中信息时延问题。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
对所公开的实施例的上述说明,使本领域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本领域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (7)
1.一种基于动态视觉的无人售货方法,应用于无人售货柜,其特征在于,所述方法包括:
S100:检测无人售货柜门的状态,当所述无人售货柜门为打开状态时,创建购物车列表;
S200:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部位置进行跟踪;
S300:预先设置购物区域,当检测到手部位置信息在所述购物区域内,则创建临时商品列表和临时位置列表,将检测到用户手部经过的商品信息存储至所述临时商品列表中,将每帧检测到的商品位置信息加入到所述临时位置列表中;
S400:当检测到手部位置信息不在所述购物区域内,则根据所述临时位置列表分析出手部的运动方向,并根据所述临时商品列表对所述购物车列表进行更新;
S500:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;
S600:根据购物车商品信息以及是否存在异常行为的分析结果得到最终购物结果并完成购物;
其中,所述S400根据所述临时位置列表分析出手部的运动方向,包括:
S410:在所述无人售货柜内设置一条枢线,所述枢线两侧设置为第一渐近线以及第二渐近线,所述第一渐近线与所述第二渐近线及所述无人售货柜内部的区域为预设购物区域;
S420:基于所述临时位置列表存储的商品位置信息与所述预设购物区域的位置关系,确定手部相对于无人售货柜门的运动方向;
S430:当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第一渐近线且穿入所述预设购物区域第一渐近线后穿出所述预设购物区域第二渐近线,则判定手部由无人售货柜外向无人售货柜内方向;
所述S400根据所述临时位置列表分析出手部的运动方向,还包括:当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第二渐近线且穿入所述预设购物区域第二渐近线后穿出预设购物区域第一渐近线,则判定手部由无人售货柜内向无人售货柜外方向。
2.根据权利要求1所述的一种基于动态视觉的无人售货方法,其特征在于,所述S300当所述手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,
首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据所述手部运动方向信息将当前帧检测到的全部商品信息存储至所述临时商品列表中,若存在商品,则进一步判断所述手部的商品是否已经存在所述购物车中,若存在,则判定所述存在的商品为替换商品,并将所述存在的商品在所述购物车中删除,若不存在,则标注为异常订单。
3.根据权利要求1所述的一种基于动态视觉的无人售货方法,其特征在于,所述S300当所述手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接进行所述S600检测无人售货柜门状态。
4.根据权利要求1所述的一种基于动态视觉的无人售货方法,其特征在于,所述临时商品列表以及所述临时位置列表相互绑定。
5.一种基于动态视觉的无人售货系统,应用于无人售货柜,其特征在于,所述系统包括:
自动唤醒模块:检测无人售货柜门的状态,当所述无人售货柜门为打开状态时,创建购物车列表;
追踪模块:对用户的手部进行生物识别,当识别到用户的手部形状时,对手部形状进行跟踪;
目标检测模块:预先设置购物区域,当检测到手部位置信息在所述购物区域内,则创建临时商品列表和临时位置列表,将检测到的商品信息存储至所述临时商品列表中,将每帧检测到的商品位置信息加入到所述临时位置列表中;
分析模块:当检测到手部位置信息不在所述购物区域内,则根据所述临时位置列表分析出手部的运动方向,并根据所述临时商品列表对所述购物车列表进行更新;
异常行为检测模块:检测无人售货柜门状态,若无人售货门为打开状态,则返回S200继续对手部位置进行跟踪,若无人售货柜门为关闭状态,并分析本次购物过程是否存在异常行为;
决策模块:根据购物车商品信息以及所述异常行为分析模块的分析结果得到最终购物结果并完成购物;
其中,所述分析模块中根据所述临时位置列表分析出手部的运动方向,包括:在所述无人售货柜内设置一条枢线,所述枢线两侧设置为第一渐近线以及第二渐近线,所述第一渐近线与所述第二渐近线及所述无人售货柜内部的区域为预设购物区域;
基于所述临时位置列表存储的商品位置信息与所述预设购物区域的位置关系,确定手部相对于无人售货柜门的运动方向;
当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第一渐近线且穿入所述预设购物区域第一渐近线后穿出所述预设购物区域第二渐近线,则判定手部由无人售货柜外向无人售货柜内方向
所述分析模块中根据所述临时位置列表分析出手部的运动方向,还包括:当所述临时位置列表存储的商品位置信息为穿入所述预设购物区域第二渐近线且穿入所述预设购物区域第二渐近线后穿出预设购物区域第一渐近线,则判定手部由无人售货柜内向无人售货柜外方向。
6.根据权利要求5所述的一种基于动态视觉的无人售货系统,其特征在于,所述目标检测模块检测到所述手部相对于无人售货柜门的运动方向为无人售货柜外向无人售货柜内方向时,首先检测手部是否存在商品,若不存在,则创建临时商品列表,根据所述手部运动方向信息将当前帧检测到的全部商品信息存储至所述临时商品列表中,若存在商品,则进一步判断所述手部的商品是否已经存在所述购物车中,若存在,则判定所述存在的商品为替换商品,并将所述存在的商品在所述购物车中删除,若不存在,则标注为异常订单。
7.根据权利要求6所述的一种基于动态视觉的无人售货系统,其特征在于,所述目标检测模块检测到当所述手部相对于无人售货柜门的运动方向为手部由无人售货柜内向无人售货柜外方向时,检测手部是否有商品信息,若检测手部不存在商品信息,则直接检测无人售货柜门状态。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110382965.1A CN112991379B (zh) | 2021-04-09 | 2021-04-09 | 一种基于动态视觉的无人售货方法及系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110382965.1A CN112991379B (zh) | 2021-04-09 | 2021-04-09 | 一种基于动态视觉的无人售货方法及系统 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112991379A CN112991379A (zh) | 2021-06-18 |
CN112991379B true CN112991379B (zh) | 2024-02-09 |
Family
ID=76339628
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110382965.1A Active CN112991379B (zh) | 2021-04-09 | 2021-04-09 | 一种基于动态视觉的无人售货方法及系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112991379B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113743530B (zh) * | 2021-09-16 | 2022-07-22 | 广东佩服科技有限公司 | 一种基于动态视觉的自动售货识别方法 |
CN113888798A (zh) * | 2021-09-28 | 2022-01-04 | 北京每日优鲜电子商务有限公司 | 无人售货柜的商品变动检测方法、装置、设备和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1585068A1 (de) * | 2004-04-10 | 2005-10-12 | Dr. Karl-Heinz Unkelbach | Verfahren und Vorrichtung zum Verkauf von Waren und zur Übergabe der gekauften Waren |
CN108648334A (zh) * | 2018-04-11 | 2018-10-12 | 合肥美的智能科技有限公司 | 无人售货柜及其异常上报控制方法、无人售货系统 |
CN111079478A (zh) * | 2018-10-19 | 2020-04-28 | 杭州海康威视数字技术股份有限公司 | 一种无人售货架监控方法、装置、电子设备及系统 |
CN111723777A (zh) * | 2020-07-07 | 2020-09-29 | 广州织点智能科技有限公司 | 商品取放过程判别方法、装置、智能货柜和可读存储介质 |
-
2021
- 2021-04-09 CN CN202110382965.1A patent/CN112991379B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1585068A1 (de) * | 2004-04-10 | 2005-10-12 | Dr. Karl-Heinz Unkelbach | Verfahren und Vorrichtung zum Verkauf von Waren und zur Übergabe der gekauften Waren |
CN108648334A (zh) * | 2018-04-11 | 2018-10-12 | 合肥美的智能科技有限公司 | 无人售货柜及其异常上报控制方法、无人售货系统 |
CN111079478A (zh) * | 2018-10-19 | 2020-04-28 | 杭州海康威视数字技术股份有限公司 | 一种无人售货架监控方法、装置、电子设备及系统 |
CN111723777A (zh) * | 2020-07-07 | 2020-09-29 | 广州织点智能科技有限公司 | 商品取放过程判别方法、装置、智能货柜和可读存储介质 |
Non-Patent Citations (2)
Title |
---|
Toward New Retail: A Benchmark Dataset for Smart Unmanned Vending Machines;Haijun Zhang等;《IEEE Transactions on Industrial Informatics》;第16卷(第12期);第7722 - 7731页 * |
无人售货柜营销场景下的人机信息传播研究;高鑫;《中国优秀硕士学位论文全文数据库信息科技辑》(第09期);第I141-44页 * |
Also Published As
Publication number | Publication date |
---|---|
CN112991379A (zh) | 2021-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10861086B2 (en) | Computer vision system and method for automatic checkout | |
CN106408369B (zh) | 一种智能鉴别购物车内商品信息的方法 | |
CN112991379B (zh) | 一种基于动态视觉的无人售货方法及系统 | |
CN108460908A (zh) | 自动售货方法和系统以及自动售货装置和自动贩售机 | |
CN109190705A (zh) | 无人售货方法、装置及系统 | |
CN111415461A (zh) | 物品识别方法及系统、电子设备 | |
US11526843B2 (en) | Product identification systems and methods | |
KR101059801B1 (ko) | 자동 물류 시스템 및 그 제어방법 | |
US20210398097A1 (en) | Method, a device and a system for checkout | |
CN111222870B (zh) | 结算方法、装置和系统 | |
CN108831073A (zh) | 无人超市系统 | |
CN116452636A (zh) | 一种基于目标跟踪的无人售货柜动态商品识别方法及相关装置 | |
CN111260685B (zh) | 视频处理方法、装置及电子设备 | |
US20240135319A1 (en) | Methods and apparatus for machine learning system for edge computer vision and active reality | |
JP2023504871A (ja) | 不正検出システムおよび方法 | |
CN109300265A (zh) | 无人超市管理系统 | |
RU2694027C1 (ru) | Система и способ выявления факта потенциального мошенничества со стороны кассира | |
CN110443946A (zh) | 售货机、物品种类的识别方法和装置 | |
CN111428698A (zh) | 一种模型样本采集方法、更新方法、电子设备及存储介质 | |
KR102525381B1 (ko) | 인공 지능을 이용한 사용자 행위 분석 및 상황 인지 기반의 시스템 | |
KR102346166B1 (ko) | 매대 감지 및 무인결제 서비스 제공 방법 및 장치 | |
CN118097519B (zh) | 基于商品轨迹分析的智能购物车购物行为分析方法及系统 | |
CN110956761A (zh) | 对象处理方法及其系统、计算机系统及计算机可读介质 | |
US20230153878A1 (en) | System and method for automating processing of restricted items | |
CN118038378B (zh) | 一种物品识别数据获取方法、计算机存储介质和电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |