CN109145858A - 无人货架视频审核系统及方法 - Google Patents

无人货架视频审核系统及方法 Download PDF

Info

Publication number
CN109145858A
CN109145858A CN201811023408.5A CN201811023408A CN109145858A CN 109145858 A CN109145858 A CN 109145858A CN 201811023408 A CN201811023408 A CN 201811023408A CN 109145858 A CN109145858 A CN 109145858A
Authority
CN
China
Prior art keywords
video
module
shelf
user
play parameter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201811023408.5A
Other languages
English (en)
Inventor
司江华
张宇辉
蒋新
蒋一新
梁胜
李小伟
王柏成
朱荣
史友娟
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ooh Network Technology (shanghai) Co Ltd
Original Assignee
Ooh Network Technology (shanghai) Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ooh Network Technology (shanghai) Co Ltd filed Critical Ooh Network Technology (shanghai) Co Ltd
Priority to CN201811023408.5A priority Critical patent/CN109145858A/zh
Publication of CN109145858A publication Critical patent/CN109145858A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/70Denoising; Smoothing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/107Static hand or arm
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/44Event detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种无人货架视频审核系统及方法,该审核系统包括:视频上传模块,其根据货架的盗损数据,选择盗损高的货架,并对在该货架上发生购物行为的用户视频,进行拉取;开关门检测模块,利用数字图像现技术找到冰箱的门。本发明基于图像处理技术,识别视频中用户真正的购物过程,以达到对视频的高效审核。

Description

无人货架视频审核系统及方法
技术领域
本发明涉及一种视频审核系统及方法,特别是涉及一种无人货架视频审核系统及方法。
背景技术
在无人货架零售领域,通过视频监控来追查用户购买时是否发生盗损,是一个比较新颖的方案。该方案的可行性比较依赖于其对视频审核的效率。
发明内容
本发明所要解决的技术问题是提供一种无人货架视频审核系统及方法,其能够达到对视频的高效审核。
本发明是通过下述技术方案来解决上述技术问题的:一种无人货架视频审核系统,其特征在于,其包括:
视频上传模块,其根据货架的盗损数据,选择盗损高的货架,并对在该货架上发生购物行为的用户视频,进行拉取;
开关门检测模块,利用数字图像现技术找到冰箱的门;
开关门过滤模块,根据开关门检测模块检测到的门,将视频中的噪声区域过滤掉;
前景检测模块,利用高斯混合模型,对图像中有效区域进行检测;
手势检测模块,其通过图像处理技术将人的手给识别出来;
播放参数模块,将前景检测模块、手势检测模块的前景、肤色检测的结果保存起来,为后续的视频审核模块的视频播放提供播放参数;
视频播放模块,其根据播放参数模块提供的播放参数,对视频进行播放;对于在购买区间外的,根据播放参数进行快速播放,而对于在购买区间内的,慢速播放;当有碰到手时,则以更慢的速度进行播放;
审核结果模块,通过审核人员查看视频信息,以确定用户付款的与其实际拿的是否一致;如果不一致,则计算差价,并通过芝麻信用发起追缴。
优选地,所述开关门检测模块和开关门过滤模块构成一个图像预处理单元,图像预处理单元主要用来过滤掉视频中的开关门噪声。
本发明还提供一种无人货架视频审核方法,其特征在于,包括以下步骤:
步骤一、视频上传系统从后台获取货架的盗损数据,并对其进行排序,然后,按照倒损率降序,拉取用户购买时的视频信息;最后,将视频信息上传到猩便利后台;
步骤二、将上传的视频分割成一帧帧图片,然后对每一张图片进行Canny边缘检测和霍夫直线检测,通过这两步,即可把冰箱的门给检测出来;
步骤三、根据步骤二的结果,将门区域外信息进行过滤处理,去掉噪声点,提升检测的精度;
步骤四、由于摄像头固定,因此其拍摄的每一张图片的背景,大致是一样的;采用GMM高斯混合模型,其通过背景训练,即可把背景去掉,仅留下前景;留下的前景即为用户购物的图片信息;
步骤五、对于取出来的前景图片,通过TensorFlow模型训练和肤色检测,对图片中有没有手进行检测,并将检测结果保存下来;
步骤六、根据步骤四和步骤五的结果,将播放参数保存起来,保存格式:通过该参数,把视频分成一段段小的视频,然后播放模块可以按照该参数进行播放;
步骤七、播放参数模块根据视频的播放参数,对视频进行播放;
步骤八、通过审查视频,以确定用户购买的商品与其实际拿的商品是否一致;若一致,则用户无盗损,若不一致,则区分出盗损商品,并计算差价,最后通过芝麻信用,对用户发起追讨。
本发明的积极进步效果在于:本发明基于图像处理技术,识别视频中用户真正的购物过程,以达到对视频的高效审核。
附图说明
图1为本发明无人货架视频审核系统的原理框图。
图2为本发明无人货架视频审核方法的流程图。
具体实施方式
下面结合附图给出本发明较佳实施例,以详细说明本发明的技术方案。
如图1所示,本发明无人货架视频审核系统包括:
视频上传模块,其根据货架的盗损数据,选择盗损高的货架,并对在该货架上发生购物行为的用户视频,进行拉取;
开关门检测模块,利用数字图像现技术:canny边缘检测技术和霍夫变换直线检测技术,可以找到冰箱的门;
开关门过滤模块,根据开关门检测模块检测到的门,将视频中的噪声区域过滤掉;
前景检测模块,利用高斯混合模型,对图像中有效区域进行检测。当前景值越多时,则说明用户在购买概率越大。
手势检测模块,其通过图像处理技术:TensorFlow技术和肤色检测技术,将人的手给识别出来。
播放参数模块,将前景检测模块、手势检测模块的前景、肤色检测的结果保存起来,为后续的视频审核模块的视频播放提供播放参数。
视频播放模块,其根据播放参数模块提供的播放参数,对视频进行播放;对于在购买区间外的,根据播放参数进行快速播放,而对于在购买区间内的,慢速播放;当有碰到手时,则以更慢的速度进行播放。
审核结果模块,通过审核人员查看视频信息,以确定用户付款的与其实际拿的是否一致;如果不一致,则计算差价,并通过芝麻信用发起追缴。
开关门检测模块和开关门过滤模块构成一个图像预处理单元,图像预处理单元主要用来过滤掉视频中的开关门噪声。
本发明无人货架视频审核方法包括以下步骤:
步骤一、视频上传系统从后台获取货架的盗损数据,并对其进行排序,然后,按照倒损率降序,拉取用户购买时的视频信息;最后,将视频信息上传到猩便利后台;
步骤二、将上传的视频分割成一帧帧图片,然后对每一张图片进行Canny边缘检测和霍夫直线检测,通过这两步,即可把冰箱的门给检测出来。
步骤三、根据步骤二的结果,将门区域外信息进行过滤处理,去掉噪声点,提升检测的精度;
步骤四、由于摄像头固定,因此其拍摄的每一张图片的背景,大致是一样的;采用GMM高斯混合模型,其通过背景训练,即可把背景去掉,仅留下前景;留下的前景即为用户购物的图片信息;
步骤五、对于取出来的前景图片,通过TensorFlow模型训练和肤色检测,对图片中有没有手进行检测,并将检测结果保存下来。
步骤六、根据步骤四和步骤五的结果,将播放参数保存起来,保存格式:(开始,结束,播放速度);通过该参数,把视频分成一段段小的视频,然后播放模块可以按照该参数进行播放。
步骤七、播放参数模块根据视频的播放参数,对视频进行播放。比如:对于不是购物区的,以八倍速度进行播放;对于是购物区的,以两倍速度播放;对于检测到手的,则以0.5倍速度进行播放。
步骤八、通过审查视频,以确定用户购买的商品与其实际拿的商品是否一致;若一致,则用户无盗损,若不一致,则区分出盗损商品,并计算差价,最后通过芝麻信用,对用户发起追讨。
综上所述,本发明能够通过开关门检测、前景检测、手检测等图像技术,检测用户购买时的关键视频信息,缩小视频播放时间,提升视频审核效率。
以上所述的具体实施例,对本发明的解决的技术问题、技术方案和有益效果进行了进一步详细说明,所应理解的是,以上所述仅为本发明的具体实施例而已,并不用于限制本发明,凡在本发明的精神和原则之内,所做的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (3)

1.一种无人货架视频审核系统,其特征在于,其包括:
视频上传模块,其根据货架的盗损数据,选择盗损高的货架,并对在该货架上发生购物行为的用户视频,进行拉取;
开关门检测模块,利用数字图像现技术找到冰箱的门;
开关门过滤模块,根据开关门检测模块检测到的门,将视频中的噪声区域过滤掉;
前景检测模块,利用高斯混合模型,对图像中有效区域进行检测;
手势检测模块,其通过图像处理技术将人的手给识别出来;
播放参数模块,将前景检测模块、手势检测模块的前景、肤色检测的结果保存起来,为后续的视频审核模块的视频播放提供播放参数;
视频播放模块,其根据播放参数模块提供的播放参数,对视频进行播放;对于在购买区间外的,根据播放参数进行快速播放,而对于在购买区间内的,慢速播放;当有碰到手时,则以更慢的速度进行播放;
审核结果模块,通过审核人员查看视频信息,以确定用户付款的与其实际拿的是否一致;如果不一致,则计算差价,并通过芝麻信用发起追缴。
2.如权利要求1所述的无人货架视频审核系统,其特征在于,所述开关门检测模块和开关门过滤模块构成一个图像预处理单元,图像预处理单元主要用来过滤掉视频中的开关门噪声。
3.一种无人货架视频审核方法,其特征在于,包括以下步骤:
步骤一、视频上传系统从后台获取货架的盗损数据,并对其进行排序,然后,按照倒损率降序,拉取用户购买时的视频信息;最后,将视频信息上传到猩便利后台;
步骤二、将上传的视频分割成一帧帧图片,然后对每一张图片进行Canny边缘检测和霍夫直线检测,通过这两步,即可把冰箱的门给检测出来;
步骤三、根据步骤二的结果,将门区域外信息进行过滤处理,去掉噪声点,提升检测的精度;
步骤四、由于摄像头固定,因此其拍摄的每一张图片的背景,大致是一样的;采用GMM高斯混合模型,其通过背景训练,即可把背景去掉,仅留下前景;留下的前景即为用户购物的图片信息;
步骤五、对于取出来的前景图片,通过TensorFlow模型训练和肤色检测,对图片中有没有手进行检测,并将检测结果保存下来;
步骤六、根据步骤四和步骤五的结果,将播放参数保存起来,保存格式:通过该参数,把视频分成一段段小的视频,然后播放模块可以按照该参数进行播放;
步骤七、播放参数模块根据视频的播放参数,对视频进行播放;
步骤八、通过审查视频,以确定用户购买的商品与其实际拿的商品是否一致;若一致,则用户无盗损,若不一致,则区分出盗损商品,并计算差价,最后通过芝麻信用,对用户发起追讨。
CN201811023408.5A 2018-09-03 2018-09-03 无人货架视频审核系统及方法 Pending CN109145858A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811023408.5A CN109145858A (zh) 2018-09-03 2018-09-03 无人货架视频审核系统及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811023408.5A CN109145858A (zh) 2018-09-03 2018-09-03 无人货架视频审核系统及方法

Publications (1)

Publication Number Publication Date
CN109145858A true CN109145858A (zh) 2019-01-04

Family

ID=64826562

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811023408.5A Pending CN109145858A (zh) 2018-09-03 2018-09-03 无人货架视频审核系统及方法

Country Status (1)

Country Link
CN (1) CN109145858A (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110189205A (zh) * 2019-06-03 2019-08-30 深圳普思英察科技有限公司 基于双摄像头无人零售货架库损的优化方法及系统
CN113496185A (zh) * 2020-05-26 2021-10-12 海信集团有限公司 一种冰箱和食材检测方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040003314A1 (en) * 2002-06-28 2004-01-01 Microsoft Corporation Method and system for creating and restoring an image file
US20110280547A1 (en) * 2010-05-13 2011-11-17 International Business Machines Corporation Auditing video analytics through essence generation
CN107679156A (zh) * 2017-09-27 2018-02-09 努比亚技术有限公司 一种视频图像识别方法及终端、可读存储介质
WO2018033156A1 (zh) * 2016-08-19 2018-02-22 北京市商汤科技开发有限公司 视频图像的处理方法、装置和电子设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20040003314A1 (en) * 2002-06-28 2004-01-01 Microsoft Corporation Method and system for creating and restoring an image file
US20110280547A1 (en) * 2010-05-13 2011-11-17 International Business Machines Corporation Auditing video analytics through essence generation
WO2018033156A1 (zh) * 2016-08-19 2018-02-22 北京市商汤科技开发有限公司 视频图像的处理方法、装置和电子设备
CN107679156A (zh) * 2017-09-27 2018-02-09 努比亚技术有限公司 一种视频图像识别方法及终端、可读存储介质

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110189205A (zh) * 2019-06-03 2019-08-30 深圳普思英察科技有限公司 基于双摄像头无人零售货架库损的优化方法及系统
CN113496185A (zh) * 2020-05-26 2021-10-12 海信集团有限公司 一种冰箱和食材检测方法

Similar Documents

Publication Publication Date Title
EP2891990B1 (en) Method and device for monitoring video digest
CN109918987B (zh) 一种视频字幕关键词识别方法及装置
TWI308725B (zh)
CN102222104B (zh) 基于时空融合的智能提取视频摘要方法
CN102231820B (zh) 一种监控图像处理的方法、装置和系统
US10600158B2 (en) Method of video stabilization using background subtraction
CN102348049A (zh) 检测视频片断切点位置的方法及装置
CN103856689A (zh) 面向新闻视频的人物对话字幕提取方法
WO2014000515A1 (zh) 一种广告视频检测方法
CN101510260B (zh) 字幕存在时间确定装置和方法
CN109145858A (zh) 无人货架视频审核系统及方法
KR20180093402A (ko) 다수 객체 추적 시스템 및 이의 객체 추적 방법
CN101382998A (zh) 视频场景切换检测装置及方法
Lu et al. Generating fluent tubes in video synopsis
CN104318537A (zh) 大雨场景视频数据中雨滴的检测和去除方法及系统
CN102301697A (zh) 视频签名产生设备
CN110378190A (zh) 基于主题识别的视频内容检测系统及检测方法
CN111738042A (zh) 识别方法、设备及存储介质
CN107133964A (zh) 一种基于Kinect的抠像方法
Jin et al. Object-based video forgery detection via dual-stream networks
Vyas et al. Commercial block detection in broadcast news videos
CN109660814A (zh) 一种视频前景删除篡改的检测方法
Dong et al. Adaptive Object Detection and Visibility Improvement in Foggy Image.
CN117095462A (zh) 行为检测方法、装置及设备
Selvaperumal et al. Haar wavelet transform based text extraction from complex videos

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
AD01 Patent right deemed abandoned

Effective date of abandoning: 20240510

AD01 Patent right deemed abandoned