CN111127174A - 智能化无人超市控制系统 - Google Patents
智能化无人超市控制系统 Download PDFInfo
- Publication number
- CN111127174A CN111127174A CN202010008429.0A CN202010008429A CN111127174A CN 111127174 A CN111127174 A CN 111127174A CN 202010008429 A CN202010008429 A CN 202010008429A CN 111127174 A CN111127174 A CN 111127174A
- Authority
- CN
- China
- Prior art keywords
- goods
- user
- control system
- unmanned supermarket
- commodity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012544 monitoring process Methods 0.000 claims abstract description 74
- 238000000034 method Methods 0.000 claims abstract description 22
- 230000008569 process Effects 0.000 claims abstract description 16
- 238000003384 imaging method Methods 0.000 claims description 29
- 238000002372 labelling Methods 0.000 claims description 17
- 230000008859 change Effects 0.000 claims description 8
- 238000004364 calculation method Methods 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 238000012545 processing Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 11
- 238000011161 development Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 241000531116 Blitum bonus-henricus Species 0.000 description 1
- 235000008645 Chenopodium bonus henricus Nutrition 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q20/00—Payment architectures, schemes or protocols
- G06Q20/08—Payment architectures
- G06Q20/20—Point-of-sale [POS] network systems
- G06Q20/208—Input by product or record sensing, e.g. weighing or scanner processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q30/00—Commerce
- G06Q30/06—Buying, selling or leasing transactions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
- G06V20/48—Matching video sequences
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/103—Static body considered as a whole, e.g. static pedestrian or occupant recognition
Abstract
本发明提供一种智能化无人超市控制系统,包括:门禁系统;人体识别定位跟踪系统,通过人脸识别系统和人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位;商品监测控制系统,通过商品监控系统和重量监测系统,用以实时监测获取被取走或者被放回商品的种类和数量;购物用户匹配商品系统,来推断取走或者放回商品的用户身份信息和用户手中的商品种类和数量;购物相关数据信息记录系统,用来记录每一位用户购买商品的数量和种类;购物结算系统,根据每一位购物用户当前购物车中全部商品的种类和数量进行消费金额结算。
Description
技术领域
本发明涉及一种零售业管理系统的解决方案,具体来说,涉及一种智能化无人超市控制系统。
背景技术
无人超市是相比于传统的有具体管理工作人员的超市而言的。传统超市零售业的购物方式中,每一家超市或便利店需要有专门的销售人员和收款人员,人力成本较高。随着电子支付技术、身份识别技术及商品识别技术极大地发展,在零售行业用无人超市代替传统有具体管理工作人员的超市就有了极大的发展空间,在现有的技术条件下也具备发展的可行性。
无人超市,即无营业员超市,顾客可以在无人超市中自助购物、自助结算。在无人超市项目中,选购商品、结账都是由顾客自助完成的。在无人超市的初步尝试中,由于没有工作人员的监督,存在夹带商品、商品未结算等情况;另外存在的一个问题是如何精准计算、实现用户选购商品的判断和记录。
为解决上述部分问题,现有无人超市系统的技术中,有人采用RFID技术感知用户选购的货品,这种方式需要在每一个货品上设置RFID标签,在门禁处设置RFID阅读器,当用户走出门禁时就可以记录其消费内容。此种方案面临的问题有,第一,由于需要在每个货品上设置RFID标签,硬件成本高,在每件商品上添加RFID标签会提升商品的成本,增加超市运营成本,降低超市的竞争力;第二,通过在商品上添加RFID标签实现对商品的监控,如果有用户故意屏蔽、去除RFID标签,或者RFID标签自身出现故障,那么会出现货品无法识别、无法结算,甚至是货品被顾客私自带走,而系统无法感知监控的情况;第三,如果有用户在离店前将可食用的货品吃掉,将包装留在超市里,RFID阅读器也无法感知和确定用户的真实消费金额。
发明内容
为有效解决现有技术中存在的问题,本发明提供了一种智能化无人超市控制系统。
为实现上述目的,本申请提供一种智能化无人超市控制系统,该智能化无人超市控制系统包括:门禁系统;人体识别定位跟踪系统;商品监测控制系统;购物用户匹配商品系统;购物相关数据记录系统;购物结算系统;以及总处理器;其中,人体识别定位跟踪系统,包括人脸识别系统和人体跟踪系统;人脸识别系统,实现对目标物用户在无人超市整个购物过程中不同区域无死角的身份识别、辅助坐标跟踪定位;人体跟踪系统,实现对目标物用户在无人超市整个购物过程中不同区域无死角的坐标跟踪定位;通过所述人脸识别系统和所述人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位;商品监测控制系统,用以实时监测获取被取走或者被放回商品的种类和数量;商品监测控制系统,包括商品监控系统和重量监测系统;购物用户匹配商品系统,当有任何一件商品被取走和被放回时,用上述人体识别定位跟踪系统得到的用户身份信息和该用户的实时位置,以及商品监测控制系统得到的货架区域的视频图像,来推断取走或者放回商品的用户身份信息和用户手中的商品种类和数量。购物相关数据信息记录系统,根据每一位用户身份信息生成与之相对应的购物数据库,以此来记录每一位用户购买商品的数量和种类;购物结算系统,依据所述购物相关数据信息记录系统中记录的每一位购物用户当前购物车中全部商品的种类和数量进行消费金额结算。总处理器与该无人超市控制系统的其他部分相连,实现对该无人超市控制系统各部分的控制。
进一步,门禁系统设置在无人超市的封闭区域的入口和出口处,门禁系统包括有闸机,以及设置在闸机上的扫码装置。
进一步,该智能化无人超市控制系统控制系统布置在无人超市的封闭空间;在封闭空间内部布置有多组货架,每一组货架上都安置有适量层数的架板,每层架板设置有多组货槽,在每一货槽中放置商品。
进一步,在划定好的封闭空间内货架区域放置货架,在每一货架上放置4-5层架板,每一架板上安装3-5个货槽。
进一步,该总处理器是一种数据处理设备如计算机或服务器。
进一步,人脸识别系统,包括设置于入口处门禁系统的人脸采集装置一,设置于货架前方区域的人脸采集装置二;设置于出口处门禁系统的人脸采集装置三;设置于入口处门禁系统的人脸采集装置一,用于在封闭空间的入口处对进入入口的顾客用户进行人脸影像采集。
进一步,人脸采集装置一,设置于入口处闸机的上部,顾客用户通过扫码装置扫描二维码触发人脸识别采集装置一进行至少一帧影像采集,所采集影像包括顾客用户的脸部影像,与人脸采集装置一连接的总处理器,对目标物即用户的脸部影像进行人脸特征提取建模。
进一步,设置于货架区域的人脸采集装置二用于对货架区域的顾客用户人脸影像识别,与人脸采集装置二连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物坐标修正。
进一步,位于出口处的人脸采集装置三用于出口处人脸影像识别,与人脸采集装置三连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物身份验证确定用户身份,以及用于协助人体跟踪系统进一步完善对顾客用户的识别跟踪定位。
进一步,所述人体跟踪系统,包括设置于入口处门禁系统闸机的人体标注跟踪装置一、设置在货架前方区域的人体标注跟踪装置二、设置在封闭空间房顶上的人体标注跟踪装置三、以及设置在出口处门禁系统闸机的人体标注跟踪装置四。
进一步,所述人体标注跟踪装置一至四采用影像装置,用来实时采集影像,所采集的影像中至少包括目标物的全部或者部分的影像;多影像装置同一时刻共享拼接影像,具备目标物用户的影像转换跟踪标记不丢失、不错识。
进一步,所述人体跟踪系统,通过设置于入口处、货架前方区域、封闭空间房顶、出口处的人体标注跟踪装置一至四,在封闭空间内建立平面坐标系,并在坐标系范围内划定电子围栏的区域,对入口,出口,各个货架前一平方米区域进行区域划定,通过实时采集到的影像获取当前目标物在所述封闭区域内坐标系坐标及所处电子围栏区域编号。
进一步,所述人体标注跟踪装置一至四,完成目标物的影像采集后发送给总处理器,总处理器完成目标物影像接收、目标物影像拼接、以及目标物坐标运算,从而实现对目标物人体的跟踪标定。
进一步,初始时,用户通过封闭空间的入口处,打开移动端二维码对准闸机的扫描装置进行扫码时,设置于入口处门禁系统的人脸采集装置一至少采集一帧影像用于人脸识别采集建模标定特征,人体标注跟踪装置一至少采集一帧影像用于人体的跟踪标定。
进一步,重量监测系统实现对货槽实时重量值的监测,当任意货槽的商品被取走或放回时,实时获取被取走或者被放回商品的重量值;之后,根据每一货槽上被取走商品的实时重量值与商品数据库中存储的该货槽相对应的单个商品的重量值,计算倍数关系,从而判断被取走商品的数量。
进一步,重量监测系统采用在每一货架架板的货槽底部设置重量传感器,用以实时采集每一货槽的重量值。
进一步,商品监控系统,用于实时抓拍货架前用户购买商品时的操作,对视频图像中的用户手中商品进行动态商品识别,同时结合重量监测系统中提供的货槽重量值变化数据来进一步确认商品种类及数量。
进一步,商品监控系统包括:影像装置一,安装于封闭空间内的货架顶部的上方,将影像装置一的摄像头调整为与水平面垂直;影像装置二,安装在货架两边顶角处并且将影像装置二的摄像头调整为与水平面成四十五度角;通过上述影像装置一和影像装置二的设置,监控覆盖货架前方区域。
进一步,商品监控系统包括:在每一货架每一个货槽上方的中心位置安装影像装置三,影像装置三的摄像头覆盖监控每一货槽内放置的商品。
进一步,购物用户匹配商品系统包括:商品相关信息存储单元,将每层架板每个货槽的商品信息存到对应数据库中,用于重量监测系统的运算查询;货架货槽坐标存储单元,在封闭空间内建立坐标系,并划定电子围栏,用电子围栏将每一货架的货槽的区域划定出来,存储货架坐标和货槽坐标;货槽与用户匹配判断单元,当某一货槽电子围栏的坐标集与某一用户手部坐标集有交集时,则该货槽与该用户匹配;商品与用户匹配判断单元,当有商品从某一货槽上被取走或被放置到该货槽上时,且同一时刻下有一用户与该货槽匹配,判定该商品与该用户匹配。
进一步,购物相关数据信息记录系统包括:生成购物车数据库和更新购物车数据库;生成购物车数据库,当一位顾客用户的身份被识别进入封闭空间内时,根据所述人体识别定位跟踪系统得到用户的身份信息生成此用户的购物车数据库;更新购物车数据库,当商品被从货槽上取走时,根据所述商品监测控制系统得到的结果,将被取走商品的种类和数量放入取走该商品的用户的购物车数据库中;当商品被放回货槽时,根据所述商品监测控制系统得到的结果,将被放回商品的种类和数量从该商品用户的购物车数据库中扣除。
进一步,购物结算系统,包括金额计算部分和支付部分;金额计算部分,当用户完成购物进入出口的电子围栏区域准备离开封闭空间的时候,根据所述购物相关数据信息记录系统中记录的该用户采购的全部商品的种类和数量,计算出应当支付的金额。
进一步,支付部分,通过移动端签约的免密支付功能,自动从该用户的账户扣取当前购买商品的金额。
进一步,所述用户的账户包括支付宝、微信零钱或者是绑定的银行卡。
本申请的有益技术效果在于:提供一种智能化无人超市控制系统,采用该控制系统的超市售货,在超市内不需要售货员和管理人员,也不需要在商品上设置RIFD标签,大大降低运营成本。从顾客进入超市入口通过闸机开始,通过人脸识别系统和所述人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位;以及采用包括商品监控系统和重量监测系统的商品监测控制系统,实现实时监测获取被取走或者被放回商品的种类和数量;通过上述人脸识别系统、所述人体跟踪系统、商品监控系统和重量监测系统,实现对顾客、商品的准确识别、定位、跟踪,顾客在整个购物过程中,购物过程简单易便捷易操作。
附图说明
图1为本申请实施例所述的智能化无人超市控制系统结构示意图;
图2为本申请实施例所述的无人超市中货架整体结构示意图;
图3为本申请实施例所述的无人超市中货架的架板货槽结构示意图;
图4为本申请实施例所述的门禁系统结构示意图;
图5为本申请实施例所述的人脸识别系统结构示意图;
图6为本申请实施例所述的人体跟踪系统结构示意图;
图7为本申请实施例所述的商品监控系统结构示意图;
图8为本申请实施例所述的购物用户匹配商品系统结构示意图。
具体实施方式
附图中的流程图和框图,图示了按照本发明各种实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,所述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
以下参考说明书附图完整介绍本发明申请的优选实施例,使其技术内容更加清楚和便于理解。本发明可以通过许多不同形式的实施例来得以体现,其保护范围并非仅限于文中提到的实施例。
在附图中,结构相同的部件以相同数字标号表示,各处结构或功能相似的部件以相似数字标号表示。本发明所提到的方向用语,例如,上、下、前、后、左、右、内、外、侧面、顶部、底部、顶端、底端、末端等,仅是附图中的方向,只是用来解释和说明本发明,而不是用来限定本发明的保护范围。
当某些部件被描述为“在”另一部件“上”时,所述部件可以直接置于所述另一部件上;也可以存在一中间部件,所述部件置于所述中间部件上,且所述中间部件置于另一部件上。当一个部件被描述为“安装至”或“连接至”另一部件时,二者可以理解为直接“安装”或“连接”,或者一个部件通过一中间部件间接“安装至”或“连接至”另一个部件。
作为具体实施例,
(一)智能化无人超市控制系统的总体结构
如图1-3所示,本实施例提供一种智能化无人超市控制系统,该无人超市控制系统包括:门禁系统1;人体识别定位跟踪系统,包括人脸识别系统2和人体跟踪系统3;商品监测控制系统,包括商品监控系统4和重量监测系统5;购物用户匹配商品系统6;购物相关数据记录系统7;购物结算系统8;
该控制系统布置在无人超市的封闭空间;在封闭空间内部布置有多组货架,每一组货架上都安置有适量层数的架板,每层架板设置有多组货槽,在每一货槽中放置商品。优选地,每一架板上只放置同一种类的商品。在划定好的封闭空间内货架区域放置货架,在每一货架上放置4-5层架板,每一架板上安装3-5个货槽,每一货槽上都放有商品。
该智能化无人超市控制系统包括商品数据库,商品数据库记录存储每一货架每一货槽商品的所有基本数据信息,包括商品的编号、种类、名称、单品重量值和商品相对应的货架编号、货槽编号。
以及该无人超市控制系统还包括总处理器,优选地,该总处理器是一种数据处理设备如计算机或服务器;该总处理器与该无人超市控制系统的其他部分相连,实现对该无人超市控制系统各部分的控制。
进一步如图4所示,门禁系统1设置在无人超市的封闭区域的入口和出口处,门禁系统1包括有闸机11,以及设置在闸机上的扫码装置12。
(二)人体识别定位跟踪系统
人体识别定位跟踪系统,包括人脸识别系统和人体跟踪系统。
人脸识别系统2:
如图5所示,人脸识别系统2包括设置于门禁系统1入口处的人脸采集装置一21,设置于货架前方区域的人脸采集装置二22;设置于门禁系统出口处的人脸采集装置三23;
进一步,设置于门禁系统入口处的人脸采集装置一21,用于在封闭空间的入口对进入入口的顾客进行人脸影像采集;
进一步,人脸识别采集装置一21,设置于入口处闸机11的上部,用户通过扫码装置12扫描二维码触发人脸识别采集装置一21进行至少一帧影像采集,所采集影像包括顾客用户的脸部影像,与人脸采集装置一2连接的总处理器,对该目标物即用户的脸部影像进行人脸特征提取建模;
进一步,设置于货架区域的人脸采集装置二22用于对货架区域的顾客用户人脸影像识别,与人脸采集装置二22连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物坐标修正;
和出口处的人脸采集装置三23用于出口处人脸影像识别,与人脸采集装置三23连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物身份验证,确定用户身份,用于协助人体跟踪系统3进一步完善对顾客用户的识别跟踪定位。
通过设置于入口处、出口处、以及货架前方区域设置人脸采集装置一至三21、22、23,实现对目标物用户在无人超市整个购物过程中不同区域无死角的身份识别、辅助坐标跟踪定位。通过上述对目标物用户身份的准备识别实时定位,大大避免了无人超市顾客私自夹带商品、造成超市损失的风险。
人体跟踪系统3:
如图6所示,人体跟踪系统3,包括设置于入口处门禁系统闸机11的人体标注跟踪装置一31、设置在货架前方区域的人体标注跟踪装置二32、设置在封闭空间房顶上的人体标注跟踪装置三33、以及设置在出口处门禁系统闸机11的人体标注跟踪装置一34。
上述人体标注跟踪装置一至四31、32、33、34由影像装置实现,用来实时采集影像,所采集的影像中至少包括目标物的全部或者部分的影像;多影像装置同一时刻共享拼接影像,具备目标物用户的影像转换跟踪标记不丢失、不错识。
人体跟踪系统3,通过设置于入口处、货架前方区域、封闭空间房顶、出口处的人体标注跟踪装置一至四31、32、33、34,在封闭区域内建立平面坐标系,并在坐标系范围内划定电子围栏的区域,对入口,出口,各个货架前一平方米区域进行区域划定,通过实时采集到的影像获取当前目标物在所述封闭区域内坐标系坐标及所处电子围栏区域编号。
人体标注跟踪装置一至四31、32、33、34,完成目标物的影像采集后发送给总处理器,总处理器完成目标物影像接收、目标物影像拼接、以及目标物坐标运算,从而实现对目标物人体的跟踪标定。
初始时,用户通过封闭空间的入口处,打开移动端二维码对准闸机的扫描装置11进行扫码时,人脸识别采集装置一21至少采集一帧影像用于人脸识别采集建模标定特征,人体标注跟踪装置一31至少采集一帧影像用于人体的跟踪标定。
通过设置于入口处、货架前方区域、封闭空间房顶、出口处的人体标注跟踪装置一至四31、32、33、34,实现对目标物用户在无人超市整个购物过程中不同区域无死角的坐标跟踪定位。通过上述对不同区域目标物用户的跟踪定位,大大避免了无人超市顾客私自夹带商品、造成超市损失的风险。
本申请的人体识别定位跟踪系统,设置上述人脸识别系统和上述人体跟踪系统,通过上述人脸识别系统和上述人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位。大大避免了无人超市顾客私自夹带商品、造成超市损失的风险。
(三)商品监测控制系统
商品监测控制系统,用以实时监测每一货槽的重量值变化,从而实时监测获取被取走或者被放回商品的种类和数量。
商品监测控制系统包括:重量监测系统4和商品监控系统5。
重量监测系统4实现对货槽实时重量值的监测,当任意货槽的商品被取走或放回时,实时获取被取走或者被放回商品的重量值;之后,根据每一货槽上被取走商品的实时重量值与商品数据库中存储的该货槽相对应的单个商品的重量值,计算倍数关系,从而判断被取走商品的数量。
进一步,作为实现对货槽实时重量值的监测方式,优选地,重量监测系统4采用在每一货架的架板的货槽底部设置重量传感器,用以实时采集每一货槽的重量值。
商品监控系统5,用于实时抓拍货架前用户购买商品时的操作,对视频图像中的用户手中商品进行动态商品识别,同时结合重量监测系统4中提供的货槽重量值变化数据来进一步确认商品种类及数量。
具体地,如图7所示,商品监控系统5包括:在每一货架区域布置影像装置,具体为,影像装置一51安装于封闭区域内的货架顶部的上方,将影像装置一51的摄像头调整为与水平面垂直;影像装置二52安装在货架两边顶角处并且将影像装置二52的摄像头调整为与水平面成四十五度角;通过上述影像装置一51和影像装置二52的设置,使影像装置覆盖货架前方区域。以及,在每一货架每一个货槽上方的中心位置安装影像装置三53,影像装置三53的摄像头覆盖监控每一货槽内放置的所有商品。
通过上述布置在不同位置的影像装置一至三51、52、53,实现在超市不同区域实时监控抓拍货架前用户购买商品时的操作,提高了监控的精细度、准确度,对视频图像中的用户手中商品进行准确地动态商品识别,同时结合重量监测系统4中提供的货槽重量值变化数据来进一步确认商品种类及数量。
(四)购物用户匹配商品系统
购物用户匹配商品系统6,当有任何一件商品被取走和被放回时,用上述人体识别定位跟踪系统得到的用户身份信息和该用户的实时位置,以及商品监测控制系统得到的货架区域的视频图像,来推断取走或者放回商品的用户身份信息和用户手中的商品种类和数量。
如图8所示,购物用户匹配商品系统6包括:
商品相关信息存储单元61,将每层架板每个货槽的商品信息(包括重量值信息)存到对应数据库中,用于重量监测系统的运算查询。
货架货槽坐标存储单元62,在封闭空间内建立坐标系,并划定电子围栏,用电子围栏将每一货架的货槽的区域划定出来,存储货架坐标和货槽坐标。
货槽与用户匹配判断单元63,当某一货槽电子围栏的坐标集与某一用户手部坐标集有交集时,则该货槽与该用户匹配;
商品与用户匹配判断单元64,当有商品从某一货槽上被取走或被放置到该货槽上时,且同一时刻下有一用户与该货槽匹配,判定该商品与该用户匹配。
(五)购物相关数据信息记录系统
购物相关数据信息记录系统7,根据每一位用户身份信息生成与之相对应的购物数据库,以此来记录每一位用户购买商品的数量和种类。
具体地,购物相关数据信息记录系统包括:生成购物车数据库和更新购物车数据库。
生成购物车数据库:当一位用户的身份被识别进入封闭空间内时,根据上述人体识别定位跟踪系统得到用户的身份信息生成此用户的购物车数据库。
更新购物车数据库:当商品被从货槽上取走时,根据上述商品监测控制系统得到的结果,将被取走商品的种类和数量放入取走该商品的用户的购物车数据库中。当商品被放回货槽时,根据上述商品监测控制系统得到的结果,将被放回商品的种类和数量从该商品用户的购物车数据库中拿掉。
(六)购物结算系统
购物结算系统8,依据上述购物相关数据信息记录系统7中记录的每一位购物用户当前购物车中全部商品的种类和数量进行消费金额结算。
购物结算系统,包括金额计算部分和支付部分。
金额计算部分,当用户完成购物进入出口的电子围栏区域准备离开封闭区域的时候,根据上述购物相关数据信息记录系统7中记录的该用户采购的全部商品的种类和数量,计算出应当支付的金额。
支付部分,通过移动端签约的免密支付功能,自动从用户的账户扣取当前购买商品的金额,此处的用户的账户包括但不限于支付宝、微信零钱或者是绑定的银行卡等。
本申请的有益技术效果在于:提供一种智能化无人超市控制系统,采用该控制系统的超市售货,在超市内不需要售货员和管理人员,也不需要在商品上设置RIFD标签,大大降低运营成本。从顾客进入超市入口通过闸机开始,通过人脸识别系统和所述人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位;以及采用包括商品监控系统和重量监测系统的商品监测控制系统,实现实时监测获取被取走或者被放回商品的种类和数量;通过上述人脸识别系统、所述人体跟踪系统、商品监控系统和重量监测系统,实现对顾客、商品的准确识别、定位、跟踪,顾客在整个购物过程中,购物过程简单易便捷易操作。
已经出于示出和描述的目的给出了本发明的说明书,但是其并不意在是穷举的或者限制于所公开形式的发明。本领域技术人员可以想到很多修改和变体。本领域技术人员应当理解,本发明实施方式中的方法和装置可以以软件、硬件、固件或其组合实现。
因此,实施方式是为了更好地说明本发明的原理、实际应用以及使本领域技术人员中的其他人员能够理解以下内容而选择和描述的,即,在不脱离本发明精神的前提下,做出的所有修改和替换都将落入所附权利要求定义的本发明保护范围内。
Claims (23)
1.一种智能化无人超市控制系统,其特征在于,
该智能化无人超市控制系统包括:门禁系统;人体识别定位跟踪系统;商品监测控制系统;购物用户匹配商品系统;购物相关数据记录系统;购物结算系统;以及总处理器;其中,
人体识别定位跟踪系统,包括人脸识别系统和人体跟踪系统;人脸识别系统,实现对目标物用户在无人超市整个购物过程中不同区域无死角的身份识别、辅助坐标跟踪定位;人体跟踪系统,实现对目标物用户在无人超市整个购物过程中不同区域无死角的坐标跟踪定位;通过所述人脸识别系统和所述人体跟踪系统的相互配合,实现对目标物用户在无人超市整个购物过程中不同区域无死角的实时身份识别、坐标跟踪定位;
商品监测控制系统,用以实时监测获取被取走或者被放回商品的种类和数量;商品监测控制系统,包括商品监控系统和重量监测系统;
购物用户匹配商品系统,当有任何一件商品被取走和被放回时,用上述人体识别定位跟踪系统得到的用户身份信息和该用户的实时位置,以及商品监测控制系统得到的货架区域的视频图像,来推断取走或者放回商品的用户身份信息和用户手中的商品种类和数量。
购物相关数据信息记录系统,根据每一位用户身份信息生成与之相对应的购物数据库,以此来记录每一位用户购买商品的数量和种类;
购物结算系统,依据所述购物相关数据信息记录系统中记录的每一位购物用户当前购物车中全部商品的种类和数量进行消费金额结算。
总处理器与该无人超市控制系统的其他部分相连,实现对该无人超市控制系统各部分的控制。
2.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
门禁系统设置在无人超市的封闭区域的入口和出口处,门禁系统包括有闸机,以及设置在闸机上的扫码装置。
3.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
该智能化无人超市控制系统控制系统布置在无人超市的封闭空间;在封闭空间内部布置有多组货架,每一组货架上都安置有适量层数的架板,每层架板设置有多组货槽,在每一货槽中放置商品。
4.根据权利要求3所述的智能化无人超市控制系统,其特征在于:
在划定好的封闭空间内货架区域放置货架,在每一货架上放置4-5层架板,每一架板上安装3-5个货槽。
5.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
该总处理器是一种数据处理设备如计算机或服务器。
6.根据权利要求1或者2所述的智能化无人超市控制系统,其特征在于:
人脸识别系统,包括设置于入口处门禁系统的人脸采集装置一,设置于货架前方区域的人脸采集装置二;设置于出口处门禁系统的人脸采集装置三;
设置于入口处门禁系统的人脸采集装置一,用于在封闭空间的入口处对进入入口的顾客用户进行人脸影像采集。
7.根据权利要求6所述的智能化无人超市控制系统,其特征在于:
人脸采集装置一,设置于入口处闸机的上部,顾客用户通过扫码装置扫描二维码触发人脸识别采集装置一进行至少一帧影像采集,所采集影像包括顾客用户的脸部影像,与人脸采集装置一连接的总处理器,对目标物即用户的脸部影像进行人脸特征提取建模。
8.根据权利要求6所述的智能化无人超市控制系统,其特征在于:
设置于货架区域的人脸采集装置二用于对货架区域的顾客用户人脸影像识别,与人脸采集装置二连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物坐标修正。
9.根据权利要求6所述的智能化无人超市控制系统,其特征在于:
位于出口处的人脸采集装置三用于出口处人脸影像识别,与人脸采集装置三连接的总处理器,对该顾客用户人脸识别从而对该顾客用户即目标物身份验证确定用户身份,以及用于协助人体跟踪系统进一步完善对顾客用户的识别跟踪定位。
10.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
所述人体跟踪系统,包括设置于入口处门禁系统闸机的人体标注跟踪装置一、设置在货架前方区域的人体标注跟踪装置二、设置在封闭空间房顶上的人体标注跟踪装置三、以及设置在出口处门禁系统闸机的人体标注跟踪装置四。
11.根据权利要求10所述的智能化无人超市控制系统,其特征在于:
所述人体标注跟踪装置一至四采用影像装置,用来实时采集影像,所采集的影像中至少包括目标物的全部或者部分的影像;多影像装置同一时刻共享拼接影像,具备目标物用户的影像转换跟踪标记不丢失、不错识。
12.根据权利要求11所述的智能化无人超市控制系统,其特征在于:
所述人体跟踪系统,通过设置于入口处、货架前方区域、封闭空间房顶、出口处的人体标注跟踪装置一至四,在封闭空间内建立平面坐标系,并在坐标系范围内划定电子围栏的区域,对入口,出口,各个货架前一平方米区域进行区域划定,通过实时采集到的影像获取当前目标物在所述封闭区域内坐标系坐标及所处电子围栏区域编号。
13.根据权利要求12所述的智能化无人超市控制系统,其特征在于:
所述人体标注跟踪装置一至四,完成目标物的影像采集后发送给总处理器,总处理器完成目标物影像接收、目标物影像拼接、以及目标物坐标运算,从而实现对目标物人体的跟踪标定。
14.根据权利要求10所述的智能化无人超市控制系统,其特征在于:
初始时,用户通过封闭空间的入口处,打开移动端二维码对准闸机的扫描装置进行扫码时,设置于入口处门禁系统的人脸采集装置一至少采集一帧影像用于人脸识别采集建模标定特征,人体标注跟踪装置一至少采集一帧影像用于人体的跟踪标定。
15.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
重量监测系统实现对货槽实时重量值的监测,当任意货槽的商品被取走或放回时,实时获取被取走或者被放回商品的重量值;之后,根据每一货槽上被取走商品的实时重量值与商品数据库中存储的该货槽相对应的单个商品的重量值,计算倍数关系,从而判断被取走商品的数量。
16.根据权利要求15所述的智能化无人超市控制系统,其特征在于:
重量监测系统采用在每一货架架板的货槽底部设置重量传感器,用以实时采集每一货槽的重量值。
17.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
商品监控系统,用于实时抓拍货架前用户购买商品时的操作,对视频图像中的用户手中商品进行动态商品识别,同时结合重量监测系统中提供的货槽重量值变化数据来进一步确认商品种类及数量。
18.根据权利要求17所述的智能化无人超市控制系统,其特征在于:
商品监控系统包括:影像装置一,安装于封闭空间内的货架顶部的上方,将影像装置一的摄像头调整为与水平面垂直;影像装置二,安装在货架两边顶角处并且将影像装置二的摄像头调整为与水平面成四十五度角;
通过上述影像装置一和影像装置二的设置,监控覆盖货架前方区域。
19.根据权利要求17或者18所述的智能化无人超市控制系统,其特征在于:
商品监控系统包括:在每一货架每一个货槽上方的中心位置安装影像装置三,影像装置三的摄像头覆盖监控每一货槽内放置的商品。
20.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
购物用户匹配商品系统包括:
商品相关信息存储单元,将每层架板每个货槽的商品信息存到对应数据库中,用于重量监测系统的运算查询;
货架货槽坐标存储单元,在封闭空间内建立坐标系,并划定电子围栏,用电子围栏将每一货架的货槽的区域划定出来,存储货架坐标和货槽坐标;
货槽与用户匹配判断单元,当某一货槽电子围栏的坐标集与某一用户手部坐标集有交集时,则该货槽与该用户匹配;
商品与用户匹配判断单元,当有商品从某一货槽上被取走或被放置到该货槽上时,且同一时刻下有一用户与该货槽匹配,判定该商品与该用户匹配。
21.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
购物相关数据信息记录系统包括:生成购物车数据库和更新购物车数据库;
生成购物车数据库,当一位顾客用户的身份被识别进入封闭空间内时,根据所述人体识别定位跟踪系统得到用户的身份信息生成此用户的购物车数据库;
更新购物车数据库,当商品被从货槽上取走时,根据所述商品监测控制系统得到的结果,将被取走商品的种类和数量放入取走该商品的用户的购物车数据库中;当商品被放回货槽时,根据所述商品监测控制系统得到的结果,将被放回商品的种类和数量从该商品用户的购物车数据库中扣除。
22.根据权利要求1所述的智能化无人超市控制系统,其特征在于:
购物结算系统,包括金额计算部分和支付部分;
金额计算部分,当用户完成购物进入出口的电子围栏区域准备离开封闭空间的时候,根据所述购物相关数据信息记录系统中记录的该用户采购的全部商品的种类和数量,计算出应当支付的金额。
支付部分,通过移动端签约的免密支付功能,自动从该用户的账户扣取当前购买商品的金额。
23.根据权利要求22所述的智能化无人超市控制系统,其特征在于:
所述用户的账户包括支付宝、微信零钱或者是绑定的银行卡。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010008429.0A CN111127174A (zh) | 2020-01-06 | 2020-01-06 | 智能化无人超市控制系统 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010008429.0A CN111127174A (zh) | 2020-01-06 | 2020-01-06 | 智能化无人超市控制系统 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111127174A true CN111127174A (zh) | 2020-05-08 |
Family
ID=70486864
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010008429.0A Pending CN111127174A (zh) | 2020-01-06 | 2020-01-06 | 智能化无人超市控制系统 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111127174A (zh) |
Cited By (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111507315A (zh) * | 2020-06-15 | 2020-08-07 | 杭州海康威视数字技术股份有限公司 | 一种物品取放事件检测方法、装置及设备 |
CN111680654A (zh) * | 2020-06-15 | 2020-09-18 | 杭州海康威视数字技术股份有限公司 | 一种基于物品取放事件的人员信息获取方法、装置及设备 |
CN112215167A (zh) * | 2020-10-14 | 2021-01-12 | 上海爱购智能科技有限公司 | 一种基于图像识别的智能商店控制方法和系统 |
CN112381982A (zh) * | 2020-10-19 | 2021-02-19 | 北京科技大学 | 一种基于深度学习构建的无人超市系统 |
CN112434584A (zh) * | 2020-11-16 | 2021-03-02 | 浙江大华技术股份有限公司 | 货架商品余量计算方法、装置、计算机设备和存储介质 |
CN112907168A (zh) * | 2021-02-02 | 2021-06-04 | 浙江星星冷链集成股份有限公司 | 动态商品识别方法、无人售货柜及其售货方法 |
CN112950329A (zh) * | 2021-03-26 | 2021-06-11 | 苏宁易购集团股份有限公司 | 商品动态信息生成方法、装置、设备及计算机可读介质 |
CN113642449A (zh) * | 2021-08-09 | 2021-11-12 | 福建平潭瑞谦智能科技有限公司 | 一种人脸识别装置及系统 |
CN113888882A (zh) * | 2021-09-16 | 2022-01-04 | 一汽物流有限公司 | 一种基于rfid技术的商品车身份识别方法及系统 |
CN113936380A (zh) * | 2021-10-01 | 2022-01-14 | 南宁市安普康商贸有限公司 | 无人售卖系统及控制方法、装置和介质 |
CN115082163A (zh) * | 2022-07-19 | 2022-09-20 | 江苏创纪云网络科技有限公司 | 基于第三方互联网的智慧零售交易数据管理系统及方法 |
CN115965249A (zh) * | 2022-12-16 | 2023-04-14 | 多彩贵州印象网络传媒股份有限公司 | 基于人工智能技术的视联网客户智能分析管理系统 |
CN116580509A (zh) * | 2023-05-17 | 2023-08-11 | 广东天之河信息技术有限公司 | 一种智能超市购物收银结算方法 |
CN117058626A (zh) * | 2023-10-12 | 2023-11-14 | 四川汉唐云分布式存储技术有限公司 | 基于智慧数据分析的安全监测系统及方法 |
CN112434584B (zh) * | 2020-11-16 | 2024-04-30 | 浙江大华技术股份有限公司 | 货架商品余量计算方法、装置、计算机设备和存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108492157A (zh) * | 2017-12-18 | 2018-09-04 | 上海云拿智能科技有限公司 | 无人售货系统及无人售货方法 |
CN109447756A (zh) * | 2018-10-31 | 2019-03-08 | 李义 | 一种无人值守超市购物方法及系统 |
-
2020
- 2020-01-06 CN CN202010008429.0A patent/CN111127174A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108492157A (zh) * | 2017-12-18 | 2018-09-04 | 上海云拿智能科技有限公司 | 无人售货系统及无人售货方法 |
US20200202163A1 (en) * | 2017-12-18 | 2020-06-25 | Shanghai Cloudpick Smart Technology Co., Ltd. | Target positioning system and target positioning method |
CN109447756A (zh) * | 2018-10-31 | 2019-03-08 | 李义 | 一种无人值守超市购物方法及系统 |
Cited By (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111680654B (zh) * | 2020-06-15 | 2023-10-13 | 杭州海康威视数字技术股份有限公司 | 一种基于物品取放事件的人员信息获取方法、装置及设备 |
CN111680654A (zh) * | 2020-06-15 | 2020-09-18 | 杭州海康威视数字技术股份有限公司 | 一种基于物品取放事件的人员信息获取方法、装置及设备 |
CN111507315A (zh) * | 2020-06-15 | 2020-08-07 | 杭州海康威视数字技术股份有限公司 | 一种物品取放事件检测方法、装置及设备 |
CN112215167A (zh) * | 2020-10-14 | 2021-01-12 | 上海爱购智能科技有限公司 | 一种基于图像识别的智能商店控制方法和系统 |
CN112381982A (zh) * | 2020-10-19 | 2021-02-19 | 北京科技大学 | 一种基于深度学习构建的无人超市系统 |
CN112434584A (zh) * | 2020-11-16 | 2021-03-02 | 浙江大华技术股份有限公司 | 货架商品余量计算方法、装置、计算机设备和存储介质 |
CN112434584B (zh) * | 2020-11-16 | 2024-04-30 | 浙江大华技术股份有限公司 | 货架商品余量计算方法、装置、计算机设备和存储介质 |
CN112907168A (zh) * | 2021-02-02 | 2021-06-04 | 浙江星星冷链集成股份有限公司 | 动态商品识别方法、无人售货柜及其售货方法 |
CN112950329A (zh) * | 2021-03-26 | 2021-06-11 | 苏宁易购集团股份有限公司 | 商品动态信息生成方法、装置、设备及计算机可读介质 |
CN113642449A (zh) * | 2021-08-09 | 2021-11-12 | 福建平潭瑞谦智能科技有限公司 | 一种人脸识别装置及系统 |
CN113888882A (zh) * | 2021-09-16 | 2022-01-04 | 一汽物流有限公司 | 一种基于rfid技术的商品车身份识别方法及系统 |
CN113936380A (zh) * | 2021-10-01 | 2022-01-14 | 南宁市安普康商贸有限公司 | 无人售卖系统及控制方法、装置和介质 |
WO2023051775A1 (zh) * | 2021-10-01 | 2023-04-06 | 南宁市安普康商贸有限公司 | 无人售卖系统及控制方法、装置和介质 |
CN113936380B (zh) * | 2021-10-01 | 2024-03-22 | 南宁市安普康商贸有限公司 | 无人售卖系统及控制方法、装置和介质 |
CN115082163A (zh) * | 2022-07-19 | 2022-09-20 | 江苏创纪云网络科技有限公司 | 基于第三方互联网的智慧零售交易数据管理系统及方法 |
CN115082163B (zh) * | 2022-07-19 | 2022-11-11 | 江苏创纪云网络科技有限公司 | 基于第三方互联网的智慧零售交易数据管理系统及方法 |
CN115965249B (zh) * | 2022-12-16 | 2024-01-23 | 多彩贵州印象网络传媒股份有限公司 | 基于人工智能技术的视联网客户智能分析管理系统 |
CN115965249A (zh) * | 2022-12-16 | 2023-04-14 | 多彩贵州印象网络传媒股份有限公司 | 基于人工智能技术的视联网客户智能分析管理系统 |
CN116580509A (zh) * | 2023-05-17 | 2023-08-11 | 广东天之河信息技术有限公司 | 一种智能超市购物收银结算方法 |
CN117058626B (zh) * | 2023-10-12 | 2024-01-02 | 四川汉唐云分布式存储技术有限公司 | 基于智慧数据分析的安全监测系统及方法 |
CN117058626A (zh) * | 2023-10-12 | 2023-11-14 | 四川汉唐云分布式存储技术有限公司 | 基于智慧数据分析的安全监测系统及方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111127174A (zh) | 智能化无人超市控制系统 | |
JP7229580B2 (ja) | 無人販売システム | |
CN111142418A (zh) | 商品监测控制系统 | |
CN111626681B (zh) | 一种用于库存管理的图像识别系统 | |
CN107464116B (zh) | 一种订单结算方法及系统 | |
CN108320404A (zh) | 基于神经网络的商品识别方法、装置、自助收银台 | |
CN109726759B (zh) | 无人售货方法、装置、系统、电子设备及计算机可读介质 | |
CN112381982B (zh) | 一种基于深度学习构建的无人超市系统 | |
CN108140282A (zh) | 信息处理装置、信息处理方法和存储程序的记录介质 | |
CN108140209A (zh) | 信息处理装置、信息处理方法和其中存储有程序的记录介质 | |
CN109829777A (zh) | 一种智能购物系统和购物方法 | |
US10383461B2 (en) | System of control and identification of goods in a shop | |
WO2018137136A1 (zh) | 自动售货机及其运行方法 | |
US20210224773A1 (en) | Automatic product identification in inventories based on multimodal sensor operation | |
JP2022539920A (ja) | 視覚及び重力感知に基づく商品と顧客とのマッチ方法及び装置 | |
CN109064636A (zh) | 一种基于图像识别的自助售货柜系统的购物方法 | |
CN111145224A (zh) | 人体跟踪系统 | |
CN113554812B (zh) | 自动售货柜及控制系统、控制方法 | |
CN108171286B (zh) | 无人售货方法及其系统 | |
CN211906009U (zh) | 商品监测控制系统 | |
CN211699033U (zh) | 人体跟踪系统 | |
CN110443946B (zh) | 售货机、物品种类的识别方法和装置 | |
CN111145409A (zh) | 人体识别定位跟踪系统 | |
EP3346439A1 (en) | System and method for fixing purchasable goods, calculating amount owed and settling monetary obligations in retail environments posteriorly | |
CN114358881A (zh) | 自助结算方法、装置和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200508 |