CN110097724A - 一种基于fpga的物品自动看护方法及系统 - Google Patents

一种基于fpga的物品自动看护方法及系统 Download PDF

Info

Publication number
CN110097724A
CN110097724A CN201910333308.0A CN201910333308A CN110097724A CN 110097724 A CN110097724 A CN 110097724A CN 201910333308 A CN201910333308 A CN 201910333308A CN 110097724 A CN110097724 A CN 110097724A
Authority
CN
China
Prior art keywords
article
user
image
registration
fpga
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910333308.0A
Other languages
English (en)
Other versions
CN110097724B (zh
Inventor
高峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Suzhou Wave Intelligent Technology Co Ltd
Original Assignee
Suzhou Wave Intelligent Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Suzhou Wave Intelligent Technology Co Ltd filed Critical Suzhou Wave Intelligent Technology Co Ltd
Priority to CN201910333308.0A priority Critical patent/CN110097724B/zh
Publication of CN110097724A publication Critical patent/CN110097724A/zh
Application granted granted Critical
Publication of CN110097724B publication Critical patent/CN110097724B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/103Static body considered as a whole, e.g. static pedestrian or occupant recognition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19608Tracking movement of a target, e.g. by detecting an object predefined as a target, using target direction and or velocity to predict its new position
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B13/00Burglar, theft or intruder alarms
    • G08B13/18Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength
    • G08B13/189Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems
    • G08B13/194Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems
    • G08B13/196Actuation by interference with heat, light, or radiation of shorter wavelength; Actuation by intruding sources of heat, light, or radiation of shorter wavelength using passive radiation detection systems using image scanning and comparing systems using television cameras
    • G08B13/19602Image analysis to detect motion of the intruder, e.g. by frame subtraction
    • G08B13/19613Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion
    • G08B13/19615Recognition of a predetermined image pattern or behaviour pattern indicating theft or intrusion wherein said pattern is defined by the user

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Alarm Systems (AREA)

Abstract

本发明提供一种基于FPGA的物品自动看护系统及看护方法,该系统包括:图像采集单元、FPGA图像处理单元、云端服务器、路由器、入口检测区、物品存放区、出口检测区、客户端;入口检测区包括语音提示模块、入口单向门闸;出口检测区包括出口出口单向门闸;物品存放区包括若干物品存放单元,每个单元包括物品处理终端和报警装置;FPGA图像处理单元与图像采集单元、物品处理终端电性连接;云端服务器线路连接路由器,网络连接FPGA图像处理单元、客户端、语音提示模块、出口单向门闸、物品处理终端和报警装置;基于该系统的看护方法实现物品的自动看护,可对物品的携带者进行位置提示,可将非法人员图像信息及时推送给客户端或者警方系统。

Description

一种基于FPGA的物品自动看护方法及系统
技术领域
本发明涉及防盗领域,具体涉及一种基于FPGA的物品自动看护方法及系统。
背景技术
现代快节奏的工作和生活中,人们或是沉浸在各种各样的信息中,或是奔波于各地,难免会遗忘或丢失某些物品,而常见物品的遗失往往令人烦恼不已,不仅意味着时间和资金上的巨大重复和浪费,某些重要物品的丢失甚至是无法挽回的,严重者甚至会触及到法律责任,此时一套智能的物品看护系统就显得格外重要。
现有的物品及行李看管系统,多使用射频电子标签,往往安装,使用和维护都比较复杂,并且还有供电不足,通信距离有限等问题亟待解决;电子标签脱落或被拆除后,报警作用失效,即使报警信号响起来,仍然无法确认物品的丢失位置;此外,无法实时确认及存储丢失物体和疑似拿取人的信息,无法完成智能提醒及类似扩展功能实现。
发明内容
本发明所要解决的技术问题在于针对上述现有技术的不足,提供一种基于FPGA的物品自动看护方法及系统,
本发明解决其技术问题所采取的技术方案是:
本发明供一种基于FPGA的物品自动看护方法,具体步骤包括:
步骤A:通过摄像头对进入的外来人员图像采集;
步骤B:对进入的所有外来人员进行身份识别,由语音提示模块对每一个未登记信息的人员进行一次语音提示;
步骤C:用户进入物品存放区,检测登记物品与用户人体的距离,
若用户进行物品信息登记,则执行步骤D;
若用户进行物品信息登记解除,则执行步骤E;
若用户与登记物品进行接触时,执行步骤F;
若用户客户端提交物品位置遗忘提示请求,则执行步骤G;
若以上均未发生,则返回步骤B;
步骤D:分别进行物品登记与用户登记;
步骤E:对登记物品以及与之对应的登记用户进行关联解除;
步骤F:对已登记物品和与之接触的用户进行身份识别与匹配检测,
若信息匹配成功,执行步骤E;
若信息匹配失败,执行步骤H;
步骤G:
将该已登记物品及其周围的物体图像信息发送给用户客户端;
步骤H:
将该已登记物品及其周围物体的环境图像信息发送给用户客户端和监管人员,若用户客户端确认登记物品被盗,云端服务器接收用户提交的被盗信息并将相关记录图像发送给警方系统;
步骤I:对移动中的非匹配用户和其携带的登记物品进行定位追踪,检测到非匹配用户接近拦截装置,触发拦截装置等待监管人员处理后,返回步骤B继续执行。
进一步地,所述步骤B具体包括:
B1:将采集的图像数据的RGB三通道数据分别进行减均值归一化处理,从而移除图像的平均亮度值;
B2:处理过的用户图像生成人脸图像编码数据,该人脸图像编码数据为人脸图像编码成的128维向量;
B3:将得到的128维向量数据与预先记录在数据库内的人脸图像编码数据对比,当二者的欧几里得距离小于设定阈值时,说明是同一个人,
如果是同一个人,则以该登记用户的用户ID标识该用户;
如果不是同一个人,则标识为未登记用户。
进一步地,所述步骤C中用户进入物品存放区,对用户定位追踪具体包括:
C1:当人员进入存放单元监控探头范围,对包含人体头、手、脚、颈、肘、膝盖各个部位进行检测与坐标定位;
C2:连接上述人体头、手、脚、颈、肘、膝盖各部分定位坐标并生成人体骨骼框架;
C3:检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离。
进一步地,所述步骤D具体包括:
D1:用户选择任一空闲的物品存放单元,选择信息登记,同时语音模块提示用户登记操作,监控探头分别对登记的物品和用户进行图像信息采集;
D2:将处理过的用户图像生成人脸图像编码数据,若该用户为未登记用户,生成新的用户ID;
D3:并将新用户人脸图像编码数据与用户ID存储在数据库;
D4:生成物品在图像中的坐标数据,对比该物品在数据库中的坐标记录,若该物品没有记录,则生成新的物品ID,并由坐标数据进行实时定位;
D5:将新物品坐标数据与生成的物品ID存放到数据库,数据库将物品ID、用户ID与存放单元编号关联匹配,完成新物品登记,然后返回步骤C。
进一步地,所述步骤E具体包括:
选择信息解除,检测该物品ID是否与该人员的用户ID匹配,若匹配,对该物品ID和用户ID解除关联;
同时,该用户变为未登记用户,并由语音提示模块给予提示,然后返回步骤B;
若不匹配,执行步骤F。
进一步地,所述步骤F具体包括:
当检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离小于设定阈值时,判断物体与该人员发生碰撞匹配;
同时,检测碰触人员是否为登记用户,
若是,测该用户ID是否与物品ID关联匹配,若匹配,语音模块进行提示,并执行步骤E;
若不匹配或者该人员不是登记用户,语音提示装置进行提示,同时触发报警装置给予警示;
计算碰触人员人脸坐标位置与其骨骼框架头部坐标的欧几里得距离,当距离小于设定阈值时,确定该碰撞人员与其生成的骨骼框架相对应,从而锁定该该碰撞人员,执行步骤H。
进一步地,所述步骤G具体包括:
G1:用户客户端提交物品位置遗忘提示请求,获取用户ID、单元编号;
G2:根据单元编号,获取数据库中的物品ID,查找该物品周围其他物体的坐标信息及名称;
G3:计算物体在采集图像中显示的面积,选取被登记物品附近最大的物体图像及名称;
G4:获取图像HSV色彩信息,并对比其中的饱和度的值,其越大表示越鲜艳,选取物品附近颜色最鲜艳的物体图像及名称;
G5:除了G3、G4获取的物体图像及名称外,通过计算与比较登记物品与附近物体坐标的欧几里得距离,从最小距离开始依次选取与被登记物品距离较接近的四个物体图像及名称,当数量不满足时,不再继续选取,并将以上G3、G4、G5获得的数据与单元编号推送给用户客户端;
G6:返回步骤C。
进一步地,所述步骤H具体包括:
依次按照步骤G2、G3、G4、G5执行,同时执行后得到的数据发送给用户客户端和监管人员,并触发存放单元的报警模块,然后执行步骤I。
本发明还提供了一种基于FPGA的物品自动看护系统,包括:图像采集单元、FPGA图像处理单元、云端服务器、路由器、入口检测区、物品存放区、出口检测区、客户端;
所述入口检测区包括语音提示模块、入口单向门闸,所述语音提示模块紧邻入口单向门闸并通过网络连接云端服务器,入口检测区用于获取外来人员人脸图像,并识别其身份信息,同时给予语音提示;
所述出口检测区包括出口出口单向门闸,所述出口单向门闸通过网络连接云端服务器,所述出口单向门闸前还设置警戒线,出口检测区用于用户出行,同时检测是否有非法人员携带未解除登记的物品外逃,当监控定位的非法人员通过警戒线时,同时电控出口单向门闸关闭,防止其逃逸;
所述客户端包括用户客户端、物品看护场地监管人员客户端;所述路由器通过线路连接云端服务器;
所述图像采集单元与FPGA图像处理单元电性连接,图像采集单元包括若干覆盖整个物品自动看护系统场地的摄像头,用于对物品自动看护系统所有区域的图像信息实时采集;
所述FPGA图像处理单元通过网络连接云端服务器,包括Intel Arria 10FPGA模块,用于接收并处理图像采集单元采集的图像数据,并将处理结果发送到云端服务器,同时接收云端服务器发送的数据,用于控制无线监控探头获取图像数据;
所述物品存放区包括若干物品存放单元,每个物品存放单元上都设置一个单元编号、物品处理终端和报警装置,每个物品存放单元都处在图像采集单元监控之下;所述单元编号用于标识物品存放单元,单元编号紧邻物品处理终端和报警装置;所述报警装置与云端服务器通过网络连接,服务器在检测到与登记物品碰触的人员并非匹配用户时给予报警提示;所述物品处理终端与FPGA图像处理单元电性连接,同时与云端服务器通过网络连接,物品处理终端包括微控制器模块、语音模块、按键模块、无线模块、显示模块,处理终端用于物品与用户的信息登记与匹配,以及登记物品与匹配用户的信息解除,登记与匹配以及信息解除过程通过图像采集单元、FPGA图像处理单元、云端服务器、物品处理终端、报警装置的配合完成;
所述云端服务器还通过网络连接客户端、警方系统,用于接收与处理FPGA图像处理单元传递的处理数据,完成物品与人体图像信息的检测和记录,并将信息推送给客户端和警方系统。
进一步地,Intel Arria10 FPGA模块还包括:
预先训练好的FaceNet模型,用于生成人脸图像编码数据,识别人员身份信息;
预先训练好的SqueezeDet模型,用于生成物体的bounding box四个顶点的坐标,通过实时获得的物体bounding box四个顶点的坐标,对物体进行定位;
预先训练好的OpenCV模型和xml分类器,用于检测人体头、手、脚,颈、肘、膝盖部位,并通过连接上述各部分boundingbox中心点生成人体骨骼框架;
SqueezeDet模型处理得到的人脸boundingbox坐标数据与人体骨骼框架的头部位置boundingbox坐标数据相比对,用于确认该人体骨骼框架的身份,以及通过卷积网络对物品和人体在移动过程中进行定位;
经过图像预处理模块处理后,FaceNet模型、OpenCV模型、xml分类器、SqueezeDet模型相互配合,对物品和人体进行定位和追踪。
本发明的有益效果是:
(1)对所属财物进行实时看护;
(2)可将非法人员及其携带的登记物品的图像信息及时推送给客户端或者警方系统,提供财物丢失的线索;
(3)对特定环境特定物品的携带进行提醒及位置提示;
(4)对非法人员定位和追踪,通过关闭看护系统场地的出口,防止非法人员逃逸。
附图说明
图1为本发明基于FPGA的物品自动看护方法流程图
图2为本发明基于FPGA的物品自动看护系统的示意图
附图标记:
1、云端服务器,2、FPGA图像处理单元,3、物品存放区,4、图像采集单元,5、入口检测区,51、语音提示模块,52、入口单向门闸,6、出口检测区,7、客户端,8、路由器
具体实施方式
为能清楚说明本方案的技术特点,下面通过具体实施方式,并结合其附图,对本发明进行详细阐述。下文的公开提供了许多不同的实施例或例子用来实现本发明的不同结构。为了简化本发明的公开,下文中对特定例子的部件和设置进行描述。此外,本发明可以在不同例子中重复参考数字和/或字母。这种重复是为了简化和清楚的目的,其本身不指示所讨论各种实施例和/或设置之间的关系。应当注意,在附图中所图示的部件不一定按比例绘制。本发明省略了对公知组件和处理技术及工艺的描述以避免不必要地限制本发明。
如图1所示,本发明一实施例提供的基于FPGA的物品自动看护方法,具体步骤包括:
步骤A:通过摄像头对进入的外来人员图像采集;
步骤B:对进入的所有外来人员进行身份识别,由语音提示模块对每一个未登记信息的人员进行一次语音提示;具体包括:
B1:将采集的图像数据的RGB三通道数据分别进行减均值归一化处理,从而移除图像的平均亮度值;
B2:处理过的用户图像生成人脸图像编码数据,该人脸图像编码数据为人脸图像编码成的128维向量;
具体的,通过预先训练过的FaceNet模型进行人脸识别检测,处理后得到人脸图像编码数据;
B3:将得到的128维向量数据与预先记录在数据库内的人脸图像编码数据对比,当二者的欧几里得距离小于设定阈值时,说明是同一个人,
如果是同一个人,则以该登记用户的用户ID标识该用户;
如果不是同一个人,则标识为未登记用户。
步骤C:用户进入物品存放区,检测登记物品与用户人体的距离,具体包括:
C1:当人员进入存放单元监控探头范围,对包含人体头、手、脚、颈、肘、膝盖各个部位进行检测与坐标定位;
具体的,为实现该方法,设置图像数据处理模型,通过预先训练过的OpenCV模型对包含人体头、手、脚、颈、肘、膝盖各个部位的xml分类器进行训练,运用AdaBoost以及Haar目标检测技术,对人体头、手、脚、颈、肘、膝盖各个部位进行检测;通过预先训练过的SqueezeDet模型生成该人员的人脸、头、手、脚,颈、肘、膝盖部位的bounding box四个顶点与中心点坐标;FaceNet模型生成该人员的人脸图像编码数据;
C2:连接上述人体头、手、脚、颈、肘、膝盖各部分定位坐标并生成人体骨骼框架;
具体的,OpenCV模型连接人体头、手、脚、颈、肘、膝盖各部分boundingbox中心点并生成人体骨骼框架;
C3:检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离;
具体的,SqueezeDet模型检测存放单元中的物品bounding box中心点坐标与该人员人体手、脚、头部任一敏感部位bounding box中心点坐标的距离。
等待用户接下来的执行动作,
若用户进行物品信息登记,则执行步骤D;
若用户进行物品信息登记解除,则执行步骤E;
若用户与登记物品进行接触时,执行步骤F;
若用户客户端提交物品位置遗忘提示请求,则执行步骤G;
若以上均未发生,则返回步骤B;
步骤D:分别进行物品登记与用户登记,具体包括:
D1:用户选择任一空闲的物品存放单元,选择信息登记,同时语音模块提示用户登记操作,监控探头分别对登记的物品和用户进行图像信息采集;
D2:将处理过的用户图像生成人脸图像编码数据,若该用户为未登记用户,生成新的用户ID;
D3:并将新用户人脸图像编码数据与用户ID存储在数据库;
D4:生成物品在图像中的坐标数据,对比该物品在数据库中的坐标记录,若该物品没有记录,则生成新的物品ID,并由坐标数据进行实时定位;
具体的,由SqueezeDet模型对该登记物品bounding box四个顶点和中心点坐标数据进行实时更新,SqueezeDet模型读取图像信息经过一个卷积网络获得feature map,经过一个ConvDet层处理得到若干矩形框,即若干个bounding box,每个矩形框有坐标数据以及类别概率,经过非极大值抑制过滤,得到最终筛选下来的矩形框,完成物体识别;
根据检测到的连续帧图像目标bounding box中心点距离、IOU进行关联,IOU即为目标bounding box区域重合面积越大,连续帧图像目标bounding box中心点距离越小、IOU越大,则认为是同一个目标,完成物体追踪;
D5:将新物品坐标数据与生成的物品ID存放到数据库,数据库将物品ID、用户ID与存放单元编号关联匹配,完成新物品登记;
然后返回步骤C;
步骤E:对登记物品以及与之对应的登记用户进行关联解除,具体包括:
选择信息解除,检测该物品ID是否与该人员的用户ID匹配,若匹配,对该物品ID和用户ID解除关联;
同时,该用户变为未登记用户,并由语音提示模块给予提示,然后返回步骤B;
若不匹配,执行步骤F。
步骤F:
对已登记物品和与之接触的用户进行身份识别与匹配检测,具体包括:
当检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离小于设定阈值时,判断物体与该人员发生碰撞匹配;
具体的,当SqueezeDet模型检测存放单元中的物品bounding box中心点坐标与该人员人体手、脚、头部任一敏感部位bounding box中心点的距离小于设定阈值时,判断物体与该人员发生碰撞匹配;
同时,检测碰触人员是否为登记用户,
若是,测该用户ID是否与物品ID关联匹配,若匹配,语音模块进行提示,并执行步骤E;
若不匹配或者该人员不是登记用户,语音提示装置进行提示,同时触发报警装置给予警示;
计算碰触人员人脸坐标位置与其骨骼框架头部坐标的欧几里得距离,
具体的,计算人脸boundingbox中心点坐标位置与头部boundingbox的中心点的坐标欧几里得距离,当当距离小于设定阈值时,确定该碰撞人员与其生成的骨骼框架相对应,从而锁定该该碰撞人员,
然后执行步骤H。
步骤G:
将该已登记物品及其周围的物体图像信息发送给用户客户端,具体包括:
G1:用户客户端提交物品位置遗忘提示请求,获取用户ID、单元编号;
G2:根据单元编号,获取数据库中的物品ID,查找该物品周围其他物体的坐标信息及名称;
G3:计算物体在采集图像中显示的面积,选取被登记物品附近最大的物体图像及名称;
具体的,通过SqueezeDet模型生成该物品周围其他物体的boundingbox的坐标信息及标记名称,
G4:获取图像HSV色彩信息,并对比其中的饱和度的值,其越大表示越鲜艳,选取物品附近颜色最鲜艳的物体图像及名称;
具体的,OpenCV模型利用物体boundingbox的四个顶点坐标信息计算得到物体在采集图像中显示的面积,选取被登记物品附近最大的物体图像及标记名称;
G5:除了G3、G4获取的物体图像及名称外,通过计算与比较登记物品与附近物体坐标的欧几里得距离,
具体的,通过计算与比较登记物品与附近物体boundingbox中心点坐标的欧几里得距离,从最小距离开始依次选取与被登记物品距离较接近的四个物体图像及名称,当数量不满足时,不再继续选取,并将以上G3、G4、G5获得的图像数据与单元编号推送给用户客户端;
G6:返回步骤C。
步骤H:
依次按照步骤G2、G3、G4、G5执行,同时执行后得到的数据发送给用户客户端和监管人员,并触发存放单元的报警模块,若用户客户端确认登记物品被盗,云端服务器接收用户提交的被盗信息并将相关记录图像发送给警方系统,然后执行步骤I。
步骤I:对移动中的非匹配用户和其携带的登记物品进行定位追踪,检测到非匹配用户接近拦截装置,触发拦截装置等待监管人员处理后,返回步骤B继续执行。
如图2所示,本发明该实施例提供的基于FPGA的物品自动看护系统,包括:图像采集单元4、FPGA图像处理单元2、云端服务器1、入口检测区5、物品存放区3、出口检测区6、客户端7、路由器8。
入口检测区5包括语音提示模块51、入口单向门闸52,语音提示模块紧邻入口单向门闸并通过网络连接云端服务器1,入口检测区5用于获取外来人员人脸图像,并识别其身份信息,同时给予语音提示。
具体的,语音提示模块采用WT588D语音芯片;
出口检测区6包括出口出口单向门闸,出口单向门闸通过网络连接云端服务器1,出口单向门闸前还设置警戒线,出口检测区6用于用户出行,同时检测是否有非法人员携带未解除登记的物品外逃,当监控定位的非法人员通过警戒线时,同时电控出口单向门闸关闭,防止其逃逸。
路由器通过线路连接云端服务器,客户端包括用户客户端、物品看护场地监管人员客户端,
具体的,用户客户端通过APP连接该物品自动看护系统,物品看护场地监管人员客户端通过电脑终端获取云端服务器1发来的图像信息。
图像采集单元4与FPGA图像处理单元2电性连接,图像采集单元4包括若干覆盖整个物品自动看护系统场地的摄像头,用于对物品自动看护系统所有区域的图像信息实时采集。
FPGA图像处理单元2通过网络连接云端服务器1,包括Intel Arria10 FPGA模块,用于接收并处理图像采集单元4采集的图像数据,并将处理结果发送到云端服务器1,同时接收云端服务器1发送的数据,用于控制无线监控探头获取图像数据;
具体的,Intel Arria10 FPGA还包括:
预先训练好的FaceNet模型,用于生成人脸图像编码数据,识别人员身份信息;
预先训练好的SqueezeDet模型,用于生成物体的bounding box四个顶点的坐标,通过实时获得的物体bounding box四个顶点的坐标,对物体进行定位;
预先训练好的OpenCV模型和xml分类器,用于检测人体头、手、脚,颈、肘、膝盖部位,并通过连接上述各部分boundingbox中心点生成人体骨骼框架;
SqueezeDet模型处理得到的人脸boundingbox坐标数据与人体骨骼框架的头部位置boundingbox坐标数据相比对,用于确认该人体骨骼框架的身份,以及通过卷积网络对物品和人体在移动过程中进行定位;
经过图像预处理模块处理后,FaceNet模型、OpenCV模型、xml分类器、SqueezeDet模型相互配合,对物品和人体进行定位和追踪。
物品存放区3包括若干物品存放单元,每个物品存放单元上都设置一个单元编号、物品处理终端和报警装置,每个物品存放单元都处在图像采集单元4监控之下;单元编号用于标识物品存放单元,单元编号紧邻物品处理终端和报警装置;报警装置与云端服务器1通过网络连接,服务器在检测到与登记物品碰触的人员并非匹配用户时给予报警提示;处理终端与FPGA图像处理单元2电性连接,同时与云端服务器1通过网络连接,处理终端包括电性连接的微控制器模块、语音模块、按键模块、无线模块与显示模块,处理终端用于物品与用户的信息登记与匹配,以及登记物品与匹配用户的信息解除,登记与匹配以及信息解除过程通过图像采集单元4、FPGA图像处理单元2、云端服务器1、物品处理终端、报警装置的配合完成。
具体的,微控制器模块采用型号为stc12c5a60s的单片机,无线模块型号为CC2500PATR2.4SN的收发模块,该模块通过串口与单片机连接,语音模块采用WT588D语音芯片,显示模块为液晶显示屏。
云端服务器1还通过网络连接客户端、警方系统,用于接收与处理FPGA图像处理单元2传递的处理数据,完成物品与人体图像信息的检测和记录,并将信息推送给客户端和警方系统。
最后应说明的是:以上只是本发明的优选实施方式,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也被视为本发明的保护范围。

Claims (10)

1.一种基于FPGA的物品自动看护方法,其特征在于,所述的方法包括以下步骤:
步骤A:通过摄像头对进入的外来人员图像采集;
步骤B:对进入的所有外来人员进行身份识别,由语音提示模块对每一个未登记信息的人员进行一次语音提示;
步骤C:用户进入物品存放区,检测登记物品与用户人体的距离,
若用户进行物品信息登记,则执行步骤D;
若用户进行物品信息登记解除,则执行步骤E;
若用户与登记物品进行接触时,执行步骤F;
若用户客户端提交物品位置遗忘提示请求,则执行步骤G;
若以上均未发生,则返回步骤B;
步骤D:分别进行物品登记与用户登记;
步骤E:对登记物品以及与之对应的登记用户进行关联解除;
步骤F:对已登记物品和与之接触的用户进行身份识别与匹配检测,
若信息匹配成功,执行步骤E;
若信息匹配失败,执行步骤H;
步骤G:
将该已登记物品及其周围的物体图像信息发送给用户客户端;
步骤H:
将该已登记物品及其周围物体的环境图像信息发送给用户客户端和监管人员,若用户客户端确认登记物品被盗,云端服务器接收用户提交的被盗信息并将相关记录图像发送给警方系统;
步骤I:对移动中的非匹配用户和其携带的登记物品进行定位追踪,检测到非匹配用户接近拦截装置,触发拦截装置等待监管人员处理后,返回步骤B继续执行。
2.根据权利要求1所述的基于FPGA的物品自动看护方法,其特征在于,所述步骤B具体包括:
B1:将采集的图像数据的RGB三通道数据分别进行减均值归一化处理,从而移除图像的平均亮度值;
B2:处理过的用户图像生成人脸图像编码数据,该人脸图像编码数据为人脸图像编码成的128维向量;
B3:将得到的128维向量数据与预先记录在数据库内的人脸图像编码数据对比,当二者的欧几里得距离小于设定阈值时,说明是同一个人,
如果是同一个人,则以该登记用户的用户ID标识该用户;
如果不是同一个人,则标识为未登记用户。
3.根据权利要求2所述的基于FPGA的物品自动看护方法,其特征在于,所述步骤C中用户进入物品存放区,对用户定位追踪具体包括:
C1:当人员进入存放单元监控探头范围,对包含人体头、手、脚、颈、肘、膝盖各个部位进行检测与坐标定位;
C2:连接上述人体头、手、脚、颈、肘、膝盖各部分定位坐标并生成人体骨骼框架;
C3:检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离。
4.根据权利要求3所述的基于FPGA的物品自动看护方法,其特征在于,所述步骤D具体包括:
D1:用户选择任一空闲的物品存放单元,选择信息登记,同时语音模块提示用户登记操作,监控探头分别对登记的物品和用户进行图像信息采集;
D2:将处理过的用户图像生成人脸图像编码数据,若该用户为未登记用户,生成新的用户ID;
D3:并将新用户人脸图像编码数据与用户ID存储在数据库;
D4:生成物品在图像中的坐标数据,对比该物品在数据库中的坐标记录,若该物品没有记录,则生成新的物品ID,并由坐标数据进行实时定位;
D5:将新物品坐标数据与生成的物品ID存放到数据库,数据库将物品ID、用户ID与存放单元编号关联匹配,完成新物品登记,然后返回步骤C。
5.根据权利要求4所述的基于FPGA的物品自动看护方法,其特征在于,所述步骤E具体包括:
选择信息解除,检测该物品ID是否与该人员的用户ID匹配,若匹配,对该物品ID和用户ID解除关联;
同时,该用户变为未登记用户,并由语音提示模块给予提示,然后返回步骤B;
若不匹配,执行步骤F。
6.根据权利要求5所述的基于FPGA的物品自动看护系统的看护方法,其特征在于,所述步骤F具体包括:
当检测存放单元中的物品预先记录的坐标与该人员人体手、脚、头部任一敏感部位坐标的距离小于设定阈值时,判断物体与该人员发生碰撞匹配;
同时,检测碰触人员是否为登记用户,
若是,测该用户ID是否与物品ID关联匹配,若匹配,语音模块进行提示,并执行步骤E;
若不匹配或者该人员不是登记用户,语音提示装置进行提示,同时触发报警装置给予警示;
计算碰触人员人脸坐标位置与其骨骼框架头部坐标的欧几里得距离,当距离小于设定阈值时,确定该碰撞人员与其生成的骨骼框架相对应,从而锁定该该碰撞人员,执行步骤H。
7.根据权利要求6所述的基于FPGA的物品自动看护方法,其特征在于,所述步骤G具体包括:
G1:用户客户端提交物品位置遗忘提示请求,获取用户ID、单元编号;
G2:根据单元编号,获取数据库中的物品ID,查找该物品周围其他物体的坐标信息及名称;
G3:计算物体在采集图像中显示的面积,选取被登记物品附近最大的物体图像及名称;
G4:获取图像HSV色彩信息,并对比其中的饱和度的值,其越大表示越鲜艳,选取物品附近颜色最鲜艳的物体图像及名称;
G5:除了G3、G4获取的物体图像及名称外,通过计算与比较登记物品与附近物体坐标的欧几里得距离,从最小距离开始依次选取与被登记物品距离较接近的四个物体图像及名称,当数量不满足时,不再继续选取,并将以上G3、G4、G5获得的数据与单元编号推送给用户客户端;
G6:返回步骤C。
8.根据权利要求7所述的基于FPGA的物品自动看护系统的看护方法,其特征在于,所述步骤H具体包括:
依次按照步骤G2、G3、G4、G5执行,同时执行后得到的数据发送给用户客户端和监管人员,并触发存放单元的报警模块,然后执行步骤I。
9.一种基于FPGA的物品自动看护系统,其特征在于,所述的系统包括图像采集单元、FPGA图像处理单元、云端服务器、路由器、入口检测区、物品存放区、出口检测区、客户端;
所述入口检测区包括语音提示模块、入口单向门闸,所述语音提示模块紧邻入口单向门闸并通过网络连接云端服务器,入口检测区用于获取外来人员人脸图像,并识别其身份信息,同时给予语音提示;
所述出口检测区包括出口出口单向门闸,所述出口单向门闸通过网络连接云端服务器,所述出口单向门闸前还设置警戒线,出口检测区用于用户出行,同时检测是否有非法人员携带未解除登记的物品外逃,当监控定位的非法人员通过警戒线时,同时电控出口单向门闸关闭,防止其逃逸;
所述客户端包括用户客户端、物品看护场地监管人员客户端;所述路由器通过线路连接云端服务器;
所述图像采集单元与FPGA图像处理单元电性连接,图像采集单元包括若干覆盖整个物品自动看护系统场地的摄像头,用于对物品自动看护系统所有区域的图像信息实时采集;
所述FPGA图像处理单元通过网络连接云端服务器,包括Intel Arria10FPGA模块,用于接收并处理图像采集单元采集的图像数据,并将处理结果发送到云端服务器,同时接收云端服务器发送的数据,用于控制无线监控探头获取图像数据;
所述物品存放区包括若干物品存放单元,每个物品存放单元上都设置一个单元编号、物品处理终端和报警装置,每个物品存放单元都处在图像采集单元监控之下;所述单元编号用于标识物品存放单元,单元编号紧邻物品处理终端和报警装置;所述报警装置与云端服务器通过网络连接,服务器在检测到与登记物品碰触的人员并非匹配用户时给予报警提示;所述物品处理终端与FPGA图像处理单元电性连接,同时与云端服务器通过网络连接,物品处理终端包括微控制器模块、语音模块、按键模块、无线模块、显示模块,处理终端用于物品与用户的信息登记与匹配,以及登记物品与匹配用户的信息解除,登记与匹配以及信息解除过程通过图像采集单元、FPGA图像处理单元、云端服务器、物品处理终端、报警装置的配合完成;
所述云端服务器还通过网络连接客户端、警方系统,用于接收与处理FPGA图像处理单元传递的处理数据,完成物品与人体图像信息的检测和记录,并将信息推送给客户端和警方系统。
10.根据权利要求9所述的基于FPGA的物品自动看护系统,其特征在于,所述IntelArria 10 FPGA模块包括:
预先训练好的FaceNet模型,用于生成人脸图像编码数据,识别人员身份信息;
预先训练好的SqueezeDet模型,用于生成物体的bounding box四个顶点的坐标,通过实时获得的物体bounding box四个顶点的坐标,对物体进行定位;
预先训练好的OpenCV模型和xml分类器,用于检测人体头、手、脚,颈、肘、膝盖部位,并通过连接上述各部分boundingbox中心点生成人体骨骼框架;
SqueezeDet模型处理得到的人脸boundingbox坐标数据与人体骨骼框架的头部位置boundingbox坐标数据相比对,用于确认该人体骨骼框架的身份,以及通过卷积网络对物品和人体在移动过程中进行定位;
经过图像预处理后,FaceNet模型、OpenCV模型、xml分类器、SqueezeDet模型相互配合,对物品和人体进行定位和追踪。
CN201910333308.0A 2019-04-24 2019-04-24 一种基于fpga的物品自动看护方法及系统 Active CN110097724B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910333308.0A CN110097724B (zh) 2019-04-24 2019-04-24 一种基于fpga的物品自动看护方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910333308.0A CN110097724B (zh) 2019-04-24 2019-04-24 一种基于fpga的物品自动看护方法及系统

Publications (2)

Publication Number Publication Date
CN110097724A true CN110097724A (zh) 2019-08-06
CN110097724B CN110097724B (zh) 2021-06-29

Family

ID=67445803

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910333308.0A Active CN110097724B (zh) 2019-04-24 2019-04-24 一种基于fpga的物品自动看护方法及系统

Country Status (1)

Country Link
CN (1) CN110097724B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110660144A (zh) * 2019-09-04 2020-01-07 浪潮金融信息技术有限公司 一种基于人脸识别的无人值守快递物品存取系统
CN110717432A (zh) * 2019-09-29 2020-01-21 上海依图网络科技有限公司 一种物品检测方法、装置和计算机存储介质
CN112422652A (zh) * 2020-11-06 2021-02-26 重庆电子工程职业学院 用于特殊人群的防丢失系统及方法
CN112782994A (zh) * 2020-12-31 2021-05-11 重庆房慧科技有限公司 基于用户数据分析的智能家居控制系统
CN113743248A (zh) * 2021-08-16 2021-12-03 浙江大华技术股份有限公司 身份信息提取方法、装置、电子装置和存储介质
CN118196698A (zh) * 2023-12-25 2024-06-14 江苏希冀建筑工程有限公司 大数据驱动的智能交通监控系统

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1538338A (zh) * 2003-02-25 2004-10-20 ������������ʽ���� 物品管理装置及其方法
JP2008186317A (ja) * 2007-01-31 2008-08-14 Secom Co Ltd 物品監視システム
CN101965576A (zh) * 2008-03-03 2011-02-02 视频监控公司 用于追踪、索引及搜寻的物件匹配
CN102103682A (zh) * 2009-12-18 2011-06-22 上海科斗电子科技有限公司 电子扫描式物品查找系统及其配套的电子标签
WO2012037183A2 (en) * 2010-09-16 2012-03-22 Alcatel Lucent Method and apparatus for managing content tagging and tagged content
CN202196486U (zh) * 2011-08-25 2012-04-18 曹源 一种高校宿舍贵重物品防盗系统
CN103198579A (zh) * 2013-02-27 2013-07-10 苏海洋 一种有追踪和失物招领功能的寄存柜及使用方法
KR20140098959A (ko) * 2013-01-31 2014-08-11 한국전자통신연구원 증거 영상 생성 장치 및 방법
US20160092725A1 (en) * 2007-01-12 2016-03-31 International Business Machines Corporation Warning a user about adverse behaviors of others within an environment based on a 3d captured image stream
JP2017191356A (ja) * 2016-04-11 2017-10-19 株式会社ナカヨ 収容箱内の盗難アラーム機能を有するインターホンシステム
CN107403159A (zh) * 2017-07-28 2017-11-28 北京中航安通科技有限公司 一种目标物品关联、核验及票务核验方法及其装置
CN107516127A (zh) * 2017-08-21 2017-12-26 山东大学 服务机器人自主获取人穿携物品归属语义的方法及系统
US20180129885A1 (en) * 2015-01-13 2018-05-10 Vivint, Inc. Enhanced doorbell camera interactions
CN108520561A (zh) * 2018-03-14 2018-09-11 深圳励飞科技有限公司 车辆关联管理方法、装置、终端及存储介质
CN108830957A (zh) * 2018-06-06 2018-11-16 北京大学 一种应用于私人空间入口的智能物品交互系统及方法
CN109034094A (zh) * 2018-08-10 2018-12-18 佛山市泽胜科技有限公司 一种物品查找方法和装置
CN109344680A (zh) * 2017-07-31 2019-02-15 科尼克自动化株式会社 物品登记系统
CN208521345U (zh) * 2018-07-13 2019-02-19 湖南创合未来科技股份有限公司 一种人脸识别保密柜和智能保密系统
KR101936390B1 (ko) * 2017-12-26 2019-04-03 주식회사 플랜티넷 Cctv 기반의 트래킹 서비스 제공 방법 및 장치

Patent Citations (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1538338A (zh) * 2003-02-25 2004-10-20 ������������ʽ���� 物品管理装置及其方法
US20160092725A1 (en) * 2007-01-12 2016-03-31 International Business Machines Corporation Warning a user about adverse behaviors of others within an environment based on a 3d captured image stream
JP2008186317A (ja) * 2007-01-31 2008-08-14 Secom Co Ltd 物品監視システム
CN101965576A (zh) * 2008-03-03 2011-02-02 视频监控公司 用于追踪、索引及搜寻的物件匹配
CN106657812A (zh) * 2008-03-03 2017-05-10 威智伦分析公司 动态物件分类
CN102103682A (zh) * 2009-12-18 2011-06-22 上海科斗电子科技有限公司 电子扫描式物品查找系统及其配套的电子标签
WO2012037183A2 (en) * 2010-09-16 2012-03-22 Alcatel Lucent Method and apparatus for managing content tagging and tagged content
CN202196486U (zh) * 2011-08-25 2012-04-18 曹源 一种高校宿舍贵重物品防盗系统
KR20140098959A (ko) * 2013-01-31 2014-08-11 한국전자통신연구원 증거 영상 생성 장치 및 방법
CN103198579A (zh) * 2013-02-27 2013-07-10 苏海洋 一种有追踪和失物招领功能的寄存柜及使用方法
US20180129885A1 (en) * 2015-01-13 2018-05-10 Vivint, Inc. Enhanced doorbell camera interactions
JP2017191356A (ja) * 2016-04-11 2017-10-19 株式会社ナカヨ 収容箱内の盗難アラーム機能を有するインターホンシステム
CN107403159A (zh) * 2017-07-28 2017-11-28 北京中航安通科技有限公司 一种目标物品关联、核验及票务核验方法及其装置
CN109344680A (zh) * 2017-07-31 2019-02-15 科尼克自动化株式会社 物品登记系统
CN107516127A (zh) * 2017-08-21 2017-12-26 山东大学 服务机器人自主获取人穿携物品归属语义的方法及系统
KR101936390B1 (ko) * 2017-12-26 2019-04-03 주식회사 플랜티넷 Cctv 기반의 트래킹 서비스 제공 방법 및 장치
CN108520561A (zh) * 2018-03-14 2018-09-11 深圳励飞科技有限公司 车辆关联管理方法、装置、终端及存储介质
CN108830957A (zh) * 2018-06-06 2018-11-16 北京大学 一种应用于私人空间入口的智能物品交互系统及方法
CN208521345U (zh) * 2018-07-13 2019-02-19 湖南创合未来科技股份有限公司 一种人脸识别保密柜和智能保密系统
CN109034094A (zh) * 2018-08-10 2018-12-18 佛山市泽胜科技有限公司 一种物品查找方法和装置

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110660144A (zh) * 2019-09-04 2020-01-07 浪潮金融信息技术有限公司 一种基于人脸识别的无人值守快递物品存取系统
CN110717432A (zh) * 2019-09-29 2020-01-21 上海依图网络科技有限公司 一种物品检测方法、装置和计算机存储介质
CN112422652A (zh) * 2020-11-06 2021-02-26 重庆电子工程职业学院 用于特殊人群的防丢失系统及方法
CN112422652B (zh) * 2020-11-06 2023-04-07 重庆电子工程职业学院 用于特殊人群的防丢失系统及方法
CN112782994A (zh) * 2020-12-31 2021-05-11 重庆房慧科技有限公司 基于用户数据分析的智能家居控制系统
CN112782994B (zh) * 2020-12-31 2022-10-04 重庆房慧科技有限公司 基于用户数据分析的智能家居控制系统
CN113743248A (zh) * 2021-08-16 2021-12-03 浙江大华技术股份有限公司 身份信息提取方法、装置、电子装置和存储介质
CN118196698A (zh) * 2023-12-25 2024-06-14 江苏希冀建筑工程有限公司 大数据驱动的智能交通监控系统

Also Published As

Publication number Publication date
CN110097724B (zh) 2021-06-29

Similar Documents

Publication Publication Date Title
CN110097724A (zh) 一种基于fpga的物品自动看护方法及系统
CN108062809B (zh) 一种实现人员大数据采集分析的住宅门禁系统
KR102098516B1 (ko) 승객 관리 장치 및 승객 관리 방법
CN110674761B (zh) 一种区域行为预警方法及系统
CN106355721A (zh) 一种智能门禁安防系统
CN105844128A (zh) 身份识别方法和装置
CN106204948A (zh) 储物柜管理方法及储物柜管理装置
JP7201072B2 (ja) 監視装置、不審オブジェクト検出方法、およびプログラム
CN110276320A (zh) 基于人脸识别的门禁方法、装置、设备和存储介质
CN110533011B (zh) 发放传单行为的检测方法及检测系统
CN109792510A (zh) 无线音频/视频记录和通信装置的包裹防盗
CN109326009A (zh) 一种基于人脸识别的快速通关系统及方法
CN110246292A (zh) 家庭视频监控方法、装置及存储介质
CN108846269A (zh) 一种面向多种特征的身份认证方法和身份认证装置
CN108391978A (zh) 智能档案、证章自主存取柜及相应的使用方法
CN108398892A (zh) 智能保安服务机器人
CN109308670A (zh) 基于行为预测的变电站安全管控方法
WO2018037355A1 (en) A system and method for automated vehicle and face detection and their classification
CN109584428A (zh) 一种计算机软件安全自动监控系统
CN115631528A (zh) 一种基于深度学习的智能人脸识别方法及系统
CN115171260A (zh) 一种基于人脸识别的智能门禁系统
JPH09130781A (ja) 広域監視装置
CN106297162A (zh) 使用楼层地图的控制系统中的智能事件分析的系统和方法
KR20220031258A (ko) 상담 이벤트에 대응되는 학습 데이터 기반 능동형 보안관제 서비스 제공 방법
CN111832451A (zh) 基于视频数据处理的适航监察流程监管系统及方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant