CN112257660B - 无效客流的去除方法、系统、设备及计算机可读存储介质 - Google Patents

无效客流的去除方法、系统、设备及计算机可读存储介质 Download PDF

Info

Publication number
CN112257660B
CN112257660B CN202011256729.7A CN202011256729A CN112257660B CN 112257660 B CN112257660 B CN 112257660B CN 202011256729 A CN202011256729 A CN 202011256729A CN 112257660 B CN112257660 B CN 112257660B
Authority
CN
China
Prior art keywords
human body
face
structured
picture
human
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN202011256729.7A
Other languages
English (en)
Other versions
CN112257660A (zh
Inventor
成西锋
游浩泉
马卫民
袁德胜
林治强
党毅飞
崔龙
李伟超
王海涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Winner Technology Co ltd
Original Assignee
Winner Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Winner Technology Co ltd filed Critical Winner Technology Co ltd
Priority to CN202011256729.7A priority Critical patent/CN112257660B/zh
Publication of CN112257660A publication Critical patent/CN112257660A/zh
Application granted granted Critical
Publication of CN112257660B publication Critical patent/CN112257660B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/02Marketing; Price estimation or determination; Fundraising
    • G06Q30/0201Market modelling; Market analysis; Collecting market data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation

Landscapes

  • Engineering & Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Finance (AREA)
  • Theoretical Computer Science (AREA)
  • Accounting & Taxation (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Data Mining & Analysis (AREA)
  • Game Theory and Decision Science (AREA)
  • Economics (AREA)
  • Marketing (AREA)
  • General Business, Economics & Management (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Image Processing (AREA)

Abstract

本发明提供一种无效客流的去除方法、系统、设备及计算机可读存储介质,所述去除方法包括:实时检测巡店视频中独立个体的人脸目标和人体目标,将人脸目标和人体目标与人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。本发明提出一种结合人脸识别、人体重识别技术,非配合式去除无效客流的方法,解决了需要人工干预的配合式入库和维护问题,大大减低企业使用巡店系统的运维成本。

Description

无效客流的去除方法、系统、设备及计算机可读存储介质
技术领域
本发明属于计算机视觉技术领域,涉及一种去除方法和系统,特别是涉及一种无效客流的去除方法、系统、设备及计算机可读存储介质。
背景技术
基于计算机视觉技术的客流统计技术,一直以来都是各个研究机构、企业的研究热点,它有着广泛的应用场景,和极高的商业价值。
在巡店系统中,客流统计是一项具有重要价值的指标数据。店员产生的客流计数会对店铺真实客流数据产生严重的干扰。因此,店员产生的客流数据会视作无效客流。在巡店系统中,去除无效客流具有很高的实际应用价值。
为了解决这个问题,传统方法一般有两种方案:基于WiFi探针的店员定位和基于视觉技术的店员识别。
前者的技术原理是在店铺部署WiFi探针,识别店员的手机信号,由此来定位店员在店铺的位置。根据定位信息去排除由店员产生的客流计数。但这种技术存在三个问题:一是业务逻辑错误。因为定位的是手机,但手机和店员没有绑定关系。二是部署成本高,运维成本高。三是定位精度差。
基于视觉技术的店员识别是目前的主流方案。需要在部署时录入店员的人脸信息,通过店铺监控抓拍顾客人脸,与识别库中的店员人脸进行匹配,从而去除无效客流。属于配合式的店员识别技术。但这种方法也存在缺陷,一是抓取不到人脸的客流数据无法判断,二是部署成本高,运维成本高。
在巡店系统中,客流统计是一项具有重要价值的指标数据。店员产生的客流计数会对店铺真实客流数据产生严重的干扰。因此,店员产生的客流数据会视作无效客流。在巡店系统中,去除无效客流具有很高的实际应用价值。但是,现有配合式的店员手动入库的传统方法存在部署成本高、部署时间长、维护工作量等缺点。
因此,如何提供一种无效客流的去除方法、系统、设备及计算机可读存储介质,以解决现有技术存在抓取不到人脸的客流数据无法判断,及部署成本高,运维成本高等缺陷,实已成为本领域技术人员亟待解决的技术问题。
发明内容
鉴于以上所述现有技术的缺点,本发明的目的在于提供一种无效客流的去除方法、系统、设备及计算机可读存储介质,用于解决现有技术存在抓取不到人脸的客流数据无法判断,及部署成本高,运维成本高的问题。
为实现上述目的及其他相关目的,本发明一方面提供一种无效客流的去除方法,包括:实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
于本发明的一实施例中,所述实时检测巡店视频中独立个体的人脸目标和人体目标,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线的步骤包括:实时检测巡店视频中每一帧的人脸检测框和人体检测框;对所述人体检测框进行实时跟踪,形成人体轨迹线;所述人体轨迹线包含每一帧的跟踪框;将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线。
于本发明的一实施例中,所述将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线的步骤包括:计算所述人体检测框与跟踪框的交并比,并依据交并比,查找出人体检测框与跟踪框的最佳匹配;计算所述人脸检测框与人体检测框的相对偏移,并依据该相对偏移,查找出人脸检测框与人体检测框的最佳匹配;将最佳匹配的人体检测框和人脸检测框加入所述人体轨迹线,以形成结构化轨迹线;所述结构化轨迹线包括人体轨迹线、绑定的人脸检测框及绑定的人体检测框以及人脸检测框和人体检测框对应的绑定人脸图片和绑定人体图片。
于本发明的一实施例中,所述分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线的步骤包括:对所述结构化轨迹线中绑定人脸图片和绑定人体图片进行识别;于预设数据库中查找与该绑定人脸图片最相似的人脸图片,以获取两者相似度及与最相似的人脸图片对应的结构化轨迹线ID;于预设数据库中查找与该绑定人体图片最相似的人体图片,以获取两者相似度及与最相似的人体图片对应的结构化轨迹线ID;判断与最相似的人脸图片对应的结构化轨迹线ID和与最相似的人体图片对应的结构化轨迹线ID是否相同;若是,则将该ID设置为所述结构化轨迹线的ID;若否,则判断人脸图片的相似度是否超过人脸置信阈值;若超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则判断人体图片的相似度是否超过人体置信阈值;若超过,则选择与与最相似的人体图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID。
于本发明的一实施例中,对所述结构化轨迹线中绑定人脸图片进行识别的步骤包括:筛选出符合标准的人脸图片,并为所述结构化轨迹线打上符合标准的人脸图片的标签;提取符合标准的人脸图片的人脸特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人脸特征;对所有人脸图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人脸图片最为做相似的人脸图片;将排名第一的人脸图片对应的结构化轨迹线的ID加入到原结构化轨迹线中;对所述结构化轨迹线中绑定人体图片进行识别的步骤包括:筛选出符合标准的人体图片,并为所述结构化轨迹线打上符合标准的人体图片的标签;提取符合标准的人体图片的人体特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人体特征;对所有人体图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人体图片最为做相似的人体图片;将排名第一的人体图片对应的结构化轨迹线的ID加入到原结构化轨迹线中。
于本发明的一实施例中,筛选出符合标准的人脸图片的步骤包括:从所述符合标准的人脸图片中提取人脸关键点,计算人脸角度、计算人脸模糊度、计算人脸完整度及计算人脸图片的质量分数;从所述符合标准的人体图片中提取人体关键点,计算人体模糊度、计算人体完整度和计算人体图片的质量分数。
于本发明的一实施例中,所述当天独立个体的客流信息包括当天独立个体出现次数、累计独立个体出现时长、历史轨迹覆盖区域网格比例;独立个体的非顾客可能性分数的计算公式为:其中,C表示当天独立个体出现次数,T表示累计独立个体出现时长,S表示历史轨迹覆盖区域网格比例。
本发明另一方面提供一种无效客流的去除系统,包括:检测模块,用于实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;识别模块,用于分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;去除模块,用于在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
本发明又一方面提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现所述无效客流的去除方法。
本发明最后一方面提供一种无效客流的去除设备,包括:处理器及存储器;所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述去除设备执行所述无效客流的去除方法。
如上所述,本发明所述的无效客流的去除方法、系统、设备及计算机可读存储介质,具有以下有益效果:
本发明所述无效客流的去除方法、系统、设备及计算机可读存储介质提出一种结合人脸识别、人体重识别技术,非配合式去除无效客流的方法,解决了需要人工干预的配合式入库和维护问题。大大减低企业使用巡店系统的运维成本。
附图说明
图1显示为本发明的无效客流的去除方法于一实施例中的流程示意图。
图2显示为本发明的无效客流的去除系统于一实施例中的原理结构示意图。
元件标号说明
2 无效客流的去除系统
21 检测模块
22 识别模块
23 去除模块
S11~S13 步骤
具体实施方式
以下通过特定的具体实例说明本发明的实施方式,本领域技术人员可由本说明书所揭露的内容轻易地了解本发明的其他优点与功效。本发明还可以通过另外不同的具体实施方式加以实施或应用,本说明书中的各项细节也可以基于不同观点与应用,在没有背离本发明的精神下进行各种修饰或改变。需说明的是,在不冲突的情况下,以下实施例及实施例中的特征可以相互组合。
需要说明的是,以下实施例中所提供的图示仅以示意方式说明本发明的基本构想,遂图式中仅显示与本发明中有关的组件而非按照实际实施时的组件数目、形状及尺寸绘制,其实际实施时各组件的型态、数量及比例可为一种随意的改变,且其组件布局型态也可能更为复杂。
本发明所述无效客流的去除方法、系统、设备及计算机可读存储介质的技术原理如下:
本技术针对巡店系统场景,提出了一种非配合式的去除无效客流方法,有效地解决店员对客流计数系统照成多计的问题。主要利用了人脸检测与识别技术、人体检测与重识别技术与客流类型判别技术,对店铺客流进行结构化分析,识别与匹配每一条客流动线,统计独立个体的出现次数、出现累计时长、出现区域分布等信息,计算独立个体是店员的可能性分数。依据这个分数,去除独立个体关联的客流动线触发的客流计数。
实施例一
本实施例提供一种无效客流的去除方法,包括:
实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;
分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;
在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
以下将结合图示对本实施例所提供的无效客流的去除方法进行详细描述。请参阅图1,显示为无效客流的去除方法于一实施例中的流程示意图。如图1所示,所述无效客流的去除方法具体包括以下步骤:
S11,实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线。
在本实施例中,所述S11包括以下步骤:
实时检测巡店视频中每一帧的人脸检测框和人体检测框。
具体地,通过通用的人脸检测技术实时检测巡店视频中每一帧的人脸检测框。通过通用的人体检测技术实时检测巡店视频中每一帧的人体检测框。
常用的模型,例如有SSD模型,YOLO系列模型等。
对所述人体检测框进行实时跟踪,形成人体轨迹线;所述人体轨迹线包含每一帧的跟踪框;
常用的跟踪方法有DeepSort,FairMOT等。
将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线。
所述将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线的步骤包括:
计算所述人体检测框与跟踪框的交并比,并依据交并比,查找出人体检测框与跟踪框的最佳匹配。
具体地,人体检测框与跟踪框的交并比(IOU)=(人体检测框∩跟踪框)/(人体检测框∪跟踪框)。
在本实施例中,使用匈牙利算法,找出人体检测框和跟踪框的最佳匹配,使总体的IOU总和最大。
计算所述人脸检测框与人体检测框的相对偏移,并依据该相对偏移,查找出人脸检测框与人体检测框的最佳匹配。
具体地,计算每个人体检测框的人脸假定中心坐标假设,人体框的坐标是(cx,cy),宽是w,高是h,则人脸假定中心坐标是(cx,cy-0.4*h);计算所有人脸检测框和所有假定人脸中心的距离(即相对偏移);同样使用匈牙利算法,找出最佳匹配对,使总体的距离最小。
将最佳匹配的人体检测框和人脸检测框加入所述人体轨迹线,以形成结构化轨迹线;所述结构化轨迹线包括人体轨迹线、绑定的人脸检测框及绑定的人体检测框以及人脸检测框和人体检测框对应的绑定人脸图片和绑定人体图片。
S12,分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线。
在本实施例中,所述S12包括以下步骤:
对所述结构化轨迹线中绑定人脸图片和绑定人体图片进行识别;
对所述结构化轨迹线中绑定人脸图片进行识别的步骤包括:
筛选出符合标准的人脸图片,并为所述结构化轨迹线打上符合标准的人脸图片的标签;
在本实施例中,筛选符合标准的人脸图片的步骤包括:从所述符合标准的人脸图片中提取人脸关键点,计算人脸角度、计算人脸模糊度、计算人脸完整度及计算人脸图片的质量分数。
在本实施例中,提取人脸关键点的目的是计算人脸角度;使用预存计算模型预测人脸的角度(水平偏转角,俯仰角,旋转角)、模糊度和完整度(左眼完整度、右眼完整度、鼻子完整度和嘴巴完整度)。人脸角度分数是按角度段如表1进行赋值
表1:人脸角度分数是按角度段赋值表
人脸完整度的分数是人脸各部位完整度预测值的均值。且按照公式计算得到人脸图像质量分数:
人脸图像的质量分数=0.6×(0.6×水平偏转角分数+0.3×俯仰角分数+0.1×旋转角分数)+0.2×(1-模糊度)+0.2×完整度的分数
在本实施例中,使用0.7作为人脸图像的质量分数作为筛选阈值。高于这个阈值的人脸图片会保留。
提取符合标准的人脸图片的人脸特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人脸特征;
在本实施例中,可以使用FaceNet,insightFace等模型提取人脸图片的人脸特征。
对所有人脸图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一(Top-1)的人脸图片最为做相似的人脸图片;
将排名第一(Top-1)的人脸图片对应的结构化轨迹线的ID加入到原结构化轨迹线中;
对所述结构化轨迹线中绑定人体图片进行识别的步骤包括:
筛选出符合标准的人体图片,并为所述结构化轨迹线打上符合标准的人体图片的标签。
在本实施例中,筛选符合标准的人体图片的步骤包括:从所述符合标准的人体图片中提取人体关键点,计算人体模糊度、计算人体完整度和计算人体图片的质量分数。
具体地,使用人体关键点技术有OpenPose,AlphaPose等。人体模糊度可以使用一个模型进行图片模糊度预测。人体完整度计算方式是根据OpenPose检测结果,如果某个位置的关键点缺失,则扣除对应分数。在本实施例中,完整度初始分数为1,头部、躯干关键点分数为0.15,四肢的关键点分数为0.1。缺一个点扣除对应点的分数。完整度分数阈值为0.4,如果分数低于这个阈值,则直接结束这个流程。
人体图片的质量分数计算公式如下:
人体图片的质量分数=0.8×(人体完整度的分数)+0.2×(1-人体模糊度)
在本发明中,使用0.5作为人体图片的质量分数筛选阈值,高于这个阈值的人体图片会保留。
提取符合标准的人体图片的人体特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人体特征;
对所有人体图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一(Top-1)的人体图片最为做相似的人体图片;
将排名第一(Top-1)的人体图片对应的结构化轨迹线的ID加入到原结构化轨迹线中。
于预设数据库中查找与该绑定人脸图片最相似的人脸图片,以获取两者相似度及与最相似的人脸图片对应的结构化轨迹线ID;
于预设数据库中查找与该绑定人体图片最相似的人体图片,以获取两者相似度及与最相似的人体图片对应的结构化轨迹线ID;
判断与最相似的人脸图片对应的结构化轨迹线ID和与最相似的人体图片对应的结构化轨迹线ID是否相同;若是,则将该ID设置为所述结构化轨迹线的ID;若否,则判断人脸图片的相似度是否超过人脸置信阈值;若超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则判断人体图片的相似度是否超过人体置信阈值;若超过,则选择与与最相似的人体图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID。
S13,在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
在本实施例中,所述当天独立个体的客流信息包括当天独立个体出现次数C、累计独立个体出现时长T、历史轨迹覆盖区域网格比例S。
其中,C的取值范围是0到正无穷;T的单位是分钟,取值范围是0到1440;S是比例,取值范围是0到1。
S的计算方式为:将监控画面划分为10x10的网格,如果轨迹线击中某个网格,S_hit加一。S=S_hit/100。
独立个体的非顾客可能性分数F的计算公式如下:
具体地,使用0.8作为独立个体的非顾客可能性分数F作为分数阈值以判断是否顾客,如果非顾客可能性分数大于这个阈值,该独立个体判别为非顾客。
本实施例所述无效客流的去除方法提出一种结合人脸识别、人体重识别技术,非配合式去除无效客流的方法,解决了需要人工干预的配合式入库和维护问题。大大减低企业使用巡店系统的运维成本。
本实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述无效客流的去除方法。
本领域普通技术人员可以理解计算机可读存储介质:实现上述各方法实施例的全部或部分步骤可以通过计算机程序相关的硬件来完成。前述的计算机程序可以存储于一计算机可读存储介质中。该程序在执行时,执行包括上述各方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质。
实施例二
本实施例提供一种无效客流的去除系统,包括:
检测模块,用于实时检测巡店视频中独立个体的人脸目标和人体目标,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;
识别模块,用于分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;
去除模块,用于在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
以下将结合图示对本实施例所提供的无效客流的去除系统进行详细描述。请参阅图2,显示为无效客流的去除系统于一实施例中的原理结构示意图。如图2所示,所述无效客流的去除系统2包括检测模块21、识别模块22及去除模块23。
所述检测模块21用于实时检测巡店视频中独立个体的人脸目标和人体目标,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线。
在本实施例中,所述检测模块21实时检测巡店视频中每一帧的人脸检测框和人体检测框。
具体地,所述检测模块21通过通用的人脸检测技术实时检测巡店视频中每一帧的人脸检测框。通过通用的人体检测技术实时检测巡店视频中每一帧的人体检测框。
所述检测模块21对所述人体检测框进行实时跟踪,形成人体轨迹线;所述人体轨迹线包含每一帧的跟踪框;
所述检测模块21将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线。
所述检测模块21计算所述人体检测框与跟踪框的交并比,并依据交并比,查找出人体检测框与跟踪框的最佳匹配。计算所述人脸检测框与人体检测框的相对偏移,并依据该相对偏移,查找出人脸检测框与人体检测框的最佳匹配。将最佳匹配的人体检测框和人脸检测框加入所述人体轨迹线,以形成结构化轨迹线;所述结构化轨迹线包括人体轨迹线、绑定的人脸检测框及绑定的人体检测框以及人脸检测框和人体检测框对应的绑定人脸图片和绑定人体图片。
具体地,人体检测框与跟踪框的交并比(IOU)=(人体检测框∩跟踪框)/(人体检测框∪跟踪框)。
在本实施例中,所述检测模块21使用匈牙利算法,找出人体检测框和跟踪框的最佳匹配,使总体的IOU总和最大。
具体地,所述检测模块21计算每个人体检测框的人脸假定中心坐标假设,人体框的坐标是(cx,cy),宽是w,高是h,则人脸假定中心坐标是(cx,cy-0.4*h);计算所有人脸检测框和所有假定人脸中心的距离(即相对偏移);同样使用匈牙利算法,找出最佳匹配对,使总体的距离最小。
所述识别模块22用于分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线。
在本实施例中,所述识别模块22对所述结构化轨迹线中绑定人脸图片和绑定人体图片进行识别;对所述结构化轨迹线中绑定人脸图片进行识别的步骤包括:筛选出符合标准的人脸图片,并为所述结构化轨迹线打上符合标准的人脸图片的标签;
在本实施例中,所述识别模块22从所述符合标准的人脸图片中提取人脸关键点,计算人脸角度、计算人脸模糊度、计算人脸完整度及计算人脸图片的质量分数;提取符合标准的人脸图片的人脸特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人脸特征;对所有人脸图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人脸图片最为做相似的人脸图片;将排名第一的人脸图片对应的结构化轨迹线的ID加入到原结构化轨迹线中。
在本实施例中,提取人脸关键点的目的是计算人脸角度;使用预存计算模型预测人脸的角度(水平偏转角,俯仰角,旋转角)、模糊度和完整度(左眼完整度、右眼完整度、鼻子完整度和嘴巴完整度)。
人脸完整度的分数是人脸各部位完整度预测值的均值。且按照公式计算得到人脸图像质量分数:
人脸图像的质量分数=0.6×(0.6×水平偏转角分数+0.3×俯仰角分数+0.1×旋转角分数)+0.2×(1-模糊度)+0.2×完整度的分数
在本实施例中,使用0.7作为人脸图像的质量分数作为筛选阈值。高于这个阈值的人脸图片会保留。
在本实施例中,可以使用FaceNet,insightFace等模型提取人脸图片的人脸特征。
所述识别模块22筛选出符合标准的人体图片,并为所述结构化轨迹线打上符合标准的人体图片的标签。
在本实施例中,所述识别模块22从所述符合标准的人体图片中提取人体关键点,计算人体模糊度、计算人体完整度和计算人体图片的质量分数;提取符合标准的人体图片的人体特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人体特征;对所有人体图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人体图片最为做相似的人体图片;将排名第一的人体图片对应的结构化轨迹线的ID加入到原结构化轨迹线中。
具体地,所述识别模块22使用人体关键点技术有OpenPose,AlphaPose等。人体模糊度可以使用一个模型进行图片模糊度预测。人体完整度计算方式是根据OpenPose检测结果,如果某个位置的关键点缺失,则扣除对应分数。在本实施例中,完整度初始分数为1,头部、躯干关键点分数为0.15,四肢的关键点分数为0.1。缺一个点扣除对应点的分数。完整度分数阈值为0.4,如果分数低于这个阈值,则直接结束这个流程。
人体图片的质量分数计算公式如下:
人体图片的质量分数=0.8×(人体完整度的分数)+0.2×(1-人体模糊度)
在本发明中,使用0.5作为人体图片的质量分数筛选阈值,高于这个阈值的人体图片会保留。
所述识别模块22于预设数据库中查找与该绑定人脸图片最相似的人脸图片,以获取两者相似度及与最相似的人脸图片对应的结构化轨迹线ID;于预设数据库中查找与该绑定人体图片最相似的人体图片,以获取两者相似度及与最相似的人体图片对应的结构化轨迹线ID;判断与最相似的人脸图片对应的结构化轨迹线ID和与最相似的人体图片对应的结构化轨迹线ID是否相同;若是,则将该ID设置为所述结构化轨迹线的ID;若否,则判断人脸图片的相似度是否超过人脸置信阈值;若超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则判断人体图片的相似度是否超过人体置信阈值;若超过,则选择与与最相似的人体图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID。
所述去除模块用于在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流。
在本实施例中,所述当天独立个体的客流信息包括当天独立个体出现次数C、累计独立个体出现时长T、历史轨迹覆盖区域网格比例S。
其中,C的取值范围是0到正无穷;T的单位是分钟,取值范围是0到1440;S是比例,取值范围是0到1。
S的计算方式为:将监控画面划分为10x10的网格,如果轨迹线击中某个网格,S_hit加一。S=S_hit/100。
独立个体的非顾客可能性分数F的计算公式如下:
具体地,使用0.8作为独立个体的非顾客可能性分数F作为分数阈值以判断是否顾客,如果非顾客可能性分数大于这个阈值,该独立个体判别为非顾客。
需要说明的是,应理解以上系统的各个模块的划分仅仅是一种逻辑功能的划分,实际实现时可以全部或部分集成到一个物理实体上,也可以物理上分开。且这些模块可以全部以软件通过处理元件调用的形式实现,也可以全部以硬件的形式实现,还可以部分模块通过处理元件调用软件的形式实现,部分模块通过硬件的形式实现。例如:x模块可以为单独设立的处理元件,也可以集成在上述系统的某一个芯片中实现。此外,x模块也可以以程序代码的形式存储于上述系统的存储器中,由上述系统的某一个处理元件调用并执行以上x模块的功能。其它模块的实现与之类似。这些模块全部或部分可以集成在一起,也可以独立实现。这里所述的处理元件可以是一种集成电路,具有信号的处理能力。在实现过程中,上述方法的各步骤或以上各个模块可以通过处理器元件中的硬件的集成逻辑电路或者软件形式的指令完成。以上这些模块可以是被配置成实施以上方法的一个或多个集成电路,例如:一个或多个特定集成电路(Application Specific Integrated Circuit,简称ASIC),一个或多个微处理器(Digital Singnal Processor,简称DSP),一个或者多个现场可编程门阵列(Field Programmable Gate Array,简称FPGA)等。当以上某个模块通过处理元件调度程序代码的形式实现时,该处理元件可以是通用处理器,如中央处理器(CentralProcessing Unit,简称CPU)或其它可以调用程序代码的处理器。这些模块可以集成在一起,以片上系统(System-on-a-chip,简称SOC)的形式实现。
实施例三
本实施例提供一种无效客流的去除设备,该去除设备包括:处理器、存储器、收发器、通信接口或/和系统总线;存储器和通信接口通过系统总线与处理器和收发器连接并完成相互间的通信,存储器用于存储计算机程序,通信接口用于和其他设备进行通信,处理器和收发器用于运行计算机程序,使去除设备执行如上无效客流的去除方法的各个步骤。
上述提到的系统总线可以是外设部件互连标准(Peripheral ComponentInterconnect,简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture,简称EISA)总线等。该系统总线可以分为地址总线、数据总线、控制总线等。为便于表示,图中仅用一条粗线表示,但并不表示仅有一根总线或一种类型的总线。通信接口用于实现数据库访问装置与其他设备(如客户端、读写库和只读库)之间的通信。存储器可能包含随机存取存储器(Random Access Memory,简称RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少一个磁盘存储器。
上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,简称CPU)、网络处理器(Network Processor,简称NP)等;还可以是数字信号处理器(Digital Signal Processing,简称DSP)、专用集成电路(Application SpecificIntegrated Circuit,简称ASIC)、现场可编程门阵列(Field Programmable Gate Array,简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本发明所述的无效客流的去除方法的保护范围不限于本实施例列举的步骤执行顺序,凡是根据本发明的原理所做的现有技术的步骤增减、步骤替换所实现的方案都包括在本发明的保护范围内。
本发明还提供一种无效客流的去除系统,所述无效客流的去除系统可以实现本发明所述的无效客流的去除方法,但本发明所述的无效客流的去除方法的实现装置包括但不限于本实施例列举的无效客流的去除系统的结构,凡是根据本发明的原理所做的现有技术的结构变形和替换,都包括在本发明的保护范围内。
综上所述,本发明所述无效客流的去除方法、系统、设备及计算机可读存储介质提出一种结合人脸识别、人体重识别技术,非配合式去除无效客流的方法,解决了需要人工干预的配合式入库和维护问题。大大减低企业使用巡店系统的运维成本。本发明有效克服了现有技术中的种种缺点而具高度产业利用价值。
上述实施例仅例示性说明本发明的原理及其功效,而非用于限制本发明。任何熟悉此技术的人士皆可在不违背本发明的精神及范畴下,对上述实施例进行修饰或改变。因此,举凡所属技术领域中具有通常知识者在未脱离本发明所揭示的精神与技术思想下所完成的一切等效修饰或改变,仍应由本发明的权利要求所涵盖。

Claims (10)

1.一种无效客流的去除方法,其特征在于,包括:
实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;
分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;
在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流;
所述当天独立个体的客流信息包括当天独立个体出现次数、累计独立个体出现时长、历史轨迹覆盖区域网格比例。
2.根据权利要求1所述的无效客流的去除方法,其特征在于,所述实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线的步骤包括:
实时检测巡店视频中每一帧的人脸检测框和人体检测框;
对所述人体检测框进行实时跟踪,形成人体轨迹线;所述人体轨迹线包含每一帧的跟踪框;
将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线。
3.根据权利要求2所述的无效客流的去除方法,其特征在于,所述将所述人脸检测框与所述人体轨迹线关联,以形成所述结构化轨迹线的步骤包括:
计算所述人体检测框与跟踪框的交并比,并依据交并比,查找出人体检测框与跟踪框的最佳匹配;
计算所述人脸检测框与人体检测框的相对偏移,并依据该相对偏移,查找出人脸检测框与人体检测框的最佳匹配;
将最佳匹配的人体检测框和人脸检测框加入所述人体轨迹线,以形成结构化轨迹线;所述结构化轨迹线包括人体轨迹线、绑定的人脸检测框及绑定的人体检测框以及人脸检测框和人体检测框对应的绑定人脸图片和绑定人体图片。
4.根据权利要求2所述的无效客流的去除方法,其特征在于,所述分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线的步骤包括:
对所述结构化轨迹线中绑定人脸图片和绑定人体图片进行识别;
于预设数据库中查找与该绑定人脸图片最相似的人脸图片,以获取两者相似度及与最相似的人脸图片对应的结构化轨迹线ID;
于预设数据库中查找与该绑定人体图片最相似的人体图片,以获取两者相似度及与最相似的人体图片对应的结构化轨迹线ID;
判断与最相似的人脸图片对应的结构化轨迹线ID和与最相似的人体图片对应的结构化轨迹线ID是否相同;若是,则将该ID设置为所述结构化轨迹线的ID;若否,则判断人脸图片的相似度是否超过人脸置信阈值;若超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则判断人体图片的相似度是否超过人体置信阈值;若超过,则选择与与最相似的人体图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID;若未超过,则选择与与最相似的人脸图片对应的结构化轨迹线ID作为所述结构化轨迹线的ID。
5.根据权利要求4所述的无效客流的去除方法,其特征在于,
对所述结构化轨迹线中绑定人脸图片进行识别的步骤包括:
筛选出符合标准的人脸图片,并为所述结构化轨迹线打上符合标准的人脸图片的标签;
提取符合标准的人脸图片的人脸特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人脸特征;
对所有人脸图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人脸图片最为做相似的人脸图片;
将排名第一的人脸图片对应的结构化轨迹线的ID加入到原结构化轨迹线中;
对所述结构化轨迹线中绑定人体图片进行识别的步骤包括:
筛选出符合标准的人体图片,并为所述结构化轨迹线打上符合标准的人体图片的标签;
提取符合标准的人体图片的人体特征,并与预设数据库中的特征一一比对,以查找到相似度最高的人体特征;
对所有人体图片进行匹配操作,获取最相似图片的相似度分数序列,以选取降序排序后排名第一的人体图片最为做相似的人体图片;
将排名第一的人体图片对应的结构化轨迹线的ID加入到原结构化轨迹线中。
6.根据权利要求5所述的无效客流的去除方法,其特征在于,
筛选出符合标准的人脸图片的步骤包括:
从所述符合标准的人脸图片中提取人脸关键点,计算人脸角度、计算人脸模糊度、计算人脸完整度及计算人脸图片的质量分数;
从所述符合标准的人体图片中提取人体关键点,计算人体模糊度、计算人体完整度和计算人体图片的质量分数。
7.根据权利要求5所述的无效客流的去除方法,其特征在于,
所述当天独立个体的客流信息包括当天独立个体出现次数、累计独立个体出现时长、历史轨迹覆盖区域网格比例;
独立个体的非顾客可能性分数的计算公式为:
其中,C表示当天独立个体出现次数,T表示累计独立个体出现时长,S表示历史轨迹覆盖区域网格比例。
8.一种无效客流的去除系统,其特征在于,包括:
检测模块,用于实时检测巡店视频中独立个体的人脸目标和人体目标,形成人体轨迹线,将人脸目标和人体目标与所述人体轨迹线进行关联,获取用于描述客流的结构化轨迹线;
识别模块,用于分析所述结构化轨迹线,对筛选出的人脸图像和人体图像进行最佳识别匹配,以识别出最优结构化轨迹线;
去除模块,用于在结束当天营业后,统计当天独立个体的客流信息,根据当天独立个体的客流信息分析所述独立个体的非顾客可能性分数,依据所述非顾客可能性分数,去除无效客流;
所述当天独立个体的客流信息包括当天独立个体出现次数、累计独立个体出现时长、历史轨迹覆盖区域网格比例。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现权利要求1至7中任一项所述无效客流的去除方法。
10.一种无效客流的去除设备,其特征在于,包括:处理器及存储器;
所述存储器用于存储计算机程序,所述处理器用于执行所述存储器存储的计算机程序,以使所述去除设备执行如权利要求1至7中任一项所述无效客流的去除方法。
CN202011256729.7A 2020-11-11 2020-11-11 无效客流的去除方法、系统、设备及计算机可读存储介质 Active CN112257660B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202011256729.7A CN112257660B (zh) 2020-11-11 2020-11-11 无效客流的去除方法、系统、设备及计算机可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202011256729.7A CN112257660B (zh) 2020-11-11 2020-11-11 无效客流的去除方法、系统、设备及计算机可读存储介质

Publications (2)

Publication Number Publication Date
CN112257660A CN112257660A (zh) 2021-01-22
CN112257660B true CN112257660B (zh) 2023-11-17

Family

ID=74265390

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202011256729.7A Active CN112257660B (zh) 2020-11-11 2020-11-11 无效客流的去除方法、系统、设备及计算机可读存储介质

Country Status (1)

Country Link
CN (1) CN112257660B (zh)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113064926B (zh) * 2021-03-16 2022-12-30 青岛海尔科技有限公司 数据筛选方法及装置、存储介质及电子装置
CN113436229A (zh) * 2021-08-26 2021-09-24 深圳市金大智能创新科技有限公司 一种多目标跨摄像机行人轨迹路径的生成方法
CN114092525B (zh) * 2022-01-20 2022-05-10 深圳爱莫科技有限公司 一种基于空间分布投票的客流属性分析方法及系统
CN117152689B (zh) * 2023-10-31 2024-01-19 易启科技(吉林省)有限公司 一种基于视觉的河道目标检测方法及系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106355682A (zh) * 2015-07-08 2017-01-25 北京文安智能技术股份有限公司 一种视频分析方法、装置及系统
EP3296929A1 (en) * 2015-05-12 2018-03-21 Hangzhou Hikvision Digital Technology Co., Ltd. Method and device for calculating customer traffic volume
CN108573333A (zh) * 2017-03-14 2018-09-25 思凯睿克有限公司 实体店面的关键绩效指标的评估方法及其系统
CN109740516A (zh) * 2018-12-29 2019-05-10 深圳市商汤科技有限公司 一种用户识别方法、装置、电子设备及存储介质
CN109784162A (zh) * 2018-12-12 2019-05-21 成都数之联科技有限公司 一种行人行为识别及轨迹跟踪方法
CN110717885A (zh) * 2019-09-02 2020-01-21 平安科技(深圳)有限公司 顾客数量的统计方法及装置、电子设备及可读存储介质
CN110969644A (zh) * 2018-09-28 2020-04-07 杭州海康威视数字技术股份有限公司 人员轨迹追踪方法、装置及系统
CN111476183A (zh) * 2020-04-13 2020-07-31 腾讯科技(深圳)有限公司 客流信息处理方法及装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6441734B1 (en) * 2000-12-12 2002-08-27 Koninklijke Philips Electronics N.V. Intruder detection through trajectory analysis in monitoring and surveillance systems

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP3296929A1 (en) * 2015-05-12 2018-03-21 Hangzhou Hikvision Digital Technology Co., Ltd. Method and device for calculating customer traffic volume
CN106355682A (zh) * 2015-07-08 2017-01-25 北京文安智能技术股份有限公司 一种视频分析方法、装置及系统
CN108573333A (zh) * 2017-03-14 2018-09-25 思凯睿克有限公司 实体店面的关键绩效指标的评估方法及其系统
CN110969644A (zh) * 2018-09-28 2020-04-07 杭州海康威视数字技术股份有限公司 人员轨迹追踪方法、装置及系统
CN109784162A (zh) * 2018-12-12 2019-05-21 成都数之联科技有限公司 一种行人行为识别及轨迹跟踪方法
CN109740516A (zh) * 2018-12-29 2019-05-10 深圳市商汤科技有限公司 一种用户识别方法、装置、电子设备及存储介质
CN110717885A (zh) * 2019-09-02 2020-01-21 平安科技(深圳)有限公司 顾客数量的统计方法及装置、电子设备及可读存储介质
CN111476183A (zh) * 2020-04-13 2020-07-31 腾讯科技(深圳)有限公司 客流信息处理方法及装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
人脸识别技术在智能客流分析领域的实践应用;金剑锋;丁琦;陆天培;杨林玉;;电信科学(第S1期);全文 *

Also Published As

Publication number Publication date
CN112257660A (zh) 2021-01-22

Similar Documents

Publication Publication Date Title
CN112257660B (zh) 无效客流的去除方法、系统、设备及计算机可读存储介质
US11335092B2 (en) Item identification method, system and electronic device
CN108985199B (zh) 商品取放操作的检测方法、装置及存储介质
CN108694399B (zh) 车牌识别方法、装置及系统
US20130243343A1 (en) Method and device for people group detection
CN110533654A (zh) 零部件的异常检测方法及装置
CN110874583A (zh) 一种客流统计的方法、装置、存储介质及电子设备
Mneymneh et al. Evaluation of computer vision techniques for automated hardhat detection in indoor construction safety applications
CN111145223A (zh) 多摄像头识别人员行为轨迹分析方法
CN110619324A (zh) 一种行人和安全帽检测方法、装置及系统
CN111079621B (zh) 检测对象的方法、装置、电子设备和存储介质
CN113269091A (zh) 一种面向智慧园区的人员轨迹分析方法、设备及介质
CN110781733A (zh) 图像去重方法、存储介质、网络设备和智能监控系统
WO2022156234A1 (zh) 一种目标重识别方法、装置及计算机可读存储介质
CN107436906A (zh) 一种信息检测方法及装置
CN114783037B (zh) 目标重识别方法、目标重识别装置和计算机可读存储介质
CN116311063A (zh) 监控视频下基于人脸识别的人员细粒度跟踪方法及系统
CN115100716A (zh) 一种智慧社区行人跟踪定位方法及系统
CN110175553B (zh) 基于步态识别与人脸识别建立特征库的方法及装置
CN114581990A (zh) 一种跑步智能测试方法以及装置
CN113470013A (zh) 一种搬移物品的检测方法及装置
CN113780145A (zh) 精子形态检测方法、装置、计算机设备和存储介质
CN113657378B (zh) 车辆跟踪方法、车辆跟踪系统和计算设备
CN115482569A (zh) 目标客流统计方法、电子设备以及计算机可读存储介质
CN114494355A (zh) 基于人工智能的轨迹分析方法、装置、终端设备及介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information
CB02 Change of applicant information

Address after: 201203 No. 6, Lane 55, Chuanhe Road, China (Shanghai) pilot Free Trade Zone, Pudong New Area, Shanghai

Applicant after: Winner Technology Co.,Ltd.

Address before: 201505 Room 216, 333 Tingfeng Highway, Tinglin Town, Jinshan District, Shanghai

Applicant before: Winner Technology Co.,Ltd.

GR01 Patent grant
GR01 Patent grant