CN109074498A - 用于pos区域的访问者跟踪方法和系统 - Google Patents

用于pos区域的访问者跟踪方法和系统 Download PDF

Info

Publication number
CN109074498A
CN109074498A CN201780018258.6A CN201780018258A CN109074498A CN 109074498 A CN109074498 A CN 109074498A CN 201780018258 A CN201780018258 A CN 201780018258A CN 109074498 A CN109074498 A CN 109074498A
Authority
CN
China
Prior art keywords
visitor
data
face template
pos
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201780018258.6A
Other languages
English (en)
Inventor
林晓明
普拉尚斯·维奇安德兰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mdeick Private Investment Co Ltd
Original Assignee
Mdeick Private Investment Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mdeick Private Investment Co Ltd filed Critical Mdeick Private Investment Co Ltd
Publication of CN109074498A publication Critical patent/CN109074498A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Systems or methods specially adapted for specific business sectors, e.g. utilities or tourism
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/50Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • General Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Strategic Management (AREA)
  • Primary Health Care (AREA)
  • Marketing (AREA)
  • Human Resources & Organizations (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Tourism & Hospitality (AREA)
  • Economics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Analysis (AREA)
  • Collating Specific Patterns (AREA)

Abstract

本发明设计一种用于在POS区域(2)的访问者跟踪的方法和系统,所述方法包括以下步骤:‑通过在POS区域(2)处的面部检测摄像机(8)来捕捉访问者(5)的图像,‑从所述图像中提取生物识别面部模板,‑将所述生物识别面部模板与主用户数据库的生物识别面部模板进行比较,其中所述主用户数据库的所述生物特征面部模板各自分配给在线购物系统的用户帐户,并且所述主用户数据库包括每个用户的在线购物行为数据,‑如果发现访问者的所述生物特征面部模板与所述主用户数据库的生物特征面部模板之一相匹配,则所述主用户数据库的内容用于支持POS区域的服务器(2)。

Description

用于POS区域的访问者跟踪方法和系统
本发明涉及一种用于POS区域访问者跟踪的方法和系统。本发明还涉及一种用于在在线和离线购物服务器上运行主用户数据库的方法。
C.P.Papageorgion,M.Oren和T.Poggio;物体检测的总体框架;第六届计算机视觉国际会议,第555页-第562页,1998年,其是最早描述Haar小波用于实时物体检测的出版物之一。
来自Paul Viola和Michael J ones;使用增强级联的简单功能进行快速物体检测,三菱电机研究实验室,2004年(TR-2004-043),美国马萨诸塞州剑桥市(接受计算机视觉和模式识别会议,2001年),Paul Viola和Michael J;强大的实时物体检测;国际计算机视觉会议,57(2):第137页-第154页,2002年,用于自动识别图像中的面部的方法是已知的,其中Haar小波用于检测类Haar特征。通过使用包括网格点分配和的所谓“积分图像”,可以非常快速地将Haar小波应用于图像。
P.I.Wilson,J.Fernandez;使用Haar分类器进行面部特征检测,J CSC 21,4(2006年4月),CCSC:南中央会议(South Central Conference)描述了另一种通过Haar类特征识别图像中的面部的方法。将面部特征分析的图像区域区域化为包含特征的概率最高的位置。通过区域化检测区域,消除了误报,并且由于检查区域的减少,使得检测速度增加。
在塞巴斯蒂安施密特;具有类Haar功能的实时物体检测,2010年6月22日,s-schmitt.de/ressourcen/haar_like_features.pdf描述了几个使用类Haar功能进行实时检测物体的项目。在这些项目中,使用了类Haar的特征。
为了以与轴对齐的方式一样快的速度计算旋转特征,使用对应于旋转的积分图像的旋转的求和区域表(RSAT)。
N.Dalai和B.Triggs;用于人体检测的定向梯度直方图,lear.inrialpes.fr/peopleAriggs/pubs/Dalal-cvpr05.pdf,发表于计算机视觉与模式识别,2005年,CVPR2005,IEEE计算机学会会议,2005年5月25日(第1卷),第886页-第893页,第一卷。ESN 1063-6919,ISBN 0-7695-2372-2印刷,出版商IEEE,描述了一种使用用于区分图像中的人的梯度方位直方图(HOG)描述符来检测图像中的人的方法。该方法基于在密集网格中评估图像梯度方向的良好归一化局部直方图。即使没有对应的梯度或边缘位置的精确知识,局部物体外观和形状也可以借助于局部强度梯度或边缘方向的分布通常可以得到很好地表征。这是通过将图像窗口划分为小空间区域(所谓的单元格)并且为每个单元格累积在单元格的像素上的梯度方向或边缘取向的局部1-D直方图来实现的。组合的直方图条目构成表示形式。用HOG描述符的密集(实际上是重叠)网格平铺检测窗口导致人类检测链。
Ojala,T.,Pietikainen,M.,Harwood,D.;基于分布的Kullback判别进行分类的纹理测度性能评估,以模式识别的形式出版,1994年,卷1-会议A:计算机视觉与图像处理,1994年10月9日至13日第12届IAPR国际会议论文集(卷:1),第582页-第585页,Print IS BN0-8186-6265-4描述了用于计算机视觉中的纹理分类的局部二进制模式(LBP)。LBP是基于所谓的特征向量。为了导出图像的特征向量,将图像分成单元格。然后将每个单元格的每个像素顺时针或逆时针地与其相邻像素中的每一个单元格的像素进行比较。尺寸的差异导致数字在直方图中被组合,这示出每个数字出现的频率。然后级联所有单元格的直方图,这给出了图像的特征向量。
灰度共生矩阵(GLCM)是计算机视觉中纹理分类的另一种方法-(http:// Www.fp.ucalgary.ca/mhallbey/tutorial.htm)。GLCM一次考虑两个像素之间的关系。使用所谓的二阶纹理计算,GLCM表示两个(通常是相邻的)像素的组之间的空间关系,称为参考像素和相邻像素。相邻像素通常是在预定方向上与参考像素相距一个像素的像素,但是这些像素之间的距离也可以是除1之外的任何其他数字。矩阵是在图像中出现的像素亮度值的不同组合(在灰度图像的情况下是灰度级)的频率的列表。通过在GLCM上使用统计分析方法,可以测量和分类纹理。
在Costa,A.F.,Humpire-Mamani,G.,Traina,A.J.M.;一种高效的纹理分形分析算法,图形,模式和图像的形式出版(SIBGRAPI),2012年,2012年8月22日至25日第25届SIBGRAPI会议,第39页-第46页,ISSN 1530-1834,Print ISBN 978-1-4673-2802-9,由IEEE出版,一种新型且高效的纹理特征提取方法,描述了所谓的基于分割的分形纹理分析(SFTA)。通过提取纹理特征、训练分类器和分类纹理图像来执行SFTA。提取算法包括将输入图像分解成一组二进制图像,从这一组二进制图像计算得到的区域的分形维数,以便描述分段的纹理图案。通过所谓的双阈值二进制分解(TTBD)算法实现输入图像的分解。SFTA可以执行基于内容的图像检索(CBIR)和图像分类的任务。
solvePnP是openCV api的函数(http://docs.opencv.Org/2.4/modules/ calib3d/doc/camera_calibration_and_3d_reconstruction.html)。该函数在给定的一组物点的情况下估计物体位姿、它们对应的图像投影,以及摄像机矩阵和失真系数。首先;将物点(3D)、图像点(2D)和摄像机矩阵输入到solvePnP函数中。然后,solvePnP返回旋转矢量(rvec)和平移矢量(tvec),利用该旋转矢量可以将来自模型坐标系的点映射到摄像机坐标系。摄像机坐标系是摄像机的笛卡尔坐标系,它与摄像机一起移动,并且摄像机始终位于原点。
US 6,711,293 B1公开了一种用于识别图像中的尺度不变特征的方法和装置,以及使用该方法和装置来定位图像中的物体,该方法被称为尺度不变特征变换(SIFT)。通过将像素振幅极值定位在从初始图像产生的多个差分图像中来执行该方法。识别每个差异图像中的第一局部最大和最小振幅像素。然后识别可能的最大和最小振幅像素,然后识别实际的最大和最小振幅像素。然后,产生关于多个差分图像中的像素振幅极值的像素区域的每个子区域的多个分量子区域描述符。对于图像中的任何物体,可以从多个分量子区域描述符中提取物体上的特征点,以提供物体的所谓“特征描述”。然后,当在另一图像中定位该物体时,可以使用该特征描述来识别物体。
EP 1 850 270 B1描述了一种用于确定图像中的特征点的方法,该图像具有适合于以不同比例和/或旋转而工作的多个像素。该方法产生称为加速鲁棒特征(SURF)的局部特征检测器和描述符。该方法包括使用至少三个数字滤波器对图像进行滤波,然后基于确定由应用数字滤波器产生的度量来选择特征点。该度量是数字滤波器的输出的非线性组合,并且在多于一个维度或方向上捕捉图像参数的变化。SURF的特征描述符(其基于围绕感特征点SURF描述符的Haar小波响应的总和)可用于物体识别、定位、跟踪、配准和分类、3D重建和提取图像中的特征点。
M.Turk和A.Pentland;识别的特征脸法、认知神经科学杂志,第三卷,第1号,第71页-第86页,1991年,公开了一种用计算机系统识别人脸的方法。通过称为主成分分析(PCA)的数学过程将面部图像的集合变换为具有低维表示的面部图像的集合。从这个变换的面部图像集合中,计算平均面部图像。然后从变换后的集合的每个面部图像中减去平均面部图像,得到差异图像的集合。从该差分图像集合中推导出协方差矩阵,该组归一化特征向量被称为特征脸组。这组特征脸可用于表示现有面部和新面部二者:可以平均减去面部的新图像并将其投影在该组特征脸上,使得新面部和平均面部之间的差异通过矢量来表示。该矢量可用于面部识别。
Z.Kalal,K.Mikolajczyk,J.Matas;跟踪-学习-检测,出版在:关于模式分析和机器智能的IEEE期刊(第34卷,第7期),第1409页-第1422页,ISSN 0162-8828,2011年12月,描述了对视频流中未知物体的长期跟踪。物体通过其在单个帧中的位置和范围定义。在随后的每个帧中,确定物体的位置和范围,或者指示物体不存在。公开了一种跟踪学习检测(TLD)框架,其将长期跟踪任务分解为跟踪、检测和学习。跟踪器从一帧到另一帧跟踪物体检测器定位到目前为止已观察到的所有外观,并在必要时校正跟踪器。学习通过识别这些错误来估计检测器的错误并更新检测器以避免将来出现这些错误。
Babenko,B.,Ming-Hsuan Yang,Belongie,S.;在线多实例学习的视觉跟踪,以计算机视觉和模式识别的形式发表,2009年,CVPR 2009,于2009年6月20日至25日举行的IEEE会议,页码第983页-第990页,ISSN 1063-6919,Print IS BN 978-1-4244-3992-8,由IEEE出版,公开了一种解决学习用于物体跟踪的自适应外观模型的问题的方案。描述了一类称为“通过检测跟踪”的跟踪技术,其导致实时速度跟踪。这些方法以在线方式训练判别分类器以将物体与背景分离。该分类器通过使用当前跟踪器状态来引导自身以从当前帧提取正面和负面示例。因此,跟踪器中的轻微不准确可能导致不正确标记的训练示例,这会使分类器降级并且可能导致进一步漂移。使用多实例学习(MIL)代替传统的监督学习可以避免这些问题,并且因此能够使用更少的参数调整来实现更强大的跟踪器。此外,公开了一种用于物体跟踪的新型在线MIL算法。
Fukunaga,K.,Hostetler,L.;估计密度函数的梯度,其中在模式识别中进行应用,出版在:关于信息理论的IEEE期刊(第21卷,第1期),第32-40页,ISSN 0018-9448,1975年1月发行由IEEE出版,描述了使用广义内核方法的非参数密度梯度估计。导出核函数的条件以保证估计的渐近无偏性、一致性和统一一致性。结果被泛化以获得可以在k-最近邻方法中扩展的简单均值漂移估计。使用聚类和内在维度问题来呈现梯度估计在模式识别中的应用,其中最终目标是在密度梯度方面进一步理解这些问题。
本发明的一个目的是提供一种用于自动跟踪POS区域中的访问者的方法和系统,其中基于通过跟踪POS区域中的访问者而获得的数据的服务质量得到改进。
本发明的另一个目的是改进在线购物系统的主用户数据库的数据内容。
通过独立权利要求的主题解决了上述一个或多个目的。优选的实施方案在相应的从属权利要求中进行了定义。
本发明的第一方面涉及一种用于在POS区域进行访问者跟踪的方法,该方法包括以下步骤:
-通过POS区域中的面部检测摄像头捕捉访问者的图像,
-从图像中提取生物识别面部模板,
将生物识别面部模板与主用户数据库的生物识别面部模板进行比较,其中所述主用户数据库的所述生物特征面部模板各自分配给在线购物系统的用户帐户,并且所述主用户数据库包括每个用户的在线购物行为数据。
如果发现访问者的所述生物特征面部模板与所述主用户数据库的生物特征面部模板之一相匹配,则所述主用户数据库的内容用于支持POS区域的服务器。
该访问者跟踪方法借助于从显示相应访问者的面部的图像中提取生物识别面部模板的面部来检测POS区域的访问者。该生物识别面部模板用于在在线购物系统中访问该访问者的用户帐户的数据。这些数据包括在线购物行为数据。在POS区域,可以基于这样的在线购物行为数据来提供服务。
在线购物行为可以包括浏览行为和/或购物行为。浏览行为包括由在线购物系统的用户访问的网站的URL列表或表格,其可以与时间戳或统计数据组合,特别是用户访问各个网站的频率和/或时长。购物行为包括所购商品和/或服务的数据。这些购物行为数据还可以包括每次购买的时间戳,每次购买的价值的信息以及关于支付方法的信息。
这些服务可以分别包括对访问者或客户的服务,用于协助POS区域的销售人员的服务以及使用该POS区域对零售商店的管理的服务。
对访问者的服务的示例是自动地向访问者的移动设备发送消息,其包含关于使用POS区域的零售商店的信息、特价优惠或任何其他产品信息。在生成此消息时考虑在线购物行为数据。访问者将收到能够适应(根据)自己的喜好和愿望单独地调整的信息。此外,可以在POS区域中为访问者提供终端,其中访问者可以使用该POS区域查找关于零售商店的信息。在这样的终端提供的信息可以基于从主用户数据库检索的在线购物行为数据而为用户进行个性化。
可以自动地向POS区域的零售企业的销售人员通知关于POS区域的访问者(其是POS区域的潜在客户)的购物行为。因此,销售人员可以向POS区域的访问者提供个性化的服务和优惠。
还可以对访问POS区域的所有访问者进行统计分析。此分析还基于从主用户数据库检索的在线购物行为进行。可以非常精确地对每个访问者进行分类,使得这种统计分析的信息内容对于使用该POS区域的零售业务的管理非常重要并且是有用的。这种统计分析对于评估POS区域的价值来说非常有价值。这为零售店的管理提供了强有力的改进。
独立于服务的接收者,根据管理数据保护和数据安全性的相应法则,可以限制从主用户数据库接收的数据量。例如,商店的管理不需要POS区域的访问者的任何个人数据来进行统计分析。不包含姓名、详细地址、电话号码的匿名数据是足够的。
然而,包括在线购物行为数据以及离线购物行为数据的数据的广泛基础以及可以通过跟踪POS区域中的访问者来检索的离线购物行为数据分别显著地改善了POS区域的访问者或客户、销售人员的服务和使用该POS区域的零售店的管理。
如果通过比较生物识别面部模板与主用户数据库的生物识别面部模板未找到匹配,则从POS区域中捕捉的图像中提取的访问者数据可以存储在独立于主用户数据库的POS数据库中。POS数据库优选地是连接到用于跟踪POS区域中的访问者的访问者跟踪系统。
此POS数据库描述了离线购物行为。只要POS数据库包含足够的数据基础,这种离线购物行为也可用于支持上述服务。
提供给访问者的服务之一是生成消息并将消息发送到访问者的移动设备。可以从主用户数据库检索移动设备的联系人数据。优选地,在POS区域检查移动设备是否存在于POS区域中。这可以通过检查POS区域中的收发器和位于POS区域中的移动设备之间交换的通信数据来执行。
通过一个或多个摄像机捕捉访问者的一个或多个图像来跟踪POS区域的访问者,并且优选地从那些图像中提取离线购物行为数据。离线购物行为数据是例如基于访问者在某些产品前花费的时间的广告和展示。此外,离线购物行为数据可以基于当访问者购买某些商品或服务时在POS区域的收银机接收的数据。这些数据可以包括访问者购买的商品和服务的标识和数量。
POS区域优选地包括几种类型的固定摄像机。这样的摄像机可以是面部检测摄像机,其被布置成使得视野指向直立位置的访问者的面部。可以提供这样的跟踪摄像机:该摄像机跟踪其中从上方的视野的POS区域的访问者,使得可以通过一台摄像机同时跟踪多个访问者。
依据本发明的另一方面,提供一种其中主用户数据库在购物服务器上运行的方法,该购物服务器是在线购物系统的一部分。用户可以借助于包括客户端摄像机的客户端计算机登录购物系统。通过客户端摄像机来捕捉用户的图像,并从该图像中提取生物识别面部模板,其中用户的图像和/或用户的生物识别面部模板存储在主用户数据库中。
该方法提供包含每个用户的生物特征面部模板的主用户数据库。生物识别面部模板可以用作用户的标识,使得主用户数据库的内容(特别是特定用户的帐户内容)可以容易地连接或与另一系统上的其他数据相关联,它们借助于生物识别面部模板与同一个人相关。
该方法与本发明的上述第一方面相结合是特别有利的,因为从某个访问者的POS区域的跟踪中检索的所有数据可以借助于生物识别面部模板容易地链接到同一个人的主用户数据库中的帐户数据。
根据另一方面;如果访问者的生物识别面部模板与主用户数据库的生物识别面部模板之一相匹配,则可以将通过跟踪POS区域中的访问者检索的离线购物行为数据添加或补充到主用户数据库,这意味着访问者是与包括匹配的生物识别面部模板的主用户数据库的帐户的用户相同的人。通过向主用户数据库添加或补充离线购物行为数据,主用户数据库的信息内容或信息值显著增加,因为现实世界的数据被自动地检测并添加到主用户数据库。因此,主用户数据库包括非常广泛的数据基础,其对于统计分析非常有价值。
如上文所述,每次用户登录在线购物系统时,捕捉用户的图像,并且生物识别面部模板能够被提取并存储在主用户数据库中。生物识别面部模板的这种存储不一定意味着已经存在的面部模板被新的生物识别面部模板完全替换,但是也可以通过最新传送的生物识别面部模板的数据进行更新已经存在的生物识别面部模板。因此,每当用户登录在线购物系统时,生物识别面部模板的质量得到改善。在登录过程中生成的生物识别面部模板可以用作在线购物系统的记录标准。优选地,每次用户登录在线购物系统时,捕捉用户的至少一个图像。
这种包括组合的在线和离线购物行为数据的主用户数据库能够用于准备购物用户资料、用于支持广告的数据或用于产生进一步的营销特色。
根据另一方面,本发明涉及一种用于POS区域的访问者跟踪的系统,该系统被实施用于执行上述方法中的一个或多个。
这种系统优选地包括至少一个面部检测摄像机、至少一个或多个跟踪摄像机、连接到摄像机的中央控制单元。跟踪系统优选地包括托管本地数据库的存储装置,该本地数据库被称为POS数据库。中央控制单元优选地连接到移动购物系统,该移动购物系统包括托管主用户数据库的远程存储装置。
优选地布置跟踪系统的相邻摄像机,使得视野重叠到这样的程度:使得两个相邻摄像机可以同时检测到至少一个人。
跟踪系统优选地借助于将数据线连接到POS区域的收银机,使得描述支付交易的数据可用于跟踪系统。通过使用时间戳同步,能够将销售交易同步到跟踪系统。
在下文将借助于附图解释本发明的实施例,附图示出:
图1示意性地示出了POS区域的跟踪系统,
图2跟踪摄像机及其视野,
图3和图4两个跟踪摄像机在侧视图和上方视图中具有重叠的视野,
图5至图7跟踪系统的某些模块的流程图,
图8至图9每个示意性地示出了跟踪系统的另一实施例及其与在线购物系统的关系,和
图10和图11每个POS数据库和主用户数据库的数据组的数据结构。
图1示出了用于POS区域2处的访问者跟踪的跟踪系统1的实施例。POS区域2包括销售点(POS)3,在该销售点,POS区域2的访问者或客户能够分别完成购买过程。在本实施例中,销售点3包括收银机4。销售点不是仅限于这样的收银机,而是可以最终确定提供某种商品和/或服务的一方与客户之间的任何类型的购买、购进、租用、租赁过程的任何物理点。购买过程的最终确定也可以借助于移动设备而不是固定的收银机来执行。从广义上讲,POS区域是呈现商品和/或服务以开始购买过程的任何物理区域。
POS区域2包括用于显示所提供的商品和/或服务的一个或多个显示器或广告。POS区域2的访问者5可以沿着显示器行走,并且决定他们是否想要购买或租用所提供的产品或服务。POS区域2通常是物理现实世界商店的一部分。POS区域2还可以体现为商业或非商业博览会,用于提供商品和服务,诸如商业博览会或跳蚤市场。包括显示器或广告的任何区域属于POS区域,诸如包括广告窗口或其他显示器的商店建筑物的外部区域。
跟踪系统1包括几个跟踪摄像机6,跟踪摄像机6布置成沿着POS区域2中的行走路径。在本实施例中,跟踪摄像机6被体现作为高架摄像机,该高架摄像机具有其向下的导向方向,使得这些跟踪摄像机6以从上方观察的方向对访问者5进行成像。每个跟踪摄像机6是用于生成电子可读图像文件的数字摄像机。每个图像文件包括从特定视场7拍摄的至少一个图像,特定视场7是由跟踪摄像机6的镜头限定的。该图像文件还可以包括视频流,该视频流是连续的图像序列。优选地,跟踪摄像机6彼此靠近地布置,使得相邻摄像机的视场7重叠。
跟踪系统1包括至少一个面部检测摄像机8,该面部检测摄像机8是在POS区域2中以其视线方向布置的数码摄像机,使得可以拍摄头部处于直立位置的访问者5的面部图像。
在本实施例中,面部检测摄像机8位于POS区域2的入口区域9中,第二面部检测摄像机8位于销售点3。入口区域处的面部检测摄像机8以其从POS区域内部到入口区域的视线方向而进行指向,以便捕捉进入POS区域2的用户的面部。使面部检测摄像机8以其从POS外部的视线方向指向入口区域也是有用的,以便捕捉离开POS区域2的用户的面部。有了这台摄像机8,所有访问者都是独立捕捉的,无论他们是在购买制品,还是只是在没有购买任何东西的情况下穿过POS区域。
在本实施例中,由摄像机6,8连续监视从入口区域9开始并在销售点3结束的路径。还可以提供用于监视外部广告窗口或任何其他外部显示器前面的区域的摄像机。
面部检测摄像机8限定每个视野10第一面部检测摄像机8/1和位于入口区域9中的第一跟踪摄像机6/1被布置成使得相应的视场7,10相重叠。第一跟踪摄像机6/1和第一面部检测摄像机8/1可以同时检测访问者5。
每个摄像机6,8连接到局域网的数据线11。
该系统还包括中央控制单元12和用于托管本地数据库14的存储装置13,本地数据库14在下文称为“POS数据库”14。
中央控制单元12连接到诸如因特网15或内联网的广域网(WAN)。中央控制单元12具有经由WAN 15到托管主用户数据库17的远程存储装置16的数据连接。
主用户数据库17是在线购物系统的一部分(图中未示出)。在线购物系统包括网页,该网页可以显示在客户端计算机上,用于向客户端计算机的用户提供某些商品和/或服务。
客户端计算机可以是台式计算机或者具有要连接到WAN的接口的任何其他移动或固定设备,以及用于显示在线购物系统的网页并输入相应订单的显示器和输入装置。这种客户端计算机通常是移动电话、平板电脑、掌上电脑等。
在线购物系统以这样的方式体现:即用户必须自己注册以使用在线购物系统。因此,用户的登记数据存储在主用户数据库17中。注册数据在相应的用户帐户中分配,并包括用户的全名、电子邮件地址、邮寄地址和电话号码。
在在线购物系统的优选实施例中,注册数据还包括生物识别面部模板。
注册可以借助于用户名和密码进行。这种注册程序是针对这种情况提供的:用户正在使用没有摄像头的客户端计算机或者用户授权的其他人正在使用用户的在线购物帐户。
生物识别面部模板是从提供给在线购物系统的用户的面部图像中提取的。用户的这种面部图像通常可在诸如Facebook,Twitter等社交媒体中获得。然而,资料图像对于提取生物识别面部模板通常是无用的。
社交媒体帐户还可以用于注册在线购物系统,这使得用户的面部图像可用于在线购物系统。还可以以与通过社交媒体帐户不同的方式提供用户的面部图像。例如,在线购物可以要求用户面部的图像作为注册数据的必要部分,该注册数据必须在第一次注册在线购物系统时由用户提供。
优选地,客户端计算机包括具有指向客户端计算机的用户的视图方向的摄像机和用于在每次用户注册到在线购物系统时捕捉用户的图像的软件应用程序。然后,该图像可用于在在线购物系统上注册。从该图像中,通过客户端计算机的软件应用程序提取生物识别面部模板,并且将该客户端生物识别面部模板与主用户数据库的生物识别面部模板进行比较,用于授权客户端计算机的用户以注册移动购物系统。只有当客户的生物识别面部模板与主用户数据库的相应面部模板之间存在匹配时,才允许用户虚拟地进入在线购物系统。此登录过程可以与其他安全手段(诸如密码)结合使用。
使用生物识别面板模板作为授权用户虚拟地进入购物系统的钥匙,一方面为在线购物系统提供高安全性,即只有注册的人员正在使用在线购物系统的相应帐户,并且另一方面,为用户提供了对在线购物系统的轻松访问。生物识别面部模板还可以与用于注册到在线购物系统(诸如密码)的其他数据相组合。
借助于生物识别面部模板注册到在线购物系统的另一个优点是:每当用户注册到在线购物系统时,生成用户的实际图像和生物识别面部模板,并且至少图像或生物识别面部模板被转发到在线购物系统。因此,每次用户注册到在线购物系统时,可以更新包括在主用户数据库的注册数据中的生物识别面部模板。这能够帮助提高长时间内人的外貌发生物理(生物)变化的精确性。诸如自然老化、化妆和改变发型。
使用社交媒体帐户的图像有时提供关于用户的更多有价值的信息。例如,通常,拍摄图像的地点或地理位置与相应的图像相关联。这样的用户的旅行行为可以被导出并用于例如提供某些旅游服务。
在上述实施例中,从客户端计算机上的用户图像中提取生物识别面部模板并将其转发到主用户数据库。或者,客户端计算机还可以将用户的图像转发到在线购物系统,其中在在线购物系统中提取图像的生物特征面部模板并将其与包括在主用户数据库中的生物特征面部模板进行比较。在这种情况下,用户的图像以及生物识别面部模板可以存储在主用户数据库的相应登记数据中。
在下文中,解释了利用上述跟踪系统1进行访问者跟踪的方法的不同部分和方面。
跟踪系统1包括面部检测模块19,其被设计用于检测由面部检测摄像机8之一捕捉的图像中的一个或多个面部。
面部检测模块19分别从面部检测摄像机8(步骤S1,图5)接收一个或多个图像或帧。
借助于用于包含一个或多个面的HAAR级联Viola-J方法分析每个帧(步骤S2)。
对于每个面部,将图像的矩形部分裁剪为面部缩略图18(步骤S3)。
从每个面部缩略图提取面部特征(步骤S4)。首先,借助于HAAR级联Viola-J方法在每个面部缩略图中检测眼睛。当识别出眼睛时,面部缩略图被标准化。从标准化的面部缩略图中提取面部特征。可以通过梯度直方图(HOG)、局部二值模式(LBP)、加速鲁棒特征(SURF)、尺度不变特征变换(SIFT)和/或特征特征来执行面部特征的提取。这些用于提取面部特征的方法是已知的,并且可以单独使用或组合使用。
如果从多个缩略图中提取面部特征,则识别与相同面部相关的面部特征并将其分配给彼此。将与同一面部相关的面部特征连接成矢量(步骤S5)。该矢量形成生物识别面部模板。
该检测模块用于生成用面部检测摄像头8之一捕捉的访问者的生物特征面部模板。
面部检测模块还可以被体现用于借助于新加坡专利申请第10201504080W号中(提交日期:2015年5月25日)描述的方法生成用面部检测摄像机8之一捕捉的访问者的生物面部模板。该新加坡专利申请第10201504080W号通过引用的方式结合在此。根据该方法,捕捉包含面部的图像,并且该图像通过分析图像以获得人的非面部属性、从图像中提取面部特征来进一步处理该图像,通过所述非面部属性对存储在数据库中的面部模板进行排序和/或过滤,搜索与图像的面部匹配的面部模板的已排序和/或过滤的数据库。
通过考虑非面部属性,在数据库中找到与面板模板匹配更容易,特别是在POS数据库14和/或主用户数据库17中。
非面部属性特别用于在同一天和/或在同一个附近和/或相同的POS区域中跟踪用户。
如果跟踪系统1的面部检测模块19检测到面部,则生成相应的访问者数据组并将其存储在POS数据库14中。访问者数据组至少目前为止包括由相应访问者的跟踪系统1生成和收集的所有信息,诸如该访问者的一个或多个图像、生物识别面部模板等。
这样的面部检测模块也可以提供在上述在线购物系统中或在客户端计算机的相应软件应用程序中,用于借助于客户端计算机之一的摄像机提取用户拍摄的图像的生物特征面部模板。
跟踪系统1包括人体检测模块,用于检测由跟踪摄像机6之一捕捉的图像中的人。通过梯度直方图(HOG)和/或借助于HAAR特征来执行对人的检测。在使用它之前,人体检测模块在训练阶段中被训练以跟踪POS区域2中的人。
所有的摄像机6,8相对于彼此而进行校准。这种校准可以借助于棋盘格栅来执行,该棋盘格栅在校准阶段期间放置在POS区域2中,使得这样棋盘网格对于至少两个相邻的摄像机同时可见。存在已知的软件模块,诸如cv2.findChessboardcorners,其产生摄像机矩阵和失真系数。
跟踪系统1包括第一跟踪模块21,其被设计用于将人物信息从面部检测摄像机8之一传递到相邻跟踪摄像机6。
第一跟踪模块21从面部检测模块19接收面部检测模块19检测到面部的人的人物信息(步骤S6,图6)。该人物信息可以包括生物特征面部模板和/或由面部检测摄像机8之一捕捉的人物的图像。该任务信息还可以包括与由面部检测摄像机8捕捉的图像中示出的人相关的预处理坐标信息。
第一跟踪模块21将由面部检测摄像机8生成的人物信息变换为世界坐标系中的人的三维坐标。在面部检测摄像机8的坐标系中的坐标中确定人的特定点(步骤S7)。然后借助于solvePNP旋转和平移人坐标组,将这些人坐标转换为世界坐标系。
第一跟踪模块21还接收由跟踪摄像机6之一捕捉的图像,该跟踪摄像机6位于面部检测摄像机8的旁边并且具有重叠的视野(步骤S8)。由跟踪摄像机6捕捉的图像然后同时拍摄到由面部检测摄像机8捕捉的图像。
借助于人体检测模块20分析跟踪摄像机6的图像,以提取包括二维坐标的其他人信息。将二维坐标转换为三维坐标(步骤S9)。
然后,通过旋转和平移坐标组(例如借助于solvePNP)将用跟踪摄像机6捕捉的人的三维坐标转换为世界坐标(步骤S10)。
在步骤S11中,比较由面部检测摄像机8捕捉的人和由跟踪摄像机6捕捉的人的世界坐标。如果相对于某个阈值存在三维空间重叠,则然后这将被确定为由两个摄像机6,8捕捉的坐标涉及同一个人。
如果确定从两个图像中提取的坐标没有充分地重叠并因此涉及不同的人,则程序流程返回到步骤S9,用于提取图像中所示的另一个人的坐标。
如果在步骤S11中确定从两个摄像机6,8的图像中提取的坐标重叠并因此与同一个人相关,则通过将它们存储在同一访问者数据组中来级联从两个摄像机6,8的图像中提取的数据(步骤S12)。
上述方法要求两个摄像机6,8都具有重叠的视场7,10。重叠的大小决定了可以比较检测到的访问者的位置的区域。
在跟踪系统1中提供第二跟踪模块22,用于借助于由跟踪摄像机6之一捕捉的图像生成步行路径。
第二跟踪模块22从跟踪摄像机6接收图像(步骤S13,图7)。
通过梯度(HOG)和/或类HAAR特征的直方图检测图像中示出人的矩形表示23(图2)(步骤S14)。基于矩形表示23训练人模型。人模型代表图像中示出的特定人物,并且可以包括形状(HOG,HAAR等)、特征点(SIFT,SURF等)、纹理(GLCM:灰度共生矩阵,SFTA:在各种颜色空间(HSV,RGB等)中基于分割的分形纹理分析)。
从该跟踪摄像机6接收另一图像(步骤S15)。
在步骤S16中,以与步骤S14中类似的方式提取另一矩形表示24。
确定矩形表示23,24的重叠(步骤S17)。在这个重叠的基础上,可以确定人在捕捉第一图像和后续图像的时刻之间移动了多远。
如果在步骤S16中不能确定另外的矩形表示24,则使用人模型来检测图像中的人(步骤S18)。情况可以是这样,如果这个人以这种方式改变了立场(例如,通过向前弯曲),没有进一步的矩形表示可以确定。人模型更通用,这样即使人的位置发生了实质性变化,也可以确定人的坐标。
在步骤S19中,将不同图像中的人的坐标与对应的时间戳一起添加到访问者数据组。这些数据表示人员在POS区域2中的步行路径。
如在步骤S16至步骤S18中,从图像中提取关于该人的进一步信息,可以在此信息的基础上改进人模型。
使用上述过程,可以跟踪人,并且可以基于由特定跟踪摄像机6拍摄的不同图像生成相应的步行轨迹。为了检测物体和跟踪物体,进一步的算法是已知的,诸如跟踪学习检测(TLD),在线多实例学习(在线MIL)和均值转换的视觉跟踪。这些已知算法可以替代地或与上述用于跟踪访问者并生成步行路径的过程进行组合使用。
跟踪系统1包括第三跟踪模块25,第三跟踪模块25用于连接由两个跟踪摄像机6产生的步行轨迹。如果两个摄像机6的视场7重叠(图3、图4),则可以连接两个跟踪摄像机6的步行轨迹。位于视场7的重叠范围内的访问者5由两个摄像机6同时跟踪。这意味着两个跟踪摄像机6同时地捕捉其中示出了访问者5的图像。
以与上述步骤S8至S10相同的方式确定访问者的世界坐标,比较访问者的坐标,如果他们在某个阈值内重叠,那么然后这被确定为由两个不同的跟踪摄像机6同时地拍摄的图像中所示的同一个人。然后将由每个跟踪摄像机6生成的步行路径的坐标和时间戳存储在相同的访问者数据组中,以便连接不同跟踪摄像机6的步行路径。因此,可以借助于第三跟踪模块25连接几对相邻跟踪摄像机6的步行轨迹,这样就可以在跟踪摄像机6覆盖的整个区域内跟踪访问者。
控制单元12包括数据库管理模块26,数据库管理模块26提供对POS数据库14以及主用户数据库17的访问。
每次当面部检测摄像机8(特别是位于入口区域9中的面部检测摄像机8)中的一个生成生物识别面部模板时,数据库管理模块26提取矢量进行匹配(VTM),其是生物识别面部模板的节选并且表示面部模板。
将VTM与主用户数据库中的用户数据组的相应向量进行比较。借助于匹配分数确定包括最接近VTM的矢量的数据组。最佳(通常最高的)匹配分数表示最接近的匹配。
确定紧密度或匹配分数是否分别高于某个阈值,使得由POS区域2中的面部检测摄像机8检测到的人被认为是与VTM匹配的在线购物系统中的账户所属的同一人。这意味着该帐户的用户实际上存在于POS区域2中。
由系统1生成并描述POS区域2的访问者5的购物行为的访问者数据组被发送到主用户数据库17并存储在相应用户的帐户中。因此,基于现实世界中的访问者5(即POS区域2)的体育活动的离线购物行为数据补充在线购物系统的账户数据。一旦实现了访问者和主用户数据库17的帐户的用户之间的匹配,则在跟踪系统1中生成并且与某些访问者5有关的所有信息存储在访问者的在线购物系统的账户中,而不是将其存储在本地POS数据库14中。
如果VTM与主用户数据库17中的帐户向量之间的接近程度不足以被视为代表同一个人,那么在系统1中生成的用于描述POS区域2中的相应访问者5的行为的数据组存储在本地POS数据库14中。POS数据库14也被称为“匿名数据库”,因为它描述了POS区域2的访问者5,而没有访问者的姓名、地址或任何联系人数据。然而,POS数据库14的数据组包括访问者的生物特征面部模板和/或访问者的一个或多个图像,如果主用户数据库17中没有匹配的帐户可用,则使得最新检测到的访问者5的生物特征面部模板也可以与POS数据库14的数据组进行比较。当新用户在主用户数据库17中注册新帐户时,提供生物特征面部模板和/或显示访问者面部的一个或多个图像允许每次检查POS数据库14,不管POS数据库14包括描述在线购物系统的新用户的现实生活购物行为的数据组与否。如果是这种情况,则可以将相应的数据组传送到主用户数据库17并与新用户的帐户信息一起存储。
系统1包括服务模块27,其向POS区域2的访问者5、POS区域2的销售人员和POS区域2的管理提供若干服务功能。
服务模块27自动地创建到存在于POS区域2中的访问者5所使用的移动设备的消息。访问者5由面部检测模块19识别,并且如果主用户数据库17中设置的相应数据可用,则服务模块27使用包括在该数据组中的联系人数据来向访问者的移动设备发送消息。该消息可以包含例如有关特价优惠的信息。消息的内容可以通过考虑访问者的购买行为自动生成,该购买行为存储在主用户数据库17中的相应数据组或帐户中,并且其基于在线购物系统中访问者的先前活动和/或他们在POS区域的购物行为也由根据本发明的系统1进行监视-。因此,可以自动地生成发给访问者的消息,这些消息特别适合于该访问者的特殊利益。
在将消息发送到访问者的移动设备之前,借助于主用户数据库17的数据组中可用的联系人数据和在POS区域2中确定的通信数据来检查是有用的,不管对应的移动设备存在于POS区域2中与否。因此,通信数据可以基于移动设备和连接到系统1的POS区域2中相应收发器之间的WIFI通信、蓝牙通信或任何其他标准局域通信。
在线购物系统还可以包括用于零售企业的客户的忠诚度计划的功能。
POS区域2中的访问者5的自动识别也可以用于零售企业的客户的这种忠诚度计划,有了这些,购物者可以收集购买积分并将其兑换成优惠券、商品或金钱。通过捕捉他们的面部来自动识别用户,并且由访问者购买的所有商品和服务由收银机4自动登记,收银机4借助于数据线11连接到中央控制单元12。因此,在不需要客户执行任何管理活动的情况下,可以轻松改进客户保留。
POS区域2的零售业务的销售人员可以自动地通知服务模块27关于POS区域2处的访问者的购物行为。因此,销售人员可以向POS区域2的访问者5提供个性化的服务和优惠。销售人员优选地使用移动设备,通过服务模块27自动地向其发送关于访问者的购物行为的信息。此购物行为可以显示在显示访问者典型特征值的图表中,诸如某些商品的利益、信用卡的信用评级等。
服务模块27能够生成访问POS区域2的所有访问者的统计分析,其中还可以考虑在主用户数据库17中注册的在线购物行为。可以非常精确地对每个访问者进行分类,使得这种统计分析的信息内容对于使用该POS区域2的零售业务的管理非常重要并且是有用的。这种统计分析对于评估POS区域的价值非常有价值。使用这些统计分析,不仅可以检测POS区域2的客流量,而且可以对客户的类型进行分类。还可以分析POS区域2中的广告和位移的效率及其对客户的影响。使用本发明,实现了零售业务的管理和控制的显著改进,因为不仅考虑了现实世界零售业务的数据(离线购买行为),还考虑了在线购买行为的数据。当真实购物世界的数据和虚拟购物世界的数据自动连接时,数据的基础被显著扩大。
在上述实施例中,与用户的面部(诸如生物识别面部模板)图像相关的信息用于在在线购物系统中注册,并且还用于识别POS区域2中的访问者5。因此,如果相应的图像或生物识别面部模板相匹配,则很容易组合在移动购物系统和现实世界购物系统1中产生的相应数据。
在上述实施例中,如果主用户数据库17中没有相应的匹配帐户可用,则访问者5的数据组仅存储在POS数据库14中。
图10和图11示出了POS数据库14和主用户数据库17的数据结构的示例。
POS数据库14包括用于进入POS区域2的访问者的数据组29。某个访问者的每个数据组至少包括借助于面部检测模块19生成的面部模板。面部模板用作生物识别标识符。数据组29可包括一个或多个面部模板。单面模板还可以基于在随后访问POS区域2时捕捉的若干图像。
数据组29可以包括步入信息。步入信息分别包括相应访问者的访问列表或实际步入会话。
步入信息还可以包括用户进入POS区域2的时刻的时间戳。如果POS区域2包括多个入口区域9,则步入信息可以是一个特定入口区域9的识别码。通过将面部模板结合步入信息,记录哪个访问者一直在访问某个POS区域2的哪个部分。步入信息还可以包括基于面部的年龄和/或性别,其可以借助于面部检测模块19从图像中提取。
POS数据库的该数据组29可以另外包括关于购物路径的信息。通过访问者的坐标和相应的时间戳记录购物路径。该购物路径可以是从入口区域9到销售点3的完整购物路径。购物路径也可以是进入POS区域2并离开POS区域2而没有完成购买过程的访问者的部分购物路径。这样的部分购物路径也可以记录在用户正在看广告窗口或任何其他显示器的商店建筑物的外部区域。
用户的数据组还可以包括关于购买的商品和购买时间的信息。当购买过程最终确定时,这些数据由收银机4提供。这些数据通常包括每个购买商品的ID、价格和时间戳。
在访问者进入POS区域2之后,面部检测模块19生成面部模板。将此面部模板与POS数据库中的现有面部模板进行比较。如果找到类似的面板模板,那么这被判断为POS区域2中的访问者是现有数据组所属的同一个人。在这种情况下,通过监视此访问者生成的所有数据都输入到现有数据组中。因此,每个数据组29可以包括多个面部模板,几个步入式信息,几个购物路径以及当然具有不同购买时间的几个购买物品。
主用户数据库包括每个用户的数据组30(图11)。每个数据组至少包含个人信息,并且最好是面部模板。个人信息可以包括电子邮件地址、物理地址、电话号码和/或通常在用户注册到在线购物系统时获得的任何个人详细信息。
该数据组包括一个或多个用作生物识别标识符的面部模板。当用户注册在线购物系统时,可以从捕捉的一个或多个图像中提取面部模板。面部模板还可以基于在POS区域2处从跟踪系统1捕捉的一个或多个图像。优选地,主用户数据库的数据组30的面部模板具有与POS数据库的数据组29的面部模板相同或相似的结构。这使得容易计算POS数据库的面部模板与主用户数据库的面部模板之间的距离,并自动地判断这些面部模板是否属于同一个人。
该数据组还可以包括当用户第一次注册到在线购物系统时的时间戳。
数据组还可以包括用户使用的客户端设备的唯一通信ID或客户端设备上用于与在线购物系统通信的app。客户端设备可以是台式计算机或任何移动设备,诸如移动电话、平板电脑等。通信ID可以是电话号码、电子邮件地址、IP地址、Skype地址、app-ID或其组合。
该数据组还可以包含在线购物行为数据。在线购物行为数据包括浏览行为数据和/或购物行为数据。浏览行为数据描述了用户浏览的网站。购物行为数据描述了与在线购物系统一起购买的商品和/或服务。这些数据可以包括相应的时间戳。购物行为数据还可以包括关于一个或多个遗弃在线购物车的信息。浏览行为数据和/或购物行为数据可以被记录为通过数据值单独地描述每个项目的明文数据。由于这些数据可以增长到大量数据,因此可以适当地进行统计分析并记录统计值,诸如用于描述行为的平均值、标准偏差等。使用这样的统计值,可以省略某些详细数据,并且可以减少数据量。这使得浏览描述浏览行为和购物行为的数据变得更加容易和快捷。
如果POS区域2的访问者的面部模板与主用户数据库17的数据组的面部模板相匹配,则POS数据库14的相应数据(步入和时间;购物路径;离线购买时间和项目)被添加到该用户的数据组中。在这种情况下,优选地组合描述POS数据库的面部模板和主用户数据库的数据。可以通过仅将POS数据库的面部模板数据复制到主用户数据库的数据组30来执行该组合。或者,可以通过计算新的单面模板来执行该组合,该新的单面模板基于POS数据库的数据组29的面部模板以及主用户数据库的数据组30的面部模板。
如图10和11所示的数据库14,17的数据组的数据结构可用于上述跟踪系统1的第一实施例中。
使用该系统,基于现实世界中的访问者的身体活动,在线购物系统的数据补充有离线购物行为的数据。这改善了在线购物系统,并且使得可以向在线购物系统的用户提供也基于他们离线购物行为选择的信息。
如上文所述,在线购物系统还可以包括对于零售企业的客户的忠诚度计划的功能,使用该功能,购物者可以收集积分购买并兑换优惠券、商品或金钱。使用该跟踪系统,监视某个POS区域2的访问者,并且每个访问的数据被记录在POS数据库中。如果这样的访问者成为在线购物系统的用户,则他们已经具有描述他们在POS区域2中的离线购物行为的历史。因此,忠诚度计划可以立即使用该历史记录并向用户提供相应的购买点。因此,具有这种跟踪系统1的现实世界商店的客户可以更容易积极地注册到在线购物系统。
在线购物系统也可以主要用于这样的忠诚度计划,甚至不需要包括用户可以进行在线购买的购买功能。在线购物系统的这种实施例允许相对较小的商店或小型商店连锁店容易地建立和运行高效的忠诚度计划,这是高效的,因为它检测相应客户的每次访问,并且因此实时考虑所述客户的每个购物活动。有关购物活动的信息非常详细,并且无需手动输入任何数据即可生成此信息。
图8示意性地示出了另一实施例,其中相同部件用相同的附图标记标识。因此,可以省略对这些部分的进一步描述。
在该跟踪系统1中,POS数据库14至少一次用于存储访问POS区域2的每个访问者5的数据组。如果匹配帐户在在线购物系统28的主用户数据库17中可用,则从主用户数据库17读取帐户的相关数据,并将其补充到POS数据库14中的相应访问者5的数据组中。在该跟踪系统1中,POS数据库14由主-用户数据库17中包含的信息进行补充。在该实施例中,不是由在系统1生成的现实世界购物行为数据补充的在线购物系统28的主用户数据库17,而是本地POS数据库14由在线购物系统的主用户数据库17的数据进行补充。因此,在跟踪系统1中,生成并维护POS数据库14用于提供上述服务功能,而无需每次都下载远程数据。
图9示出了跟踪系统1的另一实施例,其类似于图8的跟踪系统。然而,跟踪系统1连接到彼此独立的多个在线购物系统28。POS数据库14由不同在线购物系统28的主用户数据库17的内容来补充。因此,服务功能的数据库可以进一步扩大。
根据图8和图9的实施例对于使用现实世界商店中的大型在线购物系统的数据的基础来说是特别有利的。这样的系统允许更有效地运行现实世界的商店,因为由于在线购物系统的详细数据,可以显著地改善提供给潜在客户的服务,并且现实世界商店的管理委员会比在没有在线购物系统的数据的情况下更了解他们的客户。
另一方面,上述第一实施例中描述的在线购物系统也可以连接到多个现实世界的跟踪系统1,使得主用户数据库17的内容由多个POS区域2中的购物行为自动地进行补充。因此,在线购物系统包含关于用户的信息,其也基于现实世界购物行为(离线购物行为),这使得用于描述用户的购物行为的相应统计数据对于统计分析更加可靠。该数据也可用于在线购物系统。例如,分析访问者5在POS区域2中的某个广告或位移前花费的时间提供关于相应访问者5的个人特征和愿望的详细信息。
在根据图8和图9的实施例中使用的数据库14、17的数据结构与图10和图11中所示的数据结构的不同之处在于主用户数据库的某些数据(个人信息、注册时间戳、通信ID和/或在线购物行为)被添加到POS数据库14的相应数据组中。
在上述实施例中,模块19,20,21,22,25,26和27被体现为在中央控制单元12上存储和执行的软件模块。
参考标志清单
1 系统
2 POS区域
3 销售点
4 收银机
5 访问者
6 跟踪摄影机
7 视野
8 面部检测摄像机
9 入口区域
10 视野
11 数据线
12 中央控制单元
13 存储装置
14 POS数据库
15 WAN
16 远程存储装置
17 主用户数据库
18 缩略图
19 人脸检测模块
20 人体检测模块
21 第一跟踪模块
22 第二跟踪模块
23 矩形表示
24 矩形表示
25 第三跟踪模块
26 数据库管理模块
27 服务模块
28 在线购物系统
29 POS数据库的数据组
30 主用户数据库的数据组

Claims (16)

1.一种用于在POS区域(2)的访问者跟踪的方法,所述方法包括以下步骤:
-通过在POS区域(2)处的面部检测摄像机(8)来捕捉访问者(5)的图像,
-从所述图像中提取生物识别面部模板,
-将所述生物识别面部模板与主用户数据库的生物识别面部模板进行比较,其中所述主用户数据库的所述生物特征面部模板各自分配给在线购物系统的用户帐户,并且所述主用户数据库包括每个用户的在线购物行为数据,
-如果发现访问者的所述生物特征面部模板与所述主用户数据库的生物特征面部模板之一相匹配,则所述主用户数据库的内容用于支持POS区域的服务器(2)。
2.根据权利要求1所述的方法,其中如果在所述访问者生物识别面部模板和所述主用户数据库的面部模板之间没有找到匹配,则从存储在独立于所述主用户数据库的POS数据库(14)中的所述POS区域(2)中所捕捉的图像来提取访问者数据。
3.根据权利要求1或2的方法,其中包括在与访问者帐户对应的所述主用户数据库的数据组中的联系人数据用于向所述访问者的移动设备发送自动消息。
4.根据权利要求3所述的方法,其中检查数据组中列出的移动设备是否存在于POS区域。
5.根据权利要求3或4的方法,其中访问者在线购物行为数据用于生成消息的内容。
6.根据权利要求1至5中任一项所述的方法,其中通过一个或多个摄像机捕捉访问者的一个或多个图像来跟踪POS区域(2)的访问者,并从所述图像中提取离线购物行为数据。
7.根据权利要求6所述的方法,其中几种类型的固定摄像机(6,8)用于检测POS区域的访问者。
8.根据权利要求6或7所述的方法,其中使用以下类型的固定摄像机中的一个或多个:
-面部检测摄像机(8);
-跟踪摄影机(6)。
9.根据权利要求1至8中任一项所述的方法,其中主用户数据库在购物服务器上运行,所述购物服务器是在线购物系统的一部分,其中用户可以借助于客户端计算机登录购物系统,所述客户端计算机包括客户端摄像机和用户的图像以及生物识别面部模板,所述用户的图像通过所述客户端摄像机捕捉,所述生物识别面部模板从所述从图像中提取并且所述用户图像和/或所述用户生物识别面部模板存储在所述主用户数据库中。
10.根据权利要求9所述的方法,还包括以下步骤:
-通过一个或多个摄像机(6,8)捕捉访问者的一个或多个图像并从所述图像中提取离线购物行为数据来跟踪POS区域(2)的访问者,
-分析访问者的生物特征面部模板的一个或多个图像中的至少一个(5),
-将生物识别面部模板与主用户数据库的生物识别面部模板进行比较,其中所述主用户数据库的所述生物特征面部模板各自分配给在线购物系统的用户帐户,并且所述主用户数据库包括每个用户的在线购物行为数据,如果发现访问者的所述生物特征面部模板与所述主用户数据库的所述生物特征面部模板之一相匹配,则所述离线购物行为数据被添加到所述主用户数据库。
11.根据权利要求9或10的方法,其中所述生物识别面部模板的存储包括对同一用户的现有生物识别面部模板进行升级。
12.根据权利要求9至11中任一项所述的方法,其中所述图像是在所述客户端摄像机的用户登录过程期间进行捕捉的,并且所述图像通过用作在线购物系统的登录标准的生物识别面部模板进行分析。
13.根据权利要求9至12中任一项所述的方法,其中每次当用户登录所述在线购物系统时,至少捕捉用户的至少一个图像。
14.根据权利要求9至13中任一项所述的方法,其中包括组合的在线和离线购物行为数据的所述主用户数据库分析用于准备购物用户资料,用于支持广告的数据或用于产生进一步的营销特色。
15.一种用于在POS区域(2)的访问者跟踪的系统,所述系统包括:
面部检测摄像机(8)和中央控制单元(12),
所述面部检测摄像机(8)处于POS区域(2)处,所述中央控制单元(12)为了实施根据权利要求1至14中任一项所述方法而体现。
16.根据权利要求15所述的系统,所述系统包括:几台摄像机(6,8),其中所述摄像机以其视场(7,10)而布置,使得相邻摄像机的视场(7,10)重叠。
CN201780018258.6A 2016-03-09 2017-03-08 用于pos区域的访问者跟踪方法和系统 Pending CN109074498A (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
SG10201601838TA SG10201601838TA (en) 2016-03-09 2016-03-09 Method and system for visitor tracking at a pos area
SG10201601838T 2016-03-09
PCT/SG2017/050111 WO2017155466A1 (en) 2016-03-09 2017-03-08 Method and system for visitor tracking at a pos area

Publications (1)

Publication Number Publication Date
CN109074498A true CN109074498A (zh) 2018-12-21

Family

ID=59789842

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201780018258.6A Pending CN109074498A (zh) 2016-03-09 2017-03-08 用于pos区域的访问者跟踪方法和系统

Country Status (5)

Country Link
CN (1) CN109074498A (zh)
AU (1) AU2017231602A1 (zh)
PH (1) PH12018501919A1 (zh)
SG (1) SG10201601838TA (zh)
WO (1) WO2017155466A1 (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112381982A (zh) * 2020-10-19 2021-02-19 北京科技大学 一种基于深度学习构建的无人超市系统
CN113706767A (zh) * 2021-10-27 2021-11-26 深圳市恒裕惠丰贸易有限公司 一种自动识别钱币面值的登记储存系统

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108122012B (zh) * 2017-12-28 2020-11-24 百度在线网络技术(北京)有限公司 常驻点中心点的确定方法、装置、设备及存储介质
CN109492626A (zh) * 2019-01-11 2019-03-19 敏科信息科技(广州)有限公司 一种无感人脸案场管理方法及其系统
CN111565225B (zh) * 2020-04-27 2023-08-04 银河水滴科技(宁波)有限公司 一种人物行动轨迹确定方法及装置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101990667A (zh) * 2008-04-02 2011-03-23 谷歌公司 将自动人脸识别合并入数字图像集中的方法和装置
US20110257985A1 (en) * 2010-04-14 2011-10-20 Boris Goldstein Method and System for Facial Recognition Applications including Avatar Support
CN103189847A (zh) * 2010-11-05 2013-07-03 国际商业机器公司 集群式数据处理系统中的存储装置管理
CN103606093A (zh) * 2013-10-28 2014-02-26 燕山大学 一种基于人体特征的连锁机构vip客户智能服务系统
CN103839150A (zh) * 2012-11-20 2014-06-04 金蝶软件(中国)有限公司 Erp业务邮件处理方法和装置
US20140244678A1 (en) * 2013-02-28 2014-08-28 Kamal Zamer Customized user experiences
CN104268725A (zh) * 2014-10-30 2015-01-07 胡新元 一种基于人脸识别技术的客户管理系统及方法

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102592116A (zh) * 2011-12-27 2012-07-18 Tcl集团股份有限公司 一种云计算应用方法、系统及终端设备、云计算平台
CN104346883A (zh) * 2013-08-04 2015-02-11 郁晓东 一种识别顾客的pos装置
CN104778389A (zh) * 2014-01-09 2015-07-15 腾讯科技(深圳)有限公司 一种数值转移方法、终端、服务器及系统
CN104573619A (zh) * 2014-07-25 2015-04-29 北京智膜科技有限公司 基于人脸识别的智能广告大数据分析方法及系统

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101990667A (zh) * 2008-04-02 2011-03-23 谷歌公司 将自动人脸识别合并入数字图像集中的方法和装置
US20110257985A1 (en) * 2010-04-14 2011-10-20 Boris Goldstein Method and System for Facial Recognition Applications including Avatar Support
CN103189847A (zh) * 2010-11-05 2013-07-03 国际商业机器公司 集群式数据处理系统中的存储装置管理
CN103839150A (zh) * 2012-11-20 2014-06-04 金蝶软件(中国)有限公司 Erp业务邮件处理方法和装置
US20140244678A1 (en) * 2013-02-28 2014-08-28 Kamal Zamer Customized user experiences
CN103606093A (zh) * 2013-10-28 2014-02-26 燕山大学 一种基于人体特征的连锁机构vip客户智能服务系统
CN104268725A (zh) * 2014-10-30 2015-01-07 胡新元 一种基于人脸识别技术的客户管理系统及方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112381982A (zh) * 2020-10-19 2021-02-19 北京科技大学 一种基于深度学习构建的无人超市系统
CN112381982B (zh) * 2020-10-19 2022-02-22 北京科技大学 一种基于深度学习构建的无人超市系统
CN113706767A (zh) * 2021-10-27 2021-11-26 深圳市恒裕惠丰贸易有限公司 一种自动识别钱币面值的登记储存系统

Also Published As

Publication number Publication date
AU2017231602A1 (en) 2018-09-27
SG10201601838TA (en) 2017-10-30
WO2017155466A1 (en) 2017-09-14
PH12018501919A1 (en) 2019-06-24

Similar Documents

Publication Publication Date Title
US20230260250A1 (en) Systems, methods, and storage media for evaluating images
CN106776619B (zh) 用于确定目标对象的属性信息的方法和装置
CN110033298B (zh) 信息处理设备及其控制方法、系统和存储介质
CN104715023B (zh) 基于视频内容的商品推荐方法和系统
Liciotti et al. Person re-identification dataset with rgb-d camera in a top-view configuration
CN109074498A (zh) 用于pos区域的访问者跟踪方法和系统
EP3467709A1 (en) Face recognition method and system for personal identification and authentication
JP6500374B2 (ja) 画像処理装置及び画像処理プログラム
AU2016266493A1 (en) Method and system for facial recognition
JP2004348618A (ja) 顧客情報収集管理方法及びそのシステム
EP2915101A1 (en) Method and system for predicting personality traits, capabilities and suggested interactions from images of a person
CN109993595A (zh) 个性化推荐商品及服务的方法、系统及设备
CN110033293A (zh) 获取用户信息的方法、装置及系统
US20230111437A1 (en) System and method for content recognition and data categorization
CN113887884A (zh) 商超服务系统
US9324292B2 (en) Selecting an interaction scenario based on an object
CN112131477A (zh) 一种基于用户画像的图书馆图书推荐系统及方法
KR102400172B1 (ko) 시선추적에 기초하여 상품을 추천하기 위한 방법 및 시스템
JP6813039B2 (ja) 画像処理装置及び画像処理プログラム
JP2010198199A (ja) 情報提供システム及び情報提供方法
CN114359997A (zh) 业务引导方法及系统
JP7015430B2 (ja) 見込み客情報収集システム及びその収集法
US20210182542A1 (en) Determining sentiments of customers and employees
KR20160005180A (ko) 복수 기업이 패션모델을 공유하여 이용하는 온라인 쇼윈도 시스템
JP7389997B2 (ja) カメラを用いたマーケティングシステム

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
REG Reference to a national code

Ref country code: HK

Ref legal event code: DE

Ref document number: 40002124

Country of ref document: HK

WD01 Invention patent application deemed withdrawn after publication

Application publication date: 20181221

WD01 Invention patent application deemed withdrawn after publication