CN106682637A - 一种展品吸引度的分析方法及系统 - Google Patents

一种展品吸引度的分析方法及系统 Download PDF

Info

Publication number
CN106682637A
CN106682637A CN201611269922.8A CN201611269922A CN106682637A CN 106682637 A CN106682637 A CN 106682637A CN 201611269922 A CN201611269922 A CN 201611269922A CN 106682637 A CN106682637 A CN 106682637A
Authority
CN
China
Prior art keywords
face
showpiece
region
key point
estimated value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201611269922.8A
Other languages
English (en)
Inventor
李英
乔宇
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Institute of Advanced Technology of CAS
Original Assignee
Shenzhen Institute of Advanced Technology of CAS
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Institute of Advanced Technology of CAS filed Critical Shenzhen Institute of Advanced Technology of CAS
Priority to CN201611269922.8A priority Critical patent/CN106682637A/zh
Publication of CN106682637A publication Critical patent/CN106682637A/zh
Pending legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/178Human faces, e.g. facial parts, sketches or expressions estimating age from face image; using age information for improving recognition

Abstract

本发明属于计算机视觉技术领域,提供了一种展品吸引度的分析方法及系统,所述方法包括:通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标;基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、年龄估计值及表情估计值;根据人脸的性别估计值、年龄估计值、表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间分析得到展品区域的展品吸引度信息。通过本发明可以分析出展品对何种人群具有吸引度,以及何种展品的吸引度比较高。

Description

一种展品吸引度的分析方法及系统
技术领域
本发明属于计算机视觉技术领域,尤其涉及一种展品吸引度的分析方法及系统。
背景技术
在现有的博物馆展览或其他展览中,展品的吸引度评估往往是通过一种主观的或者粗略的方式进行评估,使得展览商或展览者对于展品吸引的人群性质定义模糊,无法定量评估。
故,有必要提出一种新的技术方案,以解决上述技术问题。
发明内容
鉴于此,本发明提供一种展品吸引度的分析方法及系统,以计算机视觉的智能分析为基础,分析出展品对何种人群具有吸引度,以及何种展品的吸引度比较高。
本发明的第一方面,提供一种展品吸引度的分析方法,包括:
通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;
对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;
基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间;
根据所述人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间分析得到所述展品区域的展品吸引度信息。
本发明的第二方面,提供一种展品吸引度的分析系统,包括:
视频输入模块,用于通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;
人脸检测模块,用于对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;
识别模块,用于基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
数据存储模块,用于获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间、所述图像帧的拍摄时间以及所述识别模块的识别结果,并将以上数据存储到数据库表格中,表格内容包括图像帧的拍摄时间、展品区域的编号、人脸的编号、人脸在展品区域的停留时间、人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
数据查询模块,用于将时间区域和展品区域作为查询条件,对所述数据存储模块中存储的数据进行查询,并将满足查询条件的数据输出;
分析与统计模块,用于接收所述数据查询模块的查询结果,并根据查询结果进行分析和统计。按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次;按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间;按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别;按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄;按照展品区域和人脸的表情估计值,统计不同人脸表情的比例。
本发明与现有技术相比存在的有益效果是:本发明根据人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号以及人脸在所述展品区域的停留时间等在时间维度和空间维度上展开分析,得出不同时间、不同展品对参观者属性的影响,进而可以分析出展品对何种人群具有吸引度,以及何种展品的吸引度比较高,具有较强的易用性和实用性。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明第一实施例提供的展品吸引度的分析方法的示意流程图;
图2是本发明第二实施例提供的展品吸引度的分析系统的示意框图;
图3是本发明第三实施例提供的展品吸引度的分析系统的另一示意框图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本发明说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
为了说明本发明所述的技术方案,下面通过具体实施例来进行说明。
实施例一:
参见图1,图1是本发明实施例一提供的展品吸引度的分析方法的示意流程图,如图所示该方法可以包括以下步骤:
步骤S101,通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧。
在本发明实施例中,通过多个摄像头采集不同展品区域的视频,每个展品区域对应至少一个摄像头。通过所述摄像头可以采集到参观所述展品区域的用户数据。
步骤S102,对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角。
较佳的,本发明实施例还可以包括:
基于所述人脸关键点的坐标,将当前帧图像检测到的人脸与上一帧图像检测到的人脸进行匹配;
若两帧图像的匹配度高于预设值(例如0.5),则确定所述两帧图像中的人脸为同一人,并对该人脸进行编号。
在本发明实施例中,将当前图像帧检测到的人脸与上一帧图像检测到的人脸进行匹配,因为图像帧的连续性,两帧图像中人脸的位置具有连续性。按照两帧图像中人脸的位置进行覆盖率计算,将覆盖率高于所述预设值的前后帧图像中的人脸确认为同一人。通过该方案可以获得该摄像头对应的展品区域当前的参观人数、人脸的编号以及各人脸在该展品区域停留的时间
步骤S103,基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值。
具体的可以是,针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸性别识别模块,进行前向计算,获得人脸的性别估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸年龄识别模块,进行前向计算,获得人脸的年龄估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸表情识别模块,进行前向计算,获得人脸的表情估计值。
需要说明的是,所述基于深度学习的人脸性别识别模块、人脸年龄识别模块以及所述人脸表情识别模块可以是现有可进行人脸性别识别、人脸年龄识别、人脸表情识别的网络模型。
步骤S104,获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的获得时间拍摄时间。
在本发明实施例中,在检测到人脸后,对每个人脸进行编号,并记录该人脸在对应展品区域的停留时间。所述人脸的编号可以与所述展品区域的编号相关联。例如,所述展品区域的编号为1,则在该展品区域的人脸的编号可以对应为11、12、13等。
步骤S105,根据所述人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间分析得到所述展品区域的展品吸引度信息。
在本发明实施例中,数据库中存储的数据包括人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间。通过这些数据可以得出不同时间、不同展品对参观者属性的影响,进而可以分析出展品对何种人群具有吸引度,以及何种展品的吸引度比较高。
一般的,数据库在存储的过程中,按照日期和展品区域进行存储,即每一天生成的数据按照展品区域不同存储到不同的数据库的表中。采用此种分表存储方式,便于数据库检索时减少检索时间。
进一步的,所述方法还可以包括:
接收用户的查询请求信息,所述查询请求信息中包含查询的时间段信息以及展品区域信息;
根据所述查询请求信息,对存储的所述展品区域的展品吸引度信息进行查询,并以图表的方式显示查询结果。
进一步的,所述方法还可以包括:
查询后的条目中,按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次,以不同时间段尺度,列举时间-参观人次表格,并绘制时间-参观人次的柱状图或折线图或饼状图;以及,统计各个展品区域的参观人次,列举展品区域-参观人次表格,并绘制展品区域-参观人次的柱状图或折线图或饼状图;
查询后的条目中,按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间,从而统计参观人次中不同停留时间的比例,并绘制停留时长-参观人次的柱状图或折线图或饼状图;
查询后的条目中,按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别,从而统计参观人次中不同性别的比例,并绘制性别-参观人次的柱状图或折线图或饼状图;
查询后的条目中,按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄,从而统计参观人次中不同年龄的比例,并绘制年龄-参观人次的柱状图或折线图或饼状图;
查询后的条目中,按照展品区域和人脸的表情估计值,统计不同人脸表情的比例,并绘制展品区域-人脸表情的柱状图或折线图或饼状图。
本发明实施例按照查询条件筛选出的条目中,按照空间(不同展品区域)、时间、属性(包括人脸、性别、年龄、表情、停留时长)等多个维度,进行多种维度组合的统计和分析,如不同展品区域的人数分布、不同展品区域的性别分布、不同展品区域的年龄分布、不同展品区域的表情分布以及不同时间段的人脸、性别、年龄、表情等属性的分布,以及三维组合如不同时间段内不同展品区域之间的人脸、性别、年龄、表情等属性的分布。按照上述的分析方式,可以对不同展品区域的参观人群有详细的分析,从而可以得出不同展品对何种人群具有吸引度。
应理解,在上述实施例二中,各步骤的序号的大小并不意味着执行顺序的先后,各步骤的执行顺序应以其功能和内在逻辑确定,而不应对本发明实施例的实施过程构成任何限定。
实施例二:
参见图2,图2是本发明实施例二提供的展品吸引度的分析系统的示意框图,为了便于说明,仅示出与本发明实施例相关的部分。
该展品吸引度的分析系统可以是内置于终端设备(例如手机、平板电脑、笔记本、计算机、穿戴设备等)内的软件单元、硬件单元或者软硬结合的单元,也可以作为独立的挂件集成到所述终端设备中。
所述展品吸引度的分析系统包括:
视频输入模块21,用于通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;
人脸检测模块22,用于对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;
识别模块23,用于基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至人脸性别识别、人脸年龄识别和人脸表情识别子模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
数据存储模块24,用于获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间、所述图像帧的拍摄时间以及所述识别模块的识别结果,并将以上数据存储到数据库表格中,表格内容包括图像帧的拍摄时间、展品区域的编号、人脸的编号、人脸在展品区域的停留时间、人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
数据查询模块25,用于将所述用户输入模块输入的时间区域和展品区域作为查询条件,对所述数据存储模块中存储的数据进行查询,并将满足查询条件的数据输出。
分析与统计模块26,用于接收所述数据查询模块的查询结果,并根据查询结果进行分析和统计。按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次;按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间;按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别;按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄;按照展品区域和人脸的表情估计值,统计不同人脸表情的比例。
可选的,所述系统还包括:
匹配模块27,用于基于所述人脸关键点的坐标,将当前帧图像检测到的人脸与上一帧图像检测到的人脸进行匹配;
确定模块28,用于若两帧图像的匹配度高于预设值,则确定所述两帧图像中的人脸为同一人,并对该人脸进行编号。
可选的,所述识别模块23包括:
人脸性别识别单元231,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸性别识别子模块,进行前向计算,获得人脸的性别估计值;
人脸年龄识别单元232,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸年龄识别子模块,进行前向计算,获得人脸的年龄估计值;
人脸表情识别单元233,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸表情识别子模块,进行前向计算,获得人脸的表情估计值。
可选的,所述系统还包括:
用户输入模块29,用于用户输入时间区域和展品区域,基于该输入分析在输入的时间区域内和展品区域内的展品吸引度。
结果与显示模块210,用于接收所述分析与统计模块的结果,并将结果以表格、折线图、柱状图、饼状图等形式进行显示。
可选的,所述分析与统计模块26具体用于:
按照人脸的编号和时间,获取所述分析与统计模块的结果,根据各个时间段内各个展品区域的参观人次,以不同时间段尺度,列举时间-参观人次表格,并绘制时间-参观人次的柱状图或折线图或饼状图;以及,根据各个展品区域的参观人次,列举展品区域-参观人次表格,并绘制展品区域-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸在所述展品区域的停留时间,获取所述分析与统计模块的结果,根据每个人脸的最长停留时间,绘制停留时长-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的性别估计值,获取所述分析与统计模块的结果,根据每个人脸的性别,绘制性别-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的年龄估计值,获取所述分析与统计模块的结果,根据每个人脸的年龄,绘制年龄-参观人次的柱状图或折线图或饼状图;
按照展品区域和人脸的表情估计值,获取所述分析与统计模块的结果,根据不同人脸表情的比例,绘制展品区域-人脸表情的柱状图或折线图或饼状图。
所属领域的技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即所述系统的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元或模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元或模块既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例的对应过程,在此不再赘述。
实施例三:
参见图3,图3是本发明实施例三提供的展品吸引度的分析系统的另一示意框图。如图所示的该展品吸引度的分析系统可以包括:一个或多个处理器301(图3中仅示出一个);一个或多个输入设备302(图3中仅示出一个),一个或多个输出设备303(图3中仅示出一个)和存储器304。上述处理器301、输入设备302、输出设备303和存储器304通过总线305连接。存储器304用于存储指令,处理器301用于执行存储器304存储的指令。其中:
所述处理器301,用于通过输入设备302采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;所述处理器301对解码后的图像帧进行人脸检测,并通过存储器304保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;所述处理器301还用于基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值,并获取存储在所述存储器304中的展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间等信息;所述处理器301根据所述人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间分析得到所述展品区域的展品吸引度信息。
可选的,所述处理器301还用于基于所述人脸关键点的坐标,将当前帧图像检测到的人脸与上一帧图像检测到的人脸进行匹配;若两帧图像的匹配度高于预设值,则确定所述两帧图像中的人脸为同一人,并对该人脸进行编号。
可选的,所述处理器301用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸性别识别模块,进行前向计算,获得人脸的性别估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸年龄识别模块,进行前向计算,获得人脸的年龄估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸表情识别模块,进行前向计算,获得人脸的表情估计值。
可选的,所述处理器301用于通过所述输入设备302接收用户的查询请求信息,所述查询请求信息中包含查询的时间段信息以及展品区域信息;根据所述查询请求信息,对存储器304中存储的所述展品区域的展品吸引度信息进行查询,并通过输出设备303以图表的方式显示查询结果。
可选的,所述处理器301用于按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次,以不同时间段尺度,列举时间-参观人次表格,并绘制时间-参观人次的柱状图或折线图或饼状图;以及,统计各个展品区域的参观人次,列举展品区域-参观人次表格,并绘制展品区域-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间,并绘制停留时长-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别,并绘制性别-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄,并绘制年龄-参观人次的柱状图或折线图或饼状图;
按照展品区域和人脸的表情估计值,统计不同人脸表情的比例,并绘制展品区域-人脸表情的柱状图或折线图或饼状图。
所述存储器304,用于存储软件程序、模块、单元以及展品吸引度的分析系统中需要的数据信息,所述处理器301通过运行存储在所述存储器304的软件程序、模块以及单元,从而执行各种功能应用以及数据处理,获得所述展品区域的展品吸引度信息。
应当理解,在本发明实施例中,所称处理器301可以是中央处理单元(CentralProcessing Unit,CPU),该处理器还可以是其他通用处理器、数字信号处理器(DigitalSignal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
输入设备302可以包括触控板、指纹采集传感器(用于采集用户的指纹信息和指纹的方向信息)、麦克风、数据采集装置、摄像头、数据接收装置等。输出设备303可以包括显示器(LCD等)、扬声器、数据发送装置等。
该存储器304可以包括只读存储器和随机存取存储器,并向处理器301提供指令和数据。存储器304的一部分还可以包括非易失性随机存取存储器。例如,存储器304还可以存储设备类型的信息。
具体实现中,本发明实施例中所描述的处理器301、输入设备302、输出设备303和存储器304可执行本发明实施例提供的展品吸引度的分析方法的实施例中所描述的实现方式,也可执行展品吸引度的分析系统的实施例二中所描述的实现方式,在此不再赘述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的模块及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本发明所提供的实施例中,应该理解到,所揭露的系统和方法,可以通过其它的方式实现。例如,以上所描述的实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实施例的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本发明实施例各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述实施例仅用以说明本发明的技术方案,而非对其限制;尽管参照前述实施例对本发明进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本发明实施例各实施例技术方案的精神和范围。

Claims (10)

1.一种展品吸引度的分析方法,其特征在于,包括:
通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;
对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;
基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间;
根据所述人脸的性别估计值、人脸的年龄估计值、人脸的表情估计值、展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间以及所述图像帧的拍摄时间分析得到所述展品区域的展品吸引度信息。
2.根据权利要求1所述的方法,其特征在于,在保存检测到的人脸关键点的坐标之后,还包括:
基于所述人脸关键点的坐标,将当前帧图像检测到的人脸与上一帧图像检测到的人脸进行匹配;
若两帧图像的匹配度高于预设值,则确定所述两帧图像中的人脸为同一人,并对该人脸进行编号。
3.根据权利要求1所述的方法,其特征在于,所述基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至识别模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值包括:
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸性别识别模块,进行前向计算,获得人脸的性别估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸年龄识别模块,进行前向计算,获得人脸的年龄估计值;
针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸表情识别模块,进行前向计算,获得人脸的表情估计值。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
接收用户的查询请求信息,所述查询请求信息中包含查询的时间段信息以及展品区域信息;
根据所述查询请求信息,对存储的所述展品区域的展品吸引度信息进行查询,并以图表的方式显示查询结果。
5.根据权利要求4所述的方法,其特征在于,所述方法还包括:
按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次,以不同时间段尺度,列举时间-参观人次表格,并绘制时间-参观人次的柱状图或折线图或饼状图;以及,统计各个展品区域的参观人次,列举展品区域-参观人次表格,并绘制展品区域-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间,并绘制停留时长-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别,并绘制性别-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄,并绘制年龄-参观人次的柱状图或折线图或饼状图;
按照展品区域和人脸的表情估计值,统计不同人脸表情的比例,并绘制展品区域-人脸表情的柱状图或折线图或饼状图。
6.一种展品吸引度的分析系统,其特征在于,包括:
视频输入模块,用于通过摄像头采集展品区域的视频,并对所述视频进行解码,获得解码后的图像帧;
人脸检测模块,用于对解码后的图像帧进行人脸检测,并保存检测到的人脸关键点的坐标,所述人脸关键点包括左眼中心、右眼中心、鼻头中心、左嘴角以及右嘴角;
识别模块,用于基于所述人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至人脸性别识别、人脸年龄识别和人脸表情识别子模块进行计算,获得人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;
数据存储模块,用于获取所述展品区域的编号、人脸的编号、人脸在所述展品区域的停留时间、所述图像帧的拍摄时间以及所述识别模块的识别结果,并将以上数据存储到数据库表格中,表格内容包括图像帧的拍摄时间、展品区域的编号、人脸的编号、人脸在展品区域的停留时间、人脸的性别估计值、人脸的年龄估计值以及人脸的表情估计值;数据查询模块,用于将时间区域和展品区域作为查询条件,对所述数据存储模块中存储的数据进行查询,并将满足查询条件的数据输出;
分析与统计模块,用于接收所述数据查询模块的查询结果,并根据查询结果进行分析和统计,按照人脸的编号和时间,统计各个时间段内各个展品区域的参观人次;按照人脸的编号和人脸在所述展品区域的停留时间,计算每个人脸的最长停留时间;按照人脸的编号和人脸的性别估计值,以最多次估计值为准确定每个人脸的性别;按照人脸的编号和人脸的年龄估计值,以最多次估计值为准确定每个人脸的年龄;按照展品区域和人脸的表情估计值,统计不同人脸表情的比例。
7.根据权利要求6所述的系统,其特征在于,所述系统还包括:
匹配模块,用于基于所述人脸关键点的坐标,将当前帧图像检测到的人脸与上一帧图像检测到的人脸进行匹配;
确定模块,用于若两帧图像的匹配度高于预设值,则确定所述两帧图像中的人脸为同一人,并对该人脸进行编号。
8.根据权利要求6所述的系统,其特征在于,所述识别模块包括:
人脸性别识别单元,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸性别识别子模块,进行前向计算,获得人脸的性别估计值;
人脸年龄识别单元,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸年龄识别子模块,进行前向计算,获得人脸的年龄估计值;
人脸表情识别单元,用于针对获得的人脸图像,基于人脸关键点的坐标,对人脸进行校正和关键点对准,并将校正以及对准后的人脸数据发送至基于深度学习的人脸表情识别子模块,进行前向计算,获得人脸的表情估计值。
9.根据权利要求6所述的系统,其特征在于,所述系统还包括:
用户输入模块,用于用户输入时间区域和展品区域,基于该输入分析在输入的时间区域内和展品区域内的展品吸引度;
结果与显示模块,用于接收所述分析与统计模块的结果,并将结果以图表的方式进行显示。
10.根据权利要求9所述的系统,其特征在于,所述系统还包括结果与显示模块,所述结果与显示模块用于:按照人脸的编号和时间,获取所述分析与统计模块的结果,根据各个时间段内各个展品区域的参观人次,以不同时间段尺度,列举时间-参观人次表格,并绘制时间-参观人次的柱状图或折线图或饼状图;以及,根据各个展品区域的参观人次,列举展品区域-参观人次表格,并绘制展品区域-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸在所述展品区域的停留时间,获取所述分析与统计模块的结果,根据每个人脸的最长停留时间,绘制停留时长-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的性别估计值,获取所述分析与统计模块的结果,根据每个人脸的性别,绘制性别-参观人次的柱状图或折线图或饼状图;
按照人脸的编号和人脸的年龄估计值,获取所述分析与统计模块的结果,根据每个人脸的年龄,绘制年龄-参观人次的柱状图或折线图或饼状图;
按照展品区域和人脸的表情估计值,获取所述分析与统计模块的结果,根据不同人脸表情的比例,绘制展品区域-人脸表情的柱状图或折线图或饼状图。
CN201611269922.8A 2016-12-30 2016-12-30 一种展品吸引度的分析方法及系统 Pending CN106682637A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611269922.8A CN106682637A (zh) 2016-12-30 2016-12-30 一种展品吸引度的分析方法及系统

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611269922.8A CN106682637A (zh) 2016-12-30 2016-12-30 一种展品吸引度的分析方法及系统

Publications (1)

Publication Number Publication Date
CN106682637A true CN106682637A (zh) 2017-05-17

Family

ID=58850636

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611269922.8A Pending CN106682637A (zh) 2016-12-30 2016-12-30 一种展品吸引度的分析方法及系统

Country Status (1)

Country Link
CN (1) CN106682637A (zh)

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107832700A (zh) * 2017-11-03 2018-03-23 全悉科技(北京)有限公司 一种人脸识别方法与系统
CN109492571A (zh) * 2018-11-02 2019-03-19 北京地平线机器人技术研发有限公司 识别人体年龄的方法、装置及电子设备
WO2019056503A1 (zh) * 2017-09-25 2019-03-28 平安科技(深圳)有限公司 门店监控评价方法、装置及存储介质
CN109727303A (zh) * 2018-12-29 2019-05-07 广州华多网络科技有限公司 视频展示方法、系统、计算机设备、存储介质和终端
CN109951740A (zh) * 2019-04-03 2019-06-28 北京市商汤科技开发有限公司 视频处理方法及装置、电子设备和存储介质
CN110149500A (zh) * 2019-05-24 2019-08-20 深圳市珍爱云信息技术有限公司 监控视频的处理方法、装置、设备和存储介质
CN111144359A (zh) * 2019-12-31 2020-05-12 安徽智恒信科技股份有限公司 一种展品评价装置和方法及展品推送方法
CN111310602A (zh) * 2020-01-20 2020-06-19 北京正和恒基滨水生态环境治理股份有限公司 一种基于情绪识别的展品关注度分析系统及分析方法
CN111582064A (zh) * 2020-04-21 2020-08-25 力引万物(深圳)科技有限公司 线下活动效果评估方法及其评估系统
CN112307871A (zh) * 2020-05-29 2021-02-02 北京沃东天骏信息技术有限公司 信息采集方法和装置、关注度检测方法、装置和系统
CN112446337A (zh) * 2020-12-02 2021-03-05 电子科技大学 一种基于表情识别的智慧博物馆管理系统
WO2021135196A1 (zh) * 2019-12-31 2021-07-08 北京市商汤科技开发有限公司 展示区域的状态识别方法、装置、电子设备及存储介质

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101114339A (zh) * 2007-07-17 2008-01-30 李东亚 一种可视媒体受众信息反馈系统和方法
CN101588443A (zh) * 2009-06-22 2009-11-25 费炜 基于人脸检测的电视收视率统计装置及检测方法
CN102222306A (zh) * 2011-06-23 2011-10-19 迈普通信技术股份有限公司 单向视频广告投放效果反馈方法及反馈系统
CN102446327A (zh) * 2010-10-15 2012-05-09 汉王科技股份有限公司 基于人脸识别的广告投放装置及广告投放方法
CN102799265A (zh) * 2012-06-26 2012-11-28 宇龙计算机通信科技(深圳)有限公司 一种播放广告的方法、智能广告终端、服务器及系统
CN102881239A (zh) * 2011-07-15 2013-01-16 鼎亿数码科技(上海)有限公司 基于图像识别的广告投播系统及方法
US20130182149A1 (en) * 2007-02-28 2013-07-18 National University Of Ireland Separating Directional Lighting Variability in Statistical Face Modelling Based on Texture Space Decomposition
CN103226586A (zh) * 2013-04-10 2013-07-31 中国科学院自动化研究所 基于能量分布最优策略的视频摘要方法
CN104794443A (zh) * 2015-04-16 2015-07-22 杭州中威电子股份有限公司 一种基于图像处理的自助存取款机实时人数检测方法
CN105678811A (zh) * 2016-02-25 2016-06-15 上海大学 一种基于运动检测的人体异常行为检测方法
CN105718873A (zh) * 2016-01-18 2016-06-29 北京联合大学 基于双目视觉的人流分析方法

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20130182149A1 (en) * 2007-02-28 2013-07-18 National University Of Ireland Separating Directional Lighting Variability in Statistical Face Modelling Based on Texture Space Decomposition
CN101114339A (zh) * 2007-07-17 2008-01-30 李东亚 一种可视媒体受众信息反馈系统和方法
CN101588443A (zh) * 2009-06-22 2009-11-25 费炜 基于人脸检测的电视收视率统计装置及检测方法
CN102446327A (zh) * 2010-10-15 2012-05-09 汉王科技股份有限公司 基于人脸识别的广告投放装置及广告投放方法
CN102222306A (zh) * 2011-06-23 2011-10-19 迈普通信技术股份有限公司 单向视频广告投放效果反馈方法及反馈系统
CN102881239A (zh) * 2011-07-15 2013-01-16 鼎亿数码科技(上海)有限公司 基于图像识别的广告投播系统及方法
CN102799265A (zh) * 2012-06-26 2012-11-28 宇龙计算机通信科技(深圳)有限公司 一种播放广告的方法、智能广告终端、服务器及系统
CN103226586A (zh) * 2013-04-10 2013-07-31 中国科学院自动化研究所 基于能量分布最优策略的视频摘要方法
CN104794443A (zh) * 2015-04-16 2015-07-22 杭州中威电子股份有限公司 一种基于图像处理的自助存取款机实时人数检测方法
CN105718873A (zh) * 2016-01-18 2016-06-29 北京联合大学 基于双目视觉的人流分析方法
CN105678811A (zh) * 2016-02-25 2016-06-15 上海大学 一种基于运动检测的人体异常行为检测方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
栾悉道,谢毓湘,老松杨: "《多媒体情报处理技术》", 31 May 2016, 国防工业出版社 *

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019056503A1 (zh) * 2017-09-25 2019-03-28 平安科技(深圳)有限公司 门店监控评价方法、装置及存储介质
CN107832700A (zh) * 2017-11-03 2018-03-23 全悉科技(北京)有限公司 一种人脸识别方法与系统
CN109492571B (zh) * 2018-11-02 2020-10-09 北京地平线机器人技术研发有限公司 识别人体年龄的方法、装置及电子设备
CN109492571A (zh) * 2018-11-02 2019-03-19 北京地平线机器人技术研发有限公司 识别人体年龄的方法、装置及电子设备
CN109727303A (zh) * 2018-12-29 2019-05-07 广州华多网络科技有限公司 视频展示方法、系统、计算机设备、存储介质和终端
CN109951740A (zh) * 2019-04-03 2019-06-28 北京市商汤科技开发有限公司 视频处理方法及装置、电子设备和存储介质
CN110149500A (zh) * 2019-05-24 2019-08-20 深圳市珍爱云信息技术有限公司 监控视频的处理方法、装置、设备和存储介质
CN111144359A (zh) * 2019-12-31 2020-05-12 安徽智恒信科技股份有限公司 一种展品评价装置和方法及展品推送方法
WO2021135196A1 (zh) * 2019-12-31 2021-07-08 北京市商汤科技开发有限公司 展示区域的状态识别方法、装置、电子设备及存储介质
CN111144359B (zh) * 2019-12-31 2023-06-30 安徽智恒信科技股份有限公司 一种展品评价装置和方法及展品推送方法
CN111310602A (zh) * 2020-01-20 2020-06-19 北京正和恒基滨水生态环境治理股份有限公司 一种基于情绪识别的展品关注度分析系统及分析方法
CN111582064A (zh) * 2020-04-21 2020-08-25 力引万物(深圳)科技有限公司 线下活动效果评估方法及其评估系统
CN112307871A (zh) * 2020-05-29 2021-02-02 北京沃东天骏信息技术有限公司 信息采集方法和装置、关注度检测方法、装置和系统
WO2021238664A1 (zh) * 2020-05-29 2021-12-02 北京沃东天骏信息技术有限公司 信息采集方法和装置、关注度检测方法、装置和系统
CN112446337A (zh) * 2020-12-02 2021-03-05 电子科技大学 一种基于表情识别的智慧博物馆管理系统

Similar Documents

Publication Publication Date Title
CN106682637A (zh) 一种展品吸引度的分析方法及系统
JP7229174B2 (ja) 人識別システム及び方法
US11747898B2 (en) Method and apparatus with gaze estimation
WO2021135196A1 (zh) 展示区域的状态识别方法、装置、电子设备及存储介质
WO2021082635A1 (zh) 一种关注区域检测方法、装置、可读存储介质及终端设备
CN106856015B (zh) 一种考勤方法及装置
US20050228868A1 (en) Data notification method and system thereof
US11321588B2 (en) System for identifying pests and monitoring information through image analysis, and monitoring method using same
CN107563336A (zh) 用于名人匹配游戏的人脸相似度分析方法、装置和系统
CN106202304A (zh) 基于视频的商品推荐方法及装置
WO2021238664A1 (zh) 信息采集方法和装置、关注度检测方法、装置和系统
TWI754456B (zh) 區域部署方法、裝置及電腦可讀取記錄媒體
CN107302492A (zh) 社交软件的交友请求方法、服务器、客户端装置和系统
JP2024041796A (ja) 情報処理装置
Chang et al. A deep learning based wearable medicines recognition system for visually impaired people
US20210192270A1 (en) Person indentification systems and methods
JP2012022538A (ja) 注目位置推定方法、画像表示方法、注目コンテンツ表示方法、注目位置推定装置および画像表示装置
AU2021232718A1 (en) Media content tracking
CN115481893A (zh) 适用于博物馆的智能物联网管理方法、装置、设备及存储介质
CN109034059A (zh) 静默式人脸活体检测方法、装置、存储介质及处理器
JP2014153815A (ja) 推定装置、その方法及びそのプログラム
CN105359188B (zh) 属性估计系统
JP6506459B1 (ja) 情報処理システム、情報処理装置、情報処理方法及びプログラム
CN112351389A (zh) 商业场所内人员轨迹的跟踪方法、装置、终端、介质、系统
Alameda-Pineda et al. Salsa: A multimodal dataset for the automated analysis of free-standing social interactions

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20170517

RJ01 Rejection of invention patent application after publication