CN113010017B - 一种多媒体信息交互显示方法、系统及电子设备 - Google Patents
一种多媒体信息交互显示方法、系统及电子设备 Download PDFInfo
- Publication number
- CN113010017B CN113010017B CN202110334765.9A CN202110334765A CN113010017B CN 113010017 B CN113010017 B CN 113010017B CN 202110334765 A CN202110334765 A CN 202110334765A CN 113010017 B CN113010017 B CN 113010017B
- Authority
- CN
- China
- Prior art keywords
- information
- face
- user
- content
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 39
- 230000002452 interceptive effect Effects 0.000 title claims abstract description 13
- 230000009471 action Effects 0.000 claims abstract description 26
- 239000004973 liquid crystal related substance Substances 0.000 claims description 35
- 238000007418 data mining Methods 0.000 claims description 16
- 238000004458 analytical method Methods 0.000 claims description 14
- 230000004424 eye movement Effects 0.000 claims description 11
- 210000005252 bulbus oculi Anatomy 0.000 claims description 10
- 238000012545 processing Methods 0.000 claims description 10
- 238000004590 computer program Methods 0.000 claims description 8
- 210000001508 eye Anatomy 0.000 claims description 3
- 230000005540 biological transmission Effects 0.000 abstract description 4
- 239000002699 waste material Substances 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 11
- 238000004891 communication Methods 0.000 description 7
- 230000003993 interaction Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000005611 electricity Effects 0.000 description 3
- 239000007789 gas Substances 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000012098 association analyses Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000001815 facial effect Effects 0.000 description 1
- 239000002737 fuel gas Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 210000001747 pupil Anatomy 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/013—Eye tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/14—Digital output to display device ; Cooperation and interconnection of the display device with other functional units
- G06F3/147—Digital output to display device ; Cooperation and interconnection of the display device with other functional units using display panels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
- G06Q50/16—Real estate
- G06Q50/163—Real estate management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Business, Economics & Management (AREA)
- Tourism & Hospitality (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- User Interface Of Digital Computer (AREA)
- Collating Specific Patterns (AREA)
Abstract
本发明公开了一种多媒体信息交互显示方法、系统及电子设备。该方法包括当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值;将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息;当检测到所述用户的第一动作后,更新显示内容为通用内容。本发明极大的提高了信息受众在信息传递过程中的参与感,也大大提升了发送方信息传递的精准性,避免了对信息有效传播空间和时间的浪费。
Description
技术领域
本申请涉及多媒体信息技术领域,具体而言,涉及一种多媒体信息交互显示方法、系统及电子设备。
背景技术
随着等离子、液晶等平板显示设备的普及,网络流媒体技术的进步,其系统架构已经经历了好几代的变革,最初是由显示屏与DVD播放器或PC机组成,之后网络技术引入,专用网络媒体播放器取代了传统的纯粹DVD或PC播放形式,功能变得更丰富、应用也变得更多元。因此,有人把它与纸张媒体、电台、电视和因特网并列,称之为“第五媒体”,具有在特定的时间、特定的地点、对特定的人群进行信息资讯传递的作用。
多媒体信息显示屏融合了多媒体视频信息的多样性和生动性,实现了信息传播的远程集中管理和内容随时更新,使受众在第一时间接收到最新的各类咨询。但由于这些安装在公共场所的显示屏,仅能单向发送信息内容,并不一定能了解信息的受众是否真的需要这些内容,从而造成大量无用信息充斥着受众的传播空间中,一方面让受众感受到信息的无用、无趣甚至产生厌烦,另一方面,这些低效的信息传播空间和时间,对信息的提供和发送方来说,也造成了巨大的浪费。
发明内容
为了解决上述问题,本申请实施例提供了一种多媒体信息交互显示方法、系统及电子设备。
第一方面,本申请实施例提供了一种多媒体信息交互显示方法,所述方法包括:
当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值;
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息;
当检测到所述用户的第一动作后,更新显示内容为通用内容。
优选的,所述当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值,包括:
当在拍摄图像内识别到人脸时,获取包含所述人脸的瞬时照片信息;
对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值。
优选的,所述对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值之后,还包括:
若存在至少两类人脸特征值,则分别对各所述人脸特征值进行标记。
优选的,所述将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息,包括:
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值在所述人员信息数据库中对应的用户的身份信息;
基于所述身份信息从所述人员信息数据库中获取所述用户的强关联内容信息,并显示所述强关联内容信息。
优选的,所述方法还包括:
确定并记录所述用户注视的显示信息类别;
当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容。
优选的,所述确定并记录所述用户注视的显示信息类别包括:
检测所述用户的眼球转动,计算所述用户注视的屏幕坐标;
确定所述屏幕坐标对应的显示信息类别,并记录眼球停留于所述屏幕坐标的停留时间。
优选的,所述当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容,包括:
当再次检测到所述用户的所述第一动作后,获取记录的各所述停留时间之间的比例;
基于所述比例显示各所述停留时间对应的显示信息类别对应内容。
第二方面,本申请实施例提供了一种多媒体信息交互显示系统,所述系统包括:
液晶显示模块,用以显示各资源信息;人脸识别模块,用以采集注视所述液晶显示模块的用户的人脸信息;眼动追踪模块,用以采集所述用户的眼球转动信号;手势识别模块,用以检测所述用户的手部动作特征;数据挖掘分析模块,用以对所述液晶显示模块、人脸识别模块、眼动追踪模块、手势识别模块采集的信息进行分析处理;人员信息数据库,用以对比所述人脸识别模块采集的人脸信息。
第三方面,本发明实施例提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现如第一方面或第一方面的任意一种可能的实现方式提供的方法的步骤。
第四方面,本发明实施例提供了一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现如第一方面或第一方面的任意一种可能的实现方式提供的方法。
本发明的有益效果为:1、通过增加阅读信息过程中的交互,增强了用户观看液晶显示屏的阅读体验。
2、通过对用户数据的匹配、分析和挖掘,了解到特定用户的阅读习惯、兴趣点,从而在用户浏览液晶信息公告屏时,不断地能够阅读到自己感兴趣的内容,大大提升了用户阅读类似小区电梯等待间、电梯轿厢内等公共区域的液晶信息公告屏的兴趣,同时也节省了用户特意去花时间搜索相关周边生活、物业活动信息等内容。
3、获取到观看者身份信息后,第一时间根据其居住信息,推送强关联内容信息如特定的生活类提醒(用电、用水、用气、物业、停车等缴费提示),避免用户在居住时遇到突然因忘记缴费而给生活带来的不便,也让用户感觉到物业服务质量的提升。
4、小区物业可以通过数据挖掘分析统计到重要的物业公告和通知(如因市政维修等工作导致的停水、停电、停气等),是否全部业主全部都阅读过;如有未能及时阅读到重要通知的用户,物业可以通过及时群发短信及时告知,大大提升了物业通知公告传达的精准性,也极大的提升了用户对物业提升服务质量的感受。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例中所需使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种多媒体信息交互显示方法的流程示意图;
图2为本申请实施例提供的一种多媒体信息交互显示系统的架构示意图;
图3为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
在下述介绍中,术语“第一”、“第二”仅为用于描述的目的,而不能理解为指示或暗示相对重要性。下述介绍提供了本发明的多个实施例,不同实施例之间可以替换或者合并组合,因此本发明也可认为包含所记载的相同和/或不同实施例的所有可能组合。因而,如果一个实施例包含特征A、B、C,另一个实施例包含特征B、D,那么本发明也应视为包括含有A、B、C、D的一个或多个所有其他可能的组合的实施例,尽管该实施例可能并未在以下内容中有明确的文字记载。
下面的描述提供了示例,并且不对权利要求书中阐述的范围、适用性或示例进行限制。可以在不脱离本发明内容的范围的情况下,对描述的元素的功能和布置做出改变。各个示例可以适当省略、替代或添加各种过程或组件。例如所描述的方法可以以所描述的顺序不同的顺序来执行,并且可以添加、省略或组合各种步骤。此外,可以将关于一些示例描述的特征组合到其他示例中。
参见图1,图1为本申请实施例提供的一种多媒体信息交互显示方法的流程示意图。在本申请实施例中,所述方法包括:
101、当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值。
在本申请实施例中,液晶显示屏上接有摄像头,会对液晶显示屏前方图像进行拍摄,当在拍摄图像内识别到人脸时,即表明存在用户正在注视显示屏,此时将计算获取该人脸对应的人脸特征值来对其身份进行判断。
在一种可实施方式中,步骤S101包括:
当在拍摄图像内识别到人脸时,获取包含所述人脸的瞬时照片信息;
对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值。
所述瞬时照片信息在本申请实施例中可以理解为液晶显示屏在检测到人脸后所抓拍到的瞬时图像的信息。
在本申请实施例中,在识别到人脸后,摄像头首先将抓拍包含该人脸的瞬时照片信息,并通过该瞬时照片信息进行特征值提取,以此来获得该人脸所对应的人脸特征值。
在一种可实施方式中,所述对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值之后,还包括:
若存在至少两类人脸特征值,则分别对各所述人脸特征值进行标记。
在本申请实施例中,由于同时可能存在多个用户正在注视液晶显示屏,故在得到人脸特征值后,将对所有人脸特征值进行判断。若存在至少两类人脸特征值,则说明至少存在两个用户同时注视显示屏,为了便于区分,将分别对每一类人脸特征值进行标记。
102、将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息。
所述强关联内容信息在本申请实施例中可以理解为与用户关联性较强的内容信息,例如水电费、燃气费、物业费、停车费等余额不足的提示信息。
在本申请实施例中,预设有人员信息数据库,人员信息数据库中存储有所有人员的包括面部特征在内的相关信息。故将人脸特征值与人员信息数据库进行比对,便能够确认其对应的客户的强关联内容信息,进而能够将该强关联内容信息显示在液晶显示屏上,以此对用户进行提示。
在一种可实施方式中,步骤S102包括:
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值在所述人员信息数据库中对应的用户的身份信息;
基于所述身份信息从所述人员信息数据库中获取所述用户的强关联内容信息,并显示所述强关联内容信息。
在本申请实施例中,首先将基于人脸特征值与人员信息数据库的比对来确定该人脸特征值对应用户的身份信息。在确定了用户的身份后,便能再次根据该身份信息从人员信息数据库中查找到该身份信息相关的强关联内容信息。
103、当检测到所述用户的第一动作后,更新显示内容为通用内容。
所述第一动作在本申请实施例中可以理解为用户对着液晶显示屏的摄像头所执行的动作。具体而言,第一动作可以是挥手动作。
在本申请实施例中,用户若观看完了显示的强关联内容信息,或不想观看强关联内容信息时,可以通过对着显示屏进行挥手动作,来控制显示屏对显示内容进行翻页操作。执行翻页操作后,显示屏将显示通用的公告内容信息。
在一种可实施方式中,所述方法还包括:
确定并记录所述用户注视的显示信息类别;
当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容。
在本申请实施例中,显示了通用内容后,液晶显示屏将确定并记录用户所注视的内容部分的显示信息类别,即确定用户可能对哪一类别的信息感兴趣。当再次检测到用户的第一动作而进行翻页操作时,液晶显示屏所显示的新内容中将主要为用户可能感兴趣的信息类别(如关于房屋拆迁进展的通知、最近的天气变化或物业即将在小区广场组织的群众文化活动等等)。
在一种可实施方式中,所述确定并记录所述用户注视的显示信息类别包括:
检测所述用户的眼球转动,计算所述用户注视的屏幕坐标;
确定所述屏幕坐标对应的显示信息类别,并记录眼球停留于所述屏幕坐标的停留时间。
在本申请实施例中,将持续监测用户的眼球转动情况,进而计算判断出用户注视的屏幕坐标,根据得到的屏幕坐标,即可将屏幕坐标与当前页面所显示的内容信息进行匹配,获得用户关注的显示信息类别以及信息内容,同时分别记录用户在关注各显示信息类别的内容时所停留的时间,可以通过停留时间来判断用户对于各类信息的可能感兴趣程度。
在一种可实施方式中,所述当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容,包括:
当再次检测到所述用户的所述第一动作后,获取记录的各所述停留时间之间的比例;
基于所述比例显示各所述停留时间对应的显示信息类别对应内容。
在本申请实施例中,由于用户可能会对显示内容的多个部分进行不同时间的停留,当用户再次执行第一动作对显示屏进行翻页操作时,液晶显示屏将根据记录的各个停留时间之间的比例关系作为参考依据,按照该比例关系来在新的页面上显示各类用户可能感兴趣的显示信息类别对应内容。
下面将结合附图2,对本发明实施例提供的多媒体信息交互显示系统进行详细介绍。需要说明的是,附图2所示的多媒体信息交互显示系统,用于执行本发明图1所示实施例的方法,为了便于说明,仅示出了与本发明实施例相关的部分,具体技术细节未揭示的,请参考本发明图1所示的实施例。
请参见图2,图2是本发明实施例提供的一种多媒体信息交互显示系统。如图2所示,所述装置包括:
液晶显示模块,用以显示各资源信息;人脸识别模块,用以采集注视所述液晶显示模块的用户的人脸信息;眼动追踪模块,用以采集所述用户的眼球转动信号;手势识别模块,用以检测所述用户的手部动作特征;数据挖掘分析模块,用以对所述液晶显示模块、人脸识别模块、眼动追踪模块、手势识别模块采集的信息进行分析处理;人员信息数据库,用以对比所述人脸识别模块采集的人脸信息。
具体的,液晶显示模块,主要部署在人员密集、等待区域,播放文字、图片、视频等资源信息;
人脸识别模块(含摄像头),部署在液晶显示屏(液晶显示模块)正中间位置,用于采集观看液晶显示模块的用户面部信息,将人脸信息发送至数据挖掘分析模块进行比对用户身份信息;
眼动追踪模块,部署在人脸识别模块旁边,用于采集观看液晶显示模块的用户眼动信号的采集和预处理、 端点检测、 有效眼动信号的提取、 特征提取。并将眼动信号特征发送至数据挖掘分析模块进行眼动方向判断、瞳孔注视屏幕界面坐标等分析;
手势识别模块,部署在人脸识别模块旁边,用于监测观看液晶显示模块的人手动作特征,并根据特征值判断后反馈给液晶显示模块;
数据挖掘分析模块,部署在后台服务器端,用于接收人脸识别模块发送的人脸特征信息,进而与人员信息库比对判断观看液晶显示模块的用户身份,并在人员数据库中查询该用户的其他相关信息用于数据关联分析及数据挖掘;用于接收眼动追踪模块发来的信息,用于判断用户的浏览液晶显示模块的实际板块(根据眼动注视坐标位置),以及分析该用户可能感兴趣的领域,服务于数据挖掘算法;用于接收手势识别模块发来的信息,用于判断用户在交互过程中需要实现的动作意思,如翻页、暂停等需求,然后给液晶显示模块发送相关页面内容或指令信息;除此之外,数据挖掘分析模块还可以根据上述各模块提供的信息,进行综合性信息分析及数据挖掘,在系统中对用户进行“画像”,然后根据用户的兴趣点,组织相应的内容发送到液晶显示模块上进行显示。
人员信息数据库,部署在后端的服务器,用于存储人员的人脸照片、人脸特征值、姓名、电话、家庭住址、居住身份信息(业主还是租户)、居住登记时间、物业生活信息(物业费缴纳情况、水电燃气费缴纳情况、停车费缴纳情况)、相关家庭人员信息情况等;用于与数据挖掘分析模块进行对接,比对人员身份、提供人员相关信息等。
此外,人脸识别模块持续监测当前观看液晶屏幕的用户是否发生变化,如果发生人员变动,则将新的用户人脸信息发送至数据挖掘分析模块,做出相应的关联变更;如果监测未发现人脸信息,则表示当前无人观看液晶屏幕,也将该信息发送给数据挖掘分析模块,停止进行数据挖掘分析操作。
本领域的技术人员可以清楚地了解到本发明实施例的技术方案可借助软件和/或硬件来实现。本说明书中的“单元”和“模块”是指能够独立完成或与其他部件配合完成特定功能的软件和/或硬件,其中硬件例如可以是现场可编程门阵列(Field-ProgrammableGate Array,FPGA)、集成电路(Integrated Circuit,IC)等。
本发明实施例的各处理单元和/或模块,可通过实现本发明实施例所述的功能的模拟电路而实现,也可以通过执行本发明实施例所述的功能的软件而实现。
参见图3,其示出了本发明实施例所涉及的一种电子设备的结构示意图,该电子设备可以用于实施图1所示实施例中的方法。如图3所示,电子设备300可以包括:至少一个中央处理器301,至少一个网络接口304,用户接口303,存储器305,至少一个通信总线302。
其中,通信总线302用于实现这些组件之间的连接通信。
其中,用户接口303可以包括显示屏(Display)、摄像头(Camera),可选用户接口303还可以包括标准的有线接口、无线接口。
其中,网络接口304可选的可以包括标准的有线接口、无线接口(如WI-FI接口)。
其中,中央处理器301可以包括一个或者多个处理核心。中央处理器301利用各种接口和线路连接整个终端300内的各个部分,通过运行或执行存储在存储器305内的指令、程序、代码集或指令集,以及调用存储在存储器305内的数据,执行终端300的各种功能和处理数据。可选的,中央处理器301可以采用数字信号处理(Digital Signal Processing,DSP)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)、可编程逻辑阵列(Programmable Logic Array,PLA)中的至少一种硬件形式来实现。中央处理器301可集成中央中央处理器(Central Processing Unit,CPU)、图像中央处理器(GraphicsProcessing Unit,GPU)和调制解调器等中的一种或几种的组合。其中,CPU主要处理操作系统、用户界面和应用程序等;GPU用于负责显示屏所需要显示的内容的渲染和绘制;调制解调器用于处理无线通信。可以理解的是,上述调制解调器也可以不集成到中央处理器301中,单独通过一块芯片进行实现。
其中,存储器305可以包括随机存储器(Random Access Memory,RAM),也可以包括只读存储器(Read-Only Memory)。可选的,该存储器305包括非瞬时性计算机可读介质(non-transitory computer-readable storage medium)。存储器305可用于存储指令、程序、代码、代码集或指令集。存储器305可包括存储程序区和存储数据区,其中,存储程序区可存储用于实现操作系统的指令、用于至少一个功能的指令(比如触控功能、声音播放功能、图像播放功能等)、用于实现上述各个方法实施例的指令等;存储数据区可存储上面各个方法实施例中涉及到的数据等。存储器305可选的还可以是至少一个位于远离前述中央处理器301的存储装置。如图3所示,作为一种计算机存储介质的存储器305中可以包括操作系统、网络通信模块、用户接口模块以及程序指令。
在图3所示的电子设备300中,用户接口303主要用于为用户提供输入的接口,获取用户输入的数据;而处理器301可以用于调用存储器305中存储的多媒体信息交互显示应用程序,并具体执行以下操作:
当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值;
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息;
当检测到所述用户的第一动作后,更新显示内容为通用内容。
本发明还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述方法的步骤。其中,计算机可读存储介质可以包括但不限于任何类型的盘,包括软盘、光盘、DVD、CD-ROM、微型驱动器以及磁光盘、ROM、RAM、EPROM、EEPROM、DRAM、VRAM、闪速存储器设备、磁卡或光卡、纳米系统(包括分子存储器IC),或适合于存储指令和/或数据的任何类型的媒介或设备。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本发明所提供的几个实施例中,应该理解到,所揭露的装置,可通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些服务接口,装置或单元的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储器中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储器中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储器包括:U盘、只读存储器(Read-Only Memory, ROM)、随机存取存储器(Random Access Memory,RAM)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通进程序来指令相关的硬件来完成,该程序可以存储于一计算机可读存储器中,存储器可以包括:闪存盘、只读存储器(Read-Only Memory, ROM)、随机存取器(Random AccessMemory,RAM)、磁盘或光盘等。
以上所述者,仅为本公开的示例性实施例,不能以此限定本公开的范围。即但凡依本公开教导所作的等效变化与修饰,皆仍属本公开涵盖的范围内。本领域技术人员在考虑说明书及实践这里的公开后,将容易想到本公开的其实施方案。本发明旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未记载的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的范围和精神由权利要求限定。
需要说明的是,本发明提供的方法、系统及电子设备中凡是涉及到人脸特征采集、相关的人脸识别信息以及任何相关的用户个人身份信息的均需符合法律、法规要求。
Claims (6)
1.一种多媒体信息交互显示方法,其特征在于,所述方法包括:
当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值;
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息,所述强关联内容信息包括生活类信息;
当检测到所述用户的第一动作后,更新显示内容为通用内容;
所述当在拍摄图像内识别到人脸时,获取所述人脸对应的人脸特征值,包括:
当在拍摄图像内识别到人脸时,获取包含所述人脸的瞬时照片信息;
对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值;
所述方法还包括:
确定并记录所述用户注视的显示信息类别;
当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容;
所述确定并记录所述用户注视的显示信息类别包括:
检测所述用户的眼球转动,计算所述用户注视的屏幕坐标;
确定所述屏幕坐标对应的显示信息类别,并记录眼球停留于所述屏幕坐标的停留时间;
所述当再次检测到所述用户的所述第一动作后,更新所述显示内容为所述显示信息类别对应内容,包括:
当再次检测到所述用户的所述第一动作后,获取记录的各所述停留时间之间的比例;
基于所述比例显示各所述停留时间对应的显示信息类别对应内容;
所述第一动作为用户的挥手动作。
2.根据权利要求1所述的方法,其特征在于,所述对所述瞬时照片信息进行特征值提取,得到所述人脸对应的人脸特征值之后,还包括:
若存在至少两类人脸特征值,则分别对各所述人脸特征值进行标记。
3.根据权利要求1所述的方法,其特征在于,所述将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值对应的用户的强关联内容信息,并显示所述强关联内容信息,包括:
将所述人脸特征值与预设的人员信息数据库进行比对,确定所述人脸特征值在所述人员信息数据库中对应的用户的身份信息;
基于所述身份信息从所述人员信息数据库中获取所述用户的强关联内容信息,并显示所述强关联内容信息。
4.一种多媒体信息交互显示系统,其特征在于,用以应用权利要求1-3任一项所述方法,所述系统包括:
液晶显示模块,用以显示各资源信息;人脸识别模块,用以采集注视所述液晶显示模块的用户的人脸信息;眼动追踪模块,用以采集所述用户的眼球转动信号;手势识别模块,用以检测所述用户的手部动作特征;数据挖掘分析模块,用以对所述液晶显示模块、人脸识别模块、眼动追踪模块、手势识别模块采集的信息进行分析处理;人员信息数据库,用以对比所述人脸识别模块采集的人脸信息。
5.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1-3任一项所述方法的步骤。
6.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-3任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110334765.9A CN113010017B (zh) | 2021-03-29 | 2021-03-29 | 一种多媒体信息交互显示方法、系统及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110334765.9A CN113010017B (zh) | 2021-03-29 | 2021-03-29 | 一种多媒体信息交互显示方法、系统及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113010017A CN113010017A (zh) | 2021-06-22 |
CN113010017B true CN113010017B (zh) | 2023-06-30 |
Family
ID=76408784
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110334765.9A Active CN113010017B (zh) | 2021-03-29 | 2021-03-29 | 一种多媒体信息交互显示方法、系统及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113010017B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113382046B (zh) * | 2021-05-27 | 2022-07-01 | 青岛海信智慧生活科技股份有限公司 | 一种社区中人脸信息变更的方法及装置 |
US20230244305A1 (en) * | 2022-01-05 | 2023-08-03 | Industrial Technology Research Institute | Active interactive navigation system and active interactive navigation method |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019062080A1 (zh) * | 2017-09-28 | 2019-04-04 | 平安科技(深圳)有限公司 | 身份识别方法、电子装置及计算机可读存储介质 |
WO2020207413A1 (zh) * | 2019-04-09 | 2020-10-15 | 华为技术有限公司 | 一种内容推送方法、装置与设备 |
CN112085552A (zh) * | 2019-06-14 | 2020-12-15 | 金德奎 | 一种基于人脸识别的展会或实体店的信息交互方法及定位方法 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9606621B2 (en) * | 2006-07-28 | 2017-03-28 | Philips Lighting Holding B.V. | Gaze interaction for information display of gazed items |
EP2847648A4 (en) * | 2012-05-09 | 2016-03-02 | Intel Corp | EYE PERSONALIZED SELECTIVE STRESSING OF PARTS OF AN INDICATION |
KR102197098B1 (ko) * | 2014-02-07 | 2020-12-30 | 삼성전자주식회사 | 콘텐츠 추천 방법 및 장치 |
KR102246556B1 (ko) * | 2014-12-02 | 2021-04-30 | 엘지전자 주식회사 | 멀티미디어 디바이스 및 그 제어 방법 |
CN104573459B (zh) * | 2015-01-12 | 2018-02-02 | 北京智谷睿拓技术服务有限公司 | 交互方法、交互装置及用户设备 |
CN109509109A (zh) * | 2017-09-15 | 2019-03-22 | 阿里巴巴集团控股有限公司 | 社交信息的获取方法及装置 |
CN108595651A (zh) * | 2018-04-27 | 2018-09-28 | 深圳码隆科技有限公司 | 基于人脸识别的个性化信息显示方法、装置和用户终端 |
CN110990817A (zh) * | 2019-12-10 | 2020-04-10 | 刘兴丹 | 一种人脸识别验证身份及信息的方法、装置 |
-
2021
- 2021-03-29 CN CN202110334765.9A patent/CN113010017B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019062080A1 (zh) * | 2017-09-28 | 2019-04-04 | 平安科技(深圳)有限公司 | 身份识别方法、电子装置及计算机可读存储介质 |
WO2020207413A1 (zh) * | 2019-04-09 | 2020-10-15 | 华为技术有限公司 | 一种内容推送方法、装置与设备 |
CN112085552A (zh) * | 2019-06-14 | 2020-12-15 | 金德奎 | 一种基于人脸识别的展会或实体店的信息交互方法及定位方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113010017A (zh) | 2021-06-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104935980B (zh) | 互动信息处理方法、客户端及服务平台 | |
CN108259936B (zh) | 基于直播技术的问答方法、服务器及存储介质 | |
KR101301127B1 (ko) | 콘텐츠 시청 확인 장치 및 그 방법 | |
CN108881994A (zh) | 视频访问方法、客户端、装置、终端、服务器和存储介质 | |
CN105808182B (zh) | 显示控制方法及系统、广告破口判断装置、影音处理装置 | |
CN113010017B (zh) | 一种多媒体信息交互显示方法、系统及电子设备 | |
US20140012910A1 (en) | Video comment feed | |
CN102710991A (zh) | 信息处理设备、信息处理方法和程序 | |
CN108205408B (zh) | 消息展示方法及装置 | |
WO2015043547A1 (en) | A method, device and system for message response cross-reference to related applications | |
CN111800668B (zh) | 弹幕的处理方法、装置、设备及存储介质 | |
CN102708170A (zh) | 一种在线影视信息的提取发布方法及装置 | |
WO2022247220A1 (zh) | 界面处理方法及装置 | |
CN109982134B (zh) | 一种基于诊断设备的视频教学方法、诊断设备及系统 | |
US20170171594A1 (en) | Method and electronic apparatus of implementing voice interaction in live video broadcast | |
CN112714329A (zh) | 直播间的显示控制方法、装置、存储介质与电子设备 | |
WO2022247906A1 (zh) | 直播处理方法、直播平台、装置、系统、介质及设备 | |
CN106231436A (zh) | 消息处理方法及处理装置 | |
CN112546621A (zh) | 游戏直播的投票方法及装置、计算机存储介质、电子设备 | |
CN114302160B (zh) | 信息显示方法、装置、计算机设备及介质 | |
CN111291087A (zh) | 一种基于人脸检测的资讯推送方法及装置 | |
CN114053723A (zh) | 权益推荐方法、装置、介质和计算设备 | |
CN113784156A (zh) | 一种直播方法、装置、电子设备和存储介质 | |
CN109151599B (zh) | 视频处理方法和装置 | |
CN114257833A (zh) | 直播间推荐和进入方法、系统、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |