CN113542878A - 一种基于人脸识别与手势检测的唤醒方法及显示设备 - Google Patents

一种基于人脸识别与手势检测的唤醒方法及显示设备 Download PDF

Info

Publication number
CN113542878A
CN113542878A CN202010284221.1A CN202010284221A CN113542878A CN 113542878 A CN113542878 A CN 113542878A CN 202010284221 A CN202010284221 A CN 202010284221A CN 113542878 A CN113542878 A CN 113542878A
Authority
CN
China
Prior art keywords
state
camera
attribute
display device
screen
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010284221.1A
Other languages
English (en)
Other versions
CN113542878B (zh
Inventor
于文钦
王大勇
杨鲁明
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hisense Visual Technology Co Ltd
Original Assignee
Hisense Visual Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hisense Visual Technology Co Ltd filed Critical Hisense Visual Technology Co Ltd
Priority to CN202010284221.1A priority Critical patent/CN113542878B/zh
Publication of CN113542878A publication Critical patent/CN113542878A/zh
Application granted granted Critical
Publication of CN113542878B publication Critical patent/CN113542878B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/44213Monitoring of end-user related data
    • H04N21/44218Detecting physical presence or behaviour of the user, e.g. using sensors to detect if the user is leaving the room or changes his face expression during a TV program
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/44Arrangements for executing specific programs
    • G06F9/4401Bootstrapping
    • G06F9/4418Suspend and resume; Hibernate and awake
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41Structure of client; Structure of client peripherals
    • H04N21/422Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/4223Cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/442Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
    • H04N21/4424Monitoring of the internal components or processes of the client device, e.g. CPU or memory load, processing speed, timer, counter or percentage of the hard disk space used
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/443OS processes, e.g. booting an STB, implementing a Java virtual machine in an STB or power management in an STB
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D30/00Reducing energy consumption in communication networks
    • Y02D30/70Reducing energy consumption in communication networks in wireless communication networks

Abstract

本申请公开了一种基于人脸识别与手势检测的唤醒方法及显示设备,控制器内配置有与摄像头连接的摄像头后台检测应用,摄像头后台检测应用获取摄像头拍摄的预览画面,调用预览帧可用方法对预览画面进行处理以判断是否存在用户的面部信息或者手势信息;如果存在,则获取系统属性,判断显示设备是否处于待唤醒状态,如果处于待唤醒状态中的一种,则生成唤醒指令,发送至待唤醒状态对应的指定应用,使指定应用退出,唤醒显示设备并进入运行状态。可见,本实施例提供的方法及显示设备,在处于待唤醒状态下,无需用户操作遥控器唤醒,而是在摄像头拍摄到用户的面部或特定手势,即可实现唤醒,提供多种唤醒显示设备的方式,可以及时满足用户的意向操作。

Description

一种基于人脸识别与手势检测的唤醒方法及显示设备
技术领域
本申请涉及智能电视技术领域,尤其涉及一种基于人脸识别与手势检测的唤醒方法及显示设备。
背景技术
显示设备,例如智能电视,可以通过网口与有线网络连接,用户可在联网后的智能电视中随时访问需要的信息,实现电视、网络和程序之间跨平台搜索,用户可以搜索电视频道、录制电视节目、能够播放卫星和有线电视节目以及网络视频等。显示设备在不用的时候常被置于待机状态以节省电能,待机状态为显示设备关屏而未断电的状态。在待机状态下,显示设备可以实时接收唤醒指令进行唤醒操作。
显示设备一旦进入待机状态,需要用户通过遥控器上的按键对显示设备进行唤醒操作。但是,利用遥控器对显示设备进行唤醒操作的方式比较单一,无法及时满足用户的意向操作。
发明内容
本申请提供了一种基于人脸识别与手势检测的唤醒方法及显示设备,以解决现有的显示设备在进行唤醒时方式单一,无法及时满足用户意向操作的问题。
第一方面,本申请提供了一种显示设备,包括:
摄像头,用于拍摄预览画面;
控制器,所述控制器内配置有与所述摄像头连接的摄像头后台检测应用,所述摄像头后台检测应用被配置为获取所述摄像头拍摄的预览画面,所述预览画面中呈现用户的面部或手势;
调用预览帧可用方法对所述预览画面进行处理,根据处理结果判断所述预览画面中是否存在用户的面部信息或者手势信息;
如果所述预览画面中存在用户的面部信息或者手势信息,则获取系统属性,所述系统属性是指所述显示设备处于待唤醒状态时的属性;
根据所述系统属性判断所述显示设备是否处于待唤醒状态,所述待唤醒状态包括屏保状态、音箱状态和关屏状态;
如果所述显示设备处于所述待唤醒状态中的一种,则生成唤醒指令,发送至所述待唤醒状态对应的指定应用,所述唤醒指令用于使显示设备中的所述指定应用退出,唤醒所述显示设备并进入运行状态。
进一步地,所述预览帧可用方法包括人脸检测方法,以及,所述摄像头后台检测应用被进一步配置为:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述人脸检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的面部信息。
进一步地,所述预览帧可用方法包括手势检测方法,以及,所述摄像头后台检测应用被进一步配置为:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述手势检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的手势信息。
进一步地,所述系统属性包括屏保状态属性、音箱状态属性和关屏状态属性,以及,所述摄像头后台检测应用被进一步配置为:
按照预设属性读取顺序,获取所述音箱状态属性,判断所述显示设备是否处于音箱状态,所述预设属性读取顺序是指依次获取音箱状态、关屏状态和屏保状态对应属性的顺序;
如果所述显示设备未处于音箱状态,则获取关屏状态属性,判断所述显示设备是否处于关屏状态;
如果所述显示设备未处于关屏状态,则获取屏保状态属性,判断所述显示设备是否处于屏保状态。
进一步地,所述摄像头后台检测应用被进一步配置为:
获取所述音箱状态属性的属性值;
如果所述音箱状态属性的属性值为0,则确定所述显示设备处于音箱状态;
如果所述音箱状态属性的属性值为1或2,则确定所述显示设备未处于音箱状态。
进一步地,所述摄像头后台检测应用被进一步配置为:
获取所述关屏状态属性的属性值;
如果所述关屏状态属性的属性值为0,则确定所述显示设备处于关屏状态;
如果所述关屏状态属性的属性值为1,则确定所述显示设备未处于关屏状态。
进一步地,所述摄像头后台检测应用被进一步配置为:
获取所述屏保状态属性的属性值;
如果所述屏保状态属性的属性值为1,则确定所述显示设备处于屏保状态;
如果所述屏保状态属性的属性值为0,则确定所述显示设备未处于屏保状态。
进一步地,所述摄像头后台检测应用被进一步配置为:
如果所述显示设备未处于所述待唤醒状态中的任一种,则不执行唤醒操作。
进一步地,所述控制器被进一步配置为:
启动摄像头后台检测应用;
对所述摄像头后台检测应用进行初始化处理,将所述摄像头后台检测应用置于后台运行;
调用所述摄像头后台检测应用中的初始化人脸识别接口,对所述初始化人脸识别接口进行初始化处理,以启动人脸检测方法;
调用所述摄像头后台检测应用中的初始化手势检测接口,对所述初始化手势检测接口进行初始化处理,以启动手势检测方法;
开启摄像头,拍摄预览画面,并将所述预览画面发送至摄像头后台检测应用。
第二方面,本申请还提供了一种基于人脸识别与手势检测的唤醒方法,所述方法包括:
获取所述摄像头拍摄的预览画面,所述预览画面中呈现用户的面部或手势;
调用预览帧可用方法对所述预览画面进行处理,根据处理结果判断所述预览画面中是否存在用户的面部信息或者手势信息;
如果所述预览画面中存在用户的面部信息或者手势信息,则获取系统属性,所述系统属性是指所述显示设备处于待唤醒状态时的属性;
根据所述系统属性判断所述显示设备是否处于待唤醒状态,所述待唤醒状态包括屏保状态、音箱状态和关屏状态;
如果所述显示设备处于所述待唤醒状态中的一种,则生成唤醒指令,发送至所述待唤醒状态对应的指定应用,所述唤醒指令用于使显示设备中的所述指定应用退出,唤醒所述显示设备并进入运行状态。
第三方面,本申请还提供了一种存储介质,该计算机存储介质可存储有程序,该程序执行时可实现包括本申请提供的基于人脸识别与手势检测的唤醒方法各实施例中的部分或全部步骤。
由以上技术方案可知,本发明实施例提供的一种基于人脸识别与手势检测的唤醒方法及显示设备,由摄像头拍摄预览画面,控制器内配置有与摄像头连接的摄像头后台检测应用,摄像头后台检测应用获取摄像头拍摄的预览画面,调用预览帧可用方法对预览画面进行处理以判断预览画面中是否存在用户的面部信息或者手势信息;如果存在,则获取系统属性,判断显示设备是否处于待唤醒状态,如果显示设备处于待唤醒状态中的一种,则生成唤醒指令,发送至待唤醒状态对应的指定应用,使指定应用退出,唤醒显示设备并进入运行状态。可见,本实施例提供的方法及显示设备,在处于待唤醒状态下,无需用户操作遥控器唤醒显示设备,而是在摄像头拍摄到用户的面部或特定手势,即可实现唤醒,该显示设备提供多种唤醒显示设备的方式,可以及时满足用户的意向操作。
附图说明
为了更清楚地说明本申请的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,显而易见地,对于本领域普通技术人员而言,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图;
图2中示例性示出了根据实施例中显示设备200的硬件配置框图;
图3中示例性示出了根据实施例中控制设备100的硬件配置框图;
图4中示例性示出了根据实施例中显示设备200的功能配置示意图;
图5a中示例性示出了根据实施例中显示设备200中软件配置示意图;
图5b中示例性示出了根据实施例中显示设备200中应用程序的配置示意图;
图6中示例性示出了根据实施例中显示设备的结构框图;
图7中示例性示出了根据实施例中监听摄像头预览画面的流程图;
图8中示例性示出了根据实施例中基于人脸识别与手势检测的唤醒方法的流程图;
图9中示例性示出了根据实施例中基于人脸识别与手势检测的唤醒方法的数据流程图;
图10中示例性示出了根据实施例中人脸检测方法的流程图;
图11中示例性示出了根据实施例中手势检测方法的流程图;
图12中示例性示出了根据实施例中判断显示设备是否处于待唤醒状态的方法流程图;
图13中示例性示出了根据实施例中唤醒显示设备的数据流程图。
具体实施方式
为使本申请示例性实施例的目的、技术方案和优点更加清楚,下面将结合本申请示例性实施例中的附图,对本申请示例性实施例中的技术方案进行清楚、完整地描述,显然,所描述的示例性实施例仅是本申请一部分实施例,而不是全部的实施例。
基于本申请中示出的示例性实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本申请保护的范围。此外,虽然本申请中公开内容按照示范性一个或几个实例来介绍,但应理解,可以就这些公开内容的各个方面也可以单独构成一个完整技术方案。
应当理解,本申请中说明书和权利要求书及上述附图中的术语“第一”、“第二”、“第三”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,例如能够根据本申请实施例图示或描述中给出那些以外的顺序实施。
此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖但不排他的包含,例如,包含了一系列组件的产品或设备不必限于清楚地列出的那些组件,而是可包括没有清楚地列出的或对于这些产品或设备固有的其它组件。
本申请中使用的术语“模块”,是指任何已知或后来开发的硬件、软件、固件、人工智能、模糊逻辑或硬件或/和软件代码的组合,能够执行与该元件相关的功能。
本申请中使用的术语“遥控器”,是指电子设备(如本申请中公开的显示设备)的一个组件,通常可在较短的距离范围内无线控制电子设备。一般使用红外线和/或射频(RF)信号和/或蓝牙与电子设备连接,也可以包括WiFi、无线USB、蓝牙、动作传感器等功能模块。例如:手持式触摸遥控器,是以触摸屏中用户界面取代一般遥控装置中的大部分物理内置硬键。
本申请中使用的术语“手势”,是指用户通过一种手型的变化或手部运动等动作,用于表达预期想法、动作、目的/或结果的用户行为。
图1中示例性示出了根据实施例中显示设备与控制装置之间操作场景的示意图。如图1中示出,用户可通过移动终端300和控制装置100操作显示设备200。
其中,控制装置100可以遥控器,包括红外协议通信或蓝牙协议通信,及其他短距离通信方式等,通过无线或其他有线方式来控制显示设备200。用户可以通过遥控器上按键,语音输入、控制面板输入等输入用户指令,来控制显示设备200。如:用户可以通过遥控器上音量加减键、频道控制键、上/下/左/右的移动按键、语音输入按键、菜单键、开关机按键等输入相应控制指令,来实现控制显示设备200的功能。
在一些实施例中,也可以使用移动终端、平板电脑、计算机、笔记本电脑、和其他智能设备以控制显示设备200。例如,使用在智能设备上运行的应用程序控制显示设备200。该应用程序通过配置可以在与智能设备关联的屏幕上,在直观的用户界面(UI)中为用户提供各种控制。
示例的,移动终端300可与显示设备200安装软件应用,通过网络通信协议实现连接通信,实现一对一控制操作的和数据通信的目的。如:可以实现用移动终端300与显示设备200建立控制指令协议,将遥控控制键盘同步到移动终端300上,通过控制移动终端300上用户界面,实现控制显示设备200的功能。也可以将移动终端300上显示音视频内容传输到显示设备200上,实现同步显示功能。
如图1中还示出,显示设备200还与服务器400通过多种通信方式进行数据通信。可允许显示设备200通过局域网(LAN)、无线局域网(WLAN)和其他网络进行通信连接。服务器400可以向显示设备200提供各种内容和互动。示例的,显示设备200通过发送和接收信息,以及电子节目指南(EPG)互动,接收软件程序更新,或访问远程储存的数字媒体库。服务器400可以一组,也可以多组,可以一类或多类服务器。通过服务器400提供视频点播和广告服务等其他网络服务内容。
显示设备200,可以液晶显示器、OLED显示器、投影显示设备。具体显示设备类型,尺寸大小和分辨率等不作限定,本领技术人员可以理解的是,显示设备200可以根据需要做性能和配置上一些改变。
显示设备200除了提供广播接收电视功能之外,还可以附加提供计算机支持功能的智能网络电视功能。示例的包括,网络电视、智能电视、互联网协议电视(IPTV)等。
图2中示例性示出了根据示例性实施例中显示设备200的硬件配置框图。如图2中示出,显示设备200中包括控制器210、调谐解调器220、通信接口230、检测器240、输入\输出接口250、视频处理器260-1,音频处理器60-2,显示器280,音频输出270、存储器290,供电电源、红外接收器。
显示器280,用于接收源自视频处理器260-1输入的图像信号,进行显示视频内容和图像以及菜单操控界面的组件。显示器280包括用于呈现画面的显示屏组件,以及驱动图像显示的驱动组件。显示视频内容,可以来自广播电视内容,也可以是说,可通过有线或无线通信协议接收的各种广播信号。或者,可显示来自网络通信协议接收来自网络服务器端发送的各种图像内容。
同时,显示器280,同时显示显示设备200中产生且用于控制显示设备200的用户操控UI界面。
以及,根据显示器280类型不同,还包括用于驱动显示的驱动组件。或者,倘若显示器280为一种投影显示器,还可以包括一种投影装置和投影屏幕。
通信接口230是用于根据各种通信协议类型与外部设备或外部服务器进行通信的组件。例如:通信接口230可以是Wifi芯片231,蓝牙通信协议芯片232,有线以太网通信协议芯片233等其他网络通信协议芯片或近场通信协议芯片,以及红外接收器(图中未示出)。
显示设备200可以通过通信接口230与外部控制设备或内容提供设备之间建立控制信号和数据信号发送和接收。以及,红外接收器,可用于接收控制装置100(如:红外遥控器等)红外控制信号的接口器。
检测器240,是显示设备200用于采集外部环境或与外部交互的信号。检测器240包括光接收器242,用于采集环境光线强度的传感器,可以通过采集环境光可以自适应性显示参数变化等。
以及包括图像采集器241,如相机、摄像头等,可以用于采集外部环境场景,以及用于采集用户的属性或与用户交互手势,可以自适应变化显示参数,也可以识别用户手势,以实现与用户之间互动的功能。
在其他一些示例性实施例中,检测器240,还可温度传感器等,如通过感测环境温度,显示设备200可自适应调整图像的显示色温。如当温度偏高的环境时,可调整显示设备200显示图像色温偏冷色调,或当温度偏低的环境时,可以调整显示设备200显示图像偏暖色调。
在其他一些示例性实施例中,检测器240,还可声音采集器等,如麦克风,可以用于接收用户的声音,包括用户控制显示设备200的控制指令的语音信号,或采集环境声音,用于识别环境场景类型,显示设备200可以自适应适应环境噪声。
输入/输出接口250,在控制器210的控制显示设备200与外部其他设备间数据传输。如接收外部设备的视频信号和音频信号、或命令指令等数据。
其中,输入/输出接口250可以包括,但不限于如下:可以高清多媒体接口HDMI接口251、模拟或数据高清分量输入接口253、复合视频输入接口252、USB输入接口254、RGB端口(图中未示出)等任一个或多个接口。
在其他一些示例性实施例中,输入/输出接口250也可以上述多个接口形成复合性的输入/输出接口。
调谐解调器220,通过有线或无线接收方式接收广播电视信号,可以进行放大、混频和谐振等调制解调处理,从多多个无线或有线广播电视信号中解调出用户所选择电视频道频率中所携带的电视音视频信号,以及EPG数据信号。
调谐解调器220,可根据用户选择,以及由控制器210控制,响应用户选择的电视信号频率以及该频率所携带的电视信号。
调谐解调器220,可以接收信号的途径,根据电视信号广播制式不同,有很多种,诸如:地面广播、有线广播、卫星广播或互联网广播信号等;以及根据调制类型不同,可以数字调制,也可以模拟调制方式。根据接收电视信号种类不同,可以模拟信号和数字信号。
在其他一些示例性实施例中,调谐解调器220也可在外置设备中,如外置机顶盒等。这样,机顶盒通过调制解调后输出电视音视频信号,经过输入/输出接口250输入显示设备200中。
视频处理器260-1,用于将接收外部视频信号,根据输入信号的标准编解码协议,进行解压缩、解码、缩放、降噪、帧率转换、分辨率转换、图像合成等等视频处理,可得到直接可显示设备200上显示或播放的信号。
示例的,视频处理器260-1,包括解复用模块、视频解码模块、图像合成模块、帧率转换模块、显示格式化模块等。
其中,解复用模块,用于对输入音视频数据流进行解复用处理,如输入MPEG-2,则解复用模块进行解复用成视频信号和音频信号等。
视频解码模块,则用于对解复用后的视频信号进行处理,包括解码和缩放处理等。
图像合成模块,如图像合成器,其用于将图形生成器根据用户输入或自身生成的GUI信号,与缩放处理后视频图像进行叠加混合处理,以生成可供显示的图像信号。
帧率转换模块,用于对转换输入视频帧率,如将60Hz帧率转换为120Hz帧率或240Hz帧率,通常的格式采用如插帧方式实现。
显示格式化模块,则用于将接收帧率转换后视频输出信号,改变信号以符合显示格式的信号,如输出RGB数据信号。
音频处理器260-2,用于接收外部的音频信号,根据输入信号的标准编解码协议,进行解压缩和解码,以及降噪、数模转换、和放大处理等处理,得到可以在扬声器中播放的声音信号。
在其他一些示例性实施例中,视频处理器260-1可以包括一颗或多颗芯片组成。音频处理器260-2,也可以包括一颗或多颗芯片组成。
以及,在其他一些示例性实施例中,视频处理器260-1和音频处理器260-2,可以单独的芯片,也可以于控制器210一起集成在一颗或多颗芯片中。
音频输出272,在控制器210的控制下接收音频处理器260-2输出的声音信号,如:扬声器272,以及除了显示设备200自身携带的扬声器272之外,可以输出至外接设备的发生装置的外接音响输出端子274,如:外接音响接口或耳机接口等。
供电电源,在控制器210控制下,将外部电源输入的电力为显示设备200提供电源供电支持。供电电源可以包括安装显示设备200内部的内置电源电路,也可以是安装在显示设备200外部电源,在显示设备200中提供外接电源的电源接口。
用户输入接口,用于接收用户的输入信号,然后,将接收用户输入信号发送给控制器210。用户输入信号可以是通过红外接收器接收的遥控器信号,可以通过网络通信模块接收各种用户控制信号。
示例的,用户通过遥控器100或移动终端300输入用户命令,用户输入接口则根据用户的输入,显示设备200则通过控制器210响应用户的输入。
在一些实施例中,用户可在显示器280上显示的图形用户界面(GUI)输入用户命令,则用户输入接口通过图形用户界面(GUI)接收用户输入命令。或者,用户可通过输入特定的声音或手势进行输入用户命令,则用户输入接口通过传感器识别出声音或手势,来接收用户输入命令。
控制器210,通过存储在存储器290上中各种软件控制程序,来控制显示设备200的工作和响应用户的操作。
如图2所示,控制器210包括RAM213和ROM214以及图形处理器216、CPU处理器212、通信接口218,如:第一接口218-1到第n接口218-n,以及通信总线。其中,RAM213和ROM214以及图形处理器216、CPU处理器212、通信接口218通过总线相连接。
ROM213,用于存储各种系统启动的指令。如在收到开机信号时,显示设备200电源开始启动,CPU处理器212运行ROM中系统启动指令,将存储在存储器290的操作系统拷贝至RAM213中,以使开始运行启动操作系统。当操作系统启动完成后,CPU处理器212再将存储器290中各种应用程序拷贝至RAM213中,然后,开始运行启动各种应用程序。
图形处理器216,用于产生各种图形对象,如:图标、操作菜单、以及用户输入指令显示图形等。包括运算器,通过接收用户输入各种交互指令进行运算,根据显示属性显示各种对象。以及包括渲染器,产生基于运算器得到的各种对象,进行渲染的结果显示在显示器280上。
CPU处理器212,用于执行存储在存储器290中操作系统和应用程序指令。以及根据接收外部输入的各种交互指令,来执行各种应用程序、数据和内容,以便最终显示和播放各种音视频内容。
在一些示例性实施例中,CPU处理器212,可以包括多个处理器。多个处理器可包括一个主处理器以及多个或一个子处理器。主处理器,用于在预加电模式中执行显示设备200一些操作,和/或在正常模式下显示画面的操作。多个或一个子处理器,用于在待机模式等状态下一种操作。
控制器210可以控制显示设备100的整体操作。例如:响应于接收到用于选择在显示器280上显示UI对象的用户命令,控制器210便可以执行与由用户命令选择的对象有关的操作。
其中,所述对象可以是可选对象中的任何一个,例如超链接或图标。与所选择的对象有关操作,例如:显示连接到超链接页面、文档、图像等操作,或者执行与所述图标相对应程序的操作。用于选择UI对象用户命令,可以是通过连接到显示设备200的各种输入装置(例如,鼠标、键盘、触摸板等)输入命令或者与由用户说出语音相对应的语音命令。
存储器290,包括存储用于驱动显示设备200的各种软件模块。如:存储器290中存储的各种软件模块,包括:基础模块、检测模块、通信模块、显示控制模块、浏览器模块、和各种服务模块等。
其中,基础模块用于产后护理显示设备200中各个硬件之间信号通信、并向上层模块发送处理和控制信号的底层软件模块。检测模块用于从各种传感器或用户输入接口中收集各种信息,并进行数模转换以及分析管理的管理模块。
例如:语音识别模块中包括语音解析模块和语音指令数据库模块。显示控制模块用于控制显示器280进行显示图像内容的模块,可以用于播放多媒体图像内容和UI界面等信息。通信模块,用于与外部设备之间进行控制和数据通信的模块。浏览器模块,用于执行浏览服务器之间数据通信的模块。服务模块,用于提供各种服务以及各类应用程序在内的模块。
同时,存储器290还用存储接收外部数据和用户数据、各种用户界面中各个项目的图像以及焦点对象的视觉效果图等。
图3中示例性示出了根据示例性实施例中控制设备100的配置框图。如图3所示,控制设备100包括控制器110、通信接口130、用户输入/输出接口140、存储器190、供电电源180。
控制设备100被配置为控制显示设备200,以及可接收用户的输入操作指令,且将操作指令转换为显示设备200可识别和响应的指令,起用用户与显示设备200之间交互中介作用。如:用户通过操作控制设备100上频道加减键,显示设备200响应频道加减的操作。
在一些实施例中,控制设备100可是一种智能设备。如:控制设备100可根据用户需求安装控制显示设备200的各种应用。
在一些实施例中,如图1所示,移动终端300或其他智能电子设备,可在安装操控显示设备200的应用之后,可以起到控制设备100类似功能。如:用户可以通过安装应用,在移动终端300或其他智能电子设备上可提供的图形用户界面的各种功能键或虚拟按钮,以实现控制设备100实体按键的功能。
控制器110包括处理器112和RAM113和ROM114、通信接口218以及通信总线。控制器110用于控制控制设备100的运行和操作,以及内部各部件之间通信协作以及外部和内部的数据处理功能。
通信接口130在控制器110的控制下,实现与显示设备200之间控制信号和数据信号的通信。如:将接收到的用户输入信号发送至显示设备200上。通信接口130可包括WiFi芯片、蓝牙模块、NFC模块等其他近场通信模块中至少之一种。
用户输入/输出接口140,其中,输入接口包括麦克风141、触摸板142、传感器143、按键144等其他输入接口中至少一者。如:用户可以通过语音、触摸、手势、按压等动作实现用户指令输入功能,输入接口通过将接收的模拟信号转换为数字信号,以及数字信号转换为相应指令信号,发送至显示设备200。
输出接口包括将接收的用户指令发送至显示设备200的接口。在一些实施例中,可以红外接口,也可以是射频接口。如:红外信号接口时,需要将用户输入指令按照红外控制协议转化为红外控制信号,经红外发送模块进行发送至显示设备200。再如:射频信号接口时,需将用户输入指令转化为数字信号,然后按照射频控制信号调制协议进行调制后,由射频发送端子发送至显示设备200。
在一些实施例中,控制设备100包括通信接口130和输出接口中至少一者。控制设备100中配置通信接口130,如:WiFi、蓝牙、NFC等模块,可将用户输入指令通过WiFi协议、或蓝牙协议、或NFC协议编码,发送至显示设备200.
存储器190,用于在控制器110的控制下存储驱动和控制控制设备200的各种运行程序、数据和应用。存储器190,可以存储用户输入的各类控制信号指令。
供电电源180,用于在控制器110的控制下为控制设备100各元件提供运行电力支持。可以电池及相关控制电路。
图4中示例性示出了根据示例性实施例中显示设备200功能配置示意图。如图4所示,存储器290用于存储操作系统、应用程序、内容和用户数据等,在控制器210控制下执行驱动显示设备200的系统运行以及响应用户的各种操作。存储器290可以包括易失性和/或非易失性存储器。
存储器290,具体用于存储驱动显示设备200中控制器210的运行程序,以及存储显示设备200内置各种应用程序,以及用户从外部设备下载的各种应用程序、以及与应用相关各种图形用户界面,以及与图形用户界面相关的各种对象,用户数据信息,以及各种支持应用的内部数据。存储器290用于存储OS内核、中间件和应用等系统软件,以及存储输入的视频数据和音频数据、及其他用户数据。
存储器290,具体用于存储音视频处理器260-1和260-2、显示器280、通信接口230、调谐解调器220、检测器240输入/输出接口等驱动程序和相关数据。
在一些实施例中,存储器290可以存储软件和/或程序,用于表示操作系统(OS)的软件程序包括,例如:内核、中间件、应用编程接口(API)和/或应用程序。示例性的,内核可控制或管理系统资源,或其它程序所实施的功能(如所述中间件、API或应用程序),以及内核可以提供接口,以允许中间件和API,或应用访问控制器,以实现控制或管理系统资源。
示例的,存储器290,包括广播接收模块2901、频道控制模块2902、音量控制模块2903、图像控制模块2904、显示控制模块2905、音频控制模块2906、外部指令识别模块2907、通信控制模块2908、光接收模块2909、电力控制模块2910、操作系统2911、以及其他应用程序2912、浏览器模块等等。控制器210通过运行存储器290中各种软件程序,来执行诸如:广播电视信号接收解调功能、电视频道选择控制功能、音量选择控制功能、图像控制功能、显示控制功能、音频控制功能、外部指令识别功能、通信控制功能、光信号接收功能、电力控制功能、支持各种功能的软件操控平台、以及浏览器功能等其他应用。
图5a中示例性示出了根据示例性实施例中显示设备200中软件系统的配置框图。
如图5a中所示,操作系统2911,包括用于处理各种基础系统服务和用于实施硬件相关任务的执行操作软件,充当应用程序和硬件组件之间完成的数据处理的媒介。一些实施例中,部分操作系统内核可以包含一系列软件,用以管理显示设备硬件资源,并为其他程序或软件代码提供服务。
其他一些实施例中,部分操作系统内核可包含一个或多个设备驱动器,设备驱动器可以是操作系统中的一组软件代码,帮助操作或控制显示设备关联的设备或硬件。驱动器可以包含操作视频、音频和/或其他多媒体组件的代码。示例的,包括显示屏、摄像头、Flash、WiFi和音频驱动器。
其中,可访问性模块2911-1,用于修改或访问应用程序,以实现应用程序的可访问性和对其显示内容的可操作性。
通信模块2911-2,用于经由相关通信接口和通信网络与其他外设的连接。
用户界面模块2911-3,用于提供显示用户界面的对象,以供各应用程序可访问,可实现用户可操作性。
控制应用程序2911-4,用于可控制进程管理,包括运行时间应用程序等。
事件传输系统2914,可在操作系统2911内或应用程序2912中实现,以一些实施例中,一方面在在操作系统2911内实现,同时在应用程序2912中实现,用于监听各种用户输入事件,将根据各种事件指代响应各类事件或子事件的识别结果,而实施一组或多组预定义的操作的处理程序。
其中,事件监听模块2914-1,用于监听用户输入接口输入事件或子事件。
事件识别模块2914-1,用于对各种用户输入接口输入各类事件的定义,识别出各种事件或子事件,且将其传输给处理用以执行其相应一组或多组的处理程序。
其中,事件或子事件,是指显示设备200中一个或多个传感器检测的输入,以及外界控制设备(如控制设备100等)的输入。如:语音输入各种子事件,手势识别的手势输入,以及控制设备的遥控按键指令输入的子事件等。示例的,遥控器中一个或多个子事件包括多种形式,包括但不限于按键按上/下/左右/、确定键、按键按住等中一个或组合。以及非实体按键的操作,如移动、按住、释放等操作。
界面布局管理器2913,直接或间接接收来自于事件传输系统2914监听到各用户输入事件或子事件,用于更新用户界面的布局,包括但不限于界面中各控件或子控件的位置,以及容器的大小或位置、层级等与界面布局相关各种执行操作。
如图5b中所示,应用程序层2912包含也可在显示设备200执行的各种应用程序。应用程序可包含但不限于一个或多个应用程序,如:直播电视应用程序、视频点播应用程序、媒体中心应用程序、应用程序中心、游戏应用等。
直播电视应用程序,可以通过不同的信号源提供直播电视。例如,直播电视应用程可以使用来自有线电视、无线广播、卫星服务或其他类型的直播电视服务的输入提供电视信号。以及,直播电视应用程序可在显示设备200上显示直播电视信号的视频。
视频点播应用程序,可以提供来自不同存储源的视频。不同于直播电视应用程序,视频点播提供来自某些存储源的视频显示。例如,视频点播可以来自云存储的服务器端、来自包含已存视频节目的本地硬盘储存器。
媒体中心应用程序,可以提供各种多媒体内容播放的应用程序。例如,媒体中心,可以为不同于直播电视或视频点播,用户可通过媒体中心应用程序访问各种图像或音频所提供服务。
应用程序中心,可以提供储存各种应用程序。应用程序可以是一种游戏、应用程序,或某些和计算机系统或其他设备相关但可以在智能电视中运行的其他应用程序。应用程序中心可从不同来源获得这些应用程序,将它们储存在本地储存器中,然后在显示设备200上可运行。
本发明实施例提供的显示设备,在处于待唤醒状态时,包括但不限定于三种模式,分别为屏保模式、关屏模式和音箱模式等。显示设备处于屏保模式的状态(屏保状态)是指显示设备的显示器中显示屏保,在显示设备开启后长期未接收到用户的操作而处于的屏幕保护状态。显示设备处于关屏模式的状态(关屏状态)是指关闭显示器的屏幕显示的状态。显示设备处于音箱模式的状态(音箱状态)是指用户操作显示设备进入音箱模式后,显示设备进入息屏的状态;显示设备处于息屏状态下可接收到用户的指令并执行特定动作。
显示设备在进入屏保模式后,可设置显示设备的屏保状态属性“dream_state”。在屏保状态属性“dream_state”写为“1”时,表示屏保正在播放;屏保状态属性“dream_state”写为“0”时,表示屏保已退出。
显示设备在进入音箱模式后,发送携带extra信息“tvbox_mode_state”的指令至音箱应用,由音箱应用检测extra信息并发送至摄像头后台检测应用。如果extra信息为“0”代表显示设备进入音箱模式,如果extra信息为“1”或“2”代表显示设备退出音箱模式。因此,可通过判断音箱状态属性“sys.tvbox.state”值,判断当前显示设备是否处于音箱模式,音箱状态属性为“0”时为进入音箱模式,“1”或“2”为退出音箱模式。
显示设备在进入关屏模式时,用户通过设置选项,选择关屏,屏幕将熄灭,同时,可设置显示设备的关屏状态属性“sys.backlight.state”。如果关屏状态属性“sys.backlight.state”写为“0”时,表示当前显示设备处于关屏模式;如果关屏状态属性“sys.backlight.state”写为“1”时,表示显示设备处于亮屏模式。
在显示设备处于屏保状态、关屏状态或音箱状态时,为快速唤醒显示设备,本发明实施例提供的显示设备,可无需用户手动操作遥控器触发显示设备唤醒,而是通过检测出现在与显示设备连接的摄像头的拍摄画面中的手势或人脸,即可进行显示设备的唤醒。而在判断出显示设备需要唤醒时,可通过获取显示设备的系统属性来判断显示设备具体处于哪一种待唤醒模式下,进而进行相应的唤醒操作。
图6中示例性示出了根据实施例中显示设备的结构框图。为进行用户的面部或手势的检测,参见图6,本发明实施例提供的显示设备200,包括摄像头2411和控制器210。摄像头2411,用于拍摄预览画面,预览画面中可能包括用户的面部或手势;控制器210内配置有与摄像头连接的摄像头后台检测应用,摄像头后台检测应用用于根据摄像头的拍摄画面判断是否存在用户的面部或手势,进而判断是否需要对显示设备进行唤醒操作。
摄像头后台检测应用可显示在主页中,用户通过遥控器可点击主页中的摄像头后台检测应用进行主动启动,或者,也可将摄像头后台检测应用配置在某个程序上,在运行该程序时自动启动摄像头后台检测应用。摄像头后台检测应用实时监听摄像头拍摄的预览画面,判断画面中是否存在用户的面部或手势,以及,判断显示设备在处于待唤醒状态时,对显示设备执行唤醒操作。
图7中示例性示出了根据实施例中监听摄像头预览画面的流程图。参见图7,在由摄像头后台检测应用在监听摄像头拍摄的预览画面的过程中,控制器被进一步配置为:
步骤01、启动摄像头后台检测应用。
步骤02、对摄像头后台检测应用进行初始化处理,将摄像头后台检测应用置于后台运行。
用户操作遥控器产生启动指令,发送至控制器,由控制器启动摄像头后台检测应用。摄像头后台检测应用被启动后,不显示在前台,而是先调用初始化服务,对摄像头后台检测应用进行初始化处理,将摄像头后台检测应用置于后台运行。摄像头后台检测应用后台运行,不会影响用户在前台正常操作显示设备。
步骤03、调用摄像头后台检测应用中的初始化人脸识别接口,对初始化人脸识别接口进行初始化处理,以启动人脸检测方法。
步骤04、调用摄像头后台检测应用中的初始化手势检测接口,对初始化手势检测接口进行初始化处理,以启动手势检测方法。
摄像头后台检测应用后台运行,可通过后台服务实时接收摄像头拍摄的预览画面。摄像头后台检测应用内配置有初始化人脸识别接口(HiFaceDetector.init)和初始化手势识别接口(HiHandDetector.initHandDetector)。
控制器对初始化人脸识别接口进行初始化处理,以初始化人脸识别功能,即将人脸检测方法启动,做好前期检测准备,以能够检测到摄像头预览画面中是否有人脸,并获得人脸的年龄,性别,颜值,情绪等信息。控制器对初始化手势识别接口进行初始化处理,以初始化手势检测功能,即将手势检测方法启动,做好前期检测准备,以能够检测到摄像头预览画面中是否有手势。
步骤05、开启摄像头,拍摄预览画面,并将预览画面发送至摄像头后台检测应用。
控制器在完成摄像头后台检测应用、人脸识别功能和手势检测功能的初始化处理之后,开启摄像头,由摄像头实时拍摄画面,得到预览画面。控制器将摄像头拍摄的预览画面实时回传给摄像头后台检测应用,由摄像头后台检测应用通过分析预览画面中检测到的人脸或手势,并在显示设备进入待唤醒状态后,执行唤醒电视操作。
图8中示例性示出了根据实施例中基于人脸识别与手势检测的唤醒方法的流程图;图9中示例性示出了根据实施例中基于人脸识别与手势检测的唤醒方法的数据流程图。本发明实施例提供的显示设备,在执行唤醒操作时,摄像头后台检测应用被配置为执行图8所示的基于人脸识别与手势检测的唤醒方法,该方法包括以下步骤:
S1、获取摄像头拍摄的预览画面,预览画面中呈现用户的面部或手势。
S2、调用预览帧可用方法对预览画面进行处理,根据处理结果判断预览画面中是否存在用户的面部信息或者手势信息。
摄像头后台检测应用实时接收控制器发送的摄像头拍摄的预览画面,如果用户想要对显示设备执行唤醒操作,则预览画面中会呈现用户的面部或手势。
参见图9,为进行准确判断,摄像头后台检测应用需对预览画面进行逐帧分析,以确定预览画面中是否存在用户的面部或者用户的手势。
在对预览画面进行分析时,摄像头后台检测应用调用摄像头预览回调接口(Camera.PreviewCallback),摄像头预览回调接口为配置在控制器中的接口,用于对摄像头的预览画面进行分析。且摄像头预览回调接口中存储有预览帧可用方法,对摄像头后台检测应用接收的每帧预览画面,分析其中的人脸(面部)信息或手势信息。
图10中示例性示出了根据实施例中人脸检测方法的流程图。参见图10,预览帧可用方法中包括人脸检测方法,在摄像头后台检测应用进行人脸识别时,摄像头后台检测应用被进一步配置为:
S211、获取预览画面中的摄像头预览帧数据、图像格式和预览尺寸。
S212、调用人脸检测方法,对摄像头预览帧数据、图像格式和预览尺寸进行处理,检测预览画面中是否存在用户的面部信息。
根据摄像头拍摄的预览画面,可用获得摄像头预览帧数据、图像格式和预览尺寸。根据不同的图像格式,不同的预览尺寸,摄像头后台检测应用可根据当前的图像格式和预览尺寸进行处理调用对应的人脸检测方法(HiFaceDetector.detect),对摄像头预览帧数据进行处理。
调用人脸检测方法,输入bytes[]类型的当前摄像头预览帧数据,图像格式及预览尺寸,得到BefFaceInfo类型人脸信息,即当前用户的面部信息,其中包含人脸数量,人脸年龄,性别,魅力值,情绪等信息。
摄像头后台检测应用调用人脸检测方法,即可检测到摄像头拍摄的预览画面中是否存在用户的面部信息。
本发明实施例提供的显示设备,可根据由预览画面中获取的面部信息,来自定义唤醒显示设备的触发条件。例如,根据人脸年龄信息,识别出当前摄像头拍摄的用户年龄,进而推断出当前用户为儿童还是成年人。显示设备可以根据不同年龄段的用户,来设定唤醒显示设备的权限。例如,如果识别出是儿童,可设定为儿童无法对显示设备进行唤醒操作;如果识别出是成年人,可设定成年人可对显示设备进行唤醒操作。
再例如,根据情绪信息,识别出当前用户的心情是欢快的还是悲伤的,根据不同的情绪自定义唤醒显示设备的触发条件。例如,如果识别出当前用户的心情是欢快的,可设定为欢快情况可以对显示设备进行唤醒操作;如果识别出当前用户的心情是悲伤的,可设定为悲伤情况不可以对显示设备进行唤醒操作。
在其他实施例中,还可以根据不同的性别、不同的魅力值、不同的人脸数量来对应设定唤醒显示设备的触发条件,具体的实现方式可参照上述方法进行设定,本实施例不做具体的限定。
图11中示例性示出了根据实施例中手势检测方法的流程图。参见图11,预览帧可用方法包括手势检测方法,在摄像头后台检测应用进行手势检测时,摄像头后台检测应用被进一步配置为:
S221、获取预览画面中的摄像头预览帧数据、图像格式和预览尺寸。
S222、调用手势检测方法,对摄像头预览帧数据、图像格式和预览尺寸进行处理,检测预览画面中是否存在用户的手势信息。
根据摄像头拍摄的预览画面,可用获得摄像头预览帧数据、图像格式和预览尺寸。根据不同的图像格式,不同的预览尺寸,摄像头后台检测应用可根据当前的图像格式和预览尺寸进行处理调用对应的手势检测方法(HiHandDetector.detectHand),对摄像头预览帧数据进行处理。
调用手势检测方法,输入bytes[]类型的当前摄像头预览帧数据,图像格式及预览尺寸,得到当前用户的手势信息。摄像头后台检测应用调用手势检测方法,即可检测到摄像头拍摄的预览画面中是否存在用户的手势信息。
在检测用户的手势是否为唤醒显示设备的特定手势时,可预先存储作为唤醒显示设备的手势信息,例如,用手势做“比心”、“OK”或“V”等形态。如果摄像头后台检测应用调用手势检测方法检测到预览画面中存在用手势做“比心”、“OK”或“V”等形态,可确定当前预览画面中存在用户的手势信息,即可确定用户想要对显示设备进行唤醒操作。
S3、如果预览画面中存在用户的面部信息或者手势信息,则获取系统属性,系统属性是指显示设备处于待唤醒状态时的属性。
摄像头后台检测应用在根据摄像头拍摄的预览画面识别出存在用户的面部信息或者手势信息时,则可执行判断显示设备是否需要执行唤醒操作的步骤,即判断显示设备是否处于待唤醒状态。
在判断显示设备是否处于待唤醒状态时,可根据显示设备的系统属性进行判断,系统属性是指显示设备处于待唤醒状态时的属性,即处于屏保状态、音箱状态和关屏状态的属性。
摄像头后台检测应用获取系统属性的时机,可为根据预览画面判断存在用户的面部信息时,还可以根据预览画面判断存在用户的手势信息时,还可以根据预览画面判断同时存在用户的手势信息和面部信息时。
S4、根据系统属性判断显示设备是否处于待唤醒状态,待唤醒状态包括屏保状态、音箱状态和关屏状态。
摄像头后台检测应用根据获取到的系统属性,即可判断出当前显示设备是否处于待唤醒状态。待唤醒状态包括屏保状态、音箱状态和关屏状态,因此,摄像头后台检测应用获取到的系统属性包括屏保状态属性、音箱状态属性和关屏状态属性。
图12中示例性示出了根据实施例中判断显示设备是否处于待唤醒状态的方法流程图;图13中示例性示出了根据实施例中唤醒显示设备的数据流程图。参见图12和图13,在判断显示设备是否处于待唤醒状态时,摄像头后台检测应用被进一步配置为:
S41、按照预设属性读取顺序,获取音箱状态属性,判断显示设备是否处于音箱状态,预设属性读取顺序是指依次获取音箱状态、关屏状态和屏保状态对应属性的顺序。
摄像头后台检测应用在依据系统属性判断当前显示设备是否处于待唤醒状态,以及,判断显示设备处于待唤醒状态中的哪一种状态时,需要先后依次获取每个待唤醒状态对应的属性,为此,本实施例提供的显示设备,可先设定每种属性的读取顺序,即预设属性读取顺序。
本实施例中,可设定预设属性读取顺序为音箱状态、关屏状态和屏保状态对应属性的顺序,而在其他实施例中,也可先读取关屏状态属性,或者先读取屏保状态属性,本实施例不做具体限定。
在预设属性读取顺序为音箱状态、关屏状态和屏保状态对应属性的顺序时,摄像头后台检测应用先获取待唤醒状态中的音箱状态属性,并依据音箱状态属性判断显示设备是否处于音箱状态。
在判断显示设备是否处于音箱状态时,摄像头后台检测应用被进一步配置为:
步骤411、获取音箱状态属性的属性值。
步骤412、如果音箱状态属性的属性值为0,则确定显示设备处于音箱状态。
步骤413、如果音箱状态属性的属性值为1或2,则确定显示设备未处于音箱状态。
摄像头后台检测应用读取显示设备系统属性中的音箱状态属性“sys.tvbox.state”,并确定属性值。如果属性值为“0”,则当前显示设备处于音箱模式,如果属性值为“1或2”,则当前显示设备不处于音箱模式,进入下一状态判断。
S42、如果显示设备未处于音箱状态,则获取关屏状态属性,判断显示设备是否处于关屏状态。
在摄像头后台检测应用判断出当前显示设备不处于音箱状态时,按照预设属性读取顺序,读取下一个系统属性,即获取关屏状态属性,并依据关屏状态属性判断显示设备是否处于关屏状态。
在判断显示设备是否处于关屏状态时,摄像头后台检测应用被进一步配置为:
步骤421、获取关屏状态属性的属性值。
步骤422、如果关屏状态属性的属性值为0,则确定显示设备处于关屏状态。
步骤423、如果关屏状态属性的属性值为1,则确定显示设备未处于关屏状态。
摄像头后台检测应用读取系统属性中的关屏状态属性“sys.backlight.state”,并确定属性值。如果属性值为“0”,则当前显示设备处于关屏模式,如果属性值为“1”,则当前显示设备不处于关屏模式,进入下一状态判断。
S43、如果显示设备未处于关屏状态,则获取屏保状态属性,判断所述显示设备是否处于屏保状态。
在摄像头后台检测应用判断出当前显示设备不处于关屏状态时,按照预设属性读取顺序,读取下一个系统属性,即获取屏保状态属性,并依据屏保状态属性判断显示设备是否处于屏保状态。
在判断显示设备是否处于屏保状态时,摄像头后台检测应用被进一步配置为:
步骤431、获取屏保状态属性的属性值。
步骤432、如果屏保状态属性的属性值为1,则确定显示设备处于屏保状态。
步骤433、如果屏保状态属性的属性值为0,则确定显示设备未处于屏保状态。
摄像头后台检测应用读取系统属性中的屏保状态属性“dream_state”,并确定属性值。如果属性值为“1”,则当前显示设备的屏保正在播放,处于屏保状态。如果属性值为“0”,说明当前显示设备并不处于屏保状态。
S5、如果显示设备处于待唤醒状态中的一种,则生成唤醒指令,发送至待唤醒状态对应的指定应用,唤醒指令用于使显示设备中的指定应用退出,唤醒显示设备并进入运行状态。
摄像头后台检测应用依据预设属性读取顺序获取每个待唤醒状态的属性时,如果显示设备正处于待唤醒状态中的其中一种状态时,则可依据摄像头拍摄的预览画面中的面部信息或手势信息对显示设备执行唤醒操作。
唤醒操作即是将显示设备的当前待唤醒状态退出,即将呈现相应待唤醒状态的应用退出。此时,摄像头后台检测应用生成唤醒指令,并将唤醒指令发送至显示设备正处于的待唤醒状态对应的指定应用,以使该指定应用退出,唤醒显示设备,使显示设备进入正常运行状态。
在一些实施例中,在摄像头后台检测应用在根据音箱状态属性来判断显示设备是否处于音箱状态的过程中:如果判断结果为显示设备处于音箱状态,此时,为唤醒显示设备,需将保持显示设备处于音箱状态的音箱应用退出。因此,由摄像头后台检测应用生成唤醒指令,本实施例中,唤醒指令为ACTION_TVBOX广播“com.hisense.tvbox_entry”(进入音箱状态),该指令中携带extra信息“tvbox_mode_state”,音箱应用执行该指令,将该extra信息的传入值改为“1”,即将音箱状态属性的属性值写为“1”,点亮屏幕并退出音箱状态。
在一些实施例中,在摄像头后台检测应用在根据关屏状态属性来判断显示设备是否处于关屏状态的过程中:如果判断结果为显示设备处于关屏状态,此时,为唤醒显示设备,需将保持显示设备处于关屏状态的屏幕控制应用退出。因此,由摄像头后台检测应用生成唤醒指令,本实施例中,唤醒指令为ACTION_BACKLIGHT广播“com.hisense.tvbox.CONTROL_SCREEN”(屏幕控制),该指令中携带extra信息“type”,屏幕控制应用执行该指令,将该extra信息的传入值改为“1”,即将关屏状态属性的属性值写为“1”,点亮屏幕。
在一些实施例中,在摄像头后台检测应用在根据屏保状态属性来判断显示设备是否处于屏保状态的过程中:如果判断结果为显示设备处于屏保状态,此时,为唤醒显示设备,需将保持显示设备处于屏保状态的屏幕保护应用退出。因此,由摄像头后台检测应用生成唤醒指令,本实施例中,唤醒指令为ACTION_SCREENSAVER广播“com.jamdeo.screensaver.intent.SCREENSAVER_CANCEL”,屏幕保护应用执行该指令,取消屏保,退出屏保状态。
如果摄像头后台检测应用在按照预设属性读取顺序获取每个待唤醒状态的属性后,即在获取到最后顺位的屏保状态属性,并根据屏保状态属性判断出显示设备并未处于屏保状态,也就是说,判断出显示设备并不处于待唤醒状态中的任何一种状态时,则不执行唤醒操作,即摄像头后台检测应用对获取到的摄像头拍摄的预览画面中存在的面部信息或手势信息后不进行后序处理,不执行对显示设备的唤醒。
由以上技术方案可知,本发明实施例提供的一种显示设备,由摄像头拍摄预览画面,控制器内配置有与摄像头连接的摄像头后台检测应用,摄像头后台检测应用获取摄像头拍摄的预览画面,调用预览帧可用方法对预览画面进行处理以判断预览画面中是否存在用户的面部信息或者手势信息;如果存在,则获取系统属性,判断显示设备是否处于待唤醒状态,如果显示设备处于待唤醒状态中的一种,则生成唤醒指令,发送至待唤醒状态对应的指定应用,使指定应用退出,唤醒显示设备并进入运行状态。可见,本实施例提供的显示设备,在处于待唤醒状态下,无需用户操作遥控器唤醒显示设备,而是在摄像头拍摄到用户的面部或特定手势,即可实现唤醒,该显示设备提供多种唤醒显示设备的方式,可以及时满足用户的意向操作。
图8中示例性示出了根据实施例中基于人脸识别与手势检测的唤醒方法的流程图。参见图8,本申请还提供了一种基于人脸识别与手势检测的唤醒方法,所述方法由图6所示的显示设备中配置在控制器内的摄像头后台检测应用来执行,该方法包括以下步骤:
S1、获取所述摄像头拍摄的预览画面,所述预览画面中呈现用户的面部或手势;
S2、调用预览帧可用方法对所述预览画面进行处理,根据处理结果判断所述预览画面中是否存在用户的面部信息或者手势信息;
S3、如果所述预览画面中存在用户的面部信息或者手势信息,则获取系统属性,所述系统属性是指所述显示设备处于待唤醒状态时的属性;
S4、根据所述系统属性判断所述显示设备是否处于待唤醒状态,所述待唤醒状态包括屏保状态、音箱状态和关屏状态;
S5、如果所述显示设备处于所述待唤醒状态中的一种,则生成唤醒指令,发送至所述待唤醒状态对应的指定应用,所述唤醒指令用于使显示设备中的所述指定应用退出,唤醒所述显示设备并进入运行状态。
进一步地,所述预览帧可用方法包括人脸检测方法,以及,所述调用预览帧可用方法对所述预览画面进行处理,包括:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述人脸检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的面部信息。
进一步地,所述预览帧可用方法包括手势检测方法,以及,所述调用预览帧可用方法对所述预览画面进行处理,包括:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述手势检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的手势信息。
进一步地,所述系统属性包括屏保状态属性、音箱状态属性和关屏状态属性,以及,所述根据所述系统属性判断所述显示设备是否处于待唤醒状态,包括:
按照预设属性读取顺序,获取所述音箱状态属性,判断所述显示设备是否处于音箱状态,所述预设属性读取顺序是指依次获取音箱状态、关屏状态和屏保状态对应属性的顺序;
如果所述显示设备未处于音箱状态,则获取关屏状态属性,判断所述显示设备是否处于关屏状态;
如果所述显示设备未处于关屏状态,则获取屏保状态属性,判断所述显示设备是否处于屏保状态。
进一步地,所述判断所述显示设备是否处于音箱状态,包括:
获取所述音箱状态属性的属性值;
如果所述音箱状态属性的属性值为0,则确定所述显示设备处于音箱状态;
如果所述音箱状态属性的属性值为1或2,则确定所述显示设备未处于音箱状态。
进一步地,所述判断所述显示设备是否处于关屏状态,包括:
获取所述关屏状态属性的属性值;
如果所述关屏状态属性的属性值为0,则确定所述显示设备处于关屏状态;
如果所述关屏状态属性的属性值为1,则确定所述显示设备未处于关屏状态。
进一步地,所述判断所述显示设备是否处于屏保状态,包括:
获取所述屏保状态属性的属性值;
如果所述屏保状态属性的属性值为1,则确定所述显示设备处于屏保状态;
如果所述屏保状态属性的属性值为0,则确定所述显示设备未处于屏保状态。
进一步地,所述方法还包括:
如果所述显示设备未处于所述待唤醒状态中的任一种,则不执行唤醒操作。
进一步地,所述方法还包括:
启动摄像头后台检测应用;
对所述摄像头后台检测应用进行初始化处理,将所述摄像头后台检测应用置于后台运行;
调用所述摄像头后台检测应用中的初始化人脸识别接口,对所述初始化人脸识别接口进行初始化处理,以启动人脸检测方法;
调用所述摄像头后台检测应用中的初始化手势检测接口,对所述初始化手势检测接口进行初始化处理,以启动手势检测方法;
开启摄像头,拍摄预览画面,并将所述预览画面发送至摄像头后台检测应用。
具体实现中,本发明还提供一种计算机存储介质,其中,该计算机存储介质可存储有程序,该程序执行时可包括本发明提供的基于人脸识别与手势检测的唤醒方法的各实施例中的部分或全部步骤。所述的存储介质可为磁碟、光盘、只读存储记忆体(英文:read-only memory,简称:ROM)或随机存储记忆体(英文:random access memory,简称:RAM)等。
本领域的技术人员可以清楚地了解到本发明实施例中的技术可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本发明实施例中的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)执行本发明各个实施例或者实施例的某些部分所述的方法。
本说明书中各个实施例之间相同相似的部分互相参见即可。尤其,对于基于人脸识别与手势检测的唤醒方法实施例而言,由于其基本相似于显示设备实施例,所以描述的比较简单,相关之处参见显示设备实施例中的说明即可。
以上所述的本发明实施方式并不构成对本发明保护范围的限定。

Claims (10)

1.一种显示设备,其特征在于,包括:
摄像头,用于拍摄预览画面;
控制器,所述控制器内配置有与所述摄像头连接的摄像头后台检测应用,所述摄像头后台检测应用被配置为获取所述摄像头拍摄的预览画面,所述预览画面中呈现用户的面部或手势;
调用预览帧可用方法对所述预览画面进行处理,根据处理结果判断所述预览画面中是否存在用户的面部信息或者手势信息;
如果所述预览画面中存在用户的面部信息或者手势信息,则获取系统属性,所述系统属性是指所述显示设备处于待唤醒状态时的属性;
根据所述系统属性判断所述显示设备是否处于待唤醒状态,所述待唤醒状态包括屏保状态、音箱状态和关屏状态;
如果所述显示设备处于所述待唤醒状态中的一种,则生成唤醒指令,发送至所述待唤醒状态对应的指定应用,所述唤醒指令用于使显示设备中的所述指定应用退出,唤醒所述显示设备并进入运行状态。
2.根据权利要求1所述的显示设备,其特征在于,所述预览帧可用方法包括人脸检测方法,以及,所述摄像头后台检测应用被进一步配置为:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述人脸检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的面部信息。
3.根据权利要求1所述的显示设备,其特征在于,所述预览帧可用方法包括手势检测方法,以及,所述摄像头后台检测应用被进一步配置为:
获取所述预览画面中的摄像头预览帧数据、图像格式和预览尺寸;
调用所述手势检测方法,对所述摄像头预览帧数据、图像格式和预览尺寸进行处理,检测所述预览画面中是否存在用户的手势信息。
4.根据权利要求1所述的显示设备,其特征在于,所述系统属性包括屏保状态属性、音箱状态属性和关屏状态属性,以及,所述摄像头后台检测应用被进一步配置为:
按照预设属性读取顺序,获取所述音箱状态属性,判断所述显示设备是否处于音箱状态,所述预设属性读取顺序是指依次获取音箱状态、关屏状态和屏保状态对应属性的顺序;
如果所述显示设备未处于音箱状态,则获取关屏状态属性,判断所述显示设备是否处于关屏状态;
如果所述显示设备未处于关屏状态,则获取屏保状态属性,判断所述显示设备是否处于屏保状态。
5.根据权利要求4所述的显示设备,其特征在于,所述摄像头后台检测应用被进一步配置为:
获取所述音箱状态属性的属性值;
如果所述音箱状态属性的属性值为0,则确定所述显示设备处于音箱状态;
如果所述音箱状态属性的属性值为1或2,则确定所述显示设备未处于音箱状态。
6.根据权利要求4所述的显示设备,其特征在于,所述摄像头后台检测应用被进一步配置为:
获取所述关屏状态属性的属性值;
如果所述关屏状态属性的属性值为0,则确定所述显示设备处于关屏状态;
如果所述关屏状态属性的属性值为1,则确定所述显示设备未处于关屏状态。
7.根据权利要求4所述的显示设备,其特征在于,所述摄像头后台检测应用被进一步配置为:
获取所述屏保状态属性的属性值;
如果所述屏保状态属性的属性值为1,则确定所述显示设备处于屏保状态;
如果所述屏保状态属性的属性值为0,则确定所述显示设备未处于屏保状态。
8.根据权利要求1所述的显示设备,其特征在于,所述摄像头后台检测应用被进一步配置为:
如果所述显示设备未处于所述待唤醒状态中的任一种,则不执行唤醒操作。
9.根据权利要求1所述的显示设备,其特征在于,所述控制器被进一步配置为:
启动摄像头后台检测应用;
对所述摄像头后台检测应用进行初始化处理,将所述摄像头后台检测应用置于后台运行;
调用所述摄像头后台检测应用中的初始化人脸识别接口,对所述初始化人脸识别接口进行初始化处理,以启动人脸检测方法;
调用所述摄像头后台检测应用中的初始化手势检测接口,对所述初始化手势检测接口进行初始化处理,以启动手势检测方法;
开启摄像头,拍摄预览画面,并将所述预览画面发送至摄像头后台检测应用。
10.一种基于人脸识别与手势检测的唤醒方法,其特征在于,所述方法包括:
获取所述摄像头拍摄的预览画面,所述预览画面中呈现用户的面部或手势;
调用预览帧可用方法对所述预览画面进行处理,根据处理结果判断所述预览画面中是否存在用户的面部信息或者手势信息;
如果所述预览画面中存在用户的面部信息或者手势信息,则获取系统属性,所述系统属性是指所述显示设备处于待唤醒状态时的属性;
根据所述系统属性判断所述显示设备是否处于待唤醒状态,所述待唤醒状态包括屏保状态、音箱状态和关屏状态;
如果所述显示设备处于所述待唤醒状态中的一种,则生成唤醒指令,发送至所述待唤醒状态对应的指定应用,所述唤醒指令用于使显示设备中的所述指定应用退出,唤醒所述显示设备并进入运行状态。
CN202010284221.1A 2020-04-13 2020-04-13 一种基于人脸识别与手势检测的唤醒方法及显示设备 Active CN113542878B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010284221.1A CN113542878B (zh) 2020-04-13 2020-04-13 一种基于人脸识别与手势检测的唤醒方法及显示设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010284221.1A CN113542878B (zh) 2020-04-13 2020-04-13 一种基于人脸识别与手势检测的唤醒方法及显示设备

Publications (2)

Publication Number Publication Date
CN113542878A true CN113542878A (zh) 2021-10-22
CN113542878B CN113542878B (zh) 2023-05-09

Family

ID=78087854

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010284221.1A Active CN113542878B (zh) 2020-04-13 2020-04-13 一种基于人脸识别与手势检测的唤醒方法及显示设备

Country Status (1)

Country Link
CN (1) CN113542878B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114090087A (zh) * 2021-11-24 2022-02-25 北京珠穆朗玛移动通信有限公司 一种设备唤醒方法、设备唤醒系统及电子设备

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105501121A (zh) * 2016-01-08 2016-04-20 北京乐驾科技有限公司 一种智能唤醒方法及系统
CN107102540A (zh) * 2016-02-23 2017-08-29 芋头科技(杭州)有限公司 一种唤醒智能机器人的方法及智能机器人
CN108271078A (zh) * 2018-03-07 2018-07-10 康佳集团股份有限公司 通过手势识别的语音唤醒方法、智能电视及存储介质
CN110058777A (zh) * 2019-03-13 2019-07-26 华为技术有限公司 快捷功能启动的方法及电子设备
CN110087131A (zh) * 2019-05-28 2019-08-02 海信集团有限公司 电视系统中的电视控制方法及主控终端

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105501121A (zh) * 2016-01-08 2016-04-20 北京乐驾科技有限公司 一种智能唤醒方法及系统
CN107102540A (zh) * 2016-02-23 2017-08-29 芋头科技(杭州)有限公司 一种唤醒智能机器人的方法及智能机器人
CN108271078A (zh) * 2018-03-07 2018-07-10 康佳集团股份有限公司 通过手势识别的语音唤醒方法、智能电视及存储介质
CN110058777A (zh) * 2019-03-13 2019-07-26 华为技术有限公司 快捷功能启动的方法及电子设备
CN110087131A (zh) * 2019-05-28 2019-08-02 海信集团有限公司 电视系统中的电视控制方法及主控终端

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114090087A (zh) * 2021-11-24 2022-02-25 北京珠穆朗玛移动通信有限公司 一种设备唤醒方法、设备唤醒系统及电子设备

Also Published As

Publication number Publication date
CN113542878B (zh) 2023-05-09

Similar Documents

Publication Publication Date Title
CN111935518B (zh) 一种视频投屏方法及显示设备
CN112153447B (zh) 一种显示设备及音画同步控制方法
CN111970549B (zh) 菜单显示方法和显示设备
CN112019782A (zh) 增强型音频回传通道的控制方法及显示设备
CN112135180A (zh) 一种内容显示方法和显示设备
CN112118400A (zh) 显示设备上图像的显示方法及显示设备
CN111954059A (zh) 屏保的展示方法及显示设备
CN111757024A (zh) 一种控制智能图像模式切换的方法及显示设备
CN112399217B (zh) 显示设备及与功放设备建立通信连接的方法
CN112289271B (zh) 显示设备及调光方式切换方法
CN112040535B (zh) 一种Wifi处理方法及显示设备
CN112087671B (zh) 一种输入法控件的操控提示信息的显示方法及显示设备
CN112203154A (zh) 一种显示设备
CN113495711A (zh) 显示设备和显示方法
CN113542878B (zh) 一种基于人脸识别与手势检测的唤醒方法及显示设备
CN112261289B (zh) 显示设备及ai算法结果获取方法
CN113810747B (zh) 一种显示设备及信号源设置界面交互方法
CN111918056B (zh) 一种摄像头状态检测方法及显示设备
CN114302197A (zh) 一种语音分离控制方法及显示设备
CN111931692A (zh) 显示设备及图像识别方法
CN114390190A (zh) 显示设备及监测应用启动摄像头的方法
CN113438553B (zh) 一种显示设备被唤醒方法及显示设备
CN113194355B (zh) 一种视频播放方法及显示设备
CN112835631B (zh) 一种启动主页应用的方法及显示设备
CN112261290B (zh) 显示设备、摄像头以及ai数据同步传输方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant