CN110865790A - 一种电子画屏的工作方法及电子画屏 - Google Patents
一种电子画屏的工作方法及电子画屏 Download PDFInfo
- Publication number
- CN110865790A CN110865790A CN201911151100.3A CN201911151100A CN110865790A CN 110865790 A CN110865790 A CN 110865790A CN 201911151100 A CN201911151100 A CN 201911151100A CN 110865790 A CN110865790 A CN 110865790A
- Authority
- CN
- China
- Prior art keywords
- user
- image
- information
- determining
- playing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/16—Sound input; Sound output
- G06F3/165—Management of the audio stream, e.g. setting of volume, audio stream path
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
Abstract
本发明公开了一种电子画屏的工作方法及电子画屏;所述方法包括:唤醒步骤:当到达预设的第一提醒时间时,播放第一音频信息;采集第一用户图像;根据第一用户图像,确定第一身体姿态;判断第一身体姿态是否为躺姿;若是,则逐渐增大第一音频信息的播放音量;伴眠步骤:当到达预设的第二提醒时间时,播放第二音频信息;采集第二用户图像和第一用户眼部图像;根据第二用户图像,确定第二身体姿态;根据第一用户眼部图像,确定眼部状态;根据第二身体姿态和第一眼部状态,判断用户是否入眠;若是,则停止播放第二音频信息。本发明丰富和拓展了电子画屏的功能,提高了电子画屏的功能与用户日常生活需求之间的适应度,也相应提高了电子画屏的使用效率。
Description
技术领域
本发明涉及显示设备技术领域,特别是指一种电子画屏的工作方法及电子画屏。
背景技术
随着电子产业的不断发展,电子产品的使用日益广泛;其中,电子画屏置作为一种新型的信息展示装置,可以将数字化存储的信息进行多媒体化的展示,在越来越多的领域得到了应用。
现如今,电子画屏在居家生活中,特别是与用户的互动方面有着广泛的应用。现有的电子画屏在工作时,通过播放多媒体内容来供用户观看、收听。然而,上述现有的电子画屏的工作方式,仅仅是简单的进行多媒体内容的播放,功能单一,无法与日常生活中用户的行为相适应,适应度较差。
发明内容
有鉴于此,本发明的目的在于提出一种电子画屏的工作方法及电子画屏,以解决现有技术存在的功能单一、适应度较差的问题。
基于上述目的,本发明提供了一种电子画屏的工作方法,包括:唤醒步骤和伴眠步骤中的至少一个;其中,
所述唤醒步骤,包括:
当到达预设的第一提醒时间时,播放第一音频信息;
采集第一用户图像;
根据所述第一用户图像,确定第一身体姿态;
判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量;
所述伴眠步骤,包括:
当到达预设的第二提醒时间时,播放第二音频信息;
采集第二用户图像和第一用户眼部图像;
根据所述第二用户图像,确定第二身体姿态;
根据所述第一用户眼部图像,确定眼部状态;
根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则停止播放所述第二音频信息。
另一方面,本发明还提供了一种电子画屏,包括:
输出组件,被配置为在唤醒步骤中当到达预设的第一提醒时间时,播放第一音频信息;以及,在伴眠步骤中当到达预设的第二提醒时间时,播放第二音频信息;
采集组件,被配置为在唤醒步骤中采集第一用户图像;以及,在伴眠步骤中采集第二用户图像和第一用户眼部图像;
控制组件,被配置为在唤醒步骤中根据所述第一用户图像,确定第一身体姿态;判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量;以及,在伴眠步骤中根据所述第二用户图像,确定第二身体姿态;根据所述第一用户眼部图像,确定眼部状态;根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则控制所述输出组件停止播放所述第二音频信息。
从上面所述可以看出,本发明提供的电子画屏的工作方法及电子画屏,基于电子画屏的功能和设置位置,通过在到达预设的提醒时间时,播放预定的音频信息,来实现对用户的唤醒和伴眠功能,进一步丰富和拓展了电子画屏的功能,提高了电子画屏的功能与用户日常生活需求之间的适应度,也相应提高了电子画屏的使用效率。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本发明实施例的电子画屏的工作方法中的唤醒步骤流程图;
图2为本发明实施例的电子画屏的工作方法中的伴眠步骤流程图;
图3为本发明实施例的伴眠步骤中判断用户是否入眠的步骤流程图;
图4为本发明实施例的电子画屏的工作方法中监控用户表情的步骤流程图;
图5为本发明实施例中确定表情状态的步骤流程图;
图6为本发明实施例中监控观看时长的步骤流程图。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。
需要说明的是,除非另外定义,本发明实施例使用的技术术语或者科学术语应当为本公开所属领域内具有一般技能的人士所理解的通常意义。本公开中使用的“第一”、“第二”以及类似的词语并不表示任何顺序、数量或者重要性,而只是用来区分不同的组成部分。“包括”或者“包含”等类似的词语意指出现该词前面的元件或者物件涵盖出现在该词后面列举的元件或者物件及其等同,而不排除其他元件或者物件。“连接”或者“相连”等类似的词语并非限定于物理的或者机械的连接,而是可以包括电性的连接,不管是直接的还是间接的。
电子画屏,是可以显示数字化的绘画、影像等内容并结合音频等进行多媒体输出的显示终端。如背景技术所述,现有的电子画屏在用户的日常使用过程中,往往仅是停留在电子画屏的多媒体输出功能上,即显示画面,播放音频等。然而作为一个具有数据处理功能的智能终端,电子画屏除了基础的多媒体输出功能之外,还具备数据采集、与云端或其他智能终端通讯交互等。申请人则是基于电子画屏具有的上述各种功能,结合用户在安装有电子画屏的居室中的日常生活行为,提供了一种新的电子画屏的工作方法及电子画屏,将电子画屏的工作与用户日常生活需求进行有效的适应,从而丰富电子画屏的功能。
以下,通过具体的实施例来进一步说明本发明的技术方案。
本发明实施例提供了一种电子画屏的工作方法,参考图1和图2。本实施例中,所述的电子画屏的工作方法,包括唤醒步骤和伴眠步骤。其中,唤醒步骤,在每日的早间时段执行,用于唤醒睡眠中的用户,并使用户起身结束睡眠的姿态。伴眠步骤,在每日的晚间时段执行,用于辅助用户进入眠眠。
参考图1,本实施例中,所述的唤醒步骤,包括:
步骤101、当到达预设的第一提醒时间时,播放第一音频信息。
本步骤中,所述的第一提醒时间,是指用户预先设定的提醒起床的时间点,如每日早间的6点。一般情况下,本实施例的唤醒步骤是用于每日早晨的唤醒场景;当然,在其他时段,用户需要进行睡眠过程中的唤醒时,也同样可以使用本实施例的唤醒步骤,具体执行时,只需要根据具体的唤醒时间点,相应的设置第一提醒时间即可。
本步骤中,对于第一提醒时间的设定方式,可以是用户直接操作电子画屏,通过电子画屏设置的实体输入按键或是电子画屏运行的软件系统提供的虚拟输入按键,进行第一提醒时间的设定。此外,基于电子画屏能够与其他智能终端通信交互的功能,第一提醒时间的设定也可以是,用户使用其操作的智能终端(如手机、电脑)与电子画屏进行通信交互,通过上述智能终端上安装的软件(电脑软件、手机APP)向电子画屏发送用于设定第一提醒时间的的控制指令,来进行第一提醒时间的设定。
本步骤中,电子画屏通过其运行的软件系统中的时间组件来监测当前时间。当时间到达所述的第一提醒时间时,播放第一音频信息。第一音频信息,是指用户设定的用于唤醒的音频。第一音频信息的具体内容,则根据用户的需要或者喜好而设定,可以是音乐、歌曲、诗歌、文章等。对于第一音频信息的设定方式,可以参照前述第一提醒时间的设定方式,此处不再赘述。此外,在初次设定好第一音频信息之后,还可以通过定期更新的方式更换第一音频信息;其中,用于更新的第一音频信息,可以是来自存储在本地的第一音频信息,也可以是从云端在线更新。
本步骤中,电子画屏通过其扬声器实现对第一音频信息播放。其中,第一音频信息可以是预先存储于电子画屏本地的,也可以是基于数据通信功能从外部的其他智能设备(云端的服务器、用户持有的手机等)下载后存储于电子画屏本地的,还可以是基于数据通信功能实时在线播放的。
可选的,在播放第一音频信息时,还可以确定与第一音频信息对应的图像信息,播放所述图像信息。基于电子画屏的多媒体输出功能,为实现更好的唤醒效果,也可以同时播放音频和图像,例如常见的电子绘本,在播放时,电子绘本的音频部分则作为所述的第一音频信息播放,电子绘本的图像部分则作为所述的图像信息播放。
步骤102、采集第一用户图像。
本步骤中,电子画屏通过其摄像头采集第一用户图像。所述的第一用户图像,是指在本实施例的唤醒步骤中采集到的,后续用于判定用户的身体姿态的图像。在第一用户图像中,应包括有要唤醒的对象,即居室中的用户,除用户外,第一用户图像也可以包括居室的其他物体等。显然,为实现唤醒睡眠中用户的功能,电子画屏应设置在用户睡眠所处的居室内,且基于电子画屏在居室内的具体设置位置以及电子画屏的摄像头的摄像参数,来实现对于第一用户图像的采集。其中,电子画屏在居室内的具体设置位置,以及电子画屏的摄像头的摄像参数可以根据提的居室环境、大小等而相应的设置,只要保证电子画屏的摄像头采集到的图像中,包括有用户的全部身体或者绝大部分身体,以用作后续步骤中身体姿态判定即可。
步骤103、根据所述第一用户图像,确定第一身体姿态。
本步骤中,采用身体姿态识别算法对前述步骤采集到的第一用户图像进行身体姿态识别处理,进而确定第一用户图像中的包括用户的第一身体姿态。第一身体姿态,是指在本实施例的唤醒步骤中,基于采集的第一用户图像通过身体姿态识别处理得到的,该第一身体姿态为起标签或标识作用的数据,用于表示用户的身体姿态。
本步骤中,可以采用现有的任意身体姿态识别算法对第一用户图像进行处理,如OpenPose、DeepCut等。此外,也可以通过机器学习模型来处理所述第一用户图像。具体的,通过带有标签的各种用户图像构建训练集,其中,所述的标签对应不同的身体姿态;通过训练集训练机器学习模型,将第一用户图像输入训练后的机器学习模型,即能够得到第一用户图像中的包括用户的第一身体姿态。
通过上述任意的方法对第一用户图像进行身体姿态识别处理后,即能够确定用户的第一身体姿态,如站姿、躺姿、走姿等。
步骤104、判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量。
本步骤中,对前述步骤确定得到的第一身体姿态进行判断,判断其是否是躺姿。若第一身体姿态是躺姿,则表明用户当前仍然处于躺着的姿态,可能还处于睡眠中,或者是已经醒来但并未起身。为实现本实施例的唤醒步骤唤醒用户并使用户起身结束睡眠的效果,在判定第一身体姿态是躺姿时,逐渐增大第一音频信息的播放音量。在第一音频信息的播放音量逐渐增大后,较大的播放音量能够更为有效的将仍处于睡眠中用户唤醒进而起身,或者是使已经醒来但并未起身的用户通过播放音量变化意识到需要起身了,从而起身结束睡眠。
可选的,当第一音频信息的播放音量增大到过大时,可能会产生类似噪音的效果,对要唤醒的用户或是其他用户造成不良的影响。为防止上述问题,可以设定第一音频信息的最大播放音量,即为第一音频信息预先设置音量阈值,使得在增大第一音频信息的播放音量时,播放音量不超过上述的音量阈值。也即,在播放第一音频信息时,还相应的监测第一音频信息的播放音量,当播放音量到达预设的音量阈值时,使播放音量保持在所述音量阈值,从而防止出现前述的不良情况,保证唤醒效果。
本步骤中,若判定第一身体姿态不是躺姿,则表明用户当前已经不再处于躺着的姿态,已经做起、起身或者是进行其他的动作,此时本实施例的唤醒步骤唤醒用户并使用户起身结束睡眠的效果已经实现。相应的,第一音频信息可以继续进行正常的播放直至播放结束;也可以是在判定第一身体姿态不是躺姿后,立即停止第一音频信息的播放。
本实施例的唤醒步骤,首先基于电子画屏设置在居室内的设置位置的特点,以及电子画屏的多媒体输出功能,通过在到达预设的第一提醒时间时播放第一音频信息的方式,实现了用户日常生活中闹铃功能。其中,由于电子画屏相比于常规的闹铃设备,具有更强大的输出功能,所以可以选择的第一音频信息的具体内容更加丰富,除了常见的音乐之外,还可以是诗歌、文章或是其他的个性化内容。进一步的,基于电子画屏的图像采集和数据处理功能,本实施例中还通过采集第一用户图像来确定第一身体姿态,并根据第一身体姿态判断用户是否已经起身结束睡眠,若用户还未起身结束睡眠,则通过逐渐增大播放音量的方式,有效的唤醒用户或提醒用户起身结束睡眠。
例如,本实施例的唤醒步骤可以用于日常生活中唤醒儿童起床的应用场景。由于儿童的年龄较小,自制能力没有完全形成,故每日的起床则需要提醒和监督。通过本实施例的唤醒步骤,将电子画屏安装在儿童的卧室中。对应于儿童应起床的时间设置第一提醒时间并相应的设置儿童喜好的音频作为第一音频信息。在到达第一提醒时间时,电子画屏则播放第一音频信息,作为闹铃唤醒儿童。进一步的,通过图像采集和身体姿态识别,判断儿童是否起床;若确定儿童仍为躺姿即未起床,则将第一音频信息的播放音量逐渐增大,用较大的音量唤醒儿童。其中,为提高唤醒的效果,第一音频信息设置为儿童喜好的音频内容,可以是儿童平时爱听的诗歌、故事等。
其中,设置第一提醒时间和第一音频信息的用户,一般为儿童的父母等监护人。而第一用户图像中的用户,则为儿童。也就是说,在本实施例的方法的各步骤中,用户这一表述对应到具体应用场景中时,其所指的对象可能是不同的。
参考图2,本实施例中,所述的伴眠步骤,包括:
步骤201、当到达预设的第二提醒时间时,播放第二音频信息。
本步骤中,所述的第二提醒时间,是指用户预先设定的提醒需要去睡觉、休息的时间点,如每日晚间的10点。一般情况下,本实施例的伴眠步骤是用于每日晚上的提醒用户睡觉和陪伴入眠的场景;当然,在其他时段,用户需要进行休息睡眠时,也同样可以使用本实施例的伴眠步骤,具体执行时,只需要根据具体的唤醒时间点,相应的设置第二提醒时间即可。
本步骤中,第二提醒时间的设定方式和播放方式,可以参照前述唤醒步骤中的第一提醒时间的设定方式,此处不再赘述。此外,第二音频信息的内容可以选取有利于帮助入眠的音频内容,如舒缓的音乐。
步骤202、采集第二用户图像和第一用户眼部图像。
本步骤中,电子画屏通过其摄像头采集第二用户图像。所述的第二用户图像,是指在本实施例的伴眠步骤中采集到的,后续用于判定用户的身体姿态的图像。第二用户图像的采集方式和要求,可以参照前述唤醒步骤中的第一用户图像的设定方式,此处不再赘述。
本步骤中,还获得第一用户眼部图像,该第一用户眼部图像是指,本步骤中采集到的用于判定用户的眼部状态的图像,在该第一用户眼部图像中,应至少包括有用户的眼部。对于具体的获得方式,第一用户眼部图像可以是通过电子画屏的摄像头单独采集获得的。此外,当第二用户图像中已经包含了比较清楚完成的用户眼部时,第一用户眼部图像也可以是从第二用户图像中提取获得的。
步骤203、根据所述第二用户图像,确定第二身体姿态。
本步骤中,第二身体姿态,是指在本实施例的伴眠步骤中,基于采集的第二用户图像通过身体姿态识别处理得到的,该第二身体姿态为起标签或标识作用的数据,用于表示用户的身体姿态。具体的身体姿态识别处理方法等可以参照前述唤醒步骤中的第一身体姿态的相应内容,此处不再赘述。
步骤204、根据所述第一用户眼部图像,确定眼部状态。
本步骤中,采用眼部识别算法对前述步骤采集到的第一用户眼部图像进行眼部识别处理,进而确定用户的眼部状态。
本步骤中,可以采用现有的任意眼部识别算法对第一用户眼部图像进行处理,具体选用何种眼部识别算法可以根据具体的实施需要而选择,本实施例中不做限定。此外,也可以通过机器学习模型来处理所述第一用户眼部图像。具体的,通过带有标签的各种用户眼部图像构建训练集,其中,所述的标签对应不同的眼部状态;通过训练集训练机器学习模型,将第一用户眼部图像输入训练后的机器学习模型,即能够得到第一用户图像中的包括用户的眼部状态。
通过上述任意的方法对第一用户眼部图像进行眼部状态识别处理后,即能够确定用户的眼部状态,如睁眼、闭眼、眯眼等。
步骤205、根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则停止播放所述第二音频信息。
本步骤中,结合前述步骤获得的第二身体姿态和眼部状态,来判断用户是否入眠。具体的,对应用户实际生活中入眠状态下的身体一般是躺姿,而眼睛一般是闭眼状态,则相应的在本步骤中判断第二身体姿态是否为躺姿,以及眼部状态是否为闭眼即可。
参考图3,本实施例中,根据第二身体姿态和眼部状态,判断用户是否入眠,具体包括以下步骤:
步骤301、判断所述第二身体姿态是否为躺姿。
本步骤中,根据前述步骤203中确定的第二身体姿态,判断第二身体姿态是否为躺姿。如果是躺姿,则表明目前用户处于躺着的状态,可能已经入眠,此时继续执行后续步骤。如果判断第二身体姿态不是躺姿,则表明目前用户没有处于躺着的姿态,基本可以确定用户没有入眠,此时可以重新执行步骤,以实现持续的对用户是否入眠进行判断。
步骤302、若所述第二身体姿态为躺姿,则进一步判断所述眼部状态是否为闭眼。
本步骤中,根据前述步骤204中确定的眼部状态,判断眼部状态是否为闭眼。如果是闭眼,则表明目前用户处于闭眼躺着的状态,很有可能已经入眠,此时继续执行后续步骤。如果判断眼部状态不是闭眼,则表明目前用户虽然处于躺着的状态,但眼睛是睁开的,可以确定用户并没有入眠,此时可以重新执行本步骤,或者是返回执行步骤301,以实现持续的对用户是否入眠进行判断。
步骤303、若所述眼部状态为闭眼,则进一步记录所述第二身体姿态为躺姿和所述眼部状态为闭眼的持续时长。
本步骤中,确定了眼部状态为闭眼,结合前述步骤中确定了第二身体姿态为躺姿,表明目前用户处于闭眼躺着的状态。此时,进一步记录用户处于上述状态下的持续时长,通过记录用户处于上述状态下的持续时长来最终确定用户是否入眠。具体的,当用户处于上述状态下的持续时长足够长时,可以确定用户入眠;当用户处于上述状态下的持续时长不够长时,不判定用户入眠,这样能够排除用户正处于闭眼躺着休息但没有入眠的情况。
步骤304、当所述持续时长到达预设的时长阈值时,判定用户入眠。
本步骤中,判断用户处于上述状态下的持续时长足够长,具体的,判断所述的持续时长是否到达预设的时长阈值。若持续时长到达预设的时长阈值,则相应判定用户入眠。其中,预设的时长阈值的具体时长长短可以根据具体的实施需要而设定,具体的可以考虑用户的年龄、性别等。例如,儿童入眠一般较快,则当用户为儿童时,时长阈值可以设置的较短,如2分钟;老年人入眠时间相比于年轻人较慢,则当用户为老年人时,时长阈值可以设置的较长,如10分钟。
本实施例中,在判断用户入眠后,为防止播放中的第二音频信息影响已经入眠的用户,则相应的停止播放第二音频信息。其中,在停止播放第二音频信息时,可以将第二音频信息的播放音量逐渐减小,并最终停止播放。
本实施例的伴眠步骤,首先基于电子画屏设置在居室内的设置位置的特点,以及电子画屏的多媒体输出功能,通过在到达预设的第二提醒时间时播放第二音频信息的方式,提醒用户需要睡觉休息,陪伴、辅助用户进入眠眠。
例如,本实施例的伴眠步骤可以用于日常生活中陪伴儿童入眠的应用场景。由于儿童的年龄较小,自制能力没有完全形成,在夜间往往不能顺利的入眠。通过本实施例的伴眠步骤,将电子画屏安装在儿童的卧室中。对应于儿童应睡觉的时间设置第二提醒时间并相应的设置儿童喜好的音频作为第二音频信息。儿童喜好的音频作为第二音频信息能够使儿童集中在播放的第二音频信息上,在注意力集中的状态下,儿童更容易产生睡意。在到达第二提醒时间时,电子画屏则播放第二音频信息,提醒儿童需要到了睡觉时间。进一步的,通过图像采集和身体姿态识别、眼部识别,判断儿童是否入眠;若确定儿童已经入眠,则停止播放第二音频信息。
本实施例的电子画屏的工作方法,通过唤醒步骤和伴眠步骤分别对应用户日常生活中早晚间的休息习惯,使得实施本实施例的方法的电子画屏具备了唤醒和伴眠的实用功能,有效的丰富和拓展了电子画屏的功能,且上述功能非常适用于用户的日常生活,适应性较佳。
需要说明的是,本实施例的方法中,所述的唤醒步骤和伴眠步骤之间并不存在执行顺序或相互依赖关系,二者可以分别独立执行。也就是说,在实施本实施例的方法时,可以仅执行唤醒步骤和伴眠步骤中的一个,即仅执行唤醒步骤,或者是仅执行伴眠步骤;当仅执行唤醒步骤和伴眠步骤中的一个时,并不妨碍本实施例的方法的正常执行,且不影响本实施例的技术效果的实现。
此外,在本发明实施例中,例举了若干关于儿童的应用场景,显然该关于儿童的应用场景不应当被理解为是对应本发明的应用场景的限定,同时也不代表其是本发明的优选应用场景。
作为一个可选的实施例,参考图4,所述的电子画屏的工作方法,还包括以下步骤:
步骤401、播放第一多媒体信息。
本步骤中,电子画屏的通过显示屏和扬声器播放第一多媒体信息。第一多媒体信息的内容、播放时间等本实施例中不做限定。
步骤402、采集用户面部图像,根据所述用户面部图像,确定表情状态。
本步骤中,通过电子画屏的摄像头采集用户面部图像。用户面部图像是指电子画屏的摄像头采集到的包含有用户面部的图像。用户面部图像的采集方式和要求,可以参照前述实施例中第一用户图像等的设定方式,此处不再赘述。
根据用户面部图像,确定表情状态。该表情状态,是指基于采集的用户面部图像,通过表情识别处理得到的,起到的标签或标识作用的数据,用于表示用户的表情状态。具体的表情识别算法可以选择脸部运动编码分析法(Facial Actions Code System,FACS)、运动模板法(Active Shape Model,ASM)等。此外,也可以使用机器学习模型来获得。
通过对用户面部图像进行表情识别处理后,即能够确定用户的表情状态,如微笑、大笑、皱眉、噘嘴等。
步骤403、根据所述表情状态,确定用户对所述第一多媒体信息的喜爱度。
本步骤中,根据前述步骤中获得的表情状态,来确定用户对于当前播放的第一多媒体信息的喜爱度。具体的,当表情状态为微笑、大笑等时,表明用户在观看第一多媒体信息时处于比较积极和正面的状态下,则用户很有可能对第一多媒体信息为喜爱的态度。反之,当表情状态为皱眉、噘嘴等时,表明用户在观看第一多媒体信息时处于比较消极和负面的状态下,则用户很有可能对第一多媒体信息为不喜爱的态度。相应的,本步骤中生成用户对于当前播放的第一多媒体信息的喜爱度,该喜爱度用于表示用户对于第一多媒体信息是否喜爱。
具体的,可以建立表情状态与喜爱度对应关系,在获得表情状态后,对应的获得相应的喜爱度。具体的,喜爱度可以表示为喜爱、不喜爱等汉子信息表示,或者是通过代码的方式,如“1”表示喜爱,“0”表示不喜爱。
步骤404、根据所述喜爱度,生成所述第一多媒体信息对应的标签信息。
本步骤中,根据前述步骤确定的用户对于第一多媒体信息的喜爱度,相应的生成一与第一多媒体信息对应的标签信息。该标签信息用于记载并表示前述获得的喜爱度,并被封装为能够被通信传输及各种常见的文件系统识别的格式;例如,生成一个记录有喜爱度的TXT文件作为标签信息;也可以是具体的系统下的专门用户标签的文件格式,如windows系统下的“.lbx”文件。
步骤405、发送所述标签信息。
本步骤中,将标签信息通过电子画屏的通信组件发送出。发送的目标设备为外部的智能终端,如用户持有的手机、云端的服务器等。
本实施例的方法中,通过对于观看播放的第一多媒体信息的用户的表情状态,来确定其对第一多媒体信息的喜爱度并相应生成标签信息,该标签信息能够被用于多种不同的应用场景,以实现不同功能。
例如,本实施例中的用户为儿童,播放的第一多媒体信息为内容是儿童读物的电子绘本。在儿童观看的过程中,可以通过采集儿童的面部图像,确定儿童的表情,并确定儿童对于当前播放的电子绘本的喜爱度,进而相应生成记录儿童对于当前播放的电子绘本的喜爱度的标签信息。作为一种可选的方式,可以将标签信息发送至儿童的父母持有的手机,使父母能够了解儿童对观看的电子绘本的喜爱度,若发现儿童不喜爱当前播放的电子绘本,则可以相应的进行更换。作为另一种可选的方式,也可以将标签信息发送至云端的、提供电子绘本的服务器,服务器可以根据儿童对电子绘本的喜爱度,相应的为电子画屏推送更多具有类似标签信息的其他电子绘本,或者是根据标签信息来对电子绘本进行分类、统计等操作。
作为一个可选的实施例,参考图5,前述实施例的步骤402和步骤403具体包括以下步骤:
步骤501、在播放所述第一多媒体信息的过程中,连续采集多个所述用户面部图像。
本步骤中,所述的用户面部图像为多个,具体的,是在第一多媒体信息的过程中由电子画屏的摄像头连续采集获得的,用来记录用户在观看第一多媒体信息的过程中的一定时间段内面部表情的连续变化。其中,连续采集的时长以及采集的用户面部图像数量,可以根据具体实施情况而灵活设定。
步骤502、根据多个所述用户面部图像,相应的确定多个所述表情状态。
本步骤中,对于获得的多个用户面部图像,相应的确定多个表情状态。通过多个表情状态来表达用户在观看第一多媒体信息的过程中的一定时间段内表情状态的连续变化情况。
步骤503、确定每个所述表情状态的类型;所述类型包括:积极、一般和消极。
本步骤中,为每个所述表情状态,确定其类型。本实施例中,将表情状态的类型分为积极、一般和消极。例如,将微笑、大笑等类似的表情状态的类型确定为积极,用户在观看第一多媒体信息是表现出的是积极的表情状态,此时用户较大概率会喜爱第一多媒体信息;将皱眉、噘嘴等类似的表情状态的类型确定为消极,用户在观看第一多媒体信息是表现出的是消极的表情状态,此时用户较大概率会不喜爱第一多媒体信息。对于其他的表情状态,如正常表情或表情变化不大的情况,将这些表情状态的类型确定为一般。
步骤504、根据类型为积极的所述表情状态占全部所述表情状态的占比,确定用户对所述第一多媒体信息的喜爱度。
本步骤中,计算类型为积极的表情状态占全部表情状态的占比,通过该占比来确定用户对所述第一多媒体信息的喜爱度。具体的,判断类型为积极的表情状态占全部表情状态的占比是否超过一定的值,当超过一定的值时,表明用户观看第一多媒体信息的过程中,更多的表现了积极的表情状态,则用户对第一多媒体信息为喜爱的态度。反之,若类型为积极的表情状态占全部表情状态的占比较低,即未超过一定的值时,表明用户观看第一多媒体信息的过程中,更多的表现了消极的表情状态,则用户对第一多媒体信息为不喜爱的态度。
其中,类型为积极的表情状态占全部表情状态的占比具体达到多少时,便判定用户喜爱第一多媒体信息,可以根据具体的实施需要而灵活设定,如50%,全部表情状态中超过半数均为类型为积极的表情状态时,则判定用户喜爱第一多媒体信息。
本实施例中,通过连续采集用户面部图像,并相应确定多个表情状态。通过对表情状态的类型分类,进一步再基于类型积极的表情状态占全部表情状态的占比来确定用户对于第一多媒体信息的喜爱度,更加的能够符合一般用户的观看规律,能够提高确定的喜爱度的准确性。
作为一个可选的实施例,参考图6,所述电子画屏的工作方法,还包括以下步骤:
步骤601、播放第二多媒体信息。
本步骤中,电子画屏的通过显示屏和扬声器播放第二多媒体信息。第二多媒体信息的内容、播放时间等本实施例中不做限定。
步骤602、获取用户的年龄信息。
本步骤中,所述的年龄信息表明了当前观看第二多媒体信息的用户的年龄。具体的,由于电子画屏在使用时一般需要通过注册,所以年龄信息可以直接从用户的注册信息中获取。此外,也可以是通过电子画屏的摄像头,采集包括有当前用户的图像,并通过图像识别,确定用户的年龄信息。其中,通过图像中的用户对象,确定其年龄,可以通过任意现有的算法处理,本实施例中不做限定。
步骤603、根据所述年龄信息和预设的对应关系,确定提示时长。
本步骤中,预设有年龄信息和提示时长对应关系。其中,提示时长是与年龄信息相对应的,根据相应年龄下观看过程中的专注度和用眼疲劳程度而设定的连续观看第二多媒体信息的最长时长,将该最长时长设置为所述的提示时长。也就是说,当用户观看第二多媒体信息到达提示时长时,需要对用户进行提醒,提醒用户已经连续观看较长时间,需要进行休息。
例如,年龄信息包括小于2岁、3-4岁、5-6岁、7-12岁、13-16岁;相应的,小于2岁,提示时长为15分钟;3-4岁提示时长为20分钟;5-6岁,提示时长为30分钟;7-12岁,提示时长为40分钟;12-16岁,提示时长为1小时。
步骤604、记录用户观看所述第二多媒体信息的观看时长。
本步骤中,记录用户观看所述第二多媒体信息的观看时长。具体的记录方式,可以是将用户处于电子画屏前到离开电子画屏前的时间段作为观看时长;也可以是以用户的眼睛持续注视在电子画屏上的时间段作为观看时长。在上述各观看时长的记录方式中,涉及到使用的图像识别技术、人眼识别技术等,可以选用现有的任意方法,本实施例中不做限定。
步骤605、当所述观看时长到达所述提示时长时,输出提示信息。
本步骤中,将记录的带的观看时长与设定的提示时长进行实时的比对,当观看时长到达提示时长时,表明用户已经观看第二多媒体信息的达到了其年龄段对应的最长观看时长。相应的,电子画屏输出提示信息以提示用户需要休息。
其中,提示信息的具体形式,可以根据实施需要灵活设定,如通过电子画屏的扬声器输出提示语音;或者是通过电子画屏的显示屏输出提示消息;也可以是通过电子画屏向外部的智能终端设备发送提示消息,如用户的手机。上述各种输出提示信息的方式,在具体实施时可以只设置其中一种,也可以同时设置多种。
本实施例中,通过用户的年龄信息对应的设置提示时长,在用户观看第二多媒体信息的过程中,监控用户观看的持续时长,若达到了提示时长,则向用户发出提示,从而能够保证用户健康的观看,进一步丰富了电子画屏的功能。
例如,本实施例的方法可以用于日常生活中儿童观看电子画屏时的应用场景。儿童的年龄为6岁,儿童的父母等监护人预先在电子画屏中设置好儿童的年龄信息,当儿童观看电子画屏时,电子画屏会记录儿童的观看时长,当观看时长达到30分钟时,电子画屏的显示屏显示“已长时间观看,请稍事休息”的文本,同时电子画屏通过扬声器发出“已长时间观看,请稍事休息”的语音,此外,电子画屏还会向儿童的父母的手机发送内容为“您的孩子已长时间观看画屏,请提醒其休息”的提示短信。
基于同一发明构思,本发明实施例还提供了一种电子画屏,该电子画屏包括:
输出组件,被配置为在唤醒步骤中当到达预设的第一提醒时间时,播放第一音频信息;以及,在伴眠步骤中当到达预设的第二提醒时间时,播放第二音频信息;
采集组件,被配置为在唤醒步骤中采集第一用户图像;以及,在伴眠步骤中采集第二用户图像和第一用户眼部图像;
控制组件,被配置为在唤醒步骤中根据所述第一用户图像,确定第一身体姿态;判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量;以及,在伴眠步骤中根据所述第二用户图像,确定第二身体姿态;根据所述第一用户眼部图像,确定眼部状态;根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则控制所述输出组件停止播放所述第二音频信息。
其中,所述的输出组件可以包括:显示屏和扬声器。所述的采集组件可以包括:摄像头和麦克风。
作为一个可选的实施例,所述控制组件还被配置为:当所述播放音量到达预设的音量阈值时,使所述播放音量保持在所述音量阈值。
作为一个可选的实施例,所述控制组件还被配置为:确定与所述第一音频信息对应的图像信息,控制所述输出组件播放所述图像信息。
作为一个可选的实施例,所述控制组件还被配置为:判断所述第二身体姿态是否为躺姿;若所述第二身体姿态为躺姿,则进一步判断所述眼部状态是否为闭眼;若所述眼部状态为闭眼,则进一步记录所述第二身体姿态为躺姿和所述眼部状态为闭眼的持续时长;当所述持续时长到达预设的时长阈值时,判定用户入眠。
作为一个可选的实施例,所述输出组件,还被配置为播放第一多媒体信息;所述采集组件,还被配置为采集用户面部图像;所述控制组件,还被配置为根据所述用户面部图像,确定表情状态;根据所述表情状态,确定用户对所述第一多媒体信息的喜爱度;根据所述喜爱度,生成所述第一多媒体信息对应的标签信息。
本实施例中,所述电子画屏还包括:通信组件;该通信组件,被配置为发送所述标签信息。
作为一个可选的实施例,所述采集组件,还被配置为在播放所述第一多媒体信息的过程中,连续采集多个所述用户面部图像;所述控制组件,还被配置为根据多个所述用户面部图像,相应的确定多个所述表情状态;确定每个所述表情状态的类型;所述类型包括:积极、一般和消极;根据类型为积极的所述表情状态占全部所述表情状态的占比,确定用户对所述第一多媒体信息的喜爱度。
作为一个可选的实施例,所述输出组件,还被配置为播放第二多媒体信息;所述控制组件,还被配置为获取用户的年龄信息;根据所述年龄信息和预设的对应关系,确定提示时长;记录用户观看所述第二多媒体信息的观看时长;当所述观看时长到达所述提示时长时,控制所述输出组件输出提示信息。
上述实施例的电子画屏,由于其应用了前述实施例中的电子画屏的工作方法,显然具有相应的电子画屏的工作方法实施例的有益效果,在此不再赘述。
所属领域的普通技术人员应当理解:以上任何实施例的讨论仅为示例性的,并非旨在暗示本公开的范围(包括权利要求)被限于这些例子;在本发明的思路下,以上实施例或者不同实施例中的技术特征之间也可以进行组合,步骤可以以任意顺序实现,并存在如上所述的本发明的不同方面的许多其它变化,为了简明它们没有在细节中提供。
另外,为简化说明和讨论,并且为了不会使本发明难以理解,在所提供的附图中可以示出或可以不示出与集成电路(IC)芯片和其它部件的公知的电源/接地连接。此外,可以以框图的形式示出装置,以便避免使本发明难以理解,并且这也考虑了以下事实,即关于这些框图装置的实施方式的细节是高度取决于将要实施本发明的平台的(即,这些细节应当完全处于本领域技术人员的理解范围内)。在阐述了具体细节(例如,电路)以描述本发明的示例性实施例的情况下,对本领域技术人员来说显而易见的是,可以在没有这些具体细节的情况下或者这些具体细节有变化的情况下实施本发明。因此,这些描述应被认为是说明性的而不是限制性的。
尽管已经结合了本发明的具体实施例对本发明进行了描述,但是根据前面的描述,这些实施例的很多替换、修改和变型对本领域普通技术人员来说将是显而易见的。例如,其它存储器架构(例如,动态RAM(DRAM))可以使用所讨论的实施例。
本发明的实施例旨在涵盖落入所附权利要求的宽泛范围之内的所有这样的替换、修改和变型。因此,凡在本发明的精神和原则之内,所做的任何省略、修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种电子画屏的工作方法,其特征在于,包括:唤醒步骤和伴眠步骤中的至少一个;其中,
所述唤醒步骤,包括:
当到达预设的第一提醒时间时,播放第一音频信息;
采集第一用户图像;
根据所述第一用户图像,确定第一身体姿态;
判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量;
所述伴眠步骤,包括:
当到达预设的第二提醒时间时,播放第二音频信息;
采集第二用户图像和第一用户眼部图像;
根据所述第二用户图像,确定第二身体姿态;
根据所述第一用户眼部图像,确定眼部状态;
根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则停止播放所述第二音频信息。
2.根据权利要求1所述的电子画屏的工作方法,其特征在于,所述逐渐增大所述第一音频信息的播放音量,包括:
当所述播放音量到达预设的音量阈值时,使所述播放音量保持在所述音量阈值。
3.根据权利要求1所述的电子画屏的工作方法,其特征在于,所述播放第一音频信息,还包括:
确定与所述第一音频信息对应的图像信息,播放所述图像信息。
4.根据权利要求1所述的电子画屏的工作方法,其特征在于,所述根据所述第二身体姿态和所述眼部状态,判断用户是否入眠,包括:
判断所述第二身体姿态是否为躺姿;
若所述第二身体姿态为躺姿,则进一步判断所述眼部状态是否为闭眼;
若所述眼部状态为闭眼,则进一步记录所述第二身体姿态为躺姿和所述眼部状态为闭眼的持续时长;
当所述持续时长到达预设的时长阈值时,判定用户入眠。
5.根据权利要求1所述的电子画屏的工作方法,其特征在于,还包括:
播放第一多媒体信息;
采集用户面部图像,根据所述用户面部图像,确定表情状态;
根据所述表情状态,确定用户对所述第一多媒体信息的喜爱度;
根据所述喜爱度,生成所述第一多媒体信息对应的标签信息;
发送所述标签信息。
6.根据权利要求5所述的电子画屏的工作方法,其特征在于,所述采集用户面部图像,根据所述用户面部图像,确定表情状态,包括:
在播放所述第一多媒体信息的过程中,连续采集多个所述用户面部图像;
根据多个所述用户面部图像,相应的确定多个所述表情状态;
所述根据所述表情状态,确定用户对于所述第一多媒体信息的喜爱度,包括:
确定每个所述表情状态的类型;所述类型包括:积极、一般和消极;
根据类型为积极的所述表情状态占全部所述表情状态的占比,确定用户对所述第一多媒体信息的喜爱度。
7.根据权利要求1所述的电子画屏的工作方法,其特征在于,还包括:
播放第二多媒体信息;
获取用户的年龄信息;
根据所述年龄信息和预设的对应关系,确定提示时长;
记录用户观看所述第二多媒体信息的观看时长;
当所述观看时长到达所述提示时长时,输出提示信息。
8.一种电子画屏,其特征在于,包括:
输出组件,被配置为在唤醒步骤中当到达预设的第一提醒时间时,播放第一音频信息;以及,在伴眠步骤中当到达预设的第二提醒时间时,播放第二音频信息;
采集组件,被配置为在唤醒步骤中采集第一用户图像;以及,在伴眠步骤中采集第二用户图像和第一用户眼部图像;
控制组件,被配置为在唤醒步骤中根据所述第一用户图像,确定第一身体姿态;判断所述第一身体姿态是否为躺姿;若是,则逐渐增大所述第一音频信息的播放音量;以及,在伴眠步骤中根据所述第二用户图像,确定第二身体姿态;根据所述第一用户眼部图像,确定眼部状态;根据所述第二身体姿态和所述眼部状态,判断用户是否入眠;若是,则控制所述输出组件停止播放所述第二音频信息。
9.根据权利要求8所述的电子画屏,其特征在于,所述输出组件,还被配置为播放第一多媒体信息;所述采集组件,还被配置为采集用户面部图像;所述控制组件,还被配置为根据所述用户面部图像,确定表情状态;根据所述表情状态,确定用户对所述第一多媒体信息的喜爱度;根据所述喜爱度,生成所述第一多媒体信息对应的标签信息;
所述电子画屏,还包括:
通信组件,被配置为发送所述标签信息。
10.根据权利要求8所述的电子画屏,其特征在于,所述输出组件,还被配置为播放第二多媒体信息;
所述控制组件,还被配置为获取用户的年龄信息;根据所述年龄信息和预设的对应关系,确定提示时长;记录用户观看所述第二多媒体信息的观看时长;当所述观看时长到达所述提示时长时,控制所述输出组件输出提示信息。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151100.3A CN110865790A (zh) | 2019-11-21 | 2019-11-21 | 一种电子画屏的工作方法及电子画屏 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911151100.3A CN110865790A (zh) | 2019-11-21 | 2019-11-21 | 一种电子画屏的工作方法及电子画屏 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN110865790A true CN110865790A (zh) | 2020-03-06 |
Family
ID=69655088
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911151100.3A Pending CN110865790A (zh) | 2019-11-21 | 2019-11-21 | 一种电子画屏的工作方法及电子画屏 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110865790A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115309296A (zh) * | 2022-08-03 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 信息展示方法、装置、电子设备、存储介质及程序产品 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105662371A (zh) * | 2014-11-21 | 2016-06-15 | 小米科技有限责任公司 | 一种提醒方法、装置及设备 |
JP2018013929A (ja) * | 2016-07-20 | 2018-01-25 | 株式会社ガイア・システム・ソリューション | 起床監視装置 |
CN107949111A (zh) * | 2017-12-01 | 2018-04-20 | 四川爱联科技有限公司 | 智能灯唤醒系统及方法 |
CN108235124A (zh) * | 2017-12-12 | 2018-06-29 | 合肥龙图腾信息技术有限公司 | 一种智能播放系统及其播放方法 |
CN108647657A (zh) * | 2017-05-12 | 2018-10-12 | 华中师范大学 | 一种基于多元行为数据的云端教学过程评价方法 |
-
2019
- 2019-11-21 CN CN201911151100.3A patent/CN110865790A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105662371A (zh) * | 2014-11-21 | 2016-06-15 | 小米科技有限责任公司 | 一种提醒方法、装置及设备 |
JP2018013929A (ja) * | 2016-07-20 | 2018-01-25 | 株式会社ガイア・システム・ソリューション | 起床監視装置 |
CN108647657A (zh) * | 2017-05-12 | 2018-10-12 | 华中师范大学 | 一种基于多元行为数据的云端教学过程评价方法 |
CN107949111A (zh) * | 2017-12-01 | 2018-04-20 | 四川爱联科技有限公司 | 智能灯唤醒系统及方法 |
CN108235124A (zh) * | 2017-12-12 | 2018-06-29 | 合肥龙图腾信息技术有限公司 | 一种智能播放系统及其播放方法 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115309296A (zh) * | 2022-08-03 | 2022-11-08 | 北京达佳互联信息技术有限公司 | 信息展示方法、装置、电子设备、存储介质及程序产品 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107053191B (zh) | 一种机器人,服务器及人机互动方法 | |
CN109074117B (zh) | 提供基于情绪的认知助理系统、方法及计算器可读取媒体 | |
US11576597B2 (en) | Sleepiness estimating device and wakefulness inducing device | |
CN102209184B (zh) | 电子装置、再现控制系统、再现控制方法 | |
JP7427611B2 (ja) | ユーザの注意力を決定するコンピュータ実装システム及び方法 | |
EP1582965A1 (en) | Emotion controlled system for processing multimedia data | |
US6931656B1 (en) | Virtual creature displayed on a television | |
US20140195221A1 (en) | Utilizing semantic analysis to determine how to measure affective response | |
CN112655177B (zh) | 异步共同观看 | |
KR20160034243A (ko) | 지속적인 동반 디바이스를 제공하기 위한 장치 및 방법들 | |
WO2016042889A1 (ja) | 情報処理装置、情報処理方法及びコンピュータプログラム | |
CN105453070A (zh) | 基于机器学习的用户行为表征 | |
CN109756626B (zh) | 一种提醒方法和移动终端 | |
CN111986530A (zh) | 一种基于学习状态检测的交互学习系统 | |
US20150022329A1 (en) | Assisted Animal Communication | |
CN112069949A (zh) | 一种基于人工智能的婴儿睡眠监测系统及监测方法 | |
CN110933498A (zh) | 儿童定制智能机顶盒 | |
CN112487235A (zh) | 音频资源的播放方法和装置、智能终端和存储介质 | |
CN110865790A (zh) | 一种电子画屏的工作方法及电子画屏 | |
US20210291380A1 (en) | Expression feedback method and smart robot | |
JPWO2019146200A1 (ja) | 情報処理装置、情報処理方法、および記録媒体 | |
CN101465983A (zh) | 一种在电视机上实现备忘录功能的方法 | |
CN111506184A (zh) | 化身呈现方法及电子设备 | |
US11707694B2 (en) | Message delivery apparatus and methods | |
CN111026872B (zh) | 一种关联听写方法及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |