CN108307037A - 终端控制方法、终端及计算机可读存储介质 - Google Patents
终端控制方法、终端及计算机可读存储介质 Download PDFInfo
- Publication number
- CN108307037A CN108307037A CN201711352368.4A CN201711352368A CN108307037A CN 108307037 A CN108307037 A CN 108307037A CN 201711352368 A CN201711352368 A CN 201711352368A CN 108307037 A CN108307037 A CN 108307037A
- Authority
- CN
- China
- Prior art keywords
- terminal
- user
- emotional characteristics
- type
- emotional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72448—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions
- H04M1/72454—User interfaces specially adapted for cordless or mobile telephones with means for adapting the functionality of the device according to specific conditions according to context-related or environment-related conditions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS OR SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING; SPEECH OR AUDIO CODING OR DECODING
- G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
- G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
- G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
- G10L25/63—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for estimating an emotional state
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
- H04M1/72433—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for voice messaging, e.g. dictaphones
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M1/00—Substation equipment, e.g. for use by subscribers
- H04M1/72—Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
- H04M1/724—User interfaces specially adapted for cordless or mobile telephones
- H04M1/72403—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
- H04M1/7243—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages
- H04M1/72439—User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality with interactive means for internal management of messages for image or video messaging
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2250/00—Details of telephonic subscriber devices
- H04M2250/22—Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04M—TELEPHONIC COMMUNICATION
- H04M2250/00—Details of telephonic subscriber devices
- H04M2250/74—Details of telephonic subscriber devices with voice recognition means
Abstract
本发明公开了一种终端控制方法、终端以及计算机可读存储介质，属于通信技术领域。该方法包括：获取用户脸部图像并进行分析以得到第一情绪特征；采集用户语音信息并进行分析以得到第二情绪特征；采集用户当前心率值并进行分析以得到第三情绪特征；依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。从而，通过实时采集用户的相关信息并经过分析计算可以确定用户情绪，能更好地感知用户情绪变化，并且通过终端的变化反映用户情绪的变化，使终端更为人性化和智能化，用户体验和情感都得到了提升。
Description
技术领域
本发明涉及通信技术领域，尤其涉及一种终端控制方法、终端及计算机可读存储介质。
背景技术
目前，手机等终端已经成为人手必备的必需品，随着终端越来越高度智能化，如何让终端用户体验更好，已经成为各大厂商关注的问题，然而，现有的终端技术还没有办法让终端能跟随人的情感变化而变化，而对于用户而言，如果终端能够实时感知用户的情绪变化，那终端对于用户而言无疑能够显得更为智能化和人性化，而如果不管用户情绪如何，终端都无法感知，也无法做出反应，则终端对于用户而言仍旧只是冷冰冰的机器，其用户体验和智能性无法很好的体现。因此，有必要提供一种终端控制方法、终端及计算机可读存储介质，以避免上述情况的出现。
发明内容
本发明的主要目的在于提出一种终端控制方法、终端及计算机可读存储介质，旨在解决在现有技术中终端无法实时感知用户情绪变化并做出相应反应的问题。
为实现上述目的，本发明提供的一种终端控制方法，所述方法包括步骤：
获取用户脸部图像并进行分析以得到第一情绪特征；
采集用户语音信息并进行分析以得到第二情绪特征；
采集用户当前心率值并进行分析以得到第三情绪特征；
依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；
依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。
可选地，所述情绪类型包括预设的六种情绪类型，所述获取用户脸部图像并进行分析以得到第一情绪特征具体包括：
通过摄像头获取用户脸部图像以得到表情特征图像；
将所述表情特征图像与预设表情特征库进行比对；
依据比对结果确定第一情绪特征，其中，所述第一情绪特征为所述预设的六种情绪类型中的一种。
可选地，所述情绪类型包括预设的六种情绪类型，所述采集用户语音信息并进行分析以得到第二情绪特征具体包括：
通过麦克风采集用户语音信息以得到声音特征文件；
将所述声音特征文件与预设声音特征库进行比对；
依据比对结果确定第二情绪特征，其中，所述第二情绪特征为所述预设的六种情绪类型中的一种。
可选地，所述情绪类型包括预设的六种情绪类型，所述采集用户当前心率值并进行分析以得到第三情绪特征具体包括：
通过心率传感器采集用户当前心率值；
依据所述心率值对应的心率区间确定所述心率区间对应的第三情绪特征，其中，所述第三情绪特征为所述预设的六种情绪类型中的一种。
可选地，所述依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型具体包括：
确定不同情绪特征对应的加权系数；
将第一情绪特征、第二情绪特征和第三情绪特征分别乘以对应的加权系数后进行求和计算；
将所述求和结果得到的至少一种情绪类型的系数与预设阈值进行比较以确定用户当前情绪类型。
可选地，所述控制指令包括显示控制指令，所述依据所述当前情绪类型确定对应的控制指令，响应所述控制指令进行变化具体包括：
依据所述当前情绪类型查找匹配的显示控制指令；
响应所述匹配的显示控制指令，调整当前显示界面的显示参数。
可选地，当所述终端为柔性屏终端时，所述控制指令还包括弯曲控制指令，所述依据所述当前情绪类型确定对应的控制指令，响应所述控制指令还包括：
依据所述当前情绪类型查找匹配的弯曲控制指令；
响应所述匹配的弯曲控制指令，控制所述终端进行弯曲。
可选地，所述方法还包括：
定时向服务器发送更新请求以更新所述终端本地存储空间的预设特征库，所述预设特征库包括预设表情特征库和预设声音特征库。
此外，为实现上述目的，本发明还提出一种终端，所述终端包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的终端控制程序，所述处理器用于执行所述终端控制程序以实现如上所述的终端控制方法的步骤。
此外，为实现上述目的，本发明还提出一种计算机可读存储介质，所述计算机可读存储介质存储有终端控制程序，所述终端控制程序可被至少一个处理器执行，以使所述至少一个处理器执行如上所述的终端控制方法的步骤。
本发明提出的终端控制方法、终端以及计算机可读存储介质，获取用户脸部图像并进行分析以得到第一情绪特征；采集用户语音信息并进行分析以得到第二情绪特征；采集用户当前心率值并进行分析以得到第三情绪特征；依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。从而，通过实时采集用户的相关信息并经过分析计算可以确定用户情绪，能更好地感知用户情绪变化，并且通过终端的变化反映用户情绪的变化，使终端更为人性化和智能化，用户体验和情感都得到了提升。
附图说明
图1为实现本发明各个实施例一个可选的终端的硬件结构示意图；
图2为如图1所示的终端的通信网络系统示意图；
图3为本发明第一实施例提供的终端控制方法的流程示意图；
图4为图3中步骤S301的细化流程示意图；
图5为图3中步骤S302的细化流程示意图；
图6为图3中步骤S303的细化流程示意图；
图7为图3中步骤S304的细化流程示意图；
图8为图3中步骤S305的细化流程示意图；
图9为图3中步骤S305的另一细化流程示意图；
图10为本发明中终端显示界面在用户不同情绪下的参考示意图；
图11为本发明中终端显示界面在用户不同情绪下的参考示意图；
图12为本发明各实施例提供的终端的另一个可选的硬件结构示意图。
本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。
具体实施方式
应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。
在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身没有特定的意义。因此，“模块”、“部件”或“单元”可以混合地使用。
本发明中的客户端安装于终端上，终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(PersonalDigital Assistant，PDA)、便捷式媒体播放器(Portable Media Player，PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端，以及诸如数字TV、台式计算机等固定终端。
后续描述中将以终端为例进行说明，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1，其为实现本发明各个实施例的一种终端的硬件结构示意图，该终端100可以包括：RF(Radio Frequency，射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解，图1中示出的终端结构并不构成对终端的限定，终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。
下面结合图1对终端的各个部件进行具体的介绍：
射频单元101可用于收发信息或通话过程中，信号的接收和发送，具体的，将基站的下行信息接收后，给处理器110处理；另外，将上行的数据发送给基站。通常，射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议，包括但不限于GSM(Global System of Mobile communication，全球移动通讯系统)、GPRS(General Packet Radio Service，通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000，码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access，时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution，频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution，分时双工长期演进)等。
WiFi属于短距离无线传输技术，终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等，它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102，但是可以理解的是，其并不属于终端的必须构成，完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元103还可以提供与终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit，GPU)1041和麦克风1042，图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
终端100还包括至少一种传感器105，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度，接近传感器可在终端100移动到耳边时，关闭显示面板1061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器，在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息，以及产生与终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作)，并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器110，并能接收处理器110发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071，用户输入单元107还可以包括其他输入设备1072。具体地，其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种，具体此处不做限定。
进一步的，触控面板1071可覆盖显示面板1061，当触控面板1071检测到在其上或附近的触摸操作后，传送给处理器110以确定触摸事件的类型，随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中，触控面板1071与显示面板1061是作为两个独立的部件来实现终端的输入和输出功能，但是在某些实施例中，可以将触控面板1071与显示面板1061集成而实现终端的输入和输出功能，具体此处不做限定。
接口单元108用作至少一个外部装置与终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到终端100内的一个或多个元件或者可以用于在终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器109可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是终端的控制中心，利用各种接口和线路连接整个终端的各个部分，通过运行或执行存储在存储器109内的软件程序和/或模块，以及调用存储在存储器109内的数据，执行终端的各种功能和处理数据，从而对终端进行整体监控。处理器110可包括一个或多个处理单元；优选的，处理器110可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作系统、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器110中。
终端100还可以包括给各个部件供电的电源111(比如电池)，优选的，电源111可以通过电源管理系统与处理器110逻辑相连，从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出，终端100还可以包括蓝牙模块等，在此不再赘述。
为了便于理解本发明实施例，下面对本发明的终端所基于的通信网络系统进行描述。
请参阅图2，图2为本发明实施例提供的一种通信网络系统架构图，该通信网络系统为通用移动通信技术的LTE系统，该LTE系统包括依次通讯连接的UE(User Equipment，用户设备)201，E-UTRAN(Evolved UMTS Terrestrial Radio Access Network，演进式UMTS陆地无线接入网)202，EPC(Evolved Packet Core，演进式分组核心网)203和运营商的IP业务204。
具体地，UE201可以是上述终端100，此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中，eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接，eNodeB2021连接到EPC203，eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity，移动性管理实体)2031，HSS(Home Subscriber Server，归属用户服务器)2032，其它MME2033，SGW(Serving Gate Way，服务网关)2034，PGW(PDN Gate Way，分组数据网络网关)2035和PCRF(Policy andCharging Rules Function，政策和资费功能实体)2036等。其中，MME2031是处理UE201和EPC203之间信令的控制节点，提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能，并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送，PGW2035可以提供UE 201的IP地址分配以及其它功能，PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点，它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem，IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍，但本领域技术人员应当知晓，本发明不仅仅适用于LTE系统，也可以适用于其他无线通信系统，例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等，此处不做限定。
基于上述终端硬件结构以及通信网络系统，提出本发明方法各个实施例。
首先，本发明提供一种终端控制方法。
请参照图3，所示是本发明第一实施例提供的终端控制方法的流程示意图，主要用于上述终端中，所述方法包括步骤：
步骤S301，获取用户脸部图像并进行分析以得到第一情绪特征；
具体的，采集用户的脸部图像后，通过分析脸部图像提取用户的脸部表情特征，根据不同的表情特征，可以分析得到第一情绪特征，此处，第一情绪特征主要指根据用户的表情特征可以初步确定的用户情绪类型。在本发明中，根据用户情绪的不同，主要将用户的情绪类型划分为六种，包括愤怒、高兴、悲伤、平静、激动、害怕。可以理解的是，第一情绪特征可以是上述六种情绪类型中的任一种。例如，通过分析用户的脸部图像可以初步判定用户当前情绪可能是高兴，则第一情绪特征就是高兴。
进一步的，请同时参考图4，所示是步骤S301的细化流程图，在本实施例中，步骤S301具体包括：
步骤S401，通过摄像头获取用户脸部图像以得到表情特征图像；
步骤S402，将所述表情特征图像与预设表情特征库进行比对；
步骤S403，依据比对结果确定第一情绪特征，其中，所述第一情绪特征为所述预设的六种情绪类型中的一种。
具体的，终端可以通过摄像头实时采集用户的脸部图像，对脸部图像进行表情特征提取后可以得到对应的表情特征图像，该表情特征图像包含用户脸部图像的所有表情特征。终端中预置有一个预设表情特征库，该预设表情特征库中存储有各种类型的表情特征图像，不同的表情特征图像最终都会被分类为上述预设的六种情绪类型之一。同一种情绪类型，其可以对应多个不同的表情特征图像。因此，终端将提取后得到的表情特征图像跟预设表情特征库中存储的表情特征图像进行比对，可以得到一个不同的匹配度，默认匹配度达到90％则为匹配成功，则匹配成功的表情特征图像所对应的情绪类型，就是用户脸部图像所反映出的第一情绪特征。可以理解是，预设表情特征库中存储的表情特征图像越多，则采用该预设表情特征库进行分析的结果越准确。
在本实施例中，预设表情特征库的获得可以通过神经网络进行大量的样本训练得到。终端的提供商可以收集上述预设的六种情绪类型的大量表情特征图像作为神经网络的输入，采集多张不同用户，不同表情的多张图片作为表情特征图像进行大量训练，最终形成表情特征的分类库，也即预设表情特征库。可以理解的是，训练时所采集的样本数据越多，则预设表情特征库的分类越准确。
步骤S302，采集用户语音信息并进行分析以得到第二情绪特征；
具体的，此处，语音信息可以是用户发出的任意声音，例如，采集用户说话的语音信息，或是通话的语音信息，或是笑声，吼叫声等等。通过终端录音采集包含用户声音特征信息的语音信息，保存为音频文件，由于各种情绪下的声音的响度，语气，语调等特征不同，因此，通过分析音频文件的声音特征信息，可以得到第二情绪特征。此处，第二情绪特征主要指根据用户的声音特征信息可以初步确定的用户情绪类型。可以理解的是，第二情绪特征可以是上述六种情绪类型的任一种。例如，通过分析音频文件可以确认用户当前在很大声的笑，则第二情绪特征就是高兴。
进一步的，请同时参考图5，所示是步骤S302的细化流程图，在本实施例中，步骤S302具体包括：
步骤S501，通过麦克风采集用户语音信息以得到声音特征文件；
步骤S502，将所述声音特征文件与预设声音特征库进行比对；
步骤S503，依据比对结果确定第二情绪特征，其中，所述第二情绪特征为所述预设的六种情绪类型中的一种。
具体的，包含用户声音特征信息的语音信息也即音频文件的采集可以通过麦克风录音实现，对于采集得到的音频文件，进行声音特征提取后可以得到对应的声音特征文件，该声音特征文件包含用户语音的所有声音特征信息。终端中预置有一个预设声音特征库，该预设声音特征库中存储有各种类型的声音特征文件，不同的声音特征文件最终都会被分类为上述预设的六种情绪类型之一。同一种情绪类型，其可以对应多个不同的声音特征文件。因此，终端将提取后得到的声音特征文件跟预设声音特征库中存储的声音特征文件进行比对，可以得到一个不同的匹配度，默认匹配度达到90％则为匹配成功，则匹配成功的声音特征文件所对应的情绪类型，就是用户语音信息所反映出的第二情绪特征。可以理解是，预设声音特征库中存储的声音特征文件越多，则采用该预设声音特征库进行分析的结果越准确。
在本实施例中，预设声音特征库的获得可以通过神经网络进行大量的样本训练得到。终端的提供商可以收集上述预设的六种情绪类型的大量音频文，作为神经网络的输入，将音频文件按照愤怒，高兴，悲伤，平静，激动，害怕这六种情绪的声音特征文件作为神经网络的输入，采集多张不同环境下，不同用户，不同情绪下的多个音频文件进行大量训练，形成声音特征的分类库，最终形成声音特征的分类库，也即预设声音特征库。可以理解的是，训练时所采集的样本数据越多，则预设声音特征库的分类越准确。
步骤S303，采集用户当前心率值并进行分析以得到第三情绪特征；
具体的，心率也是可以反映人类情绪的一个参数之一，当用户处于不同情绪下，其心率会有不同，因此，通过采集用户当前的心率值加以分析，也可以得到由心率值进行反应的一个情绪特征，即第三情绪特征。此处，第三情绪特征主要指根据通过用户的心率值可以初步确定的用户情绪类型。可以理解的是，第三情绪特征可以是上述六种情绪类型的任一种。例如，假设通过实验或是常规生活数据可以确定，当用户激动时心率值高于某一个阈值，当采集到用户心率值超过这个阈值时，则认为第三情绪特征可能是激动。
进一步的，请同时参考图6，所示是步骤S303的细化流程图，在本实施例中，步骤S303具体包括：
步骤S601，通过心率传感器采集用户当前心率值；
步骤S602，依据所述心率值对应的心率区间确定所述心率区间对应的第三情绪特征，其中，所述第三情绪特征为所述预设的六种情绪类型中的一种。
具体的，用户在不同的情绪下，其心率值不同，但是并不一定稳定在一个值，而是在一个区间内波动。也即一个情绪类型，会对应有一个心率区间，终端提供可以通过收集不同用户在不同情绪下的心率值，进行统计，最终确定一个情绪类型和心率区间的对应关系，根据不同情绪下心率值的不同，将心率值分成愤怒，高兴，悲伤，平静，激动，害怕六种区间，然后将这个对应关系预置到终端中，终端通过心率传感器采集用户的心率，根据采集到的心率值落入的区间，再查询对应关系，就可以根据心率值所处的区间，得到基于心率特征的分析所获得的第三情绪特征。
步骤S304，依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；
具体的，将三种特征进行融合可以最终确定用户当前情绪类型，可以为上述三种不同方式下获取的情绪特征分配不同的加权系数，然后，第一情绪特征(表情特征)乘以该特征对应的加权系数，加上第二情绪特征(声音特征)乘以该特征对应的加权系数，加上第三情绪特征(心率特征)乘以该特征对应的加权系数，从而得到一种加权融合的情绪特征，最终对这种加权融合的情绪特征进行判决，就可以判决出到底属于哪一种情绪类型。
进一步的，请同时参考图7，所示是步骤S304的细化流程图，在本实施例中，步骤S304具体包括：
步骤S701，确定不同情绪特征对应的加权系数；
步骤S702，将第一情绪特征、第二情绪特征和第三情绪特征分别乘以对应的加权系数后进行求和计算；
步骤S703，将所述求和结果得到的至少一种情绪类型的系数与预设阈值进行比较以确定用户当前情绪类型。
具体的，如上所述，终端提供商可以根据大数据分析的结果为上述三种不同方式下获取的情绪特征分配不同的权重因子，并且将不同方式下获取的情绪特征与权重因子的对应关系作为预设对应表预置到终端中。此处，三种方式包括分析表情特征，分析声音特征以及分析心率特征，为区别，分别将上述三种方式下获得的第一情绪特征、第二情绪特征和第三情绪特征称为表情情绪特征，声音情绪特征以及心率情绪特征。终端中预置有此三种情绪特征分别对应的加权系数，因此，当得到三种情绪特征后，查询预设对应表就可以得到各自对应的加权系数，然后三种情绪特征各自乘以对应的加权系数后求个可以得到至少一个以上的情绪类型的求和结果。在本发明中，设定判决阈值，当求和后某一种情绪类型的系数大于判决阈值，则可以判定该情绪类型为有效，是为用户当前情绪类型，反之，则判定为无效，视为干扰数据。例如，假设某次侦测确定表情情绪特征为高兴，声音情绪特征为高兴，心率情绪特征为激动，判决阈值为0.8，三种情绪特征各自对应的加权系数分别为0.5，0.4以及0.1，则此处加权求和后的结果为0.9高兴+0.1激动，求和结果有两种情绪类型，但是，只有高兴这种情绪类型的系数超过了判决阈值，因此，高兴可以确定为用户当前情绪类型，而激动则视为无效结果，是干扰数据。
步骤S305，依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。
具体的，在本发明中，根据用户当前情绪类型的不同，终端会做出不同的反应，也即，会有不同的控制指令与用户当前情绪类型进行关联，当确定了用户情绪类型是某一种情绪，则该情绪对应的控制指令被触发，终端会响应该指令做出变化，以使用户可以知道终端已经感受到了他的情绪变化。此处，变化可以是指显示方式或是模式的变化，也可以是指终端在形态上的变化(针对柔性屏终端)。
进一步的，请同时参考图8，所示是步骤S305的细化流程图，在本实施例中，步骤S305具体包括：
步骤S801，依据所述当前情绪类型查找匹配的显示控制指令；
步骤S802，响应所述匹配的显示控制指令，调整当前显示界面的显示参数。
具体的，在本发明中，不同的控制指令与用户当前情绪类型进行关联，因此，可以将这个关联关系记录到预设控制规则表中，该表记录了不同情绪类型和不同控制控制指令之间的关系，可以理解是，同一个情绪类型可以对应多个不同的控制指令，同一个控制指令也可以同时对应多个情绪类型。在本实施例中，控制指令主要包括显示控制指令，该显示控制指令可以触发终端显示参数的变化，从而改变终端当前界面的显示效果。确定了用户情绪类型后，就可以从预设控制规则表中去查找匹配的显示控制指令。可以理解的是，此处，匹配的显示控制指令可以是一个，也可以是多个，如果没有匹配的显示控制指令，则可以直接报错，同时，提示对终端预设控制规则表进行更新。确定有匹配的显示控制指令后，终端解析该显示控制指令可以得到对应的显示参数，然后，根据显示参数对显示界面进行了调整，使显示界面的显示效果可以体现用户当前情绪。
可以理解的是，此处，显示参数可以包括会影响终端显示效果的各类参数，例如显示的内容包括图片、主题、颜色和动画(或图标)，呼吸的显示的频率及颜色等。
进一步的，在本实施例中，请同时参考图9，所示是步骤S305的又一细化流程图，在本实施例中，除了步骤S801-802，步骤S305还包括：
步骤S901，依据所述当前情绪类型查找匹配的弯曲控制指令；
步骤S901，响应所述匹配的弯曲控制指令，控制所述终端进行弯曲。
具体的，如果终端是柔性屏终端，则控制指令除了包括显示控制指令，还可以包括弯曲控制指令。确定了用户情绪类型后，就可以从预设控制规则表中去查找匹配的弯曲控制指令。可以理解的是，此处，匹配的弯曲控制指令可以是一个，也可以是多个，如果没有匹配的弯曲控制指令，则可以直接报错，同时，提示对终端预设控制规则表进行更新。确定有匹配的弯曲控制指令令后，终端解析该弯曲控制指令可以得到对应的弯曲参数，包括弯曲度数，弯曲方向等，然后，根据弯曲参数对控制终端进行相应方向和角度的弯曲，通过终端不同的弯曲来体现用户的情绪。
可以理解的是，对于柔性屏终端，当用户情绪变化时，可以同时通过显示变化和弯曲变化来体现该变化。因此，一个情绪类型可以同时对应有显示控制指令和弯曲控制指令。
请同时参考图10和11，所示是本发明中终端显示界面在用户不同情绪下的参考示意图。其中，图10对应“悲伤”下的显示效果，图11对应“高兴”下的显示效果。假设终端为非柔性屏终端，仅通过显示效果的变化来体现用户情绪变化。在本实施例中，主要通过显示界面左上角的心情图标以及显示颜色的变化来体现。如图10所示，当前用户情绪为悲伤，则心情图标是一个悲伤的表情图，心情图标的显示颜色可以是冷色系，例如，灰色，黑色等(图中未示出)。而当用户情绪为高兴，则心情图标是一个笑脸的表情图，心情图标的显示颜色可以是暖色系，例如，粉色、红色等(图中未示出)，如图11所示。
进一步，在本实施例中，所述方法还包括以下步骤：
定时向服务器发送更新请求以更新所述终端本地存储空间的预设特征库，所述预设特征库包括预设表情特征库和预设声音特征库。
具体的，终端上预设表情特征库和预设声音特征库存储的特征文件越多，则采用该预设特征库进行分析的结果越准确。因此，为了使结果更为准确，可以实时更新终端本地存储空间上的预设特征库，包括预设表情特征库和预设声音特征库。
本实施例的终端控制方法，获取用户脸部图像并进行分析以得到第一情绪特征；采集用户语音信息并进行分析以得到第二情绪特征；采集用户当前心率值并进行分析以得到第三情绪特征；依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。从而，通过实时采集用户的相关信息并经过分析计算可以确定用户情绪，能更好地感知用户情绪变化，并且通过终端的变化反映用户情绪的变化，使终端更为人性化和智能化，用户体验和情感都得到了提升。
此外，本发明提供一种终端控制程序。
如图12所示，是本发明第二实施例提供的终端的另一个硬件结构图示意图。终端100包括处理110、存储器109和通信总线112。其中通信总线112用于实现处理器110和存储器109之间的连接通信本实施例中，终端控制程序存储于所述终端100的存储器109中，并由一个或多个处理器(本实施例中为所述处理器110)所执行，以完成本发明。终端100上的处理器110用于执行该终端控制程序实现以下步骤：
获取用户脸部图像并进行分析以得到第一情绪特征；
具体的，采集用户的脸部图像后，通过分析脸部图像提取用户的脸部表情特征，根据不同的表情特征，可以分析得到第一情绪特征，此处，第一情绪特征主要指根据用户的表情特征可以初步确定的用户情绪类型。在本发明中，根据用户情绪的不同，主要将用户的情绪类型划分为六种，包括愤怒、高兴、悲伤、平静、激动、害怕。可以理解的是，第一情绪特征可以是上述六种情绪类型中的任一种。例如，通过分析用户的脸部图像可以初步判定用户当前情绪可能是高兴，则第一情绪特征就是高兴。
进一步的，在本实施例中，处理器110执行该终端控制程序以实现步骤获取用户脸部图像并进行分析以得到第一情绪特征具体包括：
通过摄像头获取用户脸部图像以得到表情特征图像；
将所述表情特征图像与预设表情特征库进行比对；
依据比对结果确定第一情绪特征，其中，所述第一情绪特征为所述预设的六种情绪类型中的一种。
具体的，终端可以通过摄像头实时采集用户的脸部图像，对脸部图像进行表情特征提取后可以得到对应的表情特征图像，该表情特征图像包含用户脸部图像的所有表情特征。终端中预置有一个预设表情特征库，该预设表情特征库中存储有各种类型的表情特征图像，不同的表情特征图像最终都会被分类为上述预设的六种情绪类型之一。同一种情绪类型，其可以对应多个不同的表情特征图像。因此，终端将提取后得到的表情特征图像跟预设表情特征库中存储的表情特征图像进行比对，可以得到一个不同的匹配度，默认匹配度达到90％则为匹配成功，则匹配成功的表情特征图像所对应的情绪类型，就是用户脸部图像所反映出的第一情绪特征。可以理解是，预设表情特征库中存储的表情特征图像越多，则采用该预设表情特征库进行分析的结果越准确。
在本实施例中，预设表情特征库的获得可以通过神经网络进行大量的样本训练得到。终端的提供商可以收集上述预设的六种情绪类型的大量表情特征图像作为神经网络的输入，采集多张不同用户，不同表情的多张图片作为表情特征图像进行大量训练，最终形成表情特征的分类库，也即预设表情特征库。可以理解的是，训练时所采集的样本数据越多，则预设表情特征库的分类越准确。
采集用户语音信息并进行分析以得到第二情绪特征；
具体的，此处，语音信息可以是用户发出的任意声音，例如，采集用户说话的语音信息，或是通话的语音信息，或是笑声，吼叫声等等。通过终端录音采集包含用户声音特征信息的语音信息，保存为音频文件，由于各种情绪下的声音的响度，语气，语调等特征不同，因此，通过分析音频文件的声音特征信息，可以得到第二情绪特征。此处，第二情绪特征主要指根据用户的声音特征信息可以初步确定的用户情绪类型。可以理解的是，第二情绪特征可以是上述六种情绪类型的任一种。例如，通过分析音频文件可以确认用户当前在很大声的笑，则第二情绪特征就是高兴。
进一步的，在本实施例中，处理器110执行该终端控制程序以实现步骤采集用户语音信息并进行分析以得到第二情绪特征具体包括：
通过麦克风采集用户语音信息以得到声音特征文件；
将所述声音特征文件与预设声音特征库进行比对；
依据比对结果确定第二情绪特征，其中，所述第二情绪特征为所述预设的六种情绪类型中的一种。
具体的，包含用户声音特征信息的语音信息也即音频文件的采集可以通过麦克风录音实现，对于采集得到的音频文件，进行声音特征提取后可以得到对应的声音特征文件，该声音特征文件包含用户语音的所有声音特征信息。终端中预置有一个预设声音特征库，该预设声音特征库中存储有各种类型的声音特征文件，不同的声音特征文件最终都会被分类为上述预设的六种情绪类型之一。同一种情绪类型，其可以对应多个不同的声音特征文件。因此，终端将提取后得到的声音特征文件跟预设声音特征库中存储的声音特征文件进行比对，可以得到一个不同的匹配度，默认匹配度达到90％则为匹配成功，则匹配成功的声音特征文件所对应的情绪类型，就是用户语音信息所反映出的第二情绪特征。可以理解是，预设声音特征库中存储的声音特征文件越多，则采用该预设声音特征库进行分析的结果越准确。
在本实施例中，预设声音特征库的获得可以通过神经网络进行大量的样本训练得到。终端的提供商可以收集上述预设的六种情绪类型的大量音频文，作为神经网络的输入，将音频文件按照愤怒，高兴，悲伤，平静，激动，害怕这六种情绪的声音特征文件作为神经网络的输入，采集多张不同环境下，不同用户，不同情绪下的多个音频文件进行大量训练，形成声音特征的分类库，最终形成声音特征的分类库，也即预设声音特征库。可以理解的是，训练时所采集的样本数据越多，则预设声音特征库的分类越准确。
采集用户当前心率值并进行分析以得到第三情绪特征；
具体的，心率也是可以反映人类情绪的一个参数之一，当用户处于不同情绪下，其心率会有不同，因此，通过采集用户当前的心率值加以分析，也可以得到由心率值进行反应的一个情绪特征，即第三情绪特征。此处，第三情绪特征主要指根据通过用户的心率值可以初步确定的用户情绪类型。可以理解的是，第三情绪特征可以是上述六种情绪类型的任一种。例如，假设通过实验或是常规生活数据可以确定，当用户激动时心率值高于某一个阈值，当采集到用户心率值超过这个阈值时，则认为第三情绪特征可能是激动。
进一步的，处理器110执行该终端控制程序以实现步骤采集用户当前心率值并进行分析以得到第三情绪特征具体包括：
通过心率传感器采集用户当前心率值；
依据心率值对应的所述心率区间确定所述心率区间对应的第三情绪特征，其中，所述第三情绪特征为所述预设的六种情绪类型中的一种。
具体的，用户在不同的情绪下，其心率值不同，但是并不一定稳定在一个值，而是在一个区间内波动。也即一个情绪类型，会对应有一个心率区间，终端提供可以通过收集不同用户在不同情绪下的心率值，进行统计，最终确定一个情绪类型和心率区间的对应关系，根据不同情绪下心率值的不同，将心率值分成愤怒，高兴，悲伤，平静，激动，害怕六种区间，然后将这个对应关系预置到终端中，终端通过心率传感器采集用户的心率，根据采集到的心率值落入的区间，再查询对应关系，就可以根据心率值所处的区间，得到基于心率特征的分析所获得的第三情绪特征。
依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；
具体的，将三种特征进行融合可以最终确定用户当前情绪类型，可以为上述三种不同方式下获取的情绪特征分配不同的加权系数，然后，第一情绪特征(表情特征)乘以该特征对应的加权系数，加上第二情绪特征(声音特征)乘以该特征对应的加权系数，加上第三情绪特征(心率特征)乘以该特征对应的加权系数，从而得到一种加权融合的情绪特征，最终对这种加权融合的情绪特征进行判决，就可以判决出到底属于哪一种情绪类型。
进一步的，处理器110执行该终端控制程序以实现步骤将所述第一情绪特征、第二情绪特征和第三情绪特征依据预设规则进行加权计算以确定用户当前情绪类型具体包括：
确定不同情绪特征对应的加权系数；
将第一情绪特征、第二情绪特征和第三情绪特征分别乘以对应的加权系数后进行求和计算；
将所述求和结果得到的至少一种情绪类型的系数与预设阈值进行比较以确定用户当前情绪类型。
具体的，如上所述，终端提供商可以根据大数据分析的结果为上述三种不同方式下获取的情绪特征分配不同的权重因子，并且将不同方式下获取的情绪特征与权重因子的对应关系作为预设对应表预置到终端中。此处，三种方式包括分析表情特征，分析声音特征以及分析心率特征，为区别，分别将上述三种方式下获得的第一情绪特征、第二情绪特征和第三情绪特征称为表情情绪特征，声音情绪特征以及心率情绪特征。终端中预置有此三种情绪特征分别对应的加权系数，因此，当得到三种情绪特征后，查询预设对应表就可以得到各自对应的加权系数，然后三种情绪特征各自乘以对应的加权系数后求个可以得到至少一个以上的情绪类型的求和结果。在本发明中，设定判决阈值，当求和后某一种情绪类型的系数大于判决阈值，则可以判定该情绪类型为有效，是为用户当前情绪类型，反之，则判定为无效，视为干扰数据。例如，假设某次侦测确定表情情绪特征为高兴，声音情绪特征为高兴，心率情绪特征为激动，判决阈值为0.8，三种情绪特征各自对应的加权系数分别为0.5，0.4以及0.1，则此处加权求和后的结果为0.9高兴+0.1激动，求和结果有两种情绪类型，但是，只有高兴这种情绪类型的系数超过了判决阈值，因此，高兴可以确定为用户当前情绪类型，而激动则视为无效结果，是干扰数据。
依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。
具体的，在本发明中，根据用户当前情绪类型的不同，终端会做出不同的反应，也即，会有不同的控制指令与用户当前情绪类型进行关联，当确定了用户情绪类型是某一种情绪，则该情绪对应的控制指令被触发，终端会响应该指令做出变化，以使用户可以知道终端已经感受到了他的情绪变化。此处，变化可以是指显示方式或是模式的变化，也可以是指终端在形态上的变化(针对柔性屏终端)。
进一步的，处理器110执行该终端控制程序以实现步骤依据所述当前情绪类型确定对应的控制指令，响应所述控制指令具体包括：
依据所述当前情绪类型查找匹配的显示控制指令；
响应所述匹配的显示控制指令，调整当前显示界面的显示参数。
具体的，在本发明中，不同的控制指令与用户当前情绪类型进行关联，因此，可以将这个关联关系记录到预设控制规则表中，该表记录了不同情绪类型和不同控制控制指令之间的关系，可以理解是，同一个情绪类型可以对应多个不同的控制指令，同一个控制指令也可以同时对应多个情绪类型。在本实施例中，控制指令主要包括显示控制指令，该显示控制指令可以触发终端显示参数的变化，从而改变终端当前界面的显示效果。确定了用户情绪类型后，就可以从预设控制规则表中去查找匹配的显示控制指令。可以理解的是，此处，匹配的显示控制指令可以是一个，也可以是多个，如果没有匹配的显示控制指令，则可以直接报错，同时，提示对终端预设控制规则表进行更新。确定有匹配的显示控制指令后，终端解析该显示控制指令可以得到对应的显示参数，然后，根据显示参数对显示界面进行了调整，使显示界面的显示效果可以体现用户当前情绪。
可以理解的是，此处，显示参数可以包括会影响终端显示效果的各类参数，例如显示的内容包括图片、主题、颜色和动画(或图标)，呼吸的显示的频率及颜色等。
进一步的，在本实施例中，处理器110执行该终端控制程序以实现步骤依据所述当前情绪类型确定对应的控制指令，响应所述控制指令进行变化具体包括：
依据所述当前情绪类型查找匹配的弯曲控制指令；
响应所述匹配的弯曲控制指令，控制所述终端进行弯曲。
具体的，如果终端是柔性屏终端，则控制指令除了包括显示控制指令，还可以包括弯曲控制指令。确定了用户情绪类型后，就可以从预设控制规则表中去查找匹配的弯曲控制指令。可以理解的是，此处，匹配的弯曲控制指令可以是一个，也可以是多个，如果没有匹配的弯曲控制指令，则可以直接报错，同时，提示对终端预设控制规则表进行更新。确定有匹配的弯曲控制指令令后，终端解析该弯曲控制指令可以得到对应的弯曲参数，包括弯曲度数，弯曲方向等，然后，根据弯曲参数对控制终端进行相应方向和角度的弯曲，通过终端不同的弯曲来体现用户的情绪。
可以理解的是，对于柔性屏终端，当用户情绪变化时，可以同时通过显示变化和弯曲变化来体现该变化。因此，一个情绪类型可以同时对应有显示控制指令和弯曲控制指令。
请同时参考图10和11，所示是本发明中终端显示界面在用户不同情绪下的参考示意图。其中，图10对应“悲伤”下的显示效果，图11对应“高兴”下的显示效果。假设终端为非柔性屏终端，仅通过显示效果的变化来体现用户情绪变化。在本实施例中，主要通过显示界面左上角的心情图标以及显示颜色的变化来体现。如图10所示，当前用户情绪为悲伤，则心情图标是一个悲伤的表情图，心情图标的显示颜色可以是冷色系，例如，灰色，黑色等(图中未示出)。而当用户情绪为高兴，则心情图标是一个笑脸的表情图，心情图标的显示颜色可以是暖色系，例如，粉色、红色等(图中未示出)，如图11所示。
进一步，在本实施例中，处理器110还用于执行该终端控制程序以实现步以下步骤：
定时向服务器发送更新请求以更新所述终端本地存储空间的预设特征库，所述预设特征库包括预设表情特征库和预设声音特征库。
具体的，终端上预设表情特征库和预设声音特征库存储的特征文件越多，则采用该预设特征库进行分析的结果越准确。因此，为了使结果更为准确，可以实时更新终端本地存储空间上的预设特征库，包括预设表情特征库和预设声音特征库。
处理器110通过执行本实施例的终端控制程序，获取用户脸部图像并进行分析以得到第一情绪特征；采集用户语音信息并进行分析以得到第二情绪特征；采集用户当前心率值并进行分析以得到第三情绪特征；依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。从而，通过实时采集用户的相关信息并经过分析计算可以确定用户情绪，能更好地感知用户情绪变化，并且通过终端的变化反映用户情绪的变化，使终端更为人性化和智能化，用户体验和情感都得到了提升。
本发明进一步提供一种计算机可读存储介质，所述计算机可读存储介质上存储有上述终端解锁优化程序，所述终端解锁优化程序被处理器执行时实现如上所述的终端解锁优化方法。
需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。
通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，这些均属于本发明的保护之内。
Claims (10)
1.一种终端控制方法，其特征在于，所述方法包括步骤：
获取用户脸部图像并进行分析以得到第一情绪特征；
采集用户语音信息并进行分析以得到第二情绪特征；
采集用户当前心率值并进行分析以得到第三情绪特征；
依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型；
依据所述当前情绪类型确定对应的控制指令，响应所述控制指令。
2.根据权利要求1所述的终端控制方法，其特征在于，所述情绪类型包括预设的六种情绪类型，所述获取用户脸部图像并进行分析以得到第一情绪特征具体包括：
通过摄像头获取用户脸部图像以得到表情特征图像；
将所述表情特征图像与预设表情特征库进行比对；
依据比对结果确定第一情绪特征，其中，所述第一情绪特征为所述预设的六种情绪类型中的一种。
3.根据权利要求1所述的终端控制方法，其特征在于，所述情绪类型包括预设的六种情绪类型，所述采集用户语音信息并进行分析以得到第二情绪特征具体包括：
通过麦克风采集用户语音信息以得到声音特征文件；
将所述声音特征文件与预设声音特征库进行比对；
依据比对结果确定第二情绪特征，其中，所述第二情绪特征为所述预设的六种情绪类型中的一种。
4.根据权利要求1所述的终端控制方法，其特征在于，所述情绪类型包括预设的六种情绪类型，所述采集用户当前心率值并进行分析以得到第三情绪特征具体包括：
通过心率传感器采集用户当前心率值；
依据所述心率值对应的心率区间确定所述心率区间对应的第三情绪特征，其中，所述第三情绪特征为所述预设的六种情绪类型中的一种。
5.根据权利要求1-4任一项所述的终端控制方法，其特征在于，所述依据所述第一情绪特征、第二情绪特征和第三情绪特征确定用户当前情绪类型具体包括：
确定不同情绪特征对应的加权系数；
将第一情绪特征、第二情绪特征和第三情绪特征分别乘以对应的加权系数后进行求和计算；
将所述求和结果得到的至少一种情绪类型的系数与预设阈值进行比较以确定用户当前情绪类型。
6.根据权利要求1-4任一项所述的终端控制方法，其特征在于，所述控制指令包括显示控制指令，所述依据所述当前情绪类型确定对应的控制指令，响应所述控制指令具体包括：
依据所述当前情绪类型查找匹配的显示控制指令；
响应所述匹配的显示控制指令，调整当前显示界面的显示参数。
7.根据权利要求6所述的终端控制方法，其特征在于，当所述终端为柔性屏终端时，所述控制指令还包括弯曲控制指令，所述依据所述当前情绪类型确定对应的控制指令，响应所述控制指令进行变化还包括：
依据所述当前情绪类型查找匹配的弯曲控制指令；
响应所述匹配的弯曲控制指令，控制所述终端进行弯曲。
8.根据权利要求2-3任一项所述的终端控制方法，其特征在于，所述方法还包括：
定时向服务器发送更新请求以更新所述终端本地存储空间的预设特征库，所述预设特征库包括预设表情特征库和预设声音特征库。
9.一种终端，其特征在于，所述终端包括存储器、处理器及存储在所述存储器上并可在所述处理器上运行的终端控制程序，所述处理器用于执行所述终端控制程序以实现如权利要求1-8任一项所述的终端控制方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有终端控制程序，所述终端控制程序可被至少一个处理器执行，以使所述至少一个处理器执行如权利要求1-8任一项所述的终端控制方法的步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711352368.4A CN108307037A (zh) | 2017-12-15 | 2017-12-15 | 终端控制方法、终端及计算机可读存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711352368.4A CN108307037A (zh) | 2017-12-15 | 2017-12-15 | 终端控制方法、终端及计算机可读存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN108307037A true CN108307037A (zh) | 2018-07-20 |
Family
ID=62870661
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711352368.4A Pending CN108307037A (zh) | 2017-12-15 | 2017-12-15 | 终端控制方法、终端及计算机可读存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108307037A (zh) |
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109189225A (zh) * | 2018-08-30 | 2019-01-11 | Oppo广东移动通信有限公司 | 显示界面调整方法、装置、穿戴式设备及存储介质 |
| CN109472253A (zh) * | 2018-12-28 | 2019-03-15 | 华人运通控股有限公司 | 行车安全智能提醒方法、装置、智能方向盘和智能手环 |
| CN109766776A (zh) * | 2018-12-18 | 2019-05-17 | 深圳壹账通智能科技有限公司 | 操作执行方法、装置、计算机设备和存储介质 |
| CN109829362A (zh) * | 2018-12-18 | 2019-05-31 | 深圳壹账通智能科技有限公司 | 安检辅助分析方法、装置、计算机设备和存储介质 |
| CN110110135A (zh) * | 2019-04-17 | 2019-08-09 | 西安极蜂天下信息科技有限公司 | 声音特征数据库更新方法及装置 |
| CN110121026A (zh) * | 2019-04-24 | 2019-08-13 | 深圳传音控股股份有限公司 | 智能拍摄设备及其基于生物特征识别的场景生成方法 |
| CN110534135A (zh) * | 2019-10-18 | 2019-12-03 | 四川大学华西医院 | 一种基于语言引导与心率反应来评估情绪特征的方法 |
| CN110598612A (zh) * | 2019-08-30 | 2019-12-20 | 深圳智慧林网络科技有限公司 | 基于移动终端的病人看护方法、移动终端和可读存储介质 |
| CN110825503A (zh) * | 2019-10-12 | 2020-02-21 | 平安科技（深圳）有限公司 | 主题切换方法、装置及存储介质、服务器 |
| CN110858234A (zh) * | 2018-08-24 | 2020-03-03 | 中移（杭州）信息技术有限公司 | 一种根据人物情感进行信息推送的方法及装置 |
| CN111580668A (zh) * | 2020-05-12 | 2020-08-25 | 深圳传音控股股份有限公司 | 设备控制方法、终端设备及可读存储介质 |
| CN111596758A (zh) * | 2020-04-07 | 2020-08-28 | 延锋伟世通电子科技（上海）有限公司 | 人机交互方法、系统、存储介质及终端 |
| CN111813286A (zh) * | 2020-06-24 | 2020-10-23 | 浙江工商职业技术学院 | 一种基于情绪设计对应图标的方法 |
| CN113050843A (zh) * | 2019-12-27 | 2021-06-29 | 深圳富泰宏精密工业有限公司 | 情绪识别及管理方法、计算机程序及电子装置 |
| CN113270087A (zh) * | 2021-05-26 | 2021-08-17 | 深圳传音控股股份有限公司 | 处理方法、移动终端及存储介质 |
| CN114117116A (zh) * | 2022-01-28 | 2022-03-01 | 中国传媒大学 | 基于生物特征交互的音乐解锁方法及电子设备 |
| CN116649980A (zh) * | 2023-06-06 | 2023-08-29 | 四川大学 | 基于人工智能的情绪监测方法、系统、设备及存储介质 |
| CN116841672A (zh) * | 2023-06-13 | 2023-10-03 | 中国第一汽车股份有限公司 | 一种可见即可说信息的确定方法及系统 |
| CN116909159A (zh) * | 2023-01-17 | 2023-10-20 | 广东维锐科技股份有限公司 | 一种基于心情指数的智能家居控制系统及方法 |
Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN201167373Y (zh) * | 2007-12-19 | 2008-12-17 | 康佳集团股份有限公司 | 显示心情图标的电视机 |
| CN103309449A (zh) * | 2012-12-17 | 2013-09-18 | 广东欧珀移动通信有限公司 | 基于面部表情识别自动切换壁纸的移动终端及其方法 |
| CN103873642A (zh) * | 2012-12-10 | 2014-06-18 | 北京三星通信技术研究有限公司 | 记载通话记录的方法及设备 |
| CN104158964A (zh) * | 2014-08-05 | 2014-11-19 | 广东欧珀移动通信有限公司 | 一种智能手机的智能表达情绪的方法 |
| CN105607822A (zh) * | 2014-11-11 | 2016-05-25 | 中兴通讯股份有限公司 | 一种用户界面的主题切换方法、装置及终端 |
| US20170237848A1 (en) * | 2013-12-18 | 2017-08-17 | Lenovo (Singapore) Pte. Ltd. | Systems and methods to determine user emotions and moods based on acceleration data and biometric data |
| CN107392124A (zh) * | 2017-07-10 | 2017-11-24 | 珠海市魅族科技有限公司 | 情绪识别方法、装置、终端及存储介质 |
-
2017
- 2017-12-15 CN CN201711352368.4A patent/CN108307037A/zh active Pending
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN201167373Y (zh) * | 2007-12-19 | 2008-12-17 | 康佳集团股份有限公司 | 显示心情图标的电视机 |
| CN103873642A (zh) * | 2012-12-10 | 2014-06-18 | 北京三星通信技术研究有限公司 | 记载通话记录的方法及设备 |
| CN103309449A (zh) * | 2012-12-17 | 2013-09-18 | 广东欧珀移动通信有限公司 | 基于面部表情识别自动切换壁纸的移动终端及其方法 |
| US20170237848A1 (en) * | 2013-12-18 | 2017-08-17 | Lenovo (Singapore) Pte. Ltd. | Systems and methods to determine user emotions and moods based on acceleration data and biometric data |
| CN104158964A (zh) * | 2014-08-05 | 2014-11-19 | 广东欧珀移动通信有限公司 | 一种智能手机的智能表达情绪的方法 |
| CN105607822A (zh) * | 2014-11-11 | 2016-05-25 | 中兴通讯股份有限公司 | 一种用户界面的主题切换方法、装置及终端 |
| CN107392124A (zh) * | 2017-07-10 | 2017-11-24 | 珠海市魅族科技有限公司 | 情绪识别方法、装置、终端及存储介质 |
Cited By (24)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN110858234A (zh) * | 2018-08-24 | 2020-03-03 | 中移（杭州）信息技术有限公司 | 一种根据人物情感进行信息推送的方法及装置 |
| CN109189225A (zh) * | 2018-08-30 | 2019-01-11 | Oppo广东移动通信有限公司 | 显示界面调整方法、装置、穿戴式设备及存储介质 |
| CN109766776A (zh) * | 2018-12-18 | 2019-05-17 | 深圳壹账通智能科技有限公司 | 操作执行方法、装置、计算机设备和存储介质 |
| CN109829362A (zh) * | 2018-12-18 | 2019-05-31 | 深圳壹账通智能科技有限公司 | 安检辅助分析方法、装置、计算机设备和存储介质 |
| CN109472253A (zh) * | 2018-12-28 | 2019-03-15 | 华人运通控股有限公司 | 行车安全智能提醒方法、装置、智能方向盘和智能手环 |
| CN109472253B (zh) * | 2018-12-28 | 2024-04-16 | 华人运通(上海)云计算科技有限公司 | 行车安全智能提醒方法、装置、智能方向盘和智能手环 |
| CN110110135A (zh) * | 2019-04-17 | 2019-08-09 | 西安极蜂天下信息科技有限公司 | 声音特征数据库更新方法及装置 |
| CN110121026A (zh) * | 2019-04-24 | 2019-08-13 | 深圳传音控股股份有限公司 | 智能拍摄设备及其基于生物特征识别的场景生成方法 |
| CN110598612A (zh) * | 2019-08-30 | 2019-12-20 | 深圳智慧林网络科技有限公司 | 基于移动终端的病人看护方法、移动终端和可读存储介质 |
| CN110598612B (zh) * | 2019-08-30 | 2023-06-09 | 深圳智慧林网络科技有限公司 | 基于移动终端的病人看护方法、移动终端和可读存储介质 |
| CN110825503A (zh) * | 2019-10-12 | 2020-02-21 | 平安科技（深圳）有限公司 | 主题切换方法、装置及存储介质、服务器 |
| CN110825503B (zh) * | 2019-10-12 | 2024-03-19 | 平安科技（深圳）有限公司 | 主题切换方法、装置及存储介质、服务器 |
| CN110534135A (zh) * | 2019-10-18 | 2019-12-03 | 四川大学华西医院 | 一种基于语言引导与心率反应来评估情绪特征的方法 |
| CN113050843A (zh) * | 2019-12-27 | 2021-06-29 | 深圳富泰宏精密工业有限公司 | 情绪识别及管理方法、计算机程序及电子装置 |
| CN111596758A (zh) * | 2020-04-07 | 2020-08-28 | 延锋伟世通电子科技（上海）有限公司 | 人机交互方法、系统、存储介质及终端 |
| CN111580668A (zh) * | 2020-05-12 | 2020-08-25 | 深圳传音控股股份有限公司 | 设备控制方法、终端设备及可读存储介质 |
| CN111813286A (zh) * | 2020-06-24 | 2020-10-23 | 浙江工商职业技术学院 | 一种基于情绪设计对应图标的方法 |
| CN113270087A (zh) * | 2021-05-26 | 2021-08-17 | 深圳传音控股股份有限公司 | 处理方法、移动终端及存储介质 |
| CN114117116B (zh) * | 2022-01-28 | 2022-07-01 | 中国传媒大学 | 基于生物特征交互的音乐解锁方法及电子设备 |
| CN114117116A (zh) * | 2022-01-28 | 2022-03-01 | 中国传媒大学 | 基于生物特征交互的音乐解锁方法及电子设备 |
| CN116909159A (zh) * | 2023-01-17 | 2023-10-20 | 广东维锐科技股份有限公司 | 一种基于心情指数的智能家居控制系统及方法 |
| CN116649980A (zh) * | 2023-06-06 | 2023-08-29 | 四川大学 | 基于人工智能的情绪监测方法、系统、设备及存储介质 |
| CN116649980B (zh) * | 2023-06-06 | 2024-03-26 | 四川大学 | 基于人工智能的情绪监测方法、系统、设备及存储介质 |
| CN116841672A (zh) * | 2023-06-13 | 2023-10-03 | 中国第一汽车股份有限公司 | 一种可见即可说信息的确定方法及系统 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108307037A (zh) | 终端控制方法、终端及计算机可读存储介质 | |
| CN109743504A (zh) | 一种辅助拍照方法、移动终端和存储介质 | |
| CN107277250A (zh) | 显示被关注聊天信息的方法、终端和计算机可读存储介质 | |
| CN108039995A (zh) | 消息发送控制方法、终端及计算机可读存储介质 | |
| CN108182626A (zh) | 服务推送方法、信息采集终端及计算机可读存储介质 | |
| CN108170341A (zh) | 界面操作按键自适应方法、终端及计算机可读存储介质 | |
| CN108874352A (zh) | 一种信息显示方法及移动终端 | |
| CN107347115A (zh) | 信息输入的方法、设备及计算机可读存储介质 | |
| CN109726179A (zh) | 截屏图片处理方法、存储介质及移动终端 | |
| CN108521500A (zh) | 一种语音场景控制方法、设备及计算机可读存储介质 | |
| CN108829444A (zh) | 一种自动关闭后台应用的方法、终端和计算机存储介质 | |
| CN108449513A (zh) | 一种交互调控方法、设备及计算机可读存储介质 | |
| CN107704514A (zh) | 一种照片管理方法、装置及计算机可读存储介质 | |
| CN110471589A (zh) | 信息显示方法及终端设备 | |
| CN107450796B (zh) | 一种图片处理方法、移动终端和计算机可读存储介质 | |
| CN109117105A (zh) | 一种协同桌面交互调控方法、设备及计算机可读存储介质 | |
| CN108762926A (zh) | 一种系统优化方法、终端及计算机可读存储介质 | |
| CN108600325A (zh) | 一种推送内容的确定方法、服务器和计算机可读存储介质 | |
| CN108012029A (zh) | 一种信息处理方法、设备及计算机可读存储介质 | |
| CN107908675A (zh) | 一种数据展示方法、终端及计算机可读存储介质 | |
| CN110460568A (zh) | 一种自动举报方法、终端及计算机可读存储介质 | |
| CN110213444A (zh) | 移动终端消息的显示方法、装置、移动终端及存储介质 | |
| CN110278481A (zh) | 画中画实现方法、终端及计算机可读存储介质 | |
| CN110052024A (zh) | 游戏震动的调整方法、调整装置、移动终端及存储介质 | |
| CN109376669A (zh) | 智能助手的控制方法、移动终端及计算机可读存储介质 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180720 |