具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
在后续的描述中,使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明,其本身没有特定的意义。因此,“模块”、“部件”或“单元”可以混合地使用。
终端可以以各种形式来实施。例如,本发明中描述的终端可以包括诸如手机、平板电脑、笔记本电脑、掌上电脑、个人数字助理(Personal Digital Assistant,PDA)、便捷式媒体播放器(Portable Media Player,PMP)、导航装置、可穿戴设备、智能手环、计步器等移动终端,以及诸如数字TV、台式计算机等固定终端。
后续描述中将以移动终端为例进行说明,本领域技术人员将理解的是,除了特别用于移动目的的元件之外,根据本发明的实施方式的构造也能够应用于固定类型的终端。
请参阅图1,其为实现本发明各个实施例的一种移动终端的硬件结构示意图,该移动终端100可以包括:RF(Radio Frequency,射频)单元101、WiFi模块102、音频输出单元103、A/V(音频/视频)输入单元104、传感器105、显示单元106、用户输入单元107、接口单元108、存储器109、处理器110、以及电源111等部件。本领域技术人员可以理解,图1中示出的移动终端结构并不构成对移动终端的限定,移动终端可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件布置。
下面结合图1对移动终端的各个部件进行具体的介绍:
射频单元101可用于收发信息或通话过程中,信号的接收和发送,具体的,将基站的下行信息接收后,给处理器110处理;另外,将上行的数据发送给基站。通常,射频单元101包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外,射频单元101还可以通过无线通信与网络和其他设备通信。上述无线通信可以使用任一通信标准或协议,包括但不限于GSM(Global System of Mobile communication,全球移动通讯系统)、GPRS(General Packet Radio Service,通用分组无线服务)、CDMA2000(CodeDivision Multiple Access 2000,码分多址2000)、WCDMA(Wideband Code DivisionMultiple Access,宽带码分多址)、TD-SCDMA(Time Division-Synchronous CodeDivision Multiple Access,时分同步码分多址)、FDD-LTE(Frequency DivisionDuplexing-Long Term Evolution,频分双工长期演进)和TDD-LTE(Time DivisionDuplexing-Long Term Evolution,分时双工长期演进)等。
WiFi属于短距离无线传输技术,移动终端通过WiFi模块102可以帮助用户收发电子邮件、浏览网页和访问流式媒体等,它为用户提供了无线的宽带互联网访问。虽然图1示出了WiFi模块102,但是可以理解的是,其并不属于移动终端的必须构成,完全可以根据需要在不改变发明的本质的范围内而省略。
音频输出单元103可以在移动终端100处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时,将射频单元101或WiFi模块102接收的或者在存储器109中存储的音频数据转换成音频信号并且输出为声音。而且,音频输出单元103还可以提供与移动终端100执行的特定功能相关的音频输出(例如,呼叫信号接收声音、消息接收声音等等)。音频输出单元103可以包括扬声器、蜂鸣器等等。
A/V输入单元104用于接收音频或视频信号。A/V输入单元104可以包括图形处理器(Graphics Processing Unit,GPU)1041和麦克风1042,图形处理器1041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器1041处理后的图像帧可以存储在存储器109(或其它存储介质)中或者经由射频单元101或WiFi模块102进行发送。麦克风1042可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风1042接收声音(音频数据),并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由射频单元101发送到移动通信基站的格式输出。麦克风1042可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。
移动终端100还包括至少一种传感器105,比如光传感器、运动传感器以及其他传感器。具体地,光传感器包括环境光传感器及接近传感器,其中,环境光传感器可根据环境光线的明暗来调节显示面板1061的亮度,接近传感器可在移动终端100移动到耳边时,关闭显示面板1061和/或背光。作为运动传感器的一种,加速计传感器可检测各个方向上(一般为三轴)加速度的大小,静止时可检测出重力的大小及方向,可用于识别手机姿态的应用(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等;至于手机还可配置的指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等其他传感器,在此不再赘述。
显示单元106用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板1061,可以采用液晶显示器(Liquid Crystal Display,LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板1061。
用户输入单元107可用于接收输入的数字或字符信息,以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地,用户输入单元107可包括触控面板1071以及其他输入设备1072。触控面板1071,也称为触摸屏,可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板1071上或在触控面板1071附近的操作),并根据预先设定的程式驱动相应的连接装置。触控面板1071可包括触摸检测装置和触摸控制器两个部分。其中,触摸检测装置检测用户的触摸方位,并检测触摸操作带来的信号,将信号传送给触摸控制器;触摸控制器从触摸检测装置上接收触摸信息,并将它转换成触点坐标,再送给处理器110,并能接收处理器110发来的命令并加以执行。此外,可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板1071。除了触控面板1071,用户输入单元107还可以包括其他输入设备1072。具体地,其他输入设备1072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆等中的一种或多种,具体此处不做限定。
进一步的,触控面板1071可覆盖显示面板1061,当触控面板1071检测到在其上或附近的触摸操作后,传送给处理器110以确定触摸事件的类型,随后处理器110根据触摸事件的类型在显示面板1061上提供相应的视觉输出。虽然在图1中,触控面板1071与显示面板1061是作为两个独立的部件来实现移动终端的输入和输出功能,但是在某些实施例中,可以将触控面板1071与显示面板1061集成而实现移动终端的输入和输出功能,具体此处不做限定。
接口单元108用作至少一个外部装置与移动终端100连接可以通过的接口。例如,外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元108可以用于接收来自外部装置的输入(例如,数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端100和外部装置之间传输数据。
存储器109可用于存储软件程序以及各种数据。存储器109可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器109可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
处理器110是移动终端的控制中心,利用各种接口和线路连接整个移动终端的各个部分,通过运行或执行存储在存储器109内的软件程序和/或模块,以及调用存储在存储器109内的数据,执行移动终端的各种功能和处理数据,从而对移动终端进行整体监控。处理器110可包括一个或多个处理单元;优选的,处理器110可集成应用处理器和调制解调处理器,其中,应用处理器主要处理操作系统、用户界面和应用程序等,调制解调处理器主要处理无线通信。可以理解的是,上述调制解调处理器也可以不集成到处理器110中。
移动终端100还可以包括给各个部件供电的电源111(比如电池),优选的,电源111可以通过电源管理系统与处理器110逻辑相连,从而通过电源管理系统实现管理充电、放电、以及功耗管理等功能。
尽管图1未示出,移动终端100还可以包括蓝牙模块等,在此不再赘述。
为了便于理解本发明实施例,下面对本发明的移动终端所基于的通信网络系统进行描述。
请参阅图2,图2为本发明实施例提供的一种通信网络系统架构图,该通信网络系统为通用移动通信技术的LTE系统,该LTE系统包括依次通讯连接的UE(User Equipment,用户设备)201,E-UTRAN(Evolved UMTS Terrestrial Radio Access Network,演进式UMTS陆地无线接入网)202,EPC(Evolved Packet Core,演进式分组核心网)203和运营商的IP业务204。
具体地,UE201可以是上述终端100,此处不再赘述。
E-UTRAN202包括eNodeB2021和其它eNodeB2022等。其中,eNodeB2021可以通过回程(backhaul)(例如X2接口)与其它eNodeB2022连接,eNodeB2021连接到EPC203,eNodeB2021可以提供UE201到EPC203的接入。
EPC203可以包括MME(Mobility Management Entity,移动性管理实体)2031,HSS(Home Subscriber Server,归属用户服务器)2032,其它MME2033,SGW(Serving Gate Way,服务网关)2034,PGW(PDN Gate Way,分组数据网络网关)2035和PCRF(Policy andCharging Rules Function,政策和资费功能实体)2036等。其中,MME2031是处理UE201和EPC203之间信令的控制节点,提供承载和连接管理。HSS2032用于提供一些寄存器来管理诸如归属位置寄存器(图中未示)之类的功能,并且保存有一些有关服务特征、数据速率等用户专用的信息。所有用户数据都可以通过SGW2034进行发送,PGW2035可以提供UE 201的IP地址分配以及其它功能,PCRF2036是业务数据流和IP承载资源的策略与计费控制策略决策点,它为策略与计费执行功能单元(图中未示)选择及提供可用的策略和计费控制决策。
IP业务204可以包括因特网、内联网、IMS(IP Multimedia Subsystem,IP多媒体子系统)或其它IP业务等。
虽然上述以LTE系统为例进行了介绍,但本领域技术人员应当知晓,本发明不仅仅适用于LTE系统,也可以适用于其他无线通信系统,例如GSM、CDMA2000、WCDMA、TD-SCDMA以及未来新的网络系统等,此处不做限定。
基于上述移动终端硬件结构以及通信网络系统,提出本发明方法各个实施例。
第一实施例
如图3所示,为本申请第一实施例提供的操作模式识别方法的流程示意图。在图3中,所述操作模式识别方法包括以下步骤:
步骤310,采集使用者手部接触终端的图像数据;
步骤320,基于卷积神经网络模型,对所述图像数据进行左右手识别,得到识别结果;
步骤330,当所述识别结果满足预设的条件时,确定所述终端的惯用手操作模式。
具体的,在步骤310中,当使用者手部握持终端时,采集手部与终端接触区域的图像数据。在本实施例中,终端具有双面触摸屏,该双面触摸屏分别位于终端的正面和背面,该背面屏幕上分布多个传感器,以采集使用者手掌或者/和手指接触到背面区域的图像数据。并对所采集的有标签数据集进行预处理,处理方式包括但不仅限于:裁剪、压缩等。
在步骤320中,基于已经构建的卷积神经网络模型,根据采集的图像数据进行左右手识别,得到的识别结果为:左手操作、右手操作、或者左手右手同时操作,本实施例中的左手右手同时操作即为双手操作。
在步骤330中,当按照步骤310-320得到多次识别结果的统计时间达到预设阈值,或者统计频度达到阈值阈值时,则认为识别结果为有效数据,并根据得到的识别结果,确定终端的惯用手操作模式。
例如,在统计数据集中,当用户使用左手的概率超过既定阈值(如0.7)时,则确定用户有偏好的惯用手为左手,则惯用手操作模式为左手。
当确定了终端的惯用手操作模式之后,则根据用户的操作指令,对当前系统或者应用程序的用户界面(User Interface,UI)进行调整。同时,根据用户选择以及所识别出的惯用手操作模式与UI配置文件的对应关系,对当前系统或者应用程序的UI进行相应的调整。
本实施例的操作模式识别方法,还包括出厂前的建立模型的过程,具体如图4所示,还包括以下步骤:
步骤410,采集使用者手部接触终端的图像数据;
步骤420,标记所述图像数据,得到标签数据;
步骤430,对所述标签数据进行预处理;
步骤440,构建多层卷积神经网络模型,以对预处理后的标签数据进行训练和学习。
具体的,当使用者手部接触到双面屏幕的终端时,采集背面屏幕与使用者手部接触区域的手部图像信息。步骤420中的标签数据是指虚拟用户在各种操作模式下进行相关操作时,根据手掌与背面屏幕触摸信息绘制的图像,并在采集过程中确定了图像标签。各个模式下的操作包括但不仅限于:竖屏模式下的右手点击、右手滑动、右手输入、左手点击、左手滑动、左手输入、双手点击、双手滑动、双手输入等,以及横屏模式下的右手点击、右手滑动、右手输入、左手点击、左手滑动、左手输入、双手点击、双手滑动、双手输入等。
在步骤430中,对所采集的有标签数据集进行预处理,处理方式包括但不仅限于:裁剪、压缩等。通过裁剪处理使得样本数据更加多样化,使得模型训练后的特征提取更加充分。通过压缩处理可以降低图片的尺寸,从而大大降低模型参数数量,加快学习和识别的速度。
在步骤440中,利用卷积神经网络构建深度学习的神经网络模型,对步骤430预处理后的有标签数据集合进行训练和学习。
可选的,如图5所示,步骤440具体包括以下步骤:
步骤510,搭建卷积神经网络模型;
步骤520,初始化所述卷积神经网络模型的参数。
具体的,在本实施例中,卷积神经网络包括:
第一卷积层,利用初始的参数对输入数据input_data进行卷积操作,采用第一激活函数对第一卷积层的输出进行非线性化处理;
第一池化层,对所述第一激活函数的输出结果进行池化操作;
第一归一化层,对第一池化层的输出进行归一化处理;
第二卷积层,对所述第一归一化层的输出进行卷积操作,采用第二激活函数对第二卷积层的输出进行非线性化处理;
第二归一化层,对所述第二激活函数的输出进行归一化处理;
第二池化层,对所述第二归一化层的输出进行池化操作,再对得到的数据进行平坦化处理,并采用激活函数对平坦化处理的输出数据进行非线性处理。
其中,第一卷积层利用第一次初始化所需的参数并对数据进行卷积操作,并采用公式(1)进行卷积计算,
在公式(1)中,x代表输入,h代表卷积核,n代表输出的维度,y代表第一卷积层的输出。
可选的,在本实施例中,采用32个5×5的卷积核对原始数据进行卷积计算,步长(stride)设置为1,填充模式(padding)为SAME。在其他实施例中,卷积核尺寸、个数、步长及padding模式还可以进行其他设置,本申请不对此进行具体限制。
设置第二次初始化所需的偏置量参数bias1。
根据bias1和第一激活函数对第一卷积层的输出进行非线性处理,得到conv1。在本实施例中,如公式(2)所示,采用ReLu激活函数进行处理,
conv1=ReLu(kernel1+bias1) 公式(2)
本领域技术人员可以理解的是,在其他实施例中,还可以利用其他激活函数对第一卷积层的输出进行非线性处理,本申请不对此进行具体限制。
在第一池化层中,对conv1进行池化操作,将输出标记为pool1。在本实施例中,池化方式包括但不限于:最大池化和平均池化,本申请不对此进行具体限制。
在第一归一化层中,利用LRN函数,对pool1做局部响应进行归一化处理,将输出标记为norm1。
设置第三次初始化所需的权重参数weight2。
根据weight2对norm1进行卷积操作,将输出标记为kernel2。在第二卷积操作中,采用64个5×5的卷积核对norm1进行卷积操作,步长(stride)设置为1,padding模式为SAME。
设置第四次初始化所需的偏置量参数bias2。
根据bias2和第二激活函数对第二卷积层的输出进行非线性处理,得到conv2。在本实施例中,如公式(3)所示,采用Sigmoid激活函数进行处理,
conv2=Sigmoid(kernel1+bias2) 公式(3)
本领域技术人员可以理解的是,在其他实施例中,还可以利用其他激活函数对第二卷积层的输出进行非线性处理,本申请不对此进行具体限制。
在第二归一化层中,利用LRN函数,对conv2做局部响应进行归一化处理,将输出标记为norm2。
在第二池化层中,对norm2进行池化操作,将输出标记为pool2。在本实施例中,池化方式包括但不限于:最大池化和平均池化,本申请不对此进行具体限制。
对pool2进行平坦化处理,将平坦化处理的数据编辑为reshape。
可选的,构建多层卷积神经网络模型还包括以下步骤:
采用激活函数对平坦化处理的输出数据进行非线性处理。如图6所示,该步骤具体包括:
步骤610,采用第三激活函数对所述平坦化处理的输出数据进行非线性处理;
步骤620,采用第四激活函数对所述第三激活函数的输出结果进行非线性处理;
步骤630,采用第五激活函数对所述第四激活函数的输出结果进行非线性处理。
具体的,第五次初始化激活函数所需参数weight3和bias3。
利用weight3和bias3,使用第三激活函数对pool2进行非线性处理,获取local3。在本实施例中,如公式(4)所示,采用Sigmoid激活函数进行处理,
local3=Sigmoid(matmul(weight3,reshape)+bias3) 公式(4)
第六次初始化激活函数所需参数weight4和bias4。
利用weight4和bias4,使用第四激活函数对local3进行非线性处理,获取local4。在本实施例中,如公式(5)所示,采用ReLu激活函数进行处理,
local4=ReLu(matmul(weight4,local3)+bias4)公式(5)
第七次初始化激活函数所需参数weight5和bias5。
利用weight5和bias5,使用第五激活函数对local4进行非线性处理,获取logits。在本实施例中,如公式(6)所示,采用add激活函数进行处理,
logits=add(matmul(weight4,local3),bias4) 公式(6)
可选的,如图7所示,在构建多层卷积神经网络模型之后,还包括以下步骤:
步骤710,根据所述第五激活函数的输出结果,计算预测label;
步骤720,根据所述预测label,计算第一预测损失;
步骤730,根据所述第一损失,计算第二预测损失;
步骤740,对网络参数进行优化,以使所述第二预测损失达到最小。
具体的,利用logits及softmax函数,计算预测label,并将其标记为:y。
利用y、input_data_label,计算第一预测损失,采用交叉熵方式计算损失并将其标记为cross_entropy。
根据第一预测损失,计算cross_entropy的均值,作为第二预测损失,并将其标记为cross_entropy_mean。
选择优化器,对网络参数进行优化,使得针对input_data,cross_entropy_mean达到最小。在本实施例中,可以选择Adam Optimizer优化器进行优化。在其他实施例中,还可以选择其他优化器,本申请不对此进行具体限制。
针对input_data,计算优化后的网络的预测的准确率。
重复特定次数的上述步骤,使得网络的准确率达到既定要求。例如,重复10000次上述训练和学习过程,以使网络准确率达到99%。
在训练完成之后,将训练好的多层卷积神经网络模型进行固化保存,形成模型及其参数文件。
示例性地,在安卓(Android)端,通过固化后的多层卷积神经网络模型及其参数文件,并利用相关应用程序编程接口(Application Programming Interface,API),将训练好的模型结构与参数进行恢复,以便在PC端训练的模型可以在Android端进行应用。
基于上述多层卷积神经网络模型,当执行步骤310-330之后,确定了终端的惯用手操作模式,则如图8所示,所述方法还包括以下步骤:
步骤810,判断当前的操作模式是否为所述惯用手操作模式;若否,则进入步骤820;
步骤820,产生提示信息;
步骤830,当接收用户发送的切换至惯用手操作模式的指令时,根据所述指令,切换当前的操作模式至所述惯用手操作模式。
具体的,若检测当前的操作模式为右手模式,而根据满足预设条件的操作结果得到的惯用手操作模式为左手模式时,则产生提示信息,以提醒用户是否切换当前的操作模式,若用户触发确定的操作指令,则接收用户发送的切换指令,并根据该指令,切换当前的操作模式至惯用手操作模式。否则,保持当前的操作模式。
本领域技术人员可以理解的是,即便在惯用手操作模式(例如:左手模式)下,后台仍实时采集使用者手部接触终端的图像数据,以及多次识别图像数据得到的结果(例如:右手模式)为新的惯用手操作模式,且新的惯用手操作模式与之前的惯用手操作模式不同,则需要重新提示用户是否切换至新的惯用手操作模式,并根据用户的指令,进行切换或者保持不变。
本实施的操作模式识别方法,通过采集使用者手部接触终端的图像数据,并基于卷积神经网络模型,对图像数据进行左右手识别,得到识别结果,当识别结果满足预设的条件时,确定终端的惯用手操作模式,从而能够识别用户的惯用手,根据用户的惯用手,对系统UI进行相应的调整,满足用户的操作习惯,提升用户体验。
第二实施例
如图9所示,为本申请第二实施例提供的操作模式识别方法的流程示意图。在第二实施例中,所述操作模式识别方法是在第一实施例的基础上所做出的进一步改进,区别仅在于,第二实施例的方法还包括:
步骤910,判断所述终端的当前账户信息是否存在惯用手操作模式;若是,则进入步骤920;
步骤920,切换当前的操作模式至所述惯用手操作模式。
具体的,在账户登录的情况下,在每次确定了用户的惯用手操作模式时,记录该惯用手操作模式。当检测用户登录账户时,则先判断终端的当前账户信息是否存在惯用手操作模式,若存在,则切换当前的操作模式至惯用手操作模式,以便于用户使用。也就是说,若不同用户的惯用手操作模式不同,则在不同用户登录账户信息时,都需要切换至惯用手操作模式,适应不同用户的使用习惯。
本实施例的操作模式识别方法,当终端的当前账户信息存在惯用手操作模式时,切换当前的操作模式至惯用手操作模式,根据账户信息对应的惯用手操作模式对系统UI进行相应的调整,满足不同用户的操作习惯,提升用户体验。
第三实施例
本申请第三实施例提供一种终端硬件。结合图1,终端包括:存储器109、处理器110及存储在所述存储器109上并可在所述处理器110上运行的操作模式识别程序。在本实施例中,所述操作模式识别程序包括一系列的存储于存储器109上的计算机程序指令,当该计算机程序指令处理器110执行时,可以实现本发明各实施例的操作模式识别操作。
具体的,处理器110用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
采集使用者手部接触终端的图像数据;
基于卷积神经网络模型,对所述图像数据进行左右手识别,得到识别结果;
当所述识别结果满足预设的条件时,确定所述终端的惯用手操作模式。
具体的,当使用者手部握持终端时,采集手部与终端接触区域的图像数据。在本实施例中,终端具有双面触摸屏,该双面触摸屏分别位于终端的正面和背面,该背面屏幕上分布多个传感器,以采集使用者手掌或者/和手指接触到背面区域的图像数据。并对所采集的有标签数据集进行预处理,处理方式包括但不仅限于:裁剪、压缩等。
基于已经构建的卷积神经网络模型,根据采集的图像数据进行左右手识别,得到的识别结果为:左手操作、右手操作、或者左手右手同时操作,本实施例中的左手右手同时操作即为双手操作。
当按照上述步骤得到多次识别结果的统计时间达到预设阈值,或者统计频度达到阈值阈值时,则认为识别结果为有效数据,并根据得到的识别结果,确定终端的惯用手操作模式。
例如,在统计数据集中,当用户使用左手的概率超过既定阈值(如0.7)时,则确定用户有偏好的惯用手为左手,则惯用手操作模式为左手。
当确定了终端的惯用手操作模式之后,则根据用户的操作指令,对当前系统或者应用程序的用户界面(User Interface,UI)进行调整。同时,根据用户选择以及所识别出的惯用手操作模式与UI配置文件的对应关系,对当前系统或者应用程序的UI进行相应的调整。
本实施例的操作模式识别方法,还包括出厂前的建立模型的过程,从而,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
采集使用者手部接触终端的图像数据;
标记所述图像数据,得到标签数据;
对所述标签数据进行预处理;
构建多层卷积神经网络模型,以对预处理后的标签数据进行训练和学习。
具体的,当使用者手部接触到双面屏幕的终端时,采集背面屏幕与使用者手部接触区域的手部图像信息。标签数据是指虚拟用户在各种操作模式下进行相关操作时,根据手掌与背面屏幕触摸信息绘制的图像,并在采集过程中确定了图像标签。各个模式下的操作包括但不仅限于:竖屏模式下的右手点击、右手滑动、右手输入、左手点击、左手滑动、左手输入、双手点击、双手滑动、双手输入等,以及横屏模式下的右手点击、右手滑动、右手输入、左手点击、左手滑动、左手输入、双手点击、双手滑动、双手输入等。
对所采集的有标签数据集进行预处理,处理方式包括但不仅限于:裁剪、压缩等。通过裁剪处理使得样本数据更加多样化,使得模型训练后的特征提取更加充分。通过压缩处理可以降低图片的尺寸,从而大大降低模型参数数量,加快学习和识别的速度。
利用卷积神经网络构建深度学习的神经网络模型,对预处理后的有标签数据集合进行训练和学习。
可选的,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
搭建卷积神经网络模型;
初始化所述卷积神经网络模型的参数。
具体的,在本实施例中,卷积神经网络包括:
第一卷积层,利用初始的参数对输入数据input_data进行卷积操作,采用第一激活函数对第一卷积层的输出进行非线性化处理;
第一池化层,对所述第一激活函数的输出结果进行池化操作;
第一归一化层,对第一池化层的输出进行归一化处理;
第二卷积层,对所述第一归一化层的输出进行卷积操作,采用第二激活函数对第二卷积层的输出进行非线性化处理;
第二归一化层,对所述第二激活函数的输出进行归一化处理;
第二池化层,对所述第二归一化层的输出进行池化操作,再对得到的数据进行平坦化处理,并采用激活函数对平坦化处理的输出数据进行非线性处理。
其中,第一卷积层利用第一次初始化所需的参数并对数据进行卷积操作,并采用公式(1)进行卷积计算,
在公式(1)中,x代表输入,h代表卷积核,n代表输出的维度,y代表第一卷积层的输出。
可选的,在本实施例中,采用32个5×5的卷积核对原始数据进行卷积计算,步长(stride)设置为1,填充模式(padding)为SAME。在其他实施例中,卷积核尺寸、个数、步长及padding模式还可以进行其他设置,本申请不对此进行具体限制。
设置第二次初始化所需的偏置量参数bias1。
根据bias1和第一激活函数对第一卷积层的输出进行非线性处理,得到conv1。在本实施例中,如公式(2)所示,采用ReLu激活函数进行处理,
conv1=ReLu(kernel1+bias1) 公式(2)
本领域技术人员可以理解的是,在其他实施例中,还可以利用其他激活函数对第一卷积层的输出进行非线性处理,本申请不对此进行具体限制。
在第一池化层中,对conv1进行池化操作,将输出标记为pool1。在本实施例中,池化方式包括但不限于:最大池化和平均池化,本申请不对此进行具体限制。
在第一归一化层中,利用LRN函数,对pool1做局部响应进行归一化处理,将输出标记为norm1。
设置第三次初始化所需的权重参数weight2。
根据weight2对norm1进行卷积操作,将输出标记为kernel2。在第二卷积操作中,采用64个5×5的卷积核对norm1进行卷积操作,步长(stride)设置为1,padding模式为SAME。
设置第四次初始化所需的偏置量参数bias2。
根据bias2和第二激活函数对第二卷积层的输出进行非线性处理,得到conv2。在本实施例中,如公式(3)所示,采用Sigmoid激活函数进行处理,
conv2=Sigmoid(kernel1+bias2) 公式(3)
本领域技术人员可以理解的是,在其他实施例中,还可以利用其他激活函数对第二卷积层的输出进行非线性处理,本申请不对此进行具体限制。
在第二归一化层中,利用LRN函数,对conv2做局部响应进行归一化处理,将输出标记为norm2。
在第二池化层中,对norm2进行池化操作,将输出标记为pool2。在本实施例中,池化方式包括但不限于:最大池化和平均池化,本申请不对此进行具体限制。
对pool2进行平坦化处理,将平坦化处理的数据编辑为reshape。
可选的,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
采用激活函数对平坦化处理的输出数据进行非线性处理。
可选的,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
采用第三激活函数对所述平坦化处理的输出数据进行非线性处理;
采用第四激活函数对所述第三激活函数的输出结果进行非线性处理;
采用第五激活函数对所述第四激活函数的输出结果进行非线性处理。
具体的,第五次初始化激活函数所需参数weight3和bias3。
利用weight3和bias3,使用第三激活函数对pool2进行非线性处理,获取local3。在本实施例中,如公式(4)所示,采用Sigmoid激活函数进行处理,
local3=Sigmoid(matmul(weight3,reshape)+bias3) 公式(4)
第六次初始化激活函数所需参数weight4和bias4。
利用weight4和bias4,使用第四激活函数对local3进行非线性处理,获取local4。在本实施例中,如公式(5)所示,采用ReLu激活函数进行处理,
local4=ReLu(matmul(weight4,local3)+bias4) 公式(5)
第七次初始化激活函数所需参数weight5和bias5。
利用weight5和bias5,使用第五激活函数对local4进行非线性处理,获取logits。在本实施例中,如公式(6)所示,采用add激活函数进行处理,
logits=add(matmul(weight4,local3),bias4) 公式(6)
可选的,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
根据所述第五激活函数的输出结果,计算预测label;
根据所述预测label,计算第一预测损失;
根据所述第一损失,计算第二预测损失;
对网络参数进行优化,以使所述第二预测损失达到最小。
具体的,利用logits及softmax函数,计算预测label,并将其标记为:y。
利用y、input_data_label,计算第一预测损失,采用交叉熵方式计算损失并将其标记为cross_entropy。
根据第一预测损失,计算cross_entropy的均值,作为第二预测损失,并将其标记为cross_entropy_mean。
选择优化器,对网络参数进行优化,使得针对input_data,cross_entropy_mean达到最小。在本实施例中,可以选择Adam Optimizer优化器进行优化。在其他实施例中,还可以选择其他优化器,本申请不对此进行具体限制。
针对input_data,计算优化后的网络的预测的准确率。
重复特定次数的上述步骤,使得网络的准确率达到既定要求。例如,重复10000次上述训练和学习过程,以使网络准确率达到99%。
在训练完成之后,将训练好的多层卷积神经网络模型进行固化保存,形成模型及其参数文件。
示例性地,在安卓(Android)端,通过固化后的多层卷积神经网络模型及其参数文件,并利用相关应用程序编程接口(Application Programming Interface,API),将训练好的模型结构与参数进行恢复,以便在PC端训练的模型可以在Android端进行应用。
基于上述多层卷积神经网络模型,当确定了终端的惯用手操作模式,处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
判断当前的操作模式是否为所述惯用手操作模式;若否,则产生提示信息;
当接收用户发送的切换至惯用手操作模式的指令时,根据所述指令,切换当前的操作模式至所述惯用手操作模式。
具体的,若检测当前的操作模式为右手模式,而根据满足预设条件的操作结果得到的惯用手操作模式为左手模式时,则产生提示信息,以提醒用户是否切换当前的操作模式,若用户触发确定的操作指令,则接收用户发送的切换指令,并根据该指令,切换当前的操作模式至惯用手操作模式。否则,保持当前的操作模式。
本领域技术人员可以理解的是,即便在惯用手操作模式(例如:左手模式)下,后台仍实时采集使用者手部接触终端的图像数据,以及多次识别图像数据得到的结果(例如:右手模式)为新的惯用手操作模式,且新的惯用手操作模式与之前的惯用手操作模式不同,则需要重新提示用户是否切换至新的惯用手操作模式,并根据用户的指令,进行切换或者保持不变。
处理器110还用于执行存储器109中存储的操作模式识别程序,以实现以下步骤:
判断所述终端的当前账户信息是否存在惯用手操作模式;若是,则切换当前的操作模式至所述惯用手操作模式。
具体的,在账户登录的情况下,在每次确定了用户的惯用手操作模式时,记录该惯用手操作模式。当检测用户登录账户时,则先判断终端的当前账户信息是否存在惯用手操作模式,若存在,则切换当前的操作模式至惯用手操作模式,以便于用户使用。也就是说,若不同用户的惯用手操作模式不同,则在不同用户登录账户信息时,都需要切换至惯用手操作模式,适应不同用户的使用习惯。
本实施的终端,通过采集使用者手部接触终端的图像数据,并基于卷积神经网络模型,对图像数据进行左右手识别,得到识别结果,当识别结果满足预设的条件时,确定终端的惯用手操作模式,从而能够识别用户的惯用手,根据用户的惯用手,对系统UI进行相应的调整,满足用户的操作习惯,提升用户体验。
第四实施例
本申请实施例还提供了一种计算机可读存储介质。这里的计算机可读存储介质存储有一个或者多个程序。其中,计算机可读存储介质可以包括易失性存储器,例如随机存取存储器;存储器也可以包括非易失性存储器,例如只读存储器、快闪存储器、硬盘或固态硬盘;存储器还可以包括上述种类的存储器的组合。当计算机可读存储介质中一个或者多个程序可被一个或者多个处理器执行,以实现上述第一实施例或者第二实施例所提供的操作模式识别方法。
需要说明的是,在本文中,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下,由语句“包括一个……”限定的要素,并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端(可以是手机,计算机,服务器,空调器,或者网络设备等)执行本发明各个实施例所述的方法。
上面结合附图对本发明的实施例进行了描述,但是本发明并不局限于上述的具体实施方式,上述的具体实施方式仅仅是示意性的,而不是限制性的,本领域的普通技术人员在本发明的启示下,在不脱离本发明宗旨和权利要求所保护的范围情况下,还可做出很多形式,这些均属于本发明的保护之内。