CN106325514B - 一种手持智能终端的防掉落方法、装置及其电子设备 - Google Patents

一种手持智能终端的防掉落方法、装置及其电子设备 Download PDF

Info

Publication number
CN106325514B
CN106325514B CN201610735473.5A CN201610735473A CN106325514B CN 106325514 B CN106325514 B CN 106325514B CN 201610735473 A CN201610735473 A CN 201610735473A CN 106325514 B CN106325514 B CN 106325514B
Authority
CN
China
Prior art keywords
intelligent terminal
hand
user
held intelligent
warning note
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610735473.5A
Other languages
English (en)
Other versions
CN106325514A (zh
Inventor
宋江涛
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Gree Electric Appliances Inc of Zhuhai
Original Assignee
Gree Electric Appliances Inc of Zhuhai
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Gree Electric Appliances Inc of Zhuhai filed Critical Gree Electric Appliances Inc of Zhuhai
Priority to CN201610735473.5A priority Critical patent/CN106325514B/zh
Publication of CN106325514A publication Critical patent/CN106325514A/zh
Application granted granted Critical
Publication of CN106325514B publication Critical patent/CN106325514B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013Eye tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/44Local feature extraction by analysis of parts of the pattern, e.g. by detecting edges, contours, loops, corners, strokes or intersections; Connectivity analysis, e.g. of connected components
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G08SIGNALLING
    • G08BSIGNALLING OR CALLING SYSTEMS; ORDER TELEGRAPHS; ALARM SYSTEMS
    • G08B21/00Alarms responsive to a single specified undesired or abnormal condition and not otherwise provided for
    • G08B21/02Alarms for ensuring the safety of persons
    • G08B21/06Alarms for ensuring the safety of persons indicating a condition of sleep, e.g. anti-dozing alarms

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Emergency Management (AREA)
  • Business, Economics & Management (AREA)
  • Ophthalmology & Optometry (AREA)
  • Telephone Function (AREA)

Abstract

本发明公开了一种手持智能终端的防掉落方法、防掉落装置及其电子设备。该方法包括:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。通过采集图像的方式并在分析图像信息后,通过特定的判断标准进行判断,检测用户的状态。在用户处于较为困倦的情况下,能够及时的发出报警提示,避免用户因瞌睡导致手持智能终端掉落,砸伤用户或者损坏手持智能终端。

Description

一种手持智能终端的防掉落方法、装置及其电子设备
技术领域
本发明涉及智能终端技术领域,特别是涉及一种手持智能终端的防掉落方法、防掉落装置及其电子设备。
背景技术
随着电子技术的不断发展,手持式智能电子设备的类型和功能越来越多,例如各类型的智能手机,手持式电子阅读器以及平板电脑等。其在日常生活中的使用范围也越来越广泛。
在用户躺下,或者倚靠在沙发上这样的应用场景(即处于仰卧或者侧卧位置操作)中,用户可能在操作手持式智能电子设备(如智能手机)的过程中较为疲倦,而导致犯困,感到疲惫或者出现瞌睡的情况。在困倦程度较高的情况下,用户的反应会变得迟缓而且手部可能无法很好的握持该智能电子设备,从而导致设备的掉落。
在实现本发明的过程中,发明人发现现有技术中存在着如下的问题:一方面,由于操作的习惯,以躺卧的姿势操作时,该智能电子设备通常会放置在头部或者眼部得分位置,掉落的设备会有很大的可能直接砸中用户的头部或者面部。尤其是在智能电子设备的外形具有尖锐的部件时,其跌落会对用户产生较大的风险。
另一方面,即使掉落的智能电子设备没有砸中用户,也会砸落在其它坚硬的表面,例如地面,造成智能电子设备的损坏。
发明内容
本发明实施方式主要解决的技术问题是提供一种手持智能终端的防掉落方法、防掉落装置及其电子设备,能够解决现有技术中手持智能终端在仰卧或者侧卧位置操作时容易因用户困倦而掉落的问题。
为解决上述技术问题,本发明实施方式采用的一个技术方案是:提供一种手持智能终端的防掉落方法。该方法包括:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
可选地,所述方法还包括:获取手持智能终端的屏幕朝向;在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
可选地,所述面部参数特征包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
可选地,所述所述面部参数特征满足触发条件,具体包括:预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
可选地,所述方法还包括:在发出报警提示后,缩短所述采集图像信息的预定的周期;根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
为解决上述技术问题,本发明实施方式采用的另一个技术方案是:提供一种手持智能终端的防掉落装置。该装置包括:图像信息采集模块,用于以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;参数特征提取模块,用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及判断模块,用于若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
可选地,所述装置还包括:防掉落状态确认模块,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
可选地,所述面部参数特征包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
可选地,所述判断模块具体包括:分级标准预设单元,用于由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;报警提示单元,若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
可选地,所述装置还包括:周期调整模块,用于在发出报警提示后,缩短所述采集图像信息的预定的周期;以及标准调节模块,用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
为解决上述技术问题,本发明实施方式采用的又一个技术方案是:提供一种电子设备。该电子设备包括:至少一个处理器;以及,与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令程序,所述指令程序被所述至少一个处理器执行,以使所述至少一个处理器能够:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;以及若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
区别于现有技术的情况,本发明实施方式在手持智能终端进入到防掉落状态时,会通过采集图像以及分析图像信息的方式,以特定的判断标准进行判断从而完成对用户状态的检测。在判断到用户处于较为困倦的情况下,能够及时的发出报警提示,避免用户因瞌睡导致手持智能终端掉落,砸伤用户或者损坏手持智能终端。
附图说明
图1是本发明实施例提供的手持智能终端的防掉落方法的应用场景的示意图;
图2是本发明实施例的手持智能终端的防掉落方法的方法流程图;
图3是本发明另一实施例的手持智能终端的防掉落方法的方法流程图;
图4是本发明实施例的屏幕朝向示意图;
图5是本发明实施例的手持智能终端的防掉落装置的装置示意图;
图6是本发明另一实施例的手持智能终端的防掉落装置的装置示意图;
图7是本发明实施例提供的防掉落方法的电子设备的硬件结构示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅用以解释本发明,并不用于限定本发明。
本发明实施例的手持智能终端的防掉落方法能够应用于合适的,具有一定运算能力的手持式智能设备中,例如掌上游戏机、PDA(掌上计算机)、智能手机、平板电脑、电子阅读器或者其他合适的手持智能终端中。
本发明实施例的手持智能终端的防掉落装置可以作为其中一个软件或者硬件功能单元,独立设置在上述手持智能终端中,也可以作为整合在处理器中的其中一个功能模块,执行本发明实施例的防掉落方法。
在本发明实施例中,使用“睡眠程度”这样的术语来表示用户的困倦状态,出现瞌睡情况导致手持智能终端掉落的可能性。该睡眠程度是以预定的标准进行衡量的定性判定方式而非精确的定量判断方式。该预定的标准并非一个固定的标准阈值,其可以根据不同的用户进行一定的调整,仅需要大致的能够判断当前用户是否属于精神,能够握持设备或者是否属于困倦,容易使设备掉落的状态。
图1为本发明实施例提供的一种防掉落方法的应用场景。在该场景中,包括手持智能终端10,用户20以及床铺30。
用户20躺卧在床铺30上,以仰卧位的方式操作手持智能终端10。用户20通过多种不同的操作方式与手持智能终端10之间进行互动,包括语音控制,触摸控制等。
在手持智能终端10在执行用户交互操作的同时,进一步的启动内置或者独立设置的图像采集装置采集用户的图像信息,或者通过其它网络等获取的相关图像信息对用户的睡眠程度进行判断。在一些具体的应用场景中,还可以进一步的添加其它的功能设备,例如网络40。
图2为本发明实施例的一种手持智能终端的防掉落方法。请参阅图2,该方法包括如下步骤:
101:以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像。
当手持智能终端进入到防掉落状态时,开始进行步骤101,执行该防掉落方法以避免手持智能终端的掉落。
该防掉落状态是指手持智能终端处于用户仰卧位或者侧卧位使用时的状态。在这样的防掉落状态中,手持智能终端在离开用户的施力后,在重力作用下将加速下落,存在砸落地面或者击中用户的可能。该防掉落状态可以通过多种合适的方式或者装置确定,例如通过设置在手持式智能终端中的位置传感器(如重力传感器、陀螺仪)来确定智能终端的方向和位置状态,从而确认是否处于防掉落状态。
该图像信息可以通过任何合适的图像采集装置完成采集,例如,通过用户使用的智能手机的前置摄像头或者是通过外置的拍摄装置获取所述图像信息。
该图像信息可以是任何类型的图像,包括多种不同元素或者在各种场景下拍摄的图片。为保证后续步骤的顺利完成,该图像信息应当至少包含有全部或者部分的用户面部图像。
该预定的周期为图像信息的采样周期。其决定了图像信息的处理量以及该防掉落方法反映的用户状态的实时性。一般的,使用较短的周期能够更及时的反映用户状态的变化(即睡眠程度的变化),而使用较长的周期能够减少图像信息的数据量,减轻后续步骤的数据处理压力。具体使用的周期可以由技术人员根据实际情况予以设置,例如可以是每10s采集一次,或者是每30s采集一次,还可以是根据实际应用情况发生变动或者周期性变化的采样周期。
103:提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。
在获取到图像信息后,需要提取其中的参数特征以获得图像信息中包含的用户状态信息。其参数特征的提取具体可以采用现有技术中任何合适的算法或者其组合来实现,例如维奥拉-琼斯算法(viola-johns)和监督式的梯度下降算法(supervised descentmethod)。
该参数特征可以是图像信息中的各种不同类型的图像特征,例如面部边缘特征,用户的眼睛图像、用户的嘴部图像、前景、背景等。具体的参数特征根据实际使用的算法所确定。
在一些算法组合应用过程中,一些参数特征还可以作为提取其它参数特征的基础,例如,通过边缘算子来获得面部边缘特征。然后根据面部边缘特征,确定用户的面部范围。最后在用户面部图像中检测获得用户的眼睛图像、嘴部图像等。
为了步骤105的实现,该参数特征应当至少包括一项与所述用户面部图像相关的面部参数特征。该面部参数特征是指与用户面部图像相关的,能够反映用户面部的元素,如眼睛,嘴巴等状态的参数特征,例如,眼睛的长轴长度,眼睛的短轴长度,上下眼皮之间的距离等。
105:若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
在从所述图像信息中提取到足够的参数特征(包括面部参数特征)后,可以将其与触发条件进行比较,从而定性的确定当前用户的睡眠程度状态,是否存在有较大的概率需要进行提醒以防止用户瞌睡导致智能手持终端掉落。该触发条件可以是根据实际情况设置的,在满足该触发条件的情况下,表示具有极大的可能性出现手持式终端掉落的情况发生。
该触发条件可以是多种不同类型的判断项目或者其结合,例如通过和/或/非等比尔运算或者权重分析的方式结合,获得最终的判断结果。该触发条件包括与采集获得面部参数特征匹配的阈值,亦即一种类型的面部参数特征与一个判断标准或者判断项目对应,以尽可能的利用提取的面部参数特征来完成更为准确的判断。例如,在面部参数特征为眼睛和嘴巴相关时,触发条件中需要有对应的眼睛和嘴巴相关的阈值。该阈值可以是一个确定的数值范围(如10-20),也可以是一个界限值,例如10,15。当满足触发条件时,表示所述面部参数特征与所述阈值匹配,即所述面部参数特征落入阈值的范围之内,或者接近阈值界限值。
该触发条件是预先设定的条件,可以由相关技术人员预先设置或者根据不同的情况进行分析设置。设置后的初始值还可以根据一些特定的情况进行更改,从而更好的适应当前的应用环境,实现更准确的判断。
该报警提示是由手持式智能终端或者应用场景中其它相关设备发出的提示性信息,用以提示用户,产生类似于闹铃等的效果,避免用户瞌睡而导致智能终端的跌落。
在本实施例中,采用了对用户的面部图像进行定期采样,然后提取图像特征并与预设标准进行比对的方法。在用户的面部图像显示用户具有较高盖然性进入瞌睡状态或者其它睡眠程度导致智能终端跌落的情况下,及时的发出报警提示信息提示用户,用户可以采取相应的措施(如放下智能手机)从而避免用户在使用过程中,智能终端跌落而产生的安全风险或者导致智能终端的损毁。
图3为本发明另一实施例提供的一种手持智能终端的防掉落方法。请参阅图3,在本实施例中,通过如下步骤确定该手持智能终端是否进入防掉落状态:
301:获取手持智能终端的屏幕朝向。
在实际应用中,可以采用多种不同的方式获取屏幕朝向,例如,通过手持智能终端内置的位置传感器;通过外部设备获取的,并传输至手持智能终端的位置信息等。
303:在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
所述第一方向为与重力方向的夹角小于或等于110°的方向,亦即该第一方向是指朝向地面的方向。该标准能够包括一些手持智能终端A的屏幕完全正向或者有部分侧向朝向地面的情况(如图4所示),也一般的用户使用情况相适应。
在这种屏幕朝向时,一般的可以认为该手持智能终端基本上属于图1中所示的应用场景,需要执行提醒功能以防止智能终端掉落带来的风险。
该预定的第一时间是一个预设的时间值,可以通过任何合适的方式,根据实际应用情况进行设置,例如,设置为5s,10s或者20s等。设置该预定的第一时间,可以避免一些错误的判断情况,例如用户在正常使用过程中,将手机翻转的情况。
上述具体步骤提供了一种判断手持智能终端是否进入防掉落状态的方式。该方式提供了一种计算机易于识别和判断的标准,检测简单易行,可以方便的通过,例如手持智能终端的位置传感器等完成屏幕朝向的判断。
在本实施例中,所述面部参数特征可以包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数。所述眼睑形状参数可以包括用户面部图像中的眼睛图像的纵轴和横轴半径。
使用上述两个面部参数特征,具有较强的代表性能够识别用户是否已经进入到一个容易导致手机掉落的睡眠程度状态中。
惯常的检测人体睡眠程度的方法通常是以检测眨眼次数来完成的。该检测眨眼次数的方式,由于是一种发生形变的图像识别,对于图像识别和运算量的要求较高。在本实施例中,使用上述较为容易识别以及容易进行判断,精确度较高的方式,能够有效的节约提取参数特征占用的系统资源。这样的方式,对于计算能力较为有限的手持式智能终端是较为适合的。
在本实施例中,请参阅图3,步骤103具体可以包括如下步骤:
1031:预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示。
将触发条件设置为多种不同的分级条件。利用该分级条件能够对用户的睡眠程度进行分级。例如,这样的分级可以是:轻度、中度或者重度睡眠。在满足一个分级条件的情况下,可以判断为用户处于相应的睡眠程度状态。例如,可以将分级条件设置为1级条件为嘴巴张合次数为3次,2级条件为嘴巴张合次数为5次以及3级条件为嘴巴张合次数为8次这样包括3级分级条件的触发条件。
相对应地,报警提示也设置为与分级条件对应。所述报警提示可以包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。例如,上述设置了3个分级条件后,也设置三个不同的报警提示与其对应。
1033:若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示。
在面部参数特征满足某一特定的分级条件以后,则触发执行与所述分级条件对应的报警提示。
在本实施例中,通过将触发条件设置为不同的具有不同等级的分级条件,从而适应用户在实际情况中不同的睡眠状态的判断。根据用户的实际睡眠状态情况,发出相对应的报警提示,实现区别化对待。
例如,在用户满足1级分级条件的情况下,发出第一音量的第一响声,若用户继续使用,其满足了2级分级条件以后,就发出第二音量的第二响声(使用更大的音量),从而提醒用户。最后若满足3级分级条件以后,执行降低屏幕亮度或者关闭屏幕等操作,使得用户无法使用,提示用户应当放下手持智能终端从而避免掉落发生安全风险或者意外。
请继续参阅图3,在本实施例中,所述方法还包括如下步骤:
307:在发出报警提示后,缩短所述采集图像信息的预定的周期。在手持式智能终端发出过报警提示后,用户可能仍然会继续使用该终端来继续观看视频或者浏览网页等。
在这样的应用场景中,可以认为用户已经处于比较疲倦的状态,需要更及时的采集数据以提高实时性,从而及时的发出报警提示。如前所述,可以通过缩短采样的周期来实现这样的目的。
309:根据调节参数,调整所述触发条件,所述调节参数与发出报警提示的次数呈正相关关系。
由于基于采样周期的调整,因此需要使用一个调节参数来对预设的触发条件进行调整,才能够反映当前的用户情况和完成匹配。该调节参数通常可以设置一个预设值,然后根据实际的情况进行调节以改变判断标准。例如,该调节参数可以是一个在触发条件前的权重参数,如105%,随着报警次数的提高,调节参数持续上升(如每增加依次报警次数增加5%),从而使得触发条件不断的提高,以适应这一较短的采样周期,避免因采样周期的变化而导致误操作,发出报警提示影响用户对于手持智能终端的使用体验。例如,嘴巴张合次数的判断标准为:15x-18x;可以由调节参数x来调整嘴巴张合次数的判断标准。
该调节参数的变化与报警次数之间具有相关关系。该相关关系应当具有一定的指向性。在本实施例中的应用场景中,这样的相关关系应当为正相关,即调节参数是随着报警次数同时上升的,避免错误的反向调节。
为详细陈述本发明实施例提供的手持智能终端的防掉落方法,以下结合图1所示的应用环境进行具体描述。
首先,在用户20处于躺卧的情况下,用户20打开智能手机10进行操作。此时,智能手机10在屏幕被触发状态下,开始通过内置的重力传感器感应此时手机的屏幕朝向(即手机的使用方向)。智能手机10确认此时屏幕朝向为相对地面方向(如图1所示),并且维持特定的时间(如10min)后,开始进入检测状态。
其次,用户20可以在这一过程中持续的对智能手机10进行操作,或者进行一些交互,例如观看视频,浏览网页。智能手机10可以使用其内置的前置摄像头(或者扫描模块)来采集此时的用户面部图像信息。
采集获得用户面部图像信息可以进行一些预处理操作后再进行特征参数的提取。该预处理过程可以包括:通过例如使用边缘检测算子的识别模块,将用户的面部图像从采集的图像的背景中分离。当然,还可以包括例如高斯滤波、二值化等预处理方式。
智能手机10获取用户面部图像信息(如面部轮廓图像)后,可以提取、计算例如眼睑形状参数、嘴巴张合次数(通常可以代表打哈欠的次数)等。计算完成后,将眼睑形状参数、嘴巴张合次数等与预设的参数范围(即触发条件)进行比较,若属于这个参数范围(即满足触发条件的情况),智能手机10可以认为用户即将进入瞌睡状态,具有很好的概率发生智能手机掉落的情况。这一用户状态的判断情况可以反馈至智能手机10的控制器中。控制器接收到反馈信号后,可以控制智能手机发出报警提示(如发出声响、屏幕亮度改变)。在本应用场景中,可以使用一些经典的人脸识别算法,例如,维奥拉-琼斯算法(viola-johns)。
该算法是一个依赖于哈尔特征以及Adaboost训练强分类器的人脸识别算法。该算法对于人脸识别具有特别优秀的效果,虽然需要依赖于较大规模的训练数据完成训练集。这样的训练数据可以通过图1所示的网络40来获取,例如从互联网中搜索相关图像信息,或者从在线数据库中调用用户的历史面部图像信息。
应当说明的是,在这样的应用场景下,前置摄像头拍摄获得图像信息中,用户面部占据了图像信息中的较大面积,这样的采样数据是符合上述算法对于输入数据的要求,能够赋予该算法较好的运算准确度。
在上述智能手机10的检测过程中,用户20与智能手机10之间在不断的交互,智能手机10也可以采集这些交互信息,作为判断用户状态的辅助信息,以确定是否发出报警提示。
最后,智能手机10在交互过程中,发出报警提示从而提示用户将智能手机10放下或者停止使用智能手机10,避免掉落带来的安全风险或者损坏智能手机10。
在计算嘴巴张合次数时,可以通过与计算眼睑的形状参数相类似的方式以简化运算消耗的系统资源,如可以计算嘴张开时的纵轴和横轴半径。在达到预定的判断值时,可以记录为一次嘴巴张合。
在实际的情况中,可以在眼睑形状参数达到预设参数范围10~180秒后(进一步的,可以为60~120秒),反馈给控制器从而发出报警提示。
图5为本发明实施例的一种手持智能终端的防掉落装置。请参阅图5,该装置包括:图像信息采集模块100,参数特征提取模块200以及判断模块300。
该图像信息采集模块100用于以预定的周期采集处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像。参数特征提取模块200则用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。判断模块300用于若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。
该装置能够在用户的面部图像显示用户具有较高盖然性进入瞌睡状态或者其它睡眠程度导致智能终端跌落的情况下,及时的发出报警提示信息提示用户,用户可以采取相应的措施(如放下智能手机)从而避免用户在使用过程中,智能终端跌落而产生的安全风险或者导致智能终端的损毁。
图6为本发明另一实施例提供的手持智能终端的防掉落装置。请参阅图6,除图5所示的模块外,该装置还可以包括:防掉落状态确认模块400,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态;所述第一方向为与重力方向的夹角小于或等于110°的方向。
在本实施例中,所述面部参数特征可以包括:眼睑形状参数和预定的第二时间内的嘴巴张合次数;所述眼睑形状参数包括用户面部图像中的眼睛图像的纵轴和横轴半径。
在应用过程中,上述面部特征参数与惯常使用的眨眼频率等相比,较为容易识别以及容易进行判断,精确度较高。这样能够有效的节约提取参数特征占用的系统资源,尤其对于计算能力较为有限的手持式智能终端而言。
在本实施例中,请继续参阅图6,所述判断模块300具体包括:分级标准预设单元310以及报警提示单元320。
所述分级标准预设单元310用于预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示。而报警提示单元320用于若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
通过将判断标准设置为不同的具有不同等级的分级标准,从而适应用户在实际情况中不同的睡眠状态的判断。根据用户的实际睡眠状态情况,发出相对应的报警提示,实现区别化对待。
在本实施例中,请继续参阅图6,该装置还可以包括周期调整模块500以及调节模块600。该周期调整模块500用于在发出报警提示后,缩短所述采集图像信息的预定的周期。标准调节模块600用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
在本发明实施例中,首先可以由图像信息采集模块100以预定的周期采集处于防掉落状态的手持智能终端的图像信息。然后通过参数特征提取模块200提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征。最后,使用判断模块300进行判断,若所述面部参数特征满足触发条件,则发出报警提示;所述触发条件为与所述面部特征参数匹配的阈值。还可以进一步的使用防掉落状态确认模块400来确认手持式智能终端是否为防掉落状态,或者通过周期调整模块500以及调节模块600来调整采样周期以及判断标准。
图7是本发明实施例提供的防掉落方法的电子设备的硬件结构示意图。请参阅图7,该设备包括:
一个或多个处理器710以及存储器720,图7中以一个处理器710为例。
防掉落方法的设备还可以包括:输入装置730和输出装置740。处理器710、存储器720、输入装置730和输出装置740可以通过总线或者其他方式连接,图7中以通过总线连接为例。
存储器720作为一种非易失性计算机可读存储介质,可用于存储非易失性软件程序、非易失性计算机可执行程序以及模块,如本发明实施例中的弹幕处理方法对应的程序指令/模块(例如,附图5所示的图像信息采集模块100,参数特征提取模块200以及判断模块300,或者附图6所示的防掉落状态确认模块400)。处理器710通过运行存储在存储器720中的非易失性软件程序、指令以及模块,从而执行服务器的各种功能应用以及数据处理,即实现上述方法实施例防掉落方法。
存储器720可以包括存储程序区和存储数据区,其中,存储程序区可存储操作系统、至少一个功能所需要的应用程序;存储数据区可存储根据防掉落装置的使用所创建的数据等。此外,存储器720可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件、闪存器件、或其他非易失性固态存储器件。在一些实施例中,存储器720可选包括相对于处理器710远程设置的存储器,这些远程存储器可以通过网络连接至防掉落装置。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
输入装置730可接收输入的数字或字符信息,以及产生与防掉落装置的用户设置以及功能控制有关的键信号输入。输出装置740可包括显示屏等显示设备。
所述一个或者多个模块存储在所述存储器720中,当被所述一个或者多个处理器710执行时,执行上述任意方法实施例中的防掉落方法。
上述产品可执行本发明实施例所提供的方法,具备执行方法相应的功能模块和有益效果。未在本实施例中详尽描述的技术细节,可参见本发明实施例所提供的方法。
专业人员应该还可以进一步意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、计算机软件或者二者的结合来实现,为了清楚地说明硬件和软件的可互换性,在上述说明中已经按照功能一般性地描述了各示例的组成及步骤。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。所述的计算机软件可存储于计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体或随机存储记忆体等。
以上所述仅为本发明的实施方式,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (9)

1.一种手持智能终端的防掉落方法,其特征在于,包括:
当手持智能终端处于防掉落状态时,采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;
根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
在发出报警提示后,缩短所述采集图像信息的预定的周期;
根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取手持智能终端的屏幕朝向;
在所述手持智能终端的屏幕朝向为所述第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
3.根据权利要求1所述的方法,其特征在于,所述面部参数特征还包括:预定的第二时间内的嘴巴张合次数。
4.根据权利要求1所述的方法,其特征在于,所述面部参数特征是否满足触发条件,具体包括:
预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;
若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;
所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
5.一种手持智能终端的防掉落装置,其特征在于,当手持智能终端处于防掉落状态时,所述防掉落装置采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
所述防掉落装置包括:
图像信息采集模块,用于以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
参数特征提取模块,用于提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征;所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;
判断模块,用于根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
周期调整模块,用于在发出报警提示后,缩短所述采集图像信息的预定的周期;
标准调节模块,用于根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
6.根据权利要求5所述的装置,其特征在于,所述装置还包括:防掉落状态确认模块,用于获取手持智能终端的屏幕朝向;以及在所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间时,确认手持智能终端为防掉落状态。
7.根据权利要求5所述的装置,其特征在于,所述面部参数特征还包括预定的第二时间内的嘴巴张合次数。
8.根据权利要求5所述的装置,其特征在于,所述判断模块具体包括:
分级标准预设单元,用于预设由若干个根据睡眠程度设置的分级条件组成的触发条件,所述分级条件具有对应的报警提示;
报警提示单元,若所述面部参数特征满足所述分级条件,则发出与所述分级条件对应的报警提示;所述报警提示包括:具有第一音量的第一响声,具有与第一音量不相同的第二音量的第二响声,提升屏幕显示亮度和关闭屏幕。
9.一种手持智能终端,其特征在于,包括:
至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令程序,所述指令程序被所述至少一个处理器执行,以使所述至少一个处理器能够:
当所述手持智能终端处于防掉落状态时,采集用户与所述手持智能终端之间的交互信息;所述交互信息作为判断用户状态的辅助信息;
所述防掉落状态为所述手持智能终端的屏幕朝向为第一方向并维持预定的第一时间的状态;所述第一方向为与重力方向的夹角小于或等于110°的方向;
以预定的周期采集所述处于防掉落状态的手持智能终端的图像信息;所述图像信息包括用户面部图像;
提取所述图像信息的参数特征,所述参数特征包括至少一项与所述用户面部图像相关的面部参数特征,所述面部参数特征包括用户面部图像中的眼睛图像的纵轴和横轴半径;以及根据所述面部参数特征是否满足触发条件以及所述辅助信息,确定是否发出报警提示;所述触发条件为与所述面部参数特征匹配的阈值;
在发出报警提示后,缩短所述采集图像信息的预定的周期;
根据调节参数,调整所述触发条件;所述调节参数与发出报警提示的次数呈正相关关系。
CN201610735473.5A 2016-08-26 2016-08-26 一种手持智能终端的防掉落方法、装置及其电子设备 Active CN106325514B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201610735473.5A CN106325514B (zh) 2016-08-26 2016-08-26 一种手持智能终端的防掉落方法、装置及其电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610735473.5A CN106325514B (zh) 2016-08-26 2016-08-26 一种手持智能终端的防掉落方法、装置及其电子设备

Publications (2)

Publication Number Publication Date
CN106325514A CN106325514A (zh) 2017-01-11
CN106325514B true CN106325514B (zh) 2018-12-28

Family

ID=57791869

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610735473.5A Active CN106325514B (zh) 2016-08-26 2016-08-26 一种手持智能终端的防掉落方法、装置及其电子设备

Country Status (1)

Country Link
CN (1) CN106325514B (zh)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107944355B (zh) * 2017-11-13 2018-08-28 厦门云顶伟业信息技术有限公司 大数据采集和处理方法
CN108197006B (zh) 2018-01-23 2019-09-13 Oppo广东移动通信有限公司 电子设备、跌落提示方法及相关产品
CN110138956B (zh) * 2019-03-27 2022-01-14 努比亚技术有限公司 一种终端设备检测方法、终端设备及计算机可读存储介质
CN111265222A (zh) * 2020-03-24 2020-06-12 孙孟良 一种icu患者非计划性拔管预警系统
CN112613386B (zh) * 2020-12-18 2023-12-19 宁波大学科学技术学院 一种基于脑电波的监控方法及装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102752458A (zh) * 2012-07-19 2012-10-24 北京理工大学 一种驾驶员疲劳检测手机与检测单元
CN104503888A (zh) * 2014-12-16 2015-04-08 小米科技有限责任公司 告警提示的方法及装置
CN105898043A (zh) * 2016-03-31 2016-08-24 北京奇虎科技有限公司 一种基于用户行为状态进行提醒服务的方法及装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102752458A (zh) * 2012-07-19 2012-10-24 北京理工大学 一种驾驶员疲劳检测手机与检测单元
CN104503888A (zh) * 2014-12-16 2015-04-08 小米科技有限责任公司 告警提示的方法及装置
CN105898043A (zh) * 2016-03-31 2016-08-24 北京奇虎科技有限公司 一种基于用户行为状态进行提醒服务的方法及装置

Also Published As

Publication number Publication date
CN106325514A (zh) 2017-01-11

Similar Documents

Publication Publication Date Title
CN106325514B (zh) 一种手持智能终端的防掉落方法、装置及其电子设备
CN105700363B (zh) 一种智能家居设备语音控制装置的唤醒方法及系统
CN105488957B (zh) 疲劳驾驶检测方法及装置
WO2019134246A1 (zh) 基于人脸识别的安全监控方法、装置及存储介质
US20160210835A1 (en) Human body tumbling detection method and device and mobile terminal system
CN103714631B (zh) 基于人脸识别的atm取款机智能监控系统
CN103220583A (zh) 基于智能电视的检测用户疲劳度的系统及方法
CN109346061B (zh) 音频检测方法、装置及存储介质
WO2016127437A1 (zh) 活体人脸验证方法及系统、计算机程序产品
WO2017133589A1 (zh) 终端用户安全监护方法及装置
EP3572974A1 (en) Method and device for sending warning message
CN107633657A (zh) 一种疲劳驾驶的提醒方法及终端
CN101211484A (zh) 防止在atm取款时密码被偷窥的方法及装置
CN103745235A (zh) 人脸识别方法、装置及终端设备
CN108549802A (zh) 一种基于人脸识别的解锁方法、装置以及移动终端
CN106814838B (zh) 终端自动休眠的方法和装置
CN110855934A (zh) 疲劳驾驶识别方法、装置、系统、车载终端及服务器
JP5653404B2 (ja) 居眠り注意喚起装置
CN107065622A (zh) 一种电器运行信息反馈方法及装置
CN109793491A (zh) 一种色盲检测方法和终端设备
CN113095138A (zh) 异常行为识别方法及相关装置
CN112580472A (zh) 一种快速轻量的人脸识别方法、装置、机器可读介质及设备
CN104134037B (zh) 显示装置节能控制方法和系统
CN109841140A (zh) 示教器及其操作方法、计算装置和计算机可读介质
CN108132711A (zh) 一种播放进度条控制方法及电子设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant