CN115344110A - 电子设备以及控制方法 - Google Patents

电子设备以及控制方法 Download PDF

Info

Publication number
CN115344110A
CN115344110A CN202210509109.2A CN202210509109A CN115344110A CN 115344110 A CN115344110 A CN 115344110A CN 202210509109 A CN202210509109 A CN 202210509109A CN 115344110 A CN115344110 A CN 115344110A
Authority
CN
China
Prior art keywords
face
detection
detected
face area
state
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202210509109.2A
Other languages
English (en)
Inventor
小杉和宏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Lenovo Singapore Pte Ltd
Original Assignee
Lenovo Singapore Pte Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Lenovo Singapore Pte Ltd filed Critical Lenovo Singapore Pte Ltd
Publication of CN115344110A publication Critical patent/CN115344110A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/26Power supply means, e.g. regulation thereof
    • G06F1/32Means for saving power
    • G06F1/3203Power management, i.e. event-based initiation of a power-saving mode
    • G06F1/3206Monitoring of events, devices or parameters that trigger a change in power modality
    • G06F1/3231Monitoring the presence, absence or movement of users
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/28Indexing scheme for image data processing or generation, in general involving image processing hardware
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02DCLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
    • Y02D10/00Energy efficient computing, e.g. low power processors, power management or thermal management

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Studio Devices (AREA)

Abstract

本发明涉及电子设备以及控制方法。高精度地检测使用电子设备的人物。电子设备具备暂时存储由拍摄装置拍摄的图像的图像数据的存储器、以及处理存储于存储器的图像数据的处理器。处理器处理由拍摄装置按规定的时间间隔拍摄并存储于存储器的多个图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从多个图像中检测拍摄到面部的面部区域,判定是否是在多个图像中连续地检测出面部区域的状态。另外,当正在进行基于第一分辨率的图像数据检测面部区域的处理的状态下,判断为状态在连续地检测出面部区域的状态和未连续地检测出面部区域的状态之间变化的情况下,处理器基于第二分辨率的图像数据从多个图像中检测面部区域。

Description

电子设备以及控制方法
技术领域
本发明涉及电子设备以及控制方法。
背景技术
存在一种电子设备,若人物接近则转移到可使用的状态,若人物远离则转移到除了一部分功能之外停止的待机状态。例如,在专利文献1中,使用红外线传感器,来检测人物是否接近或者人物是否远离。
近年来,由于计算机视觉等的发展,根据图像检测面部时的检测精度变高。因此,代替利用红外线传感器的人物的检测,而开始利用面部检测。在使用红外线传感器的情况下,无论是人物还是人物以外的物体,红外线都会反射回来,但通过利用面部检测,能够防止将单纯的物体错误地检测为人物。
专利文献1:日本特开2016-148895号公报
然而,根据面部的朝向等,有时难以进行面部的检测,即使存在人物,也会时而检测出面部时而未检测出面部,检测变得不稳定。例如,在用户使用连接于电子设备的第二显示器的情况下,从电子设备侧检测出用户的侧脸。在这样的情况下,虽然存在使用电子设备的用户,但有时面部的检测变得不稳定,有可能误检测为不存在用户。
发明内容
本发明是鉴于上述的情况而完成的,其目的之一在于提供高精度地检测使用的人物的电子设备以及控制方法。
本发明是为了解决上述的课题而完成的,本发明的第一方式所涉及的电子设备具备:存储器,暂时存储由拍摄装置拍摄的图像的图像数据;以及处理器,处理存储于上述存储器的图像数据,上述处理器具备:面部检测部,处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从上述多个图像中检测拍摄到面部的面部区域;以及检测状态判定部,判定是否是在上述多个图像中连续地检测出上述面部区域的状态,当正在进行基于上述第一分辨率的图像数据检测上述面部区域的处理的状态下,上述检测状态判定部判断为状态在连续地检测出上述面部区域的状态和未连续地检测出上述面部区域的状态之间变化的情况下,上述面部检测部基于第二分辨率的图像数据从上述多个图像中检测上述面部区域。
在上述电子设备中,也可以构成为,基于在规定期间按上述规定的时间间隔拍摄的上述多个图像中以规定的比例包含由上述面部检测部检测出上述面部区域的图像和未检测出面部区域的图像的双方,上述检测状态判定部判定为是未连续地检测出上述面部区域的状态。
在上述电子设备中,也可以构成为,上述第一分辨率是比上述第二分辨率低的分辨率,当正在执行基于上述第一分辨率的图像数据检测上述面部区域的低分辨率模式的处理的状态下,上述检测状态判定部判断为状态从连续地检测出上述面部区域的状态变化为未连续地检测出上述面部区域的状态的情况下,上述面部检测部以高分辨率模式执行处理,其中,在上述高分辨率模式中,基于特定区域中的上述第二分辨率的图像数据进行上述面部区域的检测,上述特定区域相当于在上述低分辨率模式的处理中检测出的上述面部区域的位置。
在上述电子设备中,也可以构成为,上述面部检测部在以上述高分辨率模式从上述特定区域未能检测出上述面部区域的情况下,以上述低分辨率模式执行上述面部区域的检测。
在上述电子设备中,也可以构成为,上述面部检测部从上述多个图像检测上述面部区域时的检测范围被设定为比上述拍摄的图像的图像区域的范围小的范围,还具备检测范围设定部,上述检测范围设定部根据由上述面部检测部检测出的上述面部区域的位置使上述检测范围移动。
在上述电子设备中,也可以构成为,在初始状态下,上述检测范围设定部设定为上述检测范围的中心位置与上述拍摄的图像的图像区域的中心位置对应。
也可以构成为,上述电子设备还具备移动量判定部,基于从上述多个图像中由上述面部检测部检测出的上述面部区域的位置来判定上述面部区域的移动量是否在规定的阈值以上,在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下,上述面部检测部使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下,上述面部检测部使上述面部区域的检测有效。
另外,本发明的第二方式所涉及的电子设备具备:存储器,暂时存储由拍摄装置拍摄的图像的图像数据;以及处理器,处理存储于上述存储器的图像数据,上述处理器具备:面部检测部,处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,从上述多个图像中检测拍摄到面部的面部区域;以及移动量判定部,基于从上述多个图像由上述面部检测部检测出的上述面部区域的位置,来判定上述面部区域的移动量是否在规定的阈值以上,在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下,上述面部检测部使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下,上述面部检测部使上述面部区域的检测有效。
在上述电子设备中,也可以构成为,还具备检测上述电子设备的活动的传感器,上述移动量判定部考虑由上述传感器检测到的上述电子设备的活动,来判定由上述面部检测部检测出的上述面部区域的移动量。
也可以构成为,上述电子设备还具备:处理部,执行基于系统的系统处理;人物判定部,在由上述面部检测部检测出的上述面部区域的检测有效的情况下判定为存在用户,在由上述面部检测部未检测出上述面部区域的情况下或者由上述面部检测部检测出的上述面部区域的检测无效的情况下判定为不存在用户;以及动作控制部,在上述人物判定部的判定结果从不存在用户的状态向存在用户的状态转移的情况下,使上述系统的动作状态从上述系统处理的至少一部分被限制的第一动作状态转移至与上述第一动作状态相比激活了上述系统处理的动作的第二动作状态。
另外,本发明的第三方式所涉及的、具备暂时存储由拍摄装置拍摄的图像的图像数据的存储器以及处理存储于上述存储器的图像数据的处理器的电子设备的控制方法包括:面部检测部处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从上述多个图像中检测拍摄到面部的面部区域的步骤;以及检测状态判定部判定是否是在上述多个图像中连续地检测出上述面部区域的状态的步骤,在上述面部检测部检测上述面部区域的步骤中,当正在进行基于上述第一分辨率的图像数据检测上述面部区域的处理的状态下,上述检测状态判定部判断为状态在连续地检测出上述面部区域的状态和未连续地检测出上述面部区域的状态之间变化的情况下,基于第二分辨率的图像数据从上述多个图像中检测上述面部区域。
另外,本发明的第四方式所涉及的、具备暂时存储由拍摄装置拍摄的图像的图像数据的存储器以及处理存储于上述存储器的图像数据的处理器的电子设备的控制方法包括:面部检测部处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,从上述多个图像中检测拍摄到面部的面部区域的步骤;以及移动量判定部基于从上述多个图像中由上述面部检测部检测出的上述面部区域的位置,来判定上述面部区域的移动量是否在规定的阈值以上的步骤,在上述面部检测部检测上述面部区域的步骤中,在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下使上述面部区域的检测有效。
根据本发明的上述方式,能够高精度地检测使用电子设备的人物。
附图说明
图1是说明第一实施方式所涉及的电子设备的HPD处理的概要的图。
图2是表示面部检测不稳定的状况的一个例子的图。
图3是表示第一实施方式所涉及的面部的检测区域的一个例子的图。
图4是表示第一实施方式所涉及的电子设备的外观的结构例的立体图。
图5是表示第一实施方式所涉及的电子设备的结构例的简要框图。
图6是表示第一实施方式所涉及的人物检测部的结构的一个例子的框图。
图7是表示第一实施方式所涉及的面部检测处理的第一例的流程图。
图8是表示第一实施方式所涉及的面部检测处理的第二例的流程图。
图9是表示第一实施方式所涉及的启动处理的一个例子的流程图。
图10是表示第一实施方式所涉及的待机状态转移处理的一个例子的流程图。
图11是表示第二实施方式所涉及的面部检测处理的第一例的流程图。
图12是表示第二实施方式所涉及的面部检测处理的第二例的流程图。
图13是表示检测范围DR与用户的位置关系的一个例子的图。
图14是说明第三实施方式所涉及的检测范围的移动的图。
图15是表示第三实施方式所涉及的人物检测部的结构的一个例子的图。
图16是表示第三实施方式所涉及的检测范围控制处理的一个例子的流程图。
图17是表示用户以外的人物的面部检测的一个例子的图。
图18是表示第四实施方式所涉及的人物检测部的结构的一个例子的图。
图19是表示第四实施方式所涉及的人物检测处理的一个例子的流程图。
附图标记说明
1…电子设备;10…第一框体;20…第二框体;15…铰链机构;110…显示部;120…拍摄部;130…加速度传感器;140…电源按钮;150…输入设备;151…键盘;153…触摸板;200…EC;210、210A、210B…人物检测部;211、211A、211B…面部检测部;21A…检测范围设定部;21B…移动量判定部;212…检测状态判定部;213、213B…人物判定部;220…动作控制部;300…系统处理部;302…CPU;304…GPU;306…存储器控制器;308…I/O控制器;310…系统存储器;350…通信部;360…存储部;400…电源部。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。
<第一实施方式>
[概要]
首先,对第一实施方式所涉及的电子设备1的概要进行说明。本实施方式所涉及的电子设备1例如是笔记本型PC(Personal Computer:个人计算机)。此外,电子设备1也可以是台式PC、平板终端装置、智能手机等任意形态的电子设备。
电子设备1至少能够在通常动作状态(电源接通状态)与待机状态之间进行转移作为系统的动作状态。通常动作状态是指能够没有特别限制地进行处理的执行的动作状态,例如,相当于由ACPI(Advanced Configuration and Power Interface:高级配置与电源接口)规定的S0状态。待机状态是限制系统处理的至少一部分的状态。例如,待机状态可以是待机(stand-by)状态、睡眠(sleep)状态等,也可以是Windows(注册商标)中的现代待机、相当于由ACPI规定的S3状态(睡眠状态)等的状态。例如,待机状态是与通常动作状态相比电力的消耗量较低的动作状态。
以下,有时将系统的动作状态从待机状态转移至通常动作状态的情况称为启动。在待机状态下,一般而言与通常动作状态相比动作的活性度较低,因此使电子设备1的系统启动是激活电子设备1中的系统的动作。
图1是说明本实施方式所涉及的电子设备1的HPD处理的概要的图。电子设备1检测在电子设备1的附近存在的人物(即用户)。将检测该人物的存在的处理称为HPD(HumanPresence Detection:人体存在检测)处理。电子设备1通过HPD处理检测人物的存在的有无,基于检测结果控制电子设备1的系统的动作状态。例如,如图1的(A)所示,电子设备1在检测到从在电子设备1的前面(正面)不存在人物的状态(Absence)向存在的状态(Presence)的变化、即人物接近电子设备1(Approach)的情况下,判定为用户接近,自动地启动系统并使其转移至通常动作状态。另外,如图1的(B)所示,电子设备1在电子设备1的前面存在人物的状态(Presence)下,判定为存在用户,使通常动作状态持续。而且,如图1的(C)所示,电子设备1在检测到从在电子设备1的前面(正面)存在人物的状态(Presence)向不存在的状态(Absence)的变化、即人物离开电子设备1(Leave)的情况下,判定为用户离开,使系统转移至待机状态。
例如,电子设备1通过进行从拍摄前方(正面侧)得到的拍摄图像检测拍摄有面部的面部区域的面部检测,来判定在电子设备1的前面(正面)是否存在用户。电子设备1在从拍摄图像检测到面部区域的情况下,判定为存在用户。另一方面,电子设备1在从拍摄图像未检测到面部区域的情况下,判定为不存在用户。此处,在从拍摄图像检测面部区域时,根据面部的朝向等有时难以进行面部区域的检测,即使存在人物,也会时而检测出面部区域时而未检测出面部区域,面部检测变得不稳定。参照图2对面部检测不稳定的例子进行说明。
图2是表示面部检测不稳定的状况的一个例子的图。图示的例子按时刻t(1)~t(16)的时间序列的顺序示出电子设备1按规定的时间间隔拍摄的拍摄图像。此处,在用户使用连接于电子设备1的第二显示器的状况下,电子设备1的拍摄图像中映现有用户的侧脸。侧脸与正脸相比成为面部的特征的信息较少,因此难以进行检测。因此,在时刻t(1)~t(16)的拍摄图像中包含检测出面部区域的图像和未检测出面部区域的图像。在该图中,示出从由实线的框包围的时刻t(1)~t(2)、时刻t(6)、时刻t(9)以及时刻t(12)~t(16)的拍摄图像中检测出面部区域,从由虚线包围的时刻t(3)~t(5)、时刻t(7)~t(8)以及时刻t(10)~t(11)的拍摄图像中未检测出面部区域。在这样的情况下,虽然存在使用电子设备1的用户,但面部检测变得不稳定,有可能误检测为用户不存在。
因此,在本实施方式中,电子设备1在从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下(或者,面部检测变得不稳定的情况下),面部检测有可能失败,因此在以后的面部检测中,缩小到此前检测出面部的区域来检测面部区域。具体而言,电子设备1基于以前检测出面部时的面部区域来估计拍摄面部的位置,并放大基于估计出的位置的图像区域来检测面部区域。
图3是表示本实施方式所涉及的面部的检测区域的一个例子的图。附图标记GR1表示拍摄图像的图像区域的整体。附图标记DR表示从拍摄图像检测面部时的检测范围。此外,检测范围DR内的方格示意性表示检测时的分辨率,并不是确定实际检测时的方格的数目(分辨率)。另外,附图标记FD1表示从拍摄图像内的与检测范围DR对应的图像区域检测出面部的面部区域。此处,电子设备1在从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,基于以前检测出的面部区域来估计拍摄面部的位置,并放大基于估计出的位置的图像区域GR2来检测面部区域。电子设备1对放大后的图像区域GR2应用检测范围DR来检测面部区域,因此以更高分辨率检测面部区域。由此,电子设备1能够提高像侧脸等那样难以进行检测的面部的检测精度。此外,在以下的说明中,将对拍摄图像的整体的图像区域GR1应用检测范围DR来检测面部区域仅称为“从拍摄图像检测面部区域”。另外,将对从拍摄图像放大后的图像区域GR2应用检测范围DR来检测面部区域仅称为“从图像区域GR2检测面部区域”。
例如,图像区域GR2被设定为比包括从拍摄图像检测出面部的面部区域FD1的该面部区域FD1宽的区域。作为一个例子,图像区域GR2也可以设为面部区域FD1的120%的区域。另外,图像区域GR2可以基于仅最后(紧前)检测出面部区域时的帧的面部区域FD1来设定,也可以基于检测出面部区域的多个帧的面部区域FD1来设定。多个帧是指例如从最后(紧前)检测出面部区域时的帧到前规定的帧(例如前3帧)的多个帧。在使用多个帧的面部区域FD1的情况下,以包含合并了多个面部区域FD1的区域的方式设定图像区域GR2。
接下来,对本实施方式所涉及的电子设备1的结构进行详细说明。
[电子设备的外观结构]
图4是表示本实施方式所涉及的电子设备1的外观的结构例的立体图。
电子设备1具备:第一框体10、第二框体20以及铰链机构15。第一框体10和第二框体20使用铰链机构15结合。第一框体10能够相对于第二框体20,绕铰链机构15形成的旋转轴相对地转动。将第一框体10和第二框体20的转动形成的张开角度图示为“θ”。
第一框体10也被称为A盖、显示器框体。第二框体20也被称为C盖、系统框体。在以下的说明中,分别将第一框体10和第二框体20的侧面中具备铰链机构15的面称为侧面10c、20c。分别将第一框体10和第二框体20的侧面中与侧面10c、20c相反侧的面称为侧面10a、20a。在图示中,将从侧面20a朝向侧面20c的方向称为“后”,将从侧面20c朝向侧面20a的方向称为“前”。相对于后方分别将右方、左方称为“右”、“左”。分别将第一框体10、第二框体20的左侧面称为侧面10b、20b,分别将右侧面称为侧面10d、20d。另外,将第一框体10与第二框体20重合并完全闭合的状态(张开角度θ=0°的状态)称为“闭合状态”。将在闭合状态下第一框体10与第二框体20的相互面对面的一侧的面称为彼此的“内面”,将与内面相反侧的面称为“外面”。另外,将相对于闭合状态张开了第一框体10和第二框体20的状态称为“张开状态”。
图4所示的电子设备1的外观示出张开状态的例子。张开状态是第一框体10的侧面10a与第二框体20的侧面20a分离的状态。在张开状态下,显出第一框体10和第二框体20各自的内面。张开状态是用户使用电子设备1时的状态之一,典型地大多在张开角度θ=100~130°左右的状态下被使用。此外,能够根据能够通过铰链机构15进行转动的角度的范围等任意地决定成为张开状态的张开角度θ的范围。
在第一框体10的内面设置有显示部110。显示部110构成为包含液晶显示器(LCD:Liquid Crystal Display)、有机EL(Electro Luminescence:电致发光)显示器等。另外,在第一框体10的内面中的显示部110的周边的区域设置有拍摄部120。例如,拍摄部120配置于显示部110的周边的区域中的侧面10a侧。此外,配置拍摄部120的位置是一个例子,只要能够朝向与第一框体10的内面面对面的方向(前方)则也可以是其它场所。
在张开状态下,拍摄部120拍摄与第一框体10的内面面对面的方向(前方)的规定的拍摄范围。规定的拍摄范围是指由拍摄部120具有的拍摄元件和设置于拍摄元件的拍摄面的前方的光学透镜决定的视角的范围。例如,拍摄部120能够拍摄包含存在于电子设备1的前面(正面)的人物的图像。
另外,在第二框体20的侧面20b设置有电源按钮140。电源按钮140是用于用户指示系统的启动(从待机状态向通常动作状态转移)、从通常动作状态向待机状态的转移的操作件。另外,在第二框体20的内面设置有键盘151以及触摸板153作为输入设备。此外,作为输入设备,可以代替键盘151以及触摸板153或者在键盘151以及触摸板153的基础上包含触摸传感器,也可以连接鼠标、外置的键盘。在设置有触摸传感器的结构的情况下,也可以构成为与显示部110的显示面对应的区域接受操作的触摸面板。另外,也可以在输入设备中包含输入声音的麦克风。
此外,在第一框体10与第二框体20闭合的闭合状态下,设置于第一框体10的内面的显示部110及拍摄部120、和设置于第二框体20的内面的键盘151及触摸板153相互被另一方的框体面覆盖,成为不能发挥功能的状态。
[电子设备的结构]
图5是表示本实施方式所涉及的电子设备1的结构例的简要框图。电子设备1构成为包含:显示部110、拍摄部120、加速度传感器130、电源按钮140、输入设备150、EC(Embedded Controller:嵌入式控制器)200、人物检测部210、系统处理部300、通信部350、存储部360以及电源部400。显示部110显示基于由系统处理部300执行的系统处理以及在系统处理上动作的应用程序的处理等而生成的显示数据(图像)。
拍摄部120拍摄与第一框体10的内面面对面的方向(前方)的规定的视角内的物体的像,并将拍摄到的图像输出给系统处理部300以及人物检测部210。拍摄部120可以是红外线相机,也可以是通常的相机。红外线相机是具备红外线传感器作为拍摄元件的相机。通常的相机是具备接受可见光线的可见光传感器作为拍摄元件的相机(例如,RGB相机)。此外,在通常的相机的情况下,使用于面部检测时的拍摄图像也可以设为减少了颜色数的图像(例如,单色图像)。
加速度传感器130检测电子设备1的活动,并将表示检测结果的检测信号输出给EC200。例如,在电子设备1移动时、电子设备1被手持而不稳定地移动时等,加速度传感器130根据其活动来输出检测信号。此外,也可以代替加速度传感器130或在加速度传感器130的基础上具备陀螺传感器、倾斜传感器、地磁传感器等。
电源按钮140根据用户的操作将操作信号输出给EC200。输入设备150是接受用户的输入的输入部,例如构成为包含键盘151以及触摸板153。输入设备150响应于接受对键盘151以及触摸板153的操作,将表示操作内容的操作信号输出给EC200。
电源部400根据电子设备1的各部的动作状态经由用于向各部供给电力的电源系统供给电力。电源部400具备DC(Direct Current:直流)/DC转换器。DC/DC转换器将从AC(Alternate Current:交流)/DC适配器或电池组供给的直流电力的电压转换为各部所要求的电压。在DC/DC转换器对电压进行了转换后的电力经由各电源系统被供给到各部。例如,电源部400基于与从EC200输入的各部的动作状态相应的控制信号经由各电源系统对各部供给电力。
EC200是构成为包含CPU(Central Processing Unit:中央处理器)、RAM(RandomAccess Memory:随机存取存储器)、ROM(Read Only Memory:只读存储器)以及I/O(Input/Output:输入输出)逻辑电路等的微型计算机。EC200的CPU读出预先存储于本部的ROM的控制程序(固件),并执行读出的控制程序,发挥其功能。EC200与系统处理部300独立地进行动作,控制系统处理部300的动作,管理其动作状态。另外,EC200与加速度传感器130、电源按钮140、输入设备150、人物检测部210以及电源部400等连接。
例如,EC200通过与电源部400进行通信,而从电源部400获取电池的状态(剩余容量等)的信息,并且将用于控制与电子设备1的各部的动作状态相应的电力的供给的控制信号等输出给电源部400。另外,EC200从电源按钮140、输入设备150获取操作信号,并将获取到的操作信号中与系统处理部300的处理相关的操作信号输出给系统处理部300。另外,EC200基于来自加速度传感器130的检测信号来检测电子设备1的动作。例如,EC200基于来自加速度传感器130的检测信号,来检测电子设备1是静止的状态还是移动的状态等。另外,EC200具备动作控制部220,该动作控制部基于人物检测部210的检测结果来控制系统的动作。
人物检测部210是处理由拍摄部120拍摄的拍摄图像的图像数据的处理器。例如,人物检测部210经由系统处理部300获取由拍摄部120拍摄的拍摄图像。此外,人物检测部210也可以从拍摄部120直接获取由拍摄部120拍摄的拍摄图像。人物检测部210通过从拍摄图像检测面部区域而检测用户的存在,并基于检测结果执行HPD处理。
人物检测部210通过从由拍摄部120拍摄的拍摄图像检测面部区域,从而检测在电子设备1的前方是否存在用户。例如,人物检测部210在用户接近电子设备1的情况下,检测状态从在电子设备1的前方不存在用户的状态变化为存在的状态。另外,人物检测部210在用户在电子设备1的前面使用电子设备1的情况下,持续检测出在电子设备1的前方存在用户的状态。另外,人物检测部210在用户离开电子设备1的情况下,检测状态从在电子设备1的前方存在用户的状态变化为不存在的状态。这样,人物检测部210通过检测在电子设备1的前方是否存在用户,从而能够检测用户接近电子设备1(Approach)、在电子设备1的前面存在用户的状态(Presence)、用户离开电子设备1(Leave)、在电子设备1的前面不存在用户的状态(Absence)等。对该人物检测部210的结构进行详细后述。
动作控制部220根据HPD处理来控制系统的动作状态。例如,动作在待机状态下,在由人物检测部210检测出从在电子设备1的前方不存在用户的状态向存在的状态的变化(即,用户向电子设备1接近)的情况下,控制部220使待机状态的系统启动。具体而言,在由人物检测部210检测出用户接近电子设备1的情况下,动作控制部220对系统处理部300进行启动系统的指示。更具体而言,动作控制部220在使系统启动的情况下,对电源部400输出用于供给电子设备1的各部的动作所需的电力的控制信号。然后,动作控制部220向系统处理部300输出用于指示系统的启动的启动信号。系统处理部300若获取启动信号,则启动系统并使其从待机状态转移至通常动作状态。
另外,动作控制部220在由人物检测部210持续检测出在电子设备1的前方存在用户的状态的情况下,由系统处理部300限制系统不使其转移至待机状态,使通常动作状态持续。此外,即使在由人物检测部210持续检测出存在用户的状态的情况下,动作控制部220也可以通过规定的条件从通常动作状态转移至待机状态。规定的条件例如是指无操作的时间持续了预先设定的时间、进行转移至待机状态的操作等。
另外,动作控制部220在通常动作中,在由人物检测部210检测出从在电子设备1的前方存在用户的状态向不存在的状态的变化(即,用户从电子设备1离开)的情况下,向系统处理部300进行使系统从通常动作状态转移至待机状态的指示。更具体而言,动作控制部220向系统处理部300输出用于进行使系统从通常动作状态转移至待机状态的指示的待机信号。系统处理部300若获取待机信号,则使系统从通常动作状态转移至待机状态。然后,动作控制部220对电源部400输出用于使待机状态下不需要的电力的供给停止的控制信号。
系统处理部300构成为包含:CPU(Central Processing Unit:中央处理器)302、GPU(Graphic Processing Unit:图形处理器)304、存储器控制器306、I/O(Input-Output:输入输出)控制器308以及系统存储器310,能够通过基于OS(Operating System:操作系统)的系统处理,在OS上执行各种应用程序的处理。有时将CPU302和GPU304总称为处理器。
CPU302执行基于OS的处理、基于在OS上动作的应用程序的处理。另外,CPU302基于由EC200(动作控制部220)进行的系统的动作状态的控制使系统的动作状态转移。例如在动作状态为待机状态、从EC200输入了启动信号的情况下,CPU302执行从待机状态转移至通常动作状态的启动处理。CPU302在完成启动处理之后,开始基于OS的系统处理的执行。例如,若动作状态为待机状态、从EC200输入了启动信号,则CPU302重新开始停止执行的应用程序等的执行。
CPU302在启动处理中,执行判定是否允许OS的利用的登录处理。CPU302若开始基于OS的启动处理,则在允许OS的利用之前执行登录处理,到登录处理中允许登录为止,暂时停止向通常动作状态的转移。在登录处理中,进行判定使用电子设备1的人物是否是预先登记的正规的用户的用户认证处理。认证有密码认证、面部认证、指纹认证等。CPU302在认证结果成功的情况下,允许登录,重新开始暂时停止的系统处理的执行。另一方面,在认证结果失败的情况下,不允许登录,保持停止系统处理的执行的状态。
GPU304与显示部110连接。GPU304基于CPU302的控制执行图像处理来生成显示数据。GPU304将生成的显示数据输出给显示部110。此外,CPU302和GPU304可以一体化而形成为一个核心,也可以在各个作为核心形成的CPU302和GPU304的彼此之间分担负荷。处理器的数目并不限定于一个,也可以是多个。
存储器控制器306控制CPU302和GPU304从系统存储器310、存储部360等的数据的读出、写入。
I/O控制器308控制从通信部350、显示部110以及EC200的数据的输入输出。
系统存储器310作为处理器的执行程序的读入区域以及写入处理数据的工作区使用。另外,系统存储器310暂时存储由拍摄部120拍摄的拍摄图像的图像数据。
通信部350经由无线或者有线的通信网络以能够进行通信的方式与其它设备连接,进行各种数据的发送以及接收。例如,通信部350构成为包含以太网(注册商标)等有线LAN接口、Wi-Fi(注册商标)等无线LAN接口等。
存储部360构成为包含HDD(Hard Disk Drive:硬盘驱动器)、SDD(Solid StateDrive:固态驱动器)、RAM、ROM等存储介质。存储部360除了OS、设备驱动程序、应用等各种程序之外,还存储通过程序的动作获取的各种数据。
[人物检测部的结构]
接下来,对人物检测部210的结构进行详细说明。人物检测部210通过从以规定的时间间隔由拍摄部120拍摄的每个拍摄图像中检测面部区域,从而检测在电子设备1的前方存在的用户。
图6是表示本实施方式所涉及的人物检测部210的结构的一个例子的框图。图示的人物检测部210具备:面部检测部211、检测状态判定部212以及人物判定部213。
面部检测部211从按规定的时间间隔拍摄的每个拍摄图像中检测面部区域。例如,面部检测部211处理由拍摄部120按规定的时间间隔拍摄并存储于系统存储器310的多个图像的图像数据,从该多个图像检测中拍摄到面部的面部区域。作为面部的检测方法,能够应用使用了根据面部的特征信息检测面部的面部检测算法、根据面部的特征信息进行机器学习的学习数据(学习完毕模型)、面部检测库等的任意的检测方法。另外,规定的时间间隔可以设为例如15秒间隔或者10秒间隔等,但能够设定为任意的时间间隔。此外,在最短的时间间隔的情况下,以连续的所有帧为单位进行检测。
面部检测部211从每个拍摄图像检测面部区域,输出包含检测出的面部区域的面部检测信息。此外,也可以在面部检测信息中包含面部区域的中心坐标。面部检测部211在从拍摄图像检测出面部区域的情况下,将包含面部区域的面部检测信息与该拍摄图像的时刻信息(帧信息)建立关联地存储。另外,面部检测部211在从拍摄图像未检测出面部区域的情况下,将表示未检测出面部区域的面部未检测信息与该拍摄图像的时刻信息(帧信息)建立关联地存储。也就是说,面部检测部211存储面部区域的检测结果的历史。
另外,面部检测部211在从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像检测面部区域时,放大基于以前从拍摄图像检测出的面部区域FD1的图像区域GR2(参照图3)来检测面部区域。此外,面部检测部211能够从面部区域的检测结果的历史获取以前从拍摄图像检测出的面部区域FD1。此外,面部检测部211也可以在由检测状态判定部212判定为面部检测不稳定的情况下,在以后从拍摄图像检测面部区域时,放大图像区域GR2来检测面部区域。
另外,面部检测部211在从每个拍摄图像以降低了分辨率的低分辨率(第一分辨率)检测面部区域,从以低分辨率从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像放大图像区域GR2来检测面部区域时,以高分辨率(第二分辨率)检测面部区域。即,面部检测部211使用从拍摄图像以低分辨率检测面部的检测模式、和放大拍摄图像的图像区域GR2以高分辨率检测面部区域的检测模式这两种检测模式来进行面部检测。通常,通过从拍摄图像以低分辨率检测面部区域,从而能够减少功率消耗、抑制对其它处理的影响。
另外,面部检测部211在无法从图像区域GR2检测出面部区域的情况下,视为人物移动,结束从图像区域GR2的面部区域的检测,返回到从拍摄图像的面部区域的检测。例如,面部检测部211在以高分辨率从图像区域GR2未能检测出面部区域的情况下,结束从图像区域GR2的面部区域的检测,返回到从拍摄图像以低分辨率的面部区域的检测。
检测状态判定部212基于面部区域的检测结果的历史(面部检测信息以及面部未检测信息)来判定面部检测是否不稳定。此处,面部检测稳定的状态(即,面部检测不是不稳定的状态)是指在由拍摄部120按规定的时间间隔拍摄并存储于系统存储器310的多个拍摄图像连续地检测出面部区域的状态。另一方面,面部检测不稳定的状态是指在由拍摄部120按规定的时间间隔拍摄并存储于系统存储器310的多个拍摄图像中未连续地检测出面部区域的状态。该“未连续地检测出面部区域的状态”意味着不是连续地持续检测出面部区域的状态(即,面部区域的检测是断续的),并不意味着未检测出面部区域的状态连续地持续的状态。例如,“未连续地检测出面部区域的状态”是在按规定的时间间隔拍摄的拍摄图像中,以规定的比例包含由面部检测部211检测出面部区域的图像和未检测出面部区域的图像的双方的状态。
当正在进行基于低分辨率的图像数据检测面部区域的处理的状态下,判断为状态在连续地检测出面部区域的状态和未连续地检测出面部区域的状态之间变化的情况下,检测状态判定部212也可以判定为面部检测不稳定。例如,检测状态判定部212也可以基于从拍摄图像连续地检测出面部区域的状态变成未连续地检测出面部区域的状态,判定为面部检测不稳定。例如,检测状态判定部212也可以基于在规定期间按规定的时间间隔拍摄的拍摄图像中包含由面部检测部211检测出面部区域的图像和未检测出面部区域的图像的双方,判定为面部检测不稳定。该情况下,检测状态判定部212可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像的比例而判定为面部检测不稳定,也可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像重复而判定为面部检测不稳定。
而且,面部检测部211也可以在从每个拍摄图像以降低了分辨率的低分辨率检测面部区域,并判定为以低分辨率从拍摄图像的面部检测不稳定的情况下,以后从拍摄图像放大图像区域GR2而以高分辨率检测面部区域。
[面部检测处理的动作]
此处,参照图7,对面部检测处理的动作进行说明。
图7是表示本实施方式所涉及的面部检测处理的第一例的流程图。此处,对以从拍摄图像未检测出面部区域为触发,放大图像区域GR2来检测面部区域的处理的动作进行说明。
(步骤S101)面部检测部211从按规定的时间间隔由拍摄部120拍摄的每个拍摄图像检测面部区域。例如,面部检测部211从第n帧的拍摄图像检测面部区域(n为1以上的整数)。然后,进入步骤S103的处理。此时,面部检测部211以低分辨率从拍摄图像检测面部区域。
(步骤S103)面部检测部211判定在步骤S101中是否从拍摄图像检测出面部区域。面部检测部211在判定为从拍摄图像检测出面部区域的情况下(是),将包含检测出的面部区域、面部的中心坐标的面部检测信息作为面部检测结果的历史进行存储,返回到步骤S101的处理。然后,在步骤S101中,面部检测部211从下一帧的拍摄图像(第n+1帧的拍摄图像)检测面部区域。另一方面,面部检测部211在步骤S103中判定为从拍摄图像未检测出面部区域的情况下(否),进入步骤S107的处理。
(步骤S107)面部检测部211从面部区域的检测结果的历史获取以前从拍摄图像检测出的面部区域FD1,估计面部的位置(拍摄面部的位置)。然后,进入步骤S109的处理。
(步骤S109)在以后的帧中,面部检测部211放大基于估计出的面部的位置(拍摄面部的位置)的图像区域GR2来检测面部区域。此时,面部检测部211以高分辨率从拍摄图像检测面部区域。然后,进入步骤S111的处理。
(步骤S111)面部检测部211判定在步骤S109中是否从拍摄图像检测出面部区域。面部检测部211在判定为从拍摄图像检测出面部区域的情况下(是),将包含检测出的面部区域、面部的中心坐标的面部检测信息作为面部检测结果的历史进行存储。而且,面部检测部211返回到步骤S109,从下一帧的拍摄图像放大图像区域GR2并以高分辨率检测面部。另一方面,面部检测部211在步骤S111中判定为未检测出面部区域的情况下(否),返回到步骤S101的处理。即,面部检测部211在以高分辨率从图像区域GR2未能检测出面部区域的情况下,结束从图像区域GR2的面部区域的检测,返回到以低分辨率从拍摄图像的面部区域的检测。
接下来,参照图8,对以面部检测不稳定为触发,放大图像区域GR2来检测面部区域的处理的动作进行说明。
图8是表示本实施方式所涉及的面部检测处理的第二例的流程图。在该图中,对于与图7的各处理对应的处理标注相同的附图标记,省略其说明。在图8所示的面部检测处理中,在步骤S103中判定为从拍摄图像未检测出面部区域的情况下(否),进入步骤S105的处理。
(步骤S105)检测状态判定部212判定面部检测是否不稳定。例如,检测状态判定部212可以基于从拍摄图像连续地检测出面部区域的状态到未检测出面部区域,判定为面部检测不稳定。另外,检测状态判定部212也可以基于在规定期间按规定的时间间隔拍摄的拍摄图像中包含由面部检测部211检测出面部区域的图像和未检测出面部区域的图像的双方,判定为面部检测不稳定。该情况下,检测状态判定部212可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像的比例,判定为面部检测不稳定,也可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像重复,判定为面部检测不稳定。
检测状态判定部212在步骤S105中判定为面部检测不稳定的情况下(是),进入步骤S107的处理。然后,面部检测部211估计面部的位置(拍摄面部的位置)(步骤S107),在以后的帧中,放大基于估计出的位置的图像区域GR2并以高分辨率检测面部(步骤S109)。另一方面,检测状态判定部212在步骤S105中判定为面部检测稳定的情况下(否),返回到步骤S101的处理。
返回到图6,人物判定部213基于是否由面部检测部211从拍摄图像检测出面部区域,来判定在电子设备1的前方是否存在用户。例如,在由面部检测部211从拍摄图像检测出面部区域的情况下,人物判定部213判定为在电子设备1的前方存在用户。另一方面,在由面部检测部211从拍摄图像未检测出面部区域的情况下,人物判定部213判定为在电子设备1的前方不存在用户。此外,人物判定部213也可以在由面部检测部211从拍摄图像检测出面部区域的情况下,判定从按规定的时间间隔拍摄的每个拍摄图像检测出的面部是否有活动,在有活动的情况下,判定为存在用户。人物判定部213也可以在判定为检测出的面部没有活动的情况下,将该面部作为检测出海报、照片等的面部的面部,判定为不存在用户。
通过这样的结构,人物检测部210检测在电子设备1的前方存在的用户。另外,人物检测部210通过检测在电子设备1的前方是否存在用户,从而检测从在电子设备1的前方不存在用户的状态向存在的状态的变化(即,用户向电子设备1接近)。另外,人物检测部210通过检测在电子设备1的前方是否存在用户,从而检测从在电子设备1的前方存在用户的状态向不存在用户的状态的变化(即,用户从电子设备1离开)。
[动作状态控制处理的动作]
接下来,对基于上述的使用了面部检测的HPD处理的结果来控制系统的动作状态的动作状态控制处理的动作进行说明。首先,对动作控制部220通过利用HPD处理检测出用户接近电子设备1而启动系统的启动处理的动作进行说明。
图9是表示本实施方式所涉及的启动处理的一个例子的流程图。此处,电子设备1以张开状态放置在桌上等,设为待机状态。
(步骤S201)动作控制部220判定是否检测出用户向电子设备1接近。动作控制部220在判定为由人物检测部210检测出从在电子设备1的前方不存在用户的状态向存在的状态的变化(即,用户向电子设备1接近)的情况下(是),进入步骤S203的处理。另一方面,动作控制部220在判定为由人物检测部210检测出不存在用户的状态(即,用户未向电子设备1接近)的情况下(否),再次进行步骤S201的处理。
(步骤S203)动作控制部220使系统处理部300的系统启动。具体而言,动作控制部220在使系统处理部300的系统启动的情况下,对电源部400输出用于供给电子设备1的各部的动作所需要的电力的控制信号。另外,动作控制部220向系统处理部300输出用于指示系统的启动的启动信号。系统处理部300若获取启动信号,则开始启动处理。然后,进入步骤S205的处理。
(步骤S205)系统处理部300执行登录处理(认证处理)。例如,系统处理部300执行基于密码认证、面部认证、指纹认证等的登录处理,进入步骤S207的处理。
(步骤S207)系统处理部300判定认证结果是否成功。系统处理部300在判定为认证结果成功的情况下(是),进入步骤S209的处理。另一方面,系统处理部300在判定为认证结果失败的情况下(否),进入步骤S213的处理。
(步骤S209)系统处理部300在认证结果成功的情况下通知登录成功的意旨(例如,显示于显示部110),继续启动处理。然后,进入步骤S211的处理。
(步骤S211)系统处理部300完成登录处理,使系统的动作状态转移至通常动作状态。
(步骤S213)系统处理部300在认证结果失败的情况下通知登录失败的意旨(例如,显示于显示部110),返回到步骤S205的认证处理。此外,系统处理部300在规定的次数的认证处理连续失败的情况下,也可以中止认证处理,转移至不可登录的状态。
接下来,对动作控制部220通过检测到用户离开电子设备1而使系统从通常动作状态转移至待机状态的待机状态转移处理的动作进行说明。
图10是表示本实施方式所涉及的待机状态转移处理的一个例子的流程图。此处,电子设备1以张开状态放置在桌上等,设为通常动作状态。
(步骤S251)动作控制部220判定是否检测到用户离开电子设备1。在由人物检测部210检测到从存在用户的状态向不存在用户的状态的变化(即,用户从电子设备1离开)的情况下(是),动作控制部220进入步骤S253的处理。另一方面,动作控制部220在判定为由人物检测部210检测到存在用户的状态(即,用户未从电子设备1离开)的情况下(否),再次进行步骤S251的处理。
(步骤S253)动作控制部220使系统处理部300的系统的动作状态从通常动作状态转移至待机状态。具体而言,动作控制部220向系统处理部300输出用于进行使系统转移至待机状态的指示的待机信号。系统处理部300若获取待机信号,则使系统的动作状态从通常动作状态转移至待机状态。另外,动作控制部220对电源部400输出用于使在待机状态下不需要的电力的供给停止的控制信号。
[第一实施方式的总结]
如以上说明那样,本实施方式所涉及的电子设备1在从按规定的时间间隔拍摄的每个拍摄图像检测面部区域,并且从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像检测面部区域时,放大基于以前从拍摄图像检测出的面部区域的图像区域GR2(特定区域的一个例子)来检测面部区域。
由此,即使是像侧脸等那样难以进行检测的面部,电子设备1也能够提高检测率,因此能够高精度地检测使用电子设备1的用户。另外,电子设备1仅在从连续地检测出面部区域的状态到未检测出面部区域的情况下,放大图像区域GR2来检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,电子设备1也可以基于从拍摄图像连续地检测出面部区域的状态到未检测出面部区域,判定为面部检测不稳定,在判定为面部检测不稳定的情况下,在以后从拍摄图像检测面部区域时,放大图像区域GR2来检测面部区域。
由此,电子设备1能够在面部检测变得不稳定的情况下提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在判定为面部检测不稳定的情况下放大图像区域GR2来检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
例如,电子设备1也可以基于在规定期间按规定的时间间隔拍摄的拍摄图像包含检测出面部区域的图像和未检测出面部区域的图像的双方,判定为面部检测不稳定。由此,电子设备1能够在面部检测变得不稳定的情况下提高检测率。
另外,电子设备1在无法从图像区域GR2检测出面部区域的情况下,结束从图像区域GR2的面部区域的检测,返回到从拍摄图像的面部区域的检测。
由此,电子设备1在无法从图像区域GR2检测出面部区域时,视为人物移动,复位面部的检测区域,因此能够高精度地检测使用电子设备1的人物(用户)。
另外,电子设备1也可以在从每个拍摄图像以降低了分辨率的低分辨率(第一分辨率)检测面部区域,从以低分辨率从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像放大图像区域GR2来检测面部区域时,以高于第一分辨率的分辨率(第二分辨率)来检测面部区域。
由此,即使是像侧脸等那样难以进行检测的面部,电子设备1也能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在从连续地检测出面部区域的状态到未检测出面部区域的情况下以高分辨率检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,电子设备1在以高分辨率从图像区域GR2未能检测出面部区域的情况下,结束从图像区域GR2的面部区域的检测,返回到从拍摄图像以低分辨率的面部区域的检测。
由此,电子设备1在即使以高分辨率从图像区域GR2也未能检测出面部区域时,视为用户移动,复位面部的检测区域,因此能够高精度地检测使用电子设备1的人物(用户)。
另外,本实施方式所涉及的电子设备1的控制方法包括:从按规定的时间间隔拍摄的每个拍摄图像检测面部区域的步骤;以及在从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像检测面部区域时,放大基于以前从拍摄图像检测时的面部区域的图像区域GR2来检测面部区域的步骤。
由此,即使是像侧脸等那样难以进行检测的面部,电子设备1也能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在从连续地检测出面部区域的状态到未检测出面部区域的情况下放大图像区域GR2来检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,本实施方式所涉及的电子设备1具备:系统存储器310(存储器的一个例子),暂时存储由拍摄部120(拍摄装置的一个例子)拍摄的图像(拍摄图像)的图像数据;以及人物检测部210(处理器的一个例子),处理存储于系统存储器310的图像数据。人物检测部210处理由拍摄部120按规定的时间间隔拍摄并存储于系统存储器310的多个拍摄图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从多个拍摄图像中检测拍摄到面部的面部区域。另外,人物检测部210判定是否是在多个拍摄图像中连续地检测出面部区域的状态,当正在进行基于第一分辨率的图像数据检测面部区域的处理的状态下,判断为状态在连续地检测出面部区域的状态和未连续地检测出面部区域的状态之间变化的情况下,基于第二分辨率的图像数据从多个拍摄图像中检测拍摄到面部的面部区域。
由此,电子设备1根据面部的检测状态变更分辨率进行检测,从而能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。
例如,基于在规定期间按上述规定的时间间隔拍摄的多个拍摄图像中以规定的比例包含检测出面部区域的图像和未检测出面部区域的图像的双方,人物检测部210判定为是未连续地检测出面部区域的状态。
由此,即使在像侧脸等那样难以进行检测的面部且面部检测变得不稳定的情况下,电子设备1通过变更分辨率进行检测,也能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。
另外,上述第一分辨率是比上述第二分辨率低的分辨率。当正在执行基于第一分辨率的图像数据检测面部区域的低分辨率模式的处理的状态下,判断为状态从连续地检测出面部区域的状态变化为未连续地检测出面部区域的状态的情况下,人物检测部210以高分辨率模式执行处理,在该高分辨率模式中,基于特定区域(例如,图像区域GR2)中的第二分辨率的图像数据进行面部区域的检测,该特定区域相当于在低分辨率模式的处理中检测出的面部区域的位置。
由此,在像侧脸等那样难以进行检测的面部且面部检测变得不稳定的情况下,电子设备1能够以高分辨率模式进行检测从而提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在面部检测变得不稳定的情况下以高分辨率模式进行检测,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,人物检测部210在以高分辨率模式从特定区域(例如,图像区域GR2)未能检测出面部区域的情况下,以低分辨率模式执行面部区域的检测。
由此,电子设备1在以高分辨率模式从特定区域(例如,图像区域GR2)未能检测出面部区域时,视为用户移动,返回到低分辨率模式下的处理,因此能够抑制浪费地消耗电力、对其它处理的负荷。
<第二实施方式>
接下来,对本发明的第二实施方式进行说明。
在第一实施方式中,对在从拍摄图像未检测出面部区域的情况、面部检测变得不稳定的情况下,放大面部区域以高分辨率检测面部区域的方式进行了说明,但也可以不放大面部区域而以高分辨率检测面部区域。在本实施方式中,电子设备1通常在从拍摄图像检测面部区域时使用低分辨率的图像进行检测,在从拍摄图像未检测出面部区域的情况、面部检测变得不稳定的情况下,使用高分辨率的图像进行面部区域的检测。
以下,将使用低分辨率的图像检测面部区域的检测模式称为“低分辨率模式”。在低分辨率模式中,处理负荷较小且抑制功率消耗,反之,由于分辨率较低,因此有时无法检测出像侧脸等那样难以进行检测的面部区域。另外,以下,将使用高分辨率的图像检测面部区域的检测模式称为“高分辨率模式”。高分辨率模式与低分辨率模式相比分辨率较高,因此存在即使以低分辨率模式未能检测出面部区域,也能够在高分辨率模式下检测出面部区域的情况。
此外,高分辨率的图像和低分辨率的图像的获取方法可以考虑各种方法。在使用能够输出高分辨率的图像和低分辨率的图像的双方的拍摄部120的情况下,可以构成为根据状况指示拍摄部120输出哪一个图像。或者,在使用能够同时输出高分辨率的图像和低分辨率的图像的双方的拍摄部120的情况下,也可以构成为根据状况选择根据状况从拍摄部120输出的图像的任意一个作为处理对象的图像。也可以构成为,在此基础上或者与这些不同,通过对从拍摄部120输出的图像的图像数据进行降低分辨率的事先处理,从而获取处理对象的低分辨率的图像。
本实施方式所涉及的电子设备1的基本结构与图4~6所示的第一实施方式的结构同样,省略其说明。在本实施方式中,对面部检测部211切换低分辨率模式和高分辨率模式的处理进行说明。
面部检测部211以低分辨率模式或者高分辨率模式从拍摄图像检测面部区域。面部检测部211设定为低分辨率模式作为初始设定,并以低分辨率模式从每个拍摄图像检测面部区域。面部检测部211在从以低分辨率模式从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像检测面部区域时以高分辨率模式检测面部区域。另外,面部检测部211在以高分辨率模式未检测出面部区域的情况下,从高分辨率模式返回到低分辨率模式。
图11是表示本实施方式所涉及的面部检测处理的第一例的流程图。此处,对以从拍摄图像未检测出面部区域为触发,从低分辨率模式切换至高分辨率模式来检测面部区域的处理的动作进行说明。
(步骤S301)面部检测部211将检测模式设定为低分辨率模式,进入步骤S303的处理。
(步骤S303)面部检测部211从按规定的时间间隔由拍摄部120拍摄的每个拍摄图像的以低分辨率模式检测面部区域。例如,面部检测部211从第n帧的拍摄图像检测面部区域(n为1以上的整数)。然后,进入步骤S305的处理。
(步骤S305)面部检测部211判定在步骤S303中是否从拍摄图像检测出面部区域。面部检测部211在判定为从拍摄图像检测出面部区域的情况下(是),将包含检测出的面部区域、面部区域的中心坐标的面部检测信息作为面部检测结果的历史进行存储,返回到步骤S303的处理。然后,在步骤S303中,面部检测部211从下一帧的拍摄图像(第n+1帧的拍摄图像)以低分辨率模式检测面部区域。另一方面,面部检测部211在步骤S305中判定为从拍摄图像未检测出面部区域的情况下(否),进入步骤S309的处理。
(步骤S309)面部检测部211将检测模式设定为高分辨率模式,进入步骤S311的处理。
(步骤S311)在以后的帧中,面部检测部211以高分辨率模式从拍摄图像检测面部区域。然后,进入步骤S313的处理。
(步骤S313)面部检测部211判定在步骤S311中是否从拍摄图像检测出面部区域。面部检测部211在判定为从拍摄图像检测出面部区域的情况下(是),将包含检测出的面部区域、面部区域的中心坐标的面部检测信息作为面部检测结果的历史进行存储。然后,面部检测部211返回到步骤S311,从下一帧的拍摄图像以高分辨率模式检测面部区域。另一方面,面部检测部211在步骤S313中判定为未检测出面部区域的情况下(否),返回到步骤S301的处理。即,面部检测部211在以高分辨率模式未能检测出面部区域的情况下,结束高分辨率模式,返回到低分辨率模式。
接下来,参照图12,对以面部检测不稳定为触发,从低分辨率模式切换至高分辨率模式来检测面部区域的处理的动作进行说明。
图12是表示本实施方式所涉及的面部检测处理的第二例的流程图。在该图中,对于与图11的各处理对应的处理标注相同的附图标记,省略其说明。在图12所示的面部检测处理中,在步骤S305中判定为从拍摄图像未检测出面部区域的情况下(否),进入步骤S307的处理。
(步骤S307)检测状态判定部212判定面部检测是否不稳定。例如,检测状态判定部212可以基于从拍摄图像连续地检测出面部区域的状态到未检测出面部区域,判定为面部检测不稳定。另外,检测状态判定部212也可以基于在规定期间按规定的时间间隔拍摄的拍摄图像中包含由面部检测部211检测出面部区域的图像和未检测出面部区域的图像的双方,判定为面部检测不稳定。该情况下,检测状态判定部212可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像的比例,判定为面部检测不稳定,也可以基于在规定期间检测出面部区域的图像和未检测出面部区域的图像重复,判定为面部检测不稳定。
检测状态判定部212在步骤S307中判定为面部检测不稳定的情况下(是),进入步骤S309的处理,将检测模式设定为高分辨率模式。然后,面部检测部211在以后的帧中,以高分辨率模式从拍摄图像检测面部区域(步骤S311)。另一方面,检测状态判定部212在步骤S307中判定为面部检测稳定的情况下(否),返回到步骤S303的处理。
[第二实施方式的总结]
如以上说明那样,本实施方式所涉及的电子设备1在从每个拍摄图像以降低了分辨率的低分辨率模式检测面部区域,从以低分辨率模式从拍摄图像连续地检测出面部区域的状态到未检测出面部区域的情况下,在以后从拍摄图像检测面部区域时以高分辨率模式检测面部区域。
由此,即使是像侧脸等那样难以进行检测的面部,电子设备1也能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在从连续地检测出面部区域的状态到未检测出面部区域的情况下以高分辨率模式检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,电子设备1也可以在判定为在低分辨率模式下面部检测不稳定的情况下,在以后从拍摄图像检测面部区域时,以高分辨率模式检测面部区域。
由此,电子设备1能够在面部检测变得不稳定的情况下提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在判定为面部检测不稳定的情况下以高分辨率模式检测面部区域,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,电子设备1在以高分辨率模式从拍摄图像未能检测出面部区域的情况下,结束高分辨率模式下的面部区域的检测,返回到低分辨率模式下的面部区域的检测。
由此,在即使以高分辨率模式也未能检测出面部区域时,电子设备1视为人物从电子设备1的前方离开,返回到低分辨率模式,因此能够不会浪费地消耗电力,并且能够抑制对其它处理的影响。
另外,本实施方式所涉及的电子设备1具备:系统存储器310(存储器的一个例子),暂时存储由拍摄部120(拍摄装置的一个例子)拍摄的图像(拍摄图像)的图像数据;以及人物检测部210(处理器的一个例子),处理存储于系统存储器310的图像数据。人物检测部210处理由拍摄部120按规定的时间间隔拍摄并存储于系统存储器310的多个拍摄图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从多个拍摄图像中检测拍摄到面部的面部区域。另外,人物检测部210判定是否是在多个拍摄图像中连续地检测出面部区域的状态,当正在进行基于第一分辨率的图像数据检测面部区域的处理的状态下,判断为状态在连续地检测出面部区域的状态和未连续地检测出面部区域的状态之间变化的情况下,基于第二分辨率的图像数据从多个拍摄图像中检测拍摄到面部的面部区域。
由此,电子设备1根据面部的检测状态变更分辨率进行检测,从而能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。
例如,基于在规定期间按上述规定的时间间隔拍摄的多个拍摄图像中以规定的比例包含检测出面部区域的图像和未检测出面部区域的图像的双方,人物检测部210判定为是未连续地检测出面部区域的状态。
由此,即使在像侧脸等那样难以进行检测的面部且面部检测变得不稳定的情况下,电子设备1通过变更分辨率进行检测,也能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。
另外,上述第一分辨率是比上述第二分辨率低的分辨率。当正在执行基于第一分辨率的图像数据检测面部区域的低分辨率模式的处理的状态下,判断为状态从连续地检测出面部区域的状态变化为未连续地检测出面部区域的状态的情况下,人物检测部210以高分辨率模式执行处理,在该高分辨率模式中,基于特定区域(例如,图像区域GR2)中的第二分辨率的图像数据进行面部区域的检测,该特定区域相当于在低分辨率模式的处理中检测出的面部区域的位置。
由此,在像侧脸等那样难以进行检测的面部且面部检测变得不稳定的情况下,电子设备1通过以高分辨率模式进行检测,从而能够提高检测率,因此能够高精度地检测使用电子设备1的人物(用户)。另外,电子设备1仅在面部检测变得不稳定的情况下以高分辨率模式进行检测,因此能够抑制功率消耗的增加、对其它处理的负荷。
另外,人物检测部210在以高分辨率模式从特定区域(例如,图像区域GR2)未能检测出面部区域的情况下,以低分辨率模式执行面部区域的检测。
由此,在以高分辨率模式从特定区域(例如,图像区域GR2)未能检测出面部区域时,电子设备1视为用户移动,返回到低分辨率模式下的处理,因此能够抑制浪费地消耗电力、对其它处理的负荷。
<第三实施方式>
接下来,对本发明的第三实施方式进行说明。
从抑制功率消耗的观点出发,优选从拍摄图像检测面部区域时的检测范围DR设定得尽可能小。例如,如图3所示,面部检测的检测范围DR被设定为比拍摄图像的图像区域GR1的范围小的范围。然而,若将检测范围DR设定为较小的范围,则根据在电子设备1的前方存在的用户的位置,可能无法检测。
图13是表示检测范围DR与用户的位置关系的一个例子的图。如图所示,在用户U的位置向拍摄图像的图像区域GR3的端部(例如,右端)移动的情况下,有时仅用户U的面部的一部分进入检测范围DR。在这样的情况下,未检测出面部区域,无法正确地检测用户的存在。因此,在本实施方式中,电子设备1根据检测出的面部区域的位置使检测范围DR移动。
图14是说明本实施方式所涉及的检测范围DR的移动的图。如图所示,在用户U向图像区域GR3的右方向移动的情况下,也使检测范围DR根据用户U的移动向右方向移动。附图标记C1表示在图像区域GR3的中央设定有检测范围DR(参照图13)时的检测范围DR的中心位置。附图标记C2表示移动后的检测范围DR的中心位置。这样,电子设备1根据面部区域的位置(移动)使检测范围DR跟踪,从而能够正确地检测用户的存在。
此外,检测范围DR的移动被限制为左边到达图像区域GR3的左边为止,或者右边到达图像区域GR3的右边为止。另外,示出图13和图14所示的检测范围DR仅能够在左右方向上移动的例子,但也可以将检测范围DR的上下设为比图像区域GR3的上下短的范围,从而也能够在上下方向上移动。在检测范围DR在上下方向上移动的情况下,也被限制为上边到达图像区域GR3的上边为止,或者下边到达图像区域GR3的下边为止。
本实施方式所涉及的电子设备1的基本结构与图4~5所示的第一实施方式所涉及的结构同样,省略其说明。
图15是表示本实施方式所涉及的人物检测部210A的结构的一个例子的图。图示的人物检测部210A是与图5所示的人物检测部210对应的本实施方式的结构。在该图中,对于与图6的各部对应的结构标注相同的附图标记,省略其说明。人物检测部210A具备:面部检测部211A、检测状态判定部212以及人物判定部213。人物检测部210A与图6所示的人物检测部210的结构不同的点在于,面部检测部211A具备检测范围设定部21A。如参照图14进行说明的那样,检测范围设定部21A根据检测出的面部区域的位置使检测范围DR移动。面部检测部211A针对由检测范围设定部21A设定的检测范围DR检测面部区域。
例如,在初始状态下,检测范围设定部21A设定为检测范围DR的中心位置与图像区域GR3的中心位置对应(初始位置)。另外,在初始状态下未检测出面部区域的情况下,检测范围设定部21A也可以使检测范围DR移动,以检索图像区域GR3的全部范围。另外,检测范围设定部21A也可以在根据检测出的面部区域的位置使检测范围DR移动后,在未检测出面部区域的情况下,返回到初始状态的位置。
接下来,参照图16,对检测范围设定部21A控制检测范围DR的设定以及移动的检测范围控制处理的动作进行说明。
图16是表示本实施方式所涉及的检测范围控制处理的一个例子的流程图。(步骤S401)检测范围设定部21A首先将检测范围DR设定为初始位置。例如,作为初始位置,检测范围设定部21A设定为检测范围DR的中心位于图像区域GR3的中心位置。然后,进入步骤S403的处理。
(步骤S403)检测范围设定部21A判定是否由面部检测部211A检测出面部区域。检测范围设定部21A在判定为由面部检测部211A未检测出面部区域的情况下(否),进入步骤S405的处理。
(步骤S405)检测范围设定部21A使检测范围DR移动,以检索图像区域GR3的全部范围。然后,进入步骤S409的处理。
另一方面,检测范围设定部21A在步骤S403中判定为由面部检测部211A检测出面部区域的情况下(是),进入步骤S407的处理。
(步骤S407)检测范围设定部21A根据检测出的面部区域的位置使检测范围DR移动(参照图14)。然后,进入步骤S409的处理。
(步骤S409)检测范围设定部21A判定是否由面部检测部211A检测出面部区域。检测范围设定部21A在判定为由面部检测部211A检测出面部区域的情况下(是),返回到步骤S407的处理,根据检测出的面部区域的位置使检测范围DR移动。另一方面,检测范围设定部21A在判定为由面部检测部211A未检测出面部区域的情况下(否),返回到步骤S401的处理,将检测范围DR设定为初始位置。
[第三实施方式的总结]
如以上说明那样,从拍摄图像检测面部区域时的检测范围DR被设定为比拍摄图像的图像区域GR3的范围小的范围。而且,电子设备1根据检测出的面部区域的位置使检测范围DR移动。
由此,电子设备1能够抑制功率消耗,并且高精度地检测使用电子设备1的人物(用户)。
另外,在初始状态下,电子设备1设定为检测范围DR的中心位置与拍摄图像的图像区域GR3的中心位置对应。
由此,由于电子设备1设定检测范围DR,以使存在用户的可能性较高的图像区域GR3的中心的位置在初始状态下包含在检测范围中,因此能够高精度地检测使用电子设备的人物(用户)。
<第四实施方式>
接下来,对本发明的第四实施方式进行说明。
存在用户以外的人物接近、通过电子设备1的前方的情况。例如,即使用户以外的人物接近,电子设备1也不需要启动(或者最好不启动)。因此,在本实施方式中,即使检测出用户以外的人物的面部区域,也忽略该面部区域的检测。
图17是表示用户以外的人物的面部检测的一个例子的图。在图示的例子中,按时刻t(1)~t(3)的时间序列的顺序示出电子设备1按规定的时间间隔拍摄的拍摄图像。此处,是用户以外的人物P从右向左通过电子设备1的前方时在各时刻拍摄的拍摄图像的例子。在各拍摄图像中检测到的面部区域的位置与用户坐在电子设备1的前方的情况相比,活动的量较大。因此,本实施方式所涉及的电子设备1在检测出的面部区域的移动量在规定的阈值以上的情况下,忽略该面部区域的检测。此外,用户以外的人物是指在该时刻不使用电子设备1的人物,并不意味着电子设备1的所有者以外的人物。
本实施方式所涉及的电子设备1的基本结构与图4~5所示的第一实施方式所涉及的结构同样,省略其说明。
图18是表示本实施方式所涉及的人物检测部210B的结构的一个例子的图。图示的人物检测部210B是与图5所示的人物检测部210对应的本实施方式的结构。在该图中,对与图6的各部对应的结构标注相同的附图标记,省略其说明。人物检测部210B具备:面部检测部211B、检测状态判定部212以及人物判定部213B(判定部的一个例子)。面部检测部211B具备移动量判定部21B。
移动量判定部21B基于从按规定的时间间隔拍摄的每个拍摄图像的由面部检测部211B检测出的面部区域的位置,来判定面部区域的移动量是否在规定的阈值以上。在由移动量判定部21B判定为面部区域的移动量在规定的阈值以上的情况下,面部检测部211B使该面部区域的检测无效。另外,在由移动量判定部21B判定为面部区域的移动量小于规定的阈值的情况下,面部检测部211B使该面部区域的检测有效。规定的阈值例如是基于用户正在使用电子设备1时所假定的面部区域的活动的量而预先设定的阈值。作为一个例子,也可以将向上下左右一个面部的大小以内的移动量设为规定的阈值。
此外,当即使面部区域的活动较少但电子设备1本身有活动时,检测出的面部区域的移动量变大。因此,移动量判定部21B也可以考虑由加速度传感器130检测到的电子设备1的活动,来判定由面部检测部211B检测出的面部区域的移动量。也就是说,移动量判定部21B也可以在电子设备1活动的情况下,基于电子设备1的移动方向和移动量来修正从拍摄图像检测出的面部区域的移动量,并判定修正后的值是否在规定的阈值以上。
接下来,参照图19,对由面部检测部211B进行的面部检测处理的动作进行说明。
图19是表示本实施方式所涉及的面部检测处理的一个例子的流程图。
(步骤S501)面部检测部211B判定是否检测出面部区域。面部检测部211B在判定为检测出面部区域的情况下(是),进入步骤S503的处理。另一方面,面部检测部211B在判定为未检测出面部区域的情况下(否),进入步骤S509的处理。
(步骤S503)面部检测部211B基于从按规定的时间间隔拍摄的每个拍摄图像检测出的面部区域的位置来计算面部区域的移动量,进入步骤S505的处理。
(步骤S505)面部检测部211B基于从按规定的时间间隔拍摄的每个拍摄图像检测出的面部区域的位置,来判定面部区域的移动量是否在规定的阈值以上。面部检测部211B在判定为面部区域的移动量小于规定的阈值的情况下(否),进入步骤S507的处理。另一方面,面部检测部211B在判定为面部区域的移动量在规定的阈值以上的情况下(是),进入步骤S509的处理。
(步骤S507)面部检测部211B使从拍摄图像检测出的面部区域的检测有效。
(步骤S509)面部检测部211B使从拍摄图像检测出的面部区域的检测无效。
人物判定部213B基于上述的面部检测处理的面部区域的检测结果,来判定在电子设备1的前方是否存在人物。例如,在由面部检测部211B从拍摄图像检测出的面部区域的检测有效的情况下,人物判定部213B判定为在电子设备1的前方存在人物。另一方面,在由面部检测部211B从拍摄图像未检测出面部区域的情况下,或者从拍摄图像检测出的面部区域的检测无效的情况下,人物判定部213B判定为在电子设备1的前方不存在人物。
这样,在即使从拍摄图像检测出面部区域但该面部区域的移动量在规定的阈值以上的情况下,人物检测部210B视为是用户以外的人物的面部,使面部检测无效,判定为不存在用户。由此,即使用户以外的人物接近、通过电子设备1的前方,电子设备1也不会检测为用户接近,因此能够防止误启动。
[第四实施方式的总结]
如以上说明那样,本实施方式所涉及的电子设备1基于从按规定的时间间隔拍摄的多个拍摄图像中检测出的面部区域的位置,来判定面部区域的移动量是否在规定的阈值以上,在判定为面部区域的移动量在规定的阈值以上的情况下使该面部区域的检测无效,在判定为面部区域的移动量小于规定的阈值的情况下使该面部区域的检测有效。
由此,在用户以外的人物接近、通过电子设备1的前方的情况下,电子设备1能够防止误检测为用户接近。因而,电子设备1能够高精度地检测使用电子设备1的人物(用户)。
另外,电子设备1具备检测电子设备1的活动的加速度传感器130(传感器的一个例子),并考虑由该加速度传感器130检测出的电子设备1的动作来判定检测出的面部区域的移动量。
由此,即使在电子设备1本身有活动的情况下,电子设备1也能够正确地检测面部区域的移动量,因此能够高精度地检测使用电子设备1的人物(用户)。
另外,电子设备1具备执行基于系统的系统处理的系统处理部300(处理部的一个例子)。另外,在从拍摄图像检测出的面部区域的检测有效的情况下,电子设备1判定为存在用户,在从拍摄图像未检测出面部区域的情况下或者从拍摄图像检测出的面部区域的检测无效的情况下,判定为不存在用户。而且,在从用户不存在的状态向用户存在的状态转移的情况下,电子设备1使系统的动作状态从待机状态(第一动作状态的一个例子)转移至通常动作状态(第二动作状态的一个例子)。
由此,在使用电子设备1的人物(用户)接近电子设备1的前方的情况下,电子设备1能够从待机状态启动,并且即使用户以外的人物接近、通过电子设备1的前方,也能够防止误启动。
另外,本实施方式所涉及的电子设备1的控制方法包括:从按规定的时间间隔拍摄的每个拍摄图像检测面部区域的步骤;基于从每个拍摄图像检测出的面部区域的位置,来判定面部区域的移动量是否在规定的阈值以上的步骤;在判定为面部的移动量在规定的阈值以上的情况下使该面部区域的检测无效,在判定为面部的移动量小于规定的阈值的情况下使该面部区域的检测有效的步骤。
由此,在用户以外的人物接近、通过电子设备1的前方的情况下,电子设备1能够防止误检测为用户接近。因而,电子设备1能够高精度地检测使用电子设备1的人物(用户)。
以上,参照附图对本发明的各实施方式进行了详述,但具体的结构并不限定于上述的实施方式,也包含不脱离该发明的主旨的范围的设计变更等。例如,在上述的各实施方式中说明的各结构能够任意地组合。
另外,在上述实施方式中,对在电子设备1中内置有拍摄部120的结构例进行了说明,但并不限定于此。例如,拍摄部120也可以不内置于电子设备1中,也可以构成为能够作为电子设备1的外部附件安装于电子设备1(例如,侧面10a、10b、10c等的任意的侧面),通过无线或者有线与电子设备1通信连接。
另外,在上述实施方式中,电子设备1通过从拍摄图像检测拍摄到面部的面部区域而检测用户的存在,但不限于面部,也可以通过检测身体的至少一部分来检测用户的存在。另外,电子设备1也可以并用检测到物体的距离的距离传感器(例如,接近传感器等)。例如,距离传感器设置于第一框体10的内面侧,检测在与第一框体10的内面面对面的方向(前方)的检测范围内存在的物体(例如,人物)。作为一个例子,距离传感器可以是构成为包含发出红外线的发光部、和接受发出的红外线被物体的表面反射而返回的反射光的受光部的红外线距离传感器。此外,距离传感器也可以是使用了发光二极管发出的红外线的传感器,也可以是使用了红外线激光的传感器,该红外线激光发出波段比发光二极管发出的红外线窄的光线。另外,距离传感器并不限定于红外线距离传感器,只要是检测与物体的距离的传感器,也可以是超声波传感器或者使用了UWB(Ultra Wide Band:超宽带)雷达的传感器等使用其它方式的传感器。另外,距离传感器也可以不内置于电子设备1中,也可以构成为能够作为电子设备1的外部附件安装于电子设备1(例如,侧面10a、10b、10c等的任意的侧面),通过无线或者有线与电子设备1通信连接。另外,拍摄部120和距离传感器也可以一体地构成。
另外,在上述实施方式中,示出人物检测部210与EC200分开设置的例子,但人物检测部210的一部分或者全部也可以设置于EC200中。另外,在上述实施方式中,示出EC200具备动作控制部220的例子,但动作控制部220的一部分或者全部也可以设置于EC200以外的处理部(例如,系统处理部300)。
另外,在上述实施方式中,与系统处理部300独立地进行动作的EC200可以是传感器集线器、芯片组等任意的处理部,也可以由EC200以外的处理部代替EC200执行上述的处理。
另外,也可以在上述的待机状态中包含休眠状态、断电状态等。休眠状态例如相当于ACPI所规定的S4状态。断电状态例如相当于ACPI所规定的S5状态(关机的状态)。另外,也可以在待机状态中包含至少显示部的显示关闭(画面关闭)的状态,或者画面锁定的状态。画面锁定是指在显示部显示预先设定的图像(例如,画面锁定用的图像)以不能够视觉确认处理中的内容,到解除锁定(例如,用户认证)为止,不能使用的状态。
此外,上述的电子设备1在内部具有计算机系统。而且,也可以在计算机可读取的记录介质中记录用于实现上述的电子设备1具备的各结构的功能的程序,通过使计算机系统读入并执行记录于该记录介质的程序而进行上述的电子设备1具备的各结构中的处理。此处,“使计算机系统读入并执行记录于记录介质的程序”包含在计算机系统安装程序。此处所说的“计算机系统”包含OS、周边设备等硬件。另外,“计算机系统”也可以包含经由包括因特网、WAN、LAN、专用线路等通信线路的网络连接的多个计算机装置。另外,“计算机可读取的记录介质”是指软盘、光磁盘、ROM、CD-ROM等便携式介质、内置于计算机系统的硬盘等存储介质。这样,记录有程序的记录介质也可以是CD-ROM等非暂时性的记录介质。
另外,记录介质也包含为了分发该程序而能够从分发服务器访问的设置于内部或者外部的记录介质。此外,也可以将程序分割为多个,并分别在不同的定时下载之后由电子设备1具备的各结构合体而成的结构、分发分割出的每个程序的分发服务器不同。而且,所谓的“计算机可读取的记录介质”还包含如经由网络发送程序的情况下的服务器、成为客户端的计算机系统内部的易失性存储器(RAM)那样将程序保持一定时间的结构。另外,上述程序也可以是用于实现上述的功能的一部分的结构。进一步,也可以是能够以将上述的功能与已经记录于计算机系统的程序的组合来实现的、所谓的差分文件(差分程序)。
另外,也可以将上述的实施方式中的电子设备1具备的各功能的一部分或者全部作为LSI(Large Scale Integration:大规模集成)等集成电路来实现。各功能可以个别地处理,也可以将一部分或全部集成来处理。另外,集成电路化的方法并不限于LSI,也可以以专用电路或通用处理器来实现。另外,在随着半导体技术的进步出现了代替LSI的集成电路化的技术的情况下,也可以使用基于该技术的集成电路。
另外,上述实施方式的电子设备1并不限定于PC、平板终端装置、智能手机等,也能够应用于家用电器、商用电器。作为家用电器,能够应用于电视、具备显示部的冰箱、微波炉等。例如,能够根据人物的接近或者离开,来控制电视的画面的打开/关闭,或者控制冰箱、微波炉等的显示部的画面的打开/关闭。另外,作为商用电器,能够应用于自动售货机、多媒体终端等。例如,根据人物的接近或者离开,能够像自动售货机的照明的打开/关闭等、或者多媒体终端的显示部的画面的打开/关闭等那样控制动作状态。

Claims (12)

1.一种电子设备,具备:
存储器,暂时存储由拍摄装置拍摄的图像的图像数据;以及
处理器,处理存储于上述存储器的图像数据,
上述处理器具备:
面部检测部,处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从上述多个图像中检测拍摄到面部的面部区域;以及
检测状态判定部,判定是否是在上述多个图像中连续地检测出上述面部区域的状态,
当正在进行基于上述第一分辨率的图像数据检测上述面部区域的处理的状态下,上述检测状态判定部判断为状态在连续地检测出上述面部区域的状态和未连续地检测出上述面部区域的状态之间变化的情况下,上述面部检测部基于第二分辨率的图像数据从上述多个图像中检测上述面部区域。
2.根据权利要求1所述的电子设备,其中,
基于在规定期间按上述规定的时间间隔拍摄的上述多个图像中以规定的比例包含由上述面部检测部检测出上述面部区域的图像和未检测出面部区域的图像的双方,上述检测状态判定部判定为是未连续地检测出上述面部区域的状态。
3.根据权利要求1或2所述的电子设备,其中,
上述第一分辨率是比上述第二分辨率低的分辨率,
当正在执行基于上述第一分辨率的图像数据检测上述面部区域的低分辨率模式的处理的状态下,上述检测状态判定部判断为状态从连续地检测出上述面部区域的状态变化为未连续地检测出上述面部区域的状态的情况下,上述面部检测部以高分辨率模式执行处理,其中,在上述高分辨率模式中,基于特定区域中的上述第二分辨率的图像数据进行上述面部区域的检测,上述特定区域相当于在上述低分辨率模式的处理中检测出的上述面部区域的位置。
4.根据权利要求3所述的电子设备,其中,
上述面部检测部在以上述高分辨率模式从上述特定区域未能检测出上述面部区域的情况下,以上述低分辨率模式执行上述面部区域的检测。
5.根据权利要求1~4中任意一项所述的电子设备,其中,
上述面部检测部从上述多个图像检测上述面部区域时的检测范围被设定为比上述拍摄的图像的图像区域的范围小的范围,
上述电子设备还具备检测范围设定部,上述检测范围设定部根据由上述面部检测部检测出的上述面部区域的位置使上述检测范围移动。
6.根据权利要求5所述的电子设备,其中,
在初始状态下,上述检测范围设定部设定为上述检测范围的中心位置与上述拍摄的图像的图像区域的中心位置对应。
7.根据权利要求1~6中任意一项所述的电子设备,其中,
还具备移动量判定部,基于从上述多个图像中由上述面部检测部检测出的上述面部区域的位置来判定上述面部区域的移动量是否在规定的阈值以上,
在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下,上述面部检测部使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下,上述面部检测部使上述面部区域的检测有效。
8.一种电子设备,具备:
存储器,暂时存储由拍摄装置拍摄的图像的图像数据;以及
处理器,处理存储于上述存储器的图像数据,
上述处理器具备:
面部检测部,处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,从上述多个图像中检测拍摄到面部的面部区域;以及
移动量判定部,基于从上述多个图像中由上述面部检测部检测出的上述面部区域的位置,来判定上述面部区域的移动量是否在规定的阈值以上,
在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下,上述面部检测部使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下,上述面部检测部使上述面部区域的检测有效。
9.根据权利要求7或8所述的电子设备,其中,
还具备检测上述电子设备的活动的传感器,
上述移动量判定部考虑由上述传感器检测到的上述电子设备的活动,来判定由上述面部检测部检测出的上述面部区域的移动量。
10.根据权利要求7~9中任意一项所述的电子设备,其中,还具备:
处理部,执行基于系统的系统处理;
人物判定部,在由上述面部检测部检测出的上述面部区域的检测有效的情况下判定为存在用户,在由上述面部检测部未检测出上述面部区域的情况下或者由上述面部检测部检测出的上述面部区域的检测无效的情况下判定为不存在用户;以及
动作控制部,在上述人物判定部的判定结果从不存在用户的状态向存在用户的状态转移的情况下,使上述系统的动作状态从上述系统处理的至少一部分被限制的第一动作状态转移至与上述第一动作状态相比激活了上述系统处理的动作的第二动作状态。
11.一种控制方法,是电子设备的控制方法,上述电子设备具备:暂时存储由拍摄装置拍摄的图像的图像数据的存储器、以及处理存储于上述存储器的图像数据的处理器,上述控制方法包括:
面部检测部处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,基于第一分辨率的图像数据和第二分辨率的图像数据从上述多个图像中检测拍摄到面部的面部区域的步骤;以及
检测状态判定部判定是否是在上述多个图像中连续地检测出上述面部区域的状态的步骤,
在上述面部检测部检测上述面部区域的步骤中,
当正在进行基于上述第一分辨率的图像数据检测上述面部区域的处理的状态下,上述检测状态判定部判断为状态在连续地检测出上述面部区域的状态和未连续地检测出上述面部区域的状态之间变化的情况下,基于第二分辨率的图像数据从上述多个图像中检测上述面部区域。
12.一种控制方法,是电子设备的控制方法,上述电子设备具备:暂时存储由拍摄装置拍摄的图像的图像数据的存储器、以及处理存储于上述存储器的图像数据的处理器,上述控制方法包括:
面部检测部处理由上述拍摄装置按规定的时间间隔拍摄并存储于上述存储器的多个图像的图像数据,从上述多个图像中检测拍摄到面部的面部区域的步骤;以及
移动量判定部基于从上述多个图像中由上述面部检测部检测出的上述面部区域的位置,来判定上述面部区域的移动量是否在规定的阈值以上的步骤,
在上述面部检测部检测上述面部区域的步骤中,
在由上述移动量判定部判定为上述面部区域的移动量在规定的阈值以上的情况下使上述面部区域的检测无效,在由上述移动量判定部判定为上述面部区域的移动量小于规定的阈值的情况下使上述面部区域的检测有效。
CN202210509109.2A 2021-05-12 2022-05-11 电子设备以及控制方法 Pending CN115344110A (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2021080887A JP7132392B1 (ja) 2021-05-12 2021-05-12 電子機器、及び制御方法
JP2021-080887 2021-05-12

Publications (1)

Publication Number Publication Date
CN115344110A true CN115344110A (zh) 2022-11-15

Family

ID=83188042

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202210509109.2A Pending CN115344110A (zh) 2021-05-12 2022-05-11 电子设备以及控制方法

Country Status (3)

Country Link
US (1) US20220366722A1 (zh)
JP (1) JP7132392B1 (zh)
CN (1) CN115344110A (zh)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7279169B2 (ja) * 2019-08-14 2023-05-22 富士フイルム株式会社 撮像装置、撮像装置の作動方法、及びプログラム
WO2024090218A1 (ja) * 2022-10-26 2024-05-02 株式会社資生堂 診断システム、診断装置、プログラム、診断方法、肌診断方法およびストレス診断方法

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8645985B2 (en) * 2005-09-15 2014-02-04 Sony Computer Entertainment Inc. System and method for detecting user attention
JP2008009849A (ja) * 2006-06-30 2008-01-17 Matsushita Electric Ind Co Ltd 人物追跡装置
JP5527079B2 (ja) * 2010-07-21 2014-06-18 富士通モバイルコミュニケーションズ株式会社 撮像装置
JP5539565B2 (ja) * 2013-04-09 2014-07-02 キヤノン株式会社 撮像装置及び被写体追跡方法
US9632572B2 (en) * 2013-10-03 2017-04-25 Leap Motion, Inc. Enhanced field of view to augment three-dimensional (3D) sensory space for free-space gesture interpretation
US10268911B1 (en) * 2015-09-29 2019-04-23 Morphotrust Usa, Llc System and method for liveness detection using facial landmarks
US10755438B2 (en) * 2016-04-27 2020-08-25 Bellus 3D, Inc. Robust head pose estimation with a depth camera
TW201743241A (zh) * 2016-06-01 2017-12-16 原相科技股份有限公司 可攜式電子裝置及其運作方法
KR20180068127A (ko) * 2016-12-13 2018-06-21 엘지전자 주식회사 이동단말기 및 그 제어방법
US10922395B2 (en) * 2018-01-05 2021-02-16 Stmicroelectronics, Inc. Facial authentication systems and methods utilizing time of flight sensing
US10685428B2 (en) * 2018-11-09 2020-06-16 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Systems and methods for super-resolution synthesis based on weighted results from a random forest classifier
US20220139199A1 (en) * 2019-02-27 2022-05-05 Technomirai Co., Ltd. Accurate digital security system, method, and program
JP7279169B2 (ja) * 2019-08-14 2023-05-22 富士フイルム株式会社 撮像装置、撮像装置の作動方法、及びプログラム
US11900706B1 (en) * 2019-10-22 2024-02-13 Objectvideo Labs, Llc Object of interest detector distance-based multi-thresholding
CN116157833A (zh) * 2020-09-23 2023-05-23 Jvc建伍株式会社 图像处理装置及图像处理程序
US20230196836A1 (en) * 2021-12-17 2023-06-22 Google Llc Human Presence Sensor for Client Devices

Also Published As

Publication number Publication date
JP2022174876A (ja) 2022-11-25
US20220366722A1 (en) 2022-11-17
JP7132392B1 (ja) 2022-09-06

Similar Documents

Publication Publication Date Title
JP6808780B2 (ja) 電子機器、制御方法、及びプログラム
JP7036975B1 (ja) 電子機器、及び制御方法
CN115344110A (zh) 电子设备以及控制方法
JP6720283B2 (ja) 電子機器、制御方法、及びプログラム
JP2022136191A (ja) 電子機器、及び制御方法
JP7218397B2 (ja) 電子機器、及び制御方法
JP2020107129A (ja) 電子機器、制御方法、及びプログラム
JP6710267B1 (ja) 情報処理装置、制御方法、及びプログラム
CN113900154A (zh) 电子设备、以及控制方法
JP7223833B1 (ja) 電子機器、及び制御方法
JP7474888B1 (ja) 電子機器、及び制御方法
JP7413481B1 (ja) 情報処理装置、及び制御方法
JP7218421B1 (ja) 電子機器、及び制御方法
JP7275239B1 (ja) 電子機器、及び制御方法
JP7480371B1 (ja) 情報処理装置、及び制御方法
JP7421603B1 (ja) 情報処理装置、及び制御方法
JP7451785B1 (ja) 情報処理装置、及び制御方法
JP7454635B1 (ja) 情報処理装置、及び制御方法
JP7368523B2 (ja) 情報処理装置、及び制御方法
JP2023134226A (ja) 情報処理装置、及び制御方法
JP2024084980A (ja) 情報処理装置、及び制御方法
JP2021135870A (ja) 電子機器、及び制御方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination