CN110297720A - 通知装置、通知方法及存储通知程序的介质 - Google Patents

通知装置、通知方法及存储通知程序的介质 Download PDF

Info

Publication number
CN110297720A
CN110297720A CN201910217665.0A CN201910217665A CN110297720A CN 110297720 A CN110297720 A CN 110297720A CN 201910217665 A CN201910217665 A CN 201910217665A CN 110297720 A CN110297720 A CN 110297720A
Authority
CN
China
Prior art keywords
face
facial
state
notice
guidance information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910217665.0A
Other languages
English (en)
Other versions
CN110297720B (zh
Inventor
大塚利彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Publication of CN110297720A publication Critical patent/CN110297720A/zh
Application granted granted Critical
Publication of CN110297720B publication Critical patent/CN110297720B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1601Constructional details related to the housing of computer displays, e.g. of CRT monitors, of flat displays
    • G06F1/1605Multimedia displays, e.g. with integrated or attached speakers, cameras, microphones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/954Navigation, e.g. using categorised browsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/542Event management; Broadcasting; Multicasting; Notifications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/60Static or dynamic means for assisting the user to position a body part for biometric acquisition
    • G06V40/67Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/15Biometric patterns based on physiological signals, e.g. heartbeat, blood flow

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Health & Medical Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Databases & Information Systems (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Image Processing (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Analysis (AREA)
  • Studio Devices (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

本发明涉及一种通知装置,能够使通知规定信息的通知装置更加方便地使用。所述通知装置(1)包括状态检测部(112)、引导通知部(113)、判定部(114)和通知控制部(115)。状态检测部(112)基于依次输入的图像依次检测被摄物的面部的状态。引导通知部(113)通知面部引导信息。判定部(114)判断通过引导通知部(113)依次检测出的面部的状态是否满足了已通知的面部引导信息所对应的状态。在通过判定部(114)判断满足了通知了的面部引导信息所对应的状态时,通知控制部(115)控制引导通知部(113)通知与已通知的面部引导信息不同的其它面部引导信息。

Description

通知装置、通知方法及存储通知程序的介质
技术领域
本发明涉及通知装置、通知方法及介质。
背景技术
近年来,得知将被摄物的镜像与规定的通知内容重叠显示的显示装置。例如,如日本特开2016-161835号公报那样,在由具有透过性的半透明反射镜构成的镜部的内侧配置由液晶显示器等构成的显示部,由此,能够将在显示部上显示出的规定的通知内容与反射在镜部的镜像重叠表示。
但是,在专利文献1公开的技术等现有技术中,为了控制被显示的规定的通知内容(例如,为了切换规定的通知内容),用户需要进行点触操作等操作。因此,对用户而言使用便利性未必会很好。
本发明鉴于这样的情况而提出,其目的在于对用户而言,使通知规定信息的通知装置能够更加方便地使用。
发明内容
本发明涉及一种通知装置,包括状态检测单元,基于依次输入的图像依次检测被摄物的面部的状态;通知单元,通知面部引导信息;判定单元,判断经所述状态检测单元依次检测的面部的状态是否已经满足经所述通知单元通知了的面部引导信息所对应的状态;以及控制单元,当所述判定单元判断出已经满足经所述通知单元通知了的面部引导信息所对应的状态时,控制所述通知单元通知与所述通知了的面部引导信息不同的其它面部引导信息。
本发明还涉及一种计算机执行的通知方法,包括:状态检测步骤,基于依次输入的图像依次检测被摄物的面部的状态;通知步骤,通知面部引导信息;以及控制步骤,当通过所述状态检测步骤依次检测出的面部的状态满足了经所述通知步骤通知了的面部引导信息所对应的状态时,控制所述通知步骤中的通知,以通知与所述通知了的面部引导信息不同的其它面部引导信息。
本发明还涉及一种存储介质,存储有通过控制通知装置的计算机执行的程序,所述程序能够使计算机执行如下功能:状态检测功能,基于依次输入的图像依次检测被摄物的面部的状态;通知功能,通知面部引导信息;以及控制功能,当通过所述状态检测功能依次检测出的面部的状态满足了经所述通知功能通知了的面部引导信息所对应的状态时,控制所述通知功能通知与所述通知了的面部引导信息不同的其它面部引导信息。
根据本发明,能够使通知规定信息的通知装置更加方便地使用。
附图说明
图1是表示本发明的一个实施方式的通知系统的结构的模块图。
图2是表示本发明的一个实施方式的通知装置的正面的外观结构的结构图。
图3是表示本发明的一个实施方式的通知装置的侧面的外观结构的结构图。
图4是表示本发明的一个实施方式的通知装置的硬件结构的模块图。
图5是表示本发明的一个实施方式的通知装置的功能结构中,用于实施通知控制处理的功能结构的功能模块图。
图6是说明根据本发明的一个实施方式的通知装置的状态检测部的被摄物的面部的朝向的检测方法的第一示意图。
图7是说明根据本发明的一个实施方式的通知装置的状态检测部的被摄物的面部的朝向的检测方法的第二示意图。
图8是说明本发明的一个实施方式的通知装置所实施的通知控制处理的流程的第一流程图。
图9是说明本发明的一个实施方式的通知装置所实施的通知控制处理的流程的第二流程图。
图10是表示本发明的一个实施方式的通知装置所实施的通知控制处理中引导信息的显示的第一例的示意图。
图11是表示本发明的一个实施方式的通知装置所实施的通知控制处理中引导信息的显示的第二例的示意图。
图12是表示本发明的一个实施方式的通知装置所实施的通知控制处理中引导信息的显示的第三例的示意图。
图13是表示本发明的一个实施方式的通知装置所实施的通知控制处理中引导信息的显示的第四例的示意图。
具体实施方式
接下来,使用附图说明本发明的实施方式。
本发明的实施方式的通知装置1作为用户可携带的自立式镜面而构成。通知装置1对观看镜面的用户切换通知多个面部引导信息,由此,进行一系列的引导。例如,通知装置1进行面部按摩等相关的一系列的引导。
此时,通知装置1将用户作为被摄物拍摄,通过面部追踪检测拍摄完成的用户的面部等状态。然后,当检测出的用户的状态满足了规定的条件时,通知装置1切换通知的面部引导信息。
根据这样的通知装置1,与通常的技术不同,为了控制规定的通知内容(例如,为了切换规定的通知内容),用户能够不需要进行点触操作等操作。
即,根据通知装置1,能够使通知规定信息的通知装置更加方便地使用。
[系统结构]
图1是表示包含本实施方式的通知装置1的通知系统S的整体结构的模块图。如图1所示,通知系统S包含多个通知装置1、网络2及服务器组3。
通知装置1的个数没有特别限制,通知系统1可以包含n个(n为任意自然数)通知装置1。另外,在以下的说明中,未特别区分n个通知装置1而说明时,省略符号的末尾字母而仅称为“通知装置1”。
通知装置1是如上述那样基于用户的状态切换通知多个面部引导信息,由此,进行一系列引导的装置。通知装置1经网络2与包含于服务器组3的各个服务器彼此可通信地连接。
网络2例如通过因特网、LAN(Local Area Network)、移动网络的任意一个又或者组合了它们的网络而实现。
服务器组3中包含与通知装置1配合的各种服务器。例如,服务器组3中包含用于认证通知装置1的用户的认证服务器。此外,例如,服务器组3中包含应用分发服务器,分发用于实现通知装置1的功能的应用软件。进一步,例如,服务器组3中包含测定数据存储服务器,该测定数据存储服务器存储包含了用户相关设定信息、用户的通知装置1的使用历史等的信息,即用户的概要信息。
但是,这仅仅是一例,服务器组3也可以包含具有其它功能的服务器。此外,服务器组3中包含的多个服务器可以分别通过独立的服务器装置实现,也可以通过单一的服务器装置实现。
[外观结构]
图2是表示本发明的一个实施方式的通知装置1的正面的外观结构的结构图。
此外,图3是表示通知装置1的侧面的外观结构的结构图。通知装置1的正面的大小例如形成ISO(International Organization for Standardization)216所规定的A4尺寸。
如图2及图3所示,通知装置1包含镜部30、脚部31而构成。镜部30是镜面。
此外,脚部31及铰链部32是用于使通知装置1自立的机构。脚部31通过铰链部32可旋转地连接于镜部30。
如图3(A)所示的那样,用户携带通知装置1时,能够将镜部30的侧面与脚部31的侧面对齐,作为不能增大的形状而移动。另一方面,如图3(B)所示的那样,用户将通知装置1设置在桌子等上使用时,以铰链部32为中心点使脚部31旋转,由此,能够使通知装置1自立。另外,为了使通知装置1能够自立,铰链部32具有用于使脚部31在保证了规定的角度的状态下保持的结构。
如图2所示,作为表现在外观的结构,通知装置1还包括发光部17、输入部18及显示部19。
发光部17是为了照射正对镜部30的用户而发光的部分。通过发光部17照射用户,通知装置1作为附带照明的镜子发挥作用。
发光部17例如在镜部30的左端及右端多个位置配置。其中,为了方便图示,在图2中仅对一个发光部17标记符号,对其它发光部17省略符号。
输入部18是受理用户输入操作的部分。输入部18例如通过多个按钮实现。在图中,作为一例,图示出小脸美容、笑容训练及生物信息的记录等各种模式的切换按钮、用于进行通知装置1的电源启动/关闭的切换的按钮。
显示部19是通过显示各种信息而对用户通知这些各种信息的部分。显示部19例如显示文字等消息、图像等。在通知装置1中,镜部30的反射面和显示部19的显示面能够同时被用户观看,在正对于镜部30的用户的观看方向上重叠配置。
例如,由液晶显示器构成的显示部19在由半透明反射镜构成的镜部30的观看方向的内侧平行重叠配置。
通过这样的配置,用户能够同时观看被镜部30反射出的自己的面部和显示部19上显示出的信息。另外,在图2的示例中,在画面上侧设置显示部19的显示区域,在画面的下侧设置镜部30的反射区域。
此外,通知装置1还包括拍摄部16。拍摄部16是使用通知装置1时,将正对于镜部30的用户作为被摄物拍摄的部分。拍摄部16配置于能够拍摄正对镜部30的用户的面部图像的位置。
以上,说明了通知装置1的外观结构。但是,该结构仅仅是一例,通知装置1的外观结构不限于此例。
例如,发光部17可以配置于镜部30的上部或下部,也可以配置于镜部30的整个边缘。进一步地,例如,输入部18的数量、配置也可以改变。此外,例如也可以是,显示部19的一部分作为触摸平板而构成,输入部18和显示部19一体构成。
此外,例如,由显示部19实现的显示区域可以配置于画面上侧,也可以配置于其它位置。例如也可以是,假设在镜部30的中间部分反映出用户的面部,在该中间部分的周围配置显示区域。
进一步地,例如也可以是,在通知装置1正面的一部分配置镜部30,在正面的另一部分配置显示部19。即,镜部30与显示部19不一定重叠配置也可以。
进一步地,例如也可以是,不是通过上述那样的半透明反射镜构成镜部30、通过通常的液晶显示器构成显示部19,而是通过通常的镜面构成镜部30、通过透过型的液晶显示器构成显示部19。此时,通过通常的镜面构成的镜部30在透过型的液晶显示器构成的显示部19的观看方向的内侧,平行重叠配置即可。
进一步地,例如也可以是,与显示部19一样,将拍摄部16在由半透明反射镜构成的镜部30的观看方向的内侧,与显示部19平行重叠配置。
[硬件结构]
图4是表示通知装置1的硬件结构的模块图。
如图4所示,通知装置1包括CPU(Central Processing Unit)11、ROM(Read OnlyMemory)12、RAM(Random Access Memory)13、总线14、输入输出接口15、拍摄部16、发光部17、输入部18、显示部19、存储部20、通信部21和驱动器22。
CPU11按照ROM12中存储的程序或者从存储部20载入至RAM13的程序执行各种处理。
RAM13中也适当储存CPU11实施各种处理中所需要的数据等。
CPU11、ROM12及RAM13经总线14互相连接。
该总线14还连接输入输出接口15。输入输出接口15上连接拍摄部16、发光部17、输入部18、显示部19、存储部20和驱动器22。
拍摄部16未图示,其包括光学透镜部和图像传感器。
光学透镜部为了拍摄被摄物,由聚光的透镜,例如聚焦透镜、变焦透镜等构成。
聚焦透镜是在图像传感器的光接收面使被摄物像成像的透镜。
变焦透镜是使焦点距离在一定范围内自由变化的透镜。
拍摄部16根据需要还设有调整焦点、曝光、白平衡等的设定参数的外围电路。
图像传感器由光电转换元件、AFE(Analog Front End)等构成。
光电转换元件例如由CMOS(Complementary Metal Oxide Semiconductor)型的光电转换元件等构成。被摄物像从光学透镜部入射至光电转换元件。随后,光电转换元件对被摄物像进行光电转换(拍摄)从而一定时间存储图像信号,将已存储的图像信号作为模拟信号依次供给至AFE。
AFE对该模拟信号的图像信号进行A/D(Analog/digital)转换处理等各种信号处理。通过各种信号处理生成数字信号,作为拍摄部16的输出信号输出。
这样的拍摄部16的输出信号被适当供给至CPU11等。
发光部17由对应于RGB彩色模型中各色的LED(Light Emitting Diode)等发光体和控制发光体的控制电路构成。控制电路通过控制发光体基于照度、RGB彩色模型调整发光体的发光的颜色成分。发光部17随着通知装置1的启动将RGB的颜色成分调整至规定的状态而发光,从而照射用户。该规定的状态例如是,能够自然地看见镜部30中映出的用户的面部的状态。此外,发光部17基于来自CPU11的指示,例如调整照度、颜色成分而发光,以使得用户的面部等的状态容易检测。
输入部18由各种按钮、麦克等构成。根据用户的指示操作、指示声音输入各种信息。
显示部19由液晶显示器等构成,显示CPU11输出的图像数据所对应的图像。镜部30由半透明反射镜构成,例如,映出用户的面部。显示部19和镜部30的配置如上所述,参照图2。
存储部20由DRAM(Dynamic Random Access Memory)等半导体存储器构成,存储各种数据。
通信部21进行通信控制,用于进行CPU11经网络2与其它装置(例如,服务器组3中的各个服务器)之间进行的通信。
驱动器22由能够安装可移动介质100的接口构成。驱动器22可以是磁盘、光盘、光磁盘或半导体存储器等,适当安装可移动介质100。可移动介质100中存储用于执行后述的通知控制处理的程序、图像数据等各种数据。通过驱动器22从可移动介质100读取出的程序、图像等各种数据根据需要安装在存储部20中。
另外,通知装置1除了上述的硬件以外,也可以进一步包括其它的硬件。例如,也可以是,通知装置1包括由灯、扬声器或振动电机等构成,输出光、声音或振动信号的输出部。
[功能结构]
图5是表示通知装置1的功能结构中,用于实施通知控制处理的功能结构的功能模块图。
通知控制处理是通知装置1切换通知多个面部引导信息而进行一系列引导的处理。
实施通知控制处理时,如图5所示,CPU11中,设定处理部111、状态检测部112、引导通知部113和通知控制部115发挥作用。
此外,存储部20的一个区域中设定面部引导信息存储部201。
面部引导信息存储部201存储通知控制处理相关的各种数据。
例如,面部引导信息存储部201中存储用于生成通知控制处理中通知的引导信息的图像数据、文本数据及声音数据等。此外,面部引导信息存储部201中还存储一系列引导中多个面部引导信息的通知顺序、用于将通知的面部引导信息向下一个面部引导信息切换的条件、用于生成各种用户界面的数据等。进而,面部引导信息存储部201中存储关于信息通知处理而生成的用户的概要信息。
另外,如上述那样存储于面部引导信息存储部201的各种信息可以仅存储于存储部20,但也可以是,通过驱动器22适当存储于可移动介质100。进而,面部引导信息存储部201中存储的各种信息也可以适当存储于服务器组3中包含的测定数据中。
设定处理部111是进行通知控制处理相关设定等控制的部分。设定处理部111例如从服务器组3包含的应用分发服务器取得用于进行通知控制处理的应用软件,使该应用软件工作。此外,设定处理部111例如通过与服务器组3中包含的认证服务器进行通信而认证进行通知控制处理的用户。进而,设定处理部111例如通过与服务器组3中包含的测定数据存储服务器进行通信而更新通知控制处理的用户的概要信息。
状态检测部122是在通知控制处理中检测用户的面部等状态的部分。因此,状态检测部112解析拍摄部16拍摄的、包含作为被摄物的用户的图像,检测图像中的用户的状态。
例如,状态检测部112对包含用户面部的面部图像进行轮廓或部位的图案匹配、肤色识别等面部追踪相关处理,由此,识别面部轮廓、眼睛位置、肌肉区域,进行额头、脸颊、下巴及头等规定区域的检测。然后,状态检测部112基于该检测完的规定的区域检测用户的面部等状态。
在本实施方式中,作为一例,状态检测部112基于检测完的规定的区域的位置关系,依次检测观看显示部19及镜部30的用户的面部的角度(即,用户的面部朝向)。根据状态检测部112的用户面部朝向的检测方法,参照图6及图7后述。
此外,状态检测部112还可以是,不实际接触用户,对用户以非接触的方式进行生物信息(也称为生命数据)的测量。此时,上述的检测完的规定区域相当于用于以非接触的方式取得生物信息的兴趣区域(ROI:Region of interest)。
然后,状态检测部112例如基于该兴趣区域中的皮下血液中血红蛋白吸收的绿色信号分析心跳频率附近的分量,由此进行测量。状态检测部112检测的生物信息例如是脉搏、脉波及血流等。
此外,状态检测部112可以是将一个兴趣区域的图像作为对象进行测量,也可以是将多个兴趣区域的图像作为对象进行测量。此时,状态检测部112通过将已知脉搏的延迟的分离的2点(例如脸颊与额头,或者,额头、脸颊与手掌等)的兴趣区域作为对象而进行测量,能够测量例如脉波的传播速度、与脉波传播速度相关的血压变动。
此外,也可以是,状态检测部112通过对测量完毕的生物信息进行去除噪声等实施平均化处理。
另外,基于状态检测部112的生物信息的测量例如能够通过使用下述的参考文献中记载的技术进行。
<参考文献>
东北大学网络科学中心前端信息技术研究部、东北大学革新创新研究机构、“血液循环状态监测装置‘魔法之镜’的开发成功”、[online]、2016年9月27日、[2017年12月15日检索]、网络<URL:
http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
状态检测部112将依次检测完毕的用户的面部等状态(在这里,将面部朝向作为一例)依次输出至通知控制部115。
引导通知部113是在通知控制处理中切换通知多个面部引导信息的部分。引导通知部113基于通知控制部115的控制从面部引导信息存储部201读取面部引导信息。此外,引导通知部113基于通知控制部115的控制通知已读取的面部引导信息。
在本实施方式中,作为一例,引导通知部113读取包含了图像数据、文本数据的面部引导信息,将由已读取的面部引导信息生成的图像、文本显示在显示部19上,由此进行通知。
具体地,例如,引导通知部113在与映出用户面部的位置不重复的区域(即与用户的面部不重叠的区域),在一系列引导中将用户应当朝向的方向、按摩的方法以图像、文本自动配置而表示。此外,引导通知部113例如,在与映出用户面部的位置不重复的区域(即与用户的面部不重叠的区域),将用于通知生物信息的波形数据、需要的文字、图像信息自动配置而表示。
通过将这样的信息实时重新设计而表示,引导通知部113能够容易地、适当地进行向用户传达一系列的引导。
或者,引导通知部113例如也可以是,在映出用户面部的位置重叠表示信息。例如可以是,使用表示箭头、对话框的CG(Computer Graphics)表示面部引导信息。
此外,引导通知部113也可以组合这些显示。例如,引导通知部113也可以是,表示按摩内容的文本在与映出用户面部的位置不重复的区域显示,表示按摩时手的动作的箭头在映出用户面部的位置重叠而显示信息。
另外,基于显示的通知是通知方法的一例,引导通知部113通过其它方法进行通知也可以。例如也可以是,引导通知部113读取包含声音数据的面部引导信息,将由读取出的面部引导信息生成的声音、音乐从扬声器输出,由此进行通知。此外还例如是,引导通知部113通过使基于发光部17的发光状态变化而进行通知。
判定部114判定从状态检测部112输入的用户的面部等状态是否满足了已通知的面部引导信息所对应的状态。
通知控制部115是在通知控制处理中控制引导通知部113所进行的通知的部分。通知控制部115基于判定部114的判定结果,切换多个面部引导信息而使引导通知部113进行通知,由此,实现一系列的引导。
具体地,通知控制部115从面部引导信息存储部201读取一系列引导中多个面部引导信息的通知顺序、用于将通知的面部引导信息向下一个面部引导信息切换的条件(以下,称为“切换条件”)。此外,当通过判定部114判断从状态检测部112输入的用户的面部等状态满足了已通知的面部引导信息所对应的状态时,通知控制部115控制引导通知部113,以使得通知与已通知的面部引导信息不同的其它面部引导信息。
该面部引导信息所对应的切换条件能够各种各样地设定。
例如,作为切换条件,能够使用这样的切换条件:引导通知部113检测出的用户的面部等的状态成为已通知的面部引导信息所对应的状态。
在本实施方式中,作为一例,设置成检测用户的面部朝向,因此,作为切换条件,使用这样的切换条件:当引导通知部113检测出的用户的面部的朝向成为已通知的面部引导信息所对应的面部的朝向时,切换面部引导信息。
但是,切换条件不限于此,例如,也可将通知面部引导信息后经过了规定时间、状态检测部112检测出的生物信息变为规定的值等作为切换条件。切换条件与对应的面部引导信息关联而存储在面部引导信息存储部201中。
[面部朝向的检测]
参照图6及图7说明基于状态检测部112的用户面部角度(即,用户面部的朝向)的检测。图6是说明被摄物横向的面部朝向的检测方法的示意图。图7是说明被摄物纵向的面部朝向的检测方法的示意图。
状态检测部112如上所述,基于规定区域的位置关系依次检测观看显示部19及镜部30的用户的面部朝向。
首先,参照图6说明被摄物的横向(即左右方向)的面部朝向的检测方法。另外,在参照下面图6的说明中,不是将实际用户的左,而是将镜像中的左作为左进行说明。此外,不是将实际用户的右,而是将镜像中的右作为右进行说明。
作为进行左右面部朝向的检测的前提,状态检测部112检测用户鼻子的区域的位置或者,用户太阳穴(即,双眼的中间)区域的位置作为规定的区域。进而,状态检测部112分别检测用户面部的左右轮廓的位置。
进而,状态检测部112计算从检测出的用户的鼻子的区域的位置或用户的太阳穴(即,双眼的中间)的区域的位置到用户左轮廓的距离即距离A。此外,状态检测部112计算从检测出的用户的鼻子的区域的位置或用户的太阳穴(即,双眼的中间)的区域的位置到用户右轮廓的距离即距离B。
然后,如图6(a)所示那样距离A与距离B大致相等时,状态检测部112判断用户的横向面部朝向为正面。此外,如图6(b)所示那样距离A大于距离B时,状态检测部112判断用户的横向面部朝向为向右。进而如图6(c)所示那样距离A小于距离B时,状态检测部112判断用户的横向面部朝向为向左。
状态检测部112基于这样的比例进行判断,由此,能够进行被摄物横向(即,左右方向)的面部朝向的检测。此外,状态检测部112基于横向面部朝向检测中距离A与距离B的比例,还能够计算用户面部横向的角度。
接下来,参照图7说明被摄物的纵向(即上下方向)的面部朝向的检测方法。
作为进行上下面部朝向检测的前提,状态检测部112检测用户的鼻子的区域的位置作为规定的区域。进而,状态检测部112分别检测用户面部的上下轮廓的位置。
进而,状态检测部112计算从检测出的用户的鼻子的区域的位置到用户上轮廓的距离即距离C。此外,状态检测部112计算从检测出的用户的鼻子的区域的位置到用户下轮廓的距离即距离D。
然后,如图7(d)所示那样,成为合计了距离C和距离D的大小为大概最大的用户的纵向面部朝向时,状态检测部112判断用户的纵向面部朝向为正面。此外,状态检测部112通过距离C的值除以距离D的值求得当合计了距离C和距离D的大小为大概最大时的比率E的值。
此外,如图7(e)所示那样,当距离C除以距离D的值小于上述比例E的值时,状态检测部112判断用户的纵向面部朝向为向上。进而,如图7(f)所示那样,当距离C除以距离D的值大于上述比例E的值时,状态检测部112判断用户的纵向面部朝向为向下。
状态检测部112通过进行基于这样的比例的判断,能够进行被摄物纵向(即上下方向)的面部朝向的检测。此外,状态检测部112纵向面部朝向的检测中距离C和距离D的比例能够计测用户面部纵向的角度。
另外,在参照图6而说明的横向的面部朝向的检测和参照图7而说明的纵向的面部朝向的检测中的任意情况中,可以设置阈值而进行检测。例如,也可以是,对距离A与距离B的比例的值、距离C与距离D的比例的值、用户面部角度的值等设定阈值,将该阈值与现在正在检测的值进行比较,由此,检测面部的朝向。
例如,对于距离A与距离B的比例的值分别设定与向右对应的规定范围所对应的阈值的范围、与向左对应的规定范围所对应的阈值的范围、与横向正面对应的规定范围所对应的阈值的范围。然后,也可以是,当现在正在检测的距离A与距离B的比例的值落在某朝向所对应的阈值的范围时,检测用户的面部朝向该某一朝向。
另外,也可以进行参照图6而说明的横向的面部朝向的检测和参照图7而说明的纵向的面部朝向的检测这两者。
[通知控制处理]
图8和图9是说明具有图5的功能结构的图1的通知装置1所实施的通知控制处理的流程的流程图。
通知控制处理例如与通知装置1的电源接通一起开始。
如图8所示,在步骤S11中,设定处理部111进行初始设定。
例如,设定处理部111从服务器组3所包含的应用分发服务器取得用于进行通知控制处理的应用软件,使该应用软件工作。此外,设定处理部111随着应用软件的工作进行拍摄部16、发光部17的设定,然后,设定处理部111使基于拍摄部16的拍摄开始并使发光部17的发光开始。
在步骤S12中,设定处理部111尝试用于识别用户的个人认证,判断个人认证是否成功。当个人认证成功了时,在步骤S12中判断为是,处理进入步骤S13。另一方面,个人认证失败了时,在步骤S12中判断为否,重复步骤S12。另外,个人认证例如能够通过使用了拍摄部16拍摄出的用户的面部图像的面部识别、使用通过输入部18包含的麦克收音到的用户的声音的声音识别等进行。此外,除此之外,也可以是,通过使用了规定的生物信息的生物认证、使用了用户输入的密码的认证等其它认证方法进行个人认证。
在步骤S13中,设定处理部111将通过个人认证指定的用户的概要信息向服务器组3中的认证服务器查询。认证服务器确认有无接受了查询的用户的概要信息。然后,认证服务器在概要信息存在时,从服务器组3中的测定数据存储服务器取得对应的概要信息。然后,认证服务器将取得了的概要信息作为对查询的回复发送给设定处理部111。另一方面,认证服务器在概要信息不存在时,将其要点作为对查询的回复发送给设定处理部111。
在这里,概要信息包含用户相关的设定信息、用户的通知装置1的使用历史等。在这里,用户的关联信息例如是用于识别用户的识别信息、用户的姓名、年龄、身高体重等信息、用于进行认证的认证原始图像。此外,用户的通知装置1的使用历史例如是以前基于什么样的面部引导信息进行了处理这样的信息、在那时取得了的用户的生物信息等信息。
在步骤S14中,设定处理部111确认来自认证服务器的回复的内容。认证服务器的回复内容是概要信息时,在步骤S14中判定为是,处理进入步骤S15。另一方面,认证服务器的回复内容大意是不存在概要信息时,在步骤S14中判断为否,处理进入步骤S16。
在步骤S15中,设定处理部111读取作为来自认证服务器的回复而接收了的概要信息。
在步骤S16中,设定处理部111生成作为当前处理对象的用户的概要信息,向认证服务器发送并请求概要信息的登记。认证服务器通过将接收了的概要信息存储于测定数据存储服务器而进行登记。
在步骤S17中,设定处理部111显示用于进行使用了面部引导信息的引导的菜单。例如,显示包含了选项的菜单,该选项用于选择基于引导进行“小脸美容”、“笑容按摩”、“生物信息的测定”、“打扮(化妆)”等引导内容。
在步骤S18中,设定处理部111根据参照了菜单的用户,经输入部18等受理任意引导内容的选择。此次,将受理了“小脸美容”的选择作为一例。小脸美容是指用户对用户自己的面部等进行通过流过淋巴的按摩减少面部浮肿的淋巴按摩等。
转至图9,在步骤S19中,通知控制部115通过使引导通知部113通知小脸美容的最初面部引导信息而开始引导。
在步骤S20中,判定部114为了切换面部引导信息,判断用户的面部等状态(在这里使面部的朝向)的信息是否是需要的引导,即是否是通知规定的引导信息的时刻。例如,如果从面部引导信息的通知开始经过规定的时间等而满足了切换条件,判断是否到达应当切换面部引导信息而通知规定的引导的时刻。
未通知用户的面部等的状态的信息是需要的规定的引导时,在步骤S20中判断为否,处理进入步骤S25,另一方面,通知用户的面部等状态的信息是需要的规定的引导时,在步骤S20中判断为是,处理进入步骤S21。
在步骤S21中,通知控制部115不切换基于引导通知部113的面部引导信息的通知,停止引导。
在步骤S22中,引导通知部113通过参照图7及图8而上述那样的方法检测用户的面部朝向。
在步骤S23中,判定部114判断在步骤S22中检测出的用户的面部朝向是否满足了切换条件。例如,判断引导通知部113所检测出的用户的面部的朝向是否成为已通知的面部引导信息所对应的面部的朝向。
成为了对应的面部的朝向时,在步骤S23中判断为是,处理进入步骤S24。另一方面,未成为对应的面部的朝向时,在步骤S23中判断为否,重复以规定的间隔检测步骤S22中的面部的朝向及步骤S23中的判断。此时,面部的朝向怎么也无法一致时,也可以进入与步骤S23中的判断不相关的步骤S24。
在步骤S24中,通知控制部115通过将引导通知部113所通知的面部引导信息向应接下来通知的其它面部引导信息切换而重新开始引导。
在步骤S25中,通知控制部115判断是否结束引导。例如,通知引导中最后的面部引导信息而经过了规定时间时,结束引导。结束引导时,在步骤S25中判断为是,处理进入步骤S26。另一方面,未结束引导时,在步骤S25中判断为否,处理再次从步骤S20重复。
在步骤S26中,通知控制部115通过在基于引导通知部113的面部引导信息中使通知结束而结束引导。
在步骤S27中,设定处理部111基于当前引导中测定了的生物信息等更新存储部20的面部引导信息存储部201、服务器组3的测定数据存储服务器等中保存的概要信息。由此,通知控制处理结束。
另外,在此次之后进行的通知处理中,通过在步骤S14中判断为是,能够省略步骤S16的处理。此外,在此次之后进行的通知处理中,也可以省略步骤S11中应用的取得等处理。
根据以上说明的通知控制处理,用户能够不需要进行点触操作等操作而控制规定的通知内容(例如,为了切换规定的通知内容)。
即,根据通知装置1,能够使通知规定信息的通知装置更加简单地使用。
接下来,说明在以上说明了的通知控制处理中实际进行的通知的示例。
[通知例]
图10~图13分别是表示通知装置1所执行的通知控制处理中作为面部引导信息的通知而进行的显示的示例的示意图。另外,在这些图中,省略拍摄部16、发光部17的图示。
如图10所示,引导通知部113将面部引导信息G51、面部引导信息G52及面部引导信息G53作为面部引导信息通知。此外,镜部30中映出面向正面的用户的镜像。
图10所示的面部引导信息例如在用户面向了正面而满足了切换条件时显示。如图10所示,面部引导信息G51中显示说明按摩方法的文本。此外,面部引导信息G52中显示表示出按摩中应当按压的穴位的位置的点以及被分配给穴位的编号。
上述显示设置成如下形式:状态检测部112检测用户的轮廓等,基于该检测结果,在镜像中穴位对应的位置上显示。进而,面部引导信息G53中显示实际按压穴位时的图像。
用户通过参照这些面部引导信息,能够容易的掌握怎样进行按摩比较好。
之后,例如,这些面部引导信息显示后,用户的面部朝向持续规定时间面向正面时,满足切换条件。之后,通知控制部114将通过引导通知部113通知的面部引导信息如图11所示那样切换。
如图11所示,引导通知部113将引导信息G61及面部引导信息G62作为面部引导信息而通知。此外,镜部30中映出面向正面的用户的镜像。
如图11所示,在面部引导信息G61中,显示表示用户的生物信息(例如脉搏)的文本及图表。此外,在面部引导信息G62中,与面部引导信息G52一样显示穴位,并且,显示表示手的动作的箭头。
用户能够通过参照这些面部引导信息沿引导进行按摩。
之后,例如,这些面部引导信息显示后,用户的面部朝向持续规定时间面向正面时,满足切换条件。之后,通知控制部114切换通过引导通知部113通知的面部引导信息,通知“接下来,请面向侧面”等声音、文本。
识别了该通知的用户改变面部的朝向,当用户的面部朝向变为侧面时,满足切换条件。之后,通知控制部115如图12所示那样切换通过引导通知部113通知的面部引导信息。
如图12所示,引导通知部113将面部引导信息G71、面部引导信息G72及面部引导信息G73作为面部引导信息而通知。此外,镜部30中映出朝向左侧的用户的镜像。
如图12所示,面部引导信息G71中表示说明按摩方法的文本。此外,面部引导信息G72中显示表示出按摩中应当按压的穴位的位置的点以及被分配给穴位的编号。
上述显示设置成如下形式:状态检测部112检测用户的轮廓等,基于该检测结果,在镜像中穴位对应的位置上显示。面部引导信息G73中显示实际按压穴位并将脸部轮廓向上推起时的图像。
用户通过参照这些面部引导信息,能够容易的掌握怎样进行按摩比较好。
之后,例如,这些面部引导信息显示后,用户的面部朝向持续规定时间面向侧面时,满足切换条件。之后,通知控制部115将通过引导通知部113通知的面部引导信息如图13所示那样切换。
如图13所示,引导通知部113将面部引导信息G81、面部引导信息G82及面部引导信息G83作为面部引导信息而通知。此外,镜部30中映出面向左侧的用户的镜像。
如图13所示,在面部引导信息G81中,显示表示用户的生物信息(例如脉搏)的文本及图表。此外,在面部引导信息G82中,显示表示用于将脸部轮廓向上推起的手的动作的箭头。此外,面部引导信息G83中,其一部分被用户的镜像中的手指遮挡,但与面部引导信息G72一样显示穴位。
用户通过参照这些面部引导信息能够沿引导进行按摩。
通过如上述说明那样进行通知,用户能够不使用手而切换这些面部引导信息。
然后,用户通过参照这些面部引导信息,能够接受按摩中一系列的引导。
现有技术为了控制显示的规定的通知内容(例如,为了切换规定的通知内容),用户需要进行点触操作等操作,使用不方便,与之相对的,根据本发明,用户不使用手即能够切换这些面部引导信息,因此,能够使通知规定信息的通知装置更加方便地使用。
以前,用户参照按摩相关书籍的记载、DVD(Digital Versatile Disk)中记录的影像进行按摩,但这样的介质中,由于被单方面地显示、指示,即使用户使用错误的方法、不同的部位进行按摩也无法知晓。对此,在上述的通知装置1的引导中,面部引导信息与用户的镜像一起显示,因此,用户能够直接且适当地理解其内容。
此外,在按摩中容易产生这样的问题,例如由于手上附着有按摩用的按摩霜等,如果要求用户操作,操作用按钮、触摸平板容易污染。而且,在上述的通知装置1的引导中,由于不要求在引导信息的切换时进行这样的操作,能够防止操作用按钮、触摸平板容易污染这样的问题。
如以上那样构成的通知装置1包括状态检测部112、引导通知部113、判定部114和通知控制部115。状态检测部112基于依次输入的图像依次检测被摄物的面部的状态。
引导通知部113通知面部引导信息。判定部114判断通过引导通知部113依次检测完毕的面部的状态是否满足了已放置的面部引导信息所对应的状态。当通过判定部114判断出通过引导通知部113依次检测完毕的面部的状态满足了已通知的面部引导信息所对应的状态时,通知控制部115控制引导通知部113以使得通知与已通知的面部引导信息不同的其它面部引导信息。
由此,为了控制规定的通知内容(例如,为了切换规定的通知内容),用户能够不需要进行点触操作等操作。即,根据通知装置1,能够使通知规定信息的通知装置更加方便地使用。
即,现有技术为了控制显示的规定的通知内容(例如,为了切换规定的通知内容),用户需要进行点触操作等操作,使用不方便,与之相对的,根据本发明,用户不使用手就能够切换这些引导信息,因此,能够使通知规定信息的通知装置更加方便地使用。
通知装置1进一步包括拍摄部16,依次拍摄包含被摄物的面部图像的图像。状态检测部112基于由拍摄部16依次拍摄出的图像依次检测被摄物的面部的状态。
由此,通过拍摄部16拍摄出的图像,能够实时地控制规定的通知内容。
状态检测部112基于图像依次检测被摄物的面部的朝向。
由此,能够基于被摄物的面部的朝向控制规定的通知内容。
状态检测部112基于图像依次检测被摄物的面部的部位。
由此,能够基于被摄物的面部的部位控制规定的通知内容。
状态检测部112基于图像依次检测被摄物的生物信息。
由此,能够基于被摄物的生物信息控制规定的通知内容。
生物信息是被摄物的规定部位的生物信息。
由此,能够基于被摄物的规定部位的生物信息控制规定的通知内容。
引导通知部113通知面部引导信息所对应的状态。
由此,用户能够通过依照面部引导信息控制规定的通知内容。
面部引导信息对应的状态与规定的阈值关联。
判定部114基于依次检测的面部的状态与规定的阈值,判断依次检测的面部的状态是否满足了已通知的面部引导信息所对应的状态。
由此,能够基于阈值这样的基准控制规定的通知内容。
规定的阈值是表示规定的范围的阈值。状态检测部112根据图像依次检测被摄物的面部朝向。当依次检测的面部的朝向落在规定的阈值所表示的规定的范围内时,判定部114判断依次检测的面部的状态满足了已经通知的面部引导信息所对应的状态。
由此,能够基于阈值所表示的范围控制规定的通知内容。
当判断切换多个面部引导信息而通知的一系列引导中依次检测的面部的状态是否满足了已经通知的面部引导信息所对应的状态时,通知控制部115停止面部引导信息的切换,当依次检测的面部的状态满足了已经通知的面部引导信息所对应的状态时,控制引导通知部113以使得面部引导信息的切换重新开始。
由此,能够随着一系列的引导控制规定的通知内容。
通知装置1还包括显示被摄物的镜像的镜部30、显示引导通知部113所通知的引导信息的显示部19,镜部30的显示面与显示部19的显示面在观看方向上可同时观看地重叠配置。由此,能够重叠观看镜像与面部引导信息。
[变形例]
本发明不限于上述的实施方式,能够达成本发明目的的范围内的变形、改良等也包含于本发明中。例如,也可以将上述实施方式变形为以下的变形例。
<第一变形例>
在上述的实施方式中,作为切换条件的一例,使用了在引导通知部113检测出的用户的面部朝向成为已通知的面部引导信息所对应的面部的朝向时切换面部引导信息这样的切换条件。但不限于此,也可以使用其它切换条件。例如,也可以使用用户的生物信息相关的切换条件。
此时,例如也可以使用按摩中穴位按压等引起的血流变化相关的切换条件。例如,也可以将按压穴位之后的血流状态比按压穴位前快作为切换条件。或者,也可以将按压穴位后的血流量的状态比按压穴位前多作为切换条件。
其它的,例如也可以使用按摩中穴位按压等引起的皮肤温度变化、呼气温度变化相关的切换条件。此时,能够测量用户温度的热敏相机包含于拍摄部16。然后也可以是,进行使用了热敏相机的相对温度测量,将按压穴位的位置的温度比按压穴位前提高作为切换条件。此外,也可以是,进行使用了热敏相机的相对温度测量,将按压了穴位的用户的呼气温度、呼吸数(此时,测量基于温度变化的呼吸次数)比按压穴位前提高作为切换条件。
其他的,例如也可以使用按摩中穴位按压等引起的皮肤的含水量、出汗量的变化、体内脂肪的变化相关的切换条件。此时,能够测量这些的近红外线相机包含于拍摄部16。然后,通过近红外线相机对规定的部位进行测量。然后也可以是,将按压了穴位的用户的规定部位的皮肤的含水量、出汗量比按压穴位前多作为切换条件。此外,也可以是,将按压了穴位的用户的规定部位的体内脂肪比按压穴位前多作为切换条件。
<第二变形例>
与上述的第一变形例一样,也可以使用其它的切换条件。例如,也可以使用用户的面部等中规定部位的位置变化相关的切换条件。
此时,状态检测部112通过面部追踪指定用户的面部轮廓及轮廓内的用户规定部位的位置。然后,例如也可以将进行了笑容按摩的用户的嘴角等规定部位因笑容按摩移动至规定的位置作为切换条件。
<其它变形例>
例如,在上述的实施方式中,假设了通知装置1与服务器组3中的各个服务器配合,但也可以是,将各服务器的功能追加至通知装置1,仅通过通知装置1进行全部的处理。
此外,在上述的实施方式中,本发明适用的通知装置1以组装于便携自立式镜子的电子设备为例进行了说明,但不特别限定于此。
例如,本发明也能够适用于组装于观看身姿等大型镜子的电子设备、组装于安置型的洁面化妆台的电子设备、设置于浴室中的镜子形状的电子设备。
上述的一系列处理能够通过硬件实施,也能够通过软件实施。
换言之,图5的功能结构仅仅是示例,没有特别限定。即,通知装置1中包括能够将上述的一系列处理作为整体而执行的功能即可,为了实现该功能使用怎样的功能模块不限于图5的示例。
此外,一个功能模块可以由硬件单体构成,也可以由软件单体构成,还可以由它们的组合构成。
本实施方式的功能结构通过执行运算处理的处理器实现,能够用于本实施方式的处理器除了通过单处理器、多处理器及多核处理器等各种处理装置单体构成的情况以外,还包括组合了这些各种处理装置和ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)等处理电路的情况。
将一系列处理通过软件执行时,构成该软件的程序从网络、存储介质安装至计算机等。计算机可以是组装至专用硬件的计算机。此外,计算机也可以是,能够通过安装各种程序执行各种功能的计算机,例如通用的个人计算机。
包含这样的程序的存储介质不仅仅由为了向用户提供程序而与装置本体分离配置的图2的可移动介质100构成,由在预先组装于装置本体的状态下向用户提供的存储介质等构成。移动介质100例如由磁盘(包括软盘)、光盘或光磁盘等构成。
光盘例如由CD-ROM(Compact Disk Read Only Memory)、DVD、Blu-ray(注册商标)Disc(蓝光光盘)等构成。光磁盘例如由MD(Mini-Disk)等构成。此外,在预先组装于装置本体的状态下向用提供的存储介质,例如由存储程序的图4的ROM12、图4、图5的存储部20中包含的硬盘等构成。
另外,在本说明书中,描述存储介质中存储的程序的步骤不仅包含按照其顺序依时序进行的处理,还包括不一定按时序处理、并行或分别进行的处理。
此外,在本说明说中,系统的用语表示通过多个装置、多个单元等构成的整体装置。
以上说明了本发明的几个实施方式,但这些实施方式仅仅是示例,不限定本发明的技术范围。本发明能够取得其他各种实施方式,进而,在不脱离本发明主旨的范围内,能够进行省略、置换等各种变更。这些实施方式、其变形包含于本说明书中记载的范明范围、主旨中,并且,包含于权利要求范围中记载的发明和其等同范围中。

Claims (13)

1.一种通知装置,其特征在于,包括
状态检测单元,基于依次输入的图像依次检测被摄物的面部的状态;
通知单元,通知面部引导信息;
判定单元,判断经所述状态检测单元依次检测的面部的状态是否已经满足经所述通知单元通知了的面部引导信息所对应的状态;以及
控制单元,当所述判定单元判断出满足了经所述通知单元通知了的面部引导信息所对应的状态时,控制所述通知单元通知与所述通知了的面部引导信息不同的其它面部引导信息。
2.根据权利要求1所述的通知装置,其特征在于,
还包括拍摄单元,依次拍摄包含所述被摄物的面部图像的图像,
所述状态检测单元基于经所述拍摄单元依次拍摄完毕的图像依次检测所述被摄物的面部的状态。
3.根据权利要求1所述的通知装置,其特征在于,
所述状态检测单元基于所述图像依次检测所述被摄物的面部的朝向。
4.根据权利要求1所述的通知装置,其特征在于,
所述状态检测单元基于所述图像依次检测所述被摄物的面部的部位。
5.根据权利要求1所述的通知装置,其特征在于,
所述状态检测单元基于所述图像依次检测所述被摄物的生物信息。
6.根据权利要求5所述的通知装置,其特征在于,
所述生物信息是所述被摄物的规定部位的生物信息。
7.根据权利要求1所述的通知装置,其特征在于,
所述通知单元通知所述面部引导信息所对应的状态。
8.根据权利要求1所述的通知装置,其特征在于,
所述面部引导信息所对应的状态与规定的阈值关联,
所述判定单元基于依次检测的所述面部的状态与所述规定的阈值判断依次检测的所述面部的状态是否已经满足经通知了的面部引导信息所对应的状态。
9.根据权利要求8所述的通知装置,其特征在于,
所述规定的阈值是表示规定的范围的阈值,
所述状态检测单元根据所述图像依次检测所述被摄物的面部的朝向,
所述判定单元在依次检测的所述面部的朝向收容于所述规定的阈值所表示的规定的范围内时,判定依次检测的所述面部的状态已经满足通知了的面部引导信息所对应的状态。
10.根据权利要求1所述的通知装置,其特征在于,
所述控制单元在切换通知多个面部引导信息的一系列引导中,当所述判定单元判断依次检测的所述面部的状态是否已满足已通知的面部引导信息所对应的状态时,停止面部引导信息的切换,
所述控制单元在所述判定单元判定依次检测的所述面部的状态已经满足已通知的面部引导信息所对应的状态时,控制所述通知单元以使得所述面部引导信息的切换重新开始。
11.根据权利要求1所述的通知装置,其特征在于,还包括
第一显示部,显示所述被摄物的镜像;以及
第二显示部,显示所述通知单元通知的所述面部引导信息;
所述第一显示部的显示面与所述第二显示部的显示面在可见方向上同时可见地重叠配置。
12.一种计算机执行的通知方法,其特征在于,包括:
状态检测步骤,基于依次输入的图像依次检测被摄物的面部的状态;
通知步骤,通知面部引导信息;以及
控制步骤,当通过所述状态检测步骤依次检测出的面部的状态满足了经所述通知步骤通知了的面部引导信息所对应的状态时,控制所述通知步骤中的通知,以通知与所述通知了的面部引导信息不同的其它面部引导信息。
13.一种存储介质,其特征在于,存储有通过控制通知装置的计算机执行的程序,所述程序能够使计算机执行如下功能:
状态检测功能,基于依次输入的图像依次检测被摄物的面部的状态;
通知功能,通知面部引导信息;以及
控制功能,当通过所述状态检测功能依次检测出的面部的状态满足了经所述通知功能通知了的面部引导信息所对应的状态时,控制所述通知功能通知与所述通知了的面部引导信息不同的其它面部引导信息。
CN201910217665.0A 2018-03-22 2019-03-21 通知装置、通知方法及存储通知程序的介质 Active CN110297720B (zh)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2018-054464 2018-03-22
JP2018054464A JP7139638B2 (ja) 2018-03-22 2018-03-22 報知装置、報知方法及び報知プログラム

Publications (2)

Publication Number Publication Date
CN110297720A true CN110297720A (zh) 2019-10-01
CN110297720B CN110297720B (zh) 2023-05-12

Family

ID=67985492

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910217665.0A Active CN110297720B (zh) 2018-03-22 2019-03-21 通知装置、通知方法及存储通知程序的介质

Country Status (3)

Country Link
US (1) US11238629B2 (zh)
JP (1) JP7139638B2 (zh)
CN (1) CN110297720B (zh)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112749634A (zh) * 2020-12-28 2021-05-04 广州星际悦动股份有限公司 基于美容设备的控制方法、装置以及电子设备
WO2022232968A1 (en) * 2021-05-04 2022-11-10 Nutricia Early Life Nutrition (Shanghai) Co.,Ltd. A massage coaching method, device and application thereof

Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012113747A (ja) * 2007-08-10 2012-06-14 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
CN103888643A (zh) * 2012-12-21 2014-06-25 卡西欧计算机株式会社 信息报知装置、信息报知方法
CN103957354A (zh) * 2014-05-08 2014-07-30 深圳市中兴移动通信有限公司 一种移动终端及其引导拍照的方法和装置
CN104063157A (zh) * 2013-03-21 2014-09-24 卡西欧计算机株式会社 通知控制装置以及通知控制方法
US20150279261A1 (en) * 2014-03-26 2015-10-01 Sony Corporation Image display apparatus, color filter, and image signal processing apparatus
US20160150213A1 (en) * 2014-11-21 2016-05-26 Christopher M. MUTTI Imaging system for object recognition and assessment
CN106203320A (zh) * 2016-07-06 2016-12-07 惠州Tcl移动通信有限公司 一种基于移动终端的人脸识别优化方法及系统
US20160357578A1 (en) * 2015-06-03 2016-12-08 Samsung Electronics Co., Ltd. Method and device for providing makeup mirror
US20170143442A1 (en) * 2015-11-25 2017-05-25 Camplex, Inc. Surgical visualization systems and displays
CN106991378A (zh) * 2017-03-09 2017-07-28 广东欧珀移动通信有限公司 基于深度的人脸朝向检测方法、检测装置和电子装置
CN107395977A (zh) * 2012-12-27 2017-11-24 松下电器(美国)知识产权公司 信息通信方法

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001216386A (ja) 2000-02-02 2001-08-10 Nippon Telegr & Teleph Corp <Ntt> 化粧支援装置
JP4056443B2 (ja) * 2003-08-21 2008-03-05 Necフィールディング株式会社 健康診断システムおよびプログラム
US20080165195A1 (en) * 2007-01-06 2008-07-10 Outland Research, Llc Method, apparatus, and software for animated self-portraits
JP5302793B2 (ja) 2009-06-24 2013-10-02 ソニーモバイルコミュニケーションズ株式会社 美粧支援装置、美粧支援方法、美粧支援プログラム、及び携帯端末装置
JP2011067371A (ja) * 2009-09-25 2011-04-07 Glory Ltd 体温検査装置、体温検査システムおよび体温検査方法
JP2011110215A (ja) 2009-11-26 2011-06-09 Toyota Motor Kyushu Inc リハビリテーション用システム、プログラム、およびプログラムを記録したコンピュータ読み取り可能な記録媒体
JP2012010955A (ja) * 2010-06-30 2012-01-19 Terumo Corp 健康状態監視装置
JP6031258B2 (ja) * 2012-05-23 2016-11-24 シャープ株式会社 表示装置
CN105393528B (zh) * 2013-07-22 2018-11-02 松下电器(美国)知识产权公司 信息处理装置、信息处理装置的控制方法以及记录介质
TWI669103B (zh) * 2014-11-14 2019-08-21 日商新力股份有限公司 資訊處理裝置、資訊處理方法及程式
JP2016161835A (ja) 2015-03-03 2016-09-05 シャープ株式会社 表示装置、制御プログラム、および制御方法
US9930507B2 (en) * 2015-03-06 2018-03-27 Qualcomm Incorporated Managing emergency communication session termination
US10324739B2 (en) * 2016-03-03 2019-06-18 Perfect Corp. Systems and methods for simulated application of cosmetic effects
JP2018023768A (ja) * 2016-07-28 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 被測定者特定方法、被測定者特定システム、血圧の測定状態判定方法、血圧の測定状態判定装置及び血圧の測定状態判定プログラム
EP3552079B1 (en) * 2016-12-06 2022-05-25 Koninklijke Philips N.V. Displaying a guidance indicator to a user
CN108734070A (zh) * 2017-04-24 2018-11-02 丽宝大数据股份有限公司 腮红指引装置及方法
US10646022B2 (en) * 2017-12-21 2020-05-12 Samsung Electronics Co. Ltd. System and method for object modification using mixed reality

Patent Citations (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2012113747A (ja) * 2007-08-10 2012-06-14 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
CN103888643A (zh) * 2012-12-21 2014-06-25 卡西欧计算机株式会社 信息报知装置、信息报知方法
CN107395977A (zh) * 2012-12-27 2017-11-24 松下电器(美国)知识产权公司 信息通信方法
CN104063157A (zh) * 2013-03-21 2014-09-24 卡西欧计算机株式会社 通知控制装置以及通知控制方法
US20150279261A1 (en) * 2014-03-26 2015-10-01 Sony Corporation Image display apparatus, color filter, and image signal processing apparatus
CN103957354A (zh) * 2014-05-08 2014-07-30 深圳市中兴移动通信有限公司 一种移动终端及其引导拍照的方法和装置
US20160150213A1 (en) * 2014-11-21 2016-05-26 Christopher M. MUTTI Imaging system for object recognition and assessment
US20160357578A1 (en) * 2015-06-03 2016-12-08 Samsung Electronics Co., Ltd. Method and device for providing makeup mirror
US20170143442A1 (en) * 2015-11-25 2017-05-25 Camplex, Inc. Surgical visualization systems and displays
CN106203320A (zh) * 2016-07-06 2016-12-07 惠州Tcl移动通信有限公司 一种基于移动终端的人脸识别优化方法及系统
CN106991378A (zh) * 2017-03-09 2017-07-28 广东欧珀移动通信有限公司 基于深度的人脸朝向检测方法、检测装置和电子装置

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
AFEF SAMET ELLOUZE: ""Integrating semantic dimension into openEHR archetypes for the management of cerebral palsy electronic medical records"" *
余程胜: ""汽车4S店集客识别及管理系统的设计与实现"" *

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112749634A (zh) * 2020-12-28 2021-05-04 广州星际悦动股份有限公司 基于美容设备的控制方法、装置以及电子设备
WO2022232968A1 (en) * 2021-05-04 2022-11-10 Nutricia Early Life Nutrition (Shanghai) Co.,Ltd. A massage coaching method, device and application thereof

Also Published As

Publication number Publication date
CN110297720B (zh) 2023-05-12
JP7139638B2 (ja) 2022-09-21
US20190295301A1 (en) 2019-09-26
JP2019165851A (ja) 2019-10-03
US11238629B2 (en) 2022-02-01

Similar Documents

Publication Publication Date Title
TWI669103B (zh) 資訊處理裝置、資訊處理方法及程式
JP4481663B2 (ja) 動作認識装置、動作認識方法、機器制御装置及びコンピュータプログラム
CN114502061A (zh) 使用深度学习的基于图像的自动皮肤诊断
CN110575001B (zh) 显示控制装置、显示控制方法及存储显示控制程序的介质
KR102322029B1 (ko) 생체 정보 획득 방법 및 이를 위한 장치
US11800989B2 (en) Electronic device, control method for the electronic device, and storage medium
CN112741609B (zh) 电子装置、电子装置的控制方法以及介质
CN110297720A (zh) 通知装置、通知方法及存储通知程序的介质
JP2013182062A (ja) 表示装置および投影装置
CN110174937A (zh) 注视信息控制操作的实现方法及装置
JP5942138B2 (ja) 心身状態回復促進装置およびこれを用いた心身状態回復システム
JP4945617B2 (ja) 画像処理装置、画像処理方法、画像処理プログラム
US10915617B2 (en) Image processing apparatus, image processing method, and recording medium
CN110993051B (zh) 判定装置、判定方法以及记录介质
JP7415318B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP2020057153A (ja) 表示制御装置、表示制御方法及び表示制御プログラム
JP7238835B2 (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
CN105450869B (zh) 一种有害光提示方法及装置
US20230334641A1 (en) Skin Care Auxiliary Method, Device, and Storage Medium

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant