JP2019165851A - 報知装置、報知方法及び報知プログラム - Google Patents

報知装置、報知方法及び報知プログラム Download PDF

Info

Publication number
JP2019165851A
JP2019165851A JP2018054464A JP2018054464A JP2019165851A JP 2019165851 A JP2019165851 A JP 2019165851A JP 2018054464 A JP2018054464 A JP 2018054464A JP 2018054464 A JP2018054464 A JP 2018054464A JP 2019165851 A JP2019165851 A JP 2019165851A
Authority
JP
Japan
Prior art keywords
notification
state
guidance information
face
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018054464A
Other languages
English (en)
Other versions
JP7139638B2 (ja
Inventor
大塚 利彦
Toshihiko Otsuka
利彦 大塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2018054464A priority Critical patent/JP7139638B2/ja
Priority to US16/360,833 priority patent/US11238629B2/en
Priority to CN201910217665.0A priority patent/CN110297720B/zh
Publication of JP2019165851A publication Critical patent/JP2019165851A/ja
Application granted granted Critical
Publication of JP7139638B2 publication Critical patent/JP7139638B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1601Constructional details related to the housing of computer displays, e.g. of CRT monitors, of flat displays
    • G06F1/1605Multimedia displays, e.g. with integrated or attached speakers, cameras, microphones
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/1633Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
    • G06F1/1684Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
    • G06F1/1686Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/90Details of database functions independent of the retrieved data types
    • G06F16/95Retrieval from the web
    • G06F16/954Navigation, e.g. using categorised browsing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/0304Detection arrangements using opto-electronic means
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00Arrangements for program control, e.g. control units
    • G06F9/06Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46Multiprogramming arrangements
    • G06F9/54Interprogram communication
    • G06F9/542Event management; Broadcasting; Multicasting; Notifications
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/145Illumination specially adapted for pattern recognition, e.g. using gratings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/25Determination of region of interest [ROI] or a volume of interest [VOI]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/166Detection; Localisation; Normalisation using acquisition arrangements
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/60Static or dynamic means for assisting the user to position a body part for biometric acquisition
    • G06V40/67Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/15Biometric patterns based on physiological signals, e.g. heartbeat, blood flow

Abstract

【課題】所定の情報を報知する報知装置を、より簡便に利用可能とする【解決手段】報知装置1は、状態検出部と、ガイダンス報知部と、報知制御部と、を備える。状態検出部は、逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する。ガイダンス報知部は、顔の状態に関するガイダンス情報を報知する。報知制御部は、ガイダンス報知部により逐次検出された顔の状態が、報知されたガイダンス情報に対応する状態を満たした場合に、報知したガイダンス情報とは異なる他のガイダンス情報を報知するようにガイダンス報知部を制御する。【選択図】図2

Description

本発明は、報知装置、報知方法及び報知プログラムに関する。
近年、被写体の鏡像と、所定の報知内容とを重畳して表示する表示装置が知られている。例えば、透過性のあるハーフミラーにより構成された鏡部の奥側に、液晶ディスプレイ等により構成された表示部を配置することにより、表示部に表示された所定の報知内容と、鏡部に反射する鏡像とを重畳して表示することができる(例えば、特許文献1参照)。
特開2016−161835号公報
しかしながら、特許文献1に開示の技術等の従来の技術では、表示される所定の報知内容を制御するために(例えば、所定の報知内容を切り替えるために)、ユーザがタッチ操作等の操作を行う必要がある。そのため、ユーザにとって、必ずしも使い勝手はよくなかった。
本発明は、このような状況に鑑みてなされたものであり、ユーザにとって、所定の情報を報知する報知装置をより簡便に利用可能とすることを目的とする。
上記目的を達成するため、本発明の一態様の報知装置は、
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
前記顔の状態に関するガイダンス情報を報知する報知手段と、
前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
を備えることを特徴とする。
本発明によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
本発明の一実施形態に係る報知システムの構成を示すブロック図である。 本発明の一実施形態に係る報知装置の前面の外観構成を示す構成図である。 本発明の一実施形態に係る報知装置の側面の外観構成を示す構成図である。 本発明の一実施形態に係る報知装置のハードウェアの構成を示すブロック図である。 本発明の一実施形態に係る報知装置の機能的構成のうち、報知制御処理を実行するための機能的構成を示す機能ブロック図である。 本発明の一実施形態に係る報知装置の状態検出部による被写体の顔の向きの検出方法を説明する第1の模式図である。 本発明の一実施形態に係る報知装置の状態検出部による被写体の顔の向きの検出方法を説明する第2の模式図である。 本発明の一実施形態に係る報知装置が実行する報知制御処理の流れを説明する第1のフローチャートである。 本発明の一実施形態に係る報知装置が実行する報知制御処理の流れを説明する第2のフローチャートである。 本発明の一実施形態に係る報知装置が実行する報知制御処理における、ガイダンス情報の表示の第1の例を示す模式図である。 本発明の一実施形態に係る報知装置が実行する報知制御処理における、ガイダンス情報の表示の第2の例を示す模式図である。 本発明の一実施形態に係る報知装置が実行する報知制御処理における、ガイダンス情報の表示の第3の例を示す模式図である。 本発明の一実施形態に係る報知装置が実行する報知制御処理における、ガイダンス情報の表示の第4の例を示す模式図である。
以下、本発明の実施形態について、図面を用いて説明する。
本発明の実施形態に係る報知装置1は、ユーザが携帯可能な自立式の鏡として構成される。報知装置1は、鏡を視認するユーザに対して、複数のガイダンス情報を切り替えて報知することにより、一連のガイダンスを行う。例えば、報知装置1は、顔のマッサージ等に関する一連のガイダンスを行う。
この場合に、報知装置1は、ユーザを被写体として撮像し、撮像したユーザの顔等の状態をフェイストラッキングにより検出する。そして、報知装置1は、検出したユーザの状態が、所定の条件を満たした場合に、報知するガイダンス情報を切り替える。
このような報知装置1によれば、一般的な技術とは異なり、所定の報知内容を制御するために(例えば、所定の報知内容を切り替えるために)、ユーザがタッチ操作等の操作を行う必要をなくすことができる。
つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
[システム構成]
図1は、本実施形態に係る報知装置1が含まれる報知システムSの全体構成を示すブロック図である。図1に示すように、報知システムSは、複数の報知装置1、ネットワーク2及びサーバ群3を含む。
報知装置1の台数には、特に制限はなく、n台(nは、任意の自然数)の報知装置1が報知システム1に含まれていてよい。なお、以下の説明において、n台の報知装置1を特に区別することなく説明する場合には、符号の末尾のアルファベットを省略し、単に「報知装置1」と称する。
報知装置1は、上述したとおりユーザの状態に基づいて、複数のガイダンス情報を切り換えて報知することにより、一連のガイダンスを行う装置である。報知装置1は、ネットワーク2を介して、サーバ群3に含まれる各サーバと、相互に通信可能に接続されている。
ネットワーク2は、例えば、インターネットや、LAN(Local Area Network)や、携帯電話網の何れか又はこれらを組み合わせたネットワークにより実現される。
サーバ群3には、報知装置1と協働する各種のサーバが含まれる。例えば、サーバ群3には、報知装置1のユーザを認証するための認証サーバが含まれる。また、例えば、サーバ群3には、報知装置1の機能を実現するためのアプリケーションソフトウェアを配信するアプリケーション配信サーバが含まれる。更に、例えば、サーバ群3には、ユーザに関する設定情報やユーザによる報知装置1の利用履歴等を含んだ情報である、ユーザのプロファイル情報を格納する測定データ格納サーバが含まれる。
ただし、これは一例に過ぎず、他の機能を有するサーバがサーバ群3に含まれていてもよい。また、サーバ群3に含まれる複数のサーバを、それぞれ別個のサーバ装置で実現してもよく、単一のサーバ装置にて実現するようにしてもよい。
[外観構成]
図2は、本発明の一実施形態に係る報知装置1の前面の外観構成を示す構成図である。また、図3は、報知装置1の側面の外観構成を示す構成図である。報知装置1の前面の大きさは、例えば、ISO(International Organization for Standardization)216で規定されるA4サイズに形成される。
図2及び図3に示すように、報知装置1は、鏡部30と、脚部31とを含んで構成される。鏡部30は鏡である。
また、脚部31及びヒンジ部32は、報知装置1を自立させるための機構である。脚部31は、ヒンジ部32によって鏡部30に回動可能に接合される。
図3(A)に示すように、ユーザは、報知装置1を携帯する際に、鏡部30の側面と、脚部31の側面とを揃えて、嵩張らない形状として持ち運ぶことができる。一方で、図3(B)に示すように、ユーザは、報知装置1を机等に設置して利用する際には、ヒンジ部32を中心点として脚部31を回動させることにより、報知装置1を自立させることができる。なお、報知装置1を自立可能とするために、ヒンジ部32は、脚部31が所定の角度を保った状態で保持するための構造を有している。
図2に示すように、報知装置1は、外観に表れる構成として、更に、発光部17、入力部18、及び表示部19を備えている。
発光部17は、鏡部30に正対するユーザを照らすために発光する部分である。発光部17が、ユーザを照らすことにより、報知装置1は、照明付きの鏡として機能する。
発光部17は、例えば、鏡部30の左端及び右端に複数箇所配置される。ただし、図示の都合上、図2では、1つの発光部17についてのみ符号を付し、他の発光部17については符号を省略する。
入力部18は、ユーザによる操作入力を受け付ける部分である。入力部18は、例えば複数のボタンにより実現される。図中では、一例として、小顔エステ、笑顔トレーニング、及び生体情報の記録等の各種のモードへの切り換えボタンや、報知装置1の電源のオン/オフの切り替えを行うためのボタンを図示する。
表示部19は、各種の情報を表示することにより、これら各種の情報をユーザに対して報知する部分である。表示部19は、例えば、文字等のメッセージや、画像等を表示する。報知装置1では、鏡部30の反射面と、表示部19の表示面とが、ユーザから同時に視認可能に、鏡部30に正対するユーザの視認方向に重畳して配置される。
例えば、液晶ディスプレイにより構成された表示部19が、ハーフミラーにより構成された鏡部30の視認方向における奥側に、並行に重ねて配置される。
このような配置により、ユーザは、鏡部30により反射された自身の顔と、表示部19に表示された情報とを同時に視認することができる。なお、図2の例では、画面上部に表示部19の表示領域を設け、画面下部に鏡部30の反射領域を設けている。
また、報知装置1は、更に撮像部16を備える。撮像部16は、報知装置1の利用時に、鏡部30に正対するユーザを被写体として撮像する部分である。撮像部16は、鏡部30に正対するユーザの顔画像を撮像可能な位置に配置される。
以上、報知装置1の外観構造について説明をした。ただし、この構造は一例に過ぎず、報知装置1の外観構造は、この例に限定されない。
例えば、発光部17が、鏡部30の上部や下部に配置されてもよく、鏡部30の周辺全体に配置されてもよい。更に、例えば、入力部18の数や配置が変更されてもよい。また、例えば、表示部19の一部がタッチパネルとして構成され、入力部18と表示部19とが一体に構成されてもよい。
また、例えば、表示部19により実現される表示領域は、画面上部に配置してもよいが、他の位置に配置してもよい。例えば、鏡部30の中央部分にユーザの顔が映し出されることを想定し、その中央部分の周辺に表示領域を配置するようにしてもよい。
更に、例えば、報知装置1の前面の一部に鏡部30を配置し、前面の他の一部に表示部19を配置するようにしてもよい。つまり、鏡部30と表示部19とを必ずしも重畳して配置させなくてもよい。
更に、例えば、上述したようにハーフミラーにより鏡部30を構成し、一般的な液晶ディスプレイにより表示部19を構成するのではなく、一般的な鏡により鏡部30を構成し、透過型の液晶ディスプレイにより表示部19を構成するようにしてもよい。この場合、一般的な鏡により構成された鏡部30が、透過型の液晶ディスプレイにより構成された表示部19の視認方向における奥側に、並行に重ねて配置されるようにするとよい。
更に、例えば、撮像部16を、表示部19と同様に、ハーフミラーにより構成された鏡部30の視認方向における奥側に、表示部19と並行に重ねて配置するようにしてもよい。
[ハードウェア構成]
図4は、報知装置1のハードウェアの構成を示すブロック図である。
図4に示すように、報知装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、発光部17と、入力部18と、表示部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
CPU11は、ROM12に記録されているプログラム、または、記憶部20からRAM13にロードされたプログラムに従って各種の処理を実行する。
RAM13には、CPU11が各種の処理を実行する上において必要なデータ等も適宜記憶される。
CPU11、ROM12及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インターフェース15も接続されている。入出力インターフェース15には、撮像部16と、発光部17と、入力部18と、表示部19と、記憶部20と、ドライブ22とが接続されている。
撮像部16は、図示はしないが、光学レンズ部と、イメージセンサと、を備えている。
光学レンズ部は、被写体を撮影するために、光を集光するレンズ、例えばフォーカスレンズやズームレンズ等で構成される。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
撮像部16にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
イメージセンサは、光電変換素子や、AFE(Analog Front End)等から構成される。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、CPU11等に適宜供給される。
発光部17は、RGBカラーモデルにおける各色に対応するLED(Light Emitting Diode)等の発光体と、発光体を制御する制御回路とから構成される。制御回路は、発光体を制御することにより、照度や、RGBカラーモデルに基づいて発光体の発光における色成分を調整する。発光部17は、報知装置1の起動と共に、RGBの色成分を所定の状態に調整して発光することにより、ユーザを照らす。この所定の状態とは、例えば、鏡部30に映し出されたユーザの顔が自然に見える状態である。また、発光部17は、CPU11からの指示に基づいて、例えば、ユーザの顔等の状態が検出しやすくなるように、照度や色成分を調整して発光する。
入力部18は、各種ボタンやマイク等で構成され、ユーザの指示操作や指示音声に応じて各種情報を入力する。
表示部19は、液晶ディスプレイ等で構成され、CPU11が出力する画像データに対応する画像を表示する。鏡部30は、ハーフミラーで構成され、例えば、ユーザの顔が映し出される。表示部19と、鏡部30の配置については、図2を参照して上述した通りである。
記憶部20は、DRAM(Dynamic Random Access Memory)等の半導体メモリで構成され、各種データを記憶する。
通信部21は、CPU11が、ネットワーク2を介して他の装置(例えば、サーバ群3に含まれる各サーバ)との間で通信を行うための通信制御を行う。
ドライブ22は、リムーバブルメディア100は装着可能なインターフェースにより構成される。ドライブ22には、磁気ディスク、光ディスク、光磁気ディスク、あるいは半導体メモリ等よりなる、リムーバブルメディア100が適宜装着される。リムーバブルメディア100には、後述の報知制御処理を実行するためのプログラムや、画像データ等の各種データが格納される。ドライブ22によってリムーバブルメディア100から読み出されたプログラムや、画像データ等の各種のデータは、必要に応じて記憶部20にインストールされる。
なお、報知装置1は、上述したハードウェアに加えて、他のハードウェアを更に備えていてもよい。例えば、報知装置1は、ランプやスピーカあるいは振動用モータ等で構成され、光や音声あるいはバイブレーション信号を出力する出力部を備えていてもよい。
[機能的構成]
図5は、報知装置1の機能的構成のうち、報知制御処理を実行するための機能的構成を示す機能ブロック図である。
報知制御処理とは、報知装置1が、複数のガイダンス情報を切り替えて報知することにより、一連のガイダンスを行う処理である。
報知制御処理が実行される場合、図5に示すように、CPU11において、設定処理部111と、状態検出部112と、ガイダンス報知部113と、報知制御部114とが機能する。
また、記憶部20の一領域には、ガイダンス情報記憶部201が設定される。
ガイダンス情報記憶部201には、報知制御処理に関する各種のデータが格納される。例えば、ガイダンス情報記憶部201には、報知制御処理において報知されるガイダンス情報を生成するための、画像データ、テキストデータ、及び音データ等が格納される。また、ガイダンス情報記憶部201には、一連のガイダンスにおける複数のガイダンス情報の報知の順番や、報知するガイダンス情報を次のガイダンス情報へ切り替えるための条件や、各種ユーザインタフェースを生成するためのデータ等も格納される。更に、ガイダンス情報記憶部201には、報知制御処理に関して生成されたユーザのプロファイル情報が格納される。
なお、上述したようなガイダンス情報記憶部201に格納される各情報は、記憶部20にのみ格納されていてもよいが、ドライブ22によってリムーバブルメディア100に適宜格納されるようにしてもよい。更に、ガイダンス情報記憶部201に格納される各情報は、サーバ群3に含まれる測定データに適宜格納されるようにしてもよい。
設定処理部111は、報知制御処理に関する設定等の制御を行う部分である。設定処理部111は、例えば、サーバ群3に含まれるアプリケーション配信サーバから、報知制御処理を行うためのアプリケーションソフトウェアを取得して、このアプリケーションソフトウェアを動作させる。また、設定処理部111は、例えば、サーバ群3に含まれる認証サーバと通信を行うことにより、報知制御処理を行うユーザを認証する。更に設定処理部111は、例えば、サーバ群3に含まれる測定データ格納サーバと通信を行うことにより、報知制御処理におけるユーザのプロファイル情報を更新する。
状態検出部112は、報知制御処理において、ユーザの顔等の状態を検出する部分である。そのために、状態検出部112は、撮像部16が撮像した、被写体としてユーザを含む画像を解析して、画像に含まれるユーザの状態を検出する。
例えば、状態検出部112は、ユーザの顔を含む顔画像に対して、輪郭や部位のパターンマッチングや肌色識別等のフェイストラッキングに関する処理を行うことで、顔の輪郭や眼の位置や肌の領域を認識し、額、頬、顎、及び首等の所定の領域の検出を行う。そして、状態検出部112は、この検出した所定の領域に基づいて、ユーザの顔等の状態を検出する。
本実施形態では、一例として、状態検出部112は、検出した所定の領域の位置関係に基づいて、表示部19及び鏡部30を視認しているユーザの顔の角度(すなわち、ユーザの顔の向き)を逐次検出する。状態検出部112による、ユーザの顔の向きの検出方法については、図6及び図7を参照して後述する。
また、状態検出部112は、他にも、実際にユーザに触れることなく、ユーザに対しては非接触で生体情報(バイタルデータと呼ばれることもある。)の計測を行うようにしてもよい。この場合、上記の検出された検出された所定の領域は、非接触で生体情報を取得するための関心領域(ROI:Region of interest)に相当する。
そして、状態検出部112は、例えば、この関心領域における皮下の血液中ヘモグロビンが吸収する緑色信号に基づいて、心拍周波数近傍の成分を分析することにより計測を行う。状態検出部112が計測する生体情報は、例えば、脈拍、脈波、及び血流等である。
また、状態検出部112は、1つの関心領域の画像を対象として計測を行ってもよいが、複数の関心領域の画像を対象として計測を行ってもよい。この場合、状態検出部112は、脈拍の遅延がわかる離れた2点(例えば頬と額、又は、額か頬と手のひら等)の関心領域を対象として測定を行なうことにより、例えば、脈波伝播速度や、脈波伝播速度と相関する血圧変動を測定することができる。
また、状態検出部112は、測定した生体情報に対してノイズ除去等を行うことにより、平均化処理を施すようにしてもよい。
なお、状態検出部112による生体情報の測定は、例えば、下記の参考文献に記載の技術を利用することにより行うことができる。
<参考文献>
東北大学 サイバーサイエンスセンター 先端情報技術研究部、東北大学 革新的イノベーション研究機構、“血行状態モニタリング装置「魔法の鏡」の開発に成功”、[online]、平成28年9月27日、[平成29年12月15日検索]、インターネット<URL:http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
状態検出部112は、逐次検出したユーザの顔等の状態(ここでは、一例として顔の向き)を、逐次、報知制御部114に対して出力する。
ガイダンス報知部113は、報知制御処理において、複数のガイダンス情報を切り替えて報知する部分である。ガイダンス報知部113は、報知制御部114の制御に基づいて、ガイダンス情報記憶部201からガイダンス情報を読み込む。また、ガイダンス報知部113は、報知制御部114の制御に基づいて、読み込んだガイダンス情報を報知する。本実施形態では、一例として、ガイダンス報知部113は、画像データやテキストデータを含んだガイダンス情報を読み出し、読み出したガイダンス情報から生成される画像やテキストを、表示部19に表示することにより、報知を行う。
具体的に、ガイダンス報知部113は、例えば、ユーザの顔が映っている位置と重複しない領域に(すなわち、ユーザの顔と重畳しない領域に)、一連のガイダンスにおいてユーザが向くべき方向や、マッサージの方法を画像やテキストで自動配置し表示する。他にも、ガイダンス報知部113は、例えば、ユーザの顔が映っている位置と重複しない領域に(すなわち、ユーザの顔と重畳しない領域に)、生体情報を報知するための波形データや必要な文字、画像情報を自動配置し表示する。
ガイダンス報知部113が、このような情報をリアルタイムにデザインし直して表示することで、一連のガイダンスを、ユーザに伝わりやすく、適切に行うことができる。
あるいは、ガイダンス報知部113は、例えば、ユーザの顔が映っている位置に重ねて情報を表示するようにしてもよい。例えば、矢印や吹き出しを示すCG(Computer graphics)を使ってガイダンス情報を表示するようにしてもよい。
また、ガイダンス報知部113は、これらの表示を組み合わせるようにしてもよい。例えば、ガイダンス報知部113は、マッサージの内容を示すテキストはユーザの顔が映っている位置と重複しない領域に表示し、マッサージの際の手の動きを示す矢印はユーザの顔が映っている位置に重ねて情報を表示するようにしてもよい。
なお、表示による報知は、報知方法の一例であり、ガイダンス報知部113は、他の方法で報知を行うようにしてもよい。例えば、ガイダンス報知部113は、音データを含んだガイダンス情報を読み出し、読み出したガイダンス情報から生成される音声や音楽をスピーカから出力することにより報知を行ってもよい。また、他にも、例えば、ガイダンス報知部113は、発光部17による発光状態を変化させることにより報知を行ってもよい。
報知制御部114は、報知制御処理において、ガイダンス報知部113が行う報知を制御する部分である。報知制御部114は、状態検出部112から入力されたユーザの顔等の状態に基づいて、複数のガイダンス情報を切り替えてガイダンス報知部113に報知をさせることによって、一連のガイダンスを実現する。
具体的には、報知制御部114は、ガイダンス情報記憶部201から、一連のガイダンスにおける複数のガイダンス情報の報知の順番や、報知するガイダンス情報を次のガイダンス情報へ切り替えるための条件(以下、「移行条件」と称する。)を読み込む。また、報知制御部114は、状態検出部112から入力されたユーザの顔等の状態が、報知したガイダンス情報に対応する状態を満たした場合に、報知したガイダンス情報とは異なる他のガイダンス情報を報知するようにガイダンス報知部113を制御する。
この、ガイダンス情報に対応する移行条件は、様々に定めることができる。
例えば、移行条件として、ガイダンス報知部113が検出したユーザの顔等の状態が、報知したガイダンス情報に対応する状態となることという移行条件を用いることができる。
本実施形態では、一例として、ユーザの顔の向きを検出することとしているので、移行条件としては、ガイダンス報知部113が検出したユーザの顔の向きが、報知したガイダンス情報と対応する顔の向きとなった場合に、ガイダンス情報を切り替えるという移行条件を用いる。
ただし、移行条件は、これに限られず、例えば、ガイダンス情報を報知してから所定の時間が経過したことや、状態検出部112が検出した生体情報が所定の値となったこと等を移行条件としてもよい。移行条件は、対応するガイダンス情報と紐付けられてガイダンス情報記憶部201に記憶される。
[顔の向きの検出]
状態検出部112による、ユーザの顔の角度(すなわち、ユーザの顔の向き)の検出について、図6及び図7を参照して説明する。図6は、被写体の横方向における顔の向きの検出方法を説明する模式図である。図7は、被写体の縦方向における顔の向きの検出方法を説明する模式図である。
状態検出部112は、上述したように、所定の領域の位置関係に基づいて、表示部19及び鏡部30を視認しているユーザの顔の向きを逐次検出する。
まず、図6を参照して被写体の横方向(すなわち、左右方向)における顔の向きの検出方法について説明をする。なお、以下の図6を参照した説明では、実際のユーザおける左ではなく、鏡像における左を、左と扱って説明する。また、実際のユーザにおける右ではなく、鏡像における右を、右と扱って説明する。
左右の顔の向きの検出を行う前提として、状態検出部112は、所定の領域として、ユーザの鼻の領域の位置、又は、ユーザのこめかみの(すなわち、両眼の中央)の領域の位置を検出する。更に、状態検出部112は、ユーザの顔の、左右それぞれの輪郭の位置を検出する。
更に、状態検出部112は、検出したユーザの鼻の領域の位置、又は、ユーザのこめかみの(すなわち、両眼の中央)の領域の位置から、ユーザの左の輪郭までの距離である距離Aを算出する。また、状態検出部112は、検出したユーザの鼻の領域の位置、又は、ユーザのこめかみの(すなわち、両眼の中央)の領域の位置から、ユーザの右の輪郭までの距離である距離Bを算出する。
そして、状態検出部112は、図6(a)に示すように、距離Aと距離Bが概ね等しい場合に、ユーザの横方向の顔の向きは、正面であると判定する。また、状態検出部112は、図6(b)に示すように、距離Aが距離Bよりも大きい場合に、ユーザの横方向の顔の向きは、右向きであると判定する。更に、状態検出部112は、図6(c)に示すように、距離Bが距離Aよりも小さい場合に、ユーザの横方向の顔の向きは、左向きであると判定する。
状態検出部112は、このような比率に基づいた判定を行うことにより、被写体の横方向(すなわち、左右方向)における顔の向きの検出を行うことができる。また、状態検出部112は、横方向の顔の向きの検出における距離Aと距離Bの比率に基づいて、ユーザの顔の横方向の角度を計測することもできる。
次に、図7を参照して被写体の縦方向(すなわち、上下方向)における顔の向きの検出方法について説明をする。
上下の顔の向きの検出を行う前提として、状態検出部112は、所定の領域として、ユーザの鼻の領域の位置を検出する。更に、状態検出部112は、ユーザの顔の、上下それぞれの輪郭の位置を検出する。
更に、状態検出部112は、検出したユーザの鼻の領域の位置から、ユーザの上の輪郭までの距離である距離Cを算出する。また、状態検出部112は、検出したユーザの鼻の領域の位置から、ユーザの下の輪郭までの距離である距離Dを算出する。
そして、状態検出部112は、図7(d)に示すように、距離Cと距離Dを合算した大きさが概ね最大となるユーザの縦方向の顔の向きとなった場合に、ユーザの縦方向の顔の向きは、正面であると判定する。また、状態検出部112は、距離Cと距離Dを合算した大きさが概ね最大となった際の、比率Eの値を、距離Cの値を距離Dの値で除算することにより求める。
また、状態検出部112は、図7(e)に示すように、距離Cの値を距離Dの値で除算した値が、上記の比率Eの値よりも小さい場合に、ユーザの縦向の顔の向きは、上向きであると判定する。更に、状態検出部112は、図7(f)に示すように、距離Cの値を距離Dの値で除算した値が、上記の比率Eの値よりも大きい場合に、ユーザの縦向の顔の向きは、下向きであると判定する。
状態検出部112は、このような比率に基づいた判定を行うことにより、被写体の縦方向(すなわち、上下方向)における顔の向きの検出を行うことができる。また、状態検出部112は、縦方向の顔の向きの検出における距離Cと距離Dの比率に基づいて、ユーザの顔の縦方向の角度を計測することもできる。
なお、図6を参照して説明した横方向の顔の向きの検出と、図7を参照して説明した縦方向の顔の向きの検出の何れの場合についても閾値を設けて検出を行うようにするとよい。例えば、距離Aと距離Bの比率の値や、距離Cと距離Dの比率の値や、ユーザの顔の角度の値等について閾値を設定し、この閾値と現在検出されている値とを比較することにより、顔の向きを検出するようにしてもよい。
例えば、距離Aと距離Bの比率の値について、右向きに対応する所定範囲に対応する閾値の範囲と、左向きに対応する所定範囲に対応する閾値の範囲と、横正面に対応する所定範囲に対応する閾値の範囲とをそれぞれ設定する。そして、現在検出されている距離Aと距離Bの比率の値が、或る向きに対応する閾値の範囲に収まった場合に、ユーザの顔は、この或る向きを向いていると検出してもよい。
なお、図6を参照して説明した横方向の顔の向きの検出と、図7を参照して説明した縦方向の顔の向きの検出の双方の検出を行うようにしてもよい。
[報知制御処理]
図8及び図9は、図5の機能的構成を有する図1の報知装置1が実行する報知制御処理の流れを説明するフローチャートである。
報知制御処理は、例えば、報知装置1の電源投入と共に開始される。
図8に示すように、ステップS11において、設定処理部111は、初期設定を行う。例えば、設定処理部111は、サーバ群3に含まれるアプリケーション配信サーバから、報知制御処理を行うためのアプリケーションソフトウェアを取得して、このアプリケーションソフトウェアを動作させる。また、設定処理部111は、アプリケーションソフトウェアの動作に伴い、撮像部16や発光部17の設定を行う、そして、設定処理部111は、撮像部16による撮像を開始させると共に、発光部17の発光を開始させる。
ステップS12において、設定処理部111は、ユーザを識別するための個人認証を試み、個人認証に成功したか否かを判定する。個人認証に成功した場合は、ステップS12においてYesと判定され、処理はステップS13に進む。一方で、個人認証に失敗した場合は、ステップS12においてNoと判定され、ステップS12を繰り返す。なお、個人認証は、例えば、撮像部16が撮像したユーザの顔画像を用いた顔認識や、入力部18に含まれるマイクにて集音したユーザの音声を用いた声紋認識等により行うことができる。また、それ以外にも、所定の生体情報を利用した生体認証や、ユーザから入力されたパスワードを利用した認証等の他の認証方法により個人認証を行うようにしてもよい。
ステップS13において、設定処理部111は、個人認証により特定したユーザについてのプロファイル情報を、サーバ群3に含まれる認証サーバに対して問い合わせる。認証サーバは、問い合わせを受けたユーザについてのプロファイル情報の有無を確認する。そして、認証サーバは、プロファイル情報が存在する場合には、サーバ群3に含まれる測定データ格納サーバから、対応するプロファイル情報を取得する。そして、認証サーバは、取得したプロファイル情報を、問い合わせに対する応答として、設定処理部111に対して送信する。一方で、認証サーバは、プロファイル情報が存在する場合には、その旨を、問い合わせに対する応答として、設定処理部111に対して送信する。
ここで、プロファイル情報には、ユーザに関する設定情報やユーザによる報知装置1の利用履歴等が含まれる。ここで、ユーザの関連情報とは、例えば、ユーザを識別するための識別情報や、ユーザの名前や年齢、身長体重等の情報や、認証を行うための認証元画像である。また、ユーザによる報知装置1の利用履歴とは、例えば、過去にどのようなガイダンス情報に基づいた処理を行ったかという情報や、その際に取得されたユーザの生体情報等の情報である。
ステップS14において、設定処理部111は、認証サーバからの応答の内容を確認する。認証サーバからの応答の内容が、プロファイル情報である場合には、ステップS14においてYesと判定され、処理はステップS15に進む。一方で、認証サーバからの応答の内容が、プロファイル情報が存在しない旨である場合には、ステップS14においてNoと判定され、処理はステップS16に進む。
ステップS15において、設定処理部111は、認証サーバからの応答として受信したプロファイル情報を読み込む。
ステップS16において、設定処理部111は、今回処理の対象としているユーザについてのプロファイル情報を生成し、認証サーバへ送信すると共に、プロファイル情報の登録を依頼する。認証サーバは、受信したプロファイル情報を、測定データ格納サーバに格納することにより登録を行う。
ステップS17において、設定処理部111は、ガイダンス情報を利用したガイダンスを行うためのメニューを表示する。例えば、ガイダンスに基づいて、「小顔エステ」や「笑顔マッサージ」や「生体情報の測定」や「メイク(化粧)」を行う等の、ガイダンスの内容を選択するための選択肢を含んだメニューを表示する。
ステップS18において、設定処理部111は、メニューを参照したユーザから、入力部18等を介して、何れかのガイダンス内容の選択を受け付ける。今回は、一例として、「小顔エステ」の選択を受け付けたものとする。小顔エステとは、例えば、リンパを流すマッサージにより顔のむくみを減少させるリンパマッサージ等を、ユーザがユーザ自身の顔等に対して行うことをいう。
図9に移り、ステップS19において、報知制御部114は、ガイダンス報知部113に小顔エステにおける最初のガイダンス情報を報知させることにより、ガイダンスを開始する。
ステップS20において、報知制御部114は、ガイダンス情報を切り替えるためにユーザの顔等の状態(ここでは、顔の向き)の情報が必要なガイダンスである、所定のガイダンスが報知されているタイミングか否かを判定する。例えば、ガイダンス情報の報知から所定時間等が経過して、移行条件を満たせば、ガイダンス情報を切り替えるべき所定のガイダンスが報知されているタイミングとなったか否かを判定する。
ユーザの顔等の状態の情報が必要な所定のガイダンスが報知されていない場合は、ステップS20においてNoと判定され、処理はステップS25に進む。一方で、ユーザの顔等の状態の情報が必要な所定のガイダンスが報知されている場合は、ステップS20においてYesと判定され、処理はステップS21に進む。
ステップS21において、報知制御部114は、ガイダンス報知部113によるガイダンス情報の報知を切り替えさせることなく、ガイダンスを停止する。
ステップS22において、ガイダンス報知部113は、図7及び図8を参照して上述したような方法で、ユーザの顔の向きを検出する。
ステップS23において、報知制御部114は、ステップS22において検出されたユーザの顔の向きが、移行条件を満たしたか否かを判定する。例えば、ガイダンス報知部113が検出したユーザの顔の向きが、報知したガイダンス情報と対応する顔の向きとなったか否かを判定する。
対応する顔の向きとなった場合は、ステップS23においてYesと判定され、処理はステップS24に進む。一方で、対応する顔の向きとなっていない場合は、ステップS23においてNoと判定され、所定の間隔でステップS22における顔の向きの検出及びステップS23における判定が繰り返される。この場合に、なかなか顔の向きが一致しないような場合には、ステップS23における判定に関わらずステップS24に進むようにしてもよい。
ステップS24において、報知制御部114は、ガイダンス報知部113が報知するガイダンス情報を、次に報知すべき他のガイダンス情報に切り替えさせることにより、ガイダンスを再開する。
ステップS25において、報知制御部114は、ガイダンスを終了するか否かを判定する。例えば、ガイダンスにおける最後のガイダンス情報を報知して所定時間が経過した場合に、ガイダンスは終了する。ガイダンスを終了する場合は、ステップS25においてYesと判定され、処理はステップS26に進む。一方で、ガイダンスを終了しない場合は、ステップS25においてNoと判定され、処理は再度ステップS20から繰り返される。
ステップS26において、報知制御部114は、ガイダンス報知部113によるガイダンス情報に報知を終了させることにより、ガイダンスを終了する。
ステップS27において、設定処理部111は、今回のガイダンスにおいて測定した生体情報等に基づいて、記憶部20のガイダンス情報記憶部201や、サーバ群3に含まれる測定データ格納サーバ等に保存されているプロファイル情報を更新する。これにより、報知制御処理は、終了する。
なお、次回以降に行われる報知制御処理では、ステップS14においてYesと判定されることになり、ステップS16の処理を省略することができる。また、次回以降に行われる報知制御処理では、ステップS11におけるアプリケーションの取得等の処理も省略してよい。
以上説明した報知制御処理によれば、所定の報知内容を制御するために(例えば、所定の報知内容を切り替えるために)、ユーザがタッチ操作等の操作を行う必要をなくすことができる。
つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
次に、以上説明した報知制御処理において実際に行われる報知の例について以下に説明する。
[報知例]
図10から図13までのそれぞれは、報知装置1が実行する報知制御処理における、ガイダンス情報の報知として行われる表示の例を示す模式図である。なお、これらの図では、撮像部16や発光部17の図示を省略する。
図10に示すように、ガイダンス報知部113は、ガイダンス情報として、ガイダンス情報G51、ガイダンス情報G52、及びガイダンス情報G53を報知する。また、鏡部30には、正面を向いたユーザの鏡像が映っている。図10に示すガイダンス情報は、例えば、ユーザが正面を向いたことによって、移行条件が満たされた場合に表示される。
図10に示すように、ガイダンス情報G51には、マッサージの方法を説明するテキストが表示される。また、ガイダンス情報G52には、マッサージにおいて押すべきツボの位置を示す点、及びツボに割り当てられた番号が表示される。かかる表示は、状態検出部112が、ユーザの輪郭等を検出し、その検出結果に基づいて、鏡像におけるツボに対応する位置に表示されるようにする。更に、ガイダンス情報G53には、実際にツボを押す場合のイメージ画像が表示される。
ユーザは、これらのガイダンス情報を参照することにより、マッサージをどのように行なえばよいのかを容易に把握することができる。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して正面を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図11に示すように切り替える。
図11に示すように、ガイダンス報知部113は、ガイダンス情報として、ガイダンス情報G61、及びガイダンス情報G62を報知する。また、鏡部30には、正面を向いたユーザの鏡像が映っている。
図11に示すように、ガイダンス情報G61には、ユーザの生体情報(例えば、脈拍)を示すテキスト及びグラフが表示される。また、ガイダンス情報G62には、ガイダンス情報G52と同様にツボについての表示がされると共に、手の動きを示す矢印が表示される。
ユーザは、これらのガイダンス情報を参照することにより、ガイダンスに沿ってマッサージを行うことができる。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して正面を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を切り換え、「次は、横を向いて下さい。」等の音声やテキストを報知させる。
この報知を認識したユーザが顔の向きを変え、ユーザの顔の向きが横向きとなった場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図12に示すように切り替える。
図12に示すように、ガイダンス報知部113は、ガイダンス情報として、ガイダンス情報G71、ガイダンス情報G72、及びガイダンス情報G73を報知する。また、鏡部30には、左横を向いたユーザの鏡像が映っている。
図12に示すように、ガイダンス情報G71には、マッサージの方法を説明するテキストが表示される。また、ガイダンス情報G72には、マッサージにおいて押すべきツボの位置を示す点、及びツボに割り当てられた番号が表示される。かかる表示は、状態検出部112が、ユーザの輪郭等を検出し、その検出結果に基づいて、鏡像におけるツボに対応する位置に表示されるようにする。ガイダンス情報G73には、実際にツボを押すと共にフェイスラインを上へと押し上げる場合のイメージ画像が表示される。
ユーザは、これらのガイダンス情報を参照することにより、マッサージをどのように行なえばよいのかを容易に把握することができる。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して横を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図13に示すように切り替える。
図13に示すように、ガイダンス報知部113は、ガイダンス情報として、ガイダンス情報G81、ガイダンス情報G82、及びガイダンス情報G83を報知する。また、鏡部30には、左横を向いたユーザの鏡像が映っている。
図13に示すように、ガイダンス情報G81には、ユーザの生体情報(例えば、脈拍)を示すテキスト及びグラフが表示される。また、ガイダンス情報G82には、フェイスラインを上へと押し上げるための手の動きを示す矢印が表示される。また、ガイダンス情報G83には、その一部がユーザの鏡像における手の指で隠れているが、ガイダンス情報72と同様にツボについての表示がされる。
ユーザは、これらのガイダンス情報を参照することにより、ガイダンスに沿ってマッサージを行うことができる。
以上説明したように報知を行うことにより、ユーザは手を使用することなくこれらのガイダンス情報を切り換えることができる。そして、ユーザは、これらのガイダンス情報を参照することにより、マッサージにおける一連のガイダンスを受けることができる。
従来、ユーザは、マッサージに関する書籍の記載や、DVD(Digital Versatile Disk)に記録された映像を参照してマッサージを行うが、このような媒体では、一方的に表示や指示されるためユーザが間違った方法や、異なる部位をマッサージしていても分からなかった。これに対して、上述した報知装置1によるガイダンスでは、ガイダンス情報が、ユーザの鏡像と共に表示されるので、ユーザはその内容を直感的且つ適切に理解することができる。
また、マッサージ中は、例えばマッサージ用のマッサージクリーム等が手に付着しているので、仮にユーザに操作を要求すると、操作用のボタンやタッチパネルが汚れやすいという問題が発生する。しかしながら、上述した報知装置1によるガイダンスでは、ガイダンス情報の切り換えにこのような操作を要求しないので、操作用のボタンやタッチパネルが汚れやすいという問題も防止することが可能となる。
以上のように構成される報知装置1は、状態検出部112と、ガイダンス報知部113と、報知制御部114と、を備える。
状態検出部112は、逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する。
ガイダンス報知部113は、顔の状態に関するガイダンス情報を報知する。
報知制御部114は、ガイダンス報知部113により逐次検出された顔の状態が、報知されたガイダンス情報に対応する状態を満たした場合に、報知したガイダンス情報とは異なる他のガイダンス情報を報知するようにガイダンス報知部113を制御する。
これにより、所定の報知内容を制御するために(例えば、所定の報知内容を切り替えるために)、ユーザがタッチ操作等の操作を行う必要をなくすことができる。つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
報知装置1は、被写体の顔画像を含む画像を逐次撮像する撮像部16を更に備える。状態検出部112は、撮像部16により逐次撮像された画像に基づいて被写体の顔の状態を逐次検出する。
これにより、撮像部16が撮像した画像により、リアルタイムに、所定の報知内容を制御することができる。
状態検出部112は、画像に基づいて、被写体の顔の向きを逐次検出する。
これにより、被写体の顔の向きに基づいて、所定の報知内容を制御することができる。
状態検出部112は、画像に基づいて、被写体の顔の部位を逐次検出する。
これにより、被写体の顔の部位に基づいて、所定の報知内容を制御することができる。
状態検出部112は、画像に基づいて、被写体の生体情報を逐次検出する。
これにより、被写体の生体情報に基づいて、所定の報知内容を制御することができる。
生体情報は、被写体の所定部位における生体情報である。
これにより、被写体の所定部位の生体情報に基づいて、所定の報知内容を制御することができる。
ガイダンス報知部113は、ガイダンス情報に対応する状態を報知する。
これにより、ユーザは、ガイダンス情報に従うことにより、所定の報知内容を制御することができる。
ガイダンス情報に対応する状態は、所定の閾値と紐付けられる。
報知制御部114は、逐次検出される顔の状態と所定の閾値とに基づいて、逐次検出される顔の状態が、報知したガイダンス情報に対応する状態を満たしたか否かを判定する。
これにより、閾値という基準に基づいて、所定の報知内容を制御することができる。
所定の閾値は、所定の範囲を示す閾値である。状態検出部112は、画像から被写体の顔の向きを逐次検出する。報知制御部114は、逐次検出される顔の向きが、所定の閾値にて示される所定の範囲内に収まっている場合に、逐次検出される顔の状態が、報知したガイダンス情報に対応する状態を満たしたと判定する。
これにより、閾値にて示される範囲に基づいて、所定の報知内容を制御することができる。
報知制御部114は、複数のガイダンス情報を切り替えて報知する一連のガイダンスにおいて、逐次検出される顔の状態が、報知したガイダンス情報に対応する状態を満たしたか判定する際に、ガイダンス情報の切り換えを停止し、逐次検出される顔の状態が、報知したガイダンス情報に対応する状態を満たした場合に、ガイダンス情報の切り換えを再開させるように、ガイダンス報知部113を制御する。
これにより、一連のガイダンスに伴って、所定の報知内容を制御することができる。
報知装置1は、被写体の鏡像を表示する鏡部30と、ガイダンス報知部113が報知するガイダンス情報を表示する表示部19と、
を更に備え、
鏡部30の表示面と、表示部19の表示面とが、同時に視認可能に視認方向に重畳して配置される。
これにより、鏡像と、ガイダンス情報とを重畳して視認させることができる。
[変形例]
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
<第1変形例>
上述した実施形態では、移行条件の一例として、ガイダンス報知部113が検出したユーザの顔の向きが、報知したガイダンス情報と対応する顔の向きとなった場合に、ガイダンス情報を切り替えるという移行条件を用いていた。これに限らず、他の移行条件を用いるようにしてもよい。例えば、ユーザの生体情報に関する移行条件を用いるようにしてもよい。
この場合、例えば、マッサージにおけるツボ押し等に起因する血流の変化に関する移行条件を用いるようにしてもよい。例えば、ツボを押した後の血流の状態が、ツボを押す前より早くなったことを移行条件としてもよい。あるいは、ツボを押した後の血流量の状態が、ツボを押す前より多くなったことを移行条件としてもよい。
他にも、例えば、マッサージにおけるツボ押し等に起因する表皮温度変化や、口の吐く息の温度変化に関する移行条件を用いるようにしてもよい。この場合、ユーザの温度測定が可能なサーモカメラを、撮像部16に含ませる。そして、サーモカメラを使った相対温度測定を行い、ツボを押した箇所の温度が、ツボを押す前よりも上がったことを移行条件としてもよい。また、サーモカメラを使った相対温度測定を行い、ツボを押したユーザが吐く息の温度や、呼吸数(この場合、温度変化による呼吸回数を測定する)が、ツボを押す前よりも上がったことを移行条件としてもよい。
他にも、例えば、マッサージにおけるツボ押し等に起因する、皮膚の水分量や発汗量の変化や、体脂肪の変化に関する移行条件を用いるようにしてもよい。この場合、これらが測定可能な近赤外線カメラを、撮像部16に含ませる。そして、近赤外線カメラで、所定の部位に対して測定を行う。そして、ツボを押したユーザの、所定部位の皮膚の水分量や発汗量が、ツボを押す前よりも多くなったことを移行条件としてもよい。また、ツボを押したユーザの、所定部位の体脂肪が、ツボを押す前よりも多くなったことを移行条件としてもよい。
<第2変形例>
上述した第1変形例と同様に、他の移行条件を用いるようにしてもよい。例えば、ユーザの顔等における所定部位の位置変化に関する移行条件を用いるようにしてもよい。
この場合、状態検出部112は、フェイストラッキングにより、ユーザの顔の輪郭及び輪郭内におけるユーザの所定部位の位置を特定する。そして、例えば、笑顔マッサージを行ったユーザの口角等の所定部位が、笑顔マッサージにより所定の位置に移動したことを移行条件としてもよい。
<他の変形例>
例えば、上述の実施形態において、報知装置1と、サーバ群3に含まれる各サーバとが協働することを想定していたが、各サーバの機能を報知装置1に追加して、報知装置1のみで全ての処理を行うようにしてもよい。
また、上述の実施形態では、本発明が適用される報知装置1は、携帯可能な自立式の鏡に組み込まれた電子機器を例として説明したが、特にこれに限定されない。
例えば、本発明は、姿見等の大型の鏡に組み込まれた電子機器や、据え置き型の洗面化粧台に組み込まれた電子機器や、浴室に設置される鏡形状の電子機器に適用可能である。
上述した一連の処理は、ハードウェアにより実行させることもできるし、ソフトウェアにより実行させることもできる。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が報知装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
また、1つの機能ブロックは、ハードウェア単体で構成してもよいし、ソフトウェア単体で構成してもよいし、それらの組み合わせで構成してもよい。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、コンピュータ等にネットワークや記録媒体からインストールされる。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
このようなプログラムを含む記録媒体は、ユーザにプログラムを提供するために装置本体とは別に配布される図2のリムーバブルメディア100により構成されるだけでなく、装置本体に予め組み込まれた状態でユーザに提供される記録媒体等で構成される。リムーバブルメディア100は、例えば、磁気ディスク(フロッピディスクを含む)、光ディスク、または光磁気ディスク等により構成される。光ディスクは、例えば、CD−ROM(Compact Disk−Read Only Memory),DVD,Blu−ray(登録商標) Disc(ブルーレイディスク)等により構成される。光磁気ディスクは、MD(Mini−Disk)等により構成される。また、装置本体に予め組み込まれた状態でユーザに提供される記録媒体は、例えば、プログラムが記録されている図4のROM12や、図4、5の記憶部20に含まれるハードディスク等で構成される。
なお、本明細書において、記録媒体に記録されるプログラムを記述するステップは、その順序に沿って時系列的に行われる処理はもちろん、必ずしも時系列的に処理されなくとも、並列的あるいは個別に実行される処理をも含むものである。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
以上、本発明のいくつかの実施形態について説明したが、これらの実施形態は、例示に過ぎず、本発明の技術的範囲を限定するものではない。本発明はその他の様々な実施形態を取ることが可能であり、さらに、本発明の要旨を逸脱しない範囲で、省略や置換等種々の変更を行うことができる。これら実施形態やその変形は、本明細書等に記載された発明の範囲や要旨に含まれると共に、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
以下に、本願の出願当初の特許請求の範囲に記載された発明を付記する。
[付記1]
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
前記顔の状態に関するガイダンス情報を報知する報知手段と、
前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
を備えることを特徴とする報知装置。
[付記2]
前記被写体の顔画像を含む画像を逐次撮像する撮像手段を更に備え、
前記状態検出手段は、前記撮像手段により逐次撮像された画像に基づいて前記被写体の顔の状態を逐次検出する、
ことを特徴とする付記1に記載の報知装置。
[付記3]
前記状態検出手段は、前記画像に基づいて、前記被写体の顔の向きを逐次検出する、
ことを特徴とする付記1又は2に記載の報知装置。
[付記4]
前記状態検出手段は、前記画像に基づいて、前記被写体の顔の部位を逐次検出する、
ことを特徴とする付記1乃至3の何れか1に記載の報知装置。
[付記5]
前記状態検出手段は、前記画像に基づいて、前記被写体の生体情報を逐次検出する、
ことを特徴とする付記1乃至4の何れか1に記載の報知装置。
[付記6]
前記生体情報は、前記被写体の所定部位における生体情報である、
ことを特徴とする付記5に記載の報知装置。
[付記7]
前記報知手段は、前記ガイダンス情報に対応する状態を報知する、
ことを特徴とする付記1乃至6の何れか1に記載の報知装置。
[付記8]
前記ガイダンス情報に対応する状態は、所定の閾値と紐付けられ、
前記制御手段は、前記逐次検出される顔の状態と前記所定の閾値とに基づいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか否かを判定する、
ことを特徴とする付記1乃至7の何れか1に記載の報知装置。
[付記9]
前記所定の閾値は、所定の範囲を示す閾値であり、
前記状態検出手段は、前記画像から前記被写体の顔の向きを逐次検出し、
前記制御手段は、前記逐次検出される顔の向きが、前記所定の閾値にて示される所定の範囲内に収まっている場合に、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたと判定する。
ことを特徴とする付記8に記載の報知装置。
[付記10]
前記制御手段は、
複数のガイダンス情報を切り替えて報知する一連のガイダンスにおいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか判定する際に、前記ガイダンス情報の切り換えを停止し、
前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たした場合に、前記ガイダンス情報の切り換えを再開させるように、前記報知手段を制御する、
ことを特徴とする付記1乃至9の何れか1に記載の報知装置。
[付記11]
前記被写体の鏡像を表示する第1表示部と、
前記報知手段が報知する前記ガイダンス情報を表示する第2表示部と、
を更に備え、
前記第1表示部の表示面と、前記第2表示部の表示面とが、同時に視認可能に視認方向に重畳して配置されることを特徴とする付記1乃至10の何れか1に記載の報知装置。
[付記12]
コンピュータが行う報知方法であって、
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出ステップと、
前記顔の状態に関するガイダンス情報を報知する報知ステップと、
前記状態検出ステップにて逐次検出される顔の状態が、前記報知ステップにて報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知ステップにおける報知を制御する制御ステップと、
を備えることを特徴とする報知方法。
[付記13]
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出機能と、
前記顔の状態に関するガイダンス情報を報知する報知機能と、
前記状態検出機能により逐次検出される顔の状態が、前記報知機能により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知機能を制御する制御機能と、
をコンピュータに実現することを特徴とする報知プログラム。
1・・・報知装置,2・・・ネットワーク,3・・・サーバ群,11・・・CPU,12・・・ROM,13・・・RAM,14・・・バス,15・・・入出力インターフェース,16・・・撮像部,17・・・発光部,18・・・入力部,19・・・表示部,20・・・記憶部,21・・・通信部,22・・・ドライブ,30・・・鏡部,31・・・脚部,32・・・ヒンジ部,100・・・リムーバブルメディア,111・・・設定処理部,112・・・状態検出部,113・・・ガイダンス報知部,114・・・報知制御部,201・・・ガイダンス情報記憶部,S・・・報知システム

Claims (13)

  1. 逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
    前記顔の状態に関するガイダンス情報を報知する報知手段と、
    前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
    を備えることを特徴とする報知装置。
  2. 前記被写体の顔画像を含む画像を逐次撮像する撮像手段を更に備え、
    前記状態検出手段は、前記撮像手段により逐次撮像された画像に基づいて前記被写体の顔の状態を逐次検出する、
    ことを特徴とする請求項1に記載の報知装置。
  3. 前記状態検出手段は、前記画像に基づいて、前記被写体の顔の向きを逐次検出する、
    ことを特徴とする請求項1又は2に記載の報知装置。
  4. 前記状態検出手段は、前記画像に基づいて、前記被写体の顔の部位を逐次検出する、
    ことを特徴とする請求項1乃至3の何れか1項に記載の報知装置。
  5. 前記状態検出手段は、前記画像に基づいて、前記被写体の生体情報を逐次検出する、
    ことを特徴とする請求項1乃至4の何れか1項に記載の報知装置。
  6. 前記生体情報は、前記被写体の所定部位における生体情報である、
    ことを特徴とする請求項5に記載の報知装置。
  7. 前記報知手段は、前記ガイダンス情報に対応する状態を報知する、
    ことを特徴とする請求項1乃至6の何れか1項に記載の報知装置。
  8. 前記ガイダンス情報に対応する状態は、所定の閾値と紐付けられ、
    前記制御手段は、前記逐次検出される顔の状態と前記所定の閾値とに基づいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか否かを判定する、
    ことを特徴とする請求項1乃至7の何れか1項に記載の報知装置。
  9. 前記所定の閾値は、所定の範囲を示す閾値であり、
    前記状態検出手段は、前記画像から前記被写体の顔の向きを逐次検出し、
    前記制御手段は、前記逐次検出される顔の向きが、前記所定の閾値にて示される所定の範囲内に収まっている場合に、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたと判定する。
    ことを特徴とする請求項8に記載の報知装置。
  10. 前記制御手段は、
    複数のガイダンス情報を切り替えて報知する一連のガイダンスにおいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか判定する際に、前記ガイダンス情報の切り換えを停止し、
    前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たした場合に、前記ガイダンス情報の切り換えを再開させるように、前記報知手段を制御する、
    ことを特徴とする請求項1乃至9の何れか1項に記載の報知装置。
  11. 前記被写体の鏡像を表示する第1表示部と、
    前記報知手段が報知する前記ガイダンス情報を表示する第2表示部と、
    を更に備え、
    前記第1表示部の表示面と、前記第2表示部の表示面とが、同時に視認可能に視認方向に重畳して配置されることを特徴とする請求項1乃至10の何れか1項に記載の報知装置。
  12. コンピュータが行う報知方法であって、
    逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出ステップと、
    前記顔の状態に関するガイダンス情報を報知する報知ステップと、
    前記状態検出ステップにて逐次検出される顔の状態が、前記報知ステップにて報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知ステップにおける報知を制御する制御ステップと、
    を備えることを特徴とする報知方法。
  13. 逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出機能と、
    前記顔の状態に関するガイダンス情報を報知する報知機能と、
    前記状態検出機能により逐次検出される顔の状態が、前記報知機能により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知機能を制御する制御機能と、
    をコンピュータに実現することを特徴とする報知プログラム。
JP2018054464A 2018-03-22 2018-03-22 報知装置、報知方法及び報知プログラム Active JP7139638B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2018054464A JP7139638B2 (ja) 2018-03-22 2018-03-22 報知装置、報知方法及び報知プログラム
US16/360,833 US11238629B2 (en) 2018-03-22 2019-03-21 Notification device, notification method, and recording medium having notification program stored therein
CN201910217665.0A CN110297720B (zh) 2018-03-22 2019-03-21 通知装置、通知方法及存储通知程序的介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018054464A JP7139638B2 (ja) 2018-03-22 2018-03-22 報知装置、報知方法及び報知プログラム

Publications (2)

Publication Number Publication Date
JP2019165851A true JP2019165851A (ja) 2019-10-03
JP7139638B2 JP7139638B2 (ja) 2022-09-21

Family

ID=67985492

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018054464A Active JP7139638B2 (ja) 2018-03-22 2018-03-22 報知装置、報知方法及び報知プログラム

Country Status (3)

Country Link
US (1) US11238629B2 (ja)
JP (1) JP7139638B2 (ja)
CN (1) CN110297720B (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112749634A (zh) * 2020-12-28 2021-05-04 广州星际悦动股份有限公司 基于美容设备的控制方法、装置以及电子设备
CN117241771A (zh) * 2021-05-04 2023-12-15 纽迪希亚生命早期营养品管理(上海)有限公司 按摩指导方法、设备及其应用

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005065812A (ja) * 2003-08-21 2005-03-17 Nec Fielding Ltd 健康診断システム,方法およびプログラム
JP2011067371A (ja) * 2009-09-25 2011-04-07 Glory Ltd 体温検査装置、体温検査システムおよび体温検査方法
JP2012010955A (ja) * 2010-06-30 2012-01-19 Terumo Corp 健康状態監視装置
JP2013246184A (ja) * 2012-05-23 2013-12-09 Sharp Corp 表示装置
WO2015011898A1 (ja) * 2013-07-22 2015-01-29 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理装置および情報処理装置の制御方法
WO2016076140A1 (ja) * 2014-11-14 2016-05-19 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US20160261996A1 (en) * 2015-03-06 2016-09-08 Qualcomm Incorporated Managing Emergency Communication Session Termination
JP2018023768A (ja) * 2016-07-28 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 被測定者特定方法、被測定者特定システム、血圧の測定状態判定方法、血圧の測定状態判定装置及び血圧の測定状態判定プログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001216386A (ja) 2000-02-02 2001-08-10 Nippon Telegr & Teleph Corp <Ntt> 化粧支援装置
US20080165195A1 (en) * 2007-01-06 2008-07-10 Outland Research, Llc Method, apparatus, and software for animated self-portraits
JP5261586B2 (ja) * 2007-08-10 2013-08-14 株式会社 資生堂 メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
JP5302793B2 (ja) 2009-06-24 2013-10-02 ソニーモバイルコミュニケーションズ株式会社 美粧支援装置、美粧支援方法、美粧支援プログラム、及び携帯端末装置
JP2011110215A (ja) 2009-11-26 2011-06-09 Toyota Motor Kyushu Inc リハビリテーション用システム、プログラム、およびプログラムを記録したコンピュータ読み取り可能な記録媒体
JP5754439B2 (ja) * 2012-12-21 2015-07-29 カシオ計算機株式会社 情報報知装置、情報報知方法及びプログラム
JP5530578B1 (ja) * 2012-12-27 2014-06-25 パナソニック株式会社 情報通信方法
JP2014183559A (ja) * 2013-03-21 2014-09-29 Casio Comput Co Ltd 報知制御装置、報知制御方法及びプログラム
JP2015184623A (ja) * 2014-03-26 2015-10-22 ソニー株式会社 画像表示装置、カラーフィルタおよび画像信号処理装置
CN103957354B (zh) * 2014-05-08 2018-12-04 努比亚技术有限公司 一种移动终端及其引导拍照的方法和装置
WO2016081831A1 (en) * 2014-11-21 2016-05-26 Mutti Christopher M Imaging system for object recognition and assessment
JP2016161835A (ja) 2015-03-03 2016-09-05 シャープ株式会社 表示装置、制御プログラム、および制御方法
US20160357578A1 (en) * 2015-06-03 2016-12-08 Samsung Electronics Co., Ltd. Method and device for providing makeup mirror
WO2017091704A1 (en) * 2015-11-25 2017-06-01 Camplex, Inc. Surgical visualization systems and displays
US10324739B2 (en) * 2016-03-03 2019-06-18 Perfect Corp. Systems and methods for simulated application of cosmetic effects
CN106203320A (zh) * 2016-07-06 2016-12-07 惠州Tcl移动通信有限公司 一种基于移动终端的人脸识别优化方法及系统
CN110050251B (zh) * 2016-12-06 2023-10-03 皇家飞利浦有限公司 向用户显示引导指示符
CN106991378B (zh) * 2017-03-09 2020-02-04 Oppo广东移动通信有限公司 基于深度的人脸朝向检测方法、检测装置和电子装置
CN108734070A (zh) * 2017-04-24 2018-11-02 丽宝大数据股份有限公司 腮红指引装置及方法
US10646022B2 (en) * 2017-12-21 2020-05-12 Samsung Electronics Co. Ltd. System and method for object modification using mixed reality

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005065812A (ja) * 2003-08-21 2005-03-17 Nec Fielding Ltd 健康診断システム,方法およびプログラム
JP2011067371A (ja) * 2009-09-25 2011-04-07 Glory Ltd 体温検査装置、体温検査システムおよび体温検査方法
JP2012010955A (ja) * 2010-06-30 2012-01-19 Terumo Corp 健康状態監視装置
JP2013246184A (ja) * 2012-05-23 2013-12-09 Sharp Corp 表示装置
WO2015011898A1 (ja) * 2013-07-22 2015-01-29 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 情報処理装置および情報処理装置の制御方法
WO2016076140A1 (ja) * 2014-11-14 2016-05-19 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
US20160261996A1 (en) * 2015-03-06 2016-09-08 Qualcomm Incorporated Managing Emergency Communication Session Termination
JP2018023768A (ja) * 2016-07-28 2018-02-15 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America 被測定者特定方法、被測定者特定システム、血圧の測定状態判定方法、血圧の測定状態判定装置及び血圧の測定状態判定プログラム

Also Published As

Publication number Publication date
US20190295301A1 (en) 2019-09-26
CN110297720B (zh) 2023-05-12
CN110297720A (zh) 2019-10-01
JP7139638B2 (ja) 2022-09-21
US11238629B2 (en) 2022-02-01

Similar Documents

Publication Publication Date Title
US11029830B2 (en) Display control apparatus, display controlling method and display control program for providing guidance using a generated image
CN112741609B (zh) 电子装置、电子装置的控制方法以及介质
JPWO2016076140A1 (ja) 情報処理装置、情報処理方法、およびプログラム
US11800989B2 (en) Electronic device, control method for the electronic device, and storage medium
JP2019165851A (ja) 報知装置、報知方法及び報知プログラム
US20220087547A1 (en) Electronic device, control method for electronic device, and recording medium
US10915617B2 (en) Image processing apparatus, image processing method, and recording medium
US11545048B2 (en) Advising apparatus, advising method, and recording medium
JP7135466B2 (ja) 表示装置、表示方法及び表示プログラム
JP7415318B2 (ja) 画像処理装置、画像処理方法及びプログラム
JP7238835B2 (ja) 電子装置、電子装置の制御方法及び電子装置の制御プログラム
JP7225749B2 (ja) 報知装置、報知方法及びプログラム
JP2020057153A (ja) 表示制御装置、表示制御方法及び表示制御プログラム
WO2021060250A1 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
JP2021151304A (ja) 電子装置、電子装置の制御プログラム及び電子装置の制御方法
JP2023057107A (ja) 報知装置、報知方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210312

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220113

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220404

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220809

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220822

R150 Certificate of patent or registration of utility model

Ref document number: 7139638

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150