JP2019165851A - 報知装置、報知方法及び報知プログラム - Google Patents
報知装置、報知方法及び報知プログラム Download PDFInfo
- Publication number
- JP2019165851A JP2019165851A JP2018054464A JP2018054464A JP2019165851A JP 2019165851 A JP2019165851 A JP 2019165851A JP 2018054464 A JP2018054464 A JP 2018054464A JP 2018054464 A JP2018054464 A JP 2018054464A JP 2019165851 A JP2019165851 A JP 2019165851A
- Authority
- JP
- Japan
- Prior art keywords
- notification
- state
- guidance information
- face
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1601—Constructional details related to the housing of computer displays, e.g. of CRT monitors, of flat displays
- G06F1/1605—Multimedia displays, e.g. with integrated or attached speakers, cameras, microphones
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F1/00—Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
- G06F1/16—Constructional details or arrangements
- G06F1/1613—Constructional details or arrangements for portable computers
- G06F1/1633—Constructional details or arrangements of portable computers not specific to the type of enclosures covered by groups G06F1/1615 - G06F1/1626
- G06F1/1684—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675
- G06F1/1686—Constructional details or arrangements related to integrated I/O peripherals not covered by groups G06F1/1635 - G06F1/1675 the I/O peripheral being an integrated camera
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/95—Retrieval from the web
- G06F16/954—Navigation, e.g. using categorised browsing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
- G06F3/012—Head tracking input arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/0304—Detection arrangements using opto-electronic means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/54—Interprogram communication
- G06F9/542—Event management; Broadcasting; Multicasting; Notifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/25—Determination of region of interest [ROI] or a volume of interest [VOI]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/172—Classification, e.g. identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/60—Static or dynamic means for assisting the user to position a body part for biometric acquisition
- G06V40/67—Static or dynamic means for assisting the user to position a body part for biometric acquisition by interactive indications to the user
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/15—Biometric patterns based on physiological signals, e.g. heartbeat, blood flow
Abstract
Description
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
前記顔の状態に関するガイダンス情報を報知する報知手段と、
前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
を備えることを特徴とする。
本発明の実施形態に係る報知装置1は、ユーザが携帯可能な自立式の鏡として構成される。報知装置1は、鏡を視認するユーザに対して、複数のガイダンス情報を切り替えて報知することにより、一連のガイダンスを行う。例えば、報知装置1は、顔のマッサージ等に関する一連のガイダンスを行う。
この場合に、報知装置1は、ユーザを被写体として撮像し、撮像したユーザの顔等の状態をフェイストラッキングにより検出する。そして、報知装置1は、検出したユーザの状態が、所定の条件を満たした場合に、報知するガイダンス情報を切り替える。
つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
図1は、本実施形態に係る報知装置1が含まれる報知システムSの全体構成を示すブロック図である。図1に示すように、報知システムSは、複数の報知装置1、ネットワーク2及びサーバ群3を含む。
報知装置1の台数には、特に制限はなく、n台(nは、任意の自然数)の報知装置1が報知システム1に含まれていてよい。なお、以下の説明において、n台の報知装置1を特に区別することなく説明する場合には、符号の末尾のアルファベットを省略し、単に「報知装置1」と称する。
ただし、これは一例に過ぎず、他の機能を有するサーバがサーバ群3に含まれていてもよい。また、サーバ群3に含まれる複数のサーバを、それぞれ別個のサーバ装置で実現してもよく、単一のサーバ装置にて実現するようにしてもよい。
図2は、本発明の一実施形態に係る報知装置1の前面の外観構成を示す構成図である。また、図3は、報知装置1の側面の外観構成を示す構成図である。報知装置1の前面の大きさは、例えば、ISO(International Organization for Standardization)216で規定されるA4サイズに形成される。
また、脚部31及びヒンジ部32は、報知装置1を自立させるための機構である。脚部31は、ヒンジ部32によって鏡部30に回動可能に接合される。
図3(A)に示すように、ユーザは、報知装置1を携帯する際に、鏡部30の側面と、脚部31の側面とを揃えて、嵩張らない形状として持ち運ぶことができる。一方で、図3(B)に示すように、ユーザは、報知装置1を机等に設置して利用する際には、ヒンジ部32を中心点として脚部31を回動させることにより、報知装置1を自立させることができる。なお、報知装置1を自立可能とするために、ヒンジ部32は、脚部31が所定の角度を保った状態で保持するための構造を有している。
発光部17は、例えば、鏡部30の左端及び右端に複数箇所配置される。ただし、図示の都合上、図2では、1つの発光部17についてのみ符号を付し、他の発光部17については符号を省略する。
このような配置により、ユーザは、鏡部30により反射された自身の顔と、表示部19に表示された情報とを同時に視認することができる。なお、図2の例では、画面上部に表示部19の表示領域を設け、画面下部に鏡部30の反射領域を設けている。
図4は、報知装置1のハードウェアの構成を示すブロック図である。
図4に示すように、報知装置1は、CPU(Central Processing Unit)11と、ROM(Read Only Memory)12と、RAM(Random Access Memory)13と、バス14と、入出力インターフェース15と、撮像部16と、発光部17と、入力部18と、表示部19と、記憶部20と、通信部21と、ドライブ22と、を備えている。
フォーカスレンズは、イメージセンサの受光面に被写体像を結像させるレンズである。ズームレンズは、焦点距離を一定の範囲で自在に変化させるレンズである。
撮像部16にはまた、必要に応じて、焦点、露出、ホワイトバランス等の設定パラメータを調整する周辺回路が設けられる。
光電変換素子は、例えばCMOS(Complementary Metal Oxide Semiconductor)型の光電変換素子等から構成される。光電変換素子には、光学レンズ部から被写体像が入射される。そこで、光電変換素子は、被写体像を光電変換(撮像)して画像信号を一定時間蓄積し、蓄積した画像信号をアナログ信号としてAFEに順次供給する。
AFEは、このアナログの画像信号に対して、A/D(Analog/Digital)変換処理等の各種信号処理を実行する。各種信号処理によって、ディジタル信号が生成され、撮像部16の出力信号として出力される。
このような撮像部16の出力信号は、CPU11等に適宜供給される。
図5は、報知装置1の機能的構成のうち、報知制御処理を実行するための機能的構成を示す機能ブロック図である。
報知制御処理とは、報知装置1が、複数のガイダンス情報を切り替えて報知することにより、一連のガイダンスを行う処理である。
報知制御処理が実行される場合、図5に示すように、CPU11において、設定処理部111と、状態検出部112と、ガイダンス報知部113と、報知制御部114とが機能する。
また、記憶部20の一領域には、ガイダンス情報記憶部201が設定される。
例えば、状態検出部112は、ユーザの顔を含む顔画像に対して、輪郭や部位のパターンマッチングや肌色識別等のフェイストラッキングに関する処理を行うことで、顔の輪郭や眼の位置や肌の領域を認識し、額、頬、顎、及び首等の所定の領域の検出を行う。そして、状態検出部112は、この検出した所定の領域に基づいて、ユーザの顔等の状態を検出する。
そして、状態検出部112は、例えば、この関心領域における皮下の血液中ヘモグロビンが吸収する緑色信号に基づいて、心拍周波数近傍の成分を分析することにより計測を行う。状態検出部112が計測する生体情報は、例えば、脈拍、脈波、及び血流等である。
また、状態検出部112は、測定した生体情報に対してノイズ除去等を行うことにより、平均化処理を施すようにしてもよい。
<参考文献>
東北大学 サイバーサイエンスセンター 先端情報技術研究部、東北大学 革新的イノベーション研究機構、“血行状態モニタリング装置「魔法の鏡」の開発に成功”、[online]、平成28年9月27日、[平成29年12月15日検索]、インターネット<URL:http://www.tohoku.ac.jp/japanese/newimg/pressimg/tohokuuniv-press20160927_01web.pdf>
ガイダンス報知部113が、このような情報をリアルタイムにデザインし直して表示することで、一連のガイダンスを、ユーザに伝わりやすく、適切に行うことができる。
また、ガイダンス報知部113は、これらの表示を組み合わせるようにしてもよい。例えば、ガイダンス報知部113は、マッサージの内容を示すテキストはユーザの顔が映っている位置と重複しない領域に表示し、マッサージの際の手の動きを示す矢印はユーザの顔が映っている位置に重ねて情報を表示するようにしてもよい。
例えば、移行条件として、ガイダンス報知部113が検出したユーザの顔等の状態が、報知したガイダンス情報に対応する状態となることという移行条件を用いることができる。
本実施形態では、一例として、ユーザの顔の向きを検出することとしているので、移行条件としては、ガイダンス報知部113が検出したユーザの顔の向きが、報知したガイダンス情報と対応する顔の向きとなった場合に、ガイダンス情報を切り替えるという移行条件を用いる。
状態検出部112による、ユーザの顔の角度(すなわち、ユーザの顔の向き)の検出について、図6及び図7を参照して説明する。図6は、被写体の横方向における顔の向きの検出方法を説明する模式図である。図7は、被写体の縦方向における顔の向きの検出方法を説明する模式図である。
状態検出部112は、上述したように、所定の領域の位置関係に基づいて、表示部19及び鏡部30を視認しているユーザの顔の向きを逐次検出する。
左右の顔の向きの検出を行う前提として、状態検出部112は、所定の領域として、ユーザの鼻の領域の位置、又は、ユーザのこめかみの(すなわち、両眼の中央)の領域の位置を検出する。更に、状態検出部112は、ユーザの顔の、左右それぞれの輪郭の位置を検出する。
そして、状態検出部112は、図6(a)に示すように、距離Aと距離Bが概ね等しい場合に、ユーザの横方向の顔の向きは、正面であると判定する。また、状態検出部112は、図6(b)に示すように、距離Aが距離Bよりも大きい場合に、ユーザの横方向の顔の向きは、右向きであると判定する。更に、状態検出部112は、図6(c)に示すように、距離Bが距離Aよりも小さい場合に、ユーザの横方向の顔の向きは、左向きであると判定する。
上下の顔の向きの検出を行う前提として、状態検出部112は、所定の領域として、ユーザの鼻の領域の位置を検出する。更に、状態検出部112は、ユーザの顔の、上下それぞれの輪郭の位置を検出する。
そして、状態検出部112は、図7(d)に示すように、距離Cと距離Dを合算した大きさが概ね最大となるユーザの縦方向の顔の向きとなった場合に、ユーザの縦方向の顔の向きは、正面であると判定する。また、状態検出部112は、距離Cと距離Dを合算した大きさが概ね最大となった際の、比率Eの値を、距離Cの値を距離Dの値で除算することにより求める。
図8及び図9は、図5の機能的構成を有する図1の報知装置1が実行する報知制御処理の流れを説明するフローチャートである。
報知制御処理は、例えば、報知装置1の電源投入と共に開始される。
ユーザの顔等の状態の情報が必要な所定のガイダンスが報知されていない場合は、ステップS20においてNoと判定され、処理はステップS25に進む。一方で、ユーザの顔等の状態の情報が必要な所定のガイダンスが報知されている場合は、ステップS20においてYesと判定され、処理はステップS21に進む。
対応する顔の向きとなった場合は、ステップS23においてYesと判定され、処理はステップS24に進む。一方で、対応する顔の向きとなっていない場合は、ステップS23においてNoと判定され、所定の間隔でステップS22における顔の向きの検出及びステップS23における判定が繰り返される。この場合に、なかなか顔の向きが一致しないような場合には、ステップS23における判定に関わらずステップS24に進むようにしてもよい。
ステップS26において、報知制御部114は、ガイダンス報知部113によるガイダンス情報に報知を終了させることにより、ガイダンスを終了する。
つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
次に、以上説明した報知制御処理において実際に行われる報知の例について以下に説明する。
図10から図13までのそれぞれは、報知装置1が実行する報知制御処理における、ガイダンス情報の報知として行われる表示の例を示す模式図である。なお、これらの図では、撮像部16や発光部17の図示を省略する。
図10に示すように、ガイダンス情報G51には、マッサージの方法を説明するテキストが表示される。また、ガイダンス情報G52には、マッサージにおいて押すべきツボの位置を示す点、及びツボに割り当てられた番号が表示される。かかる表示は、状態検出部112が、ユーザの輪郭等を検出し、その検出結果に基づいて、鏡像におけるツボに対応する位置に表示されるようにする。更に、ガイダンス情報G53には、実際にツボを押す場合のイメージ画像が表示される。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して正面を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図11に示すように切り替える。
図11に示すように、ガイダンス情報G61には、ユーザの生体情報(例えば、脈拍)を示すテキスト及びグラフが表示される。また、ガイダンス情報G62には、ガイダンス情報G52と同様にツボについての表示がされると共に、手の動きを示す矢印が表示される。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して正面を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を切り換え、「次は、横を向いて下さい。」等の音声やテキストを報知させる。
この報知を認識したユーザが顔の向きを変え、ユーザの顔の向きが横向きとなった場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図12に示すように切り替える。
図12に示すように、ガイダンス情報G71には、マッサージの方法を説明するテキストが表示される。また、ガイダンス情報G72には、マッサージにおいて押すべきツボの位置を示す点、及びツボに割り当てられた番号が表示される。かかる表示は、状態検出部112が、ユーザの輪郭等を検出し、その検出結果に基づいて、鏡像におけるツボに対応する位置に表示されるようにする。ガイダンス情報G73には、実際にツボを押すと共にフェイスラインを上へと押し上げる場合のイメージ画像が表示される。
その後、例えば、これらのガイダンス情報が表示されてから、ユーザの顔の向きが所定時間継続して横を向いている場合に、移行条件が満たされる。すると、報知制御部114は、ガイダンス報知部113により報知されるガイダンス情報を図13に示すように切り替える。
図13に示すように、ガイダンス情報G81には、ユーザの生体情報(例えば、脈拍)を示すテキスト及びグラフが表示される。また、ガイダンス情報G82には、フェイスラインを上へと押し上げるための手の動きを示す矢印が表示される。また、ガイダンス情報G83には、その一部がユーザの鏡像における手の指で隠れているが、ガイダンス情報72と同様にツボについての表示がされる。
ユーザは、これらのガイダンス情報を参照することにより、ガイダンスに沿ってマッサージを行うことができる。
状態検出部112は、逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する。
ガイダンス報知部113は、顔の状態に関するガイダンス情報を報知する。
報知制御部114は、ガイダンス報知部113により逐次検出された顔の状態が、報知されたガイダンス情報に対応する状態を満たした場合に、報知したガイダンス情報とは異なる他のガイダンス情報を報知するようにガイダンス報知部113を制御する。
これにより、所定の報知内容を制御するために(例えば、所定の報知内容を切り替えるために)、ユーザがタッチ操作等の操作を行う必要をなくすことができる。つまり、報知装置1によれば、所定の情報を報知する報知装置を、より簡便に利用可能とすることができる。
これにより、撮像部16が撮像した画像により、リアルタイムに、所定の報知内容を制御することができる。
これにより、被写体の顔の向きに基づいて、所定の報知内容を制御することができる。
これにより、被写体の顔の部位に基づいて、所定の報知内容を制御することができる。
これにより、被写体の生体情報に基づいて、所定の報知内容を制御することができる。
これにより、被写体の所定部位の生体情報に基づいて、所定の報知内容を制御することができる。
これにより、ユーザは、ガイダンス情報に従うことにより、所定の報知内容を制御することができる。
報知制御部114は、逐次検出される顔の状態と所定の閾値とに基づいて、逐次検出される顔の状態が、報知したガイダンス情報に対応する状態を満たしたか否かを判定する。
これにより、閾値という基準に基づいて、所定の報知内容を制御することができる。
これにより、閾値にて示される範囲に基づいて、所定の報知内容を制御することができる。
これにより、一連のガイダンスに伴って、所定の報知内容を制御することができる。
を更に備え、
鏡部30の表示面と、表示部19の表示面とが、同時に視認可能に視認方向に重畳して配置される。
これにより、鏡像と、ガイダンス情報とを重畳して視認させることができる。
本発明は、上述の実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。例えば、上述の実施形態を以下の変形例のように変形してもよい。
上述した実施形態では、移行条件の一例として、ガイダンス報知部113が検出したユーザの顔の向きが、報知したガイダンス情報と対応する顔の向きとなった場合に、ガイダンス情報を切り替えるという移行条件を用いていた。これに限らず、他の移行条件を用いるようにしてもよい。例えば、ユーザの生体情報に関する移行条件を用いるようにしてもよい。
上述した第1変形例と同様に、他の移行条件を用いるようにしてもよい。例えば、ユーザの顔等における所定部位の位置変化に関する移行条件を用いるようにしてもよい。
この場合、状態検出部112は、フェイストラッキングにより、ユーザの顔の輪郭及び輪郭内におけるユーザの所定部位の位置を特定する。そして、例えば、笑顔マッサージを行ったユーザの口角等の所定部位が、笑顔マッサージにより所定の位置に移動したことを移行条件としてもよい。
例えば、上述の実施形態において、報知装置1と、サーバ群3に含まれる各サーバとが協働することを想定していたが、各サーバの機能を報知装置1に追加して、報知装置1のみで全ての処理を行うようにしてもよい。
例えば、本発明は、姿見等の大型の鏡に組み込まれた電子機器や、据え置き型の洗面化粧台に組み込まれた電子機器や、浴室に設置される鏡形状の電子機器に適用可能である。
換言すると、図5の機能的構成は例示に過ぎず、特に限定されない。即ち、上述した一連の処理を全体として実行できる機能が報知装置1に備えられていれば足り、この機能を実現するためにどのような機能ブロックを用いるのかは特に図5の例に限定されない。
本実施形態における機能的構成は、演算処理を実行するプロセッサによって実現され、本実施形態に用いることが可能なプロセッサには、シングルプロセッサ、マルチプロセッサ及びマルチコアプロセッサ等の各種処理装置単体によって構成されるものの他、これら各種処理装置と、ASIC(Application Specific Integrated Circuit)やFPGA(Field‐Programmable Gate Array)等の処理回路とが組み合わせられたものを含む。
コンピュータは、専用のハードウェアに組み込まれているコンピュータであってもよい。また、コンピュータは、各種のプログラムをインストールすることで、各種の機能を実行することが可能なコンピュータ、例えば汎用のパーソナルコンピュータであってもよい。
また、本明細書において、システムの用語は、複数の装置や複数の手段等より構成される全体的な装置を意味するものとする。
[付記1]
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
前記顔の状態に関するガイダンス情報を報知する報知手段と、
前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
を備えることを特徴とする報知装置。
[付記2]
前記被写体の顔画像を含む画像を逐次撮像する撮像手段を更に備え、
前記状態検出手段は、前記撮像手段により逐次撮像された画像に基づいて前記被写体の顔の状態を逐次検出する、
ことを特徴とする付記1に記載の報知装置。
[付記3]
前記状態検出手段は、前記画像に基づいて、前記被写体の顔の向きを逐次検出する、
ことを特徴とする付記1又は2に記載の報知装置。
[付記4]
前記状態検出手段は、前記画像に基づいて、前記被写体の顔の部位を逐次検出する、
ことを特徴とする付記1乃至3の何れか1に記載の報知装置。
[付記5]
前記状態検出手段は、前記画像に基づいて、前記被写体の生体情報を逐次検出する、
ことを特徴とする付記1乃至4の何れか1に記載の報知装置。
[付記6]
前記生体情報は、前記被写体の所定部位における生体情報である、
ことを特徴とする付記5に記載の報知装置。
[付記7]
前記報知手段は、前記ガイダンス情報に対応する状態を報知する、
ことを特徴とする付記1乃至6の何れか1に記載の報知装置。
[付記8]
前記ガイダンス情報に対応する状態は、所定の閾値と紐付けられ、
前記制御手段は、前記逐次検出される顔の状態と前記所定の閾値とに基づいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか否かを判定する、
ことを特徴とする付記1乃至7の何れか1に記載の報知装置。
[付記9]
前記所定の閾値は、所定の範囲を示す閾値であり、
前記状態検出手段は、前記画像から前記被写体の顔の向きを逐次検出し、
前記制御手段は、前記逐次検出される顔の向きが、前記所定の閾値にて示される所定の範囲内に収まっている場合に、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたと判定する。
ことを特徴とする付記8に記載の報知装置。
[付記10]
前記制御手段は、
複数のガイダンス情報を切り替えて報知する一連のガイダンスにおいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか判定する際に、前記ガイダンス情報の切り換えを停止し、
前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たした場合に、前記ガイダンス情報の切り換えを再開させるように、前記報知手段を制御する、
ことを特徴とする付記1乃至9の何れか1に記載の報知装置。
[付記11]
前記被写体の鏡像を表示する第1表示部と、
前記報知手段が報知する前記ガイダンス情報を表示する第2表示部と、
を更に備え、
前記第1表示部の表示面と、前記第2表示部の表示面とが、同時に視認可能に視認方向に重畳して配置されることを特徴とする付記1乃至10の何れか1に記載の報知装置。
[付記12]
コンピュータが行う報知方法であって、
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出ステップと、
前記顔の状態に関するガイダンス情報を報知する報知ステップと、
前記状態検出ステップにて逐次検出される顔の状態が、前記報知ステップにて報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知ステップにおける報知を制御する制御ステップと、
を備えることを特徴とする報知方法。
[付記13]
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出機能と、
前記顔の状態に関するガイダンス情報を報知する報知機能と、
前記状態検出機能により逐次検出される顔の状態が、前記報知機能により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知機能を制御する制御機能と、
をコンピュータに実現することを特徴とする報知プログラム。
Claims (13)
- 逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出手段と、
前記顔の状態に関するガイダンス情報を報知する報知手段と、
前記状態検出手段により逐次検出される顔の状態が、前記報知手段により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知手段を制御する制御手段と、
を備えることを特徴とする報知装置。 - 前記被写体の顔画像を含む画像を逐次撮像する撮像手段を更に備え、
前記状態検出手段は、前記撮像手段により逐次撮像された画像に基づいて前記被写体の顔の状態を逐次検出する、
ことを特徴とする請求項1に記載の報知装置。 - 前記状態検出手段は、前記画像に基づいて、前記被写体の顔の向きを逐次検出する、
ことを特徴とする請求項1又は2に記載の報知装置。 - 前記状態検出手段は、前記画像に基づいて、前記被写体の顔の部位を逐次検出する、
ことを特徴とする請求項1乃至3の何れか1項に記載の報知装置。 - 前記状態検出手段は、前記画像に基づいて、前記被写体の生体情報を逐次検出する、
ことを特徴とする請求項1乃至4の何れか1項に記載の報知装置。 - 前記生体情報は、前記被写体の所定部位における生体情報である、
ことを特徴とする請求項5に記載の報知装置。 - 前記報知手段は、前記ガイダンス情報に対応する状態を報知する、
ことを特徴とする請求項1乃至6の何れか1項に記載の報知装置。 - 前記ガイダンス情報に対応する状態は、所定の閾値と紐付けられ、
前記制御手段は、前記逐次検出される顔の状態と前記所定の閾値とに基づいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか否かを判定する、
ことを特徴とする請求項1乃至7の何れか1項に記載の報知装置。 - 前記所定の閾値は、所定の範囲を示す閾値であり、
前記状態検出手段は、前記画像から前記被写体の顔の向きを逐次検出し、
前記制御手段は、前記逐次検出される顔の向きが、前記所定の閾値にて示される所定の範囲内に収まっている場合に、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたと判定する。
ことを特徴とする請求項8に記載の報知装置。 - 前記制御手段は、
複数のガイダンス情報を切り替えて報知する一連のガイダンスにおいて、前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たしたか判定する際に、前記ガイダンス情報の切り換えを停止し、
前記逐次検出される顔の状態が、前記報知したガイダンス情報に対応する状態を満たした場合に、前記ガイダンス情報の切り換えを再開させるように、前記報知手段を制御する、
ことを特徴とする請求項1乃至9の何れか1項に記載の報知装置。 - 前記被写体の鏡像を表示する第1表示部と、
前記報知手段が報知する前記ガイダンス情報を表示する第2表示部と、
を更に備え、
前記第1表示部の表示面と、前記第2表示部の表示面とが、同時に視認可能に視認方向に重畳して配置されることを特徴とする請求項1乃至10の何れか1項に記載の報知装置。 - コンピュータが行う報知方法であって、
逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出ステップと、
前記顔の状態に関するガイダンス情報を報知する報知ステップと、
前記状態検出ステップにて逐次検出される顔の状態が、前記報知ステップにて報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知ステップにおける報知を制御する制御ステップと、
を備えることを特徴とする報知方法。 - 逐次入力される画像に基づいて、被写体の顔の状態を逐次検出する状態検出機能と、
前記顔の状態に関するガイダンス情報を報知する報知機能と、
前記状態検出機能により逐次検出される顔の状態が、前記報知機能により報知されたガイダンス情報に対応する状態を満たした場合に、前記報知されたガイダンス情報とは異なる他のガイダンス情報を報知するように前記報知機能を制御する制御機能と、
をコンピュータに実現することを特徴とする報知プログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018054464A JP7139638B2 (ja) | 2018-03-22 | 2018-03-22 | 報知装置、報知方法及び報知プログラム |
US16/360,833 US11238629B2 (en) | 2018-03-22 | 2019-03-21 | Notification device, notification method, and recording medium having notification program stored therein |
CN201910217665.0A CN110297720B (zh) | 2018-03-22 | 2019-03-21 | 通知装置、通知方法及存储通知程序的介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018054464A JP7139638B2 (ja) | 2018-03-22 | 2018-03-22 | 報知装置、報知方法及び報知プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019165851A true JP2019165851A (ja) | 2019-10-03 |
JP7139638B2 JP7139638B2 (ja) | 2022-09-21 |
Family
ID=67985492
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018054464A Active JP7139638B2 (ja) | 2018-03-22 | 2018-03-22 | 報知装置、報知方法及び報知プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11238629B2 (ja) |
JP (1) | JP7139638B2 (ja) |
CN (1) | CN110297720B (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112749634A (zh) * | 2020-12-28 | 2021-05-04 | 广州星际悦动股份有限公司 | 基于美容设备的控制方法、装置以及电子设备 |
CN117241771A (zh) * | 2021-05-04 | 2023-12-15 | 纽迪希亚生命早期营养品管理(上海)有限公司 | 按摩指导方法、设备及其应用 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005065812A (ja) * | 2003-08-21 | 2005-03-17 | Nec Fielding Ltd | 健康診断システム,方法およびプログラム |
JP2011067371A (ja) * | 2009-09-25 | 2011-04-07 | Glory Ltd | 体温検査装置、体温検査システムおよび体温検査方法 |
JP2012010955A (ja) * | 2010-06-30 | 2012-01-19 | Terumo Corp | 健康状態監視装置 |
JP2013246184A (ja) * | 2012-05-23 | 2013-12-09 | Sharp Corp | 表示装置 |
WO2015011898A1 (ja) * | 2013-07-22 | 2015-01-29 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 情報処理装置および情報処理装置の制御方法 |
WO2016076140A1 (ja) * | 2014-11-14 | 2016-05-19 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US20160261996A1 (en) * | 2015-03-06 | 2016-09-08 | Qualcomm Incorporated | Managing Emergency Communication Session Termination |
JP2018023768A (ja) * | 2016-07-28 | 2018-02-15 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 被測定者特定方法、被測定者特定システム、血圧の測定状態判定方法、血圧の測定状態判定装置及び血圧の測定状態判定プログラム |
Family Cites Families (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2001216386A (ja) | 2000-02-02 | 2001-08-10 | Nippon Telegr & Teleph Corp <Ntt> | 化粧支援装置 |
US20080165195A1 (en) * | 2007-01-06 | 2008-07-10 | Outland Research, Llc | Method, apparatus, and software for animated self-portraits |
JP5261586B2 (ja) * | 2007-08-10 | 2013-08-14 | 株式会社 資生堂 | メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム |
JP5302793B2 (ja) | 2009-06-24 | 2013-10-02 | ソニーモバイルコミュニケーションズ株式会社 | 美粧支援装置、美粧支援方法、美粧支援プログラム、及び携帯端末装置 |
JP2011110215A (ja) | 2009-11-26 | 2011-06-09 | Toyota Motor Kyushu Inc | リハビリテーション用システム、プログラム、およびプログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP5754439B2 (ja) * | 2012-12-21 | 2015-07-29 | カシオ計算機株式会社 | 情報報知装置、情報報知方法及びプログラム |
JP5530578B1 (ja) * | 2012-12-27 | 2014-06-25 | パナソニック株式会社 | 情報通信方法 |
JP2014183559A (ja) * | 2013-03-21 | 2014-09-29 | Casio Comput Co Ltd | 報知制御装置、報知制御方法及びプログラム |
JP2015184623A (ja) * | 2014-03-26 | 2015-10-22 | ソニー株式会社 | 画像表示装置、カラーフィルタおよび画像信号処理装置 |
CN103957354B (zh) * | 2014-05-08 | 2018-12-04 | 努比亚技术有限公司 | 一种移动终端及其引导拍照的方法和装置 |
WO2016081831A1 (en) * | 2014-11-21 | 2016-05-26 | Mutti Christopher M | Imaging system for object recognition and assessment |
JP2016161835A (ja) | 2015-03-03 | 2016-09-05 | シャープ株式会社 | 表示装置、制御プログラム、および制御方法 |
US20160357578A1 (en) * | 2015-06-03 | 2016-12-08 | Samsung Electronics Co., Ltd. | Method and device for providing makeup mirror |
WO2017091704A1 (en) * | 2015-11-25 | 2017-06-01 | Camplex, Inc. | Surgical visualization systems and displays |
US10324739B2 (en) * | 2016-03-03 | 2019-06-18 | Perfect Corp. | Systems and methods for simulated application of cosmetic effects |
CN106203320A (zh) * | 2016-07-06 | 2016-12-07 | 惠州Tcl移动通信有限公司 | 一种基于移动终端的人脸识别优化方法及系统 |
CN110050251B (zh) * | 2016-12-06 | 2023-10-03 | 皇家飞利浦有限公司 | 向用户显示引导指示符 |
CN106991378B (zh) * | 2017-03-09 | 2020-02-04 | Oppo广东移动通信有限公司 | 基于深度的人脸朝向检测方法、检测装置和电子装置 |
CN108734070A (zh) * | 2017-04-24 | 2018-11-02 | 丽宝大数据股份有限公司 | 腮红指引装置及方法 |
US10646022B2 (en) * | 2017-12-21 | 2020-05-12 | Samsung Electronics Co. Ltd. | System and method for object modification using mixed reality |
-
2018
- 2018-03-22 JP JP2018054464A patent/JP7139638B2/ja active Active
-
2019
- 2019-03-21 US US16/360,833 patent/US11238629B2/en active Active
- 2019-03-21 CN CN201910217665.0A patent/CN110297720B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2005065812A (ja) * | 2003-08-21 | 2005-03-17 | Nec Fielding Ltd | 健康診断システム,方法およびプログラム |
JP2011067371A (ja) * | 2009-09-25 | 2011-04-07 | Glory Ltd | 体温検査装置、体温検査システムおよび体温検査方法 |
JP2012010955A (ja) * | 2010-06-30 | 2012-01-19 | Terumo Corp | 健康状態監視装置 |
JP2013246184A (ja) * | 2012-05-23 | 2013-12-09 | Sharp Corp | 表示装置 |
WO2015011898A1 (ja) * | 2013-07-22 | 2015-01-29 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ | 情報処理装置および情報処理装置の制御方法 |
WO2016076140A1 (ja) * | 2014-11-14 | 2016-05-19 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
US20160261996A1 (en) * | 2015-03-06 | 2016-09-08 | Qualcomm Incorporated | Managing Emergency Communication Session Termination |
JP2018023768A (ja) * | 2016-07-28 | 2018-02-15 | パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカPanasonic Intellectual Property Corporation of America | 被測定者特定方法、被測定者特定システム、血圧の測定状態判定方法、血圧の測定状態判定装置及び血圧の測定状態判定プログラム |
Also Published As
Publication number | Publication date |
---|---|
US20190295301A1 (en) | 2019-09-26 |
CN110297720B (zh) | 2023-05-12 |
CN110297720A (zh) | 2019-10-01 |
JP7139638B2 (ja) | 2022-09-21 |
US11238629B2 (en) | 2022-02-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11029830B2 (en) | Display control apparatus, display controlling method and display control program for providing guidance using a generated image | |
CN112741609B (zh) | 电子装置、电子装置的控制方法以及介质 | |
JPWO2016076140A1 (ja) | 情報処理装置、情報処理方法、およびプログラム | |
US11800989B2 (en) | Electronic device, control method for the electronic device, and storage medium | |
JP2019165851A (ja) | 報知装置、報知方法及び報知プログラム | |
US20220087547A1 (en) | Electronic device, control method for electronic device, and recording medium | |
US10915617B2 (en) | Image processing apparatus, image processing method, and recording medium | |
US11545048B2 (en) | Advising apparatus, advising method, and recording medium | |
JP7135466B2 (ja) | 表示装置、表示方法及び表示プログラム | |
JP7415318B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP7238835B2 (ja) | 電子装置、電子装置の制御方法及び電子装置の制御プログラム | |
JP7225749B2 (ja) | 報知装置、報知方法及びプログラム | |
JP2020057153A (ja) | 表示制御装置、表示制御方法及び表示制御プログラム | |
WO2021060250A1 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP2021151304A (ja) | 電子装置、電子装置の制御プログラム及び電子装置の制御方法 | |
JP2023057107A (ja) | 報知装置、報知方法及びプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210312 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220113 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220208 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220404 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220809 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220822 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7139638 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |