JP2018185782A - リップ・グロス案内装置及びその方法 - Google Patents

リップ・グロス案内装置及びその方法 Download PDF

Info

Publication number
JP2018185782A
JP2018185782A JP2017165103A JP2017165103A JP2018185782A JP 2018185782 A JP2018185782 A JP 2018185782A JP 2017165103 A JP2017165103 A JP 2017165103A JP 2017165103 A JP2017165103 A JP 2017165103A JP 2018185782 A JP2018185782 A JP 2018185782A
Authority
JP
Japan
Prior art keywords
lip
vertical height
guide block
peak
feature point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2017165103A
Other languages
English (en)
Other versions
JP6753829B2 (ja
Inventor
軾榮 沈
Shyh-Yong Shen
軾榮 沈
敏昶 季
Min-Chang Chi
敏昶 季
承軒 ▲蔡▼
承軒 ▲蔡▼
Cheng-Hsuan Tsai
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Cal Comp Big Data Inc
Original Assignee
Cal Comp Big Data Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Cal Comp Big Data Inc filed Critical Cal Comp Big Data Inc
Publication of JP2018185782A publication Critical patent/JP2018185782A/ja
Application granted granted Critical
Publication of JP6753829B2 publication Critical patent/JP6753829B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D34/00Containers or accessories specially adapted for handling liquid toiletry or cosmetic substances, e.g. perfumes
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D40/00Casings or accessories specially adapted for storing or handling solid or pasty toiletry or cosmetic substances, e.g. shaving soaps or lipsticks
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D44/00Other cosmetic or toiletry articles, e.g. for hairdressers' rooms
    • A45D44/005Other cosmetic or toiletry articles, e.g. for hairdressers' rooms for selecting or displaying personal cosmetic colours or hairstyle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/165Detection; Localisation; Normalisation using facial parts and geometric relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B19/00Teaching not covered by other main groups of this subclass
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D34/00Containers or accessories specially adapted for handling liquid toiletry or cosmetic substances, e.g. perfumes
    • A45D2034/002Accessories
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D40/00Casings or accessories specially adapted for storing or handling solid or pasty toiletry or cosmetic substances, e.g. shaving soaps or lipsticks
    • A45D2040/0006Accessories
    • AHUMAN NECESSITIES
    • A45HAND OR TRAVELLING ARTICLES
    • A45DHAIRDRESSING OR SHAVING EQUIPMENT; EQUIPMENT FOR COSMETICS OR COSMETIC TREATMENTS, e.g. FOR MANICURING OR PEDICURING
    • A45D44/00Other cosmetic or toiletry articles, e.g. for hairdressers' rooms
    • A45D2044/007Devices for determining the condition of hair or skin or for selecting the appropriate cosmetic or hair treatment

Landscapes

  • Engineering & Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Business, Economics & Management (AREA)
  • Human Computer Interaction (AREA)
  • Multimedia (AREA)
  • Educational Technology (AREA)
  • Educational Administration (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Geometry (AREA)
  • Image Processing (AREA)
  • Cosmetics (AREA)
  • Image Analysis (AREA)

Abstract

【課題】ユーザにリップ・グロスを塗るように案内するために、画像取込装置、処理装置及びディスプレイ装置を含むリップ・グロス案内装置を提供する。【解決手段】画像取込装置110は、ユーザの顔の画像を取込み、該顔の画像は該ユーザのリップを少なくとも含む。処理装置130は、顔の画像を受信し、顔の画像により複数のリップの特徴点を取得する。処理装置は、上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを得るために、リップの特徴点及び上部のリップと下部のリップとの間の所定の比により、計算を実施する。ディスプレイ装置120は、リップの画像、対応する上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを表示し、上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックにより、ユーザに化粧をするように案内する。【選択図】図2

Description

本発明は顔の特徴認識技術に関するものであり、特にリップ形状の認識に基づくリップ・グロス案内装置及びその方法に関するものである。
美への愛情は女性の気質であり、多くの女性は化粧により顔の特徴を強める。しかしながら、化粧の技術は生来のものではなく、化粧の効果は多くの美容の練習後に向上することができる。
誰か化粧の技術を学びたい場合、学習者はインターネット上の画像から化粧の技術を学ぶことができる。しかしながら、画像から学んだ化粧の技術は、実地に、ずれがある。したがって、近代的装置により化粧の技術を学ぶ方法は、製造業者により関心のある技術的課題である。
本発明は、リップ・グロス案内装置及びリップ・グロス案内方法を提供し、ユーザの顔の画像により、上部リップ・グロス案内ブロックが計算され、表示され、それゆえに、便利な対話型化粧教育を提供するように、リップ・グロス案内装置により提供されるプロンプトにより、ユーザは化粧することができる。
本発明は、画像取込装置、処理装置及びディスプレイ装置を含むリップ・グロス案内装置を提供する。画像取込装置は、ユーザの顔の画像を取込み、該顔の画像は該ユーザのリップを少なくとも含む。処理装置は、前記顔の画像を受信し、前記顔の画像により複数のリップの特徴点を取得する。さらに、処理装置は、上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを得るために、前記リップの特徴点及び上部のリップと下部のリップとの間の所定の比により、計算を実施する。ディスプレイ装置は、前記顔の画像、対応する前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを、表示し、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックにより、前記ユーザに化粧をするように案内する。
本発明は、以下のステップを含むリップ・グロス案内方法を提供する。ユーザの顔の画像を取得し、前記顔の画像により複数のリップの特徴点を取得する。上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを得るために、前記リップの特徴点及び上部のリップと下部のリップとの間の所定の比により、計算を実施する。前記顔の画像、対応する前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを、表示し、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックにより、前記ユーザに化粧をするように案内する。
上述の説明により、本発明のリップ・グロス案内装置及びリップ・グロス案内方法は、ユーザのリップの画像により、上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを、計算し表示することができ、それ故に、ユーザは、リップ・グロスを塗るべき領域を学習し、ユーザは、異なるリップ・グロスを塗る位置により、異なるリップの形状の取得方法を明確に知る。このように、たとえ、ユーザが化粧に精通していなくとも、ユーザは、便利な会話型化粧教育の提供となるように、リップ・グロス案内装置により提供されるプロンプトにより、なお、リップ・グロスを塗ることができる。
本発明の上述の及び他の特徴と利点を理解できるようにするために、以下、幾つかの例示的実施形態を挙げて図面と共に詳細な内容を説明する。
本発明の実施形態によるリップ・グロス案内装置のディスプレイ・インターフェースの模式図である。 本発明の実施形態によるリップ・グロス案内装置のシステムブロック図である。 本発明の実施形態によるリップ・グロス案内ブロックの模式図である。 本発明の第2の実施形態によるリップ・グロス案内ブロックの模式図である。 本発明の第3の実施形態によるリップ・グロス案内ブロックの模式図である。 本発明の実施形態による第2のリップ・グロス案内ブロックの模式図である。 本発明の実施形態によるリップ・グロス案内方法を例示するフローチャートである。 本発明の実施形態によるリップ・グロス案内ブロックを得る詳細なフローである。
図1は、本発明の実施形態によるリップ・グロス案内装置のディスプレイ・インターフェースの模式図であり、図2は、本発明の実施形態によるリップ・グロス案内装置のシステムブロック図である。図1及び図2を参照するに、本実施形態において、リップ・グロス案内装置100は、画像取込装置110、マルチメディアディスプレイ装置120及び処理装置130を含む。
画像取込装置110は、ユーザのリップの画像を含む顔の画像を取込むために用いられる。画像取込装置110は、本開示に限定されないけれども、例えば、ディスプレイ装置120及び処理装置130に有線又は無線方法で接続された内蔵ビデオカメラ、外部携帯電話、外部カメラなどである。
ディスプレイ装置120は、マルチメディア情報及びユーザの顔の画像をリアルタイムで表示することができる。例えば、ディスプレイ装置120は、ユーザの顔の画像を表示し、ユーザが選択するための、複数のリップの形状及びリップ・グロスのオプションを提供する。本例示的実施形態において、ディスプレイ装置120は、高反射性を有する材料(例えば、鏡)の後ろに配置され、有機発光ダイオード(OLED)と結合したディスプレイであり得る。このように、本発明は以下のようには限定されないけれども、ユーザは自身の顔を鏡により見ることができ、ディスプレイ装置120は、ユーザが見て選択のタッチをするための、鏡の上の関連情報を表示することができる。本実施形態のリップ・グロス案内装置100は、化粧台の上に配置される装置とすることができ、リップ・グロス案内装置100のスクリーンは、鏡の後ろに配置することができ、それらの上に表示されるテキスト又は画像はユーザが見るために、鏡を通過することができる。他の実施形態において、リップ・グロス案内装置100は、また、スマートフォン、タブレットPCなどのような消費電子製品又はポータブル鏡と結合したポータブル鏡ボックスであり得る。
処理装置130は、ユーザの顔に関連する複数のユーザの顔の特徴点を得るように、画像取込装置110により取込んだユーザの顔の画像により、計算を実施する。例えば、本例示的実施形態の実施において、処理装置130は、中央処理装置(CPU)、マイクロプロセッサ、特定用途向け集積回路(ASIC)、プログラム可能論理回路(PLD)又は他の類似の装置とすることができる。処理装置130は、リップ・グロス案内ブロックを提供するために、様々な必要なソフトウェアプログラム及び/又は命令セットを実行するように構成される。本実施形態において、処理装置130は、ユーザの顔の194の特徴点を検出し解析するために、Dlibの顔のランドマークを用いる顔検出システムを実行する。他の場合において、ユーザの顔の特徴点は、ユーザの顔の194の特徴点を解析することだけにより、又は、顔の特徴点を検出するために他のアルゴリズムを用いることにより、得ることができる。
本実施形態において、ユーザが鏡をのぞき込みながら化粧する時に、ディスプレイ装置120は、ユーザの顔画像及びリップ画像を表示し、リアルタイムで顔の特徴点を解析することができる。本発明の便利な会話型リップ・グロス案内装置を提供するために、ディスプレイ装置120は、リップ・グロスを塗るためにユーザに位置及び方法を指示するために、ユーザのリップの位置に基づいて、リップ・グロス案内ブロックを、更に表示する。このように、ディスプレイ装置120により表示されたリップ・グロス案内ブロックの案内により、ユーザの顔の対応する位置のリップ上に、ユーザはリップ・グロスを塗ることができる。なお、リップ・グロス案内ブロックを表示するための方法は、リップを包囲するフレームラインを表示することである。しかしながら、リップ・グロス案内ブロックを表示するための方法は、それに限定されず、他の実施形態において、リップ・グロス案内ブロックを表示するための方法は、ユーザのリップをリップ表示ブロックを調整するための参照として直接に取り、調整したリップ表示ブロックをリップ・グロス案内ブロックとして取ることである。
図3を参照するに、図3は本発明の実施形態によるリップ・グロス案内ブロックの模式図である。画像取込装置110がユーザの顔画像を取込んだ後に、処理装置130は、ユーザのリップ画像により、ユーザのリップの複数の特徴点を得る。処理装置130により得たユーザのリップの特徴点は、少なくとも、2つのリップのコーナーLP0、LP1、上部のリップのピークLP2、LP3、下部のリップのピークLP4、上部のリップのピークLP2、LP3及び下部のリップのピークLP4にそれぞれ垂直なリップの特徴点LP5、LP7、LP6を含む。
処理装置130により得たユーザのリップの特徴点は、それらに限定されず、他の実施形態において、処理装置130により得た顔の特徴点の数は、119、194などとすることができ、リップの特徴点の数は、例えば、43である。例えば、119の顔の特徴点の実装において、処理装置130は、例えば、リップの特徴点の数は58〜100であるが、顔の特徴点の全てに0〜118により番号を付けるように、顔の特徴点の各々に番号を付けることができる。さらに、リップのコーナーLP0、LP1は、それぞれ、番号58及び番号100を有し、上部のリップのピークLP2、LP3は、それぞれ、番号63及び番号66を有し、下部のリップのピークLP4は番号78を有し、上部及び下部のリップの境界に位置付けられたリップの特徴点LP5、LP6及びLP7は、それぞれ、番号91、94及び95を有する。しかしながら、本発明は、それらに限定されない。
リップの特徴点が得られた後に、処理装置130は、上部リップ・グロス案内ブロックA1及び下部リップ・グロス案内ブロックA2をそれぞれ得るように、リップの特徴点の位置、ユーザにより選択されるべきリップの形状及び上部及び下部のリップの高さの所定の比により、リップの特徴点を調整することができる。処理装置130が、上部リップ・グロス案内ブロックA1及び下部リップ・グロス案内ブロックA2を得る方法は、以下に説明する。
最初に、処理装置130は、左の上部のリップのピークLP2とリップの特徴点LP5との間の垂直高さh1、垂直高さh1はユーザの上部のリップの高さであるが、を計算する。なお、他の実施形態において、処理装置130は、また、右の上部のリップのピークLP3とリップの特徴点LP7との間の垂直高さh3を計算することができ、垂直高さh3をユーザの上部のリップの高さとして取る。すなわち、処理装置130は、左の上部のリップのピークLP2に対応する垂直高さh1、又は、右の上部のリップのピークLP3に対応する垂直高さh3をユーザの上部のリップの高さとして取ることができる。あるいは、別の実施形態において、処理装置130は、垂直高さh1及びh3を、それぞれ、左のリップ及び右のリップの高さとして取ることができる。以下の実施形態において簡単にするために、左の上部のリップのピークLP2及び対応するその垂直高さh1は、説明のための例として用いる、すなわち、上部のリップの高さはh1である。しかしながら、右の上部のリップのピークLP3及び対応するその垂直高さh3、又は、左の上部のリップのピークLP2及び右の上部のリップのピークLP3、並びに、対応するその垂直高さh1及びh3に関して、上部リップ・グロス案内ブロックA1を計算し調整するために、同じ方法を採用することができ、これは繰り返されない。
上部のリップの高さh1の他に、処理装置130は、また、ユーザの下部のリップの高さh2を計算することができる。具体的に言うと、処理装置130は、下部のリップのピークLP4とリップの特徴点LP6との間の垂直距離h2を計算し、垂直距離h2をユーザの下部のリップの高さとして取る。さらに、ユーザの上部のリップの高さh1及び下部のリップの高さh2を得た後に、処理装置130は、所定の比により、上部リップ・グロス案内ブロックA1及び下部リップ・グロス案内ブロックA2の表示位置を調整することができる。
図3の実施形態を例として取ると、ユーザにより選択されたリップの形状は、上部のリップの高さh1及び下部のリップの高さh2が同じであることを示し、すなわち、上部のリップの高さh1と下部のリップの高さh2との間の所定の比は1:1である。上部リップ・グロス案内ブロックA1及び下部リップ・グロス案内ブロックA2を得るために、ユーザのリップの特徴点を計算し調整する間に、処理装置130が、上部のリップの高さh1と下部のリップの高さh2との間の比は所定の比に適合しない、すなわち、上部のリップの高さh1と下部のリップの高さh2との間の比は1:1でないことを決定する時、処理装置130は、ディスプレイ装置120により表示された上部と下部のリップの高さの間の比が所定の比に適合するように、ユーザのリップの特徴点の位置を調整することができる。
具体的に言うと、処理装置130が、上部と下部のリップの高さの比が調整されるのが必要であると決定する時、例えば、上部のリップの高さh1が下部のリップの高さh2より大きい時、処理装置130は、上部のリップの高さh1と下部のリップの高さh2とを等しくするように、下部のリップの高さh2を、上部のリップのピークLP2、LP3を垂直に下げる参照として取ることができる。あるいは、上部のリップの高さh1が下部のリップの高さh2より小さい時、処理装置130は、上部のリップの高さと下部のリップの高さとを等しくするように、下部のリップの高さh2を、上部のリップのピークLP2、LP3を垂直に上げる参照として取ることができる。なお、処理装置130が、下部のリップの高さh2を、上部のリップの特徴点を調整する参照として取る時、処理装置130は、上部のリップのピークLP2、LP3に隣接して位置づけられたリップの特徴点を同時に調整することができる。例えば、処理装置130は、左の上部のリップのピークLP2と左のリップのコーナーLP0との間に位置付けられたリップの特徴点の位置を比例する方法で同時に上げたり又は下げたりすることができる。あるいは、処理装置130は、本発明はそれに限定されないが、ユーザにより選択された曲線の比例により、リップの特徴点の水平及び垂直の位置を更に調整することができる。
他の実施形態において、処理装置130は、また、下部のリップの高さと上部のリップの高さとを等しくするように、上部のリップの高さh1を、下部のリップの特徴点を調整する参照として取ることができる。例えば、上部のリップの高さh1が下部のリップの高さh2より大きい時、処理装置130は、下部のリップの高さと上部のリップの高さとを等しくするように、下部のリップの高さh2を増大するために、下部のリップの特徴点を下げることができる。
さらに、ユーザの上部のリップの高さと下部のリップの高さとが互いに近い時、処理装置130は、上部のリップの高さと下部のリップの高さとの調整をしない。本実施形態において、上部のリップの高さh1と下部のリップの高さh2との差が5ピクセル以内の場合、処理装置130は、本発明はそれに限定されないが、上部のリップの高さh1と下部のリップの高さh2とが同じであることを決定する。
図4を参照すると、図4は、本発明の第2の実施形態によるリップ・グロス案内ブロックの模式図である。図4の実施形態において、ユーザの上部のリップの高さh1と下部のリップの高さh2とを得る方法は、図3の実施形態の方法と同じであり、その詳細は繰り返さない。それらの間の差は、図4の実施形態において、ユーザにより選択されたリップの形状が上部は薄く下部は厚いことである。上部は薄く下部は厚いリップの形状において、化粧の完全な比例により、上部のリップの高さh1と下部のリップの高さh2との間の所定の比は1:1.5であり、それ故に、その所定の比は、本発明はそれに限定されないが、現在の医療美容術において、最適な上部及び下部のリップの形状の比である。他の実施形態において、実際の要件又は異なる場合により、ユーザは、上部及び下部のリップの高さの所定の比を適切に調整することができる。ユーザにより選択された化粧により、上部及び下部のリップの形状の比は、適切に調整することができる。
図3と類似して、ユーザの上部のリップの高さh1と下部のリップの高さh2との比が所定の比に適合しない時、処理装置130は、ユーザの上部のリップの高さh1と下部のリップの高さh2との比が所定の比に適合することができるように、すなわち、上部のリップの高さh1:下部のリップの高さh2=1:1.5となることができるように、下部のリップの高さh2を、上部リップ・グロス案内ブロックA1内の上部のリップの特徴点の位置を調整するための参照として取ることができる。しかしながら、他の実施形態において、処理装置130は、また、本発明はそれに限定されないが、上部のリップの高さh1と下部のリップの高さh2との比が1:1.5の所定の比に適合することができるように、上部のリップの高さh1を、下部のリップの特徴点を調整するための参照として取ることができる。
さらに、他の実施形態において、処理装置130は、また、上部のリップの高さh1及び下部のリップの高さh2の内のより小さい1つを、調整を実施するための参照として取ることができる。例えば、処理装置130が、上部のリップの高さh1及び下部のリップの高さh2を得た後に、処理装置130は、上部のリップの高さh1及び下部のリップの高さh2を、上部のリップの高さh1により、同時に割る、すなわち、計算した上部のリップの高さは1に変わる。今や、計算した下部のリップの高さh2が1.5より小さい場合、下部のリップの高さh2は、上部のリップの特徴点を調整するための参照として取られる。逆に、計算した下部のリップの高さh2が1.5より大きい場合、それは、上部のリップの高さが、所定の比と比較して、より小さいことを表し、それ故に、上部のリップの高さh1は、下部のリップの特徴点を調整するための参照として取られる。リップ・グロス案内装置により提供される上部のリップ・グロス案内ブロックA1に基づいて、ユーザのリップの形状が、視覚効果において、より小さい形状に維持されるように、ユーザのリップ・グロスは、ユーザの実際のリップの範囲を超えない。
図5を参照すると、図5は、本発明の第3の実施形態によるリップ・グロス案内ブロックの模式図である。図5の実施形態において、ユーザの上部のリップの高さh1と下部のリップの高さh2とを得る方法は、図3の実施形態の方法と同じであり、その詳細は繰り返さない。それらの間の差は、図5の実施形態において、ユーザにより選択されたリップの形状が上部は厚く下部は薄いことである。上部は厚く下部は薄いリップの形状において、化粧の完全な比例により、上部のリップの高さh1と下部のリップの高さh2との所定の比は、本発明はそれに限定されないが、1.5:1である。他の実施形態において、実際の要件により、ユーザは、上部及び下部のリップの高さの所定の比を適切に調整することができる。
図3と類似して、ユーザの上部のリップの高さh1と下部のリップの高さh2との比が所定の比に適合しない時、処理装置130は、ユーザの上部のリップの高さh1と下部のリップの高さh2との比が所定の比に適合することができるように、すなわち、上部のリップの高さh1:下部のリップの高さh2=1:1.5となることができるように、下部のリップの高さh2を、上部リップ・グロス案内ブロックA1内の上部のリップの特徴点の位置を調整するための参照として取ることができる。しかしながら、他の実施形態において、処理装置130は、また、上部のリップの高さh1と下部のリップの高さh2との比が1:1.5であるように、上部のリップの高さh1を、下部のリップの特徴点を調整するための参照として取ることができる。さらに、一実施形態において、処理装置130は、また、その開示により限定されないが、その参照を動的に調整することができる。詳細な調整方法は、図3及び図4の実施形態において、開示したので、その詳細は繰り返さない。
図6を参照すると、図6は、本発明の実施形態によるリップ・グロス案内ブロックの模式図である。本発明の一実施形態において、処理装置130が、上部のリップ・グロス案内ブロックA1又は下部のリップ・グロス案内ブロックA2は、ユーザの実際のリップブロックより小さいことを決定する時、処理装置130は、更に、ユーザのリップブロックと上部のリップ・グロス案内ブロックA1との間に位置付けられる第3の上部のリップ・グロス案内ブロックA3、及び、ユーザのリップブロックと下部のリップ・グロス案内ブロックA2との間に位置付けられる第4の下部のリップ・グロス案内ブロックA4を、ディスプレイ装置120に表示するように命令する。このように、ユーザが所望のリップの形状を正確に描くことができるように、ユーザは、第3の上部のリップ・グロス案内ブロックA3及び第4の下部のリップ・グロス案内ブロックA4に対応する位置で、リップ上に、装飾的なリップ・グロス又はコンシーラーを塗ることができる。
さらに、処理装置130が、上部のリップ・グロス案内ブロックA1は、実際のユーザのリップブロックより大きいことを決定する時、ユーザは、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2の周辺に対応する位置で、リップ上にリップ・グロスのプロファイルを描くことができ、上部のリップ・グロス案内ブロックA1の中の好みのリップ・グロスの表面を覆う。
図7は、本発明の例示的実施形態によるリップ・グロス案内方法を例示するフローチャートである。図2、図3及び図7を参照するに、ユーザがリップ・グロスを塗るための案内を提供するリップ・グロス案内装置100を使用したい時に、最初に、ステップS710において、画像取込装置110は、ユーザのリップの画像を含む顔の画像を取込む。画像取込装置110は、取込んだユーザの顔の画像を処理装置130へ送信する。次いで、ステップS720において、処理装置130は、ユーザの複数のリップの特徴点LP0〜LP7を得るために、取込んだ顔の画像を計算する。さらに、ステップS730において、処理装置130は、ユーザの顔に対応する上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を得るために、計算を実施し、リップの特徴点及び所定の比により、ユーザのリップの特徴点LP0〜LP7を調整する。最後に、処理装置130は、画像取込装置110により得たユーザの顔の画像、並びに、処理装置130により計算した上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2をディスプレイ装置120へ送信することができる。ステップS740において、処理装置130は、ユーザの顔の画像、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を、ディスプレイ装置120に表示するように命令する。
なお、本例示的実施形態において、リップ・グロス案内方法は、顔の画像を得て、上部のリップ・グロス案内ブロックA1を、リアルタイムの方法で、計算することであるため、ステップS710からステップS740までは、ユーザが動作を中止するまで、繰り返し実行される。
さらに、本例示的実施形態のリップ・グロス案内方法は、例えば、上部は薄く下部は厚い、又は、上部は厚く下部は薄い、ユーザの選択により、リップ・グロス案内ブロックのパターンを調整することができる。あるいは、ユーザは、また、ディスプレイ装置120で、リップ・グロスの色、テクスチャーを選択することができ、ディスプレイ装置120で、同じものをプレビューする。他の例示的実施形態において、処理装置130は、ユーザにより選択された色及びテクスチャーにより、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を細かく調整することができ、同じものをディスプレイ装置120に表示することができる。
図8は、リップ・グロス案内ブロックを得る詳細なフローである。本実施形態において、図3及び図8を参照するに、ステップS730が実行される時、すなわち、処理装置130が上部のリップ・グロス案内ブロックA1を得るために、リップの特徴点及び所定の比により計算を実施する時、ステップS832において、処理装置130は、上部のリップのピーク及び下部のリップのピークにより、上部のリップの高さh1及び下部のリップの高さh2を計算する。処理装置130は、最初に、ユーザの上部のリップの高さh1を計算することができ、又は、最初に、ユーザの下部のリップの高さh2を計算することができ、処理装置130の計算の順序は、本開示により限定されない。上部のリップの高さh1及び下部のリップの高さh2の詳細な計算方法は、図3の実施形態において、説明されているので、繰り返さない。
次いで、ステップS834において、処理装置130は、更に、上部のリップの高さh1と下部のリップの高さh2との間の比を計算し、その比が所定の比に適合するかどうかを決定する。さらに、上部のリップの高さh1と下部のリップの高さh2との間の比が所定の比に適合しない時、ステップS836において、処理装置130は、所定の比に適合する上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を得るために、リップの特徴点を更に調整する。詳細な調整方法は、図3から図5の実施形態において、開示されているので、その詳細は繰り返さない。
ステップS836の実行後には、処理装置130は、リップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を計算したので、処理装置130は、画像取込装置110により取込んだユーザの顔の画像、及び、処理装置130により計算したリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を、ディスプレイ装置120へ送信することができ、ステップS740において、処理装置130は、ユーザの顔の画像、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を、ディスプレイ装置120に表示するように命令する。
さらに、ステップS834において、処理装置130が、ユーザの上部のリップの高さh1と下部のリップの高さh2との間の比が所定の比に適合することを決定した時、ステップS740は、直接、実行され、ステップS740により、処理装置130は、ユーザの顔の画像、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を、ディスプレイ装置120に表示するように命令する。
図7及び図8のフローにより、処理装置130は、上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2を計算することができる。したがって、ユーザは、計算された上部のリップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2をディスプレイ装置120により見ることができ、リップ・グロス案内ブロックA1及び下部のリップ・グロス案内ブロックA2に対応する位置で、顔の上にリップ・グロスを塗ることができる。
要約すれば、本発明のリップ・グロス案内装置及びリップ・グロス案内方法は、ユーザが、化粧プロセスの間に、リップ・グロスを塗るのに適切な位置を明確に知って、それに応じて、リップ・グロスを塗るように、ユーザの顔の画像により、リップ・グロス案内ブロックを計算して表示することができる。このように、たとえ、ユーザが化粧に精通していなくとも、ユーザは、便利な会話型化粧教育の提供となるように、リップ・グロス案内装置により提供されるプロンプトにより、なお、リップ・グロスを塗ることができる。
本発明の範囲と精神を逸脱しない範囲で、様々な変更や修正を本発明の構造にすることができることは、当業者には明らかであろう。上述に鑑みて、本発明は提供された本発明の変更や修正をカバーし、それらは、以下の特許の請求範囲及びそれらの均等物の範囲内に収まることを意図している。
本発明は顔の特徴認識技術に関するものであり、特にリップ形状の認識に基づくリップ・グロス案内装置及びその方法に関するものである。
100 リップ・グロス案内装置
110 画像取込装置
120 マルチメディアディスプレイ装置
130 処理装置
S710〜S740 リップ・グロス案内方法のステップ
S832〜S836 リップ・グロス案内ブロックを得るステップ
A1、A3 上部のリップ・グロス案内ブロック
A2、A4 下部のリップ・グロス案内ブロック
h1、h3 上部のリップの高さ、垂直高さ
h2 下部のリップの高さ、垂直距離

Claims (10)

  1. ユーザの顔の画像を取込み、該顔の画像は該ユーザのリップを少なくとも含む、画像取込装置と、
    前記顔の画像を受信し、前記顔の画像により複数のリップの特徴点を取得し、上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを得るために、前記リップの特徴点及び上部のリップと下部のリップとの間の所定の比により、計算を実施する、処理装置と、
    前記顔の画像、対応する前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを、表示し、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックにより、前記ユーザに化粧をするように案内する、ディスプレイ装置と、を備える、リップ・グロス案内装置。
  2. 前記リップの特徴点は、左のリップのコーナー、右のリップのコーナー、左の上部のリップのピーク、右の上部のリップのピーク、下部のリップのピーク、前記左の上部のリップのピークに対応する第1の特徴点及び前記下部のリップのピークに対応する第2の特徴点を少なくとも備え、前記第1の特徴点及び前記第2の特徴点は、前記上部のリップ及び前記下部のリップの境界に位置付けられ、
    前記処理装置は、前記左の上部のリップのピーク及び前記第1の特徴点により、第1の垂直高さを計算し、前記下部のリップのピーク及び前記第2の特徴点により、第2の垂直高さを計算し、
    前記処理装置は、前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合するかどうかを決定し、
    前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記処理装置は、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを得るために、前記第1の垂直高さ及び前記第2の垂直高さにより、前記リップの特徴点を調整する、請求項1に記載のリップ・グロス案内装置。
  3. 前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記処理装置は、前記第1の垂直高さに従って、前記複数のリップの特徴点の中の前記第2の垂直高さに対応する前記リップの特徴点を調整し、又は、前記第2の垂直高さに従って、前記複数のリップの特徴点の中の前記第1の垂直高さに対応する前記リップの特徴点を調整する、請求項2に記載のリップ・グロス案内装置。
  4. 前記所定の比は、1:1.5、1.5:1又は1:1の前記第1の垂直高さと前記第2の垂直高さの比の内の1つである、請求項1に記載のリップ・グロス案内装置。
  5. 前記リップの特徴点は、左のリップのコーナー、右のリップのコーナー、左の上部のリップのピーク、右の上部のリップのピーク、下部のリップのピーク、前記右の上部のリップのピークに対応する第3の特徴点及び前記下部のリップのピークに対応する第2の特徴点を少なくとも備え、前記第3の特徴点及び前記第2の特徴点は、前記上部のリップ及び前記下部のリップの境界に位置付けられ、
    前記処理装置は、前記右の上部のリップのピーク及び前記第3の特徴点により、第3の垂直高さを計算し、前記下部のリップのピーク及び前記第2の特徴点により、第2の垂直高さを計算し、
    前記処理装置は、前記第3の垂直高さ及び前記第2の垂直高さが前記所定の比に適合するかどうかを決定し、
    前記第3の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記処理装置は、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを得るために、前記第3の垂直高さ及び前記第2の垂直高さにより、前記リップの特徴点を調整する、請求項1に記載のリップ・グロス案内装置。
  6. ユーザの顔の画像を取得するステップと、
    前記顔の画像を受信するステップと、
    前記顔の画像により複数のリップの特徴点を取得するステップと、
    上部のリップ・グロス案内ブロック及び下部のリップ・グロス案内ブロックを得るために、前記リップの特徴点及び上部のリップと下部のリップとの間の所定の比により、計算を実施するステップと、
    前記顔の画像、対応する前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを、表示し、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックにより、前記ユーザに化粧をするように案内するステップと、を有する、リップ・グロス案内方法。
  7. 前記リップの特徴点は、左のリップのコーナー、右のリップのコーナー、左の上部のリップのピーク、右の上部のリップのピーク、下部のリップのピーク、前記左の上部のリップのピークに対応する第1の特徴点及び前記下部のリップのピークに対応する第2の特徴点を少なくとも備え、前記第1の特徴点及び前記第2の特徴点は、前記上部のリップ及び前記下部のリップの境界に位置付けられ、
    前記リップ・グロス案内方法は、さらに、
    前記左の上部のリップのピーク及び前記第1の特徴点により、第1の垂直高さを計算し、前記下部のリップのピーク及び前記第2の特徴点により、第2の垂直高さを計算するステップと、
    前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合するかどうかを決定するステップと、
    前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを得るために、前記第1の垂直高さ及び前記第2の垂直高さにより、前記リップの特徴点を調整するステップと、を有する、請求項6に記載のリップ・グロス案内方法。
  8. 前記第1の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記第1の垂直高さに従って、前記複数のリップの特徴点の中の前記第2の垂直高さに対応する前記リップの特徴点が調整され、又は、前記第2の垂直高さに従って、前記複数のリップの特徴点の中の前記第1の垂直高さに対応する前記リップの特徴点が調整される、請求項7に記載のリップ・グロス案内方法。
  9. 前記所定の比は、1:1.5、1.5:1又は1:1の前記第1の垂直高さと前記第2の垂直高さの比の内の1つである、請求項6に記載のリップ・グロス案内方法。
  10. 前記リップの特徴点は、左のリップのコーナー、右のリップのコーナー、左の上部のリップのピーク、右の上部のリップのピーク、下部のリップのピーク、前記右の上部のリップのピークに対応する第3の特徴点及び前記下部のリップのピークに対応する第2の特徴点を少なくとも備え、前記第3の特徴点及び前記第2の特徴点は、前記上部のリップ及び前記下部のリップの境界に位置付けられ、
    前記リップ・グロス案内方法は、さらに、
    前記右の上部のリップのピーク及び前記第3の特徴点により、第3の垂直高さを計算し、前記下部のリップのピーク及び前記第2の特徴点により、第2の垂直高さを計算するステップと、
    前記第3の垂直高さ及び前記第2の垂直高さが前記所定の比に適合するかどうかを決定するステップと、
    前記第3の垂直高さ及び前記第2の垂直高さが前記所定の比に適合しない時、前記上部のリップ・グロス案内ブロック及び前記下部のリップ・グロス案内ブロックを得るために、前記第3の垂直高さ及び前記第2の垂直高さにより、前記リップの特徴点を調整するステップと、を有する、請求項6に記載のリップ・グロス案内方法。
JP2017165103A 2017-04-27 2017-08-30 リップ・グロス案内装置及びその方法 Active JP6753829B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201710286388.X 2017-04-27
CN201710286388.XA CN108804972A (zh) 2017-04-27 2017-04-27 唇彩指引装置及方法

Publications (2)

Publication Number Publication Date
JP2018185782A true JP2018185782A (ja) 2018-11-22
JP6753829B2 JP6753829B2 (ja) 2020-09-09

Family

ID=59772361

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017165103A Active JP6753829B2 (ja) 2017-04-27 2017-08-30 リップ・グロス案内装置及びその方法

Country Status (5)

Country Link
US (1) US10446052B2 (ja)
EP (1) EP3396587A1 (ja)
JP (1) JP6753829B2 (ja)
KR (1) KR20180120550A (ja)
CN (1) CN108804972A (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20190244274A1 (en) * 2018-02-06 2019-08-08 Perfect Corp. Systems and methods for recommending products based on facial analysis
CN112308944A (zh) * 2019-07-29 2021-02-02 丽宝大数据股份有限公司 仿真唇妆的扩增实境显示方法
US11323627B2 (en) 2019-09-12 2022-05-03 Samsung Electronics Co., Ltd. Method and electronic device for applying beauty effect setting
US11404086B2 (en) 2020-02-14 2022-08-02 Perfect Mobile Corp. Systems and methods for segment-based virtual application of makeup effects to facial regions displayed in video frames
US11922540B2 (en) 2020-02-14 2024-03-05 Perfect Mobile Corp. Systems and methods for segment-based virtual application of facial effects to facial regions displayed in video frames
CN111553219A (zh) * 2020-04-21 2020-08-18 海信集团有限公司 一种数据处理方法及智能设备

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007097950A (ja) * 2005-10-06 2007-04-19 Shiseido Co Ltd 唇の化粧方法
JP2009053981A (ja) * 2007-08-28 2009-03-12 Kao Corp 化粧シミュレーション装置
JP2010211308A (ja) * 2009-03-06 2010-09-24 Fujifilm Corp メイクアップアドバイス装置、メイクアップアドバイス方法及びプログラム
JP2012113747A (ja) * 2007-08-10 2012-06-14 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
JP2013501292A (ja) * 2009-08-04 2013-01-10 ヴェサリス 基準画像に対して対象画像を補正する画像処理方法及びその画像処理装置
WO2014167831A1 (ja) * 2013-04-08 2014-10-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ メイクアップ塗材が塗布された状態を仮想的に再現することができる画像処理装置、画像処理方法、プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009064423A (ja) * 2007-08-10 2009-03-26 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
CN103605975B (zh) * 2013-11-28 2018-10-19 小米科技有限责任公司 一种图像处理的方法、装置及终端设备
US10083345B2 (en) 2015-05-05 2018-09-25 Myongsu Choe Makeup supporting methods for creating and applying a makeup guide content to makeup user's face on a real-time basis
CN106293362A (zh) * 2015-05-20 2017-01-04 福建省辉锐电子技术有限公司 一种引导式化妆设备
CN106294820A (zh) * 2016-08-16 2017-01-04 深圳市金立通信设备有限公司 一种指导化妆的方法及终端

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007097950A (ja) * 2005-10-06 2007-04-19 Shiseido Co Ltd 唇の化粧方法
JP2012113747A (ja) * 2007-08-10 2012-06-14 Shiseido Co Ltd メイクアップシミュレーションシステム、メイクアップシミュレーション装置、メイクアップシミュレーション方法およびメイクアップシミュレーションプログラム
JP2009053981A (ja) * 2007-08-28 2009-03-12 Kao Corp 化粧シミュレーション装置
JP2010211308A (ja) * 2009-03-06 2010-09-24 Fujifilm Corp メイクアップアドバイス装置、メイクアップアドバイス方法及びプログラム
JP2013501292A (ja) * 2009-08-04 2013-01-10 ヴェサリス 基準画像に対して対象画像を補正する画像処理方法及びその画像処理装置
WO2014167831A1 (ja) * 2013-04-08 2014-10-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ メイクアップ塗材が塗布された状態を仮想的に再現することができる画像処理装置、画像処理方法、プログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
古川貴雄, 外1名: ""魔法の化粧鏡"", 画像ラボ, vol. 第13巻, 第10号, JPN6020011092, 1 October 2002 (2002-10-01), JP, pages 34 - 38, ISSN: 0004238838 *

Also Published As

Publication number Publication date
US10446052B2 (en) 2019-10-15
KR20180120550A (ko) 2018-11-06
US20180315337A1 (en) 2018-11-01
JP6753829B2 (ja) 2020-09-09
CN108804972A (zh) 2018-11-13
EP3396587A1 (en) 2018-10-31

Similar Documents

Publication Publication Date Title
JP6753829B2 (ja) リップ・グロス案内装置及びその方法
US10342317B2 (en) Eyebrow shape guide device and method thereof
JP6612913B2 (ja) アイライナー描画ガイド装置および方法
US8884985B2 (en) Interface apparatus, method, and recording medium
JP6731896B2 (ja) リップ・グロス案内装置及びその方法
US20150262403A1 (en) Makeup support apparatus and method for supporting makeup
RU2016107189A (ru) Устройства, системы и способы виртуализации зеркала
EP3243331A1 (en) Devices, systems and methods for auto-delay video presentation
EP2894851B1 (en) Image processing device, image processing method, program, and computer-readable storage medium
JP2019063480A (ja) 拡張現実を結合した身体情報分析装置およびその眉型プレビュー方法
US10558850B2 (en) Body information analysis apparatus and method of simulating face shape by using same
JP2015197710A (ja) 化粧支援装置およびプログラム
US10607503B2 (en) Blush guide device and method thereof
EP2860966B1 (en) Image processing apparatus and control method thereof
Arıcı Introduction to programming with Kinect: Understanding hand/arm/head motion and spoken commands
TWI630579B (zh) 電子裝置、電腦可讀取記錄媒體及臉部影像顯示方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190116

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200221

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200619

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200707

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200713

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200811

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200820

R150 Certificate of patent or registration of utility model

Ref document number: 6753829

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350