JP2021528768A - フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器 - Google Patents

フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器 Download PDF

Info

Publication number
JP2021528768A
JP2021528768A JP2020571657A JP2020571657A JP2021528768A JP 2021528768 A JP2021528768 A JP 2021528768A JP 2020571657 A JP2020571657 A JP 2020571657A JP 2020571657 A JP2020571657 A JP 2020571657A JP 2021528768 A JP2021528768 A JP 2021528768A
Authority
JP
Japan
Prior art keywords
facial
tracking
special effects
facials
sequence
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2020571657A
Other languages
English (en)
Other versions
JP7152528B2 (ja
Inventor
劉高
林▲しん▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Microlive Vision Technology Co Ltd
Original Assignee
Beijing Microlive Vision Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Microlive Vision Technology Co Ltd filed Critical Beijing Microlive Vision Technology Co Ltd
Publication of JP2021528768A publication Critical patent/JP2021528768A/ja
Application granted granted Critical
Publication of JP7152528B2 publication Critical patent/JP7152528B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/04Context-preserving transformations, e.g. by using an importance map
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168Feature extraction; Face representation
    • G06V40/171Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • G06T7/62Analysis of geometric attributes of area, perimeter, diameter or volume
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161Detection; Localisation; Normalisation
    • G06V40/167Detection; Localisation; Normalisation using comparisons between temporally consecutive images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/18Eye characteristics, e.g. of the iris
    • G06V40/193Preprocessing; Feature extraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Health & Medical Sciences (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • General Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Geometry (AREA)
  • Ophthalmology & Optometry (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)
  • Processing Or Creating Images (AREA)
  • Image Processing (AREA)

Abstract

本実施例において、フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置およびコンピュータ読み取り可能な記憶媒体を提供する。前記方法は、特殊効果選択命令によりフェイシャル特殊効果を選択するステップと、フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップと、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップと、画像センサーが採集したフェイシャル画像を認識するステップと、フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップとを含む。本発明の実施例により、特殊効果により追跡する必要があるフェイシャルを指定し、フェイシャル特殊効果を積み重ねるフェイシャルの数量、積み重ねの順序およびフェイシャル特殊効果を表示する時間を任意に設定し、複数のフェイシャル上に異なる特殊効果を積み重ね、使用者の体験を向上させることができる。

Description

(関連出願の引用)
本願は、2018年07月27日に出願し、発明の名称が「フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器」であり、出願番号が201810838375.3である中国特許出願を引用し、その出願の全文を本願に組み込む。
本発明は、画像処理技術分野に属し、特に、フェイシャル特殊効果(special effects)による複数のフェイシャルの追跡方法、装置、ハードウェア装置およびコンピュータ読み取り可能な記憶媒体に関するものである。
コンピューター技術の発展に伴い、インテリジェント端末(intelligent terminal)の応用範囲はますます広くなっている。例えば、インテリジェント端末により、音楽を聞き、ゲームをし、オンラインチャットをし、写真を撮ることができる。インテリジェント端末のカメラ技術の発展に伴い、そのピクセルは千万以上になり、高いアーティキュレーションを獲得し、プロフェッショナルカメラに匹敵する撮影の品質を獲得することができる。
従来のインテリジェント端末のカメラで写真または動画を撮るとき、出荷時インテリジェント端末にインストールされる撮影ソフトにより一般の写真または動画を獲得することができ、かつインターネットからダウンロードしたアプリケーション(Application、APPと略称)により写真または動画の品質を更に向上させることができる。
従来の特殊効果作成APPにより1つのフェイシャル特殊効果を設定することができるが、複数のフェイシャル特殊効果を設定するか或いは複数のフェイシャルを追跡することができない。
本発明の実施例においてフェイシャル特殊効果による複数のフェイシャルの追跡方法を提供する。その方法は、特殊効果選択命令によりフェイシャル特殊効果を選択するステップと、フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップと、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップと、画像センサーが採集したフェイシャル画像を認識するステップと、フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップとを含む。
前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものであり、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップは、前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものであることにより前記フェイシャル追跡序列を形成するステップを含み、前記フェイシャル追跡序列は認識されるすべてのフェイシャルを含む。
前記フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップは、前記フェイシャル追跡序列により前記フェイシャル特殊効果を認識されるすべてのフェイシャル画像上に積み重ねるステップを含む。
前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップは、前記フェイシャル追跡類型がカスタマイズ類型であり、前記フェイシャル追跡類型がカスタマイズ類型であることとカスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップを含む。
前記カスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップは、追跡する必要があるフェイシャルの数量を設定するステップと、追跡する必要があるフェイシャルIDを設定するステップとを含み、前記フェイシャルの数量とフェイシャルIDにより前記フェイシャル追跡序列を形成し、前記フェイシャル追跡序列はフェイシャルの数量とフェイシャルIDを含む。
前記カスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップは、前記フェイシャルIDによりフェイシャルを追跡する開始時間と停止時間を設定するステップを更に含み、前記フェイシャル追跡序列には前記開始時間と停止時間が含まれている。
前記画像センサーが採集したフェイシャル画像を認識するステップは、フェイシャル認識計算方法により画像センサーが採取するフェイシャル画像を認識するステップと、認識順番によりフェイシャル画像にフェイシャルIDを設定するステップとを含む。
前記フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップは、前記フェイシャル追跡序列において前記フェイシャルIDを読み取り、前記フェイシャル特殊効果を前記フェイシャルIDに対応するフェイシャル画像上に積み重ねるステップを含む。
前記フェイシャル特殊効果は、2Dステッカー、3Dステッカー、化粧効果および変形効果のうちいずれか一種または多種を含む。
前記特殊効果は多種の特殊効果を含み、各特殊効果によりフェイシャル追跡序列を形成する。
本発明の実施例においてフェイシャル特殊効果による複数のフェイシャルの追跡装置を提供する。前記装置は、特殊効果選択命令により特殊効果を選択するフェイシャル特殊効果選択モジュールと、フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するフェイシャル追跡類型選択モジュールと、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するフェイシャル追跡序列形成モジュールと、画像センサーが採集したフェイシャル画像を認識するフェイシャル認識モジュールと、フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねる特殊効果重畳モジュールとを含む。
前記フェイシャル追跡類型はすべてのフェイシャルを追跡するものであり、前記フェイシャル追跡序列形成モジュールは、前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものであることによりフェイシャル追跡序列を形成する。前記フェイシャル追跡序列は認識されるすべてのフェイシャルを含む。
前記特殊効果重畳モジュールは前記フェイシャル追跡序列により前記フェイシャル特殊効果を認識されるすべてのフェイシャル画像上に積み重ねる。
前記フェイシャル追跡序列形成モジュールは、前記フェイシャル追跡類型がカスタマイズ類型であるかを判断し、前記フェイシャル追跡類型がカスタマイズ類型であるとき、カスタマイズ追跡順番によりフェイシャル追跡序列を形成する。
前記フェイシャル追跡序列形成モジュールは、フェイシャル数量設定モジュール、第一フェイシャルID設定モジュールおよびフェイシャル追跡序列形成サブモジュールを更に含む。フェイシャル数量設定モジュールは追跡する必要があるフェイシャルの数量を設定する。第一フェイシャルID設定モジュールは追跡する必要があるフェイシャルIDを設定する。フェイシャル追跡序列形成サブモジュールは前記フェイシャルの数量とフェイシャルIDにより前記フェイシャル追跡序列を形成する。前記フェイシャル追跡序列はフェイシャルの数量とフェイシャルIDを含む。
前記フェイシャル追跡序列形成モジュールは追跡時間設定モジュールを更に含み、その追跡時間設定モジュールはフェイシャルIDによりフェイシャルを追跡する開始時間と停止時間を設定する。前記フェイシャル追跡序列には前記開始時間と停止時間が含まれている。
前記フェイシャル認識モジュールはフェイシャル認識サブモジュールと第二フェイシャルID設定モジュールを含む。フェイシャル認識サブモジュールはフェイシャル認識計算方法により画像センサーが採取するフェイシャル画像を認識する。第二フェイシャルID設定モジュールは認識順番によりフェイシャル画像にフェイシャルIDを設定する。
前記特殊効果重畳モジュールは、前記フェイシャル追跡序列において前記フェイシャルIDを読み取り、前記フェイシャル特殊効果を前記フェイシャルIDに対応するフェイシャル画像上に積み重ねる。
前記フェイシャル特殊効果は、2Dステッカー、3Dステッカー、化粧効果および変形効果のうちいずれか一種または多種を含む。
前記特殊効果は多種の特殊効果を含み、各特殊効果によりフェイシャル追跡序列を形成する。
本発明の実施例において電子装置を提供する。前記電子装置は記憶装置と処理装置を含み、記憶装置には非過渡性コンピュータ読み取り可能な指令が記憶され、処理装置は前記コンピュータ読み取り可能な指令を実行することにより前記いずれか1つのフェイシャル特殊効果による複数のフェイシャルの追跡方法の各ステップを実施する。
本発明の実施例においてコンピュータ読み取り可能な記憶媒体を提供する。前記コンピュータ読み取り可能な記憶媒体には非過渡性コンピュータ読み取り可能な指令が記憶され、前記非過渡性コンピュータ読み取り可能な指令がコンピュータに実行されることにより前記いずれか1つのフェイシャル特殊効果による複数のフェイシャルの追跡方法中の各ステップを実施する。
本実施例において、フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置およびコンピュータ読み取り可能な記憶媒体を提供する。前記フェイシャル特殊効果による複数のフェイシャルの追跡方法は、特殊効果選択命令によりフェイシャル特殊効果を選択するステップと、フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップと、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップと、画像センサーが採集したフェイシャル画像を認識するステップと、フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップとを含む。本発明の実施例により、特殊効果により追跡する必要があるフェイシャルを指定し、フェイシャル特殊効果を積み重ねるフェイシャルの数量、積み重ねの順序およびフェイシャル特殊効果を表示する時間を任意に設定し、複数のフェイシャル上に異なる特殊効果を積み重ね、使用者の体験を向上させることができる。
以上、本発明の技術事項の概要を説明してきた。本発明の技術的手段をより詳細に理解し、この明細書の内容により本発明を充分に実施し、かつ本発明の前記目的、特徴および発明の効果をより容易に理解してもらうため、以下、好適な実施例と図面により本発明を詳細に説明する。
本発明の実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法を示す流れ図である。 本発明の実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡装置を示す構造図である。 本発明の実施例に係る電子装置を示す構造図である。 本発明の実施例に係るコンピュータ読み取り可能な記憶媒体を示す構造図である。 本発明の実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡端末を示す構造図である。
以下、特定の具体的な実施例により本発明の実施形態を説明し、この技術分野の技術者はその明細書が公開する事項により本発明の利点と効果を容易に理解することができる。注意されたいことは、下記実施例は本発明の一部分の実施例を示すものであり、本発明のすべての実施例を示すものでない。この明細書に記載されていない他の具体的な実施形態により本発明を実施するか或いは応用することもできる。観点と応用が異なる場合、本発明の要旨を逸脱しない範囲において本発明の各細部に対していろいろな変更または改良をすることができる。注意されたいことは、矛盾がない場合、下記実施例と実施例中の特徴を組み合わせることができる。本発明の実施例において、本技術分野の技術者は創造的な研究をしなくても他の実施例を想到することができ、それらがあっても本発明に含まれることは勿論である。
注意されたいことは、下記明細書において特許請求の範囲に係る実施例の各事項を説明する。周知のように、この明細書において説明する事項をいろいろな方面に応用することができ、この明細書において説明する任意の特徴と/或いは機能は本発明の例示にしか過ぎないものである。本技術分野の技術者は本発明の事項により本発明の各実施例を独自に実施するか或いは複数の実施例において2つまたは2つ以上を組み合わせて実施することができる。例えば、本発明の任意の数量の実施例に係る装置と/或いは実施方法を自由に採用することができる。本発明において説明する1個または複数個の実施例にのみ限定されるものでなく、他の構造と/或いは機能を採用することにより本発明の装置と/或いは実施方法を実施することもできる。
注意されたいことは、本発明の実施例において提供する図面は本発明の基本的構成のみを示すものであり、図面には本発明の実施例に係るモジュールが示されているが、それらは本発明を実際に実施するときのモジュールの数量、形態およびサイズを示すものでない。本発明を実際に実施するとき、各モジュールの形態、数量および比例を自由に変化させ、各モジュールの配置もより複雑になることができる。
下記実施例において提供する具体的な細部は本発明を徹底的に理解してもらうための実例である。本技術分野の技術者は下記具体的な細部がなくても本発明を実施することができる。
複数のフェイシャルを追跡することができない技術的課題を解決するため、本発明の実施例においてフェイシャル特殊効果による複数のフェイシャルの追跡方法を提供する。図1に示すとおり、前記フェイシャル特殊効果による複数のフェイシャルの追跡方法はステップS1〜ステップS5を含む。
ステップS1において、特殊効果選択命令によりフェイシャル特殊効果を選択する。
フェイシャル特殊効果をフェイシャルに対応させる必要があるので、複数のフェイシャルを追跡しなければならないフェイシャル特殊効果を選択する必要がある。本実施例において、フェイシャル特殊効果を選択することは、既有フェイシャル特殊効果を選択して作成するか或いは所定の種類のフェイシャル特殊効果を選択して作成することができる。本発明のフェイシャル特殊効果による複数のフェイシャルの追跡方法を独自に実施するか或いはフェイシャル特殊効果の作成に追加して実施することができる。前記フェイシャル特殊効果は、2Dステッカー、3Dステッカー、化粧効果および変形効果等であることができるが、本発明はそれを限定せず、いずれかのフェイシャル特殊効果を本発明に用いることができる。本実施例の特殊効果選択命令をHMI(Human-Machine Interaction)方法、マウスで選択する方法またはキーボードで入力する方法等により受信することができる。
ステップS2において、フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択する。
本実施例において、フェイシャル追跡類型を選択する必要がある。好適な実施例において、コンボボックスまたは選択ボタンによりフェイシャル追跡類型を選択することができる。前記類型は全部フェイシャル追跡方法とカスタマイズフェイシャル追跡方法を含むことができる。全部フェイシャル追跡方法を選択するとき、特殊効果をすべてのフェイシャルに積み重ねることを意味し、カスタマイズフェイシャル追跡方法を選択するとき、使用者は追跡しようとするフェイシャルと追跡方法を指定することができる。
ステップS3において、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成する。
本発明の実施例において、全部フェイシャル追跡方法を選択するとき、その類型により1つのフェイシャル追跡序列を形成することができる。事前にすべてのフェイシャルの数量を把握することができないので、1つの標識で前記フェイシャル追跡序列を表示することができる。前記標識は前記フェイシャル追跡序列に含まれかつ後に検出されるすべてのフェイシャルを指す。
他の実施例において、選択されるフェイシャル追跡類型がカスタマイズフェイシャル追跡方法である場合、前記類型により1つのフェイシャル追跡序列を形成することができる。前記フェイシャル追跡序列は使用者が指定するものである。好適な実施例において、追跡する必要があるフェイシャルの数量nと追跡する必要があるフェイシャルのIDを設定することによりフェイシャル追跡序列を形成することができる。前記フェイシャル追跡序列はn個のフェイシャルIDを含み、前記n個のフェイシャルIDはフェイシャル追跡序列に順番または無順番に配列されることができる。フェイシャル追跡序列中のフェイシャルIDが順番に配列されるとき、前記フェイシャル追跡序列はフェイシャルIDの配列であり、フェイシャル追跡序列中のフェイシャルIDが無順番に配列されるとき、前記フェイシャル追跡序列はフェイシャルIDの集合である。追跡する必要があるフェイシャルの数量nを設定するとき、n値を直接に設定するか或いは間接的に設定することができる。間接的な設定方法はフェイシャルIDを増加させるものである。例えばフェイシャルIDを1つ増加させる必要がある場合、フェイシャルIDを1つ増加させることができる。それによりn個のフェイシャルIDを設定し、追跡する必要があるフェイシャルの数量をn個にすることができる。
他の実施例において、追跡をする必要があるフェイシャルの数量nのみを設定することができる。
前記数量はn>0であり、nは自然数である。
他の実施例において、各フェイシャルIDのフェイシャル特殊効果の表示時間を設定することができる。平常はフェイシャル特殊効果を常に表示するように設定される。すなわちフェイシャルが存在すると、フェイシャル上にフェイシャル特殊効果を積み重ねる。フェイシャル特殊効果の表示時間を設定する場合、フェイシャル特殊効果は設定時間ぐらい表示された後表示が消える。
他の実施例において、各フェイシャルIDの追跡の開始時間と停止時間を設定することができる。好適な実施例において、前記開始時間と停止時間は前記フェイシャルIDに対応するフェイシャルを認識した後の時間の延伸である。例えばフェイシャル1の開始時間を5秒に設定し、停止時間120秒に設定することができる。
他の実施例において、各フェイシャルIDの特殊効果触発条件を設定することができる。所定の表情、動作、ジェスチャー、音声等が特殊効果触発条件になるように設定することができる。例えばうなずくことが特殊効果触発条件になるように設定することができる。
前記各実施例の設定過程を1つのステップに集めることができるが、本発明はそれを限定しない。
ステップS4において、画像センサーが採集したフェイシャル画像を認識する。
本実施例において、画像センサーでフェイシャル画像を採集し、常用している前記画像センサーはカメラであることができる。その後画像センサーが採集したフェイシャル画像を認識する。前記フェイシャル画像は人のフェイシャルを直接に認識することにより獲得するものであるか或いはカメラで撮影するフェイシャル画像または動画中のフェイシャルを認識することにより獲得するものであることができるが、本発明はそれを限定しない。フェイシャル画像を認識するとき、主として、画像においてフェイシャルを検出する。フェイシャル検出方法は、1つの画像または一組の画像序列を任意に指定し、所定の手段によりフェイシャルを捜索することにより全部フェイシャルの位置と区域を確定した後、いろいろな画像または画像序列にフェイシャルが存在するかを判断し、かつフェイシャルの数量と分布を確定する過程である。フェイシャル検出方法は下記4種類を含む。(1)前期検証知識による方法:その方法は、典型のフェイシャル形成ルールベース(rule base)によりフェイシャルの符号化をし、面部特徴の間の関係によりフェイシャルの位置を決める。(2)特徴不変方法:その方法は、姿勢、視覚または光線照射状態により安定な(変化しない)特徴を検出し、その特徴によりフェイシャルを確定する。(3)テンプレートマッチング方法:その方法は、記憶されているフェイシャルの標準テンプレートによりフェイシャルと面部特徴を説明し、かつ入力される画像と記憶されているモデルとの間の関係を算出することによりフェイシャルを検出する。(4)外観による方法:その方法は、テンプレートマッチング方法と異なっており、訓練画像ベースにおいて学習をすることによりモデルを獲得し、かつそのモデールを検出に用いる。以下、第(4)方法の1つに実施方法によりフェイシャルを検出する過程を説明する。まず、特徴を検出することによりモデルを作成する。本実施例においてフェイシャルを判断するキーポイントとしてHaar特徴を用いる。Haar特徴は、簡単な矩形の特徴であり、その特徴を迅速に検出することができる。Haar特徴の計算に用いられる特徴テンプレートとして簡単な矩形の組合せ、例えば2個または複数個の同様の矩形の組合せを採用し、特徴テンプレート内には黒色と白色矩形を含む2種の矩形がある。その後、AdaBoost計算方法により大量のHaar特徴においてキーポイントになることができる一部分の特徴を検出し、その特徴により分類装置を構成し、構成される分類装置により画像中のフェイシャルを検出する。本実施例において画像中のフェイシャルは1個または複数個であることができる。
前記複数のフェイシャル検出計算方法は、いろいろな利点を有しており、適用の範囲も異なっている。異なっている複数の検出計算方法を採用する場合、異なる環境により異なる検出計算方法を採用することができる。例えば、背景の環境が簡単である画像において、検出正確率が高くないが、計算速度が速い計算方法を採用し、背景の環境が複雑である画像において、検出正確率が高いが、計算速度が遅い計算方法を採用することができる。同一の画像において、多種の計算方法により複数回の検出をすることにより検出の正確率を向上させることができる。
本実施例において、認識されるフェイシャル画像について、認識の順序により認識されるフェイシャル画像にフェイシャルIDを順に設定するか或いは、需要により認識されるフェイシャルのフェイシャルIDを指定することができる。
本発明の実施例において、画像センサーにより認識されるフェイシャル画像は変化している。例えば、フェイシャルが1つずつカメラ前に現れるとき、順序によりフェイシャルにコードをつけることができるが、フェイシャルはカメラ前に消えることもできる。例えば使用者が手で顔をふさぐか或いは使用者がカメラ前で去る場合がある。行ってしまうフェイシャルのフェイシャルIDがnである場合、番号がn+1であるフェイシャルIDから始めて、各フェイシャルIDの番号から1を減り、最後のフェイシャルをまでそのステップを実施する。すなわち番号n以後のフェイシャルIDの番号を1位ずつ繰り上げ、フェイシャルIDに番号を再びつける。
ステップS5において、フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねる。
前記ステップS3において形成されるフェイシャル追跡序列により、ステップS3において選択される特殊効果をステップS4において認識されるフェイシャル画像上に積み重ねる。
前記ステップS3において形成されるフェイシャル追跡序列がすべてのフェイシャルの序列を含むとき、フェイシャル特殊効果を認識されるすべてのフェイシャル画像上に積み重ねる。その場合、前後に認識されるフェイシャル画像がそれぞれ形成される場合がある。フェイシャル画像がいつ認識されるかに係らず、フェイシャル特殊効果を各フェイシャル画像上に積み重ねる。例えば、開始時、カメラ前に1つのフェイシャルのみがあるとき、そのフェイシャルを認識した後、フェイシャル特殊効果をそのフェイシャル上に積み重ねる。その後、カメラ前に2つのフェイシャルが現れるとき、その2つのフェイシャルを認識した後、フェイシャル特殊効果をその2つのフェイシャル上に積み重ねる。数量が多い場合前記ステップを繰り返し、本発明はその数量を限定しない。
ステップS3において形成するフェイシャル追跡序列がカスタマイズ序列であるとき、ステップS3の説明によりカスタマイズ序列を2種に分けることができる。カスタマイズ序列が無順番序列であるとき、どのフェイシャル上にフェイシャル特殊効果を積み重ねることが既に決められた。本発明は積み重ねの順番を限定しない。例えば、フェイシャルを追跡する序列がフェイシャル1、フェイシャル4、フェイシャル3、フェイシャル5である場合、フェイシャル1、4、3および5の順番にフェイシャル特殊効果を積み重ね、先にフェイシャル4にフェイシャル特殊効果を積み重ねた後フェイシャル3にフェイシャル特殊効果を積み重ねない。カスタマイズ序列が順番序列であるとき、どのフェイシャル上にフェイシャル特殊効果を積み重ねる必要があるかを定義し、かつ特殊効果を積み重ねる順番を定義する。例えば、フェイシャルを追跡する序列がフェイシャル1、フェイシャル5、フェイシャル4、フェイシャル3である場合、まず、フェイシャル1が検出されるときそのフェイシャル1上にフェイシャル特殊効果を積み重ね、次にフェイシャル5が検出されるときそのフェイシャル5上にフェイシャル特殊効果を積み重ね、最後にフェイシャル4と3上にフェイシャル特殊効果を積み重ねる。1つの標識でフェイシャル追跡序列が順番序列であるか或いは無順番序列であるかを表示することができる。例えば1で順番序列を示し、0で無順番序列を示すことができる。他の一組の番号により前記フェイシャル追跡序列が順番序列であるか或いは無順番序列であるかを定義することもできる。フェイシャル追跡序列が無順番序列であるとき、すべてのフェイシャルIDの番号を同一にすることができる。例えば、1でフェイシャル1を表示し、1でフェイシャル4を表示し、1でフェイシャル3を表示し、1でフェイシャル5を表示することができる。フェイシャル追跡序列が順番序列であるとき、順番番号をフェイシャルIDにつけることができる。例えば、1でフェイシャル1を表示し、2でフェイシャル5を表示し、3でフェイシャル4を表示し、4でフェイシャル3を表示することができる。本実施例において、ステップS4においてフェイシャル画像を認識するとき、順番に従ってフェイシャル画像に番号をつける。例えば初めて認識されるフェイシャル画像の番号をフェイシャル1にすることができる。フェイシャル追跡序列が無順番序列であるとき、フェイシャル追跡序列にフェイシャル1があるかを直接に判断することができる。ある場合、フェイシャル特殊効果をフェイシャル1に対応するフェイシャル画像に積み重ねる。フェイシャル追跡序列が順番序列であるとき、現在のフェイシャル追跡序列の頭部にフェイシャル1があるかを検索する。ある場合、フェイシャル特殊効果をフェイシャル1に対応するフェイシャル画像に積み重ねる。ない場合待つ。毎回の検索の結果が、現在のフェイシャルIDがフェイシャル追跡序列の頭部に位置することである場合、その頭部を次のフェイシャルIDに移動させる。かつすべてのフェイシャルIDにフェイシャル特殊効果が積み重ねられる時まで、そのステップを繰り返す。ステップS3においてフェイシャルIDのフェイシャル特殊効果が表示される時間を設定するとき、前記フェイシャルIDのフェイシャル画像が認識された後、設定される前記時間が過ぎると、フェイシャル特殊効果が消える。フェイシャルIDにおいてフェイシャル特殊効果、例えば2D画像特殊効果を触発させる触発動作を更に設定することができる。フェイシャル1の触発動作はうなずくものであり、フェイシャル1を認識するとき、フェイシャル1に対応するフェイシャル画像上に前記2D画像特殊効果を表示しないが、前記フェイシャル画像にうなずく動作が現れると、2D画像特殊効果をフェイシャル1に対応するフェイシャル画像上に積み重ねる。フェイシャル追跡の開始時間と停止時間を設定するとき、例えばフェイシャル1の開始時間を5秒に設定し、停止時間を120秒に設定することができる。スッテプS4においてフェイシャル1に対応するフェイシャル画像を認識した後、5秒が過ぎると、フェイシャル特殊効果をフェイシャル1に対応するフェイシャル画像に積み重ね、120秒が過ぎると、フェイシャル特殊効果の表示を停止させる。
本実施例において、追跡する必要があるフェイシャルの数量nのみを設定することは追跡するフェイシャルの数量の上限を設定することに相当する。認識されるフェイシャルの数量がnを超えていないことはフェイシャル特殊効果が認識されるフェイシャル画像上に積み重ねられることに相当する。認識されるフェイシャルの数量がnを超えているとき、認識されるn+1個のフェイシャルからフェイシャル特殊効果を積み重ねない。
本発明の実施例において、前記フェイシャル特殊効果は多種を含み、フェイシャル特殊効果を選択した後、各フェイシャル特殊効果によりフェイシャル追跡序列を形成する。それにより同一の画像センサーにより認識される複数のフェイシャル特殊効果上にいろいろなフェイシャル特殊効果を表示することができる。
本実施例において、フェイシャル特殊効果を選択した後、フェイシャル特殊効果によりフェイシャル追跡方法を選択し、かつフェイシャル追跡序列を形成する。画像センサーにより認識されるフェイシャルについて、前記フェイシャル追跡序列により選択されるフェイシャル特殊効果を1つずつ積み重ねる。従来の技術において、特殊効果は初めて認識されるフェイシャル画像上にのみ積み重ねられ、特殊効果を積み重ねようとするフェイシャルを指定することができず、かつ複数のフェイシャル上に異なる特殊効果を積み重ねることができない。本発明の実施例において、特殊効果により追跡する必要があるフェイシャルを指定し、フェイシャル特殊効果を積み重ねるフェイシャルの数量、積み重ねの順序およびフェイシャル特殊効果を表示する時間を任意に設定し、複数のフェイシャル上に異なる特殊効果を積み重ね、使用者の体験を向上させることができる。
上において、前記順序により前記フェイシャル特殊効果による複数のフェイシャルの追跡方法の各ステップを説明してきたが、周知のように、前記各ステップの実施順序は前記順序にのみ限定されるものでない。本技術分野の技術者は、前記方法の各ステップを他の順序、並行、交差方式に実施することもできる。前記フェイシャル特殊効果による複数のフェイシャルの追跡方法は前記ステップのみを含むものでない。本技術分野の技術者は他のステップを追加するか或いは所定のステップを変更させるか或いは取り替えることができ、それらがあっても本発明に含まれることは勿論である。
以下、本発明の実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡装置を説明する。その装置により前記フェイシャル特殊効果による複数のフェイシャルの追跡方法中の各ステップを実施することができる。説明を簡単にするため、以下、本発明の実施例に係る部分のみを説明し、説明しない具体的な事項は前記フェイシャル特殊効果による複数のフェイシャルの追跡方法の実施例を参照することができる。
本発明の実施例においてフェイシャル特殊効果による複数のフェイシャルの追跡装置を提供する。前記装置により前記フェイシャル特殊効果による複数のフェイシャルの追跡方法中のいずれかのステップを実施することができる。図2に示すとおり、前記装置は、フェイシャル特殊効果選択モジュール21、フェイシャル追跡類型選択モジュール22、フェイシャル追跡序列形成モジュール23、フェイシャル認識モジュール24、特殊効果重畳モジュール25を含む。フェイシャル特殊効果選択モジュール21は特殊効果選択命令により特殊効果を選択する。フェイシャル追跡類型選択モジュール22はフェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択する。フェイシャル追跡序列形成モジュール23は前記フェイシャル追跡類型によりフェイシャル追跡序列を形成する。フェイシャル認識モジュール24は画像センサーが採集したフェイシャル画像を認識する。特殊効果重畳モジュール25はフェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねる。
前記フェイシャル追跡序列形成モジュール23は、前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものであるを判断し、前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものであることによりフェイシャル追跡序列を形成する。前記フェイシャル追跡序列は認識されるすべてのフェイシャルを含む。
前記特殊効果重畳モジュール25は前記フェイシャル追跡序列により前記フェイシャル特殊効果を認識されるすべてのフェイシャル画像上に積み重ねる。
前記フェイシャル追跡序列形成モジュール23は、前記フェイシャル追跡類型がカスタマイズ類型であるかを判断し、前記フェイシャル追跡類型がカスタマイズ類型であるとき、カスタマイズ追跡順番によりフェイシャル追跡序列を形成する。
前記フェイシャル追跡序列形成モジュール23は、フェイシャル数量設定モジュール231、第一フェイシャルID設定モジュール232およびフェイシャル追跡序列形成サブモジュール233を更に含む。フェイシャル数量設定モジュール231は追跡する必要があるフェイシャルの数量を設定する。第一フェイシャルID設定モジュール232は追跡する必要があるフェイシャルIDを設定する。フェイシャル追跡序列形成サブモジュール233は前記フェイシャルの数量とフェイシャルIDにより前記フェイシャル追跡序列を形成する。前記フェイシャル追跡序列はフェイシャルの数量とフェイシャルIDを含む。
前記フェイシャル追跡序列形成モジュール23は追跡時間設定モジュール234を更に含み、その追跡時間設定モジュール234はフェイシャルIDによりフェイシャルを追跡する開始時間と停止時間を設定する。前記フェイシャル追跡序列には前記開始時間と停止時間が含まれている。
前記フェイシャル認識モジュール24はフェイシャル認識サブモジュール241と第二フェイシャルID設定モジュール242を含む。フェイシャル認識サブモジュール241はフェイシャル認識計算方法により画像センサーが採取するフェイシャル画像を認識する。第二フェイシャルID設定モジュール242は認識順番によりフェイシャル画像にフェイシャルIDを設定する。
特殊効果重畳モジュール25は、前記フェイシャル追跡序列において前記フェイシャルIDを読み取り、前記フェイシャル特殊効果を前記フェイシャルIDに対応するフェイシャル画像上に積み重ねる。
前記フェイシャル特殊効果は、2Dステッカー、3Dステッカー、化粧効果および変形効果等のうちいずれか一種または多種を含む。
前記特殊効果は多種の特殊効果を含み、各特殊効果によりフェイシャル追跡序列を形成する。
前記フェイシャル特殊効果による複数のフェイシャルの追跡装置は、図1の実施例に係る前記フェイシャル特殊効果による複数のフェイシャルの追跡方法に対応し、具体的な事項は前記フェイシャル特殊効果による複数のフェイシャルの追跡方法の説明を参照することができるので、ここで再び説明しない。
本実施例のフェイシャル特殊効果による複数のフェイシャルの追跡方法の作動原理、発明の効果等は、前記各実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法の所定の説明を参照することができるので、ここで再び説明しない。
図3は本発明の実施例に係る電子装置を示すブロックダイアグラムである。図3に示すとおり、本発明の実施例に係る電子装置30は記憶装置31と処理装置32を含む。
前記記憶装置31は非過渡性コンピュータ読み取り可能な指令を記憶させる。具体的に、記憶装置31は1個または複数個のコンピュータープログラムを含み、前記コンピュータープログラムはいろいろな形態のコンピュータ読み取り可能な記憶媒体、例えば揮発性メモリーと/或いは不揮発性メモリーに記憶されることができる。前記揮発性メモリーは例えば、ランダムアクセスメモリー(RAM)と/或いはキャッシュメモリー(cache)等を含むことができる。前記不揮発性メモリーは例えば、リードオンリーメモリー(ROM)、ハードディスク、フラッシュメモリー等を含むことができる。
前記処理装置32は、中央処理ユニット(CPU)であるか或いはデータ処理機能と/或いは指令実行機能を有している他の形態の処理ユニットであり、電子装置30中の他のモジュールが所望の機能を実行することを制御することができる。本発明の実施例において、前記処理装置32は、前記記憶装置31に記憶されている前記コンピュータ読み取り可能な指令を実行することにより、前記電子装置30が本発明の実施例のフェイシャル特殊効果による複数のフェイシャルの追跡方法のすべてまたは一部分のステップを実施するようにすることができる。
本技術分野の技術者が知っているとおり、使用者の使用体験を向上させる技術的問題を解決するため、本実施例の電子装置は、通信バス、インターフェース等の周知の構造を更に含むことができ、前記周知の構造が本発明の特許請求の範囲に含まれることは勿論である。
本実施例に対する詳細な説明は前記各実施例中の所定の説明を参照することができるので、ここで再び説明しない。
図4は本発明の実施例に係るコンピュータ読み取り可能な記憶媒体を示す図である。図4に示すとおり、本発明の実施例に係るコンピュータ読み取り可能な記憶媒体40は非過渡性コンピュータ読み取り可能な指令41を記憶させる。処理装置で前記非過渡性コンピュータ読み取り可能な指令41を実行することにより、本発明の実施例に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法のすべてまたは一部分のステップを実施することができる。
前記コンピュータ読み取り可能な記憶媒体40は、光記憶媒体(例えばCD−ROMとDVD)、光磁気記録媒体(例えばMO)、磁気記録媒体(例えばテープまたはポータブルハードドライブ)、内部に設けられる書き換え可能な不揮発性メモリーを具備する媒体(例えばメモリーカード)、内部にROMが設けられる媒体(例えばROM装置)を含むことができるが、本発明はそれらにのみ限定されるものでない。
本実施例に対する詳細な説明は前記各実施例中の所定の説明を参照することができるので、ここで再び説明しない。
図5は本発明の実施例に係る端末装置のハードウェアを示す構造図である。図5に示すとおり、前記フェイシャル特殊効果により複数のフェイシャルを追跡する端末装置50は前記実施例のフェイシャル特殊効果により複数のフェイシャルを追跡する装置を含む。
前記端末装置はいろいろな形態により実施されることができる。本発明の端末装置は、例えば携帯電話、スマートフォン、ノートパソコン、デジタル放送受信装置、PDA(携帯情報端末)、PAD(タブレット)、PMP(ポータブルメディアプレーヤー)、ナビゲーション、車用端末装置、車用表示端末、車用電子ミラー等の携帯式端末装置と、例えばデジタルTV、デスクトップコンピュータ等の非携帯式端末装置を含むことができるが、本発明はそれらにのみ限定されるものでない。
他の実施例において、前記端末装置は他のモジュールを更に含むことができる。図5に示すとおり、前記画像特殊効果の処理に用いられる端末装置50は、電源ユニット51、無線通信ユニット52、A/V(オーディオ/ビデオ)入力ユニット53、使用者入力ユニット54、検出ユニット55、接続ユニット56、制御装置57、出力ユニット58および記憶ユニット59等を含むことができる。注意されたいことは、図5には各モジュールを具備する端末が示されているが、本発明は、示されているすべてのモジュールを含まなくてもよく、一部分のモジュールを取り替えるか或いはより少ないモジュールを含むことができる。
無線通信ユニット52は端末装置50と無線通信システムまたはインターネットとの間の無線通信を実施する。A/V入力ユニット53はオーディオまたはビデオ信号を受信する。使用者入力ユニット54は使用者が入力する命令によりキーボード入力データを形成しかつそれにより端末装置の各操作を制御する。検出ユニット55は端末装置50の現在の状態、端末装置50の位置、使用者が端末装置50をタッチすることの有無、端末装置50の傾向、端末装置50の加速移動または減速移動と方向等を検出し、端末装置50を制御して操作する指令または信号を形成する。接続ユニット56は少なくとも1個の外部装置と端末装置50を接続させるインターフェースになることができる。出力ユニット58は視覚、オーディオと/或いは触覚形態の出力信号を出力するように構成される。記憶ユニット59は制御装置57により実行されかつ処理と制御操作に関するソフトウェアプログラムを記憶させるか或いは既に出力されるか或いは間もなく出力されるデータを暫時記憶させることができる。記憶ユニット59は少なくとも1つの類型の記憶媒体を含むことができる。端末装置50はネットワークにより記憶ユニット59に接続されかつ記憶ユニット59の記憶機能を採用するネットワーク記憶装置と協力することができる。制御装置57は通常、端末装置の全体の操作を制御する。制御装置57は、マルチメディアデータの再生またはプレーバックを制御するマルチメディアモジュールを含むことができる。制御装置57はモデル認識処理をすることにより、タッチパネルに入力したハンドライティングインプットまたはドローイングインプットを認識してキャラクターまたは画像を形成することができる。電源ユニット51は制御装置57の制御により外部電力または内部電力を受信しかつそれを各部品とモジュールに提供する電力を供給する。
本発明に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法の各実施例は例えば、コンピュータのソフトウェア、ハードウェア、任意に組み立てられるコンピュータ読み取り可能な記憶媒体がにより実施されることができる。本発明において提供する画像特殊効果の処理方法の各実施例は、アプリケーション固有集積回路(Application Specific Integrated Circuit、ASIC)、デジタルシグナルプロセッサ(DSP)、デジタル信号処理装置(DSPD)、プログラマブルロジックデバイス(PLD)、フィールドプログラマブルゲートアレイ(FPGA)、処理装置、制御装置、マイクロコントローラ、マイクロプロセッサ、本発明の機能を実施できる電子ユニットのうち少なくとも一種により実施されることができる。他の実施例において、本発明に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法の各実施例は制御装置57により実施されることができる。ソフトウェアにより実施する場合、本発明に係るフェイシャル特殊効果による複数のフェイシャルの追跡方法の各実施例は少なくとも一種の機能または操作をする1つのソフトウェアモジュールにより実施されることができる。ソフトウェアコードは適合なプログラミングランゲージにより編集されるソフトウェアアプリケーション(プログラム)により実施されることができ、フトウェアコードは記憶ユニット59に記憶されかつ制御装置57により実施されることができる。
本実施例に対する詳細な説明は前記各実施例中の所定の説明を参照することができるので、ここで再び説明しない。
以上、具体的な実施例により本発明の基本的な原理を説明してきたが、注意されたいことは、上で公開した本発明の利点、優勢、効果等は、本発明の例示にしか過ぎないものであり、かつ本発明を限定するものでないため、本発明の各実施例は前記利点、優勢、効果等を必ず具備する必要はない。また、上で公開した前記具体的な細部は、本発明の例示にしか過ぎないものであり、かつ本発明を理解させるためのものであるが、本発明を限定するものでない。前記細部が公開されているが、本発明は前記細部のみにより実施されるものでない。
本発明の部品、装置、設備、システムを示すブロックダイアグラムは本発明の例示にしか過ぎないものであり、本発明の部品、装置、設備、システムをブロックダイアグラムの順にのみ連結、位置、配置させる意図は全然ない。本技術分野の技術者は常識により本発明の前記部品、装置、設備、システムを自由に連結、位置、配置させることができる。本発明中の「含む」、「包含する」、「具備する」という用語は開放的な用語であるので、「複数の事項を具備しているが、それらにのみ限定されるものでない」ということを意味し、その用語を交換して用いることができる。本発明において用いる「或いは」および「と」という用語は「と/或いは」ということを意味し、その用語を交換して用いることができる。特別な説明がない限り、「或いは」および「と」という用語は「と/或いは」ということを意味する。本発明において用いる「例えば」という用語は「複数の事項を具備しているが、それらにのみ限定されるものでない」ということを意味し、その事項を交換して用いることができる。
本発明において用いる「少なくとも1つ」という用語は、含まれる事項が選択可能な状態(例えば或いは、または等)に列挙されていることを意味する。例えば、「A、BまたはCのうち少なくとも1つ」という用語は、AまたはBまたはCを意味するか或いは、ABまたはABまたはBCを意味するか或いは、ABC(すなわちAとBとC)を意味することができる。また、「例示的」という用語は、それが好適な実施例または他の実施例よりよいことを意味するものでない。
注意されたいことは、本発明のシステムと方法において、各部品または各ステップを分解と/或いは再び組み合わせることができる。前記分解と/或いは再び組み合わせるシステムと方法により本発明と同様な効果を獲得することができる。
本発明の特許請求の範囲が定めた技術的範囲を逸脱しない範囲において、本発明の技術的事項を変更、交換、改良することができる。本発明の特許請求の範囲が定めた技術的範囲は、前記処理、装置、製造、事項の組合せ、手段、方法および動作に係る具体的な実施例にのみ限定されるものでない。本発明の所定の事項により同様の機能を実現するか或いは同様の結果による現在の存在を獲得するか或いは後で処理する処理、装置、製造、事件の組合せ、手段、方法および動作をすることができる。すなわち、本発明の特許請求の範囲が定めた技術的範囲内において、前記処理、装置、製造、事件の組合せ、手段、方法および動作をすることができる。
本発明が公開する前記事項により本技術分野の技術者は本発明を実施するか或いは本発明を用いることができる。本発明が定めた技術的範囲を逸脱しない限り、本技術分野の技術者は本発明が公開する事項により本発明を容易に変更し、本発明が定めた一般的な原理を他の実施例に採用することができる。本発明は、具体的な実施例にのみ限定されるものでなく、本発明の原理と新規の特徴が含まれるあらゆる実施例を含むことができる。
以上、本発明を説明するため前記実施例により本発明を説明してきたが、前記実施例は本発明の例示にしか過ぎないものであるため、本発明は前記実施例の構成にのみ限定されるものでない。以上、本発明の複数の例示と実施例を説明してきたが、本技術分野の技術者は本発明の要旨を逸脱しない範囲において、変更、修正、改良、添加および組合せをすることができる。

Claims (13)

  1. 特殊効果選択命令によりフェイシャル特殊効果を選択するステップと、
    フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップと、
    前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップと、
    画像センサーが採集したフェイシャル画像を認識するステップと、
    フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップとを含むことを特徴とするフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  2. 前記フェイシャル追跡類型がすべてのフェイシャルを追跡するものである場合、前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップは、
    フェイシャル追跡序列を形成するステップであって、前記フェイシャル追跡序列は認識されるすべてのフェイシャルを含むステップを含むことを特徴とする請求項1に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  3. 前記フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップは、
    前記フェイシャル追跡序列により前記フェイシャル特殊効果を認識されるすべてのフェイシャル画像上に積み重ねるステップを含むことを特徴とする請求項2に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  4. 前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップは、
    前記フェイシャル追跡類型がカスタマイズ類型である場合、前記フェイシャル追跡類型がカスタマイズ類型であることとカスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップを含むことを特徴とする請求項1に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  5. 前記カスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップは、
    追跡する必要があるフェイシャルの数量を設定するステップと、
    追跡する必要があるフェイシャルIDを設定するステップとを含み、
    前記フェイシャルの数量とフェイシャルIDにより前記フェイシャル追跡序列を形成し、前記フェイシャル追跡序列はフェイシャルの数量とフェイシャルIDを含むことを特徴とする請求項4に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  6. 前記カスタマイズ追跡順番によりフェイシャル追跡序列を形成するステップは、
    前記フェイシャルIDによりフェイシャルを追跡する開始時間と停止時間を設定するステップであって、前記フェイシャル追跡序列には前記開始時間と停止時間が含まれているステップを更に含むことを特徴とする請求項5に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  7. 前記画像センサーが採集したフェイシャル画像を認識するステップは、
    フェイシャル認識計算方法により画像センサーが採取するフェイシャル画像を認識するステップと、
    認識順番によりフェイシャル画像にフェイシャルIDを設定するステップとを含むことを特徴とする請求項5または6に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  8. 前記フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねるステップは、
    前記フェイシャル追跡序列において前記フェイシャルIDを読み取り、前記フェイシャル特殊効果を前記フェイシャルIDに対応するフェイシャル画像上に積み重ねるステップを含むことを特徴とする請求項7に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  9. 前記フェイシャル特殊効果は、2Dステッカー、3Dステッカー、化粧効果および変形効果のうちいずれか一種または多種を含むことを特徴とする請求項1に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  10. 前記特殊効果選択命令によりフェイシャル特殊効果を選択するステップは特殊効果選択命令により複数のフェイシャル特殊効果を選択するステップを含み、
    前記フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップは、前記複数のフェイシャル特殊効果の各フェイシャル特殊効果において前記フェイシャル特殊効果のフェイシャル追跡類型を選択するステップを含み、
    前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するステップは前記フェイシャル特殊効果のフェイシャル追跡類型により各フェイシャル特殊効果に対応するフェイシャル追跡序列を形成するステップを含むことを特徴とする請求項1に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法。
  11. 特殊効果選択命令により特殊効果を選択するフェイシャル特殊効果選択モジュールと、
    フェイシャル追跡類型を選択する命令により前記フェイシャル特殊効果のフェイシャル追跡類型を選択するフェイシャル追跡類型選択モジュールと、
    前記フェイシャル追跡類型によりフェイシャル追跡序列を形成するフェイシャル追跡序列形成モジュールと、
    画像センサーが採集したフェイシャル画像を認識するフェイシャル認識モジュールと、
    フェイシャル追跡序列により前記フェイシャル特殊効果を少なくとも1つの前記フェイシャル画像上に積み重ねる特殊効果重畳モジュールとを含むことを特徴とするフェイシャル特殊効果による複数のフェイシャルの追跡装置。
  12. 少なくとも1つの処理装置と前記少なくとも1つの処理装置に通信可能に連結される記憶装置とを含み、
    前記少なくとも1つの処理装置には前記少なくとも1つの処理装置により実行されることができる指令が記憶されており、前記指令が前記少なくとも1つの処理装置により実行されることにより前記処理装置は前記請求項1〜10のいずれか一項に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法を実施することを特徴とする電子装置。
  13. コンピュータ指令が記憶されており、コンピュータで前記コンピュータ指令を実行することにより前記請求項1〜10のいずれか一項に記載のフェイシャル特殊効果による複数のフェイシャルの追跡方法を実施することを特徴とする非過渡性コンピュータ読み取り可能な記憶媒体。
JP2020571657A 2018-07-27 2018-12-25 フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器 Active JP7152528B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201810838375.3 2018-07-27
CN201810838375.3A CN109034063A (zh) 2018-07-27 2018-07-27 人脸特效的多人脸跟踪方法、装置和电子设备
PCT/CN2018/123642 WO2020019666A1 (zh) 2018-07-27 2018-12-25 人脸特效的多人脸跟踪方法、装置和电子设备

Publications (2)

Publication Number Publication Date
JP2021528768A true JP2021528768A (ja) 2021-10-21
JP7152528B2 JP7152528B2 (ja) 2022-10-12

Family

ID=64645836

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020571657A Active JP7152528B2 (ja) 2018-07-27 2018-12-25 フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器

Country Status (5)

Country Link
US (1) US11749020B2 (ja)
JP (1) JP7152528B2 (ja)
CN (1) CN109034063A (ja)
GB (1) GB2589996B (ja)
WO (1) WO2020019666A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109034063A (zh) 2018-07-27 2018-12-18 北京微播视界科技有限公司 人脸特效的多人脸跟踪方法、装置和电子设备
CN111507142A (zh) * 2019-01-31 2020-08-07 北京字节跳动网络技术有限公司 人脸表情图像处理方法、装置和电子设备
CN110719415B (zh) * 2019-09-30 2022-03-15 深圳市商汤科技有限公司 一种视频图像处理方法、装置、电子设备及计算机可读介质
CN111627125B (zh) * 2020-06-02 2022-09-27 上海商汤智能科技有限公司 一种签到方法、装置、计算机设备及存储介质
CN111667588A (zh) * 2020-06-12 2020-09-15 上海商汤智能科技有限公司 人物图像处理方法、装置、ar设备以及存储介质
CN111882567A (zh) * 2020-08-03 2020-11-03 深圳传音控股股份有限公司 Ar效果的处理方法、电子设备及可读存储介质
CN112099712B (zh) * 2020-09-17 2022-06-07 北京字节跳动网络技术有限公司 人脸图像显示方法、装置、电子设备及存储介质
CN112188103A (zh) * 2020-09-30 2021-01-05 维沃移动通信有限公司 图像处理方法、装置及电子设备
CN112380379B (zh) * 2020-11-18 2023-05-02 抖音视界有限公司 歌词特效展示方法、装置、电子设备及计算机可读介质
CN113422910A (zh) * 2021-05-17 2021-09-21 北京达佳互联信息技术有限公司 视频处理方法、装置、电子设备和存储介质
CN113361456B (zh) * 2021-06-28 2024-05-07 北京影谱科技股份有限公司 一种人脸识别方法和系统

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007119355A1 (ja) * 2006-03-15 2007-10-25 Omron Corporation 追尾装置、追尾方法、追尾装置の制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2008131559A (ja) * 2006-11-24 2008-06-05 Casio Comput Co Ltd 撮像装置、グループメンバー決定方法およびプログラム
JP2009124231A (ja) * 2007-11-12 2009-06-04 Oki Electric Ind Co Ltd 画像補正装置および画像補正方法
JP2011055066A (ja) * 2009-08-31 2011-03-17 Casio Computer Co Ltd 撮像装置、撮像制御プログラム及び撮像制御方法
JP2011138240A (ja) * 2009-12-28 2011-07-14 Casio Computer Co Ltd 画像処理装置、及びプログラム
JP2012182820A (ja) * 2012-04-27 2012-09-20 Casio Comput Co Ltd 撮像装置及びプログラム
JP2015111836A (ja) * 2008-04-23 2015-06-18 レノボ・イノベーションズ・リミテッド(香港) 画像処理装置、カメラ、画像処理方法およびプログラム
CN107666567A (zh) * 2016-07-27 2018-02-06 中兴通讯股份有限公司 一种拍照方法、装置及移动终端

Family Cites Families (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6400374B2 (en) * 1996-09-18 2002-06-04 Eyematic Interfaces, Inc. Video superposition system and method
US7916897B2 (en) 2006-08-11 2011-03-29 Tessera Technologies Ireland Limited Face tracking for controlling imaging parameters
US8581911B2 (en) * 2008-12-04 2013-11-12 Intific, Inc. Training system and methods for dynamically injecting expression information into an animated facial mesh
JP2012004747A (ja) * 2010-06-15 2012-01-05 Toshiba Corp 電子機器および画像表示方法
EP2586011B1 (en) * 2010-06-23 2023-07-26 Nokia Technologies Oy Method, apparatus and computer program product for tracking face portion
WO2012030869A2 (en) * 2010-08-30 2012-03-08 Apple Inc. Multi-image face-based image processing
US9224248B2 (en) * 2012-07-12 2015-12-29 Ulsee Inc. Method of virtual makeup achieved by facial tracking
JP2014123261A (ja) * 2012-12-21 2014-07-03 Sony Corp 情報処理装置及び記録媒体
EP3154029A4 (en) 2014-06-06 2018-02-28 Sony Interactive Entertainment Inc. Image processing device, image processing method, and image processng program
CN108289185B (zh) 2017-01-09 2021-08-13 腾讯科技(深圳)有限公司 一种视频通信方法、装置及终端设备
EP3462284A4 (en) * 2017-06-12 2019-07-17 Midea Group Co., Ltd. CONTROL METHOD, CONTROL DEVICE, INTELLIGENT MIRROR AND COMPUTER READABLE STORAGE MEDIUM
CN107369141A (zh) 2017-06-28 2017-11-21 广东欧珀移动通信有限公司 美颜方法和电子装置
CN107948506A (zh) * 2017-11-22 2018-04-20 珠海格力电器股份有限公司 一种图像处理方法、装置及电子设备
US10810779B2 (en) * 2017-12-07 2020-10-20 Facebook, Inc. Methods and systems for identifying target images for a media effect
CN108012081B (zh) * 2017-12-08 2020-02-04 北京百度网讯科技有限公司 智能美颜方法、装置、终端和计算机可读存储介质
CN108322802A (zh) * 2017-12-29 2018-07-24 广州市百果园信息技术有限公司 视频图像的贴图处理方法、计算机可读存储介质及终端
US10949648B1 (en) * 2018-01-23 2021-03-16 Snap Inc. Region-based stabilized face tracking
US11068141B1 (en) * 2018-02-02 2021-07-20 Snap Inc. Device-based image modification of depicted objects
US10453265B1 (en) * 2018-04-05 2019-10-22 Page International—FZ—LLC Method and device for the virtual try-on of garments based on augmented reality with multi-detection
CN112041891A (zh) * 2018-04-18 2020-12-04 斯纳普公司 增强表情系统
CN109034063A (zh) 2018-07-27 2018-12-18 北京微播视界科技有限公司 人脸特效的多人脸跟踪方法、装置和电子设备
TWI775006B (zh) * 2019-11-01 2022-08-21 財團法人工業技術研究院 擬真虛擬人臉產生方法與系統,及應用其之人臉辨識方法與系統
US11854069B2 (en) * 2021-07-16 2023-12-26 Snap Inc. Personalized try-on ads

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007119355A1 (ja) * 2006-03-15 2007-10-25 Omron Corporation 追尾装置、追尾方法、追尾装置の制御プログラム、およびコンピュータ読み取り可能な記録媒体
JP2008131559A (ja) * 2006-11-24 2008-06-05 Casio Comput Co Ltd 撮像装置、グループメンバー決定方法およびプログラム
JP2009124231A (ja) * 2007-11-12 2009-06-04 Oki Electric Ind Co Ltd 画像補正装置および画像補正方法
JP2015111836A (ja) * 2008-04-23 2015-06-18 レノボ・イノベーションズ・リミテッド(香港) 画像処理装置、カメラ、画像処理方法およびプログラム
JP2011055066A (ja) * 2009-08-31 2011-03-17 Casio Computer Co Ltd 撮像装置、撮像制御プログラム及び撮像制御方法
JP2011138240A (ja) * 2009-12-28 2011-07-14 Casio Computer Co Ltd 画像処理装置、及びプログラム
JP2012182820A (ja) * 2012-04-27 2012-09-20 Casio Comput Co Ltd 撮像装置及びプログラム
CN107666567A (zh) * 2016-07-27 2018-02-06 中兴通讯股份有限公司 一种拍照方法、装置及移动终端

Also Published As

Publication number Publication date
US20210027046A1 (en) 2021-01-28
JP7152528B2 (ja) 2022-10-12
GB202100221D0 (en) 2021-02-24
GB2589996A (en) 2021-06-16
US11749020B2 (en) 2023-09-05
CN109034063A (zh) 2018-12-18
GB2589996B (en) 2023-04-05
WO2020019666A1 (zh) 2020-01-30

Similar Documents

Publication Publication Date Title
JP2021528768A (ja) フェイシャル特殊効果による複数のフェイシャルの追跡方法、装置および電子機器
JP7286684B2 (ja) 顔に基づく特殊効果発生方法、装置および電子機器
US20210118313A1 (en) Virtualized Tangible Programming
CN106575444B (zh) 用户姿势驱动的化身装置和方法
US20170192500A1 (en) Method and electronic device for controlling terminal according to eye action
US9761277B2 (en) Playback state control by position change detection
WO2017124116A1 (en) Searching, supplementing and navigating media
US20130142417A1 (en) System and method for automatically defining and identifying a gesture
US11706485B2 (en) Display device and content recommendation method
JP2013161267A (ja) 情報処理装置、情報処理方法及びプログラム
CN104081784A (zh) 信息处理装置、信息处理方法和程序
WO2020019664A1 (zh) 基于人脸的形变图像生成方法和装置
US9519355B2 (en) Mobile device event control with digital images
CN108614872A (zh) 课程内容展示方法及装置
JP7372945B2 (ja) シナリオ制御方法、装置および電子装置
JP2020201926A (ja) 視覚的特性に基づいて触覚効果を生成するためのシステムおよび方法
CN112839251A (zh) 一种电视及其与用户的交互方法
US20120327118A1 (en) Display control apparatus, display control method and program
CN113849106B (zh) 翻页笔迹处理方法、设备、电子设备及存储介质
CN114510142B (zh) 基于二维图像的手势识别方法及其系统和电子设备
US9459699B2 (en) Control method and electronic device
CN114202799A (zh) 被控对象变化速度确定方法、装置、电子设备及存储介质
KR101553272B1 (ko) 복수의 타이머를 사용하여 멀티미디어 콘텐츠를 저작하는 방법 및 복수의 타이머를 사용하여 멀티미디어 콘텐츠를 저작하는 저작 장치
KR101944454B1 (ko) 정보처리프로그램 및 정보처리방법
Lee et al. Efficient 3D content authoring framework based on mobile AR

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20201222

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220222

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220520

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220830

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220929

R150 Certificate of patent or registration of utility model

Ref document number: 7152528

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150