JP6907331B2 - 顔認識カメラの動的コンテンツを提供する方法およびシステム - Google Patents

顔認識カメラの動的コンテンツを提供する方法およびシステム Download PDF

Info

Publication number
JP6907331B2
JP6907331B2 JP2019552627A JP2019552627A JP6907331B2 JP 6907331 B2 JP6907331 B2 JP 6907331B2 JP 2019552627 A JP2019552627 A JP 2019552627A JP 2019552627 A JP2019552627 A JP 2019552627A JP 6907331 B2 JP6907331 B2 JP 6907331B2
Authority
JP
Japan
Prior art keywords
content
face
feature information
input video
dynamic content
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019552627A
Other languages
English (en)
Other versions
JP2020514930A (ja
Inventor
キム,ジミン
チェー,サンホ
パク,ビョンソン
ジン,ジョンファン
イ,ウォンヒョ
シン,ヒョンベ
ジョン,ソンヨプ
キム,ソンウク
ハム,ノア
Original Assignee
スノー コーポレーション
スノー コーポレーション
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by スノー コーポレーション, スノー コーポレーション filed Critical スノー コーポレーション
Publication of JP2020514930A publication Critical patent/JP2020514930A/ja
Application granted granted Critical
Publication of JP6907331B2 publication Critical patent/JP6907331B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265—Mixing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—Two-dimensional [2D] image generation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—Two-dimensional [2D] image generation
    • G06T11/60—Creating or editing images; Combining images with text
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/161—Detection; Localisation; Normalisation
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/169—Holistic features and representations, i.e. based on the facial image taken as a whole
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G06V40/168—Feature extraction; Face representation
    • G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/222—Studio circuitry; Studio devices; Studio equipment
    • H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272—Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60—Control of cameras or camera modules
    • H04N23/61—Control of cameras or camera modules based on recognised objects
    • H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Health & Medical Sciences (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

以下の説明は、カメラ映像で顔を認識し、多様なコンテンツを合成する技術に関する。
顔映像を利用したキャラクタは、個人の特徴を最も積極的に表現することのできる手段であり、従来には、アニメーションやゲームなどのキャラクタだけでなく、インターネット上で自身を表現する手段であるアバター(avatar)やプロフィール(profile)写真などに活用されてきた。
顔映像を利用したキャラクタの生成方法としては、映像抽出技術、映像認識技術、映像合成技術、映像特徴点抽出技術などが利用されている。
映像合成技術の一例として、特許文献1(韓国公開特許公報第10−2007−0027175号(公開日03月09日))には、移動通信端末機において、背景色を利用して移動通信端末機に記録された写真や移動通信端末機に装着されたカメラによって撮影された写真を合成する技術が開示されている。
韓国公開特許公報第10−2007−0027175号
顔認識カメラにおいて、カメラ映像に合成可能な1つのコンテンツに対し、カメラ映像がとらえた顔の特徴に応じて互いに異なる合成結果を提供することができる方法およびシステムを提供する。
顔認識カメラにおいて、カメラ映像に合成可能なコンテンツとして、カメラ映像で認識された顔の特徴とマッチングするオブジェクトを含むコンテンツを推薦することができる方法およびシステムを提供する。
コンピュータによって実現される動的コンテンツ提供システムが実行する動的コンテンツ提供方法であって、入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する段階、および前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成する段階を含む、動的コンテンツ提供方法を提供する。
一側面によると、前記抽出する段階は、前記顔領域を基準として顔割合データを算出することにより、前記特徴情報を抽出してよい。
他の側面によると、前記抽出する段階は、前記顔領域を基準として顔割合データを算出した後、前記顔割合データと事前に定められた基準の割合データとを比較し、比較結果を前記特徴情報として活用してよい。
また他の側面によると、前記抽出する段階は、前記入力映像で前記顔領域が2つ以上認識される場合、前記顔領域それぞれに対する顔割合データを算出した後、前記顔領域それぞれの前記顔割合データを比較し、比較結果を前記特徴情報として活用してよい。
また他の側面によると、前記合成する段階は、前記入力映像に前記1つのコンテンツを合成するが、このとき、前記1つのコンテンツに対し、前記特徴情報に応じて互いに異なる合成結果を提供してよい。
また他の側面によると、前記合成する段階は、前記入力映像において、前記特徴情報に対応する位置に前記コンテンツのイメージオブジェクトを合成してよい。
また他の側面によると、前記合成する段階は、前記入力映像に前記コンテンツのイメージオブジェクトを合成するが、このとき、前記特徴情報に対応する効果を適用してよい。
また他の側面によると、前記合成する段階は、前記入力映像で前記顔領域が2つ以上認識された場合、前記顔領域それぞれに前記1つのコンテンツを合成し、該当の顔領域の特徴情報に応じて互いに異なる合成結果を提供してよい。
また他の側面によると、前記合成する段階は、前記特徴情報に基づき、前記入力映像に合成可能なコンテンツを推薦する段階を含んでよい。
さらに他の側面によると、前記推薦する段階は、前記特徴情報に対応するイメージオブジェクトを含むコンテンツリストを提供してよい。
コンピュータに動的コンテンツ提供方法を実行させるためのコンピュータプログラムであって、前記動的コンテンツ提供方法は、入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する段階、および前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成する段階を含む、コンピュータプログラムを提供する。
コンピュータによって実現される動的コンテンツ提供システムであって、コンピュータ読み取り可能な命令を実行するように実現される少なくとも1つのプロセッサを含み、前記少なくとも1つのプロセッサは、入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する顔認識部、および前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成するコンテンツ合成部を備える、動的コンテンツ提供システムを提供する。
本発明の実施形態によると、顔認識カメラにおいて、カメラ映像に合成可能な1つのコンテンツに対し、カメラ映像で認識された顔の特徴に応じて互いに異なる合成結果を提供することができる。
本発明の実施形態によると、顔認識カメラにおいて、カメラ映像に合成可能なコンテンツとして、カメラ映像で認識された顔の特徴とマッチングするオブジェクトを含むコンテンツを推薦することができる。
本発明の一実施形態における、コンピュータシステムの内部構成の一例を説明するためのブロック図である。 本発明の一実施形態における、コンピュータシステムのプロセッサが含むことができる構成要素の例を示した図である。 本発明の一実施形態における、コンピュータシステムが実行することのできる動的コンテンツ提供方法の例を示したフローチャートである。 本発明の一実施形態における、カメラ映像から顔の特徴情報を抽出する過程の例を説明するための図である。 本発明の一実施形態における、カメラ映像から顔の特徴情報を抽出する過程の例を説明するための図である。 本発明の一実施形態における、1つのコンテンツを顔の特徴に合うように合成する過程の例を説明するための図である。 本発明の一実施形態における、1つのコンテンツを顔の特徴に合うように合成する過程の例を説明するための図である。 本発明の一実施形態における、1つのコンテンツを顔の特徴に合うように合成する過程の例を説明するための図である。 本発明の一実施形態における、コンテンツ推薦によるコンテンツ合成過程の例を示したフローチャートである。 本発明の一実施形態における、カメラ映像で認識された顔の特徴に合うコンテンツを推薦する過程の例を示した図である。
以下、本発明の実施形態について、添付の図面を参照しながら詳細に説明する。
本発明の実施形態は、カメラ映像で顔を認識し、多様なコンテンツを合成する技術に関する。
本明細書で具体的に開示される事項などを含む実施形態は、映像で認識された顔の特徴に応じて互いに異なる結果の動的コンテンツを提供することができ、これによって娯楽要素、多様性、効率性などの側面において相当な長所を達成することができる。
本明細書で、「顔認識カメラ」とは、カメラが取得した映像(以下、「カメラ映像」と称する)で顔を自動認識し、認識された顔の上にコンテンツを合成するカメラ機能を意味してよい。また、「コンテンツ」とは、イメージオブジェクトで構成されたコンテンツであって、動物の形状、芸能人、アニメキャラクタなどのように、カメラ映像に合成可能なスタンプや絵文字などを包括したものを意味してよく、固定された形態のオブジェクトはもちろん、フラッシュやアニメーションなどが適用された動くイメージオブジェクトとして実現されてもよい。
図1は、本発明の一実施形態における、コンピュータシステムの内部構成の一例を説明するためのブロック図である。例えば、本発明の実施形態に係る動的コンテンツ提供システムは、図1のコンピュータシステム100で実現されてよい。図1に示すように、コンピュータシステム100は、動的コンテンツ提供方法を実行するための構成要素として、プロセッサ110、メモリ120、永続的記録装置130、バス140、入力/出力インタフェース150、およびネットワークインタフェース160を含んでよい。
プロセッサ110は、命令語のシーケンスを処理することのできる任意の装置を含むか、この一部であってよい。プロセッサ110は、例えば、コンピュータプロセッサ、移動装置、または他の電子装置内のプロセッサおよび/またはデジタルプロセッサを含んでよい。プロセッサ110は、例えば、サーバコンピューティングデバイス、サーバコンピュータ、一連のサーバコンピュータ、サーバファーム、クラウドコンピュータ、コンテンツプラットフォーム、移動コンピューティング装置、スマートフォン、タブレット、セットップボックスなどに含まれてよい。プロセッサ110は、バス140を介してメモリ120に接続されてよい。
メモリ120は、コンピュータシステム100によって使用されるか、これによって出力される情報を記録するための揮発性メモリ、永続的、仮想、またはその他のメモリを含んでよい。メモリ120は、例えば、RAM(random access memory)および/またはDRAM(dynamic RAM)を含んでよい。メモリ120は、コンピュータシステム100の状態情報のような任意の情報を記録するのに使用されてよい。メモリ120は、例えば、顔認識カメラを制御するための命令語を含むコンピュータシステム100の命令語を記録するものとして使用されてよい。コンピュータシステム100は、必要な場合あるいは適切な場合に、1つ以上のプロセッサ110を含んでよい。
バス140は、コンピュータシステム100の多様なコンポーネント間の相互作用を可能にする通信基盤構造を含んでよい。バス140は、コンピュータシステム100のコンポーネント間に、例えば、プロセッサ110とメモリ120との間にデータを運んでよい。バス140は、コンピュータシステム100のコンポーネント間の無線および/または有線通信媒体を含んでよく、並列、直列、または他のトポロジ配列を含んでよい。
永続的記録装置130は、(例えば、メモリ120に比べて)所定の延長された期間内にデータを記録するために、コンピュータシステム100によって使用されるようなメモリまたは他の永久記憶装置のようなコンポーネントを含んでよい。永続的記録装置130は、コンピュータシステム100内のプロセッサ110によって使用されるような非揮発性メインメモリを含んでよい。永続的記録装置130は、例えば、フラッシュメモリ、ハードディスク、光ディスク、または他のコンピュータ読み取り可能媒体を含んでよい。
入力/出力インタフェース150は、キーボード、マウス、音声命令入力、ディスプレイ、または他の入力または出力装置に対するインタフェースを含んでよい。構成命令および/または顔認識カメラに関する入力は、入力/出力インタフェース150において受信されてよい。
ネットワークインタフェース160は、近距離ネットワークまたはインターネットのようなネットワークに対する1つ以上のインタフェースを含んでよい。ネットワークインタフェース160は、有線または無線接続に対するインタフェースを含んでよい。構成命令は、ネットワークインタフェース160において受信されてよい。また、顔認識カメラに関する情報は、ネットワークインタフェース160において受信または送信されてよい。
また、他の実施形態において、コンピュータシステム100は、図1の構成要素よりも多くの構成要素を含んでもよい。しかし、大部分の従来技術的構成要素を明確に図に示す必要はない。例えば、コンピュータシステム100は、上述した入力/出力インタフェース150と連結する入力/出力装置のうちの少なくとも一部を含むように実現されてもよいし、トランシーバ、GPS(Global Positioning System)モジュール、カメラ、各種センサ、データベースなどのような他の構成要素をさらに含んでもよい。より具体的な例として、コンピュータシステム100がスマートフォンのようなモバイル機器の形態で実現される場合、一般的にモバイル機器が含んでいるカメラ、加速度センサやジャイロセンサ、物理的な各種ボタン、タッチパネルを利用したボタン、入力/出力ポート、振動のための振動器などのような多様な構成要素が、コンピュータシステム100にさらに含まれるように実現されてよい。
図2は、本発明の一実施形態における、コンピュータシステムのプロセッサが含むことのできる構成要素の例を示した図であり、図3は、本発明の一実施形態における、コンピュータシステムが実行することのできる動的コンテンツ提供方法の例を示したフローチャートである。
図2に示すように、プロセッサ110は、顔認識部210およびコンテンツ合成部220を備えてよい。このようなプロセッサ110の構成要素は、少なくとも1つのプログラムコードによって提供される制御命令に従ってプロセッサ110によって実行される互いに異なる機能(different functions)の表現であってよい。例えば、プロセッサ110がカメラ映像で顔認識を実行するようにコンピュータシステム100を制御するために動作する機能的表現として、顔認識部210が使用されてよい。プロセッサ110およびプロセッサ110の構成要素は、図3の動的コンテンツ提供方法に含まれる段階310〜段階330を実行してよい。例えば、プロセッサ110およびプロセッサ110の構成要素は、メモリ120が含むオペレーティングシステムのコードと、上述した少なくとも1つのプログラムコードとによる命令(instruction)を実行するように実現されてよい。ここで、少なくとも1つのプログラムコードは、動的コンテンツ提供方法を処理するために実現されたプログラムのコードに対応してよい。
動的コンテンツ提供方法は、図に示す順のとおりに発生しなくてもよく、段階のうちの一部が省略されるか追加の過程がさらに含まれてもよい。
段階310において、プロセッサ110は、動的コンテンツ提供方法のためのプログラムファイルに記録されたプログラムコードをメモリ120にロードしてよい。例えば、動的コンテンツ提供方法のためのプログラムファイルは、図1を参照しながら説明した永続的記録装置130に記録されてよく、プロセッサ110は、バスを介して永続的記録装置130に記録されたプログラムファイルからプログラムコードがメモリ120にロードされるように、コンピュータシステム100を制御してよい。このとき、プロセッサ110およびプロセッサ110に含まれる顔認識部210とコンテンツ合成部220のそれぞれは、メモリ120にロードされたプログラムコードのうちの対応する部分の命令を実行して以下の段階320〜段階330を実行するためのプロセッサ110の互いに異なる機能的表現であってよい。段階320〜段階330の実行のために、プロセッサ110およびプロセッサ110の構成要素は、制御命令による演算を直接処理してもよいし、コンピュータシステム100を制御してもよい。
段階320において、顔認識部210は、カメラ映像で顔を認識し、認識された顔の特徴情報を抽出することができる。顔認識部210は、顔認識システムであって、連続して入力される映像から顔領域を検出し、該当の領域を基準として額、眉毛、目、鼻、口、顎、耳などの位置を検出および追跡してよい。顔認識部210は、顔認識結果に基づいて顔の横:縦の割合、目の大きさ、口の大きさ、額:眉毛:鼻先:顎先の位置の割合などを含む顔割合データを算出することにより、カメラ映像から顔の特徴情報を抽出してよい。
例えば、図4を参照すると、顔認識部210は、カメラ映像400が入力されると、カメラ映像400から顔領域410を検出してよく(S41)、顔領域410内において、額から眉毛までの第1区間(I)、眉毛から鼻先までの第2区間(II)、鼻先から顎先までの第3区間(III)を区分してよい(S42)。この後、顔認識部210は、顔割合データとして、第1区間(I)、第2区間(II)、および第3区間(III)の割合を算出した後、算出された顔割合データと事前に定められた基準の割合データとを比較し、その比較結果を特徴情報として活用してよい。言い換えれば、顔認識部210は、カメラ映像内の顔の第1区間(I)、第2区間(II)、および第3区間(III)の割合と基準の割合データとを比較することにより、基準よりも額が広い、鼻が大きい、顎が長いなどのような特徴情報を取得してよい。
他の例として、顔認識部210は、図5に示すように、カメラ映像500内で2つ以上の顔領域510、520が認識される場合、顔領域510、520それぞれに対して顔割合データを算出した後、カメラ映像500内の顔領域510、520それぞれの顔割合データを比較し、その比較結果を顔領域510、520それぞれの特徴情報として活用してよい。例えば、カメラ映像500内の人物Aの顔領域510と人物Bの顔領域520とを比較し、人物Bよりも人物Aの方が、顔が小さい、目が大きい、口が大きいなどのような特徴情報を取得してよい。
再び図3において、段階330において、コンテンツ合成部220は、カメラ映像との合成のために選択された1つのコンテンツを、入力されたカメラ映像と合成するが、このとき、カメラ映像で認識された顔の特徴情報に合うように、該当のコンテンツのイメージオブジェクトを動的に合成してよい。言い換えれば、コンテンツ合成部220は、カメラ映像に合成可能なコンテンツのうちから選択された1つのコンテンツに対し、カメラ映像で認識された顔の特徴に応じて互いに異なる合成結果を提供してよい。
一例として、コンテンツ合成部220は、選択されたコンテンツのイメージオブジェクトを、カメラ映像で認識された顔の特徴情報に対応する位置に合成してよい。図6に示すように、カメラ映像600において、顎が長いという特徴をもつ顔が認識された場合、コンテンツリスト650から選択されたスタンプ601をカメラ映像600内の顔領域のうちの顎部分に合成してよい。図7に示すように、カメラ映像700において、額が長いという特徴をもつ顔が認識された場合、コンテンツリスト750から選択されたスタンプ701をカメラ映像700内の顔領域のうちの額部分に合成してよい。カメラ映像で2つ以上の顔領域が認識された場合、選択されたコンテンツのイメージオブジェクトを、認識された顔領域それぞれに合成するようになるが、図8に示すように、カメラ映像800において、顎が長い特徴をもつ顔の人物Aと額が長い特徴をもつ顔の人物Bが認識される場合、顔それぞれの特徴に基づき、人物Aの顔には顎部分に、人物Bの顔には額部分に、コンテンツリスト850から選択されたスタンプ801を合成してよい。
他の例として、コンテンツ合成部220は、選択されたコンテンツのイメージオブジェクトをカメラ映像に合成するが、このとき、カメラ映像で認識された顔の特徴情報に対応する効果を適用してよい。このために、コンテンツそれぞれに対し、顔特徴ごとにそれぞれ異なる効果が事前に定義されることによってデータベースとして構築され、メモリ120に記録されてよい。コンテンツ合成部220は、メモリ120に記録されたデータベースからユーザが選択したコンテンツに対し、カメラ映像で認識された顔の特徴情報とマッチングする効果を検索して適用してよい。例えば、1つのコンテンツに対し、顎が長いという特徴をもつ顔領域では顎部分を強調する効果のイメージオブジェクトが合成されてよく、額が長いという特徴をもつ顔領域では額部分を強調する効果のイメージオブジェクトが合成されてよい。
したがって、コンテンツ合成部220は、カメラ映像に合成しようとするスタンプが同一のコンテンツであったとしても、カメラ映像で認識された顔の特徴に応じて異なる合成結果を提供することが可能となる。
さらに、コンテンツ合成部220は、ユーザのコンテンツ選択に先立ち、カメラ映像で認識された顔の特徴情報に基づき、該当の特徴に合うように合成することのできるコンテンツを推薦してよい。
図9は、本発明の一実施形態における、コンテンツ推薦によるコンテンツ合成過程の例を示した図である。
段階91において、コンテンツ合成部220は、段階320で認識された特徴情報に対応するイメージオブジェクトを含むコンテンツを推薦してよい。コンテンツそれぞれは、属性情報として、該当のコンテンツに関する顔特徴情報を含んでよく、顔特徴ごとにそれぞれ異なる効果を適用することのできるイメージオブジェクトを含んでよい。コンテンツ合成部220は、カメラ映像で認識された顔の特徴情報が抽出された場合、抽出された特徴とマッチングするイメージオブジェクトをもつコンテンツリストを推薦してよい。
例えば、図10を参照すると、カメラ映像1000で顎が長いという特徴をもつ顔が認識された場合、コンテンツリスト全体ではなく、顔領域のうちで顎部分を強調することができるイメージオブジェクトで構成された推薦コンテンツリスト1060を先立って提供してよい。言い換えれば、推薦コンテンツリスト1060は、カメラ映像で認識された顔の特徴情報と関連するイメージオブジェクトのコンテンツで構成されてよい。
再び図9において、段階92において、コンテンツ合成部220は、推薦コンテンツのうちから選択されたコンテンツをカメラ映像に合成してよい。コンテンツ合成部220は、カメラ映像で認識された顔の特徴情報に応じ、該当の特徴を強調することのできるイメージオブジェクトをカメラ映像に合成してよい。
したがって、コンテンツ合成部220は、カメラ映像に合成可能なコンテンツとして、コンテンツリスト全体ではなく、カメラ映像で認識された顔の特徴とマッチングするイメージオブジェクトを含むコンテンツを推薦することが可能となる。
このように、本発明の実施形態によると、カメラ映像で認識された顔の特徴情報、すなわち、目鼻口などの位置だけでなく、大きさや割合なども考慮することにより、1つのコンテンツに対し、カメラ映像で認識された顔の特徴に応じてそれぞれ異なる合成結果を提供することにより、顔認識カメラの娯楽要素をさらに強化することが可能となる。
上述した装置は、ハードウェア構成要素、ソフトウェア構成要素、および/またはハードウェア構成要素とソフトウェア構成要素との組み合わせによって実現されてよい。例えば、実施形態で説明された装置および構成要素は、プロセッサ、コントローラ、ALU(arithmetic logic unit)、デジタル信号プロセッサ、マイクロコンピュータ、FPGA(field programmable gate array)、PLU(programmable logic unit)、マイクロプロセッサ、または命令を実行して応答することができる様々な装置のように、1つ以上の汎用コンピュータまたは特殊目的コンピュータを利用して実現されてよい。処理装置は、オペレーティングシステム(OS)およびOS上で実行される1つ以上のソフトウェアアプリケーションを実行してよい。また、処理装置は、ソフトウェアの実行に応答し、データにアクセスし、データを記録、操作、処理、および生成してもよい。理解の便宜のために、1つの処理装置が使用されるとして説明される場合もあるが、当業者は、処理装置が複数個の処理要素および/または複数種類の処理要素を含んでもよいことが理解できるであろう。例えば、処理装置は、複数個のプロセッサまたは1つのプロセッサおよび1つのコントローラを含んでよい。また、並列プロセッサのような、他の処理構成も可能である。
ソフトウェアは、コンピュータプログラム、コード、命令、またはこれらのうちの1つ以上の組み合わせを含んでもよく、思うままに動作するように処理装置を構成したり、独立的または集合的に処理装置に命令したりしてよい。ソフトウェアおよび/またはデータは、処理装置に基づいて解釈されたり、処理装置に命令またはデータを提供したりするために、いかなる種類の機械、コンポーネント、物理装置、コンピュータ記録媒体または装置に具現化されてよい。ソフトウェアは、ネットワークによって接続されたコンピュータシステム上に分散され、分散された状態で記録されても実行されてもよい。ソフトウェアおよびデータは、1つ以上のコンピュータ読み取り可能な記録媒体に記録されてよい。
実施形態に係る方法は、多様なコンピュータ手段によって実行可能なプログラム命令の形態で実現されてコンピュータ読み取り可能な媒体に記録されてよい。ここで、媒体は、コンピュータで実行可能なプログラムを継続して記録するものであっても、実行またはダウンロードのために一時記録するものであってもよい。また、媒体は、単一または複数のハードウェアが結合した形態の多様な記録手段または格納手段であってよく、あるコンピュータシステムに直接接続する媒体に限定されることはなく、ネットワーク上に分散して存在するものであってもよい。媒体の例は、ハードディスク、フロッピー(登録商標)ディスク、および磁気テープのような磁気媒体、CD−ROMおよびDVDのような光媒体、フロプティカルディスク(floptical disk)のような光磁気媒体、およびROM、RAM、フラッシュメモリなどを含み、プログラム命令が記録されるように構成されたものであってよい。また、媒体の他の例として、アプリケーションを配布するアプリケーションストアやその他の多様なソフトウェアを供給または配布するサイト、サーバなどで管理する記録媒体または格納媒体が挙げられる。
以上のように、実施形態を、限定された実施形態および図面に基づいて説明したが、当業者であれば、上述した記載から多様な修正および変形が可能であろう。例えば、説明された技術が、説明された方法とは異なる順序で実行されたり、かつ/あるいは、説明されたシステム、構造、装置、回路などの構成要素が、説明された方法とは異なる形態で結合されたりまたは組み合わされたり、他の構成要素または均等物によって代替されたり置換されたとしても、適切な結果を達成することができる。
したがって、異なる実施形態であっても、特許請求の範囲と均等なものであれば、添付される特許請求の範囲に属する。

Claims (16)

  1. コンピュータによって実現される動的コンテンツ提供システムで実行される動的コンテンツ提供方法であって、
    入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する段階、および
    前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成する段階
    を含み、
    前記抽出する段階は、
    前記顔領域を複数の区間に区分し、
    前記複数の区間の各々について、前記顔領域を基準として顔割合データを算出した後、前記顔割合データと事前に定められた基準の割合データとを比較し、比較結果を前記特徴情報として活用する、
    動的コンテンツ提供方法。
  2. 前記抽出する段階は、
    前記入力映像で前記顔領域が2つ以上認識される場合、前記顔領域それぞれの前記複数の区間の各々についての前記顔割合データを算出した後、前記顔領域それぞれの前記複数の区間の各々についての前記顔割合データを比較し、比較結果を前記特徴情報として活用する、
    請求項1に記載の動的コンテンツ提供方法。
  3. 前記合成する段階は、
    前記入力映像に前記1つのコンテンツを合成するが、このとき、前記1つのコンテンツに対し、前記特徴情報に応じて互いに異なる合成結果を提供する、
    請求項1に記載の動的コンテンツ提供方法。
  4. 前記合成する段階は、
    前記入力映像において、前記特徴情報に対応する位置に前記コンテンツのイメージオブジェクトを合成する、
    請求項1に記載の動的コンテンツ提供方法。
  5. 前記合成する段階は、
    前記入力映像に前記コンテンツのイメージオブジェクトを合成するが、このとき、前記特徴情報に対応する効果を適用する、
    請求項1に記載の動的コンテンツ提供方法。
  6. 前記合成する段階は、
    前記入力映像で前記顔領域が2つ以上認識される場合、前記顔領域それぞれに前記1つのコンテンツを合成するが、このとき、該当の顔領域の特徴情報に応じて互いに異なる合成結果を提供する、
    請求項1に記載の動的コンテンツ提供方法。
  7. 前記合成する段階は、
    前記特徴情報に基づき、前記入力映像に合成可能なコンテンツを推薦する段階
    を含む、請求項1に記載の動的コンテンツ提供方法。
  8. 前記推薦する段階は、
    前記特徴情報に対応するイメージオブジェクトを含むコンテンツリストを提供する、
    請求項7に記載の動的コンテンツ提供方法。
  9. コンピュータに動的コンテンツ提供方法を実行させるためのコンピュータプログラムであって、
    前記動的コンテンツ提供方法は、
    入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する段階、および
    前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成する段階
    を含み、
    前記抽出する段階は、
    前記顔領域を複数の区間に区分し、
    前記複数の区間の各々について、前記顔領域を基準として顔割合データを算出した後、前記顔割合データと事前に定められた基準の割合データとを比較し、比較結果を前記特徴情報として活用する、
    コンピュータプログラム。
  10. コンピュータによって実現される動的コンテンツ提供システムであって、
    コンピュータ読み取り可能な命令を実行するように実現される少なくとも1つのプロセッサ
    を含み、
    前記少なくとも1つのプロセッサは、
    入力映像で顔領域を認識し、認識された顔領域の特徴情報を抽出する顔認識部、および
    前記入力映像に合成しようとする1つのコンテンツに対し、前記特徴情報に応じて該当のコンテンツのイメージオブジェクトを動的に合成するコンテンツ合成部
    を備え、
    前記顔認識部は、
    前記顔領域を複数の区間に区分し、
    前記複数の区間の各々について、前記顔領域を基準として顔割合データを算出した後、前記顔割合データと事前に定められた基準の割合データとを比較し、比較結果を前記特徴情報として活用する、
    動的コンテンツ提供システム。
  11. 前記顔認識部は、
    前記入力映像で前記顔領域が2つ以上認識される場合、前記顔領域それぞれの前記複数の区間の各々についての前記顔割合データを算出した後、前記顔領域それぞれの前記複数の区間の各々についての前記顔割合データを比較し、比較結果を前記特徴情報として活用する、
    請求項10に記載の動的コンテンツ提供システム。
  12. 前記コンテンツ合成部は、
    前記入力映像に前記1つのコンテンツを合成するが、このとき、前記1つのコンテンツに対し、前記特徴情報に応じて互いに異なる合成結果を提供する、
    請求項10に記載の動的コンテンツ提供システム。
  13. 前記コンテンツ合成部は、
    前記入力映像において、前記特徴情報に対応する位置に前記コンテンツのイメージオブジェクトを合成する、
    請求項10に記載の動的コンテンツ提供システム。
  14. 前記コンテンツ合成部は、
    前記入力映像に前記コンテンツのイメージオブジェクトを合成するが、このとき、前記特徴情報に対応する効果を適用する、
    請求項10に記載の動的コンテンツ提供システム。
  15. 前記コンテンツ合成部は、
    前記入力映像で前記顔領域が2つ以上認識される場合、前記顔領域それぞれに前記1つのコンテンツを合成するが、このとき、該当の顔領域の特徴情報に応じて互いに異なる合成結果を提供する、
    請求項10に記載の動的コンテンツ提供システム。
  16. 前記コンテンツ合成部は、
    前記入力映像に合成可能なコンテンツとして、前記特徴情報に対応するイメージオブジェクトを含むコンテンツを推薦する、
    請求項10に記載の動的コンテンツ提供システム。
JP2019552627A 2017-03-22 2017-03-22 顔認識カメラの動的コンテンツを提供する方法およびシステム Active JP6907331B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2017/003061 WO2018174311A1 (ko) 2017-03-22 2017-03-22 얼굴 인식 카메라의 동적 컨텐츠를 제공하는 방법 및 시스템

Publications (2)

Publication Number Publication Date
JP2020514930A JP2020514930A (ja) 2020-05-21
JP6907331B2 true JP6907331B2 (ja) 2021-07-21

Family

ID=63585556

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019552627A Active JP6907331B2 (ja) 2017-03-22 2017-03-22 顔認識カメラの動的コンテンツを提供する方法およびシステム

Country Status (5)

Country Link
US (1) US11017567B2 (ja)
JP (1) JP6907331B2 (ja)
KR (1) KR102256314B1 (ja)
CN (1) CN110431838B (ja)
WO (1) WO2018174311A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US12315293B2 (en) 2019-11-07 2025-05-27 Hyperconnect LLC Method and apparatus for generating reenacted image
US12505500B2 (en) 2019-11-07 2025-12-23 Hyperconnect LLC Method and apparatus for generating landmark
JP7439556B2 (ja) 2020-02-14 2024-02-28 オムロン株式会社 画像処理装置、画像センサ、画像処理装置の制御方法
US20210271356A1 (en) * 2020-03-02 2021-09-02 Nec Laboratories America, Inc. Personalized user experience using facial recognition
WO2023079862A1 (ja) * 2021-11-05 2023-05-11 パナソニックIpマネジメント株式会社 撮像システム、処理装置、および撮像システムにおいてコンピュータによって実行される方法
KR102550207B1 (ko) * 2022-09-23 2023-06-30 주식회사 볼드 광고용 캐릭터 제작 시스템
US20250131074A1 (en) * 2023-10-24 2025-04-24 App-Pop-Up Inc. System and method for interface and/or device user identity verification

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004000341A (ja) * 2002-05-31 2004-01-08 Omron Corp 相性判定方法、相性判定サーバ、相性判定プログラム、および該プログラムを記録した記録媒体
US20050079474A1 (en) * 2003-10-14 2005-04-14 Kenneth Lowe Emotional state modification method and system
KR101125633B1 (ko) 2005-09-06 2012-03-27 엘지전자 주식회사 이동통신 단말기의 사진합성방법
US8488847B2 (en) * 2005-11-25 2013-07-16 Nikon Corporation Electronic camera and image processing device
JP4596060B2 (ja) * 2008-08-29 2010-12-08 ソニー株式会社 電子機器、動画像データ区間変更方法及びプログラム
US10872535B2 (en) * 2009-07-24 2020-12-22 Tutor Group Limited Facilitating facial recognition, augmented reality, and virtual reality in online teaching groups
JP2012151544A (ja) * 2011-01-17 2012-08-09 Casio Comput Co Ltd 撮像装置及びプログラム
JP2012181688A (ja) * 2011-03-01 2012-09-20 Sony Corp 情報処理装置、情報処理方法、情報処理システムおよびプログラム
KR20120119244A (ko) * 2011-04-21 2012-10-31 에스케이플래닛 주식회사 컨텐츠 제작 방법, 이를 위한 시스템 및 이를 위한 단말기
KR20130022434A (ko) * 2011-08-22 2013-03-07 (주)아이디피쉬 통신단말장치의 감정 컨텐츠 서비스 장치 및 방법, 이를 위한 감정 인지 장치 및 방법, 이를 이용한 감정 컨텐츠를 생성하고 정합하는 장치 및 방법
KR101862128B1 (ko) * 2012-02-23 2018-05-29 삼성전자 주식회사 얼굴을 포함하는 영상 처리 방법 및 장치
KR101987748B1 (ko) * 2012-07-12 2019-06-12 에스케이플래닛 주식회사 이모티콘 서비스 시스템 및 그의 이모티콘 서비스 제공 방법
US9087131B1 (en) * 2012-12-18 2015-07-21 Google Inc. Auto-summarization for a multiuser communication session
KR101446143B1 (ko) * 2013-01-07 2014-10-06 한남대학교 산학협력단 Cctv 환경에서의 얼굴 인식 기반 보안 관리 시스템 및 방법
JP6375755B2 (ja) * 2014-07-10 2018-08-22 フリュー株式会社 写真シール作成装置および表示方法
JP5664755B1 (ja) * 2013-12-20 2015-02-04 フリュー株式会社 写真シール作成装置および方法、並びにプログラム
CN105279165A (zh) * 2014-06-19 2016-01-27 中兴通讯股份有限公司 一种基于通讯录的照片匹配方法及终端
US9594947B1 (en) * 2014-09-30 2017-03-14 Amazon Technologies, Inc. Aspect ratio validation

Also Published As

Publication number Publication date
US20200013195A1 (en) 2020-01-09
CN110431838A (zh) 2019-11-08
KR20190125478A (ko) 2019-11-06
KR102256314B1 (ko) 2021-05-26
JP2020514930A (ja) 2020-05-21
WO2018174311A1 (ko) 2018-09-27
CN110431838B (zh) 2022-03-29
US11017567B2 (en) 2021-05-25

Similar Documents

Publication Publication Date Title
CN113287118B (zh) 用于面部再现的系统和方法
KR102256314B1 (ko) 얼굴 인식 카메라의 동적 컨텐츠를 제공하는 방법 및 시스템
US10860838B1 (en) Universal facial expression translation and character rendering system
JP6684883B2 (ja) カメラエフェクトを提供する方法およびシステム
JP7182919B2 (ja) 映像処理方法、コンピュータプログラムおよび記録媒体
CN108492363B (zh) 基于增强现实的结合方法、装置、存储介质及电子设备
WO2023005194A1 (zh) 视频生成方法及电子设备
KR20210120599A (ko) 아바타 서비스 제공 방법 및 시스템
CN112882576B (zh) Ar交互方法、装置、电子设备及存储介质
JP2021528714A (ja) アバター生成装置およびコンピュータプログラム
CN105518712A (zh) 基于字符识别的关键词通知方法及设备、计算机程序产品
JP2021520535A (ja) ニューラルネットワークを利用して状況を認知する拡張現実提供装置、提供方法、およびコンピュータプログラム
KR20180097915A (ko) 개인 맞춤형 3차원 얼굴 모델 생성 방법 및 그 장치
KR102068993B1 (ko) 다시점 영상 정합을 이용한 아바타 생성 방법 및 장치
JP2021163482A (ja) 画像内の文字色と背景色を抽出して提供する方法、システム、およびコンピュータプログラム
WO2019114328A1 (zh) 一种基于增强现实的视频处理方法及其装置
CN112569591B (zh) 一种数据处理方法、装置、设备及可读存储介质
CN109035415B (zh) 虚拟模型的处理方法、装置、设备和计算机可读存储介质
CN114638939A (zh) 模型生成方法、模型生成装置、电子设备和可读存储介质
KR101749104B1 (ko) 3d 모델을 이용하는 광고 시스템 및 광고 방법
WO2016082470A1 (zh) 一种图片处理方法、装置及计算机存储介质
KR20220105457A (ko) Ar 아트워크 컨텐츠를 제공하는 서버 및 이의 동작 방법
KR102728463B1 (ko) 이미지를 캐릭터 이미지로 카툰화시키는 변환 모델의 구축 방법 및 시스템과, 변환 모델을 사용하는 이미지 변환 방법
KR102252191B1 (ko) 사용자 얼굴 정보를 인식하여 움직이는 캐릭터를 표현하는 방법 및 시스템
CN116681971B (zh) 图像分类模型的训练方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210104

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210601

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210630

R150 Certificate of patent or registration of utility model

Ref document number: 6907331

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250