JP2022529757A - 仮想キャラクターの顔の表示方法、装置、コンピュータデバイス、およびコンピュータプログラム - Google Patents
仮想キャラクターの顔の表示方法、装置、コンピュータデバイス、およびコンピュータプログラム Download PDFInfo
- Publication number
- JP2022529757A JP2022529757A JP2021532877A JP2021532877A JP2022529757A JP 2022529757 A JP2022529757 A JP 2022529757A JP 2021532877 A JP2021532877 A JP 2021532877A JP 2021532877 A JP2021532877 A JP 2021532877A JP 2022529757 A JP2022529757 A JP 2022529757A
- Authority
- JP
- Japan
- Prior art keywords
- face
- image
- deformation
- parameter
- virtual character
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000004590 computer program Methods 0.000 title claims description 9
- 238000000034 method Methods 0.000 claims abstract description 90
- 230000001815 facial effect Effects 0.000 claims abstract description 31
- 238000013507 mapping Methods 0.000 claims description 32
- 230000009466 transformation Effects 0.000 claims description 32
- 238000011426 transformation method Methods 0.000 claims description 7
- 238000003062 neural network model Methods 0.000 claims description 3
- 238000010586 diagram Methods 0.000 abstract description 10
- 230000003993 interaction Effects 0.000 abstract description 2
- 230000008921 facial expression Effects 0.000 description 46
- 230000006870 function Effects 0.000 description 13
- 230000002093 peripheral effect Effects 0.000 description 10
- 238000012545 processing Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 7
- 230000001133 acceleration Effects 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 230000033001 locomotion Effects 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 230000000694 effects Effects 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 241000282412 Homo Species 0.000 description 2
- 241001465754 Metazoa Species 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 239000000919 ceramic Substances 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 230000003247 decreasing effect Effects 0.000 description 2
- 210000004709 eyebrow Anatomy 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 230000001788 irregular Effects 0.000 description 2
- 238000012417 linear regression Methods 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000003190 augmentative effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000009877 rendering Methods 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 239000010409 thin film Substances 0.000 description 1
Images
Classifications
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/90—Constructional details or arrangements of video game devices not provided for in groups A63F13/20 or A63F13/25, e.g. housing, wiring, connections or cabinets
- A63F13/92—Video game devices specially adapted to be hand-held while playing
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/50—Controlling the output signals based on the game progress
- A63F13/52—Controlling the output signals based on the game progress involving aspects of the displayed game scene
-
- G06T3/18—
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/20—Input arrangements for video game devices
- A63F13/21—Input arrangements for video game devices characterised by their sensors, purposes or types
- A63F13/213—Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/55—Controlling game characters or game objects based on the game progress
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/60—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
- A63F13/65—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
- A63F13/655—Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition by importing photos, e.g. of the player
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F13/00—Video games, i.e. games using an electronically generated display having two or more dimensions
- A63F13/80—Special adaptations for executing a specific game genre or game mode
- A63F13/822—Strategy games; Role-playing games
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/80—2D [Two Dimensional] animation, e.g. using sprites
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
- G06V40/166—Detection; Localisation; Normalisation using acquisition arrangements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
- G06V40/171—Local features and components; Facial parts ; Occluding parts, e.g. glasses; Geometrical relationships
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/174—Facial expression recognition
-
- A—HUMAN NECESSITIES
- A63—SPORTS; GAMES; AMUSEMENTS
- A63F—CARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
- A63F2300/00—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
- A63F2300/50—Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game characterized by details of game servers
- A63F2300/55—Details of game data or player data management
- A63F2300/5546—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history
- A63F2300/5553—Details of game data or player data management using player registration data, e.g. identification, account, preferences, game history user representation in the game field, e.g. avatar
Abstract
Description
ユーザの顔に対応する顔パラメータを取得するステップであり、前記顔パラメータは、前記ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである、ステップと、
前記顔パラメータに基づいて、変形制御パラメータを決定するステップであり、前記変形制御パラメータは、仮想キャラクターの異なる顔領域の変形の程度を制御するために使用されるものである、ステップと、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成するステップであり、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像は、異なる顔変形方式に対応する、ステップと、
前記仮想キャラクターの顔画像を表示するステップと、を含む。
ユーザの顔に対応する顔パラメータを取得する第1取得モジュールであり、前記顔パラメータは、前記ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである、第1取得モジュールと、
前記顔パラメータに基づいて、変形制御パラメータを決定する決定モジュールであり、前記変形制御パラメータは、仮想キャラクターの異なる顔領域の変形の程度を制御するために使用されるものである、決定モジュールと、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する第1生成モジュールであり、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像は、異なる顔変形領域に対応する、第1生成モジュールと、
前記仮想キャラクターの顔画像を表示する表示モジュールと、を備える。
ゲームシーンおいて、本願の実施例によって提供される仮想キャラクターの顔の表示方法は、ゲームアプリケーションプログラムにおける1つの機能モジュール(仮想キャラクターの顔を駆動するために使用されるもの)として実現することができる。ユーザが仮想キャラクターを制御してゲームをプレイする場合、ゲームアプリケーションプログラムは、端末に対してフロントカメラをオンにするように要求し、フロントカメラによって収集されたユーザの顔画像を取得することができる。ゲームアプリケーションプログラムは、取得したユーザの顔画像に対して処理を実行した後、仮想キャラクターに対応する変形制御パラメータを得ることにより、この変形制御パラメータと変形画像セットとに基づいて、ユーザの顔画像における表情に対応する仮想キャラクターの顔画像を生成して、この仮想キャラクターの顔画像をゲーム画面に表示する。ここで、ゲームアプリケーションプログラムは、ユーザの顔画像に応じて、相応的な顔表情を作り出す(即ち、仮想キャラクターの顔表情をユーザの表情と一致させる)ように、仮想キャラクターをリアルタイムで駆動することにより、ゲーム中のユーザの没入感を高めて、ユーザのゲーム体験を向上させることができる。
インスタントメッセージングシーンにおいて、本願の実施例によって提供される仮想キャラクターの顔の表示方法は、インスタントメッセージングのアプリケーションプログラムにおける、1つの機能モジュール(仮想キャラクターの助けを借りたビデオチャット機能)として実現することができる。1つの可能な使用シーンでは、ユーザ間でビデオ通話を行う前に、それぞれのために2D仮想キャラクターを選択することができ、ビデオ通話中に、インスタントメッセージングのアプリケーションプログラムは、端末のカメラを起動して、カメラによってリアルタイムで収集された、本端末のユーザの顔画像を取得することができる。インスタントメッセージングのアプリケーションプログラムは、本端末のユーザの顔画像を処理した後、本端末の仮想キャラクターに対応する第1変形制御パラメータを得て、この第1変形制御パラメータを相手端末に送信するとともに、相手端末から送信された、相手端末の仮想キャラクターに対応する第2変形制御パラメータを受信する。インスタントメッセージングのアプリケーションプログラムは、第2変形制御パラメータと、相手端末の仮想キャラクターに対応する変形画像セットとに基づいて、相手端末のユーザの仮想キャラクターの顔の画像を生成して、この仮想キャラクターの顔の画像をビデオ通話インターフェースに表示する(本端末のユーザの仮想キャラクターの顔の画像を同時に表示することもできる)。
表情作成シーンにおいて、本願の実施例によって提供される仮想キャラクターの顔の表示方法は、表情作成アプリケーションプログラムにおける、1つの機能モジュール(仮想キャラクターの表情を作成するために使用されるもの)として実現することができる。1つの可能な使用シーンにおいて、ユーザは、表情作成アプリケーションプログラムの仮想キャラクターの表情作成機能を使用する際に、まず、仮想キャラクターを選択する必要がある。仮想キャラクターの選択が完了した後、ユーザは、作成インターフェースにおける表情録画ボタンをクリックすることで、端末がフロントカメラを起動してユーザの顔画像を収集するようにトリガする。表情作成アプリケーションプログラムは、収集されたユーザの顔画像を取得し、仮想キャラクターの変形制御パラメータを得ることにより、変形制御パラメータと仮想キャラクターに対応する変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する。表情録画が完了した後、表情作成アプリケーションプログラムは、表情録画中に生成された一連の仮想キャラクターの顔画像に基づいて統合を行うことで、動的な仮想キャラクター表情を生成して、他のアプリケーションプログラムで使用するために、動的な仮想キャラクター表情を所定の表情フォーマットとして保存する。
ステップ201で、アプリケーションプログラムは、ユーザの顔に対応する顔パラメータを取得する。顔パラメータは、ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである。
ステップ601で、ターゲットシーンにいる場合、アプリケーションプログラムは、カメラを介してユーザの顔の顔画像を収集する。
1.変形制御パラメータに基づいて、補間比率を決定し、補間比率には、基本顔画像に対応する第1補間比率と、ターゲット基本顔変形画像に対応する第2補間比率とが含まれる。補間比率は、基本顔画像とターゲット基本顔変形画像との間の補間の程度を制御するために使用されるものである。
本実施形態では、端末が顔パラメータをパッキングする機能を備えていない場合、アプリケーションプログラムは、収集された顔画像に基づいて、ユーザの顔に対応する顔パラメータを決定することができ、これにより、端末への制限が低減され、上記の方法の適用シーンが拡張される。
ステップ608で、アプリケーションプログラムは、サンプル変形制御パラメータに基づいて、サンプル仮想キャラクターの顔画像を生成する。
ここで、
は、観測行列であり、
は、パラメータ変換行列であり、
は、観測値である。
他の可能な実施形態では、仮想キャラクターがカスタマイズされていない場合、アプリケーションプログラムは、上記のステップにより、予め設定されたパラメータマッピング関係を更新し、パラメータマッピング関係と、ユーザの顔特徴とのマッチング度を向上させて、これにより、生成された仮想キャラクター顔画像の品質を向上させることもできる。
前記顔パラメータに基づいて、変形制御パラメータを決定する決定モジュール1002であって、前記変形制御パラメータが、仮想キャラクターの異なる顔領域の変形度を制御するために使用されるものである決定モジュール1002と、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する第1生成モジュール1003であって、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像が、異なる顔変形領域に対応する第1生成モジュール1003と、
前記仮想キャラクターの顔画像を表示する表示モジュール1004と、を備える。
前記変形制御パラメータに基づいて、少なくとも1つの前記基本顔変形画像のうちのターゲット基本顔変形画像を決定する第1決定ユニットであって、前記ターゲット基本顔変形画像と前記変形制御パラメータが同じ顔変形方式に対応する第1決定ユニットと、
前記変形制御パラメータ、前記基本顔画像および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成する生成ユニットと、を備える。
前記変形制御パラメータに基づいて、補間比率を決定することであって、前記補間比率には、前記基本顔画像に対応する第1補間比率と、前記ターゲット基本顔変形画像に対応する第2補間比率とが含まれ、前記補間比率は、前記基本顔画像と前記ターゲット基本顔変形画像との間の補間の程度を制御するために使用されるものであることと、
前記基本顔画像および前記第1補間比率と、および前記ターゲット基本顔変形画像および前記第2補間比率とに基づいて、前記仮想キャラクターの顔画像を生成することのために使用される。
パラメータマッピング関係を取得する取得ユニットであって、前記パラメータマッピング関係が、前記顔パラメータと前記変形制御パラメータとの間の対応関係を示すために使用されるものである取得ユニットと、
前記パラメータマッピング関係に基づいて、前記顔パラメータに対応する前記変形制御パラメータを決定する第2決定ユニットと、を備える。
サンプル変形制御パラメータに基づいて、サンプル仮想キャラクターの顔画像を生成する第2生成モジュールと、
顔登録インターフェースに前記サンプル仮想キャラクターの顔画像を表示して、サンプル顔画像を取得する第2取得モジュールであって、前記サンプル顔画像は、ユーザが前記サンプル仮想キャラクターの顔画像を真似したときに収集された顔画像である第2取得モジュールと、
前記サンプル変形制御パラメータと、前記サンプル顔画像に対応するサンプル顔パラメータとに基づいて、サンプル対応関係を生成する第3生成モジュールと、
複数の前記サンプル対応関係に基づいて、前記パラメータマッピング関係を生成する第4生成モジュールと、を備える。
ターゲットシーンにいる場合、カメラを介して前記ユーザの顔の顔画像を収集する収集ユニットと、
前記顔画像に基づいて、前記ユーザの顔に対応する前記顔パラメータを決定する第3決定ユニットと、を備える。
前記第3決定ユニットは、
前記顔画像をサンプル顔深度画像と、前記サンプル顔深度画像に対応するサンプル顔パラメータとに基づいてトレーニングされたニューラルネットワークモデルである顔パラメータ予測モデルに入力し、前記顔パラメータ予測モデルによって出力された前記顔パラメータを得るために使用される。
Claims (18)
- 端末が実行する、仮想キャラクターの顔表示方法であって、
ユーザの顔に対応する顔パラメータを取得するステップであり、前記顔パラメータは、前記ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである、ステップと、
前記顔パラメータに基づいて、変形制御パラメータを決定するステップであり、前記変形制御パラメータは、仮想キャラクターの異なる顔領域の変形の程度を制御するために使用されるものである、ステップと、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成するステップであり、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像は、異なる顔変形方式に対応する、ステップと、
前記仮想キャラクターの顔画像を表示するステップと、
を含む、
ことを特徴とする、方法。 - 前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する前記ステップは、
前記変形制御パラメータに基づいて、少なくとも1つの前記基本顔変形画像におけるターゲット基本顔変形画像を決定するステップであり、前記ターゲット基本顔変形画像と前記変形制御パラメータは、同じ顔変形方式に対応する、ステップと、
前記変形制御パラメータ、前記基本顔画像、および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成するステップと、
を含む、
ことを特徴とする、請求項1に記載の方法。 - 前記変形制御パラメータ、前記基本顔画像、および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成する前記ステップは、
前記変形制御パラメータに基づいて、補間比率を決定するステップであり、前記補間比率には、前記基本顔画像に対応する第1補間比率と、前記ターゲット基本顔変形画像に対応する第2補間比率とが含まれ、前記補間比率は、前記基本顔画像と前記ターゲット基本顔変形画像との間の補間の程度を制御するために使用されるものである、ステップと、
前記基本顔画像および前記第1補間比率と、前記ターゲット基本顔変形画像および前記第2補間比率とに基づいて、前記仮想キャラクターの顔画像を生成する、ステップと、
を含む、
ことを特徴とする、請求項2に記載の方法。 - 前記顔パラメータに基づいて、変形制御パラメータを決定する前記ステップは、
パラメータマッピング関係を取得するステップであり、前記パラメータマッピング関係は、前記顔パラメータと前記変形制御パラメータとの間の対応関係を示すために使用されるものである、ステップと、
前記パラメータマッピング関係に基づいて、前記顔パラメータに対応する前記変形制御パラメータを決定するステップと、
を含む、
ことを特徴とする、請求項1~3のいずれか一項に記載の方法。 - 前記仮想キャラクターは、カスタマイズされた仮想キャラクターであり、
前記方法は、さらに、
前記カスタマイズされた仮想キャラクターに対応するサンプル変形制御パラメータに基づいて、サンプル仮想キャラクターの顔画像を生成するステップと、
顔登録インターフェースに前記サンプル仮想キャラクターの顔画像を表示して、サンプル顔画像を取得するステップであり、前記サンプル顔画像は、ユーザが前記サンプル仮想キャラクターの顔画像を真似したときに取得された顔画像である、ステップと、
前記サンプル変形制御パラメータと、前記サンプル顔画像に対応するサンプル顔パラメータとに基づいて、サンプル対応関係を生成するステップと、
複数の前記サンプル対応関係に基づいて、前記パラメータマッピング関係を生成する、ステップと、
を含む、
ことを特徴とする、請求項4に記載の方法。 - 前記ユーザの顔に対応する顔パラメータを取得する前記ステップは、
ターゲットシーンにいる場合、カメラを介して、前記ユーザの顔の顔画像を収集するステップと、
前記顔画像に基づいて、前記ユーザの顔に対応する前記顔パラメータを決定するステップと、
を含む、
ことを特徴とする、請求項1~3のいずれか一項に記載の方法。 - 前記カメラは、深度カメラであり、前記顔画像には、各画素点に対応する深度データが含まれ、
前記顔画像に基づいて、前記ユーザの顔に対応する前記顔パラメータを決定する前記ステップは、
前記顔画像を顔パラメータ予測モデルに入力し、前記顔パラメータ予測モデルによって出力された前記顔パラメータを得るステップであり、前記顔パラメータ予測モデルは、サンプル顔深度画像と、前記サンプル顔深度画像に対応するサンプル顔パラメータとに基づいてトレーニングされたニューラルネットワークモデルである、ステップ、
を含む、
ことを特徴とする、請求項6に記載の方法。 - 仮想キャラクターの顔表示装置であって、
ユーザの顔に対応する顔パラメータを取得する第1取得モジュールであり、前記顔パラメータは、前記ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである、第1取得モジュールと、
前記顔パラメータに基づいて、変形制御パラメータを決定する決定モジュールであり、前記変形制御パラメータは、仮想キャラクターの異なる顔領域の変形の程度を制御するために使用されるものである、決定モジュールと、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する第1生成モジュールであり、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像は、異なる顔変形領域に対応する、第1生成モジュールと、
前記仮想キャラクターの顔画像を表示する表示モジュールと、
を備える、
ことを特徴とする、装置。 - 前記第1生成モジュールは、
前記変形制御パラメータに基づいて、少なくとも1つの前記基本顔変形画像におけるターゲット基本顔変形画像を決定する第1決定ユニットであり、前記ターゲット基本顔変形画像と前記変形制御パラメータは、同じ顔変形方式に対応する、第1決定ユニットと、
前記変形制御パラメータ、前記基本顔画像および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成する生成ユニットと、
を備える、
ことを特徴とする、請求項8に記載の装置。 - 前記生成ユニットは、
前記変形制御パラメータに基づいて、補間比率を決定し、
前記補間比率には、前記基本顔画像に対応する第1補間比率と、前記ターゲット基本顔変形画像に対応する第2補間比率とが含まれ、
前記補間比率は、前記基本顔画像と前記ターゲット基本顔変形画像との間の補間の程度を制御するために使用されるものであり、
前記基本顔画像および前記第1補間比率と、前記ターゲット基本顔変形画像および前記第2補間比率とに基づいて、前記仮想キャラクターの顔画像を生成する、
ために使用される、
ことを特徴とする、請求項9に記載の装置。 - 前記決定モジュールは、
パラメータマッピング関係を取得する取得ユニットであり、前記パラメータマッピング関係は、前記顔パラメータと前記変形制御パラメータとの対応関係を示すために使用されるものである、取得ユニットと、
前記パラメータマッピング関係に基づいて、前記顔パラメータに対応する前記変形制御パラメータを決定する第2決定ユニットと、
を備える、
ことを特徴とする、請求項8~10のいずれか一項に記載の装置。 - 前記仮想キャラクターは、カスタマイズされた仮想キャラクターであり、
前記装置は、さらに、
サンプル変形制御パラメータに基づいて、サンプル仮想キャラクターの顔画像を生成する第2生成モジュールと、
顔登録インターフェースに前記サンプル仮想キャラクターの顔画像を表示して、サンプル顔画像を取得する第2取得モジュールであり、前記サンプル顔画像は、ユーザが前記サンプル仮想キャラクターの顔画像を真似したときに取得された顔画像である、第2取得モジュールと、
前記サンプル変形制御パラメータと、前記サンプル顔画像に対応するサンプル顔パラメータとに基づいて、サンプル対応関係を生成する第3生成モジュールと、
複数の前記サンプル対応関係に基づいて、前記パラメータマッピング関係を生成する第4生成モジュールと、
を備える、
ことを特徴とする、請求項11に記載の装置。 - 前記第1取得モジュールは、
ターゲットシーンにいる場合、カメラを介して前記ユーザの顔の顔画像を収集する収集ユニットと、
前記顔画像に基づいて、前記ユーザの顔に対応する前記顔パラメータを決定する第3決定ユニットと、
を備える、
ことを特徴とする、請求項8~10のいずれか一項に記載の装置。 - プロセッサと、メモリとを備える端末であって、
前記メモリには、少なくとも1つの命令、少なくとも1部のプログラム、コードセット、または命令セットが記憶されており、
前記少なくとも1つの命令、前記少なくとも1部のプログラム、前記コードセット、または前記命令セットが、前記プロセッサによってロードされて実行されると、前記プロセッサに、
ユーザの顔に対応する顔パラメータを取得するステップであり、前記顔パラメータは、前記ユーザの顔の異なる顔領域の顔特徴を示すために使用されるものである、ステップと、
前記顔パラメータに基づいて、変形制御パラメータを決定するステップであり、前記変形制御パラメータは、仮想キャラクターの異なる顔領域の変形の程度を制御するために使用されるものである、ステップと、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成するステップであり、前記変形画像セットには、前記仮想キャラクターの基本顔画像および少なくとも1つの基本顔変形画像が含まれ、異なる基本顔変形画像は、異なる顔変形方式に対応する、ステップと、
前記仮想キャラクターの顔画像を表示するステップと、
を実行させる、
ことを特徴とする端末。 - 前記少なくとも1つの命令、前記少なくとも1部のプログラム、前記コードセット、または前記命令セットが、前記プロセッサによってロードされて、
前記変形制御パラメータと、変形画像セットとに基づいて、仮想キャラクターの顔画像を生成する前記ステップが実行されると、前記プロセッサに、
前記変形制御パラメータに基づいて、少なくとも1つの前記基本顔変形画像におけるターゲット基本顔変形画像を決定するステップであり、前記ターゲット基本顔変形画像と前記変形制御パラメータは、同じ顔変形方式に対応する、ステップと、
前記変形制御パラメータ、前記基本顔画像、および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成するステップと、
を実行させる、
ことを特徴とする、請求項14に記載の端末。 - 前記少なくとも1つの命令、前記少なくとも1部のプログラム、前記コードセット、または前記命令セットが、前記プロセッサによってロードされて、
前記変形制御パラメータ、前記基本顔画像、および前記ターゲット基本顔変形画像に基づいて、前記仮想キャラクターの顔画像を生成するステップが実行と、前記プロセッサに、
前記変形制御パラメータに基づいて、補間比率を決定するステップであり、前記補間比率には、前記基本顔画像に対応する第1補間比率と、前記ターゲット基本顔変形画像に対応する第2補間比率とが含まれ、前記補間比率は、前記基本顔画像と前記ターゲット基本顔変形画像との間の補間度を制御するために使用されるものである、ステップと、
前記基本顔画像および前記第1補間比率と、前記ターゲット基本顔変形画像および前記第2補間比率とに基づいて、前記仮想キャラクターの顔画像を生成するステップと、
を実行させる、
ことを特徴とする、請求項15に記載の端末。 - 前記少なくとも1つの命令、前記少なくとも1部のプログラム、前記コードセット、または前記命令セットが、前記プロセッサによってロードされて、前記顔パラメータに基づいて、変形制御パラメータを決定するステップが実行されると、前記プロセッサに、
パラメータマッピング関係を取得するステップであり、前記パラメータマッピング関係は、前記顔パラメータと前記変形制御パラメータとの間の対応関係を示すために使用されるものである、ステップと、
前記パラメータマッピング関係に基づいて、前記顔パラメータに対応する前記変形制御パラメータを決定するステップと、
を実行させる、
ことを特徴とする、請求項14~16のいずれか一項に記載の端末。 - 複数の命令を含むコンピュータプログラムであって、
前記命令がコンピュータによってロードされて、実行されると、前記コンピュータに、請求項1~7のいずれか一項に記載の方法を実施させる、
ことを特徴とする、コンピュータプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910342925.7A CN110141857A (zh) | 2019-04-26 | 2019-04-26 | 虚拟角色的面部显示方法、装置、设备及存储介质 |
CN201910342925.7 | 2019-04-26 | ||
PCT/CN2020/082695 WO2020216025A1 (zh) | 2019-04-26 | 2020-04-01 | 虚拟角色的面部显示方法、装置、计算机设备及可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022529757A true JP2022529757A (ja) | 2022-06-24 |
JP7206388B2 JP7206388B2 (ja) | 2023-01-17 |
Family
ID=67594664
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021532877A Active JP7206388B2 (ja) | 2019-04-26 | 2020-04-01 | 仮想キャラクターの顔の表示方法、装置、コンピュータデバイス、およびコンピュータプログラム |
Country Status (5)
Country | Link |
---|---|
US (1) | US11423509B2 (ja) |
EP (1) | EP3962072A4 (ja) |
JP (1) | JP7206388B2 (ja) |
CN (1) | CN110141857A (ja) |
WO (1) | WO2020216025A1 (ja) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110141857A (zh) | 2019-04-26 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 虚拟角色的面部显示方法、装置、设备及存储介质 |
CN110781782B (zh) * | 2019-10-15 | 2021-03-23 | 腾讯科技(深圳)有限公司 | 面部模型的确定方法及装置 |
CN111389008B (zh) * | 2020-03-16 | 2023-03-31 | 网易(杭州)网络有限公司 | 虚拟角色的面部生成方法、自动捏脸方法及装置 |
CN112241203A (zh) * | 2020-10-21 | 2021-01-19 | 广州博冠信息科技有限公司 | 三维虚拟角色的控制装置及方法、存储介质及电子设备 |
CN114895970B (zh) * | 2021-01-26 | 2024-02-27 | 博泰车联网科技(上海)股份有限公司 | 虚拟角色成长方法及相关装置 |
CN113096235B (zh) * | 2021-03-09 | 2024-03-19 | 北京达佳互联信息技术有限公司 | 一种虚拟对象的控制方法、装置、电子设备及存储介质 |
CN113705316A (zh) * | 2021-04-13 | 2021-11-26 | 腾讯科技(深圳)有限公司 | 获取虚拟图像的方法、装置、设备及存储介质 |
CN113426128B (zh) * | 2021-06-24 | 2024-04-30 | 网易(杭州)网络有限公司 | 自定义角色的相貌调节方法、装置、终端和存储介质 |
CN113689532B (zh) * | 2021-08-05 | 2023-07-18 | 北京奇艺世纪科技有限公司 | 基于语音数据重建虚拟角色的方法及装置 |
CN113633983B (zh) * | 2021-08-16 | 2024-03-15 | 上海交通大学 | 虚拟角色表情控制的方法、装置、电子设备及介质 |
CN113824982A (zh) * | 2021-09-10 | 2021-12-21 | 网易(杭州)网络有限公司 | 一种直播方法、装置、计算机设备及存储介质 |
CN114049417B (zh) * | 2021-11-12 | 2023-11-24 | 抖音视界有限公司 | 虚拟角色图像的生成方法、装置、可读介质及电子设备 |
CN114339293B (zh) * | 2021-12-30 | 2024-02-27 | 咪咕文化科技有限公司 | 图片形变方法、服务器及可读存储介质 |
CN115209180A (zh) * | 2022-06-02 | 2022-10-18 | 阿里巴巴(中国)有限公司 | 视频生成方法以及装置 |
CN115601484B (zh) * | 2022-11-07 | 2023-03-28 | 广州趣丸网络科技有限公司 | 虚拟人物面部驱动方法、装置、终端设备和可读存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006343583A (ja) * | 2005-06-09 | 2006-12-21 | Ntt Docomo Inc | 顔形状提示装置 |
JP2014199536A (ja) * | 2013-03-29 | 2014-10-23 | 株式会社コナミデジタルエンタテインメント | 顔モデル生成装置、顔モデル生成装置の制御方法、及びプログラム |
Family Cites Families (19)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP4760349B2 (ja) * | 2005-12-07 | 2011-08-31 | ソニー株式会社 | 画像処理装置および画像処理方法、並びに、プログラム |
CN100527170C (zh) * | 2006-09-20 | 2009-08-12 | 清华大学 | 一种复杂表情仿真系统及其实现方法 |
JP2010186216A (ja) * | 2009-02-10 | 2010-08-26 | Seiko Epson Corp | 顔画像における特徴部位の位置の特定 |
JP5451302B2 (ja) * | 2009-10-19 | 2014-03-26 | キヤノン株式会社 | 画像処理装置及び方法、プログラム及び記憶媒体 |
CN101944163A (zh) * | 2010-09-25 | 2011-01-12 | 德信互动科技(北京)有限公司 | 通过捕捉人脸表情实现游戏角色表情同步的方法 |
CN104782120B (zh) * | 2012-12-17 | 2018-08-10 | 英特尔公司 | 化身动画制作方法、计算设备和存储介质 |
CN105184735B (zh) * | 2014-06-19 | 2019-08-06 | 腾讯科技(深圳)有限公司 | 一种人像变形方法及装置 |
US9799096B1 (en) * | 2014-07-08 | 2017-10-24 | Carnegie Mellon University | System and method for processing video to provide facial de-identification |
US10796480B2 (en) * | 2015-08-14 | 2020-10-06 | Metail Limited | Methods of generating personalized 3D head models or 3D body models |
CN106713811B (zh) * | 2015-11-17 | 2019-08-13 | 腾讯科技(深圳)有限公司 | 视频通话方法和装置 |
CN106331572A (zh) * | 2016-08-26 | 2017-01-11 | 乐视控股(北京)有限公司 | 一种基于图像的控制方法和装置 |
CN108876879B (zh) * | 2017-05-12 | 2022-06-14 | 腾讯科技(深圳)有限公司 | 人脸动画实现的方法、装置、计算机设备及存储介质 |
CN109241810B (zh) * | 2017-07-10 | 2022-01-28 | 腾讯科技(深圳)有限公司 | 虚拟角色图像的构建方法及装置、存储介质 |
CN108573527B (zh) * | 2018-04-18 | 2020-02-18 | 腾讯科技(深圳)有限公司 | 一种表情图片生成方法及其设备、存储介质 |
CN109308727B (zh) * | 2018-09-07 | 2020-11-10 | 腾讯科技(深圳)有限公司 | 虚拟形象模型生成方法、装置及存储介质 |
CN109325437B (zh) * | 2018-09-17 | 2021-06-22 | 北京旷视科技有限公司 | 图像处理方法、装置和系统 |
CN109120866B (zh) * | 2018-09-27 | 2020-04-03 | 腾讯科技(深圳)有限公司 | 动态表情生成方法、装置、计算机可读存储介质和计算机设备 |
US10789453B2 (en) * | 2019-01-18 | 2020-09-29 | Snap Inc. | Face reenactment |
CN110141857A (zh) * | 2019-04-26 | 2019-08-20 | 腾讯科技(深圳)有限公司 | 虚拟角色的面部显示方法、装置、设备及存储介质 |
-
2019
- 2019-04-26 CN CN201910342925.7A patent/CN110141857A/zh active Pending
-
2020
- 2020-04-01 WO PCT/CN2020/082695 patent/WO2020216025A1/zh unknown
- 2020-04-01 EP EP20794269.9A patent/EP3962072A4/en active Pending
- 2020-04-01 JP JP2021532877A patent/JP7206388B2/ja active Active
-
2021
- 2021-05-10 US US17/315,562 patent/US11423509B2/en active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006343583A (ja) * | 2005-06-09 | 2006-12-21 | Ntt Docomo Inc | 顔形状提示装置 |
JP2014199536A (ja) * | 2013-03-29 | 2014-10-23 | 株式会社コナミデジタルエンタテインメント | 顔モデル生成装置、顔モデル生成装置の制御方法、及びプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP7206388B2 (ja) | 2023-01-17 |
EP3962072A4 (en) | 2022-06-22 |
EP3962072A1 (en) | 2022-03-02 |
WO2020216025A1 (zh) | 2020-10-29 |
US11423509B2 (en) | 2022-08-23 |
US20210264563A1 (en) | 2021-08-26 |
CN110141857A (zh) | 2019-08-20 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2022529757A (ja) | 仮想キャラクターの顔の表示方法、装置、コンピュータデバイス、およびコンピュータプログラム | |
CN112911182B (zh) | 游戏互动方法、装置、终端及存储介质 | |
WO2019205838A1 (zh) | 虚拟场景中的距离信息显示方法、终端及计算机设备 | |
CN109308727B (zh) | 虚拟形象模型生成方法、装置及存储介质 | |
WO2019034142A1 (zh) | 三维虚拟形象的显示方法、装置、终端及存储介质 | |
CN111324250B (zh) | 三维形象的调整方法、装置、设备及可读存储介质 | |
CN112287852B (zh) | 人脸图像的处理方法、显示方法、装置及设备 | |
CN110263617B (zh) | 三维人脸模型获取方法及装置 | |
CN110300274B (zh) | 视频文件的录制方法、装置及存储介质 | |
WO2021043121A1 (zh) | 一种图像换脸的方法、装置、系统、设备和存储介质 | |
WO2020233403A1 (zh) | 三维角色的个性化脸部显示方法、装置、设备及存储介质 | |
CN112328091B (zh) | 弹幕显示方法、装置、终端及存储介质 | |
CN109978996B (zh) | 生成表情三维模型的方法、装置、终端及存储介质 | |
CN109426343B (zh) | 基于虚拟现实的协作训练方法及系统 | |
CN110956580B (zh) | 图像换脸的方法、装置、计算机设备以及存储介质 | |
CN112468884B (zh) | 动态资源显示方法、装置、终端、服务器及存储介质 | |
CN112156464A (zh) | 虚拟对象的二维形象展示方法、装置、设备及存储介质 | |
JP7186901B2 (ja) | ホットスポットマップの表示方法、装置、コンピュータ機器および読み取り可能な記憶媒体 | |
CN113377270B (zh) | 信息显示方法、装置、设备及存储介质 | |
CN113194329B (zh) | 直播互动方法、装置、终端及存储介质 | |
WO2022212144A1 (en) | User-defined contextual spaces | |
WO2019071562A1 (zh) | 一种数据处理方法及终端 | |
CN112717409A (zh) | 虚拟车辆控制方法、装置、计算机设备及存储介质 | |
CN113209610A (zh) | 虚拟场景画面展示方法、装置、计算机设备及存储介质 | |
CN114004922B (zh) | 骨骼动画显示方法、装置、设备、介质及计算机程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210705 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220906 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221122 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20230104 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7206388 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |