KR20240025320A - Method, computer device, and computer program to create 3d avatar based on multi-angle image - Google Patents

Method, computer device, and computer program to create 3d avatar based on multi-angle image Download PDF

Info

Publication number
KR20240025320A
KR20240025320A KR1020220103390A KR20220103390A KR20240025320A KR 20240025320 A KR20240025320 A KR 20240025320A KR 1020220103390 A KR1020220103390 A KR 1020220103390A KR 20220103390 A KR20220103390 A KR 20220103390A KR 20240025320 A KR20240025320 A KR 20240025320A
Authority
KR
South Korea
Prior art keywords
avatar
image
standard
target
model
Prior art date
Application number
KR1020220103390A
Other languages
Korean (ko)
Inventor
전진수
정한솔
손정호
배건형
Original Assignee
슈퍼랩스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 슈퍼랩스 주식회사 filed Critical 슈퍼랩스 주식회사
Priority to KR1020220103390A priority Critical patent/KR20240025320A/en
Priority to PCT/KR2023/008124 priority patent/WO2024039026A1/en
Publication of KR20240025320A publication Critical patent/KR20240025320A/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T13/00Animation
    • G06T13/203D [Three Dimensional] animation
    • G06T13/403D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/02Non-photorealistic rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/20Editing of 3D images, e.g. changing shapes or colours, aligning objects or positioning parts
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformation in the plane of the image
    • G06T3/14
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration by the use of more than one image, e.g. averaging, subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Computing Systems (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Health & Medical Sciences (AREA)
  • Architecture (AREA)
  • Computer Hardware Design (AREA)
  • Processing Or Creating Images (AREA)

Abstract

멀티 앵글 이미지 기반 3D 아바타를 생성하는 방법, 컴퓨터 장치, 및 컴퓨터 프로그램이 개시된다. 3D 아바타 생성 방법은, 3D 표준 아바타 모델을 스캔하여 획득한 복수 개의 2D 표준 이미지에 목표 대상 인물에 대한 입력 이미지를 합성하여 복수 개의 2D 대상 이미지를 생성하는 단계; 및 상기 복수 개의 2D 대상 이미지를 3D로 재구성(reconstruction)하여 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계를 포함한다.A method, computer device, and computer program for generating a multi-angle image-based 3D avatar are disclosed. The 3D avatar creation method includes generating a plurality of 2D target images by combining an input image of a target person with a plurality of 2D standard images obtained by scanning a 3D standard avatar model; and generating a 3D avatar for the target person by reconstructing the plurality of 2D target images into 3D.

Description

멀티 앵글 이미지 기반 3D 아바타를 생성하는 방법, 컴퓨터 장치, 및 컴퓨터 프로그램{METHOD, COMPUTER DEVICE, AND COMPUTER PROGRAM TO CREATE 3D AVATAR BASED ON MULTI-ANGLE IMAGE}Method, computer device, and computer program for creating a multi-angle image-based 3D avatar {METHOD, COMPUTER DEVICE, AND COMPUTER PROGRAM TO CREATE 3D AVATAR BASED ON MULTI-ANGLE IMAGE}

아래의 설명은 딥러닝을 이용한 이미지 합성 기술에 관한 것이다.The explanation below is about image synthesis technology using deep learning.

인공지능을 이용한 얼굴 변환 기술은 변환된 얼굴을 높은 해상도로 생성해 낼 수 있는 수준으로 발전되고 있다.Face conversion technology using artificial intelligence is developing to a level where converted faces can be created with high resolution.

얼굴 변환 기술은 다양한 방식으로 사용자에게 제공될 수 있다. 예를 들어, 특정 얼굴을 사용자가 원하는 배경과 합성할 수 있으며, 이에 따라 사용자가 원하는 배경에서 사용자 또는 타인의 얼굴이 나타나도록 할 수 있다. 동영상 속의 유명 인물의 얼굴을 사용자 또는 타인의 얼굴로 변경할 수도 있다.Face transformation technology can be provided to users in a variety of ways. For example, a specific face can be composited with a user-desired background, thereby allowing the user or another person's face to appear in the user-desired background. You can also change the face of a famous person in a video to your own or someone else's face.

일례로, 한국 등록특허공보 제10-1871662호(등록일 2018년 06월 21일)에는 얼굴 검출을 기반으로 한 이미지 합성 기술이 개시되어 있다.For example, Korea Patent Publication No. 10-1871662 (registration date June 21, 2018) discloses an image synthesis technology based on face detection.

3D 표준 아바타 모델을 가상 공간에서 촬영하여 3D 아바타를 생성하기 위해 필요한 2D 이미지를 획득할 수 있는 방법과 장치를 제공한다.Provides a method and device for acquiring the 2D images necessary to create a 3D avatar by photographing a 3D standard avatar model in virtual space.

컴퓨터 장치에서 실행되는 3D 아바타 생성 방법에 있어서, 상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 3D 아바타 생성 방법은, 상기 적어도 하나의 프로세서에 의해, 3D 표준 아바타 모델을 스캔하여 획득한 복수 개의 2D 표준 이미지에 목표 대상 인물에 대한 입력 이미지를 합성하여 복수 개의 2D 대상 이미지를 생성하는 단계; 및 상기 적어도 하나의 프로세서에 의해, 상기 복수 개의 2D 대상 이미지를 3D로 재구성(reconstruction)하여 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계를 포함하는 3D 아바타 생성 방법을 제공한다.In a 3D avatar generating method executed on a computer device, the computer device includes at least one processor configured to execute computer readable instructions included in a memory, and the 3D avatar generating method is performed by the at least one processor. , generating a plurality of 2D target images by combining an input image of a target person with a plurality of 2D standard images obtained by scanning a 3D standard avatar model; and generating a 3D avatar for the target person by reconstructing the plurality of 2D target images into 3D, using the at least one processor.

일 측면에 따르면, 상기 3D 표준 아바타 모델은 평균적인 얼굴 특징(normal facial feature)을 가진 3D 얼굴 모델에 해당될 수 있다.According to one aspect, the 3D standard avatar model may correspond to a 3D face model with normal facial features.

다른 측면에 따르면, 상기 3D 표준 아바타 모델은 인공지능 딥러닝 모델을 통해 학습 대상의 얼굴 피처에 대한 평균 값을 3D 모델로 제작한 3D 얼굴 모델에 해당될 수 있다.According to another aspect, the 3D standard avatar model may correspond to a 3D face model created by creating a 3D model of the average value of the facial features of the learning target through an artificial intelligence deep learning model.

또 다른 측면에 따르면, 상기 복수 개의 2D 표준 이미지는 3D 툴로 구현된 가상 공간에 상기 3D 표준 아바타 모델을 배치하여 서로 다른 각도나 높이로 스캔한 스냅샷(snapshot)으로 저장될 수 있다.According to another aspect, the plurality of 2D standard images may be stored as snapshots scanned at different angles or heights by placing the 3D standard avatar model in a virtual space implemented with a 3D tool.

또 다른 측면에 따르면, 상기 복수 개의 2D 대상 이미지를 생성하는 단계는, 상기 입력 이미지를 소스 이미지로 하고 각 2D 표준 이미지를 타겟 이미지로 한 딥러닝 합성을 통해 2D 표준 이미지의 얼굴 영역이 상기 목표 대상 인물의 얼굴로 변형된 2D 대상 이미지를 생성할 수 있다.According to another aspect, the step of generating the plurality of 2D target images includes the facial area of the 2D standard image being the target target through deep learning synthesis using the input image as a source image and each 2D standard image as a target image. A 2D target image transformed into a person's face can be created.

또 다른 측면에 따르면, 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계는, 이미지 간 기하학적 관계를 이용한 삼각 측량법(triangulation)을 기초로 상기 복수 개의 2D 대상 이미지를 3D로 재구성하는 단계를 포함할 수 있다.According to another aspect, generating a 3D avatar for the target person may include reconstructing the plurality of 2D target images into 3D based on triangulation using geometric relationships between images. there is.

또 다른 측면에 따르면, 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계는, 아바타와 관련된 리소스를 변형하여 상기 목표 대상 인물의 3D 아바타를 커스터마이징(customizing)하는 단계를 포함할 수 있다.According to another aspect, the step of creating a 3D avatar for the target person may include customizing the 3D avatar of the target person by modifying resources related to the avatar.

또 다른 측면에 따르면, 상기 입력 이미지는 특정 인물에 대한 원본 이미지 또는 인물 간 얼굴 합성에 따른 합성 이미지가 사용될 수 있다.According to another aspect, the input image may be an original image for a specific person or a composite image obtained by combining faces between people.

컴퓨터 장치에서 실행되는 3D 아바타 생성 방법에 있어서, 상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 3D 아바타 생성 방법은, 상기 적어도 하나의 프로세서에 의해, 인공지능 딥러닝 모델을 통해 평균적인 얼굴 특징을 가진 3D 얼굴 모델로 3D 표준 아바타 모델을 제작하는 단계; 및 상기 적어도 하나의 프로세서에 의해, 상기 3D 표준 아바타 모델을 스캔하여 복수 개의 2D 표준 이미지를 생성하는 단계를 포함하고, 상기 2D 표준 이미지에 목표 대상 인물의 얼굴을 합성한 이미지가 상기 목표 대상 인물에 대한 3D 아바타를 생성하기 위해 필요한 2D 대상 이미지로 사용되는 것을 특징으로 하는 3D 아바타 생성 방법을 제공한다.In a 3D avatar generating method executed on a computer device, the computer device includes at least one processor configured to execute computer readable instructions included in a memory, and the 3D avatar generating method is performed by the at least one processor. , creating a 3D standard avatar model with a 3D face model with average facial features through an artificial intelligence deep learning model; and generating, by the at least one processor, a plurality of 2D standard images by scanning the 3D standard avatar model, wherein an image combining the 2D standard image with the face of the target person is applied to the target person. Provides a 3D avatar creation method characterized in that it is used as a 2D target image required to create a 3D avatar.

상기 3D 아바타 생성 방법을 상기 컴퓨터 장치에 실행시키기 위해 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램을 제공한다.A computer program stored in a computer-readable recording medium is provided to execute the 3D avatar creation method on the computer device.

컴퓨터 장치에 있어서, 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 3D 표준 아바타 모델을 스캔하여 획득한 복수 개의 2D 표준 이미지에 목표 대상 인물에 대한 입력 이미지를 합성하여 복수 개의 2D 대상 이미지를 생성하는 과정; 및 상기 복수 개의 2D 대상 이미지를 3D로 재구성하여 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 과정을 처리하는 컴퓨터 장치를 제공한다.A computer device, comprising: at least one processor configured to execute computer readable instructions included in a memory, wherein the at least one processor selects a target person in a plurality of 2D standard images obtained by scanning a 3D standard avatar model. A process of generating a plurality of 2D target images by synthesizing input images for; and a computer device that processes a process of reconstructing the plurality of 2D target images into 3D to create a 3D avatar for the target person.

본 발명의 실시예들에 따르면, 3D 표준 아바타 모델을 가상 공간에서 촬영하여 3D 아바타를 생성하기 위해 필요한 2D 이미지를 획득함으로써 정교한 세팅이 가능한 환경에서 보다 많은 2D 이미지를 획득할 수 있고 이를 통해 고품질의 3D 아바타를 생성할 수 있다.According to embodiments of the present invention, by shooting a 3D standard avatar model in a virtual space and acquiring the 2D images necessary to create a 3D avatar, more 2D images can be acquired in an environment where sophisticated settings are possible, and through this, high-quality You can create a 3D avatar.

도 1은 본 발명의 일 실시예에 따른 네트워크 환경의 예를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다.
도 3은 본 발명의 일실시예에 따른 컴퓨터 장치가 수행할 수 있는 3D 아바타 생성 방법의 예를 도시한 흐름도이다.
도 4는 본 발명의 일실시예에 있어서 아바타 생성에 활용하기 위한 3D 표준 아바타 모델 예시를 나타낸 것이다.
도 5 내지 도 6은 본 발명의 일실시예에 있어서 2D 표준 이미지를 획득하는 과정을 설명하기 위한 예시 도면이다.
도 7 내지 도 8은 본 발명의 일실시예에 있어서 2D 대상 이미지를 획득하는 과정을 설명하기 위한 예시 도면이다.
도 9 내지 도 10은 본 발명의 일실시예에 있어서 3D 아바타를 생성하는 과정을 설명하기 위한 예시 도면이다.
도 11은 본 발명의 일실시예에 있어서 얼굴 합성 서비스 화면의 예시를 도시한 것이다.
1 is a diagram illustrating an example of a network environment according to an embodiment of the present invention.
Figure 2 is a block diagram showing an example of a computer device according to an embodiment of the present invention.
Figure 3 is a flowchart showing an example of a 3D avatar creation method that can be performed by a computer device according to an embodiment of the present invention.
Figure 4 shows an example of a 3D standard avatar model for use in creating an avatar in an embodiment of the present invention.
Figures 5 and 6 are example diagrams for explaining the process of acquiring a 2D standard image in one embodiment of the present invention.
Figures 7 and 8 are exemplary diagrams for explaining the process of acquiring a 2D target image in one embodiment of the present invention.
9 to 10 are example diagrams for explaining the process of creating a 3D avatar according to an embodiment of the present invention.
Figure 11 shows an example of a face synthesis service screen in one embodiment of the present invention.

이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the attached drawings.

본 발명의 실시예들은 딥러닝을 이용한 이미지 합성 기술에 관한 것이다.Embodiments of the present invention relate to image synthesis technology using deep learning.

본 명세서에서 구체적으로 개시되는 것들을 포함하는 실시예들은 가상 공간을 이용하여 정교한 세팅이 가능한 환경에서 3D 아바타를 생성하기 위해 필요한 2D 이미지를 충분히 확보할 수 있다.Embodiments including those specifically disclosed in this specification can secure sufficient 2D images necessary to create a 3D avatar in an environment that allows elaborate settings using virtual space.

본 발명의 실시예들에 따른 3D 아바타 생성 시스템은 적어도 하나의 컴퓨터 장치에 의해 구현될 수 있으며, 본 발명의 실시예들에 따른 3D 아바타 생성 방법은 3D 아바타 생성 시스템에 포함되는 적어도 하나의 컴퓨터 장치를 통해 수행될 수 있다. 이때, 컴퓨터 장치에는 본 발명의 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 장치는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 3D 아바타 생성 방법을 수행할 수 있다. 상술한 컴퓨터 프로그램은 컴퓨터 장치와 결합되어 3D 아바타 생성 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장될 수 있다.The 3D avatar creation system according to embodiments of the present invention may be implemented by at least one computer device, and the 3D avatar creation method according to embodiments of the present invention may be implemented by at least one computer device included in the 3D avatar creation system. It can be performed through . At this time, the computer program according to an embodiment of the present invention may be installed and driven in the computer device, and the computer device may perform the 3D avatar creation method according to the embodiment of the present invention under the control of the driven computer program. there is. The above-described computer program can be combined with a computer device and stored in a computer-readable recording medium to execute the 3D avatar creation method on the computer.

도 1은 본 발명의 일실시예에 따른 네트워크 환경의 예를 도시한 도면이다. 도 1의 네트워크 환경은 복수의 전자 기기들(110, 120, 130, 140), 복수의 서버들(150, 160) 및 네트워크(170)를 포함하는 예를 나타내고 있다. 이러한 도 1은 발명의 설명을 위한 일례로 전자 기기의 수나 서버의 수가 도 1과 같이 한정되는 것은 아니다. 또한, 도 1의 네트워크 환경은 본 실시예들에 적용 가능한 환경들 중 하나의 예를 설명하는 것일 뿐, 본 실시예들에 적용 가능한 환경이 도 1의 네트워크 환경으로 한정되는 것은 아니다.1 is a diagram illustrating an example of a network environment according to an embodiment of the present invention. The network environment in FIG. 1 shows an example including a plurality of electronic devices 110, 120, 130, and 140, a plurality of servers 150 and 160, and a network 170. Figure 1 is an example for explaining the invention, and the number of electronic devices or servers is not limited as in Figure 1. In addition, the network environment in FIG. 1 only explains one example of environments applicable to the present embodiments, and the environment applicable to the present embodiments is not limited to the network environment in FIG. 1.

복수의 전자 기기들(110, 120, 130, 140)은 컴퓨터 장치로 구현되는 고정형 단말이거나 이동형 단말일 수 있다. 복수의 전자 기기들(110, 120, 130, 140)의 예를 들면, 스마트폰(smart phone), 휴대폰, 내비게이션, 컴퓨터, 노트북, 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 태블릿 PC 등이 있다. 일례로 도 1에서는 전자 기기(110)의 예로 스마트폰의 형상을 나타내고 있으나, 본 발명의 실시예들에서 전자 기기(110)는 실질적으로 무선 또는 유선 통신 방식을 이용하여 네트워크(170)를 통해 다른 전자 기기들(120, 130, 140) 및/또는 서버(150, 160)와 통신할 수 있는 다양한 물리적인 컴퓨터 장치들 중 하나를 의미할 수 있다.The plurality of electronic devices 110, 120, 130, and 140 may be fixed terminals or mobile terminals implemented as computer devices. Examples of the plurality of electronic devices 110, 120, 130, and 140 include smart phones, mobile phones, navigation devices, computers, laptops, digital broadcasting terminals, Personal Digital Assistants (PDAs), and Portable Multimedia Players (PMPs). ), tablet PC, etc. For example, in FIG. 1, the shape of a smartphone is shown as an example of the electronic device 110. However, in embodiments of the present invention, the electronic device 110 actually communicates with other devices through the network 170 using a wireless or wired communication method. It may refer to one of various physical computer devices capable of communicating with electronic devices 120, 130, 140 and/or servers 150, 160.

통신 방식은 제한되지 않으며, 네트워크(170)가 포함할 수 있는 통신망(일례로, 이동통신망, 유선 인터넷, 무선 인터넷, 방송망)을 활용하는 통신 방식뿐만 아니라 기기들간의 근거리 무선 통신 역시 포함될 수 있다. 예를 들어, 네트워크(170)는, PAN(personal area network), LAN(local area network), CAN(campus area network), MAN(metropolitan area network), WAN(wide area network), BBN(broadband network), 인터넷 등의 네트워크 중 하나 이상의 임의의 네트워크를 포함할 수 있다. 또한, 네트워크(170)는 버스 네트워크, 스타 네트워크, 링 네트워크, 메쉬 네트워크, 스타-버스 네트워크, 트리 또는 계층적(hierarchical) 네트워크 등을 포함하는 네트워크 토폴로지 중 임의의 하나 이상을 포함할 수 있으나, 이에 제한되지 않는다.The communication method is not limited, and may include not only a communication method utilizing a communication network that the network 170 may include (for example, a mobile communication network, wired Internet, wireless Internet, and a broadcast network), but also short-range wireless communication between devices. For example, the network 170 may include a personal area network (PAN), a local area network (LAN), a campus area network (CAN), a metropolitan area network (MAN), a wide area network (WAN), and a broadband network (BBN). , may include one or more arbitrary networks such as the Internet. Additionally, the network 170 may include any one or more of network topologies including a bus network, star network, ring network, mesh network, star-bus network, tree or hierarchical network, etc. Not limited.

서버(150, 160) 각각은 복수의 전자 기기들(110, 120, 130, 140)과 네트워크(170)를 통해 통신하여 명령, 코드, 파일, 콘텐츠, 서비스 등을 제공하는 컴퓨터 장치 또는 복수의 컴퓨터 장치들로 구현될 수 있다. 예를 들어, 서버(150)는 네트워크(170)를 통해 접속한 복수의 전자 기기들(110, 120, 130, 140)로 서비스(일례로, 아바타 제작 서비스)를 제공하는 시스템일 수 있다.Each of the servers 150 and 160 is a computer device or a plurality of computers that communicate with a plurality of electronic devices 110, 120, 130, 140 and a network 170 to provide commands, codes, files, content, services, etc. It can be implemented with devices. For example, the server 150 may be a system that provides a service (for example, an avatar creation service) to a plurality of electronic devices 110, 120, 130, and 140 connected through the network 170.

도 2는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다. 앞서 설명한 복수의 전자 기기들(110, 120, 130, 140) 각각이나 서버들(150, 160) 각각은 도 2를 통해 도시된 컴퓨터 장치(200)에 의해 구현될 수 있다. 예를 들어, 본 발명의 실시예들에 따른 3D 아바타 생성 시스템은 도 2를 통해 도시된 컴퓨터 장치(200)에 의해 구현될 수 있다.Figure 2 is a block diagram showing an example of a computer device according to an embodiment of the present invention. Each of the plurality of electronic devices 110, 120, 130, and 140 described above or each of the servers 150 and 160 may be implemented by the computer device 200 shown in FIG. 2. For example, the 3D avatar creation system according to embodiments of the present invention may be implemented by the computer device 200 shown in FIG. 2.

이러한 컴퓨터 장치(200)는 도 2에 도시된 바와 같이, 메모리(210), 프로세서(220), 통신 인터페이스(230) 그리고 입출력 인터페이스(240)를 포함할 수 있다. 메모리(210)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(210)와는 구분되는 별도의 영구 저장 장치로서 컴퓨터 장치(200)에 포함될 수도 있다. 또한, 메모리(210)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(210)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(210)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(230)를 통해 메모리(210)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(170)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 컴퓨터 장치(200)의 메모리(210)에 로딩될 수 있다.As shown in FIG. 2, this computer device 200 may include a memory 210, a processor 220, a communication interface 230, and an input/output interface 240. The memory 210 is a computer-readable recording medium and may include a non-permanent mass storage device such as random access memory (RAM), read only memory (ROM), and a disk drive. Here, non-perishable large-capacity recording devices such as ROM and disk drives may be included in the computer device 200 as a separate permanent storage device that is distinct from the memory 210. Additionally, an operating system and at least one program code may be stored in the memory 210. These software components may be loaded into the memory 210 from a computer-readable recording medium separate from the memory 210. Such separate computer-readable recording media may include computer-readable recording media such as floppy drives, disks, tapes, DVD/CD-ROM drives, and memory cards. In another embodiment, software components may be loaded into the memory 210 through the communication interface 230 rather than a computer-readable recording medium. For example, software components may be loaded into memory 210 of computer device 200 based on computer programs installed by files received over network 170.

프로세서(220)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(210) 또는 통신 인터페이스(230)에 의해 프로세서(220)로 제공될 수 있다. 예를 들어 프로세서(220)는 메모리(210)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.The processor 220 may be configured to process instructions of a computer program by performing basic arithmetic, logic, and input/output operations. Commands may be provided to the processor 220 by the memory 210 or the communication interface 230. For example, processor 220 may be configured to execute received instructions according to program code stored in a recording device such as memory 210.

통신 인터페이스(230)는 네트워크(170)를 통해 컴퓨터 장치(200)가 다른 장치(일례로, 앞서 설명한 저장 장치들)와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 컴퓨터 장치(200)의 프로세서(220)가 메모리(210)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(230)의 제어에 따라 네트워크(170)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(170)를 거쳐 컴퓨터 장치(200)의 통신 인터페이스(230)를 통해 컴퓨터 장치(200)로 수신될 수 있다. 통신 인터페이스(230)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(220)나 메모리(210)로 전달될 수 있고, 파일 등은 컴퓨터 장치(200)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.The communication interface 230 may provide a function for the computer device 200 to communicate with other devices (eg, the storage devices described above) through the network 170. For example, a request, command, data, file, etc. generated by the processor 220 of the computer device 200 according to a program code stored in a recording device such as memory 210 is transmitted to the network ( 170) and can be transmitted to other devices. Conversely, signals, commands, data, files, etc. from other devices may be received by the computer device 200 through the communication interface 230 of the computer device 200 via the network 170. Signals, commands, data, etc. received through the communication interface 230 may be transmitted to the processor 220 or memory 210, and files, etc. may be stored in a storage medium (as described above) that the computer device 200 may further include. It can be stored as a permanent storage device).

입출력 인터페이스(240)는 입출력 장치(250)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(240)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(250)는 컴퓨터 장치(200)와 하나의 장치로 구성될 수도 있다.The input/output interface 240 may be a means for interfacing with the input/output device 250. For example, input devices may include devices such as a microphone, keyboard, or mouse, and output devices may include devices such as displays and speakers. As another example, the input/output interface 240 may be a means for interfacing with a device that integrates input and output functions, such as a touch screen. The input/output device 250 may be configured as a single device with the computer device 200.

또한, 다른 실시예들에서 컴퓨터 장치(200)는 도 2의 구성요소들보다 더 적은 혹은 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 컴퓨터 장치(200)는 상술한 입출력 장치(250) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다.Additionally, in other embodiments, computer device 200 may include fewer or more components than those of FIG. 2 . However, there is no need to clearly show most prior art components. For example, the computer device 200 may be implemented to include at least some of the input/output devices 250 described above, or may further include other components such as a transceiver, a database, etc.

이하에서는 멀티 앵글 이미지 기반 3D 아바타를 생성하는 방법 및 그 장치의 구체적인 실시예를 설명하기로 한다.Hereinafter, specific embodiments of the method and device for generating a multi-angle image-based 3D avatar will be described.

사람에 대한 3D 아바타를 만들기 위해 기존에는 오프라인 공간에 수십 내지는 100대 이상의 카메라를 설치한 후 해당 공간 내에 위치한 사람을 여러 각도와 높이에서 촬영하여 촬영 이미지를 3D로 재구성(reconstruction)함으로써 3D 아바타를 생성할 수 있다.To create a 3D avatar for a person, a 3D avatar is created by installing dozens to 100 or more cameras in an offline space, then filming people located in the space from various angles and heights, and reconstructing the captured images in 3D. can do.

다른 인물의 3D 아바타를 만들기 위해서는 매번 수많은 촬영 장비를 구축해야 하는 어려움이 있고, 각도나 높이 등 촬영 환경을 수작업으로 조정하기 때문에 이미지의 정합과 보정에 많은 시간과 비용이 소요되는 문제가 있다.In order to create a 3D avatar of another person, there is the difficulty of having to build a lot of filming equipment every time, and because the shooting environment such as angle and height is manually adjusted, there is a problem that it takes a lot of time and money to match and correct the image.

또한, 실존하는 사람이 아닌, 망자나 현존하지 않는 합성 인물, 장거리에 거주하는 사람 등의 경우 3D 아바타를 생성하기 위해 필요한 촬영에 참여가 불가하거나 어려운 문제가 있다.In addition, in the case of people who are not real people, such as the dead, non-existent synthetic figures, or people living long distances, it is impossible or difficult to participate in the filming required to create a 3D avatar.

본 실시예들은 인공지능 기반의 딥러닝 모델을 통해 제작된 3D 표준 아바타 모델과 정교한 세팅이 가능한 가상 공간을 이용하여 목표하는 대상이나 촬영 환경에 대한 제약 없이 3D 아바타를 생성할 수 있다.In these embodiments, a 3D avatar can be created without restrictions on the target object or shooting environment using a 3D standard avatar model produced through an artificial intelligence-based deep learning model and a virtual space that allows for elaborate settings.

본 실시예에 따른 컴퓨터 장치(200)는 클라이언트(client)를 대상으로 클라이언트 상에 설치된 전용 어플리케이션이나 컴퓨터 장치(200)와 관련된 웹/모바일 사이트 접속을 통해 아바타 제작 서비스를 제공할 수 있다. 컴퓨터 장치(200)에는 컴퓨터로 구현된 3D 아바타 생성 시스템이 구성될 수 있다. 일례로, 3D 아바타 생성 시스템은 독립적으로 동작하는 프로그램 형태로 구현되거나, 혹은 특정 어플리케이션의 인-앱(in-app) 형태로 구성되어 상기 특정 어플리케이션 상에서 동작이 가능하도록 구현될 수 있다.The computer device 200 according to this embodiment can provide an avatar creation service to clients through a dedicated application installed on the client or through access to a web/mobile site related to the computer device 200. The computer device 200 may be configured with a 3D avatar creation system implemented on a computer. For example, the 3D avatar creation system may be implemented in the form of a program that operates independently, or may be implemented in the form of an in-app of a specific application to enable operation on the specific application.

컴퓨터 장치(200)의 프로세서(220)는 이하의 3D 아바타 생성 방법을 수행하기 위한 구성요소로 구현될 수 있다. 실시예에 따라 프로세서(220)의 구성요소들은 선택적으로 프로세서(220)에 포함되거나 제외될 수도 있다. 또한, 실시예에 따라 프로세서(220)의 구성요소들은 프로세서(220)의 기능의 표현을 위해 분리 또는 병합될 수도 있다.The processor 220 of the computer device 200 may be implemented as a component for performing the following 3D avatar creation method. Depending on the embodiment, components of the processor 220 may be selectively included in or excluded from the processor 220. Additionally, depending on the embodiment, components of the processor 220 may be separated or merged to express the functions of the processor 220.

이러한 프로세서(220) 및 프로세서(220)의 구성요소들은 이하의 3D 아바타 생성 방법이 포함하는 단계들을 수행하도록 컴퓨터 장치(200)를 제어할 수 있다. 예를 들어, 프로세서(220) 및 프로세서(220)의 구성요소들은 메모리(210)가 포함하는 운영체제의 코드와 적어도 하나의 프로그램의 코드에 따른 명령(instruction)을 실행하도록 구현될 수 있다.The processor 220 and its components can control the computer device 200 to perform the steps included in the 3D avatar creation method below. For example, the processor 220 and its components may be implemented to execute instructions according to the code of an operating system included in the memory 210 and the code of at least one program.

여기서, 프로세서(220)의 구성요소들은 컴퓨터 장치(200)에 저장된 프로그램 코드가 제공하는 명령에 따라 프로세서(220)에 의해 수행되는 서로 다른 기능들(different functions)의 표현들일 수 있다.Here, the components of the processor 220 may be expressions of different functions performed by the processor 220 according to instructions provided by program codes stored in the computer device 200.

프로세서(220)는 컴퓨터 장치(200)의 제어와 관련된 명령이 로딩된 메모리(210)로부터 필요한 명령을 읽어들일 수 있다. 이 경우, 상기 읽어들인 명령은 프로세서(220)가 이후 설명될 단계들을 실행하도록 제어하기 위한 명령을 포함할 수 있다.The processor 220 may read necessary instructions from the memory 210 where instructions related to controlling the computer device 200 are loaded. In this case, the read command may include an command for controlling the processor 220 to execute steps that will be described later.

이후 설명될 3D 아바타 생성 방법이 포함하는 단계들은 도시된 순서와 다른 순서로 수행될 수 있으며, 단계들 중 일부가 생략되거나 추가의 과정이 더 포함될 수 있다.Steps included in the 3D avatar creation method to be described later may be performed in an order different from the order shown, and some of the steps may be omitted or additional processes may be included.

도 3은 본 발명의 일실시예에 따른 컴퓨터 장치가 수행할 수 있는 3D 아바타 생성 방법의 예를 도시한 흐름도이다.Figure 3 is a flowchart showing an example of a 3D avatar creation method that can be performed by a computer device according to an embodiment of the present invention.

본 실시예에 따른 3D 아바타 생성 방법은 앞서 설명한 컴퓨터 장치(200)에 의해 수행될 수 있다. 이 경우, 컴퓨터 장치(200)의 프로세서(220)는 메모리(210)가 포함하는 운영체제의 코드나 적어도 하나의 프로그램의 코드에 따른 제어 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서(220)는 컴퓨터 장치(200)에 저장된 코드가 제공하는 제어 명령에 따라 컴퓨터 장치(200)가 도 3의 3D 아바타 생성 방법이 포함하는 단계들(S310 내지 S330)을 수행하도록 컴퓨터 장치(200)를 제어할 수 있다.The 3D avatar creation method according to this embodiment can be performed by the computer device 200 described above. In this case, the processor 220 of the computer device 200 may be implemented to execute control instructions according to the code of an operating system or at least one program included in the memory 210. Here, the processor 220 causes the computer device 200 to perform the steps (S310 to S330) included in the 3D avatar creation method of FIG. 3 according to the control command provided by the code stored in the computer device 200. (200) can be controlled.

도 3을 참조하면, 단계(S310)에서 프로세서(220)는 3D 표준 아바타 모델을 가상 공간에서 스캔하여 복수 개의 2D 이미지(이하, '2D 표준 이미지'라 칭함)를 생성할 수 있다. 3D 표준 아바타 모델은 다양한 얼굴 특징을 잘 수용할 수 있는 평균적인 얼굴 특징(normal facial feature)을 가진 3D 모델에 해당되는 것으로, 인공지능 딥러닝 기반의 3D 얼굴 모델링(3D facial modeling) 기술을 통해 만들어진 3D 얼굴 모델을 의미할 수 있다. 일례로, 3D 표준 아바타 모델은 데이터 집합에 대한 분포를 학습하는 인공지능 딥러닝 모델을 기반으로 수많은 학습 대상의 얼굴 피처에 대한 평균 값을 3D 모델로 제작한 3D 얼굴 모델을 의미할 수 있다. 프로세서(220)는 3D 툴 상의 가상 공간을 이용하여 3D 표준 아바타 모델을 스캔할 수 있다. 오프라인 공간을 대신하여 3D 툴에서 촬영 각도나 높이 등 정교한 세팅이 가능한 가상 공간을 촬영 환경으로 활용할 수 있고, 이러한 가상 공간을 이용하여 360도 전방위 내 서로 다른 각도나 높이에서의 3D 표준 아바타 모델을 스냅샷(snapshot)으로 저장함으로써 수십 내지 수백 장 이상의 2D 표준 이미지를 생성할 수 있다.Referring to FIG. 3, in step S310, the processor 220 may scan a 3D standard avatar model in virtual space to generate a plurality of 2D images (hereinafter referred to as '2D standard images'). The 3D standard avatar model corresponds to a 3D model with normal facial features that can accommodate various facial features, and is created through 3D facial modeling technology based on artificial intelligence deep learning. It may refer to a 3D face model. For example, a 3D standard avatar model may refer to a 3D face model created by creating a 3D model of the average value of the facial features of numerous learning targets based on an artificial intelligence deep learning model that learns the distribution of a data set. The processor 220 can scan a 3D standard avatar model using the virtual space on the 3D tool. Instead of offline space, you can use a virtual space that allows elaborate settings such as shooting angle and height in a 3D tool as a shooting environment, and use this virtual space to snap 3D standard avatar models at different angles or heights within 360 degrees. By saving as a snapshot, dozens to hundreds of standard 2D images can be created.

단계(S320)에서 프로세서(220)는 아바타 생성을 위한 목표 대상 인물에 대한 입력 이미지가 주어지는 경우 각 2D 표준 이미지에 입력 이미지를 합성하여 복수 개의 2D 이미지(이하, '2D 대상 이미지'라 칭함)를 생성할 수 있다. 프로세서(220)는 딥러닝(예를 들어, DNN 등) 기반의 얼굴 합성 기술을 통해 2D 표준 이미지의 얼굴 영역을 목표 대상 인물의 얼굴로 합성할 수 있다. 3D 표준 아바타 모델에 대한 스캔 데이터(2D 표준 이미지)에 딥러닝 얼굴 합성을 적용하면 얼굴이 목표 대상 인물로 바뀐 스캔 데이터(2D 대상 이미지)를 획득할 수 있다. 입력 이미지를 소스 이미지라 하고 2D 표준 이미지를 타겟 이미지라 할 때, 0:100=target:source의 비율로 가중치를 설정하여 소스 이미지의 얼굴 피처를 유지하면서 배경 이미지(얼굴 영역을 제외한 나머지 스타일 영역)만 변경할 수 있다. 다시 말해, 프로세서(220)는 소스 이미지에서 추출된 얼굴 영역의 이목구비를 유지하면서 그 외 나머지 영역을 2D 표준 이미지가 가진 스타일로 변형된 합성 이미지를 얻을 수 있다. 결과적으로, 단계(S310)에서 획득한 복수 개의 2D 표준 이미지를 모두 목표 대상 인물의 얼굴과 합성함에 따라 해당 인물을 각도나 높이를 바꿔가며 360도 전방위에서 직접 촬영한 것과 같은 결과물을 획득할 수 있다.In step S320, when an input image for a target person for avatar creation is given, the processor 220 synthesizes the input image with each 2D standard image to create a plurality of 2D images (hereinafter referred to as '2D target images'). can be created. The processor 220 can synthesize the face area of a 2D standard image into the face of a target person through facial synthesis technology based on deep learning (eg, DNN, etc.). By applying deep learning face synthesis to scan data (2D standard image) for a 3D standard avatar model, scan data (2D target image) with the face changed to the target person can be obtained. When the input image is called the source image and the 2D standard image is the target image, the weight is set at a ratio of 0:100 = target: source to maintain the facial features of the source image and create a background image (the rest of the style area excluding the face area). can only be changed. In other words, the processor 220 can obtain a composite image in which the facial features of the facial area extracted from the source image are maintained while the remaining areas are transformed into the style of a 2D standard image. As a result, by combining all of the plurality of 2D standard images obtained in step S310 with the face of the target person, it is possible to obtain the same result as if the person was directly photographed from 360 degrees by changing the angle or height. .

단계(S330)에서 프로세서(220)는 단계(S320)에서 획득한 복수 개의 2D 대상 이미지를 3D로 재구성하여 원하는 목표 대상 인물에 대한 3D 아바타를 생성할 수 있다. 프로세서(220)는 얼굴이 목표 대상 인물로 바뀐 스캔 데이터(2D 대상 이미지)를 이용하여 3D 아바타를 만들 수 있다. 일례로, 프로세서(220)는 2D 이미지 간 기하학적 관계를 이용한 삼각 측량법(triangulation)을 기초로 2D 대상 이미지를 3D로 재구성할 수 있다. 더 나아가, 프로세서(220)는 아바타와 관련된 리소스를 이용하여 목표 대상 인물의 3D 아바타를 커스터마이징(customizing)할 수 있다. 예를 들어, 프로세서(220)는 아바타의 눈동자 색깔, 얼굴 표정, 피부 톤이나 텍스처, 헤어스타일, 의상이나 기타 액세서리 등을 변경 또는 추가함으로써 원하는 요소나 디자인을 갖춘 3D 아바타를 만들 수 있다.In step S330, the processor 220 may reconstruct the plurality of 2D target images obtained in step S320 into 3D to create a 3D avatar for the desired target person. The processor 220 can create a 3D avatar using scan data (2D target image) whose face has been changed to a target person. For example, the processor 220 may reconstruct a 2D target image into 3D based on triangulation using geometric relationships between 2D images. Furthermore, the processor 220 may customize the 3D avatar of the target person using resources related to the avatar. For example, the processor 220 can create a 3D avatar with desired elements or designs by changing or adding the avatar's eye color, facial expression, skin tone or texture, hairstyle, clothing, or other accessories.

본 실시예들은 인공지능 기반의 딥러닝 모델을 통해 제작된 3D 표준 아바타 모델과 3D 툴로서 정교한 세팅이 가능한 가상 공간을 이용하여 목표 대상 인물의 실존 여부나 여건, 촬영 환경 등에 대한 제약 없이 어떤 인물이 하더라도 해당 인물의 3D 아바타를 생성할 수 있다.In these embodiments, a 3D standard avatar model produced through an artificial intelligence-based deep learning model and a 3D tool are used to use a virtual space that allows for elaborate settings to show a certain person without restrictions on the existence of the target person, conditions, shooting environment, etc. Even so, you can create a 3D avatar of that person.

도 4는 본 발명의 일실시예에 있어서 아바타 생성에 활용하기 위한 3D 표준 아바타 모델 예시를 나타낸 것이다.Figure 4 shows an example of a 3D standard avatar model for use in creating an avatar in an embodiment of the present invention.

도 4를 참조하면, 3D 표준 아바타 모델(410)은 얼굴 합성 성능이 좋은 평범한 얼굴 특징을 가진 3D 모델로, 딥러닝 기반의 3D 얼굴 모델링을 통해 만들어진 3D 얼굴 모델을 이용할 수 있다.Referring to FIG. 4, the 3D standard avatar model 410 is a 3D model with ordinary facial features with good face synthesis performance, and a 3D face model created through deep learning-based 3D face modeling can be used.

데이터 집합에 대한 분포를 학습하는 인공지능 딥러닝 모델을 통해 수많은 학습 대상의 얼굴 피처에 대한 평균 값을 3D 모델로 제작한 3D 얼굴 모델을 3D 표준 아바타 모델(410)로 사용할 수 있다.Through an artificial intelligence deep learning model that learns the distribution of a data set, a 3D face model created by averaging the facial features of numerous learning targets as a 3D model can be used as a 3D standard avatar model (410).

도 5 내지 도 6은 본 발명의 일실시예에 있어서 2D 표준 이미지를 획득하는 과정을 설명하기 위한 예시 도면이다.Figures 5 and 6 are example diagrams for explaining the process of acquiring a 2D standard image in one embodiment of the present invention.

도 5를 참조하면, 프로세서(220)는 3D 툴로 구현된 가상 공간(50)을 이용하여 3D 표준 아바타 모델(410)을 가상 공간(50)에 배치한 후 360도 전방위 내 서로 다른 각도나 높이에서 3D 표준 아바타 모델(410)을 스캔하여 스냅샷을 생성할 수 있다. 본 실시예에서는 많은 비용과 시간이 소모되는 오프라인 공간을 대신하여 3D 툴에서 촬영 각도나 높이 등 정교한 세팅이 가능한 가상 공간을 촬영 환경으로 활용할 수 있다.Referring to FIG. 5, the processor 220 uses the virtual space 50 implemented with a 3D tool to place the 3D standard avatar model 410 in the virtual space 50 and then displays it at different angles or heights within 360 degrees. A snapshot can be created by scanning the 3D standard avatar model 410. In this embodiment, instead of offline space, which consumes a lot of cost and time, a virtual space that allows elaborate settings such as shooting angle and height in a 3D tool can be used as a shooting environment.

도 6을 참조하면, 프로세서(220)는 가상 공간을 이용하여 서로 다른 각도나 높이의 3D 표준 아바타 모델(410)을 스냅샷으로 저장함으로써 수십 내지 수백 장 이상의 2D 표준 이미지(620)를 획득할 수 있다.Referring to FIG. 6, the processor 220 can obtain tens to hundreds of 2D standard images 620 by storing 3D standard avatar models 410 at different angles or heights as snapshots using virtual space. there is.

도 7 내지 도 8은 본 발명의 일실시예에 있어서 2D 대상 이미지를 획득하는 과정을 설명하기 위한 예시 도면이다.Figures 7 and 8 are exemplary diagrams for explaining the process of acquiring a 2D target image in one embodiment of the present invention.

도 7을 참조하면, 프로세서(220)는 아바타 생성을 위한 목표 대상 인물에 대한 입력 이미지(730)가 주어지면 2D 표준 이미지(620)에 입력 이미지(730)를 합성하여 3D 아바타 생성에 필요한 2D 대상 이미지(740)를 만들 수 있다.Referring to FIG. 7, when an input image 730 for a target person for avatar creation is given, the processor 220 synthesizes the input image 730 with a 2D standard image 620 to create a 2D target required for 3D avatar creation. An image 740 can be created.

입력 이미지(730)를 소스 이미지라 하고 2D 표준 이미지(620)를 타겟 이미지라 할 때, 0:100=target:source의 비율로 가중치를 설정하여 2D 표준 이미지(620)의 얼굴 영역을 목표 대상 인물의 얼굴로 변경함으로써 목표 대상 인물의 얼굴을 가진 2D 대상 이미지(740)를 획득할 수 있다.When the input image 730 is the source image and the 2D standard image 620 is the target image, the weight is set at a ratio of 0:100=target:source to use the face area of the 2D standard image 620 as the target person. By changing the face to , a 2D target image 740 with the face of the target person can be obtained.

도 8을 참조하면, 프로세서(220)는 3D 표준 아바타 모델(410)을 통해 획득한 복수 개의 2D 표준 이미지(620)에 대해 목표 대상 인물과의 얼굴 합성을 모두 진행함으로써 복수 개의 2D 대상 이미지(740)를 획득할 수 있다. N개의 2D 표준 이미지(620)에 목표 대상 인물의 얼굴을 합성하여 N개의 2D 대상 이미지(740)를 만들 수 있다. 이때, N개의 2D 대상 이미지(740)는 목표 대상 인물에 대한 3D 아바타를 생성하기 위해 실질적으로 필요한 2D 이미지가 된다.Referring to FIG. 8, the processor 220 performs face synthesis with the target person for all of the plurality of 2D standard images 620 acquired through the 3D standard avatar model 410, thereby creating a plurality of 2D target images 740. ) can be obtained. N 2D target images 740 can be created by combining the N 2D standard images 620 with the face of the target person. At this time, the N number of 2D target images 740 are 2D images substantially necessary for creating a 3D avatar for the target person.

도 9 내지 도 10은 본 발명의 일실시예에 있어서 3D 아바타를 생성하는 과정을 설명하기 위한 예시 도면이다.9 to 10 are example diagrams for explaining the process of creating a 3D avatar according to an embodiment of the present invention.

도 9를 참조하면, 프로세서(220)는 복수 개의 2D 대상 이미지(740)를 3D로 재구성하여 목표 대상 인물에 대한 3D 아바타(950)를 생성할 수 있다. 목표 대상 인물의 얼굴을 가진 스캔 데이터인 2D 대상 이미지(740)를 이용하여 3D 아바타(950)를 만들 수 있다.Referring to FIG. 9 , the processor 220 may reconstruct a plurality of 2D target images 740 into 3D to generate a 3D avatar 950 for the target person. A 3D avatar 950 can be created using the 2D target image 740, which is scan data containing the target person's face.

일례로, 프로세서(220)는 이미지 간 기하학적 관계에 기초한 삼각 측량법을 이용하여 2D 대상 이미지(740)를 3D로 재구성함으로써 원하는 얼굴의 3D 아바타(950)를 만들 수 있다.For example, the processor 220 can create a 3D avatar 950 with a desired face by reconstructing the 2D target image 740 into 3D using a triangulation method based on geometric relationships between images.

프로세서(220)는 아바타와 관련된 리소스를 이용하여 목표 대상 인물의 3D 아바타(950)를 커스터마이징하는 것 또한 가능하다.The processor 220 is also capable of customizing the 3D avatar 950 of the target person using resources related to the avatar.

예를 들어, 도 10에 도시한 바와 같이 3D 아바타(950)의 기존 의상(1001)을 원하는 다른 의상(1002)으로 변경하여 3D 아바타(950)를 원하는 방향으로 커스터마이징할 수 있다.For example, as shown in FIG. 10, the 3D avatar 950 can be customized in a desired direction by changing the existing outfit 1001 of the 3D avatar 950 to another desired outfit 1002.

의상 이외에도 3D 아바타(950)의 눈동자 색깔, 얼굴 표정, 피부 톤이나 텍스처, 헤어스타일, 기타 액세서리 등을 변경하거나 추가할 수 있다.In addition to the costume, you can change or add the eye color, facial expression, skin tone or texture, hairstyle, and other accessories of the 3D avatar (950).

3D 아바타(950)를 생성하기 위해 사용되는 입력 이미지(730)는 원본 이미지를 사용할 수 있고, 실시예에 따라서는 합성 이미지를 사용할 수 있다.The input image 730 used to create the 3D avatar 950 may be an original image or, depending on the embodiment, a synthetic image.

본 발명에 따른 아바타 제작 서비스는 두 인물의 얼굴을 합성하여 합성 결과물을 제공하는 얼굴 합성 서비스에 포함한 형태로 제공될 수도 있다. 얼굴 합성 서비스를 통해 두 인물을 합성할 수 있고, 실존하는 인물이 아닌 합성 인물에 대해 3D 아바타를 만드는 서비스를 제공할 수 있다.The avatar creation service according to the present invention may be provided as part of a face synthesis service that synthesizes the faces of two people and provides a composite result. Through the face synthesis service, two people can be combined, and a service that creates a 3D avatar for a synthetic person, not a real person, can be provided.

도 11은 본 발명의 일실시예에 있어서 얼굴 합성 서비스 화면의 예시를 도시한 것이다.Figure 11 shows an example of a face synthesis service screen in one embodiment of the present invention.

도 11을 참조하면, 얼굴 합성 서비스 화면(1100)은 소스 이미지를 선택하기 위한 소스 선택 인터페이스(1110), 합성 결과 이미지를 제공하기 위한 합성 결과 인터페이스(1120), 소스 이미지의 합성 비율을 조절하기 위한 비율 조절 인터페이스(1130), 소스 이미지의 합성 비율을 리셋(reset)하기 위한 리셋 인터페이스(1140), 및 스타일 소스(타겟 이미지)를 선택하기 위한 스타일 선택 인터페이스(1150)를 포함할 수 있다. 여기서, 스타일 소스는 결과 이미지에 반영하고자 하는 타겟팅 스타일을 의미하는 것으로, 스타일 소스로 설정된 이미지의 얼굴 영역을 제외한 나머지 배경(외형) 영역이 결과 이미지의 스타일 외형으로 적용된다.Referring to FIG. 11, the face synthesis service screen 1100 includes a source selection interface 1110 for selecting a source image, a synthesis result interface 1120 for providing a synthesis result image, and a synthesis result interface 1120 for adjusting the synthesis ratio of the source image. It may include a ratio adjustment interface 1130, a reset interface 1140 for resetting the composite ratio of the source image, and a style selection interface 1150 for selecting a style source (target image). Here, the style source refers to the targeting style to be reflected in the resulting image, and the background (appearance) area excluding the face area of the image set as the style source is applied as the style appearance of the resulting image.

사용자는 소스 선택 인터페이스(1110)를 통해 합성하고자 대상의 A 이미지와 B 이미지를 업로드할 수 있다.The user can upload the A image and B image of the target for compositing through the source selection interface 1110.

사용자는 비율 조절 인터페이스(1130)를 이용하여 A 이미지와 B 이미지 간의 합성 비율을 원하는 대로 조절할 수 있다. 리셋 인터페이스(1140)가 입력되는 경우 비율 조절 인터페이스(1130) 상의 합성 비율이 초기값(예를 들어, 50:50)으로 자동 조정된다.The user can use the ratio adjustment interface 1130 to adjust the composite ratio between the A image and the B image as desired. When the reset interface 1140 is input, the composite ratio on the ratio adjustment interface 1130 is automatically adjusted to the initial value (for example, 50:50).

프로세서(220)는 소스 이미지로 입력된 A 이미지와 B 이미지를 사용자가 원하는 비율로 합성할 수 있고, 이때 기본적으로는 A 이미지로 선택된 소스 이미지가 스타일 소스로 적용될 수 있다. 스타일 선택 인터페이스(1150)를 통해 A 이미지와 B 이미지 중 어느 하나의 이미지 혹은 별개의 다른 이미지를 선택하여 스타일 소스로 적용할 수 있다.The processor 220 can combine the A image and B image input as the source image at a ratio desired by the user. In this case, the source image selected as the A image can be applied as the style source. Through the style selection interface 1150, one of image A and image B or another separate image can be selected and applied as a style source.

A 이미지와 B 이미지의 합성 이미지를 소스 이미지라 하고 스타일 이미지를 타겟 이미지라 할 때, 0:100=target:source의 비율로 가중치를 설정하여 소스 이미지의 얼굴 피처를 유지하면서 스타일만 변경할 수 있다.When the composite image of image A and image B is called the source image and the style image is the target image, the style can be changed while maintaining the facial features of the source image by setting the weight at a ratio of 0:100=target:source.

프로세서(220)는 A 이미지와 B 이미지를 이용한 합성 결과 이미지를 합성 결과 인터페이스(1120)를 통해 표시할 수 있다. 이때, A 이미지를 스타일 소스로 적용한 경우 합성 결과 이미지에 A 이미지의 스타일이 반영된다.The processor 220 may display a composite result image using the A image and the B image through the composite result interface 1120. At this time, when image A is applied as a style source, the style of image A is reflected in the resulting composite image.

더 나아가, 얼굴 합성 서비스 화면(1000)은 합성 결과 이미지를 이용하여 3D 아바타를 생성하기 위한 아바타 생성 인터페이스(1160)를 더 포함할 수 있다.Furthermore, the face synthesis service screen 1000 may further include an avatar creation interface 1160 for creating a 3D avatar using the synthesis result image.

프로세서(220)는 아바타 생성 인터페이스(1160)가 선택되는 경우 합성 결과 인터페이스(1120)를 통해 표시된 합성 결과 이미지를 목표 대상 인물로 하여 A 이미지와 B 이미지의 합성 얼굴을 가진 3D 아바타를 생성해 제공할 수 있다. 다시 말해, 프로세서(220)는 A 이미지와 B 이미지의 합성 결과물을 목표 대상 인물에 대한 입력 이미지로 하여 사전에 준비된 2D 표준 이미지와의 합성을 통해 2D 대상 이미지를 만들고 이를 3D로 재구성하여 합성 인물에 대한 3D 아바타를 만들 수 있다.When the avatar creation interface 1160 is selected, the processor 220 uses the synthesis result image displayed through the synthesis result interface 1120 as the target person to generate and provide a 3D avatar with a composite face of the A image and the B image. You can. In other words, the processor 220 uses the composite result of the A image and the B image as an input image for the target person, creates a 2D target image by combining it with a pre-prepared 2D standard image, and reconstructs it in 3D to create a composite person. You can create a 3D avatar for.

따라서, 본 실시예들은 목표 대상 인물에 대한 원본 이미지는 물론이고 합성 이미지를 이용하여 3D 아바타를 제작할 수 있어 현존하는 실제 인물 이외에도 가상의 인물에 대해서도 3D 아바타를 만들 수 있다.Accordingly, the present embodiments can create a 3D avatar using not only the original image of the target person but also a synthetic image, making it possible to create a 3D avatar not only for an existing real person but also for a virtual person.

이처럼 본 발명의 실시예들에 따르면, 3D 표준 아바타 모델을 가상 공간에서 촬영하여 3D 아바타를 생성하기 위해 필요한 2D 이미지를 획득함으로써 목표하는 대상이나 촬영 환경에 대한 제약 없이 3D 아바타를 생성할 수 있다. 더욱이, 본 발명의 실시예들에 따르면, 정교한 세팅이 가능한 환경에서 보다 많은 2D 이미지를 획득할 수 있어 이를 통해 고품질의 3D 아바타를 생성할 수 있다.As such, according to embodiments of the present invention, a 3D avatar can be created without restrictions on the target object or shooting environment by capturing a 3D standard avatar model in a virtual space and obtaining the 2D image necessary to create a 3D avatar. Moreover, according to embodiments of the present invention, more 2D images can be acquired in an environment where sophisticated settings are possible, thereby creating a high-quality 3D avatar.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The device described above may be implemented with hardware components, software components, and/or a combination of hardware components and software components. For example, the devices and components described in the embodiments include a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA), and a programmable logic unit (PLU). It may be implemented using one or more general-purpose or special-purpose computers, such as a logic unit, microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. Additionally, a processing device may access, store, manipulate, process, and generate data in response to the execution of software. For ease of understanding, a single processing device may be described as being used; however, those skilled in the art will understand that a processing device includes multiple processing elements and/or multiple types of processing elements. It can be seen that it may include. For example, a processing device may include a plurality of processors or one processor and one controller. Additionally, other processing configurations, such as parallel processors, are possible.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may include a computer program, code, instructions, or a combination of one or more of these, which may configure a processing unit to operate as desired, or may be processed independently or collectively. You can command the device. The software and/or data may be embodied in any type of machine, component, physical device, computer storage medium or device for the purpose of being interpreted by or providing instructions or data to the processing device. there is. Software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer-readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer-readable medium. At this time, the medium may continuously store a computer-executable program, or temporarily store it for execution or download. In addition, the medium may be a variety of recording or storage means in the form of a single or several pieces of hardware combined. It is not limited to a medium directly connected to a computer system and may be distributed over a network. Examples of media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, And there may be something configured to store program instructions, including ROM, RAM, flash memory, etc. Additionally, examples of other media include recording or storage media managed by app stores that distribute applications, sites or servers that supply or distribute various other software, etc.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with limited examples and drawings, various modifications and variations can be made by those skilled in the art from the above description. For example, the described techniques are performed in a different order than the described method, and/or components of the described system, structure, device, circuit, etc. are combined or combined in a different form than the described method, or other components are used. Alternatively, appropriate results may be achieved even if substituted or substituted by an equivalent.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents of the claims also fall within the scope of the claims described below.

Claims (20)

컴퓨터 장치에서 실행되는 3D 아바타 생성 방법에 있어서,
상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
상기 3D 아바타 생성 방법은,
상기 적어도 하나의 프로세서에 의해, 3D 표준 아바타 모델을 스캔하여 획득한 복수 개의 2D 표준 이미지에 목표 대상 인물에 대한 입력 이미지를 합성하여 복수 개의 2D 대상 이미지를 생성하는 단계; 및
상기 적어도 하나의 프로세서에 의해, 상기 복수 개의 2D 대상 이미지를 3D로 재구성(reconstruction)하여 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계
를 포함하는 3D 아바타 생성 방법.
In a 3D avatar creation method executed on a computer device,
The computer device includes at least one processor configured to execute computer readable instructions contained in a memory,
The 3D avatar creation method is:
generating, by the at least one processor, a plurality of 2D target images by combining an input image of a target person with a plurality of 2D standard images obtained by scanning a 3D standard avatar model; and
Generating a 3D avatar for the target person by reconstructing the plurality of 2D target images into 3D by the at least one processor
A 3D avatar creation method including.
제1항에 있어서,
상기 3D 표준 아바타 모델은 평균적인 얼굴 특징(normal facial feature)을 가진 3D 얼굴 모델에 해당되는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to paragraph 1,
The 3D standard avatar model corresponds to a 3D face model with normal facial features.
A 3D avatar creation method featuring:
제1항에 있어서,
상기 3D 표준 아바타 모델은 인공지능 딥러닝 모델을 통해 학습 대상의 얼굴 피처에 대한 평균 값을 3D 모델로 제작한 3D 얼굴 모델에 해당되는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to paragraph 1,
The 3D standard avatar model corresponds to a 3D face model created by creating a 3D model of the average value of the facial features of the learning target through an artificial intelligence deep learning model.
A 3D avatar creation method featuring:
제1항에 있어서,
상기 복수 개의 2D 표준 이미지는 3D 툴로 구현된 가상 공간에 상기 3D 표준 아바타 모델을 배치하여 서로 다른 각도나 높이로 스캔한 스냅샷(snapshot)으로 저장되는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to paragraph 1,
The plurality of 2D standard images are stored as snapshots scanned at different angles or heights by placing the 3D standard avatar model in a virtual space implemented with a 3D tool.
A 3D avatar creation method featuring:
제1항에 있어서,
상기 복수 개의 2D 대상 이미지를 생성하는 단계는,
상기 입력 이미지를 소스 이미지로 하고 각 2D 표준 이미지를 타겟 이미지로 한 딥러닝 합성을 통해 2D 표준 이미지의 얼굴 영역이 상기 목표 대상 인물의 얼굴로 변형된 2D 대상 이미지를 생성하는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to paragraph 1,
The step of generating the plurality of 2D target images includes:
Generating a 2D target image in which the face area of the 2D standard image is transformed into the face of the target person through deep learning synthesis using the input image as a source image and each 2D standard image as a target image.
A 3D avatar creation method featuring:
제1항에 있어서,
상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계는,
이미지 간 기하학적 관계를 이용한 삼각 측량법(triangulation)을 기초로 상기 복수 개의 2D 대상 이미지를 3D로 재구성하는 단계
를 포함하는 3D 아바타 생성 방법.
According to paragraph 1,
The step of creating a 3D avatar for the target person is,
Reconstructing the plurality of 2D target images into 3D based on triangulation using geometric relationships between images
A 3D avatar creation method including.
제1항에 있어서,
상기 목표 대상 인물에 대한 3D 아바타를 생성하는 단계는,
아바타와 관련된 리소스를 변형하여 상기 목표 대상 인물의 3D 아바타를 커스터마이징(customizing)하는 단계
를 포함하는 3D 아바타 생성 방법.
According to paragraph 1,
The step of creating a 3D avatar for the target person is,
Customizing the 3D avatar of the target person by modifying resources related to the avatar.
A 3D avatar creation method including.
제1항에 있어서,
상기 입력 이미지는 특정 인물에 대한 원본 이미지 또는 인물 간 얼굴 합성에 따른 합성 이미지가 사용되는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to paragraph 1,
The input image is an original image for a specific person or a composite image created by combining faces between people.
A 3D avatar creation method featuring:
컴퓨터 장치에서 실행되는 3D 아바타 생성 방법에 있어서,
상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
상기 3D 아바타 생성 방법은,
상기 적어도 하나의 프로세서에 의해, 인공지능 딥러닝 모델을 통해 평균적인 얼굴 특징을 가진 3D 얼굴 모델로 3D 표준 아바타 모델을 제작하는 단계; 및
상기 적어도 하나의 프로세서에 의해, 상기 3D 표준 아바타 모델을 스캔하여 복수 개의 2D 표준 이미지를 생성하는 단계
를 포함하고,
상기 2D 표준 이미지에 목표 대상 인물의 얼굴을 합성한 이미지가 상기 목표 대상 인물에 대한 3D 아바타를 생성하기 위해 필요한 2D 대상 이미지로 사용되는 것
을 특징으로 하는 3D 아바타 생성 방법.
In a 3D avatar creation method executed on a computer device,
The computer device includes at least one processor configured to execute computer readable instructions contained in a memory,
The 3D avatar creation method is:
Creating a 3D standard avatar model using a 3D face model with average facial features using an artificial intelligence deep learning model using the at least one processor; and
Generating, by the at least one processor, a plurality of 2D standard images by scanning the 3D standard avatar model
Including,
An image that combines the 2D standard image with the face of the target person is used as the 2D target image needed to create a 3D avatar for the target person.
A 3D avatar creation method featuring:
제9항에 있어서,
상기 3D 표준 아바타 모델을 제작하는 단계는,
상기 인공지능 딥러닝 모델을 통해 학습 대상의 얼굴 피처에 대한 평균 값으로 3D 얼굴 모델을 제작하는 것
을 특징으로 하는 3D 아바타 생성 방법.
According to clause 9,
The step of producing the 3D standard avatar model is,
Creating a 3D face model with the average value of the facial features of the learning target through the artificial intelligence deep learning model.
A 3D avatar creation method featuring:
제9항에 있어서,
상기 복수 개의 2D 표준 이미지를 생성하는 단계는,
3D 툴로 구현된 가상 공간에 상기 3D 표준 아바타 모델을 배치하여 서로 다른 각도나 높이로 스캔하여 스냅샷으로 저장하는 단계
를 포함하는 3D 아바타 생성 방법.
According to clause 9,
The step of generating a plurality of 2D standard images includes:
A step of placing the 3D standard avatar model in a virtual space implemented with a 3D tool, scanning it at different angles or heights, and saving it as a snapshot.
A 3D avatar creation method including.
제1항 내지 제11항 중 어느 한 항의 3D 아바타 생성 방법을 상기 컴퓨터 장치에 실행시키기 위해 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램.A computer program stored in a computer-readable recording medium to cause the computer device to execute the 3D avatar creation method of any one of claims 1 to 11. 컴퓨터 장치에 있어서,
메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서
를 포함하고,
상기 적어도 하나의 프로세서는,
3D 표준 아바타 모델을 스캔하여 획득한 복수 개의 2D 표준 이미지에 목표 대상 인물에 대한 입력 이미지를 합성하여 복수 개의 2D 대상 이미지를 생성하는 과정; 및
상기 복수 개의 2D 대상 이미지를 3D로 재구성하여 상기 목표 대상 인물에 대한 3D 아바타를 생성하는 과정
을 처리하는 컴퓨터 장치.
In computer devices,
At least one processor configured to execute computer readable instructions contained in memory
Including,
The at least one processor,
A process of generating a plurality of 2D target images by combining an input image of a target person with a plurality of 2D standard images obtained by scanning a 3D standard avatar model; and
A process of reconstructing the plurality of 2D target images into 3D to create a 3D avatar for the target person.
A computer device that processes
제13항에 있어서,
상기 3D 표준 아바타 모델은 평균적인 얼굴 특징을 가진 3D 얼굴 모델에 해당되는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The 3D standard avatar model corresponds to a 3D face model with average facial features.
A computer device characterized by a.
제13항에 있어서,
상기 3D 표준 아바타 모델은 인공지능 딥러닝 모델을 통해 학습 대상의 얼굴 피처에 대한 평균 값을 3D 모델로 제작한 3D 얼굴 모델에 해당되는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The 3D standard avatar model corresponds to a 3D face model created by creating a 3D model of the average value of the facial features of the learning target through an artificial intelligence deep learning model.
A computer device characterized by a.
제13항에 있어서,
상기 복수 개의 2D 표준 이미지는 3D 툴로 구현된 가상 공간에 상기 3D 표준 아바타 모델을 배치하여 서로 다른 각도나 높이로 스캔한 스냅샷으로 저장되는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The plurality of 2D standard images are stored as snapshots scanned at different angles or heights by placing the 3D standard avatar model in a virtual space implemented with a 3D tool.
A computer device characterized by a.
제13항에 있어서,
상기 적어도 하나의 프로세서는,
상기 입력 이미지를 소스 이미지로 하고 각 2D 표준 이미지를 타겟 이미지로 한 딥러닝 합성을 통해 2D 표준 이미지의 얼굴 영역이 상기 목표 대상 인물의 얼굴로 변형된 2D 대상 이미지를 생성하는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The at least one processor,
Generating a 2D target image in which the face area of the 2D standard image is transformed into the face of the target person through deep learning synthesis using the input image as a source image and each 2D standard image as a target image.
A computer device characterized by a.
제13항에 있어서,
상기 적어도 하나의 프로세서는,
이미지 간 기하학적 관계를 이용한 삼각 측량법을 기초로 상기 복수 개의 2D 대상 이미지를 3D로 재구성하는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The at least one processor,
Reconstructing the plurality of 2D target images into 3D based on triangulation using geometric relationships between images
A computer device characterized by a.
제13항에 있어서,
상기 적어도 하나의 프로세서는,
아바타와 관련된 리소스를 변형하여 상기 목표 대상 인물의 3D 아바타를 커스터마이징하는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The at least one processor,
Customizing a 3D avatar of the target person by modifying resources associated with the avatar
A computer device characterized by a.
제13항에 있어서,
상기 입력 이미지는 특정 인물에 대한 원본 이미지 또는 인물 간 얼굴 합성에 따른 합성 이미지가 사용되는 것
을 특징으로 하는 컴퓨터 장치.
According to clause 13,
The input image is an original image for a specific person or a composite image created by combining faces between people.
A computer device characterized by a.
KR1020220103390A 2022-08-18 2022-08-18 Method, computer device, and computer program to create 3d avatar based on multi-angle image KR20240025320A (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020220103390A KR20240025320A (en) 2022-08-18 2022-08-18 Method, computer device, and computer program to create 3d avatar based on multi-angle image
PCT/KR2023/008124 WO2024039026A1 (en) 2022-08-18 2023-06-13 Method, computer device, and computer program for generating multi-angle image-based 3d avatar

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220103390A KR20240025320A (en) 2022-08-18 2022-08-18 Method, computer device, and computer program to create 3d avatar based on multi-angle image

Publications (1)

Publication Number Publication Date
KR20240025320A true KR20240025320A (en) 2024-02-27

Family

ID=89942061

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220103390A KR20240025320A (en) 2022-08-18 2022-08-18 Method, computer device, and computer program to create 3d avatar based on multi-angle image

Country Status (2)

Country Link
KR (1) KR20240025320A (en)
WO (1) WO2024039026A1 (en)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101859997B1 (en) * 2011-08-24 2018-07-05 한국전자통신연구원 Local multiresolution 3d facial inherent model generation apparatus, method and face skin management system
US9996963B2 (en) * 2013-05-13 2018-06-12 Mport Pty Ltd Devices, frameworks and methodologies for enabling user-driven determination of body size and shape information and utilisation of such information across a networked environment
KR102357340B1 (en) * 2014-09-05 2022-02-03 삼성전자주식회사 Method and apparatus for face recognition
KR102241153B1 (en) * 2019-07-01 2021-04-19 주식회사 시어스랩 Method, apparatus, and system generating 3d avartar from 2d image
KR20220080576A (en) * 2020-12-07 2022-06-14 주식회사 라이브메이커스 System and method for generating avatar character

Also Published As

Publication number Publication date
WO2024039026A1 (en) 2024-02-22

Similar Documents

Publication Publication Date Title
US11861936B2 (en) Face reenactment
JP7357706B2 (en) Avatar generator and computer program
KR20180082170A (en) Method and system for detection of three dimension face model
US11182945B2 (en) Automatically generating an animatable object from various types of user input
CN109151540A (en) The interaction processing method and device of video image
KR102068993B1 (en) Method And Apparatus Creating for Avatar by using Multi-view Image Matching
TW202009682A (en) Interactive method and device based on augmented reality
US11477366B2 (en) Selfie setup and stock videos creation
US20220237846A1 (en) Generation and simultaneous display of multiple digitally garmented avatars
JP2023512131A (en) Apparatus for multi-angle screen coverage analysis
US11645800B2 (en) Advanced systems and methods for automatically generating an animatable object from various types of user input
US11430158B2 (en) Intelligent real-time multiple-user augmented reality content management and data analytics system
KR102337020B1 (en) Augmented reality video production system and method using 3d scan data
KR102551914B1 (en) Method and system for generating interactive object viewer
KR20240025320A (en) Method, computer device, and computer program to create 3d avatar based on multi-angle image
EP4272173A1 (en) Flow-guided motion retargeting
KR20240024537A (en) Method, computer device, and computer program to create facial expressions through image synthesis using 3d character-based standard model
CN114452646A (en) Virtual object perspective processing method and device and computer equipment
JP2017084215A (en) Information processing system, control method thereof, and program
KR20240024536A (en) Method, computer device, and computer program to transform face feature through multiple synthesis
KR20230165663A (en) Method, computer device, and computer program for compositing images to create natural face
US11983819B2 (en) Methods and systems for deforming a 3D body model based on a 2D image of an adorned subject
US20230386135A1 (en) Methods and systems for deforming a 3d body model based on a 2d image of an adorned subject
KR20240024535A (en) Method, computer device, and computer program to create new face using hidden face feature
US20210241524A1 (en) Mobile device 3-dimensional modeling

Legal Events

Date Code Title Description
E902 Notification of reason for refusal