KR20240024535A - Method, computer device, and computer program to create new face using hidden face feature - Google Patents
Method, computer device, and computer program to create new face using hidden face feature Download PDFInfo
- Publication number
- KR20240024535A KR20240024535A KR1020220102638A KR20220102638A KR20240024535A KR 20240024535 A KR20240024535 A KR 20240024535A KR 1020220102638 A KR1020220102638 A KR 1020220102638A KR 20220102638 A KR20220102638 A KR 20220102638A KR 20240024535 A KR20240024535 A KR 20240024535A
- Authority
- KR
- South Korea
- Prior art keywords
- image
- face
- filter
- processor
- source
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 43
- 238000004590 computer program Methods 0.000 title claims abstract description 10
- 230000001815 facial effect Effects 0.000 claims abstract description 44
- 230000015572 biosynthetic process Effects 0.000 claims description 46
- 238000003786 synthesis reaction Methods 0.000 claims description 46
- 230000008569 process Effects 0.000 claims description 24
- 238000001308 synthesis method Methods 0.000 claims description 22
- 239000002131 composite material Substances 0.000 claims description 14
- 230000000694 effects Effects 0.000 claims description 13
- 238000002156 mixing Methods 0.000 claims description 5
- 241001465754 Metazoa Species 0.000 claims description 4
- 238000010276 construction Methods 0.000 claims 1
- 238000004891 communication Methods 0.000 description 11
- 238000005516 engineering process Methods 0.000 description 9
- 238000013135 deep learning Methods 0.000 description 6
- 238000013136 deep learning model Methods 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 210000000887 face Anatomy 0.000 description 4
- 230000006870 function Effects 0.000 description 4
- 238000001514 detection method Methods 0.000 description 3
- 238000013473 artificial intelligence Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000000354 decomposition reaction Methods 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 210000005069 ears Anatomy 0.000 description 1
- 238000001914 filtration Methods 0.000 description 1
- 210000001061 forehead Anatomy 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T13/00—Animation
- G06T13/20—3D [Three Dimensional] animation
- G06T13/40—3D [Three Dimensional] animation of characters, e.g. humans, animals or virtual beings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Human Computer Interaction (AREA)
- Multimedia (AREA)
- Processing Or Creating Images (AREA)
Abstract
히든 얼굴 피처를 이용하여 새로운 얼굴을 생성하는 방법, 컴퓨터 장치, 및 컴퓨터 프로그램이 개시된다. 새로운 얼굴을 생성하는 방법은, 제1 소스 이미지와 제2 소스 이미지에서 얼굴 영역을 추출하는 단계; 상기 제1 소스 이미지에서 추출된 얼굴 영역과 상기 제2 소스 이미지에서 추출된 얼굴 영역을 합성하는 단계; 스타일 소스로 설정된 타겟 이미지에 상기 합성된 얼굴 영역을 합성하여 결과 이미지를 생성하는 단계; 및 상기 합성된 얼굴 영역에 얼굴 피처 필터를 재합성하여 새로운 결과 이미지를 생성하는 단계를 포함한다.A method, computer device, and computer program for generating a new face using hidden facial features are disclosed. A method of generating a new face includes extracting a face area from a first source image and a second source image; combining a face area extracted from the first source image and a face area extracted from the second source image; generating a result image by combining the synthesized face area with a target image set as a style source; and generating a new result image by re-synthesizing a facial feature filter on the synthesized face area.
Description
아래의 설명은 딥러닝을 이용한 얼굴 합성 기술에 관한 것이다.The explanation below is about face synthesis technology using deep learning.
인공지능을 이용한 얼굴 변환 기술은 변환된 얼굴을 높은 해상도로 생성해 낼 수 있는 수준으로 발전되고 있다.Face conversion technology using artificial intelligence is developing to a level where converted faces can be created with high resolution.
얼굴 변환 기술은 다양한 방식으로 사용자에게 제공될 수 있다. 예를 들어, 특정 얼굴을 사용자가 원하는 배경과 합성할 수 있으며, 이에 따라 사용자가 원하는 배경에서 사용자 또는 타인의 얼굴이 나타나도록 할 수 있다. 동영상 속의 유명 인물의 얼굴을 사용자 또는 타인의 얼굴로 변경할 수도 있다.Face transformation technology can be provided to users in a variety of ways. For example, a specific face can be composited with a user-desired background, thereby allowing the user or another person's face to appear in the user-desired background. You can also change the face of a famous person in a video to your own or someone else's face.
일례로, 한국 등록특허공보 제10-1871662호(등록일 2018년 06월 21일)에는 얼굴 검출을 기반으로 한 이미지 합성 기술이 개시되어 있다.For example, Korea Patent Publication No. 10-1871662 (registration date June 21, 2018) discloses an image synthesis technology based on face detection.
신규 얼굴을 탄생시키기 위해 얼굴 합성 결과를 다양화시킬 수 있는 방법과 장치를 제공한다.We provide methods and devices that can diversify face synthesis results to create new faces.
소스 이미지를 이용한 얼굴 합성 결과에 히든 얼굴 피처(hidden face feature)를 적용하여 새로운 얼굴을 생성할 수 있는 방법과 장치를 제공한다.We provide a method and device for generating a new face by applying a hidden face feature to the result of face synthesis using a source image.
컴퓨터 장치에서 실행되는 이미지 합성 방법에 있어서, 상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 이미지 합성 방법은, 상기 적어도 하나의 프로세서에 의해, 제1 소스 이미지와 제2 소스 이미지에서 얼굴 영역을 추출하는 단계; 상기 적어도 하나의 프로세서에 의해, 상기 제1 소스 이미지에서 추출된 얼굴 영역과 상기 제2 소스 이미지에서 추출된 얼굴 영역을 합성하는 단계; 상기 적어도 하나의 프로세서에 의해, 스타일 소스로 설정된 타겟 이미지에 상기 합성된 얼굴 영역을 합성하여 결과 이미지를 생성하는 단계; 및 상기 적어도 하나의 프로세서에 의해, 상기 합성된 얼굴 영역에 얼굴 피처 필터를 재합성하여 새로운 결과 이미지를 생성하는 단계를 포함하는 이미지 합성 방법을 제공한다.An image compositing method executed on a computer device, wherein the computer device includes at least one processor configured to execute computer-readable instructions included in a memory, and the image compositing method includes: Extracting a face area from a first source image and a second source image; combining, by the at least one processor, a face area extracted from the first source image and a face area extracted from the second source image; generating a result image by combining the synthesized face area with a target image set as a style source, by the at least one processor; and generating a new result image by re-synthesizing a facial feature filter on the synthesized face area, by the at least one processor.
일 측면에 따르면, 상기 이미지 합성 방법은, 상기 적어도 하나의 프로세서에 의해, 복수 개의 얼굴 피처 필터로 구성된 필터 데이터베이스를 구축하는 단계를 더 포함하고, 상기 새로운 결과 이미지를 생성하는 단계는, 상기 필터 데이터베이스에서 선택된 얼굴 피처 필터를 상기 합성된 얼굴 영역에 재합성하는 단계를 포함할 수 있다.According to one aspect, the image synthesis method further includes building a filter database composed of a plurality of face feature filters by the at least one processor, and generating the new result image includes: It may include re-synthesizing the facial feature filter selected from to the synthesized face region.
다른 측면에 따르면, 상기 필터 데이터베이스는 서로 다른 얼굴 피처로 이루어진 복수 개의 얼굴 피처 필터로 구성될 수 있다.According to another aspect, the filter database may be composed of a plurality of face feature filters made of different face features.
또 다른 측면에 따르면, 상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 얼굴 영역에 포함된 적어도 일부 요소에 해당되는 얼굴 피처가 강화된 이미지 효과 필터에 해당될 수 있다.According to another aspect, the face feature filter included in the filter database may correspond to an image effect filter in which face features corresponding to at least some elements included in the face area are enhanced.
또 다른 측면에 따르면, 상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 사람 얼굴 피처로 이루어진 이미지 효과 필터와 동물 얼굴 피처로 이루어진 이미지 효과 필터 중 적어도 하나를 포함할 수 있다.According to another aspect, the face feature filter included in the filter database may include at least one of an image effect filter comprised of human face features and an image effect filter comprised of animal face features.
또 다른 측면에 따르면, 상기 새로운 결과 이미지를 생성하는 단계는, 사용자의 요청에 따라 상기 필터 데이터베이스에서 무작위로 얼굴 피처 필터를 선택하는 단계를 포함할 수 있다.According to another aspect, generating the new result image may include randomly selecting a facial feature filter from the filter database according to a user's request.
또 다른 측면에 따르면, 상기 구축하는 단계는, 상기 필터 데이터베이스에 포함된 얼굴 피처 필터에 대한 사용자 선호도를 파악하는 단계를 포함하고, 상기 새로운 결과 이미지를 생성하는 단계는, 사용자의 요청에 따라 상기 필터 데이터베이스에서 상기 사용자 선호도를 기초로 얼굴 피처 필터를 선택하는 단계를 포함할 수 있다.According to another aspect, the constructing step includes identifying a user's preference for a face feature filter included in the filter database, and the generating the new result image includes filtering the filter according to a user's request. It may include selecting a facial feature filter based on the user preference from a database.
또 다른 측면에 따르면, 상기 타겟 이미지는 상기 제1 소스 이미지와 상기 제2 소스 이미지 중 사용자에 의해 선택된 이미지에 해당될 수 있다.According to another aspect, the target image may correspond to an image selected by the user among the first source image and the second source image.
또 다른 측면에 따르면, 상기 타겟 이미지는 상기 제1 소스 이미지나 상기 제2 소스 이미지와 다른 이미지로 사용자에 의해 선택된 별개의 이미지에 해당될 수 있다.According to another aspect, the target image may correspond to a separate image selected by the user that is different from the first source image or the second source image.
또 다른 측면에 따르면, 상기 합성하는 단계는, 상기 제1 소스 이미지의 얼굴 영역에서 추출된 제1 얼굴 피처와 상기 제2 소스 이미지의 얼굴 영역에서 추출된 제2 얼굴 피처를 사용자에 의해 설정된 비율로 혼합함으로써 합성 얼굴 영역을 생성하는 단계를 포함할 수 있다.According to another aspect, the step of combining the first facial features extracted from the face area of the first source image and the second facial features extracted from the face area of the second source image at a ratio set by the user. It may include generating a synthetic face area by mixing.
상기 이미지 합성 방법을 상기 컴퓨터 장치에 실행시키기 위해 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램을 제공한다.A computer program stored in a computer-readable recording medium is provided to execute the image synthesis method on the computer device.
컴퓨터 장치에 있어서, 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 제1 소스 이미지와 제2 소스 이미지에서 얼굴 영역을 추출하는 과정; 상기 제1 소스 이미지에서 추출된 얼굴 영역과 상기 제2 소스 이미지에서 추출된 얼굴 영역을 합성하는 과정; 스타일 소스로 설정된 타겟 이미지에 상기 합성된 얼굴 영역을 합성하여 결과 이미지를 생성하는 과정; 및 상기 합성된 얼굴 영역에 얼굴 피처 필터를 재합성하여 새로운 결과 이미지를 생성하는 과정을 처리하는 컴퓨터 장치를 제공한다.A computer device comprising: at least one processor configured to execute computer readable instructions included in a memory, the at least one processor comprising: extracting a facial area from a first source image and a second source image; A process of combining a face area extracted from the first source image and a face area extracted from the second source image; A process of generating a result image by combining the synthesized face area with a target image set as a style source; and a computer device that processes a process of generating a new result image by re-synthesizing a facial feature filter to the synthesized face area.
본 발명의 실시예들에 따르면, 딥러닝 모델을 이용한 얼굴 합성 과정에서 소스 이미지를 이용한 얼굴 합성 결과에 히든 얼굴 피처를 적용하여 새로운 결과를 제공함으로써 얼굴 합성의 다양화를 통해 서비스 품질과 사용자 경험을 향상시킬 수 있다.According to embodiments of the present invention, in the process of face synthesis using a deep learning model, new results are provided by applying hidden face features to the result of face synthesis using a source image, thereby improving service quality and user experience through diversification of face synthesis. It can be improved.
도 1은 본 발명의 일 실시예에 따른 네트워크 환경의 예를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다.
도 3은 본 발명의 일실시예에 따른 컴퓨터 장치가 수행할 수 있는 이미지 합성 방법의 예를 도시한 흐름도이다.
도 4 내지 도 5는 본 발명의 일실시예에 있어서 이미지 합성 과정의 예시를 도시한 것이다.
도 6 내지 도 7은 본 발명의 일실시예에 있어서 얼굴 필터를 이용한 이미지 합성 과정의 예시를 도시한 것이다.
도 8은 본 발명의 일실시예에 있어서 얼굴 합성 서비스 화면의 예시를 도시한 것이다.
도 9는 본 발명의 일실시예에 있어서 얼굴 합성 결과 예시를 도시한 것이다.
도 10은 본 발명의 일실시예에 있어서 얼굴 필터를 이용한 얼굴 합성 결과 예시를 도시한 것이다.1 is a diagram illustrating an example of a network environment according to an embodiment of the present invention.
Figure 2 is a block diagram showing an example of a computer device according to an embodiment of the present invention.
Figure 3 is a flowchart showing an example of an image compositing method that can be performed by a computer device according to an embodiment of the present invention.
Figures 4 and 5 show examples of the image synthesis process in one embodiment of the present invention.
Figures 6 and 7 show an example of an image synthesis process using a face filter according to an embodiment of the present invention.
Figure 8 shows an example of a face synthesis service screen in one embodiment of the present invention.
Figure 9 shows an example of a face synthesis result according to an embodiment of the present invention.
Figure 10 shows an example of the result of face synthesis using a face filter in one embodiment of the present invention.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the attached drawings.
본 발명의 실시예들은 딥러닝을 이용한 얼굴 합성 기술에 관한 것이다.Embodiments of the present invention relate to face synthesis technology using deep learning.
본 명세서에서 구체적으로 개시되는 것들을 포함하는 실시예들은 신규 얼굴을 탄생시키기 위해 히든 얼굴 피처를 활용하여 얼굴 합성 결과를 다양화시킬 수 있다.Embodiments including those specifically disclosed herein can diversify face synthesis results by utilizing hidden facial features to create new faces.
본 발명의 실시예들에 따른 이미지 합성 시스템은 적어도 하나의 컴퓨터 장치에 의해 구현될 수 있으며, 본 발명의 실시예들에 따른 이미지 합성 방법은 이미지 합성 시스템에 포함되는 적어도 하나의 컴퓨터 장치를 통해 수행될 수 있다. 이때, 컴퓨터 장치에는 본 발명의 일실시예에 따른 컴퓨터 프로그램이 설치 및 구동될 수 있고, 컴퓨터 장치는 구동된 컴퓨터 프로그램의 제어에 따라 본 발명의 실시예들에 따른 이미지 합성 방법을 수행할 수 있다. 상술한 컴퓨터 프로그램은 컴퓨터 장치와 결합되어 이미지 합성 방법을 컴퓨터에 실행시키기 위해 컴퓨터 판독 가능한 기록매체에 저장될 수 있다.The image synthesis system according to embodiments of the present invention may be implemented by at least one computer device, and the image synthesis method according to embodiments of the present invention is performed through at least one computer device included in the image synthesis system. It can be. At this time, the computer program according to an embodiment of the present invention may be installed and driven in the computer device, and the computer device may perform the image compositing method according to the embodiment of the present invention under the control of the driven computer program. . The above-described computer program can be combined with a computer device and stored in a computer-readable recording medium to execute the image compositing method on the computer.
도 1은 본 발명의 일실시예에 따른 네트워크 환경의 예를 도시한 도면이다. 도 1의 네트워크 환경은 복수의 전자 기기들(110, 120, 130, 140), 복수의 서버들(150, 160) 및 네트워크(170)를 포함하는 예를 나타내고 있다. 이러한 도 1은 발명의 설명을 위한 일례로 전자 기기의 수나 서버의 수가 도 1과 같이 한정되는 것은 아니다. 또한, 도 1의 네트워크 환경은 본 실시예들에 적용 가능한 환경들 중 하나의 예를 설명하는 것일 뿐, 본 실시예들에 적용 가능한 환경이 도 1의 네트워크 환경으로 한정되는 것은 아니다.1 is a diagram illustrating an example of a network environment according to an embodiment of the present invention. The network environment in FIG. 1 shows an example including a plurality of
복수의 전자 기기들(110, 120, 130, 140)은 컴퓨터 장치로 구현되는 고정형 단말이거나 이동형 단말일 수 있다. 복수의 전자 기기들(110, 120, 130, 140)의 예를 들면, 스마트폰(smart phone), 휴대폰, 내비게이션, 컴퓨터, 노트북, 디지털방송용 단말, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 태블릿 PC 등이 있다. 일례로 도 1에서는 전자 기기(110)의 예로 스마트폰의 형상을 나타내고 있으나, 본 발명의 실시예들에서 전자 기기(110)는 실질적으로 무선 또는 유선 통신 방식을 이용하여 네트워크(170)를 통해 다른 전자 기기들(120, 130, 140) 및/또는 서버(150, 160)와 통신할 수 있는 다양한 물리적인 컴퓨터 장치들 중 하나를 의미할 수 있다.The plurality of
통신 방식은 제한되지 않으며, 네트워크(170)가 포함할 수 있는 통신망(일례로, 이동통신망, 유선 인터넷, 무선 인터넷, 방송망)을 활용하는 통신 방식뿐만 아니라 기기들간의 근거리 무선 통신 역시 포함될 수 있다. 예를 들어, 네트워크(170)는, PAN(personal area network), LAN(local area network), CAN(campus area network), MAN(metropolitan area network), WAN(wide area network), BBN(broadband network), 인터넷 등의 네트워크 중 하나 이상의 임의의 네트워크를 포함할 수 있다. 또한, 네트워크(170)는 버스 네트워크, 스타 네트워크, 링 네트워크, 메쉬 네트워크, 스타-버스 네트워크, 트리 또는 계층적(hierarchical) 네트워크 등을 포함하는 네트워크 토폴로지 중 임의의 하나 이상을 포함할 수 있으나, 이에 제한되지 않는다.The communication method is not limited, and may include not only a communication method utilizing a communication network that the
서버(150, 160) 각각은 복수의 전자 기기들(110, 120, 130, 140)과 네트워크(170)를 통해 통신하여 명령, 코드, 파일, 콘텐츠, 서비스 등을 제공하는 컴퓨터 장치 또는 복수의 컴퓨터 장치들로 구현될 수 있다. 예를 들어, 서버(150)는 네트워크(170)를 통해 접속한 복수의 전자 기기들(110, 120, 130, 140)로 서비스(일례로, 얼굴 합성 서비스)를 제공하는 시스템일 수 있다.Each of the
도 2는 본 발명의 일실시예에 따른 컴퓨터 장치의 예를 도시한 블록도이다. 앞서 설명한 복수의 전자 기기들(110, 120, 130, 140) 각각이나 서버들(150, 160) 각각은 도 2를 통해 도시된 컴퓨터 장치(200)에 의해 구현될 수 있다. 예를 들어, 본 발명의 실시예들에 따른 이미지 합성 시스템은 도 2를 통해 도시된 컴퓨터 장치(200)에 의해 구현될 수 있다.Figure 2 is a block diagram showing an example of a computer device according to an embodiment of the present invention. Each of the plurality of
이러한 컴퓨터 장치(200)는 도 2에 도시된 바와 같이, 메모리(210), 프로세서(220), 통신 인터페이스(230) 그리고 입출력 인터페이스(240)를 포함할 수 있다. 메모리(210)는 컴퓨터에서 판독 가능한 기록매체로서, RAM(random access memory), ROM(read only memory) 및 디스크 드라이브와 같은 비소멸성 대용량 기록장치(permanent mass storage device)를 포함할 수 있다. 여기서 ROM과 디스크 드라이브와 같은 비소멸성 대용량 기록장치는 메모리(210)와는 구분되는 별도의 영구 저장 장치로서 컴퓨터 장치(200)에 포함될 수도 있다. 또한, 메모리(210)에는 운영체제와 적어도 하나의 프로그램 코드가 저장될 수 있다. 이러한 소프트웨어 구성요소들은 메모리(210)와는 별도의 컴퓨터에서 판독 가능한 기록매체로부터 메모리(210)로 로딩될 수 있다. 이러한 별도의 컴퓨터에서 판독 가능한 기록매체는 플로피 드라이브, 디스크, 테이프, DVD/CD-ROM 드라이브, 메모리 카드 등의 컴퓨터에서 판독 가능한 기록매체를 포함할 수 있다. 다른 실시예에서 소프트웨어 구성요소들은 컴퓨터에서 판독 가능한 기록매체가 아닌 통신 인터페이스(230)를 통해 메모리(210)에 로딩될 수도 있다. 예를 들어, 소프트웨어 구성요소들은 네트워크(170)를 통해 수신되는 파일들에 의해 설치되는 컴퓨터 프로그램에 기반하여 컴퓨터 장치(200)의 메모리(210)에 로딩될 수 있다.As shown in FIG. 2, this
프로세서(220)는 기본적인 산술, 로직 및 입출력 연산을 수행함으로써, 컴퓨터 프로그램의 명령을 처리하도록 구성될 수 있다. 명령은 메모리(210) 또는 통신 인터페이스(230)에 의해 프로세서(220)로 제공될 수 있다. 예를 들어 프로세서(220)는 메모리(210)와 같은 기록 장치에 저장된 프로그램 코드에 따라 수신되는 명령을 실행하도록 구성될 수 있다.The
통신 인터페이스(230)는 네트워크(170)를 통해 컴퓨터 장치(200)가 다른 장치(일례로, 앞서 설명한 저장 장치들)와 서로 통신하기 위한 기능을 제공할 수 있다. 일례로, 컴퓨터 장치(200)의 프로세서(220)가 메모리(210)와 같은 기록 장치에 저장된 프로그램 코드에 따라 생성한 요청이나 명령, 데이터, 파일 등이 통신 인터페이스(230)의 제어에 따라 네트워크(170)를 통해 다른 장치들로 전달될 수 있다. 역으로, 다른 장치로부터의 신호나 명령, 데이터, 파일 등이 네트워크(170)를 거쳐 컴퓨터 장치(200)의 통신 인터페이스(230)를 통해 컴퓨터 장치(200)로 수신될 수 있다. 통신 인터페이스(230)를 통해 수신된 신호나 명령, 데이터 등은 프로세서(220)나 메모리(210)로 전달될 수 있고, 파일 등은 컴퓨터 장치(200)가 더 포함할 수 있는 저장 매체(상술한 영구 저장 장치)로 저장될 수 있다.The
입출력 인터페이스(240)는 입출력 장치(250)와의 인터페이스를 위한 수단일 수 있다. 예를 들어, 입력 장치는 마이크, 키보드 또는 마우스 등의 장치를, 그리고 출력 장치는 디스플레이, 스피커와 같은 장치를 포함할 수 있다. 다른 예로 입출력 인터페이스(240)는 터치스크린과 같이 입력과 출력을 위한 기능이 하나로 통합된 장치와의 인터페이스를 위한 수단일 수도 있다. 입출력 장치(250)는 컴퓨터 장치(200)와 하나의 장치로 구성될 수도 있다.The input/
또한, 다른 실시예들에서 컴퓨터 장치(200)는 도 2의 구성요소들보다 더 적은 혹은 더 많은 구성요소들을 포함할 수도 있다. 그러나, 대부분의 종래기술적 구성요소들을 명확하게 도시할 필요성은 없다. 예를 들어, 컴퓨터 장치(200)는 상술한 입출력 장치(250) 중 적어도 일부를 포함하도록 구현되거나 또는 트랜시버(transceiver), 데이터베이스 등과 같은 다른 구성요소들을 더 포함할 수도 있다.Additionally, in other embodiments,
이하에서는 히든 얼굴 피처를 이용하여 새로운 얼굴을 생성하는 방법 및 그 장치의 구체적인 실시예를 설명하기로 한다.Hereinafter, specific embodiments of a method and device for generating a new face using hidden face features will be described.
딥러닝 모델을 이용한 얼굴 합성 과정은 소스 이미지에 포함된 얼굴 피처만을 합성하기 때문에 합성 결과물이 소스 이미지의 얼굴과 닮은꼴로 획일화되어 제3의 새로운 인물이 탄생하기 어려운 한계가 있다.Since the face synthesis process using a deep learning model synthesizes only the facial features included in the source image, the synthesis result is standardized to resemble the face in the source image, making it difficult to create a new third person.
본 실시예들은 딥러닝 모델을 이용한 얼굴 합성 과정에서 히든 얼굴 피처를 활용한 합성을 통해 획일화된 결과물에 벗어나 다양한 범주에서 새로운 얼굴을 탄생시킬 수 있다.These embodiments can go beyond standardized results and create new faces in various categories through synthesis using hidden facial features in the face synthesis process using a deep learning model.
본 실시예에 따른 컴퓨터 장치(200)는 클라이언트(client)를 대상으로 클라이언트 상에 설치된 전용 어플리케이션이나 컴퓨터 장치(200)와 관련된 웹/모바일 사이트 접속을 통해 얼굴 합성 서비스를 제공할 수 있다. 컴퓨터 장치(200)에는 컴퓨터로 구현된 이미지 합성 시스템이 구성될 수 있다. 일례로, 이미지 합성 시스템은 독립적으로 동작하는 프로그램 형태로 구현되거나, 혹은 특정 어플리케이션의 인-앱(in-app) 형태로 구성되어 상기 특정 어플리케이션 상에서 동작이 가능하도록 구현될 수 있다.The
컴퓨터 장치(200)의 프로세서(220)는 이하의 이미지 합성 방법을 수행하기 위한 구성요소로 구현될 수 있다. 실시예에 따라 프로세서(220)의 구성요소들은 선택적으로 프로세서(220)에 포함되거나 제외될 수도 있다. 또한, 실시예에 따라 프로세서(220)의 구성요소들은 프로세서(220)의 기능의 표현을 위해 분리 또는 병합될 수도 있다.The
이러한 프로세서(220) 및 프로세서(220)의 구성요소들은 이하의 이미지 합성 방법이 포함하는 단계들을 수행하도록 컴퓨터 장치(200)를 제어할 수 있다. 예를 들어, 프로세서(220) 및 프로세서(220)의 구성요소들은 메모리(210)가 포함하는 운영체제의 코드와 적어도 하나의 프로그램의 코드에 따른 명령(instruction)을 실행하도록 구현될 수 있다.The
여기서, 프로세서(220)의 구성요소들은 컴퓨터 장치(200)에 저장된 프로그램 코드가 제공하는 명령에 따라 프로세서(220)에 의해 수행되는 서로 다른 기능들(different functions)의 표현들일 수 있다.Here, the components of the
프로세서(220)는 컴퓨터 장치(200)의 제어와 관련된 명령이 로딩된 메모리(210)로부터 필요한 명령을 읽어들일 수 있다. 이 경우, 상기 읽어들인 명령은 프로세서(220)가 이후 설명될 단계들을 실행하도록 제어하기 위한 명령을 포함할 수 있다.The
이후 설명될 이미지 합성 방법이 포함하는 단계들은 도시된 순서와 다른 순서로 수행될 수 있으며, 단계들 중 일부가 생략되거나 추가의 과정이 더 포함될 수 있다.Steps included in the image synthesis method to be described later may be performed in an order different from the order shown, and some of the steps may be omitted or additional processes may be included.
도 3은 본 발명의 일실시예에 따른 컴퓨터 장치가 수행할 수 있는 이미지 합성 방법의 예를 도시한 흐름도이다.Figure 3 is a flowchart showing an example of an image compositing method that can be performed by a computer device according to an embodiment of the present invention.
본 실시예에 따른 이미지 합성 방법은 앞서 설명한 컴퓨터 장치(200)에 의해 수행될 수 있다. 이 경우, 컴퓨터 장치(200)의 프로세서(220)는 메모리(210)가 포함하는 운영체제의 코드나 적어도 하나의 프로그램의 코드에 따른 제어 명령(instruction)을 실행하도록 구현될 수 있다. 여기서, 프로세서(220)는 컴퓨터 장치(200)에 저장된 코드가 제공하는 제어 명령에 따라 컴퓨터 장치(200)가 도 3의 이미지 합성 방법이 포함하는 단계들(S310 내지 S340)을 수행하도록 컴퓨터 장치(200)를 제어할 수 있다.The image synthesis method according to this embodiment can be performed by the
도 3을 참조하면, 단계(S310)에서 프로세서(220)는 제1 소스 이미지와 제2 소스 이미지에서 각각 얼굴 영역과 얼굴 영역을 제외한 나머지 배경(외형) 영역을 나타내는 스타일 영역을 분리할 수 있다. 다시 말해, 프로세서(220)는 얼굴 검출(face detection) 기술을 통해 제1 소스 이미지에서 제1 얼굴 영역과 제1 스타일 영역을 분리하고, 제2 소스 이미지에서 제2 얼굴 영역과 제2 스타일 영역을 분리할 수 있다.Referring to FIG. 3, in step S310, the
단계(S320)에서 프로세서(220)는 제1 소스 이미지에서 분리된 제1 얼굴 영역과 제2 소스 이미지에서 분리된 제2 얼굴 영역을 합성할 수 있다. 프로세서(220)는 인공지능 기반의 이미지 합성 기술인 페이스 스왑(face swap)(예를 들어, Simple Swap)을 통해 제1 얼굴 영역과 제2 얼굴 영역이 결합된 새로운 얼굴 영역(이하, '제3 얼굴 영역'이라 칭함)을 생성할 수 있다.In step S320, the
단계(S330)에서 프로세서(220)는 스타일 소스로 설정된 이미지(이하, '타겟 이미지'라 칭함)에 제3 얼굴 영역을 합성하여 결과 이미지를 생성할 수 있다. 타겟 이미지는 결과 이미지의 배경 영역(얼굴 영역을 제외한 나머지 배경 영역)으로 사용되는 스타일 소스를 의미한다. 스타일 소스는 결과 이미지에 반영하고자 하는 타겟팅 스타일을 의미하는 것으로, 스타일 소스로 설정된 이미지의 얼굴 영역을 제외한 나머지 배경(외형) 영역이 결과 이미지의 스타일 외형으로 적용된다. 프로세서(220)는 타겟 이미지를 선택하기 위한 인터페이스를 제공할 수 있다. 해당 인터페이스를 통해 사용자가 선택한 타겟 이미지를 제3 얼굴 영역과의 합성을 위한 스타일 소스로 사용할 수 있다. 제1 소스 이미지와 제2 소스 이미지 중 어느 하나의 이미지가 스타일 소스인 타겟 이미지로 선택될 수 있고, 실시예에 따라서는 제1 소스 이미지와 제2 소스 이미지가 아닌 별개의 다른 이미지가 타겟 이미지로 선택될 수 있다.In step S330, the
단계(S340)에서 프로세서(220)는 사용자 요청에 따라 제3 얼굴 영역에 히든 얼굴 피처를 재합성하여 새로운 결과 이미지를 생성할 수 있다. 본 실시예들은 소스 이미지에 포함된 얼굴 피처 이외의 히든 얼굴 피처를 이용하여 제3의 새로운 인물을 탄생시키기 위해 필터 DB(데이터베이스)를 사전에 구축할 수 있으며, 이때 필터 DB는 서로 다른 얼굴 피처로 이루어진 복수 개의 얼굴 피처 필터로 구성될 수 있다. 일례로, 얼굴 필터는 일부 얼굴 피처가 강화된 이미지 효과 필터를 의미하는 것으로, 눈, 코, 입, 귀, 이마, 광대, 볼, 얼굴형 등 얼굴 영역에 포함된 적어도 일부 요소가 과장되는 필터 효과를 제공할 수 있다. 얼굴 필터는 사람 얼굴 피처는 물론이고, 동물 얼굴 피처가 강화된 이미지 효과 필터를 포함할 수 있다. 프로세서(220)는 소스 이미지로부터 만들어진 제3 얼굴 영역에 얼굴 필터를 적용하여 새로운 얼굴을 만들 수 있다. 이때, 프로세서(220)는 사용자 요청에 따라 필터 DB에서 무작위로 선택된 얼굴 필터를 적용할 수 있다. 실시예에 따라서는 필터 DB에 포함된 얼굴 필터에 대해 사용자 선호도를 파악하여 사용자 선호도에 따른 랭킹을 기준으로 얼굴 필터를 선정하여 적용할 수 있다. 예를 들어, 얼굴 합성 서비스에서의 결과 이미지 중 사용자가 저장한 이미지에 적용된 얼굴 필터를 취합하여 얼굴 필터에 대한 사용자 선호도를 파악할 수 있다. 프로세서(220)는 사용자 요청에 따라 필터 DB에 포함된 얼굴 필터를 적용하되 사용자가 가장 선호하는 얼굴 필터부터 차례로 적용할 수 있다.In step S340, the
도 4 내지 도 5는 본 발명의 일실시예에 있어서 이미지 합성 과정의 예시를 도시한 것이다.Figures 4 and 5 show examples of the image synthesis process in one embodiment of the present invention.
도 4 내지 도 5를 참조하면, 프로세서(220)는 사용자 입력이나 선택을 통한 입력 이미지(40)로 합성 대상 이미지인 제1 소스 이미지(510)와 제2 소스 이미지(520)를 입력받을 수 있다.Referring to Figures 4 and 5, the
프로세서(220)는 딥러닝 DLIB(distribution library) 등을 이용한 얼굴 검출 기술을 통해 얼굴 영역을 검출할 수 있고, 아크페이스(ArcFace)와 같은 딥러닝 엔진을 통해 얼굴 영역에 대한 피처 값과 스타일 영역에 대한 피처 값을 추출할 수 있다(S310). 상세하게, 프로세서(220)는 제1 소스 이미지(510)에서 얼굴 영역을 검출한 후 피처 분해(feature decomposition) 과정으로 얼굴 영역에서 얼굴 피처(이하, '제1 얼굴 피처'라 칭함)(511)를 추출하고 나머지 영역인 스타일 영역에서 스타일 피처(이하, '제1 스타일 피처'라 칭함)(512)를 추출할 수 있다. 얼굴 피처를 제외한 나머지 피처들은 스타일이 될 수 있음을 가정하는 것이다. 마찬가지로, 프로세서(220)는 제2 소스 이미지(520)에서 얼굴 영역을 검출한 후 피처 분해를 통해 얼굴 영역에서 얼굴 피처(이하, '제2 얼굴 피처'라 칭함)(521)를 추출하고 나머지 영역인 스타일 영역에서 스타일 피처(이하, '제2 스타일 피처'라 칭함)(522)를 추출할 수 있다.The
프로세서(220)는 심플 스왑과 같은 딥페이크 기술을 통해 디폴트 또는 사용자 설정으로 정해진 비율에 따라 제1 소스 이미지(510)에서 추출된 제1 얼굴 피처(511)과 제2 소스 이미지(520)에서 추출된 제2 얼굴 피처(521)를 혼합함으로써 합성 얼굴 피처(531)를 생성할 수 있다(S320).The
프로세서(220)는 스타일 소스로 설정된 타겟 이미지(450)의 스타일 영역을 유지한 상태에서 타겟 이미지(450)의 얼굴 영역에 합성 얼굴 피처(531)를 어태칭(attaching)하여 결과 이미지(530)를 생성할 수 있다(S330). 프로세서(220)는 피처 재조합(feature recombination)을 통해 타겟 이미지(450)의 스타일을 유지한 상태로 타겟 이미지(450)의 얼굴 영역을 제3 얼굴 영역으로 변경한 결과 이미지(530)를 생성할 수 있다.The
이때, 제1 소스 이미지(510)와 제2 소스 이미지(520) 중 제1 소스 이미지(510)가 타겟 이미지(450)로 선택된 것으로 가정한다. 타겟 이미지(450)로 선택된 제1 소스 이미지(510)에 합성 얼굴 피처(531)를 어태칭하여 결과 이미지(530)를 만들 수 있다.At this time, it is assumed that the
그리고, 프로세서(220)는 결과 이미지(530)의 해상도를 보강할 수 있다(S331). 프로세서(220)는 이미지 강화 딥러닝 엔진(예를 들어, GPEN(GAN Prior Embedded Network) 등)을 통해 결과 이미지(530)를 고화질 이미지로 출력할 수 있다.Additionally, the
도 6 내지 도 7은 본 발명의 일실시예에 있어서 얼굴 필터를 이용한 이미지 합성 과정의 예시를 도시한 것이다.Figures 6 and 7 show an example of an image synthesis process using a face filter according to an embodiment of the present invention.
도 6 내지 도 7을 참조하면, 프로세서(220)는 필터 DB에서 사용자 요청에 따라 얼굴 필터(70)를 선택할 수 있으며, 선택된 필터(70)의 얼굴 피처(즉, 히든 얼굴 피처)(701)를 합성 얼굴 피처(531)에 재합성하여 새로운 결과 이미지(540)를 생성할 수 있다(S340).Referring to FIGS. 6 and 7, the
얼굴 필터(70)를 이용한 재합성 과정(S340)은 앞서 설명한 페이스 스왑 과정(S320) 및 페이스 어태칭 과정(S330)과 동일하거나 유사하다. 도 7에 도시한 바와 같이, 프로세서(220)는 페이스 스왑을 통해 합성 얼굴 피처(531)과 히든 얼굴 피처(701)를 혼합함으로써 제3의 합성 얼굴 피처(731)를 생성할 수 있다. 프로세서(220)는 타겟 이미지(450)로 선택된 제1 소스 이미지(510)의 스타일 영역을 유지한 상태에서 제1 소스 이미지(510)의 얼굴 영역에 제3의 합성 얼굴 피처(731)를 어태칭하여 새로운 결과 이미지(540)를 생성할 수 있다.The resynthesis process (S340) using the
본 실시예들은 소스 이미지에 포함된 얼굴 피처 이외의 다른 얼굴 피처를 가진 얼굴 필터(70)를 이용하여 얼굴 합성에 따른 결과 이미지를 다양화할 수 있다.In these embodiments, the resulting image according to face synthesis can be diversified by using a
도 8은 본 발명의 일실시예에 있어서 얼굴 합성 서비스 화면의 예시를 도시한 것이다.Figure 8 shows an example of a face synthesis service screen in one embodiment of the present invention.
도 8을 참조하면, 얼굴 합성 서비스 화면(800)은 소스 이미지를 선택하기 위한 소스 선택 인터페이스(810), 합성 결과 이미지를 제공하기 위한 합성 결과 인터페이스(820), 소스 이미지의 합성 비율을 조절하기 위한 비율 조절 인터페이스(830), 소스 이미지의 합성 비율을 리셋(reset)하기 위한 리셋 인터페이스(840), 및 스타일 소스(타겟 이미지)를 선택하기 위한 스타일 선택 인터페이스(850)를 포함할 수 있다.Referring to FIG. 8, the face
사용자는 소스 선택 인터페이스(810)를 통해 합성하고자 대상의 A 이미지와 B 이미지를 업로드할 수 있다.The user can upload the A image and B image of the target for compositing through the
사용자는 비율 조절 인터페이스(830)를 이용하여 A 이미지와 B 이미지 간의 합성 비율을 원하는 대로 조절할 수 있다. 리셋 인터페이스(840)가 입력되는 경우 비율 조절 인터페이스(830) 상의 합성 비율이 초기값(예를 들어, 50:50)으로 자동 조정된다.The user can use the
프로세서(220)는 소스 이미지로 입력된 A 이미지와 B 이미지를 사용자가 원하는 비율로 합성할 수 있고, 이때 기본적으로는 A 이미지로 선택된 소스 이미지가 스타일 소스로 적용될 수 있다. 스타일 선택 인터페이스(850)를 통해 A 이미지와 B 이미지 중 어느 하나의 이미지 혹은 별개의 다른 이미지를 선택하여 스타일 소스로 적용할 수 있다.The
A 이미지와 B 이미지의 합성 이미지를 소스 이미지라 하고 스타일 이미지를 타겟 이미지라 할 때, 0:100=target:source의 비율로 가중치를 설정하여 소스 이미지의 얼굴 피처를 유지하면서 배경 이미지만 변경할 수 있다.When the composite image of image A and image B is called the source image and the style image is the target image, you can change only the background image while maintaining the facial features of the source image by setting the weight at a ratio of 0:100=target:source. .
프로세서(220)는 A 이미지와 B 이미지를 이용한 합성 결과 이미지를 합성 결과 인터페이스(820)를 통해 표시할 수 있다.The
더 나아가, 얼굴 합성 서비스 화면(800)은 얼굴 필터를 선택하기 위한 필터 선택 인터페이스(860), 및 얼굴 필터를 해제하기 위한 필터 해제 인터페이스(870)를 더 포함할 수 있다.Furthermore, the face
필터 선택 인터페이스(860)는 필터 DB에 포함된 얼굴 필터를 일정 순서로 혹은 무작위로 하나씩 선택하는 인터페이스 형태는 물론이고, 얼굴 필터에 대한 목록을 제공하여 목록을 통해 얼굴 필터를 선택하는 인터페이스 형태 등으로 구현될 수 있다.The
프로세서(220)는 필터 선택 인터페이스(860)를 통해 얼굴 필터를 순서대로 선택하거나 목록을 제공할 때 얼굴 필터에 대한 사용자 선호도를 반영할 수 있다. 다시 말해, 필터 DB에 포함된 얼굴 필터 중 사용자가 선호하는 얼굴 필터가 우선적으로 선택 또는 정렬될 수 있다.The
프로세서(220)는 필터 선택 인터페이스(860)를 통해 선택된 얼굴 필터가 적용된 합성 결과 이미지를 합성 결과 인터페이스(820)를 통해 표시할 수 있다. 필터 선택 인터페이스(860)를 통해 얼굴 필터가 변경될 때마다 변경된 얼굴 필터를 적용한 합성 결과 이미지를 합성 결과 인터페이스(820)에 표시할 수 있다.The
필터 해제 인터페이스(870)가 입력되는 경우 얼굴 필터 적용이 해제되어 합성 결과 인터페이스(820) 상에 얼굴 필터가 적용되기 이전 합성 결과 이미지가 표시될 수 있다.When the
도 9는 본 발명의 일실시예에 있어서 얼굴 합성 결과 예시를 도시한 것이다.Figure 9 shows an example of a face synthesis result according to an embodiment of the present invention.
도 9를 참조하면, 프로세서(220)는 소스 이미지로 A 이미지와 B 이미지가 주어지는 경우 A 이미지에서 추출된 얼굴 피처와 B 이미지에서 추출된 얼굴 피처를 혼합하여 A 이미지와 B 이미지의 합성 결과인 C 이미지를 만들 수 있다.Referring to FIG. 9, when an A image and a B image are given as source images, the
C 이미지는 소스 이미지에 포함된 얼굴 피처만을 합성하여 만들어진 것이므로 소스 이미지의 얼굴과 닮은꼴에서 벗어나지 못하는 한계가 있다.Since the C image is created by synthesizing only the facial features included in the source image, it has the limitation of not being able to resemble the face of the source image.
본 실시예에서는 닮은꼴에서 다변화된 결과를 만들어 내기 위해 얼굴 필터를 활용할 수 있다.In this embodiment, a face filter can be used to create results that vary from lookalikes.
도 10은 본 발명의 일실시예에 있어서 얼굴 필터를 이용한 얼굴 합성 결과 예시를 도시한 것이다.Figure 10 shows an example of the result of face synthesis using a face filter in one embodiment of the present invention.
도 10을 참조하면, 프로세서(220)는 필터 DB에서 사용자 요청에 따라 선택된 얼굴 필터의 F 얼굴 피처를 A 이미지와 B 이미지의 합성 결과에 재합성하여 새로운 합성 결과인 C' 이미지를 만들 수 있다.Referring to FIG. 10, the
다시 말해, 프로세서(220)는 A 이미지와 B 이미지의 합성 결과에 소스 이미지와 무관한 F 얼굴 피처를 가미하여 제3의 새로운 인물을 탄생시킬 수 있다.In other words, the
프로세서(220)는 얼굴 피처가 강조된 이미지 효과를 가진 얼굴 필터를 이용하여 딥러닝 얼굴 합성 결과를 소스 이미지만을 이용하는 것보다 다양화시킬 수 있다.The
이처럼 본 발명의 실시예들에 따르면, 딥러닝 모델을 이용한 얼굴 합성 과정에서 소스 이미지를 이용한 얼굴 합성 결과에 히든 얼굴 피처를 적용하여 새로운 결과를 제공함으로써 얼굴 합성의 다양화를 통해 서비스 품질과 사용자 경험을 향상시킬 수 있다.In this way, according to embodiments of the present invention, in the process of face synthesis using a deep learning model, new results are provided by applying hidden face features to the result of face synthesis using source images, thereby improving service quality and user experience through diversification of face synthesis. can be improved.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The device described above may be implemented with hardware components, software components, and/or a combination of hardware components and software components. For example, the devices and components described in the embodiments include a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate array (FPGA), and a programmable logic unit (PLU). It may be implemented using one or more general-purpose or special-purpose computers, such as a logic unit, microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. Additionally, a processing device may access, store, manipulate, process, and generate data in response to the execution of software. For ease of understanding, a single processing device may be described as being used; however, those skilled in the art will understand that a processing device includes multiple processing elements and/or multiple types of processing elements. It can be seen that it may include. For example, a processing device may include a plurality of processors or one processor and one controller. Additionally, other processing configurations, such as parallel processors, are possible.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may include a computer program, code, instructions, or a combination of one or more of these, which may configure a processing unit to operate as desired, or may be processed independently or collectively. You can command the device. The software and/or data may be embodied in any type of machine, component, physical device, computer storage medium or device for the purpose of being interpreted by or providing instructions or data to the processing device. there is. Software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored on one or more computer-readable recording media.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded on a computer-readable medium. At this time, the medium may continuously store a computer-executable program, or temporarily store it for execution or download. In addition, the medium may be a variety of recording or storage means in the form of a single or several pieces of hardware combined. It is not limited to a medium directly connected to a computer system and may be distributed over a network. Examples of media include magnetic media such as hard disks, floppy disks, and magnetic tapes, optical recording media such as CD-ROMs and DVDs, magneto-optical media such as floptical disks, And there may be something configured to store program instructions, including ROM, RAM, flash memory, etc. Additionally, examples of other media include recording or storage media managed by app stores that distribute applications, sites or servers that supply or distribute various other software, etc.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with limited examples and drawings, various modifications and variations can be made by those skilled in the art from the above description. For example, the described techniques are performed in a different order than the described method, and/or components of the described system, structure, device, circuit, etc. are combined or combined in a different form than the described method, or other components are used. Alternatively, appropriate results may be achieved even if substituted or substituted by an equivalent.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents of the claims also fall within the scope of the claims described below.
Claims (20)
상기 컴퓨터 장치는 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고,
상기 이미지 합성 방법은,
상기 적어도 하나의 프로세서에 의해, 제1 소스 이미지와 제2 소스 이미지에서 얼굴 영역을 추출하는 단계;
상기 적어도 하나의 프로세서에 의해, 상기 제1 소스 이미지에서 추출된 얼굴 영역과 상기 제2 소스 이미지에서 추출된 얼굴 영역을 합성하는 단계;
상기 적어도 하나의 프로세서에 의해, 스타일 소스로 설정된 타겟 이미지에 상기 합성된 얼굴 영역을 합성하여 결과 이미지를 생성하는 단계; 및
상기 적어도 하나의 프로세서에 의해, 상기 합성된 얼굴 영역에 얼굴 피처 필터를 재합성하여 새로운 결과 이미지를 생성하는 단계
를 포함하는 이미지 합성 방법.In an image synthesis method executed on a computer device,
The computer device includes at least one processor configured to execute computer-readable instructions contained in a memory,
The image synthesis method is,
extracting a facial area from a first source image and a second source image, by the at least one processor;
combining, by the at least one processor, a face area extracted from the first source image and a face area extracted from the second source image;
generating a result image by combining the synthesized face area with a target image set as a style source, by the at least one processor; and
generating, by the at least one processor, a new result image by re-synthesizing a facial feature filter on the synthesized face area;
An image synthesis method including.
상기 이미지 합성 방법은,
상기 적어도 하나의 프로세서에 의해, 복수 개의 얼굴 피처 필터로 구성된 필터 데이터베이스를 구축하는 단계
를 더 포함하고,
상기 새로운 결과 이미지를 생성하는 단계는,
상기 필터 데이터베이스에서 선택된 얼굴 피처 필터를 상기 합성된 얼굴 영역에 재합성하는 단계
를 포함하는 이미지 합성 방법.According to paragraph 1,
The image synthesis method is,
Building a filter database consisting of a plurality of face feature filters by the at least one processor.
It further includes,
The step of generating the new result image is,
Re-synthesizing the facial feature filter selected from the filter database into the synthesized face area.
An image synthesis method including.
상기 필터 데이터베이스는 서로 다른 얼굴 피처로 이루어진 복수 개의 얼굴 피처 필터로 구성되는 것
을 특징으로 하는 이미지 합성 방법.According to paragraph 2,
The filter database consists of a plurality of face feature filters made up of different face features.
An image synthesis method characterized by .
상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 얼굴 영역에 포함된 적어도 일부 요소에 해당되는 얼굴 피처가 강화된 이미지 효과 필터에 해당되는 것
을 특징으로 하는 이미지 합성 방법.According to paragraph 2,
The face feature filter included in the filter database corresponds to an image effect filter in which face features corresponding to at least some elements included in the face area are enhanced.
An image synthesis method characterized by .
상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 사람 얼굴 피처로 이루어진 이미지 효과 필터와 동물 얼굴 피처로 이루어진 이미지 효과 필터 중 적어도 하나를 포함하는 것
을 특징으로 하는 이미지 합성 방법.According to paragraph 2,
The face feature filter included in the filter database includes at least one of an image effect filter consisting of human face features and an image effect filter consisting of animal face features.
An image synthesis method characterized by .
상기 새로운 결과 이미지를 생성하는 단계는,
사용자의 요청에 따라 상기 필터 데이터베이스에서 무작위로 얼굴 피처 필터를 선택하는 단계
를 포함하는 이미지 합성 방법.According to paragraph 2,
The step of generating the new result image is,
Randomly selecting a facial feature filter from the filter database according to the user's request.
An image synthesis method including.
상기 구축하는 단계는,
상기 필터 데이터베이스에 포함된 얼굴 피처 필터에 대한 사용자 선호도를 파악하는 단계
를 포함하고,
상기 새로운 결과 이미지를 생성하는 단계는,
사용자의 요청에 따라 상기 필터 데이터베이스에서 상기 사용자 선호도를 기초로 얼굴 피처 필터를 선택하는 단계
를 포함하는 이미지 합성 방법.According to paragraph 2,
The construction step is,
Determining user preference for face feature filters included in the filter database
Including,
The step of generating the new result image is,
Selecting a facial feature filter based on the user preference from the filter database according to the user's request.
An image synthesis method including.
상기 타겟 이미지는 상기 제1 소스 이미지와 상기 제2 소스 이미지 중 사용자에 의해 선택된 이미지에 해당되는 것
을 특징으로 하는 이미지 합성 방법.According to paragraph 1,
The target image corresponds to the image selected by the user among the first source image and the second source image.
An image synthesis method characterized by .
상기 타겟 이미지는 상기 제1 소스 이미지나 상기 제2 소스 이미지와 다른 이미지로 사용자에 의해 선택된 별개의 이미지에 해당되는 것
을 특징으로 하는 이미지 합성 방법.According to paragraph 1,
The target image is an image different from the first source image or the second source image and corresponds to a separate image selected by the user.
An image synthesis method characterized by .
상기 합성하는 단계는,
상기 제1 소스 이미지의 얼굴 영역에서 추출된 제1 얼굴 피처와 상기 제2 소스 이미지의 얼굴 영역에서 추출된 제2 얼굴 피처를 사용자에 의해 설정된 비율로 혼합함으로써 합성 얼굴 영역을 생성하는 단계
를 포함하는 이미지 합성 방법.According to paragraph 1,
The synthesis step is,
Creating a composite face area by mixing first facial features extracted from the face area of the first source image and second facial features extracted from the face area of the second source image at a ratio set by the user.
An image synthesis method including.
메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서
를 포함하고,
상기 적어도 하나의 프로세서는,
제1 소스 이미지와 제2 소스 이미지에서 얼굴 영역을 추출하는 과정;
상기 제1 소스 이미지에서 추출된 얼굴 영역과 상기 제2 소스 이미지에서 추출된 얼굴 영역을 합성하는 과정;
스타일 소스로 설정된 타겟 이미지에 상기 합성된 얼굴 영역을 합성하여 결과 이미지를 생성하는 과정; 및
상기 합성된 얼굴 영역에 얼굴 피처 필터를 재합성하여 새로운 결과 이미지를 생성하는 과정
을 처리하는 컴퓨터 장치.In computer devices,
At least one processor configured to execute computer readable instructions contained in memory
Including,
The at least one processor,
A process of extracting a face area from a first source image and a second source image;
A process of combining a face area extracted from the first source image and a face area extracted from the second source image;
A process of generating a result image by combining the synthesized face area with a target image set as a style source; and
A process of generating a new result image by recombining the facial feature filter into the synthesized face area.
A computer device that processes
상기 적어도 하나의 프로세서는,
복수 개의 얼굴 피처 필터로 구성된 필터 데이터베이스를 구축하고,
상기 필터 데이터베이스에서 선택된 얼굴 피처 필터를 상기 합성된 얼굴 영역에 재합성하는 것
을 특징으로 하는 컴퓨터 장치.According to clause 12,
The at least one processor,
Build a filter database consisting of multiple face feature filters,
Re-synthesizing the facial feature filter selected from the filter database into the synthesized face region.
A computer device characterized by a.
상기 필터 데이터베이스는 서로 다른 얼굴 피처로 이루어진 복수 개의 얼굴 피처 필터로 구성되는 것
을 특징으로 하는 컴퓨터 장치.According to clause 13,
The filter database consists of a plurality of face feature filters made up of different face features.
A computer device characterized by a.
상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 얼굴 영역에 포함된 적어도 일부 요소에 해당되는 얼굴 피처가 강화된 이미지 효과 필터에 해당되는 것
을 특징으로 하는 컴퓨터 장치.According to clause 13,
The face feature filter included in the filter database corresponds to an image effect filter in which face features corresponding to at least some elements included in the face area are enhanced.
A computer device characterized by a.
상기 필터 데이터베이스에 포함된 얼굴 피처 필터는 사람 얼굴 피처로 이루어진 이미지 효과 필터와 동물 얼굴 피처로 이루어진 이미지 효과 필터 중 적어도 하나를 포함하는 것
을 특징으로 하는 컴퓨터 장치.According to clause 13,
The face feature filter included in the filter database includes at least one of an image effect filter consisting of human face features and an image effect filter consisting of animal face features.
A computer device characterized by a.
상기 적어도 하나의 프로세서는,
사용자의 요청에 따라 상기 필터 데이터베이스에서 무작위로 얼굴 피처 필터를 선택하는 것
을 특징으로 하는 컴퓨터 장치.According to clause 13,
The at least one processor,
Selecting facial feature filters randomly from said filter database according to user's request
A computer device characterized by a.
상기 적어도 하나의 프로세서는,
상기 필터 데이터베이스에 포함된 얼굴 피처 필터에 대한 사용자 선호도를 파악하고,
사용자의 요청에 따라 상기 필터 데이터베이스에서 상기 사용자 선호도를 기초로 얼굴 피처 필터를 선택하는 것
을 특징으로 하는 컴퓨터 장치.According to clause 13,
The at least one processor,
Identify user preferences for facial feature filters included in the filter database,
Selecting a facial feature filter based on the user preferences from the filter database upon user request.
A computer device characterized by a.
상기 타겟 이미지는 상기 제1 소스 이미지와 상기 제2 소스 이미지 중 사용자에 의해 선택된 이미지에 해당되거나, 혹은 상기 제1 소스 이미지나 상기 제2 소스 이미지와 다른 이미지로 사용자에 의해 선택된 별개의 이미지에 해당되는 것
을 특징으로 하는 컴퓨터 장치.According to clause 12,
The target image corresponds to an image selected by the user among the first source image and the second source image, or to a separate image selected by the user that is different from the first source image or the second source image. becoming
A computer device characterized by a.
상기 적어도 하나의 프로세서는,
상기 제1 소스 이미지의 얼굴 영역에서 추출된 제1 얼굴 피처와 상기 제2 소스 이미지의 얼굴 영역에서 추출된 제2 얼굴 피처를 사용자에 의해 설정된 비율로 혼합함으로써 합성 얼굴 영역을 생성하는 것
을 특징으로 하는 컴퓨터 장치.According to clause 12,
The at least one processor,
Generating a composite face area by mixing first facial features extracted from the face area of the first source image and second facial features extracted from the face area of the second source image at a ratio set by the user.
A computer device characterized by a.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220102638A KR20240024535A (en) | 2022-08-17 | 2022-08-17 | Method, computer device, and computer program to create new face using hidden face feature |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020220102638A KR20240024535A (en) | 2022-08-17 | 2022-08-17 | Method, computer device, and computer program to create new face using hidden face feature |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20240024535A true KR20240024535A (en) | 2024-02-26 |
Family
ID=90058316
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020220102638A KR20240024535A (en) | 2022-08-17 | 2022-08-17 | Method, computer device, and computer program to create new face using hidden face feature |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR20240024535A (en) |
-
2022
- 2022-08-17 KR KR1020220102638A patent/KR20240024535A/en not_active Application Discontinuation
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10867416B2 (en) | Harmonizing composite images using deep learning | |
US9478059B2 (en) | Animated audiovisual experiences driven by scripts | |
US20200129862A1 (en) | Terrain generation system | |
US20160358367A1 (en) | Animation based on Content Presentation Structures | |
JP7031009B2 (en) | Avatar generator and computer program | |
CN111294663A (en) | Bullet screen processing method and device, electronic equipment and computer readable storage medium | |
US11468915B2 (en) | Automatic video montage generation | |
KR20230035672A (en) | Automatic website data migration | |
US20180365813A1 (en) | Editing dynamically selected portions of target images in a mask-based editing interface | |
US11727123B2 (en) | Systems and methods to control access to components of virtual objects | |
US20140310335A1 (en) | Platform for creating context aware interactive experiences over a network | |
EP4200745A1 (en) | Cross-domain neural networks for synthesizing image with fake hair combined with real image | |
KR20210156741A (en) | Method and system for providing conversation with artificial intelligence character | |
US10891801B2 (en) | Method and system for generating a user-customized computer-generated animation | |
CN113113045A (en) | Scene picture display method, device, terminal and storage medium | |
CN113938696B (en) | Live broadcast interaction method and system based on custom virtual gift and computer equipment | |
US11430158B2 (en) | Intelligent real-time multiple-user augmented reality content management and data analytics system | |
KR20240024535A (en) | Method, computer device, and computer program to create new face using hidden face feature | |
US10417802B2 (en) | System and method for creating customized characters and selectively displaying them in an augmented or virtual reality display | |
KR20230165663A (en) | Method, computer device, and computer program for compositing images to create natural face | |
KR20230052459A (en) | Method and system for creating avatar content | |
KR20240024537A (en) | Method, computer device, and computer program to create facial expressions through image synthesis using 3d character-based standard model | |
CN103295181B (en) | A kind of stacking method and device of particle file and video | |
KR20240024536A (en) | Method, computer device, and computer program to transform face feature through multiple synthesis | |
KR20240025320A (en) | Method, computer device, and computer program to create 3d avatar based on multi-angle image |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal |