KR102538783B1 - Apparatus and method for generating a hairless head person image for a virtual hair styling experience - Google Patents

Apparatus and method for generating a hairless head person image for a virtual hair styling experience Download PDF

Info

Publication number
KR102538783B1
KR102538783B1 KR1020220122748A KR20220122748A KR102538783B1 KR 102538783 B1 KR102538783 B1 KR 102538783B1 KR 1020220122748 A KR1020220122748 A KR 1020220122748A KR 20220122748 A KR20220122748 A KR 20220122748A KR 102538783 B1 KR102538783 B1 KR 102538783B1
Authority
KR
South Korea
Prior art keywords
image
background
bald
face
person
Prior art date
Application number
KR1020220122748A
Other languages
Korean (ko)
Inventor
유제정
정재민
이종하
김영신
Original Assignee
주식회사 미러로이드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 미러로이드 filed Critical 주식회사 미러로이드
Priority to KR1020220122748A priority Critical patent/KR102538783B1/en
Application granted granted Critical
Publication of KR102538783B1 publication Critical patent/KR102538783B1/en
Priority to PCT/KR2023/014604 priority patent/WO2024071884A1/en

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/60Editing figures and text; Combining figures or text
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q30/00Commerce
    • G06Q30/06Buying, selling or leasing transactions
    • G06Q30/0601Electronic shopping [e-shopping]
    • G06Q30/0631Item recommendations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/005
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2219/00Indexing scheme for manipulating 3D models or images for computer graphics
    • G06T2219/20Indexing scheme for editing of 3D models
    • G06T2219/2024Style variation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Business, Economics & Management (AREA)
  • Accounting & Taxation (AREA)
  • Finance (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Development Economics (AREA)
  • Strategic Management (AREA)
  • Computer Hardware Design (AREA)
  • Marketing (AREA)
  • Economics (AREA)
  • Artificial Intelligence (AREA)
  • General Business, Economics & Management (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Medical Informatics (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Image Processing (AREA)
  • Processing Or Creating Images (AREA)

Abstract

The present invention relates to an apparatus for generating a bald person image and a method for generating a bald person image by the same. The method for generating a bald person image comprises: a step of dividing a person image, and extracting a background mask with a person object region removed, and filling a part from which the person object region is removed in the background mask by in-painting, and generating a background image; a step of extracting a face region in the person image, and generating a face image, and inputting the face image into an artificial neural network generating a head shape in the face region, and generating a bald head shape image; a step of synthesizing the background image and the bald head shape image, and generating a bald head shape background image; a step of dividing the person image, and extracting a non-hair mask from which a hair region is removed; and a step of synthesizing the non-hair mask and the bald head shape background image, and generating a bald person image. Therefore, a natural-looking person image, which is made by removing only hair from the face image of a person with hair, can be generated.

Description

가상 헤어 스타일링 체험을 위한 민머리 인물 이미지 생성 장치 및 방법{APPARATUS AND METHOD FOR GENERATING A HAIRLESS HEAD PERSON IMAGE FOR A VIRTUAL HAIR STYLING EXPERIENCE}Apparatus and method for generating a bald person image for virtual hair styling experience

본 명세서는 가상 헤어 스타일링 체험을 위하여 민머리 인물 이미지를 생성하는 장치 및 방법에 관한 것이다.The present specification relates to an apparatus and method for generating an image of a bald person for a virtual hair styling experience.

이 발명은 '팁스(창업성장기술개발사업, TIPS과제 - S3200667)'의 지원으로 출원된 결과입니다.This invention is the result of an application filed with the support of 'TIPS (Startup Growth Technology Development Project, TIPS Project - S3200667)'.

최근 미용 분야에서는 고객이 원하는 여러가지 헤어스타일을 미리 체험해보고 시술할 헤어스타일을 결정하는 가상 헤어 스타일링 체험 서비스가 제공되고 있다. 가상 헤어 스타일링 체험 서비스는 체험자의 얼굴 사진에 가상으로 생성한 모발 영상을 합성 또는 중첩하여 출력함으로써 체험자에게 미리 헤어스타일을 시술한 것과 같은 체험을 제공하는 서비스이다. 모발 객체 영상으로는 컴퓨터 그래픽을 이용하여 사람이 디자인한 것을 사용하였으며, 체험자의 얼굴 이미지에 디자인된 모발 객체 영상을 중첩한 뒤, 크기나 형태를 필요에 따라 일부 조정하는 방식으로 가상 체험을 제공하였다.Recently, in the field of beauty, a virtual hair styling experience service is provided in which customers experience various hairstyles they want in advance and decide which hairstyle to apply. The virtual hair styling experience service is a service that provides the experiencer with the same experience as having previously applied a hairstyle by synthesizing or superimposing a hair image generated virtually on a face photo of the experiencer and outputting the result. As the hair object image, a computer graphic design was used, and a virtual experience was provided by overlapping the designed hair object image on the face image of the experiencer and partially adjusting the size or shape as needed. .

위 기재된 내용은 오직 본 발명의 기술적 사상들에 대한 배경 기술의 이해를 돕기 위한 것이며, 따라서 그것은 본 발명의 기술 분야의 당업자에게 알려진 선행 기술에 해당하는 내용으로 이해될 수 없다.The above description is only intended to help understand the background of the technical ideas of the present invention, and therefore, it cannot be understood as the prior art known to those skilled in the art.

그러나, 체험자의 기존 모발 위에 중첩되는 가상의 모발 이미지는 체험자의 머리 또는 얼굴에 자연스럽게 중첩되지 않아 어색함이 발생하고, 가상의 모발 이미지 아래로 기존의 모발이 돌출되어 체험 만족감이 매우 낮아지는 문제점이 있었다.However, the virtual hair image superimposed on the experiencer's existing hair does not naturally overlap with the experiencer's head or face, causing awkwardness, and the existing hair protrudes under the virtual hair image, resulting in a very low experience satisfaction. .

또한, 체험자의 얼굴 이미지에서 기존의 모발을 제거한 뒤에 가상의 모발 이미지를 중첩할 수도 있으나, 기존의 모발을 제거한 얼굴 이미지가 부자연스러워 체험자의 체험 만족감을 낮추는 문제점이 있었다.In addition, although the virtual hair image may be superimposed after removing the existing hair from the experiencer's face image, there is a problem in that the experiencer's experience satisfaction is lowered because the face image from which the existing hair is removed is unnatural.

본 명세서는 전술한 문제점을 해결하기 위한 것으로서, 본 명세서의 일 실시 예는 모발이 있는 사람의 얼굴 이미지에서 모발만을 제거한 자연스러운 인물 이미지를 생성하는 것에 목적이 있다.The present specification is intended to solve the above problems, and an embodiment of the present specification aims to create a natural person image in which only hair is removed from a face image of a person with hair.

본 발명이 해결하고자 하는 과제들은 이상에서 언급된 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 통상의 기술자에게 명확하게 이해될 수 있을 것이다.The problems to be solved by the present invention are not limited to the problems mentioned above, and other problems not mentioned will be clearly understood by those skilled in the art from the description below.

본 명세서는 민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법을 제시한다. 상기 민머리 인물 이미지 생성 방법은, 인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하는 단계; 상기 인물 이미지에서 얼굴 영역을 추출하여 얼굴 이미지를 생성하고, 상기 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지를 생성하는 단계; 상기 배경 이미지 및 상기 민머리 두상 이미지를 합성하여 민머리 두상 배경 이미지를 생성하는 단계; 상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하는 단계; 및 상기 비(非) 모발 마스크 및 상기 민머리 두상 배경 이미지를 합성하여 민머리 인물 이미지를 생성하는 단계;를 포함할 수 있다.The present specification proposes a method for generating an image of a person with a bald head using an apparatus for generating an image of a person with a bald head. The bald-headed person image generation method includes the steps of extracting a background mask from which a person object area is removed by performing segmentation on a person image, and filling in a portion from which the person object area is removed from the background mask with inpainting to generate a background image. ; generating a face image by extracting a face region from the person image, and generating a bald head image by inputting the face image to an artificial neural network that generates a head image in the face region; synthesizing the background image and the bald head image to generate a bald head background image; extracting a non-hair mask from which hair regions are removed by segmentation in the person image; and generating a bald person image by synthesizing the non-hair mask and the bald head background image.

상기 민머리 인물 이미지 생성 방법 및 그 밖의 실시예는 다음과 같은 특징을 포함할 수 있다.The bald-headed person image generation method and other embodiments may include the following features.

실시 예에 따라, 상기 인물 이미지에서 얼굴 영역을 추출하여 얼굴 이미지를 생성하고, 상기 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지를 생성하는 단계는, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 얼굴 이미지를 추출하는 단계; 및 입력되는 임의의 얼굴 이미지로부터 두상 부분을 생성하도록 학습된 인공신경망에 상기 얼굴 이미지를 입력하여 상기 민머리 두상 이미지를 생성하는 단계;를 포함할 수 있다.According to an embodiment, the step of generating a face image by extracting a face region from the person image and generating a bald head image by inputting the face image to an artificial neural network that generates a head image in the face region includes: extracting a face image excluding the hair part based on the feature points of; and generating the bald head image by inputting the face image to an artificial neural network trained to generate a head portion from any input face image.

실시 예에 따라, 또한, 상기 인공신경망은, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출하여 생성된 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거하여 생성된 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지를 생성하도록 학습될 수 있다.According to an embodiment, the artificial neural network may extract only a face region from a bald-headed person image with a background and a face area image generated by extracting only a face area and a background-free background generated by removing the background of the background-balanced person image with a segmentation model. When an arbitrary face region image is input to an image set consisting of a bald person image, it may be learned to generate a bald head image by generating a head portion in the face region.

실시 예에 따라, 또한, 상기 얼굴 이미지는, Dlib 이미지 처리 도구를 이용하여 예측된 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 추출될 수 있다.According to an embodiment, the face image may be extracted based on a feature point corresponding to a face region among feature points predicted using the Dlib image processing tool.

한편, 본 명세서는 민머리 인물 이미지 생성 방법을 제시한다. 상기 민머리 인물 이미지 생성 방법은, 인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하는 단계; 상기 인물 이미지에서 얼굴 영역을 추출하여 얼굴 이미지를 생성하고, 상기 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지를 생성하는 단계; 상기 배경 이미지 및 상기 민머리 두상 이미지를 합성하여 민머리 두상 배경 이미지를 생성하는 단계; 상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하는 단계; 상기 비(非) 모발 마스크에 기초하여 상기 민머리 두상 배경 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하는 단계; 및 상기 민머리 영역을 상기 인물 이미지에 중첩하여 민머리 인물 이미지를 생성하는 단계;를 포함할 수 있다.Meanwhile, the present specification proposes a method for generating an image of a person with a bald head. The bald-headed person image generation method includes the steps of extracting a background mask from which a person object area is removed by performing segmentation on a person image, and filling in a portion from which the person object area is removed from the background mask with inpainting to generate a background image. ; generating a face image by extracting a face region from the person image, and generating a bald head image by inputting the face image to an artificial neural network that generates a head image in the face region; synthesizing the background image and the bald head image to generate a bald head background image; extracting a non-hair mask from which hair regions are removed by segmentation in the person image; extracting a bald head region corresponding to the hair region from the bald head background image based on the non-hair mask; and generating a bald person image by overlapping the bald head region on the character image.

상기 민머리 인물 이미지 생성 방법 및 그 밖의 실시예는 다음과 같은 특징을 포함할 수 있다.The bald-headed person image generation method and other embodiments may include the following features.

실시 예에 따라, 상기 비(非) 모발 마스크에 기초하여 상기 민머리 두상 배경 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하는 단계는, 상기 비(非) 모발 마스크를 상기 민머리 두상 배경 이미지에 중첩하여 중첩 이미지를 생성하는 단계; 및 상기 중첩 이미지에서 상기 모발 영역에 대응되는 상기 민머리 영역을 추출하는 단계;를 포함할 수 있다.According to an embodiment, the extracting of the bald head region corresponding to the hair region from the bald head background image based on the non-hair mask may include overlapping the non-hair mask on the bald head background image. Generating an overlapping image by doing; and extracting the bald hair region corresponding to the hair region from the overlapping image.

실시 예에 따라, 또한, 상기 인물 이미지에서 얼굴 영역을 추출하여 얼굴 이미지를 생성하고, 상기 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지를 생성하는 단계는, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 얼굴 이미지를 추출하는 단계; 및 입력되는 임의의 얼굴 이미지로부터 두상 부분을 생성하도록 학습된 인공신경망에 상기 얼굴 이미지를 입력하여 상기 민머리 두상 이미지를 생성하는 단계;를 포함할 수 있다.According to an embodiment, the step of generating a face image by extracting a face region from the person image and generating a bald head image by inputting the face image to an artificial neural network for generating a head image in the face region may include: Extracting a face image excluding the hair part based on the feature points of the face from; and generating the bald head image by inputting the face image to an artificial neural network trained to generate a head portion from any input face image.

실시 예에 따라, 또한, 상기 인공신경망은, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출하여 생성된 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거하여 생성된 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지를 생성하도록 학습될 수 있다.According to an embodiment, the artificial neural network may extract only a face region from a bald-headed person image with a background and a face area image generated by extracting only a face area and a background-free background generated by removing the background of the background-balanced person image with a segmentation model. When an arbitrary face region image is input to an image set consisting of a bald person image, it may be learned to generate a bald head image by generating a head portion in the face region.

실시 예에 따라, 또한, 상기 얼굴 이미지는, Dlib 이미지 처리 도구를 이용하여 예측된 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 추출될 수 있다.According to an embodiment, the face image may be extracted based on a feature point corresponding to a face region among feature points predicted using the Dlib image processing tool.

다른 한편, 본 명세서는 민머리 인물 이미지 생성 장치를 제시한다. 상기 민머리 인물 이미지 생성 장치는, 저장부; 및 상기 저장부와 기능적으로 연결되는 제어부;를 포함하되, 상기 저장부는 상기 제어부에 의해 생성된 데이터를 저장하고, 상기 제어부는, 인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하고, 상기 인물 이미지에서 얼굴 영역을 추출하여 얼굴 이미지를 생성하고, 상기 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지를 생성하고, 상기 배경 이미지 및 상기 민머리 두상 이미지를 합성하여 민머리 두상 배경 이미지를 생성하고, 상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하고, 상기 비(非) 모발 마스크 및 상기 민머리 두상 배경 이미지를 합성하여 제1 민머리 인물 이미지를 생성하거나, 또는 상기 비(非) 모발 마스크에 기초하여 상기 민머리 두상 배경 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하고, 상기 민머리 영역을 상기 인물 이미지에 중첩하여 제2 민머리 인물 이미지를 생성할 수 있다.On the other hand, the present specification proposes an apparatus for generating an image of a person with a bald head. The bald-headed person image generating device may include a storage unit; and a control unit functionally connected to the storage unit, wherein the storage unit stores data generated by the control unit, and the control unit extracts a background mask from which a person object area is removed by subdividing a person image, , A background image is created by filling in the part where the person object area is removed from the background mask with inpainting, a face image is created by extracting a face area from the person image, and a head is created from the face image in the face area. A non-hair mask in which a bald head image is generated, a bald head background image is generated by synthesizing the background image and the bald head image, and segmentation is performed on the person image to remove the hair region. is extracted, and a first bald person image is generated by synthesizing the non-hair mask and the bald head background image, or from the bald head background image to the hair region based on the non-hair mask. A corresponding shaved head area may be extracted, and a second shaved head person image may be generated by overlapping the shaved head area on the person image.

상기 민머리 인물 이미지 생성 장치 및 그 밖의 실시예는 다음과 같은 특징을 포함할 수 있다.The bare-headed person image generating device and other embodiments may include the following features.

실시 예에 따라, 상기 제어부는, 상기 인물 이미지에서 Dlib 이미지 처리 도구를 이용하여 예측된 얼굴의 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 모발 부분을 제외한 상기 얼굴 이미지를 추출하고, 입력되는 임의의 얼굴 이미지로부터 두상 부분을 생성하도록 학습된 인공신경망에 상기 얼굴 이미지를 입력하여 상기 민머리 두상 이미지를 생성할 수 있다.According to an embodiment, the control unit extracts the face image excluding the hair part based on feature points corresponding to the face region among the feature points of the face predicted using the Dlib image processing tool in the person image, The bald head image may be generated by inputting the face image to an artificial neural network trained to generate a head portion from the face image.

실시 예에 따라, 또한, 상기 제어부는, 상기 비(非) 모발 마스크를 상기 민머리 두상 배경 이미지에 중첩하여 중첩 이미지를 생성하고, 상기 중첩 이미지에서 상기 모발 영역에 대응되는 상기 민머리 영역을 추출할 수 있다.According to an embodiment, the controller may overlap the non-hair mask on the bald head background image to generate an overlapped image, and extract the bald head region corresponding to the hair region from the overlapped image. there is.

실시 예에 따라, 상기 인공신경망은, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출하여 생성된 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거하여 생성된 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지를 생성하도록 학습될 수 있다.According to an embodiment, the artificial neural network extracts only a face region from a bald-headed person image with a background and a face area image generated by extracting only a face region image and a bald-headed person without a background generated by removing the background of the background-balanced person image with a segmentation model. When an arbitrary face region image is input as an image set composed of images, it may be learned to generate a bald head image by generating a head portion in the face region.

또 다른 한편, 본 명세서는 컴퓨터프로그램을 제시한다. 상기 컴퓨터 프로그램은, 하드웨어와 결합되어, 전술한 민머리 인물 이미지 생성 방법이 포함하는 각 단계를 실행시키기 위하여 컴퓨터로 읽을 수 있는 기록매체에 저장될 수 있다.On the other hand, this specification presents a computer program. The computer program may be combined with hardware and stored in a computer-readable recording medium to execute each step included in the above-described method for generating a bald person image.

본 명세서에 개시된 실시 예들은 모발이 있는 사람의 얼굴 이미지에서 모발만을 제거한 자연스러운 인물 이미지를 생성할 수 있는 효과가 있다.Embodiments disclosed herein have an effect of generating a natural person image in which only hair is removed from a face image of a person with hair.

한편, 본 발명에서 얻을 수 있는 효과는 이상에서 언급한 효과들로 제한되지 않으며, 언급하지 않은 또 다른 효과들은 아래의 기재로부터 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 명확하게 이해될 수 있을 것이다.On the other hand, the effects obtainable in the present invention are not limited to the effects mentioned above, and other effects not mentioned will be clearly understood by those skilled in the art from the description below. You will be able to.

본 명세서에 첨부되는 다음의 도면들은 본 발명의 바람직한 실시예를 예시하는 것이며, 발명을 실시하기 위한 구체적인 내용과 함께 본 발명의 기술사상을 더욱 이해시키는 역할을 하는 것이므로, 본 발명은 그러한 도면에 기재된 사항에만 한정되어 해석되어서는 아니 된다.
도 1은 일 실시 예에 따른 민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법을 개념적으로 설명하는 도면이다.
도 2는 얼굴 세분화 딥러닝 모델의 학습 데이터의 예를 도시한다.
도 3은 얼굴 특징점 추출 모델의 예를 도시한다.
도 4는 민머리의 두상 이미지를 생성하는 인공신경망용 학습 데이터 셋을 생성하는 방법의 예를 도시한다.
도 5는 인공신경망의 학습에 사용되는 민머리 얼굴 이미지 데이터의 예를 도시한다.
도 6 내지 도 9는 일 실시 예에 따른 민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법을 설명하는 순서도이다.
도 10은 일 실시 예에 따른 민머리 인물 이미지 생성 장치의 구성도이다.
The following drawings attached to this specification illustrate preferred embodiments of the present invention, and serve to further understand the technical idea of the present invention together with specific details for carrying out the invention, so the present invention is described in such drawings should not be construed as limited to
1 is a view conceptually illustrating a method of generating a bald person image by using a bald person image generating apparatus according to an exemplary embodiment.
2 shows an example of training data of a face segmentation deep learning model.
3 shows an example of a facial feature point extraction model.
4 shows an example of a method of generating a training data set for an artificial neural network that generates a head image of a bald head.
5 shows an example of bald face image data used for learning of an artificial neural network.
6 to 9 are flowcharts illustrating a method of generating an image of a person with a bald head using an apparatus for generating an image of a person with a bald head according to an exemplary embodiment.
10 is a configuration diagram of an apparatus for generating an image of a person with a bald head according to an exemplary embodiment.

본 명세서에 개시된 기술은 가상 헤어 스타일링 체험을 위한 민머리 인물 이미지 생성 장치 및 방법에 적용될 수 있다. 그러나 본 명세서에 개시된 기술은 이에 한정되지 않고, 상기 기술의 기술적 사상이 적용될 수 있는 모든 장치 및 방법에도 적용될 수 있다.The technology disclosed in this specification can be applied to an apparatus and method for generating a bald person image for a virtual hair styling experience. However, the technology disclosed in this specification is not limited thereto, and may be applied to all devices and methods to which the technical spirit of the technology may be applied.

본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 명세서에 개시된 기술의 사상을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 명세서에 개시된 기술의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 본 명세서에 개시된 기술이 속하는 분야에서 통상의 지식을 가진 자가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 명세서에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥 상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.It should be noted that technical terms used in this specification are only used to describe specific embodiments and are not intended to limit the spirit of the technology disclosed in this specification. In addition, technical terms used in this specification should be interpreted in terms commonly understood by those of ordinary skill in the field to which the technology disclosed in this specification belongs, unless specifically defined otherwise in this specification. It should not be interpreted in an overly comprehensive sense or in an excessively reduced sense. In addition, when the technical terms used in this specification are incorrect technical terms that do not accurately express the spirit of the technology disclosed in this specification, it is a technical term that can be correctly understood by those of ordinary skill in the field to which the technology disclosed in this specification belongs. should be replaced with In addition, general terms used in this specification should be interpreted as defined in advance or according to context, and should not be interpreted in an excessively reduced sense.

본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성 요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.Terms including ordinal numbers such as first and second used herein may be used to describe various components, but the components should not be limited by the terms. These terms are only used for the purpose of distinguishing one component from another. For example, a first element may be termed a second element, and similarly, a second element may be termed a first element, without departing from the scope of the present invention.

이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예들을 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, the embodiments disclosed in this specification will be described in detail with reference to the accompanying drawings, but the same or similar components are assigned the same reference numerals regardless of reference numerals, and redundant description thereof will be omitted.

또한, 본 명세서에 개시된 기술을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 기술의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 기술의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 그 기술의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.In addition, in describing the technology disclosed in this specification, if it is determined that a detailed description of a related known technology may obscure the gist of the technology disclosed in this specification, the detailed description will be omitted. In addition, it should be noted that the accompanying drawings are only intended to facilitate understanding of the spirit of the technology disclosed in this specification, and should not be construed as limiting the spirit of the technology by the accompanying drawings.

명세서 전체에서, 장치 또는 단말은 서버 또는 다른 장치와 유선 또는 무선 통신할 수 있는 통신 단말 또는 통신 장치를 포함한다. 장치 또는 단말의 형태는 휴대전화, 스마트폰, 스마트패드, 랩톱 컴퓨터, 데스크톱 컴퓨터, 웨어러블 디바이스, 거울 형태의 디스플레이 장치, 스마트미러 등과 같이 다양한 형태를 가질 수 있다. 웨어러블 디바이스는 워치형 단말기, 글래스형 단말기, HMD 등과 같이 다양할 수 있다. 또한, 단말은 이러한 형태에 한정되지 않고 다양한 전자 장치로 구현될 수 있다.Throughout the specification, a device or terminal includes a communication terminal or communication device capable of wired or wireless communication with a server or other device. The shape of the device or terminal may have various forms such as a mobile phone, a smart phone, a smart pad, a laptop computer, a desktop computer, a wearable device, a mirror-type display device, a smart mirror, and the like. The wearable device may be various such as a watch type terminal, a glasses type terminal, and an HMD. Also, the terminal is not limited to this form and may be implemented as various electronic devices.

이하에서는 첨부의 도면을 참조하여 실시 예들을 상세하게 설명한다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings.

도 1은 일 실시 예에 따른 민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법을 개념적으로 설명하는 도면이다.1 is a view conceptually illustrating a method of generating a bald person image by using a bald person image generating apparatus according to an exemplary embodiment.

도 2는 얼굴 세분화 딥러닝 모델의 학습 데이터의 예를 도시한다.2 shows an example of training data of a face segmentation deep learning model.

도 3은 얼굴 특징점 추출 모델의 예를 도시한다.3 shows an example of a facial feature point extraction model.

도 1 내지 3을 참조하면, 민머리 인물 이미지 생성 장치는 장치로 입력되는 인물 이미지(10)를 부분별로 세분화 한 뒤, 인물 이미지 속의 인물에 해당하는 객체 영역을 제거한 배경 마스크를 추출하고, 추출된 배경 마스크에서 객체 영역이 제거된 부분을 이미지 인페인팅(inpating)으로 배경을 채워 넣어 배경 이미지(20)를 생성한다. 여기에서, 입력되는 인물 이미지(10)를 부분별로 세분화 하는 방법은 얼굴 세분화 딥러닝 모델을 이용하여 수행될 수 있다. 실시 예에서 사용되는 얼굴 세분화 딥러닝 모델은 얼굴 이미지를 입력하면 부분별로 마스크가 나오도록 미리 학습된 BiSeNet 모델이 사용될 수 있다. 상기 BiSeNet 모델은 학습 데이터로서 도 2에 도시된 CelebAMask를 사용한다.1 to 3, the bald-headed person image generation device subdivides the person image 10 input into the device into parts, extracts a background mask obtained by removing an object area corresponding to the person in the person image, and extracts the extracted background. The background image 20 is created by filling the background from the mask with the object area removed through image inpainting. Here, a method of subdividing the input person image 10 into parts may be performed using a face segmentation deep learning model. The face segmentation deep learning model used in the embodiment may use a BiSeNet model pre-learned to produce a mask for each part when a face image is input. The BiSeNet model uses CelebAMask shown in FIG. 2 as training data.

또한, 민머리 인물 이미지 생성 장치는 인물 이미지(10)에서 얼굴 영역을 추출하여 얼굴 이미지(30)를 생성한 다음, 생성된 얼굴 이미지(30)를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리의 두상 이미지(40)를 생성한다. 여기에서, 인물 이미지(10)에서 얼굴 영역을 추출하여 얼굴 이미지(30)를 생성하는 방법은 도 3에 도시한 바와 같은 이미지 처리 도구인 Dlib를 사용하여 68개의 얼굴 특징점(Keypoint)을 예측한 뒤, 민머리를 만드는데 불필요한 노이즈를 제거하기 위해 예측된 특징점 중 0번부터 26번까지의 특징점을 이용하여 얼굴 영역을 잘라내어 얼굴 이미지를 만든다. 한편, 민머리의 두상 이미지(40)를 생성하는 인공신경망은 얼굴 영역을 통해 가상의 두상을 생성하기 위한 딥러닝 모델로서 Image to Image Translation 기술이라고 불리는 NVIDIA의 pix2pixHD 모델을 사용한다.In addition, the apparatus for generating a bald person image extracts a face area from the person image 10 to generate a face image 30, and then inputs the generated face image 30 to an artificial neural network that generates a head in the face area to have a bald head. A head image 40 is generated. Here, the method of generating the face image 30 by extracting the face region from the person image 10 predicts 68 facial keypoints using Dlib, an image processing tool as shown in FIG. , In order to remove unnecessary noise in making a bald head, the face image is created by cutting out the face area using feature points from 0 to 26 among the predicted feature points. On the other hand, the artificial neural network that generates the bald head image 40 uses NVIDIA's pix2pixHD model, called Image to Image Translation technology, as a deep learning model for generating a virtual head through the face area.

다음으로, 민머리 인물 이미지 생성 장치는 배경 이미지(20)와 민머리의 두상 이미지(40)를 합성하여 배경을 가진 민머리의 두상 이미지(50)를 생성한다.Next, the bald person image generating device generates a bald head image 50 with a background by synthesizing the background image 20 and the bald head image 40 .

또한, 민머리 인물 이미지 생성 장치는 앞에서 세분화된 인물 이미지(10)에서 모발 영역(61)을 제거한 비(非) 모발 마스크(60)를 추출한다.In addition, the bald person image generating apparatus extracts a non-hair mask 60 from which the hair region 61 is removed from the previously segmented person image 10 .

마지막으로, 민머리 인물 이미지 생성 장치는 비(非) 모발 마스크(60)와 배경을 가진 민머리의 두상 이미지(50)를 합성하여 민머리의 인물 이미지(70)를 생성하거나, 비(非) 모발 마스크(60)에 기초하여 배경을 가진 민머리의 두상 배경 이미지(50)로부터 모발 영역(61)에 대응되는 영역을 추출하고, 배경을 가진 민머리의 두상 배경 이미지(50)에서 추출된 대응 영역을 인물 이미지(10)에 중첩하여 민머리의 인물 이미지(70)를 생성한다.Finally, the bald person image generating device synthesizes the non-hair mask 60 and the bald head image 50 having a background to generate a bald person image 70, or a non-hair mask ( 60), a region corresponding to the hair region 61 is extracted from the background image 50 of a bald head with a background, and the corresponding region extracted from the background image 50 of a bald head with a background is a person image ( 10) to create a bald person image 70.

이하에서는, 첨부의 도면을 참조하여, 민머리의 두상 이미지를 생성하는 인공신경망의 학습 방법에 대해서 설명한다.Hereinafter, a learning method of an artificial neural network for generating an image of a bald head will be described with reference to the accompanying drawings.

도 4는 민머리의 두상 이미지를 생성하는 인공신경망용 학습 데이터 셋을 생성하는 방법의 예를 도시한다.4 shows an example of a method of generating a training data set for an artificial neural network that generates a head image of a bald head.

도 5는 인공신경망의 학습에 사용되는 민머리 얼굴 이미지 데이터의 예를 도시한다.5 shows an example of bald face image data used for learning of an artificial neural network.

도 1, 도 4 및 도 5를 참조하면, 민머리 인물 이미지 생성 장치는 배경이 있는 민머리 인물 이미지(80)로부터 전술한 얼굴 특징점에 기초하여 얼굴 영역만을 추출하여 얼굴 영역 이미지(81)를 생성하고, 상기 배경이 있는 민머리 인물 이미지(80)의 배경을 전술한 얼굴 세분화 딥러닝 모델로 제거하여 배경이 없는 민머리 인물 이미지(82)를 생성한다. 이후, 얼굴 영역 이미지(81) 및 배경이 없는 민머리 인물 이미지(82)로 구성되는 이미지 셋을 학습 데이터에 포함시킨다. 다음으로, 민머리 인물 이미지 생성 장치는 이렇게 생성된 학습 데이터로 임의의 얼굴 영역 이미지(10)가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지(40)를 생성하도록 인공신경망을 학습시킨다. 여기에서, 배경이 있는 민머리 인물 이미지(80)로서 도 5와 같은 민머리 얼굴 이미지 데이터를 사용한다.Referring to FIGS. 1, 4, and 5 , the apparatus for generating a bald person image 80 extracts only a face area based on the aforementioned facial feature points from a bald person image 80 with a background to generate a face area image 81, The background of the bald-headed person image 80 with a background is removed by the aforementioned face segmentation deep learning model to generate a bald-headed person image 82 without a background. Thereafter, an image set consisting of a face region image 81 and a bare-headed person image 82 without a background is included in training data. Next, when an arbitrary face region image 10 is input with the learning data generated in this way, the apparatus for generating a bald person image generates a head portion in the face region and trains the artificial neural network to generate a bald head image 40 . Here, the bald face image data shown in FIG. 5 is used as the bald person image 80 with a background.

도 6 내지 9는 일 실시 예에 따른 민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법을 설명하는 순서도이다.6 to 9 are flowcharts illustrating a method of generating an image of a person with a bald head using an apparatus for generating an image of a person with a bald head according to an exemplary embodiment.

도 1 및 도 6 내지 9를 참조하면, 일 실시 예에 따른 민머리 인물 이미지 생성 장치는 인물 이미지(10)에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지(20)를 생성한다(S100). 여기에서, 민머리 인물 이미지 생성 장치는 입력된 인물 이미지를 바로 사용하지 않고, 얼굴 크롭(crop) 알고리즘을 사용하여 입력된 인물 이미지에서 얼굴 부분만을 직사각형으로 잘라낸 얼굴 크롭 이미지를 상기 인물 이미지(10)로 사용함으로써, 딥러닝 성능을 극대화시킬 수 있다.Referring to FIGS. 1 and 6 to 9 , the apparatus for generating a bald-headed person image according to an embodiment extracts a background mask from which a person object region is removed by subdividing a person image 10, and extracts the person object from the background mask. A background image 20 is created by filling the area from which the area has been removed with inpainting (S100). Here, the bald-headed person image generating device does not directly use the input person image, but uses a face crop algorithm to obtain a cropped face image obtained by cutting out only the face portion in a rectangle from the input person image as the person image 10. By using it, deep learning performance can be maximized.

다음으로, 민머리 인물 이미지 생성 장치는 상기 인물 이미지(10)에서 얼굴 영역을 추출하여 얼굴 이미지(30)를 생성하고, 상기 얼굴 이미지(30)를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지(40)를 생성한다(S110). 여기에서, 민머리 두상 이미지(40)를 생성하는 과정은, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 얼굴 이미지(30)를 추출하는 과정(S111) 및 입력되는 임의의 얼굴 이미지로부터 두상 부분을 생성하도록 학습된 인공신경망에 상기 얼굴 이미지(30)를 입력하여 상기 민머리 두상 이미지(40)를 생성하는 과정(S112)을 포함하여 구성되는 방법으로 수행될 수 있다. 여기에서, 상기 얼굴 이미지(30)는 인물 이미지(10)에서 Dlib 이미지 처리 도구를 이용하여 예측된 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 추출될 수 있다. 또한, 상기 인공신경망은 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출하여 생성된 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거하여 생성된 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지를 생성하도록 학습될 수 있다. Next, the shaved-headed person image generation device extracts a face region from the person image 10 to generate a face image 30, and inputs the face image 30 to an artificial neural network that generates a head image in the face region to generate a shaved head. A head image 40 is generated (S110). Here, the process of generating the bald head image 40 includes the process of extracting the face image 30 excluding the hair part based on facial feature points from the person image (S111) and the head image from any input face image. It may be performed by a method including a step of generating the bald head image 40 by inputting the face image 30 to an artificial neural network trained to generate the part (S112). Here, the face image 30 may be extracted based on feature points corresponding to the face region among feature points predicted using the Dlib image processing tool in the person image 10 . In addition, the artificial neural network consists of a facial area image generated by extracting only a face region from a bald-headed person image with a background and a bald-headed person image without a background generated by removing the background of the bald-headed person image with a background by a segmentation model. When an arbitrary face region image is input as an image set, it may be learned to generate a bald head image by generating a head portion in the face region.

다음으로, 민머리 인물 이미지 생성 장치는 상기 배경 이미지(20) 및 상기 민머리 두상 이미지(40)를 합성하여 민머리 두상 배경 이미지(50)를 생성한다(S120). 여기에서, 민머리 두상 배경 이미지(50)는 상기 배경 이미지(20)가 상기 민머리 두상 이미지(40)의 배경으로 합성되어 생성된 이미지이다.Next, the bald person image generating device generates a bald head background image 50 by synthesizing the background image 20 and the bald head image 40 (S120). Here, the bald head background image 50 is an image generated by combining the background image 20 with the background of the bald head image 40 .

다음으로, 민머리 인물 이미지 생성 장치는 상기 인물 이미지(10)에서 세분화를 실시한 뒤, 상기 인물 이미지(10)에서 모발 영역(61) 만을 제거한 마스크(60)를 추출한다(S130). 인물 이미지(10)에서 모발 영역 만을 제거한 마스크는 비(非) 모발 마스크라 불릴 수 있다.Next, the bare-headed person image generation apparatus extracts the mask 60 from which only the hair region 61 is removed from the person image 10 after segmentation is performed on the person image 10 (S130). A mask obtained by removing only the hair region from the person image 10 may be referred to as a non-hair mask.

마지막으로, 민머리 인물 이미지 생성 장치는 상기 비(非) 모발 마스크(60)와 상기 민머리 두상 배경 이미지(50)를 합성하여 민머리 인물 이미지(70)를 생성한다(S140). 여기에서, 만약 상기 인물 이미지(10)로서 원본 인물 이미지에서 얼굴 부분만을 잘라낸 얼굴 크롭 이미지를 사용했다면, 생성된 민머리 인물 이미지(70)를 원본 인물 이미지에 중첩하여 원본 인물 이미지 내의 인물을 민머리로 만든 이미지를 생성할 수 있다.Finally, the bald person image generating device generates a bald person image 70 by synthesizing the non-hair mask 60 and the bald head background image 50 (S140). Here, if a cropped face image obtained by cutting out only the face part from the original person image is used as the person image 10, the created bald person image 70 is superimposed on the original person image to make the person in the original person image bald. image can be created.

한편, 도 7을 참조하면, 다른 실시 예에 따르면, 민머리 인물 이미지 생성 장치는 상기 인물 이미지(10)에서 세분화를 실시한 뒤, 상기 인물 이미지(10)에서 모발 영역(61) 만을 제거한 마스크(60)를 추출(S130)한 다음, 상기 비(非) 모발 마스크(60)에 기초하여 상기 민머리 두상 배경 이미지(50)로부터 상기 모발 영역(61)에 대응되는 민머리 영역을 추출하고(S150), 추출된 민머리 영역을 상기 인물 이미지(10)에 중첩하여 민머리 인물 이미지(70)를 생성(S160)할 수 있다. 여기에서, 상기 모발 영역에 대응되는 민머리 영역을 추출하는 과정(S150)은 상기 비(非) 모발 마스크(60)를 상기 민머리 두상 배경 이미지(50)에 중첩하여 중첩 이미지를 생성하고(S151) 및 상기 중첩 이미지에서 상기 모발 영역(61)에 대응되는 상기 민머리 영역을 추출하는 과정(S152)을 포함하여 구성될 수 있다.Meanwhile, referring to FIG. 7 , according to another embodiment, the apparatus for generating a bald person image generates a mask 60 obtained by removing only the hair region 61 from the person image 10 after segmentation is performed on the person image 10 . After extracting (S130), a bald head region corresponding to the hair region 61 is extracted from the bald head background image 50 based on the non-hair mask 60 (S150), and the extracted A bald head area may be overlapped on the person image 10 to generate a bald person image 70 (S160). Here, in the process of extracting the bald head region corresponding to the hair region (S150), the non-hair mask 60 is superimposed on the bald head background image 50 to create an overlapped image (S151), and It may be configured to include a process of extracting the bald head region corresponding to the hair region 61 from the overlapped image (S152).

상술한 설명에서, 단계들, 과정들 또는 동작들은 본 발명의 구현 예에 따라서, 추가적인 단계, 과정 또는 동작으로 더 분할되거나, 더 적은 단계, 과정 또는 동작으로 조합될 수 있다. 또한, 일부 단계, 과정 또는 동작은 필요에 따라 생략될 수도 있고, 단계 또는 동작 간의 순서가 전환될 수도 있다. 또한, 전술한 민머리 인물 이미지 생성 방법이 포함하는 각 단계 또는 동작은 컴퓨터 프로그램으로 구현되어 컴퓨터로 읽을 수 있는 기록매체에 저장될 수 있으며, 컴퓨터 장치에 의해 각 단계, 과정 또는 동작이 실행될 수도 있다.In the foregoing description, the steps, procedures or actions may be further divided into additional steps, procedures or actions, or combined into fewer steps, procedures or actions, depending on the implementation of the invention. In addition, some steps, processes or operations may be omitted if necessary, or the order of steps or operations may be switched. In addition, each step or operation included in the above-described bare-headed person image generation method may be implemented as a computer program and stored in a computer-readable recording medium, and each step, process, or operation may be executed by a computer device.

이하에서는, 첨부의 도면을 참조하여, 민머리 인물 이미지 생성 장치에 대해서 설명한다.Hereinafter, with reference to the accompanying drawings, a bare-headed person image generating device will be described.

도 10은 일 실시 예에 따른 민머리 인물 이미지 생성 장치의 구성도이다.10 is a configuration diagram of an apparatus for generating an image of a person with a bald head according to an exemplary embodiment.

도 1 및 도 10을 참조하면, 민머리 인물 이미지 생성 장치(100)는 통신부(110), 저장부(120), 및 제어부(130)를 포함하여 구성될 수 있다. 도시된 구성요소들은 필수적인 것은 아니어서, 그 보다 많은 구성요소들을 갖거나, 그보다 적은 구성요소들을 갖는 민머리 인물 이미지 생성 장치(100)가 구현될 수도 있다. 이러한 구성요소는 하드웨어 또는 소프트웨어로 구현되거나 하드웨어와 소프트웨어의 결합을 통해서 구현될 수 있다.Referring to FIGS. 1 and 10 , the bald-headed person image generating apparatus 100 may include a communication unit 110 , a storage unit 120 , and a control unit 130 . The illustrated components are not essential, so the bare-headed person image generating device 100 having more or fewer components may be implemented. These components may be implemented in hardware or software, or through a combination of hardware and software.

통신부(110)는 네트워크를 통해 외부의 장치와 데이터를 송수신할 수 있다.The communication unit 110 may transmit/receive data with an external device through a network.

저장부(120)는 제어부(130)에 의해 생성된 데이터 또는 통신부(110)를 통해 수신된 데이터를 저장할 수 있다.The storage unit 120 may store data generated by the controller 130 or data received through the communication unit 110 .

제어부(130)는 통신부(110) 및 저장부(120)와 기능적으로 연결된다.The control unit 130 is functionally connected to the communication unit 110 and the storage unit 120 .

또한, 제어부(130)는 인물 이미지(10)에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지(20)를 생성할 수 있다.In addition, the controller 130 performs subdivision on the person image 10 to extract a background mask from which the person object area is removed, and fills in the background mask from which the person object area is removed with inpainting to fill the background image 20 with inpainting. ) can be created.

또한, 제어부(130)는 인물 이미지(10)에서 얼굴 영역을 추출하여 얼굴 이미지(30)를 생성하고, 얼굴 이미지(30)를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 민머리 두상 이미지(40)를 생성할 수 있다.In addition, the controller 130 generates a face image 30 by extracting a face region from the person image 10, inputs the face image 30 to an artificial neural network that generates a head in the face region, and generates a bald head image 40. ) can be created.

또한, 제어부(130)는 배경 이미지(20) 및 민머리 두상 이미지(40)를 합성하여 민머리 두상 배경 이미지(50)를 생성할 수 있다.In addition, the controller 130 may generate a bald head background image 50 by synthesizing the background image 20 and the bald head image 40 .

또한, 제어부(130)는 인물 이미지(10)에서 세분화를 실시하여 모발 영역(61)을 제거한 비(非) 모발 마스크(60)를 추출할 수 있다.In addition, the controller 130 may perform segmentation on the person image 10 to extract a non-hair mask 60 from which the hair region 61 is removed.

또한, 제어부(130)는 비(非) 모발 마스크(60) 및 민머리 두상 배경 이미지(50)를 합성하여 민머리 인물 이미지(70)를 생성하거나, 또는 비(非) 모발 마스크(60)에 기초하여 민머리 두상 배경 이미지(50)로부터 모발 영역(61)에 대응되는 민머리 영역을 추출하고, 추출된 상기 민머리 영역을 인물 이미지(10)에 중첩하여 민머리 인물 이미지(70)를 생성할 수도 있다. 여기에서, 제어부(130)는 비(非) 모발 마스크(60)를 민머리 두상 배경 이미지(50)에 중첩하여 중첩 이미지를 생성하고, 중첩 이미지에서 모발 영역(61)에 대응되는 민머리 영역을 추출할 수 있다.In addition, the controller 130 generates a bald person image 70 by synthesizing the non-hair mask 60 and the bald head background image 50, or based on the non-hair mask 60 A bald person image 70 may be generated by extracting a bald head region corresponding to the hair region 61 from the bald head background image 50 and overlapping the extracted bald head region on the person image 10 . Here, the controller 130 overlaps the non-hair mask 60 on the bald head background image 50 to generate an overlapped image, and extracts a bald head region corresponding to the hair region 61 from the overlapped image. can

또한, 제어부(130)는 인물 이미지(10)에서 Dlib 이미지 처리 도구를 이용하여 예측된 얼굴의 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 모발 부분을 제외한 얼굴 이미지(30)를 추출하고, 입력되는 임의의 얼굴 이미지로부터 두상 부분을 생성하도록 학습된 인공신경망에 얼굴 이미지(30)를 입력하여 민머리 두상 이미지(40)를 생성할 수 있다. 여기에서, 인공신경망은 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출하여 생성된 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거하여 생성된 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 민머리의 두상 이미지를 생성하도록 상기 제어부(130)에 의해서 학습된다.In addition, the controller 130 extracts the face image 30 excluding the hair part based on the feature points corresponding to the face area among the feature points of the face predicted using the Dlib image processing tool in the person image 10, and extracts the face image 30 excluding the hair part. The bald head image 40 may be generated by inputting the face image 30 to an artificial neural network trained to generate a head portion from an arbitrary face image. Here, the artificial neural network consists of a face area image generated by extracting only the face region from a bald-headed person image with a background and a bald-headed person image without a background generated by removing the background of the bald-headed person image with the background by a segmentation model. When an arbitrary face region image is input as an image set, the control unit 130 learns to generate a bald head image by generating a head portion in the face region.

본 명세서에서 개시되는 네트워크는 예를 들어, 무선 네트워크, 유선 네트워크, 인터넷과 같은 공용 네트워크, 사설 네트워크, 모바일 통신 네트워크용 광역 시스템(Global System for Mobile communication network; GSM) 네트워크, 범용 패킷 무선 네트워크(General Packet Radio Network; GPRN), 근거리 네트워크(Local Area Network; LAN), 광역 네트워크(Wide Area Network; WAN), 거대도시 네트워크(Metropolitan Area Network; MAN), 셀룰러 네트워크, 공중 전화 교환 네트워크(Public Switched Telephone Network; PSTN), 개인 네트워크(Personal Area Network), 블루투스, Wi-Fi 다이렉트(Wi-Fi Direct), 근거리장 통신(Near Field communication), 초광대역(Ultra-Wide band), 이들의 조합, 또는 임의의 다른 네트워크일 수 있지만 이들로 한정되는 것은 아니다.A network disclosed herein may include, for example, a wireless network, a wired network, a public network such as the Internet, a private network, a Global System for Mobile communication network (GSM) network, a general packet wireless network (General Packet Radio Network (GPRN), Local Area Network (LAN), Wide Area Network (WAN), Metropolitan Area Network (MAN), Cellular Network, Public Switched Telephone Network PSTN), Personal Area Network, Bluetooth, Wi-Fi Direct, Near Field communication, Ultra-Wide band, a combination thereof, or any It may be other networks, but is not limited thereto.

본 명세서에서 사용된 용어 "부"는(예를 들면, 제어부 등), 예를 들어, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "부"는, 예를 들어, 유닛(unit), 로직(logic), 논리블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "부"는, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "부"는 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "부"는 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들어, "부"는, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(Application-Specific Integrated Circuit) 칩, FPGAs(Field-Programmable Gate Arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.As used herein, the term “unit” (eg, a controller) may refer to a unit including one or a combination of two or more of, for example, hardware, software, or firmware. “Unit” may be used interchangeably with terms such as, for example, unit, logic, logical block, component, or circuit. A "unit" may be a minimum unit of an integrally constituted part or a part thereof. A “unit” may be a minimal unit or part thereof that performs one or more functions. A “unit” may be implemented mechanically or electronically. For example, a "part" is an application-specific integrated circuit (ASIC) chip, field-programmable gate arrays (FPGAs), or programmable-logic device that performs certain operations, known or developed in the future. may contain at least one.

다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터가 읽을 수 있는 매체는, 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록장치를 포함한다. 컴퓨터로 읽을 수 있는 저장매체/컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등이 있으며, 또한 캐리어 웨이브(예를 들어, 인터넷을 통한 전송)의 형태로 구현되는 것도 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.At least some of the devices (eg, modules or functions thereof) or methods (eg, operations) according to various embodiments may be stored on computer-readable storage media in the form of, for example, program modules. It can be implemented as a command stored in . When the command is executed by a processor, the one or more processors may perform a function corresponding to the command. The computer-readable medium includes all types of recording devices in which data that can be read by a computer system is stored. Computer-readable storage media / computer-readable recording media include hard disks, floppy disks, magnetic media (eg magnetic tape), optical media (eg CD-ROM (compact) disc read only memory), digital versatile disc (DVD), magneto-optical media (e.g. floptical disk), hardware devices (e.g. read only memory (ROM), random access memory), or flash memory, etc.), and may also include those implemented in the form of carrier waves (eg, transmission through the Internet) In addition, program commands include machine words such as those created by a compiler. code as well as high-level language codes that can be executed by a computer using an interpreter, etc. The above-described hardware device may be configured to operate as one or more software modules to perform operations of various embodiments, and vice versa. Same.

다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술된 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다.A module or program module according to various embodiments may include at least one or more of the aforementioned elements, some may be omitted, or additional elements may be further included. Operations performed by modules, program modules, or other components according to various embodiments may be executed in a sequential, parallel, repetitive, or heuristic manner. Also, some actions may be performed in a different order, omitted, or other actions may be added.

본 명세서에 사용된 용어 "하나"는 하나 또는 하나 이상으로 정의된다. 또한, 청구 범위에서 "적어도 하나" 및 "하나 이상"과 같은 도입 문구를 사용하는 것은, 동일한 청구항에 "적어도 하나" 및 "하나 이상"과 같은 도입 문구 및 "하나" 같은 불명료한 문구가 포함되어 있는 경우라 할지라도, 불명료한 문구 "하나"에 의한 다른 청구항 요소의 도입이 그러한 요소를 하나만을 포함하는 발명에 대해 그렇게 도입된 청구항 요소를 포함하는 임의의 특정 청구항을 제한한다는 것을 의미하는 것으로 해석되어서는 안된다.As used herein, the term "a" is defined as one or more than one. Also, the use of introductory phrases such as “at least one” and “one or more” in a claim means that the same claim includes introductory phrases such as “at least one” and “one or more” and ambiguous phrases such as “an”. If any, be construed to mean that the introduction of another claim element by the ambiguous phrase "an" limits any particular claim containing the so-introduced claim element to an invention containing only one such element. It shouldn't be.

본 문서에서, "A 또는 B" 또는 "A 및/또는 B 중 적어도 하나" 등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다.In this document, expressions such as "A or B" or "at least one of A and/or B" may include all possible combinations of the items listed together.

달리 명시하지 않는 한, "제1" 및 "제2"와 같은 용어는 그러한 용어가 설명하는 요소들을 임의로 구별하는 데 사용된다. 따라서, 이들 용어는 그러한 요소들의 시간적 또는 다른 우선 순위를 나타내도록 반드시 의도된 것은 아니며, 특정 수단이 서로 다른 청구항들에 열거되어 있다는 단순한 사실만으로 이러한 수단들의 조합이 유리하게 사용될 수 없다는 것을 나타내는 것은 아니다. 따라서, 이들 용어는 그러한 요소의 시간적 또는 다른 우선 순위를 나타내도록 반드시 의도되지는 않는다. 특정 조치가 서로 다른 주장에 인용되었다는 단순한 사실만으로 이러한 조치의 조합이 유용하게 사용될 수 없다는 것을 나타내지는 않는다.Unless otherwise specified, terms such as "first" and "second" are used to arbitrarily distinguish the elements they describe. Thus, these terms are not necessarily intended to indicate a temporal or other order of priority of such elements, and the mere fact that certain measures are recited in mutually different claims does not indicate that a combination of these measures cannot be used to advantage. . Accordingly, these terms are not necessarily intended to indicate a temporal or other priority of such elements. The mere fact that certain measures are cited in different claims does not indicate that a combination of these measures cannot be useful.

동일한 기능을 달성하기 위한 구성 요소의 배열은 효과적으로 "관련"되어 원하는 기능이 달성된다. 따라서, 특정 기능성을 달성하기 위해 결합된 임의의 2 개의 구성 요소는 구조 또는 중개하는 구성 요소와 관계없이 원하는 기능이 달성되도록 서로 "관련"되는 것으로 간주될 수 있다. 마찬가지로 이와 같이 연관된 두 개의 구성 요소는 원하는 기능을 달성하기 위해 서로 "작동 가능하게 연결"되거나 "작동 가능하게 결합된" 것으로 간주될 수 있다.Arrangements of components to achieve the same function are effectively "related" so that the desired function is achieved. Thus, any two components that are combined to achieve a particular functionality may be considered "related" to each other such that the desired function is achieved, regardless of structure or intervening components. Similarly, two components so associated can be considered "operably connected" or "operably coupled" to each other to achieve a desired function.

또한, 통상의 기술자는 전술한 동작들의 기능성 사이의 경계가 단지 예시적인 것임을 인식할 것이다. 복수의 동작들은 단일 동작으로 결합될 수 있고, 단일 동작은 추가 동작들로 분산될 수 있으며, 동작들은 시간적으로 적어도 부분적으로 겹쳐서 실행될 수 있다. 또한, 대안적인 실시예들은 특정 동작에 대한 복수의 인스턴스들을 포함할 수 있고, 동작들의 순서는 다양한 다른 실시예에서 변경될 수 있다. 그러나, 다른 수정, 변형 및 대안이 또한 가능하다. 따라서, 상세한 설명 및 도면은 제한적인 의미가 아니라 예시적인 것으로 간주되어야 한다.Further, those skilled in the art will recognize that the boundaries between the functionality of the foregoing operations are exemplary only. A plurality of actions may be combined into a single action, a single action may be distributed into additional actions, and the actions may be executed at least partially overlapping in time. Also, alternative embodiments may include multiple instances of a particular operation, and the order of operations may be changed in various other embodiments. However, other modifications, variations and alternatives are also possible. Accordingly, the detailed description and drawings are to be regarded in an illustrative rather than a limiting sense.

"X일 수 있다"는 문구는 조건 X가 충족될 수 있음을 나타낸다. 이 문구는 또한 조건 X가 충족되지 않을 수도 있음을 나타낸다. 예를 들어, 특정 구성 요소를 포함하는 시스템에 대한 참조는 시스템이 특정 구성 요소를 포함하지 않는 시나리오도 포함해야 한다. 예를 들어, 특정 동작을 포함하는 방법에 대한 참조는 해당 방법이 특정 구성 요소를 포함하지 않는 시나리오도 포함해야 한다. 그러나 또 다른 예를 들면, 특정 동작을 수행하도록 구성된 시스템에 대한 참조는 시스템이 특정 작업을 수행하도록 구성되지 않은 시나리오도 포함해야 한다.The phrase “may be X” indicates that condition X can be met. This phrase also indicates that condition X may not be met. For example, a reference to a system that contains a specific component should also include a scenario where the system does not contain that specific component. For example, a reference to a method that includes a specific action must also include scenarios in which the method does not include that specific component. But to take another example, a reference to a system configured to perform a specific action should also include a scenario in which the system is not configured to perform the specific action.

용어 "포함하는", "갖는", "구성된", "이루어진" 및 "본질적으로 이루어진"은 상호 교환적으로 사용된다. 예를 들어, 임의의 방법은 적어도 도면 및/또는 명세서에 포함된 동작을 포함할 수 있으며, 도면 및/또는 명세서에 포함된 동작만을 포함할 수 있다. 또는, "포함하는"이라는 단어는 청구항에 나열된 요소들 또는 동작들의 존재를 배제하지 않는다.The terms "comprising", "having", "consisting of", "consisting of" and "consisting essentially of" are used interchangeably. For example, any method may include at least the operations included in the drawings and/or specifications, and may include only the operations included in the drawings and/or specifications. Alternatively, the word "comprising" does not exclude the presence of the recited elements or acts in a claim.

통상의 기술자는 논리 블록들 사이의 경계가 단지 예시적인 것이며, 대안적인 실시 예들이 논리 블록들 또는 회로 소자들을 병합하거나 또는 다양한 논리 블록들 또는 회로 소자들 상에 기능의 대체적인 분해를 부과할 수 있음을 인식할 것이다. 따라서, 여기에 도시된 아키텍처는 단지 예시적인 것이며, 사실 동일한 기능을 달성하는 많은 다른 아키텍처가 구현될 수 있다는 것으로 이해되어야 한다.It should be understood that the boundaries between logical blocks are merely illustrative, and that alternative embodiments may merge logical blocks or circuit elements or impose alternative decompositions of functionality on various logical blocks or circuit elements. will recognize that there is Accordingly, it should be understood that the architecture shown herein is merely illustrative, and in fact many other architectures that achieve the same functionality may be implemented.

또한, 예를 들어, 일 실시예에서, 도시된 예들은 단일 집적 회로 상에 또는 동일한 장치 내에 위치된 회로로서 구현될 수 있다. 대안적으로, 상기 예들은 임의의 수의 개별적인 집적 회로들 또는 적합한 방식으로 서로 상호 접속된 개별 장치들로서 구현될 수 있으며, 다른 변경, 수정, 변형 및 대안들이 또한 가능하다. 따라서, 명세서 및 도면은 제한적인 의미가 아니라 예시적인 것으로 간주되어야 한다.Also, for example, in one embodiment, the illustrated examples may be implemented on a single integrated circuit or as circuitry located within the same device. Alternatively, the above examples may be implemented as any number of discrete integrated circuits or discrete devices interconnected with each other in any suitable manner, and other alterations, modifications, variations and alternatives are also possible. Accordingly, the specification and drawings are to be regarded in an illustrative rather than restrictive sense.

또한, 예를 들어, 전술한 예들 또는 그 일부는, 임의의 적절한 유형의 하드웨어 기술 언어와 같은, 물리적 회로 또는 물리적 회로로 변환 가능한 논리적 표현의 소프트웨어 또는 코드 표현으로서 구현될 수 있다.Also, for example, any of the foregoing examples or portions thereof may be implemented as a software or code representation of a physical circuit or a logical representation translatable to a physical circuit, such as any suitable type of hardware description language.

또한, 본 발명은 비 프로그래머블 하드웨어로 구현된 물리적 장치 또는 유닛으로 제한되지 않지만, 일반적으로 본원에서는 '컴퓨터 시스템'으로 표시되는 메인 프레임, 미니 컴퓨터, 서버, 워크스테이션, 개인용 컴퓨터, 노트패드(notepad), 개인용 디지털 정보 단말기(PDA), 전자 게임(electronic games), 자동차 및 기타 임베디드 시스템, 휴대전화 및 다양한 다른 무선 장치 등과 같은, 적절한 프로그램 코드에 따라 동작함으로써 원하는 장치 기능을 수행할 수 있는 프로그램 가능한 장치 또는 유닛에도 적용될 수 있다.In addition, the present invention is not limited to physical devices or units implemented with non-programmable hardware, but generally includes mainframes, mini computers, servers, workstations, personal computers, notepads, referred to herein as 'computer systems'. Programmable devices capable of performing desired device functions by operating in accordance with appropriate program code, such as personal digital assistants (PDAs), electronic games, automobiles and other embedded systems, mobile phones and various other wireless devices. Or it can be applied to units as well.

이 명세서에 언급된 시스템, 장치 또는 디바이스는 적어도 하나의 하드웨어 구성 요소를 포함한다.A system, apparatus or device referred to in this specification includes at least one hardware component.

본 명세서에 설명된 바와 같은 연결들은 예를 들어 중간 장치를 통해 각각의 노드, 유닛 또는 장치로부터 또는 각각의 노드, 유닛 또는 장치로 신호를 전송하기에 적합한 임의의 유형의 연결일 수 있다. 따라서, 묵시적으로 또는 달리 언급되지 않는 한, 연결은 예를 들어 직접 연결 또는 간접 연결일 수 있다. 연결은 단일 연결, 다수의 연결, 단방향 연결 또는 양방향 연결이라는 것을 참조하여 설명되거나 묘사될 수 있다. 그러나, 서로 다른 실시 예들은 연결의 구현을 변화시킬 수 있다. 예를 들어 양방향 연결이 아닌 별도의 단방향 연결을 사용할 수 있으며 그 반대의 경우도 가능할 수 있다. 또한, 다수의 연결은 복수의 신호를 순차적으로 또는 시간 다중화 방식으로 전송하는 단일 연결로 대체될 수 있다. 마찬가지로, 복수의 신호를 전송하는 단일 연결은 이러한 신호의 서브 세트를 전송하는 다양한 연결로 분리될 수 있다. 따라서 신호를 전송하기 위한 많은 옵션들이 존재한다.Connections as described herein may be any type of connection suitable for transmitting a signal from or to a respective node, unit or device via an intermediate device, for example. Thus, unless implicitly or otherwise stated, a connection may be, for example, a direct connection or an indirect connection. A connection may be described or described with reference to a single connection, multiple connections, unidirectional connections, or bidirectional connections. However, different embodiments may change the implementation of connectivity. For example, separate unidirectional connections can be used instead of bidirectional connections, and vice versa. Also, multiple connections may be replaced with a single connection that transmits a plurality of signals sequentially or in a time multiplexed manner. Likewise, a single connection carrying multiple signals can be broken into multiple connections carrying subsets of these signals. Therefore, many options exist for transmitting signals.

이상에서 본 명세서의 기술에 대한 바람직한 실시 예가 첨부된 도면들을 참조하여 설명되었다. 여기서, 본 명세서 및 청구 범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 아니되며, 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다. 본 발명의 범위는 본 명세서에 개시된 실시 예들로 한정되지 아니하고, 본 발명은 본 발명의 사상 및 특허청구범위에 기재된 범주 내에서 다양한 형태로 수정, 변경, 또는 개선될 수 있다.In the above, a preferred embodiment of the technology of this specification has been described with reference to the accompanying drawings. Here, terms or words used in this specification and claims should not be construed as being limited to ordinary or dictionary meanings, but should be interpreted as meanings and concepts consistent with the technical spirit of the present invention. The scope of the present invention is not limited to the embodiments disclosed herein, and the present invention can be modified, changed, or improved in various forms within the spirit of the present invention and the scope described in the claims.

10: 인물 이미지
20: 배경 이미지
30: 얼굴 이미지
40: 민머리 두상 이미지
50: 민머리 두상 배경 이미지
60: 비(非) 모발 마스크
61: 모발 영역
70: 민머리 인물 이미지
100: 민머리 인물 이미지 생성 장치
110: 통신부
120: 저장부
130: 제어부
10: Portrait image
20: background image
30: face image
40: bald head image
50: bald head background image
60: non-hair mask
61: hair area
70: Bald head portrait image
100: bald-headed person image generating device
110: communication department
120: storage unit
130: control unit

Claims (14)

민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법에 있어서,
인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하는 단계;
상기 인물 이미지에서 얼굴 영역을 추출하여 배경이 없는 얼굴 이미지를 생성하고, 상기 배경이 없는 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 배경이 없는 민머리 두상 이미지를 생성하되, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 배경이 없는 얼굴 이미지를 추출하고, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출한 배경이 없는 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거한 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 배경이 없는 민머리의 두상 이미지를 생성하도록 학습된 상기 인공신경망에 상기 배경이 없는 얼굴 이미지를 입력하여 상기 배경이 없는 민머리 두상 이미지를 생성하는 단계;
상기 배경 이미지 및 상기 배경이 없는 민머리 두상 이미지를 합성하여 배경이 있는 민머리 두상 이미지를 생성하는 단계;
상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하는 단계; 및
상기 비(非) 모발 마스크 및 상기 배경이 있는 민머리 두상 이미지를 합성하여 민머리 인물 이미지를 생성하는 단계;를 포함하는
민머리 인물 이미지 생성 방법.
In the method of generating a bald person image by a bald person image generating device,
segmenting the person image to extract a background mask from which the person object area is removed, and filling in the area from which the person object area is removed from the background mask with inpainting to generate a background image;
A face image without a background is generated by extracting a face region from the person image, and a bald head image without a background is generated by inputting the face image without a background to an artificial neural network that generates a head image in the face region. A face image without a background except for the hair part is extracted based on the feature points of the face, and a face region image without a background and a background of the face region image without a background and a background of the face image with the background extracted only the face region from the bald-headed person image with the background segmentation model When an arbitrary face area image is input to an image set consisting of a bare-headed person image without a background removed by , the artificial neural network that has been trained to create a bald-headed head image without a background by generating a head portion in the face area without the background generating a bald head image without the background by inputting a face image;
generating a bald head image with a background by synthesizing the background image and the bald head image without a background;
extracting a non-hair mask from which hair regions are removed by segmentation in the person image; and
generating a bald person image by synthesizing the bald head image with the non-hair mask and the background;
How to create an image of a bald-headed person.
삭제delete 삭제delete 제1 항에 있어서, 상기 배경이 없는 얼굴 이미지는,
Dlib 이미지 처리 도구를 이용하여 예측된 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 추출되는
것을 특징으로 하는 민머리 인물 이미지 생성 방법.
The method of claim 1, wherein the face image without a background,
Among the feature points predicted using the Dlib image processing tool, extracted based on the feature point corresponding to the face area
A method for generating a bald person image, characterized in that.
민머리 인물 이미지 생성 장치에 의한 민머리 인물 이미지 생성 방법에 있어서,
인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하는 단계;
상기 인물 이미지에서 얼굴 영역을 추출하여 배경이 없는 얼굴 이미지를 생성하고, 상기 배경이 없는 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 배경이 없는 민머리 두상 이미지를 생성하되, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 배경이 없는 얼굴 이미지를 추출하고, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출한 배경이 없는 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거한 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 배경이 없는 민머리의 두상 이미지를 생성하도록 학습된 상기 인공신경망에 상기 배경이 없는 얼굴 이미지를 입력하여 상기 배경이 없는 민머리 두상 이미지를 생성하는 단계;
상기 배경 이미지 및 상기 배경이 없는 민머리 두상 이미지를 합성하여 배경이 있는 민머리 두상 이미지를 생성하는 단계;
상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하는 단계;
상기 비(非) 모발 마스크에 기초하여 상기 배경이 있는 민머리 두상 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하는 단계; 및
상기 민머리 영역을 상기 인물 이미지에 중첩하여 민머리 인물 이미지를 생성하는 단계;를 포함하는
민머리 인물 이미지 생성 방법.
In the method of generating a bald person image by a bald person image generating device,
segmenting the person image to extract a background mask from which the person object area is removed, and filling in the area from which the person object area is removed from the background mask with inpainting to generate a background image;
A face image without a background is generated by extracting a face region from the person image, and a bald head image without a background is generated by inputting the face image without a background to an artificial neural network that generates a head image in the face region. A face image without a background except for the hair part is extracted based on the feature points of the face, and a face region image without a background and a background of the face region image without a background and a background of the face image with the background extracted only the face region from the bald-headed person image with the background segmentation model When an arbitrary face area image is input to an image set consisting of a bare-headed person image without a background removed by , the artificial neural network that has been trained to create a bald-headed head image without a background by generating a head portion in the face area without the background generating a bald head image without the background by inputting a face image;
generating a bald head image with a background by synthesizing the background image and the bald head image without a background;
extracting a non-hair mask from which hair regions are removed by segmentation in the person image;
extracting a bald head region corresponding to the hair region from the bald head image with the background based on the non-hair mask; and
Generating a bald person image by overlapping the bald head region on the character image;
How to create an image of a bald-headed person.
제5 항에 있어서,
상기 비(非) 모발 마스크에 기초하여 상기 배경이 있는 민머리 두상 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하는 단계는,
상기 비(非) 모발 마스크를 상기 민머리 두상 배경 이미지에 중첩하여 중첩 이미지를 생성하는 단계; 및
상기 중첩 이미지에서 상기 모발 영역에 대응되는 상기 민머리 영역을 추출하는 단계;를 포함하는
것을 특징으로 하는 민머리 인물 이미지 생성 방법.
According to claim 5,
The step of extracting a bald head region corresponding to the hair region from the bald head image with the background based on the non-hair mask,
generating an overlapping image by overlapping the non-hair mask on the background image of the bald head; and
Extracting the bald head region corresponding to the hair region from the overlapping image;
A method for generating a bald person image, characterized in that.
삭제delete 삭제delete 제5 항에 있어서, 상기 배경이 없는 얼굴 이미지는,
Dlib 이미지 처리 도구를 이용하여 예측된 특징점 중 얼굴 영역에 해당하는 특징점에 기초하여 추출되는
것을 특징으로 하는 민머리 인물 이미지 생성 방법.
The method of claim 5, wherein the face image without the background,
Among the feature points predicted using the Dlib image processing tool, extracted based on the feature point corresponding to the face area
A method for generating a bald person image, characterized in that.
저장부; 및
상기 저장부와 기능적으로 연결되는 제어부;를 포함하되,
상기 저장부는 상기 제어부에 의해 생성된 데이터를 저장하고,
상기 제어부는,
인물 이미지에서 세분화를 실시하여 인물 객체 영역을 제거한 배경 마스크를 추출하고, 상기 배경 마스크에서 상기 인물 객체 영역이 제거된 부분을 인페인팅으로 채워 넣어 배경 이미지를 생성하고,
상기 인물 이미지에서 얼굴 영역을 추출하여 배경이 없는 얼굴 이미지를 생성하고, 상기 배경이 없는 얼굴 이미지를 얼굴 영역에서 두상을 생성하는 인공신경망에 입력하여 배경이 없는 민머리 두상 이미지를 생성하되, 상기 인물 이미지에서 얼굴의 특징점에 기초하여 모발 부분을 제외한 배경이 없는 얼굴 이미지를 추출하고, 배경이 있는 민머리 인물 이미지로부터 얼굴 영역만을 추출한 배경이 없는 얼굴 영역 이미지 및 상기 배경이 있는 민머리 인물 이미지의 배경을 세분화 모델로 제거한 배경이 없는 민머리 인물 이미지로 구성되는 이미지 셋으로 임의의 얼굴 영역 이미지가 입력되면 얼굴 영역에서 두상 부분을 생성하여 배경이 없는 민머리의 두상 이미지를 생성하도록 학습된 상기 인공신경망에 상기 배경이 없는 얼굴 이미지를 입력하여 상기 배경이 없는 민머리 두상 이미지를 생성하고,
상기 배경 이미지 및 상기 배경이 없는 민머리 두상 이미지를 합성하여 배경이 있는 민머리 두상 이미지를 생성하고,
상기 인물 이미지에서 세분화를 실시하여 모발 영역을 제거한 비(非) 모발 마스크를 추출하고,
상기 비(非) 모발 마스크 및 상기 배경이 있는 민머리 두상 이미지를 합성하여 제1 민머리 인물 이미지를 생성하거나, 또는 상기 비(非) 모발 마스크에 기초하여 상기 배경이 있는 민머리 두상 이미지로부터 상기 모발 영역에 대응되는 민머리 영역을 추출하고, 상기 민머리 영역을 상기 인물 이미지에 중첩하여 제2 민머리 인물 이미지를 생성하는
민머리 인물 이미지 생성 장치.
storage unit; and
Including; a control unit functionally connected to the storage unit;
The storage unit stores data generated by the controller,
The control unit,
segmentation is performed on the person image to extract a background mask from which the person object area is removed, and a background image is created by filling in the part from which the person object area is removed from the background mask with inpainting;
A face image without a background is generated by extracting a face region from the person image, and a bald head image without a background is generated by inputting the face image without a background to an artificial neural network that generates a head image in the face region. A face image without a background except for the hair part is extracted based on the feature points of the face, and a face region image without a background and a background of the face region image without a background and a background of the face image with the background extracted only the face region from the bald-headed person image with the background segmentation model When an arbitrary face area image is input to an image set consisting of a bare-headed person image without a background removed by , the artificial neural network that has been trained to create a bald-headed head image without a background by generating a head portion in the face area without the background Inputting a face image to generate a bald head image without the background;
synthesizing the background image and the bald head image without a background to generate a bald head image with a background;
Segmentation is performed on the person image to extract a non-hair mask from which the hair region is removed;
A first bald person image is generated by synthesizing the non-hair mask and the bald head image with the background, or the hair region is generated from the bald head image with the background based on the non-hair mask. Extracting a corresponding bald head area and overlapping the bald head area on the person image to generate a second bald person image
An apparatus for generating images of bald-headed people.
삭제delete 제10 항에 있어서, 상기 제어부는,
상기 비(非) 모발 마스크를 상기 민머리 두상 배경 이미지에 중첩하여 중첩 이미지를 생성하고, 상기 중첩 이미지에서 상기 모발 영역에 대응되는 상기 민머리 영역을 추출하는
것을 특징으로 하는 민머리 인물 이미지 생성 장치.
11. The method of claim 10, wherein the control unit,
Overlaying the non-hair mask on the bald head background image to generate an overlapping image, and extracting the bald head region corresponding to the hair region from the overlapping image
An apparatus for generating a bald person image, characterized in that.
삭제delete 하드웨어와 결합되어,
제1 항, 제4 항 내지 제6 항, 및 제9 항 중 어느 한 항에 따른 민머리 인물 이미지 생성 방법이 포함하는 각 단계를 실행시키기 위하여 컴퓨터로 읽을 수 있는 기록매체에 저장된 컴퓨터프로그램.
combined with hardware
A computer program stored in a computer-readable recording medium to execute each step included in the method of generating a bald-headed person image according to any one of claims 1, 4 to 6, and 9.
KR1020220122748A 2022-09-27 2022-09-27 Apparatus and method for generating a hairless head person image for a virtual hair styling experience KR102538783B1 (en)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020220122748A KR102538783B1 (en) 2022-09-27 2022-09-27 Apparatus and method for generating a hairless head person image for a virtual hair styling experience
PCT/KR2023/014604 WO2024071884A1 (en) 2022-09-27 2023-09-25 Apparatus and method for generating image of bald head person, virtual hair styling experience apparatus comprising apparatus for generating bald head person image, and virtual hair styling method using same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220122748A KR102538783B1 (en) 2022-09-27 2022-09-27 Apparatus and method for generating a hairless head person image for a virtual hair styling experience

Publications (1)

Publication Number Publication Date
KR102538783B1 true KR102538783B1 (en) 2023-06-01

Family

ID=86770544

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220122748A KR102538783B1 (en) 2022-09-27 2022-09-27 Apparatus and method for generating a hairless head person image for a virtual hair styling experience

Country Status (2)

Country Link
KR (1) KR102538783B1 (en)
WO (1) WO2024071884A1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024071884A1 (en) * 2022-09-27 2024-04-04 주식회사 미러로이드 Apparatus and method for generating image of bald head person, virtual hair styling experience apparatus comprising apparatus for generating bald head person image, and virtual hair styling method using same

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100839536B1 (en) * 2006-12-15 2008-06-19 주식회사 케이티 System and method for facial region/hair information extraction, character generation
KR20130029482A (en) * 2011-09-15 2013-03-25 김보경 System, method and computer readable recording medium for simulating hair style
US20140119642A1 (en) * 2010-04-05 2014-05-01 Flashfoto, Inc. Segmenting Human Hairs and Faces
KR20190052832A (en) * 2017-11-09 2019-05-17 (주)코아시아 3D simulation system for hair-styling
KR20190114586A (en) * 2018-03-30 2019-10-10 정순오 Method and apparatus for hair styling service
JP2020518051A (en) * 2017-08-17 2020-06-18 平安科技(深▲せん▼)有限公司Ping An Technology (Shenzhen) Co.,Ltd. Face posture detection method, device and storage medium
KR20220051376A (en) * 2019-08-28 2022-04-26 스냅 인코포레이티드 3D Data Generation in Messaging Systems
KR20220081018A (en) * 2020-12-08 2022-06-15 주식회사 미러로이드 Hair styling service providing system and hair image extraction apparatus and method for extracting hair image using the same

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102538783B1 (en) * 2022-09-27 2023-06-01 주식회사 미러로이드 Apparatus and method for generating a hairless head person image for a virtual hair styling experience

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100839536B1 (en) * 2006-12-15 2008-06-19 주식회사 케이티 System and method for facial region/hair information extraction, character generation
US20140119642A1 (en) * 2010-04-05 2014-05-01 Flashfoto, Inc. Segmenting Human Hairs and Faces
KR20130029482A (en) * 2011-09-15 2013-03-25 김보경 System, method and computer readable recording medium for simulating hair style
JP2020518051A (en) * 2017-08-17 2020-06-18 平安科技(深▲せん▼)有限公司Ping An Technology (Shenzhen) Co.,Ltd. Face posture detection method, device and storage medium
KR20190052832A (en) * 2017-11-09 2019-05-17 (주)코아시아 3D simulation system for hair-styling
KR20190114586A (en) * 2018-03-30 2019-10-10 정순오 Method and apparatus for hair styling service
KR20220051376A (en) * 2019-08-28 2022-04-26 스냅 인코포레이티드 3D Data Generation in Messaging Systems
KR20220081018A (en) * 2020-12-08 2022-06-15 주식회사 미러로이드 Hair styling service providing system and hair image extraction apparatus and method for extracting hair image using the same

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
Yiqian, et al., HairMapper Removing Hair from Portraits Using GANs, IEEE Conference on Computer Vision and Pattern Recognition(CVPR)(2022.06.24.)* *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2024071884A1 (en) * 2022-09-27 2024-04-04 주식회사 미러로이드 Apparatus and method for generating image of bald head person, virtual hair styling experience apparatus comprising apparatus for generating bald head person image, and virtual hair styling method using same

Also Published As

Publication number Publication date
WO2024071884A1 (en) 2024-04-04

Similar Documents

Publication Publication Date Title
KR102658960B1 (en) System and method for face reenactment
US11741940B2 (en) Text and audio-based real-time face reenactment
CN106887225B (en) Acoustic feature extraction method and device based on convolutional neural network and terminal equipment
CN110349232B (en) Image generation method and device, storage medium and electronic equipment
KR102538783B1 (en) Apparatus and method for generating a hairless head person image for a virtual hair styling experience
KR20210119441A (en) Real-time face replay based on text and audio
KR102346755B1 (en) Method and apparatus for generating speech video of using audio signal
KR102437039B1 (en) Learning device and method for generating image
KR102491291B1 (en) Apparatus and method for recommending hairstyles
CN114187547A (en) Target video output method and device, storage medium and electronic device
CN113299312A (en) Image generation method, device, equipment and storage medium
CN112989935A (en) Video generation method, device, equipment and storage medium
CN117440114A (en) Virtual image video generation method, device, equipment and medium
CN116309911A (en) Human body image generation model, construction method, device and application thereof
KR102584436B1 (en) System, user device and method for providing automatic interpretation service based on speaker separation
CN110321802B (en) Face image generation method and apparatus, storage device and electronic device
CN115577336A (en) Biological identification processing method, device and equipment
CN113887498A (en) Face recognition method, device, equipment and storage medium
CN113469292A (en) Training method, synthesizing method, device, medium and equipment for video synthesizing model
CN114187173A (en) Model training method, image processing method and device, electronic device and medium
KR102645659B1 (en) Apparatus and method for performing wireless communication based on neural network model
CN114445510A (en) Image optimization method and device, electronic equipment and storage medium
CN113657136A (en) Identification method and device
CN113838159B (en) Method, computing device and storage medium for generating cartoon images
CN111259686A (en) Image analysis method and device

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant