KR20220122457A

KR20220122457A - Method for de-identifying face and body contained in video data, and device performing the same

Info

Publication number: KR20220122457A
Application number: KR1020210120907A
Authority: KR
Inventors: 김진아; 장성수
Original assignee: 주식회사 스마트랩스
Priority date: 2021-02-26
Filing date: 2021-09-10
Publication date: 2022-09-02
Also published as: KR20230038086A; KR20230038088A; KR102665700B1; KR20220122458A; KR20220122455A; KR20220122456A; KR20230038087A

Abstract

Disclosed are a method for de-identifying a face and a body included in image data and an apparatus for performing the same. A de-identification method for de-identifying face and body information according to various embodiments includes the operations of: detecting a bounding box of at least one of a face and a body included in an input image; obtaining first input data from the input image by performing extracting segmentation along the at least one boundary line included in the bounding box; obtaining second input data by extracting a landmark capable of informing the characteristics and angles of elements constituting at least one of the first input data; and inputting the first input data and the second input data into a de-identification model to obtain an image in which at least one of the input image is de-identified. At least one between the face and the body can be de-identified.

Description

Method for face and body de-identification included in image data and apparatus for performing the same

본 발명의 다양한 실시예는 영상 데이터에 포함된 얼굴 및 신체 비식별화 방법 및 이를 수행하기 위한 장치에 관한 것이다.Various embodiments of the present invention relate to a face and body de-identification method included in image data and an apparatus for performing the same.

생성적 적대 신경망(generative adversarial network(GAN))은 딥러닝 모델 중 데이터셋과 유사한 이미지를 생성할 때 주로 쓰이는 모델이다. GAN은 Ian Goodfellow가 2014년도 논문으로 아이디어를 발표하여 처음 소개된 학습 방식이다. 심층 신경망 모델(deep neural network(DNN))들의 지속적인 발전에 기반하여서 GAN 모델들의 다양한 연구가 진행되고 GAN을 기반으로 한 이미지 생성 기술이 발전하고 있다.A generative adversarial network (GAN) is a model mainly used to generate images similar to datasets among deep learning models. GAN is a learning method first introduced by Ian Goodfellow in his 2014 paper. Based on the continuous development of deep neural networks (DNNs), various studies of GAN models are in progress, and image generation technology based on GANs is being developed.

위에서 설명한 배경기술은 발명자가 본원의 개시 내용을 도출하는 과정에서 보유하거나 습득한 것으로서, 반드시 본 출원 전에 일반 공중에 공개된 공지기술이라고 할 수는 없다.The background art described above is possessed or acquired by the inventor in the process of deriving the disclosure of the present application, and cannot necessarily be said to be a known technology disclosed to the general public prior to the present application.

기존의 GAN 및 원본 이미지를 기반으로 가상의 이미지를 생성하는 기술은 생성된 이미지가 원본 이미지의 특징 및 각도를 유지하지 못할 수 있다. In a technology for generating a virtual image based on the existing GAN and the original image, the generated image may not maintain the characteristics and angle of the original image.

이에 원본 이미지에 포함되어 있는 사람 얼굴 및 신체의 기본 구조(예: 눈, 코, 입 위치, 관절의 위치, 방향 등) 및 각도를 유지한 채 다른 생김새의 존재하지 않는 가상 얼굴 및 가상 신체 중 어느 하나를 생성하는 방법이 요구될 수 있다.Therefore, any of the non-existent virtual faces and virtual bodies of different appearances while maintaining the basic structures (eg, eye, nose, mouth positions, joint positions, directions, etc.) and angles of the human face and body included in the original image A method to create one may be required.

다양한 실시예들은 원본 이미지로부터 추출한 랜드마크에 기초하여 원본 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나에 대응하는 가상 이미지를 생성하고, 원본 이미지에 가상 이미지를 합성함으로써 얼굴 및 신체 중 적어도 어느 하나를 비식별화하는 기술을 제공할 수 있다.Various embodiments generate a virtual image corresponding to at least one of the face and the body included in the original image based on the landmark extracted from the original image, and synthesize at least one of the face and the body by synthesizing the virtual image with the original image. De-identification techniques can be provided.

다만, 기술적 과제는 상술한 기술적 과제들로 한정되는 것은 아니며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical problems are not limited to the above-described technical problems, and other technical problems may exist.

다양한 실시예에 따른 얼굴 및 신체 중에서 하나 이상을 비식별화하는 비식별화 모델을 생성 방법은 샘플 데이터 셋을 수집하는 동작과 상기 샘플 데이터 셋 및 랜덤 노이즈(random noise)에 기초하여 비식별화 모델을 생성하는 동작을 포함할 수 있다.A method of generating a de-identification model for de-identifying one or more of a face and a body according to various embodiments includes an operation of collecting a sample data set and a de-identification model based on the sample data set and random noise may include an operation to create

상기 샘플 데이터 셋은 상기 얼굴 및 신체 중 적어도 하나에 대응하는 부분을 포함하는 제1 샘플 데이터와 상기 제1 샘플 데이터로부터 랜드마크를 추출한 제2 샘플 데이터를 포함할 수 있다.The sample data set may include first sample data including a part corresponding to at least one of the face and body, and second sample data obtained by extracting a landmark from the first sample data.

상기 생성하는 동작은 상기 제2 샘플 데이터 및 상기 랜덤 노이즈를 상기 비식별화 모델에 포함된 생성기에 입력시켜 상기 생성기를 학습시키는 동작, 상기 제1 샘플 데이터에 포함된 상기 적어도 어느 하나의 경계를 둘러싼 경계 상자(bounding box)를 검출하는 동작과 상기 경계 상자에 포함된 상기 적어도 어느 하나의 경계선을 따라 추출한 이미지, 상기 제2 샘플 데이터, 및 상기 생성기의 출력을 상기 비식별화 모델에 포함된 판별기에 입력시켜 상기 판별기를 학습시키는 동작을 포함할 수 있다.The generating may include inputting the second sample data and the random noise to a generator included in the de-identification model to train the generator, and enclosing the at least one boundary included in the first sample data. An operation of detecting a bounding box, an image extracted along at least one boundary line included in the bounding box, the second sample data, and the output of the generator are applied to the discriminator included in the de-identification model. It may include an operation of learning the discriminator by inputting it.

상기 비식별화 모델 생성 방법은 상기 판별기의 출력을 사용하여 상기 생성기 및 상기 판별기를 학습시키는 동작을 더 포함할 수 있다.The method of generating the de-identification model may further include training the generator and the discriminator using the output of the discriminator.

상기 추출된 이미지는 상기 경계 박스에 얼굴이 포함된 경우, 상기 제1 샘플 데이터에서 배경 및 머리카락이 제거된 것이고, 상기 경계 박스에 신체가 포함된 경우, 상기 제1 샘플 데이터에서 배경이 제거된 것일 수 있다.In the extracted image, when a face is included in the bounding box, the background and hair are removed from the first sample data, and when a body is included in the bounding box, the background is removed from the first sample data. can

다양한 실시예에 따른 얼굴 및 신체 중에서 하나 이상을 비식별화하는 방법은 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계부 박스(bounding box)를 검출하는 동작, 상기 입력 이미지에서 상기 경계 박스에 포함된 상기 적어도 어느 하나의 경계선을 따라 추출하여 제1 입력 데이터를 획득하는 동작, 상기 제1 입력 데이터에서 상기 적어도 어느 하나를 구성하는 요소의 특징 및 각도를 알 수 있는 랜드마크를 추출하여 제2 입력 데이터를 획득하는 동작과 상기 제1 입력 데이터 및 상기 제2 입력 데이터를 비식별화 모델에 입력시켜 상기 입력 이미지에서 상기 적어도 어느 하나가 비식별화된 이미지를 생성하는 동작을 포함할 수 있다.A method of de-identifying one or more of a face and a body according to various embodiments includes detecting a bounding box of at least one of a face and a body included in an input image; An operation of obtaining first input data by extracting along the included at least one boundary line, and extracting a landmark through which the characteristics and angles of the elements constituting the at least one from the first input data can be obtained to obtain a second input data It may include an operation of acquiring input data and an operation of generating an image in which the at least one is de-identified from the input image by inputting the first input data and the second input data into a de-identification model.

상기 제1 입력 데이터는 상기 경계 박스에 얼굴이 포함된 경우, 상기 입력 이미지에서 배경 및 머리카락이 제거된 것이고, 상기 경계 박스에 신체가 포함된 경우, 상기 입력 이미지에서 배경이 제거된 것일 수 있다.The first input data may include a background and hair removed from the input image when a face is included in the bounding box, and a background removed from the input image when a body is included in the bounding box.

상기 비식별화된 이미지를 생성하는 동작은 가상 이미지를 생성하는 동작을 포함하고, 상기 가상 이미지는 상기 제2 입력 데이터의 정보를 유지한 채 상기 제1 입력 데이터와는 다른 생김새의 가상 얼굴 및 가상 신체 중 적어도 어느 하나인 것일 수 있다.The generating of the de-identified image includes generating a virtual image, wherein the virtual image includes a virtual face and a virtual face different from the first input data while maintaining information on the second input data. It may be at least any one of the body.

상기 비식별화된 이미지를 생성하는 동작은 상기 가상 이미지를 상기 입력 이미지에 합성하는 동작을 더 포함할 수 있다.The generating of the de-identified image may further include synthesizing the virtual image with the input image.

상기 합성하는 동작은 상기 입력 이미지에서 검출된 상기 경계 박스의 좌표에 기초하여 상기 가상 얼굴 및 가상 신체 중 적어도 어느 하나를 합성하는 동작을 포함할 수 있다.The synthesizing may include synthesizing at least one of the virtual face and the virtual body based on coordinates of the bounding box detected in the input image.

다양한 실시예에 따른 얼굴 및 신체 중에서 하나 이상을 비식별화하는 장치는 인스터럭션들을 포함하는 메모리 및 상기 메모리와 전기적으로 연결되고, 상기 인스트럭션들을 실행하기 위한 프로세서를 포함하고, 상기 프로세서에 의해 상기 인스트럭션들이 실행될 때, 상기 프로세서는, 입력 이미지에서 상기 얼굴 및 신체 중에서 적어도 어느 하나의 경계 박스(bounding box)를 검출하고, 상기 입력 이미지에서 상기 경계 박스에 기초하여 상기 적어도 어느 하나의 경계선을 따라 추출하여 제1 입력 데이터를 획득하고, 상기 제1 입력 데이터에서 상기 적어도 어느 하나를 구성하는 요소의 특징 및 각도를 알 수 있는 랜드마크를 추출하여 제2 입력 데이터를 획득하고, 상기 제1 입력 데이터 및 상기 제2 입력 데이터를 비식별화 모델에 입력시켜 상기 입력 이미지에서 상기 적어도 어느 하나가 비식별화된 이미지를 생성할 수 있다.An apparatus for de-identifying one or more of a face and a body according to various embodiments includes a memory including instructions and a processor electrically connected to the memory and configured to execute the instructions; When the instructions are executed, the processor detects at least one bounding box among the face and the body in the input image, and extracts it along the at least one boundary line based on the bounding box in the input image. to obtain the first input data, and extract the landmarks that can know the characteristics and angles of the elements constituting the at least one from the first input data to obtain the second input data, and the first input data and By inputting the second input data to the de-identification model, an image in which at least one of the at least one de-identification from the input image may be generated.

상기 프로세서는 가상 이미지를 생성하고, 상기 가상 이미지는 상기 제2 입력 데이터의 정보를 유지한 채 상기 제1 입력 데이터와는 다른 생김새의 가상 얼굴 및 가상 신체 중 적어도 어느 하나인 것일 수 있다.The processor may generate a virtual image, and the virtual image may be at least one of a virtual face and a virtual body having a different appearance from the first input data while maintaining information on the second input data.

상기 프로세서는 상기 가상 이미지를 상기 입력 이미지에 합성할 수 있다.The processor may combine the virtual image with the input image.

상기 프로세서는 상기 수신 이미지에서 검출된 상기 경계 박스의 좌표에 기초하여 상기 가상 얼굴 및 가상 신체 중 적어도 어느 하나를 합성할 수 있다.The processor may synthesize at least one of the virtual face and the virtual body based on coordinates of the bounding box detected in the received image.

도 1은 다양한 실시예에 따른 개인식별정보의 비식별화를 수행하는 전자 장치의 블록도이다.
도 2는 도 1에 도시된 객체 탐지기의 동작의 일 예를 설명하기 위한 도면이다.
도 3은 도 1에 도시된 비식별화 모델의 블록도이다.
도 4는 다양한 실시예에 따른 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.
도 5는 다양한 실시예에 따른 제1 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.
도 6은 다양한 실시예에 따른 전자 장치의 동작 방법의 일 예에 대한 흐름도이다.
도 7은 다양한 실시예에 따른 전자 장치의 동작 방법의 다른 예에 대한 흐름도이다.
도 8은 다양한 실시예에 따른 전자 장치의 다른 예를 나타낸다.1 is a block diagram of an electronic device that performs de-identification of personal identification information according to various embodiments of the present disclosure;
FIG. 2 is a diagram for explaining an example of an operation of the object detector shown in FIG. 1 .
FIG. 3 is a block diagram of the de-identification model shown in FIG. 1 .
4 is a diagram for describing an operation of generating a de-identification model according to various embodiments of the present disclosure;
5 is a diagram for describing an operation of generating a first de-identification model according to various embodiments of the present disclosure;
6 is a flowchart illustrating an example of a method of operating an electronic device according to various embodiments of the present disclosure;
7 is a flowchart of another example of a method of operating an electronic device according to various embodiments of the present disclosure;
8 illustrates another example of an electronic device according to various embodiments.

실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 구현될 수 있다. 따라서, 실제 구현되는 형태는 개시된 특정 실시예로만 한정되는 것이 아니며, 본 명세서의 범위는 실시예들로 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.Specific structural or functional descriptions of the embodiments are disclosed for purposes of illustration only, and may be changed and implemented in various forms. Accordingly, the actual implementation form is not limited to the specific embodiments disclosed, and the scope of the present specification includes changes, equivalents, or substitutes included in the technical spirit described in the embodiments.

제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.Although terms such as first or second may be used to describe various elements, these terms should be interpreted only for the purpose of distinguishing one element from another. For example, a first component may be termed a second component, and similarly, a second component may also be termed a first component.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.When a component is referred to as being “connected” to another component, it may be directly connected or connected to the other component, but it should be understood that another component may exist in between.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The singular expression includes the plural expression unless the context clearly dictates otherwise. In this specification, terms such as "comprise" or "have" are intended to designate that the described feature, number, step, operation, component, part, or combination thereof exists, and includes one or more other features or numbers, It should be understood that the possibility of the presence or addition of steps, operations, components, parts or combinations thereof is not precluded in advance.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art. Terms such as those defined in a commonly used dictionary should be interpreted as having a meaning consistent with the meaning in the context of the related art, and should not be interpreted in an ideal or excessively formal meaning unless explicitly defined in the present specification. does not

이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. In the description with reference to the accompanying drawings, the same components are assigned the same reference numerals regardless of the reference numerals, and the overlapping description thereof will be omitted.

도 1은 다양한 실시예에 따른 개인식별정보의 비식별화를 수행하는 전자 장치의 블록도이다. 도 2는 도 1에 도시된 객체 탐지기의 동작의 일 예를 설명하기 위한 도면이다.1 is a block diagram of an electronic device that performs de-identification of personal identification information according to various embodiments of the present disclosure; FIG. 2 is a diagram for explaining an example of an operation of the object detector shown in FIG. 1 .

도 1 및 도 2를 참조하면, 다양한 실시예에 따르면, 전자 장치(100)는 객체 탐지기(110) 및 비식별화 모델(140)를 포함할 수 있다. 비식별화 모델(140)은 도 4 및 도 5를 참조하여 후술할 동작에 의해서 생성(예: 학습)된 것일 수 있다.1 and 2 , according to various embodiments, the electronic device 100 may include an object detector 110 and a de-identification model 140 . The de-identification model 140 may be generated (eg, learned) by an operation to be described later with reference to FIGS. 4 and 5 .

다양한 실시예에 따르면, 전자 장치(100)는 원본 미디어 내 객체의 특징 및 각도를 유지하면서도 다양한 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)를 비식별화할 수 있다. 객체의 특징이 여전히 유지되기 때문에, 비식별화된 미디어는 학습 데이터로서의 가치를 보존할 수 있다. 예를 들어, 자율 주행을 위한 주행 학습 데이터를 수집할 때 보행자 영역을 blurring이나 blocking방식을 사용한다면 미디어의 학습 데이터로서의 가치가 상실될 수 있다. 전자 장치(100)가 원본 미디어에서 객체의 특징 및 각도를 유지하면서 개인식별정보만 비식별화함으로써, 보행자가 누구인지는 알 수 없으나, 보행자라는 객체의 특징이 유지되어 학습에 사용하기에 적합할 수 있다.According to various embodiments, the electronic device 100 may de-identify various personal identification information (eg, face, body, license plate, name plate, signboard, etc.) while maintaining the characteristics and angle of the object in the original media. Since the characteristics of the object are still maintained, the de-identified media can preserve its value as learning data. For example, if blurring or blocking methods are used for pedestrian areas when collecting driving learning data for autonomous driving, the value as learning data for media may be lost. Since the electronic device 100 de-identifies only personal identification information while maintaining the characteristics and angles of the object in the original media, it is not possible to know who the pedestrian is, but the characteristic of the object called a pedestrian is maintained and suitable for use in learning. can

다양한 실시예에 따르면, 객체 탐지기(110)는 원본 미디어를 획득(예: 수신)할 수 있다. 원본 미디어는 외부로부터 수집된 것일 수 있다. 객체 탐지기(110)는 원본 미디어에 포함된 하나 이상의 객체(예: 보행자, 차량 등)를 탐지하여 객체가 탐지된 제1 이미지를 출력할 수 있다.According to various embodiments, the object detector 110 may obtain (eg, receive) the original media. The original media may be collected from outside. The object detector 110 may detect one or more objects (eg, a pedestrian, a vehicle, etc.) included in the original media and output a first image in which the object is detected.

다양한 실시예에 따르면, 객체 탐지기(110)의 동작 일 예는 도 2에 도시된 바와 같을 수 있다. 동작 210에서, 객체 탐지기(110)는 원본 미디어에 대해 관심있는 객체를 식별하는 오브젝트 디텍션(object detection)을 수행할 수 있다. 예를 들어, 객체 탐지기(110)는 frame differencing, optical flow, background subtraction, 또는 그와 실질적으로 동일한 기능을 하는 알고리즘 중에서 하나 이상을 이용하여 오브젝트 디텍션을 수행할 수 있다. 동작 220에서, 객체 탐지기(110)는 수신한 원본 미디어가 연속된 이미지로 이루어진 영상인지의 여부를 판단할 수 있다. 원본 미디어가 영상이 아닌 단일 이미지일 경우, 객체 탐지기(110)는 원본 미디어에 대한 오브젝트 디텍션 수행 결과를 출력할 수 있다. 원본 미디어가 연속된 이미지일 경우, 객체 탐지기(110)는 연속된 이미지의 프레임에 걸쳐 동일 객체라고 판단된 객체를 추적하는 오브젝트 트래킹(object tracking)을 수행할 수 있다. 예를 들어, 객체 탐지기(110)는 point tracking, kernel tracking, silhouette 또는 그와 실질적으로 동일한 기능을 하는 알고리즘 중에서 하나 이상을 이용하여 오브젝트 트래킹을 수행할 수 있다.According to various embodiments, an example of an operation of the object detector 110 may be as shown in FIG. 2 . In operation 210 , the object detector 110 may perform object detection to identify an object of interest on the original media. For example, the object detector 110 may perform object detection by using one or more of frame differencing, optical flow, background subtraction, or an algorithm having substantially the same function. In operation 220 , the object detector 110 may determine whether the received original media is an image composed of continuous images. When the original media is a single image rather than an image, the object detector 110 may output a result of performing object detection on the original media. When the original media is a continuous image, the object detector 110 may perform object tracking of tracking an object determined to be the same object over a frame of the continuous image. For example, the object detector 110 may perform object tracking by using one or more of point tracking, kernel tracking, silhouette, or an algorithm having substantially the same function.

다양한 실시예에 따르면, 비식별화 모델(140)은 객체 탐지기(110)로부터 출력된 제1 이미지를 수신할 수 있다. 제1 이미지는 개인식별정보를 포함할 수 있다. 비식별화 모델(140)은 제1 이미지에서 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)에 대응하는 부분이 분할된 이미지를 생성할 수 있다. 또한, 비식별화 모델(140)은 개인식별정보에 대응하는 가상 이미지를 생성할 수 있다. 비식별화 모델(140)은 원본 미디어 및 제1 이미지에 기초하여 원본 미디어에 가상 이미지가 반영된 이미지를 생성할 수 있다. 예를 들어, 비식별화 모델(140)은 분할된 이미지의 위치에 기초하여 원본 미디어에 가상 이미지를 합성함으로써 제1 이미지의 개인식별정보가 비식별화된 제2 이미지를 생성할 수 있다.According to various embodiments, the de-identification model 140 may receive the first image output from the object detector 110 . The first image may include personal identification information. The de-identification model 140 may generate an image in which a portion corresponding to personal identification information (eg, face, body, vehicle license plate, name plate, signboard, etc.) is divided in the first image. Also, the de-identification model 140 may generate a virtual image corresponding to the personal identification information. The de-identification model 140 may generate an image in which the virtual image is reflected in the original media based on the original media and the first image. For example, the de-identification model 140 may generate a second image in which the personal identification information of the first image is de-identified by synthesizing a virtual image with the original media based on the location of the divided image.

도 3은 다양한 실시예에 따른, 도 1에 포함된 비식별화 모델의 블록도이다.3 is a block diagram of a de-identification model included in FIG. 1 , according to various embodiments of the present disclosure;

도 3을 참조하면, 다양한 실시예에 따르면, 비식별화 모델(140)은 분할 모델(150), 제1 비식별화 모델(160), 및 제2 비식별화 모델(170)를 포함할 수 있다. 제1 비식별화 모델(160)은 도 4 및 도 5를 참조하여 후술할 동작에 의해서 생성(예: 학습)된 것일 수 있다.Referring to FIG. 3 , according to various embodiments, the de-identification model 140 may include a segmentation model 150 , a first de-identification model 160 , and a second de-identification model 170 . have. The first de-identification model 160 may be generated (eg, learned) by an operation to be described later with reference to FIGS. 4 and 5 .

다양한 실시예에 따르면, 분할 모델(150)은 제1 이미지를 수신할 수 있다. 제1 이미지는 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)를 포함할 수 있다. 분할 모델(150)은 제1 이미지에서 개인식별정보에 상응하는 부분을 분할할 수 있다. 분할 모델(150)은 세그멘테이션 네트워크(155)(예: CNN 기반의 세그멘테이션 네트워크)를 포함할 수 있다.According to various embodiments, the segmentation model 150 may receive the first image. The first image may include personal identification information (eg, face, body, vehicle license plate, name plate, signboard, etc.). The segmentation model 150 may segment a portion corresponding to the personal identification information in the first image. The segmentation model 150 may include a segmentation network 155 (eg, a CNN-based segmentation network).

다양한 실시예에 따르면, 분할 모델(150)은 제1 이미지에 기초하여 계층정보 데이터를 생성할 수 있다. 예를 들어, 분할 모델(150)은 제1 이미지에 포함된 객체의 정보를 추출하여 계층화함으로써 계층정보 데이터를 생성할 수 있다.According to various embodiments, the segmentation model 150 may generate hierarchical information data based on the first image. For example, the segmentation model 150 may generate hierarchical information data by extracting and layering information on an object included in the first image.

다양한 실시예에 따르면, 세그멘테이션 네트워크(155)는 제1 이미지를 수신하여 제1 이미지의 개인식별정보에 대응되는 부분이 분할된 이미지를 생성하고, 분할된 이미지를 출력할 수 있다.According to various embodiments, the segmentation network 155 may receive the first image, generate an image in which a portion corresponding to personal identification information of the first image is divided, and output the divided image.

다양한 실시예에 따르면, 비식별화 모델(140)은 객체의 종류에 기초하여 분할 모델(150)의 출력(예: 분할된 이미지)을 분류하여 제1 비식별화 모델(160) 또는 제2 비식별화 모델(170)로 출력하는 분류기(미도시)를 더 포함할 수 있다. 객체가 보행자인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 제1 비식별화 모델(160)로 출력될 수 있고, 객체가 사물(예: 자동차, 간판 등)인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 제2 비식별화 모델(170)로 출력될 수 있다.According to various embodiments, the de-identification model 140 classifies the output (eg, a segmented image) of the segmentation model 150 based on the type of the object to obtain the first de-identification model 160 or the second de-identification model 160 . It may further include a classifier (not shown) output to the identification model 170 . When the object is a pedestrian, the output of the segmented model 150 (eg, a segmented image) may be output to the first de-identification model 160, and when the object is a thing (eg, a car, a signboard, etc.) An output of the segmentation model 150 (eg, a segmented image) may be output as the second de-identification model 170 .

다양한 실시예에 따르면, 제1 비식별화 모델(160)은 입력 이미지(예: 분할된 이미지)를 수신하여 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나를 비식별화된 이미지를 생성할 수 있다. 제1 비식별화 모델(160)은 GAN 네트워크(165)를 포함할 수 있다.According to various embodiments, the first de-identification model 160 may receive an input image (eg, a segmented image) and generate a de-identified image of at least one of a face and a body included in the input image. have. The first de-identification model 160 may include a GAN network 165 .

다양한 실시예에 따른 제1 비식별화 모델(160)은 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계를 둘러싼 경계 박스(bounding box)를 추출할 수 있다. 예를 들어, 제1 비식별화 모델(160)은 MTCNN 또는 그와 실질적으로 동일한 기능을 하는 알고리즘을 이용하여 경계 박스를 추출할 수 있다. 제1 비식별화 모델(160)은 경계 박스에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계선을 따라 추출(예: 세그멘테이션(segmentation))하여 제1 입력 데이터를 획득할 수 있다. 경계 박스에 얼굴이 포함된 경우에는 제1 입력 데이터는 입력 이미지에서 배경 및 머리카락이 제거된 얼굴 이미지이고, 경계 박스에 신체가 포함된 경우에는 제1 입력 데이터는 입력 이미지에서 배경이 제거된 신체 이미지일 수 있다. 제1 비식별화 모델(160)은 제1 입력 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나의 랜드마크를 추출하여 제2 입력 데이터를 획득할 수 있다. 제2 입력 데이터는 제1 입력 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나를 구성하는 요소의 특징 및 각도에 대한 정보를 포함할 수 있다.The first de-identification model 160 according to various embodiments may extract a bounding box surrounding at least one of a face and a body included in the input image. For example, the first de-identification model 160 may extract the bounding box using MTCNN or an algorithm having substantially the same function as the MTCNN. The first de-identification model 160 may obtain first input data by extracting (eg, segmentation) along at least one boundary line of a face and a body included in the boundary box. When the bounding box includes a face, the first input data is a face image with the background and hair removed from the input image. When the bounding box includes a body, the first input data is a body image with the background removed from the input image. can be The first de-identification model 160 may obtain the second input data by extracting at least one landmark among the face and the body included in the first input data. The second input data may include information on features and angles of elements constituting at least one of a face and a body included in the first input data.

다양한 실시예에 따르면, GAN 네트워크(165)는 제1 입력 데이터 및 제2 입력 데이터에 기초하여 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나에 대응하는 가상 이미지를 생성할 수 있다. GAN 네트워크(165)는 제2 입력 데이터에 기초하여 제1 입력 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나가 가지는 요소의 특징 및 각도를 유지하는 것을 조건으로 가상 이미지를 생성할 수 있고, 가상 이미지를 출력할 수 있다. 가상 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나는 제1 입력 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나와 전혀 다른 생김새일 수 있고, 크기는 동일할 수 있다. 가상 이미지에 가상 얼굴이 포함된 경우에는 가상 얼굴은 배경 및 머리카락이 제거된 얼굴 이미지이고, 가상 이미지에 가상 신체가 포함된 경우에는 가상 신체는 배경이 제거된 이미지일 수 있다.According to various embodiments, the GAN network 165 may generate a virtual image corresponding to at least one of a face and a body included in the input image based on the first input data and the second input data. The GAN network 165 may generate a virtual image based on the second input data on the condition that features and angles of at least one of a face and a body included in the first input data are maintained on the condition that the virtual image is maintained. can be printed out. At least one of the face and the body included in the virtual image may have a completely different appearance from at least one of the face and body included in the first input data, and may have the same size. When the virtual image includes a virtual face, the virtual face may be a face image from which the background and hair are removed, and when the virtual image includes a virtual body, the virtual body may be an image from which the background is removed.

다양한 실시예에 따르면, 제1 비식별화 모델(160)은 경계 박스의 좌표에 기초하여 원본 미디어에 가상 이미지를 합성하여 얼굴 및 신체 중 적어도 어느 하나가 비식별화된 이미지(예: 개인식별정보가 비식별화된 제2 이미지)를 출력할 수 있다. 예를 들어, 원본 미디어에 포함된 객체가 보행자일 경우, GAN 네트워크(165)는 보행자의 얼굴 및 신체 중 적어도 어느 하나를 포함하는 경계 박스의 좌표에 대응되는 가상의 얼굴 및 가상의 신체 중 적어도 어느 하나를 합성할 수 있다. GAN 네트워크(165)는 경계 박스에 기초하여 원본 미디어 내의 얼굴 및 신체 중 적어도 어느 하나와 대응되는 가상 이미지를 원본 미디어 내의 얼굴 및 신체 중 적어도 어느 하나의 기존 위치에 합성함으로써 이질감이 없고 자연스러운 비식별화된 이미지를 생성할 수 있다.According to various embodiments, the first de-identification model 160 synthesizes a virtual image in the original media based on the coordinates of the bounding box, so that at least one of the face and the body is de-identified image (eg, personal identification information). may output an unidentified second image). For example, when the object included in the original media is a pedestrian, the GAN network 165 determines at least one of a virtual face and a virtual body corresponding to coordinates of a bounding box including at least one of the pedestrian's face and body. You can combine one. The GAN network 165 synthesizes a virtual image corresponding to at least one of a face and a body in the original media with an existing location of at least any one of the face and the body in the original media based on the bounding box, so that there is no sense of heterogeneity and natural de-identification. image can be created.

다양한 실시예에 따르면, 제1 비식별화 모델(160)의 출력인 비식별화된 이미지를 학습 데이터로서 활용할 경우, 원본 미디어 내 기존의 얼굴 및 신체 중 적어도 어느 하나가 있던 위치에 가상의 얼굴 및 가상의 신체 중 적어도 어느 하나가 존재하므로 개인식별정보를 노출시키지 않을 수 있다. 또한, 비식별화된 이미지는 이질감이 없고 자연스러우므로 학습 데이터로서의 가치를 보존할 수 있다.According to various embodiments, when the de-identified image that is the output of the first de-identified model 160 is used as learning data, a virtual face and a virtual face and Since at least one of the virtual bodies exists, personal identification information may not be exposed. In addition, since the de-identified image is natural and there is no sense of heterogeneity, the value as learning data can be preserved.

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 분할 모델(150)의 출력(예: 분할된 이미지)을 수신할 수 있다. 예를 들어, 분할된 이미지는 텍스트 플레이트(예: 차량 번호판, 간판, 명판 등)를 포함할 수 있다.According to various embodiments, the second de-identification model 170 may receive an output (eg, a segmented image) of the segmentation model 150 . For example, the segmented image may include a text plate (eg, a license plate, a signboard, a name plate, etc.).

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 분할된 이미지로부터 텍스트 플레이트 부분에 상응하는 부분을 검출할 수 있다. 텍스트 플레이트 부분은 개인식별정보를 포함할 수 있다. 텍스트 플레이트 부분에 상응하는 부분은 텍스트 데이터(예: 한글, 영어, 숫자 등) 및 텍스트 데이터를 제외한 나머지 부분인 이미지 데이터를 포함할 수 있다. 제2 비식별화 모델(170)은 텍스트 플레이트 부분에 상응하는 부분으로부터 텍스트 데이터(예: 한글, 영어, 숫자 등) 및 이미지 데이터를 추출해서 획득할 수 있다.According to various embodiments, the second de-identification model 170 may detect a portion corresponding to the text plate portion from the divided image. The text plate portion may contain personally identifiable information. The portion corresponding to the text plate portion may include text data (eg, Korean, English, numbers, etc.) and image data that is a portion other than the text data. The second de-identification model 170 may be obtained by extracting text data (eg, Korean, English, numbers, etc.) and image data from a portion corresponding to the text plate portion.

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 텍스트 데이터를 변경할 수 있다. 제2 비식별화 모델(170)은 텍스트 데이터에서 텍스트(예: 한글, 영어, 숫자 등)를 변경한 텍스트 변형 데이터를 생성할 수 있다. 제2 비식별화 모델(170)은 텍스트를 규칙에 따라 변경하거나 규칙에 상관없이 랜덤하게 변경할 수 있다. 제2 비식별화 모델(170)은 신경망 네트워크(175)를 포함할 수 있다.According to various embodiments, the second de-identification model 170 may change text data. The second de-identification model 170 may generate text transformation data obtained by changing text (eg, Korean, English, numbers, etc.) from text data. The second de-identification model 170 may change the text according to a rule or randomly change the text regardless of the rule. The second de-identification model 170 may include a neural network 175 .

다양한 실시예에 따르면, 신경망 네트워크(175)는 이미지 데이터에 기초하여 텍스트 플레이트의 유형(예: 신형 자동차의 번호판, 구형 자동차의 번호판, 전기차의 번호판, 명판, 간판 등)을 파악할 수 있다. 신경망 네트워크(175)는 텍스트 플레이트의 유형이 기재된 라벨을 생성할 수 있으며, 라벨을 출력할 수 있다.According to various embodiments, the neural network 175 may determine the type of text plate (eg, a license plate of a new car, a license plate of an old car, a license plate of an electric vehicle, a name plate, a signboard, etc.) based on the image data. The neural network 175 may generate a label in which the type of text plate is described, and may output the label.

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 라벨 및 텍스트 변형 데이터에 기초하여 합성 이미지(예: 개인식별정보가 비식별화된 제2 이미지)를 생성할 수 있다. 예를 들어, 제2 비식별화 모델(170)은 라벨에 기재된 텍스트 플레이트의 유형에 상응하는 이미지 데이터에 텍스트 변형 데이터를 합성하여 합성 이미지를 생성하고, 합성 이미지를 출력할 수 있다.According to various embodiments, the second de-identification model 170 may generate a composite image (eg, a second image in which personal identification information is de-identified) based on the label and text modification data. For example, the second de-identification model 170 may generate a composite image by synthesizing text transformation data with image data corresponding to the type of text plate described in the label, and output the composite image.

다양한 실시예에 따른 제2 비식별화 모델(170)의 출력인 합성 이미지를 학습 데이터로 활용할 경우, 원본 미디어 내 기존의 텍스트 플레이트가 있던 위치에 가상의 텍스트 플레이트가 존재하므로 개인식별정보를 노출시키지 않을 수 있다. 또한, 합성 이미지는 이질감이 없고 자연스러우므로 학습 데이터로서의 가치를 보존할 수 있다.When using the synthetic image that is the output of the second de-identification model 170 according to various embodiments as training data, a virtual text plate exists in the original media where there was an existing text plate, so personal identification information is not exposed. it may not be In addition, since the synthetic image is natural and there is no sense of heterogeneity, the value as learning data can be preserved.

도 4는 다양한 실시예에 따른 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.4 is a diagram for describing an operation of generating a de-identification model according to various embodiments of the present disclosure;

도 4를 참조하면, 다양한 실시예에 따르면, 전자 장치(400)는 제1 학습 데이터 및 제1 학습 데이터로부터 획득한 제2 학습 데이터에 기초하여 비식별화 모델(440)을 생성(예: 학습)할 수 있다. 제2 학습 데이터는 전자 장치(400)에 포함된 데이터 수집기(410)에 의해 제1 학습 데이터로부터 획득될 수 있다.Referring to FIG. 4 , according to various embodiments, the electronic device 400 generates a de-identification model 440 based on first training data and second training data obtained from the first training data (eg, training). )can do. The second learning data may be obtained from the first learning data by the data collector 410 included in the electronic device 400 .

다양한 실시예에 따르면, 데이터 수집기(410)는 제1 학습 데이터 및 제1 학습 데이터로부터 획득한 제2 학습 데이터를 수집할 수 있다. 제1 학습 데이터는 개인식별정보에 상응하는 데이터를 포함할 수 있다. 제2 학습 데이터는 개인식별정보(예: 얼굴, 신체, 텍스트 플레이트 등)에 상응하는 데이터일 수 있다. 데이터 수집기(410)는 추출 오픈소스(412) 및 개인식별정보 학습 데이터베이스(414)를 포함할 수 있다.According to various embodiments, the data collector 410 may collect the first learning data and the second learning data obtained from the first learning data. The first learning data may include data corresponding to personal identification information. The second learning data may be data corresponding to personal identification information (eg, face, body, text plate, etc.). The data collector 410 may include an extract open source 412 and a personally identifiable information learning database 414 .

다양한 실시예에 따르면, 추출 오픈소스(412)는 제1 학습 데이터로부터 제2 학습 데이터를 추출할 수 있다. 추출 오픈소스(412)는 데이터를 추출 또는 그와 실질적으로 동일한 기능을 하기 위한 모든 오픈소스를 포함한다. 제1 학습 데이터 및 제2 학습 데이터는 쌍으로 존재할 수 있다.According to various embodiments, the extraction open source 412 may extract the second learning data from the first learning data. Extraction open source 412 includes all open sources for extracting data or performing a function substantially equivalent thereto. The first learning data and the second learning data may exist in pairs.

다양한 실시예에 따르면, 개인식별정보 학습 데이터베이스(414)는 데이터를 저장할 수 있다. 저장된 데이터는 수신한 제1 학습 데이터 및 제2 학습 데이터의 쌍의 집합일 수 있다.According to various embodiments, the personal identification information learning database 414 may store data. The stored data may be a set of a pair of the received first learning data and the second learning data.

다양한 실시예에 따르면, 비식별화 모델(440)은 입력한 이미지의 개인식별정보 부분만 비식별화한 이미지를 생성하도록 학습될 수 있고, 생성한 이미지를 출력할 수 있도록 학습될 수 있다.According to various embodiments, the de-identification model 440 may be trained to generate an image in which only the personal identification information portion of the input image is de-identified, and may be trained to output the generated image.

다양한 실시예에 따르면, 비식별화 모델(440)은 다량의 데이터에 기초하여 학습됨으로써 생성될 수 있다. 다량의 데이터는 개인식별정보 학습 데이터베이스(414)에서 공급될 수 있다. 비식별화 모델(440)은 분할 모델(150), 가상 영상 생성 학습 데이터베이스(444), 제1 비식별화 모델(446), 및 제2 비식별화 모델(170)을 포함할 수 있다. 분할 모델(150)은 제1 학습 데이터에서 개인식별정보에 대응되는 부분을 분할할 수 있다. 제1 비식별화 모델(446)은 분할 모델(150)의 출력을 수신하여 제1 학습 데이터에 포함된 얼굴 및 신체 중 하나 이상을 비식별화하도록 학습됨으로써 생성될 수 있다. 제2 비식별화 모델(170)은 분할 모델(150)의 출력을 수신하여 제1 학습 데이터의 텍스트 플레이트(예: 차량 번호판, 간판, 명판, 이정표 등)을 비식별화할 수 있다.According to various embodiments, the de-identification model 440 may be generated by being trained based on a large amount of data. A large amount of data may be supplied from the personally identifiable information learning database 414 . The de-identification model 440 may include a segmentation model 150 , a virtual image generation training database 444 , a first de-identification model 446 , and a second de-identification model 170 . The segmentation model 150 may segment a portion corresponding to the personal identification information in the first learning data. The first de-identification model 446 may be generated by receiving the output of the segmentation model 150 and learning to de-identify one or more of a face and a body included in the first training data. The second de-identification model 170 may receive the output of the segmentation model 150 to de-identify the text plate (eg, license plate, signboard, name plate, milestone, etc.) of the first learning data.

다양한 실시예에 따르면, 분할 모델(150)은 제1 이미지(예: 제1 학습 데이터)를 수신할 수 있다. 제1 이미지는 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)를 포함할 수 있다. 분할 모델(150)은 제1 이미지에서 개인식별정보에 상응하는 부분을 분할할 수 있다. 분할 모델(150)은 세그멘테이션 네트워크(155)(예: CNN 기반의 세그멘테이션 네트워크)를 포함할 수 있다.According to various embodiments, the segmentation model 150 may receive a first image (eg, first training data). The first image may include personal identification information (eg, face, body, vehicle license plate, name plate, signboard, etc.). The segmentation model 150 may segment a portion corresponding to the personal identification information in the first image. The segmentation model 150 may include a segmentation network 155 (eg, a CNN-based segmentation network).

다양한 실시예에 따르면, 비식별화 모델(440)은 객체의 종류에 기초하여 분할 모델(150)의 출력(예: 분할된 이미지)을 분류하여 가상 영상 생성 학습 데이터 베이스(444) 또는 제2 비식별화 모델(170)로 출력하는 분류기(미도시)를 더 포함할 수 있다. 객체가 보행자인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 가상 영상 생성 학습 데이터 베이스(444)로 출력되어 가상 얼굴 및 신체 생성 학습 데이터로서 저장될 수 있다. 가상 영상 생성 학습 데이터 베이스(444)는 얼굴 및 신체 중 적어도 어느 하나가 분할된 이미지의 집합일 수 있고, 가상 얼굴 및 신체 생성 학습 데이터를 포함할 수 있다. 객체가 사물(예: 자동차, 간판 등)인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 제2 비식별화 모델(170)로 출력될 수 있다.According to various embodiments, the de-identification model 440 classifies the output (eg, a segmented image) of the segmentation model 150 based on the type of object to generate a virtual image creation training database 444 or the second ratio It may further include a classifier (not shown) output to the identification model 170 . When the object is a pedestrian, an output of the segmentation model 150 (eg, a segmented image) may be output to the virtual image generation learning database 444 and stored as virtual face and body generation learning data. The virtual image generation training database 444 may be a set of images in which at least one of a face and a body is divided, and may include virtual face and body generation training data. When the object is a thing (eg, a car, a signboard, etc.), an output (eg, a divided image) of the segmented model 150 may be output to the second de-identification model 170 .

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 분할 모델(150)의 출력(예: 분할된 이미지)을 수신할 수 있다. 예를 들어, 분할된 이미지는 얼굴 및 신체 중 적어도 어느 하나를 포함할 수 있다.According to various embodiments, the second de-identification model 170 may receive an output (eg, a segmented image) of the segmentation model 150 . For example, the divided image may include at least one of a face and a body.

다양한 실시예에 따르면, 제2 비식별화 모델(170)은 라벨 및 텍스트 변형 데이터에 기초하여 합성 이미지를 생성할 수 있다. 예를 들어, 제2 비식별화 모델(170)은 라벨에 기재된 텍스트 플레이트의 유형에 상응하는 이미지 데이터에 텍스트 변형 데이터를 합성하여 합성 이미지를 생성하고, 합성 이미지를 출력할 수 있다.According to various embodiments, the second de-identification model 170 may generate a composite image based on the label and text modification data. For example, the second de-identification model 170 may generate a composite image by synthesizing text transformation data with image data corresponding to the type of text plate described in the label, and output the composite image.

도 5는 다양한 실시예에 따른 제1 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.5 is a diagram for describing an operation of generating a first de-identification model according to various embodiments of the present disclosure;

도 5를 참조하면, 다양한 실시예에 따르면, 제1 비식별화 모델(446)은 제1 샘플 데이터(예: 도 4의 가상 영상 생성 학습 데이터베이스(444) 중 가상 얼굴 및 신체 생성 학습 데이터), 제1 샘플 데이터에 기초하여 추출된 제2 샘플 데이터, 및 랜덤 노이즈(예: 랜덤 노이즈 이미지)에 기초하여 학습됨으로써 생성될 수 있다. 제1 샘플 데이터는 얼굴 및 신체 중 적어도 어느 하나에 상응하는 부분을 포함할 수 있다. 제1 샘플 데이터는 분할 모델(예: 도 4의 분할 모델(160))의 출력인 가상 영상 생성 학습 데이터(예: 도 4의 가상 영상 생성 학습 데이터베이스(444))에서 공급될 수 있다. 예를 들어, 제1 샘플 데이터는 가상 영상 생성 학습 데이터베이스(444)에 포함된 가상 얼굴 및 신체 생성 학습 데이터일 수 있다. 랜덤 노이즈는 외부로부터 입력될 것일 수 있다.Referring to FIG. 5 , according to various embodiments, the first de-identification model 446 includes first sample data (eg, virtual face and body generation training data in the virtual image generation training database 444 of FIG. 4 ); It may be generated by learning based on second sample data extracted based on the first sample data, and random noise (eg, a random noise image). The first sample data may include a portion corresponding to at least one of a face and a body. The first sample data may be supplied from virtual image generation training data (eg, the virtual image generation training database 444 of FIG. 4 ) that is an output of the division model (eg, the division model 160 of FIG. 4 ). For example, the first sample data may be virtual face and body generation training data included in the virtual image generation training database 444 . The random noise may be input from the outside.

다양한 실시예에 따르면, 제1 비식별화 모델(446)은 제1 샘플 데이터에서 얼굴 및 신체 중 적어도 어느 하나의 경계를 둘러싼 경계 박스(bounding box)를 추출할 수 있다. 예를 들어, 제1 비식별화 모델(446)은 MTCNN 또는 그와 실질적으로 동일한 기능을 하는 알고리즘을 이용하여 경계 박스를 추출할 수 있다. 제1 비식별화 모델(446)은 경계 박스에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계선을 따라 추출(예: 세그멘테이션(segmentation))하여 이미지를 획득할 수 있다. 경계 박스에 얼굴이 포함된 경우에는 추출된 이미지는 제1 샘플 데이터에서 배경 및 머리카락이 제거된 것이고, 경계 박스에 신체가 포함된 경우에는 추출된 이미지는 제1 샘플 데이터에서 배경이 제거된 것일 수 있다. 제1 비식별화 모델(446)은 랜드마크 추출 모듈(510), 생성기(520), 및 판별기(530)를 포함할 수 있다.According to various embodiments, the first de-identification model 446 may extract a bounding box surrounding at least one of a face and a body from the first sample data. For example, the first de-identification model 446 may extract the bounding box using MTCNN or an algorithm having substantially the same function as the MTCNN. The first de-identification model 446 may obtain an image by extracting (eg, segmentation) along at least one boundary line of a face and a body included in the boundary box. If the bounding box includes a face, the extracted image may have the background and hair removed from the first sample data. If the bounding box includes a body, the extracted image may have the background removed from the first sample data. have. The first de-identification model 446 may include a landmark extraction module 510 , a generator 520 , and a discriminator 530 .

다양한 실시예에 따르면, 랜드마크 추출 모듈(510)은 추출된 이미지를 입력 받아 추출된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나의 랜드마크를 추출할 수 있다. 랜드마크는 얼굴 및 신체 중 적어도 어느 하나를 구성하는 요소의 특징 및 각도 중에서 적어도 어느 하나에 대한 정보를 포함할 수 있다.According to various embodiments, the landmark extraction module 510 may receive the extracted image and extract at least one landmark among a face and a body included in the extracted image. The landmark may include information on at least one of features and angles of elements constituting at least one of a face and a body.

다양한 실시예에 따르면, 생성기(520) 및 판별기(530)는 GAN 기반 네트워크를 포함할 수 있다. 생성기(520)는 제2 샘플 데이터 및 랜덤 노이즈(예: 랜덤 노이즈 이미지)에 기초하여 추출된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나에 대응하는 가상 이미지를 생성하도록 학습될 수 있다. 생성기(520)는 랜드마크에 기초하여 추출된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나가 가지는 요소의 특징 및 각도를 유지하는 것을 조건으로 가상 이미지를 생성하고, 가상 이미지를 출력하도록 학습될 수 있다. 가상 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나는 추출된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나와 전혀 다른 생김새일 수 있고, 크기는 동일할 수 있다. 가상 이미지에 포함된 가상 얼굴은 배경 및 머리카락이 제거된 얼굴 이미지이고, 가상 이미지에 포함된 가상 신체는 배경이 제거된 이미지일 수 있다.According to various embodiments, the generator 520 and the discriminator 530 may include a GAN-based network. The generator 520 may be trained to generate a virtual image corresponding to at least one of a face and a body included in the extracted image based on the second sample data and random noise (eg, a random noise image). The generator 520 may be learned to generate a virtual image and output a virtual image on the condition that the features and angles of at least one of the face and the body included in the image extracted based on the landmark are maintained. have. At least one of the face and the body included in the virtual image may have a completely different appearance from at least any one of the face and body included in the extracted image, and may have the same size. The virtual face included in the virtual image may be a face image from which the background and hair are removed, and the virtual body included in the virtual image may be an image from which the background is removed.

다양한 실시예에 따르면, 제1 비식별화 모델(446)은 경계 박스의 좌표에 기초하여 제1 학습 데이터에 가상 이미지를 합성하여 얼굴 및 신체 중 적어도 어느 하나가 비식별화된 이미지를 생성할 수 있고, 비식별화된 이미지를 출력할 수 있다. 예를 들어, 제1 학습 데이터에 포함된 객체가 보행자일 경우, 제1 비식별화 모델(446)은 보행자의 얼굴 및 신체 중 적어도 어느 하나를 포함하는 경계 박스의 좌표에 가상의 얼굴 및 가상의 신체 중 적어도 어느 하나를 합성할 수 있다. 제1 비식별화 모델(446)은 경계 박스에 기초하여 제1 학습 데이터 내의 얼굴 또는 신체와 대응되는 가상 이미지를 제1 학습 데이터 내의 얼굴 또는 신체의 기존 위치에 합성함으로써 이질감이 없고 자연스러운 비식별화된 이미지를 생성하고 출력하도록 학습될 수 있다.According to various embodiments, the first de-identification model 446 may generate an image in which at least one of a face and a body is de-identified by synthesizing a virtual image with the first training data based on the coordinates of the bounding box. And, it is possible to output an unidentified image. For example, when the object included in the first training data is a pedestrian, the first de-identification model 446 may include a virtual face and virtual At least any one of the body can be synthesized. The first de-identification model 446 synthesizes a virtual image corresponding to a face or body in the first learning data with an existing location of the face or body in the first learning data based on the bounding box to achieve natural de-identification without a sense of heterogeneity. It can be learned to generate and output an image.

다양한 실시예에 따르면, 판별기(530)는 추출된 이미지, 제2 샘플 데이터, 및 가상 이미지에 기초하여 가상 이미지의 참/거짓 여부를 판별하도록 학습될 수 있다. 판별기(530)의 출력은 참 또는 거짓 중의 하나로 출력될 수 있다. 판별기(530)의 출력은 제1 비식별화 모델(446)에 포함된 생성기(520) 및 판별기(530)에 입력되어 피드백(학습)으로 작용할 수 있다.According to various embodiments, the discriminator 530 may be trained to determine whether the virtual image is true/false based on the extracted image, the second sample data, and the virtual image. The output of the discriminator 530 may be either true or false. The output of the discriminator 530 may be input to the generator 520 and the discriminator 530 included in the first de-identification model 446 to act as feedback (learning).

도 6은 다양한 실시예에 따른 전자 장치의 동작 방법의 일 예에 대한 흐름도이다.6 is a flowchart illustrating an example of a method of operating an electronic device according to various embodiments of the present disclosure;

도 6을 참조하면, 동작 610 내지 동작 640은 전자 장치(예: 도 1의 전자 장치(100))가 수신한 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나를 비식별화하는 동작을 설명하기 위한 것일 수 있다.Referring to FIG. 6 , operations 610 to 640 describe an operation of de-identifying at least one of a face and a body included in an input image received by the electronic device (eg, the electronic device 100 of FIG. 1 ). it may be for

동작 610에서, 전자 장치(100)는 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계를 둘러싼 경계 박스를 검출할 수 있다.In operation 610, the electronic device 100 may detect a bounding box surrounding at least one of a face and a body included in the input image.

동작 620에서, 전자 장치(100)는 입력 이미지에서 경계 박스에 포함된 얼굴 및 신체 중 적어도 어느 하나의 경계선을 따라 추출(예: 세그멘테이션(segmentation))하여 제1 입력 데이터를 획득할 수 있다. 경계 박스에 얼굴이 포함된 경우, 제1 입력 데이터는 배경 및 머리카락이 제거된 얼굴 이미지이고, 경계 박스에 신체가 포함된 경우, 제1 입력 데이터는 배경이 제거된 신체 이미지일 수 있다.In operation 620, the electronic device 100 may obtain the first input data by extracting (eg, segmenting) the input image along at least one of a face and a body included in the bounding box. When a face is included in the bounding box, the first input data may be a face image from which the background and hair are removed, and when a body is included in the bounding box, the first input data may be a body image from which the background is removed.

동작 630에서, 전자 장치(100)는 제1 입력 데이터에서 얼굴 및 신체 중 적어도 어느 하나의 랜드마크를 추출하여 제2 입력 데이터를 획득할 수 있다. 랜드마크는 얼굴 및 신체 중 하나를 구성하는 요소의 특징 및 각도에 관한 정보를 포함할 수 있다.In operation 630, the electronic device 100 may obtain second input data by extracting a landmark of at least one of a face and a body from the first input data. The landmark may include information about features and angles of elements constituting one of the face and the body.

동작 640에서, 전자 장치(100)는 제1 입력 데이터 및 제2 입력 데이터를 비식별화 모델(140)에 입력시켜 입력 이미지에서 얼굴 및 신체 중 적어도 어느 하나가 비식별화된 이미지를 생성할 수 있다. 전자 장치(100)는 제1 입력 데이터 및 제2 입력 데이터에 기초하여 입력 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나의 위치에 가상 이미지를 합성함으로써 입력 이미지의 개인식별정보를 비식별화할 수 있다.In operation 640 , the electronic device 100 may generate an image in which at least one of a face and a body is de-identified from the input image by inputting the first input data and the second input data to the de-identification model 140 . have. The electronic device 100 may de-identify the personal identification information of the input image by synthesizing a virtual image on at least one position of a face and a body included in the input image based on the first input data and the second input data. .

도 7은 다양한 실시예에 따른 전자 장치의 동작 방법의 다른 예에 대한 흐름도이다.7 is a flowchart of another example of a method of operating an electronic device according to various embodiments of the present disclosure;

도 7을 참조하면, 동작 710 및 동작 720은 전자 장치(예: 도 4의 전자 장치(400))가 제1 샘플 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나를 비식별화하는 제1 비식별화 모델을 생성하는 동작을 설명하기 위한 것일 수 있다.Referring to FIG. 7 , operations 710 and 720 are first de-identification in which an electronic device (eg, the electronic device 400 of FIG. 4 ) de-identifies at least one of a face and a body included in first sample data. It may be to describe the operation of creating a model.

동작 710에서, 전자 장치(400)는 샘플 데이터 셋을 수집할 수 있다. 샘플 데이터 셋은 제1 샘플 데이터 및 제1 샘플 데이터에서 랜드마크를 추출한 제2 샘플 데이터를 포함할 수 있다. 제1 샘플 데이터는 가상 영상 생성 학습 데이터베이스(444)로부터 공급받을 수 있다.In operation 710 , the electronic device 400 may collect a sample data set. The sample data set may include first sample data and second sample data obtained by extracting landmarks from the first sample data. The first sample data may be supplied from the virtual image generation training database 444 .

동작 720에서, 전자 장치(400)는 샘플 데이터 셋 및 랜덤 노이즈(예: 랜덤 노이즈 이미지에 기초하여 제1 샘플 데이터에 포함된 얼굴 및 신체 중 적어도 어느 하나를 비식별화하는 비식별화 모델을 생성할 수 있다. 랜덤 노이즈는 외부로부터 수집된 것일 수 있다.In operation 720, the electronic device 400 generates a de-identification model for de-identifying at least one of a face and a body included in the first sample data based on a sample data set and a random noise image (eg, a random noise image). Random noise may be collected from outside.

도 8은 다양한 실시예에 따른 전자 장치의 다른 예를 나타낸다.8 illustrates another example of an electronic device according to various embodiments.

도 8을 참조하면, 다양한 실시예에 따르면, 비식별화 장치(800)는 도 1의 전자 장치(100) 및/또는 도 4의 전자 장치(400)와 실질적으로 동일할 수 있다.Referring to FIG. 8 , according to various embodiments, the de-identification device 800 may be substantially the same as the electronic device 100 of FIG. 1 and/or the electronic device 400 of FIG. 4 .

메모리(810)는 프로세서(830)에 의해 실행가능한 인스트럭션들(예: 프로그램)을 저장할 수 있다. 예를 들어, 인스트럭션들은 프로세서(830)의 동작 및/또는 프로세서(830)의 각 구성의 동작을 실행하기 위한 인스트럭션들을 포함할 수 있다.The memory 810 may store instructions (eg, a program) executable by the processor 830 . For example, the instructions may include instructions for executing an operation of the processor 830 and/or an operation of each component of the processor 830 .

프로세서(830)는 메모리(810)에 저장된 데이터를 처리할 수 있다. 프로세서(830)는 메모리(810)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(830)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.The processor 830 may process data stored in the memory 810 . The processor 830 may execute computer readable code (eg, software) stored in the memory 810 and instructions induced by the processor 830 .

프로세서(830)는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다.The processor 830 may be a hardware-implemented data processing device having a circuit having a physical structure for executing desired operations. For example, desired operations may include code or instructions included in a program.

예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.For example, a data processing device implemented as hardware includes a microprocessor, a central processing unit, a processor core, a multi-core processor, and a multiprocessor. , an Application-Specific Integrated Circuit (ASIC), and a Field Programmable Gate Array (FPGA).

프로세서(830)에 의해 수행되는 동작은 도 1 내지 도 3을 참조하여 설명한 전자 장치(100)의 동작과 실질적으로 동일할 수 있다. 도 1 내지 도 3에서 설명한 전자 장치(100)의 각 구성(예: 객체 탐지기(110), 및 비식별화 모델(140))은 프로세서(830)에 의해 실행될 수 있다. 또한, 프로세서(830)에 의해 수행되는 동작은 도 4 및 도 5를 참조하여 설명한 전자 장치(400)의 동작과 실질적으로 동일할 수 있다. 이에, 상세한 설명은 생략하도록 한다.An operation performed by the processor 830 may be substantially the same as an operation of the electronic device 100 described with reference to FIGS. 1 to 3 . Each configuration (eg, the object detector 110 and the de-identification model 140 ) of the electronic device 100 described with reference to FIGS. 1 to 3 may be executed by the processor 830 . Also, the operation performed by the processor 830 may be substantially the same as the operation of the electronic device 400 described with reference to FIGS. 4 and 5 . Accordingly, a detailed description will be omitted.

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The embodiments described above may be implemented by a hardware component, a software component, and/or a combination of a hardware component and a software component. For example, the apparatus, methods and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate (FPGA). array), a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions, may be implemented using a general purpose computer or special purpose computer. The processing device may execute an operating system (OS) and a software application running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For convenience of understanding, although one processing device is sometimes described as being used, one of ordinary skill in the art will recognize that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that may include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may comprise a computer program, code, instructions, or a combination of one or more thereof, which configures a processing device to operate as desired or is independently or collectively processed You can command the device. The software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or device, to be interpreted by or to provide instructions or data to the processing device. , or may be permanently or temporarily embody in a transmitted signal wave. The software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored in a computer-readable recording medium.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 저장할 수 있으며 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer readable medium may store program instructions, data files, data structures, etc. alone or in combination, and the program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and available to those skilled in the art of computer software. have. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.

위에서 설명한 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The hardware devices described above may be configured to operate as one or a plurality of software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 이를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited drawings, a person skilled in the art may apply various technical modifications and variations based thereon. For example, the described techniques are performed in a different order than the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.

Claims

A method of generating a de-identification model that de-identifies one or more of a face and a body, the method comprising:
collecting a sample data set; and
Generating a de-identification model based on the sample data set and random noise
A method of generating a de-identification model, comprising:

According to claim 1,
The sample data set is
first sample data including a portion corresponding to at least one of the face and the body; and
Second sample data obtained by extracting landmarks from the first sample data
A method of generating a de-identification model, comprising:

3. The method of claim 2,
The generating operation is
learning the generator by inputting the second sample data and the random noise to a generator included in the de-identification model;
detecting the at least one bounding box included in the first sample data; and
Learning the discriminator by inputting the image extracted along the at least one boundary line included in the bounding box, the second sample data, and the output of the generator to the discriminator included in the de-identification model
A method of generating a de-identification model, comprising:

4. The method of claim 3,
training the generator and the discriminator using the output of the discriminator.
Further comprising, the de-identification model generation method.

4. The method of claim 3,
The extracted image is
When a face is included in the bounding box, the background and hair are removed from the first sample data,
When a body is included in the bounding box, the background is removed from the first sample data.

In the de-identification method of de-identifying face and body information,
detecting a bounding box of at least one of a face and a body included in the input image;
obtaining first input data by extracting the input image along the at least one boundary line included in the boundary box;
obtaining second input data by extracting, from the first input data, a landmark through which the characteristics and angles of the elements constituting the at least one can be known; and
inputting the first input data and the second input data into a de-identification model to generate an image in which the at least one is de-identified from the input image
A de-identification method comprising

7. The method of claim 6,
The first input data is
When a face is included in the bounding box, the background and hair are removed from the input image,
When a body is included in the bounding box, the background is removed from the input image.

8. The method of claim 7,
The operation of generating the de-identified image includes:
creating a virtual image;
The virtual image is
The de-identification method of any one of a virtual face and a virtual body having a different appearance from the first input data while maintaining the information of the second input data.

9. The method of claim 8,
The operation of generating the de-identified image includes:
synthesizing the virtual image with the input image
Further comprising a, de-identification method.

10. The method of claim 9,
The synthesizing operation is
and synthesizing at least one of the virtual face and the virtual body based on the coordinates of the bounding box detected in the input image.

A computer program stored in a computer-readable recording medium in combination with hardware to execute the method of any one of claims 1 to 10.

A device for de-identifying one or more of a face and a body, the device comprising:
a memory containing instructions; and
a processor electrically connected to the memory and configured to execute the instructions
including,
When the instructions are executed by the processor, the processor
detecting at least one bounding box among the face and body included in the input image,
Obtaining first input data by extracting from the input image along the at least one boundary line included in the boundary box,
Obtaining second input data by extracting a landmark that can know the features and angles of the elements constituting the at least one from the first input data,
and inputting the first input data and the second input data into a de-identification model to generate an image in which the at least one is de-identified from the input image.

13. The method of claim 12,
The first input data is
When a face is included in the bounding box, the background and hair are removed from the input image,
When the bounding box includes a body, the background is removed from the input image.

14. The method of claim 13,
The processor is
create a virtual image,
The virtual image is
At least one of a virtual face and a virtual body having a different appearance from the first input data while maintaining the information of the second input data.

15. The method of claim 14,
The processor is
compositing the virtual image to the input image.

16. The method of claim 15,
The processor is
and synthesizing at least one of the virtual face and the virtual body based on the coordinates of the bounding box detected in the input image.