KR102651303B1 - Apparatus and method for de-identifying and restoring face image - Google Patents

Apparatus and method for de-identifying and restoring face image Download PDF

Info

Publication number
KR102651303B1
KR102651303B1 KR1020220176465A KR20220176465A KR102651303B1 KR 102651303 B1 KR102651303 B1 KR 102651303B1 KR 1020220176465 A KR1020220176465 A KR 1020220176465A KR 20220176465 A KR20220176465 A KR 20220176465A KR 102651303 B1 KR102651303 B1 KR 102651303B1
Authority
KR
South Korea
Prior art keywords
vector
identification
image
anonymized
anonymization
Prior art date
Application number
KR1020220176465A
Other languages
Korean (ko)
Inventor
이준하
유수정
Original Assignee
한국생산기술연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국생산기술연구원 filed Critical 한국생산기술연구원
Priority to KR1020220176465A priority Critical patent/KR102651303B1/en
Application granted granted Critical
Publication of KR102651303B1 publication Critical patent/KR102651303B1/en

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4015Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/62Protecting access to data via a platform, e.g. using keys or access control rules
    • G06F21/6218Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
    • G06F21/6245Protecting personal data, e.g. for financial or medical purposes
    • G06F21/6254Protecting personal data, e.g. for financial or medical purposes by anonymising data, e.g. decorrelating personal data from the owner's identification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F21/00Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
    • G06F21/60Protecting data
    • G06F21/64Protecting data integrity, e.g. using checksums, certificates or signatures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/20Image enhancement or restoration using local operators
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person
    • G06T2207/30201Face

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Bioethics (AREA)
  • Health & Medical Sciences (AREA)
  • Computer Security & Cryptography (AREA)
  • Computer Hardware Design (AREA)
  • Software Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Medical Informatics (AREA)
  • Databases & Information Systems (AREA)
  • Image Processing (AREA)

Abstract

본 발명은 얼굴 이미지 비식별화 및 복원 장치 및 방법에 관한 것으로, 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 대상 이미지를 익명화하여 익명화 이미지를 생성하는 비식별화부, 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하는 익명화 고유 식별자 생성부, 익명화 이미지에 대한 비익명화 요청을 수신하고 비익명화 요청에 대한 정당성을 검증하는 비익명화 요청 수신부 및 비익명화 요청이 정당한 경우 익명화 이미지를 복원하여 복원 데이터를 생성하는 데이터 복원부를 포함할 수 있다.The present invention relates to a facial image de-identification and restoration device and method, which includes a de-identification unit that objectifies a face image to select a target image, anonymizes the target image to create an anonymized image, and an anonymized unique identifier that matches the target image. An anonymization unique identifier generator that generates anonymization, a de-anonymization request receiver that receives a de-anonymization request for an anonymized image and verifies the legitimacy of the de-anonymization request, and a data restoration unit that restores the anonymized image and generates restoration data if the de-anonymization request is justified. May include wealth.

Description

얼굴 이미지 비식별화 및 복원 장치 및 방법{APPARATUS AND METHOD FOR DE-IDENTIFYING AND RESTORING FACE IMAGE}Apparatus and method for de-identifying and restoring face images {APPARATUS AND METHOD FOR DE-IDENTIFYING AND RESTORING FACE IMAGE}

본 발명은 얼굴 이미지 비식별화 및 복원 장치 및 방법에 관한 것으로, 좀 더 상세하게는, 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 상기 대상 이미지를 익명화하여 익명화 이미지를 생성하는 비식별화부, 상기 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하는 익명화 고유 식별자 생성부, 상기 익명화 이미지에 대한 비익명화 요청을 수신하고 상기 비익명화 요청에 대한 정당성을 검증하는 비익명화 요청 수신부 및 상기 비익명화 요청이 정당한 경우 상기 익명화 이미지를 복원하여 복원 데이터를 생성하는 데이터 복원부를 포함할 수 있다.The present invention relates to a facial image de-identification and restoration device and method, and more specifically, to a de-identification unit that objectifies a face image, selects a target image, anonymizes the target image, and generates an anonymized image, the target. An anonymization unique identifier generator that generates an anonymization unique identifier matching the image, a de-anonymization request receiver that receives a de-anonymization request for the anonymized image and verifies the legitimacy of the de-anonymization request, and, if the de-anonymization request is justified, the de-anonymization request receiver. It may include a data restoration unit that restores the anonymized image and generates restored data.

최근 인간의 인식 능력을 모방하기 위한 심층 학습(deep learning) 기술을 개발 및 고도화를 위해 영상데이터 수집이 급증하고 있다. 글로벌 데이터 플랫폼 기업들은 많은 양의 인공지능 학습용 데이터를 수집하고 있으며, 기존 클라우드 서비스와 인공지능 학습 지원 서비스를 연계하는데 노력을 기울이고 있다. 이렇게 수집된 데이터에는 개인 정보들이 포함되어 있기 때문에 익명화 처리를 하지 않고 별도의 관리 체계 없이 사용하거나 보관하는 것은 프라이버시 문제를 야기할 수 있다.Recently, image data collection has been rapidly increasing to develop and advance deep learning technology to imitate human cognitive abilities. Global data platform companies are collecting large amounts of artificial intelligence learning data and are making efforts to link existing cloud services with artificial intelligence learning support services. Because the data collected in this way includes personal information, using or storing it without anonymization and a separate management system may cause privacy issues.

영상 데이터는 대표적인 비정형 데이터로 제조, 의료, 자율주행, 농업, 물류 등 다양한 산업분야에서 심층 학습을 위해 사용된다. 그러나 개인정보보호법 개정안 및 데이터3법이 시행됨에 따라 개인정보 영상을 활용하거나 영상정보처리기기를 열람하는 경우 정보주체 외 얼굴을 비식별화 하는 것이 필수적으로 요구되고 있기 때문에 데이터 활용 측면에서 제약이 따르고 있다. 비식별화란 가명처리(pseudonymisation) 또는 익명처리(anonymisation)를 통하여 특정 개인을 식별할 수 없도록 처리하는 것을 말하는데, 영상데이터 내 얼굴을 비식별화하는 것은 보편적으로 모자이크, 블러 같은 마스킹처리나 암호화하는 것을 의미한다. 그러나 대상의 형태를 변형시키는 마스킹과 암호화 방식은 영상 데이터의 유용성을 보존하기가 어렵다는 문제점이 있다. 따라서 심층 학습 결과의 동일성을 보존하기 위해 사용 전 언마스킹 처리나 복호화를 처리에 많은 시간이 소요된다는 문제점이 있다.Video data is a representative form of unstructured data and is used for deep learning in various industrial fields such as manufacturing, medical care, autonomous driving, agriculture, and logistics. However, with the revision of the Personal Information Protection Act and the enforcement of the 3 Data Act, it is essential to de-identify faces other than the information subject when using personal information videos or viewing video information processing devices, so there are restrictions in terms of data use. there is. De-identification refers to processing so that a specific individual cannot be identified through pseudonymization or anonymization. De-identification of faces in video data generally involves masking or encryption such as mosaic or blur. it means. However, masking and encryption methods that change the shape of an object have the problem of making it difficult to preserve the usefulness of image data. Therefore, in order to preserve the identity of deep learning results, there is a problem that a lot of time is required for unmasking or decoding before use.

따라서 최근에는 생성 모델(generative model)을 활용하여 가짜 얼굴을 생성하는 방법에 대한 연구가 활발히 진행되고 있다. 그 중에서도 GAN(Generative Adversarial Network) 기반의 생성 모델을 통해 얼굴의 일부 특징을 바꾸는 특징 변환하거나 이목구비, 얼굴의 형태, 머리카락을 원하는 스타일로 바꾸는 스타일 치환(style transfer) 또는 원본 얼굴을 다른 대상의 얼굴로 바꾸는 얼굴 이동(face shifting) 등을 얼굴 비식별화에 적용하는 연구 사례를 다수 찾아볼 수 있다.Therefore, research on methods to generate fake faces using generative models has been actively conducted recently. Among them, feature conversion that changes some features of the face through a generative model based on GAN (Generative Adversarial Network), style transfer that changes facial features, face shape, and hair to a desired style, or transfer of the original face to the face of another target. There are many research cases where face shifting, etc., is applied to face de-identification.

GAN을 활용한 비식별화 연구들은 대부분 제한 조건 없이 단순히 노이즈를 기반으로 매핑하여 이미지를 생성한다. 그렇기 때문에 이미지 품질이 떨어질 수 있다는 문제가 있다. 또한 대부분의 연구들은 가짜 얼굴 생성에만 초점을 맞추고 있기 때문에 필요에 따라 데이터를 복원할 수 없다는 문제가 있다. 또한 학습 데이터로써 사용 목적이나 개발하고자 하는 알고리즘에 따라 익명화 강도를 제어할 필요성이 있지만 기존의 연구들에서는 이것에 대한 고려가 거의 이루어지지 않고 있다.Most de-identification studies using GAN generate images by simply mapping based on noise without any constraints. Therefore, there is a problem that image quality may decrease. Additionally, since most studies only focus on creating fake faces, there is a problem that data cannot be restored as needed. Additionally, as learning data, there is a need to control the anonymization strength depending on the purpose of use or the algorithm to be developed, but this is rarely considered in existing studies.

한국등록특허 제10-2215056(2021.02.10)호는 의료 영상 비식별화 시스템, 방법 및 컴퓨터 판독 가능한 기록매체에 관한 것으로, 환자의 안면 영역을 식별할 수 있는 이미지를 포함하는 의료 영상을 수신하는 의료 영상 수신부, 상기 의료 영상에서 상기 안면 영역을 분리하는 안면 영역 분리부, 클라이언트로부터 상기 안면 영역에 포함되는 눈, 코, 입 중 적어도 어느 하나에 대한 자료 제공 요청을 수신하는 요청 수신부 및 요청된 부위를 제외한 나머지 안면 영역에 대하여 비식별화를 수행하는 비식별화부를 포함한다.Korean Patent No. 10-2215056 (2021.02.10) relates to a medical image de-identification system, method, and computer-readable recording medium, which receives medical images containing images that can identify the patient's facial area. A medical image receiver, a facial area separator that separates the facial area from the medical image, a request receiver that receives a request from a client to provide data on at least one of the eyes, nose, and mouth included in the facial area, and the requested part. It includes a de-identification unit that performs de-identification on the remaining facial areas except for.

한국등록특허 제10-2215056(2021.02.10)호Korean Patent No. 10-2215056 (2021.02.10)

본 발명의 일 실시예는 사람의 얼굴 이미지를 훼손시키지 않으면서 익명화 함으로서, 익명화 이미지를 다시 복원할 수 있는 얼굴 이미지 비식별화 및 복원 장치 및 방법에 관한 것이다.An embodiment of the present invention relates to a facial image de-identification and restoration device and method that can restore an anonymized image by anonymizing a person's facial image without damaging it.

본 발명의 일 실시예는 이미지를 익명화 하면서 고유 식별자를 생성하여 해당 익명화 이미지에 대해 복원 요청이 정당한 지를 판정하여 복원 요청이 정당한 경우에만 익명화 이미지를 다시 복원할 수 있는 얼굴 이미지 비식별화 및 복원 장치 및 방법에 관한 것이다.One embodiment of the present invention is a facial image de-identification and restoration device that generates a unique identifier while anonymizing the image, determines whether the restoration request for the anonymized image is justified, and can restore the anonymized image only if the restoration request is justified. and methods.

본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치에 관한 것으로, 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 상기 대상 이미지를 익명화하여 익명화 이미지를 생성하는 비식별화부; 상기 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하는 익명화 고유 식별자 생성부; 상기 익명화 이미지에 대한 비익명화 요청을 수신하고 상기 비익명화 요청에 대한 정당성을 검증하는 비익명화 요청 수신부; 및 상기 비익명화 요청이 정당한 경우 상기 익명화 이미지를 복원하여 복원 데이터를 생성하는 데이터 복원부를 포함할 수 있다.An apparatus for de-identifying and restoring a face image according to an embodiment of the present invention, comprising: a de-identification unit that objectsizes a face image, selects a target image, anonymizes the target image, and generates an anonymized image; an anonymized unique identifier generator that generates an anonymized unique identifier matching the target image; a de-anonymization request receiving unit that receives a de-anonymization request for the anonymized image and verifies the legitimacy of the de-anonymization request; and a data restoration unit that restores the anonymized image and generates restored data when the de-anonymization request is justified.

상기 비식별화부는, 개인 신원 잠재벡터를 생성하는 개인 신원 인코더 및 속성 정보 잠재벡터를 생성하는 속성 정보 인코더를 포함하는 비식별 인코더; 및 상기 익명화 고유 식별자에 매칭되는 임의 벡터를 생성하는 비식별 디코더를 포함할 수 있다.The de-identification unit includes a de-identification encoder including a personal identity encoder for generating a personal identity latent vector and an attribute information encoder for generating an attribute information latent vector; and a de-identification decoder that generates a random vector matching the anonymized unique identifier.

상기 비식별 디코더는, 상기 개인 신원 잠재벡터 및 속성 정보 잠재벡터를 포함하는 합산 잠재벡터를 산출하고, 상기 임의 벡터를 상기 합산 잠재벡터에 투영하여 상기 합산 잠재벡터와 선형 독립인 노이즈 벡터를 생성할 수 있다.The de-identification decoder calculates a summed latent vector including the personal identity latent vector and the attribute information latent vector, and projects the random vector onto the summed latent vector to generate a noise vector that is linearly independent from the summed latent vector. You can.

상기 비식별 디코더는, 상기 임의 벡터를 상기 개인 신원 잠재 벡터에 투영하여 상기 개인 신원 잠재벡터와 선형 독립인 노이즈 벡터를 생성할 수 있다.The de-identification decoder may project the random vector onto the personal identity latent vector to generate a noise vector that is linearly independent from the personal identity latent vector.

상기 비식별 디코더는, [수학식 1]에 따라 상기 노이즈 벡터를 생성할 수 있다.The non-identification decoder can generate the noise vector according to [Equation 1].

상기 비식별화부는, 기 설정된 비식별화 수준에 따라 [수학식 2]를 기초로 상기 익명화 이미지를 생성할 수 있다.The de-identification unit may generate the anonymized image based on [Equation 2] according to a preset de-identification level.

상기 비식별화부는, 상기 [수학식 2]에 따라 생성된 변조 벡터와 상기 속성 정보 잠재벡터를 조합하여 상기 익명화 이미지를 생성할 수 있다.The de-identification unit may generate the anonymized image by combining the modulation vector generated according to [Equation 2] and the attribute information latent vector.

상기 비익명화 요청 수신부는, 상기 비익명화 요청에 포함된 고유 식별키가 상기 익명화 고유 식별자와 대응한 경우 상기 비익명화 요청이 정당한 것으로 판단할 수 있다.The de-anonymization request receiving unit may determine that the de-anonymization request is legitimate when the unique identification key included in the de-anonymization request corresponds to the anonymization unique identifier.

상기 데이터 복원부는, 상기 익명화 이미지에 대한 비식별 개인 신원 잠재벡터를 생성하는 개인 신원 복원 인코더 및 상기 익명화 이미지에 대한 비식별 속성 정보 잠재벡터를 생성하는 속성 정보 복원 인코더를 포함하는 복원 인코더; 및The data restoration unit includes a restoration encoder including a personal identity restoration encoder for generating a non-identifying personal identity latent vector for the anonymized image and an attribute information restoration encoder for generating a non-identifying attribute information latent vector for the anonymized image; and

상기 비식별 개인 신원 잠재벡터 및 상기 비식별 속성 정보 잠재벡터를 포함하는 비식별 합산벡터를 산출하고, 상기 합산 벡터에 복원 벡터를 적용하여 상기 복원 데이터를 생성하는 복원 디코더를 포함할 수 있다.It may include a reconstruction decoder that calculates a non-identifying sum vector including the non-identification personal identity latent vector and the non-identification attribute information latent vector, and generates the reconstruction data by applying a reconstruction vector to the sum vector.

상기 데이터 복원부는, [수학식 3]에 따라 상기 복원 벡터를 생성할 수 있다.The data restoration unit may generate the restoration vector according to [Equation 3].

개시된 기술은 다음의 효과를 가질 수 있다. 다만, 특정 실시예가 다음의 효과를 전부 포함하여야 한다거나 다음의 효과만을 포함하여야 한다는 의미는 아니므로, 개시된 기술의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.The disclosed technology can have the following effects. However, since it does not mean that a specific embodiment must include all of the following effects or only the following effects, the scope of rights of the disclosed technology should not be understood as being limited thereby.

본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치 및 방법은 사람의 얼굴 이미지를 훼손시키지 않으면서 익명화 함으로서, 익명화 이미지를 다시 복원할 수 있다. The facial image de-identification and restoration device and method according to an embodiment of the present invention can anonymize a person's face image without damaging it, thereby restoring the anonymized image.

본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치 및 방법은 이미지를 익명화 하면서 고유 식별자를 생성하여 해당 익명화 이미지에 대해 복원 요청이 정당한 지를 판정하여 복원 요청이 정당한 경우에만 익명화 이미지를 다시 복원할 수 있다.The device and method for de-identifying and restoring facial images according to an embodiment of the present invention generates a unique identifier while anonymizing the image, determines whether the restoration request for the anonymized image is justified, and restores the anonymized image only if the restoration request is justified. It can be restored.

도 1은 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 시스템을 설명하는 도면이다.
도 2는 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치의 물리적 구성을 설명하는 도면이다.
도 3은 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치의 기능적 구성을 설명하는 도면이다.
도 4는 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 방법이 수행되는 순서를 설명하는 도면이다.
도 5는 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치가 익명화 이미지를 생성하고 이를 복원하는 과정을 설명하는 도면이다.
도 6은 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치가 비식별화 수준에 따라 생성되는 익명화 이미지를 설명하는 도면이다.
1 is a diagram illustrating a facial image de-identification and restoration system according to an embodiment of the present invention.
Figure 2 is a diagram explaining the physical configuration of a facial image de-identification and restoration device according to an embodiment of the present invention.
Figure 3 is a diagram explaining the functional configuration of a facial image de-identification and restoration device according to an embodiment of the present invention.
Figure 4 is a diagram illustrating the order in which the facial image de-identification and restoration method is performed according to an embodiment of the present invention.
Figure 5 is a diagram illustrating a process by which a facial image de-identification and restoration device according to an embodiment of the present invention creates an anonymized image and restores it.
FIG. 6 is a diagram illustrating an anonymized image generated by a facial image de-identification and restoration device according to a de-identification level according to an embodiment of the present invention.

본 발명에 관한 설명은 구조적 내지 기능적 설명을 위한 실시예에 불과하므로, 본 발명의 권리범위는 본문에 설명된 실시예에 의하여 제한되는 것으로 해석되어서는 아니 된다. 즉, 실시예는 다양한 변경이 가능하고 여러 가지 형태를 가질 수 있으므로 본 발명의 권리범위는 기술적 사상을 실현할 수 있는 균등물들을 포함하는 것으로 이해되어야 한다. 또한, 본 발명에서 제시된 목적 또는 효과는 특정 실시예가 이를 전부 포함하여야 한다거나 그러한 효과만을 포함하여야 한다는 의미는 아니므로, 본 발명의 권리범위는 이에 의하여 제한되는 것으로 이해되어서는 아니 될 것이다.Since the description of the present invention is only an example for structural or functional explanation, the scope of the present invention should not be construed as limited by the examples described in the text. In other words, since the embodiments can be modified in various ways and can have various forms, the scope of rights of the present invention should be understood to include equivalents that can realize the technical idea. In addition, the purpose or effect presented in the present invention does not mean that a specific embodiment must include all or only such effects, so the scope of the present invention should not be understood as limited thereby.

한편, 본 출원에서 서술되는 용어의 의미는 다음과 같이 이해되어야 할 것이다.Meanwhile, the meaning of the terms described in this application should be understood as follows.

"제1", "제2" 등의 용어는 하나의 구성요소를 다른 구성요소로부터 구별하기 위한 것으로, 이들 용어들에 의해 권리범위가 한정되어서는 아니 된다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.Terms such as “first” and “second” are used to distinguish one component from another component, and the scope of rights should not be limited by these terms. For example, a first component may be named a second component, and similarly, the second component may also be named a first component.

어떤 구성요소가 다른 구성요소에 "연결되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결될 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다고 언급된 때에는 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 한편, 구성요소들 간의 관계를 설명하는 다른 표현들, 즉 "~사이에"와 "바로 ~사이에" 또는 "~에 이웃하는"과 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.When a component is referred to as being “connected” to another component, it should be understood that it may be directly connected to the other component, but that other components may exist in between. On the other hand, when a component is referred to as being “directly connected” to another component, it should be understood that there are no other components in between. Meanwhile, other expressions that describe the relationship between components, such as "between" and "immediately between" or "neighboring" and "directly neighboring" should be interpreted similarly.

단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함하다"또는 "가지다" 등의 용어는 실시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 지정하려는 것이며, 하나 또는 그 이상의 다른 특징이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.Singular expressions should be understood to include plural expressions unless the context clearly indicates otherwise, and terms such as “comprise” or “have” refer to implemented features, numbers, steps, operations, components, parts, or them. It is intended to specify the existence of a combination, and should be understood as not excluding in advance the possibility of the presence or addition of one or more other features, numbers, steps, operations, components, parts, or combinations thereof.

각 단계들에 있어 식별부호(예를 들어, a, b, c 등)는 설명의 편의를 위하여 사용되는 것으로 식별부호는 각 단계들의 순서를 설명하는 것이 아니며, 각 단계들은 문맥상 명백하게 특정 순서를 기재하지 않는 이상 명기된 순서와 다르게 일어날 수 있다. 즉, 각 단계들은 명기된 순서와 동일하게 일어날 수도 있고 실질적으로 동시에 수행될 수도 있으며 반대의 순서대로 수행될 수도 있다.For each step, identification codes (e.g., a, b, c, etc.) are used for convenience of explanation. The identification codes do not explain the order of each step, and each step clearly follows a specific order in context. Unless specified, events may occur differently from the specified order. That is, each step may occur in the same order as specified, may be performed substantially simultaneously, or may be performed in the opposite order.

본 발명은 컴퓨터가 읽을 수 있는 기록매체에 컴퓨터가 읽을 수 있는 코드로서 구현될 수 있고, 컴퓨터가 읽을 수 있는 기록 매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모든 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 매체의 예로는 ROM, RAM, CD-ROM, 자기 테이프, 플로피 디스크, 광 데이터 저장 장치 등이 있으며, 또한, 캐리어 웨이브(예를 들어 인터넷을 통한 전송)의 형태로 구현되는 것도 포함한다. 또한, 컴퓨터가 읽을 수 있는 기록 매체는 네트워크로 연결된 컴퓨터 시스템에 분산되어, 분산 방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.The present invention can be implemented as computer-readable code on a computer-readable recording medium, and the computer-readable recording medium includes all types of recording devices that store data that can be read by a computer system. . Examples of computer-readable recording media include ROM, RAM, CD-ROM, magnetic tape, floppy disk, and optical data storage devices, and are also implemented in the form of a carrier wave (e.g., transmission via the Internet). It also includes Additionally, the computer-readable recording medium can be distributed across computer systems connected to a network, so that computer-readable code can be stored and executed in a distributed manner.

여기서 사용되는 모든 용어들은 다르게 정의되지 않는 한, 본 발명이 속하는 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한 이상적이거나 과도하게 형식적인 의미를 지니는 것으로 해석될 수 없다.All terms used herein, unless otherwise defined, have the same meaning as commonly understood by a person of ordinary skill in the field to which the present invention pertains. Terms defined in commonly used dictionaries should be interpreted as consistent with the meaning they have in the context of the related technology, and cannot be interpreted as having an ideal or excessively formal meaning unless clearly defined in the present application.

도 1은 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 시스템(100)을 설명하는 도면이다.Figure 1 is a diagram illustrating a facial image de-identification and restoration system 100 according to an embodiment of the present invention.

도 1을 참조하면, 얼굴 이미지 비식별화 및 복원 시스템(100)은 사용자 단말(110), 얼굴 이미지 비식별화 및 복원 장치(130) 및 데이터베이스(150)를 포함할 수 있다.Referring to FIG. 1 , the facial image de-identification and restoration system 100 may include a user terminal 110, a facial image de-identification and restoration device 130, and a database 150.

사용자 단말(110)은 얼굴 이미지 비식별화 및 복원 장치(130)를 통해 수집되는 이미지에 대한 익명화를 요청하고 익명화 고유 식별자를 확인하고 비익명화 요청을 송신 및 수신하고 이를 통해 생성된 복원 데이터를 확인하는 등 위와 같은 프로세스를 통해 생성된 데이터 및 이를 분석한 메타데이터에 대한 확인을 할 수 있는 스마트폰, 웨어러블 디바이스로 구현될 수 있으며, 반드시 이에 한정되지 않고, 태블릿 PC 등 다양한 디바이스로도 구현될 수 있다. 사용자 단말(110)은 얼굴 이미지 비식별화 및 복원 장치(130)와 네트워크를 통해 연결될 수 있고, 복수의 사용자 단말(110)들은 얼굴 이미지 비식별화 및 복원 장치(130)와 동시에 연결될 수 있다.The user terminal 110 requests anonymization of images collected through the facial image de-identification and restoration device 130, verifies the anonymization unique identifier, sends and receives the de-anonymization request, and verifies the restored data generated through this. It can be implemented in smartphones and wearable devices that can check the data generated through the above process and the metadata analyzed, but is not necessarily limited to this and can also be implemented in various devices such as tablet PCs. there is. The user terminal 110 may be connected to the facial image de-identification and restoration device 130 through a network, and a plurality of user terminals 110 may be simultaneously connected to the facial image de-identification and restoration device 130.

얼굴 이미지 비식별화 및 복원 장치(130)는 대상 이미지를 익명화하여 익명화 이미지를 생성하고, 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하고, 비익명화 요청이 정당한 경우 익명화 이미지를 복원하여 복원 데이터를 생성하는 동작들을 순차적으로 수행하는 컴퓨터 또는 프로그램에 해당하는 서버로 구현될 수 있다. 얼굴 이미지 비식별화 및 복원 장치(130)는 사용자 단말(110)과 블루투스, WiFi, 통신망 등을 통해 무선으로 연결될 수 있고, 네트워크를 통해 사용자 단말(110)과 데이터를 주고받을 수 있다.The facial image de-identification and restoration device 130 anonymizes the target image to generate an anonymized image, generates an anonymized unique identifier matching the target image, and, if the de-anonymization request is justified, restores the anonymized image to generate restored data. It can be implemented as a server corresponding to a computer or program that sequentially performs the following operations. The facial image de-identification and restoration device 130 can be wirelessly connected to the user terminal 110 through Bluetooth, WiFi, a communication network, etc., and can exchange data with the user terminal 110 through the network.

데이터베이스(150)는 사용자의 프로파일을 수신하고 선별 및 선택된 결제 방법을 기초로 주문 데이터에 대한 결제를 수행하고 승인 완료된 결제에 대해 가공을 통해 만들어진 거래 집계 데이터를 생성하는 동작하는 과정을 통해 생성되는 다양한 정보들을 저장하는 저장장치에 해당할 수 있다.The database 150 receives the user's profile, performs payment for order data based on the selected and selected payment method, and generates transaction aggregate data created through processing for the approved payment. It may correspond to a storage device that stores information.

도 2는 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치(130)의 물리적 구성을 설명하는 도면이다.FIG. 2 is a diagram illustrating the physical configuration of a facial image de-identification and restoration device 130 according to an embodiment.

도 2를 참조하면, 얼굴 이미지 비식별화 및 복원 장치(130)는 프로세서(210), 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)를 포함하여 구현될 수 있다.Referring to FIG. 2, the facial image de-identification and restoration device 130 may be implemented including a processor 210, a memory 230, a user input/output unit 250, and a network input/output unit 270.

프로세서(210)는 대상 이미지를 익명화하여 익명화 이미지를 생성하고, 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하고, 비익명화 요청이 정당한 경우 익명화 이미지를 복원하여 복원 데이터를 생성하는 동작을 수행하는 프로시저를 실행할 수 있고, 그 과정 전반에서 읽혀지거나 작성되는 메모리(230)를 관리할 수 있으며, 메모리(230)에 있는 휘발성 메모리와 비휘발성 메모리 간의 동기화 시간을 스케줄할 수 있다. 프로세서(210)는 얼굴 이미지 비식별화 및 복원 장치(130)의 동작 전반을 제어할 수 있고, 메모리(230), 사용자 입출력부(250) 및 네트워크 입출력부(270)와 전기적으로 연결되어 이들 간의 데이터 흐름을 제어할 수 있다. 프로세서(210)는 얼굴 이미지 비식별화 및 복원 장치(130)의 CPU(Central Processing Unit)로 구현될 수 있다.The processor 210 anonymizes the target image to create an anonymized image, generates an anonymized unique identifier that matches the target image, and, if the de-anonymization request is justified, restores the anonymized image to generate restored data. You can execute, manage the memory 230 that is read or written throughout the process, and schedule the synchronization time between the volatile memory and the non-volatile memory in the memory 230. The processor 210 can control the overall operation of the facial image de-identification and restoration device 130, and is electrically connected to the memory 230, the user input/output unit 250, and the network input/output unit 270 to communicate between them. Data flow can be controlled. The processor 210 may be implemented as a central processing unit (CPU) of the facial image de-identification and restoration device 130.

메모리(230)는 SSD(Solid State Drive) 또는 HDD(Hard Disk Drive)와 같은 비휘발성 메모리로 구현되어 얼굴 이미지 비식별화 및 복원 장치(130)에 필요한 데이터 전반을 저장하는데 사용되는 보조기억장치를 포함할 수 있고, RAM(Random Access Memory)과 같은 휘발성 메모리로 구현된 주기억장치를 포함할 수 있다.The memory 230 is implemented as a non-volatile memory such as a solid state drive (SSD) or a hard disk drive (HDD) and is an auxiliary memory used to store all data required for the facial image de-identification and restoration device 130. It may include a main memory implemented as volatile memory such as RAM (Random Access Memory).

사용자 입출력부(250)는 사용자 입력을 수신하기 위한 환경 및 사용자에게 특정 정보를 출력하기 위한 환경을 포함할 수 있다. 예를 들어, 사용자 입출력부(250)는 터치 패드, 터치 스크린, 화상 키보드 또는 포인팅 장치와 같은 어댑터를 포함하는 입력장치 및 모니터 또는 터치스크린과 같은 어댑터를 포함하는 출력장치를 포함할 수 있다. 일 실시예에서, 사용자 입출력부(250)는 원격 접속을 통해 접속되는 컴퓨팅 장치에 해당할 수 있고, 그러한 경우, 얼굴 이미지 비식별화 및 복원 장치(130)는 서버로서 수행될 수 있다. The user input/output unit 250 may include an environment for receiving user input and an environment for outputting specific information to the user. For example, the user input/output unit 250 may include an input device including an adapter such as a touch pad, touch screen, on-screen keyboard, or pointing device, and an output device including an adapter such as a monitor or touch screen. In one embodiment, the user input/output unit 250 may correspond to a computing device connected through a remote connection, and in such case, the facial image de-identification and restoration device 130 may be performed as a server.

네트워크 입출력부(270)는 네트워크를 통해 외부 장치 또는 시스템과 연결하기 위한 환경을 포함하고, 예를 들어, LAN(Local Area Network), MAN(Metropolitan Area Network), WAN(Wide Area Network) 및 VAN(Value Added Network) 등의 통신을 위한 어댑터를 포함할 수 있다.The network input/output unit 270 includes an environment for connecting with external devices or systems through a network, for example, Local Area Network (LAN), Metropolitan Area Network (MAN), Wide Area Network (WAN), and VAN ( It may include an adapter for communication such as a Value Added Network).

도 3은 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 장치의 기능적 구성을 설명하는 도면이다. 도 3을 참조하면, 얼굴 이미지 비식별화 및 복원 장치(130)는 비식별화부(310), 익명화 고유 식별자 생성부(330), 비익명화 요청 수신부(350) 및 데이터 복원부(370)를 포함할 수 있다.Figure 3 is a diagram explaining the functional configuration of a facial image de-identification and restoration device according to an embodiment of the present invention. Referring to FIG. 3, the facial image de-identification and restoration device 130 includes a de-identification unit 310, an anonymization unique identifier generation unit 330, a de-anonymization request reception unit 350, and a data restoration unit 370. can do.

비식별화부(310)는 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 대상 이미지를 익명화하여 익명화 이미지를 생성할 수 있다. 예를 들어, 비식별화부(310)는 원본 이미지 상에 배열되어 있는 얼굴 이미지를 특정하고 해당 얼굴 이미지를 객체화하여 익명화의 대상이 되는 대상 이미지로 선정할 수 있다. 예를 들어, 비식별화부(310)는 사진 상에 여러 사람의 얼굴과 배경이 같이 있는 경우 각 얼굴들을 대상 이미지로서 선정할 수 있다. 다른 예를 들어, 비식별화부(310)는 사진 상에 여러 사람의 얼굴이 있는 경우, 각 사람의 얼굴을 대상 이미지로 선정할 수 있고, 이를 통해 고유식별자 생성부는 각 사람별로 별도의 익명화 고유 식별자를 생성할 수 있는 효과가 있다. 또한, 비식별화부(310)는 사진 상에 여러 사람의 얼굴이 있는 경우, 각 사람의 얼굴을 하나의 대상 이미지로 선정할 수 있고, 이를 통해 고유 식별자 생성부는 하나의 대상 이미지에 대한 익명화 고유 식별자를 생성할 수 있다. 즉, 비식별화부(310)는 제어자의 설계에 따라 여러 사람의 얼굴이 있는 입력 이미지에 대해 대상 이미지를 단일로 설정할 것인 지, 여러 사람 얼굴 각각에 대해 대상 이미지로 설정할 것인 지 결정할 수 있다. 여기에서, 대상 이미지를 단일로 설정하는 경우에 데이터 복원부를 통해 하나의 솔루션을 통해 익명화 이미지를 복원할 수 있고, 대상 이미지를 복수개로 설정한 경우 각각의 대상 이미지에 대해 다른 솔루션을 통해 익명화 이미지를 복원할 수 있다.The de-identification unit 310 may objectify a face image to select a target image and anonymize the target image to create an anonymized image. For example, the de-identification unit 310 may specify a face image arranged on the original image, objectify the face image, and select it as a target image to be anonymized. For example, when several people's faces and a background are present in a photo, the de-identification unit 310 may select each face as the target image. For another example, when there are multiple people's faces in a photo, the de-identification unit 310 may select each person's face as the target image, and through this, the unique identifier generator may create a separate anonymized unique identifier for each person. It has the effect of creating . In addition, when there are multiple people's faces in a photo, the de-identification unit 310 can select each person's face as one target image, and through this, the unique identifier generator can generate an anonymized unique identifier for one target image. can be created. In other words, the de-identification unit 310 can determine whether to set a single target image for input images containing multiple people's faces or to set a target image for each of multiple human faces according to the controller's design. . Here, if the target image is set to a single target image, the anonymized image can be restored through one solution through the data restoration unit, and if the target image is set to multiple, the anonymized image can be restored through a different solution for each target image. It can be restored.

일 실시예에서, 비식별화부(310)는 개인 신원 잠재벡터를 생성하는 개인 신원 인코더(Identity Encoder) 및 속성 정보 잠재벡터를 생성하는 속성 정보 인코더(Attribute Encoder)를 포함하는 비식별 인코더 및 익명화 고유 식별자에 매칭되는 임의 벡터를 생성하는 비식별 디코더를 포함할 수 있다. 즉, 비식별화부(310)는 비식별 인코더 및 비식별 디코더를 통해 익명화 이미지를 생성할 수 있다. 여기에서, 비식별 인코더 및 비식별 디코더는 널리 쓰이는 인코더 및 디코더의 계층적 구조뿐만 아니라, 원본 이미지에서 익명화 이미지로 변환되는 과정에서 인코딩 된 데이터를 비식별 디코더에 입력하기 위해 변환하는 과정에서 수행되는 데이터 변환 과정을 프로세싱하는 역할을 수행할 수 있다. 여기에서, 비식별화부(310)는 대상 이미지를 인코딩하는 과정에서 개인 신원 잠재벡터 및 속성정보 잠재벡터에 대해 나누어서 인코딩 할 수 있고, 개인 신원 잠재벡터 및 속성정보 잠재벡터를 추출하는 과정은 Keras implementation 또는 Face Net과 같은 기 학습된 함수를 통해 수행될 수 있으며, 이에 한정되지 아니한다.In one embodiment, the de-identification unit 310 includes a de-identification encoder and an anonymization unique encoder including a personal identity encoder for generating a personal identity latent vector and an attribute information encoder for generating an attribute information latent vector. It may include a non-identifying decoder that generates a random vector matching the identifier. That is, the de-identification unit 310 can generate an anonymized image through a de-identification encoder and a de-identification decoder. Here, the de-identification encoder and de-identification decoder are not only the hierarchical structure of the widely used encoder and decoder, but also the process of converting the encoded data from the original image to the anonymized image to input it to the de-identification decoder. It can play a role in processing the data conversion process. Here, the de-identification unit 310 can separately encode the personal identity latent vector and the attribute information latent vector in the process of encoding the target image, and the process of extracting the personal identity latent vector and the attribute information latent vector is Keras implementation. Alternatively, it may be performed through a previously learned function such as Face Net, but is not limited to this.

위에서 설명한 바와 같이, 비식별화부(310)는 비식별 디코더를 통해 익명화 고유 식별자에 매칭되는 임의 벡터를 생성하는 포함할 수 있다. 여기에서, 임의 벡터는 개인 신원 잠재벡터 또는 아래에서 설명하는 합산 잠재벡터와 동일한 차원으로 구성될 수 있다. 예를 들어, 비식별화부(310)는 여러 대상 이미지에 대해 각각 주어진 익명화 고유 식별자에 따라 다른 임의 벡터를 생성할 수 있다. 좀 더 상세하게, 비식별화부(310)는 A라는 사람의 대상 이미지를 비식별화 하는 과정에서 A에게 주어진 익명화 고유 식별자에 매칭되는 임의 벡터를 생성할 수 있고, A라는 사람으로 특정된 대상 이미지가 여러 개인 경우에도 A에게 주어진 익명화 고유 식별자에 따라 동일한 임의 벡터를 생성할 수 있다. 다른 예를 들어, 비식별화부(310)는 B라는 사람의 대상 이미지를 비식별화 하는 과정에서 대상 이미지가 여러 개인 경우 각각의 대상 이미지 별로 별도로 주어진 익명화 고유 식별자에 따라 각각 매칭되는 임의 벡터를 생성할 수 있다. 즉, 비식별화부(310)는 제어자의 설계에 따라 주어진 익명화 고유 식별자에 따라 대상 이미지에 대한 임의 벡터를 생성할 수 있으며, 임의 벡터에 따라 익명화 이미지를 생성하는 과정이 암호화될 수 있으며, 아래에서 설명하는 바와 같이 익명화 이미지를 복원하는 과정에서 사용되는 함수는 해당 익명화 고유 식별자에 종속되어 있어, 해당 익명화 고유 식별자에 매칭되는 고유 식별키가 없는 경우에는 익명화 이미지를 복원할 수 없다. 이에 대해서는 아래에서 자세히 설명하도록 한다.As described above, the de-identification unit 310 may include generating a random vector matching the anonymized unique identifier through a de-identification decoder. Here, the random vector may consist of the same dimensions as the individual identity latent vector or the summed latent vector described below. For example, the de-identification unit 310 may generate different random vectors according to the anonymized unique identifiers given to each of several target images. In more detail, the de-identification unit 310 may generate a random vector matching the anonymized unique identifier given to A in the process of de-identifying the target image of person A, and the target image identified as person A. Even if there are multiple A, the same random vector can be generated according to the anonymized unique identifier given to A. For another example, in the process of de-identifying the target image of person B, if there are multiple target images, the de-identification unit 310 generates a random vector that matches each target image according to an anonymization unique identifier separately given. can do. That is, the de-identification unit 310 can generate a random vector for the target image according to the given anonymization unique identifier according to the design of the controller, and the process of generating an anonymization image according to the random vector can be encrypted, as described below. As explained, the function used in the process of restoring an anonymized image is dependent on the anonymized unique identifier, so if there is no unique identification key matching the anonymized unique identifier, the anonymized image cannot be restored. This will be explained in detail below.

일 실시예에서, 비식별 디코더는 개인 신원 잠재벡터 및 속성 정보 잠재벡터를 포함하는 합산 잠재벡터를 산출하고, 임의 벡터를 합산 잠재벡터에 투영하여 합산 잠재벡터와 선형 독립인 노이즈 벡터를 생성할 수 있다. 여기에서, 개인 신원 잠재벡터 및 속성 정보 잠재벡터를 포함하는 과정은 벡터 행렬 간의 조합이 될 수 있으며, 벡터 행렬 간의 조합은 단순 합, merge 또는 Concatenate 등 널리 알려진 방법이 될 수 있다. 임의 벡터를 합산 잠재벡터에 투영하는 방법은 그람-슈미트(Gram-Schmidt)와 같이 대상 벡터의 직교 성분을 구하는 방법을 사용할 수 있다.In one embodiment, the de-identification decoder may produce a summed latent vector containing a personal identity latent vector and an attribute information latent vector, and project a random vector onto the summed latent vector to generate a noise vector that is linearly independent of the summed latent vector. there is. Here, the process of including the personal identity latent vector and the attribute information latent vector can be a combination of vector matrices, and the combination of vector matrices can be a widely known method such as simple sum, merge, or concatenate. A method of projecting an arbitrary vector onto a summed potential vector can be done by using a method such as Gram-Schmidt to obtain orthogonal components of the target vector.

일 실시예에서, 비식별 디코더는 임의 벡터를 개인 신원 잠재 벡터에 투영하여 개인 신원 잠재벡터와 선형 독립인 노이즈 벡터를 생성할 수 있다. 위에서 설명한 바와 같이 비식별 디코더는 개인 신원 잠재벡터와 선형 독립인 직교한 노이즈 벡터를 생성할 수 있다.In one embodiment, the de-identification decoder may project a random vector onto the personal identity latent vector to generate a noise vector that is linearly independent of the personal identity latent vector. As described above, the de-identification decoder can generate an orthogonal noise vector that is linearly independent of the personal identity latent vector.

일 실시예에서, 비식별 디코더는 [수학식 1]에 따라 노이즈 벡터를 생성할 수 있다.In one embodiment, the de-identification decoder may generate a noise vector according to [Equation 1].

[수학식 1][Equation 1]

(여기에서, 은 노이즈 벡터, 은 임의 벡터, 는 합산 잠재벡터, , 는 익명화 고유 식별자이다.)(From here, is the noise vector, is a random vector, is the summed potential vector, Is , is an anonymized unique identifier.)

좀 더 상세하게 설명하면, 에 직교하는 성분으로 이루어진 합산 잠재벡터 또는 개인 신원 잠재벡터와 직교하는 성분으로 이루어진다. 여기에서, 임의 벡터()는 위에서 설명한 것처럼 익명화 고유 식별자에 따라 결정될 수 있다. 또한, 는 합산 잠재벡터라 기재되어 있으나, 제어자의 설계에 따라 개인 신원 잠재벡터가 될 수 있다.To explain in more detail, Is It is composed of a summed latent vector consisting of components orthogonal to or a component orthogonal to the personal identity latent vector. Here, the random vector ( ) can be determined according to the anonymized unique identifier as described above. also, is described as a summed potential vector, but depending on the controller's design, it can be a personal identity potential vector.

일 실시예에서, 비식별화부(310)는 기 설정된 비식별화 수준에 따라 [수학식 2]를 기초로 익명화 이미지를 생성할 수 있다.In one embodiment, the de-identification unit 310 may generate an anonymized image based on [Equation 2] according to a preset de-identification level.

[수학식 2][Equation 2]

(여기에서, 는 변조 벡터, 는 합산 잠재벡터, 는 노이즈 벡터, 는 비식별화 수준, 는 유사도 매개 변수이다.)(From here, is the modulation vector, is the summed potential vector, is the noise vector, is the de-identification level, is the similarity parameter.)

여기에서, 기 설정된 비 식별화 수준은 제어자에 의해 결정될 수 있으며, 2π 주기성을 가질 수 있다. 여기에서도 또한, 는 합산 잠재벡터라 기재되어 있으나, 제어자의 설계에 따라 개인 신원 잠재벡터가 될 수 있다. 도 6을 참고하면, 비식별화부(310)는 비식별화 수준에 따라 다른 익명화 이미지를 생성할 수 있다.Here, the preset de-identification level may be determined by the controller and may have a 2π periodicity. Here also, is described as a summed potential vector, but depending on the controller's design, it can be a personal identity potential vector. Referring to FIG. 6, the de-identification unit 310 may generate different anonymized images depending on the de-identification level.

일 실시예에서, 비식별화부(310)는 [수학식 2]에 따라 생성된 변조 벡터와 속성 정보 잠재벡터를 조합하여 익명화 이미지를 생성할 수 있다. 예를 들어, 비식별화부(310)는 가 개인 신원 잠재벡터인 경우, 이를 통해 생성된 변조 벡터와 속성 정보 잠재벡터를 단순 합, merge 또는 Concatenate 등 널리 알려진 방법을 통해 조합하고, 조합된 데이터를 디코딩하여 익명화 이미지를 생성할 수 있다.In one embodiment, the de-identification unit 310 may generate an anonymized image by combining the modulation vector generated according to Equation 2 and the attribute information latent vector. For example, the de-identification unit 310 If is a personal identity latent vector, the generated modulation vector and attribute information latent vector can be combined through well-known methods such as simple sum, merge, or concatenate, and the combined data can be decoded to create an anonymized image.

익명화 고유 식별자 생성부(330)는 대상 이미지와 매칭되는 익명화 고유 식별자를 생성할 수 있다. 위에서 설명한 바와 같이, 익명화 고유 식별자 생성부(330)는 대상 이미지 별로 매칭되는 익명화 고유 식별자를 제어자의 설계에 따라 생성할 수 있다. 도 5를 참조하면, 익명화 고유 식별자는 익명 이미지를 생성할 때 사용될 수 있으며, 데이터를 복원하기 위해 비익명화 요청에 대한 정당성을 검증하기 위해 사용될 수 있다.The anonymized unique identifier generator 330 may generate an anonymized unique identifier that matches the target image. As described above, the anonymized unique identifier generator 330 can generate an anonymized unique identifier that matches each target image according to the controller's design. Referring to Figure 5, the anonymized unique identifier can be used when creating an anonymous image and can be used to verify the legitimacy of a de-anonymization request to restore data.

비익명화 요청 수신부(350)는 익명화 이미지에 대한 비익명화 요청을 수신하고 비익명화 요청에 대한 정당성을 검증할 수 있다. 아래에서 설명하는 바와 같이, 비익명화 요청 수신부(350)는 비익명화 요청에 포함된 정보의 정당성을 검증할 수 있으며, 이러한 정당성은 비익명화 요청의 주체가 익명화 고유 식별자와 대응되는 고유 식별키를 보유한 지 여부를 통해 검증될 수 있다.The de-anonymization request receiving unit 350 may receive a de-anonymization request for an anonymized image and verify the legitimacy of the de-anonymization request. As described below, the de-anonymization request receiver 350 can verify the legitimacy of the information included in the de-anonymization request, and this legitimacy is determined by the fact that the subject of the de-anonymization request has a unique identification key corresponding to the anonymization unique identifier. It can be verified by whether or not.

일 실시예에서, 비익명화 요청 수신부(350)는 비익명화 요청에 포함된 고유 식별키가 익명화 고유 식별자와 대응한 경우 비익명화 요청이 정당한 것으로 판단할 수 있다. 예를 들어, 비익명화 요청 수신부(350)는 고유 식별키가 익명화 고유 식별자와 대응한 경우에만 데이터 복원부(370)로 하여금 익명화 이미지를 복원하도록 요청할 수 있다. 다른 예를 들어, 비익명화 요청 수신부(350)는 고유 식별키가 익명화 고유 식별자와 대응하지 않는 경우에는 익명화 이미지를 복원하지 않도록 데이터 복원부(370)에게 요청할 수 있고, 만약 제3자가 강제로 임의의 고유 식별키를 통해 익명화 이미지를 복원하더라도, 익명화 고유 식별자를 정확하게 특정하지 못하는 한 익명화를 하기 위해 사용한 임의 벡터를 산출할 수 없기 때문에, 대상 이미지에 대응되는 복원 데이터를 생성할 수 없다.In one embodiment, the de-anonymization request receiver 350 may determine that the de-anonymization request is justified when the unique identification key included in the de-anonymization request corresponds to the anonymization unique identifier. For example, the de-anonymization request receiver 350 may request the data restoration unit 370 to restore an anonymized image only when the unique identification key corresponds to the anonymized unique identifier. For another example, the de-anonymization request receiver 350 may request the data restoration unit 370 not to restore the anonymized image if the unique identification key does not correspond to the anonymized unique identifier, and if a third party forcibly arbitrarily Even if the anonymized image is restored through the unique identification key, the random vector used for anonymization cannot be calculated unless the anonymized unique identifier is accurately specified, so restored data corresponding to the target image cannot be generated.

데이터 복원부(370)는 비익명화 요청이 정당한 경우 익명화 이미지를 복원하여 복원 데이터를 생성할 수 있다. 데이터 복원부(370)는 비익명화 요청 수신부(350)의 비익명화 요청의 정당성 판정에 따라 비익명화 요청이 정당한 경우 익명화 이미지를 복원하여 복원 데이터를 생성할 수 있다.If the request for de-anonymization is justified, the data restoration unit 370 can restore the anonymized image and generate restored data. The data restoration unit 370 may restore the anonymized image and generate restored data if the de-anonymization request is justified according to the de-anonymization request reception unit 350's determination of the legitimacy of the de-anonymization request.

일 실시예에서, 데이터 복원부(370)는 익명화 이미지에 대한 비식별 개인 신원 잠재벡터를 생성하는 개인 신원 복원 인코더 및 익명화 이미지에 대한 비식별 속성 정보 잠재벡터를 생성하는 속성 정보 복원 인코더를 포함하는 복원 인코더 및 비식별 개인 신원 잠재벡터 및 비식별 속성 정보 잠재벡터를 포함하는 비식별 합산 벡터를 산출하고, 비식별 합산 벡터에 복원 벡터를 적용하여 복원 데이터를 생성하는 복원 디코더를 포함할 수 있다. 즉, 데이터 복원부(370)는 복원 인코더 및 복원 디코더를 포함할 수 있고, 복원 인코더를 통해 익명화 이미지에 대한 특성을 추출하고 추출된 특성 데이터를 디코딩할 수 있는 데이터의 형태로 변환할 수 있다. 위에서 설명한 바와 같이, 이러한 과정은 비익명화 요청이 정당한 경우 수행될 수 있고, 강제적으로 익명화 데이터를 비익명화 한다고 하더라도 익명화 고유 식별자를 정확하게 특정하지 못한다면 원본 데이터에 해당하는 대상 이미지와 매칭되는 복원 데이터를 생성할 수 없다.In one embodiment, the data recovery unit 370 includes a personal identity recovery encoder for generating a non-identifying personal identity latent vector for an anonymized image and an attribute information recovery encoder for generating a non-identifying attribute information latent vector for the anonymized image. It may include a restoration encoder and a restoration decoder that calculates a de-identification sum vector including a de-identification personal identity latent vector and a de-identification attribute information latent vector, and generates restored data by applying the restoration vector to the de-identification sum vector. That is, the data restoration unit 370 may include a restoration encoder and a restoration decoder, and can extract characteristics of the anonymized image through the restoration encoder and convert the extracted characteristic data into a form of data that can be decoded. As explained above, this process can be performed if the de-anonymization request is justified, and even if the anonymized data is compulsorily de-anonymized, if the anonymized unique identifier cannot be accurately specified, restored data matching the target image corresponding to the original data is generated. Can not.

다른 일 실시예에서, 데이터 복원부(370)는 비식별 개인 신원 잠재벡터에 복원 벡터를 적용하여 산출된 벡터 값과 속성 정보 잠재벡터를 조합하여 복원 데이터를 생성할 수 있다. 위에서 설명한 바와 같이, 데이터 복원부(370)는 제어자의 설계에 따라 비식별화 합산 잠재벡터를 생성하는 동작을 선택적으로 수행할 수 있다.In another embodiment, the data restoration unit 370 may generate restored data by combining the vector value calculated by applying the restored vector to the non-identified personal identity latent vector and the attribute information latent vector. As described above, the data recovery unit 370 may selectively perform an operation of generating a de-identified summed latent vector according to the controller's design.

일 실시예에서, 데이터 복원부(370)는 [수학식 3]에 따라 상기 복원 벡터를 생성할 수 있다.In one embodiment, the data restoration unit 370 may generate the restoration vector according to [Equation 3].

[수학식 3][Equation 3]

(여기에서, 는 복원 벡터)(From here, is the restoration vector)

즉, 데이터 복원부(370)는 복원 벡터를 통해 익명화 이미지에서 추출된 벡터 값을 디코딩할 수 있는 형태로 데이터를 변형하고, 변형된 데이터를 디코딩하여 복원 데이터를 생성할 수 있다.That is, the data restoration unit 370 can transform the data into a form that can decode the vector value extracted from the anonymized image through the restoration vector, and decode the transformed data to generate restored data.

도 4는 본 발명의 일 실시예에 따른 얼굴 이미지 비식별화 및 복원 방법이 수행되는 순서를 설명하는 도면이다. 도 4를 참조하면, 얼굴 이미지 비식별화 및 복원 방법은 비식별화부(310)를 통해, 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 상기 대상 이미지를 익명화하여 익명화 이미지를 생성할 수 있다(S410).Figure 4 is a diagram illustrating the order in which the facial image de-identification and restoration method is performed according to an embodiment of the present invention. Referring to FIG. 4, the facial image de-identification and restoration method can objectify the face image through the de-identification unit 310, select a target image, and anonymize the target image to create an anonymized image (S410). .

얼굴 이미지 비식별화 및 복원 방법은 익명화 고유 식별자 생성부(330)를 통해 대상 이미지와 매칭되는 익명화 고유 식별자를 생성할 수 있다(S430).The facial image de-identification and restoration method can generate an anonymized unique identifier matching the target image through the anonymized unique identifier generator 330 (S430).

얼굴 이미지 비식별화 및 복원 방법은 비익명화 요청 수신부(350)를 통해 익명화 이미지에 대한 비익명화 요청을 수신하고 상기 비익명화 요청에 대한 정당성을 검증할 수 있다(S450).The facial image de-identification and restoration method can receive a de-anonymization request for an anonymized image through the de-anonymization request receiver 350 and verify the legitimacy of the de-anonymization request (S450).

얼굴 이미지 비식별화 및 복원 방법은 비익명화 요청이 정당한 경우 상기 익명화 이미지를 복원하여 복원 데이터를 생성할 수 있다(S470).The facial image de-identification and restoration method can generate restored data by restoring the anonymized image if the request for de-anonymization is justified (S470).

상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.Although the present invention has been described above with reference to preferred embodiments, those skilled in the art may make various modifications and changes to the present invention without departing from the spirit and scope of the present invention as set forth in the claims below. You will understand that you can do it.

100: 얼굴 이미지 비식별화 및 복원 시스템
110: 사용자 단말
130: 얼굴 이미지 비식별화 및 복원 장치
150: 데이터베이스
210: 프로세서 230: 메모리
250: 사용자 입출력부 270: 네트워크 입출력부
310: 비식별화부 330: 익명화 고유 식별자 생성부
350: 비익명화 요청 수신부 370: 데이터 복원부
100: Facial image de-identification and restoration system
110: user terminal
130: Facial image de-identification and restoration device
150: database
210: Processor 230: Memory
250: user input/output unit 270: network input/output unit
310: De-identification unit 330: Anonymization unique identifier generation unit
350: De-anonymization request receiving unit 370: Data restoration unit

Claims (11)

얼굴 이미지를 객체화하여 대상 이미지를 선정하고 상기 대상 이미지를 익명화하여 익명화 이미지를 생성하는 비식별화부;
상기 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하는 익명화 고유 식별자 생성부;
상기 익명화 이미지에 대한 비익명화 요청을 수신하고 상기 비익명화 요청에 대한 정당성을 검증하는 비익명화 요청 수신부; 및
상기 비익명화 요청이 정당한 경우 상기 익명화 이미지를 복원하여 복원 데이터를 생성하는 데이터 복원부를 포함하고,
상기 비식별화부는,
개인 신원 잠재벡터를 생성하는 개인 신원 인코더 및 속성 정보 잠재벡터를 생성하는 속성 정보 인코더를 포함하는 비식별 인코더; 및
상기 익명화 고유 식별자에 매칭되는 임의 벡터를 생성하는 비식별 디코더를 포함하고,
상기 비식별 디코더는,
상기 개인 신원 잠재벡터 및 속성 정보 잠재벡터를 포함하는 합산 잠재벡터를 산출하고, 상기 임의 벡터를 상기 합산 잠재벡터에 투영하여 상기 합산 잠재벡터와 선형 독립인 노이즈 벡터를 생성하는
얼굴 이미지 비식별화 및 복원 장치.
a de-identification unit that objectifies a face image, selects a target image, and anonymizes the target image to create an anonymized image;
an anonymized unique identifier generator that generates an anonymized unique identifier matching the target image;
a de-anonymization request receiving unit that receives a de-anonymization request for the anonymized image and verifies the legitimacy of the de-anonymization request; and
A data restoration unit that restores the anonymized image and generates restored data when the de-anonymization request is justified,
The de-identification unit,
a non-identifying encoder including a personal identity encoder for generating a personal identity latent vector and an attribute information encoder for generating an attribute information latent vector; and
a de-identifying decoder that generates a random vector matching the anonymized unique identifier,
The non-identification decoder is,
Calculating a summed latent vector including the personal identity latent vector and the attribute information latent vector, and projecting the random vector onto the summed latent vector to generate a noise vector that is linearly independent from the summed latent vector.
Facial image de-identification and restoration device.
삭제delete 삭제delete 제1항에 있어서,
상기 비식별 디코더는,
상기 임의 벡터를 상기 개인 신원 잠재 벡터에 투영하여 상기 개인 신원 잠재벡터와 선형 독립인 노이즈 벡터를 생성하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
According to paragraph 1,
The non-identification decoder is,
Facial image de-identification and restoration device, characterized in that the random vector is projected onto the personal identity latent vector to generate a noise vector that is linearly independent from the personal identity latent vector.
제1항에 있어서,
상기 비식별 디코더는,
[수학식 1]에 따라 상기 노이즈 벡터를 생성하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
[수학식 1]

(여기에서, 은 노이즈 벡터, 은 임의 벡터, 는 합산 잠재벡터, , 는 익명화 고유 식별자이다.)
According to paragraph 1,
The non-identification decoder is,
A facial image de-identification and restoration device characterized by generating the noise vector according to [Equation 1].
[Equation 1]

(From here, is the noise vector, is a random vector, is the summed potential vector, Is , is an anonymized unique identifier.)
제1항에 있어서,
상기 비식별화부는,
기 설정된 비식별화 수준에 따라 [수학식 2]를 기초로 상기 익명화 이미지를 생성하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
[수학식 2]

(여기에서, 는 변조 벡터, 는 합산 잠재벡터, 는 노이즈 벡터, 는 비식별화 수준, 는 유사도 매개 변수이다.)
According to paragraph 1,
The de-identification unit,
A facial image de-identification and restoration device characterized in that it generates the anonymized image based on [Equation 2] according to a preset de-identification level.
[Equation 2]

(From here, is the modulation vector, is the summed potential vector, is the noise vector, is the de-identification level, is the similarity parameter.)
제6항에 있어서,
상기 비식별화부는,
상기 [수학식 2]에 따라 생성된 변조 벡터와 상기 속성 정보 잠재벡터를 조합하여 상기 익명화 이미지를 생성하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
According to clause 6,
The de-identification unit,
Facial image de-identification and restoration device, characterized in that the anonymized image is generated by combining the modulation vector generated according to Equation 2 and the attribute information latent vector.
제1항에 있어서,
상기 비익명화 요청 수신부는,
상기 비익명화 요청에 포함된 고유 식별키가 상기 익명화 고유 식별자와 대응한 경우 상기 비익명화 요청이 정당한 것으로 판단하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
According to paragraph 1,
The de-anonymization request receiving unit,
Facial image de-identification and restoration device, characterized in that if the unique identification key included in the de-anonymization request corresponds to the anonymization unique identifier, the de-anonymization request is determined to be legitimate.
제1항에 있어서,
상기 데이터 복원부는,
상기 익명화 이미지에 대한 비식별 개인 신원 잠재벡터를 생성하는 개인 신원 복원 인코더 및 상기 익명화 이미지에 대한 비식별 속성 정보 잠재벡터를 생성하는 속성 정보 복원 인코더를 포함하는 복원 인코더; 및
상기 비식별 개인 신원 잠재벡터 및 상기 비식별 속성 정보 잠재벡터를 포함하는 비식별 합산 벡터를 산출하고, 상기 비식별 합산 벡터에 복원 벡터를 적용하여 상기 복원 데이터를 생성하는 복원 디코더를 포함하는 것을 특징으로 하는 얼굴 이미지 비식별화 및 복원 장치.
According to paragraph 1,
The data recovery unit,
a recovery encoder including a personal identity recovery encoder for generating a non-identifying personal identity latent vector for the anonymized image and an attribute information recovery encoder for generating a non-identifying attribute information latent vector for the anonymized image; and
and a reconstruction decoder that calculates a non-identification sum vector including the non-identification personal identity latent vector and the non-identification attribute information latent vector, and generates the reconstruction data by applying a reconstruction vector to the non-identification sum vector. Facial image de-identification and restoration device.
삭제delete 얼굴 이미지를 객체화하여 대상 이미지를 선정하고 상기 대상 이미지를 익명화하여 익명화 이미지를 생성하는 단계;
상기 대상 이미지와 매칭되는 익명화 고유 식별자를 생성하는 단계;
상기 익명화 이미지에 대한 비익명화 요청을 수신하고 상기 비익명화 요청에 대한 정당성을 검증하는 단계; 및
상기 비익명화 요청이 정당한 경우 상기 익명화 이미지를 복원하여 복원 데이터를 생성하는 단계를 포함하고,
상기 익명화 이미지를 생성하는 단계는,
개인 신원 잠재벡터 및 속성 정보 잠재벡터를 생성하는 단계; 및
상기 익명화 고유 식별자에 매칭되는 임의 벡터를 생성하는 단계를 포함하고,
상기 임의 벡터를 생성하는 단계는,
상기 개인 신원 잠재벡터 및 속성 정보 잠재벡터를 포함하는 합산 잠재벡터를 산출하고, 상기 임의 벡터를 상기 합산 잠재벡터에 투영하여 상기 합산 잠재벡터와 선형 독립인 노이즈 벡터를 생성하는 단계를 포함하는
얼굴 이미지 비식별화 및 복원 방법.
objectifying a face image to select a target image and anonymizing the target image to create an anonymized image;
generating an anonymized unique identifier matching the target image;
Receiving a de-anonymization request for the anonymized image and verifying the legitimacy of the de-anonymization request; and
If the de-anonymization request is justified, restoring the anonymized image to generate restored data,
The step of generating the anonymized image is,
generating a personal identity latent vector and an attribute information latent vector; and
Generating a random vector matching the anonymized unique identifier,
The step of generating the random vector is,
Calculating a summed latent vector including the personal identity latent vector and the attribute information latent vector, and projecting the random vector onto the summed latent vector to generate a noise vector that is linearly independent from the summed latent vector.
Face image de-identification and restoration method.
KR1020220176465A 2022-12-16 2022-12-16 Apparatus and method for de-identifying and restoring face image KR102651303B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020220176465A KR102651303B1 (en) 2022-12-16 2022-12-16 Apparatus and method for de-identifying and restoring face image

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020220176465A KR102651303B1 (en) 2022-12-16 2022-12-16 Apparatus and method for de-identifying and restoring face image

Publications (1)

Publication Number Publication Date
KR102651303B1 true KR102651303B1 (en) 2024-03-26

Family

ID=90472766

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020220176465A KR102651303B1 (en) 2022-12-16 2022-12-16 Apparatus and method for de-identifying and restoring face image

Country Status (1)

Country Link
KR (1) KR102651303B1 (en)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101859433B1 (en) * 2017-02-14 2018-05-21 에스케이텔레콤 주식회사 Method for processing of mosaic image and apparatus thereof
KR102215056B1 (en) 2020-01-23 2021-02-10 울산대학교 산학협력단 Medical Image De-Identification System, Method and Computer Readable Recording Medium

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101859433B1 (en) * 2017-02-14 2018-05-21 에스케이텔레콤 주식회사 Method for processing of mosaic image and apparatus thereof
KR102215056B1 (en) 2020-01-23 2021-02-10 울산대학교 산학협력단 Medical Image De-Identification System, Method and Computer Readable Recording Medium

Similar Documents

Publication Publication Date Title
Zhao et al. A survey on differential privacy for unstructured data content
JP7060619B2 (en) Biometric identification system and method
US10043035B2 (en) Systems and methods for enhancing data protection by anonosizing structured and unstructured data and incorporating machine learning and artificial intelligence in classical and quantum computing environments
CN107113183B (en) System and method for controlled sharing of big data
CA3061638A1 (en) Systems and methods for enforcing centralized privacy controls in de-centralized systems
US20170279786A1 (en) Systems and methods to protect sensitive information in data exchange and aggregation
Leroux et al. Privacy aware offloading of deep neural networks
US20230334180A1 (en) Privacy-preserving motion analysis
KR102651303B1 (en) Apparatus and method for de-identifying and restoring face image
JP4822842B2 (en) Anonymized identification information generation system and program.
JPWO2020189133A1 (en) Systems, client devices, data processing methods, computer programs and recording media
US20210034778A1 (en) Anonymous ranking service
US20200106602A1 (en) Blockchain system having multiple parity levels and multiple layers for improved data security
KR102175977B1 (en) Method and system of gnnerating machine learning model to preserved pivacy data
US20190325496A1 (en) Methods, systems, apparatuses and devices for facilitating customizing a card
US20230057547A1 (en) Anonymizing personally identifiable information in stored data
Garg et al. Information policy dimension of emerging technologies
CA3148242A1 (en) System and method for codec for combining disparate content
JP6000175B2 (en) Anonymization system, anonymization device, user device, anonymization method, and program
KR102500252B1 (en) Machine learning database construction system using face privacy protection technology
WO2022201235A1 (en) Secret search method, secret search system, secret search device, encryption device, searcher terminal, and program
US12008139B1 (en) Methods and systems of facilitating sharing of medical information associated with a patient among user devices
Bahrami A dynamic cloud with data privacy preservation
US11829239B2 (en) Managing machine learning model reconstruction
Al-Rubaie Towards privacy-aware mobile-based continuous authentication systems

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant