KR20220122455A - Method for segmenting object contained in video data, and device performing the same - Google Patents
Method for segmenting object contained in video data, and device performing the same Download PDFInfo
- Publication number
- KR20220122455A KR20220122455A KR1020210120890A KR20210120890A KR20220122455A KR 20220122455 A KR20220122455 A KR 20220122455A KR 1020210120890 A KR1020210120890 A KR 1020210120890A KR 20210120890 A KR20210120890 A KR 20210120890A KR 20220122455 A KR20220122455 A KR 20220122455A
- Authority
- KR
- South Korea
- Prior art keywords
- data
- image
- generating
- information data
- segmentation
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 48
- 230000011218 segmentation Effects 0.000 claims abstract description 78
- 238000012549 training Methods 0.000 claims description 27
- 238000005192 partition Methods 0.000 claims description 8
- 238000000638 solvent extraction Methods 0.000 claims description 4
- 238000004590 computer program Methods 0.000 claims description 2
- 238000013503 de-identification Methods 0.000 description 48
- 238000012545 processing Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 239000002131 composite material Substances 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000008569 process Effects 0.000 description 6
- 238000013528 artificial neural network Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000005070 sampling Methods 0.000 description 4
- 230000002194 synthesizing effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000001131 transforming effect Effects 0.000 description 3
- 102100025444 Gamma-butyrobetaine dioxygenase Human genes 0.000 description 2
- 101000934612 Homo sapiens Gamma-butyrobetaine dioxygenase Proteins 0.000 description 2
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000013527 convolutional neural network Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformation in the plane of the image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F21/00—Security arrangements for protecting computers, components thereof, programs or data against unauthorised activity
- G06F21/60—Protecting data
- G06F21/62—Protecting access to data via a platform, e.g. using keys or access control rules
- G06F21/6218—Protecting access to data via a platform, e.g. using keys or access control rules to a system of files or objects, e.g. local or distributed file system or database
- G06F21/6245—Protecting personal data, e.g. for financial or medical purposes
- G06F21/6254—Protecting personal data, e.g. for financial or medical purposes by anonymising data, e.g. decorrelating personal data from the owner's identification
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/60—Editing figures and text; Combining figures or text
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/001—Image restoration
- G06T5/005—Retouching; Inpainting; Scratch removal
-
- G06T5/77—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
Abstract
Description
본 발명의 다양한 실시예들은 영상 데이터에 포함된 객체 분할 방법 및 이를 수행하는 장치에 관한 것이다.Various embodiments of the present invention relate to a method of segmenting an object included in image data and an apparatus for performing the same.
인공지능 기술은 영상과 같은 미디어의 응용에 다방면으로 활용되고 있다. 그 중에서도 상용화되고 있는 기술은 크게 classification, detection, segmentation의 3가지 기술이다. classification을 수행하면 이미지내의 특정 객체의 분류가 가능하고, detection을 수행하면 분류와 함께 BBOX로 위치까지 파악할 수 있다. 그리고 모든 픽셀에 대해 객체의 레이블을 예측하여 분류하는 segmentation이 있다. Segmentation을 수행하면 모든 픽셀에 대해 분류가 가능하므로 BBOX 보다 정확하고 자세하게 객체의 위치 및 경계선을 검출할 수 있다.Artificial intelligence technology is being used in various fields for media applications such as video. Among them, the commercialized technologies are mainly three technologies: classification, detection, and segmentation. If classification is performed, it is possible to classify a specific object in the image, and if detection is performed, it is possible to identify the location with BBOX along with classification. And for every pixel, there is segmentation that predicts the object's label and classifies it. If segmentation is performed, it is possible to classify all pixels, so it is possible to detect the position and boundary of an object more accurately and more accurately than BBOX.
위에서 설명한 배경기술은 발명자가 본원의 개시 내용을 도출하는 과정에서 보유하거나 습득한 것으로서, 반드시 본 출원 전에 일반 공중에 공개된 공지기술이라고 할 수는 없다.The background art described above is possessed or acquired by the inventor in the process of deriving the disclosure of the present application, and cannot necessarily be said to be a known technology disclosed to the general public prior to the present application.
segmentation을 수행할 경우 이미지를 입력으로 받아 down-sampling과 up-sampling 과정을 거치는데, 이때 이미지 내의 지역적인 정보가 유실되는 경우가 많다. 이에 segmentation수행 과정에서 지역적인 정보 유실을 막는 기술의 개발이 요구될 수 있다.When performing segmentation, an image is received as an input and down-sampling and up-sampling processes are performed. In this case, local information in the image is often lost. Therefore, it may be required to develop a technology to prevent local information loss in the segmentation process.
다양한 실시예들은 계층적인 object detection 정보를 활용한 segmentation을 수행해 미디어 속 개인식별정보가 비식별화되는 기술을 제공할 수 있다.Various embodiments may provide a technology in which personally identifiable information in media is de-identified by performing segmentation using hierarchical object detection information.
다만, 기술적 과제는 상술한 기술적 과제들로 한정되는 것은 아니며, 또 다른 기술적 과제들이 존재할 수 있다.However, the technical problems are not limited to the above-described technical problems, and other technical problems may exist.
다양한 실시예에 따른 분할 모델 생성 방법은 제1 학습 데이터로부터 하나 이상의 객체를 분할한 제2 학습 데이터를 획득하는 동작과 상기 제2 학습 데이터를 트리 형식화한 계층정보 데이터를 생성하는 동작과 상기 제1 학습 데이터, 상기 제2 학습 데이터, 및 상기 계층정보 데이터에 기초하여 상기 분할 모델을 생성하는 동작을 포함할 수 있다.The method for generating a partitioning model according to various embodiments includes an operation of obtaining second training data obtained by dividing one or more objects from first training data, an operation of generating hierarchical information data obtained by tree-formatting the second training data, and the first and generating the partition model based on training data, the second training data, and the layer information data.
상기 분할 모델을 생성하는 동작은, 상기 제1 학습 데이터 및 상기 계층정보 데이터를 상기 분할 모델에 입력시켜 상기 분할 모델을 학습시키는 동작The generating of the segmentation model may include an operation of learning the segmentation model by inputting the first training data and the layer information data into the segmentation model.
을 포함하고, 상기 제2 학습 데이터는 상기 분할 모델의 출력과 비교하기 위해 사용될 수 있다.Including, the second training data may be used to compare with the output of the segmentation model.
상기 계층정보 데이터는 상기 제1 학습 데이터에 포함된 객체의 크기 정보를 더 포함할 수 있다.The layer information data may further include size information of an object included in the first learning data.
상기 계층정보 데이터를 생성하는 동작은 상기 제1 학습 데이터에 포함된 객체마다 계층정보 데이터를 생성하는 동작을 포함할 수 있다.The operation of generating the layer information data may include an operation of generating the layer information data for each object included in the first learning data.
상기 계층정보 데이터는 상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고, 상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함할 수 있다.The hierarchical information data includes hierarchically acquired data for a head, a face, a hair, and a body when the object is a person, and when the object is a vehicle, It may include hierarchically acquired data for vehicles and text plates.
다양한 실시예에 따른 객체를 분할하는 분할 방법은 제1 이미지를 수신하는 동작, 상기 제1 이미지에 기초하여 계층정보 데이터를 생성하는 동작과 상기 제1 이미지 및 상기 계층정보 데이터에 기초하여 세그멘테이션 맵(segmentation map)을 생성하는 동작을 포함할 수 있다.A segmentation method for segmenting an object according to various embodiments includes an operation of receiving a first image, an operation of generating hierarchical information data based on the first image, and a segmentation map ( It may include the operation of generating a segmentation map).
상기 세그멘테이션 맵은 상기 제1 이미지의 객체들이 분할된 것일 수 있다.The segmentation map may be obtained by dividing objects of the first image.
상기 분할 방법은 상기 계층정보 데이터에 기초하여 상기 객체들에 대해 픽셀 임베딩(Pixel embedding)하여 오브젝트 벡터(object vector)를 생성하는 동작을 더 포함할 수 있다.The segmentation method may further include generating an object vector by performing pixel embedding on the objects based on the hierarchical information data.
상기 오브젝트 벡터는 상기 세그멘테이션 맵의 라벨(label)로 활용될 수 있다.The object vector may be used as a label of the segmentation map.
상기 계층정보 데이터를 생성하는 동작은 상기 제1 이미지에 포함된 객체마다 트리 형식의 계층정보 데이터를 생성하는 동작을 포함할 수 있다.The generating of the hierarchical information data may include generating the tree-type hierarchical information data for each object included in the first image.
상기 계층정보 데이터는 상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고 상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함할 수 있다.The hierarchical information data includes hierarchically acquired data for a head, a face, a hair, and a body when the object is a person, and when the object is a vehicle, a vehicle and hierarchically acquired data for a text plate.
다양한 실시예에 따른 객체를 분할하는 장치는 인스트럭션들을 포함하는 메모리 및 상기 메모리와 전기적으로 연결되고, 상기 인스트럭션들을 실행하기 위한 프로세서를 포함하고, 상기 프로세서에 의해 상기 인스트럭션들이 실행될 때, 상기 프로세서는, 제1 이미지를 수신하고, 상기 제1 이미지에 기초하여 계층정보 데이터를 생성하고, 상기 제1 이미지 및 상기 계층정보 데이터에 기초하여 세그멘테이션 맵(segmentation map)을 생성할 수 있다.An apparatus for dividing an object according to various embodiments includes a memory including instructions, and a processor electrically connected to the memory, for executing the instructions, and when the instructions are executed by the processor, the processor, The first image may be received, hierarchical information data may be generated based on the first image, and a segmentation map may be generated based on the first image and the hierarchical information data.
상기 세그멘테이션 맵은 상기 제1 이미지의 객체들이 분할된 것일 수 있다.The segmentation map may be obtained by dividing objects of the first image.
상기 프로세서는 상기 계층정보 데이터에 기초하여 상기 객체들에 대해 픽셀 임베딩(Pixel embedding)하여 오브젝트 벡터(object vector)를 생성할 수 있다.The processor may generate an object vector by performing pixel embedding on the objects based on the hierarchical information data.
상기 오브젝트 벡터는 상기 세그멘테이션 맵의 라벨(label)로 활용될 수 있다.The object vector may be used as a label of the segmentation map.
상기 프로세서는 상기 제1 이미지에 포함된 객체마다 트리 형식의 계층정보 데이터를 생성할 수 있다.The processor may generate tree-type hierarchical information data for each object included in the first image.
상기 계층정보 데이터는 상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고 상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함할 수 있다.The hierarchical information data includes hierarchically acquired data for a head, a face, a hair, and a body when the object is a person, and when the object is a vehicle, a vehicle and hierarchically acquired data for a text plate.
도 1은 다양한 실시예에 따른 개인식별정보의 비식별화를 수행하는 전자 장치의 블록도이다.
도 2는 도 1에 도시된 객체 탐지기의 동작의 일 예를 설명하기 위한 도면이다.
도 3은 도 1에 도시된 비식별화 모델의 블록도이다.
도 4는 다양한 실시예에 따른 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.
도 5는 다양한 실시예에 따른 분할 모델을 생성하는 동작을 설명하기 위한 도면이다.
도 6은 도 5에 도시된 계층정보 변환기의 동작의 일 예를 설명하기 위한 도면이다.
도 7은 다양한 실시예에 따른 전자 장치의 동작 방법의 일 예에 대한 흐름도이다.
도 8은 다양한 실시예에 따른 전자 장치의 동작 방법의 다른 예에 대한 흐름도이다.
도 9는 다양한 실시예에 따른, 전자 장치의 다른 예를 나타낸다.1 is a block diagram of an electronic device that performs de-identification of personal identification information according to various embodiments of the present disclosure;
FIG. 2 is a diagram for explaining an example of an operation of the object detector shown in FIG. 1 .
FIG. 3 is a block diagram of the de-identification model shown in FIG. 1 .
4 is a diagram for describing an operation of generating a de-identification model according to various embodiments of the present disclosure;
5 is a diagram for explaining an operation of generating a partition model according to various embodiments of the present disclosure;
FIG. 6 is a diagram for explaining an example of an operation of the hierarchical information converter shown in FIG. 5 .
7 is a flowchart illustrating an example of a method of operating an electronic device according to various embodiments of the present disclosure;
8 is a flowchart of another example of a method of operating an electronic device according to various embodiments of the present disclosure;
9 illustrates another example of an electronic device according to various embodiments of the present disclosure;
실시예들에 대한 특정한 구조적 또는 기능적 설명들은 단지 예시를 위한 목적으로 개시된 것으로서, 다양한 형태로 변경되어 구현될 수 있다. 따라서, 실제 구현되는 형태는 개시된 특정 실시예로만 한정되는 것이 아니며, 본 명세서의 범위는 실시예들로 설명한 기술적 사상에 포함되는 변경, 균등물, 또는 대체물을 포함한다.Specific structural or functional descriptions of the embodiments are disclosed for purposes of illustration only, and may be changed and implemented in various forms. Accordingly, the actual implementation form is not limited to the specific embodiments disclosed, and the scope of the present specification includes changes, equivalents, or substitutes included in the technical spirit described in the embodiments.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 이런 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 해석되어야 한다. 예를 들어, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.Although terms such as first or second may be used to describe various elements, these terms should be interpreted only for the purpose of distinguishing one element from another. For example, a first component may be termed a second component, and similarly, a second component may also be termed a first component.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다.When a component is referred to as being “connected” to another component, it may be directly connected or connected to the other component, but it should be understood that another component may exist in between.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설명된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The singular expression includes the plural expression unless the context clearly dictates otherwise. In this specification, terms such as "comprise" or "have" are intended to designate that the described feature, number, step, operation, component, part, or combination thereof exists, and includes one or more other features or numbers, It should be understood that the possibility of the presence or addition of steps, operations, components, parts or combinations thereof is not precluded in advance.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art. Terms such as those defined in a commonly used dictionary should be interpreted as having a meaning consistent with the meaning in the context of the related art, and should not be interpreted in an ideal or excessively formal meaning unless explicitly defined in the present specification. does not
이하, 실시예들을 첨부된 도면들을 참조하여 상세하게 설명한다. 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고, 이에 대한 중복되는 설명은 생략하기로 한다.Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. In the description with reference to the accompanying drawings, the same components are assigned the same reference numerals regardless of the reference numerals, and the overlapping description thereof will be omitted.
도 1은 다양한 실시예에 따른 개인식별정보의 비식별화를 수행하는 전자 장치의 블록도이다. 도 2는 도 1에 도시된 객체 탐지기의 동작의 일 예를 설명하기 위한 도면이다.1 is a block diagram of an electronic device that performs de-identification of personal identification information according to various embodiments of the present disclosure; FIG. 2 is a diagram for explaining an example of an operation of the object detector shown in FIG. 1 .
도 1 및 도 2를 참조하면, 다양한 실시예에 따르면, 전자 장치(100)는 객체 탐지기(110) 및 비식별화 모델(140)를 포함할 수 있다. 비식별화 모델(140)은 도 4 내지 도 6을 참조하여 후술할 동작에 의해서 생성(예: 학습)된 것일 수 있다.1 and 2 , according to various embodiments, the
다양한 실시예에 따르면, 전자 장치(100)는 원본 미디어 내 객체의 특징을 유지하면서도 다양한 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)를 비식별화할 수 있다. 객체의 특징이 여전히 유지되기 때문에, 비식별화된 미디어는 학습 데이터로서의 가치를 보존할 수 있다. 예를 들어, 자율 주행을 위한 주행 학습 데이터를 수집할 때 보행자 영역을 blurring이나 blocking방식을 사용한다면 미디어의 학습 데이터로서의 가치가 상실될 수 있다. 전자 장치(100)가 원본 미디어에서 객체의 특징을 유지하면서 개인식별정보만 비식별화함으로써, 보행자가 누구인지는 알 수 없으나, 보행자라는 객체의 특징이 유지되어 학습에 사용하기에 적합할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 객체 탐지기(110)는 원본 미디어를 획득(예: 수신)할 수 있다. 원본 미디어는 외부로부터 수집된 것일 수 있다. 객체 탐지기(110)는 원본 미디어에 포함된 하나 이상의 객체(예: 보행자, 차량 등)를 탐지하여 객체가 탐지된 제1 이미지를 출력할 수 있다.According to various embodiments, the
같을 수 있다. 동작 210에서, 객체 탐지기(110)는 원본 미디어에 대해 관심있는 객체를 식별하는 오브젝트 디텍션(object detection)을 수행할 수 있다. 예를 들어, 객체 탐지기(110)는 frame differencing, optical flow, background subtraction, 또는 그와 실질적으로 동일한 기능을 하는 알고리즘 중에서 하나 이상을 이용하여 오브젝트 디텍션을 수행할 수 있다. 동작 220에서, 객체 탐지기(110)는 수신한 원본 미디어가 연속된 이미지로 이루어진 영상인지의 여부를 판단할 수 있다. 원본 미디어가 단일 이미지일 경우, 객체 탐지기(110)는 원본 미디어에 대한 오브젝트 디텍션 수행 결과를 출력할 수 있다. 원본 미디어가 연속된 이미지로 이루어진 영상일 경우, 객체 탐지기(110)는 연속된 이미지의 프레임에 걸쳐 동일 객체라고 판단된 객체를 추적하는 오브젝트 트래킹(object tracking)을 수행할 수 있다. 예를 들어, 객체 탐지기(110)는 point tracking, kernel tracking, silhouette 또는 그와 실질적으로 동일한 기능을 하는 알고리즘 중에서 하나 이상을 이용하여 오브젝트 트래킹을 수행할 수 있다.can be the same In
다양한 실시예에 따르면, 비식별화 모델(140)은 객체 탐지기(110)로부터 출력된 제1 이미지를 수신할 수 있다. 제1 이미지는 개인식별정보를 포함할 수 있다. 비식별화 모델(140)은 제1 이미지에서 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)에 대응하는 부분이 분할된 이미지를 생성할 수 있다. 또한, 비식별화 모델(140)은 개인식별정보에 대응하는 가상 이미지를 생성할 수 있다. 비식별화 모델(140)은 원본 미디어 및 제1 이미지에 기초하여 원본 미디어에 가상 이미지가 반영된 이미지를 생성할 수 있다. 예를 들어, 비식별화 모델(140)은 분할된 이미지의 위치에 기초하여 원본 미디어에 가상 이미지를 합성함으로써 제1 이미지의 개인식별정보가 비식별화된 제2 이미지를 생성할 수 있다.According to various embodiments, the
도 3은 다양한 실시예에 따른, 도 1에 포함된 비식별화 모델의 블록도이다.3 is a block diagram of a de-identification model included in FIG. 1 , according to various embodiments of the present disclosure;
도 3을 참조하면, 다양한 실시예에 따르면, 비식별화 모델(140)은 분할 모델(150), 제1 비식별화 모델(160) , 및 제2 비식별화 모델(170)를 포함할 수 있다. 분할 모델(150)은 도 4 내지 6을 참조하여 후술할 동작에 의해서 생성(예: 학습)된 것이다.Referring to FIG. 3 , according to various embodiments, the
다양한 실시예에 따르면, 분할 모델(150)은 제1 이미지를 수신할 수 있다. 제1 이미지는 개인식별정보(예: 얼굴, 신체, 차량 번호판, 명판, 간판 등)를 포함할 수 있다. 분할 모델(150)은 제1 이미지에서 개인식별정보에 상응하는 부분을 분할할 수 있다. 분할 모델(150)은 세그멘테이션 네트워크(155)(예: CNN 기반의 세그멘테이션 네트워크)를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따른 분할 모델(150)은 제1 이미지에 기초하여 계층정보 데이터를 생성할 수 있다. 예를 들어, 분할 모델(150)은 제1 이미지에 포함된 객체의 정보를 추출하여 변환(예: 계층화)함으로써 계층정보 데이터를 생성할 수 있다. 객체의 정보는 객체의 크기 및 종류 중 적어도 어느 하나를 포함할 수 있다. 분할 모델(150)은 객체의 정보를 추출하기 위한 네트워크를 포함한다. 객체의 정보를 추출하기 위한 네트워크는 특정한 백본망(Backbone Network)으로 한정되지 않으며 객체의 정보를 추출할 수 있거나 그와 실질적으로 동일한 기능을 갖는 모든 백본망을 포함한다. 분할 모델(150)은 임의의 규칙 혹은 계산식에 의해 객체의 정보를 계층정보 데이터로 변환할 수 있다. 계층정보 데이터는 트리(tree)형식일 수 있다.The
다양한 실시예에 따르면, 세그멘테이션 네트워크(155)는 제1 이미지를 수신하여 제1 이미지 및 제1 이미지의 계층정보 데이터를 기초로 세그멘테이션 맵(segmentation map)을 생성하고, 세그멘테이션 맵을 출력할 수 있다. 세그멘테이션 맵은 제1 이미지의 개인식별정보에 대응되는 부분이 분할된 이미지일 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 분할 모델(150)은 계층정보 데이터를 수신하여 계층정보 데이터를 벡터로 변환하여 오브젝트 벡터(object vector)를 생성할 수 있다. 오브젝트 벡터는 객체마다 픽셀 임베딩(pixel embedding)한 벡터일 수 있다. 분할 모델(150)은 Word2Vec와 유사한 Tree-obj2Vec방식에 의해 계층정보 데이터를 벡터로 변환할 수 있다. Word2Vec은 인공 신경망을 통해 문장들을 학습하고, 문장에 속한 단어들을 파악하여 의미적으로 비슷한 단어끼리 가까운 벡터공간에 표현해주는 모델이다. 오브젝트 벡터는 세그멘테이션 맵의 라벨로 활용될 수 있다.According to various embodiments, the
픽셀별로 임베딩을 수행하고 오브젝트 벡터를 활용할 경우, 정확하고 자세하게 객체의 위치 및 경계선을 검출하고 객체를 분할할 수 있다.When embedding is performed for each pixel and an object vector is used, the position and boundary of the object can be detected accurately and detailed, and the object can be segmented.
다양한 실시예에 따르면, 비식별화 모델(140)은 객체의 종류에 기초하여 분할 모델(150)의 출력(예: 세그멘테이션 맵)을 분류하여 제1 비식별화 모델(160) 또는 제2 비식별화 모델(170)로 출력하는 분류기(미도시)를 더 포함할 수 있다. 객체가 보행자인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 제1 비식별화 모델(160)로 출력될 수 있고, 객체가 사물(예: 자동차, 간판 등)인 경우에는 분할 모델(150)의 출력(예: 분할된 이미지)은 제2 비식별화 모델(170)로 출력될 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제1 비식별화 모델(160)은 분할 모델(150)의 출력(예: 세그멘테이션 맵)을 수신할 수 있다. 세그멘테이션 맵은 얼굴 및 신체 중 적어도 어느 하나를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제1 비식별화 모델(160)은 분할된 이미지로부터 정보를 추출할 수 있다. 추출된 정보는 분할된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나를 구성하는 요소의 특징 중에서 적어도 어느 하나에 대한 정보를 포함할 수 있다. 제1 비식별화 모델(160)은 GAN 네트워크(165)를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, GAN 네트워크(165)는 분할된 이미지 및 추출된 정보에 기초하여 분할된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나에 대응하는 가상 이미지를 생성하고, 가상 이미지를 출력할 수 있다. GAN 네트워크(165)는 추출된 정보에 기초하여 분할된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나가 가지는 요소의 특징을 유지하는 것을 조건으로 가상 이미지를 생성할 수 있다. 가상 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나는 분할된 이미지에 포함된 얼굴 및 신체 중 적어도 어느 하나와 전혀 다른 생김새일 수 있고, 크기는 동일할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제1 비식별화 모델(160)은 분할된 이미지의 위치에 기초하여 원본 미디어에 가상 이미지를 합성한 합성 이미지(예: 개인식별정보가 비식별화된 제2 이미지)를 생성할 수 있고, 합성 이미지를 출력할 수 있다. 예를 들어, 원본 미디어에 포함된 객체가 보행자일 경우, 제1 비식별화 모델(160)은 보행자의 얼굴 및 신체 중 적어도 어느 하나가 분할된 위치에 가상의 얼굴 및 가상의 신체 중 적어도 어느 하나를 합성할 수 있다. 제1 비식별화 모델(160)은 원본 미디어 내의 얼굴 또는 신체와 대응되는 가상 이미지를 원본 미디어 내의 얼굴 또는 신체의 기존 위치에 합성함으로써 이질감이 없고 자연스러운 합성 이미지를 생성할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제1 비식별화 모델(160)의 출력인 합성 이미지를 학습 데이터로서 활용할 경우, 원본 미디어 내 기존의 얼굴 및 신체 중 적어도 어느 하나가 있던 위치에 가상의 얼굴 및 가상의 신체 중 적어도 어느 하나가 존재하므로 개인식별정보를 노출시키지 않을 수 있다. 또한, 합성 이미지는 이질감이 없고 자연스러우므로 학습 데이터로서의 가치를 보존할 수 있다.According to various embodiments, when a composite image that is an output of the
다양한 실시예에 따르면, 제2 비식별화 모델(170)은 분할 모델(150)의 출력(예: 분할된 이미지)을 수신할 수 있다. 예를 들어, 분할된 이미지는 텍스트 플레이트(예: 차량 번호판, 간판, 명판 등)를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제2 비식별화 모델(170)은 분할된 이미지로부터 텍스트 플레이트 부분에 상응하는 부분을 검출할 수 있다. 텍스트 플레이트 부분은 개인식별정보를 포함할 수 있다. 텍스트 플레이트 부분에 상응하는 부분은 텍스트 데이터(예: 한글, 영어, 숫자 등) 및 텍스트 데이터를 제외한 나머지 부분인 이미지 데이터를 포함할 수 있다. 제2 비식별화 모델(170)은 텍스트 플레이트 부분에 상응하는 부분으로부터 텍스트 데이터(예: 한글, 영어, 숫자 등) 및 이미지 데이터를 추출해서 획득할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제2 비식별화 모델(170)은 텍스트 데이터를 변경할 수 있다. 제2 비식별화 모델(170)은 텍스트 데이터에서 텍스트(예: 한글, 영어, 숫자 등)를 변경한 텍스트 변형 데이터를 생성할 수 있다. 제2 비식별화 모델(170)은 텍스트를 규칙에 따라 변경하거나 규칙에 상관없이 랜덤하게 변경할 수 있다. 제2 비식별화 모델(170)은 신경망 네트워크(175)를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 신경망 네트워크(175)는 이미지 데이터에 기초하여 텍스트 플레이트의 유형(예: 신형 자동차의 번호판, 구형 자동차의 번호판, 전기차의 번호판, 명판, 간판 등)을 파악할 수 있다. 신경망 네트워크(175)는 텍스트 플레이트의 유형이 기재된 라벨을 생성할 수 있으며, 라벨을 출력할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 제2 비식별화 모델(170)은 라벨 및 텍스트 변형 데이터에 기초하여 합성 이미지(예: 개인식별정보가 비식별화된 제2 이미지)를 생성할 수 있다. 예를 들어, 제2 비식별화 모델(170)은 라벨에 기재된 텍스트 플레이트의 유형에 상응하는 이미지 데이터에 텍스트 변형 데이터를 합성하여 합성 이미지를 생성하고, 합성 이미지를 출력할 수 있다.According to various embodiments, the
다양한 실시예에 따른 제2 비식별화 모델(170)의 출력인 합성 이미지를 학습 데이터로 활용할 경우, 원본 미디어 내 기존의 텍스트 플레이트가 있던 위치에 가상의 텍스트 플레이트가 존재하므로 개인식별정보를 노출시키지 않을 수 있다. 또한, 합성 이미지는 이질감이 없고 자연스러우므로 학습 데이터로서의 가치를 보존할 수 있다.When using the synthetic image that is the output of the
도 4는 다양한 실시예에 따른 비식별화 모델을 생성하는 동작을 설명하기 위한 도면이다.4 is a diagram for describing an operation of generating a de-identification model according to various embodiments of the present disclosure;
도 4를 참조하면, 다양한 실시예에 따르면, 전자 장치(400)는 제1 학습 데이터 및 제1 학습 데이터로부터 획득한 제2 학습 데이터에 기초하여 비식별화 모델(440)을 생성(예: 학습)할 수 있다. 제2 학습 데이터는 전자 장치(400)에 포함된 데이터 수집기(410)에 의해 제1 학습 데이터로부터 획득될 수 있다.Referring to FIG. 4 , according to various embodiments, the
다양한 실시예에 따르면, 데이터 수집기(410)는 제1 학습 데이터 및 제1 학습 데이터로부터 획득한 제2 학습 데이터를 수집할 수 있다. 제1 학습 데이터는 개인식별정보에 상응하는 데이터를 포함할 수 있다. 제2 학습 데이터는 개인식별정보(예: 얼굴, 신체, 텍스트 플레이트 등)에 상응하는 데이터일 수 있다. 데이터 수집기(410)는 추출 오픈소스(412) 및 개인식별정보 학습 데이터베이스(414)를 포함할 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 추출 오픈소스(412)는 제1 학습 데이터로부터 제2 학습 데이터를 추출할 수 있다. 추출 오픈소스(412)는 데이터를 추출 또는 그와 실질적으로 동일한 기능을 하기 위한 모든 오픈소스를 포함한다. 제1 학습 데이터 및 제2 학습 데이터는 쌍으로 존재할 수 있다.According to various embodiments, the extraction
다양한 실시예에 따르면, 개인식별정보 학습 데이터베이스(414)는 데이터를 저장할 수 있다. 저장된 데이터는 수신한 제1 학습 데이터 및 제2 학습 데이터의 쌍의 집합일 수 있다.According to various embodiments, the personal identification
다양한 실시예에 따르면, 비식별화 모델(440)은 입력한 이미지의 개인식별정보 부분만 비식별화한 이미지를 생성하도록 학습될 수 있고, 생성한 이미지를 출력할 수 있도록 학습될 수 있다.According to various embodiments, the
다양한 실시예에 따르면, 비식별화 모델(440)은 다량의 데이터를 기반으로 학습됨으로써 생성될 수 있다. 다량의 데이터는 개인식별정보 학습 데이터베이스(414)에서 공급될 수 있다. 비식별화 모델(440)은 분할 모델(442), 제1 비식별화 모델(160), 및 제2 비식별화 모델(170)를 포함할 수 있다. 분할 모델(442)은 제1 학습 데이터 및 제2 학습 데이터에 기초하여 학습됨으로써 생성될 수 있고, 제1 비식별화 모델(160) 및 제2 비식별화 모델(170)은 분할 모델(442)의 출력을 수신하여 제1 학습 데이터의 개인식별정보 부분을 비식별화할 수 있다.According to various embodiments, the
도 5는 다양한 실시예에 따른 분할 모델을 생성하는 동작을 설명하기 위한 도면이다.5 is a diagram for explaining an operation of generating a partition model according to various embodiments of the present disclosure;
도 5를 참조하면, 다양한 실시예에 따르면, 분할 모델(442)은 제1 학습 데이터 및 제1 학습 데이터로부터 획득한 제2 학습 데이터에 기초하여 학습됨으로써 생성될 수 있다. 분할 모델(442)은 제1 학습 데이터의 특정 부분을 분할하도록 학습될 수 있다. 특정 부분은 개인식별정보에 상응하는 부분일 수 있다. 분할 모델(442)은 계층정보 변환기(510), 세그멘테이션 네트워크(segmentation network)(예: CNN 기반의 세그멘테이션 네트워크)(520), 및 픽셀 임베딩 모듈(530)를 포함할 수 있다.Referring to FIG. 5 , according to various embodiments, a
다양한 실시예에 따르면, 세그멘테이션 네트워크는 제1 학습 데이터, 제2 학습 데이터, 및 계층정보 변환기(510)의 출력인 계층정보 데이터에 기초하여 학습될 수 있다. 예를 들어, 세그멘테이션 네트워크(520)는 제1 학습 데이터 및 계층정보 데이터를 수신하여 세그멘테이션 맵(segmentation map)을 생성하고, 출력하도록 학습될 수 있다. 세그멘테이션 맵은 제1 학습 데이터의 개인식별정보에 대응되는 부분이 분할된 이미지일 수 있다. 세그멘테이션 네트워크(520)는 제2 학습 데이터를 수신하여 세그멘테이션 맵과 제2 학습 데이터를 비교함으로써 세그멘테이션 네트워크(520)가 학습되도록 할 수 있다.According to various embodiments, the segmentation network may be trained based on the first training data, the second training data, and the layer information data output from the
픽셀 임베딩 모듈(530)은 계층정보 변환기(510)의 출력인 계층정보 데이터를 수신할 수 있다. 계층정보 데이터는 객체의 정보가 변환될 것일 수 있으며, 객체의 정보는 종류 및 크기 중 적어도 어느 하나일 수 있다. 픽셀 임베딩 모듈(530)은 객체의 정보를 벡터로 변환하여 오브젝트 벡터(object vector)를 생성할 수 있다. 오브젝트 벡터는 객체마다 픽셀 임베딩(pixel embedding)된 벡터일 수 있다. 픽셀 임베딩 모듈(530)은 Word2Vec와 유사한 Tree-obj2Vec방식에 의해 객체의 정보를 벡터로 변환할 수 있다. Word2Vec은 인공 신경망을 통해 문장들을 학습하고, 문장에 속한 단어들을 파악하여 의미적으로 비슷한 단어끼리 가까운 벡터공간에 표현해주는 모델이다. 픽셀 임베딩 모듈(530)의 오브젝트 벡터는 세그멘테이션 맵의 라벨로 활용될 수 있다.The pixel embedding module 530 may receive layer information data that is an output of the
도 6은 다양한 실시예에 따른, 도 5의 계층정보 변환기의 일 예를 설명하기 위한 도면이다.FIG. 6 is a diagram for explaining an example of the hierarchical information converter of FIG. 5 , according to various embodiments of the present disclosure;
도 6을 참조하면, 다양한 실시예에 따르면, 계층정보 변환기(510)는 객체 정보 추출기(610) 및 변환기(630)를 포함할 수 있다.Referring to FIG. 6 , according to various embodiments, the
다양한 실시예에 따르면, 객체 정보 추출기(610)는 제1 학습 데이터를 수신할 수 있다. 객체 정보 추출기(610)는 제1 학습 데이터에 포함된 객체의 정보를 추출할 수 있다. 객체의 정보는 객체의 크기 및 종류 중 적어도 어느 하나를 포함한다. 객체 정보 추출기(610)는 객체의 정보를 추출하기 위한 네트워크를 포함한다. 객체의 정보를 추출하기 위한 네트워크는 어느 특정한 백본망(backbone network)으로 한정되지 않으며 객체의 정보를 추출할 수 있거나 그와 실질적으로 동일한 기능을 갖는 모든 백본망을 포함한다.According to various embodiments, the
다양한 실시예에 따르면, 변환기(630)는 객체의 정보를 수신하여 객체의 정보를 계층정보 데이터로 변환(예: 계층화)함으로써 계층정보 데이터를 생성할 수 있다. 변환기(630)는 임의의 규칙 혹은 계산식에 의해 객체의 정보를 계층정보 데이터로 변환할 수 있다. 계층정보 데이터는 트리(tree)형식일 수 있다. 변환기(630)는 계층정보 데이터에 기초하여 down-sampling과 up-sampling 과정에서 발생할 수 있는 지역적인 정보의 유실을 방지할 수 있다.According to various embodiments, the
도 7은 다양한 실시예에 따른 전자 장치의 동작 방법의 일 예에 대한 흐름도이다.7 is a flowchart illustrating an example of a method of operating an electronic device according to various embodiments of the present disclosure;
동작 710 내지 730은 전자 장치(예: 도 1의 전자 장치(100))가 객체를 분할하는 동작을 설명하기 위한 것일 수 있다.
동작 710에서, 전자 장치(100)는 하나 이상의 객체를 포함하는 제1 이미지를 수신할 수 있다.In
동작 720에서, 전자 장치(100)는 제1 이미지에 포함된 객체의 정보를 추출할 수 있다. 전자 장치(100)는 추출된 정보를 변형(예: 계층화)하여 계층정보 데이터를 생성할 수 있다. 계층정보 데이터는 트리 형식일 수 있다.In
동작 730에서, 전자 장치(100)는 제1 이미지 및 계층정보 데이터에 기초하여 세그멘테이션 맵(segmentation map)을 생성할 수 있다. 세그멘테이션 맵은 제1 이미지에 포함된 객체가 분할된 이미지일 수 있다.In
도 8은 다양한 실시예에 따른 전자 장치의 동작 방법의 다른 예에 대한 흐름도이다.8 is a flowchart of another example of a method of operating an electronic device according to various embodiments of the present disclosure;
동작 810 내지 830은 전자 장치(예: 도 4의 전자 장치(400))가 객체를 분할하는 분할 모델을 생성하는 동작을 설명하기 위한 것일 수 있다.
동작 810에서, 전자 장치(400)는 제1 학습 데이터로부터 하나 이상의 객체를 분할한 제2 학습 데이터를 획득할 수 있다.In
동작 820에서, 전자 장치(400)는 제1 학습 데이터에 포함된 객체의 정보를 추출할 수 있다. 전자 장치(400)는 추출된 정보를 변형(예: 계층화)하여 계층정보 데이터를 생성할 수 있다. 계층정보 데이터는 트리 형식일 수 있다.In
동작 830에서, 전자 장치(400)는 제1 학습 데이터, 제2 학습 데이터, 및 계층정보 데이터에 기초하여 분할 모델(예: 도 4의 분할 모델(442))을 생성(예: 학습)할 수 있다. 예를 들어, 전자 장치(400)는 제1 학습 데이터 및 계층정보 데이터를 수신하여 세그멘테이션 맵을 생성하는 분할 모델(442)을 생성(예: 학습)할 수 있다. 전자 장치(400)는 세그멘테이션 맵과 제2 학습 데이터의 유사도를 증가시킴으로써 분할 모델(442)을 생성(예: 학습)할 수 있다.In
도 9는 다양한 실시예에 따른, 전자 장치의 다른 예를 나타낸다.9 illustrates another example of an electronic device according to various embodiments of the present disclosure;
도 9를 참조하면, 다양한 실시예에 따르면, 비식별화 장치(900)는 도 1의 전자 장치(100) 및/또는 도 4의 전자 장치(400)와 실질적으로 동일할 수 있다.Referring to FIG. 9 , according to various embodiments, the
메모리(910)는 프로세서(930)에 의해 실행가능한 인스트럭션들(예: 프로그램)을 저장할 수 있다. 예를 들어, 인스트럭션들은 프로세서(930)의 동작 및/또는 프로세서(930)의 각 구성의 동작을 실행하기 위한 인스트럭션들을 포함할 수 있다.The
프로세서(930)는 메모리(910)에 저장된 데이터를 처리할 수 있다. 프로세서(930)는 메모리(910)에 저장된 컴퓨터로 읽을 수 있는 코드(예를 들어, 소프트웨어) 및 프로세서(930)에 의해 유발된 인스트럭션(instruction)들을 실행할 수 있다.The
프로세서(930)는 목적하는 동작들(desired operations)을 실행시키기 위한 물리적인 구조를 갖는 회로를 가지는 하드웨어로 구현된 데이터 처리 장치일 수 있다. 예를 들어, 목적하는 동작들은 프로그램에 포함된 코드(code) 또는 인스트럭션들(instructions)을 포함할 수 있다.The
예를 들어, 하드웨어로 구현된 데이터 처리 장치는 마이크로프로세서(microprocessor), 중앙 처리 장치(central processing unit), 프로세서 코어(processor core), 멀티-코어 프로세서(multi-core processor), 멀티프로세서(multiprocessor), ASIC(Application-Specific Integrated Circuit), FPGA(Field Programmable Gate Array)를 포함할 수 있다.For example, a data processing device implemented as hardware includes a microprocessor, a central processing unit, a processor core, a multi-core processor, and a multiprocessor. , an Application-Specific Integrated Circuit (ASIC), and a Field Programmable Gate Array (FPGA).
프로세서(930)에 의해 수행되는 동작은 도 1 내지 도 3을 참조하여 설명한 전자 장치(100)의 동작과 실질적으로 동일할 수 있다. 도 1 내지 도 3에서 설명한 전자 장치(100)의 각 구성(예: 객체 탐지기(110), 및 비식별화 모델(140)은 프로세서(930)에 의해 실행될 수 있다. 또한, 프로세서(930)에 의해 수행되는 도4 내지 도 6을 참조하여 설명한 전자 장치(400)의 동작과 실질적으로 동일할 수 있다. 이에, 상세한 설명은 생략하도록 한다.The operation performed by the
이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 소프트웨어 애플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 컨트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The embodiments described above may be implemented by a hardware component, a software component, and/or a combination of a hardware component and a software component. For example, the apparatus, methods and components described in the embodiments may include, for example, a processor, a controller, an arithmetic logic unit (ALU), a digital signal processor, a microcomputer, a field programmable gate (FPGA). array), a programmable logic unit (PLU), a microprocessor, or any other device capable of executing and responding to instructions, may be implemented using a general purpose computer or special purpose computer. The processing device may execute an operating system (OS) and a software application running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to execution of the software. For convenience of understanding, although one processing device is sometimes described as being used, one of ordinary skill in the art will recognize that the processing device includes a plurality of processing elements and/or a plurality of types of processing elements. It can be seen that may include For example, the processing device may include a plurality of processors or one processor and one controller. Other processing configurations are also possible, such as parallel processors.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.Software may comprise a computer program, code, instructions, or a combination of one or more of these, which configures a processing device to operate as desired or is independently or collectively processed You can command the device. The software and/or data may be any kind of machine, component, physical device, virtual equipment, computer storage medium or device, to be interpreted by or to provide instructions or data to the processing device. , or may be permanently or temporarily embody in a transmitted signal wave. The software may be distributed over networked computer systems and stored or executed in a distributed manner. Software and data may be stored in a computer-readable recording medium.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 저장할 수 있으며 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. The method according to the embodiment may be implemented in the form of program instructions that can be executed through various computer means and recorded in a computer-readable medium. The computer readable medium may store program instructions, data files, data structures, etc. alone or in combination, and the program instructions recorded on the medium may be specially designed and configured for the embodiment, or may be known and available to those skilled in the art of computer software. have. Examples of the computer-readable recording medium include magnetic media such as hard disks, floppy disks and magnetic tapes, optical media such as CD-ROMs and DVDs, and magnetic such as floppy disks. - includes magneto-optical media, and hardware devices specially configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine language codes such as those generated by a compiler, but also high-level language codes that can be executed by a computer using an interpreter or the like.
위에서 설명한 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 또는 복수의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The hardware devices described above may be configured to operate as one or a plurality of software modules to perform the operations of the embodiments, and vice versa.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 이를 기초로 다양한 기술적 수정 및 변형을 적용할 수 있다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.As described above, although the embodiments have been described with reference to the limited drawings, a person skilled in the art may apply various technical modifications and variations based thereon. For example, the described techniques are performed in a different order than the described method, and/or the described components of the system, structure, apparatus, circuit, etc. are combined or combined in a different form than the described method, or other components Or substituted or substituted by equivalents may achieve an appropriate result.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are also within the scope of the following claims.
Claims (18)
제1 학습 데이터로부터 하나 이상의 객체를 분할한 제2 학습 데이터를 획득하는 동작;
상기 제2 학습 데이터를 트리 형식화한 계층정보 데이터를 생성하는 동작; 및
상기 제1 학습 데이터, 상기 제2 학습 데이터, 및 상기 계층정보 데이터에 기초하여 상기 분할 모델을 생성하는 동작
을 포함하는, 분할 모델 생성 방법.
In the method of generating a partition model that partitions an object,
obtaining second learning data obtained by dividing one or more objects from the first learning data;
generating hierarchical information data obtained by tree-formatting the second learning data; and
generating the segmentation model based on the first learning data, the second learning data, and the layer information data
A method of generating a segmentation model, comprising:
상기 분할 모델을 생성하는 동작은,
상기 제1 학습 데이터 및 상기 계층정보 데이터를 상기 분할 모델에 입력시켜 상기 분할 모델을 학습시키는 동작
을 포함하고,
상기 제2 학습 데이터는 상기 분할 모델의 출력과 비교하기 위해 사용되는 것인, 분할 모델 생성 방법.
According to claim 1,
The operation of generating the segmentation model is,
An operation of learning the division model by inputting the first learning data and the layer information data into the division model
including,
and the second training data is used for comparison with an output of the partition model.
상기 계층정보 데이터는,
상기 제1 학습 데이터에 포함된 객체의 크기 정보를 더 포함하는, 분할 모델 생성 방법.
3. The method of claim 2,
The hierarchical information data,
The split model generation method further comprising information on the size of the object included in the first training data.
상기 계층정보 데이터를 생성하는 동작은,
상기 제1 학습 데이터에 포함된 객체마다 계층정보 데이터를 생성하는 동작
을 포함하는, 분할 모델 생성 방법.
According to claim 1,
The operation of generating the layer information data includes:
Generating hierarchical information data for each object included in the first learning data
A method of generating a segmentation model, comprising:
상기 계층정보 데이터는,
상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), , 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고,
상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함하는, 분할 모델 생성 방법.
5. The method of claim 4,
The hierarchical information data,
When the object is a person, it includes hierarchically acquired data for a head, a face, a hair, and a body,
when the object is a vehicle, comprising hierarchically acquired data for a vehicle and a text plate.
제1 이미지를 수신하는 동작;
상기 제1 이미지에 기초하여 계층정보 데이터를 생성하는 동작; 및
상기 제1 이미지 및 상기 계층정보 데이터에 기초하여 세그멘테이션 맵(segamentation map)을 생성하는 동작
을 포함하는, 분할 방법.
In the division method of dividing an object,
receiving a first image;
generating hierarchical information data based on the first image; and
generating a segmentation map based on the first image and the layer information data
A partitioning method comprising:
상기 세그멘테이션 맵은,
상기 제1 이미지의 객체들이 분할된 것인, 분할 방법.
7. The method of claim 6,
The segmentation map is
The segmentation method, wherein the objects of the first image are segmented.
상기 계층정보 데이터에 기초하여 상기 객체들에 대해 픽셀 임베딩(pixel embedding)하여 오브젝트 벡터(object vector)를 생성하는 동작
을 더 포함하는, 분할 방법.
7. The method of claim 6,
An operation of generating an object vector by pixel embedding for the objects based on the hierarchical information data
A partitioning method further comprising a.
상기 오브젝트 벡터는,
상기 세그멘테이션 맵의 라벨(label)로 활용되는, 분할 방법.
9. The method of claim 8,
The object vector is
A segmentation method used as a label of the segmentation map.
상기 계층정보 데이터를 생성하는 동작은,
상기 제1 이미지에 포함된 객체마다 트리 형식의 계층정보 데이터를 생성하는 동작
을 포함하는, 분할 방법.
7. The method of claim 6,
The operation of generating the layer information data includes:
An operation of generating tree-type hierarchical information data for each object included in the first image
A partitioning method comprising:
상기 계층정보 데이터는,
상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), , 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고,
상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함하는, 분할 방법.
11. The method of claim 10,
The hierarchical information data,
When the object is a person, it includes hierarchically acquired data for a head, a face, a hair, and a body,
when the object is a vehicle, comprising hierarchically obtained data for a vehicle and a text plate.
A computer program stored in a computer-readable recording medium in combination with hardware to execute the method of any one of claims 1 to 11.
인스터럭션들을 포함하는 메모리; 및
상기 메모리와 전기적으로 연결되고, 상기 인스트럭션들을 실행하기 위한 프로세서
를 포함하고,
상기 프로세서에 의해 상기 인스트럭션들이 실행될 때, 상기 프로세서는,
제1 이미지를 수신하고,
상기 제1 이미지에 기초하여 계층정보 데이터를 생성하고,
상기 제1 이미지 및 상기 계층정보 데이터에 기초하여 세그멘테이션 맵(Segamentation Map)을 생성하는, 장치.
A device for segmenting an object, comprising:
a memory containing instructions; and
a processor electrically connected to the memory and configured to execute the instructions
including,
When the instructions are executed by the processor, the processor
receiving the first image;
generating hierarchical information data based on the first image,
An apparatus for generating a segmentation map based on the first image and the layer information data.
상기 세그멘테이션 맵은,
상기 제1 이미지의 객체들이 분할된 것인, 장치.
14. The method of claim 13,
The segmentation map is
wherein the objects of the first image are segmented.
상기 프로세서는,
상기 계층정보 데이터에 기초하여 상기 객체들에 대해 픽셀 임베딩(Pixel embedding)하여 오브젝트 벡터(object vector)를 생성하는 장치.
14. The method of claim 13,
The processor is
An apparatus for generating an object vector by performing pixel embedding on the objects based on the hierarchical information data.
상기 오브젝트 벡터는,
상기 세그멘테이션 맵의 라벨(label)로 활용되는, 장치.
16. The method of claim 15,
The object vector is
An apparatus used as a label of the segmentation map.
상기 프로세서는,
상기 제1 이미지에 포함된 객체마다 트리 형식의 계층정보 데이터를 생성하는, 장치.
14. The method of claim 13,
The processor is
An apparatus for generating tree-type hierarchical information data for each object included in the first image.
상기 계층정보 데이터는,
상기 객체가 사람인 경우, 머리(head), 얼굴(face), 머리카락(hair), 및 신체(body)에 대해 계층적으로 획득된 데이터를 포함하고,
상기 객체가 차량인 경우, 차량 및 텍스트 플레이트(text plate)에 대해 계층적으로 획득된 데이터를 포함하는, 장치.
18. The method of claim 17,
The hierarchical information data,
When the object is a person, it includes hierarchically acquired data for a head, a face, a hair, and a body,
if the object is a vehicle, comprising hierarchically obtained data for a vehicle and a text plate.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210026491 | 2021-02-26 | ||
KR20210026491 | 2021-02-26 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR20220122455A true KR20220122455A (en) | 2022-09-02 |
Family
ID=83280940
Family Applications (7)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210120899A KR20220122456A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying personally identifiable information contained in video data, and device performing the same |
KR1020210120890A KR20220122455A (en) | 2021-02-26 | 2021-09-10 | Method for segmenting object contained in video data, and device performing the same |
KR1020210120917A KR20220122458A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying text plate contained in video data, and device performing the same |
KR1020210120907A KR20220122457A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying face and body contained in video data, and device performing the same |
KR1020220096372A KR20230038086A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying face and body contained in video data, and device performing the same |
KR1020220096380A KR20230038087A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying text plate contained in video data, and device performing the same |
KR1020220096384A KR20230038088A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying personally identifiable information contained in video data, and device performing the same |
Family Applications Before (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210120899A KR20220122456A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying personally identifiable information contained in video data, and device performing the same |
Family Applications After (5)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210120917A KR20220122458A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying text plate contained in video data, and device performing the same |
KR1020210120907A KR20220122457A (en) | 2021-02-26 | 2021-09-10 | Method for de-identifying face and body contained in video data, and device performing the same |
KR1020220096372A KR20230038086A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying face and body contained in video data, and device performing the same |
KR1020220096380A KR20230038087A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying text plate contained in video data, and device performing the same |
KR1020220096384A KR20230038088A (en) | 2021-02-26 | 2022-08-02 | Method for de-identifying personally identifiable information contained in video data, and device performing the same |
Country Status (1)
Country | Link |
---|---|
KR (7) | KR20220122456A (en) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR102515011B1 (en) * | 2022-11-15 | 2023-03-29 | 주식회사 디비엔텍 | Method and system for improving performance of de-identification of personal information in video |
KR102533512B1 (en) * | 2022-11-17 | 2023-05-18 | (주)에이아이딥 | Personal information object detection method and device |
-
2021
- 2021-09-10 KR KR1020210120899A patent/KR20220122456A/en unknown
- 2021-09-10 KR KR1020210120890A patent/KR20220122455A/en not_active Application Discontinuation
- 2021-09-10 KR KR1020210120917A patent/KR20220122458A/en unknown
- 2021-09-10 KR KR1020210120907A patent/KR20220122457A/en unknown
-
2022
- 2022-08-02 KR KR1020220096372A patent/KR20230038086A/en not_active Application Discontinuation
- 2022-08-02 KR KR1020220096380A patent/KR20230038087A/en active IP Right Grant
- 2022-08-02 KR KR1020220096384A patent/KR20230038088A/en not_active Application Discontinuation
Also Published As
Publication number | Publication date |
---|---|
KR20220122457A (en) | 2022-09-02 |
KR20220122456A (en) | 2022-09-02 |
KR20230038086A (en) | 2023-03-17 |
KR20230038088A (en) | 2023-03-17 |
KR20230038087A (en) | 2023-03-17 |
KR20220122458A (en) | 2022-09-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11604964B2 (en) | Recognizer, object recognition method, learning apparatus, and learning method for domain adaptation | |
US20210295082A1 (en) | Zero-shot object detection | |
KR102565278B1 (en) | Image segmentation method, image segmentation device, and learning method ofimage segmentation | |
US20170147905A1 (en) | Systems and methods for end-to-end object detection | |
KR102160224B1 (en) | Semantic object region segmentation method and system based on weak map learning object detector | |
US20220156944A1 (en) | Apparatus and method with video processing | |
KR20220122455A (en) | Method for segmenting object contained in video data, and device performing the same | |
Su et al. | Cascaded pyramid mining network for weakly supervised temporal action localization | |
US10607111B2 (en) | Machine vision system for recognizing novel objects | |
Khalil et al. | Text detection and script identification in natural scene images using deep learning | |
JP2022161564A (en) | System for training machine learning model recognizing character of text image | |
Wang et al. | Occluded vehicle detection with local connected deep model | |
KR20160087740A (en) | Method and apparatus for determining type of movement of object in video | |
US11321397B2 (en) | Composition engine for analytical models | |
Vlachynska et al. | Dogface detection and localization of dogface’s landmarks | |
Narayanan et al. | Automated Brain Tumor Segmentation Using GAN Augmentation and Optimized U-Net | |
KR20230099941A (en) | Generalization Method and System of construction object segmentation model using self-supervised learning and copy-paste data augmentation | |
Sreenivasulu et al. | Adaptive inception based on transfer learning for effective visual recognition | |
Santoso et al. | Learning-based human detection applied to RGB-D images | |
Deng et al. | Combining stacked denoising autoencoders and random forests for face detection | |
Nandimandalam | Military and Non-Military Vehicle Detection by Faster R-CNN and SSD300 Models using Transfer Leaning | |
Chen et al. | Real-Time Multi-class Instance Segmentation with One-Time Deep Embedding Clustering | |
Praveena et al. | Research Article Effective CBMIR System Using Hybrid Features-Based Independent Condensed Nearest Neighbor Model | |
Xu et al. | Meta-transfer Learning for Person Re-identification in Aerial Imagery | |
KR20230044787A (en) | Method for augmenting training data specialized in object detection and device performing the same |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E90F | Notification of reason for final refusal | ||
E601 | Decision to refuse application | ||
E801 | Decision on dismissal of amendment |