KR20230030416A - 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 - Google Patents
얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 Download PDFInfo
- Publication number
- KR20230030416A KR20230030416A KR1020210112605A KR20210112605A KR20230030416A KR 20230030416 A KR20230030416 A KR 20230030416A KR 1020210112605 A KR1020210112605 A KR 1020210112605A KR 20210112605 A KR20210112605 A KR 20210112605A KR 20230030416 A KR20230030416 A KR 20230030416A
- Authority
- KR
- South Korea
- Prior art keywords
- face
- mosaic
- facial feature
- feature vector
- selective
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 59
- 239000013598 vector Substances 0.000 claims abstract description 102
- 230000001815 facial effect Effects 0.000 claims abstract description 95
- 238000013527 convolutional neural network Methods 0.000 claims description 37
- 239000011159 matrix material Substances 0.000 claims description 24
- 239000000284 extract Substances 0.000 claims description 15
- 238000000605 extraction Methods 0.000 claims description 8
- 238000005259 measurement Methods 0.000 claims description 5
- 238000010586 diagram Methods 0.000 description 20
- 238000005516 engineering process Methods 0.000 description 6
- 238000001514 detection method Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 2
- 244000240602 cacao Species 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000004753 textile Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/168—Feature extraction; Face representation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
- G06T2207/30201—Face
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Biophysics (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Mathematical Physics (AREA)
- Evolutionary Computation (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Artificial Intelligence (AREA)
- Human Computer Interaction (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Collating Specific Patterns (AREA)
Abstract
본 발명은 얼굴 인식 기반의 선택적 얼굴 모자이크 방법에 관한 것으로서, 보다 구체적으로는 얼굴 모자이크 방법으로서, 영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치에서 각 단계가 수행되며, (1) 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 단계; (2) 상기 단계 (1)에서 추출한 등록 얼굴 특징 벡터를 얼굴 데이터베이스에 저장하는 단계; (3) 입력 영상에서 얼굴 영역을 검출하고 상기 단계 (1)의 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계; 및 (4) 상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 단계 (3)에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.
또한, 본 발명은 얼굴 인식 기반의 선택적 얼굴 모자이크 장치에 관한 것으로서, 보다 구체적으로는 영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치로서, 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 얼굴 등록부; 상기 얼굴 등록부에서 추출한 등록 얼굴 특징 벡터를 저장하는 얼굴 데이터베이스; 입력 영상에서 얼굴 영역을 검출하고 상기 얼굴 등록부에서 사용한 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 얼굴 인식부; 및 상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 얼굴 인식부에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 모자이크 처리부를 포함하는 것을 그 구성상의 특징으로 한다.
본 발명에서 제안하고 있는 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 따르면, 입력 영상에서 추출한 입력 얼굴 특징을 얼굴 데이터베이스에 저장된 등록 얼굴 특징과 비교해 얼굴 인식을 수행하며, 인식되지 않은 얼굴을 식별해 모자이크 처리함으로써, 얼굴 검출 및 얼굴 인식 기술을 사용해 영상 내의 등록되지 않은 얼굴을 선택적으로 자동 모자이크 처리하여, 번거로운 작업 없이 효율적으로 영상에 모자이크 처리를 할 수 있다.
또한, 본 발명은 얼굴 인식 기반의 선택적 얼굴 모자이크 장치에 관한 것으로서, 보다 구체적으로는 영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치로서, 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 얼굴 등록부; 상기 얼굴 등록부에서 추출한 등록 얼굴 특징 벡터를 저장하는 얼굴 데이터베이스; 입력 영상에서 얼굴 영역을 검출하고 상기 얼굴 등록부에서 사용한 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 얼굴 인식부; 및 상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 얼굴 인식부에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 모자이크 처리부를 포함하는 것을 그 구성상의 특징으로 한다.
본 발명에서 제안하고 있는 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 따르면, 입력 영상에서 추출한 입력 얼굴 특징을 얼굴 데이터베이스에 저장된 등록 얼굴 특징과 비교해 얼굴 인식을 수행하며, 인식되지 않은 얼굴을 식별해 모자이크 처리함으로써, 얼굴 검출 및 얼굴 인식 기술을 사용해 영상 내의 등록되지 않은 얼굴을 선택적으로 자동 모자이크 처리하여, 번거로운 작업 없이 효율적으로 영상에 모자이크 처리를 할 수 있다.
Description
본 발명은 얼굴 모자이크 방법 및 장치에 관한 것으로서, 보다 구체적으로는 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 관한 것이다.
소셜 미디어가 큰 인기를 얻고 있는 가운데, 최근 페이스북(Facebook), 인스타그램(Instagram), 카카오 스토리(kakao story), 유튜브(YouTube) 등의 소셜 미디어를 통한 동영상이나 실시간 라이브 방송의 인기가 높아지고 있다. 이에 따라 얼굴이 포함된 영상 및 동영상을 게시하거나 인터넷 라이브 방송에 대한 초상권 침해 문제가 발생하고 있다.
원하지 않게 배경에 포함되었거나, 같이 촬영된 사람이라도 소셜 미디어에 게시되고 싶지 않은 사람의 경우 일일이 포토샵 등으로 얼굴 부분을 모자이크 처리해야 하지만, 이러한 작업은 매우 손이 많이 가고 번거로운 작업이다. 또한, 정지된 이미지가 아니라 얼굴이 계속 움직이는 동영상의 경우 편집이 불가능한 때도 있다.
이러한 얼굴 공개는 초상권 침해뿐 아니라 사생활 노출 위험이 있고, 경우에 따라서는 범죄의 표적이 될 가능성이 있다는 점에서, 효율적으로 얼굴을 쉽게 모자이크할 수 있는 기술의 개발이 필요한 실정이다.
종래 얼굴 모자이크 처리를 수행하는 애플리케이션으로, Momera, KSH Mosaic Camera, Facepixelizer 등이 있으나, 이러한 애플리케이션 또는 기술은 얼굴 인식 없이 검출된 얼굴에 대해 모자이크 처리를 수행하는 것으로, 모든 얼굴 영역을 모자이크 처리하거나 사용자가 선택한 얼굴만 모자이크를 수행한다. 따라서 종래 기술에 따르면, 사용자가 모자이크 처리할 얼굴과 노출할 얼굴을 하나하나 선택해야 하므로 작업량이 많아 효율적이지 못한 한계가 있다.
본 발명은 기존에 제안된 방법들의 상기와 같은 문제점들을 해결하기 위해 제안된 것으로서, 입력 영상에서 추출한 입력 얼굴 특징을 얼굴 데이터베이스에 저장된 등록 얼굴 특징과 비교해 얼굴 인식을 수행하며, 인식되지 않은 얼굴을 식별해 모자이크 처리함으로써, 얼굴 검출 및 얼굴 인식 기술을 사용해 영상 내의 등록되지 않은 얼굴을 선택적으로 자동 모자이크 처리하여, 번거로운 작업 없이 효율적으로 영상에 모자이크 처리를 할 수 있는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치를 제공하는 것을 그 목적으로 한다.
상기한 목적을 달성하기 위한 본 발명의 특징에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법은,
얼굴 모자이크 방법으로서,
영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치에서 각 단계가 수행되며,
(1) 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 단계;
(2) 상기 단계 (1)에서 추출한 등록 얼굴 특징 벡터를 얼굴 데이터베이스에 저장하는 단계;
(3) 입력 영상에서 얼굴 영역을 검출하고 상기 단계 (1)의 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계; 및
(4) 상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 단계 (3)에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계를 포함하는 것을 그 구성상의 특징으로 한다.
바람직하게는, 상기 CNN은,
얼굴 영상으로부터 얼굴 특징 벡터를 추출하는 복수의 레이어로 구성된 모델로서, 마지막 출력 레이어의 출력에 시그모이드 함수를 적용해 다차원의 얼굴 특징 벡터를 추출할 수 있다.
바람직하게는, 상기 입력 영상은,
정지 영상 또는 동영상일 수 있다.
더욱 바람직하게는, 상기 단계 (3)에서는,
상기 입력 영상이 동영상이면, 상기 동영상을 구성하는 프레임별로 얼굴 영역을 검출 및 인식하며, 이전 프레임과 현재 프레임에서 검출된 얼굴 영역의 위치 및 크기를 이용해 얼굴을 추적하고,
상기 단계 (4)에서는,
상기 단계 (3)에서 인식되지 않은 얼굴을 추적하면서 모자이크 처리할 수 있다.
바람직하게는, 상기 단계 (3)은,
(3-1) 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 상기 단계 (1)의 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 단계;
(3-2) 상기 단계 (3-1)에서 추출된 입력 얼굴 특징 벡터와 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 단계; 및
(3-3) 상기 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 상기 입력 영상에서 검출된 얼굴을 매칭해 인식하는 단계를 포함할 수 있다.
더욱 바람직하게는, 상기 단계 (3-2)에서는,
상기 입력 얼굴 특징 벡터와 상기 등록 얼굴 특징 벡터를 내적(dot product) 하여 상기 유사성 매트릭스를 생성할 수 있다.
바람직하게는, 상기 단계 (4)에서는,
복수의 모자이크 형태 중에서 미리 선택된 모자이크 형태로 식별된 얼굴을 자동으로 모자이크 처리할 수 있다.
더욱 바람직하게는, 상기 단계 (4)에서는,
모자이크, 블러링, 크로핑(cropping) 및 스티커 부착 중 어느 하나의 형태로 상기 식별된 얼굴을 식별 불가능하게 처리할 수 있다.
상기한 목적을 달성하기 위한 본 발명의 특징에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치는,
영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치로서,
모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 얼굴 등록부;
상기 얼굴 등록부에서 추출한 등록 얼굴 특징 벡터를 저장하는 얼굴 데이터베이스;
입력 영상에서 얼굴 영역을 검출하고 상기 얼굴 등록부에서 사용한 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 얼굴 인식부; 및
상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 얼굴 인식부에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 모자이크 처리부를 포함하는 것을 그 구성상의 특징으로 한다.
바람직하게는, 상기 CNN은,
얼굴 영상으로부터 얼굴 특징 벡터를 추출하는 복수의 레이어로 구성된 모델로서, 마지막 출력 레이어의 출력에 시그모이드 함수를 적용해 다차원의 얼굴 특징 벡터를 추출할 수 있다.
바람직하게는, 상기 입력 영상은,
정지 영상 또는 동영상일 수 있다.
더욱 바람직하게는, 상기 얼굴 인식부는,
상기 입력 영상이 동영상이면, 상기 동영상을 구성하는 프레임별로 얼굴 영역을 검출 및 인식하며, 이전 프레임과 현재 프레임에서 검출된 얼굴 영역의 위치 및 크기를 이용해 얼굴을 추적하고,
상기 모바일 처리부는,
상기 얼굴 인식부에서 인식되지 않은 얼굴을 추적하면서 모자이크 처리할 수 있다.
바람직하게는, 상기 얼굴 인식부는,
입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 특징 추출 모듈;
상기 특징 추출 모듈에서 추출된 입력 얼굴 특징 벡터와 상기 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 유사도 측정 모듈; 및
상기 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 상기 입력 영상에서 검출된 얼굴을 매칭해 인식하는 얼굴 인식 모듈을 포함할 수 있다.
더욱 바람직하게는, 상기 단계 유사도 측정 모듈은,
상기 입력 얼굴 특징 벡터와 상기 등록 얼굴 특징 벡터를 내적(dot product) 하여 상기 유사성 매트릭스를 생성할 수 있다.
바람직하게는, 상기 모자이크 처리부는,
복수의 모자이크 형태 중에서 미리 선택된 모자이크 형태로 식별된 얼굴을 자동으로 모자이크 처리할 수 있다.
더욱 바람직하게는, 상기 모자이크 처리부는,
모자이크, 블러링, 크로핑(cropping) 및 스티커 부착 중 어느 하나의 형태로 상기 식별된 얼굴을 식별 불가능하게 처리할 수 있다.
본 발명에서 제안하고 있는 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 따르면, 입력 영상에서 추출한 입력 얼굴 특징을 얼굴 데이터베이스에 저장된 등록 얼굴 특징과 비교해 얼굴 인식을 수행하며, 인식되지 않은 얼굴을 식별해 모자이크 처리함으로써, 얼굴 검출 및 얼굴 인식 기술을 사용해 영상 내의 등록되지 않은 얼굴을 선택적으로 자동 모자이크 처리하여, 번거로운 작업 없이 효율적으로 영상에 모자이크 처리를 할 수 있다.
도 1은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치를 설명하기 위해 도시한 도면.
도 2는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 의한 모자이크 처리 영상을 예를 들어 도시한 도면.
도 3은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치의 구성을 도시한 도면.
도 4는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치에서, 얼굴 인식부의 세부적인 구성을 도시한 도면.
도 5는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 흐름을 도시한 도면.
도 6은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S110을 설명하기 위해 도시한 도면.
도 7은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S120을 설명하기 위해 도시한 도면.
도 8은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법에서, 단계 S130의 세부적인 흐름을 도시한 도면.
도 9는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S130을 설명하기 위해 도시한 도면.
도 10은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S140을 설명하기 위해 도시한 도면.
도 2는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 의한 모자이크 처리 영상을 예를 들어 도시한 도면.
도 3은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치의 구성을 도시한 도면.
도 4는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치에서, 얼굴 인식부의 세부적인 구성을 도시한 도면.
도 5는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 흐름을 도시한 도면.
도 6은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S110을 설명하기 위해 도시한 도면.
도 7은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S120을 설명하기 위해 도시한 도면.
도 8은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법에서, 단계 S130의 세부적인 흐름을 도시한 도면.
도 9는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S130을 설명하기 위해 도시한 도면.
도 10은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S140을 설명하기 위해 도시한 도면.
이하, 첨부된 도면을 참조하여 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자가 본 발명을 용이하게 실시할 수 있도록 바람직한 실시예를 상세히 설명한다. 다만, 본 발명의 바람직한 실시예를 상세하게 설명함에 있어, 관련된 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략한다. 또한, 유사한 기능 및 작용을 하는 부분에 대해서는 도면 전체에 걸쳐 동일한 부호를 사용한다.
덧붙여, 명세서 전체에서, 어떤 부분이 다른 부분과 ‘연결’ 되어 있다고 할 때, 이는 ‘직접적으로 연결’ 되어 있는 경우뿐만 아니라, 그 중간에 다른 소자를 사이에 두고 ‘간접적으로 연결’ 되어 있는 경우도 포함한다. 또한, 어떤 구성요소를 ‘포함’ 한다는 것은, 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다.
도 1은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치(100)를 설명하기 위해 도시한 도면이고, 도 2는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치(100)에 의한 모자이크 처리 영상을 예를 들어 도시한 도면이다. 도 1 및 도 2에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치는, 영상에서 얼굴 영역을 추출하는 얼굴 검출(detection)과 검출된 얼굴 영역 중에서 등록된 얼굴과 매칭되는 얼굴을 식별하는 얼굴 인식(face recognition)을 결합해 얼굴 데이터베이스(120)에 등록되지 않은 얼굴을 모자이크 처리하는 것으로, 정지영상이나 동영상에서 얼굴을 인식하고 자동으로 등록된 사람들의 얼굴을 보존하고 나머지 얼굴은 모자이크 처리하여, 초상권 침해 등의 문제가 발생할 수 있는 얼굴을 효율적으로 모자이크 처리할 수 있다.
도 1에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치(100)는, 전자 장치에 얼굴 모자이크를 위한 애플리케이션 등 프로그램을 설치 및 실행하여 구현될 수 있다. 이때, 프로그램은 모바일 기기용 또는 PC용으로 각각 개발될 수 있는데, 모바일 기기용 애플리케이션은 얼굴 인식을 최대한 단순한 딥 러닝 알고리즘을 사용해 구현하여 기기 내에서 빠르게 동작하도록 할 수 있다. 또한, PC용 응용 프로그램은 정밀한 얼굴 인식이 가능하도록 복잡한 딥 러닝 알고리즘을 사용해 얼굴 인식율을 향상시켜, TV 방송, 인터넷 라이브 방송 등에도 적용 가능하도록 구현할 수 있다.
여기서, 전자 장치는 스마트폰, 태블릿(tablet) PC(personal computer), 이동 전화기, 영상 전화기, 전자책 리더기, 데스크탑(desktop) PC, 랩탑(laptop) PC, 넷북(netbook) 컴퓨터, 워크스테이션(workstation), 서버(server), PDA(personal digital assistant), 미디어 박스, 게임 콘솔, 전자사전 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있으며, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트렌즈, 또는 머리 착용형 장치(HMD, head-mounted-device), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형 회로(implantable circuit) 중 적어도 하나를 포함할 수 있다. 다양한 실시예들에서, 전자 장치는 전술한 기기들에 한정되지는 않으며, 전술한 다양한 장치 중 둘 이상의 조합일 수 있다.
도 3은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100)의 구성을 도시한 도면이다. 도 3에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100)는, 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 얼굴 등록부(110); 얼굴 등록부(110)에서 추출한 등록 얼굴 특징 벡터를 저장하는 얼굴 데이터베이스(120); 입력 영상에서 얼굴 영역을 검출하고 얼굴 등록부(110)에서 사용한 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 얼굴 인식부(130); 및 입력 영상에서 검출된 얼굴 영역 중에서, 얼굴 인식부(130)에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 모자이크 처리부(140)를 포함하여 구성될 수 있다.
도 4는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100)에서, 얼굴 인식부(130)의 세부적인 구성을 도시한 도면이다. 도 4에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100)의 얼굴 인식부(130)는, 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 특징 추출 모듈(131); 특징 추출 모듈(131)에서 추출된 입력 얼굴 특징 벡터와 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 유사도 측정 모듈(132); 및 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 입력 영상에서 검출된 얼굴을 매칭해 인식하는 얼굴 인식 모듈(133)을 포함하여 구성될 수 있다.
도 5는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 흐름을 도시한 도면이다. 도 5에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법은, 등록 얼굴 영상으로부터 CNN 기반으로 등록 얼굴 특징 벡터를 추출하는 단계(S110), 등록 얼굴 특징 벡터를 얼굴 데이터베이스(120)에 저장하는 단계(S120), 입력 영상에서 얼굴 영역을 검출하고 CNN 기반으로 입력 얼굴 특징 벡터를 추출해 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계(S130) 및 입력 영상에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계(S140)를 포함하여 구현될 수 있다.
단계 S110에서는, 얼굴 등록부(110)가, 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출할 수 있다. 즉, 단계 S110에서는, 컨볼루션 레이어를 포함하여 얼굴 특징 벡터를 검출하도록 학습된 CNN을 사용해, 얼굴 등록을 위한 등록 얼굴 영상에서 얼굴 특징 벡터를 검출하며, 이를 등록 얼굴 특징 벡터로 할 수 있다.
도 6은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S110을 설명하기 위해 도시한 도면이다. 도 6에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S110에서는, 등록 얼굴 영상의 방향을 정렬하는 등 전처리를 한 후에 인코더 CNN(Encoder CNN)에 입력하여 얼굴 특징 벡터를 추출할 수 있다.
여기서, CNN은, 얼굴 영상으로부터 얼굴 특징 벡터를 추출하는 복수의 레이어로 구성된 모델로서, 마지막 출력 레이어의 출력에 시그모이드 함수를 적용해 다차원의 얼굴 특징 벡터를 추출할 수 있다. 이때, 얼굴 특징 벡터의 차원은 미리 N차원으로 설정될 수 있다.
단계 S120에서는, 단계 S110에서 추출한 등록 얼굴 특징 벡터를 얼굴 데이터베이스(120)에 저장할 수 있다. 즉, 얼굴 데이터베이스(120)는, 모자이크에서 제외할 즉, 노출되어도 되는 얼굴을 저장해 등록한 것이다.
도 7은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S120을 설명하기 위해 도시한 도면이다. 도 7에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S120에서는, 얼굴 데이터베이스(120)에 단계 S110에서 추출한 얼굴 특징 벡터를 저장하여, 모자이크 처리를 위한 얼굴 인식 시에 다시 등록 얼굴 영상을 처리하거나 다시 벡터를 추출할 필요 없이, 빠르게 얼굴 인식을 할 수 있다.
단계 S130에서는, 얼굴 인식부(130)가, 입력 영상에서 얼굴 영역을 검출하고 단계 S110의 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식할 수 있다. 즉, 단계 S130에서는, 단계 S110에서 사용된 동일한 인코더 CNN을 사용해 얼굴 인식을 수행할 수 있다.
도 8은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법에서, 단계 S130의 세부적인 흐름을 도시한 도면이다. 도 8에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S130은, 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 단계(S131), 입력 얼굴 특징 벡터와 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 단계(S132) 및 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 입력 영상에서 검출된 얼굴을 매칭해 인식하는 단계(S133)를 포함하여 구현될 수 있다.
도 9는 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S130을 설명하기 위해 도시한 도면이다. 이하에서는, 도 8 및 도 9를 참조하여 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S130을 구성하는 각 단계에 대해 상세히 설명하도록 한다.
단계 S131에서는, 특징 추출 모듈(131)이, 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 단계 S110의 CNN 기반으로 입력 얼굴 특징 벡터를 추출할 수 있다. 즉, 단계 S131에서는, 얼굴 등록 여부와 관계없이 전체 입력 영상에서 얼굴을 검출하고, 검출된 얼굴 각각에서 입력 얼굴 특징 벡터를 추출할 수 있다. 이때, 단계 S110에서 사용한 인코더 CNN을 사용해 얼굴 특징 벡터를 추출하고, 이를 입력 얼굴 특징 벡터로 하기 때문에, 이하에서 상세히 설명할 단계 S132에서 등록 얼굴 특징 벡터와의 비교 결과에 대한 신뢰도를 높일 수 있다.
단계 S132에서는, 유사도 측정 모듈(132)이, 단계 S131에서 추출된 입력 얼굴 특징 벡터와 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스(Affinity Matrix)를 생성할 수 있다. 보다 구체적으로, 단계 S132에서는, 입력 얼굴 특징 벡터와 등록 얼굴 특징 벡터를 내적(dot product) 하여 유사성 매트릭스를 생성할 수 있다. 도 9에 도시된 바와 같이, 유사성 매트릭스는 입력 얼굴 특징 벡터와 얼굴 데이터베이스(120)에 저장된 N개의 등록 얼굴 특징 벡터를 각각 내적한 값으로 구성되는 1×N의 매트릭스일 수 있다.
단계 S133에서는, 얼굴 인식 모듈(133)이, 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 입력 영상에서 검출된 얼굴을 매칭해 인식할 수 있다. 즉, 도 9에 도시된 바와 같이, 해당 얼굴 영역을 유사성 매트릭스에서 가장 큰 값을 갖는 원소의 계산에 사용된 등록 얼굴 특징 벡터에 대응하는 얼굴로 인식할 수 있다. 이때, 가장 큰 값을 특정할 수 없거나 가장 큰 값이 임계값 미만이면 얼굴 인식에 실패한 것으로, 얼굴 데이터베이스(120)에 등록되지 않은 얼굴로 판단할 수 있다.
단계 S140에서는, 모자이크 처리부(140)가, 입력 영상에서 검출된 얼굴 영역 중에서, 단계 S130에서 인식되지 않은 얼굴을 식별하고 모자이크 처리할 수 있다. 도 10은 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법의 단계 S140을 설명하기 위해 도시한 도면이다. 도 10에 도시된 바와 같이, 본 발명의 일실시예에 따른 얼굴 인식 기반의 선택적 얼굴 모자이크 방법에서는, 입력 영상에서 사람으로 검출된 객체 영역에서 얼굴 영역을 검출하고, 얼굴 영역이 등록된 얼굴인지 얼굴 인식을 하며(도 10의 왼쪽), 단계 S140에서는 인식되지 않은 얼굴을 모자이크 처리할 수 있다(도 10의 오른쪽)
실시예에 따라서, 단계 S140에서는, 복수의 모자이크 형태 중에서 미리 선택된 모자이크 형태로 식별된 얼굴을 자동으로 모자이크 처리할 수 있다. 보다 구체적으로, 단계 S140에서는, 모자이크, 블러링, 크로핑(cropping) 및 스티커 부착 중 어느 하나의 형태로 얼굴을 식별 불가능하게 처리할 수 있다.
한편, 입력 영상은, 정지 영상 또는 동영상일 수 있다. 단계 S130에서는, 입력 영상이 동영상이면, 동영상을 구성하는 프레임별로 얼굴 영역을 검출 및 인식하며, 이전 프레임과 현재 프레임에서 검출된 얼굴 영역의 위치 및 크기를 이용해 얼굴을 추적하고, 단계 S140에서는, 단계 S130에서 인식되지 않은 얼굴을 추적하면서 모자이크 처리할 수 있다.
전술한 바와 같이, 본 발명에서 제안하고 있는 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치에 따르면, 입력 영상에서 추출한 입력 얼굴 특징을 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징과 비교해 얼굴 인식을 수행하며, 인식되지 않은 얼굴을 식별해 모자이크 처리함으로써, 얼굴 검출 및 얼굴 인식 기술을 사용해 영상 내의 등록되지 않은 얼굴을 선택적으로 자동 모자이크 처리하여, 번거로운 작업 없이 효율적으로 영상에 모자이크 처리를 할 수 있다.
한편, 본 발명은 다양한 통신 단말기로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터에서 판독 가능한 매체를 포함할 수 있다. 예를 들어, 컴퓨터에서 판독 가능한 매체는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD_ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media) 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치를 포함할 수 있다.
이와 같은 컴퓨터에서 판독 가능한 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 이때, 컴퓨터에서 판독 가능한 매체에 기록되는 프로그램 명령은 본 발명을 구현하기 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 예를 들어, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해 실행될 수 있는 고급 언어 코드를 포함할 수 있다.
이상 설명한 본 발명은 본 발명이 속한 기술분야에서 통상의 지식을 가진 자에 의하여 다양한 변형이나 응용이 가능하며, 본 발명에 따른 기술적 사상의 범위는 아래의 특허청구범위에 의하여 정해져야 할 것이다.
100: 본 발명의 특징에 따른 얼굴 모자이크 장치
110: 얼굴 등록부
120: 얼굴 데이터베이스
130: 얼굴 인식부
131: 특징 추출 모듈
132: 유사도 측정 모듈
133: 얼굴 인식 모듈
140: 모자이크 처리부
S110: 등록 얼굴 영상으로부터 CNN 기반으로 등록 얼굴 특징 벡터를 추출하는 단계
S120: 등록 얼굴 특징 벡터를 얼굴 데이터베이스에 저장하는 단계
S130: 입력 영상에서 얼굴 영역을 검출하고 CNN 기반으로 입력 얼굴 특징 벡터를 추출해 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계
S131: 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 단계
S132:입력 얼굴 특징 벡터와 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 단계
S133: 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 입력 영상에서 검출된 얼굴을 매칭해 인식하는 단계
S140: 입력 영상에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계
110: 얼굴 등록부
120: 얼굴 데이터베이스
130: 얼굴 인식부
131: 특징 추출 모듈
132: 유사도 측정 모듈
133: 얼굴 인식 모듈
140: 모자이크 처리부
S110: 등록 얼굴 영상으로부터 CNN 기반으로 등록 얼굴 특징 벡터를 추출하는 단계
S120: 등록 얼굴 특징 벡터를 얼굴 데이터베이스에 저장하는 단계
S130: 입력 영상에서 얼굴 영역을 검출하고 CNN 기반으로 입력 얼굴 특징 벡터를 추출해 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계
S131: 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 단계
S132:입력 얼굴 특징 벡터와 얼굴 데이터베이스에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 단계
S133: 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 입력 영상에서 검출된 얼굴을 매칭해 인식하는 단계
S140: 입력 영상에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계
Claims (16)
- 얼굴 모자이크 방법으로서,
영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치(100)에서 각 단계가 수행되며,
(1) 모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 단계;
(2) 상기 단계 (1)에서 추출한 등록 얼굴 특징 벡터를 얼굴 데이터베이스(120)에 저장하는 단계;
(3) 입력 영상에서 얼굴 영역을 검출하고 상기 단계 (1)의 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 단계; 및
(4) 상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 단계 (3)에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 단계를 포함하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제1항에 있어서, 상기 CNN은,
얼굴 영상으로부터 얼굴 특징 벡터를 추출하는 복수의 레이어로 구성된 모델로서, 마지막 출력 레이어의 출력에 시그모이드 함수를 적용해 다차원의 얼굴 특징 벡터를 추출하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제1항에 있어서, 상기 입력 영상은,
정지 영상 또는 동영상인 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제3항에 있어서, 상기 단계 (3)에서는,
상기 입력 영상이 동영상이면, 상기 동영상을 구성하는 프레임별로 얼굴 영역을 검출 및 인식하며, 이전 프레임과 현재 프레임에서 검출된 얼굴 영역의 위치 및 크기를 이용해 얼굴을 추적하고,
상기 단계 (4)에서는,
상기 단계 (3)에서 인식되지 않은 얼굴을 추적하면서 모자이크 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제1항에 있어서, 상기 단계 (3)은,
(3-1) 입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 상기 단계 (1)의 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 단계;
(3-2) 상기 단계 (3-1)에서 추출된 입력 얼굴 특징 벡터와 상기 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 단계; 및
(3-3) 상기 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 상기 입력 영상에서 검출된 얼굴을 매칭해 인식하는 단계를 포함하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제5항에 있어서, 상기 단계 (3-2)에서는,
상기 입력 얼굴 특징 벡터와 상기 등록 얼굴 특징 벡터를 내적(dot product) 하여 상기 유사성 매트릭스를 생성하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제1항에 있어서, 상기 단계 (4)에서는,
복수의 모자이크 형태 중에서 미리 선택된 모자이크 형태로 식별된 얼굴을 자동으로 모자이크 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 제7항에 있어서, 상기 단계 (4)에서는,
모자이크, 블러링, 크로핑(cropping) 및 스티커 부착 중 어느 하나의 형태로 상기 식별된 얼굴을 식별 불가능하게 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 방법.
- 영상 내의 얼굴을 인식해 선택적으로 얼굴 모자이크를 하는 얼굴 모자이크 장치(100)로서,
모자이크에서 제외되는 얼굴의 인식을 위한 등록 얼굴 영상으로부터 CNN(Convolutional Neural Network) 기반으로 등록 얼굴 특징 벡터를 추출하는 얼굴 등록부(110);
상기 얼굴 등록부(110)에서 추출한 등록 얼굴 특징 벡터를 저장하는 얼굴 데이터베이스(120);
입력 영상에서 얼굴 영역을 검출하고 상기 얼굴 등록부(110)에서 사용한 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출해, 상기 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터와 비교하여 얼굴을 인식하는 얼굴 인식부(130); 및
상기 입력 영상에서 검출된 얼굴 영역 중에서, 상기 얼굴 인식부(130)에서 인식되지 않은 얼굴을 식별하고 모자이크 처리하는 모자이크 처리부(140)를 포함하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제9항에 있어서, 상기 CNN은,
얼굴 영상으로부터 얼굴 특징 벡터를 추출하는 복수의 레이어로 구성된 모델로서, 마지막 출력 레이어의 출력에 시그모이드 함수를 적용해 다차원의 얼굴 특징 벡터를 추출하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제9항에 있어서, 상기 입력 영상은,
정지 영상 또는 동영상인 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제11항에 있어서, 상기 얼굴 인식부(130)는,
상기 입력 영상이 동영상이면, 상기 동영상을 구성하는 프레임별로 얼굴 영역을 검출 및 인식하며, 이전 프레임과 현재 프레임에서 검출된 얼굴 영역의 위치 및 크기를 이용해 얼굴을 추적하고,
상기 모바일 처리부는,
상기 얼굴 인식부(130)에서 인식되지 않은 얼굴을 추적하면서 모자이크 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제9항에 있어서, 상기 얼굴 인식부(130)는,
입력 영상에서 얼굴 영역을 검출하고, 검출된 얼굴 영역을 상기 CNN 기반으로 입력 얼굴 특징 벡터를 추출하는 특징 추출 모듈(131);
상기 특징 추출 모듈(131)에서 추출된 입력 얼굴 특징 벡터와 상기 얼굴 데이터베이스(120)에 저장된 등록 얼굴 특징 벡터 사이의 유사성 매트릭스를 생성하는 유사도 측정 모듈(132); 및
상기 생성한 유사성 매트릭스에서 가장 큰 값을 갖는 등록 얼굴 특징 벡터에 대응하는 얼굴과 상기 입력 영상에서 검출된 얼굴을 매칭해 인식하는 얼굴 인식 모듈(133)을 포함하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제13항에 있어서, 상기 단계 유사도 측정 모듈(132)은,
상기 입력 얼굴 특징 벡터와 상기 등록 얼굴 특징 벡터를 내적(dot product) 하여 상기 유사성 매트릭스를 생성하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제9항에 있어서, 상기 모자이크 처리부(140)는,
복수의 모자이크 형태 중에서 미리 선택된 모자이크 형태로 식별된 얼굴을 자동으로 모자이크 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
- 제15항에 있어서, 상기 모자이크 처리부(140)는,
모자이크, 블러링, 크로핑(cropping) 및 스티커 부착 중 어느 하나의 형태로 상기 식별된 얼굴을 식별 불가능하게 처리하는 것을 특징으로 하는, 얼굴 인식 기반의 선택적 얼굴 모자이크 장치(100).
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210112605A KR102560372B1 (ko) | 2021-08-25 | 2021-08-25 | 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020210112605A KR102560372B1 (ko) | 2021-08-25 | 2021-08-25 | 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20230030416A true KR20230030416A (ko) | 2023-03-06 |
KR102560372B1 KR102560372B1 (ko) | 2023-07-27 |
Family
ID=85510026
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020210112605A KR102560372B1 (ko) | 2021-08-25 | 2021-08-25 | 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102560372B1 (ko) |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020057522A (ko) * | 2001-01-05 | 2002-07-11 | 조양호 | 상관관계를 이용한 유사도 측정의 얼굴 인증 방법 |
KR102123248B1 (ko) * | 2020-01-30 | 2020-06-16 | 김선진 | 프라이버시 보호를 위한 얼굴인식 기반 실시간 영상처리 시스템 |
KR20210036609A (ko) * | 2019-09-26 | 2021-04-05 | 주식회사 엘지유플러스 | 영상 처리 장치 및 방법 |
KR20210045229A (ko) * | 2019-10-16 | 2021-04-26 | 삼성전자주식회사 | 컴퓨팅 장치 및 그 동작 방법 |
-
2021
- 2021-08-25 KR KR1020210112605A patent/KR102560372B1/ko active IP Right Grant
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20020057522A (ko) * | 2001-01-05 | 2002-07-11 | 조양호 | 상관관계를 이용한 유사도 측정의 얼굴 인증 방법 |
KR20210036609A (ko) * | 2019-09-26 | 2021-04-05 | 주식회사 엘지유플러스 | 영상 처리 장치 및 방법 |
KR20210045229A (ko) * | 2019-10-16 | 2021-04-26 | 삼성전자주식회사 | 컴퓨팅 장치 및 그 동작 방법 |
KR102123248B1 (ko) * | 2020-01-30 | 2020-06-16 | 김선진 | 프라이버시 보호를 위한 얼굴인식 기반 실시간 영상처리 시스템 |
Also Published As
Publication number | Publication date |
---|---|
KR102560372B1 (ko) | 2023-07-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Kumar et al. | Face detection techniques: a review | |
Chao et al. | Facial expression recognition based on improved local binary pattern and class-regularized locality preserving projection | |
Chiranjeevi et al. | Neutral face classification using personalized appearance models for fast and robust emotion detection | |
Kalas | Real time face detection and tracking using OpenCV | |
Imaoka et al. | The future of biometrics technology: from face recognition to related applications | |
Kompella et al. | A semi-supervised recurrent neural network for video salient object detection | |
Ahmed et al. | Eye detection and localization in a facial image based on partial geometric shape of iris and eyelid under practical scenarios | |
EP2998928B1 (en) | Apparatus and method for extracting high watermark image from continuously photographed images | |
Setta et al. | Real-time facial recognition using SURF-FAST | |
Senthilkumar et al. | Suspicious human activity detection in classroom examination | |
Ren et al. | Face and facial expressions recognition and analysis | |
Ashok et al. | Facial expression recognition system for visually impaired | |
KR102560372B1 (ko) | 얼굴 인식 기반의 선택적 얼굴 모자이크 방법 및 장치 | |
Stawska et al. | Algorithms and methods used in skin and face detection suitable for mobile applications | |
Rahul et al. | Facial expression recognition using PCA and texture-based LDN descriptor | |
Singh et al. | A New Approach for Suspect Detection in Video Surveillance | |
Salins et al. | Person identification from arm’s hair patterns using CT-twofold Siamese network in forensic psychiatric hospitals | |
Rahouma et al. | Applying mobile intelligent API vision kit and normalized features for face recognition using live cameras | |
Middi et al. | Facial keypoint detection using deep learning and computer vision | |
Xiang et al. | Pose-selective max pooling for measuring similarity | |
Indrawal et al. | Development of efficient and secured face recognition using biometrics | |
Rehman et al. | Hybrid model with margin-based real-time face detection and tracking | |
Chaudhry et al. | Unconstrained face detection from a mobile source using convolutional neural networks | |
Ho et al. | The NCKU-VTF Dataset and a Multi-scale Thermal-to-Visible Face Synthesis System | |
Jin et al. | Real-Time Face Attendance Marking System in Non-cooperative Environments |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |