KR102183689B1 - 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 - Google Patents
실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 Download PDFInfo
- Publication number
- KR102183689B1 KR102183689B1 KR1020200038503A KR20200038503A KR102183689B1 KR 102183689 B1 KR102183689 B1 KR 102183689B1 KR 1020200038503 A KR1020200038503 A KR 1020200038503A KR 20200038503 A KR20200038503 A KR 20200038503A KR 102183689 B1 KR102183689 B1 KR 102183689B1
- Authority
- KR
- South Korea
- Prior art keywords
- image
- masking
- time
- processing
- preset
- Prior art date
Links
- 238000012545 processing Methods 0.000 title claims abstract description 158
- 230000000873 masking effect Effects 0.000 title claims abstract description 133
- 238000003672 processing method Methods 0.000 title claims description 8
- 238000000034 method Methods 0.000 claims abstract description 70
- 230000008569 process Effects 0.000 claims description 36
- 230000005540 biological transmission Effects 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000003384 imaging method Methods 0.000 abstract 2
- 238000005516 engineering process Methods 0.000 description 13
- 238000010586 diagram Methods 0.000 description 8
- 230000006870 function Effects 0.000 description 5
- 238000004590 computer program Methods 0.000 description 4
- 238000004891 communication Methods 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000006855 networking Effects 0.000 description 3
- 238000004458 analytical method Methods 0.000 description 2
- 230000003111 delayed effect Effects 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000000513 principal component analysis Methods 0.000 description 2
- 238000012706 support-vector machine Methods 0.000 description 2
- 230000005856 abnormality Effects 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 238000007667 floating Methods 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
- G06T5/75—Unsharp masking
-
- G06T5/004—
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/194—Segmentation; Edge detection involving foreground-background segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30196—Human being; Person
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
본 발명은 실시간 영상의 객체 마스킹 처리 시스템으로서, 영상촬영수단(110); 상기 영상촬영수단(110)으로부터 영상데이터를 수신하며, 기설정된 방식으로 상기 영상데이터를 연속된 영상프레임으로 변환하되, 상기 영상프레임 각각의 기설정된 부분영역에 대한 마스킹 처리를 수행하는, 영상처리수단(120); 및 상기 영상처리수단(120)으로부터 마스킹된 영상프레임을 연속적으로 전송받고, 상기 마스킹된 영상프레임을 재생시키는, 영상재생수단(130); 을 포함하며, 상기 영상처리수단(120)에서의 상기 기설정된 방식은, 상기 영상처리수단(120)에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우, 상기 제 N 영상프레임의 마스킹 위치정보를 기반으로 제 N+1 내지 제 N+K 영상프레임에 대한 마스킹 처리를 수행하는(N 및 K는 자연수), 실시간 영상의 객체 마스킹 처리 시스템을 제공한다.
Description
본 발명은 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법에 관한 기술이다.
일반적으로 CCTV, DVR 등과 같은 보안 및 감시용 영상 시스템은 24시간 감시가 필요한 주택가나 학교, 놀이터 주변의 방범 취약지, 근무요원이 상시 관리할 수 없는 취약 개소, 은행, 백화점, 공항, 항만 따위의 공공 시설물 등에 감시 카메라 등의 장비를 구축하고 있다.
이러한 장비들은, 네트워크로 연결된 원격지의 중앙관제센터에 현장 영상을 실시간으로 전송하여 표시 및 기록함으로써, 중앙관리자의 모니터링을 통해 각종 사고나 위험 상황, 범죄 등을 사전에 예방하는 안전 점검 및 다양한 정보를 수집하여 후속 대책이나 수습 조치를 취할 수 있을 뿐만 아니라, 적은 인력으로도 많은 감시 장소의 이상 유무를 파악할 수 있다.
이러한 장점을 이유로, CCTV/DVR 기반 영상감시 시스템이 급속하게 보급됨에 따라, 개인의 프라이버시 보호에 대한 문제들이 중요한 이슈가 되고 있다. 개인의 프라이버시 보호를 위한 방안으로, 최근의 개인정보보호법 규정에서는 CCTV/DVR 등의 영상정보를 제공하는 경우 타인 영상은 모자이크 처리를 하도록 하고 있으나, 이를 위한 만족할만한 자동화된 방법이 개발되어 있지 않아 주로 수작업에 의존하여야 하는 문제가 있다.
이를 해결하기 위해, CCTV/DVR 등에서 얼굴, 번호판 등의 개인정보를 보호하기 위한 다양한 방법들이 개발되고 있으나, 현재에는 주로 실시간 CCTV 감시 환경에서 기존의 객체 검출 방법을 이용하여 검출된 객체 영역을 모두 마스킹 하거나 암호 키를 이용한 Scrambling 또는 암호화 하는 방법, 즉 영상에 변형을 가한 후 필요시 복원하는 방법들이 사용되고 있다.
이와 관련하여, 종래기술로는 한국공개특허 제10-2014-0012474호가 개시된다. 상기 종래기술은 '얼굴인식 기반의 개인정보보호 장치 및 방법'으로서, CCTV/DVR 등의 영상감시 시스템에 기록/저장되는 비디오 영상정보에서 얼굴인식 기술을 기반으로 검색대상이 되는 특정인을 검출한 후, 검출된 특정인과 특정인을 제외한 나머지 얼굴 영상에 대하여 선택적으로 프라이버시 마스킹 또는 모자이크 처리를 수행함으로써 개인정보의 유출을 방지시키는 기술이다.
그러나, 상기 종래기술은 이미 저장된 비디오 영상정보를 대상으로 마스킹 또는 모자이크 처리를 수행하는 기술이며, 실시간으로 스트리밍되는 영상에 마스킹 처리를 수행하는 기술은 아니다.
실생활에서는, 중앙관리자가 실시간으로 영상을 모니터링하면서, 동시에 실시간 작업 수행이 필요한 상황이 많이 발생된다. 이러한 상황에서 실시간으로 송수신되는 영상을 대상으로, 개인정보의 유출이 방지되는 기술의 필요성 역시 증대되고 있다. 종래의 이미 저장된 비디오 영상정보를 대상으로 하는 것이 아닌, 실시간으로 송수신되는 통신기술과 결합하여 실시간 전송되는 영상에 최적화된 마스킹 처리 기술에 대한 수요가 증대되는 실정이다.
(특허문헌1) 한국공개특허 제10-2014-0012474호
(특허문헌2) 한국등록특허 제10-1951605호
(특허문헌3) 한국등록특허 제10-1249690호
본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것이다.
본 발명은 실시간으로 촬영되어 전송되는 영상을 대상으로, 객체의 특정 영역에 실시간으로 마스킹 처리를 수행함으로써, 개인정보의 유출을 방지하는 기술을 제안하고자 한다.
또한, 본 발명은 실시간으로 전송되어 재생되는 영상의 특성 및 이러한 기술이 사용되는 상황의 특수성을 고려하여 중앙관리자에게 영상의 재생이 지연되지 않으면서 마스킹 처리를 수행할 수 있는 기술을 제안하고자 한다.
상기와 같은 과제를 해결하기 위한 본 발명의 일 실시예는, 실시간 영상의 객체 마스킹 처리 시스템으로서, 영상촬영수단(110); 상기 영상촬영수단(110)으로부터 영상데이터를 수신하며, 기설정된 방식으로 상기 영상데이터를 연속된 영상프레임으로 변환하되, 상기 영상프레임 각각의 기설정된 부분영역에 대한 마스킹 처리를 수행하는, 영상처리수단(120); 및 상기 영상처리수단(120)으로부터 마스킹된 영상프레임을 연속적으로 전송받고, 상기 마스킹된 영상프레임을 재생시키는, 영상재생수단(130); 을 포함하며, 상기 영상처리수단(120)에서의 상기 기설정된 방식은, 상기 영상처리수단(120)에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우, 상기 제 N 영상프레임의 마스킹 위치정보를 기반으로 제 N+1 내지 제 N+K 영상프레임에 대한 마스킹 처리를 수행하는(N 및 K는 자연수), 실시간 영상의 객체 마스킹 처리 시스템을 제공한다.
또한, 상기 영상처리수단(120)은, 상기 영상촬영수단(110)으로부터 영상데이터를 수신하는 영상수신모듈(121); 상기 영상데이터를 디코딩하여 영상프레임으로 변환하는 디코딩모듈(122); 상기 디코딩모듈(122)에 의해 변환된 영상프레임에 대해, 상기 기설정된 방식으로 기설정된 부분영역을 마스킹 처리하는 마스킹모듈(123); 상기 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환하는 인코딩모듈(124); 및 상기 송출용 영상데이터를 상기 영상재생수단(130)으로 전송하는 영상데이터 송출모듈(125); 을 포함할 수 있다.
또한, 상기 마스킹모듈(123)은, 기설정된 방식에 의해, 상기 영상프레임에 포함된 기설정된 부분영역을 인식하는 영역인식부(123a); 상기 영역인식부(123a)에 의해, 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 전송받고, 상기 영역인식부(123a)에서의 처리시간을 전송받는 연산부(123b); 및 상기 영역인식부(123a)에 의해 상기 기설정된 부분영역으로 인식된 부분을 마스킹 처리하는 마스킹처리부(123c); 를 포함하며, 상기 연산부(123b)는, 상기 영역인식부(123a)에서의 처리시간을 이용하여, 상기 K값을 결정할 수 있다.
또한, 상기 연산부(123b)는, 제 N 영상프레임에 대한 상기 영역인식부(123a)에서의 처리시간이 기설정된 시간을 초과하는 경우, 상기 제 N+1 내지 제 N+K 영상프레임에 대해, 상기 영역인식부(123a)에 의한 처리를 스킵하고, 상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 마스킹 처리가 수행되도록 상기 마스킹처리부(123c)를 제어할 수 있다.
또한, 상기 연산부(123b)는, 상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 상기 영역인식부(123a)에서의 처리시간을 0으로 간주하여, 상기 제 N 내지 제 N+K 영상프레임에 대한 상기 영역인식부(123a)에서의 처리시간의 평균값을 기설정된 값으로 유지시킬 수 있다.
또한, 상기 영상촬영수단(110)으로부터 수신된 이미지정보는, 1초당 30개의 영상프레임으로 구성되며, 상기 영역인식부(123a)에서의 처리시간의 평균값은 33ms일 수 있다.
또한, 상기 기설정된 부분영역은, 상기 제 N 내지 제 N+K 영상프레임 각각에 포함된 특정 객체의 일부분이며, 상기 K값은, 기설정된 방식에 의해, 상기 특정 객체의 이동 패턴에 따라, 1 내지 5의 값을 가질 수 있다.
또한, 상기 연산부(123b)는, 제 N+K+1 영상프레임에 대해, 상기 영역인식부(123a)에서 상기 기설정된 부분영역의 인식에 실패한 경우, 상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+K+1 내지 제 N+K+M 영상프레임 각각에 대한 마스킹 처리가 수행되도록 상기 마스킹처리부(123c)를 제어할 수 있다(N, K 및 M은 자연수).
또한, 상기 제 N+K+1 영상프레임에 대해, 상기 영역인식부(123a)에서 상기 기설정된 부분영역의 인식에 실패한 경우는, 상기 영역인식부(123a)에서의 처리시간이 기설정된 시간을 초과하는 경우일 수 있다.
한편, 본 발명은 전술한 실시간 영상의 객체 마스킹 처리 시스템을 이용하는 마스킹 처리 방법으로서, (a) 영상촬영수단(110)에 의해, 기설정된 영역이 촬영되는 단계(S110); (b) 영상수신모듈(121)에서, 상기 영상촬영수단(110)으로부터 영상데이터가 수신되는 단계(S120); (c) 디코딩모듈(122)에서, 상기 영상데이터를 디코딩하여 영상프레임으로 변환되는 단계(S130); (d) 마스킹모듈(123)에서, 상기 디코딩모듈(122)에 의해 연속적으로 변환된 영상프레임에 대해, 상기 기설정된 방식으로 기설정된 부분영역을 마스킹 처리하는 단계(S140); 및 (e) 인코딩모듈(124)에서, 상기 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환하는 단계(S150); 를 포함하며, 상기 (b) 내지 (e) 단계는, 상기 연속된 영상프레임 각각에 대해 수행되되, 상기 (d) 단계(S140)는, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우, 상기 제 N 영상프레임의 마스킹 위치정보를 이용하여 제 N+1 내지 제 N+K 영상프레임에 대한 마스킹 처리를 수행하는, 마스킹 처리 방법을 제공한다.
또한, 상기 (d) 단계(S140)는, (d1) 영역인식부(123a)에서, 기설정된 방식에 의해, 상기 영상프레임에 포함된 기설정된 부분영역을 인식하는 단계(S141); 및 (d2) 연산부(123b)에서, 상기 기설정된 부분영역으로 인식된 부분의 위치정보 및 상기 영역인식부(123a)에서의 처리시간을 상기 영역인식부(123a)로부터 전송받고, 마스킹처리부(123c)에서, 상기 기설정된 부분영역으로 인식된 부분을 마스킹 처리하는 단계(S142); 를 포함하며, 상기 (d1) 및 (d2) 단계(S141, S142)는, 상기 연속된 영상프레임 각각에 대해 수행될 수 있다.
또한, 제 N 영상프레임에 대한 상기 (d1) 단계(S141)에서의 처리시간이 기설정된 시간을 초과하는 경우, 제 N+1 내지 제 N+K 영상프레임에 대해, 상기 (d1) 단계(S141)를 스킵하되, 상기 (d2) 단계(S142)에서, 상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 마스킹 처리가 수행될 수 있다.
본 발명은 실시간으로 촬영되어 전송되는 영상을 대상으로, 객체의 특정 영역에 실시간으로 마스킹 처리를 수행함으로써, 개인정보의 유출을 방지할 수 있다.
또한, 본 발명은 실시간으로 전송되어 재생되는 영상의 특성 및 이러한 기술이 사용되는 상황의 특수성을 고려하여, 중앙관리자에게 영상의 재생이 지연되지 않으면서 마스킹 처리를 수행할 수 있다.
도 1은 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에 따른 모식도이다.
도 2는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에 따른 블록도이다.
도 3은 본 발명인 실시간 영상의 객체 마스킹 처리 시스템에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하지 않는 경우의 흐름도이다.
도 4는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에서, 제 N-1 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우의 흐름도이다.
도 5a는 제 3 영상프레임에 대한 영역인식부의 처리시간이 38ms인 경우(33ms를 초과하는 경우를 의미함), 제 4 및 제 5 영상프레임에 대한 영역인식부 처리를 스킵하는 과정을 개략적으로 도시하고 있다.
도 5b는 제 2 영상프레임에 대한 영역인식부의 처리시간이 50ms인 경우(도 5a의 경우보다 더 많이 초과하는 경우임), 제 3 내지 제 6 영상프레임에 대한 영역인식부 처리를 스킵하는 과정을 개략적으로 도시하고 있다.
도 5c는 제 2 영상프레임에 대한 영역인식부의 처리시간이 33ms를 초과하였으며, 스킵된 직후의 제 7 영상프레임에 대한 영역인식부의 처리시간이 33ms를 초과한 경우일 때의 영상프레임들의 스킵 과정을 개략적으로 도시하고 있다.
도 5d는 도 5a 내지 5c와는 다른 실시예로서, 영상프레임에 포함된 복수의 객체에 대해 누적을 통해 마스킹 처리를 수행하는 과정을 개략적으로 도시하고 있다.
도 6은 구급차의 실제 사진을 예로 들어, 영역인식부에 의한 처리 스킵시, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다.
도 7은 복수의 객체가 등장하는 실제 사진을 예로 들어, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다.
도 8은 본 발명인 마스킹 처리 방법의 순서도이다.
도 2는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에 따른 블록도이다.
도 3은 본 발명인 실시간 영상의 객체 마스킹 처리 시스템에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하지 않는 경우의 흐름도이다.
도 4는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에서, 제 N-1 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우의 흐름도이다.
도 5a는 제 3 영상프레임에 대한 영역인식부의 처리시간이 38ms인 경우(33ms를 초과하는 경우를 의미함), 제 4 및 제 5 영상프레임에 대한 영역인식부 처리를 스킵하는 과정을 개략적으로 도시하고 있다.
도 5b는 제 2 영상프레임에 대한 영역인식부의 처리시간이 50ms인 경우(도 5a의 경우보다 더 많이 초과하는 경우임), 제 3 내지 제 6 영상프레임에 대한 영역인식부 처리를 스킵하는 과정을 개략적으로 도시하고 있다.
도 5c는 제 2 영상프레임에 대한 영역인식부의 처리시간이 33ms를 초과하였으며, 스킵된 직후의 제 7 영상프레임에 대한 영역인식부의 처리시간이 33ms를 초과한 경우일 때의 영상프레임들의 스킵 과정을 개략적으로 도시하고 있다.
도 5d는 도 5a 내지 5c와는 다른 실시예로서, 영상프레임에 포함된 복수의 객체에 대해 누적을 통해 마스킹 처리를 수행하는 과정을 개략적으로 도시하고 있다.
도 6은 구급차의 실제 사진을 예로 들어, 영역인식부에 의한 처리 스킵시, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다.
도 7은 복수의 객체가 등장하는 실제 사진을 예로 들어, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다.
도 8은 본 발명인 마스킹 처리 방법의 순서도이다.
이하, 첨부된 도면을 참조하여 본 발명의 동작 원리를 상세히 설명한다. 첨부된 블록도의 각 블록과 흐름도의 각 단계의 조합들은 컴퓨터 프로그램 인스트럭션들에 의해 수행될 수도 있다. 이들 컴퓨터 프로그램 인스트럭션들은 범용 컴퓨터, 특수용 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서에 탑재될 수 있으므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비의 프로세서를 통해 수행되는 그 인스트럭션들이 블록도의 각 블록 또는 흐름도의 각 단계에서 설명된 기능들을 수행하는 수단을 생성하게 된다. 이들 컴퓨터 프로그램 인스트럭션들은 특정 방식으로 기능을 구현하기 위해 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 지향할 수 있는 컴퓨터 이용 가능 또는 컴퓨터 판독 가능 메모리에 저장되는 것도 가능하므로, 그 컴퓨터 이용가능 또는 컴퓨터 판독 가능 메모리에 저장된 인스트럭션들은 블록도의 각 블록 또는 흐름도 각 단계에서 설명된 기능을 수행하는 인스트럭션 수단을 내포하는 제조 품목을 생산하는 것도 가능하다. 컴퓨터 프로그램 인스트럭션들은 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에 탑재되는 것도 가능하므로, 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비 상에서 일련의 동작 단계들이 수행되어 컴퓨터로 실행되는 프로세스를 생성해서 컴퓨터 또는 기타 프로그램 가능한 데이터 프로세싱 장비를 수행하는 인스트럭션들은 블록도의 각 블록 및 흐름도의 각 단계에서 설명된 기능들을 실행하기 위한 단계들을 제공하는 것도 가능하다.
도 1은 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에 따른 모식도이다.
본 발명의 일 실시예에 따른 실시간 영상의 객체 마스킹 처리 시스템은 이동수단(101)에 탑재된 영상촬영수단(110) 및 영상처리수단(120), 클라우드 서버(102) 및 영상재생수단(130)(영상의 재생을 위한 컴퓨터 장치(131))로 구성된다.
도 1에서는 설명의 편의를 위해, 도 1은 이동수단(101)이 구급차인 경우를 예로 들어 도시하고 있으나, 구급차에 제한되지 않고, 어떠한 이동 수단에도 적용될 수 있으며, 이동하지 않는 고정된 위치에 설치되는 장치에도 적용될 수 있음을 미리 명시한다. 여기서, 영상촬영수단(110)은 이동하는 특수성을 고려하여, 특정 영역으로 이동될 경우, 통신 기지국이 변경되는 바, 유동IP를 갖는 것이 더욱 유리하다.
영상촬영수단(110) 및 영상처리수단(120)은 무선 또는 유선으로 연결될 수 있으며, RTSP(real-time streaming protocol) 방식으로 전송되는 영상데이터인 것이 바람직하다. 영상촬영수단(110)은 RTSP 프로토콜로 실시간 영상을 스트리밍해주며, 영상처리수단(120)은 RTSP 프로토콜로 실시간 영상을 전송받는다.
영상처리수단(120)은 클라우드 서버(102)와의 네트워킹 연결이 되며, 이러한 네트워킹 연결을 위해, 영상처리수단(120) 내에는 별도의 통신수단(미도시)이 구비될 수도 있고, 다른 예로, 탑승자의 모바일폰(미도시)을 이용하여 영상처리수단(120) 및 클라우드 서버(102)를 네트워킹 연결시킬 수 있다.
탑승자의 모바일폰을 이용하여 영상처리수단(120) 및 클라우드 서버(102)를 네트워킹 연결시키는 경우, 현재 널리 사용되는 5G 또는 LTE(Long Term Evolution) 방식으로 연결됨으로써, 영상처리수단(120)에서 마스킹 처리된 영상데이터를 빠른 속도로 전송할 수 있다.
클라우드 서버(102)는 고정된 장소에 위치되는 것이 일반적인 바, 고정IP를 갖는 것이 바람직하다. 영상재생수단(130)은 사용자 또는 관리자에게 직접 영상을 보여주는 디스플레이장치 및 디스플레이장치에 마스킹 처리된 영상데이터를 입력하는 컴퓨터 장치(131)로 구성될 수 있다. 이 때, 영상재생수단(130)은 스마트폰, 데스크탑, 랩탑 등 모든 장치들이 사용될 수 있다.
도 2는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에 따른 블록도이다. 도 2를 참조하여, 본 발명의 각 구성의 기능을 구체적으로 설명한다.
영상촬영수단(110)은 이동수단(101) 내부의 특정 영역을 촬영하며, 360도 카메라 기술이 적용되어 내부의 특정 영역이 아닌, 내부 전체를 촬영하도록 구성될 수 있다. 영상촬영수단(110)은 전술한 바와 같이, RTSP 영상데이터를 영상처리수단(120)에 전송한다.
영상처리수단(120)은 영상촬영수단(110)으로부터 영상데이터를 수신하며, 기설정된 방식으로 영상데이터를 연속된 영상프레임으로 변환하되, 영상프레임 각각의 기설정된 부분영역에 대한 마스킹 처리를 수행한다.
보다 세부적으로, 영상처리수단(120)은 영상수신모듈(121), 디코딩모듈(122), 마스킹모듈(123), 인코딩모듈(124) 및 영상데이터 송출모듈(125)로 구성되며, 상기 순서로 영상데이터가 처리된다.
먼저, 영상수신모듈(121)은 영상촬영수단(110)으로부터 영상데이터를 수신한다. 디코딩모듈(122)은 영상데이터를 디코딩함으로써, 연속된 영상프레임으로 변환한다. 마스킹모듈(123)은 디코딩모듈(122)에 의해 변환된 영상프레임에 대해, 기설정된 방식으로 기설정된 부분영역을 마스킹 처리한다. 인코딩모듈(124)은 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환한다. 영상데이터 송출모듈(125)은 송출용 영상데이터를 영상재생수단(130)으로 전송한다. 본 발명의 일 실시예에 사용되는 압축 코덱은 H.264 포맷일 수 있다.
본 발명은 실시간 영상을 대상으로 마스킹 처리를 수행하는 기술인 바, 영상의 지연 또는 버퍼링이 발생되지 않는 것이 무엇보다 중요하다. 즉, 영상처리수단(120)을 구성하는 영상수신모듈(121), 디코딩모듈(122), 마스킹모듈(123), 인코딩모듈(124) 및 영상데이터 송출모듈(125)은 전송되는 영상데이터를 실시간으로 연속된 영상프레임으로 변환하여, 관리자 내지 사용자에게 전송하는 구성이다.
도 3 및 4를 더 참조하여, 본 발명을 이용하여 실시간 영상에 대해 마스킹 처리를 수행하는 과정을 구체적으로 설명한다. 본 발명에서 영상프레임에 대해 마스킹 처리는 마스킹모듈(123)에서 수행된다. 마스킹모듈(123)은 영역인식부(123a), 연산부(123b) 및 마스킹처리부(123c)로 구성된다.
영역인식부(123a)는 임의의 영상프레임에 포함된 기설정된 부분영역을 인식한다. 본 발명에서 기설정된 부분영역은 '사람의 얼굴'을 기준으로 하여 설명한다. 즉, 영역인식부(123a)는 임의의 영상프레임 속에 사람을 구분하고, 구분된 사람에서 다시 얼굴을 구분하는 순서로 진행될 수 있다. 다만, 다양한 공지된 얼굴 검출 방식이 사용될 수 있음을 미리 명시한다. 널리 사용되는 얼굴 검출 방식인, Knowledge-based 방법, Feature invariant 방법, Template matching 방법, Appearance-based 방법이 사용될 수 있고, Gabor Filter, PCA(Principal Component Analysis), FDA(Fisher Discriminant Analysis), ICA(Independent Component Analysis), LBP(local Binary Feature), SVM(Support Vector machine) 등과 같은 다양한 특징추출 및 인식 알고리즘이 적용될 수도 있다.
영역인식부(123a)에서는 사람의 얼굴을 인식한 경우, 해당 영상프레임에서의 사람의 얼굴에 대응되는 픽셀위치정보를 연산부(123b)로 전송한다. 이 때, 연산부(123b)는 영역인식부(123a)에서의 처리시간을 타이머(미도시)를 통해 카운팅하도록 구성된다. 이에 따라, 연산부(123b)는 실시간으로 연속적으로 처리되는 영상프레임마다 얼굴에 대응되는 픽셀위치정보 및 처리시간정보를 매칭시킨다.
마스킹처리부(123c)는 영역인식부(123a)에 의해 얼굴로 인식된 부분을 마스킹처리한다.
연산부(123b)는 단순히 실시간으로 연속적으로 처리되는 영상프레임마다 얼굴에 대응되는 픽셀위치정보 및 처리시간정보를 전송받는 것이 아니라, 영역인식부(123a)에서의 처리시간을 이용하여 특정 영상프레임 이후의 소정의 영상프레임에 대한 마스킹 처리를 수행한다.
보다 구체적으로 설명하면, 본 발명은 영상프레임에 대한 영역인식부(123a)의 평균처리시간을 이용하여 영상재생수단(130)에서의 지연재생 또는 지연전송을 방지한다. 일반적인 스트리밍 영상은 1초에 30개의 프레임으로 구성되는 바, 영상프레임의 속도는 30fps(frame per second)이다. 1개의 영상프레임을 처리하는 속도가 33ms가 되어야 된다. 영역인식부(123a)에서의 얼굴 인식에 소요되는 시간이 33ms가 초과되는 경우에는 그 직후의 소정의 영상프레임들에 대해 얼굴 인식 과정을 생략함으로써, 영역인식부(123a)에서의 처리시간의 평균값을 33ms로 유지시킬 수 있다. 33ms는 사람이 움직이기에는 매우 짧은 시간이며, 설사 이동한다고 하더라도 제 N 영상프레임에서의 얼굴 위치와 제 N+1 영상프레임에서의 얼굴 위치 차이는 매우 미세하다고 할 수 있다. 이러한 원리를 이용함으로써, 제 N 영상프레임에서의 얼굴 위치를 제 N+1 영상프레임에서도 활용하는 기술이다.
이 때, 특정 객체(사람)의 이동 패턴은 미리 설정될 수 있으며, 기계학습을 통해 미리 입력될 수도 있는 바, 이러한 특정 객체의 이동 패턴을 더욱 고려하여 영역인식부(123a)에서의 처리가 스킵되는 영상프레임의 숫자를 조절할 수 있다.
한편, 상기에서는 영역인식부(123a) 처리시간의 평균값을 33ms로 유지한다고 설명하였으나, 마스킹모듈(123) 처리시간의 평균값을 33ms로 유지하도록 설정할 수 있다. 연산부(123b) 및 마스킹처리부(123c)의 처리시간은 영역인식부(123a)에서의 처리시간에 비해 상대적으로 짧은 바, 이들의 처리시간을 포함할 수 있다.
도 3은 본 발명인 실시간 영상의 객체 마스킹 처리 시스템에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하지 않는 경우의 흐름도이다.
영역인식부(123a)에는 제 N 영상프레임(FRN), 제 N+1 영상프레임(FRN+1), 제 N+2 영상프레임(FRN+2)이 순서대로 연속적으로 입력되며, 각각의 영상프레임에 대해 얼굴인식을 수행하게 된다. 각각의 영상프레임에 대해 얼굴인식을 수행하는 과정에서 연산부(123b)에 얼굴인식부분의 위치정보(P) 및 처리시간정보(T)를 전송한다.
도 4는 본 발명인 실시간 영상의 객체 마스킹 처리 시스템의 일 실시예에서, 제 N-1 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우의 흐름도이다.
영역인식부(123a)에서 제 N-1 영상프레임(FRN-1)의 처리시간이 기설정된 시간(예를 들어 33ms)을 초과한 경우에는, 제 N-1 영상프레임 직후인 제 N 영상프레임에서 영역인식부(123a) 처리과정을 스킵한다. 물론, 제 N-1 영상프레임(FRN-1)의 처리시간에 따라, 더 많은 영상프레임들이 스킵될 수도 있으나, 너무 많은 영상프레임들이 스킵될 경우, 그 사이에 사람이 이동하거나 움직이는 문제점이 있는 바, 스킵되는 영상프레임의 숫자는 적절하게 제한된다.
도 5a 내지 5c는 스킵되는 영상프레임의 숫자의 예를 도시하고 있다.
도 5a에서는 제 1 및 제 2 영상프레임(FR1, FR2)에서는 영역인식부(123a)에서의 처리시간이 33ms 미만인 바, 별도의 가공없이 진행되나, 제 3 영상프레임(FR3)의 처리시간이 38ms 인 바, 이후의 2개의 영상프레임을 대상으로 영역인식부(123a)에서의 처리 과정을 생략한다. 즉, 제 4 및 제 5 영상프레임(FR4, FR5)에 대해서는 제 3 영상프레임(FR3)에서 인식된 얼굴의 픽셀위치정보를 적용하여 마스킹 처리를 수행한다.
도 5b에서는 제 2 영상프레임(FR2)의 영역인식부(123a) 처리시간이 50ms인 바, 이후의 4개의 영상프레임을 대상으로 영역인식부(123a)에서의 처리 과정을 생략한다.
도 5c는 상기의 도 5b를 더욱 발전시킨 개념이다. 제 2 영상프레임(FR2)의 영역인식부(123a) 처리시간이 50ms인 바, 이후의 4개의 영상프레임을 대상으로 영역인식부(123a)에서의 처리 과정을 생략하는 것은 동일하다. 다만, 그 이후인 제 6 영상프레임(FR6)에서의 영역인식부(123a) 처리시간이 기설정된 시간(33ms)을 초과하면, 곧바로 다시 4개의 영상프레임을 추가적으로 스킵하게 된다. 이는 마스킹 처리의 특수성을 고려한 것으로써, 얼굴이 아닌 영역을 얼굴로 오인식하여 마스킹 처리하는 것보다는 실제로 얼굴이 있음에도 불구하고 마스킹 처리를 하지 않는 것이 더욱 문제되기 때문이다.
즉, 도 5c와 같이, 보다 적극적으로 마스킹 처리를 수행하는 것이 개인정보 유출 방지에 유리하다. 이후에도 계속 추가적으로 영상프레임에 대해 스킵하는 것은 아니며, 1차 스킵 이후, 2차 스킵까지만 허용하는 것이 바람직하다.
도 5d는 전술한 도 5a 내지 5c와는 다른 실시예이다. 도 5d에 도시된 실시예는 '누적'의 개념을 사용하며, 제 6 영상프레임(FR6)까지는 도 5c와 동일하다. 도 5c의 실시예와는 달리, 제 7 영상프레임(FR7)에서 영역인식부(123a)를 이용하여 객체의 얼굴을 인식하고, 기설정된 처리시간(33ms)과는 무관하게 객체의 얼굴을 인식한다. 여기서, 제 7 영상프레임(FR7)의 처리시간은 40ms인 바, 이후의 3개의 영상프레임(FR8, FR9, FR10)을 대상으로 영역인식부(123a)에서의 처리 과정을 생략하면서, 제 7 영상프레임(FR7)에서의 픽셀위치정보를 이용하여 마스킹 처리를 수행한다. 이와 더불어, 제 2 영상프레임(FR2)에서 인식된 픽셀위치정보를 전송받아 제 8 내지 제 10 영상프레임(FR8, FR9, FR10)에 마스킹 처리를 수행한다. 즉, 제 8 내지 제 10 영상프레임(FR8, FR9, FR10)에서는, 제 2 영상프레임(FR2)에서의 마스킹 처리에 대한 픽셀위치정보에 제 7 영상프레임(FR7)에서 인식된 객체의 얼굴을 누적하는 방식이다. 제 7 영상프레임(FR7)에서 새로운 객체(인물)이 추가적으로 등장할 수 있는 바, 기존의 객체에는 마스킹 처리를 유지하되, 추가적으로 새로운 객체에 대해 누적하여 마스킹 처리를 수행하는 개념이다. 물론 제 7 영상프레임(FR7)에서 영역인식부(123a)를 이용하여 인식할 때, 제 2 영상프레임(FR2)에서 인식된 객체 얼굴의 픽셀위치정보와 다른 위치인지 비교하는 과정을 포함할 수 있다. 도 5d에 도시된 실시예 역시, 얼굴이 아닌 영역을 얼굴로 오인식하여 마스킹 처리하는 것보다는 실제로 얼굴이 있음에도 불구하고 마스킹 처리를 하지 않는 것이 더욱 문제되기 때문인 바, 이를 방지하기 위함이다.
도 6은 실제의 사진의 예를 들어, 영역인식부에 의한 처리 스킵시, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다. 영역인식부(123a)는 제 N 영상프레임에 대한 인식된 얼굴의 픽셀위치정보(P1, P2)를 연산부(123b)에 전송하며, 이를 제 N+1 영상프레임에서 사용할 수 있다.
도 7은 복수의 객체가 등장하는 실제 사진을 예로 들어, 영상프레임의 위치정보를 이용하는 과정을 개략적으로 도시하고 있다. 본 발명은 이동수단으로 예를 든 구급차와 유사한 상황에서만 적용되는 기술은 아니며, 이동하지 않는 특정 위치에 고정되어 사용될 수도 있다. 도 7의 경우가 그러하며, 복수의 객체 각각의 픽셀위치정보를 모두 이용할 수 있다.
도 6 및 7에서는 영상프레임에 등장하는 객체의 이동을 감안해서, 마스킹 처리를 수행할 때, 소정의 마진을 두고 박스를 설정하는 것이 바람직하다.
도 8은 본 발명인 마스킹 처리 방법의 순서도이다.
본 발명에 따른 마스킹 처리 방법은 단계(S110) 내지 단계(S150)을 포함한다. 구체적으로, 단계(S110)인 영상촬영수단(110)에 의해, 기설정된 영역이 촬영되는 단계; 단계(S120)인 영상수신모듈(121)에서, 상기 영상촬영수단(110)으로부터 영상데이터가 수신되는 단계; 단계(S130)인 디코딩모듈(122)에서, 상기 영상데이터를 디코딩하여 영상프레임으로 변환되는 단계; 단계(S140)인 마스킹모듈(123)에서, 상기 디코딩모듈(122)에 의해 연속적으로 변환된 영상프레임에 대해, 상기 기설정된 방식으로 기설정된 부분영역을 마스킹 처리하는 단계(S140); 단계(S150)인 인코딩모듈(124)에서, 상기 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환하는 단계; 를 포함한다.
이 때, 단계(S140)는 다시 단계(S141) 및 단계(S142)를 포함한다.
단계(S141)은 영역인식부(123a)에서, 기설정된 방식에 의해, 상기 영상프레임에 포함된 기설정된 부분영역을 인식하는 단계; 이고, 단계(S142)는 연산부(123b)에서, 상기 기설정된 부분영역으로 인식된 부분의 위치정보 및 상기 영역인식부(123a)에서의 처리시간을 상기 영역인식부(123a)로부터 전송받고, 마스킹처리부(123c)에서, 상기 기설정된 부분영역으로 인식된 부분을 마스킹 처리하는 단계이다.
이 때, 상기 단계(S141, S142)는, 상기 연속된 영상프레임 각각에 대해 수행된다.
이상, 본 명세서에는 본 발명을 당업자가 용이하게 이해하고 재현할 수 있도록 도면에 도시한 실시예를 참고로 설명되었으나 이는 예시적인 것에 불과하며, 당업자라면 본 발명의 실시예로부터 다양한 변형 및 균등한 타 실시예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 보호범위는 특허청구범위에 의해서 정해져야 할 것이다.
101: 이동수단
102: 클라우드 서버
110: 영상촬영수단
120: 영상처리수단
121: 영상수신모듈
122: 디코딩모듈
123: 마스킹모듈
123a: 영역인식부
123b: 연산부
123c: 마스킹처리부
124: 인코딩모듈
125: 영상데이터 송출모듈
130: 영상재생수단
102: 클라우드 서버
110: 영상촬영수단
120: 영상처리수단
121: 영상수신모듈
122: 디코딩모듈
123: 마스킹모듈
123a: 영역인식부
123b: 연산부
123c: 마스킹처리부
124: 인코딩모듈
125: 영상데이터 송출모듈
130: 영상재생수단
Claims (12)
- 실시간 영상의 객체 마스킹 처리 시스템으로서,
영상촬영수단(110);
상기 영상촬영수단(110)으로부터 영상데이터를 수신하며, 기설정된 방식으로 상기 영상데이터를 연속된 영상프레임으로 변환하되, 상기 영상프레임 각각의 기설정된 부분영역에 대한 마스킹 처리를 수행하는, 영상처리수단(120); 및
상기 영상처리수단(120)으로부터 마스킹된 영상프레임을 연속적으로 전송받고, 상기 마스킹된 영상프레임을 재생시키는, 영상재생수단(130); 을 포함하며,
상기 영상처리수단(120)에서의 상기 기설정된 방식은,
상기 영상처리수단(120)에서, 제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우, 상기 제 N 영상프레임의 마스킹 위치정보를 기반으로 제 N+1 내지 제 N+K 영상프레임에 대한 마스킹 처리를 수행하고(N 및 K는 자연수),
상기 영상처리수단(120)은,
상기 영상촬영수단(110)으로부터 영상데이터를 수신하는 영상수신모듈(121);
상기 영상데이터를 디코딩하여 영상프레임으로 변환하는 디코딩모듈(122);
상기 디코딩모듈(122)에 의해 변환된 영상프레임에 대해, 상기 기설정된 방식으로 기설정된 부분영역을 마스킹 처리하는 마스킹모듈(123);
상기 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환하는 인코딩모듈(124); 및
상기 송출용 영상데이터를 상기 영상재생수단(130)으로 전송하는 영상데이터 송출모듈(125); 을 포함하고,
상기 마스킹모듈(123)은,
기설정된 방식에 의해, 상기 영상프레임에 포함된 기설정된 부분영역을 인식하는 영역인식부(123a);
상기 영역인식부(123a)에 의해, 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 전송받고, 상기 영역인식부(123a)에서의 처리시간을 전송받는 연산부(123b); 및
상기 영역인식부(123a)에 의해 상기 기설정된 부분영역으로 인식된 부분을 마스킹 처리하는 마스킹처리부(123c); 를 포함하며,
상기 연산부(123b)는,
상기 영역인식부(123a)에서의 처리시간을 이용하여, 상기 K값을 결정하는,
실시간 영상의 객체 마스킹 처리 시스템.
- 삭제
- 삭제
- 제 1 항에 있어서,
상기 연산부(123b)는,
제 N 영상프레임에 대한 상기 영역인식부(123a)에서의 처리시간이 기설정된 시간을 초과하는 경우,
상기 제 N+1 내지 제 N+K 영상프레임에 대해,
상기 영역인식부(123a)에 의한 처리를 스킵하고, 상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 마스킹 처리가 수행되도록 상기 마스킹처리부(123c)를 제어하는,
실시간 영상의 객체 마스킹 처리 시스템.
- 제 4 항에 있어서,
상기 연산부(123b)는,
상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 상기 영역인식부(123a)에서의 처리시간을 0으로 간주하여, 상기 제 N 내지 제 N+K 영상프레임에 대한 상기 영역인식부(123a)에서의 처리시간의 평균값을 기설정된 값으로 유지시키는,
실시간 영상의 객체 마스킹 처리 시스템.
- 제 5 항에 있어서,
상기 영상촬영수단(110)으로부터 수신된 이미지정보는, 1초당 30개의 영상프레임으로 구성되며, 상기 영역인식부(123a)에서의 처리시간의 평균값은 33ms인,
실시간 영상의 객체 마스킹 처리 시스템.
- 제 4 항에 있어서,
상기 기설정된 부분영역은, 상기 제 N 내지 제 N+K 영상프레임 각각에 포함된 특정 객체의 일부분이며,
상기 K값은,
기설정된 방식에 의해, 상기 특정 객체의 이동 패턴에 따라, 1 내지 5의 값을 갖는,
실시간 영상의 객체 마스킹 처리 시스템.
- 제 4 항에 있어서,
상기 연산부(123b)는,
제 N+K+1 영상프레임에 대해, 상기 영역인식부(123a)에서 상기 기설정된 부분영역의 인식에 실패한 경우,
상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+K+1 내지 제 N+K+M 영상프레임 각각에 대한 마스킹 처리가 수행되도록 상기 마스킹처리부(123c)를 제어하는(N, K 및 M은 자연수),
실시간 영상의 객체 마스킹 처리 시스템.
- 제 8 항에 있어서,
상기 제 N+K+1 영상프레임에 대해, 상기 영역인식부(123a)에서 상기 기설정된 부분영역의 인식에 실패한 경우는,
상기 영역인식부(123a)에서의 처리시간이 기설정된 시간을 초과하는 경우인,
실시간 영상의 객체 마스킹 처리 시스템.
- 제 1 항에 따른 실시간 영상의 객체 마스킹 처리 시스템을 이용하는 마스킹 처리 방법으로서,
(a) 영상촬영수단(110)에 의해, 기설정된 영역이 촬영되는 단계(S110);
(b) 영상수신모듈(121)에서, 상기 영상촬영수단(110)으로부터 영상데이터가 수신되는 단계(S120);
(c) 디코딩모듈(122)에서, 상기 영상데이터를 디코딩하여 영상프레임으로 변환되는 단계(S130);
(d) 마스킹모듈(123)에서, 상기 디코딩모듈(122)에 의해 연속적으로 변환된 영상프레임에 대해, 상기 기설정된 방식으로 기설정된 부분영역을 마스킹 처리하는 단계(S140); 및
(e) 인코딩모듈(124)에서, 상기 마스킹모듈(123)에 의해 마스킹된 영상프레임을 송출용 영상데이터로 변환하는 단계(S150); 를 포함하며,
상기 (b) 내지 (e) 단계는, 상기 연속된 영상프레임 각각에 대해 수행되되,
상기 (d) 단계(S140)는,
제 N 영상프레임의 마스킹 처리 시간이 기설정된 시간을 초과하는 경우, 상기 제 N 영상프레임의 마스킹 위치정보를 이용하여 제 N+1 내지 제 N+K 영상프레임에 대한 마스킹 처리를 수행하는,
마스킹 처리 방법.
- 제 10 항에 있어서,
상기 (d) 단계(S140)는,
(d1) 영역인식부(123a)에서, 기설정된 방식에 의해, 상기 영상프레임에 포함된 기설정된 부분영역을 인식하는 단계(S141); 및
(d2) 연산부(123b)에서, 상기 기설정된 부분영역으로 인식된 부분의 위치정보 및 상기 영역인식부(123a)에서의 처리시간을 상기 영역인식부(123a)로부터 전송받고,
마스킹처리부(123c)에서, 상기 기설정된 부분영역으로 인식된 부분을 마스킹 처리하는 단계(S142); 를 포함하며,
상기 (d1) 및 (d2) 단계(S141, S142)는, 상기 연속된 영상프레임 각각에 대해 수행되는,
마스킹 처리 방법.
- 제 11 항에 있어서,
제 N 영상프레임에 대한 상기 (d1) 단계(S141)에서의 처리시간이 기설정된 시간을 초과하는 경우,
제 N+1 내지 제 N+K 영상프레임에 대해,
상기 (d1) 단계(S141)를 스킵하되,
상기 (d2) 단계(S142)에서, 상기 제 N 영상프레임에서의 상기 기설정된 부분영역으로 인식된 부분의 위치정보를 이용하여, 상기 제 N+1 내지 제 N+K 영상프레임 각각에 대한 마스킹 처리가 수행되는,
마스킹 처리 방법.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200038503A KR102183689B1 (ko) | 2020-03-30 | 2020-03-30 | 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020200038503A KR102183689B1 (ko) | 2020-03-30 | 2020-03-30 | 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 |
Publications (1)
Publication Number | Publication Date |
---|---|
KR102183689B1 true KR102183689B1 (ko) | 2020-11-30 |
Family
ID=73641942
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020200038503A KR102183689B1 (ko) | 2020-03-30 | 2020-03-30 | 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR102183689B1 (ko) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023243811A1 (ko) * | 2022-06-15 | 2023-12-21 | 삼성전자 주식회사 | 동영상 촬영 시, 이미지 내에 포스트 마스킹을 제공하는 전자 장치, 그 동작 방법 및 컴퓨터 판독가능 저장 매체 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110070735A (ko) * | 2009-12-18 | 2011-06-24 | 한국전자통신연구원 | 영상의 프라이버시 마스킹 방법 및 장치 |
KR20140126936A (ko) * | 2013-04-24 | 2014-11-03 | 정영규 | 실시간 영상에 프라이버시 마스킹 툴을 제공하는 장치 및 방법 |
KR20160078561A (ko) * | 2014-12-24 | 2016-07-05 | 전자부품연구원 | 저사양 영상 기기에서의 실시간 영상 인식 방법 |
WO2016207875A1 (en) * | 2015-06-22 | 2016-12-29 | Photomyne Ltd. | System and method for detecting objects in an image |
KR101848019B1 (ko) * | 2016-12-27 | 2018-04-11 | 아주대학교산학협력단 | 차량 영역 검출을 통한 차량 번호판 검출 방법 및 장치 |
-
2020
- 2020-03-30 KR KR1020200038503A patent/KR102183689B1/ko active IP Right Grant
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110070735A (ko) * | 2009-12-18 | 2011-06-24 | 한국전자통신연구원 | 영상의 프라이버시 마스킹 방법 및 장치 |
KR20140126936A (ko) * | 2013-04-24 | 2014-11-03 | 정영규 | 실시간 영상에 프라이버시 마스킹 툴을 제공하는 장치 및 방법 |
KR20160078561A (ko) * | 2014-12-24 | 2016-07-05 | 전자부품연구원 | 저사양 영상 기기에서의 실시간 영상 인식 방법 |
WO2016207875A1 (en) * | 2015-06-22 | 2016-12-29 | Photomyne Ltd. | System and method for detecting objects in an image |
KR101848019B1 (ko) * | 2016-12-27 | 2018-04-11 | 아주대학교산학협력단 | 차량 영역 검출을 통한 차량 번호판 검출 방법 및 장치 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023243811A1 (ko) * | 2022-06-15 | 2023-12-21 | 삼성전자 주식회사 | 동영상 촬영 시, 이미지 내에 포스트 마스킹을 제공하는 전자 장치, 그 동작 방법 및 컴퓨터 판독가능 저장 매체 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US8675065B2 (en) | Video monitoring system | |
KR101458136B1 (ko) | 영상 처리 방법, 이를 실행하는 영상 처리 서버, 감시 서버, 영상 처리 시스템 및 이를 저장한 기록 매체 | |
JP2024019238A (ja) | 映像監視方法、映像監視システム、映像監視端末、情報処理装置及びプログラム | |
WO2020019673A1 (zh) | 基于图像分析的工地监控方法、装置及可读存储介质 | |
KR102139582B1 (ko) | 다중 roi 및 객체 검출 dcnn 기반의 cctv 영상분석장치 및 그 장치의 구동방법 | |
KR101215948B1 (ko) | 신체정보 및 얼굴인식에 기반한 감시 시스템의 영상정보 마스킹 방법 | |
KR101747221B1 (ko) | 보안 카메라 시스템에서의 위변조 방지를 위한 영상 데이터 송수신 방법 | |
JP2018137730A (ja) | プライバシーマスクされた画像を符号化すること | |
Yu et al. | Pinto: enabling video privacy for commodity iot cameras | |
JP2007158421A (ja) | 監視カメラシステム及び顔画像追跡記録方法 | |
KR101460552B1 (ko) | 프라이버시 영역의 마스킹 및 복원 방법 | |
JP2005323046A (ja) | 監視システム、および監視カメラ | |
KR101340897B1 (ko) | 스쿨존 cctv 감시장치 성능개선 시스템 | |
KR102183689B1 (ko) | 실시간 영상의 객체 마스킹 처리 시스템 및 이를 이용한 마스킹 처리 방법 | |
EP1266525B1 (en) | Image data processing | |
KR101513467B1 (ko) | 스쿨존 cctv 감시장치 성능개선 시스템 | |
KR102092074B1 (ko) | 효율적 관제를 위한 스마트관제서비스장치 및 그 장치의 구동방법 | |
Ahmed et al. | Automated intruder detection from image sequences using minimum volume sets | |
KR101714130B1 (ko) | 실시간 사건 사고 동영상 촬영 시스템 | |
Kim et al. | A study on face masking scheme in video surveillance system | |
KR101973766B1 (ko) | 모바일을 위한 효율적 워터마킹 방법 및 장치 | |
KR102172955B1 (ko) | 피티지 카메라를 이용한 영상 관제 방법, 영상 관제 장치 및 컴퓨터 프로그램 | |
KR102628904B1 (ko) | 개인정보를 비식별화할 수 있는 엣지 컴퓨팅 장치 | |
US11915477B2 (en) | Video processing system and video processing method using split learning | |
Dhiravidachelvi et al. | Advanced video surveillance system using computer vision |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant |