KR102154925B1 - 영상의 선정성 검열 시스템 - Google Patents

Abstract

본 발명은 유해 이미지 및 무해 이미지를 사전 학습하고 이를 통해 인체의 분할된 영역에 대해 검사주행 방식으로 고속의 이미지 검열이 이루어져 영상에 대한 빠르고 정확한 선정성 판별이 가능하게 되는 영상의 선정성 검열 시스템에 관한 것이다.

Description

영상의 선정성 검열 시스템{SYSTEM FOR INSPECTION OF NOXIOUS IMAGE}

본 발명은 영상의 선정성 검열 시스템에 관한 것으로, 더욱 상세하게는 유해 이미지 및 무해 이미지를 사전 학습하고 이를 통해 인체의 분할된 영역에 대해 검사주행 방식으로 고속의 이미지 검열이 이루어져 영상에 대한 빠르고 정확한 선정성 판별이 가능하게 되는 영상의 선정성 검열 시스템에 관한 것이다.

정보 통신 기술의 급속한 발달로 인터넷을 통한 데이터 전송 속도가 하루가 다르게 빨라지고 있다. 이에 따라, 교육, 방송, 영화, 쇼핑 등을 위한 동영상 스트리밍 서비스와 함께 대용량 동영상 파일의 다운로드 서비스도 가능해졌다.

각종 동영상 서비스의 등장으로 양적 질적으로 인터넷 서비스가 향상되었다는 긍정적 측면도 있지만, 다른 한편으로는 웹 하드 서비스와 연계한 파일공유 서비스나 메신저 프로그램 등을 이용한 유해 동영상의 불법 배포가 또 다른 사회적 이슈로 부각되고 있다.

현재 유해 동영상 중 가장 문제가 되는 것은 음란물 동영상이다. 음란물 동영상은 합법적으로 제작된 것도 있지만, 대개는 외국에서 불법으로 제작되거나 화상 채팅 사이트나 사생활 공간 등에서 상대방의 동의 없이 불법으로 촬영된 것들이 대부분이다. 특히, 후자의 경우는 동영상 촬영 행위 자체가 불법일 뿐만 아니라, 동영상 파일이 인터넷을 통해 배포되었을 경우 피 촬영자에게 심대한 정신적 충격을 줄 수 있고 피 촬영자가 유명인인 경우는 사회적 파장까지 불러일으키는 문제가 있다.

또한, 최근에는 동영상 촬영이 가능한 디지털 카메라, 디지털 캠코더. 카메라 휴대폰 등이 보급됨에 따라, UCC(User Created Contents)나 1인 미디어 형태의 음란물 동영상까지 가세하고 있어 음란물 동영상 문제가 더욱 심각해지고 있는 실정이다.

음란물 동영상을 비롯한 각종 유해 동영상은 미성년자인 청소년들의 정신건강에 악영향을 미친다는 점은 아무리 강조해도 지나치지 않다. 또한, 인터넷 포탈과 같이 공공성을 갖는 웹사이트를 통해 유해 동영상이 배포될 경우, 웹사이트 운영자의 신뢰성과 도덕성에 심대한 타격을 준다. 따라서, 인터넷을 통해 배포되는 동영상이 유해 동영상에 해당하는지 여부를 효과적으로 검열할 수 있는 기술이 절실히 요구되고 있다.

종래의 음란물 동영상 검열 기술로는, 동영상 검열자가 동영상의 내용을 일일이 검사하여 음란물 동영상 여부를 판별하는 수동 검열 방식, 동영상의 색상(황색, 검은색, 백색 등)을 분석하여 특정 색상의 비중이 임계치를 넘어서면 음란물 동영상으로 판정하는 색상 검열 방식(한국공개특허 제2004-46537호), 각종 음란물 동영상의 해쉬값에 대한 DB를 구축한 후 검열 대상 동영상의 해쉬값과 DB에 기록된 해쉬값을 서로 비교하여 유사도가 임계치를 넘으면 음란물 동영상으로 판정하는 해쉬값 검열 방식(한국등록특허 제10-517645호) 등이 있다.

그런데, 수동 검열 방식은 동영상 검열을 수행하는데 많은 시간이 소요되므로 다량의 동영상 파일을 검열하는데 효과적이지 않다. 그리고, 색상 검열 방식은 동영상 촬영장소의 조명이나 연기자의 복장 등에 따라 검열 오차가 발생되어 신뢰성이 떨어지는 문제가 있다. 또한, 해쉬값 검열 방식은 음란물 동영상의 일부 클립을 따로 추출하여 2차적으로 편집하거나, 동영상 파일의 인코딩 환경, 예컨대 인코딩 알고리즘의 종류, 파일에 삽입되는 태그, 샘플링 비율, 비트율 등이 달라지면 검열이 제대로 이루어지지 않는 문제가 있다.

특히 1인 미디어 플랫폼(아프리카 TV)이나 SNS(twitter, instagram)의 영상은 새로운 영상이 생성되는 특징을 가지고 있어 상술한 검열 방식 중 색상 검열 방식이 적합하다. 하지만 이 같은 기존의 색상 검열 방식은 영상의 전 구역에 대해 색상 비교가 이루어지기 때문에 계산량이 많고 처리 과정이 복잡해 검열 속도에 한계가 드러나고 있다. 더욱이 최근 고화질의 동영상이 1인 미디어 플랫폼이나 SNS에 속속 채용됨에 따라 이 같은 색상 검열 방식은 더욱 뚜렷한 한계에 봉착하고 있다.

본 발명은 상기와 같은 문제점을 해결하기 위하여 안출된 것으로, 그 목적은 유해 이미지 및 무해 이미지를 사전 학습하고 이를 통해 인체의 분할된 영역에 대해 검사주행 방식으로 고속의 이미지 검열이 이루어져 영상에 대한 빠르고 정확한 선정성 판별이 가능하게 되는 영상의 선정성 검열 시스템을 제공하는데 있다.

본 발명에 따르면, 영상을 외부로 공급하는 영상 공급 서버와 연결되어 운영되는 검열 시스템에 있어서, 상기 검열 시스템은 영상 공급 서버에서 외부로 제공되는 이미지 또는 영상을 전달받아 검사주행 방식으로 이미지 검열을 수행하며, 다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역에 대한 이미지를 통해 사전 학습을 실시해서 인체의 분할 영역과 분할 영역별 포즈 템플릿을 도출해 템플릿 관리부에 저장관리하는 AI 이미지 학습부; 상기 AI 이미지 학습부의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 검사주행 거리의 유해 기준값을 도출하는 유해판단 기준 도출부; 검사주행을 위해 상기 영상 공급 서버의 이미지에서 얼굴 영역을 검출하는 얼굴 영역 검출부; 상기 얼굴 영역 검출부에서 도출된 얼굴 영역을 기준으로 하여 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하는 분할 영역 검출부; 상기 분할 영역 검출부에서 검출된 분할 영역에 대해 안전 시작점과 주행 도달점 그리고 이들을 잇는 검사주행 경로를 설정하는 검사주행 경로 설정부; 상기 검사주행 경로 설정부에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상값을 검출하는 색상 검출부; 상기 검사주행 경로 설정부에서 설정한 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하는 검사주행부; 상기 검사주행부의 검사결과에 따라 주행거리를 기준으로 해 해당 이미지를 유해 또는 무해 이미지로 판별하는 주행결과 판단부; 및 상기 주행결과 판단부의 판별 결과에 따라 영상 검열을 처리하는 검열 처리부; 를 포함하는 것을 특징으로 하는 검열 시스템을 제공한다.

여기에서, 상기 유해판단 기준 도출부는 상기 AI 이미지 학습부의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 벗은 상태에서의 평균적인 검사주행 거리를 도출하고, 이 평균적인 검사주행 거리와 대비하여 실제 검사주행시 유해 여부를 판별할 수 있는 유해 기준값을 도출하며, 상기 검사주행 경로 설정부는 분할 영역 중에서 상기 얼굴 영역 검출부의 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 있는 분할 영역 내 지점 중 가장 외곽에 있는 지점을 안전 시작점으로 설정한 후, 분할 영역 내에서 상기 안전 시작점으로부터 장축 방향에 있는 영역의 외곽 지점을 주행 도달점으로 설정하며, 상기 안전 시작점과 주행 도달점의 설정에 의해 해당 분할 영역에는 안전 시작점과 주행 도달점을 잇는 검사주행 경로가 설정되는 것을 특징으로 한다.

본 발명에 따르면, 유해 이미지 및 무해 이미지를 사전 학습하고 이를 통해 인체의 분할된 영역에 대해 검사주행 방식으로 고속의 이미지 검열이 이루어져 영상에 대한 빠르고 정확한 선정성 판별이 가능하게 되는 효과가 있다.

특히, 새로운 영상이 생성되는 1인 미디어 플랫폼(아프리카 TV)이나 SNS(twitter, instagram)에도 적용이 가능하며 대용량의 영상 데이터에 대해서도 고속의 선정성 판별이 가능하게 되는 효과도 가지고 있다.

도 1은 본 발명의 실시예에 따른 검열 시스템이 적용되는 환경을 설명하기 위한 도면이다.
도 2는 본 발명의 실시예에 따른 검열 시스템의 내부 구성을 설명하기 위한 도면이다.
도 3 내지 도 5는 본 발명의 실시예에 따른 검열 시스템의 검사주행 방식을 설명하기 위한 도면이다.
도 6 및 도 7은 본 발명의 실시예에 따른 검사주행 방식의 검열 처리 과정을 설명하기 위한 도면이다.

본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.

제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.

어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.

본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.

이하, 본 발명에 따른 바람직한 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.

도 1은 본 발명의 실시예에 따른 검열 시스템이 적용되는 환경을 설명하기 위한 도면이다.

먼저 본 발명의 실시예에 따른 검열 시스템(200)은 영상 공급 서버(100)와 연결되어 운영될 수 있다.

상기 영상 공급 서버(100)는 적어도 하나의 이미지 또는 영상 콘텐츠를 저장하고 외부로 제공할 수 있도록 구현된다. 영상 공급 서버(100)는 원격지에 네트워크를 통해 이미지 또는 영상 콘텐츠를 제공할 수 있는 네트워크 스토리지나 원격지에 스트리밍 기법으로 영상 콘텐츠를 제공할 수 있는 스트리밍 서비스 장치나 클라이언트 시스템(300)으로부터 방송을 위해 전송되는 이미지 또는 영상 콘텐츠를 다른 클라이언트 시스템(300)으로 제공할 수 있는 방송 미디어 서버를 포함하며, 클라이언트 시스템(300)의 요청에 따라 이미지 또는 영상 콘텐츠를 클라이언트 시스템(300)으로 전송하게 된다.

상기 검열 시스템(200)은 송수신부(220)를 통해 영상 공급 서버(100)에서 외부로 제공되는 이미지 또는 영상을 전달받아 검사주행 방식으로 고속의 이미지 검열을 수행하게 된다.

도 2는 본 발명의 실시예에 따른 검열 시스템의 내부 구성을 설명하기 위한 도면이다.

상기 검열 시스템(200)은 상기 공급 서버(100)가 내보내는 이미지에서 인체의 분할 영역을 검출하고 해당 분할 영역 내에 직선형의 검사주행 경로를 설정한 후 검사주행 경로를 따라 이루어지는 색상 변화를 검사해 전체 이미지의 유해 여부를 판단하게 된다.

여기에서 인체의 분할 영역은 인체의 흉부, 복부, 팔의 상박, 다리의 허벅지 등으로 특정되며, 머리, 얼굴, 목, 팔의 하박, 다리의 종아리, 발 등은 제외된다. 일반적으로 유해 이미지로 판별되는 케이스는 인체의 흉부, 복부, 팔의 상박, 다리의 허벅지 등에 노출이 있는 경우일 것이며 인체의 머리, 얼굴, 목, 팔의 하박, 다리의 종아리, 발 등은 유해 이미지의 판별과 관계가 없는 부분이다. 이 같이 인체의 분할 영역을 특정한 4가지 영역으로 한정한 것은 현실적인 실생활에서의 판단 기준이 반영된 것이기도 하지만 검열의 전체적인 속도와 정확도를 높이게 만들 것이다.

또한 상기 검사주행 경로는 인체의 특정 분할 영역 내에 설정되는 가상의 직선으로서 안전 시작점에서 시작되어 주행 도달점에서 끝나는 직선이다. 이 직선에 대해 안전 시작점의 피부 색상을 기준으로 해 주행 도달점까지 검사주행 경로를 따라 색상 변화가 일어났는지를 차례대로 검사함으로써 해당 분할 영역이 벗은 상태인지 여부를 판별할 수 있게 될 것이다. 이 같이 분할 영역에서 영역 전체가 아닌 하나의 직선에 대해서만 피부 색상 변화를 검사함으로써 영상의 전 구역에 대해 색상 비교가 이루어지는 기존의 색상 검열 방식에 비해 고속의 검열이 가능하게 만들 것이다.

이때 상기 안전 시작점은 분할 영역 중에서 그 이전에 실시되는 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 있는 지점 중 가장 외곽에 있는 지점이 설정될 것이다. 물론 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 분할 영역에 존재하지 않는다면 검사주행은 실시되지 않으며 해당 이미지를 무해 이미지로 판별하게 될 것이다.

또한 상기 주행 도달점은 분할 영역 내에서 상기 안전 시작점으로부터 장축 방향에 있는 영역의 외곽 지점에 설정될 것이다.

이 같은 안전 시작점과 주행 도달점을 연결하는 하나의 직선이 검사주행 경로가 되며, 이 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사함으로써 해당 분할 영역이 벗은 상태인지 여부를 판별하는 검사주행이 실시되게 된다. 이 검사주행 결과에 따라 해당 이미지의 유해 또는 무해 판별이 이루어지게 된다.

도 2를 참조하면, 상기 검열 시스템(200)은 다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역에 대한 이미지를 통해 사전 학습을 실시해 인체의 분할 영역과 분할 영역별 포즈(pose) 템플릿을 도출해 템플릿 관리부(230)에 저장관리하는 AI 이미지 학습부(241), 상기 AI 이미지 학습부(241)의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 검사주행 거리의 유해 기준값을 도출하는 유해판단 기준 도출부(242), 검사주행을 위해 상기 영상 공급 서버(100)의 이미지에서 얼굴 영역을 검출하는 얼굴 영역 검출부(251), 상기 얼굴 영역 검출부(251)에서 도출된 얼굴 영역을 기준으로 하여 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하는 분할 영역 검출부(252), 상기 분할 영역 검출부(252)에서 검출된 분할 영역에 대해 안전 시작점과 주행 도달점 그리고 이들을 잇는 검사주행 경로를 설정하는 검사주행 경로 설정부(260), 상기 검사주행 경로 설정부(260)에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상값을 검출하는 색상 검출부(270), 상기 검사주행 경로 설정부(260)에서 설정한 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하는 검사주행부(281), 상기 검사주행부(281)의 검사결과에 따라 주행거리를 기준으로 해 해당 이미지를 유해 또는 무해 이미지로 판별하는 주행결과 판단부(282), 상기 주행결과 판단부(282)의 판별 결과에 따라 영상 검열을 처리하는 검열 처리부(290) 및 상기 각 부를 제어하는 제어부(210)를 포함하여 구성될 수 있다.

우선 상기 AI 이미지 학습부(241)는 다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역에 대한 이미지를 입력으로 하고 기계학습(Machine Learning, ML)을 통해 많은 이미지에서 비슷한 것끼리 분류하도록 하는 함으로써 사전 학습을 실시해 인체의 분할 영역과 분할 영역별 포즈 템플릿을 도출하게 된다.

이 같은 AI 이미지 학습부(241)는 기존의 의사결정나무(Decision Tree)나 베이지안 망(Bayesian network), 서포트벡터머신(support vector machine, SVM), 그리고 인공신경망(Artificial neural network) 등의 이미지 분류 기능을 통해 구현될 수 있다.

이렇게 도출된 인체의 분할 영역과 분할 영역별 포즈 템플릿은 템플릿 관리부(230)에 저장되어 검사주행이 수행될 인체의 분할 영역을 인식하는데 사용된다.

상기 유해판단 기준 도출부(242)는 먼저 상기 AI 이미지 학습부(241)의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 완전히 벗은 상태에서의 평균적인 검사주행 거리를 도출하게 된다. 그리고 이 평균적인 검사주행 거리와 대비하여 실제 검사주행시 유해 여부를 판별할 수 있는 유해 기준값을 도출하게 된다.

이 같은 검사주행 거리는 픽셀 갯수로 표현될 수 있다. 동일한 이미지라 하더라도 실제 분할 영역이 이미지에서 차지하는 크기가 크면 픽셀 갯수는 늘어나고 크기가 작으면 픽셀 갯수는 줄어들 것이다. 따라서 검사주행 거리는 이미지 크기에 비례한 픽셀 갯수로 표현되는 것이 바람직하다.

또한 유해 기준값은 완전히 벗은 상태에서의 평균적인 검사주행 거리와 근접한 값에 설정되는 것이 바람직하다. 일 예로 유해 기준값은 완전히 벗은 상태에서의 평균적인 검사주행 거리의 70%로 설정될 수 있으며, 실제 검사주행의 결과 유해 기준값 이상의 검사주행 거리가 나오면 유해 이미지로 판별하고 유해 기준값 이하의 검사주행 거리가 나오면 무해 이미지로 판별하게 될 것이다.

상기 얼굴 영역 검출부(251)는 검사주행을 위해 상기 영상 공급 서버(100)의 이미지에서 얼굴 영역을 검출하게 된다. 이때 상기 얼굴 영역 검출부(251)는 얼굴 대신 목이나 손과 같이 얼굴을 대체할 수 있는 기준 영역을 검출할 수도 있다. 이는 얼굴을 노출하지 않은 채 벗은 몸이 나오는 영상을 대비하기 위한 것이며, 목이나 손 외에 인체의 어떤 부위라도 기준 영역이 될 수 있다.

상기 분할 영역 검출부(252)는 상기 얼굴 영역 검출부(251)에서 도출된 얼굴 영역을 기준으로 하여 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하게 된다. 상기 분할 영역별 포즈 템플릿은 상기 AI 이미지 학습부(241)의 학습 결과에 의해 도출된 것이며, 템플릿 관리부(230)에 의해 관리되는 것이다.

도 3에는 상기 분할 영역 검출부(252)에 의해 검출된 분할 영역 중 '다리'가 곧게 펼쳐진 상태 포즈로 도출된 상태가 도시되어 있다. 도 3의 (a)는 '다리'에 아무런 의상을 착용하지 않은 상태로서 유해 이미지로 판정될 것이고, 도 3의 (b)는 '다리'에 옷을 착용한 상태로서 무해 이미지로 판정될 것이다.

상기 검사주행 경로 설정부(260)는 상기 분할 영역 검출부(252)에서 검출된 분할 영역에 대해 안전 시작점과 주행 도달점 그리고 이들을 잇는 검사주행 경로를 설정하게 된다.

도 4에는 상기 검사주행 경로 설정부(260)의 검사주행 경로 처리결과가 도시되어 있다.

상기 검사주행 경로 설정부(260)는 먼저 분할 영역 중에서 상기 얼굴 영역 검출부(251)의 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 있는 분할 영역 내 지점 중 가장 외곽에 있는 지점을 안전 시작점(S)으로 설정하게 된다.

또한 상기 검사주행 경로 설정부(260)는 분할 영역 내에서 상기 안전 시작점으로부터 장축 방향에 있는 영역의 외곽 지점을 주행 도달점(A)으로 설정하게 된다.

이러한 안전 시작점(S)과 주행 도달점(A)의 설정에 의해 해당 분할 영역에는 안전 시작점(S)과 주행 도달점(A)을 잇는 검사주행 경로(화살표로 표시)가 설정되게 된다.

상기 색상 검출부(270)는 상기 검사주행 경로 설정부(260)에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상값을 검출하게 된다. 이 색상값은 차후에 이루어질 검사주행 과정에서 검사주행 경로의 각 색상값들과 비교되는 검사주행의 기준값이 될 것이다. 따라서 색상 검출부(270)는 상기 안전 시작점의 색상값을 색상 범위값으로 가공해 내보낼 수도 있다.

상기 검사주행부(281)는 상기 검사주행 경로 설정부(260)에서 설정한 검사주행 경로를 따라가면서 안전 시작점(S)을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하게 된다.

도 5에는 상기 검사주행부(281)의 검사주행 과정이 도시되어 있다.

도 5의 (a)는 '다리'에 옷을 착용한 상태로서, 검사주행부(281)는 안전 시작점(S)으로부터 검사주행을 진행하다가 옷이 있는 지점부터는 안전 시작점의 색상값을 벗어나는 색상 변화가 있음을 감지하고 검사주행을 중단하게 될 것이다.

상기 주행결과 판단부(282)는 상기 검사주행부(281)의 검사결과에 따라 주행거리를 기준으로 해 해당 이미지를 유해 또는 무해 이미지로 판별하게 된다.

즉 도 5에서와 같이 검사주행이 중단되게 되면, 상기 주행결과 판단부(282)는 상기 유해판단 기준 도출부(242)에서 해당 분할 영역의 포즈 템플릿에 대하여 미리 도출한 유해 기준값을 불러오고, 이 유해 기준값과 상기 검사주행부(281)의 주행거리를 비교하게 된다. 비교 과정에서 검사주행의 결과 유해 기준값 이상의 검사주행 거리가 나오면 유해 이미지로 판별하고 유해 기준값 이하의 검사주행 거리가 나오면 무해 이미지로 판별하게 될 것이다.

한편 도 5의 (b)는 '다리'에 '발찌'와 같은 액세서리를 착용한 상태로서, 검사주행부(281)는 안전 시작점(S)으로부터 검사주행을 진행하다가 '발찌'가 있는 지점을 주행 방해물(O)로 검출하게 된다. 그리고 상기 검사주행부(281)는 이 주행 방해물(O)의 폭을 전체 주행 경로의 거리와 대비하여 기준 이하인 경우 주행 방해물(O)을 무시하고 검사주행을 진행하게 된다. 이러한 주행 방해물(O)에 대한 무시 주행은 작은 액세서리나 속옷 등에 의해 유해 이미지가 무해 이미지로 판단되는 것을 막을 수 있도록 작용하게 된다. 즉 도 5의 (b)와 같이 '다리'에 '발찌'와 같은 액세서리를 착용한 상태에 대해 검사주행부(281)는 이를 옷으로 판별하지 않고 무시한 채 검사주행을 계속 진행하게 되는 것이다.

일 예로, 이 같은 주행 방해물(O)의 판별은 주행 방해물(O)의 폭이 전체 주행 경로의 거리와 대비해 1/10 이하인 경우 해당 주행 방해물을 무시해 검사주행을 계속 진행되게 하고, 1/10을 초과하는 경우 해당 주행 방해물을 옷으로 판별해 검사주행을 중단하게 할 수 있다.

상기 검열 처리부(290)는 상기 주행결과 판단부(282)의 판별 결과에 따라 영상 검열을 처리하게 된다. 이 같은 영상 검열 처리는 모니터링 경고, 영상 제공의 중지, 영상의 모자이크 처리, 음란물 제재를 위한 증빙자료 생성 등의 조치가 될 수 있다.

도 6 및 도 7은 본 발명의 실시예에 따른 검사주행 방식의 검열 처리 과정을 설명하기 위한 도면이다.

먼저, 상기 검열 시스템(200)은 AI 이미지 학습부(241)에 다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역를 학습시켜 인체의 분할 영역과 분할 영역별 포즈 템플릿을 도출하여 템플릿 관리부(230)에 저장하게 된다(S110).

또한, 상기 검열 시스템(200)은 상기 유해판단 기준 도출부(242)를 통해 상기 분할 영역의 포즈 템플릿별로 검사주행 거리의 유해 기준값을 도출한다(S112).

한편, 상기 검열 시스템(200)은 상기 영상 공급 서버(100)로부터 영상을 제공받게 된다(S114).

이에 따라, 상기 검열 시스템(200)은 검사주행을 위해 상기 영상 공급 서버(100)로부터 제공되는 영상에서 얼굴 영역 검출부(251)를 통해 얼굴 영역을 검출하게 된다(S116).

또한, 상기 검열 시스템(200)은 상기 얼굴 영역 검출부(251)에서 도출된 얼굴 영역을 기준으로 하여 분할 영역 검출부(252)를 통해 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하게 된다(S118).

또한, 상기 검열 시스템(200)은 상기 분할 영역 검출부(252)에서 검출된 분할 영역에 대해 검사주행 경로 설정부(260)를 통해 안전 시작점을 설정한다(S120).

상기 검사주행 경로 설정부(260)는 분할 영역 중에서 상기 얼굴 영역 검출부(251)의 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 있는 분할 영역 내 지점 중 가장 외곽에 있는 지점을 안전 시작점으로 설정하게 된다.

또한, 상기 검열 시스템(200)은 검사주행 경로 설정부(260)를 통해 분할 영역에 대해 주행 도달점을 설정한다(S122).

상기 검사주행 경로 설정부(260)는 분할 영역 내에서 상기 안전 시작점으로부터 장축 방향에 있는 영역의 외곽 지점을 주행 도달점으로 설정하게 된다.

또한, 상기 검열 시스템(200)은 검사주행 경로 설정부(260)를 통해 상기 안전 시작점과 주행 도달점을 잇는 검사주행 경로를 설정한다(S124).

이후, 상기 검열 시스템(200)은 상기 검사주행 경로 설정부(260)에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상 검출부(270)를 통해 색상값을 검출한다(S126).

이를 통해 상기 검열 시스템(200)은 상기 검사주행부(281)를 통해 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하게 된다(S128).

이후, 상기 검열 시스템(200)은 검사주행 중 주행 방해물이 검출되었는지 여부를 판단한다(S130).

상기 주행 방해물은 검사주행 경로에서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어난 지점을 의미한다.

물론 이 같은 주행 방해물을 검출하지 못한다면, 상기 검열 시스템(200)은 주행 도달점에 도착했는지를 확인하여 검사주행을 종료하게 될 것이다(S136).

한편, 상기 제 S130 단계의 판단결과, 검사주행 중 주행 방해물이 검출되면, 상기 검열 시스템(200)은 해당 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율 이하인지 여부를 판단하게 된다(S132).

상기 제 S132 단계의 판단결과, 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율 이하인 경우, 상기 검열 시스템(200)은 검출된 주행 방해물을 무시하고(S134), 검사주행을 계속 진행하게 된다.

이와 달리 상기 제 S132 단계의 판단결과, 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율을 초과한 경우, 상기 검열 시스템(200)은 검사주행을 중단하게 된다(S138).

이후, 상기 검열 시스템(200)은 주행 도달점에 도착하여 검사주행이 종료되었거나 주행 방해물에 의해 검사주행이 중단된 케이스에 대하여 검사주행의 주행거리를 산출하게 된다(S140).

이에 따라, 상기 검열 시스템(200)은 상기 유해판단 기준 도출부(242)에서 해당 분할 영역의 포즈 템플릿에 대하여 미리 도출한 유해 기준값을 불러오고, 이 유해 기준값과 상기 검사주행부(281)의 주행거리를 비교하여 주행거리가 유해 기준값 이하인지 여부를 판단하게 된다(S142).

상기 제 S142 단계의 판단결과, 검사주행의 결과인 검사주행 거리가 유해 기준값 이하이면 해당 분할 영역을 무해 영역으로 지정하고(S144), 이와 달리 검사주행 거리가 유해 기준값을 초과하면 해당 분할 영역을 유해 영역으로 지정하게 된다(S146).

이후, 상기 검열 시스템(200)은 인체의 특정 분할 영역의 이미지가 유해 영역으로 지정된 경우 별도의 영상 검열을 처리하게 된다(S148).

이상과 같이 도면과 명세서에서 최적 실시 예가 개시되었다. 여기서 특정한 용어들이 사용되었으나, 이는 단지 본 발명을 설명하기 위한 목적에서 사용된 것이지 의미 한정이나 특허청구범위에 기재된 본 발명의 범위를 제한하기 위하여 사용된 것은 아니다. 그러므로 본 기술 분야의 통상의 지식을 가진 자라면 이로부터 다양한 변형 및 균등한 타 실시 예가 가능하다는 점을 이해할 것이다. 따라서 본 발명의 진정한 기술적 보호 범위는 첨부된 특허청구범위의 기술적 사상에 의해 정해져야 할 것이다.

100 : 영상 공급 서버 200 : 검열 시스템
210 : 제어부 220 : 송수신부
230 : 템플릿 관리부 241 : AI 이미지 학습부
242 : 유해판단 기준 도출부 251 : 얼굴 영역 검출부
252 : 분할 영역 검출부 260 : 검사주행 경로 설정부
270 : 색상 검출부 281 : 검사주행부
282 : 주행결과 판단부 290 : 검열 처리부
300 : 클라이언트 시스템

Claims (2)

1. 영상을 외부로 공급하는 영상 공급 서버와 연결되어 운영되는 검열 시스템에 있어서,
   상기 검열 시스템은 영상 공급 서버에서 외부로 제공되는 이미지 또는 영상을 전달받아 검사주행 방식으로 이미지 검열을 수행하며,
   다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역에 대한 이미지를 통해 사전 학습을 실시해서 인체의 분할 영역과 분할 영역별 포즈 템플릿을 도출해 템플릿 관리부에 저장관리하는 AI 이미지 학습부;
   상기 AI 이미지 학습부의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 검사주행 거리의 유해 기준값을 도출하는 유해판단 기준 도출부;
   검사주행을 위해 상기 영상 공급 서버의 이미지에서 얼굴 영역을 검출하는 얼굴 영역 검출부;
   상기 얼굴 영역 검출부에서 도출된 얼굴 영역을 기준으로 하여 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하는 분할 영역 검출부;
   상기 분할 영역 검출부에서 검출된 분할 영역에 대해 안전 시작점과 주행 도달점 그리고 이들을 잇는 검사주행 경로를 설정하는 검사주행 경로 설정부;
   상기 검사주행 경로 설정부에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상값을 검출하는 색상 검출부;
   상기 검사주행 경로 설정부에서 설정한 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하는 검사주행부;
   상기 검사주행부의 검사결과에 따라 주행거리를 기준으로 해 해당 이미지를 유해 또는 무해 이미지로 판별하는 주행결과 판단부; 및
   상기 주행결과 판단부의 판별 결과에 따라 영상 검열을 처리하는 검열 처리부를 포함하고,
   상기 AI 이미지 학습부는 다수의 유해 이미지와 무해 이미지 그리고 인체의 분할 영역을 학습하여 인체의 분할 영역과 분할 영역별 포즈 템플릿을 도출하여 템플릿 관리부에 저장하고,
   상기 유해판단 기준 도출부는 상기 AI 이미지 학습부의 학습 결과를 통해 분할 영역의 포즈 템플릿별로 벗은 상태에서의 평균적인 검사주행 거리를 도출하고, 이 평균적인 검사주행 거리와 대비하여 실제 검사주행시 유해 여부를 판별할 수 있는 유해 기준값을 도출하고,
   상기 얼굴 영역 검출부는 검사주행을 위해 상기 영상 공급 서버로부터 제공되는 영상에서 얼굴 영역을 검출하고,
   상기 분할 영역 검출부는 상기 얼굴 영역 검출부에서 도출된 얼굴 영역을 기준으로 하여 분할 영역별 포즈 템플릿을 참조해 검사 대상 분할영역을 검출하고,
   상기 검사주행 경로 설정부는 분할 영역 중에서 상기 얼굴 영역 검출부의 얼굴 영역 검출 과정에서 얻어진 얼굴의 색상과 유사범위에 있는 색상이 있는 분할 영역 내 지점 중 가장 외곽에 있는 지점을 안전 시작점으로 설정하고,
   상기 검사주행 경로 설정부는 분할 영역 내에서 상기 안전 시작점으로부터 장축 방향에 있는 영역의 외곽 지점을 주행 도달점으로 설정하고,
   상기 검사주행 경로 설정부는 해당 분할 영역에서 상기 안전 시작점과 주행 도달점을 잇는 검사주행 경로를 설정하고,
   상기 색상 검출부는 상기 검사주행 경로 설정부에서 설정한 검사주행 경로의 안전 시작점에 대하여 색상값을 검출하고,
   상기 검사주행부는 검사주행 경로를 따라가면서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어났는지를 차례대로 검사하고,
   상기 검사주행부는 검사주행 중 주행 방해물이 검출되었는지 여부를 판단하고, 상기 주행 방해물은 검사주행 경로에서 안전 시작점을 기준으로 허용범위 이상의 색상 변화가 일어난 지점을 의미하고,
   상기 검사주행부는 검사주행 중 주행 방해물이 검출되지 않으면, 주행 도달점에 도착했는지를 확인하여 검사주행을 종료하고,
   상기 검사주행부는 검사주행 중 주행 방해물이 검출되면, 해당 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율 이하인지 여부를 판단하고,
   상기 판단결과, 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율 이하인 경우, 상기 검사주행부는 검출된 주행 방해물을 무시하고, 검사주행을 계속 진행하고,
   상기 판단결과, 주행 방해물의 폭이 전체 주행 경로의 거리와 대비해 기준 비율을 초과한 경우, 상기 검사주행부는 검사주행을 중단하고,
   상기 검사주행부 또는 상기 주행결과 판단부는 주행 도달점에 도착하여 검사주행이 종료되었거나 주행 방해물에 의해 검사주행이 중단된 케이스에 대하여 검사주행의 주행거리를 산출하고,
   상기 주행결과 판단부는 상기 유해판단 기준 도출부에서 해당 분할 영역의 포즈 템플릿에 대하여 미리 도출한 유해 기준값을 불러오고, 이 유해 기준값과 상기 검사주행부의 주행거리를 비교하여 주행거리가 유해 기준값 이하인지 여부를 판단하고,
   상기 판단결과, 검사주행의 결과인 검사주행 거리가 유해 기준값 이하이면 상기 주행결과 판단부는 해당 분할 영역을 무해 영역으로 지정하고, 검사주행 거리가 유해 기준값을 초과하면 해당 분할 영역을 유해 영역으로 지정하며,
   상기 검열 처리부는 인체의 특정 분할 영역의 이미지가 유해 영역으로 지정된 경우 별도의 영상 검열을 처리하는 것을 특징으로 하는 영상의 검열 시스템.
2. 삭제

Images