KR101027617B1 - 유해물 차단 서비스 시스템 및 방법 - Google Patents

유해물 차단 서비스 시스템 및 방법 Download PDF

Info

Publication number
KR101027617B1
KR101027617B1 KR1020090043965A KR20090043965A KR101027617B1 KR 101027617 B1 KR101027617 B1 KR 101027617B1 KR 1020090043965 A KR1020090043965 A KR 1020090043965A KR 20090043965 A KR20090043965 A KR 20090043965A KR 101027617 B1 KR101027617 B1 KR 101027617B1
Authority
KR
South Korea
Prior art keywords
harmful
information
multimedia
section
attribute
Prior art date
Application number
KR1020090043965A
Other languages
English (en)
Other versions
KR20100124983A (ko
Inventor
박태형
허영일
Original Assignee
주식회사 엔에스에이치씨
인포뱅크 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엔에스에이치씨, 인포뱅크 주식회사 filed Critical 주식회사 엔에스에이치씨
Priority to KR1020090043965A priority Critical patent/KR101027617B1/ko
Publication of KR20100124983A publication Critical patent/KR20100124983A/ko
Application granted granted Critical
Publication of KR101027617B1 publication Critical patent/KR101027617B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00—Details of television systems
    • H04N5/76—Television signal recording
    • H04N5/91—Television signal processing therefor
    • H04N5/915—Television signal processing therefor for field- or frame-skip recording or reproducing
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/40—Information retrieval; Database structures therefor; File system structures therefor of multimedia data, e.g. slideshows comprising image and additional audio data
    • G06F16/43—Querying
    • G06F16/435—Filtering based on additional data, e.g. user or group profiles
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/426—Internal components of the client ; Characteristics thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Storage Device Security (AREA)
  • Signal Processing For Digital Recording And Reproducing (AREA)

Abstract

본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템은 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출하는 이미지 추출부, 상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 유해성 판단부, 및 상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단하는 재생 차단부를 포함한다.
유해물, 음란물, 정지 프레임, 동영상, 음원 샘플

Description

유해물 차단 서비스 시스템 및 방법{SYSTEM AND METHOD FOR PROTECTING PORNOGRAPH}
본 발명의 실시예들은 유해물 차단 서비스 시스템 및 방법에 관한 것이다.
통신기술 및 컴퓨터 분야의 급격한 발전과 더불어 인터넷은 소정의 정보 습득과 교류의 장으로서 하나의 필수적인 수단이 되었으며, 그 기능 및 역할이 폭발적으로 증대되고 있다. 이러한 인터넷은 정보 제공자(information provider) 및/또는 특정 서버들이 접속되어 있는 인터넷 망에 인터넷 가입자들이 자신의 컴퓨터를 통해 데이터 통신이 가능하게 연결하여 이루어지는 것으로, 정보 제공자들이나 특정 서버가 개설하고 있는 소정의 웹사이트에 인터넷 가입자가 컴퓨터를 통해 접속한 후 해당 웹사이트에서 제공하는 각종 정보 및/또는 서비스를 활용함으로써 이루어지는 것이다.
또한, 상기 인터넷은 특정 서비스 군에 속하는 사람들끼리의 데이터 통신에만 한정되지 않고, 국가나 지역에 구분됨이 없이 소정의 정보를 취득하고, 제공되는 서비스를 활용할 수 있는 것으로 현재 가장 각광받고 있는 정보의 취득 및 통신망으로 자리잡고 있다.
그리고 인터넷의 확신과 더불어 많은 웹사이트들이 생성되고, 계속해서 증가하고 있는 추세이다. 특히, 웹사이트에서 제공하고 있는 다양한 정보들은 인터넷의 확산을 촉진시키고 있다.
한편, e-비지니스 등의 새로운 사업 영역이 확대됨에 따라 문자뿐만 아니라 음성, 음악, 영상 및 3차원 영상물 등을 비롯하여 다양한 멀티미디어 컨텐츠가 웹사이트를 통해 제공되고 있다. 이러한 가운데 상업성을 노린 음란물 사이트들도 상대적으로 늘어나, 확산된 인터넷 환경 속에서 누구나 용이하게 접근할 수 있게 되었고, 미성년자들에게 음란물이 노출되는 정도는 매우 심각한 상황으로서 새로운 사회적 문제를 발생시키고 있다.
본 발명의 일 실시예는 멀티미디어 기록물의 정지 프레임을 통해, 상기 멀티미디어 기록물에 삽입된 유해 정보(제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 시청 제한 연령 정보 등)를 식별하여, 상기 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 상기 멀티미디어 기록물에 대한 유해성 판독률을 향상시킬 수 있도록 하는 유해물 차단 서비스 시스템 및 방법을 제공한다.
본 발명의 일 실시예는 정확도를 위한 동적 임계값에 따라 이진화 데이터를 생성하여 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 멀티미디어 기록물에 대해 높은 정확성을 가지고 그 유해성을 판단할 수 있도록 하는 유해물 차단 서비스 시스템 및 방법을 제공한다.
본 발명의 일 실시예는 멀티미디어 기록물의 음원 샘플을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 상기 멀티미디어 기록물에 대한 유해성 판독률을 향상시킬 수 있도록 하는 유해성 차단 서비스 시스템 및 방법을 제공한다.
본 발명의 일 실시예는 멀티미디어 기록물의 헤더 구간(재생 앞 구간)에 대해 추출 빈도를 높게 하여, 유해성 판단의 기초 자료인 정지 프레임을 추출함으로써, 모든 재생 구간에 대해 상기 정지 프레임을 추출하는 것에 비해, 전체 추출 횟수를 감소시킬 수 있으며, 이를 통해 보다 신속하게 상기 정지 프레임을 상기 멀티 미디어 기록물로부터 추출하여, 유해 정보의 식별 성능을 향상시킬 수 있도록 하는 유해성 차단 서비스 시스템 및 방법을 제공한다.
본 발명이 해결하고자 하는 과제는 이상에서 언급한 과제들로 제한되지 않으며, 언급되지 않은 또 다른 과제(들)은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템은 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출하는 이미지 추출부; 상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 유해성 판단부; 및 상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단하는 재생 차단부를 포함한다.
본 발명의 일 실시예에 따른 유해물 차단 서비스 방법은 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출하는 단계; 상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 단계; 상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단하는 단계를 포함한다.
기타 실시예들의 구체적인 사항들은 상세한 설명 및 첨부 도면들에 포함되 어 있다.
본 발명의 이점 및/또는 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시예들을 참조하면 명확해질 것이다. 그러나, 본 발명은 이하에서 개시되는 실시예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 것이며, 단지 본 실시예들은 본 발명의 개시가 완전하도록 하며, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 참조 부호는 동일 구성요소를 지칭한다.
본 발명의 일 실시예에 따르면, 멀티미디어 기록물의 정지 프레임을 통해, 상기 멀티미디어 기록물에 삽입된 유해 정보(제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 시청 제한 연령 정보 등)를 식별하여, 상기 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 상기 멀티미디어 기록물에 대한 유해성 판독률을 향상시킬 수 있다.
본 발명의 일 실시예에 따르면, 정확도를 위한 동적 임계값에 따라 이진화 데이터를 생성하여 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 멀티미디어 기록물에 대해 높은 정확성을 가지고 그 유해성을 판단할 수 있다.
본 발명의 일 실시예에 따르면, 멀티미디어 기록물의 음원 샘플을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단함으로써, 상기 멀티미디어 기록물에 대한 유해성 판독률을 향상시킬 수 있다.
본 발명의 일 실시예에 따르면, 멀티미디어 기록물의 헤더 구간(재생 앞 구간)에 대해 추출 빈도를 높게 하여, 유해성 판단의 기초 자료인 정지 프레임을 추출함으로써, 모든 재생 구간에 대해 상기 정지 프레임을 추출하는 것에 비해, 전체 추출 횟수를 감소시킬 수 있으며, 이를 통해 보다 신속하게 상기 정지 프레임을 상기 멀티미디어 기록물로부터 추출하여, 유해 정보의 식별 성능을 향상시킬 수 있다.
이하에서는 첨부된 도면을 참조하여 본 발명의 실시예를 상세히 설명한다.
도 1은 본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템을 설명하기 위해 도시한 블록도이다.
도 1을 참조하면, 본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템(100)은 이미지 추출부(110), 음원 추출부(120), 유해성 판단부(130), 재생 차단부(140), 및 제어부(150)를 포함할 수 있다.
이미지 추출부(110)는 멀티미디어 기록물에 대한 압축 코덱을 해제하고, 상기 멀티미디어 기록물로부터 정지 프레임을 추출할 수 있다. 여기서, 상기 멀티미디어 기록물은 동영상, 이미지, 텍스트, 음성 등을 포함하는 개념으로서 넓게 해석될 수 있다. 이하의 다른 실시예들에서도, 상기 멀티미디어 기록물은 상기와 동일한 개념으로서 사용될 수 있다.
구체적으로, 이미지 추출부(110)는 상기 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기 록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출할 수 있다.
이때, 이미지 추출부(110)는 영화 속성, 애니메이션 속성, 광고 속성, 또는 연령제한 속성 중 어느 하나를 상기 속성 정보로서 인지하고, 상기 인지된 속성 정보에 대응하는 재생 구간을 상기 추출대상구간으로 결정할 수 있다.
예컨대, 이미지 추출부(110)는 상기 속성 정보가 영화 속성일 경우 시작 5분간, 애니메이션 속성일 경우 시작 10~15분간, 광고 속성일 경우 종료전 20초 등의 재생 구간을 상기 추출대상구간으로 결정하고, 상기 결정된 추출대상구간으로부터 상기 정지 프레임을 추출할 수 있다.
이미지 추출부(110)는 상기 속성 정보로서 영화 속성 또는 연령제한 속성이 인지되는 경우, 상기 선별된 재생 구간 중, 재생개시시각이 가장 앞선 재생 구간을 상기 추출대상구간으로 결정할 수 있다.
또한, 이미지 추출부(110)는 상기 재생 구간이 헤더 구간을 포함하여 복수개 선별되는 경우, 상기 헤더 구간을 제외한 다른 재생 구간 보다 상기 헤더 구간에서, 상대적으로 높은 추출 빈도로 상기 정지 프레임을 추출할 수 있다.
또 달리, 이미지 추출부(110)는 상기 멀티미디어 기록물의 전체 재생 시간에 기초하여, 상기 멀티미디어 기록물의 전체 재생 구간을 제1 재생 구간, 제2 재생 구간 및 제3 재생 구간으로 분할할 수 있다. 그리고, 이미지 추출부(110)는 상기 제1 재생 구간에 대해, 상기 제2 재생 구간 및 상기 제3 재생 구간보다 상대적으로 높은 추출 빈도로 상기 정지 프레임을 추출할 수 있다.
여기서, 상기 제1 재생 구간은 상기 멀티미디어 기록물의 헤드 구간(head section)이고, 상기 제2 재생 구간은 상기 멀티미디어 기록물의 바디 구간(body section)이며, 상기 제3 재생 구간은 상기 멀티미디어 기록물의 테일 구간(tail section)일 수 있다.
즉, 본 발명의 일 실시예에 따르면, 이미지 추출부(110)는 상기 멀티미디어 기록물에 대한 속성 정보를 통해 상기 멀티미디어 기록물의 전체 재생 시간을 인식하고, 상기 인식된 전체 재생 시간에 따라 상기 멀티미디어 기록물을 헤드 구간, 바디 구간, 및 테일 구간으로 나누며, 상기 구간들로부터 상기 정지 프레임을 추출하되, 상기 헤드 구간의 추출 빈도를 높게 하여 상기 정지 프레임을 추출할 수 있다.
본 발명의 일 실시예에서, 상기 헤드 구간의 추출 빈도를 높게 하여 상기 정지 프레임을 추출하는 것은, 상기 멀티미디어 기록물의 앞 부분(헤더 구간)에 일반적으로 상기 유해 정보가 많이 포함되어 있기 때문이다. 또한, 상기 헤드 구간의 추출 빈도를 높게 하면, 모든 재생 구간에 대해 상기 정지 프레임을 추출하는 것에 비해, 전체 추출 횟수가 감소하게 된다. 따라서, 본 발명의 일 실시예에 의하면, 보다 신속하게 상기 정지 프레임을 상기 멀티미디어 기록물로부터 추출할 수 있으며, 이를 통해 결과적으로 유해 정보의 판독률을 향상시킬 수 있다.
음원 추출부(120)는 상기 멀티미디어 기록물로부터 음원 샘플을 추출할 수 있다. 이를 위해, 음원 추출부(120)는 소정의 음원 샘플 추출 프로그램을 이용하여, 상기 멀티미디어 기록물로부터 상기 음원 샘플을 추출할 수 있다.
유해성 판단부(130)는 상기 추출된 정지 프레임 또는 음원 샘플을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다.
먼저, 상기 추출된 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 과정의 일례를 설명한다. 유해성 판단부(130)는 상기 정지 프레임을 수집하여 이진화 데이터를 생성하고, 상기 생성된 이진화 데이터 내의 정보를 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 이에 대해 도 2를 참조하여 구체적으로 설명한다. 참고로, 도 2는 도 1의 유해성 판단부의 상세 구성을 설명하기 위해 도시한 블록도이다.
도 2에 도시된 바와 같이, 유해성 판단부(130)는 이진화 데이터 생성부(210), 유해 정보 식별부(220), 및 비교 분석부(230)를 포함할 수 있다.
이진화 데이터 생성부(210)는 상기 추출된 정지 프레임의 동적 임계값을 이용하여 이진화 데이터를 생성할 수 있다. 즉, 이진화 데이터 생성부(210)는 임의의 동적 임계값을 기준으로, 상기 정지 프레임을 화이트(white)와 블랙(black)의 이진 이미지로 변환함으로써, 상기 이진화 데이터를 생성할 수 있다.
예컨대, 이진화 데이터 생성부(210)는 도 3 내지 도 7의 i)과 같은 정지 프레임을 영상 분석하여, 도 3 내지 도 7의 ii)와 같은 이진화 결과(이진화 데이터)를 생성할 수 있다. 참고로, 도 3 내지 도 7은 본 발명의 일 실시예에 따라 정지 프레임을 이진 이미지로 변환하는 일례를 도시한 도면이다.
유해 정보 식별부(220)는 상기 생성된 이진화 데이터로부터 유해 정보를 식별할 수 있다. 즉, 유해 정보 식별부(220)는 상기 생성된 이진화 데이터를 분석하 여, 상기 이진화 데이터에 상기 유해 정보가 포함되어 있는지, 상기 유해 정보가 포함되어 있다면 상기 유해 정보가 무슨 정보인지 등을 식별할 수 있다.
여기서, 상기 유해 정보는 제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 또는 시청 제한 연령 정보 중 적어도 하나를 포함할 수 있다.
예를 들면, 유해 정보 식별부(220)는 도 3의 ii)와 같은 이진화 데이터로부터는 제작사/저작권 정보를 식별할 수 있고, 도 4의 ii)와 같은 이진화 데이터로부터는 음란 영상임을 식별할 수 있으며, 도 5의 ii)와 같은 이진화 데이터로부터는 유해 경고 정보의 일례인 경고문을 식별할 수 있다. 또한, 유해 정보 식별부(220)는 도 6의 ii)와 같은 이진화 데이터로부터는 시청 제한 연령 정보의 일례인 19세 시청 금지 표시(19금)를 식별할 수 있고, 도 7의 ii)와 같은 이진화 데이터로부터는 유해 사이트 URL의 일례인 유해 사이트 주소를 식별할 수 있다.
비교 분석부(230)는 상기 식별된 유해 정보를 비교 분석하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 이를 위해, 비교 분석부(230)는 상기 식별된 유해 정보를 기 저장된 유해 정보들과 비교할 수 있다. 비교 분석부(230)는 상기 비교 결과, 상기 식별된 유해 정보와 일치하는 유해 정보가 존재하는 경우 상기 멀티미디어 기록물이 유해한 것으로 판단하고, 그렇지 않은 경우 상기 멀티미디어 기록물이 무해한 것으로 판단할 수 있다.
다시 도 1을 참조하면, 유해성 판단부(130)는 상기 멀티미디어 기록물의 영상 프레임 중 반복 구간을 인식하고, 상기 인식된 반복 구간의 영상 프레임을 통해 서도 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 즉, 유해성 판단부(130)는 상기 멀티미디어 기록물의 영상 프레임 중에 반복 형태를 가지는 구간에 대한 인식을 통해, 상기 멀티미디어 기록물이 유해한지 여부를 판단할 수 있다. 이처럼, 상기 멀티미디어 기록물의 영상 프레임 중에서 반복 형태를 가지는 구간을 인식하는 이유는, 포르노 동영상과 같은 멀티미디어 기록물에서는 성교 행위와 관련된 구간이 반복적인 패턴을 가지면서 나타나기 때문이다.
다음으로, 상기 추출된 음원 샘플을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 과정의 일례를 설명한다.
유해성 판단부(130)는 포르노나 성인 동영상의 성교 시에 발생하는 음원 반복 패턴을 통해서, 대상 영상물(멀티미디어 기록물)에 대한 유해성을 판단할 수 있다. 이를 위해, 유해성 판단부(130)는 성교 시 발생하는 반복 음원 파장을 통해 상기 대상 영상물이 유해한지 여부를 판단할 수 있다. 즉, 유해성 판단부(130)는 상기 추출된 음원 샘플의 진동 변위를 분석하고, 상기 분석 결과에 따라 상기 멀티미디어 기록물의 유해성 여부를 판단할 수 있다.
예를 들어, 도 8에 도시된 바와 같이, 상기 멀티미디어 기록물이 임의의 재생 구간에서, 그 진동 변위가 일정 범위를 벗어나면서 일정 횟수 반복되는 패턴을 보이는 경우, 유해성 판단부(130)는 상기 멀티미디어 기록물이 유해한 것으로 판단할 수 있다. 참고로, 도 8은 본 발명의 일 실시예에 따라 멀티미디어 기록물로부터 추출된 음원 샘플의 진동 범위에 대한 일례를 도시한 도면이다.
한편, 유해성 판단부(130)는 멀티미디어 기록물의 정지 프레임과 음원 샘플 을 모두 종합적으로 고려하여, 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수도 있다.
다시 도 1을 참조하면, 재생 차단부(140)는 상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단할 수 있다. 이때, 본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템(100)은 상기 멀티미디어 기록물의 재생을 차단함과 동시 또는 이후에, 알림 메시지(예: 유해물을 차단하였습니다)을 디스플레이하거나, 알림음을 출력할 수도 있다.
제어부(150)는 본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템(100), 즉 이미지 추출부(110), 음원 추출부(120), 유해성 판단부(130), 재생 차단부(140) 등의 동작을 전반적으로 제어할 수 있다.
도 9는 본 발명의 일 실시예에 따른 유해물 차단 서비스 방법을 설명하기 위해 도시한 흐름도이다. 여기서, 상기 유해물 차단 서비스 방법은 도 1의 유해물 차단 서비스 시스템(100)에 의해 수행될 수 있다.
도 9를 참조하면, 단계(910)에서 상기 유해물 차단 서비스 시스템은 멀티미디어 기록물에 대한 압축 코덱을 해제하고, 상기 멀티미디어 기록물로부터 정지 프레임을 추출할 수 있다.
구체적으로, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물의 전체 재생 시간에 기초하여, 상기 멀티미디어 기록물의 전체 재생 구간을 제1 재생 구간, 제2 재생 구간 및 제3 재생 구간으로 분할할 수 있다. 그리고, 이미지 추출부(110)는 상기 제1 재생 구간에 대해, 상기 제2 재생 구간 및 상기 제3 재생 구간 보다 상대적으로 높은 추출 빈도로 상기 정지 프레임을 추출할 수 있다.
여기서, 상기 제1 재생 구간은 상기 멀티미디어 기록물의 헤드 구간(head section)이고, 상기 제2 재생 구간은 상기 멀티미디어 기록물의 바디 구간(body section)이며, 상기 제3 재생 구간은 상기 멀티미디어 기록물의 테일 구간(tail section)일 수 있다.
즉, 본 발명의 일 실시예에 따르면, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물에 대한 속성 정보를 통해 상기 멀티미디어 기록물의 전체 재생 시간을 인식하고, 상기 인식된 전체 재생 시간에 따라 상기 멀티미디어 기록물을 헤드 구간, 바디 구간, 및 테일 구간으로 나누며, 상기 구간들로부터 상기 정지 프레임을 추출하되, 상기 헤드 구간의 추출 빈도를 높게 하여 상기 정지 프레임을 추출할 수 있다.
한편, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물로부터 음원 샘플을 추출할 수도 있다. 이를 위해, 상기 유해물 차단 서비스 시스템은 소정의 음원 샘플 추출 프로그램을 이용하여, 상기 멀티미디어 기록물로부터 상기 음원 샘플을 추출할 수 있다.
다음으로, 단계(920)에서 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 이를 위해, 상기 유해물 차단 서비스 시스템은 상기 추출된 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 이에 대해, 도 10을 참조하여 구체적으로 설명한다. 참고로, 도 10은 본 발명의 실시예에 따라 추출된 정지 프레임을 이용하 여 멀티미디어 기록물에 대한 유해성 여부를 판단하는 일례를 도시한 흐름도이다.
도 10을 참조하면, 단계(1010)에서 상기 유해물 차단 서비스 시스템은 상기 추출된 정지 프레임의 동적 임계값을 이용하여 이진화 데이터를 생성할 수 있다. 즉, 상기 유해물 차단 서비스 시스템은 임의의 동적 임계값을 기준으로, 상기 정지 프레임을 화이트(white)와 블랙(black)의 이진 이미지로 변환함으로써, 상기 이진화 데이터를 생성할 수 있다.
이후, 단계(1020)에서 상기 유해물 차단 서비스 시스템은 상기 생성된 이진화 데이터로부터 유해 정보를 식별할 수 있다. 즉, 상기 유해물 차단 서비스 시스템은 상기 생성된 이진화 데이터를 분석하여, 상기 이진화 데이터에 상기 유해 정보가 포함되어 있는지, 상기 유해 정보가 포함되어 있다면 상기 유해 정보가 무슨 정보인지 등을 식별할 수 있다. 여기서, 상기 유해 정보는 제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 또는 시청 제한 연령 정보 중 적어도 하나를 포함할 수 있다.
이후, 단계(1030)에서 상기 유해물 차단 서비스 시스템은 상기 식별된 유해 정보를 비교 분석하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 이를 위해, 상기 유해물 차단 서비스 시스템은 상기 식별된 유해 정보를 기 저장된 유해 정보들과 비교할 수 있다. 상기 유해물 차단 서비스 시스템은 상기 비교 결과, 상기 식별된 유해 정보와 일치하는 유해 정보가 존재하는 경우 상기 멀티미디어 기록물이 유해한 것으로 판단하고, 그렇지 않은 경우 상기 멀티미디어 기록물이 무해한 것으로 판단할 수 있다.
다시 도 9를 참조하면, 다음으로, 단계(930)에서 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단할 수 있다. 이때, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물의 재생을 차단함과 동시 또는 이후에, 알림 메시지(예: 유해물을 차단하였습니다)을 디스플레이하거나, 알림음을 출력할 수도 있다.
한편, 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 과정에서, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물의 영상 프레임 중 반복 구간을 인식하고, 상기 인식된 반복 구간의 영상 프레임을 통해서도 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수 있다. 즉, 상기 유해물 차단 서비스 시스템은 상기 멀티미디어 기록물의 영상 프레임 중에 반복 형태를 가지는 구간에 대한 인식을 통해, 상기 멀티미디어 기록물이 유해한지 여부를 판단할 수 있다. 이처럼, 상기 멀티미디어 기록물의 영상 프레임 중에서 반복 형태를 가지는 구간을 인식하는 이유는, 포르노 동영상과 같은 멀티미디어 기록물에서는 성교 행위와 관련된 구간이 반복적인 패턴을 가지면서 나타나기 때문이다.
또 달리, 상기 유해물 차단 서비스 시스템은 상기 추출된 음원 샘플을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수도 있다. 즉, 유해성 판단부(130)는 포르노나 성인 동영상의 성교 시에 발생하는 음원 반복 패턴을 통해서, 대상 영상물(멀티미디어 기록물)에 대한 유해성을 판단할 수 있다. 이를 위해, 유해성 판단부(130)는 성교 시 발생하는 반복 음원 파장을 통해 상기 대상 영상물이 유해한지 여부를 판단할 수 있다. 즉, 유해성 판단부(130)는 상기 추출 된 음원 샘플의 진동 변위를 분석하고, 상기 분석 결과에 따라 상기 멀티미디어 기록물의 유해성 여부를 판단할 수 있다.
또 달리, 유해성 판단부(130)는 멀티미디어 기록물의 정지 프레임과 음원 샘플을 모두 종합적으로 고려하여, 상기 멀티미디어 기록물에 대한 유해성 여부를 판단할 수도 있다.
본 발명의 실시예들은 다양한 컴퓨터로 구현되는 동작을 수행하기 위한 프로그램 명령을 포함하는 컴퓨터 판독 가능 매체를 포함한다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 로컬 데이터 파일, 로컬 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크와 같은 자기-광 매체, 및 롬, 램, 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
지금까지 본 발명에 따른 구체적인 실시예에 관하여 설명하였으나, 본 발명의 범위에서 벗어나지 않는 한도 내에서는 여러 가지 변형이 가능함은 물론이다. 그러므로, 본 발명의 범위는 설명된 실시예에 국한되어 정해져서는 안 되며, 후술하는 특허 청구의 범위뿐 아니라 이 특허 청구의 범위와 균등한 것들에 의해 정해 져야 한다.
이상과 같이 본 발명은 비록 한정된 실시예와 도면에 의해 설명되었으나, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 이는 본 발명이 속하는 분야에서 통상의 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다. 따라서, 본 발명 사상은 아래에 기재된 특허청구범위에 의해서만 파악되어야 하고, 이의 균등 또는 등가적 변형 모두는 본 발명 사상의 범주에 속한다고 할 것이다.
도 1은 본 발명의 일 실시예에 따른 유해물 차단 서비스 시스템을 설명하기 위해 도시한 블록도이다.
도 2는 도 1의 유해성 판단부의 상세 구성을 설명하기 위해 도시한 블록도이다.
도 3 내지 도 7은 본 발명의 일 실시예에 따라 정지 프레임을 이진 이미지로 변환하는 일례를 도시한 도면이다.
도 8은 본 발명의 일 실시예에 따라 멀티미디어 기록물로부터 추출된 음원 샘플의 진동 범위에 대한 일례를 도시한 도면이다.
도 9는 본 발명의 일 실시예에 따른 유해물 차단 서비스 방법을 설명하기 위해 도시한 흐름도이다.
도 10은 본 발명의 실시예에 따라 추출된 정지 프레임을 이용하여 멀티미디어 기록물에 대한 유해성 여부를 판단하는 일례를 도시한 흐름도이다.
<도면의 주요 부분에 대한 부호의 설명>
100: 유해물 차단 서비스 시스템
110: 이미지 추출부
120: 음원 추출부
130: 유해성 판단부
140: 재생 차단부
150: 제어부
210: 이진화 데이터 생성부
220: 유해 정보 식별부
230: 비교 분석부

Claims (17)

  1. 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출하는 이미지 추출부;
    상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 유해성 판단부; 및
    상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단하는 재생 차단부
    를 포함하고,
    상기 이미지 추출부는,
    상기 멀티미디어 기록물에 대해, 영화 속성, 애니메이션 속성, 광고 속성, 또는 연령제한 속성 중 어느 하나를 상기 속성 정보로서 인지하고,
    상기 인지된 속성 정보에 대응하는 재생 구간을 상기 추출대상구간으로 결정하는 유해물 차단 서비스 시스템.
  2. 삭제
  3. 제1항에 있어서,
    상기 속성 정보로서 영화 속성 또는 연령제한 속성이 인지되는 경우,
    상기 이미지 추출부는,
    상기 선별된 재생 구간 중, 재생개시시각이 가장 앞선 재생 구간을 상기 추출대상구간으로 결정하는 유해물 차단 서비스 시스템.
  4. 제1항에 있어서,
    상기 재생 구간이 헤더 구간을 포함하여 복수개 선별되는 경우,
    상기 이미지 추출부는,
    상기 헤더 구간을 제외한 다른 재생 구간 보다 상기 헤더 구간에서, 상대적으로 높은 추출 빈도로 상기 정지 프레임을 추출하는 유해물 차단 서비스 시스템.
  5. 제1항에 있어서,
    상기 유해성 판단부는,
    상기 정지 프레임의 동적 임계값을 이용하여 이진화 데이터를 생성하는 이진화 데이터 생성부;
    상기 생성된 이진화 데이터로부터 유해 정보를 식별하는 유해 정보 식별부; 및
    상기 식별된 유해 정보를 비교 분석하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 비교 분석부
    를 포함하는 유해물 차단 서비스 시스템.
  6. 제5항에 있어서,
    상기 유해 정보 식별부는,
    제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 또는 시청 제한 연령 정보 중 적어도 하나를, 상기 유해 정보로 식별하는 유해물 차단 서비스 시스템.
  7. 제1항에 있어서,
    상기 유해성 판단부는,
    상기 멀티미디어 기록물의 영상 프레임 중 반복 구간을 인식하고, 상기 인식된 반복 구간의 영상 프레임을 통해 상기 유해성 여부를 판단하는 유해물 차단 서비스 시스템.
  8. 제1항에 있어서,
    상기 이미지 추출부는,
    상기 멀티미디어 기록물에 대한 압축 코덱을 해제한 후, 상기 멀티미디어 기록물로부터 상기 정지 프레임을 추출하는 유해물 차단 서비스 시스템.
  9. 제1항에 있어서,
    상기 멀티미디어 기록물로부터 음원 샘플을 추출하는 음원 추출부
    를 더 포함하고,
    상기 유해성 판단부는,
    상기 추출된 음원 샘플의 진동 변위를 분석하고, 상기 분석 결과에 따라 상기 멀티미디어 기록물의 유해성 여부를 판단하는 유해물 차단 서비스 시스템.
  10. 멀티미디어 기록물과 관련하여 복수개의 재생 구간을 선별하고, 상기 선별된 재생 구간 중에서, 상기 멀티미디어 기록물에 대한 속성 정보에 따라 결정되는 추출대상구간으로부터 정지 프레임을 추출하는 단계;
    상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 단계; 및
    상기 멀티미디어 기록물이 유해한 것으로 판단된 경우, 상기 멀티미디어 기록물의 재생을 차단하는 단계
    를 포함하고,
    상기 정지 프레임을 추출하는 단계는,
    상기 멀티미디어 기록물에 대해, 영화 속성, 애니메이션 속성, 광고 속성, 또는 연령제한 속성 중 어느 하나를 상기 속성 정보로서 인지하는 단계; 및
    상기 인지된 속성 정보에 대응하는 재생 구간을 상기 추출대상구간으로 결정하는 단계
    를 포함하는 유해물 차단 서비스 방법.
  11. 삭제
  12. 제10항에 있어서,
    상기 속성 정보로서 영화 속성 또는 연령제한 속성이 인지되는 경우,
    상기 정지 프레임을 추출하는 단계는,
    상기 선별된 재생 구간 중, 재생개시시각이 가장 앞선 재생 구간을 상기 추출대상구간으로 결정하는 단계
    를 포함하는 유해물 차단 서비스 방법.
  13. 제10항에 있어서,
    상기 재생 구간이 헤더 구간을 포함하여 복수개 선별되는 경우,
    상기 정지 프레임을 추출하는 단계는,
    상기 헤더 구간을 제외한 다른 재생 구간 보다 상기 헤더 구간에서, 상대적으로 높은 추출 빈도로 상기 정지 프레임을 추출하는 단계
    를 포함하는 유해물 차단 서비스 방법.
  14. 제10항에 있어서,
    상기 정지 프레임을 이용하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 단계는,
    상기 정지 프레임의 동적 임계값을 이용하여 이진화 데이터를 생성하는 단계;
    상기 생성된 이진화 데이터로부터 제작사/저작권 정보, 유해 경고 정보, 유해 사이트 URL, 유해 영상 정보, 또는 시청 제한 연령 정보 중 적어도 하나를 포함하는 유해 정보를 식별하는 단계; 및
    상기 식별된 유해 정보를 비교 분석하여 상기 멀티미디어 기록물에 대한 유해성 여부를 판단하는 단계
    를 포함하는 유해물 차단 서비스 방법.
  15. 제10항에 있어서,
    상기 멀티미디어 기록물의 영상 프레임 중 반복 구간을 인식하는 단계; 및
    상기 인식된 반복 구간의 영상 프레임을 통해 상기 유해성 여부를 판단하는 단계
    를 더 포함하는 유해물 차단 서비스 방법.
  16. 제10항에 있어서,
    상기 멀티미디어 기록물로부터 음원 샘플을 추출하는 단계;
    상기 추출된 음원 샘플의 진동 변위를 분석하는 단계; 및
    상기 분석 결과에 따라 상기 멀티미디어 기록물의 유해성 여부를 판단하는 단계
    를 더 포함하는 유해물 차단 서비스 방법.
  17. 제10항, 제12항 내지 제16항 중 어느 한 항의 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
KR1020090043965A 2009-05-20 2009-05-20 유해물 차단 서비스 시스템 및 방법 KR101027617B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020090043965A KR101027617B1 (ko) 2009-05-20 2009-05-20 유해물 차단 서비스 시스템 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020090043965A KR101027617B1 (ko) 2009-05-20 2009-05-20 유해물 차단 서비스 시스템 및 방법

Publications (2)

Publication Number Publication Date
KR20100124983A KR20100124983A (ko) 2010-11-30
KR101027617B1 true KR101027617B1 (ko) 2011-04-11

Family

ID=43408960

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020090043965A KR101027617B1 (ko) 2009-05-20 2009-05-20 유해물 차단 서비스 시스템 및 방법

Country Status (1)

Country Link
KR (1) KR101027617B1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109993036A (zh) * 2017-12-30 2019-07-09 惠州学院 一种基于用户id识别有害视频的方法及其系统
WO2021085921A1 (ko) 2019-10-31 2021-05-06 김민석 인공지능 기반의 유해 컨텐츠 차단 장치

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101711833B1 (ko) * 2017-01-22 2017-03-13 주식회사 이노솔루텍 유해 멀티미디어 컨텐츠 분석 및 차단 시스템
CN108229535B (zh) * 2017-12-01 2019-07-23 百度在线网络技术（北京）有限公司 涉黄图像审核方法、装置、计算机设备及存储介质
CN110020253A (zh) * 2017-12-30 2019-07-16 惠州学院 基于内容的视频拷贝的识别有害视频的方法及其系统
KR102129031B1 (ko) * 2020-02-27 2020-07-02 주식회사 지란지교데이터 동영상 내의 보안정보 비식별화 방법 및 장치
KR102372580B1 (ko) * 2020-05-19 2022-03-10 주식회사 코클 비디오 컨텐츠로부터 음악 데이터를 검출하는 장치 및 그의 제어방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100656373B1 (ko) 2005-12-09 2006-12-11 한국전자통신연구원 시간구간별 우선순위와 판별정책을 적용하는 유해 동영상판별 방법 및 그 장치
KR100687732B1 (ko) * 2005-11-24 2007-02-27 한국전자통신연구원 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단방법 및 그 장치
KR20070045446A (ko) * 2005-10-27 2007-05-02 한국전자통신연구원 시간별 특징값을 이용한 유해 동영상 판별 방법 및 그 장치
KR100799557B1 (ko) 2005-10-27 2008-01-31 한국전자통신연구원 동영상의 비주얼 특징을 이용한 유해 동영상 판별함수 생성및 판별 방법 그리고 그 장치

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070045446A (ko) * 2005-10-27 2007-05-02 한국전자통신연구원 시간별 특징값을 이용한 유해 동영상 판별 방법 및 그 장치
KR100799557B1 (ko) 2005-10-27 2008-01-31 한국전자통신연구원 동영상의 비주얼 특징을 이용한 유해 동영상 판별함수 생성및 판별 방법 그리고 그 장치
KR100687732B1 (ko) * 2005-11-24 2007-02-27 한국전자통신연구원 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단방법 및 그 장치
KR100656373B1 (ko) 2005-12-09 2006-12-11 한국전자통신연구원 시간구간별 우선순위와 판별정책을 적용하는 유해 동영상판별 방법 및 그 장치

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109993036A (zh) * 2017-12-30 2019-07-09 惠州学院 一种基于用户id识别有害视频的方法及其系统
WO2021085921A1 (ko) 2019-10-31 2021-05-06 김민석 인공지능 기반의 유해 컨텐츠 차단 장치
KR20210051725A (ko) 2019-10-31 2021-05-10 김민석 인공지능 기반의 유해 컨텐츠 차단 장치

Also Published As

Publication number Publication date
KR20100124983A (ko) 2010-11-30

Similar Documents

Publication Publication Date Title
KR101027617B1 (ko) 유해물 차단 서비스 시스템 및 방법
US10713391B2 (en) Tamper protection and video source identification for video processing pipeline
JP6903751B2 (ja) 一致するコンテンツを特定するためのシステムおよび方法
WO2017005149A1 (zh) 一种游戏加速方法和装置
KR100687732B1 (ko) 내용 기반 멀티 모달 특징값을 이용한 유해 동영상 차단방법 및 그 장치
KR100865973B1 (ko) 동영상에서 특정인을 검색하는 방법, 동영상에서 특정인에대한 저작권 보고서를 생성하는 방법 및 장치
US20160073148A1 (en) Media customization based on environmental sensing
CN111917740B (zh) 一种异常流量告警日志检测方法、装置、设备及介质
BR102016007265A2 (pt) Multimodal and real-time method for sensitive content filtering
CN105744292A (zh) 一种视频数据的处理方法及装置
CN105159913B (zh) 一种待清理文件确定方法及装置
WO2023011094A1 (zh) 视频编辑方法、装置、电子设备以及存储介质
JP2012533803A (ja) タイムベースメディアにおけるソーシャルインタレストの推定および表示
CN113407886A (zh) 网络犯罪平台识别方法、系统、设备和计算机存储介质
JP2009544985A (ja) コンピュータによって実施されるビデオをセグメント化する方法
EP3537319A1 (en) Tamper protection and video source identification for video processing pipeline
CN104021349B (zh) 网络证据事前保全方法及保全装置
EP3905084A1 (en) Method and device for detecting malware
KR20160107734A (ko) 동영상의 시간정보를 이용한 유해 동영상 분류방법 및 장치
KR100354207B1 (ko) 인터넷상의 음란물을 차단하는 방법 및 장치
CN111274450A (zh) 视频识别方法
JP2009070349A (ja) 動画データの照合システム
KR101001796B1 (ko) 동영상을 이용한 광고 방법 및 시스템
CN117336572A (zh) 视频摘要生成方法、装置、计算机设备以及存储介质
KR100930529B1 (ko) 비디오 식별을 통한 유해 동영상 검열 시스템 및 방법

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20140304

Year of fee payment: 4

FPAY Annual fee payment

Payment date: 20180329

Year of fee payment: 8

FPAY Annual fee payment

Payment date: 20190318

Year of fee payment: 9