KR102240018B1 - 유해 동영상 파일을 필터링 하기 위한 장치 및 방법 - Google Patents

유해 동영상 파일을 필터링 하기 위한 장치 및 방법 Download PDF

Info

Publication number
KR102240018B1
KR102240018B1 KR1020200139352A KR20200139352A KR102240018B1 KR 102240018 B1 KR102240018 B1 KR 102240018B1 KR 1020200139352 A KR1020200139352 A KR 1020200139352A KR 20200139352 A KR20200139352 A KR 20200139352A KR 102240018 B1 KR102240018 B1 KR 102240018B1
Authority
KR
South Korea
Prior art keywords
video file
harmful
harmfulness
image
file
Prior art date
Application number
KR1020200139352A
Other languages
English (en)
Inventor
김태주
송병학
정지모
Original Assignee
김태주
주식회사 플랜티넷
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 김태주, 주식회사 플랜티넷 filed Critical 김태주
Priority to KR1020200139352A priority Critical patent/KR102240018B1/ko
Priority to KR1020210006885A priority patent/KR102308303B1/ko
Application granted granted Critical
Publication of KR102240018B1 publication Critical patent/KR102240018B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4318—Generation of visual interfaces for content selection or interaction; Content or additional data rendering by altering the content in the rendering process, e.g. blanking, blurring or masking an image region
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/458—Scheduling content for creating a personalised stream, e.g. by combining a locally stored advertisement with an incoming stream; Updating operations, e.g. for OS modules ; time-related management operations
    • H04N21/4586—Content update operation triggered locally, e.g. by comparing the version of software modules in a DVB carousel to the version stored locally
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80—Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/83—Generation or processing of protective or descriptive data associated with content; Content structuring
    • H04N21/845—Structuring of content, e.g. decomposing content into time segments
    • H04N21/8455—Structuring of content, e.g. decomposing content into time segments involving pointers to the content, e.g. pointers to the I-frames of the video stream

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Television Signal Processing For Recording (AREA)

Abstract

본 발명은 스마트 TV 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법에 관한 것으로서, 일실시예에 따른 유해 동영상 파일 필터링 장치는 오픈 이벤트가 발생한 동영상 파일로부터 키 프레임을 추출하는 키 프레임 추출부, 상기 추출된 키 프레임을 분류기로 제공하여 유해도를 산출하는 이미지 분류부, 및 상기 산출된 유해도와 유해 임계값을 비교하고, 상기 유해도가 상기 유해 임계값 이상인 경우에 상기 동영상 파일을 유해 동영상 파일로 결정하여 상기 결정된 유해 동영상 파일을 차단하도록 처리하는 콘텐츠 차단부를 포함할 수 있다.

Description

유해 동영상 파일을 필터링 하기 위한 장치 및 방법{Apparatus and method for filtering harmful video file}
본 발명은 유해 동영상 파일을 필터링 하기 위한 기술에 관한 것으로서, 보다 상세하게는 동영상 파일의 재생 시작 시 또는 재생 중에 유해도를 판단하여 필터링 하는 기술에 관한 것이다.
최근의 통신 서비스는 고유의 서비스영역인 음성통화 서비스를 기반으로 무선 데이터 서비스로 그 서비스영역을 확장하고 있다. 무선 데이터 서비스는 스마트 통신 단말기의 다기능화, 데이터 전송속도의 향상 등 네트워크 기술의 발전에 따라, 텍스트 위주의 서비스에서 멀티미디어 서비스로 진화하고 있는 추세이다.
이러한 멀티미디어 서비스 중 하나가 주문형 영상 서비스(Video On Demand: VOD)이다. VOD 서비스는 영상매체를 시간에 구애받지 않고 다운로드 하거나 실시간으로 디스플레이할 수 있도록 하는 서비스로서, 각종 동영상 다운로드 서비스, 실시간 중계 서비스 등이 대표적 VOD 서비스이다.
VOD 전송방식은 다운로드 방식과 스트리밍 방식이 있으나, 근래에는 스마트 통신 단말기와 통신망의 발달로 인해 스트리밍 방식의 서비스가 널리 이용되고 있다.
이러한 VOD 서비스는 스마트 통신 단말기를 이용하여 시간과 장소에 관계없이 통신 서비스 사업자 및 영상 제공자가 제공하는 디지털 영상을 통신망을 통해 수신할 수 있으므로, 컬러 단말기의 보급 확대를 통해 더욱 활성화될 것으로 전망된다.
한편, 스마트 통신 단말기의 사용이 대중화되면서 많은 아동과 청소년들이 스마트 통신 단말기를 소지하고 있으며, 이에 따라, 성인 뿐만 아니라 스마트 통신 단말기를 소지한 아동과 청소년까지 VOD 서비스, 스마트 TV에서동영상을 제공하는 웹사이트를 이용할 수 있다.
그런데, 관련된 서비스를 통해 제공되는 콘텐츠 중에는 아동과 청소년이 시청하더라도 무해한 콘텐츠가 있는 반면, 폭력, 성, 비어나 속어 등의 언어 등을 담고 있는 성인용 콘텐츠가 있다.
따라서, 현재의 스마트 통신 서비스에서는 성인용 콘텐츠가 아동과 청소년에게 무분별하게 노출될 수 있으며, 이에 따라, 아동과 청소년의 정신건강을 해칠 우려가 있는 것이다.
한편, 텔레비전 방송의 경우, 아동과 청소년의 시청이 불가한 프로그램의 경우, 프로그램의 방송 전에 아동과 청소년의 시청 제한을 요구하는 메시지를 표시하고, 프로그램의 방송 중에는 시청제한되는 나이를 나타내는 마크를 표시하고 있다. 그러나, 이러한 시청제한용 마크를 표시한다고 해서 아동과 청소년의 시청을 방지할 수 있는 것은 아니며, 부모나 보호자가 부재하는 중에는 아동과 청소년의 시청을 차단할 방법이 없다.
또한, 컴퓨터의 경우, 아동과 청소년이 인터넷을 통해 무분별한 콘텐츠에 접하는 것을 방지하기 위해, 미리 설정한 특정 사이트에 접속하지 못하게 하는 프로그램이 개발되어 있다. 그러나, 접속이 금지되는 금지사이트는 사용자에 의해 일일이 설정되어야 하므로, 아동과 청소년에게 유해한 사이트가 새로이 생성되면, 추가로 금지사이트로 설정해야 할 뿐만 아니라, 금지 설정이 되지 아니한 사이트의 경우에는 접속을 차단할 방법이 없다는 단점이 있다.
한국등록특허 제10-0725544호 "스마트 통신 단말기 및 그의 유해정보 차단방법" 한국등록특허 제10-2022014호 "유해 콘텐츠 탐지 장치" 한국등록특허 제10-1496632호 "안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법"
본 발명은 동영상 파일의 재생 시 또는 재생 중에 유해하다고 판단 되는 경우에 필터링 등을 처리하여 유해 동영상에 대한 원천적인 차단 기술을 제공하는 것을 목적으로 한다.
본 발명은 동영상 파일로부터 캡쳐된 전체 화면 이미지를 이용해서, 해당 영상이 유해하다고 판단되면, 필터링을 통해 해당 영상을 원천적으로 차단하는 것을 목적으로 한다.
본 발명은 캡쳐 이미지를 기반으로 유해한 영상에 대한 필터링을 처리하는 것을 목적으로 한다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 오픈 이벤트가 발생한 동영상 파일로부터 키 프레임을 추출하는 키 프레임 추출부, 상기 추출된 키 프레임을 분류기로 제공하여 유해도를 산출하는 이미지 분류부, 및 상기 산출된 유해도와 유해 임계값을 비교하고, 상기 유해도가 상기 유해 임계값 이상인 경우에 상기 동영상 파일을 유해 동영상 파일로 결정하여 상기 결정된 유해 동영상 파일을 차단하도록 처리하는 콘텐츠 차단부를 포함할 수 있다.
일실시예에 따른 상기 키 프레임 추출부는, 상기 오픈 이벤트가 발생한 동영상 파일의 재생 구간 별 가중치 및 프레임 내 가중치 중에서 적어도 하나에 기초하여, 상기 키 프레임을 추출할 수 있다.
일실시예에 따른 상기 키 프레임 추출부는, 상기 오픈 이벤트가 발생한 동영상 파일의 재생 구간 중에서 시작 부분에 배치된 일부 프레임들, 종료 부분에 배치된 또 다른 일부 프레임들, 시작 부분과 종료 부분을 제외한 나머지 부분의 프레임들에 대한 가중치를 다르게 부여하여 상기 키 프레임을 추출할 수 있다.
일실시예에 따른 상기 키 프레임 추출부는, 인접한 프레임들 중에서 프레임 내 서브 블록별로 가중치를 적용하여 상기 키 프레임을 결정할 수 있다.
일실시예에 따른 상기 키 프레임 추출부는, 상기 인접한 프레임 간의 이미지 해시값에 서브 블록 별로 가중치를 적용하여 해밍 거리(Hamming Distance)를 계산하고, 구간 별 임계값보다 큰 해밍 거리의 키 프레임을 후보 키 프레임으로 분류하며, 분류된 후보 키 프레임들 중에서 임계값이 가장 작은 후보 키 프레임을 상기 키 프레임으로 추출할 수 있다.
일실시예에 따른 상기 키 프레임 추출부는, 오픈 이벤트가 발생한 동영상 파일의 프레임들 중에서 시작 부분의 일부 프레임들과, 종료 부분에 배치된 또 다른 일부 프레임들을 제외하고, 나머지 프레임들 중에서 변화량이 기준 이상인 후보 키 프레임들을 추출하고, 상기 추출된 후보 키 프레임들 중에서, 선명도 및 밝기 중에서 적어도 하나를 이용해서 구간 별로 적어도 하나 이상의 키 프레임을 추출할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 상기 결정된 유해 동영상 파일에 대한 검사 결과 캐시 정보를 기록하여 데이터베이스를 업데이트하는 데이터베이스 관리부를 더 포함할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 키 프레임의 추출 이전에 동영상 파일에 대한 유해도를 검사하기 위한 유해도 검사 전처리부를 더 포함하고, 상기 유해도 검사 전처리부는, 파일에 오픈 이벤트가 발생하는 경우, 상기 파일이 상기 동영상 파일인지 여부를 판단하고, 상기 키 프레임 추출부는, 상기 동영상 파일인 경우에 상기 키 프레임을 추출하는 것을 특징으로 할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 키 프레임의 추출 이전에 동영상 파일에 대한 유해도를 검사하기 위한 유해도 검사 전처리부를 더 포함하고, 상기 유해도 검사 전처리부는, 파일에 오픈 이벤트가 발생한 상기 동영상 파일이 동영상 플레이어를 통해 실행되는지 여부를 판단하고, 상기 키 프레임 추출부는, 상기 동영상 플레이어를 통해 실행되는 경우에 상기 키 프레임을 추출할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 키 프레임의 추출 이전에 동영상 파일에 대한 유해도를 검사하기 위한 유해도 검사 전처리부를 더 포함하고, 상기 유해도 검사 전처리부는, 상기 오픈 이벤트가 발생한 동영상 파일에 대한 검사 결과 캐시가 데이터베이스에 기록되어 있는지 여부를 판단하고, 상기 키 프레임 추출부는, 상기 검사 결과 캐시가 데이터베이스에 기록되어 있지 않은 경우에 상기 키 프레임을 추출할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 키 프레임의 추출 이전에 동영상 파일에 대한 유해도를 검사하기 위한 유해도 검사 전처리부를 더 포함하고, 상기 유해도 검사 전처리부는, 상기 오픈 이벤트가 발생한 동영상 파일에 대한 파일 해시를 검사하고, 상기 키 프레임 추출부는, 상기 파일 해시의 검사 결과, 상기 파일 해시가 유해하지 않은 경우에 상기 키 프레임을 추출할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 동영상 파일에 대한 리드 이벤트가 발생하면, 버퍼링 시간 동안 동영상 파일에 대한 리드 오프셋 정보를 수집하는 오프셋 수집부, 상기 수집된 리드 오프셋 정보와 상기 동영상 파일에 대한 버퍼링 속도를 고려하여 섬네일 이미지의 추출 개수를 계산하고, 상기 계산된 추출 개수를 고려하여, 상기 동영상 파일에 대한 적어도 하나 이상의 섬네일 이미지를 추출하는 섬네일 이미지 추출부, 상기 추출된 적어도 하나 이상의 섬네일 이미지를 분류기로 제공하여 유해도를 산출하는 이미지 분류부, 및 상기 산출된 유해도와 유해 임계값을 비교하고, 상기 유해도가 상기 유해 임계값 이상인 경우에 상기 동영상 파일을 유해 동영상 파일로 결정하여 상기 결정된 유해 동영상 파일을 차단하도록 처리하는 콘텐츠 차단부를 포함할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 상기 결정된 유해 동영상 파일에 대한 검사 결과 캐시 정보를 데이터베이스에 업데이트하는 데이터베이스 관리부를 더 포함할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 버퍼링 과정에서 파일 오프셋을 확인하는 경우, 동영상 파일의 재생 시각 이후, 버퍼링 시각에서 유해도에 대한 검사를 시작할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 버퍼링 시간 동안 동영상 파일에 대한 리드 오프셋 정보를 제공하지 않는 시스템에서 동영상 파일에 대한 오픈 이벤트가 발생하면, 동영상 플레이어의 실행 여부를 확인하는 유해도 검사 전처리부, 상기 동영상 플레이어가 실행되는 경우, 상기 동영상 플레이어를 통해 출력되는 전체 화면을 캡쳐하는 이미지 생성부, 상기 생성된 이미지를 분류기로 제공하여 유해도 산출을 위한 이미지 분류를 요청하고, 상기 산출된 유해도를 포함하는 이미지 분류 결과를 수집하는 이미지 분류부, 및 상기 수집된 이미지 분류 결과를 고려하여 상기 동영상 파일에 대한 차단 여부를 결정하는 콘텐츠 차단부를 포함할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치는 동영상 파일에 대한 오픈 이벤트가 발생하면, 캡쳐 주기 타이머가 구동되는 동안에 상기 동영상 파일에 대한 차단 여부를 결정하는 과정을 반복하도록 상기 캡쳐 주기 타이머를 구동할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 방법은 파일에 오픈 이벤트가 발생하는 경우, 상기 파일이 상기 동영상 파일인지 여부를 판단하는 단계, 상기 파일이 상기 동영상 파일인 경우, 오픈 이벤트가 발생한 상기 동영상 파일이 동영상 플레이어를 통해 실행되는지 여부를 판단하는 단계, 상기 동영상 파일이 상기 동영상 플레이어를 통해 실행되는 경우, 상기 동영상 파일에 대한 검사 결과 캐시가 데이터베이스에 기록되어 있는지 여부를 판단하는 단계, 상기 동영상 파일의 검사 결과 캐시가 데이터베이스에 기록되어 있지 않은 경우, 상기 동영상 파일에 대해 파일 해시 검사를 수행하는 단계, 상기 동영상 파일에 대한 파일 해시가 유해하지 않은 경우, 상기 동영상 파일에 대한 키 프레임을 추출하는 단계, 상기 추출된 키 프레임을 분류기로 제공하여 유해도를 산출하는 단계, 상기 산출된 유해도와 유해 임계값을 비교하는 단계, 및 상기 유해도가 상기 유해 임계값 이상인 경우에 상기 동영상 파일을 유해 동영상 파일로 결정하여 상기 결정된 유해 동영상 파일을 차단하도록 처리하는 단계를 포함할 수 있다.
일실시예에 따른 상기 키 프레임을 추출하는 단계는, 오픈 이벤트가 발생한 동영상 파일의 프레임들 중에서 시작 부분의 일부 프레임들과, 종료 부분에 배치된 또 다른 일부 프레임들을 제외하고, 나머지 프레임들 중에서 변화량이 기준 이상인 후보 키 프레임들을 추출하는 단계, 및 상기 추출된 후보 키 프레임들 중에서, 선명도 및 밝기 중에서 적어도 하나를 이용해서 구간 별로 적어도 하나 이상의 키 프레임을 추출하는 단계를 포함할 수 있다.
일실시예에 따르면, 동영상 파일의 재생 시 또는 재생 중에 유해하다고 판단 되는 경우에 필터링 등을 처리하여 유해 동영상에 대한 원천적인 차단 기술을 제공할 수 있다.
일실시예에 따르면, 동영상 파일로부터 캡쳐된 전체 화면 이미지를 이용해서, 해당 영상이 유해하다고 판단되면, 필터링을 통해 해당 영상을 원천적으로 차단할 수 있다.
일실시예에 따르면, 캡쳐 이미지를 기반으로 유해한 영상에 대한 필터링을 처리할 수 있다.
도 1은 일실시예에 따른 유해 동영상 파일 필터링 장치를 설명하는 도면이다.
도 2는 유해 이미지 분류 모델의 구조를 설명하는 도면이다.
도 3은 파일 해시를 추출하여 유해 여부를 판단하는 실시예를 설명하는 도면이다.
도 4는 일실시예에 따른 검사 결과 캐시를 나타내는 도면이다.
도 5는 키 프레임을 추출하는 방법을 설명하는 도면이다.
도 6은 키 프레임을 추출하는 구체적인 실시예를 설명하는 도면이다.
도 7은 일실시예에 따른 유해 동영상 파일 필터링 방법을 설명하는 도면이다.
도 8은 재생 구간 별 가중치 또는 프레임 내 영역별 가중치를 설명하는 도면이다.
도 9는 프레임 내 영역별 가중치를 적용하여 실제 키 프레임을 추출하는 실시예를 설명하는 도면이다.
도 10은 일실시예에 따른 키 프레임 추출 방법에 대해서 설명하는 도면이다.
도 11은 다른 일실시예에 따른 유해 동영상 파일 필터링 장치를 설명하는 도면이다.
도 12는 동영상 파일에 대한 오픈 이벤트와 리드 이벤트가 발생하는 경우에 대해 이미지 분류를 처리하는 실시예를 설명하는 도면이다.
도 13은 유해한 이미지로 분류한 경우의 동작을 설명하는 실시예이다.
도 14a 내지 도 14c는 리드 오프셋 정보를 수집하여 재생 시각 및 버퍼링 시각을 결정하는 실시예를 설명하는 도면이다.
도 15는 또 다른 일실시예에 따른 유해 동영상 파일 필터링 장치를 설명하는 도면이다.
도 16은 분류기를 활용하여 이미지에 대한 유해 여부를 판단하는 이미지 분류 과정을 설명하는 도면이다.
본 명세서에 개시되어 있는 본 발명의 개념에 따른 실시예들에 대해서 특정한 구조적 또는 기능적 설명들은 단지 본 발명의 개념에 따른 실시예들을 설명하기 위한 목적으로 예시된 것으로서, 본 발명의 개념에 따른 실시예들은 다양한 형태로 실시될 수 있으며 본 명세서에 설명된 실시예들에 한정되지 않는다.
본 발명의 개념에 따른 실시예들은 다양한 변경들을 가할 수 있고 여러 가지 형태들을 가질 수 있으므로 실시예들을 도면에 예시하고 본 명세서에 상세하게 설명하고자 한다. 그러나, 이는 본 발명의 개념에 따른 실시예들을 특정한 개시형태들에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 변경, 균등물, 또는 대체물을 포함한다.
제1 또는 제2 등의 용어를 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만, 예를 들어 본 발명의 개념에 따른 권리 범위로부터 이탈되지 않은 채, 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소는 제1 구성요소로도 명명될 수 있다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다. 구성요소들 간의 관계를 설명하는 표현들, 예를 들어 "~사이에"와 "바로~사이에" 또는 "~에 직접 이웃하는" 등도 마찬가지로 해석되어야 한다.
본 명세서에서 사용한 용어는 단지 특정한 실시예들을 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 설시된 특징, 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함으로 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가진다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥상 가지는 의미와 일치하는 의미를 갖는 것으로 해석되어야 하며, 본 명세서에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나, 특허출원의 범위가 이러한 실시예들에 의해 제한되거나 한정되는 것은 아니다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.
도 1은 일실시예에 따른 유해 동영상 파일 필터링 장치(100)를 설명하는 도면이다.
일실시예에 따른 유해 동영상 파일 필터링 장치(100)를 이용하면, 동영상 파일의 재생 시 또는 재생 중에 유해하다고 판단 되는 경우에 필터링 등을 처리하여 유해 동영상에 대한 원천적인 차단 기술을 제공할 수 있다.
이를 위해, 유해 동영상 파일 필터링 장치(100)는 파일 시스템 감시부(110), 유해도 검사 전처리부(120), 키 프레임 추출부(130), 이미지 분류부(140), 콘텐츠 차단부(150), 및 데이터베이스 관리부(160)를 포함할 수 있다.
파일 시스템 감시부(110)는 동영상 파일에 대한 생성(create), 재생(open), 종료(close) 이벤트를 커널 레벨에서 감시할 수 있다.
유해도 검사 전처리부(120)는 동영상 파일에 대한 유해도를 산출하는데 앞서 유해도를 산출할 필요가 있는지 여부를 확인할 수 있다.
예를 들어, 유해도 검사 전처리부(120)는 파일에 오픈 이벤트가 발생하는 경우, 상기 파일이 동영상 파일인지 여부를 판단하고, 동영상 파일인 경우에 대해서 유해도를 판별하기 위한 일련의 과정을 수행할 수 있다.
또 다른 예로, 유해도 검사 전처리부(120)는 파일에 오픈 이벤트가 발생한 동영상 파일이 실제로 동영상 플레이어를 통해 실행되는지 여부를 판단할 수 있다. 만약, 오픈 이벤트 이후 동영상 플레이어를 통해 재생되는 경우에만 유해도를 판별하기 위한 일련의 과정을 수행할 수 있다.
또 다른 예로, 유해도 검사 전처리부(120)는 오픈 이벤트가 발생한 동영상 파일에 대한 검사 결과 캐시가 데이터베이스에 기록되어 있는지 여부를 판단할 수 있다. 만약, 검사 결과 캐시가 데이터베이스에 기록되어 있다면 해당 동영상 파일은 유해 동영상으로 바로 분류될 수 있다. 또한, 검사 결과 캐시가 데이터베이스에 기록되어 있지 않다면 해당 동영상 파일은 유해 동영상인지 여부를 확인해야 한다. 이 경우, 유해 동영상 파일 필터링 장치(100)는 유해도를 판별하기 위한 일련의 과정을 수행할 수 있다.
또 다른 예로, 유해도 검사 전처리부(120)는 오픈 이벤트가 발생한 동영상 파일에 대한 파일 해시를 검사할 수 있다. 파일 해시의 검사 결과, 파일 해시가 유해한 경우에는 동영상 파일을 유해 동영상으로 바로 분류할 수 있다. 한편, 파일 해시가 유해하지 않은 경우에는 유해 동영상인지 여부를 확인해야 한다. 이 경우, 유해 동영상 파일 필터링 장치(100)는 유해도를 판별하기 위한 일련의 과정을 수행할 수 있다.
유해 동영상 파일 필터링 장치(100)는 유해도를 판별하기 위한 일련의 과정을 수행하기 위해, 키 프레임 추출부(130)는 오픈 이벤트가 발생한 동영상 파일에 대해, 동영상 파일을 구성하는 프레임들로부터 키 프레임을 추출할 수 있다.
특히, 키 프레임 추출부(130)는 오픈 이벤트가 발생한 동영상 파일의 프레임들 중에서 시작 부분의 일부 프레임들과, 종료 부분에 배치된 또 다른 일부 프레임들을 제외할 수 있다.
일반적으로 동영상의 시작 부분과 끝 부분에는 콘텐츠와 관련이 크지 않은 내용이 등장할 가능성이 높다. 예를 들어, 동영상 파일의 초반에는 빈 화면, 광고, 배급사 화면 등이 배치될 수 있고, 동영상 파일의 마지막 부분에는 빈화면, 출연진 정보 등이 배치될 수 있다. 따라서, 실질적인 내용에 해당하는 부분이 등장할 가능성이 높은 시작 부분과 끝 부분을 제외한 나머지 부분들에서 키 프레임을 추출할 수 있다.
시작 부분과 끝 부분은 대략 10분 내외의 분량으로 구분할 수 있지만, 다양하게 조절될 수 있다.
키 프레임 추출부(130)는 시작 부분과 끝 부분을 제외한 나머지 프레임들 중에서 변화량이 기준 이상인 후보 키 프레임들을 추출할 수 있다. 변화량이 기준 이상인 프레임은 새로운 장면이 시작되는 부분일 가능성이 높다. 따라서, 해당 장면이 시작되는 프레임을 후보 키 프레임으로 추출할 수 있다.
또한, 키 프레임 추출부(130)는 추출된 후보 키 프레임들 중에서, 선명도 및 밝기 중에서 적어도 하나를 이용해서 구간 별로 적어도 하나 이상의 키 프레임을 추출할 수 있다.
일실시예에 따르면, 키 프레임 추출부(130)는 시작 부분과 끝 부분을 제외한 나머지 프레임들 중에서 변화량이 기준 이상인 프레임을 키 프레임으로 추출할 수도 있다.
일례로, 키 프레임 추출부(130)는 오픈 이벤트가 발생한 동영상 파일의 재생 구간 중에서 시작 부분에 배치된 일부 프레임들, 종료 부분에 배치된 또 다른 일부 프레임들, 시작 부분과 종료 부분을 제외한 나머지 부분의 프레임들에 대한 가중치를 다르게 부여하여 키 프레임을 추출할 수 있다.
또한, 키 프레임 추출부(130)는 인접한 프레임들 중에서 프레임 내 서브 블록별로 가중치를 적용하여 키 프레임을 결정할 수도 있다.
또한, 키 프레임 추출부(130)는 인접한 프레임 간의 이미지 해시값에 서브 블록 별로 가중치를 적용하여 해밍 거리(Hamming Distance)를 계산하고, 구간 별 임계값보다 큰 해밍 거리의 키 프레임을 후보 키 프레임으로 분류하며, 분류된 후보 키 프레임들 중에서 임계값이 가장 작은 후보 키 프레임을 상기 키 프레임으로 추출할 수 있다.
일실시예에 따르면 유해도 검사 전처리부(110)의 검사 결과, 파일이 동영상 파일인지 여부를 판단하고 동영상 파일인 경우에 키 프레임 추출부(130)는 키 프레임을 추출하는 과정을 시작할 수 있다.
일실시예에 따르면 유해도 검사 전처리부(110)의 검사 결과, 동영상 파일이 동영상 플레이어를 통해 실행되는지 여부를 판단하고, 동영상 플레이어를 통해 실행되는 경우에 키 프레임 추출부(130)는 키 프레임을 추출하는 과정을 시작할 수 있다.
일실시예에 따르면 유해도 검사 전처리부(110)의 검사 결과, 오픈 이벤트가 발생한 동영상 파일에 대한 검사 결과 캐시가 데이터베이스에 기록되어 있는지 여부를 판단하고, 기록된 경우에 키 프레임 추출부(130)는 키 프레임을 추출하는 과정을 시작할 수 있다.
일실시예에 따르면 유해도 검사 전처리부(110)의 검사 결과, 오픈 이벤트가 발생한 동영상 파일에 대한 파일 해시를 판단하고, 파일 해시의 검사 결과, 파일 해시가 유해하지 않은 경우에 키 프레임을 추출하는 과정을 시작할 수 있다.
이미지 분류부(140)는 추출된 키 프레임을 분류기로 제공하여 유해도를 산출할 수 있다.
분류기는 이미지나 텍스트 등을 수집하여 유해한 영상인지 여부를 판단할 수 있다. 이러한 판단은 CNN(Convolutional Neural Network), RNN(Recurrent Neural Networks), 또는 DNN(Deep Neural Network) 등의 딥러닝을 통해서 구현이 가능하며, 유해 여부를 판단할 수 있는 기존에 다양한 연구 결과나 소프트웨어, 모듈 등을 활용할 수 있다.
분류기는 딥러닝을 기반으로, 서브 이미지(메타 태그 섬네일 이미지 등)에 대한 로컬화 이미지 분류(Image classification with localization), 객체 탐지(Object detection), 객체 분할(Object segmentation), 이미지 스타일 전이(Image style transfer), 이미지 색상화(Image colorization), 이미지 재구성(Image reconstruction), 이미지 슈퍼레졸루션(Image super-resolution), 이미지 합성(Image synthesis) 등을 수행하고, 이를 기반으로 유해 정도를 판단할 수 있다.
콘텐츠 차단부(150)는 산출된 유해도와 유해 임계값을 비교하고, 유해도가 유해 임계값 이상인 경우에 동영상 파일을 유해 동영상 파일로 결정하여 결정된 유해 동영상 파일을 차단하도록 처리할 수 있다.
데이터베이스 관리부(160)는 결정된 유해 동영상 파일에 대한 검사 결과 캐시 정보를 기록하여 데이터베이스를 업데이트할 수 있다.
도 2는 유해 이미지 분류 모델의 구조(200)를 설명하는 도면이다.
최신 CNN 알고리즘은 높은 이미지 인식 정확도를 얻기 위해 깊은 계층의 모델을 선호한다. 유해 이미지 카테고리 별로 수집한 대량의 데이터 셋으로 깊은 계층을 갖는 CNN 모델을 학습시켜 유해 이미지 분류 모델을 생성한다.
유해 이미지 분류 모델은 특징 추출부(210)와 분류부(220)로 구성된다. 특징 추출부(210)는 필터의 개수를 늘리면서 컨볼루션 계층을 반복적으로 수행함으로써 입력 이미지로부터 추상화된 주요 패턴 정보를 가진 특징을 추출한다. 깊은 계층을 갖는 유해 이미지 분류 모델은 경사 소실(gradient vanishing) 문제를 해결하기 위해 계층을 건너 뛰어 연산하는 방법을 사용한다. 분류부(220)는 특징 추출부(210)에서 추출한 특징 정보를 바탕으로 선정성, 폭력성, 공포성과 같은 카테고리 별 이미지 분류 결과를 출력한다.
도 3은 파일 해시를 추출하여 유해 여부를 판단하는 실시예를 설명하는 도면이다.
도 3에서 보는 바와 같이, 유해도 검사 전처리부(310)는 동영상 파일의 일부 또는 전체에서 추출한 해시 값 이용할 수 있다. 또한, 유해도 검사 전처리부(310)는 수집한 유해 동영상 파일에서 해시값을 추출하여 데이터베이스(320)에 저장할 수 있다.
또한, 유해도 검사 전처리부(330)는 추출한 파일 해시를 로컬 또는 원격의 서버(340)에 전송하는 방식으로 질의해 해당 동영상 파일에 대한 유해 여부를 판별할 수 있다.
도 4는 일실시예에 따른 검사 결과 캐시(400)를 나타내는 도면이다.
검사 결과 캐시(400)는 파일 해시값, 유해 여부, 검사 시작 필드를 포함할 수 있다.
예를 들어, 파일 해시값 '9122082c4d8c37a28bafd03b661e5d81101a4305a3302d9df4e28c8029db207e'에 해당하는 검사 결과 캐시는 유해 여부가 'N'으로서 유해하지 않은 캐시에 해당하고, 이는 2019년12월30일의 10시11분에 검사된 것으로 확인할 수 있다. 이후, 동영상 파일에 동일한 파일 해시값을 갖는 검사 결과 캐시가 발견되면 해당 동영상 파일은 유해하지 않은 동영상으로 판단될 수 있다. 또한, 검사 결과 캐시의 판단 결과에 상관 없이 키 프레임을 추출하고 추출된 키 프레임에 대한 유해 여부를 판단하는 과정은 다시 수행될 수 있다.
한편, 파일 해시값 '2f11e139cb0d417307b0f6e6421090dba04d0e9083d37ade2649b07cd6c68e76'에 해당하는 검사 결과 캐시는 유해 여부가 'Y'으로서 유해한 캐시에 해당한다. 이 검사 결과 캐시가 발견된 동영상 파일은 키 프레임의 추출과 관계없이 유해한 것으로 판단되어 차단될 수 있다.
도 5는 키 프레임을 추출하는 방법을 설명하는 도면이다.
도 5를 살펴보면, 유해 동영상 파일 필터링 장치의 키 프레임 추출부는 맨 앞과 뒤 구간을 제외한 전체 구간 중 프레임 간 변화량이 큰 프레임을 후보 키 프레임으로 추출할 수 있다(단계 510). 또한, 추출된 후보 키 프레임들 중에서 선명도 또는 밝기가 기준 이상인 후보 키 프레임들에 대해 구간 별 키 프레임으로 추출할 수 있다(단계 520).
도 6은 키 프레임을 추출하는 구체적인 실시예(600)를 설명하는 도면이다.
실시예(600)에서 보는 바와 같이, t0 내지 tn의 길이에 해당하는 동영상 파일에 대해 t0에 해당하는 시작 부분과, tn에 해당하는 종료 부분을 제외하고 나머지 부분에 대해서만 키 프레임의 추출을 위한 유효 구간으로 결정할 수 있다.
이에, 실시예(600)에서는 프레임 간 변화량이 큰 프레임을 후보 키 프레임으로 추출하고, 추출된 후보 키 프레임 중에서 가장 선명하고, 적정 밝기의 프레임을 키 프레임으로 추출할 수 있다.
도 7은 일실시예에 따른 유해 동영상 파일 필터링 방법을 설명하는 도면이다.
일실시예에 따른 유해 동영상 파일 필터링 방법은 파일에 오픈 이벤트가 발생하는 경우, 파일이 동영상 파일인지 여부를 판단할 수 있다(단계 701).
단계 701의 판단 결과, 동영상 파일이 아니라면 유해 동영상 파일인지 여부를 판단할 필요가 없으므로 프로세스를 종료할 수 있다.
한편, 단계 701의 판단 결과 파일이 상기 동영상 파일인 경우, 오픈 이벤트가 발생한 동영상 파일이 동영상 플레이어를 통해 실행되는지 여부를 판단할 수 있다(단계 702).
동영상 플레이어를 통해 실행되지 않는다면, 화면을 통해 보여지지 않는 것이므로 유해 동영상 파일인지 여부를 판단할 필요가 없다. 이 경우에도 프로세스를 종료할 수 있다.
단계 702의 판단 결과 동영상 파일이 동영상 플레이어를 통해 실행되는 경우, 동영상 파일에 대한 검사 결과 캐시가 데이터베이스에 기록되어 있는지 여부를 판단할 수 있다(단계 703).
만약, 단계 703의 판단 결과 검사 결과 캐시가 데이터베이스에 기록돼 있다면, 단계 707로 분기하여 해당 동영상 파일에 대한 유해도가 유해 임계값 이상인지 여부를 판단할 수 있다.
만약, 단계 703의 판단 결과 동영상 파일의 검사 결과 캐시가 데이터베이스에 기록되어 있지 않은 경우, 동영상 파일에 대해 파일 해시 검사를 수행하여, 파일 해시가 유해한지 여부를 판단할 수 있다(단계 704).
단계 704의 판단 결과, 파일 해시가 유해하다면 단계 707로 분기하여 해당 동영상 파일에 대한 유해도가 유해 임계값 이상인지 여부를 판단할 수 있다.
단계 704의 판단 결과, 동영상 파일에 대한 파일 해시가 유해하지 않은 경우, 동영상 파일에 대한 키 프레임을 추출할 수 있다(단계 705).
키 프레임을 추출하기 위해, 오픈 이벤트가 발생한 동영상 파일의 프레임들 중에서 시작 부분의 일부 프레임들과, 종료 부분에 배치된 또 다른 일부 프레임들을 제외하고, 나머지 프레임들 중에서 변화량이 기준 이상인 후보 키 프레임들을 추출할 수 있다.
또한, 유해 동영상 파일 필터링 방법은 추출된 후보 키 프레임들 중에서, 선명도 및 밝기 중에서 적어도 하나를 이용해서 구간 별로 적어도 하나 이상의 키 프레임을 추출할 수 있다.
이후, 유해 동영상 파일 필터링 방법은 추출된 키 프레임을 분류기로 제공하여 유해도를 산출하는 이미지 분류 과정을 수행할 수 있다(706).
다음으로, 유해 동영상 파일 필터링 방법은 산출된 유해도와 유해 임계값을 비교하고(단계 707), 유해도가 유해 임계값 이상인 경우에 동영상 파일을 유해 동영상 파일로 결정하여 결정된 유해 동영상 파일을 차단하도록 처리할 수 있다(단계 708). 또한, 유해 동영상 파일로 결정하고 해당 동영상 파일을 차단한 경우 이를 캐시에 반영하여 캐시 정보를 업데이트할 수 있다(단계 710).
만약, 단계 707의 판단 결과, 유해도가 유해 임계값 이하인 경우에 동영상 파일을 유해 동영상 파일로 결정하지 않고 바이패스하여(단계 709), 캐시 정보를 업데이트 하는 과정을 처리할 수 있다(단계 710).
도 8은 재생 구간 별 가중치 또는 프레임 내 영역별 가중치를 설명하는 도면이다.
먼저, 도면부호 810에서 보는 바와 같이, 동영상 파일의 재생구간 별로 서로 다른 가중치가 부여될 수 있다.
영상의 주제에 가까운 키 프레임은 재생 구간의 시작과 끝보다는 중앙에 분포되어 있을 가능성이 높다.
예를 들어, 동영상 파일의 재생구간을 0~7까지의 구간으로 구분한다면, 시작부분에 해당하는 0구간과, 종료부분에 해당하는 7구간에는 영상의 주제와는 큰 관련이 없는 프레임들이 분포가 되어있을 가능성이 높다. 따라서, 0구간과 7구간에서는 가중치를 0으로 부여하여 사실상 키 프레임의 후보에서 제외시킬 수 있다.
도면부호 820는 하나의 프레임 내에서의 서브블록들에 대한 가중치를 나타낸다. 마찬가지로 한 프레임 내 관심 영역은 가장자리보다는 가운데 영역에 있을 가능성이 높다.
따라서, 본 발명에서는 재생 구간의 중앙에 가까울수록 가중치를 두어 더 많은 프레임을 추출할 수 있다.
한 프레임 내의 영역이 중앙에 가까울수록 더 많은 가중치를 두어 더 민감하게 프레임 간 변화를 감지한다.
아래의
Figure 112020113428601-pat00001
는 n구간 프레임 내 위치에 따른 가중치를 나타내며, 아래와 같이 3구간에서의 가중치, 2구간에서의 가중치, 1구간에서의 가중치, 0구간에서의 가중치 순서로 가중치가 설정될 수 있다.
Figure 112020113428601-pat00002
본 발명에 따르면, 인접한 프레임 간의 이미지 해시값에 서브 블록 별로 가중치를 적용하여 [수학식 1]을 통해 해밍 거리(Hamming Distance)를 계산할 수 있다.
예를 들어, 이미지 해시 방법은 Average Hash, Perceptual Hash, Difference Hash, Wavelet Hash 등이 있다.
[수학식 1]
Figure 112020113428601-pat00003
[수학식 1]에서 Ht는 t구간의 가중치 해밍 거리이고, ht(x, y)는 x와 y 간 해밍 거리이며, bt(i)는 t구간의 i번째 서브 블럭의 이미지 해시값을 나타낸다. 또한, Gi는 i번째 서브 블록의 가중치에 해당한다.
또한, 유해 동영상 파일 필터링 장치는 [수학식 2]를 이용하여 산출하는 구간 별 임계(Tt)값보다 큰 해밍 거리의 프레임을 후보 키 프레임으로 분류할 수 있다.
이때, 임계값이 작을 수록 더 많은 키 프레임 추출할 수 있다.
[수학식 2]
Figure 112020113428601-pat00004
[수학식 2]에서 Tt는 t구간의 해밍 거리 임계값을 나타내고, α는 서브 블록의 가중치의 전체 합을 나타내며, Wt는 재생 구간 t의 가중치를 나타낸다.
도 9는 프레임 내 영역별 가중치를 적용하여 실제 키 프레임을 추출하는 실시예를 설명하는 도면이다.
보다 구체적으로, 도 9는 프레임을 8 X 8의 서브 블록으로 나눈 실시예에 해당한다.
만약, P0=0, P1=1, P2=2, P3=3일 경우를 고려할 수 있다. 이때의 전체 서브 블럭 수는 64이고 α(서브 블록의 가중치의 전체 합)은 [수학식 3]에 의해 56으로 산출될 수 있다.
[수학식 3]
Figure 112020113428601-pat00005
전체 재생 시간을 8개의 구간으로 나눈 경우의 예시를 살펴보면, 아래 재생 구간 가중치(Wt)는 가운데 부분을 낮게 설정하여 처음과 끝 부분보다 후보 키 프레임을 상대적으로 많이 추출할 수 있다.
[수학식 4]
Figure 112020113428601-pat00006
[수학식 4]에 의해서, 동영상 파일에 대해, 재생구간, 재생구간의 가중치, 해밍거리 임계값을 [표 1]와 같이 산출할 수 있다.
[표 1]
Figure 112020113428601-pat00007
후보 키 프레임에는 단색의 이미지나 배경 풍경과 같은 관심 객체가 없는 이미지가 포함될 수 있다.
이러한 경우에는, 추출된 후보 키 프레임에서 그러한 프레임을 제거하기 위해 에지(edge)를 검출할 수 있다. 에지는 경계선, 윤곽선을 의미하며, 에지 검출은 밝기 정보를 바탕으로 영상 안에 있는 객체의 경계를 탐지할 수 있다.
에지 검출기로는 Canny, Sobel, Prewitt, Roberts, Compass, Laplacian 등을 사용할 수 있다.
결국, 일실시예에 따른 유해 동영상 파일 필터링 장치는 검출된 에지의 양이 임계값보다 클 경우 최종 키 프레임으로 분류할 수 있다.
도 10은 일실시예에 따른 키 프레임 추출 방법에 대해서 설명하는 도면이다.
일실시예에 따른 유해 동영상 파일 필터링 방법은 키 프레임을 추출하기 위해, 인접한 프레임들 간의 이미지 해시를 계산할 수 있다(단계 1001).
다음으로, 유해 동영상 파일 필터링 방법은 계산한 이미지 해시 간 해밍 거리(Ht)를 계산할 수 있다(단계 1002).
또한, 유해 동영상 파일 필터링 방법은 계산한 해밍 거리(Ht)와 구간 별 임계값(Tt)을 비교하여, 해밍 거리(Ht)가 구간 별 임계값(Tt) 이상인지 여부를 판단할 수 있다(단계 1003).
판단 결과, 해밍 거리(Ht)가 구간 별 임계값(Tt) 이상이라면, 후보 키 프레임 추출할 수 있다(단계 1004).
만약, 단계 1003의 판단 결과, 해밍 거리(Ht)가 구간 별 임계값(Tt) 이하라면, 후보 키 프레임 추출하지 않고 프로세스를 종료한다.
다음으로, 유해 동영상 파일 필터링 방법은 추출된 후보 키 프레임으로부터 엣지를 검출할 수 있다(단계 1005).
또한, 유해 동영상 파일 필터링 방법은 검출한 엣지의 양과 엣지 임계값(Te)을 비교하고(단계 1006), 엣지의 양이 엣지 임계값(Te) 이상인 경우에 최종 키 프레임을 추출할 수 있다(단계 1007).
만약, 단계 1006의 비교 결과, 엣지의 양이 엣지 임계값(Te) 이하라면, 프로세스를 종료할 수 있다.
도 11은 다른 일실시예에 따른 유해 동영상 파일 필터링 장치(1100)를 설명하는 도면이다.
도 11은 윈도우와 같이 리드 오프셋 정보를 얻을 수 있는 시스템에서의 필터링 과정을 권리화한다.
이를 위해, 일실시예에 따른 유해 동영상 파일 필터링 장치(1100)는 오프셋 수집부(1110), 썸네일 이미지 추출부(1120), 이미지 분류부(1130), 콘텐츠 차단부(1140), 및 데이터베이스 관리부(1150)를 포함할 수 있다.
일실시예에 따른 유해 동영상 파일 필터링 장치(1100)는 커널단에서 파일 재생 중 유해 동영상 파일을 필터링 하기 위해 동영상 파일에 대한 리드 이벤트를 감지할 수 있다.
이에, 오프셋 수집부(1110)는 동영상 파일에 대한 리드 이벤트가 발생하면, 버퍼링 시간 동안 동영상 파일에 대한 리드 오프셋 정보를 수집할 수 있다.
섬네일 이미지 추출부(1120)는 수집된 리드 오프셋 정보와 상기 동영상 파일에 대한 버퍼링 속도를 고려하여 섬네일 이미지의 추출 개수를 계산할 수 있다. 또한, 계산된 추출 개수를 고려하여, 동영상 파일에 대한 적어도 하나 이상의 섬네일 이미지를 추출할 수 있다.
다음으로, 이미지 분류부(1130)는 추출된 적어도 하나 이상의 섬네일 이미지를 분류기로 제공하여 유해도를 산출할 수 있다.
콘텐츠 차단부(1140)는 산출된 유해도와 유해 임계값을 비교하고, 유해도가 유해 임계값 이상인 경우에 동영상 파일을 유해 동영상 파일로 결정할 수 있다. 또한, 콘텐츠 차단부(1140)는 결정된 유해 동영상 파일을 차단하도록 처리할 수 있다.
데이터베이스 관리부(1150)는 결정된 유해 동영상 파일에 대한 검사 결과 캐시 정보를 데이터베이스에 업데이트할 수 있다.
도 12는 동영상 파일에 대한 오픈 이벤트와 리드 이벤트가 발생하는 경우에 대해 이미지 분류를 처리하는 실시예를 설명하는 도면이다.
커널단에 위치하는 파일 시스템 이벤트 감시부(1210)는 동영상 파일에 대한 오픈 이벤트를 감지할 수 있다. 이에, 유해 동영상 파일 필터링 장치(1220)는 전체 키 프레임을 검사할 수 있다.
이 과정에서 동영상 파일에 대한 유해 여부가 결정될 수 있고, 유해하다고 판단되지 않는 경우, 동영상 파일의 재생 중 유해도를 판단할 수 있다.
이를 위해, 파일 시스템 이벤트 감시부(1210)는 동영상 파일에 대한 리드 이벤트를 감지할 수 있다. 이에, 유해 동영상 파일 필터링 장치(1220)는 버퍼링 속도에 따른 섬네일 추출 개수를 계산하고, 파일 오프셋 정보로부터 섬네일을 N장 추출할 수 있다.
또한, 유해 동영상 파일 필터링 장치(1220)는 추출된 N장의 섬네일을 분류기(1230)로 제공하여 이미지 분류를 요청하고, 분류 요청에 따른 결과로서 이미지에 대한 유해도를 회신할 수 있다.
도 12의 실시예에서는 이미지에 대한 유해도가 유해 임계값 이상인 경우라면, 해당 동영상 파일을 유해 동영상으로 결정할 수 있다.
도 13에서는 이미지에 대한 유해도가 유해 임계값 이상인 경우라도, 다른 키 프레임들을 다양한 방법으로 추가로 확인한 후 유해 동영상 여부를 결정할 수 있다.
도 13은 유해한 이미지로 분류한 경우의 동작을 설명하는 실시예이다.
커널단에 위치하는 파일 시스템 이벤트 감시부(1310)는 동영상 파일에 대한 리드 이벤트를 감지할 수 있다. 이에, 유해 동영상 파일 필터링 장치(1320)는 파일 오프셋 정보로부터 섬네일을 N장 추출할 수 있다.
또한, 유해 동영상 파일 필터링 장치(1320)는 추출된 N장의 섬네일을 분류기(1330)로 제공하여 이미지 분류를 요청하고, 분류 요청에 따른 결과로서 이미지에 대한 유해도를 회신할 수 있다.
만약, 회신된 유해도가 유해 임계값 이상인 경우라면, 유해 동영상 파일 필터링 장치(1320)는 해당 동영상 파일을 유해 동영상으로 바로 결정하지 않고, 도면부호 1340에서 보는 바와 같이 파일 오프셋으로부터 추출된 섬네일에 더해 키 프레임을 더 추출하고, 추출된 키 프레임까지 분류기(1330)를 통해 유해도를 다시 산출할 수 있다.
이 과정에서 산출된 유해도가 유해 임계값 이상이라면, 해당 동영상 파일을 유해 동영상으로 결정할 수도 있고, 추가적인 키 프레임을 더 추출하여 유해도를 또 다시 산출할 수도 있다.
동영상 파일이 유해하다고 판단되는 경우, 유해 동영상 파일 필터링 장치(1320)는 해당 동영상 파일에 대한 캐시 정보를 업데이트 하고, 동영상 파일을 차단할 수 있다.
도 14a 내지 도 14c는 리드 오프셋 정보를 수집하여 재생 시각 및 버퍼링 시각을 결정하는 실시예를 설명하는 도면이다.
도 14a를 살펴보면, 리드 오프셋 정보는 동영상 파일의 재생을 위한 하드웨어 사양으로서, CPU 정보, RAM 정보, OS 정보를 포함할 수 있다. 또한, 동영상 파일을 재생하는 프로그램에 대한 정보도 함께 포함할 수 있다.
또한, 리드 오프셋 정보는 동영상 파일을 구성하는 각 프레임에 대한 프레임 사이즈, 전체 재생 시간, 파일 사이즈를 더 포함할 수 있다.
도 14b를 살펴보면, 재생 시각, 오프셋, 버퍼링 시각을 서로 연관지어 기록한 테이블(1420)을 도시한다.
도 14c는 도 14b의 테이블(1420)에 따라 재생 시각과 오프셋을 나타내는 도면이다.
예를 들어, 재생시각 4초에 해당하는 오프셋은 '13,107,200 bytes'로서 버퍼링 후 검사를 위해서는 118초가 필요함을 알 수 있다.
또한, 재생시각 10초에 해당하는 오프셋은 '13,762,560 bytes'로서 버퍼링 시각은 124초가 필요하며, 재생 시각 이후 버퍼링 시각이 경과한 뒤에 검사가 시작됨을 알 수 있다.
도 15는 또 다른 일실시예에 따른 유해 동영상 파일 필터링 장치를 설명하는 도면이다.
일실시예에 따른 유해 동영상 파일 필터링 장치(1500)를 이용하면, 동영상 파일로부터 캡쳐된 전체 화면 이미지를 이용해서, 해당 영상이 유해하다고 판단되면, 필터링을 통해 해당 영상을 원천적으로 차단할 수 있다.
이를 위해, 일실시예에 따른 유해 동영상 파일 필터링 장치(1500)는 유해도 검사 전처리부(1510), 이미지 생성부(1520), 이미지 분류부(1530), 및 콘텐츠 차단부(1540)를 포함할 수 있다.
먼저, 유해도 검사 전처리부(1510)는 버퍼링 시간 동안 동영상 파일에 대한 리드 오프셋 정보를 제공하지 않는 시스템에서 동영상 파일에 대한 오픈 이벤트가 발생하면, 동영상 플레이어의 실행 여부를 확인할 수 있다.
다음으로, 이미지 생성부(1520)는 동영상 플레이어가 실행되는 경우, 동영상 플레이어를 통해 출력되는 전체 화면을 캡쳐하여 이미지를 생성할 수 있다.
이미지 분류부(1530)는 상기 생성된 이미지를 분류기로 제공하여 유해도 산출을 위한 이미지 분류를 요청하고, 산출된 유해도를 포함하는 이미지 분류 결과를 수집할 수 있다.
콘텐츠 차단부(1540)는 수집된 이미지 분류 결과를 고려하여 동영상 파일에 대한 차단 여부를 결정할 수 있다.
일실시예에 따르면, 유해 동영상 파일 필터링 장치(1500)는 동영상 파일에 대한 오픈 이벤트가 발생하면, 캡쳐 주기 타이머가 구동되는 동안에 상기 동영상 파일에 대한 차단 여부를 결정하는 과정을 반복하도록 상기 캡쳐 주기 타이머를 구동할 수 있다.
일실시예에 따르면, 유해 동영상 파일 필터링 장치(1500)는 전체 화면을 캡쳐한 전체 이미지에 서브 이미지를 추출할 수도 있다.
이를 위해, 유해 동영상 파일 필터링 장치(1500)는 전체 화면의 이미지 중에서 적어도 하나 이상의 서브 이미지 영역을 식별할 수 있다.
서브 이미지 영역은, 서브 이미지를 표시하기 위해서 브라우저에서 전체 화면 중에서 일부를 할당하는 영역으로서, 하나의 서브 이미지 영역에는 하나의 서브 이미지가 삽입될 수도 있고, 연관된 복수 개의 서브 이미지들이 삽입될 수도 있다.
또한, 본 명세서에서는 전체 화면에서 서브 이미지 영역이 복수 개로 분할된 예시를 통해 발명을 설명하고 있지만, 전체 화면에서 서브 이미지 영역이 하나로 할당되는 예시도 고려할 수 있다.
유해 동영상 파일 필터링 장치(1500)는 식별된 적어도 하나 이상의 서브 이미지 영역 내에 삽입된 적어도 하나 이상의 서브 이미지를 추출할 수 있다.
일실시예에 따르면, 서브 이미지 영역과 서브 이미지가 동일한 의미로 해석될 수도 있다. 이 경우, 전체 화면에서 서브 이미지 영역을 식별하고, 식별된 서브 이미지 영역에서 서브 이미지를 추출하는 과정이 구분되지 않고, 하나의 프로세스로 처리될 수도 있다. 예를 들면, 전체 화면에서 서브 이미지가 바로 추출될 수 있다.
유해 동영상 파일 필터링 장치(1500)는 추출된 적어도 하나 이상의 서브 이미지가 현재 재생 중인지 여부를 판단할 수 있다.
서브 이미지가 현재 재생 중인지 여부를 판단하기 위해, 유해 동영상 파일 필터링 장치(1500)는 동일한 서브 이미지 영역에서 일정 시간 간격으로 추출된 서브 이미지를 비교할 수 있다.
예를 들어, 동일한 서브 이미지 영역에서 1초 간격으로 서브 이미지들을 추출하고, 추출된 서브 이미지들의 유사도를 확인하여 기준 이하로 유사도가 낮은 경우 해당 서브 이미지가 재생 중이라고 판단할 수 있다.
유해 동영상 파일 필터링 장치(1500)는 추출된 적어도 하나 이상의 서브 이미지가 현재 재생 중인 경우, 기설정된 적어도 하나 이상의 차단 조건을 확인할 수 있다. 참고로, 영상을 캡쳐하는 경우 서브 이미지가 생성될 수 있다. 따라서 본 명세서의 전반에서 사용되는 재생되는 서브 이미지는 영상, 또는 동영상으로 해석될 수 있다.
또한, 유해 동영상 파일 필터링 장치(1500)는 현재 재생 중인 서브 이미지가 상기 기설정된 적어도 하나 이상의 차단 조건에 부합되는 경우, 재생 중인 서브 이미지를 차단하도록 제어할 수 있다.
예를 들어, 차단 조건은 사전에 설정되어 사용자 별로 데이터베이스에 기록될 수 있다. 구체적으로, 차단 조건은 시청 가능한 카테고리, 시청가능 시간대, 시청가능 요일, 전체 시청시간 등을 포함할 수 있다.
만약, 서브 이미지가 현재 재생 중이나, 현재가 차단 조건에 부합되는 시간대라면 유해 동영상 파일 필터링 장치(1500)는 현재 재생 중인 서브 이미지를 차단하도록 제어할 수 있다.
도 16은 분류기를 활용하여 이미지에 대한 유해 여부를 판단하는 이미지 분류 과정을 설명하는 도면이다.
도 16은 분류기를 활용하여 캡쳐 이미지의 유해 여부를 판단하는 이미지 분류 과정을 설명하는 도면이다.
설치된 앱(1610)은 분류기(1620)와 연동하여 유해 스트리밍 영상 필터링 방법을 구현할 수 있다.
앱(1610)은 전체 화면을 캡쳐하고, 캡쳐된 전체 화면에서 이미지를 추출하여 분류기(1620)에 전달하여, 유해 정도를 산출하기 위한 이미지 분류를 요청할 수 있다.
분류기(1620)는 전달된 이미지를 딥러닝으로 분석하여 유해 정도를 산출하여 앱(1610)에 회신할 수 있다.
이에, 앱(1610)은 사전에 설정된 유해 임계값과, 분류기(1620)가 산출한 유해 정도를 대비하여 해당 영상에 대한 차단 여부를 결정할 수 있다.
앱(1610)과 분류기(1620)가 처리하는 이러한 일련의 과정은 미리 설정된 시간 간격으로 반복해서 처리될 수 있다. 일실시예에서는 1초 간격으로 전체 화면을 캡쳐하고, 이미지를 분류하여 차단 여부를 결정하는 과정을 반복해서 수행할 수 있다.
또한, 이러한 반복 과정은 영상의 재생이 종료되는 시점 또는 앱(1610)의 실행이 종료되는 시점까지 반복될 수 있다.
결국, 본 발명을 이용하면, 동영상 파일의 재생 시 또는 재생 중에 유해하다고 판단 되는 경우에 필터링 등을 처리하여 유해 동영상에 대한 원천적인 차단 기술을 제공할 수 있다.
또한, 동영상 파일로부터 캡쳐된 전체 화면 이미지를 이용해서, 해당 영상이 유해하다고 판단되면, 필터링을 통해 해당 영상을 원천적으로 차단할 수 있고, 캡쳐 이미지를 기반으로 유해한 영상에 대한 필터링을 처리할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 처리되는 하나 이상의 소프트웨어 애플리케이션을 처리할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 처리될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 처리하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 처리하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상과 같이 실시예들이 비록 한정된 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 처리되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (5)

  1. 파일 재생 중 유해 동영상 파일을 필터링 하는 장치에 있어서,
    동영상 파일에 대한 리드 이벤트가 발생하면, 버퍼링 시간 동안 동영상 파일에 대한 리드 오프셋 정보를 수집하는 오프셋 수집부;
    상기 수집된 리드 오프셋 정보와 상기 동영상 파일에 대한 버퍼링 속도를 고려하여 섬네일 이미지의 추출 개수를 계산하고, 상기 계산된 추출 개수를 고려하여, 상기 동영상 파일에 대한 적어도 하나 이상의 섬네일 이미지를 추출하는 섬네일 이미지 추출부; 및
    상기 추출된 적어도 하나 이상의 섬네일 이미지를 분류기로 제공하여 유해도를 산출하는 이미지 분류부; 및
    상기 산출된 유해도와 유해 임계값을 비교하고, 상기 유해도가 상기 유해 임계값 이상인 경우에 상기 동영상 파일을 유해 동영상 파일로 결정하여 상기 결정된 유해 동영상 파일을 차단하도록 처리하는 콘텐츠 차단부
    를 포함하는 유해 동영상 파일 필터링 장치.
  2. 제1항에 있어서,
    상기 결정된 유해 동영상 파일에 대한 검사 결과 캐시 정보를 데이터베이스에 업데이트하는 데이터베이스 관리부
    를 더 포함하는 유해 동영상 파일 필터링 장치.
  3. 제1항에 있어서,
    버퍼링 과정에서 파일 오프셋을 확인하는 경우, 동영상 파일의 재생 시각 이후, 버퍼링 시각에서 유해도에 대한 검사를 시작하는 유해 동영상 파일 필터링 장치.
  4. 삭제
  5. 삭제
KR1020200139352A 2020-10-26 2020-10-26 유해 동영상 파일을 필터링 하기 위한 장치 및 방법 KR102240018B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020200139352A KR102240018B1 (ko) 2020-10-26 2020-10-26 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
KR1020210006885A KR102308303B1 (ko) 2020-10-26 2021-01-18 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020200139352A KR102240018B1 (ko) 2020-10-26 2020-10-26 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
KR1020200078984A Division KR102189482B1 (ko) 2020-06-29 2020-06-29 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020210006885A Division KR102308303B1 (ko) 2020-10-26 2021-01-18 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Publications (1)

Publication Number Publication Date
KR102240018B1 true KR102240018B1 (ko) 2021-04-14

Family

ID=75477701

Family Applications (2)

Application Number Title Priority Date Filing Date
KR1020200139352A KR102240018B1 (ko) 2020-10-26 2020-10-26 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
KR1020210006885A KR102308303B1 (ko) 2020-10-26 2021-01-18 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Family Applications After (1)

Application Number Title Priority Date Filing Date
KR1020210006885A KR102308303B1 (ko) 2020-10-26 2021-01-18 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Country Status (1)

Country Link
KR (2) KR102240018B1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022005060A1 (ko) * 2020-06-29 2022-01-06 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100725544B1 (ko) 2006-05-01 2007-06-08 삼성전자주식회사 이동통신 단말기 및 그의 유해정보 차단방법
KR101428037B1 (ko) * 2007-07-03 2014-08-07 엘지전자 주식회사 유해정보 차단 방법 및 시스템
KR101496632B1 (ko) 2010-11-04 2015-03-03 한국전자통신연구원 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법
KR101551879B1 (ko) * 2013-11-19 2015-09-10 경운대학교 산학협력단 비교데이터 프루닝과 가우시안 혼합 모델의 유사도 추정을 이용한 유해 동영상 필터링 시스템 및 방법
KR20160107417A (ko) * 2015-03-03 2016-09-19 한국전자통신연구원 유해 동영상 탐지 방법 및 장치
KR20160107734A (ko) * 2015-03-05 2016-09-19 한국전자통신연구원 동영상의 시간정보를 이용한 유해 동영상 분류방법 및 장치
KR102022014B1 (ko) 2017-07-12 2019-09-17 최갑천 유해 콘텐츠 탐지 장치

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101010523B1 (ko) * 2008-08-05 2011-01-25 구진국 Ｔｖ 방송 중의 유해 컨텐츠 대체 방법 및 시스템

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100725544B1 (ko) 2006-05-01 2007-06-08 삼성전자주식회사 이동통신 단말기 및 그의 유해정보 차단방법
KR101428037B1 (ko) * 2007-07-03 2014-08-07 엘지전자 주식회사 유해정보 차단 방법 및 시스템
KR101496632B1 (ko) 2010-11-04 2015-03-03 한국전자통신연구원 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법
KR101551879B1 (ko) * 2013-11-19 2015-09-10 경운대학교 산학협력단 비교데이터 프루닝과 가우시안 혼합 모델의 유사도 추정을 이용한 유해 동영상 필터링 시스템 및 방법
KR20160107417A (ko) * 2015-03-03 2016-09-19 한국전자통신연구원 유해 동영상 탐지 방법 및 장치
KR20160107734A (ko) * 2015-03-05 2016-09-19 한국전자통신연구원 동영상의 시간정보를 이용한 유해 동영상 분류방법 및 장치
KR102022014B1 (ko) 2017-07-12 2019-09-17 최갑천 유해 콘텐츠 탐지 장치

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022005060A1 (ko) * 2020-06-29 2022-01-06 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Also Published As

Publication number Publication date
KR102308303B1 (ko) 2021-10-06

Similar Documents

Publication Publication Date Title
KR102189482B1 (ko) 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
CN112753225B (zh) 用于嵌入信息卡定位和内容提取的视频处理
CN109145784B (zh) 用于处理视频的方法和装置
CN110309795B (zh) 视频检测方法、装置、电子设备及存储介质
JP5420199B2 (ja) 映像解析装置、映像解析方法、ダイジェスト自動作成システム及びハイライト自動抽出システム
EP3473016B1 (en) Method and system for automatically producing video highlights
CN112602077A (zh) 交互式视频内容分发
CN106060578A (zh) 生成视频数据
CN109508406B (zh) 一种信息处理方法、装置及计算机可读存储介质
MX2012000724A (es) Metodo de estimacion e indicacion de interes social en medios a base de tiempo.
JP4577774B2 (ja) スポーツ映像の分類装置およびログ生成装置
CN111429341B (zh) 一种视频处理方法、设备及计算机可读存储介质
EP2210408A1 (en) A method of determining a starting point of a semantic unit in an audiovisual signal
KR102240018B1 (ko) 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
CN110287934B (zh) 一种对象检测方法、装置、客户端及服务器
KR20180089977A (ko) 영상 이벤트 단위 세그멘테이션 시스템 및 그 방법
KR102150226B1 (ko) 스마트 tv 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법
KR100930529B1 (ko) 비디오 식별을 통한 유해 동영상 검열 시스템 및 방법
Han et al. Real-time video content analysis tool for consumer media storage system
JP2003143546A (ja) フットボールビデオ処理方法
EP3772856A1 (en) Identification of the intro part of a video content
CN113569719A (zh) 视频侵权判定方法、装置、存储介质及电子设备
CN113472834A (zh) 一种对象推送方法及设备
KR100930869B1 (ko) 오디오 식별을 통한 성인물 동영상 검열 시스템 및 방법
JP5276609B2 (ja) 画像処理装置及びプログラム