KR101711833B1 - 유해 멀티미디어 컨텐츠 분석 및 차단 시스템 - Google Patents
유해 멀티미디어 컨텐츠 분석 및 차단 시스템 Download PDFInfo
- Publication number
- KR101711833B1 KR101711833B1 KR1020170010113A KR20170010113A KR101711833B1 KR 101711833 B1 KR101711833 B1 KR 101711833B1 KR 1020170010113 A KR1020170010113 A KR 1020170010113A KR 20170010113 A KR20170010113 A KR 20170010113A KR 101711833 B1 KR101711833 B1 KR 101711833B1
- Authority
- KR
- South Korea
- Prior art keywords
- harmful
- content
- interest
- pest
- contents
- Prior art date
Links
- 230000000903 blocking effect Effects 0.000 title claims abstract description 27
- 238000004458 analytical method Methods 0.000 claims abstract description 28
- 241000607479 Yersinia pestis Species 0.000 claims description 67
- 210000000746 body region Anatomy 0.000 claims description 31
- 238000000034 method Methods 0.000 claims description 24
- 230000006870 function Effects 0.000 claims description 19
- 238000000605 extraction Methods 0.000 claims description 11
- 238000001514 detection method Methods 0.000 claims description 7
- 238000004364 calculation method Methods 0.000 claims description 6
- 210000004392 genitalia Anatomy 0.000 claims description 3
- 230000004044 response Effects 0.000 claims 1
- 238000010586 diagram Methods 0.000 description 5
- 230000002123 temporal effect Effects 0.000 description 5
- 238000012790 confirmation Methods 0.000 description 4
- 239000000284 extract Substances 0.000 description 4
- 239000000126 substance Substances 0.000 description 4
- 238000005516 engineering process Methods 0.000 description 3
- 238000007689 inspection Methods 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 231100001261 hazardous Toxicity 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 210000000260 male genitalia Anatomy 0.000 description 1
- 230000001473 noxious effect Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000001568 sexual effect Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 210000001215 vagina Anatomy 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/454—Content or additional data filtering, e.g. blocking advertisements
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/10—Services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
- H04N21/442—Monitoring of processes or resources, e.g. detecting the failure of a recording device, monitoring the downstream bandwidth, the number of times a movie has been viewed, the storage space available from the internal hard disk
- H04N21/44236—Monitoring of piracy processes or activities
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
- H04N21/454—Content or additional data filtering, e.g. blocking advertisements
- H04N21/4542—Blocking scenes or portions of the received content, e.g. censoring scenes
Landscapes
- Engineering & Computer Science (AREA)
- Business, Economics & Management (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Tourism & Hospitality (AREA)
- General Health & Medical Sciences (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Virology (AREA)
- Computer Networks & Wireless Communication (AREA)
- Computer Security & Cryptography (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Economics (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
Abstract
본 발명은 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 관한 것이다.
구체적으로는, 멀티미디어 컨텐츠를 기반으로 유해 컨텐츠인지를 분석하여 유해하다면 해당 멀티미디어 컨텐츠를 차단하는 것으로서, 이때 유해 컨텐츠의 분석은 멀티미디어 컨텐츠에서 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴(texture)을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석한다.
이후, 2차 분석에서 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하고, 해당 신체 관심영역이 상기 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 것인지를 분석함으로써 최종적으로 유해 컨텐츠인지를 분석하여 차단하는 것이다.
구체적으로는, 멀티미디어 컨텐츠를 기반으로 유해 컨텐츠인지를 분석하여 유해하다면 해당 멀티미디어 컨텐츠를 차단하는 것으로서, 이때 유해 컨텐츠의 분석은 멀티미디어 컨텐츠에서 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴(texture)을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석한다.
이후, 2차 분석에서 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하고, 해당 신체 관심영역이 상기 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 것인지를 분석함으로써 최종적으로 유해 컨텐츠인지를 분석하여 차단하는 것이다.
Description
본 발명은 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 관한 것이다.
구체적으로는, 멀티미디어 컨텐츠를 기반으로 유해 컨텐츠인지를 분석하여 유해하다면 해당 멀티미디어 컨텐츠를 차단하는 것으로서, 이때 유해 컨텐츠의 분석은 멀티미디어 컨텐츠에서 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴(texture)을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석한다.
이후, 2차 분석에서 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하고, 해당 신체 관심영역이 상기 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 것인지를 분석함으로써 최종적으로 유해 컨텐츠인지를 분석하여 차단하는 것이다.
인터넷 보급이 활발해지고, 사용자 대부분이 인터넷의 사용빈도 및 사용능력이 증가됨에 따라 인터넷을 통해 유해물에 노출될 가능성이 높아지고 있다.
통상 유해물이라 함은, 성행위를 묘사하는 성인물과, 폭력성이 짙은 폭력물이 있는데, 이러한 유해물은 인터넷을 통해 성인인증을 수행한다면 남녀노소 누구나 쉽게 이용할 수 있는 실정이며, 성인인증을 통해 미성년자의 출입을 방지하고 있더라도, 부모 또는 다른 성인의 정보를 이용하여 쉽게 성인인증을 수행할 수 있다.
이에 따라 근래에는 유해물을 자동으로 분석하고 차단할 수 있는 기술이 개발되고 있다.
관련된 기술로서, 공개특허공보 제10-2015-0051711호에는 유해 콘텐츠 영상 차단을 위한 피부 영역 추출 장치 및 방법이 기재되어 있다.
상기 기술은, 영상으로부터 피부영역과 배경영역에 대한 확률밀도함수를 산출하고, 산출한 확률밀도함수를 근거로 MLE 방식으로 피부영역을 추출하여 영상으로부터 피부영역을 추출하는 과정에서 발생하는 오탐지율을 최소화하도록 한 유해 콘텐츠 영상 차단을 위한 피부 영역 추출 장치 및 방법이 제시된다. 제시된 유해 콘텐츠 영상 차단을 위한 피부 영역 추출 장치는 영상 매체로부터 영상을 추출하고, 기저장된 사전정보를 근거로 영상의 피부샘플영역 및 배경 샘플영역을 추출하고, 피부샘플영역의 확률밀도함수 및 배경샘플영역의 확률밀도함수를 근거로 영상으로부터 피부영역을 추출한다.
또 다른 기술로서, 등록특허공보 제10-1428037호에는 유해정보 차단 방법 및 시스템이 기재되어 있다.
상기 기술은, 유해등급이 기록되지 않은 멀티미디어 컨텐츠가 수신되면 유해한 컨텐츠인지 판단하는 단계; 유해한 컨텐츠로 판단되면, 상기 멀티미디어 컨텐츠에 유해등급을 기록하여 사용자에 게 경고 메시지를 출력하고, 상기 유해등급을 공유할 수 있도록 서버로 송신하는 단계를 포함하는 것을 특징으로 한다.
이때 유해한 컨텐츠의 판단은 사람의 피부색상분포 테이블, 특정부위의 위치 및 색상 정보, 자막의 위치정보를 포함하는 유해정보 판단 데이터와 영상을 비교하여 수행된다.
또 다른 기술로서, 등록특허공보 제10-0779074호에는 시간별 특징값을 이용한 유해 동영상 판별 방법 및 그 장치가 기재되어 있다.
상기 기술은, 동영상의 시간 추이에 따른 정보를 이용하여 동영상의 유해성을 판단하고 차단하는 방법 및 그 장치에 관한 것으로서, 적어도 하나 이상의 종류로 분류되는 동영상들로부터 소정의 제1시간간격으로 정규화한 시간 경과의 추이에 따라 변화되는 소정의 특징값으로 이루어지는 제1시간축플로우를 형성하는 단계; 유해 여부 판단이 요구되는 동영상으로부터 소정의 제2시간간격으로 정규화한 시간 경과의 추이에 따라 변화되는 상기 특징값을 추출하고 그 특징값으로 이루어지는 제2시간축플로우를 형성하는 단계; 및 상기 제 1시간축플로우와 제2시간축플로우를 비교하여 양자간의 손실값을 계산하여 그 유해여부를 판단하는 단계;를 포함하는 것을 특징으로 하며, 기존 이미지 분류 기술을 이용하여 동영상의 정지영상을 판단하여 유무해를 결정하는 경우에는 정확도가 매우 낮지만, 해당 기술을 적용하면, 영화나 드라마 등 사람이 많이 등장하는 장면이 나오는 유형이라 하더라도 시간에 따른 유해 정도가 포르노물과 다르기 때문에 유해물 판단의 정확도를 높일 수 있음을 기재하고 있다.
또 다른 기술로서, 등록특허공보 제10-0670815호에는 순차적 데이터 처리 기반의 유해 멀티미디어 서비스 차단장치 및 그 방법이 기재되어 있다.
상기 기술은, 순차적 데이터 처리 기반의 유해 멀티미디어 서비스 차단 장치 및 그 방법은 적어도 한 종류 이상의 동영상으로부터 소정의 특징을 추출한 후 기계학습을 통하여 적어도 하나 이상의 등급별로 유해판별모델을 생성하는 유해분류모델 학습부; 유해 여부 판별이 요구되는 입력 동영상을 상기 유해판별모델에 순차적으로 입력하여 판단시점에서의 상기 입력 동영상의 데이터가 소정의 유해 등급에 속할 확률과 현재 시점까지의 누적 유해 확률을 기초로 상기 입력 동영상의 유해 등급을 판단하는 유해데이터 분류부; 및 상기 유해 등급이 소정의 기준 유해 등급에 속하면 서비스를 중단시키는 유해 정보 차단부;를 포함하는 것을 특징으로 하며, 순차적 데이터 처리 기법을 통해서 멀티미디어 데이터의 유해 등급을 빠르고 정확하게 분류하여 저장공간에 존재하는 유해 멀티미디어 검사 서비스, 재생되는 멀티미디어 데이터의 유해성 검사, 실시간 스트리밍 서비스에 대한 유해성 검사에 활용될 수 있음을 기재하고 있다.
그러나 상술된 선행기술문헌들은, 순차적으로 유해물을 판단하는 것이 대해 기재하고 있지 않는다. 즉, 유해물 컨텐츠를 판단함에 있어서, 신속성을 기여함도 중요하지만, 정확도를 향상시키려면 유해물 컨텐츠로 판단하는데 다양한 기준이 필요하며, 특히 사용자를 기반으로 하는 유해물 컨텐츠를 판단할 수 있어야 하는데, 위 기술들은 그러지 못한다.
본 발명의 목적은, 멀티미디어 컨텐츠를 기반으로 유해 컨텐츠인지를 분석하여 유해하다면 해당 멀티미디어 컨텐츠를 차단하는 것으로서, 이때 유해 컨텐츠의 분석은 멀티미디어 컨텐츠에서 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴(texture)을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템을 제공하는 데 있다.
이후, 2차 분석에서 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하고, 해당 신체 관심영역이 상기 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 것인지를 분석함으로써 최종적으로 유해 컨텐츠인지를 분석하여 차단하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템을 제공하는 데 있다.
상술된 목적을 달성하기 위한 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템은, 멀티미디어 컨텐츠를 수신하여 유해 컨텐츠인지를 판단하는 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 있어서, 수신된 멀티미디어 컨텐츠를, 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석하고, 2차 분석 결과, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하며, 검출된 신체 관심영역의 형태/색상 패턴을 유해물 DB에 저장된 유해 멀티미디어 컨텐츠와 비교하여 유해 컨텐츠인지를 최종 분석하고, 최종 분석 결과, 상기 검출된 신체 관심영역이 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 형태/색상 패턴을 갖으면, 상기 신체 관심영역의 노출비율을 계산하고, 계산된 노출비율이 기설정된 노출비율 미만인지 또는 초과하였는지 분석하여 초과하는 경우 유해 컨텐츠로 판단하는 것을 특징으로 한다.
본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 의하면, 높은 확률로 유해물 컨텐츠를 분석하고 차단함으로써, 근래 유해물 컨텐츠에 노출될 가능성이 높은 인터넷 정보망으로부터 유해물 컨텐츠의 노출 가능성을 줄일 수 있는 이점이 있다.
도 1은 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템의 구성을 블록도로 나타낸 것이다.
도 2는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 구조를 나타낸 것이다.
도 3은 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 LFSR의 구성을 나타낸 것이다.
도 4는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 FCSR의 구성을 나타낸 것이다.
도 5는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 얼굴(Mask)로 설정하여 검출한 결과를 나타낸 것이다.
도 2는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 구조를 나타낸 것이다.
도 3은 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 LFSR의 구성을 나타낸 것이다.
도 4는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 FCSR의 구성을 나타낸 것이다.
도 5는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 얼굴(Mask)로 설정하여 검출한 결과를 나타낸 것이다.
본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정해서 해석되어서는 안되며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야만 한다.
따라서 본 명세서에 기재된 실시 예와 도면에 도시된 사항은 본 발명의 가장 바람직한 실시 예에 불과할 뿐이고 본 발명의 기술적 사상을 모두 대변하는 것은 아니므로, 본 출원시점에 있어서 이들을 대체할 수 있는 다양한 균등물과 변형 예들이 있을 수 있음을 이해하여야 한다.
이하, 도면을 참조하여 설명하기에 앞서, 본 발명의 요지를 드러내기 위해서 필요하지 않은 사항 즉 통상의 지식을 가진 당업자가 자명하게 부가할 수 있는 공지 구성에 대해서는 도시하지 않거나, 구체적으로 기술하지 않았음을 밝혀둔다.
본 발명은 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 관한 것이다.
구체적으로는, 멀티미디어 컨텐츠를 기반으로 유해 컨텐츠인지를 분석하여 유해하다면 해당 멀티미디어 컨텐츠를 차단하는 것으로서, 이때 유해 컨텐츠의 분석은 멀티미디어 컨텐츠에서 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴(texture)을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석한다.
이후, 2차 분석에서 유해 컨텐츠이면 차단하고, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하고, 해당 신체 관심영역이 상기 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 것인지를 분석함으로써 최종적으로 유해 컨텐츠인지를 분석하여 차단하는 것이다.
구체적으로는, 첨부된 도면을 통해 설명한다.
도 1은 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템의 구성을 블록도로 나타낸 것이다.
첨부된 도면의 도 1에 따르면, 본 발명은 판단 에이전트 및 관리 에이전트를 포함한다.
이때 판단 에이전트와 관리 에이전트는 하나의 응용프로그램(App) 상에 구분되는 개념일 수도 있으며, 각기 다른 응용프로그램으로 구현되어 후술되는 기능을 수행하도록 할 수도 있다.
판단 에이전트는, 멀티미디어 컨텐츠가 유해 컨텐츠인지 혹은 무해 컨텐츠인지를 판단하는 기능을 수행하는 것으로서, 유해물 판단모듈; 컨텐츠 수신모듈; 텍스트 추출모듈; 프레임 추출모듈; 긴급프레임 추출모듈; 색상패턴 비교모듈; 신체 관심영역 검출모듈; 형태/색상 패턴별 분류 및 비교모듈; 신체 관심영역 비율 계산모듈; 신체 관심영역 비율 허용설정모듈; 추정된 유해물 DB; 및 유해물 DB;를 포함한다.
유해물 판단모듈은, 멀티미디어 컨텐츠가 유해물 컨텐츠인지를 판단하는 기능을 한다. 구체적으로는 아래 다른 구성을 설명하면서 상세하게 설명한다.
컨텐츠 수신모듈은, 멀티미디어 컨텐츠를 수신하는 기능을 한다. 정확하게는 멀티미디어 컨텐츠를 입력받는 기능을 하는데, 이때 입력(수신)은 멀티미디어 컨텐츠를 직접 입력하거나 또는 멀티미디어 컨텐츠가 포함된 URL을 입력하거나 또는 홈페이지 주소를 입력하도록 한다.
텍스트 추출모듈은, 입력(수신)된 멀티미디어 컨텐츠를 기반으로 이에 포함된 텍스트를 추출하는 기능을 한다.
이때, 텍스트는 URL, 홈페이지 주소 또는 멀티미디어 컨텐츠를 이루는 모든 글자일 수도 있고, 또한 멀티미디어 컨텐츠 내에 포함된 코덱 자막을 포함할 수도 있다.
이때 유해물 판단모듈은, 텍스트 추출모듈에서 추출된 텍스트와 후술될 유해물 DB에 기저장된 텍스트를 비교함으로써, 1차적으로 해당 멀티미디어 컨텐츠가 유해 컨텐츠인지 무해 컨텐츠인지를 분석 및 판단한다.
이때 유해물 DB에 기저장된 텍스트는 당업자가 예측 가능한 모든 유해 텍스트일 수 있다. 이러한 유해물 판단모듈에 의해 유해 컨텐츠인 것으로 판단되면, 후술될 추정된 유해물 DB에 저장된다.
그리고 1차 분석에서 무해 컨텐츠로 판단되는 경우, 프레임 추출모듈을 통해 해당 멀티미디어 컨텐츠를 이루는 프레임을 추출한다.
한편, 사용자 선택에 따라서는 상기 멀티미디어 컨텐츠의 모든 프레임을 추출하는데는 시간이 상당히 소요될 수 있으므로, 긴급프레임 추출모듈을 통해 소정의 시간(예를 들면 10초) 동안의 프레임을 추출할 수도 있다.
이러한 긴급프레임 추출모듈은 인터페이스적인 요소로서, 소정의 시간 동안의 프레임을 추출할 수 있는 체크박스를 구현할 수도 있고, 또는 사용자가 직접 드래그로 소정의 시간 동안의 프레임을 선택하면 해당 프레임만 추출되도록 할 수도 있다.
색상패턴 비교모듈은, 추출된 프레임 상의 색상과 질감(텍스처, texture)에 따른 패턴을 분석하고, 유해물 DB에 기저장된 유해물 컨텐츠를 동일하게 분석하여 프레임 상의 색상과 질감에 따른 패턴을 분석하여, 2개 컨텐츠를 비교하는 기능을 수행한다.
예를 들면, 아래 [표 1]과 같이 프레임 상에서 색상과 질감을 분석할 수 있다.
 |
 |
 |
 |
| 피부 색상 검출 | 신체 특정부위(가슴, 음부)에 따른 텍스처 검출 | 가슴에 따른 텍스처(질감) 분류 | 음부에 따른 텍스처(질감) 분류 |
이에 따라, 유해물 판단모듈은 동일한 색상과 질감을 갖는 패턴이 분석되면 유해물 컨텐츠로 판단하여 추정된 유해물 DB로 저장한다.
만약, 무해물 컨텐츠로 판단되면 상기 추출된 프레임 상에서 신체 관심영역을 검출하는데, 이는 신체 관심영역 검출모듈을 통해 이루어진다.
신체 관심영역 검출모듈은, 상기 추출된 프레임 상에서 신체 관심영역을 검출하는 기능을 수행하는데, 구체적으로는 이진 난수 발생기를 통해 가능하며, 더욱 구체적으로는 수적 체계가 다르고 서로 상반된 특성을 가지는 LFSR(Linear Feedback Shift Register)과 FCSR(Feedback Carry Shift Register)을 결합한 비선형 이진 난수 발생기를 이용한다.
이러한 이진 난수 발생기는 첨부된 도면을 통해 설명한다.
도 2는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 구조를 나타낸 것이다.
첨부된 도면의 도 2를 통해 알 수 있듯이, 비선형 이진 난수 발생기(10)는, LFSR(11), FCSR(12) 및 XOR 연산부(13)를 포함하여 구성된다.
여기서, LFSR(11)는, 원시 다항식에 근거한 선형 시프트 레지스터이며, FCSR(12)은, 2-adic 수(이진전개로 표현될 수 있는 수)의 체계에 기반을 둔 선형 시프트 레지스터이고, XOR 연산부(13)는, 배타적인 논리합으로서, LFSR(11)의 출력 수열(at)과 FCSR(12)의 출력 수열(bt)에 배타적인 논리합을 수행하여 난수열(ct = at XOR bt)을 발생한다.
또한, 상기한 바와 같이 구성된 본 발명의 실시예에 따른 비선형 이진 난수 발생기(10)의 전체적인 난수 발생동작 과정은 다음과 같다.
먼저, LFSR(11), FCSR(12)를 동작시켜 각각의 출력 수열을 발생시킨다. 다음으로, XOR 연산부(13)를 통하여, 각각의 LFSR(11), FCSR(12)에서 발생시킨 난수열에 배타적 논리합을 수행하여 난수열(ct = at XOR bt)을 발생한다.
더 상세하게는, 도 3을 참조하면, 상기한 바와 같이 구성된 본 발명의 실시예에 따른 비선형 이진 난수 발생기(10)의 LFSR(11)의 구성을 개략적으로 나타내는 도면이다.
즉, 도 3에 나타낸 바와 같이, 본 발명의 실시예에 따른 비선형 이진 난수 발생기(10)의 LFSR(11)은, 시프트 레지스터부(21), 궤환 상수부(22), 선형 궤환 함수부(23)를 포함하여 구성된다.
여기서, 시프트 레지스터부(21)는, n개의 시프트 레지스터로 구성되며, 각 단은 S0, S1, ... Sn - 1 로 표현되고, 각 단의 시프트 레지스터의 출력 값을 s0, s1, ... sn-1이라 한다.
또한, 궤환 상수부(22)는, 원시 다항식의 계수로서 0 또는 1의 값을 취하며, 시프트 레지터부(21)의 연결상태를 나타내는 Ci(C0 = 1, i = 1, 2,....)의 값이다.
아울러, 선형 궤환 함수부(23)는, 궤환 상수부(22)와 각 단의 시프트 레지스터(21)의 출력을 입력받아 이하의 [수학식 1]에 의해 출력 P를 생성한다.
또한, 상기한 바와 같은 LFSR(11)의 전체적인 동작 과정에 대하여 설명하면 다음과 같다.
먼저, 선형 궤환 함수부(23)에서 정수합 s0 + C1s1 + ... + Cn -1 sn - 1 을 구한다. 다음으로, 최하위 비트 s0를 출력하고, 레지스터의 내용들을 오른쪽으로 한 칸씩 이동한다.
계속해서, 도 4를 참조하면, 도 4는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 검출하기 위한 비선형 이진 난수 발생기의 FCSR의 구성을 나타낸 것이다.
즉, 도 4에 나타낸 바와 같이, 본 발명의 실시예에 따른 비선형 이진 난수 발생기(10)의 FCSR(12)은, 시프트 레지스터부(31), 연결정수부(32), 메모리부(33), 합산부(34)를 포함하여 구성된다.
여기서, 연결 정수부(302)는, 시프트 레지스터부(31)의 연결상태를 나타내는 qi(q0 = 1, i= 1, 2, ...)의 값으로, 2가 아닌 소수 q에 대하여 q+1 = q12 + q222 + ... + qr2r, qi ∈ 0, 1과 같은 이진 전개로서 0 또는 1의 값을 가진다.
또한, 이는, 메모리부(33)의 1비트의 저장 정보량이며, 다음 단계의 저장 정보는, 합산부(34)의 몫에 해당한다.
또한, 합산부(34)는, 연결 정수부(32)와 각 단의 시프트 레지스터(31)의 출력을 입력받아 다음과 같은 [수학식 2]에 의해 출력 P를 생성한다.
계속해서, 상기한 바와 같이 구성된 FCSR(12)의 전체적인 동작 과정은 다음과 같다.
먼저, 메모리(33)의 선두를 0 또는 1로 초기화한다. 다음으로, 합산부(34)를 통하여, 이하의 [수학식 3]과 같은 정수합을 구한다.
그 후, 최하위 비트 s0를 출력하고, 레지스터의 내용들을 오른쪽으로 한 칸씩 이동한다. 다음으로, sr ≡ L(mod 2)를 시프트 레지스터의 최상위 셀(cell)에 대치시킨다. 이어서, 메모리(33)를 (L- sr-1)/2로 변경한다.
상기한 바와 같은 과정을 통하여, 본 발명에 따른 LFSR과 FCSR을 결합한 비선형 이진 난수 발생기를 구현할 수 있다.
이러한 이진 난수 발생기를 이용하여 신체 관심영역을 검출해 본 결과, 첨부된 도면의 도 5와 같이 원하는 신체 관심영역이 검출되는 것을 알 수 있었다.
도 5는 본 발명에 따른 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에서 신체 관심영역을 얼굴(Mask)로 설정하여 검출한 결과를 나타낸 것이다.
즉, 첨부된 도면의 도 5와 같이 신체 관심영역으로 설정된 얼굴(Mask)에 대한 특징값이 가장 높에 검출되는 것으로 나타났다(점선 참조).
상기와 같이 검출된 신체 관심영역에 대하여, 만약 신체 관심영역을 남자의 성기와 여성의 음부로 설정한 경우, 이러한 신체 관심영역이 검출되지 않으면 해당 멀티미디어 컨텐츠는 유해물 판단모듈에 의해 무해물 컨텐츠로 판단될 수 있으며, 검출되면 유해물 DB에 기저장된 유해물 컨텐츠와 비교함으로써, 최종판단이 이루어진다.
즉, 형태/색상 패턴별 분류 및 비교모듈을 통해, 검출된 신체 관심영역의 형태와 색상 및 질감(텍스처)이 유해물 컨텐츠에 유사 또는 동일하게 존재하는지를 판단하는 것으로, 만약 존재하지 않는다면, 유해물 판단모듈에 의해 무해 컨텐츠로 판단되고, 비교 결과, 유사하다면 해당 신체 관심영역에 대한 노출 비율을 계산하도록 한다.
이는 신체 관심영역 비율 계산모듈에 의해 수행되며, 신체 관심영역 비율 계산모듈은 아래 [수학식 4]를 통해 신체 관심영역의 노출 비율을 계산한다.
(이때, N은 노출비율, I는 이미지(프레임), B는 Blobs, C는 Candidate, X는 Sample spaces of body parts(adult, face, genitals, intercourse 등), P(I)는 X에 이미지가 포함될 확률, PX(Bi)는 X에 blob이 포함될 확률, PX(Ci)는 X에 Candidate가 포함될 확률, s는 blob count, t는 candidate count, WI는 X에 포함된 이미지 가중치, 
는 X에 포함된 blob의 가중치, 
는 X에 포함된 candidate의 가중치)
상술된 [수학식 4]에 의해 해당 프레임 상의 노출비율이 계산될 수 있다.
그리고, 신체 관심영역 비율 허용설정모듈은 사용자가 신체 관심영역 비율에 대한 허용치를 설정할 수 있도록 하는 인터페이스를 제공하는 기능을 한다.
따라서, 상기 [수학식 4]를 통해 신체 관심영역에 대한 노출비율이 계산된 이후에 계산된 노출비율이 허용된 신체 관심영역의 노출비율 미만인 경우, 유해물 판단모듈은 최종적으로 무해물 컨텐츠인 것으로 판단하고, 설정된 노출비율을 초과하는 경우 유해물 컨텐츠로 판단하여 추정된 유해물 DB로 해당 멀티미디어 컨텐츠를 저장한다.
이러한 신체 관심영역 비율의 계산이 필요한 이유로는, 2017년에 이르면서 지금까지 방송의 기술과 선정성 평가기준이 상당히 높아졌으며, 이에 따라 개인방송을 수행하면서 선정적이진 않으나 다소 신체의 일부가 노출되는 방송도 존재하고 있으며, 이를 무조건 유해물로 판단하기에는 무리가 있기 때문이다.
따라서, 형태와 질감에 따른 분석을 우선 수행하여 무의미하게 유해물로 분석되는 것을 방지하고, 아울러 유해물로 판단되는 정도의 노출이 있다고 하더라도 사용자가 성인인 경우 문제가 되지 않을 정도의 노출일 수도 있으나, 미성년자인 경우 문제가 될 수 있기 때문에, 설정된 비율만큼의 노출인지를 판단하여 유해물로 지정할 수 있어야 한다.
상기에서는 추정된 유해물 DB; 및 유해물 DB;를 기재하고 있는데, 여기서 유해물 DB는 객관적으로 유해물인 모든 유해물 컨텐츠를 저장하는 것이고, 추정된 유해물 DB는 유해물 판단모듈에 의해 유해물 컨텐츠로 판단된 멀티미디어 컨텐츠를 저장하는 기능을 한다.
이러한 추정된 유해물 DB에 저장된 유해물 컨텐츠는 관리 에이전트가 판단 에이전트와 네트워크 상으로 연결되면, 관리 에이전트에 구비된 의심추정 DB로 전달되며, 관리 에이전트를 통해 관리자는 직접 의심추정 DB에 저장된 유해물 컨텐츠를 확인하여 유해물 컨텐츠가 맞는지 확인하는 작업을 한다.
이를 위해 관리 에이전트는 관리자 확인모듈을 포함할 수 있으며, 관리자 확인모듈은 상기한 기능을 위한 멀티미디어 수행유닛(동영상 수행 및 이미지 오픈 수행)과, 유해물 컨텐츠 최종확인 유닛 등을 포함할 수 있다.
그리고 관리자 확인모듈에 의해 최종적으로 유해물 컨텐츠인 것으로 확정되면, 이는 판단 에이전트 상의 유해물 DB로 전송되어 저장될 수 있다.
다만, 네트워크 상으로 판단 에이전트와 관리 에이전트가 연결되지 않은 경우, 확정된 유해물 컨텐츠는 확정된 유해물 DB에 저장되었다가, 추후 연결되면 유해물 DB로 연결되도록 할 수도 있다.
상기에서 도면을 이용하여 서술한 것은, 본 발명의 주요 사항만을 서술한 것으로, 그 기술적 범위 내에서 다양한 설계가 가능한 만큼, 본 발명이 도면의 구성에 한정되는 것이 아님은 자명하다.
10 : 난수 발생기 11 : LFSR
12 : FCSR 13 : XOR 연산부
21 : 시프트 레지스터부 22 : 궤환 상수부
23 : 선형 궤환 함수부 31 : 시프트 레지스터부
32 : 연결정수부 33 : 메모리부
34 : 합산부
12 : FCSR 13 : XOR 연산부
21 : 시프트 레지스터부 22 : 궤환 상수부
23 : 선형 궤환 함수부 31 : 시프트 레지스터부
32 : 연결정수부 33 : 메모리부
34 : 합산부
Claims (17)
- 멀티미디어 컨텐츠를 수신하여 유해 컨텐츠인지를 판단하는 유해 멀티미디어 컨텐츠 분석 및 차단 시스템에 있어서,
수신된 멀티미디어 컨텐츠를, 텍스트를 기반으로 1차적으로 유해 컨텐츠인지를 판단하되, 무해 컨텐츠이면 멀티미디어 컨텐츠를 이루는 프레임의 색상패턴을 유해물 DB에 미리 저장된 유해 멀티미디어 컨텐츠와 비교하여 2차적으로 유해 컨텐츠인지를 분석하고,
2차 분석 결과, 무해 컨텐츠이면 해당 프레임 내의 신체 관심영역을 검출하며, 검출된 신체 관심영역의 형태/색상 패턴을 유해물 DB에 저장된 유해 멀티미디어 컨텐츠와 비교하여 유해 컨텐츠인지를 최종 분석하고,
최종 분석 결과, 상기 검출된 신체 관심영역이 유해물 DB에 저장된 유해 멀티미디어 컨텐츠에 포함된 형태/색상 패턴을 갖으면, 상기 신체 관심영역의 노출비율을 계산하고, 계산된 노출비율이 기설정된 노출비율 미만인지 또는 초과하였는지 분석하여 초과하는 경우 유해 컨텐츠로 판단하되,
상기 유해 멀티미디어 컨텐츠 분석 및 차단 시스템은,
유해 컨텐츠의 판단을 수행하는 판단 에이전트; 및
상기 판단 에이전트에서 판단된 유해 컨텐츠를 수신하여 관리자가 직접 유해 컨텐츠인지를 판단할 수 있도록 하는 관리 에이전트;로 구성되고,
상기 판단 에이전트는,
-수신된 멀티미디어 컨텐츠에 포함된 텍스트를 추출하여 유해물 판단모듈을 통해 해당 멀티미디어 컨텐츠가 유해물인지를 판단하며,
-상기 유해물 판단모듈을 통해 멀티미디어 컨텐츠가 무해물인 것으로 판단되면, 프레임 추출모듈을 통해 상기 멀티미디어 컨텐츠에 포함된 프레임을 추출하고,
-상기 프레임 추출모듈을 통해 추출된 프레임 상의 색상과 질감에 따른 패턴을 분석하며, 유해물 DB에 기저장된 유해물 컨텐츠를 분석한 뒤, 색상패턴 비교모듈을 통해 이들을 비교하고, 상기 비교 결과에 따라 유해물 판단모듈을 통해 추출된 프레임을 포함하는 멀티미디어 컨텐츠가 유해물인지 또는 무해물인지 판단하며,
-상기 멀티미디어 컨텐츠가 무해물인 것으로 판단되면, 신체 관심영역 검출모듈을 통해 상기 추출된 프레임 상에서 신체 관심영역을 검출하되,
-상기 신체 관심영역 검출모듈은,
원시 다항식(primitive polynomial)에 근거한 선형 시프트 레지스터로 구성되는 LFSR(Linear Feedback Shift Register)와,
이진전개로 표현될 수 있는 수인 2-adic 수의 체계에 기반을 둔 선형 시프트 레지스터로 구성되는 FCSR(Feedback Carry Shift Register) 및
상기 LFSR의 출력 수열과 상기 FCSR의 출력 수열에 배타적인 논리합을 수행하여 난수열을 발생하는 XOR 연산부를 포함하는 것을 특징으로 하는 FCSR을 이용한 비선형 이진 난수 발생기를 이용하여 신체 관심영역을 검출하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 삭제
- 청구항 1에 있어서,
상기 판단 에이전트는,
노출비율을 기반으로 판단된 유해 컨텐츠를 저장하는 추정된 유해물 DB를 포함하고,
상기 추정된 유해물 DB는 상기 판단 에이전트가 관리 에이전트와 연결되면, 상기 관리 에이전트에 구비된 의심추정 DB에 전송되며,
관리자에 의해 유해물 컨텐츠로 판단된 의심추정 DB에 저장된 유해물 컨텐츠는, 상기 판단 에이전트의 유해물 DB에 저장되는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 삭제
- 삭제
- 청구항 1에 있어서,
상기 판단 에이전트는,
상기 프레임 추출을 수행하는 경우, 긴급프레임 추출모듈을 통해 소정의 시간 동안의 프레임을 추출할 수 있는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 삭제
- 삭제
- 삭제
- 청구항 1에 있어서,
상기 LFSR은,
n(n은 양의 정수)개의 시프트 레지스터로 구성되는 시프트 레지스터부와,
원시 다항식의 계수로서 0 또는 1의 값을 취하며, 상기 시프트 레지스터부의 연결상태를 나타내는 값을 가지는 궤환 상수부 및
상기 시프트 레지스터부의 각 단을 S0, S1, ... Sn-1라 하고, 각 단의 시프트 레지스터의 출력값을 s0, s1, ... sn-1라 하며, 상기 시프트 레지스터부의 연결상태를 나타내는 값을 Ci(C0 = 1, i = 1, 2,....)라 할 때, 상기 궤환 상수부와 상기 시프트 레지스터의 각 단의 출력을 입력받아 이하의 수식에 의해 출력 P를 생성하는 선형 궤환 함수부를 포함하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 10에 있어서,
상기 LFSR은,
상기 선형 궤환 함수부에서 상기 출력 P = s0 + C1s1 + ... + Cn -1 sn -1을 구하고, 최하위 비트 s0를 출력하며, 레지스터의 내용들을 오른쪽으로 한 칸씩 이동하는 처리를 수행하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 1에 있어서,
상기 FCSR은,
r(r은 양의 정수)개의 시프트 레지스터로 구성되는 시프트 레지스터부와,
상기 시프트 레지스터부의 연결상태를 나타내는 값(qi(q0 = 1, i= 1, 2, ...), 2가 아닌 소수 q에 대하여 q+1 = q12 + q222 + ... + qr2r, qi ∈ 0, 1)으로서 0 또는 1의 값을 가지는 연결정수부와,
입력 정보를 저장한 후 다음 단계에서 출력하는 메모리부 및
상기 연결 정수부와 상기 시프트 레지스터의 각 단의 출력을 입력받아 이하의 수식에 의해 출력 P를 생성하는 합산부를 포함하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 12에 있어서,
상기 FCSR은,
상기 메모리부의 선두를 0 또는 1로 초기화하고, 상기 합산부를 통하여 이하의 수식에 의해 정수합을 구하며,
최하위 비트 s0를 출력하고, 레지스터의 내용들을 오른쪽으로 한 칸씩 이동하고, sr ≡ L(mod 2)를 시프트 레지스터의 최상위 셀(cell)에 대치시키며, 상기 메모리부를 (L- sr-1)/2로 변경하는 처리를 수행하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 1에 있어서,
상기 판단 에이전트는,
상기 추출된 프레임 상에서 신체 관심영역이 검출되지 않으면 무해 컨텐츠로 판단하고,
상기 추출된 프레임 상에서 신체 관심영역이 검출되면, 형태/색상 패턴별 분류 및 비교모듈을 통해 유해물 DB에 기저장된 멀티미디어 컨텐츠와 비교하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 14에 있어서,
상기 판단 에이전트는,
비교 결과, 추출된 프레임상의 신체 관심영역이 유해물 DB에 기저장된 멀티미디어 컨텐츠와 동일한 형태/색상 패턴을 갖지 않으면, 무해 컨텐츠로 판단하고,
만약, 동일한 형태/색상 패턴을 갖는 경우, 신체 관심영역 비율 계산모듈을 통해 상기 신체 관심영역의 노출비율을 계산하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
- 청구항 15에 있어서,
상기 신체 관심영역 비율 계산모듈은 다음의 수학식을 통해 신체 관심영역의 노출비율을 계산하는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
(이때, N은 노출비율, I는 이미지(프레임), B는 Blobs, C는 Candidate, X는 Sample spaces of body parts(adult, face, genitals, intercourse 등), P(I)는 X에 이미지가 포함될 확률, PX(Bi)는 X에 blob이 포함될 확률, PX(Ci)는 X에 Candidate가 포함될 확률, s는 blob count, t는 candidate count, WI는 X에 포함된 이미지 가중치,는 X에 포함된 blob의 가중치,
는 X에 포함된 candidate의 가중치)
- 청구항 16에 있어서,
판단 에이전트는,
상기 신체 관심영역에 대한 노출비율의 허용치를 미리 설정할 수 있는 신체 관심영역 비율 허용설정모듈을 더 포함하되,
상기 신체 관심영역의 노출비율이 상기 허용치 미만이면, 유해물 판단모듈에 의해 무해 컨텐츠로 판단되고,
상기 신체 관심영역의 노출비율이 상기 허용치를 초과하면, 유해물 판단모듈에 의해 유해 컨텐츠로 추정 판단되어, 추정된 유해물 DB에 저장되는 것을 특징으로 하는, 유해 멀티미디어 컨텐츠 분석 및 차단 시스템.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170010113A KR101711833B1 (ko) | 2017-01-22 | 2017-01-22 | 유해 멀티미디어 컨텐츠 분석 및 차단 시스템 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020170010113A KR101711833B1 (ko) | 2017-01-22 | 2017-01-22 | 유해 멀티미디어 컨텐츠 분석 및 차단 시스템 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| KR101711833B1 true KR101711833B1 (ko) | 2017-03-13 |
Family
ID=58411954
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020170010113A KR101711833B1 (ko) | 2017-01-22 | 2017-01-22 | 유해 멀티미디어 컨텐츠 분석 및 차단 시스템 |
Country Status (1)
| Country | Link |
|---|---|
| KR (1) | KR101711833B1 (ko) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102150226B1 (ko) * | 2020-02-19 | 2020-08-31 | 주식회사 플랜티넷 | 스마트 tv 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법 |
| KR20210037625A (ko) * | 2020-03-31 | 2021-04-06 | 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 | 동영상 재생 방법, 장치, 전자기기와 저장매체 |
| KR102472447B1 (ko) * | 2022-06-13 | 2022-11-30 | (주)유알피시스템 | 머신러닝을 이용한 복합 문서내 특정 콘텐츠 자동 차단 시스템 및 방법 |
| KR20230135815A (ko) | 2022-03-17 | 2023-09-26 | 고태건 | 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법 |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100670815B1 (ko) | 2005-12-08 | 2007-01-19 | 한국전자통신연구원 | 순차적 데이터 처리 기반의 유해 멀티미디어 서비스 차단장치 및 그 방법 |
| KR100779074B1 (ko) | 2005-10-27 | 2007-11-27 | 한국전자통신연구원 | 시간별 특징값을 이용한 유해 동영상 판별 방법 및 그 장치 |
| KR20090003574A (ko) * | 2007-07-03 | 2009-01-12 | 엘지전자 주식회사 | 유해정보 차단 방법 및 시스템 |
| KR20100124983A (ko) * | 2009-05-20 | 2010-11-30 | 인포뱅크 주식회사 | 유해물 차단 서비스 시스템 및 방법 |
| KR20150051711A (ko) | 2013-11-05 | 2015-05-13 | 한국전자통신연구원 | 유해 콘텐츠 영상 차단을 위한 피부 영역 추출 장치 및 방법 |
| KR20150073429A (ko) * | 2013-12-23 | 2015-07-01 | (주)티디엘 | 유해영상 분석 시스템 |
-
2017
- 2017-01-22 KR KR1020170010113A patent/KR101711833B1/ko active IP Right Grant
Patent Citations (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100779074B1 (ko) | 2005-10-27 | 2007-11-27 | 한국전자통신연구원 | 시간별 특징값을 이용한 유해 동영상 판별 방법 및 그 장치 |
| KR100670815B1 (ko) | 2005-12-08 | 2007-01-19 | 한국전자통신연구원 | 순차적 데이터 처리 기반의 유해 멀티미디어 서비스 차단장치 및 그 방법 |
| KR20090003574A (ko) * | 2007-07-03 | 2009-01-12 | 엘지전자 주식회사 | 유해정보 차단 방법 및 시스템 |
| KR101428037B1 (ko) | 2007-07-03 | 2014-08-07 | 엘지전자 주식회사 | 유해정보 차단 방법 및 시스템 |
| KR20100124983A (ko) * | 2009-05-20 | 2010-11-30 | 인포뱅크 주식회사 | 유해물 차단 서비스 시스템 및 방법 |
| KR20150051711A (ko) | 2013-11-05 | 2015-05-13 | 한국전자통신연구원 | 유해 콘텐츠 영상 차단을 위한 피부 영역 추출 장치 및 방법 |
| KR20150073429A (ko) * | 2013-12-23 | 2015-07-01 | (주)티디엘 | 유해영상 분석 시스템 |
Cited By (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102150226B1 (ko) * | 2020-02-19 | 2020-08-31 | 주식회사 플랜티넷 | 스마트 tv 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법 |
| KR20210037625A (ko) * | 2020-03-31 | 2021-04-06 | 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 | 동영상 재생 방법, 장치, 전자기기와 저장매체 |
| US11368754B2 (en) | 2020-03-31 | 2022-06-21 | Baidu Online Network Technology (Beijing) Co., Ltd. | Video playing method, apparatus, electronic device and storage medium |
| KR102470106B1 (ko) * | 2020-03-31 | 2022-11-23 | 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 | 동영상 재생 방법, 장치, 전자기기와 저장매체 |
| KR20230135815A (ko) | 2022-03-17 | 2023-09-26 | 고태건 | 인공지능을 이용한 유해 컨텐츠 필터링 시스템 및 방법 |
| KR102472447B1 (ko) * | 2022-06-13 | 2022-11-30 | (주)유알피시스템 | 머신러닝을 이용한 복합 문서내 특정 콘텐츠 자동 차단 시스템 및 방법 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Fang et al. | Poisoning attacks to graph-based recommender systems | |
| Kharrazi et al. | Image steganography and steganalysis: Concepts and practice | |
| KR101711833B1 (ko) | 유해 멀티미디어 컨텐츠 분석 및 차단 시스템 | |
| Tariq et al. | Gan is a friend or foe? a framework to detect various fake face images | |
| CN104205865B (zh) | 用于认证视频内容的方法和装置 | |
| Shojae Chaeikar et al. | PSW statistical LSB image steganalysis | |
| CN110023946A (zh) | 在现场图像捕捉期间的欺骗攻击检测 | |
| US20090041294A1 (en) | System for Applying Content Categorizations of Images | |
| KR20060028853A (ko) | 네트워크의 유해 피투피 트래픽 선별 차단 방법 및 장치 | |
| CN111866600B (zh) | 用于保护隐私的方法、装置和系统 | |
| US11611773B2 (en) | System of video steganalysis and a method for the detection of covert communications | |
| KR20190066218A (ko) | 유해물 관리 방법, 이를 실행하는 컴퓨팅 장치 및 컴퓨터 프로그램 | |
| Wang et al. | Where did i come from? origin attribution of ai-generated images | |
| Koenig | “Half the truth is often a great lie”: deep fakes, open source information, and international criminal law | |
| Fernandes et al. | Benford's law applied to digital forensic analysis | |
| Na et al. | Closing the loophole: rethinking reconstruction attacks in federated learning from a privacy standpoint | |
| US12099599B2 (en) | Apparatuses and methods for detecting malware | |
| Uçan et al. | Deepfake and security of video conferences | |
| Wang et al. | Alteration-free and model-agnostic origin attribution of generated images | |
| Kumar et al. | Image steganography analysis based on deep learning | |
| Peng et al. | Face morphing attack detection and attacker identification based on a watchlist | |
| Lin et al. | Moving object detection in the encrypted domain | |
| Qiao et al. | Geographical position spoofing detection based on camera sensor fingerprint | |
| Twenning et al. | Using Perceptual Hashing for Targeted Content Scanning | |
| Zawawi et al. | Active warden as the main hindrance for steganography information retrieval |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| A302 | Request for accelerated examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant | ||
| FPAY | Annual fee payment |
Payment date: 20200224 Year of fee payment: 4 |