KR20150073429A - 유해영상 분석 시스템 - Google Patents

유해영상 분석 시스템 Download PDF

Info

Publication number
KR20150073429A
KR20150073429A KR1020130161110A KR20130161110A KR20150073429A KR 20150073429 A KR20150073429 A KR 20150073429A KR 1020130161110 A KR1020130161110 A KR 1020130161110A KR 20130161110 A KR20130161110 A KR 20130161110A KR 20150073429 A KR20150073429 A KR 20150073429A
Authority
KR
South Korea
Prior art keywords
image
harmful
based blocking
hash
blocking technique
Prior art date
Application number
KR1020130161110A
Other languages
English (en)
Inventor
김유신
Original Assignee
(주)티디엘
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by (주)티디엘 filed Critical (주)티디엘
Priority to KR1020130161110A priority Critical patent/KR20150073429A/ko
Priority to PCT/KR2014/011535 priority patent/WO2015099303A1/ko
Publication of KR20150073429A publication Critical patent/KR20150073429A/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454—Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4542—Blocking scenes or portions of the received content, e.g. censoring scenes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
    • H04N21/2343—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements
    • H04N21/234345—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving reformatting operations of video signals for distribution or compliance with end-user requests or end-user device requirements the reformatting operation being performed only on part of the stream, e.g. a region of the image or a time segment
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Information Transfer Between Computers (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

유해영상 분석 시스템이 개시된다. 본 발명의 실시예에 따른 유해영상 분석 시스템은, 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석하는 분석 서버와, 콘텐츠 등록자 단말기로부터 온라인(online)상에 영상 업로드 요청이 있거나 사용자 단말기로부터 온라인상의 영상에 대한 재생 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석을 상기 분석 서버에 요청하여 상기 분석결과에 따라 상기 업로드 요청된 영상의 업로드 또는 상기 재생 요청된 영상의 재생을 제어하는 웹 서버를 포함한다.

Description

유해영상 분석 시스템{SYSTEM OF ANALYZING HARMFUL IMAGE}
본 발명은 유해영상 분석 시스템에 관한 것으로, 더욱 자세하게는 해시 및 DB 기반 차단 기법과 영상 중 인체관심영역(ROI)에만 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유행 영상을 검출해서 유해 영상이 온라인상에 업로드 되거나 유해 영상의 재생 및 재생차단을 제어하는 기술에 관한 것이다.
인터넷은 정보의 바다라고 불릴 정도로 다양한 정보들이 존재할 뿐만 아니라 사용이 편리하여, 현대를 살아가는 많은 사람의 일상생활 일부가 되어 사회적, 경제적, 학문적인 측면에 있어서 긍정적인 면을 제공한다. 그러나 이러한 긍정적인 면에 반하여, 인터넷의 개방성, 상호연결성, 익명성의 특징을 이용한 유해 정보의 무분별한 유포는 심각한 사회 문제로 대두 되고 있다. 이러한 환경은 가치 판단력이 떨어지고 자기 통제력이 약한 청소년들을 유혹하여 정서적, 정신적 해악을 끼칠 수 있다. 그러므로 사회적 약자인 청소년 또는 원치 않는 사람들이 유해 정보에 노출되지 않도록 유해 정보를 차단하는 방법이 필요하다.
종래 유해 영상을 차단하는 방법으로는 메타 데이터 및 텍스트 정보 기반 차단 기법, 해시 및 DB 기반 차단 기법, 내용 기반 차단 기법 등이 있다. 메타 데이터 및 텍스트 정보 기반 차단기법은 영상의 제목, 파일이름, 설명에 포함된 텍스트의 유해성을 분석하여 영상의 유해성을 판단하는 방법으로서, 높은 과차단율 및 오차단율을 나타낸다. 해시 및 DB 기반 차단 기법은 기존에 알려진 유해 영상의 해시값을 계산하여 데이터베이스화한 후, 입력으로 들어온 새로운 영상의 유해성을 판단하기 위해서 영상의 해시값을 계산해서 이를 이전에 구축한 데이터베이스와 비교하여 영상의 유해성을 판단하는 방법이다. 이 방법은 유해 영상이 증가하면 증가할수록 해시값 데이터베이스의 크기가 증가할 뿐만 아니라, 영상의 유해성을 판단하는 계산량이 증가하는 문제점을 갖는다. 또한 이미 알려진 유해 영상이라도 약간의 변형을 통해 해시값이 변한다면 이를 차단하지 못한다는 문제점을 갖는다.
최근에 등장한 내용 기반 차단 기법은 유해 영상의 내용을 분석하여 특징을 추출하고, 그 특징으로부터 유해 분류 모델을 생성한 후, 기생성된 유해 분류 모델에 근거하여 입력으로 들어온 영상의 유해성을 판단한다. 이 방법은 메타 데이터 및 텍스트 기반 차단 기법에서 나타나는 높은 과차단율 및 오차단율을 해결하고 해시 및 DB 기반 차단 기법의 데이터베이스 크기 및 계산량 문제를 해결하였다.
그러나 대부분의 내용 기반 차단 기법은 유해 영상의 특징으로 색상(color), 질감(texture), 형태(shape)와 같은 저수준 특징으로 사용하거나 영상 검색에 주로 사용되는 MPEG-기술자(Descriptor)를 주로 사용한다. 이러한 정보는 유해 영상의 특징을 제대로 반영하지 못하여 낮은 차단율과 높은 오차단율을 보인다. 이러한 문제점을 해결하기 위해, 최근 새로운 접근법에서는 화소(pixel) 단위로 피부색을 탐지하여 영상에서의 피부색과 비피부색 비율 등을 유해성 판단의 특징으로 활용하기도 한다. 그러나 이러한 특징을 사용하는 접근법은 영상(image) 전체에서 인체 부분을 탐지해 내는 기술로서 유해 영상이 아닌 경우인데도 피부색이 차지하는 비중이 높은 경우에 유해 영상으로 판단할 수 있다는 문제점을 가진다.
본 발명과 관련된 선행문헌으로는 대한민국 공개특허 제10-2010-0089349호(공개일 : 2010년 08월 12일)가 있다.
해시 및 DB 기반 차단 기법과 영상 중 인체관심영역(ROI)에만 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유행 영상을 검출해서 유해 영상이 온라인상에 업로드 되거나 유해 영상의 재생 및 재생차단을 제어하는 유해영상 분석 시스템이 제안된다.
본 발명의 해결하고자 하는 과제는 이상에서 언급한 과제로 제한되지 않으며, 언급되지 않은 또 다른 과제들은 아래의 기재로부터 당업자에게 명확하게 이해될 수 있을 것이다.
본 발명의 일 양상에 따른 유해영상 분석 시스템은, 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석하는 분석 서버; 와 콘텐츠 등록자 단말기로부터 온라인(online)상에 영상 업로드 요청이 있거나 사용자 단말기로부터 온라인상의 영상에 대한 재생 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석을 상기 분석 서버에 요청하여 상기 분석결과에 따라 상기 업로드 요청된 영상의 업로드 또는 상기 재생 요청된 영상의 재생 및 재생차단을 제어하는 웹 서버를 포함한다.
상기 유해영상 분석 시스템은, 적어도 하나의 유행 영상 정보를 저장하는 데이터베이스를 더 포함하며, 상기 분석 서버는, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상이 유해 영상인가를 상기 데이터베이스를 검색하여 파악하고, 상기 데이터베이스의 검색 결과 유해 영상에 해당 되지 않은 것으로 판단된 경우에 상기 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석할 수 있다.
상기 분석 서버는, 상기 해시 및 DB 기반 차단 기법과 상기 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석하는 경우, 상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석할 수 있다.
상기 분석 서버는, 상기 해시 및 DB 기반 차단 기법의 적용을 위해서 적어도 하나의 유해 영상의 해시 값을 데이터베이스로 구축하고 있으며, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 해시 값이 상기 데이터베이스로 구축된 적어도 하나의 유해 영상의 해시 값에 해당되는가를 판단하여 유해 여부를 분석할 수 있다.
본 발명의 다른 양상에 따른 유해영상 분석 시스템은, 영상의 해시값이 적어도 하나의 유해영상의 해시값으로 구축된 데이터베이스에 포함되어 있는지로 영상의 유해 여부를 판단하는 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석하는 분석 서버; 와 영상의 재생 요청에 따라 영상의 해시값 및 인체관심영역(ROI)의 특징점을 계산하여 상기 분석 서버에 전송하여 상기 재생 요청된 영상의 유해 여부의 분석을 요청해서 분석 결과에 따라 상기 재생 요청된 영상의 재생 및 재생차단을 제어하는 사용자 단말기를 포함한다.
상기 분석 서버는, 상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석할 수 있다.
본 발명의 실시예에 따른 유해영상 분석 시스템에 따르면, 해시 및 DB 기반 차단 기법과 영상 중 인체관심영역(ROI)에만 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유행 영상을 검출해서 유해 영상이 온라인상에 업로드 되거나 유해 영상의 재생 및 재생차단을 제어함으로써, 사회적 약자인 청소년 또는 원치 않는 사람들이 유해 정보에 노출되지 않도록 할 수 있다.
도 1은 본 발명의 일 실시예에 따른 유해영상 분석 시스템의 구성을 나타낸 도면이다.
도 2는 본 발명의 다른 실시예에 따른 유해영상 분석 시스템의 구성을 나타낸 도면이다.
이하, 첨부된 도면을 참조하여 본 발명의 바람직한 실시예를 상세히 설명하기로 한다.　
본 발명의 실시예들은 당해 기술 분야에서 통상의 지식을 가진 자에게 본 발명을 더욱 완전하게 설명하기 위하여 제공되는 것이며, 아래의 실시예들은 여러 가지 다른 형태로 변형될 수 있으며, 본 발명의 범위가 아래의 실시예들로 한정되는 것은 아니다. 오히려, 이들 실시예는 본 개시를 더욱 충실하고 완전하게 하며 당업자에게 본 발명의 사상을 완전하게 전달하기 위하여 제공되는 것이다.　
본 명세서에서 사용된 용어는 특정 실시예를 설명하기 위하여 사용되며, 본 발명을 제한하기 위한 것이 아니다. 본 명세서에서 사용된 바와 같이 단수 형태는 문맥상 다른 경우를 분명히 지적하는 것이 아니라면, 복수의 형태를 포함할 수 있다. 또한, 본 명세서에서 사용되는 경우 "포함한다(comprise)" 및/또는"포함하는(comprising)"은 언급한 형상들, 숫자, 단계, 동작, 부재, 요소 및/또는 이들 그룹의 존재를 특정하는 것이며, 하나 이상의 다른 형상, 숫자, 동작, 부재, 요소 및/또는 그룹들의 존재 또는 부가를 배제하는 것이 아니다. 본 명세서에서 사용된 바와 같이, 용어 "및/또는"은 해당 열거된 항목 중 어느 하나 및 하나 이상의 모든 조합을 포함한다.　
본 명세서에서 제1, 제2 등의 용어가 다양한 부재, 영역 및/또는 부위들을 설명하기 위하여 사용되지만, 이들 부재, 부품, 영역, 층들 및/또는 부위들은 이들 용어에 의해 한정되어서는 안됨은 자명하다. 이들 용어는 특정 순서나 상하, 또는 우열을 의미하지 않으며, 하나의 부재, 영역 또는 부위를 다른 부재, 영역 또는 부위와 구별하기 위하여만 사용된다. 따라서, 이하 상술할 제1 부재, 영역 또는 부위는 본 발명의 가르침으로부터 벗어나지 않고서도 제2 부재, 영역 또는 부위를 지칭할 수 있다.
이하, 본 발명의 실시예들은 본 발명의 실시예들을 개략적으로 도시하는 도면들을 참조하여 설명한다. 도면들에 있어서, 예를 들면, 제조 기술 및/또는 공차에 따라, 도시된 형상의 변형들이 예상될 수 있다. 따라서, 본 발명의 실시예는 본 명세서에 도시된 영역의 특정 형상에 제한된 것으로 해석되어서는 아니 되며, 예를 들면 제조상 초래되는 형상의 변화를 포함하여야 한다.
도 1은 본 발명의 일 실시예에 따른 유해영상 분석 시스템의 구성을 나타낸 도면이다.
도 1을 참조하면, 본 발명에 일 실시예에 따른 유해영상 분석 시스템은 분석 서버(20)와 웹 서버(10)를 포함한다. 이때, 분석 서버(20)와 웹 서버(10)는 서로 데이터 통신을 수행하기 위해서 인터넷 등과 네트워크에 연결되어 데이터 통신을 수행할 수 있다. 이에 따라 분석 서버(20)와 웹 서버(10)는 각각 내부에 상기 네트워크에 연결되어 데이터 통신을 수행하는 통신모듈(도시하지 않음)을 구비하고 있어야 한다. 한편 콘텐츠 등록자 단말기(1) 및 사용자 단말기(2)로 인터넷 등과 같은 네트워크에 연결되어 데이터 통신을 수행할 수 있는 통신모듈을 구비하고 있어야 한다. 콘텐츠 등록자 단말기(1)는 도 1에서 노트북으로 표시되어 있으나 이에 한정되지 않지 않고 인터넷 등과 같은 네트워크 연결되어 데이터 통신을 수행할 수 있는 단말기라면 어느 것이라도 무방하다. 마찬가지로 사용자 단말기(2)는 도 1에서 개인용 컴퓨터로 표시되어 있으나 이에 한정되지 않고 인터넷 등과 같은 네트워크에 연결되어 데이터 통신을 수행할 수 있는 단말기라면 어느 것이라도 무방하다.
분석 서버(20)는 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석한다.
이때 해시 및 DB 기반 차단 기법은 미리 유해 영상의 해시값을 계산하여 데이터베이스화한 후, 입력으로 들어온 새로운 영상의 유해성을 판단하기 위해서 새로운 영상의 해시값을 계산한 후 이전에 구축한 데이터베이스와 비교하여 새로운 영상의 유해성을 판단하는 방법이다. 따라서 분석 서버(10)는 상기 해시 및 DB 기반 차단 기법의 적용을 위해서 적어도 하나의 유해 영상의 해시 값을 데이터베이스로 구축하고 있으며, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 해시 값이 상기 데이터베이스로 구축된 적어도 하나의 유해 영상의 해시 값에 해당되는가를 판단하여 유해 여부를 분석할 수 있다.
하지만 이러한 해시 및 DB 기반 차단 기법을 통한 유해영상 판단방법은 이미 알려진 유해 영상이라도 약간의 변형을 통해서 해시값이 변경된 경우에 이를 차단할 수 없다는 문제점을 갖는다.
따라서 이 문제점을 보완하기 위해서 상기 분석 서버(20)는 해시 및 DB 기반 차단 기법 및 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 새로운 영상의 유해 여부를 분석하고 있다. 이때 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법은 영상 중 인체관심영역(ROI), 예를 들어 얼굴, 가슴, 성기 등의 특징점을 추출하고 그 특징점으로부터 유해 분류 모델을 생성한 후 기생성된 유해 분류 모델에 근거하여 입력으로 들어온 영상의 유해성을 판단하는 방법으로, 메타 데이터 및 텍스트 기반 차단 기법에서 나타나는 높은 과차단율 및 오차단율을 해결하고 해시 및 DB 기반 차단 기법의 데이터베이스 크기 및 계산량 문제를 해결한 방법이며, 또한 인체관심영역으로만 한정하여 특징점을 추출하므로 유해 영상이 아닌 경우인데도 피부색이 차지하는 비중이 높은 경우에 유해 영상으로 판단될 수 있는 문제점을 해결할 수 있게 된다.
결국 상기 분석 서버(20)는 해시 및 DB 기반 차단 기법을 적용하여 새로운 영상의 유해 여부를 분석하는 해시 분석부(21)와 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법으로 새로운 영상의 유해 여부를 분석하는 특징점 분석부(22)를 포함할 수 있다.
웹 서버(10)는 콘텐츠 등록자 단말기(1)로부터 온라인(online)상에 영상 업로드 요청이 있거나 사용자 단말기(2)로부터 온라인상의 영상에 대한 재생 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석을 상기 분석 서버(20)에 요청하여 상기 분석결과에 따라 상기 업로드 요청된 영상의 업로드 또는 상기 재생 요청된 영상의 재생 및 재생차단을 제어할 수 있다. 즉 유해 영상인 경우 상기 업로드 요청된 영상을 업로드를 차단하거나 상기 재생 요청된 영상의 재생을 차단하며, 반면 유해 영상이 아닌 경우 상기 업로드 요청된 영상을 온라인상에 업로드하거나 상기 재생 요청된 영상이 사용자 단말기(2)에서 재생되도록 제어할 수 있다.
한편 상기 본 발명의 일 실시예에 따른 유해영상 분석 시스템은 적어도 하나의 유행 영상 정보를 저장하는 데이터베이스(30)를 더 포함할 수 있다.
이에 따라 분석 서버(20)는 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상이 유해 영상인가를 상기 데이터베이스(30)를 검색하여 파악하고, 상기 데이터베이스의 검색 결과 유해 영상에 해당 되지 않은 것으로 판단된 경우에 상기 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석할 수 있다. 이때 분석 서버(20)는, 상기 해시 및 DB 기반 차단 기법과 상기 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석하는 경우, 상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석할 수 있다. 그러나 이와 같은 분석 순서는 일 실시예에 불과하며 이에 한정되지는 않는다. 즉 분석 서버(20)는 순서를 바꾸어서 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 먼저 수행해서 유해 여부를 분석해서 유해 여부를 분석할 수 없는 경우에 해시 및 DB 기반 차단 기법을 적용해서 영상의 유해 여부를 분석할 수 있다. 또 다르게 분석 서버(20)는 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 동시에 수행해서 영상의 유해 여부를 분석할 수도 있다.
도 2는 본 발명의 다른 실시예에 따른 유해영상 분석 시스템의 구성을 나타낸 도면이다.
도 2를 참조하면, 본 발명의 다른 양상에 따른 유해영상 분석 시스템은, 사용자 단말기(50)와 분석 서버(60)를 포함하며, 상기 사용자 단말기(50)와 분석 서버(60)는 인터넷 등과 같은 네트워크를 통해 연결되어 데이터 통신을 수행하며, 이를 위해서 통신 모듈(미도시)을 구비하고 있어야 한다.
분석 서버(60)는 영상의 해시값이 적어도 하나의 유해영상의 해시값으로 구축된 데이터베이스(미도시)에 포함되어 있는지로 영상의 유해 여부를 판단하는 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석한다. 이를 위해서 분석 서버(60)는 상기 해시 및 DB 기반 차단 기법을 적용하여 영상의 유해 여부를 분석하는 해시 분석부(61)와 상기 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 적용하여 영상의 유해 여부를 분석하는 특징점 분석부(62)를 포함할 수 있다.
이때 분석 서버(60)는 상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석할 수 있다. 그러나 이는 일 실시예에 불과하며 이에 한정되지 않는다. 즉 상기 수정된 내용기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해서 유해 영상 여부가 분석되지 않는 경우에 상기 해시 및 DB기반 차단 기법을 적용하여 유해 영상 여부를 분석할 수 있다. 이와 다르게 상기 해시 및 DB 기반 차단 기법 및 상기 수정된 내용기반 차단 기법을 동시에 적용해서 유해 영상 여부를 분석할 수도 있다.
사용자 단말기(50)는 영상의 재생 요청에 따라 영상의 해시값 및 인체관심영역(ROI)의 특징점을 계산하여 분석 서버(60)에 전송하여 상기 재생 요청된 영상의 유해 여부의 분석을 요청해서 분석 결과에 따라 상기 재생 요청된 영상의 재생 및 재생차단을 제어한다. 이를 위해서 사용자 단말기(50)는 영상의 재생 요청에 따라 영상의 해시값 및 인체관심영역(ROI)의 특징점을 계산하여 분석 서버(60)에 전송하여 상기 재생 요청된 영상의 유해 여부의 분석을 요청하는 시스템 에이전트(52)와 상기 분석 서버(60)의 분석 결과에 따라 상기 재생 요청된 영상의 재생 및 재생차단을 제어하는 재생 제어부(53)를 포함하는 재생부(51)를 구비한다. 이때 재생 제어부(53)는 분석 서버(60)의 분석 결과 상기 재생 요청된 영상이 유해 영상으로 분석된 경우 상기 재생 요청된 영상의 영상을 금지하고 유해 영상이 아닌 것으로 분석된 경우 상기 재생 요청된 영상을 상기 사용자 단말기(50)의 화면(미도시)을 통해서 재생한다.
이제까지 본 발명에 대하여 실시예들을 중심으로 살펴보았다. 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자는 본 발명의 본질적인 특성에서 벗어나지 않는 범위에서 변형된 형태로 구현될 수 있음을 이해할 수 있을 것이다. 그러므로 개시된 실시예들은 한정적인 관점이 아니라 설명적인 관점에서 고려되어야 한다. 따라서 본 발명의 범위는 전술한 실시예에 한정되지 않고 특허청구범위에 기재된 내용 및 그와 동등한 범위 내에 있는 다양한 실시 형태가 포함되도록 해석되어야 할 것이다.

Claims (6)

  1. 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석하는 분석 서버; 와
    콘텐츠 등록자 단말기로부터 온라인(online)상에 영상 업로드 요청이 있거나 사용자 단말기로부터 온라인상의 영상에 대한 재생 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석을 상기 분석 서버에 요청하여 상기 분석결과에 따라 상기 업로드 요청된 영상의 업로드 또는 상기 재생 요청된 영상의 재생 및 재생차단을 제어하는 웹 서버를 포함하는 것을 특징으로 하는 유해영상 분석 시스템.
  2. 청구항 1에 있어서,
    상기 유해영상 분석 시스템은,
    적어도 하나의 유행 영상 정보를 저장하는 데이터베이스를 더 포함하며,
    상기 분석 서버는, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 유해 여부에 대한 분석 요청에 따라, 상기 업로드 요청된 영상 또는 상기 재생 요청된 영상이 유해 영상인가를 상기 데이터베이스를 검색하여 파악하고, 상기 데이터베이스의 검색 결과 유해 영상에 해당 되지 않은 것으로 판단된 경우에 상기 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석하는 것을 특징으로 하는 유해영상 분석 시스템.
  3. 청구항 1 또는 청구항 2에 있어서,
    상기 분석 서버는,
    상기 해시 및 DB 기반 차단 기법과 상기 수정된 내용기반 차단 기법을 혼용하여 유해 영상 여부를 분석하는 경우, 상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석하는 것을 특징으로 하는 유해영상 분석 시스템.
  4. 청구항 1에 있어서,
    상기 분석 서버는,
    상기 해시 및 DB 기반 차단 기법의 적용을 위해서 적어도 하나의 유해 영상의 해시 값을 데이터베이스로 구축하고 있으며,
    상기 업로드 요청된 영상 또는 상기 재생 요청된 영상의 해시 값이 상기 데이터베이스로 구축된 적어도 하나의 유해 영상의 해시 값에 해당되는가를 판단하여 유해 여부를 분석하는 것을 특징으로 하는 유해영상 분석 시스템.
  5. 영상의 해시값이 적어도 하나의 유해영상의 해시값으로 구축된 데이터베이스에 포함되어 있는지로 영상의 유해 여부를 판단하는 해시 및 DB 기반 차단 기법과 인체관심영역(ROI)의 특징점을 추출하는 수정된 내용기반 차단 기법을 혼용하여 영상의 유해 여부를 분석하는 분석 서버; 와
    영상의 재생 요청에 따라 영상의 해시값 및 인체관심영역(ROI)의 특징점을 계산하여 상기 분석 서버에 전송하여 상기 재생 요청된 영상의 유해 여부의 분석을 요청해서 분석 결과에 따라 상기 재생 요청된 영상의 재생 및 재생차단을 제어하는 사용자 단말기를 포함하는 유해영상 분석 시스템.
  6. 청구항 5에 있어서,
    상기 분석 서버는,
    상기 해시 및 DB 기반 차단 기법을 먼저 적용하여 유해 영상 여부를 분석하고 이를 통해 유해 영상 여부가 분석되지 않은 경우에 상기 수정된 내용기반 차단 기법을 적용하여 유해 영상 여부를 분석하는 것을 특징으로 하는 유해영상 분석 시스템.
KR1020130161110A 2013-12-23 2013-12-23 유해영상 분석 시스템 KR20150073429A (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020130161110A KR20150073429A (ko) 2013-12-23 2013-12-23 유해영상 분석 시스템
PCT/KR2014/011535 WO2015099303A1 (ko) 2013-12-23 2014-11-28 유해영상 분석 시스템

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020130161110A KR20150073429A (ko) 2013-12-23 2013-12-23 유해영상 분석 시스템

Publications (1)

Publication Number Publication Date
KR20150073429A true KR20150073429A (ko) 2015-07-01

Family

ID=53479111

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020130161110A KR20150073429A (ko) 2013-12-23 2013-12-23 유해영상 분석 시스템

Country Status (2)

Country Link
KR (1) KR20150073429A (ko)
WO (1) WO2015099303A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101711833B1 (ko) * 2017-01-22 2017-03-13 주식회사 이노솔루텍 유해 멀티미디어 컨텐츠 분석 및 차단 시스템
KR20200087306A (ko) * 2018-12-28 2020-07-21 비비트리 주식회사 이미지 크라우드소싱 시스템 및 저작물 배포 방법

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100658799B1 (ko) * 2005-08-17 2006-12-19 (주)엠아이티소프트 음란이미지 차단 서비스 시스템과, 음란이미지 판단 방법및 차단 방법
CN101317376B (zh) * 2006-07-11 2011-04-20 华为技术有限公司 内容过滤系统、装置及方法
KR101428037B1 (ko) * 2007-07-03 2014-08-07 엘지전자 주식회사 유해정보 차단 방법 및 시스템
KR20130005158A (ko) * 2011-07-05 2013-01-15 (주)마이크로다이스 유해 사이트 차단 시스템 및 방법

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101711833B1 (ko) * 2017-01-22 2017-03-13 주식회사 이노솔루텍 유해 멀티미디어 컨텐츠 분석 및 차단 시스템
KR20200087306A (ko) * 2018-12-28 2020-07-21 비비트리 주식회사 이미지 크라우드소싱 시스템 및 저작물 배포 방법

Also Published As

Publication number Publication date
WO2015099303A1 (ko) 2015-07-02

Similar Documents

Publication Publication Date Title
US20210271357A1 (en) Virtual teller systems and methods
US10432562B2 (en) Reducing photo-tagging spam
KR102427412B1 (ko) 검색 질의에 기반하는 소스 이미지로부터의 얼굴과 타겟 이미지와의 조합
CN111783902B (zh) 数据增广、业务处理方法、装置、计算机设备和存储介质
Shih et al. MSTN: Multistage spatial-temporal network for driver drowsiness detection
Lee et al. A smart TV system with body-gesture control, tag-based rating and context-aware recommendation
US20160342851A1 (en) Computerized system and method for determining authenticity of users via facial recognition
US20140281975A1 (en) System for adaptive selection and presentation of context-based media in communications
CN109923543B (zh) 通过生成视频帧的多个部分的指纹来检测立体视频的方法、系统和介质
EP3267333A1 (en) Local processing of biometric data for a content selection system
WO2021127841A1 (zh) 属性识别方法、装置、存储介质及电子设备
CN110647651A (zh) 基于卷积神经网络的表情识别音乐推荐系统
KR20220016217A (ko) 디바이스들의 네트워크에서 사람 인식가능성을 사용하는 시스템 및 방법
US20110142346A1 (en) Apparatus and method for blocking objectionable multimedia based on skin color and face information
US10805255B2 (en) Network information identification method and apparatus
Nappi et al. Context awareness in biometric systems and methods: State of the art and future scenarios
KR101384317B1 (ko) 멀티모달 및 멀티스케일 특징 기반 유해 영상 차단 장치 및 방법
CN112749558A (zh) 一种目标内容获取方法、装置、计算机设备和存储介质
CN112995757B (zh) 视频剪裁方法及装置
KR20150073429A (ko) 유해영상 분석 시스템
US11363027B2 (en) Media data based user profiles
US20230386255A1 (en) Method and system for verifying image identification
Steil et al. Privaceye: Privacy-preserving first-person vision using image features and eye movement analysis
CN110516426A (zh) 身份认证方法、认证终端、装置及可读存储介质
CN104065614B (zh) 信息处理方法和信息处理设备

Legal Events

Date Code Title Description
WITN Application deemed withdrawn, e.g. because no request for examination was filed or no examination fee was paid