KR101496632B1 - 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법 - Google Patents

안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법 Download PDF

Info

Publication number
KR101496632B1
KR101496632B1 KR1020100109383A KR20100109383A KR101496632B1 KR 101496632 B1 KR101496632 B1 KR 101496632B1 KR 1020100109383 A KR1020100109383 A KR 1020100109383A KR 20100109383 A KR20100109383 A KR 20100109383A KR 101496632 B1 KR101496632 B1 KR 101496632B1
Authority
KR
South Korea
Prior art keywords
content
harmful
mobile terminal
server
analysis result
Prior art date
Application number
KR1020100109383A
Other languages
English (en)
Other versions
KR20120047686A (ko
Inventor
최병철
임재덕
한승완
Original Assignee
한국전자통신연구원
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 한국전자통신연구원 filed Critical 한국전자통신연구원
Priority to KR1020100109383A priority Critical patent/KR101496632B1/ko
Priority to US13/285,079 priority patent/US20120115447A1/en
Publication of KR20120047686A publication Critical patent/KR20120047686A/ko
Application granted granted Critical
Publication of KR101496632B1 publication Critical patent/KR101496632B1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L63/00—Network architectures or network communication protocols for network security
    • H04L63/02—Network architectures or network communication protocols for network security for separating internal from external traffic, e.g. firewalls
    • H04L63/0227—Filtering policies
    • H04L63/0245—Filtering by information in the payload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04W—WIRELESS COMMUNICATION NETWORKS
    • H04W12/00—Security arrangements; Authentication; Protecting privacy or anonymity
    • H04W12/12—Detection or prevention of fraud
    • H04W12/128—Anti-malware arrangements, e.g. protection against SMS fraud or mobile malware

Abstract

본 발명은 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법을 개시한다. 상기 안심 콘텐츠 서비스를 위한 시스템은 신규 콘텐츠가 발생하면 상기 콘텐츠의 메타 정보를 추출하는 제1 이동단말과, 상기 제1 단말로부터 상기 콘텐츠의 메타 정보를 수신하고 상기 메타 정보에 포함된 상기 콘텐츠에 관련된 파일 이름 및 해쉬값에 기초하여 상기 콘텐츠가 유해한 지를 분석하여 분석 결과를 출력하는 서버와, 상기 서버로부터 분석 결과를 수신하는 상기 제2 이동단말을 포함한다. 본 발명에 의하면, 스마트폰과 같은 휴대단말에서 청소년들이 콘텐츠를 안전하게 이용할 수 있도록 유해 콘텐츠에 노출되는 것을 차단할 수 있는 서비스의 제공이 가능하다.

Description

안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법{System for safe contents service for youths and method therefor}
본 발명은 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법에 관한 것이다.
"본 발명은 지식경제부/방송통신위원회 및 한국산업기술평가관리원의 IT성장동력기술개발사업의 일환으로 수행한 연구로부터 도출된 것이다[과제고유번호:2009-F-054-01, 과제명: 유해 멀티미디어 콘텐츠 분석/차단 기술개발]."
최근 스마트폰의 활성화로 모바일 디바이스에서의 멀티미디어 콘텐츠의 이용이 일반화되고 있다. 여기에는 청소년들에게 유해한 콘텐츠가 다수 포함되어 있으며, 이에 청소년들에게 이러한 콘텐츠에 장기적으로 노출되는 것을 차단할 필요가 있다.
그러나, 청소년들이 휴대하고 있는 이동 장치를 통해 유해 콘텐츠를 보거나 이용하는 것을 부모나 다른 보호자가 24시간 확인할 수 없다. 또한, 이동 장치가 콘텐츠 자체를 재생하지 못하도록 차단하는 것도 여러 이유로 불합리적이다.
이에 따라, 스마트폰과 같은 이동단말을 통하여 멀티미디어 콘텐츠(이미지/동영상)를 이용하는 청소년을 위한 안심 콘텐츠를 위한 서비스 프레임워크가 필요하다.
따라서, 본 발명의 목적은 스마트폰과 같은 휴대단말에서 청소년들에게 유해한 멀티미디어 콘텐츠로부터 장기간 노출되어 있는 것을 방지하기 위해 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법을 제공하는 것이다.
상기 목적을 달성하기 위한 본 발명의 일 측면에 따라, 안심 콘텐츠 서비스를 위한 시스템은 신규 콘텐츠가 발생하면 상기 콘텐츠의 메타 정보를 추출하는 제1 이동단말과, 상기 제1 이동단말로부터 상기 콘텐츠의 메타 정보를 수신하고 상기 메타 정보에 포함된 상기 콘텐츠에 관련된 파일 이름 및 해쉬값에 기초하여 상기 콘텐츠가 유해한 지를 분석하여 분석 결과를 출력하는 서버와, 상기 서버로부터 분석 결과를 수신하는 상기 제2 이동단말을 포함한다.
본 발명의 다른 측면에 따라, 청소년을 위한 제1 이동단말, 서버, 및 보호자를 위한 제2 이동단말을 포함하는 시스템에서 안심 콘텐츠 서비스 방법은 상기 제1 이동단말이 신규 콘텐츠가 발생하면 상기 콘텐츠의 메타 정보를 추출하여 상기 서버로 전송하는 단계와, 상기 서버가 제1 이동단말로부터 상기 콘텐츠의 메타 정보를 수신하는 단계와, 상기 서버가 상기 메타 정보에 포함된 상기 콘텐츠에 관련된 파일 이름 및 해쉬값에 기초하여 상기 콘텐츠가 유해한 지를 분석하여 분석 결과를 출력하는 단계와, 상기 서버가 상기 분석 결과를 상기 제2 이동단말로 전송하는 단계를 포함한다.
본 발명에 의하면, 스마트폰과 같은 휴대단말에서 청소년들이 콘텐츠를 안전하게 이용할 수 있도록 유해 콘텐츠에 노출되는 것을 차단할 수 있는 서비스의 제공이 가능하다.
도 1은 본 발명의 일 실시예에 따른 안심 콘텐츠를 위한 서비스 시스템의 구성도를 나타낸 도면이다.
도 2는 본 발명의 일 실시예에 따른 서버의 구성을 도시한 도면이다.
도 3은 본 발명의 일 실시예에 따라 실시간 분석을 위한 프로세스를 나타낸 메시지 흐름도이다.
도 4는 본 발명의 일 실시예에 따라 비실시간 분석을 위한 프로세스를 나타낸 메시지 흐름도이다.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.
이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다.
이하, 본 발명의 바람직한 실시예를 첨부한 도면을 통해 설명한다.
도 1은 본 발명에 따른 안심 콘텐츠 서비스를 위한 시스템의 구성도를 나타낸 도면이다.
안심 콘텐츠 서비스를 위한 시스템은 제1 이동단말(100), 서버(200), 및 제2 이동단말(300)을 포함한다. 추가적으로 안심 콘텐츠 서비스를 위한 시스템은 이동단말들을 판매하는 대리점(10)을 추가로 포함할 수 있다.
제1 이동단말(100)은 청소년이 소유하고 있고, 제2 이동단말(300)은 청소년의 보호자, 예컨대, 청소년의 부모나 다른 보호자가 소유하고 있다.
제1 이동단말(100)의 사용자, 즉 청소년은 안심 콘텐츠 서비스에 가입한다. 그에 따라 제1 이동단말에는 본 발명의 방법이 수행하기 위한 모듈, 예컨대, 소프트웨어가 설치될 수 있다. 또한, 제1 이동단말(100)과 제2 이동단말은 본 발명에 따른 안심 콘텐츠 서비스에 가입되어 있다.
안심 콘텐츠 서비스를 위해 제1 이동단말(100)에 신규 콘텐츠가 발생되면, 실시간 분석 및 비실시간 분석이 수행된다. 이 경우, 신규 콘텐츠는 제1 이동단말(100)에 신규 콘텐츠가 저장되거나, 신규 콘텐츠가 다운로드되는 것에 의해 발생될 수 있다.
실시간 분석은 콘텐츠가 유해한 지를 실시간적으로 판단할 만큼 처리가 빠르게 이루어지는 분석이고, 비실시간 분석은 콘텐츠가 유해한 지를 판단하는데 상당한 시간이 소요되는 분석이다. 상기 실시간 분석 및 상기 비실시간 분석은 제1 이동단말(100)과 서버(200) 간의 협력에 의해 이루어진다.
본 발명의 실시예들에 따라 신규 콘텐츠가 발생되면, 즉시 또는 짧은 기간 내에 콘텐츠에 대해 실시간 분석이 수행된다. 비실시간 분석은 제1 이동단말(100)의 프로세서 자원 및 서버(200)의 자원을 많이 사용하므로, 제1 이동단말이 거의 사용되지 않는 시간에 수행되는 것이 바람직하다. 예컨대, 비실시간 분석은 제1 이동단말이 거의 사용되지 않는 시간대, 예컨대, 새벽 1시 내지 5시에 수행될 수 있다. 이를 위해 제1 이동단말(100)에서, 비실시간 분석이 수행되는 시간이 미리 설정될 수 있다.
실시간 분석을 위해 제1 이동단말(100)은 신규 콘텐츠가 발생하면 신규 콘텐츠의 메타 정보를 추출하여 서버(200)로 전송한다. 이 때 메타 정보는 신규 콘텐츠 파일의 이름 및 해쉬값을 포함할 수 있다.
서버(200)는 제1 이동단말(100)로부터 메타 정보를 수신하면 메타 정보 중 파일 이름에 기초하여 해당 콘텐츠가 유해한 지를 판단한다.
이를 위해, 서버(200)는 블랙리스트 및 키워드 데이터베이스(410) 및 해쉬값 데이터베이스(420)를 포함한다. 블랙리스트 및 키워드 데이터베이스(410)는 유해한 키워드들을 미리 저장하고 있다. 또한, 해쉬값 데이터베이스(420)는 유해한 콘텐츠들에 대한 해쉬값들을 미리 저장하고 있다. 해쉬값은 인간의 지문처럼 각 파일에 대한 고유값을 의미한다.
서버(200)는 제1 이동단말(100)로부터 신규 콘텐츠에 대한 메타 정보를 수신하면 메타 정보 중 파일 이름을 추출한다. 서버(200)는 추출한 파일 이름을 블랙리스트 및 키워드 데이터베이스(410)에 저장된 키워드들과 비교한다. 비교 결과, 파일 이름이 블랙리스트 및 키워드 데이터베이스(410)에 저장된 키워드들중 하나와 일치하거나, 실질적으로 일치하면 서버(200)는 해당 신규 콘텐츠를 유해한 것으로 판단한다.
서버(200)는 블랙리스트 및 키워드 데이터베이스(410)에 기반하여 콘텐츠가 유해하지 않은 것으로 판단되면, 메타 정보중 파일 해쉬값(hash value)에 기초하여 콘텐츠가 유해한 지를 판단한다. 구체적으로 서버(200)는 해쉬값 데이터베이스(420)에 미리 저장된 해쉬값들과 신규 콘텐츠의 해쉬값을 비교한다. 비교 결과, 신규 콘텐츠의 해쉬값이 해쉬값 데이터베이스(420)에 저장된 해쉬값들 중 하나와 동일하면 서버(200)는 해당 신규 콘텐츠를 유해한 것으로 판단한다.
실시간 분석시, 서버(200)는 제1 이동단말(100)로부터 제공된 메타 정보에 기초하여 신규 콘텐츠가 유해한지를 판단하고, 해당 콘텐츠가 유해하면 분석 결과를 제2 이동단말(300)로 전송한다.
또한, 비실시간 분석을 위해 제1 이동단말(100)은 신규 콘텐츠가 발생하면, 비실시간 분석 실시 조건이 충족되는 지를 판단한다. 비실시간 분석 실시 조건은 전술한 바와 같이, 미리결정된 시간이 되었는 지의 조건이 될 수 있다. 그에 따라 제1 이동단말(100)은 미리결정된 시간, 예컨대, 새벽 1시가 되면, 신규 콘텐츠의 특징값을 추출한다. 구체적으로, 제1 이동단말(100)은 콘텐츠(이미지/동영상)의 컬러, 모양, 질감, 움직임, 소리 정보를 추출한다. 이러한 특징값은 콘텐츠의 내용에 기반하여 추출된다. 콘텐츠로부터 이러한 특징값을 추출하는 기술은 당업계에 공지되어 있으므로, 그 상세한 설명은 생략한다. 예컨대, 제1 이동단말(100)은 신규 콘텐츠로부터 MPEG-7 시각 서술자 특징값을 추출할 수 있다. 제1 이동단말(100)은 신규 콘텐츠에서 특징값을 추출한 후 서버(200)로 전송한다.
서버(200)는 제1 이동단말(100)로부터 신규 콘텐츠의 특징값을 수신하면, 학습 모델 데이터베이스(430)를 참조하여 상기 콘텐츠의 특징값을 이용하여 해당 콘텐츠가 유해한 지를 판단한다. 예컨대, 학습 모델 데이터베이스(430)는 감독형 학습엔진(예컨대, SVM(Support Vector Machine))을 이용한 판단 모델을 저장하고 있다.
비실시간 분석시, 서버(200)는 제1 이동단말(100)로부터 제공된 콘텐츠의 특징값에 기초하여 신규 콘텐츠가 유해한지를 판단하고, 해당 콘텐츠가 유해하면 분석 결과를 제2 이동단말(300)로 전송한다.
이어서, 서버(200)의 구성 및 동작을 도 2를 참조하여 설명한다.
도 2는 본 발명의 일 실시예에 따른 서버(200)의 구성을 도시한 도면이다.
도 2를 참조하면, 서버(200)는 제1 분석부(210), 제2 분석부(220) 및 제3 분석부(230)를 포함한다.
제1 분석부(210)는 블랙리스트 및 키워드 데이터베이스(410)에 저장된 블랙리스트들 또는 키워드들과 제1 이동단말(100)로부터 전송된 콘텐츠의 파일 이름을 비교한다. 비교 결과, 파일 이름이 블랙리스트 및 키워드 데이터베이스(410)에 저장된 키워드들중 하나와 일치하거나, 실질적으로 일치하면 제1 분석부(210)는 해당 신규 콘텐츠를 유해한 것으로 판단한다.
제2 분석부(220)는 해쉬값 데이터베이스(420)에 저장된 해쉬값들과 제1 이동단말(100)로부터 전송된 콘텐츠의 해쉬값을 비교한다. 비교 결과, 신규 콘텐츠의 해쉬값이 해쉬값 데이터베이스(420)에 저장된 해쉬값들 중 하나와 동일하면 제2 분석부(220)는 해당 신규 콘텐츠를 유해한 것으로 판단한다.
제3 분석부(230)는 신규 콘텐츠의 특징값이 입력되면, 학습 모델 데이터베이스(430)를 참조하여 상기 콘텐츠의 특징값을 이용하여 해당 콘텐츠가 유해한 지를 판단한다. 상기 콘텐츠의 특징값은 예컨대, MPEG-7 시각 서술자 특징값이 될 수 있다. 제3 분석부(230)는 예컨대, 감독형 학습엔진을 이용한 판단 모델에 기반하여 콘텐츠의 특징값이 유해한 지를 판단한다. 이 제3 분석부(230)로부터 출력되는 분석 결과는 콘텐츠가 유해한지를 %로 나타낸다. 따라서, 제3 분석부(230)는 콘텐츠의 특징값이 어느 정도 유해한 지를 나타내는 결과값이 미리 결정된 임계값을 초과하면 해당 콘텐츠가 유해한 것으로 판단할 수 있다. 미리 결정된 임계값은 경험적으로 결정될 수 있다.
이어서 본 발명에 따른 실시간 분석을 위한 프로세스 및 비실시간 분석을 위한 프로세스를 도 3 및 도 4를 참조하여 설명한다.
도 3은 본 발명의 일 실시예에 따라 실시간 분석을 위한 프로세스를 나타낸 메시지 흐름도이다.
도 3을 참조하면, 먼저 제1 이동단말(100)은 단계 510에서 신규 콘텐츠가 발생하는 지를 판단한다. 신규 콘텐츠는 제1 이동단말(100)에 저장되거나 다운로드됨으로써 발생될 수 있다. 신규 콘텐츠가 발생되었으면, 제1 이동단말은 단계 520에서 신규 콘텐츠의 메타 정보를 추출하고 단계 530에서 메타 정보를 서버(200)로 전송한다.
서버(200)는 제1 이동단말(100)로부터 메타 정보를 수신하면 단계 540에서 메타 정보 중 파일 이름에 기초하여 해당 콘텐츠가 유해한 지를 판단한다. 구체적으로, 서버(200)는 파일 이름을 블랙리스트 및 키워드 데이터베이스(410)에 저장된 키워드들과 비교하고, 키워드들중 하나와 일치하거나, 실질적으로 일치하면 서버(200)는 단계 550에서 해당 신규 콘텐츠를 유해한 것으로 판단한다.
이어서, 서버(200)는 블랙리스트 및 키워드 데이터베이스(410)에 기반하여 콘텐츠가 유해하지 않은 것으로 판단되면, 단계 560에서 메타 정보중 파일 해쉬값(hash value)에 기초하여 콘텐츠가 유해한 지를 판단한다. 구체적으로 서버(200)는 해쉬값 데이터베이스(420)에 미리 저장된 해쉬값들과 신규 콘텐츠의 해쉬값을 비교한다. 비교 결과, 신규 콘텐츠의 해쉬값이 해쉬값 데이터베이스(420)에 저장된 해쉬값들 중 하나와 동일하면 단계 570에서 서버(200)는 해당 신규 콘텐츠를 유해한 것으로 판단한다.
서버(200)는 해당 콘텐츠가 유해하면 단계 590에서 분석 결과를 제2 이동단말(300)로 전송한다. 이 때, 분석 결과는 SMS(Short Message Service) 메시지 또는 MMS(Multimedia Message Service) 메시지로 제2 이동단말(300)로 전송될 수 있다.
도 4는 본 발명의 일 실시예에 따라 비실시간 분석을 위한 프로세스를 나타낸 메시지 흐름도이다.
도 4를 참조하면, 제1 이동단말(100)은 단계 610에서 비실시간 분석 실시 조건이 충족되는 지를 판단한다. 비실시간 분석 실시 조건은 전술한 바와 같이, 미리결정된 시간이 되었는 지가 될 수 있다. 또한 비실시간 분석은 주기적으로 수행 될 수 있으므로, 상기 조건은 미리 결정된 주기가 도래하였는 지가 될 수 있다. 상기 주기는 1주일에 1회 또는 1일에 1회가 될 수 있다.
그에 따라 제1 이동단말(100)은 미리결정된 시간이 되면, 단계 620에서 신규 콘텐츠의 특징을 추출한다. 구체적으로, 제1 이동단말(100)은 콘텐츠(이미지/동영상)의 컬러, 모양, 질감, 움직임, 소리 정보를 추출한다. 제1 이동단말(100)은 신규 콘텐츠에서 특징값을 추출한 후 단계 630에서 상기 콘텐츠의 특징값을 서버(200)로 전송한다.
서버(200)는 제1 이동단말(100)로부터 신규 콘텐츠의 특징값을 수신하면, 단계 640에서 학습 모델 데이터베이스(430)를 참조하여 상기 콘텐츠의 특징값을 이용하여 해당 콘텐츠가 유해한 정도를 판단한다. 전술한 바와 같이, 학습 모델에 따라 콘텐츠가 유해한 지를 분석하면 콘텐츠가 어느 정도 유해한 지를 나타내는 결과 값이 출력된다.
서버(200)는 단계 650에서 콘텐츠의 특징값이 어느 정도 유해한 지를 나타내는 결과값이 미리 결정된 임계값을 초과하면 해당 콘텐츠가 유해한 것으로 판단할 수 있다.
서버(200)는 해당 콘텐츠가 유해하면 단계 670에서 분석 결과를 제2 이동단말(300)로 전송한다. 분석 결과는 SMS 메시지 또는 MMS(메시지로 제2 이동단말(300)로 전송될 수 있다. 예컨대, 분석 결과는 다음과 같을 수 있다.
-유해 콘텐츠 1건이 존재합니다
-파일 이름: xxx.avi
-신뢰도 :75%
콘텐츠가 유해하지 않아도 분석 결과가 제2 이동단말(300)로 전송될 수도 있다. 이 경우에는 분석 결과는 '안심 콘텐츠 이용중입니다'가 될 수 있다.
상기에서는 본 발명의 바람직한 실시예를 참조하여 설명하였지만, 해당 기술 분야의 숙련된 당업자는 하기의 특허 청구의 범위에 기재된 본 발명의 사상 및 영역으로부터 벗어나지 않는 범위 내에서 본 발명을 다양하게 수정 및 변경시킬 수 있음을 이해할 수 있을 것이다.
10: 대리점 100: 제1 이동단말
200: 서버 210: 제1 분석부
22: 제2 분석부 230: 제3 분석부
300: 제2 이동단말 410: 블랙리스트 및 키워드 데이터베이스
420: 해쉬값 데이터베이스 430: 학습 모델 데이터베이스

Claims (12)

  1. 안심 콘텐츠 서비스를 위한 시스템에 있어서,
    실시간 분석 모드인 경우 발생된 신규 콘텐츠에 관련된 파일 이름 및 해쉬값을 포함하는 메타 정보를 추출하고, 비실시간 분석 모드인 경우 상기 콘텐츠에 관련된 특징값을 추출하는 제1 이동단말과,
    상기 제1 이동단말로부터 상기 메타 정보를 수신한 경우 상기 메타 정보에 포함된 파일 이름 및 해쉬값을 상기 시스템의 데이터베이스에 미리 저장된 유해 파일 이름 및 유해 해쉬값과 비교하여 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하고, 상기 제1 이동단말로부터 상기 특징값을 수신한 경우 상기 특징값과 상기 시스템의 데이터베이스에 미리 저장된 유해 특징값을 비교하여 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하는 서버와,
    상기 서버로부터 분석 결과를 수신하는 제2 이동단말을 포함하되,
    상기 서버는, 상기 실시간 분석 모드로 분석하는 경우 상기 콘텐츠의 파일 이름 분석을 통해 상기 콘텐츠가 유해한 것으로 판단되면 상기 콘텐츠의 해쉬값 분석을 수행하지 않고, 상기 콘텐츠의 파일 이름 분석을 통해 상기 콘텐츠가 유해하지 않은 것으로 판단되면 상기 콘텐츠의 해쉬값 분석을 통해 최종적으로 상기 콘텐츠가 유해한지 판단하는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  2. 제1항에 있어서, 상기 서버는 상기 콘텐츠에 관련된 특징값을 수신하면 학습 모델을 이용하여 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  3. 제1항에 있어서, 상기 서버는
    유해한 키워드들을 저장하는 블랙리스트 및 키워드 데이터베이스와,
    유해한 콘텐츠들에 대한 해쉬값들을 저장하는 해쉬값 데이터베이스를 포함하는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  4. 제2항에 있어서, 상기 서버는
    학습 모델을 저장하는 학습 모델 데이터베이스를 포함하는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  5. 제1항에 있어서, 상기 특징값은 콘텐츠에 포함된 이미지 또는 동영상의 컬러, 모양, 질감, 움직임 및 소리 중 하나인 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  6. 제1항에 있어서, 상기 비실시간 분석 모드는, 미리 설정된 시간이 되거나 미리 설정된 주기가 도래하면 동작되는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  7. 제1항에 있어서, 상기 분석 결과는 SMS(Short Message Service) 메시지 또는 MMS(Multimedia Message Service) 메시지를 통해 상기 제2 이동단말로 전송되는 것을 특징으로 하는 안심 콘텐츠 서비스 시스템.
  8. 청소년을 위한 제1 이동단말, 서버, 및 보호자를 위한 제2 이동단말을 포함하는 시스템에서 안심 콘텐츠 서비스 방법에 있어서,
    상기 제1 이동단말은 신규 콘텐츠가 발생한 경우 분석 모드를 결정하는 단계;
    상기 분석 모드가 실시간 분석 모드인 경우 상기 제1 이동단말은 상기 콘텐츠에 관련된 파일 이름 및 해쉬값을 포함한 메타 정보를 추출하여 상기 서버로 전송하는 단계;
    상기 서버는 상기 메타 정보에 포함된 파일 이름을 상기 시스템의 데이터베이스에 미리 저장된 유해 파일 이름과 비교하여 상기 콘텐츠가 유해한 것으로 판단되면 상기 해쉬값 분석을 수행하지 않고, 상기 파일 이름 분석을 통해 상기 콘텐츠가 유해하지 않은 것으로 판단되면 상기 해쉬값 분석을 통해 최종적으로 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하는 단계; 및
    상기 분석 결과를 상기 제2 이동단말로 전송하는 단계를 포함하되,
    상기 안심 콘텐츠 서비스 방법은,
    상기 분석 모드가 비실시간 분석 모드인 경우 상기 제1 이동단말은 상기 콘텐츠에 관련된 특징값을 추출하여 상기 서버로 전송하는 단계; 및
    상기 서버는 상기 특징값을 수신한 경우 상기 특징값과 상기 시스템의 데이터베이스에 미리 저장된 유해 특징값을 비교하여 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하는 단계를 더 포함하는 것을 특징으로 하는 안심 콘텐츠 서비스 방법.
  9. 제8항에 있어서, 상기 분석 결과를 출력하는 단계는,
    상기 서버가 상기 콘텐츠의 특징값을 수신하면 학습 모델을 이용하여 상기 콘텐츠가 유해한지 분석하여 분석 결과를 출력하는 단계를 더 포함하는 것을 특징으로 하는 안심 콘텐츠 서비스 방법.
  10. 제8항에 있어서, 상기 특징값은 콘텐츠에 포함된 이미지 또는 동영상의 컬러, 모양, 질감, 움직임 및 소리 중 하나인 것을 특징으로 하는 안심 콘텐츠 서비스 방법.
  11. 제8항에 있어서, 상기 비실시간 분석 모드는, 미리 설정된 시간이 되거나 미리 설정된 주기가 도래하면 동작되는 것을 특징으로 하는 안심 콘텐츠 서비스 방법.
  12. 제8항에 있어서, 상기 분석 결과는 SMS(Short Message Service) 메시지 또는 MMS(Multimedia Message Service) 메시지를 통해 상기 제2 이동단말로 전송되는 것을 특징으로 하는 안심 콘텐츠 서비스 방법.

KR1020100109383A 2010-11-04 2010-11-04 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법 KR101496632B1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
KR1020100109383A KR101496632B1 (ko) 2010-11-04 2010-11-04 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법
US13/285,079 US20120115447A1 (en) 2010-11-04 2011-10-31 System and method for providing safety content service

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020100109383A KR101496632B1 (ko) 2010-11-04 2010-11-04 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법

Publications (2)

Publication Number Publication Date
KR20120047686A KR20120047686A (ko) 2012-05-14
KR101496632B1 true KR101496632B1 (ko) 2015-03-03

Family

ID=46020069

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020100109383A KR101496632B1 (ko) 2010-11-04 2010-11-04 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법

Country Status (2)

Country Link
US (1) US20120115447A1 (ko)
KR (1) KR101496632B1 (ko)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102150226B1 (ko) 2020-02-19 2020-08-31 주식회사 플랜티넷 스마트 tv 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법
KR102189482B1 (ko) 2020-06-29 2020-12-11 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
KR102240018B1 (ko) 2020-10-26 2021-04-14 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130101624A (ko) * 2012-02-16 2013-09-16 한국전자통신연구원 유해 콘텐츠 원격 관리 방법
WO2013176761A1 (en) * 2012-05-25 2013-11-28 Brand Enforcement Services Limited Systems and methods for determining advertising compliance
KR101586048B1 (ko) * 2014-04-25 2016-01-18 주식회사 비티웍스 불법 어플리케이션 차단 시스템 및 서버, 이를 위한 통신 단말기 및 불법 어플리케이션 차단 방법과 기록매체
CN105335060A (zh) * 2014-08-14 2016-02-17 中兴通讯股份有限公司 触摸屏终端的操作控制方法及终端
KR102568444B1 (ko) * 2016-08-01 2023-08-18 한화비전 주식회사 영상 제보 필터링 장치
JP7260439B2 (ja) * 2019-08-19 2023-04-18 ヤフー株式会社 抽出装置、抽出方法及び抽出プログラム

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070008210A (ko) * 2005-07-13 2007-01-17 한국전자통신연구원 유해 멀티미디어 정보 차단 방법 및 장치
KR20090001442A (ko) * 2007-04-13 2009-01-09 한국전자통신연구원 미디어 파일 필터링 시스템 및 방법

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100628306B1 (ko) * 2004-09-30 2006-09-27 한국전자통신연구원 네트워크의 유해 피투피 트래픽 선별 차단 방법 및 장치
US7386105B2 (en) * 2005-05-27 2008-06-10 Nice Systems Ltd Method and apparatus for fraud detection
US7801392B2 (en) * 2005-07-21 2010-09-21 Fuji Xerox Co., Ltd. Image search system, image search method, and storage medium
KR100723867B1 (ko) * 2005-11-23 2007-05-31 한국전자통신연구원 피싱웹페이지 차단 장치 및 방법
KR100670815B1 (ko) * 2005-12-08 2007-01-19 한국전자통신연구원 순차적 데이터 처리 기반의 유해 멀티미디어 서비스 차단장치 및 그 방법
US20070271220A1 (en) * 2006-05-19 2007-11-22 Chbag, Inc. System, method and apparatus for filtering web content
US20100083371A1 (en) * 2008-10-01 2010-04-01 Christopher Lee Bennetts User Access Control System And Method
US8490176B2 (en) * 2009-04-07 2013-07-16 Juniper Networks, Inc. System and method for controlling a mobile device
KR101272611B1 (ko) * 2009-12-07 2013-06-10 한국전자통신연구원 신체부위별 탐지모델 기반의 영상 선정도 분석 방법 및 장치, 선정도 및 신체부위 기반 영상 데이터베이스 관리 방법 및 장치
WO2013016663A2 (en) * 2011-07-27 2013-01-31 Seven Networks, Inc. Parental control of mobile content on a mobile device

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20070008210A (ko) * 2005-07-13 2007-01-17 한국전자통신연구원 유해 멀티미디어 정보 차단 방법 및 장치
KR20090001442A (ko) * 2007-04-13 2009-01-09 한국전자통신연구원 미디어 파일 필터링 시스템 및 방법

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102150226B1 (ko) 2020-02-19 2020-08-31 주식회사 플랜티넷 스마트 tv 동영상 시간 제어 및 유해동영상 필터링을 위한 장치 및 방법
KR102189482B1 (ko) 2020-06-29 2020-12-11 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
KR102240018B1 (ko) 2020-10-26 2021-04-14 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법
KR102308303B1 (ko) 2020-10-26 2021-10-06 김태주 유해 동영상 파일을 필터링 하기 위한 장치 및 방법

Also Published As

Publication number Publication date
KR20120047686A (ko) 2012-05-14
US20120115447A1 (en) 2012-05-10

Similar Documents

Publication Publication Date Title
KR101496632B1 (ko) 안심 콘텐츠 서비스를 위한 시스템 및 이를 위한 방법
CN105391803B (zh) 消息推送方法、装置、设备及计算机可读存储介质
CN107643977B (zh) 防沉迷的方法及相关产品
CN107864065B (zh) 无埋点数据采集方法、系统及计算机可读存储介质
WO2017096987A1 (zh) 消息显示方法及终端设备
KR102355973B1 (ko) 스미싱 메시지 판별장치 및 스미싱 메시지 판별방법
CN109495467B (zh) 拦截规则的更新方法、设备及计算机可读存储介质
CN104580133A (zh) 恶意程序防护方法与系统及其过滤表格更新方法
CN105100708A (zh) 请求处理方法及装置
CN107545424B (zh) 一种数据监控处理方法、装置以及系统
CN111212390B (zh) 消息队列的处理方法、装置及设备
CN111049786A (zh) 一种网络攻击的检测方法、装置、设备及存储介质
CN103401845A (zh) 一种网址安全性的检测方法、装置
CN112600902A (zh) 一种通知消息的推送方法和装置
CN111694644A (zh) 基于机器人操作系统的消息处理方法、装置及计算机设备
CN111510446B (zh) 一种攻击检测方法、装置及电子设备和存储介质
CN114328482A (zh) 数据处理方法、设备、存储介质及程序产品
CN114422271B (zh) 数据处理方法、装置、设备及可读存储介质
CN107846381B (zh) 网络安全处理方法及设备
CN116707965A (zh) 一种威胁检测方法、装置、存储介质以及电子设备
CN104702701A (zh) 一种数据分享方法及装置
CN113225767A (zh) 监控管理方法、装置、设备及计算机可读存储介质
CN110929129A (zh) 一种信息检测方法、设备及机器可读存储介质
CN110798693B (zh) 一种用户管理方法、服务器及计算机可读存储介质
CN111104685B (zh) 一种二维码的动态更新方法及装置

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant
FPAY Annual fee payment

Payment date: 20180129

Year of fee payment: 4