KR101963200B1 - Real time video contents converting system and method using ACR(Automatic Contents Recognition) - Google Patents

Real time video contents converting system and method using ACR(Automatic Contents Recognition) Download PDF

Info

Publication number
KR101963200B1
KR101963200B1 KR1020170030049A KR20170030049A KR101963200B1 KR 101963200 B1 KR101963200 B1 KR 101963200B1 KR 1020170030049 A KR1020170030049 A KR 1020170030049A KR 20170030049 A KR20170030049 A KR 20170030049A KR 101963200 B1 KR101963200 B1 KR 101963200B1
Authority
KR
South Korea
Prior art keywords
content
image
digital
digital image
information
Prior art date
Application number
KR1020170030049A
Other languages
Korean (ko)
Other versions
KR20180103303A (en
Inventor
이두황
유도경
서효범
유범재
Original Assignee
경희대학교 산학협력단
재단법인 실감교류인체감응솔루션연구단
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 경희대학교 산학협력단, 재단법인 실감교류인체감응솔루션연구단 filed Critical 경희대학교 산학협력단
Priority to KR1020170030049A priority Critical patent/KR101963200B1/en
Publication of KR20180103303A publication Critical patent/KR20180103303A/en
Application granted granted Critical
Publication of KR101963200B1 publication Critical patent/KR101963200B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4545Input to filtering algorithms, e.g. filtering a region of the image
    • H04N21/45452Input to filtering algorithms, e.g. filtering a region of the image applied to an object-based stream, e.g. MPEG-4 streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/27Server based end-user applications
    • H04N21/278Content descriptor database or directory service for end-user access
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/454Content or additional data filtering, e.g. blocking advertisements
    • H04N21/4542Blocking scenes or portions of the received content, e.g. censoring scenes

Abstract

본 발명은 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템 및 방법에 관한 것이다.
본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법은, 카메라 장치에 의해 디지털 영상 구현장치를 통해 디스플레이되는 디지털 콘텐츠를 시청하는 시청자를 촬영하여 객체를 인식하는 단계; 디지털 영상 구현장치가 카메라 장치에 의해 인식된 객체 중에 신규 객체가 추가되었는지를 판별하는 단계; 신규 객체가 추가되었으면, 디지털 영상 구현장치에 의해 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 단계; 디지털 영상 구현장치에 의해 콘텐츠 제공 서버로부터 제공된 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 취득하는 단계; 디지털 영상 구현장치에 의해 취득된 비디오 핑거프린트 기반 콘텐츠 메타 정보를 바탕으로 추가된 신규 객체가 시청 연령 제한에 해당하는지를 판별하는 단계; 및 시청 연령 제한에 해당하면, 디지털 영상 구현장치에 의해 사용자에 의해 미리 설정된 시청 제한 정보에 따라 시청 제어를 수행하여 방송중인 영상을 변환하는 단계를 포함한다.
The present invention relates to a real-time image conversion system and method using automatic image content recognition technology.
A method for real-time image conversion using an image content automatic recognition technology according to the present invention comprises the steps of: capturing a viewer watching a digital content displayed through a digital image imple- mentation device by a camera device to recognize an object; Determining whether a new object has been added among the objects recognized by the camera apparatus by the digital image implementing apparatus; Estimating a sex and an age according to a face of each object using a facial recognition algorithm by a digital image implementing device if a new object is added; Acquiring video fingerprint-based content meta information provided from a content providing server by a digital image implementing apparatus; Determining whether a new object added based on the video fingerprint-based content meta information acquired by the digital image implementing apparatus corresponds to a viewing age limit; And converting the image being broadcast by performing viewing control according to the parental control information preset by the user by the digital image implementing apparatus when the parental control is in the viewing age limit.

Figure R1020170030049
Figure R1020170030049

Description

영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템 및 방법{Real time video contents converting system and method using ACR(Automatic Contents Recognition)}Technical Field [0001] The present invention relates to a real-time image conversion system and a real-time image conversion system using automatic image recognition technology,

본 발명은 실시간 영상변환 시스템 및 방법에 관한 것으로서, 더 상세하게는 영상 콘텐츠 자동 인식기술(Automatic Contents Recognition; ACR)과 카메라 장치에 의한 객체 인식 기술을 이용하여 영상물의 시청 시 방송되는 영상 콘텐츠의 유해성 여부를 자동으로 인식하고, 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환해 줄 수 있는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템 및 방법에 관한 것이다.The present invention relates to a real-time image conversion system and method, and more particularly, to a system and method for real-time image conversion using an automatic content recognition (ACR) The present invention relates to a system and method for real-time image conversion using automatic image content recognition technology capable of automatically recognizing whether or not an image is displayed,

오늘날, TV 및 방송 미디어 분야의 기술 발달로 인해 기존의 아날로그 TV는 디지털 TV, IPTV, DMB 등 여러 형태로 변형되어 서비스되고 있다. 기본적으로 TV 콘텐츠 제공 서비스는 일방적인 것으로, 즉 방송 제공자 즉 방송국 측에서 일방적으로 방송 콘텐츠를 전송하면 사용자 측에서 이를 수신하여 TV 디스플레이에 출력하는 형태로 이루어진다.Today, due to technological advances in the field of TV and broadcasting media, existing analog TV is being transformed into various forms such as digital TV, IPTV, and DMB. Basically, the TV contents providing service is one-sided, that is, when the broadcasting provider unilaterally transmits the broadcasting contents, the user receives the broadcasting contents and outputs them to the TV display.

이러한 현실 상황에서 가장 문제가 되는 것은 TV를 시청하는 일반 시청자들이 방송 제공자 측에서 전송하는 콘텐츠들을 그대로 받아들일 수밖에 없다는 점이다. 방송 제공자가 제공하는 콘텐츠 중에는 유해 정도에 따라 프로그램 등급이 분류되는 콘텐츠와, 불특정 다수를 상대로 반강제적으로 방송되는 광고 콘텐츠 등과 같이 유해한 콘텐츠들이 다량 존재한다. 성인들은 유해 콘텐츠가 방송되고 있을 때 스스로 TV 시청을 중단(다른 채널로 돌리거나 TV 전원을 오프)함으로써 이를 차단할 수 있으나, 판단 능력이 아직 미숙한 어린이들은 해당 콘텐츠가 유해 콘텐츠인지 판단하기도 어렵고, 설령 유해 콘텐츠라고 판단하였다 하더라도 자기 제어 능력이 떨어져, 스스로 TV 시청을 중단하는 것이 어렵다. 이와 같이 어린이(혹은 청소년)가 반복적으로 유해 콘텐츠(선정적, 폭력적 영상물이나 다양한 광고물)에 노출될 경우, 그러한 유해 콘텐츠가 해당 어린이(청소년)의 판단능력, 사고방식, 가치관 등에 악영향을 미칠 수 있는 위험성이 상당히 높다는 것이 일반적인 견해이다. 따라서, 어린이나 청소년의 TV 시청에 각별히 주의가 요구되고 있다. 또한, TV 화면을 통해 디스플레이되는 선정적이거나 폭력적인 장면 등에 대해서는 어린이나 청소년이 그러한 장면을 있는 그대로 시청할 수 없도록 필터링(예컨대, 해당 장면을 모자이크 처리를 하거나 평온한 자연 경치 화면으로 대체 등)할 필요가 있다.The most problematic situation in this situation is that general viewers who watch TV are forced to accept contents transmitted from a broadcasting provider. Among the contents provided by the broadcasting provider, there are a large amount of harmful contents such as the contents classified according to the degree of harm and the advertisement contents semi-compulsively broadcast to the unspecified majority. Adults can block this by stopping watching TV themselves (turning them to another channel or turning off the TV) while the harmful content is being broadcast, but it is also difficult for children who are not yet judged to judge whether the content is harmful, Even if it is determined that the content is harmful, it is difficult to stop the TV watching on its own because the self-control ability deteriorates. If such children (or young people) are repeatedly exposed to harmful contents (such as sexually explicit, violent images or various advertisements), such harmful contents may adversely affect the judgment ability, mindset, and values of the child The general view is that the risks are quite high. Therefore, special attention must be paid to watching TV for children or adolescents. In addition, it is necessary to filter (for example, mosaic process the scene or replace it with a natural scenic screen) so that a child or a teenager can not view the scenes as they are, such as sexual or violent scenes displayed on a TV screen .

한편, 이상과 같은 요구에 부응하여 공개특허공보 제10-2010-0016720호(특허문헌 1)에는 "네트워크를 이용한 TV 방송 중의 유해 컨텐츠 차단 및 대체 컨텐츠 제공 방법 및 시스템"이 개시되어 있는바, 이에 따른 네트워크를 이용한 TV 방송 중의 유해 컨텐츠 차단 및 대체 컨텐츠 제공 방법은, 프로세서에 의하여 사용자 입력에 의한 채널 선택 명령이 수신되는 단계; 프로세서에 의하여 채널 선택 명령에 따른 채널 설정이 이루어지는 단계; 외부 서버에 의하여 방송 데이터가 분석되는 단계; 외부 서버에 의하여 방송 데이터가 유해 컨텐츠가 아니라고 판단되면, 외부 서버가 판단에 따라 전송하는 제어 신호를 프로세서가 수신하여 이에 따라 스위치로 방송 데이터를 전달하고, 방송 데이터가 유해 컨텐츠라고 판단되면,외부 서버가 전송하는 제어 신호를 프로세서가 수신하여 스위치로 대체 컨텐츠를 전달하는 단계; 스위치에 의하여 전달된 방송 데이터 또는 대체 컨텐츠가 디스플레이에 출력되는 단계를 포함하여 이루어지는 것을 특징으로 한다.On the other hand, in response to the above-mentioned demand, Japanese Patent Application Laid-Open No. 10-2010-0016720 (Patent Document 1) discloses "Method and system for blocking parental content and substitute contents in TV broadcast using network" A method for blocking and replacing harmful contents in a TV broadcast using a network includes receiving a channel selection command by a user input by a processor; Performing channel setting according to a channel selection command by a processor; Analyzing broadcast data by an external server; If it is determined by the external server that the broadcast data is not a harmful content, the processor receives the control signal transmitted by the external server in accordance with the determination, and transmits the broadcast data to the switch. When the broadcast data is determined to be the harmful content, Receiving a control signal transmitted by the processor and delivering replacement content to the switch; And outputting broadcast data or substitute contents delivered by the switch to the display.

이상과 같은 특허문헌 1의 경우, 자동으로 유해 컨텐츠를 차단함과 동시에 해당 방송 시간에 대체 컨텐츠를 방송함으로써, 어린이나 청소년이 보호자 없이도 무분별한 유해 컨텐츠의 시청에 노출되는 것을 어느 정도 막을 수 있는 효과가 있을지는 모르겠으나, 사용자의 선택에 의해 미리 유해 컨텐츠로 분류된 방송에 해당하는 시간 영역의 방송이나 사용자의 선택에 의해 미리 선택된 방송 데이터에 대해 유해 컨텐츠로 판단하는 메커니즘으로 되어 있어, 사용자의 선택이 미치지 못한 컨텐츠나 방송 데이터에 대해서는 유해 컨텐츠를 판단해 낼 수 없는 문제점이 있다.In the above-described Patent Document 1, since harmful contents are automatically blocked and alternative contents are broadcasted during the broadcast time, it is possible to prevent a child or a teenager from being exposed to watching unwanted contents indiscriminately without a parent However, it is a mechanism of judging the broadcast data in the time domain corresponding to the broadcast classified as the harmful content in advance by the user's choice or the broadcast data preselected by the user's selection as the harmful content, There is a problem in that it is impossible to judge the harmful content with respect to the content or broadcast data that is insufficient.

공개특허공보 제10-2010-0016720호(2010.02.16)Japanese Patent Application Laid-Open No. 10-2010-0016720 (Feb. 16, 2010)

본 발명은 상기와 같은 상황을 종합적으로 감안하여 창출된 것으로서, 영상 콘텐츠 자동 인식기술(Automatic Contents Recognition; ACR)과 카메라 장치에 의한 객체 인식 기술을 이용하여 영상물의 시청 시 방송되는 영상 콘텐츠의 유해성 여부를 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환해 줌으로써, 유해 콘텐츠나 영상물의 선정성이나 폭력성이 청소년에 미치는 폐해를 최소화할 수 있는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템 및 방법을 제공함에 그 목적이 있다.The present invention has been made in consideration of the above circumstances in a comprehensive manner, and it is an object of the present invention to provide a method and apparatus for detecting the hazardousness of image contents broadcasted when viewing a video using the Automatic Contents Recognition (ACR) And automatically transforms the visual sensibility of the video according to the age of the viewer and the level of expression of the violence in real time so as to minimize the adverse effects of the sexuality or violence of the harmful contents or video on the adolescents, And to provide a real-time image conversion system and method using the same.

상기의 목적을 달성하기 위하여 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템은, To achieve the above object, according to the present invention, there is provided a system for real-

ACR(Automatic Contents Recognition; 영상 콘텐츠 자동 인식기술) 알고리즘이 적용되며, 디지털 콘텐츠를 외부 장치로부터 수신하여 화면에 디스플레이하고, 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 외부 장치로 요청하는 디지털 영상 구현장치; A digital image implementation in which an ACR (Automatic Contents Recognition) algorithm is applied and a digital content is received from an external device and displayed on a screen and a video fingerprint based query is requested to an external device Device;

상기 디지털 영상 구현장치에 근접 위치되어 디지털 영상 구현장치와 전기적으로 연결되며, 디지털 영상 구현장치를 통해 디스플레이되는 영상물을 시청하는 시청자를 촬영하여 객체를 인식하고, 촬영된 영상 정보를 디지털 영상 구현장치로 전송하는 카메라 장치; 및 And a display unit that is located near the digital image implementing apparatus and is electrically connected to the digital image implementing apparatus, captures an image of a viewer who views the image displayed through the digital image implementing apparatus, recognizes the object, A camera device for transmitting; And

디지털 콘텐츠를 상기 디지털 영상 구현장치로 제공하는 한편 디지털 영상 구현장치로부터의 비디오 핑거프린트 쿼리(query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공하는 콘텐츠 제공 서버를 포함하고,And a content providing server for providing digital content to the digital image implementing apparatus and providing content meta information in response to a video fingerprint query request from the digital image implementing apparatus,

사용자에 의해 영상물의 시청 시, 방송되는 영상 콘텐츠의 유해성 여부를상기 디지털 영상 구현장치에 적용된 ACR 알고리즘과 상기 카메라 장치에 의한 객체 인식 기술을 이용하여 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환하여 화면에 디스플레이하는 점에 그 특징이 있다. The present invention relates to a method and apparatus for automatically recognizing whether a video content to be broadcast is harmful when viewing a video by a user by using an ACR algorithm applied to the digital video realization device and an object recognition technique using the camera device, Or the level of expression of violence is converted in real time and displayed on the screen.

여기서, 상기 디지털 영상 구현장치는,Here, the digital image implementing apparatus may include:

상기 카메라 장치를 통해 인식한 이미지와 메모리에 저장되어 있는 이미지를 비교하여 새로운 객체가 추가되었는지를 확인하고, 새로운 객체가 추가된 경우 안면인식 알고리즘을 이용하여 그 새로운 객체의 성별 및 나이를 추정하는 이미지 처리부;The image recognition unit compares an image recognized by the camera device with an image stored in a memory to check whether a new object is added. If a new object is added, an image that estimates the sex and age of the new object using a face recognition algorithm A processor;

비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 상기 콘텐츠 제공 서버로 요청하고, 상기 콘텐츠 제공 서버로부터 상기 쿼리 요청에 대해 응답으로서 콘텐츠 메타 정보를 수신하는 신호 송수신부;A signal transmitting and receiving unit for requesting a video fingerprint based query to the content providing server and receiving content meta information as a response to the query request from the content providing server;

상기 콘텐츠 제공 서버로부터 디지털 콘텐츠를 스트리밍 방식으로 수신하는 스트리밍 서비스부;A streaming service unit for receiving digital contents from the contents providing server in a streaming manner;

상기 스트리밍 서비스부를 통해 수신한 스트리밍 디지털 콘텐츠를 디스플레이하는 디스플레이부;A display unit for displaying the streaming digital contents received through the streaming service unit;

사용자에 의해 설정된 시청 제한 정보를 입력받아 저장하는 시청 제한 정보 입력 및 저장부;A parental control information input and storage unit for receiving and storing parental control information set by a user;

사용자에 의해 설정된 시청 제한 정보를 취득하고, 상기 콘텐츠 제공 서버로부터 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 취득하며, 취득된 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 바탕으로 시청 제한이 필요한 어린이 및 청소년에 대해 시청 연령 제한에 해당하는지를 판별하고, 시청 연령 제한에 해당하면 사용자에 의해 설정된 시청 제한 정보에 따라 시청 제어를 수행하는 시청 제한 모듈부; 및Acquires the parental control information set by the user, obtains the content meta information based on the video fingerprint information from the content providing server, A parental control module for performing parental control based on the parental control information set by the user if the parental control is based on the parental control; And

상기 이미지 처리부, 신호 송수신부, 스트리밍 서비스부, 디스플레이부, 시청 제한 정보 입력 및 저장부, 시청 제한 모듈부와 카메라 장치의 동작을 제어하고, 시스템의 전체적인 상태를 진단 및 조정하는 중앙 제어부를 포함하여 구성될 수 있다.And a central control unit for controlling operations of the image processing unit, the signal transmission / reception unit, the streaming service unit, the display unit, the viewing restriction information input and storage unit, the viewing restriction module unit and the camera unit, Lt; / RTI >

이때, 상기 시청 제한 정보 입력 및 저장부에 입력되는 시청 제한 정보는 연령별로 해당 디지털 콘텐츠의 플레이 중지, 모자이크 처리, 소리 제거 등의 방식으로 설정될 수 있다.At this time, the parental control information input to the parental control information inputting and storing unit may be set by a method such as play stop, mosaic processing, sound removal, etc. of the digital contents according to the age.

또한, 상기 디지털 영상 구현장치는 스마트 TV, IPTV, 케이블 TV, 위성 TV, 셋탑박스(STB) 등을 포함할 수 있다.In addition, the digital image implementing device may include a smart TV, an IPTV, a cable TV, a satellite TV, a set top box (STB), and the like.

또한, 상기 콘텐츠 제공 서버는, The content providing server may further include:

디지털 콘텐츠를 스트리밍 방식으로 상기 디지털 영상 구현장치로 제공하는 콘텐츠 스트리밍 서버와;A content streaming server for providing the digital content to the digital image implementing apparatus in a streaming manner;

비디오 및 오디오 콘텐츠물로부터 콘텐츠 핑거프린트 정보를 추출하고, 추출된 콘텐츠 핑거프린트 정보를 기반으로 콘텐츠 메타 정보를 생성하는 핑거프린트 서버; 및A fingerprint server that extracts content fingerprint information from the video and audio content and generates content meta information based on the extracted content fingerprint information; And

상기 핑거프린트 서버와 연동하여 콘텐츠 핑거프린트 정보를 수신하고, 핑거프린트 서버에 의해 생성된 콘텐츠 메타 정보를 기반으로 시청 제한 정보를 생성하며, 상기 디지털 영상 구현장치로부터의 비디오 핑거프린트 쿼리(query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공하는 시청 제한 정보 생성 서버를 포함하여 구성될 수 있다.Receiving content fingerprint information in cooperation with the fingerprint server, generating parental control information based on the content meta information generated by the fingerprint server, and transmitting a video fingerprint query request And a viewing restriction information generation server for providing content meta information as a response to the viewing restriction information.

이때, 상기 콘텐츠 핑거프린트 정보는 핑거프린트, 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp) 등을 포함할 수 있다.At this time, the content fingerprint information may include a fingerprint, a content ID, a channel ID, a time stamp, and the like.

또한, 상기 콘텐츠 메타 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함할 수 있다.Also, the content meta information may include a content ID, a channel ID, a time stamp, and viewing restriction information.

또한, 상기 시청 제한 정보 생성 서버와 콘텐츠 스트리밍 서버는 하나의 장치로 패키지화되어 사용자의 TV나 셋탑박스(STB) 근처에 설치될 수 있다.In addition, the viewing restriction information generating server and the contents streaming server may be packaged as one device and installed near the user's TV or set-top box (STB).

또한, 상기의 목적을 달성하기 위하여 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법은,According to another aspect of the present invention, there is provided a method for real-

디지털 영상 구현장치, 카메라 장치, 콘텐츠 제공 서버를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템을 기반으로 하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법으로서,A real-time image conversion method using an image content automatic recognition technology based on a real-time image conversion system using an image content automatic recognition technology including a digital image implementation device, a camera device, and a content provision server,

a) 상기 카메라 장치에 의해 디지털 영상 구현장치를 통해 디스플레이되는 디지털 콘텐츠를 시청하는 시청자를 촬영하여 객체를 인식하는 단계;a) capturing a viewer who views digital content displayed through the digital image implementing device by the camera device and recognizing the object;

b) 상기 디지털 영상 구현장치에 의해 상기 카메라 장치에 의해 인식된 객체 중에 신규 객체가 추가되었는지를 판별하는 단계;b) determining whether a new object has been added among the objects recognized by the camera device by the digital image implementing device;

c) 신규 객체가 추가되었으면, 상기 디지털 영상 구현장치에 의해 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 단계;c) if the new object is added, estimating the sex and age according to faces of each object using the facial recognition algorithm by the digital image implementing device;

d) 상기 디지털 영상 구현장치에 의해 상기 콘텐츠 제공 서버로부터 제공된 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 취득하는 단계;d) acquiring video fingerprint-based content meta information provided from the content providing server by the digital image implementing apparatus;

e) 상기 디지털 영상 구현장치에 의해 취득된 비디오 핑거프린트 기반 콘텐츠 메타 정보를 바탕으로 추가된 신규 객체가 시청 연령 제한에 해당하는지를 판별하는 단계; 및e) determining whether a new object added based on the video fingerprint-based content meta information acquired by the digital image implementing apparatus corresponds to a viewing age limit; And

f) 시청 연령 제한에 해당하면, 상기 디지털 영상 구현장치에 의해 사용자에 의해 미리 설정된 시청 제한 정보에 따라 시청 제어를 수행하여 방송중인 영상을 변환하는 단계를 포함하는 점에 그 특징이 있다.and f) performing viewing control according to the parental control information preset by a user by the digital image implementing device, when the parental control is restricted, thereby converting the broadcasting image.

여기서, 상기 단계 a) 이전에 상기 디지털 영상 구현장치에 의해 상기 콘텐츠 제공 서버로부터 제공되는 디지털 콘텐츠를 수신하여 화면에 디스플레이하는 단계를 더 포함할 수 있다.The method may further include receiving digital content provided from the content providing server by the digital image implementing apparatus before step a) and displaying the received digital content on a screen.

또한, 상기 단계 b)의 판별에서 신규 객체가 추가되지 않았으면, 상기 단계 a)로 회귀하는 단계를 더 포함할 수 있다.If the new object is not added in the determination of step b), the step of returning to step a) may be further included.

또한, 상기 단계 c)의 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 단계는,The step of estimating the sex and age according to faces of each object using the facial recognition algorithm of step c)

c-1) 각 객체의 얼굴을 검출하는 단계;c-1) detecting a face of each object;

c-2) 상기 검출된 얼굴의 이미지 유효성을 평가하는 단계;c-2) evaluating the image validity of the detected face;

c-3) 상기 이미지 유효성이 평가된 얼굴의 특징을 추출하는 단계; 및c-3) extracting features of the face on which the image validity is evaluated; And

c-4) 상기 추출된 얼굴의 특징 정보를 바탕으로 해당 객체의 성별 및 나이를 추정하는 단계를 포함하여 구성될 수 있다.c-4) estimating the sex and age of the object based on the feature information of the extracted face.

또한, 상기 단계 c) 이후 단계 d) 이전에, 상기 추정된 성별 및 나이를 바탕으로 상기 디지털 영상 구현장치에 의해 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 상기 콘텐츠 제공 서버로 요청하는 단계와;The method may further include requesting a video fingerprint based query by the digital image implementing device to the content providing server based on the estimated sex and age before the step c) and after the step d) ;

상기 콘텐츠 제공 서버에 의해 상기 비디오 핑거프린트 기반 쿼리 요청에 대해 응답으로서 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 제공하는 단계;를 더 포함할 수 있다.And providing video fingerprint-based content meta information as a response to the video fingerprint-based query request by the content providing server.

이때, 상기 콘텐츠 메타(meta) 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함할 수 있다.At this time, the content meta information may include a content ID, a channel ID, a time stamp, and viewing restriction information.

또한, 상기 단계 e)의 판별에서 시청 연령 제한에 해당하지 않으면, 상기 단계 a)로 회귀하는 단계를 더 포함할 수 있다. The method may further include returning to the step a) if the viewing age limit is not satisfied in the determination of the step e).

또한, 상기 단계 f)에서 시청 제어는 디지털 콘텐츠 플레이 중지, 디지털 콘텐츠 모자이크 처리, 디지털 콘텐츠 소리 제거 중 적어도 어느 하나를 포함할 수 있다.In addition, in the step f), the viewing control may include at least one of stopping digital content play, digital content mosaic processing, and digital content sound removal.

이와 같은 본 발명에 의하면, 영상 콘텐츠 자동 인식기술(Automatic Contents Recognition; ACR)과 카메라 장치에 의한 객체 인식 기술을 이용하여 영상물의 시청 시 방송되는 영상 콘텐츠의 유해성 여부를 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환해 줌으로써, 유해 콘텐츠나 영상물의 선정성이나 폭력성이 청소년에 미치는 폐해를 최소화할 수 있는 장점이 있다.According to the present invention, it is possible to automatically recognize whether a video content to be broadcast when viewing a video object is harmful or not by using an automatic content recognition (ACR) and an object recognition technology by a camera device, It is possible to minimize the adverse effects of the sexuality and violence of the harmful contents and the video on the adolescents by converting the expressiveness of the video material and the expression level of the violence in real time.

도 1은 본 발명의 실시예에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템의 전체적인 구성을 개략적으로 나타낸 도면이다.
도 2는 도 1에 도시된 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템의 디지털 영상 구현장치의 내부 시스템 구성을 나타낸 도면이다.
도 3은 본 발명의 실시예에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법의 실행 과정을 나타낸 흐름도이다.
도 4는 도 3의 흐름도의 단계 S301 내지 S303의 수행 내용을 구체적으로 나타낸 흐름도이다.
1 is a diagram schematically showing a general configuration of a real-time image conversion system using an image content automatic recognition technology according to an embodiment of the present invention.
FIG. 2 is a diagram illustrating an internal system configuration of a digital image implementing apparatus of a real-time image conversion system using the image content automatic recognition technology shown in FIG.
3 is a flowchart illustrating an execution process of a real-time image conversion method using an image content automatic recognition technology according to an embodiment of the present invention.
4 is a flowchart specifically showing the contents of steps S301 to S303 of the flowchart of FIG.

본 명세서 및 청구범위에 사용된 용어나 단어는 통상적이거나 사전적인 의미로 한정되어 해석되지 말아야 하며, 발명자는 그 자신의 발명을 가장 최선의 방법으로 설명하기 위해 용어의 개념을 적절하게 정의할 수 있다는 원칙에 입각하여 본 발명의 기술적 사상에 부합하는 의미와 개념으로 해석되어야 한다.The terms and words used in the present specification and claims should not be construed as limited to ordinary or dictionary terms and the inventor can properly define the concept of the term to describe its invention in the best way Should be construed in accordance with the principles and meanings and concepts consistent with the technical idea of the present invention.

명세서 전체에서, 어떤 부분이 어떤 구성요소를 "포함"한다고 할 때, 이는 특별히 반대되는 기재가 없는 한 다른 구성요소를 제외하는 것이 아니라 다른 구성요소를 더 포함할 수 있다는 것을 의미한다. 또한, 명세서에 기재된 "…부", "…기", "모듈", "장치" 등의 용어는 적어도 하나의 기능이나 동작을 처리하는 단위를 의미하며, 이는 하드웨어나 소프트웨어 또는 하드웨어 및 소프트웨어의 결합으로 구현될 수 있다.Throughout the specification, when an element is referred to as "comprising ", it means that it can include other elements as well, without excluding other elements unless specifically stated otherwise. Also, the terms " part, "" module, "and" device " Lt; / RTI >

이하 첨부된 도면을 참조하여 본 발명의 실시예를 상세히 설명한다.Hereinafter, embodiments of the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시예에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템의 전체적인 구성을 개략적으로 나타낸 도면이다.1 is a diagram schematically showing a general configuration of a real-time image conversion system using an image content automatic recognition technology according to an embodiment of the present invention.

도 1을 참조하면, 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템(100)은 디지털 영상 구현장치(110), 카메라 장치(120) 및 콘텐츠 제공 서버(130)를 포함하여 구성된다. Referring to FIG. 1, a real-time image conversion system 100 using an image content automatic recognition technology according to the present invention includes a digital image implementation device 110, a camera device 120, and a content provision server 130 .

디지털 영상 구현장치(110)는 내부의 중앙 제어부(110g)(후술됨)에 ACR (Automatic Contents Recognition; 영상 콘텐츠 자동 인식기술) 알고리즘(일종의 소프트웨어 프로그램)이 적용되며, 디지털 콘텐츠를 외부 장치(여기서는 콘텐츠 제공 서버(130))로부터 수신하여 화면에 디스플레이하고, 비디오 핑거프린트 (fingerprint) 기반 쿼리(query)를 외부 장치로 요청한다. 이와 같은 디지털 영상 구현장치(110)는 스마트 TV(111)를 비롯하여 IPTV, 케이블 TV, 위성 TV와, 셋탑박스(STB)(112) 등을 포함할 수 있다.The digital image implementing apparatus 110 is a system in which an ACR (Automatic Contents Recognition) algorithm (a kind of software program) is applied to an internal central control unit 110g (to be described later) (E.g., providing server 130), displays it on the screen, and requests a video fingerprint based query to the external device. The digital image implementing apparatus 110 may include a smart TV 111, an IPTV, a cable TV, a satellite TV, a set top box (STB) 112, and the like.

또한, 이상과 같은 디지털 영상 구현장치(110)는, 도 2에 도시된 바와 같이, 이미지 처리부(110a), 신호 송수신부(110b), 스트리밍 서비스부(110c), 디스플레이부(110d), 시청 제한 정보 입력 및 저장부(110e), 시청 제한 모듈부(110f)및 중앙 제어부(110g)를 포함하여 구성될 수 있다. 2, the digital image implementing apparatus 110 includes an image processing unit 110a, a signal transmission / reception unit 110b, a streaming service unit 110c, a display unit 110d, a viewing restriction An information input and storage unit 110e, a viewing restriction module unit 110f, and a central control unit 110g.

이미지 처리부(110a)는 상기 카메라 장치(120)를 통해 인식한 이미지와 메모리(미도시)에 저장되어 있는 이미지를 비교하여 새로운 객체가 추가되었는지를 확인하고, 새로운 객체가 추가된 경우 안면인식 알고리즘(일종의 소프트웨어 프로그램으로 본 발명의 시스템 개발자 또는 본 발명의 운용자에 의해 미리 탑재됨) 을 이용하여 그 새로운 객체의 성별 및 나이를 추정한다.The image processing unit 110a compares an image recognized through the camera device 120 with an image stored in a memory (not shown) to check whether a new object has been added. If a new object is added, Which is installed in advance by a system developer or an operator of the present invention as a software program of the present invention) to estimate the gender and age of the new object.

신호 송수신부(110b)는 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 상기 콘텐츠 제공 서버(130)로 요청하고, 콘텐츠 제공 서버(130)로부터 상기 쿼리 요청에 대한 응답으로서 콘텐츠 메타 정보를 수신한다. 이와 같은 콘텐츠 메타 정보에 대해서는 뒤에서 설명하기로 한다.The signal transmitting and receiving unit 110b requests a video fingerprint based query to the content providing server 130 and receives the content meta information as a response to the query request from the content providing server 130 . Such content meta information will be described later.

스트리밍 서비스부(110c)는 상기 콘텐츠 제공 서버(130)로부터 디지털 콘텐츠를 스트리밍 방식으로 수신한다.The streaming service unit 110c receives the digital content from the content providing server 130 in a streaming manner.

디스플레이부(110d)는 스트리밍 서비스부(110c)를 통해 수신한 스트리밍 디지털 콘텐츠를 디스플레이한다.The display unit 110d displays the streaming digital contents received through the streaming service unit 110c.

시청 제한 정보 입력 및 저장부(110e)는 사용자에 의해 설정된 시청 제한 정보를 입력받아 저장한다. 이때, 이와 같은 시청 제한 정보 입력 및 저장부 (110e)에 입력되는 시청 제한 정보는 연령별로 해당 디지털 콘텐츠의 플레이 중지, 모자이크 처리, 소리 제거 등의 방식으로 설정될 수 있다.The viewing restriction information input and storage unit 110e receives and stores the viewing restriction information set by the user. At this time, the parental control information input to the parental control information inputting and storing unit 110e may be set in a manner such as play stop, mosaic process, and sound cancellation of the corresponding digital content by age.

시청 제한 모듈부(110f)는 사용자에 의해 설정된 시청 제한 정보를 취득하고, 상기 콘텐츠 제공 서버(130)로부터 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 취득하며, 취득된 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 바탕으로 시청 제한이 필요한 어린이 및 청소년에 대해 시청 연령 제한에 해당하는지를 판별하고, 시청 연령 제한에 해당하면 사용자에 의해 설정된 시청 제한 정보에 따라 시청 제어를 수행한다.The viewing restriction module 110f obtains the viewing restriction information set by the user, acquires the content meta information based on the video fingerprint information from the content providing server 130, Based on the information, it is determined whether the parental age restriction is applied to the child and the teenager who need to restrict the parental control. If the parental parental age restriction is satisfied, the parental control is performed according to the parental control information set by the user.

중앙 제어부(110g)는 이상과 같은 이미지 처리부(110a), 신호 송수신부(110b), 스트리밍 서비스부(110c), 디스플레이부(110d), 시청 제한 정보 입력 및 저장부 (110e), 시청 제한 모듈부(110f)와 카메라 장치(120)의 동작을 제어하고, 시스템의 전체적인 상태를 진단 및 조정한다.The central control unit 110g includes the image processing unit 110a, the signal transmission / reception unit 110b, the streaming service unit 110c, the display unit 110d, the viewing restriction information input and storage unit 110e, (110f) and the camera device (120), and diagnoses and adjusts the overall state of the system.

다시 도 1을 참조하면, 카메라 장치(120)는 디지털 영상 구현장치(110)에 근접 위치되어 디지털 영상 구현장치(110)와 전기적으로 연결되며, 디지털 영상 구현장치(110)를 통해 디스플레이되는 영상물을 시청하는 시청자를 촬영하여 객체를 인식하고, 촬영된 영상 정보를 디지털 영상 구현장치(110)로 전송한다.1, the camera device 120 is located close to the digital image implementing apparatus 110 and is electrically connected to the digital image implementing apparatus 110, and displays a video image displayed through the digital image implementing apparatus 110 Captures a viewer who views the image, recognizes the object, and transmits the captured image information to the digital image implementing apparatus 110.

콘텐츠 제공 서버(130)는 디지털 콘텐츠를 디지털 영상 구현장치(110)로 제공하는 한편 디지털 영상 구현장치(110)로부터의 비디오 핑거프린트 쿼리 (query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공한다. 도 1에서 미설명 부호 132a는 핑거프린트 서버(132)의 데이터베이스를 나타내고, 133a는 시청 제한 정보 생성 서버(133)의 데이터베이스를 나타낸다.The content providing server 130 provides digital content to the digital image implementing apparatus 110 and provides content meta information as a response to a video fingerprint query request from the digital image implementing apparatus 110 do. 1, reference numeral 132a denotes a database of the fingerprint server 132, and reference numeral 133a denotes a database of the parental control information generation server 133. [

이상과 같은 콘텐츠 제공 서버(130)는, 디지털 콘텐츠를 스트리밍 방식으로 디지털 영상 구현장치(110)로 제공하는 콘텐츠 스트리밍 서버(131)와; 비디오 및 오디오 콘텐츠물(Reference Content)로부터 콘텐츠 핑거프린트 정보를 추출하고, 추출된 콘텐츠 핑거프린트 정보를 기반으로 콘텐츠 메타 정보를 생성하는 핑거프린트 서버(132); 및 핑거프린트 서버(132)와 연동하여 콘텐츠 핑거프린트 정보를 수신하고, 핑거프린트 서버(132)에 의해 생성된 콘텐츠 메타 정보를 기반으로 시청 제한 정보를 생성하며, 디지털 영상 구현장치(110)로부터의 비디오 핑거프린트 쿼리(query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공하는 시청 제한 정보 생성 서버(133)를 포함하여 구성될 수 있다.The content providing server 130 may include a content streaming server 131 for providing the digital content to the digital image implementing apparatus 110 in a streaming manner; A fingerprint server 132 for extracting content fingerprint information from video and audio content (Reference Content) and generating content meta information based on the extracted content fingerprint information; And the fingerprint server 132, generates the parental control information based on the content meta information generated by the fingerprint server 132, and generates the parental control information from the digital image implementing apparatus 110 And a parental control information generation server 133 for providing content meta information in response to a video fingerprint query request.

이때, 상기 콘텐츠 핑거프린트 정보는 핑거프린트, 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp) 등을 포함할 수 있다. 여기서, 이와 같은 콘텐츠 핑거프린트 정보는 해당 콘텐츠의 특징을 나타내는 특징 데이터를 의미하는 것으로서, 지문 데이터, DNA 데이터 또는 유전자 데이터라고도 한다. 이러한 핑거프린트 정보를 이용하면 데이터의 동일성 여부를 쉽게 판별할 수 있기 때문에 저작권 관리 분야 등에서 폭넓게 사용되고 있다. 예를 들면, 오디오 데이터의 경우, 오디오 데이터의 특징을 나타내는 각종 특징 데이터(예컨대, 주파수, 진폭 등)를 이용하여 핑거프린트 정보를 생성하고, 비디오 데이터의 경우에는 비디오 데이터의 여러 가지 특징 데이터(예컨대, 프레임의 모션 벡터 정보, 색상 정보 등)를 이용하여 핑거프린트 정보를 생성할 수 있다.At this time, the content fingerprint information may include a fingerprint, a content ID, a channel ID, a time stamp, and the like. Here, such content fingerprint information means feature data indicating the feature of the content, and is also referred to as fingerprint data, DNA data, or gene data. The use of such fingerprint information makes it possible to easily determine whether the data is the same or not, and is widely used in the field of copyright management and the like. For example, in the case of audio data, fingerprint information is generated using various feature data (e.g., frequency, amplitude, etc.) indicating the characteristics of audio data, and in the case of video data, various feature data , Motion vector information of a frame, color information, and the like) can be used to generate fingerprint information.

또한, 상기 콘텐츠 메타 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함할 수 있다.Also, the content meta information may include a content ID, a channel ID, a time stamp, and viewing restriction information.

또한, 상기 시청 제한 정보 생성 서버(133)와 콘텐츠 스트리밍 서버(131)는 패키지화된 하나의 장치로 구성되어 사용자의 TV(스마트 TV, IPTV 등)나 셋탑박스(STB) 근처에 설치될 수 있다.The viewing restriction information generating server 133 and the contents streaming server 131 may be constituted by a packaged device and installed near the user's TV (smart TV, IPTV, etc.) or the set-top box (STB).

이상과 같은 구성을 가지는 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템(100)은 사용자에 의해 영상물의 시청 시, 방송되는 영상 콘텐츠의 유해성 여부를 디지털 영상 구현장치(110)에 적용된 ACR 알고리즘과 카메라 장치(120)에 의한 객체 인식 기술을 이용하여 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환하여 화면에 디스플레이한다. The real-time image conversion system 100 using the image content automatic recognition technology according to the present invention having the above-described configuration can determine whether the image content to be broadcasted when the user views the video image is harmful to the digital image implementation apparatus 110 The ACR algorithm and the object recognition technology by the camera device 120, and displays the sensibility of the video object or the expression level of the violence in real time according to the age of the viewer and displays it on the screen.

그러면, 이하에서는 이상과 같은 구성을 가지는 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템(100)을 바탕으로 한 실시간 영상변환 방법에 대해 설명해 보기로 한다.Hereinafter, a real-time image conversion method based on the real-time image conversion system 100 using the image content automatic recognition technology according to the present invention having the above-described configuration will be described.

도 3은 본 발명의 실시예에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법의 실행 과정을 나타낸 흐름도이다.3 is a flowchart illustrating an execution process of a real-time image conversion method using an image content automatic recognition technology according to an embodiment of the present invention.

도 3을 참조하면, 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법은, 전술한 바와 같은 디지털 영상 구현장치(110), 카메라 장치(120), 콘텐츠 제공 서버(130)를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템(100)을 기반으로 하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법으로서, 먼저 상기 카메라 장치(120)에 의해 디지털 영상 구현장치(110)를 통해 디스플레이되는 디지털 콘텐츠를 시청하는 시청자를 촬영하여 객체를 인식한다(단계 S301). 여기서, 이와 같은 단계 S301 이전에 디지털 영상 구현장치(110)에 의해 콘텐츠 제공 서버(130)로부터 제공되는 디지털 콘텐츠를 수신하여 화면에 디스플레이하는 단계를 더 포함할 수 있다.Referring to FIG. 3, the real-time image conversion method using the image content automatic recognition technology according to the present invention includes the digital image implementation apparatus 110, the camera apparatus 120, and the content providing server 130 A real-time image conversion method using an image content automatic recognition technology based on a real-time image conversion system (100) using an image content automatic recognition technology, wherein the camera device (120) And recognizes the object by capturing a viewer who watches the digital content (step S301). Here, the method may further include receiving digital content provided from the content providing server 130 by the digital image implementing apparatus 110 and displaying the received digital content on the screen before step S301.

이렇게 하여 카메라 장치(120)에 의해 시청자를 촬영하여 객체를 인식하면, 디지털 영상 구현장치(110)는 카메라 장치(120)에 의해 인식된 객체 중에 신규 객체가 추가되었는지를 판별한다(단계 S302). 이 판별에서 신규 객체가 추가되지 않았으면, 상기 단계 S301로 회귀한다. 그리고 이 판별에서 신규 객체가 추가되었으면, 디지털 영상 구현장치(110)는 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정한다(단계 S303). 여기서, 이와 같이 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 것과 관련하여 조금 더 상세히 설명해 보기로 한다.When the camera device 120 captures a viewer and recognizes the object, the digital image implementing device 110 determines whether a new object has been added to the object recognized by the camera device 120 (step S302). If no new object is added in this determination, the process returns to step S301. If a new object is added in the determination, the digital image implementing apparatus 110 estimates the sex and age according to the face of each object using the face recognition algorithm (step S303). Here, the facial recognition algorithm will be described in more detail with respect to estimating the sex and age according to faces of each object.

도 4는 도 3의 흐름도의 단계 S301 내지 S303의 수행 내용을 구체적으로 나타낸 흐름도이다.4 is a flowchart specifically showing the contents of steps S301 to S303 of the flowchart of FIG.

도 4를 참조하면, 도 3에서의 단계 S301, 즉 카메라 장치(120)에 의해 디지털 콘텐츠를 시청하는 시청자를 촬영하여 객체를 인식함에 있어서, 카메라 장치(120)는 시청자를 촬영하여 이미지를 획득하고(단계 S301a), 획득된 이미지를 바탕으로 객체를 인식한다(단계 S301b). 이와 같이 카메라 장치(120)에 의해 촬영된 이미지 정보(데이터)는 디지털 영상 구현장치(110)로 전송되고, 디지털 영상 구현장치(110)의 이미지 처리부(110a)는 카메라 장치(120)로부터 수신한 이미지 정보(데이터)와 메모리에 저장되어 있는 이미지 정보(데이터)를 비교하여 새로운 객체가 추가되었는지를 확인하고(단계 S302), 새로운 객체가 추가된 경우 안면인식 알고리즘을 이용하여 그 새로운 객체의 성별 및 나이를 추정한다. 즉, 먼저 새로운 객체의 얼굴을 검출한다(단계 S303a). 그런 후, 검출된 얼굴의 이미지 유효성을 평가한다(단계 S303b). 그런 다음, 이미지 유효성이 평가된 얼굴의 특징을 추출하고(단계 S303c), 추출된 얼굴의 특징 정보를 바탕으로 해당 객체의 성별 및 나이를 추정한다(단계 S303d).Referring to FIG. 4, in step S301 in FIG. 3, that is, in capturing a viewer who views digital contents by the camera device 120 and recognizing the object, the camera device 120 captures an image of a viewer to acquire an image (Step S301a), and recognizes the object based on the acquired image (step S301b). The image information (data) photographed by the camera device 120 is transmitted to the digital image implementing apparatus 110 and the image processing unit 110a of the digital image implementing apparatus 110 receives the image information The image information (data) is compared with the image information (data) stored in the memory to check whether a new object is added (step S302). If a new object is added, the gender of the new object Estimate your age. That is, the face of a new object is detected first (step S303a). Then, the image validity of the detected face is evaluated (step S303b). Then, the feature of the face on which the image validity is evaluated is extracted (step S303c), and the gender and age of the object are estimated based on the feature information of the extracted face (step S303d).

다시 도 3을 참조하면, 이상과 같이 디지털 영상 구현장치(110)에 의해 신규 객체의 얼굴에 따라 성별 및 나이를 추정한 후, 디지털 영상 구현장치(110)에 의해 콘텐츠 제공 서버(130)로부터 제공된 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 취득한다(단계 S304).Referring to FIG. 3 again, after the gender and age are estimated according to the face of the new object by the digital image implementing apparatus 110 as described above, And acquires video fingerprint-based content meta information (step S304).

여기서, 본 발명에 따른 영상변환 방법은 상기 단계 S303 이후 단계 S304 이전에, 상기 추정된 성별 및 나이를 바탕으로 디지털 영상 구현장치(110)에 의해 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 콘텐츠 제공 서버(130)로 요청하는 단계와; 콘텐츠 제공 서버(130)에 의해 상기 비디오 핑거프린트 기반 쿼리 요청에 대해 응답으로서 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 제공하는 단계;를 더 포함할 수 있다. 이때, 상기 콘텐츠 메타(meta) 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함할 수 있다.Here, in the image transformation method according to the present invention, before step S303 and step S304, a digital fingerprint-based query is generated by the digital image implementation device 110 on the basis of the estimated sex and age To the providing server 130; And providing video fingerprint based content meta information as a response to the video fingerprint based query request by the content providing server 130. [ At this time, the content meta information may include a content ID, a channel ID, a time stamp, and viewing restriction information.

이상과 같이, 디지털 영상 구현장치(110)에 의해 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보가 취득되면, 디지털 영상 구현장치(110)는 취득된 비디오 핑거프린트 기반 콘텐츠 메타 정보를 바탕으로 추가된 신규 객체가 시청 연령 제한에 해당하는지를 판별한다(단계 S305). 이 판별에서 시청 연령 제한에 해당하지 않으면, 상기 단계 S301로 회귀한다. 그리고 시청 연령 제한에 해당하면, 디지털 영상 구현장치(110)는 사용자에 의해 미리 설정된 시청 제한 정보에 따라(단계 S306), 시청 제어를 수행하여 방송중인 영상을 변환한다(단계 S307). 여기서, 시청 제어는 디지털 콘텐츠(예컨대, VOD) 플레이 중지, 디지털 콘텐츠 화면 모자이크 처리, 디지털 콘텐츠 소리 제거 중 적어도 어느 하나를 포함할 수 있다.As described above, when the digital fingerprint-based content meta information is acquired by the digital image implementation apparatus 110, the digital image implementation apparatus 110 generates a new fingerprint-based content meta information based on the acquired fingerprint- It is determined whether the object corresponds to the viewing age limit (step S305). If it does not correspond to the viewing age limit in this determination, the process returns to step S301. If it is determined that the viewing age limit is met, the digital image implementing apparatus 110 performs viewing control according to the viewing restriction information previously set by the user (step S306) to convert the broadcasting image (step S307). Here, the viewing control may include at least one of stopping digital content (e.g., VOD) play, digital content screen mosaicing, and digital content sound removal.

여기서, 이상과 같은 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법과 관련하여 조금 더 설명을 부가해 보기로 한다.Hereinafter, the real-time image conversion method using the image content automatic recognition technology according to the present invention will be described in further detail.

1) ACR 기술을 활용하여 송출되고 있는 영상물의 태그(tag)를 읽어 영상물 전체 시청등급 관련 정보를 파악한다.1) Using the ACR technology, read the tag of the transmitted video to grasp the information related to the rating of the entire video.

- 본 발명의 방법이 적용된 상태에서 사용자(예컨대, 어린이 및 청소년 자녀를 둔 부모)는 일단 전체 영상물에 대해 전체 관람가, 12세 이상 관람가, 15세 이상 관람가, 청소년 관람불가 등급을 파악한다. 이때, 상기 영상물의 태그는 영상물 제작자가 영상물의 제작 시 미리 연령별 등급에 따라 특정 기호나 부호, 문자 등으로 삽입해두게 된다. - With the method of the present invention applied, a user (for example, a parent with a child and a teenager's child) first grasps the entire viewership, the audience over 12 years old, the audience over 15 years old, At this time, the tag of the video material is inserted into the video material creator by a specific symbol, code, character, or the like according to the grade according to the age at the time of producing the video material.

2) 사용자 연령 인식 카메라 기술을 통하여 TV 시스템이 시청자(들)의 연령을 파악한다.2) The age of the viewer (s) is determined by the TV system through the user age recognition camera technology.

- TV(111)(도 1 참조)에 설치된 카메라 장치(120)로 개인이나 복수의 시청자의 얼굴을 인식하여 각 시청자의 연령을 개별적으로 파악한다.- The camera device 120 installed on the TV 111 (see FIG. 1) recognizes the face of an individual or a plurality of viewers, and grasps the age of each viewer individually.

- 개인 시청자(예: 10세)인 경우, 카메라 장치(120)에 인식된 개인 시청자의 연령에 따라, 디지털 영상 구현장치(110)는 시청등급 영상물(예: 15세 이상 관람가)을 시청하지 못하도록 영상을 변환시키거나(예를 들면, 화면을 모자이크 처리하거나), 다른 영상의 화면으로 대체함으로써 시청이 가능하도록 한다.In the case of an individual viewer (for example, 10 years old), the digital image implementing apparatus 110 may not be able to view a viewing grade video image (e.g., 15 years old or older) according to the age of the individual viewer recognized in the camera device 120 (For example, mosaic processing of the screen) or replacing it with a screen of another image.

- 복수의 시청자(예: 10세 및 40세)인 경우, 카메라 장치(120)에 인식된 최연소 시청자의 연령에 따라, 디지털 영상 구현장치(110)는 시청등급 영상물(예: 15세이상 관람가)을 시청하지 못하도록 영상을 변환하거나(예를 들면, 화면을 모자이크 처리하거나), 다른 영상의 화면으로 대체함으로써 시청이 가능하도록 한다.In the case of a plurality of viewers (for example, 10 and 40 years old), the digital image implementing device 110 may display a viewing grade video image (e.g., a viewer 15 years or older), depending on the age of the youngest viewer recognized in the camera device 120. [ (For example, mosaic processing of the screen) so as not to view the image, or to replace it with a screen of another image.

3) 영상물이 시청자의 연령에 맞게 정상적으로 송출되어 TV 화면에 디스플레이되면, ACR 기술을 통해 영상물 각각의 장면의 폭력성과 선정성 정도에 대한 정보를 인식한다.3) If the video is normally transmitted according to the age of the viewer and displayed on the TV screen, ACR technology recognizes the information about the violence and perceptibility of each scene.

- 즉, 실시간 영상변환 TV 시스템(스마트 TV 수상기 자체나 IPTV, Cable TV, 위성 TV, 셋탑박스 등)은 영상물이 재생되고 있는 동안, 탑재되어 있는 ACR 알고리즘을 이용하여 각각의 영상장면 정보에 대하여 영상물에 미리 삽입된 태그 (tag)를 통해 각 영상장면의 폭력성과 선정성 정도를 실시간으로 인식한다. In other words, while the real-time image conversion TV system (smart TV receiver itself, IPTV, cable TV, satellite TV, set-top box, etc.) plays back video images, And recognizes the degree of violence and sensibility of each video scene in real time through a tag inserted in advance.

4) TV 시스템(디지털 영상 구현장치)은 카메라 장치에 의해 촬영된 영상 정보(데이터)를 바탕으로 시청자의 연령을 추정하여, 사용자가 미리 설정한 영상물의 폭력성과 선정성 수준(예: 상, 중, 하)에 따라, 영상물의 선정적이고 폭력적인 장면을 실시간으로 변환하여 송출한다.4) The TV system (Digital Image Implementation Device) estimates the age of the viewer based on the image information (data) captured by the camera device, and determines the level of violence and selectivity (eg, According to the present invention, the sensible and violent scenes of the video are transformed and transmitted in real time.

- 즉, 각각의 영상 장면들마다 선정성과 폭력성 수준(상, 중, 하) 정보에 대한 태그를 사용자가 미리 표시해 두어 디지털 영상 구현장치(110)는 탑재된 ACR 알고리즘을 이용하여 이를 인식한다. 이때, 사용자는 리모콘 등을 이용하여 영상 장면들마다 선정성과 폭력성 수준(상, 중, 하) 정보에 대한 태그를 미리 표시해 둘 수 있다.That is, the user previously displays a tag for information on the sensibility and the level of violence (upper, middle, and lower) for each of the video scenes, and the digital image implementing apparatus 110 recognizes the tag using the mounted ACR algorithm. At this time, the user can display a tag for the sensibility and the violence level (upper, middle, lower) information for each of the video scenes using a remote controller or the like in advance.

- 사용자는 미리 TV 시스템에 특정 연령대 및 영상장면의 폭력성, 선정성 송출 수준을 예를 들면 상, 중, 하로 설정해 둔다. 예를 들어, '16세'의 시청자가 TV를 혼자 시청하든 '40세'의 시청자와 함께 시청하든, 16세 시청자가 시청범위로 들어오게 되면, 아무리 15세 이상 관람가 영상이라 할지라도 기존의 폭력적인 장면과 선정적인 장면이 나타날 때마다, 그 표현 수준을 '하'로 자동으로 변환하여 송출하도록 사용자가 미리 설정할 수 있다.- The user preliminarily sets the violence of the specific age group and the video scene in the TV system, and the sending level of positivity, for example, upper, middle, and lower. For example, if a 16-year-old viewer views a TV alone or a 40-year-old viewer, then a 16-year-old viewer enters the viewing range, no matter how aged 15 or older, The user can pre-set the display level to be automatically converted to " low "

- 이상과 같은 영상장면의 폭력성, 선정성 송출 수준(상, 중, 하)의 자동 변환은 전체 관람가, 12세 이상 관람가, 15세 이상 관람가, 청소년 관람불가 등급 영상물 모두에 적용된다.- The automatic conversion of violence and sensibility transmission level (upper, middle, and lower) of the above video scene is applied to all viewers, 12 year olds, 15 years olds,

이상의 사항을 하나의 예를 들어 설명해 보기로 한다.Let's take a look at an example.

예를 들면, 15세 이상 시청가능 영상물(폭력적인 장면이 포함되어 있음)을 부부(남편:47세, 아내:45세)와 자녀(16세)가 함께 시청하고 있는 상황을 가정하기로 한다.For example, suppose that a couple (husband: 47 years old, wife: 45 years old) and child (16 years old) are watching together video material (including violent scenes)

ACR 알고리즘이 적용된 TV 시스템(디지털 영상 구현장치(110))은 송출되고 있는 영상물이 15세 이상이면 시청이 가능한 것을 인식하고, 그대로 송출한다.The TV system (digital image implementation device 110) to which the ACR algorithm is applied recognizes that the video content being transmitted is 15 years or older, and transmits it as it is.

이때, TV 시스템(디지털 영상 구현장치(110))의 ACR 알고리즘이 동작하여 송출되고 있는 영상물에 실시간으로 적용되며, 이에 따라 송출되고 있는 영상장면에 폭력적인 장면이 포함되어 있는지를 TV 시스템이 스스로 인식한다.At this time, the ACR algorithm of the TV system (digital image implementing apparatus 110) operates and is applied to the transmitted video in real time, and accordingly, the TV system detects whether the violent scene is included in the transmitted video scene do.

만약 송출되고 있는 영상장면에 폭력적인 장면이 포함되어 있고, 그 폭력적인 장면이 사용자(여기서는 부모)가 설정한 폭력성 수준보다 높으면, 현재 송출되고 있는 영상 장면이 15세 이상 시청가능 영상물이라고 할지라도 사용자(부모)가 TV 시스템에 설정한 선정성과 폭력성 수준에 부합하지 않음을 인식하고, 그 장면을 모자이크 처리 또는 다른 음으로 처리(예를 들면, 흉기나 출혈은 모자이크 처리, 욕설은 beep sound 처리)하거나, 그 다음 영상 장면으로 자동으로 이동한다.If the video footage being sent contains violent footage and the violent footage is higher than the violence level set by the user (in this case, the parent), even if the current footage is a viewable video content over 15 years of age, (Parent) does not match the level of selectivity and violence set in the TV system and treats the scene with a mosaic or other sound (eg, mosaic treatment of murder or bleeding, dealing with beep sound) , And then automatically moves to the next video scene.

또한, 만약 부부만이 영상물을 시청하고 있을 때에는 TV(111)에 설치된 카메라장치(120)에 의해 촬영된 영상(이미지) 정보를 바탕으로 부부의 나이를 인식하여 등급 시청에 문제가 없음을 확인하고, 이에 따라 아무런 제재 없이 기존 영상물의 표현 수준대로 그대로 송출한다. In addition, when only the couple watches the video, the age of the couple is recognized based on the image (image) information photographed by the camera device 120 installed on the TV 111, , So that it is transmitted as it is at the expression level of the existing video without any sanctions.

이상의 설명과 같이, 본 발명에 따른 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템 및 방법은 영상 콘텐츠 자동 인식기술(Automatic Contents Recognition; ACR)과 카메라 장치에 의한 객체 인식 기술을 이용하여 영상물의 시청 시 방송되는 영상 콘텐츠의 유해성 여부를 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환해 줌으로써, 유해 콘텐츠나 영상물의 선정성이나 폭력성이 청소년에 미치는 폐해를 최소화할 수 있는 장점이 있다.As described above, the real-time image conversion system and method using the automatic image content recognition technology according to the present invention can be realized by using an automatic content recognition (ACR) It is possible to automatically recognize whether or not the video content to be broadcast is harmful and to minimize the adverse effect of the sexuality or violence of the harmful content or video on the adolescents by realizing the display quality of the video image or the violence level according to the viewer's age There is an advantage.

또한, 이상과 같은 본 발명의 영상변환 방법이 적용될 경우, 영화, 드라마, 광고 등의 영상 콘텐츠를 제작하는 제작자 측면에서도 관람(시청) 등급 제재에 대한 부담감 없이 제작자의 창작 의도에 따라 자유롭게 표현할 수 있는 장점이 있다.In addition, when the image conversion method of the present invention as described above is applied, it is possible to express freely according to the creator's intention without imposing a burden on viewing (rating) There are advantages.

이상, 바람직한 실시예를 통하여 본 발명에 관하여 상세히 설명하였으나, 본 발명은 이에 한정되는 것은 아니며, 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 다양하게 변경, 응용될 수 있음은 당해 기술분야의 통상의 기술자에게 자명하다. 따라서, 본 발명의 진정한 보호 범위는 다음의 청구범위에 의하여 해석되어야 하며, 그와 동등한 범위 내에 있는 모든 기술적 사상은 본 발명의 권리 범위에 포함되는 것으로 해석되어야 할 것이다.While the present invention has been particularly shown and described with reference to exemplary embodiments thereof, it is to be understood that the invention is not limited to the disclosed exemplary embodiments, but many variations and modifications may be made without departing from the spirit and scope of the invention. Be clear to the technician. Accordingly, the true scope of protection of the present invention should be construed according to the following claims, and all technical ideas within the scope of the same should be construed as being included in the scope of the present invention.

110: 디지털 영상 구현장치 110a: 이미지 처리부
110b: 신호 송수신부 110c: 스트리밍 서비스부
110d: 디스플레이부 110e: 시청 제한 정보 입력 및 저장부
110f: 시청 제한 모듈부 110g: 중앙 제어부
111: TV 112: 셋탑박스
120: 카메라 장치 130: 콘텐츠 제공 서버
131: 콘텐츠 스트리밍 서버 132: 핑거프린트 서버
133: 시청 제한 정보 생성 서버 132a, 133a: 데이터베이스
110: digital image implementing apparatus 110a: image processing unit
110b: signal transmission / reception section 110c: streaming service section
110d: Display unit 110e: Parental control information input and storage unit
110f: parental control module unit 110g: central control unit
111: TV 112: set-top box
120: camera device 130: content providing server
131: content streaming server 132: fingerprint server
133: Parental status information generation server 132a, 133a:

Claims (18)

ACR(Automatic Contents Recognition; 영상 콘텐츠 자동 인식기술) 알고리즘이 적용되며, 디지털 콘텐츠를 외부 장치로부터 수신하여 화면에 디스플레이하고, 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 외부 장치로 요청하는 디지털 영상 구현장치;
상기 디지털 영상 구현장치에 근접 위치되어 디지털 영상 구현장치와 전기적으로 연결되며, 디지털 영상 구현장치를 통해 디스플레이되는 영상물을 시청하는 시청자를 촬영하여 객체를 인식하고, 촬영된 영상 정보를 디지털 영상 구현장치로 전송하는 카메라 장치; 및
디지털 콘텐츠를 상기 디지털 영상 구현장치로 제공하는 한편 디지털 영상 구현장치로부터의 비디오 핑거프린트 쿼리(query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공하는 콘텐츠 제공 서버를 포함하고,
사용자에 의해 영상물의 시청 시, 방송되는 영상 콘텐츠의 유해성 여부를상기 디지털 영상 구현장치에 적용된 ACR 알고리즘과 상기 카메라 장치에 의한 객체 인식 기술을 이용하여 자동으로 인식하고, 시청자의 연령에 따라 영상물의 선정성이나 폭력성의 표현 수위를 실시간으로 변환하여 화면에 디스플레이하며,
상기 콘텐츠 제공 서버는,
디지털 콘텐츠를 스트리밍 방식으로 상기 디지털 영상 구현장치로 제공하는 콘텐츠 스트리밍 서버와;
비디오 및 오디오 콘텐츠물로부터 콘텐츠 핑거프린트 정보를 추출하고, 추출된 콘텐츠 핑거프린트 정보를 기반으로 콘텐츠 메타 정보를 생성하는 핑거프린트 서버; 및
상기 핑거프린트 서버와 연동하여 콘텐츠 핑거프린트 정보를 수신하고, 핑거프린트 서버에 의해 생성된 콘텐츠 메타 정보를 기반으로 시청 제한 정보를 생성하며, 상기 디지털 영상 구현장치로부터의 비디오 핑거프린트 쿼리(query) 요청에 대해 응답으로서 콘텐츠 메타(meta) 정보를 제공하는 시청 제한 정보 생성 서버를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
A digital image implementation in which an ACR (Automatic Contents Recognition) algorithm is applied and a digital content is received from an external device and displayed on a screen and a video fingerprint based query is requested to an external device Device;
And a display unit that is located near the digital image implementing apparatus and is electrically connected to the digital image implementing apparatus, captures an image of a viewer who views the image displayed through the digital image implementing apparatus, recognizes the object, A camera device for transmitting; And
And a content providing server for providing digital content to the digital image implementing apparatus and providing content meta information in response to a video fingerprint query request from the digital image implementing apparatus,
The present invention relates to a method and apparatus for automatically recognizing whether a video content to be broadcast is harmful when viewing a video by a user by using an ACR algorithm applied to the digital video realization device and an object recognition technique using the camera device, Or the level of expression of violence is converted into real time and displayed on the screen,
The content providing server,
A content streaming server for providing the digital content to the digital image implementing apparatus in a streaming manner;
A fingerprint server that extracts content fingerprint information from the video and audio content and generates content meta information based on the extracted content fingerprint information; And
Receiving content fingerprint information in cooperation with the fingerprint server, generating parental control information based on the content meta information generated by the fingerprint server, and transmitting a video fingerprint query request And a viewing restriction information generation server for providing content meta information as a response to the viewing restriction information.
제1항에 있어서,
상기 디지털 영상 구현장치는,
상기 카메라 장치를 통해 인식한 이미지와 메모리에 저장되어 있는 이미지를 비교하여 새로운 객체가 추가되었는지를 확인하고, 새로운 객체가 추가된 경우 안면인식 알고리즘을 이용하여 그 새로운 객체의 성별 및 나이를 추정하는 이미지 처리부;
비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 상기 콘텐츠 제공 서버로 요청하고, 상기 콘텐츠 제공 서버로부터 상기 쿼리 요청에 대해 응답으로서 콘텐츠 메타 정보를 수신하는 신호 송수신부;
상기 콘텐츠 제공 서버로부터 디지털 콘텐츠를 스트리밍 방식으로 수신하는 스트리밍 서비스부;
상기 스트리밍 서비스부를 통해 수신한 스트리밍 디지털 콘텐츠를 디스플레이하는 디스플레이부;
사용자에 의해 설정된 시청 제한 정보를 입력받아 저장하는 시청 제한 정보 입력 및 저장부;
사용자에 의해 설정된 시청 제한 정보를 취득하고, 상기 콘텐츠 제공 서버로부터 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 취득하며, 취득된 비디오 핑거프린트 정보 기반의 콘텐츠 메타 정보를 바탕으로 시청 제한이 필요한 어린이 및 청소년에 대해 시청 연령 제한에 해당하는지를 판별하고, 시청 연령 제한에 해당하면 사용자에 의해 설정된 시청 제한 정보에 따라 시청 제어를 수행하는 시청 제한 모듈부; 및
상기 이미지 처리부, 신호 송수신부, 스트리밍 서비스부, 디스플레이부, 시청 제한 정보 입력 및 저장부, 시청 제한 모듈부와 카메라 장치의 동작을 제어하고, 시스템의 전체적인 상태를 진단 및 조정하는 중앙 제어부를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
The method according to claim 1,
The digital image implementing apparatus includes:
The image recognition unit compares an image recognized by the camera device with an image stored in a memory to check whether a new object is added. If a new object is added, an image that estimates the sex and age of the new object using a face recognition algorithm A processor;
A signal transmitting and receiving unit for requesting a video fingerprint based query to the content providing server and receiving content meta information as a response to the query request from the content providing server;
A streaming service unit for receiving digital contents from the contents providing server in a streaming manner;
A display unit for displaying the streaming digital contents received through the streaming service unit;
A parental control information input and storage unit for receiving and storing parental control information set by a user;
Acquires the parental control information set by the user, obtains the content meta information based on the video fingerprint information from the content providing server, A parental control module for performing parental control based on the parental control information set by the user if the parental control is based on the parental control; And
And a central control unit for controlling operations of the image processing unit, the signal transmission / reception unit, the streaming service unit, the display unit, the viewing restriction information input and storage unit, the viewing restriction module unit and the camera unit, Real - Time Image Conversion System Using Automatic Image Content Recognition Technology.
제2항에 있어서,
상기 시청 제한 정보 입력 및 저장부에 입력되는 시청 제한 정보는 연령별로 해당 디지털 콘텐츠의 플레이 중지, 모자이크 처리, 소리 제거 중 적어도 하나의 방식으로 설정되는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
3. The method of claim 2,
Wherein the viewing restriction information input to the viewing restriction information inputting and storing unit is set in at least one of a play stop, a mosaic process, and a sound cancellation of the corresponding digital content by age.
제1항에 있어서,
상기 디지털 영상 구현장치는 스마트 TV, IPTV, 케이블 TV, 위성 TV, 셋탑박스(STB) 중 적어도 하나를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
The method according to claim 1,
Wherein the digital image implementing apparatus includes at least one of a smart TV, an IPTV, a cable TV, a satellite TV, and a set top box (STB).
삭제delete 제1항에 있어서,
상기 콘텐츠 핑거프린트 정보는 핑거프린트, 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp)를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
The method according to claim 1,
Wherein the content fingerprint information includes a fingerprint, a content ID, a channel ID, and a time stamp.
제1항에 있어서,
상기 콘텐츠 메타 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
The method according to claim 1,
Wherein the content meta information includes a content ID, a channel ID, a time stamp, and viewing restriction information.
제1항에 있어서,
상기 시청 제한 정보 생성 서버와 콘텐츠 스트리밍 서버는 하나의 장치로 패키지화되어 사용자의 TV나 셋탑박스 근처에 설치되는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템.
The method according to claim 1,
Wherein the viewing restriction information generating server and the contents streaming server are packaged as a single device and installed in the vicinity of a user's TV or set-top box.
디지털 영상 구현장치, 카메라 장치, 콘텐츠 제공 서버를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 시스템을 기반으로 하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법으로서,
a) 상기 카메라 장치에 의해 디지털 영상 구현장치를 통해 디스플레이되는 디지털 콘텐츠를 시청하는 시청자를 촬영하여 객체를 인식하는 단계;
b) 상기 디지털 영상 구현장치에 의해 상기 카메라 장치에 의해 인식된 객체 중에 신규 객체가 추가되었는지를 판별하는 단계;
c) 신규 객체가 추가되었으면, 상기 디지털 영상 구현장치에 의해 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 단계;
d) 상기 디지털 영상 구현장치에 의해 상기 콘텐츠 제공 서버로부터 제공된 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 취득하는 단계;
e) 상기 디지털 영상 구현장치에 의해 취득된 비디오 핑거프린트 기반 콘텐츠 메타 정보를 바탕으로 추가된 신규 객체가 시청 연령 제한에 해당하는지를 판별하는 단계; 및
f) 시청 연령 제한에 해당하면, 상기 디지털 영상 구현장치에 의해 사용자에 의해 미리 설정된 시청 제한 정보에 따라 시청 제어를 수행하여 방송중인 영상을 변환하는 단계를 포함하고,
상기 단계 f)에서 상기 방송중인 영상을 변환함에 있어서, 상기 디지털 영상 구현장치가 상기 카메라 장치에 의해 촬영된 영상 정보를 바탕으로 시청자의 연령을 추정하여, 사용자가 미리 설정한 영상물의 폭력성과 선정성 수준에 따라, 영상물의 선정적이고 폭력적인 장면을 실시간으로 변환하여 송출하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
A real-time image conversion method using an image content automatic recognition technology based on a real-time image conversion system using an image content automatic recognition technology including a digital image implementation device, a camera device, and a content provision server,
a) capturing a viewer who views digital content displayed through the digital image implementing device by the camera device and recognizing the object;
b) determining whether a new object has been added among the objects recognized by the camera device by the digital image implementing device;
c) if the new object is added, estimating the sex and age according to faces of each object using the facial recognition algorithm by the digital image implementing device;
d) acquiring video fingerprint-based content meta information provided from the content providing server by the digital image implementing apparatus;
e) determining whether a new object added based on the video fingerprint-based content meta information acquired by the digital image implementing apparatus corresponds to a viewing age limit; And
f) performing a viewing control according to parental control information preset by a user by the digital image implementing device to convert an image being broadcasted if the parental control is restricted,
In converting the broadcasting image in step f), the digital image implementing device estimates the age of the viewer based on the image information photographed by the camera device, and determines the level of violence and sensibility A real-time image conversion method using an automatic recognition method of image contents in which sensational and violent scenes of a video are transformed and transmitted in real time.
제9항에 있어서,
상기 단계 a) 이전에 상기 디지털 영상 구현장치에 의해 상기 콘텐츠 제공 서버로부터 제공되는 디지털 콘텐츠를 수신하여 화면에 디스플레이하는 단계를 더 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
Further comprising the step of: receiving the digital content provided from the content providing server by the digital image implementing apparatus before step a) and displaying the received digital content on a screen.
제9항에 있어서,
상기 단계 b)의 판별에서 신규 객체가 추가되지 않았으면, 상기 단계 a)로 회귀하는 단계를 더 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
And if the new object is not added in the determination of step b), returning to step a).
제9항에 있어서,
상기 단계 c)의 안면인식 알고리즘을 이용하여 각 객체의 얼굴에 따라 성별 및 나이를 추정하는 단계는,
c-1) 각 객체의 얼굴을 검출하는 단계;
c-2) 상기 검출된 얼굴의 이미지 유효성을 평가하는 단계;
c-3) 상기 이미지 유효성이 평가된 얼굴의 특징을 추출하는 단계; 및
c-4) 상기 추출된 얼굴의 특징 정보를 바탕으로 해당 객체의 성별 및 나이를 추정하는 단계를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
The step of estimating sex and age according to faces of each object using the face recognition algorithm of step c)
c-1) detecting a face of each object;
c-2) evaluating the image validity of the detected face;
c-3) extracting features of the face on which the image validity is evaluated; And
and c-4) estimating the sex and age of the object based on the feature information of the extracted face.
제9항에 있어서,
상기 단계 c) 이후 단계 d) 이전에, 상기 추정된 성별 및 나이를 바탕으로 상기 디지털 영상 구현장치에 의해 비디오 핑거프린트(fingerprint) 기반 쿼리(query)를 상기 콘텐츠 제공 서버로 요청하는 단계와;
상기 콘텐츠 제공 서버에 의해 상기 비디오 핑거프린트 기반 쿼리 요청에 대해 응답으로서 비디오 핑거프린트 기반 콘텐츠 메타(meta) 정보를 제공하는 단계;를 더 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
Requesting a video fingerprint-based query to the content providing server by the digital image implementing device based on the estimated sex and age before the step c) and after the step d);
And providing video fingerprint-based content meta information as a response to the video fingerprint-based query request by the content providing server.
제13항에 있어서,
상기 콘텐츠 메타(meta) 정보는 콘텐츠 ID, 채널 ID, 타임 스탬프(time stamp), 시청 제한 정보를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
14. The method of claim 13,
Wherein the content meta information includes a content ID, a channel ID, a time stamp, and viewing restriction information.
제9항에 있어서,
상기 단계 e)의 판별에서 시청 연령 제한에 해당하지 않으면, 상기 단계 a)로 회귀하는 단계를 더 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
The method of claim 1, further comprising the step of returning to step a) if the viewing age limit is not satisfied in the determination of step e).
제9항에 있어서,
상기 단계 f)에서 시청 제어는 디지털 콘텐츠 플레이 중지, 디지털 콘텐츠 모자이크 처리, 디지털 콘텐츠 소리 제거 중 적어도 하나를 포함하는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
Wherein the viewing control in step (f) includes at least one of stopping digital content playback, digital content mosaicing, and digital content sound removal.
삭제delete 제9항에 있어서,
상기 사용자가 미리 설정한 영상물의 폭력성과 선정성 수준은 상, 중, 하로 설정되는 영상 콘텐츠 자동 인식기술을 이용한 실시간 영상변환 방법.
10. The method of claim 9,
The method of claim 1, wherein the video content is selected from the group consisting of:
KR1020170030049A 2017-03-09 2017-03-09 Real time video contents converting system and method using ACR(Automatic Contents Recognition) KR101963200B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020170030049A KR101963200B1 (en) 2017-03-09 2017-03-09 Real time video contents converting system and method using ACR(Automatic Contents Recognition)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020170030049A KR101963200B1 (en) 2017-03-09 2017-03-09 Real time video contents converting system and method using ACR(Automatic Contents Recognition)

Publications (2)

Publication Number Publication Date
KR20180103303A KR20180103303A (en) 2018-09-19
KR101963200B1 true KR101963200B1 (en) 2019-03-28

Family

ID=63718953

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020170030049A KR101963200B1 (en) 2017-03-09 2017-03-09 Real time video contents converting system and method using ACR(Automatic Contents Recognition)

Country Status (1)

Country Link
KR (1) KR101963200B1 (en)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022051129A1 (en) * 2020-09-03 2022-03-10 Arris Enterprises Llc Method and system for content switching and content control based on facial identification profiling

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101993802B1 (en) * 2018-12-07 2019-06-27 김하얀 Creator contents management server and management method thereof
KR102192019B1 (en) * 2019-12-27 2020-12-16 쿨클라우드(주) Method for providing contents based on deploying engine and electronic device using the same
KR102469476B1 (en) * 2020-12-01 2022-11-21 동의대학교 산학협력단 De-identification processing method according to the degree of identification of the face region of an unspecified person

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002112218A (en) * 2000-10-03 2002-04-12 Sharp Corp Broadcast receiver
US20160316261A1 (en) * 2015-04-23 2016-10-27 Sorenson Media, Inc. Automatic content recognition fingerprint sequence matching

Family Cites Families (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100978670B1 (en) 2008-08-05 2010-08-27 구진국 A System and a Method for Intercepting Bad Contents and Offering Alternative Contents during TV Broadcast using Network
KR20140010673A (en) * 2012-07-16 2014-01-27 삼성전자주식회사 Display apparatus and control method of the same

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002112218A (en) * 2000-10-03 2002-04-12 Sharp Corp Broadcast receiver
US20160316261A1 (en) * 2015-04-23 2016-10-27 Sorenson Media, Inc. Automatic content recognition fingerprint sequence matching

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022051129A1 (en) * 2020-09-03 2022-03-10 Arris Enterprises Llc Method and system for content switching and content control based on facial identification profiling
US11800190B2 (en) 2020-09-03 2023-10-24 Arris Enterprises Llc Method and system for content switching and content control based on facial identification profiling

Also Published As

Publication number Publication date
KR20180103303A (en) 2018-09-19

Similar Documents

Publication Publication Date Title
JP6294238B2 (en) Video display device and operation method thereof
KR101995425B1 (en) Video display device, terminal device and operating method thereof
KR101591535B1 (en) Techniques to consume content and metadata
KR102116679B1 (en) Video display apparatus and operating method thereof
KR101963200B1 (en) Real time video contents converting system and method using ACR(Automatic Contents Recognition)
US8931031B2 (en) Matrix code-based accessibility
US9530170B2 (en) User device, a second screen system and a method for rendering second screen information on a second screen
JP6151804B2 (en) Video display device and operation method thereof
CN108293140B (en) Detection of common media segments
US8453179B2 (en) Linking real time media context to related applications and services
KR20140078759A (en) System and method for automatic content program discovery
KR20130083457A (en) Method for transceiving media files and device for transmitting/receiving using same
KR20140119691A (en) Video display apparatus and operating method thereof
KR20140051450A (en) Using gestures to capture multimedia clips
KR101193534B1 (en) Watermarking apparatus and method for inserting watermark in video contents
US20120284740A1 (en) Method of surveying watching of image content, and broadcast receiving apparatus and server employing the same
CN103024473A (en) Audience rating survey system and method
KR20120042314A (en) System and method for providing recommendation-content based on face-image information
KR20130076977A (en) Broadcasting receiver and controlling method thereof
EP2621180A2 (en) Electronic device and audio output method
KR102199568B1 (en) Electric apparatus and operating method thereof
JP2010206440A (en) Digital broadcast receiver and commercial effect evaluation method
KR102263146B1 (en) Video display apparatus and operating method thereof
KR20160061019A (en) Video display apparatus and operating method thereof
WO2015199095A1 (en) Moving-image-content display device

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right