KR20200001153A - Method and system for generating highlight video - Google Patents

Method and system for generating highlight video Download PDF

Info

Publication number
KR20200001153A
KR20200001153A KR1020180073750A KR20180073750A KR20200001153A KR 20200001153 A KR20200001153 A KR 20200001153A KR 1020180073750 A KR1020180073750 A KR 1020180073750A KR 20180073750 A KR20180073750 A KR 20180073750A KR 20200001153 A KR20200001153 A KR 20200001153A
Authority
KR
South Korea
Prior art keywords
highlight
image
keyword
section
viewer
Prior art date
Application number
KR1020180073750A
Other languages
Korean (ko)
Other versions
KR102499731B1 (en
Inventor
김병주
소송희
손의준
안승준
윤성영
Original Assignee
주식회사 엔씨소프트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 엔씨소프트 filed Critical 주식회사 엔씨소프트
Priority to KR1020180073750A priority Critical patent/KR102499731B1/en
Publication of KR20200001153A publication Critical patent/KR20200001153A/en
Application granted granted Critical
Publication of KR102499731B1 publication Critical patent/KR102499731B1/en

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431—Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312—Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/41—Structure of client; Structure of client peripherals
    • H04N21/422—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS]
    • H04N21/42203—Input-only peripherals, i.e. input devices connected to specially adapted client devices, e.g. global positioning system [GPS] sound input device, e.g. microphone
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/45—Management operations performed by the client for facilitating the reception of or the interaction with the content or administrating data related to the end-user or to the client device itself, e.g. learning user preferences for recommending movies, resolving scheduling conflicts
    • H04N21/4508—Management of client data or end-user data
    • H04N21/4532—Management of client data or end-user data involving end-user characteristics, e.g. viewer profile, preferences

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Databases & Information Systems (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

Embodiments of the present invention relate to a highlight video generation method and a system thereof. More specifically, the present invention relates to a highlight video generation method using a response of a viewer with regard to a video, and a highlight video server performing the same. To this end, the highlight video server comprises an interface unit, a highlight keyword unit, a highlight section unit, and a highlight video unit.

Description

하이라이트 영상 생성 방법 및 시스템{METHOD AND SYSTEM FOR GENERATING HIGHLIGHT VIDEO}METHOD AND SYSTEM FOR GENERATING HIGHLIGHT VIDEO}

아래 실시예들은 영상에 대한 시청자의 반응을 이용하여 하이라이트 영상을 생성하는 방법 및 이를 수행하는 서버에 관한 것이다.The embodiments below relate to a method of generating a highlight image using a viewer's response to the image and a server performing the same.

오늘날 동영상에 대한 IT 기술이 하루가 다르게 발전하고 있다. 이러한 동영상 서비스는 위성 DMB 방송, 지상파 DMB 방송, 데이터 방송, 인터넷 방송 등 각종 통신 영상 서비스의 제공은 물론이며, PC나 노트북, 휴대 단말기 등을 통해 주문형 비디오(VOD) 형태로 서비스를 제공하는 등 그 종류와 범위가 날로 확대되어 가고 있다.Today, IT technology for video is developing differently every day. Such video service is not only providing various communication video services such as satellite DMB broadcasting, terrestrial DMB broadcasting, data broadcasting, and internet broadcasting, but also providing a video on demand through a PC, a laptop, a mobile terminal, and the like. Kinds and ranges are expanding day by day.

최근 공급자가 일방적으로 프로그램을 선정 방송하는 종래의 방송 형태를 벗어나 시청자가 원하는 프로그램을 스스로 선택할 수 있고 그 시간과 장소도 마음대로 선택하는 수요자 맞춤형 동영상 서비스에 대한 기술이 특히 주목받고 있다. 특히 시청자 맞춤형 동영상 서비스 중 시청자가 원하는 정보만을 요약하여 보고자 하는 하이라이트 동영상 추출에 대한 수요가 증가하고 있다.Recently, a technology for a customized video service for a customer that selects a program that a viewer wants and selects a time and a place freely from the conventional broadcasting form in which a provider unilaterally selects and broadcasts a program has attracted particular attention. In particular, the demand for highlight video extraction that users want to summarize by viewing only the information desired by viewers among the customized video service is increasing.

일 측에 따른 하이라이트 영상 생성 방법은 영상 데이터 및 상기 영상에 대한 시청자 반응을 전송받는 동작, 상기 시청자 반응을 이용하여 상기 영상의 하이라이트 키워드를 결정하는 동작, 상기 하이라이트 키워드를 포함하는 시청자 반응이 출력되는 영상 구간을 하이라이트 구간으로 적어도 하나 추출하는 동작 및 상기 적어도 하나의 하이라이트 구간의 영상을 포함하는 하이라이트 영상을 생성하는 동작을 포함한다.According to one or more exemplary embodiments, a method of generating a highlight image includes receiving image data and a viewer response to the image, determining a highlight keyword of the image using the viewer response, and outputting a viewer response including the highlight keyword. Extracting at least one image section as a highlight section and generating a highlight image including an image of the at least one highlight section.

상기 시청자 반응은 상기 영상에 대해 시청자가 입력한 채팅어, 댓글, 이모티콘 및 특수 효과 중 적어도 하나를 포함한다. The viewer response includes at least one of a chat word, a comment, an emoticon, and a special effect input by the viewer with respect to the image.

상기 하이라이트 키워드 결정 동작은 상기 시청자 반응 중 기 설정된 빈도 또는 횟수 이상 출력되는 시청자 반응을 상기 하이라이트 키워드로 결정한다.The highlight keyword determining operation determines a viewer keyword that is output at least a predetermined frequency or number of times among the viewer responses as the highlight keyword.

상기 영상의 음성을 인식하여 화자가 발화한 음성 키워드를 추출하는 동작을 포함하고, 상기 하이라이트 키워드 결정 동작은 상기 시청자 반응 및 상기 음성 키워드를 이용하여 상기 하이라이트 키워드로 결정한다.Recognizing the voice of the image and extracting a voice keyword spoken by the speaker, wherein the highlight keyword determination operation is determined as the highlight keyword using the viewer response and the voice keyword.

상기 하이라이트 영상 생성 방법은 시청자 단말로부터 하이라이트 영상 제작을 위한 레퍼런스 키워드를 전송받는 동작을 포함하고, 상기 하이라이트 키워드 결정 동작은 상기 시청자 반응 및 상기 레퍼런스 키워드를 이용하여 상기 하이라이트 키워드로 결정한다.The highlight image generating method includes receiving a reference keyword for producing a highlight image from a viewer terminal, and the highlight keyword determination operation is determined as the highlight keyword using the viewer response and the reference keyword.

상기 하이라이트 키워드 결정 동작은 상기 결정된 하이라이트 키워드의 연관 키워드를 상기 하이라이트 키워드로 결정한다.The highlight keyword determining operation determines an associated keyword of the determined highlight keyword as the highlight keyword.

상기 하이라이트 구간 추출 동작은 상기 하이라이트 키워드를 포함하는 시청자 반응이 단위 시간 내 기 설정된 빈도 또는 횟수 이상 출력된 영상 구간을 하이라이트 구간으로 추출한다.The highlight section extraction operation extracts an image section in which a viewer response including the highlight keyword is output at a frequency or a number of times set within a unit time as a highlight section.

상기 하이라이트 구간 추출 동작은 상기 추출된 하이라이트 구간 전 또는 후의 일정 단위 시간의 영상 구간을 상기 하이라이트 구간으로 추가한다.The highlight section extraction operation adds an image section of a predetermined unit time before or after the extracted highlight section as the highlight section.

상기 시청자 반응은 상기 영상에 대한 시청자의 후원 정보를 포함하고. 상기 하이라이트 구간 추출 동작은 후원 빈도 또는 금액이 기 설정된 기준 이상인 영상 구간을 상기 하이라이트 구간으로 추출한다.The viewer response includes viewer sponsorship information for the video. The highlight section extracting operation extracts an image section having a sponsoring frequency or amount greater than or equal to a predetermined criterion as the highlight section.

상기 시청자 반응은 상기 영상에 대한 시청자의 재생 이력 정보를 포함하고, 상기 하이라이트 구간 추출 동작은 상기 시청자의 재생 이력이 기 설정된 기준 이상인 영상 구간을 상기 하이라이트 구간으로 추출한다.The viewer response includes information on the playback history of the viewer for the video, and the highlight section extraction operation extracts an image section in which the playback history of the viewer is equal to or larger than a preset reference as the highlight section.

일 측에 따른 하이라이트 영상 서버는 영상 데이터 및 상기 영상에 대한 시청자 반응을 전송받는 인터페이스부, 상기 시청자 반응을 이용하여 상기 영상의 하이라이트 키워드를 결정하는 하이라이트 키워드부, 상기 하이라이트 키워드를 포함하는 시청자 반응이 출력되는 영상 구간을 하이라이트 구간으로 적어도 하나 추출하는 하이라이트 구간부 및 상기 적어도 하나의 하이라이트 구간의 영상을 포함하는 하이라이트 영상을 생성하는 하이라이트 영상부를 포함한다.The highlight image server according to one side may include an interface unit receiving image data and a viewer response to the image, a highlight keyword unit determining a highlight keyword of the image using the viewer response, and a viewer response including the highlight keyword. And a highlight image section for extracting at least one output image section as a highlight section and a highlight image section for generating a highlight image including an image of the at least one highlight section.

도 1은 일 실시예에 따른 하이라이트 영상 생성을 위한 시스템의 구성을 도시한 도면이다.
도 2는 일 실시예에 따른 영상 및 시청자 반응을 도시한 도면이다.
도 3은 일 실시예에 따른 하이라이트 서버의 구성을 도시한 도면이다.
도 4는 일 실시예에 따른 하이라이트 영상 생성 방법을 나타낸 흐름도이다.
도 5는 일 실시예에 따른 하이라이트 키워드 결정 방법의 예시를 도시한 도면이다.
도 6은 다른 실시예에 따른 하이라이트 키워드 결정 방법의 예시를 도시한 도면이다.
도 7은 일 실시예에 따른 하이라이트 구간 추출 방법의 예시를 도시한 도면이다.
도 8은 다른 실시예에 따른 하이라이트 구간 추출 방법의 예시를 도시한 도면이다.
도 9는 일 실시예에 따른 시청자 단말의 구성을 도시한 도면이다.1 is a diagram illustrating a configuration of a system for generating a highlight image, according to an exemplary embodiment.
2 is a diagram illustrating an image and viewer response according to an embodiment.
3 is a diagram illustrating a configuration of a highlight server according to an exemplary embodiment.
4 is a flowchart illustrating a method of generating a highlight image, according to an exemplary embodiment.
5 illustrates an example of a method of determining a highlight keyword, according to an exemplary embodiment.
6 is a diagram illustrating an example of a method of determining a highlight keyword according to another exemplary embodiment.
7 is a diagram illustrating an example of a highlight section extraction method according to an exemplary embodiment.
8 is a diagram illustrating an example of a highlight section extraction method according to another exemplary embodiment.
9 is a diagram illustrating a configuration of a viewer terminal according to an embodiment.

이하에서, 첨부된 도면을 참조하여 실시예들을 상세하게 설명한다. 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다. 아래 설명하는 실시예들에는 다양한 변경이 가해질 수 있다. 아래 설명하는 실시예들은 실시 형태에 대해 한정하려는 것이 아니며, 이들에 대한 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.Hereinafter, exemplary embodiments will be described in detail with reference to the accompanying drawings. Like reference numerals in the drawings denote like elements. Various modifications may be made to the embodiments described below. The examples described below are not intended to be limited to the embodiments and should be understood to include all modifications, equivalents, and substitutes for them.

실시예에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 실시예를 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 명세서에서, "포함하다" 또는 "가지다" 등의 용어는 명세서 상에 기재된 특징, 숫자, 동작, 동작, 구성 요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 동작, 동작, 구성 요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.The terminology used herein is for the purpose of describing particular example embodiments only and is not intended to be limiting of examples. Singular expressions include plural expressions unless the context clearly indicates otherwise. In this specification, terms such as "comprise" or "have" are intended to indicate that there is a feature, number, operation, action, component, part, or combination thereof described on the specification, and one or more other features. It is to be understood that the present invention does not exclude the possibility of the presence or the addition of numbers, operations, operations, components, components, or a combination thereof.

다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 모든 용어들은 실시예가 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다. 일반적으로 사용되는 사전에 정의되어 있는 것과 같은 용어들은 관련 기술의 문맥 상 가지는 의미와 일치하는 의미를 가지는 것으로 해석되어야 하며, 본 출원에서 명백하게 정의하지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다.Unless defined otherwise, all terms used herein, including technical or scientific terms, have the same meaning as commonly understood by one of ordinary skill in the art. Terms such as those defined in the commonly used dictionaries should be construed as having meanings consistent with the meanings in the context of the related art and shall not be construed in ideal or excessively formal meanings unless expressly defined in this application. Do not.

또한, 첨부 도면을 참조하여 설명함에 있어, 도면 부호에 관계없이 동일한 구성 요소는 동일한 참조 부호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 실시예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 실시예의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다.In addition, in the description with reference to the accompanying drawings, the same components regardless of reference numerals will be given the same reference numerals and redundant description thereof will be omitted. In the following description of the embodiment, when it is determined that the detailed description of the related known technology may unnecessarily obscure the gist of the embodiment, the detailed description thereof will be omitted.

도 1은 일 실시예에 따른 하이라이트 영상 생성을 위한 시스템의 구성을 도시한 도면이다.1 is a diagram illustrating a configuration of a system for generating a highlight image, according to an exemplary embodiment.

도 1을 참조하면, 일 실시예에 따른 하이라이트 영상 시스템(10)은 하이라이트 영상 서버(100), 방송 단말(200), 시청자 단말(300)을 포함하여 구성된다.Referring to FIG. 1, the highlight image system 10 includes a highlight image server 100, a broadcast terminal 200, and a viewer terminal 300.

하이라이트 영상 시스템(10) 내에 포함된 다양한 개체들(entities) 간의 통신은 유/무선 네트워크(미도시)를 통해 수행될 수 있다. 유/무선 네트워크는 표준 통신 기술 및/또는 프로토콜들이 사용될 수 있다.Communication between various entities included in the highlight imaging system 10 may be performed through a wired / wireless network (not shown). Wired / wireless networks may use standard communication technologies and / or protocols.

방송 단말(200)은 게임, 먹거리, 뉴스, 교육, 컨설팅 등 자체 제작된 컨텐츠를 방송하거나, 스포츠, 선거 등 다른 방송 주체에 의하여 사전 제작된 컨텐츠를 중계 방송할 수 있다. 일례로, 게임 방송의 경우에는 방송 단말(200)을 통해 방송을 제작하는 스트리머(streamer)가 플레이하고 있는 게임의 화면을 실시간으로 중계할 수 있다.The broadcast terminal 200 may broadcast content produced in-house, such as games, food, news, education, and consulting, or broadcast content pre-produced by other broadcast entities such as sports and elections. For example, in the case of a game broadcast, a streamer for producing a broadcast may be relayed in real time through a broadcast terminal 200.

시청자 단말(300)은 방송 단말(200)에 의해 제작 및/또는 중계되는 방송을 시청하거나, 채팅, 댓글, 후원 등 방송 내 참여 활동을 하는 사용자 단말에 해당될 수 있다. The viewer terminal 300 may correspond to a user terminal that watches a broadcast produced and / or relayed by the broadcast terminal 200 or participates in a broadcast, such as chatting, commenting, or sponsoring.

시청자 단말(300)은 하이라이트 영상 서버(100)에서 생성된 하이라이트 영상을 시청할 수 있다. 시청자 단말(300)은 하이라이트 영상 서버(100)에 하이라이트 영상의 생성을 요청할 수 있다.The viewer terminal 300 may watch the highlight image generated by the highlight image server 100. The viewer terminal 300 may request the highlight image server 100 to generate a highlight image.

시청자 단말(300)은 다양한 하드웨어 형태로 구현될 수 있는데, 일례로 스마트폰과 같은 모바일 단말, 스마트패드와 같은 패드형 단말, 랩탑 컴퓨터 등 각종 형태의 컴퓨터, 웨어러블 디바이스, TV 단말 등의 하드웨어 형태로 구현될 수 있다Viewer terminal 300 may be implemented in a variety of hardware forms, for example, a mobile terminal such as a smart phone, a pad-type terminal such as a smart pad, various types of computers, such as laptop computers, wearable devices, TV terminal in the form of hardware Can be implemented

하이라이트 영상 서버(100)는 방송 서버의 기능을 수행할 수 있다. 즉, 하이라이트 영상 서버(100)는 방송 단말(200)과 시청자 단말(300)에 방송 플랫폼을 위한 다양한 기능들을 제공할 수 있다. 방송을 제작하거나 중계하는데 필요한 각종 방송 데이터 또는 이를 수행하는 방송 어플리케이션의 설치 데이터 등을 제공할 수 있다. 하이라이트 영상 서버(100)가 제공하는 방송은 실시간 방송 외에 사전 제작 방송, VOD 등도 포함될 수 있다.The highlight image server 100 may perform a function of a broadcast server. That is, the highlight image server 100 may provide various functions for the broadcast platform to the broadcast terminal 200 and the viewer terminal 300. Various broadcast data necessary for producing or relaying a broadcast or installation data of a broadcast application for performing the broadcast may be provided. The broadcast provided by the highlight image server 100 may include pre-production broadcast, VOD, etc. in addition to real-time broadcast.

여기서, 방송 단말(200) 및 시청자 단말(300)은 각각 하이라이트 영상 서버(100)를 통하여 방송 플랫폼의 기능을 제공받기 위한 방송 주체 계정 및 시청자 계정을 의미할 수 있다.Here, the broadcast terminal 200 and the viewer terminal 300 may refer to a broadcast subject account and a viewer account for receiving the functions of the broadcast platform through the highlight image server 100, respectively.

하이라이트 영상 서버(100)는 방송 단말(200)에 의해 제작 및/또는 중계되는 방송 데이터를 전송받는다. 방송 데이터에는 방송을 위한 비디오 파일, 오디오 파일, 각종 설정 파일 등이 포함될 수 있다.The highlight image server 100 receives broadcast data produced and / or relayed by the broadcast terminal 200. The broadcast data may include a video file for broadcasting, an audio file, various setting files, and the like.

하이라이트 영상 서버(100)는 전송받은 방송 데이터를 시청자 단말(300)에 전송하여, 시청자에게 방송 영상을 제공한다. 하이라이트 영상 서버(100)는 방송 단말(200)에서 전송받은 방송 데이터를 그대로 시청자 단말(300)에 전송할 수 있으며, 실시간 방송, 사전 제작 방송, VOD 등 방송 형식에 맞는 데이터로 새로 제작하여 전송할 수 있다. 또한, 하이라이트 영상 서버(100)는 방송 영상을 편집하거나 방송 영상의 화질을 개선하거나 배경음악을 추가하는 등 방송 데이터에 다양한 효과를 처리한 후 전송 할 수 있다.The highlight image server 100 transmits the received broadcast data to the viewer terminal 300 to provide a broadcast image to the viewer. The highlight image server 100 may transmit the broadcast data received from the broadcast terminal 200 to the viewer terminal 300 as it is, and may newly produce and transmit data corresponding to a broadcast format such as real time broadcast, pre-production broadcast, and VOD. . In addition, the highlight image server 100 may process and transmit various effects to broadcast data, such as editing a broadcast video, improving the quality of the broadcast video, or adding background music.

시청자 단말(300)은 하이라이트 영상 서버(100)로부터 전송받은 방송 데이터를 화면에 출력하여, 시청자에게 방송을 제공할 수 있다.The viewer terminal 300 may provide broadcast to the viewer by outputting broadcast data received from the highlight image server 100 on the screen.

일 실시예에 따른 하이라이트 영상 시스템(10)은 영상에 대한 하이라이트(hightlight) 영상을 생성할 수 있다. 하이라이트(hightlight) 영상은 전체 영상 중에 시청자의 관심이 높은 장면만을 모아 하나의 영상으로 만든 것으로, 모든 영상을 시청하기 어려운 시청자들이 시청하게 된다.The highlight image system 10 according to an embodiment may generate a highlight image of an image. The highlight image is made up of only one scene of high interest among the entire image into a single image, which is difficult for all viewers to watch.

하이라이트 영상 시스템(10)은 영상에 대한 시청자 반응, 영상의 음성 키워드, 시청자 요청 키워드 등을 이용하여, 하이라이트 영상을 생성할 수 있다.The highlight image system 10 may generate a highlight image by using a viewer response to the image, an audio keyword of the image, a viewer request keyword, and the like.

영상에 대한 시청자 반응은 시청자가 영상에 대해 입력한 각종 데이터로, 채팅어, 댓글, 이모티콘, 특수 효과, 방송 후원 등을 포함할 수 있다. 영상의 음성 키워드는 영상 내 화자가 발화한 음성으로, 방송 영상에서 스트리머가 발화한 음성이 이에 해당할 수 있다. 시청자 요청 키워드는 시청자가 하이라이트 영상 생성의 요청 시에 입력하는 키워드로, 하이라이트 영상 생성에 이용하게 되는 레퍼런스(reference) 키워드이다.The viewer's response to the video is various data input by the viewer for the video, and may include a chat word, a comment, an emoticon, a special effect, a broadcast sponsorship, and the like. The audio keyword of the image may be a voice spoken by the speaker in the image, and may correspond to a voice spoken by the streamer in the broadcast image. The viewer request keyword is a keyword that the viewer inputs when requesting the creation of the highlight image, and is a reference keyword used to generate the highlight image.

방송 단말(200)은 방송 영상을 하이라이트 영상 서버(100)에서 제공할 수 있으며, 시청자 단말(300)은 채팅어, 댓글, 특수 효과, 방송 후원과 같은 시청자 반응 및 시청자 요청 키워드를 하이라이트 영상 서버(100)에 제공할 수 있다.The broadcast terminal 200 may provide a broadcast image to the highlight image server 100, and the viewer terminal 300 highlights a viewer response and viewer request keywords such as chat, comments, special effects, and broadcast sponsorship. ) Can be provided.

하이라이트 영상 서버(100)는 방송 단말(200) 및 시청자 단말(300)에서 제공한, 방송 영상, 시청자 반응, 시청자 요청 키워드를 이용하여, 방송 영상에 대한 하이라이트 영상을 생성하고, 생성된 하이라이트 영상을 시청자 단말(300)에 전송할 수 있다.The highlight image server 100 generates a highlight image of the broadcast image by using the broadcast image, the viewer response, and the viewer request keyword provided by the broadcast terminal 200 and the viewer terminal 300, and generates the highlight image. It may be transmitted to the viewer terminal 300.

시청자 단말(300)은 하이라이트 영상 서버(100)로부터 전송받은 하이라이트 영상를 화면에 출력하여, 시청자에게 하이라이트 영상을 제공할 수 있다.The viewer terminal 300 may output the highlight image received from the highlight image server 100 to the screen, and provide the highlight image to the viewer.

일 실시예에 따른 하이라이트 영상 시스템(10)에 의하면, 하이라이트 영상을 시청자 또는 스트리머의 관심이 높은 장면만으로 구성하거나, 시청자가 임의로 설정 키워드에 따라 하이라이트 영상을 생성하여 제공할 수 있어, 하이라이트 영상에 대한 시청자의 흥미를 높일 수 있다.According to the highlight image system 10 according to an exemplary embodiment, the highlight image may be composed of only a scene of high interest of the viewer or the streamer, or the viewer may arbitrarily generate and provide a highlight image according to a set keyword. Can increase the interest of the viewer.

이하에서는 하이라이트 영상 서버(100)가 방송 단말(200)에서 전송받은 방송 영상에 대한 하이라이트 영상을 생성하는 것으로 설명하나, 일 실시예에 따른 하이라이트 영상 서버(100)는 방송 영상뿐만 아니라, 기 제작된 영상, 다른 영상 서버에서 전송받은 영상, 시청자가 업로드한 영상 등에 대해 하이라이트 영상을 생성할 수 있음은 자명하다 하겠다.Hereinafter, the highlight image server 100 generates a highlight image of the broadcast image transmitted from the broadcast terminal 200. However, the highlight image server 100 according to an embodiment is not only a broadcast image, but also a pre-produced image. It will be apparent that the highlight image can be generated for the image, the image transmitted from another image server, and the image uploaded by the viewer.

그리고, 일 실시예에 따른 하이라이트 영상 서버(100)는 전술한 바와 같이, 방송 플랫폼의 기능을 수행할 수 있다. 그러나, 방송 플랫폼의 기능을 하이라이트 영상 서버(100)와 구분된 방송 서버(미도시)로 구현할 수 있으며, 하이라이트 영상 서버(100)는 방송 서버(미도시)로부터 방송 영상을 전송받아, 하이라이트 영상을 생성하도록 구현될 수 있다. 하이라이트 영상 서버(100)의 하드웨어 구성은 기능에 따라 한정되지 아니하며, 전술 또는 후술하는 다양한 기능의 조합으로 구성될 수 있다.In addition, as described above, the highlight image server 100 may perform a function of a broadcast platform. However, the function of the broadcast platform may be implemented as a broadcast server (not shown) separated from the highlight image server 100, and the highlight image server 100 receives a broadcast image from a broadcast server (not shown), thereby receiving a highlight image. It can be implemented to generate. The hardware configuration of the highlight image server 100 is not limited to functions, and may be configured by a combination of various functions described above or below.

도 2는 일 실시예에 따른 영상 및 시청자 반응을 도시한 도면이다.2 is a diagram illustrating an image and viewer response according to an embodiment.

도 2를 참조하면, 영상은 단위 시간의 이미지 데이터 및 음성 데이터로 구성된다. 구체적으로, 영상은 프레임(frame) 단위의 연속적인 이미지로 구성된 비디오 및 음성 파일인 오디오로 구성된다.Referring to FIG. 2, an image includes image data and audio data of a unit time. Specifically, the image is composed of audio, which is a video and audio file composed of continuous images in units of frames.

시청자는 영상을 시청하면서 또는 영상 시청 후, 영상에 대한 시청자 반응을 입력할 수 있다. 시청자는 하이라이트 영상 서버(100) 또는 방송 서버(미도시)가 제공하는 방송 플랫폼의 인터페이스를 통하여, 영상의 장면에 대해 시청자 반응을 입력할 수 있다.The viewer may enter a viewer's response to the image while watching or after the image. The viewer may input a viewer response to a scene of the image through an interface of a broadcast platform provided by the highlight image server 100 or a broadcast server (not shown).

영상에 대한 시청자 반응은 시청자가 영상에 대해 입력하는 각종 데이터로, 채팅어, 댓글, 이모티콘, 특수 효과, 방송 후원 등을 포함할 수 있다. 즉, 시청자 반응은 시청자가 영상을 시청하면서 입력한 채팅어, 댓글, 이모티콘, 특수 효과, 그리고 방송 후원 등이다.The viewer's response to the video is a variety of data input by the viewer for the video, and may include a chat, a comment, an emoticon, a special effect, a broadcast sponsorship, and the like. In other words, viewer responses are chat words, comments, emoticons, special effects, and broadcast sponsorships that viewers input while watching videos.

시청자는 하이라이트 영상 서버(100) 또는 방송 서버(미도시)가 제공하는 방송 플랫폼의 인터페이스를 통해 방송 영상을 제작, 중계하는 스트리머를 후원할 수 있다. The viewer may sponsor a streamer that produces and relays a broadcast video through an interface of a broadcast platform provided by the highlight video server 100 or a broadcast server (not shown).

시청자는 방송 플랫폼 내에서 사용가능한 후원 아이템(별풍선, 쿠키 등)을 구입하여, 스트리머에게 제공함으로써, 스트리머를 후원할 수 있다. 스트리머는 후원 아이템을 현금으로 환전하여 수익을 창출할 수 있다. The viewer may sponsor the streamer by purchasing sponsorship items (star balloons, cookies, etc.) available within the broadcast platform and providing them to the streamer. Streamers can make money by exchanging cash for sponsored items.

도면에서는 시청자들이 영상의 각 장면들에 대해 입력한 채팅어들을 도시한 것으로, 영상의 각 장면들마다 여러 시청자들이 자신들의 관심을 채팅어로 표현하고 있는 것이다. In the drawing, viewers input chats for each scene of the image, and various viewers express their interests in chat in each scene of the image.

이와 같은 시청자 반응은 영상에 대한 시청자들의 관심사를 확인할 수 있는 시청자의 관심 키워드이다.The viewer's response is a keyword of interest of the viewer who can confirm the viewer's interest in the video.

하이라이트 영상 서버(100)는 시청자 반응을 이용하여 영상에 대한 시청자의 관심을 파악한 후, 영상에서 시청자 관심이 높은 영상 구간들을 추출하여, 하이라이트를 생성하는 것이다. The highlight image server 100 grasps the viewer's interest in the image by using the viewer's response, and then extracts the sections of the image having high viewer's interest from the image and generates the highlight.

이에 따라, 하이라이트 영상 서버(100)는 시청자의 관심 영상만으로 구성된 하이라이트 영상을 생성할 수 있다.Accordingly, the highlight image server 100 may generate a highlight image composed of only the viewer's image of interest.

도 3은 일 실시예에 따른 하이라이트 영상 서버(100)의 구성을 도시한 도면이다.3 is a diagram illustrating a configuration of a highlight image server 100 according to an exemplary embodiment.

도 3을 참조하면, 일 실시예에 따른 하이라이트 영상 서버(100)는 인터페이스부(110), 하이라이트 키워드부(130), 하이라이트 구간부 (150), 하이라이트 영상부(170)를 포함하여 구성될 수 있다.Referring to FIG. 3, the highlight image server 100 according to an exemplary embodiment may include an interface unit 110, a highlight keyword unit 130, a highlight section unit 150, and a highlight image unit 170. have.

하이라이트 영상 서버(100) 각각의 구성들(110, 130, 150, 170)은 적어도 하나의 프로세서에 의해 동작할 수 있으며, 하나의 프로세서에 의해 적어도 하나의 구성들(110, 130, 150, 170)이 동작할 수 있다.Each of the components 110, 130, 150, and 170 of the highlight image server 100 may be operated by at least one processor, and at least one of the components 110, 130, 150, and 170 by one processor. This can work.

하이라이트 영상 서버(100)의 하드웨어 구성은 다양하게 구현될 수 있다. 하이라이트 키워드부(130), 하이라이트 구간부 (150)를 통합하거나, 하이라이트 구간부 (150), 하이라이트 영상부(170)를 통합하여 하드웨어를 구성할 수 있다. 이와 같이, 하이라이트 영상 서버(100)의 하드웨어 구성은 본 명세서의 기재에 한정되지 아니하며, 다양한 방법과 조합으로 구현될 수 있다.The hardware configuration of the highlight image server 100 may be implemented in various ways. The hardware may be configured by integrating the highlight keyword unit 130 and the highlight section unit 150, or by integrating the highlight section unit 150 and the highlight image unit 170. As such, the hardware configuration of the highlight image server 100 is not limited to the description herein and may be implemented in various methods and combinations.

인터페이스부(110)는 영상 데이터, 시청자 반응, 레퍼런스 키워드 등을 전송받고, 하이라이트 영상을 시청자 단말(300)에 전송할 수 있다.The interface unit 110 may receive image data, a viewer response, a reference keyword, and the like, and transmit the highlight image to the viewer terminal 300.

인터페이스부(110)는 영상 데이터를 방송 단말(200), 영상 서버(미도시), 또는 시청자 단말(300)로부터 전송받을 수 있다. The interface unit 110 may receive image data from the broadcast terminal 200, an image server (not shown), or the viewer terminal 300.

영상 데이터는 단위 시간의 이미지 데이터 및 음성 데이터로 구성되며, 프레임(frame) 단위의 연속적인 이미지로 구성된 비디오 및 음성 파일인 오디오로 구성 될 수 있다.The image data is composed of image data and audio data of unit time, and may be composed of audio, which is a video and audio file composed of continuous images in units of frames.

즉, 하이라이트 영상을 생성하기 위한 영상은, 방송 단말(200)에서 제작 또는 중계되는 영상이거나, 다른 영상 서버(미도시)에서 제작, 저장된 영상이거나, 시청자 단말(300)를 통해 시청자가 업로드한 영상일 수 있다.That is, the image for generating the highlight image is an image produced or relayed by the broadcast terminal 200, an image produced and stored by another video server (not shown), or an image uploaded by the viewer through the viewer terminal 300. Can be.

인터페이스부(110)는 시청자 단말(300)로부터 영상에 대한 시청자 반응과 레퍼런스 키워드를 전송 받을 수 있다. The interface unit 110 may receive a viewer response to the image and a reference keyword from the viewer terminal 300.

영상에 대한 시청자 반응은 시청자가 영상에 대해 입력한 각종 데이터로, 채팅어, 댓글, 이모티콘, 특수 효과, 방송 후원 등을 포함할 수 있다. 이 중 방송 후원에 대한 정보에는 방송 영상에 후원한 시청자의 식별자, 후원 아이템의 수, 후원 금액 등이 포함될 수 있다.The viewer's response to the video is various data input by the viewer for the video, and may include a chat word, a comment, an emoticon, a special effect, a broadcast sponsorship, and the like. The information on the sponsorship of the broadcast may include an identifier of a sponsor who sponsored the broadcast video, the number of sponsored items, and the amount of sponsorship.

레퍼런스 키워드는 하이라이트 영상 제작을 위한 키워드로, 시청자가 입력한 키워드를 의미한다. The reference keyword is a keyword for producing the highlight image and refers to a keyword input by the viewer.

시청자 단말(300)은 하이라이트 영상 서버(100)에 시청자의 관심사에 맞는 하이라이트 영상의 생성을 요청할 수 있으며, 시청자의 관심사에 해당하는 레퍼런스 키워드를 하이라이트 영상 서버(100)에 전송하여, 하이라이트 영상 서버(100)가 하이라이트 영상을 생성하도록 할 수 있다.The viewer terminal 300 may request the highlight image server 100 to generate a highlight image corresponding to the interests of the viewer, and transmits a reference keyword corresponding to the interests of the viewer to the highlight image server 100, thereby highlighting the highlight image server ( 100 may generate the highlight image.

하이라이트 키워드부(130)는 시청자 반응을 이용하여 하이라이트 키워드(131)를 결정할 수 있다. 하이라이트 키워드(131)는 영상에 대한 시청자나 방송 스트리머의 관심 키워드이다.The highlight keyword unit 130 may determine the highlight keyword 131 using a viewer response. The highlight keyword 131 is a keyword of interest of a viewer or a broadcast streamer for an image.

시청자들은 영상의 각 장면들에 대해 채팅어, 댓글, 이모티콘, 특수 효과, 후원 등의 시청자 반응을 입력할 수 있다. Viewers can enter viewer responses such as chats, comments, emoticons, special effects, and sponsorships for each scene of the video.

시청자들은 시청자 반응을 통해, 영상의 각 장면들에 대한 자신들의 관심을 출력하는 것이다. 이와 같이 시청자 반응은 영상에 대한 시청자들의 관심사를 확인할 수 있는 시청자의 관심 키워드라 할 수 있다.Viewers output their interest in each scene of the video through the viewer response. In this way, the viewer's response can be referred to as a keyword of interest of the viewer who can confirm the viewer's interest in the video.

하이라이트 키워드부(130)는 시청자 반응을 이용하여, 시청자의 영상에 대한 높은 관심을 나타내는 키워드를, 하이라이트를 생성을 위한 하이라이트 키워드(131)로 결정하는 것이다.The highlight keyword unit 130 determines a keyword indicating a high interest in the viewer's video as a highlight keyword 131 for generating a highlight using a viewer response.

하이라이트 키워드부(130)는 출력 빈도/횟수가 높은 시청자 반응을 하이라이트 키워드(131)로 결정할 수 있다. 하이라이트 키워드부(130)는 시청자 반응 중 기 설정된 빈도 또는 횟수 이상 출력되는 시청자 반응을 하이라이트 키워드(131)로 결정할 수 있다. 시청자 반응 중 출력 빈도/횟수가 높은 시청자 반응을 시청자의 영상에 대한 높은 관심을 나타내는 키워드로 판단할 수 있다.The highlight keyword unit 130 may determine a viewer response having a high output frequency / number of times as the highlight keyword 131. The highlight keyword unit 130 may determine, as the highlight keyword 131, a viewer response that is output at least a predetermined frequency or number of times among the viewer responses. The viewer response with a high output frequency / frequency among the viewer responses may be determined as a keyword representing a high interest in the viewer's video.

하이라이트 키워드부(130)는 시청자 반응뿐만 아니라, 영상에서 추출된 음성 키워드 또는 시청자로부터 입력받은 레퍼런스 키워드를 이용하여, 하이라이트 키워드(131)를 결정할 수 있다.The highlight keyword unit 130 may determine the highlight keyword 131 using not only a viewer response but also a voice keyword extracted from an image or a reference keyword input from the viewer.

음성 인식부(미도시)를 통해 인식된 영상의 음성에서, 화자가 발화한 음성 키워드를 추출할 수 있다. 하이라이트 키워드부(130)는 음성 키워드를 통해, 방송 스트리머의 관심 키워드를 하이라이트 키워드(131)로 결정할 수 있다.The voice keyword spoken by the speaker may be extracted from the voice of the image recognized by the voice recognition unit (not shown). The highlight keyword unit 130 may determine the keyword of interest of the broadcast streamer as the highlight keyword 131 through the voice keyword.

하이라이트 키워드부(130)는 복수의 하이라이트 키워드(131)를 결정할 수 있으며, 전술한 하나의 방법에 따라 결정된 하이라이트 키워드(131)의 동의어, 유사어 또는 관련어인 연관 키워드를 하이라이트 키워드(131)로 결정할 수 있다.The highlight keyword unit 130 may determine the plurality of highlight keywords 131, and may determine, as the highlight keyword 131, a related keyword that is a synonym, a similar word, or a related word of the highlight keyword 131 determined according to the aforementioned method. have.

하이라이트 구간부(150)는 하이라이트 키워드부(130)에서 결정된 하이라이트 키워드(131)를 이용하여, 하이라이트 구간(151)을 추출할 수 있다.The highlight section 150 may extract the highlight section 151 using the highlight keyword 131 determined by the highlight keyword section 130.

하이라이트 구간부(150)는 시청자 반응 중 하이라이트 키워드(151)가 높은 빈도로 출력되는 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다. 하이라이트 구간부(150)는 시청자 반응 중 하이라이트 키워드(151)가 단위 시간 내 기 설정된 빈도 또는 횟수 이상 출력된 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다.The highlight section 150 may extract an image section in which the highlight keyword 151 is output with high frequency during the viewer response as the highlight section 151. The highlight section 150 may extract, as the highlight section 151, an image section in which the highlight keyword 151 is output at a frequency or a number of times predetermined within a unit time during the viewer response.

하이라이트 구간부(150)는 추출된 하이라이트 구간(151)에 일정 영상 버퍼(buffer) 구간을 추가할 수 있다. 즉, 하이라이트 구간부(150)는 추출된 하이라이트 구간(151)의 전 및/또는 후의 일정 단위 시간의 영상 구간을 하이라이트 구간(151)으로 추가할 수 있다.The highlight section 150 may add a predetermined image buffer section to the extracted highlight section 151. That is, the highlight section 150 may add an image section of a predetermined unit time before and / or after the extracted highlight section 151 as the highlight section 151.

하이라이트 구간부(150)는 영상에 대한 시청자의 후원 정보를 이용하여, 하이라이트 구간(151)을 추출할 수 있다. 하이라이트 구간부(150)는 시청자의 후원 빈도, 후원 아이템 수 또는 후원 금액 등이 기 설정된 기준 이상인 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다.The highlight section 150 may extract the highlight section 151 using the sponsor's support information for the image. The highlight section 150 may extract an image section in which the viewer's sponsorship frequency, the number of sponsored items, the sponsored amount, or the like is greater than or equal to a predetermined criterion as the highlight section 151.

하이라이트 구간부(150)는 시청자의 재생 이력 정보를 이용하여, 하이라이트 구간(151)을 추출할 수 있다. 시청자 반응은 영상에 대한 시청자의 재생 이력 정보를 더 포함할 수 있다. 시청자의 재생 이력은 시청자가 영상의 어느 구간을 얼마나 많이 재생하였는지, 영상의 어느 구간을 천천히 또는 빠르게 재생하였는지와 같이 정보로, 시청자의 영상 재생 빈도, 인기 재생 구간 등을 포함할 수 있다.The highlight section 150 may extract the highlight section 151 using the playback history information of the viewer. The viewer's response may further include viewer's playback history information for the image. The playback history of the viewer is information such as how many sections of the video have been played and how many sections of the video have been slowly or quickly played, and may include a viewer's video playback frequency, a popular playback section, and the like.

하이라이트 구간부(150)는 시청자의 재생 이력이 기 설정된 기준 이상인 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다.The highlight section 150 may extract the video section having the playback history of the viewer above a preset reference as the highlight section 151.

하이라이트 영상부(170)은 영상에서 하이라이트 구간부(150)에서 추출된 하이라이트 구간(530)의 영상들을 조합하여 하이라이트 영상(500)을 생성할 수 있다.The highlight image unit 170 may generate a highlight image 500 by combining images of the highlight period 530 extracted from the highlight period unit 150 from the image.

도 4는 일 실시예에 따른 하이라이트 영상 생성 방법을 나타낸 흐름도이다.4 is a flowchart illustrating a method of generating a highlight image, according to an exemplary embodiment.

도 4를 참조하면, 일 실시예에 따른 하이라이트 영상 생성 방법은 영상 데이터 및 영상에 대한 시청자 반응의 전송 동작(201), 하이라이트 키워드 결정 동작(203), 하이라이트 구간 추출 동작(205), 하이라이트 영상 생성 동작(207)을 포함한다.Referring to FIG. 4, in the highlight image generating method according to an exemplary embodiment, a transmission operation 201, a highlight keyword determination operation 203, a highlight section extraction operation 205, and a highlight image generation of a viewer response to image data and an image are generated. Act 207.

우선, 영상 데이터 및 영상에 대한 시청자 반응의 전송 동작(201)으로, 인터페이스부(110)는 영상 데이터 및 시청자 반응을 전송 받는다.First, in operation 201 of transmitting image data and a viewer response to an image, the interface unit 110 receives the image data and the viewer response.

인터페이스부(110)는 영상 데이터를 방송 단말(200), 영상 서버(미도시), 또는 시청자 단말(300)로부터 전송받을 수 있으며, 시청자 반응을 시청자 단말(300)로부터 전송받을 수 있다.The interface unit 110 may receive image data from the broadcast terminal 200, an image server (not shown), or the viewer terminal 300, and may receive a viewer response from the viewer terminal 300.

전술한대로 영상에 대한 시청자 반응은 시청자가 영상에 대해 입력한 각종 데이터로, 채팅어, 댓글, 이모티콘, 특수 효과, 방송 후원, 재생 이력 등을 포함할 수 있다.As described above, the viewer's response to the image is various data input by the viewer for the image, and may include a chat word, a comment, an emoticon, a special effect, a broadcast sponsorship, a playback history, and the like.

추가로, 인터페이스부(110)는 레퍼런스 키워드를 전송받을 수 있다. 레퍼런스 키워드는 하이라이트 영상 제작을 위한 키워드로, 시청자가 입력한 키워드이다.In addition, the interface unit 110 may receive a reference keyword. The reference keyword is a keyword for producing a highlight image and is a keyword input by the viewer.

시청자 단말(300)은 하이라이트 영상 서버(100)에 시청자의 관심사에 맞는 하이라이트 영상의 생성을 요청할 수 있으며, 시청자의 관심사에 해당하는 레퍼런스 키워드를 하이라이트 영상 서버(100)에 전송하여, 하이라이트 영상 서버(100)가 하이라이트 영상을 생성하도록 할 수 있다.The viewer terminal 300 may request the highlight image server 100 to generate a highlight image corresponding to the interests of the viewer, and transmits a reference keyword corresponding to the interests of the viewer to the highlight image server 100, thereby highlighting the highlight image server ( 100 may generate the highlight image.

그리고, 하이라이트 키워드 결정 동작(203)으로, 하이라이트 키워드부(130)는 시청자 반응을 이용하여 하이라이트 키워드(131)를 결정한다. 하이라이트 키워드(131)는 영상에 대한 시청자나 방송 스트리머의 관심 키워드이다.In the highlight keyword determination operation 203, the highlight keyword unit 130 determines the highlight keyword 131 using a viewer response. The highlight keyword 131 is a keyword of interest of a viewer or a broadcast streamer for an image.

시청자 반응은 영상에 대한 시청자들의 관심사를 확인할 수 있는 시청자의 관심 키워드로, 하이라이트 키워드부(130)는 시청자 반응을 이용하여, 시청자의 영상에 대한 높은 관심을 나타내는 키워드를, 하이라이트를 생성을 위한 하이라이트 키워드(131)로 결정하는 것이다.The viewer response is a keyword of interest of the viewer who can confirm the interest of the viewer with respect to the image. The highlight keyword unit 130 uses the viewer response to highlight a keyword indicating high interest in the viewer's image and generates a highlight. This is determined by the keyword 131.

하이라이트 키워드부(130)는 출력 빈도/횟수가 높은 시청자 반응을 하이라이트 키워드(131)로 결정할 수 있다. 하이라이트 키워드부(130)는 시청자 반응 중 기 설정된 빈도 또는 횟수 이상 출력되는 시청자 반응을 하이라이트 키워드(131)로 결정할 수 있다. 시청자 반응 중 출력 빈도/횟수가 높은 시청자 반응을 시청자의 영상에 대한 높은 관심을 나타내는 키워드로 판단할 수 있다.The highlight keyword unit 130 may determine a viewer response having a high output frequency / number of times as the highlight keyword 131. The highlight keyword unit 130 may determine, as the highlight keyword 131, a viewer response that is output at least a predetermined frequency or number of times among the viewer responses. The viewer response with a high output frequency / frequency among the viewer responses may be determined as a keyword representing a high interest in the viewer's video.

도 5는 일 실시예에 따른 하이라이트 키워드(131)의 결정 방법의 예시를 도시한 도면으로, 시청자 반응 중 출력 빈도/횟수가 높은 시청자 반응을 하이라이트 키워드(131)로 결정하는 방법을 도시하고 있다.FIG. 5 is a diagram illustrating an example of a method of determining a highlight keyword 131 according to an embodiment, and illustrates a method of determining a viewer response having a high output frequency / number of viewer responses as the highlight keyword 131.

도 5를 참조하면, 첫번째 영상 장면의 시청자 반응은 채팅어로, 시청자들의 채팅어에 '집행검'이라는 단어가 높은 빈도로 출력되고 있다. 이 경우, 하이라이트 키워드부(130)는 '집행검'의 단어를 하이라이트 키워드(131)로 결정할 수 있다.Referring to FIG. 5, the viewer response of the first video scene is a chat word, and a word “executive sword” is output to a chat word of viewers at a high frequency. In this case, the highlight keyword unit 130 may determine the word of 'enforcement sword' as the highlight keyword 131.

두번째 영상 장면의 시청자 반응은 이모티콘으로, 시청자들의 입력한 이모티콘 중 '♥'의 이모티콘이 높은 빈도로 출력되고 있다. 이 경우, 하이라이트 키워드부(130)는 '♥'의 이모티콘을 하이라이트 키워드(131)로 결정할 수 있다.The viewer response of the second video scene is an emoticon, and the emoticon of '♥' among the emoticons input by the viewers is output at a high frequency. In this case, the highlight keyword unit 130 may determine the emoticon of '♥' as the highlight keyword 131.

세번째 영상 장면의 시청자 반응은 특수 효과로, 시청자들의 입력한 특수 효과 중 '폭죽 효과'의 특수 효과가 높은 빈도로 출력되고 있다. 이 경우, 하이라이트 키워드부(130)는 폭죽 효과'의 특수 효과를 하이라이트 키워드(131)로 결정할 수 있다.The viewer response of the third video scene is a special effect, and among the special effects input by the viewer, the special effect of the 'firecracker effect' is output at a high frequency. In this case, the highlight keyword unit 130 may determine the special effect of the 'firecracker effect' as the highlight keyword 131.

그리고, 하이라이트 키워드부(130)는 시청자 반응뿐만 아니라, 영상에서 추출된 음성 키워드를 이용하여, 하이라이트 키워드(131)를 결정할 수 있다.In addition to the viewer response, the highlight keyword unit 130 may determine the highlight keyword 131 by using the audio keyword extracted from the image.

음성 인식부(미도시)를 통해 인식된 영상의 음성에서 화자가 발화한 음성 키워드를 추출할 수 있다. 하이라이트 키워드부(130)는 음성 키워드를 통해, 방송 스트리머의 관심 키워드를 하이라이트 키워드(131)로 결정할 수 있다.The voice keyword spoken by the speaker may be extracted from the voice of the image recognized by the voice recognition unit (not shown). The highlight keyword unit 130 may determine the keyword of interest of the broadcast streamer as the highlight keyword 131 through the voice keyword.

도 6은 다른 실시예에 따른 하이라이트 키워드 결정 방법의 예시를 도시한 도면으로, 영상에서 추출된 음성 키워드를 이용하여, 하이라이트 키워드(131)를 결정하는 방법을 도시하고 있다.FIG. 6 is a diagram illustrating an example of a method for determining a highlight keyword according to another embodiment, and illustrates a method of determining the highlight keyword 131 using an audio keyword extracted from an image.

도 6을 참조하면, 영상 장면에 대한 스트리머의 음성을 인식한 결과, 스트리머의 음성에는 '집행검'이라는 음성 키워드가 높은 빈도로 출력되고 있음을 확인할 수 있다. 이 경우, 하이라이트 키워드부(130)는 '집행검'의 음성 키워드를 하이라이트 키워드(131)로 결정할 수 있다.Referring to FIG. 6, as a result of recognizing the streamer's voice of the video scene, it can be seen that the voice keyword 'executive sword' is output to the streamer's voice at a high frequency. In this case, the highlight keyword unit 130 may determine the voice keyword of 'enforcement sword' as the highlight keyword 131.

그리고, 하이라이트 키워드부(130)는 시청자 반응, 음성 키워드뿐만 아니라, 시청자가 입력한 레퍼런스 키워드를 하이라이트 키워드(131)를 결정할 수 있다.The highlight keyword unit 130 may determine the highlight keyword 131 based on the reference keyword input by the viewer as well as the viewer response and the audio keyword.

전술한 바와 같이, 레퍼런스 키워드는 하이라이트 영상 제작을 위한 키워드로, 시청자가 입력한 키워드를 의미한다. As described above, the reference keyword is a keyword for producing the highlight image and means a keyword input by the viewer.

시청자 단말(300)은 하이라이트 영상 서버(100)에 시청자의 관심사에 맞는 하이라이트 영상의 생성을 요청할 수 있으며, 시청자의 관심사에 해당하는 레퍼런스 키워드를 하이라이트 영상 서버(100)에 전송하여, 하이라이트 영상 서버(100)가 하이라이트 영상을 생성하도록 할 수 있다.The viewer terminal 300 may request the highlight image server 100 to generate a highlight image corresponding to the interests of the viewer, and transmits a reference keyword corresponding to the interests of the viewer to the highlight image server 100, thereby highlighting the highlight image server ( 100 may generate the highlight image.

하이라이트 키워드부(130)는 인터페이스부(110)를 통해 시청자 단말(200)로부터 전송받은 레퍼런스 키워드를 하이라이트 키워드(131)로 결정할 수 있다.The highlight keyword unit 130 may determine the reference keyword received from the viewer terminal 200 through the interface unit 110 as the highlight keyword 131.

그리고, 하이라이트 키워드부(130)는 복수의 하이라이트 키워드(131)를 결정할 수 있으며, 전술한 하나의 방법에 따라 결정된 하이라이트 키워드(131)의 동의어, 유사어, 관련어인 연관 키워드를 하이라이트 키워드(131)로 결정할 수 있다.In addition, the highlight keyword unit 130 may determine the plurality of highlight keywords 131, and the related keywords, which are synonyms, similar words, and related words of the highlight keyword 131 determined according to the above-described method, may be referred to as the highlight keyword 131. You can decide.

일례로, 하이라이트 키워드부(130)는 '집행검'의 단어를 하이라이트 키워드(131)로 결정한 경우, '집행검'과 관련어인 '진명황', '드래곤 슬레이어' 등을 하이라이트 키워드(131)로 결정할 수 있다.For example, when the highlight keyword unit 130 determines the word of 'enforcement sword' as the highlight keyword 131, the highlight keyword unit 130 includes 'true name' and 'dragon slayer' related to 'enforcement sword' as the highlight keyword 131. You can decide.

그리고, 하이라이트 구간 추출 동작(205)으로, 하이라이트 구간부(150)는 하이라이트 키워드부(130)에서 결정된 하이라이트 키워드(131)를 이용하여, 하이라이트 구간(151)을 추출한다.In a highlight section extraction operation 205, the highlight section 150 extracts the highlight section 151 using the highlight keyword 131 determined by the highlight keyword section 130.

하이라이트 구간부(150)는 시청자 반응 중 하이라이트 키워드(151)가 높은 빈도로 출력되는 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다. The highlight section 150 may extract an image section in which the highlight keyword 151 is output with high frequency during the viewer response as the highlight section 151.

하이라이트 구간부(150)는 시청자 반응 중 하이라이트 키워드(151)가 단위 시간 내 기 설정된 빈도 또는 횟수 이상 출력된 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다.The highlight section 150 may extract, as the highlight section 151, an image section in which the highlight keyword 151 is output at a frequency or a number of times predetermined within a unit time during the viewer response.

도 7은 일 실시예에 따른 하이라이트 구간(151)의 추출 방법의 예시를 도시한 도면으로, 하이라이트 키워드(151)가 높은 빈도로 출력되는 영상 구간을 하이라이트 구간(151)으로 추출하는 방법을 도시하고 있다.7 illustrates an example of a method of extracting a highlight section 151, according to an exemplary embodiment. A method of extracting an image section in which the highlight keyword 151 is output at a high frequency as the highlight section 151 is illustrated.

도 7을 참조하면, 하이라이트 키워드(151)로 '집행검'의 단어, '♥'의 이모티콘, '폭죽 효과'의 특수 효과가 결정된 경우, 하이라이트 영상부(150)는 하이라이트 키워드(131)가 한 영상 장면 당 5번 이상 출력된 영상 장면의 구간을 하이라이트 구간(151)으로 추출하도록 정할 수 있다. Referring to FIG. 7, when the highlight keyword 151 determines the word of 'executive sword', the emoticon of '♥', and the special effects of the 'firecracker effect', the highlight image unit 150 may be configured by the highlight keyword 131. The section of the video scene output five or more times per video scene may be determined to be extracted as the highlight section 151.

이 경우, 하이라이트 영상부(150)는 '♥'의 이모티콘이 6번 출력된 두번째 영상 장면의 구간을 하이라이트 구간(151)으로 추출하는 것이다.In this case, the highlight image unit 150 extracts the section of the second video scene in which the emoticon of '♥' is output six times as the highlight section 151.

하이라이트 영상부(150)는 하이라이트 구간(151)으로 추출하는 영상 장면의 단위 시간을 영상의 전체 재생 시간에 따라 설정할 수 있다. 작게는 프레임 단위로, 크게는 5초, 10초, 30초 등의 다양한 시간 단위로 설정할 수 있을 것이다. The highlight image unit 150 may set the unit time of the video scene extracted to the highlight section 151 according to the entire playback time of the video. It may be set in small units of time, and in various time units of 5 seconds, 10 seconds, 30 seconds, and the like.

하이라이트 구간부(150)는 추출된 하이라이트 구간(151)에 일정 영상 구간 버퍼(buffer)를 추가할 수 있다. The highlight section 150 may add a predetermined image section buffer to the extracted highlight section 151.

즉, 하이라이트 구간부(150)는 추출된 하이라이트 구간(151)의 전 또는 후의 일정 단위 시간의 영상 구간을 하이라이트 구간(151)으로 추가할 수 있다.That is, the highlight section 150 may add the video section of a predetermined unit time before or after the extracted highlight section 151 as the highlight section 151.

하이라이트 구간부(150)는 전체 영상 시간을 고려하여, 추가할 버퍼 단위 시간을 결정할 수 있으며, 버퍼 단위 시간을 추출된 하이라이트 구간(151)의 전 및/또는 후에 추가하여 하이라이트 구간(151)을 결정할 수 있다.The highlight section 150 may determine the buffer unit time to add in consideration of the entire image time, and determine the highlight section 151 by adding the buffer unit time before and / or after the extracted highlight section 151. Can be.

그리고, 하이라이트 구간부(150)는 영상에 대한 시청자의 후원 정보를 이용하여, 하이라이트 구간(151)을 추출할 수 있다. In addition, the highlight section 150 may extract the highlight section 151 using the sponsor's sponsorship information on the image.

하이라이트 구간부(150)는 시청자의 후원 빈도, 후원 아이템 수 또는 후원 금액 등이 기 설정된 기준 이상인 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다.The highlight section 150 may extract an image section in which the viewer's sponsorship frequency, the number of sponsored items, the sponsored amount, or the like is greater than or equal to a predetermined criterion as the highlight section 151.

도 8은 다른 실시예에 따른 하이라이트 구간(151)의 추출 방법의 예시를 도시한 도면으로, 하이라이트 구간부(150)는 영상에 대한 시청자의 후원 정보를 이용하여, 하이라이트 구간(151)을 추출하는 방법을 예시하고 있다.8 is a diagram illustrating an example of a method of extracting a highlight section 151, according to another embodiment. The highlight section 150 extracts the highlight section 151 by using the sponsor information of a viewer for an image. The method is illustrated.

도 8을 참조하면, 하이라이트 구간부(151)는 후원 시청자 수가 10명 이상, 후원 아이템 양이 300개 이상인 영상 장면의 단위 시간을 하이라이트 구간(151)으로 추출하도록 정할 수 있다. Referring to FIG. 8, the highlight section 151 may determine to extract the unit time of the video scene having 10 or more sponsored viewers and 300 or more sponsored items as the highlight section 151.

이 경우, 하이라이트 구간부(151)는 후원 시청자 수가 17명이고, 후훤 아이템 양이 500개인 첫번째 영상 장면의 단위 시간을 하이라이트 구간(151)으로 추출할 수 있다.In this case, the highlight section 151 may extract the unit time of the first video scene having 17 sponsored viewers and the number of back items as the highlight section 151.

하이라이트 구간(151)의 추출 방법의 또 다른 실시예로, 하이라이트 구간부(150)는 시청자의 재생 이력 정보를 이용하여, 하이라이트 구간(151)을 추출할 수 있다. In another embodiment of the method for extracting the highlight section 151, the highlight section 150 may extract the highlight section 151 using the playback history information of the viewer.

시청자 반응은 영상에 대한 시청자의 재생 이력 정보를 더 포함할 수 있다. 시청자의 재생 이력은 시청자가 영상의 어느 구간을 얼마나 많이 재생하였는지, 영상의 어느 구간을 천천히 또는 빠르게 재생하였는지와 같이 정보로, 시청자의 영상 재생 빈도, 인기 재생 구간 등을 포함할 수 있다.The viewer's response may further include viewer's playback history information for the image. The playback history of the viewer may be information such as how many sections of the video have been played and which sections of the video have been slowly or quickly played, and may include a viewer's video playback frequency, a popular playback section, and the like.

하이라이트 구간부(150)는 시청자의 재생 이력이 기 설정된 기준 이상인 영상 구간을 하이라이트 구간(151)으로 추출할 수 있다. 일례로, 하이라이트 구간부(150)는 시청자가 N번 이상 재생한 영상 구간, M번 이상 천천히 재생한 영상 구간 등을 하이라이트 구간(151)으로 추출할 수 있는 것이다.The highlight section 150 may extract the video section having the playback history of the viewer above a preset reference as the highlight section 151. For example, the highlight section 150 may extract the video section played by the viewer more than N times, the video section played slowly over the M times, and the like as the highlight section 151.

그리고, 하이라이트 영상 생성 동작(207)으로, 하이라이트 영상부(170)는 하이라이트 구간부(150)에서 추출한 하이라이트 구간(151)을 이용하여 하이라이트 영상을 생성한다. 하이라이트 영상부(170)는 하이라이트 구간(151)의 영상들을 조합하여, 하나의 영상으로 생성하는 것이다.In the highlight image generation operation 207, the highlight image unit 170 generates a highlight image using the highlight section 151 extracted by the highlight section 150. The highlight image unit 170 combines the images of the highlight section 151 and generates one image.

인터페이스부(110)는 하이라이트 영상부(170)에서 생성된 하이라이트 영상을 시청자 단말(300)에 전송하여, 시청자 단말(300)이 시청자에게 하이라이트 영상을 출력할 수 있도록 한다.The interface unit 110 transmits the highlight image generated by the highlight image unit 170 to the viewer terminal 300 so that the viewer terminal 300 may output the highlight image to the viewer.

도 9는 일 실시예에 따른 시청자 단말(300)의 구성을 도시한 도면이다.9 is a diagram illustrating a configuration of a viewer terminal 300 according to an embodiment.

도 9는 일 실시예에 따른 하이라이트 영상 생성 위한 시청자 단말(300)의 블록도이다. 도 9를 참조하면, 일 실시예에 따른 시청자 단말(300)은 프로세서(310), 및 디스플레이 장치(320)를 포함한다. 9 is a block diagram of a viewer terminal 300 for generating a highlight image, according to an exemplary embodiment. Referring to FIG. 9, the viewer terminal 300 according to an embodiment includes a processor 310 and a display device 320.

시청자 단말(300)은 사용자 인터페이스(330) 및 메모리(340)를 더 포함할 수 있다. 프로세서(310), 디스플레이 장치(320), 사용자 인터페이스(330) 및 메모리(340)는 통신 버스(305)를 통해 서로 연결될 수 있다. The viewer terminal 300 may further include a user interface 330 and a memory 340. The processor 310, the display device 320, the user interface 330, and the memory 340 may be connected to each other through the communication bus 305.

프로세서(310)는 예를 들어, 하이라이트 영상 서버(100)에 시청자 반응 및 레퍼런스 키워드를 전송하여, 하이라이트 영상 서버(100)가 하이라이트 키워드(131), 하이라이트 구간(151)을 생성하도록 한다.For example, the processor 310 transmits a viewer response and a reference keyword to the highlight image server 100 so that the highlight image server 100 generates a highlight keyword 131 and a highlight section 151.

디스플레이 장치(320)는 하이라이트 영상 서버(100)로부터 전송된 영상 및 하이라이트 영상을 출력한다. The display device 320 outputs an image and a highlight image transmitted from the highlight image server 100.

사용자 인터페이스(330)는 시청자에게 시청자 반응 및 레퍼런스 키워드를 입력할 수 있는 인터페이스를 제공한다. The user interface 330 provides the viewer with an interface for inputting viewer reactions and reference keywords.

그리고, 사용자 인터페이스(330)는 하이라이트 영상 생성을 위한 영상 데이터를 업로드할 수 있는 인터페이스를 제공할 수 있다.The user interface 330 may provide an interface for uploading image data for generating a highlight image.

메모리(340)는 미리 정해진 시청자가 입력 가능한 시청자 반응, 영상의 재생 이력 정보, 시청자의 방송에 참여하는 기능 등을 저장할 수 있다.The memory 340 may store a viewer response that a predetermined viewer can input, information on playback history of an image, a function of participating in the broadcast of the viewer, and the like.

이 밖에도, 프로세서(310)는 도 1 내지 도 8을 통해 전술한 적어도 하나의 방법 중 시청자 단말(300)에서 수행될 수 있는 방법에 대응되는 알고리즘을 수행할 수 있다. 프로세서(310)는 프로그램을 실행하고, 시청자 단말(300)을 제어할 수 있다. 프로세서(310)에 의하여 실행되는 프로그램 코드는 메모리(340)에 저장될 수 있다. In addition, the processor 310 may perform an algorithm corresponding to a method that may be performed by the viewer terminal 300 among at least one method described above with reference to FIGS. 1 through 8. The processor 310 may execute a program and control the viewer terminal 300. Program code executed by the processor 310 may be stored in the memory 340.

메모리(340)는 예를 들어, DRAM, SRAM, DDR RAM 또는 다른 고속 액세스 고체 상태 메모리 장치 등과 같은 고속 랜덤 액세스 메모리(high-speed random access memory)를 포함할 수 있다. 메모리(340)는 휘발성 메모리 및 비휘발성 메모리를 포함할 수 있다. Memory 340 may include high-speed random access memory, such as, for example, DRAM, SRAM, DDR RAM, or other fast access solid state memory devices. The memory 340 may include a volatile memory and a nonvolatile memory.

메모리(340)는 프로세서(310)로부터 원격에 위치하는 적어도 하나의 저장 장치를 선택적으로 포함할 수 있다. The memory 340 may optionally include at least one storage device remotely located from the processor 310.

도면에 도시하지 않았으나, 일 실시예에 따른 하이라이트 영상 서버(100)는 프로세서, 메모리 및 통신 인터페이스를 포함할 수 있다. Although not illustrated, the highlight image server 100 may include a processor, a memory, and a communication interface.

프로세서는 도 1 내지 도 8을 통해 전술한 하이라이트 영상 서버(100)와 관련된 적어도 하나의 방법 또는 적어도 하나의 방법에 대응되는 알고리즘을 수해할 수 있다. 프로세서는 프로그램을 실행하고, 제공 장치를 제어할 수 있다. 프로세서에 의하여 실행되는 프로그램 코드는 메모리에 저장될 수 있다.The processor may perform at least one method or algorithm corresponding to at least one method associated with the above-described highlight image server 100 through FIGS. 1 to 8. The processor may execute a program and control the providing device. Program code executed by the processor may be stored in a memory.

이상에서 설명된 실시예들은 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. The embodiments described above may be implemented as hardware components, software components, and / or combinations of hardware components and software components.

예를 들어, 실시예들에서 설명된 장치, 방법 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, 중앙 처리 장치(Central Processing Unit; CPU), 그래픽 프로세싱 유닛(Graphics Processing Unit; GPU), ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 주문형 집적 회로(Application Specific Integrated Circuits; ASICS), 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. For example, the apparatus, methods and components described in the embodiments may include, for example, a processor, a controller, a central processing unit (CPU), a graphics processing unit (GPU), an ALU (for example). arithmetic logic unit, digital signal processor, microcomputer, field programmable gate array (FPGA), programmable logic unit (PLU), microprocessor, application specific integrated circuits (ASICS), or instructions ( Like any other device capable of executing and responding to instructions, it may be implemented using one or more general purpose or special purpose computers.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. The method according to the embodiment may be embodied in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium. The computer readable medium may include program instructions, data files, data structures, etc. alone or in combination.

상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The program instructions recorded on the media may be those specially designed and constructed for the purposes of the embodiments, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks, such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 비록 한정된 도면에 의해 실시예들이 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다.Although embodiments have been described with reference to the accompanying drawings as described above, various modifications and variations are possible to those skilled in the art from the above description.

예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다. 그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 청구범위의 범위에 속한다.For example, the described techniques may be performed in a different order than the described method, and / or components of the described systems, structures, devices, circuits, etc. may be combined or combined in a different form than the described method, or other components. Or even if replaced or substituted by equivalents, an appropriate result can be achieved. Therefore, other implementations, other embodiments, and equivalents to the claims are within the scope of the following claims.

Claims (17)

영상 데이터 및 상기 영상에 대한 시청자 반응을 전송받는 동작;
상기 시청자 반응을 이용하여 상기 영상의 하이라이트 키워드를 결정하는 동작;
상기 하이라이트 키워드를 포함하는 시청자 반응이 출력되는 영상 구간을 하이라이트 구간으로 적어도 하나 추출하는 동작; 및
상기 적어도 하나의 하이라이트 구간의 영상을 포함하는 하이라이트 영상을 생성하는 동작을 포함하는,
하이라이트 영상 생성 방법.Receiving image data and a viewer response to the image;
Determining a highlight keyword of the image using the viewer response;
Extracting at least one video section including a highlight keyword as a highlight section; And
Generating a highlight image including an image of the at least one highlight section;
How to create a highlight image. 제 1 항에 있어서,
상기 시청자 반응은
상기 영상에 대해 시청자가 입력한 채팅어, 댓글, 이모티콘 및 특수 효과 중 적어도 하나를 포함하는,
하이라이트 영상 생성 방법.The method of claim 1,
The viewer response is
At least one of a chat word, a comment, an emoticon, and a special effect input by the viewer for the video,
How to create a highlight image. 제 1 항에 있어서,
상기 하이라이트 키워드 결정 동작은
상기 시청자 반응 중 기 설정된 빈도 또는 횟수 이상 출력되는 시청자 반응을 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 생성 방법.The method of claim 1,
The highlight keyword determination operation is
Determining the viewer response that is output more than a predetermined frequency or number of times among the viewer response as the highlight keyword,
How to create a highlight image. 제 1 항에 있어서,
상기 영상의 음성을 인식하여 화자가 발화한 음성 키워드를 추출하는 동작을 포함하고,
상기 하이라이트 키워드 결정 동작은,
상기 시청자 반응 및 상기 음성 키워드를 이용하여 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 생성 방법.The method of claim 1,
Recognizing the voice of the video and extracting a voice keyword spoken by the speaker;
The highlight keyword determination operation,
Determining the highlight keyword using the viewer response and the audio keyword,
How to create a highlight image. 제 1 항에 있어서,
시청자 단말로부터 하이라이트 영상 제작을 위한 레퍼런스 키워드를 전송받는 동작을 포함하고,
상기 하이라이트 키워드 결정 동작은,
상기 시청자 반응 및 상기 레퍼런스 키워드를 이용하여 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 생성 방법.The method of claim 1,
Receiving a reference keyword for producing a highlight image from the viewer terminal,
The highlight keyword determination operation,
Determining the highlight keyword by using the viewer response and the reference keyword,
How to create a highlight image. 제 1 항에 있어서,
상기 하이라이트 키워드 결정 동작은,
상기 결정된 하이라이트 키워드의 연관 키워드를 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 생성 방법.The method of claim 1,
The highlight keyword determination operation,
Determining the related keyword of the determined highlight keyword as the highlight keyword,
How to create a highlight image. 제 1 항에 있어서,
상기 하이라이트 구간 추출 동작은
상기 하이라이트 키워드를 포함하는 시청자 반응이 단위 시간 내 기 설정된 빈도 또는 횟수 이상 출력된 영상 구간을 하이라이트 구간으로 추출하는,
하이라이트 영상 생성 방법.The method of claim 1,
The highlight section extraction operation
Extracting a video section output by the viewer response including the highlight keyword more than a preset frequency or number of times within a unit time as a highlight section,
How to create a highlight image. 제 7 항에 있어서,
상기 하이라이트 구간 추출 동작은,
상기 추출된 하이라이트 구간 전 또는 후의 일정 단위 시간의 영상 구간을 상기 하이라이트 구간으로 추가하는,
하이라이트 영상 생성 방법.The method of claim 7, wherein
The highlight section extraction operation,
Adding an image section of a predetermined unit time before or after the extracted highlight section as the highlight section,
How to create a highlight image. 제 1 항에 있어서,
상기 시청자 반응은,
상기 영상에 대한 시청자의 후원 정보를 포함하고,
상기 하이라이트 구간 추출 동작은,
후원 빈도 또는 금액이 기 설정된 기준 이상인 영상 구간을 상기 하이라이트 구간으로 추출하는,
하이라이트 영상 생성 방법.The method of claim 1,
The viewer response is,
Includes sponsored information about the video,
The highlight section extraction operation,
Extracting an image section having a sponsoring frequency or amount more than a predetermined criterion as the highlight section,
How to create a highlight image. 제 1 항에 있어서,
상기 시청자 반응은,
상기 영상에 대한 시청자의 재생 이력 정보를 포함하고,
상기 하이라이트 구간 추출 동작은,
상기 시청자의 재생 이력이 기 설정된 기준 이상인 영상 구간을 상기 하이라이트 구간으로 추출하는,
하이라이트 영상 생성 방법.The method of claim 1,
The viewer response is,
Includes the playback history information of the viewer for the video,
The highlight section extraction operation,
Extracting a video section whose playback history is equal to or greater than a preset reference as the highlight section,
How to create a highlight image. 영상 데이터 및 상기 영상에 대한 시청자 반응을 전송받는 인터페이스부;
상기 시청자 반응을 이용하여 상기 영상의 하이라이트 키워드를 결정하는 하이라이트 키워드부;
상기 하이라이트 키워드를 포함하는 시청자 반응이 출력되는 영상 구간을 하이라이트 구간으로 적어도 하나 추출하는 하이라이트 구간부; 및
상기 적어도 하나의 하이라이트 구간의 영상을 포함하는 하이라이트 영상을 생성하는 하이라이트 영상부를 포함하는,
하이라이트 영상 서버.An interface unit receiving image data and a viewer response to the image;
A highlight keyword unit to determine a highlight keyword of the image using the viewer response;
A highlight section for extracting at least one video section in which a viewer response including the highlight keyword is output as a highlight section; And
Including a highlight image unit for generating a highlight image including an image of the at least one highlight section,
Highlight video server. 제 11 항에 있어서,
상기 시청자 반응은,
상기 영상에 대해 시청자가 입력한 채팅어, 댓글, 이모티콘 및 특수 효과 중 적어도 하나를 포함하는,
하이라이트 영상 서버.The method of claim 11,
The viewer response is,
At least one of a chat word, a comment, an emoticon, and a special effect input by the viewer for the video,
Highlight video server. 제 11 항에 있어서,
상기 하이라이트 키워드부는,
상기 시청자 반응 중 기 설정된 빈도 또는 횟수 이상 출력되는 시청자 반응을 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 서버.The method of claim 11,
The highlight keyword portion,
Determining the viewer response that is output more than a predetermined frequency or number of times among the viewer response as the highlight keyword,
Highlight video server. 제 11 항에 있어서,
상기 영상의 음성을 인식하여 화자가 발화한 음성 키워드를 추출하는 자막 추출부를 포함하고,
상기 하이라이트 키워드부는,
상기 시청자 반응 및 상기 음성 키워드를 이용하여 상기 하이라이트 키워드로 결정하는,
하이라이트 영상 서버.The method of claim 11,
Recognizing the voice of the video includes a caption extraction unit for extracting the spoken voice keyword,
The highlight keyword portion,
Determining the highlight keyword using the viewer response and the audio keyword,
Highlight video server. 제 11 항에 있어서,
상기 하이라이트 구간부는,
상기 하이라이트 키워드를 포함하는 시청자 반응이 단위 시간 내 기 설정된 빈도 또는 횟수 이상 출력된 영상 구간을 하이라이트 구간으로 추출하는,
하이라이트 영상 서버.The method of claim 11,
The highlight section,
Extracting a video section output by the viewer response including the highlight keyword more than a preset frequency or number of times within a unit time as a highlight section,
Highlight video server. 제 15 항에 있어서,
상기 하이라이트 구간부는,
상기 추출된 하이라이트 구간 전 또는 후의 일정 단위 시간을 상기 하이라이트 구간으로 추가하는,
하이라이트 영상 서버.The method of claim 15,
The highlight section,
Adding a predetermined unit time before or after the extracted highlight section to the highlight section,
Highlight video server. 제 11 항에 있어서,
상기 시청자 반응은,
상기 영상에 대한 시청자의 재생 이력 정보를 포함하고,
상기 하이라이트 구간부는,
상기 시청자의 재생 이력이 기 설정된 기준 이상인 영상 구간을 상기 하이라이트 구간으로 추출하는,
하이라이트 영상 서버.The method of claim 11,
The viewer response is,
Includes the playback history information of the viewer for the video,
The highlight section,
Extracting a video section whose playback history is equal to or greater than a preset reference as the highlight section,
Highlight video server.
KR1020180073750A 2018-06-27 2018-06-27 Method and system for generating highlight video KR102499731B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180073750A KR102499731B1 (en) 2018-06-27 2018-06-27 Method and system for generating highlight video

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180073750A KR102499731B1 (en) 2018-06-27 2018-06-27 Method and system for generating highlight video

Publications (2)

Publication Number Publication Date
KR20200001153A true KR20200001153A (en) 2020-01-06
KR102499731B1 KR102499731B1 (en) 2023-02-14

Family

ID=69159121

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180073750A KR102499731B1 (en) 2018-06-27 2018-06-27 Method and system for generating highlight video

Country Status (1)

Country Link
KR (1) KR102499731B1 (en)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261874A1 (en) * 2020-06-22 2021-12-30 엘지전자 주식회사 Display device and operating method thereof
KR102478019B1 (en) * 2022-02-15 2022-12-16 주식회사 북세권 System and operation method for forming group based on user characteristic information
KR20230018256A (en) * 2021-07-29 2023-02-07 주식회사 케이티 IPTV system and method for providing personal broadcasting service
KR102593762B1 (en) * 2023-05-23 2023-10-26 주식회사 스푼라디오 Method and server for generating highlight contents for live internet broadcasting based on voice recognition
US11962550B2 (en) 2021-12-27 2024-04-16 Samsung Electronics Co., Ltd. Method and apparatus for providing customized chat room user interface based on video information
KR102678303B1 (en) * 2023-11-27 2024-06-25 주식회사엠제이에스파트너스 Method, device, and system for providing video content planning and automatic editing solutions based on viewer response data analysis

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130141240A (en) * 2012-06-15 2013-12-26 삼성전자주식회사 Display apparatus, method for controlling the display apparatus, server and method for controlling the server
KR20140072720A (en) * 2012-12-05 2014-06-13 삼성전자주식회사 Apparatus for Providing Content, Method for Providing Content, Image Dispalying Apparatus and Computer-Readable Recording Medium
JP2015005940A (en) * 2013-06-24 2015-01-08 クリアタッチ株式会社 Content reproduction device, comment management system and comment management method
JP2017055393A (en) * 2015-09-08 2017-03-16 ネイバー コーポレーションＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ Method and system for extracting and providing highlight video of moving picture content
KR20180017821A (en) * 2016-08-11 2018-02-21 한화테크윈 주식회사 Broadcasting service apparatus for delivering live audience reaction

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20130141240A (en) * 2012-06-15 2013-12-26 삼성전자주식회사 Display apparatus, method for controlling the display apparatus, server and method for controlling the server
KR20140072720A (en) * 2012-12-05 2014-06-13 삼성전자주식회사 Apparatus for Providing Content, Method for Providing Content, Image Dispalying Apparatus and Computer-Readable Recording Medium
JP2015005940A (en) * 2013-06-24 2015-01-08 クリアタッチ株式会社 Content reproduction device, comment management system and comment management method
JP2017055393A (en) * 2015-09-08 2017-03-16 ネイバー コーポレーションＮＡＶＥＲ Ｃｏｒｐｏｒａｔｉｏｎ Method and system for extracting and providing highlight video of moving picture content
KR20180017821A (en) * 2016-08-11 2018-02-21 한화테크윈 주식회사 Broadcasting service apparatus for delivering live audience reaction

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2021261874A1 (en) * 2020-06-22 2021-12-30 엘지전자 주식회사 Display device and operating method thereof
KR20230018256A (en) * 2021-07-29 2023-02-07 주식회사 케이티 IPTV system and method for providing personal broadcasting service
US11962550B2 (en) 2021-12-27 2024-04-16 Samsung Electronics Co., Ltd. Method and apparatus for providing customized chat room user interface based on video information
KR102478019B1 (en) * 2022-02-15 2022-12-16 주식회사 북세권 System and operation method for forming group based on user characteristic information
KR102593762B1 (en) * 2023-05-23 2023-10-26 주식회사 스푼라디오 Method and server for generating highlight contents for live internet broadcasting based on voice recognition
KR102678303B1 (en) * 2023-11-27 2024-06-25 주식회사엠제이에스파트너스 Method, device, and system for providing video content planning and automatic editing solutions based on viewer response data analysis

Also Published As

Publication number Publication date
KR102499731B1 (en) 2023-02-14

Similar Documents

Publication Publication Date Title
KR20200001153A (en) Method and system for generating highlight video
US20240154835A1 (en) Providing Synchronous Content and Supplemental Experiences
CN112714330B (en) Gift presenting method and device based on live broadcast with wheat and electronic equipment
US10341694B2 (en) Data processing method and live broadcasting method and device
CN108055593B (en) Interactive message processing method and device, storage medium and electronic equipment
KR102067446B1 (en) Method and system for generating caption
US10498794B1 (en) Social entertainment platform
US9955227B2 (en) System and method for communicating alerts through a set-top box
US20180288450A1 (en) Method for inserting information push into live video streaming, server, and terminal
US20150319505A1 (en) Systems and Methods for Delivering Content to a Media Content Access Device
US11825148B2 (en) Expiring synchronized supplemental content in time-shifted media
KR101915786B1 (en) Service System and Method for Connect to Inserting Broadcasting Program Using an Avata
US10219018B2 (en) Method of controlling display device for providing content and display device performing the same
CN106792237B (en) Message display method and system
CN106331763A (en) Method of playing slicing media files seamlessly and device of realizing the method
KR102067360B1 (en) Method and apparatus for processing real-time group streaming contents
CN111149366B (en) Server and computer-readable storage medium
CN111183649A (en) Server and program
KR102051985B1 (en) Synchronization of Media Rendering in Heterogeneous Networking Environments
US10917696B2 (en) Content provision server, content provision program, content provision system and user program
DeWerth-Pallmeyer Assessing the role audience plays in digital broadcasting today and tomorrow
US20230388601A1 (en) Methods and systems for operating a group watching session
Srivastava et al. Broadcasting in 2030: Crystal Gazing
KR102551307B1 (en) Method and system for providing game skill
KR20160041038A (en) System for servicing hot scene, method of servicing hot scene and apparatus for the same

Legal Events

Date Code Title Description
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant