KR101770551B1 - Appratus and method for matching video - Google Patents

Appratus and method for matching video Download PDF

Info

Publication number
KR101770551B1
KR101770551B1 KR1020160069356A KR20160069356A KR101770551B1 KR 101770551 B1 KR101770551 B1 KR 101770551B1 KR 1020160069356 A KR1020160069356 A KR 1020160069356A KR 20160069356 A KR20160069356 A KR 20160069356A KR 101770551 B1 KR101770551 B1 KR 101770551B1
Authority
KR
South Korea
Prior art keywords
image
song
matching
tempo
data
Prior art date
Application number
KR1020160069356A
Other languages
Korean (ko)
Inventor
이인예
Original Assignee
티제이미디어 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 티제이미디어 주식회사 filed Critical 티제이미디어 주식회사
Priority to KR1020160069356A priority Critical patent/KR101770551B1/en
Application granted granted Critical
Publication of KR101770551B1 publication Critical patent/KR101770551B1/en

Links

Images

Classifications

    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B31/00Arrangements for the associated working of recording or reproducing apparatus with related apparatus
    • G11B31/02Arrangements for the associated working of recording or reproducing apparatus with related apparatus with automatic musical instruments
    • G06F17/30017
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368Multiplexing of audio and video streams

Abstract

A method for matching a video and an apparatus for matching a video in a karaoke system are disclosed. The method for matching a video includes a step of storing accompaniment metadata including a song name, a song number, an artist, a tempo, a genre, and designated video data for each song in a database, and stores video metadata including a song name, a song number, tempo, category, and image quality for each video; a step of firstly extracting video data matching a song inputted based on a song name, a song number, artist data, and user-designated video information of the inputted song; a step of secondarily extracting video data matching a song based on video category, tempo, and image quality after the first extraction; and a step of randomly selecting one of the secondarily extracted video data and displaying the same together with the selected accompaniment.

Description

영상 매칭 장치 및 그 방법{APPRATUS AND METHOD FOR MATCHING VIDEO}[0001] APPARATUS AND METHOD FOR MATCHING VIDEO [0002]

영상 매칭 장치 및 그 방법에 관한 것으로 구체적으로, 노래방 기기에서 선곡된 노래에 알맞은 영상을 매칭하는 장치 및 그 방법에 관한 것이다.      And more particularly, to an apparatus and method for matching an image suitable for a song selected in a karaoke system.

본 명세서에서 달리 표시되지 않는 한, 이 섹션에 설명되는 내용들은 이 출원의 청구항들에 대한 종래 기술이 아니며, 이 섹션에 포함된다고 하여 종래 기술이라고 인정되는 것은 아니다.Unless otherwise indicated herein, the contents set forth in this section are not prior art to the claims of this application and are not to be construed as prior art to be included in this section.

일반적으로 노래방에 사용되는 노래방 기기는 다수의 노래반주 데이터를 저장하고 선택된 노래반주 데이터를 재생시키고, 영상 출력 장치에 가사와 영상 데이터를 제공한다. 사용자가 노래방 기기에 선곡한 노래의 반주를 재생시키기 위해서는, 노래 안내 책자나 노래 선곡 리스트를 이용하여 부르고자 하는 노래를 찾은 후, 노래방 기기에 선곡된 노래의 번호를 직접 입력하거나, 리모컨을 이용하여 선택된 노래의 번호를 입력한다. 사용자가 노래를 선곡하여, 선곡된 노래 반주 데이터 재생 시, 노래방 기기의 영상은 비디오 테이프나 콤팩트 디스크에 미리 저장된 영상이 출력되고, 이 영상 위에 가사가 출력된다. 그러나, 기재한 영상 출력 방법은 선곡된 노래와는 관계없는 영상이 출력됨으로써 노래의 흥을 돋우거나 노래에 맞는 분위기를 연출할 수 없는 문제점이 있다.In general, a karaoke system used for karaoke stores a plurality of song accompaniment data, reproduces selected song accompaniment data, and provides lyrics and image data to a video output apparatus. In order for the user to play the accompaniment of the song selected on the karaoke system, the user can search for the song to be searched using the song guide book or the song selection list, directly input the song number selected in the karaoke system, Enter the number of the selected song. When a user selects a song and reproduces the selected song accompaniment data, the image of the karaoke machine is output in advance to the video tape or the compact disc, and the lyrics are output on the video. However, in the video output method described above, a video irrelevant to the selected song is output, so that it can not excite the excitement of the song or produce an atmosphere suitable for the song.

노래방 기기 영상 출력의 다른 방법으로는, 하나의 노래와 그에 맞는 하나의 영상이 동일한 매체 또는 파일로 수록되어 음향과 가사 및 영상이 하나의 프레임에 동시에 출력되는 것이다. 이러한 방법은 영상 위에 가사를 불러올 필요가 없고 곡에 적합한 동영상이 출력되는 장점이 있지만, 각각의 곡에 적합한 영상을 모두 다른 파일이나 매체에 수록해야 한다. 노래방 기기에는 수많은 곡들을 수록해야 하기 때문에 대용량의 메모리를 필요로 하여, 모든 곡에 대해 적용하기에는 적합하지 않다. Another method of video output of a karaoke system is that a song and an image corresponding thereto are recorded in the same medium or file, and the sound, the lyrics, and the image are simultaneously output to one frame. This method has the advantage that it does not need to load the lyrics on the image but outputs the video suitable for the song, but all the images suitable for each song should be recorded in different files or media. Since a karaoke machine needs to store a lot of songs, it needs a large amount of memory and is not suitable for all songs.

또한 노래방 기기에서 영상 출력 시 종래에는 개별곡마다 지정영상을 사용하여 자동화 되지 않거나, 곡 장르에 따른 매칭과정만을 수행하여 디스플레이 되는 영상에 곡 빠르기가 반영되지 않아 곡에 어울리지 않는 영상이 디스플레이 되는 문제점이 있다. In addition, when the image is output from the karaoke system, conventionally, the image is not automated by using the designated image for each individual song, or the image displayed by performing only the matching process according to the song genre is not reflected in the song pause, have.

1. 한국 특허공개 제 10-2009-0011729호(2009.02.02)1. Korean Patent Publication No. 10-2009-0011729 (Feb. 2, 2009) 2. 한국 특허등록 제 10-12053420000호(2012.11.21)2. Korean Patent Registration No. 10-12053420000 (November 21, 2012)

선곡된 노래의 템포, 장르, 가수 및 사용자 설정 정보에 따라 영상을 매칭하는 영상 매칭 장치 및 방법을 제공한다.     And an image matching apparatus and method for matching images according to a tempo, a genre, a singer, and user setting information of the selected song.

하나의 실시예로서, 노래방 기기에서의 영상 매칭 방법은 데이터베이스에서 곡명, 곡 번호, 가수, 템포, 장르, 지정영상 데이터를 포함하는 노래반주 메타데이터를 곡 별로 저장하고, 곡명, 곡 번호, 가수, 템포, 카테고리, 화질을 포함하는 영상 메타데이터를 영상 별로 저장하는 단계; 입력된 노래의 곡명, 곡 번호, 가수 데이터, 사용자 지정 영상 정보를 기반으로 입력된 노래에 매칭되는 영상 데이터를 1차 추출하는 단계; 1차 추출 이후, 영상의 카테고리, 템포, 영상 화질을 기반으로 입력된 노래에 매칭되는 영상 데이터를 2차 추출하는 단계; 및 2차 추출된 영상 중 하나의 영상을 랜덤 선택하여 반주와 함께 디스플레이 하는 단계; 를 포함한다. As one embodiment, a video matching method in a karaoke system includes storing song accompaniment metadata including a song name, a song number, an artist, a tempo, a genre, and designated video data in a database for each song and storing the song name, song number, Storing image metadata including a tempo, a category, and an image quality for each image; Extracting image data matching the input song based on a song name, a song number, an artist data, and a user-designated image information of the inputted song; Extracting image data matching the input song based on the image category, tempo, and image quality after the first extraction; And randomly selecting one of the images extracted from the second extracted image and displaying the image together with the accompaniment; .

다른 실시예로서 영상 매칭 장치는, 곡명, 곡 번호, 가수, 템포, 지정영상 데이터를 포함하는 노래반주 메타데이터를 곡 별로 저장하고, 곡명, 곡 번호, 가수, 템포, 카테고리, 화질을 포함하는 영상 메타데이터를 영상 별로 저장하는 데이터베이스; 입력된 노래의 곡명, 곡 번호, 가수 데이터 및 노래의 템포를 기반으로 노래에 매칭되는 영상 데이터를 1차 추출하고, 영상의 카테고리, 템포 및 사용자 지정 영상 정보를 기반으로 노래에 매칭되는 영상 데이터를 2차 추출하는 영상선택모듈; 2차 추출된 영상 데이터 중 하나의 영상을 랜덤 선택하여 입력된 노래와 함께 디스플레이 하는 디스플레이모듈; 을 포함한다.  As another embodiment, the image matching apparatus may store the song accompaniment metadata including the song name, song number, singer, tempo, and designated video data for each song, and store the song name, song number, song number, tempo, A database for storing metadata by video; The image data matching the song is firstly extracted based on the song name, the song number, the song number data, and the song tempo of the song, and the image data matching the song based on the image category, tempo, An image selection module for secondary extraction; A display module for randomly selecting one image from the second extracted image data and displaying the image together with the inputted song; .

이상에서와 같은 영상 매칭 장치 및 방법은, 선곡된 노래의 장르, 분위기, 템포를 고려하여 선곡에 어울리는 영상을 추출하여 디스플레이 함으로써, 선택된 노래에 알맞은 분위기를 연출하여, 사용자의 노래방 기기 이용 만족도를 향상 시키고, 다수의 곡에 자동으로 영상매칭을 수행 할 수 있다. 또한, 세분화된 노래 반주 정보와 영상 정보를 기반으로 보다 최적화된 선곡 별 매칭 영상을 선택할 수 있다.The image matching apparatus and method as described above extracts and displays an image suitable for the selected song in consideration of the genre, atmosphere, and tempo of the selected song, thereby producing an atmosphere suitable for the selected song, And automatically perform image matching on a plurality of songs. In addition, it is possible to select a more optimized matching picture based on the subdivided song accompaniment information and the image information.

도 1은 실시예에 따른 영상 매칭 장치의 대략적인 구성을 나타낸 블록도.
도 2는 실시예에 따른 영상 선택 모듈의 구체적인 구성을 나타낸 블록도.
도 3은 실시예에 따른 영상 매칭 방법의 데이터 처리 흐름도.
도 4는 실시예에 따른 영상 매칭 알고리즘.
1 is a block diagram showing a schematic configuration of an image matching apparatus according to an embodiment;
2 is a block diagram showing a specific configuration of an image selection module according to an embodiment;
3 is a data processing flowchart of an image matching method according to an embodiment.
4 is an image matching algorithm according to an embodiment.

본 발명의 이점 및 특징, 그리고 그것들을 달성하는 방법은 첨부되는 도면과 함께 상세하게 후술되어 있는 실시 예들을 참조하면 명확해질 것이다. 그러나 본 발명은 이하에서 개시되는 실시 예들에 한정되는 것이 아니라 서로 다른 다양한 형태로 구현될 수 있으며, 단지 본 실시 예들은 본 발명의 개시가 완전하도록 하고, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에게 발명의 범주를 완전하게 알려주기 위해 제공되는 것이며, 본 발명은 청구항의 범주에 의해 정의될 뿐이다. 명세서 전체에 걸쳐 동일 도면부호는 동일 구성 요소를 지칭한다.BRIEF DESCRIPTION OF THE DRAWINGS The advantages and features of the present invention and the manner of achieving them will become apparent with reference to the embodiments described in detail below with reference to the accompanying drawings. The present invention may, however, be embodied in many different forms and should not be construed as being limited to the embodiments set forth herein. Rather, these embodiments are provided so that this disclosure will be thorough and complete, and will fully convey the concept of the invention to those skilled in the art. Is provided to fully convey the scope of the invention to those skilled in the art, and the invention is only defined by the scope of the claims. Like numbers refer to like elements throughout.

본 발명의 실시 예들을 설명함에 있어서 공지 기능 또는 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명을 생략할 것이다. 그리고 후술되는 용어들은 본 발명의 실시 예에서의 기능을 고려하여 정의된 용어들로서 이는 사용자, 운용자의 의도 또는 관례 등에 따라 달라질 수 있다. 그러므로 그 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다.In the following description of the present invention, a detailed description of known functions and configurations incorporated herein will be omitted when it may make the subject matter of the present invention rather unclear. The following terms are defined in consideration of the functions in the embodiments of the present invention, which may vary depending on the intention of the user, the intention or the custom of the operator. Therefore, the definition should be based on the contents throughout this specification.

도 1은 실시예에 따른 영상 매칭 장치의 대략적인 구성을 나타낸 블록도이다.1 is a block diagram showing a schematic configuration of an image matching apparatus according to an embodiment.

도 1을 참조하면, 영상 매칭 장치는 데이터베이스(100), 영상 선택모듈(200) 및 디스플레이 모듈(300)을 포함하여 구성될 수 있다. 본 명세서에서 사용되는 '모듈' 이라는 용어는 용어가 사용된 문맥에 따라서, 소프트웨어, 하드웨어 또는 그 조합을 포함할 수 있는 것으로 해석되어야 한다. 예를 들어, 소프트웨어는 기계어, 펌웨어(firmware), 임베디드코드(embedded code), 및 애플리케이션 소프트웨어, 프로그램 언어(programmable language)일 수 있다. 또 다른 예로, 하드웨어는 회로, 프로세서, 컴퓨터, 집적 회로, 집적 회로 코어, 센서, 멤스(MEMS; Micro-Electro-Mechanical System), 수동 디바이스, 또는 그 조합일 수 있다. Referring to FIG. 1, the image matching apparatus may include a database 100, an image selection module 200, and a display module 300. The term " module ", as used herein, should be interpreted to include software, hardware, or a combination thereof, depending on the context in which the term is used. For example, the software may be machine language, firmware, embedded code, application software, or a programmable language. As another example, the hardware may be a circuit, a processor, a computer, an integrated circuit, an integrated circuit core, a sensor, a micro-electro-mechanical system (MEMS), a passive device, or a combination thereof.

데이터베이스(100)는 곡의 반주와 가사를 포함하는 노래 반주 데이터 및 영상 데이터를 저장한다. 노래 반주 데이터는 도 1에 도시된 바와 같이, 곡명, 곡 번호, 가수, 지정영상 정보, 템포 및 노래의 장르 정보 등 노래에 대한 메타 데이터를 포함한다. 영상데이터는 영상번호, 영상과 매칭되는 곡 번호, 가수, 영상의 템포, 영상이 포함되는 카테고리 등 영상에 대한 메타 데이터를 포함한다. 본 개시에서는 선택된 노래에 매칭되는 영상을 곡 번호, 템포, 장르 등 여러 데이터를 통해 추출하기 때문에, 데이터베이스(100)에 노래 반주와 영상의 메타데이터에 대한 데이터베이스화 작업이 필요하다.The database 100 stores song accompaniment data and image data including lyrics accompaniment and lyrics. As shown in FIG. 1, the song accompaniment data includes metadata about a song, such as a song name, a song number, an artist, designated video information, a tempo, and genre information of a song. The image data includes metadata about the image such as a video number, a song number matched with the video, an artist, a tempo of the image, and a category including the image. In the present disclosure, images matching the selected song are extracted through various data such as a song number, a tempo, and a genre. Therefore, it is necessary to perform database matching of the song accompaniment and the metadata of the image in the database 100.

실시예에 따라 영상데이터는 가수, 장르, 템포에 따라 분류되거나, 디스플레이 되는 화면 컨텐츠에 따라 자연, 연예인, 배경, 캐릭터 등으로 카테고리화 되어 분류될 수 있다. According to an embodiment, the image data may be classified according to a singer, a genre, a tempo, or categorized into natures, celebrities, backgrounds, characters, and the like according to displayed screen contents.

영상선택 모듈(200)은 노래 반주 메타 데이터를 기반으로 입력된 노래에 매칭되는 영상을 선택한다. 예컨대, 영상 선택 모듈(200)은 입력된 노래와 어울리는 영상 선택을 위해 1차 추출 및 2차 추출 과정을 수행하여 노래에 매칭되는 영상을 선택한다. 구체적으로 1차 추출에서는 입력된 노래의 곡명, 곡 번호, 가수 데이터 및 노래의 템포에 따라 매칭되는 영상 데이터를 추출하고, 추출된 영상 데이터가 존재하는 경우, 1차로 추출된 영상 중 매칭 영상을 선택한다.The image selection module 200 selects an image matching the input song based on the song accompaniment metadata. For example, the image selection module 200 performs a first extraction process and a second extraction process to select an image matching the input song, thereby selecting an image matching the song. Specifically, in the first extraction, matching image data is extracted according to the song name, song number, song data, and song tempo of the inputted song, and when the extracted image data exists, matching images of the first extracted images are selected do.

2차 추출은 1차로 추출 결과 영상 데이터가 존재하지 않는 경우, 영상의 카테고리, 템포 및 사용자 지정 영상 정보를 기반으로 입력된 노래에 매칭되는 영상 데이터를 추출하고, 추출된 데이터 중 매칭 영상을 선택한다. 디스플레이모듈(300)은 선택된 영상을 노래와 함께 디스플레이 한다.In the second extraction, if there is no extracted image data as the first order, the image data matching the input song is extracted based on the image category, tempo, and user-designated image information, and the matching image is selected from the extracted data . The display module 300 displays the selected image together with the song.

도 2는 실시예에 따른 영상 선택 모듈의 구체적인 구성을 나타낸 블록도이다.2 is a block diagram showing a specific configuration of an image selection module according to an embodiment.

도 2를 참조하면, 영상 선택 모듈(200)은 1차 추출부(210), 2차 추출부(230) 및 영상 선택부(250)를 포함하여 구성될 수 있다. Referring to FIG. 2, the image selection module 200 may include a first extraction unit 210, a second extraction unit 230, and an image selection unit 250.

1차 추출부(210)는 노래에 매칭된 지정 영상, 곡 번호와 일치하는 영상을 우선적으로 추출한다. 만일 노래에 매칭된 지정영상이나 곡 번호와 일치하는 영상이 존재하지 않는 경우, 1차 추출부(210)는 노래의 가수 및 템포 데이터를 인식하고, 노래의 가수데이터와 일치하는 영상 중 선곡된 노래와 일정범위에서 유사한 템포 정보를 가지는 영상을 추출한다.The primary extraction unit 210 preferentially extracts an image matching the designated image and the song number matched to the song. If there is no matching image matching the song or an image matching the song number, the first extraction unit 210 recognizes the singing and tempo data of the song, and selects the selected song And extracts images having similar tempo information within a certain range.

2차 추출부(230)는 1차 추출부(210)에 의해 추출된 영상데이터가 존재하지 않는 경우, 노래에 지정된 장르 및 가수와 일치하는 영상 데이터를 추출하고, 추출된 영상데이터 중 선곡된 노래의 템포와 일정 범위에서 유사한 템포의 영상 데이터를 추출한다. 2차 추출 이후에도 노래에 매칭되는 영상 데이터가 존재하지 않는 경우에 2차 추출부(230)는, 사용자에 의해 미리 설정된 카테고리에 포함되는 사용자 지정 영상을 선택한다. 사용자 지정 영상은 선곡된 노래에 매칭되는 영상이 존재하지 않는 경우, 사용자가 미리 지정한 영상의 카테고리에서 선곡된 노래의 템포와 일정 범위에서 유사한 템포의 영상이다.When the image data extracted by the first extraction unit 210 does not exist, the secondary extraction unit 230 extracts image data matching the genre and the artist specified in the song, and extracts the selected song And extracts image data having a similar tempo in a certain range. If there is no image data matching the song even after the second extraction, the secondary extraction unit 230 selects a user-specified image included in the category preset by the user. The user-specified image is an image having a tempo similar to the tempo of the song selected in the category of the image designated by the user in a certain range, if there is no image matched to the selected song.

영상 선택부(250)는 추출된 영상 데이터 중 하나를 선택하여 디스플레이 모듈(300)로 전달한다.The image selection unit 250 selects one of the extracted image data and transmits the selected image data to the display module 300.

도 3은 실시예에 따른 영상 매칭 방법의 데이터 처리 흐름도이다.3 is a data processing flowchart of the image matching method according to the embodiment.

먼저 데이터베이스(100)에서 음악 메타 데이터와 영상 메타 데이터를 곡 별로 저장한다(S210). 노래반주 메타 데이터는 곡명, 곡 번호, 가수, 템포, 장르, 지정영상 데이터를 포함하고, 영상 메타 데이터는 곡명, 곡 번호, 가수, 템포, 카테고리, 화질을 포함한다.First, the music metadata and the image metadata are stored in the database 100 for each piece of music (S210). The song accompaniment metadata includes a song name, a song number, an artist, a tempo, a genre, and designated image data, and the image metadata includes a song name, a song number, an artist, a tempo, a category, and an image quality.

영상 선택 모듈(200)의 1차 추출부(210)에서는 사용자에 의해 입력된 노래의 곡명, 곡 번호, 가수 데이터, 사용자 지정 영상 정보를 기반으로 입력된 노래에 매칭되는 영상 데이터를 1차 추출한다(S220). 예컨대, 1차 추출 과정에서는 먼저 노래에 매칭된 지정 영상을 검색하거나, 곡 번호와 일치하는 영상을 검색하고, 검색 결과 노래에 매칭된 지정영상 또는 곡 번호와 일치하는 영상이 존재하지 않는 경우, 입력된 노래를 부른 가수 데이터와 템포를 인식한다. 인식 이후, 입력된 노래를 부른 가수의 영상을 추출하고 이중 입력된 노래의 템포와 기 설정된 범위 이내의 근접 범위에 존재하는 영상을 추출할 수 있다. The first extraction unit 210 of the image selection module 200 firstly extracts image data matched to a song input based on the song name, song number, song data, and user-specified image information of the song input by the user (S220). For example, in the first extraction process, a designated image matched to a song is searched first, or an image matching the song number is searched. If there is no image matching the designated image or song number matched with the search result, Recognizes the singer data and the tempo of the singing song. After the recognition, the image of the singer singing the inputted song can be extracted, and the tempo of the double input song and the image in the proximity range within the predetermined range can be extracted.

2차 추출부(S230)에서는 1차 추출 이후, 영상이 포함되는 카테고리, 영상의 템포, 화질 등을 기반으로 노래에 매칭되는 영상 데이터를 2차 추출한다. 카테고리는 매칭되는 영상에 디스플레이 되는 컨텐츠가 포함되는 분류 기준으로서 자연, 움직임, 연예인, 캐릭터 등 디스플레이 되는 객체의 속성에 따라 설정될 수 있고, 사용자에 의해 특정 노래 선곡 시 우선적으로 영상을 추출하는 카테고리가 설정될 수 있다. 예컨대, 2차 추출 과정에서는 노래의 카테고리에 포함되는 영상 데이터 또는 사용자에 의해 설정된 카테고리에 포함되는 영상 데이터를 추출하고, 추출된 영상데이터 중 영상 데이터의 템포가 노래 템포와 기 설정된 범위 이내의 근접 범위에 존재하는 영상 데이터를 추출할 수 있다. 또한, 2차 추출 이후에도 입력된 노래와 매칭되는 영상이 존재하지 않는 경우, 사용자 지정 카테고리에서 영상을 선택할 수 있다. After the first extraction, the secondary extraction unit (S230) extracts image data matching the song based on the category including the image, the tempo of the image, and the image quality. The category may be set according to an attribute of an object to be displayed, such as nature, motion, entertainer, character, etc., as a classification criterion including content displayed in a matching image, and a category for preferentially extracting an image Can be set. For example, in the second extraction process, the image data included in the category of the song or the image data included in the category set by the user is extracted, and the tempo of the image data among the extracted image data is divided into a proximity range It is possible to extract the image data existing in the image data. In addition, if there is no matching image with the input song even after the second extraction, the image can be selected in the user-specified category.

디스플레이 모듈(300)에서는 2차 추출된 영상 데이터 중 하나의 영상을 랜덤 선택하여 노래와 함께 디스플레이 한다(S250).The display module 300 randomly selects one image from the secondary extracted image data and displays it together with the song (S250).

도 4는 실시예에 따른 영상 매칭 알고리즘의 예이다.4 is an example of an image matching algorithm according to an embodiment.

S310 단계에서 사용자로부터 선곡번호를 입력 받으면, S311 단계에서 입력된 곡 번호와 동일한 번호의 영상이 있는지 검색한다. 만일 입력된 곡 번호와 동일한 번호의 영상이 존재하는 경우, 화질과 싱크 일치를 기준으로 영상을 매칭한다. 이를 위해, S312 단계에서는 영상의 그래픽 화소(Graphics display resolution)를 비교하여 영상의 화질 순서대로 FHD 영상, HD 영상 및 SD 영상으로 분류하고 고화질 영상에 매칭 우선순위를 부여한다. S313 단계에서는 화질 비교에서 특정 순위 안에 포함된 영상의 싱크를 인식한다. 실시예에서 싱크는 영상과 곡의 립싱크 일치 여부를 의미하고, 선곡된 곡과 싱크가 일치하는 영상 리스트를 추출한다. 이후 S314 단계에서 추출된 영상 중 디스플레이 될 영상을 랜덤 선택한다. Upon receipt of the music selection number from the user in step S310, it is determined whether there is a video having the same number as the music number input in step S311. If there is an image of the same number as the input song number, the image is matched based on image quality and sync match. To do so, in step S312, the graphics display resolution of the image is compared and classified into FHD image, HD image, and SD image in order of image quality, and matching priority is given to the high-quality image. In step S313, a sync of the image included in the specific ranking is recognized in the image quality comparison. In the embodiment, the sync means whether or not the image and the song are lip sync, and extracts an image list in which the song and the song match. Thereafter, an image to be displayed is randomly selected from among the images extracted in step S314.

S311 단계에서 입력된 곡 번호와 동일한 영상 검색 결과, 입력된 곡 번호와 동일한 번호의 영상이 존재하지 않는 경우, S321 단계에서 입력된 곡이 특수 곡 인지 확인한다. 입력된 노래가 특수 곡인 경우 S314 단계에서 별도로 지정해 둔 영상을 선택하여 디스플레이 한다. 존재하는 특수 곡 인지 확인한다.If no image having the same number as the input song number exists in the image search result identical to the song number input in step S311, it is confirmed whether the song input in step S321 is a special song. If the input song is a special song, the image designated separately in step S314 is selected and displayed. Make sure it is a special song that exists.

S321 단계에서 입력된 곡이 특수 곡이 아닌 경우에는 S331 단계에서 가수 코드 존재 여부를 확인한다. 가수 코드가 존재하는 경우, S332 단계에서 영상 자동 선택 여부를 확인하고, 자동 선택인 경우, S333 단계에서 가수코드에 해당하는 뮤직 비디오 또는 라이브 공연 영상 채택 여부를 확인한다. 가수코드에 해당하는 뮤직 비디오 또는 라이브 공연 영상이 채택 될 경우, S335 단계에서 화질과 템포를 고려한 우선순위 영상을 추출한다. 예컨대, S335 단계에서는 영상의 화질과 템포를 고려하여 영상을 매칭한다. 구체적으로, 영상이 고화질이고 입력된 노래의 템포와 근접 범위에 존재할수록 매칭 우선순위가 부여 될 수 있다. 만일 S332 단계에서 영상 자동 선택 조건이 아닌 경우, S334 단계에서 사용자가 미리 입력한 매칭 영상의 카테고리 내에 존재하는 영상들을 추출하고, S335 단계로 진입한다. S335 단계에서 고화질 영상과 입력된 노래의 템포와 근접 범위의 템포를 우선으로 매칭 영상을 추출하고, S314 단계에서는 추출된 영상 중 디스플레이 되는 영상을 선택한다.If the song input in step S321 is not a special song, the presence or absence of the singer code is checked in step S331. If the artist code exists, it is checked in step S332 whether or not the image is automatically selected. If the artist code is selected, in step S333, whether the music code or live performance image corresponding to the artist code is adopted is confirmed. When a music video or a live performance image corresponding to the singer code is adopted, a priority image considering the image quality and tempo is extracted in step S335. For example, in step S335, the images are matched in consideration of image quality and tempo. Specifically, the matching priority can be given as the image is in high quality and in the proximity range with the tempo of the input song. If the condition is not the automatic image selection condition in step S332, the image in the category of the matching image previously input by the user is extracted in step S334, and the process proceeds to step S335. In step S335, a matching image is extracted with priority given to the high-quality image, the tempo of the input song, and the tempo of the proximity range. In step S314, an image to be displayed is selected from among the extracted images.

S331 단계에서 가수코드가 존재하지 않는 경우, S341 단계에서 입력된 노래에 매칭되는 범용 영상이 존재하는지 판단한다. 범용영상이 존재하는 경우, S342 단계에서 영상 자동 선택 여부를 확인하고, 자동 영상선택 조건인 경우, S345 단계에서 영상의 공통 코드를 확인한다. 공통 코드는 영상의 템포에 따라 부여되는 데이터이다. 예컨대, 영상의 템포에 따라 템포가 80 미만인 경우 코드번호 1로 80이상 110미만인 경우 코드번호 2로 110 이상인 경우 코드번호 3으로 부여될 수 있다. 영상의 공통 코드 확인 이후, S347 단계에서는 공통코드가 0인 영상들을 제외하고, S348 단계에서 화질과 템포를 고려한 우선순위 영상을 추출한다. 예컨대, S348 단계에서는 고화질 영상과 입력된 노래의 템포와 근접 범위의 템포를 우선으로 매칭 영상을 추출할 수 있다. 만일, S342 단계에서 영상 선택 자동 조건이 아닌 경우, S343 단계에서 입력된 노래의 카테고리에 포함된 영상을 추출한다. S344 단계에서는 뮤직비디오(Music)카테고리에서 영상을 추출하는지 판단하고, 뮤직비디오 카테고리에서 영상을 추출하는 경우, S345 단계로 진입한다. 만일 뮤직비디오 카테고리에서 영상을 추출하지 않는 경우, S346 단계에서 모션그래픽(Motion) 또는 자연(Nature) 카테고리에서 영상을 추출하는지 판단하고, 모션 그래픽 또는 자연 카테고리에서 영상을 추출하는 경우에는 S347 단계로 진입하고, 그렇지 않은 경우에는 S348 단계로 진입하여 화질과 템포를 고려한 우선순위 영상을 추출한다.  If no singer code exists in step S331, it is determined whether there is a universal image matching the song input in step S341. If there is a general-purpose image, it is checked in step S342 whether or not an image is automatically selected. If it is an automatic image selection condition, a common code of the image is checked in step S345. The common code is data given according to the tempo of the image. For example, according to the tempo of the image, if the tempo is less than 80, the code number 1 may be given as code number 3 if it is 80 or more and less than 110, or code number 2 if it is 110 or more. After checking the common code of the image, in step S347, excluding the images having the common code of 0, the priority image considering the image quality and the tempo is extracted in step S348. For example, in step S348, a matching image may be extracted with priority given to the high-quality image, the tempo of the input song, and the tempo of the proximity range. If it is not the image selection automatic condition in step S342, the image included in the category of the song input in step S343 is extracted. In step S344, it is determined whether or not an image is extracted in the music category. If the image is extracted in the music video category, step S345 is entered. If the image is not extracted in the music video category, it is determined whether the image is extracted from the motion or the nature category in step S346. If the image is extracted from the motion graphic or the natural category, the process proceeds to step S347 Otherwise, the flow advances to step S348 to extract a priority image considering image quality and tempo.

S341 단계에서 범용영상이 아닌 것으로 판단되는 경우, S351 단계에서 입력된 노래에 따른 랜덤 영상을 추출하게 된다. 예컨대, S351 단계에서는 사용자가 자동으로 카테고리를 선택하여 영상을 추출하도록 설정한 경우, 자연 카테고리에서 영상을 추출한다. 반면, 사용자가 영상을 추출하는 특정 카테고리를 설정한 경우, 설정된 카테고리에 포함된 영상을 추출한다. 이후, S314 단계에서 추출된 영상 중 디스플레이 될 영상을 선택한다.If it is determined in step S341 that the image is not a general-purpose image, a random image according to the song input in step S351 is extracted. For example, in step S351, if the user selects the category to automatically extract the image, the image is extracted from the natural category. On the other hand, when the user sets a specific category for extracting the image, the image included in the set category is extracted. Then, an image to be displayed is selected from among the images extracted in step S314.

영상 매칭 알고리즘 및 영상 매칭 방법을 통해, 선곡된 노래의 장르, 분위기, 템포를 고려하여 선곡에 어울리는 영상을 추출하여 디스플레이 할 수 있다.The image matching algorithm and the image matching method can extract and display an image suitable for the selected song in consideration of the genre, atmosphere, and tempo of the selected song.

개시된 내용은 예시에 불과하며, 특허청구범위에서 청구하는 청구의 요지를 벗어나지 않고 당해 기술분야에서 통상의 지식을 가진 자에 의하여 다양하게 변경 실시될 수 있으므로, 개시된 내용의 보호범위는 상술한 특정의 실시예에 한정되지 않는다.It is to be understood that the invention is not limited to the disclosed embodiments, but, on the contrary, is intended to cover various modifications and equivalent arrangements included within the spirit and scope of the appended claims. It is not limited to the embodiment.

100: 데이터베이스
200: 영상 선택 모듈
210: 1차 추출부
230: 2차 추출부
250: 영상 선택부
300: 디스플레이 모듈
100: Database
200: image selection module
210: primary extraction unit
230: Secondary extraction section
250:
300: display module

Claims (10)

노래방 기기에서의 영상 매칭 방법에 있어서,
데이터베이스에서 곡명, 곡 번호, 가수, 템포, 장르, 지정영상 데이터를 포함하는 노래반주 메타데이터를 곡 별로 저장하고, 곡명, 곡 번호, 가수, 템포, 카테고리, 화질을 포함하는 영상 메타데이터를 영상 별로 저장하는 단계;
입력된 노래의 곡명, 곡 번호, 가수 데이터, 사용자 지정 영상 정보를 기반으로 상기 입력된 노래에 매칭되는 영상 데이터를 1차 추출하는 단계;
상기 1차 추출 이후, 영상의 카테고리, 템포, 영상 화질을 기반으로 상기 노래에 매칭되는 영상 데이터를 2차 추출하는 단계; 및
상기 2차 추출된 영상 데이터 중 하나의 영상을 랜덤 선택하여 반주와 함께 디스플레이 하는 단계; 를 포함하고,
상기 영상 데이터를 1차 추출하는 단계;는
입력된 노래에 매칭된 지정 영상을 검색하거나, 곡 번호와 일치하는 영상 을 검색하는 단계;
상기 검색 결과 입력된 노래에 매칭된 지정영상 또는 곡 번호와 일치하는 영상이 존재하지 않는 경우, 노래의 가수 데이터와 템포를 인식하고, 인 식된 가수의 영상 중 입력된 노래의 템포와 기 설정된 범위 이내의 근접 범위에 존재하는 영상을 추출하는 단계; 를 포함하고,
상기 2차 추출하는 단계는 2차 추출된 영상 데이터의 그래픽 화소를 비교 하여 화질 순서대로 FHD 영상, HD 영상 및 SD 영상으로 분류하고 고화질 영상에 매칭 우선순위를 부여하는 단계; 및
상기 우선순위가 부여된 영상 중 입력된 노래와의 싱크가 가장 유사한영상 을선택하는 단계; 를 포함하는 것을 특징으로 하는 영상 매칭 방법.
A video matching method in a karaoke system,
The song accompaniment metadata including song name, song number, singer, tempo, genre, and designated video data is stored for each song in the database, and video metadata including song name, song number, song number, tempo, category, Storing;
Extracting image data matching the input song based on a song name, a song number, an artist data, and a user-designated image information of the input song;
Extracting image data matching the song based on the image category, tempo, and image quality after the first extraction; And
Selecting one of the secondary extracted image data at random and displaying it with accompaniment; Lt; / RTI >
Extracting the image data first
Searching for a designated image matched with the inputted song, or searching for an image matching the song number;
If there is no image matching the designated image or song number matched with the inputted song, the song data and tempo of the song are recognized, and if the tempo of the song input from among the images of the recognized song is within the predetermined range Extracting an image existing in a close range of the image; Lt; / RTI >
The second extracting step compares graphic pixels of the secondary extracted image data and classifies them into an FHD image, an HD image, and an SD image in order of image quality, and assigns matching priority to a high-quality image; And
Selecting an image having a similarity to the inputted song among the images to which the priority is assigned, Wherein the image matching method comprises:
삭제delete 제 1항에 있어서, 상기 노래에 매칭되는 영상 데이터를 2차 추출하는 단계는
기 설정된 카테고리에 포함되는 영상 데이터를 추출하는 단계;
추출된 영상데이터 중 영상 데이터의 템포가 입력된 노래 템포와 기 설정된 범위 이내의 근접 범위에 존재하는 영상 데이터를 선택하는 단계; 를 포함하는 것을 특징으로 하는 영상 매칭 방법.
2. The method of claim 1, wherein the step of extracting the image data matching the song
Extracting image data included in a predetermined category;
Selecting image data in which the tempo of the image data among the extracted image data is present and the image data existing in a close range within a predetermined range; Wherein the image matching method comprises:
제 1항에 있어서, 상기 영상 데이터를 2차 추출하는 단계; 는
상기 2차 추출에 대한 결과가 존재하지 않는 경우, 기 설정된 카테고리에 포함되는 영상을 선택하는 것을 특징으로 하는 영상 매칭 방법.
The method of claim 1, further comprising: extracting the image data; The
And if the result of the secondary extraction does not exist, the image included in the predetermined category is selected.
제 1항에 있어서, 상기 입력된 노래에 매칭되는 영상 데이터를 1차 추출하는 단계; 는
데이터 베이스에 저장된 영상의 화소를 비교하여 고화질 영상에 매칭 우선순위를 부여하는 것을 특징으로 하는 영상 매칭 방법.
The method of claim 1, further comprising: extracting image data matching the input song; The
Comparing the pixels of the image stored in the database with each other, and assigning matching priority to the high-quality image.
영상 매칭 장치에 있어서,
곡명, 곡 번호, 가수, 템포, 지정영상 데이터를 포함하는 노래반주 메타데이터를 곡 별로 저장하고, 곡명, 곡 번호, 가수, 템포, 카테고리, 화질을 포함하는 영상 메타데이터를 영상 별로 저장하는 데이터베이스;
입력된 노래의 곡명, 곡 번호, 가수 데이터 및 노래의 템포를 기반으로 상기 노래에 매칭되는 영상 데이터를 1차 추출하고, 영상의 카테고리, 템포 및 사용자 지정 영상 정보를 기반으로 상기 노래에 매칭되는 영상 데이터를 2차 추출하는 영상선택모듈;
상기 2차 추출된 영상 데이터 중 하나의 영상을 랜덤 선택하여 입력된 노래와 함께 디스플레이 하는 디스플레이모듈; 을 포함하고
상기 영상선택모듈은
입력된 노래에 매칭된 지정 영상을 검색하거나, 곡 번호와 일치하는 영상 을 검색하고, 검색 결과 상기 노래에 매칭된 영상 또는 곡 번호와 일치하 는 영상이 존재하지 않는 경우, 상기 입력된 노래의 가수 데이터와 템포 를 인식하고, 인식된 가수의 영상 중 상기 입력된 노래의 템포와 기 설정 된 범위 이내의 근접 범위에 존재하는 영상 데이터를 추출하는 1차 추출 부; 및
상기 1차 추출부에 의해 추출된 영상데이터가 존재하지 않는 경우, 기 설정된 카테고리에서 영상 데이터를 추출하고,
노래의 가수 데이터와 템포를 인식하고, 인식된 가수의 영상 중 입력된 노래의 템포와 기 설정된 범위 이내의 근접 범위에 존재하는 영상을 추출하여, 추출된 영상 데이터의 그래픽 화소를 비교하여 화질 순서대 로 FHD 영상, HD 영상 및 SD 영상으로 분류하고 고화질 영상에 매칭 우선순위를 부여하고, 상기 우선순위가 부여된 영상 중 입력된 노래와 의 싱크가 일정 수준 이상 유사한 영상을 선택하는 것을 특징으로 하 는 영상 매칭 장치.
In an image matching apparatus,
A database for storing song accompaniment metadata including song names, song numbers, singers, tempos, and designated video data for each song, and storing image metadata including song names, song numbers, artists, tempos, categories, and image qualities;
The image data matching the song is firstly extracted based on the song name, the song number, the song number data, and the song tempo of the song, and based on the image category, tempo, and user- An image selection module for secondarily extracting data;
A display module for randomly selecting one image from the secondary image data and displaying the image together with the input song; And
The image selection module
If a matching image matching the input song is searched or an image matching the song number is searched and there is no image matching the image or song number matched to the song as a result of the search, A first extracting unit for recognizing data and tempo and extracting the tempo of the input song and the image data existing in a close range within a preset range from images of recognized singers; And
Extracting image data in a predetermined category when the image data extracted by the primary extracting unit does not exist,
The tempo of the song and the tempo of the song are detected and the tempo of the input song and the image in the proximity range within the predetermined range are extracted from the images of the recognized singers and the graphic pixels of the extracted image data are compared, A high priority image is classified into a FHD image, an HD image, and an SD image, a matching priority is given to a high-quality image, and an image having a priority level of more than a predetermined level is selected Image matching device.
삭제delete 삭제delete 제 6항에 있어서, 2차 추출부는
상기 2차 추출 결과가 존재하지 않는 경우, 기 설정된 카테고리에 포함되는 영상을 선택하는 것을 특징으로 하는 영상 매칭 장치.
The apparatus as claimed in claim 6, wherein the second extraction unit
And if the secondary extraction result does not exist, selects an image included in a predetermined category.
삭제delete
KR1020160069356A 2016-06-03 2016-06-03 Appratus and method for matching video KR101770551B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020160069356A KR101770551B1 (en) 2016-06-03 2016-06-03 Appratus and method for matching video

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160069356A KR101770551B1 (en) 2016-06-03 2016-06-03 Appratus and method for matching video

Publications (1)

Publication Number Publication Date
KR101770551B1 true KR101770551B1 (en) 2017-09-05

Family

ID=59924504

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160069356A KR101770551B1 (en) 2016-06-03 2016-06-03 Appratus and method for matching video

Country Status (1)

Country Link
KR (1) KR101770551B1 (en)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN109547847A (en) * 2018-11-22 2019-03-29 广州酷狗计算机科技有限公司 Add the method, apparatus and computer readable storage medium of video information
CN110830845A (en) * 2018-08-09 2020-02-21 优视科技有限公司 Video generation method and device and terminal equipment

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3958174B2 (en) * 2002-09-30 2007-08-15 株式会社第一興商 Karaoke device characterized by mood video selection system linked to music search method when selecting desired music

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3958174B2 (en) * 2002-09-30 2007-08-15 株式会社第一興商 Karaoke device characterized by mood video selection system linked to music search method when selecting desired music

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110830845A (en) * 2018-08-09 2020-02-21 优视科技有限公司 Video generation method and device and terminal equipment
CN109547847A (en) * 2018-11-22 2019-03-29 广州酷狗计算机科技有限公司 Add the method, apparatus and computer readable storage medium of video information
CN109547847B (en) * 2018-11-22 2021-10-22 广州酷狗计算机科技有限公司 Method and device for adding video information and computer readable storage medium

Similar Documents

Publication Publication Date Title
US8229935B2 (en) Photo recommendation method using mood of music and system thereof
JP4981026B2 (en) Composite news story synthesis
US20150378544A1 (en) Automated Content Detection, Analysis, Visual Synthesis and Repurposing
US6084169A (en) Automatically composing background music for an image by extracting a feature thereof
CN101202864B (en) Player for movie contents
CN106688035B (en) Speech synthesis device and speech synthesis method
CN106021496A (en) Video search method and video search device
JPWO2005069171A1 (en) Document association apparatus and document association method
JP2008022103A (en) Apparatus and method for extracting highlight of moving picture of television program
JP2009216986A (en) Voice data retrieval system and voice data retrieval method
CN112929746B (en) Video generation method and device, storage medium and electronic equipment
KR101770551B1 (en) Appratus and method for matching video
KR20120021174A (en) Apparatus and method for music search using emotion model
JPH06309381A (en) Moving image processor
US20120271830A1 (en) Data processing device
US7921010B2 (en) Information processing apparatus, recording medium, and data signal
JP5025398B2 (en) Image reproducing apparatus and program
JPWO2020017151A1 (en) Information processing equipment, information processing methods and programs
Ross et al. Digital tools in media studies: Analysis and research. An overview
TWI780333B (en) Method for dynamically processing and playing multimedia files and multimedia play apparatus
JP2006157688A (en) Significance label providing method, apparatus, and program to video scene
JP2009301266A (en) User interface device
KR20110042626A (en) Method and device for displaying image of digital photo frame
KR102369324B1 (en) Smart route creation method and device
JP2004333737A (en) Device and program for media retrieval

Legal Events

Date Code Title Description
E701 Decision to grant or registration of patent right
GRNT Written decision to grant