KR20200022640A - System for selecting segmentation video using high definition camera and the method thereof - Google Patents

System for selecting segmentation video using high definition camera and the method thereof Download PDF

Info

Publication number
KR20200022640A
KR20200022640A KR1020180098484A KR20180098484A KR20200022640A KR 20200022640 A KR20200022640 A KR 20200022640A KR 1020180098484 A KR1020180098484 A KR 1020180098484A KR 20180098484 A KR20180098484 A KR 20180098484A KR 20200022640 A KR20200022640 A KR 20200022640A
Authority
KR
South Korea
Prior art keywords
image
busking
definition camera
divided images
performance
Prior art date
Application number
KR1020180098484A
Other languages
Korean (ko)
Other versions
KR102550528B1 (en
Inventor
남궁요
Original Assignee
버스킹티비 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 버스킹티비 주식회사 filed Critical 버스킹티비 주식회사
Priority to KR1020180098484A priority Critical patent/KR102550528B1/en
Publication of KR20200022640A publication Critical patent/KR20200022640A/en
Application granted granted Critical
Publication of KR102550528B1 publication Critical patent/KR102550528B1/en

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • H04N21/47217End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for controlling playback functions for recorded or on-demand content, e.g. using progress bars, mode or play-point indicators or bookmarks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/431Generation of visual interfaces for content selection or interaction; Content or additional data rendering
    • H04N21/4312Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations
    • H04N21/4316Generation of visual interfaces for content selection or interaction; Content or additional data rendering involving specific graphical features, e.g. screen layout, special fonts or colors, blinking icons, highlights or animations for displaying supplemental content in a region of the screen, e.g. an advertisement in a separate window
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/439Processing of audio elementary streams
    • H04N21/4394Processing of audio elementary streams involving operations for analysing the audio stream, e.g. detecting features or characteristics in audio streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Abstract

The present invention relates to a segmented video selection system using a high-definition camera which segments a single full video for a busking performance photographed with a high-definition camera into a plurality of segmented videos and selects a video to be played based on big data probabilities, and a method thereof. The segmented video selection system using the high-definition camera can select an optimal video to be played at every moment by considering a music flow, a busking lighting, a busking space, and a busking background among the plurality of segmented videos to transmit the same as a highlight video. The segmented video selection system using the high-definition camera comprises a video receiving part, a screen segmentation part, and a selection part.

Description

고화질 카메라를 이용한 분할영상 선택 시스템 및 그 방법{SYSTEM FOR SELECTING SEGMENTATION VIDEO USING HIGH DEFINITION CAMERA AND THE METHOD THEREOF}Segmentation image selection system using high quality camera and its method {SYSTEM FOR SELECTING SEGMENTATION VIDEO USING HIGH DEFINITION CAMERA AND THE METHOD THEREOF}

본 발명은 고화질 카메라를 이용한 분할영상 선택 시스템 및 그 방법에 관한 것으로, 보다 상세하게는 고화질 카메라로 촬영된 버스킹(Busking) 공연에 대한 단일의 풀 영상을 복수의 분할영상으로 분할하여 빅데이터의 확률 기반으로 플레이 영상을 선택하는 시스템에 관한 것이다. The present invention relates to a split image selection system and a method using a high definition camera, and more particularly, a single full image of a busking performance shot by a high definition camera is divided into a plurality of split images to generate a big data. A system for selecting a play video based on probability.

최근 버스커(busker: 거리 공연자) 문화의 발달에 따라, 버스커들이 다양한 장르의 음악을 다양한 레퍼토리를 통해 거리에서 공연을 하고 있다. 또한, 스마트 기기의 보급으로 인해, 스마트 기기의 사용자는 이동 중에도 다양한 정보를 획득할 수 있는 환경이 마련되었다.Recently, with the development of busker culture, buskers perform various genres of music on the street through various repertoires. In addition, due to the spread of smart devices, an environment in which a user of the smart device can acquire various information on the go has been provided.

현재 스마트 기기를 이용하여 버스커에 대한 정보를 획득할 수 있는 시스템은 제공되고 있지 않다. 따라서, 버스커의 입장에서는 공연의 홍보를 위해, 관객의 입장에서는 공연정보를 획득하기 위해 버스커에 대한 정보를 제공할 수 있는 시스템이 요구된다.Currently, there is no system for acquiring information on a busker using a smart device. Therefore, a system capable of providing information on the busker is required for the promotion of the performance from the perspective of the busker and to obtain the performance information from the perspective of the audience.

선행 발명인 한국등록특허 제10-1271590호는 스마트 실시간 공연 시스템 및 그 방법에 관한 것이다. 선행 발명은 복수의 공연 참가 후보자가 촬영한 데모 영상을 입력받아 영상 DB에 저장하고, 제3자의 사용자 단말기로 상기 데모 영상 또는 공연 영상을 제공하는 영상 관리부와, 상기 제3자로부터 입력된 상기 데모 영상에 대한 선호도 정보를 이용하여 상기 복수의 공연 참가 후보자에 대한 선호도를 평가하는 선호도 평가부와, 상기 선호도 평가 정보가 가장 높은 공연 참가 후보자를 공연 참가자로 결정하는 공연 참가자 결정부와, 상기 제3자로부터 입력된 상기 공연 참가자의 공연 평가 정보를 이용하여 상기 공연 참가자에 대한 공연 점수를 계산하는 공연 점수 연산부를 포함하는 스마트 실시간 공연 시스템을 개시한다.Korean Patent No. 10-1271590, which is a prior invention, relates to a smart real-time performance system and a method thereof. The present invention receives a demo image taken by a plurality of performance participation candidates and stores in the image DB, the image management unit for providing the demo image or the performance image to a user terminal of a third party, and the demo input from the third party A preference evaluation unit for evaluating preferences for the plurality of performance participation candidates using preference information on a video, a performance participant determination unit determining a performance participation candidate having the highest preference evaluation information as a performance participant, and the third Disclosed is a smart real-time performance system including a performance score calculator for calculating a performance score for the performance participant using the performance evaluation information of the performance participant inputted from the user.

다만, 선행 발명은, 서비스 이용자에게 데모 영상을 제공하고, 선호도 정보를 이용하여 공연을 구성하는 방법을 제시하고 있으나, 거리에서 다양한 공연을 하는 버스커들을 대상으로 선행 발명을 적용하는 것에는 한계가 있다.However, the preceding invention provides a demo image to a service user and suggests a method of constructing a performance using preference information, but there is a limit to applying the prior invention to buskers performing various performances in the street. have.

나아가, 기존의 공연방송 영상을 제작하기 위해서는 단체 버스커 각각의 인물 별 촬영 카메라와, 스위처 장비 및 오디오/ 비디오 장비 등이 필요하므로, 필수 장비에 따른 비용 증가 및 인력 증가의 한계가 존재하였다. Furthermore, in order to produce existing performance broadcasting images, each group busker requires a camera for each person, switcher equipment, and audio / video equipment. Therefore, there is a limit of increase in cost and manpower according to essential equipment.

본 발명의 목적은 단일의 고화질 카메라를 이용하여 복수의 카메라 효과를 연출함으로써, 버스킹 공연에 대한 전체 화면 또는 클로즈업 화면을 제공할 수 있는 시스템을 제공하고자 한다. An object of the present invention is to provide a system that can provide a full screen or close-up screen for a busking performance by producing a plurality of camera effects using a single high-definition camera.

또한, 본 발명의 목적은 복수의 분할영상 중 버스킹 환경에 적합한 최적의 영상을 선택하여 송출함으로써, 공연방송 제작의 비용 및 품질 이슈를 해결할 수 있는 기술을 제공하고자 한다. In addition, an object of the present invention is to provide a technology that can solve the cost and quality issues of the production of the performance broadcast by selecting and transmitting the optimal image suitable for the busking environment of the plurality of divided images.

또한, 본 발명의 목적은 복수의 분할영상 중 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 등을 고려하여 매 순간 최적의 플레이 영상을 선택하여 하이라이트 영상을 송출할 수 있는 기술을 제공하고자 한다. In addition, an object of the present invention is to provide a technology that can transmit the highlight image by selecting the optimal play image at every moment in consideration of the music flow, busking lighting, busking space and the background of the plurality of divided images. do.

본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 고화질 카메라를 이용하여 촬영된 버스킹(Busking) 공연에 대한 단일의 풀 영상을 수신하는 영상 수신부, 상기 풀 영상의 화면에 대한 객체 인식 과정을 통해 상기 풀 영상을 복수의 분할영상으로 분할하는 화면 분할부 및 상기 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택하는 선택부를 포함한다.In the split image selection system using a high quality camera according to an embodiment of the present invention, an image receiving unit for receiving a single full image of a busing performance photographed using a high quality camera, and object recognition of a screen of the full image And a screen divider for dividing the full image into a plurality of divided images through a process, and a selector to select a play image based on a probability of big data according to a busking environment among the plurality of divided images.

상기 영상 수신부는 단일의 상기 고화질 카메라로부터 촬영된 상기 버스킹 영상에 대한 상기 단일의 풀 영상을 수신할 수 있다.The image receiving unit may receive the single full image of the busking image captured by the single high quality camera.

상기 화면 분할부는 상기 버스킹 공연에 참여하는 사람 및 상기 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 객체 수에 따라 상기 복수의 분할영상으로 분할할 수 있다.The screen splitter may extract an object of a person participating in the busking performance and an object of the musical instrument used for the busking performance, and divide the screen splitter into the plurality of divided images according to the number of extracted objects.

상기 화면 분할부는 추출된 사람 또는 악기의 중첩 시, 중첩된 객체를 포함하는 상기 복수의 분할영상으로 분할할 수 있다. The screen splitter may divide the extracted person or musical instrument into the plurality of divided images including the overlapped objects.

상기 선택부는 음악마다 학습된 상기 빅데이터를 이용하여 샘플링되는 상기 복수의 분할영상 중 상기 플레이 영상을 선택할 수 있다.The selector may select the play image among the plurality of divided images sampled using the big data learned for each music.

상기 선택부는 상기 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 상기 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 상기 빅데이터를 비교하여 상기 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류할 수 있다.The selection unit extracts at least one sampling of the busking environment from at least one of a music flow, a busking illumination, a busking space, and a busking background from the divided image, and compares an extraction result with the big data to divide the plurality of divisions. The image may be classified into a normal image or an issue image.

상기 선택부는 상기 버스킹 환경에 대해 상기 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 상기 복수의 분할영상 각각에 대한 확률 값을 산출할 수 있다. The selector may calculate a probability value for each of the plurality of divided images by applying a machine learning technique to the extracted sampling for the busking environment.

상기 선택부는 상기 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 상기 플레이 영상을 선택할 수 있다.The selector may select the play video by combining at least one sound feature of multitrack sensing, sound analysis, and BPM recognition with the probability value.

본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 참여자의 의견에 기반하여 상기 플레이 영상의 선택, 및 상기 복수의 분할영상 중 확률 기반의 상기 플레이 영상의 선택을 제어하는 제어부를 더 포함할 수 있다. The divisional image selection system using a high-definition camera according to an embodiment of the present invention further includes a control unit for controlling the selection of the play image and the selection of the play image based on probability among the plurality of divided images based on a participant's opinion. can do.

본 발명의 실시예에 따른 고화질 카메라를 이용하여 버스킹(Busking) 공연에 대한 분할영상을 선택하는 시스템의 동작 방법에 있어서, 상기 고화질 카메라를 이용하여 촬영된 상기 버스킹 공연에 대한 단일의 풀 영상을 수신하는 단계, 상기 풀 영상의 화면에 대한 객체 인식 과정을 통해 상기 풀 영상을 복수의 분할영상으로 분할하는 단계 및 상기 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택하는 단계를 포함한다.In a method of operating a system for selecting a divided image for a busking performance using a high quality camera according to an embodiment of the present invention, a single full image of the busking performance photographed using the high quality camera Receiving the step, the step of dividing the full image into a plurality of divided images through the object recognition process for the screen of the full image and the play image based on the probability of big data according to the busking environment of the plurality of divided images Selecting.

상기 복수의 분할영상으로 분할하는 단계는 상기 버스킹 공연에 참여하는 사람 및 상기 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 객체 수에 따라 상기 복수의 분할영상으로 분할할 수 있다.The dividing into the plurality of divided images may include extracting objects of a person participating in the busking performance and an instrument used for the busking performance, and splitting the plurality of divided images into the plurality of divided images according to the number of extracted objects.

상기 플레이 영상을 선택하는 단계는 음악마다 학습된 상기 빅데이터를 이용하여 샘플링되는 상기 복수의 분할영상 중 상기 플레이 영상을 선택할 수 있다.The selecting of the play image may select the play image from among the plurality of divided images sampled using the big data learned for each music.

상기 플레이 영상을 선택하는 단계는 상기 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 상기 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 상기 빅데이터를 비교하여 상기 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류하는 단계, 상기 버스킹 환경에 대해 상기 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 상기 복수의 분할영상 각각에 대한 확률 값을 산출하는 단계 및 상기 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 상기 플레이 영상을 선택하는 단계를 포함할 수 있다.The selecting of the play image may include extracting a sampling of at least one of the bursting environment of music flow, bursting illumination, bursting space, and bursting background from the split image, and comparing the extraction result with the big data. Classifying the plurality of divided images into a general image or an issue image, and calculating a probability value for each of the plurality of divided images by applying a machine learning technique to the extracted sampling for the busking environment And selecting the play video by combining at least one sound feature of multitrack sensing, sound analysis, and BPM recognition with the probability value.

본 발명의 실시예에 따르면, 단일의 고화질 카메라를 이용하여 복수의 카메라 효과를 연출함으로써, 버스킹 공연에 대한 전체 화면 또는 클로즈업 화면을 제공할 수 있다.According to an embodiment of the present invention, by using a single high-definition camera to produce a plurality of camera effects, it is possible to provide a full screen or a close-up screen for the busking performance.

또한, 본 발명의 실시예에 따르면, 복수의 분할영상 중 버스킹 환경에 적합한 최적의 영상을 선택하여 송출함으로써, 공연방송 제작의 비용 및 품질 이슈를 해결할 수 있다.In addition, according to an embodiment of the present invention, by selecting an optimal image suitable for a busking environment from among a plurality of divided images and transmitting it, it is possible to solve the cost and quality issues of the production of a performance broadcast.

또한, 본 발명의 실시예에 따르면, 복수의 분할영상 중 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 등을 고려하여 매 순간 최적의 플레이 영상을 선택하여 하이라이트 영상을 송출할 수 있다.In addition, according to an embodiment of the present invention, in consideration of music flow, bursting lighting, bursting space, and bursting background among a plurality of divided images, an optimal play image may be selected at every moment and a highlight image may be transmitted.

도 1은 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템의 구성을 블록도로 도시한 것이다.
도 2는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템의 구성도를 도시한 것이다.
도 3은 본 발명의 실시예에 따른 분할영상의 개념 예를 도시한 것이다.
도 4는 본 발명의 실시예에 따른 객체 인식 과정의 예를 도시한 것이다.
도 5는 본 발명의 실시예에 따른 이슈 영상 및 일반 영상을 분류하는 예를 도시한 것이다.
도 6은 본 발명의 실시예에 따른 플레이 영상을 선택하는 예를 도시한 것이다.
도 7은 본 발명의 실시예에 따른 플레이 영상의 선택을 위한 테이블의 예를 도시한 것이다.
도 8은 본 발명의 실시예에 따른 플레이 영상의 송출 예를 도시한 것이다.
도 9는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 방법의 흐름도를 도시한 것이다.
1 is a block diagram illustrating a configuration of a split image selection system using a high quality camera according to an exemplary embodiment of the present invention.
2 is a block diagram of a split image selection system using a high-definition camera according to an embodiment of the present invention.
3 illustrates a conceptual example of a split image according to an exemplary embodiment of the present invention.
4 illustrates an example of an object recognition process according to an embodiment of the present invention.
5 illustrates an example of classifying an issue image and a general image according to an embodiment of the present invention.
6 illustrates an example of selecting a play video according to an embodiment of the present invention.
7 illustrates an example of a table for selecting a play video according to an embodiment of the present invention.
8 illustrates an example of transmission of a play video according to an embodiment of the present invention.
9 is a flowchart illustrating a method of selecting a divided image using a high quality camera according to an embodiment of the present invention.

이하, 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명한다. 그러나 본 발명이 실시예들에 의해 제한되거나 한정되는 것은 아니다. 또한, 각 도면에 제시된 동일한 참조 부호는 동일한 부재를 나타낸다.Hereinafter, exemplary embodiments of the present invention will be described in detail with reference to the accompanying drawings. However, the present invention is not limited or limited by the embodiments. Also, like reference numerals in the drawings denote like elements.

또한, 본 명세서에서 사용되는 용어(terminology)들은 본 발명의 바람직한 실시예를 적절히 표현하기 위해 사용된 용어들로서, 이는 시청자, 운용자의 의도 또는 본 발명이 속하는 분야의 관례 등에 따라 달라질 수 있다. 따라서, 본 용어들에 대한 정의는 본 명세서 전반에 걸친 내용을 토대로 내려져야 할 것이다. In addition, terms used in the present specification (terminology) are terms used to properly express preferred embodiments of the present invention, which may vary depending on the intention of the viewer, the operator, or customs in the field to which the present invention belongs. Therefore, the definitions of the terms should be made based on the contents throughout the specification.

본 발명은 단 한대의 카메라로 버스킹 공연을 촬영하고, 촬영된 단일의 풀 영상(Full video)에 대한 여러 장면을 분할하여 가장 중요한 하이라이트 장면을 라이브 방송으로 송출함으로써, 공연방송 제작의 불편사항과 비용 및 품질 이슈를 해결하기 위한 시스템을 제안한다.The present invention shoots a busking performance with a single camera, divides several scenes of a single recorded full video, and transmits the most important highlight scene to a live broadcast. We propose a system for solving cost and quality issues.

본 발명의 실시예들은 단일의 고화질 카메라를 이용하여 촬영한 버스킹 공연에 대한 단일의 풀 영상을 이용하여 객체 인식 과정을 통해 복수의 분할영상으로 분할하고, 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택하여 송출할 수 있는 기술에 관한 것으로, 단일의 고화질 카메라를 통해 복수의 카메라 효과를 제공함으로써, 저예산으로 양질의 영상을 제공하여 공연 제작자, 버스커(또는 공연자, 연주자, 가수 등) 및 참여자(버스킹 공연을 관람하는 관람자 또는 영상 시청자) 간의 수익을 창출할 수 있는 기술을 제공하고자 한다. Embodiments of the present invention are divided into a plurality of divided images through the object recognition process using a single full image of the busking performance photographed using a single high-definition camera, based on the probability of big data according to the busking environment The present invention relates to a technology for selecting and transmitting a play video by using a single high-definition camera, and by providing a plurality of camera effects through a single high-definition camera, providing a high-quality video at a low budget to perform producers, buskers (or performers, performers, singers, etc.). ) And participants (a viewer or a video viewer watching a busking performance) to provide a technology that can generate revenue.

이러한 본 발명의 실시예들에 따른 고화질 카메라를 이용한 분할영상 선택 시스템 및 그 방법에 대해 도 1 내지 도 9를 참조하여 상세히 설명한다. The split image selection system and method using the high quality camera according to the embodiments of the present invention will be described in detail with reference to FIGS. 1 to 9.

도 1은 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템의 구성을 블록도로 도시한 것이다.1 is a block diagram illustrating a configuration of a split image selection system using a high quality camera according to an exemplary embodiment of the present invention.

도 1을 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 고화질 카메라로 촬영된 버스킹(Busking) 공연에 대한 단일의 풀 영상을 복수의 분할영상으로 분할하여 빅데이터의 확률 기반으로 플레이 영상을 선택한다.Referring to FIG. 1, a split image selection system 100 using a high definition camera according to an embodiment of the present invention divides a single full image of a busking performance taken by a high definition camera into a plurality of split images. The play video is selected based on the probability of the big data.

이에 따른, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 영상 수신부(110), 화면 분할부(120) 및 선택부(130)를 포함한다.Accordingly, the split image selection system 100 using the high quality camera according to the exemplary embodiment of the present invention includes an image receiver 110, a screen divider 120, and a selector 130.

영상 수신부(110)는 고화질 카메라를 이용하여 촬영된 버스킹(Busking) 공연에 대한 단일의 풀 영상을 수신한다.The image receiver 110 receives a single full image of a busing performance taken using a high quality camera.

예를 들면, 버스커(busker: 거리 공연자)가 거리 공연을 하는 경우, 공연 제작자는 단일의 고화질 카메라를 이용하여 버스킹 공연을 촬영하고, 영상 수신부(110)는 공연 제작자로부터 버스킹 공연에 대한 단일의 풀 영상을 수신할 수 있다. For example, when a busker (street performer) performs a street performance, the performance producer shoots a busking performance using a single high-definition camera, and the image receiving unit 110 receives a busking performance from the performance producer. A single full image can be received.

실시예에 따라서, 공연 제작자는 버스킹 공연에 대한 풀 영상을 촬영하는 인물로, 스태프(staff), 버스커 또는 관람자일 수 있으며, 고화질 카메라로부터 촬영된 풀 영상을 소지하는 모바일 디바이스 내 설치된 호스트 어플리케이션을 통해 전송할 수 있다. 이 때, 상기 고화질 카메라는 UHD(Ultra-HD) 4320P/4K의 카메라일 수 있으며, 영상 수신부(110)는 고화질 카메라로부터 촬영된 단일의 4K 풀 영상을 수신할 수 있다. According to an embodiment, the performance producer is a person who shoots a full image of a busking performance, which may be a staff, a busker, or a viewer, and a host application installed in a mobile device having a full image taken from a high-definition camera. Can be sent via In this case, the high definition camera may be a UHD (Ultra-HD) 4320P / 4K camera, and the image receiving unit 110 may receive a single 4K full image captured by the high definition camera.

화면 분할부(120)는 풀 영상의 화면에 대한 객체 인식 과정을 통해 풀 영상을 복수의 분할영상으로 분할한다. The screen divider 120 divides the full image into a plurality of divided images through an object recognition process on the screen of the full image.

화면 분할부(120)는 영상 수신부(110)로부터 수신된 단일의 4320P/4K 풀 영상을 4개의 1080P 영상으로 분할할 수 있으나, 여기서 분할하는 영상의 개수는 4개로 한정하지 않음은 당연하다.The screen divider 120 may divide a single 4320P / 4K full image received from the image receiver 110 into four 1080P images, but the number of divided images is not limited to four.

예를 들면, 화면 분할부(120)는 안면(얼굴) 또는 사물 인식 알고리즘을 이용하여 풀 영상 중 화면(순간 프레임)에서의 버스킹 공연에 참여하는 사람 및 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 사람 또는 악기의 객체 수에 따라 복수의 분할영상으로 분할할 수 있다.For example, the screen splitter 120 may use a face (face) or object recognition algorithm to select a person participating in a busking performance on a screen (instantaneous frame) and an object of a musical instrument used for the busking performance. The extracted image may be divided into a plurality of divided images according to the number of objects of the extracted person or musical instrument.

실시예에 따라서, 버스킹 공연에서 악기만 연주하는 사람, 노래하는 사람, 악기와 노래를 함께하는 사람이 존재하는 경우, 화면 분할부(120)는 사람과 악기의 각 객체를 우선적으로 추출하며, 악기를 연주하는 사람과, 노래하는 사람, 그리고 악기와 노래를 함께하는 사람을 따로 분류하여 각각에 대한 분할영상으로 분할할 수 있다. According to an embodiment, when there is a person who plays only a musical instrument, a singer, or a person who sings a musical instrument in a busking performance, the screen divider 120 first extracts a person and each object of the musical instrument. The person who plays the song, the person who sings, and the person who sings with the instrument can be classified and divided into divided images for each.

다른 실시예에 따라서, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)의 화면 분할부(120)는 풀 영상에서 객체를 인식하는 과정에서, 중첩되는 사람과 악기 또는 마이크를 추출할 수도 있다. 예를 들면, 참여자 A, B, C와 악기 D, E 및 마이크 F가 추출되는 경우, 참여자 A, 악기 E, 마이크 F가 중첩되고, 참여자 B, C가 중첩되는 경우, 본 발명은 참여자 A, 악기 E, 마이크 F를 하나의 영상으로 분할하고, 참여자 B, C를 하나의 영상으로 분할하며, 악기 D를 하나의 영상으로 분할하여 복수의 분할영상을 분할할 수 있다. 즉, 화면 분할부(120)는 객체의 중첩이 발생하는 경우, 중첩되는 객체를 하나의 그룹으로 판단하여 영상을 분할하는 것을 기본으로 한다. According to another embodiment, the screen splitter 120 of the split image selection system 100 using the high-definition camera according to an embodiment of the present invention, in the process of recognizing the object in the full image, the overlapping person and the instrument or microphone It can also be extracted. For example, if participants A, B, C and instruments D, E, and microphone F are extracted, if participants A, instruments E, microphone F overlap, and participants B, C overlap, the present invention provides participants A, The instrument E and the microphone F may be divided into one image, the participants B and C may be divided into one image, and the instrument D may be divided into one image to divide a plurality of divided images. That is, when overlapping of objects occurs, the screen splitter 120 divides the image by determining the overlapping objects as one group.

다만, 버스킹 공연에서 관람자가 노래를 따라 부르거나, 박수를 치는 행위를 할 수 있으므로, 본 발명의 실시예에 따른 화면 분할부(120)는 악기 및 마이크 등과 같이 버스커임이 분명한 객체를 우선적으로 추출할 수 있다. 또한, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 선택 입력되는 버스커의 인원에 대응하는 사람 또는 악기의 객체를 추출할 수도 있다. However, in the busking performance, the viewer may sing or clap in a song, so the screen divider 120 according to the embodiment of the present invention preferentially selects an object which is clearly a busker such as an instrument and a microphone. Can be extracted. In addition, the split image selection system 100 using a high-definition camera according to an embodiment of the present invention may extract an object of a person or a musical instrument corresponding to the number of buskers to be input.

이 때, 화면 분할부(120)에서 사용되는 인식 알고리즘(recognition algorithm)은 기존 기술에서 안면, 사물 또는 음성을 인식하기 위해 사용되는 알고리즘을 사용하는 것이므로, 상세한 설명은 생략한다. 또한, 화면 분할부(120)는 풀 영상의 화면에서 사람 또는 악기를 추출하기 위한 알고리즘 외에, 머신러닝(Machine learning) 기법 또는 인공지능(AI) 기술을 적용할 수 있으므로, 알고리즘에 한정되지 않는다.In this case, since a recognition algorithm used in the screen divider 120 uses an algorithm used to recognize a face, an object, or a voice in the existing technology, a detailed description thereof will be omitted. In addition, the screen dividing unit 120 may apply a machine learning technique or an artificial intelligence (AI) technique in addition to an algorithm for extracting a person or a musical instrument from a screen of a full image, and is not limited to the algorithm.

선택부(130)는 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택한다. The selector 130 selects a play video based on a probability of big data according to a busking environment among a plurality of divided images.

예를 들면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 음악마다 학습된 빅데이터를 저장하여 유지할 수 있으며, 외부의 저장 장치 또는 외부의 서버로부터 빅데이터를 다운로드 또는 업데이트할 수 있다. 이 때, 빅데이터는 음악 전곡에 대한 음원이 학습된 데이터이며, 노래 또는 악기 별로 분류되어 데이터화된 것일 수 있다.For example, the divided image selection system 100 using a high-definition camera according to an embodiment of the present invention may store and maintain big data learned for each music, and download or download big data from an external storage device or an external server. You can update it. In this case, the big data is data obtained by learning sound sources for all music pieces, and may be classified into songs or musical instruments and dataized.

이에 따른, 선택부(130)는 빅데이터를 기반으로, 화면 분할부(120)에서 분할된 복수의 분할영상 각각에 대해 샘플링된 데이터로부터 플레이 영상을 선택할 수 있다.Accordingly, the selector 130 may select a play image from data sampled for each of the plurality of divided images divided by the screen divider 120 based on the big data.

예를 들면, 선택부(130)는 복수의 분할영상 각각에 대한 샘플링과 빅데이터를 비교하여 음악 흐름에 따른 클라이맥스(climax) 또는 하이라이트의 플레이 영상을 선택하거나, 기타, 드럼 또는 바이올린 등의 악기 중심으로 판단되는 경우, 해당 악기를 연주하는 사람을 나타내는 플레이 영상을 선택할 수 있다. 또한, 선택부(130)는 핀 조명과 같은 버스킹 조명이 가리키는 사람 또는 악기의 객체를 나타내는 플레이 영상을 선택하거나, 실내 또는 실외 등의 버스킹 공간을 나타내는 플레이 영상을 선택할 수 있으며, 코엑스, 홍대, 건대 또는 한강 등의 버스킹 배경을 나타내는 플레이 영상을 선택할 수 있다. For example, the selector 130 compares sampling and big data for each of the plurality of divided images to select a climax or highlight play image according to a music flow, or to play a guitar, a drum or a violin, or the like. If determined to be, the play video representing the person playing the instrument can be selected. In addition, the selector 130 may select a play image representing a person or an object of a musical instrument to which a busing light such as a pin light is pointing, or select a play image representing a busing space such as indoors or outdoors. A play video representing the background of the busking, such as, dry pole or Han river, can be selected.

이러한 선택부(130)의 선택은 음악 전곡이 포함된 빅데이터를 기반으로 수행되는 것이나, 관리자(또는 사용자)의 기 설정된 선택 입력 또는 참여자의 선택에 따른 것일 수도 있다. The selection of the selection unit 130 may be performed based on big data including all music pieces, or may be based on a preset selection input of a manager (or user) or a selection of participants.

또 다른 예로, 선택부(130)는 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 빅데이터를 비교하여 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류할 수 있다. 이후, 선택부(130)는 버스킹 환경에 대해 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 복수의 분할영상 각각에 대한 확률 값을 산출하고, 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 플레이 영상을 선택할 수 있다. As another example, the selector 130 extracts a sampling of at least one or more busking environments of a music flow, a busking lighting, a busking space, and a busking background from a divided image, and compares the extraction result with big data. A plurality of divided images may be classified as general images or issue images. Thereafter, the selector 130 applies a machine learning technique to the sampling extracted for the busking environment to calculate probability values for each of the plurality of divided images, multitrack sensing, sound analysis, A play video may be selected by combining at least one sound feature among BPM recognitions.

실시예에 따르면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 음악 전곡에서 복수의 참여자들이 선호하는 음악 흐름 및 악기 등과, 강조되는 버스킹 조명, 버스킹 공간 및 버스킹 배경에 대한 정보를 빅데이터에 저장하여 유지할 수 있으며, 선택부(130)는 상기 정보를 기반으로 복수의 분할영상 각각에 대한 샘플링과 빅데이터를 비교하여 일반 영상과 이슈 영상을 분류할 수 있다. 이후, 선택부(130)는 이슈 영상을 중심으로 머신러닝 기법을 적용하여 이슈 영상 각각에 대한 확률 값을 산출할 수 있으며, 확률 값에 악기 및 음악 흐름 중심의 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 최상위 확률 값을 나타내는 영상을 플레이 영상으로 선택할 수 있다. According to an embodiment, the split image selection system 100 using a high-definition camera according to an embodiment of the present invention is a music flow and musical instruments that are preferred by a plurality of participants in all music pieces, highlighting busking lights, busking spaces, and buses. The king background information may be stored and maintained in the big data, and the selector 130 may classify the general image and the issue image by comparing sampling and big data for each of the plurality of divided images based on the information. . Thereafter, the selector 130 may calculate a probability value for each issue image by applying a machine learning method based on the issue image, and multitrack sensing, sound analysis, and BPM recognition based on a musical instrument and a music flow based on the probability value. At least one of the sound features may be combined to select an image representing the highest probability value as the play image.

즉, 선택부(130)는 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 버스킹 환경에 기초하여 복수의 분할영상 중 버스킹 공연의 클라이맥스(climax) 또는 하이라이트에 따른 플레이 영상을 선택하는 것을 특징으로 한다. That is, the selector 130 may be configured according to the climax or the highlight of the busking performance among the plurality of divided images based on at least one of the busking environment of the music flow, the busking lighting, the busking space, and the busking background. It is characterized by selecting a play video.

이 때, 실시예에 따라서, 상기 버스킹 환경은 버스킹 공연의 레퍼토리, 공연 장소, 공연 장소의 위도, 경도, 주소, 소음 정도, 전기지원 여부, 실내 공연인지 실외 공연인지 여부, 시간 정보 및 공연 순서 중 적어도 어느 하나의 정보를 더 포함할 수도 있다. In this case, according to an embodiment, the busking environment is a repertoire of a busking performance, a performance venue, a latitude, longitude, an address, a noise level, an electrical support, an indoor performance or an outdoor performance, time information, and a performance of a performance venue. It may further include information of at least one of the order.

또한, 도 1에 도시된 바와 같이, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)은 참여자의 의견에 기반하여 플레이 영상의 선택, 및 복수의 분할영상 중 확률 기반의 플레이 영상의 선택을 제어하는 제어부(140)를 더 포함할 수 있다. In addition, as shown in Figure 1, the split image selection system 100 using a high-definition camera according to an embodiment of the present invention, the selection of the play image based on the opinions of the participants, and the probability-based play of the plurality of divided images The control unit 140 may further control the selection of an image.

예를 들면, 제어부(140)는 복수의 분할영상 각각에 대한 클라이맥스(climax) 또는 하이라이트를 기반으로, 초, 분 단위의 시간마다 선택되는 플레이 영상을 구동할 수 있으며, 참여자가 소지하는 모바일 디바이스로부터 수신되는 참여자의 선택 입력에 기반하여 플레이 영상을 선택 및 표현할 수도 있다.For example, the controller 140 may drive a play image selected every time in seconds and minutes based on a climax or highlight for each of the plurality of divided images, and from a mobile device possessed by a participant. The play video may be selected and expressed based on the selection input of the participants.

또한, 제어부(140)는 영상 수신부(110)로부터 수신되는 풀 영상에 대한 화질, 크기, 및 종류에 기반하여 스트림(stream) 과정을 제어할 수 있으며, 참여자의 선택 입력 또는 업데이트되는 빅데이터에 기반하여 화면 분할부(120)를 제어할 수도 있다. 즉, 제어부(140)는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(100)의 구성요소들의 구동, 수행, 표현 등의 동작을 전반적으로 제어할 수 있다.In addition, the controller 140 may control the stream process based on the image quality, size, and type of the full image received from the image receiver 110, and may be based on big data that is input or updated by a participant. The screen divider 120 may be controlled. That is, the controller 140 may control overall operations such as driving, performing, and expressing the components of the divided image selection system 100 using the high quality camera according to the exemplary embodiment of the present invention.

또한, 제어부(140)는 공연 제작자 또는 버스커로부터 버스커의 정보를 요청하고, 응답에 따른 정보를 이용하여 화면 분할 또는 플레이 영상 선택에 활용할 수도 있다. 실시예에 따라서, 상기 버스커의 정보는 버스커의 팀 이름, 팀원 목록, 팀원의 성별, 공연 카테고리, 장르, 앨범 정보, 추천인, 팀원 별 포지션, 총 팀원 수, 소개 페이지의 유알엘(Uniform Resource Locater; URL), 페이스북의 URL, 트위터의 URL, 팬 커뮤니티의 URL, 활동 국가, 활동 도시 및 태그(Tag) 중 적어도 어느 하나를 포함할 수 있다. In addition, the controller 140 may request information of the busker from the producer or the busker and use the information according to the response to divide the screen or select the play video. According to an embodiment, the information of the busker may include a team name of the busker, a list of team members, a gender of a team member, a performance category, a genre, album information, a recommender, a position for each team member, a total number of team members, and a uniform resource locater. URL), a URL of Facebook, a URL of Twitter, a URL of a fan community, an active country, an active city, and a tag.

도 2는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템의 구성도를 도시한 것이다.2 is a block diagram of a split image selection system using a high-definition camera according to an embodiment of the present invention.

도 2를 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(200)은 호스트 어플리케이션(220)으로부터 수신(b)되는 풀 영상을 영상 제작 프로세스(230)을 이용하여 분할하고, 분할영상 중 플레이 영상을 선택한다.2, the split image selection system 200 using the high definition camera according to the embodiment of the present invention divides the full image received from the host application 220 (b) using the image production process 230. , Select play video from split video.

보다 상세하게는, 기본적으로 공연 제작자(210)는 단일의 고화질 카메라인 4K 카메라와 모바일 디바이스를 소지하며, 단일의 고화질 카메라를 이용하여 버스킹 공연에 대한 영상을 촬영(a)하고, 모바일 디바이스 내 설치된 호스트 어플리케이션(예를 들면, 버스킹플레이(BuskingPlay), 220)에 촬영한 풀 영상을 업로드할 수 있다. More specifically, the performance producer 210 basically has a single high-definition camera 4K camera and a mobile device, using a single high-definition camera to shoot (a) the image of the busking performance, and within the mobile device The captured full image may be uploaded to the installed host application (eg, BuskingPlay 220).

이에 따른, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(200)은 호스트 어플리케이션(220)에 업로드된 풀 영상을 수신(b)하고, 영상 제작 프로세스(230)을 이용하여 풀 영상을 복수의 분할영상으로 분할하며, 분할된 복수의 분할영상 중 플레이 영상을 선택하여 참여자 어플리케이션(250)으로 송출(d)할 수 있다. 여기서, 영상 제작 프로세스(230)는 도 1에 도시된 본 발명의 실시예에 따른 화면 분할부(120) 및 선택부(130)를 포함한 것일 수 있다. Accordingly, the divided image selection system 200 using the high-definition camera according to the embodiment of the present invention receives the full image uploaded to the host application 220 (b) and uses the image production process 230 to obtain the full image. The screen may be divided into a plurality of divided images, and a play image may be selected from the plurality of divided images and transmitted to the participant application 250 (d). Here, the image production process 230 may include a screen divider 120 and a selector 130 according to the embodiment of the present invention shown in FIG. 1.

이 때, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템(200)은 영상 제작 프로세스(230)에 디바이스 프로토콜, 머신러닝 기법 및 스트리밍 서버기술 등의 알고리즘(240)을 구동 및 표현(c)함으로써, 풀 영상을 복수의 분할영상으로 분할하고, 분할영상 중 플레이 영상을 선택할 수 있다.At this time, the segmentation image selection system 200 using a high-definition camera according to an embodiment of the present invention drives and represents an algorithm 240 such as a device protocol, a machine learning technique, and a streaming server technique in the image production process 230. c), the full video is divided into a plurality of divided images, and a play video can be selected from the divided images.

여기서, 호스트 어플리케이션(220) 및 참여자 어플리케이션(250)은 공연 제작자(210) 및 참여자가 소지하는 모바일 디바이스에 설치된 어플리케이션(Application)이며, 모바일 디바이스는 PC(personal computer), 노트북 컴퓨터(laptop computer), 스마트폰(smart phone), 태블릿(tablet), 웨어러블 컴퓨터(wearable computer) 등의 공연 제작자, 버스커 및 참여자가 소지하고 있는 단말 장치로, 웹/모바일 사이트 또는 전용 어플리케이션의 제어 하에 서비스 화면 구성, 데이터 입력, 데이터 송수신, 데이터 저장 등 서비스 전반의 동작을 수행할 수 있다. 또한, 모바일 디바이스는 모바일 디바이스 내에 다운로드되어 설치된 어플리케이션(Application)을 일컫을 수 있다.Here, the host application 220 and the participant application 250 is an application installed on the mobile device possessed by the performer 210 and the participant, the mobile device is a personal computer (PC), a laptop computer (laptop computer), It is a terminal device possessed by producers, buskers, and participants such as smartphones, tablets, and wearable computers. Service screen composition and data under the control of a web / mobile site or a dedicated application. The overall service operation can be performed such as input, data transmission, and data storage. In addition, the mobile device may refer to an application downloaded and installed in the mobile device.

또한, 영상 제작 프로세스(230)은 기술응용 소프트웨어(Software; SW)이며, 풀 영상을 복수의 분할영상으로 분류하는 장면영역 자동설정 기능과, 복수의 분할영상 각각에 대한 샘플링에 기초하여 클라이맥스(climax) 또는 하이라이트를 추출하는 하이라이트 장면 선정 기능, 및 선택된 플레이 영상을 복수의 참여자가 참여자 어플리케이션(250)을 통해 접속한 채팅방에 업로드하여 제공하는 온에어 기능을 구동 및 표현(c)할 수 있다. In addition, the image production process 230 is a software application software (SW), a scene area automatic setting function for classifying a full image into a plurality of divided images, and a climax based on sampling of each of the plurality of divided images. Or a highlight scene selection function for extracting a highlight, and an on-air function for uploading and providing a selected play video to a chat room accessed by a plurality of participants through the participant application 250.

도 3은 본 발명의 실시예에 따른 분할영상의 개념 예를 도시한 것이다.3 illustrates a conceptual example of a split image according to an exemplary embodiment of the present invention.

도 3을 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 단일의 고화질 카메라(310)을 이용하여 버스킹 공연을 촬영하고, 단일의 풀 영상을 복수의 분할영상으로 분할한다.Referring to FIG. 3, a split image selection system using a high definition camera according to an embodiment of the present invention captures a busking performance using a single high definition camera 310, and divides a single full image into a plurality of split images. do.

이 때, 단일의 고화질 카메라(310)는 UHD(Ultra-HD) 4320P/4K의 카메라이며, 버스킹 공연에 대한 단일의 4K 풀 영상을 촬영할 수 있다.In this case, the single high-definition camera 310 is a UHD (Ultra-HD) 4320P / 4K camera, and can capture a single 4K full image for a busking performance.

본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 단일의 고화질 카메라(310)로부터 단일의 4K 풀 영상의 입력스트림을 수신할 수 있다. 이 때, 수신된 4320P/4K의 풀 영상은 4개의 1080P의 FULL HD 화면이 조합된 형태이며, 도 3에 도시된 바와 같이, 4개의 분할영상으로 분할될 수 있다. 다만, 분할영상의 개수, 형태 및 크기는 이에 한정되지 않는다.The split image selection system using a high definition camera according to an exemplary embodiment of the present invention may receive an input stream of a single 4K full image from a single high definition camera 310. In this case, the received full image of 4320P / 4K is a combination of four 1080P FULL HD screens, and as shown in FIG. 3, may be divided into four divided images. However, the number, shape, and size of the divided images are not limited thereto.

도 4는 본 발명의 실시예에 따른 객체 인식 과정의 예를 도시한 것이다.4 illustrates an example of an object recognition process according to an embodiment of the present invention.

도 4를 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 고화질 카메라로부터 수신된 풀 영상을 복수의 분할영상으로 분할하기 위한 객체 인식 과정을 적용한다.Referring to FIG. 4, the split image selection system using a high definition camera according to an embodiment of the present invention applies an object recognition process for splitting a full image received from a high definition camera into a plurality of split images.

예를 들면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 고화질 카메라로부터 도 4(a)와 같은 풀 영상을 수신하고, 풀 영상 중 화면(순간 프레임)에 객체 인식 과정을 통해 도 4(b)에 도시된 바와 같은 버스킹 공연에 참여하는 사람을 추출(빨간 네모)할 수 있다. For example, a split image selection system using a high definition camera according to an embodiment of the present invention receives a full image as shown in FIG. 4 (a) from a high definition camera, and performs an object recognition process on a screen (instantaneous frame) among the full images. A person participating in the busking performance as shown in FIG. 4 (b) may be extracted (red square).

이 때, 객체 인식 과정은 인식 알고리즘(recognition algorithm)으로, 빅데이터 및 머신러닝 기법을 이용하여 안면(얼굴), 사물 또는 음성을 인식하는 것으로, 기존 기술에서 사용되는 과정이므로 본 발명에서는 과정에 대한 상세한 설명은 생략한다. 다만, 본 발명은 전술한 객체 인식 과정 외에 화면에서 안면, 사물 또는 음성을 인식하는 OpenCV(Open Source Computer Vision) 등의 라이브러리를 적용할 수도 있으므로, 한정하지 않는다.In this case, the object recognition process is a recognition algorithm, which recognizes a face (face), an object, or a voice by using big data and machine learning, and is a process used in the existing technology. Detailed description is omitted. However, the present invention is not limited to the above-described object recognition process, since a library such as OpenCV (Open Source Computer Vision) may be applied to recognize a face, an object, or a voice on a screen.

나아가, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 도 4(b)에 도시된 바와 같이 버스킹 공연에 참여하는 사람(안면) 인식 외에 버스킹 공연에 사용되는 악기, 마이크 등의 객체를 더 추출할 수도 있다. In addition, the split image selection system using a high-definition camera according to an embodiment of the present invention is a musical instrument, a microphone, etc. used for the busking performance in addition to the recognition of the person (face) participating in the busking performance as shown in FIG. You can also extract more objects from.

예를 들면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 풀 영상에서 객체를 인식하는 과정에서, 중첩되는 사람과 악기 또는 마이크를 추출할 수 있다. 실시예에 따라서, 참여자 A, B, C와 악기 D, E 및 마이크 F가 추출되고, 참여자 A, 악기 E, 마이크 F가 중첩되고, 참여자 B, C가 중첩되는 경우, 본 발명은 참여자 A, 악기 E, 마이크 F를 하나의 영상으로 분할하고, 참여자 B, C를 하나의 영상으로 분할하며, 악기 D를 하나의 영상으로 분할하여 복수의 분할영상을 분할할 수 있다. 즉, 본 발명은 객체의 중첩이 발생하는 경우, 중첩되는 객체를 하나의 그룹으로 판단하여 영상을 분할하는 것을 기본으로 한다. For example, the split image selection system using the high-definition camera according to an embodiment of the present invention may extract an overlapping person and a musical instrument or a microphone in the process of recognizing the object in the full image. According to an embodiment, if participants A, B, C and instruments D, E, and microphone F are extracted, participants A, musical instrument E, microphone F overlap, and participants B, C overlap, the present invention provides participants A, The instrument E and the microphone F may be divided into one image, the participants B and C may be divided into one image, and the instrument D may be divided into one image to divide a plurality of divided images. That is, the present invention is based on segmenting the image by judging the overlapping objects as one group when the overlapping of objects occurs.

도 5는 본 발명의 실시예에 따른 이슈 영상 및 일반 영상을 분류하는 예를 도시한 것이다. 5 illustrates an example of classifying an issue image and a general image according to an embodiment of the present invention.

본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 도 3 및 도 4에 도시된 바와 같이 고화질 카메라로부터 수신된 풀 영상에서 객체 인식 과정을 통해 추출된 객체에 따라 복수의 분할영상으로 분할하며, 분할영상을 이슈 장면(541) 또는 일반 장면(542)으로 분류할 수 있다. In the split image selection system using a high quality camera according to an exemplary embodiment of the present invention, as shown in FIGS. 3 and 4, a split image is divided into a plurality of split images according to objects extracted through an object recognition process from a full image received from a high quality camera. The divided image may be classified into an issue scene 541 or a general scene 542.

도 5를 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 복수의 분할영상(510) 각각을 샘플링하며, 분류기(520)에서 빅데이터(530)를 이용하여 샘플링된 분할영상(510)을 이슈 장면(541)과 일반 장면(542)을 분류할 수 있다. Referring to FIG. 5, a split image selection system using a high-definition camera according to an exemplary embodiment of the present invention samples each of a plurality of split images 510 and divides the splits sampled using the big data 530 in the classifier 520. The image 510 may be classified into an issue scene 541 and a general scene 542.

분류기(520)는 샘플링된 분할영상(510)으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 하나 이상의 버스킹 환경을 추출하고, 추출 결과와 빅데이터(530)를 비교하여 분할영상(510)을 이슈 영상(또는 이슈 장면, 541)과 일반 영상(또는 일반 장면, 542)으로 분류할 수 있다. The classifier 520 extracts at least one or more busking environments among music flows, busking lights, busking spaces, and busking backgrounds from the sampled divided image 510, and compares the extracted result with the big data 530 to divide the divided results. The image 510 may be classified into an issue image (or issue scene 541) and a general image (or general scene 542).

이 때, 빅데이터(530)는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템에 저장되어 유지되는 것일 수 있으며, 외부의 저장 장치 또는 외부의 서버로부터 다운로드 또는 업데이트되는 정보일 수 있다. 또한, 빅데이터(530)는 음악 전곡에 대한 음원이 학습된 데이터이며, 노래 또는 악기 별로 분류되어 데이터화된 것일 수 있다. In this case, the big data 530 may be stored and maintained in a split image selection system using a high quality camera according to an embodiment of the present invention, and may be information downloaded or updated from an external storage device or an external server. . In addition, the big data 530 is data obtained by learning sound sources for all music, and may be classified into songs or musical instruments and dataized.

예를 들면, 빅데이터(530)는 음악 전곡 각각에 대해 복수의 참여자들이 선호하는 음악 흐름 및 악기의 클라이맥스(climax) 또는 하이라이트에 대한 정보와, 강조되는 버스킹 조명, 버스킹 공간 및 버스킹 배경에 대한 정보를 저장하여 유지할 수 있으며, 외부의 저장 장치 또는 외부의 서버로부터 실시간 업데이트할 수 있다. 이에 따라서, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 빅데이터(530)를 기반으로 샘플링된 분할영상(510) 각각에 대한 강조, 클라이맥스(climax) 또는 하이라이트되는 부분을 추출하여 이슈 영상(541)으로 분류할 수 있다. 또한, 음악 흐름에서의 강조, 클라이맥스(climax) 또는 하이라이트되는 부분 외의 음악 흐름(또는 연주)은 일반 영상(542)으로 분류할 수 있다.For example, the big data 530 may include information about music flows and climax or highlights of the instruments preferred by a plurality of participants for each of the entire music pieces, as well as highlighted busking lights, busking spaces, and busking backgrounds. Information can be stored and maintained, and can be updated in real time from an external storage device or an external server. Accordingly, the split image selection system using the high-definition camera according to an embodiment of the present invention extracts the highlight, climax or highlight portion for each of the divided images 510 sampled based on the big data 530. It may be classified as an issue image 541. In addition, the music flow (or performance) other than the emphasis, climax, or highlight portion in the music flow may be classified into the general image 542.

즉, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 한 곡의 음악을 연주하는 버스킹 공연에서 강조, 클라이맥스(climax) 또는 하이라이트 부분에 따라 복수의 이슈 영상(541) 및 복수의 일반 영상(542)을 분류할 수 있으며, 분류된 이슈 영상(541) 및 일반 영상(542)은 초 또는 분의 시간마다 변경, 수정 및 분류될 수 있다. That is, the divided image selection system using a high-definition camera according to an embodiment of the present invention is a plurality of issue images 541 and a plurality of images according to a highlight, climax or highlight portion in a busking performance playing a piece of music. The general image 542 may be classified, and the classified issue image 541 and the general image 542 may be changed, corrected, and classified at every second or minute.

도 6은 본 발명의 실시예에 따른 플레이 영상을 선택하는 예를 도시한 것이다. 6 illustrates an example of selecting a play video according to an embodiment of the present invention.

도 6을 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 복수의 분할영상(610)에 대해 샘플링(620)을 수행하며, 머신러닝(Machine Learning) 기법을 적용하여 샘플링된 분할영상(620)에 대한 확률 값을 산출할 수 있다. 이후, 본 발명은 확률 값에 악기 및 음악 흐름 중심의 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징(630)을 조합하여 최상위 확률 값을 나타내는 영상을 플레이 영상(640)으로 선택할 수 있다.Referring to FIG. 6, the split image selection system using the high-definition camera according to an embodiment of the present invention performs sampling 620 on the plurality of split images 610 and performs sampling by applying a machine learning technique. A probability value for the split image 620 may be calculated. Next, the present invention selects an image representing the highest probability value as the play image 640 by combining at least one or more sound features 630 of instrument and music flow-oriented multitrack sensing, sound analysis, and BPM recognition. Can be.

예를 들면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 빅데이터를 기반으로 샘플링된 분할영상(620)에 머신러닝 기법을 적용하여 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 하나 이상의 버스킹 환경에 따른 확률 값을 수치화할 수 있다. 이후, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 샘플링된 분할영상(620)에 대해 산출된 확률 값에 버스킹 공연에서 사용되는 악기(예를 들면, 기타, 드럼, 피아노, 바이올린 등) 각각의 멀티트랙 센싱, 사운드 분석 및 BPM의 사운드 특징(630)을 조합하여 최종 스트림의 플레이 영상(640)을 선택할 수 있다.For example, the segmentation image selection system using a high-definition camera according to an embodiment of the present invention applies a machine learning method to the segmented image 620 sampled based on big data, such as music flow, busking lighting, busking space, and the like. A probability value according to at least one or more busking environments of the bursting background may be digitized. Then, the split image selection system using a high-definition camera according to an embodiment of the present invention is an instrument (eg, guitar, drum, piano, Each of the multitrack sensing, sound analysis, and sound features 630 of the BPM may be combined to select the play image 640 of the final stream.

다만, 실시예에 따라서, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 사운드 특징(630)을 제외하고, 샘플링된 분할영상(620)에 대해 산출된 확률 값만을 이용하여 최종 스트림의 플레이 영상(640)을 선택할 수도 있다.However, according to the exemplary embodiment, the split image selection system using the high quality camera according to the exemplary embodiment of the present invention uses only the probability value calculated for the sampled divided image 620 except for the sound feature 630 to generate the final stream. The play video 640 may be selected.

또한, 실시예에 따라서, 도 6에서의 복수의 분할영상(610, 620)은 도 5에서 분류된 이슈 장면(541)일 수 있으며, 이슈 장면 중 확률 값 또는 사운드 특징(630)을 조합하여 최상위 확률 값을 나타내는 플레이 영상(640)을 선택할 수 있다.In addition, according to an exemplary embodiment, the plurality of divided images 610 and 620 in FIG. 6 may be an issue scene 541 classified in FIG. 5, and a combination of probability values or sound features 630 among the issue scenes may be the highest. A play video 640 representing a probability value may be selected.

도 7은 본 발명의 실시예에 따른 플레이 영상의 선택을 위한 테이블의 예를 도시한 것이고, 도 8은 본 발명의 실시예에 따른 플레이 영상의 송출 예를 도시한 것이다.7 illustrates an example of a table for selecting a play video according to an embodiment of the present invention, and FIG. 8 illustrates an example of transmitting a play video according to an embodiment of the present invention.

도 8을 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 고화질 카메라로부터 촬영된 풀 영상에 대해 복수의 객체(A, B, C)를 추출하고, 추출된 객체에 따른 복수의 분할영상을 분할하며, 분할영상 중 최상위 확률 값을 나타내는 플레이 영상(C)을 선택하여 온에어(On-Air)할 수 있다.Referring to FIG. 8, the split image selection system using a high quality camera according to an embodiment of the present invention extracts a plurality of objects A, B, and C from a full image captured by a high quality camera, and extracts a plurality of objects according to the extracted object. A plurality of divided images may be divided, and on-air may be selected by selecting a play image C representing the highest probability value among the divided images.

본 발명은 복수의 분할영상 중 플레이 영상을 선택하기 위해, 도 7에 도시된 바와 같은 테이블을 사용할 수 있다.In the present invention, a table as shown in FIG. 7 may be used to select a play image from among a plurality of divided images.

도 7을 참조하면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 복수의 분할영상 각각(분할영상 A, B, C)에 대한 버스킹 환경의 각 변수 별 점수를 합산하여 최종 플레이 영상을 선택할 수 있다. Referring to FIG. 7, a split image selection system using a high-definition camera according to an embodiment of the present invention sums up scores for each variable of a busking environment for each of a plurality of split images (split images A, B, and C). Play video can be selected.

예를 들면, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 음악 흐름, 화면 품질/버스킹 조명, 버스킹 공간, 버스킹 배경 및 빅데이터 각각의 변수(710)들을 테이블로 구성하고, 자동분할을 통해 고화질 카메라로부터 수신된 풀 영상에 대한 객체를 추출하여 복수의 분할영상(A, B, C)으로 분할하며, 복수의 분할영상 각각에 따른 변수(710) 별로 실시간 점수를 산출하고, 산출된 결과의 총점(확률 값)에 기반하여 최종 플레이 영상(분할영상 C)을 선택할 수 있다.For example, a split image selection system using a high-definition camera according to an embodiment of the present invention comprises a table of music flow, screen quality / busking lighting, busking space, busking background, and big data. And extract the object for the full image received from the high-definition camera through automatic segmentation, divide the object into a plurality of divided images (A, B, C), and calculate a real-time score for each variable 710 according to each of the plurality of divided images. The final play video (split image C) may be selected based on the total score (probability value) of the calculated result.

여기서, 상기 확률 값은 본 발명의 실시예에 따른 빅데이터를 기반으로 샘플링된 복수의 분할영상으로부터 산출될 수 있으며, 상기 플레이 영상은 확률 값, 악기 및 음악 흐름 중심의 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징, 또는 참여자들의 의견 및 피드백에 의해 선택될 수 있다.Here, the probability value may be calculated from a plurality of divided images sampled based on big data according to an embodiment of the present invention, and the play image may include a multitrack sensing based on a probability value, a musical instrument and a music flow, a sound analysis, and It may be selected by at least one or more sound features of the BPM recognition, or feedback and feedback of the participants.

또한, 도 8에 도시된 바와 같이, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 확률 기반 및 자동선택에 따라 선택된 플레이 영상(C)을 어플리케이션을 통해 실시간 채팅방에 송출할 수 있으며, 채팅방에 참여한 복수의 참여자들로부터 송출되는 플레이 영상에 대한 의견 및 피드백을 수신할 수 있다. 이에 따라서, 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 시스템은 복수의 참여자들의 의견 및 피드백에 따라 플레이 영상을 재 선택할 수 있으며, 플레이 영상의 확대, 반복 또는 리플레이(Replay)를 표현할 수도 있다. In addition, as shown in Figure 8, the split image selection system using a high-definition camera according to an embodiment of the present invention can transmit the play video (C) selected in accordance with the probability-based and automatic selection to the real-time chat room through the application In addition, comments and feedback on the play video transmitted from the plurality of participants in the chat room may be received. Accordingly, the split image selection system using the high-definition camera according to an embodiment of the present invention can reselect the play video according to the opinions and feedback of a plurality of participants, and can also enlarge, repeat, or replay the play video. have.

도 9는 본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 방법의 흐름도를 도시한 것이다.9 is a flowchart illustrating a method of selecting a divided image using a high quality camera according to an embodiment of the present invention.

도 9에 도시된 분할영상 선택 방법은 도 1에 도시된 본 발명의 실시예에 따른 고화질 카메라를 이용하여 버스킹(Busking) 공연에 대한 분할영상을 선택하는 시스템에 의해 수행된다.The split image selection method shown in FIG. 9 is performed by a system for selecting a split image for a busking performance using a high quality camera according to an embodiment of the present invention shown in FIG. 1.

본 발명의 실시예에 따른 고화질 카메라를 이용한 분할영상 선택 방법은 단계 910에서, 고화질 카메라를 이용하여 촬영된 버스킹 공연에 대한 단일의 풀 영상을 수신한다.In the method of selecting a split image using a high quality camera according to an exemplary embodiment of the present invention, in step 910, a single full image of a busking performance photographed using the high quality camera is received.

예를 들면, 버스커(busker: 거리 공연자)가 거리 공연을 하는 경우, 공연 제작자는 단일의 고화질 카메라를 이용하여 버스킹 공연을 촬영하고, 단계 910은 공연 제작자로부터 버스킹 공연에 대한 단일의 풀 영상을 수신할 수 있다. 이 때, 상기 고화질 카메라는 UHD(Ultra-HD) 4320P/4K의 카메라일 수 있으며, 단계 910은 고화질 카메라로부터 촬영된 단일의 4K 풀 영상을 수신할 수 있다. For example, if a busker performs a street performance, the performance producer shoots a busking performance using a single high definition camera, and step 910 is a single pool of busking performances from the performance producer. An image can be received. In this case, the high definition camera may be a UHD (Ultra-HD) 4320P / 4K camera, and step 910 may receive a single 4K full image captured from the high definition camera.

단계 920에서, 풀 영상의 화면에 대한 객체 인식 과정을 통해 풀 영상을 복수의 분할영상으로 분할한다.In operation 920, the full image is divided into a plurality of divided images through an object recognition process on the screen of the full image.

예를 들면, 단계 920은 안면(얼굴) 또는 사물 인식 알고리즘을 이용하여 풀 영상 중 화면(순간 프레임)에서의 버스킹 공연에 참여하는 사람 및 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 객체 수에 따라 복수의 분할영상으로 분할하는 단계일 수 있다.For example, in step 920, a person participating in a busking performance on a screen (instantaneous frame) and an object of an instrument used for the busking performance are extracted by using a face (face) or object recognition algorithm. The operation may be divided into a plurality of divided images according to the number of objects.

실시예에 따라서, 버스킹 공연에서 악기만 연주하는 사람, 노래하는 사람, 악기와 노래를 함께하는 사람이 존재하는 경우, 단계 920은 사람과 악기의 각 객체를 우선적으로 추출하며, 악기를 연주하는 사람과, 노래하는 사람, 그리고 악기와 노래를 함께하는 사람을 따로 분류하여 각각에 대한 분할영상으로 분할할 수 있다. According to an embodiment, if there is a person who plays only a musical instrument, a singer, or a person who sings a musical instrument in a busking performance, step 920 first extracts the person and each object of the musical instrument, and the person who plays the musical instrument. And, the singer and the person who sings the instrument and the song can be classified separately and divided into divided images for each.

단계 930에서 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택한다. In operation 930, a play image is selected based on a probability of big data according to a busking environment among a plurality of divided images.

단계 930은 음악마다 학습된 빅데이터를 이용하여 샘플링되는 복수의 분할영상 중 플레이 영상을 선택하는 단계일 수 있다.In operation 930, a play image may be selected from among a plurality of divided images sampled using big data learned for each music.

단계 930은 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 빅데이터를 비교하여 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류하는 단계(미도시), 버스킹 환경에 대해 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 복수의 분할영상 각각에 대한 확률 값을 산출하는 단계(미도시), 및 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 플레이 영상을 선택하는 단계(미도시)를 포함할 수 있다. Step 930 extracts a sampling of at least one of the bursting environment of music flow, bursting lighting, bursting space, and bursting background from the divided image, compares the extracted result with big data, and displays the plurality of divided images as a general image. Or classifying the image into an issue image (not shown), calculating a probability value for each of the plurality of divided images by applying a machine learning technique to the sampling extracted for the busking environment, and The method may include selecting a play video by combining at least one sound feature of multitrack sensing, sound analysis, and BPM recognition with a probability value.

이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 예를 들어, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPA(field programmable array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.The apparatus described above may be implemented as a hardware component, a software component, and / or a combination of hardware components and software components. For example, the devices and components described in the embodiments may include, for example, processors, controllers, arithmetic logic units (ALUs), digital signal processors, microcomputers, field programmable arrays (FPAs), It may be implemented using one or more general purpose or special purpose computers, such as a programmable logic unit (PLU), microprocessor, or any other device capable of executing and responding to instructions. The processing device may execute an operating system (OS) and one or more software applications running on the operating system. The processing device may also access, store, manipulate, process, and generate data in response to the execution of the software. For convenience of explanation, one processing device may be described as being used, but one of ordinary skill in the art will appreciate that the processing device includes a plurality of processing elements and / or a plurality of types of processing elements. It can be seen that it may include. For example, the processing device may include a plurality of processors or one processor and one controller. In addition, other processing configurations are possible, such as parallel processors.

소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 가상 장치(virtual equipment), 컴퓨터 저장 매체 또는 장치, 또는 전송되는 신호 파(signal wave)에 영구적으로, 또는 일시적으로 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.The software may include a computer program, code, instructions, or a combination of one or more of the above, and may configure the processing device to operate as desired, or process independently or collectively. You can command the device. Software and / or data may be any type of machine, component, physical device, virtual equipment, computer storage medium or device in order to be interpreted by or to provide instructions or data to the processing device. Or may be permanently or temporarily embodied in a signal wave to be transmitted. The software may be distributed over networked computer systems so that they may be stored or executed in a distributed manner. The software and data may be stored on one or more computer readable recording media.

실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 실시예를 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다. 상기된 하드웨어 장치는 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.The method according to the embodiment may be embodied in the form of program instructions that can be executed by various computer means and recorded in a computer readable medium. The computer readable medium may include program instructions, data files, data structures, and the like, alone or in combination. The program instructions recorded on the media may be those specially designed and constructed for the purposes of the embodiments, or they may be of the kind well-known and available to those having skill in the computer software arts. Examples of computer-readable recording media include magnetic media such as hard disks, floppy disks, and magnetic tape, optical media such as CD-ROMs, DVDs, and magnetic disks such as floppy disks. Magneto-optical media, and hardware devices specifically configured to store and execute program instructions, such as ROM, RAM, flash memory, and the like. Examples of program instructions include not only machine code generated by a compiler, but also high-level language code that can be executed by a computer using an interpreter or the like. The hardware device described above may be configured to operate as one or more software modules to perform the operations of the embodiments, and vice versa.

이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.Although the embodiments have been described by the limited embodiments and the drawings as described above, various modifications and variations are possible to those skilled in the art from the above description. For example, the described techniques may be performed in a different order than the described method, and / or components of the described systems, structures, devices, circuits, etc. may be combined or combined in a different form than the described method, or other components. Or, even if replaced or substituted by equivalents, an appropriate result can be achieved.

그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.Therefore, other implementations, other embodiments, and equivalents to the claims are within the scope of the claims that follow.

100, 200: 고화질 카메라를 이용한 분할영상 선택 시스템
210: 공연 제작자
220: 호스트 어플리케이션
230: 영상 제작 프로세스
240: 알고리즘
250: 참여자 어플리케이션
310: 고화질 카메라
510, 620: 샘플링된 분할영상
610: 분할된 분할영상
630: 사운드 특징
640: 플레이 영상
710: 분석 변수
100, 200: segmentation image selection system using a high quality camera
210: producer
220: host application
230: video production process
240: algorithm
250: participant application
310: high definition camera
510, 620: sampled segmented image
610: segmented split image
630: sound features
640: play video
710: analysis variable

Claims (14)

고화질 카메라를 이용하여 촬영된 버스킹(Busking) 공연에 대한 단일의 풀 영상을 수신하는 영상 수신부;
상기 풀 영상의 화면에 대한 객체 인식 과정을 통해 상기 풀 영상을 복수의 분할영상으로 분할하는 화면 분할부; 및
상기 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택하는 선택부
를 포함하는 고화질 카메라를 이용한 분할영상 선택 시스템.
An image receiver configured to receive a single full image of a busking performance photographed using a high quality camera;
A screen divider for dividing the full image into a plurality of divided images through an object recognition process on the screen of the full image; And
Selecting unit for selecting a play video based on the probability of big data according to the busking environment of the plurality of divided images
Split image selection system using a high-definition camera comprising a.
제1항에 있어서,
상기 영상 수신부는
단일의 상기 고화질 카메라로부터 촬영된 상기 버스킹 영상에 대한 상기 단일의 풀 영상을 수신하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 1,
The image receiving unit
Split image selection system using a high-definition camera that receives the single full image of the busking image taken from the single high-definition camera.
제1항에 있어서,
상기 화면 분할부는
상기 버스킹 공연에 참여하는 사람 및 상기 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 객체 수에 따라 상기 복수의 분할영상으로 분할하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 1,
The screen divider
A split image selection system using a high-definition camera that extracts the object of the person participating in the busking performance and the instrument used in the busking performance, and divides the object into the plurality of divided images according to the number of extracted objects.
제3항에 있어서,
상기 화면 분할부는
추출된 사람 또는 악기의 중첩 시, 중첩된 객체를 포함하는 상기 복수의 분할영상으로 분할하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 3,
The screen divider
Split image selection system using a high-definition camera for dividing the extracted person or instrument into the plurality of divided images including the overlapping objects.
제1항에 있어서,
상기 선택부는
음악마다 학습된 상기 빅데이터를 이용하여 샘플링되는 상기 복수의 분할영상 중 상기 플레이 영상을 선택하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 1,
The selection unit
A split image selection system using a high-definition camera that selects the play image from the plurality of split images sampled using the big data learned for each music.
제5항에 있어서,
상기 선택부는
상기 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 상기 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 상기 빅데이터를 비교하여 상기 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 5,
The selection unit
Sampling the at least one of the music flow, the busking illumination, the busking space, and the busking background from the divided image, and extracts a sampling of the bursting environment and compares the extracted result with the big data to generalize the plurality of divided images. Segmentation image selection system using high-definition camera to classify image or issue image.
제6항에 있어서,
상기 선택부는
상기 버스킹 환경에 대해 상기 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 상기 복수의 분할영상 각각에 대한 확률 값을 산출하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 6,
The selection unit
And a high quality camera for calculating a probability value for each of the plurality of divided images by applying a machine learning technique to the extracted sampling for the busking environment.
제7항에 있어서,
상기 선택부는
상기 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 상기 플레이 영상을 선택하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 7, wherein
The selection unit
And selecting the play image by combining at least one sound feature of multitrack sensing, sound analysis, and BPM recognition to the probability value.
제1항에 있어서,
참여자의 의견에 기반하여 상기 플레이 영상의 선택, 및 상기 복수의 분할영상 중 확률 기반의 상기 플레이 영상의 선택을 제어하는 제어부
를 더 포함하는 고화질 카메라를 이용한 분할영상 선택 시스템.
The method of claim 1,
A controller for controlling selection of the play video based on opinions of participants and selection of the play video based on probability among the plurality of divided images
Split image selection system using a high-definition camera further comprising.
고화질 카메라를 이용하여 버스킹(Busking) 공연에 대한 분할영상을 선택하는 시스템의 동작 방법에 있어서,
상기 고화질 카메라를 이용하여 촬영된 상기 버스킹 공연에 대한 단일의 풀 영상을 수신하는 단계;
상기 풀 영상의 화면에 대한 객체 인식 과정을 통해 상기 풀 영상을 복수의 분할영상으로 분할하는 단계; 및
상기 복수의 분할영상 중 버스킹 환경에 따른 빅데이터의 확률 기반으로 플레이 영상을 선택하는 단계
를 포함하는 고화질 카메라를 이용한 분할영상 선택 방법.
In the operating method of the system for selecting a divided image for the busking performance using a high-definition camera,
Receiving a single full image of the busking performance photographed using the high quality camera;
Dividing the full image into a plurality of divided images through an object recognition process on the screen of the full image; And
Selecting a play image based on a probability of big data according to a busking environment among the plurality of divided images
Split image selection method using a high-definition camera comprising a.
제10항에 있어서,
상기 복수의 분할영상으로 분할하는 단계는
상기 버스킹 공연에 참여하는 사람 및 상기 버스킹 공연에 사용되는 악기의 객체를 추출하고, 추출된 객체 수에 따라 상기 복수의 분할영상으로 분할하는 고화질 카메라를 이용한 분할영상 선택 방법.
The method of claim 10,
The dividing into the plurality of divided images
The method of selecting a split image using a high-definition camera extracting an object of the person participating in the bursting performance and the instrument used in the bursting performance, and splitting the object into the plurality of divided images according to the number of extracted objects.
제10항에 있어서,
상기 플레이 영상을 선택하는 단계는
음악마다 학습된 상기 빅데이터를 이용하여 샘플링되는 상기 복수의 분할영상 중 상기 플레이 영상을 선택하는 고화질 카메라를 이용한 분할영상 선택 방법.
The method of claim 10,
The step of selecting the play video
The method of selecting a split image using a high-quality camera that selects the play image from among the plurality of split images sampled using the big data learned for each music.
제12항에 있어서,
상기 플레이 영상을 선택하는 단계는
상기 분할영상으로부터 음악 흐름, 버스킹 조명, 버스킹 공간 및 버스킹 배경 중 적어도 어느 하나 이상의 상기 버스킹 환경에 대한 샘플링을 추출하고, 추출 결과와 상기 빅데이터를 비교하여 상기 복수의 분할영상을 일반 영상 또는 이슈 영상으로 분류하는 단계;
상기 버스킹 환경에 대해 상기 추출된 샘플링에 머신러닝(Machine Learning) 기법을 적용하여 상기 복수의 분할영상 각각에 대한 확률 값을 산출하는 단계; 및
상기 확률 값에 멀티트랙 센싱, 사운드 분석 및 BPM 인식 중 적어도 어느 하나 이상의 사운드 특징을 조합하여 상기 플레이 영상을 선택하는 단계
를 포함하는 고화질 카메라를 이용한 분할영상 선택 방법.
The method of claim 12,
The step of selecting the play video
Sampling the at least one of the music flow, the busking illumination, the busking space, and the busking background from the divided image, and extracts a sampling of the bursting environment and compares the extracted result with the big data to generalize the plurality of divided images. Categorizing into an image or an issue image;
Calculating a probability value for each of the plurality of divided images by applying a machine learning technique to the extracted sampling for the busking environment; And
Selecting the play video by combining at least one sound feature of multitrack sensing, sound analysis, and BPM recognition with the probability value;
Split image selection method using a high-definition camera comprising a.
제10항 내지 제13항 중 어느 한 항의 방법을 수행하기 위하여 컴퓨터로 판독 가능한 기록 매체에 저장된 컴퓨터 프로그램. A computer program stored in a computer readable recording medium for performing the method of claim 10.
KR1020180098484A 2018-08-23 2018-08-23 System for selecting segmentation video using high definition camera and the method thereof KR102550528B1 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180098484A KR102550528B1 (en) 2018-08-23 2018-08-23 System for selecting segmentation video using high definition camera and the method thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180098484A KR102550528B1 (en) 2018-08-23 2018-08-23 System for selecting segmentation video using high definition camera and the method thereof

Publications (2)

Publication Number Publication Date
KR20200022640A true KR20200022640A (en) 2020-03-04
KR102550528B1 KR102550528B1 (en) 2023-07-04

Family

ID=69783233

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180098484A KR102550528B1 (en) 2018-08-23 2018-08-23 System for selecting segmentation video using high definition camera and the method thereof

Country Status (1)

Country Link
KR (1) KR102550528B1 (en)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102424150B1 (en) * 2021-11-29 2022-07-22 주식회사 콘텐츠민주주의 An automatic video production system
KR20240030921A (en) 2022-08-30 2024-03-07 비스킷타운 주식회사 System for providing user centric multiview and method thereof
KR102646048B1 (en) * 2023-08-29 2024-03-12 주식회사 메가라이브 Apparatus for converting and transmitting horizontal vertical video based on machine learning

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150012322A (en) * 2013-07-10 2015-02-04 성균관대학교산학협력단 Apparatus and method for providing virtual reality of stage
KR20170083415A (en) * 2016-01-08 2017-07-18 삼성전자주식회사 Image processing apparatus and control method thereof
KR20170113251A (en) * 2016-03-24 2017-10-12 재단법인 아산사회복지재단 Method and device for automatic inner and outer vessel wall segmentation in intravascular ultrasound images using deep learning

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20150012322A (en) * 2013-07-10 2015-02-04 성균관대학교산학협력단 Apparatus and method for providing virtual reality of stage
KR20170083415A (en) * 2016-01-08 2017-07-18 삼성전자주식회사 Image processing apparatus and control method thereof
KR20170113251A (en) * 2016-03-24 2017-10-12 재단법인 아산사회복지재단 Method and device for automatic inner and outer vessel wall segmentation in intravascular ultrasound images using deep learning

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102424150B1 (en) * 2021-11-29 2022-07-22 주식회사 콘텐츠민주주의 An automatic video production system
WO2023096392A1 (en) * 2021-11-29 2023-06-01 주식회사 콘텐츠민주주의 System for automatically producing video
KR20240030921A (en) 2022-08-30 2024-03-07 비스킷타운 주식회사 System for providing user centric multiview and method thereof
KR102646048B1 (en) * 2023-08-29 2024-03-12 주식회사 메가라이브 Apparatus for converting and transmitting horizontal vertical video based on machine learning

Also Published As

Publication number Publication date
KR102550528B1 (en) 2023-07-04

Similar Documents

Publication Publication Date Title
US11862198B2 (en) Synthesizing a presentation from multiple media clips
CN109478400B (en) Network-based processing and distribution of multimedia content for live musical performances
US9940970B2 (en) Video remixing system
US7956900B2 (en) Video delivery device, video delivery method, video delivery program and recording medium
US20170201793A1 (en) TV Content Segmentation, Categorization and Identification and Time-Aligned Applications
US9659595B2 (en) Video remixing system
KR102550528B1 (en) System for selecting segmentation video using high definition camera and the method thereof
JP2011223287A (en) Information processor, information processing method, and program
US20150199995A1 (en) Modular content generation, modification, and delivery system
Iwan et al. Temporal video segmentation: detecting the end-of-act in circus performance videos
CN111787346A (en) Music score display method, device and equipment based on live broadcast and storage medium
TWI497959B (en) Scene extraction and playback system, method and its recording media
Cremer et al. Machine-assisted editing of user-generated content
US20240080566A1 (en) System and method for camera handling in live environments
Oldfield et al. Cloud-based AI for automatic audio production for personalized immersive XR experiences
Mate et al. Automatic multi-camera remix from single video
Duan et al. Meetor: A Human-Centered Automatic Video Editing System for Meeting Recordings
CN116886837A (en) Cloud broadcasting guiding system, broadcasting guiding switching method and device thereof and terminal equipment
JP2021129282A (en) Musical performance photographing device
CN115619901A (en) Material editing method and device, electronic equipment and storage medium
DTO et al. Deliverable D6.
TW201322004A (en) Method for playing multimedia files and electronic device

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant