KR102131105B1 - 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법 - Google Patents

개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법 Download PDF

Info

Publication number
KR102131105B1
KR102131105B1 KR1020180065396A KR20180065396A KR102131105B1 KR 102131105 B1 KR102131105 B1 KR 102131105B1 KR 1020180065396 A KR1020180065396 A KR 1020180065396A KR 20180065396 A KR20180065396 A KR 20180065396A KR 102131105 B1 KR102131105 B1 KR 102131105B1
Authority
KR
South Korea
Prior art keywords
data
pieces
video
index value
piece
Prior art date
Application number
KR1020180065396A
Other languages
English (en)
Other versions
KR20190138980A (ko
Inventor
서지학
Original Assignee
주식회사 다날엔터테인먼트
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 주식회사 다날엔터테인먼트 filed Critical 주식회사 다날엔터테인먼트
Priority to KR1020180065396A priority Critical patent/KR102131105B1/ko
Publication of KR20190138980A publication Critical patent/KR20190138980A/ko
Application granted granted Critical
Publication of KR102131105B1 publication Critical patent/KR102131105B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H1/00—Details of electrophonic musical instruments
    • G10H1/36—Accompaniment arrangements
    • G10H1/361—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems
    • G10H1/365—Recording/reproducing of accompaniment for use with an external source, e.g. karaoke systems the accompaniment information being stored on a host computer and transmitted to a reproducing terminal by means of a network, e.g. public telephone lines
    • G—PHYSICS
    • G11—INFORMATION STORAGE
    • G11B—INFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B3/00—Recording by mechanical cutting, deforming or pressing, e.g. of grooves or pits; Reproducing by mechanical sensing; Record carriers therefor
    • G11B3/02—Arrangements of heads
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2368—Multiplexing of audio and video streams
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43—Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/44—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs
    • H04N21/4402—Processing of video elementary streams, e.g. splicing a video clip retrieved from local storage with an incoming video stream or rendering scenes according to encoded video stream scene graphs involving reformatting operations of video signals for household redistribution, storage or real-time display
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10H—ELECTROPHONIC MUSICAL INSTRUMENTS; INSTRUMENTS IN WHICH THE TONES ARE GENERATED BY ELECTROMECHANICAL MEANS OR ELECTRONIC GENERATORS, OR IN WHICH THE TONES ARE SYNTHESISED FROM A DATA STORE
    • G10H2210/00—Aspects or methods of musical processing having intrinsic musical character, i.e. involving musical theory or musical parameters or relying on musical knowledge, as applied in electrophonic musical tools or instruments
    • G10H2210/005—Musical accompaniment, i.e. complete instrumental rhythm synthesis added to a performed melody, e.g. as output by drum machines

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Acoustics & Sound (AREA)
  • Reverberation, Karaoke And Other Acoustics (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Abstract

개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법이 개시된다. 본 발명은 네트워크를 통해 음원을 스트리밍 방식으로 수신하여 출력하는 노래반주기에 있어서, 최근 유행하고 있는 개인 방송 영상 제공 서비스와의 접목을 통해 사용자가 노래를 부르는 모습을 개인 방송으로 손쉽게 송출할 수 있도록 지원하기 위한 기술적 해결 방법을 제공할 수 있다.

Description

개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법{KARAOKE PLAYER FOR SUPPORTING A NETWORK-BASED KARAOKE SERVICE CAPABLE OF PERSONAL BROADCASTING AND OPERATING METHOD THEREOF}
본 발명은 네트워크를 통해 음원을 스트리밍 방식으로 수신하여 출력할 수 있는 노래반주기에 대한 기술과 관련된다.
최근, 다양한 동영상 콘텐츠 제공 서비스들이 등장하면서, 개인들이 자신만의 콘텐츠를 이용하여 개인 방송 영상을 제작해서 다양한 시청자들에게 제공하는 서비스가 각광 받고 있다.
보통, 이러한 개인 방송 서비스는 개인들이 컴퓨터나 스마트 폰 등을 이용하여 방송 서비스 서버에 접속한 후 카메라를 통해 영상을 촬영해서 실시간으로 영상 데이터를 방송 서비스 서버에 업로드하면, 방송 서비스 서버가 개인 방송 세션에 접속한 시청자들의 클라이언트 단말로 영상 데이터를 실시간 스트리밍 방식으로 전송하는 형태로 운영된다.
노래방 서비스를 제공하는 노래반주기는 사용자가 부르기를 원하는 노래를 선택하여 재생 명령을 인가하게 되면, 노래반주기 내에 저장되어 있는 노래의 음원을 스피커를 통해 출력하는 방식으로 동작한다.
하지만, 최근에는 원격지의 음원 스트리밍 서버와 네트워크로 연결되어, 사용자 선택한 노래에 대한 음원을 음원 스트리밍 서버로부터 스트리밍 방식으로 전송받아서 출력해주는 노래반주기가 등장하고 있다.
이러한 스트리밍 방식의 노래반주기는 기존의 노래반주기와 대비하여 최신 음원을 신속하게 업데이트하여 사용자에게 제공할 수 있다는 점에서 활용성이 뛰어난 장점이 있다.
따라서, 이렇게 스트리밍 방식으로 음원을 출력해주는 노래반주기에 있어서, 최근 유행하고 있는 개인 방송 영상 제공 서비스와의 접목을 통해 사용자가 노래를 부르는 모습을 개인 방송으로 송출할 수 있도록 지원하는 서비스 기술의 도입이 필요하다.
본 발명은 네트워크를 통해 음원을 스트리밍 방식으로 수신하여 출력하는 노래반주기에 있어서, 최근 유행하고 있는 개인 방송 영상 제공 서비스와의 접목을 통해 사용자가 노래를 부르는 모습을 개인 방송으로 손쉽게 송출할 수 있도록 지원하기 위한 기술적 해결 방법을 제공하고자 한다.
본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기는 사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버와 접속하여 상기 방송 서비스 서버에 대해 개인 방송 세션의 개설을 요청하는 방송 세션 개설 요청부, 상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버에 접속한 후 상기 음원 스트리밍 서버로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력하는 음원 스트리밍 출력부, 상기 노래반주기의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신하는 영상 데이터 수신부, 상기 노래반주기의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱(mixing)하여 믹싱 데이터를 생성하는 음성 데이터 수신부, 상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행하는 인코딩 수행부 및 상기 방송 서비스 서버로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 상기 방송 서비스 서버가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 영상 데이터 전송부를 포함한다.
또한, 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법은 사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버와 접속하여 상기 방송 서비스 서버에 대해 개인 방송 세션의 개설을 요청하는 단계, 상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버에 접속한 후 상기 음원 스트리밍 서버로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력하는 단계, 상기 노래반주기의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신하는 단계, 상기 노래반주기의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱하여 믹싱 데이터를 생성하는 단계, 상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행하는 단계 및 상기 방송 서비스 서버로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 상기 방송 서비스 서버가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 단계를 포함할 수 있다.
본 발명은 네트워크를 통해 음원을 스트리밍 방식으로 수신하여 출력하는 노래반주기에 있어서, 최근 유행하고 있는 개인 방송 영상 제공 서비스와의 접목을 통해 사용자가 노래를 부르는 모습을 개인 방송으로 손쉽게 송출할 수 있도록 지원하기 위한 기술적 해결 방법을 제공할 수 있다.
도 1은 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 구조를 도시한 도면이다.
도 2는 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법을 도시한 순서도이다.
이하에서는 본 발명에 따른 실시예들을 첨부된 도면을 참조하여 상세하게 설명하기로 한다. 이러한 설명은 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였으며, 다르게 정의되지 않는 한, 기술적이거나 과학적인 용어를 포함해서 본 명세서 상에서 사용되는 모든 용어들은 본 발명이 속하는 기술분야에서 통상의 지식을 가진 사람에 의해 일반적으로 이해되는 것과 동일한 의미를 가지고 있다.
도 1은 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 구조를 도시한 도면이다.
도 1을 참조하면, 본 발명에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기(110)는 방송 세션 개설 요청부(111), 음원 스트리밍 출력부(112), 영상 데이터 수신부(113), 음성 데이터 수신부(114), 인코딩 수행부(115) 및 영상 데이터 전송부(116)를 포함한다.
우선, 노래반주기(110)에는 영상 촬영 장치와 연결되어 상기 영상 촬영 장치로부터 영상 데이터를 수신할 수 있는 영상 입력 포트와 마이크로폰과 연결되어 마이크로폰으로부터 음성 데이터를 수신할 수 있는 음성 입력 포트가 탑재되어 있을 수 있다.
이때, 사용자가 노래반주기(110)의 영상 입력 포트를 통해 상기 영상 촬영 장치를 연결하고, 음성 입력 포트를 통해 마이크로폰을 연결한 후 노래반주기(110)를 통해 출력되는 노래 음원을 들으면서 상기 마이크로폰을 통해 노래를 부름과 동시에 상기 영상 촬영 장치를 통해 자신이 노래를 부르는 모습을 촬영하는 상황을 가정하기로 한다.
먼저, 방송 세션 개설 요청부(111)는 사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버(140)와 접속하여 방송 서비스 서버(140)에 대해 개인 방송 세션의 개설을 요청한다.
음원 스트리밍 출력부(112)는 상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버(130)에 접속한 후 음원 스트리밍 서버(130)로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력한다.
영상 데이터 수신부(113)는 노래반주기(110)의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신한다.
음성 데이터 수신부(114)는 노래반주기(110)의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱(mixing)하여 믹싱 데이터를 생성한다.
인코딩 수행부(115)는 상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행한다.
관련해서, 상기 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에는 잡음이나 주변 소리 등의 음향 데이터가 포함되어 있을 수 있기 때문에, 인코딩 수행부(115)는 상기 영상 데이터에서 음향 데이터를 제거한 후 마이크로폰을 통해서 수신된 상기 사용자의 음성과 음원 스트리밍 서버(130)로부터 수신된 음원이 믹싱된 상기 믹싱 데이터를 상기 영상 데이터 상에 합성하여 상기 영상 데이터에 대한 재인코딩을 수행할 수 있다.
영상 데이터 전송부(116)는 방송 서비스 서버(140)로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 방송 서비스 서버(140)가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어한다.
이때, 본 발명의 일실시예에 따르면, 영상 데이터 수신부(113)는 영상 데이터 분할 수신부(117) 및 영상 데이터 저장부(118)를 포함할 수 있고, 음성 데이터 수신부(114)는 음성 데이터 분할 수신부(119) 및 음성 데이터 저장부(120)를 포함할 수 있다.
영상 데이터 분할 수신부(117)는 상기 영상 입력 포트를 통해 입력되는 상기 영상 데이터를 선정된(predetermined) 시간 간격으로 분할하여 수신 처리한다.
그리고, 영상 데이터 저장부(118)는 상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들을 데이터의 수신 순서에 따라 영상 저장부(미도시) 상에 순차적으로 저장한다.
또한, 음성 데이터 분할 수신부(119)는 상기 음성 입력 포트를 통해 입력되는 상기 음성 데이터를 상기 선정된 시간 간격으로 분할하여 수신 처리한다.
그리고, 음성 데이터 저장부(120)는 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대응되도록 상기 제1 노래에 대한 음원 데이터를 상기 선정된 시간 간격으로 분할하여 음원 데이터 조각들을 생성한 후 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들 각각에 대해, 대응되는 음원 데이터 조각을 믹싱하여 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 생성하고, 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 따라 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 음성 저장부(미도시) 상에 순차적으로 저장한다.
관련해서, 상기 선정된 시간 간격을 '5분 간격'이라고 하는 경우, 영상 데이터 분할 수신부(117)는 상기 영상 입력 포트를 통해 입력되는 영상 데이터를 '5분 간격'으로 분할해서 수신 처리할 수 있고, 영상 데이터 저장부(118)는 '5분 간격'으로 분할 수신 처리됨에 따라 생성되는 '5분'이라는 길이를 갖는 영상 데이터 조각들을 데이터의 수신 순서에 따라 상기 영상 저장부 상에 순차적으로 저장할 수 있다.
또한, 음성 데이터 분할 수신부(119)는 상기 음성 입력 포트를 통해 입력되는 음성 데이터를 '5분 간격'으로 분할해서 수신 처리할 수 있고, 음성 데이터 저장부(120)는 '5분 간격'으로 분할 수신 처리됨에 따라 생성되는 '5분'이라는 길이를 갖는 음성 데이터 조각들에 대응되도록 상기 제1 노래에 대한 음원 데이터를 '5분 간격'으로 분할하여 음원 데이터 조각들을 생성한 후 '5분 간격'으로 분할 수신 처리되는 음성 데이터 조각들 각각에 대해, 대응되는 음원 데이터 조각을 믹싱하여 '5분 간격'으로 분할된 믹싱 데이터 조각들을 생성할 수 있다. 그러고 나서, 음성 데이터 저장부(120)는 '5분 간격'으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 따라 '5분 간격'으로 분할된 믹싱 데이터 조각들을 상기 음성 저장부 상에 순차적으로 저장할 수 있다.
이때, 인코딩 수행부(115)는 데이터 추출부(121) 및 인코딩 처리부(122)를 포함할 수 있다.
데이터 추출부(121)는 상기 영상 저장부 상에 저장되어 있는 영상 데이터 조각들과 상기 음성 저장부 상에 저장되어 있는 믹싱 데이터 조각들을 데이터의 저장 순서에 따라 순차적으로 하나씩 추출한다.
그리고, 인코딩 처리부(122)는 상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각과 각 믹싱 데이터 조각을 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행한다.
관련해서, 언급한 예시에 따라 '5분 간격'으로 영상 데이터 조각들과 믹싱 데이터 조각들이 상기 영상 저장부와 상기 음성 저장부 상에 저장된 결과, 상기 영상 저장부 상에 3개의 영상 데이터 조각들이 저장되었고, 상기 음성 저장부 상에 3개의 믹싱 데이터 조각들이 저장되었다고 하는 경우, 데이터 추출부(121)는 상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들을 하나씩 순차적으로 추출할 수 있고, 인코딩 처리부(122)는 각 영상 데이터 조각들과 각 믹싱 데이터 조각들이 하나씩 추출될 때마다, 영상 데이터 조각과 믹싱 데이터 조각을 합성하여 영상 데이터 조각에 대한 재인코딩을 수행할 수 있다.
이렇게, 데이터 추출부(121)와 인코딩 처리부(122)를 통해 영상 데이터 조각에 대한 재인코딩이 수행되는 도중에도 상기 영상 입력 포트를 통해 영상 데이터가 계속 입력될 수 있고, 상기 음성 입력 포트를 통해 음성 데이터가 계속 입력될 수 있으므로, 영상 데이터 분할 수신부(117), 영상 데이터 저장부(118), 음성 데이터 분할 수신부(119), 음성 데이터 저장부(120)는 데이터 추출부(121) 및 인코딩 처리부(122)의 동작과 동시에 '5분 간격'으로 영상 데이터 조각들과 음성 데이터 조각들을 분할 수신 처리하여 각 영상 데이터 조각들과 믹싱 데이터 조각들을 상기 영상 저장부와 상기 음성 저장부 상에 계속 저장해 둘 수 있다.
이때, 영상 데이터 전송부(116)는 인코딩 처리부(122)를 통해 영상 데이터 조각에 대한 재인코딩이 순차적으로 완료될 때마다, 재인코딩이 완료된 영상 데이터 조각을 방송 서비스 서버(140)에 순차적으로 전송함으로써, 방송 서비스 서버(140)가 순차적으로 수신되는 영상 데이터 조각을 상기 개인 방송 세션에 접속되어 있는 상기 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어할 수 있다.
이렇게, 본 발명에 따른 노래반주기(110)는 사용자에 의해 촬영되는 영상 데이터와 음성 데이터를 합성하여 방송 서비스 서버(140)로 전송할 때, 영상 데이터와 음성 데이터를 다수의 조각들로 분할한 후 각 조각들 별로 합성해서 순차적으로 방송 서비스 서버(140)로 전송함으로써, 영상 데이터에 대한 재인코딩이 수행됨에 따라 발생하는 딜레이를 최소화하여 원할한 개인 방송이 가능하도록 지원할 수 있다.
즉, 영상 데이터에 음성 데이터를 합성하는 과정에서 시간이 소요될 수 있는데, 본 발명에 따른 노래반주기(110)는 특정 시간 간격으로 영상 데이터와 음성 데이터를 조각들로 분할한 후 각 조각들 별로 재인코딩을 순차적으로 수행하여 방송 서비스 서버(140)로 전송하기 때문에 먼저 인코딩이 완료된 영상 데이터 조각들이 방송 서비스 서버(140)를 통해 방송되도록 하고, 이와 동시에 후순위의 영상 데이터 조각들의 인코딩을 계속 수행함으로써, 시청자들이 끊김없는 방송을 시청할 수 있도록 지원할 수 있게 된다.
이때, 본 발명의 일실시예에 따르면, 영상 데이터 수신부(113)는 영상 인덱스 할당부(123)를 더 포함할 수 있고, 음성 데이터 수신부(114)는 음성 인덱스 할당부(124)를 더 포함할 수 있다.
영상 인덱스 할당부(123)는 상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들에 대해 데이터의 수신 순서에 따라 데이터의 수신 순번을 지시하는 영상 인덱스 값을 순차적으로 할당한다.
음성 인덱스 할당부(124)는 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들에 대해 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 대응되도록 데이터의 순번을 지시하는 음성 인덱스 값을 순차적으로 할당한다.
예컨대, 영상 데이터 조각들과 음성 데이터 조각들이 '5분 간격'으로 수신 처리된다고 하는 경우, 영상 인덱스 할당부(123)는 영상 데이터 조각들에 대해 수신 순번을 지시하는 '1, 2, 3, ...'과 같은 영상 인덱스 값을 순차적으로 할당할 수 있고, 음성 인덱스 할당부(124)는 믹싱 데이터 조각들에 대해 음성 데이터 조각들의 수신 순번에 대응되도록 데이터의 순번을 지시하는 '1, 2, 3, ...'과 같은 음성 인덱스 값을 순차적으로 할당할 수 있다.
이때, 인코딩 처리부(122)는 상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 각 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값을 서로 비교하여 영상 인덱스 값과 음성 인덱스 값이 서로 동일한 경우에 각 영상 데이터 조각과 각 믹싱 데이터 조각을 서로 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행할 수 있다.
예컨대, 특정 시점에서 영상 데이터 조각과 믹싱 데이터 조각이 추출되어 인코딩 처리부(122)가 상기 영상 데이터 조각과 믹싱 데이터 조각을 합성하려고 할 때, 상기 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 상기 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값이 동일한 값이어야 해당 시점에서의 영상 데이터 조각과 믹싱 데이터 조각이 서로 동기가 맞는 데이터 조각들이기 때문에 인코딩 처리부(122)는 양 인덱스 값이 서로 동일한 경우에 영상 데이터 조각과 믹싱 데이터 조각을 서로 합성하여 영상 데이터 조각에 대한 재인코딩을 수행할 수 있다.
이때, 본 발명의 일실시예에 따르면, 인코딩 처리부(122)는 인덱스 선택부(125), 데이터 추가 추출부(126) 및 보정 인코딩 수행부(127)를 포함할 수 있다.
인덱스 선택부(125)는 제1 시점에서 상기 영상 저장부로부터 제1 영상 데이터 조각이 추출되었고, 상기 음성 저장부로부터 제1 믹싱 데이터 조각이 추출되어, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각의 합성을 위해 상기 제1 영상 데이터 조각에 할당되어 있는 제1 영상 인덱스 값과 상기 제1 믹싱 데이터 조각에 할당되어 있는 제1 음성 인덱스 값을 비교한 결과, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값이 서로 동일하지 않은 것으로 확인된 경우, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각 간의 합성을 중단하고, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값 중 큰 값의 인덱스 값을 선택한다.
데이터 추가 추출부(126)는 상기 제1 영상 인덱스 값이 큰 값의 인덱스 값으로 선택된 경우, 상기 음성 저장부로부터 상기 제1 음성 인덱스 값의 다음 순번에 해당되는 제2 음성 인덱스 값이 할당되어 있는 제2 믹싱 데이터 조각을 추가로 추출한다.
보정 인코딩 수행부(127)는 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값을 서로 비교하여 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값이 서로 동일한 것으로 확인되면, 상기 제1 영상 데이터 조각에 상기 제2 믹싱 데이터 조각을 합성하여 상기 제1 영상 데이터 조각에 대한 재인코딩을 수행한다.
예컨대, 영상 데이터 조각과 믹싱 데이터 조각이 '5분 간격'으로 분할 저장됨에 따라, 인코딩 수행부(115)가 각 영상 데이터 조각과 각 믹싱 데이터 조각을 순차적으로 합성하는 도중, 데이터 추출부(121)를 통해 상기 제1 시점에서 '10'이라는 영상 인덱스 값이 할당되어 있는 제1 영상 데이터 조각이 추출되었고, '9'라는 음성 인덱스 값이 할당되어 있는 제1 믹싱 데이터 조각이 추출되었다고 하는 경우, 인덱스 선택부(125)는 상기 제1 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 상기 제1 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값이 서로 일치하지 않기 대문에 양 데이터가 서로 동기가 맞지 않는 데이터로 확인하여 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각 간의 합성을 중단하고, '10'이라는 영상 인덱스 값과 '9'라는 음성 인덱스 값 중 큰 값의 인덱스 값을 선택할 수 있다.
이때, '10'이라는 영상 인덱스 값이 '9'라고 하는 음성 인덱스 값보다 크기 때문에 상기 제1 영상 데이터 조각이 속하는 시간이 상기 제1 믹싱 데이터 조각이 속하는 시간보다 뒤에 존재한다고 볼 수 있고, 이로 인해, 데이터 추가 추출부(126)는 상기 음성 저장부로부터 '9'라고 하는 음성 인덱스 값의 다음 순번에 해당되는 '10'이라는 음성 인덱스 값이 할당되어 있는 제2 믹싱 데이터 조각을 추가로 추출할 수 있다.
그러고 나서, 보정 인코딩 수행부(127)는 상기 제1 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 상기 제2 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값이 서로 동일하기 때문에 양 데이터가 서로 동기가 맞는 것으로 판단하여 상기 제1 영상 데이터 조각에 상기 제2 믹싱 데이터 조각을 합성하여 상기 제1 영상 데이터에 대한 재인코딩을 수행할 수 있다.
만약, 앞서 설명한 실시예에서 상기 제1 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값이 상기 제1 영상 데이터 조각에 할당되어 있는 영상 인덱스 값보다 큰 경우라면, 데이터 추가 추출부(126)는 상기 영상 저장부로부터 상기 제1 영상 데이터 조각에 할당되어 있는 영상 인덱스 값의 다음 인덱스 값을 갖는 제2 영상 데이터 조각을 추출할 수 있고, 보정 인코딩 수행부(127)는 상기 제2 영상 데이터 조각에 상기 제1 믹싱 데이터 조각을 합성하여 상기 제2 영상 데이터 조각에 대한 재인코딩을 수행할 수 있다.
본 발명의 일실시예에 따르면, 방송 서비스 서버(140)는 복수의 회원들에 대한 회원 정보와 상기 복수의 회원들 각각에 대해 미리 지정된 회원 등급에 대한 정보가 서로 대응되어 저장되어 있는 회원 데이터베이스를 포함하고 있을 수 있다.
예컨대, 상기 회원 등급은 무료 회원의 경우 '1등급', 유료 회원의 경우 가입 금액과 기간에 따라 '2등급', '3등급' 등의 순으로 중요 회원일수록 높은 등급이 지정되도록 설정되어 있을 수 있다.
이때, 방송 서비스 서버(140)는 노래반주기(110)로부터 영상 데이터 조각들이 순차적으로 수신되면, 상기 회원 데이터베이스를 참조하여 상기 적어도 하나의 시청자 각각에 지정되어 있는 회원 등급을 확인하여 회원 등급이 기준 등급을 초과하는 시청자의 클라이언트 단말에 대해서는 노래반주기(110)로부터 수신되는 모든 영상 데이터 조각들을 스트리밍 방식으로 전송하고, 회원 등급이 상기 기준 등급 이하로 확인되는 시청자의 클라이언트 단말에 대해서는 노래반주기(110)로부터 수신되는 영상 데이터 조각들 중 일부의 영상 데이터 조각들만을 랜덤하게 선별하여 스트리밍 방식으로 전송할 수 있다.
예컨대, 상기 기준 등급이 유료 회원, 무료 회원을 나누는 기준 등급인 '1등급'이라고 한다면, 방송 서비스 서버(140)는 '1등급'을 초과하는 회원 등급(즉, 유료 회원)을 갖는 시청자의 클라이언트 단말에 대해 모든 영상 데이터 조각들을 전송함으로써, 해당 시청자들이 모든 방송 영상을 볼 수 있도록 처리할 수 있고, '1등급'이하의 회원 등급(즉, 무료 회원)을 갖는 시청자의 클라이언트 단말에 대해 일부 영상 데이터 조각들만을 랜덤하게 선별하여 전송함으로써, 무료 회원들이 유료 회원으로 전환하도록 유도할 수 있다.
도 2는 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법을 도시한 순서도이다.
단계(S210)에서는 사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버와 접속하여 상기 방송 서비스 서버에 대해 개인 방송 세션의 개설을 요청한다.
단계(S220)에서는 상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버에 접속한 후 상기 음원 스트리밍 서버로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력한다.
단계(S230)에서는 상기 노래반주기의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신한다.
단계(S240)에서는 상기 노래반주기의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱하여 믹싱 데이터를 생성한다.
단계(S250)에서는 상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행한다.
단계(S260)에서는 상기 방송 서비스 서버로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 상기 방송 서비스 서버가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어한다.
이때, 본 발명의 일실시예에 따르면, 단계(S230)에서는 상기 영상 입력 포트를 통해 입력되는 상기 영상 데이터를 선정된 시간 간격으로 분할하여 수신 처리하는 단계 및 상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들을 데이터의 수신 순서에 따라 영상 저장부 상에 순차적으로 저장하는 단계를 포함할 수 있고, 단계(S240)에서는 상기 음성 입력 포트를 통해 입력되는 상기 음성 데이터를 상기 선정된 시간 간격으로 분할하여 수신 처리하는 단계 및 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대응되도록 상기 제1 노래에 대한 음원 데이터를 상기 선정된 시간 간격으로 분할하여 음원 데이터 조각들을 생성한 후 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들 각각에 대해, 대응되는 음원 데이터 조각을 믹싱하여 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 생성하고, 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 따라 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 음성 저장부 상에 순차적으로 저장하는 단계를 포함할 수 있으며, 단계(S250)에서는 상기 영상 저장부 상에 저장되어 있는 영상 데이터 조각들과 상기 음성 저장부 상에 저장되어 있는 믹싱 데이터 조각들을 데이터의 저장 순서에 따라 순차적으로 하나씩 추출하는 단계 및 상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각과 각 믹싱 데이터 조각을 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행하는 단계를 포함할 수 있다.
이때, 단계(S260)에서는 영상 데이터 조각에 대한 재인코딩이 순차적으로 완료될 때마다, 재인코딩이 완료된 영상 데이터 조각을 상기 방송 서비스 서버에 순차적으로 전송함으로써, 상기 방송 서비스 서버가 순차적으로 수신되는 영상 데이터 조각을 상기 개인 방송 세션에 접속되어 있는 상기 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어할 수 있다.
이때, 본 발명의 일실시예에 따르면, 단계(S230)에서는 상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들에 대해 데이터의 수신 순서에 따라 데이터의 수신 순번을 지시하는 영상 인덱스 값을 순차적으로 할당하는 단계를 더 포함할 수 있고, 단계(S240)에서는 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들에 대해 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 대응되도록 데이터의 순번을 지시하는 음성 인덱스 값을 순차적으로 할당하는 단계를 더 포함할 수 있다.
이때, 단계(S250)에서는 상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 각 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값을 서로 비교하여 영상 인덱스 값과 음성 인덱스 값이 서로 동일한 경우에 각 영상 데이터 조각과 각 믹싱 데이터 조각을 서로 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행할 수 있다.
이때, 본 발명의 일실시예에 따르면, 상기 재인코딩을 순차적으로 수행하는 단계는 제1 시점에서 상기 영상 저장부로부터 제1 영상 데이터 조각이 추출되었고, 상기 음성 저장부로부터 제1 믹싱 데이터 조각이 추출되어, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각의 합성을 위해 상기 제1 영상 데이터 조각에 할당되어 있는 제1 영상 인덱스 값과 상기 제1 믹싱 데이터 조각에 할당되어 있는 제1 음성 인덱스 값을 비교한 결과, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값이 서로 동일하지 않은 것으로 확인된 경우, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각 간의 합성을 중단하고, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값 중 큰 값의 인덱스 값을 선택하는 단계, 상기 제1 영상 인덱스 값이 큰 값의 인덱스 값으로 선택된 경우, 상기 음성 저장부로부터 상기 제1 음성 인덱스 값의 다음 순번에 해당되는 제2 음성 인덱스 값이 할당되어 있는 제2 믹싱 데이터 조각을 추가로 추출하는 단계 및 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값을 서로 비교하여 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값이 서로 동일한 것으로 확인되면, 상기 제1 영상 데이터 조각에 상기 제2 믹싱 데이터 조각을 합성하여 상기 제1 영상 데이터 조각에 대한 재인코딩을 수행하는 단계를 포함할 수 있다.
또한, 본 발명의 일실시예에 따르면, 상기 방송 서비스 서버는 복수의 회원들에 대한 회원 정보와 상기 복수의 회원들 각각에 대해 미리 지정된 회원 등급에 대한 정보가 서로 대응되어 저장되어 있는 회원 데이터베이스를 포함하고 있을 수 있다.
이때, 상기 방송 서비스 서버는 상기 노래반주기로부터 영상 데이터 조각들이 순차적으로 수신되면, 상기 회원 데이터베이스를 참조하여 상기 적어도 하나의 시청자 각각에 지정되어 있는 회원 등급을 확인하여 회원 등급이 기준 등급을 초과하는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 모든 영상 데이터 조각들을 스트리밍 방식으로 전송하고, 회원 등급이 상기 기준 등급 이하로 확인되는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 영상 데이터 조각들 중 일부의 영상 데이터 조각들만을 랜덤하게 선별하여 스트리밍 방식으로 전송할 수 있다.
이상, 도 2를 참조하여 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법에 대해 설명하였다. 여기서, 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법은 도 1을 이용하여 설명한 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기(110)의 동작에 대한 구성과 대응될 수 있으므로, 이에 대한 보다 상세한 설명은 생략하기로 한다.
본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법은 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램으로 구현될 수 있다.
또한, 본 발명의 일실시예에 따른 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능 매체는 프로그램 명령, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 매체에 기록되는 프로그램 명령은 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능 기록 매체의 예에는 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체(magnetic media), CD-ROM, DVD와 같은 광기록 매체(optical media), 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 롬(ROM), 램(RAM), 플래시 메모리 등과 같은 프로그램 명령을 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령의 예에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함한다.
이상과 같이 본 발명에서는 구체적인 구성 요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명은 상기의 실시예에 한정되는 것은 아니며, 본 발명이 속하는 분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형이 가능하다.
따라서, 본 발명의 사상은 설명된 실시예에 국한되어 정해져서는 아니되며, 후술하는 특허청구범위뿐 아니라 이 특허청구범위와 균등하거나 등가적 변형이 있는 모든 것들은 본 발명 사상의 범주에 속한다고 할 것이다.
110: 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기
111: 방송 세션 개설 요청부 112: 음원 스트리밍 출력부
113: 영상 데이터 수신부 114: 음성 데이터 수신부
115: 인코딩 수행부 116: 영상 데이터 전송부
117: 영상 데이터 분할 수신부 118: 영상 데이터 저장부
119: 음성 데이터 분할 수신부 120: 음성 데이터 저장부
121: 데이터 추출부 122: 인코딩 처리부
123: 영상 인덱스 할당부 124: 음성 인덱스 할당부
125: 인덱스 선택부 126: 데이터 추가 추출부
127: 보정 인코딩 수행부
130: 음원 스트리밍 서버
140: 방송 서비스 서버

Claims (12)

  1. 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기에 있어서,
    사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버와 접속하여 상기 방송 서비스 서버에 대해 개인 방송 세션의 개설을 요청하는 방송 세션 개설 요청부;
    상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버에 접속한 후 상기 음원 스트리밍 서버로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력하는 음원 스트리밍 출력부;
    상기 노래반주기의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신하는 영상 데이터 수신부;
    상기 노래반주기의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱(mixing)하여 믹싱 데이터를 생성하는 음성 데이터 수신부;
    상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행하는 인코딩 수행부; 및
    상기 방송 서비스 서버로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 상기 방송 서비스 서버가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 영상 데이터 전송부
    를 포함하고,
    상기 영상 데이터 수신부는
    상기 영상 입력 포트를 통해 입력되는 상기 영상 데이터를 선정된(predetermined) 시간 간격으로 분할하여 수신 처리하는 영상 데이터 분할 수신부; 및
    상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들을 데이터의 수신 순서에 따라 영상 저장부 상에 순차적으로 저장하는 영상 데이터 저장부
    를 포함하고,
    상기 음성 데이터 수신부는
    상기 음성 입력 포트를 통해 입력되는 상기 음성 데이터를 상기 선정된 시간 간격으로 분할하여 수신 처리하는 음성 데이터 분할 수신부; 및
    상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대응되도록 상기 제1 노래에 대한 음원 데이터를 상기 선정된 시간 간격으로 분할하여 음원 데이터 조각들을 생성한 후 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들 각각에 대해, 대응되는 음원 데이터 조각을 믹싱하여 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 생성하고, 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 따라 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 음성 저장부 상에 순차적으로 저장하는 음성 데이터 저장부
    를 포함하며,
    상기 인코딩 수행부는
    상기 영상 저장부 상에 저장되어 있는 영상 데이터 조각들과 상기 음성 저장부 상에 저장되어 있는 믹싱 데이터 조각들을 데이터의 저장 순서에 따라 순차적으로 하나씩 추출하는 데이터 추출부; 및
    상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각과 각 믹싱 데이터 조각을 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행하는 인코딩 처리부
    를 포함하고,
    상기 영상 데이터 전송부는
    영상 데이터 조각에 대한 재인코딩이 순차적으로 완료될 때마다, 재인코딩이 완료된 영상 데이터 조각을 상기 방송 서비스 서버에 순차적으로 전송함으로써, 상기 방송 서비스 서버가 순차적으로 수신되는 영상 데이터 조각을 상기 개인 방송 세션에 접속되어 있는 상기 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기.
  2. 삭제
  3. 제1항에 있어서.
    상기 영상 데이터 수신부는
    상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들에 대해 데이터의 수신 순서에 따라 데이터의 수신 순번을 지시하는 영상 인덱스 값을 순차적으로 할당하는 영상 인덱스 할당부
    를 더 포함하고,
    상기 음성 데이터 수신부는
    상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들에 대해 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 대응되도록 데이터의 순번을 지시하는 음성 인덱스 값을 순차적으로 할당하는 음성 인덱스 할당부
    를 더 포함하며,
    상기 인코딩 처리부는
    상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 각 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값을 서로 비교하여 영상 인덱스 값과 음성 인덱스 값이 서로 동일한 경우에 각 영상 데이터 조각과 각 믹싱 데이터 조각을 서로 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기.
  4. 제3항에 있어서.
    상기 인코딩 처리부는
    제1 시점에서 상기 영상 저장부로부터 제1 영상 데이터 조각이 추출되었고, 상기 음성 저장부로부터 제1 믹싱 데이터 조각이 추출되어, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각의 합성을 위해 상기 제1 영상 데이터 조각에 할당되어 있는 제1 영상 인덱스 값과 상기 제1 믹싱 데이터 조각에 할당되어 있는 제1 음성 인덱스 값을 비교한 결과, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값이 서로 동일하지 않은 것으로 확인된 경우, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각 간의 합성을 중단하고, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값 중 큰 값의 인덱스 값을 선택하는 인덱스 선택부;
    상기 제1 영상 인덱스 값이 큰 값의 인덱스 값으로 선택된 경우, 상기 음성 저장부로부터 상기 제1 음성 인덱스 값의 다음 순번에 해당되는 제2 음성 인덱스 값이 할당되어 있는 제2 믹싱 데이터 조각을 추가로 추출하는 데이터 추가 추출부; 및
    상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값을 서로 비교하여 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값이 서로 동일한 것으로 확인되면, 상기 제1 영상 데이터 조각에 상기 제2 믹싱 데이터 조각을 합성하여 상기 제1 영상 데이터 조각에 대한 재인코딩을 수행하는 보정 인코딩 수행부
    를 포함하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기.
  5. 제1항에 있어서.
    상기 방송 서비스 서버는
    복수의 회원들에 대한 회원 정보와 상기 복수의 회원들 각각에 대해 미리 지정된 회원 등급에 대한 정보가 서로 대응되어 저장되어 있는 회원 데이터베이스를 포함하고 있고,
    상기 노래반주기로부터 영상 데이터 조각들이 순차적으로 수신되면, 상기 회원 데이터베이스를 참조하여 상기 적어도 하나의 시청자 각각에 지정되어 있는 회원 등급을 확인하여 회원 등급이 기준 등급을 초과하는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 모든 영상 데이터 조각들을 스트리밍 방식으로 전송하고, 회원 등급이 상기 기준 등급 이하로 확인되는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 영상 데이터 조각들 중 일부의 영상 데이터 조각들만을 랜덤하게 선별하여 스트리밍 방식으로 전송하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기.
  6. 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법에 있어서,
    사용자에 의해 개인 방송의 시작을 지시하는 방송 시작 명령이 인가되면, 복수의 시청자들의 클라이언트 단말들에 개인 방송 영상을 스트리밍 방식으로 전송하는 방송 서비스 서버와 접속하여 상기 방송 서비스 서버에 대해 개인 방송 세션의 개설을 요청하는 단계;
    상기 사용자에 의해 제1 노래가 선택되어 상기 제1 노래에 대한 반주 지시 명령이 인가되면, 음원 스트리밍 서버에 접속한 후 상기 음원 스트리밍 서버로부터 상기 제1 노래에 대한 음원 데이터를 스트리밍 방식으로 수신하여 스피커를 통해 출력하는 단계;
    상기 노래반주기의 영상 입력 포트에 연결된 영상 촬영 장치를 통해 촬영되는 상기 사용자의 방송 영상에 대한 영상 데이터를 수신하는 단계;
    상기 노래반주기의 음성 입력 포트에 연결된 마이크로폰을 통해 입력되는 상기 사용자의 음성에 대한 음성 데이터를 수신하고, 상기 음성 데이터와 상기 제1 노래에 대한 음원 데이터를 믹싱(mixing)하여 믹싱 데이터를 생성하는 단계;
    상기 영상 데이터로부터 상기 영상 데이터 상에 포함되어 있는 음향 데이터를 제거한 후 음향 데이터가 제거된 상기 영상 데이터 상에 상기 믹싱 데이터를 합성하여 상기 영상 데이터에 대한 재인코딩을 수행하는 단계; 및
    상기 방송 서비스 서버로 상기 재인코딩이 완료된 상기 영상 데이터를 전송함으로써, 상기 방송 서비스 서버가 상기 영상 데이터를 상기 개인 방송 세션에 접속되어 있는 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 단계
    를 포함하고,
    상기 영상 데이터를 수신하는 단계는
    상기 영상 입력 포트를 통해 입력되는 상기 영상 데이터를 선정된(predetermined) 시간 간격으로 분할하여 수신 처리하는 단계; 및
    상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들을 데이터의 수신 순서에 따라 영상 저장부 상에 순차적으로 저장하는 단계
    를 포함하고,
    상기 믹싱 데이터를 생성하는 단계는
    상기 음성 입력 포트를 통해 입력되는 상기 음성 데이터를 상기 선정된 시간 간격으로 분할하여 수신 처리하는 단계; 및
    상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대응되도록 상기 제1 노래에 대한 음원 데이터를 상기 선정된 시간 간격으로 분할하여 음원 데이터 조각들을 생성한 후 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들 각각에 대해, 대응되는 음원 데이터 조각을 믹싱하여 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 생성하고, 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 따라 상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들을 음성 저장부 상에 순차적으로 저장하는 단계
    를 포함하며,
    상기 재인코딩을 수행하는 단계는
    상기 영상 저장부 상에 저장되어 있는 영상 데이터 조각들과 상기 음성 저장부 상에 저장되어 있는 믹싱 데이터 조각들을 데이터의 저장 순서에 따라 순차적으로 하나씩 추출하는 단계; 및
    상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각과 각 믹싱 데이터 조각을 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행하는 단계
    를 포함하고,
    상기 전송하도록 제어하는 단계는
    영상 데이터 조각에 대한 재인코딩이 순차적으로 완료될 때마다, 재인코딩이 완료된 영상 데이터 조각을 상기 방송 서비스 서버에 순차적으로 전송함으로써, 상기 방송 서비스 서버가 순차적으로 수신되는 영상 데이터 조각을 상기 개인 방송 세션에 접속되어 있는 상기 적어도 하나의 시청자의 클라이언트 단말에 스트리밍 방식으로 전송하도록 제어하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법.
  7. 삭제
  8. 제6항에 있어서.
    상기 영상 데이터를 수신하는 단계는
    상기 선정된 시간 간격으로 분할 수신 처리되는 영상 데이터 조각들에 대해 데이터의 수신 순서에 따라 데이터의 수신 순번을 지시하는 영상 인덱스 값을 순차적으로 할당하는 단계
    를 더 포함하고,
    상기 믹싱 데이터를 생성하는 단계는
    상기 선정된 시간 간격으로 분할된 믹싱 데이터 조각들에 대해 상기 선정된 시간 간격으로 분할 수신 처리되는 음성 데이터 조각들에 대한 데이터의 수신 순서에 대응되도록 데이터의 순번을 지시하는 음성 인덱스 값을 순차적으로 할당하는 단계
    를 더 포함하며,
    상기 재인코딩을 순차적으로 수행하는 단계는
    상기 영상 저장부와 상기 음성 저장부로부터 영상 데이터 조각들과 믹싱 데이터 조각들이 순차적으로 하나씩 추출될 때마다, 각 영상 데이터 조각으로부터 각 영상 데이터 조각 상에 포함되어 있는 음향 데이터를 제거한 후 각 영상 데이터 조각에 할당되어 있는 영상 인덱스 값과 각 믹싱 데이터 조각에 할당되어 있는 음성 인덱스 값을 서로 비교하여 영상 인덱스 값과 음성 인덱스 값이 서로 동일한 경우에 각 영상 데이터 조각과 각 믹싱 데이터 조각을 서로 합성하여 영상 데이터 조각에 대한 재인코딩을 순차적으로 수행하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법.
  9. 제8항에 있어서.
    상기 재인코딩을 순차적으로 수행하는 단계는
    제1 시점에서 상기 영상 저장부로부터 제1 영상 데이터 조각이 추출되었고, 상기 음성 저장부로부터 제1 믹싱 데이터 조각이 추출되어, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각의 합성을 위해 상기 제1 영상 데이터 조각에 할당되어 있는 제1 영상 인덱스 값과 상기 제1 믹싱 데이터 조각에 할당되어 있는 제1 음성 인덱스 값을 비교한 결과, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값이 서로 동일하지 않은 것으로 확인된 경우, 상기 제1 영상 데이터 조각과 상기 제1 믹싱 데이터 조각 간의 합성을 중단하고, 상기 제1 영상 인덱스 값과 상기 제1 음성 인덱스 값 중 큰 값의 인덱스 값을 선택하는 단계;
    상기 제1 영상 인덱스 값이 큰 값의 인덱스 값으로 선택된 경우, 상기 음성 저장부로부터 상기 제1 음성 인덱스 값의 다음 순번에 해당되는 제2 음성 인덱스 값이 할당되어 있는 제2 믹싱 데이터 조각을 추가로 추출하는 단계; 및
    상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값을 서로 비교하여 상기 제1 영상 인덱스 값과 상기 제2 음성 인덱스 값이 서로 동일한 것으로 확인되면, 상기 제1 영상 데이터 조각에 상기 제2 믹싱 데이터 조각을 합성하여 상기 제1 영상 데이터 조각에 대한 재인코딩을 수행하는 단계
    를 포함하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법.
  10. 제6항에 있어서.
    상기 방송 서비스 서버는
    복수의 회원들에 대한 회원 정보와 상기 복수의 회원들 각각에 대해 미리 지정된 회원 등급에 대한 정보가 서로 대응되어 저장되어 있는 회원 데이터베이스를 포함하고 있고,
    상기 노래반주기로부터 영상 데이터 조각들이 순차적으로 수신되면, 상기 회원 데이터베이스를 참조하여 상기 적어도 하나의 시청자 각각에 지정되어 있는 회원 등급을 확인하여 회원 등급이 기준 등급을 초과하는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 모든 영상 데이터 조각들을 스트리밍 방식으로 전송하고, 회원 등급이 상기 기준 등급 이하로 확인되는 시청자의 클라이언트 단말에 대해서는 상기 노래반주기로부터 수신되는 영상 데이터 조각들 중 일부의 영상 데이터 조각들만을 랜덤하게 선별하여 스트리밍 방식으로 전송하는 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기의 동작 방법.
  11. 제6항, 제8항, 제9항 또는 제10항 중 어느 한 항의 방법을 수행하는 프로그램을 기록한 컴퓨터 판독 가능 기록 매체.
  12. 제6항, 제8항, 제9항 또는 제10항 중 어느 한 항의 방법을 컴퓨터와의 결합을 통해 실행시키기 위한 저장매체에 저장된 컴퓨터 프로그램.
KR1020180065396A 2018-06-07 2018-06-07 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법 KR102131105B1 (ko)

Priority Applications (1)

Application Number Priority Date Filing Date Title
KR1020180065396A KR102131105B1 (ko) 2018-06-07 2018-06-07 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020180065396A KR102131105B1 (ko) 2018-06-07 2018-06-07 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법

Publications (2)

Publication Number Publication Date
KR20190138980A KR20190138980A (ko) 2019-12-17
KR102131105B1 true KR102131105B1 (ko) 2020-07-07

Family

ID=69056802

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020180065396A KR102131105B1 (ko) 2018-06-07 2018-06-07 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법

Country Status (1)

Country Link
KR (1) KR102131105B1 (ko)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102524871B1 (ko) * 2020-06-25 2023-04-26 최인욱 휴대 단말기를 이용한 실시간 미디 기반 음악 방송의 서비스 방법 및 미디 기반의 음악 방송을 실시간 전송하는 휴대 단말기

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014150383A (ja) * 2013-01-31 2014-08-21 Daiichikosho Co Ltd 歌唱音声データ生成装置、及び、歌唱動画データ生成装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101924205B1 (ko) * 2016-07-14 2018-12-10 정문성 노래방 시스템 및 그의 관리 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014150383A (ja) * 2013-01-31 2014-08-21 Daiichikosho Co Ltd 歌唱音声データ生成装置、及び、歌唱動画データ生成装置

Also Published As

Publication number Publication date
KR20190138980A (ko) 2019-12-17

Similar Documents

Publication Publication Date Title
US20240213345A1 (en) Realtime wireless synchronization of live event audio stream with a video recording
CN110910860B (zh) 线上ktv实现方法、装置、电子设备及存储介质
CN107027050B (zh) 辅助直播的音视频处理方法及装置
CN101764994B (zh) 基于因特网协议电视网络的远程卡拉ok实现方法及系统
CN111818004B (zh) 云游戏直播方法、系统及计算机可读存储介质
US9066144B2 (en) Interactive remote participation in live entertainment
US20090147961A1 (en) Object-based 3-dimensional audio service system using preset audio scenes
EP2022263A1 (en) Object-based 3-dimensional audio service system using preset audio scenes
CN110047497B (zh) 背景音频信号滤除方法、装置及存储介质
CN103915086A (zh) 信息处理的方法、装置和系统
KR102131106B1 (ko) 이차원 코드를 기반으로 방송 서비스 서버와 접속하여 개인 방송을 가능하게 하는 노래반주기 및 그 동작 방법
CN106792244A (zh) 视频直播方法及装置
KR102131105B1 (ko) 개인 방송이 가능한 네트워크 기반의 노래방 서비스를 지원하는 노래반주기 및 그 동작 방법
CN111052231A (zh) 信息处理设备和信息处理方法
JP2022020625A (ja) 音声処理システム、音声処理装置、音声処理方法、及び音声処理プログラム
US20160156974A1 (en) Method and system for authorizing a user device
KR102523813B1 (ko) 영상에 대한 키워드 기반 검색을 가능하게 하는 영상 스트리밍 서비스 서버 및 그 동작 방법
JP2002314960A (ja) マルチビュー放送サービスシステム及び、それに関する、装置または方法または記録媒体またはプログラム
JP6733990B2 (ja) 解説音声再生装置、解説音声生成装置及び解説音声再生プログラム
CN113096674B (zh) 一种音频处理方法、装置及电子设备
JP2019053667A (ja) プラン作成装置、プラン作成方法及びプラン作成プログラム
JP7068955B2 (ja) カラオケシステム
KR102524871B1 (ko) 휴대 단말기를 이용한 실시간 미디 기반 음악 방송의 서비스 방법 및 미디 기반의 음악 방송을 실시간 전송하는 휴대 단말기
JP7520661B2 (ja) サーバ装置
JP4791906B2 (ja) コンテンツ管理サーバ、コンテンツ提示装置、コンテンツ管理プログラム、及びコンテンツ提示プログラム

Legal Events

Date Code Title Description
A201 Request for examination
E902 Notification of reason for refusal
E701 Decision to grant or registration of patent right
GRNT Written decision to grant