JP4219234B2 - Karaoke system, music performance communication device, and performance synchronization method - Google Patents

Karaoke system, music performance communication device, and performance synchronization method Download PDF

Info

Publication number
JP4219234B2
JP4219234B2 JP2003304611A JP2003304611A JP4219234B2 JP 4219234 B2 JP4219234 B2 JP 4219234B2 JP 2003304611 A JP2003304611 A JP 2003304611A JP 2003304611 A JP2003304611 A JP 2003304611A JP 4219234 B2 JP4219234 B2 JP 4219234B2
Authority
JP
Japan
Prior art keywords
performance
synchronization signal
communication device
music
music performance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003304611A
Other languages
Japanese (ja)
Other versions
JP2005077485A (en
Inventor
雄一 安友
保弘 船橋
一幸 首藤
智也 園田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Brother Industries Ltd
Xing Inc
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
Brother Industries Ltd
Xing Inc
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Brother Industries Ltd, Xing Inc, National Institute of Advanced Industrial Science and Technology AIST filed Critical Brother Industries Ltd
Priority to JP2003304611A priority Critical patent/JP4219234B2/en
Publication of JP2005077485A publication Critical patent/JP2005077485A/en
Application granted granted Critical
Publication of JP4219234B2 publication Critical patent/JP4219234B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Description

この発明は、多拠点におけるデュエット・合唱カラオケ制御方式に関し、更に詳しくは多拠点の遠隔地の利用者同士で、双方の空間の映像・音響信号を共有できる多拠点に於けるデュエット・合唱カラオケ制御方式に関する。   The present invention relates to a duet / choral karaoke control system in multiple locations, and more specifically, duet / choral karaoke control in multiple locations where users at remote locations in multiple locations can share video / audio signals of both spaces. Regarding the method.

遠隔地のカラオケ利用者同士が互いの歌、映像等をネットワークを介してやりとりしたい要望がある。   There is a desire for remote karaoke users to exchange each other's songs, videos, etc. over a network.

これらの要望に対し、既にカラオケ等のコンテンツを情報端末管理サーバからネットワークを介して多数の情報端末に提供する映像・音声配信サービスの送受信システムが提案されている。   In response to these demands, a video / audio distribution service transmission / reception system has already been proposed in which content such as karaoke is provided from an information terminal management server to a large number of information terminals via a network.

その例としては、
特開2002−366169が挙げられる。
For example,
JP-A-2002-366169 is exemplified.

しかし、多拠点の遠隔地の利用者同士でカラオケのデュエットや合唱をすることが難しく、遠隔地の利用者同士で、双方の空間の映像・音響信号を共有できないため、従来のインターネット電話(IP)等の手法では、多数の拠点で映像・音響信号を相互に通信し合うことは難しかった。他方、多数の拠点で映像・音響信号の共有ができるIPマルチキャストの技術では、特定の相手を検索することは難しかった。このため、カラオケのデュエット・合唱等を実現することが困難であった。   However, it is difficult to perform duet and choral karaoke among users at remote locations in many locations, and remote users cannot share video / audio signals of both spaces. ) Etc., it was difficult to communicate video / audio signals with each other at many sites. On the other hand, it has been difficult to search for a specific partner using the IP multicast technology that allows video and audio signals to be shared at many sites. For this reason, it has been difficult to realize karaoke duets and choral music.

従来は、遠隔地の利用者の楽曲演奏を用いて他の利用者が歌う場合、他の利用者側のマイクロフォンにより取得された音が再度楽曲演奏側の利用者に届く際に、通信網の遅延によって楽曲演奏側の利用者では、本来の演奏の音と、遠隔地の演奏とが重なり、聞き辛いものになっている。   Conventionally, when another user sings using the music performance of a user at a remote location, when the sound acquired by the microphone on the other user side reaches the user on the music performance side again, Due to the delay, it is difficult for the user on the music performance side to hear the sound of the original performance and the performance of the remote place, and it is difficult to hear.

この発明は、前述の課題を解決するものであり、請求項1に記載の発明は、テロップ情報を含むカラオケデータを記憶する記憶手段と、前記カラオケデータを用いて演奏を行う演奏手段と、前記カラオケデータからテロップ情報を取り出しテロップを表示させるテロップ表示手段と、前記演奏手段を制御し演奏を進行させると共に、当該演奏の進行に合わせて前記テロップ表示手段を制御し前記テロップの色変えを行わせる演奏進行制御手段と、通信網に接続するための通信手段と、を備えた複数の音楽演奏通信装置を前記通信手段により前記通信網に接続し、夫々の前記音楽演奏通信装置が前記通信網を介して互いに通信するようにしたカラオケシステムであって、一の前記音楽演奏通信装置は、前記カラオケデータの演奏中であるか否かを判断する第1演奏監視手段と、前記演奏中である場合において、他の前記音楽演奏通信装置の演奏と同期を取るための同期信号を発生させる同期信号発生手段と、前記通信網を介して前記他の音楽演奏通信装置に前記発生された同期信号を送信する同期信号送信手段と、を更に備え、前記同期信号発生手段は、前記テロップの色変えが終了した時刻に前記同期信号を発生させ、前記同期信号送信手段は前記通信網を介して、前記他の音楽演奏通信装置に当該発生された同期信号を送信し、前記他の音楽演奏通信装置は、前記一の音楽演奏通信装置から送信された前記同期信号を受信する同期信号受信手段と、前記同期信号が受信された場合には、現在の演奏位置を抽出する第2演奏監視手段と、を更に備え、当該他の音楽演奏通信装置の演奏進行制御手段は、前記同期信号に基づいて前記抽出された現在の演奏位置を同期位置に合わせることを特徴としている。   This invention solves the above-mentioned subject, and the invention according to claim 1 is a storage means for storing karaoke data including telop information, a performance means for performing performance using the karaoke data, and The telop display means for extracting telop information from karaoke data and displaying the telop, and the performance means are controlled to advance the performance, and the telop display means is controlled to change the color of the telop according to the progress of the performance. A plurality of music performance communication devices comprising performance progression control means and communication means for connecting to a communication network are connected to the communication network by the communication means, and each of the music performance communication devices connects the communication network. Whether or not the music performance communication device is performing the karaoke data. A first performance monitoring means for judging, a synchronization signal generating means for generating a synchronization signal for synchronizing with the performance of the other music performance communication device when the performance is being performed, and the communication network via the communication network Synchronization signal transmitting means for transmitting the generated synchronization signal to another music performance communication device, and the synchronization signal generating means generates the synchronization signal at the time when the color change of the telop is completed, The synchronization signal transmitting means transmits the generated synchronization signal to the other music performance communication device via the communication network, and the other music performance communication device is transmitted from the one music performance communication device. Synchronization signal receiving means for receiving the synchronization signal, and second performance monitoring means for extracting the current performance position when the synchronization signal is received, further comprising: Performance Progression control means is characterized in that to match the extracted current performance position on the basis of the synchronization signal to the synchronization position.

前述の通り、請求項1に記載の発明によれば、一の音楽演奏通信装置がテロップの色変えが終了した時刻に同期信号を発生させ、他の音楽演奏通信装置が前記発生された同期信号に基づいて現在の演奏位置を同期位置に合わせるように構成したので、テロップ色代わり終了時刻、つまり利用者が歌唱中でない時刻に演奏を同期させることができ、違和感のないデュエットや合唱が可能となるという効果がある。   As described above, according to the first aspect of the present invention, one music performance communication device generates a synchronization signal at a time when the color change of the telop is completed, and another music performance communication device generates the synchronization signal. Since the current performance position is configured to match the synchronization position based on the tune, it is possible to synchronize the performance at the end time instead of the telop color, that is, the time when the user is not singing, and it is possible to perform duet and chorus without a sense of incongruity There is an effect of becoming.

また、上記本発明によれば、通信網上でデュエットや合唱相手を相互に登録・検索するために映像・音響信号とは別に、各利用者は特徴情報信号を音楽演奏通信装置から送出し、相互にその信号を受信し、自分が希望するデュエット相手、合唱相手を見つけることができる通信手段を有するため、利用者はデュエット相手、合唱相手を探すための特別な操作を必要とせず、更に、相手がすでに歌いはじめている場合でも、歌の途中から他の遠隔地の利用者をある条件に従って検索し、参加することが可能となるという効果もある。   In addition, according to the present invention, each user sends a feature information signal from the music performance communication device separately from the video / audio signal in order to mutually register and search duets and choral partners on the communication network, Because it has a communication means that can receive the signal to each other and find the duet partner and choral partner that you want, the user does not need special operation to search for the duet partner, choral partner, Even when the other party has already started singing, it is possible to search for users from other remote locations in the middle of the song according to certain conditions and participate.

この発明は、遠隔地で多拠点におけるデュエット・合唱カラオケを可能にするため、通信網に複数の音楽演奏通信装置と、情報管理サーバとを通信網に接続し、遠隔地の複数の利用者が同時に演奏・歌唱に参加することができるカラオケ制御方式であり、例えば、本発明を用いてカラオケボックス等の歌唱のための個別の空間を接続し、従来は同じボックス内の利用者でしか楽しめなかったデュエットや合唱を、他のカラオケボックスや海外の拠点にいる歌唱者との間で楽しむことができる。   In order to enable duet and choral karaoke at multiple locations in a remote location, the present invention connects a plurality of music performance communication devices and an information management server to a communication network, and allows multiple users at remote locations to It is a karaoke control system that can participate in performance and singing at the same time. For example, by using the present invention, a separate space for singing such as a karaoke box is connected, and conventionally it can only be enjoyed by users in the same box. You can enjoy a duet or chorus with other karaoke boxes or singers at overseas bases.

実施例に係るカラオケ制御方式は、図1に示す様に、この発明の主目的である遠隔地で他拠点におけるデュエット・合唱カラオケを可能にするため、マルチキャスト及びユニキャストブリッジ技術を使用したIPマルチキャスト環境の双方向ブロードバンド方式無線・有線の通信網(インターネット、ローカルエリアネットワーク、LAN)10に、情報管理サーバ12を接続し、該通信網10に個人宅・店舗、スタジオ、オフィス等の複数利用者の音楽演奏通信装置14をブロードバンド回線16等を介して接続する。また、カメラ・マイクロフォン、スピーカ、ディスプレイ等を内蔵する利用者(ユーザ)の携帯電話、PDA端末等は、基地局を介して該通信網10に接続される。   The karaoke control system according to the embodiment, as shown in FIG. 1, is an IP multicast using multicast and unicast bridge technology in order to enable duet / choral karaoke at other sites in a remote place which is the main object of the present invention. An information management server 12 is connected to an environmental two-way broadband wireless / wired communication network (Internet, local area network, LAN) 10, and multiple users such as private homes / stores, studios, offices, etc. are connected to the communication network 10. Are connected via a broadband line 16 or the like. In addition, a user's (user) mobile phone, PDA terminal, and the like incorporating a camera / microphone, a speaker, a display, and the like are connected to the communication network 10 via a base station.

図2は、この発明が適用された音楽演奏通信装置14の構成を示す。図2に示すように、該音楽演奏通信装置14は、CPU22、ROM24、RAM26、HDD28、ネットワークインタフェース30、映像出力部35、ビデオキャプチャ38、音声出力部41、音源部42、音声入力部45、リモコン入力部48とを内蔵し、該映像出力部35にTVモニタ36を、該ビデオキャプチャ38にビデオカメラ39を、該音声出力部41にスピーカ43を、該音声入力部45にマイクロフォン46を夫々接続し、該音楽演奏通信装置14にリモコン49を接続可能とする。
従って、該音楽演奏通信装置14は、該通信網10及びブロードバンド回線16を介して該音楽演奏通信装置14同士で映像・音響信号ストリーム、制御信号等をやりとりする。
FIG. 2 shows the configuration of the music performance communication apparatus 14 to which the present invention is applied. As shown in FIG. 2, the music performance communication device 14 includes a CPU 22, a ROM 24, a RAM 26, an HDD 28, a network interface 30, a video output unit 35, a video capture 38, an audio output unit 41, a sound source unit 42, an audio input unit 45, A remote control input unit 48, a TV monitor 36 in the video output unit 35, a video camera 39 in the video capture 38, a speaker 43 in the audio output unit 41, and a microphone 46 in the audio input unit 45, respectively. The remote controller 49 can be connected to the music performance communication device 14 by connecting.
Accordingly, the music performance communication device 14 exchanges video / audio signal streams, control signals, and the like between the music performance communication devices 14 via the communication network 10 and the broadband line 16.

加えて他の音楽演奏通信装置14は、カラオケボックス、個人宅・店舗、スタジオ、オフィス等に設けられる。   In addition, the other music performance communication device 14 is provided in a karaoke box, a private house / store, a studio, an office, or the like.

図3は、この発明の実施例を示す機能ブロック線図である。音楽演奏通信装置14は、利用者の映像を取り込むため映像入力手段225を有する。映像入力手段225は、図2のビデオカメラ39及びビデオキャプチャ38に該当する。   FIG. 3 is a functional block diagram showing an embodiment of the present invention. The music performance communication device 14 has video input means 225 for capturing the video of the user. The video input means 225 corresponds to the video camera 39 and the video capture 38 in FIG.

また、該音楽演奏通信装置14の映像を出力する映像出力手段226は、TVモニタ36及び映像出力部35に該当する。映像ストリーム入出力手段222は、映像の信号処理とデータブロック化の機能を有し、CPU22及びROM24及びRAM26による演算処理により実現される。また映像ストリーム入出力手段222を制御しネットワーク10に出力する送出データ量を変更するため送信条件指定手段220を有する。   The video output means 226 for outputting the video of the music performance communication device 14 corresponds to the TV monitor 36 and the video output unit 35. The video stream input / output means 222 has video signal processing and data blocking functions, and is realized by arithmetic processing by the CPU 22, ROM 24 and RAM 26. Further, it has a transmission condition designating unit 220 for controlling the video stream input / output unit 222 and changing the amount of transmission data to be output to the network 10.

音声入力手段229は、図2ではマイクロフォン46及び音声入力部45に該当し、利用者の音声を入力する。また該音楽演奏通信装置14で受信した音声は、図2のスピーカ43及び音声出力部41に該当する音声出力手段230により出力される。音声ストリーム入出力手段228は、音響信号処理とブロック化の機能を有する。   The voice input unit 229 corresponds to the microphone 46 and the voice input unit 45 in FIG. 2 and inputs the user's voice. The sound received by the music performance communication device 14 is output by the sound output means 230 corresponding to the speaker 43 and the sound output unit 41 of FIG. The audio stream input / output means 228 has functions of acoustic signal processing and blocking.

該音楽演奏通信装置14のカラオケ機能を実現するため、カラオケ情報選択手段202及びテロップ表示手段203、演奏進行制御手段205と演奏手段207とを有する。カラオケ情報選択手段202は、図2に示すカラオケデータを記憶するHDD28から、指定されたカラオケデータを取り出し、RAM26に記憶する。テロップ表示手段203はRAM26からテロップを取り出し、映像出力手段226に表示する。演奏手段207は、図2では音源部42に該当し、カラオケデータを用いて演奏を行い、音声出力手段230にて演奏音として出力する。演奏進行制御手段205は、カラオケ演奏を実現するため、テロップ表示手段203及び演奏手段207を制御する。更に音楽演奏通信装置全体のタイミング制御及び時刻を管理するための計時手段201を有する。   In order to realize the karaoke function of the music performance communication device 14, the music performance communication device 14 includes karaoke information selection means 202, telop display means 203, performance progress control means 205, and performance means 207. The karaoke information selection means 202 takes out the designated karaoke data from the HDD 28 that stores the karaoke data shown in FIG. The telop display means 203 takes out the telop from the RAM 26 and displays it on the video output means 226. The performance means 207 corresponds to the sound source unit 42 in FIG. 2, performs a performance using karaoke data, and outputs it as a performance sound by the audio output means 230. The performance progress control means 205 controls the telop display means 203 and the performance means 207 in order to realize karaoke performance. Furthermore, it has timing means 201 for managing timing control and time of the entire music performance communication apparatus.

また該音楽演奏通信装置14は、通信網10と接続するためネットワークインタフェース30である通信手段238を有する。通信手段238を用いて、利用者の映像や音響信号を交換するための映像ストリーム信号や音響信号ストリーム信号が通信網10に入出力される。   Further, the music performance communication device 14 has a communication means 238 which is a network interface 30 for connecting to the communication network 10. A video stream signal and an audio signal stream signal for exchanging user's video and audio signals are input to and output from the communication network 10 using the communication unit 238.

通信網10に接続された夫々の音楽演奏通信装置14が同期して動作を行うため、演奏を同期する機能を有しており、演奏監視手段209及び同期信号発生手段232、同期信号・応答信号入出力手段235、同期応答信号発生手段212、同期手段211により構成される。   Since each music performance communication device 14 connected to the communication network 10 operates in synchronism, it has a function of synchronizing the performance. The performance monitoring means 209, the synchronization signal generating means 232, the synchronization signal / response signal are provided. The input / output means 235, the synchronization response signal generation means 212, and the synchronization means 211 are configured.

更に、夫々の音楽演奏通信装置の利用において、演奏や歌唱映像及び音声の伝送において、通信により発生する信号の遅延や欠損のために、利用者が違和感を持つことを防止するため、遅延監視手段236及び欠損率監視手段237を有する。   Furthermore, in the use of each music performance communication device, in order to prevent the user from feeling uncomfortable due to the delay or loss of the signal generated by the communication in the performance or singing video and audio transmission, delay monitoring means 236 and loss rate monitoring means 237.

また、多地点で遠隔地に接続された音楽演奏通信装置14を利用する複数の利用者の中から、デュエットや合唱を行いたい利用者を選び出し、接続するための特徴情報入出力手段214、特徴情報表示手段215、特徴情報管理手段216、特徴情報送受信手段218を有する。   Further, a feature information input / output means 214 for selecting and connecting a user who wants to perform a duet or chorus out of a plurality of users who use the music performance communication device 14 connected to a remote place at multiple points, a feature It has information display means 215, feature information management means 216, and feature information transmission / reception means 218.

該音楽演奏通信装置14の動作を、図3、及び図1、図2を用いて説明する。図3において、該音楽演奏通信装置14は、多拠点の遠隔地の利用者同士でのデュエットやカラオケを希望する利用者の映像を入出力するため映像入出力手段225により、利用者の映像を入出力する。入力された利用者の映像は、該CPU22の演算処理を行った後、利用者映像として映像出力手段226を通じて該TVモニタ36に出力される。同時に、利用者の映像は、映像ストリーム入出力手段222により映像ストリームに変換され、通信手段238により、該ブロードバンド回線16を介して該通信網10に送出される。   The operation of the music performance communication device 14 will be described with reference to FIG. 3, FIG. 1, and FIG. In FIG. 3, the music performance communication device 14 uses the video input / output means 225 to input and output the video of the user who wants to perform a duet or karaoke between users at multiple remote locations. Input and output. The input user image is output to the TV monitor 36 through the image output means 226 as a user image after the CPU 22 performs arithmetic processing. At the same time, the video of the user is converted into a video stream by the video stream input / output means 222 and sent to the communication network 10 via the broadband line 16 by the communication means 238.

一方、該通信網10に接続された他の音楽演奏通信装置14より該ブロードバンド回線16等を介して通信手段238へ送られた他の利用者映像の映像ストリームは、該CPU22の演算処理により映像ストリーム入出力手段222を介して映像出力手段226により表示される。   On the other hand, the video stream of another user video sent from the other music performance communication device 14 connected to the communication network 10 to the communication means 238 via the broadband line 16 or the like is converted into a video by the arithmetic processing of the CPU 22. It is displayed by the video output means 226 via the stream input / output means 222.

また、利用者の歌唱等の音声は、音声入力手段229により入力される。入力された音声は、該CPU22の演算処理により音声ストリーム入出力手段228により、指定されたブロックに分割され、音響信号ストリームとして、映像ストリームと同様に、通信手段238により該ブロードバンド回線16を介して該通信網10に送出される。   In addition, voice such as a user's song is input by the voice input means 229. The input audio is divided into designated blocks by the audio stream input / output means 228 by the arithmetic processing of the CPU 22, and as an audio signal stream via the broadband line 16 by the communication means 238 in the same manner as the video stream. It is sent to the communication network 10.

また、他の音楽演奏通信装置14より該ブロードバンド回線16を介して通信手段238へ送られた他の利用者の音響信号ストリームは、該CPU22の演算処理により音声ストリーム入出力手段228により、音声出力手段230を介して該スピーカ43より出力される。
以上の機能により、該音楽演奏通信装置14は、遠隔地の利用者の映像・音声の共有を実現する。
Also, the other user's acoustic signal stream sent from the other music performance communication device 14 to the communication means 238 via the broadband line 16 is output by the audio stream input / output means 228 by the arithmetic processing of the CPU 22. The sound is output from the speaker 43 via the means 230.
With the above functions, the music performance communication device 14 realizes video / audio sharing of users at remote locations.

該音楽演奏通信装置14は、カラオケ装置としてカラオケ情報選択手段202によりHDD28よりカラオケデータを取り出し、演奏手段207により演奏を行い、音声出力手段230により、演奏音を出力する。演奏に際して、テロップ表示手段203は、カラオケ情報選択手段202により取り出されたカラオケデータからテロップ情報を取り出し、映像出力手段226を介して該TVモニタ36にテロップを表示する。演奏進行制御手段205は、演奏手段207を制御し、演奏を進めると同時に、テロップ表示手段203を制御し、テロップの色変えを行い、該映像出力手段226に表示する。
以上の機能により、演奏の進行に合わせて、テロップ表示を行い、テロップの色変えを行うことで、カラオケ機能を実現する。
The music performance communication device 14 takes out karaoke data from the HDD 28 by the karaoke information selection means 202 as a karaoke device, performs the performance by the performance means 207, and outputs the performance sound by the voice output means 230. At the time of performance, the telop display means 203 takes out telop information from the karaoke data taken out by the karaoke information selection means 202 and displays the telop on the TV monitor 36 through the video output means 226. The performance progress control means 205 controls the performance means 207 to advance the performance, and simultaneously controls the telop display means 203 to change the color of the telop and display it on the video output means 226.
With the above functions, a karaoke function is realized by displaying a telop as the performance progresses and changing the color of the telop.

また該音楽演奏通信装置14は、相互の歌唱を快適に行うための相互の該音楽演奏通信装置14の演奏の同期を取るための同期手段として、演奏監視手段209、同期信号発生手段232、同期信号・応答信号入力手段235、同期手段211を有し、該演奏監視手段209の情報により、該同期信号発生手段232により作成された同期信号は、該同期信号・応答信号入力手段235を介して通信手段238より該通信網10に出力され、デュエット・合唱相手である他の音楽演奏通信装置14に伝えられる。
また該通信手段238より該同期信号・応答信号入力手段235を介して同期信号を受信すると、該同期手段211により該演奏進行制御手段205を制御し、該通信網10に接続されてデュエット・合唱を行っている該音楽演奏通信装置14の演奏の同期を行う。これらのタイミングの管理のため、計時手段201を用いる。
In addition, the music performance communication device 14 includes a performance monitoring means 209, a synchronization signal generation means 232, and synchronization as synchronization means for synchronizing the performances of the music performance communication devices 14 with each other for comfortable singing. The signal / response signal input means 235 and the synchronization means 211 are provided, and the synchronization signal generated by the synchronization signal generation means 232 based on the information of the performance monitoring means 209 is transmitted via the synchronization signal / response signal input means 235. The data is output from the communication means 238 to the communication network 10 and transmitted to another music performance communication device 14 that is a duet / choral partner.
When the synchronization signal is received from the communication means 238 via the synchronization signal / response signal input means 235, the performance progress control means 205 is controlled by the synchronization means 211 and connected to the communication network 10 for duet / choral. The performance of the music performance communication device 14 performing the synchronization is performed. The time measuring means 201 is used for managing these timings.

更に該音楽演奏通信装置14は、快適なデュエット・合唱を実現するため、該通信網10や該ブロードバンド回線16において発生する音響信号ストリームの遅延やデータ欠損を最小にするため、遅延監視手段236と欠損率監視手段237の出力により同期応答信号発生手段212を用いて同期応答信号を発生し、同期信号・応答信号入出力手段235、通信手段238により音響信号ストリームの受信状況を、該音響信号ストリームを送信している他の音楽演奏通信装置14に伝える。また、通信手段238及び同期信号・応答信号入出力手段235を介して音響信号ストリームの受信状況を含む同期信号を受信した場合、同期手段211により送信条件指定手段220を制御し、該映像入力手段225より入力される映像情報を映像ストリーム入出力手段222で、適切なブロックに変換することで、音響信号ストリームの遅延や欠損率の低減を実現する。   Further, the music performance communication device 14 is provided with a delay monitoring means 236 for minimizing the delay of audio signal streams and data loss generated in the communication network 10 and the broadband line 16 in order to realize a comfortable duet / chorus. A synchronization response signal is generated by using the synchronization response signal generation unit 212 based on the output of the defect rate monitoring unit 237, and the reception status of the acoustic signal stream is determined by the synchronization signal / response signal input / output unit 235 and the communication unit 238. Is transmitted to the other music performance communication device 14 that is transmitting. When a synchronization signal including the reception status of the acoustic signal stream is received via the communication means 238 and the synchronization signal / response signal input / output means 235, the transmission condition designating means 220 is controlled by the synchronization means 211, and the video input means The video information input from 225 is converted into an appropriate block by the video stream input / output means 222, thereby realizing a reduction in the delay and loss rate of the audio signal stream.

加えて該音楽演奏通信装置14は、遠隔地の利用者とデュエットや合唱を行うために、特徴情報入力手段214、特徴情報表示手段215、特徴情報管理手段216を有しており、特徴情報送受信手段218により該通信手段238を介して他の音楽演奏通信装置14と通信を行うことにより、歌唱相手の決定を行う。   In addition, the music performance communication device 14 includes a feature information input unit 214, a feature information display unit 215, and a feature information management unit 216 for performing duets and chorusing with users at remote locations. The singing partner is determined by communicating with another music performance communication apparatus 14 via the communication means 238 by means 218.

次に図6〜8において音楽演奏通信装置14の利用の一実施例を説明する。
図6は、該音楽演奏通信装置14を用いてデュエットや合唱を行っている時の該TVモニタ36に表示される歌唱中画面の一例であり、該ビデオカメラ39で撮影されている音楽演奏通信装置14の利用者の映像は、確認用映像110として表示されると共に、該通信網10に送出し、他の音楽演奏通信装置14に送られる。また、他の音楽演奏通信装置14により受信された他の歌唱者の映像は、複数の歌唱者映像104として該ビデオカメラ39で撮影された確認用映像110と共に表示される。
Next, an embodiment of using the music performance communication device 14 will be described with reference to FIGS.
FIG. 6 is an example of a singing screen displayed on the TV monitor 36 when a duet or chorus is performed using the music performance communication device 14, and the music performance communication captured by the video camera 39. The video of the user of the device 14 is displayed as a confirmation video 110 and is sent to the communication network 10 and sent to another music performance communication device 14. In addition, other singer videos received by the other music performance communication device 14 are displayed as a plurality of singer videos 104 together with confirmation videos 110 taken by the video camera 39.

また状態表示部101には、歌唱中である表示を行い、歌唱曲情報表示部102では歌唱曲の曲名や選曲番号等の表示を行うと共にテロップ表示部103では、カラオケで必要となるテロップを表示する。
以上の表示により、複数の音楽演奏通信装置14を利用する複数の歌唱者の映像空間が共有されることで、遠隔地で多拠点を意識させないデュエットや合唱が可能となる。
The status display unit 101 displays that the song is being sung, the song information display unit 102 displays the song name and song selection number of the song, and the telop display unit 103 displays the telop necessary for karaoke. To do.
Due to the above display, a video space of a plurality of singers using a plurality of music performance communication devices 14 is shared, thereby enabling a duet or chorusing that does not make many locations conscious of at remote locations.

図7は、歌唱相手を探す希望者一覧画面の一例であり、利用者(募集者)が特徴情報入力手段214であるリモコン49を用いて、歌いたい曲を登録した結果として、デュエットもしくは合唱の登録に応募した他の利用者(応募者)の一覧を表示する。歌唱希望者一覧画面では、応募者とパートが表示される応募者情報部106と応募者映像105等が表示される。   FIG. 7 is an example of a wish list screen for searching for a singing partner. As a result of a user (recruiter) registering a song to be sung using the remote controller 49 which is the feature information input means 214, duet or choral Display a list of other users (applicants) who applied for registration. On the singing applicant list screen, an applicant information section 106 where applicants and parts are displayed, an applicant video 105, and the like are displayed.

これらの画面と図8とを用いて、歌唱相手を探す利用者(募集者)が使用する音楽演奏通信装置Aと、該通信網10を介して接続され、募集者の募集に応募する利用者(応募者)が使用する音楽演奏通信装置Bの動作を説明する。   A user who uses these screens and FIG. 8 and is connected to the music performance communication device A used by a user (recruiter) searching for a singing partner via the communication network 10 and applies for recruitment of recruiters. The operation of the music performance communication device B used by (the applicant) will be described.

まず募集者は、該特徴情報入力手段214により、デュエットしたい曲の選曲番号やパート(特徴情報)を該音楽演奏通信装置14に入力する。音楽演奏通信装置Aは、特徴情報を一定時間保持すると共に特徴情報信号1(募集信号)として特徴情報送受信手段218を用いて、通信手段238により該ブロードバンド回線16を介して該通信網10に送出する。   First, the recruiter inputs the music selection number and part (feature information) of the song to be duet to the music performance communication device 14 by the feature information input means 214. The music performance communication apparatus A retains the characteristic information for a certain period of time and sends the characteristic information signal 1 (recruitment signal) to the communication network 10 via the broadband line 16 by the communication means 238 using the characteristic information transmission / reception means 218. To do.

該通信網10に接続された他方の音楽演奏通信装置Bは、この募集信号を受信すると、該通信手段238及び該特徴情報送受信手段218を介して該特徴情報表示手段215により映像出力手段226に歌唱希望者一覧画面を表示する。歌唱希望者一覧画面の情報は、複数の希望者(募集者)の情報を表示する。この情報は、一定時間に応募が無い場合は、破棄され、画面から消去される。この画面表示に対して同じ選曲番号の入力や表示された端末番号を選択することで、音楽演奏通信装置Bは音楽演奏通信装置Aに対して特徴情報信号2(応募信号)を返す。   When the other music performance communication apparatus B connected to the communication network 10 receives this recruitment signal, the feature information display means 215 sends it to the video output means 226 via the communication means 238 and the feature information transmission / reception means 218. The singing applicant list screen is displayed. The information on the singing applicant list screen displays information on a plurality of applicants (recruiters). This information is discarded and deleted from the screen if there is no application within a certain period of time. The music performance communication device B returns the characteristic information signal 2 (application signal) to the music performance communication device A by inputting the same music selection number and selecting the displayed terminal number for this screen display.

該音楽演奏通信装置Aは、募集信号を送出後募集信号の応募である応募信号を待つが、一定時間の応答が無ければ、記憶された特徴情報を破棄する。一定時間内に応募信号が受信されると、歌唱者応募一覧画面を表示する。   The music performance communication apparatus A waits for an application signal that is an application for the recruitment signal after sending the recruitment signal, but discards the stored feature information if there is no response for a certain period of time. When an application signal is received within a certain time, a singer application list screen is displayed.

募集者は、応募一覧画面より歌唱したい相手を選ぶと、該音楽演奏通信装置Aは該音楽演奏通信装置Bに対して特徴情報信号3(成立信号)を送出すると共に歌唱者応募画面に選択されたマークを表示する。また該音楽演奏通信装置Aは演奏の同期信号を発信するマスター機となる。   When the recruiter selects a partner who wants to sing from the application list screen, the music performance communication device A sends a characteristic information signal 3 (establishment signal) to the music performance communication device B and is selected on the singer application screen. Display the mark. The music performance communication device A serves as a master device for transmitting a performance synchronization signal.

該音楽演奏通信装置Bは、成立信号を受信すると歌唱希望者一覧の該音楽演奏通信装置Aに対応する表示にマークを表示することで選択されたことを表示する。続いて該音楽演奏通信装置Bは、時刻の設定を行うための時刻設定信号を該音楽演奏通信装置Aに送る。時刻設定信号を受け取ったマスター機である該音楽演奏通信装置Aは、時刻情報を含んだ時刻設定確認信号を該音楽演奏通信装置Bに送信する。
該音楽演奏通信装置Bは、時刻設定確認信号を受信すると歌唱開始が可能であることを示す準備完了信号を該音楽演奏通信装置Aに送り、歌唱準備が完了する。
When the music performance communication device B receives the establishment signal, the music performance communication device B displays a mark on a display corresponding to the music performance communication device A in the list of singing applicants to indicate that it has been selected. Subsequently, the music performance communication device B sends a time setting signal for setting the time to the music performance communication device A. The music performance communication device A, which is the master device that has received the time setting signal, transmits a time setting confirmation signal including time information to the music performance communication device B.
When the music performance communication device B receives the time setting confirmation signal, the music performance communication device B sends a preparation completion signal indicating that the singing can be started to the music performance communication device A, and the singing preparation is completed.

該音楽演奏通信装置Aは、準備完了信号を受け取ると歌唱のための演奏を開始すると共に該音楽演奏通信装置Bに演奏開始を伝える同期信号を送る。該音楽演奏通信装置Bは、演奏開始を伝える同期信号を受け取ると演奏を開始すると共に演奏の同期を開始する。   When the music performance communication device A receives the preparation completion signal, the music performance communication device A starts a performance for singing and sends a synchronization signal for transmitting the performance start to the music performance communication device B. When the music performance communication device B receives a synchronization signal indicating the start of performance, the music performance communication device B starts performance and synchronizes performance.

演奏の開始により、該音楽演奏通信装置A及び該音楽演奏通信装置Bは、該ビデオカメラ39及び該マイクロフォン46により入力した映像・音響信号ストリームを相手方の該TVモニタ36及び該スピーカ43に出力することで、相互の歌唱者の映像・音声が共有される。演奏中には通信機器の演奏の同期を行うため同期信号も一定間隔で送出される。   When the performance is started, the music performance communication device A and the music performance communication device B output the video / audio signal stream input by the video camera 39 and the microphone 46 to the TV monitor 36 and the speaker 43 of the other party. Thus, the video and audio of each other singer are shared. During the performance, synchronization signals are also sent at regular intervals to synchronize the performance of the communication device.

歌唱のための演奏が終了すると、該音楽演奏通信装置Aより演奏終了信号が該音楽演奏通信装置Bに送られることで、相互の音楽演奏通信の演奏が終了すると共に、歌唱者が挨拶する挨拶画面が一定時間交換される。挨拶画面では、歌唱時と同様に映像・音響信号ストリームを交換することでも良い。挨拶画面の交換が終了すると、該音楽演奏通信装置A及びBの通信が切断される。
これにより一連のデュエット動作が完了する。なお本説明では、デュエットの一例を説明したが、合唱の場合も複数の歌唱応募者を選ぶことで同様の動作を行う。
When the performance for singing is finished, a performance end signal is sent from the music performance communication device A to the music performance communication device B, so that the performance of the mutual music performance communication is finished and the greeting that the singer greets The screen is replaced for a certain time. On the greeting screen, the video / audio signal streams may be exchanged in the same manner as when singing. When the exchange of the greeting screen is completed, the music performance communication devices A and B are disconnected.
This completes a series of duet operations. In this description, an example of a duet has been described, but the same operation is performed by selecting a plurality of singing applicants even in the case of chorus.

図9を用いて演奏途中から歌唱に参加する動作について説明する。
歌唱を希望する利用者の音楽演奏通信装置Dは、特徴情報信号1を該通信網10に送出する。該通信網10に接続されている音楽演奏通信装置Aは、特徴情報信号1を受信するとそれに含まれる選曲番号に該当する曲が音楽演奏通信装置Aですでに演奏されているかを調べる。演奏されていない場合は、歌唱希望者一覧画面を表示するが、すでに演奏されている場合(他の音楽演奏通信装置と歌唱中の場合)は、特徴情報信号4を該音楽演奏通信装置Dに送信する。
The operation | movement which participates in a song from the middle of a performance is demonstrated using FIG.
The music performance communication device D of the user who desires to sing transmits the characteristic information signal 1 to the communication network 10. When the music performance communication apparatus A connected to the communication network 10 receives the characteristic information signal 1, it checks whether the music performance communication apparatus A has already played a music corresponding to the music selection number included therein. When not being played, the singing applicant list screen is displayed. When already being played (when singing with another music performance communication device), the characteristic information signal 4 is sent to the music performance communication device D. Send.

特徴情報信号4を受信した該音楽演奏通信装置Dは、送出した特徴情報信号に対して応答を返してきた音楽演奏通信装置A等の情報を歌唱希望者一覧画面に表示する。該音楽演奏通信装置Dの利用者が、該音楽演奏通信装置Aの利用者である歌唱中の相手を選択すると、該音楽演奏通信装置Dは特徴情報信号2を該音楽演奏通信装置Aに対して送出する。   The music performance communication apparatus D that has received the characteristic information signal 4 displays information on the music performance communication apparatus A and the like that has returned a response to the transmitted characteristic information signal on the singing applicant list screen. When the user of the music performance communication device D selects a singing partner who is the user of the music performance communication device A, the music performance communication device D sends the characteristic information signal 2 to the music performance communication device A. And send it out.

歌唱中の利用者である該音楽演奏通信装置Aの歌唱中画面には、割り込み要求の表示がされ、表示された割り込み相手に対して「現在の歌唱相手と取り替える。」、「一緒に歌う。」、「歌わない(歌唱を拒否する)。」が選択できる。表示された割り込み相手を選択すると特徴情報信号5が該音楽演奏通信装置Dに送出される。   An interruption request is displayed on the singing screen of the music performance communication apparatus A, which is a user who is singing, and “replace with the current singing partner” or “sing together” to the displayed interrupting partner. "Cannot sing (reject singing)" can be selected. When the displayed interrupt partner is selected, the characteristic information signal 5 is sent to the music performance communication device D.

特徴情報信号5を受信した該音楽演奏通信装置Dの画面には、該音楽演奏通信装置Aの利用者が該音楽演奏通信装置Dの歌唱希望に対して了解の表示が行われ、時刻設定信号が該音楽演奏通信装置Aに送られる。該音楽演奏通信装置Aでは、時刻設定信号を受信すると、時刻情報を含む時刻確認信号を該音楽演奏通信装置Dに送出し、音楽演奏通信装置Dの時刻を設定する。該音楽演奏通信装置Dは、準備が完了すると、該音楽演奏通信装置Aに対して準備完了信号を送出し、該音楽演奏通信装置Aの映像・音響信号ストリームを受信する。   On the screen of the music performance communication device D that has received the characteristic information signal 5, the user of the music performance communication device A indicates that the music performance communication device D wants to sing, and a time setting signal is displayed. Is sent to the music performance communication apparatus A. When the music performance communication device A receives the time setting signal, it sends a time confirmation signal including time information to the music performance communication device D, and sets the time of the music performance communication device D. When the music performance communication device D is ready, the music performance communication device D sends a preparation completion signal to the music performance communication device A and receives the video / audio signal stream of the music performance communication device A.

歌唱中の利用者が使用する該音楽演奏通信装置Aは、準備完了信号を受信した後、演奏の区切り位置である同期信号発生位置までは、同期信号を発生しない。
これにより、該音楽演奏通信装置D側では、同期信号の受信までは、歌唱を開始しないため、歌唱の参加は、同期信号受信後となることで違和感の無い参加が可能となる。
その後の動作は、図8と同様である。
The music performance communication apparatus A used by the user who is singing does not generate a synchronization signal after receiving the preparation completion signal until a synchronization signal generation position which is a performance break position.
Thereby, on the music performance communication device D side, since the singing is not started until the synchronization signal is received, the participation in the singing is after the reception of the synchronization signal, so that participation without a sense of incongruity becomes possible.
The subsequent operation is the same as in FIG.

図4は、複数の遠隔地の利用者が同時に演奏・合唱・デュエットを行うことを可能とするために、演奏開始時刻及び進行中の演奏位置を相互で同期する同期信号方式を用いる処理のフローチャートである。この図を用いて、音楽演奏通信装置Aと音楽演奏通信装置Bが遠隔地で演奏を同期する処理を説明する。   FIG. 4 is a flowchart of a process using a synchronization signal system in which a performance start time and an ongoing performance position are synchronized with each other in order to allow a plurality of users at a remote location to perform, perform chorus, and duet simultaneously. It is. The process in which the music performance communication apparatus A and the music performance communication apparatus B synchronize performances at remote locations will be described with reference to FIG.

該音楽演奏通信装置A,Bにおいて、記憶手段(ROM24、RAM26,HDD28等)には演奏監視手段209等の図3記載の各手段が記憶されている。まず、演奏監視手段209を用いて楽曲の演奏開始時かどうかを判断し(S150)、演奏開始時ならば、音楽演奏通信装置Bに対して、同期信号発生手段232、同期信号・応答信号入出力手段235を用いて、演奏開始を告げる同期信号を送信する(S151)。また、演奏開始時ではないならば、現在、演奏中か否かの判断を行う(S130)。処理S130において、演奏中でないならば、処理を終了し、再び処理S150の状態判断を行う。処理S130において、演奏中ならば演奏監視手段209より同期位置を抽出し(S132)、同期信号発生手段232、同期信号・応答信号入出力手段235により、同期信号送信を行う(S134)。該音楽演奏通信装置A,B間の同期信号の通信には、各々の音楽演奏通信装置のネットワークインタフェース30、ブロードバンド回線16、通信網10を介して行う。   In the music performance communication apparatuses A and B, each means shown in FIG. 3 such as the performance monitoring means 209 is stored in the storage means (ROM 24, RAM 26, HDD 28, etc.). First, it is determined whether or not the music performance is started using the performance monitoring means 209 (S150). If the performance is started, the synchronization signal generating means 232, the synchronization signal / response signal input are input to the music performance communication apparatus B. The output means 235 is used to transmit a synchronization signal informing the start of performance (S151). If it is not at the start of performance, it is determined whether the performance is currently being performed (S130). If it is determined in step S130 that the performance is not being performed, the process ends, and the state determination in step S150 is performed again. In step S130, if the performance is being performed, the synchronization position is extracted from the performance monitoring unit 209 (S132), and the synchronization signal is transmitted by the synchronization signal generation unit 232 and the synchronization signal / response signal input / output unit 235 (S134). Communication of synchronization signals between the music performance communication apparatuses A and B is performed via the network interface 30, the broadband line 16, and the communication network 10 of each music performance communication apparatus.

処理S151、S134の同期信号送信の後、音楽演奏通信装置Aでは、音楽演奏通信装置Bからの同期応答信号を待機し(S136)、同期応答信号を受信した場合は、同期状況を画面に表示し(S138)、音楽演奏通信装置Aの処理を一度終了した後に、再び音楽演奏通信装置Aの処理S150の処理に遷移する。また、処理S136において、一定時間、同期応答信号を受信しない場合は、音楽演奏通信装置Aの処理を一度終了した後に、再び音楽演奏通信装置Aの処理S150の処理に遷移する。   After transmitting the synchronization signal in steps S151 and S134, the music performance communication apparatus A waits for a synchronization response signal from the music performance communication apparatus B (S136). When the synchronization response signal is received, the synchronization status is displayed on the screen. (S138) After the processing of the music performance communication apparatus A is once completed, the process again proceeds to the process of the processing S150 of the music performance communication apparatus A. If the synchronization response signal is not received in the process S136 for a certain period of time, the process of the music performance communication apparatus A is once terminated, and then the process again proceeds to the process of the process S150 of the music performance communication apparatus A.

一方、該音楽演奏通信装置Bにおいては、現在、楽曲を演奏中か否かの判断を行う(S140)。処理S140において、演奏中でない場合は、演奏前の状態と認識して、音楽演奏通信装置Aからの同期信号の受信を待機する(S155)。同期信号を一定時間以上受信しない場合は、音楽演奏通信装置Bの処理は終了し、再び最初の処理S140に戻る。処理S155において、同期信号を受信した場合は、計時手段201、演奏進行制御手段205によって演奏開始時刻設定を行い(S157)、演奏手段207によって演奏開始を行う(S159)。   On the other hand, the music performance communication device B determines whether or not the music is currently being played (S140). If it is determined in step S140 that the performance is not being performed, the state before the performance is recognized, and reception of a synchronization signal from the music performance communication device A is awaited (S155). If the synchronization signal is not received for a certain period of time, the processing of the music performance communication device B ends and returns to the first process S140 again. In the process S155, when the synchronization signal is received, the performance start time is set by the timing means 201 and the performance progress control means 205 (S157), and the performance is started by the performance means 207 (S159).

処理S140において、演奏中と判断された場合も同様に、演奏中は音楽演奏通信装置Aからの同期信号の受信を待機する(S142)。同期信号を受信しないときは、処理を終了し再度、音楽演奏通信装置Bの最初の処理S140に遷移する。処理S142において、同期信号を受信した場合は、演奏監視手段209により現在の演奏位置を抽出する(S143)。同期手段211、演奏進行制御手段205により、現在の演奏位置を、同期位置に合わせ(S146)、その結果を同期応答信号発生手段212により同期応答信号を作成し、同期信号・応答信号入出力手段235により、音楽演奏通信装置Aに対して、同期応答信号を送信する(S148)。最後に、同期状況を画面に表示し(S149)、再び、音楽演奏通信装置Bの処理S140を行う。   Similarly, when it is determined in the process S140 that the performance is being performed, the reception of the synchronization signal from the music performance communication apparatus A is awaited during the performance (S142). When the synchronization signal is not received, the process ends and the process proceeds to the first process S140 of the music performance communication device B again. If a synchronization signal is received in step S142, the performance monitoring means 209 extracts the current performance position (S143). The synchronization means 211 and the performance progress control means 205 adjust the current performance position to the synchronization position (S146), and the synchronization response signal generation means 212 creates a synchronization response signal based on the result, and the synchronization signal / response signal input / output means. Through 235, a synchronization response signal is transmitted to the music performance communication apparatus A (S148). Finally, the synchronization status is displayed on the screen (S149), and the process S140 of the music performance communication device B is performed again.

図10にて、演奏監視手段209によって同期位置の検出を行う処理を説明する。演奏手段207によって、楽曲演奏がなされている最中に、テロップ表示手段203によって、歌詞のテロップが断続的に表示され、テロップは歌詞の進行とともに色が変わる。テロップ表示中は、利用者の歌唱が行われている個所であるため、テロップ色代わり終了時刻に、同期信号発生手段232によって、同期信号を発生させることで、利用者が歌唱中でない時刻に演奏を同期させることが可能となる。また、遠隔地の利用者同士は同期信号発生後、最初の歌詞の開始位置から歌唱を同期することができる。   A process for detecting the synchronization position by the performance monitoring means 209 will be described with reference to FIG. While the musical performance is being performed by the performance means 207, the telop display means 203 intermittently displays the telop of the lyrics, and the color of the telop changes as the lyrics progress. While the telop is displayed, it is the place where the user is singing. Therefore, the synchronization signal is generated by the synchronization signal generating means 232 at the end time instead of the telop color, so that the performance is performed at the time when the user is not singing. Can be synchronized. Also, users at remote locations can synchronize singing from the start position of the first lyrics after the synchronization signal is generated.

図5を用いて、本発明のカラオケ制御方式において、複数の遠隔地の利用者が同時に演奏・合唱・デュエットを行うことを可能とするため、通信網における音響信号ストリームの通信上の欠損率(通信パケットロスの割合)や遅延が大きくならないように、他の映像信号ストリームや特徴信号よりも、音響信号ストリームを優先して配信する処理について説明する。   In FIG. 5, in the karaoke control system of the present invention, it is possible for a plurality of users at a remote location to simultaneously perform, chorus, and duet. A process for giving priority to the delivery of the audio signal stream over the other video signal streams and feature signals will be described so that the communication packet loss ratio) and delay do not increase.

音楽演奏通信装置A、B の記憶手段(ROM24、RAM26、HDD28)には、図3記載の演奏監視手段等の各手段が記憶されている。音楽演奏通信装置Aと音楽演奏通信装置Bとの間で、他の映像信号ストリームや特徴信号よりも、音響信号ストリームを優先して配信するために、まず、音楽演奏通信装置Aでは、現在、演奏中か否かを演奏監視手段209を用いて行う。演奏中でなければ、処理は終了し、再び演奏中か否かを演奏監視手段209を用いて監視する(S100)。   Each means such as the performance monitoring means shown in FIG. 3 is stored in the storage means (ROM 24, RAM 26, HDD 28) of the music performance communication devices A and B. In order to deliver the audio signal stream with priority over the other video signal streams and feature signals between the music performance communication device A and the music performance communication device B, first, in the music performance communication device A, Whether or not the performance is being performed is performed using the performance monitoring means 209. If it is not playing, the process ends, and it is monitored again using the performance monitoring means 209 whether or not it is playing (S100).

音楽演奏通信装置Aで演奏が開始された場合は、まず、映像や音響信号のストリーミングの受信ブロック数のカウンタを初期化し(S101)、音楽演奏通信装置Bからのブロック受信を待機する。音楽演奏通信装置Bからのブロック受信がある場合は(S103)、映像・音響信号ブロックの受信処理を行い(S104)、受信したブロック数の計測(ブロック数カウンタの加算)を行う(S106)。一方、ブロック受信がない場合は、音楽演奏通信装置Bからの同期信号を待機する(S107)。ここで、音楽演奏通信装置A,B間の信号通信、映像や音響信号のストリーミングの送受信には、各音楽演奏通信装置のネットワークインタフェース30、ブロードバンド回線16及び通信網10を介して行う。   When the music performance communication apparatus A starts playing, first, a counter for the number of received blocks of streaming video and audio signals is initialized (S101), and a block reception from the music performance communication apparatus B is waited. When there is a block reception from the music performance communication device B (S103), a video / audio signal block reception process is performed (S104), and the number of received blocks is measured (a block number counter is added) (S106). On the other hand, when there is no block reception, a synchronization signal from the music performance communication apparatus B is waited (S107). Here, the signal communication between the music performance communication devices A and B and the transmission and reception of streaming of video and audio signals are performed via the network interface 30, the broadband line 16, and the communication network 10 of each music performance communication device.

次に、音楽演奏通信装置Aが音楽演奏通信装置Bからの同期信号を受信した場合は、同期信号受信処理を行う(S109)。同期信号受信処理では、前回の同期信号送出後から受信すべきブロック総数及び同期信号内の時刻情報を、受信した同期信号から取り出す。同期信号を受信しない場合は、再びS103のブロック受信を待機する。   Next, when the music performance communication device A receives the synchronization signal from the music performance communication device B, a synchronization signal reception process is performed (S109). In the synchronization signal reception process, the total number of blocks to be received after sending the previous synchronization signal and the time information in the synchronization signal are extracted from the received synchronization signal. If the synchronization signal is not received, it waits for the block reception in S103 again.

同期信号受信処理(S109)の後、音楽演奏通信装置Aでは、データ欠損率・遅延の算出を行う(S111)。ここで、「データ欠損率=受信したブロック数/ 総ブロック数」とし、また、「遅延時間=同期信号を受信した時刻−同期信号内の時刻情報」と定義する。   After the synchronization signal reception process (S109), the music performance communication apparatus A calculates the data loss rate / delay (S111). Here, “data loss rate = number of received blocks / total number of blocks” is defined, and “delay time = time when synchronization signal is received−time information in synchronization signal” is defined.

欠損率算出の結果、欠損率監視手段237を用いて、欠損率が規定値を超過しているかどうかの判断を行い(S113)、規定値を超過している場合は、同期応答手段212を用いて、音楽演奏通信装置Bに対して映像ストリームのデータ量制限信号(同期応答信号)送信し(S118)、処理を一度終了した上で、再び処理S100を行う。   As a result of calculation of the defect rate, it is determined whether or not the defect rate exceeds a specified value using the defect rate monitoring means 237 (S113). If the defect rate exceeds the specified value, the synchronization response means 212 is used. Then, the video stream data amount restriction signal (synchronization response signal) is transmitted to the music performance communication apparatus B (S118), and once the process is completed, the process S100 is performed again.

一方、遅延算出の結果、遅延監視手段236を用いて、遅延が規定値を超過しているかどうかの判断を行い(S115)、規定値を超過している場合は、同様に、同期応答手段212を用いて、音楽演奏通信装置Bに対して映像ストリームのデータ量制限信号(同期応答信号)を送信し(S118)、処理を一度終了した上で、再び処理S100を行う。   On the other hand, as a result of the delay calculation, the delay monitoring unit 236 is used to determine whether or not the delay exceeds the specified value (S115). Is transmitted to the music performance communication apparatus B (S118), the process is once completed, and the process S100 is performed again.

欠損率も遅延も規定値以下の場合には、音楽演奏通信装置Bに対して正常応答を行い(S116)、同期信号を送信した上で、再び処理S100を行う。   If the loss rate and the delay are less than the specified value, a normal response is made to the music performance communication device B (S116), a synchronization signal is transmitted, and the process S100 is performed again.

音楽演奏通信装置Bにおいては、まず、現在、演奏中か否かを演奏監視手段209を用いて行う。演奏中でなければ、処理は終了し、再び演奏中か否かを演奏監視手段209を用いて監視する(S120)。   The music performance communication device B first uses the performance monitoring means 209 to determine whether or not it is currently being performed. If it is not playing, the process is ended, and it is monitored again using the performance monitoring means 209 whether or not it is playing (S120).

演奏が開始された場合は、音楽演奏通信装置Bから音楽演奏通信装置Aに対して、映像・音のストリーミングのブロックを送信する(S122)。映像・音響信号のストリーミングのブロックを送信中、所定数のブロック送信を行ったか否かを判断し(S124)、所定数に至った場合は、同期信号発生手段232、同期信号・応答信号入出力手段235及び通信手段235を利用して音楽演奏通信装置Aに対して同期信号を送信する(S126)。   When the performance is started, the music performance communication device B transmits a video / sound streaming block to the music performance communication device A (S122). It is determined whether or not a predetermined number of block transmissions have been performed during transmission of video / audio signal streaming blocks (S124). If the predetermined number is reached, synchronization signal generating means 232, synchronization signal / response signal input / output A synchronization signal is transmitted to the music performance communication apparatus A using the means 235 and the communication means 235 (S126).

音楽演奏通信装置Bから送信した同期信号に対する同期応答信号として、音楽演奏通信装置Aからは、同期信号・応答信号入出力手段235及び通信手段238を通して、正常応答もしくは映像ストリームのデータ量制限信号が送信され、音楽演奏通信装置Bは、その信号を受信する(S128)。   As a synchronization response signal for the synchronization signal transmitted from the music performance communication device B, the music performance communication device A sends a normal response or a data amount limit signal of the video stream through the synchronization signal / response signal input / output means 235 and the communication means 238. Then, the music performance communication device B receives the signal (S128).

受信した同期信号が正常応答信号か否かを判断し(S130)、正常応答の場合は、処理を終了し、再び処理S120を行う。正常応答信号でない場合は、映像ストリームのデータ量制限信号と判断し、送信条件指定手段220によって、映像ストリームのデータ量制限(フレームレートを下げる等)を行う(S131)。   It is determined whether or not the received synchronization signal is a normal response signal (S130). If the received response is a normal response, the process ends and the process S120 is performed again. If it is not a normal response signal, it is determined as a data amount restriction signal of the video stream, and the data amount restriction (such as lowering the frame rate) of the video stream is performed by the transmission condition designating unit 220 (S131).

なお、本説明では欠損率・遅延の検出動作を同期信号を用いて行ったが、その他の方法として、映像や音響信号ストリーミングの各々のブロック信号に、ブロック数及び信号送出時の時間情報を付加することで、欠損率・遅延の検出動作を行う方法もある。   In this description, the defect rate / delay detection operation is performed using a synchronization signal. However, as another method, the number of blocks and time information at the time of signal transmission are added to each block signal of video and audio signal streaming. By doing so, there is a method for detecting the defect rate / delay.

以上双方向ブロードバンド通信網に接続された音楽演奏通信装置14を用いた遠隔地の複数の利用者を接続したデュエット・合唱を実現するシステムの動作の一例を説明したが、相互の信号の交換は、この特許請求の範囲内で変更して実施可能である。   In the above, an example of the operation of the system for realizing a duet / chorus in which a plurality of remote users using the music performance communication device 14 connected to the bidirectional broadband communication network has been described. The present invention can be modified and implemented within the scope of the claims.

は、この発明に係る多拠点におけるデュエット・合唱カラオケ制御方式の概 略図である。FIG. 4 is a schematic diagram of a duet / choral karaoke control system in multiple locations according to the present invention. は、この発明の一例で音楽演奏通信装置の構成を示すブロック図である。These are block diagrams which show the structure of the music performance communication apparatus in an example of this invention. は、この発明の動作を示す機能ブロック線図である。These are functional block diagrams which show operation | movement of this invention. は、この発明の演奏同期手段を示すフローチャートである。These are the flowcharts which show the performance synchronization means of this invention. は、この発明のデータ欠損率や遅延の算出・制御を行うフローチャートであ る。FIG. 5 is a flowchart for calculating and controlling a data loss rate and a delay according to the present invention. は、歌唱中の画面構成を示す拡大ブロック図である。These are the expanded block diagrams which show the screen structure during a song. は、歌唱希望者の選択画面を示す拡大ブロック図である。These are the expanded block diagrams which show the selection screen of a singing applicant. は、この発明の音楽演奏通信装置の利用における画面遷移と信号の送受信を 示す説明図である。These are explanatory drawings showing screen transition and signal transmission / reception in use of the music performance communication device of the present invention. は、演奏途中からの参加手順における画面遷移と信号の送受信を示す説明図 である。These are explanatory drawings showing screen transition and signal transmission / reception in the participation procedure from the middle of the performance. は、演奏監視手段による同期位置の検出を説明するタイミング図である。These are timing diagrams explaining the detection of the synchronization position by the performance monitoring means.

符号の説明Explanation of symbols

10 通信網;
12 情報管理サーバ;
14 音楽演奏通信装置(A, B, C, D);
16 ブロードバンド回線
10 communication network;
12 Information management server;
14 Music performance communication device (A, B, C, D);
16 Broadband line

Claims (4)

テロップ情報を含むカラオケデータを記憶する記憶手段と、
前記カラオケデータを用いて演奏を行う演奏手段と、
前記カラオケデータからテロップ情報を取り出しテロップを表示させるテロップ表示手段と、
前記演奏手段を制御し演奏を進行させると共に、当該演奏の進行に合わせて前記テロップ表示手段を制御し前記テロップの色変えを行わせる演奏進行制御手段と、
通信網に接続するための通信手段と、
を備えた複数の音楽演奏通信装置を前記通信手段により前記通信網に接続し、夫々の前記音楽演奏通信装置が前記通信網を介して互いに通信するようにしたカラオケシステムであって、
一の前記音楽演奏通信装置は、
前記カラオケデータの演奏中であるか否かを判断する第1演奏監視手段と、
前記演奏中である場合において、他の前記音楽演奏通信装置の演奏と同期を取るための同期信号を発生させる同期信号発生手段と、
前記通信網を介して前記他の音楽演奏通信装置に前記発生された同期信号を送信する同期信号送信手段と、
を更に備え、
前記同期信号発生手段は、前記テロップの色変えが終了した時刻に前記同期信号を発生させ、前記同期信号送信手段は前記通信網を介して、前記他の音楽演奏通信装置に当該発生された同期信号を送信し、
前記他の音楽演奏通信装置は、
前記一の音楽演奏通信装置から送信された前記同期信号を受信する同期信号受信手段と、
前記同期信号が受信された場合には、現在の演奏位置を抽出する第2演奏監視手段と、
を更に備え、
当該他の音楽演奏通信装置の演奏進行制御手段は、前記同期信号に基づいて前記抽出された現在の演奏位置を同期位置に合わせることを特徴とするカラオケシステム。
Storage means for storing karaoke data including telop information;
Performance means for performing performance using the karaoke data;
Telop display means for extracting telop information from the karaoke data and displaying the telop;
A performance progress control means for controlling the performance means to advance the performance, and controlling the telop display means to change the color of the telop in accordance with the progress of the performance;
A communication means for connecting to a communication network;
A plurality of music performance communication devices connected to the communication network by the communication means, and the music performance communication devices communicate with each other via the communication network,
One of the music performance communication devices is:
First performance monitoring means for determining whether or not the karaoke data is being played;
Synchronization signal generating means for generating a synchronization signal for synchronizing with the performance of the other music performance communication device when the performance is in progress;
Synchronization signal transmitting means for transmitting the generated synchronization signal to the other music performance communication device via the communication network;
Further comprising
The synchronization signal generation means generates the synchronization signal at a time when the color change of the telop is completed, and the synchronization signal transmission means transmits the generated synchronization signal to the other music performance communication device via the communication network. Send a signal,
The other music performance communication device is:
Synchronization signal receiving means for receiving the synchronization signal transmitted from the one music performance communication device;
Second performance monitoring means for extracting a current performance position when the synchronization signal is received;
Further comprising
The performance progress control means of the other music performance communication device adjusts the extracted current performance position to the synchronization position based on the synchronization signal.
請求項1に記載のカラオケシステムに備えられる前記一の音楽演奏通信装置であって、
前記記憶手段、前記演奏手段、前記テロップ表示手段、前記演奏進行制御手段、前記通信手段、前記第1演奏監視手段、前記同期信号発生手段、及び前記同期信号送信手段を備えることを特徴とする音楽演奏通信装置。
It is the said 1 music performance communication apparatus with which the karaoke system of Claim 1 is equipped,
Music comprising the storage means, the performance means, the telop display means, the performance progress control means, the communication means, the first performance monitoring means, the synchronization signal generation means, and the synchronization signal transmission means Performance communication device.
請求項1に記載のカラオケシステムに備えられる前記他の音楽演奏通信装置であって、
前記記憶手段、前記演奏手段、前記テロップ表示手段、前記演奏進行制御手段、前記通信手段、前記同期信号受信手段、及び前記第2演奏監視手段を備えることを特徴とする音楽演奏通信装置。
The other music performance communication device provided in the karaoke system according to claim 1,
A music performance communication apparatus comprising the storage means, the performance means, the telop display means, the performance progress control means, the communication means, the synchronization signal reception means, and the second performance monitoring means.
記憶手段によりテロップ情報を含むカラオケデータを記憶する記憶手段と、
演奏手段により前記カラオケデータを用いて演奏を行う演奏手段と、
テロップ表示手段により前記カラオケデータからテロップ情報を取り出しテロップを表示させるテロップ表示手段と、
演奏進行制御手段により演奏を進行させると共に、当該演奏の進行に合わせて前記テロップの色変えを行わせる演奏進行制御手段と、
通信手段により通信網に接続する通信手段と、
を備えた複数の音楽演奏通信装置が前記通信網に接続され、夫々の前記音楽演奏通信装置が前記通信網を介して互いに通信するようにしたカラオケシステムにおける演奏同期方法であって、
当該演奏同期方法は、
前記カラオケデータの演奏中であるか否かを、一の前記音楽演奏通信装置により判断させ第1演奏監視ステップと、
前記演奏中である場合において、他の前記音楽演奏通信装置の演奏と同期を取るための同期信号を前記一の音楽演奏通信装置により発生させる同期信号発生ステップと、
前記一の音楽演奏通信装置により前記通信網を介して前記他の音楽演奏通信装置に前記発生された同期信号を送信させる同期信号送信ステップと、
含み、
前記同期信号発生ステップにおいては、前記テロップの色変えが終了した時刻に前記同期信号を発生させ、前記同期信号送信ステップにおいては、当該発生された同期信号を、前記通信網を介して前記他の音楽演奏通信装置に送信させ
更に、前記演奏同期方法は、
前記一の音楽演奏通信装置から送信された前記同期信号を前記他の音楽演奏通信装置により受信させ同期信号受信ステップと、
前記同期信号が受信された場合には、現在の演奏位置を前記他の音楽演奏通信装置により抽出させ第2演奏監視ステップと、
前記同期信号に基づいて前記抽出された現在の演奏位置を前記他の音楽演奏通信装置により同期位置に合わせる同期位置合わせステップと、
を含むことを特徴とする演奏同期方法。
Storage means for storing karaoke data including telop information by the storage means ;
Performance means for performing performance using the karaoke data by performance means ;
Telop display means for taking out telop information from the karaoke data by the telop display means and displaying the telop ;
A performance progression control means for advancing the performance by the performance progress control means and changing the color of the telop in accordance with the progress of the performance ,
A communication means connected to the communication network by a communication means ;
A performance synchronization method in a karaoke system in which a plurality of music performance communication devices are connected to the communication network, and the music performance communication devices communicate with each other via the communication network,
The performance synchronization method is
Whether it is playing the karaoke data, and the first performance monitoring step Ru is determined according to one of the musical performance communication device,
A synchronization signal generating step of generating a synchronization signal by the one music performance communication device to synchronize with the performance of the other music performance communication device when the performance is in progress;
A synchronization signal transmitting step which Ru is transmitting the generated synchronization signal to the other music playing communication apparatus through the communication network by the one of the music playing communication device,
Including
In the synchronization signal generation step , the synchronization signal is generated at a time when the color change of the telop is completed, and in the synchronization signal transmission step , the generated synchronization signal is transmitted to the other signal via the communication network. Send to music performance communication device,
Further, the performance synchronization method includes:
A synchronization signal receiving step of Ru is received by the other music playing communication device the synchronization signal transmitted from the one of the music playing communication device,
When the synchronizing signal is received, a second performance monitoring step of Ru current performance position is extracted by the other music playing communication device,
A synchronous alignment step of match to the synchronization position by the other music playing communication unit the extracted current performance position based on the synchronization signal,
Starring Kanade synchronous way to comprising a.
JP2003304611A 2003-08-28 2003-08-28 Karaoke system, music performance communication device, and performance synchronization method Expired - Fee Related JP4219234B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003304611A JP4219234B2 (en) 2003-08-28 2003-08-28 Karaoke system, music performance communication device, and performance synchronization method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003304611A JP4219234B2 (en) 2003-08-28 2003-08-28 Karaoke system, music performance communication device, and performance synchronization method

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2008243185A Division JP4446075B2 (en) 2008-09-22 2008-09-22 Karaoke system, music performance communication device, and communication method in music performance communication device

Publications (2)

Publication Number Publication Date
JP2005077485A JP2005077485A (en) 2005-03-24
JP4219234B2 true JP4219234B2 (en) 2009-02-04

Family

ID=34408253

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003304611A Expired - Fee Related JP4219234B2 (en) 2003-08-28 2003-08-28 Karaoke system, music performance communication device, and performance synchronization method

Country Status (1)

Country Link
JP (1) JP4219234B2 (en)

Families Citing this family (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4539639B2 (en) * 2006-11-07 2010-09-08 ヤマハ株式会社 Singing and performance device and singing and performance system
JP5069199B2 (en) * 2008-10-08 2012-11-07 日本電信電話株式会社 Remote duet method, remote duet system, remote duet program, and recording medium recording remote duet program
JP5380109B2 (en) * 2009-02-23 2014-01-08 株式会社タイトー Karaoke service system, distribution server, terminal device
JP5786431B2 (en) * 2011-04-27 2015-09-30 ヤマハ株式会社 Terminal device and server device
JP2013217953A (en) * 2012-04-04 2013-10-24 Yamaha Corp Acoustic processor and communication acoustic processing system
JP2013231951A (en) * 2012-04-06 2013-11-14 Yamaha Corp Acoustic data processing device and acoustic data communication system
JP5770692B2 (en) * 2012-07-28 2015-08-26 株式会社第一興商 Karaoke synchronized performance system
JP6086578B2 (en) * 2012-08-31 2017-03-01 株式会社第一興商 Karaoke synchronized performance system
JP5617910B2 (en) * 2012-12-25 2014-11-05 ブラザー工業株式会社 Karaoke equipment
JP6007098B2 (en) * 2012-12-27 2016-10-12 株式会社第一興商 Singing video generation system
JP6037556B2 (en) * 2012-12-28 2016-12-07 株式会社第一興商 Choir applicant presence display system when searching for karaoke music
JP6051066B2 (en) * 2013-01-31 2016-12-21 株式会社第一興商 Singing video playback system for karaoke
KR20150118972A (en) * 2013-03-22 2015-10-23 야마하 가부시키가이샤 Audio data processing device and audio data communications system
JP6220576B2 (en) * 2013-06-28 2017-10-25 株式会社第一興商 A communication karaoke system characterized by a communication duet by multiple people
JP6177050B2 (en) * 2013-08-22 2017-08-09 株式会社第一興商 Online karaoke system
JP6112363B2 (en) * 2014-01-31 2017-04-12 ブラザー工業株式会社 Karaoke system and karaoke device
WO2017098743A1 (en) * 2015-12-08 2017-06-15 健一郎 堀 Service management system, computer readable storage medium, and service management method
CN112118062B (en) * 2019-06-19 2022-12-30 荣耀终端有限公司 Multi-terminal multimedia data communication method and system
KR102307639B1 (en) * 2021-04-28 2021-10-05 김영춘 Hand Phone Band Screen accompaniment Service System
WO2022269796A1 (en) * 2021-06-23 2022-12-29 ヤマハ株式会社 Device, ensemble system, audio reproduction method, and program

Also Published As

Publication number Publication date
JP2005077485A (en) 2005-03-24

Similar Documents

Publication Publication Date Title
JP4219234B2 (en) Karaoke system, music performance communication device, and performance synchronization method
JP4446075B2 (en) Karaoke system, music performance communication device, and communication method in music performance communication device
CN110910860B (en) Online KTV implementation method and device, electronic equipment and storage medium
JP2010112981A (en) Remote demonstration reproducing method and device
CN113395305B (en) Method and device for synchronous playing processing and electronic equipment
TWI244838B (en) Method of karaoke by network system
JP6246532B2 (en) Online karaoke system
JP4100424B2 (en) Karaoke system
JP6785169B2 (en) Karaoke device, remote control device
JP2002182664A (en) Karaoke (orchestration without lyrics) system
JP2008304821A (en) Musical piece concert release system
JP6413892B2 (en) Karaoke device, karaoke system, program
JP5349171B2 (en) Karaoke system with performance condition setting function
JP2008306475A (en) Voice and image conference device
JP2008293197A (en) Information distribution system, terminal unit and program for use in the same system, and information processing method
JP5184229B2 (en) Synchronization control device and synchronization control program
JP6610076B2 (en) Information processing apparatus, information processing system, program, and recording medium
WO2022210971A1 (en) Information processing device and data synchronization method
JP2007199415A (en) Karaoke system
JP2013026843A (en) Television conference system
KR20150027419A (en) Online Music Production System And Method
JP6208439B2 (en) Performance key matching system in network chorus
JP6295675B2 (en) Music session system, method and terminal device
JP2003163906A (en) Television conference system and method therefor
JP6182009B2 (en) Color change display system of lyrics characters in communication singing by multiple singers

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20051107

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071004

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080408

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080528

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080609

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080922

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20081021

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20081111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111121

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4219234

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111121

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121121

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131121

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees