JP2016200712A - Concert device, concert system, and method and program therefor - Google Patents

Concert device, concert system, and method and program therefor Download PDF

Info

Publication number
JP2016200712A
JP2016200712A JP2015080591A JP2015080591A JP2016200712A JP 2016200712 A JP2016200712 A JP 2016200712A JP 2015080591 A JP2015080591 A JP 2015080591A JP 2015080591 A JP2015080591 A JP 2015080591A JP 2016200712 A JP2016200712 A JP 2016200712A
Authority
JP
Japan
Prior art keywords
ensemble
sound
point
player
information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015080591A
Other languages
Japanese (ja)
Other versions
JP6305958B2 (en
Inventor
尚 佐藤
Takashi Sato
尚 佐藤
健弘 守谷
Takehiro Moriya
健弘 守谷
優 鎌本
Masaru Kamamoto
優 鎌本
パブロ ナバ ガブリエル
Pablo Nava Gabriele
パブロ ナバ ガブリエル
善史 白木
Yoshifumi Shiraki
善史 白木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2015080591A priority Critical patent/JP6305958B2/en
Publication of JP2016200712A publication Critical patent/JP2016200712A/en
Application granted granted Critical
Publication of JP6305958B2 publication Critical patent/JP6305958B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Measurement And Recording Of Electrical Phenomena And Electrical Characteristics Of The Living Body (AREA)
  • Electrophonic Musical Instruments (AREA)

Abstract

PROBLEM TO BE SOLVED: To provide a concert device etc., reducing a feeling of discomfort resulting from a delay time on a network by a different method from prior art.SOLUTION: A concert device is arranged at a first place so as to actualize a concert by a first player at the first place and a second player at a second place different from the first place through a network. The concert device includes a biological signal acquisition part which acquires biological information corresponding to a biological signal generated as the first player intends to act to generate a sound beating out of rhythm, and a transmission part which transmits biological information to the second place through the network and then transmits musical sound information corresponding to a sound generated by a motion of the biological information, and stimulation corresponding to the biological information is represented to the second player earlier at the second place than when a sound corresponding to musical sound information is reproduced.SELECTED DRAWING: Figure 2

Description

本発明は、ネットワークを介して、第一地点にいる第一演奏者と、上記第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する合奏装置、合奏システム、その方法及びプログラムに関する。   The present invention provides an ensemble apparatus, an ensemble system, and a method for realizing an ensemble between a first performer at a first point and a second performer at a second point different from the first point via a network. And the program.

ネットワークを介して、第一地点にいる第一演奏者と、上記第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する合奏システムの従来技術として特許文献1が知られている。遠隔地共演ではネットワーク上の遅延時間にともなってコラボレーション(共演)が難しくなるが、特許文献1では、各地点において、演奏操作から楽音が出力されるまでに、2つの地点間の通信の往復遅延時間の約半分の遅延が生じさせることで、言い換えると、往復遅延時間を各地点において分け合うことで、各地点の演奏者の違和感を低減している。   Patent Document 1 is known as a prior art of an ensemble system that realizes an ensemble between a first performer at a first point and a second performer at a second point different from the first point via a network. ing. In remote co-starring, collaboration (co-starring) becomes difficult due to the delay time on the network. However, in Patent Document 1, the round trip delay of communication between two points before the musical sound is output from the performance operation at each point. By causing a delay of about half of the time, in other words, by sharing the round trip delay time at each point, the player feels uncomfortable at each point.

特開2007−178860号公報JP 2007-178860 A

しかしながら、従来技術では、演奏操作から楽音が出力されるまでに、2つの地点間の通信の往復遅延時間の約半分の遅延が生じるため、演奏者に違和感が残る場合がある。   However, in the related art, a delay of about half of the round-trip delay time of communication between the two points occurs between the performance operation and the output of the musical tone, so that the player may feel uncomfortable.

本発明は、従来技術とは異なる方法でネットワーク上の遅延時間に基づく違和感を低減する合奏装置、合奏システム、その方法及びプログラムを提供することを目的とする。   An object of the present invention is to provide an ensemble apparatus, an ensemble system, a method thereof, and a program for reducing a sense of incongruity based on a delay time on a network by a method different from the prior art.

上記の課題を解決するために、本発明の一態様によれば、合奏装置は、ネットワークを介して、第一地点にいる第一演奏者と、第一地点とは異なる第二地点にいる第二演奏者との合奏を実現するために第一地点に配置される。合奏装置は、第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得部と、ネットワークを介して第二地点に、生体情報を送信し、その後、生体信号による動きにより発生した音に対応する楽音情報を送信する送信部と、を含み、第二地点では、楽音情報に対応する音が再生されるよりも早く、生体情報に対応する刺激が第二演奏者に呈示される。   In order to solve the above-described problem, according to one aspect of the present invention, the ensemble apparatus is connected to the first player at the first point and the second point different from the first point via the network. Arranged at the first point to achieve an ensemble with two performers. The ensemble apparatus includes a biological signal acquisition unit that acquires biological information corresponding to a biological signal generated due to the first player's intention to make a movement that generates a rhythmic sound, and a network. A transmitter that transmits biological information to the second point and then transmits musical information corresponding to the sound generated by the movement of the biological signal. At the second point, the sound corresponding to the musical information is reproduced. The stimulus corresponding to the biometric information is presented to the second player earlier than the second player.

上記の課題を解決するために、本発明の他の態様によれば、合奏システムは、ネットワークを介して、第一地点にいる第一演奏者と、第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する。合奏システムは、第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得部と、ネットワークを介して第二地点に、生体情報を送信し、その後、生体信号による動きにより発生した音に対応する楽音情報を送信する送信部と、を含む第一合奏装置と、生体情報を受信し、その後、楽音情報を受信する受信部と、生体情報に基づき、第二演奏者に刺激を呈示する呈示部と、を含む第二合奏装置とを有する。   In order to solve the above problems, according to another aspect of the present invention, the ensemble system is located at a second point different from the first point and the first player at the first point via the network. Realize an ensemble with a second performer. The ensemble system includes a biological signal acquisition unit that acquires biological information corresponding to a biological signal generated due to the first player's intention to make a movement that generates a rhythmic sound, and a network. A first ensemble apparatus including: a transmitting unit that transmits biological information to a second point, and then transmits musical sound information corresponding to a sound generated by the movement of the biological signal; and receives the biological information; A second ensemble apparatus including a receiving unit that receives information and a presentation unit that presents a stimulus to the second player based on the biological information;

上記の課題を解決するために、本発明の他の態様によれば、合奏方法は、ネットワークを介して、第一地点にいる第一演奏者と、第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する。合奏方法は、生体信号取得部が、第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得ステップと、送信部が、ネットワークを介して第二地点に、生体情報を送信する第一送信ステップと、音取得部が、生体信号による動きにより発生した音に対応する楽音情報を取得する音取得ステップと、送信部が、ネットワークを介して第二地点に、楽音情報を送信する第二送信ステップと、を含み、第二地点では、楽音情報に対応する音が再生されるよりも早く、生体情報に対応する刺激が第二演奏者に呈示される。   In order to solve the above-mentioned problems, according to another aspect of the present invention, the ensemble method is located at a second point different from the first point and the first player at the first point via the network. Realize an ensemble with a second performer. The ensemble method is a biological signal acquisition step in which the biological signal acquisition unit acquires biological information corresponding to the biological signal generated due to the first player's intention to generate a rhythmic sound. A first transmission step in which the transmission unit transmits the biological information to the second point via the network; and a sound acquisition step in which the sound acquisition unit acquires the musical sound information corresponding to the sound generated by the movement by the biological signal. And a second transmission step in which the transmission unit transmits the musical sound information to the second point via the network, and at the second point, the biological information is obtained earlier than the sound corresponding to the musical sound information is reproduced. A stimulus corresponding to is presented to the second player.

上記の課題を解決するために、本発明の他の態様によれば、合奏方法は、第一地点に配置された第一合奏装置と、第一地点とは異なる第二地点に配置された第二合奏装置を用いて、ネットワークを介して、第一地点にいる第一演奏者と、第二地点にいる第二演奏者との合奏を実現する。合奏方法は、第一合奏装置が、第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得ステップと、第一合奏装置が、ネットワークを介して第二地点に、生体情報を送信する第一送信ステップと、第二合奏装置が、生体情報を受信する第一受信ステップと、第二合奏装置が、生体情報に基づき、第二演奏者に刺激を呈示する呈示ステップと、第一合奏装置が、生体信号による動きにより発生した音に対応する楽音情報を取得する音取得ステップと、第一合奏装置が、ネットワークを介して第二地点に、楽音情報を送信する第二送信ステップと、第二合奏装置が、楽音情報を受信する第二受信ステップと、
第二合奏装置が、楽音情報に基づき、音を再生する再生ステップとを含む。
In order to solve the above-mentioned problem, according to another aspect of the present invention, the ensemble method includes a first ensemble apparatus arranged at the first point and a second ensemble arranged at a second point different from the first point. The ensemble between the first performer at the first point and the second performer at the second point is realized via the network using the double ensemble device. In the ensemble method, the first ensemble apparatus acquires biological information corresponding to the biological signal generated due to the first player's intention to make a movement that generates a rhythmic sound. A first transmission step in which the first ensemble device transmits biological information to the second point via the network, a first reception step in which the second ensemble device receives the biological information, and a second ensemble device A presentation step of presenting a stimulus to the second player based on the biological information, a sound acquisition step in which the first ensemble apparatus acquires musical tone information corresponding to a sound generated by a movement of the biological signal, and a first ensemble apparatus A second transmission step of transmitting the musical tone information to the second point via the network, a second reception step of the second ensemble device receiving the musical tone information,
The second ensemble apparatus includes a reproduction step of reproducing a sound based on the musical sound information.

本発明によれば、従来技術とは異なる方法でネットワーク上の遅延時間に基づく違和感を低減することができるという効果を奏する。   According to the present invention, it is possible to reduce a sense of incongruity based on a delay time on a network by a method different from that of the prior art.

図1Aはネットワーク上の通信の往復遅延時間と第一地点と第二地点で得られる楽音のタイミング(第一地点においてA音が演奏と同時発生する)を示した図。図1Bはネットワーク上の通信の往復遅延時間と第一地点と第二地点で得られる楽音のタイミング(第一地点においてA音をB音と同時再生する)を示した図。FIG. 1A is a diagram showing a round-trip delay time of communication on a network and timings of musical sounds obtained at a first point and a second point (A sound is generated simultaneously with a performance at the first point). FIG. 1B is a diagram showing the round trip delay time of communication on the network and the timing of the musical sound obtained at the first point and the second point (the A sound is simultaneously reproduced with the B sound at the first point). 図2Aは第一実施形態の合奏システムを用いた場合の刺激と楽音のタイミング(第一地点においてA音が演奏と同時発生する)を示す図。図2Bは第一実施形態の合奏システムを用いた場合の刺激と楽音のタイミング(第一地点においてA音をB音と同時再生する)を示す図。FIG. 2A is a diagram showing timing of stimulation and musical sound when the ensemble system of the first embodiment is used (A sound is generated simultaneously with performance at the first point). FIG. 2B is a diagram showing the timing of stimulation and musical sound when the ensemble system of the first embodiment is used (A sound is simultaneously reproduced with B sound at the first point). 第一実施形態の合奏システムを用いた場合の刺激と楽音のタイミングを示す図。The figure which shows the timing of a stimulus and a musical sound at the time of using the ensemble system of 1st embodiment. 第一実施形態に係る合奏システムの機能ブロック図。The functional block diagram of the ensemble system which concerns on 1st embodiment. 第一実施形態に係る合奏システムの処理フローの例を示す図。The figure which shows the example of the processing flow of the ensemble system which concerns on 1st embodiment. 図6Aは第一実施形態の変形例の合奏システムを用いた場合の刺激と楽音のタイミング(第一地点においてA音が演奏と同時発生する)を示す図。図26は第一実施形態の変形例の合奏システムを用いた場合の刺激と楽音のタイミング(第二地点においてA音をB音と同時再生する)を示す図。FIG. 6A is a diagram showing the timing of stimulation and musical sound when the ensemble system according to the modification of the first embodiment is used (A sound is generated simultaneously with performance at the first point). FIG. 26 is a diagram showing the timing of stimulation and musical sound when the ensemble system according to the modification of the first embodiment is used (A sound is simultaneously reproduced with B sound at the second point).

以下、本発明の実施形態について、説明する。なお、以下の説明に用いる図面では、同じ機能を持つ構成部や同じ処理を行うステップには同一の符号を記し、重複説明を省略する。   Hereinafter, embodiments of the present invention will be described. In the drawings used for the following description, constituent parts having the same function and steps for performing the same process are denoted by the same reference numerals, and redundant description is omitted.

<第一実施形態のポイント>
まず本実施形態の基本原理について述べる。図1は、第一地点から第二地点への往路の所要時間(伝送遅延)が例えば20msで、復路の所要時間(伝送遅延)が例えば180msのときに、第一地点で演奏入力動作(例えば鍵盤を1回押す動作)をした場合に、第一地点と第二地点で得られる楽音のタイミングを示した図である。つまり、ネットワーク上の通信の往復遅延時間を表している。
<Points of first embodiment>
First, the basic principle of this embodiment will be described. FIG. 1 shows that when the required time (transmission delay) for the forward path from the first point to the second point is, for example, 20 ms and the required time (transmission delay) for the return path is, for example, 180 ms, It is the figure which showed the timing of the musical sound obtained at the 1st point and the 2nd point when performing the operation | movement which presses a keyboard once). That is, it represents the round trip delay time of communication on the network.

第一地点の演奏者(以下「第一演奏者」ともいう)が楽器αを時刻taで演奏し、A音を出す場合、離れた第二地点では、その往路の所要時間分の20ms後の時刻tbに楽器αのA音が再生される。第二地点の演奏者(以下「第二演奏者」ともいう)はこのA音に合わせて楽器βを演奏し、B音を出すことが出来る。しかし、第二地点での演奏に基づく演奏情報を第一地点に送ると、第一地点では時刻taから200ms後の時刻tcでB音が再生される(図1A)。よって、第一演奏者が演奏動作を行ったタイミングでその動作に基づく楽音(A音)を発生させると、第一地点では演奏される楽音(A音及びB音)が同期して混合されない。   When a player at the first point (hereinafter also referred to as “first player”) plays the musical instrument α at time ta and makes an A sound, at the second point far away, 20 ms after the required time for the outbound route. The sound A of the musical instrument α is reproduced at time tb. The player at the second point (hereinafter also referred to as “second player”) can play the instrument β in accordance with the A sound and produce the B sound. However, when performance information based on the performance at the second point is sent to the first point, the B sound is reproduced at the first point at time tc 200 ms after time ta (FIG. 1A). Therefore, if the musical sound (A sound) based on the operation is generated at the timing when the first performer performs the performance operation, the musical sound (A sound and B sound) played at the first point is not mixed in synchronization.

この第一地点におけるB音に時刻taの演奏に基づくA音を同期させるためには、演奏動作から200ms後に楽音(A音)を発生させなければならない。これでは、第一演奏者は、自分の演奏動作とその動作に基づく楽音(A音)とのタイミングのずれが大きいため、大きな違和感を感じる(図1B)。   In order to synchronize the A sound based on the performance at time ta with the B sound at the first point, a musical sound (A sound) must be generated 200 ms after the performance operation. In this case, the first performer feels a great sense of incongruity because the timing difference between his performance and the musical sound (sound A) based on the performance is large (FIG. 1B).

そこで、本実施形態では、第二地点において、楽音(A音)が出力されるよりも早いタイミングtfで、楽音(A音)が出力されることを第二演奏者に知らせる(図2参照)。本実施形態では、楽音(A音)とは異なる刺激を第二演奏者に呈示することで知らせる。刺激の後に所定の時間間隔を置いて楽音が再生されることが続くと、第二演奏者は、実際に楽音(A音)が再生されるタイミングtbよりも早いタイミング(時刻tf以上時刻tb未満のタイミング)で楽音(A音)が再生されているように錯覚すると考えられる。その結果、第二演奏者は、錯覚したタイミング(実際に楽音(A音)が再生されるタイミングtbよりも早いタイミングth)で楽器βを演奏し、B音を出す。第二地点において、A音とB音のなるタイミングは異なるが、第二演奏者は上述の錯覚により合奏している感覚を得ることができる。一方、第一地点においても、A音とB音のなるタイミングta,tiは異なるが、その誤差は図1Aの場合より小さく、第一演奏者は合奏している感覚を得ることができる。なお、第一地点におけるB音に時刻taの演奏に基づくA音を同期させるために、演奏動作の後に楽音(A音)を再生してもよい(図2B参照)。その場合、自分の演奏動作とその動作に基づく楽音(A音)とのタイミングのずれは、図1Bの場合より小さく、違和感を低減することができる。図示していないが、同様に、第二地点におけるA音に時刻thの演奏に基づくB音を同期させるために、演奏動作の後に、タイミングtbで楽音(B音)を再生してもよい。仮に第二演奏者に上述の錯覚が生じないとしても、刺激の後に所定の時間間隔を置いて楽音が再生されること説明し、刺激のリズムに合わせて(A音が再生されるよりも早いタイミングで)楽器βを演奏するように指示することで、同様の効果を得ることができる。   Therefore, in the present embodiment, at the second point, the second player is notified that the musical sound (sound A) is output at a timing tf earlier than the musical sound (sound A) is output (see FIG. 2). . In this embodiment, the second player is notified by presenting a stimulus different from the musical sound (sound A). If the music continues to be played at a predetermined time interval after the stimulus, the second performer starts timing (between time tf and less than time tb) earlier than the timing tb when the music (sound A) is actually played. It is considered that the musical sound (A sound) is played at the timing of As a result, the second player plays the musical instrument β at the illusionary timing (timing th earlier than the timing tb at which the musical sound (A sound) is actually reproduced) to produce the B sound. At the second point, the timing of the A sound and the B sound is different, but the second player can obtain a sense of performing with the above illusion. On the other hand, at the first point, the timings ta and ti of the A sound and the B sound are different, but the error is smaller than in the case of FIG. 1A, and the first player can obtain a sense of performing. In order to synchronize the A sound based on the performance at the time ta with the B sound at the first point, the musical sound (A sound) may be reproduced after the performance operation (see FIG. 2B). In that case, the timing difference between the performance performance of the player and the musical sound (sound A) based on the performance is smaller than in the case of FIG. 1B, and the uncomfortable feeling can be reduced. Although not shown, similarly, in order to synchronize the B sound based on the performance at the time th with the A sound at the second point, the musical sound (B sound) may be reproduced at the timing tb after the performance operation. Even if the above-mentioned illusion does not occur in the second performer, it will be explained that the musical sound is reproduced at a predetermined time interval after the stimulation, and in accordance with the rhythm of the stimulation (faster than the A sound is reproduced) By instructing to play the instrument β (at timing), the same effect can be obtained.

本実施形態では、楽音が出力されるよりも早いタイミングで、楽音が出力されることを知らせるために、第一演奏者が演奏動作を行う際に発生する筋電位を利用する。これは、演奏動作により発生する楽音が得られるよりも数百ms(図2の例では、550ms)前に、その演奏動作に対応する筋肉の動きにより筋電位が発生するためである。   In the present embodiment, the myoelectric potential generated when the first performer performs a performance operation is used to notify that the musical sound is output at an earlier timing than the musical sound is output. This is because a myoelectric potential is generated by the movement of the muscle corresponding to the performance operation several hundred ms before the musical sound generated by the performance operation is obtained (550 ms in the example of FIG. 2).

なお、図3のように、第一地点において、楽音(B音)が出力されるよりも早いタイミングtgで、楽音(B音)が出力されることを第一演奏者に知らせてもよい。このような構成により、各演奏者は互いに同期していると錯覚しながら、実際の再生音よりも早いタイミングに同期するように各楽器を演奏し、違和感を低減することができる。   As shown in FIG. 3, the first player may be informed that the musical sound (B sound) is output at a timing tg earlier than the musical sound (B sound) is output at the first point. With such a configuration, it is possible to reduce the sense of incongruity by playing each instrument so that the performers are synchronized with each other at an earlier timing than the actual playback sound, with the illusion that the performers are synchronized with each other.

<合奏システム1>
図4は第一実施形態に係る合奏システム1の機能ブロック図を、図5はその処理フローを示す。
<Ensemble system 1>
FIG. 4 is a functional block diagram of the ensemble system 1 according to the first embodiment, and FIG. 5 shows a processing flow thereof.

合奏システム1はR台の合奏装置100−rを含み、R台の合奏装置100−rは通信回線10を介して接続可能とされている。Rは2以上の整数の何れかであり、r=1,2,…,Rである。本実施形態では合奏装置100−pと合奏装置100−qとの間で合奏を行う場合について説明する。ただし、p及びqはそれぞれ1,2,…,Rの何れかであり、p≠qである。なお、合奏装置100−pは第一地点に配置されており、第一地点には第一演奏者がいるものとし、合奏装置100−qは第一地点とは異なる第二地点に配置されており、第二地点には第二演奏者がいるものとする。合奏システム1は、第一演奏者と、第二演奏者との合奏を実現する。   The ensemble system 1 includes R ensemble apparatuses 100-r, and the R ensemble apparatuses 100-r can be connected via the communication line 10. R is any integer of 2 or more, and r = 1, 2,. This embodiment demonstrates the case where an ensemble is performed between ensemble apparatus 100-p and ensemble apparatus 100-q. Here, p and q are 1, 2,..., R, respectively, and p ≠ q. Note that the ensemble apparatus 100-p is arranged at the first point, the first player is at the first point, and the ensemble apparatus 100-q is arranged at the second point different from the first point. It is assumed that there is a second performer at the second point. The ensemble system 1 realizes an ensemble between the first performer and the second performer.

合奏装置100−rは、生体信号取得部110−r、音取得部120−r、送信部130−r、再生部140−r、呈示部150−r及び受信部160−rを含む。   The ensemble apparatus 100-r includes a biological signal acquisition unit 110-r, a sound acquisition unit 120-r, a transmission unit 130-r, a reproduction unit 140-r, a presentation unit 150-r, and a reception unit 160-r.

<生体信号取得部110−p>
合奏装置100−pの生体信号取得部110−pが、第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する(S1)。送信部130−pが、通信回線10を介して第二地点の合奏装置100−qに、生体情報を送信する(S2)。
<Biological signal acquisition unit 110-p>
The biological signal acquisition unit 110-p of the ensemble apparatus 100-p acquires biological information corresponding to the biological signal generated due to the intention of the first performer to generate a rhythmic sound. (S1). The transmission unit 130-p transmits the biological information to the ensemble apparatus 100-q at the second point via the communication line 10 (S2).

例えば、生体信号として、合奏に関わる者が主にリズムを刻むために動かす部位から取得した演奏のタイミングに関する筋電位に対応する情報を用いる。筋電位に対応する理由は、前述の通り、筋電位が、筋肉の動きにより音が発生するよりも早い時点(数百ms前、図2の例では550ms前)で発生するためである。例えば、筋電位を取得する部位は、リズムを刻む音を発生する動きに深く関与する部位が望ましい。例えば、第一演奏者がドラム演奏者ならば二の腕であり、ピアノ演奏者ならば左手の前腕である。なお、1チャネルではなく、複数チャネルの筋電位を取得しても良い。例えば、演奏者がドラム演奏者の場合には、1チャネルならば二の腕の拮抗筋に、複数チャネルならば二の腕の拮抗筋と主働筋に、筋電位測定用の電極を取り付ければよく、演奏者がピアノ演奏者の場合、1チャネルならば左手の前腕の何れか(例えば鍵盤を弾く際に動かす指に対応して動く複数の箇所の中の何れか1箇所)に、複数チャネルならば左手の前腕全体(例えば鍵盤を弾く際に動かす指に対応して動く複数の箇所の中の何れか2個以上)に筋電位測定用の電極を取り付ければよい。要は、リズムを刻むための筋肉に電極を取り付ければよい。   For example, the information corresponding to the myoelectric potential regarding the timing of the performance acquired from the part moved by the person involved in the ensemble mainly to engrave the rhythm is used as the biological signal. The reason corresponding to the myoelectric potential is that, as described above, the myoelectric potential is generated at an earlier time (several hundred ms before, 550 ms in the example of FIG. 2) than the sound is generated by the movement of the muscle. For example, it is desirable that the part for acquiring the myoelectric potential is a part that is deeply involved in the movement that generates a rhythmic sound. For example, if the first performer is a drum performer, it is the second arm, and if it is a piano performer, the left arm is the forearm. Note that myopotentials of a plurality of channels may be acquired instead of one channel. For example, if the performer is a drum performer, the electromyogram measurement electrodes may be attached to the antagonistic muscles of the second arm if there is one channel, and the antagonistic muscles and active muscles of the second arm if there are multiple channels. In the case of a piano player, the left arm's forearm is one channel (for example, one of a plurality of locations that move in response to the finger moving when playing the keyboard), and the left hand's forearm is multiple channels. The myoelectric potential measuring electrode may be attached to the whole (for example, any two or more of a plurality of locations that move corresponding to the finger that moves when playing the keyboard). In short, it is only necessary to attach an electrode to the muscle for engraving the rhythm.

なお、複数チャネルの筋電位を取得する場合には、チャネル間の加算または差分を送っても良い。例えば、ドラム演奏者の二の腕の拮抗筋及び主働筋の筋電位を取得する場合には、筋電位の差分を送ることにより、より正確にドラムを叩くタイミングを得ることができる。また、ピアノ演奏者の左手の前腕全体の筋電位を取得する場合には、得られた筋電位の総和を送ることにより、各指の打鍵タイミングをひとつのタイミングとして扱えることができる。   When acquiring myoelectric potentials of a plurality of channels, addition or difference between channels may be sent. For example, when acquiring the myoelectric potentials of the antagonist's upper arm and the main muscle of the drum performer, the timing of hitting the drum can be obtained more accurately by sending the difference in myoelectric potential. Further, when acquiring the myoelectric potential of the entire forearm of the left hand of the piano player, the keystroke timing of each finger can be handled as one timing by sending the sum of the obtained myoelectric potentials.

また、伝送量を減らすために、筋電位、その差分及びその和の少なくとも何れかをそのまま送るのではなく、単位時間当たりのスパイク量(筋電位、その差分及びその和の少なくとも何れかが閾値を超えたピークの数)を伝送してもよい。なお、単位時間当たりのスパイク量を得るために、筋電位を蓄積する必要があり、遅延が生じるが、この遅延は、演奏動作により楽音が発生する時刻と演奏動作に対応する筋肉の動きにより筋電位が発生する時刻との間隔(例えば図2の場合、間隔te−ta)に比べれば十分に小さいため、楽音が出力されるよりも早いタイミングで、楽音が出力されることを知らせることは可能である。   In addition, in order to reduce the transmission amount, at least one of the myoelectric potential, the difference and the sum thereof is not sent as it is, but the spike amount per unit time (the myoelectric potential, the difference and the sum thereof has a threshold value). The number of peaks exceeded) may be transmitted. In addition, in order to obtain the spike amount per unit time, it is necessary to accumulate myoelectric potential, which causes a delay. This delay is caused by the time when the musical sound is generated by the performance operation and the muscle movement corresponding to the performance operation. Since it is sufficiently smaller than the interval (for example, interval te-ta in the case of FIG. 2) with the time at which the potential is generated, it is possible to notify that the musical sound is output at an earlier timing than the musical sound is output. It is.

例えば、生体信号取得部110−pは、既知の筋電位測定装置を含み、その測定結果である筋電位を用いて、(1)そのまま、(2)複数チャネルの場合には、筋電位の差分及び和、(3) (1)または(2)の単位時間当たりのスパイク量の少なくとも何れかを生体情報として取得する。   For example, the biosignal acquisition unit 110-p includes a known myoelectric potential measurement device, and uses the myoelectric potential that is the measurement result to (1) as it is, (2) in the case of multiple channels, the difference in myoelectric potential And (3) At least one of spike amounts per unit time of (1) or (2) is acquired as biological information.

<呈示部150−q>
合奏装置100−qの受信部160−qが、生体情報を受信する(S3)。このとき、第一地点から第二地点に生体情報を伝送する際に、数十msの遅延が生じたとしても、第二演奏者側に生体情報が到着した時点では第一地点ではA音は発生していないぐらい時間的な余裕がある。
<Presentation part 150-q>
The receiving unit 160-q of the ensemble apparatus 100-q receives the biological information (S3). At this time, even when a delay of several tens of ms occurs when transmitting the biological information from the first point to the second point, the sound A at the first point is not received when the biological information arrives at the second player side. There is time to spare so that it does not occur.

合奏装置100−qの呈示部150−qが、生体情報に基づき、第二演奏者に刺激を呈示する(S4)。   The presentation unit 150-q of the ensemble apparatus 100-q presents a stimulus to the second player based on the biological information (S4).

呈示の仕方として、生体情報((1)筋電位そのもの、(2)複数の筋電位の差分及び和、(3) (1)または(2)の単位時間当たりのスパイク量の少なくとも何れか)からタイミング情報を取り出し、それをリズム表示する。タイミング情報とは、例えば、筋電図のスパイク量が閾値を超えたタイミングを示す情報である。   As a presentation method, from biological information ((1) myoelectric potential itself, (2) difference and sum of multiple myoelectric potentials, (3) (1) or (2) spike amount per unit time) Take out the timing information and display it in rhythm. The timing information is, for example, information indicating the timing at which the amount of spike of the electromyogram exceeds a threshold value.

また、リズム表示の方法としては、例えば、(1)タイミングと同期したフラッシュや振り子などを視覚的に呈示したり、または(2)タイミングと同期した振動などにより触覚的に呈示したり、または(3)メトロノーム音など、A音とは異なる音により聴覚的に呈示する方法等が考えられる。例えば、呈示部150は、視覚的に提示するのであれば光刺激を呈示するためのLEDやディスプレイ等の装置を含み、触覚的に提示するのであれば触覚的な刺激を呈示するためのバイブレータ等の装置を含み、聴覚的に提示するのであれば再生部140−qにA音とは異なる音に対応する信号を出力すればよい。また、(4)機能的電気刺激により呈示してもよい。例えば、FES(Functional Electrical Stimulation)により実現する(特許文献1参照)。このとき、機能的電気刺激の強さは適宜設定すればよい。例えば、ピリピリとした電気刺激を感じさせるだけでもよいし、筋肉そのものを動かすほどの電気刺激を与えてもよい。   Also, as a method of rhythm display, for example, (1) flash or pendulum synchronized with timing is presented visually, (2) tactile presentation by vibration synchronized with timing, or ( 3) A method such as a metronome sound that can be presented auditorially with a sound different from the A sound is conceivable. For example, the presentation unit 150 includes a device such as an LED or a display for presenting a light stimulus if visually presented, and a vibrator or the like for presenting a tactile stimulus if presented visually. If the device is included and is presented auditorily, a signal corresponding to a sound different from the A sound may be output to the reproduction unit 140-q. Moreover, (4) You may present by functional electrical stimulation. For example, it implement | achieves by FES (Functional Electrical Stimulation) (refer patent document 1). At this time, the strength of functional electrical stimulation may be set as appropriate. For example, it is possible to just feel a tingling electrical stimulation, or an electrical stimulation that moves the muscle itself.

言い換えると、呈示部150−qによって、第二地点では、楽音情報に対応する音が再生されるよりも早く、生体情報に対応する視覚的刺激、触覚的刺激及び聴覚的刺激の少なくとも何れかが、リズム(このリズムは、αの演奏、または、演奏に起因する筋電位に対応するリズムである)に合わせて第二演奏者に呈示される。または、生体情報に対応する機能的電気刺激が、リズムに合わせて第二演奏者に呈示される。   In other words, at the second point, at least one of a visual stimulus, a tactile stimulus, and an auditory stimulus corresponding to the biological information is generated at the second point by the presenting unit 150-q before the sound corresponding to the musical tone information is reproduced. The second player is presented in accordance with the rhythm (this rhythm is a rhythm corresponding to the performance of α or the myoelectric potential resulting from the performance). Or the functional electrical stimulation corresponding to biometric information is shown to a 2nd player according to a rhythm.

表示の仕方として筋電情報を直接表示することでリズムを伝えてもよい。そのまま波形を視覚的に表示することで、データ加工の時間を省き、遅延をより減らすことができる。また、スパイク量と連動してバーの長さを変えても良い。   The rhythm may be transmitted by directly displaying myoelectric information as a display method. By visually displaying the waveform as it is, the time for data processing can be saved and the delay can be further reduced. Further, the length of the bar may be changed in conjunction with the spike amount.

なお、伝送遅延を考慮しても刺激を呈示するタイミングが早すぎる場合(刺激を呈示するのが早すぎて曲のリズムに合わせ難くなる場合)には、遅延を入れてもよい。例えば、合奏装置100−pで生体情報を伝送するタイミングを遅らせてもよいし、合奏装置100−qで刺激を呈示するタイミングを遅らせてもよい。   If the timing for presenting the stimulus is too early even when the transmission delay is taken into account (if the stimulus is presented too early and it becomes difficult to match the rhythm of the song), a delay may be added. For example, the timing at which biological information is transmitted by the ensemble apparatus 100-p may be delayed, or the timing at which stimulation is presented by the ensemble apparatus 100-q may be delayed.

<音取得部120−p>
合奏装置100−pの音取得部120−pが、生体信号による動きにより発生した音に対応する楽音情報を取得する(S5)。合奏装置100−pの送信部130−pが、通信回線10を介して第二地点の合奏装置100−qに、楽音情報を送信する(S6)。
<Sound acquisition unit 120-p>
The sound acquisition unit 120-p of the ensemble apparatus 100-p acquires musical tone information corresponding to the sound generated by the movement due to the biological signal (S5). The transmitting unit 130-p of the ensemble apparatus 100-p transmits musical tone information to the ensemble apparatus 100-q at the second point via the communication line 10 (S6).

例えば、音取得部120−pとしてマイクロホンを用い、マイクロホンの出力信号(収音信号)を楽音情報としてもよい。また、音取得部120−pとして電子楽器を用い、電子楽器の出力信号を楽音情報としてもよい。また、マイクロホンまたは電子楽器の出力信号そのものではなく、出力信号に対応する情報、例えば、アナログ出力信号、デジタル出力信号、周波数領域の出力信号、出力信号を既知の音声符号化により符号化して得られる符号等を楽音情報として用いてもよい。   For example, a microphone may be used as the sound acquisition unit 120-p, and a microphone output signal (sound collection signal) may be used as musical sound information. Further, an electronic musical instrument may be used as the sound acquisition unit 120-p, and an output signal of the electronic musical instrument may be used as musical sound information. In addition, the information corresponding to the output signal, for example, the analog output signal, the digital output signal, the output signal in the frequency domain, and the output signal, not the output signal itself of the microphone or the electronic musical instrument, can be obtained by encoding with known speech encoding. A code or the like may be used as musical tone information.

<再生部140−q>
合奏装置100−qの受信部160−qが、楽音情報を受信する(S7)。合奏装置100−qの再生部140−qが、楽音情報に基づき、音を再生する(S8)。再生部140−qとして例えばスピーカを用いる。なお、第二演奏者の演奏する楽器βのB音を音取得部120−qで取得し、再生部140−qから再生してもよい。この場合、再生のタイミングは、楽器βの演奏時でもよいし(図2A参照)、A音の再生時に合わせて遅延させてもよい。なお、A音とB音の混合方法、及び、B音を遅延させる方法は従来技術と同様の方法により実現すればよい(例えば特許文献1参照)。
<Reproducing unit 140-q>
The receiving unit 160-q of the ensemble apparatus 100-q receives musical tone information (S7). The reproduction unit 140-q of the ensemble apparatus 100-q reproduces a sound based on the musical sound information (S8). For example, a speaker is used as the reproducing unit 140-q. Note that the B sound of the musical instrument β played by the second player may be acquired by the sound acquisition unit 120-q and reproduced from the reproduction unit 140-q. In this case, the reproduction timing may be during performance of the musical instrument β (see FIG. 2A) or may be delayed in accordance with the reproduction of the A sound. In addition, what is necessary is just to implement | achieve the mixing method of A sound and B sound, and the method of delaying B sound by the method similar to a prior art (for example, refer patent document 1).

なお、合奏装置100−qから合奏装置100−pに楽音情報を送る際にも、同様の処理を行うことで、図3の合奏を実現することができる。   In addition, when sending musical tone information from the ensemble apparatus 100-q to the ensemble apparatus 100-p, the ensemble shown in FIG. 3 can be realized by performing the same processing.

刺激が呈示されてから楽音が再生されるまでの時間間隔を一定とするために、通信回線10は通信遅延が一定となるものが望ましい。   In order to make the time interval from when the stimulus is presented to when the musical sound is reproduced constant, it is desirable that the communication line 10 has a constant communication delay.

<効果>
以上の構成により、従来技術とは異なる方法でネットワーク上の遅延時間に基づく違和感を低減することができる。
<Effect>
With the above configuration, it is possible to reduce a sense of incongruity based on the delay time on the network by a method different from the conventional technique.

<変形例>
本実施形態では、生体情報として、筋電位に対応する情報を用いたが、第一演奏者の演奏のリズムを刻むタイミングに関する運動野、錐体路及び筋肉の少なくとも何れかの活動に基づき発生する生体信号に対応する情報を用いてもよい。要は、演奏により発生する楽音が得られるよりも前に、その演奏動作に対応する生体信号が得られれば良い。例えば、筋電位ではなく、筋肉の活動に合わせて変化する、筋音計によって測定した筋音図を生体情報として用いてもよい。また、筋肉に信号を送る運動野または錐体路の活動に基づき発生する生体信号に対応する情報から本実施形態と同様の効果を得ることができる。
<Modification>
In the present embodiment, information corresponding to the myoelectric potential is used as the biological information. However, the biometric information is generated based on at least one activity of the motor cortex, the pyramidal tract, and the muscle related to the timing of engraving the rhythm of the performance of the first player. Information corresponding to the biological signal may be used. In short, it is only necessary to obtain a biological signal corresponding to the performance operation before the musical sound generated by the performance is obtained. For example, instead of the myoelectric potential, a myomogram measured by a myomometer that changes in accordance with muscle activity may be used as the biological information. Moreover, the same effect as this embodiment can be acquired from the information corresponding to the biological signal generated based on the activity of the motor cortex or the cone path that sends a signal to the muscle.

本実施形態では、演奏者は楽器を演奏するものとして説明したが、演奏者は合奏にかかわるもの全般を意味する。「演奏者」は、例えば、楽器を使わずに歌うボーカルや、音を出さないが曲に合わせて指揮棒を振る指揮者や、曲のリズム、テンポに合わせて踊るダンサーを含む概念であり、言い換えると、曲のリズム、テンポに合わせて他の演奏者とともに何らかの動作を行うものを意味する。例えば、ボーカルの腹筋や指揮者の腕に電極を取り付けて筋電位を取得することで、リズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号を得ることができる。   In the present embodiment, the performer has been described as playing an instrument. However, the performer generally means anything related to an ensemble. "Performer" is a concept that includes, for example, vocals that sing without using instruments, conductors that do not produce sound but swing conductors to the song, and dancers that dance to the rhythm and tempo of the song, In other words, it means something that performs some action with other performers according to the rhythm and tempo of the song. For example, by attaching an electrode to the vocal abdominal muscles or the arm of a conductor to acquire myoelectric potential, it is possible to obtain a biological signal that is generated due to the intention of making a movement that generates a rhythmic sound. it can.

なお、送信側の合奏装置100−pの必須構成は生体信号取得部110−p、送信部130−p及び160−pであり、音取得部120−p及び再生部140−pは別装置により実現してもよい。例えば、マイクロホンまたは電子楽器とスピーカとを合奏装置100−pに接続して用いればよい。一方、受信側の合奏装置100−qの必須構成は、呈示部150−q、受信部160−q及び送信部130−pであり、音取得部120−q及び再生部140−qは別装置により実現してもよい。   The essential components of the transmitting-side ensemble device 100-p are the biological signal acquisition unit 110-p, the transmission units 130-p and 160-p, and the sound acquisition unit 120-p and the playback unit 140-p are provided by separate devices. It may be realized. For example, a microphone or an electronic musical instrument and a speaker may be connected to the ensemble apparatus 100-p. On the other hand, the essential configuration of the reception-side ensemble apparatus 100-q is a presentation unit 150-q, a reception unit 160-q, and a transmission unit 130-p, and the sound acquisition unit 120-q and the reproduction unit 140-q are separate devices. May be realized.

なお、第二演奏者は呈示部150−qで呈示される刺激に合わせて演奏してもよい。このとき、刺激を呈示するタイミングを以下のように遅延させる。遅延時間d=(A音が発生するタイミング−筋電位が発生するタイミング(図2Aの例ではta−te))−ネットワーク上の通信の往復遅延時間(図2Aの例では(tf−te)+(ti−th))とし、第一地点では生体情報を取得してから遅延時間dだけ経過してから生体情報を送信するか、または、第二地点では生体情報を受け取ってから遅延時間dだけ経過してから刺激を呈示する(図6A参照)。このような構成とすることで、第二地点において、刺激に合わせて演奏すると、第一地点において、第一演奏者はB音の再生に合わせて楽器αを演奏することができ、第一演奏者の違和感を低減することができる。なお、第二地点において、B音を楽器βの演奏と共に出力するか(図6A)、A音の再生時に一緒に出力するか(図6B)は適宜設定すればよい。何れにしても、第二演奏者は刺激に合わせて演奏すればよいため、違和感を低減することができる。   Note that the second player may perform in accordance with the stimulus presented by the presentation unit 150-q. At this time, the timing for presenting the stimulus is delayed as follows. Delay time d = (timing at which sound A is generated−timing at which myoelectric potential is generated (ta−te in the example of FIG. 2A)) − round-trip delay time of communication on the network ((tf−te) in the example of FIG. 2A + (Ti-th)), and at the first point, the biological information is transmitted after the delay time d has elapsed since the biological information was acquired, or at the second point, only the delay time d after the biological information was received. The stimulus is presented after the passage (see FIG. 6A). With such a configuration, when playing in accordance with the stimulus at the second point, the first player can play the musical instrument α along with the reproduction of the B sound at the first point. It is possible to reduce a person's uncomfortable feeling. In addition, what is necessary is just to set suitably whether B sound is output with the performance of the musical instrument (beta) in a 2nd point (FIG. 6A), or is output together with the reproduction | regeneration of A sound (FIG. 6B). In any case, since the second player only needs to perform in accordance with the stimulus, the uncomfortable feeling can be reduced.

本発明は上記の実施形態及び変形例に限定されるものではない。例えば、上述の各種の処理は、記載に従って時系列に実行されるのみならず、処理を実行する装置の処理能力あるいは必要に応じて並列的にあるいは個別に実行されてもよい。その他、本発明の趣旨を逸脱しない範囲で適宜変更が可能である。   The present invention is not limited to the above-described embodiments and modifications. For example, the various processes described above are not only executed in time series according to the description, but may also be executed in parallel or individually as required by the processing capability of the apparatus that executes the processes. In addition, it can change suitably in the range which does not deviate from the meaning of this invention.

<プログラム及び記録媒体>
また、上記の実施形態及び変形例で説明した各装置における各種の処理機能をコンピュータによって実現してもよい。その場合、各装置が有すべき機能の処理内容はプログラムによって記述される。そして、このプログラムをコンピュータで実行することにより、上記各装置における各種の処理機能がコンピュータ上で実現される。
<Program and recording medium>
In addition, various processing functions in each device described in the above embodiments and modifications may be realized by a computer. In that case, the processing contents of the functions that each device should have are described by a program. Then, by executing this program on a computer, various processing functions in each of the above devices are realized on the computer.

この処理内容を記述したプログラムは、コンピュータで読み取り可能な記録媒体に記録しておくことができる。コンピュータで読み取り可能な記録媒体としては、例えば、磁気記録装置、光ディスク、光磁気記録媒体、半導体メモリ等どのようなものでもよい。   The program describing the processing contents can be recorded on a computer-readable recording medium. As the computer-readable recording medium, for example, any recording medium such as a magnetic recording device, an optical disk, a magneto-optical recording medium, and a semiconductor memory may be used.

また、このプログラムの流通は、例えば、そのプログラムを記録したDVD、CD−ROM等の可搬型記録媒体を販売、譲渡、貸与等することによって行う。さらに、このプログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することにより、このプログラムを流通させてもよい。   The program is distributed by selling, transferring, or lending a portable recording medium such as a DVD or CD-ROM in which the program is recorded. Further, the program may be distributed by storing the program in a storage device of the server computer and transferring the program from the server computer to another computer via a network.

このようなプログラムを実行するコンピュータは、例えば、まず、可搬型記録媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、一旦、自己の記憶部に格納する。そして、処理の実行時、このコンピュータは、自己の記憶部に格納されたプログラムを読み取り、読み取ったプログラムに従った処理を実行する。また、このプログラムの別の実施形態として、コンピュータが可搬型記録媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することとしてもよい。さらに、このコンピュータにサーバコンピュータからプログラムが転送されるたびに、逐次、受け取ったプログラムに従った処理を実行することとしてもよい。また、サーバコンピュータから、このコンピュータへのプログラムの転送は行わず、その実行指示と結果取得のみによって処理機能を実現する、いわゆるASP(Application Service Provider)型のサービスによって、上述の処理を実行する構成としてもよい。なお、プログラムには、電子計算機による処理の用に供する情報であってプログラムに準ずるもの(コンピュータに対する直接の指令ではないがコンピュータの処理を規定する性質を有するデータ等)を含むものとする。   A computer that executes such a program first stores, for example, a program recorded on a portable recording medium or a program transferred from a server computer in its storage unit. When executing the process, this computer reads the program stored in its own storage unit and executes the process according to the read program. As another embodiment of this program, a computer may read a program directly from a portable recording medium and execute processing according to the program. Further, each time a program is transferred from the server computer to the computer, processing according to the received program may be executed sequentially. Also, the program is not transferred from the server computer to the computer, and the above-described processing is executed by a so-called ASP (Application Service Provider) type service that realizes the processing function only by the execution instruction and result acquisition. It is good. Note that the program includes information provided for processing by the electronic computer and equivalent to the program (data that is not a direct command to the computer but has a property that defines the processing of the computer).

また、コンピュータ上で所定のプログラムを実行させることにより、各装置を構成することとしたが、これらの処理内容の少なくとも一部をハードウェア的に実現することとしてもよい。   In addition, although each device is configured by executing a predetermined program on a computer, at least a part of these processing contents may be realized by hardware.

Claims (10)

ネットワークを介して、第一地点にいる第一演奏者と、上記第一地点とは異なる第二地点にいる第二演奏者との合奏を実現するために上記第一地点に配置される合奏装置であって、
上記第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得部と、
上記ネットワークを介して上記第二地点に、上記生体情報を送信し、その後、上記生体信号による動きにより発生した音に対応する楽音情報を送信する送信部と、を含み、
上記第二地点では、上記楽音情報に対応する音が再生されるよりも早く、上記生体情報に対応する刺激が上記第二演奏者に呈示される、
合奏装置。
An ensemble device arranged at the first point in order to realize an ensemble between the first player at the first point and a second player at a second point different from the first point via a network. Because
A biological signal acquisition unit that acquires biological information corresponding to a biological signal generated due to the first player intending to make a movement that generates a rhythmic sound;
A transmitter that transmits the biological information to the second point via the network, and then transmits musical sound information corresponding to the sound generated by the movement of the biological signal,
At the second point, a stimulus corresponding to the biological information is presented to the second player earlier than the sound corresponding to the musical sound information is reproduced.
Ensemble device.
請求項1の合奏装置であって、
上記生体情報は、第一演奏者の演奏のリズムを刻むタイミングに関する運動野、錐体路及び筋肉の少なくとも何れかの活動に基づき発生する生体信号に対応する情報である、
合奏装置。
The ensemble apparatus according to claim 1,
The biological information is information corresponding to a biological signal generated based on the activity of at least one of the motor area, the cone path, and the muscle related to the timing of engraving the rhythm of the performance of the first player.
Ensemble device.
請求項2の合奏装置であって、
上記生体情報は、合奏に関わる者が主にリズムを刻むために動かす部位から取得した演奏のタイミングに関する筋電位に対応する情報である、
合奏装置。
An ensemble apparatus according to claim 2, wherein
The biometric information is information corresponding to the myoelectric potential related to the timing of the performance acquired from the part that the person involved in the ensemble moves mainly to cut the rhythm.
Ensemble device.
請求項3の合奏装置であって、
上記筋電位は、上記第一演奏者がドラム演奏者の場合には二の腕の拮抗筋の筋電位であり、上記第一演奏者がピアノ演奏者の場合には左手前腕の筋電位である、
合奏装置。
An ensemble apparatus according to claim 3, wherein
The myoelectric potential is the myoelectric potential of the antagonistic muscle of the second arm when the first player is a drum player, and the myoelectric potential of the left forearm when the first player is a piano player.
Ensemble device.
ネットワークを介して、第一地点にいる第一演奏者と、上記第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する合奏システムであって、
上記第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得部と、
上記ネットワークを介して上記第二地点に、上記生体情報を送信し、その後、上記生体信号による動きにより発生した音に対応する楽音情報を送信する送信部と、を含む第一合奏装置と、
上記生体情報を受信し、その後、上記楽音情報を受信する受信部と、
上記生体情報に基づき、上記第二演奏者に刺激を呈示する呈示部と、
上記楽音情報に基づき、上記音を再生する再生部とを含む第二合奏装置とを有する、
合奏システム。
An ensemble system for realizing an ensemble between a first player at a first point and a second player at a second point different from the first point, via a network,
A biological signal acquisition unit that acquires biological information corresponding to a biological signal generated due to the first player intending to make a movement that generates a rhythmic sound;
A first ensemble apparatus comprising: a transmitter that transmits the biological information to the second point via the network, and then transmits musical sound information corresponding to the sound generated by the movement of the biological signal;
A receiver that receives the biological information and then receives the musical sound information;
Based on the biological information, a presentation unit that presents a stimulus to the second player,
A second ensemble apparatus including a reproduction unit for reproducing the sound based on the musical sound information;
Ensemble system.
請求項5の合奏システムであって、
上記再生部が上記楽音情報に対応する音を再生するよりも早く、上記呈示部は上記生体情報に対応する視覚的刺激、触覚的刺激または上記楽音情報に対応する音とは異なる聴覚的刺激の少なくとも何れかを、上記リズムに合わせて上記第二演奏者に呈示する、
合奏システム。
The ensemble system according to claim 5,
The presenting unit has a visual stimulus, a tactile stimulus corresponding to the biological information, or an auditory stimulus different from the sound corresponding to the musical sound information earlier than the reproducing unit reproduces the sound corresponding to the musical sound information. Present at least one of them to the second player according to the rhythm,
Ensemble system.
請求項5の合奏システムであって、
上記再生部が上記楽音情報に対応する音を再生するよりも早く、上記呈示部は上記生体情報に対応する機能的電気刺激を、上記リズムに合わせて上記第二演奏者に呈示する、
合奏システム。
The ensemble system according to claim 5,
The presenting unit presents a functional electrical stimulus corresponding to the biological information to the second player in accordance with the rhythm earlier than the reproducing unit reproduces a sound corresponding to the musical sound information.
Ensemble system.
ネットワークを介して、第一地点にいる第一演奏者と、上記第一地点とは異なる第二地点にいる第二演奏者との合奏を実現する合奏方法であって、
生体信号取得部が、上記第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得ステップと、
送信部が、上記ネットワークを介して上記第二地点に、上記生体情報を送信する第一送信ステップと、
音取得部が、上記生体信号による動きにより発生した音に対応する楽音情報を取得する音取得ステップと、
送信部が、上記ネットワークを介して上記第二地点に、上記楽音情報を送信する第二送信ステップと、を含み、
上記第二地点では、上記楽音情報に対応する音が再生されるよりも早く、上記生体情報に対応する刺激が上記第二演奏者に呈示される、
合奏方法。
An ensemble method for realizing an ensemble between a first performer at a first point and a second performer at a second point different from the first point via a network,
A biological signal acquisition step in which the biological signal acquisition unit acquires biological information corresponding to the biological signal generated due to the intention of the first player to make a movement that generates a rhythmic sound;
A transmission unit that transmits the biological information to the second point via the network;
A sound acquisition step in which the sound acquisition unit acquires musical sound information corresponding to the sound generated by the movement of the biological signal;
A transmission unit including a second transmission step of transmitting the musical sound information to the second point via the network;
At the second point, a stimulus corresponding to the biological information is presented to the second player earlier than the sound corresponding to the musical sound information is reproduced.
Ensemble method.
第一地点に配置された第一合奏装置と、上記第一地点とは異なる第二地点に配置された第二合奏装置を用いて、ネットワークを介して、上記第一地点にいる第一演奏者と、上記第二地点にいる第二演奏者との合奏を実現する合奏方法であって、
上記第一合奏装置が、上記第一演奏者がリズムを刻む音を発生する動きをすることを意図したことに起因して発生する生体信号に対応する生体情報を取得する生体信号取得ステップと、
上記第一合奏装置が、上記ネットワークを介して上記第二地点に、上記生体情報を送信する第一送信ステップと、
上記第二合奏装置が、上記生体情報を受信する第一受信ステップと、
上記第二合奏装置が、上記生体情報に基づき、上記第二演奏者に刺激を呈示する呈示ステップと、
上記第一合奏装置が、上記生体信号による動きにより発生した音に対応する楽音情報を取得する音取得ステップと、
上記第一合奏装置が、上記ネットワークを介して上記第二地点に、上記楽音情報を送信する第二送信ステップと、
上記第二合奏装置が、上記楽音情報を受信する第二受信ステップと、
上記第二合奏装置が、上記楽音情報に基づき、上記音を再生する再生ステップとを含む、
合奏方法。
A first performer at the first point via a network using a first ensemble device located at the first point and a second ensemble device located at a second point different from the first point. And an ensemble method for realizing an ensemble with the second performer at the second point,
A biosignal acquisition step for acquiring biometric information corresponding to a biosignal generated by the first ensemble device intended to make a movement of the first performer to generate a rhythmic sound; and
A first transmission step in which the first ensemble apparatus transmits the biological information to the second point via the network;
A first receiving step in which the second ensemble apparatus receives the biological information;
The second ensemble device presenting a stimulus to the second player based on the biological information;
A sound acquisition step in which the first ensemble apparatus acquires musical sound information corresponding to a sound generated by the movement of the biological signal;
A second transmission step in which the first ensemble apparatus transmits the musical tone information to the second point via the network;
A second receiving step in which the second ensemble apparatus receives the musical tone information;
The second ensemble apparatus includes a reproduction step of reproducing the sound based on the musical sound information;
Ensemble method.
請求項1〜請求項4の何れかの合奏装置としてコンピュータを機能させるためのプログラム。   The program for functioning a computer as an ensemble apparatus in any one of Claims 1-4.
JP2015080591A 2015-04-10 2015-04-10 Ensemble device, ensemble system, method and program thereof Active JP6305958B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015080591A JP6305958B2 (en) 2015-04-10 2015-04-10 Ensemble device, ensemble system, method and program thereof

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015080591A JP6305958B2 (en) 2015-04-10 2015-04-10 Ensemble device, ensemble system, method and program thereof

Publications (2)

Publication Number Publication Date
JP2016200712A true JP2016200712A (en) 2016-12-01
JP6305958B2 JP6305958B2 (en) 2018-04-04

Family

ID=57422968

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015080591A Active JP6305958B2 (en) 2015-04-10 2015-04-10 Ensemble device, ensemble system, method and program thereof

Country Status (1)

Country Link
JP (1) JP6305958B2 (en)

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001054507A (en) * 1999-08-17 2001-02-27 Sony Corp Motion capture device using myoelectric information, its controlling method, electric stimulator using this, force tactile presenting device and controlling method of these
JP2001195059A (en) * 2000-01-11 2001-07-19 Yamaha Corp Musical performance interface
JP2004219914A (en) * 2003-01-17 2004-08-05 Sony Corp Method and device for information transmission, method and device for information recording, method and device for information reproduction, and recording medium
JP2006195386A (en) * 2005-01-17 2006-07-27 Yamaha Corp Session terminal
JP2014048504A (en) * 2012-08-31 2014-03-17 Casio Comput Co Ltd Session device, method, and program

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001054507A (en) * 1999-08-17 2001-02-27 Sony Corp Motion capture device using myoelectric information, its controlling method, electric stimulator using this, force tactile presenting device and controlling method of these
JP2001195059A (en) * 2000-01-11 2001-07-19 Yamaha Corp Musical performance interface
JP2004219914A (en) * 2003-01-17 2004-08-05 Sony Corp Method and device for information transmission, method and device for information recording, method and device for information reproduction, and recording medium
JP2006195386A (en) * 2005-01-17 2006-07-27 Yamaha Corp Session terminal
JP2014048504A (en) * 2012-08-31 2014-03-17 Casio Comput Co Ltd Session device, method, and program

Also Published As

Publication number Publication date
JP6305958B2 (en) 2018-04-04

Similar Documents

Publication Publication Date Title
US9602388B2 (en) Session terminal apparatus and network session system
JP6467887B2 (en) Information providing apparatus and information providing method
JP5257966B2 (en) Music reproduction control system, music performance program, and performance data synchronous reproduction method
KR102546398B1 (en) Methods and systems for performing and recording live internet music near live with no latency
US20110252951A1 (en) Real time control of midi parameters for live performance of midi sequences
JP6457326B2 (en) Karaoke system that supports transmission delay of singing voice
WO2016027366A1 (en) Vibration signal generation apparatus and vibration signal generation method
JP4612541B2 (en) Ensemble method in remote place and electronic musical instrument and program used therefor
Cáceres et al. Playing the network: the use of time delays as musical devices
JP7456019B2 (en) Method and system for performing and recording live music using audio waveform samples
JP4259329B2 (en) Performance device and ensemble system
Tom et al. Haptic Tutor-A haptics-based music education tool for beginners
JP4700351B2 (en) Multi-user environment control
Carôt et al. Towards a comprehensive cognitive analysis of delay-influenced rhythmical interaction
JP6305958B2 (en) Ensemble device, ensemble system, method and program thereof
CN112119456B (en) Arbitrary signal insertion method and arbitrary signal insertion system
JP4422656B2 (en) Remote multi-point concert system using network
KR102294752B1 (en) Remote sound sync system and method
JP2008304821A (en) Musical piece concert release system
JP2014153515A (en) Musical performance recording system
Greeff The influence of perception latency on the quality of musical performance during a simulated delay scenario
US20180005616A1 (en) Bi-directional music synchronization using haptic devices
Ratnaningsih et al. The Analyze of Android's microphone audio streaming BeatME
Ogborn et al. very long cat: zero-latency network music with live coding
JP5109127B2 (en) Ensemble system

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170425

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180209

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180306

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180307

R150 Certificate of patent or registration of utility model

Ref document number: 6305958

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150