JP2017173644A - Musical performance analyzing device and program - Google Patents
Musical performance analyzing device and program Download PDFInfo
- Publication number
- JP2017173644A JP2017173644A JP2016060921A JP2016060921A JP2017173644A JP 2017173644 A JP2017173644 A JP 2017173644A JP 2016060921 A JP2016060921 A JP 2016060921A JP 2016060921 A JP2016060921 A JP 2016060921A JP 2017173644 A JP2017173644 A JP 2017173644A
- Authority
- JP
- Japan
- Prior art keywords
- bow
- acoustic signal
- bowing
- performance
- operation timing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Abstract
Description
この発明は、バイオリン、ヴィオラ、チェロ、コントラバス等の擦弦楽器の演奏音を含む音響信号から該擦弦楽器の演奏における運弓状態を分析する演奏分析装置に関し、更には、そのためのコンピュータ実行可能なプログラムに関する。 The present invention relates to a performance analysis apparatus for analyzing a bowing state in a performance of a bowed instrument from an acoustic signal including a performance sound of the bowed instrument such as a violin, viola, cello, and contrabass. Regarding the program.
バイオリン等の擦弦楽器の演奏においては、運弓順(アップ/ダウン)を正確に行うことが要求される。例えば、バイオリン演奏教習においては、運弓順が正確に行われたか否か評価することは1つの重要なファクタとなっている。そのような運弓評価は、例えば演奏者が実施する演奏操作を可視的に確認することで行い得るが、人間による直接的視認によらずに、自動的に行えるようにすることが好ましい。よって、本発明は、擦弦楽器の演奏音の音響信号から該擦弦楽器の演奏における運弓状態を直接的に分析し得る技術を提供することを意図している。 In the performance of a bowed instrument such as a violin, it is required to perform the bowing order (up / down) accurately. For example, in a violin performance lesson, it is an important factor to evaluate whether or not the bowing order is correctly performed. Such bowing evaluation can be performed, for example, by visually confirming a performance operation performed by the performer, but it is preferable that it can be automatically performed without direct visual recognition by a human. Therefore, the present invention intends to provide a technique capable of directly analyzing the bowing state in the performance of the bowed instrument from the acoustic signal of the performance sound of the bowed instrument.
ところで、バイオリン等の擦弦楽器の運弓に関連する技術は種々知られている。例えば、下記特許文献1においては、バイオリンのリアルタイム演奏に応じて、奏者により操作された弓のストローク速度、圧力、発音点(弓が接触する弦上の位置)をセンサを用いて検出し、検出結果を示す電気信号を生成することが示されている。しかし、これは演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。下記特許文献2においては、MIDI規格の演奏データにおける音量値(ベロシティ値)から弓の移動速度を算出し、その値を用いて弓の折り返し位置を検出する(具体的には、算出した移動速度に基づいて弓の軌跡を算出し、この軌跡と弓の長さを示すパラメータとを比較することにより、弓の折り返し位置を検出し、この時刻を求める)ことが示されている。これは、MIDI規格の演奏データに対して運弓状態に応じた制御データを付加することを意図する技術であり、これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。また、音量値から弓の移動速度を算出することに基づき弓の折り返し位置を検出するので、弓の折り返しを素早く検出することには適していない。 By the way, various techniques related to bowing of a bowed instrument such as a violin are known. For example, in Patent Document 1 below, in response to a real-time performance of a violin, the stroke speed, pressure, and pronunciation point (position on the string where the bow contacts) detected by the player are detected using a sensor. It has been shown to produce an electrical signal indicative of the result. However, this cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound. In the following Patent Document 2, a bow moving speed is calculated from a volume value (velocity value) in MIDI standard performance data, and a bow return position is detected using the calculated value (specifically, the calculated moving speed). The bow trajectory is calculated on the basis of this, and the trajectory is compared with a parameter indicating the length of the bow, thereby detecting the folding position of the bow and obtaining this time). This is a technique intended to add control data corresponding to the bowing state to the performance data of the MIDI standard, and this is also not capable of analyzing the bowing state of a bowed instrument from the acoustic signal of the performance sound. Absent. Further, since the bow folding position is detected based on calculating the moving speed of the bow from the volume value, it is not suitable for quickly detecting the bow folding.
更に、下記特許文献3においては、電子譜面データの音符番号に対して、運弓パターンの抽出においてボウイング(運弓)が変わらないようにするための運弓ポイントである固定ポイントを入力し、固定ポイントに従って、運弓パターンを決定して運弓パターンとして抽出し、該抽出された運弓パターンを付した運弓譜を出力することが示されている。しかし、これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。また、下記特許文献4においては、ギターのような撥弦楽器の演奏音をマイクロホンで電気信号に変換し、該演奏音の電気信号と予め定められた評価基準を比較することにより、複数本の弦を1ストローク掻き鳴らすストローク演奏が行われたことを検出し評価することが示されている。これも、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。 Furthermore, in Patent Document 3 below, a fixed point which is a bowing point for preventing bowing (bowing) from being changed in the extraction of the bowing pattern is input and fixed to the note number of the electronic musical score data. It is shown that a bowing pattern is determined according to the points, extracted as a bowing pattern, and a bowing score with the extracted bowing pattern is output. However, this also cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound. In Patent Document 4 below, a performance sound of a plucked string instrument such as a guitar is converted into an electrical signal by a microphone, and a plurality of strings are compared by comparing the electrical signal of the performance sound with a predetermined evaluation standard. It is shown to detect and evaluate that a stroke performance that makes a stroke of 1 is performed. This also cannot analyze the bowing state of the bowed instrument from the acoustic signal of the performance sound.
下記特許文献5においては、弓等の可動演奏部材を用いて演奏を行なう擦弦楽器をシミュレートするのに適した電子楽器の楽音制御装置が示されており、弦相当部材と弓とを摩擦させることによりリアルタイムに発生する摩擦音をフィルタ処理することにより弓圧および弓速の楽音制御信号を生成し、擦弦楽器シミュレート音を該楽音制御信号によって制御するようにしている。これは、サイレントバイオリンのように擦弦楽器音をシミュレートするための技術であり、演奏音の音響信号から擦弦楽器の運弓状態を分析できるものではない。
In the following
この発明は、上述の点に鑑みてなされたもので、擦弦楽器の音響信号から該擦弦楽器の演奏における運弓状態を分析する演奏分析装置及びプログラムを提供しようとするものであり、特に、弓の返し操作を効率的に検出できるようにすることを目的とする。 The present invention has been made in view of the above-described points, and it is an object of the present invention to provide a performance analysis apparatus and program for analyzing a bowing state in the performance of a bowed instrument from the acoustic signal of the bowed instrument. The purpose is to enable efficient detection of the return operation.
この発明に係る演奏分析装置は、音響信号を取得する取得部と、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出する抽出部と、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出する検出部とを備える。 The performance analysis apparatus according to the present invention includes an acquisition unit that acquires an acoustic signal, an extraction unit that extracts a signal component outside the range of the target bowed instrument from the acoustic signal, and a bow operation timing based on the level of the extracted signal component And a detecting unit for detecting.
擦弦楽器においては、弓を返す操作をしたとき、パルス性のノイズが発生する。そのようなノイズは、該擦弦楽器の音域外の成分(例えば楽器本来の音域よりも低域の成分)を含む。そこで、擦弦楽器の演奏音の音響信号から該擦弦楽器の音域外の信号成分を抽出し、この信号成分のレベルに基づき(例えば該レベルが所定閾値以上であることを判断し)、弓を返す操作をしたときのパルス性のノイズが発生したことを検出することができる。これにより、弓操作タイミング(弓の返し操作タイミング)を検出することができる。 In a bowed instrument, pulsing noise is generated when the bow is returned. Such noise includes a component outside the range of the bowed instrument (for example, a component lower than the original range of the instrument). Therefore, a signal component outside the range of the bowed instrument is extracted from the acoustic signal of the performance sound of the bowed instrument, and a bow is returned based on the level of the signal component (for example, determining that the level is equal to or higher than a predetermined threshold). It is possible to detect the occurrence of pulse noise when the operation is performed. Thereby, the bow operation timing (bow return operation timing) can be detected.
この発明は、装置の発明として実施しうるのみならず、前記演奏分析装置の機能を実現するステップを、コンピュータに実行させるプログラムの発明として、実施及び構成されてよい。 The present invention can be implemented and configured not only as an apparatus invention, but also as a program invention that causes a computer to execute the steps of realizing the functions of the performance analysis apparatus.
この発明によれば、取得した音響信号中の特定の音域成分に基づき弓操作タイミングを検出するので、複雑な処理が不要であり、弓の返し操作を効率的に検出することができる、という優れた効果を奏する。 According to the present invention, since the bow operation timing is detected based on a specific sound range component in the acquired acoustic signal, no complicated processing is required, and it is possible to efficiently detect the bow return operation. Has an effect.
図1は、一実施形態に係る演奏分析装置の構成例を説明する概念的ブロック図である。演奏分析装置100は、擦弦楽器の演奏に応じて発生された音響信号から運弓状態(弓操作タイミングつまり弓の返しのタイミングや運弓方向など)を分析するように機能し、例えば、擦弦楽器の演奏法を教習する目的あるいは擦弦楽器の演奏を評価する目的等、任意の多様な目的で利用され得る。演奏分析装置100は、大別して、取得部10と、抽出部11と、検出部12と、推定部13と、評価部14と、音域設定部15と、表示部16を含む。演奏分析装置100は、例えば汎用のパーソナルコンピュータなど、各部の動作(後述するオーディオ信号を分析する各種処理)を実行可能な何らかのコンピュータ装置により構成されてよく、あるいは、各部の動作を実行可能なように構成された専用ハードウェア装置(集積回路等)からなっていてもよい。
FIG. 1 is a conceptual block diagram illustrating a configuration example of a performance analysis apparatus according to an embodiment. The
取得部10は、分析対象として、擦弦楽器の演奏に応じて発生された音響信号ASを取得する。取得部10は、例えばマイク等の収音手段を介して、ユーザの楽器演奏音をリアルタイムに取得しデジタル変換することにより、音響信号ASを取得するように構成されていてもよいし、あるいは、ユーザの楽器演奏音のデータを記録した記録媒体から該記録されたデータを取得する、あるいは、通信ネットワークを介して遠隔地から音響信号ASを取得するように構成されてもよい。その場合、外部から取得する音響信号ASの符号化形式はPCM形式に限らず、適宜の圧縮形式でデータ圧縮されたものであってもよく、取得部10は必要に応じて音響圧縮データの復号化機能を有するものであってよい。なお、取得した音響信号ASはFIFOあるいはRAM等において適宜バッファ記憶され、その音量エンベロープが時系列的に検出され、後述する運弓推定処理で利用するために一時保存される。図2(a)は、取得部10によって取得した音響信号ASの一例を音量エンベロープによって示す。
The
抽出部11は、前記取得した音響信号から、分析対象とする擦弦楽器の音域外の信号成分を抽出する。このように擦弦楽器の音域外の信号成分を抽出する理由は、弓操作によって生じる弦の振動に基づく正規の演奏音の信号成分(つまり、対象擦弦楽器の音域内の信号成分)を除外し、弓の返し操作時の摩擦ノイズを抽出することを意図している。例えば、分析対象擦弦楽器がバイオリンであるとすると、バイオリンの音域は音名G3〜D#7の範囲であるから、倍音成分も含めてその音域の周波数成分を含む帯域以外の任意の帯域に属する信号成分を抽出する。なお、一般に弦楽器音にはかなり高域まで倍音成分が含まれるので、対象擦弦楽器の音域外の信号成分として、低域側の信号成分を抽出するのがよい。一例として、抽出部11は、分析対象擦弦楽器がバイオリンの場合、例えば10Hz〜100Hz程度の帯域の低域バンドパスフィルタ(あるいは100Hz程度を高域カットオフ周波数とするローパスフィルタ)により、低域の信号成分を抽出するようにしてよい。勿論、この低域バンドパスフィルタ(ローパスフィルタ)が抽出する低周波数帯域は、対象擦弦楽器の音域に応じて可変設定される。例えば、分析対象擦弦楽器がヴィオラの場合、抽出部11における低域バンドパスフィルタ(ローパスフィルタ)の通過帯域は、バイオリンの場合よりも低い高域カットオフ周波数より低域側の信号成分を抽出するように設定される。また、分析対象擦弦楽器がチェロあるいはコントラバスの場合、それぞれに応じた更に低い高域カットオフ周波数が設定され、それぞれの高域カットオフ周波数より低域側の信号成分を抽出するように設定される。
The
図2(b)は、(a)の音響信号に対応して抽出部11によって抽出された対象擦弦楽器音域外の低域ノイズ信号の一例を示す。低域ノイズ信号がスパイク状に高レベルを示す箇所が、弓の返し操作時に顕著な摩擦ノイズが生じた箇所を示している。検出部12は、前記抽出した楽器音域外の信号成分(低域ノイズ信号)のレベルに基づき、該レベルが所定閾値を超えた時点を、弓の返し操作が行われたタイミング(弓操作タイミング)t1,t2,t3,・・・として検出する。このようにして音響信号から検出した弓操作タイミングt1,t2,t3,・・・を示す弓操作タイミング検出情報BDは、様々な用途で利用され得る。例えば、次に述べるように、運弓方向を推定するために推定部13において利用される。あるいは、音響信号ASに含まれる個々の演奏音(音符)の立ち上がりを示す信号として、その他の利用装置17において適宜利用され得る。
FIG. 2B shows an example of the low-frequency noise signal outside the target bowed instrument musical range extracted by the
推定部13は、検出部12によって検出した弓操作タイミングを示す弓操作タイミング検出情報BDに基づき運弓方向を推定する。擦弦楽器の標準的な運弓は、上げ弓操作と下げ弓操作を交互に行うことからなるため、少なくとも適宜の部分的演奏区間に関して、最初の運弓方向が特定されれば、以後は弓操作タイミング毎に運弓方向が切り換わると推定することによって、弓操作タイミング検出情報BDのみに基づき運弓方向を推定することができる。
The
より確度の高い運弓方向の推定手法は、演奏音の音響信号ASの音量を考慮に入れることである。同程度の力で操作したとき、上げ弓による音よりも下げ弓による音の方が大きな音量が得られることが知られているので、一実施例において、推定部13は、隣接する弓操作タイミングで挟まれた各区間における音響信号ASの音量の相互関係(すなわち隣接する区間の音量の相互関係)に基づき、前記検出された各弓操作タイミングにおける運弓方向を推定するように構成してよい。より具体的には、検出部12によって検出した或る弓操作タイミング(仮にこれを第1の弓操作タイミングという;例えば図2(b)におけるt2)を始点とする区間(仮にこれを第1区間という)における音響信号ASの音量が、その直前の弓操作タイミング(仮にこれを第2の弓操作タイミングという;例えば図2(b)におけるt1)を始点とする区間(仮にこれを第2区間という)における音響信号ASの音量よりも大きく、かつその音量差が所定の第1閾値より大きい場合第1運弓方向(下げ弓)と推定し、前記第1の弓操作タイミングにおける音響信号ASの音量が前記第2の弓操作タイミング音響信号ASの音量よりも小さく、かつその音量差が所定の第2閾値より小さい場合第2運弓方向(上げ弓)と推定するように構成してよい。
A more accurate method for estimating the bowing direction is to take into account the volume of the acoustic signal AS of the performance sound. Since it is known that the sound of the lower bow sound is larger than that of the raised bow when operated with the same level of force, in one embodiment, the
図2においては、弓操作タイミング検出情報BDが示す弓操作タイミングt1,t2,t3,・・・と音響信号ASの音量との組み合わせによって推定される運弓方向の一例を符号UとDによって示している。Dは下げ弓、Uは上げ弓を示す。例えば、検出された或る弓操作タイミングt2を始点とする区間における音響信号AS2の音量は、その直前の弓操作タイミングt1を始点とする区間における音響信号AS1の音量よりも所定の第2閾値より小さいので、運弓方向は上げ弓Uと推定される。逆に、或る弓操作タイミングt1を始点とする区間における音響信号AS1の音量は、その直後の弓操作タイミングt2を始点とする区間における音響信号AS2の音量よりも所定の第1閾値より大きいので、運弓方向は下げ弓Dと推定することが可能である。以下、同様に、或る弓操作タイミングt3を始点とする区間における音響信号AS3の音量は、その直前の弓操作タイミングt2を始点とする区間における音響信号AS2の音量よりも所定の第1閾値より大きいので、運弓方向は下げ弓Dと推定される。なお、音量の大小は、それぞれの音量エンベロープの最大値を比較することによって判定できるし、あるいは最大値の代わりに平均値で判定してもよい。なお、これらの閾値は適宜に定めてよい。 In FIG. 2, an example of the bowing direction estimated by the combination of the bow operation timings t1, t2, t3,. ing. D indicates a lowering bow, and U indicates a raising bow. For example, the volume of the sound signal AS 2 in the section that starts a certain arch operation timing t2 that has been detected, a second predetermined than the volume of the sound signal AS 1 in a section that starts the bow operation timing t1 immediately before Since it is smaller than the threshold value, the bowing direction is estimated to be the raising bow U. Conversely, the volume of the acoustic signal AS 1 in a section starting from a certain bow operation timing t1 is more than a predetermined first threshold value than the volume of the acoustic signal AS 2 in a section starting from the immediately following bow operation timing t2. Since it is large, the bowing direction can be estimated as the down bow D. Hereinafter, similarly, the volume of the acoustic signal AS 3 in a section starting from a certain bow operation timing t3 is a predetermined first volume higher than the volume of the acoustic signal AS 2 in a section starting from the immediately preceding bow operation timing t2. Since it is larger than the threshold value, the bowing direction is estimated to be the lowering bow D. Note that the magnitude of the volume can be determined by comparing the maximum values of the respective volume envelopes, or may be determined by an average value instead of the maximum value. These threshold values may be determined as appropriate.
なお、推定部13は、1音毎の弓の上げ下げを推定することに限らず、1音中のトレモロ演奏における弓の交互の上げ下げを推定するように構成してもよいし、あるいはスラー演奏における同一方向への弓の返し操作の繰り返しを推定するように構成してもよい。その場合、トレモロあるいはスラー等の推定対象奏法に応じて、たとえば前記第1閾値及び/又は第2閾値の値をそれぞれ適切に設定するものとする。
Note that the estimating
表示部14は、推定部13によって推定された運弓方向を示す情報を可視的に提示する装置である。推定された運弓方向を可視的に提示する場合、任意の表示形態を採用してよい。例えば、運弓方向を示す適宜のアイコン(例えばUとD)を時系列順に単純に並べて表示してもよいし、あるいは、取得した音響信号ASが演奏している楽曲の楽譜表示上の各音符に対応づけて、推定された運弓方向を示すアイコンを表示してもよい。この表示はディスプレイ表示に限らず、プリンタによる印刷出力であってもよい。なお、推定された運弓方向を示す情報の提示は可視的手法に限らず、報知音等により可聴的に提示するようにしてもよい。また、推定された運弓方向を示す情報を記録媒体に記録しておき、後に記録媒体から読み出して可視的又は可聴的に提示するようにしてもよい。このように、推定された運弓方向を示す情報を可視的又は可聴的に提示することは、例えば擦弦楽器の教習の場において生徒が演奏した音響信号ASに基づきその運弓が適切であるか教師が評価するような場合に役立つのは勿論のこと、生徒又は演奏者自身が自分の運弓が適切であったかどうかを確認するためにも役立つ。
The
評価部15は、取得した音響信号ASが演奏している楽曲に関する模範の運弓方向を示す情報と前記推定部13によって推定された運弓方向を示す情報とを比較することにより、前記取得した音響信号ASにおける運弓を評価するように構成されている。この評価結果は表示部14を介してユーザ(教師、生徒又は演奏者等)に対して提示し得る。評価結果の表示形態としては、任意のものを採用しうる。例えば、取得した音響信号ASが演奏している楽曲の楽譜をディスプレイ画面に表示して、楽譜上の各音符に対応して評価結果を示すアイコン(正しい運弓であったことを示すアイコンと、間違った運弓であったことを示すアイコンなど)を表示するようにしてよい。あるいは、評価結果に基づき運弓を採点したスコアを提示するようにしてもよい。また、評価部15による評価結果は、ユーザ(生徒又は演奏者)毎に記録媒体内に蓄積記憶するようにしてよい。個々のユーザ(生徒又は演奏者)毎に評価結果を蓄積記憶することにより、生徒又は演奏者個人毎の運弓の癖や運弓を間違えやすい楽譜上の箇所などを統計的に解明することができ、また、生徒又は演奏者集合の全体に関して運弓を間違えやすい楽譜上の箇所又は間違えにくい楽譜上の箇所などを統計的に解明することができる。
The
なお、そのような運弓の評価のために、評価部15は楽曲データベース20を利用し得る。楽曲データベース20には多数の楽曲の楽譜データが蓄積記憶されている。評価部15は、楽曲データベース20にアクセスして、前記取得した音響信号ASが演奏している楽曲の楽譜データを取得し、該取得した楽譜データに基づき当該楽曲に関する模範の運弓方向を示す情報を得る。楽曲データベース20に記憶された楽譜データ中に運弓方向を示す情報(運弓情報)が含まれていれば、それをそのまま、前記模範の運弓方向を示す情報として利用すればよい。楽曲データベース20に記憶された楽譜データ中に運弓情報が含まれていない場合は、通常の運弓ルール(例えば、下げ弓と上げ弓を交互に行う、音の切れ目では弓を返す、小節線直後の音は基本的に下げ弓で弾く、同じ音符内およびスラーやタイの場合は弓を返さない、等)に基づいて、当該楽曲中の各音符に対応づけてデフォルトの運弓情報を自動的に生成し、それを前記模範の運弓方向を示す情報として利用すればよい。なお、運弓情報を含む楽譜データであっても、楽譜中のすべての音符に対して運弓情報を提示することなく、主要な音符(格別に運弓方向を特定したい音符)に対してのみ運弓情報を提示するものが多い。そのような場合においては、楽譜中のすべての音符に対して運弓情報を明示するために、運弓情報が不足している音符について前記デフォルトの運弓情報を自動的に生成するのがよい。すなわち、楽譜データにおいて特定の運弓情報が明示されている音符については該運弓情報を採用し、それ以外の音符については上記通常の運弓ルールに従いデフォルトの運弓情報を自動的に生成し、これらの組合せによって当該楽曲に関する前記模範の運弓方向を示す情報とする。
Note that the
なお、自動的に生成したデフォルトの運弓情報(模範の運弓方向を示す情報)は、当該ユーザ専用のメモリ内に保存するようにしてよく、あるいは、当該ユーザが楽曲データベース20の書き換え(更新)をオーソライズされているのであれば該楽曲データベース20内に保存してもよい。また、複数のユーザ間で各自が作成したデフォルトの運弓情報を共有できるようにしたり、書き換えできるようにしてもよく、例えばクラウド上でそのような共有の運弓情報を保存し管理するようにしてもよい。
The automatically generated default bowing information (information indicating the model bowing direction) may be stored in a memory dedicated to the user, or the user may rewrite (update) the music database 20. ) May be stored in the
音域設定部16は、前記取得部10が取得する前記音響信号ASに関して、対象擦弦楽器の種類を識別し、該識別した楽器種類に従い前記抽出部11で抽出すべき前記信号成分の音域を設定するように構成されている。この音域設定部16における対象擦弦楽器種類の識別は、ユーザによる対象擦弦楽器の種類入力操作(選択操作)に応じて行うようになっていてもよいし、あるいは、取得部10で取得した音響信号ASの音色及び音域等を分析することに基づき自動的に対象擦弦楽器の種類を識別するようになっていてもよい。抽出部11において、前記低域バンドパスフィルタ(ローパスフィルタ)の通過帯域が、音域設定部16による設定に従い、対象擦弦楽器の最低音よりも低い所定帯域に可変設定される。
The sound
図3は、図1の演奏分析装置100のハードウェアとしてコンピュータを使用する場合の電気的構成例を示すブロック図である。演奏分析装置100は、マイクロプロセッサユニット(CPU)101、メモリ102、操作装置103、表示装置104、オーディオインタフェース(「オーディオI/F」)105、及び通信インタフェース(「通信I/F」)106等を含む。CPU101は、メモリ102に記憶された各種のプログラムを実行して、演奏分析装置100の全体動作を制御する。メモリ102は、ROM、RAM及び外部記憶装置を含む。外部記憶装置は、例えば磁気ディスクや光学ディスク、フラッシュメモリなど適宜の記録媒体からなる。
FIG. 3 is a block diagram showing an example of an electrical configuration when a computer is used as hardware of the
操作装置103は、例えばマウス、キーボード等の操作入力装置と、該操作入力を検出する機構を含む。表示装置104は、ディスプレイと、該ディスプレイの表示を制御する機構を含む。
The
オーディオI/F105は、音響信号(オーディオ信号)の入力端子、音響信号の出力端子、アナログ‐デジタル変換器、デジタル‐アナログ変換器を含む。演奏分析装置100は、図示しないマイクロホン及びオーディオI/F105を介して、ユーザ(生徒又は演奏者)の擦弦楽器のリアルタイム演奏により発生した音響信号ASを取得できる。その場合、マイクロホン及びオーディオI/F105は前記取得部10を構成する。
The audio I /
通信I/F106は、イーサネット(登録商標)インタフェース、USBインタフェース(着脱式記憶媒体インタフェース)等を含む。演奏分析装置100は、該通信I/F106を介して、例えばインターネット等の通信ネットワークに接続し、遠隔地と通信し得る。演奏分析装置100は、該通信I/F106を介して、遠隔地のユーザ(生徒又は演奏者)の楽器のリアルタイム演奏により発生した音響信号ASあるいは既に記録済の音響信号ASを取得できる。その場合、通信I/F106は前記取得部10を構成する。
The communication I /
図4は、メモリ102に非一過的に記憶されCPU101によって実行可能なソフトウェアプログラムからなる運弓方向推定処理の一例を略示するフローチャートである。
FIG. 4 is a flowchart schematically showing an example of the bow direction estimation process including a software program that is non-transitoryly stored in the
ステップS1において、CPU101は、分析対象である音響信号ASを取得する(図1の取得部10の動作)。一例として、CPU101は、発生した音響信号を、オーディオI/F104を介して略リアルタイムで取得し、バッファ記憶する。
In step S1, the
ステップS2において、CPU101は、バッファ記憶した音響信号ASから所定時間長の音響信号を処理対象として時系列順に選択する。
In step S <b> 2, the
ステップS3において、CPU101は、処理対象として選択した所定時間長の音響信号から対象擦弦楽器の音域外の信号成分(低域ノイズ信号成分)を抽出する。これは図1の抽出部11の動作に相当し、前述のように、音響信号に低域バンドパスフィルタ(ローパスフィルタ)をかけることからなる。
In step S <b> 3, the
ステップS4において、CPU101は、前記抽出したノイズ信号成分から所定閾値以上のレベルを持つパルスを検出し、このタイミングを弓操作タイミングとして検出し、検出した弓操作タイミングを示す情報(弓操作タイミング検出情報BD)を記憶する。これは図1の検出部12の動作に相当する。
In step S4, the
ステップS5において、CPU101は、処理対象として選択した前記所定時間長の音響信号を、前記検出した弓操作タイミングで複数の区間に区切る。そして、ステップS6において、CPU101は、前記検出した弓操作タイミングで区切った各区間毎に、直前の区間とその音量を比較し、直前の区間よりも音量が上がっていれば(音量差が前記所定の第1閾値より大きければ)下げ弓(D)と推定し、直前の区間よりも音量が下がっていれば(音量差が前記所定の第2閾値より小さければ)上げ弓(U)と推定し、その推定結果を運弓方向を示す情報(運弓推定情報U/D)として、前記弓操作タイミング検出情報BDと関連づけて、記憶する。これは図1の推定部13の動作に相当する。
In step S5, the
ステップS7において、CPU101は、処理対象として選択した前記所定時間長の音響信号に関する全区間について前記ステップS6の推定を終了したかを判定し、NOであれば前記ステップS6の処理を繰り返す。全区間について前記ステップS6の推定を終了したならば、ステップS8に行き、前記取得した音響信号ASのすべてに関して処理が終了したかを判定する。NOであれば、前記ステップS2に戻る。ステップS2では、未処理の音響信号ASのうち最も前の所定時間長の音響信号を処理対象として選択する。以下、処理対象として新たに選択された所定時間長の音響信号に関して、前記ステップS3〜S8の処理が繰り返される。前記取得した音響信号ASのすべてに関して処理が終了したならば、図4の処理を終了する。
In step S7, the
図5は、メモリ102に非一過的に記憶されCPU101によって実行可能なソフトウェアプログラムからなる評価及び表示処理の一例を略示するフローチャートである。この評価及び表示処理は、図4の処理と同時並行的に行われてもよいし、あるいは別の時に行われてもよい。なお、図5に示した評価及び表示処理は、図1の表示部14及び評価部15の動作に相当する。
FIG. 5 is a flowchart schematically showing an example of an evaluation and display process including a software program that is temporarily stored in the
ステップS11において、CPU101は、前記取得した音響信号ASが演奏している楽曲の楽譜データを取得し(例えば、図1の前記楽曲データベース20から取得する)、該楽譜データに基づき表示装置104の画面上に楽譜を表示する。参考のために、表示される楽譜の一例を図6(a)において部分的に示す。
In step S11, the
ステップS12において、CPU101は、前記取得した楽譜データ中に運弓情報が含まれているかを判定する。運弓情報が含まれていなければ、あるいは一部しか含まれていない場合は、ステップS13に進み、前述したように、通常の運弓ルール(例えば、下げ弓と上げ弓を交互に行う、音の切れ目では弓を返す、小節線直後の音は基本的に下げ弓で弾く、同じ音符内およびスラーやタイの場合は弓を返さない、等)に基づいて、当該楽曲中の各音符に対応づけて運弓情報を自動的に生成し、記憶する。例えば、図6(a)では、符号B1で示す音符箇所に上げ弓を指示する運弓記号が記され、符号B2,B3で示す音符箇所に下げ弓を指示する運弓記号が記されている。ステップS13では、それ以外の音符箇所に関して、通常の運弓ルールに従って模範の運弓情報を生成する。図6(a)に対応して生成される模範の運弓情報の一例を図6(d)に示す。なお、図6(d)においては、公知の音楽記号を用いて上げ弓と下げ弓を示している。
In step S12, the
ステップS14において、CPU101は、前記図4の処理において生成(記憶)した前記弓操作タイミング検出情報BDと運弓推定情報U/Dを取得する。
In step S14, the
ステップS15において、CPU101は、前記取得した弓操作タイミング検出情報BDに基づき、検出した弓操作タイミングを示す適宜のアイコンを表示装置104の画面上に表示し、また、前記取得した運弓推定情報U/Dに基づき、推定した運弓方向を示す適宜のアイコンを表示装置104の画面上に表示する。図6(b)は、検出した弓操作タイミングのアイコン表示例を示しており、この例ではパルス図形で表示される。また、図6(c)は、推定した運弓方向を示すアイコン表示例(つまり、音響信号ASにおける運弓状態)を示しており、この例では上げ弓を示す「U」と下げ弓を示す「D」という文字からなるアイコンが表示される。
In step S15, the
ステップS16において、CPU101は、前記取得した弓操作タイミング検出情報BDと運弓推定情報U/Dに基づき、該情報BDが示す演奏(発音)タイミングにおける模範の運弓情報とそれに対応する運弓推定情報U/Dとを比較し、評価結果を生成し、表示し、記憶する。図6(c)においては、評価結果を示すアイコンの一例が示されている。すなわち、図6(c)に示す音響信号ASにおける運弓状態と図6(d)に示す模範の運弓情報とを比較すると、音響信号ASにおいては第2小節の2拍目と3拍目の運弓が正しくない。そこで、図6(c)では、運弓が正しくないことを示す所定のアイコンWを、運弓方向を示すアイコン(D又はU)に組み合わせて表示している。
In step S16, based on the acquired bow operation timing detection information BD and bow estimation information U / D, the
ステップS17において、CPU101は、評価及び表示処理を終了するかを判定し、NOであれば前記ステップS14に戻り、前記ステップS14〜S17の処理が繰り返される。
In step S17, the
なお、上記実施例では、音響信号から抽出する対象擦弦楽器の音域外の信号成分が低域ノイズ信号成分である場合について説明したが、これに限らず、楽器本来の音域よりも高域のノイズ信号成分を抽出するようにしてもよい。 In the above-described embodiment, the case where the signal component outside the range of the target bowed instrument extracted from the acoustic signal is a low-frequency noise signal component is not limited to this. You may make it extract a signal component.
以上、この発明の一実施形態を説明したが、この発明は上記実施形態に限定されるものではなく、特許請求の範囲、及び明細書と図面に記載された技術的思想の範囲内において種々の変形が可能である。例えば、インターネットを介して生徒の端末と教師の端末とが接続された教習システムに、この発明に係る演奏分析装置100を適用し得る。その場合、教師の端末(演奏分析装置100)は、その通信I/F106を介してインターネット上の生徒の端末から擦弦楽器演奏の練習音(音響信号AS)を取得し、該取得した練習音に基づく演奏分析(運弓方向推定及び評価)を表示する。教師は、それに基づきコメントするなど生徒に対する指導を行い得る。その場合、教師の端末(演奏分析装置100)は、複数の音響信号ASを同時的に取得し、これらを時分割処理又は並行処理によって同時的に分析し得るように構成されているとよい。あるいは、逆に、生徒の端末(演奏分析装置100)は、その通信I/F106を介してインターネット上の教師の端末から楽器演奏音(手本)を取得し、該取得した演奏音(手本)に基づく演奏分析(運弓方向推定及び評価)を表示するようにしてもよい。生徒は、表示に基づき演奏の特徴を学んだり、自己の演奏分析結果と比較したりするなどして、効果的な練習を行い得る。勿論、各生徒の端末(演奏分析装置100)も、複数の音響信号ASを同時的に取得し、これらを時分割処理又は並行処理によって同時的に分析し得るように構成されていてよい。
Although one embodiment of the present invention has been described above, the present invention is not limited to the above-described embodiment, and various modifications are possible within the scope of the technical idea described in the claims and the specification and drawings. Deformation is possible. For example, the
別の例として、複数のユーザの端末(演奏分析装置100)同士を有線又は無線で接続して互いの情報(分析結果である運弓情報を含む)を授受できるようにし、各ユーザの運弓情報が他のユーザによって確認され得るようにしてもよい。例えば、オーケストラ等で複数ユーザがそれぞれ自己の擦弦楽器を演奏しているときに自己の演奏の運弓情報を、自己の端末(演奏分析装置100)から他のユーザの端末(演奏分析装置100)に送信することにより、ユーザ間で運弓方向が異なっているような場合に適切な報知を行うことができるようにする利用の仕方が可能である。また、上記のように有線又は無線で授受される複数ユーザの運弓情報を管理者(指導者又は教師)用の装置において集中管理するように構成してもよく、これにより、運弓を間違えやすい楽譜上の箇所又は間違えにくい楽譜上の箇所や、他の特定のユーザが他のユーザに比べて演奏タイミングが早い/遅い箇所などを統計的に解明することなどが可能であり、また、そのような解明結果を練習演奏中にリアルタイムにユーザや指導者(教師)に報知することが出来るようになる、という効果が期待できる。オーケストラ等では演奏パート毎にそのパートの全奏者の運弓タイミングと運弓方向がそろっていることが大事であるから、この発明を適用することによって、そのための適切なアシストを行うことができる。 As another example, a plurality of users' terminals (performance analysis apparatus 100) are connected to each other by wire or wireless so that each other's information (including the bowing information as an analysis result) can be exchanged. The information may be confirmed by other users. For example, when a plurality of users are playing their own bowed instruments in an orchestra or the like, their own bowing information is sent from their own terminal (performance analysis apparatus 100) to another user's terminal (performance analysis apparatus 100). By transmitting to, it is possible to use it so that appropriate notification can be performed when the bowing direction is different among users. Further, as described above, bowing information of a plurality of users exchanged by wire or wireless may be centrally managed in an apparatus for an administrator (instructor or teacher), thereby making a mistake in bowing. It is possible to statistically elucidate places on the musical score that are easy or difficult to mistake, and places where other specific users have earlier / slower performance timing than other users. Such an elucidated result can be expected to be able to be notified to the user and the instructor (teacher) in real time during the practice performance. In an orchestra or the like, it is important that the bow timing and the bow direction of all players in the part are aligned for each performance part. Therefore, by applying the present invention, appropriate assist can be performed.
また、この発明の演奏分析装置100は、各部10〜16の少なくとも一部の機能をネットワーク上の1以上のコンピュータ装置で分散して行うように構成されてもよい。また、この発明は、コンピュータに、音響信号を取得するステップと、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップと、を実行させるためのプログラムの発明として構成されてもよい。また、この発明は、音響信号を取得するステップと、前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップとからなる、コンピュータ若しくはプロセッサによって実装される方法の発明として構成されてもよい。
Moreover, the
100 演奏分析装置、10 取得部、11 抽出部、12 検出部、13 推定部、14 表示部、15 評価部、16 音域設定部、101 マイクロプロセッサユニット(CPU)、102 メモリ、103 操作装置、104 表示装置、105 オーディオインタフェース、106 通信インタフェース。
DESCRIPTION OF
Claims (10)
前記音響信号から対象擦弦楽器の音域外の信号成分を抽出する抽出部と、
前記抽出した信号成分のレベルに基づき弓操作タイミングを検出する検出部と
を備える演奏分析装置。 An acquisition unit for acquiring an acoustic signal;
An extraction unit for extracting a signal component outside the range of the target stringed instrument from the acoustic signal;
A performance analysis apparatus comprising: a detection unit that detects a bow operation timing based on the level of the extracted signal component.
を更に備える請求項1に記載の演奏分析装置。 2. The performance according to claim 1, further comprising an estimation unit configured to estimate a bowing direction at each detected bow operation timing based on a mutual relationship between sound volumes of the acoustic signals in each section sandwiched between adjacent bow operation timings. Analysis equipment.
前記抽出部は、前記取得した音響信号毎に前記信号成分を抽出し、
前記検出部は、前記取得した音響信号毎に前記弓操作タイミングを検出する、請求項1乃至7のいずれかに記載の演奏分析装置。 The acquisition unit is configured to acquire a plurality of the acoustic signals by wire or wirelessly,
The extraction unit extracts the signal component for each acquired acoustic signal,
The performance analysis device according to claim 1, wherein the detection unit detects the bow operation timing for each of the acquired acoustic signals.
複数の前記演奏分析装置を有線又は無線で接続して情報を通信しうるように構成したシステム。 A plurality of performance analyzers according to any one of claims 1 to 8,
A system configured to connect a plurality of the performance analysis apparatuses by wire or wirelessly to communicate information.
音響信号を取得するステップと、
前記音響信号から対象擦弦楽器の音域外の信号成分を抽出するステップと、
前記抽出した信号成分のレベルに基づき弓操作タイミングを検出するステップと
を実行させるためのプログラム。 On the computer,
Obtaining an acoustic signal;
Extracting a signal component outside the range of the target stringed instrument from the acoustic signal;
And a step of detecting a bow operation timing based on the level of the extracted signal component.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016060921A JP6677041B2 (en) | 2016-03-24 | 2016-03-24 | Performance analyzer and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016060921A JP6677041B2 (en) | 2016-03-24 | 2016-03-24 | Performance analyzer and program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2017173644A true JP2017173644A (en) | 2017-09-28 |
JP6677041B2 JP6677041B2 (en) | 2020-04-08 |
Family
ID=59973006
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016060921A Active JP6677041B2 (en) | 2016-03-24 | 2016-03-24 | Performance analyzer and program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6677041B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020177218A (en) * | 2019-04-18 | 2020-10-29 | 和秀 上森 | Multi-channel speaker device |
-
2016
- 2016-03-24 JP JP2016060921A patent/JP6677041B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2020177218A (en) * | 2019-04-18 | 2020-10-29 | 和秀 上森 | Multi-channel speaker device |
Also Published As
Publication number | Publication date |
---|---|
JP6677041B2 (en) | 2020-04-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7189912B2 (en) | Method and apparatus for tracking musical score | |
CN111052223B (en) | Playback control method, playback control device, and recording medium | |
US10504498B2 (en) | Real-time jamming assistance for groups of musicians | |
US10360889B2 (en) | Latency enhanced note recognition method in gaming | |
US20160104469A1 (en) | Musical-performance analysis method and musical-performance analysis device | |
US9613542B2 (en) | Sound source evaluation method, performance information analysis method and recording medium used therein, and sound source evaluation apparatus using same | |
US20220383842A1 (en) | Estimation model construction method, performance analysis method, estimation model construction device, and performance analysis device | |
JP2008040259A (en) | Musical piece practice assisting device, dynamic time warping module, and program | |
CN113763913A (en) | Music score generation method, electronic device and readable storage medium | |
KR101907276B1 (en) | System for practicing musical instrument and method for supporting the practice | |
JP6677041B2 (en) | Performance analyzer and program | |
Shin et al. | Real-time recognition of guitar performance using two sensor groups for interactive lesson | |
JP5153517B2 (en) | Code name detection device and computer program for code name detection | |
CN113168824B (en) | Acoustic analysis method, acoustic analysis device, and model construction method | |
JP6838357B2 (en) | Acoustic analysis method and acoustic analyzer | |
JP2013003205A (en) | Musical score display device, musical score display program and musical score | |
JP6690446B2 (en) | Acoustic analysis device and acoustic analysis method | |
JP6862667B2 (en) | Musical score display control device and program | |
US11880507B1 (en) | Automated musical-score-referenced evaluation of haptic-based rhythmic performance | |
KR102556571B1 (en) | Apparatus for training and testing to improve cognitive and auditory function, method and program of the same | |
KR20240010344A (en) | Method and apparatus for teaching of playing musical instrument | |
JP2005241716A (en) | Device and program for model generation of musical sound decision apparatus for natural musical instrument | |
WO2019092780A1 (en) | Evaluation device and program | |
WO2024072394A1 (en) | Automated musical-score-referenced evaluation of haptic-based rhythmic performance | |
JP2017078829A (en) | Performance analysis device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190124 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200124 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200212 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200225 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6677041 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |